充分統(tǒng)計量與完備統(tǒng)計量88139PPT課件

1、1. 問題的引出 一、充分統(tǒng)計量 由于樣本來自總體，抽取出來的樣本包含有總體的信息。數(shù)理統(tǒng)計主要是利用樣本信息推斷總體的信息，如何將樣本中包含總體的信息提取出來？以及是否將樣本中包含總體的信息完全提取出來？這些都是數(shù)理統(tǒng)計需要解決的問題。22( ,),nNX S 例例如如，設(shè)設(shè)總總體體服服從從在在上上一一節(jié)節(jié)中中，用用222,nX S去去估估計計總總體體的的 和和， 能能否否將將 和和的的信信息息完完全全提提煉煉出出來來呢呢？ 第1頁/共26頁 2. 定義 定義 1.4 1922年英國統(tǒng)計學(xué)家Fisher提出了描述總體信息是否被完全提煉的概念充分統(tǒng)計量.1212,( , )(,)(nnXXXX

2、F xTT XXX 設(shè)設(shè)是是來來自自總總體體 具具有有分分布布函函數(shù)數(shù)的的一一個個樣樣本本，為為一一個個 一一維維或或多多 12),TnTtXXX維維 統(tǒng)統(tǒng)計計量量，當當給給定定時時，若若樣樣本本（）的的12(,| )nF xxxtT條條件件分分布布( (離離散散總總體體為為條條件件概概率率，連連續(xù)續(xù)總總體體為為條條件件密密度度) )與與參參數(shù)數(shù) 無無關(guān)關(guān)，則則稱稱 為為 的的充充分分統(tǒng)統(tǒng)計計量量. .第2頁/共26頁 3. 充分統(tǒng)計量的意義 如果知道了統(tǒng)計量T的觀察值以后，樣本的條件分布與無關(guān)，也就是樣本的剩余部分不再包含關(guān)于的信息，換言之，在T中包含了關(guān)于的全部信息，因此要做關(guān)于的統(tǒng)計推斷

3、，只需用統(tǒng)計量T就足夠啦.例11 ( , ),XBp設(shè)設(shè)總總體體 服服從從兩兩點點分分布布即即111 0(), ,xxP Xxppx 12(,)TnXXXX是是來來自自總總體體 的的一一個個樣樣本本，試試證證11.niiXXpn 是是參參數(shù)數(shù) 的的充充分分統(tǒng)統(tǒng)計計量量第3頁/共26頁證利用定義證明其是充分統(tǒng)計量1122,|nnkP Xx XxXxXn1122,nnkP Xx XxXxXnkP Xn 1122,nnP Xx XxXxnXkP nXk 112211,nnniiniiP Xx XxXxXkPXk 第4頁/共26頁11221,nnniiP Xx XxXxPXk 11221 nnniiP

4、 Xx P XxP XxPXk 111110(),(), nniiiixnxnikkn kinppxkC pp 其其他他，第5頁/共26頁110, , nikinxkC 其其他他，.pXp顯顯然然該該條條件件分分布布與與 無無關(guān)關(guān)，因因而而 是是 的的充充分分統(tǒng)統(tǒng)計計量量說明利用定義判別充分統(tǒng)計量比較麻煩，因而需要需求更好的判別準則。第6頁/共26頁二、因子分解定理1. 充分統(tǒng)計量的判別準則 定理1.3(因子分解定理)(Fisher-Nerman準則)(1) 連續(xù)型情況12( , ),(,)TnXf xXXX設(shè)設(shè)總總體體 具具有有分分布布密密度度12(,)nT XXXT是是一一個個樣樣本本，是

5、是一一個個統(tǒng)統(tǒng)計計量量，則則是是 的的充充分分統(tǒng)統(tǒng)計計量量的的充充要要條條件件是是：樣樣本本的的聯(lián)聯(lián)合合分分布布密密度度可可以以分分解解為為第7頁/共26頁12121( )(, )(,) ( (,), )ninniLf xh x xxg T x xx 1212,.nnhx xxgTx xx其其中中 是是的的非非負負函函數(shù)數(shù)且且與與 無無關(guān)關(guān)， 僅僅通通過過 依依賴賴于于(2) 離散型情況1 2( )( )(, ),(, ,),iiXP Xxp xi設(shè)設(shè)總總體體 的的分分布布律律1212(,)(,)TnnXXXT XXX是是一一個個樣樣本本，是是一一T個個統(tǒng)統(tǒng)計計量量，則則 是是 的的充充分分統(tǒng)

6、統(tǒng)計計量量的的充充要要條條件件是是：樣樣本本的的聯(lián)聯(lián)合合分分布布律律可可以以分分解解為為第8頁/共26頁12121( )(, )(,) ( (,), )innniP xh x xxg T x xx 1212,.nnhx xxgTx xx其其中中 是是的的非非負負函函數(shù)數(shù)且且與與 無無關(guān)關(guān)， 僅僅通通過過 依依賴賴于于說明：T如如果果參參數(shù)數(shù) 為為向向量量時時，統(tǒng)統(tǒng)計計量量 也也是是隨隨機機向向量量，例例如如22( ,),(,).nTX S 則則相相應(yīng)應(yīng)的的統(tǒng)統(tǒng)計計向向量量可可以以為為以下將通過幾個例子來說明判別法則的應(yīng)用證明涉及測度論，從略第9頁/共26頁例2 根據(jù)因子分解定理證明例2.3解1

7、122,nnP Xx XxXx111111()() ()nnniiiiiixnxxnppppp 11 11 111() ()() ()niixnnnnXnpppppp 121212111(,), (,),( (,), )() (),nnnnTnT x xxX h x xxpg T x xxppX 其其中中因因而而， 是是充充分分統(tǒng)統(tǒng)計計量量. .第10頁/共26頁例31211(,)( ).TnniiXXXPXXn 設(shè)設(shè)是是來來自自泊泊松松分分布布的的一一個個樣樣本本，試試證證是是參參數(shù)數(shù) 的的充充分分統(tǒng)統(tǒng)計計量量解111221,e!niixnnnniiP XxXxXxx 11111ee!nii

8、xnnnXnnnniiiixx 12121121(,), (,),!(,),)e,nnniinTnnT xxxX h xxxxg T xxxX 其其中中因因而而，是是充充分分統(tǒng)統(tǒng)計計量量. .第11頁/共26頁例41211(,).TnniiXXXNXXn 設(shè)設(shè)是是來來自自正正態(tài)態(tài)總總體體 ( ,1)( ,1)的的一一個個樣樣本本，試試證證是是參參數(shù)數(shù) 的的充充分分統(tǒng)統(tǒng)計計量量解211212() ()e()niixnL 211122exp()()ninixxx 22111222exp()() ()nininxxx 22111222exp() exp() ()nininxxx 第12頁/共26頁1

9、2122121212122(,), (,)exp() ,(,),)exp()() ,nnninniT xxxx h xxxxxg T xxxnTX 其其中中因因而而，是是充充分分統(tǒng)統(tǒng)計計量量例51221212 (,),)(,),.TnnTniiTXXXT XXXXX 2 2 設(shè)設(shè)是是來來自自正正態(tài)態(tài)總總體體N( ,)N( ,)的的一一個個樣樣本本，試試證證 ( (是是參參數(shù)數(shù) =()=()的的聯(lián)聯(lián)合合充充分分統(tǒng)統(tǒng)計計量量第13頁/共26頁解2211212() ()e()niixnL 22222111222exp()nininnxx 212121212221221221111222(,)(,)

10、, (,),(,),)exp(),(,)(,)nTnininnininTniiT xxxxxh xxxng T xxxxxnT xxxxx 其其中中因因而而，是是充充分分統(tǒng)統(tǒng)計計向向量量。第14頁/共26頁2. 充分統(tǒng)計量的函數(shù)特性 定理1.412(,)( )( ).nTT XXXf tf T 設(shè)設(shè)是是 的的一一個個充充分分統(tǒng)統(tǒng)計計量量，是是一一個個單單值值可可逆逆函函數(shù)數(shù)，則則也也是是 的的一一個個充充分分統(tǒng)統(tǒng)計計量量證以連續(xù)型為例，由因子分解定理可知12121( )(, )(,) ( (,), )ninniLf xh x xxg T x xx 11212(,) ( ( (,), )nnh

11、x xxg ff T x xx 12(,)nf x xx由由因因子子分分解解定定理理可可知知，是是 的的充充分分統(tǒng)統(tǒng)計計量量，因因而而充充分分統(tǒng)統(tǒng)計計量量不不唯唯一一. .1212(,) ( (,), )nnh x xx q f x xx 第15頁/共26頁三、完備統(tǒng)計量( , )()F x 設(shè)設(shè)總總體體的的分分布布函函數(shù)數(shù)族族為為，若若對對于于任任意意一一個個滿滿足足0 (),Eg X對對一一切切，(),g X的的隨隨機機變變量量總總有有 統(tǒng)計量的充分性與完備性在尋找參數(shù)的優(yōu)良估計中將起到重要的作用.定義1.501 (),P g X對對一一切切，( , ),.F x 則則稱稱 的的完完備備的

12、的分分布布函函數(shù)數(shù)族族第16頁/共26頁 定義 1.61212,( , )(,)nnXXXXF xTT XXX 設(shè)設(shè)是是來來自自總總體體 具具有有分分布布函函數(shù)數(shù)的的一一個個樣樣本本，的的分分布布函函數(shù)數(shù)族族 12( , ),(,)TnFxTT XXX是是完完備備的的分分布布函函數(shù)數(shù)族族，則則稱稱為為完完備備統(tǒng)統(tǒng)計計量量. . 說明 完備性的含義不是很顯然. 但它具有下列性質(zhì)12121( )( ), ( )( ),P g Tg TEg TEg T 一一方方面面，121201( )( ), ( )( ),Eg Tg TP g Tg T 另另一一方方面面，第17頁/共26頁例6(p11 例1.8)

13、1 ( , ),XBp設(shè)設(shè)總總體體 服服從從兩兩點點分分布布即即111 0(), ,xxP Xxppx 12(,)TnXXXX是是來來自自總總體體 的的一一個個樣樣本本，試試證證11.niiXXpn 是是參參數(shù)數(shù) 的的完完備備統(tǒng)統(tǒng)計計量量證1(),kkn knkP XP nXkC ppn 由由于于因因而而010( ()( )()nkkn kpnkkEg XgC ppn 如如果果，則則0101()( )()nnkknkkppgCnp ，第18頁/共26頁0010101( )()nkknkkppgCnppp 即即對對任任意意的的, ,，而而此此式式是是關(guān)關(guān)于于的的多多項項式式，因因而而每每項項系系

14、數(shù)數(shù)只只能能為為 ，則則001( (,pkkgPgXnn），因因而而滿滿足足）所所以以 是是完完備備統(tǒng)統(tǒng)計計量量. .充分完備統(tǒng)計量 如果一個統(tǒng)計量既是充分的，又是完備的，則稱為充分完備統(tǒng)計量.第19頁/共26頁四、指數(shù)型分布族( , ),Xf x 設(shè)設(shè)總總體體 的的分分布布密密度度為為其其中中1212(,) ,TmnXXX 為為其其樣樣本本，若若樣樣本本的的聯(lián)聯(lián)合合分分布布密密度度具具有有形形式式1、指數(shù)型分布族的概念12(,)nT XXX 判判斷斷一一個個統(tǒng)統(tǒng)計計量量是是否否為為充充分分完完備備統(tǒng)統(tǒng)計計量量比比較較復(fù)復(fù)雜雜，為為此此介介紹紹一一類類分分布布族族，其其參參數(shù)數(shù)的的充充分分完完

15、備備統(tǒng)統(tǒng)計計量量容容易易發(fā)發(fā)現(xiàn)現(xiàn)。定義1.7121211(, )( )exp( )(,) (,)nmijjnnijf xCbT x xxh x xx 第20頁/共26頁( ),( ),( , )jjCbT hf x其其中中只只與與 有有關(guān)關(guān)而而與與樣樣本本無無關(guān)關(guān)，只只與與樣樣本本有有關(guān)關(guān)，而而與與 無無關(guān)關(guān). .則則稱稱為為指指數(shù)數(shù)型型分分布布族族. .說明對于離散型分布律也有類似的定義.2、指數(shù)型分布族參數(shù)的充分完備統(tǒng)計量的構(gòu)造( , )Xf x 設(shè)設(shè)總總體體 的的分分布布密密度度為為為為指指數(shù)數(shù)型型分分布布族族，即即樣樣本本的的聯(lián)聯(lián)合合分分布布密密度度具具有有形形式式定理1.512121

16、1(, )( )exp( )(,) (,)nmijjnnijf xCbT x xxh x xx 12(,)Tmm 其其中中，如如果果 包包含含一一個個1122( (),(),()TnnBbbb 維維矩矩形形，而而且且的的值值域域第21頁/共26頁112(,),nmTT XXX 包包含含有有一一個個 維維的的開開集集，則則2121212(,),(,)(,).TnmnTmT XXXTXXX 是是參參數(shù)數(shù)的的充充分分完完備備統(tǒng)統(tǒng)計計量量證明（略）例7(p12 例1.9)1211(,)( ).TnniiXXXPXXn 設(shè)設(shè)是是來來自自泊泊松松分分布布的的一一個個樣樣本本，試試證證是是參參數(shù)數(shù) 的的充充

17、分分完完備備統(tǒng)統(tǒng)計計量量第22頁/共26頁解111221,e!niixnnnniiP XxXxXxx 11111eeexpln!niixnnnnnniiiiX nxx 121211(,), (,),!( )e, ( )ln,nnniinT xxxX h xxxxCbnX 其其中中因因而而，是是充充分分完完備備統(tǒng)統(tǒng)計計量量第23頁/共26頁例8(p12 例1.10)12122211(,),)(,),.TnnnTTiiXXXT XXXXXn 2 2 設(shè)設(shè)是是來來自自正正態(tài)態(tài)總總體體N( ,)N( ,)的的一一個個樣樣本本，試試證證 ( (是是參參數(shù)數(shù) =()=()的的聯(lián)聯(lián)合合充充分分統(tǒng)統(tǒng)計計量量解