數(shù)理統(tǒng)計課件：充分統(tǒng)計量

充分統(tǒng)計量統(tǒng)計量是對樣本的簡化，希望：簡化程度高，同時信息損失少.一個統(tǒng)計量能集中樣本中信息的多少，與統(tǒng)計量的具體形式有關(guān)，也依賴于問題的統(tǒng)計模型，我們希望所用的統(tǒng)計量能把樣本中關(guān)于未知參數(shù)的信息全部“提煉”起來，即說不損失(重要)信息的統(tǒng)計量——充分統(tǒng)計量.問題：如何定義一個統(tǒng)計量是充分統(tǒng)計量？引例：設(shè)X=(X1,X2,…,Xn)是從0-1分布中抽取的簡單隨機樣本，且P{Xi=1}=

,P{Xi=0}=1-

,記若只對

作推斷，

T(X)與樣本含的信息一樣，即T(X)應(yīng)該是充分統(tǒng)計量.則T(X)與樣本(X1,X2,…,Xn)相差的僅僅是，

X1,X2,…,Xn中1的具體位置.樣本(X1,X2,…,Xn)加工成統(tǒng)計量T(X1,X2,…,Xn)后，一般來說在信息上會有所損失，但是如果加工抓住了問題的實質(zhì)，回到引例直觀上：如果一個統(tǒng)計量滿足這個要求，就稱其為充分統(tǒng)計量.即：統(tǒng)計量T(X1,X2,…,Xn)保留了樣本(X1,X2,…,Xn)中所含參數(shù)

的全部信息，丟掉的就是一些無關(guān)緊要的東西.樣本X1,X2,…,Xn的分布，記

如何定義充分統(tǒng)計量？統(tǒng)計量T(X)的分布關(guān)于樣本X=(X1,X2,…,Xn)的信息可以設(shè)想成如下公式{樣本X中的信息}={T(X)中所含樣本的信息}+{除了T(X)中的信息外，樣本X含有的信息}因此T(X)為充分統(tǒng)計量的要求歸結(jié)為要求后一項信息為0用統(tǒng)計語言描述為，即要求與

無關(guān)，其中A為任一事件.2.5.1充分統(tǒng)計量的定義和例子定義2.5.1設(shè)樣本X1,X2,…,Xn的分布族為設(shè)T=T(X1,X2,…,Xn)為一統(tǒng)計量，若在給定T的條件下，樣本X1,X2,…,Xn的條件分布與參數(shù)

無關(guān)，則稱統(tǒng)計量T(X1,X2,…,Xn)為參數(shù)

的充分統(tǒng)計量.說明：1.充分統(tǒng)計量必存在.2.條件分布的作用是抽取信息.實際應(yīng)用時，條件分布用條件概率(離散情形)和條件密度函數(shù)(連續(xù)情形)代替.樣本本身是充分統(tǒng)計量，順序統(tǒng)計量是充分統(tǒng)計量.3.充分統(tǒng)計量可以是向量，即不一定與參數(shù)的維數(shù)相同.(例2.5.9)為充分統(tǒng)計量.記T=T(X1,X2,…,Xn)，按照定義只要證明下列條件概率與參數(shù)

無關(guān).證明：例2.5.1

設(shè)X1,X2,…,Xn是來自兩點分布總體B(1,

)的樣本，證明兩點分布的分布列為當(dāng)T=t

時，有因此，有上述條件概率與參數(shù)

無關(guān).因此是充分統(tǒng)計量.為充分統(tǒng)計量.記T=T(X1,X2,…,Xn)，按照定義只要證明下列條件概率與參數(shù)

無關(guān).證明：例2.5.2

設(shè)X1,X2,…,Xn是來自幾何分布總體G(

)的樣本，證明幾何分布的分布列為由幾何分布的性質(zhì)知，T的分布列為當(dāng)T=t

時，有因此，有上述條件概率與參數(shù)

無關(guān).因此是充分統(tǒng)計量.因此，T(X1,X2,…,Xn)=X1不是充分統(tǒng)計量.證明：與μ有關(guān).例2.5.3設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ，1)的樣本，則不是充分統(tǒng)計量.記T=T(X1,X2,…,Xn)，在T=x1條件下，X1,X2,…,Xn的條件密度函數(shù)為證明：例2.5.4設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ，1)的樣本，證明為充分統(tǒng)計量.記T=T(X1,X2,…,Xn)，由正態(tài)分布的性質(zhì)知，在給定在T=t

條件下，X1,X2,…,Xn的條件密度函數(shù)為上述條件密度函數(shù)與參數(shù)與μ

有關(guān)，因此為充分統(tǒng)計量.例2.5.4中，僅有一個未知參數(shù)

μ

，如果其方差也是未知的，則利用定義來求充分統(tǒng)計量比較困難；從上面的例子也可以看出，求充分統(tǒng)計量，必須先猜測一個統(tǒng)計量，之后再用定義證明，這很不便于利用，于是有如下的因子分解定理.2.5.2因子分解定理因子分解定理是由R.A.Fisher在20世紀(jì)20年代提出，它的一般形式和嚴(yán)格數(shù)學(xué)證明是由Halmos和Savage在1949年給出.T=T(X1,X2,…,Xn)是充分統(tǒng)計量的充要條件是f(x1,x2,…,xn,

),可以分解為定理2.5.1(因子分解定理)設(shè)樣本X1,X2,…,Xn的聯(lián)合密度函數(shù)(或聯(lián)合分布列)為f(x1,x2,…,xn,

),T=T(X1,X2,…,Xn)是一個統(tǒng)計量，則其中

h(x1,x2,…,xn)不依賴于參數(shù)

.充分統(tǒng)計量的一一變換不改變統(tǒng)計量的充分性.證明：存在逆函數(shù)T=k(S)，因為

S

(T)是單值可逆函數(shù)，根據(jù)因子分解定理取則根據(jù)因子分解定理，S

(T)是

的充分統(tǒng)計量.推論2.5.1設(shè)T=T(X1,X2,…,Xn)為

的充分統(tǒng)計量，S(T)是單值可逆函數(shù)，則S(T)也是

的充分統(tǒng)計量.證明：例2.5.5設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ，1)的樣本，證明為充分統(tǒng)計量.由例2.5.4是參數(shù)μ的充分統(tǒng)計量,因為

與一一對應(yīng).因此是μ的充分統(tǒng)計量.但是不是μ的充分統(tǒng)計量.樣本X1,X2,…,Xn的聯(lián)合分布列為根據(jù)因子分解定理，知為充分統(tǒng)計量.證明:其中h(x1,x2,…,xn)=1.為充分統(tǒng)計量.例2.5.6

設(shè)X1,X2,…,Xn是來自兩點分布總體B(1,

)的樣本，則樣本X1,X2,…,Xn

的聯(lián)合密度函數(shù)為為充分統(tǒng)計量.

證明:其中h(x1,x2,…,xn)=1.例2.5.7設(shè)X1,X2,…,Xn是來自正態(tài)總體N(μ，σ2)的樣本，令

=(μ，σ2)，則根據(jù)因子分解定理，知為充分統(tǒng)計量.由于與為一一對應(yīng)的變換.根據(jù)推論2.5.1可知也為充分統(tǒng)計量.為充分統(tǒng)計量.根據(jù)因子分解定理，知為充分統(tǒng)計量.其中例2.5.8設(shè)X1,X2,…,Xn是來自均勻分布總體U[0，

]的樣本，則樣本X1,X2,…,Xn

的聯(lián)合密度函數(shù)為證明:為充分統(tǒng)計量.例2.5.9設(shè)X1,X2,…,Xn是來自均勻分布U[

-1/2，

+1/2]的樣本，則證明:樣本X1,X2,…,Xn

的聯(lián)合密度函數(shù)為根據(jù)因子分解定理，知為充分統(tǒng)計量.其中h(x1,x2,…,xn)=1.思考：是否是充分統(tǒng)計量？若為充分統(tǒng)計量.則它必能由因子分解定理表示出來.根據(jù)上述證明說明不能表示成的形式.因此，不是充分統(tǒng)計量.為充分統(tǒng)計量.例2.5.10(指數(shù)族中統(tǒng)計量的充分性)設(shè)X1,X2,…,Xn是從下面指數(shù)族中抽取的樣本，指數(shù)族的形式為其中x=(x1,x2,…,xn)