2-3-最小方差無偏估計和有效估計講解課件

§2.3最小方差無偏估計

1§2.3最小方差無偏估計1一、最小方差無偏估計

由定義2.4知，最小方差無偏估計（MVUE）是在無偏估計類中，使均方誤差達到最小的估計量，即在均方誤差最小意義下的最優(yōu)估計。它是在應用中，人們希望尋求的一種估計量。

2一、最小方差無偏估計由定義2.4知，最小方差無偏估33445566定理2.7給出了最小方差無偏估計的一種判別方法，但由上例可見，該判別法使用并不方便，而且還只是一個充分條件。為了尋求更好的方法，需要借助充分統(tǒng)計量甚至充分完備統(tǒng)計量的概念。

7定理2.7給出了最小方差無偏估計的一種判別方法，但由定理2.8的說明：如果無偏估計不是充分統(tǒng)計量的函數(shù)，則將之對充分統(tǒng)計量求條件期望可以得到一個新的無偏估計，該估計的方差比原來的估計的方差要小，從而降低了無偏估計的方差。

換言之，考慮的估計問題只需要在基于充分統(tǒng)計量的函數(shù)中進行即可，該說法對所有的統(tǒng)計推斷問題都是正確的，這便是所謂的充分性原則。

8定理2.8的說明：如果無偏估計不是充分統(tǒng)計量89910101111121213131414151516162.要直接驗證某個估計量是最小方差無偏估計量是困難的.若能求出無偏估計中方差的下界,而且又能說明參數(shù)的一切無偏估計中存在某個估計的方差能達到這個下界，那么就是的最小方差無偏估計.下面給出一個判別準則：1.最小方差無偏估計提供了一種優(yōu)良的估計，然而一個更深入的問題是：無偏估計的方差是否可以任意??？如果不可以，那么它的下界是多少？這個下界等否達到？172.要直接驗證某個估計量是最小方差無偏估計量定理2.10(Cramer-Rao不等式)設X1,X2,…Xn是從密度函數(shù)為的總體抽取的樣本,是的一個無偏估計,若集合與無關;對積分與微分可交換且存在，即(3)

則有定理2.10(Cramer-Rao不等式)設X1,X2其中常稱為Fisher信息量.特別當,有常用的另一個表達式常稱為C-R不等式.其中常稱為Fisher信息量.特別當

費希爾信息量是數(shù)理統(tǒng)計學中一個基本概念，很多的統(tǒng)計結果都與費希爾信息量有關。如極大似然估計的漸近方差，無偏估計的方差的下界等都與費希爾信息量I()有關。I()的種種性質顯示，“I()越大”可被解釋為總體分布中包含未知參數(shù)的信息越多。費希爾信息量是數(shù)理統(tǒng)計學中一個基本概念，很多的統(tǒng)計結果都例2.22設總體服從泊松分布，X1,X2,…Xn

是來自總體的一個樣本，試求參數(shù)的無偏估計的下界？解:(1)寫出密度函數(shù)(2)求密度函數(shù)對數(shù)、再求導(3)計算fisher信息量(4)代入C-R不等式求方差下界例2.22設總體服從泊松分布，X1,1.寫出密度函數(shù)，求對數(shù)2.計算fiser信息量3.代入C-R不等式求方差下界1.寫出密度函數(shù)，求對數(shù)2.計算fiser信息量3.代入例2.23設X1,X2,…Xn

是取自總體X~的一個樣本,求的無偏估計的方差下界.解:(1)寫出密度函數(shù)(2)求密度函數(shù)對數(shù)、再求導(3)計算(4)代入C-R不等式求方差下界最后尋找無偏估計中滿足方差下界的估計量.2-3-最小方差無偏估計和有效估計講解課件1.寫出密度函數(shù)2.求密度函數(shù)對數(shù)3.計算fiser信息量4.代入C-R不等式求方差下界1.寫出密度函數(shù)2.求密度函數(shù)對數(shù)3.計算fiser信2.求密度函數(shù)對數(shù)的導數(shù)3.計算fiser信息量4.代入C-R不等式求方差下界5.計算最小方差無偏估計的方差2.求密度函數(shù)對數(shù)的導數(shù)3.計算fiser信息量4.代入2、有效估計1)定義2.8P57262、有效估計1)定義2.8P5726

例2.24設X1,X2,…Xn

是取自總體X~B(N,p)的一個樣本，驗證

是參數(shù)P的有效估計量.1.寫出概率函數(shù),再求對數(shù)2.計算fiser信息量3.代入C-R不等式求方差下界例2.24設X1,X2,…Xn是取自總體X4.計算無偏估計的方差5.計算效率4.計算無偏估計的方差5.計算效率可能不是無偏估計可能不是無偏估計2-3-最小方差無偏估計和有效估計講解課件§2.3最小方差無偏估計

31§2.3最小方差無偏估計1一、最小方差無偏估計

由定義2.4知，最小方差無偏估計（MVUE）是在無偏估計類中，使均方誤差達到最小的估計量，即在均方誤差最小意義下的最優(yōu)估計。它是在應用中，人們希望尋求的一種估計量。

32一、最小方差無偏估計由定義2.4知，最小方差無偏估333344355366定理2.7給出了最小方差無偏估計的一種判別方法，但由上例可見，該判別法使用并不方便，而且還只是一個充分條件。為了尋求更好的方法，需要借助充分統(tǒng)計量甚至充分完備統(tǒng)計量的概念。

37定理2.7給出了最小方差無偏估計的一種判別方法，但由定理2.8的說明：如果無偏估計不是充分統(tǒng)計量的函數(shù)，則將之對充分統(tǒng)計量求條件期望可以得到一個新的無偏估計，該估計的方差比原來的估計的方差要小，從而降低了無偏估計的方差。

換言之，考慮的估計問題只需要在基于充分統(tǒng)計量的函數(shù)中進行即可，該說法對所有的統(tǒng)計推斷問題都是正確的，這便是所謂的充分性原則。

38定理2.8的說明：如果無偏估計不是充分統(tǒng)計量839940104111421243134414451546162.要直接驗證某個估計量是最小方差無偏估計量是困難的.若能求出無偏估計中方差的下界,而且又能說明參數(shù)的一切無偏估計中存在某個估計的方差能達到這個下界，那么就是的最小方差無偏估計.下面給出一個判別準則：1.最小方差無偏估計提供了一種優(yōu)良的估計，然而一個更深入的問題是：無偏估計的方差是否可以任意小？如果不可以，那么它的下界是多少？這個下界等否達到？472.要直接驗證某個估計量是最小方差無偏估計量定理2.10(Cramer-Rao不等式)設X1,X2,…Xn是從密度函數(shù)為的總體抽取的樣本,是的一個無偏估計,若集合與無關;對積分與微分可交換且存在，即(3)

則有定理2.10(Cramer-Rao不等式)設X1,X2其中常稱為Fisher信息量.特別當,有常用的另一個表達式常稱為C-R不等式.其中常稱為Fisher信息量.特別當

費希爾信息量是數(shù)理統(tǒng)計學中一個基本概念，很多的統(tǒng)計結果都與費希爾信息量有關。如極大似然估計的漸近方差，無偏估計的方差的下界等都與費希爾信息量I()有關。I()的種種性質顯示，“I()越大”可被解釋為總體分布中包含未知參數(shù)的信息越多。費希爾信息量是數(shù)理統(tǒng)計學中一個基本概念，很多的統(tǒng)計結果都例2.22設總體服從泊松分布，X1,X2,…Xn

是來自總體的一個樣本，試求參數(shù)的無偏估計的下界？解:(1)寫出密度函數(shù)(2)求密度函數(shù)對數(shù)、再求導(3)計算fisher信息量(4)代入C-R不等式求方差下界例2.22設總體服從泊松分布，X1,1.寫出密度函數(shù)，求對數(shù)2.計算fiser信息量3.代入C-R不等式求方差下界1.寫出密度函數(shù)，求對數(shù)2.計算fiser信息量3.代入例2.23設X1,X2,…Xn

是取自總體X~的一個樣本,求的無偏估計的方差下界.解:(1)寫出密度函數(shù)(2)求密度函數(shù)對數(shù)、再求導(3)計算(4)代入C-R不等式求方差下界最后尋找無偏估計中滿足方差下界的估計量.2-3-最小方差無偏估計和有效估計講解課件1.寫出密度函數(shù)2.求密度函數(shù)對數(shù)3.計算fiser信息量4.代入C-R不等式求方差下界1.寫出密度函數(shù)2.求密度函數(shù)對數(shù)3.計算fiser信2.求密度函數(shù)對數(shù)的導數(shù)3.計算fiser信息量4.代入C-R不等式求方差下界5.計算最小方差無偏估計的方差2.求密度函數(shù)對數(shù)的導數(shù)3.計算fiser信息量4.代入2、有效估計1)定義2.8P57562、有效估計1)定義2.8P5726

例2.24設X1,