最小方差無偏估計和有效估計

關(guān)于最小方差無偏估計和有效估計1第1頁，課件共30頁，創(chuàng)作于2023年2月2一、最小方差無偏估計

由定義2.4知，最小方差無偏估計（MVUE）是在無偏估計類中，使均方誤差達(dá)到最小的估計量，即在均方誤差最小意義下的最優(yōu)估計。它是在應(yīng)用中，人們希望尋求的一種估計量。

第2頁，課件共30頁，創(chuàng)作于2023年2月3第3頁，課件共30頁，創(chuàng)作于2023年2月4第4頁，課件共30頁，創(chuàng)作于2023年2月5第5頁，課件共30頁，創(chuàng)作于2023年2月6第6頁，課件共30頁，創(chuàng)作于2023年2月7

定理2.7給出了最小方差無偏估計的一種判別方法，但由上例可見，該判別法使用并不方便，而且還只是一個充分條件。為了尋求更好的方法，需要借助充分統(tǒng)計量甚至充分完備統(tǒng)計量的概念。

第7頁，課件共30頁，創(chuàng)作于2023年2月8定理2.8的說明：如果無偏估計不是充分統(tǒng)計量的函數(shù)，則將之對充分統(tǒng)計量求條件期望可以得到一個新的無偏估計，該估計的方差比原來的估計的方差要小，從而降低了無偏估計的方差。

換言之，考慮的估計問題只需要在基于充分統(tǒng)計量的函數(shù)中進(jìn)行即可，該說法對所有的統(tǒng)計推斷問題都是正確的，這便是所謂的充分性原則。

第8頁，課件共30頁，創(chuàng)作于2023年2月9第9頁，課件共30頁，創(chuàng)作于2023年2月10第10頁，課件共30頁，創(chuàng)作于2023年2月11第11頁，課件共30頁，創(chuàng)作于2023年2月12第12頁，課件共30頁，創(chuàng)作于2023年2月13第13頁，課件共30頁，創(chuàng)作于2023年2月14第14頁，課件共30頁，創(chuàng)作于2023年2月15第15頁，課件共30頁，創(chuàng)作于2023年2月16第16頁，課件共30頁，創(chuàng)作于2023年2月172.要直接驗證某個估計量是最小方差無偏估計量是困難的.若能求出無偏估計中方差的下界,而且又能說明參數(shù)的一切無偏估計中存在某個估計的方差能達(dá)到這個下界，那么就是的最小方差無偏估計.下面給出一個判別準(zhǔn)則：1.最小方差無偏估計提供了一種優(yōu)良的估計，然而一個更深入的問題是：無偏估計的方差是否可以任意小？如果不可以，那么它的下界是多少？這個下界等否達(dá)到？第17頁，課件共30頁，創(chuàng)作于2023年2月定理2.10(Cramer-Rao不等式)設(shè)X1,X2,…Xn是從密度函數(shù)為的總體抽取的樣本,是的一個無偏估計,若集合與無關(guān);對積分與微分可交換且存在，即(3)

則有第18頁，課件共30頁，創(chuàng)作于2023年2月其中常稱為Fisher信息量.特別當(dāng),有常用的另一個表達(dá)式常稱為C-R不等式.第19頁，課件共30頁，創(chuàng)作于2023年2月

費希爾信息量是數(shù)理統(tǒng)計學(xué)中一個基本概念，很多的統(tǒng)計結(jié)果都與費希爾信息量有關(guān)。如極大似然估計的漸近方差，無偏估計的方差的下界等都與費希爾信息量I()有關(guān)。I()的種種性質(zhì)顯示，“I()越大”可被解釋為總體分布中包含未知參數(shù)的信息越多。第20頁，課件共30頁，創(chuàng)作于2023年2月例2.22設(shè)總體服從泊松分布，X1,X2,…Xn

是來自總體的一個樣本，試求參數(shù)的無偏估計的下界？解:(1)寫出密度函數(shù)

(2)求密度函數(shù)對數(shù)、再求導(dǎo)

(3)計算fisher信息量

(4)代入C-R不等式求方差下界第21頁，課件共30頁，創(chuàng)作于2023年2月1.寫出密度函數(shù)，求對數(shù)2.計算fiser信息量3.代入C-R不等式求方差下界第22頁，課件共30頁，創(chuàng)作于2023年2月例2.23

設(shè)X1,X2,…Xn

是取自總體X~的一個樣本,求的無偏估計的方差下界.

解:(1)寫出密度函數(shù)

(2)求密度函數(shù)對數(shù)、再求導(dǎo)

(3)計算

(4)代入C-R不等式求方差下界最后尋找無偏估計中滿足方差下界的估計量.第23頁，課件共30頁，創(chuàng)作于2023年2月1.寫出密度函數(shù)2.求密度函數(shù)對數(shù)3.計算fiser信息量4.代入C-R不等式求方差下界第24頁，課件共30頁，創(chuàng)作于2023年2月2.求密度函數(shù)對數(shù)的導(dǎo)數(shù)3.計算fiser信息量4.代入C-R不等式求方差下界5.計算最小方差無偏估計的方差第25頁，課件共30頁，創(chuàng)作于2023年2月262、有效估計1)

定義2.8P57第26頁，課件共30頁，創(chuàng)作于2023年2月

例2.24

設(shè)X1,X2,…Xn

是取自總體X~B(N,p)的一個樣本，驗證

是參數(shù)P的有效估計量.1.寫出概率函數(shù),再求對數(shù)2.計算fiser信息量3.代入C-R不等式求方差下界第27頁，