第6章參數(shù)估計PPT課件

1、6.1 點估計問題概述點估計問題概述(P131)一、點估計的概念一、點估計的概念問題的提出：已知總體問題的提出：已知總體X的分布函數(shù)的分布函數(shù)F(x;1,2,k)，其中其中1, 2, k是未知參數(shù)。是未知參數(shù)。點估計：由總體的樣本點估計：由總體的樣本(X1,X2,Xn)對每一個未知參數(shù)對每一個未知參數(shù)i(i=1,2,k)構造統(tǒng)計量構造統(tǒng)計量),(21niiXXX作為參數(shù)作為參數(shù)i的估計，稱的估計，稱),(21niiXXX為為參數(shù)參數(shù)i的估計量的估計量。樣本樣本(X1,X2,Xn)的一組取值的一組取值(x1,x2,xn)稱為稱為樣本觀察樣本觀察值值，將其代入估計量，將其代入估計量i，得到數(shù)值，得

2、到數(shù)值),(21niixxx稱為稱為參數(shù)參數(shù)i的估計值的估計值。在不致混淆的情況下，估計量、估計值統(tǒng)稱在不致混淆的情況下，估計量、估計值統(tǒng)稱點估計點估計，記為記為 。i第1頁/共30頁二、評價估計量的標準二、評價估計量的標準（P132）1、無偏性、無偏性估計量估計量),(21nXXX的觀察或試驗的結果，估計值可能較真實的參數(shù)值偏大的觀察或試驗的結果，估計值可能較真實的參數(shù)值偏大或偏小，而一個好的估計量不應總是偏大或偏小，在多或偏小，而一個好的估計量不應總是偏大或偏小，在多次試驗中所得的估計量的平均值應與真實參數(shù)吻合，這次試驗中所得的估計量的平均值應與真實參數(shù)吻合，這就是無偏性所要求的。就是無偏

3、性所要求的。 是一個隨機變量，對一次具體是一個隨機變量，對一次具體定義定義),(21nXXX是是 的一個估計量，如果的一個估計量，如果 有有)(E則稱則稱是是 的一個無偏估計的一個無偏估計。如果如果不是無偏的，就稱不是無偏的，就稱該估計是有偏的該估計是有偏的。稱稱)(E為用為用估計估計 而產(chǎn)生而產(chǎn)生的的系統(tǒng)偏差系統(tǒng)偏差。第2頁/共30頁例例6.1 設總體設總體X的的k階矩存在，則不論階矩存在，則不論X的分布如何，樣的分布如何，樣本本k階原點矩階原點矩nikikXnA11是總體是總體k階原點矩的無偏估計階原點矩的無偏估計。證明證明設設X的的k階原點矩階原點矩 k=E(Xk)，k1(X1,X2,X

4、n)是來自總體是來自總體X的一個樣本，則的一個樣本，則kkkiXEXE)()(ni, 2 , 1)1()(1nikikXnEAEnikiXEn1)(1knikn11所以所以Ak是是k的無偏估計的無偏估計.第3頁/共30頁（2）樣本方差）樣本方差S2 是總體方差是總體方差2的無偏估計量；的無偏估計量； 定理定理1（P132）總體總體X的均值為的均值為，方差為方差為2 ，(X1,X2,Xn)是取自是取自X的一個樣本，的一個樣本， 與與S2 分別分別為該樣本的樣本均值與樣本方差，則有為該樣本的樣本均值與樣本方差，則有（1）樣本均值）樣本均值 為總體均值為總體均值的無偏估計量；的無偏估計量；XX（3）

5、樣本二階中心矩）樣本二階中心矩 是總體方差是總體方差2的有偏估計量；的有偏估計量；niiXXn12)(1第4頁/共30頁二、有效性二、有效性(P134)對于參數(shù)對于參數(shù) 的無偏估計量，其取值應在真值附近波動，的無偏估計量，其取值應在真值附近波動，我們希望它與真值之間的偏差越小越好。我們希望它與真值之間的偏差越小越好。 定義定義 設設,12均為未知參數(shù)均為未知參數(shù) 的無偏估計量，若的無偏估計量，若),()(21DD則稱則稱1比比2有效。有效。在在 的所有無偏估計量中，若的所有無偏估計量中，若估計量，則稱估計量，則稱1是具有最小方差的無偏是具有最小方差的無偏顯然也是最有效的無偏估計量，簡稱顯然也是

6、最有效的無偏估計量，簡稱有效估計量有效估計量。閱讀閱讀P134/例例31為為一致最小方差無偏估計量。一致最小方差無偏估計量。第5頁/共30頁由于由于),(21nxxx現(xiàn)用它來估計未知參數(shù)現(xiàn)用它來估計未知參數(shù) ，故稱這種估計為故稱這種估計為點估計點估計。是實數(shù)域上的一個點，是實數(shù)域上的一個點，點估計的經(jīng)典方法是：點估計的經(jīng)典方法是：(1)矩估計法矩估計法 (2)極大似然估計法極大似然估計法一、矩估計法一、矩估計法(簡稱簡稱“矩法矩法”) 英國統(tǒng)計學家皮爾遜英國統(tǒng)計學家皮爾遜(K.pearson)提出提出1、矩法的基本思想：、矩法的基本思想：以樣本矩作為相應的總體同階矩的估計；以樣本矩作為相應的總

7、體同階矩的估計；以樣本矩的函數(shù)作為相應的總體矩的同一函數(shù)的估計。以樣本矩的函數(shù)作為相應的總體矩的同一函數(shù)的估計。6.2 點估計的常用方法點估計的常用方法(P136)第6頁/共30頁2、矩法的步驟：、矩法的步驟：設總體設總體X的分布為的分布為F(x; 1,2,k)，其中，其中k個參數(shù)個參數(shù)1,2,k待估計，待估計，(X1,X2,Xn)是一個樣本是一個樣本 。(1)計算總體分布的計算總體分布的i 階原點矩階原點矩E(Xi)=i(1,2,k)，i=1,2,k，(計算到計算到k階矩為止，階矩為止，k個參數(shù)個參數(shù))；(2)列方程列方程112122221211211( ,)()1( ,)()1( ,)()

8、nkjjnkjjnkkkkkjjE XXXnE XXXnE XXXn 從中解出方程組的解，記為從中解出方程組的解，記為k21，則則k21，分別為分別為參數(shù)參數(shù)1,2,k的矩估計。的矩估計。第7頁/共30頁例例6.2 設總體設總體X的均值為的均值為，方差為方差為2，均未知。，均未知。 (X1,X2,Xn)是總體的一個樣本，求是總體的一個樣本，求和和2的矩估計。的矩估計。解解niiniiXnEXXDXExnXE12222211)()()(1)(解得矩法估計量為解得矩法估計量為11XniiXn222222111111()nnniiiiiiXXXXXnnn注注：niiXXn12)(1niiiXXXXn

9、122)2(1niniiniiXnXXnXn1211212112112121XXnXXnniinii2121XXnnii第8頁/共30頁例例6.3 設總體設總體XP()，求求的矩估計。的矩估計。解解:XXnXEnii11)(X例例6.4 設設(X1,X2,Xn)來自來自X的一個樣本，且的一個樣本，且1(, )0axbbaXf xa b ；其他求求a,b的矩估計。的矩估計。解：解： XU(a,b)，,2)(baXE,12)()(2abXD222)(12)()(2)(EXabXEXbaXE2222112()11()12nniiiiabXbaXXXXnn（ ）解得矩估計為解得矩估計為,32BXa23

10、BXb2211:()niiBXXn注 此處為樣本二階中心矩。第9頁/共30頁矩估計法的優(yōu)點矩估計法的優(yōu)點：計算簡單；：計算簡單；矩估計法的缺點矩估計法的缺點：(1)矩法估計有時會得到不合理的解；矩法估計有時會得到不合理的解；(2)求矩法估計時，不同的做法會得到不同的解；求矩法估計時，不同的做法會得到不同的解；(故通常規(guī)定：在求矩法估計時，要盡量使用低階矩故通常規(guī)定：在求矩法估計時，要盡量使用低階矩)如例如例6.2中，不是用中，不是用1階矩，而是用階矩，而是用2階矩階矩niiXnXEXXDXE122221)()()()(niiniiXXnXXn12212)(11與與不同不同X(3)總體分布的矩不

11、一定存在，所以矩法估計不一定總體分布的矩不一定存在，所以矩法估計不一定有解。有解。例例xxxxfX0)(2。xdxxdxxxdxxxfEXx不存在)lnlnlim()(2第10頁/共30頁二、極大似然估計法二、極大似然估計法( (R.A.Fisher費費歇歇) )(p138)(p138)例例6.5 設總體設總體X服從服從01分布，即分布律為分布，即分布律為1()(1)( )xxP Xxf xx=0,1，其中其中00未知，未知，求求的極大似然估計量。的極大似然估計量。解解 總體總體X的分布律為的分布律為exxXPxfx!),(x=0,1,2, 設設(x1,x2,xn)為樣本為樣本(X1,X2,X

12、n)的一個觀察值，的一個觀察值，似然函數(shù)似然函數(shù)niixXPL1)()(niixexi1!112!niixnnexxx對數(shù)似然函數(shù)對數(shù)似然函數(shù)) !ln(ln)()(lnn211xxxxnLini0)(lnLdd011niixnniixn1101)(ln1222xnxLddniixx是是的極大似然估計值，的極大似然估計值， 故故的極大似然估計量為的極大似然估計量為所以所以XL第17頁/共30頁例例6.7 設設(X1,X2,Xn)是來自正態(tài)總體是來自正態(tài)總體XN(,2)的一個的一個樣本，樣本，,2未知，求未知，求,2的極大似然估計。的極大似然估計。解解 設設(x1,x2,xn)為樣本為樣本(X1

13、,X2,Xn)的一個觀察值，則的一個觀察值，則似然函數(shù)為似然函數(shù)為nixieL12)(22221),(niixne122)(2122)2(niixnnL12222)(21ln22ln2),(ln0)(212),(ln0)(1),(ln124222122niiniixnLxL2121)(11xxnxxnniinii解得解得所以所以,2的極大似然估計量分別為的極大似然估計量分別為XLniiLXXn122)(1思考思考：當：當已知已知時，時，?2L第18頁/共30頁例例6.8 設設XN(,2)，其中其中,2未知，問未知，問,2的極大似的極大似然估計是否為然估計是否為,2的無偏估計？若不是，請修正使它

14、的無偏估計？若不是，請修正使它成為無偏估計。成為無偏估計。解解 設設(X1,X2,Xn)是取自總體是取自總體X的一個樣本，由例的一個樣本，由例6.6知知XLniiLXXn122)(1)()(XEELXL是是的無偏估計的無偏估計) 1() 1(222nSn) 1(222nn2221)(nnE) 1(22nnE不是不是2的無偏估計，而的無偏估計，而22122)(111SXXnnnnii為2的無偏估計。的無偏估計。第19頁/共30頁6.3 置信區(qū)間置信區(qū)間(P141) 上一節(jié)中，我們討論了參數(shù)的點估計，只要給定上一節(jié)中，我們討論了參數(shù)的點估計，只要給定樣本觀察值，就能算出參數(shù)的估計值。但用點估計的樣

15、本觀察值，就能算出參數(shù)的估計值。但用點估計的方法得到的估計值不一定是參數(shù)的真值，即使與真值方法得到的估計值不一定是參數(shù)的真值，即使與真值相等也無法肯定這種相等（因為總體參數(shù)本身是未知相等也無法肯定這種相等（因為總體參數(shù)本身是未知的），也就是說，由的），也就是說，由點估計得到的參數(shù)估計值沒有給點估計得到的參數(shù)估計值沒有給出它與真值之間的可靠程度，在實際應用中往往還需出它與真值之間的可靠程度，在實際應用中往往還需要知道參數(shù)的估計值落在其真值附近的一個范圍。要知道參數(shù)的估計值落在其真值附近的一個范圍。為為此我們要求由樣本構造一個以較大的概率包含真實參此我們要求由樣本構造一個以較大的概率包含真實參數(shù)的

16、一個范圍或區(qū)間，這種帶有概率的區(qū)間稱為數(shù)的一個范圍或區(qū)間，這種帶有概率的區(qū)間稱為置信置信區(qū)間區(qū)間，通過構造一個置信區(qū)間對未知參數(shù)進行估計的，通過構造一個置信區(qū)間對未知參數(shù)進行估計的方法稱為方法稱為區(qū)間估計區(qū)間估計。 第20頁/共30頁一、置信區(qū)間的概念一、置信區(qū)間的概念（P141）定義定義 設總體設總體X的分布函數(shù)族為的分布函數(shù)族為F(x;), ，對于對于給定的給定的(01)，如果有兩個統(tǒng)計量如果有兩個統(tǒng)計量),(21nXXX),(21nXXX使得使得1P對一切對一切成立，則稱隨機區(qū)間成立，則稱隨機區(qū)間),(是是的置信度為的置信度為1- -雙側置信區(qū)間，雙側置信區(qū)間，1- -稱為稱為置信度（置

17、置信度（置信水平）信水平），稱為稱為雙側置信下限雙側置信下限； 稱為稱為雙側置信下限雙側置信下限。由定義可知，置信區(qū)間是以統(tǒng)計量為端點的隨機區(qū)間，對于給定由定義可知，置信區(qū)間是以統(tǒng)計量為端點的隨機區(qū)間，對于給定的樣本觀察值的樣本觀察值(x1,x2,xn)，由統(tǒng)計量，由統(tǒng)計量、構成的置信區(qū)間構成的置信區(qū)間，可能包含真值可能包含真值，也可能不包含真值，也可能不包含真值，但在多次觀察或試驗中，但在多次觀察或試驗中，每一個樣本皆得到一個置信區(qū)間，在這些區(qū)間中包含真值每一個樣本皆得到一個置信區(qū)間，在這些區(qū)間中包含真值的區(qū)的區(qū)間占間占100(1-)%，不包含不包含的僅占的僅占100%。第21頁/共30頁例

18、例6.9 （P143/例1） 設設(X1,X2,Xn)是取自總體是取自總體XN(,2)的一個的一個樣本，其中樣本，其中2已知，已知，未知。試求出未知。試求出的置信度為的置信度為1- -的置信區(qū)間。的置信區(qū)間。解解 由于樣本均值由于樣本均值是總體均值是總體均值的無偏估計，且的無偏估計，且X),(2nNX故統(tǒng)計量故統(tǒng)計量) 1 , 0( NnXU由標準正態(tài)分布的雙側由標準正態(tài)分布的雙側 分位數(shù)的定義可知分位數(shù)的定義可知1/2/unXP122unXuP即122unXunXP即即落在區(qū)間落在區(qū)間22,unXunX內的概率為內的概率為1- -。此區(qū)間稱為此區(qū)間稱為的置信度為的置信度為1- -的置信區(qū)間的

19、置信區(qū)間。 -u/2 O u/2 x(x)/2/21- -第22頁/共30頁二、求置信區(qū)間的解題步驟二、求置信區(qū)間的解題步驟（P142）從此例我們發(fā)現(xiàn)隨機變量從此例我們發(fā)現(xiàn)隨機變量U在區(qū)間的構造中起著關鍵的在區(qū)間的構造中起著關鍵的作用，它具有下述特點：作用，它具有下述特點：(1) U是待估參數(shù)是待估參數(shù)和統(tǒng)計量和統(tǒng)計量(2)不含其它未知參數(shù)；不含其它未知參數(shù)；(3)服從與未知參數(shù)無關的已知分布。服從與未知參數(shù)無關的已知分布。求置信區(qū)間的一般步驟（見求置信區(qū)間的一般步驟（見P142）的函數(shù)；的函數(shù)；X第23頁/共30頁6.4 正態(tài)總體參數(shù)置信區(qū)間正態(tài)總體參數(shù)置信區(qū)間(P146)求正態(tài)總體參數(shù)置信

20、區(qū)間的解題步驟：求正態(tài)總體參數(shù)置信區(qū)間的解題步驟：(1)根據(jù)實際問題構造樣本的函數(shù)，根據(jù)實際問題構造樣本的函數(shù)，要求僅含待估參數(shù)要求僅含待估參數(shù)且分布已知且分布已知；(2)令該令該函數(shù)落在由分位點確定函數(shù)落在由分位點確定的區(qū)間里的概率為的區(qū)間里的概率為給定給定的置信度的置信度1，要求要求區(qū)間按幾何對稱或概率對稱區(qū)間按幾何對稱或概率對稱；(3)解不等式得隨機的置信解不等式得隨機的置信區(qū)間；區(qū)間；(4)由觀測值及由觀測值及 值查表計算得所求值查表計算得所求置信置信區(qū)間。區(qū)間。第24頁/共30頁一、單正態(tài)總體一、單正態(tài)總體N(,2)的均值的均值的置信的置信區(qū)間區(qū)間1、方差、方差2已知已知（P143)

21、由例由例6.9可知可知) 1 , 0( NnXU則則置信度為置信度為1- -的的的置信區(qū)間為的置信區(qū)間為22,unXunX(見見P121/定理定理1(2)第25頁/共30頁2、方差、方差2未知未知（P144）由于由于方差方差2未知，不能使用未知，不能使用nXU作為統(tǒng)計量作為統(tǒng)計量用用的無偏估計量的無偏估計量代替代替,則有則有) 1(ntnSXT(見見P121/定理定理3(2)1) 1() 1(22ntnSXntP則則的置信度為的置信度為1- -的置信區(qū)間的置信區(qū)間為為nSntXnSntX) 1(,) 1(22niiXXnS12)(111) 1() 1(22nSntXnSntXP第26頁/共30

22、頁例例6.10 已知某批燈泡的壽命已知某批燈泡的壽命X(單位單位:小時小時)N(,2)，現(xiàn)從這批燈現(xiàn)從這批燈泡中抽取泡中抽取10個，測得壽命分別為個，測得壽命分別為1050,1100,1080,1120,1200,1250,1040,1130,1300,1200若若=0.05，求求的置信區(qū)間。的置信區(qū)間。(1)2=8，(2)未知。未知。解解(1)由于由于2=8，由樣本觀察值計算得，由樣本觀察值計算得1147Xn=10，=0.05查查標準正態(tài)分布表標準正態(tài)分布表得得nuX2102296. 1114775. 11147的置信度為的置信度為0.95的置信區(qū)間為（的置信區(qū)間為（1145.25，1148

23、.75）。）。 (2)由于由于2未知，由樣本觀察值計算得未知，由樣本觀察值計算得1147XS=87.0568, n=10, =0.05，查查t分布表得分布表得2622. 2)9() 1(025. 02tnt28.621147100568.872622. 21147) 1(2nSntX的置信度為的置信度為0.95的置信區(qū)間為（的置信區(qū)間為（1084.72，1209.28）。）。 96. 1025. 02 uu第27頁/共30頁（只考慮均值（只考慮均值未知情況下）（未知情況下）（p146)此時此時2的無偏估計為樣本方差的無偏估計為樣本方差且且) 1() 1(222nSn1) 1() 1() 1(2222221nSnnP1) 1(