概率論與數(shù)理統(tǒng)計(jì)ch7

1、第七章第七章 參數(shù)估計(jì)參數(shù)估計(jì) 7.1 7.1 點(diǎn)估計(jì)點(diǎn)估計(jì)一一. . 問題的提法問題的提法: :1212X( ; ), , , , nnF x XXXXx , x , , x設(shè)總體 的分布函數(shù)的形式為已知是待估參數(shù)，是 的一個(gè)樣本，是相應(yīng)的一個(gè)樣本觀測值。 )( ), , ,(),() , ,(21212121的估計(jì)值。的估計(jì)值。為參數(shù)為參數(shù)稱稱的估計(jì)量，的估計(jì)量，為為，我們稱，我們稱來估計(jì)未知參數(shù)來估計(jì)未知參數(shù)，用，用它的的觀察值值一個(gè)一個(gè)適當(dāng)?shù)牡慕y(tǒng)計(jì)量計(jì)量點(diǎn)估計(jì)問題點(diǎn)估計(jì)問題就是是要構(gòu)造構(gòu)造nnnn,x, ,xxXXXxxxXXX二、矩估計(jì)法二、矩估計(jì)法: :kkPnikikEXXnA1

2、1 由辛欽定理可知：樣本的原點(diǎn)矩依概率收由辛欽定理可知：樣本的原點(diǎn)矩依概率收斂到總體的原點(diǎn)矩，即斂到總體的原點(diǎn)矩，即據(jù)此，我們來定義一種參數(shù)的估計(jì)方法。據(jù)此，我們來定義一種參數(shù)的估計(jì)方法。為未知參數(shù)）為未知參數(shù)）（其中（其中，的分布函數(shù)為的分布函數(shù)為設(shè)總體設(shè)總體kkxFX , ,) , , ;(2121的的樣樣本本，是是來來自自XX, X Xn21定義：定義：的的矩矩估估計(jì)計(jì)量量。為為的的解解稱稱), 2 , 1(),(, 2 , 11),(21121kiXXXkrXnAEXininirrrkri的矩估計(jì)。的矩估計(jì)。求求是一個(gè)樣本，是一個(gè)樣本，均未知，均未知，又設(shè)設(shè)但都都存在，及方差方差的均值

3、的均值、設(shè)總體、設(shè)總體例例2n2122 , X ,X ,X , X1 樣本原點(diǎn)矩樣本原點(diǎn)矩依概率收斂于相應(yīng)的總體依概率收斂于相應(yīng)的總體原點(diǎn)原點(diǎn)矩矩, , 而樣本矩的連續(xù)函數(shù)依概率收斂于相應(yīng)的而樣本矩的連續(xù)函數(shù)依概率收斂于相應(yīng)的總體矩的連續(xù)函數(shù)總體矩的連續(xù)函數(shù)，所以所有的矩估計(jì)都有依，所以所有的矩估計(jì)都有依概率收斂這一性質(zhì)（相合性）。概率收斂這一性質(zhì)（相合性）。的的矩矩估估計(jì)計(jì)。求求的的樣樣本本，為為來來自自總總體體、已已知知例例212121,),(,2UXXXn的矩估計(jì)。的矩估計(jì)。的樣本，求的樣本，求是來自總體是來自總體其中其中，設(shè)總體設(shè)總體、例例2212222),(0,00,),( ),(

4、322XXXXxxexxfxfXnx的矩估計(jì)。的矩估計(jì)。的樣本，求的樣本，求是來自總體是來自總體，設(shè)總體設(shè)總體、例例XXXXxexfXnx),(21),( 421|三、極大似然估計(jì)方法三、極大似然估計(jì)方法:, , ,), , , ;(n212121的一個(gè)樣本的一個(gè)樣本是是的參數(shù)的參數(shù)待估計(jì)估計(jì)是是其中其中定義：總體定義：總體XXXXxfXkk.) , , ;() , , (n1i2121稱為樣本的似然函數(shù)稱為樣本的似然函數(shù)kikXfL., ,1 21的的函函數(shù)數(shù)似似然然函函數(shù)數(shù)是是參參數(shù)數(shù)k為為密度函數(shù)。度函數(shù)。為連續(xù)為連續(xù)型隨機(jī)變量時(shí)，隨機(jī)變量時(shí)，為分布為分布律；為為離散型隨機(jī)變量時(shí)，隨機(jī)變

5、量時(shí)，)()(2 xfXxfX。即似然函數(shù)的值比即似然函數(shù)的值比較大大的概率比的概率比較大大可以可以認(rèn)為取到這為取到這組值值已已經(jīng)發(fā)發(fā)生的隨機(jī)的隨機(jī)事件件它是是是一是一組樣本值樣本值易于發(fā)于發(fā)生的的事件件概率大的概率大的事件比概率小件比概率小根據(jù)根據(jù)經(jīng)驗(yàn)驗(yàn) , , , ,21n, x, , x x的極大似然估計(jì)值。的極大似然估計(jì)值。稱為稱為取到最大值的參數(shù)值取到最大值的參數(shù)值們們就將使得得我我較大大數(shù)值數(shù)值使得得因而是參而是參的函數(shù)的函數(shù)它是參數(shù)是參數(shù)是常數(shù)是常數(shù)對似然函數(shù)而對似然函數(shù)而言kkknLL,x, ,xx, , , , , ,21212121的極大似然估計(jì)量。的極大似然估計(jì)量。數(shù)數(shù)稱

6、為參稱為參應(yīng)的應(yīng)的統(tǒng)計(jì)量計(jì)量相相的極大似然估計(jì)值，而的極大似然估計(jì)值，而為為則稱則稱處取最大值取最大值在如如果似然函數(shù)似然函數(shù)定義定義iniiinikkiXXXxxxL), 2 , 1(),( ,),(), ,(:212121極大似然估計(jì)的求解方法極大似然估計(jì)的求解方法: :2 2、直接根據(jù)定義計(jì)算。、直接根據(jù)定義計(jì)算。1 1、求解對數(shù)似然方程：、求解對數(shù)似然方程：), 2 , 1(0),(ln21kiLik令若駐點(diǎn)唯一，即為極大似然估計(jì)。若駐點(diǎn)唯一，即為極大似然估計(jì)。的極大似然估計(jì)。的極大似然估計(jì)。求參數(shù)求參數(shù)的樣本，的樣本，是來自是來自；，設(shè)設(shè)、例例pXXXXxpppxfXnxx),(1

7、, 0)1(),( 5211的的極極大大似似然然估估計(jì)計(jì)。求求的的樣樣本本，為為來來自自總總體體、已已知知例例)(,621eXXXn221227 (, ), , , .nX NX , X , X 例 、 設(shè)總體其中均未知 設(shè)是來自該總體的一組樣本 求的極大似然估計(jì)例例8 8、設(shè)總體、設(shè)總體X服從服從 0 , 區(qū)間上的均勻分布區(qū)間上的均勻分布, , 求求 的極大似然估計(jì)的極大似然估計(jì)。例例9 9、設(shè)總體、設(shè)總體X服從服從 ,+1 區(qū)間上的均勻分布區(qū)間上的均勻分布, , 求求 的極大似然估計(jì)的極大似然估計(jì)。極大似然估計(jì)的性質(zhì)極大似然估計(jì)的性質(zhì):的極大似然估計(jì)。的極大似然估計(jì)。是是則則計(jì)計(jì)的極大似然

8、估的極大似然估是參數(shù)是參數(shù)又設(shè)設(shè)具有單值有單值反函數(shù)函數(shù)的函數(shù)的函數(shù)設(shè)設(shè))(u)uu ,u),u(),(uu(例如，例例如，例8 8中參數(shù)中參數(shù)的方差的方差DX的極大似然估計(jì)的極大似然估計(jì)為：為：222max12112)12(iXDX.0, 00,1),(的極大似然估計(jì)求練習(xí)：總體xxexfXx7.2. 7.2. 估計(jì)量的評選標(biāo)準(zhǔn)估計(jì)量的評選標(biāo)準(zhǔn) . ,:有效性和一致性有效性和一致性無偏性無偏性估計(jì)的三個(gè)常用標(biāo)準(zhǔn)是估計(jì)的三個(gè)常用標(biāo)準(zhǔn)是1 1、無偏性、無偏性: :估計(jì)量。估計(jì)量。的無偏的無偏是是則稱則稱有有且對于且對于存在的數(shù)的數(shù)學(xué)期期望定義：若估計(jì)量定義：若估計(jì)量 ,)(, ,)(),(n21

9、EEXXX的的漸近無無偏偏估估計(jì)計(jì)。為為，則則稱稱若若limEn例例1 1、對任何總體、對任何總體X，EX= =， DX= =2 2, ,X1, ,X2, , ,Xn是來自是來自X的樣本，證明：的樣本，證明：)0(43;2;1222222時(shí)時(shí)DXXEESnXDXEn例例2 2、X1,X2,Xn是來自是來自XU( (0 0, ,) )的樣本，的樣本， 證明：證明： 都是都是的無偏估計(jì)。的無偏估計(jì)。,max1,22121nXXXnnX2 2、有效性、有效性: :. )()( :212121有效有效比比稱稱則則，若有，若有若若定義定義DDEE 所有無偏估計(jì)中方差最小的無偏估計(jì)稱為所有無偏估計(jì)中方差最

10、小的無偏估計(jì)稱為最小方差無偏估計(jì)，或稱為有效估計(jì)。最小方差無偏估計(jì)，或稱為有效估計(jì)。上例中，上例中，n1n1時(shí)，時(shí)，)2(3222112nnDnD，有有效效：比比例例3 3、對任何總體、對任何總體X，EX= =，DX=2 2 , ,X1 ， X2, ,Xn 是來自是來自X 的樣本，的樣本，證明：證明： 比比 有效。有效。12)(,1121為為常常數(shù)數(shù)ininiiiiXX信信息數(shù)。數(shù)。稱為稱為其中其中下下界）（則則，若，若定理：總體定理：總體FisherXfEIRGnIDExfX2),(ln)()(1)();(.)(1)(的無偏估計(jì)）的無偏估計(jì)）（或稱為（或稱為達(dá)到方差下到方差下界的有效估計(jì)，的

11、有效估計(jì)，為為，則稱，則稱若若nID的的漸近有效估計(jì)。有效估計(jì)。為為則稱則稱若若, 1)()(1limDnIn的的漸近有效估計(jì)。有效估計(jì)。是是的有效估計(jì)；的有效估計(jì)；是是證明證明的樣本的樣本為正態(tài)總體為正態(tài)總體，設(shè)設(shè)、例例222212X1:,),(X,X 5nnSN。達(dá)到到方方差差界的的無無偏偏估估計(jì)計(jì)是是參參數(shù)數(shù)的的樣樣本本，證證明明：為為來來自自，、總總體體例例pXpXXXXxpppxfXnxx,1,0,)1 ();(42113 3、相合性（一致估計(jì)）、相合性（一致估計(jì)）: :. , 0 lim , 0,),(:n21的相合估計(jì)量的相合估計(jì)量為為則稱則稱即對即對若若定義定義PXXXPn由辛

12、欽定理知：由辛欽定理知：), 2 , 1(11kEXXnAkkPnikik故所有的矩估計(jì)都是相合估計(jì)。故所有的矩估計(jì)都是相合估計(jì)。的相合估計(jì)。的相合估計(jì)。為為的相合估計(jì)；的相合估計(jì)；為為的相合估計(jì)；的相合估計(jì)；為為證明：證明：的樣本的樣本為正態(tài)總體為正態(tài)總體、例例222221,),(,，6BSXNXXnn7.3 7.3 區(qū)間估計(jì)區(qū)間估計(jì) :),(),() 10(,),;(n2122n2111滿足和和，統(tǒng)計(jì)量計(jì)量給定的值定的值若對于若對于未知未知其中參數(shù)其中參數(shù)設(shè)總體設(shè)總體XXXXXXxfX定義定義: :。置信置信水平稱為置信度稱為置信度和置信下限，和置信下限，的置信上限的置信上限分別稱為置信度

13、為分別稱為置信度為和和區(qū)間區(qū)間的置信的置信的置信度為的置信度為是是則稱隨機(jī)區(qū)間則稱隨機(jī)區(qū)間)(11,1) ,(21211)(21P2 2、置信區(qū)間長度越短，估計(jì)越精確，所、置信區(qū)間長度越短，估計(jì)越精確，所以一般我們是對稱的?。豢梢宰C明此時(shí)的以一般我們是對稱的??；可以證明此時(shí)的置信區(qū)間長度最短。置信區(qū)間長度最短。1 1、所以置信區(qū)間并不唯一。所以置信區(qū)間并不唯一。即可，即可，滿足條件條件計(jì)量計(jì)量置信區(qū)間的定義中，置信區(qū)間的定義中，統(tǒng)1)(,2121P求置信區(qū)間的一般思路求置信區(qū)間的一般思路（樞軸量法）（樞軸量法）1 1、設(shè)法構(gòu)造一個(gè)隨機(jī)變量、設(shè)法構(gòu)造一個(gè)隨機(jī)變量Z=Z(X1,X2,Xn; ),除

14、參數(shù)除參數(shù) 外外, , Z不包含其他任何未知參數(shù)不包含其他任何未知參數(shù), ,Z的分的分布已知布已知( (或可求出或可求出),),并且不依賴于參數(shù)并且不依賴于參數(shù) , ,也不也不依賴于其他任何未知參數(shù)。（依賴于其他任何未知參數(shù)。（Z即稱為樞軸量即稱為樞軸量）的置信區(qū)間。的置信區(qū)間。的置信度為的置信度為這這就是是解得解得、由不、由不等式1 ),(),( );,(321221121nnnXXXXXXbXXXZa1)(21P即即：1);,( ,1221bXXXZaPban使得得求出求出、對于、對于給定的置信度定的置信度7.4.7.4.正態(tài)總體參數(shù)的區(qū)間估計(jì)正態(tài)總體參數(shù)的區(qū)間估計(jì)一、單個(gè)正態(tài)總體參數(shù)的區(qū)

15、間估計(jì)一、單個(gè)正態(tài)總體參數(shù)的區(qū)間估計(jì): :置信區(qū)間。置信區(qū)間。的的，樣本，求樣本，求的的是來自是來自設(shè)總體設(shè)總體1 , , , ),(2n212XXXXNX.,. 12的置信區(qū)間的置信區(qū)間求求已知時(shí)已知時(shí)當(dāng).,. 22的置信區(qū)間的置信區(qū)間求求未知時(shí)未知時(shí)當(dāng).32的置信區(qū)間的置信區(qū)間求求7.47.4 正態(tài)母體參數(shù)的置信區(qū)間正態(tài)母體參數(shù)的置信區(qū)間已知2XUn,22unXunX) 1 , 0(N未知2nSXT/,22tnSXtnSX) 1( nt被估 條件 選用 分布 1 的置信區(qū)間參數(shù) 樞軸量 222) 1(Sn) 1(2n) 1() 1(,) 1() 1(2212222nSnnSn未知已知212

16、niiX)(2n)()(,)()(221122212nXnXnini21 1、我們講的都是雙側(cè)的置信區(qū)間，實(shí)、我們講的都是雙側(cè)的置信區(qū)間，實(shí)際中還有單側(cè)的置信區(qū)間，如書上的際中還有單側(cè)的置信區(qū)間，如書上的定義。定義。2 2、若函數(shù)、若函數(shù)g(x)單調(diào)增，則：單調(diào)增，則：1)()()(1)(2121gggPP 若函數(shù)若函數(shù)g(x)單調(diào)減，則：單調(diào)減，則：1)()()(1)(1221gggPP問題舉例問題舉例例例1：設(shè)某異常區(qū)磁場強(qiáng)度服從正態(tài)分布：設(shè)某異常區(qū)磁場強(qiáng)度服從正態(tài)分布 ，現(xiàn)對該區(qū)進(jìn)行磁測，按儀器規(guī)定其方差不得超過現(xiàn)對該區(qū)進(jìn)行磁測，按儀器規(guī)定其方差不得超過0.01，今抽測，今抽測16個(gè)點(diǎn)，

17、算得個(gè)點(diǎn)，算得 問此儀器工作是否穩(wěn)定問此儀器工作是否穩(wěn)定 ？2( ,)N 212.7,0.0025,XS例例2：設(shè)樣本：設(shè)樣本 為正態(tài)分布為正態(tài)分布 的樣本，其中的樣本，其中 和和 為未知參數(shù)。設(shè)隨機(jī)變?yōu)槲粗獏?shù)。設(shè)隨機(jī)變量量 L 是關(guān)于是關(guān)于 的置信度為的置信度為 1 的置信區(qū)間的的置信區(qū)間的長度，求長度，求 。12,nXXX2( ,)N 22()E L例例3：設(shè)某種清漆的：設(shè)某種清漆的9個(gè)樣品，其干燥時(shí)間（以小時(shí)個(gè)樣品，其干燥時(shí)間（以小時(shí)計(jì)）分別為計(jì)）分別為6.0、5.7、5.8、6.5、7.0、6.3、5.6、6.1、5.0設(shè)干燥時(shí)間總體服從正態(tài)分布設(shè)干燥時(shí)間總體服從正態(tài)分布 ，求：求：

18、（1） 為為0.6時(shí)，時(shí)， 的置信度為的置信度為0.95 的單側(cè)置信上的單側(cè)置信上限。限。（2） 為未知，為未知， 的置信度為的置信度為0.95 的單側(cè)置信上的單側(cè)置信上限。限。2( ,)N 例例4：隨機(jī)地取某種炮彈：隨機(jī)地取某種炮彈9發(fā)做試驗(yàn)，得炮口速度發(fā)做試驗(yàn)，得炮口速度的樣本標(biāo)準(zhǔn)差為的樣本標(biāo)準(zhǔn)差為 S11（m / s），設(shè)炮口速度服），設(shè)炮口速度服從正態(tài)分布。從正態(tài)分布。求這種炮彈的炮口速度地標(biāo)準(zhǔn)差求這種炮彈的炮口速度地標(biāo)準(zhǔn)差 的置信度為的置信度為0.95的置信區(qū)間。的置信區(qū)間。二、兩個(gè)正態(tài)總體的區(qū)間估計(jì)二、兩個(gè)正態(tài)總體的區(qū)間估計(jì):., . 1212221的置信區(qū)間的置信區(qū)間求求已知時(shí)已知時(shí)和和當(dāng)., . 221222221的置信區(qū)間的置信區(qū)間求求未知未知但的的樣樣本本）為為來來自自（的的樣樣本本，）為為來來自自（，相相互獨(dú)獨(dú)立立，YYYYXXXXNYNXnm,),(),(2121222211. . 32221的置信區(qū)間的置信區(qū)間求求用表格表示如下：用表格表示如下：2221未知21,2211222/221/211,(1,1)(1,1)SSSFmnSFmn已已知知2221,2221222212nmuYXnmuYX未未知知2111,1122nmStYXnmStY