概率論第五章

概率論第五章第一頁，共七十頁，編輯于2023年，星期六一般常用θ表示參數(shù)，參數(shù)θ所有可能取值組成的集合稱為參數(shù)空間，常用Θ表示。參數(shù)估計(jì)問題就是根據(jù)樣本對上述各種未知參數(shù)作出估計(jì)。參數(shù)估計(jì)的形式有兩種：點(diǎn)估計(jì)與區(qū)間估計(jì)。第二頁，共七十頁，編輯于2023年，星期六設(shè)x1,x2,

…,xn是來自總體的一個(gè)樣本，我們用一個(gè)統(tǒng)計(jì)量的取值作為θ的估計(jì)值，稱為θ的點(diǎn)估計(jì)（量），簡稱估計(jì)。在這里如何構(gòu)造統(tǒng)計(jì)量并沒有明確的規(guī)定，只要它滿足一定的合理性即可。這就涉及到二個(gè)問題：

其一

是如何給出估計(jì)，即估計(jì)的方法問題；

其二

是如何對不同的估計(jì)進(jìn)行評價(jià)，即估計(jì)的好壞判斷標(biāo)準(zhǔn)。第三頁，共七十頁，編輯于2023年，星期六 一、點(diǎn)估計(jì) §5.1矩法估計(jì) §5.2點(diǎn)估計(jì)優(yōu)劣的評價(jià)標(biāo)準(zhǔn) §5.3極大似然估計(jì) 二、區(qū)間估計(jì) §5.4區(qū)間估計(jì) §5.5單側(cè)置信限第四頁，共七十頁，編輯于2023年，星期六§5.1矩法估計(jì)矩法估計(jì)的基本思想：用樣本矩代替母體矩即從中解出.第五頁，共七十頁，編輯于2023年，星期六注意點(diǎn)(1)若估計(jì)一個(gè)未知參數(shù)，則解方程若估計(jì)兩個(gè)未知參數(shù)1,2，則解方程組第六頁，共七十頁，編輯于2023年，星期六注意點(diǎn)(2)矩法估計(jì)也可以用樣本中心矩代替母體中心矩即從中解出.第七頁，共七十頁，編輯于2023年，星期六例

x1,x2,

…,xn是來自(a,b)上的均勻分布U(a,b)的樣本，a與b均是未知參數(shù)，這里k=2，由于不難推出由此即可得到a,b的矩估計(jì)：第八頁，共七十頁，編輯于2023年，星期六例

x1,x2,

…,xn來自Г(α,λ)，求α，λ的矩估計(jì)。解：由μ1=E(X)=α/λ,ν2=Var(X)=α/λ2 解得α＝μ12/ν2，λ＝μ1/ν2，用代替μ1，ν2，得α,λ的矩估計(jì)為第九頁，共七十頁，編輯于2023年，星期六§5.1

習(xí)題P2861，4,5

第十頁，共七十頁，編輯于2023年，星期六如Poisson（λ）分布均值，方差均為λ，那么樣本均值，樣本方差均為矩估計(jì),那個(gè)好？§5.2點(diǎn)估計(jì)優(yōu)劣的評價(jià)標(biāo)準(zhǔn)對同一個(gè)未知參數(shù)，采用不同的方法找到的點(diǎn)估計(jì)可能不同。那么，自然要問：究竟是用哪一個(gè)更“好”些呢?這里介紹點(diǎn)估計(jì)的評價(jià)標(biāo)準(zhǔn).第十一頁，共七十頁，編輯于2023年，星期六

1、無偏性（從期望的角度）

2、有效性（從方差的角度）

3、均方誤差準(zhǔn)則（角度）

4、相合性（大樣本的角度）第十二頁，共七十頁，編輯于2023年，星期六無偏性

設(shè)是θ的一個(gè)估計(jì)，若則稱是θ的無偏估計(jì)，否則稱為有偏估計(jì)。第十三頁，共七十頁，編輯于2023年，星期六注意點(diǎn)是E(X)的無偏估計(jì)是Var(X)的無偏估計(jì)不是Var(X)的無偏估計(jì)第十四頁，共七十頁，編輯于2023年，星期六有效性

定義設(shè)是θ的兩個(gè)無偏估計(jì)，如果對任意的θ，有且有某個(gè)θ使得上述不等號嚴(yán)格成立，則稱比有效。第十五頁，共七十頁，編輯于2023年，星期六例設(shè)x1,x2,

…,xn是取自某總體的樣本，記總體均值為

，總體方差為2，則,,都是

的無偏估計(jì)，但顯然，只要n>1，比有效。這表明，用全部數(shù)據(jù)的平均估計(jì)總體均值要比只使用部分?jǐn)?shù)據(jù)更有效。第十六頁，共七十頁，編輯于2023年，星期六例設(shè)X1,X2,X3為來自總體X的樣本，E(X)=，Var(X)=2，下列統(tǒng)計(jì)量哪個(gè)更有效.第十七頁，共七十頁，編輯于2023年，星期六課堂練習(xí)設(shè)是參數(shù)的兩個(gè)獨(dú)立的無偏估計(jì)，且找出常數(shù)k1,k2，使得也是的無偏估計(jì)，并使它在所有這種形狀的估計(jì)中的方差最小.k1=1/3,k2=2/3第十八頁，共七十頁，編輯于2023年，星期六均方誤差第十九頁，共七十頁，編輯于2023年，星期六

點(diǎn)估計(jì)是一個(gè)統(tǒng)計(jì)量，因此它是一個(gè)隨機(jī)變量，我們不可能要求它完全等同于參數(shù)的真實(shí)取值。但我們可以要求估計(jì)量隨著樣本量的不斷增大而逼近參數(shù)真值，這就是相合性，嚴(yán)格定義如下。相合性第二十頁，共七十頁，編輯于2023年，星期六定義設(shè)θ∈Θ為未知參數(shù)，是θ的一個(gè)估計(jì)量，n是樣本容量，若對任何一個(gè)ε>0，有

則稱為θ參數(shù)的相合估計(jì)。第二十一頁，共七十頁，編輯于2023年，星期六相合性被認(rèn)為是對估計(jì)的一個(gè)最基本要求,如果一個(gè)估計(jì)量,在樣本量不斷增大時(shí)，它都不能把被估參數(shù)估計(jì)到任意指定的精度,那末這個(gè)估計(jì)是很值得懷疑的。樣本容量越大,估計(jì)應(yīng)當(dāng)越精確第二十二頁，共七十頁，編輯于2023年，星期六矩估計(jì)一般都具有相合性。比如：樣本均值是總體均值的相合估計(jì)；樣本標(biāo)準(zhǔn)差是總體標(biāo)準(zhǔn)差的相合估計(jì)；樣本變異系數(shù)是總體變異系數(shù)的相合估計(jì)。第二十三頁，共七十頁，編輯于2023年，星期六§5.2

習(xí)題P2951，2，4,7

第二十四頁，共七十頁，編輯于2023年，星期六§5.3極大似然估計(jì)5.3.1極大似然估計(jì)的基本思想：口袋中有黑、白兩種球，從中任取一只，發(fā)現(xiàn)是白球，則可以認(rèn)為：口袋中白球比黑球多第二十五頁，共七十頁，編輯于2023年，星期六5.3.2求極大似然估計(jì)的方法

設(shè)總體含有待估參數(shù)，得到樣本觀測值x1,x2,…,xn則找一個(gè)使得x1,x2,…,xn出現(xiàn)的可能性最大。第二十六頁，共七十頁，編輯于2023年，星期六極大似然估計(jì)的關(guān)鍵點(diǎn)

x1,x2,…,xn出現(xiàn)的可能性：(1)離散場合：(2)連續(xù)場合：稱以上L

的為似然函數(shù)。注意：(1)L是的函數(shù)，x1,x2,…,xn固定。(2)可以是多維的。

(3)下面任務(wù)是求L的極大點(diǎn)第二十七頁，共七十頁，編輯于2023年，星期六例

對正態(tài)總體N(,2)，θ=(,2)是二維參數(shù)，設(shè)有樣本x1,x2,

…,xn，則似然函數(shù)及其對數(shù)分別為

第二十八頁，共七十頁，編輯于2023年，星期六將lnL(,2)分別關(guān)于二個(gè)分量求偏導(dǎo)并令其為0,即得到似然方程組

(1)

(2)

第二十九頁，共七十頁，編輯于2023年，星期六

解此方程組，可由(1)得的極大似然估計(jì)為將之代入(2)給出2的極大似然估計(jì)利用二階導(dǎo)函數(shù)矩陣的非正定性可以說明上述估計(jì)使得似然函數(shù)取極大值。

第三十頁，共七十頁，編輯于2023年，星期六

雖然求導(dǎo)函數(shù)是求極大似然估計(jì)最常用的方法，但并不是在所有場合求導(dǎo)都是有效的。例

設(shè)x1,x2,

…,xn是來自均勻總體

U(0,θ)的樣本，試求θ的極大似然估計(jì)。第三十一頁，共七十頁，編輯于2023年，星期六

解似然函數(shù)要使L(θ)達(dá)到最大，即1/θn盡可能大，所以θ的取值應(yīng)盡可能小，但θ不能小于x(n)，由此給出θ的極大似然估計(jì)：第三十二頁，共七十頁，編輯于2023年，星期六5.3.3MLE的不變性設(shè)是的極大似然估計(jì)，g()是連續(xù)函數(shù)則g()是g()

的極大似然估計(jì)。第三十三頁，共七十頁，編輯于2023年，星期六

例

設(shè)x1,x2,

…,xn是來自正態(tài)總體N(,2)

的樣本，則和2的極大似然估計(jì)為，于是由不變性可得如下參數(shù)的極大似然估計(jì)，它們是:標(biāo)準(zhǔn)差的MLE是第三十四頁，共七十頁，編輯于2023年，星期六概率的MLE是；總體0.90分位數(shù)x0.90=+

u0.90

的MLE是，其中u0.90為標(biāo)準(zhǔn)正態(tài)分布的0.90分位數(shù)。第三十五頁，共七十頁，編輯于2023年，星期六5.3.4MLE的漸近正態(tài)性設(shè)是的極大似然估計(jì)，則漸近服從正態(tài)分布。第三十六頁，共七十頁，編輯于2023年，星期六§5.3

習(xí)題P3051，2，4,5，8

第三十七頁，共七十頁，編輯于2023年，星期六§5.4區(qū)間估計(jì)設(shè)是總體的一個(gè)未知參數(shù)，X1,X2,…,Xn為來自該總體的樣本，對給定的0<<1，如果能夠找到兩個(gè)統(tǒng)計(jì)量使得則稱隨機(jī)區(qū)間是的置信水平或置信度為1置信區(qū)間。

分別稱為置信下限和置信上限.第三十八頁，共七十頁，編輯于2023年，星期六注意點(diǎn)(1)點(diǎn)估計(jì)給出的是未知參數(shù)的一個(gè)近似值；區(qū)間估計(jì)給出的是未知參數(shù)的一個(gè)近似范圍，并且這個(gè)范圍包含未知參數(shù)值的可信度為1.點(diǎn)估計(jì)有使用方便、直觀等優(yōu)點(diǎn)，但并沒有提供關(guān)于估計(jì)精度的任何信息。第三十九頁，共七十頁，編輯于2023年，星期六

置信水平1-的含義是指:

在大量使用該置信區(qū)間時(shí)，至少有100(1-)%的區(qū)間含有θ。

注意點(diǎn)(2)第四十頁，共七十頁，編輯于2023年，星期六現(xiàn)假定=15,

2=4，有一個(gè)容量為10的樣本：14.8513.0113.5014.9316.9713.8017.953313.3716.2912.38

由該樣本可以算得的一個(gè)區(qū)間估計(jì)為該區(qū)間包含的真值——15。

若有100個(gè)樣本，也就得到100個(gè)區(qū)間，我們將這100個(gè)區(qū)間畫在下圖上。第四十一頁，共七十頁，編輯于2023年，星期六圖

的置信水平為0.90的置信區(qū)間這100個(gè)區(qū)間中有91個(gè)包含參數(shù)真值15，另外9個(gè)不包含參數(shù)真值。第四十二頁，共七十頁，編輯于2023年，星期六若取=0.50，我們也可以給出100個(gè)這樣的區(qū)間，可以看出，這100個(gè)區(qū)間中有50個(gè)包含參數(shù)真值15，另外50個(gè)不包含參數(shù)真值。圖

的置信水平為0.50的置信區(qū)間第四十三頁，共七十頁，編輯于2023年，星期六5.4.2

樞軸量法

構(gòu)造未知參數(shù)θ的置信區(qū)間的最常用的方法是樞軸量法，其步驟可以概括為如下三步：1.設(shè)法構(gòu)造一個(gè)樣本和θ的函數(shù)G=G(x1,…,xn,θ)

使得G的分布不依賴于未知參數(shù)。稱G為樞軸量。第四十四頁，共七十頁，編輯于2023年，星期六2.選擇二個(gè)常數(shù)c,d，使對給定的有P(c≤G≤d)=1

3.假如能將c≤G≤d

進(jìn)行恒等變化則是θ的1-置信區(qū)間。第四十五頁，共七十頁，編輯于2023年，星期六樞軸量法之例

例設(shè)總體X~N(,2)，其中2已知。X1,X2,…,Xn為X

的一個(gè)樣本，求的區(qū)間估計(jì)。解

因?yàn)閁為樞軸量由變形得第四十六頁，共七十頁，編輯于2023年，星期六例設(shè)總體X~N(,0.92)，X1,X2,…,X9

為X

的一個(gè)樣本，樣本均值為5，求的95%的置信區(qū)間。解

因?yàn)榈?置信區(qū)間為所以由u0.975

=1.96，得4.412,5.588,所求置信區(qū)間為(4.412，5.588)第四十七頁，共七十頁，編輯于2023年，星期六注意點(diǎn)置信區(qū)間不是唯一的。置信度相同時(shí)，置信區(qū)間越短越好。一般對稱取。第四十八頁，共七十頁，編輯于2023年，星期六正態(tài)總體未知參數(shù)的置信區(qū)間共分四種情況：(1)已知，的置信區(qū)間(2)未知，的置信區(qū)間(3)

已知，2的置信區(qū)間(4)未知，2的置信區(qū)間第四十九頁，共七十頁，編輯于2023年，星期六(1)已知，的置信區(qū)間樞軸量由得第五十頁，共七十頁，編輯于2023年，星期六(2)未知，的置信區(qū)間樞軸量由得第五十一頁，共七十頁，編輯于2023年，星期六(3)

已知，2的置信區(qū)間樞軸量由得第五十二頁，共七十頁，編輯于2023年，星期六(4)未知，2的置信區(qū)間樞軸量由得第五十三頁，共七十頁，編輯于2023年，星期六例

用天平秤某物體的重量9次，得平均值為（克），已知天平秤量結(jié)果為正態(tài)分布，其標(biāo)準(zhǔn)差為0.1克。試求該物體重量的0.95置信區(qū)間。解：此處1-=0.95，=0.05，查表知u0.975=1.96，于是該物體重量的0.95置信區(qū)間為

=(15.3347，15.4653)第五十四頁，共七十頁，編輯于2023年，星期六例設(shè)輪胎的壽命服從正態(tài)分布。隨機(jī)地抽12只輪胎試用，測得它們的壽命(單位：萬公里)如下：

4.684.854.324.854.615.025.204.604.584.724.384.70

求平均壽命的置信區(qū)間。解經(jīng)計(jì)算有=4.7092，s2=0.0615。取

=0.05，查表知t0.975(11)=2.2010，于是平均壽命的0.95置信區(qū)間為（單位：萬公里）第五十五頁，共七十頁，編輯于2023年，星期六兩個(gè)正態(tài)總體下的置信區(qū)間設(shè)總體X~N(1,12)，Y~N(2,22)，從中分別抽取容量為n和m的獨(dú)立樣本，樣本均值和樣本方差分別記為下面討論兩個(gè)均值差和兩個(gè)方差比的置信區(qū)間。第五十六頁，共七十頁，編輯于2023年，星期六兩個(gè)正態(tài)總體均值差的置信區(qū)間

求12置信區(qū)間第五十七頁，共七十頁，編輯于2023年，星期六均值差的置信區(qū)間(1與2已知時(shí))所以12的置信區(qū)間為：第五十八頁，共七十頁，編輯于2023年，星期六均值差的置信區(qū)間(1與2未知時(shí))所以(1)1=2=時(shí)：因?yàn)槎际?的無偏估計(jì)，也是2的無偏估計(jì)，12的置信區(qū)間為：第五十九頁，共七十頁，編輯于2023年，星期六均值差的置信區(qū)間(1與2未知時(shí))所以12的置信區(qū)間為：(2)n

與m

充分大時(shí)：第六十頁，共七十頁，編輯于2023年，星期六均值差的置信區(qū)間(1與2未知時(shí))所以12的置信區(qū)間為：(3)一般場合T不是N（0，1），用t（l）分布近似第六十一頁，共七十頁，編輯于2023年，星期六均值差的置信區(qū)間(1與2未知時(shí))所以12的置信區(qū)間為：(4)n=m

成對時(shí)：令Zi=XiYi,i=1,2,…,n

則Zi=XiYi，所以第六十二頁，共七十頁，編輯于2023年，星期六二、

12/22的置信區(qū)間(1,2

未知)由于(n-1)sx2/12

2(n-1),(m-1)sy2/22

2(m-1)，且sx2與sy2相互獨(dú)立，故由得第六十三頁，共七十頁，編輯于2023年，星期六例某車間有兩臺(tái)自動(dòng)機(jī)床加工一類套筒，假設(shè)套筒直徑服從正態(tài)分布?，F(xiàn)在從二個(gè)班次的產(chǎn)品中分別檢查了5個(gè)和6個(gè)套筒，得其直徑數(shù)據(jù)