教學(xué)講解課件點估計

一、參數(shù)的點估計二、參數(shù)的區(qū)間估計下頁第七章參數(shù)估計問題：若總體X的分布函數(shù)F(x)的類型已知，但它的一個或多個參數(shù)未知,如何估計總體的未知參數(shù)？想法：用X的一組樣本觀察值(x1,x2,…,xn)來估計總體中未知參數(shù)的值,即用樣本統(tǒng)計量的值估計總體中未知參數(shù)的值.一般地,整批產(chǎn)品壽命點估計問題的實際背景例從某廠生產(chǎn)的一批器件中隨機(jī)抽取10件，測得其分析現(xiàn)要根據(jù)抽檢結(jié)果,對未知參數(shù)的大小進(jìn)行推斷壽命值分別為試問怎樣估計該批器件的平均壽命？(小時)按題設(shè),從總體抽取了一個容量為的樣本由大數(shù)定律有當(dāng)較大時與的“差別”應(yīng)該較小一般地,整批產(chǎn)品壽命點估計問題的實際背景例從某廠生產(chǎn)的一批器件中隨機(jī)抽取10件，測得其分析現(xiàn)要根據(jù)抽檢結(jié)果,對未知參數(shù)的大小進(jìn)行推斷所以器件的平均壽命估計值為壽命值分別為試問怎樣估計該批器件的平均壽命？(小時)按題設(shè),從總體抽取了一個容量為的樣本與的“差別”應(yīng)該較小

(小時)故可用作為的估計未知參數(shù)點估計問題的一般提法設(shè)總體其中的函數(shù)形式為已知為未為來自總體的樣本.的點估計:構(gòu)造一個統(tǒng)計量用統(tǒng)計量觀察值作為未知參數(shù)的近似值.為的估計量稱為的估計值稱二重性問題question依據(jù)什么原理求未知參數(shù)的點估計？？問題question估計的直觀要求是用①②？估計的“誤差”應(yīng)較小當(dāng)較大時,估計的“精度”應(yīng)較高對“誤差”“精度”不同的解釋,有不同的估計方法常用的點估計方法矩估計法最大似然估計法最小二乘估計法設(shè)下列總體矩都存在：由辛欽大數(shù)定律有故當(dāng)較大時,可認(rèn)為又（一）矩估計法設(shè)總體為未知參數(shù),為來自總體的樣本.令不一樣！可認(rèn)為它們差別不大,解得這是含變量的方程組為稱的矩估計量(矩估計)未知參數(shù)真值近似值是否一樣？mk=E(Xk)ck=E[X-E(X)]k總體矩總體矩的估計值樣本矩==顯然,通常取:理論根據(jù)：大數(shù)定律、格利文科定理.下頁

矩估計法：是用樣本矩估計相應(yīng)的總體矩，用樣本矩函數(shù)估計總體矩的同一函數(shù)的一種估計方法.例1．設(shè)總體X~N(m

,s2

)，試求m,s2的矩估計量.解得m,s2

的矩計量分別為即下頁解：設(shè)(X1,…,Xn)為X的一個樣本，依題意知

E(X)=

m,D(X)=

s2，據(jù)矩估計法有解得q1,q2的矩估計量為即例2．設(shè)總體X~U[a

,b]

，試求a

，b的矩估計量.下頁解：設(shè)(X1,…,Xn)為X的一個樣本，依題意知

據(jù)矩估計法有思考一從直觀看該結(jié)果是否合理？從直觀看更好的估計應(yīng)該是什么？思考二E(X)=q,根據(jù)矩估計法有(k=0,1,2…；0<q<+∞)同樣，又由于D(X)=q，故可得q的另一個矩估計量為由此可見一個參數(shù)的矩估計量是不唯一的.例3．設(shè)總體X服從參數(shù)為q的泊松分布，即問題：哪一個作為估計量更好呢？下頁試求q的矩估計量.解：設(shè)(X1,…,Xn)為X的一個樣本，依題意知

原理直觀，是一種古老的參數(shù)估計方法只用到總體矩，用法簡單，如果總體矩不存在，則無法求參數(shù)的點估計由于沒有用到總體的分布形式，所以總體分布包含的參數(shù)信息沒有加以利用由于矩估計基于大數(shù)定律，所以在大樣本下矩估計才有較好的效果設(shè)總體

X

服從

Cauchy分布，其密度函數(shù)為則未知參數(shù)的矩估計不存在.例關(guān)于矩估計法的評價為什么？(二)極大似然估計法一個隨機(jī)試驗有很多可能結(jié)果,Fisher的極大似然思想如果在一次試驗中，某結(jié)果發(fā)生了，則認(rèn)為該結(jié)果(事件)發(fā)生的可能性最大

一老戰(zhàn)士與一新同學(xué)一同進(jìn)行射擊訓(xùn)練，每人打了一槍，結(jié)果有一槍中靶.試問這一槍是誰打中的？

按照

Fisher的極大似然思想，應(yīng)該認(rèn)為是老戰(zhàn)士打中的較合理

一袋中有紅、白兩顏色的球若干，只知道兩種球的比例為4:1，但不知道那種顏色的球占多.現(xiàn)從中任取一球，結(jié)果為白色.問袋中哪種顏色的球較多？按照Fisher的極大似然思想，應(yīng)該認(rèn)為袋中白球較多例分析例分析總體觀察值設(shè)問怎樣從事件的角度解釋：樣本的觀察值為？樣本二重性一般理解為？當(dāng)為連續(xù)型總體時故不能這樣理解！中隨機(jī)點落在以為中心的充分小的鄰域內(nèi)？？若有使得則可作為的估計設(shè)是總體的樣本,令,若存在統(tǒng)計量使得定義稱為似然函數(shù)則稱為的極大似然估計,簡記為MaximunLikelihoodEstimation似然函數(shù)為設(shè)總體服從指數(shù)分布其密度為因為與有相同的極值點，故令解似然方程，求得的

MLE

為稱為似然方程解例是來自總體的樣本，試求的求似然函數(shù)設(shè)是來自總體的樣本寫似然方程(組)概率函數(shù)：密度或分布律極大似然估計的一般求法解似然方程(組)，則的

為①②③⒊求極大似然估計步驟(1)寫出似然函數(shù);稱為樣本的似然函數(shù).使似然函數(shù)取得最大值的稱為q的極大似然估計值.這種方法稱為極大似然估計法.⒉極大似然函數(shù)下頁(2)取對數(shù);(3)求導(dǎo)數(shù);(4)由導(dǎo)數(shù)=0,解得估計值.設(shè)總體X的概率密度函數(shù)為f(x;q)，[若X是離散型,f(x;q)是分布律]q為未知參數(shù)(q也可以是向量)，則函數(shù)

例5．X服從參數(shù)為l的指數(shù)分布，求l的極大似然估計量.下頁解：設(shè)x1,…,xn為樣本的一組觀測值，則似然函數(shù)為解得l的估計值為由所以l的估計量為例6．設(shè)X~N(m

,s2）,求m,s2的極大似然估計.解得m,s2的極大似然估計值為下頁解：設(shè)x1,…,xn為樣本的一組觀測值，則似然函數(shù)為例7．設(shè)總體X具有均勻分布，密度函數(shù)為求未知參數(shù)q的極大似然估計.顯然L是q的一個單值遞減函數(shù)，而另一方面，xi

≤q(i=1,2,3…,n),下頁解：設(shè)x1,…,xn為樣本的一組觀測值，則似然函數(shù)為所以q的極大似然估計值為解：設(shè)x1,…,xn為樣本的一組觀測值，則似然函數(shù)為兩邊取對數(shù)得對l求導(dǎo)數(shù)，并使其等于0得解這一方程得l的極大似然估計為比如，n=10,樣本觀測值為：10，13，65，18，79，42，65，77，88，123.則下頁例X~P(l)，求l極大似然估計.由

⑴

解得似然函數(shù)為

設(shè)是來自總體的樣本,試求未知參數(shù)的

MLE

.令⑴⑵，代入

⑵

解得故的

MLE

分別為解例似然函數(shù)為

設(shè)為來自均勻分布總體的樣本，求未知參數(shù)的

MLE

.解例顯然從似然方程無法求得

MLE.令其中所以

的

MLE

是三、估計量的評選標(biāo)準(zhǔn)⒈一致性則稱為q的一致估計量.下頁⒉

無偏性無偏估計量.設(shè)為未知參數(shù)q的估計量，若E(

)=q，則稱為q的為未知參數(shù)q的估計量序列，設(shè)對于任意ε>0,有則稱較有效.⒊有效性設(shè)是q

的兩個無偏估計量，若解：因為下頁

問哪個是

的無偏估計量？例8．設(shè)X1,X2,X3是來自均值為

的指數(shù)分布總體的樣本,其中

未知，設(shè)有估計量

故為μ的無偏估計量.證：即S

2為s2的無偏估計量.下頁例9．試證樣本均值及樣本方差S

2分別是總體均值m及總體方差s2的無偏估計.作業(yè)：

170頁

1,3,5,7結(jié)束二、極大似然估計法

極大似然原理：一個隨機(jī)試驗有若干種可能的結(jié)果A，B，C，…．若在一次試驗中，結(jié)果A出現(xiàn)，則一般認(rèn)為試驗條件對A出現(xiàn)有利，也即A出現(xiàn)的概率很大．

引例．設(shè)有外形完全相同的兩個箱子，甲箱有99個紅球1個藍(lán)球，乙箱有1個紅球99個藍(lán)球，今隨機(jī)地取出一箱，再從該箱中任取一球，結(jié)果取得紅球，問這球是從哪一個箱子中取出的？解：從甲箱中取得紅球的概率：P(紅/甲)=99/100；從乙箱中取得紅球的概率：P(紅/乙)=1/100.

顯然，從甲箱中取得紅球的概率，比從乙箱中取得紅球的概率大得多.既然在一次抽樣中取得紅球，當(dāng)然可以認(rèn)為是從抽取概率大的箱子中抽出的，故可作出統(tǒng)計推斷：紅球是從甲箱中取出的(合理).

這就是－極大似然原理！下頁⒊求極大似然估計步驟(1)寫出似然函數(shù);稱為樣本的似然函數(shù).使似然函數(shù)取得最大值的稱為q的極大似然估計值.這種方法稱為極大似然估計法.⒉極大似然函數(shù)下頁(2)取對數(shù);(3)求導(dǎo)數(shù);(4)由導(dǎo)數(shù)=0,解得估計值.設(shè)總體X的概率密度函數(shù)為f(x;q)，[若X是離散型,f(x;q)是分布律]q為未知參數(shù)(q也可以是向量)，則函數(shù)

例5．X服從參數(shù)為l的指數(shù)分布，求l的極大似然估計量.下頁解：設(shè)x1,…,xn為樣本的一組觀測值，則似然函數(shù)為解得l的估計值為由所以l的估計量為例6．設(shè)