教學(xué)講解課件點(diǎn)估計(jì)

一、參數(shù)的點(diǎn)估計(jì)二、參數(shù)的區(qū)間估計(jì)下頁(yè)第七章參數(shù)估計(jì)問(wèn)題：若總體X的分布函數(shù)F(x)的類型已知，但它的一個(gè)或多個(gè)參數(shù)未知,如何估計(jì)總體的未知參數(shù)？想法：用X的一組樣本觀察值(x1,x2,…,xn)來(lái)估計(jì)總體中未知參數(shù)的值,即用樣本統(tǒng)計(jì)量的值估計(jì)總體中未知參數(shù)的值.一、參數(shù)的點(diǎn)估計(jì)二、參數(shù)的區(qū)間估計(jì)下頁(yè)第七章參數(shù)估計(jì)一般地,整批產(chǎn)品壽命點(diǎn)估計(jì)問(wèn)題的實(shí)際背景例從某廠生產(chǎn)的一批器件中隨機(jī)抽取10件，測(cè)得其分析現(xiàn)要根據(jù)抽檢結(jié)果,對(duì)未知參數(shù)的大小進(jìn)行推斷壽命值分別為試問(wèn)怎樣估計(jì)該批器件的平均壽命？(小時(shí))按題設(shè),從總體抽取了一個(gè)容量為的樣本由大數(shù)定律有當(dāng)較大時(shí)與的“差別”應(yīng)該較小一般地,整批產(chǎn)品壽命點(diǎn)估計(jì)問(wèn)題的實(shí)際背景例從某廠生產(chǎn)的一批器一般地,整批產(chǎn)品壽命點(diǎn)估計(jì)問(wèn)題的實(shí)際背景例從某廠生產(chǎn)的一批器件中隨機(jī)抽取10件，測(cè)得其分析現(xiàn)要根據(jù)抽檢結(jié)果,對(duì)未知參數(shù)的大小進(jìn)行推斷所以器件的平均壽命估計(jì)值為壽命值分別為試問(wèn)怎樣估計(jì)該批器件的平均壽命？(小時(shí))按題設(shè),從總體抽取了一個(gè)容量為的樣本與的“差別”應(yīng)該較小(小時(shí))故可用作為的估計(jì)一般地,整批產(chǎn)品壽命點(diǎn)估計(jì)問(wèn)題的實(shí)際背景例從某廠生產(chǎn)的一批器未知參數(shù)點(diǎn)估計(jì)問(wèn)題的一般提法設(shè)總體其中的函數(shù)形式為已知為未為來(lái)自總體的樣本.的點(diǎn)估計(jì):構(gòu)造一個(gè)統(tǒng)計(jì)量用統(tǒng)計(jì)量觀察值作為未知參數(shù)的近似值.為的估計(jì)量稱為的估計(jì)值稱二重性問(wèn)題question依據(jù)什么原理求未知參數(shù)的點(diǎn)估計(jì)？？未知參數(shù)點(diǎn)估計(jì)問(wèn)題的一般提法設(shè)總體其中的函數(shù)形式為已知為問(wèn)題question估計(jì)的直觀要求是用①②？估計(jì)的“誤差”應(yīng)較小當(dāng)較大時(shí),估計(jì)的“精度”應(yīng)較高對(duì)“誤差”“精度”不同的解釋,有不同的估計(jì)方法常用的點(diǎn)估計(jì)方法矩估計(jì)法最大似然估計(jì)法最小二乘估計(jì)法問(wèn)題question估計(jì)的直觀要求是用①②？估計(jì)的“設(shè)下列總體矩都存在：由辛欽大數(shù)定律有故當(dāng)較大時(shí),可認(rèn)為又（一）矩估計(jì)法設(shè)總體為未知參數(shù),為來(lái)自總體的樣本.令不一樣！可認(rèn)為它們差別不大,解得這是含變量的方程組為稱的矩估計(jì)量(矩估計(jì))未知參數(shù)真值近似值是否一樣？設(shè)下列總體矩都存在：由辛欽大數(shù)定律有故當(dāng)較大時(shí),可認(rèn)為又mk=E(Xk)ck=E[X-E(X)]k總體矩總體矩的估計(jì)值樣本矩==顯然,通常取:理論根據(jù)：大數(shù)定律、格利文科定理.下頁(yè)

矩估計(jì)法：是用樣本矩估計(jì)相應(yīng)的總體矩，用樣本矩函數(shù)估計(jì)總體矩的同一函數(shù)的一種估計(jì)方法.mk=E(Xk)ck=E[X-E(X)]k總體矩例1．設(shè)總體X~N(m,s2

)，試求m,s2的矩估計(jì)量.解得m,s2的矩計(jì)量分別為即下頁(yè)解：設(shè)(X1,…,Xn)為X的一個(gè)樣本，依題意知E(X)=

m,D(X)=

s2，據(jù)矩估計(jì)法有例1．設(shè)總體X~N(m,s2)，試求m,s2的解得q1,q2的矩估計(jì)量為即例2．設(shè)總體X~U[a

,b]，試求a，b的矩估計(jì)量.下頁(yè)解：設(shè)(X1,…,Xn)為X的一個(gè)樣本，依題意知

據(jù)矩估計(jì)法有思考一從直觀看該結(jié)果是否合理？從直觀看更好的估計(jì)應(yīng)該是什么？思考二解得q1,q2的矩估計(jì)量為即例2．設(shè)總體X~U[a,E(X)=q,根據(jù)矩估計(jì)法有(k=0,1,2…；0<q<+∞)同樣，又由于D(X)=q，故可得q的另一個(gè)矩估計(jì)量為由此可見一個(gè)參數(shù)的矩估計(jì)量是不唯一的.例3．設(shè)總體X服從參數(shù)為q的泊松分布，即問(wèn)題：哪一個(gè)作為估計(jì)量更好呢？下頁(yè)試求q的矩估計(jì)量.解：設(shè)(X1,…,Xn)為X的一個(gè)樣本，依題意知

E(X)=q,根據(jù)矩估計(jì)法有(k=0,1,2…；0<原理直觀，是一種古老的參數(shù)估計(jì)方法只用到總體矩，用法簡(jiǎn)單，如果總體矩不存在，則無(wú)法求參數(shù)的點(diǎn)估計(jì)由于沒(méi)有用到總體的分布形式，所以總體分布包含的參數(shù)信息沒(méi)有加以利用由于矩估計(jì)基于大數(shù)定律，所以在大樣本下矩估計(jì)才有較好的效果設(shè)總體

X

服從Cauchy分布，其密度函數(shù)為則未知參數(shù)的矩估計(jì)不存在.例關(guān)于矩估計(jì)法的評(píng)價(jià)為什么？原理直觀，是一種古老的參數(shù)估計(jì)方法只用到總體(二)極大似然估計(jì)法一個(gè)隨機(jī)試驗(yàn)有很多可能結(jié)果,Fisher的極大似然思想如果在一次試驗(yàn)中，某結(jié)果發(fā)生了，則認(rèn)為該結(jié)果(事件)發(fā)生的可能性最大

一老戰(zhàn)士與一新同學(xué)一同進(jìn)行射擊訓(xùn)練，每人打了一槍，結(jié)果有一槍中靶.試問(wèn)這一槍是誰(shuí)打中的？

按照Fisher的極大似然思想，應(yīng)該認(rèn)為是老戰(zhàn)士打中的較合理

一袋中有紅、白兩顏色的球若干，只知道兩種球的比例為4:1，但不知道那種顏色的球占多.現(xiàn)從中任取一球，結(jié)果為白色.問(wèn)袋中哪種顏色的球較多？按照Fisher的極大似然思想，應(yīng)該認(rèn)為袋中白球較多例分析例分析(二)極大似然估計(jì)法一個(gè)隨機(jī)試驗(yàn)有很多可能結(jié)果,Fishe總體觀察值設(shè)問(wèn)怎樣從事件的角度解釋：樣本的觀察值為？樣本二重性一般理解為？當(dāng)為連續(xù)型總體時(shí)故不能這樣理解！中隨機(jī)點(diǎn)落在以為中心的充分小的鄰域內(nèi)？？若有使得則可作為的估計(jì)總體觀察值設(shè)問(wèn)怎樣從事件的角度解釋：的觀察值為？樣本二重性一設(shè)是總體的樣本,令,若存在統(tǒng)計(jì)量使得定義稱為似然函數(shù)則稱為的極大似然估計(jì),簡(jiǎn)記為MaximunLikelihoodEstimation設(shè)是總體的樣本,令似然函數(shù)為設(shè)總體服從指數(shù)分布其密度為因?yàn)榕c有相同的極值點(diǎn)，故令解似然方程，求得的

MLE

為稱為似然方程解例是來(lái)自總體的樣本，試求的似然函數(shù)為設(shè)總體服從指數(shù)分布其密度為因求似然函數(shù)設(shè)是來(lái)自總體的樣本寫似然方程(組)概率函數(shù)：密度或分布律極大似然估計(jì)的一般求法解似然方程(組)，則的

為①②③求似然函數(shù)設(shè)是來(lái)自總體⒊求極大似然估計(jì)步驟(1)寫出似然函數(shù);稱為樣本的似然函數(shù).使似然函數(shù)取得最大值的稱為q的極大似然估計(jì)值.這種方法稱為極大似然估計(jì)法.⒉極大似然函數(shù)下頁(yè)(2)取對(duì)數(shù);(3)求導(dǎo)數(shù);(4)由導(dǎo)數(shù)=0,解得估計(jì)值.設(shè)總體X的概率密度函數(shù)為f(x;q)，[若X是離散型,f(x;q)是分布律]q為未知參數(shù)(q也可以是向量)，則函數(shù)

⒊求極大似然估計(jì)步驟(1)寫出似然函數(shù);稱為樣本的似然函例5．X服從參數(shù)為l的指數(shù)分布，求l的極大似然估計(jì)量.下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為解得l的估計(jì)值為由所以l的估計(jì)量為例5．X服從參數(shù)為l的指數(shù)分布，求l的極大似然估計(jì)量.下例6．設(shè)X~N(m,s2）,求m,s2的極大似然估計(jì).解得m,s2的極大似然估計(jì)值為下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為例6．設(shè)X~N(m,s2）,求m,s2的極大似然估例7．設(shè)總體X具有均勻分布，密度函數(shù)為求未知參數(shù)q的極大似然估計(jì).顯然L是q的一個(gè)單值遞減函數(shù)，而另一方面，xi≤q(i=1,2,3…,n),下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為所以q的極大似然估計(jì)值為例7．設(shè)總體X具有均勻分布，密度函數(shù)為求未知參數(shù)q的極大似解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為兩邊取對(duì)數(shù)得對(duì)l求導(dǎo)數(shù)，并使其等于0得解這一方程得l的極大似然估計(jì)為比如，n=10,樣本觀測(cè)值為：10，13，65，18，79，42，65，77，88，123.則下頁(yè)例X~P(l)，求l極大似然估計(jì).解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為兩邊取對(duì)由

⑴

解得似然函數(shù)為

設(shè)是來(lái)自總體的樣本,試求未知參數(shù)的

MLE

.令⑴⑵，代入

⑵

解得故的

MLE

分別為解例由⑴解得似然函數(shù)為設(shè)似然函數(shù)為

設(shè)為來(lái)自均勻分布總體的樣本，求未知參數(shù)的

MLE

.解例顯然從似然方程無(wú)法求得

MLE.令其中所以

的

MLE是似然函數(shù)為設(shè)為來(lái)自均勻三、估計(jì)量的評(píng)選標(biāo)準(zhǔn)⒈一致性則稱為q的一致估計(jì)量.下頁(yè)⒉

無(wú)偏性無(wú)偏估計(jì)量.設(shè)為未知參數(shù)q的估計(jì)量，若E(

)=q，則稱為q的為未知參數(shù)q的估計(jì)量序列，設(shè)對(duì)于任意ε>0,有則稱較有效.⒊有效性設(shè)是q

的兩個(gè)無(wú)偏估計(jì)量，若三、估計(jì)量的評(píng)選標(biāo)準(zhǔn)⒈一致性則稱為q的一致估計(jì)量.解：因?yàn)橄马?yè)

問(wèn)哪個(gè)是

的無(wú)偏估計(jì)量？例8．設(shè)X1,X2,X3是來(lái)自均值為

的指數(shù)分布總體的樣本,其中

未知，設(shè)有估計(jì)量

解：因?yàn)橄马?yè)問(wèn)哪個(gè)是的無(wú)偏估計(jì)量？例8故為μ的無(wú)偏估計(jì)量.證：即S

2為s2的無(wú)偏估計(jì)量.下頁(yè)例9．試證樣本均值及樣本方差S

2分別是總體均值m及總體方差s2的無(wú)偏估計(jì).故為μ的無(wú)偏估計(jì)量.證：即S2為s2的無(wú)偏估作業(yè)：

170頁(yè)

1,3,5,7結(jié)束作業(yè)：170頁(yè)

1,3二、極大似然估計(jì)法

極大似然原理：一個(gè)隨機(jī)試驗(yàn)有若干種可能的結(jié)果A，B，C，…．若在一次試驗(yàn)中，結(jié)果A出現(xiàn)，則一般認(rèn)為試驗(yàn)條件對(duì)A出現(xiàn)有利，也即A出現(xiàn)的概率很大．

引例．設(shè)有外形完全相同的兩個(gè)箱子，甲箱有99個(gè)紅球1個(gè)藍(lán)球，乙箱有1個(gè)紅球99個(gè)藍(lán)球，今隨機(jī)地取出一箱，再?gòu)脑撓渲腥稳∫磺?，結(jié)果取得紅球，問(wèn)這球是從哪一個(gè)箱子中取出的？解：從甲箱中取得紅球的概率：P(紅/甲)=99/100；從乙箱中取得紅球的概率：P(紅/乙)=1/100.

顯然，從甲箱中取得紅球的概率，比從乙箱中取得紅球的概率大得多.既然在一次抽樣中取得紅球，當(dāng)然可以認(rèn)為是從抽取概率大的箱子中抽出的，故可作出統(tǒng)計(jì)推斷：紅球是從甲箱中取出的(合理).這就是－極大似然原理！下頁(yè)二、極大似然估計(jì)法極大似然原理：一個(gè)隨機(jī)試驗(yàn)有⒊求極大似然估計(jì)步驟(1)寫出似然函數(shù);稱為樣本的似然函數(shù).使似然函數(shù)取得最大值的稱為q的極大似然估計(jì)值.這種方法稱為極大似然估計(jì)法.⒉極大似然函數(shù)下頁(yè)(2)取對(duì)數(shù);(3)求導(dǎo)數(shù);(4)由導(dǎo)數(shù)=0,解得估計(jì)值.設(shè)總體X的概率密度函數(shù)為f(x;q)，[若X是離散型,f(x;q)是分布律]q為未知參數(shù)(q也可以是向量)，則函數(shù)

⒊求極大似然估計(jì)步驟(1)寫出似然函數(shù);稱為樣本的似然函例5．X服從參數(shù)為l的指數(shù)分布，求l的極大似然估計(jì)量.下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為解得l的估計(jì)值為由所以l的估計(jì)量為例5．X服從參數(shù)為l的指數(shù)分布，求l的極大似然估計(jì)量.下例6．設(shè)X~N(m,s2）,求m,s2的極大似然估計(jì).解得m,s2的極大似然估計(jì)值為下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為例6．設(shè)X~N(m,s2）,求m,s2的極大似然估例7．設(shè)總體X具有均勻分布，密度函數(shù)為求未知參數(shù)q的極大似然估計(jì).顯然L是q的一個(gè)單值遞減函數(shù)，而另一方面，xi≤q(i=1,2,3…,n),下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為所以q的極大似然估計(jì)值為例7．設(shè)總體X具有均勻分布，密度函數(shù)為求未知參數(shù)q的極大似一、參數(shù)的點(diǎn)估計(jì)二、參數(shù)的區(qū)間估計(jì)下頁(yè)第七章參數(shù)估計(jì)問(wèn)題：若總體X的分布函數(shù)F(x)的類型已知，但它的一個(gè)或多個(gè)參數(shù)未知,如何估計(jì)總體的未知參數(shù)？想法：用X的一組樣本觀察值(x1,x2,…,xn)來(lái)估計(jì)總體中未知參數(shù)的值,即用樣本統(tǒng)計(jì)量的值估計(jì)總體中未知參數(shù)的值.一、參數(shù)的點(diǎn)估計(jì)二、參數(shù)的區(qū)間估計(jì)下頁(yè)第七章參數(shù)估計(jì)一般地,整批產(chǎn)品壽命點(diǎn)估計(jì)問(wèn)題的實(shí)際背景例從某廠生產(chǎn)的一批器件中隨機(jī)抽取10件，測(cè)得其分析現(xiàn)要根據(jù)抽檢結(jié)果,對(duì)未知參數(shù)的大小進(jìn)行推斷壽命值分別為試問(wèn)怎樣估計(jì)該批器件的平均壽命？(小時(shí))按題設(shè),從總體抽取了一個(gè)容量為的樣本由大數(shù)定律有當(dāng)較大時(shí)與的“差別”應(yīng)該較小一般地,整批產(chǎn)品壽命點(diǎn)估計(jì)問(wèn)題的實(shí)際背景例從某廠生產(chǎn)的一批器一般地,整批產(chǎn)品壽命點(diǎn)估計(jì)問(wèn)題的實(shí)際背景例從某廠生產(chǎn)的一批器件中隨機(jī)抽取10件，測(cè)得其分析現(xiàn)要根據(jù)抽檢結(jié)果,對(duì)未知參數(shù)的大小進(jìn)行推斷所以器件的平均壽命估計(jì)值為壽命值分別為試問(wèn)怎樣估計(jì)該批器件的平均壽命？(小時(shí))按題設(shè),從總體抽取了一個(gè)容量為的樣本與的“差別”應(yīng)該較小(小時(shí))故可用作為的估計(jì)一般地,整批產(chǎn)品壽命點(diǎn)估計(jì)問(wèn)題的實(shí)際背景例從某廠生產(chǎn)的一批器未知參數(shù)點(diǎn)估計(jì)問(wèn)題的一般提法設(shè)總體其中的函數(shù)形式為已知為未為來(lái)自總體的樣本.的點(diǎn)估計(jì):構(gòu)造一個(gè)統(tǒng)計(jì)量用統(tǒng)計(jì)量觀察值作為未知參數(shù)的近似值.為的估計(jì)量稱為的估計(jì)值稱二重性問(wèn)題question依據(jù)什么原理求未知參數(shù)的點(diǎn)估計(jì)？？未知參數(shù)點(diǎn)估計(jì)問(wèn)題的一般提法設(shè)總體其中的函數(shù)形式為已知為問(wèn)題question估計(jì)的直觀要求是用①②？估計(jì)的“誤差”應(yīng)較小當(dāng)較大時(shí),估計(jì)的“精度”應(yīng)較高對(duì)“誤差”“精度”不同的解釋,有不同的估計(jì)方法常用的點(diǎn)估計(jì)方法矩估計(jì)法最大似然估計(jì)法最小二乘估計(jì)法問(wèn)題question估計(jì)的直觀要求是用①②？估計(jì)的“設(shè)下列總體矩都存在：由辛欽大數(shù)定律有故當(dāng)較大時(shí),可認(rèn)為又（一）矩估計(jì)法設(shè)總體為未知參數(shù),為來(lái)自總體的樣本.令不一樣！可認(rèn)為它們差別不大,解得這是含變量的方程組為稱的矩估計(jì)量(矩估計(jì))未知參數(shù)真值近似值是否一樣？設(shè)下列總體矩都存在：由辛欽大數(shù)定律有故當(dāng)較大時(shí),可認(rèn)為又mk=E(Xk)ck=E[X-E(X)]k總體矩總體矩的估計(jì)值樣本矩==顯然,通常取:理論根據(jù)：大數(shù)定律、格利文科定理.下頁(yè)

矩估計(jì)法：是用樣本矩估計(jì)相應(yīng)的總體矩，用樣本矩函數(shù)估計(jì)總體矩的同一函數(shù)的一種估計(jì)方法.mk=E(Xk)ck=E[X-E(X)]k總體矩例1．設(shè)總體X~N(m,s2

)，試求m,s2的矩估計(jì)量.解得m,s2的矩計(jì)量分別為即下頁(yè)解：設(shè)(X1,…,Xn)為X的一個(gè)樣本，依題意知E(X)=

m,D(X)=

s2，據(jù)矩估計(jì)法有例1．設(shè)總體X~N(m,s2)，試求m,s2的解得q1,q2的矩估計(jì)量為即例2．設(shè)總體X~U[a

,b]，試求a，b的矩估計(jì)量.下頁(yè)解：設(shè)(X1,…,Xn)為X的一個(gè)樣本，依題意知

據(jù)矩估計(jì)法有思考一從直觀看該結(jié)果是否合理？從直觀看更好的估計(jì)應(yīng)該是什么？思考二解得q1,q2的矩估計(jì)量為即例2．設(shè)總體X~U[a,E(X)=q,根據(jù)矩估計(jì)法有(k=0,1,2…；0<q<+∞)同樣，又由于D(X)=q，故可得q的另一個(gè)矩估計(jì)量為由此可見一個(gè)參數(shù)的矩估計(jì)量是不唯一的.例3．設(shè)總體X服從參數(shù)為q的泊松分布，即問(wèn)題：哪一個(gè)作為估計(jì)量更好呢？下頁(yè)試求q的矩估計(jì)量.解：設(shè)(X1,…,Xn)為X的一個(gè)樣本，依題意知

E(X)=q,根據(jù)矩估計(jì)法有(k=0,1,2…；0<原理直觀，是一種古老的參數(shù)估計(jì)方法只用到總體矩，用法簡(jiǎn)單，如果總體矩不存在，則無(wú)法求參數(shù)的點(diǎn)估計(jì)由于沒(méi)有用到總體的分布形式，所以總體分布包含的參數(shù)信息沒(méi)有加以利用由于矩估計(jì)基于大數(shù)定律，所以在大樣本下矩估計(jì)才有較好的效果設(shè)總體

X

服從Cauchy分布，其密度函數(shù)為則未知參數(shù)的矩估計(jì)不存在.例關(guān)于矩估計(jì)法的評(píng)價(jià)為什么？原理直觀，是一種古老的參數(shù)估計(jì)方法只用到總體(二)極大似然估計(jì)法一個(gè)隨機(jī)試驗(yàn)有很多可能結(jié)果,Fisher的極大似然思想如果在一次試驗(yàn)中，某結(jié)果發(fā)生了，則認(rèn)為該結(jié)果(事件)發(fā)生的可能性最大

一老戰(zhàn)士與一新同學(xué)一同進(jìn)行射擊訓(xùn)練，每人打了一槍，結(jié)果有一槍中靶.試問(wèn)這一槍是誰(shuí)打中的？

按照Fisher的極大似然思想，應(yīng)該認(rèn)為是老戰(zhàn)士打中的較合理

一袋中有紅、白兩顏色的球若干，只知道兩種球的比例為4:1，但不知道那種顏色的球占多.現(xiàn)從中任取一球，結(jié)果為白色.問(wèn)袋中哪種顏色的球較多？按照Fisher的極大似然思想，應(yīng)該認(rèn)為袋中白球較多例分析例分析(二)極大似然估計(jì)法一個(gè)隨機(jī)試驗(yàn)有很多可能結(jié)果,Fishe總體觀察值設(shè)問(wèn)怎樣從事件的角度解釋：樣本的觀察值為？樣本二重性一般理解為？當(dāng)為連續(xù)型總體時(shí)故不能這樣理解！中隨機(jī)點(diǎn)落在以為中心的充分小的鄰域內(nèi)？？若有使得則可作為的估計(jì)總體觀察值設(shè)問(wèn)怎樣從事件的角度解釋：的觀察值為？樣本二重性一設(shè)是總體的樣本,令,若存在統(tǒng)計(jì)量使得定義稱為似然函數(shù)則稱為的極大似然估計(jì),簡(jiǎn)記為MaximunLikelihoodEstimation設(shè)是總體的樣本,令似然函數(shù)為設(shè)總體服從指數(shù)分布其密度為因?yàn)榕c有相同的極值點(diǎn)，故令解似然方程，求得的

MLE

為稱為似然方程解例是來(lái)自總體的樣本，試求的似然函數(shù)為設(shè)總體服從指數(shù)分布其密度為因求似然函數(shù)設(shè)是來(lái)自總體的樣本寫似然方程(組)概率函數(shù)：密度或分布律極大似然估計(jì)的一般求法解似然方程(組)，則的

為①②③求似然函數(shù)設(shè)是來(lái)自總體⒊求極大似然估計(jì)步驟(1)寫出似然函數(shù);稱為樣本的似然函數(shù).使似然函數(shù)取得最大值的稱為q的極大似然估計(jì)值.這種方法稱為極大似然估計(jì)法.⒉極大似然函數(shù)下頁(yè)(2)取對(duì)數(shù);(3)求導(dǎo)數(shù);(4)由導(dǎo)數(shù)=0,解得估計(jì)值.設(shè)總體X的概率密度函數(shù)為f(x;q)，[若X是離散型,f(x;q)是分布律]q為未知參數(shù)(q也可以是向量)，則函數(shù)

⒊求極大似然估計(jì)步驟(1)寫出似然函數(shù);稱為樣本的似然函例5．X服從參數(shù)為l的指數(shù)分布，求l的極大似然估計(jì)量.下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為解得l的估計(jì)值為由所以l的估計(jì)量為例5．X服從參數(shù)為l的指數(shù)分布，求l的極大似然估計(jì)量.下例6．設(shè)X~N(m,s2）,求m,s2的極大似然估計(jì).解得m,s2的極大似然估計(jì)值為下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為例6．設(shè)X~N(m,s2）,求m,s2的極大似然估例7．設(shè)總體X具有均勻分布，密度函數(shù)為求未知參數(shù)q的極大似然估計(jì).顯然L是q的一個(gè)單值遞減函數(shù)，而另一方面，xi≤q(i=1,2,3…,n),下頁(yè)解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為所以q的極大似然估計(jì)值為例7．設(shè)總體X具有均勻分布，密度函數(shù)為求未知參數(shù)q的極大似解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為兩邊取對(duì)數(shù)得對(duì)l求導(dǎo)數(shù)，并使其等于0得解這一方程得l的極大似然估計(jì)為比如，n=10,樣本觀測(cè)值為：10，13，65，18，79，42，65，77，88，123.則下頁(yè)例X~P(l)，求l極大似然估計(jì).解：設(shè)x1,…,xn為樣本的一組觀測(cè)值，則似然函數(shù)為兩邊取對(duì)由

⑴

解得似然函數(shù)為

設(shè)是來(lái)自總體的樣本,試求未知參數(shù)的

MLE

.令⑴⑵，代入

⑵

解得故的

MLE

分別為解例由⑴解得似然函數(shù)為設(shè)似然函數(shù)為

設(shè)為來(lái)自均勻分布總體的樣本，求未知參數(shù)的

MLE

.解例顯然從似然方程無(wú)法求得

MLE.令其中所以

的

MLE是似然函數(shù)為設(shè)為來(lái)自均勻三、估計(jì)量的評(píng)選標(biāo)準(zhǔn)⒈一致性則稱為q的一致估計(jì)量.下頁(yè)⒉

無(wú)偏性無(wú)偏估計(jì)量.設(shè)為未知參數(shù)q的估計(jì)量，若E(

)=q，則稱為q的為未知參數(shù)q的估計(jì)量序列，設(shè)對(duì)于任意ε>0,有則稱較有效.⒊有效性設(shè)是q

的兩個(gè)無(wú)偏估計(jì)量，若三、估計(jì)量的評(píng)選標(biāo)準(zhǔn)⒈一致性則稱為q的一致估計(jì)量.解：因?yàn)橄马?yè)

問(wèn)哪個(gè)是

的無(wú)偏估計(jì)量？例8．設(shè)X1,X2,X3是來(lái)自均值為

的指數(shù)分布總體的樣本,其中

未知，設(shè)有估計(jì)量

解：因?yàn)橄马?yè)問(wèn)哪個(gè)是的無(wú)偏估計(jì)量？例8故為μ的無(wú)偏估計(jì)量.證：即S

2為s2的無(wú)偏估計(jì)量.下頁(yè)例9．試證樣本均值及樣本方差S

2分別是總體均值m及總體方差s2的無(wú)偏估計(jì).故為μ的無(wú)偏估計(jì)量.證：即S2為s2的無(wú)偏估作業(yè)：

170