矩估計(jì)和極大似然估計(jì)

關(guān)于矩估計(jì)和極大似然估計(jì)第七章第一節(jié)矩法估計(jì)二、常用分布參數(shù)的矩法估計(jì)一、矩法估計(jì)第2頁(yè),共53頁(yè)，2024年2月25日，星期天矩估計(jì)步驟：連續(xù)型離散型第3頁(yè),共53頁(yè)，2024年2月25日，星期天所以參數(shù)p的矩估計(jì)量為例：總體X的分布列為：

是來(lái)自總體X的樣本，解：由于總體X的分布為二項(xiàng)分布，第4頁(yè),共53頁(yè)，2024年2月25日，星期天設(shè)某炸藥廠一天中發(fā)生著火現(xiàn)象的次數(shù)X例1服從第5頁(yè),共53頁(yè)，2024年2月25日，星期天下面我們通過(guò)幾個(gè)例子說(shuō)明利用矩估計(jì)法求未知參數(shù)的過(guò)程。二、常用分布常數(shù)的矩法估計(jì)第6頁(yè),共53頁(yè)，2024年2月25日，星期天例2解第7頁(yè),共53頁(yè)，2024年2月25日，星期天注:

總體均值方差的矩估計(jì)量與總體分布無(wú)關(guān)。做矩估計(jì)時(shí),也可用中心矩建立關(guān)于未知參數(shù)的方程組，因而矩估計(jì)不唯一。λ未知，求參數(shù)λ的矩估計(jì)。例3解：第8頁(yè),共53頁(yè)，2024年2月25日，星期天解不合格品率p的矩法估計(jì)

分析設(shè)總體X為抽的不合格產(chǎn)品數(shù)，相當(dāng)于抽取了一組樣本X1，X2，…，Xn,且因p=EX,故

p

的矩估計(jì)量為

設(shè)某車(chē)間生產(chǎn)一批產(chǎn)品，為估計(jì)該批產(chǎn)品不合格品(即出現(xiàn)不合格產(chǎn)品的頻率).例4率，抽取了n件產(chǎn)品進(jìn)行檢查.第9頁(yè),共53頁(yè)，2024年2月25日，星期天例5解第10頁(yè),共53頁(yè)，2024年2月25日，星期天第11頁(yè),共53頁(yè)，2024年2月25日，星期天θ是未知參數(shù)，X1，X2，…,Xn，是X

的一組樣本，解設(shè)總體X的概率密度為解得例6求θ的矩估計(jì)量.第12頁(yè),共53頁(yè)，2024年2月25日，星期天其中θ＞0，μ與θ是未知參數(shù)，X1，X2，…,Xn，是X

的一組樣本，求μ與θ的矩估計(jì)量.解例7.

設(shè)總體X的概率密度為令第13頁(yè),共53頁(yè)，2024年2月25日，星期天令注意到DX=E(X2)－(EX)2=θ2=θ2+(θ+μ)2第14頁(yè),共53頁(yè)，2024年2月25日，星期天第七章第二節(jié)極大似然估計(jì)極大似然估計(jì)第15頁(yè),共53頁(yè)，2024年2月25日，星期天極大似然估計(jì)法:設(shè)是的一個(gè)樣本值事件發(fā)生的概率為為的函數(shù)，形式已知(如離散型)X的分布列為的聯(lián)合分布列為：為樣本的似然函數(shù)。定義7.1第16頁(yè),共53頁(yè)，2024年2月25日，星期天即取使得：與有關(guān),記為稱(chēng)為參數(shù)θ的極大似然估計(jì)值。稱(chēng)為參數(shù)θ的極大似然估計(jì)量。達(dá)到最大的參數(shù)作為θ的估計(jì)值。現(xiàn)從中挑選使概率樣本的似然函數(shù)第17頁(yè),共53頁(yè)，2024年2月25日，星期天若總體X屬連續(xù)型,其概率密度的形式已知，θ為待估參數(shù)；則的聯(lián)合密度：一般，關(guān)于θ可微，故θ可由下式求得：因此的極大似然估計(jì)θ也可從下式解得：在同一點(diǎn)處取極值。第18頁(yè),共53頁(yè)，2024年2月25日，星期天第19頁(yè),共53頁(yè)，2024年2月25日，星期天故似然函數(shù)為例1設(shè)是來(lái)自總體X的一個(gè)樣本，試求參數(shù)

p

的極大似然估計(jì)值.解：設(shè)是一個(gè)樣本值。X的分布列為：而令第20頁(yè),共53頁(yè)，2024年2月25日，星期天它與矩估計(jì)量是相同的。解得p的極大似然估計(jì)值p的極大似然估計(jì)量令解得第21頁(yè),共53頁(yè)，2024年2月25日，星期天設(shè)總體X的分布列為：是來(lái)自總體X的樣本，求p的極大解：似然函數(shù)為似然估計(jì)值。例2第22頁(yè),共53頁(yè)，2024年2月25日，星期天令即所以參數(shù)的極大似然估計(jì)量為第23頁(yè),共53頁(yè)，2024年2月25日，星期天解例3設(shè)X1,X2,…,Xn

是取自總體X

的一個(gè)樣本,，求參數(shù)λ的極大似然估計(jì)值。似然函數(shù)為:第24頁(yè),共53頁(yè)，2024年2月25日，星期天例4設(shè)未知，是一個(gè)樣本值求的極大似然估計(jì)量.解

設(shè)的概率密度為：似然函數(shù)為第25頁(yè),共53頁(yè)，2024年2月25日，星期天等價(jià)于因?yàn)閷?duì)于滿(mǎn)足的任意有即時(shí),取最大值在似然函數(shù)為第26頁(yè),共53頁(yè)，2024年2月25日，星期天故的極大似然估計(jì)值為:故的極大似然估計(jì)量為:即時(shí),取最大值在似然函數(shù)為第27頁(yè),共53頁(yè)，2024年2月25日，星期天今取得一組樣本Xk數(shù)據(jù)如下，問(wèn)如何估計(jì)θ？162950681001301402702803404104505206201902108001100

某電子管的使用壽命X（單位：小時(shí))服從指數(shù)分布例5

指數(shù)分布的點(diǎn)估計(jì)

分析

可用兩種方法：矩法估計(jì)和極大似然估計(jì).第28頁(yè),共53頁(yè)，2024年2月25日，星期天1）矩法估計(jì)第29頁(yè),共53頁(yè)，2024年2月25日，星期天2）極大似然估計(jì)構(gòu)造似然函數(shù)當(dāng)xi>0,（i=1,2,…,n)時(shí)，似然函數(shù)為取對(duì)數(shù)建立似然方程第30頁(yè),共53頁(yè)，2024年2月25日，星期天5.得極大似然估計(jì)量：求解得極大似然估計(jì)值第31頁(yè),共53頁(yè)，2024年2月25日，星期天似然函數(shù)為：例6設(shè)為未知參數(shù)，是來(lái)自X的一個(gè)樣本值，求的極大似然估計(jì)值。解：X的概率密度為：第32頁(yè),共53頁(yè)，2024年2月25日，星期天解得：令即：它們與相應(yīng)的矩估計(jì)量相同.第33頁(yè),共53頁(yè)，2024年2月25日，星期天

注：lnx是

x

的嚴(yán)格單增函數(shù)，lnL與L有相同的極大值，一般只需求lnL的極大值.求極大似然估計(jì)的一般步驟：寫(xiě)出似然函數(shù)2.

對(duì)似然函數(shù)取對(duì)數(shù)3.對(duì)

i(i=1,…,m)分別求偏導(dǎo),建立似然方程(組)解得分別為的極大估計(jì)值.第34頁(yè),共53頁(yè)，2024年2月25日，星期天例7

矩估計(jì)與似然估計(jì)不等的例子設(shè)總體概率密度為求參數(shù)θ的極大似然估計(jì),并用矩法估計(jì)θ.解

1)極大似然估計(jì)法構(gòu)造似然函數(shù)2.取對(duì)數(shù)：當(dāng)0<xi<1,(i=1,2,…,n)時(shí)第35頁(yè),共53頁(yè)，2024年2月25日，星期天2.取對(duì)數(shù)：當(dāng)0<xi<1,(i=1,2,…,n)時(shí)建立似然方程求解得極大似然估計(jì)值為5.極大似然估計(jì)量為第36頁(yè),共53頁(yè)，2024年2月25日，星期天2)矩估計(jì)法第37頁(yè),共53頁(yè)，2024年2月25日，星期天1.矩法估計(jì)量與極大似然估計(jì)量不一定相同；2.用矩法估計(jì)參數(shù)比較簡(jiǎn)單,但有信息量損失；3.極大似然估計(jì)法精度較高,但運(yùn)算較復(fù)雜；4.不是所有極大似然估計(jì)法都需要建立似然方程小結(jié)求解.第38頁(yè),共53頁(yè)，2024年2月25日，星期天解例6.

不合格品率的矩法估計(jì)

分析設(shè)總體X即抽一件產(chǎn)品的不合格產(chǎn)品數(shù)，相當(dāng)于抽取了一組樣本X1，X2，…，Xn,且因p=EX,故p

的矩估計(jì)量為

設(shè)某車(chē)間生產(chǎn)一批產(chǎn)品，為估計(jì)該批產(chǎn)品不合格品率，抽取了n件產(chǎn)品進(jìn)行檢查.(即出現(xiàn)不合格產(chǎn)品的頻率).第39頁(yè),共53頁(yè)，2024年2月25日，星期天不合格品率p

的估計(jì)設(shè)總體X是抽一件產(chǎn)品的不合格品數(shù)，記

p=P{X=1}=P{產(chǎn)品不合格}則X的分布列可表示為

現(xiàn)得到X的一組樣本X1，X2，…,Xn的實(shí)際觀察值為x1,x2,…,xn,則事件{X1=x1，X2=x2，…,Xn=xn}例7出現(xiàn)的可能性應(yīng)最大,其概率為第40頁(yè),共53頁(yè)，2024年2月25日，星期天

應(yīng)選取使L(p)達(dá)到最大的值作為參數(shù)

p的估計(jì).第41頁(yè),共53頁(yè)，2024年2月25日，星期天令解得（頻率值）注意到第42頁(yè),共53頁(yè)，2024年2月25日，星期天其中θ＞0，μ與θ是未知參數(shù)，X1，X2，…,Xn，解設(shè)總體X的概率密度為是X

的一組樣本，求μ與θ的矩估計(jì)量.例8第43頁(yè),共53頁(yè)，2024年2月25日，星期天令注意到DX=E(X2)－[E(X)]2=θ2=θ2+(θ+μ)2第44頁(yè),共53頁(yè)，2024年2月25日，星期天例9

均勻分布的極大似然估計(jì)

設(shè)樣本X1，X2，…，Xn來(lái)自在區(qū)間[0,

]上均勻分布的總體X,求

的極大似然估計(jì).解設(shè)x1,x2,…,xn是X1,X2,…,Xn的樣本值，似然函數(shù)為第45頁(yè),共53頁(yè)，2024年2月25日，星期天#

如圖所示，似然函數(shù)L在取到最大值，故θ的極大似然估計(jì)量為第46頁(yè),共53頁(yè)，2024年2月25日，星期天注意：該似然函數(shù)不能通過(guò)求導(dǎo)構(gòu)造似然方程.嘗試用其他方法求解！分析

θ的估計(jì)應(yīng)滿(mǎn)足：2.θ的值不能小于任何一個(gè)xi.1.θ的值盡可能?。坏?7頁(yè),共53頁(yè)，2024年2月25日，星期天第48頁(yè),共53頁(yè)，2024年2月25日，星期天第七章參數(shù)估計(jì)§3估計(jì)標(biāo)準(zhǔn)說(shuō)明：退出前一頁(yè)后一頁(yè)目錄第49頁(yè),共53頁(yè)，2024年2月25日，星期天第七章參數(shù)估計(jì)§3估計(jì)標(biāo)準(zhǔn)例