最大釋然估計與距估計.ppt

1、52 參數(shù)的最大似然估計與矩估計,一、最大似然估計,二、矩估計,一、最大似然估計,1 最大似然法的基本思想,在已經(jīng)得到試驗結(jié)果的情況下 我們應(yīng)該尋找使這個結(jié)果出現(xiàn)的可能性最大的那個作為真的估計,一、最大似然估計,1 最大似然法的基本思想,若X為離散型隨機變量 其概率分布的形式為 PXxp(x) 則樣本(X1 Xn)的概率分布,稱為似然函數(shù),設(shè)(X1 Xn)為來自總體X的樣本 X的分布類型已知 但參數(shù)未知,似然函數(shù)L()的值表示(X1 Xn)取值(x1 xn)的可能性的大小,一、最大似然估計,1 最大似然法的基本思想,設(shè)(X1 Xn)為來自總體X的樣本 X的分布類型已知 但參數(shù)未知,若已經(jīng)得到了

2、樣本值(x1 xn) 那該樣本值出現(xiàn)的可能性應(yīng)該是大的 因而我們選擇使L()達到最大值的那個作為真的估計,稱為似然函數(shù),若X為連續(xù)型隨機變量 其密度函數(shù)為f(x) 則樣本(X1 Xn)的密度函數(shù),定義54(最大似然估計) 若對任意給定的樣本值(x1 xn) 存在 * *(x1 xn) 使,則稱*(x1 xn)為的最大似然估計值 稱相應(yīng)的統(tǒng)計量*(X1 Xn)為的最大似然估計量 它們統(tǒng)稱為的最大似然估計 可簡記為MLE,2 最大似然估計的一般求法,當(dāng)似然函數(shù)關(guān)于未知參數(shù)可微時 一般可通過求導(dǎo)數(shù)得到MLE 其主要步驟是,(1)寫出似然函數(shù)(1 r),(3)判斷駐點為最大值點 (4)求得各參數(shù)的ML

3、E,說明 按照本課程的要求 當(dāng)似然函數(shù)的駐點惟一時 不必驗證該駐點是否為最大值點 可直接把駐點作為所求參數(shù)的最大似然估計,例57 設(shè)總體XN( 2) 與 2均未知 20 (X1 Xn)為來自X的樣本 (x1 xn)為樣本值 試求與 2的最大似然估計,解,X的密度為,似然函數(shù)為,例57 設(shè)總體XN( 2) 與 2均未知 20 (X1 Xn)為來自X的樣本 (x1 xn)為樣本值 試求與 2的最大似然估計,解,似然函數(shù)為,似然函數(shù)的駐點為,別為與2的最大似然估計值,最大似然估計的不變性,先求平均壽命EX即的最大似然估計量,解,似然函數(shù)為,先求平均壽命EX即的最大似然估計量,解,似然函數(shù)為,解,二、

4、矩估計,1 矩法的基本思想,用相應(yīng)的樣本矩去估計總體矩 用相應(yīng)的樣本矩的函數(shù)去估計總體矩的函數(shù),例如,二、矩估計,1 矩法的基本思想,一般地 若記,則總體的k階原點矩用相應(yīng)的樣本k階原點矩來估計 而總體的k階中心矩用相應(yīng)的樣本k階中心矩來估計 即,這種求點估計的方法叫做矩法,用矩法確定的估計量稱為矩估計量 相應(yīng)的估計值稱為矩估計值 矩估計量與矩估計值統(tǒng)稱為矩估計 可簡記為ME,2 矩估計的求法,按照矩法的基本思想求矩估計的一般步驟為 (1)從總體矩入手將待估參數(shù)表示為總體矩的函數(shù) 即 g(1 l 2 s) (2)用Ak Bk分別替換g中的k k,例59 設(shè)總體XN( 2) (X1 Xn)為取自總體X的樣本 試求 2的矩估計量,解,EX, 2DX,故,分別為與 2的矩估計量,由此可見 正態(tài)總體N( 2)中與 2的最大似然估計和矩估計是完全一樣的,例5.10 設(shè)總體X服從參數(shù)為m p的二項分布 m已知 p未知 (X Xn)為其樣本