概率論與數(shù)理統(tǒng)計(jì)6-1參數(shù)估計(jì).ppt

第一節(jié) 參數(shù)的點(diǎn)估計(jì) 第二節(jié) 估計(jì)量的評(píng)價(jià)標(biāo)準(zhǔn) 第三節(jié) 參數(shù)的區(qū)間估計(jì),參數(shù)估計(jì),第六章,第一節(jié) 參數(shù)的點(diǎn)估計(jì),一、點(diǎn)估計(jì)問(wèn)題的提法,二、估計(jì)量的求法,三、內(nèi)容小結(jié),第六章,一、點(diǎn)估計(jì)問(wèn)題的提法,注意：,二、估計(jì)量的求法,由于估計(jì)量是樣本的函數(shù), 是隨機(jī)變量, 故對(duì)不同的樣本值, 得到的參數(shù)值往往不同, 因此如何求得參數(shù) 的估計(jì)量便是問(wèn)題的關(guān)鍵所在.,常用構(gòu)造估計(jì)量的方法: (兩種),1. 矩估計(jì)法 2. 最(極)大似然估計(jì)法.,1. 矩估計(jì)法,基本思想：用樣本矩估計(jì)總體矩 , 用樣本矩的連續(xù)函數(shù)來(lái)估計(jì)總體矩的連續(xù)函數(shù),理論依據(jù):,它是基于一種簡(jiǎn)單的“替換”思想建立起來(lái)的一種估計(jì)方法 .,是英國(guó)統(tǒng)計(jì)學(xué)家K.皮爾遜最早提出的 .,大數(shù)定律,記總體k階原點(diǎn)矩為,樣本k階原點(diǎn)矩為,記總體k階中心矩為,樣本k階中心矩為,用樣本矩來(lái)估計(jì)總體矩, 用樣本矩的連續(xù)函數(shù)來(lái)估計(jì)總體矩的連續(xù)函數(shù), 這種估計(jì)法稱為矩估計(jì)法.,設(shè)總體 X 的分布函數(shù)為,m個(gè)待估參數(shù) (未知),為來(lái)自總體X的簡(jiǎn)單隨機(jī)樣本.,矩估計(jì)法的具體步驟:,矩估計(jì)量的觀察值稱為矩估計(jì)值.,注,方程組,中方程的個(gè)數(shù)等于待估參數(shù)的個(gè)數(shù).,解,根據(jù)矩估計(jì)法，令,例1,解,例2,解方程組得到a, b的矩估計(jì)量分別為,解,解方程組得到矩估計(jì)量分別為,例3,注. 上例表明:,總體均值與方差的矩估計(jì)量的表達(dá)式不因不同的總體分布而異.,一般地:,例4,設(shè)總體X的分布密度為,為來(lái)自總體X的樣本. 求參數(shù), 的矩估計(jì)量.,分析：,一般地，,只需要求：, 的矩估計(jì)量.,不含有，,故不能由此得到 的矩估計(jì)量.,解(方法1),要求：, 的矩估計(jì)量,(方法2),要求：, 的矩估計(jì)量：,注,此例表明：同一參數(shù)的矩估計(jì)量可不唯一.,矩估計(jì)法的優(yōu)點(diǎn)：簡(jiǎn)單易行, 并不需要事先 知道總體是什么分布 .,缺點(diǎn)：當(dāng)總體類型已知時(shí)，沒(méi)有 充分利用分布提供的信息. 一般場(chǎng)合下, 矩估計(jì)量不 具有唯一性 .,其主要原因在于建立矩法方程時(shí)，選取那些總體矩用相應(yīng)樣本矩代替,帶有一定的隨意性 .,小結(jié)：,最大似然估計(jì)法是在總體類型已知條件下使用的一種參數(shù)估計(jì)方法 .,它首先是由德國(guó)數(shù)學(xué)家 高斯在1821年提出的 ,Gauss,Fisher,然而，這個(gè)方法常歸功于 英國(guó)統(tǒng)計(jì)學(xué)家費(fèi)歇 .,費(fèi)歇在1922年重新發(fā)現(xiàn)了 這一方法，并首先研究了這種方法的一些性質(zhì) .,2. 最大似然估計(jì)法,為自總體X的樣本(X1,X2,Xn) 的一個(gè)觀察值，則稱樣本的聯(lián)合分布,(1) 似然函數(shù),定義6.1,設(shè)總體X的分布密度(或分布律)為 p(x; ),又設(shè),p(x1, x2, , xn; ),為似然函數(shù).,注,1 離散型X,此時(shí)，,2 連續(xù)型X,此時(shí)，,(2) 最大似然估計(jì)量(值),定義,最大似然估計(jì)值 (MLE).,maximum likelihood estimate,注,1 對(duì)于給定的樣本值,求 的最大似然估計(jì)問(wèn)題，歸結(jié)為求 L( ) 的最大值問(wèn)題;,則稱,由于,而,有相同的最大值點(diǎn)，因此，,為最大似然估計(jì)的必要條件為,稱它為似然方程組，其中,(3) 求最大似然估計(jì)(MLE)的步驟:,注,1 上述求最大似然估計(jì)的方法，要求lnL可微，,若不滿足此條件，則須從定義出發(fā)求最大似然估計(jì).,2 似然方程組是最大似然估計(jì)的必要條件， 而非充分條件.,解,似然函數(shù),例7,這一估計(jì)量與矩估計(jì)量是相同的.,解,例8,這一估計(jì)量與矩估計(jì)量是相同的.,解,X 的似然函數(shù)為,例9,它們與相應(yīng)的矩估計(jì)量相同.,解,例10,分析,三、內(nèi)容小結(jié),兩種求點(diǎn)估計(jì)的方法:,矩估計(jì)法,最大似然估計(jì)法,在統(tǒng)計(jì)問(wèn)題中往往先使用最大似然估計(jì)法, 在最大似然估計(jì)法使用不方便時(shí), 再用矩估計(jì)法.,費(fèi)希爾資料,Ronald Aylmer Fish