經(jīng)濟數(shù)學(xué)-概率論與數(shù)理統(tǒng)計課件：點估計

參數(shù)估計

點估計估計問題矩估計法極大似然估計法估計量的評選標(biāo)準(zhǔn)

引言

上一講，我們介紹了總體、樣本、簡單隨機樣本、統(tǒng)計量和抽樣分布的概念，介紹了統(tǒng)計中常用的三大分布，給出了幾個重要的抽樣分布定理.它們是進一步學(xué)習(xí)統(tǒng)計推斷的基礎(chǔ).

總體樣本統(tǒng)計量描述作出推斷研究統(tǒng)計量的性質(zhì)和評價一個統(tǒng)計推斷的優(yōu)良性，完全取決于其抽樣分布的性質(zhì).隨機抽樣

現(xiàn)在我們來介紹一類重要的統(tǒng)計推斷問題

參數(shù)估計問題是利用從總體抽樣得到的信息來估計總體的某些參數(shù)或者參數(shù)的某些函數(shù).

一、估計問題估計廢品率估計新生兒的體重估計湖中魚數(shù)……估計降雨量在參數(shù)估計問題中，假定總體分布形式已知，未知的僅僅是一個或幾個參數(shù).這類問題稱為參數(shù)估計.參數(shù)估計問題的一般提法X1,X2,…,Xn要依據(jù)該樣本對參數(shù)作出估計,或估計的某個已知函數(shù).現(xiàn)從該總體抽樣，得樣本

設(shè)有一個統(tǒng)計總體,總體的分布函數(shù)為F(x,)，其中為未知參數(shù).

對應(yīng)于樣本的一組觀測值（x1，x2，…，xn），估計量的值（x1，x2，…，xn）稱為θ的估計值，仍記作。設(shè)θ為總體X的未知參數(shù)，用樣本（X1，X2，…，Xn）構(gòu)成的一個統(tǒng)計量來估計θ的真值，稱為θ的估計量。估計量：估計值：參數(shù)估計點估計區(qū)間估計（假定身高服從正態(tài)分布）設(shè)這5個數(shù)是:1.651.671.681.781.69

估計

為1.68，這是點估計.這是區(qū)間估計.估計在區(qū)間[1.57,1.84]內(nèi)，例如我們要估計某隊男生的平均身高.

現(xiàn)從該總體選取容量為5的樣本，我們的任務(wù)是要根據(jù)選出的樣本（5個數(shù)）求出總體均值的估計值.而全部信息就由這5個數(shù)組成.

使用什么樣的統(tǒng)計量去估計？可以用樣本均值;也可以用樣本中位數(shù);還可以用別的統(tǒng)計量.問題是:

尋求估計量的方法1.矩估計法2.極大似然法這里我們主要介紹兩種方法.1.矩估計法

矩估計法是英國統(tǒng)計學(xué)家K.皮爾遜最早提出來的.由辛欽定理,若總體的數(shù)學(xué)期望有限,則有其中為連續(xù)函數(shù).

這表明

,當(dāng)樣本容量很大時,在統(tǒng)計上,可以用用樣本矩去估計總體矩.這一事實導(dǎo)出矩估計法.定義用樣本原點矩估計相應(yīng)的總體原點矩,又用樣本原點矩的連續(xù)函數(shù)估計相應(yīng)的總體原點矩的連續(xù)函數(shù),這種參數(shù)點估計法稱為矩估計法

.由前面知道矩估計的思想：用樣本的k階原點矩代替相應(yīng)的總體的k階原點矩?？傮w的k階原點矩：樣本的k階原點矩：

理論依據(jù):

大數(shù)定律矩估計法的具體做法如下

設(shè)總體的分布函數(shù)中含有k個未知參數(shù),那么它的前k階矩.一般都是這k個參數(shù)的函數(shù),記為：i=1,2,…,k從這k個方程中解出j=1,2,…,kj=1,2,…,k那么用諸的估計量Ai分別代替上式中的諸,即可得諸的矩估計量：矩估計量的觀察值稱為矩估計值

.

例1設(shè)總體X在[0,θ

]上服從均勻分布,θ

未知.是來自X

的樣本,試求θ的矩估計值.解解得θ

的矩估計量為于是θ

的矩估計值為解

例2設(shè)總體X的均值和方差都存在,未知.是來自X

的樣本,試求的矩估計量.解得于是的矩估計量為樣本矩總體矩

矩法的優(yōu)點是簡單易行,并不需要事先知道總體是什么分布.

缺點是，當(dāng)總體類型已知時，沒有充分利用分布提供的信息.一般場合下,矩估計量不具有唯一性.

其主要原因在于建立矩法方程時，選取那些總體矩用相應(yīng)樣本矩代替帶有一定的隨意性.

2.極大似然估計法

它是在總體類型已知條件下使用的一種參數(shù)估計方法.

它首先是由德國數(shù)學(xué)家高斯在1821年提出的.GaussFisher

然而,這個方法常歸功于英國統(tǒng)計學(xué)家費歇

.

費歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì).極大似然估計法的思想是:在一次隨機試驗中,實際發(fā)生的事件應(yīng)該是概率最大的事件,比如已經(jīng)取得一組樣本觀測值,則認(rèn)為事件發(fā)生的概率最大,這就是所謂的極大似然原理.似然函數(shù)若總體是離散型隨機變量,概率函數(shù)為,

其中為待估計的參數(shù).

設(shè)是取自總體的一組樣本觀測值,

也就是說事件發(fā)生了.因為隨機變量相互獨立,且與總體有相同的概率函數(shù),所以此事件發(fā)生的概率為.這一概率隨的取值而變化,它是的函數(shù),記為.即稱為離散型總體的似然函數(shù).若總體是連續(xù)型隨機變量,其概率密度函數(shù)為,其中為待估計的參數(shù).設(shè)是取自總體的一組樣本觀測值,則定義為連續(xù)型總體的似然函數(shù).對于一組樣本觀察值

,在取值的可能范圍內(nèi)挑選使似然函數(shù)

;達到最大值的參數(shù),

把作為未知參數(shù)的估計值.即取使;)=;這樣得到的

與樣本值有關(guān),記為

()，稱為參數(shù)

的極大似然估計值,

而相應(yīng)的統(tǒng)計量

(,

,)稱為參數(shù)

的極大

似然估計量.極大似然估計法的基本思想是選取估計值使小結(jié)：極大似然估計法的一般步驟：（２）取對數(shù)（３）求導(dǎo)數(shù)，得駐點，最大值點（４）作結(jié)論（1）寫似然函數(shù)L參數(shù)，如果取得樣本觀測值為的極大似然估計值.設(shè)總體服從泊松分布解:概率函數(shù)構(gòu)造似然函數(shù)為例3其中為未知求參數(shù)取對數(shù)，得令由此解得的極大似然估計值為解：θ的似然函數(shù)為：取對數(shù)例4：設(shè)(X1,X2,…Xn)是來自總體X的一個樣本求θ的極大似然估計量．其中>0,求導(dǎo)并令其為0=0從中解得

即為θ的極大似然估計量。

即為θ的極大似然估計值。

例5設(shè)總體X~N()

,未知.是來自X

的樣本值,試求的極大似然估計量.似然函數(shù)為解X的概率密度為于是令解得的極大大似然估計量為

練習(xí)1

設(shè)總體X的概率密度為其中是未知參數(shù),X1,X2,…,Xn是取自X的樣本,求參數(shù)的矩估計.解樣本矩總體矩解得的矩估計量為故其中為未知參數(shù)，如果取得樣本觀測值為設(shè)總體服從指數(shù)分布求參數(shù)的極大似然估計值.概率密度為解:似然函數(shù)為取對數(shù)，得練習(xí)2令由此解得的極大似然估計值為1、無偏性

無偏性要求估計量的取值要以參數(shù)真值為中心左右擺動。它等同于估計量的數(shù)學(xué)期望等于待估參數(shù)的真值。一個好的估計量應(yīng)滿足無偏性、有效性和一致性的要求。

二、估計量的評判標(biāo)準(zhǔn)設(shè)總體的均值方差證明:（1）樣本均值是總體均值的無偏估計量；無偏估計量.證：服從相同分布，所以有因為樣本相互獨立，且與總體

例1（2）樣本方差是總體方差的(1)

由數(shù)學(xué)期望與方差的性質(zhì)可知所以，是的無偏估計量:而（2）所以，是的無偏估計量:由此得

討論：對總體X～N(μ,σ2)來說，樣本(X1,X2,…,Xn)中的X1與都是μ的無偏估計量嗎？2.有效性參數(shù)

的無偏估計量,如果則稱比有效.設(shè)與都是如果對于給定的樣本容量

,

的方差

最小,則稱

是

的有效估計量.當(dāng)時依概率收斂于,