第7章參數(shù)估計(jì)

1、第7章 參數(shù)估計(jì)7.1 參數(shù)點(diǎn)估計(jì)的幾種方法7.1.1 參數(shù)點(diǎn)估計(jì)問題的提出在實(shí)際問題中，首先，總體的分布類型往往是知道的，未知的只是其中的某些參數(shù)。例如，等；其次，人們直接感興趣的往往不是總體的分布，而是總體的某些參數(shù)。因此參數(shù)估計(jì)就顯得特別重要。設(shè)為未知參數(shù)，為總體的樣本，點(diǎn)估計(jì)：就是尋找統(tǒng)計(jì)量作為參數(shù)的估計(jì)。7.1.2 矩法估計(jì)（MME） 總體矩 樣本矩一階： .二階： . . 階： （有限制） .特點(diǎn)：總體矩含有未知參數(shù)，樣本矩是統(tǒng)計(jì)量；總體矩和樣本矩（同階）是近似相等的（大數(shù)定律）。證：，（辛欽大數(shù)定律）。思想：用樣本矩代替總體矩，建立方程，解出其中的未知參數(shù)，參數(shù)的解即為它的矩估計(jì)

2、。例1 若總體，為來自總體的樣本，求的MME。解：求總體矩;建立方程，令，則，即得MME為。例2 設(shè)總體的期望、方差分別為，為來自總體的樣本，求的MME。解：求總體矩，。建立方程，令注：矩法估計(jì)是不需要知道總體的分布函數(shù)的。例7.1.2 設(shè)總體，為參數(shù)，為來自總體的樣本，求的MME。解：求總體矩，。建立方程，令7.1.3 最大似然估計(jì)（MLE）一、最大似然原理：一個(gè)隨機(jī)試驗(yàn)，有若干個(gè)可能出現(xiàn)的結(jié)果，現(xiàn)進(jìn)行一次試驗(yàn)，若事件發(fā)生，則認(rèn)為最大。二、概率函數(shù)若離散型，分布列若連續(xù)性，概率密度統(tǒng)稱為概率函數(shù)，記為，為未知參數(shù)。三、似然函數(shù)設(shè)為總體的一組樣本，為樣本的一組觀測值，現(xiàn)事件發(fā)生了，由最大似然原

3、理知，最大。當(dāng)總體為離散型，則最大，當(dāng)總體為連續(xù)型，則樣本落在點(diǎn)的鄰域內(nèi)的概率最大，其中與無關(guān)，由知，最大，也就是最大，記，稱為關(guān)于的似然函數(shù)。若使得達(dá)到最大，則稱為的最大似然估計(jì)值，其相應(yīng)的統(tǒng)計(jì)量為的最大似然估計(jì)量（MLE），記為。四、計(jì)算MLE若關(guān)于單調(diào)，則可根據(jù)單調(diào)函數(shù)的性質(zhì)求例4 設(shè)，求。解：概率函數(shù)為設(shè)為樣本的一組觀測值，則似然函數(shù)為由于關(guān)于單調(diào)下降，所以取最小值時(shí)，最大，但，所以由的任意性知：若關(guān)于不是單調(diào)的，要求極值點(diǎn)，可先求穩(wěn)定點(diǎn)，然后再驗(yàn)證。令，則為方程的解。通過解方程，求出（如果只有一個(gè)穩(wěn)定點(diǎn)就不需要驗(yàn)證了）。但是不易求導(dǎo)，于是引入對數(shù)似然函數(shù)：由于是的嚴(yán)格遞增函數(shù)，它們有

4、相同的極大值點(diǎn)，所以可令：。例5 設(shè)，求。 設(shè)總體（1）若已知，未知，試求的最大似然估計(jì)量；（2）若，均未知，試求，的最大似然估計(jì)量。解：的概率函數(shù)為。設(shè)為樣本的一組觀測值，（1）的似然函數(shù)為，從而對數(shù)似然函數(shù)為，令得，解方程得，由的任意性可知，最大似然估計(jì)。（2），的對數(shù)似然函數(shù)為，分別關(guān)于，求偏導(dǎo)，得似然方程組解得由的任意性可知，最大似然估計(jì)。7.2 點(diǎn)估計(jì)的評價(jià)標(biāo)準(zhǔn)一般地，不同的估計(jì)方法得到參數(shù)的估計(jì)不一定一樣，這時(shí)怎樣判斷估計(jì)的好壞呢？點(diǎn)估計(jì)常用的評價(jià)標(biāo)準(zhǔn)有三個(gè)：無偏性、有效性、一致性。7.2.1. 無偏性：設(shè)為未知參數(shù)的點(diǎn)估計(jì)，若，則稱為的無偏估計(jì)量，否則稱為有偏估計(jì)。 設(shè)樣本為來自

5、總體的一組樣本，。驗(yàn)證為的無偏估計(jì)；為的無偏估計(jì)。解：；。7.2.2. 有效性：設(shè)，是的兩個(gè)無偏估計(jì)量，如果，則稱比有效。 設(shè)總體的方差存在，。為的樣本，則是的兩個(gè)無偏估計(jì)量，驗(yàn)證哪個(gè)更有效。解：，所以比更有效。7.2.3. 一致性（相合性）：設(shè)為未知參數(shù)的點(diǎn)估計(jì)，為樣本容量，若，有，（或）則稱為的一致估計(jì)量。7.3 區(qū)間估計(jì)7.3.1 區(qū)間估計(jì)的概念定義1：設(shè)為總體的一個(gè)參數(shù)，是取自總體樣本，為某一實(shí)數(shù)，若存在兩個(gè)統(tǒng)計(jì)量，使得，則稱隨機(jī)區(qū)間為的置信水平（或置信系數(shù)）為的置信區(qū)間；，分別稱為的置信下限、置信上限，統(tǒng)稱為置信限。這種用一個(gè)區(qū)間來估計(jì)未知參數(shù)的方法稱為區(qū)間估計(jì)。意義：置信水平反映的

6、是區(qū)間包含的可靠程度。定義2：為未知參數(shù)，為的一個(gè)估計(jì)值，為某一給定實(shí)數(shù)，記，則稱為的置信水平為的區(qū)間估計(jì)。注：與樣本容量和有關(guān)；為隨機(jī)區(qū)間；大約有個(gè)區(qū)間包含。7.3.2 樞軸量法構(gòu)造未知參數(shù)的置信區(qū)間的最常用的方法：樞軸量法，借助假設(shè)檢驗(yàn)的接受域來構(gòu)造。 設(shè)為取自正態(tài)總體的樣本，其中已知，未知，試求參數(shù)的置信水平為的置信區(qū)間。解：的最大似然估計(jì)為，而由Fisher定理知，故，是樣本的函數(shù)，且含有未知參數(shù)，但其分布與未知參數(shù)無關(guān)。對于給定的，我們可以查標(biāo)準(zhǔn)正態(tài)分布表確定，使得，即，于是因此，的置信水平為的置信區(qū)間為。事實(shí)上，只要存在使得，即反解得就是的置信水平為的置信區(qū)間。等尾置信區(qū)間：使得兩

7、個(gè)尾巴的概率相等的區(qū)間，即，。圖示： y z樞軸量法的一般步驟：（1） 設(shè)法構(gòu)造一個(gè)樣本和的函數(shù)，使得的分布不依賴于未知參數(shù)，一般稱具有這種性質(zhì)的為樞軸量。（2） 適當(dāng)選取兩個(gè)常數(shù)，使對給定的，有；（3） 假如能將不等式恒等變形為，則有，從而即為的置信水平為的置信區(qū)間。上述構(gòu)造置信區(qū)間的關(guān)鍵在于樞軸量的構(gòu)造，一般由的點(diǎn)估計(jì)變形產(chǎn)生。7.3.3 單個(gè)正態(tài)總體參數(shù)的區(qū)間估計(jì)1. 已知時(shí)的置信區(qū)間令樞軸量，的置信水平為的置信區(qū)間為。 某燈泡廠的燈泡壽命（單位：小時(shí)）服從分布，今從中抽取一個(gè)容量為10的樣本，測得，試求平均壽命的置信區(qū)間（）。解: 令樞軸量，因?yàn)?，查?biāo)準(zhǔn)正態(tài)分布表得，所以，的置信水平為0.95的置信區(qū)間為（1145.25,1148.75）。2. 未知時(shí)的置信區(qū)間我們用的無偏估計(jì)量來代替，令樞軸量為，的置信水平為的置信區(qū)間為。 假定新生嬰兒（男孩）的體重服從正態(tài)分布，今隨機(jī)抽取12名新生嬰兒，測得克，試求新生嬰兒平均體重的置信水平為95%的置信區(qū)間。解：令樞軸量為，未知。查t分布表的，所以，的置信水平為0.95的置信區(qū)間為（2818.54,3295.46）。4. 的置信區(qū)間（未知）用的無偏估計(jì)量來代替，令樞