概率論與數(shù)理統(tǒng)計第21講.ppt

1,概率論與數(shù)理統(tǒng)計 第21講,本文件可從網(wǎng)址 上下載,2,第八章 參數(shù)估計,3,問題的提出,人們經(jīng)常遇到的問題是如何選取樣本以及根據(jù)樣本來對總體的種種統(tǒng)計特征作出判斷。 實際工作中碰到的隨機(jī)變量(總體)往往是分布類型大致知道, 但確切的形式并不知道, 亦即總體的參數(shù)未知. 要求出總體的分布函數(shù)F(x)(或密度函數(shù)f(x), 就等于要根據(jù)樣本來估計出總體的參數(shù). 這類問題稱為參數(shù)估計.,4,估計量的優(yōu)劣標(biāo)準(zhǔn),設(shè)q為總體中要被估計的一個未知參數(shù), 例如期望值或方差等,5,(一) 一致估計,6,7,(二) 無偏估計 根據(jù)樣本推得的估計值與真值可能不同, 然而, 如果有一系列抽樣構(gòu)成各個估計, 很合理地會要求這些估計的期望值與未知參數(shù)的真值相等, 它的直觀意義是樣本估計量的數(shù)值在參數(shù)的真值周圍擺動, 而無系統(tǒng)誤差.,8,9,例 從總體X中取一樣本(X1,X2,.,Xn), E(X)=m, D(X)=s2, 試證明,10,11,即,12,因此,13,有效估計,14,15,16,獲得估計量的方法點估計,17,最大似然估計法,Maximum likelyhood estimation,18,現(xiàn)在要根據(jù)從總體X中抽到的樣本(X1,X2,.,Xn), 對總體分布中的未知參數(shù)q進(jìn)行估計. 最大似然法是要選取這樣的估計值, 當(dāng)它作為q的估計值時, 使觀察結(jié)果出現(xiàn)的可能性最大.,19,對于離散型的隨機(jī)變量就是估計概率函數(shù)中的參數(shù)q, 對于連續(xù)型的隨機(jī)變量就是估計概率密度中的q.,20,設(shè)X為連續(xù)型隨機(jī)變量, 它的分布函數(shù)是F(x;q), 概率密度是f(x;q), 其中q是未知參數(shù), 可以是一個值, 也可以是一個向量, 由于樣本的獨(dú)立性, 則樣本(X1,X2,.,Xn)的聯(lián)合概率密度是,21,對每一取定的樣本值x1,x2,.,xn是常數(shù), L是參數(shù)q的函數(shù), 稱L為樣本的似然函數(shù)(如果q是一個向量, 則L是多元函數(shù)),22,設(shè)X為離散型隨機(jī)變量, 有概率函數(shù)P(X=xi)=p(xi;q), 則似然函數(shù),23,24,最大似然估計值,25,26,例 已知,x1,x2,.,xn為X的一組樣本觀察值, 求q的最大似然估計.,27,解 似然函數(shù),28,29,例 某電子管的使用壽命(從開始使用到初次失效為止)服從指數(shù)分布(概率密度見前例), 今抽取一組樣本, 其具體數(shù)據(jù)如下: 16, 29, 50, 68, 100, 130, 140, 270, 280, 340, 410, 450, 520, 620, 190, 210, 800, 1100 問如何估計q?,30,解 根據(jù)前例的結(jié)果, 參數(shù)q用樣本均值估計.,31,例 已知X服從正態(tài)分布N(m,s2), (x1,x2,.,xn)為X的一組觀察值, 用最大似然估計法估計m,s2的值.,32,解,33,34,解似然方程組,35,36,例 求普哇松分布中參數(shù)l的最大似然估計.,37,解 已知總體X的概率函數(shù)為,38,39,因此,40,例 求0-1分布的總體的對參數(shù)p的最大似然估計.,41,解 已知總體X的概率函數(shù)為 P(X=k)=pk(1-p)1-k,(k=0,1), 假設(shè)獲得了n個樣本值(x1,x2,.,xn), 當(dāng)然這些值不是0就是1.,42,PX=k=pk(1-p)1-k,(k=0,1),43,44,45,例 設(shè)(x1,x2,xn)為從總體X中取出的一組樣本觀察值, 試用最大