[課件]概率與統(tǒng)計(jì) 71 參數(shù)的點(diǎn)估計(jì).ppt

1、Aug-20,第七章 參 數(shù) 估 計(jì),probability,probability,7.2 估計(jì)量的優(yōu)良性準(zhǔn)則,7.3 區(qū)間估計(jì),7.1 參數(shù)的點(diǎn)估計(jì),Aug-20,參數(shù)估計(jì)是對已知分布類型的總體，利用樣本對其未知參數(shù)作出估計(jì).,參數(shù)估計(jì),點(diǎn) 估 計(jì),區(qū)間估計(jì),矩 估 計(jì),極大似然估計(jì),本章參數(shù)估計(jì)有以下內(nèi)容的介紹：,Aug-20,7.1 參數(shù)的點(diǎn)估計(jì),設(shè)總體X的分布函數(shù)F(x; q )類型已知, q 是未知參數(shù), q 的取值范圍稱為參數(shù)空間.,點(diǎn)估計(jì)思想 按一定的優(yōu)化原則建立一個統(tǒng)計(jì)量，將其統(tǒng)計(jì)值作為參數(shù)的估計(jì)值.,一、點(diǎn)估計(jì),Aug-20,定義7.1.1（點(diǎn)估計(jì)）設(shè)總體X的分布函數(shù)F(x

2、;q )中的參數(shù)q 未知, q W. 由樣本X1, X2, , Xn 建立統(tǒng)計(jì)量T(X1,X2, ,Xn),若將其統(tǒng)計(jì)值,t=T(x1, x2 , , xn),作為的估計(jì)值，稱,為的點(diǎn)估計(jì)量.,Aug-20,注 總體X的分布函數(shù)中可有多個不同未知參數(shù).,二、矩估計(jì)法,矩是最簡單的數(shù)字特征.,設(shè)總體X的k階矩E(Xk) 存在, X1,X2, ,Xn是總體X的樣本，有,另一方面,根據(jù)辛欽大數(shù)定律知,Aug-20,樣本矩在一定程度反映了總體矩的特性.,矩估計(jì)法的思想簡單直觀-替換原則:,* 用樣本矩去替換相應(yīng)的總體矩；,* 用樣本矩的函數(shù)替換相應(yīng)的總體矩的同 一函數(shù).,Aug-20,定義7.1.2

3、設(shè)總體X 的分布函數(shù) F(x; q1,q2,ql) 中含有l(wèi) 個未知參數(shù), 假定X的l 階原點(diǎn)矩存在, 記,由方程組,的矩法估計(jì)量.,Aug-20,注 意 樣本矩是隨機(jī)變量,而總體矩是數(shù)值,概率的矩估計(jì),指數(shù)分布參數(shù)矩估計(jì),Aug-20,二、極大似然估計(jì)法（M.L.E.),問題 若隨機(jī)試驗(yàn)有若干個可能結(jié)果: A1, A2, ,Am，在一次試驗(yàn)中事件A1出現(xiàn)了，關(guān)于A1的概率你怎樣認(rèn)為？,根據(jù)小概率事件原理, 應(yīng)認(rèn)為A1發(fā)生的可能性大.,不合格品率的M.L.E.估計(jì),極大似然估計(jì)法基本思想：按照最大可能性準(zhǔn)則進(jìn)行推斷.,Aug-20,定義7.1.3 若總體 X 的概率密度函數(shù)為f( x,q )

4、(q 可以是向量), X1 , X2 , , Xn為來自X的一個樣本, n 維隨機(jī)變量 ( X1 , X2 , , Xn ) 的聯(lián)合概率密度函數(shù)記為,(對于離散型樣本,其似然函數(shù)為其聯(lián)合分布律).,稱為參數(shù) 的似然函數(shù).,Aug-20,極大似然估計(jì)法求參數(shù)的估計(jì)值，使似然函數(shù)達(dá)到極大值,定義7.1.4 若,的極大似然估計(jì)值.,Aug-20,稱為參數(shù)k的極大似然估計(jì)量.,相應(yīng)的估計(jì)量,注：lnx 是 x 的嚴(yán)格單增函數(shù)，lnL 與L有相同的極大值點(diǎn)，一般只需求lnL 的極大值點(diǎn).,定義7.1.5 稱,為似然方程組.,Aug-20,求極大似然估計(jì)量的一般步驟：,寫出似然函數(shù),2. 對似然函數(shù)取對數(shù)

5、,3. 對j (j =1, l)分別求偏導(dǎo),建立似然方程(組),Aug-20,解得 分別為 的極大估計(jì)值.,指數(shù)分布的點(diǎn)估計(jì),均勻分布的極大似然估計(jì),矩估計(jì)與似然估計(jì)不等的例,4. 寫出 的極大估計(jì)量.,Aug-20,小 結(jié),1. 矩法估計(jì)量與極大似然估計(jì)量不一定相同；,2. 用矩法估計(jì)參數(shù)比較簡單,但有信息量損失；,3. 極大似然估計(jì)法精度較高,但運(yùn)算較復(fù)雜；,4.不是所有M.L.E都需要建立似然方程求解.,Aug-20,解,例7.1.1. 不合格品率的矩法估計(jì),分析 設(shè)總體X為抽一件產(chǎn)品的不合格產(chǎn)品數(shù)，相當(dāng)于抽取了一組樣本X1，X2， ，Xn , 且,因 p=E(X), 故 p 的矩估計(jì)量

6、為,設(shè)某車間生產(chǎn)一批產(chǎn)品，為估計(jì)該批產(chǎn)品不合格品率，抽取了n 件產(chǎn)品進(jìn)行檢查.,Aug-20,#,(即出現(xiàn)不合格產(chǎn)品的頻率).,Aug-20,其中q0, m 與q 是未知參數(shù), X1,X2, , Xn是總體X的一組樣本, 求m 與q 的矩法估計(jì)量.,解,例7.1.2 設(shè)總體X的概率密度為,Aug-20,由方程組,Aug-20,解得,另一種寫法：,令,解得相同結(jié)果.,#,Aug-20,例7.1.3 不合格品率p 的M.L.E.估計(jì),設(shè) 總體X是抽一件產(chǎn)品的不合格品數(shù)，記 p= PX=1=P產(chǎn)品不合格,則 X 的分布律可表示為,現(xiàn)得到X的一組樣本X1，X2，,Xn的實(shí)際觀 察值為 x1, x2,

7、,xn , 則事件,X1=x1，X2=x2，, Xn=xn,Aug-20,出現(xiàn)的可能性應(yīng)最大, 其概率為,應(yīng)選取使L(p) 達(dá)到最大的值作為參數(shù) p 的估計(jì).,Aug-20,令,解得,（頻率值）,注意到,#,Aug-20,例7.1.4 指數(shù)分布的點(diǎn)估計(jì),今取得一組樣本數(shù)據(jù)如下，問如何估計(jì)q ?,某電子管的使用壽命 X （單位：小時) 服從 指數(shù)分布,Aug-20,分析 可用兩種方法：矩法估計(jì)和極大似然估計(jì).,1）矩法估計(jì),Aug-20,2）極大似然估計(jì),構(gòu)造似然函數(shù),當(dāng)xi0,（i=1,2, ,n) 時，似然函數(shù)為,取對數(shù),建立似然方程,Aug-20,5. 得M.L.E量：,#,求解得M.L.

8、E值,Aug-20,例7.1.5 矩估計(jì)與似然估計(jì)不等的例子,設(shè)總體概率密度為,求參數(shù)的極大似然估計(jì), 并用矩法估計(jì).,解 1)極大似然估計(jì)法,構(gòu)造似然函數(shù),Aug-20,2. 取對數(shù)：,當(dāng) 0xi1, (i=1,2, ,n) 時,建立似然方程,Aug-20,求解得M.L.E. 值為,5. M.L.E. 量為,2) 矩估計(jì)法,Aug-20,#,Aug-20,例 7.1.6 均勻分布的極大似然估計(jì),設(shè)樣本X1,X2, ,Xn來自在區(qū)間1 , 2 上均勻分布的總體X , 求1 和2 的極大似然估計(jì)量.,解 設(shè)x1, x2 , xn是X1,X2, , Xn的樣本值，,似然函數(shù)為,Aug-20,注 意： 該似