概率論與數(shù)理統(tǒng)計統(tǒng)計推斷與參數(shù)估計

1、樣本總體樣本統(tǒng)計量如：樣本均值、比率、方差總體均值、比率、方差等概率論與數(shù)理統(tǒng)計統(tǒng)計推斷與參數(shù)估計(一)-分布是來自總體設(shè)的樣本,令 稱 服從自由度為 的 分布，記為分布的數(shù)學(xué)期望與方差概率論與數(shù)理統(tǒng)計常用統(tǒng)計分布的上側(cè)分位點記為Review(二)分布且設(shè)相互獨立,令 稱 服從自由度為 的 分布，記為概率論與數(shù)理統(tǒng)計常用統(tǒng)計分布的上側(cè)分位點記為的雙側(cè)分位點記為Review(三)分布且設(shè)相互獨立,令 稱 服從自由度為 的 分布，記為常用統(tǒng)計分布 的上側(cè)分位點記為Review概率論與數(shù)理統(tǒng)計常用統(tǒng)計分布Review概率論與數(shù)理統(tǒng)計概率論與數(shù)理統(tǒng)計常用統(tǒng)計分布設(shè)總體 的均值和方差是來自總體 的樣本，

2、則都存在.概率論與數(shù)理統(tǒng)計樣本均值與樣本方差的數(shù)字特征Review概率論與數(shù)理統(tǒng)計單正態(tài)總體抽樣分布定理Review概率論與數(shù)理統(tǒng)計單正態(tài)總體抽樣分布定理Review概率論與數(shù)理統(tǒng)計單正態(tài)總體抽樣分布定理Review估計量：用于估計總體參數(shù)的統(tǒng)計量參數(shù)用 表示，估計量用 表示估計值：估計參數(shù)時計算出來的統(tǒng)計量的具體值如果樣本均值 X =80，則80就是的估計值概率論與數(shù)理統(tǒng)計點估計問題Review1.無偏性 (unbiasedness)設(shè)為總體未知參數(shù)的估計量若 則稱是的無偏估計量，稱具有無偏性。否則，是有偏估計量.概率論與數(shù)理統(tǒng)計評價估計量的標(biāo)準(zhǔn)無偏性是對估計量的一個常見而重要的要求 .注:

3、是的無偏估計量是2的無偏估計量概率論與數(shù)理統(tǒng)計評價估計量的標(biāo)準(zhǔn)Review2有效性 若都是的無偏估計量且 或 則稱較為有效估計量。兩個以上的無偏估計量具有最小方差最佳無偏估計量概率論與數(shù)理統(tǒng)計評價估計量的標(biāo)準(zhǔn)Review3相合性（consistency）如果對任意小的正數(shù)，有則稱是的一致估計量，稱具有一致性，可以證明均具有一致性。概率論與數(shù)理統(tǒng)計評價估計量的標(biāo)準(zhǔn)Review 由于估計量是樣本的函數(shù), 是統(tǒng)計量, 故對不同的樣本值, 得到的參數(shù)值往往不同, 求估計量的問題是關(guān)鍵問題.估計量的求法: (兩種)矩估計法、最大似然估計法.概率論與數(shù)理統(tǒng)計估計量的求法1、 矩估計法 它是基于一種簡單的“

4、替換”思想建立起來的一種古老的估計方法 . 其基本思想是用樣本的指標(biāo)替代總體的指標(biāo)用樣本矩估計總體矩 .是英國統(tǒng)計學(xué)家K.皮爾遜最早提出的 . 理論依據(jù): 大數(shù)定律概率論與數(shù)理統(tǒng)計估計量的求法 用樣本矩來估計總體矩,用樣本矩的連續(xù)函數(shù)來估計總體矩的連續(xù)函數(shù),從而得出參數(shù)估計，這種估計法稱為矩估計法.記總體k階中心矩為樣本k階中心矩為概率論與數(shù)理統(tǒng)計設(shè) X1, X2, , Xn 來自總體X的樣本總體k階矩為樣本k階矩為矩法估計解: 由矩法,樣本矩總體矩從中解得的矩估計.即為 例1 設(shè)總體X的概率密度為是未知參數(shù),其中X1,X2,Xn是取自X的樣本,求參數(shù) 的矩估計.概率論與數(shù)理統(tǒng)計解解方程組得到

5、矩估計量分別為例2矩法估計概率論與數(shù)理統(tǒng)計上例表明: 總體均值與方差的矩估計量的表達式，不因不同的總體分布而異.概率論與數(shù)理統(tǒng)計矩法估計 矩法的優(yōu)點是簡單易行. 缺點是，當(dāng)總體類型已知時，沒有 充分利用分布提供的信息 . 一般場合下,矩估計量不具有唯一性 .概率論與數(shù)理統(tǒng)計矩法估計2、 最大似然估計法(MLE)最大似然法是在總體類型已知條件下使用的一種參數(shù)估計方法 . 它首先是由德國數(shù)學(xué)家高斯在1821年提出的 ,然而，GaussFisher這個方法常歸功于英國統(tǒng)計學(xué)家費歇 . 費歇在1922年重新發(fā)現(xiàn)了 這一方法，并首先研究了這 種方法的一些性質(zhì) .概率論與數(shù)理統(tǒng)計是誰打中的呢？如果要你推測

6、，你會如何想呢? 先看一個簡單例子：一只野兔從前方竄過 .某位同學(xué)與一位獵人一起外出打獵 .只聽一聲槍響，野兔應(yīng)聲倒下 .極大似然法的基本思想概率論與數(shù)理統(tǒng)計有兩外形相同的箱子,各裝100個球 1箱 99個白球 1 個紅球 2箱 1 個白球 99個紅球現(xiàn)從兩箱中任取一箱, 并從箱中任取一球,結(jié)果所取得的球是白球.極大似然法的基本思想概率論與數(shù)理統(tǒng)計問: 所取的球來自哪一箱？又如當(dāng)機器發(fā)生故障，有經(jīng)驗的修理工首先總從易損部件、薄弱環(huán)節(jié)查起，為什么呢？公安人員在貞破兇殺案時，首先把與被害者密切來往又有作案可能性的人列為重點嫌疑對象. 極大似然法的基本思想概率論與數(shù)理統(tǒng)計 思想方法：在試驗中概率最大

7、的事件最有可能出現(xiàn)。最大似然原理的直觀思想是：在試驗中概率最大的事件最有可能出現(xiàn)。因此，一個試驗如有若干個可能的結(jié)果A,B,若在一次試驗中結(jié)果A出現(xiàn)，一般認為A出現(xiàn)的概率最大概率論與數(shù)理統(tǒng)計最大似然估計似然函數(shù)實質(zhì)上是樣本的聯(lián)合分布律于是定義下面的似然函數(shù)概率論與數(shù)理統(tǒng)計最大似然估計概率論與數(shù)理統(tǒng)計（1）求似然函數(shù)（2）一般地，求出及似然方程 （3）解似然方程得到最大似然估計值 （4）最后得到最大似然估計量 概率論與數(shù)理統(tǒng)計求最大似然估計量的步驟解似然函數(shù)例3概率論與數(shù)理統(tǒng)計最大似然估計概率論與數(shù)理統(tǒng)計最大似然估計最大似然估計似然函數(shù)為解概率論與數(shù)理統(tǒng)計概率論與數(shù)理統(tǒng)計最大似然估計令得的最大似

8、然估計值為最大似然估計故的最大似然估計量為概率論與數(shù)理統(tǒng)計解：似然函數(shù)為對數(shù)似然函數(shù)為例5 設(shè)X1,X2,Xn是取自總體X的一個樣本求的極大似然估計.其中 0,概率論與數(shù)理統(tǒng)計最大似然估計求導(dǎo)并令其為0=0從中解得對數(shù)似然函數(shù)為最大似然估計故的最大似然估計量為概率論與數(shù)理統(tǒng)計解似然函數(shù)為例6概率論與數(shù)理統(tǒng)計最大似然估計概率論與數(shù)理統(tǒng)計最大似然估計它們與相應(yīng)的矩估計量相同.概率論與數(shù)理統(tǒng)計最大似然估計設(shè) 是 的極大似然估計值, u( )是 的函數(shù), 且有單值反函數(shù) = (u), uU 則 是 u( ) 的極大似然估計值. 不變性極大似然估計的不變性概率論與數(shù)理統(tǒng)計如 在正態(tài)總體N (, 2)中,

9、 2的極大 似然估計值為是 2的單值函數(shù), 且具有單值反函數(shù)，故 的極大似然估計值為lg 的極大似然估計值為概率論與數(shù)理統(tǒng)計兩種求點估計的方法:矩估計法最大似然估計法 在統(tǒng)計問題中，往往主要使用最大似然估計法.概率論與數(shù)理統(tǒng)計小結(jié)最大似然法估計結(jié)果大多具有無偏性、有效性或相合性等優(yōu)良的估計量性質(zhì)。 定義： 設(shè)總體X的分布函數(shù)F(x；)含有未知參數(shù)，對于給定值（0 1),若由樣本X1, , Xn確定的兩個統(tǒng)計量 使則稱隨機區(qū)間 為的置信度為1的雙側(cè)置信區(qū)間置信區(qū)間概率論與數(shù)理統(tǒng)計參數(shù)真實值置信區(qū)間置信下限置信上限由樣本統(tǒng)計量所構(gòu)造的總體參數(shù)的估計區(qū)間稱為置信區(qū)間統(tǒng)計學(xué)家在某種程度上確信這個區(qū)間會包含真正的總體參數(shù)，所以給它取名為置信區(qū)間 用一個具體的樣本所構(gòu)造的區(qū)間是一個特定的區(qū)間，我們無法知道這個樣本所產(chǎn)生的區(qū)間是否包含總體參數(shù)的真值我們只能是希望這個區(qū)間是大量包含總體參數(shù)真值的區(qū)間中的一個，但它也可能是少數(shù)幾個不包含參數(shù)真值的區(qū)間中的一個概率論與數(shù)理統(tǒng)計置信區(qū)間例如置信區(qū)間概率論與數(shù)理統(tǒng)計 一旦有了樣本，就把 估計在區(qū)間內(nèi).這里有兩個要求: 對參數(shù) 作區(qū)間估計，就是要設(shè)法找出兩個只依賴于樣本的界限(構(gòu)造統(tǒng)計量)(X1,Xn)(X1,Xn)置信區(qū)間概率論與數(shù)理統(tǒng)計長度盡可能短.2.