參數(shù)的點(diǎn)估計(jì)與區(qū)間估計(jì).ppt

1、第 七 章,參 數(shù) 估 計(jì),進(jìn)行統(tǒng)計(jì)推斷的一般步驟為:,總體,樣本,統(tǒng)計(jì)量,作出推斷,統(tǒng)計(jì)推斷的 基本問(wèn)題,參數(shù)估計(jì)問(wèn)題,假設(shè)檢驗(yàn)問(wèn)題,參數(shù)的點(diǎn)估計(jì),參數(shù)的區(qū)間估計(jì),參數(shù)假設(shè)檢驗(yàn),非參數(shù)假設(shè)檢驗(yàn),參數(shù)估計(jì)問(wèn)題: 就是要利用樣本, 對(duì)總體 分布中包含的未知參數(shù)或未知參數(shù)的某些函數(shù) 作出估計(jì).,如:,估計(jì)產(chǎn)品的廢品率;,估計(jì)湖中魚(yú)的數(shù)量;,估計(jì)降雨量等等.,參數(shù)估計(jì)又分點(diǎn)估計(jì)與區(qū)間估計(jì).,設(shè)總體 X 的分布中含未知參數(shù),1 參數(shù)的點(diǎn)估計(jì),( X1 , X2 , , Xn ) 是一樣本,要構(gòu)造一統(tǒng)計(jì)量,作為,的估計(jì),( 叫做 的點(diǎn)估計(jì)量);,對(duì)應(yīng)樣本值( x1 , x2 , , xn ),叫做 的點(diǎn)

2、估計(jì)值.,可作為,的估計(jì)值，,構(gòu)造點(diǎn)估計(jì) 的常用方法,矩估計(jì)法(moment method of estimation),極大似然估計(jì)法(method of maximum likelihood),矩估計(jì)法的基本思想是用樣本矩估計(jì)總體矩 .,一、 矩估計(jì)法,理論依據(jù)是大數(shù)定律.,矩估計(jì)法:,用樣本的 l 階原點(diǎn)矩,作為總體的 l 階原點(diǎn)矩,的估計(jì),(若未知參數(shù)有 k 個(gè), 則一般取 l = 1, , k ),由矩估計(jì)法求得的估計(jì)量叫矩估計(jì)量, 相應(yīng)的 估計(jì)值叫矩估計(jì)值.,去求出未知參數(shù)的估計(jì)量.,解:,解得,總體矩用相應(yīng)的樣本矩代替, 得矩估計(jì)量:,解:,解得,總體矩用相應(yīng)的樣本矩代替, 得

3、a 與 b 的矩估計(jì)量:,解:,解得,總體矩用相應(yīng)的樣本矩代替, 得矩估計(jì)量:,其基本思想是概率最大的事件最可能發(fā)生 .,是在總體類型已知的條件下使用的一種參數(shù) 估計(jì)方法 .,二、 極大似然估計(jì)法,例如:,某位同學(xué)與一位獵人一起外出打獵 .一只野兔 從前方竄過(guò) . 只聽(tīng)一聲槍響，野兔應(yīng)聲倒下 .,是誰(shuí)打中的呢？,你很自然地想到: 只發(fā)一槍便打中, 獵人命中的 概率一般大于這位同學(xué)命中的概率. 這一槍?xiě)?yīng)該 是獵人射中的 .,極大似然估計(jì)原理：,設(shè)總體 X 為連續(xù)型, 其概率密度為,( 是待估參數(shù)),( X1 , X2 , , Xn )為一樣本, 相應(yīng) 的樣本值為( x1 , x2 , , xn

4、) :,則 Xi 落在 xi , xi + d xi )中的概率約為,( X1 , X2 , , Xn ) 落在( x1 , x2 , xn )旁邊的概率 近似為,其取值隨,而變;,既然在一次抽樣中就得到了樣本值(x1 , x2 , , xn) , 因而我們有理由認(rèn)為:,樣本 ( X1 , X2 , , Xn ) 在 ( x1 , x2 , , xn ) 旁邊取值的概率比較大;,根據(jù)“概率最大的事件最可能發(fā)生”，我們可取使,概率,達(dá)到最大的參數(shù),作為,的估計(jì)；,即求 使,記,叫做樣本的似然函數(shù),則求 使,如此求出的,作為,的估計(jì),叫 的極大似然估計(jì).,求 時(shí),通常對(duì) 求導(dǎo),令其為 0, 來(lái)獲取

5、結(jié)果.,若總體 X 為離散型, 則,中的,以 代.,若總體 X 為連續(xù)型, 概率密度為,設(shè) ( X1 , X2 , , Xn ) 為總體 X 的一樣本, ( x1 , x2 , , xn )為樣本值:,引入似然函數(shù),求 使 最大.,綜述之, 的極大似然估計(jì) 的求法如下:,解:,X 的概率密度,似然函數(shù),兩邊取對(duì)數(shù)得,續(xù)解:,分別對(duì),求導(dǎo)并令其為 0 得,例: 設(shè)總體 X P(), 求 的極大似然估計(jì).,解:,X 的分布律為,設(shè)( X1 , X2 , , Xn )為一樣本, 樣本值為( x1 , x2 , xn ),似然函數(shù),兩邊取對(duì)數(shù)得,續(xù)解:,有時(shí)用求導(dǎo)方法無(wú)法最終確定未知參數(shù)的 極大似然估

6、計(jì), 此時(shí)用極大似然原則來(lái)求 .,解:,X 的概率密度,似然函數(shù),利用求導(dǎo)方法無(wú)法確定未知參數(shù)的極大似然估計(jì),由 L (a, b) 的表達(dá)式知:,若 b a 取最小, 則 L (a, b) 達(dá)到最大,故得,問(wèn)題討論: 如何估計(jì)湖中的魚(yú)數(shù)?,第二次捕出的有記號(hào)的魚(yú)數(shù) X 是隨機(jī)變量, X的分布為：,為估計(jì)湖中的魚(yú)數(shù)N, 第一次捕上r條魚(yú), 做上記號(hào)后放回. 隔一段時(shí)間后, 再捕出 S 條魚(yú), 結(jié)果發(fā)現(xiàn)這 S 條魚(yú)中有 k 條 標(biāo)有記號(hào). 根據(jù)這個(gè)信息, 如何估計(jì)湖中的魚(yú)數(shù)呢？,我們可用極大似然法估計(jì)湖中的魚(yú)數(shù).,把上式右端看作 N 的函數(shù)，記作 L(N; k) .,應(yīng)取使 L(N; k) 達(dá)到最

7、大的N, 作為 N 的極大似然估計(jì).,但用對(duì) N 求導(dǎo)的方法相當(dāng)困難, 我們考慮比值：,經(jīng)過(guò)簡(jiǎn)單的計(jì)算知, 這個(gè)比值大于或小于1,這就是說(shuō), 當(dāng) N 增大時(shí), 序列 L(N; k) 先是上升而后下降; 當(dāng)N 為小于 的最大整數(shù)時(shí), 達(dá)到最大值 .,故 N 的極大似然估計(jì)為,請(qǐng)看演示 捕魚(yú)問(wèn)題,求估計(jì)量的方法很多, 用不同的方法求出 的估計(jì)量會(huì)不一樣. 我們希望用較好的估計(jì)量 去估計(jì)未知參數(shù). 因而有必要討論: 如何評(píng)價(jià) 一個(gè)估計(jì)量的好壞?,3 估計(jì)量的評(píng)選標(biāo)準(zhǔn),常用的幾條標(biāo)準(zhǔn)是：,無(wú)偏性,有效性,一致性,估計(jì)量是隨機(jī)變量, 其取值隨樣本值的不同 而不同. 我們希望估計(jì)量的取值在被估參數(shù)附近 擺

8、動(dòng), 即它的期望值等于被估參數(shù). 由此引入了 無(wú)偏性這個(gè)標(biāo)準(zhǔn) .,同樣是無(wú)偏估計(jì)量, 有的取值較集中, 有的 取值較分散. 自然是: 取值越集中的越好. 由此 引入了有效性這個(gè)標(biāo)準(zhǔn) .,估計(jì)量與樣本容量有關(guān), 我們希望: 隨著樣 本容量的無(wú)限增大, 估計(jì)量與被估計(jì)量任意接近 的可能性越來(lái)越大. 由此引入了一致性這個(gè)標(biāo)準(zhǔn).,無(wú)偏性:,若 ,則稱,有效性:,若 及 都是 的無(wú)偏估計(jì),且 ,則稱,較 有效.,一致性:,設(shè)總體 X 的均值為,因,方差為,( X1, X2, , Xn ) 是它的一個(gè)樣本,表明:,樣本均值 是總體均值 的無(wú)偏估計(jì).,樣本方差 是總體方差 的無(wú)偏估計(jì).,它們也是 一致估計(jì),

9、注:,不是 的無(wú)偏估計(jì),解:,X1 , X2 , X3 獨(dú)立與 X 同分布, 故,同理得,所以 d1 , d2 都是,的無(wú)偏估計(jì).,續(xù)解:,同理得,所以 d1 比 d2 有效, d1 更好.,參數(shù)點(diǎn)估計(jì)是用一個(gè)確定的值去估計(jì)未知參數(shù), 得到的是未知參數(shù)的近似值.,但在很多實(shí)際問(wèn)題中, 我們不但需要求出未知 參數(shù)的近似值, 還需知道近似值的精確程度;,數(shù)學(xué)上的處理方法是: 確定一個(gè)范圍(區(qū)間), 使我們 能以比較高的可靠程度相信它包含參數(shù)真值.,這就是參數(shù)的區(qū)間估計(jì).,4 & 5 參數(shù)的區(qū)間估計(jì),一、置信區(qū)間,設(shè)總體 X 的分布中含未知參數(shù),若有統(tǒng)計(jì)量,使對(duì)給定的,有,則稱,是,的置信度(置信水

10、平, 置信概率)為,的雙側(cè)置信區(qū)間.,注:,對(duì)連續(xù)型總體 X , 一般按,求置信區(qū)間.,而對(duì)離散型總體 X , 應(yīng)求,使,至少為,且盡可能地接近,由于我們主要討論正態(tài)總體, 屬連續(xù)型， 故取等號(hào)處理.,二、置信區(qū)間的求法,解：,求一區(qū)間,使,由于樣本均值 是 的無(wú)偏估計(jì),而,根據(jù) U 的分布，我們可確定一個(gè)區(qū)間, 即上面的,使得U 在該區(qū)間取值的概率為,從圖中可看出, 這樣的區(qū)間,不是唯一的.,常以雙側(cè)等概率方式處理,即對(duì),查表得,使,解出式,中的不等式, 得,的置信度為,的雙側(cè)等概率置信區(qū)間為,簡(jiǎn)記為,設(shè)總體,三、單正態(tài)總體均值與方差的置信區(qū)間,( X1 , X2 , Xn ) 為一樣本,（

11、） 已知時(shí), 均值 的置信度為 的置信區(qū)間,此時(shí)取,對(duì)給定的,查表得,使,的置信度為,的置信區(qū)間是,例: 測(cè)兩點(diǎn)間距離 5 次, 測(cè)得距離值(單位: 米)為 108.5, 109.0, 110.0, 110.5, 112.0, 若測(cè)量值服從方差為 2.5 的正態(tài)分布, 求距離真值的置信度 為0.95的置信區(qū)間.,解:,設(shè)距離測(cè)量值為 X,已知,需求,的置信度為 0.95 的置信區(qū)間.,而此時(shí),的置信度為,的置信區(qū)間是,由樣本值算得:,對(duì),查表得,求得,故距離真值的置信度為 0.95 的置信區(qū)間是 (108.61, 111.39).,（） 未知時(shí), 均值 的置信度為 的置信區(qū)間,設(shè)總體,( X1

12、 , X2 , Xn ) 為一樣本,此時(shí)取,對(duì)給定的,查表得,使,的置信度為,的置信區(qū)間是,及自由度 n1,解:,設(shè)軸承直徑為 X,未知,需求,的置信度為 0.95 的置信區(qū)間.,而此時(shí),的置信度為,的置信區(qū)間是,由樣本值算得:,對(duì),n1=6 查表得,求得,故軸承直徑的置信度為 0.95 的置信區(qū)間是 (111.75, 113.85).,例: 在一批由某車床加工的軸承中隨抽幾只, 測(cè)得直徑(mm) 為 112.0, 113.4, 111.2, 114.5, 112.0, 112.9, 113.6, 若直徑 服從正態(tài)分布, 求該批軸承直徑均值的置信區(qū)間,設(shè)總體,( X1 , X2 , Xn )

13、為一樣本,2 方差 的置信度為 的置信區(qū)間,未知,此時(shí)取,對(duì)給定的,及自由度 n1,查表得,及,使,的置信度為,的置信區(qū)間是,標(biāo)準(zhǔn)差,的置信區(qū)間是,解:,設(shè)軸承直徑為 X,未知,需求,的置信度為 0.95 的置信區(qū)間.,由樣本值算得:,對(duì),n1=6 查表得,例: 在一批由某車床加工的軸承中隨抽幾只, 測(cè)得直徑(mm) 為 112.0, 113.4, 111.2, 114.5, 112.0, 112.9, 113.6, 若直徑 服從正態(tài)分布, 求該批軸承直徑方差的置信區(qū)間,求得,故軸承方差的置信度為 0.95 的置信區(qū)間是 (0.535, 6.257).,小結(jié)如下：,對(duì)正態(tài)總體,（1） 已知時(shí),

14、 均值 的置信度為 的置信區(qū)間,是,（2） 未知時(shí), 均值 的置信度為 的置信區(qū)間,是,（3） 未知時(shí), 方差 的置信度為 的置信區(qū)間,是,前面提到過(guò): 對(duì)給定樣本、給定的置信度, 置信區(qū)間 不是唯一的. 對(duì)同一個(gè)參數(shù), 我們可以構(gòu)造出許多置信區(qū)間.,我們總是希望置信區(qū)間盡可能短.,在概率密度為單峰且對(duì)稱的情形, 以雙側(cè)等概率方法 求得的置信區(qū)間的長(zhǎng)度為最短.,即使在概率密度不對(duì)稱的情形, 習(xí)慣上仍以雙側(cè)等概率 方法來(lái)計(jì)算未知參數(shù)的置信區(qū)間.,我們可以得到未知參數(shù)的的任何置信度小于 1 的置信 區(qū)間, 并且置信度越高, 相應(yīng)的置信區(qū)間平均長(zhǎng)度越長(zhǎng).,也就是說(shuō), 要想得到的區(qū)間估計(jì)可靠度高, 區(qū)間長(zhǎng)度就長(zhǎng), 估計(jì)的精度就差. 這是一對(duì)矛盾.,實(shí)用中應(yīng)在保證足夠可靠的前提下, 盡量使得區(qū)間的 長(zhǎng)度短一些 .,請(qǐng)看置信區(qū)間的演示,四、單側(cè)置信區(qū)間,上述置信區(qū)間中置信限都是雙側(cè)的，但對(duì)于有些實(shí)際問(wèn) 題，人們關(guān)心的只是參數(shù)在一個(gè)方向的界限.,例如對(duì)于設(shè)備、元件的使用壽命來(lái)說(shuō)，平均壽命過(guò)長(zhǎng)沒(méi) 什么問(wèn)題，過(guò)短就有問(wèn)題了.,這時(shí)，可將置信上限取為+, 而只著眼于置信下限，這樣求得的置信區(qū)間叫單側(cè)置信區(qū)間.,而對(duì)化學(xué)藥品等物品