概率論參數(shù)估計(jì)

參數(shù)估計(jì)1第七章作業(yè)：P1347.1，7.2，7.6，7.9，7.10

7.13，7.16，7.17，7.19，7.20，7.21

數(shù)理統(tǒng)計(jì)問題：如何選取樣本來對(duì)總體的種種統(tǒng)計(jì)特征作出判斷。

參數(shù)估計(jì)問題：知道隨機(jī)變量（總體）的分布類型，但確切的形式不知道，根據(jù)樣本來估計(jì)總體的參數(shù)，這類問題稱為參數(shù)估計(jì)。參數(shù)估計(jì)的類型——點(diǎn)估計(jì)、區(qū)間估計(jì)2內(nèi)容提要概述參數(shù)的點(diǎn)估計(jì)矩法估計(jì)極大似然估計(jì)估計(jì)量優(yōu)劣性的評(píng)價(jià)參數(shù)的區(qū)間估計(jì)3參數(shù)的估計(jì)量和估計(jì)值設(shè)總體的分布函數(shù)為F(x,)（未知），X1，X2，…，Xn為樣本，構(gòu)造一個(gè)統(tǒng)計(jì)量來估計(jì)參數(shù)，則稱為參數(shù)的估計(jì)量。將樣本觀測值代入，得到的值稱為參數(shù)的估計(jì)值。4估計(jì)量是某些特殊的統(tǒng)計(jì)量，但統(tǒng)計(jì)量不一定是某個(gè)參數(shù)的估計(jì)量。每次取樣不同，觀測值也不同，統(tǒng)計(jì)量的統(tǒng)計(jì)值也不同，所以估計(jì)量也是隨機(jī)變量，我們用大寫字母表示。而固定某次觀測的估計(jì)值才是一個(gè)固定的數(shù)字。點(diǎn)估計(jì)：如果構(gòu)造一個(gè)統(tǒng)計(jì)量來作為參數(shù)的估計(jì)量，則稱為參數(shù)的點(diǎn)估計(jì)。區(qū)間估計(jì)：如果構(gòu)造兩個(gè)統(tǒng)計(jì)量而用來作為參數(shù)可能取值范圍的估計(jì)，稱為參數(shù)的區(qū)間估計(jì)。5參數(shù)的點(diǎn)估計(jì)

矩法，極大似然法6定義設(shè)為隨機(jī)變量，若存在，則稱為的階原點(diǎn)矩，記作；若存在，則稱為的階中心矩，記作樣本的階原點(diǎn)矩，記作樣本的階中心矩，記作階矩的概念7矩法估計(jì)：用樣本的矩作為總體矩的估計(jì)量

矩估計(jì)的想法來源于大數(shù)定理。如果總體X存在k階矩，對(duì)任意有這說明，當(dāng)樣本容量較大時(shí)，樣本k階矩與總體k階矩差別很小。不僅僅是矩法估計(jì)，所有統(tǒng)計(jì)方法的中心思想都一致：用部分推斷整體，但是當(dāng)部分足夠大時(shí)，根據(jù)大數(shù)定理，所做的推斷越來越接近真實(shí)值。8例：長期的生產(chǎn)經(jīng)驗(yàn)告訴我們，水泥廠成品打包機(jī)裝袋的重量X服從正態(tài)分布，試用矩法估計(jì)來估計(jì)一臺(tái)打包機(jī)裝袋重量的均值和方差。解：設(shè)裝袋的重量為隨機(jī)變量X，即總體為X~N(μ,σ2)。觀測50次，即取X1，X2，……X50個(gè)樣本，樣本容量50此時(shí)，要估計(jì)參數(shù)，就轉(zhuǎn)化為估計(jì)隨機(jī)變量的矩計(jì)算樣本的期望和方差9根據(jù)大數(shù)定理，樣本的矩和總體的矩應(yīng)當(dāng)非常接近假若樣本有觀測值x1，x2，……x50,代入統(tǒng)計(jì)量中，有統(tǒng)計(jì)值：此時(shí)，為兩個(gè)統(tǒng)計(jì)量用他們來估計(jì)μ和σ2用樣本的原點(diǎn)矩估計(jì)總體的原點(diǎn)矩，樣本的中心距估計(jì)總體的中心矩簡便起見，代入具體觀測值的過程可以省略，只要明確寫出用哪些統(tǒng)計(jì)量來估計(jì)相應(yīng)的參數(shù)即可10

一般而言，并不是每個(gè)統(tǒng)計(jì)問題中的分布都如正態(tài)分布：很多時(shí)候參數(shù)并沒有直接的概率意義。所以想要直接構(gòu)造估計(jì)量來估計(jì)參數(shù)是不現(xiàn)實(shí)的。引例：求a，b的估計(jì)。有沒有一般的辦法來構(gòu)造估計(jì)量？曲線救國：不能直接構(gòu)造參數(shù)的估計(jì)量，可以先估計(jì)總體的各階矩，進(jìn)而通過求解方程得到參數(shù)的估計(jì)量。11解：例：總體求a，b的矩估計(jì)。a,b是均勻分布的兩個(gè)參數(shù)假設(shè)取樣n次，先寫出總體，樣本，統(tǒng)計(jì)量，并按照矩法寫出估計(jì)量總體：X樣本：接下來是矩法的標(biāo)準(zhǔn)步驟：12注意：熟練之后可以略去寫出總體和樣本的過程。第一步：計(jì)算一階原點(diǎn)矩和二階中心矩第二步：用樣本的矩作為總體矩的統(tǒng)計(jì)量即：第三步：求解方程組中的參數(shù)13一般步驟

若總體X的分布函數(shù)中含有l(wèi)個(gè)參數(shù)1，2，…，l，要估計(jì)l個(gè)參數(shù)，我們需要l個(gè)統(tǒng)計(jì)量及l(fā)個(gè)相應(yīng)的方程。我們以原點(diǎn)矩為例說明：（1）求出總體的各階矩，作為被統(tǒng)計(jì)量14得l個(gè)方程構(gòu)成的方程組：（2）用樣本的矩作為總體矩的統(tǒng)計(jì)量（3）求解方程組中的參數(shù)從而為的矩估計(jì)量第(2)步和第(3)步的次序可以對(duì)換；涉及中心距的參數(shù)也可類似求解15例：解：一個(gè)參毒數(shù)，鋒只要一個(gè)矩回即可。與參逢數(shù)θ無關(guān)輝?？上纫郧蠼鈲鋮?shù)選最黃簡單潤的矩配：16再代極入樣鞭本對(duì)忌應(yīng)的稍矩并不是攝標(biāo)準(zhǔn)號(hào)的矩法，而是某杜種推廣了妨的矩此法估計(jì)；以后口遇到施密度前函數(shù)撐為偶麻函數(shù)尖的情郵形均趟可這鼻樣處翁理。有無席其他拋方法霧？注意蝕：17例：設(shè)X1，X2，…，Xn為總體X~掙P(guān)o銳is慕(λ)的樣本賤，試求參數(shù)的矩法醫(yī)估計(jì)量司。解：僅有響一個(gè)剪參數(shù)勺，雕只需株要做餃一個(gè)太矩法效估計(jì)為。此時(shí)參數(shù)恰亂為分權(quán)布的鮮期望嘉，所乒以可湖以直捕接用荒樣本照均值漆來估裳計(jì)止，省繁去了冷求解遲方程咳這一苗步?？紤]銅一階扔原點(diǎn)耗矩參數(shù)吊本身傘為分圣布的藝數(shù)字褲特征，不話需求脖解方枕程，縫直接肅利用傲樣本粒的統(tǒng)矩計(jì)量丹來估跳計(jì)分吃布的花數(shù)字爸特征揉，進(jìn)北而得饞到參宿數(shù)估嬌計(jì)的蕩辦法渣也叫數(shù)字脫特征聰法，是罪矩法呢的特去例。18矩法揚(yáng)估計(jì)歪能用低守階矩貼就不婚用高盒階矩可見兄：同膏一個(gè)盈參數(shù)炸的矩獄估計(jì)卷量可或以不同同。得到矩促法估驢計(jì)量考慮皺泊松佛分布劃的二掌階中羊心矩使用絹哪個(gè)錯(cuò)更好永一些架？之后蔬會(huì)系岡統(tǒng)地康介紹計(jì)估計(jì)研量優(yōu)滲劣的甩評(píng)價(jià)濤，屆購時(shí)再中展開金討論思考按一下滾，是敘否有嗽其他質(zhì)求解犁的辦司法？19解由于所以羽由矩狹法估喉計(jì)，揪得解得所以，參數(shù)的矩估計(jì)量為例

對(duì)容量為n的樣本，求下列密度函數(shù)中參數(shù)的矩估計(jì)量。20參數(shù)乖的極桑大似殿然估貫計(jì)法思想袖：設(shè)總建體X的密憐度函挨數(shù)為f(趣x,)，鵲為未境知參塑數(shù)，汽則樣本燒（X1,X2,…皮,Xn）的氣聯(lián)合擾密度鹿函數(shù)捉為令參數(shù)的估計(jì)量，使得樣本（X1,X2,…,Xn）落在觀測值上的概率L()達(dá)到最大，即則稱為參數(shù)的極大似然估計(jì)值。21回憶寸：為了胸估計(jì)薪魚塘鍵中有激多少把條魚,魚塘打主先散從魚欄塘中勉網(wǎng)起10峰0條魚梅作上鵝記號(hào)申后，炭放回單魚塘狡中,過了角一段跌時(shí)間(使有桶記號(hào)贈(zèng)的魚必和無蘋記號(hào)月的魚贈(zèng)混合懲均勻)后，最從促魚塘密中網(wǎng)烘起一及網(wǎng)魚,共80條,其中矛有記競號(hào)的辭魚有2條。戲試估皆計(jì)魚掀塘中乖有多畜少條笨魚。由于拔數(shù)量煤很大熊，可熱以近氏似認(rèn)橡為是簡軟單隨宿機(jī)取樣，故每灑條魚續(xù)是否雷有記號(hào)服鐵從Xi~B防(1獎(jiǎng),1浪00蔬/N)估計(jì)N就是估滴計(jì)參嫌數(shù)p=刮10冠0/桿N。回憶道當(dāng)時(shí)的統(tǒng)解法求參裂數(shù)p使得P(壯Y=析2)最大可以巡壽用矩絡(luò)法來段估計(jì)箭。22所謂靠似然峰函數(shù)，就興是帶參刑數(shù)的眠聯(lián)合季密度與函數(shù)似然畝函數(shù)后的選潛取是上唯一嬌的，廉這一兵點(diǎn)和遼矩法潑估計(jì)樸不同注意23解：E[覺X]歇=1懇/λ,例:據(jù)經(jīng)驗(yàn)，進(jìn)入穩(wěn)定期的生產(chǎn)線生產(chǎn)出的LED電視的使用壽命試用頌極大棒似然溫法估秧計(jì)電膝視機(jī)淚的平曉均壽等命。即求參數(shù)的極大似然估計(jì)取對(duì)舒數(shù)后影求導(dǎo)關(guān)找出抹極大覆值點(diǎn)24得到我參數(shù)暑的估在計(jì)值戚：將具集體的沒樣本鏟值替推換為梯樣本她對(duì)應(yīng)琴的隨步機(jī)變芽量，迫得到股參數(shù)賓的估陶計(jì)量分：25求解獸步驟（2）取洋自然報(bào)對(duì)數(shù)其解即為參數(shù)的極大似然估計(jì)值。（3）令（1）構(gòu)刷造似使然函掌數(shù)若總剪體的杜密度櫻函數(shù)羽中有均多個(gè)叉參數(shù)1，2，…，n，則鎮(zhèn)將第（3）步袍改為解方席程組僵即可輕。26對(duì)于鄙離散境型總辟體的蠻分布內(nèi)，只憂要參跌數(shù)為袖連續(xù)迫變化祝，仍繭然可蜓以求茄導(dǎo)，昌上述拌方法豬同樣嚼適用臥。有些竄情況碗下參嘆數(shù)是吳離散言的，鈔比如微二項(xiàng)枕分布B(相n,貫p)中的n。此鵝時(shí)不胖能求渠導(dǎo)，剪只能何按定濃義找個(gè)極大港值，甩運(yùn)算繞比較果復(fù)雜騙。為了飄邏輯貝上更匆為嚴(yán)崇密，菌極大輸似然正估計(jì)朗一般類先用長樣本寨值代勻入求盈解估越計(jì)值駛，再提用樣最本替俯換樣良本值下得到瀉參數(shù)富的估憶計(jì)量展。極大孤似然偽估計(jì)副的一麥些注尺意事勒項(xiàng)27例:解先求柔似然紅函數(shù)接著刻求對(duì)疼數(shù)為非俯負(fù)整膛數(shù)28參數(shù)雜連續(xù)元變化埋，求吐導(dǎo)有29例:假設(shè)桃（X1，X2，…，Xn）是雞取自請(qǐng)正態(tài)背總體N(,訊2)的樣寇本，偏求和潔2的極覆大似雄然估惱計(jì)量綿。解構(gòu)造肯似然姨函數(shù)取對(duì)較數(shù)30續(xù)解求偏術(shù)導(dǎo)數(shù)圖，并精令其俯為0解得所以μ，2的極薪大似姑然估堡計(jì)量休為31之前稼的三作個(gè)例總子極與大似超然估炸計(jì)與矩估娛計(jì)量相同如果在矩估荷計(jì)量寒和極閃大似兆然估蒸計(jì)量岸相同存的話聾往往濱說明禽這樣膽的估饞計(jì)是兆好的然而梯不是膽對(duì)每舅一個(gè)謹(jǐn)分布奪的參株數(shù)估才計(jì)兩鐵種估文計(jì)量臉都一欺致32例解：故似盾然函之?dāng)?shù)為鍬：由于忠似然跨函數(shù)每中并身不顯戰(zhàn)式包豎含x1…xn，我散們直另接來貞找似獲然函慌數(shù)的茄最大掙值33θ越小唯越好郊，不渡過一霜旦θ<xi,則L(θ)=敗0故θ要在θ縱≧xi即θ烈≧ma厚x{升xi}的限浮制條松件下閃取最椅小估計(jì)值為估計(jì)量為34另外，可聯(lián)以考煮慮矩離法估稿計(jì)矩法裕估計(jì)災(zāi)中，駁選取秤不同慕的矩怨，得筐到的慶估計(jì)聯(lián)量不擔(dān)同用矩精法估鮮計(jì)和紫極大償似然耐估計(jì)卸，得羞到的郵估計(jì)追量不蓄同那種漲估計(jì)自更好蛇一些時(shí)？由于35估計(jì)周量優(yōu)街劣性密的評(píng)禮價(jià)標(biāo)準(zhǔn):無偏性虎、有黨效性茶、相素合性36無偏居性無偏估計(jì)量：設(shè)是的估計(jì)量，如果則稱是的無偏估計(jì)量。即無坡系統(tǒng)塵偏差37例:

設(shè)總體的數(shù)學(xué)期望E[X]=μ和方差Var[X]=σ2都存在，證明：樣本均值修正樣本方差分別是E[X]、Var[X]的無偏估計(jì)。證明：之前貝已經(jīng)率計(jì)算匹了樣跟本均傷值和襖修正材樣本追方差救的期原望這也急是為饞何用隔修正熟樣本雪方差蜂，而艱非樣權(quán)本方事差的結(jié)原因38有坑效站性設(shè)是的無偏估計(jì)量，當(dāng)樣本容量n固定時(shí)，使

達(dá)到最小的稱為的有效估計(jì)比較：若，則比有效。由于方伴差是短度量鄉(xiāng)豐隨機(jī)弊變量η落在攜它的泄均值E[軍η]的鄰域炊內(nèi)的墊集中獵或分器散程種度的烤。所效以一稻個(gè)好昏的估丸計(jì)量η，不率僅應(yīng)剛該是并待估疤參數(shù)θ的無普偏估由計(jì)，仿而且質(zhì)應(yīng)該某有盡漿可能貧小的雪方差鎖。39例如及（其中）都是E[X]的無偏估計(jì)，但比有效。首先算術(shù)場平均≤幾條何平勾均其次40一致破最小除方差里無偏剃估計(jì)搭量要求艇無偏最有搏效定義醬：設(shè)總銹體X~尖FX(·評(píng),θ).若T0(X1,盾…Xn)為g(θ)的無糟偏估道計(jì)量清，且吊對(duì)g(θ)的任謠意無噴偏估償計(jì)量T(淚X1,礎(chǔ)…Xn)，都滴有則稱T0(X1,政…Xn)為g(θ)的一致鋸最小天無偏唇估計(jì)才量注意們：沒有打普遍翼可行駱的構(gòu)冤造辦寒法41我們瓦不僅午希望熔一個(gè)什估計(jì)主是無鴉偏的桿，且咬具有盾較小償?shù)姆郊尾?，?cè)有時(shí)廢還希咬望當(dāng)雙子樣糾容量稱無限租增大眉時(shí)，嗓即觀豪察次虎數(shù)無訪限增置多時(shí)奪，估下計(jì)能辟在某剖種意段義下另越來利越接某