研九講非參數(shù)假設(shè)檢驗PPT學習教案

1、會計學1研九講非參數(shù)假設(shè)檢驗研九講非參數(shù)假設(shè)檢驗 在前面的課程中，我們已經(jīng)了解了假設(shè)檢驗的基本思想，并討論了當總體分布為正態(tài)時，關(guān)于其中未知參數(shù)的假設(shè)檢驗問題 . 然而可能遇到這樣的情形，總體服從何種理論分布并不知道，要求我們直接對總體分布提出一個假設(shè) .一一 皮爾遜皮爾遜 擬合優(yōu)度檢驗擬合優(yōu)度檢驗2 例如，從1500到1931年的432年間，每年爆發(fā)戰(zhàn)爭的次數(shù)可以看作一個隨機變量，椐統(tǒng)計，這432年間共爆發(fā)了299次戰(zhàn)爭，具體數(shù)據(jù)如下:第1頁/共45頁戰(zhàn)爭次數(shù)X01234 22314248154 發(fā)生 X次戰(zhàn)爭的年數(shù) 在概率論中，大家對泊松分布產(chǎn)生的一般條件已有所了解，容易想到，每年爆發(fā)戰(zhàn)爭

2、的次數(shù)，可以用一個泊松隨機變量來近似描述 . 也就是說，我們可以假設(shè)每年爆發(fā)戰(zhàn)爭次數(shù)分布X近似泊松分布.第2頁/共45頁上面的數(shù)據(jù)能否證實X 具有泊松分布的假設(shè)是正確的？現(xiàn)在的問題是：又如，某鐘表廠對生產(chǎn)的鐘進行精確性檢查，抽取100個鐘作試驗，撥準后隔24小時以后進行檢查，將每個鐘的誤差（快或慢）按秒記錄下來.問該廠生產(chǎn)的鐘的誤差是否服從正態(tài)分布？第3頁/共45頁再如，某工廠制造一批骰子，聲稱它是均勻的.為檢驗骰子是否均勻，要把骰子實地投擲若干次，統(tǒng)計各點出現(xiàn)的頻率與1/6的差距.也就是說，在投擲中，出現(xiàn)1點，2點，6點的概率都應是1/6.得到的數(shù)據(jù)能否說明“骰子均勻”的假設(shè)是可信的？問題是

3、：第4頁/共45頁K.皮爾遜 這是一項很重要的工作，不少人把它視為近代統(tǒng)計學的開端. 解決這類問題的工具是英國統(tǒng)計學家K.皮爾遜在1900年發(fā)表的一篇文章中引進的所謂 檢驗法.2 檢驗法是在總體X 的分布未知時，根據(jù)來自總體的樣本，檢驗關(guān)于總體分布的假設(shè)的一種檢驗方法. 2 本節(jié)我們將介紹本節(jié)我們將介紹2 擬合擬合檢驗法檢驗法第5頁/共45頁 H0：總體X的分布函數(shù)為F(x) H1：總體X的分布函數(shù)不是F(x) 然后根據(jù)樣本的經(jīng)驗分布和所假設(shè)的理論分布之間的吻合程度來決定是否接受原假設(shè). 使用 對總體分布進行檢驗時，我們先提出原假設(shè):2檢驗法 這種檢驗通常稱作擬合優(yōu)度檢驗，它是一種非參數(shù)假設(shè)檢

4、驗. 擬合優(yōu)度檢驗擬合優(yōu)度檢驗2 第6頁/共45頁 在用在用 檢驗假設(shè)檢驗假設(shè)H0時，若在時，若在H0下分布下分布類型已知，但其參數(shù)未知，這時需要先用極大似類型已知，但其參數(shù)未知，這時需要先用極大似然估計法估計參數(shù)，然后作檢驗然估計法估計參數(shù)，然后作檢驗. 2檢驗法分布擬合的 的基本原理和步驟如下:2 檢驗法我們只介紹理論分布類型完全已知的情況我們只介紹理論分布類型完全已知的情況（1）將n個樣本值按大小順序排列，取min1inixa max1inixb 將將a,b并等分成并等分成k個小區(qū)間（每個小個小區(qū)間（每個小區(qū)間內(nèi)的樣本點數(shù)不要小于區(qū)間內(nèi)的樣本點數(shù)不要小于5個），用個），用 表示第表示第i

5、個個小區(qū)間小區(qū)間 上上樣本點的個數(shù)樣本點的個數(shù). 為頻率為頻率if,1iitt nfi第7頁/共45頁原假設(shè)原假設(shè):)()(:0 xFxFH )(xF fi 稱為稱為實測頻數(shù)實測頻數(shù). ，畫出頻率的直方圖，從直方圖估，畫出頻率的直方圖，從直方圖估 出總體出總體X的分布，定出總體的分布，定出總體X的分布函數(shù)的分布函數(shù)設(shè) 在H0成立的條件下，有1iiitXtPp )()(1 iiitFtFp研究 與 的差異程度。或者說 與 的差ifnfiip inp異程度。異程度。第8頁/共45頁 kiiiinpnpf122)( iinpf 標志著經(jīng)驗分布與理論分布之間的差異的大小.皮爾遜引進如下統(tǒng)計量表示經(jīng)驗分

6、布與理論分布之間的差異:統(tǒng)計量 的分布是什么?2 在理論分布已知的條件下,npi是常量實測頻數(shù)理論頻數(shù)2.根據(jù)所假設(shè)的理論分布根據(jù)所假設(shè)的理論分布,可以算出總體可以算出總體X的值落入每的值落入每個個Ai的概率的概率 pi , 于是于是npi就是落入就是落入Ai的樣本值的的樣本值的理論理論頻數(shù)頻數(shù)第9頁/共45頁皮爾遜證明了如下定理: kiiiinpnpf122)( 若原假設(shè)中的理論分布若原假設(shè)中的理論分布F(x)已經(jīng)完全給定已經(jīng)完全給定，那么當那么當 時，統(tǒng)計量時，統(tǒng)計量 n的分布漸近(k-1)個自由度的 分布.2 如果理論分布F(x)中有r個未知參數(shù)需用相應的估計量來代替，那么當 時，統(tǒng)計量

7、 的分布漸近 (k-r-1)個自由度的 分布.n2 2 為了便于理解，我們對定理作一點直觀的說明.第10頁/共45頁是k個近似正態(tài)的變量的平方和. kiiiinpnpf122)( 這些變量之間存在著一個制約關(guān)系： kiiiiinpnpfp10)(故統(tǒng)計量 漸近(k-1)個自由度的 分布.2 2 在理論分布F(x)完全給定的情況下，每個pi 都是確定的常數(shù). 由棣莫佛拉普拉斯中心極限定理，當n充分大時，實測頻數(shù) fi 漸近正態(tài)，因此第11頁/共45頁 在F(x)尚未完全給定的情況下，每個未知參數(shù)用相應的估計量代替，就相當于增加一個制約條件，因此，自由度也隨之減少一個. 若有r個未知參數(shù)需用相應的

8、估計量來代替，自由度就減少r個.此時統(tǒng)計量 漸近(k-r-1)個自由度的 分布.2 2 根據(jù)這個定理，對給定的顯著性水平 ， 查 分布表可得臨界值2 2 ，使得 )(22P第12頁/共45頁 如果根據(jù)所給的樣本值 X1,X2, ,Xn算得統(tǒng)計量 的實測值落入拒絕域，則拒絕原假設(shè)，否則就認為差異不顯著而接受原假設(shè).2 得拒絕域:) 1(22k ) 1(22rk (不需估計參數(shù))(估計r 個參數(shù)) 皮爾遜定理是在n無限增大時推導出來的，因而在使用時要注意 n要足夠大，以及npi 不太小這兩個條件. 根據(jù)計算實踐，要求n不小于50，以及npi 都不小于 5. 否則應適當合并區(qū)間，使npi滿足這個要求

9、 .第13頁/共45頁 讓我們回到開始的一個例子，檢驗每年爆發(fā)戰(zhàn)爭次數(shù)分布是否服從泊松分布.69. 0 X 將有關(guān)計算結(jié)果列表如下:按參數(shù)為0.69的泊松分布，計算事件X=i 的概率pi ，pi的估計是，i=0,1,2,3,4!69. 069. 0iepii提出假設(shè)提出假設(shè)H0: X服從參數(shù)為服從參數(shù)為 的泊松分布的泊松分布 根據(jù)觀察結(jié)果，得參數(shù) 的極大似然估計為 第14頁/共45頁x 0 1 2 3 4fi 223 142 48 15 4 0.58 0.31 0.18 0.01 0.02n 216.7 149.5 51.6 12.0 2.16 iiinpnpf2)(0.1830.376 0.

10、251 1.623戰(zhàn)爭次數(shù)實測頻數(shù)ip ip 14.162.43 因H0所假設(shè)的理論分布中有一個未知參數(shù)（?），故自由度為4-1-1=2.將n 5 的組予以合并，即將發(fā)生3次及4次戰(zhàn)爭的組歸并為一組.ip 第15頁/共45頁 故認為每年發(fā)生戰(zhàn)爭的次數(shù)X服從參數(shù)為0.69的泊松分布.按按 =0.05，自由度為，自由度為4-1-1=2查查 分布表得分布表得2 =5.991)2(205. 0 2 =2.435.991，由于統(tǒng)計量2 的實測值未落入否定域.第16頁/共45頁 奧地利生物學家孟德爾進行了長達奧地利生物學家孟德爾進行了長達八年之久的豌豆雜交試驗八年之久的豌豆雜交試驗, 并根據(jù)試驗結(jié)并根據(jù)試

11、驗結(jié)果果,運用他的數(shù)理知識運用他的數(shù)理知識, 發(fā)現(xiàn)了遺傳的基本發(fā)現(xiàn)了遺傳的基本規(guī)律規(guī)律. 在此，我們以遺傳學上的一項偉大發(fā)現(xiàn)為例，說明統(tǒng)計方法在研究自然界和人類社會的規(guī)律性時，是起著積極的、主動的作用.孟德爾第17頁/共45頁子二代子一代黃色純系綠色純系他的一組觀察結(jié)果為：黃70，綠27近似為2.59:1，與理論值相近. 根據(jù)他的理論，子二代中, 黃、綠之比 近似為3:1，第18頁/共45頁 由于隨機性，觀察結(jié)果與3:1總有些差距，因此有必要去考察某一大小的差異是否已構(gòu)成否定3:1理論的充分根據(jù)，這就是如下的檢驗問題.這里，n=70+27=97, k=2,檢驗孟德爾的3:1理論:提出假設(shè)H0:

12、 p1=3/4, p2=1/4理論頻數(shù)為： np1=72.75, np2=24.25實測頻數(shù)為70，27.第19頁/共45頁2 由于統(tǒng)計量的實測值2122)(iiiinpnpf 統(tǒng)計量) 1 (2 自由度為k-1=12 =0.41583.841，按按 =0.05，自由度為，自由度為1，查，查 分布表得分布表得2 =3.841) 1 (205. 0 未落入否定域.故認為試驗結(jié)果符合孟德爾的3:1理論.第20頁/共45頁 這些試驗及其它一些試驗，都顯 示孟德爾的3: 1理論與實際是符合的. 這本身就是統(tǒng)計方法在科學中的一項 重要應用.用于客觀地評價理論上的某個結(jié)論是否與觀察結(jié)果相符，以作為該理論是

13、否站得住腳的印證.第21頁/共45頁 3.5.2皮爾遜皮爾遜 擬合優(yōu)度檢驗擬合優(yōu)度檢驗 (二二)理論分布帶參數(shù)的情況理論分布帶參數(shù)的情況 2 在許多實際問題中在許多實際問題中,理論分布常常只是類型已知理論分布常常只是類型已知,但但其中含有若干個未知參數(shù)。例如其中含有若干個未知參數(shù)。例如,未知未知20,)(),;( xxF這這 時檢驗問題為時檢驗問題為),;()(:100mxFxFH 第22頁/共45頁m1，設(shè)分別為當分別為當H。成立時未知參數(shù)。成立時未知參數(shù)m，1的點估計的點估計,記記)(1m，計算計算kiaFaFpiii, 2 , 1, );();(100iipp 代替用得到得到Pearso

14、n統(tǒng)計量統(tǒng)計量)17. 3()(122kiiiipnpnnRAFisher證明了對滿足一定條件的點估計證明了對滿足一定條件的點估計m1，上述統(tǒng)計量上述統(tǒng)計量 的極限分布為的極限分布為2) 1(2mk第23頁/共45頁于是于是H。的否定域為。的否定域為) 1(212mk由于按由于按Fisher的條件去求點估計量的條件去求點估計量m1，往需要用數(shù)值方法求解。為此往需要用數(shù)值方法求解。為此,在實際應用當中在實際應用當中,常用常用很麻煩很麻煩,往往m，1的極大似然估計代替的極大似然估計代替m1，這時統(tǒng)計量這時統(tǒng)計量2的極限分布不一定是的極限分布不一定是) 1(2mk這時仍取這時仍取) 1(212mk作

15、為作為H。的否定域。的否定域?，F(xiàn)在我們以現(xiàn)在我們以X為一維為例把為一維為例把Pearson 檢驗的具體做檢驗的具體做法歸納如下法歸納如下:2第24頁/共45頁（1）將總體）將總體X的值域的值域(-,)劃分為劃分為 個互不相交的區(qū)間個互不相交的區(qū)間 的大小和作直方圖時一致的大小和作直方圖時一致,但注意使但注意使 每個每個 或或 不能太小，一般不要小于不能太小，一般不要小于5kkkiIi., 2 , 1,ipninp（2）在）在H。成立之下。成立之下,求出未知參數(shù)的極大似然估計求出未知參數(shù)的極大似然估計;（3）在）在H。 成立的條件下成立的條件下,計算計算 或或 之值之值;ipip （4）算出）算

16、出 中樣本值的個數(shù)中樣本值的個數(shù),并計算并計算Pearson統(tǒng)計量的統(tǒng)計量的 值值 ;iI2(5)查查 分布表分布表,找出找出 或或 2) 1(21mk) 1(21k第25頁/共45頁（vi）若）若 或或 則拒絕則拒絕H。,否則接受否則接受H。) 1(212mk) 1(212k例例3.161991年某校工科研究生有年某校工科研究生有60名以數(shù)理統(tǒng)計作為名以數(shù)理統(tǒng)計作為學位課學位課,考試成績?nèi)缦驴荚嚦煽內(nèi)缦?93 75 83 93 91 85 84 82 77 76 77 95 9489 91 88 86 83 96 81 79 97 78 75 67 69 68 84 83 81 75 66

17、85 70 94 84 83 82 8078 74 73 76 70 86 76 90 89 71 66 86 73 80 94 79 78 77 63 53 55第26頁/共45頁試問考試成績是否服從正態(tài)分布試問考試成績是否服從正態(tài)分布)10. 0(解：解：設(shè)設(shè)X為考試成績?yōu)榭荚嚦煽?其分布函數(shù)為其分布函數(shù)為F（x）,則檢驗問題為則檢驗問題為)()(:0 xxFH我們知道成績分不及格我們知道成績分不及格(60以下以下),及格及格(6070),中中(7080),良良(8090),優(yōu)優(yōu)(90以上以上)故我們?nèi)」饰覀內(nèi)?90,80,70,604321aaaa它們將實軸分成它們將實軸分成5個互不相交

18、的區(qū)間個互不相交的區(qū)間,從而將樣本分成從而將樣本分成5組。在組。在H。成立的條件下成立的條件下,參數(shù)參數(shù) 的極大似然估計為的極大似然估計為2,226 . 9,80計算計算)5 , 4 , 3 , 2 , 1(ipi表示表示 服從正太分布服從正太分布)(xFniiniiXXnx1221)(1,n1極大似然估計公式：第27頁/共45頁0188. 0)8 . 2(1)8 . 2()6 . 98060(1 p1304. 00188. 0)04. 1(0188. 0)6 . 98070(2 p3508. 01492. 05 . 0)04. 1()6 . 98080(3 p3508. 05 . 08508

19、. 05 . 0)6 . 98090(4 p1492. 08508. 01)6 . 98090(15 p第28頁/共45頁因為因為5128. 10188. 0601 pn所以我們把第一、二個區(qū)間合并成一個所以我們把第一、二個區(qū)間合并成一個,這樣共有這樣共有4個個不相交的區(qū)間不相交的區(qū)間,相應的樣本分成相應的樣本分成4組組,并列表并列表622. 04685. 0952. 81492. 011),9040001. 0048.213508. 021)90,8030522. 0048.213508. 020)80,7021012. 0952. 81492. 08)70,(160)60(60)(21 i

20、iiiiiiippnppnaai第29頁/共45頁而而706. 2)1()1(29 . 021 mk查附表查附表4得得故接受故接受H。認為考試成績服從正態(tài)分布。認為考試成績服從正態(tài)分布。 三三 方法用于檢驗獨立性方法用于檢驗獨立性706. 2622. 02 2 每個人按其是否吸煙可分成兩類每個人按其是否吸煙可分成兩類,按其是否患有某種按其是否患有某種疾病也可分成兩類。如要研究在某個行業(yè)工作的人中疾病也可分成兩類。如要研究在某個行業(yè)工作的人中,吸煙與患肺癌是否有關(guān)吸煙與患肺癌是否有關(guān),則可從這一群人中隨機抽取若則可從這一群人中隨機抽取若干個干個,一一記錄其是否吸煙和是否患肺癌一一記錄其是否吸煙和

21、是否患肺癌,用所得資料用所得資料去去進行統(tǒng)計分析。進行統(tǒng)計分析。第30頁/共45頁 這類問題在應用上很常見這類問題在應用上很常見,理論模型是理論模型是:設(shè)隨機向量設(shè)隨機向量（X,Y）,X的可能取值是的可能取值是1,2,.,r,Y的可能取值是的可能取值是1,2,.,s.現(xiàn)在對現(xiàn)在對(X,Y) 進行了進行了n次獨立觀察次獨立觀察,發(fā)現(xiàn)發(fā)現(xiàn)“X=i,Y=j”的次的次數(shù)為數(shù)為 ,要據(jù)此檢驗要據(jù)此檢驗ijn）（獨立獨立與與18. 3:0YXH這個假設(shè)。若記這個假設(shè)。若記F(x,y)為為(X,Y)的聯(lián)合分布函數(shù)的聯(lián)合分布函數(shù), 為為X的分布函數(shù)的分布函數(shù), 為為Y的分布函數(shù)的分布函數(shù),則則X與與Y獨立獨立

22、,就是對任意實數(shù)就是對任意實數(shù)(x,y)有有)(1xF)(2xF)19. 3()()(),(21xFxFyxF 第31頁/共45頁在這種問題中在這種問題中,常把數(shù)據(jù)排列為如下表常把數(shù)據(jù)排列為如下表第32頁/共45頁這種表稱為列聯(lián)表這種表稱為列聯(lián)表(Contingency Table).表中表中記 riijjsjijinnnn11,jiijpjYPpiXPpjYiXP )(,)(,),(如果獨立性成立如果獨立性成立,則對一切則對一切i和和j,有有jiijppp 因此檢驗問題變成因此檢驗問題變成)20. 3(, 2 , 1;, 2 , 1,:0sjripppHjiij 第33頁/共45頁如果如果

23、已知已知,則我們可以按則我們可以按Pearson 統(tǒng)計量的建統(tǒng)計量的建立方法立方法,令令 ijp2 riijijijsjnpnpn1212)( 則由則由Pearson的結(jié)論知的結(jié)論知 以以 為極限分布。為極限分布。但這里但這里 并不知道并不知道,因此因此,我們可用它們的極大似然估我們可用它們的極大似然估計計 代替。注意到代替。注意到H。 成立時成立時,2 )1(2 rs ijpijp 因此因此,這等價于求這等價于求 的極大似然估計的極大似然估計,類似例類似例2.9,注注意到意到j(luò)ipp jiijppp 第34頁/共45頁 111111sjjsriirpppp和關(guān)于關(guān)于 的似然函數(shù)為的似然函數(shù)為

24、jipp )21. 3(1 1 )(1111111111 sjnjrininsjjnriinrisjjijisrijppppppL作方程組。作方程組。)22. 3(1, 2 , 10log1, 2 , 10log sjLpriLpji第35頁/共45頁解得解得 的極大似然估計為的極大似然估計為jipp )23. 3(, 2 , 1, 2 , 1,sjnnprinnpjjii 從而得到統(tǒng)計量從而得到統(tǒng)計量)24. 3() 1()()(1211211212 rijiijsjrijijiijsjrijijiijsjnnnnnnnnnnnppnppnn第36頁/共45頁在在H。成立的條件下。成立的條件

25、下,當當n時時, 的極限分布為的極限分布為2)1)(1()12(22 srsrrs 因此因此,可取可取)1)(1(221 sr 作為作為H。的拒絕域，當。的拒絕域，當n很大時很大時,這檢驗的真實水平接近這檢驗的真實水平接近 對對X、Y連續(xù)取值的情況連續(xù)取值的情況,與（一）中的與（一）中的2類似類似,可以將其可以將其離散化：設(shè)離散化：設(shè)為（為（X，Y）的樣本。具體做法）的樣本。具體做法:),( ,),(),(2211nnYXYXYX2第37頁/共45頁(1)將將X的觀察值范圍（一的觀察值范圍（一,）分成）分成r個互不相交的個互不相交的區(qū)間區(qū)間,將將Y的觀察值范圍（一的觀察值范圍（一,）分成）分成

26、s個互不相交個互不相交的區(qū)間的區(qū)間,這樣就組成了這樣就組成了rs個互不相交的小矩形個互不相交的小矩形;(2)求出樣本落入各個小矩形的實測頻數(shù)求出樣本落入各個小矩形的實測頻數(shù);(3)當當H。成立時。成立時,建立統(tǒng)計量建立統(tǒng)計量) 1()(1211212 rijiijsjrijijiijsjnnnnnnnnnnn第38頁/共45頁當當n充分大時充分大時, 漸近于漸近于 分布。分布。在水平在水平 下下,當當 時時,拒絕拒絕 H。 否則就接受否則就接受H。)1)(1(2 sr 2 )1)(1(221 sr 特別特別,當當r=s=2時時,得到得到22列聯(lián)表列聯(lián)表,也常稱為四格表也常稱為四格表(Fourf

27、old Table)是應用最廣的一種是應用最廣的一種,這時這時)25. 3 ()(21212211222112nnnnnnnnn極限分布為極限分布為 )1(2 第39頁/共45頁例例3.2 某研究所推出一種感冒特效新藥某研究所推出一種感冒特效新藥,為證明為證明其療效其療效,選擇選擇200名患者為志愿者名患者為志愿者,將他們均分為兩將他們均分為兩組組,分別不服藥或服藥分別不服藥或服藥,觀察三日后痊愈的情況觀察三日后痊愈的情況,得出得出下列數(shù)據(jù)下列數(shù)據(jù)痊愈痊愈者者未痊愈者未痊愈者合合 計計未服藥未服藥者者 服藥者服藥者合合 計計48 52 10056 44 100 104 96 200 問新藥是否確有明顯療效問新藥是否確有明顯療效?第40頁/共45頁例例3.17見例見例3.2題中設(shè)題中設(shè) =0.25解解:每個對象考察兩個指標每個對象考察兩個指標:X一一是否痊愈一一是否痊愈,Y一一是否一