概率統(tǒng)計(jì)：第六章 大數(shù)定理和中心極限定理

1、第六章 大數(shù)定律和中心極限定理 研究隨機(jī)變量序列的各種極限(或收斂性)的理論.我們知道,概率論是研究隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律的學(xué)科,然而隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性只有在相同條件下進(jìn)行大量重復(fù)的試驗(yàn)或觀察才能顯現(xiàn)出來,這就要用到極限去刻劃.隨機(jī)現(xiàn)象在大量重復(fù)試驗(yàn)中呈現(xiàn)明顯的規(guī)律性,這只是一個(gè)信念,其確切含義和理論根據(jù)是什么？現(xiàn)在就來解決這些問題. 極限定理是概率論中最重要的理論.它在概率論與數(shù)理統(tǒng)計(jì)的理論研究與應(yīng)用中起著十分重要的作用.第一節(jié) 契比雪夫不等式 這里介紹一個(gè)重要的不等式-契比雪夫不等式,它是大數(shù)定律和中心極限定理的理論基礎(chǔ).定理 設(shè)隨機(jī)變量存在數(shù)學(xué)期望和方差,則對(duì)任意正數(shù),成立,此式稱為契比雪夫不

2、等式.或等價(jià)地.證明 (1)當(dāng)為離散型隨機(jī)變量,分布律為 ,則有 ;(2)當(dāng)為連續(xù)型隨機(jī)變量,概率密度為,則有 .例 ,從上述證明方法中,還可以看出(類似可證),成立,;,;等形式的不等式.(車貝謝夫,車貝曉夫,切比雪夫)定理 設(shè)隨機(jī)變量的數(shù)學(xué)期望和方差均存在,且,則有 .證明 由車比謝夫不等式,得, ,又,于是,即.( ,).第二節(jié) 大數(shù)定律在第一章中我們指出,隨機(jī)事件的頻率,當(dāng)時(shí), 具有某種穩(wěn)定性和統(tǒng)計(jì)概率的定義5.它們的真正含義,在當(dāng)時(shí)無法說清楚,現(xiàn)在就來說清楚這個(gè)問題.對(duì)于這一點(diǎn), 大數(shù)定理將給于理論上的依據(jù).下面只介紹大數(shù)定理的最基本情形.定理一(契比雪夫大數(shù)定律)設(shè)是相互獨(dú)立的隨機(jī)

3、變量序列,每一個(gè)都有有限的方差,且有公共的上界,即, 則對(duì)任意,成立 , .證明 令 由數(shù)學(xué)期望的性質(zhì),有 ,因相互獨(dú)立,由方差的性質(zhì),得到 , , 利用契比雪夫不等式,可得 ,在上式中,令,即得 . 定義 依次序列出的隨機(jī)變量： 簡(jiǎn)記為,簡(jiǎn)稱隨機(jī)(變量)序列. 定義 對(duì)于隨機(jī)(變量)序列和隨機(jī)變量(或常數(shù)),若對(duì)任意,有(或)則稱隨機(jī)(變量)序列依概率收斂于(或常數(shù)).(等價(jià)于)簡(jiǎn)記為(或) 推論 (辛欽大數(shù)定律)若隨機(jī)變量序列獨(dú)立同分布,且存在有限的數(shù)學(xué)期望和方差 , 則對(duì)任意,有 ,其中 .證明 由數(shù)學(xué)期望和方差的性質(zhì)及條件,有 ,對(duì)任意,有 ,于是成立 ,即依概率收斂于常數(shù).這個(gè)結(jié)論將

4、在第八章中用到,是用樣本均值作為總體均值的點(diǎn)估計(jì)的理論依據(jù). 定理二(貝努里大數(shù)定律 ) 設(shè)是次獨(dú)立重復(fù)試驗(yàn)中事件發(fā)生的次數(shù),是事件在每次試驗(yàn)中發(fā)生的概率, 則對(duì)任意,成立 . 證明 引人隨機(jī)變量 ,則次試驗(yàn)中事件發(fā)生的次數(shù) ,由于是獨(dú)立試驗(yàn),所以相互獨(dú)立,且都服從相同的(01)分布,即于是 ,利用契比雪夫大數(shù)定律的推論,得 貝努里大數(shù)定律表明:事件發(fā)生的頻率依概率收斂于事件發(fā)生的概率.這正是用頻率作為概率的估計(jì)值的理論依據(jù).在實(shí)際應(yīng)用中,通常做多次試驗(yàn),獲得某事件發(fā)生的頻率,作為該事件發(fā)生的概率的估計(jì)值.第三節(jié) 中心極限定理 在對(duì)大量隨機(jī)現(xiàn)象的研究中發(fā)現(xiàn),如果一個(gè)量是由大量相互獨(dú)立的隨機(jī)因素

5、所造成,而每一個(gè)別因素在總影響中所起的作用較小,那么這種量通常都服從或近似服從正態(tài)分布.例如測(cè)量誤差、炮彈的彈著點(diǎn)、人體體重等都服從正態(tài)分布,這種現(xiàn)象就是中心極限定理的客觀背景.定理三(同分布的中心極限定理)設(shè)隨機(jī)變量獨(dú)立同分布,且存在有限的數(shù)學(xué)期望和方差 , 記, 稱為的標(biāo)準(zhǔn)化, 則對(duì)任意實(shí)數(shù),有 . 定理表明,當(dāng)充分大時(shí),隨機(jī)變量近似地服從標(biāo)準(zhǔn)正態(tài)分布.因此,近似地服從正態(tài)分布.由此可見,正態(tài)分布在概率論中占有重要的地位.定理四(De Moivre-Laplace定理)設(shè)是次獨(dú)立重復(fù)試驗(yàn)中事件發(fā)生的次數(shù),是事件在每次試驗(yàn)中發(fā)生的概率, 則對(duì)任意區(qū)間,成立 證明 引人隨機(jī)變量 ,則次試驗(yàn)中事

6、件發(fā)生的次數(shù) ,由于是獨(dú)立試驗(yàn),所以相互獨(dú)立,且都服從相同的(01)分布,即于是 , 由定理三,即得 ,于是對(duì)任意區(qū)間,有 . 近似計(jì)算公式:， .例1 某計(jì)算機(jī)系統(tǒng)有120個(gè)終端,每個(gè)終端有5%的時(shí)間在使用,若各終端使用與否是相互獨(dú)立的,試求有10個(gè)以上的終端在使用的概率.解 以表示使用終端的個(gè)數(shù), 引人隨機(jī)變量 , ,則 ,由于使用與否是獨(dú)立的,所以相互獨(dú)立,且都服從相同的(01)分布,即于是,所求概率為 ,由中心極限定理得 .例2 現(xiàn)有一大批種子,其中良種占.現(xiàn)從中任選6000粒,試問在這些種子中,良種所占的比例與之誤差小于1%的概率是多少？解 設(shè)表示良種個(gè)數(shù),則, , 所求概率為 .

7、例3 設(shè)有30個(gè)電子器件,它們的使用情況如下: 損壞,接著使用; 損壞,接著使用等等.設(shè)器件的使用壽命服從參數(shù)(單位:)的指數(shù)分布.令為30個(gè)器件使用的總時(shí)數(shù),問超過350h的概率是多少？ 解 設(shè)為 器件的使用壽命, 服從參數(shù)(單位:)的指數(shù)分布, 相互獨(dú)立, , ,由中心極限定理得 . 例4 某單位設(shè)置一電話總機(jī),共有200架電話分機(jī). 設(shè)每個(gè)電話分機(jī)有5%的時(shí)間要使用外線通話,假定每個(gè)電話分機(jī)是否使用外線通話是相互獨(dú)立的,問總機(jī)需要安裝多少條外線才能以90%的概率保證每個(gè)分機(jī)都能即時(shí)使用. 解 依題意設(shè)為同時(shí)使用的電話分機(jī)個(gè)數(shù),則, 設(shè)安裝了條外線, 引人隨機(jī)變量 , ,則 ,由于使用與否是獨(dú)立的,所以相互