概率統(tǒng)計：第六章 大數(shù)定理和中心極限定理

1、第六章 大數(shù)定律和中心極限定理 研究隨機變量序列的各種極限(或收斂性)的理論.我們知道,概率論是研究隨機現(xiàn)象統(tǒng)計規(guī)律的學科,然而隨機現(xiàn)象統(tǒng)計規(guī)律性只有在相同條件下進行大量重復的試驗或觀察才能顯現(xiàn)出來,這就要用到極限去刻劃.隨機現(xiàn)象在大量重復試驗中呈現(xiàn)明顯的規(guī)律性,這只是一個信念,其確切含義和理論根據(jù)是什么？現(xiàn)在就來解決這些問題. 極限定理是概率論中最重要的理論.它在概率論與數(shù)理統(tǒng)計的理論研究與應(yīng)用中起著十分重要的作用.第一節(jié) 契比雪夫不等式 這里介紹一個重要的不等式-契比雪夫不等式,它是大數(shù)定律和中心極限定理的理論基礎(chǔ).定理 設(shè)隨機變量存在數(shù)學期望和方差,則對任意正數(shù),成立,此式稱為契比雪夫不

2、等式.或等價地.證明 (1)當為離散型隨機變量,分布律為 ,則有 ;(2)當為連續(xù)型隨機變量,概率密度為,則有 .例 ,從上述證明方法中,還可以看出(類似可證),成立,;,;等形式的不等式.(車貝謝夫,車貝曉夫,切比雪夫)定理 設(shè)隨機變量的數(shù)學期望和方差均存在,且,則有 .證明 由車比謝夫不等式,得, ,又,于是,即.( ,).第二節(jié) 大數(shù)定律在第一章中我們指出,隨機事件的頻率,當時, 具有某種穩(wěn)定性和統(tǒng)計概率的定義5.它們的真正含義,在當時無法說清楚,現(xiàn)在就來說清楚這個問題.對于這一點, 大數(shù)定理將給于理論上的依據(jù).下面只介紹大數(shù)定理的最基本情形.定理一(契比雪夫大數(shù)定律)設(shè)是相互獨立的隨機

3、變量序列,每一個都有有限的方差,且有公共的上界,即, 則對任意,成立 , .證明 令 由數(shù)學期望的性質(zhì),有 ,因相互獨立,由方差的性質(zhì),得到 , , 利用契比雪夫不等式,可得 ,在上式中,令,即得 . 定義 依次序列出的隨機變量： 簡記為,簡稱隨機(變量)序列. 定義 對于隨機(變量)序列和隨機變量(或常數(shù)),若對任意,有(或)則稱隨機(變量)序列依概率收斂于(或常數(shù)).(等價于)簡記為(或) 推論 (辛欽大數(shù)定律)若隨機變量序列獨立同分布,且存在有限的數(shù)學期望和方差 , 則對任意,有 ,其中 .證明 由數(shù)學期望和方差的性質(zhì)及條件,有 ,對任意,有 ,于是成立 ,即依概率收斂于常數(shù).這個結(jié)論將

4、在第八章中用到,是用樣本均值作為總體均值的點估計的理論依據(jù). 定理二(貝努里大數(shù)定律 ) 設(shè)是次獨立重復試驗中事件發(fā)生的次數(shù),是事件在每次試驗中發(fā)生的概率, 則對任意,成立 . 證明 引人隨機變量 ,則次試驗中事件發(fā)生的次數(shù) ,由于是獨立試驗,所以相互獨立,且都服從相同的(01)分布,即于是 ,利用契比雪夫大數(shù)定律的推論,得 貝努里大數(shù)定律表明:事件發(fā)生的頻率依概率收斂于事件發(fā)生的概率.這正是用頻率作為概率的估計值的理論依據(jù).在實際應(yīng)用中,通常做多次試驗,獲得某事件發(fā)生的頻率,作為該事件發(fā)生的概率的估計值.第三節(jié) 中心極限定理 在對大量隨機現(xiàn)象的研究中發(fā)現(xiàn),如果一個量是由大量相互獨立的隨機因素

5、所造成,而每一個別因素在總影響中所起的作用較小,那么這種量通常都服從或近似服從正態(tài)分布.例如測量誤差、炮彈的彈著點、人體體重等都服從正態(tài)分布,這種現(xiàn)象就是中心極限定理的客觀背景.定理三(同分布的中心極限定理)設(shè)隨機變量獨立同分布,且存在有限的數(shù)學期望和方差 , 記, 稱為的標準化, 則對任意實數(shù),有 . 定理表明,當充分大時,隨機變量近似地服從標準正態(tài)分布.因此,近似地服從正態(tài)分布.由此可見,正態(tài)分布在概率論中占有重要的地位.定理四(De Moivre-Laplace定理)設(shè)是次獨立重復試驗中事件發(fā)生的次數(shù),是事件在每次試驗中發(fā)生的概率, 則對任意區(qū)間,成立 證明 引人隨機變量 ,則次試驗中事

6、件發(fā)生的次數(shù) ,由于是獨立試驗,所以相互獨立,且都服從相同的(01)分布,即于是 , 由定理三,即得 ,于是對任意區(qū)間,有 . 近似計算公式:， .例1 某計算機系統(tǒng)有120個終端,每個終端有5%的時間在使用,若各終端使用與否是相互獨立的,試求有10個以上的終端在使用的概率.解 以表示使用終端的個數(shù), 引人隨機變量 , ,則 ,由于使用與否是獨立的,所以相互獨立,且都服從相同的(01)分布,即于是,所求概率為 ,由中心極限定理得 .例2 現(xiàn)有一大批種子,其中良種占.現(xiàn)從中任選6000粒,試問在這些種子中,良種所占的比例與之誤差小于1%的概率是多少？解 設(shè)表示良種個數(shù),則, , 所求概率為 .

7、例3 設(shè)有30個電子器件,它們的使用情況如下: 損壞,接著使用; 損壞,接著使用等等.設(shè)器件的使用壽命服從參數(shù)(單位:)的指數(shù)分布.令為30個器件使用的總時數(shù),問超過350h的概率是多少？ 解 設(shè)為 器件的使用壽命, 服從參數(shù)(單位:)的指數(shù)分布, 相互獨立, , ,由中心極限定理得 . 例4 某單位設(shè)置一電話總機,共有200架電話分機. 設(shè)每個電話分機有5%的時間要使用外線通話,假定每個電話分機是否使用外線通話是相互獨立的,問總機需要安裝多少條外線才能以90%的概率保證每個分機都能即時使用. 解 依題意設(shè)為同時使用的電話分機個數(shù),則, 設(shè)安裝了條外線, 引人隨機變量 , ,則 ,由于使用與否是獨立的,所以相互