概率論第五章大數(shù)定律及中心極限定理

1、第五章第五章 大數(shù)定律及中心極限定理大數(shù)定律及中心極限定理大數(shù)定律大數(shù)定律中心極限定理中心極限定理 “概率是頻率的穩(wěn)定值”。 前面已經(jīng)提到，當(dāng)隨機(jī)試驗(yàn)的次數(shù)無限增大時(shí)，頻率總在其概率附近擺動(dòng)，逼近某一定值。大數(shù)定理就是從理論上說明這一結(jié)果。 正態(tài)分布是概率論中的一個(gè)重要分布，它有著非常廣泛的應(yīng)用。中心極限定理闡明，原本不是正態(tài)分布的一般隨機(jī)變量總和的分布，在一定條件下可以漸近服從正態(tài)分布。 這兩類定理是概率統(tǒng)計(jì)中的基本理論，在概率統(tǒng)計(jì)中具有重要地位。 一、依概率收斂定義定義5.1.1 (依概率收斂依概率收斂) PnYY 大數(shù)定律討論的就是依概率收斂大數(shù)定律討論的就是依概率收斂.lim1nnP

2、YY若對(duì)任意的若對(duì)任意的 0，有，有則稱隨機(jī)變量序列則稱隨機(jī)變量序列Yn依概率收斂于依概率收斂于Y, 記為記為5.1 大數(shù)定理依概率收斂（續(xù)） PnYb (多變量函數(shù)多變量函數(shù)) PnXa 設(shè)設(shè)g(x,y)在點(diǎn)在點(diǎn)(a,b)連續(xù)，則連續(xù)，則，又設(shè)函數(shù)，又設(shè)函數(shù), ()( , )Pnng X Yg a b 22|XP 定理（切比雪夫定理（切比雪夫(Chebyshev)不等式）不等式）:設(shè)隨機(jī)變量X具有數(shù)學(xué)期望E(X)=,方差D(X)=2 ,則對(duì)于任意正數(shù),有221XP二、 切比雪夫(Chebyshev)不等式|)(|xdxxpXP|kxkxXPXP證明證明 (1)設(shè)X的概率密度為p(x),則有(

3、2)設(shè)離散型隨機(jī)變量X的分布律為PX=xk=pk,則有|22)(|xdxxpx2222)()(1dxxpx|22kxkkxXPx22221kkkpx例：例：已知隨機(jī)變量 X 的數(shù)學(xué)期望為 E(X)=，方差2)(XD，當(dāng)2和3時(shí)，試用切比雪夫不等式求概率XP的近似值.解解 時(shí)當(dāng)2412222XP時(shí)當(dāng)3913322XP1|1|1limnkknXnP 切比雪夫大數(shù)定律切比雪夫大數(shù)定律:設(shè)Xk是相互獨(dú)立的隨機(jī)變量序列,具有相同的數(shù)學(xué)期望E(Xk)=和方差D(Xk)=2(k=1,2,),則對(duì)于任意給定的0,恒有注注:nkknkkXEnXnE11)(1)1(11nPkkXn ), 2 , 1( ni 解解

4、 所以,滿足切比雪夫大數(shù)定理的條件,可使用大數(shù)定理. 伯努里伯努里大數(shù)定律大數(shù)定律: 設(shè)進(jìn)行設(shè)進(jìn)行n次獨(dú)立重復(fù)試驗(yàn)，事次獨(dú)立重復(fù)試驗(yàn)，事件件A發(fā)生的次數(shù)為發(fā)生的次數(shù)為 每次試驗(yàn)中事件每次試驗(yàn)中事件A發(fā)生的發(fā)生的概率為概率為p，則對(duì)任意的，則對(duì)任意的證明證明:設(shè)設(shè)01iX第第i次試驗(yàn)事件次試驗(yàn)事件A發(fā)生發(fā)生第第i次試驗(yàn)事件次試驗(yàn)事件A不發(fā)生不發(fā)生則則)1 ()(,)(ppXDpXEii由切由切比雪夫大數(shù)定律比雪夫大數(shù)定律iXiX,An0,有：|1limAnnPpn |1limAnnPpn 辛欽大數(shù)定律辛欽大數(shù)定律 若若Xk，k=1,2,.為獨(dú)立同分布隨機(jī)變量序列為獨(dú)立同分布隨機(jī)變量序列, E(X

5、k)= ，k=1,2,，則，則PnkknXnY11二、幾個(gè)常用的大數(shù)定律二、幾個(gè)常用的大數(shù)定律1、切比雪夫大數(shù)定律切比雪夫大數(shù)定律 設(shè)隨機(jī)變量序列設(shè)隨機(jī)變量序列X1,X2,Xn,相互獨(dú)立，每一個(gè)相互獨(dú)立，每一個(gè)隨機(jī)變量都有相同的數(shù)學(xué)期望隨機(jī)變量都有相同的數(shù)學(xué)期望E(Xk)=和方差和方差D(X1)=2，則任意正數(shù)，則任意正數(shù) ，11lim1nknkPXn即即11nPkkXn 證明證明 因?yàn)橐驗(yàn)閄1,X2,Xn,相互獨(dú)立，相互獨(dú)立，ncncnXDnXnDnkknkk21211)(11nkknkkXEnXnE11)(11由切比雪夫不等式可得由切比雪夫不等式可得221111)(11ncXnDXEnXn

6、Pnkknkknkk0)(11lim11nkknkknXEnXnP該定理表明：相互獨(dú)立的隨機(jī)變量的算數(shù)平均值該定理表明：相互獨(dú)立的隨機(jī)變量的算數(shù)平均值 niiXnX11與數(shù)學(xué)期望的算數(shù)平均值的差在與數(shù)學(xué)期望的算數(shù)平均值的差在n充分大時(shí)是一個(gè)無窮小充分大時(shí)是一個(gè)無窮小量，這也意味著在量，這也意味著在n充分大時(shí)，經(jīng)算術(shù)平均后得到的隨機(jī)充分大時(shí)，經(jīng)算術(shù)平均后得到的隨機(jī)變量變量 的值將比較緊密地聚集在它的數(shù)學(xué)期望的值將比較緊密地聚集在它的數(shù)學(xué)期望 的附的附近。近。 X)(XE2、切比雪夫大數(shù)定律的特殊情況切比雪夫大數(shù)定律的特殊情況 設(shè)隨機(jī)變量序列設(shè)隨機(jī)變量序列X1,X2,Xn,相互獨(dú)立，且具有相相互獨(dú)

7、立，且具有相同的數(shù)學(xué)期望同的數(shù)學(xué)期望和相同的方差和相同的方差2，記前，記前n個(gè)隨機(jī)變量的算個(gè)隨機(jī)變量的算術(shù)平均為術(shù)平均為Yn，niinXnY11則隨機(jī)變量序列則隨機(jī)變量序列Y1,Y2,Yn,依概率收斂于依概率收斂于，即，即PnY00limnnYP證明證明nnXEnnii1)(112)(iXDniiniinXEnXnP11)(11lim0limnnYP切比雪夫大數(shù)定律切比雪夫大數(shù)定律3、貝努里貝努里大數(shù)定律大數(shù)定律 設(shè)進(jìn)行設(shè)進(jìn)行n次獨(dú)立重復(fù)試驗(yàn)，每次試驗(yàn)中事件次獨(dú)立重復(fù)試驗(yàn)，每次試驗(yàn)中事件A發(fā)生發(fā)生的概率為的概率為p，記，記nA為為n次試驗(yàn)中事件次試驗(yàn)中事件A發(fā)生的次數(shù)，則發(fā)生的次數(shù)，則證明（由

8、切比雪夫不等式可直接證明）證明（由切比雪夫不等式可直接證明）00limpnnPAn即即pnnPA),(pnBnApnpnnEnnnEAA1)(1)(npqnpqnnDnnnDAA221)(1)(022npqnnDpnnPAA0limpnnPAn4、 辛欽大數(shù)定律辛欽大數(shù)定律 若若Xk，k=1,2,.為獨(dú)立同分布隨機(jī)變量序列為獨(dú)立同分布隨機(jī)變量序列, EXk= 0)(i=1,2,)，記前，記前n個(gè)變量的和個(gè)變量的和的標(biāo)準(zhǔn)化變量為的標(biāo)準(zhǔn)化變量為一、獨(dú)立同分布的中心極限定理一、獨(dú)立同分布的中心極限定理(Lindeberg- Levy林德貝格林德貝格-列維列維)nnXYniin1則則Yn的分布函數(shù)的分

9、布函數(shù)Fn(x)對(duì)任意的對(duì)任意的x(- -,+)都有都有 xnnXPxYPxFniinnnnn1lim)(lim)(limdtetx2221 該定理說明，當(dāng)該定理說明，當(dāng)n充分大時(shí)，充分大時(shí)， Yn近似地服從標(biāo)準(zhǔn)正近似地服從標(biāo)準(zhǔn)正態(tài)分布，態(tài)分布，YnN(0,1)，)(n隨機(jī)變量隨機(jī)變量近似地服從于正態(tài)分布近似地服從于正態(tài)分布nYnXnnii1),(2nnN 中心極限定理可以解釋如下：中心極限定理可以解釋如下： 假設(shè)被研究的隨機(jī)變量可以表示為大量獨(dú)立的隨假設(shè)被研究的隨機(jī)變量可以表示為大量獨(dú)立的隨機(jī)變量的和，其中每個(gè)隨機(jī)變量對(duì)于總和的作用都很機(jī)變量的和，其中每個(gè)隨機(jī)變量對(duì)于總和的作用都很微小，則可

10、以認(rèn)為這個(gè)隨機(jī)變量實(shí)際上是服從正態(tài)分微小，則可以認(rèn)為這個(gè)隨機(jī)變量實(shí)際上是服從正態(tài)分布的。布的。 在實(shí)際工作中，只要在實(shí)際工作中，只要n足夠大，便可把獨(dú)立同分布足夠大，便可把獨(dú)立同分布的隨機(jī)變量之和當(dāng)作正態(tài)變量。的隨機(jī)變量之和當(dāng)作正態(tài)變量。 例例4.19 將一顆骰子連擲將一顆骰子連擲100次，則點(diǎn)數(shù)之和不少于次，則點(diǎn)數(shù)之和不少于500的概率是多少？的概率是多少？解解 設(shè)設(shè)Xk為第為第k 次擲出的點(diǎn)數(shù)，次擲出的點(diǎn)數(shù)，k=1,2,100，則，則X1,X2,X100獨(dú)立同分布，而且獨(dú)立同分布，而且27)(iXE由中心極限定理由中心極限定理1235102710050015001001iiXP0)78.

11、8(1123544961)(612iikXD二、德莫佛二、德莫佛-拉普拉斯定理拉普拉斯定理(De Moivre-Laplace) 在在n重貝努里試驗(yàn)中，每次試驗(yàn)中事件重貝努里試驗(yàn)中，每次試驗(yàn)中事件A發(fā)生的概發(fā)生的概率為率為p(0p75)；(2)p=0.7時(shí)，時(shí)，P(X75)。P(X75)pqppqpXpXP100100751001001)75(1pqp1001007518944. 0)25. 1 (451)75(XP(1)(2)1379. 0)09. 1 (158. 451)75(XP當(dāng)廠方宣傳符合實(shí)際時(shí)，接受這一宣傳的概率約為當(dāng)廠方宣傳符合實(shí)際時(shí)，接受這一宣傳的概率約為0.8944，而當(dāng)，而

12、當(dāng)廠方宣傳不符合實(shí)際時(shí)廠方宣傳不符合實(shí)際時(shí)(言過其實(shí)言過其實(shí))實(shí)際上治愈率為實(shí)際上治愈率為0.7時(shí)，接受時(shí)，接受其虛假宣傳的概率僅有其虛假宣傳的概率僅有0.1379。 4、D(X)=0的充分必要條件是的充分必要條件是X以概率以概率1為常數(shù)，即為常數(shù)，即P(X=C)=15、切比雪夫、切比雪夫(Chebyshev,俄羅斯俄羅斯)不等式不等式 設(shè)隨機(jī)變量設(shè)隨機(jī)變量X，E(X)=， D(X)=2，則對(duì)任意的，則對(duì)任意的0，必有必有22XP或或2)()(XDXEXP或等價(jià)于或等價(jià)于2)(1)(XDXEXP2)(1)(XDXEXP切比雪夫不等式切比雪夫不等式給出了在隨機(jī)變量給出了在隨機(jī)變量X的分布未知時(shí)，概率的分布未知時(shí)，概率P(|X- -E(X)|)的一個(gè)上限，的一個(gè)上限，當(dāng)當(dāng)分別取時(shí)分別取時(shí)2，3，4時(shí)，有時(shí)，有P(|X- -E(X)|2)1/4P(|X-