第5章__大數(shù)定律及中心極限定理課件

1、第五章第五章 大數(shù)定律及中心極限定理大數(shù)定律及中心極限定理1 大數(shù)定律大數(shù)定律引言引言l概率論與數(shù)理統(tǒng)計(jì)的研究對(duì)象是概率論與數(shù)理統(tǒng)計(jì)的研究對(duì)象是統(tǒng)計(jì)規(guī)律性統(tǒng)計(jì)規(guī)律性（在大量重復(fù)（在大量重復(fù)試驗(yàn)或觀察中所呈現(xiàn)出的固有規(guī)律性）試驗(yàn)或觀察中所呈現(xiàn)出的固有規(guī)律性）l頻率具有穩(wěn)定性（當(dāng)試驗(yàn)的次數(shù)無限增大時(shí)，頻率穩(wěn)定在頻率具有穩(wěn)定性（當(dāng)試驗(yàn)的次數(shù)無限增大時(shí)，頻率穩(wěn)定在一個(gè)數(shù)的附近）一個(gè)數(shù)的附近）l大量測(cè)量值的算術(shù)平均值在一定條件下也具有穩(wěn)定性（大量測(cè)量值的算術(shù)平均值在一定條件下也具有穩(wěn)定性（n 個(gè)隨機(jī)變量的算術(shù)平均，當(dāng)個(gè)隨機(jī)變量的算術(shù)平均，當(dāng)n 無限增加時(shí)，在某種無限增加時(shí)，在某種收斂收斂的的意義下逼近某

2、一常數(shù)）意義下逼近某一常數(shù)）l大數(shù)定律大數(shù)定律就是討論在什么條件下就是討論在什么條件下n 個(gè)隨機(jī)變量的算術(shù)平均個(gè)隨機(jī)變量的算術(shù)平均是穩(wěn)定的是穩(wěn)定的定義：定義：對(duì)隨機(jī)變量序列對(duì)隨機(jī)變量序列 Yn (n = 1, 2, ) ，若存在常數(shù)，若存在常數(shù) a，使得，使得對(duì)于任意正數(shù)對(duì)于任意正數(shù) e e ，有，有則稱則稱Yn (n = 1, 2, ) 依概率收斂于依概率收斂于a ，記為記為 是指：是指： ， ，當(dāng)，當(dāng) 時(shí)，時(shí)，PnYa 依概率收斂依概率收斂 lim1nnP Yae e ()naa n 0e e0NnN naae e ae e a + e e a定義：定義：對(duì)隨機(jī)變量序列對(duì)隨機(jī)變量序列 Yn

3、 (n = 1, 2, ) ，若存在常數(shù)，若存在常數(shù) a，使得，使得對(duì)于任意正數(shù)對(duì)于任意正數(shù) e e ，有，有則稱則稱Yn (n = 1, 2, ) 依概率收斂于依概率收斂于a ，記為記為 是指：當(dāng)是指：當(dāng) 時(shí)，時(shí)，Yn 落在落在 (a e e , a + e e )內(nèi)的概率內(nèi)的概率越來越大，無限接近于越來越大，無限接近于1PnYa 依概率收斂依概率收斂 lim1nnP Yae e PnYa n Ynae e a + e e a大數(shù)定律大數(shù)定律定義：定義：設(shè)設(shè)隨機(jī)變量隨機(jī)變量 X1, X2, , Xk, 都存在數(shù)學(xué)期望，即都存在數(shù)學(xué)期望，即若若即對(duì)于任意正數(shù)即對(duì)于任意正數(shù) e e ， 有有 則

4、稱則稱 Xk (k = 1, 2, ) 服從大數(shù)定律服從大數(shù)定律1111lim()1nnkknkkPXE Xnne e 1111()nnPkkkkXE Xnn (), 1,2,kE Xk 這是這是常數(shù)！常數(shù)！定理定理1（切比雪夫大數(shù)定律）（切比雪夫大數(shù)定律）：設(shè)隨機(jī)變量設(shè)隨機(jī)變量 X1, X2, , Xk, 相互獨(dú)立，且有相同的數(shù)學(xué)期望和方差：相互獨(dú)立，且有相同的數(shù)學(xué)期望和方差：E(Xk) = m m， D(Xk) = s s 2 (k = 1,2,)則則即即對(duì)于任意正數(shù)對(duì)于任意正數(shù) e e ， 有有 其中其中 1111()nnPkkkkXE Xnn 三個(gè)常用的大數(shù)定律三個(gè)常用的大數(shù)定律11n

5、PnkkYXnm m lim1nnP Ym me e 1111()nnkkkkEXE Xnnm m證明：證明：根據(jù)根據(jù)切比雪夫不等式切比雪夫不等式可知：可知：對(duì)于任意正數(shù)對(duì)于任意正數(shù)e e ，都有，都有這里這里于是于是 令令 ，則，則 2()()1nnnD YP YE Ye ee e1111()() nnnkkkkE YEXE Xnnm m221111()() nnnkkkkD YDXD Xnnns s 2211nP Yns sm me ee e n lim1nnP Ym me e 2()()D XPXE Xe ee e回顧：切比雪夫不等式回顧：切比雪夫不等式定理定理（切比雪夫不等式）（切比雪

6、夫不等式）：設(shè)隨機(jī)變量設(shè)隨機(jī)變量 X 具有期望和方差，具有期望和方差，E(X) = m m， D(X) = s s 2則對(duì)于任意正數(shù)則對(duì)于任意正數(shù)e e ，都有，都有常用的等價(jià)形式常用的等價(jià)形式 2()()1D XPXE Xe ee e 三個(gè)常用的大數(shù)定律三個(gè)常用的大數(shù)定律定理定理2（伯努利大數(shù)定律）（伯努利大數(shù)定律）：設(shè)設(shè) nA 是是 n 次獨(dú)立重復(fù)試驗(yàn)中事次獨(dú)立重復(fù)試驗(yàn)中事件件 A 發(fā)生的次數(shù)發(fā)生的次數(shù)p 是事件是事件 A 在每次試驗(yàn)中發(fā)生的概率，則在每次試驗(yàn)中發(fā)生的概率，則即對(duì)于任意正數(shù)即對(duì)于任意正數(shù) e e ，有，有 或或()PAnnfApn lim1AnnPpne elim0AnnP

7、pne e 頻率的頻率的穩(wěn)定性穩(wěn)定性證明：證明：設(shè)設(shè) ，k = 1, 2, , n則則 X1, X2, , Xn 相互獨(dú)立，且相互獨(dú)立，且 Xk b(1, p)，于是，于是E(Xk) = p， D(Xk) = p(1p) ，k = 1, 2, , n又又 ， ，根據(jù)切比雪夫大數(shù)定律，有根據(jù)切比雪夫大數(shù)定律，有即對(duì)于任意正數(shù)即對(duì)于任意正數(shù) e e ，有，有結(jié)論：結(jié)論：課本課本P.147第第1段段1nAkknX 0,1,kX 第第 k 次試驗(yàn)中事件次試驗(yàn)中事件 A 不不發(fā)生發(fā)生第第 k 次試驗(yàn)中事件次試驗(yàn)中事件 A 發(fā)生發(fā)生11( )nAnkknfAXnn ()PAnnfApn lim1AnnPp

8、ne e11()nkkE Xpn 1111()nnPkkkkXE Xnn 定理定理1（切比雪夫大數(shù)定律）（切比雪夫大數(shù)定律）：設(shè)隨機(jī)變量設(shè)隨機(jī)變量 X1, X2, , Xk, 相互獨(dú)立，且有相同的數(shù)學(xué)期望和方差：相互獨(dú)立，且有相同的數(shù)學(xué)期望和方差：E(Xk) = m m， D(Xk) = s s 2 (k = 1,2,)則則即即其中其中三個(gè)常用的大數(shù)定律三個(gè)常用的大數(shù)定律1111()nnPkkkkXE Xnn 11nPkkXnm m 1111()nnkkkkEXE Xnnm m三個(gè)常用的大數(shù)定律三個(gè)常用的大數(shù)定律定理定理3（辛欽大數(shù)定律）（辛欽大數(shù)定律）：設(shè)隨機(jī)變量設(shè)隨機(jī)變量 X1, X2,

9、, Xk, 相互相互獨(dú)立，獨(dú)立，服從同一分布服從同一分布，且具有相同的數(shù)學(xué)期望：，且具有相同的數(shù)學(xué)期望：E(Xk) = m m (k = 1,2,)則則即即對(duì)于任意正數(shù)對(duì)于任意正數(shù) e e ， 有有 1111()nnPnkkkkYXE Xnnm m lim1nnP Ym me e 2 中心極限定理中心極限定理高爾頓釘板試驗(yàn)高爾頓釘板試驗(yàn)l每一個(gè)黑點(diǎn)表示釘在板上的每一個(gè)黑點(diǎn)表示釘在板上的一顆釘子，它們彼此距離均一顆釘子，它們彼此距離均相等，上一層的每一顆的水相等，上一層的每一顆的水平位置恰好位于下一層的兩平位置恰好位于下一層的兩顆正中間顆正中間l從入口處放入一個(gè)直徑略小從入口處放入一個(gè)直徑略小于

10、兩顆釘子之間距離的小球于兩顆釘子之間距離的小球.l在下落過程中，小球碰到釘在下落過程中，小球碰到釘子時(shí)從左邊落下與從右邊落子時(shí)從左邊落下與從右邊落下的機(jī)會(huì)均等下的機(jī)會(huì)均等l當(dāng)小球個(gè)數(shù)足夠多時(shí)，可以當(dāng)小球個(gè)數(shù)足夠多時(shí)，可以看到小球在釘板底端堆成的看到小球在釘板底端堆成的曲線近似于正態(tài)分布曲線近似于正態(tài)分布 高爾頓釘板試驗(yàn)高爾頓釘板試驗(yàn)令令 Xk (k = 1, 2, , n)表示小球第表示小球第 k 次碰到釘子后向右（左）落下：次碰到釘子后向右（左）落下：則則 E(Xk ) =0， D(Xk ) =1，且且 Xk (k = 1, 2, , n) 相互獨(dú)立相互獨(dú)立令令 Yn (n = 1, 2,

11、)表示小球經(jīng)過表示小球經(jīng)過n 次碰釘后的落點(diǎn)位置，試驗(yàn)表明次碰釘后的落點(diǎn)位置，試驗(yàn)表明1,1,kX 向右落下向右落下向左落下向左落下1nnkkYX 近似地近似地 (0, )Nn引言引言l客觀實(shí)際中有許多隨機(jī)變量，它們是由大量的相互獨(dú)立的客觀實(shí)際中有許多隨機(jī)變量，它們是由大量的相互獨(dú)立的隨機(jī)因素的綜合影響所形成的隨機(jī)因素的綜合影響所形成的l這些隨機(jī)因素在總的影響中所起的作用都是微小的這些隨機(jī)因素在總的影響中所起的作用都是微小的l這種隨機(jī)變量往往近似地服從正態(tài)分布這種隨機(jī)變量往往近似地服從正態(tài)分布l中心極限定理中心極限定理就是討論在什么條件下，獨(dú)立隨機(jī)變量的和就是討論在什么條件下，獨(dú)立隨機(jī)變量的和

12、近似服從正態(tài)分布近似服從正態(tài)分布定義：定義：設(shè)設(shè) Xk (k = 1, 2, ) 為相互獨(dú)立的隨機(jī)變量序列，為相互獨(dú)立的隨機(jī)變量序列，存在數(shù)學(xué)期望和方差存在數(shù)學(xué)期望和方差（不一定相等）（不一定相等）：E(Xk) = m mk， D(Xk) = s sk 2 0 (k = 1,2,)若當(dāng)若當(dāng) n 充分大時(shí)，充分大時(shí)，則稱則稱 Xk (k = 1, 2, ) 服從中心極限定理服從中心極限定理中心極限定理中心極限定理111nnkkkknkkXEXDX 近似地近似地 (0,1)N幾個(gè)常用的中心極限定理幾個(gè)常用的中心極限定理定理定理1（獨(dú)立同分布的中心極限定理）（獨(dú)立同分布的中心極限定理）：設(shè)隨機(jī)變量設(shè)

13、隨機(jī)變量X1, X2, , Xk, 相互獨(dú)立，服從同一分布，且有相互獨(dú)立，服從同一分布，且有相同的期望和方差：相同的期望和方差：E(Xk) = m m， D(Xk) = s s 2 0 (k = 1,2,)，則則1111nnnkkkkkknkkXEXXnnDXm ms s 近似地近似地 (0,1)N幾個(gè)常用的中心極限定理幾個(gè)常用的中心極限定理定理定理1 續(xù)續(xù)（獨(dú)立同分布的中心極限定理）（獨(dú)立同分布的中心極限定理）：設(shè)隨機(jī)變量設(shè)隨機(jī)變量X1, X2, , Xk, 相互獨(dú)立，服從同一分布，且有相互獨(dú)立，服從同一分布，且有數(shù)學(xué)期望和方差：數(shù)學(xué)期望和方差：E(Xk) = m m， D(Xk) = s

14、s 2 0 (k = 1,2,)， 對(duì)于任意的實(shí)數(shù)對(duì)于任意的實(shí)數(shù) x， n 個(gè)隨機(jī)變量的和的標(biāo)準(zhǔn)化變量的分布個(gè)隨機(jī)變量的和的標(biāo)準(zhǔn)化變量的分布函數(shù)函數(shù)Fn(x) 收斂于收斂于F F(x)，即，即1lim( )lim( )nkknnnXnFxPxxnm ms s F F 幾個(gè)常用的中心極限定理幾個(gè)常用的中心極限定理定理定理1 續(xù)續(xù)（獨(dú)立同分布的中心極限定理）（獨(dú)立同分布的中心極限定理）：設(shè)隨機(jī)變量設(shè)隨機(jī)變量X1, X2, , Xk, 相互獨(dú)立，服從同一分布，且有相互獨(dú)立，服從同一分布，且有數(shù)學(xué)期望和方差：數(shù)學(xué)期望和方差：E(Xk) = m m， D(Xk) = s s 2 0 (k = 1,2,)

15、，則，則111nnkkkkXnXnnnmmmmssss 近似地近似地 (0,1)N11nkkXn 近似地近似地 2,Nns sm m大數(shù)定律與中心極限定理的關(guān)系大數(shù)定律與中心極限定理的關(guān)系當(dāng)隨機(jī)變量序列當(dāng)隨機(jī)變量序列Xk (k = 1, 2, ) 獨(dú)立同分布，且獨(dú)立同分布，且E(Xk) = m m， D(Xk) = s s 2 0 (k = 1,2,)時(shí)，兩個(gè)定理都成立，可以作比較時(shí)，兩個(gè)定理都成立，可以作比較.對(duì)于任意正數(shù)對(duì)于任意正數(shù)e e ，根據(jù)大數(shù)定律，有，根據(jù)大數(shù)定律，有根據(jù)根據(jù)中心極限定理中心極限定理，有，有1111lim1nnkknkkPXEXnne e 11111111121/n

16、nkkkknnkkkkPXEXnnnPXEXnnnne ee ee es ss ss s F F 中心極限定理中心極限定理給出了收斂速度給出了收斂速度的估計(jì)的估計(jì)幾個(gè)常用的中心極限定理幾個(gè)常用的中心極限定理定理定理2（棣莫佛（棣莫佛拉普拉斯定理）拉普拉斯定理）：設(shè)隨機(jī)變量設(shè)隨機(jī)變量Yn (n = 1, 2, ) 服從二項(xiàng)分布服從二項(xiàng)分布b(n, p)，則，則即對(duì)于任意的實(shí)數(shù)即對(duì)于任意的實(shí)數(shù) y，有，有l(wèi)im( )(1)nnYnpPyynpp F F (1)nYnpnpp 近似地近似地 (0,1)N證明：證明：設(shè)設(shè) X1, X2, , Xn 相互獨(dú)立，相互獨(dú)立， Xk b(1, p) ，k =

17、1, 2, , n則則E(Xk) = p， D(Xk) = p(1p) ，k = 1, 2, , n又又 ，根據(jù)獨(dú)立同分布的中心極限定理，有根據(jù)獨(dú)立同分布的中心極限定理，有1nnkkYX 111limlim(1)( )nnkkkknnnnkkXEXYnpPyPynppDXy F F 例：例：一加法器同時(shí)收到一加法器同時(shí)收到20個(gè)噪聲電壓個(gè)噪聲電壓Vk (k = 1,2, 20)，設(shè)，設(shè)它們是相互獨(dú)立的隨機(jī)變量，且都在區(qū)間它們是相互獨(dú)立的隨機(jī)變量，且都在區(qū)間(0, 10)上服從均勻上服從均勻分布記分布記V = V1 + V2 + + V20，求，求PV 105的近似值的近似值解：解： E(Vk)

18、 =5， D(Vk) =100/12， k = 1,2, 20，根據(jù)獨(dú)立同分布的中心極限定理，有根據(jù)獨(dú)立同分布的中心極限定理，有其中其中( )100( )10 5 3VE VVD V 近似地近似地 (0,1)N202011202011( )()5201001002000( )()201212kkkkkkkkE VEVE VD VDVD V例：例：一加法器同時(shí)收到一加法器同時(shí)收到20個(gè)噪聲電壓個(gè)噪聲電壓Vk (k = 1,2, 20)，設(shè)，設(shè)它們是相互獨(dú)立的隨機(jī)變量，且都在區(qū)間它們是相互獨(dú)立的隨機(jī)變量，且都在區(qū)間(0, 10)上服從均勻上服從均勻分布記分布記V = V1 + V2 + + V20

19、，求，求PV 105的近似值的近似值解（續(xù)）：解（續(xù)）： E(Vk) =5， D(Vk) =100/12， k = 1,2, 20，根據(jù)獨(dú)立同分布的中心極限定理，有根據(jù)獨(dú)立同分布的中心極限定理，有( )100( )10 5 3VE VVD V 近似地近似地 (0,1)N 1001051001001050.38710 5 310 5 310 5 31(0.387)0.348VVP VPP F F 例：例：一船舶在某海區(qū)航行，已知遭受一次波浪的沖擊，縱搖一船舶在某海區(qū)航行，已知遭受一次波浪的沖擊，縱搖角大于角大于3o的概率為的概率為p = 1/3，若船舶遭受了，若船舶遭受了90000次波浪沖擊，次

20、波浪沖擊，問其中有問其中有29500到到30500次縱搖角大于次縱搖角大于3o的概率是多少？的概率是多少？解：解：設(shè)在設(shè)在90000次波浪沖擊中，縱搖角大于次波浪沖擊中，縱搖角大于3o的次數(shù)為的次數(shù)為 X，則，則X b(90000, 1/3)，于是，于是所求概率所求概率900009000012,0,1,2,9000033kkP Xkkk 9000030500295009000012295003050033kkkPXk 解（續(xù)）：解（續(xù)）：設(shè)在設(shè)在90000次波浪沖擊中，縱搖角大于次波浪沖擊中，縱搖角大于3o的次數(shù)的次數(shù)為為 X，則，則X b(90000, 1/3)，于是，于是根據(jù)根據(jù)棣莫佛棣莫

21、佛拉普拉斯定理拉普拉斯定理，有，有其中其中n = 90000， p= 1/329500305002950030500(1)(1)(1)305002950055(1)(1)220.9995npXnpnpPXPnppnppnppnpnpnppnppFF FF FF FF 900009000012,0,1,2,9000033kkP Xkkk 例：例：對(duì)于一個(gè)學(xué)生而言，來參加家長會(huì)的家長人數(shù)是一個(gè)隨對(duì)于一個(gè)學(xué)生而言，來參加家長會(huì)的家長人數(shù)是一個(gè)隨機(jī)變量，設(shè)一個(gè)學(xué)生無家長、機(jī)變量，設(shè)一個(gè)學(xué)生無家長、1名家長、名家長、2名家長來參加會(huì)議名家長來參加會(huì)議的概率分別為的概率分別為0.05、0.8、0.15若學(xué)校共有若學(xué)校共有400名學(xué)生，設(shè)各名學(xué)生，設(shè)各學(xué)生參加會(huì)議的家長人數(shù)相互獨(dú)立，且服從同一分布學(xué)生參加會(huì)議的家長人數(shù)相互獨(dú)立，且服從同一分布求參加會(huì)議的家長數(shù)求參加會(huì)議的家長數(shù) X 超過超過450的概率；的概率；求有求有1名家長來參加會(huì)議的學(xué)生數(shù)不多于名家長來參加會(huì)議的學(xué)生數(shù)不多于340的概率的概率解：解：(1) 以以Xk (k = 1, 2, , 400) 表示第表示第 k 個(gè)學(xué)生來參加個(gè)學(xué)生來參加會(huì)議會(huì)議的家長數(shù)，則的家長數(shù)，則(1)于是于是E(Xk) =1.1， D(Xk) =0.19