概率論與數(shù)理統(tǒng)計(jì)35

1、3.5 大數(shù)定律與中心極限定理大數(shù)定律與中心極限定理一、依概率收斂一、依概率收斂二、大數(shù)定律二、大數(shù)定律三、中心極限定理三、中心極限定理在無法求精確分布的情況下，我們只能尋找近似分布，在無法求精確分布的情況下，我們只能尋找近似分布，而借助極限的概念來尋找近似分布是常用的基本方法。而借助極限的概念來尋找近似分布是常用的基本方法。一、依概率收斂一、依概率收斂？，那么獨(dú)立同分布，如果XX (IID)X X 2121ZrvdxxzfxfzfZ)()()(的。外，此積分是很難計(jì)算但是，除少數(shù)特殊情況的。況外，此分布是很難求的分布。除少數(shù)特殊情求，：的個(gè)需要對然而，在統(tǒng)計(jì)中，經(jīng)常 XX Z X X rv

2、IID nnn11。，則， XXZ p) b(1, IID X X),(11pnbnn。，則， XXZ )P( IID X X)(11nPnn。，則， ) ,(XX Z ) ,N( IID X X2121nnNnn有：對一般的情況，我們只11)(XXXnEEn11)(XXXnDDn 在微積分中，收斂性及其極限是一個(gè)基本而重要在微積分中，收斂性及其極限是一個(gè)基本而重要的概念。的概念。下面我們來討論隨機(jī)變量列的收斂性下面我們來討論隨機(jī)變量列的收斂性00)1,0(PnnnN X X ，則若例如： |XX| )%-100(1 N nn概率保證的時(shí)，以當(dāng)依概率收斂的定義依概率收斂的定義外變得越來越不可能

3、落在臨域大時(shí)，越來越當(dāng) ,- XX nn集中概率分布越來越向臨域大時(shí)，越來越當(dāng) ,- XX nn1|lim XXPnn或 設(shè)設(shè) 是隨機(jī)變量序列，是隨機(jī)變量序列， 是一個(gè)隨機(jī)變是一個(gè)隨機(jī)變量；若對任意量；若對任意 ，有，有: : ,1nXX0X則稱則稱 依概率收斂于依概率收斂于 ，記為，記為 。 X X,1nXPnXXaannlim時(shí)，恒有，當(dāng)，是指對 N Nn 0 |aanaaa0|lim XXPnn 若aPnX，bPnY， 在點(diǎn) 連續(xù)， 則：),(),(bagPnYnXg。),(yxg),(ba定理定理: :二、大數(shù)定律二、大數(shù)定律 在概率論中，不僅事件發(fā)生的頻率具有穩(wěn)定在概率論中，不僅事件

4、發(fā)生的頻率具有穩(wěn)定性，還有大量測量值的算術(shù)平均值也具有穩(wěn)定性，還有大量測量值的算術(shù)平均值也具有穩(wěn)定性。大數(shù)定律就是這種穩(wěn)定性的數(shù)學(xué)基礎(chǔ)。性。大數(shù)定律就是這種穩(wěn)定性的數(shù)學(xué)基礎(chǔ)。的算術(shù)平均列所謂大數(shù)定律是關(guān)于 nrv,1niin11 的充分條件。依概率收斂于某個(gè)實(shí)數(shù)11111niiniiEnnPlimn切比曉夫大數(shù)定律切比曉夫大數(shù)定律 設(shè)設(shè) 是一列兩兩互不相關(guān)的隨機(jī)變量，是一列兩兩互不相關(guān)的隨機(jī)變量，它們的數(shù)學(xué)期望它們的數(shù)學(xué)期望 及方差及方差 均存在，且方差有界，均存在，且方差有界，即存在常數(shù)即存在常數(shù)C C，使得，使得 ， ,1niEiD), 2, 1( iCDi， 推論：推論：設(shè)設(shè) 是一列獨(dú)立

5、同分布的隨機(jī)是一列獨(dú)立同分布的隨機(jī)變量，它們的數(shù)學(xué)期望和方差均存在，記變量，它們的數(shù)學(xué)期望和方差均存在，記 ， ,1nE有對則 0有對則 0111niinPlimnPniin11 即：證：證：由切比曉夫不等式得：由切比曉夫不等式得：2111111niiniiniinDEnnP切比曉夫大數(shù)定律的證明切比曉夫大數(shù)定律的證明221nDnii niiDn12212nC011111niiniiEnnPlimn證：令nkAkAkXk, 2 , 110，發(fā)生次試驗(yàn)中，在第不發(fā)生次試驗(yàn)中，在第設(shè)An是 n 次獨(dú)立重復(fù)試驗(yàn)中事件 A 發(fā)生的次數(shù)，p 是事件 A 發(fā)生的概率， 即：對任意的0，有 1|limpnn

6、PAn 或 0|limpnnPAn 故 ,2, 1)1(nkppDXpEXkk，1|1|lim1pXnPniin,由切比雪夫大數(shù)定律切比雪夫大數(shù)定律有：即 1|limpnnPAn。此定理說明了頻率的穩(wěn)定性此定理說明了頻率的穩(wěn)定性。則nkkAXn1，且nXX,1相互獨(dú)立同服從于 分布) 10( pnnPA貝努里大數(shù)定律貝努里大數(shù)定律則設(shè),1nXX相互獨(dú)立同分布，且具有數(shù)學(xué)期望, 2 , 1nkEXk， 即 ： 對 任 意 的0， 有 注：切比曉夫大數(shù)定律的推論是辛欽大數(shù)定律的特殊 情況。PnkkXn111|1|lim1niinXnP 辛欽大數(shù)定律辛欽大數(shù)定律則此定理說明了算術(shù)平均值的穩(wěn)定性此定理

7、說明了算術(shù)平均值的穩(wěn)定性。則稱則稱nX服從服從中心極限定理中心極限定理。) Z n1, 0(N三、三、中心極限定理中心極限定理。 )()(nnnnYDYEYZ設(shè)設(shè) 是獨(dú)立的隨機(jī)變量序列，是獨(dú)立的隨機(jī)變量序列， 存在，存在， ,1nXXkkDXEX ，若對任意若對任意 ，有，有1RxxtnndtexZP2221lim定義：定義： ，令： Y nkknX1),( (Y Y nnDYENn或)(lim0 xnZn(x)F 即，的充分條件。的充分條件。事實(shí)上，事實(shí)上，中心極限定理中心極限定理是關(guān)于是關(guān)于 n n 充分大時(shí)充分大時(shí) 設(shè),1nXX是獨(dú)立同分布的隨機(jī)變量序列，且), 2 , 1( , 02k

8、DXEXkk， 則nX服 從 中 心 極 限 定 理 ， 即 ： ) 1, 0(11 n/ NXnnnkk充分大時(shí)，當(dāng)林德伯格林德伯格勒維中心極限定理勒維中心極限定理( (獨(dú)立同分布的中心極限定理）獨(dú)立同分布的中心極限定理）xtnkkndtexnnXP21221lim)1,(121nNXnnkk 即：中心極限定理與大數(shù)定律中心極限定理與大數(shù)定律nkknkkXnPXn11111 PnnXnPnkk/111 1/210nn/120 011nkikXnPlim n大數(shù)定律： 一盒同型號螺絲釘共有一盒同型號螺絲釘共有100100個(gè)，已知該型號螺絲釘個(gè)，已知該型號螺絲釘?shù)闹亓渴且粋€(gè)隨機(jī)變量，期望是的重量

9、是一個(gè)隨機(jī)變量，期望是100g100g，標(biāo)準(zhǔn)差是，標(biāo)準(zhǔn)差是10g10g，求一盒螺絲釘?shù)闹亓砍^求一盒螺絲釘?shù)闹亓砍^10.2kg10.2kg的概率。的概率。100110000000-102000100-P10200P例例3.303.30布，且它們之間獨(dú)立同分個(gè)螺絲釘?shù)闹亓繛榈谠O(shè))1, 2, 100 ( iii解：解：210000100-P2100010100-P02275. 097725. 01)2(10可知：和，且由為于是一盒螺絲釘?shù)闹亓?10 D 100Eiiii100110010010010010000100iiEEDD ，)1(pq由林德伯格由林德伯格勒維中心極限定理有結(jié)論成立。勒維中

10、心極限定理有結(jié)論成立。) ( , 2, 1()10),(nppnBn，設(shè)棣莫弗棣莫弗- -拉普拉斯中心極限定理拉普拉斯中心極限定理xtnndtexnpqnpP2221lim則對于任意則對于任意 x x ，恒有：，恒有： 其中其中 相互獨(dú)立且都服從于相互獨(dú)立且都服從于b(1,p)b(1,p)分布分布, , 且且 nXX,1pqDXpEXkk，nkknX1證：證：設(shè)隨機(jī)變量設(shè)隨機(jī)變量 服從參數(shù)為服從參數(shù)為 n ,p(0p1)n ,p(0p1)的二的二項(xiàng)分布項(xiàng)分布, , ), 2 , 1(nnnpqnpbnpqnpnpqnpaPbaPnn說明：說明：這個(gè)公式給出了這個(gè)公式給出了n n 較大時(shí)二項(xiàng)分布

11、的概率計(jì)較大時(shí)二項(xiàng)分布的概率計(jì)算方法。算方法。)()(00npqnpanpqnpb。即),(pnBn 推論：推論：則當(dāng)則當(dāng) n n 充分大時(shí)有：充分大時(shí)有：nnpPnpnnPpqnnpqnppqnPn用這個(gè)關(guān)系式可解決許多計(jì)算問題。用這個(gè)關(guān)系式可解決許多計(jì)算問題。用頻率估計(jì)概率時(shí)誤差的估計(jì)pqnpqn12pqn第一類問題是已知 求概率,pn;pnnP第二類問題是要使的概率的差異不大于定數(shù)與pnn不小于預(yù)先給定的數(shù)，問最少應(yīng)做多少次試驗(yàn)？這時(shí)只需求滿足下式的最小的n,12pqn第三類問題是已知，求，及pn ,使先求x,12 x,xpqn有.npqx故pnnP12pqn用頻率估計(jì)概率時(shí)誤差的估計(jì)(

12、續(xù)) 設(shè)某電站供電網(wǎng)有設(shè)某電站供電網(wǎng)有1000010000盞電燈，夜晚每盞電燈開盞電燈，夜晚每盞電燈開燈的概率為燈的概率為0.70.7，而假定開燈時(shí)間彼此獨(dú)立，估計(jì)夜晚，而假定開燈時(shí)間彼此獨(dú)立，估計(jì)夜晚同時(shí)開著的燈的盞數(shù)在同時(shí)開著的燈的盞數(shù)在68006800與與72007200之間的概率。之間的概率。解：解： )7 . 0,10000(b燈的盞數(shù)，則表示在夜晚同時(shí)開著的由中心極限定理，有由中心極限定理，有2100700072002100700021007000680072006800PP例例3.313.31 00.30.710000 D 70000.710000E210和于是)36. 4()3

13、6. 4(002100200210070002100200P1)36. 4(2099999. 0 某儀器由某儀器由 n n 個(gè)電子元件組成，每個(gè)電子元件的壽個(gè)電子元件組成，每個(gè)電子元件的壽命服從命服從0, 1000 0, 1000 上的均勻分布上的均勻分布( (單位：單位：h)h)，當(dāng)有，當(dāng)有 20%20%的元件燒壞時(shí)，儀器便報(bào)廢，求為使該儀器的壽命超過的元件燒壞時(shí)，儀器便報(bào)廢，求為使該儀器的壽命超過100h 100h 的概率不低于的概率不低于0.950.95，n n至少為多大？至少為多大？解：解：設(shè)設(shè) X X 表示儀器的壽命，表示儀器的壽命，X Xi i 表示第表示第 i i 個(gè)電子元件個(gè)電子元件 的壽命，的壽命，0.9,PA A1000/900,100iii