第5章 大數(shù)定理與中心極限定理130414

1、PAGE PAGE 59第5章的教學(xué)要求：1.了解切比雪夫大數(shù)定理、伯努利(Bernoulli)大數(shù)定理、辛欽(Khinchine)大數(shù)定理.2.了解列維-林德伯格(Levy-Lindberg)中心極限定理(獨(dú)立同分布的中心極限定理)和棣莫弗-拉普拉斯(De Moivre-Laplace)中心極限定理.3.了解棣莫弗-拉普拉斯中心極限定理在實(shí)際問題中的應(yīng)用.第5章 大數(shù)定理與中心極限定理5.1 大數(shù)定理第1章已指出：概率是頻率的穩(wěn)定值伯努利大數(shù)定理以嚴(yán)格的數(shù)學(xué)形式表達(dá)了頻率的這種穩(wěn)定性凡是闡述大量隨機(jī)現(xiàn)象的平均結(jié)果具有穩(wěn)定性的定理都稱為大數(shù)定理大量的重復(fù)試驗(yàn)如何用數(shù)學(xué)語言描述？n重伯努利試驗(yàn)概

2、型就是重復(fù)試驗(yàn)的數(shù)學(xué)模型在n重伯努利試驗(yàn)中，各次試驗(yàn)是相互獨(dú)立的，且在每次試驗(yàn)中某事件A發(fā)生的概率p保持不變例如，拋一枚均勻的硬幣，設(shè)A表示“出現(xiàn)正面”，試驗(yàn)數(shù)據(jù)顯示，在相同的條件下，A發(fā)生的頻率的穩(wěn)定值為0.5如果設(shè) QUOTE Xi=1, 第i 次試驗(yàn)則顯然 QUOTE X1,X2, . QUOTE EXi=12如果令，這是n個隨機(jī)變量 QUOTE X1, X2, ,Xn 的算數(shù)平均，也是A發(fā)生的頻率，所以當(dāng)n很大時，的取值應(yīng)該是隨機(jī)變量，該如何表示 QUOTE X 的值穩(wěn)定在0.5呢？一種提法是：當(dāng)n足夠大時， QUOTE X 與0.5有較大偏差的概率很小用數(shù)學(xué)語言表述就是，對于任意正數(shù)

3、 QUOTE ，有.或.定義5.1 設(shè)是一個隨機(jī)變量序列，如果有數(shù)，使對于任意正數(shù)，有，則稱依概率收斂于a，并記.依概率收斂有如下性質(zhì)：若 QUOTE XnPa ，函數(shù) QUOTE g(x) 在a處連續(xù)，則 QUOTE gXnPga 若 QUOTE XnPa,YnPb ，函數(shù)在 QUOTE g(Xn,Yn)更多元隨機(jī)變量的序列有類似的結(jié)果(這是矩估計(jì)的理論基礎(chǔ))定理5.1(切比雪夫大數(shù)定理的特殊情況) 設(shè)隨機(jī)變量相互獨(dú)立，且具有相同的數(shù)學(xué)期望和方差：.若令，則對于任意正數(shù)，有.切比雪夫大數(shù)定理表明，相互獨(dú)立、具有相同的數(shù)學(xué)期望和方差的隨機(jī)變量 QUOTE X1,X2,Xn 的算數(shù)平均依概率收斂

4、于 QUOTE P1n 定理5.2(伯努利大數(shù)定理) 設(shè)是次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù)，p是事件 QUOTE A A在每次試驗(yàn)中發(fā)生的概率，則對于任意正數(shù)，有.伯努利大數(shù)定理表明，事件發(fā)生的頻率依概率收斂于事件發(fā)生的概率因此，當(dāng)試驗(yàn)次數(shù)很大時，人們經(jīng)常用事件發(fā)生的頻率來代替事件發(fā)生的概率定理5.3(辛欽大數(shù)定理) 設(shè)隨機(jī)變量相互獨(dú)立，服從同一分布，具有數(shù)學(xué)期望，則對于任意正數(shù)，有.辛欽大數(shù)定理表明，相互獨(dú)立同分布、具有數(shù)學(xué)期望的隨機(jī)變量 QUOTE X1,X2,Xn例 設(shè)獨(dú)立同分布于參數(shù)為2的指數(shù)分布，則當(dāng)時， 依概率收斂于 .5.2 中心極限定理如何計(jì)算關(guān)于隨機(jī)變量的事件的概率？切比雪夫

5、不等式只給出了估計(jì)關(guān)于的特定事件的概率：.大數(shù)定理則指出：.一般說來，概率計(jì)算依賴于隨機(jī)變量的概率分布，而的概率分布一般不好求，所以計(jì)算 QUOTE PX- 關(guān)于的事件的概率不容易本節(jié)討論的中心極限定理則能比較好地解決這個問題定理5.4(列維-林德伯格(Levy-Lindberg)定理) 設(shè)隨機(jī)變量相互獨(dú)立，服從同一分布，具有數(shù)學(xué)期望和方差，則對任意實(shí)數(shù)x，有.定理5.4又稱為獨(dú)立同分布的中心極限定理.定理5.4的含義：因?yàn)?，所以其?shí)是的標(biāo)準(zhǔn)化變量因此定理5.4實(shí)際上表明，均值為 QUOTE 、方差為 QUOTE 20 的獨(dú)立同分布的隨機(jī)變量和的標(biāo)準(zhǔn)化變量，當(dāng)n很大時， QUOTE -nnN0

6、,1而且n越大近似程度越好由正態(tài)變量的性質(zhì)，進(jìn)一步得 QUOTE Nn, n2 ， (5.3). (5.4) QUOTE N,2n后一個結(jié)果是數(shù)理統(tǒng)計(jì)中大樣本統(tǒng)計(jì)推斷的基礎(chǔ)中心極限定理的意義：無論隨機(jī)變量服從什么分布，只要滿足一定的條件，它們的和，當(dāng)n很大時，就近似地服從正態(tài)分布這就是正態(tài)分布在概率統(tǒng)計(jì)中占有重要地位的一個基本原因例5.1(P157)定理5.5(棣莫弗-拉普拉斯(De Moivre-Laplace)定理) 設(shè)隨機(jī)變量，則對任意實(shí)數(shù)，有.定理5.5表明，二項(xiàng)變量近似地服從正態(tài)分布.例5.2(P158)例5.3(P158)作業(yè)(P159)：1.-4. 6. 7.補(bǔ)充：1. 大數(shù)定理

7、 設(shè)是隨機(jī)變量序列，令.若存在常數(shù)序列，使得對于任意的正數(shù)，總有，則稱隨機(jī)變量序列服從大數(shù)定理(或大數(shù)法則).2. 契比雪夫大數(shù)定理 設(shè)是兩兩不相關(guān)的隨機(jī)變量序列，每一隨機(jī)變量都有有限的方差，且有共同的上界，即，則對于任意的正數(shù)，總有.3. 普阿松大數(shù)定理 在一個獨(dú)立試驗(yàn)序列中，設(shè)事件在第次試驗(yàn)中發(fā)生的概率為，以表示在前次試驗(yàn)中事件發(fā)生的次數(shù)，則對于任意的正數(shù)，總有.大數(shù)定理的重要意義 人類的大量經(jīng)驗(yàn)告訴我們，概率很接近1的隨機(jī)事件在一次試驗(yàn)中幾乎一定要發(fā)生，即可以把該事件看作實(shí)際中的必然事件；同樣，概率很小的隨機(jī)事件在一次試驗(yàn)中幾乎不發(fā)生，即可以把該事件看作實(shí)際中的不可能事件.至于概率小到何種程度才能看作不可能事件則要視事件的重要性而定.如，有1可能性染菌的藥物應(yīng)該棄用，但有1可能性為次品的紐扣問題則不大.概率論的基本命題之一就是要建立概率接近1或0的規(guī)律，大數(shù)定理就是這種命題中最重要的一個.觀察個別現(xiàn)象是是連同一切個別的特性來觀察的，這些個別的特性往往蒙蔽了事物的規(guī)律性：在大量觀察中個別因素的影響將相互抵消而使總體穩(wěn)定.如：雖說每個氣體分子的運(yùn)動帶有很大的隨機(jī)性，但作為氣體平均特征的壓力、溫度等確實(shí)是穩(wěn)定的.大