大數(shù)定律和中心極限定理

1、第五章 大數(shù)定律和中心極限定理總述內(nèi)容提要本章主要講述契比雪夫不等式，契比雪夫大數(shù)定律，貝努里大數(shù)定律和中心極限定理等內(nèi)容重點(diǎn)分析1、 了解切比雪夫不等式、切比雪夫定理和伯努利定理。2、 了解獨(dú)立同分布的中心極限定理和棣莫佛拉普拉斯定理。難點(diǎn)分析1、 切比雪夫定理。2、 獨(dú)立同分布的中心極限定理。習(xí)題布置習(xí)題5備注第17 次教案§5.1 大數(shù)定律人們?cè)陂L(zhǎng)期的實(shí)踐中發(fā)現(xiàn)，事件發(fā)生的頻率具有穩(wěn)定性，也就是說(shuō)隨著試驗(yàn)次數(shù)的增多，事件發(fā)生的頻率將穩(wěn)定與一個(gè)確定的常數(shù)。對(duì)某個(gè)隨機(jī)變量進(jìn)行大量的重復(fù)觀測(cè)，所得到的大批觀測(cè)數(shù)據(jù)的算術(shù)平均值也具有穩(wěn)定性，由于這類穩(wěn)定性都是在對(duì)隨機(jī)現(xiàn)象進(jìn)行大量重復(fù)試驗(yàn)

2、的條件下呈現(xiàn)出來(lái)的，因而反映這方面規(guī)律的定理我們就統(tǒng)稱為大數(shù)定律。一、 契比雪夫不等式 Theorem 4.1 設(shè)隨機(jī)變量的均值及方差存在，則對(duì)于任意正數(shù)，有不等式或 成立。我們稱該不等式為契比雪夫（Chebyshev）不等式。Proof: （我們僅對(duì)連續(xù)性的隨機(jī)變量進(jìn)行證明）設(shè)為的密度函數(shù)，記，則 從定理中看出，如果越小，那么隨機(jī)變量取值于開(kāi)區(qū)間中的概率就越大，這就說(shuō)明方差是一個(gè)反映隨機(jī)變量的概率分布對(duì)其分布中心的集中程度的數(shù)量指標(biāo)。利用契比雪夫不等式，我們可以在隨機(jī)變量的分布未知的情況下估算事件的概率。Example 5.1 設(shè)隨機(jī)變量的數(shù)學(xué)期望，方差估計(jì)的大小。Solution 因而 不

3、會(huì)小于.二、 契比雪夫大數(shù)定律Theorem 5.2 設(shè)相互獨(dú)立的隨機(jī)變量分別具有均值及方差，若存在常數(shù)，使，則對(duì)于任意正整數(shù)，有Proof： 由于相互獨(dú)立，那么對(duì)于任意的，相互獨(dú)立。于是令 ，則由契比雪夫不等式有令， 則有 即 .Corollary 5.1 設(shè)相互獨(dú)立的隨機(jī)變量有相同的分布，且 ，存在，則對(duì)于任意正整數(shù)，有.定理5.2我們稱之為契比雪夫大數(shù)定理，推論4.1是它的特殊情況，該推論表明，當(dāng)很大時(shí)，事件的概率接近于1。一般地，我們稱概率接近于1的事件為大概率事件)，而稱概率接近于0的事件為小概率事件)，在一次試驗(yàn)中大概率事件幾乎肯定要發(fā)生，而小概率事件幾乎不可能發(fā)生，這一規(guī)律我們稱

4、之為實(shí)際推斷原理。三、 貝努里大數(shù)定律Theorem 5.3 設(shè)是次獨(dú)立重復(fù)試驗(yàn)中事件發(fā)生的次數(shù)，是事件在每次試驗(yàn)中發(fā)生的概率，則對(duì)于任意正整數(shù)，有 . Proof： 令，是個(gè)相互獨(dú)立的隨機(jī)變量，且.又 ，因而由推論4.1有定理5.3我們稱之為貝努利大數(shù)定律，它表明事件發(fā)生的頻率依概率收斂于事件的概率，也就是說(shuō)當(dāng)很大時(shí)事件發(fā)生的頻率與概率有較大偏差的可能性很小。根據(jù)實(shí)際推斷原理，當(dāng)試驗(yàn)次數(shù)很大時(shí)，就可以利用事件發(fā)生的頻率來(lái)近似地代替事件的概率。 第 18 次教案§5.2 中心極限定理中心極限定理是研究在適當(dāng)?shù)臈l件下獨(dú)立隨機(jī)變量的部分和的分布收斂于正態(tài)分布的問(wèn)題。Theorem 5.4

5、 設(shè)相互獨(dú)立的隨機(jī)變量服從同一分布，且 ，則對(duì)于任意，隨機(jī)變量的分布函數(shù)趨于標(biāo)準(zhǔn)正態(tài)分布函數(shù)，即有定理的證明從略。該定理我們通常稱之為林德貝格-勒維定理。Corollary 5。2 設(shè)相互獨(dú)立的隨機(jī)變量服從同一分布，已知均值為，方差為.單分布函數(shù)未知，當(dāng)充分大時(shí)，近似服從正態(tài)分布. Corollary 5.3 設(shè)相互獨(dú)立的隨機(jī)變量服從同一分布，已知均值為，方差為.單分布函數(shù)未知，當(dāng)充分大時(shí),近似服從正態(tài)分布. 由推論5.3知，無(wú)論是什么樣的分布函數(shù)，他的平均數(shù)當(dāng)充分大時(shí)總是近似地服從正態(tài)分布。 Example 5.2 某單位內(nèi)部有260部電話分機(jī)，每個(gè)分機(jī)有4%的時(shí)間要與外線通話，可以認(rèn)為每個(gè)

6、電話分機(jī)用不同的外線是相互獨(dú)立的，問(wèn)總機(jī)需備多少條外線才能95%滿足每個(gè)分機(jī)在用外線時(shí)不用等候? Solution 令，是260個(gè)相互獨(dú)立的隨機(jī)變量，且，表示同時(shí)使用外線的分機(jī)數(shù)，根據(jù)題意應(yīng)確定最小的使成立。由上面定理，有查得，故，取，于是也就是說(shuō)，至少需要16條外線才能95%滿足每個(gè)分機(jī)在用外線時(shí)不用等候。Example 5.3 用機(jī)器包裝味精，每袋凈重為隨機(jī)變量，期望值為100克，標(biāo)準(zhǔn)差為10克，一箱內(nèi)裝200袋味精，求一箱味精凈重大于20500克的概率。Solution 設(shè)一箱味精凈重為克，箱中第袋味精的凈重為克，.是200個(gè)相互獨(dú)立的隨機(jī)變量，且，因而有 Theorem 5.5 （德莫佛拉普拉斯定理DeMovire-Laplace Theorem）設(shè)表示次獨(dú)立重復(fù)試驗(yàn)中事件發(fā)生的次數(shù)，是事件A在每次試驗(yàn)中發(fā)生的概率。則對(duì)于任意區(qū)間，恒有這兩個(gè)定理表明二項(xiàng)分布的極限分布是正態(tài)分布。一般來(lái)說(shuō)，當(dāng)較大時(shí)，二項(xiàng)分布的概率計(jì)算起來(lái)非常復(fù)雜，這是我們就可以用正態(tài)分布來(lái)近似地計(jì)算二項(xiàng)分布。Example 5.4 設(shè)隨機(jī)變量服從，求.Solution Example 5.5 設(shè)電路共電網(wǎng)中內(nèi)有10000盞燈，夜間每一盞燈開(kāi)著的概率為0.7，假設(shè)各燈的開(kāi)關(guān)彼此獨(dú)立，計(jì)算同時(shí)開(kāi)著的燈數(shù)在6800與7200