五章大數(shù)定理與中心極限

第五章

大數(shù)定律與中心極限定理

引言一、大數(shù)定律

現(xiàn)象：(1)事件發(fā)生的頻率具有穩(wěn)定性，即隨著試驗(yàn)次數(shù)的增加，事件發(fā)生的頻率逐漸穩(wěn)定于某個常數(shù)。(2)在實(shí)踐中人們還認(rèn)識到大量測量值的算術(shù)平均值也具有穩(wěn)定性。1.大數(shù)定律的定義

定義1

設(shè)X1,X2,…,Xn,…為一隨機(jī)變量序列,如果對于任意正整數(shù)k(k≥2)及任意k個隨機(jī)變量

相互獨(dú)立，則稱隨機(jī)變量序列X1,X2,…,Xn,…相互獨(dú)立。

定義2

設(shè)Y1，Y2，…Yn，…是一隨機(jī)變量序列，a是一常數(shù)，若對任意正數(shù)ε，有,則稱序列Y1，Y2，…Yn，…依概率收斂Y，記為定義3

設(shè){Xn}為一隨機(jī)變量序列,E(Xn)存在，記

則稱{Xn}服從（弱）大數(shù)定律。

2．大數(shù)定律的定理定理1(切比雪夫大數(shù)定理)

設(shè)X1，X2，…,Xn，…是相互獨(dú)立的隨機(jī)變量序列，且具有相同的數(shù)學(xué)期望與方差：E(Xk)=μ，D(Xk)=σ2(k=1，2…),則{Xn}服從大數(shù)定律。即對于任意正數(shù)ε，有由切比雪夫不等式對于任意正數(shù)ε，有

令n→∞，注意到概率不能大于1，即得

定理2(貝努利大數(shù)定理)

設(shè)nA為n次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù)。p是事件A在每次試驗(yàn)中發(fā)生的概率,則事件A的頻率依概率收斂到概率p，即對于任意正數(shù)ε，有

證：引入隨機(jī)變量

由于各次試驗(yàn)是獨(dú)立的。于是X1，X2，…,Xn是相互獨(dú)立的；又由于Xk服從(0-1)分布，所以

E(Xk)=p，D(Xk)=p(1-p)，k=1，2，…，n，…。顯然:nA=X1+X2+…+Xn，由定理一有

切比雪夫大數(shù)定理的條件可以減弱為：定理3(辛欽定理)設(shè)隨機(jī)變量X1，X2，…,Xn，…相互獨(dú)立，服從同一分布，具有數(shù)學(xué)期望E(Xk)=μ(k=1，2，…)，則對于任意正數(shù)ε，有

在切比雪夫大數(shù)定理的證明過程中可以看出只要

(△)，則大數(shù)定理就能成立。這個條件稱為馬爾可夫條件。因此更一般的定理有馬爾可夫大數(shù)定理：對于隨機(jī)變量X1，X2，…,Xn，…，若條件(△)成立，則對于任意ε>0，有

注釋二、中心極限定理

現(xiàn)象：

在實(shí)際中所遇到的許多隨機(jī)變量，往往服從正態(tài)分布或近似服從正態(tài)分布。例如測量誤差，成績的分布，城市中某時刻的用電量等隨機(jī)變量均近似服從正態(tài)分布。他們共同的特點(diǎn)：這些隨機(jī)現(xiàn)象是由大量的相互獨(dú)立隨機(jī)因素的綜合作用的結(jié)果。而其中每個個別因素所起的作用是微小的，只是它們作用總和中的一部分。大量實(shí)踐經(jīng)驗(yàn)告訴我們這一總和的分布是近似服從正態(tài)分布。

1．定義：

設(shè)隨機(jī)變量Xn和X的分布函數(shù)分別為Fn(x)，F(xiàn)(x)，n=1,2,….若對F(x)的一切連續(xù)點(diǎn)x，有：，則稱Xn依分布收斂到X。2.中心極限定理定理1(獨(dú)立同分布的中心極限定理)設(shè)隨機(jī)變量X1，X2，…,Xn，…相互獨(dú)立，服從同一分布，且具有數(shù)學(xué)期望和方差E(Xk)=μ，D(Xk)=σ2≠0,(k=1,2,…)則隨機(jī)變量依分布收斂到Y(jié),而Y

N(0,1).

即Yn的分布函數(shù)Fn(x),對于任意x滿足

定理2(李雅普諾夫Liapunov定理)

設(shè)隨機(jī)變量X1，X2，…,Xn，…相互獨(dú)立，它們具

有數(shù)學(xué)期望和方差,E(Xk)=μk

，D(Xk)=σk2≠0

(k=1，2，…),記

若存在正數(shù)σ，使得當(dāng)n→∞時，

,則隨機(jī)變量

的分布函數(shù)Fn(x)對任意x，滿足

注釋：(1)定理2表明，在定理的條件下，隨機(jī)變量,

近似地服從正態(tài)分布.當(dāng)n很大時，近似地服從正態(tài)分布N(0，1)。由此，當(dāng)n很大時，(2)同時定理也提供了大量獨(dú)立隨機(jī)變量之和有關(guān)的事件概率的近似計(jì)算方法.定理3(德莫佛-拉普拉斯DeMoivre-Laplace定理)設(shè)隨機(jī)變量ηn(n=1，2，…)服從參數(shù)為n，p(0<p<1)的二項(xiàng)分布，則對于任意x，恒有證：將ηn看成是n個相互獨(dú)立、服從同一(0-1)分布的隨機(jī)變量X1，X2，…,Xn之和，

即有

，且E(Xk)=p，D(Xk)=p(1-p)(k=1，

2，…n)，由定理1得中心極限定理中典型的問題

(1)設(shè)隨機(jī)變量X1，X2，…,Xn，…相互獨(dú)立同分布，E(Xk)=μ，D(Xk)=σ2≠0,(k=1,2,…),由定理1，當(dāng)n充分大時，近似服從標(biāo)準(zhǔn)正態(tài)分布。(2)設(shè)ηn

b(n,p),由定理3,當(dāng)n充分大時，

近似服從標(biāo)準(zhǔn)正態(tài)分布。

例1:一加法器同時收到20個噪聲電壓Vk(K=1，2，…，20)，設(shè)它們是相互獨(dú)立的隨機(jī)變量，且都在區(qū)間(0，10)上服從均勻分布，記，求P{V>105}的近似值。

解:易知E(Vk)=5，D(Vk)=100/12(k=1，2，…，20)。

由定理1，隨機(jī)變量近似服從正態(tài)分布N(0，1)，

即有P{V>105}≈0.348。例2:保險(xiǎn)業(yè)是最早使用概率論的部門之一，保險(xiǎn)公司為了估計(jì)企業(yè)的利潤，需要計(jì)算各種概率。假設(shè)現(xiàn)要設(shè)置一項(xiàng)保險(xiǎn)：一輛自行車年交保費(fèi)2元，若自行車丟失，保險(xiǎn)公司賠償200元，設(shè)在一年內(nèi)自行車丟失的概率為0.001,問至少要有多少輛自行車投保才能以不小于0.9的概率保證這一保險(xiǎn)不虧本？解:設(shè)有n