Ch5-大數(shù)定律及中心極限定理

第一節(jié)大數(shù)定律先介紹r.v序列幾種收斂性的定義1．幾乎處處收斂：設(shè)X1，X2，…是定義在同一概率空間（，F(xiàn)，P）上的r.v列，如果

則稱r.v列幾乎處處（或依概率1）收斂于，記為（或a.s）第一節(jié)大數(shù)定律2．依概率收斂：若對(duì)任意的＞0，有

（或：）

則稱r.v列依概率（或隨機(jī)收斂）收斂于r.vX，記為

第一節(jié)大數(shù)定律3．依分布收斂（或弱收斂）：設(shè)r.vX，Xn各自d.f為F(x)和Fn(x)，若在F(x)的每一連續(xù)點(diǎn)x處，有

則稱r.v列Xn依分布收斂于r.vX，記為或第一節(jié)大數(shù)定律4．依r階平均收斂：設(shè)對(duì)某r＞0，，若有則稱r.v列｛Xn｝依r階平均（矩）收斂到X，記為

以上四者之關(guān)系為

第一節(jié)大數(shù)定律大數(shù)定律的數(shù)學(xué)定義：

設(shè)｛Xn｝是r.v列，記，｛an｝是常數(shù)列。若＞0，有

即則稱｛Xn｝（按算術(shù)平均值）服從大數(shù)定律。命題1車比雪夫定理

（由車比雪夫在1866年證明的）

設(shè)｛Xn｝是相互獨(dú)立的r.v列，若存在c＞0，使DXn≤c，則｛Xn｝服從大數(shù)定律。

證明：取，∵｛Xn｝相互獨(dú)立，∴故

從而由車比雪夫不等式，有第一節(jié)大數(shù)定律推論：設(shè)r.v列｛Xn｝相互獨(dú)立，且，存在，則｛Xn｝服從大數(shù)定律。例如：某容器內(nèi)有很多氣體分子，它們?cè)诓粩嗟剡\(yùn)動(dòng)，每個(gè)氣體分子運(yùn)動(dòng)是隨機(jī)的，在一定溫度下容器內(nèi)某部分氣體分子的動(dòng)能的算術(shù)平均值幾乎是一個(gè)常數(shù)。命題2貝努利定理（BernoulliTh）

在Bernoulli試驗(yàn)中，設(shè)事件A在每次試驗(yàn)中出現(xiàn)的概率為p，記nA為前n次試驗(yàn)中A出現(xiàn)的次數(shù)，則＞0，有

即第一節(jié)大數(shù)定律證明：令

則｛Xk，k≥1｝相互獨(dú)立，且DXk=pq≤1（EXk=p），

，，∴由命題1知

由此Th可知，為什么在實(shí)際中，可用頻率去代替概率的道理。命題3泊松定理（PoissonTh）

設(shè)在獨(dú)立試驗(yàn)中，事件A在第k次試驗(yàn)中出現(xiàn)的概率為pk，以nA表示前n次試驗(yàn)中A出現(xiàn)的次數(shù)，則有

證明：令

則由，，

再由命題1即可得證。命題4辛欽定理

設(shè)｛Xk，k≥1｝是i.i.dr.v列，則｛Xk｝服從大數(shù)定律的充分必要條件是X1有有限的期望（證明參見王梓坤：《概率論基礎(chǔ)及其應(yīng)用》）大數(shù)定律的意義和應(yīng)用車氏命題1說明：當(dāng)n很大時(shí)，n個(gè)r.v的算術(shù)平均值與其期望平均值相差很小的可能性很大，即故在測(cè)量中，常用測(cè)量數(shù)據(jù)的算術(shù)平均去代替測(cè)量值。大數(shù)定律的意義和應(yīng)用

貝氏命題2說明：試驗(yàn)次數(shù)很大時(shí)，可用事件出現(xiàn)的頻率代替事件出現(xiàn)的概率。由命題2知：實(shí)用中，希望相當(dāng)?shù)匦?，比如只要即可。第一?jié)大數(shù)定律例：設(shè)在具有n個(gè)任意開、關(guān)的電路試驗(yàn)中，假定在每次試驗(yàn)中，開或關(guān)的概率均為，用K表示n次試驗(yàn)中遇到開電的次數(shù)，欲使開關(guān)頻率與的絕對(duì)值之差小于0.01，且要求99%以上的可靠性保證其實(shí)現(xiàn)，試問試驗(yàn)次數(shù)n至少多大？解：這里，=99%，解出t=10

∴強(qiáng)大數(shù)定律

如果r.v列Xn滿足

或，特別當(dāng)時(shí)，

則稱服｛Xn｝從強(qiáng)大數(shù)定律。強(qiáng)大數(shù)定律KolmogorovTh

設(shè)｛Xn｝相互獨(dú)立，且，則｛Xn｝服從強(qiáng)大數(shù)定律。BorelTh

設(shè)在Bernoulli試驗(yàn)中，事件A在每次試驗(yàn)中出現(xiàn)的概率為p（0＜p＜1），nA表示前n次試驗(yàn)中A出現(xiàn)的次數(shù)，則

或BorelTh（續(xù)）證明：事實(shí)上，令∵，∴

故｛Xn｝服從強(qiáng)大數(shù)定律。第二節(jié)中心極限定理（CLT）先看例1：已知某些型號(hào)芯片的次品率為0.01，出廠時(shí)每千只裝一盒，問其中次品個(gè)數(shù)介于5到20只的概率p？解：令

故得到Xk的分布為X10P0.010.99第二節(jié)中心極限定理（CLT）例1（續(xù)）

｛Xk｝是相互獨(dú)立，記，則為一盒中可能出現(xiàn)的次品個(gè)數(shù)，所以

按題意

現(xiàn)在設(shè)法尋找一個(gè)近似計(jì)算上式的方法或公式。第二節(jié)中心極限定理（CLT）例2：設(shè)炮彈射擊的目標(biāo)位置是原點(diǎn)(0,0)，彈差點(diǎn)

(X,Y)，設(shè)X----落點(diǎn)與目標(biāo)0沿x軸的偏差是隨機(jī)d，產(chǎn)生偏差原因有：瞄準(zhǔn)誤差X1，炮彈或炮身結(jié)構(gòu)誤差X2，空氣阻力引起誤差X3，炮手的技術(shù)、心理誤差X4，…等等故，各Xk相互獨(dú)立，考察X的分布CLT，即要解決許多獨(dú)立r.v之和的極限分布，數(shù)學(xué)上一般提法：第二節(jié)中心極限定理（CLT）例2（續(xù)）設(shè)｛Xn｝是r.v列，且EXn，DXn均存在，記

若實(shí)數(shù)x，有

則稱｛Xn｝服從CLT，記為第二節(jié)中心極限定理（CLT）Th1：設(shè)｛Xn，n≥1｝是i.i.dr.v列，且，則｛Xn｝服從CLT，此時(shí)，，Th2：（DeMoivre-LaplaceTh）設(shè)r.v(n≥1)是具有參數(shù)n、p(0＜p＜1)的二項(xiàng)分布，則對(duì)任意區(qū)間[a，b]，有Th2DeMoivre-LaplaceTh（續(xù)）證明：令為Bernoulli試驗(yàn)中事件A出現(xiàn)的次數(shù)，而P(A)=p，記

則，各Xk相互獨(dú)立同分布，并且

故｛Xk｝i.i.d的，，所以由Th1知

從而DeMoivre-LaplaceTh（續(xù)）

由此Th2可計(jì)算例1的P()：事實(shí)上，n=1000，p=0.01np=10

，故

第二節(jié)中心極限定理（CLT）例3：一加法器同時(shí)收到20個(gè)噪聲電壓Vk，()，各

Vk是相互獨(dú)立r.v，且均服從U(0,10)，記，求P(V＞105)。

解：∵Vk的d.l為

∴

第二節(jié)中心極限定理（CLT）例3（續(xù)）故

∴

第二節(jié)中心極限定理（CLT）

對(duì)于｛Xn｝獨(dú)立非同分布情況，引進(jìn)下述的Linderberg條件，即＞0，有

其中，，第二節(jié)中心極限定理（CLT）

該Lin氏條件是使各Xk所引起的影響“均勻地小”，即

第二節(jié)中心極限定理（CLT）Th3（LinderbergTh）設(shè)相互獨(dú)立r.v序列｛Xn｝滿足Linderberg條件，則｛Xn｝服從CLT。Th4（李雅普諾夫定理）若對(duì)獨(dú)立r.v序列｛Xn｝滿足：存在某一＞0，使有

則｛Xn｝服從CLT。Th4李雅普諾夫定理（續(xù)）證明：只要驗(yàn)證Lin氏條件成立即可事實(shí)上，

在一般證明題中，可以取，只要驗(yàn)證即可CLT與大數(shù)定律之關(guān)系大數(shù)定律只斷定，＞0，

但不知的具體值。而CLT則給出它一個(gè)近似值，即在｛Xn｝i.i.d時(shí)，有

（，，k≥1）第二節(jié)中心極限定理（CLT）例4：拋擲硬幣1000次，要求出現(xiàn)正面次數(shù)在440

與K次之間的概率約為或（），求K值。（記X為出現(xiàn)正面次數(shù)）第二節(jié)中心極限定理（CLT）例4（續(xù)）解：記n=1000，已知每次擲硬幣出現(xiàn)正面概率為p=，np=500，，先計(jì)算

查表得到K=500。第二節(jié)中心極限定理（CLT）例5：現(xiàn)有一大批種子，其中良種占，今在其中任選6000粒，試問在這些種子中，良種所占