Ch5-大數(shù)定律及中心極限定理

第一節(jié)大數(shù)定律先介紹r.v序列幾種收斂性的定義1．幾乎處處收斂：設(shè)X1，X2，…是定義在同一概率空間（，F(xiàn)，P）上的r.v列，如果

則稱r.v列幾乎處處（或依概率1）收斂于，記為（或a.s）第一節(jié)大數(shù)定律2．依概率收斂：若對任意的＞0，有

（或：）

則稱r.v列依概率（或隨機收斂）收斂于r.vX，記為

第一節(jié)大數(shù)定律3．依分布收斂（或弱收斂）：設(shè)r.vX，Xn各自d.f為F(x)和Fn(x)，若在F(x)的每一連續(xù)點x處，有

則稱r.v列Xn依分布收斂于r.vX，記為或第一節(jié)大數(shù)定律4．依r階平均收斂：設(shè)對某r＞0，，若有則稱r.v列｛Xn｝依r階平均（矩）收斂到X，記為

以上四者之關(guān)系為

第一節(jié)大數(shù)定律大數(shù)定律的數(shù)學(xué)定義：

設(shè)｛Xn｝是r.v列，記，｛an｝是常數(shù)列。若＞0，有

即則稱｛Xn｝（按算術(shù)平均值）服從大數(shù)定律。命題1車比雪夫定理

（由車比雪夫在1866年證明的）

設(shè)｛Xn｝是相互獨立的r.v列，若存在c＞0，使DXn≤c，則｛Xn｝服從大數(shù)定律。

證明：取，∵｛Xn｝相互獨立，∴故

從而由車比雪夫不等式，有第一節(jié)大數(shù)定律推論：設(shè)r.v列｛Xn｝相互獨立，且，存在，則｛Xn｝服從大數(shù)定律。例如：某容器內(nèi)有很多氣體分子，它們在不斷地運動，每個氣體分子運動是隨機的，在一定溫度下容器內(nèi)某部分氣體分子的動能的算術(shù)平均值幾乎是一個常數(shù)。命題2貝努利定理（BernoulliTh）

在Bernoulli試驗中，設(shè)事件A在每次試驗中出現(xiàn)的概率為p，記nA為前n次試驗中A出現(xiàn)的次數(shù)，則＞0，有

即第一節(jié)大數(shù)定律證明：令

則｛Xk，k≥1｝相互獨立，且DXk=pq≤1（EXk=p），

，，∴由命題1知

由此Th可知，為什么在實際中，可用頻率去代替概率的道理。命題3泊松定理（PoissonTh）

設(shè)在獨立試驗中，事件A在第k次試驗中出現(xiàn)的概率為pk，以nA表示前n次試驗中A出現(xiàn)的次數(shù)，則有

證明：令

則由，，

再由命題1即可得證。命題4辛欽定理

設(shè)｛Xk，k≥1｝是i.i.dr.v列，則｛Xk｝服從大數(shù)定律的充分必要條件是X1有有限的期望（證明參見王梓坤：《概率論基礎(chǔ)及其應(yīng)用》）大數(shù)定律的意義和應(yīng)用車氏命題1說明：當(dāng)n很大時，n個r.v的算術(shù)平均值與其期望平均值相差很小的可能性很大，即故在測量中，常用測量數(shù)據(jù)的算術(shù)平均去代替測量值。大數(shù)定律的意義和應(yīng)用

貝氏命題2說明：試驗次數(shù)很大時，可用事件出現(xiàn)的頻率代替事件出現(xiàn)的概率。由命題2知：實用中，希望相當(dāng)?shù)匦?，比如只要即可。第一?jié)大數(shù)定律例：設(shè)在具有n個任意開、關(guān)的電路試驗中，假定在每次試驗中，開或關(guān)的概率均為，用K表示n次試驗中遇到開電的次數(shù)，欲使開關(guān)頻率與的絕對值之差小于0.01，且要求99%以上的可靠性保證其實現(xiàn)，試問試驗次數(shù)n至少多大？解：這里，=99%，解出t=10

∴強大數(shù)定律

如果r.v列Xn滿足

或，特別當(dāng)時，

則稱服｛Xn｝從強大數(shù)定律。強大數(shù)定律KolmogorovTh

設(shè)｛Xn｝相互獨立，且，則｛Xn｝服從強大數(shù)定律。BorelTh

設(shè)在Bernoulli試驗中，事件A在每次試驗中出現(xiàn)的概率為p（0＜p＜1），nA表示前n次試驗中A出現(xiàn)的次數(shù)，則

或BorelTh（續(xù)）證明：事實上，令∵，∴

故｛Xn｝服從強大數(shù)定律。第二節(jié)中心極限定理（CLT）先看例1：已知某些型號芯片的次品率為0.01，出廠時每千只裝一盒，問其中次品個數(shù)介于5到20只的概率p？解：令

故得到Xk的分布為X10P0.010.99第二節(jié)中心極限定理（CLT）例1（續(xù)）

｛Xk｝是相互獨立，記，則為一盒中可能出現(xiàn)的次品個數(shù)，所以

按題意

現(xiàn)在設(shè)法尋找一個近似計算上式的方法或公式。第二節(jié)中心極限定理（CLT）例2：設(shè)炮彈射擊的目標位置是原點(0,0)，彈差點

(X,Y)，設(shè)X----落點與目標0沿x軸的偏差是隨機d，產(chǎn)生偏差原因有：瞄準誤差X1，炮彈或炮身結(jié)構(gòu)誤差X2，空氣阻力引起誤差X3，炮手的技術(shù)、心理誤差X4，…等等故，各Xk相互獨立，考察X的分布CLT，即要解決許多獨立r.v之和的極限分布，數(shù)學(xué)上一般提法：第二節(jié)中心極限定理（CLT）例2（續(xù)）設(shè)｛Xn｝是r.v列，且EXn，DXn均存在，記

若實數(shù)x，有

則稱｛Xn｝服從CLT，記為第二節(jié)中心極限定理（CLT）Th1：設(shè)｛Xn，n≥1｝是i.i.dr.v列，且，則｛Xn｝服從CLT，此時，，Th2：（DeMoivre-LaplaceTh）設(shè)r.v(n≥1)是具有參數(shù)n、p(0＜p＜1)的二項分布，則對任意區(qū)間[a，b]，有Th2DeMoivre-LaplaceTh（續(xù)）證明：令為Bernoulli試驗中事件A出現(xiàn)的次數(shù)，而P(A)=p，記

則，各Xk相互獨立同分布，并且

故｛Xk｝i.i.d的，，所以由Th1知

從而DeMoivre-LaplaceTh（續(xù)）

由此Th2可計算例1的P()：事實上，n=1000，p=0.01np=10

，故

第二節(jié)中心極限定理（CLT）例3：一加法器同時收到20個噪聲電壓Vk，()，各

Vk是相互獨立r.v，且均服從U(0,10)，記，求P(V＞105)。

解：∵Vk的d.l為

∴

第二節(jié)中心極限定理（CLT）例3（續(xù)）故

∴

第二節(jié)中心極限定理（CLT）

對于｛Xn｝獨立非同分布情況，引進下述的Linderberg條件，即＞0，有

其中，，第二節(jié)中心極限定理（CLT）

該Lin氏條件是使各Xk所引起的影響“均勻地小”，即

第二節(jié)中心極限定理（CLT）Th3（LinderbergTh）設(shè)相互獨立r.v序列｛Xn｝滿足Linderberg條件，則｛Xn｝服從CLT。Th4（李雅普諾夫定理）若對獨立r.v序列｛Xn｝滿足：存在某一＞0，使有

則｛Xn｝服從CLT。Th4李雅普諾夫定理（續(xù)）證明：只要驗證Lin氏條件成立即可事實上，

在一般證明題中，可以取，只要驗證即可CLT與大數(shù)定律之關(guān)系大數(shù)定律只斷定，＞0，

但不知的具體值。而CLT則給出它一個近似值，即在｛Xn｝i.i.d時，有

（，，k≥1）第二節(jié)中心極限定理（CLT）例4：拋擲硬幣1000次，要求出現(xiàn)正面次數(shù)在440

與K次之間的概率約為或（），求K值。（記X為出現(xiàn)正面次數(shù)）第二節(jié)中心極限定理（CLT）例4（續(xù)）解：記n=1000，已知每次擲硬幣出現(xiàn)正面概率為p=，np=500，，先計算

查表得到K=500。第二節(jié)中心極限定理（CLT）例5：現(xiàn)有一大批種子，其中良種占，今在其中任選6000粒，試問在這些種子中，良種所占