概率1收斂與強大數(shù)定律

1、§3 概率1收斂與強大數(shù)定律 一、以概率1收斂二、強大數(shù)定律本章補充與注記 本章習(xí)題  一、以概率1收斂大家知道, 隨機變量是定義在概率空間上取值為實數(shù)的函數(shù). 因此我們可以像數(shù)學(xué)分析討論函數(shù)序列逐點收斂性那樣去討論隨機變量序列在每個樣本點處的值的收斂性. 然而, 由于隨機變量取值的隨機性, 我們常常不可能期望隨機變量序列在所有點處都存在極限. 現(xiàn)在的問題是研究極限是否在一個概率為1的點集上存在. 定義1 設(shè)和是定義在概率空間 (, F, P)上的隨機變量序列. 1. 如果存在F, P()=0, 且對任意，有，則稱以概率1收斂（converge

2、 with probability one）或幾乎處處收斂(almost surely converge)于，記作(a. s. ). 2. 如果存在F, P()=0, 且對任意，數(shù)列()是柯西基本列，即()-()0，(n > m), 則稱以概率1是柯西基本列. 注 (a. s. ) 意味著最多除去一個零概率事件外, 逐點收斂于. 根據(jù)柯西基本數(shù)列一定存在極限的原則, 以概率1收斂當(dāng)且僅當(dāng)以概率1是柯西基本列. 下面給出以概率1收斂的判別準(zhǔn)則. 定理1 設(shè)和是定義在概率空間 (, F, P)上的隨機變量序列. (1) (a. s. ) 當(dāng)且僅當(dāng)對任意>0, 或者等價地. (2) 以概

3、率1是柯西基本列當(dāng)且僅當(dāng)對任意>0, 或者等價地. 證 (1) 對任意>0, 令. 那么. 由連續(xù)性定理（第一章§3）, . 則下列關(guān)系式成立:0 = P() , 對任意m, 對任意m, 對任意m, 對任意>0 . (2). 對任意>0, 令, 那么不是柯西基本列=. 以下類似于(1)即可證明. 推論 如果對任意>0, , 則(a. s. ). 證 注意到即可. 注 定理1表明(a. s. )可推出. 反之, 存在例子表明并不能導(dǎo)出(a. s. )（見補充與注記4）.  二、強大數(shù)定律與以概率1收斂密切相關(guān)的是強大數(shù)定律. 定義2 設(shè)是定義在概

4、率空間(, F, P)上的隨機變量序列, 如果存在常數(shù)列和使得 (a. s. ) , 則稱服從強大數(shù)定律(strong law of large numbers). 由于幾乎處處收斂性強于依概率收斂性, 故強大數(shù)定律也比弱大數(shù)定律更深入一步. 我們在第二節(jié)知道，貝努里通過對二項分布的精確估計得到貝努里弱大數(shù)定律，即貝努里隨機試驗中事件發(fā)生的頻率依概率收斂于該事件的概率. 直到1909年波雷爾才證明了下面更強的結(jié)果. 定理2（波雷爾強大數(shù)定律） 設(shè)是定義在概率空間(, F, P)上的獨立同分布隨機變量序列，P(=1)= p, P(=0)=1-p, 0<p<1. 記, 則 (a. s.

5、 ). (1)定理2進(jìn)一步表達(dá)了“頻率穩(wěn)定到概率”這句話的含義. 柯爾莫哥洛夫1930年將上述結(jié)果從二項分布的隨機變量推廣到一般隨機變量. 定理3（柯爾莫哥洛夫強大數(shù)定律） 設(shè)是定義在概率空間 (, F, P)上的獨立同分布隨機變量序列，E. 記, 則 (a. s. ). (2)事實上, 定理3的逆也成立: 如果存在常數(shù), 使得(2)式成立, 那么的數(shù)學(xué)期望存在且等于.這兩個定理的證明從略. 例1 （蒙特卡羅方法） 令f (x) 是定義在0, 1上的連續(xù)函數(shù), 取值于0,1. 令是一列服從于0, 1上的均勻分布的獨立隨機變量序列. 定義 , 則也獨立同分布. 而且,由定理3, (a. s. )

6、. (3)因此我們可以通過模擬來計算積分值, 方法是：在xoy平面的正方形0x1, 0y1上隨機投點, 統(tǒng)計落在區(qū)域0x1, 0yf (x)內(nèi)的頻率（即為(3)式的左邊）, 當(dāng)投點次數(shù)充分多時, 此頻率可充分接近所求積分. 至此, 我們已經(jīng)介紹了概率論中一些經(jīng)典的極限定理.   補充與注記 1. 在18和19 世紀(jì), 極限定理一直是概率論研究的中心課題. 貝努里大數(shù)定律是第一個從數(shù)學(xué)上被嚴(yán)格證明的概率論定律, 它由貝努里在其1713年出版的名著 推測術(shù)中詳細(xì)給出. 大數(shù)律這個名稱則是泊松（Poisson 1781-1840）于1837年提出的. 中心極限定理這個名詞1920年由波利亞

7、（）給出，用于統(tǒng)稱隨機變量序列部分和的分布漸近于正態(tài)分布的一類定理. 它是概率論中最為重要的一類定理, 并有著廣泛的實際背景. 最初的中心極限定理是關(guān)于重貝努里試驗的, 1716年，德莫佛對的情形作了討論，隨后拉普拉斯將其推廣到的情形. 從19世紀(jì)中葉到20世紀(jì)初期，一批著名的俄國數(shù)學(xué)家對概率論的發(fā)展做出了重要貢獻(xiàn). 他們運用嚴(yán)格的、強有力的數(shù)學(xué)分析工具，如富里埃變換等，將貝努里大數(shù)律、德莫佛-拉普拉斯中心極限定理推廣到一般隨機變量和的情形. 2. 在18世紀(jì)以前，證明貝努里大數(shù)律是一件相當(dāng)困難的事情，它涉及到下列和式的計算：直到德莫佛-拉普拉斯的重要發(fā)現(xiàn)以后，貝努里大數(shù)律才有了新的、較為簡單

8、的證明. 事實上, 德莫佛-拉普拉斯證明了如下的局部和整體中心極限定理：對足夠大的和，從上述漸近結(jié)果，我們不難得到貝努里大數(shù)定律. 3. 特征函數(shù)的泰勒漸近展開 作為第三章結(jié)果的一個推論，如果分布函數(shù)有階有限矩，那么它的特征函數(shù)次連續(xù)可導(dǎo). 這樣我們可以在處對進(jìn)行泰勒展開. 定理 假設(shè)隨機變量有階有限矩，記這些矩分別為. 那么它的特征函數(shù)在處有如下形式的泰勒展開： = ,其中, |. 4. 依概率收斂不能推出以概率1收斂, 例如: 令=0,1, F為0,1上所有波雷爾集構(gòu)成的域，P為0,1上的勒貝格測度（長度）. 定義 i=1,2,n ; n=1,2,. 考慮隨機變量序列, 并重新記成. 首先

9、注意到, 對任意>0, , 即. 另一方面, 對任意(), n=1,2,中有無窮多個1，也有無窮多個0, 因此()不存在極限.  習(xí)題1. 下列分布函數(shù)列是否弱收斂于分布函數(shù)？(1) x <-1/ n時, ; x時, ;(2) 2. 設(shè)的分布列為: P(=0)=1-1/ n, P(=1)=1/ n, n=1,2,. 求證相應(yīng)的分布函數(shù)列收斂于分布函數(shù), 但E不收斂于相應(yīng)分布的期望. 3. 設(shè)為獨立同分布隨機變量序列, 的分布列為 , . 求證的分布收斂于0, 1上的均勻分布. 4. 某計算機系統(tǒng)有120個終端. (1) (1)    

10、;       每個終端有5 %時間在使用，若各終端使用與否是相互獨立的, 求有10個或更多終端在使用的概率;(2) (2)           若每個終端有20%時間在使用, 求解上述問題. 5. 現(xiàn)有一大批種子，其中良種占1/ 6. 在其中任取6000粒，問在這些種子中良種所占的比例與1/ 6之差小于1 %的概率是多少？6. 某車間有200臺車床，工作時每臺車床60 %時間在開動，每臺開動時耗電1千瓦. 問應(yīng)供給這個車間多少電力才能

11、有0. 999的把握保證正常生產(chǎn)？7. 一家保險公司里有10000個同類型人參加某種事故保險，每人每年付12元保險費，在一年中一個人發(fā)生此種事故的概率為0. 006，發(fā)生事故時該人可向保險公司領(lǐng)得1000元. 問：(1) 對該項保險保險公司虧本的概率有多大？(2) 對該項保險保險公司一年的利潤不少于60000元的概率有多大？ 8. 一家火災(zāi)保險公司承保160幢房屋，最高保險金額有所不同，數(shù)值如下表所示: 最大保險金額（萬元）投保房屋數(shù)10203050100 803525155 假設(shè) 1) 每幢房屋每年一次理賠概率0.04，大于一次理賠概率為0； 2) 各幢房屋是否發(fā)生火災(zāi)相互獨立；

12、3) 如果理賠發(fā)生，理賠量服從0到最高保險金額間的均勻分布. 記N為一年中理賠次數(shù)，S為理賠總量, a. 計算N的期望值和方差； b. 計算S的期望值和方差； c. 確定相對保證附加系數(shù)，即(每份保單保費收入-平均理賠量)/ 平均理賠量，以確保保險公司的保費收入大于理賠總量的概率等于0. 99. 9. 某保險公司開辦5種人壽險，每種險別（一旦受保人死亡）的賠償額及投保人數(shù)如下表所示.  類別k賠償額（萬元）投保人數(shù)123451235108000350025001500500  設(shè)死亡是相互獨立的, 其概率皆為0. 02. 保險公司為安全起見, 對每位受保人尋求再保險. 其機

13、制如下：確定一個自留額，設(shè)為2萬元；若某人的索賠在2萬元以下，則都由該保險公司償付；若賠償金超過2萬元，則超過部分由再保險公司償付；再保險率為投保金額的2. 5%. 該保險公司（相對于再保險公司而言，也稱為分出公司）希望它的全部費用（即實際索賠總額S+再保險費）不超過825萬元，求實際費用突破此限額的概率. 10. 設(shè)獨立同分布，其分布分別為 (1) -a, a 上的均勻分布；(2) 泊松分布. 記 . 計算的特征函數(shù)，并求n時的極限, 從而驗證林德貝格勒維定理在這種情況成立. 11. 用德莫佛拉普拉斯定理證明：在貝努里試驗中，若0< p <1，則不管k是多大的常數(shù)，總有P(|,(

14、 n). 12. 求證：泊松分布的標(biāo)準(zhǔn)化變量當(dāng)參數(shù)時趨近標(biāo)準(zhǔn)正態(tài)分布. 13. 13.       求證：當(dāng)n時，. 14. 14.       設(shè)各自獨立同分布, 也相互獨立. E=0, Var=1， P. 求證：的分布函數(shù)弱收斂于N (0,1). 15. 15.       設(shè)為獨立隨機變量序列，都服從(0,)上的均勻分布. 記，其中且. 證明服從中心極限定理.16. 設(shè)服從柯西分布，其密度為(x)=. 求證：.

15、 17. 設(shè)獨立同分布，密度為 p(x)=. 令. 求證：. 18. 18.       求證：(1) (1)  若, 則; (2) (2)  若, 則; (3) (3)  若, c為常數(shù), 與c都不為0，則; (4) (4)  設(shè),c為常數(shù), 則 ; , (c0). 19. 19.       求證下列各獨立的隨機變量序列服從大數(shù)定律. (1) P(P(;(2) P(;(3) P(=, n=1, 2, ;(4) P(=n)=n=2,

16、3, ; c為常數(shù). 20. 設(shè)服從同一分布，Var<+, 與相關(guān), k=1,2, 但當(dāng)|k-l|2時, 與獨立. 求證這時大數(shù)定律成立. 21. （伯恩斯坦(Bernstein)定理）設(shè)的方差有界：Varc, 且當(dāng)|i-j|時, Cov(,)0，則服從大數(shù)定律. 試證明之. 21. 在貝努里試驗中，事件A出現(xiàn)的概率為p，令= ,求證服從大數(shù)定律. 23. 設(shè)獨立同分布，都服從0, 1上的均勻分布，令, 求證：(常數(shù))，并求出c. 24. 設(shè)獨立同分布，E=a, Var<. 求證：a . 25. 設(shè)獨立同分布，都服從N (0, 1) 分布，. 求證：的分布函數(shù)(0, 1). 26. 設(shè)為獨立同分布隨機變量序列，Var<. 為絕對收斂級數(shù)，令, 則服從大數(shù)定律. 27. 設(shè)為獨立同分布隨機變量序列，為常數(shù)列，. 求證：. 28. , 相互獨立，均服從N