第四章大數(shù)定律與中心極限定理

第1頁，共27頁，2023年，2月20日，星期三第四章大數(shù)定律與中心極限定理內(nèi)容1特征函數(shù)內(nèi)容2大數(shù)定律內(nèi)容3隨機(jī)變量序列的兩種收斂性內(nèi)容4中心極限定理第2頁，共27頁，2023年，2月20日，星期三4.1特征函數(shù)一、特征函數(shù)的定義1.定義4.1.1設(shè)是一個(gè)隨機(jī)變量稱，-∞<t<+∞，為的特征函數(shù)。注因?yàn)?，所以總是存在的，即任一隨機(jī)變量的特征函數(shù)總是存在的。4.1特征函數(shù)第3頁，共27頁，2023年，2月20日，星期三4.1特征函數(shù)2.特征函數(shù)的求法（1）當(dāng)離散隨機(jī)變量的分布列為Pk=P（=xk)，k=1，2，…，則的特征函數(shù)為

φ(t)=，-∞<t<+∞。（2）當(dāng)連續(xù)隨機(jī)變量的密度函數(shù)為p(x)，則的特征函數(shù)為

φ(t)=，-∞<t<+∞。第4頁，共27頁，2023年，2月20日，星期三例4.1.1

(1)單點(diǎn)分布：P(=a)=1，其特征函數(shù)為φ(t)=eita。(2)0–1分布：P(=x)=px(1-p)1–x，x=0，1，其特征函數(shù)為

φ(t)=peit+q，其中q=1–p。4.1特征函數(shù)第5頁，共27頁，2023年，2月20日，星期三4.1特征函數(shù)(3)泊松分布P(λ)：P(=k)=，k=0，1，…，其特征函數(shù)為

φ(t)===。(4)標(biāo)準(zhǔn)正態(tài)分布N(0,1)：因?yàn)槊芏群瘮?shù)為p(x)=

，-∞<x<+∞。所以特征函數(shù)為

φ(t)==。第6頁，共27頁，2023年，2月20日，星期三二、 特征函數(shù)的性質(zhì)性質(zhì)4.1.1|φ(t)|≤φ(0)=1。性質(zhì)4.1.2φ(-t)=，其中是φ(t)的共軛。性質(zhì)4.1.3

若Y=a+b，其中a，b是常數(shù)，則。性質(zhì)4.1.4

獨(dú)立隨機(jī)變量和的特征函數(shù)為特征函數(shù)的積，即設(shè)X

與Y相互獨(dú)立，則。性質(zhì)4.1.5

若E(Xl)存在，則X的特征函數(shù)可l次求異，且對1≤k≤l，有

φ(k)(0)=ikE(Xk)。4.1特征函數(shù)第7頁，共27頁，2023年，2月20日，星期三注上式提供了一條求隨機(jī)變量的各階矩的途徑，特別可用下式去求數(shù)學(xué)期望和方差。

4.1特征函數(shù)第8頁，共27頁，2023年，2月20日，星期三定理4.1.1（一致連續(xù)性）隨機(jī)變量X的特征函數(shù)φ(t)在(-∞，+∞)上一致連續(xù)。定理4.1.2（非負(fù)定性）隨機(jī)變量X

的特征函數(shù)φ(t)是非負(fù)定的。定理4.1.4（唯一性定理）隨機(jī)變量的分布函數(shù)由其特征函數(shù)唯一決定。4.1特征函數(shù)第9頁，共27頁，2023年，2月20日，星期三例4.1.2

試?yán)锰卣骱瘮?shù)的方法求伽瑪分布Ga(α，λ)的數(shù)學(xué)期望和方差。解:因?yàn)镚a(α，λ)的特征函數(shù)φ(t)=，

φ‘(t)=；φ‘(0)=；

φ’(t)=；φ‘’(0)=，所以由性質(zhì)4.1.5得

4.1特征函數(shù)第10頁，共27頁，2023年，2月20日，星期三4.2大數(shù)定律一、何謂大數(shù)定律（大數(shù)定律的一般提法）

定義4.2.1設(shè)為隨機(jī)變量序列，若對任意的,有

(4.2.5)則稱服從大數(shù)定律。第11頁，共27頁，2023年，2月20日，星期三4.2大數(shù)定律二、切比雪夫大數(shù)定律定理4.2.2（切比雪夫大數(shù)定律）設(shè)為一列兩兩不相關(guān)的隨機(jī)變量序列，若每個(gè)的方差存在，且有共同的上界，即,則服從大數(shù)定律，即對任意的，式(4.2.5)成立。利用切比雪夫不等式就可證明。此處略。第12頁，共27頁，2023年，2月20日，星期三4.2大數(shù)定律推論（定理4.2.1：伯努利大數(shù)定律）

設(shè)為n重伯努利試驗(yàn)中事件A發(fā)生的次數(shù)，P為每次試驗(yàn)中A出現(xiàn)的概率，則對任意的，有分析服從二項(xiàng)分布，因此可以把表示成n個(gè)相互獨(dú)立同分布、都服從0–1分布的隨機(jī)變量的和。第13頁，共27頁，2023年，2月20日，星期三4.2大數(shù)定律三、馬爾可夫大數(shù)定律定理4.2.3（馬爾可夫大數(shù)定律）對隨機(jī)變量序列，若馬爾可夫條件成立，則服從大數(shù)定律，即對任意的，式(4.2.5)成立。證明利用切比雪夫不等式就可證得。第14頁，共27頁，2023年，2月20日，星期三4.2大數(shù)定律例4.2.3

設(shè)為一同分布、方差存在的隨機(jī)變量序列，且僅與和相關(guān)，而與其他的不相關(guān)，試問該隨機(jī)變量序列是否服從大數(shù)定律？解:可證對，馬爾可夫條件成立，故由馬爾可夫大數(shù)定律可得服從大數(shù)定律。第15頁，共27頁，2023年，2月20日，星期三4.2大數(shù)定律四、辛欽大數(shù)定律定理4.2.4（辛欽大數(shù)定律）設(shè)為一獨(dú)立同分布的隨機(jī)變量序列，若的數(shù)學(xué)期望存在，則服從大數(shù)定律，即對任意的，式(4.2.5)成立。第16頁，共27頁，2023年，2月20日，星期三4.3隨機(jī)變量序列的兩種收斂性一、依概率收斂

1.定義4.3.1（依概率收斂）設(shè)為一隨機(jī)變量序列，Y為一隨機(jī)變量。如果對于任意的，有

則稱依概率收斂于Y，記做YnY。注隨機(jī)變量序列服從大數(shù)定律。第17頁，共27頁，2023年，2月20日，星期三4.3隨機(jī)變量序列的兩種收斂性2.依概率收斂的四則運(yùn)算

定理4.3.1

設(shè)，{Yn}是兩個(gè)隨機(jī)變量序列，a，b是兩個(gè)常數(shù)。如果a，{Yn}b，則有(1)(2)(3)

第18頁，共27頁，2023年，2月20日，星期三4.3隨機(jī)變量序列的兩種收斂性二、按分布收斂、弱收斂

1.定義4.3.2

設(shè){Fn(x)}是隨機(jī)變量序列的分布函數(shù)列，F(xiàn)(x)為的分布函數(shù)。若對F(x)的任一連續(xù)點(diǎn)x，都有Fn(X)=F(x)，則稱{Fn(x)}弱收斂于F(x)，記做Fn(X)F(x)。也稱按分布收斂于，記做。第19頁，共27頁，2023年，2月20日，星期三4.3隨機(jī)變量序列的兩種收斂性2.依概率收斂與按分布收斂間的關(guān)系(1)定理4.3.2

。(2)定理4.3.3

若為常數(shù)，則

第20頁，共27頁，2023年，2月20日，星期三三、判斷弱收斂的方法

定理4.3.4

分布函數(shù)序列{Fn(x)}弱收斂于分布函數(shù)F(X)的充要條件是{Fn(x)}的特征函數(shù)序列{φn(t)}收斂于F(x)的特征函數(shù)φ(t)。這個(gè)定理的證明只涉及數(shù)學(xué)分析的一些結(jié)果，參閱教材后文獻(xiàn)[1]。4.3隨機(jī)變量序列的兩種收斂性第21頁，共27頁，2023年，2月20日，星期三4.3隨機(jī)變量序列的兩種收斂性例4.3.3

若，證明

第22頁，共27頁，2023年，2月20日，星期三4.4中心極限定理一、中心極限定理概述研究獨(dú)立隨機(jī)變量和的極限分布為正態(tài)分布的命題。二、獨(dú)立同分布下的中心極限定理

定理4.4.1（林德貝格-勒維中心極限定理）設(shè)是獨(dú)立同分布的隨機(jī)變量序列，且記則對任意實(shí)數(shù)y，有

第23頁，共27頁，2023年，2月20日，星期三4.4中心極限定理三、二項(xiàng)分布的正態(tài)近似(1)定理4.4.2（棣莫弗-拉普拉斯極限定理）設(shè)n重伯努利試驗(yàn)中，事件A在每次試驗(yàn)中出現(xiàn)的概率為p(0<p<1)，記為n次試驗(yàn)中事件A出現(xiàn)的次數(shù)，且記

則對任意實(shí)數(shù)y，有

證明由林德貝格-勒維中心極限定理容易證得。第24頁，共27頁，2023年，2月20日，星期三4.4中心極限定理(2)近似中的