吳贛昌編_概率論與數(shù)理統(tǒng)計(jì)_第4章

1、第四章 隨機(jī)變量的數(shù)字特征、極限定理,數(shù)學(xué)期望 協(xié)方差和相關(guān)系數(shù) 大數(shù)定律與中心極限定理,4.1數(shù)學(xué)期望一、離散型隨機(jī)變量的數(shù)學(xué)期望,例4.1 甲、乙兩射手進(jìn)行射擊訓(xùn)練，已知在100次射擊中命中環(huán)數(shù)與次數(shù)記錄如下：,甲,乙,試問如何評定甲、乙射手的技術(shù)優(yōu)劣？,甲平均射中的環(huán)數(shù)為：,乙平均射中的環(huán)數(shù)為：,(830+910+1060)100=80.3+90.1+100.6=9.3(環(huán)),(820+950+1030)100=80.2+90.5+100.3=9.1(環(huán)),因此從平均射中的環(huán)數(shù)看，甲的技術(shù)優(yōu)于乙。,在例4.1中，30/100=0.3、10/100=0.1、60/100=0.6等，是事件(

2、x=k)在100次試驗(yàn)中發(fā)生的頻率(x為命中的環(huán)數(shù))，當(dāng)射擊次數(shù)相當(dāng)大時(shí)，這個(gè)頻率接近于事件(x=k)在一次試驗(yàn)中發(fā)生的概率pk。上述平均環(huán)數(shù)的計(jì)算可表示為,我們稱之為隨機(jī)變量x的數(shù)學(xué)期望，或均值。,數(shù)學(xué)期望描述隨機(jī)變量取值的平均特征,定義4.1 設(shè)x是離散型隨機(jī)變量，其分布律為 xp(x=xi)=pi, i=1,2,n，,如果級數(shù),絕對收斂，,并稱級數(shù),的和為隨機(jī)變量x的數(shù)學(xué)期望，記作,則稱x的數(shù)學(xué)期望存在，,e(x)，即,則稱隨機(jī)變量x的數(shù)學(xué)期望不存在。,注意：隨機(jī)變量x的數(shù)學(xué)期望e(x)完全是由x的分布律確定的，而不應(yīng)受x的可能取值的排列次序的影響，因此要求級數(shù),絕對收斂。若級數(shù),不絕對

3、收斂，,例如，設(shè)離散型隨機(jī)變量x的分布律為,則x的數(shù)學(xué)期望為,例4.2 擲一顆均勻的骰子，以x表示擲得的點(diǎn)數(shù)，求x的數(shù)學(xué)期望。,解 x的分布律為,例4.4 設(shè)x取,(k=1,2,)對應(yīng)的概率為,，證明e(x)不存在。,證明,且,但級數(shù),發(fā)散,所以e(x)不存在，但級數(shù),(交錯(cuò)級數(shù)滿足leibniz條件)(收斂),要注意數(shù)學(xué)期望的條件：“絕對收斂”。,定義4.2 設(shè)x是連續(xù)型隨機(jī)變量，概率密度函數(shù)為f(x),二、連續(xù)型隨機(jī)變量的數(shù)學(xué)期望,若積分,絕對收斂，則稱x的數(shù)學(xué)期望存在，,且稱積分,為隨機(jī)變量x的數(shù)學(xué)期望，記為e(x),即,數(shù)學(xué)期望簡稱期望或均值。,例6：,幾種重要分布的數(shù)學(xué)期望,三、隨機(jī)

4、變量函數(shù)的數(shù)學(xué)期望,定理4.1 設(shè)隨機(jī)變量y是隨機(jī)變量x的函數(shù)，y=g(x)(g()為連續(xù)函數(shù)),(1)設(shè)x為離散型隨機(jī)變量，其分布律p(x=xi)=pi,i=1,2,若級數(shù),絕對收斂，則y的數(shù)學(xué)期望存在，且,(2)設(shè)x為連續(xù)型隨機(jī)變量，其概率密度為f(x)，,若積分,絕對收斂，則y的數(shù)學(xué)期望存在，且,此定理說明，在求隨機(jī)變量x的函數(shù)y=g(x)的期望時(shí)，不必知道y的分布而只需知道x的分布即可。,推廣：設(shè)(x,y)是二維隨機(jī)變量，z=g(x,y)，g(,)是連續(xù)函數(shù)。,(1)設(shè)(x,y)是離散型隨機(jī)變量，分布律為 p(x=xi,y=yj)=pij，i,j=1,2,則當(dāng),絕對收斂時(shí)，z的數(shù)學(xué)期望

5、存在，且,(2)設(shè)(x,y)是連續(xù)型隨機(jī)變量，概率密度為f(x,y)，則當(dāng),絕對收斂時(shí)，z的數(shù)學(xué)期望存在，且,二維隨機(jī)變量的數(shù)學(xué)期望,離散r.v.,連續(xù)r.v.,例4.7 設(shè)隨機(jī)變量xb(n,p)，,求e(y),解 xb(n,p)，分布律為,其中p+q=1,例4.8 設(shè)二維隨機(jī)變量(x,y)具有概率密度,設(shè)z=xy，試求z的數(shù)學(xué)期望。,解,o 1 x,y,1,y=x,1、設(shè)c是常數(shù)，則e(c)=c; 2、設(shè)c是常數(shù)，x為隨機(jī)變量，則e(cx)=ce(x);,四.數(shù)學(xué)期望的性質(zhì),3、設(shè)x,y為任意兩個(gè)隨機(jī)變量，則有e(x+y)=e(x)+e(y);,推廣： xi為隨機(jī)變量，ci為常數(shù)，i=1,2

6、,n e(c1x1+ c2x2+ cnxn)=c1e(x1)+c2e(x2)+ cne(xn),4、若x，y是相互獨(dú)立的隨機(jī)變量，則e(xy)=e(x)e(y)。,推廣： x1,x2,xn相互獨(dú)立，則 e(x1x2xn)=e(x1)e(x2)e(xn),反之不然，即由e(xy)=e(x)e(y)不能推出它們獨(dú)立。,例1：已知甲乙兩箱中裝有同種產(chǎn)品，其中甲箱中裝有3件合格品和3件次品，乙箱中僅裝有3件合格品。從甲箱中任取3件產(chǎn)品放入乙箱中，求乙箱中次品件數(shù)的數(shù)學(xué)期望。,例2：已知 0，其它 求隨機(jī)變量的數(shù)學(xué)期望e(x).,例3：設(shè)隨機(jī)變量x的分布列為： 求：,例4：設(shè)隨機(jī)變量x的密度函數(shù)： f(

7、x)= 0, 其它 對隨機(jī)變量x獨(dú)立地重復(fù)觀察4次，用y表示觀察值大于 的次數(shù)，求ey,例5：設(shè)（x,y）分布列為： (1)求e(x),e(y);(2)設(shè)z=x/y，求e(z);(3)設(shè) ，求e(z),例6：設(shè)（x,y）的密度函數(shù)： f(x,y)= 0 其它 求：e(x),e(y),e(xy),4.2方差,一、方差的概念,例4.13 甲乙兩部機(jī)床生產(chǎn)同一種機(jī)軸，軸的直徑為10mm，公差為0.2mm，即直徑在9.8mm到10.2mm的為合格品，超出范圍的均為廢品?，F(xiàn)從甲乙兩機(jī)床的產(chǎn)品中各隨機(jī)地抽取6件進(jìn)行測試，機(jī)軸的直徑的測試尺寸如下：(mm) 甲9.89.910.010.010.110.2 乙

8、9.09.29.410.610.811.0 易知，甲乙兩組產(chǎn)品的直徑的均值都為10.0mm，但兩組的質(zhì)量顯然差異很大，甲組全為合格品，乙組全為廢品。這里光看均值無差別，質(zhì)量的差異的原因在于兩組產(chǎn)品關(guān)于均值的離散程度不同。甲組離散程度小，質(zhì)量較穩(wěn)定，乙組的離散程度大，質(zhì)量不穩(wěn)定。,為衡量一個(gè)隨機(jī)變量x關(guān)于均值的離散程度，可用|x-ex|的均值來表示，稱為x的絕對離差，用e|x-ex|記，這在實(shí)際統(tǒng)計(jì)中有一定的作用。但由于絕對值的均值不易計(jì)算，常用隨機(jī)變量與均值差的平方的均值來描述離散程度。,定義 設(shè)x是隨機(jī)變量，若ex-ex2存在，則稱ex-ex2為隨機(jī)變量x的方差，記為d(x)或var(x)，

9、即 d(x)=ex-ex2 在應(yīng)用上，常用與隨機(jī)變量x具有相同量綱的量，,稱為隨機(jī)變量x的均方差或標(biāo)準(zhǔn)差。,方差是衡量隨機(jī)變量取值波動 程度的一個(gè)數(shù)字特征。,由方差的定義可知，d(x)0。 當(dāng)x為離散型隨機(jī)變量，且分布律為p(x=xk)=pk時(shí)，則,當(dāng)x為連續(xù)型隨機(jī)變量時(shí)，且密度函數(shù)為f(x)，則,在實(shí)際計(jì)算中，通常使用如下公式,即方差是“隨機(jī)變量平方的期望減去隨機(jī)變量期望的平方”。,例4.14 已知隨機(jī)變量x的分布律如下，求d(x)。,解 數(shù)學(xué)期望e(x)=7/8，,例4.15 設(shè)隨機(jī)變量,求d(x),解,二、方差的性質(zhì),1、設(shè)c是常數(shù)，則d(c)=0，且d(x+c)=d(x); 2、設(shè)c是

10、常數(shù)，x為隨機(jī)變量，則d(cx)=c2d(x);,3、設(shè)x,y為任意兩個(gè)隨機(jī)變量，則有,特別地，當(dāng)x,y相互獨(dú)立時(shí)，e(xy)=e(x)e(y) 所以 d(x+y)=d(x)+d(y) 推論：若隨機(jī)變量x1, x2,xn相互獨(dú)立，則 d(x1+x2+xn)=d(x1)+d(x2)+d(xn) 又x,y相互獨(dú)立， c1，c2為常數(shù)，則 d(c1x+c2y)= c12 d(x)+c22d(y) 特別注意： d(x-y)=d(x)+d(y) (當(dāng)x,y獨(dú)立),4、d(x)=0的充分必要條件是x以概率1為常數(shù)，即 p(x=c)=1,4.3幾個(gè)重要分布的數(shù)學(xué)期望和方差,一、01分布 xb(1,p)， p

11、(x=1)=p，p(x=0)=1-p=q e(x)=1p+0(1-p)=p， e(x2)=12p+02(1-p)=p d(x)= e(x2)-(e(x)2=p-p2=pq=p(1-p),二、二項(xiàng)分布xb(n,p),分布律為p(x=k)=cnkpkqn-k，(p+q=1)，k=0,1,2,n,其中,隨機(jī)變量函數(shù)的數(shù)學(xué)期望,在計(jì)算時(shí)，若將x表示成若干個(gè)相互獨(dú)立的01分布變量之和，計(jì)算就極為簡便。,在n重bernoulli試驗(yàn)中，a發(fā)生的概率為p，不發(fā)生的概率為q=1-p。設(shè),則a發(fā)生的次數(shù),xb(n,p),三、poisson分布,xp()，,五、均勻分布,xua, b,六、正態(tài)分布,n(,2)中兩

12、個(gè)參數(shù)和2 ，分別是正態(tài)分布的數(shù)學(xué)期望和方差。,七、指數(shù)分布,某些常用分布的數(shù)學(xué)期望及方差,（1）若,則,（2）若,則,（3）若,則,（4）若,則,（5）若,則,（6）若,則,課 堂 練 習(xí),3. x,y獨(dú)立，d(x)=6，d(y)=3，則d(2x-y)=（ ）。,4.3 協(xié)方差，相關(guān)系數(shù),定義 設(shè)(x,y)是二維隨機(jī)變量，如果 exe(x)ye(y) 存在, 則稱它是x與y的協(xié)方差，記為cov(x,y) 即 cov(x,y)= exe(x)ye(y)。 當(dāng)d(x)0,d(y)0時(shí)稱,一、概念,為x與y的相關(guān)系數(shù)，或稱x與y的標(biāo)準(zhǔn)協(xié)方差。 xy是一個(gè)無量綱的量。,當(dāng)x與y是離散型隨機(jī)變量時(shí)，分

13、布律p(x=xi,y=yj)=pij,當(dāng)x與y是連續(xù)型隨機(jī)變量時(shí)，密度函數(shù)f(x,y),由協(xié)方差定義可得，對任意的隨機(jī)變量x、y，有 cov(x,y)= exe(x)ye(y)= e(xy)e(x)e(y) 協(xié)方差的一個(gè)計(jì)算公式。 又有 d(x+y)=d(x)+d(y)+2cov(x,y) d(x-y)=d(x)+d(y)-2cov(x,y),二、協(xié)方差的性質(zhì),(1) cov(x,y)=cov(y,x); (2) cov(x,x)=d(x)，cov(x,c)=0； (3) cov(ax,by)=abcov(x,y)，其中a,b為常數(shù)； (4) cov(x+y, z)=cov(x, z)+cov

14、(y, z)； (5)x, y相互獨(dú)立， cov(x,y)=0,稱,為x的標(biāo)準(zhǔn)化變量，即“隨機(jī)變量與期望之差除以均方差”,若記,則e(x*)=0， d(x*)=1,三、相關(guān)系數(shù)的性質(zhì),1、|xy|1，即“相關(guān)系數(shù)的絕對值小于等于1”。 證明,方差的非負(fù)性,|xy|1,2、 |xy|=1的充分必要條件是x與y以概率1存在線性關(guān)系，即 p(y=ax+b)=1，a0，a,b為常數(shù)。,證明（充分性）(p108) 設(shè)y=ax+b，則e(y)=ae(x)+b，d(y)=a2d(x) cov(x,y)= exe(x)ye(y) = exe(x)ax+bae(x)b =aexe(x)2= ad(x),即 |x

15、y|=1,（必要性）設(shè)xy=1，則,性質(zhì)1,方差性質(zhì),其中,即x與y以概率1存在線性關(guān)系，此時(shí)稱x，y正相關(guān)。,當(dāng)xy=-1時(shí),其中,即x與y以概率1存在線性關(guān)系，此時(shí)稱x，y負(fù)相關(guān)。,定義 若xy=0，則稱x與y不相關(guān)。 3、若x與y相互獨(dú)立，則必有x與y不相關(guān)。 證明 x與y相互獨(dú)立，有e(xy)=e(x)e(y) cov(x,y)=e(xy)e(x)e(y)=0 所以 xy=0 即x與y不相關(guān)。 注意：x與y不相關(guān)， x與y未必相互獨(dú)立。 所謂不相關(guān)只是就線性關(guān)系而言，而相互獨(dú)立是就一般關(guān)系而言的。,二維正態(tài)隨機(jī)變量(x,y) ， x與y獨(dú)立,例4.18 設(shè)二維隨機(jī)變量,則可求得協(xié)方差c

16、ov(x,y)=1 2 且相關(guān)系數(shù)xy = 二維正態(tài)變量(x,y)，x與y相互獨(dú)立的充分必要條件是=0(p78 例7)； 而xy =0表示x與y不相關(guān)， 可見， x與y獨(dú)立的充分必要條件是x與y不相關(guān)。,x與y不相關(guān),等價(jià)于,矩、協(xié)方差矩陣,1、若e(xk)存在，則稱ak=e(xk)為隨機(jī)變量x的k階原點(diǎn)矩，簡稱k階矩(k=1,2,)，而e(|x|k)稱為x的k階絕對原點(diǎn)矩； 2、若ex-e(x)k存在，則稱bk=ex-e(x)k為隨機(jī)變量x的k階中心矩(k=1,2,)，而e|x-e(x)|k稱為x的k階絕對中心矩； 3、若e(xkyl)存在，則稱e(xkyl)為隨機(jī)變量x、y的k+l階混合原

17、點(diǎn)矩(k,l=1,2,)； 4、若exe(x)kye(y)l存在，則稱exe(x)kye(y)l維隨機(jī)變量的k+l階混合中心矩(k,l=1,2,)。,由矩的概念 數(shù)學(xué)期望e(x)即為x的一階原點(diǎn)矩； 方差d(x)即為x的二階中心矩。,設(shè)x1,x2,xn為n個(gè)隨機(jī)變量，記cij=cov(xi,xj)，i,j=1,2,n。則稱由cij組成的矩陣為隨機(jī)變量x1,x2,xn的協(xié)方差矩陣c。即,或,定理：（切比雪夫不等式）,設(shè)隨機(jī)變量x 有數(shù)學(xué)期望,對任意,不等式,成立，,稱此式為切比雪夫不等式.,4.4 大數(shù)定理,證明：設(shè)x為連續(xù)性（離散型類似），其密度為,切比雪夫不等式 說明 （1）證明切比雪夫大數(shù)

18、定律； （2）表明d（x）描述了x偏離e（x）的離散程度； （3）給出x的分布未知時(shí)，事件 |x-e（x）|的概率的一個(gè)大致估計(jì)。,對未知分布x，取,例1 估計(jì),的概率,解,練 習(xí),大數(shù)定理,設(shè)隨機(jī)變量序列x1,x2,xn，若存在隨機(jī)變量y，使得對于任意正數(shù)，均有,則稱隨機(jī)變量序列xn依概率收斂于隨機(jī)變量y，并記為,一、依概率收斂,若存在常數(shù)a，任意的正數(shù) ，使得,則稱隨機(jī)變量序列xn依概率收斂于常數(shù)a，并記為,意思是：當(dāng),a,而,意思是：,時(shí)，xn落在,內(nèi)的概率越來越大。,當(dāng),與,的區(qū)別,辛欽大數(shù)定理（弱大數(shù)定理） 設(shè)x1,x2,xn為獨(dú)立、同分布的隨機(jī)變量，且有相同的數(shù)學(xué)期望e（xi）=

19、（i=1,2,）， 則對0，有,以概率收斂于,辛欽大數(shù)定律表明 若xk，k=1,2,.為獨(dú)立同分布隨機(jī)變量序列, exk=，k=1,2,，則,推論：若xi, i=1.2,.為獨(dú)立同分布隨機(jī)變量序列, e(xik)存在，則,伯努利大數(shù)定律 設(shè)進(jìn)行n次獨(dú)立重復(fù)試驗(yàn)，每次試驗(yàn)中事件a發(fā)生的概率為p，記na為n次試驗(yàn)中事件a發(fā)生的次數(shù)，則,證明（由切比雪夫不等式可直接證明）,即,設(shè),則xi相互獨(dú)立，且,中心極限定理,前面我們的討論中講過正態(tài)分布在隨機(jī)變量的一切可能分布中占有特殊地位。在客觀世界中，我們遇到的許多隨機(jī)現(xiàn)象都是服從或近似服從正態(tài)分布的，為什么大量的隨機(jī)變量都服從正態(tài)分布？ 俄國數(shù)學(xué)家李亞普

20、諾夫()證明了在某些非常一般的充分條件下，獨(dú)立隨機(jī)變量的和的分布，當(dāng)隨機(jī)變量的個(gè)數(shù)無限增加時(shí)，是趨于正態(tài)分布的。 在概率論中，把大量獨(dú)立的隨機(jī)變量和的分布以正態(tài)分布為極限的這一類定理統(tǒng)稱為中心極限定理。我們這里給出的兩個(gè)最常用的中心極限定理。,設(shè)隨機(jī)變量x1,x2,xn,相互獨(dú)立同分布，且e(xi)=，d(xi)=2 (2 0)(i=1,2,)，記前n個(gè)變量的和的標(biāo)準(zhǔn)化變量為,一、獨(dú)立同分布的中心極限定理(lindeberg- levy林德貝格-列維)(p117 定理3 ),則yn的分布函數(shù)fn(x)對任意的x(-,+)都有,該定理說明，當(dāng)n充分大時(shí)， yn近似地服從標(biāo)準(zhǔn)正態(tài)分布，ynn(0,1)，,隨機(jī)變量,近似地服從于正態(tài)分布,中心極限定理可以解釋如下： 假設(shè)被研究的隨機(jī)變量可以表示為大量獨(dú)立的隨機(jī)變量的和，其中每個(gè)隨機(jī)變量對于總和的作用都很微小，則可以認(rèn)為這個(gè)隨機(jī)變量實(shí)際上是服從正態(tài)分布的。 在實(shí)際工作中，只要n足夠大，便可把獨(dú)立同分布的隨機(jī)變量之和當(dāng)作正態(tài)變量。,例4.19 將一顆骰子連擲100次，則點(diǎn)數(shù)之和不少于500的概率是多少？,解 設(shè)x