li協(xié)方差及相關(guān)系數(shù)中心極限定理

1、一、協(xié)方差與相關(guān)系數(shù)的一、協(xié)方差與相關(guān)系數(shù)的 概念及性質(zhì)概念及性質(zhì)二二、相關(guān)系數(shù)的意義相關(guān)系數(shù)的意義三、協(xié)方差矩陣三、協(xié)方差矩陣第第3.33.3節(jié)節(jié) 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)四、小結(jié)四、小結(jié)1. 問題的提出問題的提出 那那么么相相互互獨獨立立和和若若隨隨機機變變量量,YX).()()(YDXDYXD 不相互獨立不相互獨立和和若隨機變量若隨機變量YX?)( YXD22)()()(YXEYXEYXD ).()(2)()(YEYXEXEYDXD 一、協(xié)方差與相關(guān)系數(shù)的概念及性質(zhì)一、協(xié)方差與相關(guān)系數(shù)的概念及性質(zhì) 協(xié)方差協(xié)方差).()(),ov(),Cov(.)()(,),(YEYXEXEYXC

2、YXYXYEYXEXEYX 即即記為記為的協(xié)方差的協(xié)方差與與稱為隨機變量稱為隨機變量量量是二維隨機變量是二維隨機變量2. 定義定義3.7.)()(),Cov(的相關(guān)系數(shù)的相關(guān)系數(shù)與與稱為隨機變量稱為隨機變量而而YXYDXDYXXY )()(),Cov(YEYXEXEYX )()(YEYEXEXE . 0 相相互互獨獨立立和和若若隨隨機機變變量量YX)3()()(2 )()()(YEYXEXEYDXDYXD ).()(YDXD 相相互互獨獨立立和和若若隨隨機機變變量量YX)2(),(Cov2)()(YXYDXD 3. 說明說明 .,)1(個個無無量量綱綱的的量量它它是是一一協(xié)協(xié)方方差差的的相相關(guān)

3、關(guān)系系數(shù)數(shù)又又稱稱為為標標準準和和YX4. 協(xié)方差的計算公式協(xié)方差的計算公式);()()(),Cov()1(YEXEXYEYX ).,Cov(2)()()()2(YXYDXDYXD 證明證明)()(),Cov()1(YEYXEXEYX )()()()(YEXEYXEXYEXYE ).()()(YEXEXYE )()()()(2)(YEXEYEXEXYE )()()()2(2YXEYXEYXD )()(2YEYXEXE )()(2YEYXEXE )()(22YEYEXEXE ).,Cov(2)()(YXYDXD ()X,Y例例：設(shè)設(shè)的的分分布布律律是是：YX4141414141004104141

4、02112 12121)(jYP 41)(iXP cov(X,Y)=E(XY) E(X)E(Y) 50,()00,2,(2,1)0(2) (1),.,.EXEYE XYX YX YP XYP XP YX YX YXY 2 2不不相相關(guān)關(guān). .這這表表明明，不不存存在在線線性性關(guān)關(guān)系系. .不不相相互互獨獨立立有有關(guān)關(guān)系系例:設(shè)隨機向量(X,Y)的概率分布為012P0.80.10.101200.10.20.210.30.10.1XY求求DX,DY.012P0.40.30.3XY01P0.50.525.0;69.0 DYDX D(X) = E(X2) E(X)2 XY例:設(shè)隨機向量(X,Y)的概率

5、分布為01200.10.20.210.30.10.1XY求求cov(X,Y),.012P0.80.10.1XY5 . 0;9 . 03 . 023 . 0)()()(),( EYEXYEXEXYEYXCovDX=0.69DY=0.2515. 05 . 09 . 03 . 0),(, 3 . 0)( YXCovXYE36. 05 . 083. 015. 05 . 069. 015. 0),( DYDXYXCov 5. 協(xié)方差的性質(zhì)協(xié)方差的性質(zhì) (1) Cov(, )?X Y (3)Cov(,)? , , ,;aXc bYda b c d為常數(shù)12( 2 ) C o v (,)?XXYCov(,)

6、Cov(,);X YY XCov(,)Cov( , ) , , ,;aXc bYdabX Ya b c d為常數(shù)1212Cov(, )Cov(, )Cov(, ).XX YX YX Y相關(guān)系數(shù)的性質(zhì)：相關(guān)系數(shù)的性質(zhì)：11 | . 證證: 由方差的性質(zhì)和協(xié)方差的定義知由方差的性質(zhì)和協(xié)方差的定義知,對任意實數(shù)對任意實數(shù) b, 有有0D(Y-bX)= b2D(X)+D(Y)-2b Cov(X,Y )(),(XDYXCovb 令令，則上式為，則上式為 D(Y- bX)= )(),()(2XDYXCovYD)()(),(1)(2YDXDYXCovYD1)(2 YD由于方差由于方差D(Y)是正的是正的,故

7、必有故必有1 - 0,所以所以 | |1。22. X和和Y獨立時，獨立時， =0，但其逆不真，但其逆不真.由于當由于當X和和Y獨立時，獨立時，Cov(X,Y)= 0.故故)()(),(YDXDYXCov= 00但由但由并不一定能推出并不一定能推出X和和Y 獨立獨立.請看下例請看下例.，Cov(X,Y)=0，事實上，事實上，X的密度函數(shù)的密度函數(shù)其它021211)(xxf0)(XE可得0)(cos)cos()(2121dxxxfxXXEXYE0)()()(),(YEXEXYEYXCov例例2 設(shè)設(shè)X服從服從(-1/2, 1/2)內(nèi)的均勻分布內(nèi)的均勻分布 , 而而Y=cos X,不難求得不難求得1

8、.3 存在常數(shù)存在常數(shù) a,b(b0），使使 PY= a + b X=1，即即 X 和和 Y 以概率以概率 1 線性相關(guān)線性相關(guān).因而因而 =0， 即即X和和Y不相關(guān)不相關(guān) .但但Y與與X有嚴格的函數(shù)關(guān)系，有嚴格的函數(shù)關(guān)系，即即X和和Y不獨立不獨立 .相關(guān)系數(shù)刻劃了相關(guān)系數(shù)刻劃了X和和Y間間“線性相關(guān)線性相關(guān)”的程度的程度.但對下述情形，獨立與不相關(guān)等價但對下述情形，獨立與不相關(guān)等價若若(X,Y)服從二維正態(tài)分布，則服從二維正態(tài)分布，則X與與Y獨立獨立X與與Y不相關(guān)不相關(guān)前面，我們已經(jīng)看到：前面，我們已經(jīng)看到：若若 X 與與 Y 獨立，則獨立，則X與與Y不相關(guān)，不相關(guān)，但由但由X與與Y不相關(guān)，

9、不一定能推出不相關(guān)，不一定能推出X與與Y獨立獨立.如下例所示如下例所示例例 設(shè)設(shè)(X,Y)服從二維正態(tài)分布，它的概率密度為服從二維正態(tài)分布，它的概率密度為2122211 2212221 22()11,exp2 121()()()2xf x y xyy 我們來求我們來求X和和Y 的相關(guān)系數(shù)的相關(guān)系數(shù).已經(jīng)知道（已經(jīng)知道（ X,Y）的邊緣概率密度為）的邊緣概率密度為 2121()2112 xXfxex 2222()2212yYfye y (),( ), ()( ).1122E X E YXY 故故知知， 而而()cov(, )()() ( , )()()()exp().()(),()cov(, )

10、()12212122122221122212112211222121212112 1211112tX Yxyf x y dxdyxy yxxdydxyxxtX Y t e 令令則則有有dtd ()()()(),cov(,).cov(,).()( )2222221222212221212212222ttXY edt edt edtedt X Y X YD XD Y即即有有于于是是.23,21),4 , 0(),3 , 1(,22YXZNNYXXY 設(shè)設(shè)分分別別服服從從已已知知隨隨機機變變量量.)2(.)1(的的相相關(guān)關(guān)系系數(shù)數(shù)與與求求的的數(shù)數(shù)學(xué)學(xué)期期望望和和方方差差求求ZXZ解解.16)(, 0

11、)(, 9)(, 1)()1( YDYEXDXE由由)23()(YXEZE 得得)(21)(31YEXE .31 例例)2,3Cov(2)2()3()(YXYDXDZD ),Cov(31)(41)(91YXYDXD )()(31)(41)(91YDXDYDXDXY . 3241 )()(21)(31YDXDXDXY . 033 . 0) )()(),Cov( ZDXDZXXY故故)23,Cov(),Cov()2(YXXZX ),Cov(21),Cov(31YXXX 1、）具有概率密度，設(shè)隨機變量（YX其它020 , 20)(81),(yxyxyxf。求)(),(),(),(YXDYXCovYE

12、XE2、相互獨立，且設(shè)設(shè)YXNYNX),(),(22是不全為零的常數(shù)）。，其中的相關(guān)系數(shù)和試求(21YXZYXZ1、解、解95)(,361),(,67)()(YXDYXCovYEXE2、解、解2)()(YDXD222221)()()()()(YDXDYXDZD222222)()()()()(YDXDYXDZD22222121)()(),(21ZDZDZZCovZZ),(),(21YXYXCovZZCov),(),(22YYCovXXCov22()( )D XD Y 222() 中心矩中心矩的二階混合的二階混合維隨機變量維隨機變量設(shè)設(shè)),(21nXXXn, 2 , 1, )()(),Cov( 都

13、存在都存在njiXEXXEXEXXcjjiijiij 則稱矩陣則稱矩陣 nnnnnncccccccccC212222111211.協(xié)協(xié)方方差差矩矩陣陣維維隨隨機機變變量量的的為為n三、協(xié)方差矩陣三、協(xié)方差矩陣的協(xié)方差矩陣為的協(xié)方差矩陣為二維隨機變量二維隨機變量例如例如),(21XX 22211211ccccC,)(21111XEXEc 其其中中),()(221112XEXXEXEc ),()(112221XEXXEXEc .)(22222XEXEc .,), 2 , 1,(陣陣為為對對稱稱的的非非負負定定矩矩陣陣所所以以協(xié)協(xié)方方差差矩矩由由于于njiccjiij 協(xié)方差矩陣的應(yīng)用協(xié)方差矩陣的應(yīng)

14、用.,的的研研究究差差矩矩陣陣達達到到對對隨隨機機變變量量從從而而可可通通過過協(xié)協(xié)方方變變量量的的概概率率密密度度隨隨機機協(xié)協(xié)方方差差矩矩陣陣可可用用來來表表示示推廣推廣,)()()(2121 nnXEXEXE,),(21TnxxxX 其中其中),(21nxxxp.212222111211 nnnnnncccccccccC示示為為的的概概率率密密度度可可表表維維正正態(tài)態(tài)隨隨機機變變量量),(21nXXXn.)()(21exp)(det)2(11212 XCXCTn四、小結(jié)四、小結(jié)協(xié)方差與相關(guān)系數(shù)的定義協(xié)方差與相關(guān)系數(shù)的定義, )()( 的協(xié)方差的協(xié)方差與與稱為隨機變量稱為隨機變量量量YXYEY

15、XEXE ),(Cov YX記為記為)()(),(CovYEYXEXEYX . )()(),(Cov 關(guān)系數(shù)關(guān)系數(shù)的相的相與與為隨機變量為隨機變量稱稱YXYDXDYXXY ).,(Cov),(Cov. 1XYYX 2.Cov(,)Cov( , ).aXc bYdabX Y( , ,c,d)a b為常數(shù)).,(Cov),(Cov),(Cov. 32121YXYXYXX 協(xié)方差的性質(zhì)協(xié)方差的性質(zhì)相關(guān)系數(shù)的意義相關(guān)系數(shù)的意義.Y,X,XY較密切較密切的線性關(guān)系的線性關(guān)系表明表明較大時較大時當當.,線性相關(guān)的程度較差線性相關(guān)的程度較差較小時較小時當當YXXY.,0不相關(guān)不相關(guān)YXXY和和稱稱時時當當

16、概率論與數(shù)理統(tǒng)計是研究隨機現(xiàn)象統(tǒng)計概率論與數(shù)理統(tǒng)計是研究隨機現(xiàn)象統(tǒng)計規(guī)律性的學(xué)科規(guī)律性的學(xué)科. 隨機現(xiàn)象的規(guī)律性只有在相隨機現(xiàn)象的規(guī)律性只有在相同的條件下進行同的條件下進行大量重復(fù)試驗大量重復(fù)試驗時才會呈現(xiàn)出時才會呈現(xiàn)出來來. 也就是說，要從隨機現(xiàn)象中去尋求必然也就是說，要從隨機現(xiàn)象中去尋求必然的法則，應(yīng)該研究大量隨機現(xiàn)象的法則，應(yīng)該研究大量隨機現(xiàn)象. 研究大量的隨機現(xiàn)象，常常采用極限研究大量的隨機現(xiàn)象，常常采用極限形式，由此導(dǎo)致對極限定理進行研究形式，由此導(dǎo)致對極限定理進行研究. 極極限定理的內(nèi)容很廣泛，其中最重要的有兩限定理的內(nèi)容很廣泛，其中最重要的有兩種種:與與大數(shù)定律大數(shù)定律中心極限定

17、理中心極限定理 四、中心極限定理四、中心極限定理 在實際問題中，常常需要考慮許多隨機在實際問題中，常常需要考慮許多隨機因素所產(chǎn)生總影響因素所產(chǎn)生總影響.例如：炮彈射擊的落點與目標的偏差，就受著許例如：炮彈射擊的落點與目標的偏差，就受著許多隨機因素的影響多隨機因素的影響.空氣阻力所產(chǎn)生的誤差，空氣阻力所產(chǎn)生的誤差，重要的是這些隨機因素的總影響重要的是這些隨機因素的總影響.如瞄準時的誤差，如瞄準時的誤差，炮彈或炮身結(jié)構(gòu)所引起的誤差等等炮彈或炮身結(jié)構(gòu)所引起的誤差等等. 觀察表明，如果一個量是由觀察表明，如果一個量是由大量相互獨大量相互獨立的隨機因素立的隨機因素的影響所造成，而每一個別因的影響所造成，

18、而每一個別因素在總影響中所起的作用不大素在總影響中所起的作用不大. 則則這種量一這種量一般都服從或近似服從正態(tài)分布般都服從或近似服從正態(tài)分布. 自從高斯指出測量誤差服從正自從高斯指出測量誤差服從正態(tài)分布之后，人們發(fā)現(xiàn)，態(tài)分布之后，人們發(fā)現(xiàn)，正態(tài)分布正態(tài)分布在自然界中極為常見在自然界中極為常見. 研究獨立隨機變量之和所特有的規(guī)研究獨立隨機變量之和所特有的規(guī)律性問題律性問題. 當當n無限增大時，這個和的極限分無限增大時，這個和的極限分布是什么呢？布是什么呢？在什么條件下極限分布會是正態(tài)在什么條件下極限分布會是正態(tài)分布分布？ 在概率論中，把和的分布收斂于正在概率論中，把和的分布收斂于正態(tài)分布這一類定

19、理都叫做態(tài)分布這一類定理都叫做中心極限定中心極限定理理.22111,(0,1),( )01101( ),212 ,00( )ninniiXXXRppyyYXyyyypyy 例例：設(shè)設(shè)是是一一個個獨獨立立同同分分布布的的隨隨機機變變量量序序列列，是是的的密密度度函函數(shù)數(shù)，用用卷卷積積公公式式可可以以求求出出，其其他他其其他他2233233233460120141) 612(3 2)3 4 12 4)4 3) 6 23(3) 2234) 6340()0(pyyyyyyyyyyypyyyyyyy （，（其其他他其其他他1( )py2( )py3( )py4()py1432 隨著隨著n的增加的增加,p

20、n(y)的圖形越來越光滑的圖形越來越光滑,越來越接近正態(tài)曲線越來越接近正態(tài)曲線.2222( , ),.1,01;,()(1)iiiiiXB n pDXnEXp EXpDXEXEXpppp 服服從從回回分分：求求布布顧顧112111,(1, ),()(1)(1)niinnnniiiiiXXEXnpXXXBpDXDXDXppnpp 相相互互獨獨立立，同同為為分分布布X01pk1pp定理定理(棣莫佛拉普拉斯定理）棣莫佛拉普拉斯定理）limnnYPx dtext 2221 121,(1,),(1,2),niniiXXXBpiYXxx 設(shè)設(shè)是是一一個個獨獨立立同同分分布布的的隨隨機機變變量量序序列列，且

21、且服服從從于于，則則對對任任意意（）總總有有( , )nYB n p服服從從nEYnp (1)nDYnppnp(1)npp 該定理是概率論歷史上的第一個中心極限定理，針對的該定理是概率論歷史上的第一個中心極限定理，針對的是二項分布，因此稱為是二項分布，因此稱為二項分布的正態(tài)近似二項分布的正態(tài)近似.與第四章介與第四章介紹的紹的二項分布的泊松近似二項分布的泊松近似相比，一般相比，一般p較小時用泊松近較小時用泊松近似，在似，在np5, n(1p） 5時，用正態(tài)近似時，用正態(tài)近似.:(1)!kkkn knnneC ppk 泊泊松松近近似似公公式式4003499%Q例例：一一車車間間有有臺臺同同類類型型機機器器，每每臺臺機機器器需需要要用用