概率論與數(shù)理統(tǒng)計：4-3-4-4協(xié)方差及相關(guān)系數(shù)及其性質(zhì)

1、一、基本概念一、基本概念二、二、n 維正態(tài)變量的性質(zhì)維正態(tài)變量的性質(zhì)4.3協(xié)方差與相關(guān)系數(shù)對于二維隨機變量對于二維隨機變量(X ,Y ):已知聯(lián)合分布已知聯(lián)合分布邊緣分布邊緣分布 對二維隨機變量對二維隨機變量,除每個隨機變量各自的除每個隨機變量各自的概率特性外概率特性外, 相互之間還有某種聯(lián)系相互之間還有某種聯(lián)系,問題是用問題是用一個怎樣的數(shù)去反映這種聯(lián)系一個怎樣的數(shù)去反映這種聯(lián)系. 問題的提出問題的提出 那么那么相互獨立相互獨立和和若隨機變量若隨機變量,YX).()()(YDXDYXD 不相互獨立不相互獨立和和若隨機變量若隨機變量YX?)( YXD22)()()(YXEYXEYXD ).()

2、(2)()(YEYXEXEYDXD 協(xié)方差協(xié)方差反映了隨機變量反映了隨機變量 X , YX , Y 之間的某種關(guān)系之間的某種關(guān)系. )()( ),ov(C, ),Cov(. )( )( YEYXEXEYXYXYXYEYXEXE 即即記為記為的協(xié)方差的協(xié)方差與與稱為隨機變量稱為隨機變量量量1. 定義定義.)()(),Cov(的相關(guān)系數(shù)與為隨機變量YXYDXDYXXY一一 .協(xié)方差和相關(guān)系數(shù)的定義協(xié)方差和相關(guān)系數(shù)的定義若若D (X ) 0, D (Y ) 0 ,稱稱若若, 0XY 稱稱 X ,YX ,Y 不相關(guān)不相關(guān).無量綱 的量)()(),Cov(YEYXEXEYX )()(YEYEXEXE .

3、 0 相互獨立和若隨機變量YX2. 說明說明 3. 協(xié)方差的計算公式協(xié)方差的計算公式 法法1.1.若若 ( X ,Y ) ( X ,Y ) 為離散型，已知為離散型，已知p pijij11cov(, )()( )ijijijX YxE XyE Y p 若若 ( X ,Y ) ( X ,Y ) 為連續(xù)型，已知為連續(xù)型，已知f(x,y)f(x,y)cov( , )( )( ) ( , )X YxE XyE Yf x y dxdy );()()(),Cov()1(YEXEXYEYX ).,Cov(2)()()()2(YXYDXDYXD 法2.4. 性質(zhì)性質(zhì) );,Cov(),Cov()1(XYYX ;

4、, , ),Cov(),Cov()2(為為常常數(shù)數(shù)baYXabbYaX ).,Cov(),Cov(),Cov()3(2121YXYXYXX 求求cov (X ,Y ) XY 1 0 p qX P 1 0 p qY P 例例1 1 已知已知 X ,YX ,Y 的聯(lián)合分布為的聯(lián)合分布為XYpij 1 010 p 0 0 q0 p 1p + q = 1解解 1 0 p qX Y P ,)(,)(,)(,)(pqYDpqXDpYEpXE,)(pXYE1,),cov(XYpqYX解解dxdyyxfyxYX),()(),cov(21 dsdtesttts22221)()1 (21 dudteutttu22

5、221)1 (2)( 22112uts令22112sx11ty22dtetduetu222212)1 (222112 21例例2 2 設(shè)設(shè) ( X ,Y ) ，求，求 XY ),(222121N.)()(),Cov( YDXDYXXY于是于是結(jié)論結(jié)論;,)1(的相關(guān)系數(shù)的相關(guān)系數(shù)與與代表了代表了參數(shù)參數(shù)中中二維正態(tài)分布密度函數(shù)二維正態(tài)分布密度函數(shù)YX. )2(相互獨立相互獨立與與價于價于相關(guān)系數(shù)為零等相關(guān)系數(shù)為零等與與二維正態(tài)隨機變量二維正態(tài)隨機變量YXYX即即X ,YX ,Y 相互獨立相互獨立X ,YX ,Y 不相關(guān)不相關(guān).23,21, )4 , 0(, )3 , 1(,22YXZNNYXX

6、Y 設(shè)設(shè)分別服從分別服從已知隨機變量已知隨機變量.)2.()1 (的相關(guān)系數(shù)與求的數(shù)學(xué)期望和方差求ZXZ解解.16)(, 0)(, 9)(, 1)()1( YDYEXDXE由由 23)(YXEZE得得)(21)(31YEXE .31 例例3 2,3Cov223)(YXYDXDZD),Cov(31)(41)(91YXYDXD )()(31)(41)(91YDXDYDXDXY . 3241 )()(21)(31YDXDXDXY . 033 Cov(,) ()( )0.XZX ZD XD Z故 23,Cov),Cov()2(YXXZX),Cov(21),Cov(31YXXX .23,21, )4 ,

7、 0(, )3 , 1(,22YXZNNYXXY 設(shè)設(shè)分別服從分別服從已知隨機變量已知隨機變量.)2.()1 (的相關(guān)系數(shù)與求的數(shù)學(xué)期望和方差求ZXZ1. 問題的提出問題的提出?,衡量接近的程度又應(yīng)如何來最接近可使應(yīng)如何選擇問YbXaba)(2bXaYEe 設(shè)設(shè).的好壞程度的好壞程度近似表達(dá)近似表達(dá)可用來衡量可用來衡量則則YbXae .,的近似程度越好的近似程度越好與與表示表示的值越小的值越小當(dāng)當(dāng)YbXae .,達(dá)到最小達(dá)到最小使使的值的值確定確定eba二、相關(guān)系數(shù)的意義二、相關(guān)系數(shù)的意義).(2)(2)(2)()(2222YaEXabEXYbEaXEbYE 得得并令它們等于零并令它們等于零求

8、偏導(dǎo)數(shù)求偏導(dǎo)數(shù)分別關(guān)于分別關(guān)于將將,bae . 0)(2)(2)(2, 0)(2)(222XaEXYEXbEbeYEXbEaae解得解得,)(),Cov(0XDYXb .)(),Cov()()(0XDYXXEYEa )(2bXaYEe 得得中中代入代入將將,)(,200bXaYEeba )(minmin2,bXaYEebaba).()1(2YDXY 2. 相關(guān)系數(shù)的意義相關(guān)系數(shù)的意義.,系較緊密系較緊密的線性關(guān)系聯(lián)的線性關(guān)系聯(lián)表明表明較小較小較大時較大時當(dāng)當(dāng)YXeXY.,線性相關(guān)的程度較差線性相關(guān)的程度較差較小時較小時當(dāng)當(dāng)YXXY.,0不相關(guān)不相關(guān)YXXY和和稱稱時時當(dāng)當(dāng) )(200XbaYE

9、 例例4 ?, )cos(,cos,2, 0的相關(guān)系數(shù)的相關(guān)系數(shù)和和求求是常數(shù)是常數(shù)這里這里的均勻分布的均勻分布服從服從設(shè)設(shè) aa 解解, 0dcos21)(20 xxE ,21dcos21)(2022 xxE , 0d)(cos21)(20 xaxE ,21d)(cos21)(2022 xaxE ,cos21d)cos(cos21)(20axaxxE 數(shù)數(shù)為為由由以以上上數(shù)數(shù)據(jù)據(jù)可可得得相相關(guān)關(guān)系系.cosa ,1,0 時時當(dāng)當(dāng)a,1, 時時當(dāng)當(dāng)a .存在線性關(guān)系存在線性關(guān)系, 0,232 時時或或當(dāng)當(dāng)aa.不相關(guān)不相關(guān)與與 , 122 但但.不獨立不獨立與與因此因此 .cosa 的相關(guān)系數(shù)

10、和的均勻分布服從, )cos(,cos,2, 0a(1) (1) 不相關(guān)與相互獨立的關(guān)系不相關(guān)與相互獨立的關(guān)系3. 注意注意相互獨立相互獨立不相關(guān)不相關(guān)(2) (2) 不相關(guān)的充要條件不相關(guān)的充要條件; 0,1o XYYX不相關(guān)不相關(guān); 0),Cov(,2o YXYX不相關(guān)不相關(guān)).()()(,3oYEXEXYEYX 不相關(guān)不相關(guān)4. 相關(guān)系數(shù)的性質(zhì)相關(guān)系數(shù)的性質(zhì). 1) 1 (XY. 1,:1)2(baXYPbaXY使存在常數(shù)的充要條件是(1)(1)證：證： 由柯西一許瓦茲不等式知由柯西一許瓦茲不等式知 )()()(222YEXEXYE )()(|)()(|22YEYEXEXEYEYXEXE

11、所以)()(| ),(|YDXDYXCov 即即所以所以|XYXY|1。 意義意義 |XY|=1當(dāng)且僅當(dāng)當(dāng)且僅當(dāng)Y Y跟跟X X幾乎有線性關(guān)系。這說幾乎有線性關(guān)系。這說明了相關(guān)系數(shù)的概率意義。明了相關(guān)系數(shù)的概率意義。 XY是刻畫是刻畫X X，Y Y之間線性相關(guān)程度之間線性相關(guān)程度。. 1,1)2(baXYPbaXY使的充要條件是存在常數(shù). 1)()(XEXaYEYPa 使存在常數(shù). 1)()(YEXaEaXYP即，取)()(YEXaEb. 1,1baXYPbaXY使的充要條件是存在常數(shù)(2)(2)證：證： 由柯西一許瓦茲不等式中等號成立（由柯西一許瓦茲不等式中等號成立（ ）充要條件知充要條件知

12、 1XY練習(xí)練習(xí) 設(shè)設(shè) ( X ,Y ) N ( 1,1; 4,4; 0.5 ), Z = X + Y , 求求 XZ解解, 4)()(, 1)()(YDXDYEXE1/2, cov(, )2XYX Y6),cov(),cov(),cov(YXXXZX12),cov(2)()()()(YXYDXDYXDZD3/ 123/2.XZ)()(, )(22111221111XEXXEXECXEXEC )(,)()(22222112221XEXECXEXXEXEC寫為矩陣的形式： ,22211211 CCCC稱為隨機變量(X1,X2)的協(xié)方差矩陣。 (1)二維隨機向量的協(xié)方差矩陣 二維隨機變量(X1,X

13、2)有四個二階中心矩(設(shè)他們存在)，分別記為 三三.協(xié)方差矩陣協(xié)方差矩陣(2)推廣定義定義 設(shè)X=(X1,X2,Xn) 為n維隨機向量,并記i=E(Xi)， njiXXCovCjiij, 2 , 1,),( 則稱=(1,2,n)為向量X的數(shù)學(xué)期望或均值，稱矩陣 nnnnnnCCCCCCCCCC212222111211為向量X的協(xié)方差矩陣。 例例6 6: 設(shè)(X,Y)N(1, 2,12,22,),求向量(X，Y)的均值與協(xié)方差矩陣。 解: E(X)=1，E(Y)=2， 212221),(,)(,)(YXCovYDXD 所以(X，Y)的均值為=(1,2) 22212121 (X，Y)協(xié)方差矩陣為

14、3. 協(xié)方差矩陣的性質(zhì) (1)協(xié)方差矩陣對角線上的元素Cii為Xi的方差即Cii=D(Xi) i=1，2，n；(2)協(xié)方差矩陣C為對稱矩陣,即Cij=Cji ,i，j=1，2，n；(3)C為非負(fù)定矩陣,即對于任意實向量t=(t1，t2，tn),有tCt0；證：性質(zhì)(1)，(2)顯然，只證(3) njnijjjiiinjnijiijtXEXXEXEtttCCtt1111)()(njnijjjiiiXEXtXEXtE11)()(njnijjjiiiXEXtXEXtE11)()(21)( niiiiXEXtE4多維正態(tài)分布及其性質(zhì) 二維正態(tài)隨機向量X=(X1，X2) 的概率密度為 )()(2)()1

15、(21exp121),(2222221221121211222121 xxxxxxf引入下面記號 222121212121, Cxxx 22112121212222111),(|1 xxxxCxCx)()(2)(1122222212211212112 xxxx經(jīng)運算可得 22212|1,C 212121221|1 CC 于是X=(X1，X2) 的概率密度可寫成 )(21exp|21),(12/12/221 xCxCxxf 222121212121, Cxxx上式推廣至n維正態(tài)分布的情況，于是有以下定義：(1)定義 若n維隨機向量X=(X1，Xn)的概率密度為 )(21exp|21),(12/1

16、2/21 xCxCxxxfnn 其中X=(X1，Xn),=(1，2，n)為n維實向量，C為n階正定對稱矩陣，則稱向量X=(X1，Xn)服從n維正態(tài)分布，記為XN(,C) . 對于n維正態(tài)分布XN(,C) ，X的期望為，X的協(xié)方差矩陣為C。 (2) (2) 性質(zhì)性質(zhì) （P112P112頁）頁） n維正態(tài)分布具有下述性質(zhì)：1)n維隨機向量(X1，Xn)服從n維正態(tài)分布充要條件是X1，Xn的任意線性組合l1X1+l2X2+lnXn(l1,l2,ln是不全為0的數(shù))服從一維正態(tài)分布。2)若X=(X1,Xn)N(,C)，設(shè)Y=(Y1,Y2,Ym)=AX,即Yi i為Xj (j=1，2，n)的線性函數(shù),i

17、 i=1，2，m，則YN(A，ACA)，其中A為m行n列且秩為m的矩陣。3)設(shè)(X1，Xn)服從n維正態(tài)分布，則“X1，Xn相互獨立”與“X1，Xn兩兩不相關(guān)”是等價的。 例例7 7: : 設(shè)XN（0，1），YN(0，1 ),若X與Y相互獨立，求E(|X-Y|)。 42221)(zezf 于是 2|221|)(|)(|42dzezZEYXEz解: 令Z=X-Y，問題化為求E(|Z|)，為求E(|Z|),我們先求出Z的概率密度. 由77頁性質(zhì)，可知Z服從一維正態(tài)分布。（由性質(zhì)性質(zhì)1)1) ，可知(X，Y)服從二維正態(tài)分布，法2。）而E(Z)=E(X-Y)=E(X)-E(Y)=0，D(Z)=D(X-Y)=D(X)+D(Y)=2，故ZN（0，2），即Z的概率密度為 例8: 設(shè) ,問X與Z是 否獨立? 23,)21,4 ,3 , 1 , 0(),(22YXZNYX 又 解: 由于 YXZX213101 由性質(zhì)2)知(X，Z)服從二維正態(tài)分布，再由性質(zhì)3)知判斷X與Z是否獨立等價于判斷X與Z是否不相關(guān)。)23,(),(YXXCovZXCov ),(21),(31YXCovXXCov )()(21)(31yDxDXDXY