多元正態(tài)分布及參數(shù)估計ppt課件

1、第二章多元正態(tài)分布及參數(shù)第二章多元正態(tài)分布及參數(shù)的估計的估計 2.1 2.1 隨機(jī)向量隨機(jī)向量 本課程討論多變量總體。把p個隨機(jī)變量放在一同得 為一個p維隨機(jī)向量，假好像時對p個變量做一次觀測，得觀測值： 它是一個樣品，觀測n次得n個樣品： 而這n個樣品就構(gòu)成一個樣本),(21pXXXX,),()1(11211Xxxxdefp),(21)(ipiiixxxX,2, 1ni是一個隨機(jī)陣。據(jù)陣維隨機(jī)向量，而樣本數(shù)觀測，在觀測前是一個次個變量的列表示第的第維隨機(jī)向量。矩陣是一個測前，它個樣品的觀測值，在觀行表示第的第矩陣記為：矩陣，稱為樣本數(shù)據(jù)陣個樣品排成一個常把或XnnjjXpiiXXXXXXXx

2、xxxxxxxxXpnpdefndefnpnnpp).,(n21)()2()1(112222111211 非降的右延續(xù)函數(shù)；隨機(jī)向量的結(jié)合分布，邊緣分布，條件分布隨機(jī)向量的結(jié)合分布，邊緣分布，條件分布 一、多元概率分布1、結(jié)合分布函數(shù)隨機(jī)向量 的結(jié)合概率分布函數(shù)定義為),(21 pxxxx121122(,)(,)pppF a aaP xa xaxa 2、分布函數(shù)的性質(zhì)121122(,)(,)pppF a aaP xa xaxa 分布函數(shù)的取值范圍為0，1，即 120(,)1pF a aa 分布函數(shù)當(dāng)變量取值為無窮大時，函數(shù)值收斂到1，即( ,)1F 二、兩個常用的離散多元分布 1、多項分布有如

3、下分布若),(21 mxxxxmkmkmmmppkkknkxkxkxP11212211!),( ，其中10 ipmi, 2 , 1 nkkkm 21121 mppp 那么稱 服從多項分布。),(21 mxxxx 2、多元超幾何分布有如下分布若),(21 mxxxx nNkNkNkxkxkxPmmmm112211),(),min(, 1 , 0iiNnk 那么 服從多元超幾何。mi, 2 , 1 nkkkm 21NNNNm 21),(21 mxxxx 三、結(jié)合概率密度 1、定義隨機(jī)向量 的結(jié)合分布函數(shù)可以表示為),(21 pxxxx),(),(221121pppaxaxaxPaaaF ppaad

4、xdxxxxfp121),(1 那么稱 為延續(xù)型隨機(jī)向量。稱為的結(jié)合概率密度函數(shù)。 ),(21pxxxf),(21 pxxxx假設(shè) 在點 延續(xù)，那么),(21pxxxf),(21pxxx),(),(212121ppppxxxFxxxxxxf 0),(121 pxxxF且有1),(1211 ppdxdxxxxf 四、邊緣分布 設(shè)有延續(xù)隨機(jī)向量 ),(21 pxxxx無妨設(shè) 是 的q個分量組成。那么 的分布為 ),(21)1(qxxxx),(21pxxxx),(21)1(qxxxx),(),(221121)1(qqqaxaxaxPaaaF),(12211pqqqxxaxaxaxPppaadxdxx

5、xxfq121),(1qpqpaadxdxdxdxxxxfq1121),(1所以 的邊沿密度為),(21)1(qxxxxpqpqdxdxxxxfxxf1211)1(),(),(例 隨機(jī)向量 有結(jié)合概率密度函數(shù)),(21xxx)sinsin1 (21),(212212221xxexxfxx 試分別求 的邊沿密度。21,xx22111),()(dxxxfxf221211)sinsin1 (21)(2221dxxxexfxx2212211)sinsin1 (2121)(2221dxxxeexfxx2221222211sinsin212121)(32212221dxxexedxeexfxxxx2212

6、1xe1x2222221)(xexf同理1x五、條件分布 1、問題的引入 假設(shè)A和B是恣意兩個事件，且 ，那么稱為在B事件發(fā)生的條件下，事件A發(fā)生的條件概率。0)(BP)(/ )()/(BPABPBAP思索隨機(jī)向量 ，其中 表示人的身高單位：米， 表示人的體重單位：公斤，在身高為1.9米的人群中，體重 的分布就再也不是原來的分布了。而是在 的條件分布。),(21xxx1x2x90. 11x2x 2、條件分布 延續(xù)隨機(jī)向量 ),(21 pxxxx 無妨設(shè) 是 的q個分量組成。 是余下的p-q個分量組成。 ),(21)1(qxxxx),(21pxxxx),(21)2(pqqxxxx),(),(),

7、|,(1)2(2111pqppqqxxfxxxfxxxxf是 條件下， 的分條件密度函數(shù)。),(21)2(pqqxxxx),(21)1(qxxxx 例 設(shè)X=(x1,x2)有概率密度函數(shù)其它010 , 10) 1(56),(21212121xxxxxxxf試求條件密度函數(shù)f(x1/x2和f(x2/x1。)(),()|(112112xfxxfxxf)(),()|(222121xfxxfxxf因為所以先求 102212111) 14(56)(dxxxxxf1022121) 14(56dxxxx212156512xx 5256)(222xxf同理10121456512) 14(56)(),()|(2

8、, 112121222121222112xxxxxxxxxxxfxxfxxf13) 14(35256) 14(56)(),()|(1212122121222121xxxxxxxxxfxxfxxf六、 獨(dú)立性 1、定義設(shè) 和 是兩個隨機(jī)向量，假設(shè) 對一切 、成立，那么稱 和 相互獨(dú)立。y)()(),(yxyxyFFFxxxyxy 2、設(shè) 和 是兩個延續(xù)隨機(jī)向量， 和 相互獨(dú)立，當(dāng)且僅當(dāng) 或?qū)σ磺?、 成立。)()(),(yxyxyFFFx)()|(xyxxffxyxyxy3、設(shè) 是 個隨機(jī)向量，假設(shè) 對一切 成立，那么 相互獨(dú)立。n21xxx,n)()()(),(21mmmFFFFxxxxxx2

9、121nm n21xxx,n21xxx,數(shù)字特征 一、數(shù)學(xué)期望1、定義pqppqqxxxxxxxxx212221212111X 是有隨機(jī)變量構(gòu)成的隨機(jī)矩陣，定義X的數(shù)學(xué)期望為)()()()()()()()()()(212221212111pqppqqxExExExExExExExExEEX特別當(dāng)時 ，便可得到隨機(jī)向量 的數(shù)學(xué)期望為1q),(21pxxxx) )(,),(),()(21pxExExEEx 2、性質(zhì) 1 設(shè)為常數(shù)，那么 ； )()(XXaEaE2設(shè) 分別為常數(shù)矩陣，那么CBA,CBXACAXB)()(EE 3設(shè) 為 個同階矩陣，那么n21XXX,n)(n21XXXEn21XXXEE

10、E 二、協(xié)方差矩陣 1、定義：設(shè) 和 分別為 維和 維隨機(jī)向量，那么其協(xié)方差矩陣為),(21pxxxx),(21qyyyypq)()()()()()(22112211qqppyEyyEyyEyxExxExxExE),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111YXyxyxyxyxyxyxyxyxyxqpppqq的協(xié)方差矩陣為),(21pxxxx)var(),cov(),cov(),cov()var(),cov(),cov(),cov()var()(2122121211pppppxxxxxxxxxxx

11、xxxxVarx2、性質(zhì) 1假設(shè)(x1,x2,，xp) 和(y1,y2,，yp)相互獨(dú)立。那么反之不成立0),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(),cov(212221212111qpppqqyxyxyxyxyxyxyxyxyx 假設(shè)(x1,x2,，xp)的分量相互獨(dú)立, 那么協(xié)方差矩陣，除主對角線上的元素外均為零，即)var(000)var(000)var()(21pxxxVarx 2隨機(jī)向量X的協(xié)方差矩陣是非負(fù)定矩陣。 證：設(shè)a為恣意與X有一樣維數(shù)的常數(shù)向量，那么axxEaaa)()(axxaE0)(2xaE 3設(shè)A是常數(shù)矩陣，b為

12、常數(shù)向量，那么V(AX+b)=AV(X)A ； )(bAX V)()(bAbAXE )()(bAbAXAxxA)(EAxA)(V 4、假設(shè)(x1,x2,，xp) 和(y1,y2,，yp)分別是p和q維隨機(jī)向量，A和B為常數(shù)矩陣，那么 ByxAByAx),(),(CovCov),(ByAxCov證 )()(xBBxxAAxEEEBxxA)(E 5、假設(shè)(k1,k2,，kp)是n個不全為零的常數(shù)， (x1,x2,，xp) 是相互獨(dú)立的p維隨機(jī)向量，那么)(21n21xxxnkkkV)()()(22221n21xxxVkVkVkn0,000000, 0, 621112LLLLLLppp，使得正交矩陣

13、證明：由于為非負(fù)定矩陣。其中 三、相關(guān)系數(shù)矩陣 假設(shè)(x1,x2,，xp) 和(y1,y2,，yp)分別是p和q維隨機(jī)向量，那么其相關(guān)系數(shù)矩陣為),(),(),(),(),(),(),(),(),(),(212221212111qpppqqyxyxyxyxyxyxyxyxyxyx，兩隨機(jī)向量不相關(guān)。若0yx),( 隨機(jī)向量的變換隨機(jī)向量的變換 一、一元隨機(jī)變量的變換 設(shè)x具有概率密度函數(shù)fx(x)，函數(shù)y=(x)嚴(yán)厲單調(diào)，其反函數(shù)x=(x)有延續(xù)導(dǎo)數(shù)，那么y的概率密度函數(shù)為| )(|)()(yyfyfxy 其中y的取值范圍與x的取值范圍相對應(yīng)。例 設(shè)隨機(jī)變量x服從均勻分布U(0,1),即密度函數(shù) 其他0101)(xxfx的密度函數(shù)。求)0(ln1xyyeyx)(解y的取值范圍為(0,),那么| )(|)()(yyfyfxy|)( |1|)( |)(yyyxeeefye 二、多元隨機(jī)向量的變換 假設(shè)(x1,x2,xp) 有密度函數(shù)f (x1,x2,xp),