隨機(jī)過程課程簡介-PPT課件

1、隨機(jī)過程馬春光 哈爾濱工程大學(xué)課程信息學(xué)時32學(xué)時；4學(xué)時/周。課程性質(zhì)考試課考核方式閉卷，筆試教材和主要參考書目課程信息主要教材隨機(jī)過程張卓奎, 陳慧嬋西安電子科技大學(xué)出版 社，2019參考書目隨機(jī)過程同步學(xué)習(xí)輔導(dǎo)張卓奎, 陳慧嬋西安電子 科技大學(xué)出版社，2019隨機(jī)過程初級教程 (第二版). 美Samuel Karlin, HowardM. Taylor 著, 莊興元, 陳宗洵, 陳慶華 譯. 人民郵電大學(xué)出版社, 2019. 第1章 概率論基礎(chǔ)1.1 概率空間1.2 隨機(jī)變量及分布1.3 隨機(jī)變量的數(shù)字特征1.4 隨機(jī)變量的特征函數(shù)1.5 n維正態(tài)

2、隨機(jī)變量1.6 條件數(shù)學(xué)期望第1章 概率論基礎(chǔ)1.1 概率空間1.2 隨機(jī)變量及分布1.3 隨機(jī)變量的數(shù)字特征1.4 隨機(jī)變量的特征函數(shù)1.5 n維正態(tài)隨機(jī)變量1.6 條件數(shù)學(xué)期望1.1 概率空間樣本空間一個試驗(yàn)所有可能出現(xiàn)的結(jié)果的全體；記為.樣本點(diǎn)試驗(yàn)的一個結(jié)果；記為隨機(jī)事件樣本空間的某個子集；簡稱為事件.1.1 概率空間定義1.1.1 設(shè)是樣本空間，F(xiàn) 是的某些子集構(gòu)成的集合，如果(1) F (2)若A F 則 F (3)若A F ,n=1,2,， 則 F 那么稱 F 為一事件域.也稱F 為域.也稱F 為域 顯然，如果 F 是一事件域，那么 (1) F ； (2) 若A,B F ，則A-B

3、 F ； (3) 若An F ，n=1,2,則 F . 1.1 概率空間定義1.1.2 設(shè)是樣本空間，F(xiàn) 是一事件域，定義在F 上的實(shí)值函數(shù)P()如果滿足：(1) F ,P(A)0 ，(2) P()=1 ,(3) 若 F ，n=1,2,，且AiAj=,ij,i=1,2,則 那么稱P是二元組(, F )上的概率，稱P(A)為事件的概率，稱三元組(, F ,P)為概率空間.1.1 概率空間事件的概率性質(zhì)1.1 概率空間 一列事件AnF ，n=1,2,，稱為單調(diào)遞增的事件列，如果An An+1,n=1,2,一列事件 AnF ，n=1,2,，稱為單調(diào)遞減的事件列，如果An An+1,n=1,2,定理1

4、.1.1 設(shè)AnF ，n=1,2,(1)若An，n=1,2,是單調(diào)遞增的事件列，則 (2)若An，n=1,2,是單調(diào)遞減的事件列，則定義1.1.3 設(shè)(, F ,P)為一概率空間， A,B F 且P(A)0，則稱 為在事件A發(fā)生的條件下事件B發(fā)生的條件概率.不難驗(yàn)證，條件概率P(|A)符合定義1.1.2中的三個條件，即(1) F ，P(B|A)0；(2) P(|A)=1；(3) 設(shè)BnF ，n=1,2,BiBj=,ij,i=1,2,則 1.1 概率空間定理1.1.2 設(shè)(, F ,P)是一概率空間，有：(1) (乘法公式) 若AiF ， i=1,2, 且 P(A1A2An)0 則(2) (全概

5、率公式) 設(shè)AF , Bi F ，P(Bi)0,i=1,2,，且 BiBj=,ij,i=1,2, ， 則1.1 概率空間 (3) (貝葉斯(Bayes)公式) 設(shè)AF ,P(A)0, Bi F ，P(Bi)0,i=1,2,且BiBj=,ij,i=1,2, 則定義1.1.4 設(shè)(, F ,P)為一概率空間, AiF ， i=1,2,n,如果對于任意的k(1kn) 及任意的1i1i2ikn,有則A1A2An稱相互獨(dú)立。1.1 概率空間定理1.1.3 設(shè)A,BF 相互獨(dú)立，則A 與 , 與B , 與 也是相互獨(dú)立的，從而A所生成的域F A=A,中的任意一個事件和B所生成的域F B=B, , 中的任意

6、一個事件都相互獨(dú)立(這時我們稱這兩個域F A和F B是相互獨(dú)立的).1.1 概率空間定理1.1.4 設(shè)A,B,CF 相互獨(dú)立，則(1) A與BC相互獨(dú)立；(2) A與BC相互獨(dú)立；(3) A與B-C相互獨(dú)立；(4) A所生成的域中的任一事件與B和C所生成的域 F B,C= 中的任意一個事件都相互獨(dú)立。 1.1 概率空間推論1.1.1 設(shè)A,B,CF 相互獨(dú)立，將A,B,C任意分為兩組，則他們各自生成的域仍然相互獨(dú)立.定理1.1.5 設(shè)AiF ， i=1,2,n相互獨(dú)立，將Ai,i=1,2,n,任意分成m(mn)組，并對各組中的事件施以積、和、逆運(yùn)算后，所得到的事件B1,B2,Bm也是相互獨(dú)立的

7、.從而這m 組事件各自所生成的域也是相互獨(dú)立的.1.1 概率空間定理1.1.5蘊(yùn)含的有用的結(jié)論：(1)若A1,A2,An相互獨(dú)立，則 也相互獨(dú)立，從而有(2) 一列獨(dú)立事件中的任何一部分事件也相互獨(dú)立(3) 若一列事件相互獨(dú)立，則將其中任一部分改寫為對立事件，所得的事件也相互獨(dú)立.第1章 概率論基礎(chǔ)1.1 概率空間1.2 隨機(jī)變量及分布1.3 隨機(jī)變量的數(shù)字特征1.4 隨機(jī)變量的特征函數(shù)1.5 n維正態(tài)隨機(jī)變量1.6 條件數(shù)學(xué)期望1.2 隨機(jī)變量及其分布定義1.2.1 設(shè)(, F ,P)為一概率空間，定義在上的實(shí)函數(shù)X()，如果 則稱X是F 的隨機(jī)變量.稱 F(x)=P(Xx), 為隨機(jī)變量X

8、的分布函數(shù).1.2 隨機(jī)變量及其分布分布函數(shù)F(x)具有如下的性質(zhì)：(1) F(x)是單調(diào)不減函數(shù)，即若x1x2則F(x1)F(x2) ；(2) F(x)是右連續(xù)函數(shù)，即； ,F(x+0)=F(x);(3)同時可以證明，設(shè)F(x)，xR是單調(diào)不減、右連續(xù)的函數(shù)，并且 則必存在概率空間(, F ,P) 及其上的一個隨機(jī)變量X使得X以F(x)為其分布函數(shù). 1.2 隨機(jī)變量及其分布 隨機(jī)變量有兩種類型：離散型和連續(xù)型隨機(jī)變量離散型若隨機(jī)變量X的可能取值為有限個或可列無限個，則稱X 為離散型隨機(jī)變量.離散型隨機(jī)變量X的分布可用分布律來描述，即 P(X=xi)=pi,i=1,2,這時X的分布函數(shù)為 1

9、.2 隨機(jī)變量及其分布連續(xù)型 設(shè)隨機(jī)變量X的分布函數(shù)為F(x),如果存在非負(fù)可積函數(shù) f(x)使得則稱X為連續(xù)型隨機(jī)變量, f(x)為連續(xù)型隨機(jī)變量X的概率密度函數(shù).1.2 隨機(jī)變量及其分布定義1.2.2 設(shè)(, F ,P)為一概率空間，定義在上的n元實(shí)函數(shù) 如果則稱X=(X1,X2,，Xn)為n維隨機(jī)變量或n維隨機(jī)向量.稱 為X的聯(lián)合分布函數(shù).1.2 隨機(jī)變量及其分布設(shè)X是n維隨機(jī)變量，則X的聯(lián)合反不函數(shù)具有下列性質(zhì) (1)F(x1,x2,，xn)對任一xi(i=1,2,n)是單調(diào)不減函數(shù);(2)F(x1,x2,，xn)對任一xi(i=1,2,n)是右連續(xù)函數(shù)；(3)(4)設(shè)xiyi,i=1

10、,2,n,則1.2 隨機(jī)變量及其分布若n維隨機(jī)變量X的可能取值為有限對或可列無限對，則稱n維隨機(jī)變量X為離散型n維隨機(jī)變量.離散型n維隨機(jī)變量X=(X1,X2,Xn)的分布可用聯(lián)合分布律來描述，即 P(X1=x1,X2=x2,Xn=xn)其中xiIi, Ii是離散集,i=1,2,n這時X的聯(lián)合分布函數(shù)為1.2 隨機(jī)變量及其分布設(shè)n維隨機(jī)變量X的聯(lián)合分布函數(shù)為F(x1,x2,xn)，如果存在非負(fù)可積函數(shù)f(x)=f(x1,x2,xn),xRn使得則稱X為連續(xù)型n維隨機(jī)變量， f(x1,x2,xn),稱為連續(xù)型n 維隨機(jī)變量X的聯(lián)合概率密度函數(shù)。1.2 隨機(jī)變量及其分布 保留k(1k0的y的取值的

11、公共部分。1.2 隨機(jī)變量及其分布 若g(x)不是嚴(yán)格單調(diào)的可微函數(shù)，則將g(x)在其定義域分成若干個單調(diào)分支，在每個單調(diào)分支上應(yīng)用(1)的結(jié)果 得Y=g(X)概率密度函數(shù)為 其中I 是在每個單調(diào)分支上按照(1)確定的y的取值的公共部分. 1.2 隨機(jī)變量及其分布例1.2.1 設(shè) ，試求Y的概率密度函數(shù)fY(y)。解 由于y=tan x，故其反函數(shù)h(y)=arctan y, 并且 因此Y的概率密度函數(shù) 1.2 隨機(jī)變量及其分布例1.2.2 設(shè)XN(0,1)，求Y=X2的概率密度函數(shù)fY(y)解 由于y=x2有兩個單調(diào)分支，其反函數(shù)分別為 并且 因而Y=X2的概率密度函數(shù)為1.2 隨機(jī)變量及其

12、分布例1.2.3 設(shè)(X,Y)為二維隨機(jī)變量，其中X,Y相互獨(dú)立并且都服從正態(tài)分布N(0,2),記Z為(X,Y) 的模,為(X,Y)的輔角，求(Z,)的聯(lián)合概率密度函數(shù)及邊緣概率密度函數(shù)。1.2 隨機(jī)變量及其分布 解 由于 X,Y 相互獨(dú)立，因此又因?yàn)榉匠探M有唯一解(反函數(shù))1.2 隨機(jī)變量及其分布 所以(Z,)的聯(lián)合概率密度函數(shù)為1.2 隨機(jī)變量及其分布 故從Z,的概率密度函數(shù)可以看出，Z服從參數(shù)為的Rayleigh分布，服從區(qū)間 上的均勻分布，并且 g(z,)=gZ(z)g()所以Z和是相互獨(dú)立的第1章 概率論基礎(chǔ)1.1 概率空間1.2 隨機(jī)變量及分布1.3 隨機(jī)變量的數(shù)字特征1.4 隨機(jī)

13、變量的特征函數(shù)1.5 n維正態(tài)隨機(jī)變量1.6 條件數(shù)學(xué)期望1.3 隨機(jī)變量的數(shù)字特征定義1.3.1 設(shè)f(x),g(x)是定義在a,b上的兩個有界函數(shù)， a=x0 x1xn=b是區(qū)間a,b上的任一劃分,xk=xk-xk-1, xk在每一個子區(qū)間xk-1,xk上任意取一點(diǎn)k作和式 如果極限存在且與a,b的分法和k的取法都無關(guān)，則稱此極限為函數(shù)f(x)對函數(shù)g(x)在區(qū)間a,b上的Stieltjes積分，記為 此時也稱f(x)對g(x)在a,b上S可積.1.3 隨機(jī)變量的數(shù)字特征定義1.3.2 設(shè)f(x),g(x)是定義在(,+)上的兩個函數(shù)，若在任意有限區(qū)間a,b , f(x)對g(x)在a,b

14、上S可積,且極限存在，則稱此極限為f(x)對g(x)在無窮區(qū)間(,+)上的Stieltjes積分，簡稱S積分，記為1.3 隨機(jī)變量的數(shù)字特征 在S積分中，當(dāng)g(x)取一些特殊形式時，積分可化為級數(shù)和通常積分.若g(x)在(,+)上是階梯函數(shù)，它的跳躍點(diǎn)為x1,x2, (有限多或可列無限多個),則若g(x)在(,+)上是可微函數(shù)它的導(dǎo)函數(shù)為g(x) ,則 1.3 隨機(jī)變量的數(shù)字特征定義1.3.3 設(shè)函數(shù)g(x)定義在無限區(qū)間(,+)上，若積分存在，則稱此積分為g(x)的Fourier-Stieltjes積分，簡稱F-S積分。1.3 隨機(jī)變量的數(shù)字特征定義1.3.4 設(shè)X是一隨機(jī)變量,F(x)是其

15、分布函數(shù)，若 則稱 為隨機(jī)變量X的數(shù)學(xué)期望或均值。 若X是離散型隨機(jī)變量，其分布律為P(X=xi)=pi,i=1,2, 則 1.3 隨機(jī)變量的數(shù)字特征 若X是連續(xù)型隨機(jī)變量，其概率密度函數(shù)為f(x)則定理1.3.1設(shè)X是一隨機(jī)變量，其分布函數(shù)為F(x),y=g(x)是連續(xù)函數(shù)，如果 存在，則上述定理可推廣到n維隨機(jī)變量的場合.1.3 隨機(jī)變量的數(shù)字特征定理1.3.2 設(shè)X=(X1,X2,Xn)是n維隨機(jī)變量，其聯(lián)合分布函數(shù)為F(x1,x2,xn),g(x1,x2,xn)是連續(xù)函數(shù)，如果 存在，則1.3 隨機(jī)變量的數(shù)字特征定義1.3.5 設(shè)X是隨機(jī)變量，若E|X|2+則稱為隨機(jī)變量X的方差.定義

16、1.3.6 設(shè)X,Y是隨機(jī)變量，若E|X|2+, E|Y|20,DY0,則稱 為隨機(jī)變量X,Y的相關(guān)系數(shù)。若XY=0則稱X,Y不相關(guān)1.3 隨機(jī)變量的數(shù)字特征 根據(jù)定理1.3.1，若X的分布函數(shù)為F(x)則當(dāng)X是離散型隨機(jī)變量是，其分布律為 P(X=xi)=pi, i=1,2, 則當(dāng)X是連續(xù)型隨機(jī)變量時，其概率密度為f(x)，則 1.3 隨機(jī)變量的數(shù)字特征 根據(jù)定理1.3.2，若(X,Y)的聯(lián)合分布函數(shù)為F(x,y) 則當(dāng)(X,Y)是離散型隨機(jī)變量時，其聯(lián)合分布律為 P(X=xi,Y=yi)=pij, i,j=1,2, 則當(dāng)(X,Y)是連續(xù)型隨機(jī)變量時，其聯(lián)合概率密度為f(x,y)則1.3 隨

17、機(jī)變量的數(shù)字特征隨機(jī)變量的數(shù)學(xué)期望和方差具有下列5個性質(zhì)(1) 設(shè)a,b是任意的常數(shù)，則E(aX+bY)=aEX+bEY;(2) 設(shè)X,Y相互獨(dú)立，則EXY=EXEY; (3) 設(shè)a,b是任意的常數(shù)，X,Y相互獨(dú)立，則 D(aX+bY)=a2DX+b2DY(4) 設(shè)E|X|2+, E|Y|2+則(EXY)2EX2+EY2;(5) 設(shè)Xn0,n=1,2,則稱不等式(EXY)2EX2+EY2為Schwarz不等式。1.3 隨機(jī)變量的數(shù)字特征例1.3.1 設(shè)X是隨機(jī)變量，若E|X|r0則稱EXr 為隨機(jī)變量的r階，設(shè)隨機(jī)變量X的r階矩存在，則證明 設(shè)X的分布函數(shù)為F(X),則 即 稱不等式 為馬爾科

18、夫不等式1.3 隨機(jī)變量的數(shù)字特征 特別地，在馬爾科夫不等式中令r=2，將X換成X-EX可得重要的Chebyshv不等式. 定理1.3.3 設(shè)X是隨機(jī)變量，則DX=0的充要條件是P(X=C)=1（C是常數(shù)）。1.3 隨機(jī)變量的數(shù)字特征 對于多個隨機(jī)變量，方差和協(xié)方差之間具有下列重要的性質(zhì)。設(shè)X1,X2,Xn是n個隨機(jī)變量，則例1.3.2 (Montmort配對問題) n個人將自己的帽子放在一起，充分混合后每人隨機(jī)地取出一頂帽子，試求出選中自己帽子的人數(shù)的均值和方差.1.3 隨機(jī)變量的數(shù)字特征 解 設(shè)X表示選中自己帽子的人數(shù)，令 第i個人選中自己的帽子 否則i=1,2,n,則又 從而1.3 隨機(jī)

19、變量的數(shù)字特征 所以由 得而當(dāng)ij時1.3 隨機(jī)變量的數(shù)字特征 所以 1.3 隨機(jī)變量的數(shù)字特征定義1.3.7 設(shè)X=(X1,X2,Xn)是n維隨機(jī)變量，則稱為n維隨機(jī)變量X=(X1,X2,Xn)的均值向量。稱 n維隨機(jī)變量X=(X1,X2,Xn)的協(xié)方差矩陣1.3 隨機(jī)變量的數(shù)字特征定理1.3.4 設(shè)B是n維隨機(jī)變量的協(xié)方差矩陣，則B是非負(fù)定矩陣.證明 由于對任意的n個實(shí)數(shù)t1,t2,tn二次型即二次型 是非負(fù)定的，因而矩陣B非負(fù)定.第1章 概率論基礎(chǔ)1.1 概率空間1.2 隨機(jī)變量及分布1.3 隨機(jī)變量的數(shù)字特征1.4 隨機(jī)變量的特征函數(shù)1.5 n維正態(tài)隨機(jī)變量1.6 條件數(shù)學(xué)期望1.4

20、隨機(jī)變量的特征函數(shù)定義1.4.1 設(shè)(, F ,P)是一概率空間，X,Y都是F 的實(shí)值變量，則稱 為復(fù)隨機(jī)變量。復(fù)隨機(jī)變量Z是取復(fù)值的隨機(jī)變量，它的數(shù)學(xué)期望定義為若X是實(shí)值隨機(jī)變量，則ejtX應(yīng)是復(fù)隨機(jī)變量。1.4 隨機(jī)變量的特征函數(shù)定義1.4.2 設(shè)X是(實(shí))隨機(jī)變量，其分布函數(shù)為F(x)則稱為隨機(jī)變量X的特征函數(shù).由于ejtX =costX，+jsintX,因此X的特征函數(shù)也可以表示為1.4 隨機(jī)變量的特征函數(shù) 當(dāng)X是離散型隨機(jī)變量時，其分布律為 P(X=xi)=pi,i=1,2,則當(dāng)X是連續(xù)型隨機(jī)變量時，其概率密度函數(shù)為f(x)則由于因此隨機(jī)變量X的特征函數(shù)(t)總存在。1.4 隨機(jī)變量

21、的特征函數(shù)例1.4.1 設(shè)X服從單點(diǎn)分布，即P(X=c)=1,其中c為常數(shù)，則X的特征函數(shù)例1.4.2 設(shè)XB(n,p)即 k=0,1,2,n,0p0則X的特征函數(shù)例1.4.4 設(shè)X服從區(qū)間a,b上的均勻分布，即X的概率密度函數(shù)為 則X的特征函數(shù) 1.4 隨機(jī)變量的特征函數(shù)例1.4.5 設(shè)XN(,2)，即X的概率密度函數(shù)為 則X的特征函數(shù)1.4 隨機(jī)變量的特征函數(shù) 特別的，若XN(0,1) ，則特征函數(shù) 例1.4.6 設(shè)X服從參數(shù)為(0)的指數(shù)分布，即X的概率密度函數(shù)為則X的特征函數(shù)1.4 隨機(jī)變量的特征函數(shù)隨機(jī)變量的特征函數(shù)(t)具有下列7條性質(zhì)(1)(2) 其中 表示 的共軛；(3) 設(shè)隨

22、機(jī)變量Y=aX+b，其中a,b是常數(shù)，則 其中 分別表示隨機(jī)變量X,Y的特征函數(shù)了。(4) 在(,+)上一致連續(xù)。1.4 隨機(jī)變量的特征函數(shù) (5)設(shè)隨機(jī)變量X,Y相互獨(dú)立，又Z=X+Y，則 此式表明兩個相互獨(dú)立的隨機(jī)變量之和的特征函數(shù)等于各自特征函數(shù)的乘積。(6) 是非負(fù)定的，即對于任意的正整數(shù)n，任意復(fù)數(shù) z1,z2,zn和任意實(shí)數(shù)t1,t2,tn,有 1.4 隨機(jī)變量的特征函數(shù) (7) 設(shè)隨機(jī)變量X的n階原點(diǎn)矩存在，則 存在k(kn)階導(dǎo)數(shù)，且例1.4.7 設(shè)X(),求EX,EX2,DX.解 由于X(),因而 故1.4 隨機(jī)變量的特征函數(shù)例1.4.8 設(shè)XN(0,2),求EXn解 因?yàn)樗?/p>

23、以從而1.4 隨機(jī)變量的特征函數(shù) 在連續(xù)概率分布的情況下，特征函數(shù) 因此f(t)應(yīng)當(dāng)是 的反演，根據(jù)積分理論，在絕對可積的條件下，即 的條件下有反演公式且反演是唯一的.1.4 隨機(jī)變量的特征函數(shù)定理1.4.1 設(shè)隨機(jī)變量X的分布函數(shù)為F(x)，特征函數(shù)為 ，則對F(x)的連續(xù)點(diǎn)x1,x2，有定理1.4.2 隨機(jī)變量X的分布函數(shù)F(x)被它的特征函數(shù) 惟一地確定。由此定理可見，隨機(jī)變量的概率分布函數(shù)與特征函數(shù)是一一對應(yīng)的。1.4 隨機(jī)變量的特征函數(shù)例1.4.9 設(shè)X1,X2,Xn相互獨(dú)立，且Xk(k),k=1,2,n試用特征函數(shù)證明證明 由于X1,X2,Xn相互獨(dú)立， Xk(k),k=1,2,n

24、 故從而所以1.4 隨機(jī)變量的特征函數(shù)例1.4.10 設(shè)X1,X2,Xn相互獨(dú)立，且XkN(k,k2), k=1,2,n, 試用特征函數(shù)求隨機(jī)變量 的概率分布解 由于X1,X2,Xn相互獨(dú)立,且XkN(k,k2), k=1,2,n 故從而所以1.4 隨機(jī)變量的特征函數(shù)定理1.4.3(Bochner-Khintchine定理) 設(shè)(t)滿足(0)=1 ,且在t+上是連續(xù)的復(fù)值函數(shù)，則 是特征函數(shù)的充要條件為它是非負(fù)定的。定義1.4.3 設(shè)X1,X2,Xn是n維隨機(jī)變量，其聯(lián)合分布函數(shù)為F(x)=F(x1,x2,xn),則稱為n維隨機(jī)變量X的特征函數(shù).1.4 隨機(jī)變量的特征函數(shù) 若X=(X1,X2

25、,Xn)是離散型隨機(jī)變量，其聯(lián)合分布律為 P(X1=x1,X2=x2,Xn=xn),則 其中 是關(guān)于Xi的可能取值xi求和。若X=(X1,X2,Xn)是連續(xù)型隨機(jī)變量，其聯(lián)合概率密度函數(shù)為f(x)=f(x1,x2, ,xn) 則1.4 隨機(jī)變量的特征函數(shù)n維隨機(jī)變量的特征函數(shù)具有下列性質(zhì)：(1) (2) (3) 設(shè)(t1,t2,tn) 是n維隨機(jī)變量X=(X1,X2,Xn)的特征函數(shù)，則隨機(jī)變量Y=a1X1+a2X2+anXn 的特征函數(shù)為 Y(t)= (a1t,a2t,ant) (4) (t1,t2,tn) 在Rn上一致連續(xù)；1.4 隨機(jī)變量的特征函數(shù) (5) 設(shè)(t1,t2,tn)是n維隨

26、機(jī)變量X=(X1,X2,Xn)的特征函數(shù) 是隨機(jī)變量X1,X2,Xn相互獨(dú)立的充要條件是(6) 設(shè)(t1,t2,tn)是n維隨機(jī)變量X=(X1,X2,Xn)的特征函數(shù)，則k(1k0 .1.4 隨機(jī)變量的特征函數(shù)若X是連續(xù)型的非負(fù)值隨機(jī)變量，其概率密度函數(shù)為f(x), 則 稱 為f(x)的Laplace變換，記為 f(x)稱為 的Laplace反變換，它們相互唯一確定第1章 概率論基礎(chǔ)1.1 概率空間1.2 隨機(jī)變量及分布1.3 隨機(jī)變量的數(shù)字特征1.4 隨機(jī)變量的特征函數(shù)1.5 n維正態(tài)隨機(jī)變量1.6 條件數(shù)學(xué)期望1.5 n維正態(tài)隨機(jī)變量在概率論中，若(X1,X2)N( ),則二維正態(tài)隨機(jī)變量

27、(X1,X2)的聯(lián)合概率密度函數(shù)為其中， 為隨機(jī)變量X1,X2的相關(guān)系數(shù)。1.5 n維正態(tài)隨機(jī)變量下面用向量和矩陣的形式來表示二維正態(tài)分布的聯(lián)合概率密度函數(shù).為此，令x=(x1,x2)， =(12) ,于是 1.5 n維正態(tài)隨機(jī)變量 所以 =(x-)B-1(x-)T于是1.5 n維正態(tài)隨機(jī)變量定義1.5.1 設(shè)X=(X1,X2,Xn)是n維隨機(jī)變量，如果其聯(lián)合概率密度函數(shù)為其中則稱X=(X1,X2,Xn)服從為均值向量、B為協(xié)方差矩陣的n維正態(tài)分布，記為XN(, B).1.5 n維正態(tài)隨機(jī)變量定理1.5.1 設(shè)XN(,B),則存在n階正交矩陣A，使得 Y=(Y1,Y2,Yn)=(X-)AT是n

28、維獨(dú)立正態(tài)隨機(jī)變量，即Y1,Y2,Yn相互，且YkN(0,dk),其中dk0是B的特征值，k=1,2,n。定理1.5.2 設(shè)XN(,B) ，則X的特征函數(shù) 1.5 n維正態(tài)隨機(jī)變量定理1.5.3 設(shè)X=(X1,X2,Xn)N(,B)(1) 若l1,l2,.ln是常數(shù)，則 服從一維正態(tài)分布其中，k=EXk, k=1,2,n.(2) 若mn，則X的m個分量構(gòu)成的m維隨機(jī)變量 服從m維正態(tài)分布 ，其中1.5 n維正態(tài)隨機(jī)變量 (3) 若m維隨機(jī)變量Y是X的線性變換，即Y=XC，其中C是nm階矩陣，則Y服從m維正態(tài)分布N(C,CTBC);(4) X1,X2,Xn相互獨(dú)立的充要條件是X1,X2,Xn兩兩

29、不相關(guān)。第1章 概率論基礎(chǔ)1.1 概率空間1.2 隨機(jī)變量及分布1.3 隨機(jī)變量的數(shù)字特征1.4 隨機(jī)變量的特征函數(shù)1.5 n維正態(tài)隨機(jī)變量1.6 條件數(shù)學(xué)期望1.6 條件數(shù)學(xué)期望定義1.6.1 設(shè)(X,Y)是離散型二維隨機(jī)變量，其聯(lián)合分布律為P(X=xi,Y=yi)=pij，i,j=1,2,如果 則稱為(X,Y)關(guān)于X在Y=yj的條件下的條件分布律.1.6 條件數(shù)學(xué)期望如果 則稱為(X,Y)關(guān)于Y在X=xi的條件下的條件分布律. 稱為(X,Y)關(guān)于X在Y=yj的條件下的條件分布函數(shù).稱為(X,Y)關(guān)于Y在X=xi的條件下的條件分布函數(shù).1.6 條件數(shù)學(xué)期望 對于連續(xù)型二維隨機(jī)變量，由于對于任

30、意的x,y,P(X=x)=0,P(Y=y)=0,因此就不能直接用條件概率公式引入條件分布函數(shù)了.下面我們用極限的方法來處理.給定y，設(shè)對于任意固定的正數(shù)，P(y-Yy+) 且若對于任意的x，有上式給出了在條件y-Yy+下X的條件分布函數(shù).1.6 條件數(shù)學(xué)期望定義1.6.2 給定y，設(shè)對于任意固定的正數(shù)，P(y-0，且若對于任意 實(shí)數(shù)x ,極限存在，則稱此極限為(X,Y)關(guān)于X在條件Y=y下的條件分布函數(shù)，記為P(Xx|Y=y)或是FX|Y(x|y)1.6 條件數(shù)學(xué)期望設(shè)(X,Y)的聯(lián)合分布函數(shù)為F(x,y)，聯(lián)合概率密度函數(shù)為 f(x,y)，若在點(diǎn)(x,y)處 f(x,y)連續(xù)，邊緣概率密度函數(shù)fY(y)連續(xù)，且fY(y)0，則有1.6 條件數(shù)學(xué)期望 即所以(X,Y)關(guān)于X在條件Y=y下的條件概率密度函數(shù)為類似地，條件分布的概念完全可推廣到n維隨機(jī)變量的情形1.6 條件數(shù)學(xué)期望定義1.6.3 設(shè)(X,Y)是二維隨機(jī)變量， FX|Y(x|y) , FY|X(y|x)分別是