隨機(jī)過程知識(shí)點(diǎn)匯總

1、第一章 隨機(jī)過程的基本概念與基本類型 一隨機(jī)變量及其分布1隨機(jī)變量 X ， 分布函數(shù) F (x) P(Xx)離散型隨機(jī)變量X 的概率分布用分布列pk P( Xxk ) 分布函數(shù)F(x)pk連續(xù)型隨機(jī)變量X 的概率分布用概率密度f(wàn) (x)分布函數(shù) F (x)xf (t )dt2n 維隨機(jī)變量X (X1,X2, , Xn)其聯(lián)合分布函數(shù)F (x) F (x1,x2, ,xn )P(X1x1 , X 2 x 2 , , X nxn,)離散型 聯(lián)合分布列 連續(xù)型 聯(lián)合概率密度隨機(jī)變量的數(shù)字特征數(shù)學(xué)期望：離散型隨機(jī)變量 X EXxk pk連續(xù)型隨機(jī)變量XEXxf ( x) dx2 2 2方差： DX E

2、(X EX)2 EX 2 (EX)2 反映隨機(jī)變量取值的離散程度EY ) E( XY) EX EY協(xié)方差(兩個(gè)隨機(jī)變量 X,Y )： BXY E( X EX)(YBXY相關(guān)系數(shù)(兩個(gè)隨機(jī)變量 X,Y )： XYXY DX DY0，則稱 X,Y 不相關(guān)。獨(dú)立 不相關(guān)特征函數(shù) g(t) E (eitX )離散 g(t)eitxk pk連續(xù)g(t)eitx f ( x) dx重要性質(zhì)： g(0) 1， g(t) 1，g( t) g(t)， g(0)EX k常見隨機(jī)變量的分布列或概率密度、期望、方差分布P(X1)p,P( X 0) qEXDXpq二項(xiàng)分布P(Xk)Cnkk n k pk qn kEXn

3、pDXnpq泊松分布P(Xk)k!EXDX均勻分布略正態(tài)分布N(a, 2 )f(x)12e( x a)222EXDX指數(shù)分布f (x)e x, x 00, x 0EXDX維正態(tài)隨機(jī)變量 X(X1,X2, , X n )的聯(lián)合概率密度 X N(a,B)1f (x1, x2 , , xn)n(2 ) 21 exp |B |21 T 112(x a)T B 1(x a)a (a1,a2, ,an)， x (x1, x2, ,xn)， B (bij )n n正定協(xié)方差陣 二隨機(jī)過程的基本概念隨機(jī)過程的一般定義設(shè) ( , P) 是概率空間， T 是給定的參數(shù)集， 若對(duì)每個(gè) t T ，都有一個(gè)隨機(jī)變量 X

4、 與之對(duì)應(yīng)， 則稱隨機(jī)變量族 X(t,e),t T 是 ( , P) 上的隨機(jī)過程。簡(jiǎn)記為 X(t),t T 。含義： 隨機(jī)過程是隨機(jī)現(xiàn)象的變化過程， 用一族隨機(jī)變量才能刻畫出這種隨機(jī)現(xiàn)象的全部統(tǒng)計(jì)規(guī) 律性。另一方面，它是某種隨機(jī)實(shí)驗(yàn)的結(jié)果，而實(shí)驗(yàn)出現(xiàn)的樣本函數(shù)是隨機(jī)的。當(dāng) t 固定時(shí)， X (t,e)是隨機(jī)變量。當(dāng) e固定時(shí)， X(t,e) 時(shí)普通函數(shù)，稱為隨機(jī)過程的一個(gè)樣本 函數(shù)或軌道。分類：根據(jù)參數(shù)集 T 和狀態(tài)空間 I 是否可列，分四類。 也可以根據(jù) X(t) 之間的概率關(guān)系分類， 如獨(dú)立增量過程，馬爾可夫過程，平穩(wěn)過程等。隨機(jī)過程的分布律和數(shù)字特征用有限維分布函數(shù)族來(lái)刻劃隨機(jī)過程的統(tǒng)

5、計(jì)規(guī)律性。隨機(jī)過程 X (t), t T 的一維分布，二維分 布， n 維分布的全體稱為有限維分布函數(shù)族。隨機(jī)過程的有限維分布函數(shù)族是隨機(jī)過程概率特征 的完整描述。在實(shí)際中，要知道隨機(jī)過程的全部有限維分布函數(shù)族是不可能的，因此用某些統(tǒng)計(jì)特征 來(lái)取代。()均值函數(shù) mX (t) EX (t) 表示隨機(jī)過程 X(t),t T 在時(shí)刻 t 的平均值。()方差函數(shù) DX (t) E X(t) mX (t) 2表示隨機(jī)過程在時(shí)刻 t 對(duì)均值的偏離程度。BX (s,t) E( X(s) mX (s)(X (t) mX (t)()協(xié)方差函數(shù) 且有 BX (t,t) DX (t)E X(s)X(t) mX (

6、s)mX (t)()相關(guān)函數(shù) RX (s,t) E X(s)X (t) (3)和(4)表示隨機(jī)過程在時(shí)刻 s， t時(shí)的線性相關(guān)程度。)互相關(guān)函數(shù)： X (t),t T ， Y(t),t T 是兩個(gè)二階距過程，則下式稱為它們的互協(xié)方差函 數(shù)。BXY(s,t) E(X(s) mX (s)(Y(t) mY (t )，那么 RXY(s,t) EX(s)Y(t) ，稱為互相關(guān)函數(shù)。EX(s)Y(t) mX (s)mY(t)若EX(s)Y(t) mX (s)mY (t) ，則稱兩個(gè)隨機(jī)過程不相關(guān)。復(fù)隨機(jī)過程 Zt X t jYt均值函數(shù) mZ (t) EX t jEYt方差函數(shù)DZ(t) E| Zt mZ

7、(t)|2 E(Zt mZ(t)(Zt mZ (t)BZ(s,t) E(Zs mZ (s)(Zt mZ (t)協(xié)方差函數(shù) 相關(guān)函數(shù) RZ (s,t) EZsZtEZsZt mZ(s)mZ(t)常用的隨機(jī)過程2()二階距過程：實(shí)(或復(fù))隨機(jī)過程 X(t),t T ，若對(duì)每一個(gè) t T ，都有 E X(t)2 (二 階距存在)，則稱該隨機(jī)過程為二階距過程。(2)正交增量過程：設(shè) X(t),t T 是零均值的二階距過程，對(duì)任意的 t1 t2 t3 t4 T ，有E( X(t2) X(t1)(X(t4) X(t3) 0 ，則稱該隨機(jī)過程為正交增量過程。其協(xié)方差函數(shù) BX(s,t) RX (s,t)X2

8、 (min( s,t)(3)獨(dú)立增量過程：隨機(jī)過程 X(t),t T ，若對(duì)任意正整數(shù) n 2，以及任意的 t1 t2 tn T ， 隨機(jī)變量 X(t2) X(t1),X(t4) X(t3), ,X(tn) X (t n 1)是相互獨(dú)立的， 則稱 X(t),t T 是獨(dú)立 增量過程。 進(jìn)一步，如 X (t),t T 是獨(dú)立增量過程，對(duì)任意 s t ，隨機(jī)變量 X (t) X (s)的分 布僅依賴于 t s，則稱 X (t),t T 是平穩(wěn)獨(dú)立增量過程。(4)馬爾 可夫過程：如果隨機(jī)過程 X(t),t T 具有馬爾 可夫性 ，即對(duì) 任意正 整數(shù) n 及 t1 t2tn T ， P(X(t1) x

9、1,X(tn 1) xn 1)0，都有P X(tn)xn X(t1) x1, ,X(tn 1)xn 1 P X(tn)xn X(tn 1)xn1 ，則則稱 X(t),t T是馬爾可夫過程。( 5 ) 正 態(tài) 過 程 ： 隨 機(jī) 過 程 X(t),t T ， 若 對(duì) 任 意 正 整 數(shù) n 及 t1,t2, ,tn T ，n 維正態(tài)分布函數(shù)，則稱X(t1),X(t2) X(tn) )是 n 維正態(tài)隨機(jī)變量，其聯(lián)合分布函數(shù)是X (t), t T 是正態(tài)過程或高斯過程。(6)維納過程：是正態(tài)過程的一種特殊情形。設(shè) W (t), t 為實(shí)隨機(jī)過程，如果， W (0) 0；是平穩(wěn)獨(dú)立增量過程；對(duì)任意 s

10、, t 增量 W(t) W(s) 服 從 正 態(tài) 分 布 ， 即 W(t) W(s) N(0, 2 t s) 2 0 。 則 稱W(t ), t 為維納過程，或布朗運(yùn)動(dòng)過程。另外：它是一個(gè) Markov 過程。因此該過程的當(dāng)前值就是做出其未來(lái)預(yù)測(cè)中所需的全部信息。 維納過程具有獨(dú)立增量。 該過程在任一時(shí)間區(qū)間上變化的概率分布獨(dú)立于其在任一的其他時(shí)間區(qū)間 上變化的概率。它在任何有限時(shí)間上的變化服從正態(tài)分布，其方差隨時(shí)間區(qū)間的長(zhǎng)度呈線性增加。 (7)平穩(wěn)過程：嚴(yán)(狹 義)平 穩(wěn)過程 ： X(t),t T ，如果對(duì)任意常 數(shù) 和 正整數(shù) n 及 t1,t2, ,tn T ， t1 ,t2 , ,tn

11、 T，(X(t1),X(t2) X(tn)與( X(t1 ),X(t2 ) X(tn )有相 同的聯(lián)合分布，則稱 X (t),t T 是嚴(yán)(狹義)平穩(wěn)過程。廣義平穩(wěn)過程：隨機(jī)過程 X(t),t T ，如果 X(t),t T 是二階距過程；對(duì)任意的 t T ，mX (t) EX(t) 常數(shù) ；對(duì)任意 s，t T，RX (s,t) EX(s)X(t) RX(t s) ，或僅與時(shí)間差 t s 有關(guān)。則滿足這三個(gè)條件的隨機(jī)過程就稱為廣義平穩(wěn)過程，或?qū)捚椒€(wěn)過程，簡(jiǎn)稱平穩(wěn)過程。第二章 泊松過程 一泊松過程的定義(兩種定義方法)，設(shè)隨機(jī)計(jì)數(shù)過程 X(t),t 0 ，其狀態(tài)僅取非負(fù)整數(shù)值， 若滿足以下三個(gè)條件

12、， 則稱： X (t),t T是 具有 參數(shù) 的 泊松 過程。 X (0) 0 ； 獨(dú)立 增量 過程， 對(duì) 任 意正整 數(shù) n ， 以及任 意的t1 t 2t nT X(t2) X(t1),X(t3) X(t2), ,X(tn) X(tn 1 )相互獨(dú)立，即不同時(shí)間間隔的計(jì)數(shù)相互獨(dú)立；在任一長(zhǎng)度為 t 的區(qū)間中，事件發(fā)生的次數(shù)服從參數(shù) t 0 的的泊松分布，即 t ( t )n對(duì)任意 t,s 0，有 P X (t s) X(s) n e t n 0,1,LEX (t)n!t，EX(t) ，表示單位時(shí)間內(nèi)時(shí)間發(fā)生的平均個(gè)數(shù)，也稱速率或強(qiáng)度。t，設(shè)隨機(jī)計(jì)數(shù)過程 X (t),t 0 ，其狀態(tài)僅取非負(fù)

13、整數(shù)值， 若滿足以下三個(gè)條件， 則稱： X(t),t 0是 具 有 參 數(shù) 的 泊 松 過 程 。 X(0) 0 ； 獨(dú) 立 、 平 穩(wěn) 增 量 過 程 ； P X (t h) X (t) 1h o(h)P X (t h) X (t) 2 o(h) 第三個(gè)條件說(shuō)明，在充分小的時(shí)間間隔內(nèi)，最多有一個(gè)事件發(fā)生，而不可能有兩個(gè)或兩個(gè)以上事件同 時(shí)發(fā)生，也稱為單跳性。二基本性質(zhì)，數(shù)字特征 mX (t) EX (t)t DX(t) RX (s,t)s( t 1) s tt ( s 1) s tBX(s,t) RX (s,t) mX(s)mX(t)min( s,t) 推導(dǎo)過程要非常熟悉， Tn 表示第 n

14、 1 事件發(fā)生到第n 次事件發(fā)生的時(shí)間間隔，Tn, n 1 是時(shí)間序列，隨機(jī)變量 Tn服從參數(shù)為 的指數(shù)分布。概率密度為 f (t )e t ,t0 ，分布函數(shù)0, tFTn(t)1 e t ,t0均值0, t 0為 ET n 1證明過程也要很熟悉非齊次泊松過程到達(dá)時(shí)間的分布 到達(dá)強(qiáng)度是 t 的函數(shù) X (0) 0 ；獨(dú)立增量過程；X (th)X(t)(t)ho(h)。不具有平穩(wěn)增量性。t均值函數(shù) mX(t) EX (t)(s)dsX (th)X(t)o(h)定理： X (t),t 0 是具有均值為mX (t )(s)ds 的非齊次泊松過程，則有P X (t s) X ( t) nmX (t

15、s) mX(t)n exp n! expmX (t s) mX (t)設(shè) N (t), t 0 是強(qiáng)度為 的泊松過程，四復(fù)合泊松過程Yk, k 1,2,L 是一列獨(dú)立同分布的隨機(jī)變量，且與N (t )N (t), t 0 獨(dú)立，令 X (t)Yk 則稱 X (t),t 0 為復(fù)合泊松過程。k1重要結(jié)論：X(t),t 0 是 獨(dú) 立 增 量 過 程 ； 若 E(Y12)， 則 EX(t) tE (Y1) ，2DX(t)tE (Y12)過程在時(shí)刻 t t0 所處狀態(tài)的條件分布與過程在時(shí)刻 在有關(guān)，而與過t0 之前所處的狀態(tài)無(wú)關(guān)。也就是說(shuō)，將來(lái)只與現(xiàn)去無(wú)關(guān)。表示為P X(tn) xn X(t1) x

16、1, ,X(tn1) xn 1P X(tn) xn X (tn 1) xn 1馬爾可夫鏈的概念及轉(zhuǎn)移概率1定義：設(shè)隨機(jī)過程X n , n T ，對(duì)任意的整數(shù)n T 和任意的 i0, i1,L , in 1I ，條件概率滿足P Xn 1 in 1 X0 i0,X1 i1,L , Xn inin 1 Xn in ，則稱 Xn ,n T 為馬爾可夫鏈。馬爾可夫鏈的統(tǒng)計(jì)特性完全由條件概率P X n 1 in 1 X n in 所決定。2轉(zhuǎn)移概率P X n 1j X n i 相當(dāng)于隨機(jī)游動(dòng)的質(zhì)點(diǎn)在時(shí)刻n 處于狀態(tài) i 的條件下，下一步轉(zhuǎn)第五章 馬爾可夫鏈泊松過程 是時(shí)間連續(xù)狀態(tài)離散的馬氏過程， 維納過程

17、 是時(shí)間狀態(tài)都連續(xù)的馬氏過程。 時(shí)間和狀態(tài)都離散的馬爾可夫過程稱為馬爾可夫鏈。馬爾可夫過程的特性：馬爾可夫性或無(wú)后效性。即：在過程時(shí)刻t 0所處的狀態(tài)為已知的條件下，移到 j 的概率。記為 pij(n)。則 pij (n) P Xn 1 j Xn i 稱為馬爾可夫鏈在時(shí)刻 n的一步轉(zhuǎn)移概 率。若齊次馬爾可夫鏈，則 pij (n)與n無(wú)關(guān)，記為 pij 。P pij i, j I I 1,2,L 稱為系統(tǒng)的一步轉(zhuǎn)移矩陣。性質(zhì)：每個(gè)元素pij 0 ，每行的和為 1 。3 n步轉(zhuǎn)移概率 pij(n)=P Xmn j Xm i；P(n) pij(n)i,j I I 1,2,L 稱為 n步轉(zhuǎn)移矩陣。重要

18、性質(zhì)： pij(n)pik (l ) pkj (n l) 稱為 C K方程，證明中用到條件概率的乘法公式、馬爾可夫kI性、齊次性。掌握證明方法：pij(n)P Xm nj Xm i P Xm i,Xm n jm P Xm iP Xm i,Xm l k,Xm n jP X m iP X m i, Xm l k, X m n j T P Xm i,Xm l kPXP X mpk(jn l)(m l) pi(kl )(m)pi(kl)k I k I(n l ) pkj P(n) Pn 說(shuō)明 n 步轉(zhuǎn)移概率矩陣是一步轉(zhuǎn)移概率矩陣的 n次乘方。4 Xn ,n T 是馬爾可夫鏈，稱 pj P X0 j 為

19、初始概率，即0 時(shí)刻狀態(tài)為 j 的概率；稱pj(n) P Xn j 為絕對(duì)概率，即 n 時(shí)刻狀態(tài)為 j 的概率。 PT(0)p1, p2,L 為初始概率向量，PT(n)p1(n), p2( n),L 為絕對(duì)概率向量。定理： pj(n)pipi(jn) 矩陣形式： PT (n) PT(0)P(n) pj(n)pi (n 1)piji I i I定理： P X1 i1, X2 i2,L , Xn inpipii L pi i 說(shuō)明馬氏鏈的有限維分布完全由它的初1 n 1 niI始概率和一步轉(zhuǎn)移概率所決定。 二馬爾可夫鏈的狀態(tài)分類d GC D n : pi(in) 0 。若1周期：自某狀態(tài)出發(fā)，再返

20、回某狀態(tài)的所有可能步數(shù)最大公約數(shù)，即 d 1 ，則稱該狀態(tài)是周期的；若 d 1，則稱該狀態(tài)是非周期的。 2首中概率： fij(n)表示由 i出發(fā)經(jīng) n步首次到達(dá) j 的概率。3 fijfij(n)表示由 i出發(fā)經(jīng)終于(遲早要)到達(dá) j 的概率。n14如果 fii 1，則狀態(tài) i是常返態(tài)；如果 fii 1，狀態(tài) i 是非常返(滑過)態(tài)。5 infii(n) 表示由 i出發(fā)再返回到 i的平均返回時(shí)間。 若 i ，則稱i是正常返態(tài)； 若n1則稱 i 是零常返態(tài)。非周期的正常返態(tài)是遍歷狀態(tài)。；狀態(tài) i 是非常返充要條件是 p(n) n016狀態(tài) i 是常返充要條件是pi(i n)n07稱狀態(tài) i與 j

21、 互通， ij,即ij且j i 。如果 i j ，則他們同為常返態(tài)或非常返態(tài)， ；若i，j 同為常返態(tài)，則他們同為正常返態(tài)或零常返態(tài)，且 i ， j 有相同的周期。( n) 18狀態(tài) i 是遍歷狀態(tài)的充要條件是 lim pi(in)0 。一個(gè)不可約的、非周期的、有限狀態(tài)的馬爾可ni夫鏈?zhǔn)潜闅v的。9要求：熟悉定義定理，能由一步轉(zhuǎn)移概率矩陣畫出狀態(tài)轉(zhuǎn)移圖，從而識(shí)別各狀態(tài)。三狀態(tài)空間的分解1設(shè) C是狀態(tài)空間 I 的一個(gè)閉集，如果對(duì)任意的狀態(tài) i C，狀態(tài) j C ，都有 pij 0(即從 i 出發(fā) 經(jīng)一步轉(zhuǎn)移不能到達(dá) j )，則稱 C為閉集。如果 C的狀態(tài)互通，則稱 C 是不可約的。如果狀態(tài)空間不可

22、約，則馬爾可夫鏈Xn,n T 不可約?；蛘哒f(shuō)除了 C 之外沒有其他閉集，則稱馬爾可夫鏈Xn ,n T 不可約。2 C 為閉集的充要條件是：對(duì)任意的狀態(tài)i C ，狀態(tài) j C ，都有 pi(jn) 0 。所以閉集的意思是自C 的內(nèi)部不能到達(dá) C 的外部。意味著一旦質(zhì)點(diǎn)進(jìn)入閉集 C 中，它將永遠(yuǎn)留在 C 中運(yùn)動(dòng)。如果 pii 1 ，則狀態(tài) i 為吸收的。等價(jià)于單點(diǎn) i 為閉集。 3馬爾可夫鏈的分解定理：任一馬爾可夫鏈的狀態(tài)空間I ，必可唯一地分解成有限個(gè)互不相交的子集 D,C1,C2,L Cn L 的和，每一個(gè) Cn 都是常返態(tài)組成的不可約閉集； Cn中的狀態(tài)同類，或全是正常返態(tài)，或全是零常返態(tài)，

23、有相同的周期，且fij 1。 D 是由全體非常返態(tài)組成。分解定理說(shuō)明：狀態(tài)空間的狀態(tài)可按常返與非常返分為兩類，非常返態(tài)組成集合 D ，常返態(tài)組成一個(gè)閉集 C 。 閉集 C 又可按互通關(guān)系分為若干個(gè)互不相交的基本常返閉集C1,C2 ,L Cn L 。 含義：一個(gè)馬爾可夫鏈如果從 D中某個(gè)非常返態(tài)出發(fā)，它或者一直停留在 D 中，或某一時(shí)刻進(jìn)入某個(gè)基本常返閉集 Cn，一旦進(jìn)入就永不離開。一個(gè)馬爾可夫鏈如果從某一常返態(tài)出發(fā)，必屬于某個(gè)基本常返閉集Cn ， 永遠(yuǎn)在該閉集 Cn 中運(yùn)動(dòng)。4有限馬爾可夫鏈：一個(gè)馬爾可夫鏈的狀態(tài)空間是一個(gè)有限集合。性質(zhì)：所有非常返態(tài)組成的集合不是閉集；沒有零常返態(tài)；必有正常返

24、態(tài)；狀態(tài)空間I D C1 C2 L Cn， D是非常返集合， C1,C2,L Cn是正常返集合。不可約有限馬爾可夫鏈只有正常返態(tài)。四 pi(jn) 的漸近性質(zhì)與平穩(wěn)分布 1為什么要研究轉(zhuǎn)移概率 pi(jn) 的遍歷性？研究 pij(n)當(dāng) n時(shí)的極限性質(zhì)，即 P Xn j X0 i 的極限分布，包含兩個(gè)問題：一是 lim pi(jn)n 是否存在；二是如果存在，是否與初始狀態(tài)有關(guān)。這一類問題稱作遍歷性定理。如果對(duì) i, j I ，存在不依賴于 i 的極限 lim pi(jn) pj 0 ，則稱馬爾可夫鏈具有遍歷性 。 一個(gè) n不可約的馬爾可夫鏈，如果它的狀態(tài)是非周期的正常返態(tài)，則它就是一個(gè)遍歷

25、鏈。 具有遍歷性的馬 爾可夫鏈，無(wú)論系統(tǒng)從哪個(gè)狀態(tài)出發(fā)，當(dāng)轉(zhuǎn)移步數(shù) n 充分大時(shí)，轉(zhuǎn)移到狀態(tài) j 的概率都近似等于 pj ， 這時(shí)可以用 pj 作為 pi(jn) 的近似值。2研究平穩(wěn)分布有什么意義？ 判別一個(gè)不可約的、非周期的、常返態(tài)的馬爾可夫鏈?zhǔn)欠駷楸闅v的，可以通過討論lim pi(jn) 來(lái)解決，n ij但求極限時(shí)困難的。所以，我們通過研究平穩(wěn)分布是否存在來(lái)判別齊次馬爾可夫鏈?zhǔn)欠駷楸闅v鏈。一 個(gè)不可約非周期常返態(tài)的馬爾可夫鏈?zhǔn)潜闅v的充要條件是存在平穩(wěn)分布，且平穩(wěn)分布即極限分布lnim pi(j n) = 1 , j I 。 j3 Xn,n 0 是齊次馬爾可夫鏈，狀態(tài)空間為 I ，一步轉(zhuǎn)移

26、概率為 pij ，概率分布j,j I 稱為ji pij馬爾可夫鏈的平穩(wěn)分布，滿足 i Ij1jI4定理：不可約非周期馬爾可夫鏈?zhǔn)钦７档某湟獥l件是存在平穩(wěn)分布，且此平穩(wěn)分布就是極限分1布 ,j I 。 推論：有限狀態(tài)的不可約非周期馬爾可夫鏈必存在平穩(wěn)分布 。j5在工程技術(shù)中，當(dāng)馬爾可夫鏈極限分布存在，它的遍歷性表示一個(gè)系統(tǒng)經(jīng)過相當(dāng)長(zhǎng)時(shí)間后達(dá)到平衡狀態(tài)，此時(shí)系統(tǒng)各狀態(tài)的概率分布不隨時(shí)間而變，也不依賴于初始狀態(tài)。6對(duì)有限馬爾可夫鏈，如果存在正整數(shù)k，使 pi(jk ) 0，即 k 步轉(zhuǎn)移矩陣中沒有零元素，則該鏈?zhǔn)潜闅v的 。第六章 平穩(wěn)隨機(jī)過程一定義(第一章)嚴(yán)平穩(wěn)過程：有限維分布函數(shù)沿時(shí)間軸平移時(shí)

27、不發(fā)生變化。2寬平穩(wěn)過程：滿足三個(gè)條件：二階矩過程E X(t)2；均值為常數(shù) EX (t) 常數(shù)；相關(guān)函數(shù)只 與時(shí)間差有關(guān)，即 RX (t,t ) E X (t)X(t ) RX ( )。 寬平穩(wěn)過程不一定是嚴(yán)平穩(wěn)過程，而嚴(yán)平穩(wěn)過程一定是寬平穩(wěn)過程。 二聯(lián)合平穩(wěn)過程及相關(guān)函數(shù)的性質(zhì)1定義：設(shè) X(t),t T 和 X(t),t T 是兩個(gè)平穩(wěn)過程， 若它們的 互相關(guān)函數(shù) E X (t)Y(t ) 及 E Y(t)X(t ) 僅與時(shí)間差 有關(guān)，而與起點(diǎn) t無(wú)關(guān)，則稱 X(t) 和Y(t) 是聯(lián)合平穩(wěn)隨機(jī)過程。即， RXY(t,t ) E X (t)Y(t ) RXY( ) RYX(t,t ) E

28、 Y(t)X(t ) RYX( ) 當(dāng)然， 當(dāng)兩個(gè)平穩(wěn)過程聯(lián)合平穩(wěn)時(shí)，其和也是平穩(wěn)過程 。相關(guān)函數(shù)的性質(zhì)：RX(0) 0； RX ( ) RX( ) ，對(duì)于實(shí)平穩(wěn)過程， RX( ) 是偶函數(shù)。RX ( ) RX (0) 非負(fù)定。若 X (t)是周期的，則相關(guān)函數(shù) RX( ) 也是周期的，且周期相同。如果 X(t) 是不含周期分量的非周期過程，X(t)與 X(t) 相互獨(dú)立，則l|im|RX ( )mX mX 。聯(lián)合平穩(wěn)過程 X(t)和 Y(t)的互相關(guān)函數(shù)， RXY( ) RX (0)RY (0) ， RYX( ) RX (0)RY (0) ； RXY( ) RYX( )。 X(t)和Y(t)

29、是實(shí)聯(lián)合平穩(wěn)過程時(shí)，則， RXY( ) RYX( )。三隨機(jī)分析 略四平穩(wěn)過程的各態(tài)歷經(jīng)性時(shí)間均值 X (t) l.i. m 1 T X (t)dt時(shí)間相關(guān)函數(shù) X (t)X (t ) l.i. m 1X (t)X (t )dt如果 X(t) EX(t) mX(t) 以概率成立，則稱均方連續(xù)的平穩(wěn)過程的均值有各態(tài)歷經(jīng)性。如果 X(t)X(t ) EX(t)X(t ) RX( ) 以概率成立，則稱均方連續(xù)的平穩(wěn)過程的相 關(guān)函數(shù)有各態(tài)歷經(jīng)性。如果均方連續(xù)的平穩(wěn)過程的均值和相關(guān)函數(shù)都有各態(tài)歷經(jīng)性， 則稱該平穩(wěn)過程是各態(tài)歷經(jīng)的或遍歷的。一方面表明各態(tài)歷經(jīng)過程各樣本函數(shù)的時(shí)間平均實(shí)際上可以認(rèn)為是相同的；

30、 另一方面也表明 E X(t) 與EX(t)X(t ) 必定與 t無(wú)關(guān)，即各態(tài)歷經(jīng)過程必是平穩(wěn)過程。討論平穩(wěn)過程的歷經(jīng)性，就是討論能否在較寬松的條件下，用一個(gè)樣本函數(shù)去近似計(jì)算平穩(wěn)過程只在一定條件下的平穩(wěn)過程，才的均值、協(xié)方差函數(shù)等數(shù)字特征，即用時(shí)間平均代替統(tǒng)計(jì)平均。 具有各態(tài)歷經(jīng)性。均值各態(tài)歷經(jīng)性定理：均方連續(xù)的平穩(wěn)過程的均值具有各態(tài)歷經(jīng)的充要條件是1 2T 2Tlim 2T 2T(1 2T )( RX ( ) mX 2)d 0相關(guān)函數(shù)各態(tài)歷經(jīng)性定理：均方連續(xù)的平穩(wěn)過程的相關(guān)函數(shù)具有各態(tài)歷經(jīng)的充要條件是1 2T 1 2Tlim 2T 2T(1 2T1 )B( 1) RX( )2d 0 B(

31、1) EX(t)X(t )X(t 1)X(t1)第七章 平穩(wěn)過程的譜分析一平穩(wěn)過程的譜密度推導(dǎo)過程：隨機(jī)過程 X (t),t為均方連續(xù)過程，作截尾處理XT(t)X(t),t0, tT ，由于XT (t)均方可積，所以存在 FT，得 F ( ,T) 得XT2(t)dt TT X2(t)dt 21XT(t)e j tdt X(t)e j tdt ，利用 paserval定理及 IFT 定義2F ( ,T ) d 該式兩邊都是隨機(jī)變量，取平均值，這時(shí)不僅要對(duì)時(shí)間區(qū)間 T , T 取，還要取概率意義下的統(tǒng)計(jì)平均，即1 T 2 1 1 2 lTimE 21T TX (t) dt lTim 21 E 21

32、T F( ,T) d12lTim 21T E F( ,T)2 d定義lTimE2TX2(t)dt 為X(t),平均功率。sX (1lTim 2T可以推出當(dāng)X(t),T)為 X (t),是均方連續(xù)平穩(wěn)過程功率譜密度，簡(jiǎn)稱譜密度。時(shí)，有l(wèi)Tim1E2TX2(t)1T dt lTim 21T T E22X2(t)E X2(t) RX (0)sX ( )d說(shuō)明平穩(wěn)過程的平均功率等于過程的均方值，或等于譜密度在頻域上的積分。平穩(wěn)過程的譜密度和相關(guān)函數(shù)構(gòu)成FT 對(duì)。RX (n) 21sX ()e j ndsX ( )RX(n)e j n2n二譜密度的性質(zhì) sX () 是 RX ()的 FT。sX( )RX

33、( )e j d如果 X (t),t是均方連續(xù)的實(shí)平穩(wěn)過程，有 RX ( )RX( )，sX( ) 是也實(shí)的非負(fù)偶函數(shù)，則sX( ) 2 0RX ( )cos( )d1RX ( )sX ( )cos()dRX ( )sX ( )ej dsX ( )RX ( )e j d若平穩(wěn)隨機(jī)序列Xn ,n 0, 1, 2,L ，則其譜密度和相關(guān)函數(shù)構(gòu)成FT 對(duì)譜密度的物理含義，sX( ) 是一個(gè)頻率函數(shù)，從頻率域來(lái)描繪 X(t) 統(tǒng)計(jì)規(guī)律的數(shù)字特征，而 X (t)是各種頻率簡(jiǎn)諧波的疊加， sX( ) 就反映了各種頻率成分所具有的能量大小。 計(jì)算可以按照定義計(jì)算，也可以利用常用的變換對(duì)( t) 1 1cos

34、( 0 ) ( 0) (0)RX( ) ej 0sX (0) RX ( T)三窄帶過程及白噪聲過程的功率譜密度窄帶隨機(jī)過程：隨機(jī)過程的譜密度限制在很窄的一段頻率范圍內(nèi)。白噪聲過程：設(shè) X(t ), t 為實(shí)值平穩(wěn)過程，若它的均值為零，且譜密度在所有的頻率()2a22asin( 0 )sX ( )ej T(0)0)sin 01,0,0等 sX( ) 是 的有理分式，分母無(wú)實(shí)根。范圍內(nèi)為非零的常數(shù)，即 sX ( ) N0，則稱 X(t), t 為白噪聲過程。 是平穩(wěn)過程。其相關(guān)函數(shù)為 RX( ) N0 ( ) 。表明在任意兩個(gè)時(shí)刻 t1和t2 ， X (t1)和X (t2 )不相關(guān)，即白噪聲隨時(shí)

35、間的變換起伏極快，而過程的功率譜極寬，對(duì)不同輸入頻率的信號(hào)都有可能產(chǎn)生干擾。 四聯(lián)合平穩(wěn)過程的互譜密度 互譜密度沒有明確的物理意義，引入它主要是為了能在頻率域上描述兩個(gè)平穩(wěn)過程的相關(guān)性。 互譜密度與互相關(guān)函數(shù)成對(duì)關(guān)系RXY ( )RYX ( )性質(zhì)1212sXY ( )ej dsYX ( )e dsXY ( )RXY( )e j dsYX( )RYX ( )e j d的奇函數(shù)， sYX ( ) 也是。sXY( ) sXY ( ) sXY( )的實(shí)部是 的偶函數(shù)，虛部是2sXY( )2sX()sY()； 若X(t)和Y(t)相互正交，有RXY()0 ，則sXY()sYX() 0五平穩(wěn)過程通過線性

36、系統(tǒng)系統(tǒng)的頻率響應(yīng)函數(shù) H( ) (也可以寫成 H( j ) )一般是一個(gè)復(fù)值函數(shù)，是系統(tǒng)單位脈沖響應(yīng) 的 FT 。H ( )h(t)e j tdth(t) 1 H ( )ej td系統(tǒng)輸入 X(t) 為實(shí)平穩(wěn)隨機(jī)過程， 則輸出 Y(t )也是實(shí)平穩(wěn)隨機(jī)過程。 即輸出過程的均值為常數(shù)，RX ( ) h( ) h( )相關(guān)函數(shù)是時(shí)間差的函數(shù)。且有 RY( ) RXY ( ) h( )說(shuō)明輸出過程的相關(guān)函數(shù)可以通過兩次卷積產(chǎn)生。RXY ( )RX ( )h()的應(yīng)用：給系統(tǒng)一個(gè)白噪聲過程X(t) ，可以從實(shí)測(cè)的互相關(guān)資料估計(jì)線脈沖響應(yīng)。 因 為RX( ) N0 ( ) ，RXY ( ) RX ()

37、 h(N0u)h(u)du N 0h( ) ，從而h( )RXY ( )N0輸入輸出譜密度之間的關(guān)系sY( ) H( )2 sX( )2) 2 sX ( )RY ( )另外 RXY ( ) RX ( ) h( ) ，所以 sXY (H( )sX ( ) ，sYX( ) H( )sX ( )2H( )2 H( )H ( )稱為系統(tǒng)的頻率增益因子或頻率傳輸函數(shù)。有時(shí)，采用時(shí)域卷積的方法計(jì)算輸出的相關(guān)函數(shù)比較煩瑣，可以先計(jì)算輸出過程的譜密度，然后反 FT 計(jì)算出相關(guān)函數(shù)。 RX ( ) sY ( ) H (平均服務(wù)時(shí)間 =服務(wù)時(shí)間總和 / 顧客總數(shù) 平均服務(wù)率 =顧客總數(shù) /服務(wù)時(shí)間總和T 必服從負(fù)指數(shù)分布。對(duì)于泊松分布，補(bǔ)充：排隊(duì)輪平均間隔時(shí)間 =總時(shí)間 /到達(dá)顧客總數(shù) 平均到達(dá)率 =到達(dá)顧客總數(shù) /總時(shí)間 一當(dāng)顧客到達(dá)符合泊松過程時(shí)，顧客相繼到達(dá)的間隔時(shí)間1表示單位時(shí)間平均到達(dá)的顧客數(shù)，所以 表示顧