應用統(tǒng)計學與隨機過程(第3章--隨機過程的線性變換2016)

1、主講教師：何松華 教授聯(lián)系電話：(0731）82687718子信箱：應用統(tǒng)計學與隨機過程應用統(tǒng)計學與隨機過程( (通信專業(yè)通信專業(yè)) )Applied Statistics and Random ProcessApplied Statistics and Random Process湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換3. 隨機過程的線性變換(6學時)3.1線性變換的基本概念與定理線性變換的基本概念與定理3.2隨機過程的微分與積分隨機過程的微分與積分3.3隨機微分方程隨機微分方程3.4連續(xù)時間隨機過程通過連續(xù)線性系統(tǒng)連續(xù)時間隨機過程通過連續(xù)線性系

2、統(tǒng)3.5離散時間隨機過程通過離散線性系統(tǒng)離散時間隨機過程通過離散線性系統(tǒng)線性變換的基本概念與定理線性變換的基本概念與定理3.11.1.問題的提出問題的提出 (1)在信號與系統(tǒng)課程中學習了確定信號通過線性系統(tǒng)后的特性(確定性規(guī)律)； (2)在本課程的本章中，將學習隨機信號(隨機過程)通過線性系統(tǒng)后的特性(統(tǒng)計特性)； (3)系統(tǒng)分析方法包括時域分析方法以及頻域分析方法，將分別從時域及頻域兩個角度分析隨機過程的線性變換特性； (4)系統(tǒng)包括離散時間系統(tǒng)及連續(xù)時間系統(tǒng)，將分別學習連續(xù)/離散時間隨機過程的連續(xù)離散變換特性 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換2.2.函數(shù)函數(shù)( (

3、信號信號) )的線性變換的基本概念的線性變換的基本概念湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換設X(t)為隨機過程，L為信號的一種變換(或運算)；對X(t)的任意樣本函數(shù)x(t)，得到變換結果Lx(t);顯然，對于不同的觀測試驗，X(t)的樣本函數(shù)是不同的、隨機的，則得到的變換結果也是不同的、隨機的；以X(t)的樣本函數(shù)的L變換作為樣本函數(shù)的隨機過程Y(t)定義為隨機過程X(t)的L變換，記為( ) ( )Y tL X t設x1(t),x2(t)為隨機過程X1(t),X2(t)的任意樣本函數(shù)X1(t),X2(t)可以是同一隨機過程，如果對于任意的系數(shù)A1,A2(可以是隨機變量

4、),滿足1 1221122( )( ) ( )( )L Ax tA x tAL x tA L x t( ) ( )y tL x t湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換則稱L為隨機信號的線性變換，記為( ) ( )y tL x t更進一步，如果對于X(t)的任意樣本函數(shù)x(t)，令11221122( )( )( )( )L AX tA X tAL X tA L X t如果對任意的，滿足：() ()y tL x t則稱L為隨機信號的線性時不變變換，記為() ()Y tL X t常見的變換：函數(shù)的微分、函數(shù)的無窮積分、函數(shù)的差分都滿足上述特性3.3.線性變換的基本定理線性變換的

5、基本定理湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換定理1：如果 ( ) ( ) ( )E Y tE L X tL E X t證：設x1(t),x2(t),xn(t)為X(t)的任意樣本函數(shù)，記yi(t)=Lxi(t),則yi(t)為Y(t)的樣本函數(shù);根據(jù)線性變換的定義得到121212lim ( )( ) .( )/ lim ( )( ) .( )/lim( )( ) .( )/nnnnnnL x tx tx tnL x tL x tL x tny ty ty tn( ) ( )Y tL X tL為線性變換，則 ( ) ( ) ( )L E X tE Y tE L X t根據(jù)線

6、性變換的定義數(shù)學期望的物理含義大數(shù)定理不一定要時不變數(shù)學期望與線性變換可交換順序湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換定理2：如果2121212( ,)( ) ( )( ,)XYtXRt tE X t Y tLRt t式中，( ) ( )Y tL X t證：根據(jù)線性變換定義，對于任意的隨機系數(shù)X(t1),有L為線性變換，則11212121212( ,) ( ) ( )( ,)( ,)YtXYttXRt tE Y t Y tLRt tL LRt t21,ttLL分辨表示對以t2,t1為自變量的函數(shù)進行變換111( ) ( )( ) ( )( )( )X t Y tX t L

7、X tL X t X t111( ) ( ) ( )( ) ( )( )E X t Y tE L X t X tL E X t X t定理111( , )( , )XYXRt tL Rt t令t=t2,并記得到先以t為變量進行變換，再取t=t222112( , )( ,)XtXt tL Rt tLRt t怎么記?湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換21212( ,)( ,)XYtXRt tLRt t同理，對于任意的隨機系數(shù)Y(t2),有222( ) ( )( ) ( ) ( )( )Y t Y tY tL X tL Y tX t222 ( ) ( ) ( )( ) ( )

8、( )E Y t Y tE L Y tX tL E Y tX t2222( ,)( ,)( ,)YXYtXRt tL Rt tL LRt t乘法交換律22 ( ) ( ) ( ) ( )E Y t Y tL E X t Y t令t=t1,并記得到112121212( ,)( ,)( ,)YtXYttXR t tL Rt tL LRt t11212( ,)( ,)XYtXYt tL Rt tLRt t2121212( ,)( ,)tXttXt tL LRt tL LRtt定理1湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換練習：注意區(qū)別并推導22112121212( ,) ( ) (

9、 )( ,)( ,)YtYXttXRt tE Y t Y tLRt tL LRt t11121221212112( ,) ( )( )( ) ( )( , )( , )( ,)YXXYtXtXRt tE Y t X tE X t Y tRt tL Rt tL Rt t1221121212( ,)( ,)( ,)YttXttXRt tL LRt tL LRt t與定理2區(qū)分：2121212( ,)( ) ( )( ,)XYtXRt tE X t Y tLRt t同理可以推導得到(練習)：怎么記?211( ) ( )( ) ( ) ( )( )Y t Y tY t L X tL Y t X t4.

10、4.線性時不變系統(tǒng)的平穩(wěn)性線性時不變系統(tǒng)的平穩(wěn)性湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換證:如果L是線性時不變變換，X(t)是廣義平穩(wěn)隨機過程，EX(t)為常數(shù)，則EY(t)=LEX(t)也為常數(shù)；對任意的時間平移量t，令121212121212121212(,) () ()( )( )( ,)( ,)( ,)( ,)YWttZttXYRtt ttE Y tt Y ttE W t W tRt tL LRt tL LRt tRt t ( )()Z tX tt ( ) ( )()()W tL Z tL X ttY tt (1)定理:若L為線性時不變變換，X(t)是廣義平穩(wěn)的， 則

11、Y(t)=LX(t)也是廣義平穩(wěn)的則1212121212( ,) ( ) ( )()()( )( )( ,)ZXRt tE Z t Z tE X tt X ttE X t X tRt t X(t)平穩(wěn)時不變湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(2)(擴展,自學)如果L是線性時不變變換，X(t)是嚴格平穩(wěn)隨機過程，則Y(t)=LX(t)也是嚴格平穩(wěn)的1111212121121212121212 ( ) ( ). ( ) ( ) ( ) ( ). ( )( ) ( ). ( ) ( ) ( ). ( ) ( ) ( ). ( ) ( )( ). ( ). ( )( ). (n

12、nntntntnttntttE Y t Y tY tE L X tY t Y tY tE L X t Y tY tL E X t Y tY tL E X t L X tY tL LE X t X tY tL LLE X t X tX t)n證明提要(練習)：對于線性變換L，容易得到根據(jù)線性變換的定義根據(jù)線性變換定理1如果L是時不變的，定義( )()Z tY tt ( )()W tX tt 1221( ,)(0,)YYR t tRtt令1tt 相關函數(shù)只與時刻差有關湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換121212121212 () (). (). ()().(). ( )(

13、 ).( ) ( ) ( ). ( )nnntttntttnnE Y tt Y ttY ttL LLE X tt X ttX ttL LLE X t X tX tE Y t Y tY t 進一步可得到：隨機過程Y(t)的任意維、任意階聯(lián)合矩與時間起點無關，由于其多維特征函數(shù)可以表示為以矩為系數(shù)的泰勒展開，則其任意維的特征函數(shù)與時間起點無關，任意維的概率密度函數(shù)特征函數(shù)的多維傅立葉變換也與時間起點無關。n維的1+1+1階矩則根據(jù)時不變定義,有( )( )Z tL W t根據(jù)上述已證明的性質,有121212 ( ) ( ). ( ). ( )( ).( )nntttnE Z t Z tZ tL L

14、LE W t W tW t根據(jù)X(t)的嚴格平穩(wěn)性湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換121212111122112221212121111222221212121212111222,.,( )( ).( ). ( )().() ()().().()().()nttttnttmnnmmmnmmnmmnnnmmmntttnnntttt tttttttE Yt YtYtL LLL LLL LLE X tX tX tX tX tX tX tX tX tnmnt根據(jù)1212( )( ) ( ). ()imiiiiimimiiiittttYtY t Y tY t參照前面的證明過程容

15、易得到12121212()().()( )( ).( )nnmmmnmmmnE Ytt YttYttE Yt YtYt參照前面的證明過程容易得到(練習)湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換附錄: 線性時不變變換舉例，卷積變換( )( )( ) ()( )( )tY tL X tXh tdX th t信號通過線性時不變因果系統(tǒng)，輸入從-時刻開始(1)線性性質111( )( )( )( )y tL x tx th t222( )( )( )( )ytL x tx th t12121212( )( )( )( )( )( )( )( )( )( )( )L ax tbx tax

16、 tbx th ta x th tb x th tay tby t(2)時不變性質00000()( ) ()() () ()t tty t txh t tdxt h tdL x t t X(t)平穩(wěn)，則Y(t)平穩(wěn)積分變量置換：-t0卷積的性質變換的描述?變換的描述?湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換附錄: 線性時變變換舉例0( )( ) ()( )tY tXh tdL X t信號通過線性時不變因果系統(tǒng)，輸入從0時刻開始(1)滿足線性性質1110( ) ( )( ) ()ty tL x txhtd 2220( ) ( )( ) ()ty tL x txh td 1212

17、120( )( )( )( ) ()( )( )tL ax tbx taxbxh tday tby t(2)不滿足時不變性質000000000()( ) ()() ()() () ()ttttty ttxh ttdxth tdxth tdL x ttX(t)平穩(wěn)，則Y(t)非平穩(wěn)，但漸近平穩(wěn)(見3.4)變換的描述?隨機過程的微分與積分隨機過程的微分與積分3.21.1.問題的提出問題的提出 (1)微分與積分運算是線性變換中的基本運算； (2)對于確定信號的微分與積分運算，已有很多的方法，這些方法不一定全部適用于隨機信號的微分與積分； (3)隨機信號的微分與積分特性需要按照隨機過程的特殊性進行重新

18、的定義與推導； (4)在微積分的定義中，牽涉到連續(xù)性(可微)以及t0的極限問題，在定義隨機信號的微積分之前，必須先定義隨機過程的極限及連續(xù)性。 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換2.2.隨機過程的極限隨機過程的極限湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(1)離散時間隨機變量的極限 設X1,X2,Xn為隨機變量序列，X為隨機變量，都存在二階矩(不是無窮大)，如果2lim() 0nnEXX則稱隨機變量序列Xn依均方收斂于隨機變量X，X為該序列的均方極限。記做 l.i.m. nnXX根據(jù)概率論中的切比雪夫不等式：對于任意小的正數(shù)，滿足湖南大學教學課件：應用

19、統(tǒng)計學與隨機過程 隨機過程的線性變換則22() |nnEXXPXXee2lim() 0nnEXX時，必有l(wèi)im|0nnPXX概率即依均方收斂必然依概率收斂(反之不然)；因此隨機過程關于收斂的定義一般采用依均方收斂。(2)連續(xù)時間隨機信號(過程)的極限 設X(t)為隨機過程，Y為某個隨機變量，如果02lim( ) 0ttEX tY則稱Y為X(t)在t0時刻的極限，記做0l.i.m. ( )ttX tY對比確定性信號情況,為什么這么定義?3.3.隨機過程的連續(xù)性隨機過程的連續(xù)性湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(1)隨機過程連續(xù)性的定義 設X(t)為隨機過程，如果20lim

20、()( ) 0tEX ttX t 則稱該隨機過程在t時刻依均方連續(xù)。記 (2)性質：如果RX(t1,t2)在二維平面的t1=t2=t處連續(xù)，則隨機過程X(t)在t處連續(xù)。證：2()( ) (,)2(, )( , )XXXEX ttX tRtt ttRtt tRt t 根據(jù)RX(t1,t2)連續(xù)性定義,右邊趨于0 0l.i.m. ()( )tX ttX t t1=t2=t處任意方向的極限存在,均為RX(t,t)湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(3)性質：(依均方)連續(xù)隨機過程的均值函數(shù)是連續(xù)的(普通意義上的連續(xù))證：對于任意隨機變量Z2222 ZE ZE ZE Z令()

21、( )ZX ttX t 22 ()( )()( ) E X ttX tEX ttX t 上式兩邊取極限t0,得到0lim()( )tE X ttE X t 可以寫成00lim()l.i.m.()ttE X ttEX tt 對于依均方收斂隨機過程，極限與數(shù)學期望可交換次序，但左右兩邊極限的定義不同根據(jù)X(t)依均方連續(xù)的定義，右邊的極限為0湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(4)性質：對于平穩(wěn)隨機過程X(t)，只要RX()在=0處連續(xù)(普通連續(xù))，則該隨機過程依均方意義連續(xù)。證：對于平穩(wěn)隨機過程X(t)202200lim()( ) lim ()2 ()( )( )lim2

22、(0)2()2(0)(0)0ttXXXXtEX ttX tE XttE X tt X tE XtRRtRR 根據(jù)RX()在=0處連續(xù)(5)性質(練習,根據(jù)大數(shù)定理及定義證明)：如果隨機過程的任意樣本函數(shù)都是連續(xù)的,則隨機過程依均方連續(xù);反之則不一定例如:第二章舉例中的隨機電報過程,任意樣本函數(shù)均不連續(xù),但過程平穩(wěn)且RX()在=0處連續(xù)與(2)性質的區(qū)別及聯(lián)系4.4.隨機過程的微分隨機過程的微分湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(1)隨機過程微分的定義設X(t)為隨機過程，如果存在某個隨機過程20()( )lim( ) 0tX ttX tEX tt 則稱該隨機過程X(t)

23、在t處可微,且導數(shù)為 ( )X t( )X t( )( )dX tX tdt或0()( )( ). . tX ttX tX tlimt (2)性質：平穩(wěn)隨機過程可微分的條件(證明見附錄):如果平穩(wěn)隨機過程的相關函數(shù)在=0處存在二階導數(shù) 則其導數(shù)隨機過程存在。(0)XR,記為附錄附錄( (自學自學) )湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換0()( ). . . tX ttX tl i mt 在t處連續(xù)等價。根據(jù)依均方連續(xù)的定義，要求(*) 由于導數(shù)隨機過程 未知,根據(jù)柯西判別準則,X(t)在t處可導與( )X t200()()()( ) 0tX ttX tX ttX tli

24、m Ett 由于 存在，則 均存在 (0)XR(0),(0)XXRR200()(0)(0)()()(0)1()2XXXXXXttRtRRRtRtRttlimlimtt 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換000(0)(0)()()12(0)()()(0)111(0)222XXXXtXXXXXttRtRRttRtttlimtRRtRtRlimlimRtt 偶函數(shù)則(*)式左邊 = 22000000()()()( ) 0()()()( ) 2tttX ttX tX ttX tlim Elim EttX ttX tX ttX tlim Ett 湖南大學教學課件：應用統(tǒng)計學與隨機

25、過程 隨機過程的線性變換220000200002(0) 2()2(0) 2()()()2( )()() 2()112(0) 2(0)22()()/()( )/ 22(XXXXttXXXtXXXXXXtXRRtRRtlimlimttRRtRtlimtRRRttRttRtRtlimtR 0000()( )()(0)0) 22(0)2()(0)2(0)22(0)2(0)0XXXXXttXXXXXtRtRRtRlimRlimttRtRRlimRRt 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(4)性質(證明過程自學)：非平穩(wěn)隨機過程可微分的條件(證明:略):如果非平穩(wěn)隨機過程的相關函數(shù)

26、RX(t1,t2)在在二維平面的直線t1=t2=t上存在二階偏導數(shù),則其導數(shù)隨機過程存在。1221212(,)XtttRtttt(5)性質：微分變換/Lddt為典型的線性時不變變換(根據(jù)樣本函數(shù)證明：練習)根據(jù)線性變換的基本定理1得到：( ) ( )dX tdEE X tdtdt均方收斂意義下的微分運算與求均值運算可交換次序，并在交換后轉化為普通微分運算湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換1221212121212121221( , )( , )( , )( , )( , )XtXXXXXR t tL Rt tR t tR t tR t tttt tt t 2121212

27、2( ,)( ,)( ,)XXtXXRt tLRt tRt tt(6)性質：若X(t)為平穩(wěn)隨機過程，若導數(shù)過程存在,則其必為平穩(wěn)隨機過程(根據(jù)線性時不變算子性質)，且是零均值的。( ) ( )()0XdX tddEE X tmdtdtdt常數(shù)的導數(shù)對于任意的t1,t2,令 =t1-t211212121( ,)( ,)( ,)X XtXXRt tLRt tRt tt湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換1212121211121()( , )( , )( )( )()XXXXXXXttRttRt tRt tttdRdRRttddt 1212121222( )( , )()(

28、 )|()XXXXXt tXdRdRt tR ttRRtttddt 即原過程與導數(shù)過程的互相關函數(shù)、導數(shù)過程的相關函數(shù)只與時間差有關，是廣義平穩(wěn)的，且與原過程聯(lián)合平穩(wěn)，記1212( , )()XXRt tRtt則有( )( )XXRR1212( , )()XXXXRt tRtt( )( )XXXRR湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換1212121222122()( , )( , )( )( )()XXX XXXXttRttRt tRt tttdRdRRttddt 1212121211( )( , )()( )|()XX XXXttXdRdRt tR ttRRtttddt

29、 附錄(自學):則有( )( )XXRR( )( )X XXRR( )()()( )XXX XXXRRRR偶函數(shù)的導數(shù)為奇函數(shù)湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換附錄(自學):也可跳過定理2,利用定義及定理1推導,煩瑣2121212121212222( )( , )( )( )( ) ( )( ) ( )( )( , )XXXX tRt tE X t X tE X ttX t X tE X t X tRt tEttt12121212222121212121212( )( )( ,)( )( )( )( )( )( )( ,)XXX tX tRt tE XtXtEttX t

30、X tE X tX tRt tEt tt tt t 00()( )( )()( )() . .()()()( ) . .XXttX ttX tRE X tX tE X tlimtX tX ttX tX tE limt 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換000()()()( )lim()( )()( )limlim( )tXXXXXttE X tX ttE X tX ttRtRRtRRtt 根據(jù)隨機過程極限與數(shù)學期望可交換次序特性1212121200121212012012100( )()( )()()()( ) . . .()()()( )()()()( )()(Xtt

31、ttXXttRE X tX tX ttX tX ttX tE l i ml i mttE X tt X ttX tt X tX tX ttX tX tlimttRttRtlim 121212121201220101)()( )()()()( )1()( )( )XXXXXXttXXXtRtRttRttRtRtRlimtttRtRlimRt 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(7)若X(t)為平穩(wěn)隨機過程，則其導數(shù)過程與該過程在同一時刻是互不相關的,對于正態(tài)隨機過程是相互獨立的。顯然，由于RX()為偶函數(shù)，則其導數(shù)函數(shù)為奇函數(shù)，對于可導的奇函數(shù)，在=0處的值必為0；即(

32、)( )XXXdRRd為奇函數(shù)，且可導(可微分條件)，則( )(0) ( )0XXdX tRE X tdt(8) 平穩(wěn)導數(shù)過程的功率譜密度函數(shù)根據(jù)功率譜密度的定義(相關函數(shù)的傅立葉變換)以及傅立葉變換的微分性質容易得到導數(shù)過程零均值,互協(xié)方差與互相關等價(0)XR 存在湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換( )( )jXXGRed若則( )( )( )()( )jXXXXjXXGReddRedjGd GX()為正偶函數(shù)，此也為正偶函數(shù)1( )( ) (#)2jXXRGed兩個隨機過程的互功率譜2222( )( )( )()( )( )jjXXXXXd RGRededdjG

33、G (#)兩邊對求偏導( )1()()2jXXdRjGedd 利用變換對特性222( )1()()2jXXdRjGedd 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換導數(shù)隨機過程舉例設X(t)為正態(tài)平穩(wěn)隨機過程，相關函數(shù)為2( )XRe解：(1) 記( )( )dX tX tdt22( )( )( )dX td X tX tdtdt2222( )( )2(1 2 )XXd RRed0Xm22(0)2XXXRm22 21( , )22xXfx te正態(tài)隨機過程的線性變換依然為正態(tài)隨機過程(第4章)( )0XR (1)求其一階導數(shù)過程的一維概率密度分布函數(shù)、二維聯(lián)合概率密度分布函數(shù)；

34、求其一階導數(shù)過程與二階導數(shù)過程的互相關函數(shù);求 ,( , ; , )XXfx x t t12( , ; , )XXfx x t t湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換矢量(),( )TYX tX t,零均值情況下的協(xié)方差矩陣222222 ()()( )( )() ( )(0)( )22(1 2)( )(0)2(1 2)2TXXXXE XtE X tX tCE YYE X t X tE XtRReRRe11121212211( ,;, )exp ,22|Xyfy y tty y CyC22( )( )4(32)XXXdRRed 22( )()4(23)XXXXRRe根據(jù)正態(tài)

35、隨機過程的定義(第2章)湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換221( , )2xXfx te2( )XRe( )00XXRm 22(0)1XXXRm22 21( , )22xXfx te前面已經(jīng)求出:根據(jù)性質:(0)(0)0 00XXXXXXKRm m 22241( , ; , )( , )( , )(2 ) 2xxXXXXfx x t tfx t fx te根據(jù)第2章正態(tài)過程兩個時刻不相關與相互獨立的等價性湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換矢量12 ( ),( )TWX tX t,零均值情況下的協(xié)方差矩陣21221221122212()1212(

36、)1212( ) ( )( )( ) ( ) ( )(0)()12()()(0)2()2TttXXXttXXXE X tE X t X tCE WWE X t X tE XtRRtttt eRttRtt e 1121211( , ; , )exp , 22|XXxfx x t tx x CxC 注:21212()1212( )()2()ttXXXttdRRtttt ed t1=t2=t情況正態(tài)隨機過程線性變換后與原過程聯(lián)合正態(tài)(第4章)湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換本小節(jié)作業(yè)本小節(jié)作業(yè) 3.2 3.4 3.75.5.隨機過程的定積分隨機過程的定積分湖南大學教學課件：

37、應用統(tǒng)計學與隨機過程 隨機過程的線性變換(1)隨機過程定積分的定義 設X(t)為隨機過程，a,b為時間區(qū)間,將該區(qū)間等分為n個小區(qū)間,區(qū)間寬度t=(b-a)/n,ti為第i個小區(qū)間內的任意時刻,如果存在某個隨機變量Y,滿足21lim( ) 0niniEX ttY 則稱隨機變量Y為隨機過程X(t)在區(qū)間a,b上的均方意義上的積分,記為( )baYX t dt隨機過程的導數(shù)為隨機過程,但定積分為隨機變量根據(jù)大數(shù)定理,任意樣本函數(shù)或樣本必須滿足( )bayx t dt基本定理1,2的可用性湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換附錄(自學):兩個隨機變量X、Y相等的概念物理理解：如

38、果隨機變量X取什么值，則隨機變量Y也取 該值數(shù)學定義：依均方意義相等22() ( )0EXYVar XYE XY非負非負0Var XYXYConstant2( )0 0E XYE XE YConstantXY湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(2)積分算子 ( )( )( )bbbYXaaamE YEX t dtE X t dtmt dtbadt為線性算子(練習:根據(jù)樣本函數(shù)特性證明)(3)隨機過程定積分的數(shù)學期望 根據(jù)隨機過程的線性變換定理1數(shù)學期望與積分可交換次序;交換次序后轉化為普通積分(4)隨機過程定積分的方差 基本定理2在這種情況下的應用有一定特殊性,將隨機變

39、量Y視為隨機過程 在t=b時刻的取值Y=Z(b)；根據(jù)基本定理2得到( )()taZ tXu duZ(t)=LtX(t)的描述:將以t為變量的函數(shù)轉換為以u為變量的函數(shù)在a,t上積分u可以是任意變量湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換212121121212( , )( , )( , )( , ) ( ) ( )( , )( , )tttZttXtXXaaabbZXaaR t tL L Rt tLRt u duRv u dudvE YE Z b Z bR b bRv u dudv 2222( , )( )( , )( )( )( , )( )( )( , )bbbYYXX

40、aaabbbbXXXaaaabbbbXXXXaaaaE YmRu v dudvmt dtRu v dudvmu mv dudvRu vmu mv dudvKu v dudv 將積分的平方化成可分離的二維積分也可以利用下面的定理來求解：理解這一點需要有較好數(shù)學思維根據(jù)相關函數(shù)的對稱性湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換隨機過程積分的乘積性質定理:若111( )baX t dt依均方意義收斂于Y1；222( )baXt dt依均方意義收斂于Y2；則1212121212112221( )( ), ( )( )bbbbaaaaX t dtXt dtX t Xtdt dt 證(自學

41、)：對于X1(t)的任意樣本函數(shù)x1(s)(t)以及X2(t)的任意樣本函數(shù)x2(s)(t);有11121112( )( )( )( )12112221( )( )( )( )bbbbssssaaaaxt dtxt dtxt xt dt dt 隨機過程的積分的乘積可轉化為二維積分都依均方收斂于Y1Y2,即二者相等。11121112()()()()21211222111lim( )( )()()0SbbbbssssaaaaSsxt dtxt dtxtxtdt dtS 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換22122112211221( ) ( )( )( )( )( )( )

42、( ,)bbbaaabbbbaaaabbXaaE YEX t dtEX t dtX t dtEX t X tdt dtE X t X tdt dtRt t dt dt 例題：已知廣義平穩(wěn)隨機過程X(t)的均值和相關函數(shù)分別為0.5、0.25e-2|+0.25,求隨機變量Y的均值、方差,此處1( )2TTYXt dtT12121212212112221( )( )( )( ) 0bbbbaaaaEXt dtXt dtXt Xtdt dt 1212121212112221( )( )( )( )bbbbaaaaX t dtXt dtX t Xtdt dt 湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨

43、機過程的線性變換解：根據(jù)隨機過程定積分的均值、方差特性111( )( )0.50.5222TTTTTTE YEX t dtE X tdtdtTTT1212112122|122121222()2()21212242211( )( )2411( ,)0.2544110.250.254411832TTTTTTTTttXTTTTTTTtttttTtTTTVar YVarX t dtVarX t dtTTKt tdt dtedt dtTTedtdtedtdtTTeTT 12121212122 |2 |2( ,)( ,)( )( )0.250.250.50.25XXXXttttKt tRt tmt mte

44、e練習根據(jù)定積分的方差湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換(2)隨機過程的積分變換設X(t)為隨機過程，h(t)為確定性函數(shù)，a,b為時間區(qū)間,將該區(qū)間分成n個小區(qū)間, 寬度t=(b-a)/n,ti為第i個小區(qū)間內的任意時刻,如果存在某個隨機過程Y(t),滿足21lim() ( )( ) 0niiniEX tt h ttY t 則稱隨機過程Y(t)為隨機過程X(t)在均方意義上的積分變換，記為( )() ( )baY tX thd類似于線性系統(tǒng)卷積，為隨機過程通過線性系統(tǒng)的分析作準備根據(jù)大數(shù)定理,任意樣本函數(shù)必須滿足( )() ( )bay tx thd湖南大學教學課件：

45、應用統(tǒng)計學與隨機過程 隨機過程的線性變換容易證明，上述變換為線性時不變變換，Y(t)=L X(t)可以描述為：ab(將以t為變量的函數(shù)轉化為以t-為變量的隨機函數(shù))h()d根據(jù)線性變換基本定理1或積分/數(shù)學期望次序可交換性，得到：() ( ) ( )() ( ) ( )( )bbaXaXE X thdE Y tmthdL E X tL mt121212( ,)( ,)YttXRt tL L Rt tLt1：ab(t1t1- 1為變量的函數(shù))h(1)d1Lt2：ab(t2t2-2為變量的函數(shù))h(2)d221221222( ,)()( ,)btXXaLRt thRt td可以是任意變量湖南大學教

46、學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換112212221211222112112221( ,)()( ,)()()(,)() ()(,)bYtXabbXaabbXaaRt tLhRt tdhhRttddhhRttdd 或者采用隨機過程積分的乘積性質(參見前面的證明)121212121122211211222112112221( ,)( )()() ( )() ( )() ()()()() ()()()() ()(,)YbbaabbaabbaabbXaaRttE Y tY tEX thdX thdEhhX tX tddhhE X tX tddhhRttdd 顯然,若X(t)平穩(wěn),則Y(

47、t)平穩(wěn)隨機微分方程隨機微分方程3.31.1.隨機微分方程的定義隨機微分方程的定義湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換設某一線性時不變系統(tǒng)的輸入X(t)與輸出Y(t)的關系可以用如下的微分方程表示：11101( )( )( ).( )( ) (0)nnnnnnd Y tdY tdY taaaa Y tX ttdtdtdt其中an,an-1,a1,a0為常系數(shù)初始條件:(1)(0 )(0 ).(0 )0( )0,0nYYYY tt也可以給定其他初始條件輸入從0時刻開始加入為什么不用0+時刻值作為初始條件附錄附錄. .確定性微分方程的通解確定性微分方程的通解( (復習復習:

48、:高等數(shù)學高等數(shù)學) )湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換11101( )( )( ).( )0nnnnnnd y tdy tdy taaaa y tdtdtdt對應的特征方程為1110.0nnnna zaza za設特征方程的n個根為z1,z2,zn;則通解(零輸入響應)為1212( ).nz tz tz tny tB eB eB e其中系數(shù)B1,B2,Bn由初始條件 確定。(1)(0 ), (0 ),.,(0 )nyyy沒有重根情況,有根時參見高等數(shù)學教材湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換定義線性變換算子11101.nnnnnndddLaaa

49、adtdtdt舉例：記 ( )( ),L Y tX t1( )( )Y tLX t根據(jù)L的線性性質以及初始條件限制(唯一解)容易證明：當輸入為aX1(t)+bX2(t)時,輸出為aY1(t)+bY2(t);其中 Y1(t)=L-1X1(t),Y2(t)=L-1X2(t),即L-1為線性變換;但同樣由于初始條件的限制, L-1并不滿足時不變性質,當輸入X(t)為平穩(wěn)時,Y(t)不一定平穩(wěn)，但一般漸近平穩(wěn)。( )( ) 0,(0 )0dY tX ttYdt00( )( )( )ty txdxdc對任意樣本函數(shù)L:線性時不變L-1:線性時變零輸入響應零狀態(tài)響應湖南大學教學課件：應用統(tǒng)計學與隨機過程

50、隨機過程的線性變換00( )()( )( )()tttz txdxdxdy t輸入為x(t+)時，設輸出為z(t)0(0 )( )0yxdc0( )( )ty txd顯然，當輸入為平穩(wěn)(均值為常數(shù)mX)時0 ( )( )tXE Y tE Xdtm輸出隨機過程的均值不為常數(shù)，非平穩(wěn),從側面說明L-1為時變算子( )() 0, (0)0dz tx tdttz初始條件不隨時間平移而平移0( )( )tY tXd 2.2.輸出隨機過程的均值函數(shù)輸出隨機過程的均值函數(shù)湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換11101( )( )( ).( )( ) (0)nnnnnnd Y tdY t

51、dY taaaa Y tX ttdtdtdt對隨機微分方程的兩邊求數(shù)學期望并利用dn/dt變換的線性性質、基本定理1得到由Y(t)的初始條件Y(i)(0)=0得到:(1)(0 )(0 ).(0 )0nYYYmmm11101( )( )( ).( )( ) (0)nnYYYnnYXnnd m tdm tdm taaaam tm ttdtdtdt 普通微分方程的求解問題,高等數(shù)學已解決( )( )00(0 )( )( )(0 )0iiiiYiittddmE Y tEY tEYdtdt注釋：基本定理13.3.輸出隨機過程的相關函數(shù)輸出隨機過程的相關函數(shù)( (兩次求解微分方程兩次求解微分方程) )湖南

52、大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換由Y(t)的初始條件得到:(1)222(0 ,)(0 ,).(0 ,)0nYXYXYXRtRtRt112121121212110121111( , )( , )( , )( , )( , ).( , )XtYXnnYXYXYXnnYXnnR t tL Rt td Rt tdRt tdRt taaaa Rt tdtdtdt 已知RX 高等數(shù)學普通微分方程的求解得到RYX11101( )( )( )( ).( )nnnnnnd Y tdY tdY tX taaaa Y tdtdtdt參見后頁注釋根據(jù)L算子的線性性質以及基本定理2t1,t20湖南

53、大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換注釋：根據(jù)di/dt的線性性質以及基本定理1(反過來用)1( )( )212210(0 ,)()()(0 )()0iiiYXitdRtE Y tXtE YXtdt由Y(t)的初始條件同樣可以得到:(1)111( ,0 )( ,0 ).( ,0 )0nYYYRtRtRt212121121212110121222( , )( , )( , )( , )( , ).( , )YXtYnnYYYnnYnnRt tL R t td R t tdR t tdR t taaaa R t tdtdtdt 已知RYX ,根據(jù)高等數(shù)學普通微分方程的求解得到RY

54、練習：利用EY(t1)Y(i)(0)=0根據(jù)L算子的線性性質以及基本定理2t1,t20湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換例題：設有隨機微分方程及 RX( )= 2+( ) (平穩(wěn)平穩(wěn))解：輸入X(t)從0時開始,求Y(t)的均值函數(shù)及相關函數(shù)( )( )( ) (0 )0 (0)dY taY tX tYadtXm( )( ) (0 )0 ($)YYYdmtamtmdt根據(jù)線性齊次微分方程解法(練習：復習高等數(shù)學)( ) (0)atYm tBeCt將解代入方程：得到/Ca(0 )(0 )0YYmmBC/Ba ( )(/ )1atYmtae漸近平穩(wěn)：當t足夠大時，均值為常數(shù)

55、/a通解：($)右邊在t=0處不含沖激,mY(t)在該處連續(xù)湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換21212121212( , )( , )( , )()(0 , )0YXYXXYXdRt taRt tRt tttdtRt由于RYX(t1,t2)求導后在t1=t2處有沖激，則相關函數(shù)在該處不連續(xù)；此外，右邊沒有沖激函數(shù)的導數(shù)，RYX(t1,t2)不包含沖激函數(shù);為利用初始條件(t1=0-處)，先考慮0t1t2112212( ,)( ) (0)atYXRt tAef ttt212121212( , )( , ) (0)(0 , )0YXYXYXdRt taRt tttdtRt

56、通解：需要針對t1t2分別求解微分方程兩邊在區(qū)間0-t10,關于t1的方程成立與t1無關的常數(shù)項湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換121212( ,)(1) (0)atYXRt tetta原微分方程兩邊將變量t1在t2-,t2+鄰域積分，得到2222(,)(,)YXYXRttRtt代入原方程方程并利用初始條件1122( )atataAea Aef t22(0 , )( )0YXRtAf t22( )/f ta2/Aa 2222(, )(1)atYXRttea2212112222( , )(, )(, )tYXtYXYXdRt tdtdtRttRtt1212121222(

57、 , )( , ) (0)(, )?YXYXYXdRt taRt tdtttRtt初始條件湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換對于t1t2，運用新的初始條件求解微分方程112112( ,)( )atYXRt tBef t代入原方程并利用t2+處的初始條件求B1,f1(t2)；得到1122()1212( ,)(1)()ata ttYXRt teeatt通解：222121212221( ,)( ,) (0) , (,)(1)atYXYXYXdRt taRt tttRttedta練習1112212122()12(1) 0( ,)(1)0atYXata ttettaRt teet

58、ta綜合得到:湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換為了利用t2=0處的初始條件212221( , )( )atYR t tB ef t代入原方程,并利用的初始條件得到1( ,0 )0YR t先考察t1t201122()121212211( , )( , )(1)(0)( ,0 )0( ,0 )0ata ttYYYYdR t taR t teettdtaR tR t121222()212122( ,)(1)(1)(1)(0)2atata ttatYR t teeeettaa漸近平穩(wěn)性：t1,t2足夠大時，相關函數(shù)只與時間差有關通解：下面根據(jù)RYX(t1,t2)求RY(t1,

59、t2)1212122( , )( , )( , )YYYXdR t taR t tRt tdt同樣需要分段求解?湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換本小節(jié)作業(yè)本小節(jié)作業(yè) 3.10 3.12 3.13t1t1)得到212112()212122( , )(1)(1)(1)(0)2atata ttatYR t teeeettaa綜合得到2121122|2 min( ,)12122( , )(1)(1)(1)(0, )2atatattat tYR t teeeet taa連續(xù)時間隨機過程通過連續(xù)線性系統(tǒng)連續(xù)時間隨機過程通過連續(xù)線性系統(tǒng)3.41.1.輸入信號起始時間為輸入信號起始時

60、間為- - 的情況的情況湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換設線性時不變系統(tǒng)的沖激響應函數(shù)為h(t)(-t);對于物理可實現(xiàn)的因果系統(tǒng)h(t)=0(t0)；設輸入信號為隨機過程X(t)(-t)，輸出信號為隨機過程Y(t)，若輸入從t=-開始,根據(jù)信號與系統(tǒng)理論，有(參見附錄)( )() ( ) ( )( )( )tY tX thdX th tL X t等號表示均方收斂線性卷積容易證明，上述變換是X(t)的線性時不變變換變換的描述:以t為變量的函數(shù)變換為該函數(shù)與h(t)的卷積附錄附錄( (自學自學) )湖南大學教學課件：應用統(tǒng)計學與隨機過程 隨機過程的線性變換根據(jù)線性變換的