RP2a劉次華《隨機過程及其應(yīng)用(第三版)》課件

2隨機過程的概念與基本類型2隨機過程的概念與基本類型1內(nèi)容提要隨機過程的基本概念隨機過程的分布律隨機過程的數(shù)字特征復(fù)隨機過程幾種重要的隨機過程內(nèi)容提要隨機過程的基本概念22.1隨機過程的基本概念隨機過程——隨機變量族隨機過程幾個例子：生物群體的生長問題：以

Xt

表示在t時刻群體的個數(shù)，對每一個t，Xt是一個隨機變量。若從t=0

開始，每隔24小時對群體個數(shù)觀測一次，則{Xt,t=0,1,…}是隨機過程。某電話交換臺在時間段[0,t]內(nèi)接到的呼叫次數(shù)是與t有關(guān)的隨機變量X(t)，對于固定的t，X(t)是一個取非負整數(shù)的隨機變量。則{X(t),t[0,)}是隨機過程。2.1隨機過程的基本概念隨機過程——隨機變量族3隨機過程的定義[定義]設(shè)（,

F,

P）是概率空間，T是給定的參數(shù)集，若對每個tT

，有一個隨機變量X(t,e)與之對應(yīng)，則稱隨機變量族{X(t,e),tT}是(,

F,

P)上的隨機過程，簡記為隨機過程{X(t),tT}。T稱為參數(shù)集，通常表示時間。隨機過程的定義[定義]設(shè)（,F,P）是概率空間，T是4狀態(tài)與樣本函數(shù)X(t,e)是定義在T上的二元函數(shù)狀態(tài)——對于固定時刻tT

，X(t,e)是(,F,P)上的隨機變量，此時把X(t)所取的值稱為隨機過程X(t)在時刻t所處的狀態(tài)。X(t)的所有可能狀態(tài)所構(gòu)成的集合稱為狀態(tài)空間或相空間，記為I。樣本函數(shù)——對于固定樣本點e，X(t,e)是定義在T上的普通函數(shù)，稱之為隨機過程

{X(t),tT}的一個樣本函數(shù)或軌道。樣本函數(shù)的全體稱為樣本函數(shù)空間。狀態(tài)與樣本函數(shù)X(t,e)是定義在T上的二元5隨機過程的分類連續(xù)隨機過程參數(shù)連續(xù)，狀態(tài)連續(xù)離散隨機過程參數(shù)連續(xù)，狀態(tài)離散連續(xù)隨機序列參數(shù)離散，狀態(tài)連續(xù)離散隨機序列參數(shù)離散，狀態(tài)離散隨機過程的分類連續(xù)隨機過程62.2隨機過程的分布律[定義]

隨機過程XT={X(t),tT}在時刻t

的一維分布函數(shù)為其一維概率密度函數(shù)為相應(yīng)的一維特征函數(shù)為2.2隨機過程的分布律[定義]隨機過程XT={X(t7n維分布律[定義]設(shè)XT={X(t),tT}是隨機過程，對任意n1和t1,t2,…,

tnT，隨機過程XT的n維分布函數(shù)為其n維概率密度函數(shù)為n維特征函數(shù)：n維分布律[定義]設(shè)XT={X(t),tT8n維分布函數(shù)的性質(zhì)(2)相容性：當(dāng)m<n時，(1)對稱性：對于{t1,t2,…,

tn

}的任意排列，n維分布函數(shù)的性質(zhì)(2)相容性：當(dāng)m<n時，(1)對9Kolmogorov定理設(shè)已給參數(shù)集T及滿足對稱性和相容性條件的分布函數(shù)族F，則必存在一概率空間(,

F,

P)及定義在其上的隨機過程{X(t),tT}，它的有限維分布函數(shù)族是F。Kolmogorov定理設(shè)已給參數(shù)集T及滿足對稱性和相容性條10全局特征與局部特征若對于任意時刻t1,t2,…,

tnT和任意n1，隨機過程X(t)的n維分布函數(shù)或概率密度都已知，則認為該隨機過程的統(tǒng)計描述是完全的或者具有全局統(tǒng)計特征。通常描述的是隨機過程的局部統(tǒng)計特征（n為有限值），例如一維、n維聯(lián)合分布函數(shù)（及以下的數(shù)字特征等）。全局特征與局部特征若對于任意時刻t1,t2,…,tn11兩個隨機過程的聯(lián)合分布[定義]設(shè){X(s),sT}和{Y(t),tT}是兩個隨機過程，其n+m維聯(lián)合分布函數(shù)為其n+m維聯(lián)合概率密度為兩個隨機過程的聯(lián)合分布[定義]設(shè){X(s),sT122.3隨機過程的數(shù)字特征[定義]設(shè)隨機過程XT={X(t),tT}是二階矩過程，即對任意tT，E{X(t)}和E{X2(t)}存在，則其數(shù)字特征定義為均值函數(shù)方差函數(shù)均方值：標(biāo)準(zhǔn)差：2.3隨機過程的數(shù)字特征[定義]設(shè)隨機過程XT={X13（自）相關(guān)函數(shù)和協(xié)方差函數(shù)協(xié)方差函數(shù)相關(guān)函數(shù)歸一化協(xié)方差函數(shù)——相關(guān)系數(shù)：（自）相關(guān)函數(shù)和協(xié)方差函數(shù)協(xié)方差函數(shù)相關(guān)函數(shù)歸一化協(xié)方差函數(shù)14幾種關(guān)系均值函數(shù)mX(t)和相關(guān)函數(shù)RX(s,t)是最基本的兩個數(shù)字特征。“相關(guān)理論”——在隨機過程理論中，僅研究mX(t)和RX(s,t)有關(guān)的理論。幾種關(guān)系均值函數(shù)mX(t)和相關(guān)函數(shù)RX(s,t15例1已知隨機相位正弦波X(t)=acos(t+)，其中a>0，為常數(shù)，為在（0,2）內(nèi)均勻分布的隨機變量。

求隨機過程{X(t),t(0,)}的均值函數(shù)mX(t)和相關(guān)函數(shù)RX(s,t)。例1已知隨機相位正弦波X(t)=acos(t+16互相關(guān)函數(shù)、互協(xié)方差函數(shù)設(shè)有兩個二階矩過程{X(t),tT}和{Y(t),tT}，互協(xié)方差函數(shù)互相關(guān)函數(shù)當(dāng)CXY(s,t)=0時，稱{X(t),tT}與{Y(t),tT}互不相關(guān)當(dāng)RXY(s,t)

=0時，稱{X(t),tT}與{Y(t),tT}相互正交關(guān)系式：互相關(guān)函數(shù)、互協(xié)方差函數(shù)設(shè)有兩個二階矩過程{X(t),t17例2設(shè)X(t)為信號過程，Y(t)為噪聲過程，令W(t)=X(t)+Y(t)，則

W(t)的均值函數(shù)為其相關(guān)函數(shù)為例2設(shè)X(t)為信號過程，Y(t)為噪聲過程，令W182.3復(fù)隨機過程[定義]兩個實隨機過程：{Xt,tT}和{Yt,tT}，若對于任意tT，有

Zt=Xt+iYt

則稱{Zt,tT}為復(fù)隨機過程。2.3復(fù)隨機過程[定義]兩個實隨機過程：{Xt,t19復(fù)隨機過程的數(shù)字特征均值函數(shù)：協(xié)方差函數(shù)：方差函數(shù)：相關(guān)函數(shù)：復(fù)隨機過程的數(shù)字特征均值函數(shù)：協(xié)方差函數(shù)：方差函數(shù)：相關(guān)函數(shù)20復(fù)隨機過程協(xié)方差函數(shù)的性質(zhì)復(fù)隨機過程{Zt,tT}的協(xié)方差函數(shù)C(s,t)具有性質(zhì)：(1)對稱性：(2)非負定性：對任意ti

T及復(fù)數(shù)ai，i=1,2,…,n,n1，有復(fù)隨機過程協(xié)方差函數(shù)的性質(zhì)復(fù)隨機過程{Zt,tT}21例3設(shè)復(fù)隨機過程，其中X1,X2,…,Xn是相互獨立且服從N(0,)的隨機變量，1,2,…,n為常數(shù)，求{Zt,t0}的均值函數(shù)mZ(t)和相關(guān)函數(shù)RZ(s,t)。例3設(shè)復(fù)隨機過程222.4幾種重要的隨機過程簡介獨立過程二階矩過程平穩(wěn)過程獨立增量過程正交增量過程馬爾可夫過程高斯過程和維納過程2.4幾種重要的隨機過程簡介獨立過程23獨立過程[定義]若隨機過程{X(t),tT}對任意的正整數(shù)n2和t1<t2<…<tnT，隨機變量X(t1),X(t2),…,X(tn)是相互獨立的，則稱{X(t),tT}是T上的獨立隨機過程。獨立過程[定義]若隨機過程{X(t),tT}24二階矩過程[定義]對于隨機過程{X(t),tT}，若對任意tT，X(t)的均值和方差都存在，則稱X(t)為二階矩過程。設(shè)E{X(t)}=mX(t),則

即，是零均值的二階矩過程，其協(xié)方差函數(shù)與相關(guān)函數(shù)相同。二階矩過程[定義]對于隨機過程{X(t),tT}25平穩(wěn)過程[定義]設(shè){X(t),tT}是隨機過程，若對任意常數(shù)和正整數(shù)n，t1,t2,…,tnT，t1+,t2+,…,tn+T，(X(t1),X(t2),…,X(tn))與(X(t1+),X(t2+),…,X(tn+))有相同的聯(lián)合分布，則稱{X(t),tT}為嚴(yán)平穩(wěn)過程，也稱狹義平穩(wěn)過程。平穩(wěn)過程[定義]設(shè){X(t),tT}是隨機過程，26廣義平穩(wěn)過程[定義]設(shè){X(t),tT}是隨機過程，如果

(1){X(t),tT}是二階矩過程；

(2)對任意tT，mX(t)=E{X(t)}=常數(shù)；

(3)對任意s

,tT，RX

(s,t)=E[X(s)X(t)]=RX(st)；

則稱{X(t),tT}為廣義平穩(wěn)過程，簡稱(寬)平穩(wěn)過程。若T為離散集，則稱平穩(wěn)過程{X(t),tT}為平穩(wěn)序列。廣義平穩(wěn)過程[定義]設(shè){X(t),tT}是隨機過27獨立增量過程[定義]設(shè){X(t),tT}是隨機過程，若對任意的正整數(shù)n和t1<t2<…<tnT，隨機變量X(t2)X(t1),X(t3)X(t2),…,X(tn)

X(tn-1)是相互獨立的，則稱{X(t),tT}為獨立增量過程，又稱可加過程。獨立增量過程[定義]設(shè){X(t),tT}是隨機過28平穩(wěn)獨立增量過程[定義]設(shè){X(t),tT}是獨立增量隨機過程，若對任意s<t，隨機變量X(t)X(s)的分布僅依賴于t

s，則稱{X(t),tT}為平穩(wěn)獨立增量過程。平穩(wěn)獨立增量過程[定義]設(shè){X(t),tT}是獨29正交增量過程正交增量過程的協(xié)方差函數(shù)可以由它的方差確定：[定義]設(shè){X(t),tT}是零均值的二階矩過程，若對任意的t1<t2t3<t4T，有

則稱X(t)為正交增量過程。正交增量過程正交增量過程的協(xié)方差函數(shù)可以由它的方差確定：[定30馬爾可夫過程[定義]設(shè){X(t),tT}是隨機過程，若對任意的正整數(shù)n和t1<t2<…<tnT，P{X(t1)=x1,…,X(tn-1)=xn-1}>0，且條件分布

則稱{X(t),tT}為馬爾可夫過程。馬爾可夫性,（無后效性）馬爾可夫過程[定義]設(shè){X(t),tT}是隨機過31高斯過程[定義]設(shè){X(t),tT}是隨機過程，若對任意正整數(shù)n和t1,t2,…,tnT，(X(t1),X(t2),…,X(tn))是n維正態(tài)隨機變量，則稱{X(t),tT}為高斯過程或正態(tài)過程。高斯過程[定義]設(shè){X(t),tT}是隨機過程，32維納過程[定義]設(shè){B(t),<t<}是隨機過程，如果

(1)B(0)=0；

(2)它是獨立、平穩(wěn)增量過程；

(3)對任意s

,t，增量B(t)B(s)~N(0,2ts),2>0；

則稱{B(t),<t<}為維納過程，也稱布朗運動。維納過程[定義]設(shè){B(t),<t<}332隨機過程的概念與基本類型2隨機過程的概念與基本類型34內(nèi)容提要隨機過程的基本概念隨機過程的分布律隨機過程的數(shù)字特征復(fù)隨機過程幾種重要的隨機過程內(nèi)容提要隨機過程的基本概念352.1隨機過程的基本概念隨機過程——隨機變量族隨機過程幾個例子：生物群體的生長問題：以

Xt

表示在t時刻群體的個數(shù)，對每一個t，Xt是一個隨機變量。若從t=0

開始，每隔24小時對群體個數(shù)觀測一次，則{Xt,t=0,1,…}是隨機過程。某電話交換臺在時間段[0,t]內(nèi)接到的呼叫次數(shù)是與t有關(guān)的隨機變量X(t)，對于固定的t，X(t)是一個取非負整數(shù)的隨機變量。則{X(t),t[0,)}是隨機過程。2.1隨機過程的基本概念隨機過程——隨機變量族36隨機過程的定義[定義]設(shè)（,

F,

P）是概率空間，T是給定的參數(shù)集，若對每個tT

，有一個隨機變量X(t,e)與之對應(yīng)，則稱隨機變量族{X(t,e),tT}是(,

F,

P)上的隨機過程，簡記為隨機過程{X(t),tT}。T稱為參數(shù)集，通常表示時間。隨機過程的定義[定義]設(shè)（,F,P）是概率空間，T是37狀態(tài)與樣本函數(shù)X(t,e)是定義在T上的二元函數(shù)狀態(tài)——對于固定時刻tT

，X(t,e)是(,F,P)上的隨機變量，此時把X(t)所取的值稱為隨機過程X(t)在時刻t所處的狀態(tài)。X(t)的所有可能狀態(tài)所構(gòu)成的集合稱為狀態(tài)空間或相空間，記為I。樣本函數(shù)——對于固定樣本點e，X(t,e)是定義在T上的普通函數(shù)，稱之為隨機過程

{X(t),tT}的一個樣本函數(shù)或軌道。樣本函數(shù)的全體稱為樣本函數(shù)空間。狀態(tài)與樣本函數(shù)X(t,e)是定義在T上的二元38隨機過程的分類連續(xù)隨機過程參數(shù)連續(xù)，狀態(tài)連續(xù)離散隨機過程參數(shù)連續(xù)，狀態(tài)離散連續(xù)隨機序列參數(shù)離散，狀態(tài)連續(xù)離散隨機序列參數(shù)離散，狀態(tài)離散隨機過程的分類連續(xù)隨機過程392.2隨機過程的分布律[定義]

隨機過程XT={X(t),tT}在時刻t

的一維分布函數(shù)為其一維概率密度函數(shù)為相應(yīng)的一維特征函數(shù)為2.2隨機過程的分布律[定義]隨機過程XT={X(t40n維分布律[定義]設(shè)XT={X(t),tT}是隨機過程，對任意n1和t1,t2,…,

tnT，隨機過程XT的n維分布函數(shù)為其n維概率密度函數(shù)為n維特征函數(shù)：n維分布律[定義]設(shè)XT={X(t),tT41n維分布函數(shù)的性質(zhì)(2)相容性：當(dāng)m<n時，(1)對稱性：對于{t1,t2,…,

tn

}的任意排列，n維分布函數(shù)的性質(zhì)(2)相容性：當(dāng)m<n時，(1)對42Kolmogorov定理設(shè)已給參數(shù)集T及滿足對稱性和相容性條件的分布函數(shù)族F，則必存在一概率空間(,

F,

P)及定義在其上的隨機過程{X(t),tT}，它的有限維分布函數(shù)族是F。Kolmogorov定理設(shè)已給參數(shù)集T及滿足對稱性和相容性條43全局特征與局部特征若對于任意時刻t1,t2,…,

tnT和任意n1，隨機過程X(t)的n維分布函數(shù)或概率密度都已知，則認為該隨機過程的統(tǒng)計描述是完全的或者具有全局統(tǒng)計特征。通常描述的是隨機過程的局部統(tǒng)計特征（n為有限值），例如一維、n維聯(lián)合分布函數(shù)（及以下的數(shù)字特征等）。全局特征與局部特征若對于任意時刻t1,t2,…,tn44兩個隨機過程的聯(lián)合分布[定義]設(shè){X(s),sT}和{Y(t),tT}是兩個隨機過程，其n+m維聯(lián)合分布函數(shù)為其n+m維聯(lián)合概率密度為兩個隨機過程的聯(lián)合分布[定義]設(shè){X(s),sT452.3隨機過程的數(shù)字特征[定義]設(shè)隨機過程XT={X(t),tT}是二階矩過程，即對任意tT，E{X(t)}和E{X2(t)}存在，則其數(shù)字特征定義為均值函數(shù)方差函數(shù)均方值：標(biāo)準(zhǔn)差：2.3隨機過程的數(shù)字特征[定義]設(shè)隨機過程XT={X46（自）相關(guān)函數(shù)和協(xié)方差函數(shù)協(xié)方差函數(shù)相關(guān)函數(shù)歸一化協(xié)方差函數(shù)——相關(guān)系數(shù)：（自）相關(guān)函數(shù)和協(xié)方差函數(shù)協(xié)方差函數(shù)相關(guān)函數(shù)歸一化協(xié)方差函數(shù)47幾種關(guān)系均值函數(shù)mX(t)和相關(guān)函數(shù)RX(s,t)是最基本的兩個數(shù)字特征?！跋嚓P(guān)理論”——在隨機過程理論中，僅研究mX(t)和RX(s,t)有關(guān)的理論。幾種關(guān)系均值函數(shù)mX(t)和相關(guān)函數(shù)RX(s,t48例1已知隨機相位正弦波X(t)=acos(t+)，其中a>0，為常數(shù)，為在（0,2）內(nèi)均勻分布的隨機變量。

求隨機過程{X(t),t(0,)}的均值函數(shù)mX(t)和相關(guān)函數(shù)RX(s,t)。例1已知隨機相位正弦波X(t)=acos(t+49互相關(guān)函數(shù)、互協(xié)方差函數(shù)設(shè)有兩個二階矩過程{X(t),tT}和{Y(t),tT}，互協(xié)方差函數(shù)互相關(guān)函數(shù)當(dāng)CXY(s,t)=0時，稱{X(t),tT}與{Y(t),tT}互不相關(guān)當(dāng)RXY(s,t)

=0時，稱{X(t),tT}與{Y(t),tT}相互正交關(guān)系式：互相關(guān)函數(shù)、互協(xié)方差函數(shù)設(shè)有兩個二階矩過程{X(t),t50例2設(shè)X(t)為信號過程，Y(t)為噪聲過程，令W(t)=X(t)+Y(t)，則

W(t)的均值函數(shù)為其相關(guān)函數(shù)為例2設(shè)X(t)為信號過程，Y(t)為噪聲過程，令W512.3復(fù)隨機過程[定義]兩個實隨機過程：{Xt,tT}和{Yt,tT}，若對于任意tT，有

Zt=Xt+iYt

則稱{Zt,tT}為復(fù)隨機過程。2.3復(fù)隨機過程[定義]兩個實隨機過程：{Xt,t52復(fù)隨機過程的數(shù)字特征均值函數(shù)：協(xié)方差函數(shù)：方差函數(shù)：相關(guān)函數(shù)：復(fù)隨機過程的數(shù)字特征均值函數(shù)：協(xié)方差函數(shù)：方差函數(shù)：相關(guān)函數(shù)53復(fù)隨機過程協(xié)方差函數(shù)的性質(zhì)復(fù)隨機過程{Zt,tT}的協(xié)方差函數(shù)C(s,t)具有性質(zhì)：(1)對稱性：(2)非負定性：對任意ti

T及復(fù)數(shù)ai，i=1,2,…,n,n1，有復(fù)隨機過程協(xié)方差函數(shù)的性質(zhì)復(fù)隨機過程{Zt,tT}54例3設(shè)復(fù)隨機過程，其中X1,X2,…,Xn是相互獨立且服從N(0,)的隨機變量，1,2,…,n為常數(shù)，求{Zt,t0}的均值函數(shù)mZ(t)和相關(guān)函數(shù)RZ(s,t)。例3設(shè)復(fù)隨機過程552.4幾種重要的隨機過程簡介獨立過程二階矩過程平穩(wěn)過程獨立增量過程正交增量過程馬爾可夫過程高斯過程和維納過程2.4幾種重要的隨機過程簡介獨立過程56獨立過程[定義]若隨機過程{X(t),tT}對任意的正整數(shù)n2和t1<t2<…<tnT，隨機變量X(t1),X(t2),…,X(tn)是相互獨立的，則稱{X(t),tT}是T上的獨立隨機過程。獨立過程[定義]若隨機過程{X(t),tT}57二階矩過程[定義]對于隨機過程{X(t),tT}，若對任意tT，X(t)的均值和方差都存在，則稱X(t)為二階矩過程。設(shè)E{X(t)}=mX(t),則

即，是零均值的二階矩過程，其協(xié)方差函數(shù)與相關(guān)函數(shù)相同。二階矩過程[定義]對于隨機過程{X(t),tT}58平穩(wěn)過程[定義]設(shè){X(t),tT}是隨機過程，若對任意常數(shù)和正整數(shù)n，t1,t2,…,tnT，t1+,t2+,…,tn+T，(X(t1),X(t2),…,X(tn))與(X(t1+),X(t2+),…,X(tn+))有相同的聯(lián)合分布，則稱{X(t),tT}為嚴(yán)平穩(wěn)過程，也稱狹義平穩(wěn)過程。平穩(wěn)過程[定義]設(shè){X(t),tT}是隨機過程，59廣義平穩(wěn)過程[定義]設(shè){X(t),tT}是隨機過程，如果

(1){X(t),tT}是二階矩過程；

(2)對任意tT，mX(t)=E{X(t)}=常數(shù)；

(3)對任意s

,tT，RX

(s,t)=E[X(s)X(t)]=RX(st)；

則稱{X(t),tT}為廣義平穩(wěn)過程，簡稱(寬)平穩(wěn)過程。若T為離散集，則稱平穩(wěn)過程{X(t),tT}為平穩(wěn)序列。廣義平穩(wěn)過程[定義]設(shè){X(t),tT}是隨機過60獨立增量過程[定義]設(shè){X(t),tT}是隨機過程，若對任意的正整數(shù)n和t1<