隨機(jī)過程入門.ppt

1、1,隨機(jī)信號(hào)分析,2,課程內(nèi)容及安排,課程地位： 學(xué)習(xí)通信原理、移動(dòng)通信等專業(yè)課的先修課程. 主要內(nèi)容 隨機(jī)過程(1011次課) 平穩(wěn)隨機(jī)過程譜分析(34次課) 隨機(jī)過程通過線性系統(tǒng)(34次課) 隨機(jī)過程通過非線性系統(tǒng)(23次課) 學(xué)習(xí)方法：信號(hào)與系統(tǒng)+隨機(jī)過程 考核形式 作業(yè) 20% 考試 80%,3,預(yù)備知識(shí),概 率 論,4,經(jīng)典概率問題,一維隨機(jī)變量,二維隨機(jī)變量,隨機(jī)變量數(shù)字特征,概率分布函數(shù)、概率密度函數(shù)和一維隨機(jī)變量函數(shù)分布,概率分布函數(shù)、概率密度函數(shù)和二維隨機(jī)變量函數(shù)分布,概率空間、全概率公式和貝葉斯公式,數(shù)學(xué)期望、方差和各階矩,極限定理,切比雪夫不等式、弱大數(shù)定律、中心極限定理

2、等,特征函數(shù),隨機(jī)過程,主 要 內(nèi) 容,5,主要內(nèi)容：,隨機(jī)變量的數(shù)字特征,隨機(jī)變量函數(shù)的分布,隨機(jī)變量的特征函數(shù),6,第一節(jié),隨機(jī)變量數(shù)字特征,7,數(shù) 學(xué) 期 望,離散隨機(jī)變量,連續(xù)隨機(jī)變量,隨機(jī)變量Y=g(X),8,數(shù) 學(xué) 期 望(續(xù)1),注：,Y=aX1+bX2,Y=X1X2,X1和X2相互獨(dú)立時(shí),9,數(shù) 學(xué) 期 望(續(xù)2),例1,隨機(jī)變量X服從下表分布，求EX和EX2,Y=X2的概率分布為,EX=0.8,EY=7.2,10,各階矩(中心矩、原點(diǎn)矩),原點(diǎn)矩,中心矩,方差,11,第二節(jié),隨機(jī)變量函數(shù)分布,12,一維隨機(jī)變量函數(shù)分布,隨機(jī)變量Y是隨機(jī)變量X的單調(diào)函數(shù)，并存在反函數(shù)X=h(Y

3、)，則,情況1：,情況2：,隨機(jī)變量Y是隨機(jī)變量X的多值函數(shù)，假設(shè)一個(gè)Y值對(duì)應(yīng)兩個(gè)X值， 且X1=h1(Y)和X2=h2(Y)，則,13,一維隨機(jī)變量函數(shù)分布(例),例2 設(shè)隨機(jī)變量X服從正態(tài)分布N(0,1)，求隨機(jī)變量 Y=X2的概率密度。,解：,Y=X2,=,14,一維隨機(jī)變量函數(shù)分布(例續(xù)),分布,15,二維隨機(jī)變量函數(shù)分布,已知二維隨機(jī)變量( X1 ,X2 )的概率分布, g(x1,x2) 為已知的二元函數(shù)，Z = g(X1 ,X2 ),求：Z 的概率分布？,當(dāng)( X1 ,X2 )為連續(xù)型隨機(jī)變量時(shí)，,其中,16,二維隨機(jī)變量函數(shù)分布(續(xù)),新問題：,已知隨機(jī)變量X1和X2的聯(lián)合概率密

4、度為,求隨機(jī)變量Y1=g1(X1,X2)和Y2=g2(X1,X2)的聯(lián)合概率密度?,單值變換函數(shù),X1=h1(Y1,Y2)和X2=h2(Y1,Y2),17,例3 已知 ( X1 ,X2 )的聯(lián)合密度函數(shù)為,Y = X1 + X2 ,求 f Y (y),令,二維隨機(jī)變量函數(shù)分布(例),解：,18,2,1,1,19,20,二維隨機(jī)變量函數(shù)分布(例),例4 已知 X1 和X2是兩個(gè)獨(dú)立的正態(tài)分布隨機(jī)變量,求隨機(jī)變量Z和的聯(lián)合概率密度。,其中,解：,21,二維隨機(jī)變量函數(shù)分布(例),平面直角坐標(biāo)上的兩個(gè)彼此獨(dú)立分布的正態(tài)隨機(jī)變量，,經(jīng)極坐標(biāo)變換后，其模服從瑞利分布，相位服從均勻分布,且模和相位兩個(gè)隨機(jī)

5、變量是相互獨(dú)立的,瑞利分布,均勻分布,22,二維隨機(jī)變量函數(shù)分布(例),例5 已知 X1 和X2是兩個(gè)獨(dú)立的正態(tài)分布隨機(jī)變量,求隨機(jī)變量Y1和Y2的聯(lián)合概率密度。,其中,23,二維隨機(jī)變量函數(shù)分布(例續(xù)),24,二維隨機(jī)變量函數(shù)分布(例續(xù)),25,二維隨機(jī)變量函數(shù)分布(例續(xù)),推廣至n維高斯隨機(jī)向量,26,第三節(jié),隨機(jī)變量特征函數(shù),27,特征函數(shù)的定義,定義：,ejuX的數(shù)學(xué)期望定義為隨機(jī)變量X的特征函數(shù)CX(u),X為離散隨機(jī)變量時(shí)，其特征函數(shù)為,X為連續(xù)隨機(jī)變量時(shí)，其特征函數(shù)為,28,特征函數(shù)的定義(例),例6 設(shè)隨機(jī)變量 X服從正態(tài)分布N(0,1)，求它的特征函數(shù)。,29,特征函數(shù)性質(zhì),

6、(1) 隨機(jī)變量X的特征函數(shù)CX(u)滿足,(2) 隨機(jī)變量X的特征函數(shù)為CX(u)，,則 Y=aX+b的特征函數(shù)為,(3) 獨(dú)立隨機(jī)變量X1和X2的特征函數(shù)分別為CX1(u),和CX2(u)，,則 Z=X1+X2的特征函數(shù)為,給出一種求獨(dú)立隨機(jī)變量和的分布新方法。,30,特征函數(shù)與概率密度之間的關(guān)系,一維隨機(jī)變量X的函數(shù)Y=g(X)的概率密度,31,特征函數(shù)與概率密度之間的關(guān)系(例),例7 設(shè)隨機(jī)變量 X在,之間均勻分布,求Y=sin X的概率密度函數(shù),32,特征函數(shù)與概率密度之間的關(guān)系(例),33,特征函數(shù)與各階矩之間的關(guān)系,34,特征函數(shù)與各階矩之間的關(guān)系(續(xù)),35,特征函數(shù)作用,可以

7、簡(jiǎn)化各階矩的運(yùn)算,可以簡(jiǎn)化一維隨機(jī)變量函數(shù)的運(yùn)算,可以簡(jiǎn)化獨(dú)立隨機(jī)變量和的分布的計(jì)算,單 值 函 數(shù),36,第 1 章,隨機(jī)過程,37,本章主要內(nèi)容：,隨機(jī)過程的基本概念,隨機(jī)過程的數(shù)字特征,隨機(jī)過程的微分和積分計(jì)算,隨機(jī)過程的平穩(wěn)性和遍歷性,隨機(jī)過程的相關(guān)函數(shù)及其性質(zhì),復(fù)隨機(jī)過程,正態(tài)過程,馬爾可夫鏈,泊松過程,38,1.1 隨機(jī)過程的基本概念及統(tǒng)計(jì)特性,基本要求：,深入理解隨機(jī)過程的定義,了解隨機(jī)過程的幾種分類,理解隨機(jī)過程的概率分布,掌握隨機(jī)過程的數(shù)字特征計(jì)算方法,了解隨機(jī)過程的特征函數(shù),39,一、 定義,對(duì)接收機(jī)的噪聲電壓作觀察,40,1 樣本函數(shù)： ， ， ， ，都是時(shí)間的函數(shù)，稱為

8、樣本函數(shù)。,2 隨機(jī)性：一次試驗(yàn)，隨機(jī)過程必取一個(gè)樣本函數(shù)，但所取的樣本函數(shù)帶有隨機(jī)性。因此，隨機(jī)過程不僅是時(shí)間t 的函數(shù)，還是可能結(jié)果的函數(shù)，記為 ，簡(jiǎn)寫成 。,41,定義2：若對(duì)于每個(gè)特定的時(shí)間 ， 都是隨機(jī)變量，則稱 為隨機(jī)過程， 稱為隨機(jī)過程 在 時(shí)刻的狀態(tài)。,3. 隨機(jī)過程的定義：,42,4.定義的理解 ：,上面兩種隨機(jī)過程的定義，從兩個(gè)角度描述了隨機(jī)過程。 作觀測(cè)時(shí)，常用定義1，通過觀測(cè)的試驗(yàn)樣本可得到隨機(jī)過程的統(tǒng)計(jì)特性； 理論分析時(shí)，常用定義2，可把隨機(jī)過程看成為n 維隨機(jī)變量，n越大，采樣時(shí)間越小，所得到的統(tǒng)計(jì)特性越準(zhǔn)確。,43,理解：,一個(gè)時(shí)間函數(shù)族,一個(gè)確知的時(shí)間函數(shù),一個(gè)

9、隨機(jī)變量,一個(gè)確定值,1 和 都是變量,2 是變量而 固定,3 固定而 是變量,4 和 都固定,44,隨機(jī)變量,與時(shí)間無關(guān),隨機(jī)過程,與時(shí)間相關(guān)的一族隨機(jī)變量,45,解：,(1) 固定時(shí)間t，X(t)是隨機(jī)變量，,是一族隨機(jī)變量,(2) 對(duì)隨機(jī)變量做一次試驗(yàn)得到一個(gè)結(jié)果，,是隨時(shí)間變化的函數(shù)，即樣本函數(shù)。,X(t)是一隨機(jī)過程。,46,二、 隨機(jī)過程分類,1. 按隨機(jī)過程的時(shí)間和狀態(tài)來分類,(1) 連續(xù)型隨機(jī)過程：時(shí)間t取值連續(xù)，且對(duì)隨機(jī)過程任一時(shí)刻 的取值 都是連續(xù)型隨機(jī)變量。,(2) 離散型隨機(jī)過程：時(shí)間t取值連續(xù)，且對(duì)隨機(jī)過程任一時(shí)刻 的取值 都是離散型隨機(jī)變量。,47,(4) 離散隨機(jī)

10、序列：隨機(jī)過程的時(shí)間t只能取某些時(shí)刻，如 ， 2 ，.，n ，且這時(shí)得到的隨機(jī)變量 是離散型隨機(jī)變量，即時(shí)間和狀態(tài)是離散的。相當(dāng)于采樣后再量化 。,(3) 連續(xù)隨機(jī)序列：隨機(jī)過程的時(shí)間t只能取某些時(shí)刻，如 ， 2 ，.，n ，且這時(shí)得到的隨機(jī)變量 是連續(xù)型隨機(jī)變量，即時(shí)間是離散的。相當(dāng)于對(duì)連續(xù)型隨機(jī)過程的采樣。,48,2. 按樣本函數(shù)的形式來分類,不確定的隨機(jī)過程：隨機(jī)過程的任意樣本函數(shù)的值不能被預(yù)測(cè)。例如接收機(jī)噪聲電壓波形。,確定的隨機(jī)過程：隨機(jī)過程的任意樣本函數(shù)的值能被預(yù)測(cè)。例如，樣本函數(shù)為正弦信號(hào)。,49,離散型隨機(jī)過程,不是確定性隨機(jī)過程,50,例3 離散型隨機(jī)過程的樣本函數(shù)皆為常數(shù)，

11、 即X(t)=C=可變常數(shù)，其中C為隨機(jī)變量，其可能值 為C1=1，C2=2和C3=3，它們分別已概率0.6、0.3及0.1 出現(xiàn)。X(t)是確定性過程嗎？,X(t)是確定性隨機(jī)過程,51,3. 按概率結(jié)構(gòu)和特性分類,按分布函數(shù)或概率密度函數(shù)：正態(tài)隨機(jī)過程、泊松隨機(jī)過程等,按平穩(wěn)性：平穩(wěn)隨機(jī)過程、非平穩(wěn)隨機(jī)過程,按遍歷性：遍歷隨機(jī)過程、非遍歷隨機(jī)過程,按功率譜密度特性：寬帶隨機(jī)過程、窄帶隨機(jī)過程等,52,三、 隨機(jī)過程的概率分布,1. 一維概率分布,隨機(jī)過程X(t)在任意ti T的取值X(ti)是一維隨機(jī)變量。記為Fx(xi；ti)=PX(ti)xi為隨機(jī)過程 X(t)的一維分布函數(shù)。,若 的

12、偏導(dǎo)數(shù)存在，則有,53,2. 二維概率分布,若FX(x1,x2;t1,t2)對(duì)x1，x2的二階混合偏導(dǎo)存在，則,為隨機(jī)過程X(t)的二維概率密度,54,3. n維概率分布,55,四、隨機(jī)過程的數(shù)字特征,隨機(jī)變量的數(shù)字特征通常是確定值；隨機(jī)過程的數(shù)字特征通常是確定性函數(shù)。,對(duì)隨機(jī)過程的數(shù)字特征的計(jì)算方法，是先把時(shí)間t固定，然后用隨機(jī)變量的分析方法來計(jì)算。,56,1. 數(shù)學(xué)期望,顯然， 是某一個(gè)平均函數(shù)，隨機(jī)過程的諸樣本在它的附近起伏變化，如圖所示：,物理意義：如果隨機(jī)過程表示接收機(jī)的輸出電壓，那么它的數(shù)學(xué)期望就是輸出電壓的瞬時(shí)統(tǒng)計(jì)平均值。,57,2. 均方值和方差,隨機(jī)過程 在任一時(shí)刻t的取值是

13、一個(gè)隨機(jī)變量 。我們把 二階原點(diǎn)矩稱為隨機(jī)過程的均方值，把二階中心矩記作隨機(jī)過程的方差。即：,且,58,物理意義：如果 表示噪聲電壓，則均方值 和方差 分別表示消耗在單位電阻上的瞬時(shí)功率統(tǒng)計(jì)平均值和瞬時(shí)交流功率統(tǒng)計(jì)平均值。,標(biāo)準(zhǔn)差或均方差：,59,3. 自相關(guān)函數(shù),先比較具有相同數(shù)學(xué)期望和方差的兩個(gè)隨機(jī)過程。,60,自相關(guān)函數(shù)用來描述隨機(jī)過程任意兩個(gè)時(shí)刻的狀態(tài)之間的內(nèi)在聯(lián)系，通常用 描述。,61,4. 自協(xié)方差函數(shù),若用隨機(jī)過程的兩個(gè)不同時(shí)刻之間的二階混合中心矩來定義相關(guān)函數(shù)，我們稱之為自協(xié)方差。用 表示，它反映了任意兩個(gè)時(shí)刻的起伏值之間相關(guān)程度。,62,比較自協(xié)方差和自相關(guān)函數(shù)的關(guān)系,比較自

14、協(xié)方差和方差的關(guān)系,63,例4：求隨機(jī)相位正弦波 的數(shù)學(xué)期望，方差，自相關(guān)函數(shù)及一維概率密度。式中， 為常數(shù)，是區(qū)間0， 上均勻分布的隨機(jī)變量。,64,65,（3）自相關(guān)函數(shù),66,67,例5：設(shè)隨機(jī)過程X(t)=A+Bt，其中A和B是相互獨(dú)立的正態(tài)分布N(0,1)隨機(jī)變量，求X(t)的數(shù)學(xué)期望、方差、自相關(guān)函數(shù)、協(xié)方差函數(shù)、一維和二維概率密度函數(shù)。,（1）數(shù)學(xué)期望,（2）方差,68,（3）自相關(guān)函數(shù),（4）自協(xié)方差函數(shù),69,（5）一維概率密度函數(shù),因A和B都是正態(tài)分布隨機(jī)變量，,所以，給定時(shí)間t，X(t)也是正態(tài)分布隨機(jī)變量，且,70,（6）二維概率密度函數(shù),給定時(shí)間t1和t2，,X(t1

15、) 和X(t2)是兩個(gè)正態(tài)分布隨機(jī)變量，且,71,例6(課堂練習(xí))：設(shè)隨機(jī)過程X(t)=Acos0t，其中 0為常數(shù)，A為在(0,1)之間均勻分布的隨機(jī)變量， (1) 畫出過程X(t)的幾個(gè)樣本函數(shù)圖形； (2) 試求t=0、/(4 0)和3/(4 0)時(shí)， X(t)的一維概率密度函數(shù)。 (3)求X(t)的均值、相關(guān)函數(shù)、協(xié)方差函數(shù)和方差函數(shù),72,例6(課堂練習(xí))：設(shè)隨機(jī)過程X(t)=Acosw0t，其中w0為常數(shù)，A為在(0,1)之間均勻分布的隨機(jī)變量， (1) 畫出過程X(t)的幾個(gè)樣本函數(shù)圖形； (2) 試求t=0、/(4w0)和3/(4w0)時(shí)， X(t)的一維概率密度函數(shù)。 (3)

16、求X(t)的均值、相關(guān)函數(shù)、協(xié)方差函數(shù)和方差函數(shù),解：,t=0,X1=X(t=0)=A,t=/(4w0),X2=X(t= /(4w0)=Acos(/4),t=3/(4w0),X3=X(t= 3/(4w0)=Acos(3/4),73,74,五、 隨機(jī)過程的特征函數(shù),1. 一維特征函數(shù),隨機(jī)過程 在任一特定時(shí)刻t的取值是一維隨機(jī)變量，其特征函數(shù)為:,其反變換為：,n階矩,75,2. 二維特征函數(shù),其反變換為：,76,3. n維特征函數(shù),77,1.1 小結(jié),隨機(jī)過程X(t,)：隨時(shí)間變化的一族隨機(jī)變量 隨機(jī)過程分類 隨機(jī)過程統(tǒng)計(jì)特性描述 本章的重點(diǎn)內(nèi)容之一 一維、二維聯(lián)合概率密度 數(shù)學(xué)期望,均方值,

17、方差,自相關(guān)函數(shù),自協(xié)方差函數(shù),78,1.2 連續(xù)時(shí)間隨機(jī)過程的微分和積分,基本要求： 理解隨機(jī)過程連續(xù)的概念 理解隨機(jī)過程微分的概念，掌握隨機(jī)過程導(dǎo)數(shù)的數(shù)字特征求解 理解隨機(jī)過程積分的概念，掌握隨機(jī)過程三種積分方式及對(duì)應(yīng)數(shù)字特征求解,79,1.2 連續(xù)時(shí)間隨機(jī)過程的微分和積分,一、 隨機(jī)過程的連續(xù)性,1. 預(yù)備知識(shí)：,對(duì)于確定性函數(shù) ， 若,則 在 處連續(xù)。,80,2. 隨機(jī)過程 連續(xù)性定義,81,3. 隨機(jī)過程 的相關(guān)函數(shù)連續(xù)，則 連續(xù),因此，如果對(duì) 時(shí)刻，函數(shù) 在 點(diǎn)上連續(xù)，則隨機(jī)過程 必在點(diǎn)t 上連續(xù)。,證：,82,4. 隨機(jī)過程 均方連續(xù)，則其數(shù)學(xué)期望連續(xù),證：,由均方連續(xù)的定義，

18、，則不等式左端趨于0，那么不等式的右端也必趨于0（均值的平方不可能小于0）,設(shè),83,即：,注意 為確定性函數(shù)，由預(yù)備知識(shí)，可知連續(xù)。,可將此結(jié)果寫成,求極限和求數(shù)學(xué)期望的次序可以交換,84,二、 隨機(jī)過程的導(dǎo)數(shù),預(yù)備知識(shí)： 對(duì)于一般確定性函數(shù)，高等數(shù)學(xué)給出的可導(dǎo)定義如下：,一階可導(dǎo)：,如果 存在，則 在t處可導(dǎo)，記為 。,85,二階可導(dǎo)：,存在，則 二階可導(dǎo)，記為,若,86,1. 隨機(jī)過程可導(dǎo)的定義, 通常意義下的導(dǎo)數(shù),隨機(jī)過程X(t)的導(dǎo)數(shù)可定義為極限,如果極限在均方意義下存在，則X(t)具有均方意義下的導(dǎo)數(shù)。,87,如果隨機(jī)過程 滿足,則稱 在t時(shí)刻具有均方導(dǎo)數(shù) ，表示為, 均方意義下的

19、導(dǎo)數(shù),88,2. 判別方法,判斷一個(gè)隨機(jī)過程是否均方可微的方法是采用柯西準(zhǔn)則,即,而,89,若存在混合偏導(dǎo),，則t1=t2時(shí)有,=,可見，隨機(jī)過程X(t)在t處均方可微的充分條件為：相關(guān)函數(shù)在它的自變量相等時(shí)，存在二階混合偏導(dǎo)數(shù)且連續(xù)，即存在,90,3. 數(shù)字特征,（1）隨機(jī)過程導(dǎo)數(shù)的數(shù)學(xué)期望等于其數(shù)學(xué)期望的導(dǎo)數(shù),證明：,91,（2）隨機(jī)過程導(dǎo)數(shù)的相關(guān)函數(shù)等于可微隨機(jī)過程的相關(guān)函數(shù)的混合偏導(dǎo)數(shù),證明：,92,93,94,例2. 隨機(jī)過程X(t)的數(shù)學(xué)期望為,求隨機(jī)過程,的均值。,95,的均值、相關(guān)函數(shù)、,，其中V是均值為4，方差為1,96,隨機(jī)過程連續(xù)與可導(dǎo)小結(jié),確定函數(shù)的連續(xù)性,隨機(jī)過程的連

20、續(xù)性,則稱該隨機(jī)過程在通常意義下連續(xù)。,t0,若,則稱隨機(jī)過程X(t)在t點(diǎn)均方連續(xù)，記為：,的均方值趨于零，即,時(shí),97,如果對(duì) 時(shí)刻，函數(shù) 在 點(diǎn)上連續(xù)，則隨機(jī)過程 必在點(diǎn)t上連續(xù)。,隨機(jī)過程均方連續(xù)的判定：,98,確定函數(shù)的微分,隨機(jī)過程的微分,則稱該隨機(jī)過程在通常意義下導(dǎo)數(shù)。,t0,若,的均方值趨于零，即,則稱隨機(jī)過程X(t)在t0點(diǎn)均方可導(dǎo)，記為：,99,隨機(jī)過程均方可導(dǎo)的判定：,隨機(jī)過程X(t)在t處均方可微的充分條件為：相關(guān)函數(shù)在它的自變量相等時(shí)，存在二階混合偏導(dǎo)數(shù)且連續(xù)，即存在,100,101,三、 隨機(jī)過程的積分,1. 預(yù)備知識(shí),對(duì)于確定性函數(shù) ，,其中 ，,102,2. 隨

21、機(jī)過程的三種積分,定區(qū)間積分： 隨機(jī)過程 在確定區(qū)間 上的積分Y是一個(gè)隨機(jī)變量，即,即,則稱 為隨機(jī)過程 在 上的均方積分。,a,的均方值趨于零，,103,加權(quán)隨機(jī)過程積分：,變上限隨機(jī)過程積分：,a,a,104,3.定區(qū)間隨機(jī)過程積分的數(shù)字特征,（1）定區(qū)間隨機(jī)過程積分的數(shù)學(xué)期望等于隨機(jī)過程數(shù)學(xué)期望的積分。,證明：,求積分和求期望可以互換順序。,105,(2) 定區(qū)間隨機(jī)過程積分的均方值等于隨機(jī)過程自相關(guān)函數(shù)的二重積分；其方差為隨機(jī)過程協(xié)方差的二重積分。,106,107,4.加權(quán)隨機(jī)過程積分的數(shù)字特征,(1)數(shù)學(xué)期望,108,(2)相關(guān)函數(shù),109,(3)協(xié)方差函數(shù),110,(1) 數(shù)學(xué)期望

22、,5. 變上限隨機(jī)過程積分的數(shù)字特征,111,(2) 相關(guān)函數(shù)：等于對(duì)隨機(jī)過程的相關(guān)函數(shù)作兩次變上限積分（先對(duì)t1,后對(duì)t2積分）,112,(3) 協(xié)方差函數(shù)：等于對(duì)隨機(jī)過程的協(xié)方差函數(shù)作兩次變上限積分（先對(duì)t1,后對(duì)t2積分）,113,例4. 隨機(jī)過程X(t)=,的隨機(jī)變量，求隨機(jī)過程,的均值、相關(guān),，其中V是均值為5，方差為1,函數(shù)、協(xié)方差函數(shù)和方差。,解：,(1)求X(t)的均值和相關(guān)函數(shù),114,(2)求Y(t)的均值、相關(guān)函數(shù)和協(xié)方差函數(shù),115,116,例5. 隨機(jī)過程X(t)=,的隨機(jī)變量，求隨機(jī)過程,的均值、,，其中V是均值為1，方差為1,相關(guān)函數(shù)、協(xié)方差函數(shù)和方差。,解：,(

23、1)求X(t)的均值和相關(guān)函數(shù),117,(2)求Y(t)的均值、相關(guān)函數(shù)和協(xié)方差函數(shù),118,119,1.3 平穩(wěn)隨機(jī)過程及其遍歷性,基本要求：, 理解隨機(jī)過程嚴(yán)平穩(wěn)性的概念，會(huì)判斷, 掌握嚴(yán)平穩(wěn)隨機(jī)過程一維、二維概率密度的特性。, 理解隨機(jī)過程寬平穩(wěn)性的概念，會(huì)判斷，掌握寬平穩(wěn)隨機(jī)過程相關(guān)函數(shù)的性質(zhì)。, 理解隨機(jī)過程遍歷性的概念，會(huì)判斷。, 了解隨機(jī)過程相關(guān)函數(shù)的測(cè)量方法。,120,1.3 平穩(wěn)隨機(jī)過程及其遍歷性,一、 平穩(wěn)隨機(jī)過程,1. 嚴(yán)平穩(wěn)隨機(jī)過程,(1) 定義,如果對(duì)于任意的n和 ，隨機(jī)過程 X(t)的 n 維概率密度滿足：,則稱X(t) 為嚴(yán)平穩(wěn)（或狹義）隨機(jī)過程 。,嚴(yán)平穩(wěn)隨機(jī)過

24、程的統(tǒng)計(jì)特性與時(shí)間起點(diǎn)無關(guān) 。,121,(2) 一、二維概率密度及數(shù)學(xué)特征,嚴(yán)平穩(wěn)隨機(jī)過程的一維概率密度與時(shí)間無關(guān),122,嚴(yán)平穩(wěn)隨機(jī)過程的二維概率密度只與 t1, t2的時(shí)間間隔有關(guān)，而與時(shí)間起點(diǎn)無關(guān),123,(3)嚴(yán)平穩(wěn)的判斷,按照嚴(yán)平穩(wěn)的定義，判斷一個(gè)隨機(jī)過程是否為嚴(yán)平穩(wěn)，需要知道其n維概率密度，可是求n維概率密度是比較困難的。不過，如果有一個(gè)反例，就可以判斷某隨機(jī)過程不是嚴(yán)平穩(wěn)的，具體方法有兩個(gè)：,(1) 若X(t)為嚴(yán)平穩(wěn)，k為任意正整數(shù)，則 與時(shí)間t無關(guān)。,(2) 若X(t)為嚴(yán)平穩(wěn)，則對(duì)于任一時(shí)刻t0， X(t0)具有相同的統(tǒng)計(jì)特性。,124,二、 寬平穩(wěn)隨機(jī)過程,若隨機(jī)過程 X

25、(t)滿足,則稱X(t)為寬平穩(wěn)或廣義平穩(wěn)隨機(jī)過程。,嚴(yán)平穩(wěn)與寬平穩(wěn)的關(guān)系：嚴(yán)平穩(wěn)過程的均方值有界，則此過程為寬平穩(wěn)的，反之不成立。對(duì)于正態(tài)過程，嚴(yán)平穩(wěn)與寬平穩(wěn)等價(jià)。,125,例1. 設(shè)隨機(jī)過程Z(t)=Xsint+Ycost，其中X和Y是相互獨(dú)立的 二元隨機(jī)變量，它們都分別以2/3和1/3的概率取-1和2，試求： Z(t)的均值和自相關(guān)函數(shù)； 證明Z(t)是寬平穩(wěn)的，但不是嚴(yán)平穩(wěn)的。,解：,因此，Z(t)是寬平穩(wěn)的。,126,因此，Z(t)不是嚴(yán)平穩(wěn)的。,127,例2. 設(shè)隨機(jī)過程X(t)=t2+Asint+Bcost，其中A和B都是一元隨機(jī)變 量，且EA=EB=0，DA=DB=10，EAB

26、=0，試分別討論 X(t)和Y(t)=X(t)-mX(t)的平穩(wěn)性。,解：,X(t)不是平穩(wěn)過程。,Y(t)是平穩(wěn)過程。,128,三、平穩(wěn)隨機(jī)過程相關(guān)函數(shù)的性質(zhì),性質(zhì)1,平均功率,性質(zhì)2,偶對(duì)稱性,性質(zhì)3,極值性,證：,129,則 。,若X(t)是非周期的，,由協(xié)方差函數(shù)的定義，可得,由此,若X(t)是非周期，則有,證：,且在t=0時(shí),可得,130,平穩(wěn)隨機(jī)過程必須滿足對(duì)所有 均成立。,性質(zhì)5,相關(guān)函數(shù)（協(xié)方差）的典型曲線,131,例3：已知平穩(wěn)隨機(jī)過程 X(t)的自相關(guān)函數(shù)為 RX()=100e-10| |+100cos10 +100 求X(t)的均值、均方值和方差。,RX()=（100co

27、s10 ）+（100e-10| |+100） = RX1()+ RX2(),所以有,解：,132,嚴(yán)平穩(wěn)隨機(jī)過程,寬平穩(wěn)隨機(jī)過程,嚴(yán)平穩(wěn)隨機(jī)過程的統(tǒng)計(jì)特性與時(shí)間起點(diǎn)無關(guān) 。,一維概率密度 與時(shí)間無關(guān),均值、均方值、 方差及 與時(shí)間無關(guān),二維概率密度僅 與時(shí)間間隔有關(guān),相關(guān)函數(shù)僅與時(shí)間間隔有關(guān),均值與時(shí)間無關(guān)，相關(guān)函數(shù)僅與時(shí)間間隔有關(guān),133,四、平穩(wěn)過程的相關(guān)系數(shù)和相關(guān)時(shí)間,此值在1，1之間。,相關(guān)系數(shù),表示不相關(guān),表示完全相關(guān),表示正相關(guān)，即兩個(gè)不同時(shí)刻起伏值符號(hào)相同可能性大。,134,相關(guān)時(shí)間,當(dāng)相關(guān)系數(shù)中的時(shí)間間隔大于某個(gè)值，可以認(rèn)為兩個(gè)不同時(shí)刻起伏值不相關(guān)了，這個(gè)時(shí)間就稱為相關(guān)時(shí)間。,

28、(1) 相關(guān)系數(shù)從最大值1下降至0.05時(shí)所經(jīng)歷的時(shí)間間隔 ，記做相關(guān)時(shí)間, 即:,(2)用鉅形（高為 ,底為 的矩形）面積等于陰影面積( 積分的一半）來定義相關(guān)時(shí)間，即,物理意義,相關(guān)時(shí)間 越小，就意味著相關(guān)系數(shù) 隨 增加而降落的越快，這表明隨機(jī)過程隨時(shí)間變化越劇烈。反之， 越大，則表時(shí)隨機(jī)過程隨時(shí)間變化越慢。,135,解：,136,五、 遍歷性或各態(tài)歷經(jīng)性,1 遍歷性過程的定義,如果一個(gè)隨機(jī)過程 X(t),它的各種時(shí)間平均（時(shí)間足夠長(zhǎng)）依概率1收斂于相應(yīng)的集合平均,則稱X(t)具有嚴(yán)格遍歷性,并稱它為嚴(yán)遍歷過程。,嚴(yán)遍歷性的定義,137,寬遍歷性的定義,設(shè)X(t)是一個(gè)平穩(wěn)隨機(jī)過程，且滿足

29、：,則稱X(t)為寬(或廣義)遍歷過程。,時(shí)間均值,均值遍歷,時(shí)間相關(guān)函數(shù),相關(guān)函數(shù) 遍歷,依概率1成立,138,均方值和方差的遍歷性,均方值遍歷,方差遍歷,139,2 遍歷過程的實(shí)際應(yīng)用,一般隨機(jī)過程的時(shí)間平均是隨機(jī)變量，但遍歷過程的時(shí)間平均為確定量，因此可用任一樣本函數(shù)的時(shí)間平均代替整個(gè)過程的統(tǒng)計(jì)平均，在實(shí)際工作中，時(shí)間T不可能無限長(zhǎng)，只要足夠長(zhǎng)即可。,3 遍歷過程和平穩(wěn)過程的關(guān)系,遍歷過程必須是平穩(wěn)的，而平穩(wěn)過程不一定是遍歷的。（遍歷必定平穩(wěn)由遍歷定義即可知）,140,解：,X(t)是平穩(wěn)隨機(jī)過程。,(1),141,(2),X(t)是寬遍歷隨機(jī)過程。,142,解：,X(t)不是遍歷性過程

30、。,143,4 遍歷過程的兩個(gè)判別定理,均值遍歷判別定理,平穩(wěn)過程X(t)的均值具有遍歷性的充要條件,平穩(wěn)過程X(t)的自相關(guān)函數(shù)具有遍歷性充要條件,自相關(guān)函數(shù)遍歷判別定理,式中：,144,對(duì)于正態(tài)平穩(wěn)隨機(jī)過程，若均值為零，自相關(guān)函數(shù) 連續(xù)，則此過程具有遍歷性的一個(gè)充分條件為,注意：判斷一個(gè)平穩(wěn)過程是否遍歷的，我們總是先假設(shè)其是遍歷的，然后看是否滿足定義要求（即時(shí)間平均以概率1等于統(tǒng)計(jì)平均），一般不用兩個(gè)判別定理。,5.,145,六、相關(guān)函數(shù)的測(cè)量,對(duì)于遍歷性過程，可用樣本函數(shù)的時(shí)間相關(guān)函數(shù) 來代替隨機(jī)過程的相關(guān)函數(shù)。,146,方法1：按照實(shí)驗(yàn)數(shù)據(jù)確定,147,方法2：利用積分器，即連續(xù)型相關(guān)

31、函數(shù)測(cè)量?jī)x,利用電路實(shí)現(xiàn)下式,148,1.4 聯(lián)合平穩(wěn)隨機(jī)過程,基本要求：, 兩個(gè)隨機(jī)過程的互相關(guān)函數(shù)和互協(xié)方差函數(shù) 的定義。, 兩個(gè)隨機(jī)過程聯(lián)合平穩(wěn)的定義及判斷。, 兩個(gè)隨機(jī)過程聯(lián)合遍歷的定義及判斷。, 復(fù)隨機(jī)過程的定義及數(shù)字特征的計(jì)算。,149,1.4 聯(lián)合平穩(wěn)隨機(jī)過程,一 兩個(gè)隨機(jī)過程的聯(lián)合概率分布,設(shè)有兩個(gè)隨機(jī)過程 和 ,它們的概率密度,分別為,定義這兩個(gè)過程的(n+m)維聯(lián)合分布函數(shù)為：,150,定義這兩個(gè)過程的(n+m)維聯(lián)合概率密度為：,注,151,3）可以由高維聯(lián)合分布求出它們的低維聯(lián)合概率分布。,4）若兩個(gè)隨機(jī)過程的聯(lián)合概率分布不隨時(shí)間平移而變化，即與時(shí)間的起點(diǎn)無關(guān)，則稱此二

32、過程為聯(lián)合嚴(yán)平穩(wěn)或嚴(yán)平穩(wěn)相依。,2）若兩個(gè)過程的n+m維聯(lián)合概率分布給定，則它們的全部統(tǒng)計(jì)特性也確定了。,152,設(shè)兩個(gè)隨機(jī)過程 和 ，它們?cè)谌我鈨蓚€(gè)時(shí)刻t1，t2的取值為隨機(jī)變量 、 ,則定義它們的互相關(guān)函數(shù)為：,二 兩個(gè)隨機(jī)過程的數(shù)字特征,式中，,是隨機(jī)過程 和,的二維聯(lián)合概率密度。,1. 互相關(guān)函數(shù),153,隨機(jī)過程 和 的互協(xié)方差函數(shù)定義為：,式中， 和 分別是隨機(jī)變量 和,的數(shù)學(xué)期望。,此式也可以寫成,2. 互協(xié)方差函數(shù),154,3 統(tǒng)計(jì)獨(dú)立、不相關(guān)、正交的概念,1）統(tǒng)計(jì)獨(dú)立,則稱隨機(jī)過程 和 相互獨(dú)立。,若,155,2) 不相關(guān),若兩個(gè)隨機(jī)過程 和 對(duì)任意兩個(gè)時(shí)刻,t1, t2都具

33、有 或 ，,3）正交,則稱 和 不相關(guān)。,若兩個(gè)隨機(jī)過程 和 對(duì)任意兩個(gè)時(shí)刻,t1, t2都具有 或 ，,則稱 和 互為正交過程。,156,(1) 如果兩個(gè)隨機(jī)過程相互獨(dú)立，且他們的二階 矩都存在，則必互不相關(guān)。 (2) 正態(tài)過程的不相關(guān)與相互獨(dú)立等價(jià)。,注：,157,三、 聯(lián)合寬平穩(wěn),1. 定義,158,2. 互協(xié)方差與互相關(guān)系數(shù),當(dāng)兩個(gè)隨機(jī)過程聯(lián)合平穩(wěn)時(shí)，它們的互協(xié)方差,互相關(guān)系數(shù),又稱作歸一化互樣關(guān)函數(shù)或標(biāo)準(zhǔn)互協(xié)方差函數(shù)。,注： 。當(dāng) 時(shí)，隨機(jī)變量 和 互不相關(guān)。,159,3. 聯(lián)合寬平穩(wěn)隨機(jī)過程互相關(guān)函數(shù)的性質(zhì),(1),證明：按定義即可證明，說明互相關(guān)函數(shù)既不是偶函數(shù)， 也不是奇函數(shù)。

34、,互相關(guān)函數(shù)的影像關(guān)系,160,(2),證明：,展開得：,所以，,同理，,161,(3),證明：,由性質(zhì)(2)，得,注意到,162,四、 聯(lián)合寬遍歷,163,平穩(wěn)隨機(jī)過程 X(t)和Y(t)的互相關(guān)函數(shù)為：,故這兩個(gè)隨機(jī)過程是平穩(wěn)相依的。,故KXY()僅在 時(shí)等于零，所以X(t1)和Y(t2)是相關(guān)的，因而它們不是統(tǒng)計(jì)獨(dú)立的。,解：,164,必須首先判斷隨機(jī)過程 X(t)和Y(t)的平穩(wěn)性以及它們的聯(lián)合平穩(wěn)性。,解：,因此X(t)是平穩(wěn)的。,因此Y(t)是平穩(wěn)的。,因此X(t)和Y(t)是聯(lián)合平穩(wěn)的。,165,因此X(t)和Y(t)是聯(lián)合遍歷的。,166,四、復(fù)隨機(jī)過程,1.復(fù)隨機(jī)變量,(1)

35、 定義,(2) 分布函數(shù),即由X,Y的聯(lián)合概率分布描述。,167,(3) 數(shù)字特征, 數(shù)學(xué)期望,方差,注：)復(fù)隨機(jī)過程的方差等于它的實(shí)部與虛部的方差之和 )復(fù)隨機(jī)過程的方差為非負(fù)的實(shí)數(shù)。,168,相關(guān)矩,設(shè)Z1、Z2為兩個(gè)復(fù)隨機(jī)變量，則,互協(xié)方差,169,(4) 兩個(gè)復(fù)隨機(jī)變量的獨(dú)立、不相關(guān)、正交,1）統(tǒng)計(jì)獨(dú)立,2）不相關(guān),3）正交,170,2.復(fù)隨機(jī)過程,(1) 定義,設(shè) ， 為實(shí)隨機(jī)過程，則定義,Z(t)=X(t)+jY(t),為復(fù)隨機(jī)過程。,(2) 概率密度函數(shù),Z(t)的統(tǒng)計(jì)特性可由X(t)和Y(t)的2n維聯(lián)合概率分布完整地描述，其概率密度為：,171,(3) 數(shù)字特征,數(shù)學(xué)期望,

36、方差, 自相關(guān)函數(shù),172,自協(xié)方差函數(shù),(4) 平穩(wěn)性,若復(fù)隨機(jī)過程Z(t)滿足：,則復(fù)隨機(jī)過程為寬平穩(wěn)過程。,173,互相關(guān)函數(shù),互協(xié)方差函數(shù),(5) 兩個(gè)復(fù)隨機(jī)過程的聯(lián)合平穩(wěn)性,174,175,例3. 設(shè)U和V是不相關(guān)的隨機(jī)變量，并且均值都為0， 方差都為1，問復(fù)隨機(jī)過程Z(t)=Ucost+jVsint的平穩(wěn)性。,解：,Z(t)是寬平穩(wěn)的,176,解：,Z(t)是寬平穩(wěn)的,177,1.5 正態(tài)隨機(jī)過程,一、 正態(tài)隨機(jī)過程的一般概念,如果隨機(jī)過程X(t)的任意n維概率分布都是正態(tài)分布，則稱它為正態(tài)隨機(jī)過程或高斯隨機(jī)過程，簡(jiǎn)稱正態(tài)過程或高斯過程。,178,概率密度函數(shù),式中,mX是n維向量

37、，K是n維陣：,179,正態(tài)隨機(jī)過程的概率密度函數(shù)由它的一、二階矩（均值、方差和相關(guān)系數(shù)完全決定）。,推論:,若復(fù)正態(tài)隨機(jī)過程Z(t)的n個(gè)采樣時(shí)刻得到n個(gè)復(fù)隨機(jī)變量，即,其中, Xi、Yi皆為實(shí)隨機(jī)變量。此n個(gè)復(fù)隨機(jī)變量的聯(lián)合概率密度應(yīng)是2n維隨機(jī)變量的聯(lián)合概率密度。,180,二 、平穩(wěn)正態(tài)隨機(jī)過程,1. 平穩(wěn)正態(tài)隨機(jī)過程的定義,若正態(tài)隨機(jī)過程滿足下列條件，則它是寬平穩(wěn)（平穩(wěn)）正態(tài)隨機(jī)過程。,181,2. 平穩(wěn)正態(tài)過程的n維概率密度,平穩(wěn)正態(tài)過程一、二維概率密度表達(dá)式,182,三、 正態(tài)隨機(jī)過程的性質(zhì),正態(tài)隨機(jī)過程的n維概率密度完全由它的均值集合，協(xié)方差函數(shù)集合所確定。,性質(zhì)1：,性質(zhì)2：,

38、正態(tài)過程的嚴(yán)平穩(wěn)與寬平穩(wěn)等價(jià)。,證明：,由于正態(tài)過程的均方值總是有界的， 因此嚴(yán)平穩(wěn)正態(tài)過程一定是寬平穩(wěn)的。,183,證明嚴(yán)平穩(wěn)，即證明,由于正態(tài)隨機(jī)過程的概率密度函數(shù)完全由均值和協(xié)方差函數(shù)決定。,設(shè),因此只要證明,184,由于X(t)是寬平穩(wěn)，因此它的數(shù)學(xué)期望為一常數(shù)，即有,對(duì)任意的i和k,由寬平穩(wěn)性,由寬平穩(wěn)性,因此是嚴(yán)平穩(wěn)的隨機(jī)過程。,185,正態(tài)過程的不相關(guān)與相互獨(dú)立等價(jià)。,性質(zhì)3：,若X(t)在n個(gè)不同時(shí)刻采樣得到一組隨機(jī)變量X1, X2,Xn,證明：,（1）如果Xn（n1,2,）兩兩之間相互獨(dú)立，則,（2）如果Xn（n1,2,）兩兩之間互不相關(guān)，則,當(dāng) 時(shí)。所以，兩兩互不相關(guān)。,1

39、86,即兩兩相互獨(dú)立。,因此,所以,則,187,性質(zhì)4：平穩(wěn)正態(tài)過程與確定信號(hào)之和仍為正態(tài)分布。,若正態(tài)過程X(t) 在T上均方可微，則其導(dǎo)數(shù)X(t)也是正態(tài)過程。,性質(zhì)5：,若正態(tài)過程 X(t) 在T上均方可積，則積分過程,性質(zhì)6：,也是正態(tài)過程。,188,正態(tài)隨機(jī)過程通過線性系統(tǒng)后的輸出仍為正態(tài)過程。,性質(zhì)7：,推論： 正態(tài)過程的線性變換仍為正態(tài)過程。,189,190,解：,由題知Y是服從正態(tài)分布的隨機(jī)變量。,191,192,時(shí),193,時(shí),194,1.6 馬爾可夫鏈,基本要求：, 理解馬爾可夫鏈的定義,掌握馬爾可夫鏈轉(zhuǎn)移概率的定義，會(huì)求一步轉(zhuǎn)移概率及任意 n步轉(zhuǎn)移概率。,掌握馬爾可夫鏈初

40、始分布和絕對(duì)分布的概念，會(huì)求絕對(duì)分布。 會(huì)判斷馬爾可夫鏈的遍歷性，會(huì)求極限分布。,能由轉(zhuǎn)移概率矩陣畫出狀態(tài)轉(zhuǎn)移圖，對(duì)狀態(tài)進(jìn)行分類。,195,回 顧,1. 隨機(jī)過程分類,按照時(shí)間和狀態(tài)空間的連續(xù)性，隨機(jī)過程分成以下四類：, 連續(xù)型隨機(jī)過程, 離散型隨機(jī)過程, 離散型隨機(jī)序列, 連續(xù)型隨機(jī)序列,時(shí)間連續(xù)、隨機(jī)變量連續(xù),時(shí)間連續(xù)、隨機(jī)變量離散,時(shí)間離散、隨機(jī)變量連續(xù),時(shí)間離散、隨機(jī)變量離散,馬爾可夫鏈屬于離散型隨機(jī)序列。,問題：時(shí)間離散型隨機(jī)過程的聯(lián)合概率和數(shù)字特征如何描述？,時(shí)間離散型 隨機(jī)過程,196,2. 全概率公式,197,一、馬爾可夫過程,當(dāng)隨機(jī)過程在時(shí)刻 ti 所處的狀態(tài)已知的條件下，過

41、程在時(shí)刻 所處的狀態(tài)與過程在時(shí)刻 以前的狀態(tài)無關(guān)，而僅與過程在 所處的狀態(tài)有關(guān)。這種特性稱為隨機(jī)過程的“無后效性”或馬爾可夫性。,1.馬爾可夫性或無后效性,2.定義,已經(jīng)知道隨機(jī)過程現(xiàn)在的條件下，其將來的條件分布與過去無關(guān),198,3. 分類 T和E都取連續(xù)集時(shí)，稱為馬爾可夫過程。 若T取連續(xù)集而E取離散集時(shí)，稱為可列馬爾可夫過程。 若T取離散集而E取連續(xù)集時(shí)，稱為馬爾可夫序列。 若T和E都取離散集時(shí)，稱為馬爾可夫鏈。,199,二、馬爾可夫鏈定義,200,三、馬爾可夫鏈的轉(zhuǎn)移概率及性質(zhì),主要內(nèi)容：, 轉(zhuǎn)移概率,一步轉(zhuǎn)移概率矩陣和n步轉(zhuǎn)移概率矩陣及兩者之 間的關(guān)系,初始分布和絕對(duì)分布，絕對(duì)分布與

42、轉(zhuǎn)移概率之間 的關(guān)系,由轉(zhuǎn)移概率矩陣畫狀態(tài)轉(zhuǎn)移圖,201,1. 轉(zhuǎn)移概率,注：若 的取值與m無關(guān)， 則稱該馬氏鏈為齊次馬氏鏈。,202,一步轉(zhuǎn)移概率 在齊次條件下，令式（1.6.9）中,稱為一步轉(zhuǎn)移概率矩陣。,（1）,（2）,2.一步轉(zhuǎn)移概率,Xm 的 狀 態(tài),Xm+1的狀態(tài),注：,在時(shí)刻m，馬氏鏈從任何一個(gè)狀態(tài)出發(fā)，到 m+1時(shí)刻，必然轉(zhuǎn)移到E中的狀態(tài)之一。,203,例1. 在某數(shù)字通信系統(tǒng)中多級(jí)傳輸0、1兩種數(shù)字信號(hào)。由于系統(tǒng)中存在干擾，在任一級(jí)輸入0、1數(shù)字信號(hào)后，其輸出不產(chǎn)生錯(cuò)誤的概率為p，產(chǎn)生錯(cuò)誤的概率為q=1-p ，求一級(jí)傳輸時(shí)的概率轉(zhuǎn)移矩陣。,解：系統(tǒng)每一級(jí)的輸入狀態(tài)和輸出狀態(tài)構(gòu)

43、成一個(gè)兩狀態(tài)的馬氏鏈，其一步轉(zhuǎn)移概率矩陣為,典型的二進(jìn)制對(duì)稱信道(BSC),204,例2. 已知明日是否降雨只與今日的天氣有關(guān)，與以往的天氣無關(guān)，并且今日有雨而明日有雨的概率為0.6，今日無雨而明日有雨的概率為0.3，試寫出其一步轉(zhuǎn)移概率矩陣。,解：令有雨為狀態(tài) “1”，無雨為狀態(tài) “0，由題得,205,例3. 設(shè)一隨機(jī)游動(dòng)的質(zhì)點(diǎn)Q在圖示的直線點(diǎn)集E=1，2，3，4，5上做隨機(jī)游動(dòng)，且僅在1秒、2秒等時(shí)刻游動(dòng)，游動(dòng)規(guī)則是： 若Q出現(xiàn)在i點(diǎn)(1i5)，則在下一時(shí)刻各以1/3的概率向左或向右移動(dòng)，以1/3的概率留在原處， 若Q出現(xiàn)在1(或5)處，則下一時(shí)刻以概率1移動(dòng)到2(或5)上。 試寫出其一步

44、轉(zhuǎn)移概率矩陣。,解：,206,3. n步轉(zhuǎn)移概率,時(shí)，可得到,可構(gòu)成,n步轉(zhuǎn)移概率矩陣,由所有n步轉(zhuǎn)移概率,（1）,（2）,為了數(shù)學(xué)處理便利，通常規(guī)定,步轉(zhuǎn)移概率,207,4切普曼-柯爾莫哥洛夫方程（C-K方程）,對(duì)于 步轉(zhuǎn)移概率，有如下的切普曼-柯爾莫哥洛夫方程的離散形式,含義：馬氏鏈在m時(shí)刻處于i狀態(tài)下，經(jīng)k+l步轉(zhuǎn)移至m+k+l 時(shí)到達(dá)狀態(tài)j，可以先在m時(shí)刻從狀態(tài)i出發(fā)，經(jīng)l步到達(dá)某個(gè) 中間狀態(tài)r，再在m+l時(shí)刻從狀態(tài)r出發(fā)，經(jīng)k步到達(dá)狀態(tài)j。 中間狀態(tài)要取遍整個(gè)狀態(tài)空間E,208,證明：,由全概率公式,由無后效性,209,若用概率矩陣表示，有,當(dāng),時(shí)，有,同理可推出，當(dāng),時(shí)，有,即任意

45、k步轉(zhuǎn)移概率矩陣可由一步轉(zhuǎn)移概率矩陣自乘k次來得到。,210,例4(例2續(xù)). 已知明日是否降雨只與今日的天氣有關(guān)，與以往的天氣無關(guān)，并且今日有雨而明日有雨的概率為0.6，今日無雨而明日有雨的概率為0.3，試 寫出其一步轉(zhuǎn)移概率矩陣。 求二至四步轉(zhuǎn)移概率矩陣。 求今日有雨而后日(第二日)仍有雨的概率。 求今日無雨而第四日有雨的概率。,解: (1) 令有雨為狀態(tài) “1”，無雨為狀態(tài) “0，由題得,211,(2),(3),有二步轉(zhuǎn)移概率矩陣P(2)得今日有雨而后日(第二日)仍有雨的 概率為0.48,(4),有四步轉(zhuǎn)移概率矩陣P(4)得今日無雨而第四日有雨的 概率為0.4251,212,5初始分布與

46、絕對(duì)分布,(1) 初始分布定義,則稱 為該馬氏鏈的初始分布，也稱初始概率。,213,(2) 絕對(duì)分布定義,則稱 為該馬氏鏈的絕對(duì)分布，也稱絕對(duì)概率。,214,(3) 絕對(duì)分布計(jì)算,定理1.馬氏鏈的絕對(duì)概率由初始分布和相應(yīng)的轉(zhuǎn)移概率唯一確定。,證：設(shè),為一馬氏鏈，,為狀態(tài)集，則對(duì)任意,時(shí)馬氏鏈處于狀態(tài)j,的概率為,215,時(shí)，絕對(duì)概率由下式確定：,即:絕對(duì)概率 由初始概率 及n步轉(zhuǎn)移概率 唯一確定。,利用C-K方程，則n步轉(zhuǎn)移矩陣可由一步轉(zhuǎn)移矩陣唯一確定。,當(dāng),推論：馬氏鏈的絕對(duì)概率由初始分布及一步轉(zhuǎn)移概率唯一確定。,216,由馬氏鏈的轉(zhuǎn)移概率和初始分布，不僅可以完全確定其絕對(duì)分布，也可以完全確

47、定其有限維分布。即,5馬氏鏈有限維分布的計(jì)算,217,218,解：,219,220,221,例6(例1續(xù)). 在某數(shù)字通信系統(tǒng)中多級(jí)傳輸0、1兩種數(shù)字信號(hào)。由于系統(tǒng)中存在干擾，在任一級(jí)輸入0、1數(shù)字信號(hào)后，其輸出不產(chǎn)生錯(cuò)誤的概率為p=0.9，產(chǎn)生錯(cuò)誤的概率為q=1-p=0.1 ，求 一級(jí)傳輸時(shí)的概率轉(zhuǎn)移矩陣。 求二級(jí)傳輸后的傳真率和三級(jí)傳輸后的誤碼率。 設(shè)初始分布p(x0=0)=a,p(x0=1)=1-a，且二級(jí)傳輸后的輸出為1，求原發(fā)數(shù)字也為1的概率,解：(1)系統(tǒng)每一級(jí)的輸入狀態(tài)和輸出狀態(tài)構(gòu)成一個(gè)兩狀態(tài)的馬氏鏈，其一步轉(zhuǎn)移概率矩陣為,222,二級(jí)傳輸后的傳真率為0.82,三級(jí)傳輸后的誤碼率

48、為0.244,223,7. 轉(zhuǎn)移圖（狀態(tài)轉(zhuǎn)移圖與概率轉(zhuǎn)移圖）,步驟：,(1) 確定馬氏鏈的狀態(tài)數(shù)。,(2) 根據(jù)概率轉(zhuǎn)移矩陣，確定狀態(tài)之間的連接關(guān)系。,224,馬 爾 可 夫 鏈 回 顧,馬爾可夫鏈定義,轉(zhuǎn)移概率、一步轉(zhuǎn)移概率和n步轉(zhuǎn)移概率,初始分布和絕對(duì)分布,有限維分布,狀態(tài)轉(zhuǎn)移圖,225,馬爾可夫鏈定義,226,轉(zhuǎn)移概率,227,一步轉(zhuǎn)移概率 在齊次條件下，令式（1.6.9）中,一步轉(zhuǎn)移概率,228,229,n步轉(zhuǎn)移概率矩陣與一步轉(zhuǎn)移概率矩陣之間的關(guān)系,即任意k步轉(zhuǎn)移概率矩陣可由一步轉(zhuǎn)移概率矩陣自乘k次來得到。,含義：馬氏鏈在m時(shí)刻處于i狀態(tài)下，經(jīng)k+l步轉(zhuǎn)移至m+k+l 時(shí)到達(dá)狀態(tài)j，可

49、以先在m時(shí)刻從狀態(tài)i出發(fā)，經(jīng)l步到達(dá)某個(gè) 中間狀態(tài)r，再在m+l時(shí)刻從狀態(tài)r出發(fā)，經(jīng)k步到達(dá)狀態(tài)j。 中間狀態(tài)要取遍整個(gè)狀態(tài)空間E。,230,初始分布與絕對(duì)分布,初始分布定義,231,絕對(duì)分布定義,232,絕對(duì)分布計(jì)算,定理1.馬氏鏈的絕對(duì)概率由初始分布和相應(yīng)的轉(zhuǎn)移概率唯一確定。,233,234,由馬氏鏈的轉(zhuǎn)移概率和初始分布，不僅可以完全確定其絕對(duì)分布，也可以完全確定其有限維分布。即,馬氏鏈有限維分布的計(jì)算,235,轉(zhuǎn)移圖（狀態(tài)轉(zhuǎn)移圖與概率轉(zhuǎn)移圖）,步驟：,(1) 確定馬氏鏈的狀態(tài)數(shù)。,(2) 根據(jù)概率轉(zhuǎn)移矩陣，確定狀態(tài)之間的連接關(guān)系。,236,四、遍歷性與平穩(wěn)分布,設(shè)齊次馬氏鏈 的狀態(tài)空間為

50、E，若對(duì)一切 ，存在不依賴于i的極限,則稱馬爾可夫鏈具有遍歷性。并稱 為狀態(tài)j的穩(wěn)態(tài)概率。,1. 定義,注：具有遍歷性的馬氏鏈，無論從哪個(gè)狀態(tài)出發(fā)，當(dāng)轉(zhuǎn)移 步數(shù)n充分大后，轉(zhuǎn)移到狀態(tài)j的概率接近pj，即當(dāng)n足 夠大時(shí)，pj可作為pij(n)的近似值。,237,2. 遍歷性的判斷及極限分布的計(jì)算,238, 遍歷的馬氏鏈一定具有平穩(wěn)性，但平穩(wěn)的馬氏鏈不一定具有遍歷性（不遍歷的馬氏鏈也可具有平穩(wěn)性）。, 平穩(wěn)性的物理意義：對(duì)任意時(shí)刻，系統(tǒng)處于同一狀態(tài)的概率相同。,注：,239,例7設(shè)齊次馬氏鏈的狀態(tài)空間E=0,1,2，其一步轉(zhuǎn)移概率矩陣為,問：此鏈?zhǔn)欠窬哂斜闅v性，并求其穩(wěn)態(tài)分布,解：,240,由上式

51、，對(duì)任意的i,j，有,所以此馬氏鏈具有遍歷性。,由于,解得,241,例8. 設(shè)齊次馬氏鏈的狀態(tài)空間E=1,2，其一步轉(zhuǎn)移概率矩陣為,問：此鏈?zhǔn)欠窬哂斜闅v性，并求其穩(wěn)態(tài)分布,解：,由于,所以,由遍歷性定義知此馬氏鏈不具有遍歷性。,由轉(zhuǎn)移概率矩陣知，該馬氏鏈的初始分布一旦確定，其任意 時(shí)刻的概率分布也隨之確定，與初始分布相同，因而是平穩(wěn)的。 所有滿足p1+p2的分布都可以作為該馬鏈的平穩(wěn)分布。,242,例9設(shè)齊次馬氏鏈的狀態(tài)空間E=0,1,2，其一步轉(zhuǎn)移概率矩陣為,問：此鏈?zhǔn)欠窬哂斜闅v性，并求其穩(wěn)態(tài)分布,由題，對(duì)任意的i,j，有,所以此馬氏鏈具有遍歷性。,解：,243,由于,解得,244,例10.

52、 設(shè)齊次馬氏鏈的狀態(tài)空間E=0,1,2，其一步轉(zhuǎn)移概率矩陣為,解：,問：此鏈?zhǔn)欠窬哂斜闅v性，并求其穩(wěn)態(tài)分布,245,由上式，對(duì)任意的i,j，有,所以此馬氏鏈具有遍歷性。,由于,解得,246,五、馬氏鏈中的狀態(tài)分類,1. 到達(dá)與相通 到達(dá)： 如果對(duì)于狀態(tài) 與 （可簡(jiǎn)寫為i和 j)總存在某個(gè) 使得 ，則稱自i狀態(tài)經(jīng)過n步可以到達(dá)j狀態(tài)，并記為,反之，若對(duì)所有的 有 ，則自i狀態(tài)不可以到達(dá)j狀態(tài)，并記為,247,例11. 設(shè)一兩狀態(tài) 馬氏鏈具有以下轉(zhuǎn)移概率矩陣,解：要討論這一馬氏鏈兩個(gè)狀態(tài)的到達(dá)性，可先求出它的n步轉(zhuǎn)移概率矩陣。由于,對(duì)于所有的n, ，故狀態(tài)“1”不能到達(dá)狀態(tài)“0”； 存在n使得,故

53、狀態(tài)“0”可以到達(dá)狀態(tài)“1”。,討論其狀態(tài)的到達(dá)特性。,248,相通 若自狀態(tài)i可達(dá)狀態(tài)j，同時(shí)自狀態(tài)j也可達(dá)狀態(tài)i，則稱狀態(tài)和狀態(tài)相通，記為,249,例12無限制的隨機(jī)游走問題。考慮一個(gè)質(zhì)點(diǎn)在直線上作隨機(jī)游走如果在某一時(shí)刻質(zhì)點(diǎn)位于i,則下一步質(zhì)點(diǎn)將以概率 向前游走一步到達(dá)i+1處，或以概率 向后游走一步到達(dá)i-1處。現(xiàn)規(guī)定，這一質(zhì)點(diǎn)只能“向前”或“向后”游走一步，并且經(jīng)過一個(gè)單位時(shí)間它必須“向前”或“向后”游走。討論其狀態(tài)的相通性。,解：如果以 表示n時(shí)刻質(zhì)點(diǎn)的位置，則 是一個(gè)隨機(jī)過程。而且，當(dāng) 時(shí)， 等在時(shí)刻n后質(zhì)點(diǎn)所處的狀態(tài)僅與 有關(guān)，而與質(zhì)點(diǎn)在時(shí)刻n以前是如何到達(dá)i的無關(guān)故它是一個(gè)齊次

54、馬爾可夫鏈。狀態(tài)空間 ，一步轉(zhuǎn)移概率為,250,一步轉(zhuǎn)移概率矩陣為,下面求n步轉(zhuǎn)移概率,如在n次轉(zhuǎn)移的結(jié)果是從i到j(luò)，n次轉(zhuǎn)移中恰好向前游走m次，向后游走k次，則有,251,聯(lián)立上兩式求解可得,求得n步轉(zhuǎn)移概率為,其中 時(shí)， 反映了在n，i，j之間存在的一種約束關(guān)系。由于對(duì)于滿足要求的n，i，j， ，所以無限制的隨機(jī)游走中的各個(gè)狀態(tài)是相通的。,252,2狀態(tài)的分類, 首達(dá)時(shí),設(shè) 為一馬氏鏈，對(duì)任一狀態(tài)i與j，稱,為 自狀態(tài)i出發(fā)首次進(jìn)入狀態(tài)j的時(shí)刻，或稱為自i到j(luò)的首達(dá)時(shí)。,253,設(shè) 為一馬氏鏈，對(duì)任一狀態(tài)i與j，稱,為 自狀態(tài)i出發(fā)經(jīng)過n步首次進(jìn)入狀態(tài)j的概率。,顯然有,從而,自狀態(tài)i出發(fā)

55、經(jīng)過n步首次進(jìn)入狀態(tài)j的概率,254,解：,255,256,解：,257,定理3. 對(duì)任何狀態(tài),，有,證明：因?yàn)?馬氏鏈從狀態(tài)i出發(fā)經(jīng)過n步轉(zhuǎn)移到狀態(tài)j的概率，就是從i出發(fā)經(jīng)過l步首次達(dá)到 狀態(tài)j，再從狀態(tài)j經(jīng)過n-l步轉(zhuǎn)移到狀態(tài)j的概率。,258,設(shè) 為一馬氏鏈，對(duì)任一狀態(tài)i與j，稱,為 自狀態(tài)i出發(fā)遲早要到達(dá)狀態(tài)j的概率。,顯然有,自狀態(tài)i出發(fā)遲早到達(dá)狀態(tài)j的概率,表示自狀態(tài)i出發(fā)，在有限步內(nèi)遲早要返回狀態(tài)i的概率， 是在0與1之間的一個(gè)數(shù)。,259,所以,這樣 ，至少有一個(gè)為正（不為0），所以,必要性,，則由,至少有一個(gè),使,，故,充分性,總存在某個(gè) ，使,若 ，則根據(jù)到達(dá)的定義，,若,

56、260,例15. 設(shè)齊次馬氏鏈 的狀態(tài)空間 ，其一步轉(zhuǎn)移概率矩陣為,試求f11, f44和 f66。,261,解：根據(jù)一步轉(zhuǎn)移概率矩陣，可畫出如圖所示的狀態(tài)轉(zhuǎn)移圖。,由圖可知， ，而當(dāng) 時(shí)， ，所以，,同理，因?yàn)?， ，在 時(shí)， ，所以,由于 ，在 時(shí)， ，所以,262,常返態(tài)和非常返態(tài),如果 ，則稱狀態(tài)j是常返的。 如果 ，則稱狀態(tài)j是非常返的（或稱為瞬時(shí)的）。 如果馬爾可夫鏈的任一狀態(tài)都是常返的，則稱此鏈為常返馬爾可夫鏈。,注： 如果狀態(tài)j是常返的，則從狀態(tài)j出發(fā)，馬氏鏈將以概率1無窮多次返回狀態(tài)j； 如果狀態(tài)j是非常返的，則從狀態(tài)j出發(fā)，馬氏鏈只能有限次返回狀態(tài)j。,263,定理5. 狀態(tài)j是常返（ ）的充要條件為,系：如果狀態(tài)j是非常返的，則必有,注：在有限狀態(tài)的馬氏鏈中，至少有一個(gè)狀態(tài)是常返的。,264,設(shè)i是一常返態(tài)，則從i出發(fā)可經(jīng)過n 步首次返回i， 在 的條件下的分布列為,由數(shù)學(xué)期望的定義，可得,稱 為狀態(tài)i的平均返回時(shí)間。,平均返回時(shí)間,265,正常返和零常返,設(shè)i是常返態(tài)，如果 ，則稱狀態(tài)i是正常返態(tài)；如果 ,則稱狀態(tài)i是零常返態(tài)。,對(duì)于狀態(tài)i，若正整數(shù)集合 非空，則稱該集合的最大公約數(shù)L為狀態(tài)i的周期。 若 ，則稱狀態(tài)i是周期的。 若 ，則稱狀態(tài)i是非周期的。 如果狀態(tài)i是非周期且正常返的，則稱狀態(tài)i是遍歷的。,周期、非周期、遍歷,266,例16. 設(shè)齊