教學第1章隨機過程的基本概念課件

第一章隨機過程的基本概念§1.1基本概念§1.2有限維分布與柯爾莫哥洛夫定理§1.3隨機過程的數(shù)字特征電子科技大學第一章隨機過程的基本概念§1.1基本概念§1.2有限維§1.1基本概念

Ex.1

對某城市的氣溫進行n年的連續(xù)觀察,記錄得一、實際背景

在許多實際問題中,不僅需要對隨機現(xiàn)象做特定時間點上的一次觀察,且需要做多次的連續(xù)不斷的觀察,以觀察研究對象隨時間推移的演變過程.電子科技大學§1.1基本概念Ex.1對某城市的氣溫進行n年的研究該城市氣溫有無以年為周期的變化規(guī)律?隨機過程的譜分析問題

Ex.2從雜亂電訊號的一段觀察{Y(t),0<t<T}

中,研究是否存在某種隨機信號S(t)?過程檢測

Ex.3監(jiān)聽器上收到某人的話音記錄{Z(t),α<t<β}試問他是否確實是追蹤對象？過程識別電子科技大學研究該城市氣溫有無以年為周期的變化規(guī)律?隨機過程的Ex二、隨機過程定義為(ΩF,P)上的一個隨機過程.定義設(Ω,F,P)是概率空間,

,若對每個是概率空間(ΩF,P)上的隨機變量,則稱這族隨機變量注1)稱T是參數(shù)集(或參數(shù)空間)當T=(1,2,…，n),

隨機向量電子科技大學二、隨機過程定義為(ΩF,P)上的一個隨機過程.定義設(Ω當T=(1,2,…,n,…),

隨機時間序列隨機過程是n維隨機變量，隨機變量序列的一般化,是隨機變量X(t),的集合.用E表示隨機過程的值域,稱E為過程的狀態(tài)空間.Ex.4設(Ω,F,P)是對應于拋均勻硬幣的概率空間:電子科技大學當T=(1,2,…,n,…),隨機時間序列隨機過做無窮多次拋硬幣獨立試驗,引入隨機變量

則是一隨機過程.

其參數(shù)集T={0,1,2,…},狀態(tài)空間E={0,1}.隨機過程的理解為集合T與Ω的積集.稱電子科技大學做無窮多次拋硬幣獨立試驗,引入隨機變量則隨機過程可看成定義在積集上的二元函數(shù)1)當固定是一個隨機變量；2)當固定,作為的函數(shù)，是一個定義在T上的普通函數(shù).TΩ電子科技大學隨機過程可看成定義在積集上的二元函X(t1,ω)X(t2,ω)X(t,ω1)X(t,ω2)X(t,ω3)t1t2tn

定義對每一固定，稱是隨機過程的一個樣本函數(shù).也稱軌道,路徑,現(xiàn)實.電子科技大學X(t1,ω)X(t2,ω)X(t,ω1)X(t,ω2)X(Ex.5利用拋硬幣的試驗定義一個隨機過程，設出現(xiàn)正反面的概率相同,寫出X(t)的所有樣本函數(shù).解記ω1={出現(xiàn)正面},ω2={出現(xiàn)反面},則X(t)的所有現(xiàn)實為x(ω1,t)=cosπt,和x(ω2,t)=2t.電子科技大學Ex.5利用拋硬幣的試驗定義一個隨機過程，1、分布函數(shù)定義對任意,二維隨機變量(X(s),X(t))聯(lián)合分布函數(shù)定義1

隨機過程，對隨機變量X(t)的分布函數(shù),稱為過程XT的一維分布函數(shù).二、有限維分布與柯爾莫哥洛夫定理電子科技大學1、分布函數(shù)定義對任意,二維隨機變量(稱為XT的二維分布函數(shù)族.定義2過程對任給的隨機向量的聯(lián)合分布函數(shù)稱為過程的n維分布函數(shù).記電子科技大學稱為XT的二維分布函數(shù)族.定義2過程稱F為XT的有限維分布函數(shù)族.定義3

過程的n維特征函數(shù)定義為電子科技大學稱F為XT的有限維分布函數(shù)族.定義3過程特征函數(shù)和分布函數(shù)是相互唯一確定.

稱為XT的有限維特征函數(shù)族.2.隨機過程存在定理隨機過程的有限維分布函數(shù)族滿足以下兩個性質（1）對稱性電子科技大學特征函數(shù)和分布函數(shù)是相互唯一確定.稱為XT的有限維

對1,2,…,n的任一排列j1,j2,…,jn,均有對任意固定的自然數(shù)m<n,均有（2）相容性注聯(lián)合分布函數(shù)能完全確定邊緣分布函數(shù).

因事件乘積滿足交換律.注電子科技大學對1,2,…,n的任一排列j1,j2,…,類似地,隨機過程的有限維特征函數(shù)滿足:

1)對1,2,…,n的任一排列j1,j2,…,jn

有

2)對任意固定的自然數(shù)m<n,均有電子科技大學類似地,隨機過程的有限維特征函數(shù)滿足:

1)對1,23、隨機過程存在定理(柯爾莫哥羅夫)如果分布函數(shù)族滿足條件(1)和(2),則存在一個概率空間上的一個隨機過程,其有限維分布函數(shù)族恰為即有電子科技大學3、隨機過程存在定理(柯爾莫哥羅夫)如果分布函數(shù)族滿足條件在實際應用中,很難確定出隨機過程的有限維分布函數(shù)族,過程的數(shù)字特征能反映其局部統(tǒng)計性質.1、均值函數(shù)、方差函數(shù)及相關函數(shù)

定義給定隨機過程,稱為過程XT的均值函數(shù).需確定各類數(shù)字特征隨時間的變化規(guī)律.三、隨機過程的數(shù)字特征電子科技大學在實際應用中,很難確定出隨機過程的有限維1、均值函數(shù)、

定義給定隨機過程,稱為過程XT的方差函數(shù).稱為過程XT的均方差函數(shù).

需要描述不同時刻過程狀態(tài)的關聯(lián)關系.

定義給定隨機過程,稱為過程XT的協(xié)方差函數(shù).有電子科技大學定義給定隨機過程,稱為過程X

定義給定隨機過程,稱為過程XT的自相關函數(shù).有特別當時XT是零均值過程稱為過程XT的自相關系數(shù).電子科技大學定義給定隨機過程,稱為過程X定義給定兩個隨機過程稱為和的互協(xié)方差函數(shù)。稱為和的互相關函數(shù)。電子科技大學定義給定兩個隨機過程為Ex.1設p,q是兩個隨機變量,構成隨機過程

均值函數(shù)為自相關函數(shù)為

若p,q相互獨立，且均服從分布N(0,1)，則電子科技大學Ex.1設p,q是兩個隨機變量,構成隨機過程均值函數(shù)Ex.2設隨機過程其中β是正常數(shù),隨機變量A與Θ相互獨立,A～N(0,1),Θ～U(0,2π).試求過程的均值函數(shù)和相關函數(shù).解電子科技大學Ex.2設隨機過程其中β是正常數(shù),隨機變量A隨機變量函數(shù)的數(shù)學期望公式電子科技大學隨機變量函數(shù)的數(shù)學期望公式電子科技大學2、復隨機過程

定義設和是兩個實隨機過程，稱為復隨機過程.復隨機過程的均值函數(shù)為方差函數(shù)為電子科技大學2、復隨機過程定義設和自相關函數(shù)為自協(xié)方差函數(shù)為

定義設和是兩個復隨機過程,它們的互相關函數(shù)定義為互協(xié)方差函數(shù)為電子科技大學自相關函數(shù)為自協(xié)方差函數(shù)為定義設四、隨機過程的分類1.按狀態(tài)空間和參數(shù)集進行分類1)T,E

均為可列集;2)T是可列集,E

不可列;3)T不可列,E

為可列集;4)T,E

均不可列.電子科技大學四、隨機過程的分類1.按狀態(tài)空間和參數(shù)集進行分類1)T當T為可列集,稱為離散參數(shù)隨機過程,隨機序列,時間序列.

當E為可列(或有限)集,稱為離散狀態(tài)隨機過程.2.按概率結構進行分類1)二階矩過程若過程對每一個,的二階矩都存在.電子科技大學當T為可列集,稱為離散參數(shù)隨機過程,隨機當E為2)平穩(wěn)過程①寬平穩(wěn)過程（或協(xié)方差平穩(wěn)過程）若僅依賴稱為寬平穩(wěn)過程。②嚴平穩(wěn)過程有相同的聯(lián)合分布，則稱該過程為嚴平穩(wěn)過程。若電子科技大學2)平穩(wěn)過程①寬平穩(wěn)過程（或協(xié)方差平穩(wěn)過程）若僅依賴稱為寬定義：設為一平穩(wěn)過程（或平穩(wěn)序列），若或則稱X的均值具有遍歷性。此處極限為均方意義，即③平穩(wěn)過程的遍歷性電子科技大學定義：設為一平穩(wěn)過程（或平穩(wěn)若或則稱X的協(xié)方差具有遍歷性。若一個隨機過程的均值和協(xié)方差函數(shù)都具有遍歷性，則稱隨機過程具有遍歷性。電子科技大學若或則稱X的協(xié)方差具有遍歷性。若一個隨機過程的均值和協(xié)方差函定理（均值遍歷性定理）（1）設X={Xn,n=0,±1,±2,…}是平穩(wěn)序列，其協(xié)方差函數(shù)為，則X有遍歷性的充要條件是（2）設X={Xt,-∞<t<+∞}是平穩(wěn)過程，則X有遍歷性的充要條件是電子科技大學定理（均值遍歷性定理）（2）設X={Xt,-∞<t<+∞}給出連續(xù)型的證明：電子科技大學給出連續(xù)型的證明：電子科技大學做變換則Jacobi行列式的值為積分區(qū)域變?yōu)殡娮涌萍即髮W做變換則Jacobi行列式的值為積分區(qū)域變?yōu)殡娮涌萍即髮W所以有電子科技大學所以有電子科技大學推論1：若則均值遍歷性定理成立。證明：因為，當時，有電子科技大學推論1：若則均值遍歷性定理成立。證明：因為，當推論2：對于平穩(wěn)序列而言，若則均值遍歷性定理成立。證：給出離散型情形，由Stoltz定理令電子科技大學推論2：對于平穩(wěn)序列而言，若則均值遍歷性定理成立。證：給出離定理（協(xié)方差函數(shù)遍歷性定理）設X={Xt,-∞<t<+∞}是平穩(wěn)過程，其均值函數(shù)為零，則協(xié)方差函數(shù)有遍歷性的充要條件是其中電子科技大學定理（協(xié)方差函數(shù)遍歷性定理）設X={Xt,-∞<t<+∞}例設，則的均值有遍歷性。證明其均值為其協(xié)方差函數(shù)為電子科技大學例設所以，是平穩(wěn)過程。又電子科技大學所以，是平穩(wěn)過程。所以，的均值有遍歷性。電子科技大學所以，的均值有遍歷3)平穩(wěn)增量過程對任意實數(shù)h及任意t1,t2有4)獨立增量過程對任一正整數(shù)n及任意隨機變量相互獨立.過程增量重要子類有泊松過程，維納過程.電子科技大學3)平穩(wěn)增量過程對任意實數(shù)h及任意t1,t2有45)馬爾科夫過程.6)正態(tài)過程……

7)鞅過程……

電子科技大學5)馬爾科夫過程.6)正態(tài)過程……7)鞅過程……電第一章隨機過程的基本概念§1.1基本概念§1.2有限維分布與柯爾莫哥洛夫定理§1.3隨機過程的數(shù)字特征電子科技大學第一章隨機過程的基本概念§1.1基本概念§1.2有限維§1.1基本概念

Ex.1

對某城市的氣溫進行n年的連續(xù)觀察,記錄得一、實際背景

在許多實際問題中,不僅需要對隨機現(xiàn)象做特定時間點上的一次觀察,且需要做多次的連續(xù)不斷的觀察,以觀察研究對象隨時間推移的演變過程.電子科技大學§1.1基本概念Ex.1對某城市的氣溫進行n年的研究該城市氣溫有無以年為周期的變化規(guī)律?隨機過程的譜分析問題

Ex.2從雜亂電訊號的一段觀察{Y(t),0<t<T}

中,研究是否存在某種隨機信號S(t)?過程檢測

Ex.3監(jiān)聽器上收到某人的話音記錄{Z(t),α<t<β}試問他是否確實是追蹤對象？過程識別電子科技大學研究該城市氣溫有無以年為周期的變化規(guī)律?隨機過程的Ex二、隨機過程定義為(ΩF,P)上的一個隨機過程.定義設(Ω,F,P)是概率空間,

,若對每個是概率空間(ΩF,P)上的隨機變量,則稱這族隨機變量注1)稱T是參數(shù)集(或參數(shù)空間)當T=(1,2,…，n),

隨機向量電子科技大學二、隨機過程定義為(ΩF,P)上的一個隨機過程.定義設(Ω當T=(1,2,…,n,…),

隨機時間序列隨機過程是n維隨機變量，隨機變量序列的一般化,是隨機變量X(t),的集合.用E表示隨機過程的值域,稱E為過程的狀態(tài)空間.Ex.4設(Ω,F,P)是對應于拋均勻硬幣的概率空間:電子科技大學當T=(1,2,…,n,…),隨機時間序列隨機過做無窮多次拋硬幣獨立試驗,引入隨機變量

則是一隨機過程.

其參數(shù)集T={0,1,2,…},狀態(tài)空間E={0,1}.隨機過程的理解為集合T與Ω的積集.稱電子科技大學做無窮多次拋硬幣獨立試驗,引入隨機變量則隨機過程可看成定義在積集上的二元函數(shù)1)當固定是一個隨機變量；2)當固定,作為的函數(shù)，是一個定義在T上的普通函數(shù).TΩ電子科技大學隨機過程可看成定義在積集上的二元函X(t1,ω)X(t2,ω)X(t,ω1)X(t,ω2)X(t,ω3)t1t2tn

定義對每一固定，稱是隨機過程的一個樣本函數(shù).也稱軌道,路徑,現(xiàn)實.電子科技大學X(t1,ω)X(t2,ω)X(t,ω1)X(t,ω2)X(Ex.5利用拋硬幣的試驗定義一個隨機過程，設出現(xiàn)正反面的概率相同,寫出X(t)的所有樣本函數(shù).解記ω1={出現(xiàn)正面},ω2={出現(xiàn)反面},則X(t)的所有現(xiàn)實為x(ω1,t)=cosπt,和x(ω2,t)=2t.電子科技大學Ex.5利用拋硬幣的試驗定義一個隨機過程，1、分布函數(shù)定義對任意,二維隨機變量(X(s),X(t))聯(lián)合分布函數(shù)定義1

隨機過程，對隨機變量X(t)的分布函數(shù),稱為過程XT的一維分布函數(shù).二、有限維分布與柯爾莫哥洛夫定理電子科技大學1、分布函數(shù)定義對任意,二維隨機變量(稱為XT的二維分布函數(shù)族.定義2過程對任給的隨機向量的聯(lián)合分布函數(shù)稱為過程的n維分布函數(shù).記電子科技大學稱為XT的二維分布函數(shù)族.定義2過程稱F為XT的有限維分布函數(shù)族.定義3

過程的n維特征函數(shù)定義為電子科技大學稱F為XT的有限維分布函數(shù)族.定義3過程特征函數(shù)和分布函數(shù)是相互唯一確定.

稱為XT的有限維特征函數(shù)族.2.隨機過程存在定理隨機過程的有限維分布函數(shù)族滿足以下兩個性質（1）對稱性電子科技大學特征函數(shù)和分布函數(shù)是相互唯一確定.稱為XT的有限維

對1,2,…,n的任一排列j1,j2,…,jn,均有對任意固定的自然數(shù)m<n,均有（2）相容性注聯(lián)合分布函數(shù)能完全確定邊緣分布函數(shù).

因事件乘積滿足交換律.注電子科技大學對1,2,…,n的任一排列j1,j2,…,類似地,隨機過程的有限維特征函數(shù)滿足:

1)對1,2,…,n的任一排列j1,j2,…,jn

有

2)對任意固定的自然數(shù)m<n,均有電子科技大學類似地,隨機過程的有限維特征函數(shù)滿足:

1)對1,23、隨機過程存在定理(柯爾莫哥羅夫)如果分布函數(shù)族滿足條件(1)和(2),則存在一個概率空間上的一個隨機過程,其有限維分布函數(shù)族恰為即有電子科技大學3、隨機過程存在定理(柯爾莫哥羅夫)如果分布函數(shù)族滿足條件在實際應用中,很難確定出隨機過程的有限維分布函數(shù)族,過程的數(shù)字特征能反映其局部統(tǒng)計性質.1、均值函數(shù)、方差函數(shù)及相關函數(shù)

定義給定隨機過程,稱為過程XT的均值函數(shù).需確定各類數(shù)字特征隨時間的變化規(guī)律.三、隨機過程的數(shù)字特征電子科技大學在實際應用中,很難確定出隨機過程的有限維1、均值函數(shù)、

定義給定隨機過程,稱為過程XT的方差函數(shù).稱為過程XT的均方差函數(shù).

需要描述不同時刻過程狀態(tài)的關聯(lián)關系.

定義給定隨機過程,稱為過程XT的協(xié)方差函數(shù).有電子科技大學定義給定隨機過程,稱為過程X

定義給定隨機過程,稱為過程XT的自相關函數(shù).有特別當時XT是零均值過程稱為過程XT的自相關系數(shù).電子科技大學定義給定隨機過程,稱為過程X定義給定兩個隨機過程稱為和的互協(xié)方差函數(shù)。稱為和的互相關函數(shù)。電子科技大學定義給定兩個隨機過程為Ex.1設p,q是兩個隨機變量,構成隨機過程

均值函數(shù)為自相關函數(shù)為

若p,q相互獨立，且均服從分布N(0,1)，則電子科技大學Ex.1設p,q是兩個隨機變量,構成隨機過程均值函數(shù)Ex.2設隨機過程其中β是正常數(shù),隨機變量A與Θ相互獨立,A～N(0,1),Θ～U(0,2π).試求過程的均值函數(shù)和相關函數(shù).解電子科技大學Ex.2設隨機過程其中β是正常數(shù),隨機變量A隨機變量函數(shù)的數(shù)學期望公式電子科技大學隨機變量函數(shù)的數(shù)學期望公式電子科技大學2、復隨機過程

定義設和是兩個實隨機過程，稱為復隨機過程.復隨機過程的均值函數(shù)為方差函數(shù)為電子科技大學2、復隨機過程定義設和自相關函數(shù)為自協(xié)方差函數(shù)為

定義設和是兩個復隨機過程,它們的互相關函數(shù)定義為互協(xié)方差函數(shù)為電子科技大學自相關函數(shù)為自協(xié)方差函數(shù)為定義設四、隨機過程的分類1.按狀態(tài)空間和參數(shù)集進行分類1)T,E

均為可列集;2)T是可列集,E

不可列;3)T不可列,E

為可列集;4)T,E

均不可列.電子科技大學四、隨機過程的分類1.按狀態(tài)空間和參數(shù)集進行分類1)T當T為可列集,稱為離散參數(shù)隨機過程,隨機序列,時間序列.

當E為可列(或有限)集,稱為離散狀態(tài)隨機過程.2.按概率結構進行分類1)二階矩過程若過程對每一個,的二階矩都存在.電子科技大學當T為可列集,稱為離散參數(shù)隨機過程,隨機當E為2)平穩(wěn)過程①寬平穩(wěn)過程（或協(xié)方差平穩(wěn)過程）若僅依賴稱為寬平穩(wěn)過程。②嚴平穩(wěn)過程有相同的聯(lián)合分布，則稱該過程為嚴平穩(wěn)過程。若電子科技大學2)平穩(wěn)過程①寬平穩(wěn)過程（或協(xié)方差平穩(wěn)過程）若僅依賴稱為寬定義：設為一平穩(wěn)過程（或平穩(wěn)序列），若或則稱X的均值具有遍歷性。此處極限為均方意義，即③平穩(wěn)過程的遍歷性電子科技大學定義：設為一平穩(wěn)過程（或平穩(wěn)若或則稱X的協(xié)方差具有遍歷性。若一個隨機過程的均值和協(xié)方差函數(shù)都具有遍歷性，則稱隨機過程具有遍歷性。電子科技大學若或則稱X的協(xié)方差