《隨機(jī)過(guò)程》全冊(cè)配套完整教學(xué)課件

《隨機(jī)過(guò)程》全冊(cè)配套完整教學(xué)課件隨機(jī)過(guò)程

Stochasticprocesses引言本課程的研究對(duì)象

概率論主要是以一個(gè)或有限個(gè)隨機(jī)變量為研究對(duì)象的.隨著科學(xué)技術(shù)的不斷發(fā)展,人們發(fā)現(xiàn)幾乎一切可觀察現(xiàn)象都具有隨機(jī)性.必須對(duì)一些隨機(jī)現(xiàn)象的變化過(guò)程進(jìn)行研究.即需要研究無(wú)窮多個(gè)隨機(jī)變量隨機(jī)過(guò)程是概率論的深入和發(fā)展.它是研究客觀世界中隨機(jī)演變過(guò)程的規(guī)律性的學(xué)科.隨機(jī)過(guò)程的理論與方法在自動(dòng)控制、雷達(dá)與通信、生物工程、天文氣象、地質(zhì)能源、社會(huì)科學(xué)及工程技術(shù)、經(jīng)濟(jì)管理等許多領(lǐng)域有著極為廣泛的應(yīng)用。課程任務(wù)掌握隨機(jī)過(guò)程的基本概念.掌握隨機(jī)過(guò)程的基本理論和分析方法.具備處理隨機(jī)現(xiàn)象的思想與方法.具有應(yīng)用隨機(jī)過(guò)程的理論和方法來(lái)分析問(wèn)題和解決問(wèn)題的能力.基本內(nèi)容

隨機(jī)過(guò)程基本概念隨機(jī)分析平穩(wěn)過(guò)程馬爾科夫過(guò)程（鏈）

教材《隨機(jī)過(guò)程》張卓奎陳慧嬋西安電子科技大學(xué)出版社2003《隨機(jī)過(guò)程同步學(xué)習(xí)指導(dǎo)》張卓奎陳慧嬋西安電子科技大學(xué)出版社2004參考教材1.《隨機(jī)過(guò)程》毛用才胡奇英西安電子科技大學(xué)出版社1998

2.《隨機(jī)過(guò)程理論》

周蔭清電子工業(yè)出版社第二版20063.《Anintroductiontostochasticprocesses》EdwardP.C.kaoThomson2003BasicConceptsProbability

隨機(jī)試驗(yàn)

(RandomExperiment)結(jié)果事先不確定outcomeisunknown;可重復(fù)reproducible

樣本空間(SampleSpace):S所有可能結(jié)果的全體thesetofallpossibleoutcomes

事件(Events):E

樣本空間的某子集anysubsetofS概率(Probability):

P

在樣本空間S中，實(shí)值函數(shù)P滿足：;

；對(duì)于任何互斥事件，有則稱(chēng)P為E的概率。概率的性質(zhì)：

(1)

;

(2)Monotonicity:若,(3)

(4)Subadditivity:布爾不等式：

(5)(6)Continuityforbelow:若單調(diào)遞增，則

(7)Continuityforabove:若單調(diào)遞減，則條件概率乘法公式全概率公式Bayes公式——與之間的關(guān)系Example:在多項(xiàng)選擇題考試中，學(xué)生要么知道答案，要么去猜答案。令學(xué)生知道答案的概率為p，不知道答案的概率為1-p，假設(shè)猜對(duì)答案的概率為1/m，其中m為選擇項(xiàng)數(shù)。問(wèn)：學(xué)生答對(duì)問(wèn)題時(shí)，他知道答案的概率為多少？解：令C,K分布為學(xué)生答對(duì)問(wèn)題和確實(shí)知道答案的事件。相互獨(dú)立(Independent)獨(dú)立與互斥獨(dú)立的兩個(gè)事件不一定互斥，也即兩個(gè)事件獨(dú)立則可能交集不空互斥的兩個(gè)事件不一定獨(dú)立，也即交集為空的兩個(gè)事件不一定獨(dú)立隨機(jī)變量：樣本空間里的實(shí)值函數(shù)分布函數(shù)（distributionfunction）：描述隨機(jī)變量的分布

性質(zhì):(1)非減函數(shù)nondecreasingfunction；

(2)

(3)擴(kuò)展到n-維隨機(jī)變量(randomvariable)及其分布隨機(jī)變量離散型：概率密度函數(shù)分布函數(shù)連續(xù)型

概率密度函數(shù)擴(kuò)展到2維X,Y聯(lián)合分布函數(shù)X與Y的分布函數(shù)典型離散型隨機(jī)變量：BernouliRandomVariableBinomialRandomVariable n個(gè)獨(dú)立事件successfailExample已知一臺(tái)機(jī)器制造出來(lái)的產(chǎn)品，廢品率為0.1，并且產(chǎn)生廢品的事件是獨(dú)立的。問(wèn)：三個(gè)產(chǎn)品中最多有一個(gè)為廢品的概率是多少？解：離散型隨機(jī)變量：GeometricRandomVariablePoissonRandomVariable當(dāng)二項(xiàng)隨機(jī)變量中參數(shù)n很大，p很小時(shí)，二項(xiàng)隨機(jī)變量可以近似看作是Poisson隨機(jī)變量。連續(xù)型隨機(jī)變量：典型連續(xù)型隨機(jī)變量：UniformRandomVariableExponentialRandomVariable

連續(xù)型隨機(jī)變量：GammaRandomVariable

Gamma函數(shù)

連續(xù)型隨機(jī)變量：NormalRandomVariable

隨機(jī)變量的數(shù)字特征1.期望(Expectation)定義

加權(quán)平均例：擲一個(gè)色子的期望E(X)練習(xí)：試求前面所講幾個(gè)典型隨機(jī)變量的期望離散型連續(xù)型定理：X是一隨機(jī)變量，F(xiàn)(x)為分布函數(shù)，y=g(x)是連續(xù)函數(shù)，若存在，則推論：如果a，b為常數(shù)，則

2.方差(Variable)3.協(xié)方差(Covariance)不相關(guān)：若Cov(X,Y)=0獨(dú)立隨機(jī)變量是不相關(guān)的，其逆不真。4.矩母函數(shù)

(MomentGeneratingFunction)ThemomentsofX性質(zhì)：X,Y是獨(dú)立變量小結(jié)

第一章隨機(jī)過(guò)程的基本概念●

隨機(jī)過(guò)程的定義及其有限維分布函數(shù)族●

隨機(jī)過(guò)程的數(shù)字特征●

幾類(lèi)重要的隨機(jī)過(guò)程

重點(diǎn)隨機(jī)過(guò)程的定義、數(shù)字特征、正態(tài)過(guò)程、

Poisson過(guò)程．要求（1）準(zhǔn)確理解隨機(jī)過(guò)程的定義，熟悉研究隨機(jī)過(guò)程的方法．

(2)熟練求出樣本函數(shù)、有限維分布、數(shù)字特征、特征函數(shù)．難點(diǎn)有限維分布和Poisson過(guò)程．例1.

考察[0，t0]時(shí)間內(nèi)某網(wǎng)站收到的訪問(wèn)次數(shù)Ｘ(t０),

則Ｘ(t０)是一個(gè)隨機(jī)變量．

如果要長(zhǎng)時(shí)間內(nèi)該網(wǎng)站的訪問(wèn)次數(shù),

則需要讓t變化起來(lái),即t趨于無(wú)窮大,則

Ｘ(t)是一族隨機(jī)變量．

此時(shí)Ｘ(t)是與時(shí)間有關(guān)系的隨機(jī)變量，稱(chēng)

{Ｘ(t),t∈［0,∞）}是隨機(jī)過(guò)程．§1

隨機(jī)過(guò)程的定義其中Ａω為常數(shù)，φ服從[0,2π]上的均勻分布.若要觀察任一時(shí)刻t的波形，則需要用一族隨機(jī)變量Ｘ(t)描述.

則稱(chēng)｛Ｘ(t)，t∈[0

，+∞)｝為隨機(jī)過(guò)程．例２.

具有隨機(jī)初位相的簡(jiǎn)諧波由于初位相的隨機(jī)性，在某時(shí)刻t＝t0，Ｘ(t0)是一個(gè)隨機(jī)變量．例３.生物群體的增長(zhǎng)問(wèn)題.以Ｘt表示在時(shí)刻t某種

生物群體的個(gè)數(shù),則對(duì)每一個(gè)固定的t,Ｘt是一

個(gè)隨機(jī)變量．

如果從t＝０開(kāi)始每隔24小時(shí)對(duì)群體的個(gè)數(shù)觀察一次，則對(duì)每一個(gè)t，Ｘt是一族隨機(jī)變量．也記為Ｘn，n＝０，１，….則稱(chēng){Ｘt,t＝０,１,2,….}是隨機(jī)過(guò)程．例4.

在天氣預(yù)報(bào)中,以Xt表示某地區(qū)第t次統(tǒng)計(jì)所得到的最高氣溫,則Xt是一個(gè)隨機(jī)變量.為了預(yù)報(bào)該地區(qū)未來(lái)的氣溫,要讓t趨于無(wú)窮大,則可得到一族隨機(jī)變量:Xt,t=0,1,2,…，

稱(chēng){Ｘt，t＝０，１，2，….，}是隨機(jī)過(guò)程．以上4個(gè)例子的共同特點(diǎn)是:對(duì)某參數(shù)集中的任意一個(gè)參數(shù)t,就有一個(gè)隨機(jī)變量X(t)與之對(duì)應(yīng).隨機(jī)過(guò)程定義若對(duì)每一t∈T,均有定義在(Ω,F,P)上的一個(gè)

隨機(jī)變量X(ω,t),(ω∈Ω)與之對(duì)應(yīng),則稱(chēng)X(ω,t)為(Ω,F,P)上的一個(gè)隨機(jī)過(guò)程(S.P.)記{X(ω,t),ω∈Ω,t∈T},

簡(jiǎn)記{X(t),t∈T},或X(t).設(shè)(Ω,F,P)為一概率空間,T為一參數(shù)集,TR,

T稱(chēng)為參數(shù)集或參數(shù)空間,t稱(chēng)為參數(shù),一般表示時(shí)間或空間.

參數(shù)集通常有以下形式:⑴T={0,1,2,…}或T={…-2,-1,0,1,2,…}⑵T=[a,b],其中a可以為－∞,b可以為+∞.當(dāng)參數(shù)集為形式⑴時(shí),隨機(jī)過(guò)程X(t)也稱(chēng)為隨機(jī)序列1.X(ω,t),實(shí)質(zhì)上為定義在T×Ω上的二元單值函數(shù).

2.對(duì)每一個(gè)固定的t,X(t)為一隨機(jī)變量，稱(chēng)之為{X(t),t∈T}在t時(shí)刻的狀態(tài).該隨機(jī)變量所有可能取值的集合,稱(chēng)為隨機(jī)過(guò)程的狀態(tài)空間.記為S.3.對(duì)每一個(gè)確定的ω0∈Ω,X(ω0,t)是定義在T上的普通函數(shù).記為x(ω0,t),稱(chēng)為為隨機(jī)過(guò)程的一個(gè)樣本函數(shù).也稱(chēng)軌道或?qū)崿F(xiàn).樣本函數(shù)的圖形稱(chēng)為樣本曲線．說(shuō)明:

設(shè){X(ω,t),ω∈Ω,t∈T}為一S.P.

tX(t)tt0狀態(tài)X(t0)=4狀態(tài)X(t0)=5樣本曲線x1(t)x1(t)x2(t)樣本曲線x2(t)狀態(tài)空間S={0,1,2,….},T=[0,+∞)例1的樣本曲線與狀態(tài)狀態(tài)空間S=[-A,A],參數(shù)集T=[-∞,+∞]tX(t)樣本曲線x1(t)樣本曲線x2(t)t0狀態(tài)X(t0)狀態(tài)X(t0)例2的樣本曲線與狀態(tài)t0狀態(tài)X(t0)=18狀態(tài)X(t0)=25樣本曲線x1(t)樣本曲線x2(t)例3的樣本曲線與狀態(tài)狀態(tài)X(t0)=40樣本曲線x3(t)X(t)t10203040506070024…狀態(tài)空間S={0,1,2,….},T=[0,24,……)4.根據(jù)參數(shù)集與狀態(tài)空間離散與否,隨機(jī)過(guò)程可分為●離散參數(shù),離散狀態(tài)的隨機(jī)過(guò)程(例3)●離散參數(shù),連續(xù)狀態(tài)的隨機(jī)過(guò)程(例4)●連續(xù)參數(shù),離散狀態(tài)的隨機(jī)過(guò)程(例1)

●連續(xù)參數(shù),連續(xù)狀態(tài)的隨機(jī)過(guò)程(例2)

參數(shù)集為離散的隨機(jī)過(guò)程也稱(chēng)為隨機(jī)序列，或時(shí)間序列．§2隨機(jī)過(guò)程的有限維分布函數(shù)族設(shè){X(t),t∈T}是S.P.1.一維分布函數(shù)對(duì)任意t∈T,X(t)為一隨機(jī)變量.稱(chēng)其分布函數(shù)

F

(t;x)=P(X(t)≤x),x∈R為隨機(jī)過(guò)程{X(t),t∈T}的一維分布函數(shù).2.二維分布函數(shù)對(duì)任意固定的t1,t2∈T,X(t1),X(t2)為兩個(gè)隨機(jī)變量.稱(chēng)其聯(lián)合分布函數(shù)

F

(t1,t2;x1,x2)=P(X(t1)≤x1,X(t2)≤x2),

x1,x2∈R為隨機(jī)過(guò)程{X(t),t∈T}的二維分布函數(shù).

對(duì)任意固定的t1,t2,…,tn∈T,X(t1),X(t2),…,X(tn)為n個(gè)隨機(jī)變量.稱(chēng)其聯(lián)合分布函數(shù)

F

(t1,t2,…,tn;x1,x2,…,xn)=P(X(t1)≤x1,X(t2)≤x2…X(tn)≤xn)x1x2,…,xn∈R為隨機(jī)過(guò)程{X(t),t∈T}的n維分布函數(shù).3.n維分布函數(shù)

稱(chēng)隨機(jī)過(guò)程{X(t),t∈T}的一維分布函數(shù),二維分布函數(shù),…,n維分布函數(shù),…,的全體為隨機(jī)過(guò)程的有限維分布函數(shù)族.有限維分布函數(shù)族定義注:有限維分布函數(shù)族能夠描述隨機(jī)過(guò)程的統(tǒng)計(jì)特性.有限維分布函數(shù)族的性質(zhì)

對(duì)稱(chēng)性相容性設(shè)m<n,則注:隨機(jī)過(guò)程的統(tǒng)計(jì)特性還可以用另一種工具描述,即隨機(jī)過(guò)程的有限維特征函數(shù)族(后面補(bǔ)充介紹)本節(jié)內(nèi)容舉例例1.設(shè)隨機(jī)過(guò)程X(t)=Vcosωt,t∈(-∞,+∞),其中ω為常數(shù),V服從[0,1]上的均勻分布.⑴確定{X(t),t∈(-∞,+∞)}的兩個(gè)樣本函數(shù).⑵求t=0,t=3π/4ω時(shí),隨機(jī)變量的概率密度函數(shù).⑶求t=π

∕2ω

時(shí)X(t)的分布函數(shù).

解(1)取V=1/2,1/3分別得到兩個(gè)樣本函數(shù)(2)(3)例2

設(shè)隨機(jī)過(guò)程X(t)=A+Bt,t≥0,其中A,B是相互獨(dú)立的隨機(jī)變量,且都服從標(biāo)準(zhǔn)正態(tài)分布N(0,1).求該隨機(jī)過(guò)程的一維和二維分布解對(duì)任意的t≥0,X(t)=A+Bt,有題意知X(t)是正態(tài)分布.又E[X(t)]=0,D[X(t)]=1+t2所以S.P.的一維分布為X(t)～N(0,1+t2)又對(duì)任意的t1≥0,t2≥0,X(t1)=A+Bt1～N(0,1+t12),X(t2)=A+Bt2～N(0,1+t22),

(定理正態(tài)變量的線性變換是正態(tài)變量)

page24定理1.5.3(3)由A,B獨(dú)立知,(A,B)服從二維正態(tài)分布所以(X(t1),X(t2))也服從二維正態(tài)分布所以協(xié)方差矩陣為而(X(t1),X(t2))的均值向量為μ=(0,0)所以該S.P.的二維分布為例3.其中A具有以下概率分布試求(1)該S.P.的一維分布函數(shù)(2)該S.P.的二維分布函數(shù)解作業(yè)1.利用重復(fù)擲硬幣的試驗(yàn)定義一個(gè)隨機(jī)過(guò)程

出現(xiàn)正面與反面的概率相等.⑴求X(t)的一維分布函數(shù)F(1/2;x),F(1;x).⑵求X(t)的二維分布函數(shù)F(1/2,1;x1,x2).§3

隨機(jī)過(guò)程的有限維特征函數(shù)族1.Stieltjes積分定義

設(shè)f(x),g(x)是定義在[a,b]上的兩個(gè)有界函數(shù),對(duì)[a,b]的任一劃分a=x0<x1<…<xn=b,記△=max{△xk}任取ξk∈[xk-1,xk],k=0,1,…,n.作和若極限存在,且與[a,b]的分法及ξk的取法無(wú)關(guān).則稱(chēng)此極限為f(x)對(duì)函數(shù)g(x)在[a,b]上的Stieltjes積分.簡(jiǎn)稱(chēng)S積分.也稱(chēng)f(x)對(duì)g(x)在[a,b]上S可積.記設(shè)f(x),g(x)是定義在(-∞,+∞)上的兩個(gè)函數(shù),若在任意有限區(qū)間[a,b]f(x)對(duì)

g(x)在[a,b]S可積,且存在則稱(chēng)此極限為f(x)對(duì)g(x)在無(wú)窮區(qū)間(-∞,+∞)上的Stieltjes積分.記關(guān)于Stieltjes積分有如下性質(zhì)⑴當(dāng)g(x)為跳躍函數(shù),且在xi(i=1,2,…)具有躍度pi時(shí)有⑵當(dāng)g(x)存在導(dǎo)數(shù)g′(x)時(shí),有利用Stieltjes積分可以統(tǒng)一離散型r.v.與連續(xù)型r.v.(或隨機(jī)變量的函數(shù))的數(shù)學(xué)期望定義.如下

定義設(shè)隨機(jī)變量X的分布函數(shù)為F(x),若則X的期望為并有以下結(jié)論(1)設(shè)r.v.X的分布函數(shù)為F(x),y=g(x)是連續(xù)函數(shù),若則r.v.Y=g(X)的期望為(2)一般設(shè)r.v.(X1,…,Xn)的聯(lián)合分布函數(shù)為F(x1,x2,…,xn),g(x1,x2,…,xn)為連續(xù)函數(shù).若則r.v.Y=g(X1,X2,…,Xn)的數(shù)學(xué)期望存在.且定義設(shè)隨機(jī)變量X的分布函數(shù)F(x),則稱(chēng)為隨機(jī)變量X的特征函數(shù).2.隨機(jī)變量的特征函數(shù)其中u為實(shí)參變量,為復(fù)隨機(jī)變量對(duì)任意實(shí)數(shù)u,有|ejux|=1.故E[ejux]總存在.(1)特征函數(shù)總是存在的.關(guān)于特征函數(shù)的幾點(diǎn)說(shuō)明(2)特征函數(shù)的性質(zhì)(證明page17)?、ⅱＨ鬥=aX+b,a,b為常數(shù),則ⅳⅴ

若X與Y相互獨(dú)立,Z=X+Y,則

(可推廣到n個(gè)相互獨(dú)立隨機(jī)變量)是非負(fù)定的.

ⅵ即對(duì)任意的n,任意復(fù)數(shù)Zk,任意實(shí)數(shù)uk(k=1,2,…,n),有ⅶ

設(shè)隨機(jī)變量X的n階原點(diǎn)矩(即E[Xk])存在,

則存在k(k≤n)階導(dǎo)數(shù),且有(3)一些重要分布的特征函數(shù)單點(diǎn)分布P(X=c)=1,c常數(shù).則二項(xiàng)分布k=0,1,…,n.0<p<1,q=1-p.則特征函數(shù)Poisson分布k=0,1,2,…,

λ>0則特征函數(shù)均勻分布r.v.X～U(a,b],密度函數(shù)為則特征函數(shù)正態(tài)分布r.v.X～N(μ,σ2),密度函數(shù)為則特征函數(shù)特別X～N(0,1)時(shí)指數(shù)分布r.v.X服從參數(shù)為λ(>0)的指數(shù)分布,概率密度為則特征函數(shù)(4)隨機(jī)變量的分布函數(shù)與其特征函數(shù)相互唯一確定.定義(多元特征函數(shù))設(shè)n維隨機(jī)變量X=(X1,X2,…,Xn)的聯(lián)合分布函數(shù)為F(x1,x2,…,xn),則稱(chēng)為n維隨機(jī)變量X的特征函數(shù).也稱(chēng)多元特征函數(shù)多元特征函數(shù)具有與一元特征函數(shù)類(lèi)似的性質(zhì)

n維隨機(jī)變量的特征函數(shù)與其聯(lián)合分布函數(shù)是一一對(duì)應(yīng)的特征函數(shù)應(yīng)用舉例:定義(隨機(jī)過(guò)程的有限維特征函數(shù)族)設(shè){X(t),t∈T}是一個(gè)S.P.對(duì)于任意固定的t1,t2,…,tn

∈T,X(t1),X(t2),…,X(tn)是n個(gè)隨機(jī)變量,稱(chēng)為S.P.{X(t),t∈T}的n維特征函數(shù).(ui∈R,i=1,2,…,n)為隨機(jī)過(guò)程的有限維特征函數(shù)族§4

隨機(jī)過(guò)程的數(shù)字特征有限維分布函數(shù)族雖然能夠完整描述隨機(jī)過(guò)程的統(tǒng)計(jì)特征,但是在實(shí)際中很難得到.因此,如同隨機(jī)變量一樣,也用數(shù)字特征來(lái)表征隨機(jī)過(guò)程.即將隨機(jī)變量的數(shù)字特征推廣到隨機(jī)過(guò)程中.但要注意其區(qū)別:隨機(jī)過(guò)程的數(shù)字特征不再是確定的數(shù),而是確定的時(shí)間的函數(shù).1.均值函數(shù)對(duì)任意的t∈T,若E[X(t)]存在,則稱(chēng)E[X(t)]為S.P.X(t)的均值函數(shù).記mX(t)

即

mX(t)=E[X(t)]t∈T設(shè){X(t)}是一S.P.2.方差函數(shù)設(shè){X(t)}是一S.P.對(duì)任意的t∈T,若D[X(t)]=E[X(t)-mX(t)]2存在,則稱(chēng)D[X(t)]為S.P.X(t)的方差函數(shù).記DX(t).即

DX(t)=E[X(t)-mX(t)]2

t∈T3.協(xié)方差函數(shù)設(shè){X(t)}是一S.P.對(duì)任意的s,t∈T,若

Cov(X(s),X(t))=E[X(s)-mX(s)][X(t)-mX(t)]存在,則稱(chēng)Cov(X(s),X(t))為S.P.X(t)的協(xié)方差函數(shù).記

CX(s,t).

即

CX(s,t)=E[X(s)-mX(s)][X(t)-mX(t)]

s,t∈T4.相關(guān)函數(shù)設(shè){X(t)}是一S.P.對(duì)任意的s,t∈T,若E[X(s)X(t)]存在,則稱(chēng)E[X(s)X(t)]為S.P.X(t)的相關(guān)函數(shù).(自相關(guān)函數(shù))記RX(s,t).即

RX(s,t)=E[X(s)X(t)]s,t∈T顯然mX(t)=0時(shí),CX(s,t)=RX(s,t)5.均方值函數(shù)設(shè){X(t)}是一S.P.對(duì)任意的t∈T,若E[X(t)]2存在,則稱(chēng)E[X(t)]2為S.P.X(t)的均方值函數(shù).記ΦX(t).即

ΦX(t)=E[X(t)]2

t∈T隨機(jī)過(guò)程的數(shù)字特征有如下關(guān)系CX(s,t)=RX(s,t)-mX(s)mX(t)s,t∈T

DX(t)=CX(t,t)t∈TΦX(t)=RX(t,t)t∈T所以最關(guān)鍵的數(shù)字特征是均值函數(shù)與相關(guān)函數(shù)本節(jié)內(nèi)容舉例設(shè)S.P.X(t)=acos(ωt+Θ).a,ω常數(shù),Θ~U[0,2π]

求該過(guò)程的均值函數(shù),相關(guān)函數(shù),方差函數(shù).

解2.

設(shè)S.P.X(t)=Acosωt+Bsinωtt≥0,ω為常數(shù).A,B相互獨(dú)立,同服從正態(tài)分布N(0,σ2)

求該過(guò)程的均值函數(shù)和相互函數(shù).解§5

兩個(gè)隨機(jī)過(guò)程的聯(lián)合分布和數(shù)字特征在實(shí)際問(wèn)題中,有時(shí)需要同時(shí)考慮兩個(gè)或者兩個(gè)以上的隨機(jī)過(guò)程.例如:一個(gè)線性系統(tǒng)的輸入信號(hào)和輸入噪聲兩者可能同為隨機(jī)過(guò)程.同時(shí)考慮一個(gè)線性系統(tǒng)的隨機(jī)輸入和隨機(jī)輸出的關(guān)系等.定義

設(shè){X(t),t∈T}和{Y(t),t∈T}是兩個(gè)隨機(jī)過(guò)程.則稱(chēng)

{X(t),Y(t),t∈T}是二維隨機(jī)過(guò)程.二維過(guò)程的概率分布與數(shù)字特征有以下定義定義

設(shè){X(t),Y(t),t∈T}是二維隨機(jī)過(guò)程.定義設(shè){X(t),Y(t),t∈T}是二維S.P.則對(duì)任意s,t∈T,X(s)

Y(t)是兩個(gè)隨機(jī)變量.(1)

若E[X(s)Y(t)]存在,則稱(chēng)

E[X(s)Y(t)]=RX,Y(s,t)

為該二維S.P.的互相關(guān)函數(shù)(2)

若cov(X(s),Y(t))=E[(X(s)-mX(s))(Y(t)-mY(t))存在,則稱(chēng)

cov(X(s),Y(t))=CXY(s,t)

為該二維S.P.的互協(xié)方差函數(shù)顯然有CXY(s,t)=RXY(s,t)-mX(s)mY(t)

定義設(shè){X(t),t∈T},{Y(t),t∈T}是二個(gè)

S.P.若

CXY(s,t)=0

或RX,Y(s,t)=mX(s)mY(t)s,t∈T,則稱(chēng)S.P.{X(t),t∈T}與S.P.{Y(t),t∈T}不相關(guān).結(jié)論若S.P.{X(t),t∈T}和S.P.{Y(t),t∈T}相互獨(dú)立,

則{X(t),t∈T}和{Y(t),t∈T}不相關(guān)§6.復(fù)隨機(jī)過(guò)程及其數(shù)字特征定義

設(shè){X(t),t∈T}和{Y(t),t∈T}是定義在同一概率空間(Ω,F,P)上的兩個(gè)

實(shí)隨機(jī)過(guò)程.令

Z(t)=X(t)+jY(t)t∈T

則稱(chēng){Z(t),t∈T}是復(fù)隨機(jī)過(guò)程.定義設(shè){Z(t),t∈T}是復(fù)S.P.對(duì)任意t∈T,

稱(chēng)mZ(t)=E[Z(t)]

為復(fù)S.P.的均值函數(shù)

稱(chēng)

DZ(t)=D[Z(t)]=E|Z(t)-mZ(t)|2

為復(fù)S.P.的方差函數(shù)

稱(chēng)ΦZ(t)=E|Z(t)|2

為復(fù)S.P.的均方值函數(shù).

對(duì)任意的s,t∈T,稱(chēng)RZ(s,t)=E[Z(s)Z(t)]

為復(fù)S.P.的相關(guān)函數(shù).

稱(chēng)CX(s,t)=cov(Z(s),Z(t)]=E[(Z(s)-mz(s))(Z(t)-mz(t))]

為復(fù)S.P.的協(xié)方差函數(shù).由以上定義可得(1)mZ(t)=mX(t)+jmY(t)t∈T(2)DZ(t)=DX(t)+DY(t)t∈T(3)CX(s,t)=RZ(s,t)-mZ(s)mZ(t)s,t∈T反映兩個(gè)復(fù)隨機(jī)過(guò)程之間相關(guān)程度的數(shù)字特征(1)互協(xié)方差函數(shù)

設(shè){Z1(t),t∈T},{Z2(t),t∈T}是兩個(gè)復(fù)S.P.(2)互相關(guān)函數(shù)舉例設(shè)其中ω0為正常數(shù),n為固定正整數(shù),是相互獨(dú)立的實(shí)隨機(jī)變量,且Φk～U[0,2π],求S.P.{Z(t),t∈R}的均值函數(shù)和相關(guān)函數(shù).k=1,2,…,n.§7幾類(lèi)重要的隨機(jī)過(guò)程之前按照參數(shù)和狀態(tài)對(duì)隨機(jī)過(guò)程進(jìn)行了簡(jiǎn)單的分類(lèi).隨機(jī)過(guò)程可以按照不同的標(biāo)準(zhǔn)進(jìn)行分類(lèi).本講按照隨機(jī)過(guò)程所具有的一些性質(zhì),介紹幾類(lèi)重要的隨機(jī)過(guò)程:◆

二階矩過(guò)程◆正態(tài)過(guò)程◆正交增量過(guò)程◆獨(dú)立增量過(guò)程◆

Wiener過(guò)程◆

Poisson過(guò)程1.二階矩過(guò)程定義

若S.P.{X(t),t∈T}的一、二階矩存在，則稱(chēng)Ｓ.Ｐ.{X(t),t∈T}是二階矩過(guò)程．注二階矩過(guò)程的均值函數(shù)與相關(guān)函數(shù)一定存在可利用均值函數(shù)和相關(guān)函數(shù)討論二階矩陣過(guò)程的性質(zhì).(下章內(nèi)容)二階矩過(guò)程的相關(guān)函數(shù)具有以下性質(zhì)

定理設(shè){X(t),t∈T}是二階矩過(guò)程,則相關(guān)函數(shù)RX(s,t)有(1)共軛對(duì)稱(chēng)性

RX(s,t)=RX(t,s)

(2)非負(fù)定性對(duì)任意t1,t2,…,tn∈T,任意復(fù)數(shù)

λ1,λ2,…,λn有證明(1)RX(s,t)=E[X(s)X(t)]=E[X(s)X(t)]=RX(t,s)(2)

2.正態(tài)過(guò)程補(bǔ)充:n維正態(tài)隨機(jī)變量分布及性質(zhì)

正態(tài)過(guò)程定義設(shè){X(t),t∈T}是S.P.,若對(duì)任意的n≥1

及t1,t2,…,tn∈T,{X(t1),X(t2),…,X(tn),}是n維正態(tài)隨機(jī)變量,

則稱(chēng)S.P.{X(t),t∈T}為正態(tài)過(guò)程或高斯過(guò)程注意

若{X(t),t∈T}是一族正態(tài)隨機(jī)變量,

但{X(t),t∈T}不一定是正態(tài)過(guò)程.

(2)正態(tài)過(guò)程的有限維分布由其均值函數(shù)與相關(guān)函數(shù)完全確定.(3)正態(tài)過(guò)程是二階矩過(guò)程.舉例獨(dú)立的r.v.，且都服從正態(tài)分布N(0,σ2),ω是常數(shù)．設(shè)S.P.試證明該過(guò)程是正態(tài)過(guò)程，并求它的有限維分布．,其中A,B為相互3.正交增量過(guò)程定義設(shè){X(t),t∈T}是二階矩過(guò)程，若對(duì)任意的

t1<t2

≤

t3<

t4∈T

都有則稱(chēng)S.P.{X(t),t∈T}是一正交增量過(guò)程.注:這里<X,Y>=E[XY]可視為內(nèi)積

若T取為有限區(qū)間[a,b],對(duì)

特別的，當(dāng)X(a)=0時(shí)，有

定理設(shè){X(t),t∈[a,b]}是正交增量過(guò)程,

且X(a)=0,則(2)ΦX(t)是單調(diào)不減函數(shù)(1)4獨(dú)立增量過(guò)程設(shè){X(t),t∈T}是一是S.P.如果對(duì)是相互獨(dú)立的隨機(jī)變量，則稱(chēng){X(t),t∈T}是獨(dú)立增量過(guò)程．以及有如果對(duì)于任意s<t∈T,X(t)-X(s)的分布僅依賴(lài)于t-s，而與s,t本身取值無(wú)關(guān)，則稱(chēng){X(t),t∈T}為平穩(wěn)增量過(guò)程．如果S.P.{X(t),t∈T}既是平穩(wěn)增量過(guò)程，又是獨(dú)立增量過(guò)程，則稱(chēng){X(t),t∈T}

為平穩(wěn)的獨(dú)立增量過(guò)程．定理

獨(dú)立增量過(guò)程的有限維分布函數(shù)由其一維分布函數(shù)和增量分布函數(shù)確定．

證明思路

由于隨機(jī)變量的分布函數(shù)與特征函數(shù)一一對(duì)應(yīng).

只需證獨(dú)立增量過(guò)程的有限維特征函數(shù)由其一維特征函數(shù)和增量特征函數(shù)確定．證明n維隨機(jī)變量的的特征函數(shù)為令則①代入①式由題意知Y1,Y2,…,Yn獨(dú)立由Y1Y2,…,Yn的獨(dú)立性證畢５Wiener過(guò)程(布朗運(yùn)動(dòng))稱(chēng)實(shí)S.P.{W(t),t≥0}是參數(shù)為σ2的Wiener過(guò)程,如果是平穩(wěn)的獨(dú)立增量過(guò)程．補(bǔ)充說(shuō)明：布朗運(yùn)動(dòng)描述浸沒(méi)（或懸?。┰谝后w或者氣體中微小顆粒的運(yùn)動(dòng)，該現(xiàn)象由英國(guó)植物學(xué)家RobertBrown首次發(fā)現(xiàn)；Dr.Einstein與1905年做出解釋?zhuān)何⒘＿\(yùn)動(dòng)是由大量分子的連續(xù)碰撞造成的；自1918年開(kāi)始，Dr.Wiener發(fā)表一系列論文對(duì)布朗運(yùn)動(dòng)進(jìn)行數(shù)學(xué)描述；布朗運(yùn)動(dòng)是量子力學(xué)、概率統(tǒng)計(jì)、金融證券等研究中最重要的隨機(jī)過(guò)程：例如：上證綜合指數(shù)受到每筆成交的撞擊而上下波動(dòng)，在短時(shí)間內(nèi)不考慮消息面的影響時(shí)，可用布朗運(yùn)動(dòng)進(jìn)行近似描述Wiener過(guò)程示意圖：1.微粒受空氣分子碰撞引起的布朗運(yùn)動(dòng)：2.五個(gè)微粒受空氣分子碰撞引起的布朗運(yùn)動(dòng)：定理設(shè)

{W(t),t≥0}是參數(shù)為σ2的Wiener過(guò)程.則證明(1)

由定義,顯然成立.(2)由(1)易知有對(duì)s≥0,t≥0,不妨設(shè)s≤t,則獨(dú)立性定理Wiener過(guò)程是正態(tài)過(guò)程．證明設(shè){W(t),t≥0}是參數(shù)為σ2的Wiener過(guò)程.

則對(duì)任意的n≥1,以及任意的{W(t1),W(t2),…,W(tn)}是n維隨機(jī)變量由Wiener過(guò)程的定義知相互獨(dú)立所以是n維正態(tài)隨機(jī)變量.又由于所以是n維正態(tài)變量.所以{W(t),t≥0}是正態(tài)過(guò)程.作業(yè)2.1設(shè)X(t)=Asin(ωt+Φ),Y(t)=Bsin(ωt+Φ+ψ),t∈R,其中A,B,ω,ψ為實(shí)常數(shù)，Φ服從U[0,2π],求RXY(s,t)作業(yè)2.2設(shè){W(t),t≥0}是參數(shù)為σ2的Wiener過(guò)程，求下列過(guò)程的協(xié)方差函數(shù)：{W(t)+At,t≥0},其中A為常數(shù)；{W(t)+Xt,t≥0},其中X服從N(0,1),且與{W(t)，t≥0}相互獨(dú)立下周上課前提交電子版至郵箱:gaosc@６Poisson過(guò)程計(jì)數(shù)過(guò)程

稱(chēng)實(shí)隨機(jī)過(guò)程{N(t),t≥0}是計(jì)數(shù)過(guò)程，如果N(t)表示直到t時(shí)刻為止發(fā)生的某隨機(jī)事件數(shù)．性質(zhì)①②N(t)是非負(fù)整數(shù)③④表示時(shí)間間隔t-s內(nèi)發(fā)生的隨機(jī)事件數(shù)．實(shí)例1.電話交換臺(tái)的呼叫次數(shù)2.放射性裂變的質(zhì)點(diǎn)數(shù)3.發(fā)生故障而不能工作的機(jī)器數(shù)4.通過(guò)交通路口的車(chē)輛數(shù)5.來(lái)到某服務(wù)窗口的顧客數(shù)………..以上實(shí)例中的呼叫,質(zhì)點(diǎn),機(jī)器,車(chē)輛,顧客等也統(tǒng)一叫做隨機(jī)點(diǎn)Poisson過(guò)程定義若計(jì)數(shù)過(guò)程{N(t),t≥0}

滿足是平穩(wěn)的獨(dú)立增量過(guò)程服從參數(shù)是λt

的Poisson分布,即則稱(chēng)計(jì)數(shù)過(guò)程{N(t),t≥0}是參數(shù)(強(qiáng)度,比率)為λ

的Poisson過(guò)程.定理設(shè){N(t),t≥0}

是參數(shù)為λ

的Poisson

過(guò)程，則證明1)由定義,顯然有又對(duì)s≥0,t≥0,不妨設(shè)s≤t,則有是獨(dú)立增量平穩(wěn)性由定義Poisson過(guò)程的等價(jià)定義稱(chēng)計(jì)數(shù)過(guò)程{N(t),t≥0}是參數(shù)為λ的Poisson過(guò)程，如果：等價(jià)性證明見(jiàn)教材56①②③④Poisson過(guò)程的到達(dá)時(shí)間與到達(dá)時(shí)間間隔分布設(shè){N(t),t≥0}是參數(shù)為λ

的Poisson過(guò)程，則N(t)表示時(shí)間區(qū)間[0,t)內(nèi)到達(dá)的隨機(jī)點(diǎn)數(shù).到達(dá)時(shí)間(序列)表示第i個(gè)隨機(jī)點(diǎn)的到達(dá)時(shí)刻,則稱(chēng)為Poisson過(guò)程的到達(dá)時(shí)間序列.到達(dá)時(shí)間間隔(序列)它表示第n-1個(gè)隨機(jī)點(diǎn)與第n個(gè)隨機(jī)點(diǎn)的到達(dá)時(shí)間間隔,則稱(chēng)為Poisson過(guò)程的到達(dá)時(shí)間間隔(序列)顯然有關(guān)于Poisson過(guò)程中的這兩個(gè)序列的概率分布,有以下結(jié)論定理

(到達(dá)時(shí)間間隔分布)設(shè){N(t),t≥0}

是參數(shù)為λ

的Poisson過(guò)程，是其到達(dá)時(shí)間間隔序列，則是相互獨(dú)立同服從參數(shù)為λ的指數(shù)分布．證明獨(dú)立性由于poisson過(guò)程是平穩(wěn)的獨(dú)立增量過(guò)程所以相互獨(dú)立.下證同分布T1,T2的獨(dú)立性平穩(wěn)性T1,T2…Tn的獨(dú)立性平穩(wěn)性得證定理(到達(dá)時(shí)間序列分布)設(shè){N(t),t≥0}是參數(shù)為λ的Poisson過(guò)程,則其到達(dá)時(shí)間服從Γ分布,密度為證明的分布函數(shù)第n個(gè)隨機(jī)點(diǎn)的到達(dá)時(shí)刻再求導(dǎo)數(shù)所以到達(dá)時(shí)間序列的密度函數(shù)為本題目還可以用特征函數(shù)證明,見(jiàn)教材Poisson過(guò)程中到達(dá)時(shí)間的條件分布問(wèn)題:

設(shè){N(t),t≥0}是參數(shù)為λ

的Poisson過(guò)程，如果在[0，t)內(nèi)僅有一個(gè)隨機(jī)點(diǎn)到達(dá),τ是其到達(dá)時(shí)間,則該隨機(jī)點(diǎn)的到達(dá)時(shí)間τ服從怎樣的概率分布?如果在[0，t)內(nèi)僅有一個(gè)隨機(jī)點(diǎn)到達(dá)，則該隨機(jī)點(diǎn)的到達(dá)時(shí)間τ服從[0,t]上的均勻分布.即事實(shí)上,s<t時(shí),有更一般有以下問(wèn)題設(shè){N(t),t≥0}

是參數(shù)為λ

的Poisson過(guò)程,如果在[0,t)內(nèi)有n個(gè)隨機(jī)點(diǎn)到達(dá)，則n個(gè)到達(dá)時(shí)間服從怎樣的概率分布??定理

設(shè){N(t),t≥0}

是參數(shù)為λ

的Poisson過(guò)程,如果在[0,t)內(nèi)有n個(gè)隨機(jī)點(diǎn)到達(dá)，則n個(gè)到達(dá)時(shí)間和n個(gè)相互獨(dú)立同服從[0,t]上的均勻分布的隨機(jī)變量U1,U2,…,Un的順序統(tǒng)計(jì)量

即證明例假設(shè)乘客按照參數(shù)為λ的Poisson過(guò)程來(lái)到一個(gè)火車(chē)站乘坐某次火車(chē)，若火車(chē)在時(shí)刻t啟動(dòng)，試求在[0,t]內(nèi)到達(dá)火車(chē)站的乘客等待時(shí)間總和的數(shù)學(xué)期望．7.復(fù)合poisson過(guò)程定義設(shè){N(t),t≥0}是參數(shù)為λ

的Poisson過(guò)程,{Yk.k=1,2,…}是一列獨(dú)立同分布的隨機(jī)變量,且與{N(t),t≥0}獨(dú)立稱(chēng){X(t),t≥0}為復(fù)合Poisson過(guò)程.若將N(t)表示[0,t)內(nèi)的隨機(jī)點(diǎn)數(shù),Yk表示第k個(gè)隨機(jī)點(diǎn)所攜帶的某種(能)量,則總量為即{X(t),t≥0}為復(fù)合Poisson過(guò)程定理設(shè){X(t),t≥0}為復(fù)合Poisson過(guò)程.則⑴{X(t),t≥0}的一維特征函數(shù)為其中f(u)是Yn(n=1,2,…)的特征函數(shù)⑵若證明⑴由特征函數(shù)的定義可得X(t)的特征函數(shù)為Yn與N(t)獨(dú)立Yn獨(dú)立同分布⑵由于特征函數(shù)與矩有關(guān)系則對(duì)X(t)的特征函數(shù)求導(dǎo)數(shù)所以所以例1

設(shè)移民到某地區(qū)定居的戶數(shù)是一Poisson過(guò)程，平均每周有2戶定居，即λ=2.如果每戶的人口數(shù)是隨機(jī)變量一戶4人的概率為1/6，一戶3人的概率為1/3，一戶2人的概率為1/3，一戶1人的概率為1/6，且每戶的人口數(shù)是相互獨(dú)立的，求在五周內(nèi)移民到該地區(qū)的人口數(shù)的數(shù)學(xué)期望和方差．和中出現(xiàn)第ｋ次事件設(shè)是兩個(gè)相互獨(dú)立的Poisson過(guò)程，它們?cè)趩挝粫r(shí)間內(nèi)發(fā)生事件的平均數(shù)分別為λ1和λ２.設(shè)代表第一過(guò)程中出現(xiàn)第ｋ次事件所需的時(shí)間，代表第二過(guò)程所需的時(shí)間．試求：(1)第一過(guò)程中出現(xiàn)第一次事件先于第二過(guò)程出現(xiàn)第一次事件的概率，即(2)作業(yè)1解題思路:考慮兩個(gè)隨機(jī)變量的聯(lián)合密度函數(shù),再計(jì)算有關(guān)的概率某中子計(jì)數(shù)器對(duì)到達(dá)計(jì)數(shù)器的粒子只是每隔一個(gè)記錄一次，假設(shè)粒子是按照比率4個(gè)每分鐘的Poisson過(guò)程到達(dá)，令T是兩個(gè)相繼被記錄粒子之間的時(shí)間間隔（單位：分鐘）試求：1）T的概率密度；

2）作業(yè)2解題思路:由poisson過(guò)程是平穩(wěn)的獨(dú)立增量過(guò)程.可知相繼被記錄的時(shí)間間隔是獨(dú)立同分布的.

設(shè)有兩個(gè)相互獨(dú)立的、強(qiáng)度分別為和的Poisson過(guò)程和，試證在過(guò)程中兩個(gè)相鄰事件間，過(guò)程出現(xiàn)k個(gè)事件的概率為作業(yè)3證明思路:平穩(wěn)過(guò)程主要內(nèi)容嚴(yán)平穩(wěn)過(guò)程與寬平穩(wěn)過(guò)程的定義平穩(wěn)過(guò)程相關(guān)函數(shù)的性質(zhì)平穩(wěn)過(guò)程的各態(tài)歷經(jīng)性平穩(wěn)過(guò)程的譜分析平穩(wěn)過(guò)程是一類(lèi)統(tǒng)計(jì)特性不隨時(shí)間而發(fā)生改變的隨機(jī)過(guò)程.平穩(wěn)過(guò)程在實(shí)際中有廣泛的應(yīng)用,在通訊,雷達(dá)等隨機(jī)信號(hào)處理中有重要的作用.研究對(duì)象更為特殊的二階矩過(guò)程—寬平穩(wěn)過(guò)程§1平穩(wěn)過(guò)程的定義定義(嚴(yán)平穩(wěn)過(guò)程)設(shè)X={X(t),t∈T}是隨機(jī)過(guò)程,如果對(duì)任意的n≥1,則稱(chēng)X={X(t),t∈T}是

嚴(yán)平穩(wěn)過(guò)程.說(shuō)明1.嚴(yán)平穩(wěn)過(guò)程的有限維分布不隨時(shí)間的推移而改變易知

其一維分布函數(shù)與時(shí)間t無(wú)關(guān).

其二維分布函數(shù)與僅與時(shí)間間隔有關(guān).2.若二階矩存在的過(guò)程是嚴(yán)平穩(wěn)過(guò)程,則其均值函數(shù)是常數(shù),相關(guān)函數(shù)是時(shí)間間隔的函數(shù).3.通常用定義判斷一個(gè)過(guò)程的嚴(yán)平穩(wěn)性是困難的.在實(shí)際中,若產(chǎn)生隨機(jī)過(guò)程的主要物理?xiàng)l件在時(shí)間進(jìn)程中不變,則過(guò)程可看作是嚴(yán)平穩(wěn)的.例如工作在穩(wěn)定狀態(tài)下的接收機(jī),其輸出噪聲可認(rèn)為是嚴(yán)平穩(wěn)的.此時(shí)若要測(cè)量噪聲的統(tǒng)計(jì)特性,則在任何時(shí)候測(cè)量都可得到相同結(jié)果.4.嚴(yán)平穩(wěn)過(guò)程也叫狹義平穩(wěn)過(guò)程或強(qiáng)平穩(wěn)過(guò)程.由于隨機(jī)過(guò)程有限維分布有時(shí)候無(wú)法確定,以下給出在理論與應(yīng)用上更重要的另一種平穩(wěn)過(guò)程概念.定義(寬平穩(wěn)過(guò)程)設(shè)X={X(t),t∈T}是二階矩過(guò)程,如果則稱(chēng)X={X(t),t∈T}為寬平穩(wěn)過(guò)程,簡(jiǎn)稱(chēng)平穩(wěn)過(guò)程.寬平穩(wěn)過(guò)程也叫廣義平穩(wěn)過(guò)程或弱平穩(wěn)過(guò)程.以后說(shuō)到平穩(wěn)過(guò)程指寬平穩(wěn)過(guò)程===1.

嚴(yán)平穩(wěn)過(guò)程不一定是寬平穩(wěn)過(guò)程.2.

寬平穩(wěn)過(guò)程也不一定是嚴(yán)平穩(wěn)過(guò)程.注意一般情況下但對(duì)二階矩過(guò)程嚴(yán)平穩(wěn)過(guò)程一定是寬平穩(wěn)過(guò)程.

但對(duì)正態(tài)過(guò)程寬平穩(wěn)性與嚴(yán)平穩(wěn)性是等價(jià)的.定理若{X(t),t∈T}是正態(tài)過(guò)程,

則{X(t),t∈T}是嚴(yán)平穩(wěn)過(guò)程的充要條件是{X(t),t∈T}是寬平穩(wěn)過(guò)程.預(yù)備知識(shí)證明(充分性)設(shè){X(t),t∈T}是寬平穩(wěn)過(guò)程.{X(t),t∈T}的有限維特征函數(shù)即特征函數(shù)不隨時(shí)間的推移而改變.所以{X(t),t∈T}是嚴(yán)平穩(wěn)過(guò)程必要性顯然.例1

設(shè)S(t)是周期為T(mén)的可積函數(shù).令X(t)=S(t+Θ)

t∈(-∞,+∞),Θ～U[0,T].稱(chēng){X(t),-∞<t<+∞}

為隨機(jī)相位周期過(guò)程,試討論它的平穩(wěn)性.它是平穩(wěn)過(guò)程例2

設(shè){Xn,n=1,2,…}是隨機(jī)變量序列.例3設(shè){X(t),t≥0}是只取±1兩個(gè)值的隨機(jī)過(guò)程,其符號(hào)的改變次數(shù)是一參數(shù)為λ的Poisson過(guò)程{N(t),t≥0},且對(duì)任意的t≥0,P(X(t)=－1)=P(X(t)=1)=1/2.試討論{X(t),t≥0}的平穩(wěn)性.例4

設(shè){Y(t),t≥0}是正態(tài)過(guò)程.且例:設(shè)是參數(shù)為的Wiener過(guò)程，令其中為常數(shù)，試證明：是嚴(yán)平穩(wěn)過(guò)程.

因此，是寬平穩(wěn)過(guò)程.

所以為n維正態(tài)隨機(jī)變量，因此是正態(tài)過(guò)程.所以是嚴(yán)平穩(wěn)過(guò)程.§2平穩(wěn)過(guò)程相關(guān)函數(shù)的性質(zhì)

一般用數(shù)字特征描述隨機(jī)過(guò)程比用分布函數(shù)相對(duì)簡(jiǎn)便.

對(duì)于平穩(wěn)過(guò)程,描述其統(tǒng)計(jì)特性的數(shù)字特征是相關(guān)函數(shù).1.(自)相關(guān)函數(shù)的性質(zhì)定理設(shè){X(t),t∈T}是平穩(wěn)過(guò)程,則其相關(guān)函數(shù)有性質(zhì):證明

(1)若{X(t),t∈T}是周期平穩(wěn)過(guò)程,即則其相關(guān)函數(shù)也是周期函數(shù),且周期相同也為T(mén)0.特別2.聯(lián)合平穩(wěn)的平穩(wěn)過(guò)程及其互相關(guān)函數(shù)的性質(zhì)定義設(shè){X(t),t∈T},{Y(t),t∈T}是兩個(gè)平穩(wěn)過(guò)程.若對(duì)任意的s,t∈T,有則稱(chēng){X(t),t∈T},{Y(t),t∈T}為聯(lián)合平穩(wěn)的平穩(wěn)過(guò)程.此時(shí)若令Z(t)=X(t)+Y(t),問(wèn)Z(t)是否為平穩(wěn)過(guò)程?定理設(shè){X(t),t∈T},{Y(t),t∈T}為聯(lián)合平穩(wěn)的平穩(wěn)過(guò)程.則其互相關(guān)函數(shù)RXY(s,t)具有如下性質(zhì)(1)(2)(3)證明(1)證明(2)證明(3)推論(2)

設(shè){X(t),t∈T},{Y(t),t∈T}為實(shí)聯(lián)合平穩(wěn)的平穩(wěn)過(guò)程.則其互相關(guān)函數(shù)RXY(s,t)滿足(1)

設(shè){X(t),t∈T},{Y(t),t∈T}為聯(lián)合平穩(wěn)的平穩(wěn)過(guò)程.則其互協(xié)方差函數(shù)CXY(s,t)也滿足第五章馬爾可夫過(guò)程馬爾可夫過(guò)程是前蘇聯(lián)數(shù)學(xué)家A.A.Markov首先提出和研究的一類(lèi)隨機(jī)過(guò)程.經(jīng)過(guò)世界各國(guó)幾代數(shù)學(xué)家的相繼努力,至今已成為內(nèi)容十分豐富,理論上相當(dāng)完整,應(yīng)用也十分廣泛的一門(mén)數(shù)學(xué)分支.它的應(yīng)用領(lǐng)域涉及計(jì)算機(jī)、通訊、自動(dòng)控制、隨機(jī)服務(wù)、可靠性、生物、經(jīng)濟(jì)、管理、氣象、物理、化學(xué)等.馬爾可夫

(1856年6月14日——1922年7月20日）馬爾可夫?qū)?shù)學(xué)的最大貢獻(xiàn)是在概率論領(lǐng)域作出的．十九世紀(jì)后二十年，他主要是沿著切比雪夫開(kāi)創(chuàng)的方向，致力于獨(dú)立隨機(jī)變量和古典極值理論的研究，從而改進(jìn)和完善了大數(shù)定律和中心極限定理．二十世紀(jì)初，他的興趣轉(zhuǎn)移到相依隨機(jī)變量序列的研究上來(lái)，從而創(chuàng)立了以他命名的著名概率模型——馬爾可夫鏈．王梓坤院士(1929年—)江西吉安人,1952年大學(xué)畢業(yè)后，被分派到天津南開(kāi)大學(xué)數(shù)學(xué)系任教,曾任北京師范大學(xué)校長(zhǎng),是一位對(duì)我國(guó)科學(xué)和教育事業(yè)作出卓越貢獻(xiàn)的數(shù)學(xué)家和教育家，也是我國(guó)概率論研究的先驅(qū)和學(xué)術(shù)帶頭人之一。

1954年，他以?xún)?yōu)異的成績(jī)考取了赴蘇研究生。踏進(jìn)世界著名學(xué)府－莫斯科大學(xué)，在這個(gè)學(xué)府世界概率論的奠基人柯?tīng)柲缏宸?Kolmogorov)院士正領(lǐng)導(dǎo)看一個(gè)強(qiáng)有力的概率研究集團(tuán)。柯?tīng)柲呗宸蚧垩圩R(shí)英才，非常信賴(lài)這位由中國(guó)選派的年輕人的能力，把他選作自己的研究生，去攻概率論的中心問(wèn)題隨機(jī)過(guò)程理論。當(dāng)時(shí)中國(guó)近代數(shù)學(xué)才剛剛起步，大學(xué)也沒(méi)有概率課程。此時(shí)蘇聯(lián)的概率論水平已屆于世界最前列。王梓坤也根本不知道什么是概率，可他的研究方向又恰恰被定為概率論，

著有《概率論基礎(chǔ)及其應(yīng)用》、《隨機(jī)過(guò)程論》、《生滅過(guò)程與馬爾科夫鏈》等9部數(shù)學(xué)著作．馬爾可夫過(guò)程的定義馬爾可夫鏈的轉(zhuǎn)移概率與概率分布齊次馬爾可夫鏈狀態(tài)的分類(lèi)轉(zhuǎn)移概率的穩(wěn)定性能本章主要內(nèi)容一馬爾可夫過(guò)程的定義1．馬爾可夫性通俗地說(shuō)，就是在知道過(guò)程現(xiàn)在的條件下，其將來(lái)的條件分布不依賴(lài)于過(guò)去，則稱(chēng)具有馬爾可夫（Markov)性。定義設(shè)是一個(gè)隨機(jī)過(guò)程，如果在t0時(shí)刻所處的狀態(tài)為已知，它在時(shí)刻

所處狀態(tài)的條件分布與其在t0

之前

所處的狀態(tài)無(wú)關(guān)。2.馬爾可夫過(guò)程定義設(shè)的狀態(tài)空間為S,的條件分布函數(shù)恰好等于3.馬爾可夫鏈定義參數(shù)集和狀態(tài)空間都是離散的馬爾可夫過(guò)程稱(chēng)為馬爾可夫鏈。注只討論馬爾可夫鏈的狀態(tài)空間為有限或可列無(wú)限.則馬爾可夫性可表示為特別對(duì)取T={0,1,2,···}的馬爾可夫鏈，記為或此時(shí)的馬爾可夫性為或今后,記二馬爾可夫鏈的轉(zhuǎn)移概率與概率分布1.轉(zhuǎn)移概率定義設(shè)是馬爾可夫鏈,稱(chēng)條件概率經(jīng)過(guò)k步轉(zhuǎn)移,于n+k時(shí)到達(dá)狀態(tài)j的條件概率).在n時(shí)的k步轉(zhuǎn)移概率.n時(shí)的k步轉(zhuǎn)移概率矩陣.特別

當(dāng)k=1時(shí)，定義稱(chēng)可數(shù)維的矩陣為隨機(jī)矩陣，如果顯然，在n時(shí)的k步轉(zhuǎn)移概率矩陣是一隨機(jī)矩陣.特別k＝０時(shí)，約定２.Chapman-kolmogorov方程定理(C-K方程)或矩陣形式（解決了k步轉(zhuǎn)移概率與一步轉(zhuǎn)移概率間的關(guān)系）證明系統(tǒng)在n時(shí)從狀態(tài)i的出發(fā),經(jīng)過(guò)k+m步轉(zhuǎn)移,于n+k+m時(shí)到達(dá)狀態(tài)j,可以先在n時(shí)從狀態(tài)i出發(fā)，經(jīng)過(guò)k步轉(zhuǎn)移于n+k時(shí)到達(dá)某種中間狀態(tài)l,再在n+k時(shí)從中間狀態(tài)l出發(fā)經(jīng)過(guò)m步轉(zhuǎn)移于n+k+m時(shí)到達(dá)最終狀態(tài)j,而中間狀態(tài)l要取遍整個(gè)狀態(tài)空間S.C-K方程的直觀意義：定理

馬爾可夫鏈的k步轉(zhuǎn)移概率由 其一步轉(zhuǎn)移概率所完全確定.若取m=1,則由C-K方程的矩陣形式:得分量形式1）初始分布為馬爾可夫鏈的初始分布3.馬爾可夫鏈的分布稱(chēng)第i個(gè)分量為的(行)向量為馬爾可夫鏈的初始分布向量.即2）有限維分布定理馬爾可夫鏈的有限維分布由其初始分布和一步轉(zhuǎn)移概率所完全確定.證明又因?yàn)轳R爾可夫鏈的k步轉(zhuǎn)移概率由一步轉(zhuǎn)移概率所完全確定.所以馬爾可夫鏈的有限維分布由其初始分布和一步轉(zhuǎn)移概率所完全確定.3）絕對(duì)分布為馬爾可夫鏈的絕對(duì)分布稱(chēng)第j個(gè)分量為的(行)向量為馬爾可夫鏈的絕對(duì)分布向量.即絕對(duì)分布、初始分布和n步轉(zhuǎn)移概率有如下關(guān)系：或矩陣形式4.齊次馬爾可夫鏈定義是一馬爾可夫鏈,如果其一步轉(zhuǎn)移概率恒與起始時(shí)刻n無(wú)關(guān)，記為為齊次(時(shí)間其次或時(shí)齊)馬爾可夫鏈.否則，稱(chēng)為非齊次馬爾可夫鏈.為方便，一般假定時(shí)間起點(diǎn)為零．即顯然對(duì)齊次馬爾可夫鏈，k步轉(zhuǎn)移概率也與起始時(shí)刻n無(wú)關(guān)．記為相應(yīng)的k步與一步轉(zhuǎn)移概率矩陣分別記為定理的有限維分布由其初始分布和一步轉(zhuǎn)移概率所完全確定例１(天氣預(yù)報(bào)問(wèn)題)如果明天是否有雨僅與今天的天氣(是否有雨)有關(guān)，而與過(guò)去的天氣無(wú)關(guān).并設(shè)今天下雨、明天有雨的概率為a，今天無(wú)雨而明天有雨的概率為b，又假設(shè)有雨稱(chēng)為0狀態(tài)天氣，無(wú)雨稱(chēng)為1狀態(tài)天氣.Xn表示時(shí)刻n時(shí)的天氣狀態(tài)，則是以為狀態(tài)空間的齊次馬爾可夫鏈.其一步轉(zhuǎn)移概率矩陣為５.馬爾可夫鏈舉例

例2(有限制隨機(jī)游動(dòng)問(wèn)題)

設(shè)質(zhì)點(diǎn)只能在{0，1，2，···，a}中的各點(diǎn)上作隨機(jī)游動(dòng)，移動(dòng)規(guī)則如下：ii+1i-101a-1a設(shè)Xn表示質(zhì)點(diǎn)在n時(shí)刻所處的位置，則其一步轉(zhuǎn)移概率矩陣為例3

設(shè)一個(gè)壇子中裝有m個(gè)球，它們或是紅色的，或是黑色的，從壇子中隨機(jī)的摸出一球，并換入一個(gè)相反顏色的球.其一步轉(zhuǎn)移概率矩陣為為狀態(tài)空間的齊次馬爾可夫鏈.設(shè)經(jīng)過(guò)n次摸換,壇中黑球數(shù)為Xn,則例４設(shè)是具有三個(gè)狀態(tài)0，1，2的齊次馬爾可夫鏈，其一步轉(zhuǎn)移概率矩陣為初始分布試求：解作業(yè)設(shè)是狀態(tài)空間為{a,b,c}的齊次馬氏鏈.其一步轉(zhuǎn)移概率矩陣為三齊次馬爾可夫鏈狀態(tài)的分類(lèi)1.狀態(tài)的屬性定義引理1證明定義2引理2證明系統(tǒng)從狀態(tài)i出發(fā),首次到達(dá)狀態(tài)j的平均轉(zhuǎn)移步數(shù)定義3下面的引理給出di

與

hi二者的關(guān)系引理3證明定義4例1：在直線上，如果質(zhì)點(diǎn)每次向前、向后移動(dòng)1步的概率都是1/3，向后移動(dòng)2步的概率也是1/3，試證明每個(gè)狀態(tài)都是非周期的。例2：在直線上，如果質(zhì)點(diǎn)每次向前移動(dòng)1步的概率都是p，向后移動(dòng)5步的概率是q=1-p，試證明每個(gè)狀態(tài)的周期都是6。定義5引理4證明引理5證明引理6證下面用反正法證明:則從狀態(tài)j出發(fā)最終不能到達(dá)j的概率為:2.狀態(tài)屬性的判斷定理1(Doeblin公式)證明思路上極限存在下極限存在相等證明(找上界)(有上界必有上極限)(找下界)(不等式左邊對(duì)固定的N′

有下界,從而有下極限)推論1推論2定理2定理3定理4證明推論證明定理5證明定理6證明所以,i,j或者同為常返態(tài),或者同為非常返態(tài).下面考慮當(dāng)i,j同為常返態(tài)時(shí)的情況:所以,i,j或者同為零常返態(tài),或者同為正常返態(tài).下面證明當(dāng)i,j同為正常返態(tài)時(shí),周期相同所以,i,j或者同為正常返非周期狀態(tài)(遍歷態(tài)),

或者同為正常返周期狀態(tài),且周期相同.作業(yè)：3.狀態(tài)空間的分解定義引理7(有關(guān)閉集的判定和性質(zhì))證明(1)用數(shù)學(xué)歸納法引理8證明引理9設(shè)C是閉集,則當(dāng)且僅當(dāng)其中任何兩個(gè)狀態(tài)互通時(shí),C為不可約的.證明推論齊次馬爾可夫鏈?zhǔn)遣豢杉s的充要條件是它的任何兩個(gè)狀態(tài)互通特別關(guān)于有限狀態(tài)的馬爾可夫鏈有下面結(jié)論定理7(1)

有限齊次馬爾可夫鏈所有非常返狀態(tài)集D不可能是閉集.(2)有限齊次馬爾可夫鏈不可能存在零常返狀態(tài).(3)不可約的有限齊次馬爾可夫鏈的所有狀態(tài)都是

正常返狀態(tài).證明定理8證明由以上的分析,可以得到狀態(tài)空間的分解定理定理9齊次馬爾可夫鏈的狀態(tài)空間S可唯一地分解成有限個(gè)或可列無(wú)限多個(gè)互不相交的狀態(tài)子集的并.即其中D是所有非常返狀態(tài)構(gòu)成的狀態(tài)子集.所有常返狀態(tài)構(gòu)成的不可約閉集.每個(gè)狀態(tài)子集中的狀態(tài)有著相同的狀態(tài)類(lèi)型:(即或者均為零常返,或者均為正常返非周期,或者均為正常返周期且周期相同.)引理10證明定理10(周期鏈分解定理)證明思路:從三個(gè)方面證明(1)分解式的存在性(2)轉(zhuǎn)移規(guī)則的合理性(正確性)(3)分解式的唯一性證明(1)分解式的存在性(2)轉(zhuǎn)移規(guī)則的正確性(3)分解式的唯一性定理11證明(1)例1

設(shè)狀態(tài)空間S={0,1,2}的馬爾可夫鏈,它的一步轉(zhuǎn)移概率矩陣為研究其狀態(tài)間的關(guān)系以及狀態(tài)類(lèi)型120例2

設(shè)狀態(tài)空間S={1,2,3,4}的馬爾可夫鏈,它的一步轉(zhuǎn)移概率矩陣為試分析狀態(tài)類(lèi)型1234例3

設(shè){Xn,n=0,1,2,…}是一齊次馬爾可夫鏈,狀態(tài)空間

S={1,2,3,4,5},其一步轉(zhuǎn)移概率矩陣為試分析狀態(tài)類(lèi)型12354例4

設(shè)齊次馬爾可夫鏈的狀態(tài)空間S={0,1,2,3,},其一步轉(zhuǎn)移概率矩陣為試分析過(guò)程的周期性1203例5

設(shè)齊次馬爾可夫鏈的狀態(tài)空間S={1,2,3,4,5,6,7,8},

其一步轉(zhuǎn)移概率矩陣為12534678例5

設(shè)齊次馬爾可夫鏈的狀態(tài)空間S={1,2,3,4,5,6,},

其一步轉(zhuǎn)移概率矩陣為試分解此馬爾可夫鏈,并寫(xiě)出各狀態(tài)類(lèi)型及周期.123564四轉(zhuǎn)移概率的穩(wěn)態(tài)性能問(wèn)題

馬爾可夫鏈?zhǔn)欠窬哂薪y(tǒng)計(jì)意義下的穩(wěn)態(tài)性,即要回答以下問(wèn)題?當(dāng)

時(shí),轉(zhuǎn)移概率數(shù)列是否收斂?若存在,此極限是否與初始狀態(tài)i無(wú)關(guān)?

(3)在怎樣的條件才能保證存在且與初始狀態(tài)i無(wú)關(guān)?1.轉(zhuǎn)移概率的極限由已有知識(shí)可知但!又由已有知識(shí)可知那么,如何討論???由周期鏈的性質(zhì)得到啟發(fā)我們討論定理1

設(shè)j是正常返狀態(tài)，則其中是j的平均轉(zhuǎn)回時(shí)間.證明則推論設(shè)是齊次馬爾可夫鏈，它的每個(gè)狀態(tài)都是正常返的，而且都有周期d，狀態(tài)空間S已經(jīng)被唯一地分解成特別的，如果d=1,則證明在以上定理中取r=d,則有即得到結(jié)論.證明定理3設(shè)其中D為非常返狀態(tài)集，為零常返狀態(tài)集，為正常返狀態(tài)閉集，則且此極限值與初始狀態(tài)i無(wú)關(guān)，記作推論設(shè)是不可約的馬爾可夫鏈，其狀態(tài)空間S中的每個(gè)狀態(tài)都是正常返非周期狀態(tài),則即定理4

設(shè)C為互通的遍歷狀態(tài)構(gòu)成的閉集，則證明定義設(shè)是一個(gè)馬爾可夫鏈，如果構(gòu)成一概率分布，稱(chēng)為馬爾可夫鏈的極限分布.推論不可約馬爾可夫鏈?zhǔn)潜闅v鏈的充要條件是極限分布存在且唯一.2平穩(wěn)分布定義稱(chēng)概率分布是轉(zhuǎn)移概率矩陣為的馬爾可夫鏈的一個(gè)平穩(wěn)分布.如果說(shuō)明若齊次馬爾可夫鏈有一個(gè)平穩(wěn)分布:定理5

設(shè)是齊次馬爾可夫鏈的一個(gè)平穩(wěn)分布，如果取為的初始分布，即(1)

則對(duì)任意的正整數(shù)n，都有(2)并且對(duì)任意的正整數(shù)n，m,以及證明說(shuō)明了若鏈有平穩(wěn)分布,且以它作為初始分布,則其絕對(duì)分布是確定的,保持不變.且該鏈?zhǔn)菄?yán)平穩(wěn)的序列.對(duì)一個(gè)齊次的馬爾可夫鏈?zhǔn)欠翊嬖谄椒€(wěn)分布???一個(gè)重要的問(wèn)題:如果存在,是否唯一????如何計(jì)算?????在特殊情況下,回答上述問(wèn)題,即定理(5.4.)6

引理1

設(shè)則必存在極限推論4如果齊次馬爾可夫鏈?zhǔn)遣豢杉s的，它的所有狀態(tài)都是常返狀態(tài)，則有定理6

設(shè)特別的，若S中的每個(gè)狀態(tài)都是遍歷狀態(tài)，則且此時(shí)的平穩(wěn)分布就是極限分布.平穩(wěn)分布通過(guò)求解右方程組其次對(duì)一般的馬爾可夫鏈,如果不是不可約,則極限分布一定不存在.平穩(wěn)分布可能存在,也可能不存在.若存在,可能不唯一(有無(wú)窮多個(gè))有定理(5.4.)7引理2

設(shè)C是周期為d的正常返狀態(tài)的不可約閉集,則定理7

設(shè)其中D是非常返狀態(tài)集，C0是零常返狀態(tài)集，是正常返狀態(tài)的不可約閉集，為齊次馬爾可夫鏈的平穩(wěn)分布的充要條件是存在非負(fù)數(shù)列推論5

對(duì)于齊次馬爾可夫鏈(1)

其平穩(wěn)分布存在的充要條件是存在正常返狀態(tài)的不可約閉集.等價(jià)地,不存在平穩(wěn)分布的充要條件是

H=Φ

(2)

存在唯一的平穩(wěn)分布的充要條件是恰有一個(gè)正常返狀態(tài)的不可約閉集.(3)

存在無(wú)窮多個(gè)平穩(wěn)分布的充要條件是至少有兩個(gè)不同的正常返狀態(tài)的不可約閉集.(4)

不可約鏈存在唯一的平穩(wěn)分布的充要條件是所有狀態(tài)都是正常返狀態(tài).定理8

不可約齊次馬爾可夫鏈具有平穩(wěn)分布的充要條件是線性方程組有非零的絕對(duì)收斂解而且此時(shí)還有例1

設(shè)狀態(tài)空間為S={0,1,2,}的馬爾可夫鏈,其一步轉(zhuǎn)移概率矩陣為試求它的極限分布解易知此鏈為不可約遍歷鏈.故其平穩(wěn)分布就是極限分布例2

設(shè)齊次馬爾可夫鏈的狀態(tài)空間S={0,1,2,3,4},其一步轉(zhuǎn)移概率矩陣為求它的平穩(wěn)分布解易知是不可約鏈,且為遍歷鏈.故其平穩(wěn)分布存在且唯一.平穩(wěn)分布為例3設(shè)有狀態(tài)空間S={0,1,2,3,4,5,6}的齊次馬爾可夫鏈其一步轉(zhuǎn)移概率矩陣為(1)試對(duì)S進(jìn)行分類(lèi)，并說(shuō)明各狀態(tài)類(lèi)型(2)求平穩(wěn)分布，其平穩(wěn)分布是否唯一？為什么？(3)

求2501634(1)(2)

由(1)知,該鏈有三個(gè)不同的正常返不可約閉集所以平穩(wěn)分布不唯一三個(gè)閉集對(duì)應(yīng)的轉(zhuǎn)移概率矩陣分別為解方程組平穩(wěn)分布為作業(yè):3,4,5,7,9,11,12,13,14(2),(4),(6),15,16.隨機(jī)過(guò)程

Stochasticprocesses東華大學(xué)信息學(xué)院自動(dòng)化系高尚策Email:gaosc@引言本課程的研究對(duì)象

概率論主要是以一個(gè)或有限個(gè)隨機(jī)變量為研究對(duì)象的.隨著科學(xué)技術(shù)的不斷發(fā)展,人們發(fā)現(xiàn)幾乎一切可觀察現(xiàn)象都具有隨機(jī)性.必須對(duì)一些隨機(jī)現(xiàn)象的變化過(guò)程進(jìn)行研究.即需要研究無(wú)窮多個(gè)隨機(jī)變量隨機(jī)過(guò)程是概率論的深入和發(fā)展.它是研究客觀世界中隨機(jī)演變過(guò)程的規(guī)律性的學(xué)科.隨機(jī)過(guò)程的理論與方法在自動(dòng)控制、雷達(dá)與通信、生物工程、天文氣象、地質(zhì)能源、社會(huì)科學(xué)及工程技術(shù)、經(jīng)濟(jì)管理等許多領(lǐng)域有著極為廣泛的應(yīng)用。課程任務(wù)掌握隨機(jī)過(guò)程的基本概念.掌握隨機(jī)過(guò)程的基本理論和分析方法.具備處理隨機(jī)現(xiàn)象的思想與方法.具有應(yīng)用隨機(jī)過(guò)程的理論和方法來(lái)分析問(wèn)題和解決問(wèn)題的能力.基本內(nèi)容

隨機(jī)過(guò)程基本概念隨機(jī)分析