隨機(jī)過程與排隊(duì)論

隨機(jī)過程與排隊(duì)論上一講內(nèi)容回憶隨機(jī)變量的數(shù)字特征數(shù)學(xué)期望方差k階矩協(xié)方差條件數(shù)學(xué)期望隨機(jī)變量的特征函數(shù)6/22/20232本講主要內(nèi)容隨機(jī)過程的根本概念隨機(jī)過程的定義隨機(jī)過程的分布隨機(jī)過程的數(shù)字特征重要隨機(jī)過程獨(dú)立過程獨(dú)立增量過程6/22/20233第二章隨機(jī)過程的根本概念 隨機(jī)過程的引入 隨機(jī)過程的定義 隨機(jī)過程的分布 隨機(jī)過程的數(shù)字特征 幾種重要的隨機(jī)過程6/22/20234一、隨機(jī)過程的引入 隨機(jī)過程產(chǎn)生于二十世紀(jì)初，起源于統(tǒng)計(jì)物理學(xué)領(lǐng)域，布朗運(yùn)動(dòng)和熱噪聲是隨機(jī)過程的最早例子。隨機(jī)過程理論社會(huì)科學(xué)、自然科學(xué)和工程技術(shù)的各個(gè)領(lǐng)域中都有著廣泛的應(yīng)用。例如：現(xiàn)代電子技術(shù)、現(xiàn)代通信、自動(dòng)控制、系統(tǒng)工程的可靠性工程、市場(chǎng)經(jīng)濟(jì)的預(yù)測(cè)和控制、隨機(jī)效勞系統(tǒng)的排隊(duì)論、儲(chǔ)存論、生物醫(yī)學(xué)工程、人口的預(yù)測(cè)和控制等等。 只要研究隨時(shí)間變化的動(dòng)態(tài)系統(tǒng)的隨機(jī)現(xiàn)象的統(tǒng)計(jì)規(guī)律，就要用到隨機(jī)過程的理論。6/22/20235 設(shè)有一個(gè)生物群體，由于繁殖而產(chǎn)生后代，對(duì)于固定的n(n≥1)，令X(n,)表示第n代生物群體的個(gè)數(shù)，X(n,)是隨機(jī)變量，可取非負(fù)整數(shù)值0,1,2,…，而X(n,),n=0,1,2,…是一族隨機(jī)變量，即一個(gè)隨機(jī)過程。例問題 設(shè)X(t,)表示某臺(tái)在[0,t)時(shí)間內(nèi)收到用戶的呼喚次數(shù)。對(duì)某個(gè)固定的t(0t)，X(t,)是一個(gè)隨機(jī)變量，它可以是任意非負(fù)整數(shù)，隨著時(shí)間t的變化，就得到一族隨機(jī)變量X(t,)，0t，即一個(gè)隨機(jī)過程。 懸浮在液體中的微粒由于分子的隨機(jī)碰撞而作布朗運(yùn)動(dòng)。設(shè)X(t,)表示時(shí)刻t微粒所處位置的橫座標(biāo)，當(dāng)t變化時(shí)，X(t,)，0t，是一族隨機(jī)變量，即一個(gè)隨機(jī)過程。 電子元件或器件由于內(nèi)部電子的隨機(jī)熱運(yùn)動(dòng)所引起的端電壓X(t,)稱為熱噪聲電壓。對(duì)于固定的t0，X(t,)是一個(gè)隨機(jī)變量，隨著t的變化得到一族隨機(jī)變量X(t,)，t0，是一個(gè)隨機(jī)過程。布朗運(yùn)動(dòng)熱噪聲生物群體6/22/20236二、隨機(jī)過程的定義設(shè)(Ω,F,P)是一個(gè)概率空間，T是一個(gè)參數(shù)集(TR)，X(t,)，tT，Ω是TΩ上的二元函數(shù)，如果對(duì)于每一個(gè)tT，X(t,)是(Ω,F,P)上的隨機(jī)變量，那么稱隨機(jī)變量族{X(t,)，tT}為定義在(Ω,F,P)上的隨機(jī)過程(或隨機(jī)函數(shù))。簡(jiǎn)記為{X(t)，tT}，其中t稱為參數(shù)，T稱為參數(shù)集。6/22/20237樣本函數(shù)與狀態(tài)空間隨機(jī)過程X(t,)是定義在TΩ上的二元函數(shù)：一方面，當(dāng)tT固定時(shí)，X(t,)是定義在Ω上的隨機(jī)變量；另一方面，當(dāng)Ω固定時(shí)，X(t,)是定義在T上的函數(shù)，稱為隨機(jī)過程的樣本函數(shù)。隨機(jī)過程在時(shí)刻t所取的值X(t)=x稱為時(shí)刻t時(shí)隨機(jī)過程{X(t),tT}處于狀態(tài)x，隨機(jī)過程{X(t),tT}所有狀態(tài)構(gòu)成的集合稱為狀態(tài)空間，記為E，即：E＝{x：X(t)=x,tT}6/22/20238隨機(jī)過程的分類按狀態(tài)空間和參數(shù)集分類按狀態(tài)空間和參數(shù)集分類獨(dú)立過程獨(dú)立增量過程正態(tài)過程泊松過程參數(shù)集T

離散連續(xù)狀態(tài)空間E

離散(離散參數(shù))鏈(連續(xù)參數(shù))鏈

連續(xù)隨機(jī)序列隨機(jī)過程維納過程平穩(wěn)過程馬爾可夫過程……6/22/20239三、隨機(jī)過程的分布 設(shè){X(t),tT}是一個(gè)隨機(jī)過程，對(duì)于每一個(gè)tT，X(t)是一個(gè)隨機(jī)變量，它的分布函數(shù)F(t,x)＝P{X(t)<x}，tT，xR=(-,+) 稱為隨機(jī)過程{X(t),tT}的一維分布函數(shù)。如果對(duì)于每一個(gè)tT，隨機(jī)變量X(t)是連續(xù)型隨機(jī)變量，存在非負(fù)可積函數(shù)f(t,x)，使得那么稱f(t,x)，tT,xR為隨機(jī)過程{X(t),tT}的一維概率密度(函數(shù))。此時(shí)f(t,x)＝F’x(t,x)，tT，xR6/22/202310二維分布函數(shù) 設(shè){X(t),tT}是一個(gè)隨機(jī)過程，對(duì)任意s,tT，(X(s),X(t))是一個(gè)二維隨機(jī)變量，它的聯(lián)合分布函數(shù)F(s,t;x,y)＝P{X(s)<x,X(t)<y}，tT，xR 稱為隨機(jī)過程{X(t),tT}的二維分布函數(shù)。6/22/202311二維概率密度如果(X(s),X(t))是連續(xù)型二維隨機(jī)變量，存在非負(fù)可積函數(shù)f(s,t;x,y)，使得成立，那么稱f(s,t;x,y)，s,tT，x,yR為隨機(jī)過程{X(t),tT}的二維概率密度(函數(shù))。此時(shí)6/22/202312n維分布函數(shù) 設(shè){X(t),tT}是一個(gè)隨機(jī)過程，對(duì)任意t1,t2,…,tnT，n維隨機(jī)變量(X(t1), X(t2),…,X(tn))的聯(lián)合分布函數(shù) F(t1,t2,…,tn;x1,x2,…,xn) ＝P{X(t1)<x1,X(t2)<x2,…,X(tn)<xn}，t1,t2,…,tnT，x1,x2,…,xnR 稱為隨機(jī)過程{X(t),tT}的n維分布函數(shù)。6/22/202313n維概率密度 如果(X(t1),X(t2),…,X(tn))是連續(xù)型n維隨機(jī)變量，存在非負(fù)可積函數(shù)f(t1,t2,…,tn;x1,x2,…, xn)，使得t1,t2,…,tnT；x1,x2,…,xnR成立，那么稱f(t1,t2,…,tnT；x1,x2,…,xn)為隨機(jī)過程{X(t),tT}的n維概率密度(函數(shù))。此時(shí)6/22/202314n+m維聯(lián)合分布函數(shù)設(shè){X(t),tT}和{Y(t),tT}是兩個(gè)隨機(jī)過程，對(duì)任意s1,s2,…,sn,t1,t2,…,tmT，把n+m維隨機(jī)變量(X(s1),X(s2),…,X(sn),Y(t1),Y(t2),…,Y(tm))的聯(lián)合分布函數(shù)

FXY(s1,s2,…,sn,t1,t2,…,tm;x1,x2,…,xn,y1,y2,…,yn)＝P{X(s1)<x1,X(s2)<x2,…,X(sn)<xn, Y(t1)<y1,Y(t2)<y2,…,Y(tm)<ym}，t1,t2,…,tnT，x1,x2,…,xnR稱為隨機(jī)過程{X(t),tT}和{Y(t),tT}的n+m維聯(lián)合分布函數(shù)。6/22/202315n+m維聯(lián)合概率密度成立，那么稱fXY(s1,s2,…,sn,t1,t2,…,tm;x1,x2,…,xn,y1,y2,…,ym)為隨機(jī)過程{X(t),tT}和{Y(t),tT}的n+m維聯(lián)合概率密度(函數(shù))。如果(X(s1),X(s2),…,X(sn),Y(t1),Y(t2),…,Y(tm))是連續(xù)型n+m維隨機(jī)變量，存在非負(fù)可積函數(shù)fXY(s1,s2,…,sn,t1,t2,…,tm;x1,x2,…,xn,y1,y2,…,ym)，使得6/22/202316相互獨(dú)立的隨機(jī)過程設(shè){X(t),tT}和{Y(t),tT}是兩個(gè)隨機(jī)過程，如果對(duì)任意n,m1，其n+m維聯(lián)合分布滿足FXY(s1,s2,…,sn,t1,t2,…,tm;x1,x2,…,xn,y1,y2,…,yn)＝FX(s1,s2,…,sn;x1,x2,…,xn)·FY(t1,t2,…,tm;y1,y2,…,yn)或者其n+m維聯(lián)合概率密度滿足fXY(s1,s2,…,sn,t1,t2,…,tm;x1,x2,…,xn,y1,y2,…,yn)＝fX(s1,s2,…,sn;x1,x2,…,xn)·fY(t1,t2,…,tm;y1,y2,…,yn)那么稱隨機(jī)過程{X(t),tT}和{Y(t),tT}的相互獨(dú)立。6/22/202317n維特征函數(shù)隨機(jī)過程{X(t),tT}的n維特征函數(shù)定義為(t1,t2,…,tn;u1,u2,…,un)稱{(t1,t2,…,tn;u1,u2,…,un)，t1,t2,…,tnT，n1}為隨機(jī)過程{X(t),tT}的有限維特征函數(shù)族。6/22/202318例1利用投擲一枚硬幣的試驗(yàn)，定義隨機(jī)過程假定“出現(xiàn)正面〞和“出現(xiàn)反面〞的概率各為0.5，試求：X(t)的一維分布函數(shù)F(0.5,x)和F(1,x)；X(t)的二維分布函數(shù)F(0.5,1;x,y)。6/22/202319例1(續(xù)1)解：1.由X(t)的定義求得概率分布為：X(0.5)01X(1)-12P0.50.5P0.50.5所以一維分布函數(shù)為：6/22/202320例1(續(xù)2)2.

由于擲硬幣試驗(yàn)是相互獨(dú)立的，故(X(0.5),X(1))的聯(lián)合概率密度為：X(1)X(0.5)-1200.250.2510.250.25所以二維分布函數(shù)為：6/22/202321四、隨機(jī)過程的數(shù)字特征 給定隨機(jī)過程{X(t),tT}，稱m(t)＝E[X(t)]，tT為隨機(jī)過程{X(t),tT}的均值函數(shù)(數(shù)學(xué)期望)。假設(shè){X(t),tT}的狀態(tài)空間是離散的，那么X(t),tT是離散型隨機(jī)變量，X(t)的概率分布為pk(t)＝P{X(t)=Xk}，k=1,2,…，那么假設(shè){X(t),tT}的狀態(tài)空間是連續(xù)的，那么X(t),tT是連續(xù)型隨機(jī)變量，X(t)的一維概率密度為f(t,x)為，那么6/22/202322方差函數(shù) 給定隨機(jī)過程{X(t),tT}，稱D(t)＝D[X(t)]＝E[X(t)－m(t)]2，tT為隨機(jī)過程{X(t),tT}的方差函數(shù)。顯然，D(t)＝E[X(t)－m(t)]2＝E[X2(t)]－m2(t)。稱為隨機(jī)過程{X(t),tT}的均方差函數(shù)(標(biāo)準(zhǔn)方差函數(shù))。假設(shè)X(t),tT是離散型隨機(jī)變量，X(t)的概率分布為pk(t)＝P{X(t)=Xk}，k=1,2,…，那么假設(shè)X(t),tT是連續(xù)型隨機(jī)變量，X(t)的一維概率密度為f(t,x)為，那么6/22/202323協(xié)方差函數(shù)和相關(guān)函數(shù) 給定隨機(jī)過程{X(t),tT}，稱C(s,t)＝cov(X(s),X(t))＝E[X(s)－m(s)][X(t)－m(t)]為隨機(jī)過程{X(t),tT}的協(xié)方差函數(shù)。顯然，C(s,t)＝E[X(s)X(t)]－m(s)m(t)，C(t,t)＝D(t)＝E[X(t)－m(t)]2。給定隨機(jī)過程{X(t),tT}，稱R(s,t)＝E[X(s)X(t)]為隨機(jī)過程{X(t),tT}的相關(guān)函數(shù)。顯然，C(s,t)＝R(s,t)－m(s)m(t)，R(s,t)＝C(s,t)＋m(s)m(t)給定隨機(jī)過程{X(t),tT}，稱為隨機(jī)過程{X(t),tT}的相關(guān)系數(shù)。6/22/202324互協(xié)方差函數(shù)和互相關(guān)函數(shù)給定兩個(gè)隨機(jī)過程{X(t),tT}和{Y(t),tT}，稱CXY(s,t)＝E[X(s)－mX(s)][Y(t)－mY(t)]，s,tT為隨機(jī)過程{X(t),tT}和{Y(t),tT}的互協(xié)方差函數(shù)。其中：mX(s)＝E[X(s)]，mY(t)＝E[Y(t)]。稱RXY(s,t)＝E[X(s)Y(t)]為隨機(jī)過程{X(t),tT}和{Y(t),tT}的互相關(guān)函數(shù)。顯然，CXY(s,t)＝RXY(s,t)－mX(s)mY(t)。如果CXY(s,t)＝0，等價(jià)地RXY(s,t)＝mX(s)mY(t)，即E[X(s)Y(t)]＝E[X(s)]E[Y(t)]，那么稱{X(t),tT}和{Y(t),tT}互不相關(guān)。如果隨機(jī)過程{X(t),tT}和{Y(t),tT}相互獨(dú)立，那么它們一定互不相關(guān)；反之，如果隨機(jī)過程{X(t),tT}和{Y(t),tT}互不相關(guān)，一般不能推出它們相互獨(dú)立。6/22/202325例1給定隨機(jī)過程{X(t),t≥0}，X(t)＝X0＋Vt，t≥0其中X0與V是相互獨(dú)立的隨機(jī)變量，它們都服從N(0,1)。求其數(shù)字特征和一、二維概率密度。解

1.均值函數(shù)m(t)＝E[X(t)]=E(X0)＋tE(V)＝0；2.方差函數(shù)D(t)＝E[X2(t)]-m2(t)=E(X0＋Vt)2-0 ＝E(X02)＋2tE(X0V)+t2E(V2) ＝1+t2；3.一維概率密度

因?yàn)閄0與V相互獨(dú)立且都服從N(0,1)，故X(t)＝X0＋Vt服從正態(tài)分布N(0,1+t2)，所以{X(t),t≥0}的一維概率密度為：6/22/202326例1(續(xù)1)4.協(xié)方差函數(shù)與相關(guān)函數(shù) 因?yàn)閙(t)=0，所以C(s,t)＝R(s,t)＝E[X(s)X(t)]＝E[X0＋Vs][X0＋Vt] ＝E[X02]+(s+t)E[X0V]+stE[V2]＝1+st 因?yàn)閄0與V相互獨(dú)立且服從N(0,1)，記從而(X(s),X(t))～N(,C)，其中均值=(m(s),m(t))T=(0,0)T，協(xié)方差矩陣C＝6/22/202327例1(續(xù)2)5.二維概率密度6/22/202328例2隨機(jī)相位正弦波X(t)＝cos(t＋)，-<t<+其中,為常數(shù)，是在[0,2]上均勻分布的隨機(jī)變量。求{X(t),-<t<+}的均值函數(shù)、方差函數(shù)、相關(guān)函數(shù)、協(xié)方差函數(shù)。解

的概率密度為1.均值函數(shù)m(t)＝E[X(t)]6/22/202329例2(續(xù)1)2.相關(guān)函數(shù)6/22/202330例2(續(xù)2)3.協(xié)方差函數(shù)4.方差函數(shù)6/22/202331五、重要隨機(jī)過程1.獨(dú)立過程給定隨機(jī)過程{X(t),tT}，如果對(duì)任意正整數(shù)n及任意t1,t2,…,tnT，隨機(jī)變量X(t1),X(t2),…,X(tn)相互獨(dú)立，那么稱隨機(jī)過程{X(t),tT}為獨(dú)立過程。特別，如果X(n),n=1,2,3,…是相互獨(dú)立的隨機(jī)變量，那么稱{X(n),n=1,2,3,…}為獨(dú)立隨機(jī)序列。獨(dú)立過程的n維概率分布由一維概率分布確定：6/22/202332例如果X(n),n=1,2,3,…是相互獨(dú)立的伯努利隨機(jī)變量，它們的概率分布律為X(n)010<p<1n=1,2,3,…PqpP+q=1那么稱{X(n),n=1,2,3,…}為伯努利隨機(jī)序列。伯努利隨機(jī)隨機(jī)序列是一個(gè)獨(dú)立隨機(jī)序列。其均值 E[X(n)]=p，方差 D[X(n)]=pq，相關(guān)函數(shù)協(xié)方差函數(shù)6/22/2023332.獨(dú)立增量過程 設(shè)隨機(jī)過程{X(t),tT}，T＝[0,+)， 如果對(duì)任意正整數(shù)n2，t1,t2,…,tnT且t1<t2<…<tn，隨機(jī)過程的增量 X(t2)-X(t1),X(t3)-X(t2),…,X(tn)-X(tn-1) 是相互獨(dú)立的隨機(jī)變量，那么稱{X(t),tT}為獨(dú)立增量過程。6/22/202334平穩(wěn)獨(dú)立增量過程 如果獨(dú)立增量過程{X(t),tT}，T＝[0,+)， 對(duì)所有的s,tT及h>0,s+h,t+hTX(t+h)-X(s+h)與X(t)-X(s) 有相同的概率分布，那么稱{X(t),tT}為平穩(wěn)獨(dú)立增量過程。平穩(wěn)獨(dú)立增量過程{X(t),tT}的增量X(t+)-X(t)，tT,t+T的概率分布僅依賴于而與t無關(guān)，即僅與時(shí)間區(qū)間的長(zhǎng)度有關(guān)，而與起點(diǎn)無關(guān)，具有平穩(wěn)性，即增量具有平穩(wěn)性。6/22/202335例 設(shè){X(n),n=1,2,3,…}是獨(dú)立隨機(jī)序列，那么{Y(n),n=0,1,2,…}是獨(dú)立增量過程。 假設(shè)X(n),n=1,2,3,…是相互獨(dú)立且同分布的隨機(jī)變量，且那么{Y(n),n=0,1,2,…}是平穩(wěn)獨(dú)立增量過程。6/22/202336例 設(shè){X(n),n=1,2,3,…}是相互獨(dú)立同分布的伯努利隨機(jī)變量序列X(n)010<p<1n=1,2,3,…PqpP+q=1那么稱{Y(n),n=0,1,2,…}為二項(xiàng)計(jì)數(shù)過程(隨機(jī)游動(dòng))。 二項(xiàng)計(jì)數(shù)過程是一個(gè)獨(dú)立增量過程。其一維概率分布 Y(n)~B(n,p)，均值函數(shù) E[Y(n)]=np，方差函數(shù) D[Y(N)]=pq，6/22/202337例二維概率分布協(xié)方差函數(shù)一般6/22/202338獨(dú)立增量過程的性質(zhì)如果{X(t),t0}是平穩(wěn)獨(dú)立增量過程，X(0)＝0，那么均值函數(shù) m(t)＝at，a為常數(shù)；方差函數(shù) D(t)＝2t，為正常數(shù)；協(xié)方差函數(shù)C(s,t)＝2min(s,t)。獨(dú)立增量過程的有限維分布由一維分布和增量分布決定。6/22/202339證明1〕設(shè)m(t)＝E[X(t)]，那么 m(t+s)＝E[X(t+s)] ＝E[X(t+s)-X(s)+X(s)-X(0)] ＝E[X(t+s)-X(s)]+E[X(s)-X(0)] ＝E[X(t)]+E[X(s)] ＝m(t)+m(s) 由數(shù)學(xué)分析知識(shí)知： m(t)＝at，其中常數(shù)a＝m(1)。f(x)連續(xù)，假設(shè)f(x+y)=f(x)+f(y)，那么f(x)=kx。6/22/202340證明(續(xù)1)2〕設(shè)D(t)＝D[X(t)]，那么 D(t+s)＝D[X(t+s)] ＝D[X(t+s)-X(s)+X(s)-X(0)] ＝D[X(t+s)-X(s)]+D[X(s)-X(0)] ＝D[X(t)]+D[X(s)]＝D(t)+D(s) 由數(shù)學(xué)分析知識(shí)： D(t)＝2t，其中2＝D(1)為正常數(shù)。f(x)連續(xù)，假設(shè)f(x+y)=f(x)+f(y)，那么f(x)=kx。6/22/202341證明(續(xù)2)3〕C(s,t)＝E{[X(t)]-m(t)][X(s)-m(s)]}＝E[X(t)X(s)]-m(s)m(t)＝E{[X(t)-X(s)+X(s)]X(s)}-m(s)m(t)一般地，C(s,t)＝2min(s,t)。假設(shè)t>s，否那么變形為E{[X(s)-X(t)+X(t)]X(t)}-m(s)m(t)＝E[X(t)-X(s)]E[X(s)]+E[X2(s)]-m(s)m(t)＝m(t-s)m(s)+D(s)-m2(s)-m(s)m(t)＝a