隨機(jī)過程的定義

1、例1.（隨機(jī)徘徊）無限制地拋擲一枚硬幣， 并按照每次拋擲結(jié)果是正面或反面， 讓一個(gè)粒 子從初始位置0點(diǎn)出發(fā)，在直線上分別向右或向左走一步。問：拋擲了 n次后，粒子恰走到 m的概率。事實(shí)上，由于粒子是從初始位置0點(diǎn)出發(fā)的，因此，當(dāng)nv |m|時(shí)，粒子是不可能走到 m的，而"拋擲了 n次后，粒子恰走到 m”意味著：在n次走動(dòng)中，恰好向左走了 “ m步；2而向右走了 n-m步此即n次拋擲中恰有 n-m次擲得正面；有匸巴次擲得反面因2 2 2、n 袖 1此，這就需要m與n同為奇偶數(shù)。所求概率為Cn 2-（當(dāng)n|m|且m與n同為奇偶數(shù)時(shí)）,2n否則概率為0。綜上所述，研究一個(gè)隨機(jī)試驗(yàn)，就是要有

2、一個(gè)三元組：（Q, F , P）,它稱為概率空間，其中Q是全體可能結(jié)果組成的集合；F是全體可觀測(cè)事件（可以合理地給出概率的事件）組成的事件族；而P應(yīng)該看成一個(gè)整體，而不是單個(gè)概率值，即P是F上定義的一個(gè)取值于0,1區(qū)間的函數(shù)。同時(shí)，加法公理應(yīng)該滿足，而且必然事件的概率應(yīng)該為1。隨機(jī)過程的定義： 研究對(duì)象是隨時(shí)間演變的隨機(jī)現(xiàn)象。n )例2 .以X （t）表示電話交換臺(tái)在時(shí)間間隔0, t內(nèi)接到的呼叫的次數(shù)，X =、X（t）,t 一 0是一隨機(jī)過程。例3 獨(dú)立地連續(xù)擲一骰子，設(shè)X-為第n次獨(dú)立地?cái)S一骰子所出現(xiàn)的點(diǎn)數(shù)，則 X-,n 一 1 為一相互獨(dú)立同分布的隨機(jī)序列 （過程），其指標(biāo)集為 T = 1

3、, 2, 3，;狀態(tài)空間為S= 1 , 2, 3, 4, 5, 6；如果把序列 3, 2, 3, 4, 6, 5, l , 3,稱為Xn 的一條軌道，它表示第 1 , 3, 8次擲得“ 3”點(diǎn)，第2次擲得“ 2”點(diǎn)，第4次擲得“ 4”點(diǎn), 第5次擲得“ 6”點(diǎn)，.且此時(shí)X n有均值為E X n = 3.5,方差為D（ X n） = 17.5, n= 1 , 2,協(xié)方差為 Cov( Xi , Xj) = 0, i工j.定義1設(shè)(Q , F, P)是一個(gè)概率空間，一族隨機(jī)變量X =fx(t),tT?稱為一個(gè)隨機(jī)過程，其中T稱為指標(biāo)集，對(duì) T中的每個(gè)t，X(t)是一個(gè)隨機(jī)變量 X(t，3 )，對(duì)每個(gè)

4、固定的3 , ：X(t/ ) : t T ?是一個(gè)定義在T上，和X(t)有同樣取值范圍的實(shí)值函數(shù)，稱之為隨機(jī)過程 X的一條(樣本)軌道.對(duì)所有固定的t, X的全體可能的取值，稱為X的狀態(tài)空間，對(duì)離散隨機(jī)變量的隨機(jī)過程，狀態(tài)空間都可認(rèn)為是正整數(shù)集，因?yàn)槿魏慰蓴?shù)集與一正整數(shù)集是一一對(duì)應(yīng)的.把全體狀態(tài)編號(hào)，以其編號(hào)代表狀態(tài)就行了。我們常常把t解釋為時(shí)間一般來說， T是一個(gè)無限集合，如果它是可數(shù)集合，如 T = 0, 1 , 2,，此時(shí)稱X為離散參數(shù)的隨機(jī)過程，或隨機(jī)序列，當(dāng) T = 0 , + a)或(汽 + m)則稱X為連續(xù)參數(shù)的隨機(jī)過程。X的全體有限維聯(lián)合分布族稱為X的概率分布。例4 .在上例中

5、，如果根據(jù)每次擲得的點(diǎn)數(shù)決定一個(gè)粒子在平面格點(diǎn)上作如下運(yùn)動(dòng)：如 果擲得1, 2, 3, 4點(diǎn)，則分別向上、下、左、右移動(dòng)1步，如果擲得“ 5”或“ 6”，點(diǎn)，則不動(dòng)。如果粒子從原點(diǎn)(0, 0)出發(fā)，記在第n步粒子所在位置為(X(n) , y(n)，則我們就得到 兩個(gè)隨機(jī)過程 X(n) ; n= 0, l，以及 Y(n) ; n = 0, I，.這個(gè)隨機(jī)模型稱為 2-維隨 機(jī)徘徊。例5無限制地拋擲一枚硬幣，并按照每次拋擲結(jié)果是正面或反面，讓一個(gè)粒子在直線上分別向右或向左走一步。如果我們要研究，這樣走下去，最終隨機(jī)運(yùn)動(dòng)的趨向等問題，就需 要將無窮多步粒子各自所在的位置作為一個(gè)整體來考慮，找出它取值

6、的統(tǒng)計(jì)規(guī)律。為此，我們先要考慮無限制地拋擲硬幣所得結(jié)果這一隨機(jī)序列，因?yàn)樗耆珱Q定了粒子的走法。假設(shè)每次拋擲得到正面的概率是p，這個(gè)試驗(yàn)的全部可能的結(jié)果組成的集合是' 1 - ' ' - ' 1，'弗 2 , , ' n ,: n = 0,1； n - 1,2 -(其中“ 1 ”表示正面，“0”表示反面)。于是，我們就有了概率空間(Q , F , P).若將第n步粒子所在的位置記為 Sn,那么，在 這里我們就需要研究一連串隨機(jī)變量之間的動(dòng)態(tài)關(guān)系，即同時(shí)研究Sn : n = 1,2 ?這無窮個(gè)隨機(jī)變量作為整體時(shí)，它取值的統(tǒng)計(jì)規(guī)律。 令1,0,若第n

7、次拋擲出現(xiàn)正面其它情形由于隨機(jī)徘徊是按照硬幣的拋擲結(jié)果或向右或向左走一步, 機(jī)變量序列 Zn滿足P(Zn= 1) = P,iH因此，我們可引入一獨(dú)立隨P(Zn= 1)= 1 P (n = l, 2,)顯然nSn= Sn1+ Zn= S° 十二 Z kk 1注意到Zn與2Xn 1是同分布的，于是nSn =So '2Xk -1 ,a 0,1k丄顯然，這里的X 1 ,X 2，是一列同分布的隨機(jī)變量序列：P(Xn= 1) = p,P(Xn= 0) = 1- p (n = l, 2,)又因?yàn)楦鞔螔仈S是獨(dú)立的，我們有P Xn1=a2 ,X nkk=ak =PXni=aii=1可見:Xn,

8、n又是相互獨(dú)立的， 所以，fXn,n_仃是一列相互獨(dú)立同分布的序列 (簡記為i. i. d.序列).上述這樣的隨機(jī)序列 1xn,n _ 1是一個(gè)最簡單的隨機(jī)過程，稱之為貝努利序列。我們稱Xn的取值范圍S= 0, 1為隨機(jī)過程 X =：Xn,n 1的狀態(tài)空間.對(duì)每一個(gè)固定的蛍"，X=xn,nK 1就是一個(gè)取值為0”或“ I”的無窮序列，稱之為X的一條軌道(或樣本軌道)。X的一條典型的樣本軌道如圖2所示.我們稱S二Sn,n _ Q-為隨機(jī)徘徊，它的一條軌道是一個(gè)取值為整數(shù)的無窮序列，它的狀態(tài)空間是全體整數(shù).它的與圖2相對(duì)應(yīng)的一條軌道如圖3所示。1.91.®0.B0.G在例1中，

9、我們已經(jīng)給出了一個(gè)隨機(jī)變量Xn的概率分布(這里X0=0):因?yàn)樯厦娴母怕示褪牵簄個(gè)相互獨(dú)立的隨機(jī)事件工、=1 ,(i = 1,2,，n)中恰好有 丄上2n k n ：k n -kP Xn =k pq（q= I - p，n = 1，2，）個(gè)發(fā)生的概率這是因?yàn)閄n要到達(dá)狀態(tài)k，所需的步數(shù)n不可能小于| k |，故n>| k |。若記Nn ：和N：;分別表示在前n步中正面和反面的出現(xiàn)次數(shù)，則顯然有Xn 二 Nn Nn1兩式相加，可得 N=丄n Xn2因此X n = k 二 N n 二-n Xn2注意到2Nn二n Xn必為偶數(shù)，因此，若n為偶數(shù)，則X.也為偶數(shù)；若n為奇數(shù),則Xn也為奇數(shù)。P X

10、n=k = Pix 0n'2Mi -1 =ki 4M i表示n次拋擲中正面恰好出現(xiàn)n k次的概率，故只有當(dāng)2n> |k|nnn -k且n與k的奇偶性相同時(shí)，此概率才為非零，即等于 P Xn二k二Cn2 p 2 q 2rnx同理，一般地，對(duì)初始狀態(tài)為 X； = x的簡單隨機(jī)徘徊 X； = x+送Zi ，類似可 Iz 丿 n * _x n4k_x n _k 七P（X：=k）=Cn 2 p 2 q 2, 若n k-x|且n與k -x同為奇偶數(shù)n0,其它情形例6對(duì)簡單隨機(jī)徘徊 X=Xn,n_ -，求出經(jīng)過，n= 4步，Xn = 2的概率。解由上式知P X4 一2 =C- p 1 - p

11、3=4p 1 - p 3下面我們來考察 x的最重要的統(tǒng)計(jì)特征一一有限維聯(lián)合分布，這里我們先討論簡單的情形（2維的情形），我們要求的概率是P Xn 二r,xm =s 二P Xn =r,xm Xn =s rz nm=P送乙=r,2：乙<i =1i=a 出m -n "s -r2m-nn T=Cn 2n -rm -n "s -rp 21 -m -n -s r在前面我們已經(jīng)看到：隨機(jī)徘徊 X是一列相互獨(dú)立的隨機(jī)變量的部分和序列。于是，它在 個(gè)互不相交的區(qū)間 n1 ,m1 , n2 ,m2，,ns,ms上的增量分別為mim2msXmi - Xm 二 '、Zi, Xm2 一

12、 X % 二 '、Zj,X叫一 X.s 二-Zji空1書i主2卅i仝s書它們各自是S組相互獨(dú)立的隨機(jī)變量的和，因此它們也相互獨(dú)立. 而且對(duì)任意S個(gè)互不相交的區(qū)間，都有上述的獨(dú)立性。隨機(jī)過程的這種性質(zhì)稱為獨(dú)立增量性。定義2. 設(shè)X =Xn,n _ 1是一個(gè)隨機(jī)過程，如果它在任意 s個(gè)互不相交的區(qū)間上 的增量X m Xn1 , X m2 X n2，,Xms - X%都相互獨(dú)立，稱隨機(jī)過程 X為一個(gè)獨(dú)立 增量過程.又如果對(duì)任意的n>0,都有xm .n - xm （n>0）對(duì)一切m同分布，則稱X為一個(gè) 時(shí)齊的獨(dú)立增量過程.顯然，簡單隨機(jī)徘徊就是一個(gè)時(shí)齊的獨(dú)立增量過程。對(duì)獨(dú)立增量過程

13、，容易知道有如下的結(jié)論：命題1設(shè)X =Xn,n 是一個(gè)獨(dú)立增量過程，我們?cè)鲅a(bǔ)定義 X 0=0，則全部隨機(jī) 變量Xm -Xn , （m > n）的概率分布 P Xm - Xn =Zj ； j -1,2就決定了隨機(jī)過程 X的 概率分布.如果 X還是時(shí)齊的，則全部隨機(jī)變量 Xn （n>0）的分布就決定了隨機(jī)過程 X的 分布.在物理學(xué)中，很多確定性現(xiàn)象遵從如下演變?cè)瓌t：由時(shí)刻t0系統(tǒng)或過程所處的狀態(tài)，可以決定系統(tǒng)或過程在時(shí)刻t - 10所處的狀態(tài)，而無需借助于t。以前系統(tǒng)或過程所處狀態(tài)的歷史資料。例如，我們考慮一在直線上作對(duì)稱隨機(jī)徘徊的粒子，以Xn表示粒子在時(shí)刻n時(shí)的位置，則其狀態(tài)空間為Z

14、（全體整數(shù)組成的集合），若在n時(shí)刻粒子位于i （即Xn = i），那么，粒子 在下一時(shí)刻n + 1，或者以0.5的概率跳到i + I，或者以0.5的概率跳到i 1在這一模型 中，最有趣的現(xiàn)象是：粒子在n+ 1時(shí)刻的位置：只依額于它在n時(shí)刻的位置，而不依賴于它在n時(shí)刻前的位置。這一性質(zhì)就是所謂的Markov性（這個(gè)名字由它的首創(chuàng)者俄國數(shù)學(xué)家Markov而得名）。具有 Markov性的隨機(jī)過程稱為 Markov過程，它是一類廣泛適用于各種 領(lǐng)域的重要的隨機(jī)過程。定義3.一隨機(jī)過程X =、Xn,n 一 0/稱為一個(gè)離散參數(shù)的 Markov鏈，如果Xn S , n= 1, 2, 3，），其中S為一一個(gè)

15、有限或可數(shù)集合 （稱為此Markov鏈的狀態(tài)空間），并且對(duì) 任意的i, j,i0,in4 S,都有P Xn 廠 j|X 0=i 0 ,X 1=i1 , Xn 4 = in -1 , Xn二 P Xn 1 二 j|Xn稱條件概率 PXn 廠 j|Xn =i ）為該Markov鏈的（一步）轉(zhuǎn)移概率；并記為pij （n），若Pj (m與n無關(guān)，則稱Markov鏈為齊次的。例7.(隨機(jī)徘徊)對(duì)簡單隨機(jī)徘徊 X = Xn,n _ 0：其狀態(tài)空間為 S=Z，由Xn的定義nXn()二 X o ()' Zk()k 4其中Zk,k _0?若為獨(dú)立同分布隨機(jī)變量序列，滿足P Zk二1= p，P Zk二-1

16、 =1 - p = q，這里Xn表示一個(gè)粒子分別以概率 p、q向右與向左走一步。 前面所講簡單對(duì)稱隨機(jī)徘徊就是這里 p=0.5的情況。由于 X 0 ,X 1，Xn都是Z 0 ,Z 1，Zn的部分和，因此，它們和Zn彳相互獨(dú)立，故P Xn 1二 P Zn 1=P Zn 1二 P Zn 1二 j|X 0 =i 0 ,X 1 二 i 1 , ,Xn / in，Xn =iXn = j|X 0 " 0 ,X 1 二 i 1, ,Xn 廠 in,Xi =j i|X 0 二 i 0 ,X 1 二 i1 , ,Xz 二 in，Xn =i iP,j -i 1j “ -1其它從而:二 in_1 , Xn

17、 = i故簡單隨機(jī)徘徊=j|X 0 =i 0 ,X 1 二 i1, ,XnJ n 1 二 j|Xn "齊次Markov鏈且:P,Pijq,0j =i 1j =i -1其它Pij例& (兩端反射壁的隨機(jī)徘徊)，在上例中，如果在位置a與b(a<b)分別設(shè)立一個(gè)反射壁,Pb,j =0,(j = b)0,(j式a);pb,b A=1_01一-01q0P0000q0P00 . <-00q0P一000q0P0一-10 一P 二 Pj 二C,A,B,pa,a 1 - 1,pa即當(dāng)粒子到達(dá) a與b時(shí)，下一步以概率 1分別反射到a+1與b-1，于是粒子運(yùn)動(dòng)仍然是 Markov鏈，其

18、它統(tǒng)計(jì)規(guī)律和例7相同，只是D四種牌子的牙膏根據(jù)市場(chǎng)調(diào)例7 4（品牌選擇）市場(chǎng)上銷售查表明，可近似地認(rèn)為，消費(fèi)者購買哪一種品牌的牙膏，僅與他前一次購買的 品牌有關(guān)，而與這之前購買的品牌無關(guān)記xo為某消費(fèi)者最初所購買的牙膏的品牌，XI , x2,分別表示他在這之后各輪所購買的牙膏的品牌，貝UIx”，72> 0I為一 MEm兒ov鏈，其狀態(tài)空間為 S= IA，月，C, D 6，它的轉(zhuǎn)移概率矩陣可 以從市場(chǎng)調(diào)查中獲得，比如說為在這個(gè)問題中，我們感興趣的是這四種品牌的牙膏的市場(chǎng)占有率隨時(shí)間的推 移而發(fā)生的變化情況，關(guān)于它，我們?cè)谝院髮⒆骶唧w的討論.例7。5 （賭博模型，兩端吸收壁隨機(jī)徘徊）設(shè)某賭徒有賭本i（3 > 1）元，其對(duì)手有賠本oi >0元，每賭一次該賭徒均以夕的概率贏一元，以g = 1夕的概率輸一元賭博一直到兩賭徒中有一人破產(chǎn)才告結(jié)束，因此，贏的賭徒最終有總賭資"兀， 求該賭徒的破產(chǎn)概率.解 記A為賭徒有賭本i元而最終破產(chǎn)的概率.求此概率的關(guān)鍵是給出下面的事件關(guān)系式，其方法稱為首步分析法：、Aj = 1有賭本i元而最終破產(chǎn)1若記B=1該賭徒第1次賭贏9，則由上述關(guān)系式及全概率公式，我們可得這是一個(gè)差分方程，且它有邊界條件一一加二尸（有賠本0元而最終破產(chǎn)）=1久=尸（有賠