數(shù)理統(tǒng)計(jì)與隨機(jī)過(guò)程

數(shù)理統(tǒng)計(jì)與隨機(jī)過(guò)程第1頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月第十章隨機(jī)過(guò)程及其統(tǒng)計(jì)描述§10.1隨機(jī)過(guò)程的概念對(duì)于一些隨機(jī)現(xiàn)象，有時(shí)不能用隨機(jī)變量或多維隨機(jī)變量來(lái)描述，需要用一族(無(wú)限多個(gè))隨機(jī)變量來(lái)描述?，F(xiàn)在來(lái)看一個(gè)具體例子。

熱噪聲電壓:

電子元件或器件由于內(nèi)部微觀粒子(如電子)的隨機(jī)運(yùn)動(dòng)所引起的端電壓稱為熱噪聲電壓,它在任一確定時(shí)刻

t

的值都是一隨機(jī)變量,記為V(t)。不同時(shí)刻對(duì)應(yīng)不同的隨機(jī)變量。當(dāng)時(shí)間在某個(gè)區(qū)間,如[0,∞)上變化時(shí)，熱噪聲電壓表現(xiàn)為一族隨機(jī)變量,記為{V(t),t≥0}。第2頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月在無(wú)線電通訊技術(shù)中，接收機(jī)在接收信號(hào)時(shí)，機(jī)內(nèi)的熱噪聲電壓要對(duì)信號(hào)產(chǎn)生持續(xù)的干擾，為消除這種干擾，就必須掌握熱噪聲電壓隨時(shí)間變化的過(guò)程。為此，我們通過(guò)某種裝置對(duì)元件(或器件)兩端的熱噪聲電壓進(jìn)行長(zhǎng)時(shí)間的測(cè)量，并把結(jié)果自動(dòng)記錄下來(lái)。

作一次試驗(yàn)(測(cè)量一此長(zhǎng)時(shí)間內(nèi)的熱噪聲電壓)，得到一個(gè)電壓—時(shí)間函數(shù)v1(t),

t>0(如圖10-1)。這個(gè)電壓—時(shí)間函數(shù)在試驗(yàn)前是不可能預(yù)先確知的，只有通過(guò)測(cè)量才能得到。圖10-1如果在相同條件下獨(dú)立地再進(jìn)行一次測(cè)量，得到的記錄可能是不同的。第3頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月事實(shí)上，在相同條件下每次測(cè)量都將產(chǎn)生不同的電壓—時(shí)間函數(shù)。這樣，不斷獨(dú)立地一次次重復(fù)測(cè)量，就得到一族不同的電壓—時(shí)間函數(shù)，這族函數(shù)從另一角度規(guī)劃了熱噪聲電壓。圖10-1第4頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月以上述例子為背景，引入隨機(jī)過(guò)程的概念。設(shè)

T

是一個(gè)無(wú)限實(shí)數(shù)集。我們把依賴于參數(shù)t∈T的一族(無(wú)限多個(gè))隨機(jī)變量收集在一起，稱為隨機(jī)過(guò)程，記成{X(t),t∈T}。

這里，對(duì)每一個(gè)t∈T，X(t)都是一個(gè)隨機(jī)變量。T稱為參數(shù)集。常把

t

看作為時(shí)間，稱

X(t)

為

t時(shí)刻

過(guò)程的狀態(tài)，稱X(t1)＝x(實(shí)數(shù))為t＝t1時(shí)過(guò)程處于狀態(tài)x。對(duì)于一切t∈Ｔ,X(t)所有可能取得一切值的全體稱為隨機(jī)過(guò)程的狀態(tài)空間。

第5頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月對(duì)隨機(jī)過(guò)程

{

X(t)，t∈T

}

進(jìn)行一次試驗(yàn)(即在

T上進(jìn)行一次全程觀測(cè))，其結(jié)果是t的函數(shù)，記為x(t)，t∈T，

稱它為隨機(jī)過(guò)程的一個(gè)樣本函數(shù)或樣本曲線。所有不同的試驗(yàn)結(jié)果構(gòu)成一族(可以只包括有限個(gè)，如本節(jié)例1)樣本函數(shù)。隨機(jī)過(guò)程可以看作是多維隨機(jī)變量的延伸。隨機(jī)過(guò)程與其樣本函數(shù)的關(guān)系就像數(shù)理統(tǒng)計(jì)中總體與樣本的關(guān)系一樣。依照上面的說(shuō)法，熱噪聲電壓的變化過(guò)程{Ｖ(t)，t≥０}是一隨機(jī)過(guò)程，它的狀態(tài)空間是(-∞,+∞)，一次觀測(cè)到的電壓—時(shí)間函數(shù)就是這個(gè)隨機(jī)過(guò)程的一個(gè)樣本函數(shù)。第6頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月

在以后的敘述中，為簡(jiǎn)便起見(jiàn)：常以

X(t)，t∈Ｔ表示隨機(jī)過(guò)程。在上下文不致混淆的情形下，一般略去記號(hào)中的參數(shù)集

T。第7頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月例1

拋一枚硬幣試驗(yàn)，樣本空間是S={H,T}，定義其中P(H)=P(T)=1/2。對(duì)任意固定的

t,X(t)是一定義在S上的隨機(jī)變量；對(duì)不同的t，X(t)是不同的隨機(jī)變量(見(jiàn)圖10-2)，所以{X(t)，t∈(-∞,+∞)}是一族隨機(jī)變量，即是隨機(jī)過(guò)程。作一次試驗(yàn)，若出現(xiàn)H，樣本函數(shù)x1(t)=cosπt；若出現(xiàn)T，樣本函數(shù)x2(t)=t。故，隨機(jī)過(guò)程對(duì)應(yīng)的一族樣本函數(shù)僅包含兩個(gè)函數(shù):{cosπ

t,t}。顯然，這個(gè)隨機(jī)過(guò)程的狀態(tài)空間為(-∞,+∞)。圖10-2第8頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月例2

考慮式中α

,ω

是正常數(shù)，Θ是在(0,2π)上服從均勻分布的隨機(jī)變量。顯然，對(duì)任一固定的時(shí)刻

t1,X(t1)=α

cos(ω

t1+Θ)是一個(gè)隨機(jī)變量。因而，由(1.1)式確定的X(t)是一隨機(jī)過(guò)程，通常稱它為隨機(jī)相位正弦波。其狀態(tài)空間是[-α,α]。在(0,2π)內(nèi)隨機(jī)地取一數(shù)θi,相應(yīng)的樣本函數(shù)是圖10-3中畫(huà)出了這個(gè)隨機(jī)過(guò)程的兩條樣本曲線。圖10-3第9頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月例3

在測(cè)量運(yùn)動(dòng)目標(biāo)的距離時(shí)，存在隨機(jī)誤差。若以ε

(t)表示在時(shí)刻

t

的測(cè)量誤差，則它是一個(gè)隨機(jī)變量。當(dāng)目標(biāo)隨時(shí)間

t

按一定規(guī)律運(yùn)動(dòng)時(shí)，測(cè)量誤差ε

(t)

也隨時(shí)間

t

而變化。換句話說(shuō),ε

(t)是依賴于

t

的一族隨機(jī)變量，亦即{ε

(t),t≥0}是一隨機(jī)過(guò)程，狀態(tài)空間是(-∞,+∞)。第10頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月例4

設(shè)某市120急救電話臺(tái)不斷地接到用戶的呼叫，若以X(t)表示時(shí)間間隔(0,t]內(nèi)接到的呼叫次數(shù)，則它是一個(gè)隨機(jī)變量，且對(duì)不同的t≥0,X(t)可能是不同的隨機(jī)變量。故，{X(t),t

≥０}是一隨機(jī)過(guò)程，狀態(tài)空間是{0,1,2,…}。例5考慮擲一顆骰子試驗(yàn)。(1).設(shè)Xn是第

n

次(n≥1)擲的點(diǎn)數(shù)，對(duì)于n=1,2,…的不同值,Xn是不同的隨機(jī)變量，因而{Xn,n≥1}構(gòu)成一隨機(jī)過(guò)程,稱為伯努利過(guò)程,或伯努利隨機(jī)序列。狀態(tài)空間都是{1,2,3,4,5,6}。(2).設(shè)Xn是前n次擲出的最大點(diǎn)數(shù)，則{Xn,n

≥1}也是一隨機(jī)過(guò)程。狀態(tài)空間是{1,2,3,4,5,6}。第11頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月隨機(jī)過(guò)程可依其在任意時(shí)刻的狀態(tài)是連續(xù)型隨機(jī)變量或離散型隨機(jī)變量而分成連續(xù)型隨機(jī)過(guò)程或離散型隨機(jī)過(guò)程。熱噪聲電壓、例2和例3是連續(xù)型隨機(jī)過(guò)程，例1,例4和例5是離散型隨機(jī)過(guò)程。隨機(jī)過(guò)程還可依時(shí)間(參數(shù))是連續(xù)或離散進(jìn)行分類。當(dāng)時(shí)間集T是有限或無(wú)限區(qū)間時(shí)，稱{X(t),t∈T}為連續(xù)參數(shù)隨機(jī)過(guò)程

(以下如無(wú)特別指明，隨機(jī)過(guò)程總是指連續(xù)參數(shù)而言的)；如果T是離散集合，例如T={0,1,2,…}，則稱{X(t),t∈T}為離散參數(shù)隨機(jī)過(guò)程或隨機(jī)序列，此時(shí)常記成{Xn,n=0,1,2,…}等，如例5。

第12頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月有時(shí)，為了適應(yīng)數(shù)字化的需要，實(shí)際中也常將連續(xù)參數(shù)隨機(jī)過(guò)程轉(zhuǎn)化為隨機(jī)序列處理。例如,我們只在時(shí)間集T={△t,2△t,…,n△t,…}上觀察電阻的熱噪聲電壓Ｖ(t)，這時(shí)就得到一個(gè)隨機(jī)序列{V1,V2,…,Vn,…}，其中Vn=V(n△t)。顯然，當(dāng)△t充分小時(shí)，這個(gè)隨機(jī)序列能夠近似地描述連續(xù)時(shí)間情況下的熱噪聲電壓。需注意的是：參數(shù)

t雖然通常解釋為時(shí)間，但它也可以表示其它的量。諸如：序號(hào)、距離等。如例5中，假定每隔一個(gè)單位時(shí)間擲一次骰子，則第n次擲出的點(diǎn)數(shù)Xn就相當(dāng)于t=n時(shí)骰子出現(xiàn)的點(diǎn)數(shù)。第13頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月§10.2隨機(jī)過(guò)程的統(tǒng)計(jì)描述隨機(jī)過(guò)程在任一時(shí)刻的狀態(tài)是隨機(jī)變量，由此可以利用隨機(jī)變量(一維或多維)的統(tǒng)計(jì)描述方法來(lái)描述隨機(jī)過(guò)程的統(tǒng)計(jì)特征。10.2.1隨機(jī)過(guò)程的分布函數(shù)族給定隨機(jī)過(guò)程{X(t),t∈T}，對(duì)每個(gè)固定的t∈T,隨機(jī)變量X(t)的分布函數(shù)一般與

t

有關(guān)，記為稱其為隨機(jī)過(guò)程{X(t),t∈T}的一維分布函數(shù)，稱{Fx(x,t),t∈T}為一維分布函數(shù)族。第14頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月一維分布函數(shù)族刻畫(huà)了隨機(jī)過(guò)程在各個(gè)時(shí)刻的統(tǒng)計(jì)特征。為描述隨機(jī)過(guò)程在不同時(shí)刻狀態(tài)之間的相關(guān)關(guān)系，一般要對(duì)任意

n個(gè)(n=2,3,…)不同時(shí)刻t1,t2,…,tn∈T,引入n維隨機(jī)變量(X(t1),X(t2),…,X(tn)),

其聯(lián)合分布函數(shù)記為對(duì)固定的n,稱{FX(x1,x2,…,xn;t1,t2,…,tn),ti∈T}為隨機(jī)過(guò)程{X(t),t∈T}的

n

維分布函數(shù)族。

第15頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月當(dāng)n充分大時(shí)，n維分布函數(shù)族能近似地描述隨機(jī)過(guò)程的統(tǒng)計(jì)特征。顯然，n取得愈大，則n維分布函數(shù)族描述隨機(jī)過(guò)程的特征也愈趨于完善。一般地,可以指出(科爾莫戈羅夫定理):有限維分布函數(shù)族，即{FX(x1,x2,…,xn;t1,t2,…,tn),n=1,2,…,ti∈T}完全地確定了隨機(jī)過(guò)程的統(tǒng)計(jì)特征。上一節(jié)，我們?cè)鴮㈦S機(jī)過(guò)程按其狀態(tài)或時(shí)間的連續(xù)或離散進(jìn)行了分類。然而，隨機(jī)過(guò)程本質(zhì)的分類方法乃是按其分布特征進(jìn)行分類的。具體地說(shuō)：就是依照過(guò)程在不同時(shí)刻的狀態(tài)之間的特殊統(tǒng)計(jì)依賴方式，抽象出一些不同類型的模型。如：獨(dú)立增量過(guò)程、馬爾可夫過(guò)程、平穩(wěn)過(guò)程等。我們將在以后的章節(jié)中對(duì)它們作不同程度的介紹。第16頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月10.2.2隨機(jī)過(guò)程的數(shù)字特征

隨機(jī)過(guò)程的分布函數(shù)族能完善地刻畫(huà)隨機(jī)過(guò)程的統(tǒng)計(jì)特征。但是，人們?cè)趯?shí)際中，根據(jù)觀察往往只能得到隨機(jī)過(guò)程的部分資料(樣本)，用它來(lái)確定有限維分布函數(shù)族是困難的，甚至是不可能的。因而，像引入隨機(jī)變量的數(shù)字特征那樣，有必要引入隨機(jī)過(guò)程的基本數(shù)字特征—均值函數(shù)和相關(guān)函數(shù)等。這些數(shù)字特征在一定條件下是便于測(cè)量的。第17頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月給定隨機(jī)過(guò)程{X(t),t∈T}，固定t∈T,X(t)是一隨機(jī)變量，它的均值一般與t有關(guān)，記為稱μX(t)為隨機(jī)過(guò)程{X(t)，t∈T}的均值函數(shù)。注意,μX(t)是隨機(jī)過(guò)程的所有樣本函數(shù)在時(shí)刻t的函數(shù)值的平均，通常稱這種平均為集平均或統(tǒng)計(jì)平均,以區(qū)分第十二章中引入的時(shí)間平均概念。均值函數(shù)μX(t)表示了隨機(jī)過(guò)程X(t)在各個(gè)時(shí)刻的擺動(dòng)中心，如圖10-4所示。第18頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月

其次，把隨機(jī)變量X(t)的二階原點(diǎn)矩和二階中心矩分別記作并分別稱它們?yōu)殡S機(jī)過(guò)程{X(t),t∈T}的均方值函數(shù)和方差函數(shù)。方差函數(shù)的算術(shù)平方根σX(t)稱為隨機(jī)過(guò)程的標(biāo)準(zhǔn)差函數(shù)，它表示隨機(jī)過(guò)程X(t)在時(shí)刻

t

對(duì)于均值μX(t)的平均偏離程度。見(jiàn)圖10-4。

第19頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月又，對(duì)任意t1,t2∈T，把隨機(jī)變量X(t1)和X(t2)的二階原點(diǎn)混合矩記作并稱它為隨機(jī)過(guò)程{X(t)，t∈T}的自相關(guān)函數(shù)，簡(jiǎn)稱相關(guān)函數(shù)。記號(hào)RXX(t1,t2)在不致混淆時(shí)，常簡(jiǎn)記成RX(t1,t2)。類似地，將X(t1)和X(t2)的二階混合中心矩記成并稱為隨機(jī)過(guò)程{X(t),t∈T}的自協(xié)方差函數(shù)，簡(jiǎn)稱協(xié)方差函數(shù)。CXX(t1,t2)也常簡(jiǎn)記為CX(t1,t2)。第20頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月由多維隨機(jī)變量數(shù)字特征的知識(shí)可知，自相關(guān)函數(shù)和自協(xié)方差函數(shù)是可劃隨機(jī)過(guò)程自身在兩個(gè)不同時(shí)刻的狀態(tài)之間統(tǒng)計(jì)依賴關(guān)系的數(shù)字特征。現(xiàn)把(2.1)～(2.5)式定義的諸數(shù)字特征之間的關(guān)系簡(jiǎn)述如下：由(2.2)和(2.4)式知,均方值函數(shù)為由(2.5)式展開(kāi)，得特別地，當(dāng)t1=t2=t時(shí)，由(2.7)式，得第21頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月由(2.6)～(2.8)式可知，以上諸數(shù)字特征中最主要的是均值函數(shù)和自相關(guān)函數(shù)。從理論的角度來(lái)看，僅僅研究均值函數(shù)和自相關(guān)函數(shù)當(dāng)然是不能代替對(duì)整個(gè)隨機(jī)過(guò)程的研究的，但是由于它們確實(shí)刻畫(huà)了隨機(jī)過(guò)程的主要統(tǒng)計(jì)特征，而且遠(yuǎn)較有限維分布函數(shù)族易于觀察和實(shí)際計(jì)算，因而對(duì)于應(yīng)用課題而言,它們常常能夠起到重要作用。據(jù)此,在隨機(jī)過(guò)程的專著中都著重研究了所謂二階矩過(guò)程。隨機(jī)過(guò)程{X(t)，t∈T}，如果對(duì)于每一個(gè)t∈T，二階矩E[X2(t)]都存在，那么稱它為二階矩過(guò)程。第22頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月二階矩過(guò)程的相關(guān)函數(shù)總存在。事實(shí)上，由于E[X2(t1)],E[X2(t2)]存在，根據(jù)柯西—施瓦茲不等式(參見(jiàn)第四章習(xí)題33)，有即知：RX(t1,t2)=E[X(t1)X(t2)]存在。在實(shí)際中，常遇到一種特殊的二階矩過(guò)程—正態(tài)過(guò)程。隨機(jī)過(guò)程{X(t),t∈T}稱為正態(tài)過(guò)程，如果對(duì)任意

n≥1及任意t1,t2,…,tn∈T,(X(t1),X(t2),…,X(tn))服從n維正態(tài)分布。由第四章§3、§4知，正態(tài)過(guò)程的全部統(tǒng)計(jì)特征完全由它的均值函數(shù)和自協(xié)方差函數(shù)(或自相關(guān)函數(shù))所確定。第23頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月例1設(shè)A,B是兩個(gè)隨機(jī)變量,求隨機(jī)過(guò)程X(t)=At+B,t

∈T=(-∞,+∞)的均值函數(shù)和自相關(guān)函數(shù)。如果A,B相互獨(dú)立，且A～N(0,1),B～U(0,2)，問(wèn)

X(t)

的均值函數(shù)和自相關(guān)函數(shù)又是怎樣的？解X(t)的均值函數(shù)和自相關(guān)函數(shù)分別為當(dāng)A～N(0,1)時(shí)，E[A]=0，E[A2]=1；當(dāng)B～U(0,2)時(shí)，E[B]=1，E[B2]=4/3；又因A、B獨(dú)立時(shí)，有E[AB]=E[A]E[B]=0。故第24頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月例2求§10.1例2中隨機(jī)相位正弦波的均值函數(shù)、方差函數(shù)和自相關(guān)函數(shù)。由定義，得解由假設(shè)，知Θ的概率密度為第25頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月自相關(guān)函數(shù)特別地，令t1=t2=t,即得方差函數(shù)

其中τ

=t2-t1。第26頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月例3設(shè)

X(t)=

Acos

ω

t

+

Bsin

ω

t,

t∈T=(-∞,+∞)，其中A,B相互獨(dú)立，且均是服從正態(tài)分布N(0,σ2)的隨機(jī)變量，ω

是實(shí)常數(shù)。證明:X(t)是正態(tài)過(guò)程，并求其均值函數(shù)和自相關(guān)函數(shù)。解由題設(shè)，A,B是相互獨(dú)立的正態(tài)變量，所以(A,B)是二維正態(tài)變量。對(duì)任意一組實(shí)數(shù)t1,t2,…,tn∈T,X(ti)=Acosωti+Bsinωti,

i=1,2,…,n都是A,B的線性組合。于是，根據(jù)第四章§4,n維正態(tài)變量的性質(zhì)3。,(X(t1),X(t2),…,X(tn))是n維正態(tài)變量。因?yàn)閚,ti是任意的，由定義，X(t)是正態(tài)過(guò)程。第27頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月另由題設(shè)，有E(A)=E(B)=E(AB)=0,E(A2)=E(B2)=σ2.由此，可算得X(t)的均值函數(shù)和自協(xié)方差函數(shù)(或自相關(guān)函數(shù))分別為：

μX(t)=E{Acosωt+Bsinωt}=0,CX(t1,t2)=RX(t1,t2)=E[(Acosωt1+Bsinωt1)(Acosωt2+Bsinωt2)]=(cos

ωt1cos

ωt2)E(A2)+(sin

ωt1sin

ωt2)E(B2)+(cos

ωt1sin

ωt2+

sin

ωt1

cos

ωt2)E(AB)=σ2(cosωt1cosωt2+sinωt1sinωt2)=σ2cosω(t2-t1).

第28頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月10.2.3二維隨機(jī)過(guò)程的分布函數(shù)和數(shù)字特征實(shí)際問(wèn)題中，我們有時(shí)必須同時(shí)研究?jī)蓚€(gè)或兩個(gè)以上隨機(jī)過(guò)程及它們之間的統(tǒng)計(jì)聯(lián)系。例如：某地在時(shí)段(0,t]內(nèi)的最高溫度X(t)和最低溫度Y(t)都是隨機(jī)過(guò)程，需研究它們的統(tǒng)計(jì)聯(lián)系。又如：輸入到一個(gè)系統(tǒng)的信號(hào)和噪聲可都是隨機(jī)過(guò)程，這時(shí)，輸出也是隨機(jī)過(guò)程。我們需要研究輸出與輸入之間的統(tǒng)計(jì)聯(lián)系等等。對(duì)于這類問(wèn)題，我們除了對(duì)各個(gè)隨機(jī)過(guò)程的統(tǒng)計(jì)特征加以研究外，還必須將幾個(gè)隨機(jī)過(guò)程作為整體研究其統(tǒng)計(jì)特征。第29頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月

設(shè)

{X(t),t∈T}和{Y(t),t∈T}是同一參數(shù)空間上的兩個(gè)不同的隨機(jī)過(guò)程，稱{(X(t),Y(t)),t∈T}是二維隨機(jī)過(guò)程。設(shè){(X(t),Y(t)),t∈T}是二維隨機(jī)過(guò)程，如果對(duì)任意正整數(shù)n,m，任意數(shù)組t1,t2,…,tn∈T，t’1,t’2,…,t’m

∈T，稱n+m維隨機(jī)變量

(X(t1),

X(t2),…,X(tn),Y(t’1),

Y(t’2),…,Y(t’m))的分布函數(shù)F(x1,x2,…,xn;t1,t2,…,tn:y1,y2,…,ym;t’1,t2’,…,t’m)為隨機(jī)過(guò)程X(t)與Y(t)的n+m維聯(lián)合分布函數(shù)。第30頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月如果對(duì)任意正整數(shù)n,m，任意數(shù)組t1,t2,…,tn∈T;t’1,t’2,…,t’m

∈T，n維隨機(jī)變量(X(t1),

X(t2),…,X(tn))與m維隨機(jī)變量(Y(t’1),

Y(t’2),…,Y(t’m))相互獨(dú)立，則稱隨機(jī)過(guò)程X(t)和Y(t)是相互獨(dú)立的。第31頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月關(guān)于數(shù)字特征，除X(t),Y(t)的均值和自相關(guān)函數(shù)外，在應(yīng)用課題中感興趣的是X(t)和Y(t)的二階混合原點(diǎn)矩，記作并稱它為X(t)和Y(t)的互相關(guān)函數(shù)。

類似地，還有如下定義的X(t)和Y(t)的互協(xié)方差函數(shù)

如果對(duì)任意的t1,t2∈T，恒有則稱隨機(jī)過(guò)程X(t)和Y(t)是不相關(guān)的。第32頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月由第四章§3可推知，兩個(gè)隨機(jī)過(guò)程如果是相互獨(dú)立的,且它們的二階矩存在,則它們必然不相關(guān)。反之,從不相關(guān)一般并不能推斷出它們相互獨(dú)立。

當(dāng)同時(shí)考慮n(n>2)個(gè)隨機(jī)過(guò)程或n維隨機(jī)過(guò)程時(shí),我們可類似地引入它們的多維分布，以及均值函數(shù)和兩兩之間的互相關(guān)函數(shù)(或互協(xié)方差函數(shù))。第33頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月在許多應(yīng)用問(wèn)題中，經(jīng)常要研究幾個(gè)隨機(jī)過(guò)程之和(例如，將信號(hào)和噪聲同時(shí)輸入到一個(gè)線性系統(tǒng)的情形)的統(tǒng)計(jì)特征。現(xiàn)考慮三個(gè)隨機(jī)過(guò)程X(t),Y(t)和Z(t)之和的情形，令

W(t)=X(t)+Y(t)+Z(t).顯然，均值函數(shù)而W(t)的自相關(guān)函數(shù)可以根據(jù)均值運(yùn)算規(guī)則和相關(guān)函數(shù)的定義得到，第34頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月此式表明：幾個(gè)隨機(jī)過(guò)程之和的自相關(guān)函數(shù)可以表示為各個(gè)隨機(jī)過(guò)程的自相關(guān)函數(shù)以及各對(duì)隨機(jī)過(guò)程的互相關(guān)函數(shù)之和。如果上述三個(gè)隨機(jī)過(guò)程是兩兩不相關(guān)的，且各自的均值函數(shù)都為零，則由(2.11)是可知諸互相關(guān)函數(shù)均等于零，此時(shí)W(t)的自相關(guān)函數(shù)簡(jiǎn)單地等于各個(gè)過(guò)程的自相關(guān)函數(shù)之和，即特別地，令t1=t2=t,由(2.12)式，得W(t)的方差函數(shù)(此處即均方值函數(shù))為第35頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月§10.3泊松過(guò)程及維納過(guò)程泊松

(Poission)

過(guò)程及維納

(Wiener)

過(guò)程是兩個(gè)典型的隨機(jī)過(guò)程，在隨機(jī)過(guò)程理論和應(yīng)用中都占重要地位，都屬于獨(dú)立增量過(guò)程。下面首先介紹獨(dú)立增量過(guò)程。給定二階矩過(guò)程{X(t),t

≥0},稱X(t)-X(s),0≤s<t為隨機(jī)過(guò)程在區(qū)間(s,t]上的增量。如果對(duì)任意正整數(shù)n

和任意

0≤t0<t1<t2<…<tn,n個(gè)增量

X(t1)-X(t0),X(t2)-X(t1),…,X(tn)-X(tn-1)相互獨(dú)立，則稱{X(t),t

≥0}為獨(dú)立增量過(guò)程。直觀地說(shuō)：就是在互不重疊的區(qū)間上，狀態(tài)的增量相互獨(dú)立。第36頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月對(duì)于獨(dú)立增量過(guò)程，可以證明：在

X(0)=0

的條件下,過(guò)程的有限維分布函數(shù)族可以由增量

X(t)-X(s)(0≤s<t)的分布所確定。特別地，若對(duì)任意的實(shí)數(shù)

h

和0≤s+h<t+h,

X(t+h)-X(s+h)

與

X(t)-X(s)

具有相同的分布，則稱增量具有平穩(wěn)性。這時(shí)，增量

X(t)-X(s)

的分布函數(shù)實(shí)際上只依賴于時(shí)間差t-

s(0≤s<t)，而不依賴于t和

s

本身

(事實(shí)上，令h=-s即知)。當(dāng)增量具有平穩(wěn)性時(shí)，稱相應(yīng)的獨(dú)立增量過(guò)程是齊次的或時(shí)齊的。第37頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月在

X(0)=0

和方差函數(shù)

DX(t)

已知條件下，可計(jì)算獨(dú)立增量過(guò)程{X(t),t

≥0}的協(xié)方差函數(shù)CX(s,t)。記

Y(t)=X(t)-μX(t)。首先注意到：當(dāng)

X(t)

具有獨(dú)立增量時(shí),Y(t)也具有獨(dú)立增量;其次注意到:Y(0)=0,E[Y(t)]=0，且方差函數(shù)DY(t)=E[Y2(t)]=DX(t)。利用這些性質(zhì)，當(dāng)0≤s<t時(shí)，就有故，對(duì)任意s,t≥0，協(xié)方差函數(shù)可用方差函數(shù)表示。第38頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月10.3.1泊松過(guò)程

考慮下列隨時(shí)間推移遲早會(huì)重復(fù)出現(xiàn)的事件：(1).自電子管陰極發(fā)射的電子到達(dá)陽(yáng)極；(2).意外事故或意外差錯(cuò)的發(fā)生；(3).要求服務(wù)的顧客到達(dá)服務(wù)站。此處“顧客”與“服務(wù)站”的含義是相當(dāng)廣泛的。如:“顧客”可以是電話的呼叫，“服務(wù)站”是120急救臺(tái)；“顧客”可以是聯(lián)網(wǎng)的個(gè)人電腦，“服務(wù)站”是某網(wǎng)站的主頁(yè);“顧客”可以是等待起飛的飛機(jī)，“服務(wù)站”是機(jī)場(chǎng)跑道等。第39頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月為建立一般模型，我們把電子、顧客等看作時(shí)間軸上的質(zhì)點(diǎn)，電子到達(dá)陽(yáng)極、顧客到達(dá)服務(wù)站等事件的發(fā)生相當(dāng)于質(zhì)點(diǎn)出現(xiàn)。于是，抽象地說(shuō)，我們研究的對(duì)象將是隨時(shí)間推移，陸續(xù)出現(xiàn)在時(shí)間軸上的許多質(zhì)點(diǎn)所構(gòu)成的隨機(jī)的質(zhì)點(diǎn)流。以N(t),t

≥0表示在時(shí)間間隔(0,t]內(nèi)出現(xiàn)的質(zhì)點(diǎn)數(shù)。{N(t),t

≥0}是一狀態(tài)取非負(fù)整數(shù)、時(shí)間連續(xù)的隨機(jī)過(guò)程，稱為計(jì)數(shù)過(guò)程。第40頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月計(jì)數(shù)過(guò)程的樣本函數(shù)如圖10-5所示，圖中t1,t2,…是質(zhì)點(diǎn)依次出現(xiàn)的時(shí)刻。圖10-5

將增量N(t)-N(t0)記成N(t0,t),0≤t0<t,它表示時(shí)間間隔(t0,t]內(nèi)出現(xiàn)的質(zhì)點(diǎn)數(shù)?！霸?t0,t]內(nèi)出現(xiàn)

k

個(gè)質(zhì)點(diǎn)”，即{N(t0,t)

=

k}是一事件，其概率記為

Pk(t0,t)=P{N(t0,t)=k},k=0,1,2,….（3.2)第41頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月現(xiàn)假設(shè)

N(t)

滿足如下條件：(1).在不相重疊的區(qū)間上的增量具有獨(dú)立性；(2).對(duì)于充分小的△t,其中常數(shù)

λ

>0

稱為過(guò)程

N(t)

的強(qiáng)度，而當(dāng)時(shí)是關(guān)于△t的高階無(wú)窮小；(3).對(duì)于充分小的△t,(4).N(0)=0。第42頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月我們把滿足條件(1)～(4)的計(jì)數(shù)過(guò)程{N(t),t

≥0}稱作強(qiáng)度為

λ

的泊松過(guò)程。相應(yīng)的質(zhì)點(diǎn)流，即質(zhì)點(diǎn)出現(xiàn)的隨機(jī)時(shí)刻t1,t2,…稱作強(qiáng)度為

λ

的泊松流。以下首先來(lái)求增量的分布律(3.2)。對(duì)于泊松過(guò)程，注意到=1，結(jié)合條件(2)和(3)，有第43頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月下面就泊松過(guò)程來(lái)計(jì)算概率(3.2)。首先確定P0(t0,t)。為此，對(duì)△t>0，考慮由條件(1)和(3.5)式，上式可寫(xiě)成第44頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月用△t除上式兩邊，并令，即得P0(t0,t)滿足的微分方程因?yàn)镹(t0,t0)=0，故P0(t0,t0)=1。把它看作初始條件即可從方程(3.6)解得第45頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月再來(lái)計(jì)算Pk(t0,t),k≥1。根據(jù)并事件概率公式和條件(1)，有由(3.2)～(3.5)式，并注意到上式可表示成第46頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月將此式適當(dāng)整理后，兩邊除以△t，并令，可得到Pk(t0,t)滿足的微分-差分方程又因

N(t0,t0)

=

0，故有初始條件在(3.8)與(3.9)中令k=1,利用求出的P0(t0,t),可解出第47頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月如此重復(fù)，即逐次令

k=2,3,…，就得到(t0,t]

時(shí)間段內(nèi)出現(xiàn)

k

個(gè)質(zhì)點(diǎn)的概率為由上式易見(jiàn)：增量N(t0,t)

=

N(t)

-

N(t0)的概率分布是參數(shù)為

λ(t-t0)的泊松分布,且只與時(shí)間差t-t0有關(guān)。所以，強(qiáng)度為

λ

的泊松分布是一齊次的獨(dú)立增量過(guò)程。

第48頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月在一些文獻(xiàn)中，泊松過(guò)程也用另一種形式定義。若計(jì)數(shù)過(guò)程{N(t),t

≥0}滿足下列三個(gè)條件：①.過(guò)程是獨(dú)立增量過(guò)程；②.對(duì)任意t>t0≥0，N(t)-N(t0)服從參數(shù)為

λ(t-t0)的

泊松分布;③.N(0)=0,則稱{N(t),t

≥0}是強(qiáng)度為

λ

的泊松過(guò)程。從前面的推導(dǎo)不難看到：從條件(1)—(4)可推出①—③。反之,在②中令

t-t0=△t，并利用e-λ

△t的泰勒展開(kāi)式，就能得到條件(2)、(3)。由此可知：定義泊松過(guò)程的兩組條件是等價(jià)的。

第49頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月由(3.10)式，t>t0≥0，可知特別地，令t0=0，由于假設(shè)N(0)=0，可推出泊松過(guò)程的均值函數(shù)和方差函數(shù)分別為

從(3.11)可看到:λ

=E[N(t)/t]，即泊松過(guò)程的強(qiáng)度λ

(常數(shù))等于單位時(shí)間間隔內(nèi)出現(xiàn)的質(zhì)點(diǎn)數(shù)的期望值。第50頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月泊松過(guò)程的協(xié)方差函數(shù)，則可由(3.1),(3.11)式直接推得：相關(guān)函數(shù)第51頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月若條件(3.3)式中的強(qiáng)度為非均勻的，即

λ

是時(shí)間

t

的函數(shù)λ

=

λ(t),t≥0。則稱泊松過(guò)程為非齊次的。對(duì)于非齊次泊松過(guò)程，用類似的方法，可得

下面介紹與泊松過(guò)程有關(guān)的兩個(gè)隨機(jī)變量，即等待時(shí)間和點(diǎn)間間距，以及它們的概率分布。第52頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月在一些實(shí)際問(wèn)題中，觀察質(zhì)點(diǎn)時(shí)，通常不是對(duì)時(shí)間間隔

(t1,

t2]

內(nèi)出現(xiàn)的質(zhì)點(diǎn)進(jìn)行計(jì)數(shù),而是對(duì)達(dá)到一定數(shù)量的質(zhì)點(diǎn)所需要的時(shí)間進(jìn)行計(jì)時(shí)。例如：為研究含某放射性元素的物質(zhì)，常對(duì)它發(fā)射出來(lái)的粒子作如下計(jì)時(shí)試驗(yàn)。設(shè)質(zhì)點(diǎn)(或事件)依次重復(fù)出現(xiàn)的時(shí)刻t1,t2,…,tn,…是一強(qiáng)度為

λ

的泊松流，{N(t),t

≥0}為相應(yīng)的泊松過(guò)程。記

W0=0,Wn=tn,n=1,2,…。Wn是一隨機(jī)變量，表示第n個(gè)質(zhì)點(diǎn)(或事件第n次)出現(xiàn)的等待時(shí)間(見(jiàn)圖10-6)。第53頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月為求出Wn的分布函數(shù)首先注意，事件{Wn>t}={N(t)<n}。所以，第54頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月將上式關(guān)于t求導(dǎo)，得Wn的概率密度為易見(jiàn)：泊松過(guò)程的等待時(shí)間Wn服從Γ分布。特別地，質(zhì)點(diǎn)(或事件)首次出現(xiàn)的等待時(shí)間W1服從指數(shù)分布，其密度函數(shù)為：第55頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月又記它也是一連續(xù)型隨機(jī)變量，稱為相繼出現(xiàn)的第i-1個(gè)質(zhì)點(diǎn)和第i個(gè)質(zhì)點(diǎn)的點(diǎn)間間距(見(jiàn)圖10-6)。圖10-6下面求Ti的分布。由于T1=W1，所以T1服從指數(shù)分布(3.13)。對(duì)于i≥2，我們先求在第i-1個(gè)質(zhì)點(diǎn)出現(xiàn)在時(shí)刻

ti-1(即ti-1=ti-1)的條件下，Ti的條件分布函數(shù)：第56頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月由N(t)的定義由增量的獨(dú)立性由增量的平穩(wěn)性第57頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月從而知相應(yīng)的條件概率密度為于是，隨機(jī)變量Ti,ti-1的聯(lián)合概率密度為第58頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月此處為ti-1的概率密度。將此表達(dá)式關(guān)于ti-1積分，即得Ti(i=2,3,…)的概率密度第59頁(yè)，課件共67頁(yè)，創(chuàng)作于2023年2月由(3.13)及(3.14)知，點(diǎn)間間距序列

{Ti}

服從同一指數(shù)分布。理論上還有:T1,T2,…是獨(dú)立的隨機(jī)變量。我們把這些結(jié)論寫(xiě)成如下定理。

定理1強(qiáng)度為

λ

的泊松過(guò)程的點(diǎn)間間距是獨(dú)立同分布隨機(jī)變量序列，且同服從指數(shù)分布(3.14)。定理2若任意相繼出現(xiàn)的兩個(gè)質(zhì)點(diǎn)的點(diǎn)間間距是獨(dú)立同分布隨機(jī)變量序列，且同服從指數(shù)分布(