隨機變量到隨機過程

2023/1/161隨機變量到隨機過程4.1.1隨機過程的定義自然界中變化的過程可分為兩大類：

確定性過程：就是事物的變化過程可以用一個（或幾個）時間t的確定的函數來描繪。

隨機過程：就是事物變化的過程不能用一個（或幾個）時間t的確定的函數來加以描述。4.1從隨機變量到隨機過程（1）貝努里實驗:其樣本空間只有兩個樣本點，即只有兩個可能結果:

和。在擲幣實驗中，貝努里隨機變量可以表示為:隨機過程例子有概率若重復在t=n(n=1,2,…)時刻上，獨立進行相同的擲幣實驗,構成一隨機變量序列n01

12345678910則有

其概率

n01

12345678910n01

12345678910所有隨機變量序列的集合就是隨機信號。每一個隨機變量序列稱為一個樣本，也叫一個實現。觀察電阻上的噪聲電壓，可能有不同的波形。每一個波形稱為樣本函數，也叫一個實現。所有波形的集合就是隨機信號。（2）時間連續(xù)的隨機現象定義1：設隨機試驗E的樣本空間，若對于每個元素，總有一個確知的時間函數與它對應。對于所有的，就可以得到一簇時間t的函數，稱它為隨機過程。簇中的每一個函數稱為樣本函數。隨機過程的定義隨機過程的定義定義2：若對于每個特定的時間，都是隨機變量，則稱為隨機過程，稱為隨機過程在時刻的狀態(tài)。隨機過程的定義（1）在任意給定時刻，隨機信號是一個隨機變量隨機信號可視為許多隨機變量的集合；X(t,ξ1)X(t,ξ2)X(t,ξ3)X(t,ξ4)X(t1,ξ)X(t2,ξ)X(tn,ξ)X(t,ξ)t隨機信號的表征n01

12345678910n01

12345678910X(t,ξ1)X(t,ξ2)X(t,ξ3)X(t,ξ4)X(t,ξ)t（2）隨機信號可視為所有樣本函數的集合n01

12345678910n01

12345678910

一個時間函數族

一個確知的時間函數一個隨機變量一個確定值

1和都是變量2是變量而固定3

固定而是變量

4

和都固定

理解（1）時間離散、取值離散

D.R.Seq.例：貝努里r.s.n01

123456789104.1.2隨機過程的分類和舉例例：一脈沖信號發(fā)生器傳送的信號（2）時間連續(xù)、取值離散

D.R.P.例：正弦型信號①②③（3）時間連續(xù)、取值連續(xù)

C.R.P.例：每隔單位時間對噪聲電壓抽樣n02

12345（4）時間離散、取值連續(xù)

C.R.Seq.按照樣本函數的形式分類

可預測過程：對于任一條樣本函數的未來取值可由過去值準確預測。

不可預測過程：對于樣本函數的未來取值不可由過去值準確預測。按照隨機過程的分布函數特性分類按照這種分類法，最重要的就是平穩(wěn)隨機過程，其次是高斯過程、馬爾可夫過程、獨立增量過程等等。Brown運動隨機游動Poisson過程Markov過程ARMA（自回歸滑動平均)狀態(tài)空間模型典型隨機過程例1

設具有隨機初始相位的正弦波其中A與w0是正常數，在之間服從均勻分布。判斷X(t)是否為一隨機過程。解：(1)固定時間t，X(t)是隨機變量，是一族隨機變量(2)對隨機變量Φ做一次試驗得到一個結果φ，是隨時間變化的函數，即樣本函數。X(t)是一隨機過程。一維概率分布函數定義：

一維概率密度函數定義：

2.一階（維）概率分布和密度函數4.2隨機過程的統計特性4.2.1隨機過程的概率分布1.一維概率分布txfX(x;t)二維概率分布函數定義：

二維概率密度函數定義：

分析隨機過程本質上就是分析相應的隨機變量

二維概率分布和密度函數

構成n維隨機變量即為n維空間的隨機矢量X。類似的，可以定義隨機過程的n維分布函數和n維概率密度函數為隨機過程

在任意n個時刻

的取值n維概率分布1.數學期望

顯然，

是某一個平均函數，隨機過程的諸樣本在它的附近起伏變化，如圖所示：

4.2.2隨機過程的數字特征分布函數或概率密度函數雖然能夠較全面地描述隨機過程的統計特性,但在實際工作中，有時不易或不需求出分布函數和概率密度函數，而用隨機過程的數字特征來描述隨機過程的統計特性，更簡單直觀。t1t2t3t4隨機過程在任一時刻t的取值是一個隨機變量。我們把二階原點矩稱為隨機過程的均方值，把二階中心矩記作隨機過程的方差。即：

且2.均方值和方差

物理意義：如果表示噪聲電壓，則均方值和方差分別表示消耗在單位電阻上的瞬時功率統計平均值和瞬時交流功率統計平均值。

標準差或均方差：

均值、方差和樣本函數的關系方差表示隨機過程在時刻t對于均值a(t)的偏離程度。

相同均值方差的兩個隨機過程3.自相關函數均值和方差都只與隨機過程的一維概率密度函數有關，因而它們描述了隨機過程在各個孤立時刻的特征。為了描述隨機過程在兩個不同時刻狀態(tài)之間的聯系，還需利用二維概率密度引入新的數字特征。

自相關函數用來描述隨機過程任意兩個時刻的狀態(tài)之間的內在聯系，通常用描述。

若用隨機過程的兩個不同時刻之間的二階混合中心矩來定義相關函數，我們稱之為自協方差。用表示，它反映了任意兩個時刻的起伏值之間相關程度。

4.自協方差函數比較自協方差和自相關函數的關系

))]()())(()([(),(111121tmtXtmtXEttCXXX--=比較自協方差和方差的關系

令則例：求隨機相應正弦波的數學期望，方差，自相關函數及一維概率密度。式中，為常數，是區(qū)間[0，]上均勻分布的隨機變量。解：由題可知：（1）＝同理（2）方差＝＝＝可知

（3）自相關函數＝＝＝（4）一維概率密度在范圍內，每個x=sin(w0t+θ)對應兩個θ值：和所以由于1.隨機信號的n＋m維聯合概率分布和密度函數兩個不同r.s.X(t)與Y(t)之間的聯合概率特性。對隨機信號X(t)任取時，獲得n個隨機變量;對隨機信號Y(t)任取時，獲得m個隨機變量。隨機過程聯合特性t1t2t3tnX(t)ts1s2s3smY(t)t定義n＋m維聯合概率分布函數為:

定義n＋m維聯合概率密度函數為:兩個不同隨機信號X(t)與Y(t)的聯合矩特性

互相關函數定義為:互協方差函數定義為:2.隨機信號的互相關函數與互協方差函數互相關系數定義為:(1)正交:對于任意時刻,都有則稱X(t)與Y(t)正交。(2)線性無關:對于任意時刻,都有則稱X(t)與Y(t)線性無關。3.兩個隨機信號正交、線性無關與統計獨立（3）統計獨立:對于X(t)和Y(t)的任一組隨機變量,都有則稱X(t)與Y(t)彼此統計獨立。兩個隨機信號的正交、線性無關與統計獨立三者關系與兩個隨機變量間的完全相同。1.兩個隨機信號統計獨立，它們必然是線性無關的；2.兩個隨機信號線性無關，不一定互相獨立；3.在兩個隨機信號中任一均值為零時，線性無關

性與正交性是等價的；4.在兩個隨機信號的互相關和互協方差同時不為零時，它們不是線性無關的，也不是相互正交的。★統計獨立性，線性無關性和正交性的關系(a)一般情況下

統計獨立線性無關

相互正交任一隨機信號均值為零當和均為高斯隨機信號時:

統計獨立性和線性無關性是等價的；(b)高斯隨機信號線性無關統計獨立進一步，且有一個均值為零時:

獨立性、線性無關性和正交性三者是等價的。(c)高斯隨機信號，且有一個均值為零線性無關統計獨立相互正交1.一維特征函數

隨機過程在任一特定時刻t的取值是一維隨機變量，其特征函數為:其反變換為：

n階矩4.2.3隨機過程的特征函數其反變換為：

2.二維特征函數3.n維特征函數4.3.1、隨機過程的連續(xù)性

1.預備知識：對于確定性函數，若則在處連續(xù)。4.3隨機過程的微分與積分2.隨機過程連續(xù)性定義

如果隨機過程

滿足

則稱

依均方收斂意義下在t點連續(xù)，簡稱隨機過程

在t點均方連續(xù)，記為：3.隨機過程的相關函數連續(xù)，則連續(xù)因此，如果對

時刻，函數

在點上連續(xù)，則隨機過程

必在點t上連續(xù)。

4.隨機過程均方連續(xù)，則其數學期望連續(xù)

證：由均方連續(xù)的定義，則不等式左端趨于0，那么不等式的右端也必趨于0（均值的平方不可能小于0）

設即：

注意為確定性函數，由預備知識，可知連續(xù)。

可將此結果寫成求極限和求數學期望的次序可以交換預備知識：對于一般確定性函數，高等數學給出的可導定義如下：

一階可導：

如果存在，則在t處可導，記為。

4.3.2、隨機過程的導數二階可導：

存在，則二階可導，記為

若通常意義下的導數隨機過程X(t)的導數可定義為極限如果該極限對過程X(t)的任意一個樣本函數都存在，則具有導數的通常意義。如果極限在均方意義下存在，則X(t)具有均方意義下的導數。1.隨機過程可導的定義如果隨機過程

滿足

則稱

在t時刻具有均方導數，表示為

均方意義下的導數判斷一個隨機過程是否均方可微的方法是采用柯西準則,即

而2.判別方法若存在混合偏導，則t1=t2時有=可見，隨機過程X(t)在t處均方可微的充分條件為：相關函數在它的自變量相等時，存在二階混合偏導數且連續(xù)，即存在（1）隨機過程導數的數學期望等于其數學期望的導數

證明：

3.數字特征（2）隨機過程導數的相關函數等于可微隨機過程的相關函數的混合偏導數

證明：

例1.

隨機過程X(t)的數學期望為相關函數為求隨機過程的均值與相關函數1.預備知識

對于確定性函數，其中