隨機(jī)過程：隨機(jī)變量的數(shù)字特征

隨機(jī)信號分析第一章概率與隨機(jī)變量本章學(xué)習(xí)的主要內(nèi)容★隨機(jī)變量及其分布★隨機(jī)變量的數(shù)字特征★隨機(jī)變量的函數(shù)★隨機(jī)變量的特征函數(shù)★大數(shù)定理及中心極限定理1.4隨機(jī)變量的數(shù)字特征★數(shù)學(xué)期望★方差★協(xié)方差和相關(guān)系數(shù)★矩和協(xié)方差矩陣1.5隨機(jī)變量的函數(shù)★一維隨機(jī)變量函數(shù)的分析★二維隨機(jī)變量函數(shù)的分析★隨機(jī)變量函數(shù)的數(shù)字特征1.6隨機(jī)變量的特征函數(shù)★特征函數(shù)的定義★特征函數(shù)的性質(zhì)1.7大數(shù)定律及中心極限定理★大數(shù)定律的物理意義★中心極限定理的物理意義本堂課的作業(yè)★第23頁習(xí)題1.13隨機(jī)變量的數(shù)學(xué)期望★離散型隨機(jī)變量的數(shù)學(xué)期望設(shè)離散隨機(jī)變量X的分布律為：

P{X=xk}=pkk=1,2,…

若級數(shù)絕對收斂，則定義X的數(shù)學(xué)期望為

數(shù)學(xué)期望表示統(tǒng)計(jì)平均運(yùn)算，常記作mX。隨機(jī)變量的數(shù)學(xué)期望★連續(xù)型隨機(jī)變量的數(shù)學(xué)期望對于連續(xù)型隨機(jī)變量X，若它的概率密度為f(x)，并且積分絕對收斂，則定義X的數(shù)學(xué)期望為隨機(jī)變量的數(shù)學(xué)期望★數(shù)學(xué)期望的性質(zhì)1、設(shè)X為一隨機(jī)變量，C為常數(shù)，則有

E[CX]=C·E[X]2、設(shè)X，Y為任意二隨機(jī)變量，則有

E[X+Y]=E[X]+E[Y]3、設(shè)X，Y為相互獨(dú)立的隨機(jī)變量，則有

E[X·Y]=E[X]·E[Y]隨機(jī)變量的方差★方差的定義對于隨機(jī)變量X，定義下式

D[X]=E[(X-mx)2]

為X的方差，其中mx=E[X]★方差的計(jì)算

D[X]=E[(X-mx)2]=E[X2-2mxX+mx2]=E[X2]-mx2

隨機(jī)變量的方差★方差的性質(zhì)1、設(shè)C為常數(shù)，則有D[C]=02、設(shè)X為隨機(jī)變量，C為常數(shù)，則有

D[CX]=C2D[X]3、設(shè)X，Y為相互獨(dú)立的隨機(jī)變量，則有

D[X+Y]=D[X]+D[Y]

協(xié)方差和相關(guān)系數(shù)★協(xié)方差對于任意二隨機(jī)變量X和Y，定義下式

cov[X，Y]=E[(X-mx)(Y-my)]

為隨機(jī)變量X和Y的協(xié)方差?！锵嚓P(guān)系數(shù)定義下式

為隨機(jī)變量X和Y的相關(guān)系數(shù)。矩和協(xié)方差矩陣★矩對于任意二隨機(jī)變量X和Y，如果

E[Xk]，k=1,2,…

存在，定義它為X的k階原點(diǎn)矩；如果

E[(X-mX)k]，k=1,2,…

存在，定義它為X的k階中心矩；如果

E[Xk

Yl]，k,l=1,2,…

存在，定義它為X和Y的k+l階混合矩；如果

E[(X-mX)k(Y-my)l]，k,l=1,2,…

存在，定義它為X和Y的k+l階中心混合矩。矩和協(xié)方差矩陣★協(xié)方差矩陣二維隨機(jī)變量(X1,X2)有四個(gè)二階中心矩，分別記為

K11＝E[(X1-mX1)2]

K12＝

E[(X1-mX1)(X2-mX2)]

K21＝

E[(X2-mX2)(X1-mX1)]

K22＝E[(X2-mX2)2]

將它們排成矩陣的形式：

K11

K12

K21

K22

則該矩陣稱為(X1,X2)的協(xié)方差矩陣。一維隨機(jī)變量函數(shù)的分析★單調(diào)變換函數(shù)的單值變換設(shè)隨機(jī)變量X和Y存在單調(diào)函數(shù)關(guān)系Y=g(X)，并且存在反函數(shù)X=h(Y)。這時(shí)，如果X位于(x,x+dx)的很小區(qū)間內(nèi)，則Y必位于(y,y+dy)的對應(yīng)區(qū)間內(nèi)。于是，這兩個(gè)事件的概率應(yīng)該相等，即有fY(y)dy=fX(x)dx

或fY(y)=fX(x)dx/dy一維隨機(jī)變量函數(shù)的分析★單調(diào)變換函數(shù)的單值變換(續(xù))由于概率密度不能為負(fù)值，因此dx/dy應(yīng)取絕對值，故可得

fY(y)=|dx/dy|·

fX

[h(y)]=|h’(y)|

·

fX

[h(y)]一維隨機(jī)變量函數(shù)的分析★單調(diào)變換函數(shù)的單值變換(續(xù))[例]設(shè)隨機(jī)變量Y和X之間是線性關(guān)系，即有Y=aX+b。已知X服從參數(shù)a和σ的正態(tài)分布，求Y的概率密度。[解]由給的線性關(guān)系可知X=h(Y)=(Y-b)/a，由此可得|h’(y)|=1/|a|，根據(jù)fY(y)=|h’(y)|·

fX

[h(y)]，一維隨機(jī)變量函數(shù)的分析★非單調(diào)變換函數(shù)的多值變換設(shè)X=h(Y)為雙值函數(shù)關(guān)系，即一個(gè)Y值對應(yīng)兩個(gè)X值。當(dāng)Y位于(y,y+dy)的區(qū)間內(nèi)時(shí)，對應(yīng)兩種可能性，即X位于(x1,x1+dx1)和(x2,x2+dx2)區(qū)間內(nèi)。這時(shí)應(yīng)有

fY(y)dy=fX(x1)dx1＋fX(x2)dx2

將x1用h1(y)，x2用h2(y)表示，則有一維隨機(jī)變量函數(shù)的分析★非單調(diào)變換函數(shù)的多值變換(續(xù))[例]設(shè)隨機(jī)變量Y和X之間的關(guān)系為

Y=sinX-π≤X≤π

已知隨機(jī)變量X為均勻分布，其概率密度為求隨機(jī)變量Y的概率密度。一維隨機(jī)變量函數(shù)的分析★非單調(diào)變換函數(shù)的多值變換(續(xù))[解]函數(shù)Y=sinX中一個(gè)Y值對應(yīng)兩個(gè)X值，且有

x1=sin-1y，x2=π-sin-1y

根據(jù)多值變換的公式，可得

二維隨機(jī)變量函數(shù)的分析★單值變換情況下的分析設(shè)有二維隨機(jī)變量(X1,X2)，其概率密度為fX(x1,x2)；它與二維隨機(jī)變量(Y1,Y2)的關(guān)系為

由此來確定二維隨機(jī)變量(Y1,Y2)的概率密度。二維隨機(jī)變量函數(shù)的分析★單值變換情況下的分析（續(xù)）由于二維變換比一維變換更為復(fù)雜，所以我們只考慮g1和g2是單值變換的情況，即從(1.5.1)式中解出的反變換(1.5.2)式的解是唯一的。

當(dāng)一維隨機(jī)變量X和Y為單值變換時(shí)，有fX(x)dx=fY(y)dy。將其推廣到二維變換的情況下去。二維隨機(jī)變量函數(shù)的分析★單值變換情況下的分析（續(xù)）在二維變換的情況下，當(dāng)二維隨機(jī)變量(X1,X2)和(Y1,Y2)為單值變換時(shí)，對應(yīng)地有

fX(x1,x2)dx1dx2=fY(y1,y2)dy1dy2

取dSX=dx1dx2，dSy=dy1dy2，則有

fX(x1,x2)dSX

=fY(y1,y2)dSy

(1.5.3)(1.5.3)式表明，在X域內(nèi)隨機(jī)點(diǎn)(X1,X2)落入dSX的概率等于Y域內(nèi)隨機(jī)點(diǎn)(Y1,Y2)落入dSy的概率。二維隨機(jī)變量函數(shù)的分析★單值變換情況下的分析（續(xù)）在單值變換中，dSX和dSy一一對應(yīng)，因此二維隨機(jī)變量(Y1,Y2)的概率密度為：在坐標(biāo)轉(zhuǎn)換中dSX和dSy之間的變換稱為雅可比變換。并有如下的關(guān)系：

dSX＝J

·dSyJ為雅可比行列式二維隨機(jī)變量函數(shù)的分析★單值變換情況下的分析（續(xù)）在二維變換中，雅可比行列式為下式

因此可得：fY(y1,y2)=|J|·

fX(x1,x2)

=|J|·

fX[h1(y1,y2),h2(y1,y2)]

隨機(jī)變量函數(shù)的數(shù)字特征★隨機(jī)變量函數(shù)的數(shù)學(xué)期望設(shè)隨機(jī)變量X和Y存在函數(shù)關(guān)系Y=g(X)，fX(x)和fY(y)分別為X和Y的概率密度，則隨機(jī)變量Y的數(shù)學(xué)期望為假定g(·)是單調(diào)函數(shù)，則有，代入上式，可得隨機(jī)變量函數(shù)的數(shù)字特征★隨機(jī)變量函數(shù)的方差與數(shù)學(xué)期望的推導(dǎo)一樣，一維隨機(jī)變量X的函數(shù)g(X)的方差可由下式表示，即

式中Y=g(X)，mY=E[Y]，fX(x)是X的概率密度。特征函數(shù)的定義★隨機(jī)變量的特征函數(shù)隨機(jī)變量X的特征函數(shù)定義為式中fX(x)是X的概率密度，μ為實(shí)數(shù)。由定義可知：1、特征函數(shù)CX(μ)是隨機(jī)變量X的函數(shù)ejμX的數(shù)學(xué)期望；2、隨機(jī)變量X的CX(μ)是概率密度函數(shù)f(x)的傅立葉變換對偶。特征函數(shù)的性質(zhì)★特征函數(shù)的性質(zhì)1、若CX(μ)是隨機(jī)變量X的特征函數(shù)，則Y=CX（C為常數(shù)）的特征函數(shù)為

CY(μ)=CX(Cμ)

2、若Y=aX+b（a,b均為常數(shù)），則

CY(μ)=ejbμ

CX(aμ)

3、相互獨(dú)立的隨機(jī)變量和的特征函數(shù)等于各變量的特征函數(shù)的乘積。大數(shù)定律的物理意義★大數(shù)定律（切比雪夫定理）設(shè)相互獨(dú)立的隨機(jī)變量X1，X2，…，Xn有數(shù)學(xué)期望和方差，并且方差是一致有上界的，則X1,X2,…,Xn的算術(shù)平均值，當(dāng)n→∞時(shí)，按概率收斂于它們的數(shù)學(xué)期望的算術(shù)平均值。作為特例，有如下推論：設(shè)相互獨(dú)立的隨機(jī)變量X1，X2，…，Xn服從同一分布，并且有數(shù)學(xué)期望a和方差σ2，則X1,X2,…,Xn的算術(shù)平均值，當(dāng)n→∞時(shí)，按概率收斂于數(shù)學(xué)期望a。大數(shù)定律的物理意義★大數(shù)定律的物理意義設(shè)測量某一物理量a，在條件不變的情況重復(fù)測量n次，這些測量結(jié)果可看作是n個(gè)相互獨(dú)立的隨機(jī)變量X1，X2，…，Xn的試驗(yàn)數(shù)值，并且有同一數(shù)學(xué)期望