隨機(jī)變量矢量和序列

隨機(jī)變量矢量和序列1第1頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月主要內(nèi)容隨機(jī)變量統(tǒng)計(jì)值常用分布隨機(jī)矢量隨機(jī)矢量的線(xiàn)性變換正態(tài)隨機(jī)矢量獨(dú)立隨機(jī)變量和離散隨機(jī)過(guò)程第2頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)變量定義3.1隨機(jī)變量x(ξ)是一個(gè)映射，這個(gè)映射為每個(gè)來(lái)自抽象概率空間的結(jié)果ξ賦予一個(gè)實(shí)數(shù)x。該映射滿(mǎn)足的如下條件：(1)對(duì)于任一x，區(qū)間{x(ξ)≤x}為概率空間中的一個(gè)事件(2)Pr{x(ξ)=∞}=0,且Pr{x(ξ)=－∞}=0第3頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)變量隨機(jī)變量映射示意圖抽象空間S實(shí)數(shù)空間R隨機(jī)變量x(ξ)ξ1x(ξ1)ξ2x(ξ2)ξ3x(ξ3)ξ4x(ξ4)第4頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月分布密度與密度函數(shù)分布函數(shù)(Cummulativedistributionfunction,cdf)概率密度函數(shù)(probabilitydensityfunction,pdf)第5頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月分布密度與密度函數(shù)對(duì)于離散的隨機(jī)變量，采用概率質(zhì)量函數(shù)(probabilitymassfunction,pmf)概率函數(shù)滿(mǎn)足：第6頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月統(tǒng)計(jì)值數(shù)學(xué)期望數(shù)學(xué)期望具有線(xiàn)性特征第7頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月統(tǒng)計(jì)值矩(moments)特殊情況第8頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月統(tǒng)計(jì)值中心矩特殊情況第9頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月統(tǒng)計(jì)值方差與矩的關(guān)系:方差主要表征隨機(jī)變量圍繞中心值的分布（或散布）程度的度量?jī)A斜度(skewness)：表明隨機(jī)變量與中心分布的不對(duì)稱(chēng)程度。向右傾斜，其值為正，向左則其值為負(fù)。第10頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月統(tǒng)計(jì)值峰度(kurtosis)：表明隨機(jī)變量在均值附近的相對(duì)平坦程度或峰值程度。相對(duì)于正態(tài)分布而言，正態(tài)分布的峰度值為0，比正態(tài)分布陡峭，則峰度值大于0，否則小于0。第11頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月均值、方差、傾斜度和峰度示意fx1(x)μ1fx2(x)μ2數(shù)學(xué)期望fx1(x)fx2(x)方差σ1σ2fx1(x)fx2(x)傾斜度負(fù)正fx1(x)fx2(x)峰度負(fù)正第12頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月切比雪夫(Chebyshev)不等式隨機(jī)變量偏離其平均值k倍標(biāo)準(zhǔn)偏差的概率，小于或等于1/k2,與概率密度函數(shù)的具體形式無(wú)關(guān)：第13頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月特征函數(shù)定義采用s代替將上式的jξ，得到矩的生成函數(shù)在s=0處按泰勒級(jí)數(shù)展開(kāi)，假設(shè)各階矩存在第14頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月特征函數(shù)從上式可知，只要隨機(jī)變量的所以矩都已知（且存在），那么可以求出生成函數(shù)，然后進(jìn)行拉普拉斯反變換就可以確定密度函數(shù)通過(guò)生成函數(shù)對(duì)s的微分可以求出矩第15頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月累積量累積量生成函數(shù)是矩的生成函數(shù)的自然對(duì)數(shù)用jξ代替s得到第二特征函數(shù)累積量為累積量生成函數(shù)的導(dǎo)數(shù)第16頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月累積量零均值隨機(jī)變量的前5個(gè)累積量為第17頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月常用分布——均勻分布概率密度函數(shù)pdf累積分布函數(shù)cdfabfx(x)x第18頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月常用分布——均勻分布特征函數(shù)均值與方差abfx(x)x第19頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月常用分布——正態(tài)分布概率密度函數(shù)pdf特征函數(shù)正態(tài)分布完全由均值和均方差決定，可表示為μxfx(x)x第20頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月常用分布——正態(tài)分布正態(tài)分布的所有高階矩可用前兩個(gè)矩來(lái)表示，換言之正態(tài)分布高于2階的矩并不能提供額外的信息。四階中心矩為第21頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月常用分布——柯西分布概率密度函數(shù)pdf累積分布函數(shù)cdf柯西分布的均值為μ。但偏差、矩等不存在第22頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月MATLAB隨機(jī)函數(shù)采用rand函數(shù)模擬0～1均勻分布采用randn函數(shù)模擬高斯分布第23頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月MATLAB隨機(jī)函數(shù)x=-3.8:0.1:3.8;%隨機(jī)高斯密度y1=randn(1,30000);z1=hist(y1,x)/(30000*0.1);bar(x,z1),xlabel('bar')%標(biāo)準(zhǔn)高斯密度y2=1/sqrt(2*pi)*exp(-x.^2/2);holdon,plot(x,y2);holdoff%均勻分布y3=rand(1,30000);z3=hist(y3,x)/(30000*0.1);figure,bar(x,z3),xlabel('bar');第24頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量M維隨機(jī)矢量分布函數(shù)和密度函數(shù)第25頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量邊緣分布隨機(jī)變量獨(dú)立，則有第26頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量均值矢量自相關(guān)矩陣第27頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量隨機(jī)矢量的協(xié)方差矩陣（二階矩）協(xié)方差矩陣元素相關(guān)系數(shù)隨機(jī)變量獨(dú)立、正交，則第28頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量隨機(jī)xi(ξ)、xj(ξ)不相關(guān)，則隨機(jī)xi(ξ)、xj(ξ)正交，則第29頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量設(shè)x(ξ)、y(ξ)分別是M和L維隨機(jī)矢量，則這兩個(gè)隨機(jī)矢量的互相關(guān)矩陣為交叉協(xié)方差矩陣第30頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量若x(ξ)、y(ξ)不相關(guān)，則若x(ξ)、y(ξ)正交，則第31頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量的線(xiàn)性變換隨機(jī)矢量x(ξ)、y(ξ)存在如下關(guān)系fx(x)為x(ξ)的概率密度,y(ξ)的概率密度為第32頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月隨機(jī)矢量的線(xiàn)性變換隨機(jī)矢量x(ξ)、y(ξ)的統(tǒng)計(jì)量關(guān)系第33頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月正態(tài)隨機(jī)矢量x(ξ)是M維的正態(tài)隨機(jī)矢量，則正定二次型為特征函數(shù)為第34頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和y(ξ)是M個(gè)隨機(jī)變量的和，即y(ξ)的均值為第35頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和應(yīng)用獨(dú)立性質(zhì)，則y(ξ)的方差怎么求y(ξ)的概率密度函數(shù)pdf？第36頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和先來(lái)看兩個(gè)特殊的情況：情況一：對(duì)應(yīng)的特征函數(shù)為：第37頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和對(duì)應(yīng)的特征函數(shù)為：根據(jù)傅立葉卷積性質(zhì)，則概率密度為第38頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和對(duì)應(yīng)的第二特征函數(shù)為：m階累積量為第39頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和例3.2.1設(shè)xk(ξ)(k=1,2,3,4)是4個(gè)獨(dú)立、具有相同分布的隨機(jī)變量，在[-0.5,0.5]上均勻分布。試計(jì)算M=2,3,4時(shí)，y(ξ)的概率密度函數(shù)第40頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和f(x)為隨機(jī)變量xk(ξ)的概率密度函數(shù)，則當(dāng)M=2時(shí)，y(ξ)的概率密度函數(shù)為第41頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和當(dāng)M=3時(shí)，y(ξ)的概率密度函數(shù)為第42頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和當(dāng)M=4時(shí)，y(ξ)的概率密度函數(shù)為第43頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月當(dāng)M=1，2，3，4時(shí)，y(ξ)的概率密度函數(shù)圖形M=1-0.50.5M=2-11M=3-1.51.5M=3-220.75110.67第44頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和情況二：對(duì)應(yīng)的特征函數(shù)為：第45頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和根據(jù)傅立葉卷積性質(zhì)，則概率密度為第46頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和對(duì)應(yīng)的第二特征函數(shù)為：m階累積量為第47頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和綜合上述兩種情況的特征函數(shù)為m階累積量為第48頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和所以的概率密度函數(shù)為第49頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和根據(jù)卷積的性質(zhì)，獨(dú)立、分布相同的隨機(jī)變量的和仍然保持為原有的分布有：（1）有限方差：高斯隨機(jī)變量（2）無(wú)限方差：柯西隨機(jī)變量從上述例子可以看出，高斯與柯西分布都具有不變性。第50頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月獨(dú)立隨機(jī)變量和這種不變性的隨機(jī)變量具有相同的特征函數(shù)形式：

從不變性，我們引出“穩(wěn)定分布”概念。第51頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月穩(wěn)定分布定義：x1(ξ),x2(ξ),…,xM(ξ)為獨(dú)立、相同分布的隨機(jī)變量，分布函數(shù)為Fx(x),sM(ξ)=x1(ξ)+x2(ξ)+…+xM(ξ)。如果對(duì)于每一個(gè)M，存在常數(shù)aM>0,且有bM使得下式成立并且Fx(x)不是集中在一個(gè)點(diǎn)上。當(dāng)bM=0時(shí)，我們稱(chēng)為嚴(yán)格穩(wěn)定。第52頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月穩(wěn)定分布可以證明，對(duì)任何穩(wěn)定的隨機(jī)變量x

(ξ),存在一個(gè)常數(shù)α（0<α≤2），使得aM=M1/α。其中α稱(chēng)為穩(wěn)定性指標(biāo)或特征指數(shù)?？梢苑Q(chēng)該隨機(jī)變量α穩(wěn)定。第53頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月穩(wěn)定分布中心極限定理(CLT)若隨機(jī)x1(ξ),x2(ξ),…,xM(ξ):(a)相互獨(dú)立,(b)

具有相同的分布,(c)各隨機(jī)變量的均值與方差都存在且有限；那么當(dāng)M→∞時(shí)，歸一化的隨機(jī)變量和的分布就趨于一個(gè)零均值、單位標(biāo)準(zhǔn)偏差的正態(tài)隨機(jī)分布。其中，歸一化的隨機(jī)變量和為：第54頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月例子M=1-0.50.5M=2-11M=3-1.51.5M=3-220.75110.67第55頁(yè)，課件共57頁(yè)，創(chuàng)作于2023年2月離散時(shí)間隨機(jī)過(guò)程存在一個(gè)隨機(jī)變量序列x

(n,ξ),n為離散時(shí)間，ξ為隨機(jī)變量。如果n固定，則可以把x

(n,ξ)視為一個(gè)隨機(jī)變量。如果ξ固定，則可以把