第一章隨機(jī)過(guò)程

第一章隨機(jī)過(guò)程課件第1頁(yè)，共98頁(yè)，2023年，2月20日，星期三參考書：1.應(yīng)用隨機(jī)過(guò)程，林元烈編著，清華大學(xué)出版社；2.隨機(jī)系統(tǒng)分析引論，盛昭瀚，東南大學(xué)出版社；3.隨機(jī)過(guò)程，伊曼紐爾、帕爾遜著，鄧永錄、楊振業(yè)譯，高等教育出版社；4.隨機(jī)過(guò)程，SheldonM[1].Ross著。第2頁(yè)，共98頁(yè)，2023年，2月20日，星期三第一章預(yù)備知識(shí)簡(jiǎn)要回顧一下概率論中與本課程有關(guān)的基本概念：隨機(jī)試驗(yàn)、樣本空間、事件、概率、隨機(jī)變量、概率分布、數(shù)字特征等。第3頁(yè)，共98頁(yè)，2023年，2月20日，星期三一、基本概念試驗(yàn)結(jié)果事先不能準(zhǔn)確預(yù)言，三個(gè)特征:可以在相同條件下重復(fù)進(jìn)行；每次試驗(yàn)結(jié)果不止一個(gè)，可預(yù)先知道試驗(yàn)所有可能結(jié)果；每次試驗(yàn)前不能確定那個(gè)結(jié)果會(huì)出現(xiàn)。樣本空間隨機(jī)試驗(yàn)所有可能結(jié)果組成的集合，記為Ω隨機(jī)事件樣本空間Ω的子集A稱為隨機(jī)事件，用A、B、C表示§1.1概率空間隨機(jī)試驗(yàn)第4頁(yè)，共98頁(yè)，2023年，2月20日，星期三注：由于事件是集合，故集合的運(yùn)算（并、交、差、上極限、下極限、極限等）都適用于事件。稱為必然事件，W樣本空間也是一個(gè)事件，W空集稱為不可能事件。F注：所謂某個(gè)事件在試驗(yàn)中是否出現(xiàn)，當(dāng)且僅當(dāng)該事件所包含的某個(gè)樣本點(diǎn)是否出現(xiàn)，因此一個(gè)事件實(shí)際上對(duì)應(yīng)于的一個(gè)確定的子集。事件的概率論運(yùn)算Ω子集的集合論運(yùn)算。第5頁(yè)，共98頁(yè)，2023年，2月20日，星期三

在實(shí)際問(wèn)題中，并不是對(duì)所有的事件樣本空間（Ω的所有子集）都感興趣，而是關(guān)心某些事件（Ω的某些子集）及其發(fā)生的可能性大?。ǜ怕剩?。為了數(shù)學(xué)上處理方便，我們常要求這些子集組成的類具有一些基本性質(zhì)（即對(duì)事件需加一些約束）

代數(shù)（事件族）二、第6頁(yè)，共98頁(yè)，2023年，2月20日，星期三定義1.1設(shè)樣本空間的某些子集構(gòu)成的集合記為F，如果F滿足下列性質(zhì)：F中的元素稱為事件。則稱F為代數(shù)（Bord事件域），稱為可測(cè)空間第7頁(yè)，共98頁(yè)，2023年，2月20日，星期三例如，包含A的最大的代數(shù)是的一切子集組成的集類對(duì)于某個(gè)事件A包含它的代數(shù)不是唯一的而包含A的最小的代數(shù)則是：注：F（Ω）表示由Ω的子集全體構(gòu)成的集合類，顯然滿足上述定義的（1）~（3），但這個(gè)族常常顯得太大以致對(duì)于某些樣本空間而言不可以在這樣的族上定義滿足三條公理的概率函數(shù)。為了建立概率的數(shù)學(xué)理論通常只需把事件族取為具有定義（１）～（３）中并包含了我們感興趣的所有集合的的最小子集族。第8頁(yè)，共98頁(yè)，2023年，2月20日，星期三三、概率的公理化定義為了完成隨機(jī)現(xiàn)象的數(shù)學(xué)描述，還要規(guī)定隨機(jī)事件族Ｆ上的概率函數(shù)即對(duì)Ｆ中的每個(gè)事件Ａ要定義一個(gè)稱作為的概率的數(shù)，作為事件A的函數(shù)必須假定滿足三條公理。非負(fù)性；規(guī)范性；兩兩互不相容，即有則稱P為（Ω，F(xiàn)）上的概率，（Ω，F(xiàn)，P）稱為概率空間，P（A）為事件A的概率。定義1.2：設(shè)（Ω，P）是可測(cè)空間是定義在F上的實(shí)值函數(shù)，如果滿足第9頁(yè)，共98頁(yè)，2023年，2月20日，星期三由此定義出發(fā)，可推出概率的其它一些性質(zhì)：即概率具有單調(diào)性；新事件：連續(xù)性定理第10頁(yè)，共98頁(yè)，2023年，2月20日，星期三條件概率在事件B已發(fā)生這一條件下，事件A發(fā)生的概率。全概率公式若有N個(gè)互斥事件Bn（n=1,2,…,N），它的并集等于整個(gè)樣本空間，則四、幾個(gè)重要公式加法公式第11頁(yè)，共98頁(yè)，2023年，2月20日，星期三設(shè)事件A1，A2，…，An構(gòu)成一個(gè)完備事件組，概率P(Ai)>0,i=1,2,……,n,對(duì)于任何一個(gè)事件B，若P(B)>0,有貝葉斯公式獨(dú)立事件第12頁(yè)，共98頁(yè)，2023年，2月20日，星期三§1.2隨機(jī)變量及其分布一、一維隨機(jī)變量及其分布函數(shù)由于數(shù)學(xué)分析不能直接利用來(lái)研究集合函數(shù)，這樣影響對(duì)隨機(jī)現(xiàn)象的研究。解決這個(gè)問(wèn)題的方法，主要是設(shè)法在集合函數(shù)與數(shù)學(xué)分析中所研究的點(diǎn)函數(shù)間建立某種聯(lián)系，從而能用數(shù)學(xué)分析去研究隨機(jī)現(xiàn)象。第13頁(yè)，共98頁(yè)，2023年，2月20日，星期三X(e)就是一個(gè)函數(shù)，它把樣本點(diǎn)映射到實(shí)數(shù)軸上，隨機(jī)變量就是從原樣本空間Ω到新樣本空間的一種映射，我們通常把這樣一種對(duì)應(yīng)關(guān)系稱之為在概率空間上的一個(gè)隨機(jī)變量。下面我們給出隨機(jī)變量的數(shù)學(xué)定義。定義1.4：設(shè)（Ω，F(xiàn)，P）是概率空間，X=X(e)是定義在Ω上的實(shí)函數(shù)，如果對(duì)任意實(shí)數(shù)x，{e:X(e)≤x}∈F，則稱X(e)是F上的隨機(jī)變量。第14頁(yè)，共98頁(yè)，2023年，2月20日，星期三事件隨機(jī)變量離散型隨機(jī)變量：只取有限個(gè)數(shù)值或可列無(wú)窮多個(gè)值。連續(xù)型隨機(jī)變量：從原樣本空間到新樣本空間的映射是某一個(gè)范圍，是一段（或幾段）實(shí)線（也可能是整個(gè)坐標(biāo)軸），隨機(jī)變量可以取值于某一區(qū)間中的任一數(shù)。第15頁(yè)，共98頁(yè)，2023年，2月20日，星期三分布函數(shù)（一個(gè)描述隨機(jī)變量取值的概率分布情況的統(tǒng)一方法）第16頁(yè)，共98頁(yè)，2023年，2月20日，星期三離散型隨機(jī)變量X的概率分布用分布律描述：第17頁(yè)，共98頁(yè)，2023年，2月20日，星期三離散型隨機(jī)變量的概率分布用分布列描述0－1分布二項(xiàng)分布泊松分布連續(xù)型隨機(jī)變量的概率分布用概率密度描述均勻分布正態(tài)分布指數(shù)分布第18頁(yè)，共98頁(yè)，2023年，2月20日，星期三隨機(jī)變量函數(shù)的分布在給定某任意的隨機(jī)變量X，以及它的概率分布函數(shù)FX(x)，希望進(jìn)一步求出給定的隨機(jī)變量的某些可測(cè)函數(shù)（如Y=g(X)）的概率分布函數(shù)。非線性放大器YXY的概率分布函數(shù)公式為如果上式右端概率的導(dǎo)數(shù)對(duì)于y處處存在，那么這個(gè)導(dǎo)數(shù)就給出了隨機(jī)變量Y的概率密度第19頁(yè)，共98頁(yè)，2023年，2月20日，星期三二、n維隨機(jī)變量及其分布函數(shù)定義1.5設(shè)（Ω，F(xiàn)，P）是概率空間，X=X(e)＝（X1(e),…,Xn(e)）是定義在Ω上的n維空間Rn中取值的向量函數(shù)。如果對(duì)于任意x=(x1,…,xn)∈Rn，{e:X1(e)≤x1,…,Xn(e)≤xn}∈F，則稱X=X(e)為n維隨機(jī)變量。稱為X=(X1,X2,…,Xn)的聯(lián)合分布函數(shù)第20頁(yè)，共98頁(yè)，2023年，2月20日，星期三第21頁(yè)，共98頁(yè)，2023年，2月20日，星期三三、邊緣分布若二維聯(lián)合分布函數(shù)中有一個(gè)變?cè)呌跓o(wú)窮，則其極限函數(shù)便是一維分布函數(shù)，對(duì)于這種特殊性質(zhì)，我們稱其為邊緣分布。對(duì)于任意兩個(gè)隨機(jī)變量X,Y，其聯(lián)合分布函數(shù)為：則：分別稱FX(x)和FY(y)為關(guān)于X和關(guān)于Y的邊緣分布函數(shù)。第22頁(yè)，共98頁(yè)，2023年，2月20日，星期三離散型隨機(jī)變量（X，Y）邊緣分布律計(jì)算如下連續(xù)型隨機(jī)變量（X，Y）邊緣概率密度計(jì)算如下第23頁(yè)，共98頁(yè)，2023年，2月20日，星期三相互獨(dú)立的隨機(jī)變量設(shè)X，Y是兩個(gè)隨機(jī)變量，若對(duì)任意實(shí)數(shù)x，y有則稱X，Y為相互獨(dú)立的隨機(jī)變量。若X，Y為相互獨(dú)立隨機(jī)變量，則有聯(lián)合密度邊緣密度邊緣密度聯(lián)合密度第24頁(yè)，共98頁(yè)，2023年，2月20日，星期三四、條件分布條件概率條件分布函數(shù)兩邊對(duì)x微分第25頁(yè)，共98頁(yè)，2023年，2月20日，星期三§1.3隨機(jī)變量的數(shù)字特征隨機(jī)變量的數(shù)學(xué)期望隨機(jī)變量函數(shù)的期望值方差協(xié)方差相關(guān)系數(shù)獨(dú)立與不相關(guān)第26頁(yè)，共98頁(yè)，2023年，2月20日，星期三一、斯蒂爾吉斯積分（補(bǔ)充）1.有限區(qū)間上的斯蒂爾吉斯積分第27頁(yè)，共98頁(yè)，2023年，2月20日，星期三第28頁(yè)，共98頁(yè)，2023年，2月20日，星期三2.無(wú)限區(qū)間上的S積分第29頁(yè)，共98頁(yè)，2023年，2月20日，星期三第30頁(yè)，共98頁(yè)，2023年，2月20日，星期三左邊的積分稱為斯蒂吉斯積分二、數(shù)學(xué)期望第31頁(yè)，共98頁(yè)，2023年，2月20日，星期三隨機(jī)變量函數(shù)的期望值已知隨機(jī)變量X的數(shù)學(xué)期望值，求隨機(jī)變量函數(shù)Y=g(X)的數(shù)學(xué)期望，對(duì)于多維隨機(jī)變量第32頁(yè)，共98頁(yè)，2023年，2月20日，星期三設(shè)X1,X2,…,Xn為隨機(jī)變量，求隨機(jī)變量函數(shù)Y=a1X1+a2X2+…+anXn的數(shù)學(xué)期望。已知隨機(jī)變量X1和X2，求隨機(jī)變量函數(shù)Y＝aX1+bX2的數(shù)學(xué)期望第33頁(yè)，共98頁(yè)，2023年，2月20日，星期三加權(quán)和的期望等于加權(quán)期望的和求數(shù)學(xué)期望是線性運(yùn)算數(shù)學(xué)期望的線性運(yùn)算不受獨(dú)立條件限制已知隨機(jī)變量X1和X2，求隨機(jī)變量函數(shù)Y＝g1(X1)g2(X2)的數(shù)學(xué)期望第34頁(yè)，共98頁(yè)，2023年，2月20日，星期三假設(shè)兩個(gè)隨機(jī)變量X1和X2相互獨(dú)立，則有因此，有第35頁(yè)，共98頁(yè)，2023年，2月20日，星期三三、方差（隨機(jī)變量取值的離散程度）第36頁(yè)，共98頁(yè)，2023年，2月20日，星期三四、協(xié)差與相關(guān)系數(shù)引入一個(gè)描述兩個(gè)隨機(jī)變量相關(guān)程度的系數(shù)ρXY稱為歸一化的協(xié)方差系數(shù)或相關(guān)系數(shù)。若ρXY＝0，則稱隨機(jī)變量X和Y不相關(guān)。第37頁(yè)，共98頁(yè)，2023年，2月20日，星期三五、K階原點(diǎn)矩、k階中心矩隨機(jī)變量X，若E[|X|k]<∞，稱E[Xk]為k階原點(diǎn)矩。離散隨機(jī)變量連續(xù)隨機(jī)變量又若E[X]存在，且E[|X-E[X]|k]<∞，稱為X的k階中心矩。離散隨機(jī)變量連續(xù)隨機(jī)變量第38頁(yè)，共98頁(yè)，2023年，2月20日，星期三一階原點(diǎn)矩就是隨機(jī)變量的數(shù)學(xué)期望，數(shù)學(xué)期望大致的描述了概率分布的中心。二階中心矩就是隨機(jī)變量的方差，方差反映隨機(jī)變量取值的離散程度。0－1分布泊松分布正態(tài)分布數(shù)學(xué)期望和方差（見表1－1）第39頁(yè)，共98頁(yè)，2023年，2月20日，星期三中心化的兩個(gè)隨機(jī)變量X-E[X]，Y-E[Y]的互相關(guān)矩稱為隨機(jī)變量X和Y的協(xié)方差，協(xié)方差是描述隨機(jī)現(xiàn)象中，隨機(jī)變量X和Y概率相關(guān)的程度。第40頁(yè)，共98頁(yè)，2023年，2月20日，星期三統(tǒng)計(jì)獨(dú)立不相關(guān)統(tǒng)計(jì)獨(dú)立不相關(guān)設(shè)Z是一個(gè)隨機(jī)變量，具有均勻概率密度令X=sinZ，Y=cosZ，求隨機(jī)變量X和Y是否相關(guān)，是否獨(dú)立？第41頁(yè)，共98頁(yè)，2023年，2月20日，星期三§1.4特征函數(shù)、母函數(shù)數(shù)學(xué)特征只反映了概率分布的某些側(cè)面，一般并不能通過(guò)它們來(lái)確定分布函數(shù)，這里將要引進(jìn)的特征函數(shù)，既能完全決定分布函數(shù)而又具有良好的分析性質(zhì)。一、復(fù)隨機(jī)變量對(duì)復(fù)隨機(jī)變量也可以平行于實(shí)隨機(jī)變量建立起一系列結(jié)果。第42頁(yè)，共98頁(yè)，2023年，2月20日，星期三二、特征函數(shù)第43頁(yè)，共98頁(yè)，2023年，2月20日，星期三對(duì)離散型隨機(jī)變量，若其分布律為第44頁(yè)，共98頁(yè)，2023年，2月20日，星期三三、特征函數(shù)的性質(zhì)第45頁(yè)，共98頁(yè)，2023年，2月20日，星期三第46頁(yè)，共98頁(yè)，2023年，2月20日，星期三因而可作下理積分號(hào)下的微分第47頁(yè)，共98頁(yè)，2023年，2月20日，星期三此性質(zhì)使我們可以方便地求得隨機(jī)變量的各階矩第48頁(yè)，共98頁(yè)，2023年，2月20日，星期三第49頁(yè)，共98頁(yè)，2023年，2月20日，星期三（7）特征函數(shù)與分布函數(shù)是相互唯一確定的證略第50頁(yè)，共98頁(yè)，2023年，2月20日，星期三唯一性定理：分布函數(shù)由其特征函數(shù)唯一決定而分布函數(shù)由其連續(xù)點(diǎn)上的值唯一決定不連續(xù)點(diǎn)利用右連續(xù)性第51頁(yè)，共98頁(yè)，2023年，2月20日，星期三即在特征函數(shù)絕對(duì)可積的條件下，概率密度與特征函數(shù)構(gòu)成一對(duì)付氏變換。第52頁(yè)，共98頁(yè)，2023年，2月20日，星期三因此用控制收斂定理知（極限號(hào)與積分號(hào)交換的勒貝格控制收斂定理）第53頁(yè)，共98頁(yè)，2023年，2月20日，星期三第54頁(yè)，共98頁(yè)，2023年，2月20日，星期三四、多元特征函數(shù)第55頁(yè)，共98頁(yè)，2023年，2月20日，星期三第56頁(yè)，共98頁(yè)，2023年，2月20日，星期三第57頁(yè)，共98頁(yè)，2023年，2月20日，星期三第58頁(yè)，共98頁(yè)，2023年，2月20日，星期三第59頁(yè)，共98頁(yè)，2023年，2月20日，星期三第60頁(yè)，共98頁(yè)，2023年，2月20日，星期三第61頁(yè)，共98頁(yè)，2023年，2月20日，星期三第62頁(yè)，共98頁(yè)，2023年，2月20日，星期三第63頁(yè)，共98頁(yè)，2023年，2月20日，星期三第64頁(yè)，共98頁(yè)，2023年，2月20日，星期三利用特征函數(shù)與分布一一對(duì)應(yīng)的唯一性得第65頁(yè)，共98頁(yè)，2023年，2月20日，星期三注：求隨機(jī)變量的特征函數(shù)的方法（3）用Fourier變換去求解。（1）一般定義求解；（2）對(duì)一些特殊分布可化為微分方程求解；（4）利用特征函數(shù)求多個(gè)獨(dú)立隨機(jī)變量和的分布。要求：（1）會(huì)求一些常用的隨機(jī)變量的特征函數(shù)；（2）記住一些重要分布的特征函數(shù)，如正態(tài)分布；（3）利用特征函數(shù)求相應(yīng)隨機(jī)變量的各階矩；第66頁(yè)，共98頁(yè)，2023年，2月20日，星期三五、母函數(shù)對(duì)于整值隨機(jī)變量，有一種處理方法很便于應(yīng)用，這就是母函數(shù)法。第67頁(yè)，共98頁(yè)，2023年，2月20日，星期三第68頁(yè)，共98頁(yè)，2023年，2月20日，星期三例、求二項(xiàng)分布、泊松分布、幾何分布的母函數(shù)第69頁(yè)，共98頁(yè)，2023年，2月20日，星期三（1）唯一性，非負(fù)整數(shù)值隨機(jī)變量的分布列由其母函數(shù)唯一確定六、母函數(shù)的性質(zhì)第70頁(yè)，共98頁(yè)，2023年，2月20日，星期三第71頁(yè)，共98頁(yè)，2023年，2月20日，星期三第72頁(yè)，共98頁(yè)，2023年，2月20日，星期三3、獨(dú)立隨機(jī)變量之和的母函數(shù)等于母函數(shù)之積第73頁(yè)，共98頁(yè)，2023年，2月20日，星期三第74頁(yè)，共98頁(yè)，2023年，2月20日，星期三(4)隨機(jī)個(gè)隨機(jī)變量之和的母函數(shù)第75頁(yè)，共98頁(yè)，2023年，2月20日，星期三第76頁(yè)，共98頁(yè)，2023年，2月20日，星期三第77頁(yè)，共98頁(yè)，2023年，2月20日，星期三一、密度函數(shù)與特征函數(shù)第78頁(yè)，共98頁(yè)，2023年，2月20日，星期三第79頁(yè)，共98頁(yè)，2023年，2月20