隨機(jī)過程基本概念

隨機(jī)過程基本概念第一頁，共三十頁，編輯于2023年，星期二第一章隨機(jī)過程基本概念自然界和現(xiàn)實(shí)生活中發(fā)生的現(xiàn)象一般分為兩類現(xiàn)象，一類為確定性現(xiàn)象，另一類為不確定性現(xiàn)象。何謂確定性現(xiàn)象呢？如果我們向上拋一支粉筆，則該粉筆必然下落；水在100℃必然會(huì)開；同性相斥，異性相吸等等，這類現(xiàn)象稱為確定性現(xiàn)象。大學(xué)一二年級(jí)所學(xué)的微積學(xué)、代數(shù)、議程等主要是研究確定性現(xiàn)象。對(duì)于確定性現(xiàn)象又可稱為必然現(xiàn)象。必然現(xiàn)象的主要特點(diǎn)是條件和結(jié)果之間存在著必然聯(lián)系，即條件具備，某種結(jié)果必然發(fā)生，因此我們可由條件預(yù)測(cè)結(jié)果。第二頁，共三十頁，編輯于2023年，星期二而另一類現(xiàn)象在自然界社會(huì)工程中也是經(jīng)常出現(xiàn)，即不確定性現(xiàn)象，又可稱為隨機(jī)現(xiàn)象，或偶然現(xiàn)象，其特點(diǎn)是條件和結(jié)果之間不存在的必然聯(lián)系，無必然的因果關(guān)系，因此不能用必然條件的方法來加以定量研究。如，在相同條件拋同一枚硬幣，其出現(xiàn)的結(jié)果可能有兩種，正面或反面，但最終結(jié)果到底是正面還是反面不能預(yù)先斷言。又如商店每天的營(yíng)業(yè)額，一天中不同時(shí)刻的氣溫等這些現(xiàn)象都是不確定現(xiàn)象。由于不確定現(xiàn)象不存在因果關(guān)系，是不是它們就沒有規(guī)律可研究呢？事實(shí)上，人們經(jīng)過長(zhǎng)期實(shí)踐研究后發(fā)現(xiàn)，雖然隨機(jī)現(xiàn)象就每一次試驗(yàn)結(jié)果來說具有不確定性，但在相同條件下大量重復(fù)試驗(yàn)其結(jié)果就呈現(xiàn)出某種規(guī)律性，著名的蒲豐試驗(yàn)表明在相同條件下大量重復(fù)拋一枚硬幣出現(xiàn)正面的次數(shù)大致等于出現(xiàn)反面的次數(shù)。第三頁，共三十頁，編輯于2023年，星期二上述事實(shí)表明，隨機(jī)現(xiàn)象從一次試驗(yàn)上看，似乎沒有什么規(guī)律存在，但當(dāng)它們大量出現(xiàn)時(shí)，從總體上講卻呈現(xiàn)出一種總體規(guī)律性，這就是統(tǒng)計(jì)規(guī)律，這種統(tǒng)計(jì)規(guī)律的存在，就是隨機(jī)數(shù)學(xué)的研究基礎(chǔ)。因此今后我們?cè)陔S機(jī)數(shù)學(xué)中，一說“統(tǒng)計(jì)規(guī)律”時(shí)大家就要想到大量重復(fù)的試驗(yàn)。概率統(tǒng)計(jì)隨機(jī)過程就是研究隨機(jī)現(xiàn)象是否具有統(tǒng)計(jì)規(guī)律性的一門數(shù)學(xué)學(xué)科。統(tǒng)計(jì)方法的基本思想是從一組樣本分析、判斷整個(gè)系統(tǒng)的狀態(tài)，或判定某一論斷以多大的概率來保證其正確性，或算出發(fā)生錯(cuò)誤判斷的概率，簡(jiǎn)言之就是“由局部推測(cè)總體”，“由特殊來研究一般”，是歸納法的具體應(yīng)力。第四頁，共三十頁，編輯于2023年，星期二為了研究隨機(jī)現(xiàn)象，下面我們首先需要給出如下幾個(gè)定義解釋：隨機(jī)試驗(yàn)：具有下述三個(gè)特點(diǎn)的試驗(yàn)稱為隨機(jī)試驗(yàn)。①可以在相同的條件下重復(fù)進(jìn)行。②每次試驗(yàn)的可能結(jié)果不止一個(gè)，并且能事先確定試驗(yàn)的所有可能結(jié)果。③每次試驗(yàn)前不能確定哪個(gè)結(jié)果會(huì)出現(xiàn)。隨機(jī)事件：隨機(jī)試驗(yàn)的所有可能出現(xiàn)的結(jié)果。必然事件：隨機(jī)試驗(yàn)中必然發(fā)生的事情。注意：必然事件和不可能事件不是隨機(jī)事件，但為了今后討論，我們把它作一種特殊的隨機(jī)事件。第五頁，共三十頁，編輯于2023年，星期二樣本空間：隨機(jī)試驗(yàn)中所有可能出現(xiàn)的結(jié)果(事件樣本)，組成的集合叫做隨機(jī)試驗(yàn)的樣本空間，記為S。隨機(jī)變量：設(shè)E是隨機(jī)試驗(yàn)，它的樣本空間S={e}，如果對(duì)于每一個(gè)，都有一個(gè)實(shí)數(shù)X(e)與之對(duì)應(yīng)，則X為定義在S上的隨機(jī)變量。有了隨機(jī)變量我們就可以在一定的統(tǒng)計(jì)意義下，定量地用隨機(jī)變量描述隨機(jī)現(xiàn)象的變化規(guī)律，從而達(dá)到認(rèn)識(shí)世界和改造世界的目的。再者，引入了隨機(jī)變量，我們可以利用數(shù)學(xué)分析的方法更好地研究隨機(jī)現(xiàn)象。由此我們可以簡(jiǎn)單的說概率統(tǒng)計(jì)的研究對(duì)象就是研究隨機(jī)世界(空間)中隨機(jī)變量的變化規(guī)律，為此我們自然需要考慮建立隨機(jī)變量的“函數(shù)關(guān)系”，這個(gè)“函數(shù)關(guān)系”在隨機(jī)數(shù)學(xué)中我們一般用隨機(jī)變量的分布函數(shù)、或者分布律及數(shù)字特征等來描述。第六頁，共三十頁，編輯于2023年，星期二§1.1隨機(jī)過程的概念引入

我們知道，在自然界中的變化過程可以廣義地分為兩類。一類為確定性過程，另一類為不確定性過程或隨機(jī)過程。何謂過程呢？通俗講凡和時(shí)間有關(guān)的變化稱為過程。例如真空中的自巾落體運(yùn)動(dòng)，假定初速為零，則有第七頁，共三十頁，編輯于2023年，星期二這個(gè)函數(shù)關(guān)系確定了物體在任意時(shí)刻離開初點(diǎn)的精確位置，存在必然確定的因果關(guān)系，顯然X與時(shí)間t有關(guān)，構(gòu)成一個(gè)過程。這個(gè)過程我們把它稱為確定性過程。另一類過程是沒有確定的變化形式，沒有必然的變化規(guī)律，如商店每天的營(yíng)業(yè)額M，顯然是一個(gè)不確定量即隨機(jī)變量，進(jìn)一步分析知該營(yíng)業(yè)額M還和時(shí)間t有關(guān)，即M(t)，由此M構(gòu)成一個(gè)過程，這里稱這個(gè)過程為隨機(jī)過程；又如傳呼臺(tái)傳呼小組每天接到傳呼的次數(shù)，X顯然不能確定，即為隨機(jī)變量，進(jìn)一步分析知這個(gè)X還和時(shí)間t有關(guān)，即X(t)，所以X(t)也構(gòu)成一個(gè)過程，即隨機(jī)過程；類似地，氣溫、氣壓、商店每天的顧客流量等都構(gòu)成一個(gè)隨機(jī)過程。第八頁，共三十頁，編輯于2023年，星期二下面我通過一個(gè)具體的過程實(shí)例來導(dǎo)出隨機(jī)過程一般的數(shù)學(xué)定義。設(shè)有一電子直流放大器其中U(t)為輸入信號(hào)，K為放大器，也表示對(duì)輸入信號(hào)U(t)的放大倍數(shù)，X(t)為放后的輸出信號(hào)。顯然對(duì)于該放大器，當(dāng)U(t)=0，也就是沒有輸入信號(hào)時(shí)，X(t)應(yīng)為零，但是由于放大器內(nèi)部元件以及外部電磁波等各種干撓的影響，使得當(dāng)U(t)=0時(shí)，輸出U(t)≠0，由此造成所謂的輸出零點(diǎn)漂移。第九頁，共三十頁，編輯于2023年，星期二進(jìn)一步分析發(fā)現(xiàn)這個(gè)輸出零點(diǎn)漂移在相同條件，比如每天的某一時(shí)刻進(jìn)行觀測(cè)，如果我們觀測(cè)是了n天，就可得n條輸出零點(diǎn)漂移曲線，把這些曲作出，如圖1.2所示。圖1.2電子直流放大器的零點(diǎn)漂移第十頁，共三十頁，編輯于2023年，星期二可以發(fā)現(xiàn)這些曲線形態(tài)不一樣，即每條曲線各不相同，不能用統(tǒng)一的確定函數(shù)表示，但它們都是時(shí)間t的函數(shù)即零點(diǎn)漂移構(gòu)成一個(gè)隨機(jī)過程記為X(t)，也可以說這些曲線的全體（時(shí)間函數(shù)的全體）集合就構(gòu)成了一個(gè)零點(diǎn)漂移隨機(jī)過程，即X(t)={x1(t)…,xn(t)…}，其中每一曲線xi(t)又可稱為隨機(jī)過程的樣本曲線函數(shù)（時(shí)間函數(shù)），i=1,2…,n…。顯然，由圖1.2所所示的在一次實(shí)驗(yàn)結(jié)果中，隨機(jī)過程必取一個(gè)樣本函數(shù)，但究竟取哪一個(gè)函數(shù)則在試驗(yàn)前不能確定，但是在大量的重復(fù)實(shí)驗(yàn)中，可知道隨機(jī)過程呈現(xiàn)出統(tǒng)計(jì)規(guī)律性。因此直觀地講，隨機(jī)過程既是時(shí)間t的函數(shù)，也是試驗(yàn)可能結(jié)果e的函數(shù)，記為X(t,e)。第十一頁，共三十頁，編輯于2023年，星期二進(jìn)一步分析可以看出對(duì)于隨機(jī)過程X(t)={x1(t)…}。當(dāng)我們?nèi)《╰=ti時(shí)刻時(shí)有由圖1.2可以看出，取值各不相同，沒有必然的規(guī)律。若把x1(ti),…,xn(ti)看成是隨機(jī)過程X(t)在時(shí)刻ti的各種可能取值，很顯然X(ti)是一個(gè)隨機(jī)變量。第十二頁，共三十頁，編輯于2023年，星期二在地震勘探工作中，我們通過檢波器把混有隨機(jī)干擾的隨時(shí)間變動(dòng)的地層結(jié)構(gòu)信號(hào)記錄下來，如圖1.3所示。圖1.3第十三頁，共三十頁，編輯于2023年，星期二在O點(diǎn)放炮，在A點(diǎn)記錄儀把接收到的混有干擾的地震信號(hào)波記錄下來，我們?cè)谙嗤瑮l件下做了n次記錄，則可得n個(gè)彼此有差異的地震波形（曲線）。如在時(shí)間t0觀察它們的信號(hào)波的值X(t0)是一個(gè)隨機(jī)變量，也就是說，混有隨機(jī)干擾的地層結(jié)構(gòu)信號(hào)波構(gòu)成一個(gè)依賴于時(shí)間t的隨機(jī)過程。定義隨機(jī)過程：設(shè)E是隨機(jī)試驗(yàn)，它的樣本空間是，若對(duì)于每一個(gè)，總有一個(gè)確定的時(shí)間函數(shù)與之對(duì)應(yīng)。這樣對(duì)于所有，就可能得到一族時(shí)間t的函數(shù)，稱為隨機(jī)過程，族中的每一個(gè)函數(shù)稱為這個(gè)隨機(jī)過程的樣本函數(shù)。第十四頁，共三十頁，編輯于2023年，星期二由定義可知，對(duì)于一個(gè)特定的試驗(yàn)結(jié)果，總有一個(gè)確定時(shí)間函數(shù)。該函數(shù)是普通意義下確定的時(shí)間函數(shù)（樣本函數(shù)），又由定義知，當(dāng)取定與e有關(guān)，由于是一個(gè)隨機(jī)變量，如果讓變動(dòng)，，可得一族隨機(jī)變量。因此從這個(gè)意義上講隨機(jī)過程又可看成是依賴于時(shí)間t的一族隨機(jī)變量。由此可給出下面另一種形式的隨機(jī)過程定義。為簡(jiǎn)便起見，省略e，用表示隨機(jī)過程。如是對(duì)于每一給定的都是隨機(jī)變量，則X(t)是一個(gè)隨機(jī)過程?；蛘哒f，隨機(jī)過程是依賴于時(shí)間的一族隨機(jī)變量。隨機(jī)過程的兩種定義本質(zhì)是一致的，一般在理論分析采用第二定義，在實(shí)際應(yīng)用中采用第一定義。第十五頁，共三十頁，編輯于2023年，星期二§1.2隨機(jī)過程的分類

1.按隨機(jī)變量和指標(biāo)集類型分類（1）連續(xù)型隨機(jī)過程：對(duì)于隨機(jī)過程X(t,e)，如果隨機(jī)變量X(e)是連續(xù)變化的，也是連續(xù)變化的，則稱X(t,e)為連續(xù)型隨機(jī)過程。注意這里指標(biāo)集為0≤t＜+∞，or。如正弦波隨機(jī)過程。（2）離散型隨機(jī)過程：對(duì)于隨機(jī)過程，如果取值離散，而t是連續(xù)，則稱為離散型隨機(jī)過程，如電報(bào)信號(hào)過程。也可簡(jiǎn)單地說時(shí)間連續(xù)，狀態(tài)離散。第十六頁，共三十頁，編輯于2023年，星期二（3）連續(xù)型隨序列：對(duì)于隨機(jī)過程，如果連續(xù)，而是離散變化，如或，則稱為連續(xù)型隨機(jī)序列，也就是時(shí)間離散，狀態(tài)連續(xù)。（4）離散型隨機(jī)序列：對(duì)于隨機(jī)過程，如果狀態(tài)離散，時(shí)間t也是離散，則稱為離散型隨機(jī)序列。注意，為了適應(yīng)數(shù)字技術(shù)的需要，對(duì)連續(xù)型隨機(jī)過程進(jìn)行量化、分層，就得離散隨機(jī)序列。如伯努力試驗(yàn)、隨機(jī)游動(dòng)等。第十七頁，共三十頁，編輯于2023年，星期二2.按隨機(jī)過程功能分類

①平穩(wěn)過程；②高斯過程；③馬爾可夫過程；④二階過程；⑤獨(dú)立增量過程；⑥維也納過程；⑦白噪聲過程等。其它過程還很多，如泊松過程、分枝過程、更新過程、生滅過程等。第十八頁，共三十頁，編輯于2023年，星期二§1.3隨機(jī)過程的描述

我們知道概率統(tǒng)計(jì)的研究對(duì)象是隨機(jī)變量的變化規(guī)律，由此我們需要建立隨機(jī)變量的數(shù)學(xué)模型或稱函數(shù)關(guān)系，這里函數(shù)關(guān)系在概率統(tǒng)計(jì)中就叫分布函數(shù)（或稱概率密度函數(shù)）。類似的，隨機(jī)過程也是要研究X(t)的變化規(guī)律，進(jìn)而建立隨機(jī)過程的數(shù)學(xué)模型或函數(shù)關(guān)系，下面我們來分析如何建立所謂隨機(jī)過程的函數(shù)關(guān)系。對(duì)于一個(gè)隨機(jī)過程X(t)，嚴(yán)格地說我們不能在圖上用一條曲線簡(jiǎn)單地表示一個(gè)過程，因?yàn)榘措S機(jī)過程的定義，該隨機(jī)過程可表為：第十九頁，共三十頁，編輯于2023年，星期二為了研究隨機(jī)過程的變化規(guī)律，我們暫且假定隨機(jī)過程可以在圖上用一條曲線來表示，如圖1.4。當(dāng)然這條曲線不能作為具體的樣本函數(shù)，而應(yīng)把它看作全部可能樣本函數(shù)的集合。圖1.4第二十頁，共三十頁，編輯于2023年，星期二現(xiàn)在我們動(dòng)用記錄器來記錄X(t)的變化過程，由于記錄器不可能連續(xù)地記下過程，而只能記下過程X(t)在確定時(shí)刻下的狀態(tài)。前面已講過，在確定的時(shí)刻t上，隨機(jī)過程變成為通常的隨機(jī)變量，于是記錄器在時(shí)刻，就記錄下相應(yīng)的結(jié)果。顯然，當(dāng)記錄器的速度相當(dāng)快時(shí)，即時(shí)間間隔很?。ɑ騨很大）時(shí)，我們可用這n個(gè)隨機(jī)變量的變化來描述隨機(jī)過程的變化規(guī)律。這樣，在一定的近似程度下，我們可以通過研究多維隨機(jī)變量的變化規(guī)律，即分布函數(shù)關(guān)系來代替研究隨機(jī)過程的變化規(guī)律，由此進(jìn)而建立起近似隨機(jī)過程的數(shù)學(xué)模型。第二十一頁，共三十頁，編輯于2023年，星期二定義一維分布函數(shù)：對(duì)于隨機(jī)過程X(t)，當(dāng)取定時(shí)，為隨機(jī)變量，該隨機(jī)變量X(t1)的分布函數(shù)記為則稱為隨機(jī)過程X(t)的一維分布函數(shù)。同隨機(jī)變量一樣，若對(duì)x1的偏導(dǎo)數(shù)存在，則有這里稱為隨機(jī)過程的一維概率密度。第二十二頁，共三十頁，編輯于2023年，星期二例1.1求隨機(jī)過程的一維概率密度函數(shù)，式中是常數(shù)，x是一個(gè)服從標(biāo)準(zhǔn)正態(tài)分布的隨機(jī)變量。解對(duì)于任意取定時(shí)間是一個(gè)隨機(jī)變量，由隨機(jī)過程的一維分布函數(shù)及一維概率密度函數(shù)定義知又∵第二十三頁，共三十頁，編輯于2023年，星期二注意，的二元函數(shù)，又可稱為是時(shí)刻的狀態(tài)第二十四頁，共三十頁，編輯于2023年，星期二結(jié)合概率統(tǒng)計(jì)知識(shí)，顯然隨機(jī)過程X(t)的一維分布函數(shù)、一維概率密度具有普遍隨機(jī)變量分布函數(shù)和概率密度函數(shù)的各種性質(zhì)。惟一的差別是隨機(jī)過程的一維分布函數(shù)和一維密度都是時(shí)間t的函數(shù)，即是一個(gè)動(dòng)態(tài)的分布函數(shù)和概率密度。由上面的分布知隨機(jī)過程的一維分布函數(shù)僅僅描述了隨機(jī)過程X(t)在t=(t1)時(shí)刻所對(duì)應(yīng)的一個(gè)狀態(tài)X(t1)的變化規(guī)律。顯然此時(shí)由隨機(jī)過程的一維分布函數(shù)來近似描述X(t)的變化規(guī)律，其數(shù)學(xué)模型誤差太大。為了比較全面地描述隨機(jī)過程X(t)的變化規(guī)律，我們引入隨機(jī)過程的二維分布函數(shù)。第二十五頁，共三十頁，編輯于2023年，星期二定義隨機(jī)過程的二維分布函數(shù)：對(duì)于隨機(jī)過程X(t)在任意兩個(gè)時(shí)刻兩個(gè)隨機(jī)變量（兩個(gè)狀態(tài)），我們把這兩個(gè)隨機(jī)變量的二維分布函數(shù)記為：稱為隨機(jī)函數(shù)過程X(t)的二維分布函數(shù)。若對(duì)的二階偏異數(shù)存在，則有稱之為隨機(jī)過程X(t)的二維概率密度。第二十六頁，共三十頁，編輯于2023年，星期二隨機(jī)過程的二維分布函數(shù)比一維分布函數(shù)包含了隨機(jī)過程變化規(guī)律更多的信息，但它仍不能完整地反映出隨機(jī)過程的全部特性及變化規(guī)律。用同