隨機(jī)變量與隨機(jī)過程模擬

1、隨機(jī)變量與隨機(jī)過程模擬隨機(jī)變量與隨機(jī)過程模擬主要內(nèi)容主要內(nèi)容解解析析法法隨機(jī)現(xiàn)象隨機(jī)現(xiàn)象隨機(jī)事件隨機(jī)事件隨機(jī)變量分布函數(shù)隨機(jī)變量分布函數(shù)狀態(tài)描述？狀態(tài)描述？如何求解？如何求解？數(shù)值計(jì)算數(shù)值計(jì)算邏輯判斷邏輯判斷物理物理實(shí)驗(yàn)實(shí)驗(yàn)法法隨機(jī)事件概率的計(jì)算隨機(jī)事件概率的計(jì)算隨機(jī)變量分布函數(shù)的求得隨機(jī)變量分布函數(shù)的求得數(shù)量化數(shù)量化邏輯性邏輯性計(jì)算機(jī)模擬方法計(jì)算機(jī)模擬方法（統(tǒng)計(jì)實(shí)驗(yàn)法）（統(tǒng)計(jì)實(shí)驗(yàn)法）統(tǒng)計(jì)實(shí)驗(yàn)法求解隨機(jī)性模型有關(guān)問題基本思想：統(tǒng)計(jì)實(shí)驗(yàn)法求解隨機(jī)性模型有關(guān)問題基本思想： 如何取得我們關(guān)心的事件如何取得我們關(guān)心的事件A或隨機(jī)變量或隨機(jī)變量X的一的一列樣本。列樣本。步驟主要有：步驟主要有：構(gòu)造便于模

2、擬的概率模型：構(gòu)造便于模擬的概率模型： 根據(jù)問題需要引入一些分布可以確定的與根據(jù)問題需要引入一些分布可以確定的與X有關(guān)的有關(guān)的隨機(jī)變量；隨機(jī)變量； 通過數(shù)值計(jì)算與邏輯判斷表述這些隨機(jī)變量與通過數(shù)值計(jì)算與邏輯判斷表述這些隨機(jī)變量與X之之間的關(guān)系；間的關(guān)系；用計(jì)算機(jī)產(chǎn)生給定分布隨機(jī)變量的一列樣本值；用計(jì)算機(jī)產(chǎn)生給定分布隨機(jī)變量的一列樣本值；1. 根據(jù)模擬模型的特性對(duì)這些樣本值進(jìn)行處理，從而獲根據(jù)模擬模型的特性對(duì)這些樣本值進(jìn)行處理，從而獲得得X的一列樣本值。的一列樣本值。運(yùn)用統(tǒng)計(jì)分析法對(duì)隨機(jī)模型實(shí)施模擬時(shí)需要獲得具運(yùn)用統(tǒng)計(jì)分析法對(duì)隨機(jī)模型實(shí)施模擬時(shí)需要獲得具有給定分布隨機(jī)變量的一列獨(dú)立樣本值，通常稱

3、不有給定分布隨機(jī)變量的一列獨(dú)立樣本值，通常稱不同分布隨機(jī)變量的抽樣實(shí)現(xiàn)值為不同分布的隨機(jī)數(shù)，同分布隨機(jī)變量的抽樣實(shí)現(xiàn)值為不同分布的隨機(jī)數(shù)，其中其中IIDU(0,1)均勻分布隨機(jī)數(shù)是最基本的隨機(jī)數(shù)，均勻分布隨機(jī)數(shù)是最基本的隨機(jī)數(shù)，通過對(duì)它進(jìn)行適當(dāng)變換，就可以得到任意分布的其通過對(duì)它進(jìn)行適當(dāng)變換，就可以得到任意分布的其他隨機(jī)變量。他隨機(jī)變量。目前大多數(shù)仿真中都是應(yīng)用計(jì)算機(jī)程序來產(chǎn)生目前大多數(shù)仿真中都是應(yīng)用計(jì)算機(jī)程序來產(chǎn)生IIDU(0,1)均勻分布隨機(jī)數(shù)，即采用某種確定的規(guī)則，均勻分布隨機(jī)數(shù)，即采用某種確定的規(guī)則，通過遞推計(jì)算產(chǎn)生隨機(jī)數(shù)序列。雖然它不是真正的通過遞推計(jì)算產(chǎn)生隨機(jī)數(shù)序列。雖然它不是真正

4、的隨機(jī)數(shù)，但由于其具有真正隨機(jī)數(shù)的統(tǒng)計(jì)性質(zhì)，因隨機(jī)數(shù)，但由于其具有真正隨機(jī)數(shù)的統(tǒng)計(jì)性質(zhì)，因此可以把它當(dāng)作隨機(jī)數(shù)來使用，這樣的數(shù)列稱為偽此可以把它當(dāng)作隨機(jī)數(shù)來使用，這樣的數(shù)列稱為偽隨機(jī)數(shù)。隨機(jī)數(shù)。 真正意義上的隨機(jī)數(shù)（或者隨機(jī)事件）在某真正意義上的隨機(jī)數(shù)（或者隨機(jī)事件）在某次產(chǎn)生過程中是按照實(shí)驗(yàn)過程中表現(xiàn)的分布次產(chǎn)生過程中是按照實(shí)驗(yàn)過程中表現(xiàn)的分布概率隨機(jī)產(chǎn)生的，其結(jié)果是不可預(yù)測(cè)的，是概率隨機(jī)產(chǎn)生的，其結(jié)果是不可預(yù)測(cè)的，是不可見的。不可見的。計(jì)算機(jī)中的隨機(jī)函數(shù)是按照一定算法模擬產(chǎn)計(jì)算機(jī)中的隨機(jī)函數(shù)是按照一定算法模擬產(chǎn)生的，其結(jié)果是確定的，是可見的。我們可生的，其結(jié)果是確定的，是可見的。我們可以這

5、樣認(rèn)為這個(gè)可預(yù)見的結(jié)果其出現(xiàn)的概率以這樣認(rèn)為這個(gè)可預(yù)見的結(jié)果其出現(xiàn)的概率是是100%。所以用計(jì)算機(jī)隨機(jī)函數(shù)所產(chǎn)生的。所以用計(jì)算機(jī)隨機(jī)函數(shù)所產(chǎn)生的“隨機(jī)數(shù)隨機(jī)數(shù)”并不隨機(jī)，是偽隨機(jī)數(shù)。并不隨機(jī)，是偽隨機(jī)數(shù)。 產(chǎn)生偽隨機(jī)數(shù)的方法很多，一般來說應(yīng)滿產(chǎn)生偽隨機(jī)數(shù)的方法很多，一般來說應(yīng)滿足以下幾點(diǎn)要求：足以下幾點(diǎn)要求：具有較好的隨機(jī)性與均勻性；具有較好的隨機(jī)性與均勻性；產(chǎn)生偽隨機(jī)數(shù)的速度要快；產(chǎn)生偽隨機(jī)數(shù)的速度要快；占用計(jì)算機(jī)內(nèi)存盡可能少；占用計(jì)算機(jī)內(nèi)存盡可能少；1.一批隨機(jī)數(shù)的循環(huán)周期盡可能長。一批隨機(jī)數(shù)的循環(huán)周期盡可能長。 目前在實(shí)際應(yīng)用中多采用乘法線性同余法，目前在實(shí)際應(yīng)用中多采用乘法線性同余法，

6、其遞推公式為：其遞推公式為： xi+1 =a xi mod m 式中式中a、x0、m分別稱為乘子、種子和模，分別稱為乘子、種子和模，他們的選取是否合適影響到偽隨機(jī)數(shù)序列他們的選取是否合適影響到偽隨機(jī)數(shù)序列的均勻、獨(dú)立性與循環(huán)周期。的均勻、獨(dú)立性與循環(huán)周期。/rand01.c #include static unsigned int RAND_SEED; unsigned int random(void) RAND_SEED=(RAND_SEED*123+59)%65536; return(RAND_SEED); void random_start(void) int temp2; moveda

7、ta(0 x0040,0 x006c,FP_SEG(temp),FP_OFF(temp),4); RAND_SEED=temp0; main() unsigned int i,n; random_start(); for(i=0;i10;i+) printf(%ut,random(); printf(n); 一般地，除一般地，除IIDU(0,1)均勻分布外，偽隨機(jī)數(shù)的生均勻分布外，偽隨機(jī)數(shù)的生成方法主要有以下成方法主要有以下3種：種： （1） 直接法（直接法（Direct Method），根據(jù)分布函數(shù)的物），根據(jù)分布函數(shù)的物理意義生成。缺點(diǎn)是僅適用于某些具有特殊分布的隨機(jī)理意義生成。缺點(diǎn)是僅適

8、用于某些具有特殊分布的隨機(jī)數(shù)，如二項(xiàng)式分布、泊松分布。數(shù)，如二項(xiàng)式分布、泊松分布。 （2） 逆轉(zhuǎn)法（逆轉(zhuǎn)法（Inversion Method），假設(shè)），假設(shè)U服從服從0，1區(qū)間上的均勻分布，令區(qū)間上的均勻分布，令X=F-1（U），則），則X的累計(jì)分布函的累計(jì)分布函數(shù)（數(shù)（CDF）為）為F。該方法原理簡單、編程方便、適用性。該方法原理簡單、編程方便、適用性廣。廣。 （3）接受拒絕法（）接受拒絕法（Acceptance-Rejection Method）：）：假設(shè)希望生成的隨機(jī)數(shù)的概率密度函數(shù)（假設(shè)希望生成的隨機(jī)數(shù)的概率密度函數(shù)（PDF）為）為f，則，則首先找到一個(gè)首先找到一個(gè)PDF為為g的隨機(jī)數(shù)

9、發(fā)生器與常數(shù)的隨機(jī)數(shù)發(fā)生器與常數(shù)c，使得，使得（x）cg（x），然后根據(jù)接收拒絕算法求解。由于算），然后根據(jù)接收拒絕算法求解。由于算法平均運(yùn)算法平均運(yùn)算c次才能得到一個(gè)希望生成的隨機(jī)數(shù)，因此次才能得到一個(gè)希望生成的隨機(jī)數(shù)，因此c的取值必須盡可能小。顯然，該算法的缺點(diǎn)是較難確定的取值必須盡可能小。顯然，該算法的缺點(diǎn)是較難確定g與與c。 因此，偽隨機(jī)數(shù)生成器（因此，偽隨機(jī)數(shù)生成器（PRNG）一般采用逆轉(zhuǎn)）一般采用逆轉(zhuǎn)法，其基礎(chǔ)是均勻分布，均勻分布法，其基礎(chǔ)是均勻分布，均勻分布PRNG的優(yōu)劣決定了的優(yōu)劣決定了整個(gè)隨機(jī)數(shù)體系的優(yōu)劣。整個(gè)隨機(jī)數(shù)體系的優(yōu)劣。目前計(jì)算機(jī)高級(jí)語言大多都具有產(chǎn)生偽隨機(jī)數(shù)的標(biāo)目前

10、計(jì)算機(jī)高級(jí)語言大多都具有產(chǎn)生偽隨機(jī)數(shù)的標(biāo)準(zhǔn)函數(shù)，專用仿真語言均設(shè)有偽隨機(jī)數(shù)發(fā)生器，適準(zhǔn)函數(shù)，專用仿真語言均設(shè)有偽隨機(jī)數(shù)發(fā)生器，適合大多數(shù)情況下的仿真需求。合大多數(shù)情況下的仿真需求。計(jì)算機(jī)不會(huì)產(chǎn)生絕對(duì)隨機(jī)的隨機(jī)數(shù)，計(jì)算機(jī)只能產(chǎn)計(jì)算機(jī)不會(huì)產(chǎn)生絕對(duì)隨機(jī)的隨機(jī)數(shù)，計(jì)算機(jī)只能產(chǎn)生生“偽隨機(jī)數(shù)偽隨機(jī)數(shù)”。其實(shí)絕對(duì)隨機(jī)的隨機(jī)數(shù)只是一種。其實(shí)絕對(duì)隨機(jī)的隨機(jī)數(shù)只是一種理想的隨機(jī)數(shù)，即使計(jì)算機(jī)怎樣發(fā)展，它也不會(huì)產(chǎn)理想的隨機(jī)數(shù)，即使計(jì)算機(jī)怎樣發(fā)展，它也不會(huì)產(chǎn)生一串絕對(duì)隨機(jī)的隨機(jī)數(shù)。計(jì)算機(jī)只能生成相對(duì)的生一串絕對(duì)隨機(jī)的隨機(jī)數(shù)。計(jì)算機(jī)只能生成相對(duì)的隨機(jī)數(shù)，即偽隨機(jī)數(shù)。隨機(jī)數(shù)，即偽隨機(jī)數(shù)。 偽隨機(jī)數(shù)并不是假隨機(jī)數(shù)，這里的

11、偽隨機(jī)數(shù)并不是假隨機(jī)數(shù)，這里的“偽偽”是有規(guī)律是有規(guī)律的意思，就是計(jì)算機(jī)產(chǎn)生的偽隨機(jī)數(shù)既是隨機(jī)的又的意思，就是計(jì)算機(jī)產(chǎn)生的偽隨機(jī)數(shù)既是隨機(jī)的又是有規(guī)律的。怎樣理解呢？產(chǎn)生的偽隨機(jī)數(shù)有時(shí)遵是有規(guī)律的。怎樣理解呢？產(chǎn)生的偽隨機(jī)數(shù)有時(shí)遵守一定的規(guī)律，有時(shí)不遵守任何規(guī)律；偽隨機(jī)數(shù)有守一定的規(guī)律，有時(shí)不遵守任何規(guī)律；偽隨機(jī)數(shù)有一部分遵守一定的規(guī)律；另一部分不遵守任何規(guī)律。一部分遵守一定的規(guī)律；另一部分不遵守任何規(guī)律。 運(yùn)用統(tǒng)計(jì)實(shí)驗(yàn)法對(duì)隨機(jī)行問題作模擬求解是，運(yùn)用統(tǒng)計(jì)實(shí)驗(yàn)法對(duì)隨機(jī)行問題作模擬求解是，其模擬模型的建立一般來說應(yīng)包含以下要素：其模擬模型的建立一般來說應(yīng)包含以下要素：（1）模型與原問題應(yīng)保持相同

12、的概率特性；）模型與原問題應(yīng)保持相同的概率特性；（2）模型中應(yīng)明確隨機(jī)變量與）模型中應(yīng)明確隨機(jī)變量與U0,1均勻均勻分布隨機(jī)變量的內(nèi)在聯(lián)系；分布隨機(jī)變量的內(nèi)在聯(lián)系；（3）這種內(nèi)在聯(lián)系應(yīng)通過計(jì)算機(jī)的兩大功）這種內(nèi)在聯(lián)系應(yīng)通過計(jì)算機(jī)的兩大功能能數(shù)值計(jì)算和邏輯判斷來表述。數(shù)值計(jì)算和邏輯判斷來表述。隨機(jī)事件的模擬隨機(jī)事件的模擬 簡單事件模擬簡單事件模擬 完備事件列模擬完備事件列模擬離散型隨機(jī)變量的模擬離散型隨機(jī)變量的模擬 一般方法一般方法 二點(diǎn)分布隨機(jī)變量的模擬二點(diǎn)分布隨機(jī)變量的模擬 幾何分布、二項(xiàng)分布、泊松分布幾何分布、二項(xiàng)分布、泊松分布簡單事件模擬 設(shè)事件設(shè)事件A A有有P(A)=p(0p1)P(

13、A)=p(0p1)。所謂對(duì)事件。所謂對(duì)事件A A模擬的模擬的目的是要獲取該事件目的是要獲取該事件A A在一次實(shí)驗(yàn)中的結(jié)果：在一次實(shí)驗(yàn)中的結(jié)果：A A發(fā)生發(fā)生或或A A不發(fā)生。為實(shí)現(xiàn)上述目的，所構(gòu)造的模擬模型可不發(fā)生。為實(shí)現(xiàn)上述目的，所構(gòu)造的模擬模型可設(shè)計(jì)為一個(gè)新的事件設(shè)計(jì)為一個(gè)新的事件“U=pU=p”，記為事件，記為事件B B。利用。利用0,10,1均勻分布隨機(jī)變量均勻分布隨機(jī)變量U U之分布函數(shù)的下列特性之分布函數(shù)的下列特性考慮到考慮到0p10p1，故有，故有P(B)=P(U=p)=p=P(A)P(B)=P(U=p)=p=P(A)。0 0( )() 011 1UxFxP Uxxxx以上設(shè)計(jì)的

14、模型包含了3個(gè)要素：（1）由于P(A)=P(B)，模型保持了原問題的概率特性；（2）模型包含了0,1均勻分布隨機(jī)變量U，從而便于抽樣；（3）U與A的內(nèi)在聯(lián)系：P(A)=P(U=p)，此聯(lián)系是通過邏輯判斷U=p來實(shí)現(xiàn)的。利用這種表述很容易進(jìn)行數(shù)學(xué)處理來獲得A之樣本。其思路和具體過程如下：完備事件列模擬設(shè)有互斥的隨機(jī)事件設(shè)有互斥的隨機(jī)事件A A0 0 A A1 1 .有滿足條件：有滿足條件：01) ()(2) () (0,1,2,.)(3) 1ijiiiiAAijP Apip （則稱次事件序列構(gòu)成一組互不相容事件的完備群則稱次事件序列構(gòu)成一組互不相容事件的完備群（簡稱完備事件）。（簡稱完備事件）。

15、構(gòu)造新的事件列構(gòu)造新的事件列B B0 0 B B1 1 .，其中，其中100iiikkkkBpUp這種構(gòu)造形式的合理性可由如下等式看出：這種構(gòu)造形式的合理性可由如下等式看出：100100100()() ()() ()iiikkkkiikkkkiikkiikkP BPpUpP UpP UppppP A 由于由于P(AP(Ai i)=P(B)=P(Bi i) )，故知，故知B Bi i保持了保持了A Ai i的概率特性，的概率特性，因此在一次實(shí)驗(yàn)中若事件因此在一次實(shí)驗(yàn)中若事件B Bi i發(fā)生了，則可以很自然地發(fā)生了，則可以很自然地認(rèn)為認(rèn)為A Ai i事件也就發(fā)生了。至于要判斷是哪個(gè)事件事件也就發(fā)生

16、了。至于要判斷是哪個(gè)事件B Bi i發(fā)發(fā)生，可通過如下數(shù)學(xué)處理來進(jìn)行：生，可通過如下數(shù)學(xué)處理來進(jìn)行： （1 1）將）將0,10,1區(qū)間劃分成若干小區(qū)間，各小區(qū)間區(qū)間劃分成若干小區(qū)間，各小區(qū)間的分界點(diǎn)坐標(biāo)依次為的分界點(diǎn)坐標(biāo)依次為L L0 0,L,L1 1,.,L,.,Ln n, , 使使 ，于是小區(qū)間于是小區(qū)間A Ai i=(L=(Li-1i-1,L,Li i) )之長度即為之長度即為p pi i （2 2）抽取偽隨機(jī)數(shù)）抽取偽隨機(jī)數(shù)u u并觀察并觀察u u在在0,10,1區(qū)間中所落區(qū)間中所落之位置。若之位置。若u u落在子區(qū)間落在子區(qū)間A Ai i=(L=(Li-1i-1,L,Li i 內(nèi)，則

17、認(rèn)為事件內(nèi)，則認(rèn)為事件B Bi i發(fā)生，從而可以認(rèn)為事件發(fā)生，從而可以認(rèn)為事件A Ai i發(fā)生。發(fā)生。0jjkkLp完備事件列的模擬過程和相應(yīng)的抽樣方法具體過程如下： 設(shè)離散隨機(jī)變量設(shè)離散隨機(jī)變量X X有分布列有分布列0 () (0,1,2,., )1iiniiP Xxpinp且 顯然顯然X X在一次實(shí)驗(yàn)中必須且只能在在一次實(shí)驗(yàn)中必須且只能在x x0 0,x,x1 1,x,xn n中中取值，人們對(duì)取值，人們對(duì)X X模擬的目的是希望獲取一次實(shí)驗(yàn)的結(jié)模擬的目的是希望獲取一次實(shí)驗(yàn)的結(jié)果，即其樣本值究竟取哪個(gè)果，即其樣本值究竟取哪個(gè)x xi i？ 通過定義等價(jià)的完備事件列，可將問題抽象為：通過定義等價(jià)

18、的完備事件列，可將問題抽象為： 根據(jù)u落在不同的子區(qū)間確定X的不同取值，這就是離散型隨機(jī)變量的一般模擬方法。00100110010 . . 1 kkkiiiinniixupxpuppXxpupxpu回顧回顧運(yùn)用統(tǒng)計(jì)實(shí)驗(yàn)法對(duì)隨機(jī)行問題作模擬求解是，運(yùn)用統(tǒng)計(jì)實(shí)驗(yàn)法對(duì)隨機(jī)行問題作模擬求解是，其模擬模型的建立一般來說應(yīng)包含哪些要素？其模擬模型的建立一般來說應(yīng)包含哪些要素？（1）模型與原問題應(yīng)保持相同的概率特性；）模型與原問題應(yīng)保持相同的概率特性；（2）模型中應(yīng)明確隨機(jī)變量與）模型中應(yīng)明確隨機(jī)變量與U0,1均勻均勻分布隨機(jī)變量的內(nèi)在聯(lián)系；分布隨機(jī)變量的內(nèi)在聯(lián)系；（3）這種內(nèi)在聯(lián)系應(yīng)通過計(jì)算機(jī)的兩大功）這

19、種內(nèi)在聯(lián)系應(yīng)通過計(jì)算機(jī)的兩大功能能數(shù)值計(jì)算和邏輯判斷來表述。數(shù)值計(jì)算和邏輯判斷來表述。簡單事件模擬的思路和流程圖： 兩點(diǎn)分布隨機(jī)變量的模擬 設(shè)隨機(jī)變量X有兩點(diǎn)分布：P(X=1)=p，P(X=0)=q，其中p+q=1。對(duì)X進(jìn)行模擬的目的是希望得知在一次實(shí)驗(yàn)中X究竟取0與1中的哪一個(gè)值。 構(gòu)造模型？ 建立與U(0,1)分布的關(guān)系？ 兩點(diǎn)分布隨機(jī)變量的模擬 若構(gòu)造模型 1, 0,AXA發(fā)生不發(fā)生 其中P(A)=p，則易知P(X=1)=P(A)=p，P(X=0)=P( )=1-p=q。利用對(duì)事件A的模擬可得一次實(shí)驗(yàn)中之結(jié)果信息：若A發(fā)生，則認(rèn)為X取1，若A不發(fā)生，則認(rèn)為X取0。A 幾何分布隨機(jī)變量的模擬 設(shè)隨機(jī)變量X有幾何分布，即有分布列P(X=k)=qk-1p，k=1,2,。對(duì)X進(jìn)行模擬的目的是希望得知在一次實(shí)驗(yàn)中X究竟取1,2,3中的哪一個(gè)正整數(shù)。 將X視為貝努力實(shí)驗(yàn)中事件A首次發(fā)生時(shí)之實(shí)驗(yàn)序數(shù)，則當(dāng)Xk時(shí)說明前k-1次實(shí)驗(yàn)A不發(fā)生，而在第k次實(shí)驗(yàn)時(shí)A發(fā)生。利用貝努力實(shí)驗(yàn)的獨(dú)立重復(fù)性，有1()(.)kP XkP AA AAqp 連續(xù)型隨機(jī)變量的模擬方法： 逆變換法 函數(shù)變換法 舍選法 近似法 組合法 逆變換法：已知一個(gè)隨機(jī)變量的概率分布函數(shù)，可借助與U(0,1)隨機(jī)數(shù)來產(chǎn)生具有已知概率分布的隨機(jī)數(shù)。用這種方法產(chǎn)生已知概率