隨機變量的產生

1、第十二章 隨機變量的產生如何根據(jù)確定的分布類型及其參數(shù)產生隨機變量12.1 隨機數(shù)發(fā)生器基礎：產生0, 1區(qū)間上均勻分布的隨機變量, 亦稱為隨機數(shù)發(fā)生器。隨機數(shù)發(fā)生器不是在概率論意義下的真正的隨機數(shù), 而只能稱為偽隨機數(shù)，因為無論哪一種隨機數(shù)發(fā)生器都采用遞推算法。如果算法選擇得合適, 由這種算法得到的數(shù)據(jù)統(tǒng)計檢驗后能具有較好的統(tǒng)計特性(如均勻性, 獨立性等), 則將這種偽隨機數(shù)用于仿真仍然是可行的。1. 線性同余發(fā)生器Lehmer在1951年提出 (mod m) 其中是第個隨機數(shù), 為乘子, C為增量, 為模數(shù), 稱為隨機數(shù)源或種子, 均為非負整數(shù)。滿足: 為了得到0, 1區(qū)間上所需要的隨機數(shù)

2、, 可令: 實質上完全不是隨機的, 因為: 設 則 (mod m)即一旦確定, 則就完全確定下來了。由于是區(qū)間上的整數(shù), 那么由得到的僅僅是有限個數(shù), 即為0, , 而不可能位于這些數(shù)值之外。例: 觀察的線性同余發(fā)生器。iZiUiiZiUi071090.563160.3751100.000210.0631230.188380.5001320.1254110.68814130.8135100.6251540.250650.3131670.4387120.7501760.3758150.9381810.0639140.8751980.500特點: (1) 值確位于0, m-1區(qū)間上, 因而位于0,

3、 1區(qū)間內; (2) 適當選擇, 可使循環(huán)產生, 無論取何值, 其循環(huán)順序是相同的。 循環(huán)一次稱為發(fā)生器的一個周期, 記為。如果, 則稱該發(fā)生器具有滿周期。(3) 適當?shù)剡x擇, 可保證在0, m-1區(qū)間上一個周期內每個整數(shù)正好出現(xiàn)一次, 從而保證了均勻性;(4) 為提高的均勻性, 要求加大。如果足夠大, 且發(fā)生器具有滿足周期, 那么可以預計, 所得到的在0, 1區(qū)間上是均勻分布的, 且取值是相當密的。這樣就可足夠近似于真正的0, 1區(qū)間上的均勻分布U(0, 1)。如何選擇, 就能保證線性同余發(fā)生器具有滿周期呢? 定理: 當且僅當下列條件滿足時, 線性同余發(fā)生器具有滿周期:(1) 與C能同時被整

4、除的唯一正整數(shù)是1; (2) 如果是整除的素數(shù)(只能被自身及1整除), 則能整除; (3) 如果能被4整除, 則也能被4整除?；旌铣送喟l(fā)生器： 一般選擇, C為奇數(shù), 而a可被4整除, 將得到滿周期。乘同余發(fā)生器：, 無論怎樣選擇, 則定理的條件(1)滿足不了, 因而不可能得到滿周期。是否存在一個大缺口亦難以確定。素數(shù)取模乘同余法(PMMLCG)： 是小于的最大素數(shù), 而的選擇滿足被整除的最小整數(shù), 也就說能被整除的的最小整數(shù)為, 那么得到的的周期為, 且在每個周期內, 1，2，1這些整數(shù)嚴格地只出現(xiàn)一次。PMMLCG的優(yōu)點：它避免 “缺口”問題, 能容易確定, 不需要選擇, 若足夠大, 其

5、周期也很長。兩個經過檢驗的, 性能較好的PMMLCG: (mod 235 31) (mod 231 1)2. 組合發(fā)生器將兩個獨立的線性同余發(fā)生器組合起來, 即用一個發(fā)生器控制另一個發(fā)生器產生的隨機數(shù), 因而稱為組合發(fā)生器。控制方法：l 首先從第一個發(fā)生器產生個, 得到數(shù)組或; 然后用第二個隨機數(shù)發(fā)生器產生在區(qū)間上均勻分布的隨機整數(shù); 以作為數(shù)組(或)的元素下標, 將或做為組合發(fā)生器產生的隨機數(shù), 然后從第一個發(fā)生器再產生一個隨機數(shù)來取代或, 依次下去。l 設與分別是由第一個與第二個線性同余發(fā)生器產生的隨機數(shù), 則令的二進制表示的數(shù)循環(huán)移位次, 得到一個新的位于0到間的整數(shù); 然后將與的相應二

6、進制位“異或”相加得到組合發(fā)生器的隨機變量, 且令。優(yōu)點：大大減少自相關, 提高了獨立性; 還可以加長發(fā)生器的周期, 提高隨機數(shù)的密度, 從而提高了均勻性。而且它一般對構成組合發(fā)生器的線性同余發(fā)生器的統(tǒng)計特性要求較低, 得到的隨機數(shù)的統(tǒng)計特性卻比較好。缺點: 速度慢, 要得到一個隨機數(shù), 需要產生兩個基礎的隨機數(shù), 并執(zhí)行一些輔助操作。12.2 隨機數(shù)發(fā)生器的測試隨機數(shù)發(fā)生器是偽隨機數(shù)發(fā)生器,在使用之前必須進行檢驗。1. 均勻性檢驗頻率檢驗：將隨機數(shù)發(fā)生器的取值范圍0, 1分成個互不重疊的等長的子區(qū)間, 由該隨機數(shù)發(fā)生器產生個隨機數(shù)()。按照均勻性的要求, 隨機數(shù)落在每一個子區(qū)間上的理論概率,

7、 即落在每一個子區(qū)間上的隨機數(shù)個數(shù)的理論值為, 稱為理論頻率。實際落在每一個子區(qū)間上的個數(shù)為, 這樣就會有偏差。采用檢驗實際頻率與理論頻率之間的偏差大小, 即檢驗步驟: (1) 原假設: 給定隨機數(shù)發(fā)生器產生的是獨立同分 U(0,1)的隨機變量; (2) 將0, 1分成K個等長的子區(qū)間; (3) 由該隨機數(shù)發(fā)生器產生N個隨機數(shù); (4) 統(tǒng)計計算在每個子區(qū)間上的隨機數(shù)的個數(shù)；(5) 計算 (6) 在原假設條件下, 接近K-1自由度的分布。規(guī)定檢驗水平, 若 則拒絕; 否則不拒絕。2. 獨立性檢驗因為相關系數(shù)為0是兩個隨機變量相互獨立的必要條件, 其值大小可以評價相關程度。獨立性檢驗：計算相鄰一

8、定間隔的隨機數(shù)之間的相關系數(shù), 然后判斷其相關程度。對于給定的隨機數(shù)發(fā)生器, 由它產生個隨機數(shù), 則前后相隔為個數(shù)的相關系數(shù)之均值為: 其中為隨機數(shù)的方差: 檢驗步驟: (1) 原假設: 給定隨機數(shù)發(fā)生器產生的是獨立同分布U(0,1)隨機變量, 即(2) 由該隨機數(shù)發(fā)生器產生N個, 并計算; (3) 若充分大(一般要求>50), 取統(tǒng)計量 漸近服從標準正態(tài)分布N(0, 1); (4) 給定檢驗水平, 記為N(0, 1)的上1的臨界點, 則當拒絕;不拒絕12.3 隨機變量產生的原理仿真對產生隨機變量的方法的要求： 準確性: 即由這種方法產生的隨機變量應準確地具有所要求的分布; 快速性: 離

9、散事件仿真一次運行往往需要產生幾萬甚至幾十萬個隨機變量。介紹四類最常用的產生隨機變量的方法：反變換法, 組合法, 卷積法及舍選法。1 反變換法-以概率積分變換定理為基礎（1）連續(xù)隨機變量的反變換法：設隨機變量x的分布函數(shù)為, 先產生在0, 1區(qū)間上均勻分布的獨立隨機變量, 由反分布函數(shù)得到的值即為所需要的隨機變量: 圖12.1 連續(xù)分布函數(shù)的反變換法原理原理說明：l 隨機變量概率分布函數(shù)的取值范圍為0, 1；l 以在0, 1上均勻分布的獨立隨機變量作為的取值規(guī)律；l 落在內的樣本個數(shù)的概率就是;l 從而隨機變量x在區(qū)間內出現(xiàn)的概率密度函數(shù)的平均值為; l 當趨于0時, 其概率密度函數(shù)就等于,

10、即符合原來給定的密度分布函數(shù), 滿足正確性要求。例12.1 設隨機變量x是a,b上均勻分布的隨機變量, 即: 概率密度函數(shù)： 由可得到的分布函數(shù): 用隨機數(shù)發(fā)生器產生U(0, 1)隨機變量, 并令從而可得: 圖12.2 離散分布的反變換法（2）離散隨機變量的反變換法：設離散隨機變量分別以概率, , , 取值, 其中, 且。l 將0, 1區(qū)間按, , , 的值分成n個子區(qū)間；l 產生在0, 1區(qū)間上均勻分布的獨立的隨機數(shù)u; l 根據(jù)u的值落在何區(qū)間, 相應區(qū)間對應的隨機變量就是所需要的隨機變量。實現(xiàn)辦法：先要將按從小到大的順序進行排序, 即, 得到分布函數(shù)子區(qū)間的分界點 , 由隨機數(shù)發(fā)生器產生

11、的，若, 則令, 若, 則令 依次下去。寫成一般形式： 令速度：主要決定于區(qū)間搜索方法。2 組合法反變換法是最直觀的方法, 但卻不一定是最有效的方法。當一個分布函數(shù)可以表示成若干個其它分布函數(shù)之和, 而這些分布函數(shù)較原來的分布函數(shù)更易于取樣時, 則宜采用組合法。 設隨機變量x的分布函數(shù)F(x): 其中, 且是其它類型的分布函數(shù); 或者隨機變量的密度函數(shù): 其中的定義與前面的相同, 是其種類型的密度函數(shù), 與它相應的分布函數(shù)為, 組合法產生隨機變量的步驟: （1） 產生一個隨機整數(shù)J, 滿足-確定采用哪一個分布函數(shù)來取樣（2） 產生具有分布函數(shù)的隨機變量-以該分布函數(shù)產生隨機變量,（3） 令 例

12、12.4 設密度函數(shù)為, 該產生服從該分布的隨機變量。 分析的特點, 可以看到, 它以縱軸為對稱軸分為兩部分。將寫成如下形式:圖12.3 =0.5e -|x| 密度函數(shù)圖形f(x)0.5 其中: 令（） （）從而用組合法產生隨機變量的方法如下: (1) 由U(0, 1)產生隨機變量及(2) 若, 則由的分布函數(shù)產生, 即可由反變換法易于得到(3) 若, 則由的分布函數(shù)產生, 即可由反變換法易于得到 3 卷積法 設隨機變量可表示為若干個獨立同分布的隨機變量之和, 即: 則的分布函數(shù)與的分布函數(shù)相同, 此時稱的分布為分布的重卷積。 卷積法：為產生, 可先獨立地從相應分布函數(shù)產生隨機變量, 然后求和

13、得到例 試產生均值為的維厄蘭分布隨機變量由于均值為的值厄蘭分布Erlang(,)的隨機變量可表示為個均值為/的獨立的指數(shù)隨機變量之和。采用卷積法產生, 其步驟如下; (1) 獨立地產生個U(0, 1)隨機數(shù)(2) 用反變換法分別產生：(3) 令改進：考慮到對數(shù)運算速度較慢, 將上述第(2)(3)兩步改進為: (2) 計算(3) 令4 舍選法 直接法：直接面向分布函數(shù)，以反變換法為基礎。 舍選法：當反變換法難于使用時(例如隨機變量的分布函數(shù)不存在封閉形式)?；舅枷耄涸O隨機機變量的密度函數(shù)為的最大值為C,的取值范圍為0, 1。 若獨立地產生兩個0, 1區(qū)間內均勻分布的隨機變量, 則是在0, C區(qū)

14、間內均勻分布的隨機變量, 若以求的值, 顯然, 滿足的概率為: 圖12.4 舍選法圖示若上式成立, 則選取為所需要的隨機變量, 即, 否則舍棄。舍選法的解釋：在1×C這塊矩形面積上任投一點的縱坐標為, 橫坐標為, 若該點位于曲線下面, 則認為抽樣成功。1下的面積可視為在（0，1）區(qū)間對的積分，若x取值僅在（0，1）區(qū)間，則該積分值可視為分布函數(shù)值，在該區(qū)間的成功抽樣可視為對對應的分布函數(shù)抽樣，就是所需產生的隨機變量。下的面積值其值為1，總面積的值為C, 那么成功的概率就是下的面積除以總面積，即等于1/C。如果隨機變量x的取值不在0,1區(qū)間，而是在a,b區(qū)間，則可令：。一般情形：根據(jù)的

15、特征規(guī)定一個函數(shù)(前面實際上是一個常數(shù)C), 對的要求是: (1) (2) (3) 易于從進行反變換令, 則從而可將看作是一個密度函數(shù), 并用代替取樣, 以得到所需要的隨機變量。由于并不是要求的, 這就是產生選取與舍棄問題, 一般算法是: (1) 產生U(0, 1)；(2) 由獨立地產生隨機變量(3) 檢驗如下不等式:若不等式成立, 則令, 否則返回第一步。圖12.5 舍選法例 隨機變量的密度函數(shù)為如下分布: 若采用反變換法, 則必須求解多項式的根, 效率很低。采用舍選法首先要選擇, 因要求, 故先求極值：令, 得=0.6, (0.6)=2.0736。應是以x為自變量的函數(shù), 且應易于求反變換

16、。最常采用的是令為一常數(shù), 可取: 滿足從而令： 即 所以為0, 1區(qū)間均勻分布的密度函數(shù),從而用舍選法產生的算法如下: (1) 產生U(0, 1)(2) 由獨立地產生, 即U(0, 1)(3) 檢驗, 若滿足, 則令, 否則返回第一步。舍選法要點：1)易于從中產生：常用如均勻, 指數(shù), 正態(tài)分布等 2)在第3步中舍棄的概率要小。舍棄的概率為1-1/C, 則要求接近1。 12.5 典型隨機變量的產生1 連續(xù)隨機變量的產生1). 正態(tài)分布：分布函數(shù)沒有直接的封閉形式。轉換法：若將其轉換到極坐標系, 則可以得到其封閉形式，再采用反變換法。設是兩個獨立的N(0, 1)隨機變量, 則其聯(lián)合密度函數(shù)是：

17、將其轉換成極坐標形式： 則其中為雅可比行列式, 即從而可得 其分別為隨機變量的密度函數(shù): 它們相應的分布函數(shù)為 采用反變換法,：l 獨立地產生兩個0, 1區(qū)間上均勻分布的隨機數(shù), l 分別對及進行反變換, 可得: =l 根據(jù)與之間的變換關系, 可得: 舍選法上述反變換法, 方法直觀, 易于理解, 但要進行三角函數(shù)及對數(shù)函數(shù)運算, 因而計算速度較慢。舍選法原理: (1) 獨立產生兩個U(0, 1)隨機變量 (2) 令, , (3) 若W>1, 舍棄, 返回第一步 (4) 否則, 令舍棄概率為。如果要求產生一般隨機變量, 可先產生N(0, 1)隨機變量, 然后進行如下線性變換： 2). 分布

18、密度函數(shù)為: 其中充分利用分布的特性: l 若, 則當時, , 所以只需討論如何產生。l (1, 1)為指數(shù)分布, 可以直接用反變換法產生，l 對可分如下兩種情況, 即及。 時的舍選法：可選擇為如下形式: 可得到其中，則 算法如下: (1) 產生U(0, 1)(2) 獨立產生U(0, 1), 令, 若, 則去第(4)步(3) 令, 若, 則選取, 且令, 否則舍棄, 返回第(1)步(4) 令, 若, 則選取, 且令, 否則舍棄, 返回第(1)步 時的舍選法：設, , 且，則: 其中 算法如下: (1) 獨立產生U(0, 1), U(0, 1)(2) 令 (3) 若, 則選取, 令; 否則, 舍棄, 返回第(1)步。3). 分布 密度函數(shù)為: 其中利用該分布的特征：l 若是隨機變量, 則就是隨機變量。l 對于任意，若, , 且與是獨立的, 則 2 離散隨機變量的產生最基本方法是反變換法。1). 離散均勻分布DU(i, j) 隨機變量x取值為i, j區(qū)間上的整數(shù)