第二章主方程(Masterequation)

1、第二章 主方程(Master equation) 這里我們研究概率分布隨時(shí)間的演化。 隨機(jī)過程：與時(shí)間有關(guān)的隨機(jī)變量(time-dependent random variable) 我們只考慮僅有短程記憶的過程 馬爾科夫過程(Markov process)，該過程的時(shí)間演化方程就是主方程。 主方程是統(tǒng)計(jì)物理里最重要的方程之一，它幾乎是普遍適用的，并廣泛地被應(yīng)用于化學(xué)，生物學(xué)，人口動(dòng)力學(xué)，布朗運(yùn)動(dòng)，流體，半導(dǎo)體，金融等問題。2.1 主方程的推導(dǎo)（I）一般情形對(duì)于隨機(jī)變量Y的概率密度，將采用以下的記號(hào)來表示：（隨機(jī)變量Y在 時(shí)刻取 值的概率）;（隨機(jī)變量Y在 時(shí)刻取 值，在 時(shí)刻取 值的聯(lián)合概率）

2、;（隨機(jī)變量Y在 時(shí)刻取 值，在 時(shí)刻取 值， 在 時(shí)刻取 值的聯(lián)合概率）。聯(lián)合概率密度是正的:它們可以被約化:并且是歸一化的:一般性質(zhì):不同時(shí)刻概率密度之間的關(guān)系（上式對(duì) 積分）：隨機(jī)變量與時(shí)間有關(guān)的矩(表征隨機(jī)變量在不同時(shí)刻的值之間的相關(guān)):平穩(wěn)過程：如果一個(gè)過程對(duì)一切n與都有：在平衡時(shí)，所有物理過程都是平穩(wěn)的。對(duì)一個(gè)平穩(wěn)過程，有：條件概率：而 只依賴于 - 時(shí)間差的絕對(duì)值。（在 時(shí)刻取 值的隨機(jī)變量Y，在 時(shí)刻取 值的概率）;它由如下恒等式來定義：（II）馬爾科夫過程(Markov process)=（固定 時(shí)，隨機(jī)變量Y具有值 的聯(lián)合概率密度） 聯(lián)合條件概率密度：對(duì)馬爾科夫過程我們有(

3、其中 )：即tn時(shí)刻取yn的條件概率完全由tn-1時(shí)刻yn-1的值確定。馬爾科夫過程完全由 和 轉(zhuǎn)移概率兩個(gè)函數(shù)確定。例如：對(duì)y2積分，容易得到（Chapman-Kolmogorov方程）：Chapman-Kolmogorov方程的重要性：告訴我們對(duì)馬爾科夫過程來說兩個(gè)相繼步驟的轉(zhuǎn)移概率是兩個(gè)單個(gè)步驟轉(zhuǎn)移概率的乘積乘積，而且相繼的步驟是統(tǒng)計(jì)獨(dú)立獨(dú)立的。(III) 主方程(Master equation)計(jì)算（*1）的時(shí)間導(dǎo)數(shù)我們必須考慮：這里我們定義 是系統(tǒng)在時(shí)間間隔 內(nèi)，從態(tài)y1變到態(tài)y2的單位時(shí)間的轉(zhuǎn)變概率密度（轉(zhuǎn)移率）。因此 在時(shí)間 內(nèi)，從態(tài)y1轉(zhuǎn)變到態(tài)y2的概率密度為 ；在時(shí)間內(nèi)不轉(zhuǎn)變

4、的概率密度為 。所以有： （*3) 的時(shí)間導(dǎo)數(shù)為：在時(shí)刻t1+（ 是一個(gè)非常小的正數(shù)），由定義我們有（以連續(xù)變量為例）： （*1）當(dāng)=0時(shí)，由（*1）得： （*2）由（*1-3）我們發(fā)現(xiàn)： （*4）這就是主方程。(IV) 細(xì)致平衡和Monte Carlo模擬為簡(jiǎn)單記這里我們考慮離散的情形，這時(shí)主方程可寫為：這和我們以前學(xué)過的統(tǒng)計(jì)物理里的劉維爾定理很相似。對(duì)平穩(wěn)過程，我們有因此對(duì)不同的平衡態(tài)有（這里我們略去了時(shí)間）：這就是細(xì)致平衡（細(xì)致平衡（detailed balance）。對(duì)統(tǒng)計(jì)物理研究的很多系統(tǒng)而言，轉(zhuǎn)移概率一般是不含時(shí)的，即與系統(tǒng)是否處于平衡態(tài)無關(guān)，因此我們一般有： ?？梢宰C明（見下），

5、即使系統(tǒng)初始處于非平衡態(tài)時(shí)（這時(shí)概率密度函數(shù)與時(shí)間有關(guān)），經(jīng)過足夠長(zhǎng)的時(shí)間后系統(tǒng)將逐漸進(jìn)入平衡態(tài)，這是我們對(duì)系統(tǒng)進(jìn)行Monte Carlo模擬模擬的理論基礎(chǔ)。練習(xí)(對(duì)離散情形的證明見本章末尾)：考慮相對(duì)熵： 。這里 是系統(tǒng)處于非平衡態(tài)的概率密度函數(shù)， 則是系統(tǒng)處于平衡態(tài)的概率密度函數(shù)。證明 和 ，其中等號(hào)僅當(dāng)系統(tǒng)處于平衡態(tài)時(shí)成立。由此有：(V) ?？?普朗克(Fokker-Planck)方程由于轉(zhuǎn)移概率 將隨的增大而迅速減小 ，我們把WP1按的冪次展開：當(dāng)y是一個(gè)連續(xù)變量連續(xù)變量，而且y的改變以小跳躍小跳躍的方式發(fā)生時(shí)，我們可導(dǎo)出 的偏微分方程-?？?普朗克方程。先做變量代換: 類似地這里 是

6、跳躍的大小。于是主方程變?yōu)樯鲜接疫叺谝豁?xiàng)和最后一項(xiàng)可消去，因此得到： （+）這就是?？烁？?普朗克普朗克(Fokker-Planck)方程方程。其中 是第第n級(jí)躍變矩級(jí)躍變矩：2.2 馬爾科夫鏈(Markov chain)馬爾科夫鏈：是馬爾科夫過程的一個(gè)例子，是在離散時(shí)刻出現(xiàn)的離散隨機(jī)變量Y取值之間的轉(zhuǎn)移。設(shè)Y可取值 ，基本時(shí)間間隔為1，從t=0到t=1我們有：引入 我們可把上式改寫為矩陣方程： 在s時(shí)刻，我們有：P(s) 在s很大時(shí)的行為依賴于轉(zhuǎn)移矩陣的結(jié)構(gòu)。 若Q的某個(gè)冪次的全部元素都是正的（正則矩陣），則P(s)趨向唯一的確定的與初態(tài)無關(guān)的定態(tài) ：且易證明：一個(gè)例子（雷克書P.173）：

7、考慮兩個(gè)罐子A和B，有三個(gè)紅球和兩個(gè)白球分配給它們，并總使得A中有兩個(gè)球。共有下面三種位形：位形間的轉(zhuǎn)移為：無規(guī)則地從A和B中各取一個(gè)球進(jìn)行交換。轉(zhuǎn)移矩陣為 且易知 是正則的:令 表示定態(tài)，由方程： 可解出定態(tài)，結(jié)果為： ，與初態(tài)無關(guān)。2.3無規(guī)行走和擴(kuò)散方程考慮一個(gè)粒子在x軸上運(yùn)動(dòng)，且各步行走是統(tǒng)計(jì)獨(dú)立的。設(shè)步長(zhǎng)為l，步間時(shí)間為，n=0，1，2,為粒子的絕對(duì)位置，則有：若粒子向左向右運(yùn)動(dòng)的概率均為1/2，則原方程可簡(jiǎn)化為：把上式寫為求導(dǎo)的形式，我們有：令 并在 為有限的條件下取極限 便可得到擴(kuò)散方程:假定初始時(shí)刻 并引入P1(x,t)對(duì)x的傅里葉變換（特征函數(shù)），擴(kuò)散方程可變?yōu)椋涸摲匠痰慕鉃?/p>

8、 ： ，再取逆變換，可得：這是粒子在t=0從x=0出發(fā)，到t時(shí)刻于x點(diǎn)找到它的概率。一階矩和二階矩：一階矩：把擴(kuò)散方程兩邊乘以 并對(duì)位置積分后，我們發(fā)現(xiàn)：因此粒子的平均距離不隨時(shí)間改變；二階矩：把擴(kuò)散方程兩邊乘以 并對(duì)位置積分后，我們發(fā)現(xiàn)：這正是擴(kuò)散過程的特征。2.4 生滅過程，主方程的求解 生滅過程：在一個(gè)時(shí)刻只能進(jìn)行一步轉(zhuǎn)移。 我們這里處理一個(gè)可用生成函數(shù)嚴(yán)格求解的情形。再假定生和滅的概率正比于現(xiàn)存細(xì)菌數(shù)（線性假設(shè)），則有 和 ，上式兩邊同乘以 并化簡(jiǎn)，即得線性生滅過程的主方程： 考慮t時(shí)刻有m個(gè)細(xì)菌的一個(gè)群體：(i)在時(shí)間 內(nèi)死亡一個(gè)細(xì)菌的概率為(ii)在時(shí)間 內(nèi)出生一個(gè)細(xì)菌的概率為(i

9、ii) 在時(shí)間 內(nèi)細(xì)菌數(shù)目不變的概率為(iv) 在時(shí)間 內(nèi)出生或死亡數(shù)超過1的概率為零.于是有:對(duì)依賴于離散離散隨機(jī)變量的主方程的求解：生成函數(shù)法生成函數(shù)（characteristic function）可寫為：對(duì)z求導(dǎo)后令z-1,可得到隨機(jī)變量n的各階距：一般地，我們有：因此對(duì)一般的多項(xiàng)式函數(shù)r(n), 我們有：由此有：把以上表達(dá)式帶入到主方程中我們有： （*）因此方程(*)和主方程是等價(jià)的，我們只需解方程(*)。容易發(fā)現(xiàn)(*)可由方程組 及 得到。從dF=0我們發(fā)現(xiàn)F(z,t)=C2，由一般解為設(shè)t=0時(shí)，細(xì)菌數(shù)目為m，則故若 則結(jié)果我們求得2.5 離散平穩(wěn)馬爾科夫過程的普遍解對(duì)離散平穩(wěn)馬

10、爾科夫過程，Chapman-Kolmogorov方程變?yōu)椋?這里 和由概率和條件概率的定義我們還有: 即 和 考慮離散隨機(jī)變量 和離散時(shí)間 ，其中n和是整數(shù)。這時(shí)我們得到了一個(gè)馬爾科夫鏈，我們有：這里 是系統(tǒng)處于k態(tài)時(shí)下一步跳到n態(tài)的條件概率，它包含了系統(tǒng)轉(zhuǎn)移機(jī)制的一切必要信息。 組成了矩陣Q的分量： 由（2.2）節(jié)我們并有：轉(zhuǎn)移矩陣Qlxl轉(zhuǎn)移矩陣Q一般不是對(duì)稱陣，因而其左，右本征矢量不同。其左本征矢量問題可寫為：右本征矢量問題可寫為：其中是方程 det|Q-I|=0的解。由以上兩式可以證明：正交歸一性：即Q可以用其左，右本征矢展開： 因此我們有Q至少有一本征值為1，且 若所有 由上可知 則

11、對(duì)足夠大的s方程 不成立，這不可能。 再由P=PQ及iXi=XiQ和iYi=QYi，易得 因Yi構(gòu)成完備本征矢，若所有i1則對(duì)所有i均有PYi=0，這不可能。故存在i使得 (a) 左本征矢方程兩邊取絕對(duì)值： 對(duì)m求和并考慮Q的歸一 性即得： (b) 右本征矢方程兩邊取絕對(duì)值有： 設(shè)對(duì)所有m, 對(duì) 我們有： 對(duì)正則轉(zhuǎn)移矩陣，若Q只有一個(gè)本征值 則 2.6 近似方法- 展開（I）簡(jiǎn)單例子：一維無規(guī)行走考慮一個(gè)有邊界條件的一維無規(guī)行走，其主方程為：這里-LnL而且L1，因而系統(tǒng)大小=2L+11。我們引入：x=n/L,并記(x,t)=P1(n,t),主方程可改寫為：由于1/L是小量，我們可以把 對(duì)1/

12、L展開：情形1：=: 這時(shí)上式右邊第一項(xiàng)1/L項(xiàng)消失。為簡(jiǎn)單記我們令=1并記 這樣重新標(biāo)度后我們有： 這是擴(kuò)散方程(Fokker-Planck方程)。情形2：: 這時(shí)只用考慮主方程右邊第一項(xiàng)。令=t/L我們有： 這是一個(gè)有向無規(guī)行走且x()滿足：(II) 一般情形這里考慮連續(xù)時(shí)間和離散隨機(jī)變量的主方程并假定轉(zhuǎn)移率W與時(shí)間無關(guān)，這樣主方程可寫為：類似于連續(xù)隨機(jī)變量的情形我們可以定義躍變矩：躍變矩是隨機(jī)變量n的方程。我們一般感興趣的是隨機(jī)變量n及其各級(jí)矩的運(yùn)動(dòng)方程，這些已知的話系統(tǒng)的性質(zhì)就基本清楚了。 的運(yùn)動(dòng)方程：在主方程兩邊乘以n并對(duì)n求和，在對(duì)右邊第一項(xiàng)作交換nm后我們獲得： 的運(yùn)動(dòng)方程：在主

13、方程兩邊乘以 并對(duì)n求和，在對(duì)右邊第一項(xiàng)作交換nm后我們獲得： 因此不用解主方程，通過轉(zhuǎn)移率W(n,m)我們就可以得到系統(tǒng)的大量信息。2n近似：W對(duì)系統(tǒng)參量的展開對(duì)大系統(tǒng)，我們可以把W對(duì)表征系統(tǒng)大小的參量做展開（因1/ 是一個(gè)小量），并將其帶入到主方程中，獲得一個(gè)近似的主方程，這個(gè)方程的解可能對(duì)系統(tǒng)的性質(zhì)做出較好的描述。在轉(zhuǎn)移率中重要的參量是密度m/ 和步長(zhǎng)n=n-m。因此我們把W(m,n)展開為：這里f()是的任意函數(shù)。對(duì)大我們略去上式中的高階項(xiàng)并帶入到主方程中，得：對(duì)大量獨(dú)立客體的行為，根據(jù)中心極限定理我們知道 ，寬度n正比于 于是我們可以把n在其平均值附近展開：其中 是n對(duì)其平均值 的偏

14、移。我們可以把主方程用x來表示，在n取值n-n+n內(nèi)，我們定義（這樣(t)顯式地依賴于t）： 其中于是我們有： 和 主方程隨之變?yōu)椋喊焉鲜接疫叺谝豁?xiàng)在 附近作泰勒展開并重新標(biāo)定時(shí)間 f()t= 后，主方程最終變?yōu)椋浩渲?和 在主方程里保留到 ，可得： 要滿足上式，只須取 這里在主方程里保留到的零級(jí)項(xiàng)，可得關(guān)于概率密度 的Fokker-Planck方程： 由上式即可得擾動(dòng)x的平均值和矩等的運(yùn)動(dòng)方程。對(duì)平穩(wěn)過程，上述方程右端的系數(shù)與時(shí)間無關(guān)。如在=0有 ，并定義 及 和 ，上述Fokker-Planck方程可變?yōu)橐粋€(gè)廣義擴(kuò)散方程：主方程展開到的 級(jí)項(xiàng)時(shí)，W的泰勒展開的第二項(xiàng)1將開始有貢獻(xiàn)。2.7

15、非線性生滅過程-馬爾薩斯方程對(duì)線性線性生滅過程：對(duì)非線性非線性生滅過程：我們假設(shè)社會(huì)成員間的競(jìng)爭(zhēng)使得死亡率加大，因此死亡率中還有一個(gè)正比于其它個(gè)體密度的項(xiàng) 貢獻(xiàn)，這里是系統(tǒng)的大小。這樣轉(zhuǎn)移率變?yōu)椋河捎谠跁r(shí)間內(nèi)不轉(zhuǎn)變的概率為 ，我們發(fā)現(xiàn)主方程可寫為：考慮t時(shí)刻有m個(gè)人的一個(gè)社會(huì)，我們有：容易發(fā)現(xiàn)轉(zhuǎn)移率為：在t時(shí)刻個(gè)體平均數(shù)的方程為：這個(gè)方程中一級(jí)矩的演化依賴于二級(jí)矩。為此把n在其平均值附近展開：并保留到級(jí)的項(xiàng)，我們發(fā)現(xiàn)：此方程的解為特點(diǎn)：當(dāng) 則 人口消亡；當(dāng) 則 人口趨于一個(gè)穩(wěn)定值（ 時(shí)趨于無窮大）。即當(dāng)轉(zhuǎn)移率改變時(shí)，存在一個(gè)從一個(gè)狀態(tài)到另一狀態(tài)的“相變”！2.8 馬爾科夫鏈的相對(duì)熵增加定理在這一節(jié)里我們要證明馬爾科夫鏈的相對(duì)熵的一個(gè)重要性質(zhì)，即下面的定理：定理：設(shè) 和 分別為同同一個(gè)有限態(tài)馬爾科夫鏈一個(gè)有限態(tài)馬爾科夫鏈在時(shí)刻n的兩個(gè)概率密度函數(shù)，那么它們的相對(duì)熵 是時(shí)刻n的一個(gè)單調(diào)遞增函數(shù)。特別地，如果是唯一的一個(gè)平穩(wěn)(stationary)分布，我們有這里我們?yōu)榱撕蜅l件概率中的“|”區(qū)分，用了“|”來分開相對(duì)熵中的兩個(gè)概率密度函數(shù)。首先，對(duì)任兩個(gè)聯(lián)合概率密度函數(shù)p(x,y)和q(x,y)，相對(duì)熵有一個(gè)鏈?zhǔn)揭?guī)則（條件概率仍沿用雷克書的寫法）： 這由條件概