講座隱馬爾可夫模型及其應(yīng)用

HiddenMarkovModelsandIts馬爾可夫是俄國(guó)（前蘇聯(lián)）數(shù)學(xué)家(1856-1922)。馬爾可夫于19061912年間通過(guò)多次觀察試驗(yàn)發(fā)現(xiàn)：自然界的很多系統(tǒng)其狀態(tài)x(t1)fSSs1,s2,s3, si⑤由于馬氏鏈在時(shí)刻m從任何一個(gè)狀態(tài)Si出發(fā)，到另一時(shí)刻m+n，必然轉(zhuǎn)移到Sj，j=1,2,…，諸狀⑥當(dāng)pij(m,m+n)與m無(wú)關(guān)時(shí)，稱馬爾科夫鏈為齊次XX x3,P p(xt1sj | sip(x0si),i1,p(xt1s3|xts1)1

p(xt1s1|xts2)1

|

)11p(xt1s1|xts3)13p(xt1s2|xts3)23p(xt1s3|xts3)0

p(xt1s3|xts2) LP(S)p(s1

列長(zhǎng)度加2x0=‘BxL+1=‘E’，則上述公式簡(jiǎn)化為：

i f①令

為CpGf為CpGfScore(S) P(S|CpGP(S|non_CpG

fffffst

cc

cfcc t

ststtfAG具有正值的Sk就是可能的CpG島。隱馬爾可夫模型（HiddenMarkovModel記作：HMM）是馬爾可夫模馬爾可夫模型主要是把一個(gè)總隨機(jī)O(o1o2...oT) 112O(o1o2...oT)第一個(gè)色子，投擲出每個(gè)數(shù)字的概率：p1,p2,p3,p4,p5,第二個(gè)色子，投擲出每個(gè)數(shù)字的概率：p1*,p2*,p3*,p4*,p5*,λ＝(N,M,πAB）來(lái)描述，或λ=(π,A,B)AABB{bjiA,B),如何計(jì)算P(O|λ)？(估算問(wèn)題)問(wèn)題2：給定觀察序列O=O1,O2,…OT以及模型λ,如問(wèn)題3：λ=(π,A,B),使得所有的觀測(cè)序列發(fā)生的概率最大？(學(xué)問(wèn)題二：Viterbi（解碼問(wèn)題）TP(O/S,) t

/qt,)bq(O1)bq(O2

bq(Ot qtb(O qtt

P(O/)P(OS

S,)P(S/Oaijt(

itjt1i

aijbj(ot)(t1,終結(jié)：P(O|)T前向概率為0（0j)0j1）；at(j)=at-1(i)aijbj(ot=at-1(1)a1jbj(ot)+at-1(2)a2jbj(ot )++at-1(N)aNjbj(ot (i,j=1,2,N) aij把最后時(shí)刻的前向概率取出，則p(O|T(N)…… …… …

ajj

t(

t-

N=5, T(N1,Tj0j

t(i)t1(j)bj(ot1jp(O|) Viterbi

'(1)1,'(j)0(j '(j) (i)ab t i 遞推公式(t1, T;i,j1, NT最后結(jié)果p(S,O|max('T0'0率為0（0'j)0,j1）；t在t時(shí)刻，根據(jù)輸出的觀察符號(hào)Otj)ta'(j)=max{a'(i)ab(ot-

),a'(2)a2jbj

),a'(N)aNjbj(ot (i,j=1,2,T把最后時(shí)刻的最優(yōu)前向概率取出，則pmax(S,O|'(N)①用Baum-Welch方法(或EM)對(duì)于給定的序列X,調(diào)整模型的可以得到狀態(tài)轉(zhuǎn)換概率（如下圖在λ中為X尋找一條最優(yōu)路徑，要求使得

p(X|HiddenMarkovModel,GHMMs）。AAAAAAAAAAAAAAAAAAAAACTCCCTGTGTCCACGCTTATTGTTTTCTTACGGCGTTCCTTTGTTTCTCACTGCCTCTCTTTTCAGGTTTCTGTTCCGATGCGGCTTGGGTTTCTTTGCAACCACTTTGCTCCCACCGTCCCATGTGACCTGCGTATATTTATTTAACATGGCATGTGCATCCCCCCGAGTTTTCCTTTTCTACAATTCGTGTGTCTCCCCCCCTTCCATGTCCTGACGTGACGACATTTTCCACGAGGTGCCTCTCCCTCCATTACTGTC…(3編碼區(qū)模型(續(xù)(3說(shuō)明：x表示未編碼的DN