機(jī)器學(xué)習(xí)-隱馬爾可夫模型課件

機(jī)器學(xué)習(xí)——

隱馬爾可夫模型機(jī)器學(xué)習(xí)——

隱馬爾可夫模型目錄HMM的由來(lái)馬爾可夫性和馬爾可夫鏈HMM實(shí)例HMM的三個(gè)基本算法主要參考文獻(xiàn)目錄HMM的由來(lái)HMM的由來(lái)

1870年，俄國(guó)有機(jī)化學(xué)家VladimirV.Markovnikov第一次提出馬爾科夫模型馬爾可夫模型馬爾可夫鏈隱馬爾可夫模型HMM的由來(lái)1870年，俄國(guó)有機(jī)化學(xué)家VladimirVAndreiAMarkovGiftedRussianmathematicianJune14,1856-July20,1922

StPetersburgUniversityDoctoralAdvisor:PafnutyChebyshevAndreiAMarkovAndreiAMarkovResearchfield:numbertheorycontinuousfractiontheorydifferentialequationsprobabilitytheorystatisticsMarkovisbestknownforhisworkinprobabilityandforstochasticprocessesespeciallyMarkovchains.AndreiAMarkovResearchfield:Attheageof30MarkovbecameaprofessoratSt.PetersburgUniversityandamemberofSt.PetersburgAcademyofSciencesMorethan120scientificpapersClassicaltextbook“CalculusofProbabilities”機(jī)器學(xué)習(xí)——隱馬爾可夫模型課件PafnutyChebyshevOneofthefoundingfathersofRussianmathematicsHisfamousstudents:DmitryGraveAleksandrKorkin,AleksandrLyapunovAndreiMarkov……AccordingtotheMathematicsGenealogyProject,Chebyshevhasabout4,000mathematicaldescendants.Hisfamousworkinthefieldofprobability,statisticsandnumbertheoryPafnutyChebyshevOneofthef馬爾可夫性如果一個(gè)過(guò)程的“將來(lái)”僅依賴(lài)“現(xiàn)在”而不依賴(lài)“過(guò)去”，則此過(guò)程具有馬爾可夫性,或稱(chēng)此過(guò)程為馬爾可夫過(guò)程X(t+1)=f(X(t))馬爾可夫性如果一個(gè)過(guò)程的“將來(lái)”僅依賴(lài)“現(xiàn)在”而不依賴(lài)“過(guò)去獨(dú)立事件概率設(shè)想我們?cè)僮饕贿B串的實(shí)驗(yàn)，而每次實(shí)驗(yàn)所可能發(fā)生的結(jié)果定為E1,E2,…En,…。（可能是有限也可能是無(wú)限）。每一個(gè)結(jié)果Ek，我們?nèi)裟芙o定一個(gè)出現(xiàn)的可能性pk（即概率），則對(duì)某一特定樣本之序列Ej1

Ej2…Ejn，我們知道它出現(xiàn)的概率是p(Ej1

Ej2…Ejn)

=pj1…pjn。獨(dú)立事件概率設(shè)想我們?cè)僮饕贿B串的實(shí)驗(yàn)，而每次實(shí)驗(yàn)所可能發(fā)生的馬可夫鏈一般及常用的統(tǒng)計(jì)中，彼此相互「獨(dú)立」大概是最有用的一個(gè)觀念。用簡(jiǎn)單的術(shù)語(yǔ)來(lái)說(shuō)，互相「獨(dú)立」就是彼此毫不相干，一點(diǎn)牽涉都沒(méi)有。但是實(shí)際生活中很多事件是相互關(guān)聯(lián)的[不是互相獨(dú)立」也就是說(shuō)互相關(guān)聯(lián)的意思，但是要怎樣相關(guān)呢？如何在相關(guān)中作一些簡(jiǎn)單的分類(lèi)呢？馬可夫連就是要描述在「相關(guān)」這個(gè)概念中最簡(jiǎn)單的一種。但即使如此，有關(guān)馬可夫鏈的理論已經(jīng)相當(dāng)豐富了。在概率理論中，它幾乎占了絕大的部分。馬可夫鏈一般及常用的統(tǒng)計(jì)中，彼此相互「獨(dú)立」大概是最有用的一馬可夫鏈在馬可夫鏈中我們考慮最簡(jiǎn)單的「相關(guān)」性。在在這種情況下，我們不能給任一個(gè)事件Ej

一個(gè)概率pj

但我們給一對(duì)事件(Ej,Ek)

一個(gè)概率pjk，這個(gè)時(shí)候pjk

的解釋是一種條件概率，就是假設(shè)在某次實(shí)驗(yàn)中Ej

已經(jīng)出現(xiàn)，而在下一次實(shí)驗(yàn)中Ek

出現(xiàn)的概率。除了pjk

之外，我們還需要知道第一次實(shí)驗(yàn)中Ej

出現(xiàn)的機(jī)率aj。有了這些資料后，一個(gè)樣本序列Ej0

Ej1…Ejn（也就是說(shuō)第零次實(shí)驗(yàn)結(jié)果是Ej0，第一次一次是Ej1……第n

次實(shí)驗(yàn)是Ejn）的概率就很清楚的是P(Ej0,Ej1,Ejn)=aj

pj0j1

pj1j2…pjn-1jn。

馬可夫鏈在馬可夫鏈中我們考慮最簡(jiǎn)單的「相關(guān)」性。在在這種情況馬爾科夫鏈時(shí)間和狀態(tài)都離散的馬爾科夫過(guò)程稱(chēng)為馬爾科夫鏈記作{Xn=X(n),n=0,1,2,…}在時(shí)間集T1={0,1,2,…}上對(duì)離散狀態(tài)的過(guò)程相繼觀察的結(jié)果鏈的狀態(tài)空間記做I={a1,a2,…},ai∈R.條件概率Pij(

m,m+n)=P{Xm+n=aj|Xm=ai}為馬氏鏈在時(shí)刻m處于狀態(tài)ai條件下，在時(shí)刻m+n轉(zhuǎn)移到狀態(tài)aj的轉(zhuǎn)移概率。馬爾科夫鏈時(shí)間和狀態(tài)都離散的馬爾科夫過(guò)程稱(chēng)為馬爾科夫鏈

Weather:AMarkovModelExampleofMarkovModelSnowySunnyRainyWeather:AMarkovModelExamp60%2%38%20%75%5%80%15%5%60%2%38%20%75%5%80%15%5%MarkovModelStates:Statetransitionprobabilities:

representstheprobabilityofmovingfromstateitostatej

MarkovModelInitialstatedistribution:Initialstatedistribution:

MarkovModelBegins(t=1)insomeinitialstate(s).Ateachtimestep(t=1,2,…)thesystemmovesfromcurrenttonextstate(possiblythesameasthecurrentstate)accordingtotransitionprobabilitiesassociatedwithcurrentstate.機(jī)器學(xué)習(xí)——隱馬爾可夫模型課件States:Statetransitionprobabilities:Initialstatedistribution:WeatherMarkovModelStates:WeatherMarkovModelGiventheweatheronthefirstday,whatistheprobabilitythattheweatherforconsecutivesixdays

BasicCalculations-1SnowySunnyRainyRainyRainyt=1t=2t=3t=4t=5t=6SnowyGiventheweatheronthefirst機(jī)器學(xué)習(xí)——隱馬爾可夫模型課件

BasicCalculations-2

Giventhatthesystemisinaknownwheathere.g.,whatistheprobabilitythatitstaysinthesamewheatherforconsecutiveddays:

BasicCalculations-2

機(jī)器學(xué)習(xí)——隱馬爾可夫模型課件BasicCalculations-3

Conditionedonstartingtheweathere.g.,computetheexpectednumberofdurationinweatherExpectednumberofconsecutivedaysis5.BasicCalculations-3

Conditio

TheWorldisnotfullyobservable!!!HiddenMarkovModelTheWorldisnotNotObservable-Hidden60%2%38%20%75%5%80%15%5%ExampleofHiddenMarkovModel50%0%50%60%10%30%65%5%30%NotObservable60%2%38%20%75%5%HMM實(shí)例

ObservedBallSequenceUrn3Urn1Urn2VeilHMM實(shí)例ObservedBallSequenceUr又一個(gè)HMM實(shí)例又一個(gè)HMM實(shí)例HMM實(shí)例——描述設(shè)有N個(gè)缸，每個(gè)缸中裝有很多彩球，球的顏色由一組概率分布描述。實(shí)驗(yàn)進(jìn)行方式如下根據(jù)初始概率分布，隨機(jī)選擇N個(gè)缸中的一個(gè)開(kāi)始實(shí)驗(yàn)根據(jù)缸中球顏色的概率分布，隨機(jī)選擇一個(gè)球，記球的顏色為O1，并把球放回缸中根據(jù)描述缸的轉(zhuǎn)移的概率分布，隨機(jī)選擇下一口缸，重復(fù)以上步驟。最后得到一個(gè)描述球的顏色的序列O1,O2,…，稱(chēng)為觀察值序列O。

HMM實(shí)例——描述設(shè)有N個(gè)缸，每個(gè)缸中裝有很多彩球，球的顏色HMM實(shí)例——約束

在上述實(shí)驗(yàn)中，有幾個(gè)要點(diǎn)需要注意：不能被直接觀察缸間的轉(zhuǎn)移從缸中所選取的球的顏色和缸并不是一一對(duì)應(yīng)的每次選取哪個(gè)缸由一組轉(zhuǎn)移概率決定HMM實(shí)例——約束在上述實(shí)驗(yàn)中，有幾個(gè)要點(diǎn)需要注意：HMM概念HMM的狀態(tài)是不確定或不可見(jiàn)的，只有通過(guò)觀測(cè)序列的隨機(jī)過(guò)程才能表現(xiàn)出來(lái)觀察到的事件與狀態(tài)并不是一一對(duì)應(yīng)，而是通過(guò)一組概率分布相聯(lián)系

HMM是一個(gè)雙重隨機(jī)過(guò)程，兩個(gè)組成部分：

馬爾可夫鏈：描述狀態(tài)的轉(zhuǎn)移，用轉(zhuǎn)移概率描述。

一般隨機(jī)過(guò)程：描述狀態(tài)與觀察序列間的關(guān)系，用觀察值概率描述。HMM概念HMM的狀態(tài)是不確定或不可見(jiàn)的，只有通過(guò)觀測(cè)序列的Markov鏈（,A）隨機(jī)過(guò)程（B）狀態(tài)序列觀察值序列q1,q2,...,qTo1,o2,...,oTHMM的組成示意圖HMM組成Markov鏈隨機(jī)過(guò)程狀態(tài)序列觀察值序列q1,q2,..HMM的基本要素用模型五元組＝（N,M,π，A，B）用來(lái)描述HMM，或簡(jiǎn)寫(xiě)為=(π，A，B)參數(shù)含義實(shí)例N狀態(tài)數(shù)目缸的數(shù)目M每個(gè)狀態(tài)可能的觀察值數(shù)目彩球顏色數(shù)目A與時(shí)間無(wú)關(guān)的狀態(tài)轉(zhuǎn)移概率矩陣在選定某個(gè)缸的情況下，選擇另一個(gè)缸的概率B給定狀態(tài)下，觀察值概率分布每個(gè)缸中的顏色分布p初始狀態(tài)空間的概率分布初始時(shí)選擇某口缸的概率HMM的基本要素用模型五元組＝（N,M,πHMM可解決的問(wèn)題問(wèn)題1：給定觀察序列O=O1,O2,…OT,以及模型,如何計(jì)算P(O|λ)？問(wèn)題2：給定觀察序列O=O1,O2,…OT以及模型λ,如何選擇一個(gè)對(duì)應(yīng)的狀態(tài)序列S=q1,q2,…qT，使得S能夠最為合理的解釋觀察序列O？問(wèn)題3：如何調(diào)整模型參數(shù),使得P(O|λ)最大？HMM可解決的問(wèn)題問(wèn)題1：給定觀察序列O=O1,O2,…OT解決問(wèn)題1基礎(chǔ)方法給定一個(gè)固定的狀態(tài)序列S=(q1，q2，q3…)

表示在qt狀態(tài)下觀測(cè)到Ot的概率

N=5,M=100,=>計(jì)算量10^72解決問(wèn)題1基礎(chǔ)方法給定一個(gè)固定的狀態(tài)序列S=(q1，q2，解決問(wèn)題1前向法動(dòng)態(tài)規(guī)劃定義前向變量初始化：遞歸：終結(jié)：解決問(wèn)題1前向法動(dòng)態(tài)規(guī)劃前向法示意圖1 ... t t+1 ...a1jat1qN.qi.qj..q1atNatiaNjaijN=5,M=100,=>計(jì)算量3000前向法示意圖1 ... t 解決問(wèn)題1后向法與前向法類(lèi)似定義后向變量初始化：遞歸：終結(jié)：解決問(wèn)題1后向法與前向法類(lèi)似Viterbi算法目的：給定觀察序列O以及模型λ,如何選擇一個(gè)對(duì)應(yīng)的狀態(tài)序列S，使得S能夠最為合理的解釋觀察序列O？N和T分別為狀態(tài)個(gè)數(shù)和序列長(zhǎng)度定義：我們所要找的，就是T時(shí)刻最大的所代表的那個(gè)狀態(tài)序列Viterbi算法目的：給定觀察序列O以及模型λ,如何選擇一Viterbi算法(續(xù))初始化：遞歸：終結(jié)：求S序列：Viterbi算法(續(xù))初始化：Baum-Welch算法(模型訓(xùn)練算法)目的：給定觀察值序列O，通過(guò)計(jì)算確定一個(gè)模型l，使得P(O|l)最大。算法步驟：

1.初始模型（待訓(xùn)練模型）l0, 2.基于l0

以及觀察值序列O，訓(xùn)練新模型

l；

3.如果log

P(X|l)-log(P(X|l0)<Delta，說(shuō)明訓(xùn)練已經(jīng)達(dá)到預(yù)期效果，算法結(jié)束。

4.否則，令l0＝l，繼續(xù)第2步工作

Baum-Welch算法(模型訓(xùn)練算法)目的：給定觀察值序列Baum-Welch算法(續(xù))定義：Baum-Welch算法(續(xù))定義：Baum-Welch算法(續(xù)2)參數(shù)估計(jì)：Baum-Welch算法(續(xù)2)參數(shù)估計(jì)：幾種典型形狀的馬爾科夫鏈a.A矩陣沒(méi)有零值的Markov鏈b.A矩陣有零值的Markov鏈c./d.左－右形式的Markov鏈幾種典型形狀的馬爾科夫鏈a.A矩陣沒(méi)有零值的MarkovHMM的應(yīng)用領(lǐng)域語(yǔ)音識(shí)別機(jī)器視覺(jué)人臉檢測(cè)機(jī)器人足球圖像處理圖像去噪圖像識(shí)別生物醫(yī)學(xué)分析DNA/蛋白質(zhì)序列分析HMM的應(yīng)用領(lǐng)域語(yǔ)音識(shí)別作業(yè)4States:Observations:Statetransitionprobabilities:emissionprobability:Initialstatedistribution:作業(yè)4States:Given:O:1.出現(xiàn)次序列的概率為多少(前向算法)?2.此序列對(duì)應(yīng)的天氣狀況序列是什么?問(wèn)題:問(wèn)題:個(gè)人收集整理，僅供交流學(xué)習(xí)！個(gè)人收集整理，僅供交流學(xué)習(xí)！機(jī)器學(xué)習(xí)——

隱馬爾可夫模型機(jī)器學(xué)習(xí)——

隱馬爾可夫模型目錄HMM的由來(lái)馬爾可夫性和馬爾可夫鏈HMM實(shí)例HMM的三個(gè)基本算法主要參考文獻(xiàn)目錄HMM的由來(lái)HMM的由來(lái)

1870年，俄國(guó)有機(jī)化學(xué)家VladimirV.Markovnikov第一次提出馬爾科夫模型馬爾可夫模型馬爾可夫鏈隱馬爾可夫模型HMM的由來(lái)1870年，俄國(guó)有機(jī)化學(xué)家VladimirVAndreiAMarkovGiftedRussianmathematicianJune14,1856-July20,1922

StPetersburgUniversityDoctoralAdvisor:PafnutyChebyshevAndreiAMarkovAndreiAMarkovResearchfield:numbertheorycontinuousfractiontheorydifferentialequationsprobabilitytheorystatisticsMarkovisbestknownforhisworkinprobabilityandforstochasticprocessesespeciallyMarkovchains.AndreiAMarkovResearchfield:Attheageof30MarkovbecameaprofessoratSt.PetersburgUniversityandamemberofSt.PetersburgAcademyofSciencesMorethan120scientificpapersClassicaltextbook“CalculusofProbabilities”機(jī)器學(xué)習(xí)——隱馬爾可夫模型課件PafnutyChebyshevOneofthefoundingfathersofRussianmathematicsHisfamousstudents:DmitryGraveAleksandrKorkin,AleksandrLyapunovAndreiMarkov……AccordingtotheMathematicsGenealogyProject,Chebyshevhasabout4,000mathematicaldescendants.Hisfamousworkinthefieldofprobability,statisticsandnumbertheoryPafnutyChebyshevOneofthef馬爾可夫性如果一個(gè)過(guò)程的“將來(lái)”僅依賴(lài)“現(xiàn)在”而不依賴(lài)“過(guò)去”，則此過(guò)程具有馬爾可夫性,或稱(chēng)此過(guò)程為馬爾可夫過(guò)程X(t+1)=f(X(t))馬爾可夫性如果一個(gè)過(guò)程的“將來(lái)”僅依賴(lài)“現(xiàn)在”而不依賴(lài)“過(guò)去獨(dú)立事件概率設(shè)想我們?cè)僮饕贿B串的實(shí)驗(yàn)，而每次實(shí)驗(yàn)所可能發(fā)生的結(jié)果定為E1,E2,…En,…。（可能是有限也可能是無(wú)限）。每一個(gè)結(jié)果Ek，我們?nèi)裟芙o定一個(gè)出現(xiàn)的可能性pk（即概率），則對(duì)某一特定樣本之序列Ej1

Ej2…Ejn，我們知道它出現(xiàn)的概率是p(Ej1

Ej2…Ejn)

=pj1…pjn。獨(dú)立事件概率設(shè)想我們?cè)僮饕贿B串的實(shí)驗(yàn)，而每次實(shí)驗(yàn)所可能發(fā)生的馬可夫鏈一般及常用的統(tǒng)計(jì)中，彼此相互「獨(dú)立」大概是最有用的一個(gè)觀念。用簡(jiǎn)單的術(shù)語(yǔ)來(lái)說(shuō)，互相「獨(dú)立」就是彼此毫不相干，一點(diǎn)牽涉都沒(méi)有。但是實(shí)際生活中很多事件是相互關(guān)聯(lián)的[不是互相獨(dú)立」也就是說(shuō)互相關(guān)聯(lián)的意思，但是要怎樣相關(guān)呢？如何在相關(guān)中作一些簡(jiǎn)單的分類(lèi)呢？馬可夫連就是要描述在「相關(guān)」這個(gè)概念中最簡(jiǎn)單的一種。但即使如此，有關(guān)馬可夫鏈的理論已經(jīng)相當(dāng)豐富了。在概率理論中，它幾乎占了絕大的部分。馬可夫鏈一般及常用的統(tǒng)計(jì)中，彼此相互「獨(dú)立」大概是最有用的一馬可夫鏈在馬可夫鏈中我們考慮最簡(jiǎn)單的「相關(guān)」性。在在這種情況下，我們不能給任一個(gè)事件Ej

一個(gè)概率pj

但我們給一對(duì)事件(Ej,Ek)

一個(gè)概率pjk，這個(gè)時(shí)候pjk

的解釋是一種條件概率，就是假設(shè)在某次實(shí)驗(yàn)中Ej

已經(jīng)出現(xiàn)，而在下一次實(shí)驗(yàn)中Ek

出現(xiàn)的概率。除了pjk

之外，我們還需要知道第一次實(shí)驗(yàn)中Ej

出現(xiàn)的機(jī)率aj。有了這些資料后，一個(gè)樣本序列Ej0

Ej1…Ejn（也就是說(shuō)第零次實(shí)驗(yàn)結(jié)果是Ej0，第一次一次是Ej1……第n

次實(shí)驗(yàn)是Ejn）的概率就很清楚的是P(Ej0,Ej1,Ejn)=aj

pj0j1

pj1j2…pjn-1jn。

馬可夫鏈在馬可夫鏈中我們考慮最簡(jiǎn)單的「相關(guān)」性。在在這種情況馬爾科夫鏈時(shí)間和狀態(tài)都離散的馬爾科夫過(guò)程稱(chēng)為馬爾科夫鏈記作{Xn=X(n),n=0,1,2,…}在時(shí)間集T1={0,1,2,…}上對(duì)離散狀態(tài)的過(guò)程相繼觀察的結(jié)果鏈的狀態(tài)空間記做I={a1,a2,…},ai∈R.條件概率Pij(

m,m+n)=P{Xm+n=aj|Xm=ai}為馬氏鏈在時(shí)刻m處于狀態(tài)ai條件下，在時(shí)刻m+n轉(zhuǎn)移到狀態(tài)aj的轉(zhuǎn)移概率。馬爾科夫鏈時(shí)間和狀態(tài)都離散的馬爾科夫過(guò)程稱(chēng)為馬爾科夫鏈

Weather:AMarkovModelExampleofMarkovModelSnowySunnyRainyWeather:AMarkovModelExamp60%2%38%20%75%5%80%15%5%60%2%38%20%75%5%80%15%5%MarkovModelStates:Statetransitionprobabilities:

representstheprobabilityofmovingfromstateitostatej

MarkovModelInitialstatedistribution:Initialstatedistribution:

MarkovModelBegins(t=1)insomeinitialstate(s).Ateachtimestep(t=1,2,…)thesystemmovesfromcurrenttonextstate(possiblythesameasthecurrentstate)accordingtotransitionprobabilitiesassociatedwithcurrentstate.機(jī)器學(xué)習(xí)——隱馬爾可夫模型課件States:Statetransitionprobabilities:Initialstatedistribution:WeatherMarkovModelStates:WeatherMarkovModelGiventheweatheronthefirstday,whatistheprobabilitythattheweatherforconsecutivesixdays

BasicCalculations-1SnowySunnyRainyRainyRainyt=1t=2t=3t=4t=5t=6SnowyGiventheweatheronthefirst機(jī)器學(xué)習(xí)——隱馬爾可夫模型課件

BasicCalculations-2

Giventhatthesystemisinaknownwheathere.g.,whatistheprobabilitythatitstaysinthesamewheatherforconsecutiveddays:

BasicCalculations-2

機(jī)器學(xué)習(xí)——隱馬爾可夫模型課件BasicCalculations-3

Conditionedonstartingtheweathere.g.,computetheexpectednumberofdurationinweatherExpectednumberofconsecutivedaysis5.BasicCalculations-3

Conditio

TheWorldisnotfullyobservable!!!HiddenMarkovModelTheWorldisnotNotObservable-Hidden60%2%38%20%75%5%80%15%5%ExampleofHiddenMarkovModel50%0%50%60%10%30%65%5%30%NotObservable60%2%38%20%75%5%HMM實(shí)例

ObservedBallSequenceUrn3Urn1Urn2VeilHMM實(shí)例ObservedBallSequenceUr又一個(gè)HMM實(shí)例又一個(gè)HMM實(shí)例HMM實(shí)例——描述設(shè)有N個(gè)缸，每個(gè)缸中裝有很多彩球，球的顏色由一組概率分布描述。實(shí)驗(yàn)進(jìn)行方式如下根據(jù)初始概率分布，隨機(jī)選擇N個(gè)缸中的一個(gè)開(kāi)始實(shí)驗(yàn)根據(jù)缸中球顏色的概率分布，隨機(jī)選擇一個(gè)球，記球的顏色為O1，并把球放回缸中根據(jù)描述缸的轉(zhuǎn)移的概率分布，隨機(jī)選擇下一口缸，重復(fù)以上步驟。最后得到一個(gè)描述球的顏色的序列O1,O2,…，稱(chēng)為觀察值序列O。

HMM實(shí)例——描述設(shè)有N個(gè)缸，每個(gè)缸中裝有很多彩球，球的顏色HMM實(shí)例——約束

在上述實(shí)驗(yàn)中，有幾個(gè)要點(diǎn)需要注意：不能被直接觀察缸間的轉(zhuǎn)移從缸中所選取的球的顏色和缸并不是一一對(duì)應(yīng)的每次選取哪個(gè)缸由一組轉(zhuǎn)移概率決定HMM實(shí)例——約束在上述實(shí)驗(yàn)中，有幾個(gè)要點(diǎn)需要注意：HMM概念HMM的狀態(tài)是不確定或不可見(jiàn)的，只有通過(guò)觀測(cè)序列的隨機(jī)過(guò)程才能表現(xiàn)出來(lái)觀察到的事件與狀態(tài)并不是一一對(duì)應(yīng)，而是通過(guò)一組概率分布相聯(lián)系

HMM是一個(gè)雙重隨機(jī)過(guò)程，兩個(gè)組成部分：

馬爾可夫鏈：描述狀態(tài)的轉(zhuǎn)移，用轉(zhuǎn)移概率描述。

一般隨機(jī)過(guò)程：描述狀態(tài)與觀察序列間的關(guān)系，用觀察值概率描述。HMM概念HMM的狀態(tài)是不確定或不可見(jiàn)的，只有通過(guò)觀測(cè)序列的Markov鏈（,A）隨機(jī)過(guò)程（B）狀態(tài)序列觀察值序列q1,q2,...,qTo1,o2,...,oTHMM的組成示意圖HMM組成Markov鏈隨機(jī)過(guò)程狀態(tài)序列觀察值序列q1,q2,..HMM的基本要素用模型五元組＝（N,M,π，A，B）用來(lái)描述HMM，或簡(jiǎn)寫(xiě)為=(π，A，B)參數(shù)含義實(shí)例N狀態(tài)數(shù)目缸的數(shù)目M每個(gè)狀態(tài)可能的觀察值數(shù)目彩球顏色數(shù)目A與時(shí)間無(wú)關(guān)的狀態(tài)轉(zhuǎn)移概率矩陣在選定某個(gè)缸的情況下，選擇另一個(gè)缸的概率B給定狀態(tài)下，觀察值概率分布每個(gè)缸中的顏色分布p初始狀態(tài)空間的概率分布初始時(shí)選擇某口缸的概率HMM的基本要素用模型五元組＝（N,M,πHMM可解決的問(wèn)題問(wèn)題1：給定觀察序列O=O1,O2,…OT,以及模型,如何計(jì)算P(O|λ)？問(wèn)題2：給定觀察序列O=O1,O2,…OT以及模型λ,如何選擇一個(gè)對(duì)應(yīng)的狀態(tài)序列S=q1,q2,…qT，使得S能夠最為合理的解釋觀察序列O？問(wèn)題3：如何調(diào)整模型參數(shù),使得P(O|λ)最大？HMM可解決的問(wèn)題問(wèn)題1：給定觀察序列O=O1,O2,…OT解決問(wèn)題1