第四章不確定性推理教程以及答案

1、4.1 4.1 不確定性推理中的基本問(wèn)題不確定性推理中的基本問(wèn)題 要實(shí)現(xiàn)對(duì)不確定性知識(shí)的處理，必須要解決不要實(shí)現(xiàn)對(duì)不確定性知識(shí)的處理，必須要解決不確定知識(shí)的表示問(wèn)題，不確定信息的計(jì)算問(wèn)題，以確定知識(shí)的表示問(wèn)題，不確定信息的計(jì)算問(wèn)題，以及不確定性表示和計(jì)算的語(yǔ)義解釋問(wèn)題。及不確定性表示和計(jì)算的語(yǔ)義解釋問(wèn)題。1 1表示問(wèn)題表示問(wèn)題1 1、知識(shí)不確定性的表示、知識(shí)不確定性的表示2 2、證據(jù)的不確定性表示、證據(jù)的不確定性表示2. 2. 計(jì)算問(wèn)題計(jì)算問(wèn)題1 1、不確定性的傳遞算法、不確定性的傳遞算法2 2、結(jié)論不確定性的合成、結(jié)論不確定性的合成3 3、組合證據(jù)的不確定性算法、組合證據(jù)的不確定性算法3.

2、3. 語(yǔ)義問(wèn)題語(yǔ)義問(wèn)題1 1、知識(shí)的不確定性度量、知識(shí)的不確定性度量2 2、證據(jù)的不確定性度量、證據(jù)的不確定性度量4.2 4.2 不確定性推理方法分類不確定性推理方法分類1 1、模型方法、模型方法 特點(diǎn)特點(diǎn):把不確定的證據(jù)和不確定的知識(shí)分別與某把不確定的證據(jù)和不確定的知識(shí)分別與某種度量標(biāo)準(zhǔn)對(duì)應(yīng)起來(lái)，并且給出更新結(jié)論不確定性的種度量標(biāo)準(zhǔn)對(duì)應(yīng)起來(lái)，并且給出更新結(jié)論不確定性的算法，從而構(gòu)成了相應(yīng)的不確定性推理的模型。算法，從而構(gòu)成了相應(yīng)的不確定性推理的模型。非數(shù)值方法是指出數(shù)值方法外的其他各種處非數(shù)值方法是指出數(shù)值方法外的其他各種處理不確定性的方法理不確定性的方法 , ,它采用集合來(lái)描述和處它采用集

3、合來(lái)描述和處理不確定性，而且滿足概率推理的性質(zhì)。理不確定性，而且滿足概率推理的性質(zhì)。非數(shù)值非數(shù)值方法方法數(shù)值方法是對(duì)不確定性的一種定量表示和數(shù)值方法是對(duì)不確定性的一種定量表示和處理方法。處理方法。數(shù)值方法數(shù)值方法數(shù)值方法數(shù)值方法分類分類2 2、模糊推理、模糊推理1 1、基于概基于概率的方法率的方法 對(duì)于數(shù)值方法，按其依據(jù)的理論不同又可分為對(duì)于數(shù)值方法，按其依據(jù)的理論不同又可分為以下兩類：以下兩類： 4.2 4.2 不確定性推理方法分類不確定性推理方法分類4.2 4.2 不確定性推理方法分類不確定性推理方法分類 純概率方法雖然有嚴(yán)密的理論依據(jù)，但它通常要求給出事件的先驗(yàn)純概率方法雖然有嚴(yán)密的理論

4、依據(jù)，但它通常要求給出事件的先驗(yàn)概率和條件概率，而這些數(shù)據(jù)又不易獲得，因此其應(yīng)用受到了限制。為概率和條件概率，而這些數(shù)據(jù)又不易獲得，因此其應(yīng)用受到了限制。為了解決這這個(gè)問(wèn)題，人們?cè)诟怕世碚摰幕A(chǔ)上發(fā)展起來(lái)了一些新的方法了解決這這個(gè)問(wèn)題，人們?cè)诟怕世碚摰幕A(chǔ)上發(fā)展起來(lái)了一些新的方法及理論及理論: : 1 1、主觀、主觀BayesBayes方法方法2 2、可信度方法、可信度方法3 3、證據(jù)理論、證據(jù)理論它是它是PROSPECTORPROSPECTOR專專家系統(tǒng)中使用的不家系統(tǒng)中使用的不確定推理模型，是確定推理模型，是對(duì)對(duì)BayesBayes公式修正公式修正后形成的一種不確后形成的一種不確定推理方法

5、。定推理方法。 它是它是MYCINMYCIN專家系專家系統(tǒng)中使用的不確定統(tǒng)中使用的不確定推理模型，它以確推理模型，它以確定性理論為基礎(chǔ)，定性理論為基礎(chǔ)，方法簡(jiǎn)單、易用。方法簡(jiǎn)單、易用。它通過(guò)定義信任它通過(guò)定義信任函數(shù)、似然函數(shù)，函數(shù)、似然函數(shù)，把知道和不知道把知道和不知道區(qū)別開(kāi)來(lái)。區(qū)別開(kāi)來(lái)。4.2 4.2 不確定性推理方法分類不確定性推理方法分類2 2、控制方法控制方法 特點(diǎn)特點(diǎn): :通過(guò)識(shí)別領(lǐng)域中引起不確定性的某些特征及通過(guò)識(shí)別領(lǐng)域中引起不確定性的某些特征及相應(yīng)的控制策略來(lái)限制或減少不確定性對(duì)系統(tǒng)產(chǎn)生的相應(yīng)的控制策略來(lái)限制或減少不確定性對(duì)系統(tǒng)產(chǎn)生的影響，這類方法沒(méi)有處理不確定性的統(tǒng)一模型，其

6、效影響，這類方法沒(méi)有處理不確定性的統(tǒng)一模型，其效果極大地依賴于控制策略。果極大地依賴于控制策略。相關(guān)性制相關(guān)性制導(dǎo)回溯導(dǎo)回溯 機(jī)緣控制機(jī)緣控制 啟發(fā)式啟發(fā)式搜索搜索 設(shè)有如下產(chǎn)生式規(guī)則：設(shè)有如下產(chǎn)生式規(guī)則： IF IF E E THEN THEN H H其中，其中，E E為前提條件，為前提條件，H H為結(jié)論，具有隨機(jī)性。為結(jié)論，具有隨機(jī)性。 根據(jù)概率論中條件概率的含義，我們可以用條件概率根據(jù)概率論中條件概率的含義，我們可以用條件概率表示上述產(chǎn)生式規(guī)則的不確定性程度，即表示為在證據(jù)表示上述產(chǎn)生式規(guī)則的不確定性程度，即表示為在證據(jù)出現(xiàn)的條件下，結(jié)論出現(xiàn)的條件下，結(jié)論H H成立的確定性程度。成立的確

7、定性程度。 對(duì)于復(fù)合條件對(duì)于復(fù)合條件 E E = = E E1 1 ANDAND E E2 2 ANDAND AND AND EnEn可以用條件概率作為在證據(jù)出現(xiàn)時(shí)結(jié)論的確定程度?？梢杂脳l件概率作為在證據(jù)出現(xiàn)時(shí)結(jié)論的確定程度。4.3 4.3 概率方法概率方法4.3.1 4.3.1 經(jīng)典概率方法經(jīng)典概率方法4.3 4.3 概率方法概率方法4.3.2 Bayes4.3.2 Bayes定理定理 設(shè)設(shè) 為一些事件，為一些事件， 互不互不相交，相交，P P( (BiBi)0)0，i i=1,2,=1,2, ,n n，且，且 則對(duì)于則對(duì)于 有，有， (4.3.1) (4.3.1)() (|)(|)() (

8、|)kkkiiiP B P A BP BAP B P A B12,nA B BB12( )0,nP AB BBiiBP)1( Bayes Bayes公式容易由條件概率的定義、乘法公式和全公式容易由條件概率的定義、乘法公式和全概率公式得到。在概率公式得到。在BayesBayes公式中，稱為先驗(yàn)概率，而稱公式中，稱為先驗(yàn)概率，而稱為后驗(yàn)概率，也就是條件概率。為后驗(yàn)概率，也就是條件概率。1,2,kn4.3 4.3 概率方法概率方法4.3.3 4.3.3 逆概率方法的基本思想逆概率方法的基本思想1 1單個(gè)證據(jù)的情況單個(gè)證據(jù)的情況 如果用產(chǎn)生式規(guī)則如果用產(chǎn)生式規(guī)則 IF IF E E THEN THEN

9、 H Hi i i i 1, 2, , 1, 2, , n n其中前提條件其中前提條件E E 代替代替BayesBayes公式中公式中B B，用，用H Hi i 代替公式中的代替公式中的A Ai i 就可得到就可得到 i i1,2, ,1,2, ,n n (4.3.2)(4.3.2) 這就是說(shuō)，當(dāng)已知結(jié)論這就是說(shuō)，當(dāng)已知結(jié)論HiHi 的先驗(yàn)概率，并且已知結(jié)論的先驗(yàn)概率，并且已知結(jié)論Hi(i=1,2,Hi(i=1,2,）成立時(shí)前提條件成立時(shí)前提條件E E 所對(duì)應(yīng)的證據(jù)出現(xiàn)的條件概率所對(duì)應(yīng)的證據(jù)出現(xiàn)的條件概率P(E|Hi)P(E|Hi)，就可以用上，就可以用上式 求 出 相 應(yīng) 證 據(jù) 出 現(xiàn) 時(shí)

10、 結(jié) 論式 求 出 相 應(yīng) 證 據(jù) 出 現(xiàn) 時(shí) 結(jié) 論H iH i 的 條 件 概 率的 條 件 概 率P ( H i | E )P ( H i | E )。1(|) ()(|)(|) ()iiinjjjP E H P HP HEP E HP H4.3 4.3 概率方法概率方法2 2多個(gè)證據(jù)的情況多個(gè)證據(jù)的情況 對(duì)于有多個(gè)證據(jù)對(duì)于有多個(gè)證據(jù) 和多個(gè)結(jié)論和多個(gè)結(jié)論 并且每個(gè)證據(jù)都以一定程度支持結(jié)論的情況，上面的并且每個(gè)證據(jù)都以一定程度支持結(jié)論的情況，上面的式子可進(jìn)一步擴(kuò)充為式子可進(jìn)一步擴(kuò)充為 (4.3.3)(4.3.3) 12,mE EE12,nHHH1212121(/) (/)(/) ()(/

11、)(/) (/)(/) ()iimiiimnjjmjjjP EH P EHP EH P HP HE EEP EH P EHP EH P H 逆概率公式的優(yōu)點(diǎn)是它有較強(qiáng)的理論背景和良好逆概率公式的優(yōu)點(diǎn)是它有較強(qiáng)的理論背景和良好的數(shù)學(xué)特征，當(dāng)證據(jù)及結(jié)論彼此獨(dú)立時(shí)計(jì)算的復(fù)雜度的數(shù)學(xué)特征，當(dāng)證據(jù)及結(jié)論彼此獨(dú)立時(shí)計(jì)算的復(fù)雜度比較低。其缺點(diǎn)是要求給出結(jié)論比較低。其缺點(diǎn)是要求給出結(jié)論 的先驗(yàn)概率的先驗(yàn)概率 及及證據(jù)證據(jù) 的條件概率的條件概率 ，盡管有些時(shí)候，盡管有些時(shí)候 比比 相對(duì)容易得到，但總的來(lái)說(shuō)，要想得到這相對(duì)容易得到，但總的來(lái)說(shuō)，要想得到這些數(shù)據(jù)仍然是一件相當(dāng)困難的工作。另外，些數(shù)據(jù)仍然是一件相當(dāng)困

12、難的工作。另外，BayesBayes公式公式的應(yīng)用條件是很嚴(yán)格的，它要求各事件互相獨(dú)立等，的應(yīng)用條件是很嚴(yán)格的，它要求各事件互相獨(dú)立等，如若證據(jù)間存在依賴關(guān)系，就不能直接使用這個(gè)方法。如若證據(jù)間存在依賴關(guān)系，就不能直接使用這個(gè)方法。4.3 4.3 概率方法概率方法()iP HjE4.3.4 4.3.4 逆概率方法的優(yōu)缺點(diǎn)逆概率方法的優(yōu)缺點(diǎn)iH(/)jiP EH(/)ijPHE(/)jiP EH4.4 4.4 主觀主觀BayesBayes方法方法4.4.1 4.4.1 知識(shí)不確定性的表示知識(shí)不確定性的表示 在主觀在主觀BayesBayes方法中，知識(shí)是用產(chǎn)生式規(guī)則表示的，具體方法中，知識(shí)是用產(chǎn)生

13、式規(guī)則表示的，具體形式為形式為 IF E THEN (LSIF E THEN (LS，LN) H (P(H)LN) H (P(H)其中其中（1 1）E E 是該知識(shí)的前提條件。它既可以是一個(gè)簡(jiǎn)單條件，也可是該知識(shí)的前提條件。它既可以是一個(gè)簡(jiǎn)單條件，也可以是復(fù)合條件。以是復(fù)合條件。（2 2）H H 是結(jié)論。是結(jié)論。P(H)P(H)是是 H H 的先驗(yàn)概率，它指出在沒(méi)有任何證據(jù)的先驗(yàn)概率，它指出在沒(méi)有任何證據(jù)情況下的結(jié)論情況下的結(jié)論 H H 為真的概率，即為真的概率，即 H H 的一般可能性。其值由領(lǐng)的一般可能性。其值由領(lǐng)域?qū)＜腋鶕?jù)以往的實(shí)踐及經(jīng)驗(yàn)給出。域?qū)＜腋鶕?jù)以往的實(shí)踐及經(jīng)驗(yàn)給出。（3 3）（

14、LSLS，LNLN）為規(guī)則強(qiáng)度。其值由領(lǐng)域?qū)＜医o出。為規(guī)則強(qiáng)度。其值由領(lǐng)域?qū)＜医o出。LSLS，LNLN相相當(dāng)于知識(shí)的靜態(tài)強(qiáng)度。當(dāng)于知識(shí)的靜態(tài)強(qiáng)度。4.4 4.4 主觀主觀BayesBayes方法方法4.4.2 4.4.2 證據(jù)不確定性的表示證據(jù)不確定性的表示 若以若以O(shè)(A) O(A) 或或P P( (A A) )表示證據(jù)表示證據(jù)A A的不確定性，則轉(zhuǎn)換公式的不確定性，則轉(zhuǎn)換公式是：是： 0( )( )1( )0,P AO AP A當(dāng)A為假時(shí)當(dāng)A為真時(shí)當(dāng)A介于真假之間時(shí)4.4 4.4 主觀主觀BayesBayes方法方法4.4.3 4.4.3 不確定性的遺傳算法不確定性的遺傳算法1 1證據(jù)肯定

15、存在的情況證據(jù)肯定存在的情況 在證據(jù)在證據(jù)E E 肯定存在時(shí)，把先驗(yàn)幾率肯定存在時(shí)，把先驗(yàn)幾率O O( (H H) )更新為后驗(yàn)更新為后驗(yàn)幾率幾率O O( (H H/ /E E) )的計(jì)算公式為的計(jì)算公式為 (4.4.1) (4.4.1) 如果將上式換成概率，就可得到如果將上式換成概率，就可得到 (4.4.2)(4.4.2) 這是把先驗(yàn)概率這是把先驗(yàn)概率P P( (H H) )更新為后驗(yàn)概率更新為后驗(yàn)概率P P( (H H/ /E E) )的計(jì)算公式。的計(jì)算公式。(/)()O H ELSO H()(/)(1)() 1LSP HP H ELSP H4.4 4.4 主觀主觀BayesBayes方法

16、方法2 2證據(jù)肯定不存在的情況證據(jù)肯定不存在的情況 在證據(jù)在證據(jù)E E肯定不存在時(shí)，把先驗(yàn)幾率肯定不存在時(shí)，把先驗(yàn)幾率O(H)O(H)更新為后驗(yàn)更新為后驗(yàn)幾率幾率O O( (H H/ /E E) )的計(jì)算公式為的計(jì)算公式為 (4.4.3) (4.4.3) 如果將上式換成概率，就可得到如果將上式換成概率，就可得到 (4.4.4)(4.4.4) 這是把先驗(yàn)概率這是把先驗(yàn)概率P P( (H H) )更新為后驗(yàn)概率更新為后驗(yàn)概率P P( (H H/ /E E) )的計(jì)算公式。的計(jì)算公式。(/)()O HELNO H()(/)(1)() 1LNP HP HELNP H4.4 4.4 主觀主觀BayesB

17、ayes方法方法3 3證據(jù)不確定的情況證據(jù)不確定的情況 在證據(jù)不確定的情況下，不能再用上面的公式計(jì)算在證據(jù)不確定的情況下，不能再用上面的公式計(jì)算后驗(yàn)概率，而要用杜達(dá)等人后驗(yàn)概率，而要用杜達(dá)等人19761976年證明了的公式年證明了的公式 (4.4.5)(4.4.5) 來(lái)計(jì)算。來(lái)計(jì)算。(/ )(/)(/ )(/)(/ )P H SP H EP E SP HEPE S下面分四種情況討論這個(gè)公式下面分四種情況討論這個(gè)公式(4.4.5)(4.4.5)：（1 1）當(dāng)）當(dāng)P(E/S)=1P(E/S)=1時(shí)，此時(shí)式時(shí)，此時(shí)式(4.4.5)(4.4.5)變成變成這就是證據(jù)肯定存在的情況。這就是證據(jù)肯定存在的情

18、況。（2 2）當(dāng)）當(dāng)P(E/S)=0P(E/S)=0時(shí)，此時(shí)式時(shí)，此時(shí)式(4.4.5)(4.4.5)變成變成這就是證據(jù)肯定不存在的情況。這就是證據(jù)肯定不存在的情況。4.4 4.4 主觀主觀BayesBayes方法方法()(/ )(/)(1)()1LSP HP H SP H ELSP H1)() 1()()/()/(HPLNHPLNEHPSHP（3 3）當(dāng)）當(dāng)P(E/S)=P(E)P(E/S)=P(E)時(shí)，表示時(shí)，表示E E與與S S無(wú)關(guān)，利用全概率公式無(wú)關(guān)，利用全概率公式將公式將公式(4.4.5)(4.4.5)變?yōu)樽優(yōu)椋? 4）當(dāng)）當(dāng)P(E/S)P(E/S)為其它值時(shí)，通過(guò)分段線性插值就可得計(jì)

19、為其它值時(shí)，通過(guò)分段線性插值就可得計(jì)算算P(H/S)P(H/S)的公式的公式 該公式稱為該公式稱為EHEH公式或公式或UEDUED公式。公式。4.4 4.4 主觀主觀BayesBayes方法方法(/(/)( )(/)()()P H SP H EP EP HEPEP H）()(/)(/)( / )( )0( / )( )(/ )(/)()( )( / )1() ( / )( )1( )P HP HEP HEP E SP EP E SP EP H SP H EP HP EP E SP HP E SP EP E當(dāng)當(dāng) 4 4組合證據(jù)的情況組合證據(jù)的情況 （1 1）當(dāng)組合證據(jù)是多個(gè)單一證據(jù)的合取時(shí)，即）

20、當(dāng)組合證據(jù)是多個(gè)單一證據(jù)的合取時(shí)，即 E E = = E E1 and 1 and E E2 and 2 and and and EnEn 時(shí)，如果已知時(shí)，如果已知 則則 P P( (E E/ /S S)=)=minmin （2 2）當(dāng)組合證據(jù)）當(dāng)組合證據(jù)E E是多個(gè)單一證據(jù)的析取時(shí)，即是多個(gè)單一證據(jù)的析取時(shí)，即 E E = = E E1 or 1 or E E2 or 2 or or or EnEn 時(shí)，如果已知時(shí)，如果已知 則，則， P P( (E E/ /S S)=)=maxmax “非非”運(yùn)算用下式計(jì)算運(yùn)算用下式計(jì)算 4.4 4.4 主觀主觀BayesBayes方法方法12(/ ),

21、(/ ), (/ ),nP ESP ESP ES12(/),(/),(/)nP ESP ESP ES12(/),(/),(/)nP ESP ESP ES12(/ ),(/ ),(/ )nP ESP ESP ES(/)1(/)PESP ES 若有若有n n條知識(shí)都支持相同的結(jié)論條知識(shí)都支持相同的結(jié)論，而且每條知識(shí)的，而且每條知識(shí)的前提條件所對(duì)應(yīng)的證據(jù)前提條件所對(duì)應(yīng)的證據(jù) 都有相應(yīng)的觀察都有相應(yīng)的觀察 與之對(duì)應(yīng)，此時(shí)只要先對(duì)每條知識(shí)分別求出與之對(duì)應(yīng)，此時(shí)只要先對(duì)每條知識(shí)分別求出 然后就可運(yùn)用下述公式求出然后就可運(yùn)用下述公式求出4.4 4.4 主觀主觀BayesBayes方法方法iS(/)iO HS

22、4.4.4 4.4.4 結(jié)論不確定性的合成算法結(jié)論不確定性的合成算法iS(1,2, )iE in12(/,)nO H S SS12121212,1,2(/)(/)(/)(/,)()()()()(/,)(/,)1(/,)nnnnnO H SO H SO H SO H S SSO HO HO HO HO H S SSP H S SSO H S SS 4.4 4.4 主觀主觀BayesBayes方法方法例例2 2 設(shè)有如下知識(shí)設(shè)有如下知識(shí)R R1 1：IF IF A A THEN (20 THEN (20，1) 1) B B1 1(0.03)(0.03)R R2 2：IF IF B B1 1 THE

23、N (300 THEN (300，0.0001) 0.0001) B B2 2(0.01)(0.01)求：當(dāng)證據(jù)求：當(dāng)證據(jù)A A不存在時(shí)不存在時(shí), ,P(BP(B2 2 / /A)A)的值是多少？的值是多少？ 解解: :（1 1）由于）由于A A必發(fā)生，由必發(fā)生，由R R1 1得得111()200.03(/)0.3822(1)()1(201)0.031LSP BP BALSP B （2 2）由于）由于B B1 1不是必發(fā)生的，所以需作插值處理。不是必發(fā)生的，所以需作插值處理。21212( )300 0.01( / ) 1(/ )0.75188(1)( ) 1 (300 1) 0.03 1LS

24、P BP B AP B BLSP B 設(shè)設(shè)4.4.5 4.4.5 例子例子 4.4 4.4 主觀主觀BayesBayes方法方法11(/)()0.03P BAP B2()0.01P B1(/)0.03,1P BA 20.751880.01(/)0.01(0.38220.03)0.30510510.03P BA當(dāng)當(dāng)時(shí)，有時(shí)，有，所以在此區(qū)間插值。，所以在此區(qū)間插值。由于由于 主觀主觀BayesBayes方法的主要優(yōu)點(diǎn)如下：方法的主要優(yōu)點(diǎn)如下：（1 1）主觀）主觀BayesBayes方法中的計(jì)算公式大多是在概率論的基方法中的計(jì)算公式大多是在概率論的基礎(chǔ)上推導(dǎo)出來(lái)的，具有較堅(jiān)實(shí)的理論基礎(chǔ)。礎(chǔ)上推導(dǎo)出

25、來(lái)的，具有較堅(jiān)實(shí)的理論基礎(chǔ)。（2 2）知識(shí)的靜態(tài)強(qiáng)度）知識(shí)的靜態(tài)強(qiáng)度LSLS及及LNLN是由領(lǐng)域?qū)＜腋鶕?jù)實(shí)驗(yàn)經(jīng)驗(yàn)是由領(lǐng)域?qū)＜腋鶕?jù)實(shí)驗(yàn)經(jīng)驗(yàn)給出的，這就避免了大量的數(shù)據(jù)統(tǒng)計(jì)工作。另外，它給出的，這就避免了大量的數(shù)據(jù)統(tǒng)計(jì)工作。另外，它既用既用LSLS指出了證據(jù)指出了證據(jù)E E對(duì)結(jié)論對(duì)結(jié)論H H的支持程度，又用的支持程度，又用LNLN指出指出了了E E對(duì)對(duì)H H的必要性程度，這就比較全面地反映了證據(jù)與的必要性程度，這就比較全面地反映了證據(jù)與結(jié)論間因果關(guān)系，符合現(xiàn)實(shí)世界中某些領(lǐng)域的實(shí)際情結(jié)論間因果關(guān)系，符合現(xiàn)實(shí)世界中某些領(lǐng)域的實(shí)際情況，使推出的結(jié)論有較況，使推出的結(jié)論有較準(zhǔn)確的確定性。準(zhǔn)確的確定性。4.

26、4 4.4 主觀主觀BayesBayes方法方法4.4.6 4.4.6 主觀主觀BayesBayes方法的主要優(yōu)缺點(diǎn)方法的主要優(yōu)缺點(diǎn)（3 3）主觀）主觀BayesBayes方法不僅給出了在證據(jù)肯定存在或肯定方法不僅給出了在證據(jù)肯定存在或肯定不存在情況下由不存在情況下由H H的先驗(yàn)概率更新為后驗(yàn)概率的方法，的先驗(yàn)概率更新為后驗(yàn)概率的方法，而且還給出了在證據(jù)不確定情況下更新先驗(yàn)概率為后驗(yàn)而且還給出了在證據(jù)不確定情況下更新先驗(yàn)概率為后驗(yàn)概率的方法。另外，由其推理過(guò)程可以看出，它確實(shí)實(shí)概率的方法。另外，由其推理過(guò)程可以看出，它確實(shí)實(shí)現(xiàn)了不確定性的逐級(jí)傳遞。因此，可以說(shuō)主觀現(xiàn)了不確定性的逐級(jí)傳遞。因此，

27、可以說(shuō)主觀BayesBayes方方法是一種比較實(shí)用且較靈活的不確定性推理方法。法是一種比較實(shí)用且較靈活的不確定性推理方法。 它的主要缺點(diǎn)如下它的主要缺點(diǎn)如下（1 1）要求領(lǐng)域?qū)＜以诮o出知識(shí)的同時(shí)給出）要求領(lǐng)域?qū)＜以诮o出知識(shí)的同時(shí)給出H H的先驗(yàn)概率的先驗(yàn)概率P(H)P(H)，這是比較困難的。，這是比較困難的。（2 2）BayesBayes方法中關(guān)于事件間獨(dú)立性的要求使主觀方法中關(guān)于事件間獨(dú)立性的要求使主觀BayesBayes方法的應(yīng)用受到了限制。方法的應(yīng)用受到了限制。4.4 4.4 主觀主觀BayesBayes方法方法 所謂可信度就是在實(shí)際生活中根據(jù)自己的經(jīng)驗(yàn)對(duì)某一事所謂可信度就是在實(shí)際生活中

28、根據(jù)自己的經(jīng)驗(yàn)對(duì)某一事物或現(xiàn)象進(jìn)行觀察，判斷相信其為真得程度。物或現(xiàn)象進(jìn)行觀察，判斷相信其為真得程度。 例如，張三昨天沒(méi)有上課，他的理由是肚子疼，就此理由例如，張三昨天沒(méi)有上課，他的理由是肚子疼，就此理由而言，聽(tīng)話的人可能完全相信，也可能完全不相信，也可能而言，聽(tīng)話的人可能完全相信，也可能完全不相信，也可能在某種程度上相信，這與張三平時(shí)的表現(xiàn)和人們對(duì)他的話相在某種程度上相信，這與張三平時(shí)的表現(xiàn)和人們對(duì)他的話相信程度有關(guān)。信程度有關(guān)。 這里的相信程度就是我們說(shuō)的可信度。可信度也稱為確定這里的相信程度就是我們說(shuō)的可信度?？尚哦纫卜Q為確定性因子。性因子。4.5 4.5 可信度方法可信度方法4.5.1

29、 4.5.1 可信度的概念可信度的概念 在以產(chǎn)生式作為知識(shí)表示的專家系統(tǒng)在以產(chǎn)生式作為知識(shí)表示的專家系統(tǒng)MYCINMYCIN中，用中，用以度量知識(shí)和證據(jù)的不確定性。以度量知識(shí)和證據(jù)的不確定性。 顯然，可信度具有較大的主觀性和經(jīng)驗(yàn)性，其準(zhǔn)顯然，可信度具有較大的主觀性和經(jīng)驗(yàn)性，其準(zhǔn)確性是難以把握的。但是，對(duì)于某一具體領(lǐng)域而言，由確性是難以把握的。但是，對(duì)于某一具體領(lǐng)域而言，由于該領(lǐng)域的專家具有豐富的專業(yè)知識(shí)和實(shí)踐經(jīng)驗(yàn)，要給于該領(lǐng)域的專家具有豐富的專業(yè)知識(shí)和實(shí)踐經(jīng)驗(yàn)，要給出該領(lǐng)域知識(shí)的可信度還是完全有可能的。另外，人工出該領(lǐng)域知識(shí)的可信度還是完全有可能的。另外，人工智能所面臨的問(wèn)題，通常都較難用精確

30、的數(shù)學(xué)模型進(jìn)行智能所面臨的問(wèn)題，通常都較難用精確的數(shù)學(xué)模型進(jìn)行描述，而且先驗(yàn)概率及條件概率的確定也比較困難，因描述，而且先驗(yàn)概率及條件概率的確定也比較困難，因此用可信度來(lái)表示知識(shí)及證據(jù)的不確定性仍然不失為一此用可信度來(lái)表示知識(shí)及證據(jù)的不確定性仍然不失為一種可行的方法。種可行的方法。4.5 4.5 可信度方法可信度方法4.5 4.5 可信度方法可信度方法4.5.2 C-F4.5.2 C-F模型模型 C-F C-F模型是基于可信度表示的不確定性推理的基本方法，模型是基于可信度表示的不確定性推理的基本方法，其他可信度方法都是在此基礎(chǔ)上發(fā)展起來(lái)的。其他可信度方法都是在此基礎(chǔ)上發(fā)展起來(lái)的。1 1知識(shí)不確

31、定性的表示知識(shí)不確定性的表示 2 2證據(jù)不確定性的表示證據(jù)不確定性的表示3 3組合證據(jù)不確定性的算法組合證據(jù)不確定性的算法 4 4不確定性的傳遞算法不確定性的傳遞算法 5 5結(jié)論不確定性的合成算法結(jié)論不確定性的合成算法 4.5 4.5 可信度方法可信度方法4.5.3 4.5.3 可信度方法應(yīng)用舉例可信度方法應(yīng)用舉例 已知已知 R R1 1：IF IF A A1 1 THEN THEN B B1 1 CF( CF(B B1 1,A,A1 1)=0.8)=0.8； R R2 2: IF : IF A A2 2 THEN THEN B B1 1 CF( CF(B B1 1,A,A2 2)=0.5)=

32、0.5； R R3 3: IF : IF B B1 1A A3 3 THEN THEN B B2 2 CF( CF(B B2 2, ,B B1 1A A3 3)=0.8;)=0.8;初始證據(jù)為初始證據(jù)為A A1 1,A,A2 2,A,A3 3的可信度的可信度CFCF均設(shè)為均設(shè)為1 1，即即,CF(,CF(A A1 1)= CF()= CF(A A2 2)= CF()= CF(A A3 3)=1,)=1,對(duì)對(duì)B B1 1,B,B2 2一無(wú)所知一無(wú)所知, ,求求CF(CF(B B1 1) )和和CF(CF(B B2 2) )。例例4.5.14.5.14.5 4.5 可信度方法可信度方法 解解: :

33、由于對(duì)由于對(duì)B B1 1, ,B B2 2一無(wú)所知，所以使用合成算法進(jìn)行計(jì)算。一無(wú)所知，所以使用合成算法進(jìn)行計(jì)算。由題意得到推理網(wǎng)絡(luò)如下圖所示。由題意得到推理網(wǎng)絡(luò)如下圖所示。B B2 2B B1 1A A3 3A A1 1A A2 24.5 4.5 可信度方法可信度方法(1)(1)對(duì)于知識(shí)對(duì)于知識(shí) , ,分別計(jì)算分別計(jì)算 12,RR1()CF B1111121122()(,)max0,()0.8 10.8()(,)max0,()0.5 10.5CF BCF B ACF ACF BCF B ACF A (2)(2)利用合成算法計(jì)算利用合成算法計(jì)算 的綜合可信度的綜合可信度1B1,21121112

34、1()()()()0.80.50.8 0.50.9CFCF BCF BCF BCF B(3)(3)計(jì)算計(jì)算 的可信度，這時(shí)，的可信度，這時(shí)， 作為作為 的證據(jù)，其可信度已由的證據(jù)，其可信度已由前面計(jì)算出來(lái)。前面計(jì)算出來(lái)。CF( )=0.9CF( )=0.9，而，而 的可信度為初始制定的的可信度為初始制定的1 1。由規(guī)則由規(guī)則 和公式和公式(4.5.1)(4.5.1)得到得到 2B1B2B1B3A3R所以，所求得的所以，所求得的 ， 的可信度更新值分別為的可信度更新值分別為12()0.9,()0.72CF BCF B1B2B72. 09 . 0 , 0max8 . 0)(, 0max),()(3

35、13122ABCFABBCFBCF4.6 4.6 證據(jù)理論證據(jù)理論4.6.1 4.6.1 基本概念基本概念 證據(jù)理論假設(shè)有一個(gè)不變的兩兩相斥的完備元素集合證據(jù)理論假設(shè)有一個(gè)不變的兩兩相斥的完備元素集合U U，如下圖所示，這里如下圖所示，這里U U為為 12,nUA AA例如例如, ,U U =三輪車，汽車，火車三輪車，汽車，火車 U U = =赤，橙，黃，綠，青，藍(lán)，紫赤，橙，黃，綠，青，藍(lán)，紫 U U = =馬，牛，羊，雞，狗，兔馬，牛，羊，雞，狗，兔 圖圖4.4 4.4 證據(jù)理論說(shuō)明圖證據(jù)理論說(shuō)明圖4.6 4.6 證據(jù)理論證據(jù)理論4.6.2 D-S4.6.2 D-S理論理論 證據(jù)理論是用集

36、合表示命題的。設(shè)證據(jù)理論是用集合表示命題的。設(shè)D D是變量是變量x x所有可能所有可能取值的集合，且取值的集合，且D D中的元素是互斥的，在任一時(shí)刻中的元素是互斥的，在任一時(shí)刻x x都取都取D D中中的某一個(gè)元素為值，則稱的某一個(gè)元素為值，則稱D D為為x x的樣本空間。在證據(jù)理論中，的樣本空間。在證據(jù)理論中，D D的任何一個(gè)子集的任何一個(gè)子集A A都對(duì)應(yīng)于一個(gè)關(guān)于都對(duì)應(yīng)于一個(gè)關(guān)于x x的命題，稱該命題為的命題，稱該命題為“x x的值在的值在A A中中”。 證據(jù)理論中，為了描述和處理不確定性，引入了概率分證據(jù)理論中，為了描述和處理不確定性，引入了概率分配函數(shù)、信任函數(shù)及似然函數(shù)等概念。配函數(shù)、

37、信任函數(shù)及似然函數(shù)等概念。 設(shè)設(shè)D D為樣本空間，領(lǐng)域內(nèi)的命題都用為樣本空間，領(lǐng)域內(nèi)的命題都用D D的子集表示，則概的子集表示，則概率分配函數(shù)（率分配函數(shù)（Function of Probability AssignmentFunction of Probability Assignment）定義）定義如下。如下。定義定義4.6.1 4.6.1 設(shè)函數(shù)設(shè)函數(shù)M M： , ,且滿足且滿足則稱則稱M M是是 上的概率分配函數(shù)，上的概率分配函數(shù)，M M( (A A) )稱為稱為A A的基本概率的基本概率函數(shù)（函數(shù)（Function of Basic Probability AssignmentFun

38、ction of Basic Probability Assignment），），即對(duì)于樣本空間即對(duì)于樣本空間D D的任一子集都分配一個(gè)概率值。的任一子集都分配一個(gè)概率值。4.6 4.6 證據(jù)理論證據(jù)理論20,1D()0M ( )1ADM A1 1、概率分配函數(shù)、概率分配函數(shù)2D 定義定義4.6.2 4.6.2 設(shè)函數(shù)設(shè)函數(shù)BelBel： , ,且且 （ ）則稱為命題則稱為命題A A的信任函數(shù)（的信任函數(shù)（Function of BeliefFunction of Belief）, ,即命題即命題A A的信任函數(shù)值，就是的信任函數(shù)值，就是A A的所有子集的基本概率分配函數(shù)之和，的所有子集的基本

39、概率分配函數(shù)之和，用來(lái)表示對(duì)用來(lái)表示對(duì)A A的總信任。的總信任。BelBel函數(shù)又稱為下限函數(shù)，以函數(shù)又稱為下限函數(shù)，以BelBel（A A）表示對(duì)命題表示對(duì)命題A A為真的信任程度。為真的信任程度。4.6 4.6 證據(jù)理論證據(jù)理論20,1D( )( )BABel AM B2. 2. 信任函數(shù)信任函數(shù)2DA 似然函數(shù)（似然函數(shù)（Plausible FunctionPlausible Function）又稱為不可駁斥）又稱為不可駁斥函數(shù)或上限函數(shù)，下面給出它的定義。函數(shù)或上限函數(shù)，下面給出它的定義。 定義定義4.6.3 4.6.3 似然函數(shù)似然函數(shù): ,: ,且且 （ ） 命題命題A A的似然函

40、數(shù)值就是所有與的似然函數(shù)值就是所有與A A相交的子集的基本概相交的子集的基本概率分配函數(shù)之和，用來(lái)表示不否定率分配函數(shù)之和，用來(lái)表示不否定A A的信任度。的信任度。4.6 4.6 證據(jù)理論證據(jù)理論( )1()Pl ABelA 3. 3. 似然函數(shù)似然函數(shù) 1 , 02:Dpl2DA 因?yàn)橐驗(yàn)?，所以，所以即即 由于由于 表示對(duì)表示對(duì)A A為真的信任程度，為真的信任程度， 表表示對(duì)示對(duì)A A為非假的信任程度，因此可分別稱為非假的信任程度，因此可分別稱 和和 為對(duì)為對(duì)A A信任程度的下限和上限，記作信任程度的下限和上限，記作4.6 4.6 證據(jù)理論證據(jù)理論( )()( )( )( )1BACAED

41、Bel ABelAM BM CM E( )( )1()( )Pl ABel ABelABel A 1()( )0BelABel A 4 4信任函數(shù)與似然函數(shù)的關(guān)系信任函數(shù)與似然函數(shù)的關(guān)系( )( )Pl ABel A( )Bel A( )Pl A( ),( )A Bel A Pl A( )Bel A( )Pl A 有時(shí)對(duì)同樣的證據(jù)會(huì)得出兩個(gè)不同的概率分配函數(shù)。有時(shí)對(duì)同樣的證據(jù)會(huì)得出兩個(gè)不同的概率分配函數(shù)。例如，對(duì)于樣本空間例如，對(duì)于樣本空間 ，從不同的來(lái)源可分別得，從不同的來(lái)源可分別得到如下兩個(gè)概率分配函數(shù)：到如下兩個(gè)概率分配函數(shù)： 此時(shí)需要對(duì)它們進(jìn)行組合，德普斯特提出的組合方法此時(shí)需要對(duì)它們

42、進(jìn)行組合，德普斯特提出的組合方法可對(duì)這兩個(gè)概率分配函數(shù)進(jìn)行正交和運(yùn)算。可對(duì)這兩個(gè)概率分配函數(shù)進(jìn)行正交和運(yùn)算。4.6 4.6 證據(jù)理論證據(jù)理論 , Da b5 5概率分配函數(shù)的正交和概率分配函數(shù)的正交和11112222( )0.3,( )0.6,( , )0.1,( )0( )0.4,( )0.4,( , )0.2,( )0MaMbMa bMMaMbMa bM4.6 4.6 證據(jù)理論證據(jù)理論12MM和 設(shè)設(shè) 是兩個(gè)概率分配函數(shù)，則其正交和是兩個(gè)概率分配函數(shù)，則其正交和 為為 其中，其中， 。 如果如果 , ,則正交和則正交和M M也是一個(gè)概率分配函數(shù)；也是一個(gè)概率分配函數(shù)；如果如果K K0,0,

43、則不存在正交和則不存在正交和M M，稱，稱 矛盾。矛盾。 定義定義4.6.44.6.412MMM0)(MAYXYMXMKAM)()()(211YXYXYMXMYMXMK)()()()(121210K 12MM和4.6 4.6 證據(jù)理論證據(jù)理論定義定義4.6.54.6.5 對(duì)于多個(gè)概率分配函數(shù)對(duì)于多個(gè)概率分配函數(shù) ，如果它們，如果它們可以組合，則也可通過(guò)正交和運(yùn)算將它們組合為一個(gè)概率可以組合，則也可通過(guò)正交和運(yùn)算將它們組合為一個(gè)概率分配函數(shù)，其定義如下。分配函數(shù)，其定義如下。12,nMMM 設(shè)設(shè) 是是n n個(gè)概率分配函數(shù)，則其正交個(gè)概率分配函數(shù)，則其正交 和和 為為其中，其中， 。12,nM M

44、M12nMMMM11()0( )()iiiAAi nMM AKMA 1()iiiAinKMA 4.6 4.6 證據(jù)理論證據(jù)理論定義定義4.6.54.6.56 6類概率函數(shù)類概率函數(shù) 除了可以利用區(qū)間除了可以利用區(qū)間( (BelBel( (A A) )和和 ) )表示表示A A的不確定性的不確定性以外，還可以用以外，還可以用A A的類概率函數(shù)表示的類概率函數(shù)表示A A的不確定性。的不確定性。 定義定義4.6.6 4.6.6 命題命題A A的類概率函數(shù)為的類概率函數(shù)為 其中，分別是其中，分別是A A及及D D中元素的個(gè)數(shù)。中元素的個(gè)數(shù)。 具有如下性質(zhì)：具有如下性質(zhì)：( )Pl A( )( )( )

45、( )Af ABel APl ABel AD( )f A(1) ()0;(2) ()1;(3),0( )1ff DADf A 對(duì)于任何有4.6 4.6 證據(jù)理論證據(jù)理論4.6.3 4.6.3 知識(shí)的不確定性的表示知識(shí)的不確定性的表示 在該模型中，不確定性知識(shí)用如下的產(chǎn)生式規(guī)則表示：在該模型中，不確定性知識(shí)用如下的產(chǎn)生式規(guī)則表示： IF IF E E THEN CF = THEN CF = 其中，其中，（1 1）E E為前提條件，它是樣本空間為前提條件，它是樣本空間D D的子集。的子集。E E既可以是簡(jiǎn)單既可以是簡(jiǎn)單條件，也可以是用條件，也可以是用ANDAND或或OROR連接起來(lái)的復(fù)合條件。連接

46、起來(lái)的復(fù)合條件。（2 2）H H是結(jié)論，它用樣本空間中的子集表示，是結(jié)論，它用樣本空間中的子集表示， 是該子集中的元素。是該子集中的元素。（3 3）CF CF 是可信度因子，用集合形式表示，其中，用來(lái)指出是可信度因子，用集合形式表示，其中，用來(lái)指出 的可信度，的可信度， 與與 一一對(duì)應(yīng)一一對(duì)應(yīng), , 應(yīng)滿足如下條件應(yīng)滿足如下條件12 ,nHh hh12,nc cc12,nh hhic(1,2, )ih inicihic0(1,2, )icinniic114.6 4.6 證據(jù)理論證據(jù)理論4.6.4 4.6.4 證據(jù)的不確定性的表示證據(jù)的不確定性的表示 不確定性證據(jù)不確定性證據(jù)E E的確定性用的確

47、定性用CER(CER(E E) )表示。對(duì)于初始證據(jù)，其表示。對(duì)于初始證據(jù)，其確定性由用戶給出；當(dāng)用前面推理所得結(jié)論作為當(dāng)前推理的證確定性由用戶給出；當(dāng)用前面推理所得結(jié)論作為當(dāng)前推理的證據(jù)時(shí)，其確定性由推理得到。據(jù)時(shí)，其確定性由推理得到。CER(CER(E E) )的取值范圍為的取值范圍為 。1 1 組合證據(jù)不確定性的算法組合證據(jù)不確定性的算法 當(dāng)組合證據(jù)是多個(gè)證據(jù)的合取，即當(dāng)組合證據(jù)是多個(gè)證據(jù)的合取，即 時(shí)，時(shí)，則則E E的確定性的確定性CER(CER(E E) )為為 當(dāng)組合證據(jù)是多個(gè)證據(jù)的析取，即當(dāng)組合證據(jù)是多個(gè)證據(jù)的析取，即 時(shí)，時(shí)，則則E E的確定性的確定性CER(CER(E E)

48、)為為0,112nEE ANDE ANDANDE12( )min(),(),()nCER ECER ECER ECER E12nEE ORE ORORE12( )max(),(),()nCER ECER ECER ECER E4.6 4.6 證據(jù)理論證據(jù)理論2 2 不確定性的傳遞算法不確定性的傳遞算法 1 1）如果只有一條知識(shí)支持結(jié)論）如果只有一條知識(shí)支持結(jié)論H H，即，即 IF IF E E THEN THEN 結(jié)論結(jié)論H H的確定性通過(guò)下述步驟求出。的確定性通過(guò)下述步驟求出。 對(duì)于上述知識(shí)，對(duì)于上述知識(shí)，H H的概率分配函數(shù)規(guī)定為的概率分配函數(shù)規(guī)定為這樣便求得這樣便求得M M( (H H)

49、 )。12 ,nHh hh12 ,nCFc cc121211( , , )( ),( ),( )( )1( )nnniMhhhCER Ec CER EcCER EcM DCER Ec 4.6 4.6 證據(jù)理論證據(jù)理論 2 2）如果有兩條知識(shí)支持同一結(jié)論，即）如果有兩條知識(shí)支持同一結(jié)論，即 IF THEN IF THEN IF THEN IF THEN 結(jié)論結(jié)論H H的確定性通過(guò)下述步驟求出。的確定性通過(guò)下述步驟求出。 首先分別對(duì)每一條知識(shí)求出概率分配函數(shù)：首先分別對(duì)每一條知識(shí)求出概率分配函數(shù)：然后再用公式然后再用公式對(duì)對(duì) 求正交和，從而得到求正交和，從而得到H H的概率分配函數(shù)的概率分配函數(shù)M

50、 M。1E12 ,nHh hh2E12 , nHh hh11121 ,nCFc cc21222,nCFccc112212( , , )( , , )nnMhhhMhhh12MMM12MM與4.6 4.6 證據(jù)理論證據(jù)理論 3 3）如果有）如果有n n條知識(shí)都支持同一結(jié)論條知識(shí)都支持同一結(jié)論H H，則用公式，則用公式 對(duì)對(duì) 求其正交和，從而得到求其正交和，從而得到H H的概率分配的概率分配函數(shù)函數(shù)M M。 最后求出最后求出12nMMMM12,nMMM(),()()Bel HPl Hf H及11()( )()1()()()()()niBel HMhPl HBelHHf HBel HPl HBel HD ()()HBel HM DD4.6 4.6 證據(jù)理論證據(jù)理論 4 4）按如下公式求出）按如下公式求出H H的確定性的確定性CERCER( (H H) ) CER CER ( (H H)=)=MDMD( (H H/ /E E) )f f( (H H) )其中，其中，MDMD( (H H/ /E E) )是知識(shí)的前提條件與相應(yīng)證據(jù)是知識(shí)的前提條件與相應(yīng)證據(jù)E E的匹配的匹配度