人工智能41培訓(xùn)資料課件

第四章不確定性推理4.1基本概念

1.為什么要研究不確定性推理問題

?現(xiàn)實(shí)世界的問題求解大部分是不良結(jié)構(gòu)；?對(duì)不良結(jié)構(gòu)的知識(shí)描述具有不確定性：1)問題證據(jù)的不確定性；2)專門知識(shí)的不確定性。

2.什么是不確定性推理不確定性推理是建立在非經(jīng)典邏輯基礎(chǔ)上的一種推理，它是對(duì)不確定性知識(shí)的運(yùn)用和處理。不確定性推理就是從不確定性的初始證據(jù)出發(fā)，通過運(yùn)用不確定性的知識(shí)，最終推出具有一定程度的不確定性但卻合理或者近乎合理的結(jié)論的思維過程。第一頁，共九十一頁。2023/5/151127

3.不確定性推理中的基本問題

在不確定性推理中，知識(shí)和證據(jù)都具有某種程度的不確定性，這就為推理機(jī)的設(shè)計(jì)與實(shí)現(xiàn)增加了復(fù)雜性和難度。它除了必須解決推理方向、推理方法、控制策略等基本問題外，一般還需要解決不確定性的表示和量度、不確定性匹配、不確定性的傳遞算法以及不確定性的合成等重要問題。

(1)不確定性的表示與量度

?知識(shí)不確定性的表示

在確立其表示方法時(shí)，有兩個(gè)直接相關(guān)的因素需要考慮：1)要能根據(jù)領(lǐng)域問題的特征把其不確定性比較準(zhǔn)確地描述出來，滿足問題求解的需要；2)要便于推理過程中對(duì)不確定性的推算。第二頁，共九十一頁。2023/5/152127

目前在專家系統(tǒng)中，知識(shí)的不確定性一般由領(lǐng)域?qū)＜医o出，通常是一個(gè)數(shù)值，它表示相應(yīng)知識(shí)的不確定性程度，稱為知識(shí)的靜態(tài)強(qiáng)度。

?證據(jù)不確定性的表示

在推理中，有兩種來源不同的證據(jù)：1)一種是用戶在求解問題時(shí)提供的初始證據(jù)；2)另一種是在推理中用前面推出的結(jié)論作為當(dāng)前推理的證據(jù)。

證據(jù)的不確定性表示方法應(yīng)與知識(shí)的不確定性表示方法保持一致，以便于推理過程中對(duì)不確定性進(jìn)行統(tǒng)一處理。

證據(jù)的不確定性通常也用一個(gè)數(shù)值表示，它代表相應(yīng)證據(jù)的不確定性程度，稱為動(dòng)態(tài)強(qiáng)度。對(duì)于初始證據(jù)，其值由用戶給出；對(duì)推理所得證據(jù)，其值由推理中不確定性的傳遞算法通過計(jì)算得到。第三頁，共九十一頁。2023/5/153127?不確定性的量度

對(duì)于不同的知識(shí)和不同的證據(jù)，其不確定性的程度一般是不相同的，需要用不同的數(shù)據(jù)表示其不確定性的程度，同時(shí)還要事先規(guī)定它的取值范圍。例如，在專家系統(tǒng)MYCIN中，用可信度表示知識(shí)與證據(jù)的不確定性，取值范圍為[-1，1]。在確定一種量度及其范圍時(shí)，應(yīng)注意以下幾點(diǎn)：

1)

量度能充分表達(dá)相應(yīng)知識(shí)及證據(jù)不確定性的程度。2)量度范圍的指定應(yīng)便于領(lǐng)域?qū)＜壹坝脩魧?duì)不確定性的估計(jì)的程度。3)

量度要便于對(duì)不確定性的傳遞進(jìn)行計(jì)算，而且對(duì)結(jié)論算出的不確定性量度不能超出量度規(guī)定的范圍。4)

量度的確定應(yīng)是直觀的。第四頁，共九十一頁。2023/5/154127(2)不確定性匹配算法及閾值的選擇

對(duì)于不確定性推理，由于知識(shí)和證據(jù)都具有不確定性，而且知識(shí)所要求的不確定性與證據(jù)實(shí)際具有的不確定性程度不一定相同，因而就出現(xiàn)了“怎樣才算匹配成功”的問題。

對(duì)于這個(gè)問題，目前常用的解決方法是：設(shè)計(jì)一個(gè)算法用來計(jì)算匹配雙方相似的程度，另外再指定一個(gè)相似的“限度”，用來衡量匹配雙方相似的程度是否落在指定的限度內(nèi)。如果落在指定的限度內(nèi)，就稱它們是可匹配的，相應(yīng)知識(shí)可被應(yīng)用。?用來計(jì)算匹配雙方相似程度的算法稱為不確定性匹配算法。

?用來指出相似的“限度”稱為閾值。第五頁，共九十一頁。2023/5/155127(3)不確定性的傳遞算法

不確定性推理的根本目的是根據(jù)用戶提供的初始證據(jù)，通過運(yùn)用不確定性知識(shí)，最終推出不確定性的結(jié)論，并推算出結(jié)論的不確定性程度。為達(dá)到這一目的，除了需要解決前面提到的問題外，還需要解決推理過程中不確定性的傳遞問題，它包括兩個(gè)子問題：

?在每一步推理中，如何把證據(jù)及知識(shí)的不確定性傳遞給結(jié)論；?在多步推理中，如何把初始證據(jù)的不確定性傳遞給最終結(jié)論。

對(duì)前一個(gè)問題，在不同的不確定推理方法中所采用的處理方法各不相同，這將在以后討論。對(duì)第二個(gè)問題，各種推理方法所采用的處理方法基本相同，即：

把當(dāng)前推出的結(jié)論及其不確定性程度作為證據(jù)放入數(shù)據(jù)庫中，在以后的推理中，它又作為證據(jù)推出進(jìn)一步的結(jié)論，由此一步步進(jìn)行推理，必然會(huì)把初始證據(jù)的不確定性傳遞給最終結(jié)論。第六頁，共九十一頁。2023/5/156127(4)結(jié)論不確定性的合成

推理時(shí)有時(shí)會(huì)出現(xiàn)這樣的情況：用不同的知識(shí)進(jìn)行推理得到了相同的結(jié)論，但不確定性的程度卻不同。此時(shí)，需要用合適的算法對(duì)它們進(jìn)行合成。

在不同的不確定推理方法中所采用的處理方法各不相同，這將在以后討論。第七頁，共九十一頁。2023/5/1571274.2不確定性推理方法的分類及常用不確定性推理方法簡介

1.不確定性推理方法的研究分類

不確定性推理方法的研究分為兩大類：

(1)在推理一級(jí)上擴(kuò)展確定性推理

特點(diǎn)：

把不確定的證據(jù)和不確定的知識(shí)分別與某種量度標(biāo)準(zhǔn)對(duì)應(yīng)起來，并且給出更新結(jié)論不確定性的算法，從而構(gòu)成了相應(yīng)的不確定性推理的模型。一般來說，這類方法與控制策略無關(guān)，即無論用何種控制策略，推理的結(jié)果都是唯一的，我們把這一類方法稱為模型方法。模型方法數(shù)值方法非數(shù)值方法：除數(shù)值方法之外的方法，如發(fā)生率計(jì)算，它采用集合來描述和處理不確定性?；诟怕实姆椒ǎㄒ罁?jù)概率論的有關(guān)理論發(fā)展起來的方法，主要有主觀Bayes、可信度、證據(jù)理論等方法）模糊推理（根據(jù)模糊理論發(fā)展起來的方法）第八頁，共九十一頁。2023/5/158127(2)在控制策略一級(jí)處理不確定性

特點(diǎn):

通過識(shí)別領(lǐng)域中引起不確定的某些特征及相應(yīng)的控制策略來限制或減少不確定性對(duì)系統(tǒng)產(chǎn)生的影響。這類方法沒有處理不確定性的統(tǒng)一模型，其效果極大的依賴于控制策略,這類方法稱為控制方法。

（該方法有相關(guān)性制導(dǎo)回溯、機(jī)緣控制、啟發(fā)式搜索等方法，在此不討論）第九頁，共九十一頁。2023/5/1591272常用的不確定性推理方法介紹

(1)主觀Bayes方法

利用新的信息將先驗(yàn)概率P(H)更新為后驗(yàn)概率P(H|E)的一種計(jì)算方法.

主觀Bayes方法由Dnda等人于1976年提出，其首先在Prospector專家系統(tǒng)中使用，它以概率論中的Bayes公式為基礎(chǔ)。其核心思想是：

Ⅰ.根據(jù)證據(jù)的概率P(E);Ⅱ.利用規(guī)則的（LS，LN）；LS：E的出現(xiàn)對(duì)H的支持程度，LN：E的出現(xiàn)對(duì)H的不支持程度。Ⅲ.把結(jié)論H的先驗(yàn)概率更新為后驗(yàn)概率P(H|E)；Ⅳ.循環(huán)第十頁，共九十一頁。2023/5/1510127(2)可信度方法

可信度方法是由E.H.Shortliffe等人在確定性理論的基礎(chǔ)上，結(jié)合概率提出的一種不確定性推理方法，首先在Mycin系統(tǒng)中得到了成功的應(yīng)用。

其核心思想是：利用確定性因子CF（值）

Ⅰ.聯(lián)系于具體的斷言Ⅱ.聯(lián)系于每條規(guī)則

Ⅲ.通過CF的計(jì)算傳播不確定性

(3）證據(jù)理論法

由Dempstan和Shafen提出并發(fā)展，其基于一系列理論和描述。由于該理論滿足比概率論更弱的公理，能夠區(qū)分“不確定”與“不知道”的差異，并能處理由“不知道”產(chǎn)生的不確定性，具有較大的靈活性。在證據(jù)理論的基礎(chǔ)上已經(jīng)發(fā)展了多種不確定性推理模型。第十一頁，共九十一頁。2023/5/1511127(4)模糊推理

模糊推理與前三種不確定性推理方法有著實(shí)質(zhì)性的區(qū)別，前三種方法的理論基礎(chǔ)是概率論，它所研究的事件本身有明確的含義，只是由于發(fā)生的條件不充分，使得在條件與事件之間不能出現(xiàn)確定的因果關(guān)系，從而在事件的出現(xiàn)與否上出現(xiàn)不確定性，那些推理模型是對(duì)這種不確定性，即隨機(jī)性的表示與處理。

?模糊推理是利用模糊性知識(shí)進(jìn)行的一種不確定性推理。?模糊推理的理論基礎(chǔ)是模糊集理論以及在此基礎(chǔ)上發(fā)展起來的模糊邏輯。?它所處理的事物自身是模糊的，概念本身沒有明確的外延，一個(gè)對(duì)象是否符合這個(gè)概念難以明確的確定，模糊推理是對(duì)這種不確定性，即模糊性的表示與處理。在人工智能領(lǐng)域內(nèi)，知識(shí)及信息的不確定性大多是由模糊性引起的，這就使得對(duì)模糊理論的研究顯得格外重要。第十二頁，共九十一頁。2023/5/15121274.3概率方法

1.經(jīng)典概率方法

設(shè)有如下產(chǎn)生式規(guī)則：

IFETHENH(其中，E為前提條件，H為結(jié)論。)?如果我們?cè)趯?shí)踐中能得出在E發(fā)生條件下H的條件概率P(H/E),那么就可把它作為在證據(jù)E出現(xiàn)時(shí)結(jié)論H的確定性程度。?對(duì)于復(fù)合條件

E=E1ANDE2AND…ANDEn也是這樣，當(dāng)已知條件概率P(H/E1,E2,…En),就可把它作為在證據(jù)E1,E2,…En

出現(xiàn)時(shí)結(jié)論H的確定性程度。

優(yōu)點(diǎn)：顯然這是一種很簡單的方法，只能用于簡單的不確定性推理。

缺點(diǎn)：由于它只考慮證據(jù)為真或?yàn)榧賰煞N極端情況，因而使其應(yīng)用受到限制。第十三頁，共九十一頁。2023/5/15131272.逆概率方法經(jīng)典概率方法要求給出在證據(jù)E出現(xiàn)情況下結(jié)論H的條件概率P(H/E),這在實(shí)際應(yīng)用中是相當(dāng)困難的。

例:?若以E代表咳嗽，以H代表支氣管炎，如欲得到在咳嗽的人中有多少是患支氣管炎的，就需要作大量的統(tǒng)計(jì)工作;

?但是如果在患支氣管炎的人中統(tǒng)計(jì)有多少人是咳嗽的，就相對(duì)容易一些，因?yàn)榛贾夤苎椎娜水吘贡瓤人缘娜松俚枚唷?/p>

解決方法：可用逆概率P(E/H)來求原概率P(H/E)。(Bayes定理給出了解決這個(gè)問題的方法。)

(1)Bayes定理:若A1,A2,…An是彼此獨(dú)立的事件，則對(duì)任何事件B有如下Bayes公式成立：

P(Ai/B)=i=1,2,..n第十四頁，共九十一頁。2023/5/1514127

其中，P(Ai)是事件Ai的先驗(yàn)概率；P(B/Ai)是事件在Ai發(fā)生條件下的事件B的條件概率；P(Ai/B)是事件在B發(fā)生條件下的事件Ai的條件概率。(2)單個(gè)證據(jù)時(shí)

如果用產(chǎn)生式規(guī)則：

IFE

THENHi

(IF咳嗽THEN氣管炎）中的前提條件E代替Bayes公式中的B,用Hi代替公式中的Ai,就可得到

P(Hi/E)=i=1,2,..n

這就是說，當(dāng)已知結(jié)論Hi的先驗(yàn)概率P(Hi),并且已知結(jié)論Hi(i=1,2,..n)成立時(shí)前提條件E所對(duì)應(yīng)的證據(jù)所出現(xiàn)的條件概率P(E/Hi),就可用上式求出相應(yīng)證據(jù)出現(xiàn)時(shí)結(jié)論Hi的條件概率P(Hi/E)。第十五頁，共九十一頁。2023/5/1515127例：設(shè)H1,H2,H3分別是三個(gè)結(jié)論，E是支持這些結(jié)論的證據(jù)，且已知：P(H1)=0.3P(H2)=0.4,P(H3)=0.5P(E/H1)=0.5P(E/H2)=0.3P(E/H3)=0.4求P(H1/E),P(H2/E),P(H3/E),的值各是多少。解：根據(jù)上面的公式

P(H1/E)=

=

=0.32

同理可得：P(H2/E)=0.26P(H3/E)=0.43

由此可見，證據(jù)E的出現(xiàn)，H1成立的可能性略有增加，H2、H3略有下降。第十六頁，共九十一頁。2023/5/1516127(3)有多個(gè)證據(jù)時(shí)對(duì)于有多個(gè)證據(jù)E1,E2,…,Em和多個(gè)結(jié)論H1,…,H2,Hn，并且每個(gè)證據(jù)都以一定的程度支持結(jié)論的情況，上面的式子可進(jìn)一步擴(kuò)充為：

P(Hi/E1E2…Em)=i=1,2,3,…n(4)小結(jié)

優(yōu)點(diǎn)：有較強(qiáng)的理論背景和良好的數(shù)學(xué)特性，當(dāng)證據(jù)及結(jié)論都彼此獨(dú)立時(shí)計(jì)算的復(fù)雜度較低；缺點(diǎn)：它要求給出結(jié)論Hi的先驗(yàn)概率P(Hi)及證據(jù)Ej的條件概率P(Ej/Hi)，盡管有些時(shí)候P(Ej/Hi)比P(Hi/Ej)相對(duì)容易得到，但總的來說，想得到這些數(shù)據(jù)是相當(dāng)困難的；另外，Bayes公式的應(yīng)用條件很嚴(yán)格，它要求各事件相互獨(dú)立。第十七頁，共九十一頁。2023/5/1517127設(shè)已知P(H1)=0.4P(H2)=0.3P(H3)=0.3P(E1/H1)=0.5P(E1/H2)=0.6P(E1/H3)=0.3P(E2/H1)=0.7P(E2/H2)=0.9P(E2/H3)=0.1求：P(H1/E1E2)P(H2/E1E2)P(H3/E1E2)0.450.520.03第十八頁，共九十一頁。2023/5/1518127作業(yè)第十九頁，共九十一頁。2023/5/15191274.4主觀Bayes方法

鑒于上節(jié)所述的直接使用Bayes公式帶來的諸多不便，1976年R.O.Doda、P.E.Hart等人在Bayes公式的基礎(chǔ)上經(jīng)適當(dāng)改進(jìn)提出了主觀Bayes方法，建立了相應(yīng)的不確定推理模型，并在地礦勘探專家系統(tǒng)PROSPECTOR中得到了成功的應(yīng)用。

1.知識(shí)不確定性的表示

在主觀Bayes方法中，知識(shí)是用產(chǎn)生式規(guī)則表示的，具體形式為：

ifEthen(LS,LN)H(P(H))

其中?

E

是該條知識(shí)的前提條件，它既可以是一個(gè)簡單條件，也可以是用and、or把單個(gè)條件連接起來的復(fù)合條件。

?

H

是結(jié)論，P(H)是H的先驗(yàn)概率，它指出在沒有任何專門證據(jù)的情況下，結(jié)論為真的概率，其值由領(lǐng)域?qū)＜腋鶕?jù)以往的實(shí)踐及經(jīng)驗(yàn)給出。第二十頁，共九十一頁。2023/5/1520127

?

LS

稱為充分性量度，用于指出E對(duì)H的支持程度，取值范圍為[0，∞），其定義為：

LS=

LS的值由領(lǐng)域?qū)＜医o出，具體情況在下面論述。

?

LN

稱為必要性量度，用于指出

E對(duì)H的支持程度，取值范圍為[0，∞），其定義為：

LN==

LN的值也由領(lǐng)域?qū)＜医o出，具體情況在下面論述。

?

LS,LN相當(dāng)于知識(shí)的靜態(tài)強(qiáng)度。P(E/H)P(E/H)P(E/H)P(E/zH)1P(E/H)1P(E/H)第二十一頁，共九十一頁。2023/5/15211272.證據(jù)不確定性的表示

在主觀Bayes方法中，證據(jù)的不確定性也是用概率表示的。

例如，對(duì)于初始證據(jù)E，由用戶根據(jù)觀察S給出P(E/S)，它相當(dāng)于動(dòng)態(tài)強(qiáng)度。

但由于P(E/S)的給出相當(dāng)困難，因而在具體的應(yīng)用系統(tǒng)中往往采用適當(dāng)?shù)淖兺ǚ椒?，如在PROSPECTOR中引進(jìn)了可信度的概念，讓用戶在–5至5之間的11個(gè)整數(shù)中選一個(gè)數(shù)作為初始證據(jù)的可信度。

可信度C(E/S)與概率P(E/S)的對(duì)應(yīng)關(guān)系如下：

C(E/S)=–5，表示在觀察S下證據(jù)E肯定不存在，即P(E/S)=0；

C(E/S)=0，表示S與E無關(guān)，即P(E/S)=P(E)；C(E/S)=5，表示在觀察S下證據(jù)E肯定存在，即P(E/S)=1；第二十二頁，共九十一頁。2023/5/1522127C(E/S)=其它數(shù)值時(shí)與P(E/S)的對(duì)應(yīng)關(guān)系，可通過對(duì)上述三點(diǎn)進(jìn)行分段線性插值得到，如下圖。P(E/S)1P(E)C(E/S)-5-4-3-2-1012345由上圖可得到C(E/S)與P(E/S)的關(guān)系式：P(E/S)=若0C(E/S)5若5C(E/S)<0C(E/S)+P(E)(5C(E/S))55P(E)(C(E/S)+5)這樣，用戶只要對(duì)初始證據(jù)給出相應(yīng)的可信度C(E/S)，就可將其轉(zhuǎn)換為P(E/S)。第二十三頁，共九十一頁。2023/5/15231273.組合證據(jù)不確定性的算法

當(dāng)組合證據(jù)是多個(gè)單一證據(jù)的合取時(shí)，即

E=E1ANDE2AND…ANDEn，如果已知P(E1/S),P(E2/S),…,P(En/S),則：

P(E/S)=min{P(E1/S),P(E2/S),…,P(En/S)}當(dāng)組合證據(jù)是多個(gè)單一證據(jù)的析取時(shí)，即

E=E1ORE2OR…OREn

如果已知P(E1/S),P(E2/S),…,P(En/S)，則：

P(E/S)=max{P(E1/S),P(E2/S),…,P(En/S)}對(duì)“非”運(yùn)算，則：

P(E/S)=1–P(E/S)第二十四頁，共九十一頁。2023/5/15241274.不確定性的傳遞算法

在主觀Bayes方法的知識(shí)表示中，P(H)是專家對(duì)結(jié)論H給出的先驗(yàn)概率，它是在沒有考慮任何證據(jù)的情況下根據(jù)經(jīng)驗(yàn)給出的。隨著新證據(jù)的獲得，對(duì)H的信任程度應(yīng)該有所改變。主觀Bayes方法推理的任務(wù)就是根據(jù)證據(jù)E的概率P(E)及LS,LN的值，把H的先驗(yàn)概率P(H)，更新為后驗(yàn)概率P(H/E)或P(H/E)。

即：

P(H)P(H/E)或P(H/E)

下面分三種情況討論。

(1)證據(jù)肯定存在的情況證據(jù)肯定存在時(shí)，P(E)=P(E/S)=1

P(E)LS,LN第二十五頁，共九十一頁。2023/5/1525127

由Bayes公式得：

P(H/E)=P(E/H)P(H)/P(E)①

同理有：

P(H/E)=P(E/H)P(H)/P(E)②

①除以②，得：

P(H/E)P(E/H)P(H)

P(H/E)P(E/H)P(H)

③

由③式及“非”運(yùn)算P(H/E)=1–P(H/E),得：LS=P(H/E)=

LSP(H)(LS–1)P(H)+1第二十六頁，共九十一頁。2023/5/1526127

充分性量度LS：

?當(dāng)LS>1時(shí)，P(H/E)>P(H)，這表明由于證據(jù)E的存在，將增大結(jié)論H為真的概率，且LS越大，P(H/E)就越大，即E對(duì)H為真的支持越強(qiáng)。當(dāng)LS∞

，P(H/E)1，E的存在對(duì)H為真是充分的，故稱LS為充分性量度。

?當(dāng)LS=1時(shí)，P(H/E)=P(H)，這表明E與H無關(guān)。?當(dāng)LS<1時(shí)，P(H/E)<P(H)，表明由于證據(jù)E的存在，將導(dǎo)致H為真的可能性下降。?當(dāng)LS=0時(shí)，P(H/E)=0，這表明證據(jù)E的存在，導(dǎo)致H為假。

上述LS的討論，可作為領(lǐng)域?qū)＜覟長S賦值的依據(jù)，當(dāng)證據(jù)E越是支持H為真時(shí)，則應(yīng)使LS的值越大。P(H/E)=

LSP(H)(LS–1)P(H)+1P(H/E)為增函數(shù)第二十七頁，共九十一頁。2023/5/1527127

(2)

證據(jù)肯定不存在的情況

證據(jù)肯定不存在時(shí)，P(E)=P(E/S)=0，P(E)=1。由Bayes公式得：

P(H/E)=P(E/H)P(H)/P(E)①

同理有：

P(H/E)=P(E/H)P(H)/P(E)②

①除以②，得：P(H/E)P(E/H)P(H)

P(H/E)P(E/H)P(H)③

由③式及“非”運(yùn)算P(H/E)=1–P(H/E),得：=LNP(H/E)=LNP(H)(LN–1)P(H)+1第二十八頁，共九十一頁。2023/5/1528127

必要性量度LN：

?當(dāng)LN>1時(shí)，由上式得：P(H/E)>P(H)這表明由于證據(jù)E的不存在，將增大結(jié)論H為真的概率，且LN越大，P(H/E)就越大，即E對(duì)H為真的支持越強(qiáng)。當(dāng)LN∞

，P(H/E)1。

?當(dāng)LN=1時(shí)，P(H/E)=P(H)，這表明E與H無關(guān)。?當(dāng)LN<1時(shí)，P(H/E)<P(H)，表明由于證據(jù)E的不存在，將導(dǎo)致H為真的可能性下降。?當(dāng)LN=0時(shí)，P(H/E)=0，這表明證據(jù)E的不存在，導(dǎo)致H為假。由此也可看出E對(duì)H為真的必要性，故稱LN為必要性量度。

上述LN的討論，可作為領(lǐng)域?qū)＜覟長N賦值的依據(jù)，當(dāng)證據(jù)E對(duì)H愈是必要，則相應(yīng)LN的值愈小。

P(H/E)=LNP(H)(LN–1)P(H)+1第二十九頁，共九十一頁。2023/5/1529127

另外，由于E和E不可能同時(shí)支持H或反對(duì)H，所以在一條知識(shí)中，LS和LN不應(yīng)該出現(xiàn)下列情況中的任何一種：

?

LS>1，LN>1

?LS<1，LN<1(3)證據(jù)不確定的情況

在現(xiàn)實(shí)中，證據(jù)肯定存在或肯定不存在的極端情況是不多的，更多的是介于兩者之間的不確定情況。

現(xiàn)在要在0<P(E/S)<1的情況下確定H的后驗(yàn)概率P(H/S)。

在證據(jù)不確定的情況下，不能再用上面的公式計(jì)算后驗(yàn)概率，而需使用R.O.Doda等人1976年證明的如下公式：

P(H/S)=P(H/E)P(E/S)+P(H/E)P(E/S)

①第三十頁，共九十一頁。2023/5/1530127R1:IFE1THEN(10,1)H1(0.03)R2:IFE1THEN(10,1)H2(0.03)R3:IFE1THEN(10,1)H3(0.03)求：當(dāng)證據(jù)E1,E2,E3,存在即不存在時(shí)候P(Hi/Ei)以及P（Hi/!Ei）的值是多少由于r1和r2中的LN＝1，所以E1和E2不存在時(shí)對(duì)H1和H2產(chǎn)生影響，不需要計(jì)算P（H1/!E1）P（H2/!E2），要計(jì)算P（H1/E1）P（H2/E2）由于E1的存在使得H1的可能性增加了8倍，由于E2的存在使得H2為真的可能性增加了10倍第三十一頁，共九十一頁。2023/5/1531127由于E3的不存在，使H3為真的可能性，削減了350倍第三十二頁，共九十一頁。2023/5/1532127

下面分四種情況討論：

1)P(E/S)=1

當(dāng)P(E/S)=1時(shí)，P(E/S)=0，此時(shí)公式

①變?yōu)椋?/p>

P(H/S)=P(H/E)=

這是證據(jù)肯定存在的情況。

2)P(E/S)=0當(dāng)P(E/S)=0時(shí)，P(E/S)=1，此時(shí)公式

①變?yōu)椋?/p>

P(H/S)=P(H/E)=

這是證據(jù)肯定不存在的情況。

LSP(H)(LS–1)P(H)+1LNP(H)(LN–1)P(H)+1第三十三頁，共九十一頁。2023/5/1533127

3)P(E/S)=P(E)

當(dāng)P(E/S)=P(E)時(shí)，此時(shí)公式

①變?yōu)椋?/p>

P(H/S)=P(H/E)P(E)+P(H/E)P(E)=P(H)

表示H與S無關(guān)。

4)當(dāng)P(E/S)=其它值時(shí)，通過分段線性插值可得到計(jì)算P(H/S)的公式。全概率公式第三十四頁，共九十一頁。2023/5/1534127

P(H/E)+P(E/S)若0P(E/S)<

P(E)P(H)+[P(E/S)–P(E)]

若P(E)P(E/S)1P(H)–P(H/E)

P(E)P(H/E)–P(H)1–P(E)

P(H/S)=0P(E)1P(E/S)P(H/E)P(H)P(H/E)P(H/S)該公式稱為EH公式。第三十五頁，共九十一頁。2023/5/1535127

(4)

對(duì)初始證據(jù)，用可信度C(E/S)計(jì)算P(H/S)

對(duì)于初始證據(jù)，由于其不確定性是用可信度C(E/S)給出的，此時(shí)只要把C(E/S)與P(E/S)的對(duì)應(yīng)關(guān)系帶入上式，便可得到下述公式：

P(H/E)+[P(H)–P(H/E)][C(E/S)+1]，若C(E/S)0P(H)+[P(H/E)–P(H)]C(E/S)，若C(E/S)>01515P(H/S)=該公式稱為CP公式。當(dāng)用初始證據(jù)進(jìn)行推理時(shí)，根據(jù)用戶告知的C(E/s)運(yùn)用CP,就可以求出P(H/s)當(dāng)用推理過程中得到的中間結(jié)論作為證據(jù)進(jìn)行推理時(shí)，通過運(yùn)用EH公式就可求出P(H/S)第三十六頁，共九十一頁。2023/5/1536127

5.結(jié)論不確定性的合成算法

若有n條知識(shí)都支持相同的結(jié)論，而且每條知識(shí)的前提條件所對(duì)應(yīng)的證據(jù)Ei（i=1,2,…,n）都有相應(yīng)的觀察Si

與之對(duì)應(yīng),此時(shí)只要先求出每條知識(shí)的(H/Si)，然后就可運(yùn)用下述公式求出O(H/S1,S2,…,Sn)。O(x)=

P(x)1-P(x)P(x)=

O(x)1+O(x)O(H/S1)O(H)O(H/S2)O(H)O(H/Sn)O(H)O(H/S1,S2,…,Sn)=…O(H)其中O為幾率函數(shù)，它與概率的關(guān)系為：第三十七頁，共九十一頁。2023/5/1537127例：設(shè)有如下知識(shí)：r1:ifE1then(2,0.001)H1r2:ifE2then(100,0.001)H2r3:ifH1then(200,0.01)H2

已知：P(H1)=0.09P(H2)=0.01C(E1/S1)=2C(E2/S3)=1

求：P(H2/S1,S2)=?(或O(H2/S1,S2)=?）

H2H1E1E2S2S1(200,0.01)(100,0.001)(2,0.001)C(E1/S1)=2C(E2/S3)=1解：O(H1)=P(H1)1-P(H1)=0.09/(1-0.09)=0.1O(H2)=P(H2)1-P(H2)=0.01/(1-0.01)=0.01第三十八頁，共九十一頁。2023/5/153812720.09(2-1)0.09+1P(H1/E1)=LS1P(H1)(LS1–1)P(H1)+1==0.17(1)計(jì)算P(H1/S1)

(O(H1/S1))對(duì)于初始證據(jù)，使用CP公式，∵C(E1/S1)=2>0∴使用CP公式的后半部。P(H1)+[P(H1/E1)–P(H1)]C(E1/S1)15P(H1/S1)==0.09+[0.17-0.09]21/5=0.122O(H1/S1)=P(H1/S1)1-P(H1/S1)0.1221-0.122=0.14=第三十九頁，共九十一頁。2023/5/15391271000.09(100-1)0.09+1P(H1/E2)=LS2P(H1)(LS2–1)P(H1)+1==0.91(2)計(jì)算P(H1/S2)

(O(H1/S2))對(duì)于初始證據(jù)，使用CP公式，∵C(E2/S2)=1>0∴使用CP公式的后半部。P(H1)+[P(H1/E2)–P(H1)]C(E2/S2)15P(H1/S2)==0.09+[0.91-0.09]11/5=0.254O(H1/S2)=P(H1/S2)1-P(H1/S2)0.2541-0.254=0.34=第四十頁，共九十一頁。2023/5/1540127(3)計(jì)算P(H1/S1,S2)(O(H1/S1,S2))=(0.14/0.1)(0.34/0.1)0.1=0.476

O(H1/S1)

O(H1)O(H1/S1,S2)=O(H1/S2)

O(H1)O(H1)P(H1/S1,S2)=

O(H1/S1,S2)1+O(H1/S1,S2)=0.476/(1+0.476)=0.322第四十一頁，共九十一頁。2023/5/1541127(4)計(jì)算P(H2/S1,S2)(O(H2/S1,S2))使用EH公式∵P(H1/S1,S2)>P(H1)∴使用EH公式的后半部。2000.01(200-1)0.01+1P(H2/H1)=LS3P(H2)(LS3–1)P(H2)+1==0.67P(H1/S1,S2)–P(H1)1–P(H1)P(H2/S1,S2)=P(H2)+[P(H2/H1)–P(H2)]=0.01+[(0.322-0.09)/(1-0.01)](0.67-0.01)=0.165O(H2/S1,S2)=P(H2/S1,S2)1-P(H2/S1,S2)0.1651-0.165=0.198=H2的先驗(yàn)概率為0.01，而最后算出的后驗(yàn)概率為0.198，增加了近20倍。第四十二頁，共九十一頁。2023/5/15421276.主觀Bayes方法的主要由缺點(diǎn)：

主要優(yōu)點(diǎn)：

?

其計(jì)算公式大多是在概率論的基礎(chǔ)上推導(dǎo)出來的，具有較堅(jiān)實(shí)的理論基礎(chǔ)；

?知識(shí)的靜態(tài)強(qiáng)度LS、LN由領(lǐng)域?qū)＜腋鶕?jù)實(shí)際經(jīng)驗(yàn)得到，避免了大量的數(shù)據(jù)統(tǒng)計(jì)工作；

?給出了在證據(jù)不確定情況下更新先驗(yàn)概率為后驗(yàn)概率的方法，且從推理過程中看，確實(shí)是實(shí)現(xiàn)了不確定性的傳遞；主要缺點(diǎn)：

?它要求領(lǐng)域?qū)＜以诮o出知識(shí)時(shí)，同時(shí)給出H的先驗(yàn)概率，這是比較困難的。?Bayes定理中要求事件間相互獨(dú)立，限制了該方法的應(yīng)用。第四十三頁，共九十一頁。2023/5/1543127作業(yè)第四十四頁，共九十一頁。2023/5/1544127第四十五頁，共九十一頁。2023/5/15451274.5可信度方法

可信度方法是肖特里菲(E.H.Shortliffe)等人在確定性理論（TheoryofComfirmation）的基礎(chǔ)上，結(jié)合概率論等提出的一種不確定性推理方法，首先在專家系統(tǒng)MYCIN中得到了成功的應(yīng)用。由于該方法比較直觀、簡單，而且效果也比較好，因而受到人們的重視。目前，許多專家系統(tǒng)都是基于這一方法建造起來的。

1.可信度

根據(jù)經(jīng)驗(yàn)對(duì)一個(gè)事物或現(xiàn)象為真的相信程度稱為可信度。顯然，可信度帶有較大的主觀性和經(jīng)驗(yàn)性，其準(zhǔn)確性難以把握。但出于人工智能所面向的多是結(jié)構(gòu)不良的復(fù)雜問題，難以給出精確的數(shù)學(xué)模型，先驗(yàn)概率及條件概率的確定又比較困難，因而用可信度來表示知識(shí)及證據(jù)的不確性仍不失為一種可行的方法。另外，由十領(lǐng)域?qū)＜叶际撬陬I(lǐng)域的行家里手，有豐富的專業(yè)知識(shí)及實(shí)踐經(jīng)驗(yàn)，也不難對(duì)領(lǐng)域內(nèi)的知識(shí)給出其可信度。第四十六頁，共九十一頁。2023/5/1546127

2.C-F模型

C-F模型是基于可信度表示的不確定性推理的基本方法。其它可信度方法都是在此基礎(chǔ)上發(fā)展起來的。

(1)知識(shí)不確定性的表示

在C-F模型中，知識(shí)是用產(chǎn)生式規(guī)則表示的，其一般形式是：ifEthenH(CF(H,E))

其中，E：是知識(shí)的前提條件，它既可以是一個(gè)單個(gè)條件，也可以是用and及or連接起來的復(fù)合條件；

H：是結(jié)論，它可以是一個(gè)單一結(jié)論，也可以是多個(gè)結(jié)論。CF(H,E)：是該條知識(shí)的可信度，稱為可信度因子或規(guī)則強(qiáng)度，也就是前面所說的靜態(tài)強(qiáng)度。

CH(H,E)在[-1，1]上取值，它指出當(dāng)前提條件E所對(duì)應(yīng)的證據(jù)為真時(shí)，它對(duì)結(jié)論為真的支持程度。第四十七頁，共九十一頁。2023/5/1547127例如：if頭痛and流涕then感冒（0.7）

表示當(dāng)病人確有“頭痛”及“流涕”癥狀時(shí)，則有7成的把握認(rèn)為他患了感冒。

1)

在C-F模型中，把CF(H,E)定義為：

CF(H,E)=MB(H,E)–MD(H,E)

MB：稱為信任增長度，它表示因與前提條件E匹配的證據(jù)的出現(xiàn)，使結(jié)論H為真的信任增長度。MB定義為：

MB(H,E)=1若P(H)=1Max{P(H/E),P(H)}–P(H)

1–P(H)

否則第四十八頁，共九十一頁。2023/5/1548127MD：稱為不信任增長度，它表示因與前提條件E匹配的證據(jù)的出現(xiàn)，使結(jié)論H為真的不信任增長度。MD定義為：

MD(H,E)=

P(H)

表示H的先驗(yàn)概率；

P(H/E)

表示在前提條件E對(duì)應(yīng)的證據(jù)出現(xiàn)的情況下，結(jié)論H的條件概率。

2)CF(H,E)的計(jì)算公式

?由MB和MD的定義看出：當(dāng)MB(H,E)>0時(shí)，有P(H/E)>P(H)；當(dāng)MD(H,E)>0時(shí)，有P(H/E)<P(H)；1若P(H)=0Min{P(H/E),P(H)}–P(H)

–P(H)

否則第四十九頁，共九十一頁。2023/5/1549127

?因?yàn)橐粋€(gè)證據(jù)不可能既增加對(duì)H的信任程度，又增加對(duì)H的不信任程度，因此MB(H,E)，MD(H,E)是互斥的，即：當(dāng)MB(H,E)>0時(shí)，MD(H,E)=0

當(dāng)MD(H,E)>0時(shí)MB(H,E)=0

綜合上述可得到CF(H,E)的計(jì)算公式：

MB(H,E)

–0=,若P(H/E)>P(H)CF(H,E)=0,若P(H/E)=P(H)

0–MD(H,E)=–,若P(H/E)<P(HP(H/E)–P(H)

1–

P(H)P(H)

–

P(H/E)

P(H)第五十頁，共九十一頁。2023/5/1550127

由CF(H,E)的計(jì)算公式可直觀地看出它的意義：1)若CF(H,E)＞0，則P(H/E)＞P(H)。這說明由于前提條件E所對(duì)應(yīng)的證據(jù)出現(xiàn)增加了H為真的概率，即增加了H為真的可信度，CF(H,E)的值越大，增加H為真的可信度就越大。若CF(H,E)=1，可推出P(H/E)＝1，即由于E所對(duì)應(yīng)的證據(jù)出現(xiàn)使H為真。2)若CF(H,E)＜0，則P(H/E)＜P(H)。這說明由于E所對(duì)應(yīng)的證據(jù)出現(xiàn)減少了H為真的概率，即增加了H為假的可信度，CF(H,F)的值越小，增加H為假的可信度就越大。若CF(H,E)=-1，可推出P(H/E)＝0，即E所對(duì)應(yīng)的證據(jù)出現(xiàn)使H為假。3)若CF(H,E)=0，則P(H/E)=P(H)，表示H與E獨(dú)立，即E所對(duì)應(yīng)的證據(jù)出現(xiàn)對(duì)H沒有影響。第五十一頁，共九十一頁。2023/5/1551127當(dāng)已知P(H)和P(H/E)的值時(shí)，通過運(yùn)用上述公式，可以求出CF(H,E)。但是，在實(shí)際應(yīng)用中，P(H)和P(H/E)的值是難以獲得的。

因此，CF(H,E)的值要求領(lǐng)域?qū)＜抑苯咏o出。其原則是：

?若由于相應(yīng)證據(jù)的出現(xiàn)增加結(jié)論H為真的可信度，則使CF(H,E)>0，證據(jù)的出現(xiàn)越是支持H為真，就使CF(H,E)的值越大；

?反之，使CF(H,E)<0，證據(jù)的出現(xiàn)越是支持H為假，就使CF(H,E)的值越?。?若證據(jù)的出現(xiàn)與否與H無關(guān)，則使CF(H,E)=0。(2)證據(jù)不確定的表示

在該模型中，證據(jù)的不確定性也用可信度因子表示。如：

CF(E)=0.6表示證據(jù)E的可信度為0.6。證據(jù)可信度值的來源分為兩種情況：

?對(duì)于初始證據(jù)，其可信度的值由提供證據(jù)的用戶給出；

第五十二頁，共九十一頁。2023/5/1552127

?對(duì)于用先前推出的結(jié)論作為當(dāng)前推理的證據(jù)，其可信度值在推出該結(jié)論時(shí)通過不確定性傳遞算法計(jì)算得到。

證據(jù)E的可信度CF(E)也是在[-1，1]之間取值。

對(duì)于初始證據(jù)：

?若對(duì)它的所有觀察S能肯定它為真．則使CF(E)=1；

?

若肯定它為假，則使CF(E)=-1；

?若它以某種程度為真，則使CF(E)為(0,1)中的某一個(gè)值，即0＜CF(E)＜1;

?若它以某種程度為假，則使CF(E)為(-1,0)中的某一個(gè)值，即-1＜CF(E)＜0；

?若對(duì)它還未獲得任何相關(guān)的觀察，此時(shí)可看作觀察S與它無關(guān)，則使CF(E)=0。第五十三頁，共九十一頁。2023/5/1553127(3)組合證據(jù)不確定性的算法

?當(dāng)組合證據(jù)是多個(gè)單一證據(jù)的合取時(shí)，即：

E=E1andE2and…andEn

若已知CF(E1)，CF(E2)，…，CF(En)，則

CF(E)=min{CF(E1)，CF(E2)，…，CF(En)}

?當(dāng)組合證據(jù)是多個(gè)單一證據(jù)的析取時(shí)，即：

E=E1or

E2or…orEn

若已知CF(E1)，CF(E2)，…，CF(En)，則

CF(E)=max{CF(E1)，CF(E2)，…，CF(En)}第五十四頁，共九十一頁。2023/5/1554127(4)不確定性的傳遞算法

C-F模型中的不確定性推理是從不確定的初始證據(jù)出發(fā)，通過運(yùn)用相關(guān)的不確定性知識(shí)，最終推出結(jié)論并求出結(jié)論的可信度值。結(jié)論H的可信度由下式計(jì)算：

CF(H)=CF(H,E)max{0,CF(E)}

(5)

結(jié)論不確定性的合成算法

若由多條不同知識(shí)推出了相同的結(jié)論，但可信度不同，則可用合成算法求出綜合可信度。

設(shè)有如下知識(shí)：

ifE1thenH(CF(H,E1))

ifE2thenH(CF(H,E2))當(dāng)CF(E)<0時(shí)，CF(H)=0，說明該模型中沒有考慮證據(jù)為假時(shí)對(duì)結(jié)論H所產(chǎn)生的影響。第五十五頁，共九十一頁。2023/5/1555127

則結(jié)論H的綜合可信度可分如下兩步算出：

?首先分別對(duì)每一條知識(shí)求出CF(H)：CF1(H)=CF(H,E1)max{0,CF(E1)}CF2(H)=CF(H,E2)max{0,CF(E2)}?然后用下述公式求出E1與

E2對(duì)H的綜合影響所形成的可信度：

CF1(H)+CF2(H)–CF1(H)

CF2(H)若CF1(H)0,

CF2(H)0CF1(H)+CF2(H)+CF1(H)

CF2(H)若CF1(H)0,

CF2(H)0

CF1(H)+CF2(H)1–min{|CF1(H)|,|CF2(H)|}若CF1(H)與CF2(H)異號(hào)CF1，2(H)

=

第五十六頁，共九十一頁。2023/5/1556127

例：有下列一組知識(shí)：r1：ifE1thenH(0.8)r2：ifE2thenH(0.6)r3：ifE3thenH(-0.5)r4：ifE4and(E5orE6)thenE1(0.7)r5：ifE7andE8thenE3(0.8)

已知：CH(E2)=0.8，CH(E4)=0.5，CH(E5)=0.6，CH(E6)=0.7，CH(E7)=0.6，CH(E8)=0.9，

求：CF(H)=?

解：由已知知識(shí)得到推理網(wǎng)絡(luò)：HE2E3E7E8E1E4E5E6第五十七頁，共九十一頁。2023/5/1557127結(jié)論不確定性傳遞算法

由r4

得到：CF(E1)=0.7max{0,CF[E4and(E5orE6)}=0.7max{0,min{CF(E4),CF(E5orE6)}}=0.7max{0,min{CF(E4),max{CF(E5),CF(E6)}}}=0.7max{0,min{0.5,max{0.6,0.7}}}=0.70.5=0.35

由r5

得到：

CF(E3)=0.9max{0,CF(E7andE8)}=0.90.6=0.54由r1

得到：

CF1(H

)=0.8max{0,CF(E1)}=0.80.35=0.28

第五十八頁，共九十一頁。2023/5/1558127

由r2

得到：

CF2(H

)=0.6max{0,CF(E2)}=0.60.8=0.48由r3

得到：

CF3(H

)=-0.5max{0,CF(E3)}=-0.50.54