比較簡(jiǎn)單的貝葉斯網(wǎng)絡(luò)總結(jié)

貝葉斯網(wǎng)絡(luò)

貝葉斯網(wǎng)絡(luò)是一系列變量的聯(lián)合概率分布的圖形表示。

一般包含兩個(gè)部分，一個(gè)就是貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)圖，這是一個(gè)有向無環(huán)圖（DAG），其中圖中的每個(gè)節(jié)點(diǎn)代表相應(yīng)的變量，節(jié)點(diǎn)之間的連接關(guān)系代表了貝葉斯網(wǎng)絡(luò)的條件獨(dú)立語義。另一部分，就是節(jié)點(diǎn)和節(jié)點(diǎn)之間的條件概率表（CPT），也就是一系列的概率值。如果一個(gè)貝葉斯網(wǎng)絡(luò)提供了足夠的條件概率值，足以計(jì)算任何給定的聯(lián)合概率，我們就稱，它是可計(jì)算的，即可推理的。

3.5.1貝葉斯網(wǎng)絡(luò)基礎(chǔ)

首先從一個(gè)具體的實(shí)例（醫(yī)療診斷的例子）來說明貝葉斯網(wǎng)絡(luò)的構(gòu)造。

假設(shè)：

命題S(moker)：該患者是一個(gè)吸煙者

命題C(oalMiner)：該患者是一個(gè)煤礦礦井工人

命題L(ungCancer)：他患了肺癌

命題E(mphysema)：他患了肺氣腫

命題S對(duì)命題L和命題E有因果影響，而C對(duì)E也有因果影響。

命題之間的關(guān)系可以描繪成如右圖所示的因果關(guān)系網(wǎng)。

因此，貝葉斯網(wǎng)有時(shí)也叫因果網(wǎng)，因?yàn)榭梢詫⑦B接結(jié)點(diǎn)的弧認(rèn)為是表達(dá)了直接的因果關(guān)系。

圖3-5貝葉斯網(wǎng)絡(luò)的實(shí)例

圖中表達(dá)了貝葉斯網(wǎng)的兩個(gè)要素：其一為貝葉斯網(wǎng)的結(jié)構(gòu)，也就是各節(jié)點(diǎn)的繼承關(guān)系，其二就是條件概率表CPT。若一個(gè)貝葉斯網(wǎng)可計(jì)算，則這兩個(gè)條件缺一不可。

貝葉斯網(wǎng)由一個(gè)有向無環(huán)圖（DAG）及描述頂點(diǎn)之間的概率表組成。其中每個(gè)頂點(diǎn)對(duì)應(yīng)一個(gè)隨機(jī)變量。這個(gè)圖表達(dá)了分布的一系列有條件獨(dú)立屬性：在給定了父親節(jié)點(diǎn)的狀態(tài)后，每個(gè)變量與它在圖中的非繼承節(jié)點(diǎn)在概率上是獨(dú)立的。該圖抓住了概率分布的定性結(jié)構(gòu)，并被開發(fā)來做高效推理和決策。

貝葉斯網(wǎng)絡(luò)能表示任意概率分布的同時(shí)，它們?yōu)檫@些能用簡(jiǎn)單結(jié)構(gòu)表示的分布提供了可計(jì)算優(yōu)勢(shì)。

假設(shè)對(duì)于頂點(diǎn)xi，其雙親節(jié)點(diǎn)集為Pai，每個(gè)變量xi的條件概率P(xi|Pai)。則頂點(diǎn)集合X={x1,x2,…,xn}的聯(lián)合概率分布可如下計(jì)算：

。

雙親結(jié)點(diǎn)。該結(jié)點(diǎn)得上一代結(jié)點(diǎn)。

該等式暗示了早先給定的圖結(jié)構(gòu)有條件獨(dú)立語義。它說明貝葉斯網(wǎng)絡(luò)所表示的聯(lián)合分布作為一些單獨(dú)的局部交互作用模型的結(jié)果具有因式分解的表示形式。

從貝葉斯網(wǎng)的實(shí)例圖中，我們不僅看到一個(gè)表示因果關(guān)系的結(jié)點(diǎn)圖，還看到了貝葉斯網(wǎng)中的每個(gè)變量的條件概率表（CPT）。因此一個(gè)完整的隨機(jī)變量集合的概率的完整說明不僅包含這些變量的貝葉斯網(wǎng)，還包含網(wǎng)中變量的條件概率表。

圖例中的聯(lián)合概率密度：

P(S,C,L,E)=P(E|S,C)*P(L|S)*P(C)*P(S)

推導(dǎo)過程：P(S,C,L,E)=P(E|S,C,L)*P(L|S,C)*P(C|S)*P(S)（貝葉斯定理）

＝P(E|S,C)*P(L|S)*P(C)*P(S)

即：P(E|S,C,L)＝P(E|S,C),E與L無關(guān)

P(L|S,C)=P(L|S)L與C無關(guān)

P(C|S)=P(C)C與S無關(guān)

以上三條等式的正確性，可以從貝葉斯網(wǎng)的條件獨(dú)立屬性推出：每個(gè)變量與它在圖中的非繼承節(jié)點(diǎn)在概率上是獨(dú)立的。

相比原始的數(shù)學(xué)公式：

P(S,C,L,E)=P(E|S,C,L)*P(L|S,C)*P(C|S)*P(S)

推導(dǎo)過程：

由貝葉斯定理，P(S,C,L,E)=P(E|S,C,L)*P(S,C,L)

再由貝葉斯定理P(S,C,L)=P(L|S,C)*P(S,C)

同樣，P(S,C)=P(C|S)*P(S)

以上幾個(gè)等式相乘即得原式。

顯然，簡(jiǎn)化后的公式更加簡(jiǎn)單明了，計(jì)算復(fù)雜度低很多。如果原貝葉斯網(wǎng)中的條件獨(dú)立語義數(shù)量較多，這種減少更加明顯。

貝葉斯網(wǎng)絡(luò)是一系列變量的聯(lián)合概率分布的圖形表示。這種表示法最早被用來對(duì)專家的不確定知識(shí)編碼，今天它們?cè)诂F(xiàn)代專家系統(tǒng)、診斷引擎和決策支持系統(tǒng)中發(fā)揮了關(guān)鍵作用。貝葉斯網(wǎng)絡(luò)的一個(gè)被經(jīng)常提起的優(yōu)點(diǎn)是它們具有形式的概率語義并且能作為存在于人類頭腦中的知識(shí)結(jié)構(gòu)的自然映像。這有助于知識(shí)在概率分布方面的編碼和解釋，使基于概率的推理和最佳決策成為可能。

3.5.2貝葉斯網(wǎng)的推理模式

在貝葉斯網(wǎng)中有三種重要的推理模式，因果推理（由上向下推理），診斷推理（自底向上推理）和辯解。

3．5．2．1因果推理

讓我們通過概述的實(shí)例來說明因果推理得過程。給定患者是一個(gè)吸煙者（S），計(jì)算他而對(duì)于給定結(jié)點(diǎn)E，S和L之間找不到阻塞結(jié)點(diǎn)。因此，S和L不是條件獨(dú)立的。

即使使用了D分離，一般地講，在貝葉斯網(wǎng)中，概率推理仍是NP難題。然而，有些簡(jiǎn)化能在一個(gè)叫Polytree的重要網(wǎng)絡(luò)分類中使用。一個(gè)Polytree網(wǎng)是一個(gè)DAG，在該DAG的任意兩個(gè)結(jié)點(diǎn)間，順著弧的每一個(gè)方向只有一條路徑。如圖就是一個(gè)典型的Polytree。

圖3-7Polytree

D分離的實(shí)質(zhì)就是尋找貝葉斯網(wǎng)中的條件獨(dú)立語義，以簡(jiǎn)化推理計(jì)算。

總結(jié)

本節(jié)就Bayes網(wǎng)絡(luò)的基本問題進(jìn)行了闡述，著重點(diǎn)在推理計(jì)算上。