北航多源信息融合2015課件7證據(jù)理論基礎(chǔ)(1)

萬

江

文多源測試信息融合

證據(jù)理論基礎(chǔ)（1）主要內(nèi)容引言證據(jù)理論基礎(chǔ)證據(jù)理論研究現(xiàn)狀未來研究方向22024/3/7多源測試信息融合主要內(nèi)容引言證據(jù)理論基礎(chǔ)證據(jù)理論研究現(xiàn)狀未來研究方向32024/3/7多源測試信息融合1引言主觀貝葉斯理論的缺點(diǎn)：(1)要求概率（各證據(jù)之間）都是獨(dú)立的；(2)要求先驗(yàn)概率P(Oi)和條件概率P(Dj|Oi)；(3)要求統(tǒng)一的識別框架，不能實(shí)現(xiàn)不同層

次的組合；(4)不能區(qū)分“不確定”和“不知道”。42024/3/7多源測試信息融合1引言不確定性分類

不確定性可以分為隨機(jī)性、模糊性和認(rèn)識不確定性三種。

隨機(jī)性：在自然界中客觀存在，可根據(jù)歷史資料得到的統(tǒng)計(jì)數(shù)字來描述，常用概率論和數(shù)理統(tǒng)計(jì)來解決這方面問題。

模糊性：通常指發(fā)生在概念上的模糊，如大、中、小界限的模糊等。模糊理論是處理此問題的有力工具。

認(rèn)識的不確定性：是由于人們認(rèn)識水平的局限以及知識缺乏所造成的。隨機(jī)性和模糊性是客觀的不確定性，認(rèn)識的不確定性是主觀的不確定性。52024/3/7多源測試信息融合1引言概率的解釋證據(jù)理論出現(xiàn)以前，概率的解釋主要有客觀解釋，個(gè)人主義解釋及必要性解釋。

客觀解釋概率：認(rèn)為概率描述了一個(gè)可以重復(fù)出現(xiàn)事件的客觀事實(shí)，用試驗(yàn)次數(shù)趨于無窮時(shí)，該事件發(fā)生的頻率的極限來刻劃。

個(gè)人主義解釋：認(rèn)為概率反映了個(gè)人的某種偏好，它根據(jù)某個(gè)人在賭博中或其他帶有不確定性結(jié)果的事件中所表現(xiàn)出來的行為來推算。62024/3/7多源測試信息融合1引言

必要性解釋：則認(rèn)為概率是測量一個(gè)命題推出另一個(gè)命題程度的量，這個(gè)量由兩個(gè)命題之間的邏輯關(guān)系完全決定，與個(gè)人的偏好無任何關(guān)系，又稱為邏輯主義解釋。

Shafer指出以上三種概率的解釋都沒有涉及概率推斷的構(gòu)造特征，因此，Shafer提出了對概率的第四種解釋——構(gòu)造性解釋:

概率是指某人在證據(jù)的基礎(chǔ)上構(gòu)造出的他對某一命題為真的信任程度，簡稱信度。72024/3/7多源測試信息融合主要內(nèi)容引言證據(jù)理論基礎(chǔ)證據(jù)理論研究現(xiàn)狀未來研究方向82024/3/7多源測試信息融合4.2證據(jù)理論基礎(chǔ)證據(jù)理論的起源證據(jù)理論源于20世紀(jì)60年代美國哈弗大學(xué)的數(shù)學(xué)家A.P.Dempster

利用上、下概率來解決多值映射問題方面的研究工作。后來他的學(xué)生G.Shafer對證據(jù)理論做了進(jìn)一步的發(fā)展和推廣完善，引入了信任函數(shù)概念，形成了一套利用證據(jù)和組合來處理不確定性推理問題的數(shù)學(xué)方法。它作為一種不確定性推理方法，正受到越來越多的關(guān)注。稱為（D-S）證據(jù)理論和信任函數(shù)理論。92024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)（1)識別框架

假設(shè)現(xiàn)有一個(gè)判決問題，對于該問題我們所能認(rèn)識到的所有可能答案的集合用Θ表示，且Θ中的所有元素都滿足兩兩互斥；任一時(shí)刻的問題答案只能取Θ中的某一子集，答案可以是數(shù)值變量，也可以是非數(shù)值變量，則稱此互不相容命題的完備集合Θ為識別框架，可表示為： (2-1)其中θi為識別框架的一個(gè)元素或事件。102024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)（1)識別框架（續(xù)1）集合Θ的選取問題——識別框架的選取

集合Θ的選取依賴于我們的認(rèn)識水平和知識結(jié)構(gòu),包含我們所知道的和想要知道的。當(dāng)一個(gè)命題對應(yīng)于該識別框架的一個(gè)子集時(shí)，稱該框架能夠識別該命題，否則認(rèn)為識別框架是無效的。因此，Θ的選取應(yīng)當(dāng)足夠的豐富，使我們所考慮的任何特定的命題集都可以對應(yīng)于Θ的某一集類R，（Θ,R）稱為命題空間。當(dāng)Θ中含有N個(gè)元素時(shí)，R中最多有2N個(gè)子集。需要說明的是，集合Θ可以為有限集也可以為無限集。本課程只討論有限集。112024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)（1)識別框架（續(xù)2）

由識別框架中所有子集構(gòu)成的一個(gè)有限集合稱為Θ的冪集合，記作 (2-2

)其中φ表示空集。識別框架的任一子集A都對應(yīng)于一個(gè)命題，一般可描述為“問題的答案在A中”。122024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)例1:

以擲骰子為例，要判斷其可能所出現(xiàn)的點(diǎn)數(shù)，則識別框架Θ={1,2,3,4,5,6}，而{1}則表示“擲出的點(diǎn)數(shù)為1”，則{2,4,6}表示“擲出的點(diǎn)數(shù)為偶數(shù)”，{1,2,3,4,5}則表示“擲出的點(diǎn)數(shù)不為6”，即“擲出的點(diǎn)數(shù)為1,2,3,4,5中的某一個(gè)”。由此可見，冪集合中的每一個(gè)子集A都代表一個(gè)命題。132024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)證據(jù)理論是建立在識別框架基礎(chǔ)上的推理模型，其基本思路如下：

a)建立識別框架。利用集合論方法來研究命題；b)建立初始信任分配。根據(jù)證據(jù)提供的信息，分配證據(jù)對每一集合（命題）A本身的支持程度，該支持程度不能再細(xì)分給A的真子集。c)根據(jù)因果關(guān)系，計(jì)算所有命題的信任度。一個(gè)命題的信任度等于證據(jù)對它的所有前提的初始信任度之和。這是因?yàn)?，若證據(jù)支持一個(gè)命題，則他同樣支持該命題的推論。d)證據(jù)合成。利用證據(jù)理論合成公式融合多個(gè)證據(jù)提供的信息，得到各命題融合后的信任度。e)根據(jù)融合后的信任度進(jìn)行決策，一般選擇信任度最大的命題。2024/3/7多源測試信息融合142證據(jù)理論基礎(chǔ)——證據(jù)函數(shù)(2)證據(jù)函數(shù)

證據(jù)是整個(gè)證據(jù)理論的核心，證據(jù)函數(shù)又是描述證據(jù)的有力工具。下面將詳細(xì)介紹證據(jù)理論中幾個(gè)證據(jù)函數(shù)的基本概念及相關(guān)定理。基本置信度指派函數(shù)；信任度函數(shù)；似真度函數(shù)等152024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)定義1:設(shè)Θ為一識別框架，函數(shù)m是2Θ→[0,1]的映射，A為2Θ任一子集，記作，且滿足： (2-3)則稱m是2Θ上的基本置信度分配函數(shù)，也稱為質(zhì)量函數(shù)或mass函數(shù)。m(A)

為命題A的基本置信度指派值，表示證據(jù)對A的信任程度，空集φ的基本信任分配值為0。162024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)相關(guān)的幾個(gè)定義（1）

對于識別框架的任一子集A，只要滿足m(A)>0，則稱A為證據(jù)的焦元。證據(jù)的焦元和它的基本置信度指派構(gòu)成的二元體(A,m(A))稱為證據(jù)體,證據(jù)是由若干證據(jù)體組成。172024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)相關(guān)的幾個(gè)定義（2）焦元中所包含識別框架中的元素個(gè)數(shù)稱為該焦元的基，記作|A|。當(dāng)子集A中只包含一個(gè)元素時(shí)，即|A|=1，稱為單元素焦元。當(dāng)子集A中包含i個(gè)元素時(shí)，即|A|=i，稱為i元素焦元。全體焦元的集合稱為證據(jù)的核。18核就是識別框架的冪集2Θ嗎?2024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)的作用

把Θ的任一子集都映射到[0,1]上的一個(gè)數(shù)m(A)：

（1）當(dāng)A由單個(gè)元素組成時(shí)，m(A)表示對相應(yīng)命題A的精確信任度；（2）當(dāng)，A≠Θ，且A由多個(gè)元素組成時(shí)，m(A)也是相應(yīng)命題A的精確信任程度，但卻不知道這部分信任度該分給A中的哪些元素；

（3）當(dāng)A=Θ時(shí)，m(A)是對Θ的各個(gè)子集進(jìn)行信任分配后剩下的部分，它表示不知道該如何對它進(jìn)行分配。192024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)例2：泄漏診斷時(shí)，設(shè)識別框架Θ={A1，A2，A3}，A1表示“發(fā)生大泄漏”，A2表示“發(fā)生小泄漏”，A3表示無泄漏，基本置信度指派分別為m(φ)=0，m({A1})=0.3，m({A2})=0，m({A3})=0.1m({A1，A2})=0.2，m({A1，A3})=0.2，m({A2，A3})=0.1，m({A1，A2，A3})=0.120返例32024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)當(dāng)A={A1}時(shí)，m(A)=0.3，它表示對命題“答案是大泄漏”的精確信任度為0.3。

當(dāng)A={A1，A2}時(shí)，m(A)=0.2，它表示對命題“答案或是大泄漏，或是小泄漏”的精確信任度為0.2，但卻不知道該把這0.2分給{大泄漏}還是分給{小泄漏}。

當(dāng)A={A1，A2，A3}時(shí)，m(A)=0.1，它表示不知道該把它如何分配；它不屬于{A1}，就屬于{A2}或{A3}，只是基于現(xiàn)有的知識，還不知道該如何進(jìn)行分配。212024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——信任度函數(shù)定義2:信任度函數(shù)：集合A是識別框架Θ的任一子集，A中全部子集對應(yīng)的基本置信度之和稱為信任函數(shù)Bel(A)，即Bel：2

Θ→[0，1]

其中，Bel(A)成為事件A的信任值，它表示證據(jù)對A為真的信任程度；空集的信任值為0。222024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——信任度函數(shù)信任度函數(shù)表示對假設(shè)的信任程度的下限估計(jì)。由信任度分配函數(shù)的定義容易得到：如果對于Θ中的任意兩個(gè)子集A1,A2，滿足：則稱為弱信任度函數(shù)。232024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——信任度函數(shù)例3：同例2，已知：

m(φ)=0，m({A1})=0.3，m({A2})=0，m({A3})=0.1

m({A1，A2})=0.2，m({A1，A3})=0.2，

m({A2，A3})=0.1，m({A1，A2，A3})=0.1求.Bel({A1})和Bel({A1,A2})的信任度值.解：根據(jù)題意，可得Bel({A1})=m({A1})=0.3Bel({A1,A2})=m({A1})+m({A2})+m({A1,A2})=0.5.242024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——信任度函數(shù)引理1:假設(shè)A是一個(gè)有限集合，則下式成立證明：令是一個(gè)有限的非空集合，其中n為正整數(shù)，則有252024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——信任函數(shù)引理2.2:

若A是有限集，且，則：證明：根據(jù)引理2.1，可證。262024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——似真度函數(shù)定義3：

似真度函數(shù)：設(shè)識別框架Θ

，冪集2

Θ→[0,1]映射，A為識別框架內(nèi)的任一子集，似真度函數(shù)Pl(A)定義為對A的非假信任度，即對A似乎可能成立的不確定性度，此時(shí)有：Pl(A)表示A為非假的信任程度，A的上限估計(jì)，且Bel(A)≤Pl(A)；Bel(ā)表示對A為假的信任程度，即對A的懷疑程度。272024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——信任區(qū)間信任區(qū)間——定義4：

信任區(qū)間表示事件發(fā)生的下限估計(jì)到上限估計(jì)的范圍，即：[Bel(A)，Pl(A)]稱為命題A的信任區(qū)間，Pl(A)-Bel(A)描述了對A的不確定性，有時(shí)也稱為不確定區(qū)間。區(qū)間的下限等于直接證據(jù)對命題的支持程度，即命題的信任度；區(qū)間的上限等于潛在證據(jù)對命題的支持程度，即命題的似真度。28證據(jù)區(qū)間劃分示意圖2024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——信任區(qū)間例4：說說下列信任區(qū)間，對命題A表示的實(shí)際意義：29[

Bel(A),

Pl(A)

]意義[0，1]對命題A一無所知[0，0]命題A為假[1，1]命題A為真[0.5，0.5]對命題A的準(zhǔn)確信任度為0.5[0.4，1]證據(jù)提供對命題A的部分支持度[0，0.7]證據(jù)對命題

的部分支持度[0.3，0.9]證據(jù)對命題A的信任區(qū)間為0.3-0.92024/3/7多源測試信息融合2證據(jù)理論基礎(chǔ)——證據(jù)函數(shù)總結(jié)

m(A)、Bel(A)和Pl(A)的意義m(A)反映了對A本身的信任度大小

Bel(A)是分配到A上的總信任度Pl(A)是所有與A相容的命題本身的信任度之和

302024/3/7多源測試信息融合課程內(nèi)容引言證據(jù)理論基礎(chǔ)證據(jù)理論研究現(xiàn)狀未來研究方向312024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀(1)證據(jù)理論模型解釋(2)證據(jù)融合悖論(3)證據(jù)組合算法實(shí)現(xiàn)(4)證據(jù)理論的應(yīng)用(5)國內(nèi)研究現(xiàn)狀322024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀(1)證據(jù)理論模型的幾種解釋上、下概率解釋廣義貝葉斯理論解釋隨機(jī)集理論模型解釋可傳遞信度模型解釋

332024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀Dempster對證據(jù)理論模型解釋上、下概率解釋模型，認(rèn)為置信函數(shù)是概率的下界，似真函數(shù)是概率的上界，Dempster正是通過這個(gè)概念創(chuàng)立了證據(jù)理論。廣義貝葉斯理論模型，認(rèn)為證據(jù)理論是貝葉斯理論的擴(kuò)展，所有應(yīng)用貝葉斯概率推理方法的數(shù)據(jù)融合系統(tǒng)都可以用證據(jù)理論方法來替代。當(dāng)BPA函數(shù)的所有焦元都是單個(gè)假設(shè)集，且這些焦元都滿足貝葉斯獨(dú)立條件時(shí)，Dempster合成公式就退化為貝葉斯公式。隨機(jī)集理論模型把證據(jù)的合成看作是隨機(jī)條件事件的并(或交)。按照這種解釋模型的觀點(diǎn)，數(shù)據(jù)融合過程就相當(dāng)于隨機(jī)集的集合運(yùn)算過程。以上三種解釋模型的共同點(diǎn)都是以概率理論為基礎(chǔ)。342024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀Smets對證據(jù)理論模型解釋

Smets發(fā)現(xiàn)許多DS模型的研究者只看到了BPA是在識別框架的冪集上的靜態(tài)概率分布，都沒有從研究DS模型的動(dòng)態(tài)部分，即信度是如何更新的，因此提出了一種不依賴任何概率理論的“可傳遞信度模型”(TBM)。這種模型的基本假設(shè)是證據(jù)不充分，以致不足以把信任度指派給識別框架中的元素。從數(shù)據(jù)融合的角度來看，TBM模型在它是一種層次化的遞進(jìn)模型，體現(xiàn)了數(shù)據(jù)融合系統(tǒng)的層次化描述特征，尤其適用于需要逐層進(jìn)行數(shù)據(jù)、特征或決策融合的數(shù)據(jù)融合系統(tǒng)。TBM模型理論和實(shí)際應(yīng)用上都很有價(jià)值。352024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀(2)證據(jù)融合悖論

在證據(jù)理論的實(shí)際應(yīng)用中，常常會面臨各種不確定的沖突信息，而當(dāng)參與合成的證據(jù)間具有較大的不一致性或沖突時(shí)，證據(jù)合成方法就不能使用，若使用會得出與事實(shí)相悖的結(jié)果。這一局限性成為制約證據(jù)理論進(jìn)一步推廣的主要問題，所以基于沖突證據(jù)的合成方法的研究和改進(jìn)是一個(gè)亟待解決的問題。為了解決沖突證據(jù)的合成問題，不少學(xué)者對沖突證據(jù)的合成方法進(jìn)行了研究，并提出了許多解決方法。362024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀(3)證據(jù)算法的實(shí)現(xiàn)目前證據(jù)算法實(shí)現(xiàn)主要有以下三種途徑：

1）針對特殊的證據(jù)組織結(jié)構(gòu)，構(gòu)造相應(yīng)的快速算法2）近似計(jì)算3）修改D-S合成公式法372024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀1）快速算法構(gòu)造Shafer給出在層次情況下精確實(shí)現(xiàn)Dempster合成規(guī)則的算法。

Barnett針對一類簡單的證據(jù)結(jié)構(gòu)提出了一個(gè)快速實(shí)現(xiàn)D-S的算法；為達(dá)到簡化計(jì)算量的目的，Pearl在層次假設(shè)空間中使用了一種貝葉斯形式的推理算法；382024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀2）近似計(jì)算

近似計(jì)算方法的思路是通過減少置信函數(shù)的焦元個(gè)數(shù)來簡化計(jì)算。Voorbraak提出了一種置信函數(shù)的貝葉斯近似算法，他研究證明：如果置信任函數(shù)的合成將產(chǎn)生一個(gè)貝葉斯信任函數(shù)，即一個(gè)識別框架上的概率測度，則信任函數(shù)用他們的貝葉斯近似來代替，將不會影響Dempster合成規(guī)則的結(jié)果。

Voorbraak證明了在一般的情況下，置信函數(shù)的貝葉斯近似的合成等于這些置信函數(shù)的合成的貝葉斯近似，大大簡化了計(jì)算量。392024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀

Dubois（迪布瓦）提出了一致近似性算法，該方法的特點(diǎn)是通過近似計(jì)算后的焦元是嵌套的，并且焦元的個(gè)數(shù)不超過識別框架中的假設(shè)個(gè)數(shù)。

Tessem（特塞姆）提出了(k,l,x)近似算法，k表示保留的焦元個(gè)數(shù),l保留的焦點(diǎn)元素最多個(gè)數(shù)，x表示允許被刪除的最大mass值，x通常在[0,0.1]上取值。

Simard（西馬德）提出了一種稱為TDS算法，主要思想為：首先給出要保留的焦點(diǎn)元素的最大個(gè)數(shù)、上限BPA和下限BPA，然后判斷BPA的數(shù)值的大小以決定其對應(yīng)的焦點(diǎn)元素是否應(yīng)該保留。402024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀3）修改D-S方法

修改D-S方法主要是指Mahler提出的條件化證據(jù)理論，它是一種在先驗(yàn)知識可能是非貝葉斯的情況下，處理證據(jù)的概率計(jì)算。Ishizuka等人結(jié)合了D-S方法和模糊集理論的優(yōu)點(diǎn)來表示和處理不確定的和模糊的信息，通過定義模糊集合的包含度和相關(guān)度來實(shí)現(xiàn)這個(gè)目的，并將置信函數(shù)重新定義，給出了包含度的定義并相應(yīng)地修正了Dempster合成公式。412024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀(4)證據(jù)理論的應(yīng)用

證據(jù)理論為不確定信息的表達(dá)和合成提供了強(qiáng)有力的方法，使得它在數(shù)據(jù)融合領(lǐng)域得到了廣泛的應(yīng)用。在軍事方面，如目標(biāo)檢測、識別、跟蹤和態(tài)勢評估與決策分析；在非軍事方面，如故障診斷、數(shù)字圖像處理、經(jīng)濟(jì)決策、網(wǎng)絡(luò)入侵檢測、機(jī)器人導(dǎo)航等。隨著證據(jù)理論的發(fā)展，它的應(yīng)用也越來越廣。目前，證據(jù)理論在信息融合，風(fēng)險(xiǎn)評估功偽、專家系統(tǒng)、企業(yè)診斷、模式識別、決策分析等方面均有成功的應(yīng)用。422024/3/7多源測試信息融合3證據(jù)理論研究現(xiàn)狀(5)