證據(jù)理論基礎(chǔ)課件1

萬

江

文多源測試信息融合

證據(jù)理論基礎(chǔ)（1）.萬江文多源測試信息融合

證據(jù)理論基礎(chǔ)（1）.1主要內(nèi)容引言證據(jù)理論基礎(chǔ)證據(jù)理論研究現(xiàn)狀未來研究方向.2023/10/32主要內(nèi)容引言.2023/8/32主要內(nèi)容引言證據(jù)理論基礎(chǔ)證據(jù)理論研究現(xiàn)狀未來研究方向.2023/10/33主要內(nèi)容引言.2023/8/331引言主觀貝葉斯理論的缺點：(1)要求概率（各證據(jù)之間）都是獨立的；(2)要求先驗概率P(Oi)和條件概率P(Dj|Oi)；(3)要求統(tǒng)一的識別框架，不能實現(xiàn)不同層

次的組合；(4)不能區(qū)分“不確定”和“不知道”。.2023/10/341引言主觀貝葉斯理論的缺點：.2023/8/341引言不確定性分類

不確定性可以分為隨機性、模糊性和認識不確定性三種。

隨機性：在自然界中客觀存在，可根據(jù)歷史資料得到的統(tǒng)計數(shù)字來描述，常用概率論和數(shù)理統(tǒng)計來解決這方面問題。

模糊性：通常指發(fā)生在概念上的模糊，如大、中、小界限的模糊等。模糊理論是處理此問題的有力工具。

認識的不確定性：是由于人們認識水平的局限以及知識缺乏所造成的。隨機性和模糊性是客觀的不確定性，認識的不確定性是主觀的不確定性。.2023/10/351引言不確定性分類.2023/8/351引言概率的解釋證據(jù)理論出現(xiàn)以前，概率的解釋主要有客觀解釋，個人主義解釋及必要性解釋。

客觀解釋概率：認為概率描述了一個可以重復(fù)出現(xiàn)事件的客觀事實，用試驗次數(shù)趨于無窮時，該事件發(fā)生的頻率的極限來刻劃。

個人主義解釋：認為概率反映了個人的某種偏好，它根據(jù)某個人在賭博中或其他帶有不確定性結(jié)果的事件中所表現(xiàn)出來的行為來推算。.2023/10/361引言概率的解釋.2023/8/361引言

必要性解釋：則認為概率是測量一個命題推出另一個命題程度的量，這個量由兩個命題之間的邏輯關(guān)系完全決定，與個人的偏好無任何關(guān)系，又稱為邏輯主義解釋。

Shafer指出以上三種概率的解釋都沒有涉及概率推斷的構(gòu)造特征，因此，Shafer提出了對概率的第四種解釋——構(gòu)造性解釋:

概率是指某人在證據(jù)的基礎(chǔ)上構(gòu)造出的他對某一命題為真的信任程度，簡稱信度。.2023/10/371引言必要性解釋：則認為概率是測量一個命主要內(nèi)容引言證據(jù)理論基礎(chǔ)證據(jù)理論研究現(xiàn)狀未來研究方向.2023/10/38主要內(nèi)容引言.2023/8/384.2證據(jù)理論基礎(chǔ)證據(jù)理論的起源證據(jù)理論源于20世紀60年代美國哈弗大學(xué)的數(shù)學(xué)家A.P.Dempster利用上、下概率來解決多值映射問題方面的研究工作。后來他的學(xué)生G.Shafer對證據(jù)理論做了進一步的發(fā)展和推廣完善，引入了信任函數(shù)概念，形成了一套利用證據(jù)和組合來處理不確定性推理問題的數(shù)學(xué)方法。它作為一種不確定性推理方法，正受到越來越多的關(guān)注。稱為（D-S）證據(jù)理論和信任函數(shù)理論。.2023/10/394.2證據(jù)理論基礎(chǔ)證據(jù)理論的起源.2023/8/392證據(jù)理論基礎(chǔ)（1)識別框架

假設(shè)現(xiàn)有一個判決問題，對于該問題我們所能認識到的所有可能答案的集合用Θ表示，且Θ中的所有元素都滿足兩兩互斥；任一時刻的問題答案只能取Θ中的某一子集，答案可以是數(shù)值變量，也可以是非數(shù)值變量，則稱此互不相容命題的完備集合Θ為識別框架，可表示為： (2-1)其中θi為識別框架的一個元素或事件。.2023/10/3102證據(jù)理論基礎(chǔ)（1)識別框架.2023/8/3102證據(jù)理論基礎(chǔ)（1)識別框架（續(xù)1）集合Θ的選取問題——識別框架的選取

集合Θ的選取依賴于我們的認識水平和知識結(jié)構(gòu),包含我們所知道的和想要知道的。當一個命題對應(yīng)于該識別框架的一個子集時，稱該框架能夠識別該命題，否則認為識別框架是無效的。因此，Θ的選取應(yīng)當足夠的豐富，使我們所考慮的任何特定的命題集都可以對應(yīng)于Θ的某一集類R，（Θ,R）稱為命題空間。當Θ中含有N個元素時，R中最多有2N個子集。需要說明的是，集合Θ可以為有限集也可以為無限集。本課程只討論有限集。.2023/10/3112證據(jù)理論基礎(chǔ)（1)識別框架（續(xù)1）.2023/8/312證據(jù)理論基礎(chǔ)（1)識別框架（續(xù)2）

由識別框架中所有子集構(gòu)成的一個有限集合稱為Θ的冪集合，記作 (2-2

)其中φ表示空集。識別框架的任一子集A都對應(yīng)于一個命題，一般可描述為“問題的答案在A中”。.2023/10/3122證據(jù)理論基礎(chǔ)（1)識別框架（續(xù)2）.2023/8/312證據(jù)理論基礎(chǔ)例1:

以擲骰子為例，要判斷其可能所出現(xiàn)的點數(shù)，則識別框架Θ={1,2,3,4,5,6}，而{1}則表示“擲出的點數(shù)為1”，則{2,4,6}表示“擲出的點數(shù)為偶數(shù)”，{1,2,3,4,5}則表示“擲出的點數(shù)不為6”，即“擲出的點數(shù)為1,2,3,4,5中的某一個”。由此可見，冪集合中的每一個子集A都代表一個命題。.2023/10/3132證據(jù)理論基礎(chǔ)例1:.2023/8/3132證據(jù)理論基礎(chǔ)證據(jù)理論是建立在識別框架基礎(chǔ)上的推理模型，其基本思路如下：

a)建立識別框架。利用集合論方法來研究命題；b)建立初始信任分配。根據(jù)證據(jù)提供的信息，分配證據(jù)對每一集合（命題）A本身的支持程度，該支持程度不能再細分給A的真子集。c)根據(jù)因果關(guān)系，計算所有命題的信任度。一個命題的信任度等于證據(jù)對它的所有前提的初始信任度之和。這是因為，若證據(jù)支持一個命題，則他同樣支持該命題的推論。d)證據(jù)合成。利用證據(jù)理論合成公式融合多個證據(jù)提供的信息，得到各命題融合后的信任度。e)根據(jù)融合后的信任度進行決策，一般選擇信任度最大的命題。.2023/10/3142證據(jù)理論基礎(chǔ)證據(jù)理論是建立在識別框架基礎(chǔ)上2證據(jù)理論基礎(chǔ)——證據(jù)函數(shù)(2)證據(jù)函數(shù)

證據(jù)是整個證據(jù)理論的核心，證據(jù)函數(shù)又是描述證據(jù)的有力工具。下面將詳細介紹證據(jù)理論中幾個證據(jù)函數(shù)的基本概念及相關(guān)定理?；局眯哦戎概珊瘮?shù)；信任度函數(shù)；似真度函數(shù)等.2023/10/3152證據(jù)理論基礎(chǔ)——證據(jù)函數(shù)(2)證據(jù)函數(shù)

2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)定義1:設(shè)Θ為一識別框架，函數(shù)m是2Θ→[0,1]的映射，A為2Θ任一子集，記作，且滿足： (2-3)則稱m是2Θ上的基本置信度分配函數(shù)，也稱為質(zhì)量函數(shù)或mass函數(shù)。m(A)

為命題A的基本置信度指派值，表示證據(jù)對A的信任程度，空集φ的基本信任分配值為0。.2023/10/3162證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)定義1:設(shè)Θ為一識別框2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)相關(guān)的幾個定義（1）

對于識別框架的任一子集A，只要滿足m(A)>0，則稱A為證據(jù)的焦元。證據(jù)的焦元和它的基本置信度指派構(gòu)成的二元體(A,m(A))稱為證據(jù)體,證據(jù)是由若干證據(jù)體組成。.2023/10/3172證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)相關(guān)2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)相關(guān)的幾個定義（2）焦元中所包含識別框架中的元素個數(shù)稱為該焦元的基，記作|A|。當子集A中只包含一個元素時，即|A|=1，稱為單元素焦元。當子集A中包含i個元素時，即|A|=i，稱為i元素焦元。全體焦元的集合稱為證據(jù)的核。核就是識別框架的冪集2Θ嗎?.2023/10/3182證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)相關(guān)2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)的作用

把Θ的任一子集都映射到[0,1]上的一個數(shù)m(A)：

（1）當A由單個元素組成時，m(A)表示對相應(yīng)命題A的精確信任度；（2）當，A≠Θ，且A由多個元素組成時，m(A)也是相應(yīng)命題A的精確信任程度，但卻不知道這部分信任度該分給A中的哪些元素；

（3）當A=Θ時，m(A)是對Θ的各個子集進行信任分配后剩下的部分，它表示不知道該如何對它進行分配。.2023/10/3192證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)基本置信度指派函數(shù)的作2證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)例2：泄漏診斷時，設(shè)識別框架Θ={A1，A2，A3}，A1表示“發(fā)生大泄漏”，A2表示“發(fā)生小泄漏”，A3表示無泄漏，基本置信度指派分別為m(φ)=0，m({A1})=0.3，m({A2})=0，m({A3})=0.1m({A1，A2})=0.2，m({A1，A3})=0.2，m({A2，A3})=0.1，m({A1，A2，A3})=0.1返例3.2023/10/3202證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)例2：返例3.20232證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)當A={A1}時，m(A)=0.3，它表示對命題“答案是大泄漏”的精確信任度為0.3。

當A={A1，A2}時，m(A)=0.2，它表示對命題“答案或是大泄漏，或是小泄漏”的精確信任度為0.2，但卻不知道該把這0.2分給{大泄漏}還是分給{小泄漏}。

當A={A1，A2，A3}時，m(A)=0.1，它表示不知道該把它如何分配；它不屬于{A1}，就屬于{A2}或{A3}，只是基于現(xiàn)有的知識，還不知道該如何進行分配。.2023/10/3212證據(jù)理論基礎(chǔ)——基本置信度指派函數(shù)當A2證據(jù)理論基礎(chǔ)——信任度函數(shù)定義2:信任度函數(shù)：集合A是識別框架Θ的任一子集，A中全部子集對應(yīng)的基本置信度之和稱為信任函數(shù)Bel(A)，即Bel：2

Θ→[0，1]

其中，Bel(A)成為事件A的信任值，它表示證據(jù)對A為真的信任程度；空集的信任值為0。.2023/10/3222證據(jù)理論基礎(chǔ)——信任度函數(shù)定義2:.2023/8/3222證據(jù)理論基礎(chǔ)——信任度函數(shù)信任度函數(shù)表示對假設(shè)的信任程度的下限估計。由信任度分配函數(shù)的定義容易得到：如果對于Θ中的任意兩個子集A1,A2，滿足：則稱為弱信任度函數(shù)。.2023/10/3232證據(jù)理論基礎(chǔ)——信任度函數(shù)信任度函數(shù)表示對假設(shè)的2證據(jù)理論基礎(chǔ)——信任度函數(shù)例3：同例2，已知：

m(φ)=0，m({A1})=0.3，m({A2})=0，m({A3})=0.1

m({A1，A2})=0.2，m({A1，A3})=0.2，

m({A2，A3})=0.1，m({A1，A2，A3})=0.1求.Bel({A1})和Bel({A1,A2})的信任度值.解：根據(jù)題意，可得Bel({A1})=m({A1})=0.3Bel({A1,A2})=m({A1})+m({A2})+m({A1,A2})=0.5..2023/10/3242證據(jù)理論基礎(chǔ)——信任度函數(shù)例3：同例2，已知：.20232證據(jù)理論基礎(chǔ)——信任度函數(shù)引理1:假設(shè)A是一個有限集合，則下式成立證明：令是一個有限的非空集合，其中n為正整數(shù)，則有.2023/10/3252證據(jù)理論基礎(chǔ)——信任度函數(shù)引理1:假設(shè)A是一個有限集合2證據(jù)理論基礎(chǔ)——信任函數(shù)引理2.2:

若A是有限集，且，則：證明：根據(jù)引理2.1，可證。.2023/10/3262證據(jù)理論基礎(chǔ)——信任函數(shù)引理2.2:若A是有限集，且2證據(jù)理論基礎(chǔ)——似真度函數(shù)定義3：

似真度函數(shù)：設(shè)識別框架Θ

，冪集2

Θ→[0,1]映射，A為識別框架內(nèi)的任一子集，似真度函數(shù)Pl(A)定義為對A的非假信任度，即對A似乎可能成立的不確定性度，此時有：Pl(A)表示A為非假的信任程度，A的上限估計，且Bel(A)≤Pl(A)；Bel(ā)表示對A為假的信任程度，即對A的懷疑程度。.2023/10/3272證據(jù)理論基礎(chǔ)——似真度函數(shù)定義3：.2023/8/3272證據(jù)理論基礎(chǔ)——信任區(qū)間信任區(qū)間——定義4：

信任區(qū)間表示事件發(fā)生的下限估計到上限估計的范圍，即：[Bel(A)，Pl(A)]稱為命題A的信任區(qū)間，Pl(A)-Bel(A)描述了對A的不確定性，有時也稱為不確定區(qū)間。區(qū)間的下限等于直接證據(jù)對命題的支持程度，即命題的信任度；區(qū)間的上限等于潛在證據(jù)對命題的支持程度，即命題的似真度。證據(jù)區(qū)間劃分示意圖.2023/10/3282證據(jù)理論基礎(chǔ)——信任區(qū)間信任區(qū)間——定義4：證據(jù)區(qū)間劃分2證據(jù)理論基礎(chǔ)——信任區(qū)間例4：說說下列信任區(qū)間，對命題A表示的實際意義：[

Bel(A),

Pl(A)

]意義[0，1]對命題A一無所知[0，0]命題A為假[1，1]命題A為真[0.5，0.5]對命題A的準確信任度為0.5[0.4，1]證據(jù)提供對命題A的部分支持度[0，0.7]證據(jù)對命題

的部分支持度[0.3，0.9]證據(jù)對命題A的信任區(qū)間為0.3-0.9.2023/10/3292證據(jù)理論基礎(chǔ)——信任區(qū)間例4：[Bel(A),Pl(2證據(jù)理論基礎(chǔ)——證據(jù)函數(shù)總結(jié)

m(A)、Bel(A)和Pl(A)的意義m(A)反映了對A本身的信任度大小

Bel(A)是分配到A上的總信任度Pl(A)是所有與A相容的命題本身的信任度之和

.2023/10/3302證據(jù)理論基礎(chǔ)——證據(jù)函數(shù)總結(jié)m(A)、Bel(A)和課程內(nèi)容引言證據(jù)理論基礎(chǔ)證據(jù)理論研究現(xiàn)狀未來研究方向.2023/10/331課程內(nèi)容引言.2023/8/3313證據(jù)理論研究現(xiàn)狀(1)證據(jù)理論模型解釋(2)證據(jù)融合悖論(3)證據(jù)組合算法實現(xiàn)(4)證據(jù)理論的應(yīng)用(5)國內(nèi)研究現(xiàn)狀.2023/10/3323證據(jù)理論研究現(xiàn)狀(1)證據(jù)理論模型解釋.2023/8/33證據(jù)理論研究現(xiàn)狀(1)證據(jù)理論模型的幾種解釋上、下概率解釋廣義貝葉斯理論解釋隨機集理論模型解釋可傳遞信度模型解釋

.2023/10/3333證據(jù)理論研究現(xiàn)狀(1)證據(jù)理論模型的幾種解釋.20233證據(jù)理論研究現(xiàn)狀Dempster對證據(jù)理論模型解釋上、下概率解釋模型，認為置信函數(shù)是概率的下界，似真函數(shù)是概率的上界，Dempster正是通過這個概念創(chuàng)立了證據(jù)理論。廣義貝葉斯理論模型，認為證據(jù)理論是貝葉斯理論的擴展，所有應(yīng)用貝葉斯概率推理方法的數(shù)據(jù)融合系統(tǒng)都可以用證據(jù)理論方法來替代。當BPA函數(shù)的所有焦元都是單個假設(shè)集，且這些焦元都滿足貝葉斯獨立條件時，Dempster合成公式就退化為貝葉斯公式。隨機集理論模型把證據(jù)的合成看作是隨機條件事件的并(或交)。按照這種解釋模型的觀點，數(shù)據(jù)融合過程就相當于隨機集的集合運算過程。以上三種解釋模型的共同點都是以概率理論為基礎(chǔ)。.2023/10/3343證據(jù)理論研究現(xiàn)狀Dempster對證據(jù)理論模型解釋.203證據(jù)理論研究現(xiàn)狀Smets對證據(jù)理論模型解釋

Smets發(fā)現(xiàn)許多DS模型的研究者只看到了BPA是在識別框架的冪集上的靜態(tài)概率分布，都沒有從研究DS模型的動態(tài)部分，即信度是如何更新的，因此提出了一種不依賴任何概率理論的“可傳遞信度模型”(TBM)。這種模型的基本假設(shè)是證據(jù)不充分，以致不足以把信任度指派給識別框架中的元素。從數(shù)據(jù)融合的角度來看，TBM模型在它是一種層次化的遞進模型，體現(xiàn)了數(shù)據(jù)融合系統(tǒng)的層次化描述特征，尤其適用于需要逐層進行數(shù)據(jù)、特征或決策融合的數(shù)據(jù)融合系統(tǒng)。TBM模型理論和實際應(yīng)用上都很有價值。.2023/10/3353證據(jù)理論研究現(xiàn)狀Smets對證據(jù)理論模型解釋.2023/3證據(jù)理論研究現(xiàn)狀(2)證據(jù)融合悖論

在證據(jù)理論的實際應(yīng)用中，常常會面臨各種不確定的沖突信息，而當參與合成的證據(jù)間具有較大的不一致性或沖突時，證據(jù)合成方法就不能使用，若使用會得出與事實相悖的結(jié)果。這一局限性成為制約證據(jù)理論進一步推廣的主要問題，所以基于沖突證據(jù)的合成方法的研究和改進是一個亟待解決的問題。為了解決沖突證據(jù)的合成問題，不少學(xué)者對沖突證據(jù)的合成方法進行了研究，并提出了許多解決方法。.2023/10/3363證據(jù)理論研究現(xiàn)狀(2)證據(jù)融合悖論.2023/8/333證據(jù)理論研究現(xiàn)狀(3)證據(jù)算法的實現(xiàn)目前證據(jù)算法實現(xiàn)主要有以下三種途徑：

1）針對特殊的證據(jù)組織結(jié)構(gòu)，構(gòu)造相應(yīng)的快速算法2）近似計算3）修改D-S合成公式法.2023/10/3373證據(jù)理論研究現(xiàn)狀(3)證據(jù)算法的實現(xiàn).2023/8/3證據(jù)理論研究現(xiàn)狀1）快速算法構(gòu)造Shafer給出在層次情況下精確實現(xiàn)Dempster合成規(guī)則的算法。

Barnett針對一類簡單的證據(jù)結(jié)構(gòu)提出了一個快速實現(xiàn)D-S的算法；為達到簡化計算量的目的，Pearl在層次假設(shè)空間中使用了一種貝葉斯形式的推理算法；.2023/10/3383證據(jù)理論研究現(xiàn)狀1）快速算法構(gòu)造.2023/8/3383證據(jù)理論研究現(xiàn)狀2）近似計算

近似計算方法的思路是通過減少置信函數(shù)的焦元個數(shù)來簡化計算。Voorbraak提出了一種置信函數(shù)的貝葉斯近似算法，他研究證明：如果置信任函數(shù)的合成將產(chǎn)生一個貝葉斯信任函數(shù)，即一個識別框架上的概率測度，則信任函數(shù)用他們的貝葉斯近似來代替，將不會影響Dempster合成規(guī)則的結(jié)果。

Voorbraak證明了在一般的情況下，置信函數(shù)的貝葉斯近似的合成等于這些置信函數(shù)的合成的貝葉斯近似，大大簡化了計算量。.2023/10/3393證據(jù)理論研究現(xiàn)狀2）近似計算.2023/8/3393證據(jù)理論研究現(xiàn)狀

Dubois（迪布瓦）提出了一致近似性算法，該方法的特點是通過近似計算后的焦元是嵌套的，并且焦元的個數(shù)不超過識別框架中的假設(shè)個數(shù)。

Tessem（特塞姆）提出了(k,l,x)近似算法，k表示保留的焦元個數(shù),l保留的焦點元素最多個數(shù)，x表示允許被刪除的最大mass值，x通常在[0,0.1]上取值。

Simard（西馬德）提出了一種稱為TDS算法，主要思想為：首先給出要保留的焦點元素的最大個數(shù)、上限BPA和下限BPA，然后判斷BPA的數(shù)值的大小以決定其對應(yīng)的焦點元素是否應(yīng)該保留。.2023/10/3403證據(jù)理論研究現(xiàn)狀Dubois（迪布瓦）3證據(jù)理論研究現(xiàn)狀3）修改D-S方法

修改D-S方法主要是指Mahler提出的條件化證據(jù)理論，它是一種在先驗知識可能是非貝葉斯的情況下，處理證據(jù)的概率計算。Ishizuka等人結(jié)合了D-S方法和模糊集理論的優(yōu)點來表示和處理不確定的和模糊的信息，通過定義模糊集合的包含度和相關(guān)度來實現(xiàn)這個目的，并將置信函數(shù)重新定義，給出了包含度的定義并相應(yīng)地修正了Dempster合成公式。.2023/10/3413證據(jù)理論研究現(xiàn)狀3）修改D-S方法.2023/8/343證據(jù)理論研究現(xiàn)狀(4)證據(jù)理論的應(yīng)用

證據(jù)理論為不確定信息的表達和合成提供了強有力的方法，使得它在數(shù)據(jù)融合領(lǐng)域得到了廣泛的應(yīng)用。在軍事方面，如目標檢測、識別、跟蹤和態(tài)勢評估與決策分析；在非軍事方面，如故障診斷、數(shù)字圖像處理、經(jīng)濟決策、網(wǎng)絡(luò)入侵檢測、機器人導(dǎo)航等。隨著證據(jù)理論的發(fā)展，它的應(yīng)用也越來越廣。目前，證據(jù)理論在信息融合，風(fēng)險評估功偽、專家系統(tǒng)、企業(yè)診斷、模式識別、決策分析等方面均有成功的應(yīng)用。.2023/10/3423證據(jù)理論研究現(xiàn)狀(4)證據(jù)理論的應(yīng)用.2023/8/33證據(jù)理論研究現(xiàn)狀(5)國內(nèi)研究狀況