貝葉斯公式算法演示文稿

貝葉斯公式算法演示文稿第一頁，共二十九頁。（優(yōu)選）貝葉斯公式算法.第二頁，共二十九頁。

全概率公式和貝葉斯公式主要用于計算比較復雜事件的概率,它們實質上是加法公式和乘法公式的綜合運用.綜合運用加法公式P(A+B)=P(A)+P(B)A、B互斥乘法公式P(AB)=P(A)P(B|A)P(A)>0第三頁，共二十九頁。

例1

有三個箱子，分別編號為1,2,3，1號箱裝有1個紅球4個白球，2號箱裝有2紅3白球，3號箱裝有3紅球.某人從三箱中任取一箱，從中任意摸出一球，求取得紅球的概率.解：記

Ai={球取自i號箱},

i=1,2,3;

B={取得紅球}即B=A1B+A2B+A3B，

且A1B、A2B、A3B兩兩互斥B發(fā)生總是伴隨著A1，A2，A3之一同時發(fā)生，P(B)=P(A1B)+P(A2B)+P(A3B)運用加法公式得123第四頁，共二十九頁。將此例中所用的方法推廣到一般的情形，就得到在概率計算中常用的全概率公式.對求和中的每一項運用乘法公式得P(B)=P(A1B)+P(A2B)+P(A3B)代入數據計算得：P(B)=8/15第五頁，共二十九頁。

設A1,A2,…,An是兩兩互斥的事件，且P(Ai)>0，i=1,2,…,n,另有一事件B,它總是與A1,A2,…,An之一同時發(fā)生，則全概率公式:第六頁，共二十九頁。

設S為隨機試驗的樣本空間，A1,A2,…,An是兩兩互斥的事件，且有P(Ai)>0，i=1,2,…,n,全概率公式:稱滿足上述條件的A1,A2,…,An為完備事件組.則對任一事件B，有在一些教科書中，常將全概率公式敘述為：第七頁，共二十九頁。在較復雜情況下直接計算P(B)不易,但B總是伴隨著某個Ai出現(xiàn)，適當地去構造這一組Ai往往可以簡化計算.全概率公式的來由,不難由上式看出:“全”部概率P(B)被分解成了許多部分之和.它的理論和實用意義在于:第八頁，共二十九頁。

某一事件B的發(fā)生有各種可能的原因(i=1,2,…,n)，如果B是由原因Ai所引起，則B發(fā)生的概率是

每一原因都可能導致B發(fā)生，故B發(fā)生的概率是各原因引起B(yǎng)發(fā)生概率的總和，即全概率公式.P(BAi)=P(Ai)P(B|Ai)全概率公式.我們還可以從另一個角度去理解第九頁，共二十九頁。

由此可以形象地把全概率公式看成為“由原因推結果”，每個原因對結果的發(fā)生有一定的“作用”，即結果發(fā)生的可能性與各種原因的“作用”大小有關.全概率公式表達了它們之間的關系.A1A2A3A4A5A6A7A8B諸Ai是原因B是結果第十頁，共二十九頁。

例3：某地成年人體重肥胖者(A1)占0.1，中等者(A2)占0.82，瘦小者(A3)占0.08，又肥胖者、中等者、瘦小者患高血壓病的概率分別為0.2，0.1，0.05.求該地成年人患高血壓的概率。第十一頁，共二十九頁。

解：令B＝｛某人患高血壓｝（顯然B

是一復雜事件），Aｉ＝｛某人體重的特征｝（ｉ＝１、２、３），顯然它們構成一完備事件組，且事件B只能與其中之一事件同時發(fā)生。故用全概率公式計算。P(B)=0.1×0.2+0.82×0.1+0.08×0.05=0.106P(B)=P(A1)

P(B|A1)+P(A2)

P(B|A2)+P(A3)

P(B|A3)第十二頁，共二十九頁。該球取自哪號箱的可能性最大?實際中還有下面一類問題，是“已知結果求原因”

這一類問題在實際中更為常見，它所求的是條件概率，是已知某結果發(fā)生條件下，求各原因發(fā)生可能性大小.

某人從任一箱中任意摸出一球，發(fā)現(xiàn)是紅球,求該球是取自1號箱的概率.1231紅4白或者問:第十三頁，共二十九頁。

該公式于1763年由貝葉斯(Bayes)給出.它是在觀察到事件B已發(fā)生的條件下，尋找導致B發(fā)生的每個原因的概率.貝葉斯公式：

設A1,A2,…,An是兩兩互斥的事件，且P(Ai)>0，i=1,2,…,n,另有一事件B，它總是與A1,A2,…,An之一同時發(fā)生，則第十四頁，共二十九頁。

直觀地將Ai看成是導致隨機事件B發(fā)生的各種可能的原因，則P(Ai)可以理解為隨機事件Ai發(fā)生的先驗概率(aprioriprobability).如果我們知道隨機事件B發(fā)生這個新信息，則它可以用于對事件Ai發(fā)生的概率進行重新的估計.事件P(Ai|B)就是知道了新信息“A發(fā)生”后對于概率的重新認識，稱為隨機事件Ai的后驗概率(aposterioriprobability).貝葉斯公式：第十五頁，共二十九頁。

貝葉斯公式在實際中有很多應用，它可以幫助人們確定某結果（事件B）發(fā)生的最可能原因.

“ThomasBayes，一位偉大的數學大師，他的理論照亮了今天的計算領域，和他的同事們不同：他認為上帝的存在可以通過方程式證明，他最重要的作品被別人發(fā)行，而他已經去世241年了”。第十六頁，共二十九頁。

例1

一個有5個選擇的考題，其中只有一個選擇正確的.假定應考人知道正確答案的概率為p.如果他最后選對了，問他確實知道答案的概率是多少?求解如下:設A={知道答案}，B={選則正確}，由題意可知：由全概率公式:第十七頁，共二十九頁。得到:例如，若則

這說明老師們依據試卷成績來衡量學生平時的學習狀況還是有科學依據的.第十八頁，共二十九頁。

例2某一地區(qū)患有癌癥的人占0.005，患者對一種試驗反應是陽性的概率為0.95，正常人對這種試驗反應是陽性的概率為0.04，現(xiàn)抽查了一個人，試驗反應是陽性，問此人是癌癥患者的概率有多大?則表示“抽查的人不患癌癥”.已知

P(C)=0.005,P()=0.995,

P(A|C)=0.95,P(A|)=0.04求解如下:設C={抽查的人患有癌癥}，

A={試驗結果是陽性}，

求P(C|A).第十九頁，共二十九頁。現(xiàn)在來分析一下結果的意義.由貝葉斯公式，可得代入數據計算得:

P(C｜A)=0.10662.檢出陽性是否一定患有癌癥?

1.這種試驗對于診斷一個人是否患有癌癥有無意義？第二十頁，共二十九頁。如果不做試驗,抽查一人,他是患者的概率

P(C)=0.005

患者陽性反應的概率是0.95，若試驗后得陽性反應，則根據試驗得來的信息，此人是患者的概率為P(C｜A)=0.1066說明這種試驗對于診斷一個人是否患有癌癥有意義.從0.005增加到0.1066,將近增加約21倍.1.這種試驗對于診斷一個人是否患有癌癥有無意義？第二十一頁，共二十九頁。2.檢出陽性是否一定患有癌癥?

試驗結果為陽性,此人確患癌癥的概率為

P(C｜A)=0.1066

即使你檢出陽性，尚可不必過早下結論你有癌癥，這種可能性只有10.66%(平均來說，1000個人中大約只有107人確患癌癥)，此時醫(yī)生常要通過再試驗來確認.

第二十二頁，共二十九頁。

例3：某地成年人體重肥胖者(A1)占0.1，中等者(A2)占0.82，瘦小者(A3)占0.08，又肥胖者、中等者、瘦小者患高血壓病的概率分別為0.2，0.1，0.05.

若已知某人患高血壓病，他最可能屬于哪種體型。第二十三頁，共二十九頁。

解：令B＝｛某人患高血壓｝（顯然B

是一復雜事件），Aｉ＝｛某人體重的特征｝（ｉ＝１、２、３），顯然它們構成一完備事件組，且事件B只能與其中之一事件同時發(fā)生。故用全概率公式計算。P(B)=0.1×0.2+0.82×0.1+0.08×0.05=0.106P(B)=P(A1)

P(B|A1)+P(A2)

P(B|A2)+P(A3)

P(B|A3)第二十四頁，共二十九頁。第二十五頁，共二十九頁。這一講我們介紹了貝葉斯公式值得一提的是，后來的學者依據貝葉斯公式的思想發(fā)展了一整套統(tǒng)計推斷方法，叫作“貝葉斯統(tǒng)計”.可見貝葉斯公式的影響.第二十六