全概率公式與貝葉斯公式

1、一、全概率公式,二、貝葉斯公式,三、小結(jié),第五節(jié)全概率公式和貝葉斯公式,引例 有三個箱子,分別編號為1,2,3.1號箱裝有1個紅球4個白球,2號箱裝有2紅3白球 , 3號箱裝有3 紅球. 某人從三箱中任取一箱,從中任意摸出一球,求取得紅球的概率.,解 記 Ai=球取自i號箱 i=1,2,3; B =取得紅球,B發(fā)生總是伴隨著A1，A2，A3 之一發(fā)生，,其中A1、A2、A3兩兩互斥,A2,A1,A3,B,即 B= A1B+A2B+A3B， 且 A1B、A2B、A3B 兩兩互斥,P(B)=P( A1B)+P(A2B)+P(A3B),運(yùn)用加法公式得到,對求和中的每 一項(xiàng)運(yùn)用乘法 公式得,將上面例中

2、所用的方法推廣到一般的情形，就得到在概率計算中常用的全概率公式.,1.完備事件組,一、全概率公式,劃分也稱為分劃、分割、完備事件組。,2. 全概率公式,全概率公式,證明,說明 全概率公式的主要用處在于它可以將一個復(fù)雜事件的概率計算問題,分解為若干個簡單事件的概率計算問題,最后應(yīng)用概率的可加性求出最終結(jié)果.,利用全概率公式求事件B的概率，其實(shí)質(zhì)就是我們 熟悉的分情況討論。情況記為A1，A2，An;就是這 里定義的完備事件組。,例 有一批同一型號的產(chǎn)品，已知其中由一廠生產(chǎn)的占 30% ，二廠生產(chǎn)的占 50% ，三廠生產(chǎn)的占 20%，又知這三個廠的產(chǎn)品次品率分別為2% ， 1%，1%，問從這批產(chǎn)品中

3、任取一件是次品的概率是多少?,設(shè)事件 A 為“任取一件為次品”,解,由全概率公式得,30%,20%,50%,2%,1%,1%,例 甲、乙、丙三人同時對飛機(jī)進(jìn)行射擊, 三人擊中的概率分別為0.4、0.5、0.7. 飛 機(jī)被一人擊中而擊落的概率為0.2,被兩人擊中而擊落的概率為0.6, 若三人都擊中, 飛機(jī)必定被擊落, 求飛機(jī)被擊落的概率.,設(shè)A=飛機(jī)被擊落 Bi=飛機(jī)被i人擊中, i=1,2,3,由全概率公式,則 A=B1A+B2A+B3A,解,P(A)=P(B1)P(A |B1)+ P(B2)P(A|B2),+ P(B3)P(A |B3),可求得,為求P(Bi ) , 設(shè) Hi=飛機(jī)被第i人擊

4、中, i=1,2,3,將數(shù)據(jù)代入計算得,P(B1)=0.36;P(B2)=0.41;P(B3)=0.14.,P(A)=P(B1)P(A |B1)+ P(B2)P(A|B2)+P(B3)P(A|B3),=0.458,=0.360.2+0.41 0.6+0.14 1,即飛機(jī)被擊落的概率為0.458.,于是,該球取自哪號箱的可能性最大?,這一類問題是“已知結(jié)果求原因”. 在實(shí)際中更為常見，它所求的是條件概率，是已知某結(jié)果發(fā)生條件下，探求各原因發(fā)生可能性大小.,某人從任一箱中任意摸出一球，發(fā)現(xiàn)是紅球,求該球是取自1號箱的概率.,或者問:,看一個例子:,二、貝葉斯公式,接下來我們介紹為解決這類問題而引出

5、的,貝葉斯公式,有三個箱子，分別編號為1,2,3，1號箱裝有1個紅球4個白球，2號箱裝有2紅球3白球，3號箱裝有3紅球. 某人從三箱中任取一箱，從中任意摸出一球，發(fā)現(xiàn)是紅球,求該球是取自1號箱的概率 .,1,1紅4白,某人從任一箱中任意摸出一球，發(fā)現(xiàn)是紅球，求該球是取自1號箱的概率.,記 Ai=球取自i號箱, i=1,2,3; B =取得紅球,求P(A1|B),運(yùn)用全概率公式 計算P(B),將這里得到的公式一般化，就得到,貝葉斯公式,稱此為貝葉斯公式.,貝葉斯公式,證明,Thomas Bayes,Born: 1702 in London, EnglandDied: 17 Apr. 1761 i

6、n Tunbridge Wells, Kent, England,貝葉斯公式是英國哲學(xué)家Bayes于1763首先提出的， 經(jīng)過多年的發(fā)展和完善，由這一公式的思想已經(jīng)發(fā)展 成為一整套統(tǒng)計推斷方法，即“Bayes方法”，這一方法 在計算機(jī)診斷、模式識別、基因組成、蛋白質(zhì)結(jié)構(gòu)等 很多方面都有應(yīng)用,解,例,由貝葉斯公式得所求概率為,解,例,由貝葉斯公式得所求概率為,即平均1000個具有陽性反應(yīng)的人中大約只有87人 患有癌癥.,P(Ai) (i=1,2,n) 是在沒有進(jìn)一步信息（不知道事件B是否發(fā)生）的情況下，人們對諸事件發(fā)生可能性大小的認(rèn)識.,當(dāng)有了新的信息（知道B發(fā)生），人們對諸事件發(fā) 生可能性大小

7、P(Ai | B)有了新的估計.,貝葉斯公式從數(shù)量上刻劃了這種變化,在貝葉斯公式中，P(Ai)和P(Ai |B)分別稱為原因的先驗(yàn)概率和后驗(yàn)概率.,伊索寓言“孩子與狼”講的是一個小孩每天到山上放羊，山里有狼出沒。第一天，他在山上喊“狼來了！狼來了！”，山下的村民聞聲便去打狼，發(fā)現(xiàn)狼沒有來；第二天仍是如此；第三天，狼真的來了，可無論小孩怎么喊叫，也沒有人來救他，因?yàn)榍皟纱嗡f了謊，人們不再相信他了。,現(xiàn)在用貝葉斯公式來分析此寓言中村民對這個小孩的可信程度是如何下降的。,首先記事件A為“小孩說謊”，記事件B為“小孩可信”。不妨設(shè)村民過去對這個小孩的印象為,我們現(xiàn)在用貝葉斯公式來求,，亦及這個小孩,

8、說了一次謊后，村民對他的可信程度的改變。,在貝葉斯公式中我們要用到,，這兩個概,率的含義是：前者為“可信”(B)的孩子“說謊”(A)的可能,性，后者為“不可信”的孩子“說謊”的可能性。設(shè)：,第一次村民上山打狼，發(fā)現(xiàn)狼沒有來，即小孩說了謊（A）。村民根據(jù)這個信息，對小孩的可信程度改變?yōu)椋ㄓ秘惾~斯公式）,這表明村民上了一次當(dāng)后，對這個小孩的可信程度由原來的0.8調(diào)整為0.444，也就是,在此基礎(chǔ)上，我們再用一次貝葉斯公式計算,亦即這個小孩第二次說謊后，村民對他的可信程度改變?yōu)椋?這表明村民們經(jīng)過兩次上當(dāng)，對這個小孩的可信程度已經(jīng)從0.8下降到0.138，如此低的可信程度，村民聽到第三次呼叫怎么再會

9、上山打狼呢？,口袋中有一只球，不知它是黑的還是白的?，F(xiàn)再往口袋中放入一只白球，然后從口袋中任意取出一只，發(fā)現(xiàn)是白球。試問口袋中原來的那只球是白球的可能性多大？,思考題,2/3,課堂練習(xí),玻璃杯成箱出售，每箱20只，假設(shè)各箱含0，1，2只殘次品的概率分別是0.8，0.1和0.1，某顧客欲購一箱玻璃杯，在購買時，售貨員隨即取出一箱，顧客開箱隨機(jī)地查看四只，若無殘次品，則買下該箱玻璃杯，否則退回，試求 (1) 顧客買下該箱的概率； (2) 在顧客買下的一箱中，確實(shí)沒有殘次品的概率,1.條件概率,全概率公式,貝葉斯公式,三、小結(jié),乘法定理,在應(yīng)用全概率公式與貝葉斯公式時，有兩個問題需 要弄清楚：,當(dāng)事件的發(fā)生與相繼兩個試驗(yàn)