機器學(xué)習(xí)-貝葉斯定理

貝葉斯定理貝葉斯定理全概率公式例有三個箱子，分別編號為1,2,3，1號箱裝有1個紅球4個白球，2號箱裝有2紅3白球，3號箱裝有3紅球.某人從三箱中任取一箱，從中任意摸出一球，求取得紅球的概率.解：記

Ai={球取自i號箱},

i=1,2,3;

B={取得紅球}123B發(fā)生總是伴隨著A1，A2，A3之一同時發(fā)生，即B=A1B+A2B+A3B，

且A1B、A2B、A3B兩兩互斥運用加法公式得P(B)=P(A1B)+P(A2B)+P(A3B)貝葉斯定理將此例中所用的方法推廣到一般的情形，就得到在概率計算中常用的全概率公式對求和中的每一項運用乘法公式得P(B)=P(A1B)+P(A2B)+P(A3B)代入數(shù)據(jù)計算得：P(B)=8/15貝葉斯定理

設(shè)A1,A2,…,An是兩兩互斥的事件，且P(Ai)>0，i=1,2,…,n,另有一事件B,它總是與A1,A2,…,An之一同時發(fā)生，則全概率公式:貝葉斯定理在較復(fù)雜情況下直接計算P(B)不易,但B總是伴隨著某個Ai出現(xiàn)，適當(dāng)?shù)厝?gòu)造這一組Ai往往可以簡化計算.全概率公式的來由,不難由上式看出:“全”部概率P(B)被分解成了許多部分之和.它的理論和實用意義在于:

某一事件B的發(fā)生有各種可能的原因(i=1,2,…,n)，如果B是由原因Ai所引起，則B發(fā)生的概率是

每一原因都可能導(dǎo)致B發(fā)生，故B發(fā)生的概率是各原因引起B(yǎng)發(fā)生概率的總和，即全概率公式。P(BAi)=P(Ai)P(B|Ai)全概率公式我們還可以從另一個角度去理解貝葉斯定理貝葉斯定理隨機選擇一個碗，從中摸出一顆糖，發(fā)現(xiàn)是水果糖。請問這顆水果糖來自一號碗的概率有多大？假定，C1表示一號碗，C2表示二號碗。P(C1)=0.5假定，E表示水果糖，問題是已知E的情況下，來自一號碗的概率有多大。后驗概率先驗概率水果糖求P(C1|E)貝葉斯定理隨機選擇一個碗，從中摸出一顆糖，發(fā)現(xiàn)是水果糖。請問這顆水果糖來自一號碗的概率有多大？水果糖

后驗概率貝葉斯定理

隨機選擇一個碗，從中摸出一顆糖，發(fā)現(xiàn)是水果糖。請問這顆水果糖更有可能是從哪個碗里取出來的？

P(C1)=0.5P(C2)=0.5先驗概率P(C1)+P(C2)=1待測樣本訓(xùn)練樣本為什么使用后驗概率，而不采用先驗概率？

貝葉斯定理狀態(tài)1為正常細胞，狀態(tài)2為癌細胞，假設(shè)：計算得后驗概率為：

常量貝葉斯定理貝葉斯定理根據(jù)貝葉斯定理先驗概率（prior）樣本空間中各類樣本所占的比例，可通過各類樣本出現(xiàn)的頻率估計（大數(shù)定律）樣本相對于類標記的類條件概率,亦稱似然(likelihood)用于歸一化的證據(jù)因子，與類別標記無關(guān)ThomasBayes(1701?-1761)貝葉斯定理

后驗概率屬于哪一類別？

貝葉斯定理已知

P(C)=0.005,P()=0.995,

P(A|C)=0.95,P(A|)=0.04某一地區(qū)患有癌癥的人占0.005，患者對一種試驗反應(yīng)是陽性的概率為0.95，正常人對這種試驗反應(yīng)是陽性的概率為0.04，現(xiàn)抽查了一個人，試驗反應(yīng)是陽性，問此人是癌癥患者的概率有多大?則表示“抽查的人不患癌癥”.求解如下:設(shè)C={抽查的人患有癌癥}，A={試驗結(jié)果是陽性}，

求P(C|A)貝葉斯定理由貝葉斯公式，可得現(xiàn)在來分析一下