概率論與數(shù)理統(tǒng)計(jì)之貝葉斯判別分析

貝葉斯判別分析

匯報(bào)人：

學(xué)號(hào)：從距離判別法來(lái)看，它存在以下不足：（1）判別方法與總體各自出現(xiàn)的概率的大小無(wú)關(guān)；（2）判別方法與錯(cuò)判之后所造成的損失無(wú)關(guān)。從費(fèi)歇爾判別法來(lái)看，它隨著總體個(gè)數(shù)的增加，建立的判別函數(shù)式個(gè)數(shù)也增加，因而計(jì)算起來(lái)比較麻煩。如果對(duì)多個(gè)總體的判別考慮的不是建立判別式，而是計(jì)算新給樣品屬于各總體的條件概率P(l/x)，比較這k個(gè)概率的大小，然后將樣品判歸為來(lái)自概率最大的總體，這種判別方法稱(chēng)為貝葉斯判別方法。貝葉斯判別分析先驗(yàn)概率和后驗(yàn)概率先驗(yàn)概率是指根據(jù)以往經(jīng)驗(yàn)和分析得到的概率，它往往作為“由因求果”問(wèn)題中的“因”出現(xiàn)。后驗(yàn)概率是指在得到“結(jié)果”的信息后重新修正的概率，是“執(zhí)果尋因”問(wèn)題中的“因”。后驗(yàn)概率是基于新的信息，修正原來(lái)的先驗(yàn)概率后所獲得的更接近實(shí)際情況的概率估計(jì)。先驗(yàn)概率和后驗(yàn)概率的區(qū)別：先驗(yàn)概率不是根據(jù)有關(guān)自然狀態(tài)的全部資料測(cè)定的，而只是利用現(xiàn)有的材料(主要是歷史資料)計(jì)算的；后驗(yàn)概率使用了有關(guān)自然狀態(tài)更加全面的資料，既有先驗(yàn)概率資料，也有補(bǔ)充資料；先驗(yàn)概率的計(jì)算比較簡(jiǎn)單，沒(méi)有使用貝葉斯公式；而后驗(yàn)概率的計(jì)算，要使用貝葉斯公式，而且在利用樣本資料計(jì)算邏輯概率時(shí)，還要使用理論概率分布，需要更多的數(shù)理統(tǒng)計(jì)知識(shí)。1、Bayes判別法基本思想Bayes判別法的基本思想是假定對(duì)所研究的對(duì)象已有一定的認(rèn)識(shí)，常用先驗(yàn)概率來(lái)描述這種認(rèn)識(shí)；然后抽取一個(gè)樣本，用樣本來(lái)修正已有的認(rèn)識(shí)（先驗(yàn)概率分布），得到后驗(yàn)概率分布。各種統(tǒng)計(jì)推斷都是通過(guò)后驗(yàn)概率分布來(lái)進(jìn)行。2、多元正態(tài)總體的Bayes判別法在實(shí)際問(wèn)題中遇到的許多總體往往服從正態(tài)分布，下面給出p元正態(tài)總體的Bayes判別法。（1）判別函數(shù)的導(dǎo)出由前面的敘述可知，使用Bayes判別法作判別分析，首先要知道待判總體的先驗(yàn)概率和密度函數(shù)。對(duì)于先驗(yàn)概率，一般用樣品的頻率來(lái)代替?；蛘吡钕闰?yàn)概率相等，這時(shí)可以認(rèn)為先驗(yàn)概率不起作用。（2）假設(shè)協(xié)方差陣相等（3）計(jì)算后驗(yàn)概率例（胃癌的鑒別）為了判別病人是胃癌、還是萎縮性胃炎?，F(xiàn)對(duì)患有胃癌、萎縮性胃炎和非胃炎患者中隨機(jī)抽取15個(gè)病人，每人化驗(yàn)4項(xiàng)生化指標(biāo)：血清銅蛋白（X1）、藍(lán)色反映（X2）、尿吲哚乙酸（X3）和中性硫化物（X4），具體數(shù)據(jù)見(jiàn)表5.10。試用貝葉斯判別分析，對(duì)這15個(gè)樣品進(jìn)行判別歸類(lèi)。

并在此基礎(chǔ)上，判斷X1=205，X2=140，X3=11，X4=20屬于哪一種患者？類(lèi)別序號(hào)血清銅蛋白藍(lán)色反應(yīng)尿吲哚乙酸中性硫化物胃癌患者胃癌患者12281342011224513410403200167122741701507851001672014非胃癌患者萎縮性胃炎患者622512571471301006128150117769120133102610160100510非胃炎患者1118511551912170125641316514253141351082121510011772解由于三組判別函數(shù)分別為：判別原則：樣品屬于判別函數(shù)值最大的一組。回判結(jié)果如表5.11所示：類(lèi)別序號(hào)原分類(lèi)Actual回判組別后驗(yàn)概率胃癌患者胃癌患者1110.9982110.9773110.999413*0.5785110.999非胃癌患者萎縮性胃炎患者6220.4577220.700823*0.5189220.66210220.616非胃炎患者1132*0.61612330.68113330.83914330.58715330.583待判者161*0.996誤判的樣本是4、8、11，回判后分別屬于