第講貝葉斯決策論

第7講貝葉斯決策論文志強(qiáng)計(jì)算機(jī)與通信學(xué)院1主要內(nèi)容引言貝葉斯決策論-連續(xù)特征最小誤差率分類分類器、判別函數(shù)及判定面正態(tài)密度資料來自：RichardO.Duda,李宏東等譯.《模式分類》,機(jī)械工業(yè)出版社.2003.27.1引言1）貝葉斯決策論的概念貝葉斯決策論：利用概率的不同分類決策與相應(yīng)的決策代價(jià)之間的定量折中。假設(shè)：決策問題可以用概率的形式來描述，并假設(shè)所有有關(guān)的概率結(jié)構(gòu)均已知。2）魚類分類的例子：鱸魚，鮭魚（續(xù)）3（女鮭抵魚炒）（膏鱸悄魚剃）4使馳用擱長肺度甚作兄為賭特咱征（就鮭歸魚危）（不鱸閥魚冠）5使核用曾光柿澤紙度流作岡為罪特餃征（雞鮭駐魚庫）（巧鱸更魚撥）6判千別的邊宿界決摘策籮理遣論召的暢任卡務(wù)熱是富：痰使彩總殘?bào)w細(xì)代胖價(jià)鮮函猜數(shù)吸最憤小露。（洽鱸藍(lán)魚射）（旅鮭周魚械）7使寇用片光逮澤偉度倍和暢寬公度敘特旨征垂的腐散栗布哨圖（唉鱸逢魚覺）（蓮鮭若魚軍）8復(fù)跟雜倡模振型9最草優(yōu)歸折權(quán)中C福e善n湊t活e鎮(zhèn)r頸p蟻r元o鏟b利l伍e憑m狠i刃n鍬p勉a保t裕t辟e餐r悼n義r高e減c蛛o秒g鑼n揚(yáng)i暑t隸i誰o馬n1袖03）資幾踐個(gè)款概攻念如脆果傳用w表驕?zhǔn)舅ヮ愔饎e扇狀解態(tài)舍，啟那縮慧么臥當(dāng)w=w1時(shí)擱是倚鱸詳魚劑，廊當(dāng)w=w2時(shí)聽是慕鮭世魚旋，?？刹挥煽兏乓m率垮來疤描駁述市特取性賢的鍬隨溝機(jī)麥變揮量訂。先招驗(yàn)工概似率鬼：P(w1)表族示糟鱸趨魚省的喊先箏驗(yàn)侵概朗率義，P(w2)表同示河鮭盜魚偷的音先珍驗(yàn)貝概夕率便，社滿沃足P(w1)+P(w2)謀=茂1。類墾條最件裕概石率寄密鮮度余：深假霧設(shè)x是罰一屢連缺續(xù)妹隨紗機(jī)縣變季量更，芽其宴分航布而取免決川于要類緊別慘的蔽狀幻玉態(tài)諒，篇表制示毯成p(x|w)的默形揀式擦，磁也顫稱切狀沙態(tài)撕條團(tuán)件繁密臺度火。1班1圖7壤-耽1假向定推的投類權(quán)條舞件傻概愿率過密添度洪函冰數(shù)舒圖萬，霞顯袖示榆了給模妹式吼處丈于贏類罵別wi時(shí)滾的拒觀正測娛某巖個(gè)魯特圓定愉特礎(chǔ)征魂值x的茶概蓬率躺密攏度督。俘如研果x代豎表雹魚芒的窯長愈度壟，姨那撇么偶這駝兩卷?xiàng)l刻曲簽線景可辜描化述女兩誕種揉魚娛的渣長似度貍區(qū)轟別支。膝概琴率矩函固數(shù)廊已免歸犁一鋤化敵。粥因士此佩每晚?xiàng)l孔曲裝線返下飄的散面遵積畫為1。1允2假逝設(shè)秋已俱知嶺先敲驗(yàn)伙概羊率P(wj)，臉也錘知玩道隱條乒件拌概償率詢密慣度p(x|wj)，莊且j=綢1虧,姑2。繪通站過必觀島察歲和怖測晨量絡(luò)，遇發(fā)撇現(xiàn)愧某類個(gè)售特夜征價(jià)（候一索條匯魚摟的丘光涂澤樸度塞）綢為x?？畡t魯聯(lián)致合瞇概匆率蘋密忘度相可敵寫睡成p(wj,x)搏=P(wj|x)p(x)置=p(x|wj)P(wj)于玩是挎可辮得蓄貝銅葉頃斯抗公脅式栗：P(wj|x)毒=p(x|wj)P(wj)直/p(x)在廈兩籮類偶問悉題添下遇：貝蜻葉哨斯燒公往式醫(yī)可慎用志非篇正軟式久的鼠英留語扛表杯示傲成其依中糕，p(x|wj)稱糾為wj關(guān)葬于x的翻似撈然險(xiǎn)函狐數(shù)紀(jì)。嗽證姿據(jù)杠因靈子p(x)可待看搞成獸一則個(gè)律標(biāo)鍋量頂因嫩子凈。1籍3圖7艦-敗2在露先勉驗(yàn)握概準(zhǔn)率P(w1)即=絞2欺/魂3，P(w2)凍=忽1查/棚3及魯圖7誕-宗1給煤出參的泡類唇條芝件危概由率昨密據(jù)度甜的寒條滑件面下姐的蔬后燃驗(yàn)欺概顫率晃圖.1憐44）服決岔策灶規(guī)付則-葵-最易小利化紙誤療差言概艙率穗條弱件暴下帶的態(tài)貝拿葉植斯鄙決們策亦規(guī)吧則決質(zhì)策黑規(guī)畢則：貓如球果稠某鐮個(gè)扮觀擱測匯值x使筒得P(w1|x)比P(w2|x)大嫁，揭則稍判答斷充類瘋別爆是w1，鏡反練之荒，娘則霸判蛾斷w2。誤兩差但概原率推：（4）平神均歷誤浙差（4）式待可宋寫陳成贏：可授得添到驢完港全撿等舟價(jià)勁的瞇判壯斷缸規(guī)育則1悔57功.棉2掌貝子葉取斯蜓決慎策忽論命-些連告續(xù)尋特區(qū)征推訪廣涂：允堅(jiān)許檢使唐用伐多河于打一則個(gè)冰特稿征允想許此多書于惱兩保種頌類測別測狀?yuàn)W態(tài)獅的匹情魄形允罪許叢有帝其幸他悅行聯(lián)為馬而態(tài)不類是消僅墾僅線判耐斷瓜類碌別通衫過勝引唉入飼一夾個(gè)嘩更塑一藍(lán)般孫的剖損鴨失觸函蝕數(shù)僵來您替嫩代腰誤扶差伍概諸率注惠：損翅失尾函縣數(shù)鎖：李精后確怕地傾闡提述各了長每昌種摔行模為變所羅付貿(mào)出食的漲代牲價(jià)淘大億小涌，佩并擁且展用喬于那將摟概刮率然轉(zhuǎn)允換榜為母一甩種觀判靜決羞。1棉6令{w1,葬…處,wc}表旱示慮有要限捎個(gè)c個(gè)間類襖別歐集兩，{α1,作…洋,αa}表怒示傍有杜限站的a種獸可糖能晶采尺取糕的退行淺為水集午，儉風(fēng)戀險(xiǎn)暗函廚數(shù)λ(αi|wj)描尿述遣類屢別射狀兄態(tài)租為wj時(shí)慰采嫩取單行長動(dòng)αi的蝴風(fēng)趙險(xiǎn)頸。財(cái)特緩征診向者量x表竊示協(xié)一班個(gè)d維填隨鼻機(jī)屬變扛量念。腎令p(捉x屢|wj)表誼示x的飼狀粱態(tài)多條鈴件素概抵率征密服度雨函含數(shù)榴，盜則語后叉驗(yàn)馬概瘋率念可縮慧表埋示酸成閑：證嫁據(jù)灣因棍子齡已競知1抱7如張果羞觀討測碗到沿某稻個(gè)年特爛定油模在式x并烈且燦采孝取蔑行傲為αi，毛如落果崗真宜實(shí)訪的門類語別做為wj，商通炭過指定蔥義廣將嶺有激損科失λ萍(αi|wj)，沿則傲相顆應(yīng)路損塔失隸為稱予為魄條拆件壘風(fēng)方險(xiǎn)可鞋以完通殊過疼選調(diào)擇盜最章小奔化謀條邀件絮風(fēng)氧險(xiǎn)贊的鍵行付為票來澇使求預(yù)宰期瀉的糾損萄失材最昌小皆化員。貝連葉負(fù)斯隸決到策柿過丙程撈實(shí)占際比上澤提炊供半了蒼一省個(gè)駛總密風(fēng)謠險(xiǎn)四的潔優(yōu)芝化遞過年程彩?？偢`風(fēng)撈險(xiǎn)存為瀉：1割8兩團(tuán)類膨分郊類釘問庫題λi書j=λ(αi|wj)表笑示沸當(dāng)碌前翁實(shí)歇際拼類預(yù)別昌為wj時(shí)蔥誤芳判熊為wi所梢引澤起就的絹損拜失毯。條榆件腐風(fēng)俗險(xiǎn)客為渾：如到果也撲表咳述物為毫：賓如普果則信判債定為w11妥9利信用闊貝李葉糧斯鄭規(guī)土則靜，錦則吧等左價(jià)惰于如雕果則耐判持定為w1。另旬一鄙種的表北達(dá)濃方躬式柿為車：博如擔(dān)果揭下砌式矮成頭立叢，永則疾判晃定雜為w1。似狡然躁比稱墨為2舉07蝴.悲3最川小披誤賀差匆率揀分車類如服果裳采篩取螞行齡為αi，韻而鍬實(shí)爽際竊類校別支為wj，茅那紀(jì)么盾在i=j的臥情桂況伙下裂判眉定嶺是訴正粘確挺的擔(dān)，瓣如嗚果i≠j，滑則獻(xiàn)產(chǎn)琴生仁誤潛判暢。俱如秀果飽要便避珠免技誤皮判伶，搭自批然貌要射尋冶找聞一晴種喬判碧決制規(guī)衛(wèi)則伴使?jié)櫿`魄判否概姓率乳最嘆小何化茂。對劉稱志損煉失瞇函功數(shù)別或0技-冰1損漿失灑函牲數(shù)條鏡件籌風(fēng)歲險(xiǎn)選：悠相曉當(dāng)鵲于婚平茶均位誤嚇差從概跌率為琴了敬最會(huì)小泥化攔平歷均罪誤冷差帽概驚率看，中需削要選選鐘取i使?fàn)N得剖后額驗(yàn)?zāi)垢胖陈蔖摩(wi|犬x墊)最泊大嘴，宗也娘即這基喉于京最蝦小性誤寸差巾概淋率靈，演有2肝1圖7饑-鄰3圖7擾-魂1所責(zé)示東的梅分透布鈔的他似飄然比函述數(shù)恐比p(x|w1)催/p(x|w2)。旅如頓果腿引疲入兔一冠個(gè)0寒-熊1損弦失散或帽分宜類副損寒失宜，套那謙么油判劉決擠邊族界蔬將抗由θa決茂定2鍋27根.界4分初類形器寬、包判來別伯函衡數(shù)本及袍判粗定肉面7蜘.芳4尼.自1多招類撞情位況常礦用束的烈判臺別項(xiàng)函廣數(shù)別為gi(笑x束)外,i=訓(xùn)1睜,逼…哲,c的流形涌式影，掉如潑果敢對星于撞所嬸有收的j≠i，市有g(shù)i(瘋x纖)稅>gj(典x輩)則助此近分獎(jiǎng)?lì)惡羝饔鰧⒆o(hù)這咱個(gè)登特搏征友向揚(yáng)量x判協(xié)為wi分宮類屯器怠可辱視戚為死一宰個(gè)擾網(wǎng)臺絡(luò)刑或席機(jī)智器跳（餐圖7其-板5）跨。2殖3圖7即-屯5一芳個(gè)村包萬含d個(gè)哭輸它入c個(gè)埋判棒決睛函乏數(shù)gi(仿x傾)的尊一丑般蓋的億統(tǒng)械計(jì)絲式模君式勢分養(yǎng)類搶器禽的倉體軋系描結(jié)算構(gòu)鬼。鮮接蝦下扛來赴的流步據(jù)驟莫是柱確倆定唯哪參個(gè)醉判宅別夾函遷數(shù)倘值群最蘋大蠅，黨并浸相悼應(yīng)往的習(xí)對憤輸多入剖作宗分宏類堅(jiān)。付箭精頭敏表曾示貧信謊息扁流占的通方蟲向蝦。2諸4具拾有暫一筐般只風(fēng)伐險(xiǎn)這的紋情疏況和下晝，添讓gi(x)胸=初-R(αi|x)在憑最塞小象誤心差落概逐率綁情最況機(jī)下憲，蝴讓gi(x)萌=P(wi|x)在磁最儀小鎮(zhèn)誤吳差嗓概就率忘情豪況巨下即，腸一僚些駁常洲用悄選附擇餡：2村5圖7律-押6在際這四個(gè)奇二嶼維兼的隆兩趙類畜問峰題夕的伍分訪類螞器緩中坊，荷概錄率減密躁度會(huì)為稅高鉛斯題分穿布際，眉判誓決皂邊丙界紡由鋼兩承個(gè)嶄雙測曲咐線咱構(gòu)動(dòng)成由，嫩因險(xiǎn)此余判鑰決夫區(qū)鉆域R2并洲非緞是候簡南單姿的辮連蒼通寫的棋。親橢餓圓起輪券廓許線筋標(biāo)寨記序出1焰/e乘亂以撤概皮率剛密嶼度睜的亭峰怨值朝。2扯67儉.潤4板.拍2兩車類捆情偉況佩：任二安類恐分表類歌器判逼別秤函紹數(shù)如隨果樸則儉判吃為w1，橋否穴則粗判橡為w2。常給用貓的吐個(gè)g(x)函踐數(shù)臣如蔥下昨：2誤77怎.版5協(xié)正患態(tài)頸密門度f(x)的閑數(shù)躍學(xué)笛期漿望2責(zé)87寸.申5端.生1熟單逝變架量昆密蔥度溫函嗚數(shù)單罷變笨量唯正爐態(tài)骨密州度窮函留數(shù)期誕望終值止：方畫差念：記蕩為鞭：2滿9圖7更-刺7單布變姐量僅正頑態(tài)的分沉布繡大口約第有9容5粱%的辯區(qū)昏域頓在|x-μ|輛≤蕉2σ范槳圍敘內(nèi)郊，昏如鼻圖覆所是示態(tài)。倒此個(gè)分惰布施的成峰響值禁為3鹽07刷.延5撤.飯2布多丙元功密僻度綠函姐數(shù)d維亭多頓元鞭正泰態(tài)睬密園度燃的窯形痰式其身中記憤為協(xié)肥方草差販矩算陣著：3艦1圖7省-誕8特屆征叫空款間向中哥的住一爪個(gè)昆線笑性銀變漠換逼將技一季個(gè)胖任覽意儲正幅態(tài)買分爐布狗變煉換躍成頃另距一途個(gè)壺正百態(tài)高分案布矮。正勻態(tài)錫分楚布攏的果性羨質(zhì)族：服肚從留正夕態(tài)殊分腸布麻的夕隨亡機(jī)蔥變貪量剩的眾線管性買組采合壞還兆是睡一麗個(gè)朋正訓(xùn)態(tài)歪分窗布完。白售化訓(xùn)變謝換直仁線程投雜影3員2圖7襪-券9從藏一響個(gè)曠以陰均復(fù)值μ為切中魂心桶的灑云匆團(tuán)征內(nèi)鼠的眾二估維刮高帆斯姑分領(lǐng)布容中故取責(zé)出婆的逗樣籍本鋼。丹橢禮圓慌顯垃示雞了夠等獲概屆率食密激度咱的故高潮斯廚分慈布夸軌棵跡鏟。多絹元帽正帶態(tài)遷密融度托完波全拜由d+d(d+祝1皇)桌/猛2個(gè)盜參曾數(shù)燒確嬌定壤。繼從翁一賠正停態(tài)女分耳布除中爬所碗抽個(gè)取感的退樣蠶本麥點(diǎn)占趨溝向萌于逼落舟在纖一言個(gè)嚇單錘一讀的案云絮團(tuán)擺或兵聚果類戶中垂。嘗等翼密謀度錦點(diǎn)瓣的貍軌腔跡峽為哄一決超生橢脂圓堵體貞，壞這晴些普橢能圓團(tuán)體分的兇主炭軸賢由Σ的器本普征似向包量穗給怎出至，機(jī)本戚征似值朝決跑定厲這亮些戴長偶軸善的獲長收度紋。3鑄3稱場為沒從x到μ的M籃a擴(kuò)h再a膀l稠a涼n仁o曲b毅i超s距旁離喇或曠馬荷氏爹距陸離澆。等濫密都度佳分夜布潤的笑邊糖界賤是算一革些筐到未的鑄恒部定寇馬縣氏裙距晴離泰的雨超皆橢基圓輝體霞，砍且正這銷些圍超益橢膏圓頃體俯的戶體論積校決唉定島了炕均栗值僻附料近傅的唉樣間本滑的油離瘡散災(zāi)程闖度搬。與M樸a龜h李a盟l介a初n陷o倉b敞i擔(dān)s距旅離r對慮應(yīng)震的蓄超辰橢敲圓傅體禁的屯體算積傍為其早中Vd是猛一臘個(gè)d維姻單強(qiáng)位原超裂球饅體贊的柔體眾積3熱47鉤.鐮6盛正族態(tài)踢分趣布欲的香判愿別統(tǒng)函載數(shù)可留獲依得杜：下活面燙分腸幾雕種幸特嗽殊千情袖況精來述討容論最聾小叔誤錢差毯概描率紅分末類煙可榜通茂過全使敗用薪判薯決糧函莖數(shù)油獲額得3針5情撤況方1省班略帽無面關(guān)舌常阻數(shù)夠后煉，朗可莫得才簡置單繁的伙判司別魄函兆數(shù)表丘示爽歐具幾暮里灰德惠范譜數(shù)二吸次貪型躁展索開狠可打得羨：，和3竹6可痕得碎等扁價(jià)斥的稿線肢性饞判慶別示函閉數(shù)wi0稱暫為囑第i個(gè)客方候向闖的抵閾檢值乏或裙偏詳置錯(cuò)。3巡壽7超奮平寒面象此睜方燃程隊(duì)可尤寫例成圖7率-原1表0如壞果座兩哭種痕分圖布縱的伙協(xié)宏方虹差蹤蝶矩話陣雞相虛等淚并劑且階與殃單岡位宇陣擱成慘比移例脂，拐那毒么丑它辱們姥成d維蓄球是狀脂分樂布磁，票其楚判棗決碗邊扒界纖是豆一嚼個(gè)d-故1維味歸良一擱化泛超嶼平想面批，貸垂章直泉于革兩真?zhèn)€吐中悅心轉(zhuǎn)的蛛連管線杠。露在抄這捎些足一爬維狠，晉二腳維阿，戶三替維謎的弟例無子趴中鵲，柱是糠假親設(shè)野在P街(w1)議=隙P象(w2)的冶情扎況護(hù)下億來給顯覺示p(x|wi)和維判窄決荒邊撲界輩的決。其圈中3阿8情俯況籃2可徹簡戰(zhàn)化秒為將引二駕次漆型繩展她開叮，排可圖得薦線師性攪判懸別新函擺數(shù)誘：3尋9邊柴界濁面稍方瞞程鞋為判唐決瞎邊池界擦是屆超病平浸面4敘0圖7柿-各1除1隨償著游先瓦驗(yàn)債概登率鮮的塌改顧變池，波判待決睛邊怖界雞也闊隨李之彩改止變婆；顛對藍(lán)于劣差丙別幸較稈大豎的蘿離撤散珠先蒸驗(yàn)援概較率勻而工言劑，薄判飼決霧邊顯界視不藍(lán)會(huì)綁落農(nóng)于寨這題些改一貞維緒，社二距維殊及限三奶維究球圈狀恥高搭斯晚分員布命的呈中福心巨點(diǎn)拉之癥間4鴨1圖7昂-程1尸2相爹等馬但疲非扁對筐稱己的辱高茫斯極分見布米的美概銳率偏密峽度圍及溜判嘆決鏈區(qū)悲域姐。沒判柿決定超猶平剩面雪未亦必蹦和拆均終值狀連匹線央垂帥直絕正連交4壁2情土況己3去希掉紫常思量私后乞，忠判曉別季函幫數(shù)插為奪二控次提型澡：其象中在賴兩凱類遮問誘題籃中烏，楊對少應(yīng)只的暢判食定飲面遲是庫超農(nóng)二腳次笑曲禁面輪。4報(bào)3圖7陡-良1訪3在擴(kuò)方鞠差卻不矩相刻等瀉的聚一素維見高分斯鄉(xiāng)豐分訓(xùn)布盾情敢況迷下才，援可搜能流產(chǎn)織生端并消非國單代連蠶通倆的疑判傍決死區(qū)波域跳，祥如P端(靠w撲1飛)傷=陰P僚(鹿w共2怠)時(shí)馬這畢里挨所窮示幻玉的充情貝況判客