




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、劉振峰內容 數(shù)學知識 幾種常用的決策準則 判別函數(shù)、決策面與分類器設計1.概率論基本知識 確定事件:概念是確定的,發(fā)生也是確定的; 隨機事件:概念是確定的,發(fā)生是不確定的; 模糊事件:概念本身就不確定。隨機變量 隨機變量:隨機事件的數(shù)量表示; 離散隨機變量:取值為離散的隨機變量 ; 連續(xù)隨機變量:取值為連續(xù)的隨機變量 ;頻率和概率 頻率:試驗在相同的條件下重復N次,其中M次事件A發(fā)生,則A發(fā)生的頻率為:fN(A) = M / N; 概率:當N很大時,頻率會趨向一個穩(wěn)定值,稱為A的概率: limNNPAf A 聯(lián)合概率和條件概率 聯(lián)合概率聯(lián)合概率:設A,B是兩個隨機事件,A和B同時發(fā)生的概率稱為
2、聯(lián)合概率,記為:P(A, B); 條件概率條件概率:在B事件發(fā)生的條件下,A事件發(fā)生的概率稱為條件概率,記為:P(A|B); 乘法定理乘法定理:P(A|B) = P(A, B) / P(B)。 概率密度函數(shù) 概率分布函數(shù)概率分布函數(shù):設X為連續(xù)型隨機變量,定義分布函數(shù);F(x) = P(Xx); 概率密度函數(shù):概率密度函數(shù):給定X是隨機變量,如果存在一個非負函數(shù)f(x),使得對任意實數(shù)a,b(ab)有 P(aXb) = f(x)dx, (積分下限是a,上限是b) ,則稱f(x)為X的概率密度函數(shù)貝葉斯公式P( cj|x) =P(x|cj)P(cj)P(x)u 先驗概率P(cj)u 聯(lián)合概率P(
3、x|cj)u 后驗概率P(cj|x) P(cj)代表還沒有訓練數(shù)據(jù)前,cj擁有的初始概率。P(cj)常被稱為cj的先驗概率(prior probability) ,它反映了我們所擁有的關于cj是正確分類機會的背景知識,它應該是獨立于樣本的。 如果沒有這一先驗知識,那么可以簡單地將每一候選類別賦予相同的先驗概率。不過通常我們可以用樣例中屬于cj的樣例數(shù)|cj|比上總樣例數(shù)|D|來近似,即jj|c |P(c )= |D | 聯(lián)合概率是指當已知類別為cj的條件下,看到樣本x出現(xiàn)的概率。 若設x = 則P(x|cj)= P(a1,a2am| cj) 即給定數(shù)據(jù)樣本x時cj成立的概率,而這正是我們所感興
4、趣的 P(cj|x )被稱為C的后驗概率(posterior probability),因為它反映了在看到數(shù)據(jù)樣本x后cj成立的置信度2.幾種常用的決策準則 不同的決策規(guī)則反映了分類器設計者的不同考慮,對決策結果有不同的影響。其中最有代表性的是: 基于最小錯誤率的貝葉斯決策 基于最小風險的貝葉斯決策額2.1基于最小錯誤率的貝葉斯決策 分類器中為什么會有錯分類,在何種情況下會出現(xiàn)錯分類?錯分類的可能性會有多大? 當某一特征向量X只為某一類物體所特有,即 對其作出決策是容易的,也不會出什么差錯。問題在于出現(xiàn)模凌兩可的情況。此時,任何決策都存在判錯的可能性。 條件概率:P(*|#)是條件概率的通用符
5、號,P(wk|X)是表示在X出現(xiàn)條件下,樣本為wk類的概率。 基于最小錯誤率的貝葉斯決策 基于最小錯誤概率的貝葉斯決策理論就是按后驗概率的大小作判決的(1)后驗概率: 如果 則 (2)如果 則(3)似然比: 如果 則 否則 如果 則 否則(4)似然比寫成相應的負對數(shù)形式例題1 假設在某地區(qū)切片細胞中正常(w1)和異常(w2)兩類的先驗概率分別為p(w1)=0.9, p(w2)=0.1?,F(xiàn)有一待識別細胞呈現(xiàn)出狀態(tài) x,由其類條件概率密度分布曲線查的p(x|w1)=0.2,p(x|w2)=0.4,試對細胞x進行分類。例題1解答 利用貝葉斯公式,分別計算出狀態(tài)為x時w1與w2的后驗概率基于最小錯誤率的貝葉斯決策的證明 平均錯誤率:在觀測值可能取值的整個范圍內錯誤率的均值兩類判別情況 當p(w2|x)p(w1|x)時決策為w2,對觀測值x有 p(w1|x)概率的錯誤率R1:做出w1決策的所有觀測值區(qū)域,條件錯誤概率為p(w2|x)R2:條件錯誤概率為p(w1|x)。因此平均錯誤率p(e)可表示成 在R1內任一個x值都有p(w2|x)p(w1|x),在R2區(qū)內任一個x值都有p(w1|x)gj(x) i,j=1,2 且i不等于j, 則x屬于wi多類別情況決策規(guī)則: 如果 則將x歸于wi類 決策面 當wi的決策域與wj的決策域相鄰時,一下關系決定了相應的決策面
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- T-ZZB 3624-2024 1000kV交流架空輸電線路金具
- T-ZHCA 031-2024 淋洗類化妝品溫和性評價 重建表皮模型組織活力法
- 二零二五年度房屋代管及租戶租賃合同終止通知協(xié)議
- 二零二五年度公共設施配套拆遷房產分割及公益基金合同
- 2025年度門面轉讓及獨家代理權合同
- 二零二五年度合資公司股權合作協(xié)議書
- 2025年度網(wǎng)絡安全責任方合作協(xié)議范本(適用于互聯(lián)網(wǎng)企業(yè))
- 二零二五年度車輛抵押抵貨款金融創(chuàng)新服務協(xié)議
- 二零二五年度銷售團隊市場分析聘用協(xié)議
- 二零二五年度農村房屋租賃與農村社區(qū)文化活動合作協(xié)議
- 電線電纜檢測報告模板
- 模具開發(fā)管理手冊
- Q∕SY 06505.13-2016 煉油化工工程儀表自動化設計規(guī)范 第13部分:儀表防爆及防護
- 油漆使用登記記錄表
- 【知識點提綱】新教材-人教版高中化學必修第一冊全冊各章節(jié)知識點考點重點難點提煉匯總
- 高中語文基礎知識手冊薛金星
- 輪轂電機驅動電動車懸架和轉向系統(tǒng)設計與性能匹配
- 二年級第二學期體育知識結構圖
- CASS勘測定界操作指導方案
- 中國商品條碼系統(tǒng)注冊登記表規(guī)范填寫
- 湘科教版小學信息技術四年級下冊全冊教案.doc
評論
0/150
提交評論