模式識別作業(yè)(共11頁)

1、學(xué)院：儀器科學(xué)與光電工程學(xué)院班級：測試計(jì)量技術(shù)1班姓名：曹文峰學(xué)號：20121100242013年8月10號 貝葉斯決策理論(lln)應(yīng)用原始(yunsh)測量數(shù)據(jù)假定某個(gè)局部區(qū)域細(xì)胞識別(shbi)中正常（）和非正常（）兩類先驗(yàn)概率分別(fnbi)為：正常狀態(tài)：=0.9；異常狀態(tài)：=0.1?，F(xiàn)有一系列待觀察的細(xì)胞，其觀察值為：-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531-2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0

2、682-1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532 類條件概率分布正態(tài)分布分別為（-2，0.25）（2,4）。決策表為(表示的簡寫)，=6, =1，=0。試對觀察的結(jié)果進(jìn)行分類。識別原理方法最小風(fēng)險(xiǎn)貝葉斯決策可按下列步驟進(jìn)行：1. 在已知，及給出待識別的的情況下，根據(jù)貝葉斯公式計(jì)算出后驗(yàn)概率： 2. 利用計(jì)算(j sun)出的后驗(yàn)概率及決策表，按下式計(jì)算出采取決策的條件(tiojin)風(fēng)險(xiǎn)： 3. 對2中得到(d do)的個(gè)條件風(fēng)險(xiǎn)值（）進(jìn)行比較，找出使條件風(fēng)險(xiǎn)最小的決策，即：，則就是最小風(fēng)險(xiǎn)貝葉斯決策。程序清單試驗(yàn)程序和曲線如下，分類結(jié)果在運(yùn)行

3、后的主程序中：實(shí)驗(yàn)主程序如下：x=-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682 -1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532;pxw1=normpdf(x,-1,0.25);pxw2=normpdf(x,2,4);Pw1=0.9;Pw2=0.1;%計(jì)算后驗(yàn)概率Pwx1=pxw1*Pw1./(pxw1*Pw1+pxw2

4、*Pw2);Pwx2=1-Pwx1;%計(jì)算條件風(fēng)險(xiǎn)loss11=0;loss12=6;loss21=1;loss22=0;R1=loss11*Pwx1+loss12*Pwx2;R2=loss21*Pwx1+loss22*Pwx2;%類別判斷for i=1:4 for j=1:6 if R1(i,j)R2(i,j) Y(i,j)=1; else Y(i,j)=2; end endend%結(jié)果顯示display(1表示(biosh)該點(diǎn)屬于第一類，2表示該點(diǎn)屬于第二類);Y運(yùn)行(ynxng)結(jié)果實(shí)驗(yàn)結(jié)果(ji gu)如下：1表示該點(diǎn)屬于第一類，2表示該點(diǎn)屬于第二類Y = 2 2 1 1 1 2 2

5、 2 2 2 2 2 2 2 1 2 2 2 1 1 1 1 1 2線性判別函數(shù)應(yīng)用(yngyng)原始數(shù)據(jù)依據(jù)實(shí)驗(yàn)基本原理和基本方法(fngf)，對下面表1樣本數(shù)據(jù)中的類別和計(jì)算(j sun)最優(yōu)方向，畫出最優(yōu)方向的直線，并標(biāo)記出投影后的點(diǎn)在直線上的位置。選擇決策邊界，實(shí)現(xiàn)新樣本xx1=(-0.7,0.58,0.089)，xx2=(0.047,-0.4,1.04)的分類。設(shè)某新類別數(shù)據(jù)如表2所示，用自己的函數(shù)求新類別分別和、分類的投影方向和分類閥值。表1 Fisher線性判別實(shí)驗(yàn)數(shù)據(jù)類別12345678910 x1-0.4-0.31-0.38-0.15-0.350.17-0.011-0.27

6、-0.065-0.12x20.580.270.0550.530.470.690.550.610.490.054x30.089-0.04-0.0350.0110.0340.1-0.180.120.0012-0.063x10.831.1-0.440.0470.28-0.390.34-0.31.10.18x21.61.6-0.41-0.450.35-0.48-0.079-0.221.2-0.11x3-0.0140.480.321.43.10.110.142.2-0.46-0.49表2 新類別實(shí)驗(yàn)數(shù)據(jù)類別12345678910 x11.580.671.04-1.49-0.411.391.2-0.920

7、.45-0.76x22.321.581.012.181.213.611.41.441.330.84x3-5.8-4.78-3.63-3.39-4.732.87-1.89-3.22-4.38-1.96識別原理基本原理：一般情況下，我們總可以找到某個(gè)方向，使得(sh de)這個(gè)方向的直線上，樣本的投影能分開的最好，而Fisher法所要解決的基本問題就是找到這條最好的、最易于分類的投影線。先從d維空間到一維空間的一維數(shù)學(xué)變換方法(fngf)。假設(shè)有一集合包含(bohn)N個(gè)d維樣本，其中個(gè)屬于類的樣本記為子集，個(gè)屬于類的樣本記為。若對的分量做線性組合可得標(biāo)量，這樣便得到N個(gè)一維樣本組成的集合，并可分

8、為兩個(gè)子集和。的絕對值是無關(guān)緊要的，它僅使乘上一個(gè)比例因子，重要的是選擇的方向，從而轉(zhuǎn)化為尋找最好的投影方向，是樣本分開?；痉椒ǎ合榷x幾個(gè)基本參量：各類樣本均值向量樣本類內(nèi)離散度矩陣和總類內(nèi)離散度矩陣樣本類間離散度矩陣我們(w men)希望投影后，在低維空間里個(gè)樣本盡可能的分開些，即希望兩類均值越大越好，同時(shí)(tngsh)希望各類樣本內(nèi)部盡量密集，即越小越好。因此，我們(w men)定義Fisher準(zhǔn)則函數(shù)為但不顯含，因此必須設(shè)法將變成的顯函數(shù)。由式子從而得到，采用Lagrange乘子法求解它的極大值對其求偏導(dǎo)，得，即從而我們很容易得到忽略比例因子，得 這就是(jish)我們Fisher準(zhǔn)

9、則函數(shù)取極大值時(shí)的解。程序清單Fisher準(zhǔn)則(zhnz)函數(shù)算法：其中w為我們要找到的投影(tuyng)方向，w1、w2是我們的樣本、，s1、s2是相應(yīng)樣本的類內(nèi)離散度矩陣，sw是總類內(nèi)離散度矩陣，m1、m2是相應(yīng)樣本均值。在進(jìn)行分別和、分類的投影方向和分類閥值時(shí)，將對應(yīng)的s1、s2；sw；m1、m2以及輸出坐標(biāo)換成相應(yīng)的樣本符號。由于代碼除此之外均相同，沒有必要再重復(fù)列出，只需在運(yùn)行時(shí)修改上述值即可。注意：在畫出w時(shí)（即），由于樣本的不同，輸出系數(shù)應(yīng)作相應(yīng)的調(diào)整。如：、時(shí)，plot3(30*x,30*x*w(2,:)/w(1,:),30*x*w(3,:)/w(1,:),k);、時(shí)，plot

10、3(x,x*w(2,:)/w(1,:),x*w(3,:)/w(1,:),k);、時(shí)，plot3(5*x,5*x*w(2,:)/w(1,:),5*x*w(3,:)/w(1,:),k);實(shí)驗(yàn)主程序如下：clear;w1=-0.4 0.58 0.089;-0.31 0.27 -0.04;-0.38 0.055 -0.035;-0.15 0.53 0.011;-0.35 0.47 0.034; -0.17 0.69 0.1;-0.011 0.55 -0.18;-0.27 0.61 0.12;-0.065 0.49 0.0012;-0.12 0.054 -0.063;w2=0.8 1.6 -0.014;

11、1.1 1.6 0.48;-0.44 -0.41 0.32;0.047 -0.45 1.4;0.28 0.35 3.1; -0.39 -0.48 0.11;0.34 -0.079 0.14;-0.3 -0.22 2.2;1.1 1.2 -0.46;0.18 -0.11 -0.49;w3=1.58 2.32 -5.8;0.67 1.58 -4.78;1.04 1.01 -3.63;-1.49 2.18 -3.39;-0.41 1.21 -4.73; 1.39 3.61 2.87;1.2 1.4 -1.89;-0.92 1.44-3.22;0.45 1.33 -4.38;-0.76 0.84 -1

12、.96; xx1=-0.7 0.58 0.089;xx2=0.047 -0.4 1.04;s1=cov(w2,1);%樣本(yngbn)類間離散度S1m1=mean(w2);%樣本均值m1s2=cov(w3,1);%樣本(yngbn)類間離散度S2m2=mean(w3);%樣本均值m2sw=s1+s2;%總類內(nèi)離散(lsn)度Sww=inv(sw)*(m1-m2);%Fisher準(zhǔn)則函數(shù)w*h1=figure(1);for i=1:1:10%打印樣本 plot3(w2(i,1),w2(i,2),w2(i,3),r*); hold on; plot3(w3(i,1),w3(i,2),w3(i,3

13、),bo);end;figure(2)%畫出fisher判別函數(shù)xmin=min(min(w2(:,1),min(w3(:,1);xmax=max(max(w2(:,1),max(w3(:,1);x=xmin-1:(xmax-xmin)/100:xmax;plot3(5*x,5*x*w(2,:)/w(1,:),5*x*w(3,:)/w(1,:),k);hold on;%將樣本投影到fisher判別函數(shù)上y1=w*w2;%yn=w*T * xn,n=1,2y2=w*w3;figure(2)for i=1:1:10 plot3(y1(i)*w(1),y1(i)*w(2),y1(i)*w(3),rx); hold on; plot3(y2(i)*w(1),y2(i)*w(2),y2(i)*w(3),bp);end;運(yùn)行結(jié)果1.樣本、2.樣本(