機(jī)器學(xué)習(xí)實(shí)驗(yàn)1-Fisher線性分類(lèi)器設(shè)計(jì)

1、精選優(yōu)質(zhì)文檔-傾情為你奉上一、 實(shí)驗(yàn)意義及目的掌握Fisher分類(lèi)原理，能夠利用Matlab編程實(shí)現(xiàn)Fisher線性分類(lèi)器設(shè)計(jì)，熟悉基于Matlab算法處理函數(shù)，并能夠利用算法解決簡(jiǎn)單問(wèn)題。二、算法原理Fisher準(zhǔn)則基本原理：找到一個(gè)最合適的投影周，使兩類(lèi)樣本在該軸上投影之間的距離盡可能遠(yuǎn)，而每一類(lèi)樣本的投影盡可能緊湊，從而使分類(lèi)效果為最佳。內(nèi)容：（1） 嘗試編寫(xiě)matlab程序，用Fisher線性判別方法對(duì)三維數(shù)據(jù)求最優(yōu)方向w的通用函數(shù)（2） 對(duì)下面表1-1樣本數(shù)據(jù)中的類(lèi)別w1和w2計(jì)算最優(yōu)方向w（3） 畫(huà)出最優(yōu)方向w 的直線，并標(biāo)記出投影后的點(diǎn)在直線上的位置（4） 選擇決策邊界，實(shí)現(xiàn)新樣

2、本xx1=（-0.7，0.58，0.089）,xx2=（0.047，-0.4，1.04）的分類(lèi)三 、實(shí)驗(yàn)內(nèi)容（1） 嘗試編寫(xiě)matlab程序，用Fisher線性判別方法對(duì)三維數(shù)據(jù)求最優(yōu)方向w的通用函數(shù)程序清單：clcclear all%10*3樣本數(shù)據(jù)w1=-0.4,0.58,0.089;-0.31,0.27,-0.04;-0.38,0.055,-0.035;-0.15,0.53,0.011;-0.35,.47,0.034;0.17,0.69,0.1;-0.011,0.55,-0.18;-0.27,0.61,0.12;-0.065,0.49,0.0012;-0.12,0.054,-0.063;

3、w2=0.83,1.6,-0.014;1.1,1.6,0.48;-0.44,-0.41,0.32;0.047,-0.45,1.4;0.28,0.35,3.1;-0.39,-0.48,0.11;0.34,-0.079,0.14;-0.3,-0.22,2.2;1.1,1.2,-0.46;0.18,-0.11,-0.49;W1=w1'%轉(zhuǎn)置下方便后面求s1W2=w2'm1=mean(w1);%對(duì)w1每一列取平均值 結(jié)果為1*3矩陣m2=mean(w2);%對(duì)w1每一列取平均值 結(jié)果為1*3矩陣S1=zeros(3);%有三個(gè)特征 所以大小為3S2=zeros(3);for i=1:1

4、0%1到樣本數(shù)量n s1=(W1(:,i)-m1)*(W1(:,i)-m1)' s2=(W2(:,i)-m2)*(W2(:,i)-m2)' S1=S1+s1; S2=S2+s2;endsw=S1+S2;w_new=transpose(inv(sw)*(m1'-m2');%這里m1m2是行 要轉(zhuǎn)置下 3*3 X 3*1 =3*1 這里提前轉(zhuǎn)置了下 跟老師ppt解法公式其實(shí)一樣%繪制擬合結(jié)果 數(shù)據(jù)畫(huà)圖用 y1=w_new*W1y2=w_new*W2;m1_new=w_new*m1'%求各樣本均值 也就是上面y1的均值m2_new=w_new*m2'w

5、0=(m1_new+m2_new)/2%取閾值%分類(lèi)判斷x=-0.7 0.047 0.58 -0.4 0.089 1.04 ;m=0; n=0;result1=; result2=;for i=1:2%對(duì)待觀測(cè)數(shù)據(jù)進(jìn)行投影計(jì)算 y(i)=w_new*x(:,i); if y(i)>w0 m=m+1; result1(:,m)=x(:,i); else n=n+1; result2(:,n)=x(:,i); endend%結(jié)果顯示 display('屬于第一類(lèi)的點(diǎn)')result1display('屬于第二類(lèi)的點(diǎn)')result2figure(1)scatt

6、er3(w1(1,:),w1(2,:),w1(3,:),'+r'),hold onscatter3(w2(1,:),w2(2,:),w2(3,:),'sg'),hold onscatter3(result1(1,:),result1(2,:),result1(3,:),'k'),hold onscatter3(result2(1,:),result2(2,:),result2(3,:),'bd')title('樣本點(diǎn)及實(shí)驗(yàn)點(diǎn)的空間分布圖')legend('樣本點(diǎn)w1','樣本點(diǎn)w2'

7、,'屬于第一類(lèi)的實(shí)驗(yàn)點(diǎn)','屬于第二類(lèi)的實(shí)驗(yàn)點(diǎn)')figure(2)title('樣本擬合結(jié)果')scatter3(y1*w_new(1),y1*w_new(2),y1*w_new(3),'b'),hold onscatter3(y2*w_new(1),y2*w_new(2),y2*w_new(3),'sr')（2） 對(duì)下面表1-1樣本數(shù)據(jù)中的類(lèi)別w1和w2計(jì)算最優(yōu)方向w（3） 畫(huà)出最優(yōu)方向w 的直線，并標(biāo)記出投影后的點(diǎn)在直線上的位置最優(yōu)方向w 的直線投影后的位置（4） 選擇決策邊界，實(shí)現(xiàn)新樣本xx1=（-0.7，0.58，0.089）,xx2=（0.047，-0.4，1.04）的分類(lèi)決策邊界取法：分類(lèi)結(jié)果：四、實(shí)驗(yàn)感想通過(guò)這次