機器學習實驗1-Fisher線性分類器設計

1、精選優(yōu)質(zhì)文檔-傾情為你奉上一、 實驗意義及目的掌握Fisher分類原理，能夠利用Matlab編程實現(xiàn)Fisher線性分類器設計，熟悉基于Matlab算法處理函數(shù)，并能夠利用算法解決簡單問題。二、算法原理Fisher準則基本原理：找到一個最合適的投影周，使兩類樣本在該軸上投影之間的距離盡可能遠，而每一類樣本的投影盡可能緊湊，從而使分類效果為最佳。內(nèi)容：（1） 嘗試編寫matlab程序，用Fisher線性判別方法對三維數(shù)據(jù)求最優(yōu)方向w的通用函數(shù)（2） 對下面表1-1樣本數(shù)據(jù)中的類別w1和w2計算最優(yōu)方向w（3） 畫出最優(yōu)方向w 的直線，并標記出投影后的點在直線上的位置（4） 選擇決策邊界，實現(xiàn)新樣

2、本xx1=（-0.7，0.58，0.089）,xx2=（0.047，-0.4，1.04）的分類三 、實驗內(nèi)容（1） 嘗試編寫matlab程序，用Fisher線性判別方法對三維數(shù)據(jù)求最優(yōu)方向w的通用函數(shù)程序清單：clcclear all%10*3樣本數(shù)據(jù)w1=-0.4,0.58,0.089;-0.31,0.27,-0.04;-0.38,0.055,-0.035;-0.15,0.53,0.011;-0.35,.47,0.034;0.17,0.69,0.1;-0.011,0.55,-0.18;-0.27,0.61,0.12;-0.065,0.49,0.0012;-0.12,0.054,-0.063;

3、w2=0.83,1.6,-0.014;1.1,1.6,0.48;-0.44,-0.41,0.32;0.047,-0.45,1.4;0.28,0.35,3.1;-0.39,-0.48,0.11;0.34,-0.079,0.14;-0.3,-0.22,2.2;1.1,1.2,-0.46;0.18,-0.11,-0.49;W1=w1'%轉(zhuǎn)置下方便后面求s1W2=w2'm1=mean(w1);%對w1每一列取平均值 結(jié)果為1*3矩陣m2=mean(w2);%對w1每一列取平均值 結(jié)果為1*3矩陣S1=zeros(3);%有三個特征 所以大小為3S2=zeros(3);for i=1:1

4、0%1到樣本數(shù)量n s1=(W1(:,i)-m1)*(W1(:,i)-m1)' s2=(W2(:,i)-m2)*(W2(:,i)-m2)' S1=S1+s1; S2=S2+s2;endsw=S1+S2;w_new=transpose(inv(sw)*(m1'-m2');%這里m1m2是行 要轉(zhuǎn)置下 3*3 X 3*1 =3*1 這里提前轉(zhuǎn)置了下 跟老師ppt解法公式其實一樣%繪制擬合結(jié)果 數(shù)據(jù)畫圖用 y1=w_new*W1y2=w_new*W2;m1_new=w_new*m1'%求各樣本均值 也就是上面y1的均值m2_new=w_new*m2'w

5、0=(m1_new+m2_new)/2%取閾值%分類判斷x=-0.7 0.047 0.58 -0.4 0.089 1.04 ;m=0; n=0;result1=; result2=;for i=1:2%對待觀測數(shù)據(jù)進行投影計算 y(i)=w_new*x(:,i); if y(i)>w0 m=m+1; result1(:,m)=x(:,i); else n=n+1; result2(:,n)=x(:,i); endend%結(jié)果顯示 display('屬于第一類的點')result1display('屬于第二類的點')result2figure(1)scatt

6、er3(w1(1,:),w1(2,:),w1(3,:),'+r'),hold onscatter3(w2(1,:),w2(2,:),w2(3,:),'sg'),hold onscatter3(result1(1,:),result1(2,:),result1(3,:),'k'),hold onscatter3(result2(1,:),result2(2,:),result2(3,:),'bd')title('樣本點及實驗點的空間分布圖')legend('樣本點w1','樣本點w2'

7、,'屬于第一類的實驗點','屬于第二類的實驗點')figure(2)title('樣本擬合結(jié)果')scatter3(y1*w_new(1),y1*w_new(2),y1*w_new(3),'b'),hold onscatter3(y2*w_new(1),y2*w_new(2),y2*w_new(3),'sr')（2） 對下面表1-1樣本數(shù)據(jù)中的類別w1和w2計算最優(yōu)方向w（3） 畫出最優(yōu)方向w 的直線，并標記出投影后的點在直線上的位置最優(yōu)方向w 的直線投影后的位置（4） 選擇決策邊界，實現(xiàn)新樣本xx1=（-0.7，0.58，0.089）,xx2=（0.047，-0.4，1.04）的分類決策邊界取法：分類結(jié)果：四、實驗感想通過這次