作業(yè)二基于Fisher準(zhǔn)則線性分類器設(shè)計(jì)

作業(yè)二Fisher線性判別分類器一實(shí)驗(yàn)?zāi)康谋緦?shí)驗(yàn)旨在讓同學(xué)進(jìn)一步了解分類器的設(shè)計(jì)概念，能夠根據(jù)自己的設(shè)計(jì)對(duì)線性分類器有更深刻地認(rèn)識(shí)，理解Fisher準(zhǔn)則方法確定最佳線性分界面方法的原理，以及Lagrande乘子求解的原理。二實(shí)驗(yàn)條件Matlab軟件三實(shí)驗(yàn)原理線性判別函數(shù)的一般形式可表示成

其中根據(jù)Fisher選擇投影方向W的原則，即使原樣本向量在該方向上的投影能兼顧類間分布盡可能分開，類內(nèi)樣本投影盡可能密集的要求，用以評(píng)價(jià)投影方向W的函數(shù)為：

上面的公式是使用Fisher準(zhǔn)則求最佳法線向量的解，該式比較重要。另外，該式這種形式的運(yùn)算，我們稱為線性變換，其中式一個(gè)向量，是的逆矩陣，如是d維，和都是d×d維，得到的也是一個(gè)d維的向量。

向量就是使Fisher準(zhǔn)則函數(shù)達(dá)極大值的解，也就是按Fisher準(zhǔn)則將d維X空間投影到一維Y空間的最佳投影方向，該向量的各分量值是對(duì)原d維特征向量求加權(quán)和的權(quán)值。以上討論了線性判別函數(shù)加權(quán)向量W的確定方法，并討論了使Fisher準(zhǔn)則函數(shù)極大的d維向量的計(jì)算方法，但是判別函數(shù)中的另一項(xiàng)尚未確定，一般可采用以下幾種方法確定如或者

或當(dāng)與已知時(shí)可用當(dāng)W0確定之后，則可按以下規(guī)則分類，

四實(shí)驗(yàn)程序及結(jié)果分析%w1中數(shù)據(jù)點(diǎn)的坐標(biāo)x1=[0.23311.52070.64990.77571.05241.19740.29080.25180.66820.56220.90230.1333-0.54310.9407-0.21260.0507-0.08100.73150.33451.0650-0.02470.10430.31220.66550.58381.16531.26530.8137-0.33990.51520.7226-0.20150.4070-0.1717-1.0573-0.2099];x2=[2.33852.19461.67301.63651.78442.01552.06812.12132.47971.51181.96921.83401.87042.29481.77142.39391.56481.93292.20272.45681.75231.69912.48831.72592.04662.02262.37571.79872.08282.07981.94492.38012.23732.16141.92352.2604];x3=[0.53380.85141.08310.41641.11760.55360.60710.44390.49280.59011.09271.07561.00720.42720.43530.98690.48411.09921.02990.71271.01240.45760.85441.12750.77050.41291.00850.76760.84180.87840.97510.78400.41581.03150.75330.9548];%將x1、x2、x3變?yōu)樾邢蛄縳1=x1(:);x2=x2(:);x3=x3(:);%計(jì)算第一類的樣本均值向量m1m1(1)=mean(x1);m1(2)=mean(x2);m1(3)=mean(x3);endend%畫出最佳方向line([-W1(1),W1(1)],[-W1(2),W1(2)],[-W1(3),W1(3)],'color','k');view([-37.5,30]);axis([-2,3,-1,3,-0.5,1.5]);gridonholdoff實(shí)驗(yàn)結(jié)果和數(shù)據(jù)：首先根據(jù)求出最佳投影方向，然后按照此方向，將待測(cè)數(shù)據(jù)進(jìn)行投影。數(shù)據(jù)的樣本點(diǎn)分布如下：其中，紅色的*是給出的第一類樣本點(diǎn)，藍(lán)色的五角星是第二類樣本點(diǎn)。下方的實(shí)直線是最佳投影方向。待測(cè)數(shù)據(jù)投影在其上，圓圈是被分為第一類的樣本點(diǎn)，十字是被分為第二類的樣本點(diǎn)。使取極大值的W=（-0.0798，0.2005，-0.0478）實(shí)驗(yàn)分析：的比例因子