基于模糊C均值的聚類(lèi)分析

基于模糊C均值的聚類(lèi)分析1模糊c均值聚類(lèi)(FCM)方法

模糊C均值聚類(lèi)(FCM)方法是一種在已知聚類(lèi)數(shù)的情況下，利用隸屬度函數(shù)和迭代算法將有限的數(shù)據(jù)集分別聚類(lèi)的方法。其目標(biāo)函數(shù)為：式中，為樣本數(shù)；為聚類(lèi)數(shù)；為第個(gè)樣本相對(duì)于第個(gè)聚類(lèi)中心的隸屬度；為

第個(gè)類(lèi)別的聚類(lèi)中心；為樣本到聚類(lèi)中心的歐式距離。聚類(lèi)的結(jié)果使目標(biāo)函數(shù)最小，因此，構(gòu)造如下新的目標(biāo)函數(shù)：

（2）

這里，=1，?，n，是等式的n個(gè)約束式的拉格朗日乘子。對(duì)所有輸入?yún)⒘壳髮?dǎo)，使式(1)達(dá)到最小的必要條件為：

（3）

（4）

由上述兩個(gè)必要條件，模糊c均值聚類(lèi)算法是一個(gè)簡(jiǎn)單的迭代過(guò)程。在批處理方式運(yùn)行時(shí)，F(xiàn)CM采用下列步驟確定聚類(lèi)中心和隸屬矩陣U：步驟1用值在0，1間的隨機(jī)數(shù)初始化隸屬矩陣U，使其滿足式(2)中的約束條件。步驟2用式(3)計(jì)算c個(gè)聚類(lèi)中心，i=1，?，c。

步驟3根據(jù)式(1)計(jì)算目標(biāo)函數(shù)。如果它小于某個(gè)確定的閾值，或它相對(duì)上次價(jià)值函數(shù)值的改變量小于某個(gè)閾值，則算法停止。步驟4用式(4)計(jì)算新的U陣。近回步驟2。當(dāng)算法收斂時(shí)，就得到了各類(lèi)的聚類(lèi)中心和各個(gè)樣本對(duì)于各類(lèi)的隸屬度值，從而完成了模糊聚類(lèi)劃分。

上述算法中，由于引入的歸一化條件，在樣本集不理想的情況下可能導(dǎo)致結(jié)果不好。比如，如果某個(gè)野值樣本遠(yuǎn)離各類(lèi)的聚類(lèi)中心，本來(lái)它嚴(yán)格屬于各類(lèi)的隸屬度都很小，但由于歸一化條件的限制，將會(huì)使它對(duì)各類(lèi)都有較大的隸屬度(比如兩類(lèi)情況下各類(lèi)的隸屬度都是0．5)，這種野值的存在將影響迭代的最終結(jié)果。程序ifnargin~=2&nargin~=3,error('Toomanyortoofewinputarguments!');enddata_n=size(data,1);in_n=size(data,2);default_options=[2;%u矩陣分割指數(shù)

100;%迭代的最大次數(shù)

1e-5;%改進(jìn)的最小值

1]; %迭代時(shí)顯示信息ifnargin==2,options=default_options;elseiflength(options)<4,tmp=default_options;tmp(1:length(options))=options;options=tmp;endnan_index=find(isnan(options)==1);options(nan_index)=default_options(nan_index);ifoptions(1)<=1,error('Theexponentshouldbegreaterthan1!');endendexpo=options(1); %u矩陣指數(shù)max_iter=options(2); %迭代最大次數(shù)min_impro=options(3);%改進(jìn)的最小值display=options(4);obj_fcn=zeros(max_iter,1);%目標(biāo)函數(shù)的建立U=initfcm(cluster_n,data_n); %初始化模糊分割矩陣 %以下為主循環(huán)：fori=1:max_iter,[U,center,obj_fcn(i)]=stepfcm(data,U,cluster_n,expo);ifdisplay,fprintf('Iterationcount=%d,obj.fcn=%f\n',i,obj_fcn(i));end%檢查終止情況：ifi>1,ifabs(obj_fcn(i)-obj_fcn(i-1))<min_impro,break;end,endenditer_n=i;%obj_fcn(iter_n+1:max_iter)=[];調(diào)用上述程序建立起來(lái)的模糊聚類(lèi)函數(shù)，得到以下運(yùn)行程序：A=[1739.94 1675.15 2395.96;373.3 3087.05 2429.47;1756.771652 1514.98;864.45 1647.31 2665.9;222.85 3059.54 2002.33;877.88 2031.66 3071.18;1803.581583.12 2163.05;2352.122557.04 1411.53;401.3 3259.94 2150.98;363.34 3477.95 2462.86;

1571.17 1731.04 1735.33;104.8 3389.83 2421.83;499.85 3305.75 2196.22;2297.28 3340.14 535.62;2092.62 3177.21 584.32;1418.79 1775.89 2772.9;1845.59 1918.81 2226.49;2205.36 3243.74 1202.69;2949.16 3244.44 662.42;1692.62 1867.5 2108.97;1680.67 1575.78 1725.1;2802.88 3017.11 1984.98;172.78 3084.49 2328.65;2063.54 3199.76 1257.21;1449.58 1641.58 3405.12;1651.52 1713.28 1570.38;341.59 3076.62 2438.63;291.02 3095.68 2088.95;237.63 3077.78 2251.96;1702.8 1639.79 2068.74;1877.93 1860.96 1975.3;867.81 2334.68 2535.1;1831.49 1713.11 1604.68;460.69 3274.77 2172.99;2374.98 3346.98 975.31;2271.89 3482.97 946.7;1783.64 1597.99 2261.31;198.83 3250.45 2445.08;1494.63 2072.59 2550.51];[CENTER2,U2,OBJ_FCN2]=FCM(A,4)得出聚類(lèi)中心及隸屬度矩陣：CENTER2=314.723194.72283.52330.53250958.331748.81733.21927.71211.818792821.1U2=Columns1through6

0.0332010.970070.0297890.0560820.926260.0716660.0295210.00585250.0471230.0208860.0175960.0203680.648970.00886170.849870.119480.0239370.0761620.288310.0152170.0732230.803550.0322080.8318Columns7through12

0.014860.0702570.978080.9310.0156680.943720.0159190.544630.00557410.0172720.0180670.013430.886830.28540.00683290.0203490.918890.0167910.0823940.0997130.0095170.0313760.0473750.026058Columns13through18

0.958960.0246540.030030.0147140.0268680.0150670.0106410.919280.900320.00811240.0295390.948150.0126680.0358320.0453170.0619140.802490.023700.0177290.0202350.0243330.915260.14110.013072Columns19through240.0414130.0132790.0136030.106160.975340.0350020.842630.0134560.0171190.503260.0051040.88240.0744230.90690.926140.242530.00749040.0533150.0415340.0663630.0431410.148050.0120660.029278Columns25through300.0683720.0266210.968610.963670.984340.0066660.0362580.037390.00607310.00850950.00333540.00693660.148640.869030.00927170.0115970.00483480.952540.746730.0669610.0160460.0162260.0074870.033862Columns31through360.00777990.214670.0201320.969560.00194060.00983720.0106020.0435710.0329470.0077870.993410.969340.952650.157980.894160.00945310.00297260.013040.028970.583780.0527620.0132040.0016780.0077779Columns37through390.0224530.971930.0483980.0223670.00613550.0285220.808250.00833480.232140.146930.0135950.69094OBJ_FCN2=1.9285e+0071.352e+0078.2142e+0065.4477e+0064.9316e+0064.85e+0064.8367e+0064.8344e+0064.834e+0064.8339e+0064.8339e+0064.8339e+0064.8339e+0064.8339e+0064.8339e+0064.8339e+0064.8339e+0064.8339e+006

4.8339e+0064.8339e+0064.8339e+0064.8339e+0064.8339e+006

此時(shí)，目標(biāo)函數(shù)在4.8339e+006處收斂，算法結(jié)速

由得出的聚類(lèi)中心矩陣及隸屬度矩陣就可以進(jìn)行分類(lèi)了：聚類(lèi)中心矩陣有4行，每一行代表一類(lèi)及四類(lèi)，3列，每一列代表一種顏色；由隸屬度矩陣中Columns1through6為例：

0.0332010.970070.0297890.0560820.926260.0716660.0295210.00585250.0471230.0208860.0175960.0203680.648970.00886170.849870.119480.0239370.0761620.288310.0152170.0732230.803550.0322080.8318

先看上述矩陣的第一列，從中找出最大值是0.64897，在第三行，由最大隸屬度原則可得：樣本1屬于第三類(lèi)，以此類(lèi)

推，可將39個(gè)樣本值進(jìn)行分類(lèi)，最終分類(lèi)結(jié)果如下：

Blue Green Red Type 1739.94 1675.15 2395.96 1 373.3 3087.052429.47 2 1756.77 1652 1514.98 1 864.45 1647.31 2665.9 3 222.85 3059.54 2002.33 2 877.88 2031.66 3071.18 3 1803.58 1583.12 2163.05 1 2352.12 2557.04 1411.53 4 401.3 3259.94 2150.98 2 363.343477.952462.8621571.171731.041735.331104.83389.832421.832499.853305.752196.2222297.283340.14535.6242092.623177.21584.3241418.791775.892772.931845.591918.812226.4912205.363243.741202.6942949.163244.44