基于SOM的數(shù)據(jù)分類.ppt

第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,第29章 基于SOM的數(shù)據(jù)分類,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.1 SOM原理分析,在網(wǎng)絡(luò)結(jié)構(gòu)上，自組織競爭網(wǎng)絡(luò)一般是有輸入和競爭層構(gòu)成的單層網(wǎng)絡(luò)，網(wǎng)絡(luò)沒有掩藏層，輸入和競爭層之間的神經(jīng)元實現(xiàn)雙向鏈接，同時競爭層各神經(jīng)元之間還存在橫向連接。 自組織競爭網(wǎng)絡(luò)的基本思想是網(wǎng)絡(luò)競爭層各個神經(jīng)元競爭對輸入模式的響應(yīng)機會，最后僅一個神經(jīng)元成為競爭的勝者，并對那些與獲勝神經(jīng)元有關(guān)的各連接權(quán)值朝向更有利于競爭的方向調(diào)整。獲勝神經(jīng)元表示輸入模式的分類。 除了競爭方法外，還有通過抑制方法獲勝的，即網(wǎng)絡(luò)競爭層各層神經(jīng)元都能抑制所有其他神經(jīng)元對輸入模式的響應(yīng)機會，從而使自己成為勝利者。 此外，還有一種抑制的方法，即每個神經(jīng)元只抑制與自己臨近的神經(jīng)元，而對遠離自己的神經(jīng)元則不抑制。因此，自組織競爭網(wǎng)絡(luò)自組織自適應(yīng)的學(xué)習(xí)能力進一步拓寬了神經(jīng)網(wǎng)絡(luò)在模式識別分類方面的應(yīng)用。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.1 SOM原理分析,1981年芬蘭Helsink大學(xué)的T.Kohonen教授提出一種自組織特征映射網(wǎng)，簡稱SOM網(wǎng)，又稱Kohonen網(wǎng)。生物神經(jīng)系統(tǒng)中，存在一種“側(cè)抑制”現(xiàn)象，即一個神經(jīng)細胞興奮后，通過它的分支會對周圍其他神經(jīng)細胞產(chǎn)生抑制。由于側(cè)抑制的作用，各細胞之間相互競爭的最終結(jié)果是：興奮作用最強的神經(jīng)細胞所產(chǎn)生的抑制作用戰(zhàn)勝了周圍所有其他細胞的抑制作用而“贏”了，其周圍的其他神經(jīng)細胞則全“輸”了。,Kohonen認為：一個神經(jīng)網(wǎng)絡(luò)接受外界輸入模式時，將會分為不同的對應(yīng)區(qū)域，各區(qū)域?qū)斎肽Ｊ骄哂胁煌捻憫?yīng)特征，而且這個過程是自動完成的。 自組織競爭人工神經(jīng)網(wǎng)絡(luò)正是基于上述生物系統(tǒng)結(jié)構(gòu)和現(xiàn)象形成的。它是一種以無導(dǎo)師學(xué)習(xí)學(xué)習(xí)方式進行網(wǎng)絡(luò)，具有自組織功能的神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)通過自身訓(xùn)練，自動對輸入模式進行分類。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,自組織特征映射神經(jīng)網(wǎng)絡(luò)（Self-organizing Feature Maps）簡稱SOFM或者SOM，也是一種無導(dǎo)師學(xué)習(xí)的網(wǎng)絡(luò)，主要用于對輸入向量進行區(qū)域分類。和自組織競爭網(wǎng)絡(luò)不同的是，它不但識別輸入?yún)^(qū)域臨近的區(qū)域，還研究輸入向量的分布特性和拓撲特性結(jié)構(gòu)。 SOM網(wǎng)絡(luò)模擬大腦神經(jīng)系統(tǒng)自組織特征映射的功能，是一種競爭型網(wǎng)絡(luò)，并在學(xué)習(xí)中能無導(dǎo)師進行自組織學(xué)習(xí)。 腦神經(jīng)學(xué)研究結(jié)果表明：神經(jīng)元之間的信息交互具有的共同特征是：最近鄰的兩個神經(jīng)元互相激勵，較遠的神經(jīng)元互相抑制，更遠的則又具有較弱的激勵作用。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,SOM網(wǎng)絡(luò)模型層結(jié)構(gòu)圖如圖29-1所示。,圖29-1 SOM模型結(jié)構(gòu)圖,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,由于SOM算法是一種無導(dǎo)師的聚類法，它能將任意維輸入模式在輸出層映射成一維或者二維離散圖形，并保持其拓撲結(jié)構(gòu)不變，即在無導(dǎo)師的情況下，通過對輸入模式的自組織學(xué)習(xí)，在競爭層將分類結(jié)果表示出來，此外，網(wǎng)絡(luò)通過對輸入模式的反復(fù)學(xué)習(xí)，可以使連接權(quán)值空間分布密度與輸入模式的概率分布趨于一致，即鏈接權(quán)向量分布能反映輸入模式的統(tǒng)計特征。,和自組織競爭網(wǎng)絡(luò)一樣，SOM網(wǎng)絡(luò)可以用來識別獲勝神經(jīng)元 ，不同的是，自組織競爭網(wǎng)絡(luò)只修正獲勝神經(jīng)元，而SOM網(wǎng)絡(luò)依據(jù)Kohonen學(xué)習(xí)規(guī)則，要同時修正獲勝神經(jīng)元附近區(qū)域Ni(d)內(nèi)所有神經(jīng)元。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,對于輸入向量 p ，一旦獲勝神經(jīng)元以及臨近神經(jīng)元的權(quán)值被修正后接近p ，多次循環(huán)后，臨近神經(jīng)元會彼此接近。SOM神經(jīng)元競爭二維臨域示意圖如圖29-2所示。,圖29-2 二維臨域示意圖,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,如圖29-2所示臨域可以用集合表示：,（1）Gridtop()網(wǎng)格拓撲結(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,（2）Hextop()六角形拓撲結(jié)構(gòu),圖29-4 六角形拓撲結(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,（2）Hextop()六角形拓撲結(jié)構(gòu),圖29-4 六角形拓撲結(jié)構(gòu),增加神經(jīng)元拓撲結(jié)構(gòu)節(jié)點個數(shù),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,（3）Randtop()隨機拓撲結(jié)構(gòu),圖29-6 隨機拓撲結(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.2 SOM拓撲結(jié)構(gòu)分析,（3）Randtop()隨機拓撲結(jié)構(gòu),增加神經(jīng)元隨機拓撲結(jié)構(gòu)節(jié)點個數(shù),圖29-7 隨機拓撲結(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.3 SOM的癌癥樣本分類預(yù)測,SOM是一類采用無教師學(xué)習(xí)方式的神經(jīng)網(wǎng)絡(luò)模型，它無須期望輸出，只是根據(jù)數(shù)據(jù)樣本進行學(xué)習(xí)，并調(diào)整自身的權(quán)重以達到學(xué)習(xí)的目的。自組織神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則大都采用競爭型的學(xué)習(xí)規(guī)則。 競爭型神經(jīng)網(wǎng)絡(luò)的基本思想是網(wǎng)絡(luò)競爭層的各神經(jīng)元通過競爭來獲取對輸入模式的響應(yīng)機會，最后僅由一個神經(jīng)元成為勝利者，并將與獲勝神經(jīng)元有關(guān)的各連接權(quán)值朝向這更有利于的方向調(diào)整。 自組織映射神經(jīng)網(wǎng)絡(luò)用途：模式分類和模式識別。其具體網(wǎng)絡(luò)層結(jié)構(gòu)圖如圖29-8所示。,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.3 SOM的癌癥樣本分類預(yù)測,圖29-8 自組織映射神經(jīng)網(wǎng)絡(luò)層結(jié)構(gòu)圖,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.3 SOM的癌癥樣本分類預(yù)測,% 將原數(shù)據(jù)回帶，測試網(wǎng)絡(luò)效果： % a=sim(net,P); a=sim(net,Pn); % 使用變換函數(shù)vec2ind()，將單值向量組變換成下標(biāo)向量 % a：為n個元素值為1所在的行下標(biāo)值構(gòu)成的一個行向量。 % ac：為m行n列的向量矩陣x，x中的每個列向量i，除包含一個1外，其余元素均為0。 ac=vec2ind(a) % 分類標(biāo)記 % 網(wǎng)絡(luò)作分類的預(yù)測 % 下面將后20個數(shù)據(jù)帶入神經(jīng)網(wǎng)絡(luò)模型中，觀察網(wǎng)絡(luò)輸出： % sim( )來做網(wǎng)絡(luò)仿真 % Y=sim(net,T) Y=sim(net,Tn) % 得到預(yù)測的可能性結(jié)果 Yc=vec2ind(Y),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機故障分類,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機故障分類,應(yīng)用SOM神經(jīng)診斷網(wǎng)絡(luò)柴油機故障的步驟如下： （1）選取標(biāo)準(zhǔn)故障樣本； （2）對每一種標(biāo)準(zhǔn)故障樣本進行學(xué)習(xí)，學(xué)習(xí)結(jié)束后，對具有最大輸出的神經(jīng)元標(biāo)以該故障的記號； （3）將待檢樣本輸人到SOM神經(jīng)網(wǎng)絡(luò)中； （4）若輸出神經(jīng)元在輸出層的位置與某標(biāo)準(zhǔn)故障樣本的位置相同，說明待檢樣本發(fā)生了相應(yīng)的故障；若輸出神經(jīng)元在輸出層的位置介于很多標(biāo)準(zhǔn)故障之間，說明這兒種標(biāo)準(zhǔn)故障都有可能發(fā)生，且各故障的程度由該位置與相應(yīng)標(biāo)準(zhǔn)故障樣本位置的歐氏距離確定。,newsom()用于創(chuàng)建一個自組織特征映射其調(diào)用格式為： net = newsom(PR,d1,d2,d3,tfcn,dfcd,olr,osteps,tlr,tns),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機故障分類,% 訓(xùn)練次數(shù)為1000次 net.trainparam.epochs=a(7); % 訓(xùn)練網(wǎng)絡(luò)和查看分類 net=train(net,P); y=sim(net,P); yc(7,:)=vec2ind(y); plotsom(net.IW1,1,net.layers1.distances) yc % 網(wǎng)絡(luò)作分類的預(yù)測 % 測試樣本輸入 t=0.9512 1.0000 0.9458 -0.4215 0.4218 0.9511 0.9645 0.8941; % sim( )來做網(wǎng)絡(luò)仿真 r=sim(net,t); % 變換函數(shù) 將單值向量轉(zhuǎn)變成下標(biāo)向量。 rr=vec2ind(r),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機故障分類,圖29-9 SOM網(wǎng)絡(luò)拓撲學(xué)結(jié)構(gòu),第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機故障分類,圖29-10 臨近神經(jīng)元之間的距離情況,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.4 柴油機故障分類,圖29-11 每個神經(jīng)元分類情況,第二十九章,MATLAB優(yōu)化算法案例分析與應(yīng)用,29.