自組織特征映射神經(jīng)網(wǎng)絡(luò)

1、目目 錄錄 自組織特征映射神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介自組織特征映射神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介 自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 自組織特征映射學(xué)習(xí)算法自組織特征映射學(xué)習(xí)算法原理原理 自組織特征映射學(xué)習(xí)算法自組織特征映射學(xué)習(xí)算法步驟步驟 SOM學(xué)習(xí)算法的學(xué)習(xí)算法的MATLAB實(shí)現(xiàn)實(shí)現(xiàn) SOM網(wǎng)絡(luò)應(yīng)用于模式分類網(wǎng)絡(luò)應(yīng)用于模式分類 一一.自組織特征映射神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介自組織特征映射神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介 自組織特征映射神經(jīng)網(wǎng)絡(luò)（自組織特征映射神經(jīng)網(wǎng)絡(luò)（SOM）也是無(wú)教師學(xué)習(xí)網(wǎng)絡(luò)，主要用）也是無(wú)教師學(xué)習(xí)網(wǎng)絡(luò)，主要用 于對(duì)輸入向量進(jìn)行區(qū)域分類。其結(jié)構(gòu)與基本競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)很相似。于對(duì)輸入向量進(jìn)行區(qū)域分類。其結(jié)構(gòu)與基本競(jìng)爭(zhēng)型神經(jīng)

2、網(wǎng)絡(luò)很相似。 與自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)的不同之處：與自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)的不同之處：SOM網(wǎng)絡(luò)不但識(shí)別屬于區(qū)域鄰近的區(qū)網(wǎng)絡(luò)不但識(shí)別屬于區(qū)域鄰近的區(qū) 域，還研究輸入向量的分布特性和拓?fù)浣Y(jié)構(gòu)域，還研究輸入向量的分布特性和拓?fù)浣Y(jié)構(gòu)。 二二.自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) o 由芬蘭學(xué)者由芬蘭學(xué)者Teuvo Kohonen于于1981年提出。年提出。 o 與自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)不同的是，在自組織映射神經(jīng)網(wǎng)絡(luò)與自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)不同的是，在自組織映射神經(jīng)網(wǎng)絡(luò) 中鄰近的神經(jīng)元能夠識(shí)別輸入空間中鄰近的部分。中鄰近的神經(jīng)元能夠識(shí)別輸入空間中鄰近的部分。 Im Teuvo Kohonen 二二.自組織特征映射神經(jīng)

3、網(wǎng)絡(luò)結(jié)構(gòu)自組織特征映射神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) SOM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 三、自組織特征映射學(xué)習(xí)算法原理三、自組織特征映射學(xué)習(xí)算法原理 oKohonen自組織特征映射算法，能夠自動(dòng)找出輸入數(shù)據(jù)之間的自組織特征映射算法，能夠自動(dòng)找出輸入數(shù)據(jù)之間的 類似度，將相似的輸入在網(wǎng)絡(luò)上就近配置。因此是一種可以構(gòu)成對(duì)類似度，將相似的輸入在網(wǎng)絡(luò)上就近配置。因此是一種可以構(gòu)成對(duì) 輸入數(shù)據(jù)有選擇地給予響應(yīng)的網(wǎng)絡(luò)。輸入數(shù)據(jù)有選擇地給予響應(yīng)的網(wǎng)絡(luò)。 p類似度準(zhǔn)則類似度準(zhǔn)則 -歐氏距離歐氏距離: n i ijij wxd 1 2 )( 四四、自組織特征映射學(xué)習(xí)算法步驟自組織特征映射學(xué)習(xí)算法步驟 1.網(wǎng)絡(luò)初始化網(wǎng)絡(luò)初始化 用用

4、隨機(jī)數(shù)設(shè)定輸入層和映射層之間權(quán)值的初始值隨機(jī)數(shù)設(shè)定輸入層和映射層之間權(quán)值的初始值 2.輸入向量輸入向量 把把輸入向量輸入給輸入層輸入向量輸入給輸入層 3.計(jì)算計(jì)算映射層的權(quán)值向量和輸入向量的距離映射層的權(quán)值向量和輸入向量的距離 映射映射層的神經(jīng)元和輸入向量的距離，按下式給出層的神經(jīng)元和輸入向量的距離，按下式給出 n i ijij wxd 1 2 )( 四四、自組織特征映射學(xué)習(xí)算法步驟自組織特征映射學(xué)習(xí)算法步驟 4.選擇選擇與權(quán)值向量的距離最小的神經(jīng)元與權(quán)值向量的距離最小的神經(jīng)元 計(jì)算計(jì)算并選擇使輸入向量和權(quán)值向量的距離最小的神經(jīng)元，把其稱并選擇使輸入向量和權(quán)值向量的距離最小的神經(jīng)元，把其稱 為

5、勝出神經(jīng)元并記為為勝出神經(jīng)元并記為 ，并給出其鄰接神經(jīng)元集合。，并給出其鄰接神經(jīng)元集合。 5.調(diào)調(diào)整權(quán)值整權(quán)值 勝勝出神經(jīng)元和位于其鄰接神經(jīng)元的權(quán)值，按下式更新：出神經(jīng)元和位于其鄰接神經(jīng)元的權(quán)值，按下式更新： 6.是否是否達(dá)到預(yù)先設(shè)定的要求如達(dá)到要求則算法結(jié)束，否則返回達(dá)到預(yù)先設(shè)定的要求如達(dá)到要求則算法結(jié)束，否則返回2，進(jìn)入，進(jìn)入 下一輪學(xué)習(xí)。下一輪學(xué)習(xí)。 ijijij wtwtw)() 1( * j )(,( * ijjij wxjjhw 五五、SOM學(xué)習(xí)學(xué)習(xí)算法的算法的MATLAB實(shí)現(xiàn)實(shí)現(xiàn) o MATLAB中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能 函 數(shù) 名

6、功 能 newsom()創(chuàng)建一個(gè)自組織特征映射神經(jīng)網(wǎng)絡(luò) plotsom()繪制自組織特征映射網(wǎng)絡(luò)的權(quán)值矢量 vec2ind()將單值矢量組變換成下標(biāo)矢量 compet()競(jìng)爭(zhēng)傳輸函數(shù) midpoint()中點(diǎn)權(quán)值初始化函數(shù) learnsom()自組織特征映射權(quán)值學(xué)習(xí)規(guī)則函數(shù) 五五、SOM學(xué)習(xí)學(xué)習(xí)算法的算法的MATLAB實(shí)現(xiàn)實(shí)現(xiàn) o MATLAB中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能 lnewsom() _功能功能: 創(chuàng)建一個(gè)自組織特征映射網(wǎng)絡(luò)函數(shù)創(chuàng)建一個(gè)自組織特征映射網(wǎng)絡(luò)函數(shù) _格式格式: net = newsom(PR，D1，D2，.，TFCN，DFCN，O

7、LR，OSTEPS ，TLR，TND) _說(shuō)明：說(shuō)明：PR為網(wǎng)絡(luò)輸入矢量取值范圍的矩陣為網(wǎng)絡(luò)輸入矢量取值范圍的矩陣Pmin Pmax； D1，D2，.為神經(jīng)元在多維空間中排列時(shí)各維的個(gè)數(shù)；為神經(jīng)元在多維空間中排列時(shí)各維的個(gè)數(shù)； TFCN為拓?fù)浜瘮?shù)，缺省值為為拓?fù)浜瘮?shù)，缺省值為hextop； DFCN為距離函數(shù)，缺省值為為距離函數(shù)，缺省值為linkdist； OLR為排列階段學(xué)習(xí)速率，缺省值為為排列階段學(xué)習(xí)速率，缺省值為0.9； OSTEPS為排列階段學(xué)習(xí)次數(shù)，缺省值為為排列階段學(xué)習(xí)次數(shù)，缺省值為1000； TLR為調(diào)整階段學(xué)習(xí)速率，缺省值為為調(diào)整階段學(xué)習(xí)速率，缺省值為0.02， TND為調(diào)整階

8、段領(lǐng)域半徑，缺省值為為調(diào)整階段領(lǐng)域半徑，缺省值為1。 五五、SOM學(xué)習(xí)學(xué)習(xí)算法的算法的MATLAB實(shí)現(xiàn)實(shí)現(xiàn) o MATLAB中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能 lyec2ind() _功能功能: 將單值向量組變換成下標(biāo)向量將單值向量組變換成下標(biāo)向量 _格式格式: ind = vec2ind(vec) _說(shuō)明說(shuō)明: 式中，式中，vec為為m行行n列的向量矩陣列的向量矩陣x，x中的每個(gè)列向量中的每個(gè)列向量i，除包含一個(gè)，除包含一個(gè) 1外，其余元素均為外，其余元素均為0， ind為為n個(gè)元素值為個(gè)元素值為1所在的行下標(biāo)值構(gòu)成的一個(gè)行向所在的行下標(biāo)值構(gòu)成的一個(gè)行向

9、 量。量。 六六、SOM網(wǎng)絡(luò)網(wǎng)絡(luò)應(yīng)用應(yīng)用于模式于模式分類分類 以以酒瓶分類回收酒瓶分類回收三三元色數(shù)據(jù)為例，按照顏色數(shù)據(jù)所表征的特點(diǎn)，將數(shù)據(jù)按各元色數(shù)據(jù)為例，按照顏色數(shù)據(jù)所表征的特點(diǎn)，將數(shù)據(jù)按各 自所屬的類別歸類。其中，前自所屬的類別歸類。其中，前29組數(shù)據(jù)已確定類別，后組數(shù)據(jù)已確定類別，后30組數(shù)據(jù)待確定類別。組數(shù)據(jù)待確定類別。 使用自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)對(duì)三元色數(shù)據(jù)進(jìn)行分類，其使用自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)對(duì)三元色數(shù)據(jù)進(jìn)行分類，其MATLAB程序如下程序如下： clear; clc; %訓(xùn)練樣本訓(xùn)練樣本 pConvert=importdata(SelfOrganizationCompetitiontrain.

10、dat); p=pConvert; net=newsom(minmax(p),4 1); %神經(jīng)元排列為神經(jīng)元排列為1 4時(shí)結(jié)果相同，只是神經(jīng)元的位置改變了時(shí)結(jié)果相同，只是神經(jīng)元的位置改變了 %設(shè)置網(wǎng)絡(luò)訓(xùn)練次數(shù)設(shè)置網(wǎng)絡(luò)訓(xùn)練次數(shù) net.trainParam.epochs=200; %開(kāi)始訓(xùn)練開(kāi)始訓(xùn)練 net=train(net,p); %繪制網(wǎng)絡(luò)的神經(jīng)元分布圖繪制網(wǎng)絡(luò)的神經(jīng)元分布圖 plotsom(net.layers1.positions); 六六、SOM網(wǎng)絡(luò)網(wǎng)絡(luò)應(yīng)用應(yīng)用于模式于模式分類分類 %用訓(xùn)練好的自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)對(duì)樣本點(diǎn)分類用訓(xùn)練好的自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)對(duì)樣本點(diǎn)分類 Y=sim(net,p)

11、; %分類數(shù)據(jù)轉(zhuǎn)換輸出分類數(shù)據(jù)轉(zhuǎn)換輸出 Yt=vec2ind(Y) pause %待分類數(shù)據(jù)待分類數(shù)據(jù) dataConvert=importdata(SelfOrganizationCompetitionSimulation.dat); data=dataConvert; %用訓(xùn)練好的自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)分類樣本數(shù)據(jù)用訓(xùn)練好的自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)分類樣本數(shù)據(jù) Y=sim(net,data); Ys=vec2ind(Y) 由于自組織特征映射神經(jīng)網(wǎng)絡(luò)采用的是無(wú)教師學(xué)習(xí)方式，沒(méi)有期望輸出，因此訓(xùn)由于自組織特征映射神經(jīng)網(wǎng)絡(luò)采用的是無(wú)教師學(xué)習(xí)方式，沒(méi)有期望輸出，因此訓(xùn) 練過(guò)程中不用設(shè)置判斷網(wǎng)絡(luò)是否結(jié)束的誤差項(xiàng)。只要

12、設(shè)置網(wǎng)絡(luò)訓(xùn)練次數(shù)就可以了，練過(guò)程中不用設(shè)置判斷網(wǎng)絡(luò)是否結(jié)束的誤差項(xiàng)。只要設(shè)置網(wǎng)絡(luò)訓(xùn)練次數(shù)就可以了， 并且在訓(xùn)練過(guò)程中也只顯示訓(xùn)練次數(shù)。運(yùn)行上述程序后，系統(tǒng)顯示運(yùn)行過(guò)程，并并且在訓(xùn)練過(guò)程中也只顯示訓(xùn)練次數(shù)。運(yùn)行上述程序后，系統(tǒng)顯示運(yùn)行過(guò)程，并 給出聚類結(jié)果：給出聚類結(jié)果： TRAINR, Epoch 0/200 TRAINR, Epoch 25/200 TRAINR, Epoch 50/200 TRAINR, Epoch 75/200 TRAINR, Epoch 100/200 TRAINR, Epoch 125/200 TRAINR, Epoch 150/200 TRAINR, Epoch 1

13、75/200 TRAINR, Epoch 200/200 TRAINR, Maximum epoch reached. Yt = 1 至至 16 列列 2 4 2 3 4 3 2 1 4 4 2 4 4 1 1 3 17 至至 29 列列 2 1 1 2 2 1 4 1 3 2 4 4 4 六、六、SOM網(wǎng)絡(luò)網(wǎng)絡(luò)應(yīng)用應(yīng)用于模式于模式分類分類 系統(tǒng)訓(xùn)練結(jié)束后，給出分類結(jié)果。由于競(jìng)爭(zhēng)型網(wǎng)絡(luò)采用的是無(wú)教師學(xué)系統(tǒng)訓(xùn)練結(jié)束后，給出分類結(jié)果。由于競(jìng)爭(zhēng)型網(wǎng)絡(luò)采用的是無(wú)教師學(xué) 習(xí)方式，因此其顯示分類結(jié)果的方式與目標(biāo)設(shè)置方式可能不同，這里習(xí)方式，因此其顯示分類結(jié)果的方式與目標(biāo)設(shè)置方式可能不同，這里 采用統(tǒng)計(jì)法比

14、較自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)給出的結(jié)果與原始分類結(jié)果，采用統(tǒng)計(jì)法比較自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)給出的結(jié)果與原始分類結(jié)果，如如下下表表 所所示。示。 原始分類結(jié)果統(tǒng)計(jì)原始分類結(jié)果統(tǒng)計(jì) A（數(shù)據(jù)序號(hào)）（數(shù)據(jù)序號(hào)）4、6、16、25 B（數(shù)據(jù)序號(hào)）8、14、15、18、19、22、24 C（數(shù)據(jù)序號(hào)）1、3、7、11、17、20、21、26 D（數(shù)據(jù)序號(hào)）2、5、9、10、12、13、23、27、28、29 自組織特征映射神自組織特征映射神 經(jīng)網(wǎng)絡(luò)經(jīng)網(wǎng)絡(luò)分類結(jié)果分類結(jié)果 A（數(shù)據(jù)序號(hào)）4、6、16、25 B（數(shù)據(jù)序號(hào)）8、14、15、18、19、22、24 C（數(shù)據(jù)序號(hào)）1、3、7、11、17、20、21、26 D（數(shù)據(jù)序

15、號(hào)）2、5、9、10、12、13、23、27、28、29 六、六、SOM網(wǎng)絡(luò)網(wǎng)絡(luò)應(yīng)用應(yīng)用于模式于模式分類分類 網(wǎng)絡(luò)的神經(jīng)元分布圖如網(wǎng)絡(luò)的神經(jīng)元分布圖如圖所圖所示。示。 六六、SOM網(wǎng)絡(luò)網(wǎng)絡(luò)應(yīng)用應(yīng)用于模式于模式分類分類 從從統(tǒng)計(jì)結(jié)果可知，自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)輸出結(jié)果與原始分類結(jié)果完全吻合。繼續(xù)統(tǒng)計(jì)結(jié)果可知，自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)輸出結(jié)果與原始分類結(jié)果完全吻合。繼續(xù) 運(yùn)行程序則可得到待分類樣本數(shù)據(jù)的分類結(jié)果。運(yùn)行程序則可得到待分類樣本數(shù)據(jù)的分類結(jié)果。 Ys = 1 至至 15 列列 2 4 2 3 4 3 2 1 4 4 2 4 4 1 1 16 至至 30 列列 3 2 1 1 2 2 1 4 1 3 2 4

16、 4 4 2 31 至至 45 列列 2 3 2 4 1 1 2 4 3 2 2 3 1 4 1 46 至至 49 列列 4 2 4 1 六六、SOM網(wǎng)絡(luò)網(wǎng)絡(luò)應(yīng)用應(yīng)用于模式于模式分類分類 四四、自組織特征映射學(xué)習(xí)算法步驟自組織特征映射學(xué)習(xí)算法步驟 1.網(wǎng)絡(luò)初始化網(wǎng)絡(luò)初始化 用用隨機(jī)數(shù)設(shè)定輸入層和映射層之間權(quán)值的初始值隨機(jī)數(shù)設(shè)定輸入層和映射層之間權(quán)值的初始值 2.輸入向量輸入向量 把把輸入向量輸入給輸入層輸入向量輸入給輸入層 3.計(jì)算計(jì)算映射層的權(quán)值向量和輸入向量的距離映射層的權(quán)值向量和輸入向量的距離 映射映射層的神經(jīng)元和輸入向量的距離，按下式給出層的神經(jīng)元和輸入向量的距離，按下式給出 n i

17、ijij wxd 1 2 )( 五五、SOM學(xué)習(xí)學(xué)習(xí)算法的算法的MATLAB實(shí)現(xiàn)實(shí)現(xiàn) o MATLAB中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能中自組織神經(jīng)網(wǎng)絡(luò)的重要函數(shù)和基本功能 lyec2ind() _功能功能: 將單值向量組變換成下標(biāo)向量將單值向量組變換成下標(biāo)向量 _格式格式: ind = vec2ind(vec) _說(shuō)明說(shuō)明: 式中，式中，vec為為m行行n列的向量矩陣列的向量矩陣x，x中的每個(gè)列向量中的每個(gè)列向量i，除包含一個(gè)，除包含一個(gè) 1外，其余元素均為外，其余元素均為0， ind為為n個(gè)元素值為個(gè)元素值為1所在的行下標(biāo)值構(gòu)成的一個(gè)行向所在的行下標(biāo)值構(gòu)成的一個(gè)行向 量。量。 從從統(tǒng)計(jì)結(jié)果可知，自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)