自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)ppt課件

1、第五章第五章 自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò) 第五章第五章 自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò) 5.1 概述概述 5.2 自組織特征映射網(wǎng)絡(luò)自組織特征映射網(wǎng)絡(luò) 5.3 自順應(yīng)共振實(shí)際模型自順應(yīng)共振實(shí)際模型 5.4 神經(jīng)認(rèn)知機(jī)神經(jīng)認(rèn)知機(jī) 5.1 概述概述 在實(shí)踐的神經(jīng)網(wǎng)絡(luò)中，存在一種側(cè)抑制的景象，即一個(gè)神經(jīng)細(xì)胞興奮后，經(jīng)過(guò)它的分支會(huì)對(duì)周圍其他神經(jīng)細(xì)胞產(chǎn)生抑制這種側(cè)抑制在脊髓和海馬中存在，在人眼的視網(wǎng)膜中也存在。 另外，在認(rèn)知過(guò)程中除了從教師那兒得到知識(shí)外，還有一種不需求教師指點(diǎn)的學(xué)習(xí)，這種直接依托外界刺激，“無(wú)師自通到達(dá)的功能有時(shí)也稱為自學(xué)習(xí)、自組織的學(xué)習(xí)方法。 自組織競(jìng)爭(zhēng)人工神經(jīng)網(wǎng)絡(luò)就

2、是基于上述兩種生物構(gòu)造和景象的根底上生成的，它的權(quán)是經(jīng)過(guò)Hebb規(guī)那么或類似Hebb規(guī)那么學(xué)習(xí)后得到的。 5.2 自組織特征映射網(wǎng)絡(luò)自組織特征映射網(wǎng)絡(luò) 5.2.1 網(wǎng)絡(luò)拓?fù)錁?gòu)造及任務(wù)過(guò)程網(wǎng)絡(luò)拓?fù)錁?gòu)造及任務(wù)過(guò)程 5.2.2 自組織映射學(xué)習(xí)算法自組織映射學(xué)習(xí)算法 5.2.3 自組織映射網(wǎng)絡(luò)的任務(wù)原理自組織映射網(wǎng)絡(luò)的任務(wù)原理 5.2.4 網(wǎng)絡(luò)的運(yùn)用實(shí)例網(wǎng)絡(luò)的運(yùn)用實(shí)例 芬蘭學(xué)者Kohonen以為一個(gè)神經(jīng)網(wǎng)絡(luò)接受外界輸入方式時(shí)，將會(huì)分成不同的區(qū)域，各區(qū)域?qū)斎敕绞綄?huì)有不同的呼應(yīng)特性，最臨近的神經(jīng)元相互鼓勵(lì)，而較遠(yuǎn)的神經(jīng)元之間相互抑制，而更遠(yuǎn)的神經(jīng)元之間又有較弱的鼓勵(lì)作用。在遭到外界刺激時(shí)，刺激最強(qiáng)的地

3、方構(gòu)成一個(gè)Bubble墨西哥帽，在此Bubble區(qū)中，神經(jīng)元權(quán)向量會(huì)自動(dòng)調(diào)理，直到與輸入向量的某一最大分量方向相重合為止。 圖圖5.1 神經(jīng)元的作用分布曲線神經(jīng)元的作用分布曲線 圖圖 5.2 網(wǎng)絡(luò)構(gòu)造網(wǎng)絡(luò)構(gòu)造 +-+-1x 2xnx 輸出層輸入層5.2.1 網(wǎng)絡(luò)拓?fù)錁?gòu)造及任務(wù)過(guò)程網(wǎng)絡(luò)拓?fù)錁?gòu)造及任務(wù)過(guò)程 圖圖5.3 Nj(t)的外形變化情況的外形變化情況 )(0tNj)(2tNj)(1tNj)(0tNj)(2tNj)(1tNj對(duì)于恣意一個(gè)輸入節(jié)點(diǎn)i和輸出節(jié)點(diǎn)j有： i1,2,.,n , j1,2,.,n 且： niiijjXWY15.2.2 自組織映射學(xué)習(xí)算法自組織映射學(xué)習(xí)算法 銜接權(quán)值的初始化

4、。 t=0:0Wij1,i1,2,n,j1,2,m 對(duì)網(wǎng)絡(luò)輸入一個(gè)樣本方式。 XK=(X1,X2,Xn) 計(jì)算與全部輸出節(jié)點(diǎn)間的權(quán)值向量的間隔 j1,2,m (5.2.2) 選擇有最小間隔的節(jié)點(diǎn)為競(jìng)爭(zhēng)獲勝節(jié)點(diǎn) j1,2,m niijij(t)W(X(t)d12)min(*jjdd 調(diào)整權(quán)值 (5.2.3) 其中，0(t)1，衰減函數(shù)，隨著時(shí)間t而遞減；(Nj,Nj*)限界函數(shù)，隨著Nj*間隔遞減。 假設(shè)還有輸入樣本那么轉(zhuǎn)，當(dāng)一切的樣本輸入完，且滿足： i1,2,.,n, j1,2,m(5.2.4) 或者完成指定的學(xué)習(xí)次數(shù)后算法終了，否那么轉(zhuǎn)。)(0)(),()(*tNjWtNjtWXNNtWj

5、ijjijijjij)() 1(max(tWtWijij (t)和Nj*有普通化數(shù)學(xué)方法，憑閱歷選取。初始時(shí)， Nj*選取較大，后逐漸變小， (t)開場(chǎng)時(shí)較大，后逐漸變?yōu)?。 從自組織映射網(wǎng)絡(luò)算法來(lái)看，該網(wǎng)絡(luò)有以下特點(diǎn)： (1)網(wǎng)絡(luò)中的權(quán)值是輸入樣本的記憶。假設(shè)輸出節(jié)點(diǎn)j與輸入層n個(gè)節(jié)點(diǎn)的銜接權(quán)值向量用Wj表示，對(duì)應(yīng)某一類樣本XK輸入，使j節(jié)點(diǎn)到達(dá)的匹配最大，那么Wj經(jīng)過(guò)學(xué)習(xí)以后非常接近XK，因此以后當(dāng)XK再次輸入時(shí)，j節(jié)點(diǎn)必定興奮， j節(jié)點(diǎn)是樣本的XK代表。 (2)網(wǎng)絡(luò)學(xué)習(xí)時(shí)對(duì)權(quán)值的調(diào)整，不只是對(duì)興奮的節(jié)點(diǎn)所對(duì)應(yīng)的權(quán)值進(jìn)展調(diào)整，而對(duì)其周圍區(qū)域Nj內(nèi)的節(jié)點(diǎn)同時(shí)進(jìn)展調(diào)整，因此對(duì)于在Nj內(nèi)的節(jié)點(diǎn)可

6、以代表不只是一個(gè)樣本XK，而是與XK比較相近的樣本都可以在Nj內(nèi)得到反映，因此這種網(wǎng)絡(luò)對(duì)于樣本的畸變和噪聲的容限大。 (3)網(wǎng)絡(luò)學(xué)習(xí)結(jié)果使比較相近的輸入樣本在輸出二維平面上位置也比較接近。 (4)可實(shí)如今線學(xué)習(xí)，已修正的權(quán)值將保管。5.3 自順應(yīng)共振實(shí)際模型自順應(yīng)共振實(shí)際模型 5.3.1 自順應(yīng)共振實(shí)際自順應(yīng)共振實(shí)際(ART) 5.3.2 ART1神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò) 5.3.3 ART1網(wǎng)絡(luò)學(xué)習(xí)算法的改良網(wǎng)絡(luò)學(xué)習(xí)算法的改良 5.3.4 ART2神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò) 5.3.5 ART神經(jīng)網(wǎng)絡(luò)在人像識(shí)別中的運(yùn)用神經(jīng)網(wǎng)絡(luò)在人像識(shí)別中的運(yùn)用 5.3.1 自順應(yīng)共振實(shí)際自順應(yīng)共振實(shí)際(ART) 自順應(yīng)共振實(shí)

7、際(Adaptive Resonance Theory，簡(jiǎn)稱)是由美國(guó)Boston大學(xué)S.Grossberg和A.Carpenter提出的。這一實(shí)際包括ART1和ART2兩種模型，可以對(duì)恣意多和恣意復(fù)雜的二維方式進(jìn)展自組織、自穩(wěn)定和大規(guī)模并行處置。前者用于二進(jìn)制輸入，后者用于延續(xù)信號(hào)輸入。 如圖5.8所示，它由兩個(gè)相繼銜接的存儲(chǔ)單元STM-F1和STM-F2組成，分成留意子系統(tǒng)和取向子系統(tǒng)。 F1 和F2之間的銜接通路為自順應(yīng)長(zhǎng)期記憶(LTM)。 圖圖5.8 ART原理圖原理圖 STM-F2STM-F1增益控制注意子系統(tǒng)取向子系統(tǒng)STM重置波輸入模式增益控制LTM+-+-+ ART的主要優(yōu)點(diǎn)：

8、 1、可完成實(shí)時(shí)學(xué)習(xí)，且可順應(yīng)非平穩(wěn)的環(huán)境； 2、對(duì)已學(xué)習(xí)過(guò)的對(duì)象具有穩(wěn)定的快速識(shí)別才干，同時(shí)又能迅速順應(yīng)學(xué)習(xí)的新對(duì)象； 3、具有自歸一才干，根據(jù)某些特征在全體中所占的比例，有時(shí)作為關(guān)鍵特征，有時(shí)又被當(dāng)作噪聲處置； 4、不需求事先知樣本結(jié)果，可非監(jiān)視學(xué)習(xí)； 5、容量不受輸入通道數(shù)的限制，存儲(chǔ)對(duì)象也不要求是正交的； 6、此系統(tǒng)可以完全防止墮入部分極小點(diǎn)的問(wèn)題。 5.3.2 ART1神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò) 一、一、ART1神經(jīng)網(wǎng)絡(luò)根本構(gòu)造神經(jīng)網(wǎng)絡(luò)根本構(gòu)造 圖圖5.9 ART1 網(wǎng)絡(luò)的根本構(gòu)造網(wǎng)絡(luò)的根本構(gòu)造 GRCGReset輸入x門限 網(wǎng)絡(luò)的根本構(gòu)造由兩層神經(jīng)網(wǎng)節(jié)點(diǎn)構(gòu)成兩個(gè)子系統(tǒng)，分別稱比較層(Comp

9、are，簡(jiǎn)稱C層)和識(shí)別(Recognition，簡(jiǎn)稱R層)。另外還有三種控制信號(hào)，即復(fù)位信號(hào)(簡(jiǎn)稱Reset)及兩種邏輯控制信號(hào)G1和G2。 1.C 層構(gòu)造：具有n個(gè)節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)接受來(lái)自三個(gè)方面的信號(hào)。 信號(hào)1：輸入X的第i個(gè)分量Xi。 信號(hào)2：R層第j個(gè)單元的自上而下前往信號(hào)Rj。 信號(hào)3：G1控制信號(hào)。 設(shè)C層第i個(gè)單元輸出為Ci。 Ci根據(jù)“2/3規(guī)那么產(chǎn)生，即Ci具有三個(gè)信號(hào)中的多數(shù)一樣的值。 網(wǎng)絡(luò)開場(chǎng)運(yùn)轉(zhuǎn)時(shí)， G1 =1，R層反響信號(hào)為0。 2.R 層構(gòu)造： R層功能構(gòu)造相當(dāng)于一種前向競(jìng)爭(zhēng)網(wǎng)絡(luò)，假設(shè)輸出層有m個(gè)節(jié)點(diǎn)，m類輸入方式。輸出層節(jié)點(diǎn)能動(dòng)態(tài)增長(zhǎng)，以滿足設(shè)立新方式類的需求。設(shè)

10、由C層自下而上銜接到R層第j個(gè)的節(jié)點(diǎn)的權(quán)向量用Wj=w1j,w2j,.,wnj 表示。C層輸出向量C沿Wj向前饋送，經(jīng)過(guò)競(jìng)爭(zhēng)在R層輸出端產(chǎn)生獲勝節(jié)點(diǎn)，指示本次輸入向量類別。 3.控制信號(hào) 1G1：設(shè)輸入方式X各元素的邏輯“或?yàn)閄0，R各元素的邏輯“或非為R0，那么G1=X0R0，即只需在R層輸出向量R為全0，而輸入X不為全0時(shí)，G1=1，其他情況下G1=0。 2G2是輸入方式X各元素的邏輯“或，即X為全0時(shí)， G2是0。其他情況下G2是1。 3Reset：設(shè)預(yù)先設(shè)定的類似性度量為。如按某種事先設(shè)定的丈量規(guī)范，C與X并非充分接近且到達(dá)，那么發(fā)出Reset信號(hào)，以使R層競(jìng)爭(zhēng)獲勝節(jié)點(diǎn)無(wú)效。這表示此次

11、選擇的方式代表類不能滿足要求。 二、二、ART1 網(wǎng)絡(luò)運(yùn)轉(zhuǎn)原理網(wǎng)絡(luò)運(yùn)轉(zhuǎn)原理 1.識(shí)別階段：識(shí)別階段： 在網(wǎng)絡(luò)沒有輸入方式之前，網(wǎng)絡(luò)處于等待形狀。在網(wǎng)絡(luò)沒有輸入方式之前，網(wǎng)絡(luò)處于等待形狀。此時(shí)，輸入端此時(shí)，輸入端X=0，并置控制信號(hào)，并置控制信號(hào)G2=0。所以，。所以，R層層單元輸出全為單元輸出全為0，在競(jìng)爭(zhēng)中有同等的獲勝時(shí)機(jī)。當(dāng)網(wǎng)絡(luò)，在競(jìng)爭(zhēng)中有同等的獲勝時(shí)機(jī)。當(dāng)網(wǎng)絡(luò)輸入不全為輸入不全為0時(shí)，置時(shí)，置G2=1。信息自下而上流動(dòng)。由。信息自下而上流動(dòng)。由“2/3規(guī)那么可知，此時(shí)規(guī)那么可知，此時(shí)C層輸出層輸出C=X，且，且C向上饋送，與向上饋送，與向上權(quán)向量向上權(quán)向量W進(jìn)展作用，產(chǎn)生向量進(jìn)展作用，產(chǎn)

12、生向量T。T向上送入向上送入R層，層，使使R層內(nèi)部開場(chǎng)競(jìng)爭(zhēng)。假設(shè)獲勝節(jié)點(diǎn)為層內(nèi)部開場(chǎng)競(jìng)爭(zhēng)。假設(shè)獲勝節(jié)點(diǎn)為j*，那么，那么R層輸層輸Rj*=1而其他節(jié)點(diǎn)輸出為而其他節(jié)點(diǎn)輸出為0。 2.比較階段：比較階段： R層輸出信息自上而下前往層輸出信息自上而下前往C層。層。 Rj*=1使使R層層j*節(jié)點(diǎn)所銜接的自上而下的節(jié)點(diǎn)所銜接的自上而下的Wj*被激活，并向下前往被激活，并向下前往C層。層。 此時(shí)，此時(shí)，R層輸出不為全層輸出不為全0，并且，并且G1=0。所以，。所以，C層層下一次輸出下一次輸出C取決于由取決于由R層自上而下的權(quán)向量層自上而下的權(quán)向量Wj*及及網(wǎng)絡(luò)的輸入方式網(wǎng)絡(luò)的輸入方式X。即：。即：Ci

13、=Wj*i Xi。其中。其中表示表示邏輯與。新形狀邏輯與。新形狀C就反映了輸入向量就反映了輸入向量X與其所激活的與其所激活的節(jié)點(diǎn)節(jié)點(diǎn)j*的典型向量之間的類似度。的典型向量之間的類似度。 用事先指定的門限對(duì)類似度進(jìn)展測(cè)試，假設(shè)C給出了足夠類似的信息，那么表示競(jìng)爭(zhēng)結(jié)果正確。反之，那么表示競(jìng)爭(zhēng)結(jié)果不符合要求，就發(fā)Reset信號(hào)以置上次獲勝的節(jié)點(diǎn)無(wú)效，并使其在本次方式的匹配過(guò)程中不能再獲勝。然后進(jìn)入搜索階段。 在比較階段，網(wǎng)絡(luò)的信息流向是自上而下的。 3.搜索階段：搜索階段： 由由Reset信號(hào)置獲勝階段無(wú)效開場(chǎng)，網(wǎng)絡(luò)進(jìn)入搜索信號(hào)置獲勝階段無(wú)效開場(chǎng)，網(wǎng)絡(luò)進(jìn)入搜索階段。此時(shí)階段。此時(shí)R為全為全0，G1=

14、1 ，在，在C層輸出端又得到了本層輸出端又得到了本次的輸入方式次的輸入方式X。因此，網(wǎng)絡(luò)又進(jìn)入識(shí)別及比較階段，。因此，網(wǎng)絡(luò)又進(jìn)入識(shí)別及比較階段，得到新的獲勝節(jié)點(diǎn)以前的獲勝節(jié)點(diǎn)不參與競(jìng)爭(zhēng)。得到新的獲勝節(jié)點(diǎn)以前的獲勝節(jié)點(diǎn)不參與競(jìng)爭(zhēng)。這樣反復(fù)直至搜索到某一個(gè)獲勝節(jié)點(diǎn)這樣反復(fù)直至搜索到某一個(gè)獲勝節(jié)點(diǎn)K，它與輸入向，它與輸入向量量X充分匹配到達(dá)滿足的要求為止。方式充分匹配到達(dá)滿足的要求為止。方式X編制到編制到R層層K節(jié)點(diǎn)所連的方式類別中，即按一定的方法修正節(jié)點(diǎn)所連的方式類別中，即按一定的方法修正K節(jié)點(diǎn)節(jié)點(diǎn)的自下而上和自上而下的權(quán)向量，使網(wǎng)絡(luò)以后再遇到的自下而上和自上而下的權(quán)向量，使網(wǎng)絡(luò)以后再遇到X或與或

15、與X相近的方式時(shí)，相近的方式時(shí)，R層層K節(jié)點(diǎn)能很快獲得競(jìng)爭(zhēng)的節(jié)點(diǎn)能很快獲得競(jìng)爭(zhēng)的勝利。假設(shè)搜索了一切的勝利。假設(shè)搜索了一切的R層輸出節(jié)點(diǎn)而沒有發(fā)現(xiàn)有層輸出節(jié)點(diǎn)而沒有發(fā)現(xiàn)有與與X充分接近的方式，那么增設(shè)一個(gè)充分接近的方式，那么增設(shè)一個(gè)R層節(jié)點(diǎn)以表示層節(jié)點(diǎn)以表示X或與或與X相近的方式。相近的方式。 三、三、ART1 網(wǎng)絡(luò)學(xué)習(xí)算法網(wǎng)絡(luò)學(xué)習(xí)算法 ART1訓(xùn)練算法訓(xùn)練算法(ART1)： 初始化。自下而上的權(quán)向量初始化。自下而上的權(quán)向量W賦予較小且一樣的初賦予較小且一樣的初值，自上而下的權(quán)向量值，自上而下的權(quán)向量W賦予初值賦予初值1。類似度門限。類似度門限0成立，那么接受j*為獲勝節(jié)點(diǎn)，轉(zhuǎn)。否那么發(fā)Res

16、et信號(hào)，置j*為0不允許其再參與競(jìng)爭(zhēng)，開場(chǎng)搜索階段，轉(zhuǎn)。 niiijXwC1*| |niiijXwC1*| |niixX1| 修正修正R層節(jié)點(diǎn)自下而上及自上而下的權(quán)向量，使其層節(jié)點(diǎn)自下而上及自上而下的權(quán)向量，使其以后對(duì)與以后對(duì)與X類似的輸入更容易獲勝，且具有更高的類類似的輸入更容易獲勝，且具有更高的類似性。似性。 (5.3.3) (5.3.4) 其中其中l(wèi)為大于為大于1的常數(shù)。的常數(shù)。 恢復(fù)由恢復(fù)由Reset信號(hào)抑制的信號(hào)抑制的R層節(jié)點(diǎn)，轉(zhuǎn)到以迎接下層節(jié)點(diǎn)，轉(zhuǎn)到以迎接下一次的輸入。一次的輸入。 iijijXtwtw * *1 iiijijijXtwltwltw * *1115.3.5 ART

17、神經(jīng)網(wǎng)絡(luò)在人像識(shí)別中的運(yùn)用神經(jīng)網(wǎng)絡(luò)在人像識(shí)別中的運(yùn)用 它包括五層和六個(gè)控制節(jié)點(diǎn)，其功能如下：它包括五層和六個(gè)控制節(jié)點(diǎn)，其功能如下： 第一層：輸入層，輸入信號(hào)第一層：輸入層，輸入信號(hào)X=x1,x2,xn為為n維維向量，其輸出信號(hào)向量，其輸出信號(hào)O1=X。 O2為由為由“2/3規(guī)那么產(chǎn)生規(guī)那么產(chǎn)生的信號(hào)，記為的信號(hào)，記為n維向量維向量S* ， S*為記憶方式與輸入方式為記憶方式與輸入方式的綜合方式：的綜合方式： S* =Z*X (Z在后面引見在后面引見) 第二層：歸一化層，輸入為第一層輸出第二層：歸一化層，輸入為第一層輸出O1 ，輸出，輸出為為n維向量維向量S。該層的作用是使輸入矢量規(guī)格化；。該層

18、的作用是使輸入矢量規(guī)格化； 212110102niijniijjxxxxs 第二層和第三層之間為自下而上的全互連前向網(wǎng)絡(luò)，其銜接權(quán)矩陣為W，第三層的輸入為S，輸出為m維向量T： 第四層：競(jìng)爭(zhēng)網(wǎng)絡(luò)層。輸入為T，輸出為m維向量Y，經(jīng)過(guò)該層的競(jìng)爭(zhēng)，產(chǎn)生出勝者，只需獲勝者輸出為1，其他為0： 11010,.,m-, i=swtnjjiji 110max ,.,m, ittii I k k=IYk01圖圖5.11 ART1人像識(shí)別神經(jīng)網(wǎng)絡(luò)人像識(shí)別神經(jīng)網(wǎng)絡(luò) xnx2x1權(quán)值W權(quán)值W輸出YZG1G2S輸出Y重置波*S*SSUMXSUMZSUMReset 第四層到第五層為自上而下的反響層，其銜接權(quán)矩陣為W，第

19、五層的輸入為Y，輸出為n維向量Z： 由于Y只需獲勝者I輸出為1，其他為0，所以： n維向量Z為該獲勝方式所記憶的向量； 控制節(jié)點(diǎn)G1 ：獲勝記憶方式Z的“或非。即只需當(dāng)Z全為0時(shí)， G1 =1，其他情況為0； 控制節(jié)點(diǎn)G2 ：輸入方式X的“或。即只需當(dāng)X全為0時(shí)， G2=0，其他情況為1； 10 mkkkjjywz Ijjwz 控制節(jié)點(diǎn)SUMZ：計(jì)算獲勝記憶方式Z的非零分量的個(gè)數(shù)。 控制節(jié)點(diǎn)SUMS：計(jì)算綜合方式S*的非零分量的個(gè)數(shù)。 控制節(jié)點(diǎn)SUMX：計(jì)算輸入方式X的非零分量的個(gè)數(shù)。 1 niIiZwZSUM 1 *niiIiSxwSUM 1niiXxSUM 控制節(jié)點(diǎn)Reset：輸入為SUM

20、Z 、SUMS 、SUMX ，輸出為R： 函數(shù) f 如上式定義，當(dāng)R=1時(shí)，Reset向第四層發(fā)重置波。 網(wǎng)絡(luò)訓(xùn)練及識(shí)別算法(FER)： (1) 初始化輸入方式X=0、輸出方式Y(jié)=0、銜接權(quán)值W、W、控制信號(hào)G1=1、G2=0、Reset=0，已訓(xùn)練類別數(shù)為premode，網(wǎng)絡(luò)容量為summode； (2) 輸入一新方式Xi=x0,x1,xN，Reset=0，計(jì)算G2 ； 1)/SUM(SUM*)/SUMf(SUM 0X*SZ*S否則R (3) 假設(shè)G2=0 ，那么轉(zhuǎn)(2)； (4) 由公式計(jì)算S、T； (5) 由公式計(jì)算I、Y、Z，計(jì)算G1； (6) 假設(shè)G1 =1 ，那么轉(zhuǎn) (2) ； (

21、7) 由公式計(jì)算S*、SUMZ 、SUMX 、SUMS和Reset； (8) 假設(shè)Reset=0，那么轉(zhuǎn)(13)； (9) 搜索記數(shù)NUM+1，置YI 、TI為0； (10) NUM小于等于premode，那么進(jìn)入搜索階段，轉(zhuǎn)(5)； (11) 添加新類別premode+1，銜接權(quán)值Wpremode , j 、Wpremode, ，0jN，賦初值； (12) 由公式重新計(jì)算T，轉(zhuǎn)(5)； (13) 由公式調(diào)整銜接權(quán)值Wj 、W，NUM=0，轉(zhuǎn)(2)； 5.4 神經(jīng)認(rèn)知機(jī)神經(jīng)認(rèn)知機(jī) 認(rèn)知機(jī)及神經(jīng)認(rèn)知機(jī)是由日本學(xué)者Fukishima福島邦邦彥提出的，它是一具有自組織功能的多層神經(jīng)網(wǎng)絡(luò)模型，用于構(gòu)造化的字符識(shí)別。 神經(jīng)認(rèn)知機(jī)對(duì)可塑性突觸的構(gòu)成作如下假設(shè)： 從神經(jīng)元x到神經(jīng)元y的突觸銜接，只需在神經(jīng)元x處于激活的情況下才被強(qiáng)化； 假設(shè)在神經(jīng)元y的近旁存在有比y更強(qiáng)的激活神經(jīng)元y，那么從x至y的突觸銜接就不進(jìn)展強(qiáng)化。這也就是說(shuō)，這種突觸銜接的強(qiáng)化應(yīng)符合“最大值檢出假說(shuō)，即在某一小區(qū)域稱之為鄰域內(nèi)存在的一神經(jīng)元集合中，只需輸出最大的神經(jīng)元才