第5講-Hopfield課件講義整理

第5講霍普菲爾德網(wǎng)絡(luò)

(HopfieldNetwork)智能控制理論及應(yīng)用第一部分神經(jīng)網(wǎng)絡(luò)第5講霍普菲爾德網(wǎng)絡(luò)

(HopfieldN1反饋網(wǎng)絡(luò)(RecurrentNetwork)

反饋網(wǎng)絡(luò)，又稱自聯(lián)想記憶網(wǎng)絡(luò)，其目的是為了設(shè)計(jì)一個(gè)網(wǎng)絡(luò)，儲(chǔ)存一組平衡點(diǎn)，使得當(dāng)給網(wǎng)絡(luò)一組初始值時(shí)，網(wǎng)絡(luò)通過自行運(yùn)行而最終收斂到這個(gè)設(shè)計(jì)的平衡點(diǎn)上。反饋網(wǎng)絡(luò)能夠表現(xiàn)出非線性動(dòng)力學(xué)系統(tǒng)的動(dòng)態(tài)特性。它所具有的主要特性為以下兩點(diǎn)：第一、網(wǎng)絡(luò)系統(tǒng)具有若干個(gè)穩(wěn)定狀態(tài)。當(dāng)網(wǎng)絡(luò)從某一初始狀態(tài)開始運(yùn)動(dòng)，網(wǎng)絡(luò)系統(tǒng)總可以收斂到某一個(gè)穩(wěn)定的平衡狀態(tài)；第二、系統(tǒng)穩(wěn)定的平衡狀態(tài)可以通過設(shè)計(jì)網(wǎng)絡(luò)的權(quán)值而被存儲(chǔ)到網(wǎng)絡(luò)中。反饋網(wǎng)絡(luò)(RecurrentNetwork)反饋網(wǎng)絡(luò)，又2常用反饋網(wǎng)絡(luò)反饋網(wǎng)絡(luò)(RecurrentNetwork)Elman網(wǎng)絡(luò)Hopfield網(wǎng)絡(luò)美國(guó)物理學(xué)家J.Hopfield于1982年首先提出的。它模擬生物神經(jīng)網(wǎng)絡(luò)的記憶機(jī)理。常用反饋網(wǎng)絡(luò)反饋網(wǎng)絡(luò)(RecurrentNetwork)3第5講霍普菲爾德網(wǎng)絡(luò)(HopfieldNetwork)離散Hopfield網(wǎng)絡(luò)與聯(lián)想記憶連續(xù)Hopfield網(wǎng)絡(luò)與優(yōu)化計(jì)算Hopfield網(wǎng)絡(luò)的Matlab仿真(DiscreteHopfieldNeuralNetwork，DHNN)(ContinuousHopfieldNeuralNetwork，CHNN)第5講霍普菲爾德網(wǎng)絡(luò)(HopfieldNetwork)離45.1DHNN與聯(lián)想記憶一、DHNN網(wǎng)絡(luò)結(jié)構(gòu)z-1z-1z-15.1DHNN與聯(lián)想記憶一、DHNN網(wǎng)絡(luò)結(jié)構(gòu)z-15一、DHNN網(wǎng)絡(luò)結(jié)構(gòu)1）單層反饋網(wǎng)絡(luò)2）所有神經(jīng)元的輸出延時(shí)一個(gè)單位時(shí)間作為輸入。3）網(wǎng)絡(luò)的外部輸入為作為初始狀態(tài)，對(duì)外輸出為穩(wěn)定狀態(tài)。一、DHNN網(wǎng)絡(luò)結(jié)構(gòu)1）單層反饋網(wǎng)絡(luò)2）所有神經(jīng)元的輸出6神經(jīng)元的模型為或一、DHNN網(wǎng)絡(luò)結(jié)構(gòu)DHNN神經(jīng)元的狀態(tài)是離散的。神經(jīng)元的模型為或一、DHNN網(wǎng)絡(luò)結(jié)構(gòu)DHNN神經(jīng)元的狀態(tài)7二、DHNN的工作方式（1）異步方式或串行工作方式在某一時(shí)刻只有一個(gè)神經(jīng)元改變狀態(tài)，而其余神經(jīng)元的輸出保持不變，這一變化的神經(jīng)元可以按照隨機(jī)方式或預(yù)定的順序來選擇。例如，若選定的神經(jīng)元為第i個(gè)，則有二、DHNN的工作方式（1）異步方式或串行工作方式8二、DHNN的工作方式（2）同步方式或并行工作方式在某一時(shí)刻所有神經(jīng)元同時(shí)改變狀態(tài)。二、DHNN的工作方式（2）同步方式或并行工作方式9三、DHNN的穩(wěn)定性定理如果網(wǎng)絡(luò)從任一初始狀態(tài)開始變化，存在某一有限時(shí)刻，從此以后網(wǎng)絡(luò)狀態(tài)不再變化，即則稱網(wǎng)絡(luò)是穩(wěn)定的。若網(wǎng)絡(luò)的狀態(tài)x滿足則稱為網(wǎng)絡(luò)的穩(wěn)定點(diǎn)或吸引子。三、DHNN的穩(wěn)定性定理如果網(wǎng)絡(luò)從任一初始狀態(tài)開始10三、DHNN的穩(wěn)定性定理定理1對(duì)于DHNN，若按異步方式調(diào)整狀態(tài)，且連接權(quán)矩陣W對(duì)稱且對(duì)角線元素非負(fù)，即wij=wji，wii>=0,則對(duì)于任意初態(tài)，網(wǎng)絡(luò)都最終收斂到一個(gè)吸引子。定理2對(duì)于DHNN，若按同步方式調(diào)整狀態(tài)，且連接權(quán)矩陣W為非負(fù)定對(duì)稱陣，則對(duì)于任意初態(tài)，網(wǎng)絡(luò)都最終收斂到一個(gè)吸引子。三、DHNN的穩(wěn)定性定理定理1對(duì)于DHNN，若按異步方式11三、DHNN的穩(wěn)定性定理可見對(duì)于同步方式，它對(duì)連接權(quán)矩陣W的要求更高了，若不滿足W為非負(fù)定對(duì)稱陣的要求，則網(wǎng)絡(luò)可能出現(xiàn)自持震蕩，即極限環(huán)。由于異步工作方式比同步工作方式有更好的穩(wěn)定性能，實(shí)現(xiàn)時(shí)較多采用異步工作方式。異步工作方式的主要缺點(diǎn)是失去了神經(jīng)網(wǎng)絡(luò)并行處理的優(yōu)點(diǎn)。三、DHNN的穩(wěn)定性定理可見對(duì)于同步方式，它對(duì)連接12聯(lián)想記憶（AssociativeMemory，AM）功能是DHNN的一個(gè)重要應(yīng)用。四、DHNN的聯(lián)想記憶功能與權(quán)值設(shè)計(jì)在Hopfield網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)及權(quán)值矩陣均一定的情況下，網(wǎng)絡(luò)的穩(wěn)定狀態(tài)將與其初始狀態(tài)有關(guān)。也就是說，Hopfield網(wǎng)絡(luò)是一種能儲(chǔ)存若干個(gè)預(yù)先設(shè)置的穩(wěn)定狀態(tài)的網(wǎng)絡(luò)。若將穩(wěn)態(tài)視為一個(gè)記憶樣本，那么初態(tài)朝穩(wěn)態(tài)的收斂過程便是尋找記憶樣本的過程。初態(tài)可認(rèn)為是給定樣本的部分信息，網(wǎng)絡(luò)改變的過程可認(rèn)為是從部分信息找到全部信息，從而實(shí)現(xiàn)了聯(lián)想記憶的功能。

聯(lián)想記憶（AssociativeMemory13Hopfield網(wǎng)絡(luò)沒有與之相關(guān)的學(xué)習(xí)規(guī)則。它的權(quán)值不被訓(xùn)練，也不會(huì)自己學(xué)習(xí)。它的權(quán)值矩陣是事前計(jì)算出來的。在這種網(wǎng)絡(luò)中，不斷更新的不是權(quán)值，而是網(wǎng)絡(luò)中各神經(jīng)元的狀態(tài)，網(wǎng)絡(luò)演變到穩(wěn)定時(shí)各神經(jīng)元的狀態(tài)便是問題的解。

權(quán)值設(shè)計(jì)的目的：使任意輸入矢量經(jīng)過網(wǎng)絡(luò)循環(huán)最終收斂到網(wǎng)絡(luò)所記憶的某個(gè)樣本上。四、DHNN的聯(lián)想記憶功能與權(quán)值設(shè)計(jì)Hopfield網(wǎng)絡(luò)沒有與之相關(guān)的學(xué)習(xí)規(guī)則。它的權(quán)141.海布(Hebb)學(xué)習(xí)規(guī)則向量形式：當(dāng)時(shí)：m為樣本數(shù)；α為學(xué)習(xí)速率；I為單位對(duì)角矩陣。假設(shè)需要存儲(chǔ)的記憶樣本有四、DHNN的聯(lián)想記憶功能與權(quán)值設(shè)計(jì)1.海布(Hebb)學(xué)習(xí)規(guī)則向量形式：當(dāng)時(shí)：151.海布(Hebb)學(xué)習(xí)規(guī)則（外積和法）采用Hebb規(guī)則設(shè)計(jì)的權(quán)值，可以滿足從而可以保證網(wǎng)絡(luò)在異步工作時(shí)收斂。

若按同步工作時(shí)，網(wǎng)絡(luò)或收斂或出現(xiàn)極限環(huán)。缺點(diǎn)：給定樣本不一定是網(wǎng)絡(luò)的吸引子，需要樣本滿足一定的條件。四、DHNN的聯(lián)想記憶功能與權(quán)值設(shè)計(jì)1.海布(Hebb)學(xué)習(xí)規(guī)則（外積和法）采用Hebb規(guī)則設(shè)16設(shè)樣本維數(shù)為n，樣本個(gè)數(shù)為m，則根據(jù)Hebb規(guī)則設(shè)計(jì)的DHNN，實(shí)現(xiàn)樣本均為吸引子的充分條件（樣本應(yīng)滿足的條件）為：（1）若m個(gè)樣本兩兩正交，則充分條件為（2）若m個(gè)樣本不是兩兩正交，則為四、DHNN的聯(lián)想記憶功能與權(quán)值設(shè)計(jì)設(shè)樣本維數(shù)為n，樣本個(gè)數(shù)為m，則根據(jù)Hebb規(guī)則設(shè)計(jì)的DHN172.正交化的權(quán)值設(shè)計(jì)1)保證系統(tǒng)在異步工作時(shí)的穩(wěn)定性；2)保證所有要求記憶的穩(wěn)定平衡點(diǎn)都能收斂到自己；3)使偽穩(wěn)定點(diǎn)（網(wǎng)絡(luò)最終穩(wěn)定到一個(gè)漸近穩(wěn)定點(diǎn)上，但這個(gè)穩(wěn)定點(diǎn)不是網(wǎng)絡(luò)設(shè)計(jì)所要求的解）的數(shù)目盡可能的少；4)使穩(wěn)定點(diǎn)的吸引域盡可能的大。四、DHNN的聯(lián)想記憶功能與權(quán)值設(shè)計(jì)2.正交化的權(quán)值設(shè)計(jì)1)保證系統(tǒng)在異步工作時(shí)的穩(wěn)定性；四、18設(shè)給定m個(gè)樣本向量x(k)=(k=1,2,…,m)，首先組成如下的n×(m-1)階矩陣對(duì)A進(jìn)行奇異值分解U是n

n正交陣，V是(m-1)×(m-1)正交陣。2.正交化的權(quán)值設(shè)計(jì)設(shè)給定m個(gè)樣本向量x(k)=(k=1,2,…,m)19則u1,u2,…,ur是對(duì)應(yīng)于非零奇異值σ1,σ2,…,σr的左奇異向量，且組成了A的值域空間的正交基；ur+1,…,un

是A的值域的正交補(bǔ)空間的正交基。

按如下方法組成連接權(quán)矩陣W和閾值向量b。U可表示成2.正交化的權(quán)值設(shè)計(jì)則u1,u2,…,ur是對(duì)應(yīng)于非零奇異值σ1,σ2,…202.正交化的權(quán)值設(shè)計(jì)雖然正交化設(shè)計(jì)方法的數(shù)學(xué)設(shè)計(jì)較為復(fù)雜，但與外積和法相比較，所設(shè)計(jì)出的平衡穩(wěn)定點(diǎn)能夠保證收斂到自己并且有較大的穩(wěn)定域。在MATLAB工具箱中已將此設(shè)計(jì)方法寫進(jìn)了函數(shù)。2.正交化的權(quán)值設(shè)計(jì)雖然正交化設(shè)計(jì)方法的數(shù)學(xué)設(shè)計(jì)21五、DHNN的權(quán)值設(shè)計(jì)及網(wǎng)絡(luò)工作過程示例例1采用Hebb規(guī)則，設(shè)計(jì)離散Hopfield網(wǎng)絡(luò)，判斷樣本是否均為吸引子，并考察這兩個(gè)吸引子的吸引能力。

兩個(gè)樣本為五、DHNN的權(quán)值設(shè)計(jì)及網(wǎng)絡(luò)工作過程示例例1采用Hebb22解1）求連接權(quán)矩陣五、DHNN的權(quán)值設(shè)計(jì)及網(wǎng)絡(luò)工作過程示例解1）求連接權(quán)矩陣五、DHNN的權(quán)值設(shè)計(jì)及網(wǎng)絡(luò)工作過程23可見，兩個(gè)樣本均為網(wǎng)絡(luò)的吸引子。不滿足前面給出的充分條件，是否為吸引子需具體加以檢驗(yàn)：2）判斷樣本是否為吸引子兩個(gè)樣本不正交，根據(jù)第二種情況判斷可見，兩個(gè)樣本均為網(wǎng)絡(luò)的吸引子。不滿足前面給出的充分條件，243）考察兩個(gè)吸引子的吸引能力（聯(lián)想記憶的功能)

顯然它比較接近x(1),用異步方式按1,2,3,4的調(diào)整次序來演變網(wǎng)絡(luò)：(1)可見，只需異步方式調(diào)整一步既收斂到x(1)。即3）考察兩個(gè)吸引子的吸引能力（聯(lián)想記憶的功能)

顯然它比較253）考察兩個(gè)吸引子的吸引能力（聯(lián)想記憶的功能)

顯然它比較接近x(2),用異步方式按1,2,3,4的調(diào)整次序來演變網(wǎng)絡(luò)：(2)可見，只需異步方式調(diào)整一步既收斂到x(2)。即3）考察兩個(gè)吸引子的吸引能力（聯(lián)想記憶的功能)

顯然它比較26(3)可見，此時(shí)x(5)收斂到x(2)。即它與x(1)和x(2)的海明距離（兩個(gè)向量不相同元素的個(gè)數(shù)）均為2。若按1,2,3,4的調(diào)整次序調(diào)整網(wǎng)絡(luò)可得即(3)可見，此時(shí)x(5)收斂到x(2)。即它與27若按3,4,1,2的調(diào)整次序調(diào)整網(wǎng)絡(luò)可得即即可見，此時(shí)x(5)收斂到x(1)。若按3,4,1,2的調(diào)整次序調(diào)整網(wǎng)絡(luò)可得即即可見，此時(shí)x(528下面對(duì)該例應(yīng)用同步方式進(jìn)行計(jì)算，仍取x(0)為x(3)，x(4)，

x(5)

三種情況。(1)可見，x(3)收斂到x(1)。下面對(duì)該例應(yīng)用同步方式進(jìn)行計(jì)算，仍取x(0)為x(3)，x29(2)可見，x(4)收斂到x(2)。(2)可見，x(4)收斂到x(2)。30(3)可見，它將在兩個(gè)狀態(tài)間跳躍，產(chǎn)生極限環(huán)為2的自持振蕩。若根據(jù)前面的穩(wěn)定性分析，由于此時(shí)連接權(quán)矩陣W不是非負(fù)定陣，所以出現(xiàn)了振蕩。

因?yàn)榫W(wǎng)絡(luò)有四個(gè)節(jié)點(diǎn)，所以有24=16個(gè)狀態(tài)（閾值取0），其中只有以上兩個(gè)狀態(tài)x(1)和x(2)是穩(wěn)定的，其余狀態(tài)都會(huì)收斂到與之鄰近的穩(wěn)定狀態(tài)上，所以說這種網(wǎng)絡(luò)具有一定的糾錯(cuò)能力。(3)可見，它將在兩個(gè)狀態(tài)間跳躍，產(chǎn)生極限環(huán)為2的31為了能實(shí)現(xiàn)聯(lián)想記憶，對(duì)于每一個(gè)吸引子應(yīng)該有一定的吸引范圍，這個(gè)吸引范圍便稱為吸引域。對(duì)于異步方式，對(duì)同一個(gè)狀態(tài)，若采用不同的調(diào)整次序，有可能弱吸引到不同的吸引子。若存在一個(gè)調(diào)整次序可以從x演變到吸引子x(a)，則稱x弱吸引到x(a)

；若對(duì)于所有的調(diào)整次序，都可以從x演變到吸引子x(a)，則稱x強(qiáng)吸引到x(a)。對(duì)于同步方式，由于無調(diào)整次序問題，所以相應(yīng)的吸引域也無強(qiáng)弱之分。1.吸引域六、若干相關(guān)概念為了能實(shí)現(xiàn)聯(lián)想記憶，對(duì)于每一個(gè)吸引子應(yīng)該有一定的吸引32所謂記憶容量是指：在網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)一定的條件下，要保證聯(lián)想功能的正確實(shí)現(xiàn)，網(wǎng)絡(luò)所能存儲(chǔ)的最大的樣本數(shù)。也就是說，給定網(wǎng)絡(luò)節(jié)點(diǎn)數(shù)n，樣本數(shù)m最大可為多少，這些樣本向量不僅本身應(yīng)為網(wǎng)絡(luò)的吸引子，而且應(yīng)有一定的吸引域，這樣才能實(shí)現(xiàn)聯(lián)想記憶的功能。

2.DHNN的記憶容量（MemoryCapacity）五、若干相關(guān)概念所謂記憶容量是指：在網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)一定的條件下，要保證33五、若干相關(guān)概念3.偽狀態(tài)（SpuriousStates）偽狀態(tài)是指除記憶狀態(tài)之外網(wǎng)絡(luò)多余的穩(wěn)定狀態(tài)。五、若干相關(guān)概念3.偽狀態(tài)（SpuriousStates345.2Hopfield網(wǎng)絡(luò)的Matlab仿真5.2Hopfield網(wǎng)絡(luò)的Matlab仿真35Net=Newhop（T）Matlab工具箱函數(shù)T為目標(biāo)向量，即存儲(chǔ)在網(wǎng)絡(luò)中的目標(biāo)平衡點(diǎn)。1設(shè)計(jì)一個(gè)具有兩個(gè)神經(jīng)元的DHNN2設(shè)計(jì)一個(gè)具有三個(gè)神經(jīng)元的DHNNT=[1-1;-11]T=[11;-11;-1-1]5.2Hopfield網(wǎng)絡(luò)的Matlab仿真Net=Newhop（T）Matlab工具箱函數(shù)T為目標(biāo)向量365.3CHNN與優(yōu)化計(jì)算CHNN主要用于優(yōu)化計(jì)算。若將穩(wěn)態(tài)與某種優(yōu)化計(jì)算的目標(biāo)函數(shù)相對(duì)應(yīng)，并作為目標(biāo)函數(shù)的極小點(diǎn)。那么初態(tài)朝穩(wěn)態(tài)的收斂過程便是優(yōu)化計(jì)算過程。該優(yōu)化計(jì)算是在網(wǎng)絡(luò)演變過程中自動(dòng)完成的。5.3CHNN與優(yōu)化計(jì)算CHNN主要用于優(yōu)化計(jì)算。37一、CHNN網(wǎng)絡(luò)結(jié)構(gòu)一、CHNN網(wǎng)絡(luò)結(jié)構(gòu)38一、CHNN網(wǎng)絡(luò)結(jié)構(gòu)這里，假定wij=wji，它與離散的Hopfield網(wǎng)絡(luò)相比，這里多了中間一個(gè)式子，該式是一階微分方程，相當(dāng)于一階慣性環(huán)節(jié)，si是該環(huán)節(jié)的輸入，yi是該環(huán)節(jié)的輸出。神經(jīng)元模型為一、CHNN網(wǎng)絡(luò)結(jié)構(gòu)這里，假定wij=wji，它與離散39f(·)函數(shù)一般取S形函數(shù)

它們都是連續(xù)的單調(diào)上升的函數(shù)。f(·)函數(shù)一般取S形函數(shù)

40連續(xù)Hopfield網(wǎng)絡(luò)的電路模型Hopfield利用模擬電路設(shè)計(jì)了一個(gè)連續(xù)Hopfield網(wǎng)絡(luò)的電路模型。下圖表示了其中由運(yùn)算放大器電路實(shí)現(xiàn)的一個(gè)節(jié)點(diǎn)的模型。連續(xù)Hopfield網(wǎng)絡(luò)的電路模型Hopfield利用模擬電41其中經(jīng)整理得可以列出如下的電路方程：若令其中經(jīng)整理得可以列出如下的電路方程：若令42可以看出，連續(xù)Hopfield網(wǎng)絡(luò)實(shí)質(zhì)上是一個(gè)連續(xù)的非線性動(dòng)力學(xué)系統(tǒng)，它可用一組非線性微分方程來描述。當(dāng)給定初始狀態(tài)，通過求解非線性微分方程組可求的網(wǎng)絡(luò)狀態(tài)的運(yùn)動(dòng)軌跡。若系統(tǒng)是穩(wěn)定的，則它可最終可收斂到一個(gè)穩(wěn)定狀態(tài)。則上式化為式中f(.)常用Sigmoid函數(shù)：可以看出，連續(xù)Hopfield網(wǎng)絡(luò)實(shí)質(zhì)上是一個(gè)連續(xù)的非線性動(dòng)43若用圖示的硬件來實(shí)現(xiàn)，則這個(gè)求解非線性微分方程的過程將由該電路自動(dòng)完成，其求解速度是非常快的。

用運(yùn)算放大器構(gòu)造的連續(xù)型Hopfield網(wǎng)絡(luò)若用圖示的硬件來實(shí)現(xiàn)，則這個(gè)求解非線性微分方程的過程44二、穩(wěn)定性分析定義連續(xù)Hopfield網(wǎng)絡(luò)能量函數(shù)為由于或，因此上述定義的能量函數(shù)E是有界的，因此只需證得，即可說明系統(tǒng)是穩(wěn)定的。二、穩(wěn)定性分析定義連續(xù)Hopfield網(wǎng)絡(luò)能量函數(shù)為由于45當(dāng)當(dāng)46前面已假設(shè)是單調(diào)上升函數(shù)，顯然它的反函數(shù)為單調(diào)上升函數(shù)，即有根據(jù)李雅普諾夫穩(wěn)定性理論，該網(wǎng)絡(luò)一定是漸近穩(wěn)定的。即隨著時(shí)間的演變，網(wǎng)絡(luò)狀態(tài)總是朝E減小的方向運(yùn)動(dòng)，一直到E取得極小值，這時(shí)所有的xi變?yōu)槌?shù)，也即網(wǎng)絡(luò)收斂到穩(wěn)定狀態(tài)。因而有（所有xi均為常數(shù)時(shí)才取等號(hào)）前面已假設(shè)是單調(diào)上升函數(shù)，顯然它47穩(wěn)定性定理對(duì)于連續(xù)Hopfield網(wǎng)絡(luò)，若網(wǎng)絡(luò)對(duì)稱（wij=wji），且神經(jīng)元功能函數(shù)為連續(xù)單調(diào)遞增函數(shù)，則有且上式等號(hào)成立的充要條件為穩(wěn)定性定理對(duì)于連續(xù)Hopfield網(wǎng)絡(luò)，若網(wǎng)絡(luò)對(duì)稱（wij=48在應(yīng)用連續(xù)型Hopfield網(wǎng)絡(luò)解決實(shí)際問題時(shí)，如果能將某個(gè)待研究解決的問題，化為一個(gè)計(jì)算能量函數(shù)，且使這個(gè)能量函數(shù)的最小值正好對(duì)應(yīng)于一定約束條件下問題的解答時(shí)，則此問題就可以用連續(xù)型Hopfield網(wǎng)絡(luò)來求解了。如何設(shè)計(jì)連接權(quán)系數(shù)及其它參數(shù)需根據(jù)具體問題來加以確定。下面以連續(xù)型Hopfleld神經(jīng)網(wǎng)絡(luò)應(yīng)用于TSP(TravellingSalesmanProblem)為例加以說明。TSP問題是人工智能中的一個(gè)難題。三、CHNN用于優(yōu)化計(jì)算在應(yīng)用連續(xù)型Hopfield網(wǎng)絡(luò)解決實(shí)際問題時(shí)，如果49推銷員要到n個(gè)城市去推銷產(chǎn)品，要求推銷員每個(gè)城市都要去到，且只能去一次，如何規(guī)劃路線才能使所走的路程最短。利用連續(xù)Hopfield網(wǎng)絡(luò)來進(jìn)行優(yōu)化計(jì)算。解這是一個(gè)典型的組合優(yōu)化問題。下面要解決的問題是如何恰當(dāng)?shù)孛枋鲈搯栴}，使其適合于用Hopfield網(wǎng)絡(luò)來求解。正是由于Hopfeld成功地求解了TSP問題，才使得人們對(duì)神經(jīng)網(wǎng)絡(luò)再次引起了廣泛的興趣。CHNN應(yīng)用于TSP問題推銷員要到n個(gè)城市去推銷產(chǎn)品，要求推銷員每個(gè)城市都50對(duì)于n個(gè)城市的TSP問題，可以使用n2個(gè)神經(jīng)元，用神經(jīng)元的狀態(tài)表示某一城市在某條路徑中被訪問的順序。第αi個(gè)神經(jīng)元的狀態(tài)用xαi表示，其中，表示α城市名稱，i表示訪問順序。xαi=1表示城市α在該路徑中第i個(gè)被訪問，xαi=0表示城市α在該路徑中第i個(gè)沒有被訪問。對(duì)于n個(gè)城市的TSP問題，可以使用n2個(gè)神經(jīng)元，用神經(jīng)元的狀51這里取較大的λ，以使S形函數(shù)比較陡峭，從而穩(wěn)態(tài)時(shí)能夠趨于1或趨于0。A、B、C、D、E表示城市名稱；l、2、3、4、5表示路徑順序。神經(jīng)元采用如下的S形變換函數(shù)這里以n=5的TSP問題為例。這里取較大的λ，以使S形函數(shù)比較陡峭，從而穩(wěn)態(tài)時(shí)能夠趨52

12345A01000B00010C10000D00001E00100訪問順序訪問城市5城市TSP問題的一條有效路徑的關(guān)聯(lián)矩陣其相應(yīng)的路徑順序?yàn)椋核呗窂降目傞L(zhǎng)度