神經網(wǎng)絡控制(Boltzmann機)

1、神經網(wǎng)絡控制神經網(wǎng)絡控制劉慧文劉慧文2016年年4月月智能控制理論與技術智能控制理論與技術3.3.3 Boltzmann3.3.3 Boltzmann機機 Boltzmann機是一種機是一種隨機隨機神經網(wǎng)絡，也是一種神經網(wǎng)絡，也是一種反饋型反饋型神神經網(wǎng)絡。它在很多方面類似于經網(wǎng)絡。它在很多方面類似于離散離散Hopfield網(wǎng)絡。網(wǎng)絡。Boltzman機應用機應用模式分類模式分類預測預測組合優(yōu)化與規(guī)劃組合優(yōu)化與規(guī)劃1 1網(wǎng)絡的結構和工作方式網(wǎng)絡的結構和工作方式Boltzmann機特點：機特點：3）功能上，）功能上，Boltzmann可以看成是多層網(wǎng)絡，其中一部可以看成是多層網(wǎng)絡，其中一部分結點

2、是輸入結點，一部分是輸出結點，還有一部分是隱分結點是輸入結點，一部分是輸出結點，還有一部分是隱結點。隱結點不與外界發(fā)生聯(lián)系，它主要用來實現(xiàn)輸入與結點。隱結點不與外界發(fā)生聯(lián)系，它主要用來實現(xiàn)輸入與輸出之間的高階聯(lián)系。輸出之間的高階聯(lián)系。1）結構上，）結構上，Boltzmann機是單層的反饋網(wǎng)絡機是單層的反饋網(wǎng)絡2）形式上，與離散）形式上，與離散Hopfield網(wǎng)一樣，具有對稱的連接權網(wǎng)一樣，具有對稱的連接權系數(shù)，即系數(shù)，即Wij=Wji，且且Wii0。取值以取值以iiiTsinjijijippkxekpkxwksi1 0 1) 1(11)()()(/1Boltzmann機每個神經元的工作方式機每

3、個神經元的工作方式T為為“溫度溫度”Boltzmann機的能量函數(shù)為機的能量函數(shù)為TTninjniiijiijxWxxxxxwE2121111Boltzmann機也有機也有同步同步和和異步異步工作方式工作方式 考慮異步工作方式，考慮異步工作方式，k時刻第時刻第i個神經元調整狀態(tài)個神經元調整狀態(tài), 根據(jù)根據(jù)Hopfield網(wǎng)絡有網(wǎng)絡有iinjijijiisxxwxE)(1這時，這時，的概率為的概率為1) 1(kxiTsiiekp/11)(1) 若若 (a) 若若 1)(kxi0)(kxi(b) 若若 0)(kxi0)(kE綜上所述綜上所述0)(kE0is2/1ip則較大概率則較大概率 1) 1(

4、kxi1)(kxi0)(kE2) 若若 0is2/1ip則較大概率則較大概率 2/11ip0) 1(kxi(a) 若若 0)(kxi0)(kxi(b) 若若 1)(kxi0)(kE1)(kxi0)(kEiinjijijiisxxwxE)(1Tsiiekp/11)( 不管以上何種情況，隨著系統(tǒng)狀態(tài)的演變，不管以上何種情況，隨著系統(tǒng)狀態(tài)的演變，從概率的意義上從概率的意義上，系統(tǒng)的能量總是朝小的方向變化，所以系統(tǒng)最后總能穩(wěn)定到能量系統(tǒng)的能量總是朝小的方向變化，所以系統(tǒng)最后總能穩(wěn)定到能量的極小點附近。由于這是隨機網(wǎng)絡，在能量極小點附近，系統(tǒng)也的極小點附近。由于這是隨機網(wǎng)絡，在能量極小點附近，系統(tǒng)也不會

5、停止在某一個固定的狀態(tài)。不會停止在某一個固定的狀態(tài)。 1) 由于神經元狀態(tài)按概率取值，因此以上分析只是從概率意由于神經元狀態(tài)按概率取值，因此以上分析只是從概率意義上說網(wǎng)絡的能量總的趨勢是朝著減小的方向演化但在有些步義上說網(wǎng)絡的能量總的趨勢是朝著減小的方向演化但在有些步神經元狀態(tài)可能按小概率取值，從而使能量增加，在有些情況下神經元狀態(tài)可能按小概率取值，從而使能量增加，在有些情況下這對跳出局部極值是有好處的。這也是這對跳出局部極值是有好處的。這也是Boltzmann機與機與Hopfield網(wǎng)另一個不同之處。網(wǎng)另一個不同之處。 2) 為了有效地演化到網(wǎng)絡能量函數(shù)的全局極小點，通常采用為了有效地演化到

6、網(wǎng)絡能量函數(shù)的全局極小點，通常采用模擬退火的方法。即開始采用較高的溫度模擬退火的方法。即開始采用較高的溫度T，此時各狀態(tài)出現(xiàn)概率，此時各狀態(tài)出現(xiàn)概率的差異不大，的差異不大，比較容易跳出局部極小點進入到全局極小點附近比較容易跳出局部極小點進入到全局極小點附近，然，然后再逐漸減小溫度后再逐漸減小溫度T，各狀態(tài)出現(xiàn)概率的差別逐漸拉大，從而一方，各狀態(tài)出現(xiàn)概率的差別逐漸拉大，從而一方面可較準確地運動到能量的極小點，同時阻止它跳出該最小點。面可較準確地運動到能量的極小點，同時阻止它跳出該最小點。兩點說明：兩點說明： 根據(jù)前面的結果，當根據(jù)前面的結果，當xi由由1變?yōu)樽優(yōu)?時，時，xi(k)=-1 ，則，

7、則iijnjijkxkxisxwEEEii11)(0)1(| 設設xi (k+1)1(其它狀態(tài)不變其它狀態(tài)不變)的概率為的概率為p1，相應的能量函數(shù)，相應的能量函數(shù)為為E1， xi (k+1)0(其它狀態(tài)不變其它狀態(tài)不變)的概率為的概率為p0 ，相應的能量函，相應的能量函數(shù)為數(shù)為E0 ，則，則TETETETsiiiieeppeep/10/1111111有有TETETEETEeeeeppi/ )(/101010推廣之，容易得到，對于網(wǎng)絡中任意兩個狀態(tài)和出現(xiàn)的概率與它們的能量E和E之間也滿足TETETEEeeepp/ )(這正好是Boltzmann分布, 也就是該網(wǎng)絡稱為Boltzmann機的來由

8、。兩點結論：兩點結論： 1）Boltzmann機處于某一狀態(tài)的概率主要取決于在此狀機處于某一狀態(tài)的概率主要取決于在此狀態(tài)下的能量，能量越低，概率越大；態(tài)下的能量，能量越低，概率越大；2）此概率還取決于溫度參數(shù)）此概率還取決于溫度參數(shù)T，T越大，不同狀態(tài)出現(xiàn)概率越大，不同狀態(tài)出現(xiàn)概率的差異就越小，較容易跳出能量的局部極小點而到達全局的的差異就越小，較容易跳出能量的局部極小點而到達全局的極小點。極小點。T越小時情形正相反。這也就是采用模擬退火方法越小時情形正相反。這也就是采用模擬退火方法尋求全局最優(yōu)的原因所在。尋求全局最優(yōu)的原因所在。2 2網(wǎng)絡的學習和訓練網(wǎng)絡的學習和訓練Boltzman機和Hopfield網(wǎng)絡的異同 有相同的能量函數(shù)；有相同的能量函數(shù)；1）相似之處）相似之處2）不同之處）不同之處 類似結構，均為單層反饋網(wǎng)絡；類似結構，均為單層反饋網(wǎng)絡； 離散離散Hopfield網(wǎng)絡是網(wǎng)絡是Boltzmann機的特例；機的特例； 都包括學習訓練（設計）和工作兩個階段。都包括學習訓練（設計）和工作兩個階段。 Hop