學習向量量化神經網絡模型與學習算法

學習向量量化神經網絡模型與學習算法第一頁，共十五頁，編輯于2023年，星期二2.7.1LVQ神經網絡結構學習向量量化LVQ(LearningVectorQuantization)神經網絡，屬于前向有監(jiān)督神經網絡類型，在模式識別和優(yōu)化領域有著廣泛的的應用由芬蘭學者TeuvoKohonen提出LVQ神經網絡由輸入層、隱含層和輸出層三層組成，輸入層與隱含層間為完全連接，每個輸出層神經元與隱含層神經元的不同組相連接。隱含層和輸出層神經元之間的連接權值固定為１。在網絡訓練過程中，輸入層和隱含層神經元間的權值被修改。當某個輸入模式被送至網絡時，最接近輸入模式的隱含神經元因獲得激發(fā)而贏得競爭，因而允許它產生一個＂１＂，而其他隱含層神經元都被迫產生＂０＂。與包含獲勝神經元的隱含層神經元組相連接的輸出神經元也發(fā)出＂１＂，而其他輸出神經元均發(fā)出＂０＂。第二頁，共十五頁，編輯于2023年，星期二2.7.1LVQ神經網絡結構第三頁，共十五頁，編輯于2023年，星期二LVQ1算法具體步驟如下：（1）網絡初始化用較小的隨機數設定輸人層和隱含層之間的權值初始值。（2）輸入向量的輸入將輸人向量送入到輸入層。（3）計算隱含層權值向量與輸入向量的距離隱含層神經元和輸入向量的距離，與自組織化映射的情況相同，由下式給出：2.7.2LVQ神經網絡的學習算法

第四頁，共十五頁，編輯于2023年，星期二2.7.2LVQ神經網絡的學習算法

（4）選擇與權值向量的距離最小的神經元計算并選擇輸入向量和權值向量的距離最小的神經元，并把其稱為勝出神經元，記為。（5）更新連接權值如果勝出神經元和預先指定的分類一致，稱為正確分類，否則稱為不正確分類。正確分類和不正確分類時權值的調整量分別使用公式2-3、2-4：（6）判斷是否滿足預先設定的最大迭代次數，滿足時算法結束，否則返回2，進入下一輪學習。（2-4）

（2-3）

第五頁，共十五頁，編輯于2023年，星期二2.7.2LVQ神經網絡的學習算法LVQ2算法（1）~（4）與LVQl算法相同(5)更新連接權值如果勝出神經元1屬于正確分類時，則權值更新與LVQ1的情況相同，根據式（2-3）進行權值的更新。當勝出神經元1屬于不正確分類時，則另選取一個神經元2，它的權值向量和輸入向量的距離僅比勝出神經元1大一點，且滿足以下條件時時：1）神經元2屬于正確分類；2）神經元2、勝出神經元1與輸入向量之間的距離的差值很小。則勝出神經元1的權值改變量按公式2-3計算，而神經元2的權值改變量則按公式（2-3）進行計算。（6）判斷算法是否結束如果迭代次數大于預先設定的次數，算法結束，否則返回第（2）步，進入下一輪學習第六頁，共十五頁，編輯于2023年，星期二2.7.3LVQ神經網絡學習算法的MATLAB實現

MATLAB中與LVQ相關的重要函數和功能

函數名功能newlvq()建立一個LVQ神經網絡函數learnlv1()LVQ1權值學習函數vec2ind()將單值矢量組變換成下標矢量plotvec()用不同的顏色畫矢量函數第七頁，共十五頁，編輯于2023年，星期二2.7.3LVQ神經網絡學習算法的MATLAB實現newlvq()功能建立一個向量量化神經網絡函數格式(1)net=newlvq(2)net=newlvq(PR，S1，PC，LR，LF)說明式(1)返回一個沒有定義結構的空對象，并顯示函數nntool的幫助文字；式(2)中，net為生成的學習向量量化網絡；PR為一個Rx2維的網絡輸入向量取值范圍的矩陣[PminPmax]；Sl表示隱含層神經元的數目；PC表示在第二層的權值中列所屬類別的百分比；LR表示學習速率，默認值為0.01；Lf表示學習函數，默認值為learnlv1。第八頁，共十五頁，編輯于2023年，星期二2.7.3LVQ神經網絡學習算法的MATLAB實現ind2vec()功能將下標矢量變換成單值矢量組函數格式vec=ind2vec(ind)說明ind為包含n個下標的行向量x；vec為m行n列的向量組矩陣，矩陣中的每個向量i，除了由x中的第i個元素指定的位置為l外，其余元素均為0，矩陣的行數m等于x中最大的下標值。C=[1112222111]

(1,1)1(1,2)1(1,3)1(2,4)1(2,5)1(2,6)1(2,7)1(1,8)1(1,9)1(1,10)111100001110001111000第九頁，共十五頁，編輯于2023年，星期二2.7.3LVQ神經網絡學習算法的MATLAB實現learnlv1()功能LVQ1權值學習函數格式[dW，LS]=learnlv1(W，P，Z，N，A，T，E，gW，gA，D，LP，LS)說明dW為S*R權值（或閾值）變化矩陣；LS為當前學習狀態(tài)(可省略)；W為S*R的權值矩陣或者為S*1的閾值矢量；P為R*Q的輸入矢量或者為1*Q的全為1的矢量；Z為S*Q的輸入層的權值矢量(可省略)；N為S*Q的網絡輸入矢量(可省略)；A為S*Q的輸出矢量；T為S*Q的目標輸出矢量(可省略)；E為S*Q誤差矢量(可省略)；gW為S*R的與性能相關的權重梯度矩陣(可省略)；gA為S*Q的與性能相關的輸出梯度值矩陣(可省略)；D為S*S的神經元距離矩陣(可省略)；LP為學習參數，該函數的學習參數由LP.lr構成，缺省值為0.01；LS為學習函數聲明(可省略)。第十頁，共十五頁，編輯于2023年，星期二2.7.3LVQ神經網絡學習算法的MATLAB實現plotvec()功能用不同顏色繪制矢量的函數格式plotvec(X，C，M)說明X為一個列矢量矩陣；C為標記顏色坐標的行矢量；M為指定繪圖時矢量的標記符號，缺省值為‘+’

第十一頁，共十五頁，編輯于2023年，星期二2.7.3LVQ神經網絡學習算法的MATLAB實現例2-6針對一組輸入向量，設計一個LVQ神經網絡，經過訓練后，能對給定數據進行模式識別。

第十二頁，共十五頁，編輯于2023年，星期二例2-6運行結果測試數據分類結果第十三頁，共十五頁，編輯于2023年，星期二2.7.3LVQ神經網絡學習算法的MATLAB實現