SOM自組織映射學(xué)習(xí)匯報(bào)

九逸作品匯報(bào)人：我學(xué)到了什么我下一步要做什么自組織神經(jīng)網(wǎng)絡(luò)SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching自組織神經(jīng)網(wǎng)絡(luò)自組織神經(jīng)網(wǎng)絡(luò)是一類無教師學(xué)習(xí)方式的神經(jīng)網(wǎng)絡(luò)模型，它無需期望輸出，知識(shí)根據(jù)數(shù)據(jù)樣本進(jìn)行學(xué)習(xí)，并調(diào)整自身權(quán)重以達(dá)到學(xué)習(xí)的目的。自組織神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則大都采用競(jìng)爭(zhēng)型的學(xué)習(xí)規(guī)則。

競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)的基本思想是網(wǎng)絡(luò)競(jìng)爭(zhēng)層的各神經(jīng)元通過競(jìng)爭(zhēng)來獲取對(duì)輸入模式的響應(yīng)機(jī)會(huì)。競(jìng)爭(zhēng)結(jié)果會(huì)存在獲勝神經(jīng)元，獲勝神經(jīng)元有關(guān)的各連接權(quán)值向著更有利于其競(jìng)爭(zhēng)的方向發(fā)展。競(jìng)爭(zhēng)層輸入層Wj權(quán)值不同的輸入歸結(jié)到1個(gè)神經(jīng)元上，幾個(gè)輸入就是一類，實(shí)現(xiàn)了分類。競(jìng)爭(zhēng)學(xué)習(xí)：

網(wǎng)絡(luò)的輸出神經(jīng)元之間相互競(jìng)爭(zhēng)以求被激活，結(jié)果在每一時(shí)刻只有一個(gè)輸出神經(jīng)元被激活。這個(gè)被激活的神經(jīng)元稱為競(jìng)爭(zhēng)獲勝神經(jīng)元，而其它神經(jīng)元的狀態(tài)被抑制，稱為WTA（Winner-Take-All）。學(xué)習(xí)規(guī)則：1.向量歸一化。首先將當(dāng)前輸入模式向量X和競(jìng)爭(zhēng)層中各神經(jīng)元對(duì)應(yīng)的向量Wj全部進(jìn)行歸一化處理。2.尋找獲勝神經(jīng)元。當(dāng)網(wǎng)絡(luò)得到一個(gè)輸入模式向量時(shí)，競(jìng)爭(zhēng)層的所有神經(jīng)元對(duì)應(yīng)的權(quán)向量均與其進(jìn)行相似性比較，并將最相似的內(nèi)權(quán)向量判為競(jìng)爭(zhēng)獲勝神經(jīng)元。3.網(wǎng)絡(luò)輸出與權(quán)值調(diào)整。4.重新向量歸一化。用競(jìng)爭(zhēng)學(xué)習(xí)算法將下列各模式分為2類：

輸入向量為：學(xué)習(xí)率為a=0.5

向量歸一化設(shè)置兩個(gè)權(quán)向量競(jìng)爭(zhēng)學(xué)習(xí)X1學(xué)習(xí)d1=||X1-W1(0)||=1∠36.89°,d2=||X1-W2(0)||=1∠216.89°d1<d2,所以神經(jīng)元1獲勝，W1調(diào)整W1(1)=W1(0)+a(X1-W1(0))=1∠18.43°W2(1)=W2(0)=1∠-180°X2學(xué)習(xí)d1=||X2-W1(1)||=1∠98.43°,d2=||X2-W2(1)||=1∠100°d1<d2,所以神經(jīng)元1獲勝，W1調(diào)整W1(2)=W1(1)+a(X2-W1(1))=1∠-30.8°W2(2)=W2(1)=1∠-180°d1=1∠104°d2=1∠100°我學(xué)到了什什么我下一步要要做什么自組織神經(jīng)經(jīng)網(wǎng)絡(luò)SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearchingSOMSOM，Self-OrganizingFeatureMaps,自組織神經(jīng)經(jīng)網(wǎng)絡(luò)，是一種種無導(dǎo)師學(xué)學(xué)習(xí)的網(wǎng)絡(luò)絡(luò)，主要用用來對(duì)于輸輸入向量進(jìn)進(jìn)行區(qū)域分類類。SOM的算法思想想：某個(gè)輸出節(jié)節(jié)點(diǎn)能對(duì)某某一類模式式做出特別別的反應(yīng)以以代表該模式類。。輸出層上相相鄰的節(jié)點(diǎn)點(diǎn)能對(duì)實(shí)際際模式分布布中相近的的模式類做出特別別的反應(yīng)。。當(dāng)某類數(shù)據(jù)據(jù)模式輸入入時(shí)，對(duì)某某以輸出節(jié)節(jié)點(diǎn)產(chǎn)生最最大刺激（獲勝神神經(jīng)元），，同時(shí)對(duì)獲獲勝神經(jīng)元元節(jié)點(diǎn)周圍圍的一些節(jié)節(jié)點(diǎn)產(chǎn)生較大大的刺激。。SOM網(wǎng)絡(luò)中中有兩兩種鏈鏈接權(quán)權(quán)值，，一種種是神神經(jīng)元元對(duì)外外部輸輸入反反應(yīng)的連連接權(quán)權(quán)值，，另外外一種種是神神經(jīng)元元之間間的特特征權(quán)權(quán)值。。它的的大小控控制著著神經(jīng)經(jīng)元之之間交交互作作用的的強(qiáng)弱弱。SOM拓?fù)浣Y(jié)結(jié)構(gòu)圖圖SOM算法是是一種種無導(dǎo)導(dǎo)師的的聚類類法，，他能能將任任意維維輸入入模在輸出出層映映射成成一維維或者者二維維離散散圖形形，并并保持持其拖拖布結(jié)結(jié)構(gòu)不變，，即在在無導(dǎo)導(dǎo)師的的情況況下，，通過過對(duì)輸輸入模模式的的自組組織學(xué)學(xué)習(xí)，，在競(jìng)爭(zhēng)爭(zhēng)層將將分類類結(jié)果果表示示出來來。此此外，，網(wǎng)絡(luò)絡(luò)通過過對(duì)輸輸入模模式的反復(fù)復(fù)學(xué)習(xí)習(xí)，可可以使使連接接權(quán)值值空間間分布布密度度與輸輸入模模式的的概率分布布趨于于一致致，即即鏈接接權(quán)向向量空空間分分布能能反應(yīng)應(yīng)輸入入模式式的統(tǒng)計(jì)特特征。。SOM算法是是一個(gè)個(gè)競(jìng)爭(zhēng)爭(zhēng)-合作的的過程程。1.競(jìng)爭(zhēng)。。對(duì)于于輸入入模式式，網(wǎng)網(wǎng)絡(luò)中中的神神經(jīng)元元計(jì)算算他們們各自自判別函函數(shù)的的值。。這個(gè)個(gè)判別別函數(shù)數(shù)對(duì)神神經(jīng)元元之間間的競(jìng)競(jìng)爭(zhēng)提提供基基礎(chǔ)，，具有判判別函函數(shù)最最優(yōu)值值（在在歐式式距離離中是是最小小值））的特特定神神經(jīng)元成為為競(jìng)爭(zhēng)爭(zhēng)的勝勝利者者。2.合作。。獲勝勝神經(jīng)經(jīng)元的的的相相鄰神神經(jīng)元元的是是合作作的基基礎(chǔ)。。神經(jīng)元元決定定興奮奮神經(jīng)經(jīng)元的的拓?fù)鋼溧徲蛴虻目湛臻g位位置，，從而而提供供這樣的相相鄰神神經(jīng)元元的合合作的的基礎(chǔ)礎(chǔ)。3.突出調(diào)調(diào)節(jié)。。最后后的這這個(gè)機(jī)機(jī)制使使神經(jīng)經(jīng)元通通過對(duì)對(duì)他們們突觸觸權(quán)值的的調(diào)節(jié)節(jié)以增增加他他們的的關(guān)于于該輸輸入模模式的的判別別的函函數(shù)值值。所做的的調(diào)節(jié)節(jié)使獲獲勝神神經(jīng)元元對(duì)以以后相相似輸輸入模模式的的響應(yīng)應(yīng)增強(qiáng)強(qiáng)了。。SOM算法法步步驟驟Step.1網(wǎng)絡(luò)絡(luò)初初始始化化用隨隨機(jī)機(jī)數(shù)數(shù)設(shè)設(shè)定定輸輸入入層層和和映映射射層層之之間間權(quán)權(quán)值值的的初初始始值值：：Wij。設(shè)設(shè)定定學(xué)學(xué)習(xí)習(xí)次次數(shù)數(shù)T，相相關(guān)關(guān)鄰鄰域域Ni(d)。WijX1X2………XijStep.2輸入入向向量量把輸輸入入向向量量輸輸入入給給輸輸入入層層：：Xi。SOM算法步驟驟Step.3計(jì)算映射射層的權(quán)權(quán)值向量量和輸入入向量的的距離。。由歐式距離離給出：WijX1X2……XijSOM算法步驟Step.4選擇與權(quán)值值向量的距距離最小的的神經(jīng)元。。計(jì)算并選擇擇使輸入向向量和權(quán)值值向量距離離最小的神神經(jīng)元，把把其稱為勝勝出神經(jīng)元元，標(biāo)記為為j*，并給出出鄰接神經(jīng)經(jīng)元集合。。WijX1X2……XijSOM算法在修正正神經(jīng)元的的時(shí)候，同同時(shí)要修正正獲勝神經(jīng)經(jīng)元的附近區(qū)域域Ni(d)內(nèi)所有的神神經(jīng)元。Ni(d)={j,dij<=d}12543671098111215141316172019182122252423N13(1)={8，12，13，14，18}N13(2)={3，7，8，9，11，12，13，14，15，17，18，19，23}SOM算法步驟Step.5調(diào)整權(quán)值勝出神經(jīng)元元和位于其其鄰接的神神經(jīng)元的權(quán)權(quán)值通過下下式調(diào)整。。Wij(t+1)=Wij(t)+a(t)h(j,j*)(Xi-Wij)其中，a(t)為學(xué)習(xí)率，，隨著t的增大而減減小。h（j,j*）為鄰域函函數(shù)，隨著著學(xué)習(xí)程度度逐漸減小小。Step.6若t<=T，則停止學(xué)學(xué)習(xí)，否則則繼續(xù)執(zhí)行行Step.2。解釋：可以以用兩種方方式來解釋釋SOM算法。首先，因?yàn)闉樵谟?xùn)練階階段，整個(gè)個(gè)鄰域的權(quán)權(quán)值向著相相同的方向向靠近，所所以類似的的項(xiàng)目趨向向于刺激鄰鄰近的神經(jīng)經(jīng)元。因此此，SOM形成了一個(gè)個(gè)使相同樣樣本靠近，，不同樣本本分離的語語義映射。。這樣，SOM便實(shí)現(xiàn)了分分類的過程程。其次，可以以考慮神經(jīng)經(jīng)元的權(quán)值值作為輸入入空間的指指針，形成成了一個(gè)訓(xùn)訓(xùn)練樣本分分布的離散散近似值。。更多的神神經(jīng)元指向向了高度訓(xùn)訓(xùn)練的樣本本集中的區(qū)區(qū)域。性質(zhì)：輸入入空間的近近似對(duì)于V空間中的向向量v，首先根據(jù)據(jù)特征映射射Φ確定在輸出出空間A中最佳的匹匹配單元S，S的權(quán)重向量量Ws可視為S投影到輸入入空間的坐坐標(biāo)。通過過不斷調(diào)整整權(quán)重矩陣陣，是輸出出空間A近似的表示示輸入空間間V。SOM實(shí)質(zhì)上是從從任意維離離散或者連連續(xù)空間V到一維或者者二維離散散空間A的一種保序序映射。SOM功能分析1.保序映映射：：將輸輸入空空間的的樣本本模式式類有有序地地映射射在輸出出層上上。2.數(shù)據(jù)壓壓縮：：將高高維空空間的的樣本本在保保持拓拓?fù)浣Y(jié)結(jié)構(gòu)不不變的的條件件下投投影到到低維維空間間。在在SOM中，無無論輸輸入空空間樣樣本有有多少少維，，都可可以在在SOFM輸出層層的某某個(gè)區(qū)區(qū)域得得到響響應(yīng)。。3.特征抽抽?。海焊呔S維空間間的向向量經(jīng)經(jīng)過特特征抽抽取后后可以以在低低維特特征空空間更更加清清晰地地表達(dá)達(dá)。我學(xué)到到了什什么我下一一步要要做什什么自組織織神經(jīng)經(jīng)網(wǎng)絡(luò)絡(luò)SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearchingAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching論文是是對(duì)于于原來來的NeuralArchitectureforGazeMovementControlinTargetSearching的改進(jìn)進(jìn)。論文在在第三三層和和第四四層之之間增增加了了一個(gè)個(gè)新的的MovementCodingNeuron,以便更更好地地實(shí)現(xiàn)現(xiàn)gazemotionestimationandcontrol。原來結(jié)結(jié)構(gòu)的的缺點(diǎn)點(diǎn)是，，第三三層所所有的的大反反應(yīng)神神經(jīng)元元向第第四層層中運(yùn)運(yùn)動(dòng)控控制神神經(jīng)元元傳輸輸了權(quán)權(quán)值響響應(yīng)，，從而而參與與了凝凝視運(yùn)運(yùn)動(dòng)的的合成成。。然而而，這這些大大反應(yīng)應(yīng)神經(jīng)經(jīng)元可可能產(chǎn)產(chǎn)生不不同的的運(yùn)動(dòng)動(dòng)估計(jì)計(jì)量的的分組組。談?wù)劶胺址纸M鏈鏈接權(quán)權(quán)值時(shí)時(shí)，要要對(duì)這這些神神經(jīng)元元的運(yùn)運(yùn)動(dòng)估估計(jì)進(jìn)進(jìn)行分分辨及及分類類，有有必要要在第第四層層把這這些神神經(jīng)元元對(duì)應(yīng)應(yīng)著運(yùn)運(yùn)動(dòng)控控制神神經(jīng)元元組織織起來來。我學(xué)到到了什什么我下一一步要要做什什么自組織織神經(jīng)經(jīng)網(wǎng)絡(luò)絡(luò)SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching1.對(duì)于AnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching詳細(xì)解解讀。。2.對(duì)于Self-OrganizingNeuralPopulationCodingforImprovingRoboticVisuomotorCoordination的理解學(xué)學(xué)習(xí)。3.對(duì)于SOM算法的實(shí)實(shí)現(xiàn)。Thanksforyourattention!9、靜夜四無鄰鄰，荒居舊業(yè)業(yè)貧。。1月-231月-23Wednesday,January4,202310、雨中中黃葉葉樹，，燈下下白頭頭人。。。23:03:0723:03:0723:031/4/202311:03:07PM11、以我獨(dú)沈沈久，愧君君相見頻。。。1月-2323:03:0723:03Jan-2304-Jan-2312、故人江江海別，，幾度隔隔山川。。。23:03:0723:03:0723:03Wednesday,January4,202313、乍見見翻疑疑夢(mèng)，，相悲悲各問問年。。。1月-231月-2323:03:0723:03:07January4,202314、他他鄉(xiāng)鄉(xiāng)生生白白發(fā)發(fā)，，舊舊國國見見青青山山。。。。04一一月月202311:03:07下下午午23:03:071月月-2315、比不了了得就不不比，得得不到的的就不要要。。。。一月2311:03下下午1月-2323:03January4,202316、行動(dòng)動(dòng)出成成果，，工作作出財(cái)財(cái)富。。。2023/1/423:03:0723:03:0704January202317、做前，能能夠環(huán)視四四周；做時(shí)時(shí)，你只能能或者最好好沿著以腳腳為起點(diǎn)的的射線向前前。。11:03:07下下午11:03下午23:03:071月-239、沒沒有有失失敗敗，，只只有有暫暫時(shí)時(shí)停停止止成成功功?。?。。1月月-231月月-23Wednesday,January4,202310、很很多多事事情情努努力力了了未未必必有有結(jié)結(jié)果果，，但但是是不不努努力力卻卻什什么么改改變變也也沒沒有有。。。。23:03:0723:03:0723:031/4/202311:03:07PM11、成成功功就就是是日日復(fù)復(fù)一一日日那那一一點(diǎn)點(diǎn)點(diǎn)點(diǎn)小小小小努努力力的的積積累累。。。。1月月-2323:03:0723:03Jan-2304-Jan-2312、世世間間成成事事，，不不求求其其絕絕對(duì)對(duì)圓圓滿滿，，留留一一份份不不足足，，可可得得無無限限完完美美。。。。23:03:0723:03:0723:03Wednesday,January4,202313、不知香積積寺，數(shù)里里入云峰。。。1月-231月-2323:03:0723:03:07January4,202314、意志堅(jiān)堅(jiān)強(qiáng)的人人能把世世界放在在手中像像泥塊一一樣任意意揉捏。。04一一月202311:03:07下下午23:03:071月-2315、楚塞塞三湘湘接，，荊門門九派派通。。。。。一月2311:03下下午1月-2323:03January4,202316、少年年十五五二十十時(shí)，，步行行奪得得胡馬馬騎。。。2023/1/423:03:0723:03:0704January202317、空空山山新新雨雨后后，，天天氣氣晚晚來來秋秋。。。。11:03:07下下午午11:03下下午午23:03:071月月-239、楊柳散和風(fēng)風(fēng)，青山澹吾吾慮。。1月-231月-23Wednesday,January4,202310、閱讀一切切好書如同同和過去最最杰出的人人談話。23:03:0723:03:0723:031/4/202311:03:07PM1