ch典型神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)教案

1、會(huì)計(jì)學(xué)1ch典型神經(jīng)網(wǎng)絡(luò)典型神經(jīng)網(wǎng)絡(luò)第一頁(yè)，編輯于星期六：點(diǎn) 五十三分。第1頁(yè)/共62頁(yè)第二頁(yè)，編輯于星期六：點(diǎn) 五十三分。第2頁(yè)/共62頁(yè)第三頁(yè)，編輯于星期六：點(diǎn) 五十三分。BP神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu) 輸入層輸入層隱層隱層輸出層輸出層輸輸 入入輸輸 出出第3頁(yè)/共62頁(yè)第四頁(yè)，編輯于星期六：點(diǎn) 五十三分。BP網(wǎng)絡(luò)是一種多層前向神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)是一種多層前向神經(jīng)網(wǎng)絡(luò)v一般分三層：輸入層，隱層，輸出層，也可以一般分三層：輸入層，隱層，輸出層，也可以有有2層或更多個(gè)隱層。層或更多個(gè)隱層。v層與層之間采用全互聯(lián)方式，同一層單元之間不存層與層之間采用全互聯(lián)方式，同一層單元之間不存在相互連接。在相

2、互連接。第4頁(yè)/共62頁(yè)第五頁(yè)，編輯于星期六：點(diǎn) 五十三分。1）輸入層單元無(wú)轉(zhuǎn)換函數(shù)，直接接收信號(hào)傳給下一層，）輸入層單元無(wú)轉(zhuǎn)換函數(shù)，直接接收信號(hào)傳給下一層，所以有些書(shū)不認(rèn)為輸入層是一個(gè)網(wǎng)絡(luò)層。所以有些書(shū)不認(rèn)為輸入層是一個(gè)網(wǎng)絡(luò)層。2）只有當(dāng)希望對(duì)網(wǎng)絡(luò)的輸出進(jìn)行限制，如限制在）只有當(dāng)希望對(duì)網(wǎng)絡(luò)的輸出進(jìn)行限制，如限制在0和和1之間，那么在輸出層應(yīng)當(dāng)包含之間，那么在輸出層應(yīng)當(dāng)包含 S 型激活函數(shù)，在型激活函數(shù)，在一般情況下，一般情況下，x1x2xny1yp均是在隱含層采均是在隱含層采用用 S 型激活函數(shù)型激活函數(shù)，而輸出層采用，而輸出層采用線性激活函數(shù)。線性激活函數(shù)。第5頁(yè)/共62頁(yè)第六頁(yè)，編輯于星

3、期六：點(diǎn) 五十三分。第6頁(yè)/共62頁(yè)第七頁(yè)，編輯于星期六：點(diǎn) 五十三分。第7頁(yè)/共62頁(yè)第八頁(yè)，編輯于星期六：點(diǎn) 五十三分。iiijjxxjxjjexfx11輸出層輸出輸出層輸出 jjjnxky2第8頁(yè)/共62頁(yè)第九頁(yè)，編輯于星期六：點(diǎn) 五十三分。 kykyken 221keE 反向傳播：采用反向傳播：采用學(xué)習(xí)算法調(diào)整各層間權(quán)值學(xué)習(xí)算法調(diào)整各層間權(quán)值 梯度下降法梯度下降法ijijjjEE22第9頁(yè)/共62頁(yè)第十頁(yè)，編輯于星期六：點(diǎn) 五十三分。 221keE 222jjnjjxkeykeE )1(2ijjjijnijijxxxkeykeE 2221jjjkk ijijijkk1 kykyken2

4、21keE jjjnxky2第10頁(yè)/共62頁(yè)第十一頁(yè)，編輯于星期六：點(diǎn) 五十三分。 112222kkxkekkjjjjj 1122222kkkkjjjjj 11kkkkijijijijij 1)1 (112kkxxxkekkkkkijijijjjijijijijijij第11頁(yè)/共62頁(yè)第十二頁(yè)，編輯于星期六：點(diǎn) 五十三分。 23111kykykuky第12頁(yè)/共62頁(yè)第十三頁(yè)，編輯于星期六：點(diǎn) 五十三分。第13頁(yè)/共62頁(yè)第十四頁(yè)，編輯于星期六：點(diǎn) 五十三分。 初始化 加輸入和期望輸出計(jì)算隱層和輸出層的輸出迭代次數(shù)加1調(diào)節(jié)輸出層和隱層的連接權(quán)值pjopjhjihkjkpjopkokjokj

5、xtwtwOtwtw)()1()()1( 改變訓(xùn)練樣板訓(xùn)練樣終止？迭代終止？BP算法的基本流程N(yùn)oNoyy第14頁(yè)/共62頁(yè)第十五頁(yè)，編輯于星期六：點(diǎn) 五十三分。第15頁(yè)/共62頁(yè)第十六頁(yè)，編輯于星期六：點(diǎn) 五十三分。響響第16頁(yè)/共62頁(yè)第十七頁(yè)，編輯于星期六：點(diǎn) 五十三分。第17頁(yè)/共62頁(yè)第十八頁(yè)，編輯于星期六：點(diǎn) 五十三分。第18頁(yè)/共62頁(yè)第十九頁(yè)，編輯于星期六：點(diǎn) 五十三分。感知機(jī)網(wǎng)絡(luò)利用輸出誤差只能修改最后一層的權(quán)值感知機(jī)網(wǎng)絡(luò)利用輸出誤差只能修改最后一層的權(quán)值而而B(niǎo)P網(wǎng)絡(luò)實(shí)現(xiàn)了多層學(xué)習(xí)，每一層的權(quán)值均可訓(xùn)練學(xué)網(wǎng)絡(luò)實(shí)現(xiàn)了多層學(xué)習(xí)，每一層的權(quán)值均可訓(xùn)練學(xué)習(xí)修改。習(xí)修改。BP算法學(xué)習(xí)過(guò)

6、程由兩部分組成：信息的前向傳播與誤差算法學(xué)習(xí)過(guò)程由兩部分組成：信息的前向傳播與誤差的后向傳播。的后向傳播。第19頁(yè)/共62頁(yè)第二十頁(yè)，編輯于星期六：點(diǎn) 五十三分。傳播，通過(guò)網(wǎng)絡(luò)將誤差信號(hào)傳播，通過(guò)網(wǎng)絡(luò)將誤差信號(hào)沿原來(lái)的連接通路反傳回來(lái)沿原來(lái)的連接通路反傳回來(lái)修改各層神經(jīng)元的權(quán)值直至修改各層神經(jīng)元的權(quán)值直至達(dá)到期望目標(biāo)。達(dá)到期望目標(biāo)。第20頁(yè)/共62頁(yè)第二十一頁(yè)，編輯于星期六：點(diǎn) 五十三分。第21頁(yè)/共62頁(yè)第二十二頁(yè)，編輯于星期六：點(diǎn) 五十三分。第22頁(yè)/共62頁(yè)第二十三頁(yè)，編輯于星期六：點(diǎn) 五十三分。第23頁(yè)/共62頁(yè)第二十四頁(yè)，編輯于星期六：點(diǎn) 五十三分。以上所有的學(xué)習(xí)規(guī)則與訓(xùn)練的全過(guò)程，

7、仍然可以用函數(shù)以上所有的學(xué)習(xí)規(guī)則與訓(xùn)練的全過(guò)程，仍然可以用函數(shù)來(lái)完成。它的使用同樣只需要定義有關(guān)參數(shù)：顯示間隔來(lái)完成。它的使用同樣只需要定義有關(guān)參數(shù)：顯示間隔次數(shù)，最大循環(huán)次數(shù)，目標(biāo)誤差，以及學(xué)習(xí)速率，而調(diào)次數(shù)，最大循環(huán)次數(shù)，目標(biāo)誤差，以及學(xué)習(xí)速率，而調(diào)用后返回訓(xùn)練后權(quán)值，循環(huán)總數(shù)和最終誤差：用后返回訓(xùn)練后權(quán)值，循環(huán)總數(shù)和最終誤差： TPdisp_freq max_epoch err_goal 1r；W，B，epochs，errorstrainbp(W，B，F(xiàn)，P，T，TP)； 第24頁(yè)/共62頁(yè)第二十五頁(yè)，編輯于星期六：點(diǎn) 五十三分。第25頁(yè)/共62頁(yè)第二十六頁(yè)，編輯于星期六：點(diǎn) 五十三分。

8、數(shù)進(jìn)行訓(xùn)練對(duì)比，然后適當(dāng)數(shù)進(jìn)行訓(xùn)練對(duì)比，然后適當(dāng)?shù)丶由弦稽c(diǎn)余量。地加上一點(diǎn)余量。第26頁(yè)/共62頁(yè)第二十七頁(yè)，編輯于星期六：點(diǎn) 五十三分。3）初始權(quán)值的選?。┏跏紮?quán)值的選取一般取初始權(quán)值在一般取初始權(quán)值在(- -1，1)之間的隨機(jī)數(shù)。之間的隨機(jī)數(shù)。在在MATLAB工具箱中可采用函數(shù)來(lái)初始化權(quán)值閾工具箱中可采用函數(shù)來(lái)初始化權(quán)值閾值。值。 由于每次訓(xùn)練時(shí)都對(duì)權(quán)值進(jìn)行隨機(jī)初始化，所以每由于每次訓(xùn)練時(shí)都對(duì)權(quán)值進(jìn)行隨機(jī)初始化，所以每次訓(xùn)練得到的網(wǎng)絡(luò)權(quán)值都是不一樣的。次訓(xùn)練得到的網(wǎng)絡(luò)權(quán)值都是不一樣的。第27頁(yè)/共62頁(yè)第二十八頁(yè)，編輯于星期六：點(diǎn) 五十三分。選取較小的學(xué)習(xí)速率以保證選取較小的學(xué)習(xí)速率以保證

9、系統(tǒng)的穩(wěn)定性。學(xué)習(xí)速率的系統(tǒng)的穩(wěn)定性。學(xué)習(xí)速率的選取范圍在選取范圍在00108之間。之間。第28頁(yè)/共62頁(yè)第二十九頁(yè)，編輯于星期六：點(diǎn) 五十三分。第29頁(yè)/共62頁(yè)第三十頁(yè)，編輯于星期六：點(diǎn) 五十三分。7.2.10 BP網(wǎng)絡(luò)的局限與不足網(wǎng)絡(luò)的局限與不足(1)需要較長(zhǎng)的訓(xùn)練時(shí)間需要較長(zhǎng)的訓(xùn)練時(shí)間 因?yàn)樯婕暗角髮?dǎo)的運(yùn)算，需要的時(shí)間較長(zhǎng)因?yàn)樯婕暗角髮?dǎo)的運(yùn)算，需要的時(shí)間較長(zhǎng)(2)訓(xùn)練癱瘓問(wèn)題訓(xùn)練癱瘓問(wèn)題通常為了避免這種現(xiàn)象的發(fā)生，一是選取較小的初始權(quán)通常為了避免這種現(xiàn)象的發(fā)生，一是選取較小的初始權(quán)值，二是采用較小的學(xué)習(xí)速率，但這又增加了訓(xùn)練時(shí)間值，二是采用較小的學(xué)習(xí)速率，但這又增加了訓(xùn)練時(shí)間。 第3

10、0頁(yè)/共62頁(yè)第三十一頁(yè)，編輯于星期六：點(diǎn) 五十三分。(3)局部極小值局部極小值BP算法可以使網(wǎng)絡(luò)權(quán)值收斂到一個(gè)解，但它并不能算法可以使網(wǎng)絡(luò)權(quán)值收斂到一個(gè)解，但它并不能保證所求為誤差超平面的全局最小解，很可能是一保證所求為誤差超平面的全局最小解，很可能是一個(gè)局部極小解。個(gè)局部極小解。WEW初始值不合適時(shí)，初始值不合適時(shí)，可能落入局部極小值可能落入局部極小值。第31頁(yè)/共62頁(yè)第三十二頁(yè)，編輯于星期六：點(diǎn) 五十三分。第32頁(yè)/共62頁(yè)第三十三頁(yè)，編輯于星期六：點(diǎn) 五十三分。 該方法是在反向傳播法的基礎(chǔ)上在每一個(gè)權(quán)值的該方法是在反向傳播法的基礎(chǔ)上在每一個(gè)權(quán)值的變化上加上一項(xiàng)正比于前次權(quán)值變化量的值

11、，并根據(jù)變化上加上一項(xiàng)正比于前次權(quán)值變化量的值，并根據(jù)反向傳播法來(lái)產(chǎn)生新的權(quán)值變化。反向傳播法來(lái)產(chǎn)生新的權(quán)值變化。 附加動(dòng)量法的實(shí)質(zhì)是將最后一次權(quán)值變化的影響附加動(dòng)量法的實(shí)質(zhì)是將最后一次權(quán)值變化的影響，通過(guò)一個(gè)動(dòng)量因子來(lái)傳遞。當(dāng)動(dòng)量因子取值為零時(shí)，通過(guò)一個(gè)動(dòng)量因子來(lái)傳遞。當(dāng)動(dòng)量因子取值為零時(shí)，權(quán)值的變化僅是根據(jù)梯度下降法產(chǎn)生；當(dāng)動(dòng)量因子，權(quán)值的變化僅是根據(jù)梯度下降法產(chǎn)生；當(dāng)動(dòng)量因子取值為取值為1時(shí)，新的權(quán)值變化則是設(shè)置為最后一次權(quán)值時(shí)，新的權(quán)值變化則是設(shè)置為最后一次權(quán)值的變化，而依梯度法產(chǎn)生的變化部分則被忽略掉了。的變化，而依梯度法產(chǎn)生的變化部分則被忽略掉了。第33頁(yè)/共62頁(yè)第三十四頁(yè)，編輯

12、于星期六：點(diǎn) 五十三分。2 誤差函數(shù)的改進(jìn)誤差函數(shù)的改進(jìn) 包穆包穆(Baum)等人于等人于1988年提出一種誤差函數(shù)為：年提出一種誤差函數(shù)為： 不會(huì)產(chǎn)生不能完全訓(xùn)練的癱瘓現(xiàn)象。不會(huì)產(chǎn)生不能完全訓(xùn)練的癱瘓現(xiàn)象。 第34頁(yè)/共62頁(yè)第三十五頁(yè)，編輯于星期六：點(diǎn) 五十三分。3 自適應(yīng)學(xué)習(xí)速率自適應(yīng)學(xué)習(xí)速率 學(xué)習(xí)率學(xué)習(xí)率也稱(chēng)步長(zhǎng)，在標(biāo)準(zhǔn)也稱(chēng)步長(zhǎng)，在標(biāo)準(zhǔn)BP 算法中定為常數(shù)，算法中定為常數(shù)，然而在實(shí)際應(yīng)用中，很難確定一個(gè)從始至終都然而在實(shí)際應(yīng)用中，很難確定一個(gè)從始至終都合適的最佳學(xué)習(xí)率，從誤差曲面可以看出，平合適的最佳學(xué)習(xí)率，從誤差曲面可以看出，平坦區(qū)域內(nèi)坦區(qū)域內(nèi)太小會(huì)使訓(xùn)練次數(shù)增加而希望增大太小會(huì)使訓(xùn)

13、練次數(shù)增加而希望增大值值；而在誤差變化劇烈的區(qū)域，；而在誤差變化劇烈的區(qū)域，太大會(huì)因調(diào)整量太大會(huì)因調(diào)整量過(guò)大而跨過(guò)較宰的過(guò)大而跨過(guò)較宰的“坑凹坑凹”處，使訓(xùn)練出現(xiàn)振處，使訓(xùn)練出現(xiàn)振蕩，反而使迭代次數(shù)增加。蕩，反而使迭代次數(shù)增加。為了加速收斂過(guò)程，一個(gè)較好的思路是自適應(yīng)為了加速收斂過(guò)程，一個(gè)較好的思路是自適應(yīng)改變學(xué)習(xí)率，使其該大時(shí)增大，該小時(shí)減小。改變學(xué)習(xí)率，使其該大時(shí)增大，該小時(shí)減小。第35頁(yè)/共62頁(yè)第三十六頁(yè)，編輯于星期六：點(diǎn) 五十三分。 通常調(diào)節(jié)學(xué)習(xí)速率的準(zhǔn)則是：檢查權(quán)值的修正通常調(diào)節(jié)學(xué)習(xí)速率的準(zhǔn)則是：檢查權(quán)值的修正值是否真正降低了誤差函數(shù)，如果確實(shí)如此，則值是否真正降低了誤差函數(shù)，如果

14、確實(shí)如此，則說(shuō)明所選取的學(xué)習(xí)速率值小了，可以對(duì)其增加一說(shuō)明所選取的學(xué)習(xí)速率值小了，可以對(duì)其增加一個(gè)量；若不是這樣，而產(chǎn)生了過(guò)調(diào)，那么就應(yīng)該個(gè)量；若不是這樣，而產(chǎn)生了過(guò)調(diào)，那么就應(yīng)該減小學(xué)習(xí)速率的值。下式給出了一種自適應(yīng)學(xué)習(xí)減小學(xué)習(xí)速率的值。下式給出了一種自適應(yīng)學(xué)習(xí)速率的調(diào)整公式：速率的調(diào)整公式：MATLAB工具箱中帶有自適應(yīng)學(xué)習(xí)速率進(jìn)行反向傳播訓(xùn)練工具箱中帶有自適應(yīng)學(xué)習(xí)速率進(jìn)行反向傳播訓(xùn)練的函數(shù)為：的函數(shù)為：。它可以訓(xùn)練直至三層網(wǎng)絡(luò)。它可以訓(xùn)練直至三層網(wǎng)絡(luò)。使用方法為：使用方法為：W，B，epochs，TEtrainbpa(W，B，F(xiàn)，P，T，TP)第36頁(yè)/共62頁(yè)第三十七頁(yè)，編輯于星期六：

15、點(diǎn) 五十三分?？梢詫?dòng)量法和自適應(yīng)學(xué)習(xí)速率結(jié)合起來(lái)以利用可以將動(dòng)量法和自適應(yīng)學(xué)習(xí)速率結(jié)合起來(lái)以利用兩方面的優(yōu)點(diǎn)。這個(gè)技術(shù)已編入了函數(shù)之中。這兩方面的優(yōu)點(diǎn)。這個(gè)技術(shù)已編入了函數(shù)之中。這個(gè)函數(shù)的調(diào)用和其他函數(shù)一樣，只是需要更多的個(gè)函數(shù)的調(diào)用和其他函數(shù)一樣，只是需要更多的初始參數(shù)而已：初始參數(shù)而已：TPdisp_freq max_epoch error_goal lr 1r_inc 1r_dec mom_const err_ratio；W，B，epochs，error; lrtrainbpx(W，B，F(xiàn)，P，T，TP)第37頁(yè)/共62頁(yè)第三十八頁(yè)，編輯于星期六：點(diǎn) 五十三分。第38頁(yè)/共62頁(yè)第三十

16、九頁(yè)，編輯于星期六：點(diǎn) 五十三分。第39頁(yè)/共62頁(yè)第四十頁(yè)，編輯于星期六：點(diǎn) 五十三分。以便于傳輸或存儲(chǔ)。以便于傳輸或存儲(chǔ)。第40頁(yè)/共62頁(yè)第四十一頁(yè)，編輯于星期六：點(diǎn) 五十三分。例例2：邊緣檢測(cè)：邊緣檢測(cè)例例1：圖像壓縮：圖像壓縮第41頁(yè)/共62頁(yè)第四十二頁(yè)，編輯于星期六：點(diǎn) 五十三分?；诨贐P算法的多層前饋網(wǎng)絡(luò)用圖像壓縮編碼算法的多層前饋網(wǎng)絡(luò)用圖像壓縮編碼Ackley和和Hinton等人等人1985年提出了利用多層前饋年提出了利用多層前饋神經(jīng)網(wǎng)絡(luò)的模式變換能力實(shí)現(xiàn)數(shù)據(jù)編碼的基本思神經(jīng)網(wǎng)絡(luò)的模式變換能力實(shí)現(xiàn)數(shù)據(jù)編碼的基本思想。想。其原理是，把一組輸入模式通過(guò)少量的隱層節(jié)點(diǎn)其原理是，把

17、一組輸入模式通過(guò)少量的隱層節(jié)點(diǎn)映射到一組輸出模式，并使輸出模式等同于輸入映射到一組輸出模式，并使輸出模式等同于輸入模式。當(dāng)中間隱層的節(jié)點(diǎn)數(shù)比輸入模式維數(shù)少時(shí)模式。當(dāng)中間隱層的節(jié)點(diǎn)數(shù)比輸入模式維數(shù)少時(shí)，就意味著隱層能更有效的表現(xiàn)輸入模式，并把，就意味著隱層能更有效的表現(xiàn)輸入模式，并把這種表現(xiàn)傳給輸出層。在這個(gè)過(guò)程中，輸入層和這種表現(xiàn)傳給輸出層。在這個(gè)過(guò)程中，輸入層和隱層的變換可以看成是壓縮編碼的過(guò)程；而隱層隱層的變換可以看成是壓縮編碼的過(guò)程；而隱層和輸出層的變換可以看成是解碼過(guò)程。和輸出層的變換可以看成是解碼過(guò)程。第42頁(yè)/共62頁(yè)第四十三頁(yè)，編輯于星期六：點(diǎn) 五十三分。用多層前饋網(wǎng)實(shí)現(xiàn)圖像數(shù)據(jù)

18、壓縮時(shí)，只需一個(gè)隱層，如圖用多層前饋網(wǎng)實(shí)現(xiàn)圖像數(shù)據(jù)壓縮時(shí)，只需一個(gè)隱層，如圖原圖原圖像像nn重建圖像重建圖像nn第43頁(yè)/共62頁(yè)第四十四頁(yè)，編輯于星期六：點(diǎn) 五十三分。輸入層和輸出層均含有輸入層和輸出層均含有n*n個(gè)神經(jīng)元，每個(gè)神經(jīng)元對(duì)個(gè)神經(jīng)元，每個(gè)神經(jīng)元對(duì)應(yīng)于應(yīng)于n*n圖像分塊中的一個(gè)像素。隱層神經(jīng)元的數(shù)量圖像分塊中的一個(gè)像素。隱層神經(jīng)元的數(shù)量由圖像壓縮比決定，如由圖像壓縮比決定，如n=16時(shí)，取隱層神經(jīng)元數(shù)為時(shí)，取隱層神經(jīng)元數(shù)為m=8，則可將則可將256像素的圖像塊壓縮為像素。像素的圖像塊壓縮為像素。通過(guò)調(diào)整權(quán)值使訓(xùn)練集圖像的重建誤差達(dá)到最小。訓(xùn)通過(guò)調(diào)整權(quán)值使訓(xùn)練集圖像的重建誤差達(dá)到最小

19、。訓(xùn)練后的網(wǎng)絡(luò)就可以用來(lái)執(zhí)行圖像的數(shù)據(jù)壓縮任務(wù)了，練后的網(wǎng)絡(luò)就可以用來(lái)執(zhí)行圖像的數(shù)據(jù)壓縮任務(wù)了，此時(shí)隱層輸出向量便是數(shù)據(jù)壓縮結(jié)果，而輸出層的輸此時(shí)隱層輸出向量便是數(shù)據(jù)壓縮結(jié)果，而輸出層的輸出向量便是圖像重建的結(jié)果。出向量便是圖像重建的結(jié)果。第44頁(yè)/共62頁(yè)第四十五頁(yè)，編輯于星期六：點(diǎn) 五十三分。黑白圖像的邊緣檢測(cè)：黑白圖像的邊緣檢測(cè)：第45頁(yè)/共62頁(yè)第四十六頁(yè)，編輯于星期六：點(diǎn) 五十三分。第46頁(yè)/共62頁(yè)第四十七頁(yè)，編輯于星期六：點(diǎn) 五十三分。7.3 RBF神經(jīng)網(wǎng)絡(luò)第47頁(yè)/共62頁(yè)第四十八頁(yè)，編輯于星期六：點(diǎn) 五十三分。RBF網(wǎng)絡(luò)網(wǎng)絡(luò)徑向基函數(shù)網(wǎng)絡(luò)（徑向基函數(shù)網(wǎng)絡(luò)（Radial Bas

20、is Function ，簡(jiǎn)稱(chēng)簡(jiǎn)稱(chēng)RBFNN）第48頁(yè)/共62頁(yè)第四十九頁(yè)，編輯于星期六：點(diǎn) 五十三分。 x1x2xny1yp輸輸 入入輸輸 出出是一種三層前饋網(wǎng)絡(luò)是一種三層前饋網(wǎng)絡(luò)第49頁(yè)/共62頁(yè)第五十頁(yè)，編輯于星期六：點(diǎn) 五十三分。網(wǎng)絡(luò)特點(diǎn)：網(wǎng)絡(luò)特點(diǎn)：）結(jié)構(gòu)相對(duì)簡(jiǎn)單）結(jié)構(gòu)相對(duì)簡(jiǎn)單）在參數(shù)（節(jié)點(diǎn)數(shù)，）在參數(shù)（節(jié)點(diǎn)數(shù)，, ）選擇合適時(shí)，收斂選擇合適時(shí)，收斂速度快速度快三層三層輸入層輸入層隱層隱層神經(jīng)元函數(shù)多采用高斯函數(shù)神經(jīng)元函數(shù)多采用高斯函數(shù)輸出層輸出層線性神經(jīng)元函數(shù)線性神經(jīng)元函數(shù)第50頁(yè)/共62頁(yè)第五十一頁(yè)，編輯于星期六：點(diǎn) 五十三分。（高斯核函數(shù)）（高斯核函數(shù)）第51頁(yè)/共62頁(yè)第五十二頁(yè)，編輯于星期六：點(diǎn) 五十三分。c該激活函數(shù)具有局部感受能力，只有輸入落入該激活函數(shù)具有局部感