神經(jīng)網(wǎng)絡(luò)模擬試題

1、神經(jīng)網(wǎng)絡(luò)模擬試題葉偉、朱宇濤、雙銀鋒一填空：1. 神經(jīng)元（即神經(jīng)細(xì)胞）是由 細(xì)胞體、樹突、軸突和突 四部分構(gòu)成。2. 按網(wǎng)絡(luò)結(jié)構(gòu)分，人工神經(jīng)元細(xì)胞可分為 前饋型和反饋型 亠按照學(xué)習(xí)方式分可 分為： 有導(dǎo)師和無導(dǎo)師 學(xué)習(xí)。3. 前饋型網(wǎng)絡(luò)可分為可見層和隱含層，節(jié)點(diǎn)有輸入結(jié)點(diǎn)、輸出節(jié)點(diǎn)、計(jì)算單元。4. 反饋網(wǎng)絡(luò)歷經(jīng)狀態(tài)轉(zhuǎn)移，直到它可能找到一個平衡狀態(tài)，這個平衡狀態(tài)稱為吸引 子。5. 神經(jīng)網(wǎng)絡(luò)工作過程主要由 工作期和學(xué)習(xí)期 一兩個階段組成。6. 在ANN中HEBB算法最簡單可描述為：如果一個處理單元從另一處理單元接收輸 入激勵信號，而且兩者都處于 高激勵 電平，那么處理單元間的加權(quán)就應(yīng)當(dāng)增強(qiáng)。 HE

2、BB網(wǎng)絡(luò)代表了一種純 前向式無導(dǎo)師 學(xué)習(xí)。7. S學(xué)習(xí)規(guī)則又稱 最小均方規(guī)則，它利用目標(biāo)激活值與所得激活值 之 差進(jìn)行學(xué)習(xí)。其方法是：調(diào)整 聯(lián)系 強(qiáng)度，使其差最小。8. 常見的七種學(xué)習(xí)規(guī)則中，無導(dǎo)師學(xué)習(xí)的規(guī)則是指 HEB 學(xué)習(xí) 和勝者為王學(xué) 習(xí)規(guī)則。9. 誤差反傳訓(xùn)練算法的主要思想是學(xué)習(xí)過程分為兩個階段：正向傳播過程和 反 向過程。10. 網(wǎng)絡(luò)吸引子分為穩(wěn)定和非穩(wěn)定兩種，非穩(wěn)定吸引子又有兩種情況： 有限狀態(tài)指網(wǎng)絡(luò)狀態(tài) 有規(guī)律地在某些狀態(tài)之間 _振蕩；而混沌狀態(tài)是指網(wǎng)絡(luò) 無規(guī) 律地某些狀態(tài)之間振蕩。1 對反饋網(wǎng)絡(luò)而言，穩(wěn)定點(diǎn)越多，網(wǎng)絡(luò)的聯(lián)想與識別能力越強(qiáng)，因此，穩(wěn)定點(diǎn)的數(shù)據(jù)目越多聯(lián)想功能越好。

3、(X)2 簡單感知器僅能解決一階謂詞邏輯和線性分類問題，不能解決高階謂詞和非線分類問題。(V)3 BP 算法是在無導(dǎo)師作用下，適用于多層神經(jīng)元的一種學(xué)習(xí)，它是建立在相關(guān)規(guī)則的基礎(chǔ)上的。 (X)4. 在誤差反傳訓(xùn)練算法中，周期性函數(shù)已被證明收斂速度比 S型函數(shù)慢。(X)5. 基于BP算法的網(wǎng)絡(luò)的誤差曲面有且僅有一個全局最優(yōu)解 。(X)6. 對于前饋網(wǎng)絡(luò)而言， 一旦網(wǎng)絡(luò)的用途確定了， 那么隱含層的數(shù)目也就確定了。(X)7. 對離散型 HOPFIELD 網(wǎng)絡(luò)而言，如權(quán)矩陣為對稱陣，而且對角線元素非負(fù)，那么網(wǎng)絡(luò)在異步方式下必收斂于下一個穩(wěn)定狀態(tài)。(V)8. 對連續(xù) HOPFIELD 網(wǎng)絡(luò)而言，無論網(wǎng)絡(luò)

4、結(jié)構(gòu)是否對稱，都能保證網(wǎng)絡(luò)穩(wěn)定。(X)9. 競爭學(xué)習(xí)的實(shí)質(zhì)是一種規(guī)律性檢測器，即是基于刺激集合和哪個特征是重要 的先驗(yàn)概念所構(gòu)造的裝置，發(fā)現(xiàn)有用的部特征。 (V)10. 人工神經(jīng)元網(wǎng)絡(luò)和模糊系統(tǒng)的共同之處在于，都需建立對象的精確的數(shù)學(xué)模 型，根據(jù)輸入采樣數(shù)據(jù)去估計(jì)其要求的決策， 這是一種有模型的估計(jì)。 ( X)三、論述題：1 、 對誤差反傳訓(xùn)練算法而言， 如何有效提高訓(xùn)練速 度？ 答：可通過四個方面來提高訓(xùn)練速度：一、通過全局自 適應(yīng)技術(shù)修改全局參數(shù)，即對每個可調(diào)參數(shù)根據(jù)學(xué)習(xí)情 況用同樣的學(xué)習(xí)速率改變；二、通過局部學(xué)習(xí)自適應(yīng)來 對每個可調(diào)節(jié)參數(shù)采用獨(dú)自的學(xué)習(xí)速率，對每個權(quán)錄求最優(yōu)學(xué)習(xí)速率。三、

5、采用新的激活函數(shù)來加快收斂速度； 四、采用組合激活函數(shù)來加快收斂速度。其中，全局學(xué) 習(xí)速率的自適應(yīng)又分為：加入動量法；學(xué)習(xí)速率的經(jīng)驗(yàn) 公式法；學(xué)習(xí)速率漸小法；漸進(jìn)自適應(yīng)學(xué)習(xí)速率；共軛 梯度法；變步長法；學(xué)習(xí)速率自調(diào)整的 BP算法。局部學(xué) 習(xí)自適應(yīng)又可分為：基于符號變換的學(xué)習(xí)速率自適應(yīng)；DELTA-BAR-DELTA 法；QUICKPROP 法；RPROP方法。2、簡要地畫出簡單神經(jīng)元的結(jié)構(gòu)示意圖，標(biāo)注清楚結(jié)構(gòu)模型每一部分代表符號和符號代表的意義，并分別寫出膜電位和激發(fā)函數(shù)的統(tǒng)一表達(dá)式。神經(jīng)元的結(jié)構(gòu)圖WijyiX1、X2 Xn為輸入信號，Ui為神經(jīng)元內(nèi)部狀態(tài)，9 i為閾值， 為Ui到Uj的連接權(quán)

6、，si表示外部輸入信號，f(.)為激發(fā)函數(shù)， 為輸出。a i為膜電位。a i = Wij Xi +Siw=f( a i- oi)=f(藝Wij Xi + s-,)3、 簡要地描述 BP 算法過程和用 MATLAB 軟件進(jìn)行仿真 的總體步驟，并列出五個仿真過程中必不可少的函數(shù)。 答： BP 算法是一種 ANN 的誤差反向傳播訓(xùn)練算法，這 種網(wǎng)絡(luò)不僅有輸入節(jié)點(diǎn)、輸出節(jié)點(diǎn)，還有一層或多層隱 含節(jié)點(diǎn)。對于輸入信息要先向前傳播到隱含層的節(jié)點(diǎn)上， 經(jīng)過各單元的特性為 SIGMOID 型的激活函數(shù)運(yùn)算后， 把 隱含節(jié)點(diǎn)的輸出信息傳播到輸出節(jié)點(diǎn)，最后給出輸出結(jié) 結(jié)果。網(wǎng)絡(luò)學(xué)習(xí)過程由正向和反向傳播兩部分組成。在 正向傳播過程中，每一層神經(jīng)元的狀態(tài)只影響下一層神 經(jīng)元網(wǎng)絡(luò)。如果輸出層不能得到期望輸出，就是實(shí)際輸 出值與期望輸出值之間有誤差，那么轉(zhuǎn)入反向傳播過程， 將誤差信號沿原來的連接通路返回，通過修改各層神經(jīng) 元的權(quán)值，逐次地向輸入層傳播去進(jìn)行計(jì)算，再經(jīng)過正 向傳播過程，這兩個過程的反復(fù)運(yùn)用，使得誤差信號最 小，實(shí)際上，誤差達(dá)到所希望的要求時，網(wǎng)絡(luò)的學(xué)習(xí)過 程就結(jié)束。應(yīng)用 MATLAB 進(jìn)行仿真時，有四個必要過程： 問題描述，網(wǎng)絡(luò)初始化，網(wǎng)絡(luò)訓(xùn)練，性能測試。相關(guān)函 數(shù)：newff