神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)非線性系統(tǒng)設(shè)計(jì)

神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)非線性系統(tǒng)設(shè)計(jì)畢業(yè)設(shè)計(jì)（論文）中文題目神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)非線性系統(tǒng)設(shè)計(jì)英文題目NeuralNetworkNonlinearSystem院系：年級(jí)專業(yè)：姓名：學(xué)號(hào)：指導(dǎo)教師：職稱：2016年月日【摘要】神經(jīng)網(wǎng)絡(luò)具有極強(qiáng)的非線性及自適應(yīng)自學(xué)習(xí)的特性，常被用來(lái)模擬判斷、擬合和控制等智能行為，成功滲透了幾乎所有的工程應(yīng)用領(lǐng)域，是一個(gè)在人工智能方向迅速發(fā)展的具有重大研究意義的前沿課題。本文前兩章主要介紹了神經(jīng)網(wǎng)絡(luò)的發(fā)展背景和研究現(xiàn)狀，還有BP網(wǎng)絡(luò)的結(jié)構(gòu)原理及相關(guān)功能。然后，對(duì)如何利用GUI工具和神經(jīng)網(wǎng)絡(luò)原理設(shè)計(jì)非線性系統(tǒng)的基本流程進(jìn)行了詳細(xì)的闡述。最后，通過(guò)利用Matlab軟件進(jìn)行編程，以及是通過(guò)對(duì)BP神經(jīng)網(wǎng)絡(luò)算法及函數(shù)的運(yùn)用，研究其在函數(shù)逼近和數(shù)據(jù)擬合方面的應(yīng)用，并分析了相關(guān)參數(shù)對(duì)運(yùn)行結(jié)果的影響?！娟P(guān)鍵詞】BP網(wǎng)絡(luò)，GUI，非線性系統(tǒng)【ABSTRACT】Neuralnetworkhasastrongnonlinearandadaptiveself-organizingproperties,oftenusedtosimulatethebehaviorofintelligentdecision-making,cognitivecontrol,andthesuccessfulpenetrationofalmostallengineeringapplications,isarapiddevelopmentinthedirectionofartificialintelligenceleadingsubjectofgreatresearchsignificance.Thefirsttwochaptersdescribesthebackgroundandcurrentdevelopmentissues,aswellastheprincipleofBPnetworkstructureandrelatedfunctions.ThendescribeshowtousetheGUItoolsandneuralnetworktheoryofnonlinearsystemsdesignbasicflow.Finally,theuseofMatlabprogrammingandBPneuralnetworkalgorithmfunctionandstudyitsapplicationintermsoffunctionapproximationanddatafitting,andanalyzestheinfluenceofrelevantparametersontheresultsofrunning.【keywords】BPnetwork，GUI，NonlinearSystem不足，例如簡(jiǎn)單的線性感知器不可能實(shí)現(xiàn)“異或”的邏輯關(guān)系，再加上計(jì)算機(jī)發(fā)展進(jìn)去全盛時(shí)期，因而很多研究人員把目光移向了人工智能，神經(jīng)網(wǎng)絡(luò)發(fā)展逐漸的走向了蕭條。但是，很多的科學(xué)家還是在對(duì)這方面的研究中投入了大量的經(jīng)歷，不愿意放棄對(duì)其進(jìn)行的研究。其中，Grossberg和他夫人就對(duì)自適應(yīng)的共振理論給予提出，并進(jìn)行了相關(guān)的研究；Anderson提出了交互存儲(chǔ)器等。正是擁有這些具有重大價(jià)值的科學(xué)研究成果，才推動(dòng)了神經(jīng)網(wǎng)絡(luò)的復(fù)興與再發(fā)展邁出巨大的一步。3）20世紀(jì)80年代-90年代：復(fù)興與再發(fā)展伴隨著科學(xué)的迅速發(fā)展，各個(gè)科學(xué)都取得巨大的進(jìn)步，與此同時(shí)建立在多個(gè)復(fù)雜學(xué)科交叉的神經(jīng)網(wǎng)絡(luò)也開(kāi)始蓬勃發(fā)展。隨著各種資源和人力的投入，科學(xué)家逐漸意識(shí)到神經(jīng)網(wǎng)絡(luò)的巨大潛力。JohnHopfield提出了具有開(kāi)拓性的Hopfield模型，但是尋求全局最優(yōu)解的還需深入學(xué)習(xí)。1.2神經(jīng)網(wǎng)絡(luò)的研究?jī)?nèi)容和局限性1.2.1神經(jīng)網(wǎng)絡(luò)的研究?jī)?nèi)容研究?jī)?nèi)容包含四個(gè)部分REF_Ref23028\r\h[4]：（1）生物原型研究：探索人腦結(jié)構(gòu)和神經(jīng)細(xì)胞的功能機(jī)制，進(jìn)行神經(jīng)系統(tǒng)、生物學(xué)、腦神經(jīng)學(xué)、心理學(xué)、動(dòng)物解剖學(xué)、神經(jīng)科學(xué)、病理學(xué)和其余的生物學(xué)的神經(jīng)系統(tǒng)的專研。（2）理論模型的建立：根據(jù)生物原型和基礎(chǔ)理論的研究成果，尋求建立功能更全面、性能更強(qiáng)大的各類神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、數(shù)據(jù)、仿真等。（3）虛擬模型和算法研究：針對(duì)要探索的題目來(lái)建立相應(yīng)的理論模型，以實(shí)現(xiàn)智能仿真或利用硬件建立模型，或者對(duì)所應(yīng)用的向量算法的探索。這一系列的操作就是為了探索技術(shù)模型。（4）針對(duì)神經(jīng)網(wǎng)絡(luò)研發(fā)的應(yīng)用系統(tǒng)：在理論基礎(chǔ)上建立知識(shí)工程，完成神經(jīng)網(wǎng)絡(luò)的軟件模擬和硬件實(shí)現(xiàn)，構(gòu)成相應(yīng)的應(yīng)用程序，比如，利用需要的信號(hào)或者模式解決問(wèn)題、改良并排列篩選等。1.2.2神經(jīng)網(wǎng)絡(luò)研究的局限性相關(guān)研究發(fā)展迅速但也存在局限性。當(dāng)前存在的問(wèn)題是受限于腦科學(xué)的現(xiàn)有成果，對(duì)人腦思維和記憶機(jī)制及對(duì)生物神經(jīng)網(wǎng)絡(luò)的模擬程度不夠，尚未建立起成熟完整的理論體系，智能水平也不夠高，無(wú)法很好的滿足許多應(yīng)用方面的要求。面對(duì)隨時(shí)變化的實(shí)驗(yàn)?zāi)繕?biāo)，紛繁復(fù)雜的應(yīng)用難題，花費(fèi)了巨大的精力和資源，編制一些特定的程序、軟件求解。但因缺乏統(tǒng)一的理論指導(dǎo)，這些軟件往往帶有經(jīng)驗(yàn)性質(zhì)不具備通用性，并且在軟件設(shè)計(jì)、實(shí)際運(yùn)行等諸多方面存在不小的缺陷。1.3神經(jīng)網(wǎng)絡(luò)的應(yīng)用神經(jīng)網(wǎng)絡(luò)理論利用自己獨(dú)有的組成部分和解決問(wèn)題的方法，在人工智能、復(fù)雜控制、模式處理、機(jī)電工程、醫(yī)療專業(yè)、銀行證券等領(lǐng)域具有很大的使用空間REF_Ref23541\r\h[8]。主要應(yīng)用在以下領(lǐng)域：模式處理。成功應(yīng)用于圖形、符號(hào)、手寫體及語(yǔ)音辨識(shí)，檢測(cè)圖像的形狀，復(fù)制和壓縮處理等圖像。優(yōu)化組合。工業(yè)控制方面，比如工業(yè)生產(chǎn)控制、機(jī)械控制、電氣控制和變結(jié)構(gòu)優(yōu)化控制等。（3）機(jī)電工程。汽車系統(tǒng)的方案優(yōu)化、河川徑流的預(yù)測(cè)、水資源的規(guī)劃、地震預(yù)報(bào)、聲納信號(hào)的跟蹤和分析等。（4）醫(yī)療專業(yè)。對(duì)醫(yī)學(xué)設(shè)備檢測(cè)出的數(shù)據(jù)進(jìn)行智能判斷，綜合得出診斷意見(jiàn)。（5）銀行證券。能對(duì)商品價(jià)格、股票價(jià)格和企業(yè)可信度等進(jìn)行短期預(yù)測(cè)，完成金融風(fēng)險(xiǎn)分析評(píng)估。1.4神經(jīng)網(wǎng)絡(luò)的主要特征神經(jīng)網(wǎng)絡(luò)的下列特征是非常重要的（1）并行分布處理數(shù)據(jù)系統(tǒng)的數(shù)學(xué)建模一直被困擾的一個(gè)重要問(wèn)題就是數(shù)據(jù)信息量太過(guò)龐大，以此建立一個(gè)高效迅速的數(shù)據(jù)處理預(yù)測(cè)模型非常重要。由于人工神經(jīng)網(wǎng)絡(luò)有重要的網(wǎng)絡(luò)化結(jié)果，所以將不同的數(shù)據(jù)散布化是其中的一大特點(diǎn)，只有通過(guò)這樣的多線程分布式并行處理才能夠快熟高效的將龐大規(guī)模的大量歷史數(shù)據(jù)進(jìn)行巡邏分析，一起得到一個(gè)合理的神經(jīng)網(wǎng)絡(luò)模型。（2）非線性映射前文已述，智能建模方法相較于傳統(tǒng)建模方法的最重要的優(yōu)點(diǎn)其實(shí)是具備很強(qiáng)大非線性逼近能力，而現(xiàn)實(shí)中的工程難題絕大多數(shù)都是非線性的，因此人工神經(jīng)網(wǎng)絡(luò)可以很輕松的解決非線性的映射難題，也能夠最大程度的逼近現(xiàn)實(shí)中的梳理關(guān)系，人工神經(jīng)網(wǎng)絡(luò)打破了傳統(tǒng)的建立在線性關(guān)系上的機(jī)器的限制，使人類的處理信息和思考方式有了極大的提升。（3）通過(guò)訓(xùn)練進(jìn)行學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)化結(jié)構(gòu)是建立在一個(gè)個(gè)單個(gè)的神經(jīng)元基礎(chǔ)上的，而建立這些單一的神經(jīng)元之間又是通過(guò)權(quán)重進(jìn)行連接的，而建立和確定這些權(quán)重的就是通過(guò)歷史數(shù)據(jù)訓(xùn)練得到的。由于神經(jīng)網(wǎng)絡(luò)神經(jīng)元個(gè)數(shù)的龐大以及連接方式的問(wèn)題，使得神經(jīng)網(wǎng)絡(luò)具備了重要的處理大量歷史信息的功能，與此同時(shí)，即便是輸入不完整的或者非正確的信息，也能夠通過(guò)大量數(shù)據(jù)的學(xué)習(xí)來(lái)進(jìn)行糾錯(cuò)和修正。（4）適應(yīng)與集成神經(jīng)網(wǎng)絡(luò)具有大量的處理不確定性信息的能力，這也就保障了輸入數(shù)據(jù)在不完整或者是缺失的情況下，神經(jīng)網(wǎng)絡(luò)依舊可以根據(jù)現(xiàn)有的條件來(lái)得到最近似逼近的模型。2神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及BP神經(jīng)網(wǎng)絡(luò)2.1神經(jīng)元與網(wǎng)絡(luò)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)取決于它的基本處理單元和互連方法。2.1.1人工神經(jīng)元神經(jīng)網(wǎng)絡(luò)的信息是由一個(gè)個(gè)單獨(dú)的類似生物的神經(jīng)元作為基本單位進(jìn)行處理的，每一個(gè)神經(jīng)網(wǎng)絡(luò)的神經(jīng)元都是一個(gè)信息匯集處理和中轉(zhuǎn)單位。圖2.2是一種三個(gè)輸入的結(jié)構(gòu)模型。圖2.2人工神經(jīng)元結(jié)構(gòu)模型如果神經(jīng)元j的變量有多個(gè)xi（i=1,2，…，m）變量輸入和一個(gè)yj變量輸出時(shí)，這幾個(gè)變量的關(guān)系表達(dá)式為：圖2.3輸入-輸出關(guān)系式其中常量θj是變量j的臨界值，Wij是變量i到j(luò)的連接系數(shù)，f（）為神經(jīng)元的活化函數(shù)。2.1.2人工神經(jīng)網(wǎng)絡(luò)的構(gòu)成神經(jīng)網(wǎng)絡(luò)是通過(guò)一個(gè)一個(gè)的小神經(jīng)元利用多種多樣的連接方式構(gòu)成的一個(gè)信息處理網(wǎng)絡(luò)，所以不同的神經(jīng)元連接在一起它們的處理信息能力也是不同的，不同的連接方式?jīng)Q定了神經(jīng)網(wǎng)絡(luò)功能的大小和種類，還控制著神經(jīng)網(wǎng)絡(luò)的信息整理功能。神經(jīng)網(wǎng)絡(luò)模型可分為以下幾種：1）前向網(wǎng)絡(luò)最開(kāi)始使用的神經(jīng)網(wǎng)絡(luò)連接結(jié)構(gòu)，神經(jīng)元根據(jù)輸入層，中介層和輸出層依次排列，形成了網(wǎng)絡(luò)化的結(jié)構(gòu)，輸入信息又通過(guò)輸入層進(jìn)入人工神經(jīng)網(wǎng)絡(luò)，經(jīng)過(guò)中間層，從輸出層得到最終輸出。圖2.4前向網(wǎng)絡(luò)結(jié)構(gòu)2）從輸出到輸入有反饋的前向網(wǎng)絡(luò)輸出層通過(guò)對(duì)輸入層的信息之間的反饋，這種類型的網(wǎng)絡(luò)的作用是保存模式的序列，例如回歸反向傳播網(wǎng)絡(luò)。圖2.5有反饋的前向網(wǎng)絡(luò)結(jié)構(gòu)3)層內(nèi)互連的前向網(wǎng)絡(luò)結(jié)構(gòu)每層神經(jīng)元內(nèi)部相互連接結(jié)合的前向網(wǎng)絡(luò)。神經(jīng)元之間相互作用，控制層內(nèi)其他神經(jīng)元的狀態(tài)或者將網(wǎng)絡(luò)分組以實(shí)現(xiàn)其他類型的前向網(wǎng)絡(luò)不能完成的功能。圖2.6有相互結(jié)合的前向網(wǎng)絡(luò)結(jié)構(gòu)2.2BP網(wǎng)絡(luò)模型及其算法原理2.2.1BP神經(jīng)網(wǎng)絡(luò)定義BP神經(jīng)網(wǎng)絡(luò)(又叫做反向傳播網(wǎng)絡(luò))是一種根據(jù)誤差反向傳播算法訓(xùn)練的多層前饋神經(jīng)網(wǎng)絡(luò)。輸入層、中間層、輸出層構(gòu)成了整個(gè)神經(jīng)網(wǎng)絡(luò)的模型結(jié)構(gòu)，其中中間層能夠增加變成多層構(gòu)造。每一層都是通過(guò)神經(jīng)元相互連接，位于相同一層的神經(jīng)元沒(méi)有聯(lián)系，網(wǎng)絡(luò)的傳遞按照導(dǎo)師方法來(lái)實(shí)行。2.2.2BP網(wǎng)絡(luò)模型及其算法框圖BP網(wǎng)絡(luò)能夠?qū)崿F(xiàn)輸入與輸出的非線性映射關(guān)系，其算法模型如圖2.8所示。圖2.8BP算法前饋網(wǎng)絡(luò)模型其中是輸入向量；是隱層輸出向量；是輸出層輸出向量；是輸入-隱層的權(quán)值矩陣；是隱層-輸出的權(quán)值矩陣；本文所采用的BP神經(jīng)網(wǎng)絡(luò)算法，基本結(jié)構(gòu)和前文所述的前向結(jié)構(gòu)相同，都包含有輸入層，中間層和輸出層，輸入信號(hào)和輸入信息經(jīng)過(guò)數(shù)據(jù)的預(yù)處理層進(jìn)入人工神經(jīng)網(wǎng)絡(luò)，經(jīng)過(guò)中間層的激勵(lì)函數(shù)的處理，由輸出層輸出最終結(jié)果。2.3BP神經(jīng)網(wǎng)絡(luò)的主要功能BP神經(jīng)網(wǎng)絡(luò)是前饋網(wǎng)絡(luò)的核心，以其強(qiáng)大的映射和學(xué)習(xí)適應(yīng)能力成為目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)主要用于下述方面REF_Ref23296\r\h[13]：（1）函數(shù)逼近：通過(guò)大量歷史數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)與目標(biāo)函數(shù)近似；（2）模式識(shí)別和分類：利用已知輸入和待定輸出找出之間關(guān)系；把數(shù)據(jù)信息按定義的適當(dāng)方式進(jìn)行分類；（3）數(shù)據(jù)壓縮：減少數(shù)據(jù)矢量維數(shù)以提高傳存效率。3BP神經(jīng)網(wǎng)絡(luò)在非線性系統(tǒng)中的應(yīng)用3.1神經(jīng)網(wǎng)絡(luò)GUI實(shí)現(xiàn)非線性系統(tǒng)設(shè)計(jì)美國(guó)的mathworks軟件公司出品的Matlab具有GUI(GraphicalUserInterfaces)功能，能夠讓客戶利用計(jì)算機(jī)的操作設(shè)計(jì)和模仿神經(jīng)網(wǎng)絡(luò)，借此完成針對(duì)神經(jīng)網(wǎng)絡(luò)的非線性程序設(shè)計(jì)。3.1.1GUI設(shè)計(jì)工具的菜單方式在Matlab的主界面中，選擇File菜單中的New菜單選項(xiàng)，再選擇其中的GUI命令（如圖），就會(huì)顯示GUI的設(shè)計(jì)模板。圖3.1GUIMatlab為用戶設(shè)計(jì)了4種GUI模式以供選擇使用（如圖3.1），分別是:（1）;（2）;（3）;（4）。圖3.4GUIwithAxesandMenu圖3.5ModalQuestionDialog3.1.2圖形用戶界面設(shè)計(jì)窗口打開(kāi)GUI設(shè)計(jì)窗口，選擇好設(shè)計(jì)模式，開(kāi)始進(jìn)行圖形編輯設(shè)計(jì)。圖3.6GUI設(shè)計(jì)窗口3.2GUI控制系統(tǒng)界面3.2.1GUI控制系統(tǒng)界面設(shè)計(jì)（1）運(yùn)行程序MATLAB，先在程序中輸入字符“guide”，彈出一個(gè)窗口，選擇whilegui，在單擊ok，會(huì)進(jìn)入MATLABGUI。單擊“panel”，然后雙擊相應(yīng)的控件，如圖1。更改控件title的屬性變成“1”、再建立一個(gè)非線性函數(shù)，然后再把fontsize的屬性更改成“8”，如圖2，3。增加statictext，edittext和pushbutton組件，更改好各個(gè)控件的屬性參數(shù)如圖4。圖4添加各控件后圖同理，將軟件需要的其他控件一次添加，并修改好各控件的屬性。添加，修改后如圖5。圖5添加及修改各控件后的圖點(diǎn)擊右鍵每一個(gè)控件，選取viewcallbacks目錄下的callback，輸入各部分功能實(shí)現(xiàn)代碼。3.2.2運(yùn)行效果代碼編寫完成，編譯無(wú)誤后，點(diǎn)擊運(yùn)行圖標(biāo)，如圖6。圖6運(yùn)行按鈕運(yùn)行后的效果圖，如圖7。圖7運(yùn)行效果圖

4BP網(wǎng)絡(luò)在非線性函數(shù)中的應(yīng)用4.1BP網(wǎng)絡(luò)在函數(shù)逼近中的應(yīng)用4.1.1問(wèn)題的提出反向傳播網(wǎng)絡(luò)有很強(qiáng)的非線性映射功能，主要進(jìn)行對(duì)函數(shù)擬合、函數(shù)逼近、數(shù)據(jù)預(yù)測(cè)等等。要求制作一個(gè)反向傳播網(wǎng)絡(luò)，逼近，然后得到一個(gè)逼近BP網(wǎng)絡(luò)的非線性函數(shù)。其中，先后利用1，2，4的頻率參數(shù)來(lái)進(jìn)行模擬，利用調(diào)節(jié)參數(shù)變量（例如隱藏層節(jié)點(diǎn)數(shù)量等等）得到信號(hào)的頻率與隱藏層節(jié)點(diǎn)之間，隱藏層節(jié)點(diǎn)與函數(shù)逼近能力之間的關(guān)系。BP網(wǎng)絡(luò)由的構(gòu)成是兩種：正向和反向計(jì)算結(jié)合。在正向的計(jì)算中，首先輸入的函數(shù)取值傳到隱層的節(jié)點(diǎn)，經(jīng)過(guò)中間我們自己設(shè)定的傳遞函數(shù)，再把所得到的信息通過(guò)隱層的節(jié)點(diǎn)輸出到輸出節(jié)點(diǎn)，最后輸出這個(gè)結(jié)果。若輸出的結(jié)果與期望值存在較大的誤差，則是要進(jìn)行反向的誤差運(yùn)算。將所得到的誤差信號(hào)通過(guò)原先輸出的通路返回，通過(guò)修改連接各個(gè)節(jié)點(diǎn)的權(quán)值使誤差減小到可接受的范圍。圖4.0是BP神經(jīng)網(wǎng)絡(luò)的計(jì)算過(guò)程的流程圖。圖4.0BP神經(jīng)網(wǎng)絡(luò)的計(jì)算過(guò)程的流程圖4.1.2基于BP神經(jīng)網(wǎng)絡(luò)逼近函數(shù)步驟1：首先設(shè)定頻率參數(shù)k=1，然后制作要逼近的非線性函數(shù)的曲線。得到如圖4.1所示的函數(shù)曲線。圖4.1要逼近的非線性函數(shù)曲線步驟2：網(wǎng)絡(luò)的建立用newff()函數(shù)做一個(gè)BP網(wǎng)絡(luò)結(jié)構(gòu)。隱層神經(jīng)元數(shù)量n能改變，先將其假定為n=3，那么輸出層將有一個(gè)神經(jīng)元。網(wǎng)絡(luò)訓(xùn)練利用L-M算法來(lái)建立函數(shù)，其中選擇輸出層采用purelin函數(shù)，隱藏層的神經(jīng)元傳遞采用tansig傳遞函數(shù)。與此同時(shí)畫一個(gè)網(wǎng)絡(luò)輸出曲線圖，并和原來(lái)的函數(shù)相對(duì)比，得到如圖4.2所示的結(jié)果。圖4.2未訓(xùn)練網(wǎng)絡(luò)的輸出結(jié)果因?yàn)橛胣ewff()函數(shù)進(jìn)行創(chuàng)建函數(shù)網(wǎng)絡(luò)時(shí)，臨界值和權(quán)值的起始化是隨機(jī)的，所以網(wǎng)絡(luò)輸出結(jié)構(gòu)特別不好，無(wú)法達(dá)到函數(shù)逼近的目標(biāo)，每一次運(yùn)行的結(jié)果也總有不同的地方。步驟3：網(wǎng)絡(luò)訓(xùn)練在使用train（）函數(shù)進(jìn)行實(shí)驗(yàn)以前，首先設(shè)置網(wǎng)絡(luò)訓(xùn)練的初始數(shù)據(jù)，第一步確定訓(xùn)練時(shí)間為50，第二步選擇0.01的訓(xùn)練精度，其余的訓(xùn)練參數(shù)不做改變選擇默認(rèn)值。訓(xùn)練結(jié)束以后，整理數(shù)據(jù)得到圖4.3。圖4.3訓(xùn)練過(guò)程(訓(xùn)練誤差、驗(yàn)證誤差、測(cè)試誤差曲線)由以上結(jié)論可知，網(wǎng)絡(luò)訓(xùn)練速度特別迅速，只需一次循環(huán)跌送過(guò)程就能達(dá)到要求的精度0.01。步驟4：網(wǎng)絡(luò)測(cè)試將訓(xùn)練之后的網(wǎng)絡(luò)來(lái)一次仿真：制作一個(gè)網(wǎng)絡(luò)輸出曲線，并與原來(lái)非線性函數(shù)曲線和未訓(xùn)練網(wǎng)絡(luò)輸出結(jié)果曲線相對(duì)比，得出訓(xùn)練后網(wǎng)絡(luò)的輸出結(jié)果如圖4.4所示。圖4.4訓(xùn)練后網(wǎng)絡(luò)的輸出結(jié)果由此可以看出，非線性函數(shù)曲線圖目標(biāo)和訓(xùn)練后的曲線圖的幾乎一模一樣。這充分表明經(jīng)過(guò)訓(xùn)練后的網(wǎng)絡(luò)的逼近結(jié)果比未經(jīng)訓(xùn)練前好太多。4.2.3不同頻率下的逼近效果將頻率參數(shù)和非線性函數(shù)進(jìn)行更換然后和隱層神經(jīng)元數(shù)目進(jìn)行比較。（1）假定頻率參數(shù)設(shè)定為k=4，那么隱層神經(jīng)元的數(shù)量依次取為n=6、n=8后，獲得了訓(xùn)練后的網(wǎng)絡(luò)輸出結(jié)果如圖4.5，4.6所示。圖4.5n=6時(shí)訓(xùn)練后網(wǎng)絡(luò)的效果圖4.6n=8時(shí)訓(xùn)練后網(wǎng)絡(luò)的效果（2）假定頻率參數(shù)k為6，那么隱層神經(jīng)元數(shù)目分別取n=10、n=12時(shí)，得到的訓(xùn)練后的網(wǎng)絡(luò)輸出結(jié)果如圖4.7，4.8所示。圖4.7n=10時(shí)訓(xùn)練后網(wǎng)絡(luò)的效果圖4.8n=12時(shí)訓(xùn)練后網(wǎng)絡(luò)的效果（3）設(shè)頻率參數(shù)k為8，當(dāng)隱層神經(jīng)元數(shù)目分別取n=15、n=20時(shí)，得到了訓(xùn)練后的網(wǎng)絡(luò)輸出結(jié)果如圖4.9，4.10所示圖4.9n=15時(shí)訓(xùn)練后網(wǎng)絡(luò)的效果圖4.10n=20時(shí)訓(xùn)練后網(wǎng)絡(luò)的效果（以上所有圖中實(shí)線表示要逼近的非線性函數(shù)曲線；帶點(diǎn)的線表示未經(jīng)訓(xùn)練的函數(shù)曲線；虛線表示經(jīng)過(guò)訓(xùn)練的函數(shù)曲線）4.2.4討論由上述具體實(shí)例可總結(jié)，當(dāng)k=4，n=6時(shí)；k=6，n=10時(shí)；k=8，n=15時(shí)，對(duì)該非線性函數(shù)有逼近效果更明顯。所以得到，n值的多少對(duì)網(wǎng)絡(luò)的函數(shù)逼近效果的影響是非常巨大的。同理可知變化網(wǎng)絡(luò)隱藏層神經(jīng)元的數(shù)目，也可以對(duì)這種逼近效果產(chǎn)生極大的影響。隱層神經(jīng)元的數(shù)量越多，預(yù)示著在BP網(wǎng)絡(luò)能夠更加逼近非線性函數(shù)。4.2BP網(wǎng)絡(luò)在函數(shù)擬合中的應(yīng)用4.2.1問(wèn)題的提出如圖所示，研究不同映射函數(shù)及訓(xùn)練算法對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行函數(shù)擬合的影響4.2.2不同隱層神經(jīng)元數(shù)對(duì)BP網(wǎng)絡(luò)擬合函數(shù)的影響設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為L(zhǎng)og-sigmoid型函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.1訓(xùn)練結(jié)果（隱層神經(jīng)元數(shù)20）設(shè)定隱層神經(jīng)元數(shù)為100，其他各層間映射函數(shù)不變，建立神經(jīng)網(wǎng)絡(luò)，同樣選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.2訓(xùn)練結(jié)果（隱層神經(jīng)元數(shù)100）4.2.3不同映射函數(shù)對(duì)BP網(wǎng)絡(luò)擬合函數(shù)的影響設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為指數(shù)函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.3訓(xùn)練結(jié)果(輸入層-隱層采樣指數(shù)函數(shù))設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為正切函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.4訓(xùn)練結(jié)果(輸入層-隱層采樣正切函數(shù))設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為線性函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.5訓(xùn)練結(jié)果(輸入層-隱層采樣線性函數(shù))設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為指數(shù)函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.6訓(xùn)練結(jié)果(隱層-輸出層采樣線性函數(shù))設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為指數(shù)函數(shù)，隱層-輸出層映射函數(shù)為正切傳遞函數(shù)，建立神經(jīng)網(wǎng)絡(luò)，選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.7訓(xùn)練結(jié)果(隱層-輸出層采樣正切函數(shù))設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為指數(shù)函數(shù)，隱層-輸出層映射函數(shù)為指數(shù)傳遞函數(shù)，建立神經(jīng)網(wǎng)絡(luò)，選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.8訓(xùn)練結(jié)果(隱層-輸出層采樣指數(shù)函數(shù))4.2.4不同算法對(duì)BP網(wǎng)絡(luò)擬合函數(shù)的影響設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為指數(shù)函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇L-M算法訓(xùn)練網(wǎng)絡(luò)圖4.2.9訓(xùn)練結(jié)果(L-M算法)設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為指數(shù)函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇動(dòng)量梯度算法訓(xùn)練網(wǎng)絡(luò)圖4.2.10訓(xùn)練結(jié)果(動(dòng)量梯度算法)設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為指數(shù)函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇貝葉斯正則化算法訓(xùn)練網(wǎng)絡(luò)圖4.2.11訓(xùn)練結(jié)果(貝葉斯正則化算法)設(shè)定隱層神經(jīng)元數(shù)為20，輸入層-隱層映射函數(shù)為指數(shù)函數(shù)，隱層-輸出層映射函數(shù)為線性傳遞函數(shù)purelin，建立神經(jīng)網(wǎng)絡(luò)，選擇復(fù)位算法訓(xùn)練網(wǎng)絡(luò)圖4.2.12訓(xùn)練結(jié)果(復(fù)位算法)4.2.5結(jié)果討論在其他變量相同的條件下，隱層神經(jīng)元數(shù)目越大越易收斂；輸入層-隱層：采樣指數(shù)函數(shù)較易收斂；隱層-輸出層：采樣線性函數(shù)較易收斂；采樣不同訓(xùn)練算法，收斂速度不同，甚至不收斂。

5結(jié)束