神經(jīng)網(wǎng)絡(luò)與matlab課件

人工智能光電學(xué)院E-mail：

第十一章神經(jīng)網(wǎng)絡(luò)與MATLABNeuralNetworkSoftware

Programin:Programminglanguage(C++,Java,VB)NeuralnetworkpackageorNNprogrammingtoolTools(shells)incorporate:(MATLAB)TrainingalgorithmsTransferandsummationfunctionsMaystillneedto:ProgramthelayoutofthedatabasePartitionthedata(testdata,trainingdata)TransferthedatatofilessuitableforinputtoanANNtoolMATLAB神經(jīng)網(wǎng)絡(luò)工具箱

美國(guó)的Mathwork公司推出的MATLAB軟件包既是一種非常實(shí)用有效的科研編程軟件環(huán)境，又是一種進(jìn)行科學(xué)和工程計(jì)算的交互式程序。MATLAB本身帶有神經(jīng)網(wǎng)絡(luò)工具箱，可以大大方便權(quán)值訓(xùn)練，減少訓(xùn)練程序工作量，有效的提高工作效率.NeuralNetworkToolbox(MathWorks)simulink簡(jiǎn)介什么是simulinkSIMULINK是MATLAB軟件的擴(kuò)展，它是實(shí)現(xiàn)動(dòng)態(tài)系統(tǒng)建模和仿真的一個(gè)集成開(kāi)發(fā)環(huán)境，提供建立系統(tǒng)模型、選擇仿真參數(shù)和數(shù)值算法、啟動(dòng)仿真程序?qū)υ撓到y(tǒng)進(jìn)行仿真、設(shè)置不同的輸出方式來(lái)觀察仿真結(jié)果等功能。Simulink優(yōu)點(diǎn)適應(yīng)面廣：包括線(xiàn)性、非線(xiàn)性系統(tǒng)；離散、連續(xù)以及混合系統(tǒng)；單任務(wù)、多任務(wù)離散事件系統(tǒng)；交互式、圖形化的建模環(huán)境：以方塊圖形式呈現(xiàn)，比較直觀，容易構(gòu)造，運(yùn)行速度較快；仿真精細(xì)、貼近實(shí)際。MATLAB的神經(jīng)網(wǎng)絡(luò)工具箱簡(jiǎn)介構(gòu)造典型神經(jīng)網(wǎng)絡(luò)的激活函數(shù)，使設(shè)計(jì)者對(duì)所選網(wǎng)絡(luò)輸出的計(jì)算變成對(duì)激活函數(shù)的調(diào)用。根據(jù)各種典型的修正網(wǎng)絡(luò)權(quán)值的規(guī)則，再加上網(wǎng)絡(luò)的訓(xùn)練過(guò)程，利用matlab編寫(xiě)各種網(wǎng)絡(luò)設(shè)計(jì)和訓(xùn)練的子程序。設(shè)計(jì)人員可以根據(jù)自己的需要去調(diào)用工具箱中有關(guān)的設(shè)計(jì)和訓(xùn)練程序，將自己從繁瑣的編程中解脫出來(lái)，提高工作效率。目前，神經(jīng)網(wǎng)絡(luò)工具箱中提供的神經(jīng)網(wǎng)絡(luò)模型主要應(yīng)用于：函數(shù)逼近和模型擬合信息處理和預(yù)測(cè)神經(jīng)網(wǎng)絡(luò)控制故障診斷確定信息表達(dá)方式：將領(lǐng)域問(wèn)題抽象為適合于網(wǎng)絡(luò)求解所能接受的某種數(shù)據(jù)形式。問(wèn)題形式的種類(lèi)：數(shù)據(jù)樣本已知；數(shù)據(jù)樣本之間相互關(guān)系不明確；輸入/輸出模式為連續(xù)的或者離散的；輸入數(shù)據(jù)按照模式進(jìn)行分類(lèi)，模式可能會(huì)具有平移、旋轉(zhuǎn)或者伸縮等變化形式；數(shù)據(jù)樣本的預(yù)處理；將數(shù)據(jù)樣本分為訓(xùn)練樣本和測(cè)試樣本網(wǎng)絡(luò)模型的確定主要是根據(jù)問(wèn)題的實(shí)際情況，選擇模型的類(lèi)型、結(jié)構(gòu)等。另外，還可以在典型網(wǎng)絡(luò)模型的基礎(chǔ)上，結(jié)合問(wèn)題的具體情況，對(duì)原網(wǎng)絡(luò)進(jìn)行變形、擴(kuò)充等，同時(shí)還可以采用多種網(wǎng)絡(luò)模型的組合形式。網(wǎng)絡(luò)參數(shù)的選擇確定網(wǎng)絡(luò)的輸入輸出神經(jīng)元的數(shù)目，如果是多層網(wǎng)絡(luò)，還需要進(jìn)一步確定隱含層神經(jīng)元的個(gè)數(shù)。訓(xùn)練模式的確定包括選擇合理的測(cè)試樣本，對(duì)網(wǎng)絡(luò)進(jìn)行測(cè)試、或者將網(wǎng)絡(luò)應(yīng)用于實(shí)際問(wèn)題，檢驗(yàn)網(wǎng)絡(luò)性能。網(wǎng)絡(luò)測(cè)試選擇合理的測(cè)試樣本，對(duì)網(wǎng)絡(luò)進(jìn)行測(cè)試，或者將網(wǎng)絡(luò)應(yīng)用于實(shí)際問(wèn)題，檢驗(yàn)網(wǎng)絡(luò)性能。函數(shù)類(lèi)型函數(shù)名稱(chēng)函數(shù)用途輸入函數(shù)netsum輸入求和函數(shù)netprcd輸入求積函數(shù)concur使權(quán)值向量和閾值向量的結(jié)構(gòu)一致其它dotprod權(quán)值求積函數(shù)BP網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)工具箱函數(shù)函數(shù)類(lèi)型函數(shù)名稱(chēng)函數(shù)用途前向網(wǎng)絡(luò)創(chuàng)建函數(shù)傳遞函數(shù)學(xué)習(xí)函數(shù)函數(shù)類(lèi)型函數(shù)名稱(chēng)函數(shù)用途性能函數(shù)顯示函數(shù)參數(shù)TFi可以采用任意的可微傳遞函數(shù)，比如transig，logsig和purelin等；訓(xùn)練函數(shù)可以是任意的BP訓(xùn)練函數(shù)，如trainm，trainbfg，trainrp和traingd等。BTF默認(rèn)采用trainlm是因?yàn)楹瘮?shù)的速度很快，但該函數(shù)的一個(gè)重要缺陷是運(yùn)行過(guò)程會(huì)消耗大量的內(nèi)存資源。如果計(jì)算機(jī)內(nèi)存不夠大，不建議用trainlm，而建議采用訓(xùn)練函數(shù)trainbfg或trainrp。雖然這兩個(gè)函數(shù)的運(yùn)行速度比較慢，但它們的共同特點(diǎn)是內(nèi)存占用量小，不至于出現(xiàn)訓(xùn)練過(guò)程死機(jī)的情況。說(shuō)明：二、神經(jīng)元上的傳遞函數(shù)傳遞函數(shù)是BP網(wǎng)絡(luò)的重要組成部分，必須是連續(xù)可微的，BP網(wǎng)絡(luò)常采用S型的對(duì)數(shù)或正切函數(shù)和線(xiàn)性函數(shù)。Logsig傳遞函數(shù)為S型的對(duì)數(shù)函數(shù)。調(diào)用格式為：A=logsig（N） N：Q個(gè)S維的輸入列向量； A：函數(shù)返回值，位于區(qū)間(0,1)中BP網(wǎng)絡(luò)及MATLAB實(shí)現(xiàn)以一個(gè)單隱層的BP網(wǎng)絡(luò)設(shè)計(jì)為例，介紹利用神經(jīng)網(wǎng)絡(luò)工具箱進(jìn)行BP網(wǎng)絡(luò)設(shè)計(jì)及分析的過(guò)程1.問(wèn)題描述P=-1：0.1:1;T=[-0.9602-0.577.-0.07290.37710.64050.66000.46090.1336-0.2013-0.4344-0.5000-0.3930-0.16470.09880.30720.39600.34490.1816-0.0312-0.2189-0.3201]通過(guò)對(duì)函數(shù)進(jìn)行采樣得到了網(wǎng)絡(luò)的輸入變量P和目標(biāo)變量T：2.網(wǎng)絡(luò)的設(shè)計(jì)網(wǎng)絡(luò)的輸入層和輸出層的神經(jīng)元個(gè)數(shù)均為1，網(wǎng)絡(luò)的隱含神經(jīng)元個(gè)數(shù)應(yīng)該在3~8之間。網(wǎng)絡(luò)設(shè)計(jì)及運(yùn)行的代碼：s=3:8;res=1:6;fori=1:6;net=newff(minmax(P),[s(i),1],['tansig',logsig],'traingdx');net.trainParam.epachs=2000;n