BP神經(jīng)網(wǎng)絡和簡單示例

神經(jīng)網(wǎng)絡

——淺嘗數(shù)學建模工作室張敏BP神經(jīng)網(wǎng)絡和簡單示例第1頁神經(jīng)網(wǎng)絡淺嘗神經(jīng)網(wǎng)絡基礎知識慣用函數(shù)介紹案例——蠓蟲分類BP神經(jīng)網(wǎng)絡和簡單示例第2頁神經(jīng)網(wǎng)絡基礎知識組成：大量簡單基本元件——神經(jīng)元相互連接工作原理：模擬生物神經(jīng)處理信息方式功效：進行信息并行處理和非線性轉(zhuǎn)化特點：比較輕松地實現(xiàn)非線性映射過程含有大規(guī)模計算能力BP神經(jīng)網(wǎng)絡和簡單示例第3頁醫(yī)學：疾病識別圖像：識別、去噪、增強、配準、融合金融：股票和有價證券預測分析、資本收益預測和分析、風險管理、信用評定等等應用范圍BP神經(jīng)網(wǎng)絡和簡單示例第4頁神經(jīng)網(wǎng)絡結(jié)構(gòu)圖輸入層輸出層中間層BP神經(jīng)網(wǎng)絡和簡單示例第5頁樹突細胞核細胞體軸突突觸神經(jīng)末梢生物神經(jīng)元結(jié)構(gòu)：BP神經(jīng)網(wǎng)絡和簡單示例第6頁神經(jīng)元結(jié)構(gòu)模型x1x2xjx3xnyi能夠看出神經(jīng)元普通表現(xiàn)為一個多輸入、單輸出非線性器件xj為輸入信號，

為閾值，

表示與神經(jīng)元xj

連接權(quán)值

yi表示輸出值BP神經(jīng)網(wǎng)絡和簡單示例第7頁傳遞函數(shù)閾值型線性型S型BP神經(jīng)網(wǎng)絡和簡單示例第8頁神經(jīng)網(wǎng)絡互連模式神經(jīng)元分層排列，分別組成輸入層、中間層(也叫隱含層，能夠由若干層組成)和輸出層。前向網(wǎng)絡：輸入層輸出層中間層特點：每層只接收前一層信息，沒有反饋。如：感知器網(wǎng)絡和BP神經(jīng)網(wǎng)絡BP神經(jīng)網(wǎng)絡和簡單示例第9頁有反饋前向神經(jīng)網(wǎng)絡：特點：輸出層對輸入層有反饋信息。如：認知機和回歸BP網(wǎng)絡。BP神經(jīng)網(wǎng)絡和簡單示例第10頁層內(nèi)有相互結(jié)合前向網(wǎng)絡：特點：能夠?qū)崿F(xiàn)同一層內(nèi)神經(jīng)元之間橫向抑制或興奮作用BP神經(jīng)網(wǎng)絡和簡單示例第11頁相互結(jié)合型網(wǎng)絡：特點：任意兩個神經(jīng)元之間都可能有聯(lián)絡BP神經(jīng)網(wǎng)絡和簡單示例第12頁BP神經(jīng)網(wǎng)絡多層前饋神經(jīng)網(wǎng)絡，信號向前傳輸，誤差向后傳輸。輸入層輸出層中間層ijkBP神經(jīng)網(wǎng)絡和簡單示例第13頁輸入層輸出層中間層ijk中間層：輸入輸出BP神經(jīng)網(wǎng)絡和簡單示例第14頁輸入層輸出層中間層ijk輸出層:輸入輸出BP神經(jīng)網(wǎng)絡和簡單示例第15頁輸入層輸出層中間層ijkBP神經(jīng)網(wǎng)絡和簡單示例第16頁思緒：1、觸角長和翼長作為輸入信息，分別記為x1,x2。目標輸出：(0,1)、(1,0)。Af類記為(1,0)，Apf類記為(0,1)。輸入層輸出層中間層ijkBP神經(jīng)網(wǎng)絡和簡單示例第17頁輸入層輸出層中間層ijk2、經(jīng)過已知樣本訓練出適當權(quán)值使輸出為(0,1)或(1,0)。3、將待區(qū)分蠓蟲數(shù)據(jù)輸入網(wǎng)絡，求值。BP神經(jīng)網(wǎng)絡和簡單示例第18頁權(quán)值求法：向后傳輸法理想輸出Af類(1,0)，Apf類(0,1)記為

{Tis}則有誤差：使得E(w)最小作為所需權(quán)值BP神經(jīng)網(wǎng)絡和簡單示例第19頁傳遞函數(shù)(激活函數(shù))logsig(S型函數(shù))：MATLAB按此函數(shù)計算：調(diào)用格式：A=logsig(N)如：n=-10:0.1:10a=logsig(n)plot(n,a)gridonBP神經(jīng)網(wǎng)絡和簡單示例第20頁圖形以下：BP神經(jīng)網(wǎng)絡和簡單示例第21頁tansig(雙曲正切S型傳遞函數(shù))：調(diào)用格式：A=tansig(n)如：n=-10:0.1:10a=tansig(n)plot(n,a)gridon如右圖所表示BP神經(jīng)網(wǎng)絡和簡單示例第22頁newff

創(chuàng)建一個BP網(wǎng)絡，其調(diào)用格式為：net=newffnet=newff(PR,[S1S2…SN1],{TF1TF2…TFN1},BTF,BLF,PF)其中，net=newff：用于在對話框中創(chuàng)建一個BP網(wǎng)絡PR：由每組輸入(共有R組輸入)元素最大值和最小值組成R×2維矩陣；Si：第i層長度，共計N1層TFi：第i層傳遞函數(shù)，默認為“tansig”BTF：BP網(wǎng)絡訓練函數(shù)，默認為“trainlm”;BLF：權(quán)值和閾值BP學習算法，默認為“l(fā)earngdm”PF：網(wǎng)絡性能函數(shù)，默認為“mse”慣用函數(shù)BP神經(jīng)網(wǎng)絡和簡單示例第23頁train用于對神經(jīng)網(wǎng)絡進行訓練。調(diào)用格式為：[net,tr,Y,E,Pf,Af]=train(NET,P,T,Pi,Ai)其中，NET：待訓練神經(jīng)網(wǎng)絡；P：網(wǎng)絡輸入信號；T：網(wǎng)絡目標，默認值為0；Pi：初始輸入延遲，默認為0；Ai：初始層次延遲，默認為0；net：函數(shù)返回值，訓練后神經(jīng)網(wǎng)絡；tr：函數(shù)返回值，訓練統(tǒng)計(包含步數(shù)和性能)；Y：函數(shù)返回值，神經(jīng)網(wǎng)絡輸出信號；E：函數(shù)返回值，神經(jīng)網(wǎng)絡誤差；Pf：函數(shù)返回值，最終輸入延遲；Af：函數(shù)返回值，最終層延遲。BP神經(jīng)網(wǎng)絡和簡單示例第24頁神經(jīng)網(wǎng)絡仿真函數(shù)sim調(diào)用格式為：[Y,Pf,Af,E,perf]=sim(net,P,Pi,Ai,T)其中，Y：函數(shù)返回值，網(wǎng)絡輸出；Pf：函數(shù)返回值，最終輸出延遲；Af：函數(shù)返回值，最終層延遲；E：函數(shù)返回值，網(wǎng)絡誤差；perf：函數(shù)返回值，網(wǎng)絡性能；net：待仿真神經(jīng)網(wǎng)絡；P：網(wǎng)絡輸入；Pi：初始輸入延遲，默認為0；Ai：初始層延遲，默認為0；T：網(wǎng)絡目標，默認為0.BP神經(jīng)網(wǎng)絡和簡單示例第25頁clearp1=[1.24,1.27;1.36,1.74;1.38,1.64;1.38,1.82;1.38,1.90;1.40,1.70;1.48,1.82;1.54,1.82;1.56,2.08];p2=[1.14,1.82;1.18,1.96;1.20,1.86;1.26,2.001.28,2.00;1.30,1.96];p=[p1;p2]';pr=minmax(p);goal=[ones(1,9),zeros(1,6);zeros(1,9),ones(1,6)];plot(p1(:,1),p1(:,2),'h',p2(:,1),p2(:,2),'o')net=newff(pr,[3,2],{'logsig