哈工大智能控制神經(jīng)網(wǎng)絡(luò)課件第四課MATLABNN工具箱

1、人工神經(jīng)網(wǎng)絡(luò)理論及應(yīng)用人工神經(jīng)網(wǎng)絡(luò)理論及應(yīng)用屈楨深哈爾濱工業(yè)大學(xué)哈爾濱工業(yè)大學(xué)4. matlab nn工具箱工具箱n入門：從一個簡單例子入門：從一個簡單例子n常用網(wǎng)絡(luò)對象屬性常用網(wǎng)絡(luò)對象屬性nnnnn工具箱中的工具箱中的bpbp算法算法n演示與比較演示與比較nguigui工具工具n字符識別實例字符識別實例matlab nn工具箱介紹支持以下nn模型：n 感知器n bp網(wǎng)絡(luò)n rbfn網(wǎng)絡(luò)n 競爭型網(wǎng)絡(luò)n 自組織網(wǎng)絡(luò)n 反饋網(wǎng)絡(luò)n 時延網(wǎng)絡(luò)n narx網(wǎng)絡(luò)n 自定義網(wǎng)絡(luò)matlab nn工具箱功能nnet 5.0含近200個工具箱函數(shù)，包括：n 各類神經(jīng)網(wǎng)絡(luò)訓(xùn)練；n 圖形化顯示(誤差結(jié)果，權(quán)值等

2、)；n 與simulink緊密結(jié)合，拖放方式創(chuàng)建nn；n simulink中nn control和fuzzy nn實現(xiàn)(anfis) matlab nn表示神經(jīng)網(wǎng)絡(luò)介紹u=-1:0.05:1; %樣本輸入t=0.5+0.5*sin(2*pi*u); %樣本輸出net=newff(-1 1,5 1,tansig,purelin,trainlm);% 訓(xùn)練參數(shù)net.trainparam.goal=1e-6;net.trainparam.epochs=10000; net,tr=train(net,u,t); %訓(xùn)練y=sim(net,u); %實際輸出plot(u,t,b,u,y,r); %期望

3、輸出和實際輸出比較nn工具箱中最重要的對象。引用方式： 網(wǎng)絡(luò)名.子對象.屬性e.g. net.numinputs, net.trainparam.epochs, net.layers1.size代碼中表示方法net對象屬性11ww)2(121ww)3 , 2(1231ww)3 , 2(, 1)(231kwk w 決定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包括輸入向量，網(wǎng)絡(luò)層，輸出向量，權(quán)值向量等, 以及他們的連接關(guān)系numlayers: 神經(jīng)網(wǎng)絡(luò)層數(shù)演示net對象屬性：結(jié)構(gòu)類型net對象屬性：子對象類型inputs：輸入層結(jié)構(gòu)(.range, .size)layers: 各網(wǎng)絡(luò)層結(jié)構(gòu)(.size, .transfer

4、fun)outputs: 輸出向量結(jié)構(gòu)targets: 各網(wǎng)絡(luò)層目標(biāo)向量biases: 各網(wǎng)絡(luò)層閾值向量inputweights: 輸入層權(quán)值向量layerweights: 各網(wǎng)絡(luò)層權(quán)值向量net對象屬性：函數(shù)屬性 定義了在權(quán)值調(diào)整，初始化，性能計算或訓(xùn)練時采用的算法n adaptfcn：權(quán)值/閾值調(diào)整n initfcn：初始化權(quán)值/閾值n performfcn：性能指標(biāo)函數(shù)n trainfcn：訓(xùn)練函數(shù)信號處理net對象屬性：函數(shù)屬性(3)trainfcnn traingdn traingdx +自適應(yīng)學(xué)習(xí)速率+動量因子n trainrp 彈性bpn traincgb 一種改進(jìn)的共軛梯度法n

5、 trainlm levernberg-marquardtn 其他net對象屬性：參數(shù)屬性(train) net.trainparam.epochs 100 最大訓(xùn)練周期 net.trainparam.max_fail 5 最大失敗次數(shù) net.trainparam.mem_reduc 1 內(nèi)存/速度折中系數(shù)(lm) net.trainparam.min_grad 1e-10 最小梯度 net.trainparam.mu 0.001 初始(lm) net.trainparam.mu_dec 0.1 減小系數(shù) net.trainparam.mu_inc 10 增加系數(shù) net.trainpara

6、m.mu_max 1e10 最大 net.trainparam.show 25 訓(xùn)練周期 net.trainparam.time inf 最多訓(xùn)練時間不同訓(xùn)練函數(shù)對應(yīng)參數(shù)可能不同net對象屬性：權(quán)值/閾值基于權(quán)值和閾值屬性的訪問方式：n iw 輸入權(quán)值；n lw 網(wǎng)絡(luò)層權(quán)值；n b 閾值(輸入層+網(wǎng)絡(luò)層)演示matlab中的bp算法n 基于最速下降的方法及改進(jìn)n 基于共軛梯度的方法n 基于二階導(dǎo)數(shù)的方法matlab bp算法: 最速下降法與改進(jìn)n 最速下降法(sdbp)n 動量bp法n 學(xué)習(xí)速率可變的bp算法n 彈性bp算法 訓(xùn)練函數(shù)：traingd 演示 ：nnd12sd1matlab bp

7、算法: 最速下降法)()() 1(kkkgwwmatlab bp算法: 動量bp)()1 ()() 1(kkkgww) 1()() 1(kkkwww 訓(xùn)練函數(shù)：traingdm 演示 ：nnd12momatlab bp算法: 學(xué)習(xí)速率可變bp)() 1()()() 1()() 1(decinckjkjkkkjkjkkk 訓(xùn)練函數(shù)：traingdx 演示 ：nnd12vl matlab bp算法: 彈性bp0)()()1(sign)(sign)(sign)()1(sign)(sign)(sign)() 1(decinckkkkkgkkkkkgkkkgwggwggww 訓(xùn)練函數(shù)：trainrp m

8、atlab bp算法: 共軛梯度法 n fletcher-reeves修正算法(traincgf)n polak-ribiere修正算法(traincgp)n powell-beale修正算法(traincgb)n scaled conjugate gradient算法(trainscg) 演示 ：nnd12cgmatlab bp算法: 基于二階導(dǎo)數(shù)n bfgs算法(trainbfg)n oss算法(trainoss)n levernberg-marquardt(trainlm) 演示 ：nnd12mnn gui工具：nntoolnntool(1) 輸入?yún)^(qū)域(2) 目標(biāo)區(qū)域(3) 神經(jīng)網(wǎng)絡(luò)對象(4) 網(wǎng)絡(luò)輸出數(shù)據(jù)(5) 誤差數(shù)據(jù)引入數(shù)據(jù)網(wǎng)絡(luò)新建數(shù)據(jù)網(wǎng)絡(luò)appcr1輸入：57二值化網(wǎng)格；輸出：a-z 大寫字母功能：自動識別1. 輸入、輸出向量化；2. 使用原始模式訓(xùn)練；3. 加入不同噪聲訓(xùn)練；4.