(采用BP神經(jīng)網(wǎng)絡(luò)完成非線性函數(shù)的逼近)神經(jīng)網(wǎng)絡(luò)

控制系統(tǒng)仿真與模型處理設(shè)計(jì)報(bào)告（采用BP神經(jīng)網(wǎng)絡(luò)完成非線性函數(shù)的逼近）、題目要求:確定一種神經(jīng)網(wǎng)絡(luò)、網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)和學(xué)習(xí)算法。選擇適當(dāng)?shù)挠?xùn)練樣本和檢驗(yàn)樣本，給出選取方法。訓(xùn)練網(wǎng)絡(luò)使學(xué)習(xí)目標(biāo)誤差函數(shù)達(dá)到0.01，寫出學(xué)習(xí)結(jié)束后的網(wǎng)絡(luò)各參數(shù)，并繪制學(xué)習(xí)之前、第100次學(xué)習(xí)和學(xué)習(xí)結(jié)束后各期望輸出曲線、實(shí)際輸出曲線。繪制網(wǎng)絡(luò)訓(xùn)練過程的目標(biāo)誤差函數(shù)曲線。驗(yàn)證網(wǎng)絡(luò)的泛化能力，給出網(wǎng)絡(luò)的泛化誤差。繪制網(wǎng)絡(luò)檢驗(yàn)樣本的期望輸出曲線和網(wǎng)絡(luò)輸出曲線。分別改變神經(jīng)網(wǎng)絡(luò)的中間節(jié)點(diǎn)個(gè)數(shù)、改變網(wǎng)絡(luò)的層數(shù)、改變學(xué)習(xí)算法進(jìn)行比較實(shí)驗(yàn)，討論系統(tǒng)的逼近情況，給出你自己的結(jié)論和看法。2、設(shè)計(jì)方案:在MATLAB中建立M文件下輸入如下命令：x二[0:0.01:1];y=2.2*power(x-0.25,2)+sin(5*pi*x);plot(x,y)xlabel('x');ylabel('y');title('非線性函數(shù)')；得到如下圖形，即所給的非線性函數(shù)曲線圖:非線性函數(shù)構(gòu)造一個(gè)1-7-1的BP神經(jīng)網(wǎng)絡(luò)，第一層為輸入層，節(jié)點(diǎn)個(gè)數(shù)為1；第二層為隱層，節(jié)點(diǎn)個(gè)數(shù)為7；變換函數(shù)選正切s型函數(shù)(tansig)；第三層為輸出層，節(jié)點(diǎn)個(gè)數(shù)為1,輸出層神經(jīng)元傳遞函數(shù)為purelin函數(shù)。并且選Levenberg-Marquardt算法(trainlm)為BP網(wǎng)絡(luò)的學(xué)習(xí)算法。對(duì)于該初始網(wǎng)絡(luò)，我們選用sim()函數(shù)觀察網(wǎng)絡(luò)輸出。繼續(xù)在M函數(shù)中如下輸入。net二newff(minmax(x),[l,7,l],{'tansig'，‘tansig','purelin'},'trainlm');y1=sim(net,x);figure;plot(x,y,'b',x,yl,'r')title('期望輸出與實(shí)際輸出比較')；xlabel('t');則得到以下所示訓(xùn)練的BP網(wǎng)絡(luò)期望輸出與實(shí)際輸出曲線比較：應(yīng)用函數(shù)train()對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練之前，需要預(yù)先設(shè)置訓(xùn)練參數(shù)。將最大訓(xùn)練次數(shù)為100次，訓(xùn)練精度設(shè)置為0.01，學(xué)習(xí)速度為0.01。net.trainParam.epochs=100;net.trainParam.goal=0.001;net.trainParam.lr=0.01;net二train(net,x,y);y2=sim(net,x);

figure;plot(X,y,'—r',x,y2,'*g')title('訓(xùn)練后的結(jié)果')；下圖為網(wǎng)絡(luò)訓(xùn)練過程，可以看到，當(dāng)訓(xùn)練4次以后，就已達(dá)要求。BestTrainingPerformanceisNaNatepoch40511.522.54Epochs33.54-BestTrainingPerformanceisNaNatepoch40511.522.54Epochs33.54-OO1(dmE)o」LnPQ」EnbsUEe芝下圖為訓(xùn)練后的結(jié)果曲線，“*”為學(xué)習(xí)過后的曲線，紅線為期望輸出，兩條曲線已經(jīng)很相近了。這說明經(jīng)過訓(xùn)練后，BP網(wǎng)絡(luò)對(duì)非線性函數(shù)的逼近效果相當(dāng)好?！居?xùn)練后的結(jié)果【訓(xùn)練后的結(jié)果接著檢驗(yàn)網(wǎng)絡(luò)的泛化能力，在M文件后，繼續(xù)輸入err=y—y2;

figure;plot（x,y2,，*g，,x,err,，+c，）;得到以下圖形，由圖可知，網(wǎng)絡(luò)具有很好的泛化能力。將神經(jīng)網(wǎng)絡(luò)的節(jié)點(diǎn)數(shù)為3時(shí)，相關(guān)圖形如下。

BestTrainingPerformanceisNaNatepoch100o(BSE)5」LLjpa」EnbsLI'rooBestTrainingPerformanceisNaNatepoch100o(BSE)5」LLjpa」EnbsLI'rooIAIinai-1—stal

eo

BG0102030405060708090100100Epochs從上面3個(gè)圖中我們可以看出，當(dāng)節(jié)點(diǎn)為3時(shí)，經(jīng)過訓(xùn)練后，BP網(wǎng)絡(luò)對(duì)非線性函數(shù)的逼近效果明顯減弱，并且在經(jīng)過100次訓(xùn)練后仍然達(dá)不到所要求的輸出精度。我由此推出，當(dāng)層數(shù)一樣多的時(shí)候，隱層神經(jīng)元數(shù)目愈多，則BP網(wǎng)絡(luò)逼近非線性函數(shù)的能力越強(qiáng)。我把上述的層數(shù)分布：1-7-1改為1-3-5-1,得到以下的結(jié)果:云SE)」ELLjpXD」ranbsuro①乏從三幅圖中我們可以看到，在神經(jīng)元數(shù)目一樣的情況下，不同的層數(shù)對(duì)結(jié)果00.100.10.20.30.40_50_6070.80.91x是有明顯影響的。我將原訓(xùn)練函數(shù)trainlm改為traingd,得到以下輸出結(jié)果。期望輸出與實(shí)際輸出比較21.51a0.50-0.5I-10102030405001020304050SO708090100100Epochs10'「10°10'110-210-3

從三幅圖可以看出，將trainlm改為traingd之后，連所要求的精度都不能達(dá)到。我由此推出，訓(xùn)練算法對(duì)非線性函數(shù)的逼近有一定影響，應(yīng)當(dāng)選擇適合的訓(xùn)練算法。3、總結(jié):通過這次作業(yè)，我總算對(duì)神經(jīng)網(wǎng)絡(luò)有