神經(jīng)網(wǎng)絡(luò)實驗報告

神經(jīng)網(wǎng)絡(luò)實驗報告實驗?zāi)康暮腿蝿?wù)掌握產(chǎn)生實驗數(shù)據(jù)的方法；掌握“時鐘”的使用方法，記錄程序運行時間；掌握評估神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)效果的指標(biāo)方法；模擬神經(jīng)元模型，理解其工作原理；模擬感知機網(wǎng)絡(luò)，用hebbu規(guī)則和BP算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)，用實驗數(shù)據(jù)測試兩種算法學(xué)習(xí)效果的差異；構(gòu)建兩層自組織映射（SOM）神經(jīng)網(wǎng)絡(luò)、兩層ART神經(jīng)網(wǎng)絡(luò)或兩層hopfield神經(jīng)網(wǎng)絡(luò)，并進(jìn)行測試分析，比較不同網(wǎng)絡(luò)的差異。實驗工具和方法借助軟件MATLAB（R2009a）及其神經(jīng)網(wǎng)絡(luò)工具箱NeuralNetworkToolboxVersion6.0.2實驗過程實驗數(shù)據(jù)的產(chǎn)生：假設(shè)噪聲數(shù)據(jù)服從均值為0，方差為1的正態(tài)分布。首先在變量論域產(chǎn)生100個隨機數(shù)，并利用函數(shù)表達(dá)式分別計算其相應(yīng)函數(shù)值，最后分別疊加噪聲數(shù)據(jù)，得到與變量對應(yīng)的100個實驗數(shù)據(jù)。函數(shù)數(shù)據(jù)的產(chǎn)生：使用MATLAB生成均勻隨機數(shù)的函數(shù)rand(m,n)，可生成在m行n列的在(0,1)之間符合均勻分布的隨機數(shù)。x0=rand(1,100);x=100*x0;如此可生成在變量論域(0,100)之間的100個符合均勻分布的隨機數(shù)。假如用來生成實驗數(shù)據(jù)的函數(shù)為，輸入：y1=x.^2+sin(x)即可得到所需的函數(shù)數(shù)據(jù)。噪聲數(shù)據(jù)的產(chǎn)生由于噪聲數(shù)據(jù)服從均值為0，方差為1的正態(tài)分布，使用MATLAB函數(shù)randn(m,n)，可生成在m行n列的在(0,1)之間符合要求的隨機數(shù)。y2=randn(1,100)生成實驗數(shù)據(jù)將實驗數(shù)據(jù)和噪聲數(shù)據(jù)疊加：y=y1+y2“時鐘”的使用方法在編寫MATLAB代碼的時候，經(jīng)常需要獲知代碼執(zhí)行的實際時間，這就這程序中用到即使函數(shù)。MATLAB里提供了cputime，tic/toc，etime三種方法。cputime方法返回MATLAB啟動以來的CPU時間，可以在程序代碼執(zhí)行前保存當(dāng)時的CPU時間，然后在程序代碼執(zhí)行結(jié)束后用cputime減去之前保存的數(shù)值，就可以獲取程序?qū)嶋H運行的時間。tic/toc方法tic用在程序代碼首部，啟動一個計時器；toc放在程序代碼末尾，終止計時器并返回tic啟動以來的總時間。etime方法etime(t1,t2)用來計算兩個日期向量t1,t2之間的時間差。神經(jīng)網(wǎng)絡(luò)性能的評價使用MATLAB的性能函數(shù)mae。該函數(shù)以平均絕對誤差為準(zhǔn)則來確定神經(jīng)網(wǎng)絡(luò)的性能。單個神經(jīng)元的模擬如圖所示為有偏置的神經(jīng)元模型，據(jù)其結(jié)構(gòu)編制如下程序仿真其性能。function[uy]=mnshjy(x)w=[0.3-0.50.4];u=w*x;ifu>=1y=logsig(u);endifu<1y=0;end在上述程序中，我們?nèi)ト?quán)值向量為：取閾值為：激活函數(shù)取為logsig（對數(shù)S形函數(shù)），可取為purelin（線性函數(shù)），tansig（正切S形函數(shù)），hardlim（硬限幅函數(shù)）等等。感知機網(wǎng)絡(luò)的模擬（采用BP算法）構(gòu)建一個兩層的感知機網(wǎng)絡(luò)，激活函數(shù)均選為logsig（對數(shù)S形函數(shù)），編制如下程序進(jìn)行仿真。tica1=randn(1,90);a2=100*rand(1,90);y10=2*a2+3;y20=a2.^2+sin(a2);y1=y10+a1;y2=y20+a1;p=[y1;y2];pr=minmax(p);goal=[ones(1,90);zeros(1,90)];plot(a2,y1,'h',a2,y2,'o')net=newff(pr,[3,2],{'logsig','logsig'});net.trainParam.show=10;net.trainParam.lr=0.05;net.trainParam.goal=1e-10;net.trainParam.epochs=50000;net=train(net,p,goal);y0=sim(net,p);err0=mae(y0,goal);toc上述程序，采用前述方法生成90個實驗數(shù)據(jù)，將這些數(shù)據(jù)用于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，并記錄程序運行時間，并對神經(jīng)網(wǎng)絡(luò)性能作出評價。下面的程序可以生成10個新的實驗數(shù)據(jù)，用來測試前面產(chǎn)生的神經(jīng)網(wǎng)絡(luò)的性能。b1=randn(1,10);b2=100*rand(1,10);y10=2*b2+3;y20=b2.^2+sin(b2);h1=y10+b1;h2=y20+b1;c=[h1;h2];r=sim(net,c);t=[ones(1,10);zeros(1,10)];err=mae(r,t);如下為仿真過程中得到的圖像，包括每一次運算的誤差，訓(xùn)練狀態(tài)等。程序執(zhí)行時間為0.558756seconds誤差為0.5000用測試數(shù)據(jù)分析，實現(xiàn)了準(zhǔn)確的分類。將激活函數(shù)取為tansig（正切S形函數(shù)）后，所得結(jié)果如下：程序執(zhí)行時間為59.905634seconds競爭型網(wǎng)絡(luò)的模擬在前述前饋誤差方向傳播網(wǎng)絡(luò)的基礎(chǔ)上，采用競爭型（LVQ）網(wǎng)絡(luò)。得到的仿真結(jié)果如下：程序執(zhí)行時間為14.410639用測試數(shù)據(jù)分析，分類是有誤差。自組織映射（SOM）網(wǎng)絡(luò)的模擬構(gòu)建一個兩層的自組織映射網(wǎng)絡(luò)，程序如下：tica1=randn(1,90);a2=100*rand(1,90);y10=2*a2+3;y20=a2.^2+sin(a2);y1=y10+a1;y2=y20+a1;p=[y1;y2];net=newsom([02;01],[35]);plotsom(net.layers{1}.positions);net.trainParam.epochs=10;net=train(net,p);plot(a2,y1,'h',a2,y2,'o');holdon;plotsom(net.iw{1,1},net.layers{1}.distances);holdoff;figure;net=init(net);net.trainParam.epochs=20;net=train(net,p);plotsom(net.iw{1,1},net.layers{1}.distances);toc程序執(zhí)行時間為10.375700實驗結(jié)論對于前饋反向傳播網(wǎng)