科學(xué)計(jì)算與數(shù)據(jù)處理綜合設(shè)計(jì)實(shí)驗(yàn)四

1、科學(xué)計(jì)算與數(shù)據(jù)處理綜合設(shè)計(jì) 實(shí)驗(yàn)四科學(xué)計(jì)算與數(shù)據(jù)處理實(shí)驗(yàn)報(bào)告學(xué)s313060052姓 名王騰祥號(hào)實(shí) 驗(yàn) 名 稱科學(xué)計(jì)算與數(shù)據(jù)處理綜合設(shè)計(jì)實(shí)驗(yàn)實(shí) 驗(yàn) 目 的1、 深入研究matlab在計(jì)算機(jī)相關(guān)的 某一專業(yè)領(lǐng)域的綜合應(yīng)用2、 熟悉matlab 中專業(yè)級(jí)toolbox或 simulink的功能和用法3、學(xué)會(huì)綜合運(yùn)用matlab解決并行運(yùn) 算與神經(jīng)網(wǎng)絡(luò)-基于cpu/gpu的并行神 經(jīng)網(wǎng)絡(luò)運(yùn)算0y=sim(net2,x);二、打開 matlab workers matlabpool open檢查worker數(shù)量poolsize=matlabpookize1)三、設(shè)置train與sim函數(shù)中的參數(shù) “u

2、separallel為yes”。net2=train(netl,x5t/useparaller/yesf)y=sim(net2,x/useparaller/yes*)四、使用“showresources選項(xiàng)證實(shí)神經(jīng)網(wǎng)絡(luò)運(yùn)算確實(shí)在各個(gè)worker上運(yùn)行。netlraincnetl,x,t/useparallep/yes/showre sources*yest);y=sim(net2,x/useparaller/yesyshowresourc est/yesf);五、將一個(gè)數(shù)據(jù)集進(jìn)行隨機(jī)劃分，同時(shí)保存到 不同的文件for i=l imatlabpoolfsize1)頭cpu并行驗(yàn)方案一、標(biāo)準(zhǔn)單線程

3、的神經(jīng)網(wǎng)絡(luò)訓(xùn)練與仿真過程x,t=house_dataset;net1=feedforwardnet(10);net2=train(net1,x,t);x=rand(2,1000);save(inputs num2str(i),x)t=x(1,:).*x(2,:)+2*(x(1,:)+x(2,:);save(target num2str(i),t);clear x tend六、實(shí)現(xiàn)并行運(yùn)算加載數(shù)據(jù)集for i=1:matlabpool(size)data=load(inputs num2str(i),x)xci=data.xdata=load(target num2str(i),t) tci=d

4、ata.t;clear dataendnet2=configure(net2,xc1,tc1); net2=train(net2,xc,tc);yc=sim(net2,xc)七、得到各個(gè) worker返回的composite結(jié)果 for i=1:matlabpool(size)yi=yci end八、gpu并行count=gpudevicecountgpu1=gpudevice(1)gpucores1=gpu1.multiprocessorcount*gpu1. simdwidthnet2=train(net1,x,t,usegpu,yes) y=sim(net,x,usegpu,yes) n

5、et1.trainfcn=trainscg;net2=train(net1,x,t,usegpu,yes,showreso urces,yes);matlab神經(jīng)網(wǎng)絡(luò)43個(gè)案例分析九、并行運(yùn)算與神經(jīng)網(wǎng)絡(luò)-基于cpu/gpu的 并行神經(jīng)網(wǎng)絡(luò)運(yùn)算by王小川(王小川_matlab) email:sina363 十、清空環(huán)境變量clear allclcwarning offh一一打開 matlabpool matlabpool open poolsize=matlabpool(size);十二、加載數(shù)據(jù)load bodyfat_dataset inputs = bodyfatinputs;target

6、s = bodyfattargets;十三、創(chuàng)建一個(gè)擬合神經(jīng)網(wǎng)絡(luò)hiddenlayersize = 10; 隱藏層神經(jīng)元個(gè)數(shù)為10net = fitnet(hiddenlayersize);創(chuàng)建網(wǎng)絡(luò)十四、指定輸入與輸出處理函數(shù)(本操作并非 必須)cessfcns=removeconstantrows,mapminmax;cessfcns=removeconstantrows,mapminmax;十五、設(shè)置神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、驗(yàn)證、測試數(shù)據(jù) 集劃分net.dividefcn = dividerand; 隨機(jī)劃分?jǐn)?shù)據(jù)集net.dividem

7、ode = sample;劃分單位為每一個(gè)數(shù)據(jù)net.divideparam.trainratio = 70/100; 訓(xùn)練集 比例net.divideparam.valratio = 15/100; 驗(yàn)證集比例net.divideparam.testratio = 15/100;測試集 比例trainlm;十六、設(shè)置網(wǎng)絡(luò)的訓(xùn)練函數(shù) net.trainfcn=levenberg-marquardt十七、設(shè)置網(wǎng)絡(luò)的誤差函數(shù) net.performfcn = mse; mean squarederror十八、設(shè)置網(wǎng)絡(luò)可視化函數(shù)net.plotfcns=plotperform,plottrainst

8、ate,ploterrhist, plotregression, plotfit;十九、單線程網(wǎng)絡(luò)訓(xùn)練 ticnet1,tr1 = train(net,inputs,targets);t1=toc;disp(單線程神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間為 ,num2str(t1),秒);二十、并行網(wǎng)絡(luò)訓(xùn)練ticnet2,tr2=train(net,inputs,targets,useparallel,yes,sho wresources,yes);t2=toc;disp(并行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間為 ,num2str(t2),秒);二十一、網(wǎng)絡(luò)效果驗(yàn)證outputsl = sim(net1,inputs);outpu

9、ts2 = sim(net2,inputs);errorsl = gsubtract(targets,outputs1);errors2 = gsubtract(targets,outputs2);performancel=perform(net1,targets,outputs1)performance2=perform(net2,targets,outputs2)二十二、神經(jīng)網(wǎng)絡(luò)可視化figure, plotperform(trl);figure, plotperform(tr2);figure, plottrainstate(tr1);figure, plottrainstate(tr2

10、);figure,plotregression(targets,outputs1);figure,plotregression(targets,outputs2);figure,ploterrhist(errors1);figure,ploterrhist(errors2);matlabpoolclosey=sim(net2,x,usegpu,yes,showresources,yes);133530error histogram with 20 bins鬲二 ? 6 s-0 巴口 n 鬲65so0tlg9z 后二sn9o 以出0 鑿, w中 邑.呼 黑“ fcot 巴 l0? eel中 o

11、5 d 6 o 2 11實(shí) 驗(yàn) 記 錄error histogram with 20 binsze ro error60s in anoo di:r=0.89144o45uli35302520o051015202530354045target：r=0.8676145403530252016105010402030target10410graclient = 43.66551 磯 epoch 1410210mu - 口口1 ft epoch 14validation checks = 6, at epoch 14g 10106u epochs10121422681012 epochsbest v

12、alidation performance is 239146 at epoch 6 i train validation testbest validation performance is 33.497 at epoch 8024 e b 10121414 epochs2 1 1010 (gsuj)0h山 poenbs ueowoo實(shí)1、并行平臺(tái)的通信模型：共享數(shù)據(jù)（posix、windows線程、aopenmp）、消息交換（mpipvm）并行算法模型：數(shù)據(jù)并行模型、任務(wù)依賴圖模型、工作池模型、管理者-工作者模型、消費(fèi)者總 模型對于并行計(jì)算一個(gè)任務(wù)可能涉及到的問題：任務(wù)分解、任結(jié) 務(wù)依賴關(guān)

13、系、任務(wù)粒度分配、并發(fā)度、任務(wù)交互。并行算法性能的常見度量值：并行開銷、加速比、效率（加速比/cpu數(shù)）、成本（并行運(yùn)行時(shí)間*cpu數(shù)）。2、人工神經(jīng)網(wǎng)絡(luò)就是模擬人思維的第二種方式。這是一個(gè)非線 性動(dòng)力學(xué)系統(tǒng)，其特色在于信息的分布式存儲(chǔ)和并行協(xié)同處理。 雖然單個(gè)神經(jīng)元的結(jié)構(gòu)極其簡單，功能有限，但大量神經(jīng)元構(gòu)成 的網(wǎng)絡(luò)系統(tǒng)所能實(shí)現(xiàn)的行為卻是極其豐富多彩的。3、總結(jié)：人工神經(jīng)網(wǎng)絡(luò)可通過硬件或軟件方式來實(shí)現(xiàn)。硬件方 式即神經(jīng)計(jì)算機(jī)。目前較常用的還是軟件實(shí)現(xiàn)方式。已有許多 公司和研究單位設(shè)計(jì)了通用的 ann程序以方便人們使用，matlab 提供的神經(jīng)網(wǎng)絡(luò)工具箱就是其重要代表。神經(jīng)網(wǎng)絡(luò)工具箱是在matlab環(huán)境下所開發(fā)出來的許多工具箱之一，它是以人工神經(jīng)網(wǎng) 絡(luò)理論為基礎(chǔ)，用matlab語言構(gòu)造出典型神經(jīng)網(wǎng)絡(luò)的激活函數(shù)， 如s型、線性、競爭層、飽和線性等激活函數(shù)，使設(shè)計(jì)者對所選 定網(wǎng)絡(luò)輸出的計(jì)算變成對激活函數(shù)的調(diào)用。另外，根據(jù)各種典型 的修正網(wǎng)絡(luò)權(quán)值的規(guī)定，加上網(wǎng)絡(luò)的訓(xùn)練過程，用matlab編寫出 各種網(wǎng)絡(luò)設(shè)計(jì)與訓(xùn)練所涉及的公式運(yùn)算、矩陣操作和方程