神經(jīng)網(wǎng)絡(luò)的MALAB實(shí)現(xiàn)蘇析超

主要內(nèi)容BP神經(jīng)網(wǎng)絡(luò)編程BP神經(jīng)網(wǎng)絡(luò)工具箱RBP網(wǎng)絡(luò)工具箱GRNN網(wǎng)絡(luò)工具箱……BP神經(jīng)網(wǎng)絡(luò)通常是指基于誤差反向傳播算法(BP算法)的多層前向神經(jīng)網(wǎng)絡(luò)。該網(wǎng)絡(luò)的主要特點(diǎn)是信號(hào)向前傳遞，誤差反向傳播。向前傳遞中，輸入信號(hào)從輸入層經(jīng)隱含層逐層處理，直至輸出層。每一層的神經(jīng)元狀態(tài)只影響到下一層神經(jīng)元狀態(tài)。如果輸出層得不到期望輸出，則轉(zhuǎn)入反向傳播，根據(jù)預(yù)測(cè)誤差調(diào)整網(wǎng)絡(luò)權(quán)值和閾值，從而使BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)輸出不斷逼近期望輸出。1.BP神經(jīng)網(wǎng)絡(luò)原理神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)%%清空環(huán)境變量clcclear%%訓(xùn)練數(shù)據(jù)預(yù)測(cè)數(shù)據(jù)提取及歸一化%下載四類語(yǔ)音信號(hào)loaddata1c1loaddata2c2loaddata3c3loaddata4c4%從1到2000間隨機(jī)排序k=rand(1,2000);[m,n]=sort(k);%輸入輸出數(shù)據(jù)input=data(:,2:25);output1=data(:,1);%四個(gè)特征信號(hào)矩陣合成一個(gè)矩陣data(1:500,:)=c1(1:500,:);data(501:1000,:)=c2(1:500,:);data(1001:1500,:)=c3(1:500,:);data(1501:2000,:)=c4(1:500,:);神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)%隨機(jī)提取1500個(gè)樣本為訓(xùn)練樣本，500個(gè)樣本為預(yù)測(cè)樣本input_train=input(n(1:1500),:)';output_train=output(n(1:1500),:)';input_test=input(n(1501:2000),:)';output_test=output(n(1501:2000),:)';%輸入數(shù)據(jù)歸一化[inputn,inputps]=mapminmax(input_train);神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)%%網(wǎng)絡(luò)結(jié)構(gòu)初始化innum=24;midnum=25;outnum=4;

%權(quán)值初始化w1=rands(midnum,innum);b1=rands(midnum,1);w2=rands(midnum,outnum);b2=rands(outnum,1);w2_1=w2;w2_2=w2_1;w1_1=w1;w1_2=w1_1;b1_1=b1;b1_2=b1_1;b2_1=b2;b2_2=b2_1;%學(xué)習(xí)率xite=0.1;%alfa=0.01;神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)%%網(wǎng)絡(luò)訓(xùn)練forii=1:10E(ii)=0;fori=1:1:1500%%網(wǎng)絡(luò)預(yù)測(cè)輸出x=inputn(:,i);%隱含層輸出forj=1:1:midnumI(j)=inputn(:,i)'*w1(j,:)'+b1(j);Iout(j)=1/(1+exp(-I(j)));end%輸出層輸出yn=w2'*Iout'+b2;

神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)

%%權(quán)值閥值修正%計(jì)算誤差e=output_train(:,i)-yn;E(ii)=E(ii)+sum(abs(e));

%計(jì)算權(quán)值變化率dw2=e*Iout;db2=e';神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)forj=1:1:midnumS=1/(1+exp(-I(j)));FI(j)=S*(1-S);endfork=1:1:innumforj=1:1:midnumdw1(k,j)=FI(j)*x(k)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4));db1(j)=FI(j)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4));endend神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)

w1=w1_1+xite*dw1';b1=b1_1+xite*db1';w2=w2_1+xite*dw2';b2=b2_1+xite*db2';

w1_2=w1_1;w1_1=w1;w2_2=w2_1;w2_1=w2;b1_2=b1_1;b1_1=b1;b2_2=b2_1;b2_1=b2;endend神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)%%語(yǔ)音特征信號(hào)分類inputn_test=mapminmax('apply',input_test,inputps);forii=1:1fori=1:500%1500%隱含層輸出forj=1:1:midnumI(j)=inputn_test(:,i)'*w1(j,:)'+b1(j);Iout(j)=1/(1+exp(-I(j)));end

fore(:,i)=w2'*Iout'+b2;endend神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)%%結(jié)果分析

%根據(jù)網(wǎng)絡(luò)輸出找出數(shù)據(jù)屬于哪類fori=1:500output_fore(i)=find(fore(:,i)==max(fore(:,i)));end%BP網(wǎng)絡(luò)預(yù)測(cè)誤差error=output_fore-output1(n(1501:2000))';%畫出預(yù)測(cè)語(yǔ)音種類和實(shí)際語(yǔ)音種類的分類圖figure(1)plot(output_fore,'r')holdonplot(output1(n(1501:2000))','b')legend('預(yù)測(cè)語(yǔ)音類別','實(shí)際語(yǔ)音類別')神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)%畫出誤差圖figure(2)plot(error)title('BP網(wǎng)絡(luò)分類誤差','fontsize',12)xlabel('語(yǔ)音信號(hào)','fontsize',12)ylabel('分類誤差','fontsize',12)神經(jīng)網(wǎng)絡(luò)的MATLAB實(shí)現(xiàn)k=zeros(1,4);%找出判斷錯(cuò)誤的分類屬于哪一類fori=1:500iferror(i)~=0[b,c]=max(output_test(:,i));switchccase1k(1)=k(1)+1;case2k(2)=k(2)+1;case3k(3)=k(3)+1;case4k(4)=k(4)+1;endendend神經(jīng)傷網(wǎng)絡(luò)盼的MA旁TL序AB實(shí)現(xiàn)%找染出每鐵類的域個(gè)體練和kk湊=z細(xì)er析os地(1旺,4謊);fo砌r此i=棒1:振50齊0[b饒,c蘿]=反ma意x(液ou汽tp家ut擺_t術(shù)es尤t(例:,還i)華);sw聞it該ch園cca犧se齊1kk挑(1杰)=為kk股(1麗)+藍(lán)1;ca已se急2kk秩(2忍)=霞kk霉(2查)+替1;ca始se脾3kk季(3臺(tái))=析kk棉(3旨)+嶄1;ca江se響4kk扣(4禾)=廳kk懷(4躬)+顫1;en關(guān)den涼d%正狹確率ri綁gh旗tr南id失io聚=(森kk意-k棗).錫/k省kne筑wf懲f函數(shù)ne補(bǔ)wf游f用來(lái)篇生成茂一個(gè)BP網(wǎng)絡(luò)ne遺t=勻ne楚wf核f(夏PR究,[英S1娛S格2.鎮(zhèn)..腦SN收],循{T降F1郵T棋F2尤..撓.扮TF白N}陰,B氏TF攤,B特LF伏,P燭F)PR矮:一個(gè)服R×忽2矩馬陣,師由沃R維赴輸入援向量幫的每杏維最笛小值盈和最娘大值臺(tái)組成Si河:第i層的照神經(jīng)罪元個(gè)細(xì)數(shù)TF統(tǒng)i:第i層的扶傳遞絹函數(shù),默認(rèn)燥為ta槍ns憲igBT慶F:訓(xùn)練暮函數(shù),默認(rèn)豎為tr司ai遙nl址mBL街F:學(xué)習(xí)疑函數(shù),默認(rèn)郵為le陳ar殲ng椒dmPF墨:性能茂函數(shù),默認(rèn)伸為ms扒ene虧t=汗ne竊wf恢f(嫌[0暫,1汗0;逐-1題,2趁],鋤[5按,1剖],攻{‘浮ta斧ns順ig碼’,程’p承ur葵el晴in妻’}赴,’條tr幫ai禁nl午m’現(xiàn));%生成最一個(gè)屬兩層BP網(wǎng)絡(luò),隱層買和輸字出層椒神經(jīng)丑的個(gè)兇數(shù)為5和1,傳遞喊函數(shù)點(diǎn)分別拖為ta每ns鄰ig和pu愚r(nóng)e譯li灑n,訓(xùn)練慈函數(shù)義為tr買ai滾nl乞m,其他搶默認(rèn)BP神經(jīng)混網(wǎng)絡(luò)像工具痰箱學(xué)習(xí)算法適用問題類型收斂性能占用存儲(chǔ)空間其他特點(diǎn)trainlm函數(shù)擬合收斂快,誤差小大性能隨網(wǎng)絡(luò)規(guī)模增大而變差trainrp模式分類收斂最快較小性能隨網(wǎng)絡(luò)訓(xùn)練誤差減小而變差trainscg函數(shù)擬合模式分類收斂較快性能穩(wěn)定中等尤其適用于網(wǎng)絡(luò)規(guī)模較大的情況trainbfg函數(shù)擬合收斂較快較大計(jì)算量歲網(wǎng)絡(luò)規(guī)模的增大呈幾何增長(zhǎng)traingdx模式分類收斂較慢較小適用于提前停止的方法MA侵TL飲AB神經(jīng)順網(wǎng)絡(luò)扶工具震箱對(duì)珍常規(guī)BP算法膠進(jìn)行嗽改進(jìn),提供徑了一單系列開快速臂算法,以滿退足不增同問脂題的索需要BP神經(jīng)互網(wǎng)絡(luò)里工具派箱利用悲已知帽的”輸入—目標(biāo)”樣本紙向量澤數(shù)據(jù)籍對(duì)網(wǎng)努絡(luò)進(jìn)坐行訓(xùn)舌練,采用tr破ai避n函數(shù)執(zhí)來(lái)完察成.訓(xùn)練貸之前,對(duì)訓(xùn)召練參勻數(shù)進(jìn)糖行設(shè)敬置訓(xùn)練參數(shù)參數(shù)含義默認(rèn)值net.trainParam.epochs訓(xùn)練步數(shù)100net.trainParam.show顯示訓(xùn)練結(jié)果的間隔步數(shù)25net.trainParam.goal訓(xùn)練目標(biāo)誤差0net.trainParam.time訓(xùn)練允許時(shí)間INfnet.trainParam.lr學(xué)習(xí)率0.01ne麻t鈔=tr冷ai隊(duì)n(去ne低t,呀P,廳T獸)BP神經(jīng)勵(lì)網(wǎng)絡(luò)錢工具愉箱網(wǎng)絡(luò)柴層數(shù)已經(jīng)題證明,單隱掌層的BP網(wǎng)絡(luò)醬可以賺實(shí)現(xiàn)重任意滿非線湖性映籠射.刃BP網(wǎng)絡(luò)飲的隱標(biāo)層數(shù)譯一般拜不超魯過兩鋤層.輸入窗層的旅節(jié)點(diǎn)飽數(shù)輸入括層接禿收外柿部的上輸入時(shí)數(shù)據(jù),節(jié)點(diǎn)撒數(shù)取強(qiáng)決于然輸入灶向量潤(rùn)的維鉆數(shù)輸出托層的項(xiàng)節(jié)點(diǎn)西數(shù)輸出駕層的色節(jié)點(diǎn)肯數(shù)取戀?zèng)Q于徐輸出嚼數(shù)據(jù)油類型土和該胞類型起所需敬的數(shù)炊據(jù)大床小.對(duì)于銀模式毒分類射問題,節(jié)點(diǎn)諷數(shù)為BP神經(jīng)威網(wǎng)絡(luò)戰(zhàn)工具奶箱隱層蹲的節(jié)桿點(diǎn)數(shù)隱層拔的節(jié)現(xiàn)點(diǎn)數(shù)英與求昨解問趟題的抹要求,輸入脂輸出稅單元副數(shù)多菌少有竟關(guān).對(duì)于團(tuán)模式亡識(shí)別/分類掠的節(jié)庭點(diǎn)數(shù)欺可按禿下列恭公式佳設(shè)計(jì)傳遞筍函數(shù)隱層拖傳遞復(fù)函數(shù)宮采用S型函剖數(shù),輸出敵層采鄉(xiāng)豐用S型函諷數(shù)或蘇線性帆函數(shù)訓(xùn)練盼方法慶及其握參數(shù)匆選擇針對(duì)頸不同禮應(yīng)用,錘BP網(wǎng)絡(luò)脫提供耳了多睬種訓(xùn)稅練學(xué)獵習(xí)方劈燕法.其中為隱純層節(jié)悠點(diǎn)數(shù),為輸園入節(jié)榮點(diǎn)數(shù),為1~齊10之間經(jīng)的整瞧數(shù)BP神經(jīng)汁網(wǎng)絡(luò)脹工具緊箱采用蟲動(dòng)量惹梯度翅下降頂算法焰訓(xùn)練BP網(wǎng)絡(luò).訓(xùn)練另樣本%定義賞訓(xùn)練合樣本p=妻[-鑰1膊-1萄3致1恢;-踢1浸1錄5本-3聽];t=府[-番1趟