模式識(shí)別系列實(shí)驗(yàn)指導(dǎo)書(shū)

1、模式識(shí)別系列實(shí)驗(yàn)實(shí)驗(yàn)指導(dǎo)書(shū)授課教師：曹曉光、李露單位：北京航空航天大學(xué) 宇航學(xué)院圖像中心2015-4-10課程名稱(chēng)：模式識(shí)別系列實(shí)驗(yàn)（Pattern Recognition Experiments）實(shí)驗(yàn)總學(xué)時(shí)數(shù)：16實(shí)驗(yàn)室地點(diǎn)：北京航空航天大學(xué)宇航學(xué)院圖像中心 新主樓D408實(shí)驗(yàn)要求與目的： 模式識(shí)別系列實(shí)驗(yàn)是自動(dòng)化一級(jí)學(xué)科模式識(shí)別與智能系統(tǒng)專(zhuān)業(yè)碩士研究生所必修的實(shí)驗(yàn)課。在學(xué)習(xí)完成模式識(shí)別理論課的基礎(chǔ)上，模式識(shí)別系列實(shí)驗(yàn)引導(dǎo)學(xué)生重溫模式識(shí)別各分支和方法的基本概念和原理，并在計(jì)算機(jī)上進(jìn)行驗(yàn)證實(shí)驗(yàn)，實(shí)際操作和觀察圖像模式識(shí)別的過(guò)程、運(yùn)行結(jié)果，提倡學(xué)生對(duì)現(xiàn)有程序的修改和完善。通過(guò)實(shí)驗(yàn)使學(xué)生掌握應(yīng)用模

2、式識(shí)別基本原理和基本方法解決實(shí)際問(wèn)題的基本技巧，培養(yǎng)學(xué)生應(yīng)用理論知識(shí)解決實(shí)際問(wèn)題的能力。模式識(shí)別系列實(shí)驗(yàn)要求學(xué)生有一定計(jì)算機(jī)軟硬件、概率論、數(shù)理統(tǒng)計(jì)以及矩陣?yán)碚摶A(chǔ)，并選修了模式識(shí)別學(xué)科專(zhuān)業(yè)基礎(chǔ)課程。本實(shí)驗(yàn)課程的基本要求如下：1 通過(guò)實(shí)驗(yàn)加深對(duì)模式識(shí)別理論課堂所學(xué)知識(shí)的理解；2 上機(jī)前應(yīng)按照要求把實(shí)驗(yàn)內(nèi)容準(zhǔn)備好，觀察實(shí)驗(yàn)結(jié)果，得出結(jié)論； 3實(shí)驗(yàn)結(jié)束后提交實(shí)驗(yàn)報(bào)告實(shí)驗(yàn)項(xiàng)目與內(nèi)容提要序號(hào)實(shí)驗(yàn)性質(zhì)實(shí)驗(yàn)內(nèi)容實(shí)驗(yàn)形式要求學(xué)時(shí)備注必做選做1基礎(chǔ)感知器學(xué)習(xí)與分類(lèi)實(shí)驗(yàn)按指導(dǎo)書(shū)要求完成實(shí)驗(yàn)1人/組22BP網(wǎng)絡(luò)學(xué)習(xí)與分類(lèi)實(shí)驗(yàn)按指導(dǎo)書(shū)要求完成實(shí)驗(yàn)1人/組33分級(jí)聚類(lèi)實(shí)驗(yàn)按指導(dǎo)書(shū)要求完成實(shí)驗(yàn)1人/組34提高基于非參數(shù)

3、核密度估計(jì)的行人分割查閱文獻(xiàn)，編程實(shí)現(xiàn)1人/組45基于貝葉斯理論的顯著性目標(biāo)檢測(cè)查閱文獻(xiàn)，編程實(shí)現(xiàn)1人/組4實(shí)驗(yàn)考核：采用實(shí)驗(yàn)操作與實(shí)驗(yàn)報(bào)告綜合評(píng)分實(shí)驗(yàn)一 感知器學(xué)習(xí)與分類(lèi)實(shí)驗(yàn)實(shí)驗(yàn)?zāi)康模豪斫飧兄鞯脑砗途W(wǎng)絡(luò)結(jié)構(gòu)掌握感知器的學(xué)習(xí)規(guī)則熟悉Matlab軟件環(huán)境和神經(jīng)網(wǎng)絡(luò)工具模塊鍛煉算法設(shè)計(jì)編程與上機(jī)調(diào)試能力實(shí)驗(yàn)要求： 一、對(duì)實(shí)驗(yàn)過(guò)程的要求：編程實(shí)現(xiàn)w1，w2類(lèi)以及w2，w3類(lèi)的分類(lèi)w1=.1 6.8 -3.5 2.0 4.1 3.1 -0.8 0.9 5.0 3.9; 1.1 7.1 -4.1 2.7 2.8 5.0 -1.3 1.2 6.4 4.0; w2=7.1 -1.4 4.5 6.3 4.

4、2 1.4 2.4 2.5 8.4 4.1;4.2 -4.3 0.0 1.6 1.9 -3.2 -4.0 -6.1 3.7 -2.2; w3=-3.0 0.5 2.9 -0.1 -0.4 -1.3 -3.4 1 -5.1 1.9; -2.9 8.7 2.1 5.2 2.2 3.7 6.2 3.4 1.6 5.1;w4=-2.0 -8.9 -4.2 -8.5 -6.7 -0.5 -6.7 -8.7 -7.1 -9.0；-8.4 0.2 -7.7 -3.2 -4.0 -9.2 -6.7 -6.4 -9.7 -6.3 二、回答以下問(wèn)題：1）從a=0開(kāi)始，將你的程序應(yīng)用在1和2的訓(xùn)練數(shù)據(jù)上。記下收斂的

5、步數(shù)。 2）將你的程序應(yīng)用在2和3類(lèi)上，同樣記下收斂的步數(shù)。3）試解釋它們收斂步數(shù)的差別。 4）提高部分：3和4的前5個(gè)點(diǎn)不是線性可分的，請(qǐng)手工構(gòu)造非線性映射，使這些點(diǎn)在映射后的特征空間中是線性可分的，并對(duì)它們訓(xùn)練一個(gè)感知器分類(lèi)器。分析這個(gè)分類(lèi)器對(duì)剩下的（變換后的）點(diǎn)分類(lèi)效果如何？實(shí)驗(yàn)環(huán)境： PC機(jī)、Windows XP操作系統(tǒng)、Matlab軟件，利用Matlab自帶的神經(jīng)網(wǎng)絡(luò)工具包，實(shí)現(xiàn)用感知器對(duì)二維樣本的分類(lèi)。實(shí)驗(yàn)原理： 感知器是由美國(guó)計(jì)算機(jī)科學(xué)家Rosenblatt于1957年提出的。感知器可謂是最早的人工神經(jīng)網(wǎng)絡(luò)。單層感知器是一個(gè)具有一層神經(jīng)元、采用閾值激活函數(shù)的前向網(wǎng)絡(luò)。通過(guò)對(duì)網(wǎng)絡(luò)權(quán)

6、值的訓(xùn)練，可以使感知器對(duì)一組輸入向量的響應(yīng)達(dá)到元素為0或1的目標(biāo)輸出。從而實(shí)現(xiàn)對(duì)輸入向量分類(lèi)的目的。圖1給出了單層感知器神經(jīng)元模型圖。（本實(shí)驗(yàn)輸入為二維向量） 圖1 感知器神經(jīng)元模型其中，每一個(gè)輸入分量通過(guò)一個(gè)權(quán)值分量進(jìn)行加權(quán)求和，并作為閾值函數(shù)的輸入。偏差的加入使得網(wǎng)絡(luò)多了一個(gè)可調(diào)參數(shù)，為使網(wǎng)絡(luò)輸出達(dá)到期望的目標(biāo)向量提供了方便。感知器特別適合解決簡(jiǎn)單的模式分類(lèi)問(wèn)題。由感知器的網(wǎng)絡(luò)結(jié)構(gòu)，我們可以看出感知器的基本功能是將輸入向量轉(zhuǎn)化成0或l的輸出。這一功能可以通過(guò)在輸入向量空間里的作圖來(lái)加以解釋。感知器權(quán)值的調(diào)整目的，就是根據(jù)學(xué)習(xí)法則設(shè)計(jì)一條軌跡，使所有的輸入向量都能達(dá)到期望位置的劃分。對(duì)于一個(gè)

7、n維的輸入向量來(lái)說(shuō)，這個(gè)軌跡為一個(gè)n-1維的超平面，在這個(gè)超平面以上的輸入向量將產(chǎn)生一個(gè)值為1的輸出，而在這個(gè)超平面以下的輸入向量將產(chǎn)生一個(gè)值為0的輸出。在MATLAB中，感知器的訓(xùn)練及學(xué)習(xí)法則都已經(jīng)被編成了一個(gè)子程序并被集成在神經(jīng)網(wǎng)絡(luò)工具箱中。首先用newp函數(shù)創(chuàng)建感知器神經(jīng)網(wǎng)絡(luò)，再利用train函數(shù)創(chuàng)建神經(jīng)網(wǎng)絡(luò)，最后可以使用sim函數(shù)對(duì)訓(xùn)練后的網(wǎng)絡(luò)進(jìn)行仿真。在Matlab神經(jīng)網(wǎng)絡(luò)工具箱中，可以用plotpc函數(shù)繪制R=3感知器神經(jīng)網(wǎng)絡(luò)的分類(lèi)線。實(shí)驗(yàn)設(shè)計(jì)：對(duì)于線性可分問(wèn)題：分類(lèi)1P = -0.5 1 2 3;2 1 1 2;T = 1 1 0 0;net = newp(-1 3;-1 3);

8、%建立網(wǎng)絡(luò)handle = plotpc(net.iw1,net.b1);net.trainParam.epochs = 10;net = train(net,P,T);%網(wǎng)絡(luò)訓(xùn)練figure;plotpv(P,T);handle = plotpc(net.iw1,net.b1,handle);%畫(huà)出分界線分類(lèi)2P = 1 1.5 2 3 4 6;1 2 0.5 2 1 0;T = 1 1 0 1 0 0;net = newp(0 6;0 6);%建立網(wǎng)絡(luò)handle = plotpc(net.iw1,net.b1);net.trainParam.epochs = 30;net = train

9、(net,P,T);%網(wǎng)絡(luò)訓(xùn)練figure;plotpv(P,T);handle = plotpc(net.iw1,net.b1,handle);%畫(huà)出分界線分類(lèi)3P = -2 -1 1 2;1.5 1 0.5 -1;T = 0 0 1 1;net = newp(-2 2;-2 2);%建立網(wǎng)絡(luò)handle = plotpc(net.iw1,net.b1);net.trainParam.epochs = 30;net = train(net,P,T);%網(wǎng)絡(luò)訓(xùn)練figure;plotpv(P,T);handle = plotpc(net.iw1,net.b1,handle);%畫(huà)出分界線對(duì)于線

10、性不可分問(wèn)題：分類(lèi)1 P = 0.5 1 2 3;2 1 1 2;T = 0 1 0 1;net = newp(-1 3;-1 3); 建立網(wǎng)絡(luò)handle = plotpc(net.iw1,net.b1);net.trainParam.epochs = 100;net = train(net,P,T);figure;plotpv(P,T);handle = plotpc(net.iw1,net.b1,handle); 畫(huà)出分界線分類(lèi)2P = 1 1 2 2;1 2 1 2;T = 0 1 1 0;net = newp(1 2;1 2); %建立網(wǎng)絡(luò)handle = plotpc(net.iw

11、1,net.b1);net.trainParam.epochs = 100;net = train(net,P,T);figure;plotpv(P,T);handle = plotpc(net.iw1,net.b1,handle); %畫(huà)出分界線分類(lèi)3P = -1 0 1 2;2 1 2 1;T = 1 0 0 1;net = newp(1 2;1 2); %建立網(wǎng)絡(luò)handle = plotpc(net.iw1,net.b1);net.trainParam.epochs = 100;net = train(net,P,T);figure;plotpv(P,T);handle = plotp

12、c(net.iw1,net.b1,handle); %畫(huà)出分界線感知器的訓(xùn)練流程： 否，計(jì)算權(quán)值調(diào)整值dW并調(diào)整權(quán)值W用hardlim計(jì)算網(wǎng)絡(luò)輸出AA=T樣本矩陣P和目標(biāo)矩陣T賦給訓(xùn)練函數(shù)并初始化權(quán)值W和最大循環(huán)次數(shù)max_epoch訓(xùn)練開(kāi)始是訓(xùn)練結(jié)束實(shí)驗(yàn)結(jié)果：線性可分問(wèn)題結(jié)果：線性不可分問(wèn)題結(jié)果：表2 實(shí)驗(yàn)結(jié)果統(tǒng)計(jì)線性可分問(wèn)題線性不可分問(wèn)題分類(lèi)1分類(lèi)2分類(lèi)3分類(lèi)1分類(lèi)2分類(lèi)3P-0.5 1 2 3;2 1 1 21 1.5 2 3 4 6;1 2 0.5 2 1 0-2 -1 1 2;1.5 1 0.5 -10.5 1 2 3;2 1 1 21 1 2 2;1 2 1 2-1 0 1 2;2

13、 1 2 1T1 1 0 01 1 0 1 0 00 0 1 10 1 0 10 1 1 01 0 0 1分類(lèi)結(jié)果正確分類(lèi)正確分類(lèi)正確分類(lèi)錯(cuò)誤分類(lèi)錯(cuò)誤分類(lèi)錯(cuò)誤分類(lèi)實(shí)驗(yàn)二 BP網(wǎng)絡(luò)學(xué)習(xí)與分類(lèi)實(shí)驗(yàn)實(shí)驗(yàn)?zāi)康模豪斫釨P網(wǎng)的網(wǎng)絡(luò)結(jié)構(gòu)；掌握BP網(wǎng)的學(xué)習(xí)規(guī)則；培養(yǎng)編程與上機(jī)調(diào)試能力;熟悉Matlab軟件環(huán)境；實(shí)驗(yàn)要求： 一、對(duì)實(shí)驗(yàn)過(guò)程的要求使用matlab軟件設(shè)計(jì)BP網(wǎng)對(duì)尿沉渣圖像樣本進(jìn)行模式識(shí)別對(duì)待測(cè)尿沉渣圖像進(jìn)行分類(lèi)對(duì)分類(lèi)結(jié)果進(jìn)行統(tǒng)計(jì)分析二、對(duì)實(shí)驗(yàn)報(bào)告的撰寫(xiě)要求（參見(jiàn)實(shí)驗(yàn)報(bào)告）1實(shí)驗(yàn)報(bào)告包含的內(nèi)容有：實(shí)驗(yàn)題目實(shí)驗(yàn)環(huán)境（硬件環(huán)境、軟件環(huán)境）實(shí)驗(yàn)內(nèi)容實(shí)驗(yàn)中遇到的問(wèn)題及解決方案實(shí)驗(yàn)環(huán)境： PC機(jī)、Window

14、s XP操作系統(tǒng)、Matlab軟件，利用Matlab自帶的神經(jīng)網(wǎng)絡(luò)工具包實(shí)驗(yàn)原理： 一個(gè)具有r個(gè)輸入和一個(gè)隱含層的神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)如圖2所示。 圖2 具有一個(gè)隱含層的神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)圖感知器和自適應(yīng)線性元件的主要差別在激活函數(shù)上：前者是二值型的，后者是線性的。BP網(wǎng)絡(luò)具有一層或多層隱含層，除了在多層網(wǎng)絡(luò)上與前面已介紹過(guò)的模型有不同外，其主要差別也表現(xiàn)在激活函數(shù)上。BP網(wǎng)絡(luò)的激活函數(shù)必須是處處可微的，所以它就不能采用二值型的閾值函數(shù)1,0或符號(hào)函數(shù)(-1,1)，BP網(wǎng)絡(luò)經(jīng)常使用的是S型的對(duì)數(shù)或正切激活函數(shù)和線性函數(shù)。對(duì)于多層網(wǎng)絡(luò)，這種激活函數(shù)所劃分的區(qū)域不再是線性劃分，而是由一個(gè)非線性的超平面組

15、成的區(qū)域。它是比較柔和、光滑的任意界面，因而它的分類(lèi)比線性劃分精確、合理、這種網(wǎng)絡(luò)的容錯(cuò)性較好。另外一個(gè)重要的特點(diǎn)是由于激活函數(shù)是連續(xù)可微的，它可以嚴(yán)格利用梯度法進(jìn)行推算，它的權(quán)值修正的解析式十分明確，其算法被稱(chēng)為誤差反向傳播法，也簡(jiǎn)稱(chēng)BP算法，這種網(wǎng)絡(luò)也因此而被稱(chēng)為BP網(wǎng)絡(luò)。因?yàn)镾型函數(shù)具有非線性放大系數(shù)功能，它可以把輸人從負(fù)無(wú)窮大到正無(wú)窮大的信號(hào)，變換成-l到l之間輸出，對(duì)較大的輸入信號(hào)，放大系數(shù)較小；而對(duì)較小的輸入信號(hào)，放大系數(shù)則較大，所以采用S型激活函數(shù)可以去處理和逼近非線性的輸入輸出關(guān)系。不過(guò)，如果在輸出層采用S型函數(shù)，輸出則被限制到一個(gè)很小的范圍了，若采用線性激活函數(shù)，則可使網(wǎng)絡(luò)輸

16、出任何值。所以只有當(dāng)希望對(duì)網(wǎng)絡(luò)的輸出進(jìn)行限制，如限制在0和1之間，那么在輸出層應(yīng)當(dāng)包含S型激活函數(shù)，在一般情況下，均是在隱含層采用S型激活函數(shù)，而輸出層采用線性激活函數(shù)。在MATLAB工具箱中，上述計(jì)算均已編成函數(shù)的形式，通過(guò)簡(jiǎn)單的書(shū)寫(xiě)調(diào)用即可方便地獲得結(jié)果。具體有： 1)對(duì)于隱含層輸出若采用對(duì)數(shù)s型激活函數(shù)，則用函數(shù)logsig.m；若采用雙曲正切S型激活函數(shù)，則用函數(shù)tansig.m； 2)對(duì)于輸出層輸出，若采用線性激活函數(shù)有purelin.m與之對(duì)應(yīng)； 3)對(duì)于誤差函數(shù)，可用函數(shù)sumsqr.m求出； 4)有l(wèi)earnbp.m函數(shù)專(zhuān)門(mén)求輸出層以及隱含層中權(quán)值與偏差的變化量。實(shí)驗(yàn)設(shè)計(jì)：本次

17、實(shí)驗(yàn)中的樣本從原圖中所占比例較大的四類(lèi)樣本中獲得，分別為：紅細(xì)胞(red cell)，白細(xì)胞(leucocyte)，鹽結(jié)晶(crystal)，桿菌(bacillus)。將訓(xùn)練樣本從尿沉渣圖像中的紅細(xì)胞(red cell)，白細(xì)胞(leucocyte)，鹽結(jié)晶(crystal)，桿菌(bacillus)手工分離出來(lái)并轉(zhuǎn)化為灰度圖像在圖像的分割及分類(lèi)階段中，我們共獲得樣本圖像103個(gè)，將其中的83個(gè)作為訓(xùn)練樣本，其余的20個(gè)作為測(cè)試分類(lèi)樣本。訓(xùn)練樣本及測(cè)試樣本中的四類(lèi)樣本所占比例均大致相同。我們將所有的樣本圖像都依次送入MATLAB，轉(zhuǎn)化成32*32的二維矩陣，再將矩陣的每一列首尾相連，變成一列1

18、024維的列向量，最后將訓(xùn)練用的列向量組合在一起，成為訓(xùn)練所用的數(shù)據(jù)矩陣。并將該數(shù)據(jù)矩陣保存為matlab軟件可以讀取的.mat文件。建立目標(biāo)庫(kù)，目標(biāo)庫(kù)共由83個(gè)4位列向量組成，每個(gè)列向量對(duì)應(yīng)一個(gè)學(xué)習(xí)樣本。每一類(lèi)樣本所對(duì)應(yīng)的目標(biāo)向量是相同的，紅細(xì)胞樣本所對(duì)應(yīng)的目標(biāo)列向量為1 0 0 0T，白細(xì)胞樣本所對(duì)應(yīng)的目標(biāo)列向量為0 1 0 0T，鹽結(jié)晶樣本所對(duì)應(yīng)的目標(biāo)列向量為0 0 1 0T，桿菌樣本所對(duì)應(yīng)的目標(biāo)列向量為0 0 0 1T。網(wǎng)絡(luò)參數(shù)的選擇：由于系統(tǒng)是非線性的，初始值對(duì)于學(xué)習(xí)是否達(dá)到局部最小、是否能夠收斂以及訓(xùn)練時(shí)間的長(zhǎng)短的關(guān)系很大。如果初始權(quán)值太大，使得加權(quán)后的輸入落在了s型激活函數(shù)的飽和

19、區(qū)，從而導(dǎo)致其導(dǎo)數(shù)非常小，使得調(diào)節(jié)過(guò)程幾乎停頓下來(lái)。所以，一般總是希望經(jīng)過(guò)初始加權(quán)后的每個(gè)神經(jīng)元的輸出值都接近于零，這樣可以保證每個(gè)神經(jīng)元的權(quán)值都能夠在它們的s型激活函數(shù)變化最大之處進(jìn)行調(diào)節(jié)。所以，一般取初始權(quán)值在(-1，1)之間的隨機(jī)數(shù)。另外，為了防止上述現(xiàn)象的發(fā)生，威得羅等人在分析了兩層網(wǎng)絡(luò)是如何對(duì)一個(gè)函數(shù)進(jìn)行訓(xùn)練后，提出了一種選定初始權(quán)值的策略，利用他們的方法可以在較少的訓(xùn)練次數(shù)下得到滿(mǎn)意的訓(xùn)練結(jié)果。在MATLAB新版本的工具箱中再初始化隱含層權(quán)值時(shí)將自動(dòng)進(jìn)行優(yōu)化。其方法僅需要使用在第一隱含層的初始值的選取上，后面層的初始值仍然采用隨機(jī)取數(shù)。學(xué)習(xí)速率決定每一次循環(huán)訓(xùn)練中所產(chǎn)生的權(quán)值變化量

20、。大的學(xué)習(xí)速率可能導(dǎo)致系統(tǒng)的不穩(wěn)定；但小的學(xué)習(xí)速率導(dǎo)致較長(zhǎng)的訓(xùn)練時(shí)間，可能收斂很慢，不過(guò)能保證網(wǎng)絡(luò)的誤差值不跳出誤差表面的低谷而最終趨于最小誤差值。所以在一般情況下傾向于選取較小的學(xué)習(xí)速率以保證系統(tǒng)的穩(wěn)定性。學(xué)習(xí)速率的選取范圍在0.01-0.8之間。BP網(wǎng)絡(luò)訓(xùn)練：BP算法是由兩部分組成，信息的正向傳遞與誤差的反向傳播。在正向傳播過(guò)程中，輸入信息從輸入經(jīng)隱含層逐層計(jì)算傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層沒(méi)有得到期望的輸出，則計(jì)算輸出層的誤差變化值，然后轉(zhuǎn)向反向傳播，通過(guò)網(wǎng)絡(luò)將誤差信號(hào)沿原來(lái)的連接通路反傳回來(lái)修改各層神經(jīng)元的權(quán)值直至達(dá)到期望目標(biāo)。在Matlab中用t

21、rainbp函數(shù)可實(shí)現(xiàn)這一過(guò)程。對(duì)待測(cè)樣本進(jìn)行分類(lèi)并對(duì)結(jié)果進(jìn)行統(tǒng)計(jì)分析BP網(wǎng)絡(luò)的訓(xùn)練流程： 使用trainbp對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練設(shè)置函數(shù)參數(shù)變量TP樣本矩陣P和目標(biāo)矩陣T賦給訓(xùn)練函數(shù)并初始化權(quán)值W和最大循環(huán)次數(shù)max_epoch, lr,disp_freq訓(xùn)練開(kāi)始訓(xùn)練結(jié)束圖象樣本轉(zhuǎn)化方法和程序：圖象轉(zhuǎn)化方法同實(shí)驗(yàn)一。網(wǎng)絡(luò)隱含層的選擇： 1989年Robert Hecht-Nielson曾經(jīng)證明了當(dāng)各節(jié)點(diǎn)具有不同的閾值時(shí)，具有一個(gè)隱層的網(wǎng)絡(luò)就可以用來(lái)逼近任意連續(xù)函數(shù)。然而由于其先決條件很難滿(mǎn)足，很少被完整地使用。通常對(duì)大多數(shù)的實(shí)際問(wèn)題，往往不考慮這個(gè)先決條件，而取用一個(gè)隱層，即三層網(wǎng)絡(luò)，就能完成大多

22、數(shù)的非線性映射。而對(duì)于隱層節(jié)點(diǎn)數(shù)的個(gè)數(shù)選擇，并沒(méi)有一個(gè)明確的理論，大多是通過(guò)經(jīng)驗(yàn)確定，有這么幾個(gè)經(jīng)驗(yàn)公式來(lái)計(jì)算隱層節(jié)點(diǎn)數(shù):m:隱層節(jié)點(diǎn)數(shù) n：輸入節(jié)點(diǎn)數(shù) o: 輸出節(jié)點(diǎn)數(shù) a: 1-10之間的常數(shù)m = sqrt(n + o) + a;m = log2nm = sqrt(n * o)在本次畢設(shè)實(shí)驗(yàn)中，樣本為一個(gè)1024維的輸入向量，輸出為一個(gè)4維向量，由以上公式中求出隱層節(jié)點(diǎn)數(shù)，取其中最小的，將隱層節(jié)點(diǎn)數(shù)設(shè)為10個(gè)。程序：P = train2; T = T1; %將樣本及目標(biāo)矩陣賦給訓(xùn)練函數(shù)%初始化R,Q = size(P); S2,Q = size(T);S1=10;P=normc(P);%

23、歸一化W1,B1=rands(S1,R);W2,B2=rands(S2,S1); %賦給權(quán)值矩陣以隨機(jī)初始值disp_fqre=50; %設(shè)定顯示頻率err_goal=0.02; %設(shè)定希望誤差最小值lr=0.01; %設(shè)定學(xué)習(xí)速率max_epoch=80000; %設(shè)定最大循環(huán)次數(shù)TP=disp_fqre max_epoch err_goal lr; %設(shè)定訓(xùn)練參數(shù)w1,B1,W2,B2,epochs,errors=trainbp(W1,B1,tansig,W2,B2,logsig,P,T,TP) %開(kāi)始訓(xùn)練識(shí)別：A1=tansig(w1*train3);for i=1:20 A1(:,i)=A1(:,i)+B1;endA2=logsig(W2*A1)for i=1:20 A2(:,i)=A2(:,i)+B2;end實(shí)驗(yàn)結(jié)果： 根據(jù)本實(shí)驗(yàn)所提供的實(shí)驗(yàn)樣本矩陣，BP網(wǎng)絡(luò)識(shí)別的準(zhǔn)確率應(yīng)該達(dá)到35%以上，但是由于沒(méi)有對(duì)樣本的冗余信息進(jìn)行處理，所以網(wǎng)絡(luò)識(shí)別的準(zhǔn)確率也不回超過(guò)50%。表4 BP網(wǎng)的分類(lèi)實(shí)驗(yàn)結(jié)果條件一條件二條件三平均識(shí)別個(gè)數(shù)8998.7樣本總數(shù)20202020正確率40%45%45%43.3%實(shí)驗(yàn)三 分級(jí)聚類(lèi)實(shí)驗(yàn)實(shí)驗(yàn)?zāi)康模豪斫夥旨?jí)聚類(lèi)的三種方法：均值聚類(lèi)、最小距離聚類(lèi)、最大距離聚類(lèi)掌握這三種聚類(lèi)方法的原理任選一種編程實(shí)現(xiàn)實(shí)驗(yàn)要求：為了研究世界各國(guó)森林、草原資源的分布規(guī)律，共