基于malab的概率神經(jīng)網(wǎng)絡(luò)的研究與設(shè)計(jì)

基于malab的概率神經(jīng)網(wǎng)絡(luò)的研究與設(shè)計(jì)

0matlab神經(jīng)網(wǎng)絡(luò)概率神經(jīng)網(wǎng)絡(luò)（pnn）是d.f.spec希爾博士在1989年首次提出的一個(gè)系統(tǒng)。這是一種用于解決分類問題的前腦神經(jīng)網(wǎng)絡(luò)。與傳統(tǒng)的rbf不同，pnn是一個(gè)用于解決分類問題的人工神經(jīng)網(wǎng)絡(luò)。其理論依據(jù)是貝葉斯最小風(fēng)險(xiǎn)準(zhǔn)則(即Bayes決策理論),PNN將貝葉斯估計(jì)置于一個(gè)前饋神經(jīng)網(wǎng)絡(luò)中,其實(shí)質(zhì)就是一個(gè)分類器,根據(jù)概率密度的無參數(shù)估計(jì)來進(jìn)行Bayes決策從而得到分類結(jié)果,在分類和模式識(shí)別領(lǐng)域中被廣泛應(yīng)用。Matlab是由美國MathWorks公司開發(fā)的集數(shù)值計(jì)算、符號(hào)計(jì)算和圖形可視化三大基本功能于一體,功能強(qiáng)大、操作簡(jiǎn)單的語言。Matlab神經(jīng)網(wǎng)絡(luò)工具箱的出現(xiàn),為神經(jīng)網(wǎng)絡(luò)理論的實(shí)現(xiàn)提供了一種便利的仿真手段。利用Matlab腳本語言構(gòu)造出典型神經(jīng)網(wǎng)絡(luò)的激活函數(shù),從而對(duì)所選定網(wǎng)絡(luò)輸出的計(jì)算變成對(duì)激活函數(shù)的調(diào)用。同時(shí)根據(jù)各種典型的修正網(wǎng)絡(luò)權(quán)值規(guī)則和網(wǎng)絡(luò)的訓(xùn)練,根據(jù)實(shí)際問題調(diào)用工具箱中有關(guān)的設(shè)計(jì)和訓(xùn)練程序,減輕繁瑣的編程工作,提高計(jì)算準(zhǔn)確度和精度。本文將以Matlab7.0.1開發(fā)環(huán)境,介紹神經(jīng)網(wǎng)絡(luò)工具箱及其相關(guān)函數(shù),論述利用Matlab神經(jīng)網(wǎng)絡(luò)工具箱實(shí)現(xiàn)概率神經(jīng)網(wǎng)絡(luò)模型的建立步驟及其應(yīng)用。1模式層的基本結(jié)構(gòu)Specht根據(jù)Bayes分類規(guī)則與Parzen窗的概率密度函數(shù),提出PNN的層次模型,包括:輸入層、模式層、求和層、決策層,其基本結(jié)構(gòu)如圖1所示。由圖1可以看出,輸入層的傳遞函數(shù)是線性的,僅僅將輸入樣本完全不變的傳遞給模式層的各節(jié)點(diǎn)。模式層與輸入層之間通過連接權(quán)w概率神經(jīng)網(wǎng)絡(luò)其訓(xùn)練過程簡(jiǎn)單,收斂速度快,PNN需要調(diào)節(jié)的參數(shù)少,隱含層數(shù)和隱含層神經(jīng)元個(gè)數(shù)都不需要確定,比較容易使用,同時(shí)PNN總是收斂于Bayes優(yōu)化解,穩(wěn)定性高,并且樣本的追加能力強(qiáng),且可以容忍個(gè)別錯(cuò)誤的樣本。2spwell神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)在設(shè)計(jì)概率神經(jīng)網(wǎng)絡(luò)時(shí),首先要構(gòu)建一個(gè)簡(jiǎn)單的網(wǎng)絡(luò)結(jié)構(gòu),初始化網(wǎng)絡(luò),計(jì)算誤差,確定傳遞函數(shù),訓(xùn)練學(xué)習(xí)規(guī)則和網(wǎng)絡(luò),歸一化訓(xùn)練參數(shù)以及訓(xùn)練樣本。在Matlab7.0.1的PNN神經(jīng)網(wǎng)絡(luò)工具箱中包含了進(jìn)行PNN分析和設(shè)計(jì)的許多函數(shù),具體如下:(1)newpnn(P,T,SPREAD)該函數(shù)可以快速創(chuàng)建一個(gè)概率神經(jīng)網(wǎng)絡(luò)。該函數(shù)使得輸入層的神經(jīng)元數(shù)目和樣本矢量的維數(shù)相等。其中,P為Q組輸入向量組成的R*Q維矩陣,表示輸入向量;T為Q組分類向量組成的S*Q維矩陣,表示期望輸出向量(目標(biāo)值),SPREAD是徑向基函數(shù)的擴(kuò)展系數(shù),默認(rèn)為1.0,如果SPREAD值接近于0,則創(chuàng)建的概率神經(jīng)網(wǎng)絡(luò)可以作為最鄰域分類器,隨著SPREAD的增大,需要更多地考慮該網(wǎng)絡(luò)附近的設(shè)計(jì)問題,所以在網(wǎng)絡(luò)設(shè)計(jì)中,需要用不同的SPREAD值進(jìn)行嘗試,以確定一個(gè)最優(yōu)值。(2)radbas()高斯徑向基傳遞函數(shù)。該函數(shù)可由它的網(wǎng)絡(luò)輸入得到神經(jīng)元的輸出。在PNN中,就是使用高斯型激活函數(shù),得到模式層的輸出,傳入求和層。(3)dist(W,P)歐式距離加權(quán)函數(shù)。該函數(shù)對(duì)輸入進(jìn)行加權(quán)得到加權(quán)后的輸入,在PNN的模式層中,計(jì)算輸入特征向量與訓(xùn)練集中各個(gè)模式的匹配關(guān)系,一起送入傳遞函數(shù),及此處的高斯型激活函數(shù),得到模式層的輸出。其中W為S*R維的權(quán)值矩陣,P為Q組輸入(列)向量的R*Q維矩陣。(4)train(net,P,T)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練函數(shù)。其中的參數(shù)P、T表示的意義同(1)。(5)sim(net,P)神經(jīng)網(wǎng)絡(luò)仿真函數(shù)。其中參數(shù)同(1)。如果對(duì)神經(jīng)網(wǎng)絡(luò)的輸入和輸出的數(shù)據(jù)進(jìn)行一定的預(yù)處理,可以加速訓(xùn)練,提高工作效率。Matlab神經(jīng)網(wǎng)絡(luò)工具箱提供了多種數(shù)據(jù)預(yù)處理的方法,但在PNN網(wǎng)絡(luò)訓(xùn)練中主要用到歸一化處理,對(duì)于輸入矩陣P和輸出矩陣T進(jìn)行歸一化處理的語句為[Pn,minp,maxp,Tn,mint,maxt]=premnmx(P,T),訓(xùn)練時(shí)使用歸一化后的數(shù)據(jù),即:net=train(net,Pn,Tn),訓(xùn)練結(jié)束后還應(yīng)對(duì)網(wǎng)絡(luò)的輸出an=sim(net,Pn)做如下處理:a=postmnmx(an,mint,maxt),在用訓(xùn)練好的網(wǎng)絡(luò)對(duì)新數(shù)據(jù)進(jìn)行預(yù)測(cè)時(shí),也做相應(yīng)處理。3神經(jīng)網(wǎng)絡(luò)分類概率神經(jīng)網(wǎng)絡(luò)主要用于分類和模式識(shí)別領(lǐng)域,其中分類方面應(yīng)用最為廣泛,它的優(yōu)勢(shì)在于用線性學(xué)習(xí)算法來完成非線性學(xué)習(xí)算法所做的工作,同時(shí)保證非線性算法的高精度等特性。在模式分類中,Bayes分類規(guī)則是具有最小“期望風(fēng)險(xiǎn)”的優(yōu)化決策規(guī)則,可以處理大量樣本的分類問題,一般情況下,應(yīng)用于Bayes分類規(guī)則中的概率密度函數(shù)是未知的,但是大量的模式樣本是已知的,用它們來訓(xùn)練網(wǎng)絡(luò)。以下通過一個(gè)實(shí)例來說明概率神經(jīng)網(wǎng)絡(luò)在模式分類中的應(yīng)用。針對(duì)某水泥泵車臂架的細(xì)部焊接結(jié)構(gòu)的疲勞壽命實(shí)驗(yàn)數(shù)據(jù),應(yīng)用概率神經(jīng)網(wǎng)絡(luò)的分類功能對(duì)實(shí)驗(yàn)數(shù)據(jù)進(jìn)行訓(xùn)練處理,來得到對(duì)臂架細(xì)部結(jié)構(gòu)疲勞壽命的預(yù)測(cè)分類,其具體的實(shí)驗(yàn)數(shù)據(jù)如表1所示,通過訓(xùn)練的結(jié)果,可以得到很好的預(yù)測(cè)網(wǎng)絡(luò),在實(shí)際的工程實(shí)踐中有很好的指導(dǎo)作用,并且減少了試驗(yàn)的成本。輸入層選擇可靠度R和應(yīng)力水平S,因?yàn)閴勖麼主要由這兩個(gè)因素決定;模式層是參與訓(xùn)練的總樣本數(shù),此處為20組;求和層是利用特定的函數(shù)對(duì)模式層的對(duì)應(yīng)同一類進(jìn)行累加計(jì)算;決策層即輸出層,有兩個(gè),針對(duì)試驗(yàn)中焊接接頭一般壽命達(dá)到200萬次則不再發(fā)生破壞,此處就以200萬次作為分類標(biāo)準(zhǔn),分為兩類在網(wǎng)絡(luò)中,選擇前20組數(shù)據(jù)作為網(wǎng)絡(luò)訓(xùn)練樣本,后12組作為測(cè)試數(shù)據(jù),在Matlab指令窗口中,實(shí)現(xiàn)的程序具體如下:程序的執(zhí)行結(jié)果如圖2所示。通過圖2可見,把訓(xùn)練樣本輸入到建立好的PNN網(wǎng)絡(luò)中,只有樣本中的5號(hào)數(shù)據(jù)判斷錯(cuò)誤,同時(shí)在圖3中可見,用測(cè)試數(shù)據(jù)進(jìn)行網(wǎng)絡(luò)驗(yàn)證后,只有1號(hào)和12號(hào)疲勞壽命判斷錯(cuò)誤,在人工神經(jīng)網(wǎng)絡(luò)允許一定的判斷誤差出現(xiàn),所以經(jīng)過對(duì)試驗(yàn)中的疲勞數(shù)據(jù)的處理,此PNN網(wǎng)絡(luò)可以進(jìn)行更多的樣本的預(yù)測(cè),具有很好的工程實(shí)用價(jià)值。4傳統(tǒng)bp