基于malab的概率神經(jīng)網(wǎng)絡的研究與設計

基于malab的概率神經(jīng)網(wǎng)絡的研究與設計

0matlab神經(jīng)網(wǎng)絡概率神經(jīng)網(wǎng)絡（pnn）是d.f.spec希爾博士在1989年首次提出的一個系統(tǒng)。這是一種用于解決分類問題的前腦神經(jīng)網(wǎng)絡。與傳統(tǒng)的rbf不同，pnn是一個用于解決分類問題的人工神經(jīng)網(wǎng)絡。其理論依據(jù)是貝葉斯最小風險準則(即Bayes決策理論),PNN將貝葉斯估計置于一個前饋神經(jīng)網(wǎng)絡中,其實質(zhì)就是一個分類器,根據(jù)概率密度的無參數(shù)估計來進行Bayes決策從而得到分類結(jié)果,在分類和模式識別領域中被廣泛應用。Matlab是由美國MathWorks公司開發(fā)的集數(shù)值計算、符號計算和圖形可視化三大基本功能于一體,功能強大、操作簡單的語言。Matlab神經(jīng)網(wǎng)絡工具箱的出現(xiàn),為神經(jīng)網(wǎng)絡理論的實現(xiàn)提供了一種便利的仿真手段。利用Matlab腳本語言構(gòu)造出典型神經(jīng)網(wǎng)絡的激活函數(shù),從而對所選定網(wǎng)絡輸出的計算變成對激活函數(shù)的調(diào)用。同時根據(jù)各種典型的修正網(wǎng)絡權(quán)值規(guī)則和網(wǎng)絡的訓練,根據(jù)實際問題調(diào)用工具箱中有關的設計和訓練程序,減輕繁瑣的編程工作,提高計算準確度和精度。本文將以Matlab7.0.1開發(fā)環(huán)境,介紹神經(jīng)網(wǎng)絡工具箱及其相關函數(shù),論述利用Matlab神經(jīng)網(wǎng)絡工具箱實現(xiàn)概率神經(jīng)網(wǎng)絡模型的建立步驟及其應用。1模式層的基本結(jié)構(gòu)Specht根據(jù)Bayes分類規(guī)則與Parzen窗的概率密度函數(shù),提出PNN的層次模型,包括:輸入層、模式層、求和層、決策層,其基本結(jié)構(gòu)如圖1所示。由圖1可以看出,輸入層的傳遞函數(shù)是線性的,僅僅將輸入樣本完全不變的傳遞給模式層的各節(jié)點。模式層與輸入層之間通過連接權(quán)w概率神經(jīng)網(wǎng)絡其訓練過程簡單,收斂速度快,PNN需要調(diào)節(jié)的參數(shù)少,隱含層數(shù)和隱含層神經(jīng)元個數(shù)都不需要確定,比較容易使用,同時PNN總是收斂于Bayes優(yōu)化解,穩(wěn)定性高,并且樣本的追加能力強,且可以容忍個別錯誤的樣本。2spwell神經(jīng)網(wǎng)絡設計在設計概率神經(jīng)網(wǎng)絡時,首先要構(gòu)建一個簡單的網(wǎng)絡結(jié)構(gòu),初始化網(wǎng)絡,計算誤差,確定傳遞函數(shù),訓練學習規(guī)則和網(wǎng)絡,歸一化訓練參數(shù)以及訓練樣本。在Matlab7.0.1的PNN神經(jīng)網(wǎng)絡工具箱中包含了進行PNN分析和設計的許多函數(shù),具體如下:(1)newpnn(P,T,SPREAD)該函數(shù)可以快速創(chuàng)建一個概率神經(jīng)網(wǎng)絡。該函數(shù)使得輸入層的神經(jīng)元數(shù)目和樣本矢量的維數(shù)相等。其中,P為Q組輸入向量組成的R*Q維矩陣,表示輸入向量;T為Q組分類向量組成的S*Q維矩陣,表示期望輸出向量(目標值),SPREAD是徑向基函數(shù)的擴展系數(shù),默認為1.0,如果SPREAD值接近于0,則創(chuàng)建的概率神經(jīng)網(wǎng)絡可以作為最鄰域分類器,隨著SPREAD的增大,需要更多地考慮該網(wǎng)絡附近的設計問題,所以在網(wǎng)絡設計中,需要用不同的SPREAD值進行嘗試,以確定一個最優(yōu)值。(2)radbas()高斯徑向基傳遞函數(shù)。該函數(shù)可由它的網(wǎng)絡輸入得到神經(jīng)元的輸出。在PNN中,就是使用高斯型激活函數(shù),得到模式層的輸出,傳入求和層。(3)dist(W,P)歐式距離加權(quán)函數(shù)。該函數(shù)對輸入進行加權(quán)得到加權(quán)后的輸入,在PNN的模式層中,計算輸入特征向量與訓練集中各個模式的匹配關系,一起送入傳遞函數(shù),及此處的高斯型激活函數(shù),得到模式層的輸出。其中W為S*R維的權(quán)值矩陣,P為Q組輸入(列)向量的R*Q維矩陣。(4)train(net,P,T)神經(jīng)網(wǎng)絡的訓練函數(shù)。其中的參數(shù)P、T表示的意義同(1)。(5)sim(net,P)神經(jīng)網(wǎng)絡仿真函數(shù)。其中參數(shù)同(1)。如果對神經(jīng)網(wǎng)絡的輸入和輸出的數(shù)據(jù)進行一定的預處理,可以加速訓練,提高工作效率。Matlab神經(jīng)網(wǎng)絡工具箱提供了多種數(shù)據(jù)預處理的方法,但在PNN網(wǎng)絡訓練中主要用到歸一化處理,對于輸入矩陣P和輸出矩陣T進行歸一化處理的語句為[Pn,minp,maxp,Tn,mint,maxt]=premnmx(P,T),訓練時使用歸一化后的數(shù)據(jù),即:net=train(net,Pn,Tn),訓練結(jié)束后還應對網(wǎng)絡的輸出an=sim(net,Pn)做如下處理:a=postmnmx(an,mint,maxt),在用訓練好的網(wǎng)絡對新數(shù)據(jù)進行預測時,也做相應處理。3神經(jīng)網(wǎng)絡分類概率神經(jīng)網(wǎng)絡主要用于分類和模式識別領域,其中分類方面應用最為廣泛,它的優(yōu)勢在于用線性學習算法來完成非線性學習算法所做的工作,同時保證非線性算法的高精度等特性。在模式分類中,Bayes分類規(guī)則是具有最小“期望風險”的優(yōu)化決策規(guī)則,可以處理大量樣本的分類問題,一般情況下,應用于Bayes分類規(guī)則中的概率密度函數(shù)是未知的,但是大量的模式樣本是已知的,用它們來訓練網(wǎng)絡。以下通過一個實例來說明概率神經(jīng)網(wǎng)絡在模式分類中的應用。針對某水泥泵車臂架的細部焊接結(jié)構(gòu)的疲勞壽命實驗數(shù)據(jù),應用概率神經(jīng)網(wǎng)絡的分類功能對實驗數(shù)據(jù)進行訓練處理,來得到對臂架細部結(jié)構(gòu)疲勞壽命的預測分類,其具體的實驗數(shù)據(jù)如表1所示,通過訓練的結(jié)果,可以得到很好的預測網(wǎng)絡,在實際的工程實踐中有很好的指導作用,并且減少了試驗的成本。輸入層選擇可靠度R和應力水平S,因為壽命N主要由這兩個因素決定;模式層是參與訓練的總樣本數(shù),此處為20組;求和層是利用特定的函數(shù)對模式層的對應同一類進行累加計算;決策層即輸出層,有兩個,針對試驗中焊接接頭一般壽命達到200萬次則不再發(fā)生破壞,此處就以200萬次作為分類標準,分為兩類在網(wǎng)絡中,選擇前20組數(shù)據(jù)作為網(wǎng)絡訓練樣本,后12組作為測試數(shù)據(jù),在Matlab指令窗口中,實現(xiàn)的程序具體如下:程序的執(zhí)行結(jié)果如圖2所示。通過圖2可見,把訓練樣本輸入到建立好的PNN網(wǎng)絡中,只有樣本中的5號數(shù)據(jù)判斷錯誤,同時在圖3中可見,用測試數(shù)據(jù)進行網(wǎng)絡驗證后,只有1號和12號疲勞壽命判斷錯誤,在人工神經(jīng)網(wǎng)絡允許一定的判斷誤差出現(xiàn),所以經(jīng)過對試驗中的疲勞數(shù)據(jù)的處理,此PNN網(wǎng)絡可以進行更多的樣本的預測,具有很好的工程實用價值。4傳統(tǒng)bp