徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)課件

1、1 徑向基函數(shù)RBF神經(jīng)網(wǎng)絡(luò)2lRBF網(wǎng)絡(luò)結(jié)構(gòu)lRBF算法推導(dǎo)lRBF建模步驟l相關(guān)Matlab語(yǔ)言3 徑向基函數(shù)RBF神經(jīng)網(wǎng)絡(luò)是一種兩層前向型神經(jīng)網(wǎng)絡(luò)，包含一個(gè)具有徑向基函數(shù)神經(jīng)元的隱層和一個(gè)具有線性神經(jīng)元的輸出層。其網(wǎng)絡(luò)結(jié)構(gòu)如圖。4 徑向基函數(shù)RBF神經(jīng)網(wǎng)絡(luò)的隱層是含有S1個(gè)神經(jīng)元的徑向基函數(shù)層，節(jié)點(diǎn)函數(shù)通常為高斯函數(shù)；輸出層是含有S2個(gè)神經(jīng)元的線性層，節(jié)點(diǎn)函數(shù)通常是簡(jiǎn)單的線性函數(shù)。隱層節(jié)點(diǎn)的作用函數(shù)對(duì)輸入信號(hào)在局部產(chǎn)生響應(yīng)，當(dāng)輸入信號(hào)靠近基函數(shù)的中央范圍時(shí)，隱層節(jié)點(diǎn)將產(chǎn)生較大的輸出，因此基函數(shù)網(wǎng)絡(luò)具有局部逼近能力，學(xué)習(xí)速度快，也被稱為局部感知場(chǎng)網(wǎng)絡(luò)。5 設(shè)有N個(gè)訓(xùn)練樣本,則系統(tǒng)對(duì)所有N個(gè)

2、訓(xùn)練樣本的目標(biāo)函數(shù)為 學(xué)習(xí)的目的是使 J(設(shè)定的均方誤差) 根據(jù)梯度下降法原理,可以推出輸出權(quán)值, 隱層節(jié)點(diǎn),高斯函數(shù)的中心及寬度參數(shù)的迭代算法:22111111()22NNLNLppPkkkPpkpkJJtye6121312( )(1) ( )( )(1)(2) ( )( )( )(1)(1)(2) ( )( )( )(1)(1)(2)jjjjjjjjjjjjjjjjjijiLjjjjijijijijikkt ky k akkXWbt ky kabb kb kbb kb kxwwt kykabwkwkwwkwk 7 RBF網(wǎng)絡(luò)的學(xué)習(xí)算法分為兩個(gè)階段。第一階段是無(wú)導(dǎo)師學(xué)習(xí)，根據(jù)所有的輸入樣本確

3、定隱含層各節(jié)點(diǎn)的高斯核函數(shù)的中心向量和寬度參數(shù);第二階段是有導(dǎo)師學(xué)習(xí)。在確定隱層的參數(shù)后，根據(jù)樣本，利用最小二乘原則，求出隱層與輸出層之間的權(quán)值。8 RB F神經(jīng)網(wǎng)絡(luò)用于建模一般分為以下幾個(gè)步驟：l恰當(dāng)選擇學(xué)習(xí)樣本。激勵(lì)信號(hào)的選擇一是要使訓(xùn)練數(shù)據(jù)具有持續(xù)激勵(lì)的特性，二是應(yīng)使系統(tǒng)的全部動(dòng)態(tài)特性能被充分激勵(lì);l學(xué)習(xí)樣本數(shù)據(jù)的處理。一般來(lái)說(shuō)學(xué)習(xí)數(shù)據(jù)都應(yīng)做歸一化處理，以便所有的數(shù)據(jù)在計(jì)算過(guò)程中具有相同的權(quán)重，同時(shí)9 由于在實(shí)時(shí)控制中采集到的數(shù)據(jù)含有噪聲，因此需要進(jìn)行濾波處理；l確定模型的階次和時(shí)延。這可以應(yīng)用被建模系統(tǒng)的先驗(yàn)知識(shí)來(lái)確定，也可以通過(guò)試驗(yàn)比較的方法來(lái)確定;l采用恰當(dāng)?shù)膶W(xué)習(xí)算法完成RBF網(wǎng)絡(luò)

4、的離線學(xué)習(xí);l進(jìn)行模型的檢驗(yàn)和測(cè)試。可以采用交叉驗(yàn)證方法，即將樣本數(shù)據(jù)分成訓(xùn)練集和10 測(cè)試集，用訓(xùn)練集進(jìn)行RBF網(wǎng)絡(luò)的訓(xùn)練，用測(cè)試集進(jìn)行RBF網(wǎng)絡(luò)模型的測(cè)試;l如果系統(tǒng)是時(shí)變的，必須用遞推算法對(duì)RBF網(wǎng)絡(luò)進(jìn)行在線校正。11 根據(jù)RBF神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)和工作原理，可確定以下編程步驟及相關(guān)語(yǔ)言：l初始化，確定RBF網(wǎng)絡(luò)模型的輸入，輸出向量。l用newrb()函數(shù)設(shè)計(jì)一個(gè)滿足一定精度的RBF網(wǎng)絡(luò)。 格式：net=newrb(P,T,g,s) Newrb()可自動(dòng)增加RBF網(wǎng)絡(luò)的隱層神經(jīng)12 元，直到均方差滿足為止。其中P,T,g,s分別是輸入向量，輸出向量（目標(biāo)值）均方差精度和徑向基層的散布常數(shù)

5、。g和s的取值直接影響到網(wǎng)絡(luò)的擬合和泛化能力。 l用sim函數(shù)進(jìn)行仿真。 格式：y=sim(net,P)13下面看一個(gè)例子： 用RBF網(wǎng)絡(luò)逼近Hermit多項(xiàng)式 22( )1.1(12)exp()2xy xxx 訓(xùn)練輸入樣本集x=-40.084,有噪聲，樣本長(zhǎng)度L=101；測(cè)試輸入集x2 2 =40.084.32,長(zhǎng)度L1 1=5；學(xué)習(xí)訓(xùn)練中，將帶有噪聲的y(x)作為目標(biāo)函數(shù)，均方誤差為0.8，徑向基函數(shù)的擴(kuò)展速度為0.7，隱層的神經(jīng)元最大數(shù)目為100。繪制函數(shù)逼近曲線和函數(shù)逼近外推誤差曲線。14按照RBF神經(jīng)網(wǎng)絡(luò)的編程步驟可得到：x=-4:0.08:4; t=1.1*(1-x+2*x.2).

6、*exp(-x.2/2)+0.1*rand(1,101);p_test1=4:0.08:4.32;net=newrb(x,t,0.8,0.7,100);Y=sim(net,p_test1);x1=-4:0.08:4.32;x2=4:0.08:4.32;t1=1.1*(1-x1+2*x1.2).*exp(-x1.2/2);t2=1.1*(1-x2+2*x2.2).*exp(-x2.2/2);e=Y-t215wc1=e./t2figure(1)plot(x1,t1,k-,x,t,k+,x2,Y,r+);xlabel(自變量x)；ylabel(函數(shù)值y(x)；figure(2)plot(x2,e,b+,x2,e,b-);xlabel(自變量x)；ylabel(誤差值e)； 運(yùn)行程序，可得到函數(shù)逼近曲線和函數(shù)逼近 外推誤差曲線分別為：161718l徐科軍，陳榮保，張崇巍自動(dòng)檢測(cè)中的共性技術(shù)，清華大學(xué)出版社，2000 l