智能控制(第三版)chap7-典型神經(jīng)網(wǎng)絡(luò)2

1、第7章 典型7.1 單單武漢科技大學(xué) 信息科學(xué)與工程學(xué)院2()()()iijjiijiiiiiNetw xsuf Netyg uh Netiiuug)()iiyf Net武漢科技大學(xué) 信息科學(xué)與工程學(xué)院310()00iiiNetf NetNet武漢科技大學(xué) 信息科學(xué)與工程學(xué)院400max0()iiiiiiiliilNetNetf NetkNetNetNetNetfNetNet武漢科技大學(xué) 信息科學(xué)與工程學(xué)院5TNetiieNetf11)(武漢科技大學(xué) 信息科學(xué)與工程學(xué)院6圖圖7-5 BP7-5 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 7.2 BP武漢科技大學(xué) 信息科學(xué)與工程學(xué)院7武漢科技大學(xué) 信息科學(xué)與

2、工程學(xué)院87.2.2 BP網(wǎng)絡(luò)結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu) 包括一個(gè)隱含層的包括一個(gè)隱含層的BP網(wǎng)絡(luò)結(jié)構(gòu)如下圖，圖中網(wǎng)絡(luò)結(jié)構(gòu)如下圖，圖中i為輸為輸入層神經(jīng)元，入層神經(jīng)元，j為隱層神經(jīng)元，為隱層神經(jīng)元，k為輸出層神經(jīng)元。為輸出層神經(jīng)元。 武漢科技大學(xué) 信息科學(xué)與工程學(xué)院97.2.3 BP網(wǎng)絡(luò)的逼近網(wǎng)絡(luò)的逼近 BP網(wǎng)絡(luò)對(duì)目標(biāo)進(jìn)行逼近的結(jié)構(gòu)如圖網(wǎng)絡(luò)對(duì)目標(biāo)進(jìn)行逼近的結(jié)構(gòu)如圖7-6所示，圖中所示，圖中k為網(wǎng)絡(luò)的迭代步驟，為網(wǎng)絡(luò)的迭代步驟，u(k)和和y(k)為逼近器的輸入。為逼近器的輸入。 將系統(tǒng)輸出將系統(tǒng)輸出y(k)及輸入及輸入u(k)的值作為的值作為BP網(wǎng)絡(luò)逼近器網(wǎng)絡(luò)逼近器的輸入，將系統(tǒng)真實(shí)輸出與網(wǎng)絡(luò)預(yù)測(cè)輸出的誤差

3、作的輸入，將系統(tǒng)真實(shí)輸出與網(wǎng)絡(luò)預(yù)測(cè)輸出的誤差作為逼近器的調(diào)整信號(hào)。為逼近器的調(diào)整信號(hào)。武漢科技大學(xué) 信息科學(xué)與工程學(xué)院10圖圖7-6 BP網(wǎng)絡(luò)逼近網(wǎng)絡(luò)逼近器器武漢科技大學(xué) 信息科學(xué)與工程學(xué)院11用于逼近的用于逼近的BP網(wǎng)絡(luò)結(jié)構(gòu)：網(wǎng)絡(luò)結(jié)構(gòu)：武漢科技大學(xué) 信息科學(xué)與工程學(xué)院12BP網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程由網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程由正向傳播正向傳播和和反向傳播反向傳播組成。組成。 信息正向傳播（前向傳播）信息正向傳播（前向傳播）:輸入信息從輸入層經(jīng)輸入信息從輸入層經(jīng)隱層逐層處理，并傳向輸出層。隱層逐層處理，并傳向輸出層。 信息反向傳播：誤差信號(hào)自輸出層開(kāi)始按聯(lián)接通信息反向傳播：誤差信號(hào)自輸出層開(kāi)始按聯(lián)接通路反向計(jì)算，

4、由梯度下降法調(diào)整各層的權(quán)值，使路反向計(jì)算，由梯度下降法調(diào)整各層的權(quán)值，使誤差信號(hào)減小。誤差信號(hào)減小。武漢科技大學(xué) 信息科學(xué)與工程學(xué)院13iiijjxwxjxjjexfx11)()1(jjjjxxxx武漢科技大學(xué) 信息科學(xué)與工程學(xué)院14( )njojjykw x)()()(kykyken221( )212nEe kyy武漢科技大學(xué) 信息科學(xué)與工程學(xué)院15( )( )nnjonjonjojonjjoEEyywyywywwye ke k xw (1)( )jojojowkwkw武漢科技大學(xué) 信息科學(xué)與工程學(xué)院16( )nijijijEywe kww (1)jjnnijjjijjjoijojjijxx

5、yywxxwxwxw xxxxijijijwkwkw)() 1(武漢科技大學(xué) 信息科學(xué)與工程學(xué)院17(1)( )( )(1)(1)( )( )(1)0,1jojojojojoijijijijijwkwkwwkwkw kw kww kw k武漢科技大學(xué) 信息科學(xué)與工程學(xué)院18 0111jjnnjjjjjjjxxy kykykw xxwu ku kxxx武漢科技大學(xué) 信息科學(xué)與工程學(xué)院197.2.4 BP網(wǎng)絡(luò)的優(yōu)缺點(diǎn)網(wǎng)絡(luò)的優(yōu)缺點(diǎn)BP網(wǎng)絡(luò)的優(yōu)點(diǎn)為：網(wǎng)絡(luò)的優(yōu)點(diǎn)為：可以逼近任意的非線性映射關(guān)系；可以逼近任意的非線性映射關(guān)系；是全局逼近算法，具有較強(qiáng)的泛化能力。是全局逼近算法，具有較強(qiáng)的泛化能力。具有較好

6、的容錯(cuò)性。具有較好的容錯(cuò)性。BP網(wǎng)絡(luò)的主要缺點(diǎn)為：網(wǎng)絡(luò)的主要缺點(diǎn)為：收斂速度慢；收斂速度慢；容易陷入局部極小值；容易陷入局部極小值；難以確定隱層及隱層節(jié)點(diǎn)的數(shù)目。難以確定隱層及隱層節(jié)點(diǎn)的數(shù)目。武漢科技大學(xué) 信息科學(xué)與工程學(xué)院207.2.5 BP網(wǎng)絡(luò)逼近仿真實(shí)例網(wǎng)絡(luò)逼近仿真實(shí)例 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)：神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)：2-6-1仿真程序仿真程序見(jiàn)見(jiàn)chap7_1.m 23) 1(1) 1()()(kykykuky使用BP網(wǎng)絡(luò)逼近對(duì)象：武漢科技大學(xué) 信息科學(xué)與工程學(xué)院21%BP identificationclear all;close all;xite=0.50;alfa=0.05;w2=rands(6,1

7、);w2_1=w2; w2_2=w2_1;w1=rands(2,6);w1_1=w1;w1_2=w1;dw1=0*w1; %增量x=0,0;u_1=0; %u(k-1)y_1=0; %y(k-1)I=0,0,0,0,0,0; %隱層Iout=0,0,0,0,0,0;FI=0,0,0,0,0,0;ts=0.001; %采樣周期for k=1:1:1000 time(k)=k*ts; u(k)=0.50*sin(3*2*pi*k*ts); y(k)=u_13+y_1/(1+y_12); for j=1:1:6 I(j)=x*w1(:,j); Iout(j)=1/(1+exp(-I(j); end

8、yn(k)=w2*Iout; %網(wǎng)絡(luò)輸出 e(k)=y(k)-yn(k); %誤差 w2=w2_1+(xite*e(k)*Iout+alfa*(w2_1-w2_2); for j=1:1:6 FI(j)=exp(-I(j)/(1+exp(-I(j)2; end for i=1:1:2 for j=1:1:6 dw1(i,j)=xite*e(k)*FI(j)*w2(j)*x(i); end end武漢科技大學(xué) 信息科學(xué)與工程學(xué)院22 w1=w1_1+dw1+alfa*(w1_1-w1_2); yu=0; for j=1:1:6 %Jacobian yu=yu+w2(j)*w1(1,j)*FI(j

9、); end dyu(k)=yu; x(1)=u(k); x(2)=y(k); w1_2=w1_1;w1_1=w1; w2_2=w2_1;w2_1=w2; u_1=u(k); y_1=y(k);end武漢科技大學(xué) 信息科學(xué)與工程學(xué)院237.2.6 BP網(wǎng)絡(luò)模式識(shí)別網(wǎng)絡(luò)模式識(shí)別 (自學(xué)自學(xué))武漢科技大學(xué) 信息科學(xué)與工程學(xué)院24武漢科技大學(xué) 信息科學(xué)與工程學(xué)院25多輸入單輸出的多輸入單輸出的RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖7-13所示。所示。武漢科技大學(xué) 信息科學(xué)與工程學(xué)院26式中，式中，cj=cj1, , cjn為第為第j 個(gè)隱層神經(jīng)元的中心點(diǎn)矢?jìng)€(gè)隱層神經(jīng)元的中心點(diǎn)矢量值。高斯基函數(shù)的寬度矢量為量值。高斯基函數(shù)的寬度矢量為b=b1 b2 bmT其中其中bj0為隱含層神經(jīng)元為隱含層神經(jīng)元 j的高斯基函數(shù)的寬度。的高斯基函數(shù)的寬度。2j2exp,1,2,2jjhjmbxc 在在RBF神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)中，x=x1 x2 xnT為為網(wǎng)絡(luò)輸入網(wǎng)絡(luò)輸入， hj為為隱含層第隱含層第 j個(gè)神經(jīng)元的輸出個(gè)神經(jīng)元的輸出，即，即武漢科技