第7章PID神經(jīng)網(wǎng)絡(luò)

付冬梅信息工程學(xué)院自動(dòng)化系2008-10-29

第七章PID神經(jīng)網(wǎng)絡(luò)7.1緒論7.2PID神經(jīng)元的計(jì)算方法7.3PID神經(jīng)元網(wǎng)絡(luò)7.4SPID網(wǎng)絡(luò)的反傳算法7.5PID網(wǎng)絡(luò)初值權(quán)重的選取和等價(jià)系統(tǒng)第七章PID神經(jīng)網(wǎng)絡(luò)的講述內(nèi)容7.1緒論1）傳統(tǒng)控制系統(tǒng)的局限性

由于被控對(duì)象的復(fù)雜性、大規(guī)模和確定性、分布性，要實(shí)現(xiàn)自動(dòng)控制，那么基于傳統(tǒng)精確數(shù)學(xué)模型的控制理論就顯現(xiàn)出極大的局限性。

傳統(tǒng)的控制理論雖然也有辦法對(duì)付控制對(duì)象的不確定性和復(fù)雜性，如自適應(yīng)控制和魯棒控制。自適應(yīng)控制是以自動(dòng)調(diào)節(jié)控制器的參數(shù)，使其與被控對(duì)象和環(huán)境達(dá)到良好的“匹配”，以削弱不確定性的影響。從本質(zhì)上說，自適應(yīng)控制是通過估計(jì)系統(tǒng)某些重要參數(shù)，以補(bǔ)償?shù)姆椒朔到y(tǒng)參數(shù)在一定范圍內(nèi)的慢變化。魯棒控制是在一定的外部干擾和內(nèi)部參數(shù)變化作用下，以提高系統(tǒng)的靈敏度為宗旨來抵御不確定性的。根據(jù)這一思想和原則所導(dǎo)出的算法，其魯棒的區(qū)域是很有限的。7.1緒論2）人工神經(jīng)網(wǎng)絡(luò)控制的系統(tǒng)的特點(diǎn)和弱點(diǎn):

一般神經(jīng)網(wǎng)絡(luò)的弱點(diǎn)，包括以下問題：⑴一般神經(jīng)元網(wǎng)絡(luò)的學(xué)習(xí)和訓(xùn)練時(shí)間很長。⑵由于神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定往往要通過反復(fù)實(shí)驗(yàn)才可能確定，所以給控制器實(shí)際應(yīng)用方面帶來困難。⑶有的網(wǎng)絡(luò)在學(xué)習(xí)時(shí)會(huì)陷入局部極小（BP），有的網(wǎng)絡(luò)關(guān)鍵參數(shù)確定有困難（RBF）。⑷傳統(tǒng)系統(tǒng)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、參數(shù)和機(jī)能，難以與控制系統(tǒng)所要求的響應(yīng)快、超調(diào)小、無靜差、靜態(tài)指標(biāo)相聯(lián)系。⑸傳統(tǒng)的多層前向神經(jīng)網(wǎng)絡(luò)的神經(jīng)元僅具有靜態(tài)輸入輸出特性，用它構(gòu)成控制系統(tǒng)時(shí)必須附加其它動(dòng)態(tài)部件。

7.1緒論3）PID控制的特點(diǎn)及其和神經(jīng)元網(wǎng)絡(luò)的結(jié)合

配合適應(yīng).可得到快速敏捷.平穩(wěn)準(zhǔn)確的調(diào)節(jié)效果.但其合理、快速、實(shí)時(shí)的確定是關(guān)鍵。

PID在本質(zhì)上是線性控制規(guī)律，具有傳統(tǒng)控制理論的弱點(diǎn)——只適合于線性SISO系統(tǒng)，在復(fù)雜系統(tǒng)中控制效果不佳。

7.1緒論神經(jīng)元網(wǎng)絡(luò)和PID控制結(jié)合的兩種流行方法：缺點(diǎn)：結(jié)構(gòu)復(fù)雜、不能避免神經(jīng)網(wǎng)絡(luò)自身的缺陷。

缺點(diǎn)：a:仍是選擇PID參數(shù)的方法。b:神經(jīng)元起的作用相當(dāng)于單層感知器，只具有線性分類能力.7.1緒論4）PID神經(jīng)元網(wǎng)絡(luò)(PIDNN)的特點(diǎn)和結(jié)構(gòu)形式PIDNN的主要特點(diǎn)如下；PIDNN屬于交層前向神經(jīng)元網(wǎng)絡(luò)；PIDNN參照PID控制規(guī)律構(gòu)成，結(jié)構(gòu)比較簡單、規(guī)范。PIDNN的初值按PID控制規(guī)律的基本原則確定，加快了收斂速度，不易陷入極小點(diǎn)；更重要的是可以利用現(xiàn)有的PID控制的大量經(jīng)驗(yàn)數(shù)據(jù)確定網(wǎng)絡(luò)權(quán)重初值，使控制系統(tǒng)保持初始穩(wěn)定，使系統(tǒng)的全局穩(wěn)定成為可能。PIDNN可采用“無教師”的學(xué)習(xí)方式，根據(jù)控制效果進(jìn)行在線自學(xué)習(xí)和調(diào)整，使系統(tǒng)具備較好的性能。PIDNN可同時(shí)適用于SISO以及MIMO控制系統(tǒng)。

PIDNN的結(jié)構(gòu)形式：7.1緒論7.2PID神經(jīng)元的計(jì)算方法①比例元的輸入為1)比例元②比例元的狀態(tài)函數(shù)

③比例元的輸出函數(shù)

7.2PID神經(jīng)元的計(jì)算方法2)積分元積分元的輸入和輸出函數(shù)與比例函數(shù)相同。3)微分元微分元的輸入和輸出函數(shù)與比例函數(shù)相同。7.3PID神經(jīng)元網(wǎng)絡(luò)將PID和一般神經(jīng)元網(wǎng)絡(luò)融合起來的方法包括兩個(gè)步驟:①將PID功能引入神經(jīng)網(wǎng)絡(luò)的神經(jīng)元中,構(gòu)成PID神經(jīng)元(第二節(jié)完成)；②按照PID神經(jīng)元的控制規(guī)律的基本模式,用這些基本神經(jīng)元構(gòu)成新的神經(jīng)元網(wǎng)絡(luò),并找到合理有效的計(jì)算與學(xué)習(xí)方法(下節(jié)完成)。7.3PID神經(jīng)元網(wǎng)絡(luò)1、SPIDNN的結(jié)構(gòu)形式ry7.3PID神經(jīng)元網(wǎng)絡(luò)2、SPIDNN的前向計(jì)算模型SPIDNN的前向算法根據(jù)網(wǎng)絡(luò)的兩個(gè)輸入值，按網(wǎng)絡(luò)當(dāng)前權(quán)重值和各層狀態(tài)函數(shù)和輸出函數(shù)形成網(wǎng)絡(luò)的輸出。1)輸入層

SPIDNN的輸入層有兩個(gè)神經(jīng)元，在構(gòu)成控制系統(tǒng)可分別輸入系統(tǒng)被調(diào)量的給定值和實(shí)際值。在任意采樣時(shí)刻k，其輸入:（7.1）

7.3PID神經(jīng)元網(wǎng)絡(luò)輸入層神經(jīng)元的狀態(tài)為:（7.2）

輸入層神經(jīng)元的輸出為:（7.3）

以上各式中i=1,2;j=1,2,3。7.3PID神經(jīng)元網(wǎng)絡(luò)2)隱含層隱含層是神經(jīng)元網(wǎng)絡(luò)中最重要的層次，SPIDNN的隱含層有三個(gè)神經(jīng)元，分別為比例元、積分元和微分元，它們各自的輸入總值均為:（7.4）

式中：j=1,2,3；為輸入層至隱含層的連接權(quán)重值。

比例元的狀態(tài)為:

積分元的狀態(tài)為:

（7.5）微分元的狀態(tài)為：

（7.6）

（7.7）

隱含層各神經(jīng)元的輸出為7.3PID神經(jīng)元網(wǎng)絡(luò)（7.8）

3)輸出層

SPIDNN的輸出層結(jié)構(gòu)比較簡單，它只包含一個(gè)神經(jīng)元，完成網(wǎng)絡(luò)的總和輸出功能，其總輸入為：（7.9）

7.3PID神經(jīng)元網(wǎng)絡(luò)輸出層神經(jīng)元的輸出為：

SPIDNN的輸出就等于輸出層神經(jīng)元的輸出：

輸出層神經(jīng)元的狀態(tài)函數(shù)與比例元的狀態(tài)函數(shù)相同：

（7.10）

（7.11）

（7.12）

7.4PID神經(jīng)網(wǎng)絡(luò)的反傳算法

反傳算法即誤差反向傳播學(xué)習(xí)算法，它完成網(wǎng)絡(luò)權(quán)重值的修改，完成學(xué)習(xí)和記憶的功能。SPIDNN的反傳算法與傳統(tǒng)多層前向神經(jīng)元網(wǎng)絡(luò)的反傳算法類似。設(shè)訓(xùn)練輸入矢量的集合為：

其中某個(gè)訓(xùn)練輸入矢量為：SPIDNN的實(shí)際輸出矢量的集合為：式中l(wèi)為采樣點(diǎn)數(shù)。

（7.13）

（7.14）

7.4PID神經(jīng)網(wǎng)絡(luò)的反傳算法

SPIDNN的理想輸出矢量的集合為：式中SPIDNN訓(xùn)練和學(xué)習(xí)的目的是使網(wǎng)絡(luò)實(shí)際輸出和理想輸出的對(duì)應(yīng)時(shí)間序列的偏差平方均值為最小：按梯度法調(diào)節(jié)SPIDNN權(quán)重值，經(jīng)n0步訓(xùn)練和，SPIDNN各層權(quán)重值的迭代方程為：（7.16）

（7.17）（7.15）7.4PID神經(jīng)網(wǎng)絡(luò)的反傳算法

1）隱含層至輸出層隱含層至輸出層的權(quán)重值迭代公式為：式中（7.18）

（7.19）

(注意到(7.16)式)（7.20）注意到(7.12)式，可求出：7.4PID神經(jīng)網(wǎng)絡(luò)的反傳算法

注意到(7.11)式，可求出：（7.21）注意到(7.10)式，可求出：（7.22）由式（7.8）和（7.9），可求出：（7.23）7.4PID神經(jīng)網(wǎng)絡(luò)的反傳算法

令（7.24）式可簡化為：

2）輸出層至隱含層輸入層至隱含層的權(quán)重值迭代公式為將式（7.20）至式（3.23）代回式（7.19），可得：（7.24）（7.25）（7.26）7.4PID神經(jīng)網(wǎng)絡(luò)的反傳算法

由誤差反向傳播關(guān)系，其中由式（7.21）至式（7.23）結(jié)果，可以得出：（7.27）由式(7.9)，可求出：由式(7.8)，可求出：（7.28）（7.29）（7.30）7.4PID神經(jīng)網(wǎng)絡(luò)的反傳算法

如果和相等或相差很小時(shí)，上式的結(jié)果可能會(huì)趨于無窮大，計(jì)算機(jī)無法進(jìn)行計(jì)算，因此要采用近似方法。

對(duì)于神經(jīng)元網(wǎng)絡(luò)權(quán)重值的收斂，收斂方向是最重要的，收斂速度還可以通過其他因子調(diào)節(jié)。所以，可以用和

的相對(duì)變化量的符號(hào)函數(shù)近似代替式(7.31)，即采用式(7.27)中的(7.31)代替

7.4PID神經(jīng)網(wǎng)絡(luò)的反傳算法

由式（7.4），可求出

將式(7.28)至式(7.32)代回式(7.27)，可得令則式（7.33）可簡化為:(7.35)

(7.34)

(7.33)

(7.32)

7.5PID網(wǎng)絡(luò)初值權(quán)重的選取和等價(jià)系統(tǒng)1)神經(jīng)元網(wǎng)絡(luò)連接權(quán)重初值選取的重要性

神經(jīng)元網(wǎng)絡(luò)連接權(quán)重初值的選取對(duì)于神經(jīng)元網(wǎng)絡(luò)的學(xué)習(xí)和收斂速度是很重要的，因?yàn)檫B接權(quán)重初值決定了網(wǎng)絡(luò)學(xué)習(xí)的起始點(diǎn)和收斂的初始方向。恰當(dāng)?shù)倪x取連接權(quán)重初值，可使網(wǎng)絡(luò)的學(xué)習(xí)和收斂速度加快，且能避免陷入局部最小，達(dá)到事半功倍的效果。目前對(duì)傳統(tǒng)神經(jīng)元網(wǎng)絡(luò)連接權(quán)重初值的選取尚無固定的準(zhǔn)則，一般只能取隨機(jī)數(shù)，這將導(dǎo)致出現(xiàn)以下兩個(gè)問題。7.5PID網(wǎng)絡(luò)初值權(quán)重的選取和等價(jià)系統(tǒng)（1）連接權(quán)重初值取隨機(jī)數(shù)，網(wǎng)絡(luò)學(xué)習(xí)的起始點(diǎn)和收斂的初始方向?qū)⑹请S機(jī)的，要使收斂方向歸于正確必須要經(jīng)過反復(fù)的訓(xùn)練和學(xué)習(xí)，這是一般神經(jīng)元網(wǎng)絡(luò)收斂速度慢的原因之一。同時(shí)，對(duì)于采用反傳算法的網(wǎng)絡(luò)，隨即的起點(diǎn)將導(dǎo)致收斂陷入局部最小點(diǎn)。（2）在神經(jīng)元網(wǎng)絡(luò)作為控制系統(tǒng)中的控制器時(shí)，網(wǎng)絡(luò)連接權(quán)重初值的選取還關(guān)系著系統(tǒng)的穩(wěn)定性。如果網(wǎng)絡(luò)連接權(quán)重初值取隨機(jī)數(shù)，按此初值工作的神經(jīng)元網(wǎng)絡(luò)控制器很難保證系統(tǒng)初始工作的穩(wěn)定性。在實(shí)際控制過程中，如果此神經(jīng)元網(wǎng)絡(luò)控制系統(tǒng)初始狀態(tài)是不穩(wěn)定的，系統(tǒng)根本無法正常工作。這種情況下，即使此神經(jīng)元網(wǎng)絡(luò)的學(xué)習(xí)算法是收斂的也無濟(jì)于事，沒有實(shí)用價(jià)值。很多神經(jīng)元網(wǎng)絡(luò)不能用于實(shí)際系統(tǒng)控制，就是因?yàn)槠洳荒鼙ＷC系統(tǒng)全過程穩(wěn)定。7.5PID網(wǎng)絡(luò)初值權(quán)重的選取和等價(jià)系統(tǒng)2）SPIDNN的連接權(quán)重初值選取和等價(jià)系統(tǒng)

PIDNN連接權(quán)重初值的選取原則是參照PID控制器的特點(diǎn)確定的。

輸入層至隱含層的連接權(quán)重初值選取

實(shí)