神經網絡控制及其應用

實際是自動控制理論在機械制造領域的應用的一部分，最為熱門和廣泛應用的一部分

自動控制是在沒有人直接參與的情況下，通過控制系統是被控對象自動地按照預定規(guī)律運行的控制過程。

自動控制系統是由相互聯系、相互依賴、相互作用的若干部分組成，具有控制功能的有機整體。

被控對象是指工作狀態(tài)需要給以控制的裝置、設備和過程。

給定量也稱控制量，表征被控量的希望運行規(guī)律，也是系統的輸入量。

擾動量也稱干擾量，是引起被控量偏離預定運行規(guī)律的量。從控制理論上而不是控制方法上說控制理論主要分兩大類經典控制理論和現代控制理論。經典控制理論是以傳遞函數為理論基礎，解決單輸入、單輸出的線性控制系統的分析與設計問題?，F代控制理論主要是以狀態(tài)方程或模糊數學、神經網絡等為理論基礎，解決多輸入多輸出的非線性時變控制系統的分析與設計問題?；靖拍畋疚臋n共39頁；當前第1頁；編輯于星期二\4點24分

時變系統是指其方程的系數是時間的函數，如宇宙飛船的控制系統，因為飛船的然聯消耗和引力的變化都是時間的函數。系統是由相互聯系、相互依賴、相互制約和相互作用的若干部分組成，具有某種特定功能的有機整體?？刂葡到y是由相互聯系、相互依賴、相互制約和相互作用的若干部分組成，具有某種控制功能的有機整體。本文檔共39頁；當前第2頁；編輯于星期二\4點24分自動控制系統的分類按系統組成的物理性質分電氣控制系統；機械控制系統；流體控制系統；電氣—流體控制系統按系統的數學模型（微分方程）的性質分

線性定常系統；線性時變系統；按給定量的變化規(guī)律分恒值控制系統；程序控制系統；隨動控制系統按輸入、輸出信號連續(xù)性分連續(xù)系統；離散系統按控制量參數的性質分速度控制；位置控制；力和力矩控制；混合變量控制等系統按系統有無反饋信號分開環(huán)系統；閉環(huán)系統線性系統非線性系統本文檔共39頁；當前第3頁；編輯于星期二\4點24分神經網絡控制及其應用1神經網絡控制產生的背景

自動控制面臨著兩個方面的技術問題（1）控制對象越來越復雜，存在著多種不確定（隨機性）和難以確切描述的非線性。（2）對控制系統的要求越來越高，迫切要求提高控制系統的智能化水平，即系統具有邏輯思維和推理判斷的能力。

神經網絡為處理和解決上述問題提供了一條新的途徑

（1）神經網絡源于對腦神經的模擬，所以具有很強的適應于復雜環(huán)境和多目標控制要求的自學習能力。（2）具有以任意精度逼近任意非線性連續(xù)函數的特性。

本文檔共39頁；當前第4頁；編輯于星期二\4點24分神經網絡的應用航空:高性能飛行器自動駕駛、飛行路徑模擬、飛行部件模擬、飛行部件故障檢測…汽車:汽車自動導航儀…

國防:武器操縱、目標跟蹤、面部識別、雷達和圖像信號處理、新型傳感器、聲納…

制造：生產流程控制、過程和機器診斷、機器性能分析、化工流程動態(tài)建模、項目投標…

機器人：軌道控制、操作手控制、視覺系統…

語音：語音識別、語音壓縮…還有金融、保險、銀行、醫(yī)療、交通、電訊、電子、石油天然氣、有價證券、娛樂等行業(yè)。本文檔共39頁；當前第5頁；編輯于星期二\4點24分3生物學的啟示

軸突突觸細胞體樹突圖1生物神經元的簡圖

4人工神經元

j=1,2…mi=1,2…nyjQjXnX2f∑X1圖2單神經元結構圖

輸入

輸出

軸突細胞體樹突樹突本文檔共39頁；當前第6頁；編輯于星期二\4點24分為簡便起見，也可把網絡的閾值以連接數值的形式表示出來，即令，則

式中

—為其它神經元傳至本神經元的輸入信號，

—神經元j的閾值，此閾值決定了該神經元的興奮與否；

—表示從神經元i到神經元j的連接權值；

—稱為激勵函數（也有稱為響應函數或傳輸函數）。權值表示相鄰的神經元相互連接的程度閾值即決定神經元的興奮與否，決定興奮與抑制激勵函數可為線性函數也可為非線性函數。它是用來實現輸入對輸出函數關系的靜態(tài)映射，它決定了神經元的單元特性。

本文檔共39頁；當前第7頁；編輯于星期二\4點24分常用的神經元非線性函數x10f(x)圖3階躍函數f(x)x1-1圖4sgn函數

1β=1f(x)0xβ=0.2β=5圖5S狀函數（1）階躍函數

（2）Sgn函數

（3）S狀函數

本文檔共39頁；當前第8頁；編輯于星期二\4點24分4神經網絡模型的組成

4.1．神經網絡連接的結構形式

輸出層輸入層隱含層神經元yny2y1XnX2X1圖6前向網絡

神經元網絡中神經元是分層排列，每個神經元只與前一層的神經元相連接，分為輸入層，隱含層（一層或多層）和輸出層。

（1）前向網絡本文檔共39頁；當前第9頁；編輯于星期二\4點24分（2）反饋前向網絡

網絡本身是前向型，但從輸出到輸入有反饋。

yny2y1XnX2X1圖7反饋前向網絡

圖8互連網絡

（3）互連網絡

任意兩個神經元之間都可能有連接，因此輸入信號要在神經元之間反復往返傳遞。

本文檔共39頁；當前第10頁；編輯于星期二\4點24分4.2．BP網絡的結構

BP網絡是一單向傳播的多層前向網絡，其結構圖如圖6所示BP網絡可看成是一從輸入到輸出的高度非線性映射網絡。

（1）輸入層神經元數

（2）隱含層神經元數

（3）隱含層數的確定

（4）輸出層神經元數的確定

BP網絡各層的神經元數（即節(jié)點數）及隱含層層數的確定如下：

本文檔共39頁；當前第11頁；編輯于星期二\4點24分5神經網絡的學習

當神經網絡的結構確定之后，關鍵問題是設計一個學習速度快，收斂性好的學習算法。

要求網絡本身必須具有學習功能，即能夠從示教模式的學習中逐漸調整權值，使網絡整體具有近似函數或處理信息的功能。

（1）有教師學習

（2）無教師學習

5.1．網絡學習方式本文檔共39頁；當前第12頁；編輯于星期二\4點24分廣泛應用的有教師學習的算法——BP（BackPropagation）算法

BP算法即是誤差反向傳播算法，該方法已成為神經網絡學習中最常用的方法之一。BP算法一般是應用梯度下降原理，樣本輸入信號在神經網絡中正向傳播，應用了多層前向神經網絡具有的以任意精度逼近非線性函數的能力。而網絡輸出與樣本給定輸出值之差（誤差）在網絡中是反向傳播，用于網絡的權值的訓練。

輸出層LC隱含層LB輸入層LAWpqWpjWp1WiqWijWi1W1qW1jVnpVniVn1VhpVhiVh1V1pV1iW11V11a1ahanb1bibpc1cjcq圖9基本BP網絡的拓撲結構

本文檔共39頁；當前第13頁；編輯于星期二\4點24分5.2．網絡的計算

對BP控制網絡進行訓練時，首先要提供訓練樣本，樣本可以形式化為樣本對或稱模式對

()其中Ak為第k個樣本的輸入模式

()

Ck為希望輸出模式

()它們分別對應于LA層的n個神經元和Lc層的q個神經元。當網絡的實際輸出與希望輸出一致時，學習過程結束。否則學習系統將根據實際輸出和希望輸出之間的誤差，通過調整連接權值使網絡的實際輸出趨向于希望輸出。本文檔共39頁；當前第14頁；編輯于星期二\4點24分

BP網絡樣本輸入學習算法程序框圖如圖10所示。并以圖11三層（LA，LB，LC）BP神經網絡為例進行學習過程的演示。

結束輸入學習樣本求隱含層、輸出層神經元的輸出計算實際輸出值與目標值的誤差誤差滿足要求？反向計算調整權值和閾值YN初始化本文檔共39頁；當前第15頁；編輯于星期二\4點24分

三層BP神經網絡拓撲結構

W11V11b1W12W32W31W22W21V23V22V21V13V12U2=1U1=1a1a2b2b3c1c20404圖11三層BP神經網絡拓撲結構

本文檔共39頁；當前第16頁；編輯于星期二\4點24分BP三層神經網絡學習算法各種參數及計算公式見表1。

層名本文檔共39頁；當前第17頁；編輯于星期二\4點24分學習訓練步驟如下：

第1步：網絡初始化

輸入層LA到隱含層LB的權值矩陣為

隱含層LB到輸出層LC權值矩陣為

隱含層LB各神經元閾值為

本文檔共39頁；當前第18頁；編輯于星期二\4點24分輸出層LC-各神經元閾值為

以一個樣本對即k=1為例，樣本輸入，樣本輸出。

第2步：樣本正向輸入，進行前向計算

輸入樣本為,其輸入層的輸出為a1和a2。對于輸入層，給定每個神經元的權值為1，閾值為0，其激勵函數為S型函數，則本文檔共39頁；當前第19頁；編輯于星期二\4點24分第1個神經元的輸出值為

則

根據（8）式計算網絡LB層某一神經的加權輸入為

本文檔共39頁；當前第20頁；編輯于星期二\4點24分bi的實際輸出根據（9）式和（26）式為

根據（7）式求激勵函數為S型情況下的b值為

則

本文檔共39頁；當前第21頁；編輯于星期二\4點24分根據（5）式計算第k=1樣本對LC層神經元的加權輸入為

根據（6）式求LC層神經元的實際輸出值

則

本文檔共39頁；當前第22頁；編輯于星期二\4點24分第3步：進行誤差計算根據（14）式和樣本期量值進行輸出層LC誤差計算

則

通過給定的精度系數可判斷輸出層LC的誤差值d是否滿足要求，如果不滿足，則需進行反向傳播計算，通過修正權值和閾值使其逼近給定精度系數。本文檔共39頁；當前第23頁；編輯于星期二\4點24分

第4步：反向傳播計算（1）隱含層LB一般化誤差的計算根據（19）式計算隱含層LB一般化誤差為

則

本文檔共39頁；當前第24頁；編輯于星期二\4點24分（2）隱含層Lb和輸出層Lc權值的調整

根據（20）式調整其LB至LC權值，則按學習步長（也稱學習率）的范圍：給定。

則

本文檔共39頁；當前第25頁；編輯于星期二\4點24分根據（21）式調整LA至LB權值,則

按步長范圍：,給定

則

本文檔共39頁；當前第26頁；編輯于星期二\4點24分（3）網絡輸出層Lc和隱含層Lb閾值的調整值計算根據（22）式調整Lc層閾值

則

根據（23）式調整LB層閾值為

本文檔共39頁；當前第27頁；編輯于星期二\4點24分

則

（4）計算調整后的權值和閾值隱含層LB至輸出層LC的權值，由（25）和（34）式得本文檔共39頁；當前第28頁；編輯于星期二\4點24分

輸入層LA至隱含層LB的權值，由（24）和（35）式得輸出層LC閾值根據（27）和（36）式得

本文檔共39頁；當前第29頁；編輯于星期二\4點24分

隱含層LB閾值，根據（26）和（37）式得

經過上述計算在輸出層LC的誤差值d未滿足精度要求的情況下，完成了第1次權值和閾值的調整訓練。經反向計算調整后需按程序框圖12的流程和上述計算方法再計算輸出層LC誤差值d，其運算過程不再全部列出，只是直接給出將調整后LB層和LC層的輸出值和誤差值。本文檔共39頁；當前第30頁；編輯于星期二\4點24分

LB層的輸出值

LB層的誤差值

LC層的輸出值

LC層的誤差值

本文檔共39頁；當前第31頁；編輯于星期二\4點24分在此根據LC層的誤差值d判斷是否滿足給定的精度系數，如果不滿足再進行第2次的循環(huán)調整，再從第2步開始運行，以后為了簡化只給出調整結果。

·第2次循環(huán)調整

LC層至LB層的權值調整

LB層至LA層的權值調整

本文檔共39頁；當前第32頁；編輯于星期二\4點24分LC層閾值的調整

LB層閾值的調整

LB層的輸出值

LB層的誤差值

本文檔共39頁；當前第33頁；編輯于星期二\4點24分第3次循環(huán)調整

LC層至LB層的權值調整

LB層至