智能控制課題演講

看作有向圖的

神經(jīng)網(wǎng)絡(luò)主講人：陳俊龍小組成員：陳日暢、鄭啟、譚玉堃、周財、毛杰、周桂獒、孫強、安軍、秦朝、周正、何春燕、黃靜、李媛、張越、張知先12概念信息流圖目錄

/contents21345樹網(wǎng)絡(luò)線性表圖神經(jīng)Partone第一章概念線性表：

線性表（linearlist）是具有相同類型的n（n≥0）個數(shù)據(jù)元素a0，a1，…an-1組成的有限序列。其中n稱為線性表的長度，當(dāng)n=0時稱為空線性表，n>0時稱為非空表。在線性表中，數(shù)據(jù)元素之間僅有線性關(guān)系，即每個數(shù)據(jù)元素只有一個直接前驅(qū)和一個直接后繼。從線性表的定義可以看出線性表的特征：（1）有且僅有一個開始結(jié)點(表頭結(jié)點)a0，它沒有直接前驅(qū)，只有一個直接后繼;（2）有且僅有一個終端結(jié)點(表尾結(jié)點)an-1，它沒有直接后繼，只有一個直接前驅(qū);（3）其它結(jié)點都有一個直接前驅(qū)和直接后繼；（4）元素之間為一對一的線性關(guān)系。特征二級標(biāo)題頁樹：樹(Tree)是n(n≥0)個結(jié)點的有限集T，T為空時稱為空樹，否則它滿足如下兩個條件：(1)有且僅有一個特定的稱為根(Root)的結(jié)點；(2)其余的結(jié)點可分為m(m≥0)個互不相交的子集Tl，T2，…，Tm，其中每個子集本身又是一棵樹，并稱其為根的子樹(Subree)。特征

樹形結(jié)構(gòu)的邏輯特征可用樹中結(jié)點之間的父子關(guān)系來描述：（1）樹中任一結(jié)點都可以有零個或多個直接后繼(即孩子)結(jié)點，但至多只能有一個直接前趨(即雙親)結(jié)點。（2）樹中只有根結(jié)點無前趨，它是開始結(jié)點；葉結(jié)點無后繼，它們是終端結(jié)點。（3）祖先與子孫的關(guān)系是對父子關(guān)系的延拓，它定義了樹中結(jié)點之間的縱向次序。（4）有序樹中，同一組兄弟結(jié)點從左到右有長幼之分。圖：圖（Graph）是一種較線性表和樹更為復(fù)雜的數(shù)據(jù)結(jié)構(gòu)。在線性表中，數(shù)據(jù)元素之間僅有線性關(guān)系，即每個數(shù)據(jù)元素只有一個直接前驅(qū)和一個直接后繼；在樹形結(jié)構(gòu)中，數(shù)據(jù)元素之間有著明顯的層次關(guān)系，雖然每一層上的數(shù)據(jù)元素可能和下一層中多個元素（孩子）相關(guān)，但只能和上一層中一個元素（雙親）相關(guān)；而在圖形結(jié)構(gòu)中，結(jié)點之間的關(guān)系可以是任意的，任意兩個數(shù)據(jù)元素之間都可能相關(guān)。圖在各個領(lǐng)域都有著廣泛的應(yīng)用,如電路網(wǎng)絡(luò)分析、交通運輸、管理與線路的鋪設(shè)、印刷電路板與集成電路的布線等眾多直接與圖有關(guān)的問題，它們必須用圖的有關(guān)方法進(jìn)行處理；另外像工作的分配、工程進(jìn)度的安排、課程表的制訂、關(guān)系數(shù)據(jù)庫的設(shè)計等許多實際問題。這些技術(shù)領(lǐng)域都是把圖作為解決問題的主要數(shù)學(xué)手段來使用，因此，如何在計算機中表示和處理圖結(jié)構(gòu)，就是計算機科學(xué)需研究的一項重要課題。

無向圖一個無向圖G是一個二元組<V,E>即G=<V,E>,其中:①.V是一個非空集合,稱為G的頂點集,V中元素稱為頂點或結(jié)點;②.E是無序積V&V的一個多重子集,稱E為G的邊集,E中元素稱為無向邊或簡稱邊。例：給定無向圖G＝<V,E>，其中V＝{v1,v2,v3,v4,v5}，

E={(v1,v1),(v1,v2),(v2,v3),(v2,v3),(v2,v5),(v1,v5),(v4,v5)}.

有向圖一個有向圖D是一個二元組<V,E>即D=<V,E>,其中：①.V同無向圖中的頂點集;②.E是笛卡兒積的多重子集,其元素稱為有向邊,也簡稱邊.例：給定有向圖D=<V,E>，其中V＝{a,b,c,d}，E＝{<a,a>,<a,b>,<a,b>,<a,d>,<c,d>,<d,c>,<c,b>}。

網(wǎng)絡(luò)(Network)：

若將圖的每條邊都賦上一個權(quán)，則稱這種帶權(quán)圖為網(wǎng)絡(luò)(Network)。注意：權(quán)是表示兩個頂點之間的距離、耗費等具有某種意義的數(shù)。【例】下圖就是一個網(wǎng)絡(luò)的例子。神經(jīng)（生物學(xué)解釋）

神經(jīng)（Nerve）是由聚集成束的神經(jīng)纖維所構(gòu)成，而神經(jīng)纖維本身構(gòu)造是由神經(jīng)元的軸突外被神經(jīng)膠質(zhì)細(xì)胞所形成的髓鞘包覆；其中許多神經(jīng)纖維聚集成束，外面包著由結(jié)締組成的膜，就成為一條神經(jīng)。神經(jīng)系統(tǒng)主要由三大系統(tǒng)組成，即中樞神經(jīng)系統(tǒng)、腦神經(jīng)、脊神經(jīng)。各系統(tǒng)之間以中樞神經(jīng)系統(tǒng)為中心，分工協(xié)同，共同實現(xiàn)心理功能。第章信號流圖2PARTTWO信號流圖

信號流圖是一個由在一些特定的稱為節(jié)點的點之間相連的有向連接（分支）組成的網(wǎng)絡(luò)。一個典型的節(jié)點j有一個相應(yīng)的節(jié)點信號xj。一個典型的有向連接從節(jié)點j開始，到k節(jié)點結(jié)束。它有相應(yīng)的傳遞函數(shù)或傳遞系數(shù)以確定節(jié)點k的信號yk依賴于節(jié)點j的信號xj的方式。圖形中各部分的信號流動遵循三條基本規(guī)則。規(guī)則1

信號僅僅沿著定義好的箭頭方向在連接上流動。兩種不同類型的連接可以區(qū)別開來：突觸連接它的行為由線性輸入輸出關(guān)系決定。具體來說，如圖a所示，節(jié)點信號yk由節(jié)點信號xj乘以突觸權(quán)值wkj產(chǎn)生。激活連接它的行為一般由非線性輸入輸出關(guān)系決定。如圖b所示，其中φ(·)為非線性激活函數(shù)。規(guī)則2

節(jié)點信號等于經(jīng)由連接進(jìn)入的有關(guān)節(jié)點的所有信號的代數(shù)和。這個規(guī)則通過如圖c所示的突觸會聚或扇入的情形來說明。規(guī)則3

節(jié)點信號沿每個外向連接向外傳遞，此時傳遞的信號完全獨立于外向連接的傳遞函數(shù)。神經(jīng)網(wǎng)絡(luò)是由具有互相連接的突觸節(jié)點和激活連接構(gòu)成的有向圖，具有4個主要特征：1.每個神經(jīng)元可表示為一組線性的突觸連接，一個外部應(yīng)用偏置，以及可能的非線性激活連接。偏置由和一個固定為+1的輸入連接的突觸連接表示。2.神經(jīng)元的突觸連接給它們相應(yīng)的輸入信號加權(quán)。3.輸入信號的加權(quán)和構(gòu)成該神經(jīng)元的誘導(dǎo)局部域。4.激活連接壓制神經(jīng)元的誘導(dǎo)局部域產(chǎn)生輸出。一個如此定義的有向圖是完全的，這是指它不僅僅描述了神經(jīng)元間的信號流，也描述了每個神經(jīng)元內(nèi)部的信號流。但是當(dāng)我們的注意集中在神經(jīng)元之間的信號流上時，可以使用這個圖的一個簡略形式，它省略神經(jīng)元內(nèi)部的信號流的細(xì)節(jié)。這樣的有向圖是局部完全的,它的特征是：1.源節(jié)點向圖提供輸入信號。2.每個神經(jīng)元由稱為計算節(jié)點的單個節(jié)點表示。3.聯(lián)結(jié)圖中源節(jié)點和計算節(jié)點之間的通信連接沒有權(quán)值，它們僅僅提供圖中信號流的方向。這樣定義的一個局部完全的有向圖就是所謂的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖，描述神經(jīng)網(wǎng)絡(luò)的布局。圖11給出了具有m個源節(jié)點和一個用于偏置的、