感知器教學(xué)課件

感知器感知器（Perceptron）是由美國計算機科學(xué)家羅森布拉特（F.Roseblatt）于1957年提出的。單層感知器神經(jīng)元模型圖：圖1感知器神經(jīng)元模型F.Roseblatt已經(jīng)證明，如果兩類模式是線性可分的（指存在一個超平面將它們分開），則算法一定收斂。感知器特別適用于簡單的模式分類問題，也可用于基于模式分類的學(xué)習控制中。本節(jié)中所說的感知器是指單層的感知器。多層網(wǎng)絡(luò)因為要用到后面將要介紹的反向傳播法進行權(quán)值修正，所以把它們均歸類為反向傳播網(wǎng)絡(luò)之中。1感知器的網(wǎng)絡(luò)結(jié)構(gòu)根據(jù)網(wǎng)絡(luò)結(jié)構(gòu)，可以寫出第i個輸出神經(jīng)元（i＝1，2，…，s）的加權(quán)輸入和ni及其輸出ai為：感知器的輸出值是通過測試加權(quán)輸入和值落在閾值函數(shù)的左右來進行分類的，即有：閾值激活函數(shù)如圖3所示。2感知器的圖形解釋由感知器的網(wǎng)絡(luò)結(jié)構(gòu)，我們可以看出感知器的基本功能是將輸入矢量轉(zhuǎn)化成0或1的輸出。這一功能可以通過在輸入矢量空間里的作圖來加以解釋。感知器權(quán)值參數(shù)的設(shè)計目的，就是根據(jù)學(xué)習法則設(shè)計一條W*P+b＝0的軌跡，使其對輸入矢量能夠達到期望位置的劃分。

以輸入矢量r＝2為例，對于選定的權(quán)值w1、w2和b，可以在以p1和p2分別作為橫、縱坐標的輸入平面內(nèi)畫出W*P+b＝w1p1+w2p2+b＝0的軌跡，它是一條直線，此直線上的及其線以上部分的所有p1、p2值均使w1p1+w2p2+b＞0，這些點若通過由w1、w2和b構(gòu)成的感知器則使其輸出為1；該直線以下部分的點則使感知器的輸出為0。

所以當采用感知器對不同的輸入矢量進行期望輸出為0或1的分類時，其問題可轉(zhuǎn)化為：對于已知輸入矢量在輸入空間形成的不同點的位置，設(shè)計感知器的權(quán)值W和b，將由W*P+b＝0的直線放置在適當?shù)奈恢蒙鲜馆斎胧噶堪雌谕敵鲋颠M行上下分類。圖4輸入矢量平面圖3感知器的學(xué)習規(guī)則學(xué)習規(guī)則是用來計算新的權(quán)值矩陣W和閾值B的算法。

感知器利用其學(xué)習規(guī)則來調(diào)整網(wǎng)絡(luò)的權(quán)值，以便使該網(wǎng)絡(luò)對輸入矢量的響應(yīng)達到數(shù)值為0或1的目標輸出。輸入矢量P，輸出矢量A，目標矢量為T的感知器網(wǎng)絡(luò)，其學(xué)習規(guī)則為：如果第i個神經(jīng)元的輸出是正確的，即有：ai＝ti，那么與第i個神經(jīng)元聯(lián)接的權(quán)值wij和閾值bi保持不變；如果第i個神經(jīng)元的輸出是0，但期望輸出為1，即有ai＝0，而ti＝1，此時權(quán)值修正算法為：新的權(quán)值wij為舊的權(quán)值wij加上輸入矢量pj；類似的，新的閾值bi為舊閾值bi加上它的輸入1；如果第i個神經(jīng)元的輸出為1，但期望輸出為0，即有ai＝1，而ti＝0，此時權(quán)值修正算法為：新的權(quán)值wij等于舊的權(quán)值wij減去輸入矢量pj；類似的，新的閾值bi為舊閾值bi減去1。感知器學(xué)習規(guī)則的實質(zhì)為：權(quán)值的變化量等于正負輸入矢量。對于所有的i和j，i＝l，2，…，s；j＝1，2，…，r，感知器修正權(quán)值公式為：上述用來修正感知器權(quán)值的學(xué)習算法在MATLAB神經(jīng)網(wǎng)絡(luò)工具箱中已編成了子程序，成為一個名為1earnp.m的函數(shù)。只要直接調(diào)用此函數(shù)，即可立即獲得權(quán)值的修正量。此函數(shù)所需要的輸入變量為：輸入矢量、輸出矢量和目標矢量：P、A和T。4網(wǎng)絡(luò)的訓(xùn)練感知器的訓(xùn)練過程如下：

在輸入矢量P的作用下，計算網(wǎng)絡(luò)的實際輸出A，并與相應(yīng)的目標矢量T進行比較，檢查A是否等于T，然后用比較后的誤差量，根據(jù)學(xué)習規(guī)則進行權(quán)值和偏差的調(diào)整； 重新計算網(wǎng)絡(luò)在新權(quán)值作用下的輸入，重復(fù)權(quán)值調(diào)整過程，直到網(wǎng)絡(luò)的輸出A等于目標矢量T或訓(xùn)練次數(shù)達到事先設(shè)置的最大值時訓(xùn)練結(jié)束。感知器設(shè)計訓(xùn)練的步驟可總結(jié)如下：1)對于所要解決的問題，確定輸入矢量P，目標矢量T，并由此確定各矢量的維數(shù)以及確定網(wǎng)絡(luò)結(jié)構(gòu)大小的神經(jīng)元數(shù)目：r，s和q；2)參數(shù)初始化：

a)賦給權(quán)矢量w在(-l，1)的隨機非零初始值；

b)給出最大訓(xùn)練循環(huán)次數(shù)max_epoch；3)網(wǎng)絡(luò)表達式：根據(jù)輸入矢量P以及最新權(quán)矢量W，計算網(wǎng)絡(luò)輸出矢量A；4)檢查：檢查輸出矢量A與目標矢量T是否相同，如果是或已達最大循環(huán)次數(shù)，訓(xùn)練結(jié)束，否則轉(zhuǎn)入5)；5)學(xué)習：根據(jù)感知器的學(xué)習規(guī)則調(diào)整權(quán)矢量，并返回3)。感知器神經(jīng)網(wǎng)絡(luò)的創(chuàng)建

net=newp(PR,S)PR為R2維矩陣，表示R維輸入矢量中每維輸入的最小值和最大值之間的范圍；

S表示神經(jīng)元個數(shù)；

net表示創(chuàng)建的感知器神經(jīng)網(wǎng)絡(luò)對象。感知器神經(jīng)網(wǎng)絡(luò)的訓(xùn)練

[net,y,e]=adapt(net,p,t)net表示訓(xùn)練前、后的感知器神經(jīng)網(wǎng)絡(luò)對象；

y和e分別表示訓(xùn)練后網(wǎng)絡(luò)的輸出和誤差；

p表示輸入矢量；

t表示目標矢量。

net=train(net,p,t)

對于任何一個線性可分問題，利用adapt函數(shù)經(jīng)過有限步訓(xùn)練均可收斂，但train函數(shù)無法保證。感知器神經(jīng)網(wǎng)絡(luò)的仿真

a=sim(net,p)a表示實際輸出矢量。5感知器的局限性由于感知器的激活函數(shù)采用的是閾值函數(shù)，輸出矢量只能取0或1，所以只能用它來解決簡單的分類問題；感知器只能對線性可分的向量集合進行分類。當輸入矢量中有一個數(shù)比其他數(shù)都大或小得很多時，可能導(dǎo)致較慢的收斂速度。6感知器神經(jīng)網(wǎng)絡(luò)設(shè)計實例