人工神經(jīng)網(wǎng)絡(luò)的發(fā)展與應(yīng)用課件

1、人工神經(jīng)網(wǎng)絡(luò)的發(fā)展和應(yīng)用曉強(qiáng)引言人類大腦的思維有三種基本方式：分為抽象（邏輯）思維，形象（直觀）思維和靈感（頓悟）思維。邏輯思維是根據(jù)規(guī)則進(jìn)行推理的過程，這個(gè)過程可以寫成指令，讓計(jì)算機(jī)來執(zhí)行。直觀性思維是講分布的信息綜合起來，根據(jù)直觀判斷而忽然產(chǎn)生的想法或者解決問題的辦法。人工神經(jīng)網(wǎng)絡(luò)就是模擬人類形象思維方式。特征理論已經(jīng)證明，任意連續(xù)非線性函數(shù)映射關(guān)系可由某一多層神經(jīng)網(wǎng)絡(luò)已任意精度加以逼近。單元簡(jiǎn)單，結(jié)構(gòu)有序的人工神經(jīng)網(wǎng)絡(luò)模型顯然是非線性系統(tǒng)建模的有效框架模型對(duì)信息并行分布處理、自適應(yīng)、自主調(diào)節(jié)聯(lián)結(jié)權(quán)值。反饋網(wǎng)絡(luò)可以實(shí)現(xiàn)類似的聯(lián)想ANN 發(fā)展歷史第一階段：?jiǎn)⒚蓵r(shí)期M-P模型，構(gòu)造ANN的方法

2、。1949年 Hebb規(guī)則，ANN學(xué)習(xí)算法的起點(diǎn)。第二階段：興盛時(shí)期1958年 Rosenblatt 在MP模型基礎(chǔ)上，提出感知機(jī)1960年 多層學(xué)習(xí)算法第三階段：反思時(shí)期只應(yīng)用于簡(jiǎn)單的線性問題。不能有效應(yīng)用于多層網(wǎng)絡(luò)?！爱惢颉眴栴}。馮諾依曼機(jī)器的全盛發(fā)展Holland 遺傳算法理論1976年 Grossberg 自適應(yīng)共振理論ARTWerbos 提出的BP算法。第四階段：復(fù)興時(shí)期Kohonen 自組織映射網(wǎng)絡(luò)模型。1982年 Hopfield 網(wǎng)絡(luò)1983年 Kirkpatrick 模擬退火算法，基于Monte Carlo 迭代法。第五階段：新發(fā)展時(shí)期Edelman Darwinism 模型

3、ANN處理信息的機(jī)理和結(jié)構(gòu)ANN 處理單元類型分為三類：輸入層、輸出層和隱層。網(wǎng)絡(luò)類型：前向網(wǎng)絡(luò)（層狀結(jié)構(gòu)）反饋網(wǎng)絡(luò)：Hopfield網(wǎng)絡(luò)，波爾茨曼機(jī)相互混合型網(wǎng)絡(luò)（網(wǎng)狀結(jié)構(gòu)）混合型網(wǎng)絡(luò)（介于層狀結(jié)構(gòu)和網(wǎng)狀結(jié)構(gòu)之間）感知器和認(rèn)知器對(duì)外部環(huán)境的模式樣本進(jìn)行學(xué)習(xí)訓(xùn)練，并能存儲(chǔ)這種模式，稱為感知器。即有教師學(xué)習(xí)，如BP網(wǎng)絡(luò)，Hopfield網(wǎng)絡(luò)對(duì)外部環(huán)境有適應(yīng)能力，能自動(dòng)提取外部環(huán)境變化的特征，則稱為認(rèn)知器。即無教師學(xué)習(xí)，如ART網(wǎng)絡(luò)，Kohonen網(wǎng)絡(luò)感知器的學(xué)習(xí)結(jié)構(gòu)感知器最大作用是對(duì)輸入樣本進(jìn)行分類，因此也稱分類器。采用階躍函數(shù)。單層網(wǎng)絡(luò)算法。感知器學(xué)習(xí)過程是通過調(diào)整權(quán)值完成的。ANN學(xué)習(xí)的梯度算法（LMS算法）不采用階躍函數(shù)，而是采用sigmoid函數(shù)。