人工神經(jīng)網(wǎng)絡(luò)綜述

1、人工神經(jīng)網(wǎng)絡(luò)綜述摘要：人工神經(jīng)網(wǎng)絡(luò)是屬于人工智能的一個(gè)組成部分，它的提出是基于現(xiàn)代神經(jīng)科學(xué)的相關(guān)研究，并且在諸多領(lǐng)域得到了廣泛的應(yīng)用 ，為人工智能化的發(fā)展提供了強(qiáng)大的動(dòng)力。首先論述了人工神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程，并介紹了幾種常見的模型及應(yīng)用現(xiàn)狀，最后總結(jié)了當(dāng)前存在的問題及發(fā)展方向。關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)、分類、應(yīng)用0引言多年以來，科學(xué)家們不斷從醫(yī)學(xué)、生物學(xué)、生理學(xué)、哲學(xué)、信息學(xué)、計(jì)算機(jī)科學(xué)、認(rèn)知學(xué)、組織協(xié)同學(xué)等各個(gè)角度探索人腦工作的秘密，希望能制作模擬人腦的人工神經(jīng)元。特別是近二十年來。 對(duì)大腦有關(guān)的感覺器官的仿生做了不少工作，人腦含有數(shù)億個(gè)神經(jīng)元，并以特殊的復(fù)雜形式組成在一起，它能夠在計(jì)算某些問題（如難

2、以用數(shù)學(xué)描述或非確定性問題等）時(shí)，比目前最快的計(jì)算機(jī)還要快許多倍。 大腦的信號(hào)傳導(dǎo)速度要比電子元件的信號(hào)傳導(dǎo)要慢百萬倍，然而，大腦的信息處理速度比電子元件的處理速度快許多倍，因此科學(xué)家推測(cè)大腦的信息處理方式和思維方式是非常復(fù)雜的，是一個(gè)復(fù)雜并行信息處理系統(tǒng)。在研究過程中，近年來逐漸形成了一個(gè)新興的多學(xué)科交叉技術(shù)領(lǐng)域，稱之為“人工神經(jīng)網(wǎng)絡(luò)”。神經(jīng)網(wǎng)絡(luò)的研究涉及眾多學(xué)科領(lǐng)域，這些領(lǐng)域互相結(jié)合、相互滲透并相互推動(dòng)。 1 人工神經(jīng)網(wǎng)絡(luò)概述1.1 人工神經(jīng)網(wǎng)絡(luò)的發(fā)展人工神經(jīng)網(wǎng)絡(luò)是20世紀(jì)80年代以來人工智能領(lǐng)域中興起的研究熱點(diǎn)，因其具有獨(dú)特的結(jié)構(gòu)和處理信息的方法，使其在許多實(shí)際應(yīng)用中取得了顯著成效。1.

3、1.1 人工神經(jīng)網(wǎng)絡(luò)發(fā)展初期1943年美國(guó)科學(xué)家家Pitts和MeCulloch從人腦信息處理觀點(diǎn)出發(fā)，采用數(shù)理模型的方法研究了腦細(xì)胞的動(dòng)作和結(jié)構(gòu)及其生物神經(jīng)元的一些基本生理特性，他們提出了第一個(gè)神經(jīng)計(jì)算模型，即神經(jīng)元的閾值元件模型，簡(jiǎn)稱 MP 模型，這是人類最早對(duì)于人腦功能的模仿。他們主要貢獻(xiàn)在于結(jié)點(diǎn)的并行計(jì)算能力很強(qiáng)，為計(jì)算神經(jīng)行為的某此方面提供了可能性，從而開創(chuàng)了神經(jīng)網(wǎng)絡(luò)的研究。1958年Frank Rosenblatt提出了感知模型(Pereeptron)，用來進(jìn)行分類，并首次把神經(jīng)網(wǎng)絡(luò)的研究付諸于工程實(shí)踐。1960年Bernard Widrow等提出自適應(yīng)線形元件ADACINE網(wǎng)絡(luò)模

4、型，用于信號(hào)處理中的自適應(yīng)濾波、預(yù)測(cè)和模型識(shí)別。1.1.2 人工神經(jīng)網(wǎng)絡(luò)低谷時(shí)期1969年,Minsky和Papert對(duì)以感知器為代表的網(wǎng)絡(luò)系統(tǒng)的功能及局限性從數(shù)學(xué)上做了深入研究,分析指出了出了感知器的局限性,導(dǎo)致了神經(jīng)網(wǎng)絡(luò)的研究降溫，另外基于邏輯符合運(yùn)算的人工智能的問題和局限性尚未顯現(xiàn)出來,由此導(dǎo)致了神經(jīng)網(wǎng)絡(luò)發(fā)展史上長(zhǎng)達(dá)十年的低潮期4。1.1.3 人工神經(jīng)網(wǎng)絡(luò)快速發(fā)展時(shí)期90年代以來,神經(jīng)網(wǎng)絡(luò)的局限性得到了解決,特別是美國(guó)的物理學(xué)家Hopefield在 1982 年提出了新的神經(jīng)網(wǎng)絡(luò)模型使得網(wǎng)絡(luò)的收斂性和穩(wěn)定性研究有了明確判據(jù)5,6,其應(yīng)用領(lǐng)域不斷擴(kuò)大,另外神經(jīng)網(wǎng)絡(luò)理論日益變得更加外向,注重

5、自身與科學(xué)技術(shù)之間的相互作用。1991年Aibara等在前人推導(dǎo)和實(shí)驗(yàn)的基礎(chǔ)上,給出一個(gè)混沌神經(jīng)元模型,同年Inoue等提出用耦合混沌振蕩子作為單個(gè)神經(jīng)元構(gòu)造混沌神經(jīng)網(wǎng)絡(luò)模型的方法。1995年,Jenkins等人研究了光學(xué)神經(jīng)網(wǎng)絡(luò)(PNN),建立了光學(xué)二維并行互連與電子學(xué)混合的光學(xué)神經(jīng)網(wǎng)絡(luò)系統(tǒng)。其他還有McAulay等學(xué)者致力于將電子俘獲材料用于光學(xué)神經(jīng)網(wǎng)絡(luò)等7。1.2 人工神經(jīng)網(wǎng)絡(luò)基本原理人工神經(jīng)網(wǎng)絡(luò)（Artificialneuralnetwork，ANN）是由大量的簡(jiǎn)單基本元件神經(jīng)元相互聯(lián)接而成的自適應(yīng)非線性動(dòng)態(tài)系統(tǒng)。每個(gè)神經(jīng)元的結(jié)構(gòu)和功能比較簡(jiǎn)單，但大量神經(jīng)元組合產(chǎn)生的系統(tǒng)行為卻非常復(fù)雜

6、。人工神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)模仿人腦，反映了人腦功能的若干基本特性，能夠自身適應(yīng)環(huán)境、總結(jié)規(guī)律、完成某種運(yùn)算、識(shí)別或過程控制。人工神經(jīng)網(wǎng)絡(luò)具有并行處理特征，可以大大提高工作速度。人工神經(jīng)元以不同的方式，通過改變連接方式、神經(jīng)元的數(shù)量和層數(shù)，組成不同的人工神經(jīng)網(wǎng)絡(luò)模型（神經(jīng)網(wǎng)絡(luò)模型）。人工神經(jīng)元模型的基本結(jié)構(gòu)如圖1所示。圖中X=(x1，x2，xn)TRn表示神經(jīng)元的輸入信號(hào)（也是其他神經(jīng)元的輸出信號(hào)）；wij表示神經(jīng)元i和神經(jīng)元j之間的連接強(qiáng)度，或稱之為權(quán)值；yi是神經(jīng)元i的輸出。其表達(dá)式為 式中，f （·） 為傳遞函數(shù)（或稱激活函數(shù)），表示神經(jīng)元的輸入- 輸出關(guān)系。2 幾種常見的神經(jīng)網(wǎng)絡(luò)

7、模型目前，神經(jīng)網(wǎng)絡(luò)模型的種類比較多，已有近40余種神經(jīng)網(wǎng)絡(luò)模型，其中典型的有以下幾種：第一，BP 神經(jīng)網(wǎng)絡(luò)。BP網(wǎng)絡(luò)是反向傳播(BackPropagation)網(wǎng)絡(luò)，是目前應(yīng)用最為廣泛的網(wǎng)絡(luò)，具有多層網(wǎng)絡(luò)結(jié)構(gòu)，可以有一個(gè)或者多個(gè)隱含層。他采用最小均方差學(xué)習(xí)方式，需有監(jiān)督訓(xùn)練。BP算法也被廣泛運(yùn)用于函數(shù)逼近、模式識(shí)別、數(shù)據(jù)壓縮等領(lǐng)域。典型的BP網(wǎng)絡(luò)是三層，即輸入層、隱含層(也稱中間層)和輸出層，各層之間實(shí)行全連接，同一層內(nèi)的神經(jīng)元無連接，如圖1-1表示具有一個(gè)隱含層的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，輸入層和輸出層節(jié)點(diǎn)數(shù)根據(jù)實(shí)際情況確定，而隱含層節(jié)點(diǎn)數(shù)一般按如下公式計(jì)算：設(shè)NH表示隱含層節(jié)點(diǎn)數(shù)，Nl表示輸入層節(jié)

8、點(diǎn)數(shù)，Ne表示輸出層節(jié)點(diǎn)，則有：NH=第二，ART神經(jīng)網(wǎng)絡(luò)。ART網(wǎng)絡(luò)也是一種自組織網(wǎng)絡(luò)模型，這是一種無監(jiān)督學(xué)習(xí)網(wǎng)絡(luò)。他能夠較好地協(xié)調(diào)適應(yīng)性，穩(wěn)定性和復(fù)雜性的要求。在ART網(wǎng)絡(luò)中，通常需要兩個(gè)功能互補(bǔ)的子系統(tǒng)相互作用，這2個(gè)子系統(tǒng)稱為注意子系統(tǒng)和取向子系統(tǒng)。ART網(wǎng)絡(luò)主要用于模式識(shí)別，他不足之處是在于對(duì)轉(zhuǎn)換、失真和規(guī)模變化較敏感。第三，RBF神經(jīng)網(wǎng)絡(luò)。RBF神經(jīng)網(wǎng)絡(luò)是徑向基神經(jīng)網(wǎng)絡(luò)，它與BP網(wǎng)絡(luò)類似，是一種三層前饋網(wǎng)絡(luò)。網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖5所示。第一層為輸入層，節(jié)點(diǎn)數(shù)由輸入信號(hào)的維數(shù)確定，輸入層到隱含層的權(quán)值固定為1，即將輸入信號(hào)直接傳遞到隱含層的輸入端。第二層為隱含層，節(jié)點(diǎn)數(shù)視所描述問題的需要

9、而定。從輸入空間到隱含層空間的變換是非線性的，這種非線性映射通過徑向基函數(shù)實(shí)現(xiàn)，該函數(shù)沿中心點(diǎn)徑向?qū)ΨQ，隨著與中心點(diǎn)距離的增大而輸出值逐步減小，是一種局部作用的函數(shù)。第三層為輸出層，對(duì)輸入模式的作用做出響應(yīng)，是隱含層輸出值的線性組合。第四，Hopfield 神經(jīng)網(wǎng)絡(luò)。Hopfield網(wǎng)絡(luò)是最典型的反饋網(wǎng)絡(luò)模型，他是且前人們研究得最多的模型之一。HopfIeld網(wǎng)絡(luò)是由相同的神經(jīng)元構(gòu)成的單層全互連含有對(duì)稱突觸連接并且不具學(xué)習(xí)功能的自聯(lián)想網(wǎng)絡(luò)。這個(gè)網(wǎng)絡(luò)可以完成最優(yōu)化計(jì)算和聯(lián)想記憶等功能。3 人工神經(jīng)網(wǎng)絡(luò)的應(yīng)用經(jīng)過幾十年的發(fā)展，人工神經(jīng)網(wǎng)絡(luò)以其獨(dú)特的結(jié)構(gòu)和處理信息的方法,在自動(dòng)控制、圖像處理、模式識(shí)

10、別、傳感器信號(hào)處理、機(jī)器人控制、信號(hào)處理、數(shù)據(jù)挖掘、電力系統(tǒng)、軍事、交通、農(nóng)業(yè)和氣象等許多實(shí)際應(yīng)用領(lǐng)域展現(xiàn)出了卓越性能。下面介紹神經(jīng)網(wǎng)絡(luò)在一些領(lǐng)域中的應(yīng)用現(xiàn)狀。3.1在信息領(lǐng)域中的應(yīng)用人工神經(jīng)網(wǎng)絡(luò)在信息領(lǐng)域中的應(yīng)用主要體現(xiàn)在信息處理和模式識(shí)別兩個(gè)方面。由于科技的發(fā)展 ，當(dāng)代信息處理工作越來越復(fù)雜 ，利用人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)可以對(duì)人的思維進(jìn)行模仿甚至是替代 ，面對(duì)問題自動(dòng)診斷和解決 ，能夠輕松解決許多傳統(tǒng)方法無法解決的問題 ，在軍事信息處理中的應(yīng)用極為廣泛4。模式識(shí)別是對(duì)事物表象的各種信息進(jìn)行整理和分析 ，對(duì)事物進(jìn)行辨別和解釋的一個(gè)過程 ，這樣對(duì)信息進(jìn)行處理的過程與人類大腦的思維方式很相像。模式識(shí)別

11、的方法可以分為兩種 ，一種是統(tǒng)計(jì)模式識(shí)別 ，還有一種是結(jié)構(gòu)模式識(shí)別 ，在語音識(shí)別和指紋識(shí)別等方面得到了廣泛的應(yīng)用。3.2在醫(yī)學(xué)領(lǐng)域的應(yīng)用人工神經(jīng)網(wǎng)絡(luò)對(duì)于非線性問題處理十分有效 ，而人體的構(gòu)成和疾病形成的原因十分復(fù)雜 ，具有不可預(yù)測(cè)性 ，在生物信號(hào)的表現(xiàn)形式和變化規(guī)律上也很難掌握 ，信息檢測(cè)和分析等諸多方面都存在著復(fù)雜的非線性聯(lián)系 ，所以應(yīng)用人工神經(jīng)網(wǎng)絡(luò)決解這些非線性問題具有特殊意義5。目前 ，在醫(yī)學(xué)領(lǐng)域中的應(yīng)用涉及從基礎(chǔ)醫(yī)學(xué)到臨床醫(yī)學(xué)的各個(gè)方面 ，最主要的是生物信號(hào)的檢測(cè)和自動(dòng)分析以及醫(yī)學(xué)專家系統(tǒng)等方面的應(yīng)用。3.3在經(jīng)濟(jì)領(lǐng)域中的應(yīng)用經(jīng)濟(jì)領(lǐng)域中的商品價(jià)格、供需關(guān)系、風(fēng)險(xiǎn)系數(shù)等方面的信息構(gòu)成也十

12、分復(fù)雜且變幻莫測(cè) ，人工神經(jīng)網(wǎng)絡(luò)可以對(duì)不完整的信息以及模糊不確定的信息進(jìn)行簡(jiǎn)單明了的處理 ，與傳統(tǒng)的經(jīng)濟(jì)統(tǒng)計(jì)方法相比具有其無法比擬的優(yōu)勢(shì) ，數(shù)據(jù)分析的穩(wěn)定性和可靠性更強(qiáng)。3.6 人工神經(jīng)網(wǎng)絡(luò)在心理學(xué)領(lǐng)域的應(yīng)用從神經(jīng)網(wǎng)絡(luò)模型的形成開始，它就與心理學(xué)就有著密不可分的聯(lián)系。 神經(jīng)網(wǎng)絡(luò)抽象于神經(jīng)元的信息處理功能 ，神經(jīng)網(wǎng)絡(luò)的訓(xùn)練則反映了感覺、記憶、學(xué)習(xí)等認(rèn)知過程。 人們通過不斷地研究， 變化著人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)模型和學(xué)習(xí)規(guī)則 ，從不同角度探討著神經(jīng)網(wǎng)絡(luò)的認(rèn)知功能，為其在心理學(xué)的研究中奠定了堅(jiān)實(shí)的基礎(chǔ)。 近年來 ，人工神經(jīng)網(wǎng)絡(luò)模型已經(jīng)成為探討社會(huì)認(rèn)知、記憶、學(xué)習(xí)等高級(jí)心理過程機(jī)制的不可或缺的工具。 人工

13、神經(jīng)網(wǎng)絡(luò)模型還可以對(duì)腦損傷病人的認(rèn)知缺3.4在其他領(lǐng)域的應(yīng)用人工神經(jīng)網(wǎng)絡(luò)在控制領(lǐng)域、交通領(lǐng)域等方面都有很廣泛的應(yīng)用 ，能夠?qū)Ω唠y度的非線性問題進(jìn)行處理 ，對(duì)交通運(yùn)輸方面進(jìn)行集成式的管理 ，以其高適應(yīng)性和優(yōu)秀的模擬性能解決了許多傳統(tǒng)方法無法解決的問題 ，促進(jìn)了各個(gè)領(lǐng)域的快速發(fā)展。4結(jié)束語經(jīng)過幾十年的發(fā)展的研究,神經(jīng)網(wǎng)絡(luò)目前已成為一門日趨成熟、應(yīng)用面日趨廣泛的學(xué)科。本本文首先介紹了人工神經(jīng)網(wǎng)絡(luò)的基本概念、原理，對(duì)人工神經(jīng)網(wǎng)絡(luò)的發(fā)展歷史作了回顧；,簡(jiǎn)要介紹了人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),詳細(xì)闡述了常用幾種網(wǎng)絡(luò)的應(yīng)用范圍和優(yōu)缺點(diǎn)。最后,對(duì)人工神經(jīng)網(wǎng)絡(luò)的發(fā)展和應(yīng)用作了展望。人工神經(jīng)網(wǎng)絡(luò)以其獨(dú)特的作用,隨著各個(gè)方面的研究不斷深入,其發(fā)展和應(yīng)用空間必將日益廣闊。參考文獻(xiàn)1 王輝.人工神經(jīng)網(wǎng)絡(luò)的研究與發(fā)展綜述J.電腦知識(shí)與技術(shù),2008(30):.2 毛 健,趙紅東,姚婧婧. 人工神經(jīng)網(wǎng)絡(luò)的發(fā)展及應(yīng)用J. 電子設(shè)計(jì)工程,2011.3 王 磊. 人工神經(jīng)網(wǎng)絡(luò)原理、分類及應(yīng)用J. 科技資訊,2014( ).4 梁燁妮. 人工神經(jīng)網(wǎng)絡(luò)的發(fā)展及應(yīng)用J. 電力情報(bào),2014( )5 張紅蘭.