人腦與人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)與應(yīng)用（ArtficialNeuralNetwork—ANN）參考書(shū)目：人工神經(jīng)網(wǎng)絡(luò)楊行峻鄭君顯高教出版社人工神經(jīng)網(wǎng)絡(luò)及應(yīng)用袁曾任清華大學(xué)出版社人工神經(jīng)網(wǎng)絡(luò)的模型及其應(yīng)用張立明復(fù)旦大學(xué)出版社神經(jīng)網(wǎng)絡(luò)系統(tǒng)理論及其應(yīng)用沈世益神經(jīng)元網(wǎng)絡(luò)控制王永驥涂健機(jī)械工業(yè)出版神經(jīng)網(wǎng)絡(luò)的綜合基礎(chǔ)SimonHaykin英原版神經(jīng)網(wǎng)絡(luò)理論焦李或西安電子科大版人工神經(jīng)網(wǎng)絡(luò)理論設(shè)計(jì)及應(yīng)用韓力群化學(xué)工業(yè)版1緒論1.1人工神經(jīng)網(wǎng)絡(luò)概述人類大腦分為兩個(gè)半球（左半球-左腦；右半球-右腦）,左腦支配人體的右側(cè),右腦支配人體的左側(cè),大腦受傷會(huì)使它支配的那部分身體產(chǎn)生功能障礙。為什么右腦損傷的人喪失音樂(lè)能力，但能說(shuō)話？為什么左腦損傷的人難以說(shuō)話，卻仍能唱歌？為什么許多藝術(shù)大師（達(dá).芬奇、米開(kāi)朗琪羅、畢加索等）都習(xí)慣使用左手？左右腦具有不同的功能。左腦不僅是語(yǔ)言中樞，還能從事分析性的工作，例如邏輯推理、數(shù)學(xué)運(yùn)算和寫(xiě)作等。右腦善于處理空間概念和模式識(shí)別(識(shí)別面孔、圖案、曲調(diào)、色彩等)，還擅長(zhǎng)創(chuàng)造性的活動(dòng)。左半球傾向于按順序處理信息，右半球卻習(xí)慣同時(shí)處理信息。

人們常常認(rèn)為，邏輯思維和分析能力比感性認(rèn)識(shí)更為重要，反映在教育上就是把注奮力集中在“讀、寫(xiě)、算”這些左腦的功能上。有一所美國(guó)的小學(xué)讓學(xué)生用一半時(shí)間學(xué)習(xí)藝術(shù)，用另一半時(shí)間學(xué)習(xí)科學(xué)，結(jié)果學(xué)生的科學(xué)課程的成績(jī)明顯提高。這表明，花時(shí)間發(fā)展右腦的功能將有助于改善左腦的功能。實(shí)際上，只有左右腦完美配合，才能產(chǎn)生最有效率的創(chuàng)造性活動(dòng)。

語(yǔ)言學(xué)習(xí)中充分發(fā)揮大腦功能的一種方法是快速閱讀。逐字逐句的緩慢閱讀是發(fā)揮左腦的功能，而快速閱讀是發(fā)揮右腦的功能，快速閱讀獲得的信息是從整體上被理解的，這樣就能提高對(duì)文字的理解程度。換句話說(shuō)，如果你發(fā)現(xiàn)一篇文章很難理解，你就應(yīng)該讀得更快一些。

近十年來(lái)，由于當(dāng)代科學(xué)技術(shù)的突飛猛進(jìn)，人類一年創(chuàng)造的財(cái)富是20世紀(jì)初的19倍。人類是否會(huì)以此速率，繼續(xù)創(chuàng)造發(fā)明，越來(lái)越聰明呢？

研究未來(lái)學(xué)的一個(gè)英國(guó)科研小組提出，人類大腦的進(jìn)化已接近極限。也就是說(shuō)，未來(lái)人類不會(huì)比現(xiàn)在的人聰明很多。該科研小組根據(jù)人類大腦進(jìn)化數(shù)學(xué)模型分析指出：人的神經(jīng)元數(shù)與神經(jīng)網(wǎng)絡(luò)規(guī)模，決定人的大腦接受、處理、利用信息的能力，也就決定人的聰明程度。

但有些科學(xué)家不同意這觀點(diǎn)，認(rèn)為在知識(shí)經(jīng)濟(jì)的時(shí)代，人類接受信息處理能力的極大提高，會(huì)促使大腦進(jìn)化出現(xiàn)結(jié)構(gòu)性變化。認(rèn)為人的不同區(qū)域的神經(jīng)元與神經(jīng)網(wǎng)絡(luò)可能出現(xiàn)進(jìn)一步分工以提高信息接受與處理效率，這很可能使未來(lái)的人類比今天的人類聰明得多。人類大腦一直在進(jìn)化

一項(xiàng)新的研究發(fā)現(xiàn)，人類的大腦仍在進(jìn)化之中，研究人員跟蹤研究了被認(rèn)為是有助于控制大腦生長(zhǎng)的兩種基因(mi-cro-cephalic和VASPM)的變化，這種變化在20萬(wàn)年前現(xiàn)代人出現(xiàn)后就一直存在。

人類的大腦比其他動(dòng)物發(fā)達(dá)，這是人類的特征。直到5800年前，人的大腦仍在進(jìn)化，而且現(xiàn)在可能也仍在進(jìn)化之中。美國(guó)芝加哥大學(xué)的遺傳學(xué)家認(rèn)為:人類已經(jīng)到了進(jìn)化的頂峰，事實(shí)上不進(jìn)化幾乎是不可能的。

科學(xué)家發(fā)現(xiàn)，微腦磷脂基因發(fā)生變異是在大約37000年前，當(dāng)時(shí)正是藝術(shù)、音樂(lè)和工具制造出現(xiàn)的時(shí)期。而ASPM基因發(fā)生變異的時(shí)間是在大約5800年前，基本上和書(shū)面語(yǔ)言的發(fā)展、農(nóng)業(yè)的擴(kuò)展和城市的發(fā)展處在同一時(shí)期。學(xué)者推測(cè)人類最近的基因進(jìn)化在某些方面可能與文化的進(jìn)化有關(guān)。

多年來(lái),人類試圖向生物學(xué)習(xí),尋求更理想的有效發(fā)明,為人類服務(wù).而人的大腦是自然界所造就的最高級(jí)產(chǎn)物，科學(xué)家們希望開(kāi)發(fā)出像人腦的機(jī)器來(lái)代替人類工作,以尋求更神奇的文明和進(jìn)步.

人工智能工程可看成是對(duì)人類左腦功能研究，主要基于邏輯思維，如電子計(jì)算機(jī)就是模擬人腦邏輯思維的人工智能系統(tǒng).

現(xiàn)行計(jì)算機(jī)運(yùn)算速度是人腦神經(jīng)元速度的幾百萬(wàn)倍，善長(zhǎng)各種數(shù)值運(yùn)算和邏輯運(yùn)算，極大地拓展了人腦的能力，所以譽(yù)為“電腦”。

迄今為止，計(jì)算機(jī)在解決與形象思維和靈感思維相關(guān)的問(wèn)題時(shí)，卻顯得無(wú)能為力。例如人腦識(shí)別（見(jiàn)面認(rèn)識(shí)），騎自行車(chē)、打籃球等涉及聯(lián)想或經(jīng)驗(yàn)的問(wèn)題，人腦可以從中體會(huì)那些只可意會(huì)、不便言傳的直覺(jué)與經(jīng)驗(yàn)，可根據(jù)情況靈活掌握處理問(wèn)題的規(guī)則，從而輕而易舉地完成此類任務(wù)，而計(jì)算機(jī)在這方面則顯得十分笨拙。

人工神經(jīng)網(wǎng)絡(luò)則是探索人的形象思維，即針對(duì)右腦的認(rèn)知規(guī)律的研究產(chǎn)物。

比較人腦與“電腦”的信息處理能力，會(huì)發(fā)現(xiàn)“電腦”和人腦存在很大的差距。反映在多個(gè)方面:

記憶與聯(lián)想能力方面:人腦具有非凡的創(chuàng)造能力。良好的學(xué)習(xí)和認(rèn)知能力（剛生嬰兒大腦幾乎空白，但是在成長(zhǎng)中通過(guò)對(duì)外界環(huán)境的感知及意識(shí)，知識(shí)和經(jīng)驗(yàn)與日俱增）。

信息綜合能力方面：人腦善于知識(shí)歸納，類比和概括，也可以是經(jīng)驗(yàn)地、模糊地甚至是直覺(jué)地做出判斷等。

信息處理速度方面：人腦中的信息處理是以神經(jīng)細(xì)胞為單位，而神經(jīng)細(xì)胞的傳遞速度只能達(dá)毫秒級(jí)，比計(jì)算機(jī)電子元件納秒級(jí)的計(jì)算速度慢得多。實(shí)際上數(shù)值處理方面確實(shí)如此。但在圖形聲音等類信息的處理方面則不同。如幾個(gè)月嬰兒從人群中一眼認(rèn)出母親，而計(jì)算機(jī)解決此類問(wèn)題則需要一幅具有幾百萬(wàn)個(gè)像素的逐點(diǎn)處理，并提取臉譜特征進(jìn)行識(shí)別，等等。

關(guān)健一點(diǎn)是人腦與電腦的信息處理機(jī)制不同，人腦中的神經(jīng)網(wǎng)絡(luò)是一種高度并行的非線性信息處理系統(tǒng)，雖然單個(gè)神經(jīng)信息處理速度為毫秒級(jí)，但大規(guī)模神經(jīng)細(xì)胞（人腦有約1.4×10１１個(gè)）的群體協(xié)同并行處理方式是高效的．而計(jì)算機(jī)采用的是有限集中的串行信息處理機(jī)制（基于馮．諾依曼工作原理VonNeumann）。即存儲(chǔ)器與處理器相互獨(dú)立，處理信息必須是形式化信息（用二進(jìn)制定義）。

布滿人類大腦皮層上的神經(jīng)細(xì)胞亦稱為神經(jīng)元。每個(gè)神經(jīng)元有數(shù)以千計(jì)的通道同其他神經(jīng)元互連，形成復(fù)雜的生物神經(jīng)網(wǎng)絡(luò)。生物神經(jīng)網(wǎng)絡(luò)以神經(jīng)元為基本信息處理單元，對(duì)信息進(jìn)行分布式存儲(chǔ)與加工。這處信息加工與存儲(chǔ)相結(jié)合的群體協(xié)同工作方式使得人腦呈現(xiàn)出神奇智能。為了模擬人腦形象思維方式，人們從模擬人腦生物神經(jīng)網(wǎng)絡(luò)的信息存儲(chǔ)加工處理機(jī)制入手，設(shè)計(jì)具有人類思維特點(diǎn)的智能機(jī)器，無(wú)疑是最有希望的途經(jīng)之一。ANN定義:(目前定義尚不統(tǒng)一。)ANN是

以數(shù)學(xué)和物理方法以及信息處理的角度對(duì)人腦神經(jīng)網(wǎng)絡(luò)進(jìn)行抽象，并建立某種簡(jiǎn)化模型。ANN是生物學(xué)上的真實(shí)人腦神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)以及若干基本特性的某種理論抽象，簡(jiǎn)化模擬而構(gòu)成的一種信息處理系統(tǒng)。ANN是采用物理可實(shí)現(xiàn)的系統(tǒng)來(lái)模仿人腦神經(jīng)細(xì)胞和結(jié)構(gòu)和功能的系統(tǒng)。應(yīng)該明確:ANN遠(yuǎn)不是人腦生物神經(jīng)網(wǎng)絡(luò)的真實(shí)寫(xiě)照，而只是對(duì)它的簡(jiǎn)化，抽象與模擬。目前已提出上百種ANN模型，這些簡(jiǎn)化模型的確能反映出人腦的許多基本特征。它們?cè)谀Ｊ阶R(shí)別、系統(tǒng)辨識(shí)、信號(hào)處理、自動(dòng)控制、組合優(yōu)化、預(yù)測(cè)估計(jì)、故障診斷、醫(yī)學(xué)與經(jīng)濟(jì)學(xué)等許多領(lǐng)域已成功地解決了許多用計(jì)算機(jī)等方法難解決的實(shí)際問(wèn)題，表現(xiàn)出良好的智能特征和潛在的應(yīng)用前景。人工神經(jīng)網(wǎng)絡(luò)應(yīng)用系統(tǒng)的研究，需要硬件制作技術(shù)的新突破，以便制作出ANN設(shè)備，據(jù)報(bào)道神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)已取得令人矚目的進(jìn)展。ANN的研究?jī)?nèi)容極具豐富，涉及的面寬而又有相當(dāng)深的理論有待進(jìn)一步研究（涉及多學(xué)科知識(shí)）。研究?jī)?nèi)容大體上有基本理論、模型、算法、應(yīng)用和實(shí)現(xiàn)等五大方面，每方面都有很多問(wèn)題尚未解決或完善解決，尚需用各種方法從各方面開(kāi)展對(duì)ANN進(jìn)行更深入研究。1.2人工神經(jīng)網(wǎng)絡(luò)發(fā)展簡(jiǎn)史ＡＮＮ發(fā)展可劃分四個(gè)時(shí)期（早期、低潮期、復(fù)興時(shí)期、新時(shí)期）。早期（啟蒙時(shí)期）

1943年,美國(guó)心理學(xué)家W.S.MeCuLLoch和數(shù)學(xué)家W.H.Pitts合作,在分析總結(jié)神經(jīng)元基本特性的基礎(chǔ)上，提出神經(jīng)元數(shù)學(xué)模型，簡(jiǎn)稱MP模型。從腦科學(xué)研究來(lái)看，MP模型是第一個(gè)用數(shù)理語(yǔ)言描述人腦的信息處理過(guò)程的模型。后來(lái)此模型又有發(fā)展，至今沿用——人工神經(jīng)網(wǎng)絡(luò)之先驅(qū)。

1957年,F.Rosenblatt設(shè)計(jì)制作了“感知機(jī)”（Perceptron），是一種三層神經(jīng)網(wǎng)絡(luò)。用于文字、聲音識(shí)別、聲納信號(hào)識(shí)別，及學(xué)習(xí)記憶問(wèn)題研究。1962年,Widrow和Hoff等提出了自適應(yīng)線性元件網(wǎng)絡(luò)，簡(jiǎn)稱Adline（AdaptiveLinearelemlnt），用硬件電路實(shí)現(xiàn)設(shè)計(jì)，用于自適應(yīng)信號(hào)處理，雷達(dá)無(wú)線控制等方面。低潮期

20世紀(jì)60年代末期，人們對(duì)感知機(jī)興趣開(kāi)始衰落，即線性感知機(jī)功能有限，只能進(jìn)行線性分類和求解一階謂詞問(wèn)題，不能進(jìn)行非線性分類和解決比較復(fù)雜的高階謂詞問(wèn)題（如異或（XOR）等）。典型代表人物：Minsky和Papert（美麻省理工學(xué)院著名人工智能學(xué)者）（作了大量數(shù)學(xué)研究，在當(dāng)時(shí)技術(shù)條件下，他們?cè)诙鄬泳W(wǎng)絡(luò)的有效學(xué)習(xí)方法上遇到了極大困難），由于Minsky在學(xué)術(shù)界的地位和影響其悲觀論點(diǎn)極大地影響了當(dāng)時(shí)ANN研究，為剛?cè)计鸬腁NN之火，潑了一盆冷水。不久幾乎所有為神經(jīng)網(wǎng)絡(luò)提供的研究基金都枯竭了。很多領(lǐng)域的專家紛紛放棄了這方面課題的研究，開(kāi)始了神經(jīng)網(wǎng)絡(luò)發(fā)展史上長(zhǎng)達(dá)10年的低潮期。

值得慶幸，仍有不少科學(xué)家在極其困難的條件下堅(jiān)持不懈研究，在２０世紀(jì)70年代，主要是提出了各種不同的網(wǎng)絡(luò)模型，開(kāi)展了人工神經(jīng)網(wǎng)絡(luò)理論研究，網(wǎng)絡(luò)功能研究和各種學(xué)習(xí)算法研究。為后來(lái)研究神經(jīng)網(wǎng)絡(luò)理論、數(shù)學(xué)模型和體系結(jié)構(gòu)打下了堅(jiān)實(shí)的基礎(chǔ)。（神經(jīng)網(wǎng)絡(luò)研究處于低潮的更主要原因，應(yīng)該是70年代以來(lái)集成電路和微電子技術(shù)的迅猛發(fā)展，使傳統(tǒng)的VonNedman