軟件工程 畢業(yè)設(shè)計(jì)（論文）基于BP神經(jīng)網(wǎng)絡(luò)對(duì)贛江水質(zhì)的評(píng)測(cè)

1、 畢業(yè)設(shè)計(jì)（論文）題 目:bp神經(jīng)網(wǎng)絡(luò)對(duì)贛江水質(zhì)的評(píng)價(jià)英文題目:bp neural network to ganjiang river water quality appraisal 學(xué)生姓名： 學(xué) 號(hào)： 專 業(yè): 軟件工程 學(xué) 院： 軟件學(xué)院 指導(dǎo)教師： 職稱： 助教 二零一一年五月摘 要人工神經(jīng)網(wǎng)絡(luò)以人腦結(jié)構(gòu)為參考模型，試圖通過(guò)簡(jiǎn)單計(jì)算但也的高速互聯(lián)，來(lái)實(shí)現(xiàn)類(lèi)似于人類(lèi)在語(yǔ)言和圖像處理等方面的行為。它是由簡(jiǎn)單信息處理單元互聯(lián)組成的網(wǎng)絡(luò)，能夠接受并處理信息。網(wǎng)絡(luò)的信息處理是由處理單元之間的相互作用來(lái)實(shí)現(xiàn)的?；赽p神經(jīng)網(wǎng)絡(luò)的水質(zhì)評(píng)價(jià)模型的訓(xùn)練樣本即為水質(zhì)分級(jí)標(biāo)準(zhǔn)。訓(xùn)練完成后，網(wǎng)絡(luò)將保存對(duì)分級(jí)標(biāo)

2、準(zhǔn)學(xué)習(xí)的知識(shí)和有關(guān)信息，即各層間的連接權(quán)與各個(gè)神經(jīng)元的閾值得以保存，然后從輸入層輸入待評(píng)資料，得到有關(guān)評(píng)價(jià)結(jié)論的信息，從而根據(jù)一定規(guī)則作出有關(guān)的評(píng)價(jià)結(jié)論的判斷。本文運(yùn)用bp神經(jīng)網(wǎng)絡(luò)理論和方法，使用matlab 工具箱函數(shù)編程，建立了贛江水質(zhì)綜合評(píng)價(jià)的模型，對(duì)贛江近9年的監(jiān)測(cè)水質(zhì)進(jìn)行了評(píng)價(jià)。評(píng)價(jià)結(jié)果顯示，贛江水質(zhì)總體上集中在類(lèi)水質(zhì)上，屬于較清潔水；同時(shí)，評(píng)價(jià)結(jié)果也表明，bp 神經(jīng)網(wǎng)絡(luò)可以較好地實(shí)現(xiàn)水質(zhì)綜合評(píng)價(jià)，且具有較高的實(shí)用性和客觀性，完全可以應(yīng)用于實(shí)際的水質(zhì)綜合評(píng)價(jià)工作。關(guān)鍵詞：bp神經(jīng)網(wǎng)絡(luò)；水質(zhì)評(píng)價(jià)；贛江；matlababstract the manual nerve network ta

3、kes person brain structure as and makes reference to pattern and tries and passes a simple computing but also of high speed with each other allied, carry out the behavior that analogy handles and waits aspect in the language and the icon at the mankind.it is united a composite network with each othe

4、r by the simple information handing unit, accept and handle an information.the information handing of network is carried out by the interaction of of transaction unit.it fored a fluid matter to graduate standard according to the training sample of the fluid matter appraisal pattern of bp nerve netwo

5、rk.after training to complete, network conservancy vs the knowledge that graduates standard study and relevant information, namely the yu of each nerve kyat of connecting right with of each worth with keep, then the input need to be reviewed data from the input layer and receive concerning the appra

6、isal conclusion of information, thus make the criterion of a concerned appraisal conclusion according to the certain rule.this text usage bp nerve network theory and method, the tool box function of use matlab weaves a distance and created gan river fluid matter synthesis the pattern of appraisal, c

7、arried on an appraisal to the gan monitor fluid matter of river 9 years.evaluate result display, the gan rivers fluid matter is total top concentrate at type fluid matter up, belong to more sweep water;at the same time, appraisal also expresses as a result, the bp nerve network can a little bit well

8、 carry out a fluid matter synthesis appraisal, and have high function and objectivity, completely can be applied to the physical fluid matter synthesis evaluatingkeywords:bp nerve network; the fluid matter evaluates; the ganjiang river; matlab目 錄緒 論10.1 選題背景和意義10.2 國(guó)內(nèi)外研究現(xiàn)狀10.3本文應(yīng)用的水質(zhì)評(píng)價(jià)方法21. matlab語(yǔ)言

9、簡(jiǎn)介31.1 matlab的發(fā)展歷程31.2 matlab的基本特點(diǎn)31.3 matlab 7.0的新特點(diǎn)52.神經(jīng)網(wǎng)絡(luò)的基本原理72.1 人工神經(jīng)元模型82.2 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式和學(xué)習(xí)規(guī)則92.2.1 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式92.2.2 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則102.3 神經(jīng)網(wǎng)絡(luò)的特點(diǎn)及應(yīng)用112.4 bp神經(jīng)網(wǎng)絡(luò)112.4.1 bp神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)112.4.2 bp神經(jīng)網(wǎng)絡(luò)的算法122.5 本章小結(jié)163.水質(zhì)評(píng)價(jià)的bp神經(jīng)網(wǎng)絡(luò)模型173.1 基本思想173.2 建立bp神經(jīng)網(wǎng)絡(luò)模型時(shí)可能出現(xiàn)的問(wèn)題及解決方法173.2.1 建立bp神經(jīng)網(wǎng)絡(luò)模型時(shí)可能出現(xiàn)的問(wèn)題173.2.2 解決方法173.3

10、bp 神經(jīng)網(wǎng)絡(luò)的建模條件184.贛江水質(zhì)的評(píng)價(jià)194.1 贛江簡(jiǎn)介194.2 對(duì)贛江水質(zhì)的評(píng)價(jià)204.2.1 輸入層的確定224.2.2 隱含層的確定224.2.3 輸出層的確定234.2.4 網(wǎng)絡(luò)結(jié)構(gòu)的確定244.2.5 數(shù)據(jù)處理244.2.6 網(wǎng)絡(luò)訓(xùn)練264.2.7 對(duì)監(jiān)測(cè)數(shù)據(jù)進(jìn)行評(píng)價(jià)284.3對(duì)評(píng)價(jià)結(jié)果的分析30結(jié) 論31致 謝32參 考 文 獻(xiàn)33緒 論0.1 選題背景和意義水資源污染問(wèn)題嚴(yán)重地困擾著人類(lèi)的生存和發(fā)展，已成為全球性、跨世紀(jì)的關(guān)注焦點(diǎn)。為了更有效地利用和保護(hù)水體，首先必須對(duì)水體水質(zhì)進(jìn)行合理的綜合評(píng)價(jià)。對(duì)水體水質(zhì)評(píng)價(jià)的主要任務(wù)是，根據(jù)水體中反映污染程度的主要物質(zhì)的濃度和國(guó)家

11、水質(zhì)評(píng)價(jià)標(biāo)準(zhǔn)，分析、評(píng)價(jià)水質(zhì)的類(lèi)別，為水體管理提供科學(xué)的理論依據(jù)。水質(zhì)評(píng)價(jià)是以水環(huán)境監(jiān)測(cè)資料為基礎(chǔ)，按照一定的評(píng)價(jià)標(biāo)準(zhǔn)和評(píng)價(jià)方法，對(duì)水質(zhì)要素進(jìn)行定性或定量評(píng)價(jià)，以準(zhǔn)確反映水質(zhì)現(xiàn)狀，了解和掌握水體污染影響程度和發(fā)展趨勢(shì)。贛江作為江西省的最大河流，由南向北進(jìn)入南昌，贛江干流經(jīng)南昌市市區(qū)，為南昌市工業(yè)和居民生活飲用水主要水源，根據(jù)國(guó)家環(huán)?？偩?010年發(fā)布的環(huán)保重點(diǎn)城市集中式飲用水源地水質(zhì)狀況顯示，南昌市有部分水源地水質(zhì)超標(biāo)。因此，對(duì)近幾年的贛江水質(zhì)做出客觀、正確的評(píng)價(jià)有利于加強(qiáng)人們對(duì)贛江水源的保護(hù)意識(shí)。0.2 國(guó)內(nèi)外研究現(xiàn)狀目前國(guó)內(nèi)外運(yùn)用較多的水質(zhì)綜合評(píng)價(jià)方法有三種，即模糊模式識(shí)別法、灰關(guān)聯(lián)模式識(shí)

12、別法、bp人工神經(jīng)網(wǎng)絡(luò)法。1965年，查德提出模糊集合的概念，并把“模糊( fuzzy) ”一詞引入技術(shù)文獻(xiàn)當(dāng)中。水質(zhì)評(píng)價(jià)涉及到許多模糊概念， 1991年陳守煜等提出了模糊模式識(shí)別理論模型并將其應(yīng)用于水質(zhì)評(píng)價(jià)，該法利用模糊數(shù)學(xué)的理論和方法解決模式識(shí)別問(wèn)題。隨著模糊理論的不斷完善和發(fā)展，改進(jìn)的模糊模式識(shí)別模型相繼出現(xiàn)?；疑到y(tǒng)理論是鄧聚龍?jiān)?0世紀(jì)70年代末、80年代初提出的，針對(duì)灰色系統(tǒng)信息不完全與“少數(shù)數(shù)據(jù)不確定”的特點(diǎn)，用灰關(guān)聯(lián)分析作因子間的量化和序化。從系統(tǒng)信息明確與否來(lái)看，水質(zhì)評(píng)價(jià)實(shí)際上是一個(gè)外延確定而內(nèi)涵不確定的問(wèn)題，屬于灰色系統(tǒng)范疇。同模糊集理論一樣， 灰色系統(tǒng)理論在環(huán)境評(píng)價(jià)中的應(yīng)

13、用也是從聚類(lèi)分析開(kāi)始的。該方法通過(guò)建立與隸屬函數(shù)相似的白化函數(shù)進(jìn)行灰色聚類(lèi)，確定所有斷面的水質(zhì)級(jí)別。隨著灰色理論在環(huán)境系統(tǒng)中的大量應(yīng)用，又出現(xiàn)了水質(zhì)評(píng)價(jià)的灰色關(guān)聯(lián)度分析方法?；疑P(guān)聯(lián)分析法概念清楚，應(yīng)用方便， 可操作性強(qiáng)，但存在評(píng)價(jià)值趨于均化、分辨率不高的缺點(diǎn)。針對(duì)這一不足，以擴(kuò)展的最小二乘法準(zhǔn)則構(gòu)造目標(biāo)函數(shù)，通過(guò)求條件極值建立了一種湖泊富營(yíng)養(yǎng)化灰色評(píng)價(jià)模型，取得了較好的評(píng)價(jià)結(jié)果；而采用線性內(nèi)插的方法對(duì)灰色關(guān)聯(lián)度法進(jìn)行改進(jìn)，能提高評(píng)價(jià)結(jié)果的分辨率。人工神經(jīng)網(wǎng)絡(luò)是對(duì)人腦若干基本特征通過(guò)數(shù)學(xué)方法進(jìn)行的抽象和模擬，是一種模仿人腦結(jié)構(gòu)及功能的非線性信息系統(tǒng)，具有很強(qiáng)的非線性映射能力和自適應(yīng)、自組織、自

14、學(xué)習(xí)能力，能實(shí)現(xiàn)對(duì)任意復(fù)雜函數(shù)的映射。1986年，d e rumelhart和j lmcclelland提出多層網(wǎng)絡(luò)學(xué)習(xí)的誤差反傳播算法(back pragation，簡(jiǎn)稱bp神經(jīng)網(wǎng)絡(luò)) 。人們也常把按誤差反傳遞算法訓(xùn)練的多層饋網(wǎng)絡(luò)直接稱為bp網(wǎng)絡(luò)。bp 神經(jīng)網(wǎng)絡(luò)模型設(shè)計(jì)的最大特點(diǎn)是網(wǎng)絡(luò)權(quán)值通過(guò)使網(wǎng)絡(luò)模型輸出值與已知的樣本輸出值之間的誤差平方和達(dá)到期望值而不斷調(diào)整網(wǎng)絡(luò)權(quán)值訓(xùn)練出來(lái)的。確定bp 神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)模型涉及隱層及其節(jié)點(diǎn)數(shù)、轉(zhuǎn)移函數(shù)、學(xué)習(xí)參數(shù)和網(wǎng)絡(luò)模型的最后選定等問(wèn)題。bp 模型目前主要應(yīng)用于函數(shù)逼近、模式識(shí)別、分類(lèi)和數(shù)據(jù)壓縮或數(shù)據(jù)挖掘。自1994 年以來(lái)，bp 神經(jīng)網(wǎng)絡(luò)模型逐漸被引入到水

15、環(huán)境質(zhì)量綜合評(píng)價(jià)中。多數(shù)文獻(xiàn)利用bp模型的計(jì)算結(jié)果與用其它方法(如灰色聚類(lèi)方法，模糊數(shù)學(xué)法等) 的計(jì)算結(jié)果完全一致或基本一致，因此認(rèn)為bp 模型在水環(huán)境質(zhì)量綜合評(píng)價(jià)中可取得很好的結(jié)果。0.3本文應(yīng)用的水質(zhì)評(píng)價(jià)方法人工神經(jīng)網(wǎng)絡(luò)以其具有的自學(xué)習(xí)、自組織、較好的容錯(cuò)性和優(yōu)良的非線性通近能力， 受到眾多領(lǐng)域?qū)W者的關(guān)注。人工神經(jīng)網(wǎng)絡(luò)的自組織和自適應(yīng)能力決定了它適于處理在已知條件和結(jié)果之間無(wú)明確關(guān)系的數(shù)據(jù)， 并能夠在條件與結(jié)果之間建立一定的關(guān)系， 這個(gè)過(guò)程類(lèi)似于人腦維過(guò)程， 因此可模仿人類(lèi)思維解決某些模糊性和不確定性問(wèn)題。近年來(lái)，人工神經(jīng)網(wǎng)絡(luò)理論的迅速發(fā)展為水質(zhì)評(píng)價(jià)和預(yù)測(cè)提供了一種新的有效方法。本文利用

16、bp 網(wǎng)絡(luò)進(jìn)行水質(zhì)評(píng)價(jià)，其訓(xùn)練樣本為水環(huán)境質(zhì)量標(biāo)準(zhǔn)，樣本一旦訓(xùn)練完成后，根據(jù)目標(biāo)向量可以評(píng)價(jià)預(yù)測(cè)各類(lèi)水質(zhì)，具有廣泛性。并且，在該過(guò)程中所需要的參數(shù)是根據(jù)樣本訓(xùn)練學(xué)習(xí)所得，故較傳統(tǒng)的水質(zhì)評(píng)價(jià)更具有客觀性、合理性、精確性。1. matlab語(yǔ)言簡(jiǎn)介1.1 matlab的發(fā)展歷程matlab，取自矩陣（matrix）和實(shí)驗(yàn)室（laboratory）兩個(gè)英文單詞的前三個(gè)字母，意即“矩陣實(shí)驗(yàn)室”。它是一種以矩陣作為基本數(shù)據(jù)單元的程序語(yǔ)言，提供了數(shù)據(jù)分析、算法實(shí)現(xiàn)與應(yīng)用開(kāi)發(fā)的交互式環(huán)境，經(jīng)歷了20多年的發(fā)展歷程。20世紀(jì)70年代中期，美國(guó)新墨西哥大學(xué)計(jì)算機(jī)系系第主任clever moler博士和其同事在美

17、國(guó)國(guó)家自然科學(xué)基金的資助下，開(kāi)發(fā)了調(diào)用linpack和eispack的fortran子程序，20世紀(jì)70年代后期，moler博士編寫(xiě)了相應(yīng)的接口程序，并將其命名為matlab。1983年，john little 和moler、bangert等一起合作開(kāi)發(fā)了第2 代專業(yè)版matlab。1984年，moler博士和一批數(shù)學(xué)專家、軟件專家成立了math works公司，繼續(xù)matlab軟件的研制與開(kāi)發(fā)，并著力將軟件推向市場(chǎng)。1993年，math works公司連續(xù)推出了matlab3.x（第1 個(gè)windows版本）、matlab4.0。1997年，math works公司推出了matlab5.0。

18、2001年，math works公司推出了matlab6.x。2004年，math works公司推出了matlab7.0。matlab5.3對(duì)應(yīng)于releasel2, matlab6.0對(duì)應(yīng)于releasel3，而matlab7.0對(duì)應(yīng)于releasel4。matlab分為總包和若干個(gè)工具箱，隨著版本的不斷升級(jí)，它具有越來(lái)越強(qiáng)大的數(shù)值計(jì)算能力、更為卓越的數(shù)據(jù)可視化能力及良好的符號(hào)計(jì)算功能，逐步發(fā)展成為各種學(xué)科、多種工作方便平臺(tái)下功能強(qiáng)大的大型軟件，獲得了廣大科技工作者的普遍認(rèn)可。一方面，matlab可以方便實(shí)現(xiàn)數(shù)值分析、優(yōu)化分析、數(shù)據(jù)處理、自動(dòng)控制、信號(hào)處理等領(lǐng)域的數(shù)學(xué)計(jì)算，另一方面，也可以

19、快捷實(shí)現(xiàn)計(jì)算可視化、圖形繪制、場(chǎng)景創(chuàng)建和渲染、圖像處理、虛擬現(xiàn)實(shí)和地圖制作等分析處理工作。在歐美許多高校，matlab已經(jīng)成為線性代數(shù)、自動(dòng)控制理論、概率論及數(shù)理統(tǒng)計(jì)、數(shù)字信號(hào)處理、時(shí)間序列分析、動(dòng)態(tài)系統(tǒng)仿真等課程的基本教學(xué)工具，是攻讀學(xué)位本科生、研究生必須掌握的基本技能。在國(guó)內(nèi)，這一語(yǔ)言也正逐步成為一些大學(xué)理工科專業(yè)學(xué)生的重要選修課。1.2 matlab的基本特點(diǎn)matlab是一種高級(jí)編程語(yǔ)言，其特點(diǎn)可以歸納為以下幾點(diǎn)：1.語(yǔ)言簡(jiǎn)單易學(xué)matlab是一種解釋執(zhí)行的語(yǔ)言，語(yǔ)句采取通用數(shù)學(xué)形式，語(yǔ)法規(guī)則與一般結(jié)構(gòu)化高級(jí)編程語(yǔ)言（如c語(yǔ)言等）相差不大，并把編輯、編譯、連接、執(zhí)行功能融為一體，調(diào)試程

20、序手段豐富、調(diào)試速度快，可以快速排除輸入程序時(shí)書(shū)寫(xiě)、語(yǔ)法等方面的錯(cuò)誤，具有一般語(yǔ)言基礎(chǔ)的用戶可以較快掌握。2.代碼短小高效matlab語(yǔ)言將矩陣作為最基本的數(shù)據(jù)單元，無(wú)須預(yù)先定義維數(shù)，函數(shù)是matlab中最基本、也是最重要的組成成分，而matlab將數(shù)學(xué)問(wèn)題的許多算法編成了大量庫(kù)函數(shù)、具有解決許多問(wèn)題的工具箱，只要熟悉算法基本特點(diǎn)、函數(shù)調(diào)用格式和參數(shù)具體意義等內(nèi)容，調(diào)用現(xiàn)成函數(shù)就可以較快解決自己專業(yè)領(lǐng)域的許多問(wèn)題，而不必再花很多時(shí)間去實(shí)現(xiàn)常規(guī)算法，使得所編寫(xiě)的代碼文件簡(jiǎn)單短小、求解專業(yè)問(wèn)題時(shí)高效方便。3.計(jì)算功能強(qiáng)大matlab語(yǔ)言具有強(qiáng)大的矩陣數(shù)值計(jì)算功能，可以方便地處理許多特殊矩陣，利用符

21、號(hào)和函數(shù)可以對(duì)矩陣進(jìn)行線性代數(shù)運(yùn)算（加減乘除、轉(zhuǎn)置和求逆等），適用于大型數(shù)值算法的編程實(shí)現(xiàn)；工具箱中許多高性能的數(shù)值計(jì)算算法，可以解決實(shí)際應(yīng)用中的許多數(shù)學(xué)問(wèn)題，尤其是與矩陣計(jì)算有關(guān)的問(wèn)題。4.繪圖非常方便matlab語(yǔ)言具有強(qiáng)大的繪圖功能，具有很多繪圖函數(shù)命令，可以繪制一般的二維或三維圖形（如線形圖、條形圖、餅圖、散點(diǎn)圖、直方圖等），可以繪制工程特性較強(qiáng)的特殊圖形（如玫瑰花圖、極坐標(biāo)圖等），通過(guò)其可視化功能可以繪制一些用于數(shù)據(jù)分析圖形（如矢量圖、等值線圖、曲面圖、切片圖等），還可以生成快照并進(jìn)行動(dòng)畫(huà)制作，使用matlab句柄圖形對(duì)象并結(jié)合繪圖函數(shù)可以繪制自己最為滿意的圖形，使用時(shí)只需調(diào)用不同的

22、繪圖函數(shù)、使得作圖簡(jiǎn)單易行。5.擴(kuò)充能力強(qiáng)大可擴(kuò)性是matlab的一個(gè)重要特點(diǎn)，matlab通常包含系統(tǒng)本身定義的大量庫(kù)函數(shù)，用戶也可以定義自己的函數(shù)、組成自己的工具箱，不僅進(jìn)行數(shù)學(xué)運(yùn)算時(shí)可以直接調(diào)用、而且?guī)旌瘮?shù)名稱與用戶文件保持形式一致，用戶可以根據(jù)需要方便地建立或擴(kuò)充庫(kù)函數(shù)、方便地解決本領(lǐng)域內(nèi)的計(jì)算問(wèn)題。matlab提供了與fortran、c/c+語(yǔ)言及一些應(yīng)用程序（如excel）的接口，利用matlab編譯器和運(yùn)行服務(wù)器還可以生成獨(dú)立的執(zhí)行程序，使用戶可以混合編程、也可以隱藏算法并避免依賴matlab平臺(tái)環(huán)境。6.幫助功能完整matlab采用基于html的自述文件，自述文件中不僅介紹了m

23、atlab語(yǔ)言，還對(duì)各種算法的理論基礎(chǔ)與算法實(shí)現(xiàn)進(jìn)行了比較詳細(xì)說(shuō)明、并給出了相應(yīng)的常規(guī)實(shí)例、幫助功能比較完整，用戶使用較為方便。1.3 matlab 7.0的新特點(diǎn)matlab 7.0可在下列平臺(tái)上安裝：windows2000（sp3或sp4）windowsnt4.0（sp5或sp6a）windowsxpwindows7linux ix862.4.x,glibc2.2.5sun solaris2.8 and2.9hpux11.0 and11.imac os x 10.3.2matlab7.0的新特點(diǎn)主要包括以下幾個(gè)方面。1開(kāi)發(fā)環(huán)境（1）對(duì)桌面進(jìn)行了重新設(shè)計(jì)，提供了多文檔管理、錨定圖形窗口及保存

24、定制輸出和常用命令快捷鍵的命令；（2）改進(jìn)了數(shù)組編輯器和工作區(qū)間瀏覽器，使得查看、編輯變量和使用變量數(shù)據(jù)繪制圖形更加容易；（3）可將程序代碼發(fā)布為html、c/c+、java、word等格式的文檔；（4）命令窗口中有關(guān)幫助命令可以與自述文件的對(duì)應(yīng)部分直接鏈接，同時(shí)自述文件中增加了一些動(dòng)態(tài)演示。2、編程（1）可以創(chuàng)建嵌套函數(shù)，提供定義和調(diào)用自定義函數(shù)更為便捷的途徑；（2）提供在命令行和命令文件中定義單行函數(shù)的隱函數(shù)表示形式；（3）使用條件斷點(diǎn)，可以在條件表達(dá)式為真時(shí)停止運(yùn)行。3、計(jì)算（1）整數(shù)計(jì)算部分可以使用戶處理更大的整形數(shù)據(jù)集；（2）單精度計(jì)算、fft、線性代數(shù)和濾波設(shè)計(jì)部分使用戶可能以處理

25、更大的單精度數(shù)據(jù)集；（3）計(jì)算幾何部分對(duì)算法選擇給出了更多控制；（4）使用linsolve函數(shù)，通過(guò)指定矩陣系數(shù)結(jié)構(gòu)，可以更快求解線性方程組；（5）ode求解器可以控制隱式差分方程和多點(diǎn)邊值問(wèn)題。4、圖形和三維可視化實(shí)現(xiàn)（1）使用新的繪圖界面，可以在不輸入程序代碼的情況下交互式地創(chuàng)建和編輯圖形；（2）可以生成圖形的程序代碼，利用該代碼可以重建圖形；（3）一些特殊圖形更易修改；（4）改進(jìn)了圖形標(biāo)注，包括繪制圖形、對(duì)象對(duì)齊和將標(biāo)注“釘”到數(shù)據(jù)點(diǎn)；（5）可以對(duì)成組圖形對(duì)象進(jìn)行變換；（6）可以在guide中對(duì)用戶界面面板和控件進(jìn)行成組控制。5、數(shù)據(jù)獲取和外部接口（1）提供讀取很大文本文件和寫(xiě)為exce

26、l等文件格式的命令函數(shù)；（2）提供壓縮mat文件的選項(xiàng)，可以用更少的磁盤(pán)空間保存較大的數(shù)據(jù)；（3）使用javaaddpath函數(shù)可以在不重新啟動(dòng)matlab的情況下動(dòng)態(tài)添加、刪除和重載java類(lèi)；（4）com定制接口、服務(wù)器事件和visual basic腳本支持。（5）可以基于soap（simple object access protocol,簡(jiǎn)單對(duì)象存取協(xié)議）獲取web服務(wù)；（6）提供可以連接到ftp服務(wù)器進(jìn)行遠(yuǎn)程文件操作的ftp對(duì)象。此外，與matlab6.0相比，matlab7.0對(duì)下述工具箱進(jìn)行了改進(jìn)或賦予了新內(nèi)容：（1）通信系統(tǒng)工具箱（communications toolbox）

27、（2）控制系統(tǒng)工具箱（control system toolbox）（3）數(shù)據(jù)庫(kù)工具箱（database toolbox）（4）濾波設(shè)計(jì)工具箱（filter design toolbox）（5）金融分析工具箱（financial derivatives toolbox）（6）儀表控制工具箱（instrument comttrol toolbox）（7）圖像處理工具箱（mapping toolbox）（8）模型預(yù)測(cè)控制工具箱（modrl predictive comttrol toolbox）（9）優(yōu)化工具箱（optimization toolbox）（10）統(tǒng)計(jì)工具箱（statistics t

28、oolbox system）（11）系統(tǒng)辨識(shí)工具箱（ldentification toolbox）（12）虛擬現(xiàn)實(shí)工具箱（virtual reality toolbox）（13）小波工具箱（wavelet toolbox）2.神經(jīng)網(wǎng)絡(luò)的基本原理人工神經(jīng)網(wǎng)絡(luò)（ann，artifieialneuralnetworks）早期的研究工作應(yīng)追溯至本世紀(jì)40年代。1943年，心理學(xué)家wmcculloch和數(shù)理邏輯學(xué)家wpitts在分析、總結(jié)神經(jīng)元基本特性的基礎(chǔ)上首先提出神經(jīng)元的數(shù)學(xué)模型。此模型沿用至今，并且直接影響著這一領(lǐng)域研究的進(jìn)展。因而，他們兩人可稱為人工神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)。 1945年馮諾依曼領(lǐng)導(dǎo)的

29、設(shè)計(jì)小組試制成功存儲(chǔ)程序式電子計(jì)算機(jī)，標(biāo)志著電子計(jì)算機(jī)時(shí)代的開(kāi)始。1948年，他在研究工作中比較了人腦結(jié)構(gòu)與存儲(chǔ)程序式計(jì)算機(jī)的根本區(qū)別，提出了以簡(jiǎn)單神經(jīng)元構(gòu)成的再生自動(dòng)機(jī)網(wǎng)絡(luò)結(jié)構(gòu)。但是，由于指令存儲(chǔ)式計(jì)算機(jī)技術(shù)的發(fā)展非常迅速，迫使他放棄了神經(jīng)網(wǎng)絡(luò)研究的新途徑，繼續(xù)投身于指令存儲(chǔ)式計(jì)算機(jī)技術(shù)的研究，并在此領(lǐng)域作出了巨大貢獻(xiàn)。雖然，馮諾依曼的名字是與普通計(jì)算機(jī)聯(lián)系在一起的，但他也是人工神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)之一。 50年代末，frosenblatt設(shè)計(jì)制作了“感知機(jī)”，它是一種多層的神經(jīng)網(wǎng)絡(luò)。這項(xiàng)工作首次把人工神經(jīng)網(wǎng)絡(luò)的研究從理論探討付諸工程實(shí)踐。當(dāng)時(shí)，世界上許多實(shí)驗(yàn)室仿效制作感知機(jī)，分別應(yīng)用于文字識(shí)

30、別、聲音識(shí)別、聲納信號(hào)識(shí)別以及學(xué)習(xí)記憶問(wèn)題的研究。然而，這次人工神經(jīng)網(wǎng)絡(luò)的研究高潮未能持續(xù)很久，許多人陸續(xù)放棄了這方面的研究工作，這是因?yàn)楫?dāng)時(shí)數(shù)字計(jì)算機(jī)的發(fā)展處于全盛時(shí)期，許多人誤以為數(shù)字計(jì)算機(jī)可以解決人工智能、模式識(shí)別、專家系統(tǒng)等方面的一切問(wèn)題，使感知機(jī)的工作得不到重視；其次，當(dāng)時(shí)的電子技術(shù)工藝水平比較落后，主要的元件是電子管或晶體管，利用它們制作的神經(jīng)網(wǎng)絡(luò)體積龐大，價(jià)格昂貴，要制作在規(guī)模上與真實(shí)的神經(jīng)網(wǎng)絡(luò)相似是完全不可能的；另外，在1968年一本名為感知機(jī)的著作中指出線性感知機(jī)功能是有限的，它不能解決如異或這樣的基本問(wèn)題，而且多層網(wǎng)絡(luò)還不能找到有效的計(jì)算方法，這些論點(diǎn)促使大批研究人員對(duì)于人

31、工神經(jīng)網(wǎng)絡(luò)的前景失去信心。60年代末期，人工神經(jīng)網(wǎng)絡(luò)的研究進(jìn)入了低潮。 另外，在60年代初期，widrow提出了自適應(yīng)線性元件網(wǎng)絡(luò)，這是一種連續(xù)取值的線性加權(quán)求和閾值網(wǎng)絡(luò)。后來(lái)，在此基礎(chǔ)上發(fā)展了非線性多層自適應(yīng)網(wǎng)絡(luò)。當(dāng)時(shí)，這些工作雖未標(biāo)出神經(jīng)網(wǎng)絡(luò)的名稱，而實(shí)際上就是一種人工神經(jīng)網(wǎng)絡(luò)模型。隨著人們對(duì)感知機(jī)興趣的衰退，神經(jīng)網(wǎng)絡(luò)的研究沉寂了相當(dāng)長(zhǎng)的時(shí)間。80年代初期，模擬與數(shù)字混合的超大規(guī)模集成電路制作技術(shù)提高到新的水平，完全付諸實(shí)用化，此外，數(shù)字計(jì)算機(jī)的發(fā)展在若干應(yīng)用領(lǐng)域遇到困難。這一背景預(yù)示，向人工神經(jīng)網(wǎng)絡(luò)尋求出路的時(shí)機(jī)已經(jīng)成熟。美國(guó)的物理學(xué)家hopfield于1982年和1984年在美國(guó)科學(xué)院

32、院刊上發(fā)表了兩篇關(guān)于人工神經(jīng)網(wǎng)絡(luò)研究的論文，引起了巨大的反響。人們重新認(rèn)識(shí)到神經(jīng)網(wǎng)絡(luò)的威力以及付諸應(yīng)用的現(xiàn)實(shí)性。隨即，一大批學(xué)者和研究人員圍繞著 hopfield提出的方法展開(kāi)了進(jìn)一步的工作，形成了80年代中期以來(lái)人工神經(jīng)網(wǎng)絡(luò)的研究熱潮。人工神經(jīng)網(wǎng)絡(luò)是對(duì)人腦神經(jīng)系統(tǒng)的模擬而建立起來(lái)的。它是由簡(jiǎn)單信息處理單元（人工神經(jīng)元，簡(jiǎn)稱神經(jīng)元）互聯(lián)組成的網(wǎng)絡(luò)，能夠接受并處理信息。網(wǎng)絡(luò)的信息處理是由處理單元之間的相互作用（連接權(quán)）來(lái)實(shí)現(xiàn)的。多年來(lái)，學(xué)者們己經(jīng)建立了多種神經(jīng)網(wǎng)絡(luò)模型，其中決定它們整體性能的因素主要是：神經(jīng)元（信息處理單元）的特性，神經(jīng)元之間相互連接的形式，為適應(yīng)環(huán)境而改善性能的學(xué)習(xí)規(guī)則等。2.

33、1 人工神經(jīng)元模型人腦神經(jīng)元是組成人腦神經(jīng)系統(tǒng)的最基本單元，對(duì)人腦神經(jīng)元進(jìn)行抽象化后得到一種稱為mcculloch一pitts模型的人工神經(jīng)元，人工神經(jīng)元是人工神經(jīng)網(wǎng)絡(luò)的基本單元，從圖2一1中可以看出，它相當(dāng)于一個(gè)多輸入單輸出的非線性闡值器件。 圖2-1 人工神經(jīng)元元模型結(jié)構(gòu):神經(jīng)元i的輸出，它可以與其他多個(gè)神經(jīng)元通過(guò)權(quán)值連接； :神經(jīng)元i的輸入； :神經(jīng)元的連接權(quán)值； :神經(jīng)元i的閾值； :神經(jīng)元i的非線性輸出函數(shù)； 該神經(jīng)元的輸出，可用下式描述： （2-1） 令 （2-2） 則 （2-3）根據(jù)活化函數(shù)的不同，人們把人工神經(jīng)元分成以下幾種類(lèi)型：（1）分段線性活化函數(shù)： (2-4)（2）sig

34、moid活化函數(shù)： (2-5)（3）雙曲正切活化函數(shù)： (2-6)（4）高斯活化函數(shù)： (2-7)2.2 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式和學(xué)習(xí)規(guī)則2.2.1 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式學(xué)習(xí)是神經(jīng)網(wǎng)絡(luò)的主要特征之一。學(xué)習(xí)規(guī)則就是修正神經(jīng)元之間連接強(qiáng)度或加權(quán)系數(shù)的算法，使獲得的知識(shí)結(jié)構(gòu)適應(yīng)周?chē)h(huán)境的變化。在學(xué)習(xí)過(guò)程中，執(zhí)行學(xué)習(xí)規(guī)則，修正加權(quán)系數(shù)。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式主要分為有導(dǎo)師(指導(dǎo)式)學(xué)習(xí)、無(wú)導(dǎo)師(自學(xué)式)學(xué)習(xí)和再勵(lì)學(xué)習(xí)(強(qiáng)化學(xué)習(xí))三種：（l）有導(dǎo)師學(xué)習(xí)：就是在學(xué)習(xí)的過(guò)程中，有一個(gè)期望的網(wǎng)絡(luò)輸出，學(xué)習(xí)算法根據(jù)給定輸入的神經(jīng)網(wǎng)絡(luò)實(shí)際輸出與期望輸出之間的誤差來(lái)調(diào)整神經(jīng)元的連接強(qiáng)度，即權(quán)值。因此學(xué)習(xí)需要有導(dǎo)師來(lái)提供期望輸

35、出信號(hào)。（2）無(wú)導(dǎo)師學(xué)習(xí)：就是在學(xué)習(xí)過(guò)程中不需要有期望輸出，因而不存在直接的誤差信息。網(wǎng)絡(luò)學(xué)習(xí)需要建立一個(gè)間接的評(píng)價(jià)函數(shù)，每個(gè)處理單元能夠自適應(yīng)連接權(quán)值，以對(duì)網(wǎng)絡(luò)的某種行為趨向作出評(píng)價(jià)。（3）再勵(lì)學(xué)習(xí)：這種學(xué)習(xí)介于上述兩種情況之間，外部環(huán)境對(duì)系統(tǒng)輸出結(jié)果只給出評(píng)價(jià)(獎(jiǎng)或罰)而不是給出正確答案，學(xué)習(xí)系統(tǒng)經(jīng)過(guò)強(qiáng)化那些受獎(jiǎng)勵(lì)的行為來(lái)改善自身性能。2.2.2 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則神經(jīng)網(wǎng)絡(luò)通常采用的網(wǎng)絡(luò)學(xué)習(xí)規(guī)則包括以下三種：（l）誤差糾正學(xué)習(xí)規(guī)則令是輸入時(shí)神經(jīng)元k在n時(shí)刻的實(shí)際輸出，表示應(yīng)有的輸出(可由訓(xùn)練樣本給出)，則誤差信號(hào)可寫(xiě)為： (2-8)誤差糾正學(xué)習(xí)的最終目的是使某一基于的目標(biāo)函數(shù)達(dá)到要求，以使

36、網(wǎng)絡(luò)中每一輸出單元的實(shí)際輸出在某種統(tǒng)計(jì)意義上逼近應(yīng)有輸出。一旦選定了目標(biāo)函數(shù)形式，誤差糾正學(xué)習(xí)就變成了一個(gè)典型的最優(yōu)化問(wèn)題，最常用的目標(biāo)函數(shù)是均方誤差判據(jù)，定義為誤差平方和的均值： (2-9)其中e為期望算子。上式的前提是被學(xué)習(xí)的過(guò)程是平穩(wěn)的，具體方法可用最優(yōu)梯度下降法。直接用j作為目標(biāo)函數(shù)時(shí)需要知道整個(gè)過(guò)程的統(tǒng)計(jì)特性，為解決這一問(wèn)題，通常用j在時(shí)刻n的瞬時(shí)值代替j，即： (2-10)問(wèn)題變?yōu)榍骵對(duì)權(quán)值w的極小值，據(jù)梯度下降法可得： (2-11)其中為學(xué)習(xí)步長(zhǎng)，這就是通常所說(shuō)的誤差糾正學(xué)習(xí)規(guī)則；（2）hebb學(xué)習(xí)規(guī)則由神經(jīng)心理學(xué)家hebb提出的學(xué)習(xí)規(guī)則可歸納為“當(dāng)某一突觸連接兩端的神經(jīng)元同時(shí)處

37、于激活狀態(tài)(或同為抑制)時(shí)，該連接的強(qiáng)度應(yīng)增加，反之應(yīng)減弱”用數(shù)學(xué)方式可描述為： (2-12)由于與的相關(guān)成比例，有時(shí)稱為相關(guān)學(xué)習(xí)規(guī)則；（3）競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則顧名思義，在競(jìng)爭(zhēng)學(xué)習(xí)時(shí)，網(wǎng)絡(luò)各輸出單元互相競(jìng)爭(zhēng)，最后達(dá)到只有一個(gè)最強(qiáng)者激活，最常見(jiàn)的一種情況是輸出神經(jīng)元之間有側(cè)向抑制性連接，這樣原來(lái)輸出單元中如有某一單元較強(qiáng)，則它將獲勝并抑制其它單元，最后只有此強(qiáng)者處于激活狀態(tài)。最常用的競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則可寫(xiě)為： (2-13)2.3 神經(jīng)網(wǎng)絡(luò)的特點(diǎn)及應(yīng)用神經(jīng)網(wǎng)絡(luò)具有以下特點(diǎn)：（l）分布式存貯信息神經(jīng)網(wǎng)絡(luò)使用大量的神經(jīng)元之間的連接及對(duì)各連接權(quán)值的分布來(lái)表示特定的信息，從而使網(wǎng)絡(luò)在局部網(wǎng)絡(luò)受損或輸入信號(hào)因各種原因發(fā)

38、生部分畸變時(shí)，仍能夠保證網(wǎng)絡(luò)的正確輸出，提高網(wǎng)絡(luò)的容錯(cuò)性和魯棒性。（2）并行協(xié)同處理信息神經(jīng)網(wǎng)絡(luò)中的每個(gè)神經(jīng)元都可以根據(jù)接收到的信息進(jìn)行獨(dú)立的運(yùn)算和處理，并輸出結(jié)果，同一層中的各個(gè)神經(jīng)元的輸出結(jié)果可被同時(shí)計(jì)算出來(lái)。（3）信息處理與存儲(chǔ)和二為一神經(jīng)網(wǎng)絡(luò)的每個(gè)神經(jīng)元都兼有信息處理和存儲(chǔ)功能，神經(jīng)元之間連接強(qiáng)度的變化，既反映了對(duì)信息的記憶，同時(shí)又和神經(jīng)元對(duì)激勵(lì)的響應(yīng)一起反映了對(duì)信息的處理。（4）對(duì)信息的處理具有自組織、自學(xué)習(xí)的特點(diǎn)，便于聯(lián)想、綜合和推廣神經(jīng)網(wǎng)絡(luò)的神經(jīng)元之間的連接強(qiáng)度用權(quán)值大小來(lái)表示，這種權(quán)值可以通過(guò)對(duì)訓(xùn)練的學(xué)習(xí)而不斷變化，而且隨著訓(xùn)練樣本量的增加和反復(fù)學(xué)習(xí)，這些神經(jīng)元之間的連接強(qiáng)度會(huì)

39、不斷增加，從而提高神經(jīng)元對(duì)樣本特征的反映靈敏度。正是因?yàn)樯窠?jīng)網(wǎng)絡(luò)具有的這些特點(diǎn)，才使它在模式識(shí)別、人工智能、控制工程、信號(hào)處理等領(lǐng)域有著廣泛的應(yīng)用，相信隨著人工神經(jīng)網(wǎng)絡(luò)研究的進(jìn)一步深入，其應(yīng)用領(lǐng)域會(huì)更廣，用途會(huì)更大。2.4 bp神經(jīng)網(wǎng)絡(luò)20世紀(jì)80年代中期，以rumelhart和mcclelland為首，提出了多層前饋網(wǎng)絡(luò)（mfnn）的反向傳播（bp，back propagation）的學(xué)習(xí)算法，簡(jiǎn)稱bp算法。2.4.1 bp神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)bp網(wǎng)絡(luò)結(jié)構(gòu)如下圖：ji k輸入層節(jié)點(diǎn)輸出層節(jié)點(diǎn)隱層節(jié)點(diǎn) 圖2-2 bp網(wǎng)絡(luò)結(jié)構(gòu)圖為網(wǎng)絡(luò)的輸入和輸出，每個(gè)神經(jīng)元用一個(gè)節(jié)點(diǎn)表示，網(wǎng)絡(luò)包含一個(gè)輸出層和一個(gè)輸入

40、層，隱含層可以是一層也可以是多層。圖中j表示輸入層神經(jīng)元，i表示隱層神經(jīng)元，k表示輸出層神經(jīng)元。已經(jīng)證明bp網(wǎng)絡(luò)能逼近任意非線性函數(shù)，在各個(gè)領(lǐng)域中有廣泛的應(yīng)用。bp網(wǎng)絡(luò)中采用梯度下降法，即在網(wǎng)絡(luò)學(xué)習(xí)過(guò)程中，使網(wǎng)絡(luò)的輸出與期望輸出的誤差邊向后傳播邊修正連接權(quán)值，以使其誤差均方值最小。學(xué)習(xí)算法有正向傳播和反向傳播組成，在正向傳播中，輸入信號(hào)從輸入層經(jīng)過(guò)隱層傳向輸出層，若輸出層得到期望的輸出，學(xué)習(xí)結(jié)束，否則，轉(zhuǎn)至反向傳播。反向傳播算法是將誤差信號(hào)按照原鏈路反向計(jì)算，由梯度下降法調(diào)整各層神經(jīng)元的權(quán)值，使誤差信號(hào)最小。這兩部分是相繼連續(xù)反復(fù)進(jìn)行的，直到誤差滿足要求。2.4.2 bp神經(jīng)網(wǎng)絡(luò)的算法 bp神

41、經(jīng)網(wǎng)絡(luò)的算法主要可以分為兩部分，一是前向傳播算法，就是已知網(wǎng)絡(luò)的輸入和活化函數(shù)求各層的輸出；二是反向傳播算法，即如果輸出不滿足要求就不斷修正權(quán)值。（1） bp神經(jīng)網(wǎng)絡(luò)的前向傳播算法設(shè)某bp神經(jīng)網(wǎng)絡(luò)具有m個(gè)輸入、q個(gè)隱含節(jié)點(diǎn)、r個(gè)輸出的三層結(jié)構(gòu)，則bp神經(jīng)網(wǎng)絡(luò)的輸入為： j=1,2.m (2-14)輸入層節(jié)點(diǎn)的的輸出為 ： j=1,2.m （2-15)隱含層第i個(gè)神經(jīng)元的輸入: i=1,2.q (2-16)輸出可表達(dá)為 ： i=1,2.q (2-17)其中為輸入層到隱層加權(quán)系數(shù)；上標(biāo)（1）、（2）、（3）分別代表輸入層、隱含層、輸出層，為隱層活化函數(shù)，這里取為sigmoid活化函數(shù)。 (2-18

42、)輸出層的第個(gè)神經(jīng)元的總輸入為： k=1,2.r (2-19)輸出層的第k個(gè)神經(jīng)元的總輸出為 k=1,2. (2-20)式中，為隱層到輸出層加權(quán)系數(shù)，為輸出活化函數(shù)。 以上工作在神經(jīng)網(wǎng)絡(luò)工作時(shí)，就可以完成了一次前向傳播的計(jì)算。 （2） bp神經(jīng)網(wǎng)絡(luò)的反向傳播計(jì)算假設(shè)，神經(jīng)網(wǎng)絡(luò)的理想輸出為，在前向計(jì)算中，若實(shí)際輸出與理想輸出不一致，就要將其誤差信號(hào)從輸出端反向傳播回來(lái)，并在傳播過(guò)程中對(duì)加權(quán)系數(shù)不斷修正，使輸出層神經(jīng)元上得到所需要的期望輸出為止。為了對(duì)加權(quán)系數(shù)進(jìn)行調(diào)整，選取目標(biāo)函數(shù)為： (2-21)以誤差函數(shù)e減少最快方向調(diào)整，即使加權(quán)系數(shù)按誤差函數(shù)e的負(fù)梯度方向調(diào)整，使網(wǎng)絡(luò)逐漸收斂。按照梯度下降

43、法，可得到神經(jīng)元j到神經(jīng)元i的t+1次權(quán)系數(shù)調(diào)整值： (2-22)由式（2-21）可知，需要變換出e相對(duì)于該式中網(wǎng)絡(luò)此刻實(shí)際輸出關(guān)系，因此 (2-23) 而其中的 (2-24) 其中的表示節(jié)點(diǎn)i的第j個(gè)輸入。所以 (2-25) 將（2-25）代入式（2-23），可以得到： (2-26) 令 (2-27) 式中為第i個(gè)節(jié)點(diǎn)的狀態(tài)對(duì)e的靈敏度；由式(2-26)和式（2-27）可以得到： (2-28)以下分兩種情況計(jì)算： 若i為輸出層節(jié)點(diǎn)，即i =k由式(2-21)和（2-27）可得 (2-29)所以可得： (2-30)此時(shí)應(yīng)該按照下列公式進(jìn)行調(diào)整： (2-31)式中為學(xué)習(xí)速率。 若i不為輸出層神經(jīng)

44、元，即此時(shí)式（2-27）為 (2-32)其中 (2-33)式中是節(jié)點(diǎn)i后邊一層的第個(gè)節(jié)點(diǎn)，是節(jié)點(diǎn)的第j個(gè)輸入。 (2-34)當(dāng)時(shí)， 將式（2-32）和（2-34）代入（2-28），有 (2-35)此時(shí)的權(quán)值調(diào)整公式為： (2-36)通過(guò)（2-31）和（2-36）我們就可以完成神經(jīng)網(wǎng)絡(luò)的反向傳播算法。實(shí)現(xiàn)權(quán)值的實(shí)時(shí)調(diào)整。對(duì)上面的算法流程進(jìn)行總結(jié)我們可以的出下面的算法流程圖：初始化權(quán)值值值 給定輸入和輸出樣本 求隱含層、輸出層各節(jié)點(diǎn)輸出 求目標(biāo)值與實(shí)際輸出的偏差 計(jì)算反向誤差 修正權(quán)值 學(xué)習(xí)結(jié)束？ 結(jié)束 是 否 圖2-3 bp網(wǎng)絡(luò)算法流程圖2.5 本章小結(jié)本章主要介紹了神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)知識(shí)，其中包括

45、神經(jīng)元模型，學(xué)習(xí)方式和學(xué)習(xí)規(guī)則等，在了解了神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上，進(jìn)一步介紹了本論文要用到的bp神經(jīng)網(wǎng)絡(luò)，包括其結(jié)構(gòu)，前向和反向傳播算法及實(shí)現(xiàn)步驟。 3.水質(zhì)評(píng)價(jià)的bp神經(jīng)網(wǎng)絡(luò)模型為了能對(duì)樣本水質(zhì)量進(jìn)行評(píng)價(jià)，為水資源的合理保護(hù)與利用提供依據(jù)，現(xiàn)用bp網(wǎng)絡(luò)方法模擬某個(gè)樣本水質(zhì)評(píng)價(jià)因子和水質(zhì)級(jí)別間的非線性關(guān)系。3.1 基本思想水質(zhì)評(píng)價(jià)是一個(gè)非線性較為復(fù)雜的問(wèn)題。 基于bp神經(jīng)網(wǎng)絡(luò)的水質(zhì)評(píng)價(jià)模型的訓(xùn)練樣本即為水質(zhì)分級(jí)標(biāo)準(zhǔn)。訓(xùn)練完成后，網(wǎng)絡(luò)將保存對(duì)分級(jí)標(biāo)準(zhǔn)學(xué)習(xí)的知識(shí)和有關(guān)信息，即各層間的連接權(quán)與各個(gè)神經(jīng)元的閾值得以保存，然后從輸入層輸入待評(píng)資料，得到有關(guān)評(píng)價(jià)結(jié)論的信息，從而根據(jù)一定規(guī)則作出有關(guān)的評(píng)價(jià)結(jié)論的判

46、斷。設(shè)待評(píng)的水質(zhì)監(jiān)測(cè)樣本m個(gè)，每個(gè)樣本選擇具有典型代表的n項(xiàng)污染指標(biāo)監(jiān)測(cè)值。 按照國(guó)家行業(yè)規(guī)范規(guī)定，相應(yīng)于n項(xiàng)污染指標(biāo)下的水質(zhì)標(biāo)準(zhǔn)濃度可將水質(zhì)劃分為5個(gè)等級(jí)。 因此，水質(zhì)評(píng)價(jià)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的輸入層的神經(jīng)元數(shù)為n，即輸入層的每一個(gè)神經(jīng)元代表1種水質(zhì)評(píng)價(jià)的污染指標(biāo)；輸出層為5維的向量，其期望輸出結(jié)果分別為: ( 1 0 0 0 0)、( 0 1 0 0 0)、( 0 0 1 0 0)、( 0 0 0 1 0)、( 0 0 0 0 1)對(duì)應(yīng) i 至 v 個(gè)等級(jí)的水質(zhì)。3.2 建立bp神經(jīng)網(wǎng)絡(luò)模型時(shí)可能出現(xiàn)的問(wèn)題及解決方法3.2.1 建立bp神經(jīng)網(wǎng)絡(luò)模型時(shí)可能出現(xiàn)的問(wèn)題大量的研究表明，在建立bp 神經(jīng)

47、網(wǎng)絡(luò)模型的過(guò)程中，經(jīng)常會(huì)遇到以下幾種情況：它是一個(gè)非線性優(yōu)化問(wèn)題，其均方誤差函數(shù)一般具有許多的極小點(diǎn)，因此，當(dāng)其收斂時(shí)，其均方誤差函數(shù)達(dá)到的往往是局部最小，而非全局極??；bp 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法收斂速度較慢，且收斂速度與初始權(quán)值的選擇有關(guān)；隱含層節(jié)點(diǎn)數(shù)的選擇是人工神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)中最為關(guān)鍵的步驟，它直接影響網(wǎng)絡(luò)對(duì)復(fù)雜問(wèn)題的映射能力，如果網(wǎng)絡(luò)結(jié)構(gòu)太大，使訓(xùn)練時(shí)極易出現(xiàn)“過(guò)擬合”現(xiàn)象，而如果網(wǎng)絡(luò)結(jié)構(gòu)太小，則訓(xùn)練結(jié)果可能達(dá)不到用戶期望的目標(biāo)。但迄今為止，仍沒(méi)有理論公式計(jì)算，只能根據(jù)設(shè)計(jì)者的經(jīng)驗(yàn)知識(shí)和先驗(yàn)知識(shí)，所以bp 神經(jīng)網(wǎng)絡(luò)的優(yōu)劣是因人而異的。3.2.2 解決方法針對(duì)學(xué)習(xí)收斂速度慢容易陷入局部極小點(diǎn)和

48、網(wǎng)絡(luò)結(jié)構(gòu)選擇困難等問(wèn)題，目前已有不少人對(duì)此提出了改進(jìn)的方案：(1)收斂速度的改進(jìn)；如：自適應(yīng)調(diào)節(jié)學(xué)習(xí)率法(簡(jiǎn)稱bpx 網(wǎng))；共軛梯度法，加快網(wǎng)絡(luò)的收斂速度；同倫bp 算法，使得收斂速度、收斂范圍以及陷入局部最小的可能性等方面都明顯優(yōu)于常規(guī)的bp算法； catchy 誤差估計(jì)器代替?zhèn)鹘y(tǒng)的lms 誤差估計(jì)器，顯著地加快了學(xué)習(xí)速度，縮短學(xué)習(xí)時(shí)間；將輸入輸出數(shù)據(jù)初始化到(0.1，0.9)的區(qū)間內(nèi)，避免了在飽和區(qū)段，學(xué)習(xí)收斂速度很慢，甚至出現(xiàn)麻痹現(xiàn)象；采用bp 神經(jīng)網(wǎng)絡(luò)動(dòng)態(tài)全參數(shù)自調(diào)整學(xué)習(xí)算法局部極小問(wèn)題，使得隱層節(jié)點(diǎn)和學(xué)習(xí)速率的選取全部動(dòng)態(tài)實(shí)現(xiàn)，減少了人為因素的干預(yù)，改善了學(xué)習(xí)速率和網(wǎng)絡(luò)的適應(yīng)能力；(

49、2) 局部極小問(wèn)題的改進(jìn)；如：采用局部學(xué)習(xí)速率自適應(yīng)技術(shù)的delta-bar-delta (dbd) 演算法來(lái)提高學(xué)習(xí)速率，使網(wǎng)絡(luò)自動(dòng)跳出局部最小，同時(shí)加快了網(wǎng)絡(luò)的收斂，使網(wǎng)絡(luò)具有普遍的適應(yīng)性；原始數(shù)據(jù)的非線性規(guī)格化函數(shù)、記憶式初始權(quán)值、閾值和參數(shù)自動(dòng)優(yōu)選等方法，提高網(wǎng)絡(luò)運(yùn)行收斂速度、防止陷入局部極小點(diǎn)、克服手工調(diào)試參數(shù)的盲目性、提高模型精度等方面都有較大的改善作用。(3)網(wǎng)絡(luò)結(jié)構(gòu)的選擇；使用遺傳算法來(lái)優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)及其參數(shù)，其中有很多成功的應(yīng)用，如：采用改進(jìn)的遺傳算法實(shí)現(xiàn)了bp神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)和參數(shù)的優(yōu)化；用gmnn的自動(dòng)化設(shè)計(jì)方法完成對(duì)網(wǎng)絡(luò)結(jié)構(gòu)空間和權(quán)值空間的搜索。3.3 bp 神經(jīng)網(wǎng)絡(luò)的

50、建模條件bp神經(jīng)網(wǎng)絡(luò)模型具有非常好的自學(xué)習(xí)性、非線性逼近能力和泛化能力，但是為了實(shí)現(xiàn)這些性能網(wǎng)絡(luò)必須滿足理論界提出的幾個(gè)基本建模條件：(1)對(duì)于三層網(wǎng)絡(luò)，輸入層和隱含層節(jié)點(diǎn)數(shù)必須少于n-1(n為訓(xùn)練樣本數(shù))，否則，容易造成系統(tǒng)誤差與訓(xùn)練樣本特性無(wú)關(guān)而直接趨于0，使得網(wǎng)絡(luò)模型可能沒(méi)有泛化能力；(2)為盡可能避免出現(xiàn)“過(guò)擬合”現(xiàn)象，在滿足精度的前提下，取盡可能少的隱含層及隱含層節(jié)點(diǎn)數(shù)；(3)一般情況下，要求訓(xùn)練樣本數(shù)至少要多于網(wǎng)絡(luò)連接權(quán)值數(shù)，通常為2至10 倍；(4)當(dāng)訓(xùn)練樣本數(shù)少于網(wǎng)絡(luò)連接權(quán)數(shù)時(shí)，必須將所有的樣本分成幾部分并讓各部分輪流作為訓(xùn)練樣本和測(cè)試樣本，以避免網(wǎng)絡(luò)訓(xùn)練時(shí)出現(xiàn)“過(guò)擬合”現(xiàn)象和存在多模式現(xiàn)象；