人工智能原理及MATLAB實(shí)現(xiàn) 教案 第3章 人工神經(jīng)網(wǎng)絡(luò)

《人工智能算法》課程教案教學(xué)目的、要求：1.掌握人工神經(jīng)網(wǎng)絡(luò)的基本原理2.掌握人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)形式3.了解神經(jīng)網(wǎng)絡(luò)模型的分類4.了解人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，掌握典型的人工神經(jīng)網(wǎng)絡(luò)5.掌握人工神經(jīng)網(wǎng)絡(luò)的matlab實(shí)戰(zhàn)的基本技巧與方法教學(xué)重點(diǎn)及難點(diǎn)：重點(diǎn)：人工神經(jīng)網(wǎng)絡(luò)的基本原理與結(jié)構(gòu)形式難點(diǎn)：人工神經(jīng)網(wǎng)絡(luò)的matlab實(shí)戰(zhàn)的基本技巧與方法教學(xué)基本內(nèi)容教學(xué)過(guò)程設(shè)計(jì)§3人工神經(jīng)網(wǎng)絡(luò)§3.1人工神經(jīng)網(wǎng)絡(luò)的基本原理ANN是在人類對(duì)其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識(shí)理解的基礎(chǔ)上，人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的網(wǎng)絡(luò)系統(tǒng)，它對(duì)人腦進(jìn)行了簡(jiǎn)化、抽象和模擬，是大腦生物結(jié)構(gòu)的數(shù)學(xué)模型。ANN由大量功能簡(jiǎn)單而具有自適應(yīng)能力的信息處理單元即人工神經(jīng)元按照大規(guī)模并行的方式，通過(guò)的拓?fù)浣Y(jié)構(gòu)連接而成。在人工神經(jīng)元系統(tǒng)中，其輸出是通過(guò)傳遞函數(shù)f來(lái)完成的。傳遞函數(shù)的作用是控制輸入對(duì)輸出的激活作用，把可能的無(wú)限域變換到給定范圍的輸出，對(duì)輸入、輸出進(jìn)行函數(shù)轉(zhuǎn)換，以模擬生物神經(jīng)元線性或非線性轉(zhuǎn)移特性。f函數(shù)形式多樣，它反映了神經(jīng)元的線性特征，這些特征一般可分為3種類型：簡(jiǎn)單的映射關(guān)系、動(dòng)態(tài)系統(tǒng)方程和概率統(tǒng)計(jì)模型。人工神經(jīng)網(wǎng)絡(luò)具有一系列不同于其他計(jì)算方法的性質(zhì)和特點(diǎn)：（1）神經(jīng)網(wǎng)絡(luò)將信息分布貯存在大量的神經(jīng)元中，且具有內(nèi)在的知識(shí)索引功能，也即具有將大量信息存貯起來(lái)并具有以一種更為簡(jiǎn)便的方式對(duì)其訪問(wèn)的能力。（2）人工神經(jīng)網(wǎng)絡(luò)能模擬人類的學(xué)習(xí)過(guò)程，并且有很強(qiáng)的容錯(cuò)能力。（3）人工神經(jīng)網(wǎng)絡(luò)是一種非線性的處理單元。人工神經(jīng)網(wǎng)絡(luò)涉及許多數(shù)學(xué)知識(shí)。限于篇幅，在此僅介紹最基本的數(shù)學(xué)基礎(chǔ)知識(shí)：(1)向量的內(nèi)積與外積：設(shè)向量V＝(v1,v2,…,vn)和矩陣W＝(w1,w2,…,wn)。向量可用兩種方法來(lái)相乘，一種是稱為點(diǎn)乘，又稱內(nèi)積，另一種為外積。（2）矩陣運(yùn)算與層次結(jié)構(gòu)網(wǎng)絡(luò)：設(shè)給定一個(gè)向量V和一個(gè)矩陣W，則它們的乘積為一向量：W·V=U這種運(yùn)算又稱為映射，即V被W映射成U：U=WV；若用W-1表示W(wǎng)的逆矩陣，則類似地有映射：V=W－1U?！?.2人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)形式人工神經(jīng)網(wǎng)絡(luò)是由一組基本處理單元通過(guò)不同的連接模式所構(gòu)成。人工神經(jīng)元輸出信號(hào)之間通過(guò)互相連接形成網(wǎng)絡(luò)，互相連接方式稱為連接模式。目前人工神經(jīng)網(wǎng)絡(luò)模型已有上百種，均是從生物神經(jīng)元抽象出的最基本生物學(xué)事實(shí)而衍生出來(lái)。基本處理單元是對(duì)生物神經(jīng)元的近似仿真，因而稱為人工神經(jīng)元，它的主要功能是信號(hào)的輸入、處理和輸出?！?.3神經(jīng)網(wǎng)絡(luò)模型分類（1）按學(xué)習(xí)方式分類按學(xué)習(xí)方式分為有導(dǎo)師學(xué)習(xí)（有監(jiān)督訓(xùn)練）、強(qiáng)化學(xué)習(xí)和無(wú)導(dǎo)師（無(wú)監(jiān)督訓(xùn)練）3類網(wǎng)絡(luò)模型。（2）按網(wǎng)絡(luò)的活動(dòng)方式分類按網(wǎng)絡(luò)的活動(dòng)方式即按網(wǎng)絡(luò)的學(xué)習(xí)技術(shù)，可分為確定性活動(dòng)方式和隨機(jī)性活動(dòng)方式。（3）按神經(jīng)網(wǎng)絡(luò)的建立原理分類按神經(jīng)網(wǎng)絡(luò)的建立原理，可分為數(shù)學(xué)模型和認(rèn)知模型。（4）按網(wǎng)絡(luò)的信息處理能力分類按網(wǎng)絡(luò)的信息處理能力可分為模型識(shí)別、模式分類、組合優(yōu)化問(wèn)題求解、數(shù)據(jù)聚簇與組合、數(shù)學(xué)映射逼近和聯(lián)想記憶等?！?.4人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法有很多，其中較有代表性的是學(xué)習(xí)，誤差修正型學(xué)習(xí)、隨機(jī)學(xué)習(xí)、競(jìng)爭(zhēng)型學(xué)習(xí)、基于記憶的學(xué)習(xí)以及結(jié)構(gòu)修正學(xué)習(xí)?！?.5典型的人工神經(jīng)網(wǎng)絡(luò)（1）單層前向網(wǎng)絡(luò)：最簡(jiǎn)單的人工神經(jīng)網(wǎng)絡(luò)，其網(wǎng)絡(luò)中的神經(jīng)元只有一層。最典型的單層前向網(wǎng)絡(luò)是感知機(jī)。（2）多層前向網(wǎng)絡(luò)及BP學(xué)習(xí)算法：為了解決非線性可分的問(wèn)題，可以采用多層網(wǎng)絡(luò)，即在輸入層和輸出層之間加上隱層。這種由輸入層、隱層和輸出層組成的網(wǎng)絡(luò)就是多層前向神經(jīng)網(wǎng)絡(luò)。BP網(wǎng)絡(luò)就是一種單向的多層前向神經(jīng)網(wǎng)絡(luò)。（3）徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)（RBF）：RBF網(wǎng)絡(luò)是20世紀(jì)80年代提出的一種人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，是具有單隱層的前向網(wǎng)絡(luò)。它不僅可以用來(lái)函數(shù)逼近，也可以進(jìn)行預(yù)測(cè)。（4）自組織競(jìng)爭(zhēng)人工神經(jīng)網(wǎng)絡(luò)：在生物神經(jīng)系統(tǒng)中，存在著一種“側(cè)抑制”現(xiàn)象，即一個(gè)神經(jīng)細(xì)胞興奮后，通過(guò)它的分支會(huì)對(duì)周圍其他神經(jīng)細(xì)胞產(chǎn)生抑制。（5）對(duì)向傳播神經(jīng)網(wǎng)絡(luò)（CPN）：對(duì)向傳播（CounterPropagation，CPN）網(wǎng)絡(luò)是將自組織競(jìng)爭(zhēng)網(wǎng)絡(luò)與Grossberg基本競(jìng)爭(zhēng)型網(wǎng)絡(luò)相結(jié)合，發(fā)揮各自的特長(zhǎng)的一種新型特征映射網(wǎng)絡(luò)。（6）反饋型神經(jīng)網(wǎng)絡(luò)（Hopfield）：Hopfield網(wǎng)絡(luò)由相同的神經(jīng)網(wǎng)絡(luò)元構(gòu)成的單層，并且具有學(xué)習(xí)功能的自聯(lián)想網(wǎng)絡(luò)，可以完成制約優(yōu)化和聯(lián)想記憶等功能，是目前人們研究最多的模型之一?！?.6人工神經(jīng)網(wǎng)絡(luò)的matlab實(shí)戰(zhàn)人工神經(jīng)網(wǎng)絡(luò)在故障診斷、特征的提取和預(yù)測(cè)、非線性系統(tǒng)的自適應(yīng)控制、不能用規(guī)則或公式描述的大量原始數(shù)據(jù)的處理等方面具有比經(jīng)典計(jì)算方法優(yōu)越的性能、且有極大的靈活性和自適應(yīng)性。在實(shí)際應(yīng)用中，面對(duì)一個(gè)實(shí)際問(wèn)題，如要用人工神經(jīng)網(wǎng)絡(luò)求解，首先應(yīng)根據(jù)問(wèn)題的特點(diǎn)，確定網(wǎng)絡(luò)模型，再通過(guò)網(wǎng)絡(luò)仿真分析，分析確定網(wǎng)絡(luò)是否適合實(shí)際問(wèn)題的特點(diǎn)。3min引入：類比人類對(duì)其大腦神經(jīng)網(wǎng)絡(luò)的認(rèn)識(shí)理解，引入人工神經(jīng)網(wǎng)絡(luò)的基本原理。內(nèi)容設(shè)計(jì)思路：對(duì)課堂內(nèi)容進(jìn)行分析，引導(dǎo)學(xué)生了解內(nèi)容之間的相互聯(lián)系，并指出本節(jié)課的重點(diǎn)難點(diǎn)以及教學(xué)目的。核心是給學(xué)員講清楚基本原理和結(jié)構(gòu)形式。10min強(qiáng)調(diào)：引導(dǎo)學(xué)生思考模擬的原理，觸類旁通。分析：神經(jīng)網(wǎng)絡(luò)模型分類方式的異同。注意過(guò)渡：動(dòng)畫演示：課堂互動(dòng)：對(duì)先修的基礎(chǔ)知識(shí)進(jìn)行提問(wèn)、回顧、引導(dǎo)。20min舉例分析：分析要點(diǎn)：對(duì)典型的人工神經(jīng)網(wǎng)絡(luò)進(jìn)行分析講解其來(lái)源與適用范圍。、讓學(xué)生進(jìn)行總結(jié)：深刻理解人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。實(shí)