智能計算理論課件

智能計算理論10/17/20221陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院參考書目遺傳算法原理及應(yīng)用，周明，孫樹棟，國防工業(yè)出版社遺傳算法及其應(yīng)用，陳國良，王熙法等，人民郵電出版社AnIntroductionofSupportVectorMachinesandotherkernel_basedlearningmethods.CristianiniNandShawa-TaylorJ.機(jī)械工業(yè)出版社

2005年影印（有中譯本：李國正等譯.支持向量機(jī)導(dǎo)論.北京：電子工業(yè)出版社，2004.）TheNatureofStatisticalLearningTheory.VapnikVN.Springer-Verlag,NewYork,2000.（中譯本：張學(xué)工譯.統(tǒng)計學(xué)習(xí)理論的本質(zhì).北京：清華大學(xué)出版社，2000.）Rough集理論與知識獲取，王國胤，西安交通大學(xué)出版社10/17/20222陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院課程安排智能計算理論綜述粗糙集理論（RoughSetsTheory,RST)支持向量機(jī)（SupportVectorMachines,SVM）遺傳算法原理及應(yīng)用10/17/20223陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院課程安排——遺傳算法原理及應(yīng)用第一章遺傳算法緒論第二章基本遺傳算法第三章遺傳算法的基本實現(xiàn)技術(shù)第四章遺傳算法的高級實現(xiàn)技術(shù)第五章并行遺傳算法第六章遺傳算法的數(shù)學(xué)理論第七章遺傳算法的應(yīng)用第八章進(jìn)化計算10/17/20224陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院智能計算綜述從符號主義到連接主義智能計算的主要分支

2.1神經(jīng)網(wǎng)絡(luò)2.2模糊系統(tǒng)

2.3進(jìn)化計算2.4粒子群優(yōu)化算法2.5蟻群算法2.6免疫計算2.7粗糙集2.8量子計算2.9魚群算法、水滴算法等等智能計算各分支的融合10/17/20225陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連接主義：智能聯(lián)想、推理、判斷、決策的能力；運用語言進(jìn)行抽象、概括的能力；發(fā)現(xiàn)、發(fā)明、創(chuàng)造、創(chuàng)新的能力；實時地、迅速地、合理地應(yīng)付復(fù)雜環(huán)境的能力；預(yù)測、洞察事物發(fā)展變化的能力；等等。注：智能是相對的、發(fā)展的。離開特定時間說智能是困難的、沒有意義的。10/17/20227陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連接主義：人工智能人工智能是相對于人的自然智能而言，即用人工的方法和技術(shù)，研制智能機(jī)器或智能系統(tǒng)來模仿、延伸和擴(kuò)展人的智能，實現(xiàn)智能行為和“機(jī)器思維”。人工智能是人工制品(artifact)中所涉及的智能行為。其中，智能行為包括：感知(perception)、推理(Reasoning)、學(xué)習(xí)(learning)、通信(communicating)和復(fù)雜環(huán)境下的動作行為(acting)。人們從人腦思維的不同層次出發(fā)，對人工智能進(jìn)行研究，形成符號主義、連接主義和行為主義——這也是人工智能的三個主要學(xué)派。10/17/20228陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連結(jié)主義：符號主義符號主義(symbolicism)，又稱為邏輯主義(logicism)、心理學(xué)派(psychologism)或計算機(jī)學(xué)派(computerism)，其原理主要為物理符號系統(tǒng)(即符號操作系統(tǒng))假設(shè)和有限合理性原理。

符號主義認(rèn)為人工智能源于數(shù)理邏輯。數(shù)理邏輯從19世紀(jì)末起得以迅速發(fā)展，到20世紀(jì)30年代開始用于描述智能行為。計算機(jī)出現(xiàn)后，又在計算機(jī)上實現(xiàn)了邏輯演繹系統(tǒng)。其有代表性的成果為啟發(fā)式程序邏輯理論家，證明了38條數(shù)學(xué)定理，代表了可以應(yīng)用計算機(jī)研究人的思維形成，模擬人類智能活動。10/17/202210陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連結(jié)主義：符號主義符號主義者，在1956年首先采用“人工智能”這個術(shù)語。后來又發(fā)展了啟發(fā)式算法->專家系統(tǒng)->知識工程理論與技術(shù)，并在20世紀(jì)80年代取得很大發(fā)展。符號主義曾長期一枝獨秀，為人工智能的發(fā)展作出重要貢獻(xiàn)，尤其是專家系統(tǒng)的成功開發(fā)與應(yīng)用，為人工智能走向工程應(yīng)用和實現(xiàn)理論聯(lián)系實際具有特別重要的意義。在人工智能的其他學(xué)派出現(xiàn)之后，符號主義仍然是人工智能的主流派別。這個學(xué)派的代表人物有紐厄爾(Newell)、西蒙(Simon)和尼爾遜(Nilsson)等。10/17/202211陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連接主義：符號主義符號主義以Simon,Minskey和Newell提出的物理符號系統(tǒng)假設(shè)為基礎(chǔ)。從人的思維活動出發(fā)，利用計算機(jī)進(jìn)行宏觀功能模擬?；谖锢矸栂到y(tǒng)假設(shè)，符號主義將任何信息加工系統(tǒng)看成是一個具體的物理系統(tǒng)。物理系統(tǒng)表現(xiàn)智能行為的充要條件是該系統(tǒng)是一個物理符號系統(tǒng)。物理符號系統(tǒng)的基本任務(wù)和功能是辨認(rèn)相同的符號和區(qū)別不同的符號。物理符號系統(tǒng)由一組符號實體組成，它們都是物理模式，可在符號結(jié)構(gòu)的實體中作為組分出現(xiàn)。該系統(tǒng)可以進(jìn)行建立、修改、復(fù)制、刪除等操作，以生成其他符號結(jié)構(gòu)。10/17/202212陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連接主義：連接主義20世紀(jì)60~70年代，連接主義，尤其是對以感知機(jī)(perceptron)為代表的腦模型的研究出現(xiàn)過熱潮，由于受到當(dāng)時的理論模型、生物原型和技術(shù)條件的限制，腦模型研究在20世紀(jì)70年代后期至80年代初期落入低潮。直到Hopfield教授在1982年和1984年發(fā)表兩篇重要論文，提出用硬件模擬神經(jīng)網(wǎng)絡(luò)以后，連接主義才又重新抬頭。1986年，魯梅爾哈特(Rumelhart)等人提出多層網(wǎng)絡(luò)中的反向傳播算法(BP)算法。此后，連接主義勢頭大振，從模型到算法，從理論分析到工程實現(xiàn)，為神經(jīng)網(wǎng)絡(luò)計算機(jī)走向市場打下基礎(chǔ)?，F(xiàn)在，對人工神經(jīng)網(wǎng)絡(luò)(ANN)的研究熱情仍然較高，但研究成果沒有像預(yù)想的那樣好。10/17/202214陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連接主義：行為主義行為主義(actionism)，又稱為進(jìn)化主義(evolutionism)或控制論學(xué)派(cyberneticsism)，其原理為控制論及感知-動作型控制系統(tǒng)。行為主義認(rèn)為人工智能源于控制論。控制論思想早在20世紀(jì)40~50年代就成為時代思潮的重要部分，影響了早期的人工智能工作者。維納(Wiener)和麥克洛克(McCulloch)等人提出的控制論和自組織系統(tǒng)以及錢學(xué)森等人提出的工程控制論和生物控制論，影響了許多領(lǐng)域?？刂普摪焉窠?jīng)系統(tǒng)的工作原理與信息理論、控制理論、邏輯以及計算機(jī)聯(lián)系起來。10/17/202215陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連接主義：符號智能與計算智能連接主義與行為主義間的差距相對較小，因此可將人工智能分為兩大類，即符號智能和計算智能（或智能計算）。符號智能是以知識為基礎(chǔ)，通過推理進(jìn)行問題求解，也即傳統(tǒng)的人工智能。計算智能是以數(shù)據(jù)為基礎(chǔ)，通過訓(xùn)練建立聯(lián)系，進(jìn)行問題求解。計算智能是信息科學(xué)和其他學(xué)科（如生命科學(xué)）相互交叉發(fā)展而形成的一個新方向，它以連接主義的思想為主，并與模糊數(shù)學(xué)等數(shù)學(xué)方法相交叉，形成了眾多的發(fā)展方向。人工神經(jīng)網(wǎng)絡(luò)（ANN）、進(jìn)化計算、人工生命、免疫計算、多主體系統(tǒng)（群智能）、粗糙集、量子計算、粒子群優(yōu)化、蟻群算法、DNA計算等都包括在計算智能中。10/17/202217陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連接主義：計算智能與分布式AI連接主義，或計算智能與分布式人工智能（DistributedArtificialIntelligence,DAI）密不可分。人們在研究人類智能行為中發(fā)現(xiàn)，大部分人類活動都涉及多個人構(gòu)成的社會團(tuán)體，大型復(fù)雜問題的求解需要多個專業(yè)人員或組織協(xié)作完成?！皡f(xié)作”是人類智能行為的主要表現(xiàn)形式之一，分布式人工智能正是為適應(yīng)這種需要而興起。尤其是隨著計算機(jī)網(wǎng)絡(luò)、計算機(jī)通信和并發(fā)程序設(shè)計的發(fā)展，分布式人工智能逐漸成為人工智能領(lǐng)域的一個研究熱點，作為人工智能的一個分支，DAI主要研究在邏輯上或物理上分散的智能動作者如何協(xié)調(diào)其行為，即協(xié)調(diào)它們的知識、技能和規(guī)劃，求解單目標(biāo)或多目標(biāo)問題，為設(shè)計和建立大型復(fù)雜智能系統(tǒng)或計算機(jī)支持協(xié)同工作提供有效途徑。分布式系統(tǒng)的本質(zhì)決定了它是復(fù)雜的、非線性的、通過各子系統(tǒng)間的協(xié)同達(dá)到更高有序態(tài)的系統(tǒng)，因此分布式人工智能的主要研究方法是連接主義而不是符號主義的。10/17/202218陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院從符號主義到連接主義：計算智能的特點與生命科學(xué)、系統(tǒng)科學(xué)密切聯(lián)系是計算智能的突出特點，正是由于這個特點，不僅計算機(jī)科學(xué)家，而且眾多其他學(xué)科的學(xué)者也加入到計算智能的研究中來，極大促進(jìn)了計算智能的發(fā)展。10/17/202219陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院計算智能（ComputationalIntelligence,CI）1992年美國學(xué)者JamesC.Bezedek首次提出：計算智能(CI)是依靠生產(chǎn)者提供的數(shù)字、數(shù)據(jù)材料進(jìn)行加工處理，而不是依賴于知識；人工智能（ArtificialIntelligence,AI）則是需用知識進(jìn)行處理。計算智能依賴于數(shù)值，但不是傳統(tǒng)意義上的數(shù)值計算，它借鑒了其他學(xué)科中的概念、行為，體現(xiàn)出智能。10/17/202220陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院計算智能廣義地講就是借鑒仿生學(xué)思想，基于生物體系的生物進(jìn)化、細(xì)胞免疫、神經(jīng)細(xì)胞網(wǎng)絡(luò)等機(jī)制，用數(shù)學(xué)語言抽象描述的計算方法。是基于數(shù)值計算和結(jié)構(gòu)演化的智能，是智能理論發(fā)展的高級階段。從方法論角度和現(xiàn)在的研究現(xiàn)狀看，計算智能的主要方法有：人工神經(jīng)網(wǎng)絡(luò)、模糊系統(tǒng)、進(jìn)化計算、免疫算法、DNA計算以及交叉融合的模糊神經(jīng)網(wǎng)絡(luò)、進(jìn)化神經(jīng)網(wǎng)絡(luò)、模糊進(jìn)化計算、進(jìn)化模糊系統(tǒng)、神經(jīng)模糊系統(tǒng)、進(jìn)化模糊神經(jīng)網(wǎng)絡(luò)和模糊進(jìn)化神經(jīng)網(wǎng)絡(luò)。計算智能理論技術(shù)的應(yīng)用主要可以分為：智能建模、智能控制、智能優(yōu)化、智能管理、智能仿真、智能設(shè)計和制造等。計算智能（ComputationalIntelligence,CI）10/17/202221陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院計算智能（ComputationalIntelligence,CI）1994年，James在Florida,Orlando,首屆計算智能大會（TheFirstIEEEWorldCongressonComputationalIntelligence,WCCI’94

）上再次闡述了他的觀點：智能有三個層次。生物智能(BiologicalIntelligence,BI)由人腦的物理化學(xué)過程反映出來的，人腦是有機(jī)物，是智能的基礎(chǔ)。人工智能(ArtificialIntelligence,AI)是非生物的，人造的，常用符號來表示，AI的來源是人類知識的精華。計算智能(ComputationalIntelligence,CI)是由數(shù)學(xué)方法和計算機(jī)實現(xiàn)的。10/17/202222陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院智能計算所包括的主要領(lǐng)域神經(jīng)網(wǎng)絡(luò)（NeuralNetwork,NN）：連接主義的經(jīng)典代表，是人類對其大腦信息處理機(jī)制的模擬。模糊系統(tǒng)（FuzzySystem,FS）：是人類對其思維方式的類比。進(jìn)化計算理論（EvolutionComputing，EC）：是人類對其自身進(jìn)化過程的模擬。是一類模擬生物進(jìn)化過程與機(jī)制求解問題的自組織、自適應(yīng)的人工智能技術(shù)。典型代表：模擬達(dá)爾文遺傳選擇和自然淘汰的生物進(jìn)化過程的計算模型——遺傳算法（GeneticAlgorithm）對動植物免疫機(jī)理的模擬：免疫算法（ImmuneAlgorithm）10/17/202224陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院智能計算所包含的主要領(lǐng)域神經(jīng)網(wǎng)絡(luò)、模糊系統(tǒng)、進(jìn)化計算都是在研究人工智能的過程中發(fā)展起來的處理不確定、非線性等復(fù)雜問題的理論方法，雖然它們處理問題的方法不同，但它們有一個共同的特點，就是模擬人的智能。人們從研究人工智能的過程中逐步認(rèn)識到，在人尚未完全了解人的生物智能的情況下，我們只能退而求其次，研究什么是可計算的智能，從而利用它們來為國防、科技服務(wù)。盡管關(guān)于模糊系統(tǒng)、神經(jīng)網(wǎng)絡(luò)、進(jìn)化計算的研究開發(fā)歷史可以追溯到上個世紀(jì)五、六十年代，甚至更早，它們卻在計算智能共識的啟示下獲得了新的內(nèi)涵。我們在處理問題的時候不再僅僅局限于單一智能方法的運用，而是趨于多種智能方法的集成，以利于發(fā)展思想更先進(jìn)、功能更強大、能解決更復(fù)雜系統(tǒng)的智能行為。10/17/202225陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院神經(jīng)元模型從本質(zhì)上講，神經(jīng)網(wǎng)絡(luò)可看作參數(shù)化圖模型的一大類別，這些圖模型是由一些隨時間變化、交互連接的神經(jīng)元組成的網(wǎng)絡(luò)。一般僅考慮點到點的相互連接構(gòu)成的神經(jīng)網(wǎng)絡(luò)，而不考慮與多個神經(jīng)元節(jié)點相關(guān)的復(fù)雜連接。由神經(jīng)元j到神經(jīng)元i的連接信息記做wij。這樣，神經(jīng)網(wǎng)絡(luò)就表示為帶權(quán)的有向圖。為了簡化，一般不考慮節(jié)點的自連接，即假設(shè)對所有神經(jīng)元都有wii=0。10/17/202227陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院神經(jīng)元模型神經(jīng)元作為神經(jīng)網(wǎng)絡(luò)的基本單元，其模型是：其中，是輸入信號，是神經(jīng)元的突觸權(quán)值。是輸入信號的線性組合器的輸出，是偏置，也稱為神經(jīng)元節(jié)點的域值，是神經(jīng)元的實際輸出信息，是激活函數(shù)，也稱為壓制函數(shù)，它將輸出信號限制到允許范圍之內(nèi)的一定值。)(kvfk10/17/202228陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院激活函數(shù)的類型線性激活函數(shù)：線性回歸問題中的恒等函數(shù)。非線性激活函數(shù)：通常是有界激活函數(shù),也稱為壓縮函數(shù)。比如：域值函數(shù)：，這樣的節(jié)點稱為域值門節(jié)點。該節(jié)點可實現(xiàn)二值決策功能。但該域值門節(jié)點是不連續(xù)的。Sigmoid函數(shù)：雙曲正切函數(shù)：10/17/202229陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院激活函數(shù)的類型歸一化指數(shù)函數(shù)：

常用于計算具有n個可能輸出的事件的發(fā)生概率，例如n個類別的分類問題。徑向基函數(shù)：一般為鐘型函數(shù)，比如高斯函數(shù)。每個RBF節(jié)點i有一個“參考”輸入xi*，f是輸入與“參考”輸入的距離的函數(shù)10/17/202230陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院神經(jīng)網(wǎng)絡(luò)的類型①反饋網(wǎng)絡(luò)：網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)含有有向環(huán)。②前饋網(wǎng)絡(luò)：網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)不含有有向環(huán)。③分層網(wǎng)絡(luò)：網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)是神經(jīng)元被分為幾層，而且各層之間存在連接。前饋網(wǎng)絡(luò)不一定是分層網(wǎng)絡(luò)。10/17/202231陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)機(jī)制無監(jiān)督學(xué)習(xí)（unsupervisedlearning）：無監(jiān)督學(xué)習(xí)使用的是無類別屬性的模式樣本。無監(jiān)督學(xué)習(xí)突觸權(quán)值隨著學(xué)習(xí)樣本的信息變化，系統(tǒng)將模式信息編碼到結(jié)構(gòu)上。有監(jiān)督學(xué)習(xí)(supervisedlearning)：在有監(jiān)督學(xué)習(xí)中，訓(xùn)練樣本有類別屬性信息。有監(jiān)督學(xué)習(xí)是對一個未知的平均誤差面的逼近。通過有監(jiān)督學(xué)習(xí)，我們通常根據(jù)已知的樣本對信息，通過最小化一個未知的期望誤差函數(shù)，來估計未知的函數(shù)。10/17/202232陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院神經(jīng)網(wǎng)絡(luò)的基本特點大規(guī)模并行處理：神經(jīng)網(wǎng)絡(luò)能同時處理與決策有關(guān)的信息，如：雖然單個神經(jīng)元的動作速度不快，但網(wǎng)絡(luò)的總體處理速度極快。容錯性：由于神經(jīng)網(wǎng)絡(luò)包含的信息是分布存儲的，即使網(wǎng)絡(luò)某些單元和連接有缺陷，它仍然可以通過聯(lián)想得到全部或大部分信息。自適應(yīng)和自組織性：神經(jīng)網(wǎng)絡(luò)系統(tǒng)可以通過學(xué)習(xí)不斷適應(yīng)環(huán)境，增加知識的容量。10/17/202233陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院模糊系統(tǒng)模糊系統(tǒng)理論的起源和發(fā)展模糊系統(tǒng)的研究范疇模糊系統(tǒng)理論的應(yīng)用10/17/202234陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院模糊系統(tǒng)理論的起源和發(fā)展

1965年，美國控制論專家、加利福尼亞大學(xué)教授扎德(L.A.Zadeh)首先提出模糊集合的概念,發(fā)表了開創(chuàng)性論文《模糊集合論(Fuzzysets)》。他提出模糊數(shù)學(xué)的核心思想就是運用數(shù)學(xué)手段，仿效人腦思維，對復(fù)雜事物進(jìn)行模糊處理。模糊數(shù)學(xué)在基礎(chǔ)理論和實際應(yīng)用等方面引起了各國學(xué)者的極大興趣,并產(chǎn)生了許多有價值的應(yīng)用和驚人的成果。

1973年，扎德教授又提出模糊邏輯(FuzzyLogic)的理論，并積極倡導(dǎo)將模糊理論向人工智能方向發(fā)展。模糊邏輯的研究雖然時間不很長，但在智能模擬和智能控制等領(lǐng)域已有了飛快的發(fā)展。

10/17/202235陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院1974年，印度裔英國學(xué)者馬德尼(E.H.Mamdani)首先將模糊理論用于鍋爐和蒸汽機(jī)的控制，并實驗成功，開創(chuàng)了模糊控制的新領(lǐng)域。80年代后期以來，在日本采用模糊控制技術(shù)的家電產(chǎn)品大量上市，模糊技術(shù)在圖像識別、自動控制、市場預(yù)測、人工智能等領(lǐng)域普遍應(yīng)用，掀起了一股模糊熱。日本、美國和我國都成功地研制出了智能化的模糊推理機(jī)，這表現(xiàn)了模糊理論的強大生命力和偉大意義。模糊系統(tǒng)理論的起源和發(fā)展10/17/202236陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院另一方面，模糊理論在學(xué)術(shù)界也得到了普遍的認(rèn)同和重視。1992年，IEEE(InstituteforElectricalandElectronicEngineers)召開了第一屆關(guān)于模糊系統(tǒng)的國際會議（FUZZY－IEEE），并決定以后每年舉行一次。1993年IEEE創(chuàng)辦了?？疘EEETransactiononFuzzySystem。當(dāng)前，模糊理論和應(yīng)用正向深度和廣度進(jìn)一步發(fā)展，發(fā)展的速度越來越快，研究成果大量涌現(xiàn)，已經(jīng)成為世界各國高科技競爭的重要領(lǐng)域之一。模糊系統(tǒng)理論的起源和發(fā)展10/17/202237陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院模糊系統(tǒng)的研究范疇模糊系統(tǒng)基于模糊數(shù)學(xué)理論，能對復(fù)雜事物進(jìn)行模糊處理。模糊數(shù)學(xué)的理論基礎(chǔ)包括模糊邏輯、模糊規(guī)則、模糊推理、隸屬度和模糊集合等。另外，以模糊數(shù)學(xué)為基礎(chǔ)有模糊控制器和模糊神經(jīng)網(wǎng)絡(luò)。10/17/202238陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院模糊系統(tǒng)理論的應(yīng)用模糊洗衣機(jī)汽車中的模糊控制系統(tǒng)地鐵的模糊控制造紙機(jī)的模糊控制系統(tǒng)廚房電器的模糊控制，比如電飯煲……10/17/202239陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院進(jìn)化計算進(jìn)化計算（EvolutionComputing）是采用簡單的編碼技術(shù)來表示各種復(fù)雜的結(jié)構(gòu)，并通過簡單的遺傳操作和優(yōu)勝劣汰的自然選擇來指導(dǎo)學(xué)習(xí)和確定搜索的方向。由于它采用種群（即一組表示）的方式組織搜索，這使得它可以同時搜索解空間內(nèi)的多個區(qū)域，特別適合大規(guī)模并行計算。進(jìn)化計算具有自組織、自適應(yīng)、自學(xué)習(xí)的特點，并且不受其搜索空間限制性條件（如可微、單峰等）的約束，不需要其它輔助信息（如導(dǎo)數(shù)）。這使得進(jìn)化計算不僅能獲得較高的效率，而且操作簡單、通用性強。10/17/202240陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院進(jìn)化計算的發(fā)展過程進(jìn)化計算的主要分支進(jìn)化計算的主要特點10/17/202241陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院進(jìn)化計算的發(fā)展過程進(jìn)化計算在20世紀(jì)六七十年代并未受到普遍的重視。其主要原因之一是因為這些方法本身還不夠成熟；二是由于這些方法需要較大的計算量，而當(dāng)時的計算機(jī)還不夠普及且速度較慢，這樣便限制了它們的應(yīng)用；三是當(dāng)時基于符號處理的人工智能方法正處于頂峰時期，使得人們難以認(rèn)識到其它方法的有效性及適應(yīng)性。到了80年代，人工智能方法的局限性越來越突出，并且隨著計算機(jī)速度的提高和并行計算機(jī)的普及，已使得進(jìn)化計算對機(jī)器速度的要求不再是制約其發(fā)展的因素。進(jìn)化計算的不斷發(fā)展及其在一些應(yīng)用領(lǐng)域內(nèi)取得的成功，已表現(xiàn)出了良好的應(yīng)用前景。10/17/202242陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院由于進(jìn)化計算在機(jī)器學(xué)習(xí)、過程控制、經(jīng)濟(jì)預(yù)測、工程優(yōu)化等領(lǐng)域取得的成功，引起了各領(lǐng)域科學(xué)家們的極大興趣，自80年代中期以來，世界上許多國家都掀起了進(jìn)化計算的研究熱潮。目前，有數(shù)種以進(jìn)化計算為主題的國際會議在世界各地定期召開，并已出版了專門關(guān)于進(jìn)化計算的雜志?？梢灶A(yù)料，隨著進(jìn)化計算理論研究的不斷深入和應(yīng)用領(lǐng)域的不斷拓廣，進(jìn)化計算必將取得更大的成功。進(jìn)化計算的發(fā)展過程10/17/202243陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院進(jìn)化計算的主要分支進(jìn)化計算的三大分支包括：遺傳算法（GeneticAlgorithm,簡稱GA）、進(jìn)化規(guī)劃（EvolutionProgramming,簡稱EP）和進(jìn)化策略（EvolutionStrategies,簡ES）。這三個分支在算法實現(xiàn)方面具有一些細(xì)微的差別，但它們具有一個共同的特點，即都是借助生物進(jìn)化的思想和原理來解決實際問題。下面分別就這三個分支作以簡單的介紹。10/17/202244陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院遺傳算法是一類通過模擬生物界自然選擇和自然遺傳機(jī)制的隨機(jī)搜索算法，是模擬達(dá)爾文的遺傳選擇和自然淘汰的生物進(jìn)化過程的計算模型，它由美國J.Holand教授于1975年首次提出。遺傳算法10/17/202245陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院遺傳算法遺傳算法基本流程圖10/17/202246陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院遺傳算法利用某種編碼技術(shù)作用于稱為染色體的二進(jìn)制數(shù)串，其基本思想是模擬由這些串組成的種群的進(jìn)化過程，通過有組織的、隨機(jī)的信息交換來重新組合那些適應(yīng)性好的串。遺傳算法對求解問題的本身一無所知，它所需要的僅是對算法所產(chǎn)生的每個染色體進(jìn)行評價，并根據(jù)適應(yīng)度來選擇染色體，使適應(yīng)度好的染色體比適應(yīng)度差的染色體有更多的繁殖機(jī)會。遺傳算法10/17/202247陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院遺傳算法標(biāo)準(zhǔn)遺傳算法是生物遺傳過程的一個非常簡化的模擬。事實上，由于遺傳，以及更廣泛的進(jìn)化，與生態(tài)的關(guān)系是密不可分的，在遺傳算法中引入生態(tài)因素是值得努力的。這方面經(jīng)典的如小生境(niche)技術(shù)。10/17/202248陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院遺傳算法的主要特點是群體搜索策略和群體之間的信息交換。與解析法、窮舉法、隨機(jī)法等傳統(tǒng)搜索方法相比，遺傳算法具有不需搜索空間的知識、并行爬峰、編碼方法適應(yīng)性廣等特點。遺傳算法尤其適用于處理傳統(tǒng)搜索方法難以解決的復(fù)雜的非線性問題，可廣泛用于組合優(yōu)化、機(jī)器學(xué)習(xí)、自適應(yīng)控制、規(guī)劃設(shè)計和人工生命等領(lǐng)域，是21世紀(jì)有關(guān)智能計算中的關(guān)鍵技術(shù)之一。遺傳算法10/17/202249陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院1964年，德國柏林工業(yè)大學(xué)的I.Rechenberg等人提出了進(jìn)化策略。他們在求解流體動力學(xué)柔性彎曲管的形狀優(yōu)化問題時，用傳統(tǒng)的方法很難優(yōu)化設(shè)計描述物體形狀的參數(shù)，從而利用生物變異的思想來隨機(jī)地改變參數(shù)值并獲得了較好的結(jié)果。隨后，他們便對這種方法進(jìn)行了深入的研究和發(fā)展，形成了進(jìn)化計算的另一個分支――進(jìn)化策略。進(jìn)化策略10/17/202250陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院進(jìn)化策略與遺傳算法的不同之處是：進(jìn)化策略直接在解空間上進(jìn)行操作，強調(diào)進(jìn)化過程中從父體到后代行為的自適應(yīng)性和多樣性，強調(diào)進(jìn)化過程中搜索步長的自適應(yīng)性調(diào)節(jié)；而遺傳算法是將原問題的解空間映射到位串空間之中，然后再施行遺傳操作，它強調(diào)個體基因結(jié)構(gòu)的變化對其適應(yīng)度的影響。 進(jìn)化策略主要用于求解數(shù)值優(yōu)化問題。進(jìn)化策略10/17/202251陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院進(jìn)化規(guī)劃最初是由美國人L.J.Fogel等在20世紀(jì)60年代提出。他們在人工智能的研究中發(fā)現(xiàn)，智能行為要具有能預(yù)測其所處環(huán)境的狀態(tài)，并按照給定的目標(biāo)作出適當(dāng)響應(yīng)的能力。在研究中，他們將模擬環(huán)境描述成是由有限字符集中符號組成的序列。

進(jìn)化規(guī)劃10/17/202252陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院遺傳算法、進(jìn)化策略、進(jìn)化規(guī)劃的比較進(jìn)化規(guī)劃和進(jìn)化策略都把變異作為主要的搜索算子，而在標(biāo)準(zhǔn)遺傳算法中，變異只處于次要地位；交叉在標(biāo)準(zhǔn)遺傳算法中起著重要作用，而在進(jìn)化規(guī)劃中被完全省去，在進(jìn)化策略中與自適應(yīng)結(jié)合在一起使用非常重要；標(biāo)準(zhǔn)遺傳算法和進(jìn)化規(guī)劃都強調(diào)隨機(jī)選擇機(jī)制的重要性，而從進(jìn)化策略的角度看，選擇是完全確定的，沒有合理的根據(jù)表明隨機(jī)選擇原則的重要性；進(jìn)化規(guī)劃和進(jìn)化策略確定地把某些個體排除在被選擇復(fù)制之外，而標(biāo)準(zhǔn)遺傳算法一般對每個個體都指定一個非零選擇概率。10/17/202253陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院進(jìn)化計算的主要特點進(jìn)化算法與傳統(tǒng)的算法具有很多不同之處，但其最主要的特點體現(xiàn)在下述兩個方面：①

智能性 進(jìn)化計算的智能性包括自組織、自適應(yīng)和自學(xué)習(xí)性等。應(yīng)用進(jìn)化計算求解問題時，在確定了編碼方案、適應(yīng)度函數(shù)及遺傳算子以后，算法將根據(jù)“適者生存、不適應(yīng)者淘汰”的策略，利用進(jìn)化過程中獲得的信息自行組織搜索，從而不斷地向最佳解方向逼近。10/17/202254陜西師范大學(xué)計算機(jī)科學(xué)學(xué)院

自然選擇消除了傳統(tǒng)算法設(shè)計過程中的一個最大障礙——需要事先描述問題的全部特點，并說明針對問題的不同特點算法應(yīng)采取的措施。于是，利用進(jìn)化計算的方法可以解決那些結(jié)構(gòu)尚無人