進化計算課件

1、2022-3-23史忠植 高級人工智能1第十五章 進化計算 史忠植 中科院計算所2022-3-23史忠植 高級人工智能2內 容15.1 概述15.2 進化系統(tǒng)理論的形式模型15.3 達爾文進化算法15.4 遺傳算法15.5 遺傳算法的理論基礎15.6 遺傳算法的改進15.7 遺傳機器學習分類器系統(tǒng)15.8 桶鏈算法15.9 規(guī)則發(fā)現(xiàn)系統(tǒng)15.10 進化策略15.11 進化規(guī)劃2022-3-23史忠植 高級人工智能315.1 概述 進化計算是通過模擬自然界中生物進化機制進行搜索的一種算法。2022-3-23史忠植 高級人工智能4發(fā)展歷史進化計算的研究起源于20世紀50年代。1965年，Holla

2、nd首次提出了人工遺傳操作的重要性，并把這些應用于自然系統(tǒng)和人工系統(tǒng)中。大約在同一時期：Rechenberg和Schwefel提出了進化策略。Fogel提出了進化規(guī)劃。2022-3-23史忠植 高級人工智能5發(fā)展歷史 1967年，Bagley在他的論文中首次提出了遺傳算法這一術語，并討論了遺傳算法在自動博弈中的應用。1970年，Cavicchio把遺傳算法應用于模式識別中。第一個把遺傳算法應用于函數(shù)優(yōu)化的是Hollstien。 2022-3-23史忠植 高級人工智能6發(fā)展歷史 1975年是遺傳算法研究的歷史上十分重要的一年。這一年，Holland出版了他的著名專著自然系統(tǒng)和人工系統(tǒng)的適應性該書

3、系統(tǒng)地闡述了遺傳算法的基本理論和方法，并提出了對遺傳算法的理論研究和發(fā)展極為重要的模式理論（schemata theory），該理論首次確認了結構重組遺傳操作對于獲得隱并行性的重要性。 同年，DeJong完成了他的重要論文遺傳自適應系統(tǒng)的行為分析。他在該論文中所做的研究工作可看作是遺傳算法發(fā)展過程中的一個里程碑，這是因為他把Holland的模式理論與他的計算使用結合起來。 2022-3-23史忠植 高級人工智能7發(fā)展歷史 1989 Goldberg對遺傳算法從理論上，方法上和應用上作了系統(tǒng)的總結。 1990年，Koza提出了遺傳程序設計（Genetic Programming）的概念。（用于搜

4、索解決特定問題的最適計算機程序）2022-3-23史忠植 高級人工智能8遺傳算法與自然進化的比較自然界染色體基因等位基因(allele)染色體位置(locus)基因型(genotype)表型(phenotype)遺傳算法字符串字符,特征特征值字符串位置結構參數(shù)集,譯碼結構2022-3-23史忠植 高級人工智能9新達爾文五進化理論的主要論點1) 個體是基本的選擇目標;2) 隨機過程在進化中起重大作用, 遺傳變異大部分是偶然現(xiàn)象;3) 基因型變異大部分是重組的產物, 特別是突變;4) 逐漸進化可能與表型不連續(xù)有關;5) 不是所有表型變化都是自然選擇的必然結果;6) 進化是在適應中變化的, 形式多樣

5、, 不僅是基因的變化;7) 選擇是概率型的, 而不是決定型的。2022-3-23史忠植 高級人工智能10進化計算的三大主流板塊Holland提出的遺傳算法(Genetic Algorithm)。Rechenberg和Schwefel提出的進化策略(Evolutionary Strategies)。Fogel提出的進化規(guī)劃(Evolutionary Programming)，又稱為進化程序設計。本章將著重介紹遺傳算法，對進化策略和進化規(guī)劃只作簡單介紹。2022-3-23史忠植 高級人工智能1115.2 進化系統(tǒng)理論的形式模型 進化在個體群體中起作用。瓦鋌頓(Waddington)指出基因型和表型

6、之間關系的重要性(Waddington 1974)。群體禁止異構環(huán)境。但是“后生環(huán)境”是多維空間。表型是基因型和環(huán)境的產物。然后表型通過異構“選擇環(huán)境發(fā)生作用。注意，這種多維選擇環(huán)境與后生環(huán)境空間是不同的?，F(xiàn)在，適應性是表型空間和選擇環(huán)境空間的產物。它經常被取作一維，表示多少子孫對下一代作出貢獻。 基于這種想法，莫楞貝(Muhlenbein) 和肯德曼(Kindermann)提出了一種稱為進化系統(tǒng)理論的形式模型(Muhlenbein 1989)。 2022-3-23史忠植 高級人工智能12 進化系統(tǒng)理論的形式模型進化的主要過程后生環(huán)境遺傳操作符選擇環(huán)境gp2022-3-23史忠植 高級人工智能

7、13進化系統(tǒng)理論的形式模型),.,(1iinAaaagGS基因型空間：),.,(1IRppppPSim表型空間： 其中，g 是基因型 p 是表型。 基因gi的可能值稱為等位基因。在門德爾(Mendel)遺傳學中，假設每個基因有有限數(shù)的等位基因。2022-3-23史忠植 高級人工智能14進化系統(tǒng)理論的形式模型,.,1kEPEPEP 后生環(huán)境：),(EPgfpPSEPGSf：變換函數(shù)： IRtESpqi),(質量函數(shù)：這個變換函數(shù)給出了模型，說明表型的發(fā)展是通過基因與環(huán)境的交互作用。變換過程是高度非線性的。2022-3-23史忠植 高級人工智能15進化系統(tǒng)理論的形式模型 IRtESpqi),(質量

8、函數(shù)：質量函數(shù)q給出了具體選擇環(huán)境ESi下表型的質量，其定義如下：質量定義適應度，用于達爾文選擇。至今已有三種具體范例的通用模型，即 門德爾遺傳學 遺傳生態(tài)學 進化配子2022-3-23史忠植 高級人工智能16 門德爾遺傳學在門德爾遺傳學中，基因型被詳細模型化，而表型和環(huán)境幾乎被忽略。在遺傳生態(tài)學中恰好相反。進化配子論是從社會生物學導出的模型。 首先讓我們討論門德爾遺傳學的選擇模型。為了簡單起見，我們假設一個基因具有n 等位基因a1,an。 二倍基因型以元組(ai,aj)為特征。 我們定義 pi,j 為總群體中基因型(ai,aj) 的頻度。假設基因型與表型相等。質量函數(shù)給每個表型賦值。 q(a

9、i,aj) = qi,j qi,j 可以被解釋為出生率減去死亡率 2022-3-23史忠植 高級人工智能17 門德爾遺傳學假設 pi,j是下一代表型(ai,aj) 的頻度。然后達爾文選擇根據(jù)選擇方程調整表型的分布: Qqppjijiji,jijijipqQ, 是群體的平均適應度。Q2022-3-23史忠植 高級人工智能18 門德爾遺傳學設 pi 是群體中等位基因的頻率。如果 pi,j = pi pj那么，我們得到在 GS中的一個選擇方程為 QQppiiijjjiipqQ,2022-3-23史忠植 高級人工智能19 門德爾遺傳學這個離散的選擇方程可以用連續(xù)方程近似: QQQpdtdpiii/ )

10、(如果 qi,j = qj,i, 那么)(QQpdtdpiii2022-3-23史忠植 高級人工智能20 門德爾遺傳學這個方程很容易被證明:0)(2)(222QVarQQEdtQd這個結果稱作菲希爾(Fisher)基本定理。它說明平均適應度隨適應度的差別呈正比例增加。實際上，全部可能的基因型僅有一部分實現(xiàn)。這就是遺傳操縱子探索基因型空間的任務，其個體數(shù)目相當小。這些操縱子是群體遺傳變異性的來源。最重要的操縱子是突變和重組。2022-3-23史忠植 高級人工智能2115.3 達爾文進化算法根據(jù)定量遺傳學，達爾文進化算法采用簡單的突變/選擇動力學。達爾文算法的一般形式可以描述如下：)/(),/(

11、是一代的雙親數(shù)目， 為子孫數(shù)目。整數(shù) 稱作“混雜”數(shù)。如果兩個雙親混合他們的基因，則 = 2。僅 是最好的個體才允許產生子孫。逗號表示雙親們沒有選擇，加號表示雙親有選擇。 2022-3-23史忠植 高級人工智能2215.3 達爾文進化算法1) 建立原始種體。2) 通過突變建立子孫。3) 選擇：4) 返回到步驟(1)。11sgs 111ZsxxsgsZsxx)(max)(1xQxQi2022-3-23史忠植 高級人工智能23 遺傳算法思想來源于生物進化過程, 它是基于進化過程中的信息遺傳機制和優(yōu)勝劣汰的自然選擇原則的搜索算法(以字符串表示狀態(tài)空間)。遺傳算法用概率搜索過程在該狀態(tài)空間中搜索，產生

12、新的樣本。15.4 遺傳算法2022-3-23史忠植 高級人工智能24遺傳算法的特點特點：通用魯棒次優(yōu)解、滿意解遺傳算法能解決的問題：優(yōu)化NP完全NP難高度復雜的非線性問題2022-3-23史忠植 高級人工智能25遺傳算法遺傳算法先將搜索結構編碼為字符串形式, 每個字符串結構被稱為個體。然后對一組字符串結構(被稱為一個群體)進行循環(huán)操作。每次循環(huán)被稱作一代,包括一個保存字符串中較優(yōu)結構的過程和一個有結構的、隨機的字符串間的信息交換過程。類似于自然進化，遺傳算法通過作用于染色體上的基因尋找好的染色體來求解問題。2022-3-23史忠植 高級人工智能26 遺傳算法與自然界相似，遺傳算法對求解問題的

13、本身一無所知，它所需要的僅是對算法所產生的每個染色體進行評價，并基于適應值來選擇染色體，使適應性好的染色體有更多的繁殖機會。在遺傳算法中，位字符串扮演染色體的作用，單個位扮演了基因的作用，隨機產生一個體字符串的初始群體，每個個體給予一個數(shù)值評價，稱為適應度，取消低適應度的個體，選擇高適應度的個體參加操作。常用的遺傳算子有復制、雜交、變異和反轉。2022-3-23史忠植 高級人工智能27遺傳算法與傳統(tǒng)優(yōu)化算法的主要不同1) 遺傳算法不是直接作用在參變量集上, 而是利用參變量集的某種編碼;2) 遺傳算法不是從單個點, 而是在群體中從一個點開始搜索;3) 遺傳算法利用適應值信息, 無需導數(shù)或其它輔助

14、信息;4) 遺傳算法利用概率轉移規(guī)則, 而非確定性規(guī)則。2022-3-23史忠植 高級人工智能28遺傳算法的準備工作1) 確定表示方案;2) 確定適應值的度量;3) 確定控制該算法的參數(shù)和變量;4) 確定怎樣指定結果及程序運行結束的標準。2022-3-23史忠植 高級人工智能29基本遺傳算法基本遺傳算法(Simple Genetic Algorithm:SGA)又稱為簡單遺傳算法，只使用選擇算子、交叉算子和變異算子這三種基本的遺傳算子。其遺傳操作簡單、容易理解，是其它遺傳算法的雛形和基礎。基本遺傳算法的構成要素：1、染色體編碼方法：首先必須對問題的解空間進行編碼，使之能用遺傳算法進行操作。較常

15、用的是二進制編碼方法，現(xiàn)在使用非二進制編碼的也逐漸增多。2、適應度函數(shù)（fitness function，又稱為適應值適值函數(shù)）用來評價一個染色體的好壞。2022-3-23史忠植 高級人工智能30基本遺傳算法的構成要素3、遺傳算子 選擇算子(selection) ：又稱為復制算子。按照某種策略從父代中挑選個體進入下一代，如使用比例選擇、輪盤式選擇。 交叉算子(crossover)：又稱為雜交算子。將從群體中選擇的兩個個體，按照某種策略使兩個個體相互交換部分染色體，從而形成兩個新的個體。如使用單點一致交叉。 變異算子(mutation)：按照一定的概率（一般較?。淖內旧w中某些基因的值。20

16、22-3-23史忠植 高級人工智能31雜交操作舉例),(tCvj10220201No OffspringPt. of interchangeCrossoverjCParentsjCOffspring1110#0#1#0111#0001#11#010#1000#00#110#01#10#100100100#011161711110#11#0001#0#0001#11#00#11#00#110#01#10#000#01111#01#10#2022-3-23史忠植 高級人工智能32變異操作簡單的變異操作過程如下:每個位置的字符變量都有一個變異概率, 各位置互相獨立。通過隨機過程選擇發(fā)生變異的位置：產

17、生一個新結構 , 其中 是從對應位置 的字符變量的值域中隨機選擇的一個取值。 可以同樣得到。lxxx,.,21txxxxxxssssssssa.111112221111xs1xkxxss,.,22022-3-23史忠植 高級人工智能33反轉操作簡單反轉操作的步驟如下:1) 從當前群體中隨機選擇一個結構2) 從中隨機選擇兩個數(shù)i和j, 并定義 i = mini,j, j=maxi,j;3) 顛倒a中位置i、j之間的部分, 產生新的結構lsssa.21ljijjissssssss.121212022-3-23史忠植 高級人工智能34基本遺傳算法的構成要素4、運行參數(shù)N：群體大小，即群體中包含的個體

18、的數(shù)量。T：遺傳算法終止的進化代數(shù)。Pc：交叉概率，一般取為 0.40.99。Pm：變異概率，一般取為 0.00010.1 。2022-3-23史忠植 高級人工智能35基本遺傳算法1. 隨機產生一個由固定長度字符串組成的初始群體;2. 對于字符串群體，迭代地執(zhí)行下述步驟，直到選種標準被滿足為止：1) 計算群體中的每個個體字符串的適應值;2) 應用下述三種操作(至少前兩種)來產生新的群體:復制: 把現(xiàn)有的個體字符串復制到新的群體中。雜交: 通過遺傳重組隨機選擇兩個現(xiàn)有的子字符串, 產生新的字符串。變異: 將現(xiàn)有字符串中某一位的字符隨機變異。3. 把在后代中出現(xiàn)的最高適應值的個體字符串指定為遺傳算

19、法運行的結果。這一結果可以是問題的解(或近似解)。2022-3-23史忠植 高級人工智能36基本遺傳算法流程圖GEN=0概率地選擇遺傳操作隨機創(chuàng)建初始群體計算群體中每個個體的適應值i:=0顯示結果結束GEN:=GEN+1是是否（轉下頁）i=N?GEN=M？12022-3-23史忠植 高級人工智能37概率地選擇遺傳操作根據(jù)適應值選擇一個個體完成交叉i:=i+1i:=i+1復制個體p(r)選擇（接上頁）基于適應值選擇兩個個體把新的兩個孩子加到群體中p(c)交叉變異p(m)把新的孩子加入到群體中完成變異根據(jù)適應值選擇一個個體把變異后個體加入到群體中12022-3-23史忠植 高級人工智能38輪盤式選

20、擇 首先計算每個個體 i 被選中的概率 然后根據(jù)概率的大小將將圓盤分為 n個扇形，每個扇形的大小為 。選擇時轉動輪盤，參考點r落到扇形i則選擇個體i 。njijfifp1)()(.p1p2pirip22022-3-23史忠植 高級人工智能39單點一致交叉 首先以概率pc從種群中隨機地選擇兩個個體p1、p2。在1, 2, . . . ,l內隨機選擇一個數(shù)i,作為交叉的位置，稱為交叉點。然后將兩個個體交叉點后面的部分交換。 例如： 0110 101100 0110 011001 1100 011001 1100 1011002022-3-23史忠植 高級人工智能40一致變異以概率pm對種群中所有個

21、體的每一位進行變異。對于個體pi的第j位，在0,1的范圍內隨機地生成一個數(shù)r, 如果 r pm , 則對第j位取反，否則保持第j位不變。2022-3-23史忠植 高級人工智能41遺傳算法舉例問題：求（1）編碼： 此時取均長為5，每個染色體（2）初始群體生成：群體大小視情況而定，此處設置為4，隨機產生四個個體： 編碼： 01101，11000，01000，10011 解碼： 13 24 8 19 適應度： 169 576 64 361（3）適應度評價：31,0,)(2xxxfMax1111100000 x51 ,02)(xxfitness2022-3-23史忠植 高級人工智能42（4）選擇：選擇

22、概率 個體： 01101，11000，01000，10011 適應度： 169 576 64 361 選擇概率：0.14 0.49 0.06 0.31選擇結果：01101，11000，11000，10011（5）交叉操作：發(fā)生交叉的概率較大 哪兩個個體配對交叉是隨機的 交叉點位置的選取是隨機的（單點交叉） 0110 1 01100 11 000 11 011 1100 0 11001 10 011 10 000ffPii/1170f.9.0,8.0cP2022-3-23史忠植 高級人工智能43（6）變異：發(fā)生變異的概率很小（7）新群體的產生： 保留上一代最優(yōu)個體，一般為10%左右，至少1個 用

23、新個體取代舊個體，隨機取代或擇優(yōu)取代。 11000，11011，11001，10011（8）重復上述操作：說明：GA的終止條件一般人為設置； GA只能求次優(yōu)解或滿意解。分析：按第二代新群體進行遺傳操作，若無變異，永遠也找不到最優(yōu)解擇優(yōu)取代有問題。 若隨機的將個體01101選入新群體中，有可能找到最優(yōu)解。0001.0mP2022-3-23史忠植 高級人工智能4415.5 遺傳算法的理論基礎 15.5.1 模式的定義 遺傳算法的理論基礎是遺傳算法的二進制表達式及模式的含義。模式是能對染色體之間的相似性進行解釋的模板。 定義1 設GA的個體 ,記集合 則稱 為一個模式，其中是通配符。 即模式(sch

24、ema)是含有通配符(*)的一類字符串的通式表達。每個“*”可以取“1”或者“0”。lBplS,*1 , 0Ss2022-3-23史忠植 高級人工智能45模式舉例 模式 *10101110 與以下兩個字符串匹配： 010101110 110101110 而模式 *1010110 與以下四個字符串匹配： 010100110 010101110 110100110 1101011102022-3-23史忠植 高級人工智能46模式的定義 定義2 一個模式模式s s的階的階是出現(xiàn)在模式中的“0”和“1”的數(shù)目，記為o(s)。 如：模式“0*”的階為1，模式“10*1*”的階為3。 定義3 一個模式模式

25、s s的長度的長度是出現(xiàn)在模式中第一個確定位置和最后一個確定位置之間的距離，記為 。 如：模式“01*”的長度為1，模式“0*1”的長度為3。)( s2022-3-23史忠植 高級人工智能4715.5.2 模式定理 假定在給定的時間步t,一個特定的模式s在群體P(t)中包含由m個代表串，記為m=m(s,t)。首先，我們暫不考慮交叉和變異操作。每個串根據(jù)適應值的大小獲得不同的復制概率。串i的復制概率為：njijfifp1)()(（1)2022-3-23史忠植 高級人工智能4815.5.2 模式定理 則在群體P(t+1)中，模式s的代表串的數(shù)量的期望值為：njjfsfntsmtsmE1)()(),

26、() 1,( 其中， 表示模式s在t時刻的所有代表串的適應值的均值，稱為模式s的適應值。)(sf（2）2022-3-23史忠植 高級人工智能4915.5.2 模式定理 若記P(t)中所有個體的適應值的平均值為：njffnj1)(（3） 則(2)式可以表示為：fsftsmtsmE)(),() 1,(2022-3-23史忠植 高級人工智能5015.5.2 模式定理 (3)式表明，模式s的代表串的數(shù)目隨時間增長的幅度正比于模式s的適應值與群體平均適應值的比值。即：適應值高于群體平均值的模式在下一代的代表串數(shù)目將會增加，而適應值低于群體平均值的模式在下一代的代表串數(shù)目將會減少。 假設模式的適應值為 ,

27、其中c是一個常數(shù)，則 (3)式可寫為：fc)1 ( 2022-3-23史忠植 高級人工智能5115.5.2 模式定理（4） 上式表明，在平均適應值之上（之下）的模式，將會按指數(shù)增長（衰減）的方式被復制。1)1 ()0 ,()1 (),()1 (),() 1,(tcsmctsmffctsmtsmE2022-3-23史忠植 高級人工智能5215.5.2 模式定理 復制的結果并沒有生成新的模式。因而，為了探索搜索空間中的未搜索部分，需要利用交叉和變異操作。 下面先探索交叉對模式的影響。 模式s1=“*1*0”和s2=“*10*” 交叉會改變模式的一部分，模式的長度越長，被破壞的概率越大。2022-3

28、-23史忠植 高級人工智能5315.5.2 模式定理 假定模式s在交叉后不被破壞的概率為ps，則： 若交叉概率為pc,則s不被破壞的概率為1)(1lsps1)(1lsppcs2022-3-23史忠植 高級人工智能5415.5.2 模式定理（5） 所以，再考慮交叉時，(3)式可表示為 最后，考慮變異算子對模式的影響。變異算子以概率pm隨機地改變個體某一位的值。只有當o(s)個確定位的值不被破壞時，模式s才不被破壞。1)(1)(),() 1,(lspfsftsmtsmEc2022-3-23史忠植 高級人工智能5515.5.2 模式定理 模式s在變異后不被破壞的概率： Pm1,可近似地表示為)(1s

29、omspp)(1soppms2022-3-23史忠植 高級人工智能5615.5.2 模式定理（6） 因此，考慮交叉和變異時，(3)式可表示為mcmcmcpsolspfsftsmpsolsppsolspfsftsmtsmE)(1)(1)(),()(1)()(1)(1)(),() 1,(2022-3-23史忠植 高級人工智能5715.5.2 模式定理 由(6)我們得到一個重要的定理。 定理1 模式定理(Schema Theorem) 適應值在群體適應值之上的、長度較短的、低階的模式在GA的迭代中將按指數(shù)增長方式被復制。2022-3-23史忠植 高級人工智能5815.5.3 積木塊假設 Hollan

30、d和Goldberg在模式定理的基礎上提出了“積木塊假設”(Building Block Hypothesis): 低階、長度較短、高于平均適應度的模式(積木塊)在遺傳算子的作用下，相互結合，能生成高階、長度較長、適應度較高的模式，并得到全局最優(yōu)解。2022-3-23史忠植 高級人工智能5915.5.4 遺傳算法的收斂性分析 算法的收斂性可以定義如下： 定義： 若算法在t時刻的種群xt滿足 則稱算法收斂到x0。 關于遺傳算法的收斂性，Michalewicz證明了基于壓縮原理的收斂性定理。而Rudolph證明了基于Markov鏈的收斂性定理。Xxxxtt00lim2022-3-23史忠植 高級人

31、工智能6015.6 遺傳算法的改進遺傳算法的局限性：遺傳算法得到了廣泛應用，但也暴露了一些問題，如：遺傳算法在解決某些問題時速度較慢；遺傳算法對編碼方案的依賴性較強，算法的魯棒性不夠好等。這些問題主要歸結為：（1）上位(epistasis)效應上位效應包括兩個方面：多基因性和基因多效性。2022-3-23史忠植 高級人工智能6115.6 遺傳算法的改進（2）編碼方案最初使用最多的是二進制位串，但此類編碼并不適合一些實際問題?，F(xiàn)在人們已經探索了許多其它方案，如浮點表示、樹形表示等等。（3）積木塊假設積木塊假設是否成立，是否一定存在短的、低階的、高適應值的積木塊？若構成問題最優(yōu)解的所有低階模式的適

32、應值都較低，這是GA很難收斂到最優(yōu)解，此類問題稱為“欺騙問題”。2022-3-23史忠植 高級人工智能6215.6 遺傳算法的改進（4）早熟收斂即GA收斂到一個局部最優(yōu)解。Schraudolph和Belew提出“動態(tài)參數(shù)編碼”方案來解決早熟收斂問題。關于遺傳算法的一些改進措施，有興趣的同學可查找相關資料。2022-3-23史忠植 高級人工智能6315.7 遺傳機器學習分類器系統(tǒng) 機器學習是人工智能的一個重要研究領域，也是人工智能的一個重要的應用領域。 遺傳機器學習(Genetics Based Machine Learning, GBML)時將遺傳算法與機器學習系統(tǒng)相結合的產物。2022-3-

33、23史忠植 高級人工智能64遺傳機器學習系統(tǒng)的一般框架任務子系統(tǒng)學習子系統(tǒng)任務檢測器1dmd1eme任務效應器執(zhí)行效應器執(zhí)行檢測器2022-3-23史忠植 高級人工智能65匹茲堡方法和密西根方法 遺傳機器學習有兩種重要的實現(xiàn)方法： 一種是由匹茲堡(Pittsburgh)大學的De Jong和他的學生Smith提出的。該方法用整個規(guī)則集合表示一個個體，GAs維護一個包含一定數(shù)目的候選規(guī)則集的種群。這種方法稱為匹茲堡方法。2022-3-23史忠植 高級人工智能66匹茲堡方法和密西根方法 另一種方法是由密西根(Michigan)大學的Holland和他的學生Reitman提出的。該方法每個個體表示一

34、條規(guī)則，而整個種群就是規(guī)則集。這種方法稱為密西根方法。 Holland提出的分類器系統(tǒng)采用的是密西根方法。2022-3-23史忠植 高級人工智能67分類器系統(tǒng)Holland和他的同事提出了一種分類器系統(tǒng)的認知模型,其中的規(guī)則不是規(guī)則集, 而是遺傳算法操縱的內部實體。圖11.3給出了分類器系統(tǒng)的一般結構, 從分類器系統(tǒng)看學習, 它由三層動作構成,即執(zhí)行子系統(tǒng)、信用賦值子系統(tǒng)和發(fā)現(xiàn)子系統(tǒng)。2022-3-23史忠植 高級人工智能68 分類器系統(tǒng)發(fā)現(xiàn)遺傳算法信用賦值桶鏈執(zhí)行分類器系統(tǒng)消息來自輸入接口支付消息送出輸出接口（目標）來自內部監(jiān)控器的消息圖 11.3 分類器系統(tǒng)的一般結構2022-3-23史忠

35、植 高級人工智能69 分類器系統(tǒng) 執(zhí)行子系統(tǒng)處在最低層, 直接與環(huán)境進行交互。它與專家系統(tǒng)相同,由產生式規(guī)則構成。但是, 它們是消息傳送,高度平行。這類規(guī)則稱作分類器。 分類器系統(tǒng)中的學習, 要求環(huán)境提供反饋, 確認所希望的狀態(tài)是否達到。系統(tǒng)將評價這些規(guī)則的有效性, 這些活動常常稱作信用賦值。有些特定算法專門用來實現(xiàn)信用賦值, 例如, 桶鏈算法。 最后一層是發(fā)現(xiàn)子系統(tǒng), 該系統(tǒng)必須產生新的規(guī)則, 取代當前用處不大的規(guī)則。通過系統(tǒng)累積的經驗產生規(guī)則。系統(tǒng)根據(jù)適應值, 使用遺傳算法選擇、重組和取代規(guī)則。2022-3-23史忠植 高級人工智能70 分類器系統(tǒng) 分類器系統(tǒng)是平行執(zhí)行、消息傳遞和基于規(guī)則

36、的系統(tǒng)。在簡單的方案中,消息采用規(guī)定的字母, 全部為固定長度。全部規(guī)則采用條件/動作形式。每個條件規(guī)定必須滿足的信息, 每個動作規(guī)定當條件滿足時所發(fā)送的消息。 為了方便, 假設消息采用長度為l的二進制字符串記錄, 字符采用子集1, 0, #。2022-3-23史忠植 高級人工智能71規(guī)則與消息產生式規(guī)則：IF THEN 約定：條件的長度是固定的，用二進制數(shù)表示。定義：kimmmmmessageik,.,1,1 , 0,.,:21為通配符#,.,1,#, 1 , 0,.,:21kissssconditionikmessageconditionclassifier/: If sj = 1 or s

37、j = 0, then mj = sj If sj = #, then mj can be either 1 or 0. 2022-3-23史忠植 高級人工智能72規(guī)則與消息 滿足要求的全部消息構成子集, 即每個子集是在消息空間的一個超平面。分類器系統(tǒng)是由一組分類器 C1, C2, CN、一個消息表、輸入接口、輸出接口構成。每部分的主要功能如下: (1) 輸入接口將當前環(huán)境狀態(tài)翻譯成標準消息。 (2) 分類器根據(jù)規(guī)則, 規(guī)定系統(tǒng)處理消息的過程。 (3) 消息表包含當前全部消息。 (4) 輸出接口將結果消息翻譯成效應器動作, 修改環(huán)境狀態(tài)。2022-3-23史忠植 高級人工智能73分類器系統(tǒng)的基

38、本結構分類器消息表(a)全部消息進行條件測試條件消息規(guī)約輸出接口送到環(huán)境輸入接口來自環(huán)境(a)(b)(b)選中分類器產生新消息2022-3-23史忠植 高級人工智能74分類器基本算法1) 將輸入接口全部消息放入消息表。2) 將消息表中的全部消息與全部分類器所有條件比較, 記錄所有匹配。3) 滿足分類器條件部分的每組匹配, 將其動作部分所規(guī)定的消息送到新的消息表。4) 用新的消息表取代消息表中的全部消息。5) 將消息表中的消息翻譯成輸出接口的要求, 產生系統(tǒng)當前的輸出。6) 返回到步驟(1)。2022-3-23史忠植 高級人工智能75簡單的視覺分類器系統(tǒng)視覺向量視野運動向量對象檢測器11110消

39、息1d2d3d4d2022-3-23史忠植 高級人工智能76性質檢測器規(guī)定的值1d1，如果移動對象0，其它),(32dd(0,0)，如果對象在視野的中間(1,0)，如果對象在中心的左邊(0,1)，如果對象在中心的右邊4d1，如果系統(tǒng)是對象的近鄰0，其它5d1，如果對象很大0，其它6d1，如果對象是狹長的0，其它2022-3-23史忠植 高級人工智能77規(guī)則表示規(guī)則：IF 如果有“捕食(prey)”(small, moving,nonstriped object), 處于視野中間(centered), 非鄰近 (nonadjacent),THEN 迅速移向對象 (ALIGN), (FAST).可

40、以表示為：00#000001 / 0100000000000000, ALIGN, FAST.2022-3-23史忠植 高級人工智能78網(wǎng)絡圖MOVING11dSMALL05dNOT STRIPED06dNEAR010dFAR110d01001ALERT10001TARGET11001PORSUE11010APPROACH11011FLEE11100FREEZE10010DANGER2022-3-23史忠植 高級人工智能79網(wǎng)絡圖的規(guī)則表示MOVING和ALERT之間的箭頭：00#1/01001#SMALL，NOT STRIPED and ALERT到TARGET的箭頭：00#00#，0100

41、1#/10001#2022-3-23史忠植 高級人工智能80學習機制分類器系統(tǒng)使用兩個學習機制， 桶鏈(bucket brigade) 算法?；趯ο到y(tǒng)的貢獻, 對現(xiàn)有規(guī)則分配一個信用值。 規(guī)則發(fā)現(xiàn)算法。這包括遺傳算法，該算法可產生新規(guī)則，用于改善系統(tǒng)的知識庫。2022-3-23史忠植 高級人工智能8115.8 桶鏈算法 桶鏈(bucket brigade) 算法基于對系統(tǒng)的貢獻, 對現(xiàn)有規(guī)則分配一個信用值。主要解決多條規(guī)則同時要求被激活時的競爭問題。 例如：下面的情況下應該選擇哪條規(guī)則。011101# #：0000# #00：000100# 0：11002022-3-23史忠植 高級人工智能

42、82主要問題引入信用值后的兩個問題： 當多條規(guī)則同時要求被激活時，如何解決競爭問題 對一規(guī)則被激活產生過作用的那些規(guī)則如何分配信用2022-3-23史忠植 高級人工智能83桶鏈算法為解決上述兩個問題，引入拍賣行和票據(jù)交易所：當有多個分類器獲得匹配時，每個分類器要出一個與其強度成正比的叫價B叫價高的分類器被激活并允許發(fā)送消息，同時通過票據(jù)交易所,將其叫價B提供給激活的分類器。如此繼續(xù)下去，一條規(guī)則可通過消費者獲利（增加了強度），通過規(guī)則的不斷激活形成一條消費者鏈，直至最終消費者（達到目標）直接從環(huán)境中得到補償。若鏈中一條規(guī)則導致錯誤結論，則序列上該規(guī)則的強度將減弱，并且沿著序列回溯，從而產生新的

43、消費者鏈2022-3-23史忠植 高級人工智能84舉例環(huán)境0111，強度為0，叫價系數(shù)為0.1。索引號分類器強度 101# #：0000200 200# 0：1000200 311# #：1000200 4# #00：00012002022-3-23史忠植 高級人工智能85第一步分類器 強度 消息 匹配 叫價01# #：0000 200 E 2000# 0：1000 20011# #：1000 200# #00：0001 2002022-3-23史忠植 高級人工智能86第二步分類器 強度 消息 匹配 叫價01# #：0000 180 000000# 0：1000 200 1 2011# #：1

44、000 200# #00：0001 200 1 20兩條規(guī)則同時激活2022-3-23史忠植 高級人工智能87第三步分類器 強度 消息 匹配 叫價01# #：0000 22000# 0：1000 180 110011# #：1000 200 2 20# #00：0001 180 0001 2 182022-3-23史忠植 高級人工智能88第四步分類器 強度 消息 匹配 叫價01# #：0000 22000# 0：1000 21811# #：1000 180 1000# #00：0001 162 3 162022-3-23史忠植 高級人工智能89第五步分類器 強度 消息 匹配 叫價 強度01#

45、#：0000 220 22000# 0：1000 218 21811# #：1000 196 196# #00：0001 146 0001 206規(guī)則4達到目標獲得補償60。2022-3-23史忠植 高級人工智能90投標改變分類器的強度在時間t滿足C送去消息的分類器) ,() ,() ,() 1(3211tCBtCBtCBCV1C1C1C),(1tCB),(2tCB),(3tCB對在t-1作用的分類器投標在時間t對分類器C的支持2022-3-23史忠植 高級人工智能91分類器中的遺傳算法遺傳算法可產生新規(guī)則，用于改善系統(tǒng)的知識庫?？梢栽谌N情況下應用GA：1) 引入一個參數(shù)T（時間間隔），用于

46、控制何時使用GA。2) 特殊情況時（如消息的條件都不能匹配）使用GA。3) 系統(tǒng)的性能太差。2022-3-23史忠植 高級人工智能92算法步驟1) t=0，隨機生成集合Bt，|Bt|=M（大小）；2) 計算Bt中全體分類器的平均強度Vt，對每個分類器賦予一個標準強度St(Cj)/Vt；3) 給Bt中的每個分類器Cj賦予一個與其標準強度成正比的概率，并根據(jù)Bt中的概率分布，從Bt中選取n個分類器，nM；4) 對每個分類器應用交叉算子，生成2n個分類器；5) 將Bt中的2n個強度最低的分類器用新生成的2n個取代；6) t=t+1，轉(2)。2022-3-23史忠植 高級人工智能93算法說明1) 算

47、法中S0(Cj)是預知的；2) 實現(xiàn)時考慮結束條件；3) 該算法是經典GA的變種，其中沒有變異算子；4) 新分類器的強度是由舊分類器的強度決定的。2022-3-23史忠植 高級人工智能94分類器強度調整算法1) 將與所選動作相同的分類器形成子集 M，稱作動作集 A。將不在 M中的其它分類器放在集合 NOTA中。2) 在A中的全部分類器強度減少一個分數(shù)e。3) 如果系統(tǒng)決策正確，則將贏利量R分配給A的強度;4) 如果系統(tǒng)決策錯誤，則將贏利量R(其中0RR)分配給 A的強度，從A的強度減少一個分數(shù)p。至少R和p中的一個為0。5) 從 NOTA中的強度減去一個分數(shù)t。2022-3-23史忠植 高級人

48、工智能9515.9 規(guī)則發(fā)現(xiàn)系統(tǒng) 在規(guī)則發(fā)現(xiàn)系統(tǒng)中, 學習經常是首先評價系統(tǒng)現(xiàn)有的規(guī)則質量, 然后進行修改。Grefenstette 研制了一種規(guī)則發(fā)現(xiàn)系統(tǒng)RUDI。問題求解級由簡化的分類器系統(tǒng)組成。學習級是對知識結構群體進行遺傳算法操作, 每一個表示為一組規(guī)則表。知識結構的整個行為控制這些結構的復制。 在RUDI中, 信用賦值方法贏利共享規(guī)劃(Profit-Sharing Plan,簡稱PSP) 和桶鏈算法(BBA) 對每個規(guī)則提供互補的效用信息。根據(jù)期望的外部獎勵, PSP-強度對規(guī)則效用提供更精確的評估。當問題求解時它被用作沖突消解。與此相反, BBA-強度表示規(guī)則之間的動態(tài)相關性, 規(guī)

49、則點火依次會聚到相似水平。這種測度可以用作一組協(xié)作規(guī)則的聚類。 2022-3-23史忠植 高級人工智能96 規(guī)則發(fā)現(xiàn)系統(tǒng) Grefenstette 提出一種強度修改方案稱作嬴利共享規(guī)劃PSP。在這種方案中問題求解劃分成情節(jié), 按所接受的外部獎勵區(qū)分。如果任何步情節(jié)在投標競爭中獲勝, 則認為該規(guī)則在該情節(jié)活動。在情節(jié)t, PSP 修改每個活動規(guī)則Ri的強度 Si(t) 如下: ) 1()()0()1 ()(1ipbibSbtSittiiti Si(t + 1) = Si(t) -bSi(t) + bp(t), 其中, p(t) 稱作在情節(jié)結束時所獲得的外部獎勵, 即當獲得外部獎勵,從每個活動規(guī)則搜集投標, 每個活動規(guī)則給出一部分外部獎勵。考慮PSP 對給定規(guī)則Ri 的影響, 它按照方程得到:2022-3-23史忠植 高級人工智能97 規(guī)則發(fā)現(xiàn)系統(tǒng)其中, t 的范圍是在該情節(jié)規(guī)則 Ri 是活動