智能控制與機(jī)器學(xué)習(xí)報(bào)告

1、研究生課程論文封面課程名稱智能控制與機(jī)器學(xué)習(xí)教師姓名研究生姓名研究生學(xué)號研究生專業(yè)所在院系類另比碩士日期：人工神經(jīng)網(wǎng)絡(luò)之遺傳算法摘要：遺傳算法（GeneticAlgorithm）是一類借鑒生物界的進(jìn)化規(guī)律（適者生存，優(yōu)勝劣汰遺傳機(jī)制）演化而來的隨機(jī)化搜索方法！它是由美國的J.Holland教授1975年首先提出，其主要特點(diǎn)是直接對結(jié)構(gòu)對象進(jìn)行操作，不存在求導(dǎo)和函數(shù)連續(xù)性的限定；具有內(nèi)在的隱并行性和更好的全局尋優(yōu)能力；采用概率化的尋優(yōu)方法，能自動(dòng)獲取和指導(dǎo)優(yōu)化的搜索空間，自動(dòng)適應(yīng)地調(diào)整搜索方向，不需要確定的規(guī)則！遺傳算法的這些性質(zhì)，已被人們廣泛地應(yīng)用于組合優(yōu)化，機(jī)器學(xué)習(xí)，信號處理，自適應(yīng)控制和人

2、工生命等領(lǐng)域，是現(xiàn)代有關(guān)智能計(jì)算中的關(guān)鍵技術(shù)。關(guān)鍵詞：遺傳算法；機(jī)器學(xué)習(xí)；智能計(jì)算1遺傳算法的原理1.1遺傳算法的基本思想遺傳算法（geneticalgorithms，GA）是一種基于自然選擇和基因遺傳學(xué)原理，借鑒了生物進(jìn)化優(yōu)勝劣汰的自然選擇機(jī)理和生物界繁衍進(jìn)化的基因重組、突變的遺傳機(jī)制的全局自適應(yīng)概率搜索算法。遺傳算法是從一組隨機(jī)產(chǎn)生的初始解（種群）開始，這個(gè)種群由經(jīng)過基因編碼的一定數(shù)量的個(gè)體組成，每個(gè)個(gè)體實(shí)際上是染色體帶有特征的實(shí)體。染色體作為遺傳物質(zhì)的主要載體，其內(nèi)部表現(xiàn)（即基因型）是某種基因組合，它決定了個(gè)體的外部表現(xiàn)。因此，從一開始就需要實(shí)現(xiàn)從表現(xiàn)型到基因型的映射，即編碼工作。初始種

3、群產(chǎn)生后，按照優(yōu)勝劣汰的原理，逐代演化產(chǎn)生出越來越好的近似解。在每一代，根據(jù)問題域中個(gè)體的適應(yīng)度大小選擇個(gè)體，并借助于自然遺傳學(xué)的遺傳算子進(jìn)行組合交叉和變異，產(chǎn)生出代表新的解集的種群。這個(gè)過程將導(dǎo)致種群像自然進(jìn)化一樣，后代種群比前代更加適應(yīng)環(huán)境，末代種群中的最優(yōu)個(gè)體經(jīng)過解碼，可以作為問題近似最優(yōu)解。計(jì)算開始時(shí)，將實(shí)際問題的變量進(jìn)行編碼形成染色體，隨機(jī)產(chǎn)生一定數(shù)目的個(gè)體，即種群，并計(jì)算每個(gè)個(gè)體的適應(yīng)度值，然后通過終止條件判斷該初始解是否是最優(yōu)解，若是則停止計(jì)算輸出結(jié)果，若不是則通過遺傳算子操作產(chǎn)生新的一代種群，回到計(jì)算群體中每個(gè)個(gè)體的適應(yīng)度值的部分，然后轉(zhuǎn)到終止條件判斷。這一過程循環(huán)執(zhí)行，直到滿

4、足優(yōu)化準(zhǔn)則，最終產(chǎn)生問題的最優(yōu)解。圖1-1給出了遺傳算法的基本過程。1.2遺傳算法的特點(diǎn)1.2.1遺傳算法的優(yōu)點(diǎn)遺傳算法具有十分強(qiáng)的魯棒性，比起傳統(tǒng)優(yōu)化方法，遺傳算法有如下優(yōu)點(diǎn)：1遺傳算法以控制變量的編碼作為運(yùn)算對象。傳統(tǒng)的優(yōu)化算法往往直接利用控制變量的實(shí)際值的本身來進(jìn)行優(yōu)化運(yùn)算，但遺傳算法不是直接以控制變量的值，而是以控制變量的特定形式的編碼為運(yùn)算對象。這種對控制變量的編碼處理方式，可以模仿自然界中生物的遺傳和進(jìn)化等機(jī)理，也使得我們可以方便地處理各種變量和應(yīng)用遺傳操作算子。遺傳算法具有內(nèi)在的本質(zhì)并行性。它的并行性表現(xiàn)在兩個(gè)方面算法的外在并行性，最簡單的方式是讓多臺(tái)計(jì)算機(jī)各自進(jìn)行獨(dú)立種群的演化

5、計(jì)算，最后選擇最優(yōu)個(gè)體?？梢哉f，遺傳算法適合在目前所有的并行機(jī)或分布式系統(tǒng)上進(jìn)行并行計(jì)算處理。二是遺傳算法的內(nèi)在并行性，由于遺傳算法采用種群的方式組織搜索,因而可同時(shí)搜索解空間內(nèi)的多個(gè)區(qū)域，并相互交流信息。這樣就使得搜索效率更高，也避免了使搜索過程陷于局部最優(yōu)解。圖1-1簡單遺傳算法的基本過程遺傳算法直接以目標(biāo)函數(shù)值作為搜索信息。在簡單遺傳算法中，基本上不用搜索空間的知識和其它輔助信息，而僅用目標(biāo)函數(shù)即適應(yīng)度函數(shù)來評估個(gè)體解的優(yōu)劣，且適應(yīng)度函數(shù)不受連續(xù)可微的約束,對該函數(shù)和控制變量的約束極少。對適應(yīng)度函數(shù)唯一的要求就是對于輸入能夠計(jì)算出可比較的輸出。遺傳算法是采用概率的變遷規(guī)則來指導(dǎo)它的搜索方

6、向，其搜索過程朝著搜索空間的更優(yōu)化的解區(qū)域移動(dòng)，它的方向性使得它的效率遠(yuǎn)遠(yuǎn)高于一般的隨機(jī)算法。遺傳算法在解空間內(nèi)進(jìn)行充分的搜索，但不是盲目的窮舉或試探，因?yàn)檫x擇操作以適應(yīng)度為依據(jù)，因此它的搜索性能往往優(yōu)于其它優(yōu)化算法。原理簡單，操作方便，占用內(nèi)存少，適用于計(jì)算機(jī)進(jìn)行大規(guī)模計(jì)算，尤其適合處理傳統(tǒng)搜索方法難以解決的大規(guī)模、非線性組合復(fù)雜優(yōu)化問題。由于遺傳基因串碼的不連續(xù)性，所以遺傳算法處理非連續(xù)混合整數(shù)規(guī)劃時(shí)有其獨(dú)特的優(yōu)越性，而且使得遺傳算法對某些病態(tài)結(jié)構(gòu)問題具有很好的處理能力。遺傳算法同其他算法有較好的兼容性。如可以用其他的算法求初始解；在每一代種群，可以用其他的方法求解下一代新種群。2遺傳算法

7、的實(shí)現(xiàn)2.1初始參數(shù)種群規(guī)模n:種群數(shù)目影響遺傳算法的有效性。種群數(shù)目太小，不能提供足夠的采樣點(diǎn)；種群規(guī)模太大，會(huì)增加計(jì)算量，使收斂時(shí)間增長。一般種群數(shù)目在20至到160之間比較合適。交叉概率Pc:Pc控制著交換操作的頻率，Pc太大，會(huì)使高適應(yīng)值的結(jié)構(gòu)很快被破壞掉，pc太小會(huì)使搜索停滯不前，一般pc取0.51.0。變異概率Pm:Pm是增大種群多樣性的第二個(gè)因素，Pm太小，不會(huì)產(chǎn)生新的基因塊，Pm太大，會(huì)使遺傳算法變成隨機(jī)搜索，一般Pm取0.0010.1。進(jìn)化代數(shù)t:表示遺傳算法運(yùn)行結(jié)束的一個(gè)條件。一般的取值范圍1001000。當(dāng)個(gè)體編碼較長時(shí)，進(jìn)化代數(shù)要取小一些，否則會(huì)影響算法的運(yùn)行效率。進(jìn)化

8、代數(shù)的選取，還可以采用某種判定準(zhǔn)則，準(zhǔn)則成立時(shí)，即停止。2.2染色體編碼利用遺傳算法進(jìn)行問題求解時(shí)，必須在目標(biāo)問題實(shí)際表示與染色體位串結(jié)構(gòu)之間建立一個(gè)聯(lián)系。對于給定的優(yōu)化問題，由種群個(gè)體的表現(xiàn)型集合所組成的空間稱為問題空間，由種群基因型個(gè)體所組成的空間稱為編碼空間。由問題空間向編碼空間的映射稱作編碼，而由編碼空間向問題空間的映射成為解碼。按照遺傳算法的模式定理，DeJong進(jìn)一步提出了較為客觀明確的編碼評估準(zhǔn)則，稱之為編碼原理。具體可以概括為兩條規(guī)則：(1)有意義積木塊編碼規(guī)則：編碼應(yīng)當(dāng)易于生成與所求問題相關(guān)的且具有低階、短定義長度模式的編碼方案。(2)最小字符集編碼規(guī)則：編碼應(yīng)使用能使問題得

9、到自然表示或描述的具有最小編碼字符集的編碼方案。常用的編碼方式有兩種：二進(jìn)制編碼和浮點(diǎn)數(shù)(實(shí)數(shù))編碼。二進(jìn)制編碼方法是遺傳算法中最常用的一種編碼方法，它將問題空間的參數(shù)用字符集1,0構(gòu)成染色體位串，符合最小字符集原則，便于用模式定理分析，但存在映射誤差。米用二進(jìn)制編碼，將決策變量編碼為二進(jìn)制，編碼串長代取決于需要的精度。例如，X的值域?yàn)镾，巾，而需要的精度是小數(shù)點(diǎn)后5位，這要求將X得值域至少分為5巴I06份。設(shè)X所需要的字串長為代，則有：(2.1)2m.-1(ba)x1062m.ii2匕那么二進(jìn)制編碼的編碼精度為2m.1，將X.由二進(jìn)制轉(zhuǎn)為十進(jìn)制可按下式計(jì)算:(2.2)x=a+decimal(

10、substring)x5iii其中，decimal(substringi)表示變量”的子串substring匚的十進(jìn)制值。染色體編碼m=乙m的總串長i=11。若沒有規(guī)定計(jì)算精度，那么可采用定長二進(jìn)制編碼，即作可以自己確定。二進(jìn)制編碼方式的編碼、解碼簡單易行，使得遺傳算法的交叉、變異等操作實(shí)現(xiàn)方便。但是，當(dāng)連續(xù)函數(shù)離散化時(shí)，它存在映射誤差。再者，當(dāng)優(yōu)化問題所求的精度越高，如果必須保證解的精度，則使得個(gè)體的二進(jìn)制編碼串很長，從而導(dǎo)致搜索空間急劇擴(kuò)大，計(jì)算量也會(huì)增加，計(jì)算時(shí)間也相應(yīng)的延長。浮點(diǎn)數(shù)(實(shí)數(shù))編碼方法能夠解決二進(jìn)制編碼的這些缺點(diǎn)。該方法中個(gè)體的每個(gè)基因都要用參數(shù)所給定區(qū)間范圍內(nèi)的某一浮點(diǎn)數(shù)

11、來表示，而個(gè)體的編碼長度則等于其決策變量的總數(shù)。遺傳算法中交叉、變異等操作所產(chǎn)生的新個(gè)體的基因值也必須保證在參數(shù)指定區(qū)間范圍內(nèi)。當(dāng)個(gè)體的基因值是由多個(gè)基因組成時(shí)，交叉操作必須在兩個(gè)基因之間的分界字節(jié)處進(jìn)行，而不是在某一基因內(nèi)的中間字節(jié)分隔處進(jìn)行。2.3適應(yīng)度函數(shù)適應(yīng)度函數(shù)是用來衡量個(gè)體優(yōu)劣，度量個(gè)體適應(yīng)度的函數(shù)。適應(yīng)度函數(shù)值越大的個(gè)體越好，反之，適應(yīng)值越小的個(gè)體越差。在遺傳算法中根據(jù)適應(yīng)值對個(gè)體進(jìn)行選擇，以保證適應(yīng)性能好的個(gè)體有更多的機(jī)會(huì)繁殖后代，使優(yōu)良特性得以遺傳。一般而言，適應(yīng)度函數(shù)是由目標(biāo)函數(shù)變換而成的。由于在遺傳算法中根據(jù)適應(yīng)度排序的情況來計(jì)算選擇概率，這就要求適應(yīng)度函數(shù)計(jì)算出的函數(shù)值

12、(適應(yīng)度)不能小于零。因此，在某些情況下，將目標(biāo)函數(shù)轉(zhuǎn)換成最大化問題形式而且函數(shù)值非負(fù)的適應(yīng)度函數(shù)是必要的，并且在任何情況下總是希望越大越好，但是許多實(shí)際問題中，目標(biāo)函數(shù)有正有負(fù)，所以經(jīng)常用到從目標(biāo)函數(shù)到適應(yīng)度函數(shù)的變換?？紤]如下一般的數(shù)學(xué)規(guī)劃問題：minf(兀)s.t.g(x)=0hh(x)hminmax變換方法一：對于最小化問題,F(x)十x了(x)建立適應(yīng)度函數(shù)F(x)和目標(biāo)函數(shù)/(x)的映射關(guān)系：f(x)c(23)max乙cminf(x)1.5)=2;T_bp_sim(T_bp_sim1.5)=2;T_ga_sim(T_ga_sim1.5)=l;result_ga=T_ga_simT_

13、test;number_b_sim=length(find(T_ga_sim=l&T_test=l);number_m_sim=length(find(T_ga_sim=2&T_test二=2);disp(2)優(yōu)化BP網(wǎng)絡(luò)的測試結(jié)果為:)；disp(良性乳腺腫瘤確診：num2str(number_b_sim).誤診:num2str(number_B-number_b_sim).確診率pl二num2str(number_b_sim/number_B*100)%);disp(惡性乳腺腫瘤確診:num2str(number_m_sim).誤診:num2str(number_M-number_m_sim).確診率p2二num2str(number_m_sim/number_M*100)%);disp(建模時(shí)間為：num2str(e)s);實(shí)驗(yàn)結(jié)果為：實(shí)驗(yàn)條件為：病例總數(shù)：569良性：357惡性：212訓(xùn)練集病例總數(shù)：500良性：307惡性：193測試集病例總數(shù)：69良性：50惡性：196結(jié)論遺傳算法是一種借鑒生物界自然選擇和遺傳機(jī)制的高度并行，隨機(jī)，自適應(yīng)的全局優(yōu)化搜索算法，國內(nèi)外都非常重視其理論和應(yīng)用研究，并取得了令人矚目的進(jìn)展，遺傳算法的應(yīng)用成果