隨機優(yōu)化問題常見方法

1、PPT模板下載： 行業(yè)PPT模板： 節(jié)日PPT模板： PPT素材下載： PPT圖表下載： 優(yōu)秀PPT下載： PPT教程： Word教程： Excel教程： 資料下載： PPT課件下載： 范文下載： 試卷下載： 教案下載： 隨機優(yōu)化問題隨機優(yōu)化問題常見方法常見方法1234目目錄錄幾種常見方法幾種常見方法基于假設(shè)檢驗的模擬退火算法：Simulated Annealing（SA）要點分析要點分析：針對隨機優(yōu)化問題的不確定性,提出一類基于假設(shè)檢驗的模擬退火算法.該方法通過多次評價來合理估計解的性能,利用假設(shè)檢驗減少重復(fù)性搜索,采用突跳性搜索避免局部極小,并通過溫度控制調(diào)節(jié)突跳能力.算法原理算法原理：模

2、擬退火算法來源于固體退火原理，將固體加溫至充分高，再讓其徐徐冷卻，加溫時，固體內(nèi)部粒子隨溫升變?yōu)闊o序狀，內(nèi)能增大，而徐徐冷卻時粒子漸趨有序，在每個溫度都達到平衡態(tài)，最后在常溫時達到基態(tài)，內(nèi)能減為最小。根據(jù)Metropolis準則，粒子在溫度T時趨于平衡的概率為e(-E/(kT)，其中E為溫度T時的內(nèi)能，E為其改變量，k為Boltzmann常數(shù)。用固體退火模擬組合優(yōu)化問題，將內(nèi)能E模擬為目標函數(shù)值f，溫度T演化成控制參數(shù)t，即得到解組合優(yōu)化問題的模擬退火算法：由初始解i和控制參數(shù)初值t開始，對當前解重復(fù)“產(chǎn)生新解計算目標函數(shù)差接受或舍棄”的迭代，并逐步衰減t值，算法終止時的當前解即為所得近似最優(yōu)

3、解，這是基于蒙特卡羅迭代求解法的一種啟發(fā)式隨機搜索過程?；诩僭O(shè)檢驗的模擬退火（SA）算法：基本思想及模型：基本思想及模型：(1) 初始化：初始溫度T(充分大)，初始解狀態(tài)S(是算法迭代的起點)，每個T值的迭代次數(shù)L(2) 對k=1，L做第(3)至第6步：(3) 產(chǎn)生新解S(4) 計算增量t=C(S)-C(S)，其中C(S)為評價函數(shù)(5) 若t0，然后轉(zhuǎn)第2步。微粒群算法： Particle Swarm Optimization（ PSO）算法原理算法原理：PSO算法是基于群體的，根據(jù)對環(huán)境的適應(yīng)度將群體中的個體移動到好的區(qū)域。然而它不對個體使用演化算法，而是將每個個體看作是D維搜索空間中的

4、一個沒有體積的微粒（點），在搜索空間中以一定的速度飛行，這個速度根據(jù)它本身的飛行經(jīng)驗和同伴的飛行經(jīng)驗來動態(tài)調(diào)整。第i個微粒表示為Xi = (xi1,xi2,，xiD），它經(jīng)歷過的最好位置（有最好的適應(yīng)值）記為Pi = (pi1,pi2，piD），也稱為pbest。在群體所有微粒經(jīng)歷過的最好位置的索引號用符號g表示，即Pg，也稱為gbest。微粒i的速度用Vi = (vi1,vi2，viD）表示。思維依據(jù)：思維依據(jù)：1）“認知”部分可以由Thorndike的效應(yīng)法則（law of effect）所解釋，即一個得到加強的隨機行為在將來更有可能出現(xiàn)。這里的行為即“認知”，并假設(shè)獲得正確的知識是得到加

5、強的，這樣的一個模型假定微粒被激勵著去減小誤差。2）“社會”部分可以由Bandura的替代強化（vicarious reinforcement）所解釋。根據(jù)該理論的預(yù)期，當觀察者觀察到一個模型在加強某一行為時，將增加它實行該行為的幾率。即微粒本身的認知將被其它微粒所模仿。3)心理學(xué)假設(shè)：在尋求一致的認知過程中，個體往往記住自身的信念，并同時考慮同事們的信念。當其察覺同事的信念較好的時候，將進行適應(yīng)性地調(diào)整。微粒群算法：算法流程：算法流程： 1). 初始化一群微粒（群體規(guī)模為m），包括隨機的位置和速度；2). 評價每個微粒的適應(yīng)度；3). 對每個微粒，將它的適應(yīng)值和它經(jīng)歷過的最好位置pbest的

6、作比較，如果較好，則將其作為當前的最好位置pbest；4). 對每個微粒，將它的適應(yīng)值和全局所經(jīng)歷最好位置gbest的作比較，如果較好，則重新設(shè)置gbest的索引號；5). 根據(jù)方程變化微粒的速度和位置；6). 如未達到結(jié)束條件（通常為足夠好的適應(yīng)值或達到一個預(yù)設(shè)最大代數(shù)Gmax），回到b）差分進化算法：Differential Evolution（DE）要點分析要點分析：DE是一種模擬生物進化的隨機模型，通過反復(fù)迭代，使得那些適應(yīng)環(huán)境的個體被保存了下來。DE保留了基于種群的全局搜索策略，采用實數(shù)編碼、基于差分的簡單變異操作和一對一的競爭生存策略，降低了遺傳操作的復(fù)雜性。同時，DE特有的記憶能

7、力使其可以動態(tài)跟蹤當前的搜索情況，以調(diào)整其搜索策略，具有較強的全局收斂能力和魯棒性。求解問題求解問題：由于該方法不需要借助問題的特征信息，適于求解一些利用常規(guī)的數(shù)學(xué)規(guī)劃方法所無法求解的復(fù)雜環(huán)境中的優(yōu)化問題。主要用于求解連續(xù)變量的全局優(yōu)化問題?；舅枷牖舅枷耄簭哪骋浑S機產(chǎn)生的初始群體開始，利用從種群中隨機選取的兩個個體的差向量作為第三個個體的隨機變化源，將差向量加權(quán)后按照一定的規(guī)則與第三個個體求和而產(chǎn)生變異個體，該操作稱為變異。然后，變異個體與某個預(yù)先決定的目標個體進行參數(shù)混合，生成試驗個體，這一過程稱之為交叉。如果試驗個體的適應(yīng)度值優(yōu)于目標個體的適應(yīng)度值，則在下一代中試驗個體取代目標個體，否

8、則目標個體仍保存下來，該操作稱為選擇。 （主要包括三個步驟：變異、交叉、選擇）差分進化（DE）算法：算法流程：算法流程：社會認知算法： Social Cognitive Optimization（SCO）算法認識算法認識：社會認知優(yōu)化算法是一種基于社會認知理論的集群智能 優(yōu)化算法，它適合于大規(guī)模的約束問題的處理，該算法已經(jīng)在 非線性規(guī)劃問題求解中表現(xiàn)出了良好的效果。在過去的幾十年中，很多模擬生物的智慧開發(fā)出的優(yōu)化算 法被相繼提出，如遺傳算法、蟻群算法、粒子群算法等。這些都 是基于生物或昆蟲系統(tǒng)的，從現(xiàn)實上來看，很顯然，人類社會比 昆蟲社會有更高的社會性和智能性。一個人可以借助觀察他人的行為以及

9、其后果來學(xué)習(xí)，人類學(xué)習(xí)是觀察別人的行為及其行 為后果，并將其符號化的過程。我們將這種通過觀察和模仿 他人行為而獲得的學(xué)習(xí)稱為觀察學(xué)習(xí)，這種觀察學(xué)習(xí)是發(fā)生在社會之中的，所以也叫做社會學(xué)習(xí)?；靖拍睿夯靖拍睿褐R點：知識點：知識點是位于知識空間(例如搜索空間 s)中對位 置 X和水平(例如適應(yīng)度 )的描述構(gòu)成的點。庫庫：庫是個包含一系列知識點的表，這個表是有大小的。 學(xué)習(xí)代理：學(xué)習(xí)代理是一個行為個體，支配庫中的一個知識點。領(lǐng)域搜索：領(lǐng)域搜索：有兩個點 X 和 X：，對 X：的領(lǐng)域搜索就是以X。 作為參考選出一個新的點 ，對第D維的點。在這里 Rand()是一個在 (0，1)的隨機值， 和 分別定

10、義為 參考點和中心點。社會認知算法：算法流程：算法流程：1）初始化過程初始化過程(1)在庫中隨機生成所有的 個知識點(包括生成每個 知識點的位置和其水平)；(2)給每個學(xué)習(xí)代理隨機分配庫中的一個知識點 ，但不允 許把一個知識點重復(fù)分配給多個學(xué)習(xí)代理。2）替代學(xué)習(xí)過程替代學(xué)習(xí)過程。對每個學(xué)習(xí)代理：(1)模仿學(xué)習(xí)：從庫中隨機選擇兩個或者多個知識點(一般 選擇兩個就可以)，但這些選出的知識點都不能和學(xué)習(xí)代理自 身的知識點重復(fù)，然后基于競爭選擇的原則在這幾個知識點之 間選出一個好的知識點；(2)觀察學(xué)習(xí)：對比選擇出來的知識點和代理自身的知識 點的水平，選擇水平較好的那個點作為中心點，用較差的那個 點作為參考點，然后學(xué)習(xí)代理基于領(lǐng)域搜索的原則根據(jù)這兩個 點移動到一個新的知識點，并且