第六章智能控制中的優(yōu)化方法微粒群優(yōu)化算法

1、2022-4-30微粒群優(yōu)化算法1陳國初上海電機(jī)學(xué)院2022-4-30微粒群優(yōu)化算法2微粒群優(yōu)化算法（微粒群優(yōu)化算法（PSO）一、微粒群優(yōu)化算法綜述二、微粒群優(yōu)化算法的應(yīng)用實(shí)例三、與其他方法的比較2022-4-30微粒群優(yōu)化算法3PSO算法的基本原理常見的改進(jìn)PSO算法多相微粒群優(yōu)化算法 MPPSO（Multi-Phase Particle Swarm Optimization Algorithm）PSO算法的應(yīng)用情況PSO算法的研究展望一、微粒群優(yōu)化算法綜述一、微粒群優(yōu)化算法綜述2022-4-30微粒群優(yōu)化算法4 微粒群優(yōu)化算法（Particle Swarm Optimization Alg

2、orithm, PSO）是由J.Kennedy和R.C.Eberhart于1995年提出的一種新的進(jìn)化計(jì)算算法，它來源于鳥類或魚類覓食過程中遷徙和群集的模擬。 PSO一提出，立刻引起進(jìn)化計(jì)算領(lǐng)域?qū)W者們的廣泛關(guān)注，短短幾年便獲得快速發(fā)展，在一些領(lǐng)域得到應(yīng)用而且應(yīng)用范圍會(huì)越來越廣泛，已形成學(xué)術(shù)界一個(gè)新的研究熱點(diǎn)，也已被“國際進(jìn)化計(jì)算會(huì)議”列為討論專題之一。 目前在我國，PSO的研究不管是在理論研究上還是在實(shí)踐上，可見的報(bào)道都還很少。1PSO算法的基本原理算法的基本原理2022-4-30微粒群優(yōu)化算法5 假設(shè)在一個(gè) 維搜索空間中，有 個(gè)微粒組成一微粒群，其中第 個(gè)微粒的空間位置為 它是優(yōu)化問題的一個(gè)

3、潛在解，將它代入優(yōu)化目標(biāo)函數(shù)就可以計(jì)算出相關(guān)的適應(yīng)值，據(jù)適應(yīng)值的大小可衡量的 優(yōu)劣；第 個(gè)微粒所經(jīng)歷的最好位置記為 同時(shí)，每個(gè)微粒還具有各自的飛行速度1.1 1.1 算法原理算法原理(1)(1)Dmi,321iDiiiixxxxxixi),(321iDiiiippppP),(321iDiiiivvvvV2022-4-30微粒群優(yōu)化算法6 在微粒群中，所有微粒經(jīng)歷過的最好位置記為 根據(jù)J.Kennedy和R.C.Eberhart最早提出的PSO，對(duì)每一代微粒，其第 維根據(jù)如下方程變化： (1) (2) 其中： 為慣性權(quán)值(inertia weight)； 和 都為 正 的 常 數(shù) ， 稱 為 加

4、 速 系 數(shù) ( a c c e l e r a t i o n coefficients)； 和 是兩個(gè)在0，1范圍內(nèi)變化的隨機(jī)數(shù)。1.1 1.1 算法原理算法原理(2)(2),(321gDggggppppPd)()(2211idgdididididxprcxprcvvidididvxx1c2c1r2r2022-4-30微粒群優(yōu)化算法7 搜索時(shí),微粒的速度被一個(gè)最大速度 和一個(gè)最小速度 所限制。如果當(dāng)前對(duì)微粒的加速度導(dǎo)致它在某維的速度 超過該維的最大速度 ，則該微粒該維的速度被限制為該維的最大速度；對(duì)于最小速度也如此。同樣，微粒的位置往往也被最大位置 和最小位置 所限制。 式(1)的第1部分

5、為該微粒先前的速度；第2部分為“認(rèn)知（cognition）”部分，表示微粒本身的思考；第3部分為“社會(huì)（social）”部分，表示微粒間的信息共享和相互合作。 1.1 1.1 算法原理算法原理(3)(3)maxVminVidvdvmax,maxXminX2022-4-30微粒群優(yōu)化算法81.2 1.2 算法流程算法流程Step1: Step1: 初始化設(shè)置群體的規(guī)模、參數(shù)維數(shù)、慣性權(quán)值、加速初始化設(shè)置群體的規(guī)模、參數(shù)維數(shù)、慣性權(quán)值、加速系數(shù)、最大允許迭代次數(shù)或誤差限，各微粒的位置和速度等。系數(shù)、最大允許迭代次數(shù)或誤差限，各微粒的位置和速度等。Step2: Step2: 按預(yù)定準(zhǔn)則評(píng)價(jià)各微粒的適

6、應(yīng)值。按預(yù)定準(zhǔn)則評(píng)價(jià)各微粒的適應(yīng)值。Step3: Step3: 根據(jù)公式根據(jù)公式(1)(1)、(2)(2)計(jì)算各微粒新的速度和位置。計(jì)算各微粒新的速度和位置。Step4: Step4: 重新計(jì)算各微粒的適應(yīng)值，并比較其當(dāng)前適應(yīng)值和該重新計(jì)算各微粒的適應(yīng)值，并比較其當(dāng)前適應(yīng)值和該微粒歷史最好適應(yīng)值，若當(dāng)前適應(yīng)值更優(yōu)，則令當(dāng)前適應(yīng)值為微粒歷史最好適應(yīng)值，若當(dāng)前適應(yīng)值更優(yōu)，則令當(dāng)前適應(yīng)值為該微粒歷史最好適應(yīng)值，當(dāng)前位置為該微粒的歷史最好位置。該微粒歷史最好適應(yīng)值，當(dāng)前位置為該微粒的歷史最好位置。Step5: Step5: 比較當(dāng)前群體所有微粒的適應(yīng)值和群體歷史最好適應(yīng)比較當(dāng)前群體所有微粒的適應(yīng)值和群

7、體歷史最好適應(yīng)值，若當(dāng)前某微粒的適應(yīng)值更優(yōu)，則令當(dāng)前該微粒的適應(yīng)值為值，若當(dāng)前某微粒的適應(yīng)值更優(yōu)，則令當(dāng)前該微粒的適應(yīng)值為群體歷史最好適應(yīng)值，該微粒的位置為群體歷史最好位置。群體歷史最好適應(yīng)值，該微粒的位置為群體歷史最好位置。Step6: Step6: 若滿足停止條件，搜索停止，群體歷史最好位置為所若滿足停止條件，搜索停止，群體歷史最好位置為所求結(jié)果。否則，返回求結(jié)果。否則，返回Step3Step3繼續(xù)搜索。繼續(xù)搜索。 2022-4-30微粒群優(yōu)化算法91.3 1.3 參數(shù)分析參數(shù)分析(1)(1)（1）慣性權(quán)值 慣性權(quán)值 對(duì)PSO能否收斂起重要作用，它使微粒保持運(yùn)動(dòng)慣性，使其有擴(kuò)展搜索空間的趨

8、勢(shì)，有能力探索新的區(qū)域。 值大些有利于全局搜索，收斂速度快，但不易得到精確解且有時(shí)也會(huì)陷入局部最小值； 值小些有利于局部搜索、能得到更為精確的解且不易陷入局部最小值，但收斂速度慢。合適的 值在搜索能力和收斂速度方面能起到協(xié)調(diào)作用。 最初版本的PSO中， 為常數(shù)。后來，經(jīng)實(shí)驗(yàn)證明，為了有較好的全局搜索能力， 剛開始大些，然后逐步減小以便有更精確的解。一般地，剛開始 ，然后逐步減小到 比較合適。也可以采用自適應(yīng)模糊慣性權(quán)值控制器來動(dòng)態(tài)優(yōu)化 ，不過這種方法在實(shí)現(xiàn)時(shí)有一定困難。4 .135. 02022-4-30微粒群優(yōu)化算法10（2）加速系數(shù) 加速系數(shù) 和 對(duì)PSO能否收斂不起很重要的作用，但對(duì)收斂

9、速度影響頗大，合適的加速系數(shù)有利于算法較快收斂和脫離局部最小。它們代表將每個(gè)微粒推向 和 位置的統(tǒng)計(jì)加速項(xiàng)的權(quán)值。低的加速系數(shù)值允許微粒在被拉回之前可以在目標(biāo)區(qū)域外徘徊，而高的加速系數(shù)值則導(dǎo)致微粒突然地沖向或越過目標(biāo)區(qū)域。 在公式(1)中，若 ，微粒將一直以當(dāng)前的速度飛行，直到到達(dá)邊界。由于它只能搜索有限的區(qū)域，所以很難找到好解。若 ，則微粒沒有認(rèn)知能力，也就是“只有社會(huì)(social only)”的算法，所以 又稱為社會(huì)參數(shù)。在微粒的相互作用下，有能力到達(dá)新的搜索空間。它的收斂速度比基本的PSO更快，但對(duì)復(fù)雜問題，則比基本的PSO更容易陷入局部最小點(diǎn)。1.3 1.3 參數(shù)分析參數(shù)分析(2)(

10、2)1c2cbestpbestg021 cc01c2c2022-4-30微粒群優(yōu)化算法11若 ，則微粒之間沒有社會(huì)信息共享，也就是“只有認(rèn)知(cognitiononly)”的算法，所以又稱 為認(rèn)知參數(shù)。因?yàn)閭€(gè)體間沒有交互，一個(gè)規(guī)模為 的群體等價(jià)于運(yùn)行了 個(gè)單個(gè)微粒的運(yùn)行，因而得到優(yōu)化解的機(jī)率非常小。 通常， 。也有實(shí)驗(yàn)結(jié)果顯示當(dāng) 時(shí)能取得更好的效果。最近一些研究還表明認(rèn)知參數(shù) 選擇的大些而社會(huì)參數(shù) 選擇的小些，但 時(shí)能得到更好的結(jié)果。 此外，隨機(jī)數(shù) 、 可以保證微粒群體的多樣性。最大最小速度可以決定當(dāng)前位置與最好位置之間的區(qū)域的分辨率(或精度)。如果最大速度太高或最小速度太低，微?？赡軙?huì)飛過好

11、解；如果最大速度太小或最小速度太大，則微粒不能在局部好區(qū)間之外進(jìn)行足夠的探索，導(dǎo)致陷入局部最小值。02c1c1.3 1.3 參數(shù)分析參數(shù)分析(3)(3)221cc2 . 021cc421 cc1c2c1r2rmm2022-4-30微粒群優(yōu)化算法12 較大的慣性權(quán)值 有利于跳出局部極小點(diǎn)，而較小的 值有利于算法收斂。因此文獻(xiàn)3，4,5提出了慣性權(quán)值 的自適應(yīng)調(diào)整策略，即剛開始時(shí) 較大，隨著迭代的進(jìn)行， 線性地減小。這種方法的進(jìn)一步發(fā)展是模糊自適應(yīng)PSO(Fuzzy Adaptive PSO) 6 ，它用自適應(yīng)模糊慣性權(quán)值控制器來動(dòng)態(tài)優(yōu)化 ，即構(gòu)造一個(gè)2輸入、單輸出的模糊推理機(jī)來動(dòng)態(tài)地修改慣性權(quán)值

12、 。模糊推理機(jī)的兩個(gè)輸入分別是當(dāng)前 值以及當(dāng)前全局最好位置，輸出則是 的增量。 自適應(yīng)PSO算法對(duì)許多問題都能取得滿意的結(jié)果。通過自適應(yīng)調(diào)整全局系數(shù)，兼顧搜索速度和搜索精度，是一種有效的PSO算法。但是對(duì)許多復(fù)雜的非線性優(yōu)化問題，試圖通過自適應(yīng)調(diào)整一個(gè)全局系數(shù)提高搜索精度的余地是有限的，而且這種方法在實(shí)現(xiàn)時(shí)有一定困難。2常見的改進(jìn)常見的改進(jìn)PSO算法算法2.1 2.1 自適應(yīng)自適應(yīng)PSOPSO算法算法 2022-4-30微粒群優(yōu)化算法132.2 2.2 帶收縮因子的帶收縮因子的PSOPSO算法算法（PSO with a constriction factor） 文獻(xiàn)9提出一種帶收縮因子的PSO

13、算法。其微粒速度迭代方程為： （3） 式中， 稱為收縮因子， ， 。 類似慣性權(quán)值，收縮因子可以改善算法的收斂性；但在控制微粒速度變化的幅度上，收縮因子不同于慣性權(quán)值，而是類似于最大速度限。有實(shí)驗(yàn)表明10 ，在沒有最大速度限時(shí)，帶收縮因子的PSO算法比不帶收縮因子的PSO算法具有更好的性能。 )()(2211idgdididididxprcxprcvv422221cc 42022-4-30微粒群優(yōu)化算法142.3 2.3 帶選擇機(jī)制的帶選擇機(jī)制的PSOPSO（PSO with selection mechanism ） 文獻(xiàn)11提出一種帶選擇機(jī)制的PSO算法。這種算法依據(jù)某些特定的技術(shù)，將每個(gè)

14、個(gè)體的適應(yīng)值，基于其當(dāng)前位置，與其他個(gè)體進(jìn)行比較，然后根據(jù)定義的規(guī)則將所有個(gè)體排序，得分最高的出現(xiàn)在群體的頭部。一旦群體排完序，群體中當(dāng)前位置和速度最差的一半被群體中最好的另一半取代。帶選擇機(jī)制的PSO算法在解決單峰函數(shù)的優(yōu)化問題時(shí)效果明顯，但并不一定對(duì)所有的優(yōu)化問題都很有效。這種算法由于有了選擇機(jī)制，加快了對(duì)當(dāng)前較好區(qū)域的開發(fā)過程，使得收斂速度較快，但也增加了陷入局部解的可能性。 借鑒遺傳算法的思想，文獻(xiàn)12最早提出了雜交PSO算法的概念。文獻(xiàn)13將基本PSO和選擇機(jī)制相結(jié)合，進(jìn)一步提出具有繁殖和子群的雜交PSO（Hybrid PSO，HPSO）。雜交PS0算法的選擇機(jī)制與遺傳算法十分相似。

15、該法給微粒群中的每一微粒賦予一個(gè)繁殖概率，在每次迭代中，依據(jù)繁殖概率的高低選取一定數(shù)量的微粒放入一個(gè)池中。池中的微粒隨機(jī)地兩兩雜交，產(chǎn)生同樣數(shù)目的子代微粒，并用子代微粒代替父代微粒，以保持種群的微粒數(shù)目不變。子代微粒的位置由父代微粒的位置的算術(shù)加權(quán)和計(jì)算。實(shí)驗(yàn)結(jié)果12-14顯示，雜交PSO算法的收斂速度比較快，搜索精度也相對(duì)比較高，對(duì)一些非線性優(yōu)化問題可以得到滿意的結(jié)果，尤其使對(duì)多峰值函數(shù)具有更好的性能。 2022-4-30微粒群優(yōu)化算法152.4 2.4 帶空間鄰域的帶空間鄰域的PSOPSO（PSO with spatial neighbor） Angeline的研究表明15 ，盡管PSO算

16、法能比其他進(jìn)化算法更快地得到較為理想的解，但當(dāng)?shù)螖?shù)增加時(shí)，PSO算法并不一定能進(jìn)行更精確的搜索。為此，可引入一個(gè)變化的鄰域算子（Neighborhood Operator），在優(yōu)化的初始階段，一個(gè)微粒的鄰域就是它本身，隨著迭代次數(shù)的增加，根據(jù)候選個(gè)體與其他個(gè)體的距離，逐步引入距離近的個(gè)體，鄰域逐漸變大，包含越來越多的微粒，最后將包含所有的微粒。這樣，原來的全局歷史最好位置搜索就變成了微粒鄰域的局部歷史最好位置搜索。文獻(xiàn)15更為詳細(xì)的資料和許多測(cè)試函數(shù)的仿真結(jié)果表明這一方法能有效地獲得全局最優(yōu)解。 結(jié)合空間鄰域和環(huán)狀拓?fù)浣Y(jié)構(gòu)，文獻(xiàn)16，17進(jìn)一步提出具有社會(huì)模式（Social Stereot

17、yping）的簇分析PSO算法（PSO with Cluster Analysis）。該法將微粒群體中的一些微粒作為中心，再將離它最近的N個(gè)微粒和中心微粒作為一簇，然后計(jì)算每個(gè)簇的中心位置，并將這些中心位置來替代 和 。但文獻(xiàn)16，17所示的研究結(jié)果并沒表明這一方法具有更好的性能，結(jié)果難以令人滿意，還有許多問題有待于研究。 bestpbestg2022-4-30微粒群優(yōu)化算法162.5 2.5 離散離散PSOPSO算法算法 Kennedy和Eberhart在基本PS0的基礎(chǔ)上發(fā)展了離散二進(jìn)制PSO18。 離散二進(jìn)制PS0與基本PS0的主要區(qū)別在于運(yùn)動(dòng)方程(公式(1)、(2)，離散二進(jìn)制PS0的

18、運(yùn)動(dòng)方程如下： (4) if then ；else (5) 式(5)中， 是sigmoid函數(shù)； 是隨機(jī)矢量 的第 維分量。微粒的位置只有(0，1)兩種狀態(tài)，而速度 與某一概率的門限值相關(guān)，速度值越大，則粒子位置取1的可能性越大，反之越小。在式(4)中，為防止速度 過大，可以設(shè)置了 使函數(shù)不會(huì)過于接近0或1，以保證算法能以一定的概率從一種狀態(tài)躍遷到另一種狀態(tài)?？梢钥闯?，除了式(5)不同，離散二進(jìn)制的PS0與基本PS0幾乎一樣。 為了解決實(shí)際中的組合優(yōu)化問題，文獻(xiàn)19進(jìn)一步推廣了離散二進(jìn)制PSO，提出了離散版的PSO，并將其應(yīng)用于旅行商問題(TSP)的求解，取得了較好的效果。離散PSO擴(kuò)展了基本

19、PSO的應(yīng)用領(lǐng)域，給組合優(yōu)化問題的求解帶來更好的應(yīng)用前景。)()(2211idgdididididxprcxprcvv)(ididvsig1idx0idx)exp(11)(ididvvsig1,0ididVVmaxV2022-4-30微粒群優(yōu)化算法172. 6 2. 6 有拉伸功能的有拉伸功能的PS0PS0（PSO with Function “ Stretching” ） 拉伸變換函數(shù)最早由Vrahatis于1996年提出20，然后Parsopoulos和Plagianakos于2001年將拉伸技術(shù)用于PSO最小化問題的求解21-23，形成有拉伸功能的PS0，也稱為SPS0，它通過消除不理想

20、的局部最小而保留全局最小來避免優(yōu)化時(shí)陷入局部最小。 SPSO在檢測(cè)到目標(biāo)函數(shù) 的局部最小點(diǎn) 后，立即對(duì)待優(yōu)化的目標(biāo)函數(shù)進(jìn)行拉伸變換。拉伸變換操作的實(shí)現(xiàn)通過兩步完成20： （6） （7）其中 ， ， 為任意確定的正常數(shù)， 是三值符號(hào)函數(shù)。這一變換，首先通過式(6)的操作提升目標(biāo)函數(shù) ，消除了所有位于 之上的局部最小區(qū)域；然后，通過式(7)的操作將 鄰域向上拉伸，使得該點(diǎn)具有更高的適應(yīng)值。由于在兩步操作中，都沒有改變 下部的局部最小區(qū)域，因此對(duì)全局最小值沒有影響，從而減小了PSO陷入局部最小區(qū)域的概率。文獻(xiàn)21-23的研究結(jié)果表明，SPSO具有穩(wěn)健的收斂性和良好的搜索能力，在大多數(shù)高維度、多局部極

21、值的函數(shù)最小值的求解問題上與基本PSO相比，搜索成功率顯著提高。但計(jì)算耗時(shí)相應(yīng)地也會(huì)增多。 1)()()()(1xfxfsignxxxfxG)()(tanh(1)()()()(2xGxGxfxfsignxGxH12)(signx)(xf)(xf)(xfxx2022-4-30微粒群優(yōu)化算法18除了以上幾類改進(jìn)的PSO外，還有： 隨機(jī)PSO (Random PSO)24 多次啟動(dòng)PSO（Multi-Start PSO）24 協(xié)作PSO (Cooperative PSO)25、26 智能PSO（Intelligent PSO）27 非受控分類PSO (Non-dominated Sorting PS

22、O)28 2. 7 2. 7 其他改進(jìn)的其他改進(jìn)的PS0PS02022-4-30微粒群優(yōu)化算法193. 3. 多相微粒群優(yōu)化算法（多相微粒群優(yōu)化算法（MPPSOMPPSO） 3.1 3.1 算法原理算法原理 PSO采用全局搜索和局部搜索相結(jié)合的搜索模式，由于慣性權(quán)值的引入，PSO首先進(jìn)行全局搜索以提高搜索速度，一旦找到全局最優(yōu)區(qū)域，立即進(jìn)行局部搜索以得到高精度的搜索結(jié)果。事實(shí)上，PSO有兩個(gè)弱點(diǎn)：和其他的隨機(jī)算法一樣，為了不易陷入局部最小，擴(kuò)大搜索空間的范圍，導(dǎo)致相當(dāng)多的計(jì)算量用在低適應(yīng)值狀態(tài)的搜索上；微粒一直不斷地朝一個(gè)方向運(yùn)動(dòng)，直到這個(gè)方向被改變，這很容易導(dǎo)致微粒收斂于適應(yīng)值低的局部最小。

23、 如果將微粒分成兩組，每一組有自己的搜索目標(biāo)，即一組以全局最好為搜索目標(biāo)，另一組以局部最好為搜索目標(biāo)。一旦搜索受阻，適應(yīng)值得不到改善而又不能滿足要求，就允許微粒改變搜索方向，即允許進(jìn)行局部最優(yōu)搜索的微粒進(jìn)行全局最優(yōu)搜索，也允許進(jìn)行全局最優(yōu)搜索的微粒進(jìn)行局部最優(yōu)搜索。假定進(jìn)行全局最好位置搜索的速度和進(jìn)行局部最好位置搜索的速度方向相反。這樣在整個(gè)搜索過程中，微粒有可能經(jīng)常從一個(gè)群體跑到另一個(gè)群體，搜索方式可能經(jīng)常變化，運(yùn)行方向也有可能經(jīng)常改變。這就是多相微粒群優(yōu)化算法的基本原理。它與基本PSO的不同之處有：將微粒分成多群，增加了搜索的多樣性和搜索的廣泛性。引入不同的相，每相微粒運(yùn)動(dòng)的方式、方向都會(huì)

24、隨之改變。從整體來看，搜索只朝適應(yīng)值得到改善的方向進(jìn)行。 2022-4-30微粒群優(yōu)化算法203.2 3.2 參數(shù)分析參數(shù)分析(1)(1) 在MPPSO中，除包含著基本PSO的各參數(shù)，自己的算法參數(shù)主要有：相數(shù) 、相變換頻率 、組系數(shù) 、 、 和速度重置量 。（1）相數(shù) 對(duì)離散二進(jìn)制情況來說，由于組系數(shù) 和 在每相的可能值只能是-1或1， 最大只能為4。對(duì)于連續(xù)空間，盡管組系數(shù) 和 可以隨機(jī)取值， 也不可取得太大，通常也不超過431。（2）相變換頻率 決定每相之間交換微粒的快慢。通常有兩種方法確定：經(jīng)驗(yàn)比例法和自適應(yīng)調(diào)整法。 在經(jīng)驗(yàn)比例法中， 。 是最大允許迭代次數(shù)， 是1， 之間的一個(gè)經(jīng)驗(yàn)數(shù)

25、。假如 ，則每迭代4次后，相之間就交換微粒。即，1-4代某微粒在某一相，第5-8代則在另一相，依次類推。 在自適應(yīng)調(diào)整法中，若在某一相中，微粒經(jīng)若干次迭代后適應(yīng)值沒有改善，就跳到另一相中去。此時(shí) 為適應(yīng)值連續(xù)沒有改善的次數(shù)。假如 ， 若某一相微粒的適應(yīng)值連續(xù)4次都沒有改善，則下一次就該跳到另一相。phnphfvCxCgCcVphnphfxCgCphnxCgCphnphf/NfphN4phfphf4phfN2022-4-30微粒群優(yōu)化算法21（3）組系數(shù) 、 、 這三個(gè)系數(shù)實(shí)際上是標(biāo)識(shí)符，它們的值在每相中各不相同。 和微粒的運(yùn)動(dòng)速度有關(guān)，必須為正。 和微粒當(dāng)前的位置有關(guān)， 和全局歷史最好位置有關(guān)

26、，且和 的標(biāo)識(shí)值相反31。在PSO中，微?？偸浅粋€(gè)方向移動(dòng)，而MPPSO允許微粒朝不同的方向移動(dòng)，所以， 若為正， 必為負(fù)。（4）速度重置量 在隨機(jī)PSO(Random-PSO)和多次啟動(dòng)PSO（Multi-Start PSO）中，為了盡可能不陷入局部極小，往往在效果不好時(shí)采用重新開始的策略24。MPPSO也沿用這一思想，經(jīng)過一定的迭代次數(shù) 后就重新設(shè)置速度值。例如，若 ，則每迭代50次后就重新初始化微粒速度值。同 ， 也可以由自適應(yīng)調(diào)整法確定。3.2 3.2 參數(shù)分析參數(shù)分析(2)(2)vCxCgCvCxCgCxCgCxCcV50cVphfcVcV2022-4-30微粒群優(yōu)化算法22 在M

27、PPSO中，對(duì)某一相的每一代微粒，其第 維 的速度和位置根據(jù)如下方程變化31： (8) (9) 式中， 是當(dāng)前速度， 是全局歷史最好位置， 是當(dāng)前位置。3.3 3.3 算法方程算法方程d)1 (Dd idxgdgidvidxCpCvCvidididvxxidvgdpidx2022-4-30微粒群優(yōu)化算法234. PSO4. PSO的應(yīng)用情況的應(yīng)用情況 微粒群優(yōu)化算法與其它進(jìn)化算法一樣，可以解決大多數(shù)優(yōu)化問題，目前，其應(yīng)用領(lǐng)域主要有：函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、系統(tǒng)建模與優(yōu)化以及其他進(jìn)化算法常用的應(yīng)用領(lǐng)域等。 4.1 4.1 函數(shù)優(yōu)化函數(shù)優(yōu)化 PSO最直接的應(yīng)用是函數(shù)優(yōu)化問題，包括多元函數(shù)優(yōu)化、帶約

28、束優(yōu)化問題32。Angeline經(jīng)過大量的實(shí)驗(yàn)研究發(fā)現(xiàn)11-12，微粒群優(yōu)化算法在解決一些典型函數(shù)優(yōu)化問題時(shí)，能夠取得比遺傳算法更好的優(yōu)化效果。這就說明微粒群優(yōu)化算法在解決實(shí)際問題時(shí)同樣具有很好的應(yīng)用前景，因?yàn)樵S多實(shí)際問題都可以歸結(jié)為函數(shù)優(yōu)化問題。此外，PSO還在各種復(fù)雜的優(yōu)化問題、動(dòng)態(tài)問題和多目標(biāo)優(yōu)化問題中得到成功應(yīng)用。例如，文獻(xiàn)19將離散PSO用于求解TSP問題，文獻(xiàn)33-34研究了PSO在噪聲和動(dòng)態(tài)環(huán)境下的優(yōu)化問題，文獻(xiàn)5、28、35將PSO用于多目標(biāo)優(yōu)化（Multi-objective problem）問題等，都取得了較好的效果。 2022-4-30微粒群優(yōu)化算法244.2 4.2 神

29、經(jīng)網(wǎng)絡(luò)訓(xùn)練神經(jīng)網(wǎng)絡(luò)訓(xùn)練 PSO是一種非常有潛力的神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法。PSO保留了基于種群的、并行的全局搜索策略，其采用的速度位移模型，操作簡(jiǎn)單，避免了遺傳算法那樣復(fù)雜的交叉、變異操作，可以簡(jiǎn)單有效地訓(xùn)練神經(jīng)網(wǎng)絡(luò)，已被成功地用來解決許多實(shí)際問題。如：基于PSO的神經(jīng)網(wǎng)絡(luò)應(yīng)用于醫(yī)療診斷36，分析人的顫抖。對(duì)人顫抖的診斷，包括帕金森(Parkinson)病和原發(fā)性顫抖，是一個(gè)非常具有挑戰(zhàn)性的領(lǐng)域。PSO已成功地應(yīng)用于訓(xùn)練一個(gè)用來快速和準(zhǔn)確地辨別普通個(gè)體和有顫抖個(gè)體的神經(jīng)網(wǎng)絡(luò)，而網(wǎng)絡(luò)的輸入則為從一個(gè)活動(dòng)變化記錄系統(tǒng)中獲得的歸一化的移動(dòng)振幅。文獻(xiàn)25將PSO用于訓(xùn)練積單元神經(jīng)網(wǎng)絡(luò)（product unit

30、 neural networks）進(jìn)行模式分類，文獻(xiàn)37將PSO用于訓(xùn)練模糊前向神經(jīng)網(wǎng)絡(luò)進(jìn)行模式分類，從而從網(wǎng)絡(luò)的輸出中抽取規(guī)則，文獻(xiàn)38,39將基于PSO的神經(jīng)網(wǎng)絡(luò)應(yīng)用于香港市區(qū)環(huán)境污染狀況的分析，也都得到了很好的效果。 2022-4-30微粒群優(yōu)化算法254.3 4.3 其他應(yīng)用實(shí)例其他應(yīng)用實(shí)例(1) (1) PSO也被成功地應(yīng)用于電力系統(tǒng)領(lǐng)域。如：文獻(xiàn)27將智能PSO應(yīng)用于電磁場(chǎng)的優(yōu)化分析，文獻(xiàn)40將PSO用于多機(jī)電力系統(tǒng)穩(wěn)定器的優(yōu)化設(shè)計(jì)，文獻(xiàn)14將交叉PSO用于電力分布系統(tǒng)電壓、電流及負(fù)載的狀態(tài)分布預(yù)測(cè)和狀態(tài)值估計(jì)，文獻(xiàn)41使用PSO對(duì)一個(gè)電氣設(shè)備的功率反饋和電壓進(jìn)行控制，采用一種二進(jìn)

31、制與實(shí)數(shù)混合的PSO來決定對(duì)連續(xù)和離散的控制變量的控制策略，以得到穩(wěn)定的電壓，文獻(xiàn)42將PSO用于電力系統(tǒng)負(fù)荷模型的參數(shù)辨識(shí)，這些應(yīng)用都取得好的效果。 在電機(jī)和機(jī)械設(shè)計(jì)方面，文獻(xiàn)43將PSO用于機(jī)械結(jié)構(gòu)設(shè)計(jì)中尺寸和形狀的優(yōu)化設(shè)計(jì)，得到比遺傳算法和基于梯度下降算法更好的效果，文獻(xiàn)44 采用PSO對(duì)粗軋寬展控制模型進(jìn)行優(yōu)化，結(jié)果表明優(yōu)化后的模型效果明顯優(yōu)于原來模型，體現(xiàn)了PSO在優(yōu)化領(lǐng)域的優(yōu)越性。文獻(xiàn)45將PSO應(yīng)用于發(fā)電機(jī)參數(shù)辨識(shí)，提出了一種同步發(fā)電機(jī)參數(shù)辨識(shí)的計(jì)算框架，結(jié)果表明，這種參數(shù)辨識(shí)算法簡(jiǎn)單實(shí)用、具有可行性，文獻(xiàn)46結(jié)合直線感應(yīng)電機(jī)的設(shè)計(jì)特點(diǎn)，利用改進(jìn)的PSO對(duì)電機(jī)進(jìn)行了優(yōu)化設(shè)計(jì)，都取

32、得了滿意的效果。2022-4-30微粒群優(yōu)化算法26 在半導(dǎo)體器件設(shè)計(jì)方面，文獻(xiàn)47將PSO用于門級(jí)組合邏輯電路的設(shè)計(jì),得到比遺傳算法更好的效果。文獻(xiàn)48將改進(jìn)的PSO用于IIR數(shù)字濾波器的設(shè)計(jì)，仿真結(jié)果表明，與設(shè)計(jì)IIR數(shù)字濾波器的遺傳優(yōu)化算法相比，PSO具有更好的優(yōu)化性能。 此外，還有PSO用于實(shí)際系統(tǒng)的模擬49和控制50、通訊51、計(jì)算機(jī)應(yīng)用52、生物工程53、化學(xué)工程54等領(lǐng)域的應(yīng)用報(bào)道，也都取得很好的效果。 4.3 4.3 其他應(yīng)用實(shí)例其他應(yīng)用實(shí)例(2) (2) 2022-4-30微粒群優(yōu)化算法275. PSO5. PSO的研究展望的研究展望(1)(1) PSO是一種新興的基于群體智

33、慧的進(jìn)化算法，人們對(duì)其的研究剛剛開始,遠(yuǎn)沒有像遺傳算法那樣具有堅(jiān)實(shí)的應(yīng)用基礎(chǔ)、系統(tǒng)的分析方法和良好的理論基礎(chǔ)，許多問題還有待于進(jìn)一步研究： 應(yīng)用領(lǐng)域的拓展。應(yīng)用領(lǐng)域的拓展。雖然PSO已被成功地用于常規(guī)測(cè)試函數(shù)的優(yōu)化求解問題、簡(jiǎn)單系統(tǒng)的建模和優(yōu)化問題及神經(jīng)網(wǎng)絡(luò)的訓(xùn)練問題。但在其它其他眾多領(lǐng)域的應(yīng)用許多還處于研究階段，可見報(bào)道還不多，關(guān)于MPPSO的應(yīng)用研究還沒有相關(guān)報(bào)道，應(yīng)用領(lǐng)域有待于拓展。開拓PSO新的應(yīng)用領(lǐng)域、在應(yīng)用的廣度和深度上進(jìn)行拓展都是很有價(jià)值的工作。 算法參數(shù)的確定。算法參數(shù)的確定。PSO中的一些參數(shù)如加速系數(shù)、慣性權(quán)值以及微粒個(gè)數(shù)等往往依賴于具體問題、由應(yīng)用經(jīng)驗(yàn)、經(jīng)多次測(cè)試來確定，

34、并不具有通用性。而對(duì)于MPPSO中的參數(shù)確定的研究還處于剛起步階段。因此，如何方便有效地選擇算法參數(shù)，也是迫切需要研究的問題。2022-4-30微粒群優(yōu)化算法28 算法的改進(jìn)研究。算法的改進(jìn)研究。由于實(shí)際問題的多樣性和復(fù)雜性，盡管目前已提出了MPPSO和許多改進(jìn)的PSO，但遠(yuǎn)不能滿足實(shí)際需要，研究新的改進(jìn)的PSO以便能更好地用于實(shí)際問題的求解也是很有意義的工作。就目前來看，將PSO與其他優(yōu)化技術(shù)進(jìn)行比較、更深入地了解它們的性能，并與其他進(jìn)化算法、最小二乘、模糊邏輯、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)算法、復(fù)雜系統(tǒng)自組織與混沌理論以及其他優(yōu)化技術(shù)相結(jié)合，根據(jù)不同的優(yōu)化問題提出相應(yīng)的PSO和改進(jìn)的MPPSO是P

35、SO當(dāng)前的研究熱點(diǎn)。 算法的基礎(chǔ)理論研究。算法的基礎(chǔ)理論研究。與PSO相應(yīng)的相對(duì)鮮明的生物社會(huì)特性基礎(chǔ)相比，PSO的數(shù)學(xué)基礎(chǔ)顯得相對(duì)薄弱，缺乏深刻且具有普遍意義的理論分析，不能對(duì)PSO的工作機(jī)理給出恰當(dāng)?shù)臄?shù)學(xué)解釋；而MPPSO的基礎(chǔ)理論更為薄弱。雖然PSO的有效性、收斂性等性能在一些實(shí)例和測(cè)試函數(shù)的仿真研究中得到驗(yàn)證，但沒能在理論上進(jìn)行嚴(yán)謹(jǐn)推敲和嚴(yán)格證明。5. PSO5. PSO的研究展望的研究展望(2)(2)2022-4-30微粒群優(yōu)化算法29因此，對(duì)PSO的基礎(chǔ)理論研究非常重要，包括對(duì)不同搜索問題的收斂性、收斂速度估計(jì)、防止陷入局部極小、參數(shù)設(shè)置的影響和實(shí)現(xiàn)難易程度等。雖然目前也出現(xiàn)了一些

36、有益的探索，但還是遠(yuǎn)遠(yuǎn)不夠的，還需要做大量深入細(xì)致的研究。 對(duì)微粒群算法的研究，無論是在理論上還是在實(shí)踐上都處于發(fā)展之中，可見的研究成果還相當(dāng)少，隨著PSO和相關(guān)學(xué)科的發(fā)展和研究的進(jìn)一步深入，PSO一定會(huì)得到越來越廣泛的應(yīng)用。 5. PSO5. PSO的研究展望的研究展望(3)(3)2022-4-30微粒群優(yōu)化算法30微粒群優(yōu)化算法解題步驟舉例：微粒群優(yōu)化算法解題步驟舉例：222121),(xxxxf0 . 2,0 . 221xx求上述函數(shù)的最小值。 用PSO搜索最優(yōu)解時(shí)， PSO算法參數(shù)設(shè)置如下： PopSize=6； MaxIt=2000； ErrGoal=1e-8; maxw=1.5；

37、minw=0.1； c1=2.0; c2=2.0; inertdec=(maxw-minw)/MaxIt; w=maxw-(iter-1)*inertdec;2022-4-30微粒群優(yōu)化算法31)98. 0,35. 1 ()0(1p)98.1 ,75.0()0(2p)17.1 ,35.0()0(3p)08. 1,85. 0()0(4p)64. 0,56. 0()0(5p)35. 1,48. 0()0(6p7829. 2)0(1f4829. 4)0(2f4914. 1)0(3f8889. 1)0(4f7232. 0)0(5f0529. 2)0(6f7232. 0)0(gf)64. 0,56. 0

38、()0(gp2022-4-30微粒群優(yōu)化算法32)25. 0 ,35. 0()0(1v)54. 0 ,15. 0()0(2v)02. 0 ,18. 0()0(3v)14. 0 ,05. 0()0(4v)21. 0 ,13. 0()0(5v)41. 0 ,22. 0()0(6vv(k+1)=w*v(k)+c1*R1.*(-p(k)+c2*R2.*(-p(k)p(k+1)=p(k)+v(k+1)2022-4-30微粒群優(yōu)化算法33)58. 0,85. 0() 1 (1p)98.0 ,05.1()1 (2p)17.0,05.1()1(3p)12. 1,55. 0() 1 (4p)84. 0 ,46.

39、 0() 1 (5p)35. 0,28. 0() 1 (6p0589. 17829. 2) 1 (1f0629. 24829. 4) 1 (2f1314. 14914. 1) 1 (3f5569. 18889. 1) 1 (4f9172. 07232. 0) 1 (5f2009. 00529. 2) 1 (6f2009. 07232. 0)0(gf)35. 0,28. 0()64. 0,56. 0()0(gp2022-4-30微粒群優(yōu)化算法340589. 1) 1 (1fi0629. 2) 1 (2fi1314. 1) 1 (3fi5569. 1) 1 (4fi7232. 0) 1 (5fi2

40、009. 0) 1 (6fi)58. 0,85. 0() 1 (1pi)98.0 ,05.1()1 (2pi)17.0,05.1()1(3pi)12. 1,55. 0() 1 (4pi)64. 0,56. 0() 1 (5pi)35. 0,28. 0() 1 (6piv(k+1)=w*v(k)+c1*R1.*(-p(k)+c2*R2.*(-p(k)p(k+1)=p(k)+v(k+1)2022-4-30微粒群優(yōu)化算法35二、微粒群優(yōu)化算法的應(yīng)用實(shí)例二、微粒群優(yōu)化算法的應(yīng)用實(shí)例 在函數(shù)優(yōu)化中的應(yīng)用 在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用 在過程控制中的應(yīng)用2022-4-30微粒群優(yōu)化算法361.1.在函

41、數(shù)優(yōu)化中的應(yīng)用在函數(shù)優(yōu)化中的應(yīng)用(1)(1) 通常，將所要優(yōu)化的參數(shù)集中在一起，構(gòu)成一個(gè)微粒，即要優(yōu)化的各參數(shù)是微粒的一維。 將目標(biāo)函數(shù)作為評(píng)判微粒優(yōu)劣的標(biāo)準(zhǔn)，即將某微粒的各參數(shù)代入目標(biāo)函數(shù)求與其對(duì)應(yīng)的適應(yīng)值，根據(jù)適應(yīng)值的大小評(píng)判微粒的優(yōu)劣。 搜索完畢后，微粒的歷史全局最優(yōu)位置便是所要求的優(yōu)化參數(shù)，對(duì)應(yīng)的歷史全局最優(yōu)適應(yīng)值便是所要求的優(yōu)化函數(shù)的最優(yōu)值。 由于搜索的隨機(jī)性，每次搜索的結(jié)果可能不同。若算法參數(shù)選得不當(dāng)，基本PSO可能會(huì)陷入局部最小。對(duì)于復(fù)雜問題，有些改進(jìn)的PSO往往能有效地逃脫局部最小，但往往也只是以一定的概率獲得更精確的優(yōu)化解。2022-4-30微粒群優(yōu)化算法371.1.在函數(shù)優(yōu)

42、化中的應(yīng)用在函數(shù)優(yōu)化中的應(yīng)用(2)(2) 用PSO搜索最優(yōu)解時(shí)， PSO算法參數(shù)設(shè)置如下： PopSize=20； MaxIt=2000； ErrGoal=1e-18; maxw=1.5； minw=0.1； c1=2.0; c2=2.0; inertdec=(maxw-minw)/MaxIt; w=maxw-(iter-1)*inertdec;測(cè)試函數(shù)1選為2元Rosenbrock函數(shù)，求其最小解：21222121)1 ()(100),(xxxxxf0 . 2,0 . 221xx約束條件：2022-4-30微粒群優(yōu)化算法381.1.在函數(shù)優(yōu)化中的應(yīng)用在函數(shù)優(yōu)化中的應(yīng)用(3)(3)2022-4

43、-30微粒群優(yōu)化算法391.1.在函數(shù)優(yōu)化中的應(yīng)用在函數(shù)優(yōu)化中的應(yīng)用(4)(4)最好位置： x1=1.0000, x2=1.0000最好適應(yīng)值為: 4.6045e-017 迭代次數(shù)為: 2000次 2022-4-30微粒群優(yōu)化算法401.1.在函數(shù)優(yōu)化中的應(yīng)用在函數(shù)優(yōu)化中的應(yīng)用(5)(5)測(cè)試函數(shù)2選函數(shù) ，求其最大值：)20sin()4sin(5 .21),(2211211xxxxxxf約束條件：1 .120 . 31x8.51.42 x 用PSO搜索最優(yōu)解時(shí)， PSO算法參數(shù)設(shè)置如下： PopSize=30； MaxIt=2500； maxw=1.8； minw=0.1； c1=2.0;

44、c2=2.0; inertdec=(maxw-minw)/MaxIt; w=maxw-(iter-1)*inertdec;1f2022-4-30微粒群優(yōu)化算法411.1.在函數(shù)優(yōu)化中的應(yīng)用在函數(shù)優(yōu)化中的應(yīng)用(6)(6)2022-4-30微粒群優(yōu)化算法421.1.在函數(shù)優(yōu)化中的應(yīng)用在函數(shù)優(yōu)化中的應(yīng)用(7)(7)最好位置： x1=12.1000, x2= 5.7250 最好適應(yīng)值為: 38.7328 迭代次數(shù)為: 2500 2022-4-30微粒群優(yōu)化算法431.1.在函數(shù)優(yōu)化中的應(yīng)用在函數(shù)優(yōu)化中的應(yīng)用(8)(8)基本PSO: 最好位置： x1=12.1000, x2= 5.7250 最好適應(yīng)值為

45、: 38.7328 改進(jìn)PSO: 最好位置： x1=11.6255, x2= 5.7250 最好適應(yīng)值為: 38.8503 迭代次數(shù)均為: 1500次 2022-4-30微粒群優(yōu)化算法442.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(1)(1) 本文以實(shí)際裝置的操作數(shù)據(jù)為輸入、產(chǎn)品質(zhì)量指標(biāo)為輸出、用前向神經(jīng)網(wǎng)絡(luò)（Neural Networks, NN）建立產(chǎn)品質(zhì)量的軟測(cè)量模型，用PSO搜索NN的最佳權(quán)值和最優(yōu)閥值，便可得到所需的基于PSONN的產(chǎn)品質(zhì)量軟測(cè)量模型。并與基于BPNN的軟測(cè)量模型進(jìn)行比較。 建模時(shí)，以NN的各連接權(quán)值、各閥值作為微粒的維數(shù)。經(jīng)過搜索，最優(yōu)

46、微粒的位置便是NN的最佳連接權(quán)值和最優(yōu)閥值。 本文是隨機(jī)選擇一定量的數(shù)據(jù)作為訓(xùn)練樣本，余下的數(shù)據(jù)作為檢驗(yàn)樣本。建模時(shí)，訓(xùn)練樣本和檢驗(yàn)樣本的數(shù)據(jù)順序均隨機(jī)重排，以便減小由于人為數(shù)據(jù)安排帶來的影響、有效地測(cè)試出最優(yōu)模型。2022-4-30微粒群優(yōu)化算法452.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(2)(2) 第1套裝置選用某一20萬噸/年的催化裂化裝置（FCCU），用PSO神經(jīng)網(wǎng)絡(luò)建立該裝置分餾塔粗汽油干點(diǎn)的軟測(cè)量模型，并與BPNN的進(jìn)行比較。訓(xùn)練過程中歷史全局最優(yōu)適應(yīng)值軌跡趨勢(shì)如圖所示：2022-4-30微粒群優(yōu)化算法462.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在

47、煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(3)(3)模型的訓(xùn)練結(jié)果對(duì)比、泛化結(jié)果對(duì)比如圖所示：2022-4-30微粒群優(yōu)化算法472.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(4)(4)組合模型的訓(xùn)練結(jié)果與實(shí)際值的對(duì)比、泛化結(jié)果對(duì)比如圖所示：2022-4-30微粒群優(yōu)化算法482.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(5)(5)組合模型與BPNN的訓(xùn)練結(jié)果對(duì)比、泛化結(jié)果對(duì)比如圖所示：2022-4-30微粒群優(yōu)化算法492.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(6)(6) 第2套裝置選用某一80萬噸/年的催化裂化裝

48、置（FCCU），用PSO神經(jīng)網(wǎng)絡(luò)建立該裝置主分餾塔粗汽油干點(diǎn)的軟測(cè)量模型，并與BPNN的進(jìn)行比較。訓(xùn)練過程中歷史全局最優(yōu)適應(yīng)值軌跡趨勢(shì)如圖所示：2022-4-30微粒群優(yōu)化算法502.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(7)(7)基于基于PSONN的軟測(cè)量模型的訓(xùn)練結(jié)果、泛化結(jié)果與實(shí)際值的對(duì)比：的軟測(cè)量模型的訓(xùn)練結(jié)果、泛化結(jié)果與實(shí)際值的對(duì)比：2022-4-30微粒群優(yōu)化算法512.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用(8)(8)2022-4-30微粒群優(yōu)化算法522.2.在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中的應(yīng)用在煉油裝置產(chǎn)品質(zhì)量軟測(cè)量中

49、的應(yīng)用(9)(9) 由于BP算法在尋找最優(yōu)權(quán)值和閥值是單一初始值以梯度下降模式進(jìn)行；而PSO是以一群微粒，即很多個(gè)初始值采用依據(jù)自己的經(jīng)驗(yàn)結(jié)合群體的經(jīng)驗(yàn)、隨機(jī)搜索模式進(jìn)行。在對(duì)復(fù)雜的煉油裝置建立產(chǎn)品質(zhì)量軟測(cè)量模型時(shí)，PSO算法陷入局部極小的概率大大降低，PSO算法比BP算法更容易找到全局最優(yōu)解。 由于BP算法在訓(xùn)練NN時(shí)，反向調(diào)節(jié)權(quán)值大都是采用梯度下降模式，需要求出神經(jīng)元傳遞函數(shù)的導(dǎo)數(shù)和目標(biāo)函數(shù)的導(dǎo)數(shù)，導(dǎo)致它的隱含層數(shù)不宜過多，目前基本上不超過2層。而PSO在搜索時(shí)采用依據(jù)自己的經(jīng)驗(yàn)結(jié)合群體的經(jīng)驗(yàn)、隨機(jī)搜索模式，無需求導(dǎo)，因而神經(jīng)網(wǎng)絡(luò)的層數(shù)可以不受限制。 一旦基于PSO算法的前向NN和基于BP

50、算法的前向NN都沒陷入局部極小、都找到最優(yōu)參數(shù)，則兩模型的性能（擬合性能和泛化性能）相當(dāng)。 PSONN對(duì)訓(xùn)練數(shù)據(jù)的適應(yīng)性（收斂性）比BPNN更好。2022-4-30微粒群優(yōu)化算法533.3.在過程控制中的應(yīng)用在過程控制中的應(yīng)用(1)(1) 圖中冷水和熱水分別通過調(diào)節(jié)閥1和調(diào)節(jié)閥2進(jìn)入容器，冷熱水混合后通過出水閥3給下一環(huán)節(jié)提供恒溫恒壓用水。系統(tǒng)通過調(diào)節(jié)閥1保持容器內(nèi)水溫恒定，通過調(diào)節(jié)閥2保持容器內(nèi)液位恒定，以使出水壓力恒定。其中， , , 為控制變量； , , 為體積流量； , 為溫度； 為溫度給定值； 為液位給定值。 1U2U3U1Q2Q3Q1T2TCTCH2022-4-30微粒群優(yōu)化算法5

51、43.3.在過程控制中的應(yīng)用在過程控制中的應(yīng)用(2)(2)對(duì)該系統(tǒng)，首先實(shí)施常規(guī)PID控制； 然后實(shí)施Two-Phases-PSO-PID控制。采樣時(shí)間為0.5秒，圖中橫坐標(biāo)為仿真中迭代步數(shù)。 對(duì)于PSO-PID控制來說，通常將三參數(shù)Kp、Ki、Kd作 為每一微粒所包含的維數(shù)。 就本系統(tǒng)而言，因有兩路控制，在實(shí)施PSO-PID時(shí)，采用兩相PSO，一相以溫度回路的誤差最小為優(yōu)化目標(biāo)，另一相以液位回路的誤差最小為優(yōu)化目標(biāo)。兩相微粒通過系統(tǒng)而關(guān)聯(lián)。2022-4-30微粒群優(yōu)化算法553.3.在過程控制中的應(yīng)用在過程控制中的應(yīng)用(3)(3)溫度給定值增加10%，液位給定值減小10%時(shí)的輸出變量和控制作

52、用在常規(guī)PID控制下的變化曲線。2022-4-30微粒群優(yōu)化算法563.3.在過程控制中的應(yīng)用在過程控制中的應(yīng)用(4)(4)圖中為溫度給定值增加10%，液位給定值減小6%時(shí)，常規(guī)PID和PSO-PID控制下輸出變量變化趨勢(shì)的對(duì)比。兩圖為兩次不同的PSO-PID控制參數(shù)時(shí)的輸出變量的變化曲線。2022-4-30微粒群優(yōu)化算法573.3.在過程控制中的應(yīng)用在過程控制中的應(yīng)用(5)(5) 由于PSO-PID三參數(shù)的初始值完全可按照常規(guī)PID的方法確定，且又以輸出變量的最小誤差為優(yōu)化目標(biāo)，因而采用PSO-PID控制可以獲得滿意的關(guān)于輸出量的控制效果。 用PSO-PID，在優(yōu)選微粒最優(yōu)位置（即：最佳三參

53、數(shù)）時(shí)，如何結(jié)合實(shí)際、選擇符合實(shí)際情況的實(shí)用目標(biāo)函數(shù)來評(píng)判各微粒的優(yōu)劣是一難點(diǎn)。 盡管輸出量的控制效果得到明顯的改善，但控制器的控制作用的性能并沒有得到改善。如何在輸出量的控制效果得到改善的同時(shí)，控制器的控制作用的性能也能得到改善，還是有待于解決的問題。 本文只研究了PSO-PID控制在過程控制中的應(yīng)用，PSO在過程控制中的應(yīng)用研究還有待于深入。關(guān)于這方面的研究，國內(nèi)外可見的報(bào)道極少。2022-4-30微粒群優(yōu)化算法58三、與其他算法的比較三、與其他算法的比較1.1.與與BPBP神經(jīng)網(wǎng)絡(luò)的比較神經(jīng)網(wǎng)絡(luò)的比較(1)(1) 從搜索方式來看，PSO不是從一個(gè)初始點(diǎn)開始、而是從多個(gè)初始點(diǎn)開始、依據(jù)自己

54、的搜索經(jīng)驗(yàn)和同伴的搜索經(jīng)驗(yàn)、采用全局搜索和局部搜索相結(jié)合的隨機(jī)搜索方式獲取最優(yōu)解，因而可以有效地防止搜索過程收斂于局部最優(yōu)、以較大的可能獲得全部的最優(yōu)解。而BPNN是從一個(gè)初始點(diǎn)開始、采用梯度下降的確定性搜索方式，因而容易陷入局部極小。但PSO的計(jì)算量會(huì)大大增大。 因搜索方式的不同，PSO對(duì)目標(biāo)函數(shù)、傳遞函數(shù)等函數(shù)的性質(zhì)要求不高。而BPNN則要求目標(biāo)函數(shù)、神經(jīng)元的傳遞函數(shù)必須可導(dǎo)。這使得PSO的應(yīng)用范圍會(huì)比BPNN的應(yīng)用范圍大大拓寬、應(yīng)用方式也更為靈活。2022-4-30微粒群優(yōu)化算法591.1.與與BPBP神經(jīng)網(wǎng)絡(luò)的比較神經(jīng)網(wǎng)絡(luò)的比較(2)(2) 從對(duì)單峰連續(xù)函數(shù)的優(yōu)化來說，由于BP算法采用

55、梯度下降方法，只要它的權(quán)值適當(dāng)，會(huì)很容易地得到最優(yōu)解。當(dāng)然，PSO算法若參數(shù)得當(dāng)、也能很容易地獲得最優(yōu)解。但是，BP算法的計(jì)算量要小的多，從這點(diǎn)來說，BP算法的性能好。但對(duì)于復(fù)雜問題的優(yōu)化來說，自然是PSO要好。 由于BP算法調(diào)權(quán)公式的推導(dǎo)需要較復(fù)雜的偏導(dǎo)計(jì)算。而PSO算法微粒速度、位置的更新很簡(jiǎn)單、更方便。所以，從編程實(shí)現(xiàn)的角度來說，PSO算法要優(yōu)于BP算法。 通過實(shí)驗(yàn)感覺：在訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)，PSO算法對(duì)數(shù)據(jù)體的適應(yīng)性和收斂性比BP算法對(duì)數(shù)據(jù)體的適應(yīng)性和收斂性要好。 從學(xué)習(xí)的角度來說，應(yīng)該是PSO算法比BP算法容易掌握。2022-4-30微粒群優(yōu)化算法602.2.與遺傳算法（與遺傳算法（GA

56、GA）的比較）的比較遺傳算法參考書：遺傳算法參考書：米凱利維茨米凱利維茨 美美 演化算法演化算法-遺傳算法和數(shù)據(jù)編碼的結(jié)合遺傳算法和數(shù)據(jù)編碼的結(jié)合M M 周家駒,等譯 北京：科學(xué)出版社，北京：科學(xué)出版社，20002000（第（第2 2章，第章，第24-3324-33頁）頁） PSO與GA都是新興的進(jìn)化計(jì)算算法，兩者有很多類似的地方。都從多個(gè)初始點(diǎn)開始的并行隨機(jī)搜索方法，都可以有效地防止搜索過程收斂于局部最優(yōu)、以較大的可能獲得全局最優(yōu)解。 不過，在迭代時(shí)，PSO是依據(jù)自己的搜索經(jīng)驗(yàn)和同伴的搜索經(jīng)驗(yàn)、采用全局搜索和局部搜索相結(jié)合搜索方式得到微粒下一個(gè)的位置；而GA是采用優(yōu)勢(shì)個(gè)體的交叉、變異的方式產(chǎn)

57、生下一代。因而，PSO的計(jì)算較GA要簡(jiǎn)單的多、收斂速度也比GA快。 由于PSO的簡(jiǎn)潔，它的實(shí)用性比GA要好得多，編程實(shí)現(xiàn)相當(dāng)容易(若GA是二進(jìn)制編碼，還有編碼的問題及計(jì)算量相當(dāng)大)。2022-4-30微粒群優(yōu)化算法61參考文獻(xiàn)：參考文獻(xiàn)：1 Kennedy J, and Eberhart R C. Particle swarm optimization A. Proc. IEEE Int. Conf. on Neural NetworksC. Perth, WA, Australia, 1995: 1942-1948 2 Eberhart R C, and Kennedy J. A new o

58、ptimizer using particle swarm theoryA. Proc. the Sixth Int. Symposium on Micro Machine and Human ScienceC. Nagoya, Japan, 1995: 39-43. 3 Eberhart R C, and Shi Y. Particle swarm optimization: developments, applications and resourcesA. Proc. 2001 Congress on Evolutionary Computation C. Seoul, South Ko

59、rea, 2001: 81-86. 4 Shi Y, and Eberhart R C. A modified particle swarm optimizer A. Proc. IEEE Int. Conf. on Evolutionary ComputationC. Anchorage, AK, USA, 1998: 69-73. 5 G. Venter and J. Sobieszczanski-Sobieski Multidisciplinary optimization of a transport aircraft wing using particle swarm optimiz

60、ationJ Struct Multidisc Optim 26, 2004: 121-131 6 Shi Y, and Eberhart R C. Fuzzy Adaptive Particle Swarm OptimizationA. Proc. IEEE Int. Conf. on Evolutionary ComputationC. Seoul, South Korea, 2001. 7 K.E. Parsopoulos and M.N. Vrahatis Recent approaches to global optimization problems through Particl