幾種仿生優(yōu)化算法綜述

余今 張德賢

摘 要：仿生優(yōu)化算法是模擬自然中生物體的行為或狀態(tài)的算法總稱(chēng)。由于該類(lèi)算法的隨機(jī)性和相對(duì)復(fù)雜性，故其應(yīng)用范圍較傳統(tǒng)算法更廣。介紹了人工神經(jīng)網(wǎng)絡(luò)、蒼狼算法及鴿群智能算法的背景、基本原理及實(shí)現(xiàn)步驟，深入剖析了它們之間的異同，對(duì)該類(lèi)算法的發(fā)展遠(yuǎn)景進(jìn)行了展望。

關(guān)鍵詞：仿生優(yōu)化算法;人工神經(jīng)網(wǎng)絡(luò);蒼狼算法;鴿群智能算法

DOI：10. 11907/rjdk. 181975

中圖分類(lèi)號(hào)：TP312文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1672-7800（2019）002-0049-03

Abstract：Bionic optimization algorithm is a generic term for a class of algorithms that simulates the behavior or state of organisms in nature. Due to the randomness and relative complexity of this type of algorithm，it is wider than traditional algorithms about the application range.This paper proposes the backgrounds， basic principles and implementation steps of three hot or new biology-based algorithms（artificial neural network， gray wolf algorithm， and pigeon-inspired optimization）;then their similarities and differences thoroughly are analyzed;finally， some remarks on the development prospects of the algorithms are presented.

Key Words：bionic optimization algorithm;artificial neural network;grey wolf algorithm;pigeon-inspired optimization

0 引言

大數(shù)據(jù)時(shí)代復(fù)雜事件的優(yōu)化問(wèn)題引人關(guān)注，對(duì)時(shí)間空間復(fù)雜度的要求也日益求精。20世紀(jì)后期，為解決傳統(tǒng)算法能力缺陷，研究出了一系列仿生優(yōu)化算法。

仿生優(yōu)化算法思路從生物系統(tǒng)的進(jìn)化和自適應(yīng)現(xiàn)象中得到，它不依賴(lài)于嚴(yán)格的數(shù)學(xué)關(guān)系，而是模擬自然界中生物的社會(huì)或生存行為，所以應(yīng)用范圍比傳統(tǒng)算法更廣。目前比較熱門(mén)或新穎的仿生優(yōu)化算法有人工神經(jīng)網(wǎng)絡(luò)、蒼狼算法、鴿群優(yōu)化算法等。

人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN ）是由心理學(xué)家McCulloch和數(shù)理邏輯學(xué)家Pitts通過(guò)對(duì)人腦的神經(jīng)元進(jìn)行抽象而引出，而后被法國(guó)地質(zhì)學(xué)家Morlet[1]運(yùn)用在小波分析即尋找地質(zhì)數(shù)據(jù)上，近年在模式識(shí)別、信息處理、醫(yī)學(xué)等領(lǐng)域應(yīng)用廣泛。

蒼狼算法（Grey Wolf Algorithm，GWA）是一種群體智能優(yōu)化算法，2007年Yang等 [2]根據(jù)狼群在自然界中的生存行為提出了狼群搜索（Wolf Pack Search，WPS）。2014年，Seyedali Mirjalili等 [3]依照蒼狼群居時(shí)的領(lǐng)導(dǎo)等級(jí)和捕食機(jī)制正式提出了蒼狼算法，該算法廣泛使用在感應(yīng)電機(jī)參數(shù)辨識(shí)[4]、并行搜索策略?xún)?yōu)化[5]等方面。

鴿群優(yōu)化算法（Pigeon-Inspired Optimization，PIO）是一種新興的群體智能優(yōu)化算法，受到自然界中鴿子群體總是自行歸巢的啟示，2014年由段海濱等[6]提出并成功運(yùn)用于無(wú)人機(jī)編控等領(lǐng)域。該算法在飛行器路線規(guī)劃和控制[7-8]、計(jì)算機(jī)圖像處理、自適應(yīng)控制[9]等方面潛力巨大。

1 基本原理

1.1 人工神經(jīng)網(wǎng)絡(luò)

人腦具有極強(qiáng)的信息辨別能力，在認(rèn)知外界到一定的閾值時(shí)可以將接觸的部分信息由神經(jīng)傳輸給大腦，也就是人的學(xué)習(xí)能力。為使機(jī)器等其它物質(zhì)也具有該能力，對(duì)人腦神經(jīng)系統(tǒng)進(jìn)行精簡(jiǎn)和模擬——由相當(dāng)多數(shù)目的神經(jīng)元（或稱(chēng)節(jié)點(diǎn)）交錯(cuò)連接，兩個(gè)相鄰的神經(jīng)元有一個(gè)權(quán)重控制信息的傳輸，最后由每個(gè)節(jié)點(diǎn)帶有的一個(gè)激活函數(shù)（Activation Function）[10]作為導(dǎo)火索，便構(gòu)成了人工神經(jīng)網(wǎng)絡(luò)。

以第三代人工神經(jīng)網(wǎng)絡(luò)即脈沖神經(jīng)網(wǎng)絡(luò)（Spiking Neuron Networks，SNN）[11]為例，它不是基于神經(jīng)脈沖的頻率進(jìn)行編碼，而是加入時(shí)間對(duì)事物影響因素，所以更具靈活性和適應(yīng)性，也更接近人腦神經(jīng)元。脈沖神經(jīng)網(wǎng)絡(luò)基本步驟如下：

（1）收集神經(jīng)網(wǎng)絡(luò)參數(shù)形成一個(gè)數(shù)據(jù)域，在數(shù)據(jù)域里選取若干組數(shù)據(jù)，一部分?jǐn)?shù)據(jù)用于完善脈沖神經(jīng)元模型（數(shù)據(jù)訓(xùn)練），另一部分?jǐn)?shù)據(jù)用于糾正脈沖神經(jīng)網(wǎng)絡(luò)模型（數(shù)據(jù)測(cè)試）。

（2）初始化脈沖神經(jīng)網(wǎng)絡(luò)參數(shù)，設(shè)置所有模塊的初始連接權(quán)和閾值以及各個(gè)模塊的準(zhǔn)確率。

（3）對(duì)脈沖神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練和測(cè)試，將項(xiàng)目的數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入輸出，選取適當(dāng)?shù)乃惴ㄈ缣荻认陆祵W(xué)習(xí)算法、突觸可塑性學(xué)習(xí)算法和脈沖序列卷積學(xué)習(xí)算法[12-13]進(jìn)行訓(xùn)練，關(guān)鍵是選取適當(dāng)?shù)耐挥|權(quán)值學(xué)習(xí)規(guī)則適當(dāng)修訂連接的突觸權(quán)。

（4）脈沖神經(jīng)網(wǎng)絡(luò)測(cè)試。基于測(cè)試樣本尋找合適的測(cè)試樣例，輸入對(duì)應(yīng)項(xiàng)目參數(shù)，得到每個(gè)模塊的輸出（脈沖發(fā)放的頻率），而后次第計(jì)算神經(jīng)網(wǎng)絡(luò)的平均輸出準(zhǔn)確率，如果該準(zhǔn)確率不在期望值的允許誤差之內(nèi)則繼續(xù)進(jìn)行。

（5）當(dāng)所有訓(xùn)練項(xiàng)目結(jié)束后進(jìn)行后續(xù)神經(jīng)網(wǎng)絡(luò)應(yīng)用。

1.2 蒼狼算法

狼是群居動(dòng)物，一般由5-12只組成團(tuán)隊(duì)集體活動(dòng)。它們的等級(jí)很像金字塔，由上而下分成4個(gè)部分，分別是α、β、δ和ω。α是一對(duì)頭狼，它們一定時(shí)期在部落里具有絕對(duì)的權(quán)力;β狼負(fù)責(zé)協(xié)助和反饋給α狼，在其它時(shí)期有可能成為α狼;δ狼處于權(quán)利的第三順位，通常在捕獵中負(fù)責(zé)偵查、放哨和實(shí)施等工作，它只能命令ω狼;ω狼在金字塔的最下端，數(shù)量通常多于α、β、δ狼的總和，它總是聽(tīng)命并跟隨前三種狼進(jìn)行活動(dòng)，所以該算法的關(guān)鍵是如何利用占群狼數(shù)目大半的ω狼搜索能力。

GWA算法有一個(gè)明顯缺陷：容易陷入尋找局部最優(yōu)解僵局，因此以改進(jìn)過(guò)的基于領(lǐng)導(dǎo)者策略的狼群優(yōu)化算法（Wolf Colony Search Algorithm Based on the Strategy of the Leader，LWCA）[14]為例，最優(yōu)搜索步驟如下：

（1）初始化蒼狼位置，要求分布盡可能均勻，以便為第（2）步尋找頭狼作準(zhǔn)備，并確定狼群的規(guī)模等基本參數(shù)。

（2）計(jì)算蒼狼個(gè)體的最優(yōu)值并按順序排列，選取記錄中前三的數(shù)據(jù)作為實(shí)驗(yàn)中蒼狼的位置，分別記作α、β、δ，此為領(lǐng)導(dǎo)者分組，余下的蒼狼個(gè)體組成被領(lǐng)導(dǎo)者分組。

（3）每只狼都要在周?chē)腘個(gè)方向搜索獵物，被領(lǐng)導(dǎo)狼會(huì)向領(lǐng)導(dǎo)狼的位置移動(dòng)。

（4）由于獵物不一定總離領(lǐng)導(dǎo)狼最近，如果被領(lǐng)導(dǎo)者遠(yuǎn)離了領(lǐng)導(dǎo)者狼，證明獵物離領(lǐng)導(dǎo)者不是最近，則更新領(lǐng)導(dǎo)者。

（5）領(lǐng)導(dǎo)者找到食物后通過(guò)一個(gè)預(yù)先設(shè)定好的閾值觸發(fā)告知其它狼對(duì)食物進(jìn)行包圍，更新狼的位置。

（6）尋找接近理論的最優(yōu)值，按照等級(jí)高低先后分配食物并淘汰劣等狼。

（7）迭代，如果滿足條件則輸出最優(yōu)值。

1.3 鴿群優(yōu)化算法

科學(xué)家發(fā)現(xiàn)鴿子有自主歸巢的行為，鴿群飛行時(shí)會(huì)在不同階段使用不同的工具辨別方向以快速到達(dá)目的地，受此啟發(fā)提出鴿群算法。鴿群優(yōu)化算法和蒼狼算法一樣，群體內(nèi)部都有著嚴(yán)格的等級(jí)順序，數(shù)目類(lèi)型亦呈現(xiàn)金字塔形狀，級(jí)別越高個(gè)數(shù)越少。此外，PIO算法依賴(lài)于外界的開(kāi)放信息，主要受太陽(yáng)方向、地磁場(chǎng)和對(duì)地標(biāo)記憶力的影響。根據(jù)上述機(jī)制，模擬出兩種新的算子。

1.3.1 地圖和指南針?biāo)阕?/p>

鴿子本身可以感受到磁場(chǎng)，在飛行過(guò)程中會(huì)依據(jù)磁場(chǎng)強(qiáng)弱糾正飛行方向。當(dāng)接近目的地時(shí)，磁場(chǎng)越來(lái)越弱，故用指南針?biāo)阕覽15]衡量這一特性。

1.3.2 地標(biāo)算子

地標(biāo)泛指鴿群在記憶里見(jiàn)到的所有相似地形。由于鴿群離目的地逐漸接近，隨著太陽(yáng)高度和磁場(chǎng)影響的淡化，地標(biāo)的導(dǎo)向越發(fā)加重。倘若鴿子檢索到熟悉的地標(biāo)就直接向目的地飛去，否則將按照適應(yīng)值排序后跟隨其它熟悉地標(biāo)的鴿子飛行并淘汰迷失方向者，具體步驟如下：

（1）初始化鴿群個(gè)體位置、速度等在使用PIO算法時(shí)所涉及的參數(shù)。

（2）進(jìn)入地圖和指南針?biāo)阕拥氖褂秒A段（地磁操作），更新個(gè)體位置，對(duì)種群中鴿子個(gè)體的適應(yīng)值（最優(yōu)值）進(jìn)行比較并找出全局最優(yōu)和局部最優(yōu)。

（3）比較該階段迭代次數(shù)和最大迭代次數(shù)的關(guān)系，如果前者大于后者則進(jìn)行下一步，否則從步驟（2）開(kāi)始。

（4）將鴿群中距離目的地較遠(yuǎn)的鴿子個(gè)體淘汰。

（5）進(jìn)入地標(biāo)算子使用階段（地標(biāo)操作），計(jì)算鴿群中剩余鴿子個(gè)體的適應(yīng)值，重新更新鴿子個(gè)體的全局最優(yōu)和局部最優(yōu)。

（6）倘若當(dāng)前迭代次數(shù)大于最大迭代次數(shù)則鴿群成功到達(dá)目的地，否則從步驟（2）開(kāi)始。

為了解決鴿群算法同其它智能仿生算法一樣容易陷入局部?jī)?yōu)化的僵局，尤其是在地磁操作階段容易陷入局部最優(yōu)的問(wèn)題，實(shí)際操作時(shí)可先引入帶權(quán)有向圖的Dijstra算法[16]進(jìn)行初步優(yōu)化，再進(jìn)行地磁操作和地標(biāo)操作。

2 幾種仿生優(yōu)化算法比較

上述算法都屬于目前較流行的智能仿生算法，主要通過(guò)借助自然界中生物體的群體行為或機(jī)能解決工程中的最優(yōu)化問(wèn)題，相同點(diǎn)有：

（1） 都具有不確定性。與傳統(tǒng)算法相比，由于仿生優(yōu)化算法是利用生物的天然個(gè)性，所以在隨機(jī)搜索過(guò)程中有很多不確定因素。

（2）都需要大量的重復(fù)試驗(yàn)。一個(gè)仿生算法的使用必然伴隨著若干參數(shù)，參數(shù)的優(yōu)劣決定了實(shí)驗(yàn)結(jié)果是否精確，而就目前技術(shù)來(lái)說(shuō)只能通過(guò)大量的重復(fù)實(shí)驗(yàn)確定參數(shù)取值。

（3）都不具備嚴(yán)密的數(shù)學(xué)性[17]。在一些比較權(quán)威的基礎(chǔ)學(xué)科知識(shí)如數(shù)學(xué)的連續(xù)性、單調(diào)性、凸凹性等面前，仿生優(yōu)化算法并不能?chē)?yán)格遵守。

（4）適用范圍都有局限。一方面，一個(gè)新的仿生算法提出會(huì)提供一種解決問(wèn)題的新思路，但從另一方面來(lái)說(shuō)其問(wèn)題也暴露得非常明顯，即不同仿生算法所能解決問(wèn)題的能力遠(yuǎn)不如現(xiàn)代計(jì)算機(jī)，如鴿群優(yōu)化算法目前只在無(wú)人機(jī)航路規(guī)劃[18]方面應(yīng)用，其它區(qū)域尚未有顯著成果。

（5）都具有魯棒性（Robustness）[19]。因?yàn)樯鲜龇律惴ú粐?yán)格依賴(lài)于數(shù)學(xué)分析和建模，故在一定的參數(shù)支持下，處于不同環(huán)境和條件下的算法強(qiáng)健性有所保障，換句話說(shuō)便是算法的核心部分無(wú)需改正。

3 其它比較

相對(duì)于基于梯度的人工神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，蒼狼算法和鴿群智能優(yōu)化算法都容易陷入局部?jī)?yōu)化的僵局。由于是新提出的仿生算法，應(yīng)用領(lǐng)域相對(duì)較少。而神經(jīng)網(wǎng)絡(luò)是大型非線性系統(tǒng)[20]，相較于蒼狼算法和鴿群算法，會(huì)隨著時(shí)間推進(jìn)而不斷淘汰劣種而逼近“目標(biāo)”，故人工神經(jīng)網(wǎng)絡(luò)的精度分析性能稍顯不足。

4 結(jié)語(yǔ)

本文就模擬生物界中的現(xiàn)象或者活動(dòng)的3種熱門(mén)算法進(jìn)行了論述和對(duì)比，盡管它們已經(jīng)在各自領(lǐng)域得到應(yīng)用，在某些地方有了創(chuàng)新，但還存在很多不足，將來(lái)應(yīng)從以下方面完善：

（1）由于仿生優(yōu)化算法不具備嚴(yán)密的數(shù)學(xué)性，尤其是在數(shù)學(xué)分析的基礎(chǔ)理論和建模工具上略顯不足，所以在今后的研究中應(yīng)注重理論研究和實(shí)際操作的結(jié)合推進(jìn)。

（2）將仿生優(yōu)化算法和傳統(tǒng)算法結(jié)合，彌補(bǔ)仿生優(yōu)化算法局部?jī)?yōu)化僵局以及傳統(tǒng)算法處理大數(shù)據(jù)的短板，做到取長(zhǎng)補(bǔ)短，使多種仿生優(yōu)化算法糅合在一起，令本來(lái)作用領(lǐng)域有限的各個(gè)算法互補(bǔ)產(chǎn)生更大的優(yōu)勢(shì)，向功能更強(qiáng)、結(jié)構(gòu)更復(fù)雜的系統(tǒng)過(guò)渡。

（3）盡管距離第一個(gè)仿生算法思想的提出已有半個(gè)多世紀(jì)，然而該類(lèi)算法的開(kāi)發(fā)仍舊有很大的空間，很多領(lǐng)域甚至只是淺嘗輒止。應(yīng)擴(kuò)大此類(lèi)算法的使用范圍，深入挖掘其最大的可能性和可行性，避免其短板，使后續(xù)研究人員能有的放矢。

參考文獻(xiàn)：

[1] 黎林，朱軍. 基于小波分析與神經(jīng)網(wǎng)絡(luò)的語(yǔ)音端點(diǎn)檢測(cè)研究[J]. 電子測(cè)量與儀器學(xué)報(bào)，2013，27（6）：528-534.

[2] YANG C G，TU X Y，CHEN J.Algorithm of marriage inhoney bees optimization based on the wolf pack search[C]. Proc of International Conference on Intelligent Pervasive Computing，2007：462-467.

[3] MIRJALILI S，MIRJALILI S M，LEWIS A.Grey wolf optimizer[J]. Advances in Engineering Software，2014，69（3）：46-61.

[4] 呂小意.? 感應(yīng)電機(jī)參數(shù)辨識(shí)及控制策略研究[D]. 無(wú)錫：江南大學(xué)，2017.

[5] 符強(qiáng)，汪鵬君，童楠. 一種基于并行搜索策略的蒼狼算法[J]. 計(jì)算機(jī)應(yīng)用研究，2016，33（6）：1662-1665.

[6] DUAN H B，QIAO P X.Pigeon-inspired optimization： a new swarm intelligence optimizer for air robot path planning[J]. International Journal of Intelligent Computing and Cybernetics，2014 ，7（1） ：24-37.

[7] 張亞平，孫佩華，李昱輝，等. 基于改進(jìn)鴿群算法的高超聲速飛行器軌跡優(yōu)化[J]. 飛行力學(xué)，2017，35（4）：60-64.

[8] 張亞平. 鴿群智能算法的改進(jìn)及其在高超聲速飛行控制中的應(yīng)用[D]. 南京：南京航空航天大學(xué)，2017.

[9] 李恩源. 可控串補(bǔ)（TCSC）阻尼電力系統(tǒng)低頻振蕩控制方法研究[D]. 沈陽(yáng)：遼寧工程技術(shù)大學(xué)，2017.

[10] 石琪. 基于卷積神經(jīng)網(wǎng)絡(luò)圖像分類(lèi)優(yōu)化算法的研究與驗(yàn)證[D]. 北京：北京交通大學(xué)，2017.

[11] 徐學(xué)良. 人工神經(jīng)網(wǎng)絡(luò)的發(fā)展及現(xiàn)狀[J]. 微電子學(xué)，2017，47（2）：239-242.

[12] MOHEMMED A，SCHLIEBS S，MATSUDA S，et al. Training spiking neural networks to associate spatio-temporal input-output spike patterns[J]. Neurocomputing，2013（107）：3-10.

[13] YU Q，TANG H J，TAN K C，et al. Precise-spike-driven synaptic plasticity： learning hetero-association of spatiotemporal spike patterns[J]. Neurocomputing，2015（5）：33-40.

[14] ZHOU Y Q，LIU J K，ZHAO G W. Leader glowworm swarm optimization algorithm for solving nonlinear equations systems[J]. Electrical Review，2012，88（1b）：101-106.

[15] 段海濱，葉飛. 鴿群優(yōu)化算法研究進(jìn)展[J]. 北京工業(yè)大學(xué)學(xué)報(bào)，2017，43（1）：1-7.

[16] 黃思銘.? 基于改進(jìn)鴿群算法的無(wú)人機(jī)航路規(guī)劃研究[D]. 沈陽(yáng)：沈陽(yáng)航空航天大學(xué)，2018.

[17] 王茂海.? 仿生優(yōu)化算法的研究與應(yīng)用[D]. 無(wú)錫：江南大學(xué)，2011.

[18] 段海濱，邱華鑫，范彥銘. 基于捕食逃逸鴿群優(yōu)化的無(wú)人機(jī)緊密編隊(duì)協(xié)同控制[J]. 中國(guó)科學(xué)技術(shù)，2015，45（6）：559-572.

[19] 陳建輝.? ART網(wǎng)絡(luò)的魯棒性增強(qiáng)方法研究[D]. 成都：電子科技大學(xué)，2016.

[20] 趙啟林，卓家壽. 非線性方程組的耦合神經(jīng)網(wǎng)絡(luò)算法[J]. 河海大學(xué)學(xué)報(bào)：自然科學(xué)版，2000（5）：38-40.

（責(zé)任編輯：杜能鋼）