融合黃金正弦算法和縱橫交叉策略的禿鷹搜索算法

趙沛雯，張達敏*，張琳娜，鄒誠誠

（1.貴州大學 大數(shù)據(jù)與信息工程學院，貴陽 550025；2.貴州大學 機械工程學院，貴陽 550025）

0 引言

為了解決較為復雜的工程問題，大量群智能算法被相繼提出。群智能算法是指一類受生物群體行為啟發(fā)而設(shè)計的具有分布式智能行為特征的智能算法。目前已有的群智能算法包括模擬退火（Simulated Annealing，SA）算法［1］、雞群算法（Chicken Swarm Optimization，CSO）［2］、鯨魚優(yōu)化算法（Whale Optimization Algorithm，WOA）［3］、蝗蟲算法（Grasshopper Optimization Algorithm，GOA）［4］等。

禿鷹搜索算法（Bald Eagle Search optimization algorithm，BES）是馬來西亞學者Alsattar 等［5］在2020 年提出的一種新穎的、受自然啟發(fā)的元啟發(fā)式優(yōu)化算法，通過模擬禿鷹在狩獵魚類時的智能社會行為。與其他智能算法相比，BES 具有較強的全局搜索能力，能夠有效地解決各類復雜數(shù)值優(yōu)化問題。但是，BES 存在易陷入局部最優(yōu)、多樣性差等問題，尤其是在解決較為復雜的多峰函數(shù)問題上缺點更加明顯。目前，對于標準BES 的這些缺點，賈鶴鳴等［6］提出將萊維（Levy）飛行策略與模擬退火機制引入BES，增強局部搜索與全局收斂能力，同時將改進的BES（Improved BES，IBES）用于優(yōu)化支持向量機（Support Vector Machine，SVM）學習器，并將這種融合模型應用于封裝式特征選擇。實驗結(jié)果表明，IBES 能夠改善SVM 的性能，提高SVM 的效率和數(shù)據(jù)的分類精確度。

為了使算法加快收斂的同時能夠跳出局部最優(yōu)，本文引入了縱橫交叉策略（crisscross strategy）［7］以及黃金正弦算法（Golden Sine Algorithm，Gold-SA）［8］，并對搜索階段的位置公式進行重新定義，提出一種融合黃金正弦算法和縱橫交叉策略的禿鷹搜索算法（BES with Golden Sine algorithm and Crisscross strategy，GSCBES）。實驗結(jié)果表明，GSCBES 具有能夠平衡全局搜索和局部搜索能力，并且在收斂速度和精度方面均有所提升。使用GSCBES 對反向傳播（Back Propagation，BP）神經(jīng)網(wǎng)絡模型［9］的權(quán)值和閾值進行尋優(yōu)，并將優(yōu)化的BP 神經(jīng)網(wǎng)絡模型用于空氣質(zhì)量的預測，實驗結(jié)果表明，預測精確度較優(yōu)化前有所提高。

1 禿鷹搜索算法

禿鷹遍布于北美洲地區(qū)，飛行中視力敏銳，觀察能力優(yōu)秀。以捕食鮭魚為例，禿鷹首先會基于個體和種群到鮭魚的濃度來選擇搜索空間，朝一個特定區(qū)域飛行；其次，在選定搜索空間內(nèi)搜索水面，直到發(fā)現(xiàn)合適的獵物；最后，禿鷹會逐漸改變飛行高度，快速向下俯沖，從水中成功捕獲鮭魚等獵物。禿鷹搜索算法模擬禿鷹在狩獵過程中的行為，以證明狩獵各階段的協(xié)同序列是合理的。相應地，該算法可以分為三個部分，即選擇搜索空間、在選擇的搜索空間內(nèi)搜索和俯沖。

1.1 選擇階段

在選擇階段，禿鷹在選定的搜索空間內(nèi)識別并選擇最佳區(qū)域（食物量大的區(qū)域），在該區(qū)域內(nèi)它們可以捕食獵物。式（1）從數(shù)學上呈現(xiàn)了這種行為。

其中：α∈[1.5，2]是控制位置變化的參數(shù)；r為區(qū)間（0，1）的一個隨機數(shù)；Pbest表示禿鷹當前根據(jù)最佳位置選擇的搜索空間被識別；Pmean表示禿鷹之前搜索的所有位置的平均分布；Pi表示第i只禿鷹的位置。

1.2 搜索階段

在搜索階段，禿鷹在選定的搜索空間內(nèi)搜索獵物，并在螺旋空間內(nèi)向不同方向移動以加速搜索。螺旋飛行數(shù)學模型采用極坐標方程進行位置更新，具體計算公式如下：

其中：a∈(5，10) 表示中心點與搜索點之間的夾角；R∈(0.5，2)表示搜索周期數(shù)；θ(i)和r（i）分別為螺旋方程的極角與極徑；rand為（0，1）的一個隨機數(shù)；x（i）與y（i）表示極坐標下的禿鷹位置，取值均為（-1，1）。由此可得到在極坐標下禿鷹位置更新的公式：

其中：Pi+1為禿鷹下一次的位置。

1.3 俯沖捕食階段

俯沖捕食階段，禿鷹從搜索空間的最佳位置擺動到目標獵物，所有的搜索點也向最佳點移動。該運動同樣也使用極坐標的方式進行描述，具體計算公式如下：

由此可得到禿鷹捕食獵物的位置更新公式為：

其中：c1和c2均為區(qū)間［1，2］的隨機數(shù)，用于增加禿鷹向最佳點和中心點移動的強度。

2 本文算法

為了克服BES 收斂速度慢、精確度不高等缺點，本文對搜索階段的禿鷹位置更新公式設(shè)置權(quán)重并引入縱橫交叉策略對禿鷹搜索算法進行改進。

2.1 縱橫交叉策略

禿鷹搜索算法的空間選擇階段，主要利用隨機搜索的先驗信息乘以α來更新位置，然后在前一個搜索區(qū)域附近選擇另一個不同的搜索區(qū)域，此時若前一個搜索區(qū)域已經(jīng)成為局部最優(yōu)，那么下一次的搜索就會陷入局部最優(yōu)造成“早熟”，導致算法收斂精度降低。為了防止禿鷹個體“早熟”，本文在個體俯沖捕食階段之后引入了縱橫交叉策略［7］，該策略能夠提高解決復雜優(yōu)化問題的全局搜索能力，從而提高收斂速度和求解精度。

2.1.1 水平交叉

水平交叉指對兩個不同禿鷹之間在所有維度上操作的算術(shù)交叉，使不同個體之間能夠相互學習，增大全局搜索能力，防止種群過早收斂，從而提高收斂速度和搜索精度。在執(zhí)行水平交叉策略之前，將禿鷹個體兩兩不重復地設(shè)置為父代個體X（i）和X（j），并以交叉概率Ph進行算術(shù)交叉，為了盡可能多地找到解決方案，通常交叉概率設(shè)置為1。父代交叉后通過式（16）～（17）產(chǎn)生子代個體：

其中：q1、q2均為［0，1］的隨機數(shù)；c1和c2均為［-1，1］的隨機數(shù)；X（i，d）、X（j，d）分別表示為第d維的父代X（i）和X（j）；分別表示X（i，d）和X（j，d）通過水平交叉產(chǎn)生的第d維子代。生成的子代與父代之間進行競爭，最終保留最優(yōu)個體。

2.1.2 垂直交叉

標準BES 在迭代后期易陷入局部最優(yōu)，往往是因為種群在更新過程中某些個體在某一維度陷入局部最優(yōu)所造成的。垂直交叉是在兩個不同維度之間對所有個體進行運算的算術(shù)交叉，在整個迭代過程中，垂直交叉搜索的父種群來自水平交叉的優(yōu)勢解的種群，能夠防止種群陷入局部最優(yōu)；同時每個垂直交叉操作只產(chǎn)生一個子代，以便為停滯維度提供跳出局部最優(yōu)的機會，而不破壞另一個可能是全局最優(yōu)的維度。對個體i的第d1維和第d2維進行垂直交叉，通過式（18）得到后代個體：

其中：q為［0，1］上的隨機數(shù)：為父代X（i）在第d1維和第d2維進行垂直交叉產(chǎn)生的子代。垂直交叉產(chǎn)生的子代個體與父代進行競爭，保留適應度較優(yōu)的個體。

2.2 基于慣性權(quán)重的位置更新

在標準的粒子群優(yōu)化（Particle Swarm Optimization，PSO）算法［10］中，對于位置更新方程，目前較多采用線性遞減權(quán)值（Linearly Decreasing Weight，LDW）策略，通過引入動態(tài)權(quán)值ω獲得比固定值更好的尋優(yōu)結(jié)果。

其中：tmax為最大迭代次數(shù)；ωini為慣性權(quán)重初始值，ωend為慣性權(quán)重最終值。

受此啟發(fā)，本文提出一種基于慣性權(quán)重的禿鷹位置更新公式，用于更新搜索階段的位置公式，賦予禿鷹能夠調(diào)整全局和局部搜索的能力，以提高標準BES 的性能。

其中：b1∈[0，1]為群體交流系數(shù)；b2∈[0，1]為個體記憶系數(shù)；通常ωini取0.9，ωend取0.4。

2.3 黃金正弦捕食機制

黃金正弦算法（Golden-SA）［8］是一種數(shù)學啟發(fā)算法，該算法是受正弦的啟發(fā)構(gòu)建的。在該算法中，隨機個體的數(shù)量與每個維度上均勻分布的搜索代理的數(shù)量相同。在Golden-SA的位置更新中引入了黃金分割系數(shù)，黃金分割能夠縮小搜索范圍，只在能夠產(chǎn)生最優(yōu)解的空間進行搜索，從而提高了算法的收斂速度，使算法具有較強的局部開發(fā)能力。受文獻［11］啟發(fā)，本文將Golden-SA 作為局部算子引入到俯沖捕食階段的位置更新公式中，使算法的尋優(yōu)空間更全面，提高算法的尋優(yōu)速度以及求解精度。同時利用Golden-SA 中的r1、r2參數(shù)能夠縮小搜索空間，指引禿鷹個體快速向種群最優(yōu)個體靠近，降低算法陷入局部最優(yōu)的可能性。具體的位置更新公式如下：

其中：r1為［0，2π］的隨機數(shù)；r2為［0，π］的隨機數(shù)；x1=-π+(1-τ)*2π，x2=-π+τ*2π 是根據(jù)黃金分割系數(shù)τ（τ=而得到的系數(shù)。這些系數(shù)縮小了搜索空間，允許當前值接近理想值。

2.4 算法步驟

綜上所述，GSCBES 的步驟如下：

Step1 設(shè)置GSCBES 的相關(guān)參數(shù)：種群規(guī)模N，最大迭代次數(shù)tmax，搜索維度dim，搜索范圍ub、lb。

Step2 計算種群中每個禿鷹個體的適應度值，并根據(jù)目標函數(shù)值的大小排序，標記出全局最優(yōu)值Pbest。

Step3 根據(jù)全局最優(yōu)值Pbest的位置進行搜索空間的選擇，同時利用式（1）進行位置更新。

Step4 選取完搜索空間之后使用螺旋移動搜索，禿鷹個體在搜索空間搜索獵物，利用式（21）進行位置更新。

Step5 禿鷹俯沖捕食，利用式（22）進行位置更新。

Step6 引入縱橫交叉策略，防止算法陷入局部最優(yōu)。

Step7 判斷是否達到結(jié)束條件，如果達到則輸出最優(yōu)結(jié)果，否則重復步驟Step2～6。

3 實驗與結(jié)果分析

為了更加全面地驗證本文算法性能，同時驗證每個改進策略的有效性，本文的仿真實驗分為5 個部分：

1）將GSCBES 與標準BES［5］以及IBES［6］比較，通過對比實驗分析GSCBES 的有效性和可行性；

2）將GSCBES 與基于慣性權(quán)重位置更新的GSCBES1、融入黃金正弦算法的GSCBES2、結(jié)合縱橫交叉策略的GSCBES3 進行對比，以驗證不同改進策略的可行性；

3）將GSCBES 與 模擬退火（SA）算 法［3］、粒子群優(yōu)化（PSO）算法［10］、融合精英反向和縱橫交叉的WOA（Elite opposition-based and Crisscross optimization for WOA，ECWOA）［12］進行比較，以驗證GSCBES 的優(yōu)越性；

4）通過Wilcoxon 秩和檢驗驗證GSCBES 與其他算法之間的顯著性差異；

5）通過在CEC2014 基準函數(shù)中選取部分單峰、多峰、混合復合類型的函數(shù)進行優(yōu)化測試，以驗證GSCBES 的可行性和魯棒性。

3.1 實驗設(shè)置

為了驗證本文提出的GSCBES 的性能，本文選取如表1所示的11 個Benchmark 函數(shù)作為實驗對象，其中，f1～f7為單峰函數(shù)，f8～f11為多峰函數(shù)。單峰函數(shù)用于測試算法的收斂速度和收斂精度；多峰函數(shù)由于具有多個局部極值，常用來測試算法跳出局部最優(yōu)的能力以及全局搜索的能力［13］。在進行仿真實驗之前，為了使實驗結(jié)果具有公正性和客觀性，將所有算法的規(guī)模設(shè)置為30，最大迭代次數(shù)為1 000。GSCBES、BES、IBES、ECWOA、PSO 以及SA 的其他相關(guān)參數(shù)設(shè)置如表2 所示。

表1 11個測試函數(shù)Tab.1 Eleven test functions

表2 不同算法的參數(shù)設(shè)置Tab.2 Parameter setting of different algorithms

3.2 與標準BES比較

將標準BES 與GSCBES 在空間位數(shù)dim=30 的條件下對11 個測試函數(shù)進行求解，并通過最優(yōu)值、平均值、標準值以及單詞運行耗時t指標評估算法效能。表3 為算法在11 個測試函數(shù)上獨立運行30 次的結(jié)果。

標準差反映了算法的穩(wěn)定性和魯棒性，而平均值則反映了算法收斂速度。如表3 所示，在單峰函數(shù)f1～f7中，對于函數(shù)f1～f4，GSCBES 除了能尋到函數(shù)理論最優(yōu)值0 之外，平均值和標準差也均為0，表明相較于BES，GSCBES 具有更高的收斂精度且尋優(yōu)結(jié)果穩(wěn)定；對于函數(shù)f5和f7，GSCBES 雖沒有尋到理論值0，但不論是平均值還是標準差均優(yōu)于標準BES，由此可得GSCBES 具有更高的尋優(yōu)精度且尋優(yōu)結(jié)果更穩(wěn)定；對于函數(shù)f6，雖未尋到理論值，但與標準BES 相比，平均值相差21個數(shù)量級，標準差相差20 個數(shù)量級，這些均表明GSCBES 能夠得到更優(yōu)的結(jié)果且收斂速度明顯提升。

在多峰函數(shù)f8～f11中，對于函數(shù)f8，與標準BES 相比，GSCBES 具有較優(yōu)的穩(wěn)定性；對于函數(shù)f10～f11，GSCBES 雖沒有尋到理想最小值，但與BES 相比，具有更高的收斂精度和尋優(yōu)結(jié)果的質(zhì)量，其中f10的標準值為0，表明GSCBES 具有更高的穩(wěn)定性；對于f9，GSCBES 尋到理想最小值。

總之，對于11 個測試函數(shù)，相較于標準BES，GSCBES 具有更高的全局搜索能力和魯棒性，能夠跳出局部最優(yōu)。

從表3 中還可以看出，不論是單峰函數(shù)還是多峰函數(shù)，GSCBES 單次運行的時間均比標準BES 長，這是由于在BES中引入本文提出的3 種改進策略后，算法搜索區(qū)域更廣，找到的解更多，從而導致算法尋優(yōu)時間變長，但在其余3 項指標方面，GSCBES 均有明顯提高。

表3 GSCBES與BES測試結(jié)果的比較Tab.3 Comparison of GSCBES and BES test results

3.3 不同改進策略比較

將GSCBES 與基于慣性權(quán)重位置更新的GSCBES1、融入黃金正弦算法的GSCBES2、結(jié)合縱橫交叉策略的GSCBES3進行對比，進一步驗證不同策略的可行性。算法參數(shù)與3.2節(jié)相同。表4 為算法獨立運行30 次的仿真結(jié)果。

由表4 可知，對于f1～f4，GSCBES 的最優(yōu)值、平均值與標準差均能夠達到理論值；對于函數(shù)f5～f7，GSCBES 不論是在尋優(yōu)精度還是速度等方面均有顯著提升；對于f8，雖然GSCBES 在其他項指標未優(yōu)于標準BES，但在標準值方面有所提升，表明GSCBES 在穩(wěn)定性方面優(yōu)于標準BES。

具體地，GSCBES1 和GSCBES2 對于函數(shù)f1～f4、f6的有效性有顯著影響，從最優(yōu)值、平均值與標準差可以看出，基于慣性權(quán)重位置更新的改進策略和融入黃金正弦算法的改進策略能夠有效地提高算法尋優(yōu)能力以及收斂精度；對于函數(shù)f9和f12，這兩種改進策略均提高了算法跳出局部最優(yōu)的能力。GSCBES3 對于函數(shù)的尋優(yōu)結(jié)果是3 種改進策略中效果較差的，但其在收斂精度方面相較于標準BES 也得到了提升，尤其對于函數(shù)f8，在穩(wěn)定性方面有更顯著的優(yōu)化。從表4 的仿真結(jié)果來看，無論在單峰函數(shù)還是多峰函數(shù)中，融入3 種改進策略的GSCBES 有效地提高了收斂速度、收斂精度以及穩(wěn)定性。

表4 不同策略的結(jié)果比較Tab.4 Comparison of results of different strategies

從單次運行耗時上來看，相同維度下，基于慣性權(quán)重位置更新的GSCBES1 比標準BES 耗時短，表明加入慣性權(quán)重之后增加了算法全局搜索能力；而融入黃金正弦算法的GSCBES2 和結(jié)合縱橫交叉策略的GSCBES3 均比標準BES 耗時長，這是因為在標準BES 中分別加入這兩種策略后，找到的解更多，從而導致尋優(yōu)時間變長。

為了從多樣性的角度驗證改進策略的有效性，圖1 給出了標準BES、GSCBES 和3 種改進策略在相同維度dim=30 條件下的收斂曲線。從圖1 可以看出，無論是單峰函數(shù)還是多峰函數(shù)，GSCBES 都具有較高的收斂速度和收斂精度。其中：圖1（a）～（c）為單峰函數(shù)的收斂曲線，可以看出GSCBES1和GSCBES2 具有更高的收斂精度以及更快的尋優(yōu)速度，GSCBES3 是3 個改進策略中尋優(yōu)效果較差的，但其尋優(yōu)精度同樣比BES 高；圖1（d）～（f）為多峰函數(shù)的收斂曲線，可以看出，3 種改進策略算法的收斂曲線均在BES 的收斂曲線之下，且下降快，說明改進算法在相同維度下的收斂速度和收斂精度均有顯著提高。綜上所述，以上3 種改進策略對標準BES 的收斂性、魯棒性等方面均有顯著影響。

圖1 不同改進策略下的收斂曲線對比Fig.1 Comparison of convergence curves under different improvement strategies

3.4 與其他群智能算法的比較

將GSCBES 與SA［3］、PSO［10］、IBES［6］、ECWOA［12］進行比較，分別在dim=10，30，200 的條件下對11 個測試函數(shù)進行尋優(yōu)，獨立運行30 次的結(jié)果如表5 所示。由表5 可知，相同維度下，PSO 的單次運行耗時最短，ECWOA 和SA 次之，GSCBES 第三，IBES 耗時最長。這是因為同PSO、SA 以及ECWOA 相比，GSCBES 在基本算法中加入了3 種改進策略之后，算法的搜索范圍擴大，尋找到的解增多，導致尋優(yōu)時間變長。加入慣性權(quán)重后提升了算法全局搜索能力，從而使算法的收斂速度得到提高。雖然PSO 在單次運行耗時上最短，但其尋優(yōu)精度同SA 相差不大，且兩者的尋優(yōu)結(jié)果相對較差。ECWOA 和IBES 的收斂精度是4 種對比算法中較高的，但GSCBES 的收斂速度和穩(wěn)定性明顯優(yōu)于其他4 種算法。

表5 各群智能算法在不同維度下的結(jié)果比較Tab.5 Comparison of results of different swarm intelligence algorithms in different dimensions

從縱向數(shù)據(jù)來看，PSO 的尋優(yōu)效果最差；SA 次之；而ECWOA 只對f9求解時才能達到理論值，IBES 只對函數(shù)f1、f3和f9求解時能夠?qū)さ嚼碚撝?；雖然對于函數(shù)f5和f9，GSCBES的尋優(yōu)結(jié)果并不是最好的，但其相較于其他函數(shù)不僅在收斂速度方面有所提升，同時也提高了算法穩(wěn)定性，尤其是f1～f4、f9，不僅能尋到理論值，同時穩(wěn)定性方面也有明顯的提升。

從橫向數(shù)據(jù)來看，當維度dim從10 到30 再到200，對于函數(shù)f1～f3、f7，除ECWOA 外，其他算法的求解精度均有所下降，這是由于隨著維度的增加，函數(shù)復雜度也增加，從而尋優(yōu)時需要做更多的調(diào)整，然而GSCBES 的尋優(yōu)結(jié)果仍然是最優(yōu)。

對于f4、f6，算法的求解精度和穩(wěn)定性均有所提升，但相較于4 種對比算法，GSCBES 不論是求解精度還是穩(wěn)定性都是最高的。對于f5，隨著維度的增加，5 種算法的尋優(yōu)能力均有所提升，雖然GSCBES 的尋優(yōu)結(jié)果沒有IBES 好，但其在耗時上低于IBES，表明本文算法的全局搜索能力以及收斂速度比IBES 更優(yōu)。對于f8，PSO 的收斂速度優(yōu)于GSCBES，但其穩(wěn)定性和魯棒性不如GSCBES；雖然IBES 的標準差優(yōu)于GSCBES，但其耗時遠多于GSCBES。對于f9，所有算法的收斂速度和魯棒性隨著維度的增加均有所下降，但相較于4 種比較算法，GSCBES 的求解精度仍然最高。對于f10，除ECWOA 外，其余4 種算法不論是求解速度還是穩(wěn)定性方面均有所上升，其中GSCBES 和IBES 的平均值和標準差雖一樣，但在耗時上GSCBES 比IBES 短，表明在保證尋優(yōu)結(jié)果的同時GSCBES 能夠快速跳出局部最優(yōu)。對于f11，除ECWOA和SA 外，其余算法的求解精度均有所上升，其中GSCBES 不論是穩(wěn)定性還是尋優(yōu)能力均是最優(yōu)的，從而驗證了GSCBES在低維和高維條件下均有更好的求解能力。

3.5 Wilcoxon秩和檢驗

為了檢驗本文算法與其他算法之間是否有顯著的區(qū)別，驗證本文算法的穩(wěn)定性，使用Wilcoxon 秩和檢驗用作非參數(shù)統(tǒng)計檢驗以確定結(jié)果，其決定了兩個樣本之間的差異。假設(shè)H0：兩種算法之間沒有明顯區(qū)別；H1：兩種算法之間有明顯區(qū)別。當檢驗結(jié)果R＜0.05 時，拒絕零假設(shè)，此時說明算法之間有顯著的區(qū)別；當檢驗結(jié)果R＞0.05 時，接受零假設(shè)，此時說明算法之間并無顯著的區(qū)別。

表6 為在相同維度dim=30 的條件下，GSCBES 與其他算法對比的秩和檢驗結(jié)果。其中“R”表示檢驗結(jié)果；“W”為顯著判斷結(jié)果；由于最佳算法不能與自身進行比較，故表6 中標記為“NA”，即表示無法進行顯著性的判斷；“+”表示GSCBES 比其他算法更具顯著性；“-”表示GSCBES 的尋優(yōu)能力低于其他算法；“=”表示GSCBES 與其他算法的性能并無明顯的差異。

表6 Wilcoxon秩和檢驗結(jié)果Tab.6 Results of Wilcoxon rank sum test

從表6 可以看出，絕大部分的R 遠小于0.05，相應的W值為“+”。因此，總體上GSCBES 與其他8 種算法間具有顯著性差異，表明GSCBES 對于其他算法具有更高的顯著優(yōu)勢，即有更好的尋優(yōu)能力。

3.6 CEC2014基準函數(shù)上測試

為了進一步驗證GSCBES 的穩(wěn)定性和魯棒性，本文在CEC2014 測試函數(shù)中選取部分單峰函數(shù)（Unimodal Function，UM）、多峰函數(shù)（Multimodal Function，MF）、混合函數(shù)（Hybrid Function，HF）和復合函數(shù)（Composition Function，CF）進行優(yōu)化求解。選取的部分函數(shù)如表7 所示，本文實驗種群規(guī)模為30，迭代次數(shù)為1 000，維度30。

表7 CEC2014測試函數(shù)Tab.7 CEC2014 test functions

表8 整理了部分CEC2014 測試函數(shù)獨立運行30 次后各算法的平均值和標準差。由于CEC2014 函數(shù)具有復雜的表征特征，因此所有算法都較難尋到函數(shù)最優(yōu)值［14］。由表8 可知，對于CEC01，與GSCBES1 相比，GSCBES 的穩(wěn)定性略差，但其收斂速度最優(yōu)。對于多峰函數(shù)，相較于PSO，GSCBES 的平均值略差，但其穩(wěn)定性和魯棒性方面最優(yōu)。在混合和復合函數(shù)中，GSCBES 的尋優(yōu)結(jié)果更接近理論值，且穩(wěn)定性方面也是最優(yōu)的，表明GSCBES 具有良好的有效性和魯棒性。

表8 不同算法在CEC2014測試函數(shù)上的優(yōu)化結(jié)果比較Tab.8 Comparison of optimization results of different algorithms on CEC2014 test functions

4 基于GSCBES的BP神經(jīng)網(wǎng)絡模型

BP 神經(jīng)網(wǎng)絡模型是目前使用頻率較高的一種神經(jīng)網(wǎng)絡模型，根據(jù)誤差來進行反向傳播。但在傳統(tǒng)BP 神經(jīng)網(wǎng)絡模型中，網(wǎng)絡的閾值和初始權(quán)重值隨機產(chǎn)生，使BP 存在易陷入局部最優(yōu)的缺陷，這會對預測結(jié)果的精確度有所影響［15］。針對這一缺陷，本文通過引入融合黃金正弦算法和縱橫交叉策略的禿鷹搜索算法GSCBES 初始化網(wǎng)絡模型的權(quán)值和閾值，從而提高BP 神經(jīng)網(wǎng)絡模型的精確度，并將優(yōu)化的BP 神經(jīng)網(wǎng)絡模型用于空氣質(zhì)量的預測。

4.1 初始化工作

本文使用的數(shù)據(jù)源于加州大學歐文分校（University of California Irvine）提出的用于機器學習的數(shù)據(jù)庫中針對部署在意大利城市現(xiàn)場的氣體多傳感器設(shè)備的每小時的平均響應記錄和氣體濃度［16］。選擇數(shù)據(jù)前1 900 個樣本作為訓練集，后100 個數(shù)據(jù)作為測試集，并對提取到的數(shù)據(jù)集采用最大最小法［17］進行歸一化處理。

由于過多的隱含層會使網(wǎng)絡結(jié)構(gòu)過于復雜，導致計算量增加，所以研究中常選用三層網(wǎng)絡，即只含有單層隱含層［18］。在構(gòu)建BP 神經(jīng)網(wǎng)絡模型的結(jié)構(gòu)中，隱含層節(jié)點數(shù)的確定對網(wǎng)絡性能有很大的影響，若節(jié)點數(shù)太少，網(wǎng)絡獲取的有用信息就少；若節(jié)點數(shù)過多，不僅增加訓練時間，還可能出現(xiàn)過擬合的現(xiàn)象，使網(wǎng)絡的泛化能力下降［19］。因此本文利用經(jīng)驗式（23）來確定隱含層節(jié)點數(shù)。

其中：N為隱含層節(jié)點數(shù)；m為輸入層節(jié)點數(shù)；n為輸出層節(jié)點數(shù)；a∈[1，10]，為常數(shù)。

為了檢驗不同隱含層節(jié)點數(shù)下網(wǎng)絡模型的性能，本文使用均方誤差（Mean Square Error，MSE）和平均絕對百分比誤差（Mean Absolute Percentage Error，MAPE）這兩項指標進行仿真評估。其中MSE 是一種衡量“平均誤差”的常見方法，能夠確定數(shù)據(jù)的離散程度，均方差誤差越小，則表明預測模型可以獲得更好的精度；MAPE 指的是所有單個觀測值和真實值的絕對偏差百分比，與比例無關(guān)，可用于不同比例的預測［20］。表9 為不同節(jié)點數(shù)下網(wǎng)絡的MSE 和MAPE，由表9 可以看出，節(jié)點數(shù)為4 時，MSE 和MAPE 均取得了最小值，因此，最終得到2-4-1 的網(wǎng)絡結(jié)構(gòu)。

表9 不同隱含層節(jié)點數(shù)下的預測誤差Tab.9 Prediction errors under different hidden layer node numbers

在構(gòu)建完網(wǎng)絡結(jié)構(gòu)之后，需要對網(wǎng)絡進行參數(shù)設(shè)置。其中，學習率lr通常取值為0～1，在神經(jīng)網(wǎng)絡傳播中幫助網(wǎng)絡避免陷入局部極小，找到全局最小值；然而學習率設(shè)置過低會使網(wǎng)絡訓練速度慢，過高則會使網(wǎng)絡出現(xiàn)過擬合現(xiàn)象［18］。本文比較了隱含層節(jié)點數(shù)為4 時，不同學習率和精確度下的預測誤差，結(jié)果如表10 所示。由表10 可知，學習率和精確度均取0.01 時的預測誤差值較小。最后利用GSCBES 初始化BP 神經(jīng)網(wǎng)絡模型的閾值和權(quán)值，從而提高網(wǎng)絡結(jié)構(gòu)的精確度和收斂速度。

表10 不同學習率及精確度下的預測誤差Tab.10 Prediction errors at different learning rates and accuracies

4.2 神經(jīng)網(wǎng)絡模型仿真與分析

圖2 為基于GSCBES 的BP 神經(jīng)網(wǎng)絡模型（GSCBES-BP）與原始BP 神經(jīng)網(wǎng)絡模型（以下簡記為BP）、基于PSO 的BP（PSO-BP）的誤差比較結(jié)果。通過圖2 可直觀地看出，相較于原始BP，GSCBES-BP 利用GSCBES 得到的最優(yōu)個體來初始化BP 神經(jīng)網(wǎng)絡的閾值和權(quán)值，同時將MSE 作為禿鷹個體的適應度值，克服了原始BP 神經(jīng)網(wǎng)絡由于隨機初始化權(quán)重和閾值而導致的精確度不高、易陷入局部最優(yōu)等缺陷。同時由于GSCBES 中引入了黃金正弦算法和縱橫交叉策略，使算法能夠跳出局部最優(yōu)，從而提高收斂速度和精度，這也使GSCBES-BP 經(jīng)過訓練之后得到的誤差要小于PSO-BP 的誤差。

圖2 3種神經(jīng)網(wǎng)絡模型的預測誤差對比Fig.2 Comparison of prediction errors of three neural network models

為了更全面地說明GSCBES-BP 優(yōu)于原始BP 和PSO-BP，本文還使用平均絕對誤差（Mean Absolute Error，MAE）和均方根誤差（Root Mean Square Error，RMSE）進行對比。其中MAE 是一種線性分數(shù)，所有個體差異在平均值上的權(quán)重都相等，不存在誤差之間正負抵消的問題，比平均誤差更能表明預測值的真實水平；RMSE 對極大或極小誤差十分敏感，可以很好地反映預測的精確度［21］。表11 為原始BP、PSO-BP以及于GSCBES-BP 在4 種指標下的仿真結(jié)果。由于GSCBES提高了收斂速度和精度，并且能夠跳出局部最優(yōu)值，它的4項指標值均小于PSO-BP；并且，由于GSCBES-BP 是將最優(yōu)個體作為模型的初始化權(quán)值和閾值，使模型的預測精度得到提高，因此它的4 項指標的值均優(yōu)于原始BP，同時也表明本文提出的優(yōu)化方式效果較好。

表11 GSCBES-BP、PSO-BP與BP的結(jié)果對比Tab.11 Comparison of results of GSCBES-BP，PSO-BP and BP

5 結(jié)語

本文在標準禿鷹搜索算法的基礎(chǔ)上引入新的基于慣性權(quán)重的位置更新公式、縱橫交叉策略以及黃金正弦算法，提出改進的禿鷹搜索算法GSCBES，它能夠跳出局部最優(yōu)，具有平衡全局搜索和局部搜索能力。通過實驗結(jié)果可以看出，GSCBES 在求解精度和收斂速度上都明顯優(yōu)于對比算法SA、IBES、PSO 和ECWOA，同時提升了算法的穩(wěn)定性和魯棒性。將GSCBES 應用于初始化BP 神經(jīng)網(wǎng)絡的權(quán)值和閾值，同時對空氣質(zhì)量進行預測，實驗結(jié)果表明，基于GSCBES-BP 的神經(jīng)網(wǎng)絡模型預測的均方誤差等結(jié)果均明顯優(yōu)于PSO-BP 和BP 神經(jīng)網(wǎng)絡模型。在后續(xù)的研究中，計劃將改進算法應用到通信系統(tǒng)的頻譜分配問題中，進一步驗證CSCBES 算法的性能。