適應(yīng)度反向?qū)W習(xí)的平衡灰狼算法及其應(yīng)用

楊 宸，張 瑋，許 鑫，張振喜，高 暾

(太原理工大學(xué) 化學(xué)工程與技術(shù)學(xué)院，山西 太原 030024)

0 引 言

灰狼優(yōu)化算法(grey wolf optimization，GWO)是Mirjalili等[1]學(xué)者通過對(duì)灰狼跟蹤、包圍、追捕等過程模擬，提出的一種群體智能優(yōu)化算法?；依撬惴ㄔ赑ID控制參數(shù)優(yōu)化、圖像處理、化工建模優(yōu)化、機(jī)器學(xué)習(xí)等[2-5]領(lǐng)域得到廣泛的應(yīng)用。但是，灰狼算法在種群初始化時(shí)過度聚焦，在位置更新中勘探與開發(fā)能力不均衡，致使其收斂至局部最優(yōu)。

為了克服這些缺陷，Mehak Kohli等[6]在種群的初始值分布定義階段，引入混沌映射理論，使其初始化粒子在目標(biāo)空間均勻分布，增強(qiáng)其全局尋優(yōu)的能力。滕志軍等[7]利用粒子群優(yōu)化算法中的位置更新公式更新灰狼個(gè)體，使其能夠保留自身最優(yōu)位置信息，從而提高算法的收斂精度；Peng Yao等[8]引入貪婪策略，在其優(yōu)勝劣汰的約束下，降低其收斂至局部最優(yōu)的可能；蔡娟等[9]在頭狼的位置引入高斯擾動(dòng)，增強(qiáng)算法跳出局部最優(yōu)的能力；崔建弘等[10]在狼群的初始階段引入混沌對(duì)立學(xué)習(xí)策略，提升初始解的質(zhì)量，加速算法收斂。以上工作分別從提高GWO全局尋優(yōu)的能力、算法的收斂精度、收斂效率等方面展開研究，但早熟收斂、全局勘探和局部開采能力不平衡的問題仍然存在。

因此，本文提出一種非線性控制策略，且通過分析在最優(yōu)狼α，β，δ的引導(dǎo)下種群的更新過程，提出一種基于適應(yīng)度權(quán)重反向?qū)W習(xí)的位置更新策略，平衡算法的勘探與開發(fā)。保證全局尋優(yōu)能力的前提下，增強(qiáng)算法的求解速度與精度。通過16個(gè)基準(zhǔn)函數(shù)的尋優(yōu)求解問題和GBDT的旋風(fēng)分離器粒級(jí)效率模型參數(shù)優(yōu)化問題[11]，對(duì)該算法的有效性和工程應(yīng)用效果分析對(duì)比。

1 標(biāo)準(zhǔn)灰狼算法

(1)灰狼狩獵過程的包圍策略如等式(1)、式(2)所示

(1)

(2)

(3)

(4)

(5)

其中，t是當(dāng)前迭代次數(shù)；MAX是最大迭代次數(shù)；

(2)灰狼α、β、δ具有相關(guān)獵物的最佳信息，其余的灰狼根據(jù)它們3個(gè)的位置來更新自己的位置(捕食獵物)，數(shù)學(xué)描述如下

(6)

(7)

(8)

式(7)定義了ω狼朝向α、β、δ前進(jìn)的方向向量，式(8)定義了ω狼的最終位置。

由此可見，傳統(tǒng)灰狼算法在初始化中分布聚集，嚴(yán)重影響后期搜索效果。

2 BGWO優(yōu)化算法

2.1 混沌立方映射初始化

針對(duì)種群在初始化階段過度聚焦的問題，本文應(yīng)用混沌立方映射[6]定義初始種群，使初始化群體在目標(biāo)空間均勻分布，為全局搜索奠定良好基礎(chǔ)?；煦缌⒎接成渖沙跏蓟依欠N群包括3個(gè)步驟，具體過程如下：

(2)將隨機(jī)生成的灰狼的位置坐標(biāo)按式(9)迭代2n-1次，從而產(chǎn)生其余的2n-1匹灰狼；按照式(10)映射到真實(shí)的解空間中

(9)

(10)

計(jì)算2n匹灰狼適應(yīng)度值并按升序排列，篩選奇數(shù)項(xiàng)對(duì)應(yīng)的灰狼作為初始種群，使種群均勻分布。

2.2 非線性控制參數(shù)策略

(11)

其中，t為當(dāng)前的迭代次數(shù)；MAX為最大迭代次數(shù)。

(12)

(13)

(14)

對(duì)4種控制參數(shù)進(jìn)行仿真，取最大迭代次數(shù)MAX為500，結(jié)果如圖1所示。

圖1 控制參數(shù)的變化曲線

2.3 適應(yīng)度反向?qū)W習(xí)權(quán)重更新策略

圖2 灰狼位置更新原理

首先，為擴(kuò)大算法搜索范圍，引入重心反向?qū)W習(xí)策略，利用整個(gè)種群的重心位置信息對(duì)三匹灰狼α，β，δ進(jìn)行變異操作。

設(shè) (X1，X2，…，Xn) 是d維解空間中每個(gè)灰狼個(gè)體的位置坐標(biāo)，則其對(duì)應(yīng)的種群重心位置

(15)

(16)

(17)

隨后α狼執(zhí)行重心反向變異操作

(18)

在重心反向變異跳出局部最優(yōu)后，因?yàn)榛依铅劣谀繕?biāo)值所在的超球體鄰域內(nèi)不一定為最優(yōu)值，所以在該鄰域內(nèi)采用最優(yōu)解適應(yīng)度值權(quán)重更新的方法，增強(qiáng)β和δ狼適應(yīng)度的貢獻(xiàn)。首先分別根據(jù)三匹狼α，β和δ的適應(yīng)度值的大小得到各自的權(quán)重，其它個(gè)體灰狼根據(jù)該權(quán)重進(jìn)行位置更新，其數(shù)學(xué)模型如式(19)、式(20)所示

(19)

(20)

3 BGWO算法步驟

BGWO灰狼優(yōu)化算法步驟如下：

(1)輸入種群規(guī)模N、當(dāng)前迭代次數(shù)t、空間維度D、搜索空間的上下限ub和lb、最大迭代次數(shù)MAX；

(2)初始化灰狼種群的位置，對(duì)隨機(jī)生成的個(gè)體灰狼執(zhí)行2N-1次Cube立方映射，計(jì)算2N匹灰狼適應(yīng)度并按照升序排列，篩選奇數(shù)項(xiàng)對(duì)應(yīng)的灰狼作為初始種群；

(3)對(duì)初始化的灰狼種群進(jìn)行適應(yīng)度排序，確定α，β和δ；

(4)根據(jù)式(11)進(jìn)行參數(shù)a的更新；

(5)根據(jù)式(15)至式(18)進(jìn)行α，β和δ位置的更新，根據(jù)(19)與式(20)更新其余灰狼位置；

(6)判斷是否滿足最大迭代次數(shù)，若滿足算法結(jié)束，否則轉(zhuǎn)至步驟(3)；

4 仿真實(shí)驗(yàn)與分析

4.1 實(shí)驗(yàn)環(huán)境及參數(shù)設(shè)置

將該算法與標(biāo)準(zhǔn)GWO、近期相關(guān)文獻(xiàn)提出的PSO-GWO[7]、IGWO[8]、HGWO[13]進(jìn)行比較。為保證仿真實(shí)驗(yàn)的公平性，運(yùn)行環(huán)境統(tǒng)一為Intel Core i5-1038 NG7 CPU，主頻2.00 GHz，內(nèi)存8 GB，Windows10 64位操作系統(tǒng)，實(shí)驗(yàn)仿真軟件采用MATLAB R2019b。所有對(duì)比算法都統(tǒng)一設(shè)置了30個(gè)搜索代理，進(jìn)行了500次迭代，實(shí)驗(yàn)分別獨(dú)立運(yùn)行30次，并且選取了16組標(biāo)準(zhǔn)測試函數(shù)，其中6組單峰基準(zhǔn)測試函數(shù)、5組多峰基準(zhǔn)測試函數(shù)和5組固定維度多峰基準(zhǔn)測試函數(shù)。取平均值表示搜索的結(jié)果精準(zhǔn)性，30次結(jié)果的方差表示結(jié)果的穩(wěn)定性。對(duì)比測試算法參數(shù)設(shè)置見表1，測試函數(shù)見表2～表4。

表1 測試算法

表2 單峰基準(zhǔn)函數(shù)

表3 多峰基準(zhǔn)函數(shù)

表4 固定維多峰測試函數(shù)

4.2 算法精度分析

各算法的均值見表5，在6個(gè)單峰函數(shù)中，除F5，在F1、F2、F3、F4、F6、BGWO算法的測試均值都優(yōu)于其它4種改進(jìn)算法和經(jīng)典的灰狼算法，達(dá)到了理論最優(yōu)解0。特別是GWO_3，引入重心反向?qū)W習(xí)的最優(yōu)適應(yīng)度權(quán)重更新策略，在除F5之外的其余單峰函數(shù)中，都達(dá)到了理論的最優(yōu)解0。驗(yàn)證了該策略在全局收斂精度上的優(yōu)越性能；對(duì)于高維多峰測試函數(shù)F7-F11，BGWO在所有測試函數(shù)上的尋優(yōu)精度都達(dá)到最優(yōu)，且在函數(shù)F7、F9、F10、F11都收斂至最優(yōu)解。對(duì)于復(fù)雜函數(shù)F8，BGWO逼近理論最優(yōu)解，相對(duì)性能最佳。對(duì)于固定維多峰函數(shù)，BGWO在測試函數(shù)F14、F15、F16展現(xiàn)了其優(yōu)越性，且GWO_2除F15以外的測試，均收斂至最優(yōu)解，可見所提出的非線性搜索策略適用于低維度多峰測試函數(shù)。這也反映出兩種不同的策略，適用于不同的問題空間，且都有其各自的針對(duì)性，而融合兩種策略的BGWO的整體尋優(yōu)精度要優(yōu)于標(biāo)準(zhǔn)GWO和其它改進(jìn)算法。

表5 算法的均值測試結(jié)果

4.3 算法穩(wěn)定性分析

優(yōu)化算法的優(yōu)劣不僅表現(xiàn)在結(jié)果的精準(zhǔn)性，還在于其穩(wěn)定性，表現(xiàn)在尋優(yōu)的方差計(jì)算結(jié)果。如表6單峰基準(zhǔn)測試函數(shù)的方差計(jì)算結(jié)果可知，除F5，BGWO的穩(wěn)定性要超越GWO與其它3種改進(jìn)算法。這是因?yàn)槠湟肓酥匦姆聪驅(qū)W習(xí)的最優(yōu)適應(yīng)度權(quán)重更新策略，在多峰測試函數(shù)中，BGWO在穩(wěn)定性上表現(xiàn)出眾，體現(xiàn)出最優(yōu)適應(yīng)度權(quán)重更新策略改進(jìn)的灰狼算法強(qiáng)大的全局搜索能力。在固定低維度多峰測試函數(shù)F14-F16中，BGWO表現(xiàn)優(yōu)越，且GWO_2函數(shù)在除F15以外所有固定低維度多峰測試函數(shù)中都有著穩(wěn)定的效果，驗(yàn)證了非線性收斂因子策略適用于固定低維度多峰問題。

表6 算法的方差測試結(jié)果

4.4 算法收斂速度分析

在收斂速度方面，分別選取單峰函數(shù)F1、F4、F5，多峰函數(shù)F7、F8、F11，固定維多峰函數(shù)F14、F15、F16進(jìn)行測試，為了讓收斂效果更加明顯，將目標(biāo)函數(shù)值取log變換，收斂曲線如圖3所示。從單峰測試函數(shù)可以清晰地看出，BGWO與GWO_3算法在迭代次數(shù)不到100的時(shí)候，便與其它算法有了明顯差別，且能快速地收斂于全局最優(yōu)，這是因?yàn)橐胫匦姆聪驅(qū)W習(xí)的最優(yōu)適應(yīng)度權(quán)重更新策略，從而優(yōu)化了算法的收斂速度與精度。從多維測試函數(shù)可以看出，BGWO在50次左右迭代后便收斂至全局最優(yōu)，特別是從F8中可以發(fā)現(xiàn)，BGWO在保持快速收斂速度的同時(shí)，其搜索精度表現(xiàn)優(yōu)越，這得益于引入新型非線性控制參數(shù)。綜上所述，使用重心反向?qū)W習(xí)的最優(yōu)適應(yīng)度權(quán)重更新策略能夠穩(wěn)定快速地尋到最優(yōu)值，且具有優(yōu)秀的精準(zhǔn)性。新型非線性控制參數(shù)能有效地防止算法陷入局部最優(yōu)，能夠更穩(wěn)定地尋找全局最優(yōu)值。融合了兩種策略BGWO，相對(duì)于標(biāo)準(zhǔn)灰狼算法和其它改進(jìn)算法，在提高收斂速度的同時(shí)增加了精度。但是，沒有免費(fèi)午餐定理(no free lunch，NFL)[14]指出，任何一種優(yōu)化算法不可能解決所有類型的優(yōu)化問題，只對(duì)某些特定的問題有效。在實(shí)際應(yīng)用中，應(yīng)該針對(duì)目標(biāo)函數(shù)的特性，選擇不同的策略，進(jìn)而可以獲得更好的求解效果。

圖3 函數(shù)的尋優(yōu)收斂曲線

5 旋風(fēng)分離器效率建模參數(shù)優(yōu)化問題

PV型旋風(fēng)分離器是一種高效的氣固分離器，目前已廣泛應(yīng)用于高溫高壓和高含塵濃度條件的工業(yè)領(lǐng)域，其分離效率是評(píng)價(jià)一臺(tái)旋風(fēng)分離器性能的重要參數(shù)[15]。但是通過實(shí)驗(yàn)獲取其效率時(shí)間經(jīng)濟(jì)代價(jià)昂貴，因此，通過機(jī)器學(xué)習(xí)方法獲得效率預(yù)測模型對(duì)于工業(yè)生產(chǎn)是非常必要的。PV型旋風(fēng)分離器結(jié)構(gòu)如圖4所示。

圖4 PV型旋風(fēng)分離器結(jié)構(gòu)

5.1 GBDT建模方法

GBDT是梯度提升決策樹(gradient boosting decision tree)[16]的簡稱，是一種用于回歸、分類和排序任務(wù)的機(jī)器學(xué)習(xí)技術(shù)。同其它Boost方法一樣，通過集成多個(gè)弱學(xué)習(xí)器，來構(gòu)建最終的預(yù)測模型。弱分類器個(gè)數(shù)、學(xué)習(xí)率、樹的最大深度、分裂時(shí)最少的樣本量的選取直接影響著它的魯棒性，集成學(xué)習(xí)模型如圖5所示。

圖5 集成學(xué)習(xí)模型

5.2 輸入輸出變量設(shè)計(jì)

(21)

(22)

為保證公平性，PSO、GWO、BGWO算法種群數(shù)統(tǒng)一設(shè)置為40，算法迭代次數(shù)設(shè)置為50次，參數(shù)區(qū)間見表7。

利用訓(xùn)練集進(jìn)行5-fold交叉驗(yàn)證來計(jì)算不同參數(shù)組合預(yù)測值與真實(shí)值的均方誤差，其適應(yīng)度函數(shù)F為5次預(yù)測值和真實(shí)值的均方誤差的平均值，其表達(dá)式如下

(23)

5.3 參數(shù)選擇結(jié)果

BGWO算法尋優(yōu)過程如圖6所示，最終尋優(yōu)結(jié)果見表8。可以看出，BGWO算法在迭代過程既保留了前期勘探能力，又不失后期開采的精度，其適應(yīng)度達(dá)到了0.001 59。

表8 算法尋優(yōu)結(jié)果

圖6 BGWO迭代過程

5.4 模型預(yù)測分析

測試數(shù)據(jù)預(yù)測結(jié)果見表9，預(yù)測效果如圖7所示，BGWO模型奇偶如圖8所示。

表9 算法預(yù)測結(jié)果

圖7 預(yù)測效果

圖8 BGWO-GBDT模型奇偶

由表9和圖7可以看出，相比較其它兩種預(yù)測模型，預(yù)測目標(biāo)變量BGWO-GBDT模型的相關(guān)系數(shù)比GWO-GBDT、PSO-GBDT分別提高0.021與0.035；在均方誤差上BGWO-GBDT比GWO-GBDT、PSO-GBDT分別降低了0.000 84與0.0014，也進(jìn)一步驗(yàn)證了改進(jìn)策略的有效性。

圖8顯示基于BGWO-GBDT的PV旋風(fēng)分離器代理模型不論在訓(xùn)練集還是在測試集上都達(dá)到了最佳的效果，有效解決了通過重復(fù)實(shí)驗(yàn)機(jī)理建模的昂貴代價(jià)問題。接下來可對(duì)PV型旋風(fēng)分離器的參數(shù)選擇設(shè)計(jì)進(jìn)行指導(dǎo)。

6 結(jié)束語

本文首先采用立方映射定義初始種群，為全局搜索奠定良好基礎(chǔ)；對(duì)群體在進(jìn)化階段位置更新的鄰域進(jìn)行了分析，引入了非線性控制參數(shù)，增強(qiáng)算法前期勘探能力，加快收斂速度；最后引入適應(yīng)度反向?qū)W習(xí)策略，平衡了算法的勘探與開發(fā)，降低陷入局部最優(yōu)的可能。通過16組測試函數(shù)仿真表明，適應(yīng)度反向?qū)W習(xí)的更新策略適用于高維單峰與多峰函數(shù)，并在精度及穩(wěn)定性方面優(yōu)勢明顯；在固定維多峰測試函數(shù)中，非線性控制參數(shù)表現(xiàn)出更好的性能，提高了算法收斂速度。最后用BGWO對(duì)GBDT的旋風(fēng)分離器效率模型參數(shù)進(jìn)行優(yōu)化，與其它兩種預(yù)測模型對(duì)比，BGWO-GBDT取得了最高的R2及最小的MSE。結(jié)果表明該代理模型的預(yù)測精度較高，可靠性好，能有效解決昂貴代價(jià)的工業(yè)數(shù)據(jù)建模問題。