基于神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)分布評(píng)估的多目標(biāo)差分算法

李艷瑋，鄭偉勇

（河南工程學(xué)院 計(jì)算機(jī)學(xué)院，河南 鄭州451191）

0 引 言

進(jìn)化算法的優(yōu)化機(jī)制與多目標(biāo)問(wèn)題的特性之間存在一定的偏差［1，2］，前者主要利用種群中個(gè)體之間的局部梯度信息以及隨機(jī)擾動(dòng)信息，缺乏全局性的導(dǎo)向；后者往往需要在解空間中獲取寬廣分布的優(yōu)化曲面 （線），要求算法具有較強(qiáng)的全局探索能力［3］。分布估計(jì)算法是一種基于統(tǒng)計(jì)分析的新型優(yōu)化算法，利用當(dāng)前種群的取值來(lái)評(píng)估最優(yōu)解集的全局分布特性，進(jìn)而通過(guò)基于統(tǒng)計(jì)模型的采樣過(guò)程產(chǎn)生新的個(gè)體，反過(guò)來(lái)又進(jìn)一步更新采樣模型，最終推動(dòng)算法的迭代演進(jìn)［4］，顯現(xiàn)出了良好的全局尋優(yōu)性能［5］，但卻嚴(yán)重依賴于統(tǒng)計(jì)模型的準(zhǔn)確性，由于種群中個(gè)體數(shù)量以及函數(shù)計(jì)算資源都是有限的，會(huì)使得分布估計(jì)的模型與真實(shí)結(jié)果存在偏差。為此，提出了一種基于神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)分布評(píng)估的多目標(biāo)差分進(jìn)化算法 （MDE－ED－ASM），在流形空間中分區(qū)域建立不同的分布估計(jì)模型，采用基于神經(jīng)網(wǎng)絡(luò)的代理模型來(lái)增加分布估計(jì)的統(tǒng)計(jì)樣本和保持樣本的準(zhǔn)確度。同時(shí)，設(shè)計(jì)了自適應(yīng)參量來(lái)調(diào)整差分進(jìn)化算法和分布估計(jì)算法的選擇概率，利用高效的差分進(jìn)化算法來(lái)引導(dǎo)種群的分布趨勢(shì)。

1 相關(guān)描述

多目標(biāo)優(yōu)化問(wèn)題是在解空間x∈S∈Rn（n為變量x 的維數(shù)）中同時(shí)求取函數(shù)向量F＝ ｛f1，f2，…，fm，m≥2｝的極值 （假設(shè)求取最小值）。由于函數(shù)之間存在相互制約的關(guān)系，因此不存在能同時(shí)達(dá)到各個(gè)函數(shù)極值的單一解，而是最終得到一些由Pareto占優(yōu)概念確定的折中解集，稱為Pareto占優(yōu)解集。對(duì)于該解集中的任意一個(gè)解x＊ （稱為Pareto占優(yōu)解），不存在任何一個(gè)解變量x∈S 使得：fi（x）≤fi（x＊），i＝1，2，…，m，且至少在一個(gè)函數(shù)上滿足fi（x）＜fi（x＊）。而折中解集內(nèi)部的解表現(xiàn)為：若在一部分函數(shù)上取值優(yōu)于其它解，則必然在另一部分函數(shù)上取值差于其它解。

進(jìn)化算法、分布估計(jì)算法和代理模型在求解多目標(biāo)問(wèn)題中的作用如圖1所示。

圖1 相關(guān)概念在求解多目標(biāo)問(wèn)題中的作用

進(jìn)化算法在每一次迭代過(guò)程中，將父代種群Pt＝ ｛xi，i＝1，2，…，p｝通過(guò)選擇操作Θ1、交叉操作Θ2和變異操作Θ3得到子代種群P’t＝ ｛x～i，i＝1，2，…，p｜x～i＝Θ3（Θ2（Θ1（xi）））｝，再依據(jù)Pareto占優(yōu)概念實(shí)現(xiàn)更新操作U，得到新的父代種群Pt＋1＝U （Pt，P’t），經(jīng)過(guò)若干代后，種群中滿足Pareto占優(yōu)概念的個(gè)體即為最優(yōu)解集。而分布估計(jì)算法則認(rèn)為最優(yōu)解集服從某一分布模型M（θ1，θ2，…，θl），并假設(shè)當(dāng)前種群Pt中的部分或全部個(gè)體反映了最優(yōu)解集的分布情況。其通過(guò)統(tǒng)計(jì)評(píng)估操作E 可以得到模型參數(shù)的估計(jì)值，，…，＝E（Pt），再基于這些估計(jì)值進(jìn)行模型采樣操作A，得到服從最優(yōu)解集分布規(guī)律的新個(gè)體＝A（M（，，…，）），再用這些新個(gè)體依據(jù)Pareto占優(yōu)概念更新種群，進(jìn)而提升參數(shù)的估計(jì)值。如此螺旋上升，使得最終參數(shù)估計(jì)值趨近于真實(shí)值，采樣所得解集也趨近于理論最優(yōu)解集。代理模型鑒于當(dāng)前有限的種群數(shù)量會(huì)影響參數(shù)估計(jì)值的精度，而增加個(gè)體數(shù)量會(huì)增多函數(shù)調(diào)用的資源，提出采用當(dāng)前已知的若干最優(yōu)解來(lái)建立變量與目標(biāo)函數(shù)之間的映射關(guān)系F（x）＝Ψ（x），使得代理模型Ψ能夠在一定精度下取代函數(shù)F 的調(diào)用，且計(jì)算速度快于F。代理模型所得解集P＊t與進(jìn)化算法所得種群P’t混合得到更多的評(píng)估樣本，提高了分布估計(jì)的精度。

2 算法設(shè)計(jì)

2.1 分布估計(jì)模型設(shè)計(jì)

依據(jù)Karush－Kuhn－Tucker條件，連續(xù)多目標(biāo)優(yōu)化問(wèn)題對(duì)應(yīng)的最優(yōu)解集在解空間中是分段分布在多個(gè)流形上的［6］。因此，為了更好評(píng)估最優(yōu)解集的分布形式，文中提出的算法MDE－ED－ASM 在建立分布估計(jì)模型M 時(shí)，先將待抽取的解集做處理：

（1）將所有個(gè)體在解變量空間下分成c類，其中每次聚類時(shí)c的取值由前一次所構(gòu)建的代理模型數(shù)量確定，每個(gè)代理模型有一個(gè)類中心，解變量的類別歸屬原則為選擇歐式距離最近的類中心；

（2）假設(shè)第k類的個(gè)體數(shù)量為nk，則記nk個(gè)個(gè)體的均值為ak，對(duì)其進(jìn)行主成分分析，即按式 （1）求取其協(xié)方差矩陣Rk，再求取Rk的特征值和特征向量，j＝1，2，…，n，其中特征值滿足λkj≥λk（j＋1），再根據(jù)式 （2）設(shè)定的累積貢獻(xiàn)率η來(lái)確定主元的數(shù)量q。基于上述主成分分析所得參數(shù)，本文算法可得到每個(gè)類對(duì)應(yīng)的觀察窗口Φk和窗口的高斯噪聲σk，而該類所在區(qū)域的最優(yōu)解集即均勻分布在此觀察窗口Φk中。具體而言，將第k類中所有個(gè)體按照式 （3）投影到前q個(gè)主元中，以確定觀察窗口Φk的上界和下界。再考慮到類中個(gè)體未必能完全覆蓋所處的流形區(qū)域，因此將上下界按照式 （4）做進(jìn)一步的擴(kuò)展，即得到最終的Φk。高斯噪聲σk則代表了窗口的觀察誤差，其按照式（5）計(jì)算得到?？梢?jiàn)，Φk和σk即為本文算法在統(tǒng)計(jì)評(píng)估操作E 中所求取的模型參數(shù)θ1，θ2，…，θl

其中，Ck表示第k 類樣本所在的類集合，α表示擴(kuò)展系數(shù)，本文設(shè)定為10%。

在采樣操作階段，首先產(chǎn)生一個(gè)臨時(shí)變量y，該變量的每一維均從觀察窗口Φk對(duì)應(yīng)維數(shù)的上下界之間隨機(jī)生成。然后再生成一個(gè)變量ε，其每一維由均值為0，方差為σk的高斯函數(shù)生成。新生成的個(gè)體即為變量y 和ε的疊加，若在某一維上疊加的結(jié)果超出解空間的邊界，則在解空間所確定的范圍內(nèi)隨機(jī)生成該維的取值。本文設(shè)定對(duì)每個(gè)分布估計(jì)模型采樣相同數(shù)量的樣本，這樣有助于個(gè)體總數(shù)較少的類也產(chǎn)生大量的新個(gè)體，從而加強(qiáng)了空間中稀疏區(qū)域解的密度。

2.2 代理模型設(shè)計(jì)

采用了多個(gè)神經(jīng)網(wǎng)絡(luò)模型分區(qū)域布置的架構(gòu)。其原因不僅在于最優(yōu)解集是分段分布在不同流形上的，并且從變量x到F 的函數(shù)映射形式也通常較為復(fù)雜，單一的神經(jīng)網(wǎng)絡(luò)模型是無(wú)法準(zhǔn)確約近函數(shù)映射關(guān)系的［7］。設(shè)計(jì)的代理模型具有3個(gè)設(shè)計(jì)特點(diǎn)：①利用主成分分析方法將解變量映射到主元空間中，以減少神經(jīng)網(wǎng)絡(luò)的節(jié)點(diǎn)規(guī)模；②采用基于高斯核的徑向基 （RBF）神經(jīng)網(wǎng)絡(luò)來(lái)提高代理模型的逼近效果；③在不同的類數(shù)取值下利用聚類算法劃分出不同的區(qū)域，通過(guò)超體積指標(biāo)測(cè)試不同類數(shù)下神經(jīng)網(wǎng)絡(luò)模型集的精度，得出最佳的區(qū)域劃分?jǐn)?shù)量。

假設(shè)構(gòu)建c個(gè)神經(jīng)網(wǎng)絡(luò)模型，構(gòu)建模型用的解集存入一個(gè)設(shè)定最大容量的訓(xùn)練樣本池，記為T(mén)P，其元素的變量取值和目標(biāo)函數(shù)值都是已知的。解集TP 的來(lái)源為分布估計(jì)算法和差分進(jìn)化算法所產(chǎn)生子代中的Pareto占優(yōu)個(gè)體。本文方法首先用K 均值算法將解集TP 劃分為c 類，c∈［2，cmax］。由于每一類樣本將用于構(gòu)建一個(gè)代理模型，樣本過(guò)少將無(wú)法有效完成模型的訓(xùn)練過(guò)程。因此當(dāng)K 均值聚類結(jié)果中某一類的樣本數(shù)量少于閾值δ時(shí)，則計(jì)算該類樣本與其它各類中心的歐式距離，按照最近原則并入其余類中。再隨機(jī)選取一個(gè)樣本數(shù)量大于2δ的類，選擇其中距離類中心最遠(yuǎn)的樣本s1和距離s1最遠(yuǎn)的樣本s2，將其余樣本按照距離s1和s2的遠(yuǎn)近劃分成兩個(gè)新的類。對(duì)于每一個(gè)類的樣本，采用與分布估計(jì)模型設(shè)計(jì)中類似的步驟進(jìn)行主成分分析，得到相應(yīng)的主元數(shù)量q和特征向量v’kj，j＝1，2，…，n，再將類中樣本依照式 （6）投影到主元空間中，得到維數(shù)為q的投影向量z，再以此作為神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)個(gè)數(shù)

本文具體選擇訓(xùn)練速度快，非線性映射能力強(qiáng)的RBF神經(jīng)網(wǎng)絡(luò)作為具體的代理模型。其輸入節(jié)點(diǎn)數(shù)、隱含層節(jié)點(diǎn)數(shù) （即徑向基的個(gè)數(shù)）和輸出節(jié)點(diǎn)數(shù)分別設(shè)置為q、2q和m。其余參數(shù)，包括各個(gè)徑向基的方差、基函數(shù)中心以及隱含層與輸出層之間的權(quán)重，均以最小化輸出誤差的平方和為目標(biāo)函數(shù)，采用最速梯度法進(jìn)行有監(jiān)督學(xué)習(xí)來(lái)確定。

在所提算法中，類數(shù)c是分布估計(jì)模型和代理模型中的重要參數(shù)，其顯著影響了算法關(guān)于最優(yōu)解集所在分段流形空間的建模精度。因此，本文將類c從2 逐漸增加，在每種類數(shù)下進(jìn)行聚類和神經(jīng)網(wǎng)絡(luò)訓(xùn)練，再?gòu)闹羞x取最好訓(xùn)練結(jié)果對(duì)應(yīng)的類數(shù)為最終確定的類數(shù)。又由于神經(jīng)網(wǎng)絡(luò)模型以最小化輸出與真實(shí)函數(shù)值的誤差為目標(biāo)，不能很好顧及最優(yōu)解集要全面均勻逼近最優(yōu)曲面 （線）的準(zhǔn)則，即可能出現(xiàn)曲面上某些小的區(qū)域精度高，其余大而樣本少的區(qū)域精度低。因此，本文采用超體積指標(biāo)作為評(píng)價(jià)神經(jīng)網(wǎng)絡(luò)集的訓(xùn)練結(jié)果好壞的標(biāo)準(zhǔn)。該指標(biāo)通常用于全面評(píng)價(jià)多目標(biāo)優(yōu)化算法所得結(jié)果的質(zhì)量［8，9］，如式 （7）所示

其中，IH （·）稱為超體積測(cè)度，由文獻(xiàn) ［10］所述計(jì)算方法獲得。其取值越小則說(shuō)明解集的質(zhì)量越好。在具體操作中，首先將類數(shù)為c時(shí)每一類的樣本等分為兩份，一份用于完成前述神經(jīng)網(wǎng)絡(luò)的訓(xùn)練；另一部分作為驗(yàn)證樣本，利用得到的神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)函數(shù)值Ψ（x），將Ψ（x）和F（x）代入式 （7）中進(jìn)行計(jì)算，再將所有類的超體積指標(biāo)值求和，求和值最小時(shí)對(duì)應(yīng)的c值即為最佳聚類類數(shù)。

2.3 算法混合機(jī)制的設(shè)計(jì)

代理模型通過(guò)提供大量可靠樣本來(lái)提升分布估計(jì)模型的性能，但客觀上其預(yù)測(cè)值總是會(huì)與實(shí)際函數(shù)值存在差異，而差分進(jìn)化算法則在現(xiàn)有優(yōu)化解集上進(jìn)行高效搜索以提供若干均勻分布且取值準(zhǔn)確的樣本，可加速實(shí)現(xiàn)分布估計(jì)模型的校準(zhǔn)本文選用的差分算子為DE／current－to－rand／1［11］，其具有較好的探索能力，不易導(dǎo)致強(qiáng)收斂到單個(gè)極值，并且變異和交叉操作整合到同一公式中，形式簡(jiǎn)單，如式 （8）所示

式中：β—— ［0，1］之間隨機(jī)選取的參數(shù)，r——比例因子，本文設(shè)定為 ［0.05，，0.95］之間隨機(jī)選取，xi、x1、x2和x3——隨機(jī)選取的4個(gè)不同個(gè)體。

算法MDE－ED－ASM 中每個(gè)子代個(gè)體依概率ps選擇由分布估計(jì)模型生成，或者由差分進(jìn)化算法生成。概率ps在初始時(shí)取為0.5，此后隨著分布估計(jì)模型的更新而根據(jù)式（9）自適應(yīng)的變化

式中：Δ——當(dāng)前各個(gè)流行區(qū)間上分布估計(jì)模型的整體噪聲幅度，取值越大說(shuō)明當(dāng)前模型的分布估計(jì)精度受噪聲的影響越大。而Δ1和Δ2分別表示了前一次的噪聲幅度和當(dāng)前的噪聲幅度，（Δ1－Δ2）的取值大于零則說(shuō)明分布估計(jì)模型的精度提升，更多的個(gè)體可以用分布估計(jì)模型來(lái)生成，以加強(qiáng)全局搜索能力，取值小于零則需要更多調(diào)用差分算子來(lái)糾正算法的優(yōu)化方向。

2.4 算法流程

基于上述模型的闡述，算法MDE－ED－ASM 的運(yùn)行流程可描述為：

步驟1 隨機(jī)生成p 個(gè)個(gè)體，記為父代種群Pt，令代數(shù)t＝0，計(jì)算中每個(gè)個(gè)體的目標(biāo)函數(shù)值，并按照Pareto占優(yōu)概念選出Pareto占優(yōu)解集，放入訓(xùn)練池TP中；

步驟2 當(dāng)t＜ta時(shí)，按照差分進(jìn)化算法的流程產(chǎn)生新個(gè)體并更新父代種群，同時(shí)將每代得到的Pareto占優(yōu)解放入訓(xùn)練池TP 中，若TP 中已有的解相對(duì)于新放入解不再Pareto占優(yōu)，則予以剔除，若TP中的解數(shù)量超出最大值，則按照Pareto占優(yōu)和擁擠距離概念［12］予以約簡(jiǎn)；

步驟3 當(dāng)t≥ta時(shí)，依照概率ps決定每個(gè)子代個(gè)體是由差分算子或分布估計(jì)模型生成，同時(shí)在每代的末尾更新訓(xùn)練池TP；

步驟4 當(dāng)t＝ta時(shí)，利用父代種群構(gòu)建分布估計(jì)模型，此時(shí)的類數(shù)c在 ［2，cmax］之間隨機(jī)選??；

步驟5 當(dāng)t＞ta且t除以ta的余數(shù)為0時(shí)，將訓(xùn)練池中的樣本按照2.2節(jié)所述方法處理，構(gòu)建神經(jīng)網(wǎng)絡(luò)模型集，并從已有分布估計(jì)模型中采樣生成10p 個(gè)樣本，用神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)出相應(yīng)的目標(biāo)函數(shù)值Ψ（x），然后根據(jù)Ψ（x）選出其中的Pareto占優(yōu)解，將這些解和父代種群Pt一并作為抽取樣本，用于更新分布估計(jì)模型，此外，根據(jù)更新前后的噪聲幅度Δ1和Δ2，對(duì)概率ps進(jìn)行更新；

步驟6 當(dāng)t＝tmax時(shí)，將父代中的Pareto占優(yōu)解集作為最終優(yōu)化結(jié)果輸出。

3 驗(yàn)證與分析

為了驗(yàn)證所提模型的有效性，選擇3 個(gè)二維問(wèn)題及2個(gè)高維多目標(biāo)優(yōu)化問(wèn)題作為測(cè)試對(duì)象，并選擇經(jīng)典多目標(biāo)優(yōu)化算法NSGA－II［13］和多目標(biāo)分布估計(jì)算法RM－MEDA［6］作為對(duì)比算法。其中記二維問(wèn)題記為F1、F2和F3，F(xiàn)1為2009年進(jìn)化計(jì)算年會(huì) （CEC2009）［13］上提出的多目標(biāo)測(cè)試用例中的第一個(gè)測(cè)試函數(shù)，F(xiàn)2和F3分別與文獻(xiàn) ［6］中所使用的問(wèn)題標(biāo)號(hào)相對(duì)應(yīng)，而高維優(yōu)化問(wèn)題F4和F5分別對(duì)應(yīng)CEC2009上提出的多目標(biāo)測(cè)試用例中的兩個(gè)5維優(yōu)化問(wèn)題R2＿DTLZ2＿M(jìn)5和R2＿DTLZ3＿M(jìn)5。所提算法的相關(guān)參數(shù)設(shè)置如下所示：設(shè)置種群大小p 為100，訓(xùn)練池TP為500，參數(shù)ta為20，cmax為10，最大函數(shù)調(diào)用次數(shù)為50000次，即最大代數(shù)tmax為500代。所有算法均在達(dá)到最大函數(shù)調(diào)用次數(shù)時(shí)停止，每種算法獨(dú)立運(yùn)行25次，記錄每次所得最優(yōu)解集的逆廣義距離指標(biāo)IGD 和超體積指標(biāo)IH－［14］，統(tǒng)計(jì)這25 次的指標(biāo)均值作為評(píng)價(jià)算法性能的標(biāo)準(zhǔn)，取值越小說(shuō)明算法的優(yōu)化性能越好。3 種算法的測(cè)試結(jié)果見(jiàn)表1。

表1中加粗部分表示對(duì)應(yīng)算法在該函數(shù)上的優(yōu)化結(jié)果最好?？梢园l(fā)現(xiàn)，所提算法MDE－ED－ASM 除了在函數(shù)F3上的超體積指標(biāo)略差于RM－MEDA 以外，其余的測(cè)試結(jié)果均好于其它算法；MDE－ED－ASM 和RM－MEDA 均采用分布估計(jì)的方法加強(qiáng)全局優(yōu)化能力，獲得的測(cè)試結(jié)果也表明算法性能好于無(wú)分布估計(jì)方法的NSGA－II；MDE－EDASM 在高維問(wèn)題F4 和F5 上的測(cè)試結(jié)果明顯好于RMMEDA，也表明所提算法在處理高維問(wèn)題時(shí)未出現(xiàn)明顯的性能衰退。

表1 3種算法的測(cè)試結(jié)果對(duì)比

與RM－MEDA 相比，算法MDE－ED－ASM 利用代理模型和差分進(jìn)化來(lái)加強(qiáng)分布估計(jì)的性能。為了分析這兩種措施的作用，設(shè)計(jì)了兩個(gè)對(duì)比算法，第一種算法去除代理模型，只用差分進(jìn)化和分布估計(jì)得到的子代個(gè)體來(lái)更新分布估計(jì)模型，記為MDE－ED，此時(shí)分布估計(jì)中的類數(shù)隨機(jī)生成；第二種算法將差分進(jìn)化算子替換為式 （10）中的普通算術(shù)交叉算子，記為MGA－ED－ASM

以測(cè)試問(wèn)題F1和F4為研究對(duì)象，算法的對(duì)比結(jié)果見(jiàn)表2。

表2 代理模型和差分算子的性能分析

可見(jiàn)代理模型顯著提升了所提算法的性能，而差分進(jìn)化算子也使得算法有一定的提升。為了進(jìn)一步說(shuō)明二者的性能，本文記錄了各個(gè)算法優(yōu)化函數(shù)F1時(shí)，在進(jìn)化過(guò)程中第100代到第5000代之間的一些取值變化情況。這些值包括算法在相應(yīng)代數(shù)所得Pareto占優(yōu)解集的IGD 值，代理模型所確定的最佳類數(shù)c，以及反映分布估計(jì)模型精度的噪聲幅度值Δ，分別如圖2～圖4所示。

從圖2結(jié)果顯示MGA－ED－ASM 采用普通的交叉算子后，盡管最終也得到了較好的IGD 指標(biāo)，但其相比于MDE－ED－ASM，花費(fèi)了更多的函數(shù)調(diào)用次數(shù)才得到同等量級(jí)的優(yōu)化結(jié)果，而MDE－ED的效果則更差，甚至無(wú)法得到較高量級(jí)的指標(biāo)。

圖2 代理模型和差分算子對(duì)IGD 值的影響

圖3 代理模型和差分算子對(duì)類數(shù)c值的影響

圖4 代理模型和差分算子對(duì)概率ps 值的影響

從圖3結(jié)果顯示MGA－ED－ASM 能夠更好的估計(jì)出一個(gè)穩(wěn)定的最佳類數(shù)c，該值在F1函數(shù)中為7，而該函數(shù)最優(yōu)解集在解空間中的流形分布可以看作是7段一維流形構(gòu)成的?？梢?jiàn)MGA－ED－ASM 估計(jì)出的類數(shù)較為準(zhǔn)確地反映了流形的真實(shí)結(jié)構(gòu)。

從圖4結(jié)果顯示MGA－ED 的選擇概率整體向上爬升，但進(jìn)化中出現(xiàn)較大的抖動(dòng)。這是由于去除代理模型后，分布估計(jì)模型缺少足夠的樣本，影響了評(píng)估精度，需要更多借助差分算子來(lái)改善性能。

4 結(jié)束語(yǔ)

設(shè)計(jì)的基于分布估計(jì)和差分進(jìn)化的多目標(biāo)優(yōu)化算法提出了基于RBF神經(jīng)網(wǎng)絡(luò)的代理模型，有效建立了分布估計(jì)模型、代理模型與Pareto最優(yōu)解集所處流形之間的映射關(guān)系。通過(guò)多組優(yōu)化問(wèn)題的測(cè)試和分析驗(yàn)證了所提算法的性能。其整體性能好于同樣適用分布估計(jì)模型的算法RMMEDA。此外，實(shí)驗(yàn)分析也表明差分算子和代理模型能夠加快算法的優(yōu)化速度，使其在同樣函數(shù)調(diào)用次數(shù)下得到更好的優(yōu)化結(jié)果。而代理模型中采用超體積指標(biāo)自適應(yīng)確定最佳類數(shù)c的方法，既避免了參數(shù)設(shè)置的問(wèn)題，又較為準(zhǔn)確評(píng)估出了流形的分段數(shù)量，提升了分布估計(jì)模型和代理模型的性能。

［1］GONG Maoguo，JIAO Licheng，YANG Dongdong，et al.Research on evolutionary multi－objective optimization algorithms［J］.Journal of Software，2009，20 （2）：271－289 （in Chinese）.［公茂果，焦李成，楊咚咚，等.進(jìn)化多目標(biāo)優(yōu)化算法研究 ［J］.軟件學(xué)報(bào)，2009，20 （2）：271－289.］

［2］Zhou A，Qu BY，Li H，et al.Multiobjective evolutionary algorithms：A survey of the state of the art［J］.Swarm and Evolutionary Computation，2011，1 （1）：32－49.

［3］KONG Weijian，DING Jinliang，CHAI Tianyou.Survey on large－dimensional multi－objective evolutionary algorithms ［J］.Control and Decision，2010，25 （3）：321－326 （in Chinese）.［孔維健，丁進(jìn)良，柴天佑.高維多目標(biāo)進(jìn)化算法研究綜述［J］.控制與決策，2010，25 （3）：321－326.］

［4］LIANG Yujie，XU Feng.Adaptive hybrid multi－objective estimation of distribution evolutionary algorithm ［J］.Computer Engineering and Applications，2014，50 （5）：46－50 （in Chinese）.［梁玉潔，許峰.自適應(yīng)混合多目標(biāo)分布估計(jì)進(jìn)化算法［J］.計(jì)算機(jī)工程與應(yīng)用，2014，50 （5）：46－50.］

［5］LI Li，LI Yanyan.Multi－objective clustering ensemble algorithm based on knees solutions and differential evolution ［J］.Computer Engineering and Design，2014，35 （8）：2912－2916（in Chinese）.［李莉，李妍琰.基于熱點(diǎn)解和差分進(jìn)化的多目標(biāo)聚類集成算法 ［J］.計(jì)算機(jī)工程與設(shè)計(jì)，2014，35 （8）：2912－2916.］

［6］Zhang Q，Zhou A，Jin Y.RM－MEDA：A regularity modelbased multiobjective estimation of distribution algorithm ［J］.IEEE Transactions on Evolutionary Computation，2008，12（1）：41－63.

［7］LONG Teng，GUO Xiaosong，PENG Lei，et al.Optimization strategy using dynamic radial basis function metamodel based on trust region ［J］.Chinese Journal of Mechanical Engineering，2014，50 （7）：184－190 （in Chinese）.［龍騰，郭曉松，彭磊，等.基于信賴域的動(dòng)態(tài)徑向基函數(shù)代理模型優(yōu)化策略 ［J］.機(jī)械工程學(xué)報(bào)，2014，50 （7）：184－190.］

［8］LI Miqing，ZHENG Jinhua.An indicator for assessing the spread of solutions in multi－objective evolutionary algorithm［J］.Chiness Journal of Computers，2011，34 （4）：647－664（in Chinese）.［李密青，鄭金華.一種多目標(biāo)進(jìn)化算法解集分布廣度評(píng)價(jià)方法［J］.計(jì)算機(jī)學(xué)報(bào)，2011，34 （4）：647－664.］

［9］Ulrich T，Bader J，Zitzler E.Integrating decision space diversity into hypervolume－based multiobjective search ［C］／／In Proceeding of 12th Annual Conference on Genetic and Evolutionary Computation，2010：455－462.

［10］Bader J，Zitzler E.HypE：An algorithm for fast hypervolume－based many－objective optimization ［J］.Evolutionary Computation，2011，19 （1）：45－76.

［11］Mininno E，Neri，Cupertino F，et al.Compact differential evolution ［J］.IEEE Transactions on Evolutionary Computation，2011，15 （1）：32－54.

［12］ZHAN Teng，ZHANG Yi，ZHU Dalin，et al.Cellular multi－objective genetic algorithm based on multi－strategy differential evolution ［J］.Computer Integrated Manufacturing Systems，2014，20 （6）：1342－1351 （in Chinese）. ［詹騰，張屹，朱大林，等.基于多策略差分進(jìn)化的元胞多目標(biāo)遺傳算法［J］. 計(jì)算機(jī)集成制造系統(tǒng)，2014，20 （6）：1342－1351.］

［13］LI Xueqiang，HAO Zhifeng，HUANG Han.Multi－objective evolutionary algorithm based on direction selection search ［J］.Journal of South China University of Technology （Natural Science Edition），2011，39 （2）：130－135 （in Chinese）.［李學(xué)強(qiáng)，郝志峰，黃翰.基于分方向選擇搜索的多目標(biāo)進(jìn)化算法 ［J］.華南理工大學(xué)學(xué)報(bào) （自然科學(xué)版），2011，39 （2）：130－135.］

［14］JIANG Yanjun，JIANG Jianguo，ZHANG Yuhua.Objectoriented reconfiguration of shipboard power network using multi－objective grid evolutionary algorithm ［J］.Electric Power Automation Equipment，2013，33 （3）：26－32 （in Chinese）.［蔣燕君，姜建國(guó)，張宇華.采用多目標(biāo)網(wǎng)格進(jìn)化算法并面向?qū)ο蟮呐灤娋W(wǎng)重構(gòu) ［J］.電力自動(dòng)化設(shè)備，2013，33 （3）：26－32.］