基于混合加點準則的代理模型優(yōu)化設計方法

李正良，彭思思，王 濤

(1. 重慶大學土木工程學院，重慶 400045；2. 山地城鎮(zhèn)建設與新技術教育部重點實驗室(重慶大學)，重慶 400045)

隨著計算機建模分析能力的不斷提高，在工程優(yōu)化設計領域中，采用有限元分析或計算流體動力學技術進行結構分析成為獲取實際響應的主要手段。然而，數(shù)值仿真模型缺乏與設計變量相關的目標函數(shù)及約束函數(shù)的顯式表達式，屬于“黑箱問題”，基于顯式、連續(xù)函數(shù)梯度信息的傳統(tǒng)優(yōu)化算法不再適用；且數(shù)值仿真模擬往往需要耗費大量的時間，使得遺傳算法[1]、粒子群算法[2]等一系列現(xiàn)代啟發(fā)式群算法在優(yōu)化設計中的計算成本變得難以接受。

幸運的是，隨著代理模型的發(fā)展以及代理模型技術在優(yōu)化設計中的應用，上述問題在一定程度上得以緩解[3]。代理模型技術通過一定數(shù)量的設計變量樣本及相應的響應值，建立輸入與輸出的近似函數(shù)關系。將代理模型與優(yōu)化算法相結合，形成了一類基于代理模型的優(yōu)化(surrogate-based optimization, SBO)方法，能大幅減少優(yōu)化過程中的計算量，提高優(yōu)化設計的效率。最初這一方法被應用于“一步”優(yōu)化設計框架中[4]，直接使用一次抽樣所得樣本建立代理模型進行優(yōu)化求解，不涉及加點過程，所得代理模型精度往往難以保證，且優(yōu)化結果偏差較大。而序列優(yōu)化設計能夠通過自適應地添加新樣本，提高代理模型精度、降低優(yōu)化誤差，因此，基于代理模型的序列優(yōu)化方法得到了廣泛的認可和應用[5?6]。

基于代理模型的序列優(yōu)化方法首先采用少量初始樣本建立代理模型，在優(yōu)化過程中根據(jù)加點準則進行自適應采樣，不斷更新代理模型并進行優(yōu)化求解，直至滿足收斂條件。這一過程中，加點準則的選擇將直接影響代理模型精度、最終優(yōu)化結果以及優(yōu)化設計效率，顯得尤為重要，因此探究和發(fā)展性能更佳的加點策略成為現(xiàn)階段工程優(yōu)化設計領域的研究熱點[7?18]。

現(xiàn)有加點策略中，經(jīng)典的加點準則是將每次優(yōu)化的最優(yōu)設計直接加入樣本集中更新模型，即最小化模型預測準則[7]。這一加點準則以最優(yōu)解為導向，能使算法迅速地收斂，但它過分依賴于已有模型的預測結果，沒有考慮代理模型精度較低帶來的誤差，相關研究[8]表明，此種做法會使算法難以搜尋到全局最優(yōu)解，優(yōu)化進程陷于局部最小值。為了更好地在整個設計空間進行全局優(yōu)化設計，Jones 等[9]基于Kriging 模型提出了期望提高(expected improvement, EI)準則，并與序列優(yōu)化相結合得到一種高效全局優(yōu)化(efficient global optimization, EGO)算法。隨后許多學者針對EI 準則進行了改進，發(fā)展了q-EI[10]、廣義期望提高[11]、加權EI 函數(shù)[12]等，拓展了該方法的適用范圍。同時，一系列兼顧局部開發(fā)和全局搜索能力的加點準則被陸續(xù)提出，如PI(probability of improvement)準則[13]、MSE (mean square error)準則[14]、LBC(low-bounding confidence)準則[15]等。除此之外，用于并行計算的多點加點準則由于計算效率頗高受到一些學者的青睞，高月華等[16]、Hamza 等[17]、Zhan 等[18]對此展開了深入的研究。

然而，上述加點準則仍存在一些不足之處：一方面，上述優(yōu)化設計方法和采樣策略均基于貝葉斯估計的Kriging 模型，不適用于缺乏方差估計的代理模型，如徑向基函數(shù)[19]等，發(fā)展具有普適性的加點準則有待進一步研究；另一方面，Kriging模型中預測方差是樣本空間距離的相關函數(shù)，基于方差的加點策略側重在樣本稀疏的區(qū)域進行抽樣，這將使樣本趨于空間均勻分布，背離自適應采樣的初衷，不利于優(yōu)化效率的提高。因此，如何進一步提高代理模型優(yōu)化設計的全局尋優(yōu)能力和優(yōu)化效率，仍是目前亟待解決的問題[19]。

據(jù)此，針對復雜黑箱問題的優(yōu)化設計，本文提出了一種適用于任意代理模型的混合加點序列優(yōu)化方法。該方法在優(yōu)化循環(huán)過程中使用混合加點準則添加新的樣本點，對設計空間進行全局搜索和局部開發(fā)，尋找最優(yōu)解鄰域的同時搜索模型預測偏差較大的區(qū)域，以期能夠最大程度地尋到全局最優(yōu)點，提高優(yōu)化算法的精度和效率。

1 代理模型優(yōu)化設計方法概述

對于任意的約束優(yōu)化問題，其數(shù)學模型為[20]：

其中，f(x)為優(yōu)化目標函數(shù)，須服從m1個等式約束方程和m2個不等式約束，d維設計變量x的取值范圍為[xL,xR]。將代理模型技術引入優(yōu)化設計中，式(1)可轉化為如下形式：

式中，上標“～”表示采用一定數(shù)量樣本建立的代理模型函數(shù)。

為求解上述優(yōu)化問題，一般的代理模型序列優(yōu)化設計流程如圖1 所示。在序列優(yōu)化過程中，樣本的選取決定了代理模型的精度以及優(yōu)化進行的方向，因此加點準則對實現(xiàn)高效的全局優(yōu)化具有重要影響。

圖1 序列優(yōu)化設計流程圖Fig. 1 Flow-chart of sequential optimization design

2 基于混合加點準則的代理模型序列優(yōu)化方法

2.1 混合加點準則

本文提出了一種與代理模型無關的混合加點準則，其核心思想是保證優(yōu)化算法具備較好的局部開發(fā)和全局搜索能力。混合加點準則在一次序列優(yōu)化循環(huán)中通過局部加點和全局加點同時產(chǎn)生2 個樣本，下面將對這兩個加點過程展開詳細描述。

1)局部加點過程

最小化模型預測準則[7]是最早應用于序列優(yōu)化設計的一種加點方法，具有操作簡單、易于實現(xiàn)的特點，可以引導優(yōu)化算法很快地收斂，表現(xiàn)出較強的局部開發(fā)能力。因此，本文采用該準則進行局部加點：在每次循環(huán)中對當前代理模型進行優(yōu)化求解，將所得最優(yōu)設計加入樣本集中，更新代理模型。該準則可表示為：

式中，"arg"表示自變量與因變量之間的映射關系，返回值為當前模型最小值f?min對應的輸入?yún)?shù)。

但由于研究對象往往具有多峰、非線性等復雜特點，代理模型擬合的精度較低，導致全局最優(yōu)點很容易被忽略，僅使用局部加點準則的優(yōu)化結果往往難以滿足要求。

2)全局加點過程

全局加點的目的是探究設計空間中最優(yōu)解的潛在區(qū)域，進一步提高模型精度，使優(yōu)化朝著全局最優(yōu)的方向進行。Xu 等[21]基于泰森圖解法和LOO(leave-one-out)交叉驗證提出了用于構造全局代理模型CV-Voronoi 采樣方法，為序列優(yōu)化設計的全局探索提供了可借鑒的思路。基于此，本文引入k-fold 交叉驗證(k-fold cross validation)方法，發(fā)展了一種高效的全局加點方法，該方法可根據(jù)誤差追蹤對整個設計空間進行探索，在預測誤差較大的區(qū)域采樣，能夠有效減少計算成本，提高代理模型精度。其加點過程可大致分為設計空間的劃分、預測誤差的計算以及新樣本的選取3 個步驟。

首先采用泰森圖解法劃分設計空間，以便更直觀地研究目標函數(shù)在局部區(qū)域的特性。假設d維設計空間中存在一組樣本點X={x1,x2,···,xn}，泰森圖解法根據(jù)這組樣本將設計空間分割為n個泰森多邊形{R1,R2, ···,Rn}，Ri的定義為：

式中：Ω 代表整個設計空間；x為空間中任意一向量點；||·||2表示向量的二范數(shù)。圖2 展示了一個二維的泰森多邊形(Voronoi 圖)，明顯看出多邊形Ri內(nèi)任意一點到其中心點xi的距離是最近的，因此可以將多邊形區(qū)域Ri視為中心點xi的影響范圍。由于Voronoi 圖形狀不規(guī)則，且對于高維度問題難以表達，實際操作中采用大量隨機點來近似描述多邊形的形狀。

圖2 二維Voronoi 示意圖Fig. 2 Example of 2D Voronoi diagram

然后，對各個樣本點及其所在區(qū)域進行誤差評價。交叉驗證被視為一種非常有效的誤差計算方法，可以從有限的數(shù)據(jù)中獲取盡可能多的信息，采用計算簡單高效的k-fold 交叉驗證方法計算誤差。在k-fold 交叉驗證中，將n個樣本點隨機地分為k組互斥的子集{D1,D2, ···,Dk}，樣本的預測誤差由下式可得：

將樣本的交叉驗證誤差進行排序，選出預測誤差最大的點xc，其所在的多邊形Rc被記為“敏感多邊形”[21]，在該區(qū)域內(nèi)進行采樣。為了讓樣本具有較好的空間分布均勻性，且最大程度地獲取函數(shù)的局部特征，應使敏感多邊形Rc內(nèi)產(chǎn)生的新樣本點距中心點xc較遠，根據(jù)最大化最小距離準則篩選樣本，即：

式中，“arg”含義與式(3) 中一致，計算得到與最大化函數(shù)最優(yōu)解對應的輸入向量x。

2.2 基于混合加點準則的優(yōu)化方法及其實現(xiàn)

基于上述混合加點準則，本文發(fā)展了一種通用的代理模型序列優(yōu)化方法，其優(yōu)化設計流程如圖3 所示，圖中右側虛線框內(nèi)為混合加點過程。

圖3 基于混合加點準則的序列優(yōu)化設計流程圖Fig. 3 Flow-chart of sequential optimization design based on hybrid infill sampling criterion

選擇適當?shù)拇砟Ｐ?、?yōu)化算法，確定相關計算參數(shù)后，基于混合加點準則的代理模型序列優(yōu)化設計的具體實施步驟為：

1)根據(jù)給定的試驗設計方法，在設計空間中選取少量初始樣本X0，此時循環(huán)次數(shù)i=0；

2)進行數(shù)值計算或結構分析，獲取樣本X i對應的實際響應f(X i)；

建議的序列優(yōu)化方法可采用任意代理模型技術進行建模，在循環(huán)過程中通過添加樣本對當前代理模型最小值附近的局部地區(qū)展開細致搜索，同時在設計空間中函數(shù)變化波動大、非線性程度較強的區(qū)域進行自適應采樣，減少模型的預測偏差，引導優(yōu)化進行的方向。故該方法能夠在序列迭代中不斷進行全局搜索與局部開發(fā)，具有較好的全局尋優(yōu)能力。

3 算例分析

本節(jié)選用如表1 所示的三個典型數(shù)學優(yōu)化算例驗證所提優(yōu)化設計方法，并將建議的混合加點準則與通用的EI 準則[9]、PI 準則[13]及LBC 準則[15]進行對比。

表1 測試函數(shù)信息表Table 1 The information of test functions

試驗中，采用拉丁超立方抽樣(Latin hypercube sampling, LHS)選取少量初始樣本；調(diào)用MATLAB中的DACE 工具箱[22]建立Kriging 代理模型；在優(yōu)化循環(huán)過程中，采用簡單易實現(xiàn)、可調(diào)參數(shù)少的粒子群優(yōu)化(PSO)算法[23]進行尋優(yōu)。但需強調(diào)文中建議的基于混合加點準則的序列優(yōu)化設計方法也能與其他代理模型方法相結合，適用于多種工程優(yōu)化問題。

在初始樣本數(shù)量、循環(huán)次數(shù)相同的情況下，不同測試函數(shù)在序列優(yōu)化過程中的收斂情況如圖4所示。從圖中看出，當函數(shù)維度較低時，少量優(yōu)化迭代后的結果已經(jīng)非常接近全局最優(yōu)；隨著維度的增加，函數(shù)空間分布特征變得復雜，所需優(yōu)化迭代次數(shù)隨之增加。對比幾種不同的加點準則，容易發(fā)現(xiàn)：在序列優(yōu)化過程中，基于混合加點準則的優(yōu)化設計方法能以較少的迭代次數(shù)迅速逼近全局最小值；對于所有測試函數(shù)，使用建議的混合加點準則能得到更加精確的優(yōu)化結果，其相對誤差均控制在0.01%以內(nèi)。相比之下，基于EI 準則、PI 準則及LBC 準則的優(yōu)化設計收斂速度較慢，易陷于最優(yōu)解附近的局部最小值，難以收斂到全局最優(yōu)解。

圖4 不同加點準則下的優(yōu)化收斂過程Fig. 4 Optimization process under different infill sampling criterion

測試結果如表2 所示，為避免偶然性，表中數(shù)據(jù)取50 次序列優(yōu)化設計結果的平均值。可以觀察到，對于所有測試函數(shù)，采用混合加點準則時NIteration較小，表明該加點策略能有效減少優(yōu)化循環(huán)次數(shù)，優(yōu)化效果好，相應地，PSO 算法調(diào)用代理模型計算響應的次數(shù)Nmcall也相應較少。從樣本數(shù)量來看，由于一次循環(huán)過程中混合加點準則的加點數(shù)目是其他加點準則的2 倍，因此二維函數(shù)F1在基于混合加點準則的優(yōu)化設計中總樣本數(shù)和原函數(shù)調(diào)用次數(shù)Nfcall略大；但隨著維度的上升，對于函數(shù)F2、F3，使用EI 準則、PI 準則及LBC準則所需優(yōu)化循環(huán)次數(shù)和樣本數(shù)量都遠超過混合加點準則，調(diào)用原函數(shù)進行計算的次數(shù)也大幅度上升，而此時混合加點準則表現(xiàn)出較強的全局尋優(yōu)能力，計算效率高。

表2 優(yōu)化結果對比Table 2 Comparison of optimization results

4 工程算例

以某輸電塔連接節(jié)點的優(yōu)化設計為例，對連接構件進行截面優(yōu)化設計。節(jié)點由主角鋼、左右兩肢角鋼以及節(jié)點板組成，各部分通過高強承壓型螺栓連接。通過ANSYS 軟件的Solid 單元建模，節(jié)點的有限元模型如圖5 所示，定義角鋼、節(jié)點板、螺栓之間的相互接觸關系，考慮幾何非線性和材料非線性，采用Newton-Raphson 法進行分析計算。

圖5 輸電塔節(jié)點構造示意圖Fig. 5 The joint of transmission tower

在輸電塔節(jié)點優(yōu)化設計中，選取主角鋼肢厚tm、肢角鋼肢厚tn、節(jié)點板厚度tp、螺栓直徑d這4 個主要影響參數(shù)作為離散設計變量，優(yōu)化目標函數(shù)為節(jié)點用鋼量總成本F(x)，同時應滿足承載力約束及位移約束條件，該優(yōu)化問題表述為：

式中：Si為設計變量xi的設計尺寸取值集合；M(x)為輸電塔節(jié)點的極限抗彎承載力；θ(x) 表示彎矩作用下節(jié)點產(chǎn)生的最大轉角位移；[M]、[θ]分別為給定的抗彎承載力下限值和轉角位移上限值。

采用拉丁超立方抽樣方法選取初始樣本，通過精細化有限元模型獲取節(jié)點的彎矩和位移，建立相應的Kriging 代理模型，根據(jù)基于混合加點準則的代理模型序列優(yōu)化方法進行優(yōu)化設計。

表3 中展示了優(yōu)化前后節(jié)點的不同設計，其中初始設計為初始樣本中滿足約束條件且目標函數(shù)最小的設計。通過對比可以發(fā)現(xiàn)，采用建議方法進行離散優(yōu)化設計后的輸電塔節(jié)點在抗彎承載能力和位移變形情況在滿足要求的情況下，用鋼量總成本降低了20.78%。

表3 節(jié)點優(yōu)化設計結果Table 3 Optimization results of joint

5 結論

針對黑箱優(yōu)化設計存在的問題，本文提出了一種與代理模型無關的混合加點準則，從而發(fā)展了一類基于混合加點的代理模型序列優(yōu)化設計方法。該方法在序列優(yōu)化迭代中通過全局搜索與局部開發(fā)協(xié)同搜索最優(yōu)解，自適應地提高模型精度。通過數(shù)值算例表明，與經(jīng)典的基于EI 準則、PI 準則以及LBC 準則的優(yōu)化設計結果相比，建議方法表現(xiàn)出良好的穩(wěn)健性，且能夠兼顧精度與效率。將建議方法應用于輸電塔節(jié)點設計，對節(jié)點幾何尺寸進行優(yōu)化，有效地減少了用鋼量成本。