基于加權(quán)最小二乘法的變保真代理模型*

韓暢陽,王 碩,劉富文,宋學(xué)官

(大連理工大學(xué)機(jī)械工程學(xué)院,大連 116024)

0 引言

代理模型是目前解決工程優(yōu)化問題的有效途徑,通過少量樣本點(diǎn)構(gòu)建真實(shí)系統(tǒng)的映射關(guān)系可以有效減少計(jì)算成本,提升設(shè)計(jì)效率[1]。然而隨著設(shè)計(jì)變量和精度要求的提升,獲取構(gòu)建代理模型所需的樣本點(diǎn)對(duì)于復(fù)雜系統(tǒng)而言面臨計(jì)算成本過大的問題。對(duì)此,研究人員提出了變保真代理模型方法(multi-fidelity surrogate,MFS)[2],將樣本分為高保真和低保真,高保真樣本能描述物理系統(tǒng)的真實(shí)特征但計(jì)算成本高,低保真樣本只能描述物理系統(tǒng)的最顯著特征但計(jì)算效率高,因此需要融合兩種保真度的樣本建立代理模型,保證模型精度的同時(shí)平衡模型性能和建模效率的關(guān)系。值得注意的是,對(duì)于以某種方式獲得的樣本,無法簡單判斷其為高保真還是低保真[3],保真度概念是相對(duì)而言的,例如仿真數(shù)據(jù)相對(duì)于實(shí)驗(yàn)數(shù)據(jù)為低保真,粗網(wǎng)格仿真相對(duì)于細(xì)網(wǎng)格仿真為低保真[4]。

多保真代理模型按照建模方法可以分為3類:基于Co-Kriging的方法、基于映射的方法、基于修正函數(shù)的方法。其中基于修正函數(shù)的方法應(yīng)用最為普遍[5],具體可以分為3類:乘法修正函數(shù)、加法修正函數(shù)、綜合法修正函數(shù)。

乘法修正函數(shù)最早由HAFTKA[6]提出,假設(shè)高低保真度代理模型之間存在的差異為比例關(guān)系,因此通過修正因子描述相同樣本處高保真和低保真響應(yīng)的差異。ALEXANDROV等[7]將該理論應(yīng)用到了空氣動(dòng)力學(xué)優(yōu)化問題中,但是乘法修正函數(shù)只能較好地描述局部映射關(guān)系,當(dāng)真實(shí)系統(tǒng)比較復(fù)雜時(shí),該方法的精度難以達(dá)到預(yù)期;另外遇到低保真響應(yīng)值趨近于0的情況時(shí),修正因子會(huì)趨向無限大,此特性一定程度限制了其在工程領(lǐng)域的應(yīng)用。因此,研究學(xué)者提出了加法修正函數(shù)以避免上述情況的出現(xiàn)。加法修正函數(shù)假設(shè)高低保真度代理模型之間存在一個(gè)偏差項(xiàng),因此添加了差異函數(shù)來表達(dá)高低保真樣本的偏差關(guān)系[8],該方法以其形式簡單、魯棒性強(qiáng)的特點(diǎn)被研究人員所青睞。綜合修正函數(shù)結(jié)合了前兩種方法的優(yōu)點(diǎn),進(jìn)一步提升了模型準(zhǔn)確性,被廣泛應(yīng)用于工程優(yōu)化問題中,DURANTIN等[9]提出了一種基于徑向基函數(shù)的變保真建模方法,通過留一法最小化高低保真模型的誤差來優(yōu)化參數(shù),并應(yīng)用到氣體傳感器的設(shè)計(jì)問題。SONG等[10]基于徑向基函數(shù)建立變保真代理模型,并通過擴(kuò)展矩陣快速計(jì)算模型系數(shù)。WANG等[11]提出了一種基于移動(dòng)最小二乘法的變保真代理模型,該模型提供了一種影響域的自適應(yīng)求解方案,并根據(jù)每個(gè)預(yù)測點(diǎn)影響域內(nèi)的樣本計(jì)算權(quán)重及未知系數(shù)。

受綜合修正函數(shù)理論啟發(fā),本文提出了一種基于加權(quán)最小二乘法的變保真代理模型方法(MFS-WLS)。在MFS-WLS中,先使用修正因子對(duì)低保真響應(yīng)進(jìn)行縮放,使其與目標(biāo)響應(yīng)更為接近。再通過類似多項(xiàng)式的形式描述二者的差異關(guān)系。由于加權(quán)最小二乘法是由單項(xiàng)式組合形成的,因此在MFS-WLS系數(shù)求解過程中,以加權(quán)最小二乘法為基礎(chǔ),把修正因子和低保真響應(yīng)值作為多項(xiàng)式的一項(xiàng),將其與差異多項(xiàng)式構(gòu)成單項(xiàng)式線性組合的形式,并對(duì)每個(gè)高保真訓(xùn)練樣本分配不同的權(quán)重以增加關(guān)鍵樣本的影響力,最后通過加權(quán)最小二乘法最小化高保真響應(yīng)和MFS-WLS預(yù)測值之間的誤差。

1 MFS-WLS模型

1.1 加權(quán)最小二乘法估計(jì)原理

最小二乘法的核心思想是利用已有的自變量X和因變量Y的實(shí)驗(yàn)數(shù)據(jù),通過最小化誤差的平方來尋找自變量和因變量之間的函數(shù)表達(dá)。一般最小二乘法解決曲線擬合問題的基礎(chǔ)公式可表述為:

f(x)=α1φ1(x)+α2φ2(x)+…+αnφn(x)

(1)

式中:αk(k=1,2,…,n)是待定系數(shù),φk(x)是事先選定好的一組線性無關(guān)的函數(shù)。在公式中,一般最小二乘法將不同采樣數(shù)據(jù)同等對(duì)待,而在實(shí)際情況中不同采樣數(shù)據(jù)重要性往往不同,因此加權(quán)最小二乘法給予了每個(gè)采樣點(diǎn)不同的權(quán)重因素wi,構(gòu)建誤差平方和公式得:

(2)

對(duì)αk求偏導(dǎo)得:

(3)

式中:

(4)

(5)

1.2 MFS-WLS理論

在變保真代理模型的構(gòu)建方法中,綜合法由于結(jié)合了靈活性高和預(yù)測能力強(qiáng)的優(yōu)勢而被廣泛應(yīng)用,該方法的基礎(chǔ)公式可描述為:

ye(x)=ρyc(x)+z(x)

(6)

式中:x代表設(shè)計(jì)空間中的設(shè)計(jì)變量,ye(x)代表樣本x基于高保真模型的響應(yīng),yc(x)代表樣本x基于低保真模型的響應(yīng),ρ為修正因子,z(x)為差異函數(shù)。綜合修正法的原理是先采用修正因子對(duì)低保真響應(yīng)進(jìn)行縮放,然后用z(x)對(duì)縮放后的低保真數(shù)據(jù)進(jìn)行校正,模型求解流程如圖1所示。

圖1 MFS-WLS模型求解流程圖

對(duì)式(1)進(jìn)行以下轉(zhuǎn)化:

(7)

在MFS-WLS中,將縮放的低保真響應(yīng)作為多項(xiàng)式中的首項(xiàng),與差異函數(shù)集成為矩陣乘積的形式。具體的:

(8)

式中:

φ(x)=[yc(x)φ1(x)φ2(x) …φm(x)]

(9)

構(gòu)建誤差平方和I(β):

(10)

式中:xi(i=1,2,…,n)為高保真樣本。將上述公式轉(zhuǎn)換為矩陣形式:

I(β)=(φβ-ye)TW(x)(φβ-ye)

(11)

式中:

ye=[ye(x1)ye(x2) …ye(xn)]T

(12)

(13)

(14)

對(duì)式(11)求β的偏導(dǎo):

φTW(x)φβ(x)=φTW(x)ye

(15)

因此:

β(x)=(φTW(x)φ)-1φTW(x)ye

(16)

根據(jù)式(11)得:

(17)

1.3 權(quán)重系數(shù)

(18)

(19)

2 數(shù)值案例

本節(jié)將MFS-WLS模型與應(yīng)用較廣的兩種變保真代理模型和一種單保真代理模型進(jìn)行對(duì)比,驗(yàn)證其預(yù)測能力及魯棒性。

2.1 試驗(yàn)設(shè)計(jì)

試驗(yàn)設(shè)計(jì)(design of experiment,DoE)[12]是一種結(jié)構(gòu)化設(shè)計(jì)策略,通過DoE得到空間分布較為均勻的抽樣點(diǎn),一般抽樣點(diǎn)越多空間填充性越好,建立的代理模型精度越高,然而抽樣成本也隨之升高,因此要選擇合適的抽樣策略,用盡量少的樣本點(diǎn)表達(dá)整體設(shè)計(jì)空間的均勻性和填充性。目前工程中較為常用的抽樣方法包括:拉丁超立方抽樣(LHS)、全析因抽樣(FFD)、正交抽樣(OA)和中心復(fù)合抽樣(CCD)等。在眾多的抽樣方法中,LHS作為一種分層抽樣方法,因其具有產(chǎn)生均勻、近似隨機(jī)樣本的強(qiáng)大能力而被廣泛應(yīng)用,因此LHS作為本文的主要DoE方案。

由于本文將MFS與單保真和多保真兩類代理模型進(jìn)行比較,因此需要考慮兩種保真度樣本的抽樣比例問題。以高保真樣本表示預(yù)算抽樣成本,假設(shè)總成本為5d,d為問題維度即設(shè)計(jì)變量的個(gè)數(shù),則構(gòu)建單保真代理模型時(shí)的樣本個(gè)數(shù)為5d,構(gòu)建變保真代理模型時(shí),需要消耗一部分預(yù)算成本生成低保真樣本,將生成高保真樣本的成本和總預(yù)算成本的比值設(shè)置為θ,θ∈(0,1),將評(píng)估一個(gè)高保真樣本和評(píng)估一個(gè)低保真樣本的成本比值設(shè)為δ,則構(gòu)建變保真代理模型時(shí),低保真樣本的個(gè)數(shù)為5δ(1-θ),具體地令δ分別取10、20、30、40、θ分別取0.8、0.6、0.4,得到如表1所示的抽樣方案。

表1 抽樣方案表

2.2 評(píng)價(jià)指標(biāo)

代理模型描述輸入變量X和輸出響應(yīng)Y的映射關(guān)系,作為真實(shí)系統(tǒng)的近似模型能夠被工程實(shí)例問題采用的前提是精度符合預(yù)期要求,因此需要對(duì)MFS-WLS模型的預(yù)測性能進(jìn)行評(píng)估。本文以應(yīng)用最廣的決定系數(shù)(coefficient of determination,R2)作為模型的評(píng)價(jià)指標(biāo)。R2可以表示模型的全局預(yù)測精度,其數(shù)學(xué)表達(dá)式為:

(20)

2.3 數(shù)值測試函數(shù)

高保真函數(shù):

ye(x)=(x1-1)2+(x1-x2)2+x2x3+0.5

(21)

低保真函數(shù):

yc(x)=ye(x)-0.5x1-0.2x1x2-0.1

(22)

式中:x1,x2,x3∈[0,1]。

選取5d(d=3)高保真的預(yù)算成本來構(gòu)建代理模型,其中80%用于產(chǎn)生高保真樣本,剩余的20%產(chǎn)生低保真樣本。成本比率分別設(shè)為10、20、30、40,產(chǎn)生不同的訓(xùn)練樣本數(shù)量如表2所示。

表2 訓(xùn)練樣本統(tǒng)計(jì)表

針對(duì)每種情況進(jìn)行30次獨(dú)立抽樣,分別生成30組抽樣點(diǎn),再針對(duì)每組抽樣點(diǎn)分別構(gòu)建MFS-WLS模型、CoPRS模型、MFS-RBF模型和RBF單保真模型并計(jì)算決定系數(shù)R2,繪制R2平均值條形圖(圖2)、R2箱型圖(圖3)、MFS-WLS優(yōu)于其他模型的次數(shù)統(tǒng)計(jì)圖(圖4)。

圖2 模型精度均值統(tǒng)計(jì)圖

圖3 模型精度箱型圖

圖4 MFS-WLS優(yōu)于其他模型的次數(shù)統(tǒng)計(jì)圖

從圖2中可以看出,絕大多數(shù)情況中MFS-WLS模型的平均值較其他模型更大,說明MFS-WLS模型具有更好的預(yù)測能力。圖3箱型圖中異常值用十字號(hào)表示,箱型圖的高度(第1、3四分位數(shù)之間的距離)代表統(tǒng)計(jì)數(shù)據(jù)的大致范圍,箱型圖的高度越小,表示數(shù)據(jù)越集中魯棒性越好,模型越穩(wěn)定。反之表示魯棒性越差。從圖中可以看出,MFS-WLS模型箱型圖的高度更小,因此性能更好。圖4顯示了MFS-WLS模型具有比其他模型精度結(jié)果更高的次數(shù),次數(shù)最大值為30,值越大表示即使在樣本分布情況不同時(shí),MFS-WLS也具有良好的預(yù)測能力和更強(qiáng)的魯棒性。例如成本比為20時(shí),在27組樣本中MFS-WLS比同組樣本創(chuàng)建的MFS-RBF更精確,在全部30組樣本中MFS-WLS均比CoPRS和RBF更精確。值得注意的是,隨著成本比增大,低保真點(diǎn)越多,MFS-WLS模型性能表現(xiàn)越好,這是因?yàn)闃?gòu)建的低保真模型越精確,對(duì)應(yīng)的修正模型也越精確。

為了進(jìn)一步驗(yàn)證MFS-WLS的預(yù)測性能,另取10個(gè)測試函數(shù),設(shè)置高保真樣本點(diǎn)數(shù)為4d,成本比為20,對(duì)每個(gè)測試函數(shù)生成30組初始隨機(jī)樣本,依次建模并進(jìn)行精度計(jì)算,最后統(tǒng)計(jì)模型R2的均值。結(jié)果表明,對(duì)于大部分測試函數(shù),MFS-WLS均有更好的預(yù)測能力。

3 工程實(shí)例

壓力機(jī)是機(jī)械制造領(lǐng)域中的一種重大裝備,在汽車、輪船等制造過程中發(fā)揮著重要作用。在設(shè)計(jì)過程中,壓力機(jī)橫梁通常需要較高的強(qiáng)度和剛度以承受液壓缸的推力,然而保守的經(jīng)驗(yàn)設(shè)計(jì)經(jīng)常造成質(zhì)量過重,剛度冗余過大的問題,因此對(duì)壓力機(jī)橫梁的質(zhì)量與應(yīng)力的有效預(yù)測在其結(jié)構(gòu)設(shè)計(jì)中具有重要意義。本節(jié)將針對(duì)壓力機(jī)上梁進(jìn)行輕量化設(shè)計(jì),該上梁采用的材料為Q235-B,相關(guān)參數(shù)如表3所示。圖5為模型示意圖,在原有設(shè)計(jì)基礎(chǔ)上進(jìn)行優(yōu)化,提取4個(gè)可優(yōu)化設(shè)計(jì)變量,其中x1為肋板厚度,x2為壁板厚度,x3為上下板中線距離,x4為上蓋板厚度。在保證橫梁剛度前提下,通過優(yōu)化橫梁尺寸和形狀參數(shù),達(dá)到降低橫梁重量的目的。經(jīng)有限元分析,上梁的變形峰值為3.129 mm,將其作為重要約束條件;模型最大應(yīng)力較小,為120 MPa,因此僅作為結(jié)果的驗(yàn)證條件。本節(jié)的優(yōu)化問題可以寫成一個(gè)標(biāo)準(zhǔn)非線性方程:

表3 橫梁結(jié)構(gòu)材料屬性

圖5 上梁結(jié)構(gòu)設(shè)計(jì)變量示意圖

(23)

式中:x2單位為mm,M(x)為待優(yōu)化上梁質(zhì)量,G(x)為最大應(yīng)力,D(x)為最大變形,w為最大變形系數(shù)。

本節(jié)使用網(wǎng)格質(zhì)量作為區(qū)分有限元模型精度的指標(biāo),將網(wǎng)格尺寸分別設(shè)置為80 mm和55 mm,并計(jì)算不同網(wǎng)格質(zhì)量對(duì)應(yīng)的樣本響應(yīng)值。設(shè)置高保真點(diǎn)抽樣成本為4d,成本比為20,本案例為4維問題,因此取16個(gè)高保真樣本和20個(gè)低保真樣本,分別構(gòu)建質(zhì)量(M)函數(shù)、變形(D)函數(shù)、應(yīng)力(G)函數(shù)的變保真模型,另取20個(gè)高保真樣本作為測試樣本。使用MFS-WLS與前文提到的CoPRS、MFS-RBF以及RBF分別創(chuàng)建預(yù)測模型,并對(duì)模型的精度進(jìn)行評(píng)價(jià),計(jì)算決定系數(shù)均值,比較結(jié)果如表4所示。

表4 模型精度比較表

由表中數(shù)據(jù)可知,MFS-WLS在構(gòu)建M模型和D模型時(shí)精度更高,分別為0.989和0.976。構(gòu)建G模型時(shí)精度略低于CoRBF模型,但數(shù)值相差不大。整體來看,MFS-WLS模型在實(shí)際工程問題中具有較好的預(yù)測能力。值得注意的是,單保真代理模型RBF的精度遠(yuǎn)小于另外3種變保真代理模型,由此凸顯變保真代理模型在少量高保真樣本情況中的強(qiáng)大預(yù)測能力以及開發(fā)變保真代理模型算法的必要性。

4 結(jié)論

本文提出了一種基于加權(quán)最小二乘法的變保真代理模型算法(MFS-WLS),相比于大部分變保真算法,MFS-WLS通過加權(quán)的高保真樣本計(jì)算未知系數(shù),然后利用WLS結(jié)合低保真模型和差異函數(shù)表示高保真響應(yīng)。 將MFS-WLS與多個(gè)主流代理模型算法進(jìn)行對(duì)比測試,在測試函數(shù)和工程實(shí)例兩個(gè)方面,MFS-WLS均具有較好的預(yù)測能力和魯棒性。此外,在總預(yù)算成本相同情況下,成本比越高M(jìn)FS-WLS表現(xiàn)越好。

在進(jìn)行工程應(yīng)用之前,需要考慮問題的維度和總預(yù)算成本,尤其對(duì)于高維問題,MFS-WLS可能因?yàn)榍蠼馑俣嚷憩F(xiàn)不佳,因此在未來將繼續(xù)改進(jìn)模型,提升在高維問題中的計(jì)算效率和精度。