BPNN-HDMR非線性近似模型方法及應用*

李偉平，竇現東，王振興，柳 超

( 湖南大學 汽車車身先進設計制造國家重點實驗室，湖南 長沙 410082)

工程優(yōu)化問題中，對于基于真實模型的嵌套優(yōu)化，每次計算目標函數值都要調用費時的仿真計算模型，其計算代價不可小視.而利用近似模型可以有效地解決這一問題[1]，即通過對近似模型的求優(yōu)近似得到真實模型的優(yōu)化值.

目前廣泛應用的一些近似方法，如響應面法、Kriging插值、人工神經網絡等，在處理較低維問題時有很好的效果.而對于工程中復雜的高維非線性模型，隨著維數和非線性程度的增加，構造近似模型所需的樣本點數量和計算花費呈指數增長，使解決此類問題的計算效率大大降低[2].針對這一問題，Sobol證明了可積函數可以分解為不同維數函數的疊加理論[3].該理論表明，對于任意一個可以積分的函數，在其積分空間內存在唯一的、可以擴展的高維模型(High Dimensional Model Representation，HDMR).這一模型是精確的，有確定的階數，并包含一個層級結構.高維模型可以將計算時間隨非線性程度和維數增加按指數增長的隱函數，轉化為可以忽略高階耦合項的多項式函數，并揭示了每個設計變量對近似函數的貢獻量，大大減少了計算時間.同時反映了輸入變量之間固有的線性或非線性關系及其相關性，在近似高維非線性問題時非常有效.由此，一系列不同特性的高維模型開始發(fā)展起來，被研究和應用于不同的領域.其中，Shan等提出了基于徑向基的高維模型(RBF-HDMR)[4],湯龍等提出了基于Kriging的高維模型(Kriging-HDMR)[5].

本文采用誤差反向傳播神經網絡(Back Propagation Neural Network,BPNN)與中心切面高維模型(Cut-HDMR[6])方法相結合的BPNN-HDMR.BP神經網絡是一種多層前饋型神經網絡，其神經元的傳遞是S型函數，它可以實現從輸入到輸出的任意非線性映射.對于非線性問題，在精度表達上具有一定優(yōu)勢.Cut-HDMR方法是用過指定點的特定的直線、平面和超平面上的信息來建立模型，計算效率高，方便易行.

1 高維模型(HDMR)基本理論

設待求問題的設計變量可行域為An(n維實數空間)，那么多元函數f(x)∈R與輸入變量x∈An之間的映射關系可以用HDMR[6-7]來表示為：

(1)

其中f0為函數在中心點的函數值，后面依次為不同階耦合項對近似函數的貢獻量.

為了方便計算，本文引入Cut-HDMR.與其他類型的高維模型相比，Cut-HDMR用少量簡單的算術運算來表達計算花費高昂的真實模型，并達到了其他類型高維模型相似的精度，計算效率高.Cut-HDMR展開式的各分項表達請參考文獻[6].

2 BPNN-HDMR

2.1 BP神經網絡

BP網絡是一種多層前饋型神經網絡，它由一個輸入層、一個輸出層和至少一層隱含層組成[8].該網絡的主要特點是信號向前傳遞，誤差反向傳播.在前向傳遞中，輸入信號從輸入層經隱含層逐層處理，直至輸出層.每一層的神經元狀態(tài)只影響下一層神經元狀態(tài).如果輸出層得不到期望輸出，則轉入反向傳播，根據預測誤差調整網絡權值和閾值，從而使BP神經網絡預測輸出不斷逼近期望輸出.因此，BP網絡可以看作是解決函數逼近的工具.

本文中，隱層神經元的傳遞函數采用雙曲正切S型函數h，它類似于一個平滑的階梯函數：

h(x)=(ex-e-x)/(ex+e-x)

(2)

(3)

假設wi(k)為W(k)中的任意元素.調整wi(k)對誤差Ek的影響直接取決于偏導數(?Ek)/[?wi(k)].BP算法的作用在于如何評價(?Ek)/[?wi(k)].詳細內容可參考文獻[9].這樣，wi(k)就向著減小誤差Ek的方向調整：

wi(k+1)=wi(k)-μ(?Ek)/[?wi(k)]，

?wi(k)∈W(k)

(4)

其中μ為常量，是指定的更新率.可以看出，如果μ足夠小時，則：

(5)

其中假設Ek>0.由式(5)可知，對于同樣的輸入參數x1,x2,…,xk，更新后的神經網絡的輸出更接近于真實函數輸出值.

Hecht-Nielsen[9]研究了分層神經網絡近似非線性函數的能力.他在文獻[9]中表明，在確定的條件下，對于任意ε>0，存在一個三層神經網絡(包含一個輸入層，一個輸出層和一個非線性隱含層)可以在均方誤差精確度ε范圍內近似函數f.因此，BP神經網絡可以應用于工程實際中的大多數情況.

2.2 BPNN-HDMR的構建

對大多數工程問題而言，非耦合項和低階耦合項對響應函數影響較大.為此，BPNN-HDMR方法只考慮到一階耦合項，表達式如下：

(6)

高維模型的一般構建流程[4-5]如下：

1)選取各設計變量中心位置的點x0=[x10,x20,…,xn0]作為中心點，計算得到f0.

6)將上面構建的各階BPNN近似函數代入式(6)就得到了高維模型近似響應函數.

本文高維模型構建時的精確度準則和收斂準則都是通過相對誤差來定義的.精確度準則主要用于輸入變量之間耦合性的識別，所允許的相對誤差一般不超過10-4.由于本文方法具有較高精確度，所以本文針對測試函數收斂準則所允許的相對誤差均取0.001；而對于工程問題，考慮到計算效率和一般工程要求的5%的近似精度，設置的相對誤差均取0.01.通過以上設置，在樣本點數一定時，由于本文方法將BP神經網絡的非線性函數逼近能力與高維模型的層級結構理論相結合，所以本文近似模型方法在近似非線性問題時較傳統(tǒng)方法具有更高的精度，建模效率也有所提高.

3 數值算例

3.1 評價指標

為了測試近似模型近似效果，采用3種比較常用的評價指標，R2(Rsquare),相對平均絕對誤差(relative average absolute error,RAAE)和相對最大絕對誤差(relative maximum absolute error,RMAE).這些指標反映了BPNN-HDMR在新樣本點上的預測能力,其具體表達式請參考文獻[4].其中，R2是從整體上反映近似模型的精度，其值越接近1越好；RAAE也是從整體上反映近似模型的精度，其值越小越好；RMAE是一個局部指標，描述了設計空間中某個局部區(qū)域的誤差，其值越小越好.

3.2 函數算例

首先選擇一個高維非線性測試函數：

xi∈[0,1]

(7)

采用相同數量的訓練樣本點(計算費用相同)，分別采用BPNN，BPNN-HDMR和Kriging 3種方法進行建模并比較它們的精度，計算結果如表1所示(表中數據是計算100次的平均值).

表1 BPNN，BPNN-HDMR和Kriging方法比較

分析表中數據，對于同一測試函數，3種近似方法中，BPNN-HDMR方法的R2值最接近1，RAAE和RMAE也都最小.由對比可知，對于高維非線性問題，基于同樣數量的一組訓練樣本，采用BPNN-HDMR方法得到的近似模型精度更高.

其次，增加高維非線性測試函數式(7)的維數

0≤xi≤1

(8)

來測試BPNN-HDMR方法的效率.式(8)中，維數d分別取d=10,30,50等不同值，假設每一維的訓練樣本點數為9(經測試，基本可以滿足精度要求)，表2中列出了各階HDMR計算費用的比較.

表2 各階HDMR建模費用的比較

4 工程應用

為了驗證BPNN-HDMR在處理工程實際問題時的可行性，本文以某礦用自卸車全駕駛室式翻車保護裝置(ROPS)的優(yōu)化設計為例.根據標準ISO 3471：2008[13]對ROPS進行非線性有限元分析，確保ROPS滿足標準ISO 3164:1992[14].通過仿真分析得到ROPS的變形量，為進一步優(yōu)化打下基礎.安全駕駛室ROPS的有限元模型如圖1所示.

圖1 ROPS加載分析模型

ROPS框架采用殼單元模擬，焊接使用剛性殼單元模擬為一個載荷變換器[15].焊接連接處網格局部加密，計算時假設焊縫與母材材料特性相同(實際中焊縫一般不先破壞).單元大小設定為20 mm，其中四邊形單元54 951個，三角形單元1 389個，單元類型分別為S4R和S3R.本文ROPS材料為進口鋼板A710，屈服極限為690 MPa，斷裂極限為792 MPa，材料模型選擇金屬塑性材料模型，定義材料的應力應變曲線.依據標準ISO 3471：2008進行載荷和約束的施加.其中，約束ROPS底部與車架連接處3個平動方向的自由度(UX，UY，UZ)，FC為側向力加載，FV為垂向力加載，FL為縱向力加載.標準撓曲極限量(Deflection-limiting volume ,DLV)與ROPS的側向間距為200 mm，垂向間距為110 mm，縱向間距為320 mm.分析時考慮幾何非線性和材料非線性.

4.1 優(yōu)化變量的選取

本文優(yōu)化的ROPS主要由一些不同厚度的矩形管和加強筋焊接而成.考慮對稱性和加工可行性，對稱的選取ROPS不同部位的矩形管厚度作為設計變量.各設計變量選取見圖1，取值范圍如表3所示．

表3 各優(yōu)化變量取值范圍

4.2 目標函數的建立

通過非線性有限元分析可知，由于要考慮ROPS側向吸能問題，ROPS側向變形最接近DLV，因此側向變形為危險工況.根據企業(yè)要求，本文選取側向變形作為一個優(yōu)化目標，以垂向和縱向變形為約束.因此以ROPS側向變形最小和ROPS質量最小建立多目標優(yōu)化問題，ROPS的多目標優(yōu)化模型可以描述為：

(9)

式(9)中UC為ROPS的側向變形量；UV為ROPS的垂直變形量；UL為ROPS的縱向變形量；B1，B2分別為ROPS垂向和縱向的最大允許變形量；m為ROPS的總質量.

4.3 近似模型的構建

本文采用BPNN-HDMR構建ROPS變形量和質量響應近似模型.對每個設計變量在其取值范圍內等間距取點，取點數量根據構建近似模型時是否達到預先設定的精度決定，通過ABAQUS計算獲得樣本點處的真實響應值.首先構建一階項，然后進行精度判斷.在設計變量空間，采用拉丁超立方實驗設計方法，選擇10個采樣點.分別對真實模型和近似模型進行計算，并計算兩者的相對誤差.如果相對誤差滿足給定精度要求(設定為5%)，則構建近似模型成功，若精度不滿足要求，則繼續(xù)構建高階項.

通過計算，本文所求近似模型只需計算到一階項，就可以得到比較精確的近似結果，可以省略高階耦合項.構建過程中只需56個樣本點即得到滿足工程要求的近似模型.

為了客觀、全面地反映所建近似模型在設計域內的精確程度，在設計域內采用拉丁超立方實驗設計方法隨機生成10個測試樣本點，用它們分別對BPNN，BPNN-HDMR和Kriging模型進行精度測試，并以側向變形響應精度為例，測試結果如表4所示.

表4 采用BPNN，BPNN-HDMR和Kriging方法所得側向變形近似模型的比較

由表4中數據可知，BPNN-HDMR解決此類工程問題具有高效準確的優(yōu)點.同時，可以看出BPNN和Kriging方法在構建高維非線性有限元模型時的局限性，本文需要增加采樣點數量才能用這兩種方法獲得比較精確的近似模型，這樣就增加了真實有限元模型的計算次數，而真實非線性有限元模型一次計算要數小時，導致計算花費大大增加.

4.4 優(yōu)化過程及結果分析

本文采用基于Pareto概念的多目標優(yōu)化遺傳算法，該方法是求解多目標問題非劣最優(yōu)解的有效途徑之一[16].在基于Pareto最優(yōu)概念的遺傳算法中，NSGA-Ⅱ[17-18]是最有效的.因此，本文采用NSGA-Ⅱ，在近似模型的基礎上對ROPS進行多目標優(yōu)化.

初始種群設為100，最大迭代次數設為200，交叉概率0.9，變異概率0.1.收斂規(guī)則為：達到最大迭代次數作為終止條件.得到Pareto最優(yōu)解集如圖2所示．

圖2中星號表示多目標優(yōu)化非劣解.在優(yōu)化解集中取有代表性的10組解，多目標優(yōu)化的Pareto最優(yōu)解集見表5.ROPS優(yōu)化前側向變形和質量如表6所示.對比表6與表5中第4組和第6組數據可以看出，在質量相當的情況下，優(yōu)化后的側向變形大約減小了26.7 mm,在側向變形相當的情況下，優(yōu)化后的質量大約減小了75.1 kg.因此，通過多目標優(yōu)化，ROPS的質量和變形情況明顯改善.同時，根據得到的Pareto最優(yōu)解集，可以根據設計者經驗和需求，高效率地實現ROPS各矩形管厚度的選取，以滿足不同性能需要.

把優(yōu)化結果代入有限元計算模型驗證，計算結果如表7所示.

由ABAQUS計算驗證可知，所選優(yōu)化解都符合標準ISO 3164:1992的要求.這也證明了本文所提方法在工程優(yōu)化實際應用中的可行性和有效性.同時，由于模型簡化掉了一些蒙皮和附屬部件，以及真實情況下車架也有一部分吸能作用，所以本文的分析結果是偏向安全的.

側向變形/mm

表5 雙目標優(yōu)化的Pareto最優(yōu)解

表6 ROPS側向變形優(yōu)化前數據

表7 優(yōu)化后的響應值ABAQUS計算驗證

5 結 論

本文提出的BPNN-HDMR建模方法，很好地利用了BP神經網絡的非線性函數逼近能力與高維模型的層級結構理論，并能夠反映輸入變量之間固有的線性關系和耦合性.尤其對于高維問題，它可以將構造模型計算花費由維數的指數級增長降解為多項式級，有效地解決了高維建模問題，且與傳統(tǒng)算法相比，具有更高的精度.通過數值算例和工程優(yōu)化問題的對比，驗證了BPNN-HDMR近似方法的精度和效率.另外，該算法對于高度非線性問題精確的數學建模還需進一步發(fā)展和完善，BP神經網絡的計算效率也有待進一步提高.同時，本文所采用的結構分析與優(yōu)化方法在工程領域的其他方面也可以廣泛應用，具有一定的理論和工程實際意義.

[1]穆雪峰.多學科設計優(yōu)化代理模型技術的研究和應用[D].南京：南京航空航天大學航空宇航學院，2004.

MU Xue-feng.The research and application of multidiscipline design optimization surrogate model technology[D].Nanjing: College of Aerospace Engineering,Nanjing University of Aeronautics and Astronautics,2004.(In Chinese)

[2]趙子衡，韓旭，姜潮.基于近似模型的非線性區(qū)間數優(yōu)化方法及其應用[J].計算力學學報，2010，27(3):451-456.

ZHAO Zi-heng,HAN Xu,JIANG Chao.Approximation model based nonlinear interval number optimization method and its application [J].Chinese Journal of Computational Mechanics,2010,27(3):451-456.(In Chinese)

[3]SOBOL I M.Sensitivity estimates for nonlinear mathematical models [J].Mathematical Modeling & Computational Experiment,1993,1(4): 407-414.

[4]SHAN Song-qing,WANG G Gary.Metamodeling for high dimensional simulation-based design problems[J].Journal of Mechanical Design,2010,132:051009.

[5]湯龍，李光耀，王琥.Kriging-HDMR非線性近似模型方法[J].力學學報，2011，43(4):780-784.

TANG Long,LI Guang-yao,WANG Hu.Kriging-HDMR metamodeling technique for nonlinear problems [J].Chinese Journal of Theoretical and Applied Mechanics,2011,43(4):780-784.(In Chinese)

[6]RABITZ H,AL1S ? F.General foundations of high-dimensional model representations[J].Journal of Mathematical Chemistry,1999,25(2/3):197-233.

[7]LI G,WANG S W,ROSENTHAL C,etal.High dimensional model representations generated from low dimensional data samples.I.Mp-Cut-HDMR[J].Journal of Mathematical Chemistry,2001,30(1): 1-30.

[8]CHEN Fu-chang .Back-propagation neural networks for nonlinear self tuning adaptive control[J].Control Systems Magazine,IEEE April,1990,10(3): 44-48.

[9]HECHT-NIELSEN R.Theory of the back-propagation neural network[C]//Proc IEEE 2002 Intl Conf Neural Networks.Califormia:International Toint Conference in Nemal Networks,2002.

[10]謝慶生，尹健，羅延科,等.機械工程中的神經網絡方法[M].北京：機械工業(yè)出版社，2003: 39-51.

XIE Qing-sheng,YIN Jian,LUO Yan-ke,etal.Neural network method in mechanical engineering [M].Beijing:China Machine Press,2003:39-51.(In Chinese)

[11]曾喆昭，李仁發(fā).高階多通帶濾波器優(yōu)化設計研究[J].電子學報,2002,30(1):87-89.

ZENG Zhe-zhao,LI Ren-fa.Study on the optimum design of the high-order multi-band-pass filters [J].Acta Electronica Sinica,2002,30(1):87-89.(In Chinese)

[12]張德豐.MATLAB 神經網絡應用設計[M].北京：機械工業(yè)出版社，2012:49-75.

ZHANG De-feng． MATLAB neural network application design [M].Beijing:China Machine Press,2012:49-75.(In Chinese)

[13]ISO 3471:2008 Earth-moving machinery-roll-over protective structures-laboratory tests and performance requirements[S].British: Standards Policy and Strategy Committee,2009.

[14]ISO 3164: 1992 Earth-moving machinery —Laboratory evaluation of roll-over and falling-object protective structures-specifications for deflection-limiting volume[S].British: The Authority of the Standards Board,1992．

[15]周傳月.MSC.Fatigue疲勞分析應用與實例[M].北京:科學出版社，2005:86-91.

ZHOU Chuan-yue.Fatigue analysis of application and examples with MSC.Fatigue[M].Beijing:Science Press,2005:86-91.(In Chinese)

[16]謝濤，陳火旺，康立山.多目標優(yōu)化的演化算法[J].計算機學報,2003,26(8):997-1003.

XIE Tao,CHEN Huo-wang,KANG Li-shan.Evolutionary algorithms of multi-objective optimization problems [J].Chinese Journal of Computers,2003,26(8):997-1003.(In Chinese)

[17]DEB K,PRATAP A,AGARWAL S,etal.A fast elitist non-dominated sorting genetic algorithm for multi-objective optimization: NSGA-II,Kan GAL Report No.200001[R].Kanpur: Indian Istitute of Technology,2000.

[18]李偉平,王世東,周兵,等.基于響應面法和NSGA-Ⅱ算法的麥弗遜懸架優(yōu)化[J].湖南大學學報:自然科學版,2011,38(6):27-32.

LI Wei-ping,WANG Shi-dong,ZHOU Bin,etal.Macpherson suspension parameter optimization based on response surface method and NSGA-Ⅱ algorithm [J].Journal of Hunan University:Natural Sciences,2011,38(6):27-32.(In Chinese)