基于集成數(shù)據(jù)驅(qū)動方法的焊接接頭疲勞壽命預(yù)測模型

馮超，趙雷，徐連勇，韓永典

(1.天津大學(xué),天津,300350；2.天津大學(xué)天津市現(xiàn)代連接技術(shù)重點實驗室,天津,300350)

0 序言

疲勞斷裂是工程失效的最主要方式，隨著工業(yè)大型化進程的推進，材料疲勞行為的研究已經(jīng)成為避免工程失效的有效推動手段[1-2].焊接技術(shù)是工程上最常用的連接方式之一，作為一個多物理場耦合的不可逆過程，焊接接頭的力學(xué)行為研究是一個多重非線性關(guān)系并存的復(fù)雜課題[3-4].

自疲勞概念在1854 年首次提出以來，對疲勞行為的研究已經(jīng)取得了豐碩成果，逐步形成了以疲勞研究為基礎(chǔ)的機械結(jié)構(gòu)強度理論與技術(shù)，推動機械結(jié)構(gòu)從經(jīng)驗設(shè)計走向安全設(shè)計.期間對于疲勞行為的研究，產(chǎn)生了經(jīng)驗解、解析解、數(shù)值解等多種研究手段[5-9]，并廣泛應(yīng)用于工業(yè)的多個方面.由于焊接接頭疲勞壽命受到多重影響因素的共同作用，并且各影響因素與疲勞壽命之間的定量關(guān)系不夠清晰，導(dǎo)致目前沒有一個通用的疲勞壽命預(yù)測模型適用于所有疲勞條件.隨著數(shù)據(jù)的爆炸，數(shù)據(jù)驅(qū)動方法在疲勞行為的研究上發(fā)揮出色，并逐漸成為一種有效的疲勞壽命預(yù)測手段[10-11].但是目前不同的研究關(guān)注點不同，而數(shù)據(jù)驅(qū)動方法的可解釋性較差，導(dǎo)致不同預(yù)測模型的性能難以評估.鄒麗等人[12]利用監(jiān)督策略對?；瘲l件鄰域熵進行改進，提出基于監(jiān)督?；臈l件鄰域熵屬性約簡算法.并基于互信息理論分析了焊接接頭疲勞壽命各影響因素之間的耦合關(guān)系，所提出的算法具有較高的約簡率和分類準確率.Gao 等人[13]使用全尺寸現(xiàn)場測量評估了工程部件的疲勞特性，并開發(fā)了一個數(shù)據(jù)驅(qū)動模型來估計疲勞損傷.結(jié)果表明，基于數(shù)據(jù)驅(qū)動方法的疲勞損傷預(yù)測模型具有良好的精度.Amiri 等人[14]分別通過單目標和雙目標神經(jīng)網(wǎng)絡(luò)研究了點焊接頭的靜態(tài)和疲勞行為.其中，神經(jīng)網(wǎng)絡(luò)模型被用作基本框架，遺傳算法被用于優(yōu)化神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu).該方法假定相似的超聲波結(jié)果具有相同的抗拉強度和疲勞壽命，從而實現(xiàn)了同時預(yù)測抗拉強度和疲勞壽命的雙目標神經(jīng)網(wǎng)絡(luò).Lian 等人[15]于2022 年設(shè)計了一個基于領(lǐng)域知識的機器學(xué)習(xí)框架，將經(jīng)驗公式和隨機森林(random forest，RF)模型相結(jié)合來預(yù)測鋁合金的疲勞壽命.利用該方法(KRF 模型)的設(shè)計特點，通過經(jīng)驗公式傳遞知識，構(gòu)建了疲勞壽命預(yù)測的通用方法，以減少實驗時間和成本.Gan 等人[16]于2022 年提出了一種基于核極限學(xué)習(xí)機(kernel extreme learning machine，KELM)算法的疲勞壽命預(yù)測方法作為半經(jīng)驗預(yù)測模型的有用替代方法，并使用網(wǎng)格搜索法自動優(yōu)化KELM 的超參數(shù).

近年來，用于疲勞壽命智能預(yù)測方法的數(shù)據(jù)驅(qū)動方法經(jīng)歷了常規(guī)機器學(xué)習(xí)模型-混合多種機器學(xué)習(xí)算法的模型-深度學(xué)習(xí)模型幾個階段.基于此，文中通過建立一個以深度卷積神經(jīng)網(wǎng)絡(luò)(deep convolutional neural network，DCNN)為框架的疲勞壽命預(yù)測模型，并綜合比較了集成不同技術(shù)的壽命預(yù)測模型的性能，為疲勞壽命智能預(yù)測的發(fā)展提供參考，進而為實現(xiàn)多重復(fù)雜條件下通用的疲勞壽命智能預(yù)測模型的構(gòu)建奠定基礎(chǔ).相比目前已有的數(shù)據(jù)驅(qū)動模型，所提出的DCNN 模型具有良好的預(yù)測性能.DCNN 模型能夠更好地理解焊接接頭的疲勞行為的多重非線性關(guān)系，并通過數(shù)據(jù)增強與影響因素權(quán)重分析的考慮，具有較高的準確性和穩(wěn)定性[17-18].所提出的模型也存在數(shù)據(jù)驅(qū)動方法的固有不足，目前的數(shù)據(jù)庫的建設(shè)工作應(yīng)該不斷推進，使其能夠包含更多不同疲勞條件下的性能數(shù)據(jù)以及更大的數(shù)據(jù)量.此外，對于數(shù)據(jù)驅(qū)動模型預(yù)測結(jié)果的解釋以及物理規(guī)律的嵌入也是需要進一步發(fā)展的重要內(nèi)容，上述問題的深入研究將進一步優(yōu)化所提出的模型，并增強數(shù)據(jù)驅(qū)動方法在焊接接頭疲勞壽命領(lǐng)域的適用性.

1 模型建立

基于數(shù)據(jù)驅(qū)動方法的疲勞壽命預(yù)測模型的建立過程可大體分為4 個步驟，如圖1 所示.疲勞性能數(shù)據(jù)庫的建立與處理，疲勞壽命影響因素的特征選擇與重要性分析，用于理解疲勞壽命及其影響因素之間關(guān)系的數(shù)據(jù)驅(qū)動框架的搭建以及模型的訓(xùn)練、優(yōu)化與應(yīng)用.基于此，文中從疲勞性能數(shù)據(jù)庫的建立與處理、疲勞壽命影響因素的分析、疲勞壽命預(yù)測模型的集成3 個方面對所提出的疲勞壽命預(yù)測模型進行描述.

圖1 數(shù)據(jù)驅(qū)動方法流程Fig.1 Process of data-driven method

1.1 疲勞性能數(shù)據(jù)庫的建立與處理

使用DCNN 方法可以充分反映與考慮疲勞壽命及其之間的多重非線性復(fù)雜關(guān)系，有效地避免局部最優(yōu)和過擬合，疲勞壽命預(yù)測模型的集成方案如圖2 所示.

圖2 焊接接頭疲勞壽命預(yù)測模型的集成方案Fig.2 Integration scheme of the prediction model for welded joints of fatigue life

數(shù)據(jù)庫的建立與處理通?？梢灾苯佑绊戭A(yù)測模型的性能，而數(shù)據(jù)驅(qū)動方法對于數(shù)據(jù)庫數(shù)據(jù)的數(shù)量和質(zhì)量均具有較高要求[19-20].根據(jù)其對數(shù)據(jù)庫數(shù)據(jù)的數(shù)量要求，文中從已發(fā)表的文獻中[21-25]提取了相應(yīng)的疲勞性能數(shù)據(jù)，用于疲勞性能數(shù)據(jù)庫的組建.此外，根據(jù)數(shù)據(jù)驅(qū)動方法對數(shù)據(jù)庫數(shù)據(jù)的質(zhì)量要求，分別對數(shù)據(jù)庫中的缺失值、重復(fù)值、離群值進行處理，并實施歸一化處理.疲勞性能數(shù)據(jù)庫一直以來都是我們工作的一項重要內(nèi)容，并在不斷擴充、優(yōu)化疲勞性能數(shù)據(jù)庫方面做了一系列研究[17-18].

不同文獻中的不同測試條件以及疲勞行為的不確定性導(dǎo)致建立的數(shù)據(jù)庫存在不平衡問題.因此，采用臨界合成少數(shù)過采樣技術(shù)(borderlinesynthetic minority over-sampling technique，Borderline-SMOTE)算法處理疲勞性能數(shù)據(jù)集.Borderline-SMOTE 是基于隨機過采樣算法的一種改進方案，由于隨機過采樣采取簡單復(fù)制樣本的策略來增加少數(shù)類樣本，這樣容易產(chǎn)生模型過擬合的問題，即使得模型學(xué)習(xí)到的信息過于特征化導(dǎo)致泛化能力欠佳，SMOTE 算法的基本思想是對少數(shù)類樣本進行分析并根據(jù)少數(shù)類樣本人工合成新樣本添加到數(shù)據(jù)集中，從而增強所建立的疲勞性能數(shù)據(jù)庫的平衡性以及數(shù)據(jù)質(zhì)量.在疲勞壽命預(yù)測過程中，訓(xùn)練集與測試集的比例為8∶2.在此基礎(chǔ)上，進行了焊接接頭疲勞壽命影響因素的權(quán)重分析.

1.2 疲勞壽命影響因素的分析

疲勞壽命的影響因素具有非線性特征，對其權(quán)重系數(shù)的研究有利于更好地理解焊接接頭的疲勞行為，從而在根源上提高焊接接頭的疲勞性能.極端梯度提升算法(extreme gradient boosting，XGBoost)是集成學(xué)習(xí)算法的最有效手段之一，在絕大多數(shù)分類和回歸問題上的描述和理解表現(xiàn)十分優(yōu)異.XGBoost 算法的目標函數(shù)為

式中：j和J分別是當前和全部葉節(jié)點數(shù)目，i∈Ij表示第i個樣本分為第j個葉節(jié)點，gi是一階偏導(dǎo)數(shù)，hi是二階偏導(dǎo)數(shù)，wj是葉節(jié)點的權(quán)重，Tl是葉節(jié)點的綜述，λ和γ是XGBoost 算法的超參數(shù).

因此，文中基于XGBoost 算法對疲勞壽命影響因素的權(quán)重進行分析，并集成到疲勞壽命預(yù)測框架，實現(xiàn)可靠預(yù)測.

2 數(shù)據(jù)增強及影響因素分析

2.1 數(shù)據(jù)增強

在機器學(xué)習(xí)中，通常假設(shè)數(shù)據(jù)集是平衡的(不同類別的數(shù)據(jù)在數(shù)量和質(zhì)量上是相等的)，用不平衡數(shù)據(jù)集訓(xùn)練的疲勞性能預(yù)測誤差較大.而不同文獻中的不同測試條件以及疲勞行為的不確定性容易導(dǎo)致數(shù)據(jù)集的不平衡.因此，采用SMOTE 方法處理疲勞性能數(shù)據(jù)集，增加數(shù)據(jù)集中的少數(shù)樣本，避免疲勞性能數(shù)據(jù)的重疊，以使樣本更有效.此外，為驗證數(shù)據(jù)增強的有效性，使用F值和真陽性(true positive，TP)率對數(shù)據(jù)增強前后的數(shù)據(jù)庫的性能進行分析.F值是不平衡問題的常用評價指標，適用于疲勞壽命預(yù)測的精度分析，在研究中，F(xiàn)值的增加表示模型的分類和預(yù)測精度也相應(yīng)提升，有利于可靠疲勞壽命預(yù)測結(jié)果的獲得.TP 率是疲勞性能數(shù)據(jù)集中正確分類樣本的百分比，能夠反映數(shù)據(jù)增強對疲勞壽命預(yù)測結(jié)果的精度的影響，在研究中，TP 率值的增加表示模型能夠更好地分類疲勞數(shù)據(jù)樣本，模型能夠更好地理解疲勞行為特點，實現(xiàn)可靠的疲勞壽命預(yù)測.通過10 倍交叉驗證，可以獲得數(shù)據(jù)庫的TP 率和F值，其中，為減少邊界SMOTE方法的隨機性，得到的TP 率和F值均為三次獨立交叉驗證的平均結(jié)果.

如圖3 所示，處理前與處理后的TP 與F數(shù)值均出現(xiàn)波動點，而波動位置并不對應(yīng)，這是算法本身的特點，可以更好地追蹤不同樣本條件下的特征，這并不會對本研究的預(yù)測結(jié)果產(chǎn)生影響.數(shù)據(jù)增強后的疲勞性能數(shù)據(jù)庫的TP 率最小值為0.79，比未經(jīng)數(shù)據(jù)增強的數(shù)據(jù)庫(0.58)高36.2%；處理后數(shù)據(jù)庫的TP 率最大值為0.9，比未處理數(shù)據(jù)庫(0.79)高13.9%；處理后數(shù)據(jù)庫的TP 率平均值為0.84，比未處理數(shù)據(jù)庫(0.68)高23.5%.處理后數(shù)據(jù)庫的F值最小值為0.71，比未處理數(shù)據(jù)庫(0.59)高20.3%；處理后數(shù)據(jù)庫的F值最大值為0.86，比未處理數(shù)據(jù)庫(0.74)高16.2%；處理后數(shù)據(jù)庫的F值平均值為0.78，比未處理數(shù)據(jù)庫(0.65)高20.0%.分析結(jié)果表明，數(shù)據(jù)增強對于疲勞性能數(shù)據(jù)庫的分類準確性和精度均具有較好的提升效果，有利于實現(xiàn)可靠的疲勞壽命預(yù)測.

圖3 數(shù)據(jù)增強前后模型性能分析Fig.3 Analysis of model properties with and without data augmentation

2.2 焊接接頭疲勞壽命影響因素分析

基于深度學(xué)習(xí)框架的疲勞壽命預(yù)測方法可以全面考慮不同影響因素的綜合作用而不會發(fā)生過擬合，為不同影響因素的權(quán)重的綜合分析創(chuàng)造了條件.此外，不同影響因素的權(quán)重大小比較為應(yīng)力范圍 ＞ 應(yīng)力比 ＞ 加載頻率 ＞ 材料強度 ＞ 載荷類型 ＞表面狀態(tài) ＞ 環(huán)境溫度.如圖4 所示，應(yīng)力范圍對疲勞壽命的影響權(quán)重(44%)最大，明顯高于其他影響因素；此外，應(yīng)力比對疲勞壽命的影響權(quán)重為14%，比加載頻率的影響權(quán)重(13%)高7.7%，比載荷類型的影響權(quán)重(9%)高55.6%，比材料強度的影響權(quán)重(8%)高75.0%，比表面狀態(tài)和溫度的影響權(quán)重(6%)均高133.3%.Xue 等人[23]和Gkatzogiannis等人[26]對疲勞壽命影響因素重要性的研究中也得到了相似的結(jié)論，證明了影響因素權(quán)重分析結(jié)果的可靠性.

圖4 疲勞壽命影響因素權(quán)重分析Fig.4 Wight analysis of factors influencing fatigue life

3 結(jié)果與討論

3.1 基于不同技術(shù)組合的預(yù)測模型性能對比

分別設(shè)計了方案1、方案2、方案3 和方案4 用于比較有無影響因素權(quán)重分析以及有無數(shù)據(jù)增強情況下的疲勞壽命預(yù)測模型的效果.其中，方案1 進行了影響因素權(quán)重分析和數(shù)據(jù)增強(提出的方法)；方案2 只進行了數(shù)據(jù)增強；方案3 只進行了影響因素權(quán)重分析；方案4 沒有進行上述2 種處理手段.

如圖5a 所示，基于方案1 和方案2 得到的疲勞壽命預(yù)測值可以保持在±1.5 倍誤差帶內(nèi)，并且沒有明顯的離群值.然而，基于方案3 和方案4 得到的大多數(shù)疲勞壽命預(yù)測值僅能保持在±3 倍誤差帶內(nèi)，并且這兩種方法都包含誤差較大的預(yù)測結(jié)果.如圖5b 所示，方案1 的平均預(yù)測誤差為5.2%，比方案2 的平均預(yù)測誤差(48.6%)小89.3%，比方案3 的平均預(yù)測誤差(25.0%)小79.2%，比方案4 的平均預(yù)測誤差(69.8%)小92.6%.方案1 的預(yù)測誤差的標準差為4.1%，比方案2 的預(yù)測誤差的標準差(26.0%)小84.2%，比方案3 的預(yù)測誤差的標準差(12.6%)小67.5%，比方案4 的預(yù)測誤差的標準差(41.7%)小90.2%.如圖5c 所示，方案1 的最大預(yù)測誤差為12.5%，比方案2 的最大預(yù)測誤差(116.4%)小89.3%，比方案3 的最大預(yù)測誤差(50.6%)小75.3%，比方案4 的最大預(yù)測誤差(152.2%)小91.8%.

此外，采取數(shù)據(jù)增強但未進行權(quán)重分析的方案2 的預(yù)測誤差和誤差標準差比未采取數(shù)據(jù)增強和權(quán)重分析的方案4 分別小30.4%和37.6%.未采取數(shù)據(jù)增強但進行了權(quán)重分析的方案3 的預(yù)測誤差和誤差標準差比比方法4 分別小64.2%和69.8%.總體而言，進行權(quán)重分析和數(shù)據(jù)增強的模型 ＞ 進行權(quán)重分析而未進行數(shù)據(jù)增強的模型 ＞ 進行數(shù)據(jù)增強而未采取權(quán)重分析的模型 ＞ 權(quán)重分析和數(shù)據(jù)增強均未進行的模型.分析結(jié)果強調(diào)了數(shù)據(jù)增強，特別是權(quán)重分析對于可靠疲勞壽命預(yù)測的重要性.

3.2 不同預(yù)測模型性能對比

選擇Lian 等人[15]設(shè)計的K-RF 模型以及Gan 等人[16]提出的KELM 模型2 種先進技術(shù)作為對比，以評估所提出算法的可靠性.

如圖6a 所示，DCNN 模型的疲勞壽命預(yù)測值在±1.5 倍誤差帶內(nèi)，K-RF 模型和KELM 模型的疲勞壽命預(yù)測值大部分位于±3 倍誤差帶內(nèi).如圖6b 所示，DCNN 模型的平均預(yù)測誤差為5.2%，比K-RF 模型(47.4%)小89.0%，比KELM 模型(55.7%)小90.7%.此外，DCNN 模型的預(yù)測誤差的標準差為4.1%，比K-RF 模型(19.9%)小79.4%，比KELM 模型(23.0%)小82.2%.如圖6c 所示，DCNN 模型的最大預(yù)測誤差為12.5%，比K-RF 模型(91.0%)小86.3%，比KELM 模型(120.5%)小89.6%.

圖6 不同預(yù)測方法性能對比Fig.6 Comparison of different prediction methods.(a)error band analysis;(b) prediction error analysis;(c) conparison of prediction error

Lian 等人[15]指出，通過知識轉(zhuǎn)移的機器學(xué)習(xí)模型將成為小規(guī)模數(shù)據(jù)集領(lǐng)域知識和數(shù)據(jù)驅(qū)動方法之間的橋梁.然而，在多個非線性問題的情況下，當前模型無法獲得良好的預(yù)測結(jié)果.此外，KELM 模型的訓(xùn)練需要相對較大的數(shù)據(jù)庫，如此高的數(shù)據(jù)要求可能會阻礙模型擴展到其他疲勞問題.此外，KELM 模型不適用于與訓(xùn)練多重材料，難以研究各種焊接接頭疲勞壽命的預(yù)測[16].綜上所述，結(jié)合數(shù)據(jù)增強與疲勞壽命影響因素權(quán)重分析的DCNN 模型表現(xiàn)出良好的預(yù)測性能，具有較高的準確性和穩(wěn)定性.此方法對評估工程構(gòu)件的可靠性和避免工程事故具有重要意義.

4 結(jié)論

(1)基于Borderline-SMOTE 算法對疲勞數(shù)據(jù)庫進行了數(shù)據(jù)增強，處理后數(shù)據(jù)庫的TP 率平均值為0.84，比未處理數(shù)據(jù)庫(0.68)高23.5%；處理后數(shù)據(jù)庫的F值平均值為0.78，比未處理數(shù)據(jù)庫(0.65)高20.0%.

(2)于XGBoost 算法對疲勞壽命影響因素進行分析，發(fā)現(xiàn)不同影響因素的權(quán)重大小為：應(yīng)力范圍＞ 應(yīng)力比 ＞ 加載頻率 ＞ 材料強度 ＞ 載荷類型 ＞ 表面狀態(tài) ＞ 溫度.

(3)與其他先進預(yù)測技術(shù)相比，考慮數(shù)據(jù)增強和權(quán)重分析的DCNN 模型的平均誤差和預(yù)測誤差標準差分別降低79.4%和96.3%以上.