基于融合機(jī)器學(xué)習(xí)的管道焊縫缺陷識別方法研究

李超華,許再勝

(中石化中原油建工程有限公司,河南 濮陽 457001)

焊接是一種以加熱、高溫或者高壓的方式接合金屬或其他熱塑性材料如塑料的制造工藝及技術(shù),被廣泛應(yīng)用于航空航天、石油石化、天然氣工業(yè)和船舶制造等領(lǐng)域[1]。近年來,中國長輸管道事業(yè)發(fā)展迅猛,總里程以千公里為單位逐年遞升,為國內(nèi)能源安全和國民經(jīng)濟(jì)的發(fā)展發(fā)揮著不可替代的重要作用,因此國家長輸管道網(wǎng)絡(luò)“安穩(wěn)長滿優(yōu)”地運(yùn)行極為關(guān)鍵。在各類影響管道安全運(yùn)行的風(fēng)險當(dāng)中,焊縫失效是威脅在役長輸油氣管道使用壽命和安全運(yùn)行的主要因素之一,如中緬天然氣管道貴州某管段在2017—2018年先后發(fā)生了兩次泄漏爆燃事故,直接原因是環(huán)焊縫在加載載荷下發(fā)生脆性斷裂,究其根本是焊接工藝不嚴(yán)、焊縫質(zhì)量存在問題[2-3]。因此,對管道焊縫缺陷進(jìn)行有效識別并分類,對于提高管道安全運(yùn)行的管控能力至關(guān)重要。

目前,對于管道在建設(shè)過程中的焊縫缺陷的判斷多采用射線檢測的方式實(shí)現(xiàn)[4]。射線在穿透焊縫時,如果焊縫局部存在缺陷,則該缺陷在焊縫中的所在部位處的衰減系數(shù)與焊縫均質(zhì)的無缺陷部分有所不同,故缺陷處與周圍均質(zhì)區(qū)域形成的底片灰度不一致,最后再通過人工核查確定缺陷類型。但受射線透射角度、穿透能力、缺陷的形態(tài)尺寸以及膠片質(zhì)量和像質(zhì)計靈敏度等因素的影響,在人工評價低對比度圖像時,難以有效檢出面積類的缺陷如裂紋、未熔合、未焊透等內(nèi)部缺陷。隨著計算機(jī)技術(shù)、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的發(fā)展,越來越多的學(xué)者對焊縫缺陷圖像的識別進(jìn)行了研究,傳統(tǒng)路線包括“特征提取-特征選擇-缺陷識別”等步驟,其中“特征提取”有小波包分解[5]、小波變換[6]、局部二值模式[7]等方法,“特征選擇”有主成分分析[5]、因子分析[7]等方法,“缺陷識別”有支持向量機(jī)[8]、神經(jīng)網(wǎng)絡(luò)[9]等模型,但以上方法在組合使用的過程中受人工經(jīng)驗(yàn)和超參數(shù)選取的影響,識別準(zhǔn)確率存在較大差異。綜上所述,以開挖后的射線焊縫圖像為基礎(chǔ),充分利用卷積神經(jīng)網(wǎng)絡(luò)(CNN)可實(shí)現(xiàn)端對端訓(xùn)練和預(yù)測的優(yōu)勢,實(shí)現(xiàn)焊縫缺陷的全過程識別,同時針對池化層在整合卷積層局部信息存在部分特征被忽略的缺陷,采用方差池化改進(jìn)CNN,實(shí)現(xiàn)缺陷處與周圍區(qū)域的灰度動態(tài)自適應(yīng),并利用鯨魚算法(WOA)實(shí)現(xiàn)模型超參數(shù)的選取。

1 傳統(tǒng)CNN模型及改進(jìn)

1.1 CNN模型理論

典型的CNN模型由輸入層、卷積層、池化層、全連接層和輸出層等構(gòu)成[10]。其中,輸入層的輸入為根據(jù)射線圖像灰度提取到的二維矩陣;卷積層負(fù)責(zé)將輸入數(shù)據(jù)分割成若干部分,通過局部感知和權(quán)值共享得到全局信息,實(shí)現(xiàn)敏感特征的挖掘和提取;池化層負(fù)責(zé)通過壓縮、降維數(shù)據(jù)提取圖像中的重要信息,降低特征畸變對神經(jīng)網(wǎng)絡(luò)分類結(jié)果的影響;全連接層負(fù)責(zé)整合池化層中具有區(qū)別類型的局部信息;輸出層負(fù)責(zé)將全連接層的結(jié)果連接至一個分類函數(shù),實(shí)現(xiàn)焊縫缺陷的自動識別,并輸出結(jié)果。

1.2 CNN模型的改進(jìn)

從上述描述可知,池化操作是特征選擇和特征降維的重要操作,常用的方法有最大池化和平均池化兩種,以兩種不同灰度特征的池化域?yàn)槔?如圖1所示。其中,v,v1,v2,v3,v4,v5等為池化域內(nèi)對應(yīng)的圖像灰度值,其余位置用0表示。對于圖1a),圖像特征集中在v處,如此時采用平均池化方法,則會減低該位置的灰度值,削弱該區(qū)域與邊緣區(qū)域的特征變化趨勢;對于圖1b),圖像特征均勻分布在池化域內(nèi),如此時采用最大池化方法,則會將灰度變化從平穩(wěn)變?yōu)橥怀?引入更多噪聲信息。綜上,提出一種綜合考慮池化域和特征圖的方差池化方法,確保池化模型在面臨不同灰度變化時的圖像時,具有一定的動態(tài)自適應(yīng)能力。首先,將缺陷位置信息轉(zhuǎn)化為池化域,將包含缺陷位置的整體圖像轉(zhuǎn)化為特征圖,兩者均用灰度值表示;其次,計算池化域和特征圖的方差信息,如前者方差小于后者時,表示池化域內(nèi)的方差特征較小,特征分布較均勻,池化模型采用平均池化方法,反之,表示區(qū)域內(nèi)灰度特征值明顯,引入修正系數(shù)μ調(diào)整平均池化方法;最后,輸出該池化域?qū)?yīng)的灰度值,如式(1)所示：

(1)

圖1 不同灰度特征的池化域示意

式中：S——池化域經(jīng)池化操作后的灰度值;n——池化域的矩陣行數(shù)或列數(shù);Fij——第i行第j列下的灰度值;μ——修正系數(shù);σP,σFM——池化域、特征圖的方差信息。

2 WOA算法

對于CNN模型,卷積核的數(shù)量和大小、池化核的數(shù)量和大小、卷積核激活函數(shù)類型、學(xué)習(xí)率、步長和填充方式等超參數(shù)對于模型分類準(zhǔn)確率的影響較大。在此,采用WOA算法實(shí)現(xiàn)CNN網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化[11-12]。實(shí)現(xiàn)步驟如下：

1)初始化WOA算法的各項(xiàng)參數(shù),包括種群規(guī)模、最大迭代次數(shù)、種群位置上限和下限。

2)定義CNN模型超參數(shù)的取值范圍,定義平均絕對誤差為損失函數(shù),即適應(yīng)度函數(shù)。

3)通過模擬鯨魚捕食過程中的收縮包圍、氣泡狩獵和搜索獵物的行為,不斷更新?lián)p失函數(shù)。

4)當(dāng)滿足閾值判定或迭代次數(shù)結(jié)束時,輸出最小損失函數(shù)對應(yīng)的CNN模型超參數(shù),完成最佳CNN模型的構(gòu)建。

3 實(shí)例分析

3.1 數(shù)據(jù)獲取

以某輸氣管道為例,設(shè)計輸送量為1×1010m3/a,設(shè)計壓力為10 MPa,管徑為1.016 m,鋼級為L555(X80),焊接方式為手工焊。為了消除管道焊縫缺陷帶來的安全隱患,在長度為220 km的管段內(nèi)進(jìn)行開挖后采用x射線檢測,檢測到裂紋、未熔合、未焊透、咬邊、塌陷、氣孔和夾渣等缺陷,共計1 113個結(jié)果,缺陷類型數(shù)量及比例分布如圖2所示。其中,以咬邊和塌陷為標(biāo)簽的外部缺陷樣本比例遠(yuǎn)低于內(nèi)部缺陷樣本比例,比例過低無法進(jìn)行后續(xù)CNN模型的分類訓(xùn)練,故將外部缺陷樣本作為無效樣本刪除。將剩余樣本按照4∶1∶1的比例劃分訓(xùn)練集、驗(yàn)證集和測試集,見表1所列。采用Sin增強(qiáng)和Ostu分割技術(shù)對圖像進(jìn)行預(yù)處理,得到原始圖像長度和寬度均為68 mm。

表1 數(shù)據(jù)集劃分情況

圖2 實(shí)測管道焊縫的缺陷類型和缺陷比例示意

3.2 超參數(shù)優(yōu)選

使用Matlab軟件的深度神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)工具箱實(shí)現(xiàn)框架編寫,設(shè)置WOA算法的種群規(guī)模為20,最大迭代次數(shù)為500,種群位置上限和下限分別為0和100;CNN模型中卷積層和池化層的層數(shù)均為2,移動步長分別為1和2,填充方式為不填充,全連接層激活函數(shù)采用Sigmoid函數(shù),輸出層采用Softmax分類模型,CNN模型的超參數(shù)的初始化范圍見表2所列。C1,C2分別表示第一個卷積層和第二個卷積層,P1,P2分別表示第一個池化層和第二個池化層。

表2 CNN模型的超參數(shù)初始化范圍

將表2中的超參數(shù)范圍代入WOA算法,作為算法的初始位置,通過不斷迭代訓(xùn)練得到損失函數(shù)值。不同算法的迭代過程如圖3所示,WOA算法的損失函數(shù)值在迭代過程中不斷下降,在52次時收斂,損失函數(shù)值為0.008 14;PSO算法迭代至500次時,函數(shù)值仍呈上下波動趨勢,損失函數(shù)值為0.010 29,未達(dá)到收斂狀態(tài)。由此可見,WOA算法在收斂精度和算法穩(wěn)定性上優(yōu)于PSO算法。

圖3 不同算法的迭代過程示意

取最大迭代次數(shù)對應(yīng)的鯨魚位置作為CNN模型超參數(shù),得到C1卷積核數(shù)量為6,卷積核大小為5×5,激活函數(shù)為ReLU;C2卷積核數(shù)量為12,卷積核大小為5×5,激活函數(shù)為ReLU;P1池化核數(shù)量為6,卷積核大小為2×2;P2池化核數(shù)量為12,池化核大小為2×2;學(xué)習(xí)率為10-4,最終形成的CNN模型網(wǎng)絡(luò)結(jié)構(gòu)如圖4所示。圖4中的3@68×68表示3個輸入或輸出通道數(shù)量,68×68表示圖像的長度和寬度,輸入通道為RGB,輸出通道與卷積/池化核數(shù)量相等,最后通過2個全連接層將節(jié)點(diǎn)個數(shù)從256縮小至128個,分類的缺陷類型為5類,輸出層個數(shù)為5。

圖4 CNN模型網(wǎng)絡(luò)結(jié)構(gòu)示意

3.3 模型分類結(jié)果

在確定CNN模型網(wǎng)絡(luò)結(jié)構(gòu)的基礎(chǔ)上,進(jìn)行5輪次、每輪500迭代次數(shù)的訓(xùn)練,每輪次隨機(jī)抽取訓(xùn)練集和測試集。本文模型下的分類準(zhǔn)確率上升較快且接近91%,損失函數(shù)值下降和收斂速度均較快,且訓(xùn)練集和驗(yàn)證集對應(yīng)的參數(shù)指標(biāo)差距不大,說明訓(xùn)練效果較好,驗(yàn)證集未出現(xiàn)過擬合或欠擬合現(xiàn)象。

對測試集的數(shù)據(jù)進(jìn)行分類測試,通過混淆矩陣統(tǒng)計不同訓(xùn)練輪次下的分類效果,見表3所列。其中,未熔合和未焊透缺陷分類準(zhǔn)確率最高,不同訓(xùn)練輪次下均達(dá)到了93%～100%,說明本文模型對這兩種缺陷具有較好的區(qū)分效果。裂紋、氣孔和夾渣缺陷的分類準(zhǔn)確率較低,三種缺陷分類出現(xiàn)了不同程度的混淆,氣孔、夾渣分別屬于圓形缺陷和條狀缺陷,兩者只是長寬比不同,在內(nèi)部缺陷的界定上存在模糊性;裂紋屬于線狀缺陷,與條狀缺陷相比,只是缺陷高度有所不同,該類貫穿形缺陷加大了兩者識別的難度,但以上三種缺陷的識別率在86%～100%,推測當(dāng)樣本數(shù)量增大時,可進(jìn)一步提高分類效果。平均分類準(zhǔn)確率在90.6%～95.8%,分類效果較好,說明本文方法的科學(xué)性和有效性。

表3 不同訓(xùn)練輪次下混淆矩陣對缺陷類型的分類效果

3.4 不同模型結(jié)果對比

將結(jié)合了方差池化方法、WOA算法和CNN模型的融合機(jī)器學(xué)習(xí)模型定為CNN-1模型,將采用最大池化方法和WOA算法的模型定為CNN-2模型,將采用方差池化方法和Adam優(yōu)化器優(yōu)化訓(xùn)練過程的模型定為CNN-3模型,將利用WOA對支持向量機(jī)(SVM)進(jìn)行超參數(shù)優(yōu)化的模型定為WOA-SVM模型。在相同實(shí)驗(yàn)環(huán)境和數(shù)據(jù)集的基礎(chǔ)上,得到不同模型的分類準(zhǔn)確率,如圖5所示。CNN-1與CNN-2模型相比,訓(xùn)練時間相差不大但CNN-2的分類準(zhǔn)確率較低,這是由于兩者均用WOA算法實(shí)現(xiàn)了最佳CNN超參數(shù)的選擇,縮短了訓(xùn)練時間,但最大池化方法對于灰度變化較明顯或不明顯的邊緣區(qū)域提取效果較差,導(dǎo)致分類準(zhǔn)確率較低。CNN-1與CNN-3模型相比,CNN-3的訓(xùn)練時間較長、分類準(zhǔn)確率較低,說明WOA算法在選取超參數(shù)方面優(yōu)于其余算法,不易陷入局部最優(yōu)解。CNN-1與WOA-SVM模型相比,WOA-SVM模型的評價指標(biāo)略差于CNN-1模型,這是由于以SVM模型為代表的算法屬于淺層神經(jīng)網(wǎng)絡(luò),對于特征提取和降維依靠人工經(jīng)驗(yàn),當(dāng)提取到的特征符合對應(yīng)缺陷類型的數(shù)學(xué)表征時,分類效果較好,對于5訓(xùn)練輪次下的分類準(zhǔn)確率在(92.21±5.18)%的范圍內(nèi),差值范圍較大,也說明了SVM模型具有不穩(wěn)定性和差異性。

圖5 不同模型的分類效果示意

4 結(jié)束語

基于方差池化方法、WOA算法和CNN模型形成融合機(jī)器學(xué)習(xí)模型,用于管道焊縫缺陷的智能分類和識別,其中未熔合和未焊透缺陷分類準(zhǔn)確率最高,不同訓(xùn)練輪次下均達(dá)到了93%～100%,5種待識別缺陷的平均分類準(zhǔn)確率為90.6%～95.8%。與其余機(jī)器學(xué)習(xí)模型對比,本文模型在缺陷邊緣灰度自適應(yīng)、網(wǎng)絡(luò)超參數(shù)優(yōu)選等方面具有一定先進(jìn)性,模型對于不同缺陷的識別精度較高,可滿足現(xiàn)場工程實(shí)踐的需求。現(xiàn)場射線檢測結(jié)果具有隨機(jī)性和不確定性,所選樣本同樣具有不均衡性,今后應(yīng)適當(dāng)采用虛擬數(shù)據(jù)擴(kuò)充技術(shù)增加樣本數(shù)量,提高裂紋、氣孔和夾渣等缺陷的識別效果。