古洪亮,丁建明
基于卷積神經(jīng)網(wǎng)絡(luò)的擰緊曲線異形識(shí)別方法研究
古洪亮,丁建明
(西南交通大學(xué) 牽引動(dòng)力國(guó)家重點(diǎn)實(shí)驗(yàn)室,四川 成都 610031)
針對(duì)現(xiàn)有擰緊曲線異形識(shí)別方法依賴(lài)人工提取特征和專(zhuān)業(yè)知識(shí)的問(wèn)題,提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的擰緊曲線異形識(shí)別方法。首先,針對(duì)擰緊曲線數(shù)據(jù)匱乏、數(shù)據(jù)長(zhǎng)度不均的問(wèn)題,通過(guò)隨機(jī)裁剪來(lái)進(jìn)行數(shù)據(jù)增強(qiáng),通過(guò)回歸決策樹(shù)重構(gòu)曲線實(shí)現(xiàn)曲線對(duì)齊;然后,基于傳統(tǒng)CNN模型,建立了擰緊曲線異形識(shí)別模型;最后,通過(guò)研究各項(xiàng)超參數(shù)與模型識(shí)別結(jié)果的關(guān)系,給出了最終的參數(shù)組合方案,并且通過(guò)分析訓(xùn)練過(guò)程中各個(gè)階段的混淆矩陣,展示了模型的學(xué)習(xí)過(guò)程,通過(guò)與傳統(tǒng)機(jī)器學(xué)習(xí)方法SVM等對(duì)比,驗(yàn)證了本文所提出方法的有效性。實(shí)驗(yàn)結(jié)果表明:該方法能夠有效地識(shí)別出螺栓連接擰緊曲線的異常數(shù)據(jù),識(shí)別正確率可以達(dá)到99%,為基于深度學(xué)習(xí)的螺栓連接件智能診斷提供了方法指導(dǎo)。
卷積神經(jīng)網(wǎng)絡(luò);螺栓連接;擰緊曲線;故障診斷
螺栓連接結(jié)構(gòu)廣泛應(yīng)用于軌道車(chē)輛中,單個(gè)車(chē)輛中的螺栓數(shù)量動(dòng)輒上萬(wàn),螺栓連接結(jié)構(gòu)的質(zhì)量及可靠性極大影響車(chē)輛的功能,甚至行車(chē)安全。目前國(guó)內(nèi)軌道車(chē)輛主機(jī)廠最常用的螺栓連接質(zhì)量控制方法是扭矩法和扭矩轉(zhuǎn)角控制法[1],這兩種方法都是利用擰緊工具識(shí)別擰緊扭矩是否達(dá)到目標(biāo)值或目標(biāo)區(qū)間來(lái)判別螺栓連接是否合格,缺乏對(duì)過(guò)程數(shù)據(jù)的分析,也無(wú)法反應(yīng)螺栓連接擰緊過(guò)程中產(chǎn)生的問(wèn)題。
隨著擰緊設(shè)備水平的提高,擰緊曲線的獲取成為了可能[2],為精進(jìn)工藝水平,越來(lái)越多的學(xué)者和工程人員對(duì)擰緊曲線展開(kāi)了研究,陳福森等[3]基于企業(yè)實(shí)測(cè)數(shù)據(jù),羅列了螺栓連接擰緊曲線的故障類(lèi)別,闡述了螺栓連接幾種主要缺陷的擰緊曲線特性,并分析了缺陷產(chǎn)生的原因。還有學(xué)者對(duì)螺栓連接擰緊曲線與螺栓連接結(jié)構(gòu)質(zhì)量之間的關(guān)系進(jìn)行了探究,如王磊[4]建立了基于擰緊過(guò)程與擰緊結(jié)果的螺栓連接結(jié)構(gòu)質(zhì)量評(píng)價(jià)方法;張春雨[5]對(duì)螺栓異常曲線進(jìn)行了降維處理,之后采用半監(jiān)督學(xué)習(xí)對(duì)螺栓連接異常做出了分類(lèi);Meiners Moritz等[6-7]將機(jī)器學(xué)習(xí)引入到了擰緊曲線的異常監(jiān)測(cè)中,展示了如何通過(guò)分析擰緊曲線來(lái)監(jiān)測(cè)螺栓緊固件的故障。這些研究證明了從螺栓連接擰緊曲線中獲取螺栓質(zhì)量信息的有效性與實(shí)用性,但這些方法主要基于傳統(tǒng)機(jī)器學(xué)習(xí),存在擰緊曲線特征提取依賴(lài)人工設(shè)計(jì)的缺點(diǎn),難以保障算法的通用性。
近年來(lái),深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)憑借著獨(dú)特的卷積結(jié)構(gòu),具有自動(dòng)提取特征、特征具有平移不變性等優(yōu)勢(shì),在計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理等領(lǐng)域成功應(yīng)用[8-12]。本文基于卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),建立螺栓連接擰緊曲線異形識(shí)別模型,將數(shù)據(jù)預(yù)處理之后的曲線作為模型輸入,不再需要人工提取特征,實(shí)現(xiàn)了擰緊曲線的精準(zhǔn)分類(lèi)。
螺栓連接是用螺栓將多個(gè)部件聯(lián)結(jié)成整體的連接方式,螺栓連接的夾緊力是否達(dá)到要求直接反應(yīng)了螺栓連接結(jié)構(gòu)的性能優(yōu)劣。但夾緊力不容易直接進(jìn)行測(cè)量,常利用扭矩來(lái)計(jì)算得到夾緊力,二者的關(guān)系為:
式中:為夾緊力;為扭矩;為扭矩系數(shù);為螺紋公稱(chēng)直徑。
但僅僅監(jiān)測(cè)扭矩并不能保證螺栓連接件滿足性能要求,如螺紋損壞、粘滑等故障發(fā)生時(shí),最終扭矩也可能在合格區(qū)間以?xún)?nèi)。在這種情況下,擰緊曲線就派上了用場(chǎng)。擰緊曲線反應(yīng)了扭矩隨螺栓旋入角度的增大而變化的情況,包含擰緊全過(guò)程的信息,通過(guò)識(shí)別擰緊曲線的特征,可以對(duì)故障進(jìn)行甄別。
理想的擰緊曲線可分為三個(gè)階段,以M12鍍鋅螺栓壓板試驗(yàn)擰緊曲線為例進(jìn)行說(shuō)明,如圖1所示。在預(yù)擰緊階段,扭矩主要克服螺紋副之間的摩擦力,此時(shí)扭矩較小;擰至貼合后,進(jìn)入彈性擰緊階段,扭矩逐漸增大,穩(wěn)定后曲線幾乎呈直線形,在這個(gè)階段拆卸螺栓,螺栓會(huì)回到原始狀態(tài);扭到屈服點(diǎn)后,螺栓發(fā)生塑性變形,這個(gè)階段擰緊曲線斜率下降,甚至變?yōu)樨?fù)數(shù),直至螺栓被拉斷。
圖1 擰緊曲線
本文所使用的螺栓連接擰緊曲線數(shù)據(jù)是采用德國(guó)Kistler公司的螺栓緊固分析設(shè)備在實(shí)驗(yàn)室中取得。為達(dá)到擰緊曲線異形識(shí)別的目的,設(shè)計(jì)不同的試驗(yàn)條件,得到四種不同的曲線,包括正常、裝錯(cuò)件、螺紋損壞、粘滑四種類(lèi)別,獲得的各類(lèi)數(shù)據(jù)如圖2所示。
圖2 各類(lèi)擰緊曲線
數(shù)據(jù)樣本量的大小對(duì)神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練效果有很大的影響,一般而言,樣本量越大,模型的泛化能力越強(qiáng)。因此,在模型訓(xùn)練之前,常常會(huì)使用數(shù)據(jù)增強(qiáng)的技術(shù)來(lái)擴(kuò)沖數(shù)據(jù)樣本,常用的數(shù)據(jù)增強(qiáng)方式有隨機(jī)裁剪、幾何變換、顏色變換等??紤]到擰緊曲線的特殊性,本文采用隨機(jī)裁剪的方式進(jìn)行數(shù)據(jù)增強(qiáng)。
從擰緊設(shè)備上采集的擰緊曲線長(zhǎng)度不一,為使每條擰緊曲線都能適應(yīng)統(tǒng)一的神經(jīng)網(wǎng)絡(luò),需要進(jìn)行曲線對(duì)齊,使每條擰緊曲線的點(diǎn)數(shù)保持一致。本文采用回歸決策樹(shù)來(lái)學(xué)習(xí)每條曲線的特征,對(duì)曲線進(jìn)行重構(gòu),從而達(dá)到曲線對(duì)齊的目的。首先,利用決策樹(shù)學(xué)習(xí)曲線,使用均方誤差作為決策樹(shù)劃分標(biāo)準(zhǔn),將決策樹(shù)的最大深度設(shè)為100,使決策樹(shù)過(guò)擬合,從而記住曲線的細(xì)節(jié)特征;其次,以曲線最大角度的千分之一作為步長(zhǎng),預(yù)測(cè)每個(gè)角度對(duì)應(yīng)的扭矩,以此得到新的曲線。重構(gòu)的每條曲線角度步長(zhǎng)不同,但點(diǎn)數(shù)相同,達(dá)到了曲線對(duì)齊的目的。
圖3為某條擰緊曲線某一區(qū)間重構(gòu)前后的對(duì)比圖,其中,原始曲線有9030個(gè)數(shù)據(jù)點(diǎn),重構(gòu)之后有1000個(gè)數(shù)據(jù)點(diǎn)??梢钥闯?,曲線重構(gòu)后,曲線點(diǎn)數(shù)減少了,但是曲線的走勢(shì)基本沒(méi)變,保留了原始曲線的細(xì)微特征。
圖3 某一段曲線重構(gòu)前后對(duì)比圖
為排除特征量綱的影響,加速模型收斂,提高模型精度,本文對(duì)數(shù)據(jù)進(jìn)行線性歸一化處理,公式為:
式中:x為歸一化后的數(shù)據(jù);為原始的角度(扭矩)數(shù)據(jù);min為每列角度(扭矩)數(shù)據(jù)的最小值;max為每列角度(扭矩)數(shù)據(jù)的最大值。
本文模型采用二維卷積與一維卷積結(jié)合的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),如圖4所示,其中包括1個(gè)輸入層、一個(gè)2維卷積層、1個(gè)一維卷積層、2個(gè)一維池化層、3個(gè)全連接層,圖中的藍(lán)色方框代表卷積核的大小、紅色方框代表池化窗口的大小。螺栓連接擰緊數(shù)據(jù)的復(fù)雜度不高,因此較低層數(shù)的神經(jīng)網(wǎng)絡(luò)模型已經(jīng)能很好的解決問(wèn)題,在網(wǎng)絡(luò)層數(shù)過(guò)高時(shí),反而會(huì)導(dǎo)致過(guò)擬合使得識(shí)別準(zhǔn)確率降低。
圖4 擰緊曲線異形識(shí)別模型
擰緊曲線異形識(shí)別流程如圖5所示。輸入擰緊數(shù)據(jù)后,隨機(jī)將85%的數(shù)據(jù)劃分為訓(xùn)練集、剩下的15%作為測(cè)試集,之后的流程可分為模型訓(xùn)練與模型測(cè)試兩個(gè)環(huán)節(jié)。在模型訓(xùn)練階段,首先對(duì)神經(jīng)網(wǎng)絡(luò)模型的參數(shù)進(jìn)行初始化,然后網(wǎng)絡(luò)向前傳播計(jì)算出預(yù)測(cè)值,根據(jù)預(yù)測(cè)值計(jì)算出損失,之后反向傳播更新模型參數(shù),循環(huán)多次達(dá)到訓(xùn)練要求后,結(jié)束訓(xùn)練。在模型測(cè)試階段,利用已經(jīng)訓(xùn)練好的卷積神經(jīng)網(wǎng)絡(luò)模型對(duì)測(cè)試集中的數(shù)據(jù)進(jìn)行識(shí)別,根據(jù)識(shí)別結(jié)果與真實(shí)標(biāo)簽的匹配程度,判斷模型的優(yōu)劣程度。
圖5 算法流程圖
數(shù)據(jù)集取自第2章預(yù)處理后的數(shù)據(jù),在數(shù)據(jù)集中隨機(jī)抽取85%作為訓(xùn)練集、剩下的15%作為測(cè)試集,數(shù)據(jù)分布如表1所示。
表1 數(shù)據(jù)樣本組成
對(duì)于神經(jīng)網(wǎng)絡(luò)模型,選取合適的模型參數(shù)能極大提升模型性能,包括優(yōu)化器類(lèi)型、批處理樣本量、學(xué)習(xí)率、卷積層數(shù)、卷積核大小等。本文模型的卷積層數(shù)、卷積核大小、池化窗口大小等結(jié)構(gòu)參數(shù)已經(jīng)確定,如圖4所示。因此,本文著重針對(duì)優(yōu)化器類(lèi)型、批處理樣本量和學(xué)習(xí)率進(jìn)行試驗(yàn),選取相對(duì)較優(yōu)的參數(shù)組合,提高模型性能。
優(yōu)化器用于計(jì)算和更新神經(jīng)網(wǎng)絡(luò)參數(shù),使得損失函數(shù)達(dá)到最小值。不同的優(yōu)化器有不同的特點(diǎn),如SGD具有很好的泛化性能,但容易收斂到局部最優(yōu);Adagrad可以自適應(yīng)學(xué)習(xí)率,但迭代后期收斂緩慢;Adadelta在Adagrad的基礎(chǔ)上進(jìn)行改進(jìn),能夠減弱Adagrad學(xué)習(xí)率過(guò)激地單調(diào)遞減的現(xiàn)象,使得訓(xùn)練過(guò)程更加順暢,但訓(xùn)練前期的收斂速度會(huì)變慢;Adam是上述方法的集大成者,具有很強(qiáng)的普適性,但在某些情況下可能不收斂。本文將SGD、Adagrad、Adadelta、Adam進(jìn)行對(duì)比分析,不同優(yōu)化器的表現(xiàn)如圖6所示,SGD、Adadelta陷入了局部最小值且在訓(xùn)練后期收斂較慢,而Adam的準(zhǔn)確率最高、收斂速度最快,因此本文選取Adam作為優(yōu)化器。
圖6 不同優(yōu)化器對(duì)模型識(shí)別結(jié)果的影響
批量大小是模型單次訓(xùn)練所使用樣本的數(shù)量,設(shè)置過(guò)小則模型不容易收斂,設(shè)置過(guò)大則容易陷入局部最優(yōu)。本文將批量大小分別設(shè)置為4、8、16、32、64、128,計(jì)算結(jié)果如圖7所示,可以看出:批量大小為4時(shí)準(zhǔn)確率最低,未能收斂;批量大小分別為8、16、32時(shí),準(zhǔn)確率都接近了100%,訓(xùn)練至收斂的時(shí)間依次遞減;批量大小提高到64與128后,訓(xùn)練至收斂的時(shí)間變長(zhǎng)。綜合來(lái)看,在批量大小為32時(shí),準(zhǔn)確率高和訓(xùn)練時(shí)間短,因此本文選取批量大小為32。
圖7 批量大小對(duì)訓(xùn)練結(jié)果的影響
學(xué)習(xí)率表示每次神經(jīng)網(wǎng)絡(luò)更新參數(shù)的步幅大小,設(shè)置的大則前期學(xué)習(xí)速度快但模型可能不能收斂,學(xué)習(xí)率設(shè)置的小則更容易收斂、但學(xué)習(xí)速度慢、而且也可能陷入局部最優(yōu)。為了選取相對(duì)合適的學(xué)習(xí)率,本文設(shè)置了不同的學(xué)習(xí)率,每個(gè)工況試驗(yàn)10次,計(jì)算結(jié)果如表2所示,可以看出,隨著學(xué)習(xí)率的降低,準(zhǔn)確率得到了提高,但訓(xùn)練至收斂的時(shí)間在增加。綜合來(lái)看,學(xué)習(xí)率為0.001時(shí),準(zhǔn)確率高、訓(xùn)練時(shí)間相對(duì)較短,因此本文選取學(xué)習(xí)率為0.001。
表2 不同學(xué)習(xí)率對(duì)訓(xùn)練結(jié)果的影響
依照4.2節(jié)的模型參數(shù)設(shè)置,模型訓(xùn)練結(jié)果如圖8所示,可以看出:模型的損失函數(shù)值和準(zhǔn)確率在訓(xùn)練集和測(cè)試集上的表現(xiàn)基本一致;當(dāng)訓(xùn)練次數(shù)為30時(shí),模型的準(zhǔn)確率已經(jīng)接近了99%,此時(shí)損失函數(shù)值也降到了較小值;當(dāng)訓(xùn)練次數(shù)為50時(shí),模型準(zhǔn)確率穩(wěn)定在了99%以上,損失函數(shù)值進(jìn)一步降低。由此可見(jiàn),本文模型的訓(xùn)練結(jié)果較好,能滿足螺栓連接擰緊曲線異形識(shí)別的要求。
為了展示模型學(xué)習(xí)過(guò)程,本文引入混淆矩陣對(duì)各個(gè)階段的模型進(jìn)行量化分析,如圖9所示,可以看出:訓(xùn)練5次后,正常數(shù)據(jù)(標(biāo)簽為0)與粘滑數(shù)據(jù)(標(biāo)簽為3)不能區(qū)分,裝錯(cuò)件數(shù)據(jù)(標(biāo)簽為1)與螺紋損壞數(shù)據(jù)(標(biāo)簽為2)有混淆;訓(xùn)練15次后,裝錯(cuò)件數(shù)據(jù)與螺栓損壞數(shù)據(jù)被區(qū)分開(kāi)了,不過(guò)粘滑數(shù)據(jù)還是不能與正常數(shù)據(jù)區(qū)分開(kāi);訓(xùn)練20次后,開(kāi)始能夠區(qū)分出一些粘滑數(shù)據(jù)與正常數(shù)據(jù);訓(xùn)練50次后,實(shí)現(xiàn)了所有類(lèi)別的精準(zhǔn)區(qū)分。
為說(shuō)明本文方法的有效性,將本文方法與傳統(tǒng)機(jī)器學(xué)習(xí)方法SVM、KNN、Logistic進(jìn)行對(duì)比分析,如表3所示,可知,本文所用的方法在測(cè)試集上的表現(xiàn)顯著好于其他方法,說(shuō)明本文方法有優(yōu)秀的特征提取和分類(lèi)能力。
圖9 不同訓(xùn)練次數(shù)模型的混淆矩陣
表3 本文方法與傳統(tǒng)機(jī)器學(xué)習(xí)方法的對(duì)比
本文針對(duì)現(xiàn)有擰緊曲線異形識(shí)別方法依賴(lài)人工提取特征的問(wèn)題,提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的擰緊曲線異形識(shí)別方法。考慮到實(shí)際生產(chǎn)環(huán)境數(shù)據(jù)長(zhǎng)度參差不齊的特點(diǎn),本文建立了數(shù)據(jù)預(yù)處理流程來(lái)保證模型輸入端的規(guī)范性。本文所建立的模型的優(yōu)勢(shì)是無(wú)需人工提取特征、計(jì)算速度快、準(zhǔn)確率高,因此具有良好的通用性,有利于實(shí)現(xiàn)擰緊過(guò)程的在線智能評(píng)價(jià)。但本文所應(yīng)用的數(shù)據(jù)量較少,類(lèi)別不夠多,后續(xù)將積累更多數(shù)量、更多種類(lèi)的擰緊曲線來(lái)進(jìn)行試驗(yàn),并進(jìn)一步優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu),保證準(zhǔn)確率,降低計(jì)算時(shí)間。
[1]張赫. 汽車(chē)螺栓打緊質(zhì)量大數(shù)據(jù)分析[D]. 沈陽(yáng):沈陽(yáng)工業(yè)大學(xué),2019.
[2]陳平. 汽車(chē)行業(yè)螺栓擰緊質(zhì)量監(jiān)控[J]. 中國(guó)計(jì)量,2022(1):40-41,58.
[3]陳福森,馬貝方. 擰緊曲線在螺紋連接質(zhì)量分析中的應(yīng)用研究[J]. 制造技術(shù)與機(jī)床,2021(9):9-12.
[4]王磊. 基于大數(shù)據(jù)分析的螺栓擰緊工藝質(zhì)量評(píng)價(jià)方法研究[D]. 濟(jì)南:山東大學(xué),2018.
[5]張春雨. 導(dǎo)師:朱習(xí)軍. 基于機(jī)器學(xué)習(xí)的螺栓異常檢測(cè)[D]. 青島:青島科技大學(xué),2021.
[6]MEINERS M,MAYR A,F(xiàn)RANKE J. Process curve analysis with machine learning on the example of screw fastening and press-in processes[J]. Procedia CIRP,2021,97(8):166-171.
[7]MEINERS M,KUHN M,F(xiàn)RANKE J. Manufacturing process curve monitoring with deep learning[J]. MANUFACTURING LETTERS,2021(30):15-18.
[8]STANISAW HOY?. Convolutional Neural Networks for Classifying Electronic Components in Industrial Applications[J]. Energies,2023,16(2):887.
[9]HOWARD A G,SANDLER M,CHEN L C,et al. Highly Efficient Convolutional Neural Networks: EP3933707A4[P]. 2019-05-16.
[10]GHALEB M,EBIED H,SHEDEED H,et al. Content-based Image Retrieval based on Convolutional Neural Networks[J]. IEEE,2022(10):149-153.
[11]曹亞利,李振雷,劉旭東,等. 基于卷積神經(jīng)網(wǎng)絡(luò)的沖擊地壓預(yù)警方法研究[J]. 中國(guó)安全生產(chǎn)科學(xué)技術(shù),2022,18(10):101-108.
[12]艾霖嬪,楊錦濤,徐權(quán)峰,等. 基于一維卷積神經(jīng)網(wǎng)絡(luò)的恒星光譜分類(lèi)研究[J]. 云南民族大學(xué)學(xué)報(bào)(自然科學(xué)版),2021,30(3):258-263.
Recognition Method of Abnormal Shape of Tightening Curve Based on Convolutional Neural Network
GU Hongliang,DING Jianming
( State Key Laboratory of Traction Power, Southwest Jiaotong University, Chengdu 610031, China )
To address the problem that the existing methods largely depend on artificial feature extraction and professional knowledge, this paper proposes a method for identifying the abnormal shape of tightening curve based on convolutional neural network. Firstly, in view of the lack of data and uneven data length of tightening curve, the paper uses random clipping to enhance the data, and uses regression decision tree to reconstruct the curve to keep the same length. Secondly, based on the traditional CNN model, the identification model of tightening curve abnormity is established. Finally, by studying the influence of super parameters on diagnosis results, the final parameter combination scheme is given. By analyzing the confusion matrix in each stage of the training process, the model learning process is demonstrated. By comparing with the traditional machine learning method, such as SVM, the effectiveness of the method proposed is verified. The experimental results show that the method can effectively identify the abnormal data of the bolt connection tightening curve, and the recognition accuracy is close to 99%, which provides a guidance for the intelligent diagnosis method of bolt connection based on deep learning.
convolutional neural networks;bolted connections;process curve;fault diagnosis
U270.6+7
A
10.3969/j.issn.1006-0316.2023.07.003
1006-0316 (2023) 07-0019-07
2022-12-27
國(guó)家重點(diǎn)研發(fā)計(jì)劃(2020YFA0710902)
古洪亮(1998-),男,四川瀘州人,碩士研究生,主要研究方向?yàn)榫o固件缺陷智能檢測(cè),E-mail:1312331780@qq.com;丁建明(1981-),男,四川平昌人,博士,副研究員,主要研究方向?yàn)闄C(jī)電設(shè)備的智能控制與大數(shù)據(jù)可視化研究。