基于Bagging-CVA的動(dòng)態(tài)過程及質(zhì)量相關(guān)故障檢測(cè)

郭小萍， 郭建斌， 高嘉俊， 李 元

(沈陽化工大學(xué) 信息工程學(xué)院，遼寧 沈陽 110142)

工業(yè)過程故障檢測(cè)是保證產(chǎn)品質(zhì)量和運(yùn)行安全的關(guān)鍵。目前基于數(shù)據(jù)驅(qū)動(dòng)的故障檢測(cè)技術(shù)得到飛速發(fā)展[1-2]，國(guó)內(nèi)外已有許多研究成果，如基于主元分析(Principal Component Analysis,PCA)[3-4]、偏最小二乘(Partial Least Squares,PLS)[1,5]和典型變量分析(Canonical Variate Analysis,CVA)[6-7]等的故障檢測(cè)方法。傳統(tǒng)故障檢測(cè)方法通常在檢測(cè)出系統(tǒng)故障時(shí)發(fā)出報(bào)警，不顯示該故障是否對(duì)質(zhì)量產(chǎn)生影響的信息。隨著現(xiàn)代生產(chǎn)過程對(duì)產(chǎn)品質(zhì)量的要求不斷提高，技術(shù)工程師和企業(yè)管理者更關(guān)心故障發(fā)生時(shí)，是否會(huì)影響到產(chǎn)品質(zhì)量。目前對(duì)質(zhì)量相關(guān)故障的檢測(cè)方法的研究開始受到越來越多的關(guān)注[8-9]。過程發(fā)生故障時(shí)，根據(jù)故障是否影響最終產(chǎn)品質(zhì)量，可以將故障進(jìn)一步劃分為質(zhì)量相關(guān)故障和非質(zhì)量相關(guān)故障[10]。

傳統(tǒng)CVA方法可以提取過程變量與質(zhì)量變量之間最大相關(guān)性，建立質(zhì)量相關(guān)故障檢測(cè)系統(tǒng)，監(jiān)測(cè)質(zhì)量相關(guān)故障對(duì)質(zhì)量的影響。由于非質(zhì)量相關(guān)故障對(duì)質(zhì)量無影響，當(dāng)生產(chǎn)過程發(fā)生此類故障時(shí)，質(zhì)量相關(guān)故障檢測(cè)系統(tǒng)不報(bào)警，從而發(fā)生漏報(bào)。Zhu等[11]通過PCA和CVA相結(jié)合的方法，能夠?qū)^程相關(guān)故障和質(zhì)量相關(guān)故障同時(shí)進(jìn)行監(jiān)控。在生產(chǎn)過程中采集的數(shù)據(jù)通常具有時(shí)序相關(guān)性，該性質(zhì)可能會(huì)對(duì)故障檢測(cè)模型的精準(zhǔn)度產(chǎn)生影響[12-13]。為了提高模型的性能，動(dòng)態(tài)CVA(Dynamic CVA,DCVA)方法[14-15]采用Hankel增廣矩陣構(gòu)造動(dòng)態(tài)相關(guān)矩陣進(jìn)行建模，降低了數(shù)據(jù)時(shí)序相關(guān)性對(duì)模型的影響。但新構(gòu)造的增廣矩陣由于維度的擴(kuò)展，增加了檢測(cè)所需時(shí)間。基于滑動(dòng)窗CVA(Moving Windows CVA,MWCVA)方法[16]通過滑動(dòng)窗口構(gòu)建動(dòng)態(tài)相關(guān)矩陣。但如何選擇最優(yōu)窗寬參數(shù)是一個(gè)難題，窗寬太小會(huì)遺漏某些過程數(shù)據(jù)信息，降低檢測(cè)性能，窗寬太大又會(huì)增加檢測(cè)所需時(shí)間。Ge等[17]提出基于Bagging的SVDD(Support Vector Data Description)故障檢測(cè)方法，首先使用Bagging隨機(jī)抽樣形成多組訓(xùn)練集，消除時(shí)序相關(guān)性，然后使用SVDD方法建立多個(gè)模型，采用貝葉斯方法對(duì)多個(gè)統(tǒng)計(jì)量進(jìn)行融合。但該方法在故障檢測(cè)時(shí)，需要計(jì)算多組模型的統(tǒng)計(jì)量并進(jìn)行融合。

本文提出一種基于Bagging思想和典型變量分析(Bagging-Canonical Variate Analysis,Bagging-CVA)的動(dòng)態(tài)過程及質(zhì)量相關(guān)故障檢測(cè)方法。針對(duì)時(shí)序相關(guān)性的問題，采用Bagging思想對(duì)建模數(shù)據(jù)進(jìn)行隨機(jī)抽樣構(gòu)成多組新的訓(xùn)練集，消除建模數(shù)據(jù)間的時(shí)序相關(guān)性；對(duì)每組新的訓(xùn)練集采用CVA方法分別建立過程故障檢測(cè)模型和質(zhì)量相關(guān)故障檢測(cè)模型。基于多個(gè)模型對(duì)不同故障的檢測(cè)率和誤報(bào)率，提出了一種最優(yōu)模型選取策略，對(duì)選出的檢測(cè)率最高模型和誤報(bào)率最低模型所對(duì)應(yīng)的統(tǒng)計(jì)量進(jìn)行融合，并作為最終故障檢測(cè)統(tǒng)計(jì)量，減少故障檢測(cè)采用多組模型結(jié)果進(jìn)行融合的復(fù)雜度。在過程故障發(fā)生時(shí)，所提出的方法可以同時(shí)觀察該故障是否影響產(chǎn)品質(zhì)量。最后通過數(shù)值案例和TE過程仿真實(shí)驗(yàn)驗(yàn)證了所提方法的有效性，并與PCA、CVA和傳統(tǒng)Bagging-CVA等方法進(jìn)行了對(duì)比。

1 CVA原理

CVA的原理是在矩陣X=[x1,x2,…,xm]T∈Rm×p和Y=[y1,y2,…,ym]T∈Rm×q之間尋找最優(yōu)投影方向a和b，使得投影后的典型變量l和w具有最大的相關(guān)性。其中m為樣本數(shù)，p和q分別為矩陣X和Y的變量數(shù)。CVA的目標(biāo)函數(shù)為

(1)

式中，ΣXX，ΣYY分別為X和Y的自協(xié)方差矩陣；ΣXY為X和Y之間的互協(xié)方差矩陣。上述優(yōu)化問題可通過奇異值分解方法[7,14]實(shí)現(xiàn)：

(2)

式中，U和V分別為矩陣H的左右奇異矩陣；對(duì)角陣為D=diag{ρ1，ρ2，…，ρd}，其對(duì)角線元素為典型變量間的相關(guān)系數(shù),且ρ1≥…≥ρd,d=min{p,q}。投影矩陣A和B可以通過式(3)計(jì)算得出：

(3)

2 改進(jìn)Bagging-CVA故障檢測(cè)

2.1 CVA故障檢測(cè)模型建立

采用CVA方法建立過程故障檢測(cè)模型和質(zhì)量相關(guān)故障檢測(cè)模型。

(1) 過程故障檢測(cè)模型。

使用過程數(shù)據(jù)集X，構(gòu)造H矩陣并利用廣義奇異值對(duì)其進(jìn)行分解，計(jì)算公式為

(4)

根據(jù)式(3)計(jì)算得到最優(yōu)投影矩陣Akx，其中Akx為矩陣A的前kx列,可以由典型變量間的相關(guān)系數(shù)累計(jì)貢獻(xiàn)率[1,18]確定。確定過程相關(guān)的典型變量估計(jì)矩陣為

C=XAkx∈Rm×kx

(5)

(6)

(2) 質(zhì)量相關(guān)故障檢測(cè)模型。

利用過程數(shù)據(jù)集X和質(zhì)量數(shù)據(jù)集Y并根據(jù)式(3)進(jìn)行CVA分析得到最優(yōu)投影矩陣Aky。利用過程相關(guān)數(shù)據(jù)X構(gòu)造質(zhì)量相關(guān)的典型變量估計(jì)矩陣E和殘差矩陣G：

E=XAky∈Rm×ky

(7)

(8)

矩陣E和G描述了過程變量和質(zhì)量變量之間的信息，可以通過過程數(shù)據(jù)檢測(cè)質(zhì)量相關(guān)故障，構(gòu)造相應(yīng)的統(tǒng)計(jì)量[14]：

(9)

2.2 最優(yōu)故障檢測(cè)模型確定

過程數(shù)據(jù)通常具有很強(qiáng)的時(shí)序相關(guān)性，此類特性會(huì)對(duì)故障檢測(cè)模型的精準(zhǔn)度產(chǎn)生一定的影響。傳統(tǒng)CVA方法通過采用增廣矩陣的方式對(duì)過程數(shù)據(jù)進(jìn)行預(yù)處理，可以降低過程數(shù)據(jù)時(shí)序相關(guān)性對(duì)故障檢測(cè)模型性能的影響。然而，使用矩陣增廣的數(shù)據(jù)處理方式，會(huì)產(chǎn)生一定的檢測(cè)延遲。此外，使用增廣后的數(shù)據(jù)矩陣進(jìn)行典型變量分析可能會(huì)導(dǎo)致非正定矩陣的產(chǎn)生，對(duì)所建故障檢測(cè)模型的性能產(chǎn)生巨大影響。針對(duì)上述問題，使用Bagging思想對(duì)過程數(shù)據(jù)進(jìn)行預(yù)處理，消除過程數(shù)據(jù)的時(shí)序相關(guān)性。

Bagging算法[20-21]是一種集成算法，其基本原理是對(duì)原始數(shù)據(jù)集進(jìn)行可重復(fù)抽樣。每次從數(shù)據(jù)集中隨機(jī)有放回地抽取一定數(shù)目的樣本，這些樣本組成一個(gè)新的訓(xùn)練集(稱為一個(gè)袋)，重復(fù)M次后，形成M組新的訓(xùn)練集。然后，使用M組新的訓(xùn)練集進(jìn)行訓(xùn)練，并將最后的結(jié)果進(jìn)行融合。在Bagging方法的基礎(chǔ)上，提出一種最優(yōu)模型選取方法，具體選取流程如圖1所示。

圖1 基于Bagging算法思想的故障檢測(cè)模型建立流程圖

(1) 通過Bagging算法獲得M組新的訓(xùn)練集，分別利用CVA方法建立M個(gè)過程相關(guān)故障檢測(cè)模型和M個(gè)質(zhì)量相關(guān)檢測(cè)模型。

(2) 使用校驗(yàn)數(shù)據(jù)對(duì)這些模型進(jìn)行校驗(yàn)，獲得相應(yīng)檢測(cè)率和誤報(bào)率。

(3) 通過設(shè)計(jì)一種模型選取策略確定最優(yōu)模型，即設(shè)檢驗(yàn)數(shù)據(jù)中有I類故障數(shù)據(jù)，應(yīng)用所建立的M個(gè)檢測(cè)模型中的每個(gè)模型會(huì)得到I個(gè)檢測(cè)率和I個(gè)誤報(bào)率，則可以構(gòu)建一個(gè)檢測(cè)率矩陣：

(10)

式中，fdrij為第i個(gè)模型的第j類故障數(shù)據(jù)的檢測(cè)率。對(duì)檢測(cè)率矩陣每列從大到小排序，計(jì)算前h行數(shù)值所對(duì)應(yīng)的檢測(cè)率矩陣索引i(h

當(dāng)最高檢測(cè)率模型和最低誤報(bào)率模型確定后，對(duì)相應(yīng)統(tǒng)計(jì)量通過貝葉斯融合策略進(jìn)行融合[17]。

定義樣本x在某一個(gè)模型中發(fā)生的概率為

(11)

式中，P(x|N)和P(x|F)分別為樣本正常與故障的后驗(yàn)概率，計(jì)算公式如下：

(12)

(13)

式中，S為模型的統(tǒng)計(jì)量；S為控制限；P(F)為置信度α，則P(N)為1-α。融合后的統(tǒng)計(jì)量為

(14)

式中，融合后統(tǒng)計(jì)量BIC的控制限為置信度α；i為需要融合的模型個(gè)數(shù)，本文i值為2，即使用模型選取策略確定的最高檢測(cè)率模型和最低誤報(bào)率模型，減少了故障檢測(cè)采用多組模型融合的復(fù)雜度。

2.3 Bagging-CVA算法

該算法分為離線建模和故障檢測(cè)兩個(gè)部分，如圖2所示。

圖2 基于改進(jìn)Bagging-CVA方法的過程及質(zhì)量相關(guān)故障檢測(cè)流程圖

(1) 離線建模。

① 將過程數(shù)據(jù)集X和質(zhì)量數(shù)據(jù)集Y進(jìn)行z-score標(biāo)準(zhǔn)化處理為Xnew和Ynew。

② 對(duì)Xnew和Ynew同步隨機(jī)抽樣形成多組數(shù)據(jù)集，分別使用式(5)建立過程檢測(cè)模型，使用式(7)和式(8)建立質(zhì)量相關(guān)檢測(cè)模型，并通過2.2節(jié)方法確定最優(yōu)的過程故障檢測(cè)模型和質(zhì)量相關(guān)故障檢測(cè)模型。

④ 采用核密度估計(jì)法確定各統(tǒng)計(jì)量控制限，置信度設(shè)置為95%。

(2) 故障檢測(cè)。

① 采用離線數(shù)據(jù)對(duì)應(yīng)的均值和方差對(duì)測(cè)試數(shù)據(jù)Xt進(jìn)行標(biāo)準(zhǔn)化處理。

③ 將各統(tǒng)計(jì)量分別按式(14)進(jìn)行融合，其中使用離線過程的各最優(yōu)模型統(tǒng)計(jì)量所對(duì)應(yīng)的控制限。

④ 判斷融合后各統(tǒng)計(jì)量是否超限，故障是否發(fā)生。

3 仿真研究

3.1 數(shù)值案例

參考文獻(xiàn)[22]構(gòu)造出一個(gè)具有動(dòng)態(tài)過程和質(zhì)量相關(guān)的仿真案例，其結(jié)構(gòu)如下：

(15)

其中過程數(shù)據(jù)X=[x1,x2,…,x10]T可以由X1=[x1,x2,…,x5]T和X2=[x6,x7,…,x10]T組成，x1～x5為質(zhì)量相關(guān)的過程變量，x6～x10為非質(zhì)量相關(guān)的過程變量。矩陣Y=[y1,y2,…,y5]T為質(zhì)量數(shù)據(jù)集，y1～y5為質(zhì)量變量。e～N(0,0.01)為高斯噪聲，系數(shù)W1、W2和Z分別為

矩陣R=[r,2r+1,r2-1,r2-3r,-r3+3r2]T，則變量r的計(jì)算方法為

r(t)=0.811r(t-1)+0.193ω(t)

(16)

式中，ω為隨機(jī)變量，且ω～N(0,0.1)。

仿真實(shí)驗(yàn)時(shí)，通過式(15)獲取樣本長(zhǎng)度為1000的正常數(shù)據(jù)作為訓(xùn)練集，并進(jìn)行離線建模。再分別獲取2組數(shù)據(jù)用于模型校驗(yàn)和故障檢測(cè)，每組數(shù)據(jù)包均有6個(gè)數(shù)據(jù)集，在第501個(gè)采樣點(diǎn)處引入故障，故障類型設(shè)置如表1所示。表中分別對(duì)不同故障的產(chǎn)生位置、發(fā)生方式、尺度以及是否與質(zhì)量相關(guān)進(jìn)行了設(shè)定。

表1 故障類型設(shè)置

圖3和圖4分別為故障1(質(zhì)量相關(guān)故障)和故障6(非質(zhì)量相關(guān)故障)的質(zhì)量變量監(jiān)視圖。圖3和圖4均給出了質(zhì)量變量y1～y5的波動(dòng)情況，通過分析可知，在第500個(gè)采樣點(diǎn)之后，質(zhì)量相關(guān)的過程變量產(chǎn)生故障，質(zhì)量變量波動(dòng)情況異常。當(dāng)非質(zhì)量相關(guān)的過程變量產(chǎn)生故障時(shí)，質(zhì)量變量則無明顯波動(dòng)情況。

圖3 故障1的質(zhì)量變量監(jiān)視圖

圖4 故障6的質(zhì)量變量監(jiān)視圖

圖5 故障1的改進(jìn)Bagging-CVA檢測(cè)結(jié)果圖

表2列出了6類故障檢測(cè)結(jié)果，其中FDR為檢測(cè)率(%)，F(xiàn)AR為誤報(bào)率(%)，AVE為均值，主元個(gè)數(shù)均為3。與傳統(tǒng)CVA方法進(jìn)行對(duì)比(本文方法檢測(cè)效果挺高部分已加粗顯示)，驗(yàn)證了本文所提出的方法的有效性。在此基礎(chǔ)上，將所提出的方法應(yīng)用于TE過程中，進(jìn)一步驗(yàn)證其有效性。

表2 故障檢測(cè)結(jié)果

3.2 TE過程

TE過程已在故障檢測(cè)領(lǐng)域廣泛應(yīng)用，詳細(xì)介紹可見文獻(xiàn)[23]。過程共有41個(gè)測(cè)量變量和12個(gè)控制變量。本文選擇測(cè)量變量XMEAS(1～35)和控制變量XMV(1～11)作為過程變量，測(cè)量變量XMEAS(36～41)作為質(zhì)量相關(guān)變量。TE過程共設(shè)有21種故障，故障均從第161采樣時(shí)刻引入。使用本文方法對(duì)21種故障進(jìn)行檢測(cè)，其中本文參數(shù)選取為B=1000,α=0.025，各模型主元個(gè)數(shù)分別按照累計(jì)貢獻(xiàn)率80%確定。對(duì)故障4(非質(zhì)量相關(guān)故障)和故障7(質(zhì)量相關(guān)故障)的檢測(cè)結(jié)果進(jìn)行了具體分析。其余故障均列表給出，并與PCA、 CVA和Bagging-CVA方法進(jìn)行了對(duì)比。

圖7 故障4的質(zhì)量變量監(jiān)視圖

圖8 故障4的改進(jìn)Bagging-CVA檢測(cè)結(jié)果圖

通過工藝分析可知，故障7是組分C發(fā)生階躍變化，導(dǎo)致系統(tǒng)質(zhì)量相關(guān)變量波動(dòng)異常，由于系統(tǒng)閉環(huán)調(diào)節(jié)作用，500時(shí)刻之后質(zhì)量相關(guān)變量基本恢復(fù)正常。故障7的質(zhì)量變量監(jiān)視圖如圖9所示，在第161個(gè)采樣點(diǎn)產(chǎn)生故障后，質(zhì)量變量產(chǎn)生波動(dòng)，第500個(gè)采樣點(diǎn)后質(zhì)量變量又逐漸恢復(fù)正常，其質(zhì)量統(tǒng)計(jì)量T2在此采樣點(diǎn)后也不再超限。

圖9 故障7的質(zhì)量變量監(jiān)視圖

圖10 故障7的改進(jìn)Bagging-CVA檢測(cè)結(jié)果圖

改進(jìn)Bagging-CVA方法以及對(duì)比方法PCA、CVA和Bagging-CVA方法的過程相關(guān)故障檢測(cè)結(jié)果如表3所示，詳細(xì)列出各方法對(duì)不同類型故障的檢測(cè)率和誤報(bào)率。因故障3、9、15為較難檢測(cè)故障，大多數(shù)基于數(shù)據(jù)驅(qū)動(dòng)的方法檢測(cè)效果不佳[24]，本文不再列出。表中改進(jìn)Bagging-CVA方法的檢測(cè)效果提高部分已加粗顯示。通過對(duì)比分析，本文方法的平均檢測(cè)率和誤報(bào)率指標(biāo)均要優(yōu)于其他方法。質(zhì)量相關(guān)故障檢測(cè)結(jié)果如表4所示，表4中給出了本文方法以及CVA和Bagging-CVA方法的數(shù)據(jù)對(duì)比。從表4中可以看出，改進(jìn)Bagging-CVA方法的檢測(cè)效果要優(yōu)于其他方法，特別是誤報(bào)率方面，幾乎沒有誤報(bào)的發(fā)生。通過表3和表4的數(shù)據(jù)分析，進(jìn)一步驗(yàn)證了本文方法的有效性。

表3 過程相關(guān)故障檢測(cè)結(jié)果

表4 質(zhì)量相關(guān)故障檢測(cè)結(jié)果

4 結(jié)束語

本文提出一種動(dòng)態(tài)過程及質(zhì)量相關(guān)故障檢測(cè)方法，采用Bagging算法思想可以消除樣本間的時(shí)序相關(guān)性，并利用CVA方法分別建立過程相關(guān)故障檢測(cè)模型和質(zhì)量相關(guān)故障檢測(cè)模型，在過程故障發(fā)生時(shí)可以進(jìn)一步判斷此類故障是否影響產(chǎn)品質(zhì)量。提出的最優(yōu)模型選取策略，可以在離線建模時(shí)直接確定最優(yōu)故障檢測(cè)模型，避免了傳統(tǒng)Bagging算法對(duì)多組模型的檢測(cè)結(jié)果進(jìn)行融合的問題。通過仿真實(shí)驗(yàn)并與PCA、CVA和傳統(tǒng)Bagging-CVA方法進(jìn)行了對(duì)比，結(jié)果表明，在動(dòng)態(tài)過程及質(zhì)量相關(guān)故障檢測(cè)方面，本文方法的檢測(cè)能力均有一定程度的提高，驗(yàn)證了方法的有效性。此外，CVA方法是常用的線性算法，而現(xiàn)實(shí)過程中往往具有很強(qiáng)的非線性，如何處理此類問題將是下一階段的研究重點(diǎn)。