基于多階段多核支持向量數(shù)據(jù)描述的間歇過(guò)程監(jiān)控方法

王曉慧, 王延江, 鄧曉剛, 曹玉蘋(píng), 王 平

(1.中國(guó)石油大學(xué)(華東)控制科學(xué)與工程學(xué)院,山東青島 266580; 2.青島大學(xué)應(yīng)用技術(shù)學(xué)院,山東青島 266061)

間歇過(guò)程廣泛應(yīng)用于化工、生物制藥、半導(dǎo)體加工、污水處理等領(lǐng)域,是工業(yè)生產(chǎn)的重要生產(chǎn)方式之一[1]。間歇過(guò)程具有變量繁多、過(guò)程變化劇烈、操作階段多的特點(diǎn),易造成操作失誤、產(chǎn)品質(zhì)量不穩(wěn)定等問(wèn)題,而有效的監(jiān)控方法是保證間歇過(guò)程安全平穩(wěn)運(yùn)行的關(guān)鍵。間歇過(guò)程實(shí)時(shí)運(yùn)行產(chǎn)生大量過(guò)程數(shù)據(jù),利用數(shù)據(jù)建立監(jiān)控模型的多元統(tǒng)計(jì)過(guò)程監(jiān)控方法(MSPM)[2-7]已經(jīng)成為間歇過(guò)程監(jiān)控的主要方法之一。傳統(tǒng)的MSPM方法(多向主元分析法MPCA[8]、多向偏最小二乘MPLS[9]、多向獨(dú)立元分析MICA[10]、支持向量機(jī)SVM[11]等)是線性建模方法,難以滿足間歇過(guò)程數(shù)據(jù)的非線性、非高斯性的條件,故障檢測(cè)率低。支持向量數(shù)據(jù)描述(SVDD)是用最小體積的超球面來(lái)描述目標(biāo)類的數(shù)據(jù)特征[12],數(shù)據(jù)不需服從高斯分布,因此基于SVDD監(jiān)控方法是一種有效的非線性過(guò)程監(jiān)控方法,在間歇過(guò)程中的應(yīng)用越來(lái)越廣泛。Ge等[13]將SVDD方法用于間歇過(guò)程的故障檢測(cè),提出一種基于多向支持向量數(shù)據(jù)描述(MSVDD)的整體建模故障檢測(cè)方法。整體建模方法中控制限描述過(guò)程數(shù)據(jù)集的整體特征,忽略了間歇過(guò)程不同時(shí)段過(guò)程特性的差異,故障檢測(cè)效果不理想。為了解決這個(gè)問(wèn)題,Khedir等[14]提出利用核k-means聚類方法將間歇過(guò)程劃分為多個(gè)階段,建立局部SVDD模型進(jìn)行故障監(jiān)控。Wang等[15]先采用k-means方法對(duì)時(shí)段進(jìn)行初步劃分,考慮不同子時(shí)段間存在過(guò)渡階段,再由SVDD方法進(jìn)行過(guò)渡階段劃分。Ge等[16]利用隨機(jī)采樣獲得數(shù)據(jù)子集,建立局部SVDD模型后,通過(guò)Bagging技術(shù)將監(jiān)控結(jié)果集成在一起。這些監(jiān)控方法都將不同時(shí)刻的樣本分成若干個(gè)數(shù)據(jù)子集,每個(gè)數(shù)據(jù)子集分別建立局部監(jiān)控模型,提高了監(jiān)測(cè)性能,但這些方法多采用k-means聚類方法進(jìn)行時(shí)段劃分,k-means方法假設(shè)數(shù)據(jù)服從高斯分布,而間歇過(guò)程數(shù)據(jù)具有非高斯分布特征,致使階段劃分不準(zhǔn)確,從而影響建模的精確程度。針對(duì)上述問(wèn)題,筆者從過(guò)程階段準(zhǔn)確劃分和核函數(shù)的最優(yōu)選擇兩個(gè)方面展開(kāi)研究。

1 問(wèn)題描述及改進(jìn)思路

間歇過(guò)程階段劃分的準(zhǔn)確性影響過(guò)程監(jiān)測(cè)性能,因此選擇更準(zhǔn)確的階段劃分方法尤為重要。由于譜聚類對(duì)數(shù)據(jù)分布的適應(yīng)性強(qiáng)且收斂于全局最優(yōu)解[17],因此采用譜聚類方法對(duì)間歇過(guò)程進(jìn)行階段劃分?？紤]到傳統(tǒng)譜聚類算法用歐氏距離來(lái)衡量樣本間相似度,忽略了序列的相關(guān)性,不能揭示時(shí)間序列數(shù)據(jù)間的相對(duì)變化情況和發(fā)展變化趨勢(shì),存在階段劃分結(jié)果不準(zhǔn)確的問(wèn)題,本文中用相鄰時(shí)序的互信息和歐式距離構(gòu)建相似矩陣,把強(qiáng)相關(guān)性的時(shí)序和歐式距離近的時(shí)序聚為一類,提出一種互信息譜聚類算法解決間歇過(guò)程時(shí)段準(zhǔn)確劃分問(wèn)題,進(jìn)一步挖掘數(shù)據(jù)的多階段信息。

多階段SVDD故障檢測(cè)方法突出數(shù)據(jù)的局部特性,取得較好監(jiān)測(cè)效果,但是SVDD模型中核函數(shù)均采用單一的高斯核函數(shù),未考慮間歇過(guò)程不同時(shí)段、過(guò)程中的主導(dǎo)變量及過(guò)程變量的相互關(guān)系不同的特性。因而,單一的核函數(shù)和核參數(shù)無(wú)法準(zhǔn)確全面提取數(shù)據(jù)中蘊(yùn)含的非線性特征信息[18],進(jìn)而影響故障檢測(cè)結(jié)果。

進(jìn)一步考慮到單一核函數(shù)難以充分描述過(guò)程數(shù)據(jù)的復(fù)雜非線性問(wèn)題,提出一種基于貝葉斯融合的多階段多核支持向量數(shù)據(jù)描述的間歇過(guò)程故障檢測(cè)方法。該方法首先采用互信息譜聚類方法對(duì)數(shù)據(jù)集進(jìn)行時(shí)序階段劃分,然后每個(gè)階段內(nèi)的數(shù)據(jù)集分別采用高斯函數(shù)和多項(xiàng)式核函數(shù),并設(shè)置多個(gè)不同核參數(shù),建立每一種核函數(shù)、核參數(shù)所對(duì)應(yīng)的SVDD子模型,計(jì)算監(jiān)控統(tǒng)計(jì)量。最后通過(guò)貝葉斯推理融合所有的局部SVDD模型統(tǒng)計(jì)量構(gòu)造全局統(tǒng)計(jì)量監(jiān)控過(guò)程變化。以青霉素發(fā)酵過(guò)程為對(duì)象進(jìn)行仿真驗(yàn)證。

2 SVDD故障檢測(cè)方法

支持向量數(shù)據(jù)描述方法(SVDD)是由支持向量構(gòu)成球形決策界面的單分類方法。假設(shè)有n個(gè)要描述的數(shù)據(jù){xi},尋找一個(gè)包含大部分?jǐn)?shù)據(jù)的最小半徑R的超球體,即

(1)

(2)

式中,a為球心;R為球體半徑;松弛因子ξi≥0,i=1,2,…,n;C為代價(jià)因子,為常數(shù)。對(duì)于非線性可分的數(shù)據(jù)集,通過(guò)引入核函數(shù)K(xi,xj)=Φ(xi)·Φ(xj),將數(shù)據(jù)集映射到高維特征空間后線性可分,構(gòu)造拉格朗日函數(shù),轉(zhuǎn)化為一個(gè)求解參數(shù)αi的二次優(yōu)化問(wèn)題,其中αi為每一個(gè)數(shù)據(jù)的拉格朗日乘子:

(3)

(4)

超球體的半徑R可以由任意支持向量xk按下式求出:

(5)

對(duì)于待監(jiān)測(cè)的樣本xnew計(jì)算它與SVDD球心a的距離Dist作為監(jiān)控統(tǒng)計(jì)量:

(6)

監(jiān)控統(tǒng)計(jì)量的控制限D(zhuǎn)limit為任意支持向量到球心a的距離R,若Dist>Dlimit,則xnew為故障樣本點(diǎn),否則xnew為正常樣本點(diǎn)。

3 MPMK-SVDD故障檢測(cè)方法

考慮到間歇過(guò)程不同操作階段,主導(dǎo)變量及過(guò)程變量的相互關(guān)系不同,單一的核函數(shù)無(wú)法準(zhǔn)確描述各階段數(shù)據(jù)子集的非線性特征,提出一種基于多階段多核支持?jǐn)?shù)據(jù)向量數(shù)據(jù)描述(MPMK-SVDD)故障檢測(cè)方法。該算法主要包括間歇過(guò)程數(shù)據(jù)階段劃分、建立多核局部監(jiān)控子模型和監(jiān)控結(jié)果整合3個(gè)部分。算法流程如圖1所示,間歇過(guò)程的三維數(shù)據(jù)集展開(kāi)為二維數(shù)據(jù)集,并進(jìn)行標(biāo)準(zhǔn)化處理,通過(guò)互信息譜聚類將數(shù)據(jù)集按時(shí)段劃分為多個(gè)數(shù)據(jù)子集;每個(gè)數(shù)據(jù)子集選取不同類型的核函數(shù),并設(shè)置不同的核參數(shù),建立多重核函數(shù)、核參數(shù)的局部SVDD模型,通過(guò)貝葉斯推理構(gòu)造全局監(jiān)測(cè)統(tǒng)計(jì)量,檢測(cè)過(guò)程故障。

圖1 MPMK-SVDD算法流程

3.1 互信息譜聚類階段劃分方法

間歇過(guò)程具有多個(gè)操作階段,而階段劃分的準(zhǔn)確性直接影響建模的精度。譜聚類能收斂于全局最優(yōu),對(duì)數(shù)據(jù)集的形狀適應(yīng)性更強(qiáng),因此本文中采用互信息譜聚類方法對(duì)間歇過(guò)程進(jìn)行階段劃分。

譜聚類以圖論為理論基礎(chǔ),將數(shù)據(jù)聚類問(wèn)題轉(zhuǎn)換為無(wú)向圖G(v,w)的最優(yōu)劃分問(wèn)題。v為圖的頂點(diǎn),Wij為邊的權(quán)重,描述數(shù)據(jù)點(diǎn)之間的相似度及接鄰關(guān)系[17],而相似度矩陣的構(gòu)造決定譜聚類方法的聚類結(jié)果。傳統(tǒng)的譜聚類算法普遍采用全連接法建立接鄰矩陣,常用高斯核函數(shù)來(lái)定義邊的權(quán)重:

(7)

式中,σ為核寬度。樣本xi與樣本xj間的相似度主要取決于樣本間歐氏距離,僅從數(shù)據(jù)的空間分布來(lái)描述數(shù)據(jù)的相似性,忽略了序列的相關(guān)性,不能揭示時(shí)間序列數(shù)據(jù)間的相對(duì)變化情況和發(fā)展變化趨勢(shì),從而影響間歇過(guò)程階段劃分的準(zhǔn)確性。間歇過(guò)程中同一階段的數(shù)據(jù)往往變化趨勢(shì)相同,而不同階段的數(shù)據(jù)也可能有較近的空間距離,因而單純的歐式距離無(wú)法準(zhǔn)確描述同一階段內(nèi)數(shù)據(jù)間的相似度,容易造成數(shù)據(jù)階段錯(cuò)分?；バ畔⒛苊枋鲆粋€(gè)隨機(jī)變量包含另一個(gè)隨機(jī)變量的信息量,能反映數(shù)據(jù)的整體變化趨勢(shì),因而本文中提出用相鄰時(shí)序的互信息和歐式距離構(gòu)建相似矩陣,把強(qiáng)相關(guān)性的時(shí)序和歐式距離近的時(shí)序聚為一類,更能反映數(shù)據(jù)點(diǎn)間的整體相似度。構(gòu)建樣本的相似矩陣W:

(8)

(9)

式中,β為權(quán)重系數(shù),取值為(0～1);Mi,j表示樣本點(diǎn)xi和xj的接近程度;ρi,j為樣本點(diǎn)xi和xj的互相關(guān)系數(shù)。

計(jì)算矩陣L的前h個(gè)最大特征值和特征向量,得到特征向量矩陣F[17]。利用k-means對(duì)降維后的特征向量矩陣F進(jìn)行聚類,得到聚類后的數(shù)據(jù)子集,將數(shù)據(jù)集劃分為多個(gè)數(shù)據(jù)子集{X1,X2,X3,…,Xm}。

3.2 多核支持向量數(shù)據(jù)描述模型構(gòu)建

合適的核函數(shù)能改善SVDD方法中映射特征空間線性可分性能,從而影響故障檢測(cè)的性能。因此在SVDD建模的公式(3)中,核函數(shù)的選擇尤為關(guān)鍵,常用的核函數(shù)有多項(xiàng)式核函數(shù)和高斯核函數(shù)。多項(xiàng)式核函數(shù)是全局性核函數(shù),

K(xi,xj)=(xi.xj+1)d,d=1,2,…,n.

(10)

可見(jiàn),多項(xiàng)式度d越大,映射的維度越高。描述邊界由最大范數(shù)向量決定,距離遠(yuǎn)的數(shù)據(jù)點(diǎn)也能對(duì)核函數(shù)產(chǎn)生影響,因而具有良好的全局性能,外推能力強(qiáng),計(jì)算量小。

高斯核函數(shù)表達(dá)式為

(11)

由式(11)可知,高斯核函數(shù)用樣本間的距離來(lái)進(jìn)行計(jì)算,樣本間距離小于核寬度σ對(duì)核函數(shù)影響更大,能提取樣本的局部特性,獲得較為緊密的數(shù)據(jù)描述,局部性能強(qiáng),對(duì)數(shù)據(jù)的均值尺度變化不敏感,因而單一的核函數(shù)難以全面描述樣本信息。綜合兩種核函數(shù)的優(yōu)點(diǎn),本文中對(duì)階段劃分后的數(shù)據(jù)子集{X1,X2,X3,…,Xm},首先選取一系列具有不同核參數(shù)的高斯核函數(shù)G(xi,xj)和多項(xiàng)式核函數(shù)P(xi,xj)作為SVDD建模中公式(3)中的核函數(shù),核函數(shù)的表達(dá)式為

(12)

式中,ng和np為設(shè)置核參數(shù)的個(gè)數(shù)。然后建立l=ng+np個(gè)Sub_SVDD監(jiān)控模型,再由公式(6)計(jì)算數(shù)據(jù)子集的Dist統(tǒng)計(jì)量。數(shù)據(jù)子集是一個(gè)時(shí)段內(nèi)的數(shù)據(jù),變量的階段特征明顯,能更細(xì)致地反映過(guò)程的局部信息。

3.3 基于貝葉斯推理的MPMK-SVDD故障檢測(cè)

進(jìn)一步采用貝葉斯推理整合多核函數(shù)、多核參數(shù)的數(shù)據(jù)子集的監(jiān)控結(jié)果。定義樣本xb在每個(gè)Sub_SVDD模型中發(fā)生故障的概率為

(13)

式中,xb表示樣本屬于第b個(gè)Sub-SVDD監(jiān)控模型,b=1,2,…,l;P(F)為發(fā)生故障的先驗(yàn)概率;α為置信度,一般取0.01,則P(N)=1-α=0.99,是正常情況下的先驗(yàn)概率。P(xb|F)和P(xb|N)代表樣本故障與正常的后驗(yàn)概率,定義為

(14)

(15)

式中,Dist為統(tǒng)計(jì)量;Dlimit為相應(yīng)的控制限。整合多重核函數(shù)核參數(shù)Sub-SVDD監(jiān)控統(tǒng)計(jì)量,得到各階段數(shù)據(jù)子集每個(gè)樣本的全局監(jiān)控統(tǒng)計(jì)量Bp,

(16)

貝葉斯全局統(tǒng)計(jì)量BIC取決于當(dāng)前階段的全局統(tǒng)計(jì)量為Bp，即

BIC=Bp.

(17)

由置信度確定控制限Blimit。

基于MPMK-SVDD間歇過(guò)程故障檢測(cè)先后分為離線建模和在線監(jiān)控。

4 仿真分析

4.1 數(shù)據(jù)采集

以青霉素發(fā)酵過(guò)程為仿真研究對(duì)象,驗(yàn)證方法的有效性。利用青霉素仿真軟件設(shè)置不同的初始條件產(chǎn)生28個(gè)批次數(shù)據(jù)集,其中22個(gè)批次的正常數(shù)據(jù)集和6個(gè)批次的故障數(shù)據(jù)集,并加入服從高斯分布的噪聲,20個(gè)批次的正常數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)集,2個(gè)批次的正常數(shù)據(jù)和6個(gè)批次的故障數(shù)據(jù)作為測(cè)試數(shù)據(jù)集。單個(gè)批次內(nèi)采樣間隔為0.5 h,共800個(gè)采樣點(diǎn)。從青霉素發(fā)酵過(guò)程中選取10個(gè)主要變量,分別為通風(fēng)率、攪拌功率、冷卻水流量加速率、底物流加溫度、培養(yǎng)基容量、CO2濃度、pH值、溶解氧濃度、反應(yīng)器溫度、反應(yīng)熱。表1為故障類型的詳細(xì)說(shuō)明。

表1 青霉素發(fā)酵過(guò)程故障描述

4.2 數(shù)據(jù)分段

采用互信息譜聚類方法對(duì)訓(xùn)練數(shù)據(jù)集進(jìn)行時(shí)段劃分,通過(guò)交叉驗(yàn)證確定相似度矩陣中的β=0.5,分段結(jié)果為:第一階段1～75 h;第二階段76～115 h;第三階段116～254 h;第四階段255～400 h。分別對(duì)應(yīng)青霉素生產(chǎn)過(guò)程的4個(gè)生理階段:反應(yīng)滯后期、菌體的指數(shù)增長(zhǎng)期、青霉素合成期和菌體衰亡期。分散度簇間密度SDbw聚類評(píng)價(jià)指標(biāo)由簇間密度和簇內(nèi)方差來(lái)評(píng)價(jià)聚類效果[19],評(píng)價(jià)結(jié)果不受干擾、密度差異等因素的影響,魯棒性強(qiáng)。SDbw聚類評(píng)價(jià)指標(biāo)越小說(shuō)明類內(nèi)越緊密,分類效果越好。表2中給出了3種方法的時(shí)段劃分結(jié)果對(duì)比。k-means的階段劃分的聚類評(píng)價(jià)指標(biāo)SDbw=1.834 0,基于譜聚類時(shí)段劃分的聚類評(píng)價(jià)指標(biāo)SDbw=0.170 8,采用互信息譜聚類對(duì)時(shí)段劃分的聚類評(píng)價(jià)指標(biāo)SDbw=0.131 0,可見(jiàn)采用改進(jìn)后的譜聚類方法聚類結(jié)果分散度更小,類內(nèi)距離更緊密。

表2 3種方法的時(shí)段劃分對(duì)比

4.3 故障檢測(cè)結(jié)果對(duì)比分析

故障F1為通風(fēng)率階躍變化故障,是一種變化緩慢的故障。3種方法故障的檢測(cè)效果如圖2所示。

圖2 故障F1的故障檢測(cè)結(jié)果

故障檢測(cè)時(shí),連續(xù)3個(gè)采樣時(shí)刻的統(tǒng)計(jì)量超出控制限確定為故障,否則為誤報(bào)警?？刂葡抻锰摼€表示。未進(jìn)行時(shí)段劃分的MSVDD故障檢測(cè)結(jié)果如圖2(a)所示,故障檢測(cè)率為0,未檢測(cè)出故障,誤報(bào)率為1.9%。這種方法是對(duì)整個(gè)過(guò)程數(shù)據(jù)集建立MSVDD模型,未考慮數(shù)據(jù)集的階段變化特征,控制限較為松弛,局部信息被掩蓋,所以對(duì)短時(shí)間變化緩慢的故障不敏感?；诨バ畔⒆V聚類的支持向量數(shù)據(jù)描述方法(MISP_SVDD)是由互信息譜聚類對(duì)訓(xùn)練數(shù)據(jù)先進(jìn)行階段劃分,然后對(duì)每個(gè)階段的子數(shù)據(jù)集建立局部SVDD監(jiān)控模型,故障檢測(cè)結(jié)果如圖2(b)所示,故障檢測(cè)率為13%。根據(jù)數(shù)據(jù)的變化趨勢(shì)對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行階段劃分,同一時(shí)段內(nèi)的樣本波動(dòng)幅度較小,從而由支持向量構(gòu)成的控制限收得更為緊致,提高了故障檢出率。MSVDD模型和MISP_SVDD模型中核函數(shù)選取高斯核函數(shù),高斯核參數(shù)σk=6,松弛因子C=0.08。圖2(c)為利用貝葉斯推理將多核參數(shù)整合為全局監(jiān)控統(tǒng)計(jì)量的MPMK_SVDD模型的監(jiān)控結(jié)果,故障檢出率為75%,故障檢測(cè)效果最好。為了兼顧核函數(shù)的局部性能和整體性能,利用高斯核函數(shù)突出局部性能,核參數(shù)的取值為σk=6+2(k-3),k=1,2,3,4,5,利用多項(xiàng)式核函數(shù)兼顧整體性能和外推能力,核參數(shù)的取值dk=1,2,3。由于MISP_SVDD方法采用單一的高斯核參數(shù),并且核寬度參數(shù)為固定值,所以核函數(shù)的選擇和核參數(shù)的選擇不是最優(yōu),從而降低了故障檢測(cè)率。MPMK_SVDD方法利用貝葉斯推理融合了多種核函數(shù)和多種核參數(shù)的統(tǒng)計(jì)量,解決了核函數(shù)和核參數(shù)最優(yōu)選擇問(wèn)題,取得較好的監(jiān)控效果。

故障F4為攪拌功率緩慢變化斜坡故障,圖3(a)所示為MSVDD模型Dist監(jiān)控統(tǒng)計(jì)量在347.5 h檢出故障,故障的檢出率為52.5%。圖3(b)所示為MISP_SVDD的Dist監(jiān)控統(tǒng)計(jì)量在335 h檢出故障,故障的檢出率為65%。圖3(c)所示為MPMK_SVDD的Dist監(jiān)控統(tǒng)計(jì)量在323 h檢出故障,故障檢出率為77%。由此可見(jiàn),MPMK_SVDD模型監(jiān)控的故障檢出時(shí)刻更早,檢出率更高,監(jiān)控效果更好。

圖3 故障F4的故障檢測(cè)結(jié)果

表3給出了MSVDD、MISP_SVDD及MPMK_SVDD方法6種故障檢出率。MSVDD方法故障平均檢出率為65.25%,MISP_SVDD方法故障平均檢出率73.25%, MPMK_SVDD方法故障平均檢出率為87%?？梢?jiàn),本文中所提出的MPMK_SVDD方法監(jiān)測(cè)效果明顯優(yōu)于MSVDD方法和MISP_SVDD方法。

表3 3種方法故障檢出率對(duì)比

5 結(jié)束語(yǔ)

提出一種基于MPMK_SVDD的間歇過(guò)程故障檢測(cè)方法。該方法利用互信息譜聚類方法對(duì)間歇過(guò)程數(shù)據(jù)進(jìn)行時(shí)段劃分后,采用不同的核函數(shù),各核函數(shù)設(shè)置不同的核參數(shù),建立多個(gè)局部SVDD監(jiān)控模型,通過(guò)貝葉斯推理將局部監(jiān)控結(jié)果整合為全局統(tǒng)計(jì)量,進(jìn)行故障檢測(cè)。青霉素發(fā)酵過(guò)程故障檢測(cè)仿真試驗(yàn)表明,所提方法優(yōu)于現(xiàn)有MSVDD方法和MISP_SVDD方法,故障檢測(cè)時(shí)刻更早,故障檢出率高,有效提高了多階段間歇過(guò)程故障檢測(cè)的準(zhǔn)確性。