基于深度學(xué)習(xí)的化工過程故障檢測與診斷研究綜述

鮑 宇程 碩王靖濤

(天津大學(xué)化工學(xué)院,天津 300350)

隨著現(xiàn)代化工工業(yè)的快速發(fā)展,化工過程的自動化和復(fù)雜化程度越來越高。大規(guī)模工業(yè)過程為國家?guī)砭薮蠼?jīng)濟效益的同時,由于系統(tǒng)的高度耦合性和復(fù)雜性,系統(tǒng)內(nèi)任何微小干擾都可能導(dǎo)致整個系統(tǒng)癱瘓,進(jìn)而造成巨大的經(jīng)濟損失甚至人員傷亡。因此,故障檢測與診斷技術(shù)對于所有化工過程是必不可少的,是化工過程能夠按生產(chǎn)計劃可靠并安全運行的保障。

在化工系統(tǒng)中,故障表現(xiàn)在過程的監(jiān)控參數(shù)偏離預(yù)期的范圍。根據(jù)已有的研究,將故障檢測與診斷技術(shù)分為3 大類:基于模型的方法、基于知識的方法和基于數(shù)據(jù)的方法。但是,基于模型和知識的方法受限于建模困難和知識積累的困難,無法被應(yīng)用于動態(tài)復(fù)雜的化工過程系統(tǒng)[1]。隨著分布式控制、通訊技術(shù)和數(shù)據(jù)收集技術(shù)的迅速發(fā)展,系統(tǒng)中的觀測變量能夠被大量收集和儲存,這促進(jìn)了學(xué)者對基于數(shù)據(jù)的故障檢測與診斷方法的研究。

基于數(shù)據(jù)的故障檢測與診斷方法能夠?qū)Ａ康墓I(yè)數(shù)據(jù)進(jìn)行統(tǒng)計分析和特征提取,將系統(tǒng)的狀態(tài)分為正常運行狀態(tài)和故障狀態(tài),可視為模式識別任務(wù)。故障檢測是判斷系統(tǒng)是否處于預(yù)期的正常運行狀態(tài),判斷系統(tǒng)是否發(fā)生異常故障,相當(dāng)于一個二分類任務(wù)。故障診斷是在確定發(fā)生故障的時候判斷系統(tǒng)處于哪一種故障狀態(tài),相當(dāng)于一個多分類任務(wù)。因此,故障檢測和診斷技術(shù)的研究類似于模式識別,分為4個的步驟:數(shù)據(jù)獲取、特征提取、特征選擇和特征分類。1)數(shù)據(jù)獲取步驟是從過程系統(tǒng)收集可能影響過程狀態(tài)的信號,包括溫度、流量等過程變量;2)特征提取步驟是將采集的原始信號映射為有辨識度的系統(tǒng)狀態(tài)信息;3)特征選擇步驟是將與狀態(tài)變化相關(guān)的變量提取出來;4)特征分類步驟是通過算法將前幾步中選擇的特征進(jìn)行故障檢測與診斷。在大數(shù)據(jù)這一背景下,傳統(tǒng)的基于數(shù)據(jù)的故障檢測與診斷方法被廣泛應(yīng)用,但是,這些方法有一些共同的缺點:特征提取需要大量的專家知識和信號處理技術(shù),并且對于不同的任務(wù),沒有統(tǒng)一的程序來完成。此外,常規(guī)的基于機器學(xué)習(xí)的方法結(jié)構(gòu)較淺,在提取信號的高維非線性關(guān)系方面能力有限。

隨著計算機技術(shù)的快速發(fā)展,尤其是計算能力的提高,深度學(xué)習(xí)受到越來越多的關(guān)注。深度學(xué)習(xí)源自于對人工神經(jīng)網(wǎng)絡(luò)的研究,與淺層神經(jīng)網(wǎng)絡(luò)對比,深度學(xué)習(xí)的“深度”體現(xiàn)在網(wǎng)絡(luò)結(jié)構(gòu)上,深度學(xué)習(xí)通過搭建更深層的結(jié)構(gòu)、可擴展的隱藏單元和非線性激活函數(shù),能夠?qū)?fù)雜的數(shù)據(jù)進(jìn)行建模,挖掘數(shù)據(jù)中隱藏特征。學(xué)習(xí)到的特征通常是逐層加深的,高層的特征比低層的特征更加抽象,具有更強的特征表達(dá)能力。目前,深度學(xué)習(xí)在計算機視覺[2,3]、自然語言處理[4,5]和目標(biāo)檢測[6,7]等領(lǐng)域應(yīng)用廣泛。在化工過程的故障檢測與診斷領(lǐng)域,基于自動編碼器(autoencoder,AE)、深度置信網(wǎng)絡(luò)(deep belief network,DBN)、卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN)和循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural networks,RNN)的深度學(xué)習(xí)方法被廣泛應(yīng)用。深度學(xué)習(xí)的優(yōu)勢在于它可以自動的進(jìn)行特征工程,整個過程無需人工干預(yù),減輕了特征提取對于專業(yè)知識的依賴。此外,深度學(xué)習(xí)模型學(xué)習(xí)到的特征是逐層加深的,更深層的特征在用于預(yù)測、檢測和分類任務(wù)時性能更好。并且,深度學(xué)習(xí)能夠通過以端到端的形式學(xué)習(xí),這意味著模型不限定于具體的某個任務(wù),因此,可以通過微調(diào)網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)來適應(yīng)不同的任務(wù),也就是說,深度學(xué)習(xí)很容易適應(yīng)新問題,具有更高的魯棒性。

目前,深度學(xué)習(xí)技術(shù)在各個領(lǐng)域的故障檢測與診斷任務(wù)取得了不錯的成果,例如軸承[8-10]、齒輪[11,12]、泵[13,14]和空調(diào)系統(tǒng)[15]等。在化工過程故障檢測與診斷領(lǐng)域,深度學(xué)習(xí)技術(shù)在2016年開始受到關(guān)注,最初的研究大部分是關(guān)于如何將深度學(xué)習(xí)和化工過程安全的結(jié)合。隨著學(xué)者們對該領(lǐng)域的深入研究,最近幾年的研究集中于針對工業(yè)過程存在的問題,采用改進(jìn)的算法實現(xiàn)更好的故障診斷與檢測。據(jù)筆者調(diào)研,目前還沒有一個基于深度學(xué)習(xí)方法在化工過程故障檢測與診斷的全方位調(diào)查。本論文從不同的深度學(xué)習(xí)方法角度出發(fā),綜述了最近5年深度學(xué)習(xí)在化工過程的故障檢測與診斷領(lǐng)域的研究進(jìn)展,旨在為深度學(xué)習(xí)在該領(lǐng)域的應(yīng)用提供啟示,希望它能夠促進(jìn)更多人提出更加寶貴的意見。

本論文的安排如下,第1 部分介紹了基于深度學(xué)習(xí)的化工過程故障檢測與診斷流程以及學(xué)者們驗證算法性能的數(shù)據(jù)集;第2 部分介紹了4 種常見的深度學(xué)習(xí)架構(gòu)及其變體,以及基于這些方法的研究進(jìn)展;第3 部分提出了該領(lǐng)域面臨的挑戰(zhàn)和機遇;第4 部分總結(jié)了全文。

1 檢測與診斷流程及數(shù)據(jù)集

1.1 檢測與診斷流程

與傳統(tǒng)的基于數(shù)據(jù)的故障檢測與診斷方法不同,深度學(xué)習(xí)具有表達(dá)數(shù)據(jù)高級特征的能力,將數(shù)據(jù)作為影響結(jié)果的唯一因素,無需多余的數(shù)據(jù)預(yù)處理工作。本論文根據(jù)深度學(xué)習(xí)在故障檢測與診斷過程中的不同作用,將基于深度學(xué)習(xí)的方法分為以下2 種模式,如圖1所示。

圖1 基于深度學(xué)習(xí)的故障檢測與診斷方法框架Fig.1 The framework of fault detection and diagnosis method based on deep learning

1.1.1 分離學(xué)習(xí)模式

數(shù)據(jù)獲取—深度學(xué)習(xí)特征提取—分類器—檢測與診斷結(jié)果。

采用無監(jiān)督深度學(xué)習(xí)方法對化工過程數(shù)據(jù)進(jìn)行特征提取,并結(jié)合各種分類器對提取的特征進(jìn)行分類,實現(xiàn)故障檢測與診斷。該種方法能夠充分發(fā)揮深度學(xué)習(xí)的特征提取能力,在這種模式中,一般采用無監(jiān)督學(xué)習(xí)的方式進(jìn)行,因此,分離學(xué)習(xí)模式對于缺少故障狀態(tài)數(shù)據(jù)或標(biāo)簽數(shù)據(jù)的檢測任務(wù)具有一定的優(yōu)勢。

1.1.2 端到端的學(xué)習(xí)模式

數(shù)據(jù)獲取—基于深度學(xué)習(xí)端到端的分類器—檢測與診斷結(jié)果。

與分離學(xué)習(xí)模式不同,端到端的學(xué)習(xí)模式將特征提取與故障識別融為一體,大大降低了模型對于專業(yè)知識的依賴。并且,這種學(xué)習(xí)模型提供了一個通用框架,在跨系統(tǒng)或跨領(lǐng)域應(yīng)用時具有不錯的泛化能力。

1.2 數(shù)據(jù)集介紹

數(shù)據(jù)是深度學(xué)習(xí)方法的基礎(chǔ),建立一個符合實際情況的故障診斷模型首先需要具有實際代表性的化工過程數(shù)據(jù)。由于采集大量的工業(yè)數(shù)據(jù)需要很長時間,并且目前的數(shù)據(jù)共享問題一直無法解決,獲得實際的工業(yè)過程數(shù)據(jù)并非易事。因此,學(xué)者們采用模擬的方式獲得化工過程數(shù)據(jù),加入不同的干擾以模仿實際工業(yè)中可能出現(xiàn)的故障類型。根據(jù)現(xiàn)有的研究,用于測試不同算法性能的數(shù)據(jù)集主要有非等溫連續(xù)攪拌釜反應(yīng)器(continuous stirred tank reactor,CSTR)過程數(shù)據(jù)、田納西伊斯曼(Tennessee Eastman,TE)過程數(shù)據(jù)和其他模擬數(shù)據(jù),具體介紹如下。

CSTR 過程是研究化工過程故障檢測與診斷研究的一個基準(zhǔn)過程[16],該過程涉及到混合傳熱和反應(yīng)熱,能夠模擬正常條件和故障條件下的數(shù)據(jù)。反應(yīng)器作為化工流程最重要的一部分,許多文獻(xiàn)對CSTR 過程進(jìn)行了故障檢測與診斷研究[17-19]。TE數(shù)據(jù)是一個公開的化工過程數(shù)據(jù)集,其過程是通過計算機程序模擬仿真得來。1993年,美國田納西州的伊斯曼化學(xué)公司提出了TE 過程[20]。此后,Bathelt 等[21]針對TE 過程模擬可重復(fù)性問題對其進(jìn)行了改進(jìn)和優(yōu)化,添加了新的故障和監(jiān)測變量。TE 過程具有很強的非線性、時變性和耦合性,和實際過程非常接近。目前,TE 過程已經(jīng)成為了測試工業(yè)過程故障檢測和診斷的代表性過程,大量的文獻(xiàn)將其作為數(shù)據(jù)源研究化工過程故障診斷技術(shù)[22-24],它對過程控制以及故障檢測與診斷的研究起到了非常大的促進(jìn)作用。還有很多相關(guān)的研究是基于實驗室模擬的數(shù)據(jù)[25,26]和合作的真實工業(yè)的數(shù)據(jù)[27],由于保密協(xié)議等原因,具體的細(xì)節(jié)并未披露。

2 深度學(xué)習(xí)在化工過程的故障檢測與診斷的研究進(jìn)展

根據(jù)不同方法在應(yīng)用時是否需要標(biāo)簽,將AE、DBN、CNN 和RNN4 種深度方法分為監(jiān)督學(xué)習(xí)方法和無監(jiān)督學(xué)習(xí)方法,如圖2所示。當(dāng)擁有足夠的數(shù)據(jù)和標(biāo)簽時,通常采用基于監(jiān)督學(xué)習(xí)的方法,在這種情況下,通過訓(xùn)練出性能足夠優(yōu)秀的模型便可分離正常數(shù)據(jù)與各故障數(shù)據(jù),實現(xiàn)故障檢測與診斷;當(dāng)數(shù)據(jù)標(biāo)簽不夠或難以獲得時,通常采用基于無監(jiān)督學(xué)習(xí)的方法,無監(jiān)督學(xué)習(xí)能夠在未知標(biāo)簽的情況下對數(shù)據(jù)進(jìn)行高維的特征表示。對于故障檢測任務(wù),通常對正常條件運行的數(shù)據(jù)進(jìn)行建模,試圖將偏離正常狀態(tài)的情況分離開來。對于故障診斷任務(wù),無監(jiān)督學(xué)習(xí)用于特征表示,以無監(jiān)督訓(xùn)練的方式表達(dá)數(shù)據(jù)信息,并通過有監(jiān)督訓(xùn)練完成對故障的分類。這里我們指出,AE 和DBN 后可添加分類層實現(xiàn)無監(jiān)督訓(xùn)練和有監(jiān)督微調(diào),根據(jù)方法在模型中的作用,我們將其劃分為無監(jiān)督學(xué)習(xí)范疇。

圖2 深度學(xué)習(xí)方法分類Fig.2 Classification of deep learning methods

2.1 基于AE 的方法

AE 是一種無監(jiān)督學(xué)習(xí)算法,它能夠在沒有標(biāo)簽的情況下對數(shù)據(jù)進(jìn)行特征提取。如圖3所示,自動編碼器由編碼器和解碼器2 部分組成。編碼器將輸入數(shù)據(jù)壓縮至神經(jīng)元數(shù)量更少的隱藏層中,解碼器將隱藏層的特征進(jìn)行重構(gòu)。自動編碼器通過最小化平均誤差實現(xiàn)輸出和輸入保持一致,由于隱藏層的神經(jīng)元數(shù)量較少,迫使自動編碼器在隱藏層必須保留具有代表性和抽象的數(shù)據(jù)特征,實現(xiàn)對數(shù)據(jù)的特征表示?；谧詣泳幋a器的變體主要有以下2種:1)稀疏自動編碼器(sparse autoencoder,SAE):SAE 是基于AE 的更深層的結(jié)構(gòu),SAE 通過對隱藏層的神經(jīng)元進(jìn)行稀疏性限制,抑制某些神經(jīng)元獲得更加稀疏的特征表示。具體來說,SAE 在損失函數(shù)中增加了一個稀疏成本項,使得每一層的神經(jīng)元大部分都為0,只有少部分為1(0 代表抑制,1 代表激活)。SAE 可以在隱藏層神經(jīng)元數(shù)量較多的情況下得到數(shù)據(jù)的深層特征,更加有效的完成對輸入數(shù)據(jù)的特征表示。2)降噪自動編碼器(denoising autoencoder,DAE):DAE 可以重構(gòu)受損的輸入數(shù)據(jù)。DAE 通過以一定的概率分布將輸入數(shù)據(jù)隨機設(shè)置為0,以丟失數(shù)據(jù)后的數(shù)據(jù)作為輸入數(shù)據(jù)進(jìn)行特征提取,得到的特征表示可以避免數(shù)據(jù)中存在的噪聲,提高模型的魯棒性。

圖3 自動編碼器的結(jié)構(gòu)Fig.3 Architecture of autoencoder

基于AE 的化工過程的故障檢測與診斷方法具有以下優(yōu)勢:1)實際工業(yè)中含有標(biāo)簽的數(shù)據(jù)較少,為數(shù)據(jù)標(biāo)記是一項非常耗時的工作?；贏E 的方法能夠以無監(jiān)督學(xué)習(xí)的方式進(jìn)行數(shù)據(jù)的特征表示。2)基于AE 的網(wǎng)絡(luò)結(jié)構(gòu)簡單,逐層的訓(xùn)練方式有助于提取高階的非線性特征,具有強大的特征提取能力。并且,堆疊多層的AE 可以自由地選擇提取特征的維度。

由于AE 采用無監(jiān)督學(xué)習(xí)的方式進(jìn)行訓(xùn)練,所以單純的基于AE 的方法無法作為分類器來應(yīng)用?？赏ㄟ^AE 進(jìn)行特征提取,然后在模型后添加softmax 層或支持向量機(Support Vector Machine,SVM)等分類器實現(xiàn)故障檢測與診斷。文獻(xiàn)[28,29]將SAE 所提取的特征輸入至softmax 層以監(jiān)督學(xué)習(xí)的方式微調(diào)結(jié)構(gòu)參數(shù),實現(xiàn)故障檢測與診斷。針對復(fù)雜化工過程的時域和頻域特征,Lv[30]結(jié)合了堆疊稀疏自動編碼器(stacked sparse autoencoder,SSAE)和SVM 分類器,采用SSAE 提取監(jiān)測變量間的相關(guān)性和樣本之間的時間相關(guān)性,然后采用SVM 分類器用于故障分類。在TE 過程驗證了該方法在早期的故障檢測和故障分類任務(wù)中優(yōu)于隨機森林、SVM 等傳統(tǒng)方法。Guo 等[31]提出了一種基于SAE 的故障檢測與診斷方法,該方法能夠提取不完整數(shù)據(jù)的完整特征表示,在低維空間保留數(shù)據(jù)的主要特征,并通過SVM 分類器實現(xiàn)故障診斷。

基于AE+分類器的模式可結(jié)合無監(jiān)督訓(xùn)練和有監(jiān)督微調(diào)實現(xiàn)故障診斷。而基于AE 的故障檢測可通過AE 或AE 的變體結(jié)構(gòu)對原始數(shù)據(jù)進(jìn)行特征表示,構(gòu)建統(tǒng)計量并設(shè)置閾值判斷系統(tǒng)的健康狀態(tài)。Yan 等[32]采用DAE 提取工業(yè)數(shù)據(jù)的非線性特征并構(gòu)造測試統(tǒng)計量H2和SPE 構(gòu)建在線監(jiān)控模型,在TE 過程中驗證了方法具有優(yōu)異的故障檢測能力,并且能夠檢測到一些很難檢測的故障。考慮了過程數(shù)據(jù)的動態(tài)時序性,文獻(xiàn)[33,34]采用互信息衡量變量之間的相關(guān)性,保留與故障相關(guān)的關(guān)鍵特征,然后通過SSAE 挖掘數(shù)據(jù)的高維和稀疏的特征空間,構(gòu)造T2和Q統(tǒng)計量實現(xiàn)故障檢測,在TE 數(shù)據(jù)集中驗證了所提出方法能夠減少故障檢測的延遲和提高故障檢測率。

此外,研究人員旨在開發(fā)結(jié)合AE 和其他算法結(jié)合的混合診斷模型。Zhang 等[35]提出了一種基于堆疊降噪自動編碼器(SDAE)和KNN 的故障監(jiān)控模型,采用SDAE 從復(fù)雜的非線性數(shù)據(jù)中提取重要特征,然后通過KNN 構(gòu)造特征空間和殘差空間的統(tǒng)計量FD2和RD2實現(xiàn)過程監(jiān)控。Zhang 等[36]利用變分自動編碼器提取監(jiān)控數(shù)據(jù)的特征,DBN 根據(jù)學(xué)習(xí)的特征進(jìn)行健康狀態(tài)識別,該方法有效地提高了故障分類精度。Zheng 等[27]采用卷積SAE 提取多變量工業(yè)數(shù)據(jù)的高級特征,采用t-SNE 技術(shù)對特征進(jìn)行可視化,最后通過聚類獲得特征挖掘結(jié)果,實現(xiàn)了對未標(biāo)簽數(shù)據(jù)的標(biāo)記。Lee 等[37]提出了一種改進(jìn)的AE 算法-高斯混合先驗變分自動編碼器(GMPVAE),由于GMM 的引入,該方法能夠更加有效的捕捉有用的信息,并且避免了信息丟失問題。Yang 等[38]提出了并行的SAE 方法,在TE 過程和氨合成廠的實際工業(yè)過程中證明了該方法適用于數(shù)據(jù)規(guī)模大、計算量大的工業(yè)數(shù)據(jù)。Li 等[39]結(jié)合了PCA 和SAE,實現(xiàn)了線性和非線性共存的工業(yè)過程的故障檢測。Jiang 等[40]提出了一種基于SAE 的半監(jiān)督故障分類方法,在標(biāo)簽數(shù)據(jù)有限的情況下實現(xiàn)了對動態(tài)化工過程的故障分類。Wang 等[41]將SAE的輸出層設(shè)置為預(yù)測故障類別,實現(xiàn)的基于SAE 的監(jiān)督學(xué)習(xí)故障診斷方法,所提出方法解決了傳統(tǒng)的SAE 無法剔除與故障類型不相關(guān)的數(shù)據(jù)特征。受AE 的啟發(fā),Yu 等[42]在編碼和解碼部分采用了卷積長短記憶網(wǎng)絡(luò)提取數(shù)據(jù)的有效特征,減少了訓(xùn)練過程中的梯度消失和梯度爆炸問題。Li 等[43]提出了一種基于AE 的多模型特征融合故障診斷方法,采用了最小冗余-最大相關(guān)法選擇與每種故障最相關(guān)的變量,然后通過SAE 提取數(shù)據(jù)特征并構(gòu)建殘差矩陣,最終輸入至分類器中實現(xiàn)故障分類,但是,該種方法僅能處理單一操作條件下的故障診斷任務(wù),目前無法應(yīng)用于多模型的過程監(jiān)控。

2.2 基于DBN 的方法

DBN 是一種概率生成模型,它的作用類似于自動編碼器,可以在無監(jiān)督學(xué)習(xí)的過程中對輸入數(shù)據(jù)進(jìn)行高維特征表示,并且,DBN 可以在最后加上分類層對數(shù)據(jù)進(jìn)行有監(jiān)督訓(xùn)練,實現(xiàn)分類算法。如圖4所示,DBN 由多個限制玻爾茲曼機(restricted Boltzmann machine,RBM)單元組成。每個RBM 單元由2 層結(jié)構(gòu)組成,分別為可視層v和隱藏層h。RBM采用對比散度算法迭代更新權(quán)重矩陣和偏差矩陣,使得輸入數(shù)據(jù)相對于結(jié)構(gòu)參數(shù)對數(shù)似然性最大化。因此,RBM 的隱藏層能夠作為輸入數(shù)據(jù)的高級特征表示。多個RBM 鏈接形成DBN,其中,可視層v接收輸入數(shù)據(jù)并編碼后傳給隱藏層h1,RBM-1 的輸出層作為RBM-2 的輸入層,以此類推。DBN 采用逐層貪婪的方式訓(xùn)練,并通過反向傳播調(diào)整網(wǎng)絡(luò)參數(shù),使其適應(yīng)目標(biāo)任務(wù)[44]。當(dāng)DBN 作為無監(jiān)督學(xué)習(xí)提取數(shù)據(jù)高維特征時,最后1 個隱藏層(圖4中h2)即為數(shù)據(jù)的高維特征表示;當(dāng)DBN 作為有監(jiān)督學(xué)習(xí)的分類器時,將最后1 個隱藏層連接分類器,實現(xiàn)分類。

圖4 深度置信網(wǎng)絡(luò)的結(jié)構(gòu)Fig.4 Architecture of DBN

基于DBN 的化工過程故障檢測與診斷方法具有以下優(yōu)勢:1)DBN 能夠自動獲取和過程狀態(tài)相關(guān)且難以辨識的高階信息,具有很好的特征表示性能;2)DBN 適用于化工工業(yè)數(shù)據(jù)中最常見的一維信號,通過無監(jiān)督學(xué)習(xí)的方式將信號表示成概率模型,在樣本數(shù)較少的時候?qū)崿F(xiàn)故障檢測與診斷;3)由于RBM 能夠擬合所有的離散分布,因此DBN可以應(yīng)用于樣本分布不確定的復(fù)雜工業(yè)過程,能夠解決其他方法中樣本分布的限制性假設(shè)問題。

在故障檢測與診斷領(lǐng)域,DBN 最初被應(yīng)用與變量數(shù)較少的簡單系統(tǒng)[45,46]。隨著學(xué)者們對于DBN的深入研究,DBN 逐漸能夠被應(yīng)用于含有高維數(shù)據(jù)的化工過程中。與基于AE 的方法不同,基于DBN的方法通過預(yù)訓(xùn)練RBM 層自動學(xué)習(xí)特征,避免了BP 神經(jīng)網(wǎng)絡(luò)微調(diào)參數(shù)時的梯度消失問題。DBN 后通常添加softmax 層將學(xué)習(xí)的特征映射到輸出空間,以端到端的形式實現(xiàn)故障檢測與診斷。Zhang等[47]首次將DBN 引入到復(fù)雜化工過程的故障診斷任務(wù),該方法首先通過互信息技術(shù)對數(shù)據(jù)進(jìn)行變量選擇,將變量的“價值性”進(jìn)行排序?qū)ふ易顑?yōu)化變量,然后利用高斯激活函數(shù)的DBN 子網(wǎng)提取每個故障的特征,在TE 過程的20 個故障分類任務(wù)中平均準(zhǔn)確率達(dá)到82.1%,并且對于難以檢測的故障3 達(dá)到了95%的故障診斷率。為了提高診斷性能,越來越多的學(xué)者優(yōu)化DBN 算法進(jìn)行故障檢測與診斷。Wang 等[48]通過DE 算法優(yōu)化DBN 模型,優(yōu)化后的方法訓(xùn)練速度更快、準(zhǔn)確率更高并且更具魯棒性。Wang 等[49]提出了一種擴展的深度信任網(wǎng)絡(luò)(EDBN),該方法考慮到數(shù)據(jù)的動態(tài)信息,結(jié)合了原始數(shù)據(jù)和隱藏特征來解決DBN 傾向于丟失原始數(shù)據(jù)中有價值信息的問題。Wei 等[50]采用dropout 技術(shù)解決了傳統(tǒng)的基于DBN 的故障診斷方法存在的過擬合問題,并且所提出的DBN-dropout 方法的故障診斷率高于DBN 和其他基于深度學(xué)習(xí)的方法。針對DBN 訓(xùn)練時存在的冗余性弱化了模型的特征表示能力,程換新等[51]通過對訓(xùn)練集的稀疏約束將無標(biāo)簽的數(shù)據(jù)特征更加直觀的展示,在TE 仿真中證明了所提出方法優(yōu)于DBN 和BP 神經(jīng)網(wǎng)絡(luò)。Yu 等[52]提出了一種基于不穩(wěn)定神經(jīng)元的DBN(UN-DBN)方法,該方法首先采用正常數(shù)據(jù)訓(xùn)練DBN 模型,然后通過整合某些樣本中的不穩(wěn)定神經(jīng)元的隱藏層,獲得有助于故障檢測的特征表示。Tang 等[53]提出了一種基于DBN 的Fisher 判別稀疏表示方法,該方法在含有大量監(jiān)測變量的工業(yè)過程的故障診斷性能優(yōu)于SVM 和BP 神經(jīng)網(wǎng)絡(luò)等方法。Tang 等[54]提出了一種結(jié)合DBN 和多元統(tǒng)計的故障診斷方法,首先通過DBN 將歸一化的數(shù)據(jù)分解為與系統(tǒng)狀態(tài)相關(guān)的重構(gòu)變量和與噪聲有關(guān)的剩余變量,通過計算統(tǒng)計值T2和SPE 從而實現(xiàn)故障檢測,在TE 過程數(shù)據(jù)中驗證了該方法能夠提高模型的故障檢測能力,優(yōu)于傳統(tǒng)的KPCA 方法。

針對工業(yè)應(yīng)用過程中存在的現(xiàn)實問題,許多學(xué)者對DBN 進(jìn)行了改進(jìn)。考慮到真實工業(yè)中的某些不確定性因素產(chǎn)生的不利于故障檢測的特征,Yu等[55]提出了一種基于AF-DBN 的故障檢測方法,DBN 提取的主動特征AF 用于表示原始輸入數(shù)據(jù)的故障特征。該方法通過計算訓(xùn)練樣本和測試樣本的歐式距離并采用移動平均技術(shù)消除了突發(fā)噪聲對故障檢測結(jié)果的影響。Jiang 等[56]通過DBN 提取數(shù)據(jù)的非線性分層表示,然后采用典型相關(guān)分析(CCA)表征輸入與輸出的關(guān)系,生成故障檢測殘差和檢測統(tǒng)計信息實現(xiàn)故障診斷,組合的方法能夠消除不相關(guān)變量和冗余信息的影響。針對工業(yè)數(shù)據(jù)缺失的問題,Tian 等[57]提出了一種基于GANSRCC-DBN 的過程監(jiān)控方法,首先,采用GAN 重構(gòu)工業(yè)過程的缺失數(shù)據(jù),使其符合該種運行狀態(tài)的特征表示,然后采用了變量選擇方法SRCC 選擇相關(guān)變量,降低數(shù)據(jù)的維度,最后采用DBN 對數(shù)據(jù)進(jìn)行深層特征表示。在TE 過程21 種故障的平均檢測率為89.7%。Wang 等[18]提出了一種組合DBN 和支持向量數(shù)據(jù)描述SVDD 的方法,該方法通過DBN以無監(jiān)督訓(xùn)練的方式進(jìn)行數(shù)據(jù)的高級特征表示,然后通過這些特征和少數(shù)的故障數(shù)據(jù)建立SVDD 故障檢測模型,解決了故障數(shù)據(jù)較難獲得的問題。

2.3 基于CNN 的方法

卷積神經(jīng)網(wǎng)絡(luò)最早在1989年由LeCun 提出[58]。隨著CNN 的快速發(fā)展,越來越多性能更好的CNN 結(jié)構(gòu)被提出,例如AlexNet[59]和VGGNet[60],并廣泛應(yīng)用于計算機視覺和語音識別等領(lǐng)域。如圖5所示,CNN 主要由3 種基本結(jié)構(gòu)(卷積層、池化層和全連接層)循環(huán)疊加組成。卷積層由多個含有不同參數(shù)的濾波器組成,通過濾波器提取輸入數(shù)據(jù)的局部高維特征,其輸出是1 組特征圖。池化層通常位于卷積層之后,將卷積層學(xué)習(xí)的特征進(jìn)行采樣,提取更具代表性的局部特征,與此同時,池化層能夠減少訓(xùn)練參數(shù)防止模型出現(xiàn)過擬合現(xiàn)象。多個卷積層和池化層的疊加組合可以對原始數(shù)據(jù)進(jìn)行深層次的特征表示,并且隨著層數(shù)不斷加深,得到的特征越抽象。在卷積層和池化層之后,需要將抽象化的特征轉(zhuǎn)換成一維矩陣,并和之后用于分類的全連接層連接。與多層感知器類似,不同全連接層之間的神經(jīng)元進(jìn)行全連接,同1 層的神經(jīng)元完全不連接。全連接層能夠整合卷積層和池化層具有 類別區(qū)分性的信息,并進(jìn)行有效的分類。

圖5 卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)Fig.5 Architecture of CNN

CNN 強大的特征提取能力解決了人工特征表達(dá)能力不足的問題,許多研究采用CNN 研究化工過程的故障檢測與診斷?；贑NN 的化工過程故障檢測與診斷的方法具有以下優(yōu)勢:1)復(fù)雜的工業(yè)過程經(jīng)常伴隨著復(fù)雜的數(shù)據(jù)噪聲,CNN 以多層卷積和池化的形式進(jìn)行特征提取,具有平移不變性,這避免了噪聲對于模型的影響,具有很強的魯棒性;2)對于多變量的化工過程,CNN 在保證強大的特征提取能力的同時,通過卷積中的權(quán)值共享減少了模型的參數(shù),避免了參數(shù)過多出現(xiàn)的過擬合現(xiàn)象,具有較好的泛化能力;3)CNN 的輸入數(shù)據(jù)形式比較靈活,可以處理二維矩陣和一維矩陣,因此CNN 處理不同類型的樣本數(shù)據(jù)時具有優(yōu)勢,如一維信號、二維圖片、時間序列數(shù)據(jù)和數(shù)據(jù)頻譜圖等,模型的適用性廣。

根據(jù)CNN 的體系結(jié)構(gòu),可以將基于CNN 的故障檢測與診斷方法分為二維CNN 模型和一維CNN模型。二維CNN 作為圖像識別的標(biāo)準(zhǔn)網(wǎng)絡(luò)結(jié)構(gòu),其輸入數(shù)據(jù)為二維矩陣。但是,二維CNN 無法處理化工過程收集到的一維監(jiān)控數(shù)據(jù)。在已發(fā)表的文章中,學(xué)者們通過2 種方式對一維數(shù)據(jù)進(jìn)行維度轉(zhuǎn)換。第一種方式是通過信號處理的方法,如離散小波變換[61]、連續(xù)小波變換[62,63]等,這種方式將一維時域信號轉(zhuǎn)換為二維的時頻域數(shù)據(jù),使其適應(yīng)于二維CNN 的輸入。但是,該種處理采集數(shù)據(jù)的方式在化工過程的故障診斷任務(wù)中的研究較少?？紤]到化工過程中的時空數(shù)據(jù)特征,上述的數(shù)據(jù)處理方式無法關(guān)注到時間依賴性。在多變量的情況下,變量之間空間互相關(guān)和不同時間點樣本的時間依賴性是故障檢測與診斷任務(wù)的主要信息來源。單純的假設(shè)不同時間點的樣本相互獨立會丟失一部分有用的時間信息,這種信息對診斷結(jié)果起著至關(guān)重要的作用。因此,學(xué)者們采用了另外一種方式,充分考慮了數(shù)據(jù)的時空域信息,通過手動調(diào)整輸入數(shù)據(jù)的尺寸使采集的一維數(shù)據(jù)轉(zhuǎn)換成二維形式。Wu 等[64]提出了一種基于深度卷積神經(jīng)網(wǎng)絡(luò)故障診斷模型,通過堆疊多個時間段的監(jiān)測數(shù)據(jù)形成時間維度×變量維度的輸入形式,模型采用了多個卷積層和池化層提取監(jiān)控數(shù)據(jù)的特征,最后采用全連接層連接網(wǎng)絡(luò)之前學(xué)習(xí)的特征并通過softmax 層輸出故障類型,所提出方法同時考慮了過程數(shù)據(jù)在時間和空間維度的特征,并且采用了dropout 技術(shù)防止模型出現(xiàn)過擬合現(xiàn)象,在TE 過程的20 種故障的平均故障診斷率達(dá)到88.2%。類似于這種思想,基于CNN 的故障診斷方法被應(yīng)用于反應(yīng)精餾[25,26]、熱泵系統(tǒng)[65]和半導(dǎo)體制造過程[66]。以此方式進(jìn)行的數(shù)據(jù)處理完全排除了人為的因素,并且通過堆疊多個時間段的采樣數(shù)據(jù)考慮了時間維度的特征。該種方式通過固定長度的滑動窗口生成一系列數(shù)據(jù)樣本。由于數(shù)據(jù)維度的轉(zhuǎn)變,時間相關(guān)性和變量間的互相關(guān)可以被充分利用,解決了其他方法無法充分考慮時空域信息的問題。然而,確定滑動窗口的大小和步幅是一個全新的問題,它們的設(shè)定會影響到診斷算法的泛化能力,理想的情況下,可以通過先驗知識和多次調(diào)整參數(shù)完成,具體的實踐還需要不斷地用實例證明。并且,這種方式會導(dǎo)致在應(yīng)用過程中收集數(shù)據(jù)的延時性。一維CNN 也被應(yīng)用于處理化工過程的數(shù)據(jù),采用該種方法的輸入數(shù)據(jù)是未經(jīng)預(yù)處理的原始數(shù)據(jù),目前已經(jīng)成功應(yīng)用于TE 過程[67]和流化床反應(yīng)器[68]。一維CNN 能夠避免采集信號的延時性,但診斷性能不如二維CNN,因此相關(guān)的研究較少。

2.4 基于RNN 的方法

循環(huán)神經(jīng)網(wǎng)絡(luò)是人工神經(jīng)網(wǎng)絡(luò)的一種,被廣泛的應(yīng)用于語音識別、翻譯和計算機視覺等領(lǐng)域。RNN 對時間序列敏感,在處理和預(yù)測時間序列數(shù)據(jù)方面有著很大的優(yōu)勢。與普通神經(jīng)網(wǎng)絡(luò)相比,RNN在隱藏層上增加了1 個反饋連接,可以保留前1 層的輸出信息。如圖6所示,RNN 在中間層加入了循環(huán)結(jié)構(gòu),每1 個神經(jīng)元的輸出不僅傳入到下1 個神經(jīng)元,而且保存到當(dāng)前神經(jīng)元,即加入了“記憶功能”。RNN 接收時間序列數(shù)據(jù),將隱藏層的特征沿著網(wǎng)絡(luò)傳播產(chǎn)生輸出值,這些特點使得RNN 非常適合用于對時間信號的建模。

圖6 循環(huán)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)Fig.6 Architecture of RNN

RNN 的每1 個單元共享同一套參數(shù),因此RNN不會因為循環(huán)結(jié)構(gòu)導(dǎo)致產(chǎn)生大規(guī)模的參數(shù)。然而,隨著隱藏層數(shù)的增加,普通的RNN 結(jié)構(gòu)在反向傳播中更新參數(shù)時梯度非常小(幾乎為0),這稱為梯度消失現(xiàn)象。梯度消失會導(dǎo)致RNN 無法更好地學(xué)習(xí)模型參數(shù)。因此,普通的RNN 在處理長期依賴數(shù)據(jù)時會遇到瓶頸。為了解決這個問題,學(xué)者們提出了2 種改進(jìn)的RNN 單元結(jié)構(gòu),即長短期記憶網(wǎng)絡(luò)(Long Short-Term Memory,LSTM)[69]和門控循環(huán)單元(Gated Recurrent Units,GRU)[70]。LSTM 和GRU通過引入門結(jié)構(gòu)提高模型的長期儲存能力,并且具有更快的收斂速度。

雙向RNN(Bidirectional RNN,BiRNN)是RNN的一種變體。傳統(tǒng)的單項RNN 可以從正向傳遞獲取序列特征,而BiRNN 可以從正向和反向同時提取特征。因此,它可以從當(dāng)前輸入節(jié)點之后的數(shù)據(jù)預(yù)測時間t的狀態(tài)。BiRNN 通常比單項RNN 性能更好,因為在BiRNN 在反向中提取了數(shù)據(jù)的其他特征。通過組合不同的RNN 單元和BiRNN,獲得的BiLSTM 和雙向BiGRU 具有更加復(fù)雜的結(jié)構(gòu),預(yù)測和分類功能也更加強大。

基于RNN 及其變體的故障檢測與診斷方法在應(yīng)用于化工過程時具有以下優(yōu)勢:1)RNN 對時間序列數(shù)據(jù)敏感,采用RNN 的方法能夠充分提取化工過程數(shù)據(jù)的動態(tài)時序性特征;2)對于不規(guī)則的采樣信號,RNN 能夠在輸入數(shù)據(jù)的維度變化時保持穩(wěn)定。

Kang 等[71]討論了RNN 結(jié)構(gòu)、層數(shù)和節(jié)點的對于TE 過程故障診斷結(jié)果的影響,結(jié)果顯示具有256個節(jié)點單層的RNN 具有最優(yōu)異的故障診斷性能,平均故障診斷率達(dá)到了84.9%,并且能夠識別普通的人工神經(jīng)網(wǎng)絡(luò)不能夠識別的故障。Zhao 等[72]采用LSTM 神經(jīng)網(wǎng)絡(luò)實現(xiàn)了對TE 過程數(shù)據(jù)的故障診斷。Zhang 等[73]提出了一種基于BiRNN 的故障檢測與診斷方法,討論了3 種不同的RNN 單元結(jié)構(gòu)和BiRNN 對于診斷結(jié)果的影響,結(jié)果顯示基于BiGRU的模型具有最好的故障診斷性能,平均故障檢測時間為27.7 min,平均故障診斷率達(dá)到了92.7%,優(yōu)于基于DCNN 和DBN 等深度學(xué)習(xí)模型。Sun 等[74]提出了一種基于BRNN(bayesian RNN)的故障診斷框架,實現(xiàn)了對非線性動力學(xué)過程的故障檢測,并且該方法能夠通過不確定性估值分析故障的傳播路徑。

為了充分發(fā)揮RNN 處理時間序列數(shù)據(jù)的優(yōu)勢,研究者們進(jìn)一步研究了結(jié)合RNN 和其他方法混合的模型。針對多相、非線性和具有動態(tài)特征的過程,Ren 等[75]提出了一種批處理LSTM 編碼解碼器網(wǎng)絡(luò),采用LSTM 編碼器提取過程數(shù)據(jù)的非線性動態(tài)特征,然后采用解碼器進(jìn)行樣本生成,通過計算統(tǒng)計量H2和SPE 進(jìn)行過程監(jiān)控。張[76]提出了一種SMOTE 和Siamese LSTM 的組合方法,成功應(yīng)用于各類樣本數(shù)目不平衡的化工過程,并在多種不平衡數(shù)據(jù)比例的情況下獲得了魯棒性較強的診斷模型。Shao 等[77]提出了一種串聯(lián)LSTM 與CNN 的化工過程故障診斷方法,首先,將數(shù)據(jù)輸入至LSTM 中提取時空域特征,然后將特征輸入至CNN 中提取隱藏層特征,最后通過softmax 層輸出故障診斷結(jié)果,該方法在TE 過程的21 種故障類型平均故障診斷率達(dá)到了90%以上,優(yōu)于單獨的LSTM 和CNN 模型。Wang 等[78]提出了一種并聯(lián)LSTM 和CNN 的故障診斷方法來解決非線性,強耦合和時變性的化工過程,輸入數(shù)據(jù)分別通過LSTM 和CNN 網(wǎng)絡(luò)進(jìn)行特征提取,然后將特征融合至MLP 網(wǎng)絡(luò)中輸出診斷結(jié)果,在工業(yè)煉焦?fàn)t工藝和TE 工藝過程驗證了提出并聯(lián)的LSTM 和CNN 方法比串聯(lián)的方法更具優(yōu)勢。為解決分類模型無法檢測出未知故障的問題,Xing 等[79]提出了一種基于CNN-LSTM-FCM 的故障診斷模型,將所有未知的故障認(rèn)定為一種已知類型,實現(xiàn)了對未知故障的診斷。Shahnazari 等[80]提出了一種新的化工過程故障檢測思路,采用RNN 估計系統(tǒng)的輸入和輸出,通過構(gòu)建殘差分離不同的故障類型,該方法能夠檢測出同時發(fā)生的多個傳感器故障。文章中提出,該方法是一種可移植方法,RNN可以采用PLS 或隨機森林等方法代替。

3 挑戰(zhàn)和未來發(fā)展方向

在工業(yè)4.0 中,提高化工系統(tǒng)對自身健康情況的感知和故障預(yù)測是重點研究目標(biāo)之一[81]。正如本論文所述,許多研究表明基于深度學(xué)習(xí)方法在該領(lǐng)域的應(yīng)用是一個非常有前景的方向。然而,對于這項跨統(tǒng)計學(xué)、計算機科學(xué)、系統(tǒng)工程等各領(lǐng)域的技術(shù)研究具有很大的挑戰(zhàn)性,前進(jìn)的道路必然不會平坦。本節(jié)提出了深度學(xué)習(xí)技術(shù)應(yīng)用于化工過程故障檢測與診斷過程中易被忽略或未被充分考慮的一些問題,并且從“數(shù)據(jù)”、“模型”和“可視化”3個方面指出了深度學(xué)習(xí)在該領(lǐng)域的發(fā)展前景。

3.1 挑戰(zhàn)

3.1.1 數(shù)據(jù)的質(zhì)量問題

數(shù)據(jù)是基于深度學(xué)習(xí)的故障檢測與診斷方法的唯一信息來源,因此數(shù)據(jù)的質(zhì)量決定著模型的檢測能力和泛化能力。實際工業(yè)系統(tǒng)中采集到的數(shù)據(jù)信號充滿著多種不確定性因素,過程數(shù)據(jù)存在著冗余信息,包括一些重復(fù)性數(shù)據(jù)和噪聲干擾,嚴(yán)重影響模型對于數(shù)據(jù)的特征表示。目前的深度學(xué)習(xí)方法在處理噪聲數(shù)據(jù)的時候具有較好的穩(wěn)定性,但應(yīng)用于實際工業(yè)中時,噪聲水平的不確定性等因素直接決定了故障檢測與診斷的結(jié)果,仍需加以重視。

3.1.2 數(shù)據(jù)的數(shù)量及標(biāo)簽問題

數(shù)據(jù)的質(zhì)量影響著模型的性能,數(shù)量同樣是影響深度學(xué)習(xí)的重要因素。數(shù)據(jù)獲取難度大是深度學(xué)習(xí)應(yīng)用于各個領(lǐng)域的最大障礙之一。在化工過程中,系統(tǒng)長期處于正常運行狀態(tài),故障數(shù)據(jù)采集是一項具有挑戰(zhàn)性的工作。此外,目前大部分的研究是基于監(jiān)督學(xué)習(xí)的方法,這意味著數(shù)據(jù)需要標(biāo)簽。獲取數(shù)據(jù)標(biāo)簽需要專家和專業(yè)人士進(jìn)行人工標(biāo)記,這是一項復(fù)雜、費時又費力的工作。因此,解決數(shù)據(jù)獲取以及標(biāo)記問題是一大挑戰(zhàn)。

3.1.3 模型的優(yōu)化問題

深度學(xué)習(xí)是一門充滿未知和挑戰(zhàn)的學(xué)科,它要求專業(yè)人士具有豐富的深度學(xué)習(xí)實踐經(jīng)驗。例如,選擇合適的模型處理復(fù)雜的化工過程數(shù)據(jù)防止過擬合;調(diào)整超參數(shù)使模型具有泛化能力;設(shè)定學(xué)習(xí)率使模型更快收斂等。目前,深度學(xué)習(xí)模型的參數(shù)調(diào)整還是一個高度依賴經(jīng)驗的過程,沒有形成一套具體的模型優(yōu)化方案。盡管深度學(xué)習(xí)以“端到端”的形式自動學(xué)習(xí)數(shù)據(jù)特征而聞名,但應(yīng)用于具體的工業(yè)過程時會依賴于研究者的深度學(xué)習(xí)知識經(jīng)驗。并且,解決方案高度依賴深度學(xué)習(xí)的發(fā)展,這要求學(xué)者們時刻關(guān)注化工過程故障檢測與診斷的最佳案例。

3.1.4 “概念漂移”導(dǎo)致模型的不穩(wěn)定性

具體來說,“概念漂移”的意思是實時數(shù)據(jù)具有時間性,隨著時間的推移,系統(tǒng)的輸出數(shù)據(jù)會產(chǎn)生變化,這導(dǎo)致了訓(xùn)練時的離線數(shù)據(jù)和監(jiān)控的實時數(shù)據(jù)產(chǎn)生偏差,例如,隨著季節(jié)變化產(chǎn)生的溫度偏差。“概念漂移”問題在故障檢測與診斷的研究案例中往往被忽略了。目前的大部分研究還僅限于實驗室測試,“概念漂移”的影響還不是很明顯。因此,解決“概念偏移”問題是應(yīng)用于真實化工過程的重要挑戰(zhàn)之一。

3.1.5 非穩(wěn)態(tài)過程

由于不連續(xù)的操作,非穩(wěn)態(tài)過程數(shù)據(jù)具有多元、非線性和高維性的特點,特別是對于非周期性的過程。目前,深度學(xué)習(xí)在化工過程安全領(lǐng)域的研究目前主要集中于穩(wěn)態(tài)過程,對于非穩(wěn)態(tài)過程(如批處理間歇操作和開停車操作)的研究相對較少。并且,對于非穩(wěn)態(tài)過程的研究僅限于將該過程視為強非線性過程,收集數(shù)據(jù)及標(biāo)簽,搭建深度學(xué)習(xí)模型。從模型的本質(zhì)上來說,并未實現(xiàn)具有針對性的故障檢測與診斷。如何準(zhǔn)確有效地將深度學(xué)習(xí)應(yīng)用于非穩(wěn)態(tài)過程是一個具有挑戰(zhàn)性的問題。

3.2 未來發(fā)展方向

針對深度學(xué)習(xí)在化工過程故障檢測與診斷的應(yīng)用中存在的問題,本節(jié)從“數(shù)據(jù)”、“模型”、和“可視化”3 個方面對未來的發(fā)展方向進(jìn)行了概括性展望。

3.2.1 從“數(shù)據(jù)”的角度

3.2.1.1 建立化工過程標(biāo)準(zhǔn)大數(shù)據(jù)庫

基于深度學(xué)習(xí)的方法在訓(xùn)練時需要大規(guī)模的數(shù)據(jù),因此,數(shù)據(jù)的質(zhì)量和數(shù)量直接影響著模型的性能。建立化工過程標(biāo)準(zhǔn)大數(shù)據(jù)庫對于技術(shù)的創(chuàng)新、過程機理與模型的融合以及跨學(xué)科應(yīng)用具有重要的意義。具體可從以下2 個方面展開:建立工業(yè)數(shù)據(jù)庫統(tǒng)一管理平臺以及統(tǒng)一標(biāo)準(zhǔn);鼓勵實驗室數(shù)據(jù)和工業(yè)數(shù)據(jù)共享。

3.2.1.2 解決數(shù)據(jù)不平衡問題

過程系統(tǒng)長期處于正常的運行狀態(tài),故障狀態(tài)的數(shù)據(jù)難以采集,樣本間的數(shù)目不均衡會導(dǎo)致模型傾向于學(xué)習(xí)樣本數(shù)量多的數(shù)據(jù)特征。針對樣本數(shù)量不平衡問題,可以采用以下2 個思路進(jìn)行。第1種思路是數(shù)據(jù)增強:在模式識別任務(wù)中,數(shù)據(jù)增強技術(shù)可以通過已有的數(shù)據(jù)樣本獲取更多的樣本。例如,將圖片進(jìn)行平移、旋轉(zhuǎn)、縮放等方式進(jìn)行數(shù)據(jù)擴充,從而使各個類別的樣本數(shù)量更加均衡。雖然工業(yè)數(shù)據(jù)并沒有如此直觀的方式進(jìn)行數(shù)據(jù)擴充,幸運的是,生成對抗網(wǎng)絡(luò)(Generative Adversarial Networks,GAN)的最新發(fā)展為解決該問題提供了可行性策略。GAN 是一種新的深度學(xué)習(xí)方法,它由生成器和鑒別其組成。生成器用于生成新樣本,鑒別器能夠?qū)⒄鎸崢颖九c生成樣本區(qū)分開,2 個模型相互抵制,直到鑒別器無法區(qū)分為止。GAN 能夠自動提取數(shù)據(jù)特征進(jìn)行數(shù)據(jù)擴充,不需要人工干預(yù),并且生成的樣本具有代表性。目前,GAN 技術(shù)已經(jīng)應(yīng)用于機械設(shè)備的故障診斷中[82,83],在化工過程的故障檢測與診斷領(lǐng)域處于起步階段,GAN 技術(shù)是該領(lǐng)域的發(fā)展趨勢之一。第2 種思路是遷移學(xué)習(xí):遷移學(xué)習(xí)將所提取數(shù)據(jù)的潛在特征,遷移到另一個目標(biāo)任務(wù),解決模型的訓(xùn)練缺乏數(shù)據(jù)的問題。已經(jīng)有Wu等[84]提出采用遷移學(xué)習(xí)的方法解決化工過程數(shù)據(jù)缺失的問題,但相關(guān)的研究還無法解決新故障問題,并且模型的泛化能力還有待考察,基于遷移學(xué)習(xí)的方法研究是未來的重要發(fā)展方向。

3.2.2 從“模型”的角度

3.2.2.1 融合專家知識

基于深度學(xué)習(xí)的方法僅依賴數(shù)據(jù)進(jìn)行故障檢測與診斷,從結(jié)果論的角度,它促進(jìn)了該項技術(shù)的發(fā)展。然而,深度學(xué)習(xí)的體系結(jié)構(gòu)和隱藏層等內(nèi)部機制無法和實際的化工過程結(jié)合,目前優(yōu)化模型的過程是通過猜測、實驗和驗證的方式完成的。這樣的方式導(dǎo)致了故障檢測與診斷技術(shù)完全脫離了化工專家知識。專家知識的應(yīng)用能夠提升故障檢測與診斷性能。例如,采用先驗知識對變量進(jìn)行選擇和排序,判別特征的重要性學(xué)習(xí)有助于搭建更加簡易的模型。并且,復(fù)雜的化工工業(yè)系統(tǒng)存在多模態(tài)切換過程,整個過程變化規(guī)律不定,先驗知識的應(yīng)用有助于模型適應(yīng)各種不同情況,因此將專家知識和深度學(xué)習(xí)模型融合是提升故障診斷性能的方案之一。

3.2.2.2 耦合算法

每種深度學(xué)習(xí)算法均有自身的優(yōu)勢與不足,如CNN 具有強大的特征提取能力,能夠處理不同輸入類型的數(shù)據(jù),然而CNN 在故障檢測中由于輸入數(shù)據(jù)為二維,導(dǎo)致延遲性較高;RNN 在處理時間序列數(shù)據(jù)時具有優(yōu)勢,然而梯度消失問題和參數(shù)量大影響著模型的發(fā)展。由于化工過程充滿了非線性、動態(tài)時序性、多模態(tài)、間歇性等特征,特別是對于非穩(wěn)態(tài)化工過程,單獨的深度學(xué)習(xí)算法無法滿足所有的需求,因此,算法耦合以實現(xiàn)全方位的故障檢測與診斷是未來的發(fā)展方向之一。

3.2.3 從“可視化”的角度

深度學(xué)習(xí)能夠挖掘數(shù)據(jù)抽象的特征表示,但是其內(nèi)部計算出的特征可解釋性差,無法表達(dá)數(shù)據(jù)中隱藏的專業(yè)知識,目前故障的檢測與診斷還處于試驗后驗證結(jié)果的階段。端到端的黑匣子帶來便利性的同時,深度學(xué)習(xí)在應(yīng)用于具體任務(wù)時的可解釋性需要深入探究。在未來的研究中,可視化技術(shù)的提升可以從以下幾個方面展開:根據(jù)化工過程的機理知識,從數(shù)據(jù)耦合與分解的角度將化工系統(tǒng)機理與所提取的特征進(jìn)行可視化關(guān)聯(lián);模型參數(shù)優(yōu)化的過程與故障機理之間的可視化研究;檢測與診斷結(jié)果的直觀可視化呈現(xiàn)。

4 總結(jié)

化工過程的故障檢測與診斷對于工業(yè)系統(tǒng)的穩(wěn)定性、安全性和產(chǎn)品的質(zhì)量至關(guān)重要。本論文對近幾年深度學(xué)習(xí)在該領(lǐng)域的應(yīng)用進(jìn)行了歸納和總結(jié),將常用的方法劃分為:基于AE 的方法、基于DBN 的方法、基于CNN 的方法和基于RNN 的方法。該論文從理論背景和工業(yè)應(yīng)用的角度綜述了深度學(xué)習(xí)技術(shù)在化工過程故障檢測與診斷領(lǐng)域的研究進(jìn)展,并指出了這4 種方法的優(yōu)勢。最后,提出了該領(lǐng)域面臨的挑戰(zhàn)并從“數(shù)據(jù)”、“模型”和“可視化”3個方面展望了未來的發(fā)展方向。隨著深度學(xué)習(xí)技術(shù)越來越成熟,深度學(xué)習(xí)在化工過程的故障檢測與診斷領(lǐng)域具有光明的前景。