基于ReLU深度信念網(wǎng)絡(luò)的35kV開關(guān)柜故障診斷

母卓元

（內(nèi)蒙古國合電力有限責(zé)任公司，呼和浩特010060）

0 引言

作為電力系統(tǒng)中的重要設(shè)備，開關(guān)柜起著電力設(shè)備控制與保護的作用，但是會出現(xiàn)絕緣故障、機械故障、溫度升高、誤操作和電弧故障，其能否安全運行直接影響用戶的用電感受與供電的安全可靠性［1-2］。尤其是開關(guān)柜工作地點環(huán)境復(fù)雜，在長期運行過程中極易出現(xiàn)絕緣老化以及因柜內(nèi)濕度過高而引起的電暈放電、觸點和母線溫度升高等問題，從而引發(fā)斷電甚至火災(zāi)，導(dǎo)致巨大的經(jīng)濟損失，因此對開關(guān)柜進行故障診斷具有重要意義［3］。隨著智能電網(wǎng)建設(shè)和發(fā)展，利用先進傳感技術(shù)實現(xiàn)開關(guān)柜故障診斷，可預(yù)防或盡早發(fā)現(xiàn)開關(guān)柜運行存在的異常狀況。文獻［4］提出利用人工免疫原理進行網(wǎng)絡(luò)在線跟蹤開關(guān)柜機械狀態(tài)變化，以達到開關(guān)柜機械故障診斷的目的；文獻［5］給出了開關(guān)柜局部放電分類的關(guān)聯(lián)規(guī)則算法，但只針對開關(guān)柜的某個單項性能進行診斷，無法從多個角度全面綜合的判別開關(guān)柜的健康狀況；文獻［6］提出以樣板為基礎(chǔ)、以規(guī)則為基礎(chǔ)的診斷方法，這種方法比較依賴已知的故障種類，對新增的故障類型無能為力；文獻［7］則提出利用RBF神經(jīng)網(wǎng)絡(luò)進行開關(guān)柜故障診斷的方法，但是診斷出的故障類型少，網(wǎng)絡(luò)訓(xùn)練時間長、效率低。

近些年發(fā)展起來的深度信念網(wǎng)絡(luò)算法，其具有訓(xùn)練速度快、泛化能力強、噪聲魯棒性好、不易陷入局部最優(yōu)等優(yōu)點，在工程上易于實現(xiàn)，適于實時控制等對時間要求高的場合，在特征識別、數(shù)據(jù)降維、分類預(yù)測等方面性能突出，目前被廣泛應(yīng)用于圖像處理、語音識別等領(lǐng)域。概率神經(jīng)網(wǎng)絡(luò)為開發(fā)以人工神經(jīng)網(wǎng)絡(luò)為框架的故障診斷系統(tǒng)提供了理論基礎(chǔ)，鑒于此本文以35kV開關(guān)柜為對象，提出了基于ReLU深度信念網(wǎng)絡(luò)的開關(guān)柜故障診斷模型，并通過實際案例進行了驗證。

1 ReLU深度信念網(wǎng)絡(luò)

深度信念網(wǎng)絡(luò)（Deep Belief Networks，DBN）是由若干層受限玻爾茲曼機（restricted boltzmann machine，RBM）和分類輸出層組成的一種深層神經(jīng)網(wǎng)絡(luò)。RBM由用于輸入訓(xùn)練數(shù)據(jù)的可視層v和作為特征檢測器的隱藏層h組成，結(jié)構(gòu)如圖1所示［8］。

定義給定狀態(tài)（v，h）的聯(lián)合組態(tài)能量為:

式中:vi為可視層顯元，hj為隱藏層隱元，ai和bj分別為顯元i和隱元j偏置，wj，i為連接權(quán)重。

圖1 受限玻爾茲曼機結(jié)構(gòu)

基于能量函數(shù)的狀態(tài)聯(lián)合概率分布為:

第j個隱元和第i個顯元的條件激活概率為:

式中:σ（）表示激活函數(shù)。

神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中常用激活函數(shù)為sigmoid函數(shù)和tanh函數(shù)，這兩種函數(shù)存在導(dǎo)數(shù)及飽和值縮放特性，進行遞進式多層反向傳播時，梯度誤差會不斷累積增大，導(dǎo)致網(wǎng)絡(luò)學(xué)習(xí)效率大幅降低。ReLU函數(shù)梯度為1，且只有一端飽和，可在深層反向傳播過程中保持穩(wěn)定性，結(jié)構(gòu)收斂性良好，公式（5-7）是這三種激活函數(shù)的數(shù)學(xué)表達式，相應(yīng)對比曲線如圖2所示。

圖2 3種激活函數(shù)對比

ReLU函數(shù)的優(yōu)良特性可以提高網(wǎng)絡(luò)整體學(xué)習(xí)速率及分類準確率，本文選用該函數(shù)取代傳統(tǒng)激活函數(shù)來訓(xùn)練DBN網(wǎng)絡(luò)。ReLU-DBN網(wǎng)絡(luò)采用對比散度算法對RBM逐層快速訓(xùn)練得到權(quán)重。由于每層網(wǎng)絡(luò)都是獨立學(xué)習(xí)，只能保證該層權(quán)重對特征向量映射達到最優(yōu)，并不能確保整個網(wǎng)絡(luò)特征提取和映射達到最優(yōu)，因此采用梯度下降算法將網(wǎng)絡(luò)輸出與標準數(shù)值標簽之間的誤差自頂向下反向傳播至每一層RBM，微調(diào)整個ReLU-DBN網(wǎng)絡(luò)，使得權(quán)重參數(shù)全局最優(yōu)。

2 35kV開關(guān)柜故障診斷

2.1 開關(guān)柜特征參量監(jiān)測

35kV開關(guān)柜按其使用環(huán)境可分為室內(nèi)開關(guān)柜和室外開關(guān)柜，本文的監(jiān)測對象是室內(nèi)開關(guān)柜。室內(nèi)開關(guān)柜工作環(huán)境沒有室外開關(guān)柜那樣惡劣，對于監(jiān)測傳感器的工作環(huán)境要求沒有室外開關(guān)柜嚴格。35kV開關(guān)柜的主體結(jié)構(gòu)主要包括柜體、斷路器、控制設(shè)備及導(dǎo)線等，其外觀如圖3所示。各種傳感器監(jiān)測信號分別從不同角度反映開關(guān)柜的當(dāng)前工作狀態(tài)，因此監(jiān)測信號中特征參量的提取對開關(guān)柜故障診斷至關(guān)重要。根據(jù)開關(guān)柜的結(jié)構(gòu)，從進線到出線，依次經(jīng)過母線室、斷路器室和電纜室，表征開關(guān)柜狀態(tài)的特征參量，從屬性上可分為電氣參量（電壓、電流等）和環(huán)境參量（溫度、濕度等），考慮到各個分室不同特征量的差異化和可觀測性［9］，采取的信號傳感器監(jiān)測點布置方案如圖4所示，具體闡述說明如下:

圖3 開關(guān)柜外觀

圖4 傳感器監(jiān)測點布置

（1）母線室。在母線室布置三類傳感器，分別是采集母線電壓數(shù)據(jù)的電壓互感器，采集母線和斷路器連接處溫度數(shù)據(jù)的光纖溫度傳感器以及采集母線室溫濕度數(shù)據(jù)的無線溫濕度傳感器。

（2）斷路器室。在斷路器室布置三類傳感器，分別是采集斷路器觸頭溫度數(shù)據(jù)的光纖溫度傳感器，采集斷路器室內(nèi)溫濕度數(shù)據(jù)的無線溫濕度傳感器和采集分合閘線圈電流數(shù)據(jù)的電流互感器。

（3）電纜室。在電纜室布置三類傳感器，分別是采集電纜接頭溫度數(shù)據(jù)的光纖溫度傳感器，采集出線電流數(shù)據(jù)的電流互感器以及采集電纜室溫濕度數(shù)據(jù)的無線溫濕度傳感器。

（4）開關(guān)柜外。在開關(guān)柜外裝有采集環(huán)境溫濕度數(shù)據(jù)的無線溫濕度傳感器。

表1給出了各類傳感器所監(jiān)測的具體特征參量，通過采集列表中的信號特征參量，可以獲得反應(yīng)開關(guān)柜當(dāng)前工作狀態(tài)的豐富原始數(shù)據(jù)源。

表1 35kV開關(guān)柜監(jiān)測特征參量

2.2 故障診斷流程

由于開關(guān)柜結(jié)構(gòu)復(fù)雜，運行過程中很難直接分清故障產(chǎn)生原因，通過對35kV開關(guān)柜故障案例搜集整理，綜合正常運行狀態(tài)數(shù)據(jù)，本文對開關(guān)柜狀態(tài)標簽編碼為如下9種狀態(tài)模式:1正常，2母線電壓過高，3電纜電流過大，4母線室溫濕度過高，5母線與斷路器連接處溫度過高，6合閘線圈電流過大，7斷路器室溫濕度過高，8電纜室溫濕度過高，9電纜接頭溫度過高。通過識別這9常見狀態(tài)模式可以更方便快速地推算出具體的故障原因，例如因電流過大或絕緣老化引起的母線室、電纜室、斷路器室溫度過高；母線室、電纜室、斷路器室濕度過高而引起裸露金屬部分腐蝕；電阻增大或電流增大導(dǎo)致的各小室接頭部分溫度過高；濕度過大造成電阻增大或電流增大引起絕緣擊穿；斷路器機械故障導(dǎo)致的斷路器合閘線圈電流過大等［10］。

針對35kV開關(guān)柜狀態(tài)識別一非線性多分類問題，本文提出基于ReLU-DBN網(wǎng)絡(luò)的故障診斷模型，如圖5所示，通過提取監(jiān)測信號中的特征參量并輸入到深度信念網(wǎng)絡(luò)進行信息處理，可實現(xiàn)開關(guān)柜工作狀態(tài)的自動判定，具體實現(xiàn)步驟如下:

（1）選取開關(guān)柜狀態(tài)傳感器監(jiān)測信號中的特征參量作為模型的輸入，將計算獲取的特征參量輸入到搭建的診斷網(wǎng)絡(luò)模型前，應(yīng)該對特征參量進行歸一化處理。已有研究表明，對模型的輸入數(shù)據(jù)進行歸一化處理存在兩個明顯好處:一是可以大幅提高網(wǎng)絡(luò)的學(xué)習(xí)速度，二是可以大大降低冗余數(shù)據(jù)的干擾影響。本文將計算獲取的特征參量轉(zhuǎn)化到［0，1］之間進行歸一化處理，表達式如下:

其中 Xi、Xmin、Xmax分別表示同一特征參量的第個數(shù)據(jù)、最小值和最大值，X是歸一化結(jié)果。需要特別指出，所有的溫濕度監(jiān)測量均以開關(guān)柜外部環(huán)境溫濕度作為參考，其歸一化過程是在當(dāng)前監(jiān)測值減去同時刻開關(guān)柜外部環(huán)境溫濕度監(jiān)測值的基礎(chǔ)上實現(xiàn)。

（2）按照一定比例將樣本數(shù)據(jù)劃分為訓(xùn)練樣本和測試樣本。

（3）對ReLU-DBN網(wǎng)絡(luò)進行無監(jiān)督預(yù)訓(xùn)練，通過反向傳播算法和隨機梯度下降法利用狀態(tài)模式標簽對網(wǎng)絡(luò)參數(shù)微調(diào)，實現(xiàn)模型參數(shù)最優(yōu)化。

（4）利用訓(xùn)練樣本最優(yōu)參數(shù)對測試樣本進行測試，通過Softmax分類器輸出結(jié)果得出診斷結(jié)論。

（5）依據(jù)新增樣本及故障診斷準確率，對網(wǎng)絡(luò)重新訓(xùn)練，實現(xiàn)參數(shù)更新。

圖5 基于ReLU-DBN的開關(guān)柜診斷模型

3 實例驗證

通過布置的各類型傳感器對35kV開關(guān)柜運行過程中的實際信號進行持續(xù)采集，對實測信號源進行分類，每種類型信號源包含多個數(shù)據(jù)樣本，將信號樣本劃分為訓(xùn)練樣本和測試樣本，具體分布見表2，提取表1所列的信號特征參量，將其作為ReLU-DBN網(wǎng)絡(luò)輸入，用于后續(xù)開關(guān)柜故障識別。

表2 樣本數(shù)據(jù)具體分布

參考相關(guān)文獻［11］，初始化 ReLU-DBN 網(wǎng)絡(luò)連接權(quán)重為服從正態(tài)分布N（0，1）的隨機數(shù)，偏置項為0。設(shè)定權(quán)重學(xué)習(xí)率、偏置學(xué)習(xí)率分別為0.5，權(quán)重衰減項為0.1。為改善反向傳播算法的收斂速度與算法不穩(wěn)定性間的矛盾，初始動量項為0.1，在重構(gòu)誤差處于平穩(wěn)增加狀態(tài)時動量項設(shè)為1。通過研究發(fā)現(xiàn)，網(wǎng)絡(luò)層數(shù)與診斷準確率的關(guān)系如圖6所示。當(dāng)層數(shù)從1層增加至4層，識別正確率大幅提升，由4層增加至8層，準確率提升效果微弱。綜合模型診斷效果及運算效率，本文確定網(wǎng)絡(luò)結(jié)構(gòu)為4層，由于輸入為12種信號監(jiān)測特征量，輸出為開關(guān)柜9種工作狀態(tài)，因此ReLU-DBN網(wǎng)絡(luò)整體結(jié)構(gòu)為12-20-20-10-9。

圖6 網(wǎng)絡(luò)層數(shù)與診斷準確率關(guān)系曲線

本文采用混淆矩陣考察算法的診斷效果，混淆矩陣如圖7所示。

圖7 混淆矩陣

其中，目標類型p和n表示樣本真正類別，輸出類型p，和n，表示樣本被ReLU-DBN診斷模型判定的類別。真正（TP）表示被模型診斷為正的正樣本，假正（FP）表示被模型診斷為正的負樣本，假負（FN）表示被模型診斷為負的正樣本，真負（TN）表示被模型診斷為負的負樣本。

混淆矩陣各項評價指標如下:

將數(shù)據(jù)按照表2中分布進行訓(xùn)練、測試，其中訓(xùn)練樣本診斷準確率為95.3%。圖8為基于ReLUDBN診斷模型在測試樣本數(shù)據(jù)上的混淆矩陣，其中序號1-9對應(yīng)本文2.2部分所定義的開關(guān)柜工作狀態(tài)編碼。由圖8可見模型的總體診斷準確率較高，達到94.4%，其中編碼8和9對應(yīng)的開關(guān)柜工作狀態(tài)識別精度分別為97.0%和96.2%，召回率分別為97.0%和100%。50例電纜接頭溫度過高樣本全部識別正確，33例電纜室溫濕度過高樣本數(shù)據(jù)中，僅有1例誤診，表明ReLU-DBN診斷模型有較強的復(fù)合故障判定能力。通過對溫度、濕度復(fù)合狀態(tài)特征提取，該模型可得到表征溫度過高兼顧濕度過大狀態(tài)的特征量，將其與開關(guān)柜正常狀態(tài)進行區(qū)分。ReLU-DBN網(wǎng)絡(luò)通過深層學(xué)習(xí)，樣本數(shù)據(jù)間相關(guān)信息得以充分表示，更利于故障模式診斷。

圖8中編碼1對應(yīng)的正常狀態(tài)數(shù)據(jù)，相對其它樣本類型診斷精確度略低，僅為88.2%。通過對原始監(jiān)測信號分析發(fā)現(xiàn)，綜合案例庫在開關(guān)柜已經(jīng)發(fā)生異常而監(jiān)測信號特征參量尚未達到警示值時，樣本類型劃分較為粗獷。編碼6對應(yīng)的合閘線圈電流過大類型樣本召回率僅為85.3%，通過對原始案例文件分析發(fā)現(xiàn)，有一小部分數(shù)據(jù)實際監(jiān)測信號呈現(xiàn)特征與所上報的狀態(tài)類型有所不符，存在部分分歧，因為這些干擾樣本的存在，對診斷模型參數(shù)存在一定影響，導(dǎo)致診斷精度有所降低。

圖8 ReLU-DBN測試集混淆矩陣

下面利用較為先進的最小二乘支持向量機（LSSVM）［12］和卷積神經(jīng)網(wǎng)絡(luò)（CNN）［13］與本文提出的ReLU-DBN網(wǎng)絡(luò)診斷效果進行對比，采用相同的樣本分布進行訓(xùn)練、測試。其中LSSVM模型選用徑向基核函數(shù)（radial basis function，RBF），通過交叉驗證得最優(yōu)正則因子為0.1，RBF核參數(shù)為100。CNN網(wǎng)絡(luò)中學(xué)習(xí)率為0.1，學(xué)習(xí)周期為200。LSSVM模型和CNN模型對訓(xùn)練樣本的診斷準確率分別為90.1%和87.8%。在測試集上的識別效果如圖9所示。針對開關(guān)柜故障診斷問題，LSSVM和CNN方法的識別準確率分別為89.5%和 86.6%。其中LSSVM模型對編碼8、9類型的診斷精度分別為94.1%和 79.7%，召回率分別為 97.0%和 94.0%。CNN網(wǎng)絡(luò)模型對8、9類型的識別精度分別為85.7%和 75.8%，召回率分別為 36.4%和 94.0%，開關(guān)柜工作狀態(tài)模式間的誤識別率與本文提出的ReLU-DBN模型相比更高，診斷效果不佳。

圖9 LSSVM和CNN測試集混淆矩陣

保持測試集規(guī)模不變，將訓(xùn)練集逐步減小為3600、2700、1800、900、400，訓(xùn)練集和測試集比例分別為 4:1、3:1、2:1、1:1、1:2，考察三種算法的診斷效果，如表3所示。

表3 不同訓(xùn)練集時診斷準確率

逐步減小樣本集為 4000、3000、2000、1000、500、250，按照6:4的比例將樣本庫劃分為訓(xùn)練集和測試集，考察三種算法的診斷效果變化，可以得到如表4所示的結(jié)果。

表4 不同樣本集時診斷準確率

對比表3和4可知，開關(guān)柜診斷準確率與模型訓(xùn)練樣本中所包含的特征信息密切相關(guān)，隨著訓(xùn)練樣本減少，診斷模型從訓(xùn)練樣本中提取的特征信息越稀少，診斷精度會隨之降低。開關(guān)柜故障模式因型號、電壓等級、運行狀態(tài)等不同所呈現(xiàn)的多樣性，被大樣本空間所覆蓋，同LSSVM、CNN模型相比，ReLU-DBN網(wǎng)絡(luò)模型可以全面地提取出樣本空間中更深層的抽象特征，能正確處理各種復(fù)雜信息，具有良好的容錯能力，診斷正確率高，為解決35kV開關(guān)柜狀態(tài)識別問題提供了一種有效手段。

4 結(jié)論

開關(guān)柜內(nèi)環(huán)境復(fù)雜，故障類型多種多樣，針這一問題，本文提出基于深度信念網(wǎng)絡(luò)的35kV開關(guān)柜故障診斷方法，利用先進的傳感器技術(shù)，采集多路在線監(jiān)測信號，以實時在線監(jiān)測信號狀態(tài)特征參量作為ReLU-DBN網(wǎng)絡(luò)的輸入，可實現(xiàn)開關(guān)柜工作狀態(tài)的準確判定。實際案例分析結(jié)果表明，該方法簡單方便、訓(xùn)練時間短、擴充性能好、收斂速度快、分類能力強、易于實現(xiàn)、可以最大程度地利用工程先驗知識。如果將樣本集逐步完善，隨著狀態(tài)知識的逐漸積累，ReLU-DBN網(wǎng)絡(luò)可以不斷擴張從而進一步提高診斷準確率，有望獲得更佳的診斷效果。