一種基于深度收縮自編碼網(wǎng)絡的變壓器故障診斷方法

杭穎 廖昌義 任廣為 黎楚陽

摘 ? 要：變壓器油中溶解氣體方法（Dissolved Gas-in-oil Analysis， DGA）由于其結果直觀、操作簡單和在線觀測等優(yōu)勢，被廣泛應用于變壓器領域。然而傳統(tǒng)的DGA難以充分利用不帶故障類別標簽的樣本信息，導致故障診斷準確率不高。針對此問題，本文提出了一種基于深度收縮自編碼（Deep Contractive Auto-Encoder， DCAE）網(wǎng)絡的變壓器故障診斷方法。首先，將深度收縮自編碼網(wǎng)絡和分類器組成DCAE分類器，構建基于深度收縮自編碼網(wǎng)絡的變壓器故障診斷模型。其次，考慮工程中存在的數(shù)據(jù)采樣錯誤情況，選取部分測試樣本將其隨機置零，研究該模型的容錯性。結果表明，所提出的變壓器故障診斷模型準確率均高于傳統(tǒng)的粒子群優(yōu)化支持向量機和BP神經(jīng)網(wǎng)絡模型，該模型適用于變壓器故障診斷。

關鍵詞：變壓器 ?油中溶解氣體分析 ?故障診斷 ?深度學習 ?收縮自編碼

中圖分類號：TM41 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文獻標識碼：A ? ? ? ? ? ? ? ? ? ? ? ?文章編號：1674-098X（2020）06（a）-0005-05

Abstract：Dissolved gas-in-oil Analysis （DGA） is widely used in the transformer field due to its advantages such as intuitive results， simple operation and online observation. However， it is difficult for traditional DGA to make full use of the sample information without fault category labels， leading to low fault diagnosis accuracy. To solve this problem， this paper proposes a transformer fault diagnosis method based on deep contractive auto-encoder （DCAE） network. First， the deep contractive auto-encoder and the classifier were combined into DCAE classifier to construct the transformer fault diagnosis model based on the deep contractive auto-encoder and dissolved gas in the transformer oil. Secondly， considering the data sampling error in engineering practice， some test samples are set to zero randomly to study the fault tolerance of the model. Finally， an example analysis shows that the accuracy of the proposed transformer fault diagnosis model is higher than that of the traditional particle swarm optimization support vector machine and BP neural network models. The model is proved to be suitable for transformer fault diagnosis.

Key Words： Power transformer; Dissolved gas-in-oil analysis; Fault diagnosis; Deep learning; Contractive auto-encoder

變壓器作為電網(wǎng)變電過程的重要設備，其工作狀態(tài)與電網(wǎng)安全運行密切相關[1]。變壓器隨著服役年限的增加，發(fā)生故障幾率會顯著上升，嚴重故障時可能導致范圍性的大面積停電。目前國內存在著許多運行超過20年的油浸式變壓器，及早發(fā)現(xiàn)這些變壓器的故障，準確識別其故障類型，對于保證電網(wǎng)運行的可靠性具有重要意義[2]。變壓器運行中因為老化、電、熱故障等內部原因產(chǎn)生少量的氣體，這些氣體溶解于變壓器絕緣油中，與變壓器的運行狀態(tài)緊密相關，可用于診斷變壓器的狀態(tài)?；谶@個理念，油中溶解氣體方法（Dissolved Gas-in-oil Analysis， DGA）在變壓器故障診斷領域得到了廣泛的應用[3-4]。

由于具有結果直觀、操作簡單和在線診斷等優(yōu)勢，DGA成為了現(xiàn)場變壓器最常用的故障診斷方法[5]。但是，傳統(tǒng)的DGA所采用的故障診斷判據(jù)主要依靠檢修人員的現(xiàn)場經(jīng)驗，容易造成較大的診斷偏差。因此，亟需探索提高變壓器故障診斷準確率的新方法。

人工智能（Artificial Intelligence， AI）在建立DGA的不同氣體成分含量及比例與變壓器故障狀態(tài)間的復雜非線性關系中具有明顯優(yōu)勢，被逐漸應用于變壓器故障診斷中，并取得了一定成果。國內外研究人員研究了聚類分析（Clustering Analysis， CA）[6]、人工神經(jīng)網(wǎng)絡（Artficial Neural Network， ANN）[7-8]、支持向量機（Support Vector Machine， SVM）[9]等方法，用于提高變壓器故障診斷的準確率。但是這些方法有一定的不足之處。聚類分析只能將故障樣本劃分成幾類，無法識別各類所對應的故障類型;人工神經(jīng)網(wǎng)絡易陷入一定范圍內最優(yōu);SVM在處理大量數(shù)據(jù)多分類時，效率較低，核函數(shù)和參數(shù)較難確定。上述方法由于學習能力、處理效率、特征提取等方面存在先天的不足，在現(xiàn)場推廣應用中存在一定的局限性。而深度學習方法具有強大的學習能力，可對復雜的非線性特征進行多層提取，充分利用大量無標簽數(shù)據(jù)。因此，部分文獻[10-13]將其引入變壓器故障診斷領域。

深度學習（Deep Learning， DL）是一種深層次的機器學習方法，由于具有多層網(wǎng)絡提取特征的優(yōu)勢，成為了近年來國內外學者研究的熱點[14-17]。目前，深度學習的主要應用領域有：語音識別[18-19]、圖像識別技術[20-21]、電力變壓器故障診斷等。在深度學習方法中，自編碼機（Auto-Encoder，AE）的半監(jiān)督訓練方法特征提取能力強大，不需要對訓練樣本進行標記，因此在訓練變壓器故障診斷的大量無標簽樣本數(shù)據(jù)中具有較大的優(yōu)勢。

本文將深度收縮自編碼（Deep Contractive Auto-Encoder， DCAE）網(wǎng)絡和分類器組合成深度收縮自編碼分類器，以現(xiàn)場變壓器油中溶解氣體為基礎，選用CH4、C2H2、C2H4、C2H6、H2五種故障氣體特征量，構建基于深度收縮自編碼的變壓器故障診斷模型。并且，考慮工程實際中存在的數(shù)據(jù)采樣錯誤的情況，選取部分測試樣本將其隨機置零，研究該模型的容錯性。最后以實例進行測試，用本文模型與傳統(tǒng)的粒子群優(yōu)化支持向量機（PSO-SVM）和BP神經(jīng)網(wǎng)絡（BPNN）模型進行比較分析。

1 ?深度學習收縮自編碼

1.1 自編碼器介紹

自動編碼器由三層神經(jīng)網(wǎng)絡組成：分別是輸入層、隱含層、輸出層，此處輸入層輸入數(shù)據(jù)維度和輸出層輸出數(shù)據(jù)維度相同。為了獲得訓練模型性能最佳的偏置W和權值b，盡可能地讓輸入和輸出相等。自編碼器結構如圖1所示。

假設有一個輸入信號x是h維的，由輸入層經(jīng)過函數(shù)f到達中間層，信號變?yōu)閥，y可以用下面公式表示。

1.2 帶收縮項的自編碼器

收縮自編碼器（Contractive Auto-Encoder， CAE）是在原先的自編碼器的基礎上增加了正則項，從而增加訓練數(shù)據(jù)集周圍出現(xiàn)小擾動時的魯棒性。正則項為編碼器的映射f關于輸入x的雅克比矩陣的Frobenius范數(shù)，目的是迫使模型在訓練樣本上有更強收縮作用的映射。正則項形式如下：

收縮自編碼器通過重構誤差和收縮懲罰（正則項）這兩種相反的推動力優(yōu)化網(wǎng)絡參數(shù)。正則項迫使自編碼器學習到的所有映射的梯度都很小，而重構誤差迫使自編碼器學習一個恒等映射，保留完整的信息。在兩種推動力沖擊下，大部分映射對于輸入的梯度都很小。當輸入受到小擾動時，小梯度會減小這些擾動，從而增加自編碼器輸入對受到小擾動時的抗干擾能力。

2 ?實現(xiàn)步驟

（1）初始化自編碼網(wǎng)絡參數(shù)，其中包含隱含層層數(shù)，權值W、偏置b、控制正則化強度λ的超參數(shù)等參數(shù)。

（2）將訓練數(shù)據(jù)x（n）通過激活函數(shù)f（x）輸入到隱含層中進行編碼，得到編碼結果h，然后采用向前傳播方法（Forward Propagation）計算代價函數(shù)大小。

（3）使用向后傳播方法（Back Propagation）更新網(wǎng)絡參數(shù)權值W和偏置b。

假設有樣本集{（x（1），y（1）），…，（x（n），y（n））}，樣本的重構誤差使用均方誤差，訓練集的總體誤差為：

3 ?實例分析

3.1 故障樣本選擇

本文采用電網(wǎng)公司歷年故障DGA數(shù)據(jù)和部分文獻中已知故障類型的DGA數(shù)據(jù)，組成1600組數(shù)據(jù)，其中訓練集1000組，微調集200組，測試集400組。本文選擇用CH4、C2H2、C2H4、C2H6、H2五種故障氣體特征量作為輸入。為了縮小變量之間的計算誤差采用公式（10）對特征量進行標準化處理。

3.2 特征氣體標簽及故障狀態(tài)標簽

根據(jù)電力系統(tǒng)變壓器容易發(fā)生的故障狀態(tài)類型，本文分為五種故障狀態(tài)分別是高能放電（HE-D）、低能放電（LE-D）、中低溫過熱（LM-T）、高溫過熱（H-T）、正常狀態(tài)（N-C）。故障對應狀態(tài)編號及特征樣本分布情況如表1所示。

當損失函數(shù)取得最小值時，即輸入和輸出之間的差值最小，模型故障診斷準確率最高。適當?shù)牡螖?shù)有利于提高收縮自編碼故障診斷模型的診斷效率，而迭代次數(shù)過多對準確率影響微小。迭代次數(shù)和訓練損失關系如圖3所示。

由圖3可知，訓練損失隨著迭代的次數(shù)增加而遞減，模型性能逐漸優(yōu)化，訓練損失曲線在迭代次數(shù)500次附近保持平緩，故以下測試取迭代次數(shù)為500次。

3.3 批次大小選擇

當數(shù)據(jù)集較小時，批次大小選擇全數(shù)據(jù)集形式，即批次大小等于輸入的數(shù)據(jù)集個數(shù)，其優(yōu)點是：內存利用率高，在一定范圍內，批次大小越大，引起訓練震蕩越小。工程實際中，大量數(shù)據(jù)處理對計算機內存要求較高，而適當?shù)呐未笮∮兄诰徑鈨却鎵毫Γ嵘嬎闼俣群吞岣邷蚀_率。本文將批次大小分為七組（分別是50、100、150、200、250、300、350），用不同值進行獨立試驗，模型訓練過程中的平均準確率和批次大小的關系如圖4所示。

從圖4可以看出當批次大小取250時，模型的準確率最高達到89.5%，故下面模型使用批次大小為250。

3.4 AE層數(shù)和準確率關系

AE層數(shù)和訓練時間有關，而診斷準確率和AE層數(shù)密切相關。適當?shù)腁E層數(shù)有助于提升模型的訓練效果。不同AE層數(shù)時收縮自編碼器故障診斷的準確率如圖5所示。

圖5是不同AE層數(shù)下收縮自編碼器故障模型的測試準確率，圖中折線表明了模型的測試準確率隨著AE層數(shù)的遞增而顯著提升。當AE層數(shù)到達4層時，模型診斷準確率較高，隨后隨著AE層數(shù)的增加，模型診斷的準確率沒有顯著提升，故下面測試選取AE層數(shù)為4層。

3.5 不同模型對比

選取PSO-SVM和BPNN兩種模型和本文模型進行了對比，迭代次數(shù)選用500次，分別做10次獨立試驗，平均準確率取10次試驗準確率的均值?？紤]工程實際中存在的數(shù)據(jù)采樣錯誤的情況，選取部分測試樣本將其隨機置零，所占比率為原測試樣本的5%，即5%測試樣本部分數(shù)據(jù)置零進行試驗。在此條件下，用PSO-SVM、BPNN和本文方法三者進行故障診斷，并將三者模型診斷準確率進行比較，模型準確率對比如表2所示。

由表2可知，DCAE在完整的變壓器故障測試數(shù)據(jù)下故障診斷準確率最高，能達到89.5%，相較于PSO-SVM模型提高了5.3%，相較于BPNN模型提高了9.9%。在5%測試樣本隨機置零時，DCAE準確率最高，僅比完備數(shù)據(jù)情況下降低了2.2%，能達到87.3%，而PSO-SVM算法準確率下降到76.5%，BPNN算法準確率下降到70.5%。結果表明，DCAE在完整的測試數(shù)據(jù)或是5%測試數(shù)據(jù)出錯的情況下故障診斷準確率均優(yōu)于PSO-SVM和BPNN算法。

4 ?結語

本文使用深度收縮自編碼網(wǎng)絡構建分類模型對變壓器進行故障診斷結論如下。

（1）利用自編碼網(wǎng)絡增加收縮項，增加自編碼網(wǎng)絡受到小擾動時的魯棒性。然后構建收縮自編碼網(wǎng)絡模型對變壓器進行故障診斷，其準確率優(yōu)于傳統(tǒng)的PSO-SVM、BPNN算法，達到了89.5%，說明了本文方法能有效地診斷變壓器故障。

（2）對比于PSO-SVM和BPNN算法需要帶樣本標簽的數(shù)據(jù)進行模型訓練而言，本文方法有強大的特征提取能力，其訓練數(shù)據(jù)使用無監(jiān)督學習，無需使用樣本標簽，適用性更廣泛。

（3）在實際應用中，油色譜監(jiān)測部分數(shù)據(jù)出錯或是部分數(shù)據(jù)不全，導致傳統(tǒng)的故障診斷方法準確率偏低。在此條件下，本文方法相較于PSO-SVM和BPNN故障診斷準確率更高，準確率達到了87.3%，說明了本文故障診斷模型具有較強的魯棒性。

參考文獻

[1] 榮智海，齊波，李成榕，等.面向變壓器油中溶解氣體分析的組合DBN診斷方法[J].電網(wǎng)技術，2019，43（10）：3800-3808.

[2] 鄭含博，王偉，李曉綱，等.基于多分類最小二乘支持向量機和改進粒子群優(yōu)化算法的電力變壓器故障診斷方法[J].高電壓技術，2014，40（11）：3424-3429.

[3] 張鐿議，彭鴻博，李昕，等.基于DGA特征量優(yōu)選與改進磷蝦群算法優(yōu)化支持向量機的變壓器故障診斷模型[J].電測與儀表，2019，56（21）：110-116.

[4] 張鐿議，焦健，汪可，等.基于帝國殖民競爭算法優(yōu)化支持向量機的電力變壓器故障診斷模型[J].電力自動化設備，2018，38（1）：99-104.

[5] 吐松江·卡日，高文勝，張紫薇，等.基于支持向量機和遺傳算法的變壓器故障診斷[J].清華大學學報：自然科學版，2018，58（7）：623-629.

[6] 仲元昌，萬能飛，夏艷，等.基于油氣參數(shù)分析的電力變壓器故障分步式診斷算法[J].高電壓技術，2014，40（8）：2279-2284.

[7] 張珂斐，郭江，聶德鑫，等.基于化學反應優(yōu)化神經(jīng)網(wǎng)絡與融合DGA算法的油浸式變壓器模型研究[J].高電壓技術，2016，42（4）：1275-1281.

[8] 賈亦敏，史麗萍，嚴鑫.改進人工魚群算法優(yōu)化小波神經(jīng)網(wǎng)絡的變壓器故障診斷[J].河南理工大學學報：自然科學版，2019，38（2）：103-109.

[9] 李春茂，周妺末，劉亞婕，等.基于鄰域粗糙集與多核支持向量機的變壓器多級故障診斷[J].高電壓技術，2018，44（11）：3474-3482.

[10]許倩文，吉興全，張玉振，等.棧式降噪自編碼網(wǎng)絡在變壓器故障診斷中的應用[J].電測與儀表，2018，55（17）：62-67.

[11]賈京龍，余濤，吳子杰，等.基于卷積神經(jīng)網(wǎng)絡的變壓器故障診斷方法[J].電測與儀表，2017，54（13）：62-67.

[12]石鑫，朱永利.深度學習神經(jīng)網(wǎng)絡在電力變壓器故障診斷中的應用[J].電力建設，2015，36（12）：116-122.

[13]代杰杰，宋輝，楊祎，等.基于油中氣體分析的變壓器故障診斷ReLU-DBN方法[J].電網(wǎng)技術，2018，42（2）：658-664.

[14]Hinton， G E. Reducing the Dimensionality of Data with Neural Networks [J]. Science， 2006， 313（5786）：504-507.

[15]Bengio， Y. Learning Deep Architectures for AI [J]. Foundations and Trends？ in Machine Learning， 2009， 2（1）：1-127.

[16]Bengio Y， Courville A， Vincent P. Unsupervised Feature Learning and Deep Learning： A Review and New Perspectives [J]. 2012.

[17]Hinton G E， A practical guide to training restricted Boltzmann machines [J]. Momentum， 2010， 9（1）：926-947.

[18]田啟川，王滿麗.深度學習算法研究進展[J].計算機工程與應用，2019，55（22）：25-33.

[19]侯一民，李永平.基于卷積神經(jīng)網(wǎng)絡的孤立詞語音識別[J].計算機工程與設計，2019，40（6）：1751-1756.

[20]馬苗，許西丹，武杰.一種耦合深度信念網(wǎng)絡的圖像識別方法[J].西安電子科技大學學報，2018，45（5）：102-107.

[21]鄭遠攀，李廣陽，李曄.深度學習在圖像識別中的應用研究綜述[J].計算機工程與應用，2019，55（12）：20-36.