李輝 張志攀
摘要:針對傳統(tǒng)算法在變壓器故障診斷領(lǐng)域存在參數(shù)難以選取、準(zhǔn)確率低、易誤判等缺點(diǎn),提出一種基于改進(jìn)深度信念網(wǎng)絡(luò)(IDBN)的電力變壓器故障診斷方法。在油中溶解氣體分析(DGA)基礎(chǔ)上,首先以IDBN無監(jiān)督訓(xùn)練方式重構(gòu)原始數(shù)據(jù)特征,然后以有監(jiān)督方式學(xué)習(xí)特征與故障類型之間的映射關(guān)系,最后將測試數(shù)據(jù)應(yīng)用于模型并進(jìn)行實驗。實驗結(jié)果表明,該方法不僅具有較高精度,而且在準(zhǔn)確率方面優(yōu)于傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)方法。因此,將改進(jìn)深度信念網(wǎng)絡(luò)用于變壓器故障診斷具有較高的應(yīng)用價值。
關(guān)鍵詞:改進(jìn)深度信念網(wǎng)絡(luò);變壓器故障;氣體分析;準(zhǔn)確率
DOI:10.11907/rjdk.173159
中圖分類號:TP319
文獻(xiàn)標(biāo)識碼:A文章編號:1672-7800(2018)007-0169-04
Abstract:Aimingattheshortcomingsoftraditionalalgorithmsincludingdifficultiestoselecttheparametersinthefieldoftransformerfaultdiagnosisaccuracyandlowfalsejudgment,weproposeanimprovedfaultdiagnosismethodofpowertransformerbasedonimproveddepthbeliefnetwork(IDBN).Onthebasisofdissolvedgasanalysis(DGA)inoil,wereconstructtheoriginaldatacharacteristicsbyunsupervisedtrainingmethodofIDBN,andthenstudythemappingrelationshipbetweenfeaturesandfaulttypesinasupervisedmanner.Finally,thetestdataisappliedonthemodelandtheexperimentiscarriedout.Theresultsshowthattheproposedmethodnotonlyhashigherprecision,butalsooutperformsthetraditionalartificialneuralnetworkandsupportvectormachinesinaccuracy.Therefore,itisofpracticalvalueandpracticalsignificancetoimprovethedeepbeliefnetworkfortransformerfaultdiagnosis.
KeyWords:improveddeepbeliefnetwork;transformerfault;gasanalysis;accuracyrate
0引言
電力變壓器在電能轉(zhuǎn)換、分配、傳輸?shù)确矫嫫鹬鴽Q定性作用,一旦發(fā)生故障,其所在電網(wǎng)將發(fā)生大面積癱瘓。因此,對其故障的精準(zhǔn)診斷顯得格外重要。通過對故障類型及故障位置的精準(zhǔn)識別,可為工程師維修提供指導(dǎo),從而保證電力系統(tǒng)的安全穩(wěn)定運(yùn)行。
現(xiàn)有的電力變壓器故障診斷方法主要分為兩大類[1]:一是基于實踐經(jīng)驗的診斷方法;二是基于機(jī)器學(xué)習(xí)算法的診斷方法。第一類方法通過總結(jié)實踐經(jīng)驗診斷故障,代表方法包括羅杰斯特法、三比值法等;第二類方法通過機(jī)器學(xué)習(xí)中的分類方法對與故障相關(guān)的數(shù)據(jù)進(jìn)行分類,實現(xiàn)故障類型的自動識別,代表方法包括人工神經(jīng)網(wǎng)絡(luò)(ArtificialNeuralNetwork,ANN)、支持向量機(jī)(SupportVectorMachine,SVM)、極限學(xué)習(xí)機(jī)(ExtremeLearningMachine,ELM)等。然而,現(xiàn)有方法依然存在一些缺點(diǎn):第一類方法依賴于大量實踐經(jīng)驗及系統(tǒng)性總結(jié),第二類方法盡管不依賴于實踐經(jīng)驗,但其中的每種分類方法都有一定局限性,如:ANN收斂不穩(wěn)定,且容易震蕩[2];SVM難以處理大量樣本,且在處理非線性分類問題時,核函數(shù)及參數(shù)難以選取[3];ELM學(xué)習(xí)速度快、泛化性能強(qiáng),但是不穩(wěn)定[4]。上述3種分類算法均為淺層學(xué)習(xí)模型,在解決復(fù)雜非線性多分類問題時能力有限。
針對上述缺點(diǎn),本文提出一種基于改進(jìn)深度信念網(wǎng)絡(luò)(Improved-DeepBeliefNetwork,IDBN)的電力變壓器故障診斷方法,利用IDBN算法近似任意復(fù)雜非線性映射的能力,實現(xiàn)對數(shù)據(jù)分布的近似建模,從而達(dá)到對故障類型的準(zhǔn)確識別。首先,以無監(jiān)督方式,從數(shù)據(jù)中自動挖掘有效特征;其次,根據(jù)樣本標(biāo)簽,采用有監(jiān)督方式對網(wǎng)絡(luò)進(jìn)行微調(diào),以獲得最優(yōu)的網(wǎng)絡(luò)參數(shù);最后,根據(jù)調(diào)優(yōu)模型對故障類型進(jìn)行識別。通過工程實例,驗證了所提方法的有效性,并通過與經(jīng)典分類算法的對比,證明了該方法的優(yōu)越性。
1改進(jìn)深度信念網(wǎng)絡(luò)原理
2006年,隨著Hinton[5-6]在深度信念網(wǎng)絡(luò)(DeepBeliefNetwork,DBN)研究領(lǐng)域取得巨大成功,深度學(xué)習(xí)開始成為人們關(guān)注的熱點(diǎn),尤其是將深度學(xué)習(xí)應(yīng)用于人工智能領(lǐng)域具有明顯優(yōu)勢,如語音識別、圖像識別[7]、自然語言處理等。深度學(xué)習(xí)的廣泛應(yīng)用取決于其獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu)。
1.1限制玻爾茲曼機(jī)
限制玻爾茲曼機(jī)[8](RestrictedBoltzmannMachine,RBM)是一種特殊的馬爾科夫隨機(jī)場(MarkovRandomField,MRF)。一個RBM是由一個隨機(jī)的隱含層(一般是伯努利分布)和一個隨機(jī)的可視層(一般是伯努利分布和高斯分布)構(gòu)成的。RBM可用雙向圖表示,所有隱含層與可視層之間均存在連接,而隱含層層內(nèi)和可視層層內(nèi)之間不存在連接,即層內(nèi)無連接,層間全連接。具體結(jié)構(gòu)如圖1所示,其是一個兩層神經(jīng)網(wǎng)絡(luò),連接權(quán)重將可視層與隱含層連接,可視層接收輸入數(shù)據(jù),根據(jù)式(1)計算隱藏層神經(jīng)元的激活概率。
其中,h為隱含層神經(jīng)元的值,v為可視層神經(jīng)元的值,w為連接權(quán)重,b為偏置,f·為激活函數(shù)。本文選取relu函數(shù)作為激活函數(shù)。
1.2改進(jìn)深度信念網(wǎng)絡(luò)結(jié)構(gòu)及原理
深度信念網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)在結(jié)構(gòu)上并無太大差異,均是多層神經(jīng)元在縱向的延伸,但由于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)隨著深度增加導(dǎo)致梯度消失,因而無法進(jìn)行深度學(xué)習(xí)。Hinton提出的深度信念網(wǎng)絡(luò),其本質(zhì)是由多個RBM堆疊而成的神經(jīng)網(wǎng)絡(luò)模型。本文提出的改進(jìn)深度信念網(wǎng)絡(luò)(IDBN)算法是在深度信念網(wǎng)絡(luò)基礎(chǔ)上演變而來,其具體結(jié)構(gòu)如圖2所示。IDBN主要架構(gòu)由3個RBM堆疊而成,在傳統(tǒng)的深度信念網(wǎng)絡(luò)上增加了一層BN(BatchNormalization)[9]。其工作原理是首先將經(jīng)過批量標(biāo)準(zhǔn)化處理(BN)的數(shù)據(jù)作為網(wǎng)絡(luò)輸入;其次將經(jīng)過權(quán)重處理后的數(shù)據(jù)在進(jìn)行函數(shù)激勵前,再進(jìn)行批量標(biāo)準(zhǔn)化處理;然后將批量標(biāo)準(zhǔn)化處理的數(shù)據(jù)作為激勵函數(shù)的輸入,由此輸出新的特征,以避免由于新產(chǎn)生的特征數(shù)據(jù)分布太廣,導(dǎo)致施加于激勵函數(shù)的數(shù)據(jù)無法再現(xiàn)原始數(shù)據(jù)特征,從而使訓(xùn)練出的模型性能降低;最后,在RBM的輸出端連接softmax函數(shù),實現(xiàn)對故障的分類。
2改進(jìn)深度信念網(wǎng)絡(luò)預(yù)訓(xùn)練與優(yōu)化過程
2.1預(yù)訓(xùn)練過程
分別單獨(dú)訓(xùn)練每一層RBM網(wǎng)絡(luò),以確保特征向量映射到不同特征空間時,均盡可能地保留特征信息。在本文中,RBMh1可看作RBMh2的可見層,這里用v1……vn表示,第一個RBM的輸入層即整個模型的輸入層。通過將對比梯度算法作用于所有樣本,并訓(xùn)練出h1;由于h2的可見層是h1隱含層,訓(xùn)練起始于將數(shù)據(jù)導(dǎo)入v1可見層,通過前向傳播傳至h1層,然后作為h2隱含層訓(xùn)練的初始數(shù)據(jù)。重復(fù)以上過程,便可預(yù)訓(xùn)練出一個由多層RBM構(gòu)成的多層感知機(jī)。
2.2優(yōu)化過程
在IDBN最后一層設(shè)置BP網(wǎng)絡(luò),接收RBM輸出的特征向量作為輸入向量。作為有監(jiān)督訓(xùn)練分類器,由于每層RBM層內(nèi)的權(quán)值對該層特征向量達(dá)到最優(yōu),并不代表對整個IDBN的特征向量映射達(dá)到最優(yōu),所以反向傳播網(wǎng)絡(luò)還需將誤差信息自頂向下傳播至每層RBM,以微調(diào)整個IDBN網(wǎng)絡(luò)。RBM訓(xùn)練過程可看作對一個深層BP網(wǎng)絡(luò)權(quán)值參數(shù)的初始化過程,使DBN克服傳統(tǒng)BP網(wǎng)絡(luò)因隨機(jī)初始化權(quán)值參數(shù)不當(dāng)而陷入局部最優(yōu),并導(dǎo)致訓(xùn)練時間過長等問題。
2.3改進(jìn)深度信念訓(xùn)練步驟
根據(jù)改進(jìn)深度信念網(wǎng)絡(luò)的預(yù)訓(xùn)練和優(yōu)化過程,給出其具體訓(xùn)練步驟:
步驟4:重復(fù)步驟2~3,直至迭代終止。
步驟5:將當(dāng)前RBM神經(jīng)元值進(jìn)行批量標(biāo)準(zhǔn)化處理后作為下一個RBM的輸入,重復(fù)步驟2~5,直至所有RBM完成訓(xùn)練。
步驟6:根據(jù)樣本標(biāo)簽,采用梯度下降微調(diào)所有權(quán)重和偏置。
步驟7:利用訓(xùn)練好的IDBN進(jìn)行故障診斷。
3實驗分析
3.1數(shù)據(jù)描述與預(yù)處理
根據(jù)油中溶解氣體(DGA)分析法,本文選取C2H2/C2H4、CH4/H2、C2H4/C2H6的比值作為訓(xùn)練樣本。為避免因數(shù)據(jù)差異過大導(dǎo)致某些重要數(shù)據(jù)特征丟失,首先對每種特征進(jìn)行歸一化處理。假設(shè)樣本集X={x1,x2,…,xK},其中xi∈R1×3為一個樣本,采用式(4)作歸一化處理。
其中,xNi為歸一化后的樣本,xmax∈R1×3為每個特征量最大值構(gòu)成的向量,xmin∈R1×3為每個特征量最小值構(gòu)成的向量。
3.2故障類型編碼
依據(jù)電力變壓器在運(yùn)行過程中的狀態(tài),將故障分為低能量放電故障、高能量放電故障、高溫過熱故障、中溫過熱故障、低溫過熱故障、局部放電故障6種類型,加上正常運(yùn)行狀況,共有7種健康狀態(tài),每種狀態(tài)下各200個樣本[10-12],詳細(xì)編碼如表1所示。
3.3參數(shù)選取
由于IDBN的性能與參數(shù)選取直接相關(guān),然而配置合適的參數(shù)并非易事。為獲得最優(yōu)參數(shù)配置,本文采用網(wǎng)格化的搜索技術(shù)確定最優(yōu)學(xué)習(xí)率alpha(α)及慣量參數(shù)m。其中,m從0.1~1每隔0.1取一個值,共取10個值,α=[1×10-2,5×10-3,1×10-3,5×10-4,1×10-4,5×10-5,1×10-5],每種參數(shù)配置下的平均準(zhǔn)確率如圖3所示。
由圖3可知,不同的參數(shù)配置對算法性能有較大的影響,根據(jù)實驗結(jié)果,得出當(dāng)學(xué)習(xí)率為1E-5、慣量參數(shù)為0.3時,DBN性能達(dá)到最優(yōu),平均測試準(zhǔn)確率為86.18%。因此,本文選取α=1×10-5m=0.3。
3.4方法對比分析
為證明本文提出方法的優(yōu)越性,基于相同的訓(xùn)練樣本和測試樣本,采用經(jīng)典分類方法ANN和SVM進(jìn)行實驗。ANN采取3-9-7的網(wǎng)絡(luò)結(jié)構(gòu),即隱藏層包含9個神經(jīng)元,學(xué)習(xí)率為0.08,迭代次數(shù)為2000次。SVM選取徑向基核函數(shù),懲罰系數(shù)為2048,核函數(shù)參數(shù)為0.03。由于是多分類問題,采取1對多的分類策略。10次實驗的平均結(jié)果如表2所示。
縱向?qū)Ρ?種方法可得,本文所提方法在相同訓(xùn)練集上的診斷準(zhǔn)確率優(yōu)于傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)(ANN)和支持向量機(jī)(SVM)方法。橫向?qū)Ρ炔煌?guī)模比例的訓(xùn)練集可得,隨著訓(xùn)練樣本數(shù)增加,平均測試準(zhǔn)確率也隨之升高。
3.5詳細(xì)分類結(jié)果
圖4給出7種故障的詳細(xì)分類結(jié)果,可以看出,第3種類型的故障識別率非常低,這是由于高能量放電和低能量放電故障類型相似,油中溶解氣體分析數(shù)據(jù)具有近似分布,因此導(dǎo)致87%的高能量放電故障被誤分為低能量放電故障。盡管誤分率非常高,但基于相似的故障類型,依然能夠為維修操作提供指導(dǎo)。在其它6種故障上,本文提出方法均能獲得高診斷準(zhǔn)確率。
4結(jié)語
為獲得更高的診斷準(zhǔn)確率,本文提出一種基于改進(jìn)深度信念網(wǎng)絡(luò)(IDBN)的電力變壓器故障診斷方法。通過實驗分析,可得出以下結(jié)論:①基于相同數(shù)據(jù)集,本文提出方法的診斷準(zhǔn)確率優(yōu)于支持向量機(jī)和人工神經(jīng)網(wǎng)絡(luò)兩個經(jīng)典分類方法;②隨著訓(xùn)練樣本集增加,所提方法的性能也隨之提高,因此在解決多分類的故障診斷問題時,需要采集足夠數(shù)量的樣本;③該方法是一種有效、可靠的電力變壓器故障診斷方法。
參考文獻(xiàn):
[1]楊蕾.基于BP人工神經(jīng)網(wǎng)絡(luò)的變壓器故障診斷[J].河南科技,2015,572(9):136-138.
[2]王濤,王曉霞.基于改進(jìn)PSO-BP算法的變壓器故障診斷[J].中國電力,2009,42(5):13-16.
[3]尹娟,王媚,張金江,等.一種自主核優(yōu)化的二值粒子群優(yōu)化多核學(xué)習(xí)支持向量機(jī)變壓器故障診斷方法[J].電網(wǎng)技術(shù),2012,36(7):249-254.
[4]遇炳杰,朱永利.加權(quán)極限學(xué)習(xí)機(jī)在變壓器故障診斷中的應(yīng)用[J].計算機(jī)工程與設(shè)計,2013,34(12):4340-4344.
[5]石鑫,朱永利.深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)在電力變壓器故障診斷中的應(yīng)用[J].電力建設(shè),2015,36(12):116-122.
[6]ZHANGZP,ZHAOJS.Adeepbeliefnetworkbasedfaultdiagnosismodelforcomplexchemicalprocess[J].ComputersandChemicalEngineering,2017.
[7]李輝,石波.基于卷積神經(jīng)網(wǎng)絡(luò)的人臉識別算法[J].軟件導(dǎo)刊,2017,16(3):26-29.
[8][美]鄧力,[美]俞棟.深度學(xué)習(xí):方法與應(yīng)用[M].謝磊,譯.北京:機(jī)械工業(yè)出版社,2015.
[9]黃文堅,唐源.TensorFlow實戰(zhàn)[M].北京:電子工業(yè)出版社,2017.
[10]王福忠,邵淑敏,董鵬飛.變壓器油中氣體組分含量在線監(jiān)測與故障診斷[J].河南理工大學(xué)學(xué)報:自然科學(xué)版,2015,34(3):379-383.
[11]陳志勇,李忠杰.油中溶解氣體分析在變壓器故障診斷中的應(yīng)用[J].變壓器,2011,48(2):64-66.
[12]伊弘博.基于電力變壓器故障特征氣體的預(yù)測方法研究[D].青島:青島科技大學(xué),2015.
(責(zé)任編輯:黃健)