基于改進(jìn)多分類概率SVM模型的變壓器故障診斷

,,張作, ,

(1．廣東電網(wǎng)有限責(zé)任公司惠州供電局，廣東 惠州 516000；2.西安交通大學(xué)電氣學(xué)院，陜西 西安 710049)

0 引言

電力變壓器作為電力系統(tǒng)的關(guān)鍵設(shè)備，在電網(wǎng)中起到能量傳輸、分配的功能，其運(yùn)行狀況的健康與否直接關(guān)系到整個(gè)電網(wǎng)的安全性及穩(wěn)定性。如未能及時(shí)發(fā)現(xiàn)電力變壓器的潛在故障，未能及時(shí)安排相應(yīng)的檢修工作，往往會(huì)導(dǎo)致該變壓器所管轄的供電區(qū)域大面積停電，造成巨額的經(jīng)濟(jì)損失[1-2]。因此，深入研究電力變壓器的故障診斷，降低故障的發(fā)生率，避免事故的發(fā)生尤為重要。

大型電力變壓器由于其內(nèi)部結(jié)構(gòu)的復(fù)雜性和故障的多樣性，需要通過(guò)大量的試驗(yàn)進(jìn)行變壓器的狀態(tài)評(píng)估[3]。其中，油中溶解氣體分析(DGA)通過(guò)檢測(cè)氣體的組分和含量來(lái)分析設(shè)備的狀態(tài)，不受外界電磁場(chǎng)的干擾，不影響變壓器的正常運(yùn)行，同時(shí)可實(shí)現(xiàn)實(shí)時(shí)在線監(jiān)測(cè)及時(shí)發(fā)現(xiàn)內(nèi)部潛伏故障，是檢測(cè)電力變壓器內(nèi)部潛在故障的最主要手段之一，且在《電力設(shè)備預(yù)防性試驗(yàn)規(guī)程》中被列為首位[4]。

隨著信息技術(shù)、人工智能、數(shù)據(jù)挖掘領(lǐng)域的發(fā)展，基于油色譜分析的診斷方法的研究從傳統(tǒng)的三比值法、IEC三比值法、Rogers法、大衛(wèi)三角形法等轉(zhuǎn)變?yōu)閷＜蚁到y(tǒng)、粗糙集算法、人工神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等智能信息處理算法[5-6]。其中，支持向量機(jī)基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則構(gòu)建分類器，能夠較好地解決小樣本、高維度、非線性數(shù)據(jù)集的模式識(shí)別問(wèn)題。文獻(xiàn)[7]利用PCA和KICA對(duì)變壓器油色譜數(shù)據(jù)進(jìn)一步特征提取，并利用支持向量機(jī)取得良好的診斷效果。文獻(xiàn)[8]運(yùn)用多分類概率輸出的方法，通過(guò)支持向量機(jī)得到發(fā)生不同類型故障的概率，進(jìn)一步降低誤診斷的發(fā)生。

在此，結(jié)合了油中溶解氣體分析技術(shù)和優(yōu)化多分類支持向量機(jī)，通過(guò)近鄰算法優(yōu)化多分類拓?fù)浣Y(jié)構(gòu)，降低模型復(fù)雜度及構(gòu)建時(shí)間，再利用一對(duì)一(OVO)及優(yōu)化后的一對(duì)多(OVR)結(jié)合的方式實(shí)現(xiàn)電力變壓器多類故障診斷及概率輸出?？朔嗽袉我欢喾诸愃惴ê蛡鹘y(tǒng)診斷算法的不足，有效提高了診斷的準(zhǔn)確率和結(jié)論的可靠性。

1 多分類概率輸出支持向量機(jī)

1.1 SVM概率輸出

在二分類問(wèn)題中，支持向量機(jī)(SVM)利用核函數(shù)將低維度數(shù)據(jù)映射到高維空間，并基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則在高維空間內(nèi)尋找最優(yōu)分類超平面，ωTφ(x)+b=0，其中ω為權(quán)值向量，b為偏置量，盡可能地將2類樣本分隔在超平面的兩側(cè)，使得分類的間距最大，提高分類器的抗干擾能力。SVM決策函數(shù)輸出形式為：

(1)

x為輸入的待分類樣本；xi為訓(xùn)練集內(nèi)的樣本數(shù)據(jù)；y∈(-1,1)為對(duì)應(yīng)訓(xùn)練集樣本xi的標(biāo)簽值；ai為拉格朗日乘子；k(xi,x)為核函數(shù)；f(x)為決策函數(shù)輸出的確定值。傳統(tǒng)的支持向量機(jī)最終基于階躍函數(shù)y=sign(f(x))，輸出待分類樣本的分類結(jié)果y。

在此，采用Platt[9]提出二分類SVM概率輸出方法，利用Sigmoid函數(shù)將傳統(tǒng)支持向量機(jī)的決策函數(shù)輸出值f(x)映射到[0,1]區(qū)間內(nèi)，輸出待分類樣本隸屬概率值。具體概率輸出式為：

P(y=1|x)≈PA,B(f(x))=

(2)

A，B為Sigmoid函數(shù)的待擬合參數(shù)，可以利用訓(xùn)練集樣本的決策函數(shù)輸出及標(biāo)簽值進(jìn)行極大似然估計(jì)獲取。定義訓(xùn)練集為(f(xi),ti)，求解模型為：

(3)

N+為訓(xùn)練集樣本中標(biāo)簽為yi=+1的樣本個(gè)數(shù)；N-為訓(xùn)練集樣本中標(biāo)簽為yi=-1的樣本個(gè)數(shù)。

求解上述模型最優(yōu)解時(shí)，可以利用牛頓法，F(xiàn)(A,B)的梯度矩陣和Hessian矩陣分別為：

(4)

H(F)=

(5)

獲取參數(shù)A,B值之后，即可通過(guò)概率輸出式求解待分類樣本隸屬于某一類的概率估計(jì)值。

1.2 多分類SVM

SVM分類器最初的設(shè)計(jì)就是為了解決二分類問(wèn)題，當(dāng)處理多類問(wèn)題時(shí)，需要構(gòu)造合適的多類分類器。目前，構(gòu)建多分類SVM主要通過(guò)組合多個(gè)二分類SVM來(lái)實(shí)現(xiàn)多類分類器的功能，常用的方法有OVR(one-versus-rest)和OVO(one-versus-one)2種[10]。

OVR是通過(guò)將多個(gè)類別轉(zhuǎn)化為2類實(shí)現(xiàn)多分類功能。假設(shè)有K種不同類別的樣本集，只需要訓(xùn)練K個(gè)二分類SVM。構(gòu)造每個(gè)二分類SVM時(shí)，將其中某個(gè)類別的樣本標(biāo)記為一類，將剩余的其他樣本都?xì)w為另一類。測(cè)試未知樣本時(shí)，結(jié)合概率輸出，獲取該樣本屬于各類的概率值，選取概率最大的類別作為輸出。

ClassOVR=argmaxi=1,…,kpi

(6)

OVO是通過(guò)每2類構(gòu)成1個(gè)SVM子分類器實(shí)現(xiàn)多分類功能。同樣假設(shè)有K種不同的類別，兩兩訓(xùn)練，一共得到K×(K-1)/2個(gè)SVM子分類器。測(cè)試未知樣本時(shí)，結(jié)合概率輸出，每個(gè)SVM子分類器都能輸出該樣本隸屬各類的概率，得到1個(gè)K階的概率矩陣G：

(7)

rij代表待測(cè)試樣本在第i類和第j類構(gòu)成的二分類SVM中，隸屬于第i類的概率值；rij∈[0,1]，rij+rji=1。最后利用加權(quán)投票策略，輸出的樣本類別為：

ClassOVO=argmaxi=1,…,k∑1≤j≠i≤krij

(8)

2 改進(jìn)多分類概率SVM模型

2.1 KNN算法

近鄰算法(KNN)是由Cover等人提出的一種基于不同對(duì)象間的特征值距離對(duì)目標(biāo)對(duì)象進(jìn)行有效分類的非參數(shù)估計(jì)算法[11-13]。其核心思想是：同類樣本擁有相同的特征往往會(huì)表征出相似的數(shù)據(jù)結(jié)果，因此通過(guò)計(jì)算未知樣本與已知樣本之間的特征向量相似度，選取k個(gè)相似度最接近的已知樣本，依據(jù)其中占優(yōu)的類別，即可對(duì)未知樣本進(jìn)行類別的判定。算法具體流程如下：

a.輸入未知樣本類別的數(shù)據(jù)集(記為測(cè)試集)及已知樣本類別的數(shù)據(jù)集(記為訓(xùn)練集)，假設(shè)測(cè)試集有M個(gè)樣本數(shù)據(jù)，訓(xùn)練集有N個(gè)樣本數(shù)據(jù)。

b.分別計(jì)算測(cè)試集未知樣本與訓(xùn)練集已知樣本之間的特征向量相似度，得到一個(gè)N×M的相似度矩陣。其中，每列代表某個(gè)未知樣本與所有已知樣本的相似度向量。

c.每列相似度向量均按相似度的遞減關(guān)系進(jìn)行排序。

d.根據(jù)相似度數(shù)值分布及樣本特性選定合適的k值。

e.依據(jù)排序結(jié)果，按列選取前k個(gè)最大相似度對(duì)應(yīng)的已知樣本，即每個(gè)未知樣本對(duì)應(yīng)k個(gè)相似度最大的已知樣本。

f.統(tǒng)計(jì)每個(gè)未知樣本的k個(gè)已知樣本所處類別的出現(xiàn)次數(shù)。

g.按列返回前k個(gè)已知樣本中出現(xiàn)頻率最高的類別，得到M維行向量，其中的元素代表著對(duì)應(yīng)未知樣本的判定類別。

2.2 多分類策略

OVO-SVMs分類器通過(guò)對(duì)概率矩陣G的每行元素進(jìn)行相加，獲得的累加值來(lái)表征樣本屬于各類的程度，選取最大累計(jì)值對(duì)應(yīng)的類別作為樣本輸出類別。其中，每個(gè)元素rij代表待測(cè)試樣本在第i類和第j類構(gòu)成的二分類SVM中，隸屬于第i類的概率值。假設(shè)一個(gè)樣本屬于第c類(c≠i≠j)，將其作為OVO-SVMs分類器的輸入進(jìn)行類別判定，得到的概率矩陣中，rij的數(shù)值是沒(méi)有任何意義，因?yàn)闃颖颈旧砭筒粚儆趇，j類。理想情況下，期望得到rij≈0.5，這表明該樣本在第i類和第j類構(gòu)成的二分類SVM中分類不明確，得到該樣本既不屬于第i類，也不屬于第j類的結(jié)論。但是實(shí)際上，rij的值是多變的，并不會(huì)一直保持在0.5的鄰域中，而它的結(jié)果會(huì)累加在最終的類別判定式(8)中，造成錯(cuò)誤的輸出。因此，期望對(duì)概率矩陣中的每個(gè)元素乘上一個(gè)權(quán)重系數(shù)qij來(lái)修正輸出的概率值，從而減少上述中的誤分類情況，提高OVO-SVMs分類器的分類準(zhǔn)確率。理想情況下，若樣本類別屬于第i類或第j類，qij≈1，否則qij≈0。由于事先并不能得知樣本的真實(shí)類別，所以采用qij=max(qi,qj)來(lái)估計(jì)未知樣本屬于第i類或第j類的概率，此時(shí)輸出的樣本類別為：

ClassOVO-OVR=argmaxi=1,…,k∑1≤j≠i≤krij·qij

(9)

qij=max(qi,qj)

(10)

ClassOVO-impOVR=argmaxi=1,…,k∑1≤j≠i≤krij·Qij

(11)

Qij=max(Qi,Qj)

(12)

Qi為第i類與其他所有類構(gòu)成的改進(jìn)OVR-SVMs分類器的概率輸出。

2.3 改進(jìn)多分類概率SVM模型

運(yùn)用改進(jìn)多分類方法對(duì)K種不同類別的樣本集進(jìn)行識(shí)別分類，需要構(gòu)造K×(K-1)/2個(gè)OVO-SVMs及K×M個(gè)OVR-SVMs。而電力變壓器的故障涉及面廣且類型較多，如果將所有故障一并作為輸入進(jìn)行訓(xùn)練，需要構(gòu)造大量的SVM，花費(fèi)大量的訓(xùn)練時(shí)間及測(cè)試時(shí)間。因此，首先采用有向無(wú)環(huán)圖，對(duì)變壓器的故障進(jìn)行歸類劃分，具體劃分如圖1所示。

圖1 變壓器故障結(jié)構(gòu)樹(shù)

變壓器狀態(tài)大體分成正常、過(guò)熱、放電、多故障并存4個(gè)大類，針對(duì)不同的大類再進(jìn)行子故障的細(xì)分。在此，采用KNN算法對(duì)變壓器故障的4個(gè)大類進(jìn)行初步劃分，選取近鄰中出現(xiàn)頻率較高的2類，再利用改進(jìn)多分類方法對(duì)2個(gè)大類下的所有子故障進(jìn)行多類別細(xì)分，輸出隸屬各子故障的概率。經(jīng)過(guò)KNN算法預(yù)分類，篩選去除部分故障大類，大大減少構(gòu)建多分類器的時(shí)間，同時(shí)規(guī)避了多分類器出現(xiàn)誤診的風(fēng)險(xiǎn)，提高了多分類器分類的準(zhǔn)確率及穩(wěn)定性。

由于電力變壓器眾多物理和化學(xué)檢測(cè)手段中，油中溶解氣體分析通過(guò)分析氣體的組分和含量來(lái)檢測(cè)設(shè)備狀態(tài)，能夠較好地反映出變壓器故障性質(zhì)及惡劣程度，及時(shí)發(fā)現(xiàn)內(nèi)部潛伏故障。因此，采用變壓器油色譜數(shù)據(jù)作為模型的輸入，根據(jù)油中氣體組分含量，進(jìn)行變壓器故障診斷。由于油中特征氣體含量大小差異過(guò)大，為了減少模型的計(jì)算難度及誤差，首先對(duì)輸入數(shù)據(jù)進(jìn)行如下歸一化處理：

(13)

xgyh代表歸一化后氣體含量；x代表色譜分析檢測(cè)到的氣體真實(shí)含量；xmin代表氣體含量的最小值；xmax代表氣體含量的最大值；Llow為設(shè)定的氣體含量歸一化后的下界；Lup為設(shè)定的氣體含量歸一化后的上界。為了方便計(jì)算，設(shè)定Llow=0，Lup=1，此時(shí)xgyh∈[0,1]。具體診斷流程如圖2所示。

圖2 變壓器故障診斷流程

3 試驗(yàn)結(jié)果與分析

本文從中國(guó)南方電網(wǎng)某市供電局中收集得到226組帶標(biāo)簽的變壓器油色譜數(shù)據(jù)，其中包含186組8種典型故障，各類故障的樣本數(shù)如表1所示。由于獲取的變壓器各類故障樣本數(shù)較少，按照訓(xùn)練集樣本數(shù)比測(cè)試集樣本數(shù)等于1∶1的標(biāo)準(zhǔn)，分別從每個(gè)類別中選取一定數(shù)量的訓(xùn)練集樣本及測(cè)試集樣本，用于構(gòu)建OVO-SVMs及改進(jìn)的OVR-SVMs模型。整合所有訓(xùn)練集作為KNN的已知樣本集。同時(shí)，選取油中溶解的H2，CH4，C2H6，C2H4和C2H2作為氣體特征參數(shù)，對(duì)每個(gè)測(cè)試集樣本進(jìn)行逐一分類，并比較IEC三比值法、OVO-SVMs多分類法及本文提出的多分類方法的診斷結(jié)果。

表1 變壓器故障樣本集

在KNN算法預(yù)分類的過(guò)程中，設(shè)定K=12，預(yù)選取出現(xiàn)頻率最大的2類故障。如果樣本的真實(shí)故障類別屬于KNN算法預(yù)分類結(jié)果的2種故障大類，則判定KNN算法有效地剔除了無(wú)關(guān)故障類，克服后續(xù)模型診斷耗時(shí)長(zhǎng)、高復(fù)雜的缺點(diǎn)，起到輔助診斷的作用，那么認(rèn)為KNN算法分類結(jié)果正確。KNN算法的預(yù)分類結(jié)果如表2所示。KNN算法對(duì)于故障和正常的分類達(dá)到100%的效果，對(duì)各大類故障也都有較高的識(shí)別率。

表2 KNN算法的預(yù)分類結(jié)果

本文選取徑向基函數(shù)作為支持向量機(jī)的核函數(shù)，其中核函數(shù)參數(shù)及懲罰因子的整定，通過(guò)網(wǎng)格搜索法[1],對(duì)訓(xùn)練集中的樣本進(jìn)行留一交叉驗(yàn)證，選取準(zhǔn)確率最高的一組參數(shù)。核函數(shù)參數(shù)取值范圍為10-3,10-2,…,102,103；懲罰因子取值范圍為10-3,10-2,…,102,103。測(cè)試集樣本在IEC三比值法、OVO-SVMs和本文方法3種不同方法下的變壓器故障診斷結(jié)果比較，如表3所示，其中包含各種子故障的判正數(shù)及正確率。

表3 IEC三比值法、OVO-SVMs和本文方法的

注：“—”代表IEC三比值法無(wú)法識(shí)別該故障類型。由于OVO-SVMs和本文方法需要總數(shù)據(jù)集的一半作為訓(xùn)練集，所以測(cè)試集樣本僅有IEC三比值法的測(cè)試樣本的半數(shù)。

由表3可知，相比較其他2種方法，本文提出的近鄰與改進(jìn)多分類結(jié)合的方法整體診斷效果最佳。與IEC三比值法相比，本文的方法不但在多個(gè)子故障的分類正確率方面有所提高，而且不受編碼和故障類型的限制。

基于3種不同方法的變壓器故障診斷的相關(guān)案例，如表4所示。表4中，IEC三比值法無(wú)法對(duì)“0,1,1”的編碼有效識(shí)別，而本文方法能夠正確地識(shí)別及診斷該故障類型。同時(shí)，相比IEC三比值法無(wú)法對(duì)高能放電進(jìn)行識(shí)別，本文方法卻對(duì)高能量放電及高能放電兼過(guò)熱這2種故障的診斷效果良好，診斷正確率分別達(dá)到90.5%和100%。

與傳統(tǒng)的OVO-SVMs對(duì)比，本文利用改進(jìn)OVR算法的輸出對(duì)概率矩陣G的每個(gè)元素進(jìn)行修正處理，強(qiáng)化與樣本故障類別相關(guān)的分類器的概率輸出結(jié)果，對(duì)其余分類器輸出結(jié)果進(jìn)行弱化處理，進(jìn)一步提高了診斷準(zhǔn)確率。

除此之外，以本文的9個(gè)故障類別(含正常狀態(tài))為例，針對(duì)每個(gè)未知樣本的診斷，改進(jìn)多分類算法需要經(jīng)過(guò)45個(gè)SVM進(jìn)行分類，而引入KNN算法進(jìn)行預(yù)分類后，最多需要21個(gè)SVM進(jìn)行識(shí)別，最少只需6個(gè)SVM即可完成診斷工作，大幅度提高變壓器故障診斷的效率。

表4 IEC三比值法、OVO-SVMs和本文方法的變壓器故障診斷實(shí)例

注：“—”代表IEC三比值法無(wú)法識(shí)別該編碼。

4 結(jié)束語(yǔ)

結(jié)合KNN算法和多分類策略結(jié)合的方法對(duì)變壓器故障進(jìn)行診斷：以O(shè)VO-SVMs分類器為基礎(chǔ)，克服了IEC三比值法存在編碼缺失等問(wèn)題，補(bǔ)充了對(duì)高能放電和高能放電兼過(guò)熱2種故障的診斷；以改進(jìn)OVR-SVMs分類器的概率輸出作為概率矩陣G中各元素的權(quán)重系數(shù)，對(duì)概率矩陣G進(jìn)行更新、修正，合理剔除無(wú)關(guān)類別訓(xùn)練成的支持向量機(jī)的概率輸出，保留有效支持向量機(jī)的概率輸出，提高故障診斷正確率及可靠性；考慮到針對(duì)變壓器油色譜在線監(jiān)測(cè)系統(tǒng)的故障診斷實(shí)時(shí)性，采用有向無(wú)環(huán)圖的形式先對(duì)變壓器故障進(jìn)行歸類，再利用KNN算法對(duì)故障大類進(jìn)行預(yù)分類，縮小故障所屬類別，降低了診斷模型的復(fù)雜性，提高了改進(jìn)多分類算法的運(yùn)算速率，整體診斷速率可提高2～9倍。從整體診斷效果來(lái)看，本文提出的方法與IEC三比值法和傳統(tǒng)的多分類支持向量機(jī)相比，在故障診斷范圍、故障診斷正確率以及故障診斷效率上均有所提高。

參考文獻(xiàn)：

[1] 張東波,徐瑜,王耀南.主動(dòng)差異學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)集成方法在變壓器DGA故障診斷中的應(yīng)用[J].中國(guó)電機(jī)工程學(xué)報(bào),2010,30(22):64-70.

[2] Yang Q, Su P, Chen Y.Comparison of impulse wave and sweep frequency response analysis methods for diagnosis of transformer winding faults [J].Energies,2017,10(4):431.

[3] 潘翀，陳偉根，云玉新，等．基于遺傳算法進(jìn)化小波神經(jīng)網(wǎng)絡(luò)的電力變壓器故障診斷[J].電力系統(tǒng)自動(dòng)化,2007,31(13):88-92．

[4] 郭創(chuàng)新,朱承治,張琳,等．應(yīng)用多分類多核學(xué)習(xí)支持向量機(jī)的變壓器故障診斷方法[J]．中國(guó)電機(jī)工程學(xué)報(bào),2010,30(13):128-134．

[5] 鄭蕊蕊,趙繼印,趙婷婷,等．基于遺傳支持向量機(jī)和灰色人工免疫算法的電力變壓器故障診斷[J]．中國(guó)電機(jī)工程學(xué)報(bào),2011,31(7):56-63．

[6] 胡青,孫才新,杜林,等．核主成分分析與隨機(jī)森林相結(jié)合的變壓器故障診斷方法[J]．高電壓技術(shù),2010,36(7):1725-1729.

[7] 唐勇波,桂衛(wèi)華,彭濤,等.PCA和KICA特征提取的變壓器故障診斷模型[J].高電壓技術(shù),2014,40(2):557-563.

[8] 畢建權(quán),鹿鳴明,郭創(chuàng)新,等.一種基于多分類概率輸出的變壓器故障診斷方法[J].電力系統(tǒng)自動(dòng)化,2015,39(5):88-93.

[9] Platt J．Probabilistic outputs for support vector machines and comparisons to regularized likelihood methods [J]．Advances in Large Margin Classifiers,1999,10(3):61-74．

[10] Chmielnicki W, Stapor K. Using the one-versus-rest strategy with samples balancing to improve pairwise coupling classification[J]. International Journal of Applied Mathematics and Computer Science, 2016,26(1):191-201.

[11] 劉凡,張昀,姚曉,等.基于K近鄰算法的換流變壓器局部放電模式識(shí)別[J].電力自動(dòng)化設(shè)備,2013,33(5):89-93.

[12] Galar M, Fernández A, Barrenechea E, et al.Dynamic classifier selection for one-vs-one strategy: avoiding non-competent classifiers[J]. Pattern Recognition, 2013, 46(12): 3412-3424.

[13] 田質(zhì)廣,張慧芬．基于遺傳聚類算法的油中溶解氣體分析電力變壓器故障診斷[J]．電力自動(dòng)化設(shè)備,2008,28(2):15-18．