基于PCA降維和優(yōu)化核參數(shù)SVM的電能質(zhì)量擾動分類

劉 剛，李凡光

(上海電力學(xué)院自動化工程學(xué)院，上海 200090)

隨著新型電網(wǎng)技術(shù)的發(fā)展、分布式電源的并網(wǎng)以及用戶對電能質(zhì)量要求的提高，電能質(zhì)量問題受到越來越多的關(guān)注.電力系統(tǒng)規(guī)模的日益龐大以及各種電力電子設(shè)備、沖擊性與非線性負荷的大量投入，導(dǎo)致了電壓驟升、電壓驟降、電壓中斷、諧波、暫態(tài)脈沖、暫態(tài)振蕩與電壓閃變等一系列電能質(zhì)量問題[1，2].對電能質(zhì)量進行監(jiān)測和分析是發(fā)現(xiàn)電能質(zhì)量問題并進行治理和改善的前提條件，而如何從海量的電能質(zhì)量擾動信號中自動提取特征并進行正確分類則是電能質(zhì)量監(jiān)測分析首先要解決的問題.

文獻[3]和文獻[4]介紹了人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于電能質(zhì)量擾動的分類，具有結(jié)構(gòu)簡單、求解能力強等優(yōu)點，但該算法存在局部最優(yōu)、收斂性差、訓(xùn)練時間長等問題.文獻[5]和文獻[6]介紹了模糊邏輯在暫態(tài)電能質(zhì)量擾動分類中的應(yīng)用，通過建立簡單明了的“IF-THEN”知識規(guī)則進行分類識別，但并不是所有的信號(如暫態(tài)振蕩、電壓波動以及諧波)都具有這種簡單的知識規(guī)則，這也就限制了模糊邏輯的應(yīng)用.文獻[7]至文獻[9]介紹了支持向量機在電能質(zhì)量擾動分類中的應(yīng)用，建立在統(tǒng)計學(xué)習(xí)VC維理論和結(jié)構(gòu)風(fēng)險最小原理基礎(chǔ)上的識別方法，有效地解決了小樣本、高維數(shù)、非線性等學(xué)習(xí)問題，并克服了人工神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的合理結(jié)構(gòu)難以確定和存在局部最優(yōu)等缺點，提高了學(xué)習(xí)方法的泛化能力.

本文提出了一種基于主成分分析(Principal Component Analysis，PCA)降維與自適應(yīng)優(yōu)化核參數(shù)的支持向量機(Support Vector Machine，SVM)相結(jié)合的方法，用于電能質(zhì)量擾動的分類.首先根據(jù)電能質(zhì)量擾動的數(shù)學(xué)模型獲取波形和數(shù)據(jù)，然后利用多分辨率小波對數(shù)據(jù)進行分解和重構(gòu)，提取小波的能量差系數(shù)并進行PCA處理，作為特征向量，最后將特征向量輸入到支持向量機分類器中，對電能質(zhì)量擾動進行識別分類.

1 電能質(zhì)量特征提取

1.1 電能質(zhì)量擾動信號數(shù)學(xué)模型的建立

根據(jù)IEEE對各類電能質(zhì)量擾動的定義，本文通過Matlab程序建立正常電壓和電壓驟升、電壓驟降、電壓中斷、瞬時脈沖、諧波、暫態(tài)振蕩、電壓閃變等電能質(zhì)量擾動的數(shù)學(xué)模型，如表1所示.其中T為工頻周期，采樣頻率為6 400 Hz，t1=0.071 s，t2=0.142 s.

表1 電能質(zhì)量擾動模型

在實際電力系統(tǒng)中的電壓信號總是受到不同程度噪音的影響，因此在以上8種電能質(zhì)量擾動信號模型中疊加信噪比RSN=25 dB的高斯隨機白噪音，用以驗證支持向量機算法的魯棒性.含噪的電能質(zhì)量擾動波形如圖1所示.對含噪的電能質(zhì)量擾動信號采樣，共得到200×8組樣本數(shù)據(jù).

1.2 利用小波能量差提取特征向量

多分辨率分析[10](Multi-Resolution Analy-sis，MRA)是將信號通過高、低通濾波器分別得到信號的高、低頻逼近分量，再對低頻逼近分量進行分解，得到次高頻逼近分量和低頻逼近分量，并依此分解下去，最后得到不同尺度下的高頻分量系數(shù)與最低尺度下的低頻分量系數(shù).

根據(jù)MRA，采樣波形按照不同的分辨率標準來分解，這樣每種分解標準下的精確信息的能量計算式為:

式中:Dij——從基準1到基準l的小波分解的小波系數(shù)，Dij=bij，i=1，2，3，…，l;

N——每種標準下系數(shù)的總個數(shù);

Ei——分解標準i對應(yīng)的精確能量.

為了識別不同種類的電能質(zhì)量干擾，要計算每個分解標準下的能量差，這個差值就是Ei與同種標準下相應(yīng)的波形的能量Eref(i)之間的差，即

圖1 電能質(zhì)量擾動波形

考慮到電壓驟升、暫態(tài)脈沖和電壓閃變3種擾動信號，本文選擇濾波器長度系數(shù)為4的db4小波對電壓質(zhì)量擾動信號進行10層分解.根據(jù)電能質(zhì)量信號的小波變換，可以提取擾動信號的能量差系數(shù)作為特征向量.

電能質(zhì)量擾動使信號在各頻段上的能量產(chǎn)生了變化，如圖2所示.波形都是在5～8層之間發(fā)生變化，在7層變化最大，其中暫態(tài)脈沖和電壓閃變的能量差波形是向上凸起的，其他的是向下凹陷的.

不同類型的電能質(zhì)量擾動信號能量差分布也是各不相同，可以據(jù)此提取信號的小波能量差作為特征向量對電能質(zhì)量擾動進行識別分類.

圖2 電能質(zhì)量擾動的能量差系數(shù)波形

2 用PCA對特征向量進行降維

2.1 主成分分析

主成分分析(PCA)是一種掌握事物主要矛盾的統(tǒng)計分析方法，它可以從多元事物中解析出主要影響因素，以揭示事物的本質(zhì)，簡化復(fù)雜的問題.計算主成分的目的是將高維數(shù)據(jù)投影到較低維空間.PCA主要用于數(shù)據(jù)降維，目的是找出那些變化大的元素，即方差大的那些維，而去除那些變化不大的維，從而使留下的都是“精品”，同時減小了計算量，提高了計算速度.通過求取樣本矩陣的協(xié)方差矩陣，求出協(xié)方差矩陣的特征向量，而這些特征向量就可以構(gòu)成這個投影矩陣.

特征向量的選擇取決于協(xié)方差矩陣的特征值的大小.特征值必須按照從大到小循序排列，并根據(jù)特征值大小求出主成分矩陣中的主要元素對原信息的貢獻率，根據(jù)累計貢獻率確定投影矩陣的維數(shù).累計貢獻率的大小反應(yīng)了這種取代的可靠性，累計貢獻率越大，可靠性越大，維數(shù)也就越高;反之也一樣.根據(jù)需要，可選擇合適的累計貢獻率界限，一般要求累計貢獻率達到70%以上.

2.2 主成分分析的降維步驟

假設(shè)Xm×n是一個m×n(m＞n)矩陣，用PCA對矩陣Xm×n進行降維分析，其步驟如下.

(1)計算矩陣Xm×n的樣本的協(xié)方差矩陣Sn×n;

(2)計算協(xié)方差矩陣Sn×n的特征向量e1，e2，…，eN和對應(yīng)的特征值x1，x2，…，xN，特征值按從大到小排序.

(3)根據(jù)特征值大小計算協(xié)方差矩陣的貢獻率以及累計貢獻率，計算公式為:式中:θi——協(xié)方差矩陣Sn×n第i列向量的貢獻率;

Θr——協(xié)方差矩陣前r列矩陣的累計貢獻率.

(4)根據(jù)累計貢獻率Θr的大小(Θr≥70%)確定投影矩陣(或者稱為PCA矩陣)的維數(shù)r，其中r≤n.

(5)取協(xié)方差矩陣的前r維作為投影矩陣Sn×r，將需要降維的矩陣Ys×n與投影矩陣Sn×r相乘，得到降維后的矩陣Ts×r.

2.3 PCA對小波能量差的降維處理

對電能質(zhì)量擾動信號采樣，共得到200×8組樣本數(shù)據(jù).小波變換以后，每種擾動的前100組能量差數(shù)據(jù)組成一個800×10的矩陣X800×10用于訓(xùn)練，后100組能量差數(shù)據(jù)組成一個800×10的矩陣Y800×10用于分類測試.按照上述步驟對X800×10做 PCA 處理，得到X800×10的協(xié)方差矩陣S10×10，特征向量xi，以及特征向量對應(yīng)的貢獻率θi和累積貢獻率Θr，如表2所示.

從表2中可以得出累計貢獻率Θ3=70.98%＞70%，根據(jù)PCA降維的要求，可以取協(xié)方差矩陣的前3維作為投影矩陣S10×3.由式(5)可知，可求出降維后的訓(xùn)練樣本集H800×3=X800×10S10×3，測試樣本集為T800×3=Y800×10S10×3.

表2 協(xié)方差矩陣以及累計貢獻率%

3 用SVM對電能質(zhì)量擾動進行分類

3.1 支持向量機的原理

VAPNIK等人在統(tǒng)計學(xué)習(xí)理論的基礎(chǔ)上發(fā)展了一種新的模式識別方法——支持向量機(SVM)，在解決小樣本、非線性及高維模式識別問題中表現(xiàn)出很大優(yōu)勢.SVM是建立在結(jié)構(gòu)風(fēng)險最小化原則基礎(chǔ)上的機器學(xué)習(xí)算法，其核心思想是同時控制經(jīng)驗風(fēng)險和分類器的容量這兩個參數(shù)，使分類器的分類間隔達到最大，從而使真實風(fēng)險最小.

在利用SVM對樣本進行分類時，可將其分為線性和非線性兩種情況，主要工作是尋找問題的分類超平面和最優(yōu)超平面的判別函數(shù).

在SVM理論中，常用的核函數(shù)有線性核函數(shù)、多項式核函數(shù)、高斯徑向基核函數(shù)和Sigmoid核函數(shù).

線性核函數(shù)表達式為:

多項式核函數(shù)表達式為:

高斯徑向基核函數(shù)表達式為:

Sigmoid核函數(shù)表達式為:

式中:γ＞0;

r，d，σ——核參數(shù).

選擇不同形式的核函數(shù)就表示采用不同的非線性映射φ(·)，將樣本從原空間Rn映射到高維特征空間.

其中，線性核函數(shù)適用于數(shù)據(jù)線性可分的情況，后3種核函數(shù)在數(shù)據(jù)線性不可分的情況下，分類效果較好.在數(shù)據(jù)線性不可分時，高斯徑向基核函數(shù)用得較為普遍，分類效果也較好，本文將其選作核函數(shù).

3.2 參數(shù)的優(yōu)化選取和測試集分類

容錯懲罰系數(shù)c和核參數(shù)的選取對分類結(jié)果有較大影響，因此要對其進行優(yōu)化.在使用libsvm對電能質(zhì)量擾動進行分類時，參數(shù)為g=1/(2σ2)，因此對參數(shù)c和σ2的選取就轉(zhuǎn)變?yōu)閷?shù)c和g的優(yōu)化選取.本文采用交叉驗證[14](K-fold Cross Validation，K-CV)來選擇最佳參數(shù)c和g.

每種擾動的前100組數(shù)據(jù)用于libsvm訓(xùn)練和尋找最優(yōu)參數(shù)，后100組數(shù)據(jù)用于測試分類的準確率.由上文的降維處理可知，PCA降維前，用X800×10訓(xùn)練，用Y800×10測試擾動的分類;PCA 降維后，用H800×3訓(xùn)練，用T800×3測試擾動的分類.因此，參數(shù)的優(yōu)化步驟如下:

(1)粗略地選取c和g的變化范圍:2^(-10)，2^(-9)，…，2^(9)，2^(10);

(2)用網(wǎng)格搜索法得到參數(shù)對(ci，gj)，i=1，2，…，m;j=1，2，…，n;

(3)對不同參數(shù)對進行SVM訓(xùn)練、測試，得到最高分類準確率對應(yīng)的參數(shù)對(cbest，gbest);

(4)根據(jù)粗略的選擇結(jié)果圖再進行精細選擇c和g的變化范圍，尋找最佳的參數(shù)對(cbest，gbest).

首先，將PCA降維前的小波能量差系數(shù)Y800×10作為特征向量進行參數(shù)的優(yōu)化與擾動的分類，其結(jié)果如圖3和表3所示.分類所用的時間為13.408 2 s.

圖3 PCA降維前測試集的實際分類和預(yù)測分類

表3 PCA降維前電能質(zhì)量擾動分類結(jié)果

將小波能量差系數(shù)矩陣用PCA降維處理后形成新的3維矩陣T800×3，將其作為特征向量用于參數(shù)的優(yōu)化選擇和擾動的分類，其結(jié)果如圖4和表4所示.分類所用的時間為5.463 2 s.PCA處理前后分類結(jié)果的比較見表5.

從上面的實驗結(jié)果可知，在PCA降維前，將所有的小波能量差系數(shù)數(shù)據(jù)作為特征向量，用SVM對電能質(zhì)量擾動進行分類的準確率為99.875%，時間為13.408 2 s;在PCA處理后用3維數(shù)據(jù)作為特征向量進行分類，分類準確率為96.250%，時間為5.463 2 s.這說明在PCA降維處理后的準確率滿足要求的同時，分類速度也得到了提高，3維的小波能量差系數(shù)足以代替所有的數(shù)據(jù)對特征向量進行分類.

圖4 PCA降維后測試集的實際分類和預(yù)測分類

表4 PCA降維后電能質(zhì)量擾動分類的結(jié)果

表5 PCA處理前后分類結(jié)果的比較

4 結(jié)語

對電能質(zhì)量擾動分類是在不降低分類準確率的前提下對樣本數(shù)據(jù)進行處理，以提高分類速度.本文使用db4小波對含噪的電能質(zhì)量擾動信號進行10層分解，提取小波的能量差系數(shù)并用PCA進行降維處理，用3維數(shù)據(jù)作為特征向量，提取了信息的主要成分，除去了冗余信息量.通過對PCA降維前后的特征向量進行分類，得知降維前后的分類準確率都滿足要求，而降維后的分類所用的時間遠小于降維前的分類時間，這說明用PCA處理后的再分類，能提高分類速度.

[1]程浩忠，艾芊，張志剛.電能質(zhì)量[M].北京:清華大學(xué)出版社，2006:5-12.

[2]ROGER C D，MARK F M，SURYA S，et al.Electrical power systems quality[M].New York:Mc Graw Hill，2002:1-52.

[3]秦英林，田立軍.基于小波變換能量分布和神經(jīng)網(wǎng)絡(luò)的電能質(zhì)量擾動分類[J].電力自動化設(shè)備，2009，29(7):64-67.

[4]KANITPANYACHAROEAR W， PRERUAEEPREECHACHARN S.Power quality problem classification using wavelet transformation and artificial neural networks[J].IEEE Power Systems Conference and Exposition，2004(3):1 496-1 501.

[5]劉慧芳，陳勇勝，王群，等.基于小波變換和模糊邏輯的暫態(tài)電能質(zhì)量擾動分類[J].電網(wǎng)技術(shù)，2008，32(3):84-87.

[6]HUANG Jiansheng，Thong N D.A neural fuzzy classifier for recognition of power quality disturbances[J].IEEE Trans.on Power Delivery，2002，17(2):609-616.

[7]宋曉芳，陳勁操.基于支持向量機的動態(tài)電能質(zhì)量擾動分類方法[J].電力自動化設(shè)備，2006，26(4):39-41.

[8]占勇，程浩忠，丁屹峰，等.基于S變換的電能質(zhì)量擾動支持向量機分類識別[J].中國電機工程學(xué)報，2005，25(4):51-56.

[9]LIN W M，WU C H，LIN C H，etal.Detectionand classification omultiple power-quality disturbances with wavelet multiclass SVM [J].IEEE Transactions on Power Delivery，2008，23(4):2 575-2 582.

[10]張凱，關(guān)根志，龍望成，等.基于多分辨率標準差及自組織映射網(wǎng)絡(luò)的電能質(zhì)量擾動分類識別[J].電力自動化設(shè)備，2008，28(8):41-45.

[11]史峰，李洋，王小川，等.MATLAB神經(jīng)網(wǎng)絡(luò)30個案例分析[M].北京:北京航空航天大學(xué)出版社，2010:112-132.