基于深度自編碼網(wǎng)絡(luò)的電力變壓器故障診斷

石 鑫 ，朱永利，寧曉光 ，王劉旺，孫 崗 ，陳國(guó)強(qiáng)

（1.華北電力大學(xué) 控制與計(jì)算機(jī)工程學(xué)院，河北 保定 071003；2.國(guó)家電網(wǎng)公司，北京 100031）

0 引言

電力變壓器是電力系統(tǒng)中最重要的設(shè)備之一，它的運(yùn)行狀況直接關(guān)系到整個(gè)電力系統(tǒng)的安全穩(wěn)定運(yùn)行，一旦發(fā)生故障必將引起局部甚至大面積的停電，這勢(shì)必會(huì)造成巨大的經(jīng)濟(jì)損失。隨著傳感器技術(shù)、微電子技術(shù)、計(jì)算機(jī)技術(shù)及應(yīng)用數(shù)學(xué)的高速發(fā)展，對(duì)電力變壓器實(shí)施在線監(jiān)測(cè)已經(jīng)成為可能，而如何利用在線監(jiān)測(cè)數(shù)據(jù)進(jìn)行準(zhǔn)確的故障診斷變得尤為重要。

電力變壓器油中溶解氣體分析（DGA）不受外界電場(chǎng)和磁場(chǎng)的影響，易于帶電和在線實(shí)現(xiàn)，已經(jīng)成為油浸式變壓器故障診斷的一種有效方法［1-4］，并在此基礎(chǔ)上形成了特征氣體法、三比值法和Rogers法等 傳 統(tǒng) 方 法［5］，以及人工神經(jīng)網(wǎng)絡(luò)（ANN）［6-7］法、支持向量機(jī)（SVM）［8-9］法和極限學(xué)習(xí)機(jī)（ELM）［10］法等人工智能方法。然而傳統(tǒng)算法存在缺編碼、編碼界限過(guò)于絕對(duì)等主要缺陷［5］；ANN法存在著收斂速度慢、易產(chǎn)生震蕩、易陷入局部最優(yōu)等問(wèn)題［6-7］；SVM法本質(zhì)上屬于二分類(lèi)算法，在多分類(lèi)問(wèn)題上存在構(gòu)造學(xué)習(xí)器及分類(lèi)效率低的缺點(diǎn)，而且核函數(shù)的選擇和參數(shù)的確定比較困難［8-9］；ELM法訓(xùn)練速度快，但是穩(wěn)定性比較差［10］。

2006年，Hinton教授提出了深度學(xué)習(xí)DL（Deep Learning）的思想，開(kāi)辟了深度學(xué)習(xí)在學(xué)術(shù)界和工業(yè)界應(yīng)用的浪潮［11］。深度自編碼網(wǎng)絡(luò)DAEN（Deep Auto-Encoder Network）是深度學(xué)習(xí)方法的一種，它通過(guò)構(gòu)建具有多隱含層的機(jī)器學(xué)習(xí)模型對(duì)訓(xùn)練樣本進(jìn)行逐層特征變換，將樣本在原空間的特征表示變換到一個(gè)新特征空間，從而使分類(lèi)更加容易，最終提升分類(lèi)的準(zhǔn)確性。與人工規(guī)則構(gòu)造特征的方法相比，該方法更能夠刻畫(huà)數(shù)據(jù)的豐富內(nèi)在信息，是目前國(guó)際上機(jī)器學(xué)習(xí)研究的熱點(diǎn)領(lǐng)域［12-16］，但尚未見(jiàn)其應(yīng)用于變壓器故障診斷方面。

鑒于此，本文首先構(gòu)建了分類(lèi)深度自編碼網(wǎng)絡(luò)模型，并用典型的分類(lèi)數(shù)據(jù)集對(duì)其分類(lèi)性能進(jìn)行了分析驗(yàn)證。然后，結(jié)合電力變壓器在線監(jiān)測(cè)油色譜數(shù)據(jù)特征及故障類(lèi)型，提出了基于分類(lèi)深度自編碼網(wǎng)絡(luò) CDAEN（Classified Deep Auto-Encoder Network）的變壓器故障診斷新方法。該方法利用工程現(xiàn)場(chǎng)的大量無(wú)標(biāo)簽樣本進(jìn)行預(yù)訓(xùn)練，優(yōu)化模型參數(shù)，加之少量有標(biāo)簽樣本進(jìn)行微調(diào)，可以有效解決變壓器故障分類(lèi)問(wèn)題，提高故障診斷準(zhǔn)確率。最后，通過(guò)工程實(shí)例對(duì)該方法進(jìn)行了驗(yàn)證，并與基于BP神經(jīng)網(wǎng)絡(luò)（BPNN）和SVM的故障診斷方法進(jìn)行了對(duì)比分析。

1 深度自編碼網(wǎng)絡(luò)

深度自編碼網(wǎng)絡(luò)也稱棧式自編碼網(wǎng)絡(luò)，它是由多層自編碼器AE（Auto-Encoder）堆疊而成的神經(jīng)網(wǎng)絡(luò)，結(jié)構(gòu)上與傳統(tǒng)多層神經(jīng)網(wǎng)絡(luò)沒(méi)有區(qū)別，訓(xùn)練時(shí)采用逐層訓(xùn)練的方法，即將前一層的輸出作為下一層的輸入依次訓(xùn)練，有效解決了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法不適用于多層網(wǎng)絡(luò)訓(xùn)練的問(wèn)題，整個(gè)深度自編碼網(wǎng)絡(luò)的訓(xùn)練分為預(yù)訓(xùn)練和微調(diào)2個(gè)階段。

1.1 預(yù)訓(xùn)練

預(yù)訓(xùn)練的過(guò)程實(shí)質(zhì)上就是初始化網(wǎng)絡(luò)參數(shù)的過(guò)程，采用逐層無(wú)監(jiān)督特征優(yōu)化算法，需要初始化的網(wǎng)絡(luò)參數(shù)是層與層之間的連接權(quán)值及各層神經(jīng)元的偏置值。以1層AE為例，其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

1個(gè)基本的AE可視為1個(gè)3層的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，即輸入層、隱含層和輸出層，其中輸出層與輸入層規(guī)模相同。從輸入層到隱含層是編碼過(guò)程，從隱含層到輸出層是解碼過(guò)程。設(shè)f和g分別表示編碼和解碼函數(shù)，則2個(gè)過(guò)程可分別表示為式（1）和式（2）：

其中，Sf和Sg通常取為sigmoid函數(shù)；W為輸入層與隱含層之間的權(quán)值矩陣，為隱含層與輸出層之間的權(quán)值矩陣，通常取為WT；p和q分別為隱含層和輸出層上的偏置向量。為了下文表示方便，將AE的參數(shù)記為 θ，即 θ=｛W，p，q｝。

圖1 AE結(jié)構(gòu)Fig.1 Structure of AE

假設(shè)訓(xùn)練樣本集 S ＝｛x（1），x（2），…，x（N）｝，預(yù)訓(xùn)練AE的過(guò)程實(shí)質(zhì)上就是利用S對(duì)參數(shù)θ進(jìn)行訓(xùn)練的過(guò)程。為此，首先需定義1個(gè)訓(xùn)練目標(biāo)，即解碼后的y應(yīng)與輸入x盡可能地接近，這種接近程度可以通過(guò)重構(gòu)誤差函數(shù) L（x，y）來(lái)刻畫(huà)，L（x，y）定義為：

基于重構(gòu)誤差函數(shù)，針對(duì)訓(xùn)練數(shù)據(jù)集S，損失函數(shù)如式（4）所示。然后利用梯度下降法對(duì)損失函數(shù)進(jìn)行極小化，就可以得到該層AE參數(shù)θ。

一層AE訓(xùn)練完成之后，將其隱含層單元的輸出向量作為下一層的輸入，對(duì)下一層AE進(jìn)行訓(xùn)練，依次迭代，直至最終完成整個(gè)深度自編碼網(wǎng)絡(luò)的訓(xùn)練。

1.2 微調(diào)

由上述預(yù)訓(xùn)練過(guò)程可知，在訓(xùn)練各層AE參數(shù)時(shí)，會(huì)固定其他層參數(shù)保持不變。因此，如果想得到更好的結(jié)果，可以在預(yù)訓(xùn)練完成之后，利用有標(biāo)簽數(shù)據(jù)集，通過(guò)BP算法同時(shí)調(diào)整整個(gè)深度自編碼網(wǎng)絡(luò)的所有層參數(shù)以達(dá)到全局最優(yōu)，這個(gè)過(guò)程即是微調(diào)。預(yù)訓(xùn)練完成之后的微調(diào)會(huì)比直接在隨機(jī)化的初始權(quán)重上使用BP算法訓(xùn)練效果要好，因?yàn)楹笳咄紫萑刖植孔顑?yōu)。

2 分類(lèi)深度自編碼網(wǎng)絡(luò)

2.1 分類(lèi)深度自編碼網(wǎng)絡(luò)模型

本文構(gòu)建了分類(lèi)深度自編碼網(wǎng)絡(luò)模型，它的前部由若干層AE堆疊而成，最后增加1層代表期望輸出變量的分類(lèi)層，框架如圖2所示。這里的分類(lèi)器通常選用Softmax分類(lèi)器，它是Logistic分類(lèi)器在多分類(lèi)問(wèn)題上的推廣，在給出分類(lèi)結(jié)果時(shí)還會(huì)給出結(jié)果的概率，適用于非線性多分類(lèi)問(wèn)題。

圖2 分類(lèi)深度自編碼網(wǎng)絡(luò)模型Fig.2 CDAEN model

分類(lèi)深度自編碼網(wǎng)絡(luò)用于多分類(lèi)問(wèn)題時(shí)，訓(xùn)練過(guò)程與深度自編碼網(wǎng)絡(luò)一樣，分為預(yù)訓(xùn)練和微調(diào)2個(gè)階段。預(yù)訓(xùn)練主要是采用無(wú)標(biāo)簽樣本或去標(biāo)簽樣本作為網(wǎng)絡(luò)的輸入，通過(guò)BP算法完成前部若干層AE參數(shù)的初始化；微調(diào)則是通過(guò)標(biāo)簽樣本對(duì)包括分類(lèi)層在內(nèi)的整個(gè)網(wǎng)絡(luò)參數(shù)進(jìn)行調(diào)整，使得網(wǎng)絡(luò)的判別性能達(dá)到最優(yōu)。

2.2 分類(lèi)深度自編碼網(wǎng)絡(luò)分類(lèi)性能測(cè)試

采用本文構(gòu)建的深度自編碼網(wǎng)絡(luò)對(duì)典型分類(lèi)數(shù)據(jù)集 Iris、Synthetic、Fourclass、Diabetes 進(jìn)行分類(lèi)，網(wǎng)絡(luò)參數(shù)W、a、b初始化為服從高斯分布的隨機(jī)較小數(shù)值，初始學(xué)習(xí)速率p設(shè)為0.1，網(wǎng)絡(luò)更新速率系數(shù)設(shè)為0.01。

表1給出了分類(lèi)深度自編碼網(wǎng)絡(luò)對(duì)不同數(shù)據(jù)集的分類(lèi)情況。從表1中可以看出，分類(lèi)深度自編碼網(wǎng)絡(luò)對(duì)不同數(shù)據(jù)集均具有較高的平均分類(lèi)正確率，表明分類(lèi)深度自編碼網(wǎng)絡(luò)模型適用于問(wèn)題的分類(lèi)。

表1 CDAEN對(duì)不同數(shù)據(jù)集分類(lèi)情況Table 1 Classification by CDAEN for different datasets

3 基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法

3.1 選取樣本數(shù)據(jù)

為避免樣本集偏斜，同時(shí)又能保證得到足夠多的樣本，可以選取多個(gè)工程現(xiàn)場(chǎng)記錄的相同型號(hào)變壓器發(fā)生故障前后較短一段時(shí)間內(nèi)的油色譜在線監(jiān)測(cè)數(shù)據(jù)，這些數(shù)據(jù)均是無(wú)標(biāo)簽數(shù)據(jù)，包含正常數(shù)據(jù)和故障類(lèi)或近似故障類(lèi)數(shù)據(jù)，可以用作預(yù)訓(xùn)練樣本。對(duì)于微調(diào)階段所采用的少量標(biāo)簽樣本，可以通過(guò)搜集相同型號(hào)故障變壓器測(cè)試實(shí)驗(yàn)數(shù)據(jù)獲得。

3.2 選取特征變量

根據(jù)工程現(xiàn)場(chǎng)油色譜在線監(jiān)測(cè)數(shù)據(jù)特點(diǎn)，選取H2、CH4、C2H6、C2H4、C2H2這 5 種特征氣體 的 含量值作為分類(lèi)深度自編碼網(wǎng)絡(luò)的輸入。由于油中溶解氣體分析數(shù)據(jù)差異比較大，為了減小輸入數(shù)據(jù)的差值，降低計(jì)算誤差，采用式（5）對(duì)各氣體含量進(jìn)行標(biāo)準(zhǔn)化處理，以提高診斷正確率。

其中，為標(biāo)準(zhǔn)化后氣體的含量值（i=H2，CH4，C2H6，C2H4，C2H2）；xo為氣體原始含量值；xmean為訓(xùn)練集或測(cè)試集x中該類(lèi)氣體含量的均值；xstd為x中該類(lèi)氣體含量的標(biāo)準(zhǔn)差值。

3.3 變壓器狀態(tài)編碼

變壓器故障診斷是多分類(lèi)任務(wù)，診斷結(jié)果可以分為正常、中低溫過(guò)熱、高溫過(guò)熱、局部放電、低能放電和高能放電6種類(lèi)型，下面依次對(duì)其進(jìn)行編碼，如表2所示。

表2 變壓器狀態(tài)編碼Table 2 Status codes of transformer

3.4 基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷模型

基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷模型見(jiàn)圖3，模型的輸入為油色譜在線監(jiān)測(cè)的5種特征氣體含量值（經(jīng)標(biāo)準(zhǔn)化處理），最終經(jīng)頂層Softmax分類(lèi)器后的輸出為相應(yīng)樣本分別屬于不同狀態(tài)的概率值，概率值最大的狀態(tài)即為診斷的最終結(jié)果。

圖3 基于CDAEN的變壓器故障診斷模型Fig.3 Transformer fault diagnosis model based on CDAEN

3.5 基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法的實(shí)現(xiàn)

基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法實(shí)現(xiàn)過(guò)程如下：

a.選取樣本數(shù)據(jù)和特征變量，對(duì)樣本數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理后按一定比例將其分為訓(xùn)練集和測(cè)試集；

b.對(duì)變壓器狀態(tài)進(jìn)行編碼；

c.建立基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷模型；

d.初始化變壓器故障診斷分類(lèi)深度自編碼網(wǎng)絡(luò)模型參數(shù)為服從高斯分布的較小隨機(jī)數(shù)值；

e.采用訓(xùn)練集中的無(wú)標(biāo)簽樣本通過(guò)BP算法對(duì)模型底部AE層進(jìn)行預(yù)訓(xùn)練；

f.采用訓(xùn)練集中的標(biāo)簽樣本通過(guò)BP算法對(duì)整個(gè)網(wǎng)絡(luò)進(jìn)行調(diào)優(yōu)；

g.保存訓(xùn)練好的網(wǎng)絡(luò)，并對(duì)其進(jìn)行測(cè)試。

4 工程實(shí)例分析

本文選用保定市某變壓器廠多個(gè)工程現(xiàn)場(chǎng)實(shí)測(cè)的同一型號(hào)變壓器發(fā)生故障前后某段時(shí)間內(nèi)的油色譜在線監(jiān)測(cè)數(shù)據(jù)，通過(guò)DBSCAN算法對(duì)其進(jìn)行聚類(lèi)，平衡選取各簇樣本數(shù)據(jù)共1500條作為預(yù)訓(xùn)練集，另用工程現(xiàn)場(chǎng)搜集到的300組相同型號(hào)故障變壓器測(cè)試實(shí)驗(yàn)數(shù)據(jù)按2∶1比例分別用作微調(diào)集和測(cè)試集。對(duì)于基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法，網(wǎng)絡(luò)參數(shù)W、a、b初始化為服從高斯分布的隨機(jī)較小數(shù)值，初始學(xué)習(xí)速率p設(shè)為0.1，網(wǎng)絡(luò)更新速率系數(shù)設(shè)為0.001，最大迭代次數(shù)為1500次，根據(jù)實(shí)測(cè)數(shù)據(jù)進(jìn)行了如下測(cè)試。

a.不同AE層數(shù)下的故障診斷情況。

分別測(cè)試了AE層數(shù)為0～10時(shí)故障診斷平均正確率，結(jié)果如圖4所示。從圖4中可以看出，AE層數(shù)為3層時(shí)，故障診斷平均正確率已經(jīng)很高，此后隨著AE層數(shù)增加，正確率增長(zhǎng)緩慢。實(shí)際訓(xùn)練時(shí)，隨著AE層數(shù)的增加，訓(xùn)練時(shí)間呈線性增長(zhǎng)，綜合考慮故障診斷效果和訓(xùn)練時(shí)間2個(gè)因素，下文的測(cè)試中選取AE層數(shù)為3層。

圖4 不同AE層數(shù)時(shí)的故障診斷結(jié)果Fig.4 Results of fault diagnosis for different AE layers

b.不同預(yù)訓(xùn)練集時(shí)的故障診斷情況。

分別測(cè)試了預(yù)訓(xùn)練集為 100、500、1 000、1 500時(shí)故障診斷情況，結(jié)果如表3所示。從表3中可以看出，隨著預(yù)訓(xùn)練集的增大，變壓器故障診斷平均正確率也不斷上升，這表明基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法的預(yù)訓(xùn)練過(guò)程是極其重要的，是提高故障診斷正確率的有效保障。

表3 不同預(yù)訓(xùn)練集時(shí)的故障診斷結(jié)果Table 3 Results of fault diagnosis for different quantities of pre-training set

對(duì)于基于BPNN和SVM的變壓器故障診斷方法，只能采用標(biāo)簽樣本進(jìn)行訓(xùn)練，本文測(cè)試了不同訓(xùn)練集時(shí)故障診斷情況，結(jié)果如表4所示。表中，str和rl分別為BPNN最大訓(xùn)練迭代次數(shù)和學(xué)習(xí)速率，C和γ分別為SVM規(guī)則化系數(shù)和核函數(shù)參數(shù)，這些參數(shù)的初始值均由實(shí)測(cè)數(shù)據(jù)經(jīng)大量實(shí)驗(yàn)確定。

表4 不同訓(xùn)練集時(shí)基于BPNN、SVM變壓器故障診斷結(jié)果Table 4 Results of fault diagnosis based on BPNN and SVM，for different quantities of training set

通過(guò)表3和表4的故障診斷結(jié)果對(duì)比可知，本文提出的基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法和基于BPNN、SVM的故障診斷方法相比，故障診斷正確率更高。測(cè)試中，發(fā)現(xiàn)基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法診斷平均正確率會(huì)隨著訓(xùn)練集的增大不斷增高，但增長(zhǎng)趨勢(shì)逐漸變緩；基于BPNN和SVM方法的診斷平均正確率在訓(xùn)練集超過(guò)200時(shí)基本保持不變，不適用于大數(shù)據(jù)量樣本的訓(xùn)練，可擴(kuò)展性差。

5 結(jié)論

a.構(gòu)建了分類(lèi)深度自編碼網(wǎng)絡(luò)模型，并對(duì)其分類(lèi)性能進(jìn)行了分析，典型數(shù)據(jù)集測(cè)試表明，分類(lèi)深度自編碼網(wǎng)絡(luò)適用于多分類(lèi)問(wèn)題。

b.提出基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法，可以采用無(wú)標(biāo)簽樣本對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練，克服了BPNN、SVM方法無(wú)法利用無(wú)標(biāo)簽樣本訓(xùn)練的缺點(diǎn)，提高了工程現(xiàn)場(chǎng)無(wú)標(biāo)簽樣本的利用率。

c.工程實(shí)例分析表明，基于分類(lèi)深度自編碼網(wǎng)絡(luò)的變壓器故障診斷方法隨著預(yù)訓(xùn)練集增大，故障診斷平均正確率增高，該方法適用于大量樣本的訓(xùn)練，可擴(kuò)展性好，與BPNN、SVM方法相比，故障診斷平均正確率更高，可以更好地滿足工程需要。

致 謝

本研究受到國(guó)家電網(wǎng)公司浙北—福州特高壓輸變電工程專項(xiàng)研究經(jīng)費(fèi)資助，特表感謝！

［1］TANG W H，WU Q H.Condition monitoring and assessment of power transformers using computational intelligence［M］.New York，USA：Springer-Verlag Press，2011：97-102.

［2］朱德恒，嚴(yán)璋，談克雄，等.電氣設(shè)備狀態(tài)監(jiān)測(cè)與故障診斷技術(shù)［M］. 北京：中國(guó)電力出版社，2009：10-25.

［3］尹金良，朱永利，俞國(guó)勤.相關(guān)向量機(jī)及其在變壓器故障診斷中的應(yīng)用［J］. 電力自動(dòng)化設(shè)備，2012，32（8）：130-134.YIN Jinliang，ZHU Yongli，YU Guoqin. Relevance vector machine and its application in transformer fault diagnosis ［J］.Electric Power Automation Equipment，2012，32（8）：130-134.

［4］趙文清，朱永利，張小奇.應(yīng)用支持向量機(jī)的變壓器故障組合預(yù)測(cè)［J］. 中國(guó)電機(jī)工程學(xué)報(bào)，2008，28（25）：14-19.ZHAO Wenqing，ZHU Yongli，ZHANG Xiaoqi.Combinational forecast for transformer faults based on support vector machine［J］.Proceedings of the CSEE，2008，28（25）：14-19.

［5］王致杰，徐余法，劉三明，等.電力設(shè)備狀態(tài)監(jiān)測(cè)與故障診斷［M］.上海：上海交通大學(xué)出版社，2012：41-53.

［6］徐文，王大忠，周澤存，等.結(jié)合遺傳算法的人工神經(jīng)網(wǎng)絡(luò)在電力變壓器故障診斷中的應(yīng)用［J］. 中國(guó)電機(jī)工程學(xué)報(bào)，1997，17（2）：109-112.XU Wen，WANG Dazhong，ZHOU Zecun，et al.Application of artificial neural network combined by genetic algorithm in fault diagnosis of power transformer［J］.Proceedings of the CSEE，1997，17（2）：109-112.

［7］周建華，胡敏強(qiáng)，周鶚.基于共軛梯度方向的CP-BP算法在變壓器油中溶解氣體診斷法中的應(yīng)用［J］.中國(guó)電機(jī)工程學(xué)報(bào)，1999，19（3）：41-45.ZHOU Jianhua，HU Minqiang，ZHOU E.On the application of CP-BP algorithm for DGA-NN diagnosis in power transformer［J］.Proceedings of the CSEE，1999，19（3）：41-45.

［8］肖燕彩，朱衡軍.基于最小二乘支持向量機(jī)的電力變壓器故障診斷［J］. 電力自動(dòng)化設(shè)備，2007，27（9）：48-50.XIAO Yancai，ZHU Hengjun.Power transformer fault diagnosis based on least square support vector machine［J］.Electric Power Automation Equipment，2007，27（9）：48-50.

［9］尹金良，劉玲玲.代價(jià)敏感相關(guān)向量機(jī)的研究及其在變壓器故障診斷中的應(yīng)用［J］. 電力自動(dòng)化設(shè)備，2014，34（5）：111-115.YIN Jinliang，LIU Lingling.CS-RVM and its application in fault diagnosis of power transformers［J］.Electric Power Automation Equipment，2014，34（5）：111-115.

［10］遇炳杰，朱永利.加權(quán)極限學(xué)習(xí)機(jī)在變壓器故障診斷中的應(yīng)用［J］. 計(jì)算機(jī)工程與設(shè)計(jì)，2013，34（12）：4340-4344.YU Bingjie，ZHU Yongli.Transformerfaultdiagnosisusing weighted extreme learning machine ［J］.Computer Engineering and Design，2013，34（12）：4340-4344.

［11］HINTON G E，SALAKHUTDINOV R R.Reducing the dimensionality of data with neural networks［J］.Science，2006，313（5786）：504-507.

［12］BENGIO Y，LAMBLIN P，POPOVICI D，et al.Greedy layer-wise training of deep networks［J］.Advances in Neural Information Processing Systems，2007，19：153-160.

［13］VINCENT P，LAROCHELLE H，BENGIO Y，etal.Extracting and composing robust features with denosing autoencoders［C］∥Proceedings of the 25th International Conference on Machine Learning.Helsinki，F(xiàn)inland：［s.n.］，2008：1096-1103.

［14］ERHAND，BENGIO Y，COURVILE A，et al.Why does unsupervised pre-training help deep learning？ ［J］.Journal of Machine Learning Research，2010，11：625-660.

［15］RIFAIS，VINCENT P，MULLER X，etal.Contractiveautoencoders：explicit invariance during feature extraction［C］∥Proceedings of the 28th International Conference on Machine Learning.Bellevue，WA，USA：［s.n.］，2011：833-840.

［16］胡昭華，宋耀良.基于Auto-encoder網(wǎng)絡(luò)的數(shù)據(jù)降維和重構(gòu)［J］.電子與信息學(xué)報(bào)，2009，31（5）：1189-1192.HU Zhaohua，SONG Yaoliang.Dimensionalityreduction and reconstruction ofdata based on Auto-encodernetwork ［J］.Jorunal of Electronics&Information Technology，2009，31（5）：1189-1192.