基于深度學(xué)習(xí)的紅外圖像中劣化絕緣子片的分割方法

劉云鵬，張喆，裴少通，武建華，梁利輝，馬子儒

(1.華北電力大學(xué) 電力工程系，河北 保定 071003； 2.國網(wǎng)河北省電力有限公司檢修分公司，石家莊050000)

0 引 言

絕緣子是電力系統(tǒng)中使用范圍較廣、數(shù)量較大的重要電工原件，其能否正常運行直接關(guān)系到電網(wǎng)能否穩(wěn)定運行。然而，由于絕緣子本身的工藝缺陷和長期處在復(fù)雜的環(huán)境條件中，長此以往，絕緣子很容易出現(xiàn)劣化，劣化后的絕緣子則更容易成為零值絕緣子，零值絕緣子容易使絕緣子串發(fā)生閃絡(luò)或者掉串。一旦絕緣子串發(fā)生閃絡(luò)或者掉串，電網(wǎng)將出現(xiàn)大面積停電[1]。所以，對劣化絕緣子的檢測一直是電力檢修中重要的組成部分。

研究者提出多種絕緣子狀態(tài)檢測方法[2-5]，但在電網(wǎng)實際應(yīng)用中，絕緣子狀態(tài)檢測以火花間隙法、紅外成像法兩種手段為主[6]。火花間隙法需要人工登桿、逐片測量，檢測效率低、工作強度大、安全性差，易造成誤檢、漏檢[7]；紅外成像法可實現(xiàn)遠程、非接觸檢測，且不受電磁干擾，安全、可靠，結(jié)合圖像處理技術(shù)，自動定位故障，是絕緣子智能檢測的發(fā)展方向[8]。

目前的紅外圖像劣化絕緣子片分割算法思路主要如下：對紅外圖像進行灰度化、雙邊濾波、OTSU二值分割等預(yù)處理；通過設(shè)計特定的邊緣檢測算法，提取絕緣子串的邊緣圖像；通過統(tǒng)計分析或擬合的方式確定劣化絕緣子的位置[9-11]。

綜合以上的研究成果不難發(fā)現(xiàn)，由于過于依賴圖像預(yù)處理中的閾值設(shè)定和人為設(shè)計特征提取器，當前的劣化絕緣子片分割提取算法不足以涵蓋多發(fā)熱源、多拍攝角度、多阻值、多位置和復(fù)雜背景等多種情況下的劣化絕緣子片分割提取。隨著人工智能鄰域深度學(xué)習(xí)方法的不斷發(fā)展，文章引入了全卷積神經(jīng)網(wǎng)絡(luò)模型，首次實現(xiàn)了深度學(xué)習(xí)方法在紅外圖像劣化絕緣子片分割提取中的應(yīng)用。通過對紅外圖像大量的有監(jiān)督學(xué)習(xí)訓(xùn)練，自動學(xué)習(xí)并提取劣化絕緣子片的形狀、紋理等特征，同時有效排除其他發(fā)熱點、復(fù)雜背景等干擾源，實現(xiàn)復(fù)雜場景下紅外圖像中劣化絕緣子的像素級分割。

1 構(gòu)建數(shù)據(jù)集

1.1 瓷質(zhì)劣化絕緣子發(fā)熱原理

紅外熱成像屬于非接觸式檢測方法，可以實現(xiàn)物體表面的溫度測量。正常的絕緣子絕緣性能良好，泄漏電流主要存在于絕緣子表層的污穢層中，當正常絕緣子表面污穢度較高、濕度較大時，泄漏電流會在一定程度上增加。正常絕緣子的鋼帽和瓷件同時均勻發(fā)熱。而對于劣化絕緣子來說，常常表現(xiàn)為瓷件裂紋、表面燒灼等特征，導(dǎo)致絕緣性能降低。因此劣化絕緣子的絕緣缺陷形成新的泄露電流通道，導(dǎo)致本應(yīng)流過瓷件污穢層表面的泄露電流從缺陷處分流，最終表征為瓷件表面不發(fā)熱或微弱發(fā)熱，而鋼帽處有異常發(fā)熱。根據(jù)絕緣子的不同發(fā)熱特征，可以通過對絕緣子的紅外檢測進行判別[12]。

1.2 劣化絕緣子紅外檢測實驗方法

為了獲得具有典型代表性的劣化絕緣子發(fā)熱紅外圖片，進行了如下試驗，選用現(xiàn)場撤換下來的三傘瓷質(zhì)劣化絕緣子為試品，其阻值分別為7.5 MΩ、19 MΩ及150 MΩ。所用紅外成像儀型號為Fluke Ti55(參數(shù)如表1所示)，發(fā)射率選擇0.9。試驗平臺搭建示意圖如圖1所示。

表1 Fluke Ti55紅外成像儀主要參數(shù)

圖1 劣化絕緣子紅外檢測實驗原理圖

試驗在不同污穢等級，溫度范圍為7℃～25℃，相對濕度為20%～80%的環(huán)境下進行。選取劣化絕緣子置于絕緣子串的2號、 5號和7號位置進行試驗，其余六片均為正常片。在高壓端對絕緣子串施加65.9 kV工頻電壓，實驗進行2 h，每隔0.5 h用紅外成像儀對其拍攝一次。實驗結(jié)束待絕緣子完全冷卻，再更換剩余不同阻值的低值絕緣子并依次重復(fù)以上步驟，最終拍攝到一系列污穢、溫度、濕度、拍攝角度、劣化絕緣子位置等劣化程度不同情況下的絕緣子串紅外發(fā)熱圖像。

1.3 數(shù)據(jù)集整理及標識

試驗所收集的典型的劣化絕緣子紅外圖像如圖2所示?？梢园l(fā)現(xiàn)在紅外圖像數(shù)據(jù)集構(gòu)建中設(shè)置了多種拍攝角度及拍攝背景，且劣化絕緣子片的鋼冒部分有明顯的異常發(fā)熱。從所收集的共401張紅外圖像中，選取320張為訓(xùn)練集用來訓(xùn)練全卷積神經(jīng)網(wǎng)絡(luò)的模型參數(shù)，40張為驗證集用來監(jiān)督訓(xùn)練過程，41張為測試集用來測試最終的模型效果。

圖2 訓(xùn)練數(shù)據(jù)集部分典型樣本

按照Sift-Flow數(shù)據(jù)樣本集的標準格式，對所得到的紅外圖像做像素級的人工標記作為模型參數(shù)監(jiān)督訓(xùn)練的基礎(chǔ)事實(如圖3所示)。其中黑色區(qū)域為劣化絕緣子區(qū)域。

圖3 制作訓(xùn)練樣本庫示意圖

2 算法理論

2.1 全卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)自從2012年以來，在圖像的檢測以及圖像的分類等方面取得突破性的成果和越來越廣泛的應(yīng)用。卷積神經(jīng)網(wǎng)絡(luò)的強大之處在于它的多層結(jié)構(gòu)可以實現(xiàn)自主性多維度地學(xué)習(xí)圖像特征以更好地抵消圖像中背景噪聲的干擾，有助于分割識別性能的提高。

文獻[13]在2015年IEEE計算機視覺和模式識別會議中首次提出了全卷積神經(jīng)網(wǎng)絡(luò)用于圖像的語義分割，其從卷積神經(jīng)網(wǎng)絡(luò)特征圖中恢復(fù)出原始輸入圖像每個像素所屬的類別，從卷積神經(jīng)網(wǎng)路圖像類別的識別進一步延展到對像素級別的分類。

實現(xiàn)了對輸入紅外圖像中對劣化絕緣子片和其他部分的像素級別的二分類。通過全卷積神經(jīng)網(wǎng)絡(luò)把卷積神經(jīng)網(wǎng)絡(luò)中的全連接層替換成卷積層，同時對最后一個卷積層特征圖進行上采樣計算，使得該特征圖恢復(fù)到與輸入圖像同樣大小，在保留輸入原始圖像空間信息的前提下，也保留了對輸入的每個像素進行分類輸出預(yù)測值，實現(xiàn)了對輸入紅外圖像中劣化絕緣子片的分割提取。全卷積神經(jīng)網(wǎng)絡(luò)整體結(jié)構(gòu)如圖4所示，以下詳細描述構(gòu)成全卷積神經(jīng)網(wǎng)絡(luò)的主要結(jié)構(gòu)層實現(xiàn)原理。

圖4 全卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

卷積層：為抽象特征提取層，如圖5所示每個卷積層中包含多個卷積神經(jīng)元，通過滑動的卷積核實現(xiàn)對不同局部特征提取，一旦該局部特征被提取后，它與其他特征間的位置關(guān)系也隨之確定下來。每個輸出的特征圖包含與多個輸入特征圖的卷積。

圖5 卷積計算原理圖

(1)

池化層(Pooling Layer)：即為經(jīng)過二次取樣運算得到的特征圖層。對于池化層來說，輸入的特征圖與輸出的特征圖總數(shù)量相等。通過二次取樣運算后，每個輸出的特征圖進行降維：

(2)

式中down表示一個下采樣函數(shù)，二次取樣運算使得輸出的圖像在維度上縮小了n倍，每個輸出特征圖都得回應(yīng)一個屬于自己的乘性偏置β和一個加性偏置b。所采用的下采樣的n=2，即經(jīng)過二次取樣運算后的圖像維度縮小了2倍。

反卷積層：從某種意義來說反卷積同樣可以叫做轉(zhuǎn)置卷積或者上采樣過程，由于卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)通過抽象提取縮小了特征圖尺寸，而在全卷積神經(jīng)網(wǎng)絡(luò)中我們需要輸出和輸入尺寸相同的分割圖片，因此需要上采樣反卷積的計算，主要通過將圖片轉(zhuǎn)為矩陣和調(diào)用GEMM計算兩個步驟實現(xiàn)。

2.2 多尺度特征融合

由于紅外成像儀保存下的圖片中包含劣化絕緣子的輪廓、特征、形狀等很多細節(jié)信息，如果將具有紅外劣化絕緣子的紅外圖像經(jīng)過全卷積層后直接進行反卷積，由于經(jīng)過多層卷積計算的圖像降維，會丟失很多的細節(jié)特征，得到的結(jié)果較為粗糙。因此為了實現(xiàn)對劣化絕緣子片更好分割效果，實現(xiàn)經(jīng)典全卷積神經(jīng)網(wǎng)絡(luò)FCN-32s模型以外，結(jié)合更淺卷積層細節(jié)特征，實現(xiàn)多尺度融合FCN-16s、FCN-8s兩種網(wǎng)絡(luò)結(jié)構(gòu)模型，最終通過實驗效果來確定最優(yōu)的全卷積網(wǎng)絡(luò)結(jié)構(gòu)模型。圖6為多尺度三種網(wǎng)絡(luò)模型結(jié)構(gòu)示意圖。

圖6 多尺度三種網(wǎng)絡(luò)模型結(jié)構(gòu)示意圖

綜上所述，全卷積神經(jīng)網(wǎng)絡(luò)的分割方法不需要人工設(shè)計特征提取器，而是由模型算法自身通過大量樣本的訓(xùn)練自主學(xué)習(xí)獲得，擺脫了傳統(tǒng)機器學(xué)習(xí)技術(shù)在處理原始形態(tài)的自然數(shù)據(jù)方面很大的局限性，為紅外圖像中劣化絕緣子的分割提取提供了新思路。

3 訓(xùn)練測試實驗

分別將收集到的數(shù)據(jù)集在不同尺度特征細節(jié)融合的模型FCN-32s、FCN-16s和FCN-8s三種網(wǎng)絡(luò)結(jié)構(gòu)進行模型訓(xùn)練，同時對測試集代入訓(xùn)練后形成的模型參數(shù)通過正向傳播計算測試，完整的訓(xùn)練及模型驗證的流程如圖7所示。

圖7 模型實驗流程圖

模型訓(xùn)練采用工作站作為模型的訓(xùn)練測試計算平臺，相關(guān)參數(shù)指標如表2所示。考慮到深度學(xué)習(xí)全卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程對GPU顯存及計算速度要求較高，所以采用具有11G顯存的英偉達GeForce1080Ti型號的顯卡，同時配置CUDA進行計算加速。全卷積神經(jīng)網(wǎng)絡(luò)的主網(wǎng)絡(luò)模型為VGG-16，使用ImageNet圖片數(shù)據(jù)集上已經(jīng)訓(xùn)練結(jié)束的模型參數(shù)作為訓(xùn)練的初始化參數(shù)，選用隨機梯度下降算法將訓(xùn)練集的每一張圖像為一批次，進行模型的正向傳播以及反向傳播實現(xiàn)模型訓(xùn)練及模型參數(shù)更新。表3為全卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練的訓(xùn)練參數(shù)，通過調(diào)節(jié)優(yōu)化訓(xùn)練參數(shù)，通過觀測模型訓(xùn)練過程正確率以及誤差率的訓(xùn)練曲線，實現(xiàn)對模型參數(shù)的優(yōu)化。所采用的訓(xùn)練步長分別為1×10-8、1×10-10和1×10-12三種訓(xùn)練步長，采用較為常用的固定步長訓(xùn)練策略，對于訓(xùn)練過程分析將會在結(jié)果分析章節(jié)詳細描述。

表2 實驗計算平臺參數(shù)

表3 全卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練參數(shù)

4 結(jié)果分析

4.1 劣化絕緣子分割識別結(jié)果

對比FCN-8s、FCN-16s、FCN-32s三種不同程度融合更多細節(jié)特征的FCN模型，通過訓(xùn)練結(jié)束的FCN模型參數(shù)對測試集中的紅外圖像進行測試，圖8為測試集在三種FCN模型中的測試效果圖。同時將通過傳統(tǒng)的圖像處理方法分割得到結(jié)果一并加入對比。

圖8 紅外圖片中劣化絕緣子FCN分割效果圖

從圖8中不難發(fā)現(xiàn)：傳統(tǒng)分割方法無法剔除背景中其他干擾熱源的影響；不進行細節(jié)特征融合的FCN-32s模型的分割結(jié)果較為粗略，只能定位出劣化絕緣子所在的位置，而對劣化絕緣子鋼冒和瓷片的細節(jié)輪廓分割不明顯，無法達到實際應(yīng)用的要求，所以FCN-32s模型不適合紅外圖像中劣化絕緣子的分割；融合了部分細節(jié)特征的FCN-16s模型的分割結(jié)果比較精細，能大致分割出鋼冒和瓷片的輪廓，但在鋼冒和瓷片的連接處的分割比較粗略，同樣不是紅外圖像中劣化絕緣子分割的最佳模型；融合更多細節(jié)特征的FCN-8s模型的分割結(jié)果對紅外劣化絕緣子紋理特征的分割更為細致，能準確地分割出鋼冒和瓷片的細節(jié)輪廓，所以FCN-8s模型的分割效果要優(yōu)于FCN-16s和FCN-32s。綜上所述，F(xiàn)CN-8s為紅外圖像中劣化絕緣子片分割最優(yōu)模型。

4.2 模型訓(xùn)練過程分析

為進一步優(yōu)化全卷積神經(jīng)網(wǎng)絡(luò)模型參數(shù)，實現(xiàn)紅外圖像劣化絕緣子片最優(yōu)的全卷積神經(jīng)網(wǎng)絡(luò)模型效果，在模型訓(xùn)練的過程中分別對FCN-32s、FCN-16s和FCN-8s三種融合不同底層細節(jié)的模型進行10萬次的迭代訓(xùn)練，并討論模型訓(xùn)練的基礎(chǔ)學(xué)習(xí)率參數(shù)對訓(xùn)練過程的影響。

均方誤差作為模型反向傳播計算的重要參數(shù)，其可以直觀反映模型在訓(xùn)練過程中的收斂速度與程度。由圖9知，學(xué)習(xí)率為1×10-8、1×10-10、1×10-12時，均方誤差隨著模型訓(xùn)練進行最終均穩(wěn)定在較低的值域范圍內(nèi)。在較高的學(xué)習(xí)率1×10-8下，訓(xùn)練穩(wěn)定時均方誤差維持在一個比較高的水平，此時FCN模型的參數(shù)無法取到使均方誤差盡可能小的相對較優(yōu)值；在較低的學(xué)習(xí)率1×10-12下，隨著訓(xùn)練次數(shù)的增加均方誤差下降速度過于緩慢，因此在此學(xué)習(xí)率下訓(xùn)練模型需要耗費大量的時間；而在訓(xùn)練速取值為1×10-10時，均方誤差能在較少的訓(xùn)練次數(shù)中迅速達到穩(wěn)定的低值，因此為最佳的學(xué)習(xí)率。

圖9 不同學(xué)習(xí)率下訓(xùn)練次數(shù)與均方誤差關(guān)系

由圖10知，在合理的學(xué)習(xí)率情況下，訓(xùn)練次數(shù)的增加與深度卷積神經(jīng)網(wǎng)絡(luò)正確率成正相關(guān)的關(guān)系。直觀可以發(fā)現(xiàn)當訓(xùn)練次數(shù)達到10萬次時，三種模型的平均分割準確率已經(jīng)趨向穩(wěn)定。其中FCN-32s模型分割的平均準確率穩(wěn)定在85.10%，F(xiàn)CN-16s模型分割的平均準確率穩(wěn)定在87.01%，而FCN-8s模型分割的平均準確率穩(wěn)定在89.23%。我們發(fā)現(xiàn)FCN-8s模型的像素集分割的準確率最高，而這也從理論上佐證了FCN-8s是相較于前兩者更加精確的分割模型，可以達到更加精細的分割效果。

圖10 訓(xùn)練次數(shù)與準確率關(guān)系

總之，一個相對合適的模型訓(xùn)練速率參數(shù)對于深度卷積神經(jīng)網(wǎng)絡(luò)的正確率來說是非常重要的。圖9、圖10表明，在選擇合適訓(xùn)練速率的情況下，會提升全卷積神經(jīng)網(wǎng)絡(luò)模型對紅外劣化絕緣子分割提取的有效性。

5 結(jié)束語

(1)搭建實驗平臺，用紅外成像儀采集拍攝220 kV陶瓷式絕緣子片紅外圖片，提出一種基于深度學(xué)習(xí)的劣化絕緣子片分割提取方法，利用全卷積神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)劣化絕緣子的紋理、形狀等特征，并實現(xiàn)了對紅外圖譜中的劣化絕緣子片進行自動分割提取。FCN網(wǎng)絡(luò)模型避免了傳統(tǒng)分割模型復(fù)雜的特征選擇過程，提升了分割的魯棒性和泛化能力，實現(xiàn)了端到端的特征提取的自主化與智能化；

(2)采用多尺度特征的融合方法模型，實現(xiàn)了3種FCN模型對紅外圖像中劣化絕緣子的提取，通過進行實驗及相關(guān)分析選擇出了對紅外圖片中劣化絕緣子分割效果最優(yōu)的FCN-8s。該模型通過對底層細節(jié)信息的特征融合，取得了較好的分割識別效果。對于批量測試的紅外圖像數(shù)據(jù)集，最優(yōu)方法的平均整體正確率為89.23%，F(xiàn)CN對紅外圖像中劣化絕緣子的分割提取有較好的識別效果；

(3)方法識別速度較快，利用GPU中相關(guān)加速運算資源，優(yōu)化提升了FCN全卷積模型的訓(xùn)練與識別速度和效率，運行時間滿足工程化的需求；

(4)研究結(jié)果表明，所描述的方法從人工智能理論中的新方法去對紅外成像圖譜中的劣化絕緣子片進行分割提取，為進一步實現(xiàn)對其他高壓電氣設(shè)備的異常發(fā)熱區(qū)域的提取打下基礎(chǔ)，具有廣闊的應(yīng)用前景。