深度學(xué)習(xí)在絕緣子紅外圖像異常診斷的應(yīng)用

范 鵬，馮萬興，周自強，趙 淳，周 盛，姚翔宇

（1.南瑞集團（國網(wǎng)電力科學(xué)研究院）有限公司，江蘇 南京 211106；2.國網(wǎng)電力科學(xué)研究院武漢南瑞有限責(zé)任公司，湖北 武漢 430074）

0 引言

紅外成像具有非接觸直接測量輸變電設(shè)備狀態(tài)的特征，無需停電，在電力領(lǐng)域具有廣泛的應(yīng)用[1-3]。輸變電設(shè)備在野外嚴峻環(huán)境中長期運行，由于材料老化、污穢閃絡(luò)、機械受損等因素，常伴隨有局部放電、溫度增高等現(xiàn)象。絕緣子作為輸電線路重要部件，起到電氣隔離和機械支撐的作用，當紅外圖像顯示的溫度較高，表明其有異常缺陷，這是因為場強不均勻發(fā)生局部放電，嚴重時可能導(dǎo)致線路故障，甚至造成停電故障。文獻[4-5]開展了變壓器高壓套管的紅外診斷研究，通過熱像特征譜圖分析了故障原因。紅外圖像可應(yīng)用于交流濾波器的故障分析中，提取其跳閘的典型故障特征[6-8]。

輸變電設(shè)備紅外圖譜特征提取主要為圖像處理方法，諸如紋理、色彩、邊框等圖像特征[9-10]。隨著無人機航拍技術(shù)的發(fā)展，輸變電設(shè)備紅外圖譜呈現(xiàn)爆發(fā)式增長，深度學(xué)習(xí)提供了一種良好的手段[11-13]，采用卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNN）的方法，對海量圖片進行訓(xùn)練學(xué)習(xí)，提取特征進行測試和驗證。CNN 通過卷積層計算，輸入較深層的特征圖，對于小目標絕緣子、套管，權(quán)重值相對較少，無法實現(xiàn)小目標的有效提取[14-15]。針對這一缺點，本文對Faster R-CNN 方法進行改進，提高絕緣子紅外圖譜診斷的精度。

1 改進的Faster R-CNN 方法

1.1 Faster R-CNN 原理

區(qū)別于普通的CNN，F(xiàn)aster R-CNN 增加了一個區(qū)域提取網(wǎng)絡(luò)（Region Proposal Network，RPN），即圖1 中的候選區(qū)域，摒棄傳統(tǒng)的滑動窗口，可在GPU直接運行計算，極大地加快了計算速度。RPN 判斷每個像素點對應(yīng)的多個不同尺度和寬高比的錨框是否為前景目標的二分類，形成候選區(qū)域。

圖1 Faster R-CNN 的算法流程Fig.1 Algorithm flow of Faster R-CNN

Faster R-CNN 一般采用隨機梯度下降法（Stochastic Gradient Descent，SGD）訓(xùn)練神經(jīng)網(wǎng)絡(luò)，見式(1)：

式中：X為輸入；W為權(quán)重；wi、xi分別表示第i個權(quán)重和輸入；h(x)為對應(yīng)的輸出。

損失函數(shù)S(W)基于平方誤差實現(xiàn)，見式(2)：

式中：yi為真實輸出。

W的更新函數(shù)見式(3)：

式中：α為學(xué)習(xí)率，可設(shè)置步長。W通過梯度下降法進行求解，首先正向計算樣本輸出值，接著根據(jù)反向傳遞的誤差迭代計算，常用在CNN 訓(xùn)練中。

RPN 的選擇本質(zhì)是通過平移或者尺度變化的方法將合適的區(qū)域提取網(wǎng)絡(luò)R變成，從而接近實際的候選框C：

式中：(x,y)、(w,h)分別為矩形區(qū)域的中心坐標和寬、高。

令t*為矩形區(qū)域的平移和縮放量，則有：

式中：tx、ty為矩形區(qū)域的中心坐標平移量；tw、th分別為矩形區(qū)域的寬、高的縮放量。

預(yù)測值計算過程為：

式中：φ是最后一次卷積計算。

損失函數(shù)的目標值計算見式(7)，通過調(diào)整平移和縮放的尺度，確定最終的候選區(qū)域[16]：

1.2 壓縮激勵結(jié)構(gòu)

為了增強Faster R-CNN 的小目標特征提取能力，引入壓縮激勵結(jié)構(gòu)，即壓縮和激勵兩大操作，設(shè)圖像的特征參數(shù)設(shè)置為(H,W,K)，分別表示為長、寬和通道數(shù)。

壓縮操作Fsq(?)基于各個通道實現(xiàn)特征圖空間信息的壓縮，見式(8)：

式中：kc表示第c個通道；hc表示經(jīng)過壓縮后輸出向量h的第c個元素。

激勵操作分為激勵Fex(?)和校準Fscale(?)兩個過程，分別見式(9)和式(10)：

式中：σ是sigmoid 激活函數(shù)；w1為的實數(shù)矩陣，表示通道的縮減，r為縮減因子；δ是ReLU 激活函數(shù)，w2為的實數(shù)矩陣，表示通道的恢復(fù)。

式中：sc表示激活向量s的第c個元素；表示校準后的對應(yīng)元素。

2 絕緣子紅外圖像的深度學(xué)習(xí)

2.1 環(huán)境搭建

本文基于改進的Faster R-CNN 方法，對平臺的環(huán)境搭建要求較高，具體配置見表1。操作系統(tǒng)為開源Linux，數(shù)據(jù)庫為MySQL；硬件配置較高，CPU 采用Intel 高端系列，內(nèi)存和硬盤容量均較大，保證大量數(shù)據(jù)的高效運算?？蚣懿捎?018年初公開的目標檢測平臺Detectron，包含最具代表性的目標檢測、圖像分割、關(guān)鍵點檢測算法。

表1 軟硬件配置Table 1 Hardware and software configuration

2.2 數(shù)據(jù)準備

圖像數(shù)據(jù)來源于多條輸電線路無人機拍攝的大量絕緣子照片。在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中，對正負樣本的判定見圖2，主要基于錨框映射圖與真實目標框的交并比（Intersection over Union，IoU）來進行計算分類。首先對 RPN 形成的錨框進行排序篩選形成錨框序列，接著利用邊框回歸參數(shù)向量修正錨框的位置形成候選區(qū)域集合，然后計算所有感興趣區(qū)域（Region of Interest，RoI）與真實目標框的IoU，求最大值，并判斷其是否大于0.5，若滿足，則為正樣本，否則為負樣本。

圖2 正負樣本判定Fig.2 Positive and negative sample decision

完成正負樣本的判定后，為了使樣本的采樣盡量均衡，保證雙方的訓(xùn)練集和驗證集數(shù)量一致，同時采用遷移學(xué)習(xí)的方法，經(jīng)過相關(guān)修正與補償，擴充樣本總量至2375，樣本信息配置見表2。

表2 樣本配置信息Table 2 Information of sample configuration

2.3 改進模型的建立

普通的CNN 方法，原始圖像經(jīng)過卷積層和池化層后，全鏈接層輸出結(jié)果，本文方法的結(jié)構(gòu)如圖3所示，引入壓縮激勵的過程，壓縮特征圖的空間信息，并通過激勵操作學(xué)習(xí)通道間的依賴關(guān)系，可自適應(yīng)分配每個通道的權(quán)重值，提取有利于任務(wù)的重要特征通道，最終能進一步增強網(wǎng)絡(luò)模型的特征提取能力，采用SE-DenseNet-169 框架的Faster R-CNN 模型。

改進模型主要完成絕緣子異常狀態(tài)的精準識別，首先對紅外原始圖像進行相關(guān)修正與補償實現(xiàn)樣本擴充，然后采用本文方法進行訓(xùn)練，收斂后，獲得最終的改進Faster R-CNN 模型。

圖3 改進的Faster R-CNN 結(jié)構(gòu)Fig.3 Structure of improved Faster R-CNN

3 實驗分析

3.1 精確度衡量

CNN 學(xué)習(xí)中，精確度的衡量一般會采用準確率（Precision）和召回率（Recall），其計算過程分別見式(11)和式(12)：

式中：TP 表示是實際值和預(yù)測值均是異常絕緣子的個數(shù)；FP 表示預(yù)測值是異常絕緣子，實際值卻不是的個數(shù)；FN 表示是實際值是異常絕緣子，預(yù)測值卻不是的個數(shù)。

為進一步衡量改進模型的優(yōu)劣，這里采用平均檢測精度（mean Average Precision，mAP），其中AP 等價于召回率和準確率形成曲線與橫軸包圍的幾何圖形的面積，對所有類別的AP 求平均值即可得到mAP。

3.2 不同方法的對比研究

基于樣本數(shù)據(jù)，開展BP、FasterR-CNN以及本文方法的精確度和效率對比研究，不同方法的實驗結(jié)果統(tǒng)計見表3。Faster R-CNN和本文方法在Precision方面均明顯優(yōu)于BP 方法，本文方法的Recall 最高，mAP 也最高，相對于BP提高了近10%，這說明經(jīng)過改進的Faster R-CNN對于小目標的特征提取具有明顯的優(yōu)勢。本文方法通過壓縮激勵結(jié)果，減少了數(shù)據(jù)量的計算，所以相對于其他方法，有更高的效率。

表3 不同方法的實驗結(jié)果統(tǒng)計Table3Statisticsof experimental resultsbydifferent meth ods

繪制其準確率-召回率關(guān)系曲線，如圖4所示，可更加形象直觀地反映出本文方法對絕緣子異常特征的提取優(yōu)勢，因為另外兩種方法的曲線均被完整的覆蓋，說明本文方法改進效果明顯。

圖4 準確率-召回率關(guān)系曲線Fig.4 Relation curvesof precision and recall

3.3 不同類型絕緣子對比研究

常見絕緣子排列有單I型、雙I 型以及V型。本文開展這3類絕緣子的紅外圖像研究，比較不同排列方式的診斷準確率，如圖5所示。根據(jù)電力標準DL/T 664-2008[19]，圖(b)和圖(c)絕緣子端部明顯發(fā)熱，屬于異常情況。

圖5 不同類型絕緣子的紅外圖像Fig.5 Infrared image of different typesof ins ulators

不同類型絕緣子的異常診斷準確率見表4，準確率均較高，均在90%以上；I 型和V型絕緣子的準確率明顯優(yōu)于雙I型絕緣子，這是因為雙I 型絕緣子會出現(xiàn)兩排絕緣子重疊的情況，對紅外圖像的研究造成一定的影響，為此無人機對于該種類型絕緣子的線路需開展多種角度的拍攝。

表4 絕緣子異常診斷的準確率Table4Accuracyof insulator anomaly diagnosis

4 結(jié)論

本文提出一種改進的Faster R-CNN 方法，引入激勵壓縮環(huán)節(jié)，搭建訓(xùn)練模型，完成絕緣子紅外圖像的異常診斷，并成功應(yīng)用于電力現(xiàn)場運維。本文方法可高效并精準地識別出絕緣子的異常缺陷，mAP 達到90.2%。研究結(jié)果可為輸電線路絕緣子缺陷識別研究提供一定的參考。