基于卷積神經(jīng)網(wǎng)絡(luò)的電網(wǎng)變壓器銘牌識(shí)別技術(shù)研究

王元峰 龍思璇 曾惜 王宏遠(yuǎn) 林家杰 陳華彬

摘要：針對(duì)現(xiàn)有的CNN網(wǎng)絡(luò)模型在電網(wǎng)變壓器銘牌識(shí)別應(yīng)用中容易發(fā)生過(guò)擬合，訓(xùn)練速度慢等問(wèn)題，為提高變壓器銘牌識(shí)別準(zhǔn)確率，提升訓(xùn)練效率，基于傳統(tǒng)CNN算法理論提出一種I_CNN算法。首先設(shè)計(jì)全局池化層來(lái)代替?zhèn)鹘y(tǒng)CNN網(wǎng)絡(luò)中的全連接層，降低過(guò)擬合風(fēng)險(xiǎn);然后引入一種改進(jìn)的softmax分類(lèi)器構(gòu)建softmax分類(lèi)層，有效提高訓(xùn)練效率;最后使用實(shí)地采集的變壓器銘牌圖片數(shù)據(jù)集上訓(xùn)練I_CNN網(wǎng)絡(luò)模型，識(shí)別準(zhǔn)確率達(dá)96.21%，并通過(guò)對(duì)比實(shí)驗(yàn)表明，本文提出的I_CNN算法具有較高的準(zhǔn)確率和訓(xùn)練效率。

關(guān)鍵詞：卷積神經(jīng)網(wǎng)絡(luò);圖片識(shí)別;變壓器;銘牌識(shí)別

中圖分類(lèi)號(hào)：TP391.4 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-9416（2020）07-0113-03

0 引言

電網(wǎng)變壓器是供配電系統(tǒng)中關(guān)鍵的一個(gè)環(huán)節(jié)，起到電力系統(tǒng)中電壓等級(jí)的變換的作用，是電能輸送、分配和使用的關(guān)鍵設(shè)備。所以，對(duì)電網(wǎng)變壓器的運(yùn)維工作顯得尤為重要。電網(wǎng)變壓器的運(yùn)維工作一般從變壓器的銘牌出發(fā)，銘牌就類(lèi)似于變壓器的一張“身份證”，從銘牌上可以獲取變壓器的編號(hào)和主要技術(shù)參數(shù)，為運(yùn)維工作的開(kāi)展提供更加充足的信息支持。但由于銘牌貼附在變壓器表面，而變壓器投入使用后基本都處于帶電工作狀態(tài)，而且相對(duì)位置都較高，加之雨水腐蝕、自然風(fēng)化等條件影響，對(duì)變壓器銘牌信息的采集和整理都十分困難。

圖像識(shí)別是近幾年人工智能領(lǐng)域的主要研究方向之一，在配電網(wǎng)絡(luò)運(yùn)維領(lǐng)域，圖像識(shí)別可以根據(jù)現(xiàn)場(chǎng)采集的圖像數(shù)據(jù)進(jìn)行模型訓(xùn)練，從而對(duì)圖像數(shù)據(jù)中提取出關(guān)鍵信息，為運(yùn)維工作提供指導(dǎo)。因此，越來(lái)越多學(xué)者將圖像識(shí)別技術(shù)結(jié)合到電力變壓器等設(shè)備的運(yùn)維工作中。文獻(xiàn)[1]采用一種并行結(jié)構(gòu)優(yōu)化的卷積神經(jīng)網(wǎng)絡(luò)模型與增強(qiáng)現(xiàn)實(shí)技術(shù)相結(jié)合對(duì)變壓器圖像進(jìn)行識(shí)別，與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)算法相比，該方法具有較高的識(shí)別準(zhǔn)確率;文獻(xiàn)[2]充分利用線性修正函數(shù)與柔性光滑函數(shù)的優(yōu)勢(shì)設(shè)計(jì)了一種神經(jīng)元激勵(lì)的方法應(yīng)用于卷積神經(jīng)網(wǎng)絡(luò)中對(duì)變電站監(jiān)控圖像進(jìn)行異常識(shí)別，識(shí)別效果良好;文獻(xiàn)[3]提出一種M_CNN算法，該算法根據(jù)網(wǎng)絡(luò)對(duì)小樣本的識(shí)別情況設(shè)置置信度判決函數(shù)，并對(duì)識(shí)別率低的樣本重新進(jìn)行特征提取用于訓(xùn)練下一層網(wǎng)絡(luò)，從而構(gòu)造多層卷積神經(jīng)網(wǎng)絡(luò)，與傳統(tǒng)CNN模型相比，M_CNN模型在變電站異常場(chǎng)景識(shí)別中具有更高的準(zhǔn)確率。上述學(xué)者研究都是基于卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）開(kāi)展圖像識(shí)別應(yīng)用研究，但上述方法都未考慮過(guò)擬合現(xiàn)象和模型訓(xùn)練速度，限制了模型在變壓器銘牌識(shí)別應(yīng)用中的實(shí)用性。

本文在傳統(tǒng)CNN網(wǎng)絡(luò)基礎(chǔ)上，設(shè)計(jì)全局池化層來(lái)代替?zhèn)鹘y(tǒng)CNN網(wǎng)絡(luò)中的全連接層，并引入一種改進(jìn)的softmax分類(lèi)器構(gòu)建softmax分類(lèi)層，提出一種I_CNN（Improved CNN，I_CNN）算法。將I_CNN應(yīng)用于真實(shí)變壓器銘牌圖片數(shù)據(jù)集中進(jìn)行模型訓(xùn)練，結(jié)果表明，本文提出的I_CNN模型具有更高的準(zhǔn)確率和訓(xùn)練速度。

1 傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)算法

CNN網(wǎng)絡(luò)是深度學(xué)習(xí)模型的一種，也是當(dāng)前圖像識(shí)別應(yīng)用領(lǐng)域的熱門(mén)研究方向[4]。CNN模型是一種端到端的學(xué)習(xí)模式，其網(wǎng)絡(luò)中所有參數(shù)都可以在迭代過(guò)程中通過(guò)梯度下降法優(yōu)化求解，訓(xùn)練好的CNN模型能夠?qū)斎雸D像的特征進(jìn)行提取，從而完成圖像分類(lèi)、內(nèi)容檢測(cè)、識(shí)別等任務(wù)[5]。

CNN網(wǎng)絡(luò)由經(jīng)典神經(jīng)網(wǎng)絡(luò)模型發(fā)展而來(lái)，保留了神經(jīng)網(wǎng)絡(luò)模型中的輸入層、全連接層和輸出層，在此基礎(chǔ)上新增了卷積層、下采樣層。CNN網(wǎng)絡(luò)基本結(jié)構(gòu)如圖1所示。

卷積層是CNN網(wǎng)絡(luò)的特征提取層，每一個(gè)卷積層中節(jié)點(diǎn)通過(guò)一個(gè)卷積核與前一層小范圍的節(jié)點(diǎn)相連接，進(jìn)行特征提取，對(duì)于上一層中的特征圖，使用不同的卷積核提取到不同的卷積圖像。下采樣層作用是將卷積層中卷積后的特征進(jìn)行抽樣，也就是將輸入的特征圖劃分為不重疊的子區(qū)域，對(duì)每個(gè)子區(qū)域進(jìn)行池化操作，所以下采樣層也被稱(chēng)為池化層。因?yàn)榫矸e層和下采樣層局部連接和權(quán)值共享的特點(diǎn)，整個(gè)網(wǎng)絡(luò)模型更加接近于生物神經(jīng)網(wǎng)絡(luò)，因此在語(yǔ)音識(shí)別和圖像處理等領(lǐng)域CNN網(wǎng)絡(luò)模型能夠得到越來(lái)越多的應(yīng)用[6-7]。

2 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)算法

傳統(tǒng)CNN網(wǎng)絡(luò)結(jié)構(gòu)包含多個(gè)卷積層和多個(gè)下采樣層，這使得網(wǎng)絡(luò)中相鄰層節(jié)點(diǎn)直接可以局部連接和權(quán)值共享，這是CNN網(wǎng)絡(luò)的兩大功能特色。但這也造成了CNN網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性，降低了CNN網(wǎng)絡(luò)模型的訓(xùn)練效率。為此，本文在傳統(tǒng)CNN模型基礎(chǔ)上進(jìn)行優(yōu)化，提出一種I_CNN（Improved CNN）模型。如圖2所示，I_CNN模型由1個(gè)輸入層、3個(gè)卷積層、2個(gè)池化層以及1個(gè)全局池化層和1個(gè)softmax分類(lèi)層組成。

在傳統(tǒng)CNN模型中，圖像數(shù)據(jù)經(jīng)過(guò)卷積和池化操作后以長(zhǎng)特征向量的形式傳入到全連接層，在全連接層中，各層節(jié)點(diǎn)之間是完全連接的，這種方式不僅參數(shù)量大，訓(xùn)練效率低，且容易導(dǎo)致過(guò)擬合，降低模型準(zhǔn)確率。針對(duì)這一問(wèn)題，在I_CNN模型中用一個(gè)全局池化層來(lái)代替全連接層，這里的全局池化層可以將上層中傳遞過(guò)來(lái)的特征圖所有像素用平均值替代，獲得一個(gè)更低維度的特征向量。通過(guò)全局池化層后輸出的特征向量可以理解為圖像數(shù)據(jù)類(lèi)別的置信圖，且在全局池化層中沒(méi)有需要優(yōu)化的參數(shù)，從而降低過(guò)擬合風(fēng)險(xiǎn)，達(dá)到減少參數(shù)量、提高訓(xùn)練效率的目的。

全局池化層之后是softmax分類(lèi)層，傳統(tǒng)CNN模型softmax分類(lèi)層完成的是一個(gè)回歸操作，輸出屬于各個(gè)類(lèi)別的概率，但在這一層參數(shù)求解時(shí)存在大量參數(shù)冗余，使得模型結(jié)構(gòu)更加復(fù)雜，降低訓(xùn)練效率。為此，在I_CNN算法中，本文引入一種改進(jìn)的softmax分類(lèi)器構(gòu)建softmax分類(lèi)層[8]，損失函數(shù)為：

3 實(shí)驗(yàn)結(jié)果與分析

3.1 實(shí)驗(yàn)環(huán)境

本文實(shí)驗(yàn)均在CentOS 7.5系統(tǒng)，Inter（R） Core（TM） i7-6500U CPU，8GB內(nèi)存計(jì)算機(jī)中進(jìn)行，模型均采用Python開(kāi)發(fā)實(shí)現(xiàn)。

3.2 數(shù)據(jù)預(yù)處理

本文使用的圖片數(shù)據(jù)集是貴州電網(wǎng)貴陽(yáng)供電局城北分局實(shí)地采集的電網(wǎng)變壓器銘牌數(shù)據(jù)，如圖3所示是從變壓器上采集的兩張銘牌圖片，圖片上包含變壓器名稱(chēng)、型號(hào)等信息，本文主要目標(biāo)就是對(duì)銘牌上的信息就行識(shí)別。

圖3所示的銘牌圖片并不能直接使用模型進(jìn)行識(shí)別，需要先進(jìn)行一系列的預(yù)處理操作。 本文采用文獻(xiàn)[9]中的圖片處理方法對(duì)銘牌圖片進(jìn)行預(yù)處理：首先對(duì)圖片中的銘牌進(jìn)行定位，然后以銘牌作為整體進(jìn)行角度矯正、灰值化等處理，最后對(duì)銘牌中的字符進(jìn)行定位并切割，輸出包含單個(gè)字符的圖像。

3.3 實(shí)驗(yàn)對(duì)比分析

為驗(yàn)證本文提出的I_CNN算法性能，分別使用本文提出的I_CNN算法、傳統(tǒng)CNN算法、文獻(xiàn)[3]的M_CNN算法分別構(gòu)建變壓器銘牌識(shí)別模型，3種模型都采用按3.1所述預(yù)處理方法獲得的同一圖片數(shù)據(jù)集進(jìn)行訓(xùn)練。為更好的分析比較模型性能，每種模型訓(xùn)練20次，分別比較每種模型20次訓(xùn)練的平均準(zhǔn)確率和平均收斂時(shí)間，實(shí)驗(yàn)結(jié)果如表1所示。

表1實(shí)驗(yàn)結(jié)果表明，在識(shí)別準(zhǔn)確率上，本文提出的I_CNN模型要優(yōu)于傳統(tǒng)CNN模型和M_CNN模型;在模型訓(xùn)練效率上，I_CNN模型平均收斂時(shí)間為28.69秒，遠(yuǎn)小于M_CNN模型的34.53秒和傳統(tǒng)CNN模型的32.85秒，具有更高效率，收斂速度更快。實(shí)驗(yàn)證明，本文提出的I_CNN模型不僅在銘牌識(shí)別準(zhǔn)確率較傳統(tǒng)CNN模型和M_CNN模型有一定優(yōu)勢(shì)，且模型收斂速度更快。

4 結(jié)語(yǔ)

針對(duì)現(xiàn)有的CNN網(wǎng)絡(luò)模型在電網(wǎng)變壓器銘牌識(shí)別應(yīng)用中容易發(fā)生過(guò)擬合，訓(xùn)練速度慢等問(wèn)題，本文基于傳統(tǒng)CNN模型理論提出了一種I_CNN網(wǎng)絡(luò)模型。通過(guò)在真實(shí)變壓器圖片數(shù)據(jù)集上的對(duì)比實(shí)驗(yàn)驗(yàn)證表明，I_CNN算法具有較高的識(shí)別準(zhǔn)確率和收斂速度，在變壓器運(yùn)維工作中具有較高的實(shí)用性。

參考文獻(xiàn)

[1] 李軍鋒，何雙伯，馮偉夏，等.基于改進(jìn)CNN的增強(qiáng)現(xiàn)實(shí)變壓器圖像識(shí)別技術(shù)[J].現(xiàn)代電子技術(shù)，2018，41（7）：29-32.

[2] 廖家齊，錢(qián)科軍，方華亮，等.基于泛在電力物聯(lián)網(wǎng)的電動(dòng)汽車(chē)充電站運(yùn)維關(guān)鍵技術(shù)[J].電力建設(shè)，2019（9）：20-26.

[3] 趙繼生.基于卷積神經(jīng)網(wǎng)絡(luò)的變電站監(jiān)控圖像識(shí)別方法研究[D].北京：華北電力大學(xué)，2016.

[4] 高昆侖，楊帥，劉思言，等.基于一維卷積神經(jīng)網(wǎng)絡(luò)的電力系統(tǒng)暫態(tài)穩(wěn)定評(píng)估[J].電力系統(tǒng)自動(dòng)化，2019，43（12）：18.

[5] Zhaoye Zhou，Gengyan Zhao，Richard Kijowski，etc.Deep Convolutional Neural Network for Segmentation of Knee Joint Anatomy[J].Magnetic Resonance in Medicine，2018（6）：2759-2770.

[6] 劉萬(wàn)軍，梁雪劍，曲海成.自適應(yīng)增強(qiáng)卷積神經(jīng)網(wǎng)絡(luò)圖像識(shí)別[J].中國(guó)圖象圖形學(xué)報(bào)，2019，22（12）：1723-1736.

[7] Rocco，Ignacio， Arandjelovi， Relja， Sivic， Josef. Convolutional neural network architecture for geometric matching[J].IEEE Transactions on Pattern Analysis & Machine Intelligence，2019，41（11）：2553-2567.

[8] 冉鵬，王靈，李昕，等.改進(jìn)Softmax分類(lèi)器的深度卷積神經(jīng)網(wǎng)絡(luò)及其在人臉識(shí)別中的應(yīng)用[J].上海大學(xué)學(xué)報(bào)：自然科學(xué)版，2018，24（3）：26-40.

[9] 劉波.變電站設(shè)備銘牌識(shí)別系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[D].成都：電子科技大學(xué)，2013.