基于Faster R-CNN 的非侵入式負(fù)荷識(shí)別方法

楊金成 ,王永超 ,費(fèi)守江 ,張 偉 ,曾 婧 ,李 娜

(1.國(guó)網(wǎng)新疆電力有限公司營(yíng)銷服務(wù)中心(資金集約中心、計(jì)量中心),新疆維吾爾自治區(qū) 烏魯木齊市 830000;2.大連理工大學(xué)電氣工程學(xué)院,遼寧省 大連市 116024)

0 引言

在電網(wǎng)互聯(lián)化、信息化、智能化的發(fā)展背景下,精確的負(fù)荷設(shè)備識(shí)別對(duì)于電力系統(tǒng)規(guī)劃、電力調(diào)度以及實(shí)現(xiàn)節(jié)能減排都具有重要意義。隨著電動(dòng)汽車、電采暖等新型負(fù)荷設(shè)備的接入,電力系統(tǒng)對(duì)負(fù)荷設(shè)備識(shí)別的精度提出了更高要求[1]。但目前非入侵式負(fù)荷設(shè)備識(shí)別存在著識(shí)別準(zhǔn)確率低、且從戶用智能電表采集到的數(shù)據(jù)樣本偏小的問題[2-3],因此如何利用小樣本數(shù)據(jù)精準(zhǔn)識(shí)別負(fù)荷設(shè)備是本文要解決的重點(diǎn)。

近年來,一些電力市場(chǎng)化和電力系統(tǒng)智能化程度較高的國(guó)家開展了大量的非入侵式負(fù)荷識(shí)別研究。如美國(guó)、巴西等國(guó)家對(duì)負(fù)荷模式提取技術(shù)以及實(shí)際系統(tǒng)應(yīng)用的研究都有了初步的進(jìn)展[4];馬來西亞國(guó)家電力公司也開展了負(fù)荷模式識(shí)別的研究,并在大用戶用電稽查方面進(jìn)行了應(yīng)用[5]。而我國(guó)對(duì)電力系統(tǒng)數(shù)據(jù)挖掘的研究還有待實(shí)質(zhì)性的提高,雖然一些高等院校和相關(guān)科研機(jī)構(gòu)在電力用戶負(fù)荷模式提取方面有一些進(jìn)展,但距離成熟的商業(yè)應(yīng)用還相差甚遠(yuǎn)。因此,根據(jù)我國(guó)國(guó)情,研究和開發(fā)成熟的電力用戶負(fù)荷模式識(shí)別系統(tǒng)仍是一個(gè)具有挑戰(zhàn)性的問題。在負(fù)荷識(shí)別方面,目前采用的主要方法有:譜聚類算法[6]、瞬時(shí)特征量法[7]、相量測(cè)量單元(phasor measurement unit,PMU)實(shí)測(cè)小擾動(dòng)數(shù)據(jù)法[8]等,但是這些方法都有一定的局限性,如識(shí)別率較低、信息利用度不夠等問題。瞬時(shí)特征量法采用的識(shí)別量較少,因而數(shù)據(jù)采集處理的工作量較少,但其識(shí)別準(zhǔn)確率相較其他方法較低[9];譜聚類算法在粗選、細(xì)選的分布識(shí)別過程可以逐步縮小識(shí)別范圍提高識(shí)別準(zhǔn)確率,但帶來的是前期龐大的負(fù)荷聚類工作。傳統(tǒng)的Faster R-卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks,CNN)算法在針對(duì)圖像的目標(biāo)識(shí)別的準(zhǔn)確率為73.5%,準(zhǔn)確率較低[10]。針對(duì)以上各類識(shí)別方法的局限性,本文采用深度學(xué)習(xí)中具有超強(qiáng)學(xué)習(xí)力并能夠用少量樣本數(shù)據(jù)實(shí)現(xiàn)特征提取的Faster R-CNN 算法,將其結(jié)構(gòu)中的目標(biāo)檢測(cè)模型特征提取網(wǎng)絡(luò)VGG16替換為Inception V2網(wǎng)絡(luò),并增大模型輸入圖像的尺寸,針對(duì)非入侵式戶用負(fù)荷進(jìn)行識(shí)別。

1 基于Faster R-CNN 的負(fù)荷識(shí)別總體思路

基于Faster R-CNN 的非侵入式負(fù)荷識(shí)別流程如圖1所示。首先,對(duì)采集到的負(fù)荷特征數(shù)據(jù)進(jìn)行預(yù)處理,其中包括小波分解去噪處理與數(shù)據(jù)歸一化處理。其次,對(duì)傳統(tǒng)的Faster R-CNN 進(jìn)行改進(jìn),增大模型輸入圖像尺寸,以及替換模型特征提取網(wǎng)絡(luò)VGG16為Inception V2網(wǎng)絡(luò)。最后,建立非入侵式典型負(fù)荷的識(shí)別模板,運(yùn)用改進(jìn)后的Faster R-CNN網(wǎng)絡(luò)對(duì)負(fù)荷識(shí)別模板進(jìn)行特征提取,之后將負(fù)荷數(shù)據(jù)的電壓 電流軌跡特征進(jìn)行識(shí)別分析得到結(jié)果。

圖1 負(fù)荷識(shí)別流程圖Fig.1 Load identification flow chart

2 負(fù)荷特征的數(shù)據(jù)預(yù)處理

2.1 小波分解去噪處理

小波變換實(shí)質(zhì)是保留主要信號(hào)的小波系數(shù),將原始信號(hào)通過小波分解,抑制或過濾高分辨率的噪聲部分,保留低分辨率的部分,進(jìn)而重構(gòu)原始信號(hào)。小波分解去噪流程如圖2所示。

圖2 小波分解去噪流程圖Fig.2 Wavelet decomposition denoising flow chart

以某時(shí)刻的負(fù)荷數(shù)據(jù)作為信號(hào)樣本,首先,根據(jù)其特征,選用相應(yīng)的小波基:若信號(hào)較光滑,則選光滑連續(xù)的小波基,若信號(hào)線性性質(zhì)較強(qiáng),則選取線性小波基[11];然后確定小波分解的分解層數(shù)j;對(duì)所給的含噪信號(hào)g(k)進(jìn)行分解,得到一組小波系數(shù)ωj,k。

接下來對(duì)小波系數(shù)進(jìn)行閾值處理。其中對(duì)于分段的每層小波,首先確定每層小波的閾值,然后對(duì)小波系數(shù)進(jìn)行軟閾值函數(shù)處理,得到估計(jì)系數(shù)。如式(1)所示,當(dāng)小波系數(shù)ωj,k的絕對(duì)值大于閾值T時(shí),估計(jì)小波系數(shù)的絕對(duì)值為|ωj,k|-T,符號(hào)保持不變;當(dāng)小波系數(shù)ωj,k的絕對(duì)值小于或者等于閾值T 時(shí),估計(jì)小波系數(shù)為0,即

2.2 歸一化處理

負(fù)荷識(shí)別算法能夠更快地計(jì)算各個(gè)特征量之間的距離,降低由于負(fù)荷特征量級(jí)造成的精度損失誤差,加快算法的收斂速度,因此須對(duì)重構(gòu)后的信號(hào)(k)進(jìn)行歸一化處理,將所有特征量歸一化到(0,1)區(qū)間,第i個(gè)特征xi的歸一化的值為

3 基于改進(jìn)的Faster R-CNN 的典型負(fù)荷識(shí)別模型

3.1 Faster R-CNN 算法

Faster R-CNN 作為單階段目標(biāo)檢測(cè)算法,一方面,對(duì)小尺寸目標(biāo)具有較好的檢測(cè)效果,尤其能夠基于少量樣本數(shù)據(jù)實(shí)現(xiàn)對(duì)目標(biāo)的檢測(cè)[12-13];另一方面,具有比其他多階段目標(biāo)檢測(cè)算法更快的檢測(cè)速度。

如圖3所示,Faster R-CNN 目標(biāo)檢測(cè)算法在結(jié)構(gòu)上主要由4部分組成,即:特征提取網(wǎng)絡(luò)、區(qū)域建議網(wǎng)絡(luò)、區(qū)域特征圖生成網(wǎng)絡(luò)、分類與回歸檢測(cè)網(wǎng)絡(luò)[14]。傳統(tǒng)的Faster R-CNN 目標(biāo)檢測(cè)算法采用VGG16網(wǎng)絡(luò)作為特征提取網(wǎng)絡(luò),用于實(shí)現(xiàn)對(duì)輸入照片進(jìn)行特征提取。其特征提取過程為:首先,將VGG16的全連接層fc6、fc7轉(zhuǎn)換成卷積層,并添加額外層extra對(duì)VGG16提取到的特征進(jìn)行進(jìn)一步提取;然后,將提取得到的特征圖,輸入到區(qū)域建議網(wǎng)絡(luò)中,計(jì)算得出存在需要識(shí)別的目標(biāo)區(qū)域作為感興趣區(qū)域;最后,在特征圖上的感興趣區(qū)域通過ROI pooling生成感興趣區(qū)域特征圖,進(jìn)行分類與回歸預(yù)測(cè)[15]。

圖3 Faster R-CNN 結(jié)構(gòu)示意Fig.3 Faster R-CNN structure diagram

在傳統(tǒng)的Faster R-CNN 目標(biāo)檢測(cè)算法中,其結(jié)構(gòu)中起到關(guān)鍵性識(shí)別作用的是區(qū)域建議網(wǎng)絡(luò)。區(qū)域建議網(wǎng)絡(luò)是一個(gè)全卷積網(wǎng)絡(luò),極大地提升了感興趣區(qū)域生成的速度[16-18]。區(qū)域建議網(wǎng)絡(luò)詳細(xì)結(jié)構(gòu)如圖4所示,分為2個(gè)分支。第一個(gè)分支通過softmax對(duì)檢測(cè)框進(jìn)行分類,判斷是目標(biāo)還是背景;第二個(gè)分支計(jì)算檢測(cè)框的偏移量。最終綜合正反例概率與檢測(cè)框偏移量,獲得包含目標(biāo)的精確檢測(cè)框。由區(qū)域建議網(wǎng)絡(luò)計(jì)算得到含有目標(biāo)的精確檢測(cè)框后,就可以在特征圖上找到與精確檢測(cè)框?qū)?yīng)的含有目標(biāo)的位置,也就是感興趣區(qū)域。但感興趣區(qū)域大小并不統(tǒng)一,不能直接進(jìn)行分類與回歸[19]。為此需要將感興趣區(qū)域輸入ROI pooling中統(tǒng)一大小,然后進(jìn)行分類與回歸。

圖4 區(qū)域建議網(wǎng)絡(luò)結(jié)構(gòu)示意圖Fig.4 Schematic diagram of region proposal network structure

3.2 改進(jìn)的Faste r R-CNN 負(fù)荷特征識(shí)別算法

在采集的戶用電表典型負(fù)荷特征數(shù)據(jù)生成的電壓-電流軌跡曲線中,可了解到負(fù)荷特征曲線在細(xì)節(jié)處圖像特征不夠明顯,且圖像尺寸較小。如圖5所示。

圖5 戶用電表典型負(fù)荷特征數(shù)據(jù)生成的電壓 電流軌跡曲線Fig.5 Voltage-current trajectory curve generated by typical load characteristic data of household electricity meter

針對(duì)戶用電表典型負(fù)荷特征的數(shù)據(jù)特點(diǎn),提出一種改進(jìn)Faster R-CNN 的負(fù)荷特征識(shí)別算法,即:

(1) 增大模型輸入圖像尺寸。在采集的電表負(fù)荷特征數(shù)據(jù)中,原圖大小為560像素×420像素,但識(shí)別模板的像素水平平均較低。使用原Faster RCNN 模型的輸入尺寸800像素×600像素,就需要對(duì)原圖進(jìn)行縮小,因此待識(shí)別的特征負(fù)荷圖像便會(huì)同步縮小三分之一,故丟失了更多的負(fù)荷圖像曲線的細(xì)節(jié),導(dǎo)致網(wǎng)絡(luò)難以對(duì)小目標(biāo)進(jìn)行有效學(xué)習(xí)。因此在原圖基礎(chǔ)上,考慮將負(fù)荷圖像長(zhǎng)邊下采樣到800像素或短邊下采樣到600 像素,代替原始Faster R-CNN 中長(zhǎng)邊560像素或短邊420像素,增大訓(xùn)練圖像尺寸,保留更多負(fù)荷圖像曲線的細(xì)節(jié),提高對(duì)小目標(biāo)圖像細(xì)節(jié)的識(shí)別效果。

(2) 替換模型特征提取網(wǎng)絡(luò)。用于學(xué)習(xí)的模板圖像中曲線變化尺寸較小,寬高之比較為固定,而實(shí)際圖像曲線變化尺寸較大,寬高比多變。差異較大的圖像曲線變化尺寸會(huì)對(duì)模型的識(shí)別造成極大的干擾。為解決該問題,將Faster R-CNN 目標(biāo)檢測(cè)模型特征提取網(wǎng)絡(luò)VGG16替換為Inception V2網(wǎng)絡(luò),以滿足對(duì)不同尺度的負(fù)荷特征圖像曲線的特征提取。

不同于其他卷積神經(jīng)網(wǎng)絡(luò)在加深網(wǎng)絡(luò)深度方向發(fā)展,Inception網(wǎng)絡(luò)拓寬了網(wǎng)絡(luò)的寬度。Inception網(wǎng)絡(luò)在寬度方向使用不同大小的卷積核進(jìn)行特征提取,可以同時(shí)提取不同尺度的特征。其結(jié)構(gòu)原理圖如圖6所示。

圖6 Inception網(wǎng)絡(luò)結(jié)構(gòu)原理圖Fig.6 Inception network structure schematic diagram

改進(jìn)后的Faster R-CNN 負(fù)荷特征識(shí)別算法模型結(jié)構(gòu)如圖7所示,由4部分組成:第一部分為Inception V2網(wǎng)絡(luò),第二部分是區(qū)域建議網(wǎng)絡(luò),第三部分為區(qū)域特征圖生成網(wǎng)絡(luò)ROI pooling,第四部分是分類與回歸檢測(cè)網(wǎng)絡(luò)。采用Inception V2網(wǎng)絡(luò)作為特征提取網(wǎng)絡(luò),用于實(shí)現(xiàn)對(duì)輸入圖像進(jìn)行特征提取,然后將提取得到的特征圖,輸入到第二部分區(qū)域建議網(wǎng)絡(luò)中,計(jì)算得出存在需要識(shí)別的目標(biāo)區(qū)域,作為感興趣區(qū)域;在特征圖上的感興趣區(qū)域,通過ROI pooling生成感興趣區(qū)域特征圖,然后進(jìn)行分類與回歸預(yù)測(cè)。

圖7 改進(jìn)的Faster R-CNN 結(jié)構(gòu)Fig.7 Improved Faster R-CNN structure

4 算例分析

4.1 負(fù)荷辨識(shí)數(shù)據(jù)集

下載的Plaid數(shù)據(jù)集包含了美國(guó)某家庭一周時(shí)間的負(fù)荷數(shù)據(jù),數(shù)據(jù)分為A 相和B相。每相上連接了不同的負(fù)荷。已知采樣頻率為12 MHz,每個(gè)周期采樣200次,因此獲得的電壓 電流特征為1×100的序列。由于該數(shù)據(jù)集中缺少B相的電壓數(shù)據(jù),因此本文僅在A 相上進(jìn)行試驗(yàn)。

根據(jù)數(shù)據(jù)集中負(fù)荷種類,尋找對(duì)應(yīng)的電流與無功電壓數(shù)據(jù),獲得每種負(fù)荷的特征量,產(chǎn)生新的數(shù)據(jù)集。將得到的新的數(shù)據(jù)集分成用于識(shí)別網(wǎng)絡(luò)的訓(xùn)練集、測(cè)試集與驗(yàn)證集。

數(shù)據(jù)集是用于負(fù)載識(shí)別的公開數(shù)據(jù)集,最初版本包含了11種負(fù)載類別,200多個(gè)不同設(shè)備的穩(wěn)態(tài)運(yùn)行的電壓 電流采樣值。該數(shù)據(jù)集不斷被其他研究人員擴(kuò)充,現(xiàn)已有16種負(fù)載類別,1 876條負(fù)載數(shù)據(jù),采樣頻率達(dá)到30 MHz。每周期500個(gè)采樣值。但該數(shù)據(jù)集中包含了許多設(shè)備待機(jī)狀態(tài)下的采樣數(shù)據(jù),其視在功率大多小于0.1 W,在實(shí)際工況下,1 W 以內(nèi)的負(fù)荷投切事件很難被捕捉到。將該數(shù)據(jù)集中的實(shí)驗(yàn)數(shù)據(jù)經(jīng)過篩選后,得到數(shù)據(jù)如表1所示。

表1 數(shù)據(jù)集整理Table 1 Data set collation

表1所示共計(jì)11種負(fù)荷,1 631條數(shù)據(jù),將其劃分訓(xùn)練集、測(cè)試集與驗(yàn)證集。通過前文介紹的數(shù)據(jù)處理方法將數(shù)據(jù)處理為識(shí)別網(wǎng)絡(luò)可用的形式。

4.2 建立非入侵式典型負(fù)荷識(shí)別模板

首先將每一種負(fù)荷獨(dú)立運(yùn)行時(shí)的電流波形圖作為輸入,對(duì)卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,實(shí)驗(yàn)涉及幾種常見的家用典型負(fù)荷,包括空調(diào)、熒光燈、電風(fēng)扇、冰箱等。

將圖片輸入網(wǎng)絡(luò)后,經(jīng)過第一次卷積運(yùn)算后得到提取的特征圖。圖8所示的戶用典型負(fù)荷獨(dú)立運(yùn)行可視化圖像即為待訓(xùn)練的非入侵式典型負(fù)荷識(shí)別模板。

圖8 戶用典型負(fù)荷獨(dú)立運(yùn)行可視化圖像Fig.8 User with typical load independent operation visualization image

4.3 Faster R-CNN 算法驗(yàn)證

配準(zhǔn)好的戶用典型負(fù)荷圖像按照6∶2∶2的比例作為數(shù)據(jù)集,并劃分訓(xùn)練集、測(cè)試集和驗(yàn)證集,利用其中心點(diǎn)特征信息的同時(shí),也利用中心點(diǎn)周圍的像素點(diǎn)信息。

將負(fù)載電流分解為有源和非有源正交分量,建立負(fù)荷電壓-無功電流曲線,將其作為顯著的電器特征。采用負(fù)荷的電壓、電流和負(fù)荷電壓-無功電流軌跡信息,生成了精度更高、尺寸更小的電器圖像特征,作為Faster R-CNN 的特征數(shù)據(jù)。實(shí)驗(yàn)結(jié)果表明:采用基于負(fù)荷電壓-無功電流的Faster R-CNN人工神經(jīng)網(wǎng)絡(luò),可以顯著區(qū)分不同種電器。如圖9所示為戶用典型負(fù)荷獨(dú)立運(yùn)行可視化圖像的識(shí)別結(jié)果圖。

圖9 戶用典型負(fù)荷獨(dú)立運(yùn)行可視化圖像識(shí)別結(jié)果圖Fig.9 Visual Image recognition result graph for independent operation with typical load of users

為了避免過度擬合,使模型具有廣泛的適用性,在訓(xùn)練了深度學(xué)習(xí)模型后,采用10 折交叉驗(yàn)證[20]。在K 折疊交叉驗(yàn)證中,原始數(shù)據(jù)集被隨機(jī)劃分為K 個(gè)大小相等的子集。保留K 個(gè)子集中的一個(gè)子集作為測(cè)試模型的驗(yàn)證數(shù)據(jù),剩余的K-1子集用作訓(xùn)練數(shù)據(jù)。然后,交叉驗(yàn)證過程重復(fù)K次,每K 個(gè)子集使用一次作為驗(yàn)證數(shù)據(jù)。最后對(duì)10次交叉驗(yàn)證的結(jié)果的正確率的平均值作為對(duì)算法精度的估計(jì)。

由圖10可見,對(duì)于非線性負(fù)載(如白熾燈、洗衣機(jī)等)的識(shí)別效果達(dá)到了預(yù)期的效果,但對(duì)于線性負(fù)載(如電風(fēng)扇、吹風(fēng)機(jī)等)的識(shí)別準(zhǔn)確率不算太高。數(shù)據(jù)集中的加熱器等負(fù)荷由于狀態(tài)單一,因此識(shí)別效果較其他線性負(fù)荷表現(xiàn)優(yōu)異。

圖10 數(shù)據(jù)集識(shí)別結(jié)果圖Fig.10 Dataset recognition result graph

將傳統(tǒng)CNN、改進(jìn)前與改進(jìn)后的Faster RCNN 得到的識(shí)別準(zhǔn)確率結(jié)果進(jìn)行對(duì)比如表2所示,根據(jù)文獻(xiàn)[21]可知,采用灰度電壓 電流軌跡作為負(fù)荷特征,并使用自定義的CNN 進(jìn)行負(fù)荷識(shí)別。這種方法雖然將電壓、電流數(shù)據(jù)進(jìn)行可視化,但圖像色調(diào)單一,未考慮顏色維度,且文獻(xiàn)[17]的網(wǎng)絡(luò)結(jié)構(gòu)比較簡(jiǎn)單,最終導(dǎo)致識(shí)別準(zhǔn)確率不高。改進(jìn)后的Faster R-CNN 在數(shù)據(jù)標(biāo)準(zhǔn)化的過程雖然縮小了同類負(fù)荷間的差異,同時(shí)也縮小了相似負(fù)荷特征負(fù)荷間的差異。因此經(jīng)過多次實(shí)驗(yàn),測(cè)試集在經(jīng)過識(shí)別后的準(zhǔn)確率可達(dá)80%。

表2 改進(jìn)后的方法與傳統(tǒng)方法的對(duì)比Table 2 Comparison of the improved method with the traditional method

5 結(jié)論

本文提出了由改進(jìn)的Faster R-CNN 提取電壓-電流序列特征后連接全鏈接層實(shí)現(xiàn)對(duì)負(fù)荷特征的識(shí)別,該方法在傳統(tǒng)的Faster R-CNN 目標(biāo)檢測(cè)算法基礎(chǔ)上,增大了模型輸入圖像尺寸以提高對(duì)小目標(biāo)缺陷的檢測(cè)效果,替換模型特征提取網(wǎng)絡(luò)VGG16為Inception V2網(wǎng)絡(luò),以滿足對(duì)不同尺度的負(fù)荷特征圖像曲線的特征提取。

在Plaid數(shù)據(jù)集上驗(yàn)證本文的識(shí)別方法,再用傳統(tǒng)的負(fù)荷識(shí)別方法結(jié)果與未改進(jìn)的Faster RCNN 進(jìn)行識(shí)別的結(jié)果進(jìn)行對(duì)比。在Plaid數(shù)據(jù)集上的識(shí)別網(wǎng)絡(luò)僅有1.3萬個(gè)參數(shù)的情況下,改進(jìn)后的Faster R-CNN 對(duì)負(fù)荷的識(shí)別準(zhǔn)確率可達(dá)80%。

通過數(shù)據(jù)驗(yàn)證,該方法顯著減小了數(shù)據(jù)處理、識(shí)別網(wǎng)絡(luò)的計(jì)算量,使識(shí)別的準(zhǔn)確率與召回率均有提升,證明了改進(jìn)后的Faster R-CNN 有效。