基于分治策略的NP-MLSTM非侵入式負(fù)荷辨識(shí)方法

易靈芝，黃其森，劉文翰，趙 健，陳 章，羅顯光

（1.湘潭大學(xué)自動(dòng)化與電子信息學(xué)院&湖南省多能源協(xié)同控制技術(shù)工程研究中心，湘潭 411105；2.湖南省風(fēng)電裝備與能源變換2011協(xié)同創(chuàng)新中心，湘潭 411101；3.大功率交流傳動(dòng)電力機(jī)車系統(tǒng)集成國(guó)家重點(diǎn)實(shí)驗(yàn)室，株洲 412001）

智能用電是堅(jiān)強(qiáng)智能電網(wǎng)的關(guān)鍵環(huán)節(jié)之一，是互動(dòng)服務(wù)體系的核心內(nèi)容[1]。非侵入式負(fù)荷監(jiān)測(cè)[2]NILM（non-intrusive load monitoring）是電力需求側(cè)管理的關(guān)鍵技術(shù)之一。該技術(shù)可以通過(guò)在電力用戶的用電入口處統(tǒng)一安裝計(jì)量?jī)x表和采樣裝置來(lái)實(shí)時(shí)獲得負(fù)荷設(shè)備的用電情況，從而識(shí)別出家庭中每個(gè)電器設(shè)備的類型和工作狀態(tài)。對(duì)于普通居民來(lái)說(shuō)，在線的NILM可以為基礎(chǔ)用戶合理規(guī)劃用電，更改習(xí)慣以降低電費(fèi)，減少不必要的電力消耗。對(duì)于電網(wǎng)公司而言，通過(guò)NILM可以幫助電網(wǎng)公司對(duì)負(fù)荷的種類、工作特性及功率等信息進(jìn)行分析，從而更科學(xué)的制定動(dòng)態(tài)電價(jià)和電力決策[3]。作為NILM的核心，國(guó)內(nèi)外學(xué)者對(duì)負(fù)荷辨識(shí)方法做了很多研究[4-6]?；诒O(jiān)督學(xué)習(xí)的負(fù)荷辨識(shí)相關(guān)的算法諸多，文獻(xiàn)[7]采用卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行非侵入式負(fù)荷特征提取，能夠有效地進(jìn)行負(fù)荷辨識(shí)，但對(duì)具有相似功率的線性負(fù)荷波形，會(huì)影響負(fù)荷辨識(shí)的準(zhǔn)確度。文獻(xiàn)[8]使用快速傅里葉變換FFT（fast Fouri?er transform）提取穩(wěn)態(tài)電流低奇數(shù)次諧波的幅值和相位，使用bagging決策樹BDT（Bagging decision tree）進(jìn)行分類，在公開數(shù)據(jù)集PLAID上進(jìn)行測(cè)試，準(zhǔn)確度和H-mean值分別為92.8%和82.48%?；诜潜O(jiān)督學(xué)習(xí)的負(fù)荷識(shí)別不需要家用電器負(fù)載的標(biāo)簽數(shù)據(jù)，提高了實(shí)際應(yīng)用性，文獻(xiàn)[9]提出了一種用于非侵入式監(jiān)測(cè)的非監(jiān)督訓(xùn)練方法，不需要收集各個(gè)用電訓(xùn)練數(shù)據(jù)和對(duì)用電設(shè)備貼標(biāo)簽，但僅可以使用少量設(shè)備中的數(shù)據(jù)來(lái)構(gòu)建學(xué)習(xí)模型，識(shí)別準(zhǔn)確度的浮動(dòng)范圍較廣。此外，在對(duì)負(fù)荷辨識(shí)之前，對(duì)負(fù)荷數(shù)據(jù)類別不平衡問(wèn)題的研究也十分重要，文獻(xiàn)[10]提出一種SMB-SMOTE算法處理類別不平衡樣本進(jìn)而提高了長(zhǎng)短時(shí)記憶LSTM（long short-term memory）網(wǎng)絡(luò)分類器的分類效果，文獻(xiàn)[11]采用基于邊界的數(shù)據(jù)合成算法對(duì)負(fù)荷數(shù)據(jù)進(jìn)行平衡化處理，通過(guò)改進(jìn)的BP（back propagation）神經(jīng)網(wǎng)絡(luò)對(duì)不平衡數(shù)據(jù)有著不錯(cuò)的分類效果，但是在極端樣本差距下，分類性能不夠明顯。

針對(duì)部分?jǐn)?shù)據(jù)集負(fù)荷樣本存在類別不平衡以及當(dāng)前負(fù)荷辨識(shí)模型的精度不高等問(wèn)題，本文提出了基于分治策略的NP-MLSTM非侵入式負(fù)荷辨識(shí)方法。該方法首先利用Mixup數(shù)據(jù)增強(qiáng)方法進(jìn)行不平衡樣本擴(kuò)充，對(duì)選取的特征變量進(jìn)行核典型關(guān)聯(lián)分析 KCCA（kernel canonical correlation analy?sis），以便選擇負(fù)荷辨識(shí)的最佳匹配特征，然后采用分治策略構(gòu)建二分類多層長(zhǎng)短時(shí)記憶NP-MLSTM（negative and positive multi-layer long short-term memory）網(wǎng)絡(luò)模型，最后將模型在公開數(shù)據(jù)集PLAID上進(jìn)行實(shí)驗(yàn)驗(yàn)證。

1 相關(guān)概念及技術(shù)

1.1 不平衡樣本增強(qiáng)方法

通常非侵入式負(fù)荷曲線的獲取需要經(jīng)過(guò)開關(guān)事件檢測(cè)、負(fù)荷分離這兩個(gè)步驟，而分離后的電流曲線將作為負(fù)荷辨識(shí)的實(shí)驗(yàn)樣本，由于用戶用電不規(guī)律將導(dǎo)致電力負(fù)荷類別不平衡[12]。而數(shù)據(jù)類別不平衡將會(huì)產(chǎn)生訓(xùn)練淹沒現(xiàn)象，即大類樣本影響小類樣本，導(dǎo)致小類樣本特征訓(xùn)練不充分，進(jìn)一步影響分類模型效果。針對(duì)此問(wèn)題，本文使用數(shù)據(jù)增強(qiáng)方法Mixup[13]對(duì)負(fù)荷樣本進(jìn)行平衡化處理。

Mixup是基于鄰域風(fēng)險(xiǎn)最小化原則VRM（vici?nal risk minimization）的數(shù)據(jù)增強(qiáng)方法，使用線性插值得到新的數(shù)據(jù)樣本，具有計(jì)算開銷小、能降低模型對(duì)已損壞標(biāo)簽的記憶、增強(qiáng)模型魯棒性和穩(wěn)定性。Mixup計(jì)算公式為

式中：(xi,yi)和(xj,yj)為從訓(xùn)練樣本數(shù)據(jù)中隨機(jī)抽選 的 兩 組 樣 本 ；為 增 強(qiáng) 后 的 新 樣 本 ，且λ∈[0,1]；λ～Beta(α,α)，α∈(0,∞)，超參數(shù) α 限制特征目標(biāo)之間的插值強(qiáng)度，一般取α=0.5。

本文以公開非侵入式負(fù)荷數(shù)據(jù)集PLAID中樣本8為例，由于原始數(shù)據(jù)中該類樣本數(shù)量大幅少于其他類別的樣本，無(wú)法滿足后續(xù)實(shí)驗(yàn)的要求，因此，本文采用Mixup方法對(duì)其進(jìn)行樣本擴(kuò)充。如圖1所示，隨機(jī)從55個(gè)房間中抽取一組樣本的電流（電壓）數(shù)據(jù)，采用式（1）與第8類樣本電流（電壓）數(shù)據(jù)進(jìn)行Mixup運(yùn)算，得到新的第8類樣本電流（電壓）數(shù)據(jù)。通過(guò)式（2）計(jì)算原樣本與虛擬樣本的余弦相似度，可以得到新樣本的電流（電壓）波形與原樣本相似度分別為99.54%、97.56%。因此，基于Mixup方法擴(kuò)充數(shù)據(jù)樣本可行性較高，能夠?yàn)楹罄m(xù)負(fù)荷識(shí)別提供充足且有效的數(shù)據(jù)支持。

圖1 樣本增強(qiáng)的電流電壓波形Fig.1 Current and voltage waveforms of enhanced samples

式中，Ai和Bi分別為增強(qiáng)前與增強(qiáng)后的數(shù)據(jù)。

1.2 長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)

長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)[14]是一種特殊的遞歸神經(jīng)網(wǎng)絡(luò)，常用于文本標(biāo)注、語(yǔ)音合成、數(shù)據(jù)預(yù)測(cè)等領(lǐng)域，但在非侵入式負(fù)荷辨識(shí)領(lǐng)域應(yīng)用相對(duì)較少。該網(wǎng)絡(luò)只需在輸出層加入sigmoid函數(shù)即可應(yīng)用于分類問(wèn)題中。

LSTM神經(jīng)網(wǎng)絡(luò)的基本單元包括遺忘門、輸入門及輸出門，如圖2所示。

圖2 長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)基本單元Fig.2 Basic unit of long short-term memory network

2 負(fù)荷特征分析

2.1 特征選取

選取合適的特征作為模型訓(xùn)練輸入，能夠增強(qiáng)模型泛化能力、防止模型過(guò)擬合。非侵入式負(fù)荷辨識(shí)領(lǐng)域最重要的數(shù)據(jù)特征為穩(wěn)態(tài)特征、頻域特征等，本文選取典型穩(wěn)態(tài)電流（RawCF）、功率奇次諧波（HarmonicsF）、降采樣電壓電流（BinF）、V-I軌跡（BinaryF）4種特征作為備選特征，如圖3所示。

圖3 4種特征可視化Fig.3 Four types of feature visualization

典型穩(wěn)態(tài)電流的計(jì)算方式是采用電流上升過(guò)零點(diǎn)的位置開始截?cái)嗤暾€(wěn)態(tài)電流，將所有周期內(nèi)相應(yīng)索引點(diǎn)的值累加求均值，得到典型穩(wěn)態(tài)電流數(shù)據(jù)，計(jì)算公式為

二進(jìn)制V-I軌跡的計(jì)算方式為：首先獲取一個(gè)穩(wěn)態(tài)周期下的電壓、電流波形，構(gòu)建 p×p維矩陣；然后將生成的圖片劃分q維度的網(wǎng)格柵欄；進(jìn)一步將含有像素的網(wǎng)格柵欄指定為1，反之指定為0，得到q×q維只包含0與1的矩陣；最后將矩陣扁平化，得到q×q長(zhǎng)度為的V-I軌跡特征變量。

上述4種特征變量均只能從單一維度反應(yīng)負(fù)荷特征，因此本文將4種特征變量進(jìn)行橫向拼接，融合為一個(gè)新的特征向量，記為融合特征（AllF）。

2.2 相關(guān)性分析

相關(guān)性分析是指對(duì)樣本中的特征變量與樣本標(biāo)簽進(jìn)行關(guān)聯(lián)分析。在統(tǒng)計(jì)學(xué)中相關(guān)性一般指雙變量間的相關(guān)性，而本文中特征變量與樣本標(biāo)簽是多維變量與單變量之間的關(guān)系，無(wú)法直接計(jì)算相關(guān)系數(shù)。為了解決此問(wèn)題，本文利用核典型關(guān)聯(lián)分析[15]判別它們之間的相關(guān)性，其算法步驟如下：

通過(guò)上述步驟，計(jì)算出各特征變量與樣本標(biāo)簽之間的相關(guān)系數(shù)，結(jié)果如表1所示。從表1中可以看出，各變量與樣本標(biāo)簽之間均存在一定的相關(guān)性，可作為負(fù)荷識(shí)別的備選特征。

表1 各特征變量與樣本標(biāo)簽的相關(guān)系數(shù)Tab.1 Correlation coefficients of each feature variable and sample label

3 基于分治策略的NP-MLSTM模型

單一特征并不能涵蓋負(fù)荷數(shù)據(jù)中的所有特性，且將不同特征進(jìn)行簡(jiǎn)單的特征融合也并不能適應(yīng)各種樣本類別。針對(duì)上述問(wèn)題，本文在前文已解決數(shù)據(jù)集類別不平衡的工作基礎(chǔ)上提出一種基于分治策略的非侵入式負(fù)荷辨識(shí)模型NP-MLSTM，模型結(jié)構(gòu)如圖4所示。

圖4 基于分治策略的非侵入式負(fù)荷辨識(shí)模型結(jié)構(gòu)Fig.4 Structure of non-intrusive load identification model based on divide-and-conquer strategy

NP-MLSTM模型具有能夠?qū)㈦S機(jī)特征與對(duì)應(yīng)的樣本類別進(jìn)行最優(yōu)結(jié)合的特點(diǎn)，利用分治策略的思想將多分類問(wèn)題轉(zhuǎn)化為多層擇優(yōu)二分類問(wèn)題。負(fù)荷辨識(shí)算法流程圖如圖5所示，其實(shí)現(xiàn)步驟如下：

圖5 負(fù)荷辨識(shí)算法流程Fig.5 Flow chart of load identification algorithm

步驟1 將少樣本類別數(shù)據(jù)利用Mixup方法增強(qiáng)虛擬樣本數(shù)量，共有I種類別（即I層）；

步驟2 提取樣本中典型穩(wěn)態(tài)電流、前11階功率諧波、降采樣電壓及電流、二進(jìn)制V-I軌跡，集成前四種負(fù)荷特征，共J種特征，并采用核典型關(guān)聯(lián)分析方法驗(yàn)證這些特征含有相關(guān)性；

步驟3 隨機(jī)選取一種類別的樣本Ui，與剩余類別構(gòu)建二分類LSTM模型，將Ui與J種特征（表1所列特征）遍歷進(jìn)行訓(xùn)練二分類LSTM模型，得到樣本的準(zhǔn)確率矩陣1×J；

步驟4 將除Ui以外的樣本重復(fù)步驟3，直至完成所有類別的負(fù)荷識(shí)別，得到(I-1)×J維準(zhǔn)確率矩陣A；

步驟5 對(duì)步驟3和對(duì)步驟4中得到的矩陣A進(jìn)行融合，得到該層最終的準(zhǔn)確率矩陣AI×J，并對(duì)其進(jìn)行尋優(yōu)，找到準(zhǔn)確率最高的i、j，剔除該標(biāo)簽樣本，并固定該層NP-LSTM結(jié)構(gòu)；

步驟6 對(duì)剩余類別的樣本重復(fù)步驟3-5，直至I層數(shù)據(jù)全部尋優(yōu)結(jié)束，得到NP-MLSTM模型結(jié)果。

4 算例分析

本文采用即插即用設(shè)備標(biāo)識(shí)數(shù)據(jù)集PLAID[16]，該數(shù)據(jù)包含美國(guó)賓夕法尼亞州匹茲堡市55戶家庭中11種不同類型的電器負(fù)載電流及電壓測(cè)試值，共包含采樣頻率為30 kHz的1 074個(gè)實(shí)例樣本。

由于該數(shù)據(jù)集樣本類別數(shù)量存在不平衡現(xiàn)象，導(dǎo)致分類模型學(xué)習(xí)偏向于大類樣本，對(duì)小類樣本學(xué)習(xí)不足。因此，本文采用1.1節(jié)數(shù)據(jù)增強(qiáng)方法Mixup對(duì)數(shù)據(jù)集內(nèi)55個(gè)房間中不同數(shù)據(jù)樣本進(jìn)行交叉擴(kuò)充并保存小類別樣本的虛擬樣本。此數(shù)據(jù)增強(qiáng)方案既保證了不同房間的樣本不會(huì)交叉影響，又確保了模型評(píng)價(jià)的準(zhǔn)確度。樣本增強(qiáng)前后各類別數(shù)量如圖6所示。

圖6 樣本增強(qiáng)前后數(shù)量對(duì)比Fig.6 Comparison of the number of samples before and after enhancement

4.1 評(píng)價(jià)指標(biāo)及模型參數(shù)

本文采用準(zhǔn)確率（Accuracy）、精確率（Preci?sion）、召回率（Recall）及F1值（H-mean值）對(duì)分類結(jié)果進(jìn)行多維度分析，分別按照式（14）至式（17）計(jì)算。

式中：TN表示實(shí)際為負(fù)，被識(shí)別為負(fù)的樣本的數(shù)量；TP表示實(shí)際為正，被識(shí)別為正的樣本數(shù)量；FP表示實(shí)際為負(fù)，但被識(shí)別為正的樣本數(shù)量；FN表示實(shí)際為正，但被識(shí)別為負(fù)的樣本的數(shù)量。

NP-MLSTM模型的基礎(chǔ)參數(shù)設(shè)置如下：隱藏層神經(jīng)元數(shù)為20個(gè)；學(xué)習(xí)率為0.000 3；損失函數(shù)0-1損失函數(shù)；訓(xùn)練批次大小為20；時(shí)間步長(zhǎng)設(shè)置為1；迭代次數(shù)設(shè)置為1 000；優(yōu)化策略設(shè)置為自適應(yīng)動(dòng)量的隨機(jī)優(yōu)化方法Adam（adaptive momentum）。

4.2 算法效果分析

為了驗(yàn)證本文所提基于分治策略的NP-ML?STM非侵入式負(fù)荷識(shí)別方法的有效性及優(yōu)越性，首先從PLAID數(shù)據(jù)集中隨機(jī)抽取35個(gè)房間內(nèi)所有樣本作為訓(xùn)練集、10個(gè)房間內(nèi)所有樣本作為測(cè)試集、剩余10個(gè)房間內(nèi)所有樣本作為驗(yàn)證集；然后使用訓(xùn)練集與測(cè)試集確定NP-MLSTM的各層優(yōu)選樣本標(biāo)簽及優(yōu)選特征變量，如表2所示，接著，使用驗(yàn)證集進(jìn)行NP-MLSTM負(fù)荷辨識(shí)實(shí)驗(yàn)。

表2 各層具體結(jié)構(gòu)Tab.2 Specific structure of each layer

NP-MLSTM模型在驗(yàn)證集上負(fù)荷辨識(shí)結(jié)果的混淆矩陣如圖7所示，主對(duì)角線顏色越深，表示樣本識(shí)別的準(zhǔn)確率越高。從圖7中可以看出，所提模型能夠正確識(shí)別絕大多數(shù)樣本，且樣本6、7、9、10、11全部識(shí)別正確。

圖7 混淆矩陣Fig.7 Confusion matrix

各類別樣本識(shí)別的準(zhǔn)確率、精確率、召回率與F1值如表3所示。從結(jié)果可知，11種類別樣本的平均準(zhǔn)確率、精確率、召回率及F1值均達(dá)到92%以上，樣本2、3、6、7、9、10、11類別的準(zhǔn)確率與召回率可高達(dá)100%，說(shuō)明本文所提模型具有較好的辨識(shí)準(zhǔn)確率。出現(xiàn)極少部分樣本錯(cuò)誤識(shí)別的原因可能是由于電流、電壓或其他特征相似程度高，且各類別樣本數(shù)量不一致，或者是因?yàn)樵谀硨佣诸愖R(shí)別時(shí)將該標(biāo)簽錯(cuò)判。

表3 各類別樣本的評(píng)價(jià)指標(biāo)Tab.3 Evaluation indicators of various types of samples %

為了進(jìn)一步體現(xiàn)NP-MLSTM模型負(fù)荷辨識(shí)效果的優(yōu)越性，使用AllF特征作為對(duì)比實(shí)驗(yàn)的模型輸入，將所提模型分別與樸素貝葉斯（na?ve Bayes）、決策樹（decision tree）、潛在狄利克雷分布（latent Dirichlet allocation）、回歸分析（logistic）、隨機(jī)森林（random forest）和長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)等模型在驗(yàn)證集上進(jìn)行辨識(shí)準(zhǔn)確率對(duì)比，如表4所示。結(jié)果表明，在這些模型中，NP-MLSTM模型具有最高的辨識(shí)準(zhǔn)確率，說(shuō)明本文提出的基于分治策略的負(fù)荷辨識(shí)方法是卓有成效的。

表4 識(shí)別模型結(jié)果對(duì)比Tib.4 Comparison of results among different identification models

5 結(jié)語(yǔ)

本文針對(duì)不同類別負(fù)荷樣本不平衡與負(fù)荷辨識(shí)準(zhǔn)確率較低的問(wèn)題，提出一種基于分治策略的NP-MLSTM非侵入式負(fù)荷辨識(shí)方法。該方法首先使用Mixup對(duì)數(shù)據(jù)集中小樣本進(jìn)行虛擬樣本增強(qiáng)；然后使用核典型關(guān)聯(lián)分析對(duì)各特征變量進(jìn)行相關(guān)性分析，并構(gòu)建基于分治策略的多層擇優(yōu)二分類識(shí)別模型；最后將該模型與多個(gè)識(shí)別模型進(jìn)行結(jié)果對(duì)比。結(jié)果表明，該方法能夠有效地選擇用于負(fù)荷識(shí)別的最優(yōu)特征變量，并利用這些特征獲得了92%以上的識(shí)別精度。但本文未使用智能優(yōu)化算法對(duì)模型超參數(shù)進(jìn)行尋優(yōu)，采用該算法可進(jìn)一步完善此問(wèn)題。