適于低功率狀態(tài)的多特征融合負荷分解方法

李子凱，岳寶強，楊 波，周忠堂，王春寶

（國網(wǎng)山東省電力公司臨沂供電公司，山東 臨沂 276000）

0 引言

非侵入式負荷監(jiān)測技術(shù)（non-intrusive load monitoring，NILM）最早由Hart［1］提出，它可以將目標(biāo)電器的負荷從總線負荷中分解出來。由于該方法不需要對用戶電器進行改造或干預(yù)，而是通過收集和分析用戶總負荷數(shù)據(jù)如智能電表量測值來實現(xiàn)分解，方式更加靈活和實用，在電力系統(tǒng)的負荷管理、能源調(diào)度等領(lǐng)域具有較好應(yīng)用前景［2］。

自Kelly［3］提出利用深度學(xué)習(xí)方法解決NILM 問題以來，目前的研究大多基于深度學(xué)習(xí)方法?？紤]到傳統(tǒng)滑動窗口邊緣預(yù)測困難，Zhang 等人［4］提出了基于卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural network，CNN）的序列到點（sequence to point，S2P）的負荷分解方法，針對滑動窗口中的總線功率序列，該方法僅預(yù)測窗口中間位置對應(yīng)的支線功率，這使得模型可以充分利用滑動窗口中的上下文信息來重構(gòu)支線功率，避免了窗口邊緣處上下文缺失導(dǎo)致的分解誤差，與序列到序列（sequence to sequence，S2S）方法相比，極大提升了對開關(guān)型電器的功率分解精度。Rafiq 等人［5］提出了兩個深度遞歸神經(jīng)網(wǎng)絡(luò)模型長短期記憶網(wǎng)絡(luò)（long short term memory，LSTM）和門控循環(huán)單元（gated recurrent unit，GRU），并引入了正則化來提高模型的性能。為進一步提升NILM 的分解精度，Yue 等人［6］提出一種基于雙向Transformer 模型的非侵入式負荷分解方法。

相比于其他分解方法，上述方法效果有所提升，但在分解多狀態(tài)電器時性能會顯著下降。為此，Chen 等人［7］提出了一種規(guī)模和上下文感知的CNN結(jié)構(gòu)，Langevin 等人［8］提出了一種基于變分自編碼器（variational autoencoders，VAE）框架的負荷分解方法。這兩種方法都能生成更復(fù)雜的負荷曲線，改善多狀態(tài)電器的功率信號重構(gòu)效果。考慮到多狀態(tài)電器前后狀態(tài)有邏輯關(guān)聯(lián)，羅平等人［9］選擇能考慮過去和未來運行狀態(tài)變化的雙向長短期記憶網(wǎng)絡(luò)（bidirectional long short-term memory，Bi-LSTM），并采用一種基于樹結(jié)構(gòu)的概率密度估計方法選擇該網(wǎng)絡(luò)的超參數(shù)以提高分解的精度。針對現(xiàn)有分解方法需要較多先驗信息，且對功率相近電器或小功率電器難以分解的問題，崔亮節(jié)等人［10］提出了一種考慮分時段狀態(tài)行為的非侵入式負荷分解方法。

在基于深度學(xué)習(xí)的負荷分解方法中，有效的特征提取和融合方法一直是研究重點。由于使用單個波形特征很難實現(xiàn)高精度負荷分解，Li 等人［11］提出一種基于時頻特征融合的非侵入式負荷分解雙流卷積神經(jīng)網(wǎng)絡(luò)。類似地，Chen 等人［12］利用監(jiān)測的能量數(shù)據(jù)構(gòu)建了保存足夠信息的時態(tài)和頻譜負荷特征，這兩種類型負載特征的融合可以有效提高負荷分解性能。Feng 等人［13］提出一種多通道時空特征融合方法，將卷積神經(jīng)網(wǎng)絡(luò)提取的空間特征與遞歸神經(jīng)網(wǎng)絡(luò)提取的時間特征進行融合，并引入了注意力模塊，進一步提高了模型的性能。針對目前方法長時間序列中遠距離相關(guān)信息難以獲取等問題，王丹宇等人［14］提出一種基于特征融合與Transformer 模型的負荷分解方法。趙安軍等人［15］提出一種基于自注意力的非侵入式負荷分解模型，解決了目前神經(jīng)網(wǎng)絡(luò)模型對長激活且周期運行的電器分解效果較差的問題。對分解模型適應(yīng)性較差及精度較低的問題，王家駒等人［16］提出一種基于電器特征多層優(yōu)選的非侵入式負荷分解模型。

總的來說，基于深度學(xué)習(xí)的負荷分解方法取得了較好的分解效果，對多狀態(tài)電器的分解效果也有改善，但在電器低功率狀態(tài)情況下分解效果欠佳。為此，提出一種適于電器在低功率運行狀態(tài)的多特征融合負荷分解方法，主要貢獻有：

1）提出一種時空特征提取方法。通過提取目標(biāo)電器功率序列的局部特征以及時序特征，得到空間模式信息和上下文信息，從而更好地捕捉電器的復(fù)雜行為模式。

2）提出一種含有不同尺度功率波動信息的多特征融合方法。利用跳躍連接將提取到的多尺度特征與解碼器的高級抽象特征相融合，充分考慮多種尺度的信息，防止功率波動不明顯的微小特征丟失，提高模型對目標(biāo)電器整體分解性能的同時也成功分解出了多狀態(tài)電器的低功率狀態(tài)。

最終，在公開數(shù)據(jù)集UKDALE［17］上與對比實驗進行比較，驗證了提出方法的有效性。

1 負荷分解網(wǎng)絡(luò)構(gòu)建

1.1 總體結(jié)構(gòu)

適于低功率狀態(tài)的多特征融合負荷分解方法的模型由特征提取以及特征融合兩部分組成，在特征提取階段主要采用以卷積神經(jīng)網(wǎng)絡(luò)為主的卷積模塊，以在不同尺度上提取局部特征，然后采用Bi-LSTM 網(wǎng)絡(luò)，同時從正向和反向兩個方向提取總線聚合功率數(shù)據(jù)的特征，以克服傳統(tǒng)算法僅單向建模、無法充分利用上下文信息的局限性；最后通過密集跳躍連接實現(xiàn)不同尺度的局部特征與時序特征的融合，從而提高模型對目標(biāo)電器工作模式的感知，方法總體流程如圖1 所示。

圖1 多特征融合負荷分解流程圖Fig.1 Flowchartofloaddecompositionformulti-featurefusion

從總線聚合數(shù)據(jù)分析出細節(jié)波動以及上下文關(guān)聯(lián)信息，并確保模型訓(xùn)練的過程中這些特征信息不會丟失，是一種提升負荷分解精度的有效方法。借鑒圖像分析領(lǐng)域中U 型網(wǎng)絡(luò)（U network，Unet）系列［18-20］、特征金字塔網(wǎng)絡(luò)（feature pyramid network，F(xiàn)PN）［21］和路徑聚合網(wǎng)絡(luò)（path aggregation network，PANet）［22］等方法中特征融合的思想，將總線聚合數(shù)據(jù)的時序特征以及空間局部特征相結(jié)合，充分考慮不同尺度的功率波動信息，構(gòu)建適用于一維數(shù)據(jù)的負荷分解模型。如圖2 所示，模型總體上基于編碼器-解碼器架構(gòu)，圖中分別表示第i層編碼器和解碼器，Cin、Cout分別表示每層卷積塊的輸入通道數(shù)和輸出通道數(shù)，Linput、Lhidden分別表示Bi-LSTM 的輸入層大小和隱藏層大小。輸入信號是總線上的功率聚合數(shù)據(jù)，其中（32，1，1 024）分別表示批次大小、通道數(shù)以及序列長度。當(dāng)卷積塊層數(shù)太少時模型對于部分電器難以收斂，分解效果差；當(dāng)層數(shù)太多時模型效果基本不變，反而會因為參數(shù)量大不易收斂，因此編碼器選取4 層CNN 和1 層Bi-LSTM，CNN 包含卷積層、ReLU 激活單元、批量歸一化層以及最大池化層，通過下采樣逐步增加輸入數(shù)據(jù)的特征通道數(shù)。解碼器部分也由4 層CNN 組成，每層都結(jié)合了來自上層編碼器、同層編碼器以及下層解碼器的特征映射，從而在多尺度上捕獲功率波動信息，同時通過上采樣降低特征通道數(shù)量，保持與原始特征圖大小一致。最后通過1*1 卷積將特征圖減少到所需數(shù)量的通道，并輸出分解功率數(shù)據(jù)。

圖2 多特征融合總體網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 Holistic network architecture for multi-feature fusion

1.2 局部特征和時序特征提取

電器在開關(guān)時刻后的一小段時間范圍內(nèi)功率狀態(tài)會發(fā)生顯著變化，并且不同電器的變化幅值和趨勢存在差異，這是進行電器功率分解的重要局部特征，使用CNN 提取輸入聚合功率序列中相鄰位置的變化特征。在CNN 中，使用多個卷積核從不同角度提取特征，通過多層卷積網(wǎng)絡(luò)堆疊增加模型對更大視野的感知。卷積操作計算如式（1）所示。

式中：f為輸入的一維信號；w為卷積核；k為卷積核的長度；t為輸入與輸出信號的位置索引；τ為卷積核的位置索引；(f*w)(t)為卷積操作的輸出結(jié)果，即輸出信號在位置t的值；f(t+τ-1) 為輸入信號在位置t+τ-1 處的值；w(τ)為卷積核在位置τ處的權(quán)重。在每個位置τ上，卷積核的權(quán)重w(τ)與輸入信號的對應(yīng)位置的值相乘，然后求和，得到輸出信號中的值。

CNN 提取局部特征的公式為

式中：x1為總線聚合數(shù)據(jù)；xi為編碼器第i層CNN 的輸入；C(·) 為卷積操作；P(·)為池化操作；Fcnn(·) 為一層CNN 輸出的結(jié)果。在經(jīng)過4 輪這樣的卷積池化之后，送入Bi-LSTM 層。

負荷分解的輸入通常是一維連續(xù)的總有功功率數(shù)據(jù)，用電器在任意時刻運行狀態(tài)的轉(zhuǎn)換都會引起總線功率波動。對于多狀態(tài)電器如洗碗機，雖然工作模式復(fù)雜，但其工作流程通常有固定的順序，因此總線聚合數(shù)據(jù)中必然存在該電器在一次完整的運行周期內(nèi)的功率特征信息及其在序列上的關(guān)聯(lián)信息。為了能充分學(xué)習(xí)負荷變化的時序關(guān)聯(lián)特征，采用Bi-LSTM 提取功率序列中前后雙向的上下文信息，綜合考慮了過去和未來的信息，能夠更好地處理長期依賴關(guān)系和序列中的復(fù)雜模式。Bi-LSTM 由兩個LSTM 組成，一個從前往后掃描輸入序列，另一個從后往前掃描輸入序列，兩個LSTM 的輸出會被連接在一起，最終形成一個維度為2 ×Lhidden的輸出向量。Bi-LSTM 層輸出的結(jié)果以及之前4 輪卷積的結(jié)果都將用于解碼器模塊特征融合的輸入。

1.3 多特征融合機制

傳統(tǒng)的深度學(xué)習(xí)網(wǎng)絡(luò)特征提取會隨著網(wǎng)絡(luò)層數(shù)的增加逐漸丟失功率波動不明顯的微小特征，從而影響低功率狀態(tài)分解的準(zhǔn)確度。為此，在解碼模塊的每一層都設(shè)計了編碼器和解碼器之間的跳躍連接，融合編碼器上層CNN、同層CNN 提取的局部特征；同時設(shè)計了解碼器內(nèi)部之間的跳躍連接，融合下層解碼器已經(jīng)得到的多尺度局部特征以及時序特征。這樣，解碼模塊每一層的特征圖都融合了不同層CNN 提取的局部特征以及Bi-LSTM 提取的時序特征，盡量保持低層CNN 得到的細粒度細節(jié)信息，最終得到多尺度空間模式信息和上下文信息，提升方法的分解效果。

圖3 跳躍連接特征融合示意圖Fig.3 Illustration of skip-connection feature fusion

使用多層卷積層來提取空間局部特征，每層可以捕捉到不同尺度的功率波動信息。圖3 中特征融合部分的目標(biāo)是將這些來自不同層的特征圖以及Bi-LSTM 網(wǎng)絡(luò)的特征圖融合在一起，以獲得豐富的特征表示，同時確保特征圖的分辨率保持一致。在特征融合過程中，有3 種關(guān)鍵操作：來自相同尺度編碼器層的特征圖通過跳躍連接直接傳遞給解碼器部分，這樣可以保留特定尺度的信息，而不引入分辨率變化；對較小尺度編碼器層的特征圖進行池化下采樣，以減小分辨率，這樣可以融合低層細節(jié)特征，同時在統(tǒng)一特征圖分辨率的基礎(chǔ)上傳遞這些信息；在解碼器內(nèi)部的跳躍連接中，使用雙線性插值法對特征圖進行上采樣，從而放大特征圖的分辨率，傳遞高級抽象特征。

在獲得5 個相同分辨率的特征圖后，使用64 個大小為1*3 的卷積核對這些特征圖進行卷積操作。這個步驟的目的是統(tǒng)一通道的數(shù)量，以減少多余的信息。卷積操作可以學(xué)習(xí)特定的特征表示，將不同特征圖中的信息進行整合和提取。接下來對5 個特征圖按照通道分組進行拼接，將不同尺度的功率波動信息融合在一起。這個步驟將不同編碼器層提取的特征圖整合成一個更豐富的特征表示，以便后續(xù)的分析和處理。最后，對融合后的特征進行批量歸一化和激活函數(shù)操作，得到。

式中：i=1，2，…，N為構(gòu)建特征圖所在的層，N為編碼器的層數(shù)；H(·)為通過卷積、批歸一化和ReLU 激活函數(shù)實現(xiàn)特征聚合函數(shù)；D(·) 和U(·)分別為下采樣和上采樣操作。

2 算例分析與結(jié)果

為便于驗證和對比所提方法的性能，在公開數(shù)據(jù)集UK-DALE 上進行負荷分解實驗，并將所提方法與其他方法的性能進行對比。實驗硬件環(huán)境為配置NVIDIA RTX 3060 GPU 12GB 顯存的計算機，軟件平臺基于Python 3.7 及開源機器學(xué)習(xí)框架pytorch。

2.1 數(shù)據(jù)集和預(yù)處理

UK-DALE 采集了5 個英國家庭約2 年的實際用能信息，其中house1、house2 和house5 以1Hz 的采樣頻率采集了總線有功功率，以1/6Hz 的采樣頻率采集支線有功功率。以house1、house5 作為訓(xùn)練集，以house2 作為測試集，測試模型在未參與訓(xùn)練的房屋數(shù)據(jù)上的分解性能，驗證模型的泛化性。由于house1統(tǒng)計的電器數(shù)據(jù)持續(xù)時間較長，為了能夠讓訓(xùn)練集的數(shù)據(jù)選取更加平衡，隨機抽取了house1 中20%的數(shù)據(jù)以及house5 的整個數(shù)據(jù)作為實驗的訓(xùn)練集。

基于電器工作特性，負荷分解領(lǐng)域一般把電器分為4 類［23］。實際生活中大部分電器都屬于類型Ⅰ電器（開/關(guān)型電器）和類型Ⅱ電器（多狀態(tài)電器），這兩類電器一般功率消耗較大，家庭總功耗也主要由這兩類電器產(chǎn)生；類型Ⅲ電器（連續(xù)狀態(tài)電器）使用頻率低，工作模式不穩(wěn)定；類型Ⅳ電器（持續(xù)工作型電器）能耗低且處于持續(xù)運行狀態(tài)。目前NILM 研究主要集中對類型Ⅰ和類型Ⅱ電器的能耗分析。因此，實驗選取具有代表性的5 種電器：類型Ⅰ電器水壺、微波爐、冰箱；類型Ⅱ電器洗衣機、洗碗機。

采集數(shù)據(jù)中存在缺失、重復(fù)、異常值等問題，需要進行重采樣、清洗等一系列處理后才能用于實驗。數(shù)據(jù)重采樣主要解決數(shù)據(jù)集中總線數(shù)據(jù)和支線數(shù)據(jù)在時間上的對齊問題，文中采用降采樣的方式將總線上的數(shù)據(jù)向下與支路數(shù)據(jù)對齊；數(shù)據(jù)清洗主要解決數(shù)據(jù)集中的異常值，在實際數(shù)據(jù)采集過程中由于采集裝置、用電器或電路的原因，原始數(shù)據(jù)常常會有空缺值等異常情況，造成各支線功率的總和與總線功率差異較大，影響最終實驗結(jié)果，文中直接將異常數(shù)據(jù)刪除。

2.2 評價指標(biāo)

采用多個評價指標(biāo)全面評估方法的分解性能［24］，包括平均絕對誤差（mean absolute error，MAE）、準(zhǔn)確率、精確度、召回率和F1值（F1值為精確度和召回率的加權(quán)平均值）。設(shè)yjt和分別為電器j在t時刻的真實功率和預(yù)測功率，給定長度為T的預(yù)測序列，電器j的各評價指標(biāo)定義為：

式中：Mj為電器j的MAE；racc為準(zhǔn)確率；rpre為精確度；rrec為召回率；Itp為真正例，表示正確地將電器開啟狀態(tài)識別為開啟狀態(tài)的樣本點數(shù)量；Itn為真負例，表示正確地將電器關(guān)閉狀態(tài)識別為關(guān)閉狀態(tài)的樣本點數(shù)量；Ifp為假正例，表示原本停止運行的電器但卻被錯誤識別為運行狀態(tài)的樣本點數(shù)量；Ifn為假負例，表示實際為運行狀態(tài)的樣本點的漏識別總數(shù)。

2.3 結(jié)果分析

1）分解結(jié)果性能對比。

為驗證所提負荷分解方法的有效性，在5 種電器上分別進行負荷分解，并與序列到點（sequence to point，S2P）［4］、雙向編碼器表示（bidirectional encoder representations from transformers，BERT）［6］、變分自編碼器（variational autoencoders，VAE）［8］這3 種方法進行多指標(biāo)對比，實驗結(jié)果如表1 所示。表1 的最后給出了5 種電器在測試指標(biāo)上的平均結(jié)果。

表1 功率分解結(jié)果Table 1 Power decomposition results

由表1 可以看出，所提方法在各項分解指標(biāo)上普遍有所提高，為更加直觀地比較分解結(jié)果的準(zhǔn)確性，重點闡述所提方法在MAE 上提升效果。在5 種電器的平均結(jié)果上，MAE 較對比方法平均減少了約36%，與最優(yōu)方法相比減少了約16%。相對于總體來說，多狀態(tài)電器洗碗機和洗衣機平均MAE 較對比方法平均減少了約47%，與最優(yōu)方法相比減少了約18%，有效證明了所提多特征融合方法在多狀態(tài)電器方面分解的優(yōu)勢。總體來說，由于電器的工作模式、啟動頻率以及運行時長的差異，不同電器的MAE 相差較大，但文中方法相對于對比方法均有不同程度的提升。

2）分解結(jié)果可視化。

為更加直觀地對比每種方法在5 種用電器上的分解效果，充分突出文中方法對多狀態(tài)電器低功率狀態(tài)的分解性能，截取出用電器在同一時間段內(nèi)的預(yù)測分解結(jié)果以及真實功率情況，如圖4 所示。

圖4 不同方法對5種電器的負荷分解結(jié)果Fig.4 Load decomposition results for five types of electrical appliances using different methods

由圖4 可以看出，所有方法都能將熱水壺較好地分解出來，這是因為其工作模式簡單，功率特征易區(qū)分，不易受其他電器干擾；但對比方法會在某些時間段難以分解微波爐，原因可能是其運行時間短，功率特征相比于熱水壺不明顯；特別地，在處理多狀態(tài)電器（如洗碗機和洗衣機）時文中方法對低功率狀態(tài)分解性能顯著提升，由圖4 可知即使是洗碗機中的120 W 功率波動應(yīng)用文中所提方法也能有效識別，而由于其功率波動幅值低，且易受總線中大功率波動的影響，導(dǎo)致無法完全有效地分解出來，但相較于其他對比方法依然有很大提升；此外，在處理冰箱時文中和對比方法都將10 W 的待機功率視為0，將其視為總線數(shù)據(jù)的背景噪聲，對于冰箱工作狀態(tài)的分解結(jié)果，文中方法也體現(xiàn)出了很好的優(yōu)越性。這些結(jié)果充分證明了文中所提方法的有效性和實用性。

3）多特征融合效果對比。

為進一步探究多特征融合對負荷分解效果的影響，設(shè)置兩種方法與文中方法進行對比：方法1 將Bi-LSTM 模塊替換為卷積模塊，只考慮多尺度空間特征融合；方法2 僅保留同層編碼器和解碼器跳躍連接，不考慮多尺度空間特征融合。數(shù)據(jù)集劃分方式、參數(shù)設(shè)置和數(shù)據(jù)處理方法都保持不變，針對不同電器負荷分解結(jié)果如表2 所示。表2 是實際上消融實驗結(jié)果對比，與表1 類似，全面度量總體性能。

表2 不同方式特征融合效果對比Table 2 Comparison of different feature fusion methods results

從表2 可以看出，與方法2 相比，方法1 在5 種電器上MAE 平均降低16%左右，證明了多尺度空間特征融合的有效性；文中方法與方法1 相比在5 種電器上MAE 平均降低22% 左右，充分說明了Bi-LSTM 的引入能很好地提取輸入序列中的時序特征，充分挖掘數(shù)據(jù)中的上下文信息，進一步提高方法對目標(biāo)電器分解精度。

3 結(jié)束語

提出了一種適于電器在低功率運行狀態(tài)的多特征融合負荷分解方法，通過一系列嵌套的密集跳躍連接將提取到的多尺度空間特征以及時序特征融合到了一起，充分考慮了不同尺度的功率波動信息，顯著提升了多狀態(tài)電器的低功率狀態(tài)分解的效果。通過實驗比較，發(fā)現(xiàn)加入不同程度的特征融合后，負荷分解的準(zhǔn)確度有不同程度提高，尤其是多特征融合方法能夠在數(shù)據(jù)分布不平衡的情況下提高方法的魯棒性和泛化性能，因此更為適用于負荷分解領(lǐng)域。經(jīng)過實際的實驗結(jié)果對比和對可視化分析的觀察，提出的方法在MAE 指標(biāo)方面相較于其他3 種對比方法，平均提升了超過36% 的精度，驗證了文中方法的優(yōu)越性?？紤]到Bi-LSTM 網(wǎng)絡(luò)的并行運算能力較弱，為負荷分解帶來了一定的時間開銷，這是今后方法改進的重要方向。