基于上采樣金字塔結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)的非侵入負(fù)荷辨識(shí)算法

杜宇，嚴(yán)萌，武昕

（華北電力大學(xué) 電氣與電子工程學(xué)院，北京 102206）

0 引言

隨著我國(guó)能源改革的推進(jìn)［1］，需求側(cè)管理的重要性日益凸顯。作為需求側(cè)管理的基礎(chǔ)，用戶用電數(shù)據(jù)質(zhì)量決定著需求側(cè)管理的精細(xì)程度。通過對(duì)用戶負(fù)荷進(jìn)行監(jiān)測(cè)，獲取用戶實(shí)時(shí)用電數(shù)據(jù)，可以為相關(guān)電力政策的制定提供數(shù)據(jù)支撐，為用戶改善用電行為提供建議［2］，引導(dǎo)用戶合理規(guī)劃用電時(shí)間，進(jìn)而實(shí)現(xiàn)高效的需求側(cè)管理。

負(fù)荷監(jiān)測(cè)技術(shù)分為侵入式和非侵入式兩大類。侵入式負(fù)荷監(jiān)測(cè)主要是通過對(duì)用戶的每個(gè)用電器安裝信息采集設(shè)備，獲取電器用電信息。雖然該技術(shù)得到的數(shù)據(jù)準(zhǔn)確可靠，但是耗資巨大，不利于推廣［3］。相較于侵入式負(fù)荷監(jiān)測(cè)，非侵入式負(fù)荷監(jiān)測(cè)（Non-Intrusive Load Monitoring，NILM）對(duì)于用戶影響小，成本低更具有實(shí)用性。負(fù)荷辨識(shí)是負(fù)荷監(jiān)測(cè)中重要的一環(huán)，傳統(tǒng)負(fù)荷辨識(shí)算法都需要從采集到的電流電壓信號(hào)中提取先驗(yàn)數(shù)據(jù)。如文獻(xiàn)［4］中基于有功和無功功率進(jìn)行負(fù)荷辨識(shí)，文獻(xiàn)［5］中根據(jù)動(dòng)態(tài)時(shí)間彎曲算法計(jì)算實(shí)測(cè)數(shù)據(jù)和先驗(yàn)數(shù)據(jù)的距離來完成負(fù)荷辨識(shí)。隨著智能算法的發(fā)展，大量研究以人工提取特征作為訓(xùn)練數(shù)據(jù)，通過構(gòu)建分類模型進(jìn)行負(fù)荷辨識(shí)。文獻(xiàn)［6］中提出一種基于滑動(dòng)窗的雙邊累積和變點(diǎn)檢測(cè)算法，但沒有具體提出檢測(cè)暫態(tài)過程后的負(fù)荷識(shí)別方法。文獻(xiàn)［7］中提出基于全局與滑動(dòng)窗口相結(jié)合的注意力機(jī)制的負(fù)荷分解模型。文獻(xiàn)［8］中提出一種利用粒子群優(yōu)化（Particle Swarm Optimization，PSO）優(yōu)化神經(jīng)網(wǎng)絡(luò)參數(shù)的方法，提高神經(jīng)網(wǎng)絡(luò)的NILM 精度。文獻(xiàn)［9］中將電流信號(hào)進(jìn)行小波變換從中提取特征作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)，并用構(gòu)建的神經(jīng)網(wǎng)絡(luò)對(duì)負(fù)荷進(jìn)行辨識(shí)。文獻(xiàn)［10］中利用多層神經(jīng)網(wǎng)絡(luò)對(duì)采集到的電流和功率信息進(jìn)行分析，實(shí)現(xiàn)負(fù)荷辨識(shí)。文獻(xiàn)［11］中針對(duì)低頻采樣下的負(fù)荷特征問題，提出了一種可自動(dòng)提取激活特征并識(shí)別類型的卷積神經(jīng)網(wǎng)絡(luò)（Convolution Neural Network，CNN）架構(gòu)。文獻(xiàn)［12］中將有功功率和無功功率作為訓(xùn)練數(shù)據(jù)訓(xùn)練K近鄰（K-Nearest Neighbor，KNN）算法模型完成負(fù)荷辨識(shí)。文獻(xiàn)［13］中提出了融合暫態(tài)電流波形和時(shí)域特征的改進(jìn)方法，將暫態(tài)電流值均方根融合到電流波形圖像以提升相似波形特征負(fù)荷的辨識(shí)正確率。文獻(xiàn)［14］中結(jié)合居民用電行為與外部非電力負(fù)荷特征相關(guān)特性，建立一種基于隨機(jī)森林的家庭負(fù)荷監(jiān)測(cè)模型。文獻(xiàn)［15］中將家電的運(yùn)行電流數(shù)據(jù)轉(zhuǎn)換成圖片形式，建立了能夠處理二維圖像數(shù)據(jù)的卷積神經(jīng)網(wǎng)絡(luò)模型，達(dá)到了負(fù)荷辨識(shí)的目的。文獻(xiàn)［16］中通過一維卷積神經(jīng)網(wǎng)絡(luò)（One-Dimensional CNN，1D-CNN）對(duì)時(shí)序特征進(jìn)行提取，結(jié)合貝葉斯神經(jīng)網(wǎng)絡(luò)，對(duì)光伏出力進(jìn)行時(shí)序預(yù)測(cè)。文獻(xiàn)［17］中利用1D-CNN 對(duì)軸承故障特征隨機(jī)信號(hào)進(jìn)行特征提取，并對(duì)齒輪箱軸承故障進(jìn)行辨識(shí)。文獻(xiàn)［18］中建立1D-CNN 的鉆桿故障診斷模型，根據(jù)鉆桿的加速度信號(hào)對(duì)鉆桿工作狀態(tài)進(jìn)行識(shí)別。1D-CNN 在訓(xùn)練過程中只利用了高級(jí)信號(hào)特征，對(duì)低級(jí)信號(hào)特征表現(xiàn)不足，如何自動(dòng)全面地利用信號(hào)特征進(jìn)行分類是一個(gè)研究難點(diǎn)。在實(shí)際應(yīng)用中，由于受到存儲(chǔ)技術(shù)的限制，在長(zhǎng)期的負(fù)荷數(shù)據(jù)采樣過程中無法實(shí)現(xiàn)實(shí)時(shí)高頻采集，得到的負(fù)荷數(shù)據(jù)往往缺乏時(shí)序性。存儲(chǔ)的數(shù)據(jù)量遠(yuǎn)遠(yuǎn)小于負(fù)荷正常運(yùn)行時(shí)的數(shù)據(jù)量，由于負(fù)荷電流是隨時(shí)間變化的，當(dāng)負(fù)荷在某時(shí)刻發(fā)生投切，負(fù)荷狀態(tài)不僅與當(dāng)前時(shí)刻有關(guān)，還與其投切發(fā)生之前的狀態(tài)信息有關(guān)，因此解決數(shù)據(jù)的時(shí)序性問題至關(guān)重要。

針對(duì)上述兩個(gè)問題，本文提出了一種基于上采樣金字塔結(jié)構(gòu)的1D-CNN 非侵入負(fù)荷辨識(shí)算法，主要有三個(gè)關(guān)鍵部分：1）本文立足于實(shí)際應(yīng)用場(chǎng)景，提出非侵入式負(fù)荷監(jiān)測(cè)系統(tǒng)架構(gòu)。該架構(gòu)采用端側(cè)數(shù)據(jù)采集，云側(cè)模型訓(xùn)練，邊側(cè)模型部署結(jié)構(gòu)，實(shí)現(xiàn)非侵入式負(fù)荷的快速辨識(shí)。2）針對(duì)一維向量型數(shù)據(jù)樣本，在時(shí)間維度進(jìn)行上采樣，擴(kuò)展數(shù)據(jù)在時(shí)間維度上的相關(guān)特征信息，解決采集數(shù)據(jù)時(shí)序性缺失的問題。3）利用雙向金字塔結(jié)構(gòu)對(duì)傳統(tǒng)1D-CNN 進(jìn)行優(yōu)化，使得負(fù)荷特征利用更加全面，進(jìn)一步提高算法的運(yùn)行效率與準(zhǔn)確率。所提算法在實(shí)驗(yàn)室中進(jìn)行測(cè)試，驗(yàn)證其有效性。

1 上采樣雙向金字塔的1D-CNN原理

1.1 非侵入式負(fù)荷辨識(shí)原理

非侵入式負(fù)荷監(jiān)測(cè)系統(tǒng)通過在用戶電力入口處安裝數(shù)據(jù)采集裝置獲取用戶混合用電信息，并將采集到的混合信號(hào)分解為多個(gè)獨(dú)立未知負(fù)荷信號(hào)，最終通過負(fù)荷辨識(shí)算法實(shí)現(xiàn)對(duì)未知負(fù)荷的識(shí)別，獲取用戶內(nèi)部不同負(fù)荷的能耗信息與運(yùn)行規(guī)律。由于該系統(tǒng)不需要在每一個(gè)負(fù)荷端口放置采集裝置，安裝成本大大降低，而且該系統(tǒng)不會(huì)對(duì)用戶造成影響。

對(duì)于非侵入式負(fù)荷監(jiān)測(cè)問題，傳統(tǒng)機(jī)器學(xué)習(xí)模型雖然在處理時(shí)序負(fù)荷數(shù)據(jù)取得了較大的進(jìn)展，但是將特征提取與分類作為兩個(gè)獨(dú)立部分進(jìn)行處理，難以得出最優(yōu)解。卷積神經(jīng)網(wǎng)絡(luò)通過卷積層自動(dòng)提取負(fù)荷特征，全連接層實(shí)現(xiàn)負(fù)荷分類將特征提取與分類過程融合到一起，使得求最優(yōu)解變得容易。傳統(tǒng)CNN 與1D-CNN 的不同之處在于卷積核的尺寸不同。1D-CNN 在處理時(shí)序數(shù)據(jù)時(shí)無需將其轉(zhuǎn)化為二維圖像數(shù)據(jù)，對(duì)于處理一維時(shí)序數(shù)據(jù)更加適用，效率更高。如圖1 所示，一維卷積核是通過卷積神經(jīng)網(wǎng)絡(luò)算法的不斷迭代得到。利用最優(yōu)一維卷積核，通過不斷滑動(dòng)對(duì)原始一維信號(hào)進(jìn)行卷積運(yùn)算，得到能夠表征此類信號(hào)的時(shí)域特征。一維卷積核在運(yùn)算過程中無需進(jìn)行復(fù)雜的矩陣運(yùn)算，產(chǎn)生的參數(shù)較少，能夠在訓(xùn)練樣本和迭代次數(shù)更少的情況下得到最優(yōu)的結(jié)果。

端云協(xié)同的非侵入式負(fù)荷監(jiān)測(cè)系統(tǒng)首先通過NILM 裝置采集負(fù)荷獨(dú)立運(yùn)行的負(fù)荷信號(hào)，并通過通信網(wǎng)將數(shù)據(jù)傳輸?shù)皆贫藬?shù)據(jù)庫進(jìn)行儲(chǔ)存。由于云端算力資源豐富，利用云端數(shù)據(jù)庫對(duì)上采樣金字塔結(jié)構(gòu)的1D-CNN 算法進(jìn)行訓(xùn)練，將訓(xùn)練好的算法利用通信網(wǎng)下發(fā)部署到端側(cè)的設(shè)備中。在實(shí)際負(fù)荷監(jiān)測(cè)過程中，通過采集混疊的負(fù)荷數(shù)據(jù)，結(jié)合負(fù)荷分解算法進(jìn)行負(fù)荷分解，最后利用在端側(cè)部署好的辨識(shí)算法實(shí)現(xiàn)負(fù)荷的快速辨識(shí)。圖2 所示為非侵入式負(fù)荷監(jiān)測(cè)系統(tǒng)。

1.2 雙向金字塔結(jié)構(gòu)

相較于辨識(shí)任務(wù)，卷積網(wǎng)絡(luò)計(jì)算的特征提取方法逐漸取代傳統(tǒng)機(jī)器學(xué)習(xí)的特征提取方法，由于卷積神經(jīng)網(wǎng)絡(luò)能夠表示更高級(jí)別的負(fù)荷特征，不同層的特征尺度也不同，從而有助于從單一輸出尺度上計(jì)算特征，但是這種做法的缺點(diǎn)在于只使用了高級(jí)分辨率特征，對(duì)低分辨率的特征表現(xiàn)不足。為了改善這種情況，在傳統(tǒng)特征金字塔結(jié)構(gòu)基礎(chǔ)上增加遞推的自底向上（Bottom-up）路徑，有效地利用底層特征信息，使網(wǎng)絡(luò)特征融合更加充分，大大減少了特征信息的損耗。具體雙向金字塔結(jié)構(gòu)如圖3 所示。

Bottom-up 路徑運(yùn)算過程中三個(gè)相鄰階段特征圖同時(shí)輸入到模塊中。第一個(gè)來自網(wǎng)絡(luò)的較低層級(jí)，此特征圖尺寸較大但通道較淺，具有豐富的細(xì)節(jié)信息，設(shè)特征圖的尺度為H1×W1×C1。第二個(gè)特征圖來自網(wǎng)絡(luò)的中間層，此特征圖尺寸和通道數(shù)都處于中間位置，設(shè)其特征圖尺度為H2×W2×C2。最上層特征圖來自網(wǎng)絡(luò)的較高層，此特征圖尺寸較小但通道較深，包含豐富的類別信息，設(shè)其特征圖尺度為H3×W3×C3。三個(gè)特征圖尺寸之間的關(guān)系為H1=2 ×H2，W1=2×W2，C1=2×C2，H2=2×H3，W2=2×W3，C2=2×C3。

具體融合過程如圖4 所示。首先，低層級(jí)特征圖輸入到由5×5 卷積核組成的卷積層進(jìn)行特征圖調(diào)整，中層級(jí)特征圖輸入到3×3 卷積核組成的卷積層進(jìn)行特征圖調(diào)整，低層卷積層輸出的特征圖尺寸與高層級(jí)特征圖尺寸對(duì)等；然后，中層級(jí)特征圖與高層級(jí)特征圖分別經(jīng)過全局平均池化，1×1 卷積運(yùn)算，并分別與5×5 卷積層處理過的低層特征圖和3×3 卷積層處理過的中層特征圖進(jìn)行加權(quán)運(yùn)算；最后，加權(quán)過的低層級(jí)特征圖、中層級(jí)特征圖和高層級(jí)特征圖進(jìn)行元素相加，完成最后的特征融合。

作為一種深度學(xué)習(xí)模型，卷積神經(jīng)網(wǎng)絡(luò)（CNN）廣泛應(yīng)用于圖像識(shí)別、視頻檢測(cè)等領(lǐng)域，具有從復(fù)雜耦合的數(shù)據(jù)集中自動(dòng)提取高級(jí)特征的能力，消除了傳統(tǒng)方法中復(fù)雜的特征提取過程。CNN 的結(jié)構(gòu)采用局部連接和權(quán)重共享的方法，大幅減小了網(wǎng)絡(luò)參數(shù)的數(shù)量和降低了訓(xùn)練難度，顯著提高了網(wǎng)絡(luò)的泛化能力。在非侵入式負(fù)荷辨識(shí)問題中，由于采集的電壓、電流信號(hào)為一維數(shù)據(jù)，將其轉(zhuǎn)換成圖像數(shù)據(jù)，耗時(shí)耗力不利于負(fù)荷的快速辨識(shí)。因此，本文提出一種用于特征提取的一維卷積層，與傳統(tǒng)的二維卷積層相比，一維卷積層減少了參數(shù)數(shù)量，節(jié)省了負(fù)荷辨識(shí)的時(shí)間和存儲(chǔ)空間。

2 上采樣雙向金字塔的1D-CNN算法

2.1 基于負(fù)荷數(shù)據(jù)時(shí)間維度的上采樣

上采樣需要對(duì)數(shù)字信號(hào)進(jìn)行重采樣，重采樣的采樣率與原來獲得該數(shù)字信號(hào)的采樣率比較，大于原信號(hào)采樣率的稱為上采樣，上采樣的實(shí)質(zhì)也就是內(nèi)插或插值。通過對(duì)負(fù)荷數(shù)據(jù)進(jìn)行上采樣處理，將負(fù)荷一維向量型數(shù)據(jù)升維成二維網(wǎng)格型數(shù)據(jù)，從而擴(kuò)展負(fù)荷數(shù)據(jù)在時(shí)間維度上有價(jià)值的相關(guān)特征信息。

本文通過對(duì)獨(dú)立負(fù)荷數(shù)據(jù)在時(shí)間維度上進(jìn)行上采樣，將負(fù)荷一維向量型數(shù)據(jù)升維成二維網(wǎng)格型數(shù)據(jù)，從而擴(kuò)展負(fù)荷數(shù)據(jù)在時(shí)間維度上相關(guān)特征信息。該上采樣網(wǎng)絡(luò)結(jié)構(gòu)主要包括輸入層、重構(gòu)層、時(shí)間上采樣層，具體網(wǎng)絡(luò)結(jié)構(gòu)如圖5所示。

重構(gòu)層將輸入層輸入的負(fù)荷一維電流數(shù)據(jù)∈Rfr，重構(gòu)成二維網(wǎng)格型數(shù)據(jù)，如式（1）～（2）所示，其中fI表示變量總數(shù)，使用Xi替代。

對(duì)于第TSj層的時(shí)間上采樣層，根據(jù)式（3）對(duì)每個(gè)特征的時(shí)間序列進(jìn)行全連接操作：

2.2 特征提取模塊

對(duì)于特征提取模塊，由3 個(gè)一維卷積（Conv1D）和3 個(gè)平均池化層級(jí)聯(lián)構(gòu)成，并采用雙向金字塔形式設(shè)計(jì)模型中每層卷積核的個(gè)數(shù)。為更好地適應(yīng)時(shí)序數(shù)據(jù)的矢量特性和加快卷積運(yùn)算，采用一維卷積而不是二維卷積（Conv2D），Conv1D的輸入和輸出數(shù)據(jù)是二維的，而Conv2D 則應(yīng)對(duì)三維輸入輸出，更適用于圖像數(shù)據(jù)。Conv1D 主要通過數(shù)據(jù)與卷積核的卷積運(yùn)算來提取數(shù)據(jù)高維特征，且卷積核的方向是Conv1D層輸出的，如式（4）所示：

為降低下一層輸入數(shù)據(jù)長(zhǎng)度和擴(kuò)大感受野的范圍，使用平均池pool(·)來計(jì)算輸入特征矢量的平均值，第l+1 層的第i個(gè)神經(jīng)元平均池化輸出為：

為了簡(jiǎn)化表示特征雙向傳遞的過程，如圖6 所示，虛線箭頭表示低層和中層特征進(jìn)行雙向傳播的過程，其中較長(zhǎng)的虛線①代表低層級(jí)特征圖傳遞到高層級(jí)的過程，較短的虛線②代表中層級(jí)特征圖傳遞到高層級(jí)的過程。

2.3 分類器模塊

從特征提取模塊到分類器模塊，需要采用Flatten 層將二維輸出特征圖展平壓縮成一維特征矢量。分類器模塊包括1 個(gè)全連接層和1 個(gè)輸出層，其中輸出層采用Softmax 激活函數(shù)，全連接層中采用ReLU 激活函數(shù)，神經(jīng)元節(jié)點(diǎn)數(shù)為128，F(xiàn)latten 層的輸出數(shù)據(jù)為yl1，全連接層的輸出特征矢量為：

其中：Wl2和bl2分別表示權(quán)重矩陣和偏置。Softmax 層將yl2轉(zhuǎn)換為1×9 的概率矢量P=(p1，p2，…，p9)，對(duì)應(yīng)識(shí)別9 種負(fù)荷概率，且概率之和為1，Softmax 層的第j個(gè)輸出概率為：

2.4 網(wǎng)絡(luò)優(yōu)化

影響模型泛化性的主要因素是ReLU 函數(shù)在反向傳播時(shí)會(huì)出現(xiàn)梯度消失、過擬合等問題，即模型在學(xué)習(xí)負(fù)荷特征的同時(shí)也會(huì)從數(shù)據(jù)中學(xué)習(xí)噪聲或人為特征，因此，本文在模型中引入正則化處理，從而降低模型復(fù)雜度和不穩(wěn)定程度，避免過擬合的問題。常用的正則化方法有L1 和L2 正則化，分別如式（8）～（9）所示：

L1 正則化：

L2 正則化：

相較于L1 正則化，L2 正則化具有處處可導(dǎo)、便于優(yōu)化的特點(diǎn)，適合應(yīng)用于本文提出的模型。因此，在更新卷積神經(jīng)網(wǎng)絡(luò)全連接層和Softmax 層的權(quán)值時(shí)加入L2 正則化。

2.5 模型評(píng)估

在實(shí)際的負(fù)荷辨識(shí)過程中“誤判”對(duì)模型的整體性能影響較大；例如將電器A 誤判成電器B、電器OFF 誤判成ON時(shí)，導(dǎo)致用戶實(shí)時(shí)掌握的負(fù)荷用電情況不夠準(zhǔn)確。本文采用2 個(gè)標(biāo)準(zhǔn)指標(biāo)來評(píng)估模型的識(shí)別性能，分別為：準(zhǔn)確率ACC（Accuracy）和F-score。準(zhǔn)確率的計(jì)算公式如式（10）所示：

其中：真正例TP（True Positive）表示模型將正類預(yù)測(cè)為正類的樣本數(shù)；假正例FP（False Positive）表示模型將負(fù)類預(yù)測(cè)為正類的樣本數(shù)；真反例TN（True Negative）表示模型將負(fù)類預(yù)測(cè)為負(fù)類的樣本數(shù)；假反例FN（False Negative）表示模型將正類預(yù)測(cè)為負(fù)類的樣本數(shù)。

F-score可根據(jù)精確率P（Precision）和召回率R（Recall）計(jì)算得到，其中，精確率代表對(duì)正結(jié)果識(shí)別正確的數(shù)目在所有識(shí)別為正的結(jié)果中的比例，如式（11）所示；召回率則為對(duì)正結(jié)果識(shí)別正確的數(shù)目在所有正確識(shí)別結(jié)果中的比率，如式（12）所示。

F-score是對(duì)P和R的平衡，如式（13）所示：

3 實(shí)驗(yàn)與結(jié)果分析

3.1 非侵入式負(fù)荷數(shù)據(jù)采集系統(tǒng)及數(shù)據(jù)分析

為了驗(yàn)證本文算法的有效性，利用數(shù)據(jù)采集裝置從實(shí)驗(yàn)室獲取實(shí)際負(fù)荷的運(yùn)行數(shù)據(jù)，構(gòu)建測(cè)試數(shù)據(jù)集。該裝置通過電壓電流互感器將電壓電流信號(hào)強(qiáng)度降低，并采用數(shù)據(jù)采集卡進(jìn)行高頻數(shù)據(jù)采集，最后將數(shù)據(jù)傳輸?shù)椒?wù)器上進(jìn)行后續(xù)處理。

具體實(shí)驗(yàn)參數(shù)為：采集裝置接入電壓220 V，采樣頻率10 kHz。辨識(shí)對(duì)象包括：電磁爐（Induction Cooker，IC）、電熨斗（Electric Iron，EI）、冰 箱（Refrigerator，RE）、電飯煲（Electric Cooker，EC）、電 視（Television，TV）、電水壺（Electric Kettle，EK）、電烤箱（Electronic Oven，EO）、飲水機(jī)（Water Dispenser，WD）和空調(diào)（Air-Conditioning，AC）。當(dāng)上述負(fù)荷單獨(dú)運(yùn)行時(shí)周期電流信號(hào)如圖7 所示。

本文以2∶1 的比例將樣本集分為訓(xùn)練集和測(cè)試集，各子集通過均勻隨機(jī)抽樣從總樣本集中取出。訓(xùn)練集用于對(duì)模型參數(shù)進(jìn)行尋優(yōu)，測(cè)試集用于驗(yàn)證模型的泛化性。雙向特征金字塔多層卷積池化結(jié)構(gòu)可提升網(wǎng)絡(luò)性能，但是隨著層數(shù)的增多，模型中的參數(shù)呈指數(shù)增長(zhǎng)，極大地增加了模型復(fù)雜度。因此，本文根據(jù)樣本長(zhǎng)度、網(wǎng)絡(luò)性能、模型復(fù)雜度，采用3 層卷積池化網(wǎng)絡(luò)結(jié)構(gòu)。

3.2 訓(xùn)練過程分析

首先，利用上采樣網(wǎng)絡(luò)對(duì)負(fù)荷的一維數(shù)據(jù)進(jìn)行升維操作，將一維時(shí)序數(shù)據(jù)轉(zhuǎn)化為二維網(wǎng)格數(shù)據(jù)再將網(wǎng)格型數(shù)據(jù)進(jìn)行轉(zhuǎn)置，并作為輸入到雙向金字塔神經(jīng)網(wǎng)絡(luò)中；然后，卷積層通過一系列的卷積核，對(duì)輸入層的二維網(wǎng)格型數(shù)據(jù)進(jìn)行掃描和運(yùn)算，組合得到高維特征。如圖8 所示，網(wǎng)絡(luò)迭代到90 次以后，雙向金字塔-1D-CNN 損失值趨近于最小，收斂速度較快；在迭代240 次以后傳統(tǒng)的LeNet-1D-CNN［19］損失值才趨于最小，收斂速度相對(duì)較慢。通過對(duì)比可以看出，經(jīng)過優(yōu)化后的雙向金字塔-1D-CNN 的損失值下降更快，在性能上優(yōu)于傳統(tǒng)的LeNet-1D-CNN。

為了更好地展示神經(jīng)網(wǎng)絡(luò)的內(nèi)部參數(shù)，選取第2 個(gè)卷積層的權(quán)重Kernel-1 和偏差Bias-1 以及第3 個(gè)卷積層的權(quán)重Kernel-2 和偏差Bias-2 進(jìn)行展示，如圖9 所示，卷積核內(nèi)部參數(shù)、偏置內(nèi)部參數(shù)在迭代過程中逐漸收斂到穩(wěn)定。進(jìn)一步分析可以看出，當(dāng)?shù)?0 次左右時(shí)，各個(gè)參數(shù)相對(duì)趨于穩(wěn)定，進(jìn)一步說明本文算法在收斂速度、算法效率等方面優(yōu)于傳統(tǒng)的1D-CNN。

將最后輸出的向量中數(shù)值作為判斷負(fù)荷類別概率，輸出的概率值保留小數(shù)點(diǎn)后2 位。如圖10 所示，混淆矩陣的每一行代表了預(yù)測(cè)類別的概率，每一列代表了數(shù)據(jù)的真實(shí)類別。對(duì)角線上的值表示負(fù)荷被正確分類的概率，顏色越深代表概率值越大，作為此種負(fù)荷的可能性就越高。每個(gè)混淆對(duì)角線矩陣顯示了9 類中每類負(fù)荷的預(yù)測(cè)精度。本文算法的識(shí)別精度較高，這意味著該算法可以學(xué)習(xí)更高級(jí)別和更多的特征，以提高預(yù)測(cè)性能。

為了驗(yàn)證本文算法的有效性，選取了以下4 種算法作為對(duì)比。

1）文獻(xiàn)［20］中采用4 種負(fù)荷特征參數(shù)（電流、有功功率、無功功率、功率因素）作為算法的觀測(cè)向量，通過算法學(xué)習(xí)和多次迭代得到多參數(shù)的隱馬爾可夫模型（Multi-Parameter Hidden Markov Model，MPHMM），完成對(duì)負(fù)荷的最終辨識(shí)。

2）LeNet-1D-CNN 算法［19］首先是對(duì)傳統(tǒng)的LeNet 神經(jīng)網(wǎng)絡(luò)卷積層進(jìn)行降維，但在辨識(shí)階段表現(xiàn)不是很好，主要原因是LeNet 神經(jīng)網(wǎng)絡(luò)在最初設(shè)計(jì)時(shí)適用于圖像辨識(shí)領(lǐng)域。

3）文獻(xiàn)［15］中利用局部平均分解算法對(duì)采集到的混合信號(hào)進(jìn)行負(fù)荷分離，并提取獨(dú)立負(fù)荷特征，建立了能夠處理二維圖像數(shù)據(jù)的卷積神經(jīng)網(wǎng)絡(luò)模型，該模型將一維電流數(shù)據(jù)轉(zhuǎn)化為二維圖像數(shù)據(jù)的過程繁瑣，不能快速地進(jìn)行負(fù)荷辨識(shí)。

4）文獻(xiàn)［13］中提出了融合暫態(tài)電流波形和時(shí)域特征的改進(jìn)方法，將暫態(tài)電流值均方根融合到電流波形圖像中，該方法在文獻(xiàn)［15］的基礎(chǔ)上融合暫態(tài)特征，但是并沒有解決數(shù)據(jù)轉(zhuǎn)化繁瑣、辨識(shí)效率較低的問題。

本文提出上采樣雙向金字塔卷積神經(jīng)網(wǎng)絡(luò)算法，通過上采樣來彌補(bǔ)數(shù)據(jù)時(shí)序性缺失，結(jié)合上采樣雙向金字塔來優(yōu)化傳統(tǒng)LeNet-1D-CNN 結(jié)構(gòu)。從圖11 中可以看出，隨著迭代次數(shù)的增加，5 種算法的識(shí)別準(zhǔn)確率都在不斷提高。但本文算法的準(zhǔn)確率始終高于其他4 種算法。同時(shí)，在相同迭代次數(shù)下，其他評(píng)價(jià)指標(biāo)的對(duì)比如表1 所示，從表1 中也可以看出本文算法的識(shí)別準(zhǔn)確率達(dá)到了95.21%，F(xiàn)-score達(dá)到了94.93%，相較于對(duì)比算法，在準(zhǔn)確率和F-score上都有優(yōu)勢(shì)。

表1 不同算法的評(píng)價(jià)指標(biāo)對(duì)比 單位：%Tab.1 Comparison of evaluation indexes of different algorithms unit：%

4 結(jié)語

本文立足實(shí)際情況，結(jié)合云側(cè)算力資源豐富與端側(cè)設(shè)備性能良好的優(yōu)點(diǎn)提出了一種端云協(xié)同的非侵入式負(fù)荷監(jiān)測(cè)架構(gòu)；基于非侵入式負(fù)荷監(jiān)測(cè)理論和卷積神經(jīng)網(wǎng)絡(luò)原理，結(jié)合負(fù)荷信號(hào)的一維特點(diǎn)與雙向金字塔結(jié)構(gòu)，提出了一種基于上采樣金字塔結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)非侵入負(fù)荷辨識(shí)算法。通過對(duì)原始單點(diǎn)一維向量型數(shù)據(jù)進(jìn)行重構(gòu)升維，在時(shí)序維度進(jìn)行上采樣，擴(kuò)展負(fù)荷數(shù)據(jù)在時(shí)間維度上有價(jià)值的相關(guān)特征信息，來彌補(bǔ)數(shù)據(jù)時(shí)序性的缺失；通過雙向金字塔來優(yōu)化傳統(tǒng)LeNet-1D-CNN 結(jié)構(gòu)，增加網(wǎng)絡(luò)對(duì)負(fù)荷低級(jí)特征的利用。實(shí)驗(yàn)結(jié)果表明，本文所提的上采樣金字塔結(jié)構(gòu)的1D-CNN 非侵入負(fù)荷辨識(shí)算法，在數(shù)據(jù)時(shí)序缺失的條件下，性能優(yōu)于其他方法，提高了負(fù)荷辨識(shí)準(zhǔn)確率，縮短了負(fù)荷辨識(shí)時(shí)間，進(jìn)一步實(shí)現(xiàn)了負(fù)荷的實(shí)時(shí)監(jiān)測(cè)。未來工作中將會(huì)進(jìn)一步增加負(fù)荷類別，對(duì)算法進(jìn)行優(yōu)化以提高運(yùn)行效率與準(zhǔn)確率，實(shí)現(xiàn)負(fù)荷能耗的動(dòng)態(tài)監(jiān)測(cè)。