多模型分層融合的配用電系統(tǒng)用戶數(shù)據(jù)識別

蔡 軍， 謝 航， 吳高翔， 唐賢倫， 鄒 密

(1. 重慶市復(fù)雜系統(tǒng)與仿生控制重點實驗室(重慶郵電大學(xué))， 重慶 400065； 2. 國網(wǎng)重慶市電力公司電力科學(xué)研究院， 重慶 401120)

1 引言

用戶數(shù)據(jù)識別通過無監(jiān)督學(xué)習(xí)獲得的特征庫與典型用電模式之間建立映射關(guān)系，從而快速挖掘新用戶潛在的用電模態(tài)與規(guī)律，減少不必要的共性行為分析。該方法適應(yīng)了大數(shù)據(jù)時代的發(fā)展，應(yīng)用于業(yè)擴報裝業(yè)務(wù)[1]、電力信息通信客服系統(tǒng)[2]、光伏板積灰狀態(tài)識別[3]等領(lǐng)域。而隨著智能電網(wǎng)理論與實踐的推進，配用電管理系統(tǒng)的時空機理模型和用戶數(shù)據(jù)識別問題日漸復(fù)雜[4-6]。多源用戶的用電數(shù)據(jù)個體差異性較小、波動性強以及負(fù)荷數(shù)據(jù)的非線性和時序性，給配用電系統(tǒng)數(shù)據(jù)識別帶來新挑戰(zhàn)。

用電數(shù)據(jù)識別方法分為兩類，分別是機器學(xué)習(xí)和深度學(xué)習(xí)模型?；跈C器學(xué)習(xí)的代表模型有馬爾可夫模型[7]、隨機森林[8]和支持向量機[9]等。這類模型實時性好、魯棒性強，但需要繁雜的數(shù)據(jù)分析和特征降維操作[10]。而深度學(xué)習(xí)模型憑借強大的自主學(xué)習(xí)能力，彌補傳統(tǒng)機器學(xué)習(xí)方法的不足，提高了模型性能[10]，代表模型有堆疊自編碼器、深度信念網(wǎng)絡(luò)和卷積網(wǎng)絡(luò)等。其中，深度信念網(wǎng)絡(luò)通過逐層訓(xùn)練和微調(diào)，有效地實現(xiàn)特征提取與分類，但隱層單元的超參難調(diào)，模型易收斂于局部最優(yōu)。堆疊自編碼器與深層卷積神經(jīng)網(wǎng)絡(luò)的聯(lián)結(jié)可在少量樣本數(shù)據(jù)上增強特征提取能力，而海量電力數(shù)據(jù)的增長足以滿足卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。此外，卷積神經(jīng)網(wǎng)絡(luò)外部可擴展的網(wǎng)絡(luò)結(jié)構(gòu)、內(nèi)部卷積運算和反向傳播算法賦予了該網(wǎng)絡(luò)強大的數(shù)據(jù)挖掘能力。因此，卷積神經(jīng)網(wǎng)絡(luò)具有一定的數(shù)據(jù)識別前景。

近年來，卷積神經(jīng)網(wǎng)絡(luò)在圖像識別方面取得了突破性進展，同時在電力系統(tǒng)領(lǐng)域研究[10-14]也正如火如荼。文獻[10,11]分別構(gòu)建多維度多通道的融合卷積網(wǎng)絡(luò)和一維卷積網(wǎng)絡(luò)對端到端的時序電力系統(tǒng)暫態(tài)穩(wěn)定特征提取與分類；文獻[12]構(gòu)建故障分類和定位雙支路的卷積神經(jīng)網(wǎng)絡(luò)對多端直流輸電線路故障快速、精確地診斷；文獻[13]以不同網(wǎng)絡(luò)層數(shù)、激活函數(shù)以及池化方式的卷積神經(jīng)網(wǎng)絡(luò)對差異性較小的高壓電纜缺陷識別；文獻[14]用卷積神經(jīng)網(wǎng)絡(luò)對量化后的監(jiān)控警告信息有效識別。以上研究通過縱向增加網(wǎng)絡(luò)的深度和構(gòu)建對稱結(jié)構(gòu)的融合網(wǎng)絡(luò)可獲得較優(yōu)的識別效果，但數(shù)據(jù)特點沒有配用電數(shù)據(jù)復(fù)雜，并且網(wǎng)絡(luò)結(jié)構(gòu)和融合方法仍有如下不足：①縱向堆疊深層網(wǎng)絡(luò)會出現(xiàn)梯度消失的現(xiàn)象；②卷積核采用單一尺寸，不能提取到淺層特征包含的豐富空間信息；③多個全連接層不僅增加計算量，還易過擬合；④模型同等權(quán)重的融合可能得到的分類精度低于基模型。

由于配用電數(shù)據(jù)的復(fù)雜性、現(xiàn)有研究領(lǐng)域的卷積網(wǎng)絡(luò)結(jié)構(gòu)和融合方法的不足，本文提出并運用多模型分層融合的方法對配用電數(shù)據(jù)進行識別。具體方法如下：首先，設(shè)計橫向擴展的遞歸差分卷積網(wǎng)絡(luò)對多源用戶數(shù)據(jù)特征提取，使淺層信息融合時，防止梯度彌散；其次，采用改進自適應(yīng)余弦學(xué)習(xí)率優(yōu)化算法進行訓(xùn)練，保存最優(yōu)模型；最后，對多模型分層加權(quán)融合，以閾值區(qū)間劃分層級，通過新定義混淆矩陣的錯誤樣本數(shù)確定權(quán)值，彌補了單一分類器分類效果不夠理想的缺點。通過對配電系統(tǒng)的用戶數(shù)據(jù)有效識別，有助于提高用戶的用電效率與質(zhì)量，保證電網(wǎng)的安全性與經(jīng)濟性。

2 多模型分層融合方法識別

2.1 遞歸差分卷積網(wǎng)絡(luò)的卷積層構(gòu)建

卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network，CNN)可自主學(xué)習(xí)輸入數(shù)據(jù)特征，避免了人工獲取特征量帶來的局限性和復(fù)雜性，簡化了識別過程[15]，然而在眾多電力數(shù)據(jù)研究中很少從卷積層橫向擴展網(wǎng)絡(luò)結(jié)構(gòu)，所以本文以設(shè)計一維遞歸差分卷積神經(jīng)網(wǎng)絡(luò)為研究對象。

2.1.1 多尺度卷積模塊聯(lián)結(jié)

卷積層是卷積網(wǎng)絡(luò)組成部分之一，主要通過一個小的權(quán)值矩陣即卷積核在輸入數(shù)據(jù)上進行“滑動”，使卷積核內(nèi)的元素與區(qū)域性特征線性運算。但實際的數(shù)據(jù)不全是線性的，為了增強網(wǎng)絡(luò)的泛化性，使用激活函數(shù)。具體的卷積計算表達(dá)式如下：

(1)

式中，x為輸入層；y為n×m的輸出矩陣；I為卷積核的尺寸；wgh為g×h的卷積核；b為偏置；f為激活函數(shù)，常用的非線性激活函數(shù)有Sigmoid、ReLU、Tanh等。

由式(1)知，固定尺寸的卷積核受到感受野大小限制，無法捕捉到淺層特征包含的豐富空間信息。利用多尺度卷積核提取不同感受野的特征，再將其融合，有助于深入挖掘特征之間的空間局部相關(guān)性，提高分類精度。多尺度卷積模塊聯(lián)結(jié)如圖1所示。

圖1 多尺度卷積模塊Fig.1 Multi-scale convolution module

2.1.2 遞歸差分卷積模塊

深度學(xué)習(xí)中，隨著網(wǎng)絡(luò)堆疊梯度消失的現(xiàn)象越明顯，網(wǎng)絡(luò)識別的準(zhǔn)確率先上升接著飽和，最后下降，模型的誤差也會增大。為解決此問題，何凱明等人[16]提出殘差模塊，在淺層的網(wǎng)絡(luò)疊加恒等映射[17]，即y=x。將前一層的輸出傳到后面，使原始所學(xué)的函數(shù)F(x)轉(zhuǎn)化成H(x)=F(x)+x。

基于多尺度卷積與殘差的思想，本文采用層層遞歸式的差分卷積，如圖2所示。

注：conv3表示一維卷積核尺寸為3；Maxpool3表示最大池化層尺寸為3。圖2 遞歸差分模塊Fig.2 Recursive difference module

第一層：由于數(shù)據(jù)特征的時序性，以門控循環(huán)單元的時間分布(Time Distribute，TD)層作為第一層的主支路，將輸入數(shù)據(jù)獨立作用到時間片上，每個時間步對應(yīng)一個輸出；然后利用卷積神經(jīng)網(wǎng)絡(luò)的平移不變性，將多尺度卷積核提取的特征進行拼接，得到近端拼接特征圖。此時多尺度卷積塊不僅是殘差塊，還是第一層的輔支路。

第二層：將上一層的輸出串聯(lián)尺寸為3的卷積核作為下一層的殘差塊，用一個較大卷積核提取融合后的特征，有助于剝離原始數(shù)據(jù)單一的關(guān)系，挖掘不同信息之間的關(guān)聯(lián)性。這樣不免損失部分原始信息，為保留原始數(shù)據(jù)結(jié)構(gòu)又提高數(shù)據(jù)的非線性特性，以尺寸為1卷積核對輸入數(shù)據(jù)進行卷積。

為了防止設(shè)計的差分網(wǎng)絡(luò)過擬合，每個卷積層增加了批歸一化層、L2正則化對各層權(quán)值矩陣進行約束[11]。這種層層遞歸的結(jié)構(gòu)，不僅提高了各級卷積利用率，使所提取的空間特征更加細(xì)致，同時使網(wǎng)絡(luò)結(jié)構(gòu)更加緊湊[18]。

2.2 遞歸差分卷積網(wǎng)絡(luò)

設(shè)計的一維遞歸差分卷積網(wǎng)絡(luò)，如圖3所示。數(shù)據(jù)輸入到卷積層進行特征提?。唤?jīng)過最大池化層縮小特征圖的尺寸，降低過擬合的風(fēng)險[19]；然后利用全局平均池化層(Global Average Pooling layer，GAP)代替平坦層和全連接層，直接對整張?zhí)卣鲌D求平均，以平均值作為屬于某個類別的置信區(qū)間；最后輸入Softmax中返回樣本在各個類別的概率，以最大概率對應(yīng)的類別作為最終結(jié)果。

圖3 遞歸差分卷積網(wǎng)絡(luò)Fig.3 Recursive differential convolutional network

對于卷積神經(jīng)網(wǎng)絡(luò)，引入GAP不僅可以代替虛線中兩層的作用，使網(wǎng)絡(luò)結(jié)構(gòu)更加簡潔，還可以減少全連接層帶來的較大計算量。

2.3 改進卷積網(wǎng)絡(luò)的訓(xùn)練算法

在網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計完成后，通過最小化交叉熵?fù)p失函數(shù)訓(xùn)練網(wǎng)絡(luò)，確定CNN模型。

2.3.1 自適應(yīng)學(xué)習(xí)率優(yōu)化算法

CNN的訓(xùn)練常用隨機梯度下降算法(Stochastic Gradient Descent algorithm，SGD)，該算法存在兩個缺點：①噪聲的引入使權(quán)值更新方向不一定正確。②Hessian矩陣病態(tài)，即迭代的梯度方向和整個最優(yōu)梯度方向不一致，導(dǎo)致?lián)p失函數(shù)下降振蕩大。因此引入自適應(yīng)學(xué)習(xí)率優(yōu)化算法，直接加入了梯度一階矩估計和二階矩估計修正當(dāng)前隨機梯度下降，加速收斂的速度。表達(dá)式如下:

(2)

2.3.2 改進自適應(yīng)學(xué)習(xí)率優(yōu)化算法

由2.3.1節(jié)可知，學(xué)習(xí)率較小，收斂速度慢，學(xué)習(xí)率較大，易錯過局部最小值[20]。為平衡這種矛盾，文獻[20,21]分別提出K階多項式衰減和余弦快照算法，本文基于以上思想，采用部分多項式與快照余弦的融合。表達(dá)式如下：

(3)

(4)

式中，η0為初始學(xué)習(xí)率；T為模型總的批量處理的次數(shù)；C為學(xué)習(xí)率循環(huán)退火次數(shù)，對應(yīng)模型收斂到局部最優(yōu)解的個數(shù)；K為K階因子；mod為求余函數(shù)。

2.4 模型分層加權(quán)融合方法

2.4.1 傳統(tǒng)加權(quán)融合方法

傳統(tǒng)模型加權(quán)融合[22,23]方法原理：依據(jù)不同模型錯分樣本不完全重疊的特性，通過混淆矩陣中錯誤樣本數(shù)確定權(quán)值，從而彌補單模型分類的適應(yīng)度缺陷。

在融合方法中，常選取分類精度高的模型作為基模型，以正類樣本預(yù)測為負(fù)類樣本的數(shù)量越小，所占權(quán)重越大的思想確定權(quán)重，可獲得分類精度高于最優(yōu)單模型。當(dāng)基模型分類精度均大于99%，即對正類樣本分類正確的概率為0.6～0.9，負(fù)類樣本預(yù)測正確的概率不超過0.5/(類別數(shù)-1)時，傳統(tǒng)融合方法很難在最優(yōu)分類的基礎(chǔ)上進一步提高，同時還會出現(xiàn)分類錯誤的樣本數(shù)轉(zhuǎn)移現(xiàn)象。而這種現(xiàn)象對于用戶用電行為的分類是很不利的，因為每類用戶分類直接影響著營銷方案的實施。若分類錯誤的用戶用電量在該區(qū)域總電量占比很大，必會影響日后用戶的用電習(xí)慣與電網(wǎng)效益。

2.4.2 分層加權(quán)融合方法

基于傳統(tǒng)融合方法在用電數(shù)據(jù)識別的不足，本文引入不同層級的分類模型進行加權(quán)融合。

融合方法的原理：通過分類精度閾值對基模型劃分層級，新定義混淆矩陣的錯誤樣本數(shù)確定權(quán)值。其中基模型不再僅限于分類性能優(yōu)良的單模型，權(quán)值確定不僅單方面考慮某類別預(yù)測錯誤的樣本數(shù)，還包括負(fù)類預(yù)測為正類的樣本數(shù)。該方法充分利用各分類器對某類別分類正確的潛力，使模型分類精度在最優(yōu)基模型的基礎(chǔ)上進一步提高。

分層加權(quán)融合方法的步驟如下：

(1)各分類器經(jīng)過Softmax得到s行j列的概率矩陣(Xd)s×j(d=1,2，…，s)，其中Xd為第d行的樣本，s為總樣本數(shù)，j為類別數(shù)。

(2)以αl對分類器劃分層級。每兩個分類器分類精度差值在某一閾值區(qū)間，分類器劃分為同一層級。表達(dá)式如下：

αl=[α1,α2,…,αs]

(5)

(6)

式中，cl為第l層分類器的驗證集精度。

(7)

(8)

(9)

(10)

(11)

(12)

2.4.3 融合方法對比

為說明融合方法的優(yōu)越性，采用2種方法進行對比。

方法1：基于文獻[21]的思想，將分類精度高且相近的分類器進行加權(quán)融合，權(quán)值由新定義的錯誤樣本數(shù)確定。

方法2：采用2.4.1傳統(tǒng)融合方法，其中錯誤樣本數(shù)確定權(quán)值的表達(dá)式如下：

(13)

2.5 識別方法流程圖

本文流程圖如4所示。首先將訓(xùn)練集分別輸入第一層卷積神經(jīng)網(wǎng)絡(luò)與第二層機器學(xué)習(xí)模型中進行訓(xùn)練，其中第一層模型通過改進自適應(yīng)學(xué)習(xí)率優(yōu)化算法更新參數(shù)，第二層模型通過下采樣平衡樣本類別；然后將驗證集數(shù)據(jù)輸入已訓(xùn)練好的基模型中，用于模型類別權(quán)值的確定；最后通過兩層模型對測試集類別預(yù)測值進行加權(quán)組合，輸出最大概率對應(yīng)的類別。

圖4 識別方法流程圖Fig.4 Identification method flowchart

各基模型說明：

第一層模型：一維遞歸差分卷積神經(jīng)網(wǎng)絡(luò)(One-dimensional Recursive Differential Convolutional Neural Network，1RD-CNN)、二維遞歸差分卷積神經(jīng)網(wǎng)絡(luò)(Two-dimensional Recursive Differential Convolutional Neural Network，2RD-CNN)和門控循環(huán)單元(Gated Recurrent Unit，GRU)。第二層模型：隨機森林(Random Forest Classifier，RFC)、邏輯回歸(Logistic Regression，LR)、極限梯度提升樹(eXtreme Gradient BOOSTing，XGBOOST)。

2.6 測評指標(biāo)

算法性能的評價指標(biāo)為準(zhǔn)確率ACC、召回率Rec、精確率Pre、F1值。公式如下：

(14)

(15)

(16)

(17)

式中，Ts為正類預(yù)測為正類的樣本數(shù)；Fs為正類預(yù)測為負(fù)類的樣本數(shù)；Tus為負(fù)類預(yù)測為負(fù)類的樣本數(shù)；Fus為負(fù)類預(yù)測為正類的樣本數(shù)。

3 算例分析

3.1 特征選取

數(shù)據(jù)采集于重慶市某地區(qū)2019/10～2020/9的20個行業(yè)。每個樣本數(shù)據(jù)包括一日的有功負(fù)荷24整點值、無功負(fù)荷24整點值、24整點電量以及用戶總?cè)萘?。根?jù)表1構(gòu)建特征，其中N為一天采集的點數(shù)；M為一個月的天數(shù)；SN為額定容量；P、Q分別為有功功率與無功功率；Pmax、Pmin為最大、最小負(fù)荷；Pmean為負(fù)荷均值；E尖、E峰、E平、E谷為尖峰平谷各個時期的電量；E總為尖峰平谷時期的總電量。

表1 特征指標(biāo)選取Tab.1 Feature index selection

3.2 特征庫構(gòu)建

根據(jù)3.1節(jié)計算得到106 738樣本，以模糊C均值聚類算法構(gòu)建4類別的特征庫，每類用電模式分布見表2。

表2 用電模式分布Tab.2 Distribution of electricity consumption patterns

3.3 實驗環(huán)境設(shè)置

實驗環(huán)境為：框架Tensorflow、Keras；編程語言Python3.7；處理器CPU:i7-11800，GPU 3050TI。

3.4 數(shù)據(jù)集劃分與模型參數(shù)設(shè)置

輸入的數(shù)據(jù)按8∶1∶1的比例劃分為訓(xùn)練集/驗證集/測試集，各子集通過均勻隨機抽樣從總樣本集中取出，保證各類別樣本/總樣本的比例在訓(xùn)練集、驗證集和測試集中一致。多模型融合方法的第一層參數(shù)設(shè)置見表3、表4、表5，其中S表示填充。

表3 1RD-CNN參數(shù)設(shè)置Tab.3 1RD-CNN parameter settings

表4 2RD-CNN參數(shù)設(shè)置Tab.4 2RD-CNN parameter settings

表5 GRU參數(shù)設(shè)置Tab.5 GRU parameter settings

3.5 學(xué)習(xí)率優(yōu)化算法對比

由于1RD-CNN與2RD-CNN模型設(shè)置參數(shù)一致，本文以1RD-CNN為例，經(jīng)過訓(xùn)練獲得學(xué)習(xí)曲線精度對比如圖5所示。其中迭代輪數(shù)為120,每輪小批量處理樣本數(shù)為100，L2正則化懲罰系數(shù)為0.01，激活函數(shù)為tanh，初始學(xué)習(xí)率為0.01，β1=0.95,β2=0.99，學(xué)習(xí)率循環(huán)退火次數(shù)為3?？煺沼嘞遗c改進算法的學(xué)習(xí)率分布、相同學(xué)習(xí)率區(qū)間內(nèi)首次退火的準(zhǔn)確率曲線分別如圖5(a)、圖5(b)所示。為驗證改進算法的可信度，同時排除初始隨機梯度方向帶來的偶然性，進行了3次訓(xùn)練，保留每次最高準(zhǔn)確率，如圖5(c)所示。虛線左、右邊分別代表快照余弦與改進算法的模型分類準(zhǔn)確率。

圖5 學(xué)習(xí)曲線與精度對比Fig.5 Comparison of learning curve and accuracy

由圖5(a)、圖5(b)可知，兩種算法初始學(xué)習(xí)率相同，但改進的算法學(xué)習(xí)率起點較小，下降速度相對較緩。當(dāng)學(xué)習(xí)率小于0.007，原算法訓(xùn)練集與驗證集的準(zhǔn)確率均達(dá)到99.8%時，模型飽和，之后出現(xiàn)過擬合的現(xiàn)象。而改進算法準(zhǔn)確率超過99% 時，仍有上升的空間。說明動態(tài)學(xué)習(xí)率可提升網(wǎng)絡(luò)分類性能。

由圖5(c)可知，多次運行模型的分類精度最終趨于穩(wěn)定值。對于驗證集，兩種算法最優(yōu)精度均是99.35%，對于測試集，改進后的算法精度提高了0.1%。驗證了改進算法的有效性。

3.6 驗證分層加權(quán)融合方法的有效性

為驗證融合方法中模型分層和權(quán)值確定的有效性，進行了三組模型對比，如圖6所示。其中驗證集與測試集的樣本數(shù)均為1 067，4類別樣本數(shù)分別為344、196、209、319；組合一與組合二的第一層權(quán)值相同，兩層級的閾值α1=0.001，α2=0.01；縱坐標(biāo)為實際類別，橫坐標(biāo)為預(yù)測的類別。各模型組合如下：

圖6 模型組合對比Fig.6 Model combination comparison

模型組合一(加權(quán))：

1RD-CNN+2RD-CNN

模型組合二(分層加權(quán))：

1RD-CNN+2RD-CNN+LR+XGBOOST

模型組合三(分層加權(quán))：

1RD-CNN+2RD-CNN+GRU+LR+RFC+XGBOOST

由圖6(a)、圖6(b)可知，框出區(qū)域的權(quán)值均與傳統(tǒng)確定的權(quán)值不一樣。如類別3，圖6(a)中LR與XGBOOST模型的新定義錯誤樣本數(shù)比為16∶8，確定的權(quán)值為0.33∶0.67，XGBOOST模型所占的權(quán)重大，而傳統(tǒng)方法中正類別預(yù)測錯誤的樣本數(shù)為0∶4，LR模型所占的權(quán)重大；圖6(b)中LR、RFC和XGBOOST模型的新定義錯誤樣本數(shù)比值為16∶14∶8，確定的權(quán)值為0.21∶0.37∶0.42，XGBOOST模型所占的權(quán)重大，傳統(tǒng)方法確定的權(quán)重比值為1∶0∶0，LR模型所占的權(quán)重最大。

由圖6(c)可知，3種組合模型準(zhǔn)確率均很高，但仍存在細(xì)微差別。①組合一和組合二相同的模型處于同一層級具有相等的權(quán)值，但分層的組合模型二比組合一預(yù)測實際類別0的錯誤樣本數(shù)少一個，說明分層融合方法的有效性。②組合三增加了兩個分類性能低于同層級的模型，但預(yù)測實際類別2的錯誤樣本數(shù)比組合二少一個，說明分層加權(quán)融合方法不僅在正類樣本預(yù)測正確的基礎(chǔ)上，通過增加模型的個數(shù)，進一步提高分類準(zhǔn)確率，還充分利用各分類器對某類別分類正確的潛力，避免出現(xiàn)預(yù)測類別錯誤對應(yīng)的樣本數(shù)轉(zhuǎn)移現(xiàn)象。

3.7 模型識別性能對比分析

為說明本文識別方法的優(yōu)越性，從網(wǎng)絡(luò)結(jié)構(gòu)和模型融合方法進行比較，具體見表6。

表6 模型性能對比Tab.6 Model performance comparison

選取對比的網(wǎng)絡(luò)是：文獻[10]采用傳統(tǒng)的兩層卷積池化網(wǎng)絡(luò)，文獻[11]采用深度大于二的卷積池化網(wǎng)絡(luò)，RD-CNN[18]是兩層遞歸差分網(wǎng)絡(luò)，以上網(wǎng)絡(luò)均沒有考慮多尺度卷積對特征提取和動態(tài)學(xué)習(xí)率對分類精度的影響。

以2.4.3節(jié)融合方法進行對比，方法1采用分類精度高且相近的2種模型，分別為1RD-CNN+2RD-CNN，傳統(tǒng)方法與該方法的分類結(jié)果一致；方法2與本文融合方法均采用6種基模型，分別為1RD-CNN+2RD-CNN+GRU+LR+RFC+XGBOOST。

由表6可知：①對于網(wǎng)絡(luò)結(jié)構(gòu)，本文設(shè)計的遞歸差分卷積網(wǎng)絡(luò)識別性能均高于其他3種卷積網(wǎng)絡(luò)，其中1RD-CNN分類性能最優(yōu)，比傳統(tǒng)卷積網(wǎng)絡(luò)CNN[10]準(zhǔn)確率提高0.35%，說明多尺度模型聯(lián)結(jié)與遞歸結(jié)構(gòu)組合的網(wǎng)絡(luò)可以挖掘數(shù)據(jù)深層的特征，而RD-CNN[18]比CNN[11]的分類性能低，說明對于用戶數(shù)據(jù)采用固定尺寸卷積核作為差分塊的卷積網(wǎng)絡(luò)，其網(wǎng)絡(luò)性能比不上深層的卷積池化網(wǎng)絡(luò)。②對于融合方法，方法1與1RD-CNN的分類結(jié)果一致，說明少量分類精度高的基模型融合后的分類性能很難進一步提高；本文方法比方法1準(zhǔn)確率提高0.18%，說明增加分類精度低的模型進行分層加權(quán)融合可以突破最優(yōu)單模型分類瓶頸；此外，在相同基模型下，本文方法比方法2準(zhǔn)確率高0.47%，說明分層以及新定義錯誤樣本數(shù)確定權(quán)值的方法優(yōu)于傳統(tǒng)加權(quán)融合方法。

由網(wǎng)絡(luò)結(jié)構(gòu)和融合方法對用戶數(shù)據(jù)識別性能分析可知，多尺度遞歸差分卷積網(wǎng)絡(luò)很好地學(xué)習(xí)了數(shù)據(jù)深層特征，分層加權(quán)融合方法可以在基模型獲得較高識別率的基礎(chǔ)上，進一步提高識別性能。

4 結(jié)論

對于配電系統(tǒng)用戶數(shù)據(jù)的識別，本文提出多模型分層融合方法。通過實驗分析可以得到以下結(jié)論：

(1)相較于固定尺寸卷積核的深層網(wǎng)絡(luò)結(jié)構(gòu)，利用多尺度模塊聯(lián)結(jié)作為差分塊；全局平均池化層代替平坦層與全連接層；動態(tài)自適應(yīng)學(xué)習(xí)率對網(wǎng)絡(luò)進行訓(xùn)練，更能提取豐富的空間信息，從而獲得更優(yōu)的分類效果。

(2)相比于傳統(tǒng)加權(quán)融合法，通過分層和新定義錯誤樣本數(shù)確定權(quán)值，不僅有效克服了各基模型融合后的適應(yīng)度缺陷，提高融合模型的分類性能，還充分挖掘出各分類器對某類別分類正確的潛力，避免出現(xiàn)預(yù)測類別錯誤對應(yīng)的樣本數(shù)轉(zhuǎn)移現(xiàn)象。