基于殘差卷積神經(jīng)網(wǎng)絡(luò)的溫度敏感負(fù)荷辨識方法研究

傅質(zhì)馨，溫順潔，朱俊澎，袁 越

（1.河海大學(xué) 能源與電氣學(xué)院，南京 211100；2.河海大學(xué) 可再生能源發(fā)電技術(shù)教育部工程研究中心，南京 210098）

0 引言

負(fù)荷特性研究作為電力系統(tǒng)研究領(lǐng)域的一項重要內(nèi)容，能有效地提高電網(wǎng)運行的經(jīng)濟(jì)性及科學(xué)性［1］。電力負(fù)荷特性受到多種隨機(jī)因素的影響，具有一定的不確定性，氣象因素對電力負(fù)荷的影響尤為顯著［2］。從實際應(yīng)用角度來看，溫度的變化會使用戶對電能的需求量大幅度變動，增大電網(wǎng)的峰谷差和最高用電負(fù)荷，影響電網(wǎng)的發(fā)電與調(diào)控，導(dǎo)致停電事故發(fā)生的可能性上升。因此對溫度敏感負(fù)荷進(jìn)行辨識至關(guān)重要，可以擴(kuò)展到負(fù)荷模型的具體應(yīng)用研究上。

溫度因素對負(fù)荷特性的影響最為顯著。文獻(xiàn)［3］基于基準(zhǔn)負(fù)荷比較法測算地區(qū)冬夏兩季的空調(diào)負(fù)荷，通過二次多項式擬合，量化溫度對冬夏兩季空調(diào)負(fù)荷的影響。文獻(xiàn)［4］利用線性和非線性回歸分析方法對陜西地區(qū)夏季降溫負(fù)荷與氣溫之間的關(guān)系進(jìn)行定性定量分析研究，劃分溫度區(qū)間后得到夏季降溫負(fù)荷與氣溫變化之間的幅值增減函數(shù)關(guān)系。文獻(xiàn)［5］在將負(fù)荷進(jìn)行標(biāo)幺化處理的基礎(chǔ)上，建立基于靈敏度的基礎(chǔ)預(yù)測模型，計算由氣象變化引起的冬季取暖負(fù)荷。

對負(fù)荷資源構(gòu)成辨識方法，文獻(xiàn)［6］基于差值思想，實現(xiàn)對母線分布式光伏的辨識。文獻(xiàn)［7］建立卷積神經(jīng)網(wǎng)絡(luò)模型，結(jié)合支持向量機(jī)對變電站負(fù)荷進(jìn)行分解，分解精度比常規(guī)單模型負(fù)荷分解方法提高10%，具有很大的優(yōu)越性。文獻(xiàn)［8］采用獨立分量分析法將變電站負(fù)荷曲線分解為不同的負(fù)荷類型，如居民負(fù)荷或者商業(yè)負(fù)荷。以上研究一方面尚未考慮氣象因素對負(fù)荷辨識影響，往往導(dǎo)致辨識出現(xiàn)較大誤差，由此本文利用皮爾遜相關(guān)系數(shù)篩選溫度敏感負(fù)荷，同時采用多項式回歸模型量化溫度對負(fù)荷的影響；另一方面，以上研究多采用傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)，存在訓(xùn)練效率低、辨識精度不高等問題，由此本文采用殘差卷積神經(jīng)網(wǎng)絡(luò)（residual convolution neural network，ResCNN）進(jìn)行負(fù)荷辨識的方法。

本文首先利用基準(zhǔn)負(fù)荷比較法，在區(qū)分工作日和非工作日的基礎(chǔ)上，對敏感負(fù)荷進(jìn)行定性定量分析研究。其次，對于溫度敏感負(fù)荷，將每小時的負(fù)荷與溫度的多項式系數(shù)作為負(fù)荷特征加入到動態(tài)負(fù)荷特征庫中。最后，采用傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)（convolution neural network，CNN）模型和本文所提出的ResCNN模型對負(fù)荷構(gòu)成進(jìn)行辨識對比實驗。

1 敏感負(fù)荷測算

本文在基準(zhǔn)負(fù)荷比較法［9］的基礎(chǔ)上，對溫度敏感負(fù)荷進(jìn)行測算，具體過程如下：

（1）采用日平均負(fù)荷最小的日負(fù)荷曲線作為基準(zhǔn)負(fù)荷；

（2）假定所選定的日平均負(fù)荷最小的負(fù)荷曲線為LW,d,h和LK,d,h，其中，W為工作日，K為非工作日，d為日，h為小時數(shù)；

（3）用工作日和非工作日最小負(fù)荷曲線的平均值代表工作日和非工作日的基礎(chǔ)負(fù)荷曲線，具體表達(dá)式如下

式中：n1為工作日天數(shù)；n2為非工作日天數(shù)；L基礎(chǔ)W,h為工作日基礎(chǔ)負(fù)荷曲線；L基礎(chǔ)K,h為非工作日基礎(chǔ)負(fù)荷曲線。

（4）工作日敏感負(fù)荷測算：工作日剩余負(fù)荷曲線L剩余W,d,h與基礎(chǔ)負(fù)荷曲線L基礎(chǔ)W,h相減，得到的差值即為工作日敏感負(fù)荷曲線L敏感W,d,h，公式如下

非工作日敏感負(fù)荷測算：非工作日剩余負(fù)荷曲線L剩余K,d,h與基礎(chǔ)負(fù)荷曲線L基礎(chǔ)K,h相減，得到的差值是非工作日敏感負(fù)荷曲線L敏感K,d,h，公式如下

2 負(fù)荷-溫度相關(guān)性分析

本文所用數(shù)據(jù)為某地區(qū)2018年全年商業(yè)負(fù)荷數(shù)據(jù)及溫度數(shù)據(jù)，負(fù)荷數(shù)據(jù)采樣間隔1 h?；谠摂?shù)據(jù)，分析氣溫與負(fù)荷的關(guān)聯(lián)程度，以此篩選得到溫度敏感負(fù)荷。

本文采用皮爾森相關(guān)系數(shù)用來描述變量間相關(guān)程度，取各企業(yè)每個時刻的敏感負(fù)荷與實時溫度進(jìn)行相關(guān)性計算，其中與溫度強(qiáng)相關(guān)的敏感負(fù)荷是溫度敏感負(fù)荷，計算結(jié)果見表1。

表1 超市溫度敏感負(fù)荷與溫度相關(guān)系數(shù)Table 1 Temperature sensitive load and temperature correlation coefficient of supermarket

由表1可以看出，超市非工作日負(fù)荷的溫度相關(guān)性要大于工作日負(fù)荷的溫度相關(guān)性；在非工作日，負(fù)荷與溫度相關(guān)性較強(qiáng)時段主要集中在12:00—17:00，16:00時，溫度與負(fù)荷相關(guān)性最強(qiáng)；在工作日，負(fù)荷與溫度相關(guān)性較強(qiáng)時段主要集中在7：00—8:00，以及13:00—16:00，其中16:00左右，溫度與負(fù)荷相關(guān)性最強(qiáng)。旅館溫度敏感負(fù)荷與溫度相關(guān)系數(shù)如表2所示。

表2 旅館溫度敏感負(fù)荷與溫度相關(guān)系數(shù)Table 2 Temperature sensitive load and temperature correlation coefficient of hotel

由表2可以看出，旅館非工作日負(fù)荷的溫度相關(guān)性要明顯強(qiáng)于工作日負(fù)荷的溫度相關(guān)性；在非工作日，負(fù)荷與溫度相關(guān)性較強(qiáng)時段主要集中在11:00—17:00，19:00時，溫度與負(fù)荷相關(guān)性最強(qiáng)；在工作日期間，負(fù)荷與溫度相關(guān)性較強(qiáng)時段主要集中在11:00—17:00，19:00左右，溫度與負(fù)荷相關(guān)性最強(qiáng)。

由皮爾遜相關(guān)系數(shù)法篩選得到的與溫度相關(guān)性強(qiáng)的負(fù)荷時段作為溫度敏感負(fù)荷。

3 負(fù)荷-溫度回歸模型

3.1 數(shù)據(jù)回歸模型

回歸分析不僅可以反映出自變量對因變量的影響程度，還可利用得到的回歸模型對數(shù)據(jù)趨勢進(jìn)行預(yù)測。

本文采用回歸方式處理溫度敏感負(fù)荷特征構(gòu)建動態(tài)負(fù)荷特征庫，體現(xiàn)了溫度敏感負(fù)荷與溫度之間的關(guān)系，可基于不同溫度下得到相對應(yīng)該溫度下的溫度敏感負(fù)荷特征庫。

3.2 負(fù)荷-溫度線性回歸模型

為了進(jìn)一步分析溫度敏感負(fù)荷與實時溫度變化的規(guī)律，量化溫度因素的影響程度，這里根據(jù)詳細(xì)的歷史數(shù)據(jù)，提出線性擬合公式如下

式中：L敏感為敏感負(fù)荷；T為對應(yīng)溫度；a為自變量T的系數(shù)；b為常數(shù)項。

對溫度敏感負(fù)荷進(jìn)行分時段擬合，從表1、表2可以看出非工作日超市溫度敏感負(fù)荷高峰時段主要集中在12:00—17:00，工作日超市溫度敏感負(fù)荷高峰時段集中在13:00—16:00；工作日旅館溫度敏感負(fù)荷高峰時段主要集中在11:00—17:00，非工作日旅館溫度敏感負(fù)荷高峰時段主要集中在11:00—17:00。對以上幾個時段分別進(jìn)行線性擬合，擬合關(guān)系如下：

①非工作日超市溫度敏感負(fù)荷與實時溫度，呈現(xiàn)正相關(guān)的關(guān)系。線性方程為y=3.637x-53.3，其中，擬合評價指標(biāo)R2=0.770 8。②工作日超市溫度敏感負(fù)荷與實時溫度，呈現(xiàn)正相關(guān)的關(guān)系。線性方程為y=3.031x-17.65，其中，擬合評價指標(biāo)為R2=0.488 4。③非工作日旅館溫度敏感負(fù)荷與實時溫度，呈現(xiàn)正相關(guān)的關(guān)系。線性關(guān)系為y=4.402x-64.59，其中，擬合評價指標(biāo)為R2=0.8133。④工作日旅館溫度敏感負(fù)荷與實時溫度，呈現(xiàn)正相關(guān)的關(guān)系。線性關(guān)系為y=4.01x-52.84，其中，擬合評價指標(biāo)為R2=0.674 7。

3.3 負(fù)荷-溫度非線性回歸模型

對溫度敏感負(fù)荷與實時溫度進(jìn)行二次曲線擬合，擬合公式為

式中：L敏感為敏感負(fù)荷；T為對應(yīng)溫度。

對以上幾個時段分別進(jìn)行多項式擬合，擬合關(guān)系如下：

（1）非工作日超市溫度敏感負(fù)荷與實時溫度，呈現(xiàn)正相關(guān)的關(guān)系。溫度區(qū)間為12～38℃，二次多項式方程為y=0.102 8x2-1.586x+8.486，其中，擬合評價指標(biāo)R2=0.802。

（2）工作日超市溫度敏感負(fù)荷與實時溫度，呈現(xiàn)正相關(guān)的關(guān)系。溫度區(qū)間為10～40℃，二次多項式方程為y=0.094 06x2-166x+36.23，其中，擬合評價指標(biāo)R2=0.516。

（3）非工作日旅館溫度敏感負(fù)荷與實時溫度，呈現(xiàn)正相關(guān)的關(guān)系。溫度區(qū)間為15～37℃，二次多項式方程為y=0.066 74x2+0.903 4x-21.33，其中，擬合評價指標(biāo)R2=0.819 5。

（4）工作日旅館溫度敏感負(fù)荷與實時溫度，呈現(xiàn)正相關(guān)的關(guān)系。溫度區(qū)間為15～35℃，二次多項式方程為y=0.097 1x2-0.947 7x+6.692，其中，擬合評價指標(biāo)R2=0.692 7。

利用兩種擬合方法所得到的擬合評價指標(biāo)對比如表3所示。

表3 兩種擬合方式擬合度對比Table 3 Comparison of two fitting methods

通過對該地區(qū)溫度敏感負(fù)荷與實時溫度的挖掘分析可得以下結(jié)論：商業(yè)區(qū)溫度敏感負(fù)荷多指空調(diào)負(fù)荷，且商業(yè)負(fù)荷的溫度敏感負(fù)荷有共同的特點，負(fù)荷高峰時段多集中在人們出行時段，因此休息日的相關(guān)系數(shù)要高于工作日的相關(guān)系數(shù)。其次，無論工作日還是休息日，對于與實時溫度的擬合，非線性擬合度要明顯高于線性擬合度，因此多項式回歸更適用于對溫度敏感性負(fù)荷與溫度之間關(guān)系的描述。

4 基于深度學(xué)習(xí)的溫度敏感負(fù)荷辨識

4.1 負(fù)荷辨識數(shù)學(xué)模型

本文提出溫度敏感負(fù)荷辨識問題的數(shù)學(xué)模型可表示如下

式中：Ltotal(1×T)為由多類溫度敏感負(fù)荷所構(gòu)成的總負(fù)荷；T為采樣點數(shù)；Lsub(n×T)為當(dāng)前負(fù)荷特征庫中所有溫度敏感負(fù)荷種類；n為負(fù)荷種類數(shù)目；A(1×n)為判斷典型負(fù)荷有無的向量，由0或1組成，為神經(jīng)網(wǎng)絡(luò)待求量。

為了求解典型負(fù)荷的標(biāo)簽量，將上式進(jìn)行變形，得到典型負(fù)荷標(biāo)簽量的求解公式如下

式中：pinv為求解偽逆矩陣的運算，若pinv(Lsub(n×T))存在唯一解，則輸入Ltotal(1×T)，數(shù)學(xué)計算便可得到A(1×n)。

但僅僅采用傳統(tǒng)數(shù)學(xué)方法，往往會使pinv(Lsub(n×T))多解或無解。因此，需要嘗試采用有強(qiáng)大非線性映射能力的方法來求解該問題。

4.2 負(fù)荷特征庫構(gòu)建

本文提出利用非線性擬合方式計算高峰負(fù)荷時段每小時的擬合系數(shù)，構(gòu)建動態(tài)的溫度敏感負(fù)荷特征庫。負(fù)荷特征庫如表4所示。

表4 負(fù)荷特征庫Table 4 Load signature database

該負(fù)荷特征庫是一個隨溫度動態(tài)變化的數(shù)據(jù)庫，本文選取夏季典型日溫度，將典型日24點溫度數(shù)據(jù)代入到特征庫中，得到每個特征下24點負(fù)荷數(shù)據(jù)。典型溫度敏感負(fù)荷特征庫如表5所示。

表5 典型溫度敏感負(fù)荷特征庫Table 5 Fypical temperature sensitive load signature database

4.3 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)模型及仿真分析

4.3.1 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)模型

傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)達(dá)到一定深度后，增加層數(shù)并不能帶來進(jìn)一步地分類性能地提高，反而會導(dǎo)致網(wǎng)絡(luò)收斂變得很慢，分類準(zhǔn)確率也會有所下降。利用ResCNN，可通過殘差結(jié)構(gòu)使用多個有參層來學(xué)習(xí)輸入輸出之間的殘差表示，而非直接學(xué)習(xí)輸入輸出之間的映射。

本文所采取的改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)采用結(jié)合殘差結(jié)構(gòu)的CNN網(wǎng)絡(luò)來提取溫度敏感特征。殘差卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 殘差卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Residual convolution neural network structure

（1）數(shù)據(jù)輸入層

訓(xùn)練集：80 000條母線負(fù)荷序列Ltotal（1×T）以及所含溫度敏感負(fù)荷標(biāo)簽向量A（1×n）。

測試集：20 000條母線負(fù)荷序列Ltotal（1×T）。

（2）卷積層

卷積層計算式［10］為

（3）批量歸一化層

在網(wǎng)絡(luò)中加入批量歸一化層不僅極大提升了訓(xùn)練速度，收斂過程大大加快，還能增加分類效果。

（4）激活函數(shù)層

卷積層的激活函數(shù)選取ReLU相比傳統(tǒng)tanh函數(shù)，能有效克服梯度消失的問題以及加快了訓(xùn)練的速度。

（5）殘差結(jié)構(gòu)模塊

殘差塊［11］可表示為

式中：h(x l)=W l′x。Wl′為1×1卷積操作；F(x l,W l)為殘差部分，由3個卷積操作構(gòu)成。

（6）扁平化層

將拼接輸出扁平化，傳入全連接層。

（7）全連接層

全連接層激活函數(shù)為sigmoid，輸出維度為負(fù)荷特征庫中負(fù)荷種類數(shù)目。

4.3.2 仿真分析

所用數(shù)據(jù)為某地區(qū)2018年全年商業(yè)負(fù)荷數(shù)據(jù)和溫度數(shù)據(jù)，通過以上方法得到的溫度敏感特征庫將作為神經(jīng)網(wǎng)絡(luò)的輸入，輸入的母線負(fù)荷序列由該特征庫中的負(fù)荷所構(gòu)成。

網(wǎng)絡(luò)訓(xùn)練過程的目標(biāo)是以最小化損失函數(shù)的方式學(xué)習(xí)每層網(wǎng)絡(luò)的參數(shù)。使用二分類交叉熵（binary cross entropy，BCE）作為損失函數(shù)來計算輸出層中的誤差。在反向傳播期間，使用Adam優(yōu)化器更新模型參數(shù)，這是處理大型數(shù)據(jù)集的常用選擇。

殘差卷積神經(jīng)網(wǎng)絡(luò)的相關(guān)參數(shù)學(xué)習(xí)率、反向傳播損失函數(shù)、批數(shù)據(jù)數(shù)量、優(yōu)化算法、評價指標(biāo)分別設(shè) 置 為0.000 1、binary_crossentropy、64、Adam、Accuracy。

卷積層卷積核個數(shù)為24，步長為1，填充方式為same，激活函數(shù)為ReLU。對于分類問題全連接層的激活函數(shù)為Sigmoid，而對于回歸問題全連接層的激活函數(shù)為Softmax。對于本文的分類問題，激活函數(shù)應(yīng)選擇Sigmoid。

基于上述模型參數(shù)的設(shè)置，本文分工作日和非工作日分別對傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)和改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行辨識仿真分析，采用準(zhǔn)確率來作為評價指標(biāo)。特征庫數(shù)據(jù)采用4種不同縮放方式，仿真結(jié)果如表6和表7所示。

表6 非工作日辨識準(zhǔn)確率對比結(jié)果Table 6 Comparison results of non-working days recognition accuracy%

表7 工作日辨識準(zhǔn)確率對比結(jié)果Table 7 Comparison results of working days recognition accuracy%

由以上仿真分析結(jié)果可得，本文所提出的ResCNN模型能很好地根據(jù)當(dāng)前總負(fù)荷識別出所含溫度敏感負(fù)荷的種類。4種不同的數(shù)據(jù)縮放方式中，ResCNN模型均比傳統(tǒng)的CNN測試結(jié)果平均辨識準(zhǔn)確率提高10%。

5 結(jié)束語

本文對溫度敏感負(fù)荷辨識方法展開研究。首先，本文基于基準(zhǔn)負(fù)荷比較法對敏感負(fù)荷進(jìn)行測算，利用皮爾遜相關(guān)系數(shù)篩選得到與溫度強(qiáng)相關(guān)的溫度敏感負(fù)荷。其次，針對溫度敏感負(fù)荷，比較兩種回歸分析方法，得出非線性回歸分析更適于表征溫度敏感負(fù)荷特征。最后，本文提出利用溫度敏感負(fù)荷與溫度間的非線性擬合系數(shù)，構(gòu)建動態(tài)的溫度敏感負(fù)荷特征庫，提出用ResCNN結(jié)構(gòu)實現(xiàn)對溫度敏感負(fù)荷的辨識，辨識結(jié)果表明，較傳統(tǒng)的CNN結(jié)構(gòu)，無論對于何種數(shù)據(jù)縮放方式，辨識準(zhǔn)確率均提高10%。D