基于LSTM-RNN的配電變壓器負(fù)荷預(yù)測(cè)模型研究

孫朝輝 徐蕊 馮靖

摘 要：針對(duì)配電變壓器負(fù)荷非線性動(dòng)態(tài)特性導(dǎo)致的負(fù)荷預(yù)測(cè)困難、預(yù)測(cè)精度低等問(wèn)題，基于長(zhǎng)短期記憶循環(huán)神經(jīng)網(wǎng)絡(luò)（LSTM-RNN）建立了配電變壓器負(fù)荷預(yù)測(cè)模型。根據(jù)無(wú)錫地區(qū)某配變臺(tái)區(qū)自2017年以來(lái)的最大負(fù)荷、最小負(fù)荷、日最高溫度、日最低溫度、天氣情況等參數(shù)，通過(guò)LSTM-RNN構(gòu)建該配變臺(tái)區(qū)的短期負(fù)荷預(yù)測(cè)模型，用于預(yù)報(bào)該配變臺(tái)區(qū)未來(lái)幾天的最大負(fù)荷。試驗(yàn)結(jié)果表明，預(yù)測(cè)結(jié)果誤差均在10%以內(nèi)，表明LSTM-RNN應(yīng)用于配電變壓器負(fù)荷預(yù)測(cè)建模是可行的。

關(guān)鍵詞：LSTM-RNN;配電變壓器;負(fù)荷預(yù)測(cè);神經(jīng)網(wǎng)絡(luò)

0 引言

隨著電力改革的不斷深入以及營(yíng)商環(huán)境工作要求的不斷優(yōu)化，售電市場(chǎng)競(jìng)爭(zhēng)日益激烈，了解用戶負(fù)荷情況，對(duì)變壓器負(fù)荷進(jìn)行有效預(yù)測(cè)，進(jìn)而采取有針對(duì)性的措施，提供更合理的供電服務(wù)，使得電力設(shè)備效益最大化，成為了電力行業(yè)的重點(diǎn)發(fā)展工作。但是，配電變壓器短期負(fù)荷可快速變動(dòng)，極易受溫濕度驟然變化所影響，呈動(dòng)態(tài)化及非線性的時(shí)間序列，要實(shí)現(xiàn)精準(zhǔn)預(yù)測(cè)較為困難。在以往的研究中，針對(duì)配電變壓器負(fù)荷預(yù)測(cè)的研究較少，一方面是由于以往配變數(shù)據(jù)較少，缺乏有效的數(shù)據(jù)獲取方法，另一方面沒(méi)有有效的預(yù)測(cè)方法。在實(shí)際工作中，對(duì)配變負(fù)荷的預(yù)測(cè)主要是以歷史數(shù)據(jù)為基礎(chǔ)，通過(guò)總結(jié)負(fù)荷與時(shí)間之間的變化規(guī)律，并將該規(guī)律予以參數(shù)化、模型化，利用時(shí)間序列或趨勢(shì)外推等基于“慣性原理”的模型算法。近年來(lái)，人工神經(jīng)網(wǎng)絡(luò)、隨機(jī)森林、小波分析等能夠進(jìn)行實(shí)時(shí)學(xué)習(xí)的智能算法的推廣應(yīng)用，為配變負(fù)荷預(yù)測(cè)提供了新的思路。

深度的神經(jīng)網(wǎng)絡(luò)（DNN）是基于大數(shù)據(jù)而構(gòu)建的一種分析法，可對(duì)數(shù)據(jù)內(nèi)部復(fù)雜特征進(jìn)行有效學(xué)習(xí)，確立可靠的非線性關(guān)系基礎(chǔ)模型。深度學(xué)習(xí)層面，包含理解自然語(yǔ)言、識(shí)別視頻及語(yǔ)音、識(shí)別圖像等。長(zhǎng)短時(shí)間區(qū)間記憶循環(huán)類型神經(jīng)網(wǎng)（LSTM-RNN）屬于DNN其中一種類型，對(duì)比其余DNN，LSTM-RNN基礎(chǔ)模型因其能憑借對(duì)于時(shí)間序列相關(guān)數(shù)據(jù)內(nèi)部長(zhǎng)距離對(duì)信息依賴能力的有效利用，可實(shí)現(xiàn)在預(yù)測(cè)基礎(chǔ)模型內(nèi)的廣泛運(yùn)用。LSTM-RNN基礎(chǔ)模型，現(xiàn)已被用以構(gòu)建海水表面實(shí)際溫度變化預(yù)測(cè)的一個(gè)基礎(chǔ)模型，此模型輸入若干海水溫度影響因素?cái)?shù)據(jù)信息，便可對(duì)前段時(shí)間內(nèi)溫度數(shù)據(jù)及實(shí)時(shí)海水溫度的關(guān)系實(shí)現(xiàn)有效擬合，可較為準(zhǔn)確地預(yù)報(bào)海水溫度情況。其在海水溫度預(yù)報(bào)中的有效應(yīng)用給本研究提供了可能。

1 資料與方法

1.1? ? 數(shù)據(jù)來(lái)源

本研究使用數(shù)據(jù)來(lái)自無(wú)錫供電公司用電信息采集系統(tǒng)，為10 kV會(huì)西唐配變2017年10月13日—2019年11月11日的數(shù)據(jù)，溫度、天氣、風(fēng)力、污染情況數(shù)據(jù)來(lái)自無(wú)錫氣象局網(wǎng)站數(shù)據(jù)。借助LSTM-RNN，構(gòu)建配變負(fù)荷及其余物理參數(shù)的關(guān)系研究基礎(chǔ)模型，以現(xiàn)階段所研究的配變物理各項(xiàng)參數(shù)為基礎(chǔ)模型輸入，預(yù)報(bào)未來(lái)數(shù)日的日最大負(fù)荷情況。

該配變?nèi)兆畲筘?fù)荷曲線如圖1所示。

電力負(fù)荷是多物理要素相互作用的結(jié)果。從圖1可以看出，該配變的負(fù)荷具有明顯的周期性特點(diǎn)，且負(fù)荷波動(dòng)變化幅度較大。從實(shí)際影響運(yùn)行的因素來(lái)看，溫度對(duì)負(fù)荷具有重要影響作用，特別對(duì)于配變臺(tái)區(qū)負(fù)荷，當(dāng)溫度過(guò)高或過(guò)低時(shí)，用于制冷或取暖的負(fù)荷將急速攀升。同時(shí)，負(fù)荷的“記憶性”對(duì)負(fù)荷的影響也非常重要，即前一日甚至前幾日的負(fù)荷都會(huì)影響到當(dāng)日的最大負(fù)荷。另外，由于空氣污染、節(jié)假日等因素影響，負(fù)荷也有不同程度的變化。

1.2? ? 原理闡述

RNN屬于現(xiàn)階段應(yīng)用較為廣泛的一種人工神經(jīng)化網(wǎng)絡(luò)基礎(chǔ)模型，可實(shí)現(xiàn)對(duì)序列數(shù)據(jù)的有效處理。RNN架構(gòu)包括：輸入/出、隱藏三個(gè)部分，依照時(shí)間序列可展開(kāi)如圖2所示的結(jié)構(gòu)。區(qū)別于傳統(tǒng)類型神經(jīng)網(wǎng)絡(luò)，該RNN記憶性強(qiáng)，隱藏內(nèi)含環(huán)路，可向后傳遞相關(guān)歷史信息，緊密連接這一時(shí)刻及歷史信息，憑借這一基本特性，該RNN可實(shí)現(xiàn)任意時(shí)刻所組成輸入序列的有效處理。RNN內(nèi)部神經(jīng)元可經(jīng)神經(jīng)元相互間權(quán)值U實(shí)現(xiàn)有效連接，環(huán)路就此形成，訓(xùn)練特定長(zhǎng)度序列的數(shù)據(jù)，實(shí)現(xiàn)預(yù)測(cè)輸出操作。區(qū)別于傳統(tǒng)類型神經(jīng)網(wǎng)絡(luò)，該RNN內(nèi)部各層均有V、U、W這幾個(gè)共享參數(shù)，促使網(wǎng)絡(luò)內(nèi)部所需學(xué)習(xí)參數(shù)顯著減少，僅是其每步輸入存在差異性。新數(shù)據(jù)輸入期間，會(huì)與源自t-1時(shí)刻數(shù)據(jù)信息一同經(jīng)計(jì)算分析后，形成當(dāng)前這一時(shí)刻的網(wǎng)絡(luò)輸出，依據(jù)這一操作過(guò)程，可處理所有數(shù)據(jù)樣本。

RNN數(shù)學(xué)描述如式（1）、式（2）所示：

ht=φ（Wxt-1+Uht-1）（1）

yt=softmax（Vht）（2）

式中，V、U、W均表示權(quán)值的參數(shù);ht表示隱藏層內(nèi)第t步的實(shí)際狀態(tài)情況，屬于該網(wǎng)絡(luò)記憶的一個(gè)單元;yt表示第t步實(shí)際輸出;φ表示非線性激活函數(shù)，通常為tanh函數(shù)。

但受時(shí)間步迭代影響，歷史輸入值會(huì)影響到隱含層，促使它被削弱，最終消失。故而RNN實(shí)際運(yùn)用存在一定難度。

Hochreiter等人于1997年首次提出LSTM-RNN，促使RNN迎來(lái)改進(jìn)新浪潮。傳統(tǒng)RNN內(nèi)部隱藏層僅為一種h狀態(tài)，針對(duì)短期輸入敏感度高的情況，LSTM內(nèi)增c結(jié)構(gòu)，維持長(zhǎng)期存儲(chǔ)狀態(tài)，屬于單元化狀態(tài)。同步增設(shè)3個(gè)門，實(shí)現(xiàn)c長(zhǎng)期狀態(tài)控制，t時(shí)刻條件下LSTM內(nèi)部隱藏層主要結(jié)構(gòu)如圖3所示，均帶σ運(yùn)算的tanh函數(shù)，其箭頭代表1個(gè)門。其中一個(gè)是ft遺忘門，對(duì)上個(gè)時(shí)刻ct-1單元狀態(tài)能夠被存儲(chǔ)至ct當(dāng)前時(shí)刻的數(shù)量起到?jīng)Q定作用;it輸入門2，可對(duì)當(dāng)前該時(shí)刻網(wǎng)絡(luò)實(shí)際輸入ht-1、xt可被存儲(chǔ)至ct單元狀態(tài)數(shù)量起決定性作用;ot輸入門3，可對(duì)ct單元狀態(tài)能夠有多少被傳輸至當(dāng)前的LSTM內(nèi)部ht隱藏層起到有效控制作用。

對(duì)比BP式神經(jīng)網(wǎng)絡(luò)、普通模式RNN，該LSTM-RNN內(nèi)部增設(shè)c狀態(tài)單元1個(gè)、控制門3個(gè)，提升了模型特征能力及其記憶能力，可有效規(guī)避梯度消失、欠擬合等情況出現(xiàn)。該LSTM-RNN功能的發(fā)揮，主要是可發(fā)現(xiàn)數(shù)據(jù)信息內(nèi)所存在相關(guān)性以及在這一關(guān)系及其時(shí)間推移條件下的關(guān)系變化情況，以便于獲取精準(zhǔn)度較高的結(jié)果數(shù)據(jù)。對(duì)于配電變壓器負(fù)荷這種具有周期性特點(diǎn)的數(shù)據(jù)預(yù)測(cè)具有更好的效果。

1.3? ? 預(yù)處理數(shù)據(jù)

配電變壓器的負(fù)荷歷史數(shù)據(jù)信息因系統(tǒng)存在不穩(wěn)定因素，需對(duì)部分已壞的數(shù)據(jù)實(shí)施預(yù)處理，包含壞數(shù)據(jù)的突變及數(shù)據(jù)的缺失。

數(shù)據(jù)缺失方面，采用均值填充方法進(jìn)行增補(bǔ);

針對(duì)突變數(shù)據(jù)信息，如果兩點(diǎn)之間負(fù)荷參數(shù)值可充分滿足式（3）其中一個(gè)，便證明有突變情況存在。

l（i）>（1+α1）×l（i-1）l（i）<（1+α2）×l（i-1）? ? ? ?i=2，3，…，764? （3）

式中，α1表示負(fù)荷的峰值閥值;α2表示負(fù)荷的谷值閥值。按照類型不同，負(fù)荷應(yīng)當(dāng)予以分別取值。針對(duì)其首端負(fù)荷應(yīng)當(dāng)借助右側(cè)級(jí)的數(shù)據(jù)實(shí)現(xiàn)有效修正處理，末端部分則需借助左側(cè)的數(shù)據(jù)實(shí)現(xiàn)有效修正處理，中間段部分需要取它前后負(fù)荷的加權(quán)平均參數(shù)值。

模型輸入數(shù)據(jù)如表1所示，Imax、Imin為配變負(fù)荷數(shù)據(jù)，Tmax、Tmin為日最高、最低溫度，Air、Wind、Weather為天氣情況，Workday、Holiday為工作日及節(jié)假日情況。為能消除數(shù)值大小對(duì)其產(chǎn)生不良影響，需要借助公式：

y=（4）

標(biāo)準(zhǔn)化的處理法把所有數(shù)據(jù)有效歸一化至（0，1）的范圍內(nèi)。

2 模型構(gòu)建及結(jié)果分析

2.1? ? 實(shí)驗(yàn)數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

本研究使用Matlab構(gòu)建LSTM-RNN為基礎(chǔ)網(wǎng)絡(luò)模型負(fù)荷的預(yù)測(cè)模型，其結(jié)構(gòu)如圖4所示，內(nèi)含21單元、1個(gè)LSTM層和1個(gè)兩單元的Dense層。

實(shí)驗(yàn)數(shù)據(jù)信息及其神經(jīng)網(wǎng)絡(luò)基礎(chǔ)模型的關(guān)鍵參數(shù)如表2所示。

神經(jīng)網(wǎng)絡(luò)基礎(chǔ)模型內(nèi)部，隱藏層的單元個(gè)數(shù)屬于關(guān)鍵參數(shù)，與模型輸入的單元個(gè)數(shù)存在關(guān)聯(lián)性，此次研究擇選輸入的單元即為（2n-1）=41，當(dāng)成隱藏層的實(shí)際單元個(gè)數(shù)。

2.2? ? 實(shí)驗(yàn)操作及其結(jié)果分析

訓(xùn)練集主要被應(yīng)用到訓(xùn)練模型中，而驗(yàn)證集則應(yīng)用到模型評(píng)估中，以數(shù)據(jù)集內(nèi)部前610個(gè)數(shù)據(jù)為訓(xùn)練集，后152個(gè)數(shù)據(jù)作為驗(yàn)證集，在實(shí)驗(yàn)過(guò)程中，模型的訓(xùn)練集損失如圖5所示。

從訓(xùn)練過(guò)程圖中可知，模型的訓(xùn)練集均方誤差（RMSE）在前20次循環(huán)時(shí)快速下降，之后緩慢下降，可以說(shuō)明模型已經(jīng)很好地?cái)M合了數(shù)據(jù)，沒(méi)有出現(xiàn)欠擬合情況。得益于Adam算法，模型最終收斂到一個(gè)很小的值。實(shí)驗(yàn)負(fù)荷預(yù)測(cè)曲線如圖6所示。

黑色曲線為實(shí)際負(fù)荷曲線，灰色曲線為預(yù)測(cè)曲線，預(yù)測(cè)曲線較好地反映了負(fù)荷曲線的變化規(guī)律。使用平均絕對(duì)誤差（MAE）、均方根誤差（RMSE）作為評(píng)價(jià)指標(biāo)。從實(shí)驗(yàn)結(jié)果（表3）看，MAE為13.22，百分比誤差為7.73%;RMSE為15.37，百分比誤差為8.99%，說(shuō)明LSTM-RNN模型對(duì)配電變壓器的負(fù)荷預(yù)測(cè)效果較好。

3 結(jié)語(yǔ)

本研究將LSTM-RNN應(yīng)用于配電變壓器負(fù)荷預(yù)測(cè)模型，使用前七日的配變最大/最小負(fù)荷、日最高/最低氣溫、天氣、空氣污染、風(fēng)力、工作日、節(jié)假日等數(shù)據(jù)信息，借助LSTM-RNN，可確立配電變壓器具體負(fù)荷時(shí)間的序列變化基礎(chǔ)模型，實(shí)現(xiàn)對(duì)配電變壓器實(shí)際負(fù)荷預(yù)測(cè)，取得了較好的效果，證明使用LSTM-RNN建立配變負(fù)荷預(yù)測(cè)模型是可行的。

深度學(xué)習(xí)層面的科學(xué)技術(shù)快速發(fā)展，其在電網(wǎng)業(yè)務(wù)方面的應(yīng)用前景較為樂(lè)觀。本研究是深度學(xué)習(xí)科學(xué)技術(shù)在配變負(fù)荷預(yù)測(cè)研究方面的一次有效運(yùn)用，達(dá)到了90%的預(yù)測(cè)準(zhǔn)確率，對(duì)于運(yùn)行單位合理安排檢修計(jì)劃，營(yíng)銷部門合理制定服務(wù)政策，規(guī)劃部門合理配置設(shè)備容量，具有十分重要的指導(dǎo)作用。但是由于影響負(fù)荷變化的因素有很多，模型所得結(jié)果與實(shí)際情況仍有一定差距，這也是預(yù)測(cè)模型今后需要繼續(xù)改進(jìn)的方向。

[參考文獻(xiàn)]

[1] HOCHREITER S，SCHMIDHUBER J.Long short-term memory[J].Neural Computation，1997，9（8）：1735-1780.

[2] 李琛，郭文利，吳進(jìn)，等.基于BP神經(jīng)網(wǎng)絡(luò)的北京夏季日最大電力負(fù)荷預(yù)測(cè)方法[J].氣候與環(huán)境研究，2019，1（24）：135-142.

[3] 朱貴重，胡松.基于LSTM-RNN的海水表面溫度模型研究[J].應(yīng)用海洋學(xué)學(xué)報(bào)，2019，38（2）：191-197.

[4] 范竣翔，李琦，朱亞杰，等.基于RNN的空氣污染時(shí)空預(yù)報(bào)模型研究[J].測(cè)繪科學(xué)，2017，42（7）：76-83.

[5] 劉云，張杭，張愛(ài)民.需求側(cè)響應(yīng)下基于負(fù)荷特性的改進(jìn)短期負(fù)荷預(yù)測(cè)方法[J].電力系統(tǒng)保護(hù)與控制，2018，46（13）：126-133.

[6] 張志，杜延菱，崔慧軍，等.考慮關(guān)聯(lián)因素的智能化中長(zhǎng)期電力負(fù)荷預(yù)測(cè)方法[J].電力系統(tǒng)保護(hù)與控制，2019，47（2）：24-30.

[7] 于惠鳴，張智晟，龔文杰，等.基于深度遞歸神經(jīng)網(wǎng)絡(luò)的電力系統(tǒng)短期負(fù)荷預(yù)測(cè)模型[J].電力系統(tǒng)及其自動(dòng)化學(xué)報(bào)，2019，31（1）：112-116.

[8] 王海燕，鄧烽.基于臺(tái)區(qū)負(fù)荷平衡和優(yōu)化的電動(dòng)汽車有序充電策略研究[J].電氣應(yīng)用，2019，38（1）：66-70.

[9] 李香龍，張寶群，張宇，等.基于EEMD-BP神經(jīng)網(wǎng)絡(luò)的含電采暖的配電變壓器短期負(fù)荷預(yù)測(cè)[J].電測(cè)與儀表，2018，55（10）：101-107.

[10] 金士琛.基于模糊深度神經(jīng)網(wǎng)絡(luò)的電力系統(tǒng)短期負(fù)荷預(yù)測(cè)模型研究[D].青島：青島大學(xué)，2018.

[11] 沈沉，秦建，盛萬(wàn)興，等.基于小波聚類的配變短期負(fù)荷預(yù)測(cè)方法研究[J].電網(wǎng)技術(shù)，2016，40（2）：521-526.

[12] 潘海燕.配電變壓器經(jīng)濟(jì)運(yùn)行技術(shù)研究[D].濟(jì)南：山東理工大學(xué)，2013.

收稿日期：2019-12-20

作者簡(jiǎn)介：孫朝輝（1985—），男，山東萊州人，工程師，研究方向：配電網(wǎng)調(diào)控運(yùn)行。