基于Elman 神經(jīng)網(wǎng)絡(luò)模型的短期電力負荷預(yù)測模型

包滿

（四川大學(xué)華西醫(yī)院，四川成都 610041）

電力負荷預(yù)測是電力分配調(diào)度的基礎(chǔ)，也是電力發(fā)展規(guī)劃的依據(jù)，提高電力負荷預(yù)測的準確率，對增加電力系統(tǒng)效益，維護電力系統(tǒng)穩(wěn)定有著至關(guān)重要的意義[1]。隨著計算機技術(shù)和大數(shù)據(jù)理論的發(fā)展，智能化方法不斷興起，大數(shù)據(jù)分析理論和智能化技術(shù)在電力負荷預(yù)測中的應(yīng)用研究越來越多，智能化負荷預(yù)測系統(tǒng)逐漸成為電網(wǎng)管理系統(tǒng)中專門的子系統(tǒng)[2]。人工神經(jīng)網(wǎng)絡(luò)算法憑借強大的自學(xué)習(xí)能力和非線性映射能力，在電力負荷預(yù)測模型中取得了良好的預(yù)測效果。但傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型存在一些不足之處，如訓(xùn)練周期長、容易陷入局部最優(yōu)值等[3]。此次研究以Elman 神經(jīng)網(wǎng)絡(luò)模型進行短期電力負荷預(yù)測，并對其進行算法優(yōu)化及仿真實驗，通過優(yōu)化后的算法可以提高負荷預(yù)測的精度。

1 人工神經(jīng)網(wǎng)絡(luò)算法的關(guān)鍵技術(shù)

1.1 人工神經(jīng)網(wǎng)絡(luò)算法

人工神經(jīng)網(wǎng)絡(luò)通過對負荷數(shù)據(jù)的內(nèi)在變化規(guī)律進行分析，從而對輸入變量和負荷建立數(shù)學(xué)函數(shù)表達，其特點在于高度的非線性、自適應(yīng)和自學(xué)習(xí)性、并行分布處理以及容錯性。由于神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)是神經(jīng)元之間的分布式連線，因此在數(shù)據(jù)量較大的情況下，可以進行信息的并行分布處理，這一結(jié)構(gòu)保證了算法處理效率[4]。作為神經(jīng)網(wǎng)絡(luò)的基本組成單元，神經(jīng)元的結(jié)構(gòu)如圖1 所示。

由于在平面阻尼型欠驅(qū)動夾持器連桿間添加了彈簧力，使得該機構(gòu)滿足最小阻尼定律[18]，即沿最小阻尼方向運動時，盡管其自由度數(shù)目大于驅(qū)動數(shù)目，也不會呈現(xiàn)運動狀態(tài)不確定的現(xiàn)象。圖1為典型的二自由度平面阻尼型欠驅(qū)動夾持器，其中：β為EA與水平方向的夾角，γ為桿3和桿5之間的夾角；v為點E到夾持器對稱軸的距離，G為夾持器最大開口范圍。夾持器左右對稱，以右側(cè)結(jié)構(gòu)為例，弱彈簧安裝于驅(qū)動桿1、推動桿2之間，可在運動過程中對鉸鏈B添加阻尼。由于彈簧剛度很小，在建立夾持力模型時弱彈簧力可以忽略不計。

老四翻轉(zhuǎn)一下手里的槍，把槍管頂在皮特的腦門上，將子彈上膛。皮特張著嘴僵在那里，一動不動，哈欠打到一半。

圖1 神經(jīng)元結(jié)構(gòu)

觀察神經(jīng)元抽象模型可以發(fā)現(xiàn)，每個神經(jīng)元都有自己的閾值θ，根據(jù)傳遞的信號是否高于閾值判斷神經(jīng)元是否處于興奮狀態(tài)。當(dāng)傳遞的信號高于閾值θ時，神經(jīng)元處于興奮狀態(tài)，否則神經(jīng)元就處于抑制狀態(tài)[5]。設(shè)神經(jīng)元的輸入向量及其連接權(quán)重分別為{x1,x2,…,xn} 和{wj1,wj2,…,wjn}，神經(jīng)元的輸出值為yi，神經(jīng)元的閾值為θ，可以用以下計算公式表示神經(jīng)元的輸出：

圖5 為Elman 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖，結(jié)合網(wǎng)絡(luò)結(jié)構(gòu)進行算法流程分析，Elman 神經(jīng)網(wǎng)絡(luò)有四大組成部分，分別是輸入層、隱含層、承接層和輸出層，其中承接層主要對隱含層信息進行存儲，這一部分具有動態(tài)記憶的功能。Elman 神經(jīng)網(wǎng)絡(luò)首先對各層連接權(quán)值初始化，然后對訓(xùn)練數(shù)據(jù)進行歸一化處理，將處理后的數(shù)據(jù)樣本作為輸入，傳遞到隱含層、輸出層，接下來對實際輸出和期望輸出進行誤差精度對比。如果輸出誤差不滿足精度要求，則將計算值返回承接層，更新權(quán)值和閾值，并以承接層的輸出作為隱含層的輸入，重復(fù)之前的過程，直到輸出誤差滿足精度要求[12]。

圖2 sigmoid型激勵函數(shù)

如果是雙曲正切（tansig）型函數(shù)曲線，則激勵函數(shù)表達式如下：

超聲波測厚儀是根據(jù)超聲波脈沖反射原理來進行厚度測量，當(dāng)探頭發(fā)射的超聲波脈沖通過被測物體達到材料分界面時，脈沖被反射回探頭。通過精確測量超聲波在材料中傳播的時間來確定被測材料的厚度。

在泛雅平臺中將傳統(tǒng)的“課堂教學(xué)結(jié)合多媒體”教學(xué)模式，過渡到“MOOC—學(xué)生自主學(xué)習(xí)—開放式自學(xué)方式”的模式。將學(xué)生轉(zhuǎn)移為教學(xué)中心的指導(dǎo)思想，通過平臺實施“學(xué)+做”模式。通過“精講多練”的形式調(diào)動學(xué)生對學(xué)習(xí)的積極性，提高教學(xué)效率且強化實踐教學(xué)、提高教學(xué)質(zhì)量。即上課實驗合并在富媒體教學(xué)中同步進行，增加基于網(wǎng)絡(luò)信息傳播的自主教學(xué)。[4]

人工神經(jīng)網(wǎng)絡(luò)的實質(zhì)是對人腦思維活動的模擬，組成它的每個神經(jīng)元都具有不同的功能和結(jié)構(gòu)，不同神經(jīng)元相互交叉作用，最終得到數(shù)據(jù)處理結(jié)果[6]。不同類型的人工神經(jīng)網(wǎng)絡(luò)模型，其學(xué)習(xí)規(guī)則也各不相同，其中應(yīng)用較為廣泛的是δ學(xué)習(xí)規(guī)則，又稱梯度法或最速下降法。假設(shè)初始權(quán)值為ω(t)，學(xué)習(xí)率為η，權(quán)值的修正方向為Δω(t)，δ學(xué)習(xí)規(guī)則的權(quán)值修正公式如下：

如果是對數(shù)（logsig）型函數(shù)曲線，則激勵函數(shù)表達式如下：

前饋神經(jīng)網(wǎng)絡(luò)的信號傳播是單向固定的，屬于靜態(tài)網(wǎng)絡(luò)。反饋神經(jīng)網(wǎng)絡(luò)具有動力學(xué)特征，屬于動態(tài)網(wǎng)絡(luò)。在電力系統(tǒng)的運行中，電力負荷處于不斷變化的狀態(tài)，因此電力負荷預(yù)測是一個動態(tài)的系統(tǒng)，BP 神經(jīng)網(wǎng)絡(luò)作為典型的前饋神經(jīng)網(wǎng)絡(luò)，是靜態(tài)網(wǎng)絡(luò)模型，因此用它進行電力負荷預(yù)測，不能準確地反映電力負荷中的動態(tài)特性[9]。Elman 神經(jīng)網(wǎng)絡(luò)算法是目前應(yīng)用較多的動態(tài)型神經(jīng)網(wǎng)絡(luò)，該算法的結(jié)構(gòu)是由BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)改進而來的。改進的主要措施是在隱含層和輸出層之間增加了承接層，用于隱含層輸出信息的記憶存儲，并作為隱含層的輸入信號進行再次輸入。這種方式建立起對隱含層內(nèi)部的反饋，從而使得輸入和輸出上有了延遲傳遞，相當(dāng)于增加了一個延時算子，運算過程以動態(tài)方程進行描述[10]。Elman 神經(jīng)網(wǎng)絡(luò)主要依據(jù)輸入和輸出構(gòu)建網(wǎng)絡(luò)數(shù)學(xué)模型，不需要預(yù)先設(shè)定數(shù)學(xué)模型的形式，輸入信號決定了反饋的初始狀態(tài)，因此，Elman 神經(jīng)網(wǎng)絡(luò)算法的關(guān)鍵在于選取設(shè)定合理的網(wǎng)絡(luò)結(jié)構(gòu)和連接權(quán)值[11]。

對F(ω(t+1))進行一階泰勒展開，可以得到下述方程：

小龍是我們班出了名的個性要強又很自負的學(xué)生，他很聰明，數(shù)學(xué)成績從沒低過95分，但他愛斤斤計較、以自我為中心，脾氣暴躁、滿口粗話，又愛欺負同學(xué)，大家對他敬而遠之。我也常被他弄得焦頭爛額。借著學(xué)?！霸L萬家”活動，我早早安排了去他家的行程。

其中，g(t)=?F(ω(t))|ω=ω(t)，在ω=ω(t)時，g(t)為F(ω)的梯度矢量。要使式（5）成立，則需要滿足如下公式，此時收斂速度最快。

1.2 BP神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)根據(jù)互聯(lián)方式的類型不同，可以分為反饋神經(jīng)網(wǎng)絡(luò)、前饋神經(jīng)網(wǎng)絡(luò)和自組織神經(jīng)網(wǎng)絡(luò)。前饋神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖3 所示，這種網(wǎng)絡(luò)的信號傳輸由輸入層逐層向前，各層之間沒有向后的反饋信號[7]。

圖3 前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

BP 神經(jīng)網(wǎng)絡(luò)是一種典型的前饋神經(jīng)網(wǎng)絡(luò)，這種算法在輸出結(jié)果和期望值比較后，會將結(jié)果誤差向隱含層反傳播，并對權(quán)值系數(shù)不斷調(diào)整，因此BP 神經(jīng)網(wǎng)絡(luò)算法的學(xué)習(xí)過程有兩個部分，分別是信號的正向傳播和誤差的反向傳播[8]。BP 神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)圖在前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中已有介紹，如圖4 所示，將BP 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程以流程圖的方式進行說明。BP 神經(jīng)網(wǎng)絡(luò)在得到實際輸出和期望輸出的誤差后，需要判斷誤差精度是否達到要求，若精度不夠，則進行誤差反向傳播過程，自輸出層逐層計算輸出誤差，并對各層神經(jīng)元的權(quán)值及閾值進行修正，通過這種循環(huán)的學(xué)習(xí)調(diào)整，直到誤差精度滿足要求，則可以輸出最終結(jié)果。

圖4 BP神經(jīng)網(wǎng)絡(luò)算法學(xué)習(xí)流程

2 Elman神經(jīng)網(wǎng)絡(luò)模型及算法優(yōu)化

2.1 Elman神經(jīng)網(wǎng)絡(luò)算法

這里以極小化標量函數(shù)F(ω)作為權(quán)值修正目標，為了提高收斂速度，每次修正都需要滿足下述關(guān)系式：

在神經(jīng)元的抽象模型中，每一個神經(jīng)元節(jié)點都有其特定的激勵函數(shù)，它是神經(jīng)網(wǎng)絡(luò)的核心，與神經(jīng)網(wǎng)絡(luò)處理問題的能力密切相關(guān)。sigmoid 型激勵函數(shù)的特點在于任意輸入值都在（0,1）范圍內(nèi)，且函數(shù)以雙曲正切（tansig）或者對數(shù)（logsig）類似的S 形曲線進行表達，圖2 為它的函數(shù)圖像表達。

圖5 Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

由于承接層的存在，系統(tǒng)可以通過前饋區(qū)域?qū)B接權(quán)值進行多次修正。假設(shè)a為自連接反饋增益因子，w1、w2、w3分別表示承接層到隱含層、輸入層到隱含層、隱含層到輸出層之間的連接權(quán)值，隱含層和輸出層的激勵函數(shù)分別用f(x)和g(x)表示。下述公式為Elman 神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)模型的函數(shù)表示：

反應(yīng)堆壓力容器屬于一級安全設(shè)備,在各種運行工況和試驗條件下均要保持結(jié)構(gòu)的完整性，不會發(fā)生放射性物質(zhì)的泄漏[1-2]。壓力容器承受包括壓力、熱膨脹等復(fù)雜載荷，它的密封性是保證核電站安全運行的關(guān)鍵因素之一[3-4]。因此對其密封性進行系統(tǒng)深入地研究具有重要的工程意義。

Elman 神經(jīng)網(wǎng)絡(luò)的誤差函數(shù)如式（11）所示：

Elman 神經(jīng)網(wǎng)絡(luò)算法的關(guān)鍵技術(shù)在于輸出層到輸入層的反向調(diào)節(jié)，依據(jù)輸出誤差對權(quán)值和閾值不斷進行修正，使其在動態(tài)預(yù)測過程中更好地控制預(yù)測精度[13]。模型采用的是最速下降法，這種方法雖然最終可以得到穩(wěn)定解，但是存在不足之處，一是最速下降法容易在訓(xùn)練過程中陷入局部極小值；二是這種方法的學(xué)習(xí)步長是固定的，因此在面對大量數(shù)據(jù)和復(fù)雜邏輯問題時，訓(xùn)練效率將受到限制；三是這種方法的訓(xùn)練過程中存在震蕩現(xiàn)象，對獲取全局最優(yōu)解形成障礙[14]?；贓lman 神經(jīng)網(wǎng)絡(luò)的上述不足之處，這次研究從兩個方面加以改進，一方面是以非線性阻尼最小二乘法代替最速下降法，另一方面是對Elman 神經(jīng)網(wǎng)絡(luò)的激勵函數(shù)進行改進。

通過上述公式可以進行權(quán)值更新以及輸出誤差的計算，直到輸出誤差滿足精度要求。

2.2 學(xué)習(xí)算法與激勵函數(shù)優(yōu)化措施

以誤差對w1、w2、w3進行偏導(dǎo)求解，并依據(jù)進行計算，可以得到下方的關(guān)系式，其中η為學(xué)習(xí)速率。

誤差函數(shù)的梯度通過式（16）進行計算，e表示誤差向量。

非線性阻尼最小二乘法在對權(quán)值和閾值的修正中采用近似二階訓(xùn)練速率，從而避免了Hessian 矩陣計算，由于以平方和誤差形式表示誤差性能函數(shù)，因此可以用下述表達式對Hessian 矩陣進行近似表示，其中，H表示包含誤差函數(shù)對閾值和權(quán)值一階導(dǎo)數(shù)的雅克比矩陣。

以LM 算法對Hessian 矩陣的近似表達式進行修正，可以得到式（17）。當(dāng)μ為0 時，該式表示擬牛頓法；隨著μ值的增加，則其逐漸變?yōu)樘荻认陆捣╗15]。根據(jù)上述分析，此次研究需要使得該式接近擬牛頓法，即系數(shù)μ隨著迭代次數(shù)的增加而不斷減小，從而保證最小誤差的逼近效率更高，迭代后的誤差性能逐漸減小。

Elman 神經(jīng)網(wǎng)絡(luò)算法采用sigmoid 函數(shù)作為激勵函數(shù)，但是這種函數(shù)容易陷入局部極小值，導(dǎo)致收斂速度下降，這里對sigmoid 函數(shù)進行改進，改進后的函數(shù)如式（18）所示：

對改進后的激勵函數(shù)進行一階求導(dǎo)，導(dǎo)函數(shù)如式（19）所示，其中，h為斜率，m、n為常數(shù)，表示函數(shù)在x軸方向和y軸方向的位移。激勵函數(shù)的導(dǎo)函數(shù)與學(xué)習(xí)速率呈正相關(guān)關(guān)系，隨著導(dǎo)函數(shù)值的增加，學(xué)習(xí)速率加快[16]。隨著誤差函數(shù)的調(diào)整，對m、n、h三者進行配合修正，從而可以優(yōu)化算法的預(yù)測精度和收斂速度。

隨著信息技術(shù)在初中音樂課堂中的普及，各種各樣新型的教學(xué)模式不斷涌現(xiàn)，情境教學(xué)法作為其中較為突出的一種，得到了越來越多教育工作者的關(guān)注，它能根據(jù)教學(xué)內(nèi)容設(shè)計相應(yīng)的學(xué)習(xí)情境，將抽象的理論知識點形象化、具體化，在降低了知識點理解難度的同時也提高了課堂教學(xué)趣味性，有效激發(fā)了學(xué)生的音樂學(xué)習(xí)興趣。教師要發(fā)揮情境教學(xué)法的優(yōu)點，根據(jù)音樂教學(xué)需求調(diào)整設(shè)計方案，保證學(xué)生在情境中德智體美的全面發(fā)展。

3 短期電力負荷預(yù)測的仿真分析

為了對優(yōu)化后的Elman 神經(jīng)網(wǎng)絡(luò)模型進行驗證，選取M 電力企業(yè)在2 月份按日采集的24 小時電力負荷數(shù)據(jù)作為研究對象，以同一天的電力負荷數(shù)據(jù)為一組，將所有數(shù)據(jù)分為24 組。以前三天的數(shù)據(jù)為輸入數(shù)據(jù)，后一天的數(shù)據(jù)為期望輸出，對算法進行循環(huán)訓(xùn)練，該過程在MATLAB 仿真環(huán)境下進行。選擇優(yōu)化后的Elman 神經(jīng)網(wǎng)絡(luò)算法和傳統(tǒng)BP 神經(jīng)網(wǎng)絡(luò)算法進行仿真分析對比，其中Elman 神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)采取雙隱含層結(jié)構(gòu)，該結(jié)構(gòu)在多輸入的情況下可以有效地提高預(yù)測精度和收斂速度。通過前期實驗對預(yù)測效果的對比，確定Elman神經(jīng)網(wǎng)絡(luò)的兩個隱含層節(jié)點分別為14個和12個。

2．2 ELISA檢測各組小鼠血清IGF－1水平 A組血清IGF－1呈較低水平，B組血清IGF－1水平明顯高于A組，C組血清IGF－1水平較B組降低，但仍較A組高。各組差異有統(tǒng)計學(xué)意義（P＜0．05）。見表1。

圖6 表示BP、Elman 神經(jīng)網(wǎng)絡(luò)模型預(yù)測輸出與實際輸出對比，觀察圖中的3 條曲線走勢可以發(fā)現(xiàn)，BP 神經(jīng)網(wǎng)絡(luò)預(yù)測輸出值的整體走勢與電力負荷走勢大致契合；但Elman 神經(jīng)網(wǎng)絡(luò)模型預(yù)測輸出值明顯優(yōu)于BP 神經(jīng)網(wǎng)絡(luò)模型，并且在Elman 神經(jīng)網(wǎng)絡(luò)模型的MATLAB 仿真實驗中，算法模型在52 次訓(xùn)練后，收斂效率、輸出誤差精度取得了較好的效果。將模型預(yù)測值減去實際輸出值，得到預(yù)測誤差值，如表1 所示。

圖6 預(yù)測輸出與實際輸出對比

表1 模型預(yù)測的相對誤差對比

觀察表1 中的預(yù)測誤差數(shù)據(jù)可以發(fā)現(xiàn)，BP 神經(jīng)網(wǎng)絡(luò)的相對誤差絕對值基本在4.45%以內(nèi)，Elman神經(jīng)網(wǎng)絡(luò)的相對誤差絕對值基本在2.57%以內(nèi)；22∶00 時的數(shù)據(jù)預(yù)測誤差存在明顯波動，BP 神經(jīng)網(wǎng)絡(luò)和Elman 神經(jīng)網(wǎng)絡(luò)在同一時點的相對誤差絕對值分別是7.02%和3.14%，分析此處數(shù)據(jù)可能存在異常情況影響。根據(jù)相對誤差絕對值，對BP 神經(jīng)網(wǎng)絡(luò)和Elman 神經(jīng)網(wǎng)絡(luò)在不同時點的預(yù)測精度進行對比，結(jié)果如表2 所示，在BP 神經(jīng)網(wǎng)絡(luò)模型下，輸出預(yù)測值的平均預(yù)測精度為97.75%；在Elman 神經(jīng)網(wǎng)絡(luò)模型下，輸出預(yù)測值的平均精度為98.74%，取得了較為滿意的結(jié)果。

表2 模型預(yù)測精度對比

4 結(jié)束語

電力產(chǎn)業(yè)已經(jīng)成為國家經(jīng)濟的支柱型產(chǎn)業(yè)，電力負荷預(yù)測的精度對電網(wǎng)運行的穩(wěn)定性和安全性有著重要影響。針對傳統(tǒng)電力負荷預(yù)測方法中的不足之處，此次研究將以靜態(tài)神經(jīng)網(wǎng)絡(luò)和動態(tài)神經(jīng)網(wǎng)絡(luò)對短期電力負荷進行預(yù)測，從學(xué)習(xí)規(guī)則和激勵函數(shù)方面進行算法優(yōu)化，并以BP 神經(jīng)網(wǎng)絡(luò)和Elman 神經(jīng)網(wǎng)絡(luò)這兩種類型的典型代表算法進行仿真實驗對比。預(yù)測數(shù)據(jù)變化趨勢顯示，BP 神經(jīng)網(wǎng)絡(luò)預(yù)測輸出值的整體走勢與電力負荷走勢大致契合；但Elman神經(jīng)網(wǎng)絡(luò)模型預(yù)測輸出值明顯優(yōu)于BP 神經(jīng)網(wǎng)絡(luò)模型，并且在Elman 神經(jīng)網(wǎng)絡(luò)模型的MATLAB 仿真實驗中，算法模型在52 次訓(xùn)練后，收斂效率、輸出誤差精度取得了較好的效果。算法的預(yù)測精度對比顯示，在BP 神經(jīng)網(wǎng)絡(luò)模型下，輸出預(yù)測值的平均精度為97.75%；在Elman 神經(jīng)網(wǎng)絡(luò)模型下，輸出預(yù)測值的平均精度為98.74%。在這次的研究中，Elman 神經(jīng)網(wǎng)絡(luò)算法應(yīng)用于短期電力負荷預(yù)測，取得了良好的預(yù)測效果，這證明在動態(tài)問題的處理上，Elman 神經(jīng)網(wǎng)絡(luò)算法優(yōu)于BP 神經(jīng)網(wǎng)絡(luò)算法。但研究尚且存在不足之處，如預(yù)測算法的初始權(quán)值是隨機選取的，這說明此次研究所提出的算法還有進一步優(yōu)化的空間。