基于PSO-ELM組合算法的熱力站負(fù)荷預(yù)測研究*

馬文菁 郭曉杰 曹姍姍 孫春華 夏國強(qiáng) 齊承英

(河北工業(yè)大學(xué),天津)

0 引言

對熱負(fù)荷的準(zhǔn)確預(yù)測是實(shí)現(xiàn)供熱系統(tǒng)優(yōu)化控制和節(jié)能運(yùn)行的前提。常用的預(yù)測方法可以分為白箱法、黑箱法和灰箱法[1]。其中,黑箱法是基于數(shù)據(jù)驅(qū)動(dòng)的預(yù)測方法,僅靠輸入?yún)?shù)即可得到負(fù)荷預(yù)測值?；跈C(jī)器學(xué)習(xí)的黑箱預(yù)測算法在供熱領(lǐng)域得到了廣泛的應(yīng)用,包括人工神經(jīng)網(wǎng)絡(luò)(artificial neural network, ANN)[2]、極限學(xué)習(xí)機(jī)(extreme learning machine, ELM)[3]、支持向量回歸(support vector regression, SVR)[4]、隨機(jī)森林(random forest,RF)[5]等。

ELM算法是由新加波南洋理工大學(xué)黃廣斌教授提出的,具有泛化能力較好、處理速度快的優(yōu)點(diǎn)[6-7]。但該方法的輸入權(quán)值和隱含層閾值是隨機(jī)產(chǎn)生的[8],導(dǎo)致預(yù)測結(jié)果的穩(wěn)定性不足[9]。因此,本文引入粒子群優(yōu)化(particle swarm optimization, PSO)算法對ELM的輸入權(quán)值、隱含層閾值進(jìn)行優(yōu)化,并通過案例驗(yàn)證粒子群優(yōu)化極限學(xué)習(xí)機(jī)(PSO-ELM)算法的優(yōu)勢。

1 負(fù)荷預(yù)測方法

1.1 極限學(xué)習(xí)機(jī)(ELM)

ELM算法是由單隱層前饋神經(jīng)網(wǎng)絡(luò)(SLFNs)算法發(fā)展而來。圖1為典型的ELM網(wǎng)絡(luò)結(jié)構(gòu),主要包括輸入層、隱含層和輸出層[10]。

注:x1～xm為輸入變量;b1～bL為隱含層的節(jié)點(diǎn)偏置;H為輸出函數(shù);m、L分別為輸入層、隱含層的節(jié)點(diǎn)個(gè)數(shù);ωi為連接輸入層節(jié)點(diǎn)i與隱含層節(jié)點(diǎn)j的輸入權(quán)重;βj為連接隱含層節(jié)點(diǎn)j與輸出節(jié)點(diǎn)的輸出權(quán)重。

對于輸入樣本為X且隱含層節(jié)點(diǎn)數(shù)為L的ELM網(wǎng)絡(luò)結(jié)構(gòu),隱含層輸出函數(shù)矩陣H表示為

(1)

式中g(shù)(x)為激活函數(shù)。

(2)

式中H+為隱含層輸出函數(shù)H的Moore-Penrose廣義逆矩陣。

1.2 粒子群優(yōu)化(PSO)算法

PSO算法是一種群體智能模型優(yōu)化算法,在模型中,每個(gè)粒子都代表優(yōu)化問題的解。粒子的速度決定自身運(yùn)動(dòng)的距離和方向,通過不斷迭代跟蹤個(gè)體極值pbest和群體極值gbest,更新自身位置,獲得問題的全局最優(yōu)解[11]。

設(shè)種群規(guī)模為N的粒子群在D維空間構(gòu)成的種群為M=[M1,M2,…,Mn],第j個(gè)粒子在空間中的位置表示為Mj=[Mj1,Mj2,…,MjD],速度表示為Vj=[Vj1,Vj2,…,VjD]。將第j個(gè)粒子的個(gè)體最優(yōu)位置即個(gè)體極值表示為pj=[pj1,pj2,…,pjD],群體極值表示為pg=[pg1,pg2,…,pgD],則速度和位置的更新公式為

(3)

(4)

式(3)、(4)中 下標(biāo)d為粒子的維度空間,d=1,2,3,…,D;φ為該粒子對原來運(yùn)動(dòng)速度的保持程度,即慣性權(quán)重;c1、c2為學(xué)習(xí)因子,c1為該粒子保持自身個(gè)體極值的程度,c2為該粒子對全局的群體極值學(xué)習(xí)程度的系數(shù);r1、r2為0～1之間的隨機(jī)數(shù);t為迭代次數(shù)。

PSO在每次迭代中需要根據(jù)適應(yīng)度函數(shù)來計(jì)算粒子所處位置的適應(yīng)度,評價(jià)粒子的優(yōu)劣。本文以所有預(yù)測樣本預(yù)測誤差的歐幾里得范數(shù)作為適應(yīng)度函數(shù),定義見式(5)。由此適應(yīng)度值更新個(gè)體極值pbest和群體極值gbest,直到滿足終止條件,即達(dá)到最小誤差或最大迭代次數(shù)。

(5)

1.3 PSO-ELM組合算法

ELM的輸入與隱含層之間連接的權(quán)值ω和偏置b是隨機(jī)產(chǎn)生的,會(huì)造成預(yù)測結(jié)果不穩(wěn)定,為此本文引入PSO對ω和b進(jìn)行優(yōu)化。主要流程為:

1) 確定輸入和輸出樣本。根據(jù)熱負(fù)荷相關(guān)性分析選擇合適的影響因素,包括室外溫度、歷史負(fù)荷、歷史供回水溫度、歷史流量等。

2) 對輸入和輸出數(shù)據(jù)進(jìn)行歸一化處理。

3) 確定ELM的隱含層節(jié)點(diǎn)個(gè)數(shù)L和激活函數(shù)g(x),并由ELM隨機(jī)產(chǎn)生的權(quán)重ω和偏置b作為PSO優(yōu)化的變量。

4) 初始化PSO各參數(shù),包括學(xué)習(xí)因子c1和c2、最大迭代次數(shù)、慣性權(quán)重φ,并規(guī)定粒子速度和位置的范圍。

5) 訓(xùn)練ELM,并根據(jù)適應(yīng)度函數(shù)求出個(gè)體最佳pbest和全局最優(yōu)值gbest。

6) 根據(jù)式(3)、(4)更新速度和位置,在達(dá)到終止條件時(shí)輸出pbest和gbest。

7) 根據(jù)PSO確定的權(quán)值ω和偏置b,將測試集輸入模型。

8) 對PSO-ELM組合算法進(jìn)行有效性和精確性評價(jià)。

采用PSO-ELM組合算法對熱負(fù)荷進(jìn)行預(yù)測,流程見圖2。

圖2 PSO-ELM組合算法預(yù)測熱負(fù)荷流程

1.4 評價(jià)指標(biāo)

選取算法的評價(jià)指標(biāo)見式(6)～(8),包括平均絕對誤差(EMAE)、均方根誤差(ERMSE)和平均絕對百分比誤差(EMAPE)。3個(gè)指標(biāo)的數(shù)值越小,模型預(yù)測精度越高。

(6)

(7)

(8)

2 結(jié)果與分析

2.1 研究對象

以天津市某小區(qū)熱力站為研究對象。該熱力站安裝了自動(dòng)控制裝置,可實(shí)現(xiàn)數(shù)據(jù)采集與遠(yuǎn)程傳輸。其中采集參數(shù)包括室外溫度、一次供回水溫度、二次供回水溫度、瞬時(shí)流量和熱量,采集周期為10 min。應(yīng)用該熱力站2018年11月16日至2019年2月20日的運(yùn)行數(shù)據(jù)進(jìn)行算法的訓(xùn)練與驗(yàn)證。由于數(shù)據(jù)采集設(shè)備故障或通訊異常等原因,原始數(shù)據(jù)需要經(jīng)過預(yù)處理。采用四分位法剔除異常值,由臨近點(diǎn)的線性趨勢來補(bǔ)充缺失值,并對長期缺失數(shù)據(jù)的日期進(jìn)行刪除。本研究預(yù)測熱力站未來2 h的熱負(fù)荷,在剔除異常數(shù)據(jù)后,由式(9)將采集參數(shù)處理為時(shí)間步長為2 h的數(shù)據(jù)集。

(9)

式中S為每2 h熱負(fù)荷數(shù)據(jù)的平均值;Si為第i個(gè)參數(shù)值。

2.2 算法輸入?yún)?shù)的確定

本研究采用皮爾遜相關(guān)系數(shù)r[12]對熱負(fù)荷影響因素進(jìn)行分析。r∈[-1,1],r>0表示正相關(guān),r<0表示負(fù)相關(guān)。|r|越大,相關(guān)性越強(qiáng)。|r|≥0.8視為高度相關(guān);0.5≤|r|<0.8視為中度相關(guān);|r|<0.5視為低度相關(guān),應(yīng)當(dāng)不予考慮。各影響因素的相關(guān)性分析結(jié)果見表1。由表1可知,歷史熱負(fù)荷Qi-n、室外溫度tw、一次供/回水溫度tg1,i-1/th1,i-1、二次供/回水溫度tg2,i-1/th2,i-1和二次流量G2,i-1與熱負(fù)荷的r均大于0.5。其中,前24個(gè)周期的歷史熱負(fù)荷與熱負(fù)荷的r都在0.7以上,為了避免輸入?yún)?shù)集合過大,選取r>0.8的前15個(gè)周期(30 h)的歷史熱負(fù)荷。而二次供回水壓差Δp2,i-1和一次流量G1,i-1與熱負(fù)荷的r均小于0.5,予以剔除。基礎(chǔ)輸入?yún)?shù)集合記為A={tg1,i-1,th1,i-1,tg2,i-1,th2,i-1,G2,i-1,tw,Qi-1,Qi-2,…,Qi-14,Qi-15}。

表1 各影響因素的相關(guān)系數(shù)

2.3 PSO-ELM預(yù)測結(jié)果

以第2.2節(jié)中篩選集合A為輸入?yún)?shù),2018年11月16日至12月24日的運(yùn)行數(shù)據(jù)為訓(xùn)練集,2018年12月25—31日的運(yùn)行數(shù)據(jù)為測試集,對PSO-ELM的預(yù)測效果進(jìn)行驗(yàn)證。

首先,應(yīng)用ELM方法在不調(diào)節(jié)任何參數(shù)的情況下進(jìn)行1 000次預(yù)測,記錄預(yù)測值的最大值、最小值和平均值3組數(shù)據(jù),以10×1 000次預(yù)測為1組,記錄30個(gè)EMAPE,并進(jìn)行10組預(yù)測。圖3為10組預(yù)測結(jié)果的EMAPE箱型圖。由圖3可知,該模型在10組預(yù)測中EMAPE最大為16.73%,最小為4.93%。在不調(diào)節(jié)參數(shù)的情況下,預(yù)測結(jié)果并不穩(wěn)定,這是權(quán)值ω和隱含層偏置b隨機(jī)產(chǎn)生造成的。

圖3 ELM模型10組預(yù)測的EMAPE箱型圖

然后,應(yīng)用PSO-ELM組合算法對熱負(fù)荷進(jìn)行預(yù)測。PSO算法的參數(shù)設(shè)置為:粒子搜索維度為2,種群規(guī)模為30,最大迭代次數(shù)為50,學(xué)習(xí)因子c1=1、c2=2,位置區(qū)間為[-1,1],速度區(qū)間為[0,1],ELM隱含層神經(jīng)元的數(shù)量為20,激活函數(shù)為sig函數(shù)。

PSO-ELM和ELM的預(yù)測結(jié)果和絕對誤差見圖4、5。由圖4可知,整體上,PSO-ELM預(yù)測結(jié)果比ELM預(yù)測結(jié)果更接近實(shí)際值。由圖5可知,多數(shù)情況下PSO-ELM預(yù)測結(jié)果的絕對誤差在-1.44～0.17 GJ之間,最大為13.70 GJ;多數(shù)情況下ELM預(yù)測結(jié)果的絕對誤差在0.93～3.38 GJ之間,最大為18.00 GJ。

圖4 PSO-ELM與ELM預(yù)測結(jié)果對比

圖5 PSO-ELM與ELM預(yù)測結(jié)果的絕對誤差對比

2.4 預(yù)測精度對比

2.4.1不同特征組合下的預(yù)測精度

為分析不同特征組合下模型的預(yù)測精度,本研究將熱負(fù)荷影響因素組合成3個(gè)特征集,將特征集A1中的輸入?yún)?shù)依次去除供回水溫度參數(shù)和流量參數(shù),構(gòu)成特征集A2和特征集A3,詳細(xì)信息見表2。

表2 不同參數(shù)構(gòu)成的特征集

表3給出了ELM、PSO-ELM、SVR、PSO-SVR(粒子群優(yōu)化支持向量回歸)分別在特征集A1～A3上的預(yù)測誤差。4種算法均在特征集A3上誤差最小,即室外溫度和前15個(gè)周期熱負(fù)荷的特征組合。其中PSO-ELM誤差最小,EMAE、ERMSE和EMAPE分別為1.64 GJ、2.73 GJ和3.52%。

表3 4種算法在特征集A1、A2和A3上的預(yù)測誤差

2.4.2不同負(fù)荷變化幅度下的預(yù)測精度

由圖4可知,在負(fù)荷的2個(gè)突變點(diǎn),算法的誤差大于其他時(shí)刻。為研究不同負(fù)荷變化幅度下模型的預(yù)測精度,定義負(fù)荷變化率δmax,見式(10)。以2.4.1節(jié)中預(yù)測誤差最低的特征集A3為參照,并根據(jù)δmax篩選得到A3-1和A3-22個(gè)變化幅度不同的特征集,見表4。

表4 特征集A3-1和A3-2訓(xùn)練集和測試集的劃分

(10)

式中τ為時(shí)間,h,取2 h。

4種算法在特征集A3-1和A3-2上的預(yù)測結(jié)果見圖6。由圖6a可知:在12月20日,熱負(fù)荷從36.11 GJ突變至24.66 GJ,預(yù)測值明顯高于實(shí)際值;在此之前熱負(fù)荷變化平穩(wěn),預(yù)測值與實(shí)際值十分接近。圖6b中熱負(fù)荷變化相對平穩(wěn),4種算法的預(yù)測值均接近實(shí)際值。

圖6 4種算法在特征集A3-1和A3-2上的預(yù)測結(jié)果

4種算法在特征集A3-1和A3-2上的預(yù)測誤差見表5。結(jié)合表3可知,4種算法均在特征集A3上的預(yù)測誤差最大,在特征集A3-2上的預(yù)測誤差最小。其中特征集A3的δmax=7.4 GJ/h,A3-2的δmax=2.3 GJ/h,即熱負(fù)荷變化平穩(wěn)的工況下,預(yù)測精度更高。其中,在熱負(fù)荷變化劇烈時(shí)PSO-ELM的預(yù)測效果最佳,在熱負(fù)荷變化平穩(wěn)時(shí)PSO-ELM與PSO-SVR效果接近。

表5 4種算法在特征集A3-1和A3-2上的預(yù)測誤差

2.4.3不同樣本容量下的預(yù)測精度

為分析不同樣本容量下算法的預(yù)測精度,以特征集A3為例,將訓(xùn)練集和測試集進(jìn)行分割,分割情況見圖7。將2018年12月25—31日期間共計(jì)84組數(shù)據(jù)固定為測試集。初始訓(xùn)練集為2018年11月16日至12月24日的數(shù)據(jù),依次減少1天構(gòu)成新的訓(xùn)練集。由于數(shù)據(jù)傳輸異常等原因,在部分時(shí)間內(nèi)沒有數(shù)據(jù),分別從11月16日至12月15日開始一共構(gòu)成了20個(gè)訓(xùn)練集,記為T1～T20。

圖7 訓(xùn)練集和測試集的分割情況

圖8顯示了不同樣本容量下4種算法的預(yù)測誤差,圖中標(biāo)明了各算法的最小誤差。由圖8可知:ELM和SVR在特征集T1～T17上的預(yù)測誤差比較平穩(wěn),在特征集T18～T20上的預(yù)測誤差均明顯增大,對應(yīng)的3個(gè)訓(xùn)練集數(shù)據(jù)占比分別為61%、59%和54%;PSO-SVR從特征集T18開始預(yù)測誤差變大,而PSO-ELM誤差變化不明顯。為了進(jìn)一步驗(yàn)證訓(xùn)練集數(shù)據(jù)比例對PSO-ELM算法預(yù)測精度的影響,在特征集T20基礎(chǔ)上減去1～7 d的數(shù)據(jù)構(gòu)成特征集T21～T27進(jìn)行預(yù)測。由圖8b可知,PSO-ELM直至特征集T27誤差才明顯增大,此時(shí)訓(xùn)練集數(shù)據(jù)占比為36%。因此,PSO-ELM可以通過更少的數(shù)據(jù)進(jìn)行預(yù)測,節(jié)省預(yù)測時(shí)間。

圖8 樣本容量變化時(shí)4種算法的預(yù)測誤差

綜上,當(dāng)訓(xùn)練集在一定范圍內(nèi)變化時(shí),對預(yù)測誤差的影響較小,為了縮短訓(xùn)練時(shí)間,可以遺忘掉前面部分?jǐn)?shù)據(jù),但是若訓(xùn)練集數(shù)據(jù)量過少,預(yù)測誤差會(huì)增大。

3 結(jié)論

1) 對于不同特征組合下的負(fù)荷預(yù)測結(jié)果,PSO-ELM的效果均最優(yōu),其中最優(yōu)特征組合為室外溫度和前15個(gè)周期的歷史負(fù)荷。

2) 在負(fù)荷比較穩(wěn)定的工況下,PSO-ELM和PSO-SVR的預(yù)測精度均較高;而負(fù)荷波動(dòng)較大的工況下,PSO-ELM的預(yù)測精度更高。

3) 樣本容量在一定范圍內(nèi)變化對預(yù)測精度影響不大,在預(yù)測時(shí)可遺忘部分?jǐn)?shù)據(jù)以節(jié)省運(yùn)算時(shí)間。PSO-ELM可遺忘的數(shù)據(jù)最多,訓(xùn)練集占比為36%時(shí)的預(yù)測效果仍優(yōu)于其他3種算法訓(xùn)練集占比60%的預(yù)測效果。