摘" 要: 針對傳統(tǒng)熱負(fù)荷預(yù)測精度不高、無法滿足換熱站及熱網(wǎng)優(yōu)化調(diào)控需求的問題,提出一種VMD?ISCSO?CNN?BiLSTM的熱負(fù)荷預(yù)測模型。首先,利用變分模態(tài)分解(VMD)對原始供熱負(fù)荷數(shù)據(jù)進行降噪處理,降低數(shù)據(jù)的不穩(wěn)定性;其次,由K?means算法改進種群初始化,由演變機制改進尋優(yōu)能力和由變異機制改進跳出局部最優(yōu)能力,利用改進沙貓群算法(ISCSO)對卷積神經(jīng)網(wǎng)絡(luò)、雙向長短期記憶神經(jīng)網(wǎng)絡(luò)(CNN?BiLSTM)超參數(shù)進行尋優(yōu),建立熱負(fù)荷預(yù)測模型;最后通過實例進行分析。結(jié)果表明,數(shù)據(jù)降噪后模型預(yù)測精度更高,R2提升1.1%;由ISCSO優(yōu)化的模型比其他算法優(yōu)化的模型預(yù)測效果更好,擬合度達(dá)到99.4%;VMD?ISCSO?CNN?BiLSTM的組合預(yù)測模型相較于單一模型,RMSE降低18.5%,MAE降低13.8%,R2提升15.8%,并有更好的擬合度,泛化性強,滿足工程實際要求。
關(guān)鍵詞: 熱負(fù)荷預(yù)測; 卷積神經(jīng)網(wǎng)絡(luò); 雙向長短期記憶神經(jīng)網(wǎng)絡(luò); 改進沙貓群算法; 變分模態(tài)分解(VMD); K?means算法; 演變機制; 變異機制
中圖分類號: TN911.23?34; TP391.9" " " " " " " " " "文獻(xiàn)標(biāo)識碼: A" " " " " " " " 文章編號: 1004?373X(2024)14?0020?10
Optimised CNN?BiLSTM for heat load prediction based on improved
sand cat swarm algorithm
WANG Yaohui1, XUE Guijun1, 2, ZHAO Guanghao1
(1. School of Electrical Engineering, North China University of Science and Technology, Tangshan 063200, China;
2. Intelligent Instrument Factory of North China University of Science and Technology, Tangshan 063000, China)
Abstract: In allusion to the problems that the traditional heat load prediction accuracy is not high enough to meet the demand of heat exchange station and heat network optimisation and regulation, a VMD?ISCSO?CNN?BiLSTM heat load prediction model is proposed. The variational mode decomposition (VMD) is used to denoise the original heating load data and reduce its instability. The K?means algorithm is used to improve population initialization, the evolutionary mechanism is used to improve optimization ability, the mutation mechanism is used to improve the ability to jump out of local optima, and the improved sand cat swarm algorithm (ISCSO) is used to optimize the hyperparameters of convolutional neural networks and bidirectional long short?term memory neural networks (CNN?BiLSTM), so as to establish the heat load prediction model. The model is analysed by examples. The results show that the model prediction accuracy is higher after data noise reduction, and the R2 is improved by 1.1%. The model optimised by ISCSO is better than the models optimised by other algorithms, with a fit of 99.4%. In comparison with the single model, the combined prediction model of VMD?ISCSO?CNN?BiLSTM has a lower RMSE by 18.5%, a lower MAE by 13.8%, and a higher R2 by 15.8%. It has better goodness of fit and strong generalization, which meets the actual requirements of the project.
Keywords: heat load prediction; convolutional neural networks; bidirectional long short?term memory neural network; improved sand cat swarm algorithm; variational mode decomposition; K?means algorithm; evolution mechanism; mutation mechanism
隨著能源需求持續(xù)增長和可再生能源的廣泛應(yīng)用,多熱源集中供熱已成為我國供熱發(fā)展的主要方向。2018年,北方城鎮(zhèn)供暖能耗為2.12億噸標(biāo)準(zhǔn)煤,占全國建筑總能耗[1]的21%。因此,在實現(xiàn)高效能耗的目標(biāo)下,熱負(fù)荷精準(zhǔn)預(yù)測對集中供熱系統(tǒng)優(yōu)化調(diào)度、調(diào)控和節(jié)能運行尤為重要。通過精確預(yù)測熱負(fù)荷,供熱系統(tǒng)可更有效地分配能源資源,提高能源利用效率和實現(xiàn)節(jié)能減排目標(biāo)。
在熱負(fù)荷預(yù)測領(lǐng)域,國內(nèi)外學(xué)者進行了大量研究,其研究方向已經(jīng)從傳統(tǒng)預(yù)測方法轉(zhuǎn)變?yōu)槿斯ぶ悄茴A(yù)測方法。熱負(fù)荷預(yù)測模型可分為機理模型和數(shù)據(jù)驅(qū)動模型[2]。機理建模受到氣候變化、建筑結(jié)構(gòu)特征、參數(shù)不確定性以及人員活動制約,這些因素會對預(yù)測精度產(chǎn)生影響。相比之下,數(shù)據(jù)驅(qū)動模型不需要考慮建筑內(nèi)材料的熱傳導(dǎo)系數(shù)和人員活動等參數(shù),以每年熱負(fù)荷歷史數(shù)據(jù)為基礎(chǔ),在考慮氣候條件的前提下,利用人工智能等技術(shù)手段對熱負(fù)荷進行預(yù)測,以滿足必要的精度范圍要求。
常用的數(shù)據(jù)驅(qū)動模型包括機器學(xué)習(xí)和深度學(xué)習(xí)等。研究表明,單一預(yù)測模型存在眾多問題,例如無法捕捉原始序列中隱藏的重要信息、數(shù)據(jù)挖掘不充分、預(yù)測結(jié)果隨機性高,以及內(nèi)部參數(shù)隨機選擇不能保證預(yù)測精度等。因此,組合預(yù)測模型應(yīng)用越發(fā)受到關(guān)注。隨著研究的深入,已有文獻(xiàn)[3]指出組合模型的三個要素,即訓(xùn)練模型、預(yù)處理和模型參數(shù),對樣本數(shù)據(jù)進行預(yù)處理在預(yù)測結(jié)果中起著至關(guān)重要的作用。由于熱網(wǎng)供熱數(shù)據(jù)監(jiān)測存在不穩(wěn)定性,應(yīng)考慮對原始數(shù)據(jù)預(yù)處理,使其更平穩(wěn)。在預(yù)處理方法方面,文獻(xiàn)[4]采用經(jīng)驗?zāi)B(tài)分解(EMD)方法來對復(fù)雜序列進行平穩(wěn)化處理。然而,該方法很容易出現(xiàn)模態(tài)混疊現(xiàn)象。為克服EMD方法中的模態(tài)混疊現(xiàn)象,文獻(xiàn)[5]中提出一種基于集合經(jīng)驗?zāi)B(tài)分解(EEMD)的處理方法。此外,文獻(xiàn)[6]還提出了自適應(yīng)白噪聲完全集合經(jīng)驗?zāi)B(tài)分解(CEEMDAN)方法,將氣體體積分?jǐn)?shù)序列分解為多個子序列。這些方法都能有效減少模態(tài)之間的干擾,從而提高預(yù)測效果。
許多研究人員認(rèn)為深度學(xué)習(xí)結(jié)合神經(jīng)網(wǎng)絡(luò)可以提高預(yù)測精度[7]。文獻(xiàn)[8]指出卷積神經(jīng)網(wǎng)絡(luò)(CNN)在挖掘數(shù)據(jù)特征方面有很好的效果,但對輸入數(shù)據(jù)的時序敏感度較弱,而長短期記憶(LSTM)網(wǎng)絡(luò)能有效挖掘時間序列中蘊含的時序關(guān)系,但當(dāng)序列過長時可能會出現(xiàn)梯度消失的問題。因此,通過改進后的雙向長短期記憶神經(jīng)網(wǎng)絡(luò)(BiLSTM)可以解決梯度消失問題,從而提高預(yù)測性能。文獻(xiàn)[9]提出基于注意力機制和CNN?BiLSTM的IGBT剩余使用壽命預(yù)測模型,該模型通過CNN對多維輸入特征進行數(shù)據(jù)挖掘,BiLSTM提取時序信息,注意力機制加權(quán)處理特征參數(shù)。該模型相較于單一模型性能更優(yōu),但參數(shù)選取問題仍未得到解決。因此,研究人員開始利用優(yōu)化算法對預(yù)測模型進行優(yōu)化。文獻(xiàn)[10]利用螢火蟲算法(FA)對支持向量機(SVM)進行優(yōu)化,相較于未使用優(yōu)化算法的預(yù)測效果更佳。文獻(xiàn)[11]采用SCSO算法對最小二乘支持向量機(LSSVM)的超參數(shù)進行優(yōu)化。實驗結(jié)果表明其預(yù)測效果比粒子群算法(PSO)優(yōu)化的模型效果好,相對誤差基本處于[±2]%以內(nèi)。通過以上分析,雖然優(yōu)化算法可以克服網(wǎng)絡(luò)參數(shù)選擇的隨機性,但原始算法仍然存在一些缺陷尚未得到解決。文獻(xiàn)[12]通過改進沙貓群算法(ISCSO)優(yōu)化長短期記憶神經(jīng)網(wǎng)絡(luò)中的超參數(shù),預(yù)測刀具磨損值,模型的平均絕對誤差減小42.8%,為刀具磨損在線監(jiān)測提供了理論支持。由此可見,原始算法存在容易陷入局部最優(yōu)、全局搜索能力差等問題,導(dǎo)致算法尋優(yōu)能力差,對模型參數(shù)的尋優(yōu)和預(yù)測效果有較大影響。因此,如何提高算法尋優(yōu)能力使模型預(yù)測精度更優(yōu)是未來研究的重要方向之一。
針對以上研究存在的不足,本文提出一種基于改進沙貓群算法構(gòu)建的熱負(fù)荷預(yù)測模型。引入變分模態(tài)分解(VMD)進行數(shù)據(jù)預(yù)處理,通過改進沙貓群算法優(yōu)化CNN?BiLSTM中的學(xué)習(xí)率、隱含層節(jié)點數(shù)和正則化系數(shù)等超參數(shù),構(gòu)建VMD?ISCSO?CNN?BiLSTM預(yù)測模型用于供熱負(fù)荷預(yù)測,通過實驗與其他模型進行對比分析來評估預(yù)測模型的性能。本研究創(chuàng)新點如下。
1) 降低原始供熱負(fù)荷數(shù)據(jù)的非穩(wěn)定性。采用VMD可將具有非平穩(wěn)性且具有較大波動的供熱負(fù)荷數(shù)據(jù)分解成穩(wěn)定性較好且不同頻率的模態(tài)分量,通過對各個分量預(yù)測疊加,可提高模型預(yù)測精度。
2) 改進沙貓群算法。為提高沙貓群算法的尋優(yōu)性能,采用K?means算法初始化種群,改善種群多樣性和算法全局性能。本文提出一種演變機制融入搜索行為和攻擊行為,在搜索行為中加入動量的概念,通過動量因子避免算法在迭代過程中頻繁改變搜索方向,導(dǎo)致計算資源浪費,增強了算法的尋優(yōu)速度;在攻擊行為中加入好戰(zhàn)因子和回溯因子,增強算法的尋優(yōu)精度和尋優(yōu)能力。結(jié)合變異機制,使沙貓個體在各時期擁有變異能力,保證種群的多樣性,增強算法跳出局部最優(yōu)的能力。
1" 理論基礎(chǔ)
1.1" 變分模態(tài)分解
變分模態(tài)分解是一種自適應(yīng)的分解數(shù)據(jù)的方法。本文選用此方法將供熱負(fù)荷數(shù)據(jù)功率曲線分解為多個平穩(wěn)且不同頻率的離散子模態(tài),得到每個模態(tài)的頻帶寬度最小。約束變分問題如下:
[min{uk},{ωk}k=1K?tδ(t)+jπt·uk(t)e-jωkt22s.t." " kuk=f] (1)
式中:[uk=u1,u2,…,uK]和[ωk=ω1,ω2,…,ωK]代表所有模態(tài)及中心頻率。
為了求解式(1),引入拉格朗日乘法算子以及二次懲罰因子,將其轉(zhuǎn)換為一個無約束的增廣拉格朗日表達(dá)式,如下:
[L({uk},{ωk},λ)=αk?tδ(t)+jπt·uk(t)e-jωkt22+f(t)-kuk(t)22+λ(t),f(t)-kuk(t)] (2)
式中:[α]為懲罰因子;[λ]代表拉格朗日乘子。
VMD分解通過乘法器交替方向法將最小化問題轉(zhuǎn)化為一個可選模型,具體步驟見文獻(xiàn)[13]。
1.2" 沙貓群優(yōu)化算法
沙貓群優(yōu)化算法[14]由Seyyedabbasi和Kiani于2022年提出,該算法源于模擬自然界中沙貓狩獵過程中通過對低頻噪聲的檢測來獲取食物的過程。沙貓可以接收0~2 kHz頻率的聲音,通過對檢測獵物產(chǎn)生的噪聲進行跟蹤、捕食。在該算法中,沙貓可以根據(jù)R值的大小選擇自身行為,每次迭代選擇其中一種行為進行位置更新。沙貓的兩種行為包括搜索行為(探索階段)、攻擊行為(開發(fā)階段),公式如下:
[rG=SM-SM·tT] (3)
[r=rG·rand] (4)
式中:[rG]為沙貓的聽覺靈敏度,一般為0~2;[SM]為沙貓的最大靈敏度;t代表當(dāng)前迭代次數(shù);T為設(shè)置的最大迭代次數(shù);r為沙貓個體聽覺靈敏度范圍。
SCSO算法的種群初始化與大多數(shù)智能優(yōu)化算法的種群初始化一致,在搜索區(qū)域內(nèi)隨機生成沙貓個體,其種群初始化公式如下:
[xij=lbj+rand·ubj-lbj] (5)
式中:[xij]為第[i]個沙貓個體的第[j]維變量;[ubj]和[lbj]為第[j]維變量的上界和下界;[rand]為0~1間的隨機數(shù)。
控制探索行為與開發(fā)行為的主要參數(shù)是[R],當(dāng)[R≤1]時,沙貓?zhí)幱诠粜袨?。首先利用?dāng)前最優(yōu)位置[Xbt]、當(dāng)前位置[Xct]、0~1的隨機數(shù)生成隨機位置[Xr];再利用輪盤賭法選擇角度[θ]進而實現(xiàn)攻擊行為。當(dāng)[Rgt;1]時,沙貓?zhí)幱谒阉餍袨?,每只沙貓根?jù)當(dāng)前最優(yōu)候選位置[Xbct]、[Xct]、[r]以及0~1的隨機數(shù)更新自身位置,尋找獵物位置。兩種搜索行為的數(shù)學(xué)模型如下所示:
[R=2·rG·rand-rG] (6)
[Xr=rand·Xbct-Xct] (7)
[Xt+1=Xbt-Xr·cosθ·r," " " " R≤1r·Xbct-rand·Xct," Rgt;1] (8)
式中[θ]為沙貓隨機選擇的捕食角度,范圍在0°~360°。
1.3" 卷積神經(jīng)網(wǎng)絡(luò)
為更好地對供熱負(fù)荷數(shù)據(jù)進行特征識別,充分挖掘數(shù)據(jù)中深層的信息,通過CNN對特征進行提取,并通過局部感受、權(quán)值共享和池化等方法深度挖掘輸入數(shù)據(jù)中空間分布特征。卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)主要由輸入層、卷積層、池化層、全連接層組成[15]。卷積層通過卷積運算提取數(shù)據(jù)中空間分布特征,卷積核在卷積層內(nèi),計算公式如下:
[lt=tanhxt*kt+bt] (9)
式中:[lt]為卷積運算后的輸出值;tanh為激活函數(shù);[xt]為輸入向量;[kt]為卷積核的權(quán)值;[bt]為卷積核的偏置值。
池化層通過池化采樣有效剔除數(shù)據(jù)的冗余部分,降低了深層神經(jīng)網(wǎng)絡(luò)參數(shù)數(shù)量,對模型的計算能力有著較大的提升。全連接層將池化后的數(shù)據(jù)映射到樣本標(biāo)記空間,供輸出層使用。卷積和池化過程如圖1所示。
1.4" 雙向長短期記憶神經(jīng)網(wǎng)絡(luò)
BiLSTM由兩層獨立的長短期記憶神經(jīng)網(wǎng)絡(luò)構(gòu)成,它解決了常規(guī)循環(huán)網(wǎng)絡(luò)中因數(shù)據(jù)量過大產(chǎn)生的梯度爆炸及消失問題[16]。在時間序列預(yù)測中,傳統(tǒng)LSTM模型只考慮了過去數(shù)據(jù)對當(dāng)前預(yù)測的影響,忽略了未來數(shù)據(jù)對當(dāng)前的影響。BiLSTM的學(xué)習(xí)方式能夠兼顧過去和未來的時序特征,彌補了LSTM網(wǎng)絡(luò)中數(shù)據(jù)信息不足的缺陷。首先將熱負(fù)荷數(shù)據(jù)輸入到正向LSTM中計算,得到并且保存輸出結(jié)果。同理,反向LSTM層通過保存計算后的輸出數(shù)據(jù)與正向?qū)拥募訖?quán)疊加,得出最終的預(yù)測結(jié)果。通過雙向模型的學(xué)習(xí)方式,BiLSTM能夠?qū)⑦@些特征結(jié)合起來,在時序任務(wù)中表現(xiàn)出更好的性能,提高時序數(shù)據(jù)分析的準(zhǔn)確性。圖2為BiLSTM的模型結(jié)構(gòu)圖。
2nbsp; 改進沙貓群優(yōu)化算法
2.1" K?means算法改進初始化
針對SCSO算法尋優(yōu)能力受初始種群分布影響較大的問題,通過引入K?means聚類算法[17]初始化沙貓種群,克服種群隨機分布的缺點,避免算法陷入局部最優(yōu)。首先,隨機生成m倍種群數(shù)量(n)的沙貓個體并分成p類;其次,確定每類沙貓個體在每個維度的均值為質(zhì)心,每類中沙貓個體到質(zhì)心的距離稱為簇內(nèi)距離,質(zhì)心之間的距離為簇間距;最后,通過迭代聚類成簇內(nèi)距離最小、簇間距保持最大的n個質(zhì)心。這些質(zhì)心就是初始化后的沙貓個體,種群分布情況如圖3所示。
從圖3中可以看出,通過使用K?means聚類算法初始化得到的種群在搜索空間內(nèi)分布均勻,可實現(xiàn)種群的均勻初始化,增強算法全局搜索能力,避免算法陷入局部最優(yōu),有效降低局部收斂的概率。
2.2" 演變機制
2.2.1" 搜索行為(探索)的改進
沙貓群優(yōu)化算法在更新初期會通過向最優(yōu)個體靠近來進行搜索。由于最優(yōu)個體位置不斷變化,搜索方向也不斷變化,因此會浪費大量計算資源。針對這一問題,通過引入動量因子適當(dāng)維持當(dāng)前前進角度,當(dāng)搜索方向改變時,結(jié)合上一代決策變量的變化量,算法會產(chǎn)生慣性作用,從而慢慢地改進搜索方向。新優(yōu)化方向穩(wěn)定的時間越長搜索方向越偏向新優(yōu)化方向,實現(xiàn)了自適應(yīng)的選擇性,增強了收斂速率。其表達(dá)式為:
[X(t+1)=r1(Xb(t)-rand(0,1)X(t))+" " " " "c1rand(0,1)ΔX(t)] (10)
[r1=rGrand0,1] (11)
式中:[r1]為0~1之間的隨機數(shù);[X(t+1)]為更新后決策變量位置;[Xb(t)]為最優(yōu)解位置;[ΔX(t)]為上一代決策變量的變化量;[c1]為動量因子。
2.2.2" 攻擊行為(開發(fā))的改進
針對沙貓群算法開發(fā)能力差的問題,傳統(tǒng)方法是向隨機個體發(fā)起攻擊,這樣優(yōu)化方向會復(fù)雜多變。通過引入好戰(zhàn)因子進行擇優(yōu)挑戰(zhàn)且無論選擇的是哪個個體,都會獲取部分貓王的基因來穩(wěn)定提高自身水平;同時,通過引入回溯因子強化個體的自我學(xué)習(xí)能力,增強自身優(yōu)勢,進而提高算法的開發(fā)能力和局部搜索能力,其表達(dá)式為:
[Xt+1=Xbt-r1Xrtcosθ+c2rand0,1·" " " " " " " " " " " Xbt-Xt+c3rand0,1Xbct-Xt] (12)
式中:[c2]為好戰(zhàn)因子(挑戰(zhàn)貓王);[c3]為回溯因子(向歷史最優(yōu)位置靠攏);[Xbct]為自身歷史最優(yōu)位置(貓王位置)。
2.3" 變異機制
針對沙貓群優(yōu)化算法在迭代過程中會生成固定群體,產(chǎn)生一定數(shù)量劣質(zhì)解,極易陷入局部收斂狀態(tài)的問題,需要增加隨機性和多樣性,在搜索空間找到更優(yōu)解。因此,引入變異機制增強沙貓?zhí)剿髂芰?,降低局部收斂概率,增加種群多樣性。設(shè)置變異概率來判斷沙貓隨機游走與否,如公式(13)所示;若進行隨機游走,則如公式(14)所示。
[rand0,1gt;mutmax-mutmax-mutmintT,且Rgt;1rand0,1gt;mutmax-mutmax-mutmintT,且R≤1rand0,1≤mutmax-mutmax-mutmintT,隨機游走] (13)
[Xt+1=Xl+rand0,1Xu-Xl] (14)
式中:[Xl]為決策變量最小值;[Xu]為決策變量最大值;[mutmax]為變異概率最大值;[mutmin]為變異概率最小值。
2.4" 算法步驟
綜上所述,改進沙貓群算法流程如圖4所示。
3" ISCSO算法性能測試
3.1" 實驗參數(shù)設(shè)置
本文選取沙貓群優(yōu)化算法(SCSO)、麻雀算法(SSA)、鯨魚算法(WOA)、粒子群算法(PSO)與改進沙貓群優(yōu)化算法(ISCSO)進行比較?;緟?shù)設(shè)置為:種群數(shù)量N=50,維度dim=30,最大迭代次數(shù)T=200。其中各算法具體參數(shù)設(shè)置如表1所示。
表1中:W為慣性權(quán)重;c1為個體學(xué)習(xí)因子;c2為群體學(xué)習(xí)因子;b為螺旋形狀參數(shù);ST、PD、R2分別為安全值、發(fā)現(xiàn)者比例、預(yù)警值。
使用6個基本測試函數(shù)對上述算法進行測試,F(xiàn)1、F2、F3為單峰函數(shù),用于測試算法的開發(fā)能力;F4、F5、F6為多峰函數(shù),用于測試算法的勘探能力。測試函數(shù)具體信息如表2所示。
3.2" 算法性能測試
通過上述參數(shù)設(shè)定對每個算法進行性能測試。為減少隨機性對實驗的影響,每個算法進行100次仿真實驗,實驗結(jié)果分別記錄平均值和標(biāo)準(zhǔn)差來評價各算法尋優(yōu)能力。圖5為各算法在測試函數(shù)下的迭代過程曲線。在F4和F5測試中,ISCSO在30代內(nèi)完成對函數(shù)問題的尋優(yōu),能收斂到最優(yōu)值且收斂速度最快。表明ISCSO相較于其他算法有更好的開發(fā)能力、較快的收斂速度和局部搜索能力。
F2和F3的測試函數(shù)中,在初期其他算法已經(jīng)開始局部收斂,但I(xiàn)SCSO算法始終通過演變機制的自身學(xué)習(xí)、向優(yōu)學(xué)習(xí)等特點不斷開發(fā)探索,與其他算法適應(yīng)度值相比有較大優(yōu)勢。由于SCSO算法在后期種群多樣性變少,導(dǎo)致其容易陷入局部最優(yōu)。通過引入變異機制使得該算法始終保持較好的種群多樣性,避免算法過早收斂。各算法在F1~F6的優(yōu)化結(jié)果如表3所示。
結(jié)合圖5和表3可知,在迭代過程中ISCSO相較其他算法總是保持最快的收斂速度。
對于單峰測試函數(shù)F1~F3,ISCSO性能優(yōu)于所有對比算法,說明引入演變機制能增強SCSO開發(fā)能力,變異機制使算法在任何時期都保持種群多樣性,提高了算法尋優(yōu)精度;對于多峰測試函數(shù)F4~F6,ISCSO收斂速度始終最快,相較其他算法有較大優(yōu)勢。ISCSO在多峰測試函數(shù)的實驗結(jié)果表明,引入K?means初始化和變異機制能使沙貓群算法盡快收斂到最優(yōu)值,提升了算法尋優(yōu)能力和跳出局部最優(yōu)能力。
通過以上分析,運用K?means聚類算法初始化的ISCSO在引入演變機制和變異機制影響下,能較快收斂到最優(yōu)值附近,收斂能力得到較大增強,收斂速度明顯優(yōu)于其他對比算法,有較強的尋優(yōu)能力。綜上所述,本文提出的改進算法能夠很好地解決現(xiàn)實中的復(fù)雜問題。
4" 預(yù)測模型及評價指標(biāo)
4.1" 組合預(yù)測模型
BiLSTM模型中學(xué)習(xí)率L、隱含層節(jié)點數(shù)H、正則化系數(shù)L2對預(yù)測效果有重大影響[18]。BiLSTM模型的超參數(shù)隨機選擇會導(dǎo)致預(yù)測結(jié)果出現(xiàn)較大偏差。采用ISCSO算法對BiLSTM模型進行優(yōu)化,通過對網(wǎng)絡(luò)中學(xué)習(xí)率L、隱含層節(jié)點數(shù)H、正則化系數(shù)L2三個超參數(shù)進行尋優(yōu),將ISCSO算法尋到的三個最優(yōu)超參數(shù)賦值給BiLSTM模型,解決模型參數(shù)隨機取值帶來的預(yù)測偏差,使熱負(fù)荷預(yù)測精確度進一步提高。組合預(yù)測模型流程如圖6所示。
通過VMD將非線性供熱負(fù)荷序列分解成若干個具有不同頻率且穩(wěn)定的分量,為下一步精準(zhǔn)預(yù)測奠定基礎(chǔ)。綜合上述各方法優(yōu)勢,提出一種基于VMD?ISCSO?CNN?BiLSTM模型熱負(fù)荷預(yù)測方法,具體步驟如下。
Step1:VMD功率分解。利用VMD將供熱負(fù)荷數(shù)據(jù)分解成K個頻率不等且穩(wěn)定的IMF分量,并對其逐個進行預(yù)測,提高預(yù)測精度。
Step2:將IMF分量輸入CNN模塊,對輸入數(shù)據(jù)特征進行提取與降維。
Step3:對ISCSO?BiLSTM進行預(yù)測。首先生成訓(xùn)練集與測試集,在BiLSTM模型中訓(xùn)練。訓(xùn)練過程中,ISCSO對BiLSTM模型中學(xué)習(xí)率L、隱含層節(jié)點H、正則化系數(shù)L2共3個超參數(shù)進行尋優(yōu),得出最優(yōu)值,完成訓(xùn)練。
Step4:對Step3預(yù)測結(jié)果進行疊加,輸出預(yù)測值,并對預(yù)測值和真實值進行對比和誤差分析。
4.2" 評價指標(biāo)
為更好地評估熱負(fù)荷預(yù)測結(jié)果,使用均方根誤差(RMSE)、平均絕對誤差(MAE)和決定系數(shù)(R2)作為供熱負(fù)荷預(yù)測評估指標(biāo),公式如下:
[RMSE=1ni=1n(yi-yi)2] (15)
[MAE=1ni=1nyi-yi] (16)
[R2=1-i=1n(yi-yi)2i=1n(yi-y)2] (17)
式中:[yi]為第[i]時刻熱負(fù)荷的真實值;[yi]為第[i]時刻熱負(fù)荷的預(yù)測值;[y]為熱負(fù)荷的平均值。
5" 算例分析
5.1" 數(shù)據(jù)收集
實驗選取遼寧省鞍山市同樂乙換熱站2021年數(shù)據(jù),每10 min數(shù)據(jù)作為一組樣本點,共截取2 300組熱負(fù)荷數(shù)據(jù)進行仿真實驗。將數(shù)據(jù)前1 610個樣本點作為訓(xùn)練集,后690個樣本點作為測試集。輸入數(shù)據(jù)為換熱站一次側(cè)的供水流量(單位為t/h)、供水溫度(單位為℃)、回水溫度(單位為℃)、室外溫度(單位為℃)、熱量(單位為MW),輸出數(shù)據(jù)為熱量(單位為MW)。熱負(fù)荷序列如圖7所示,實驗環(huán)境為Matlab 2021b。
5.2" 實驗結(jié)果及分析
5.2.1" 數(shù)據(jù)預(yù)處理
如圖7所示,供熱負(fù)荷序列具有非平穩(wěn)性,整體具有一定的周期性。對具有非線性、周期性性質(zhì)的信號通過VMD算法進行平穩(wěn)化處理。根據(jù)文獻(xiàn)[19]知,模態(tài)數(shù)量K取值過大或過小都會影響分解結(jié)果,導(dǎo)致分解不完全或出現(xiàn)模態(tài)混疊現(xiàn)象。因此,采用觀察中心頻率法確定K的取值。中心頻率法是通過計算信號在頻率域上的中心頻率,即每個分解層級中心頻率。該方法是將信號分解為具有不同中心頻率的成分,使得每個成分能更好地表示信號的相應(yīng)頻段,經(jīng)過多次實驗,得出不同K值下的中心頻率[20],如表4所示。本文選取2 300組功率數(shù)據(jù)點作為分解樣本,K和懲罰因子[α]的取值范圍分別為[2,13]和[1 000,8 000]。由于噪聲容忍度[τ]和收斂準(zhǔn)則容忍度[ε]對分解結(jié)果影響較小,故采用默認(rèn)值,即噪聲容忍度[τ]為0,收斂準(zhǔn)則容忍度[ε]為1×10-7,經(jīng)多次實驗選取[α]為2 000。
根據(jù)表4結(jié)果可知,當(dāng)K=6時中心頻率([w6])和K=5時的中心頻率([w5])模態(tài)僅差0.004 4,繼續(xù)分解模態(tài)容易出現(xiàn)混疊,故K值取6。通過VMD得到各IMF分量結(jié)果如圖8所示。圖8中IMF1分量為主要分量,代表數(shù)據(jù)整體走向。經(jīng)過分解后各分量曲線明顯平滑,且其余分量呈現(xiàn)水平對稱,能有效提升熱負(fù)荷預(yù)測準(zhǔn)確率并降低預(yù)測難度。
5.2.2" 模型預(yù)測結(jié)果對比分析
通過測試函數(shù)對上述算法進行對比實驗后,得出ISCSO算法收斂速率、全局搜索能力和跳出局部最優(yōu)能力均最優(yōu)。為證明改進沙貓群算法在實際應(yīng)用的效果,需要上述各算法對BiLSTM模型的超參數(shù)進行優(yōu)化,得出預(yù)測結(jié)果進行對比,并通過預(yù)測效果和評價指標(biāo)綜合評判ISCSO實際應(yīng)用的優(yōu)越性。其中,各算法參數(shù)設(shè)置與上述一致,對模型相關(guān)參數(shù)進行多次調(diào)整和測試,最終BiLSTM模型選用Adam優(yōu)化器,學(xué)習(xí)率、隱含層節(jié)點數(shù)和正則化系數(shù)的取值范圍分別為[0.000 1,0.1]、[1,100]和[0.000 001,0.1],批尺寸和丟棄率分別設(shè)置為128和0.01。本文選取420組預(yù)測數(shù)據(jù),方便觀測模型預(yù)測效果,將預(yù)測結(jié)果進行可視化處理。各模型預(yù)測結(jié)果如圖9所示。
由圖9可知,VMD?ISCSO?CNN?BiLSTM預(yù)測效果優(yōu)于VMD?SCSO?CNN?BiLSTM模型、VMD?SSA?CNN?BiLSTM模型、VMD?WOA?CNN?BiLSTM模型和VMD?PSO?CNN?BiLSTM模型。說明本文模型預(yù)測能力突出,能夠在實際中表現(xiàn)出較好的預(yù)測能力。且有充足理由說明ISCSO算法能夠在實際應(yīng)用中優(yōu)于其他4種算法,有較強的尋優(yōu)能力。從整體預(yù)測效果來看,本文模型與真實值幾乎完全貼合,充分展示了本文模型的優(yōu)勢。
通過上述算法對模型參數(shù)進行優(yōu)化,運用RMSE、MAE、R2評價指標(biāo)來檢驗優(yōu)化效果,如表5所示。根據(jù)表5所示,VMD?ISCSO?CNN?BiLSTM相較其他算法優(yōu)化的模型,RMSE、MAE數(shù)值最小,RMSE分別降低1.6%、3%、3.1%和3.3%,MAE分別降低0.2%、1.7%、0.4%和0.6%;R2相較于其他4種模型分別提升0.3%、0.7%、1%、1.3%。說明引入優(yōu)化算法可避免人為調(diào)參產(chǎn)生的誤差,提升擬合精度。ISCSO相較于原始算法優(yōu)化模型能力更佳,擁有較強的尋優(yōu)能力。本文提出的VMD?ISCSO?CNN?BiLSTM模型預(yù)測精度最好。
為更好地驗證所提模型的有效性,選取BiLSTM(Model 1)、CNN?BiLSTM(Model 2)、ISCSO?CNN?BiLSTM(Model 3)與本文模型(Model 4)進行比較實驗。為減少模型訓(xùn)練過程中出現(xiàn)的偶然性因素,將每個模型進行多組訓(xùn)練,并把每組訓(xùn)練結(jié)果取平均值作為預(yù)測結(jié)果,實驗結(jié)果如圖10所示。
由圖10可知,Model 1模型預(yù)測結(jié)果距真實值有較大差距,預(yù)測效果較差。Model 2模型由CNN對數(shù)據(jù)特征進行提取和降維,BiLSTM有效提取輸入信息,在一定程度上提升了預(yù)測精度和與真實值的擬合程度;但模型隨機選取超參數(shù)所帶來的誤差仍存在,導(dǎo)致預(yù)測效果未達(dá)到預(yù)期效果。通過Model 2和Model 3進行對比,Model 3曲線更貼合真實值,這是由于引入優(yōu)化算法使模型中超參數(shù)取得最優(yōu)值。由此可知,模型超參數(shù)對于預(yù)測結(jié)果影響較大,故優(yōu)化算法引入超參數(shù),使模型預(yù)測精度有較大提升。Model 3與Model 4進行對比,Model 4利用VMD算法對供熱負(fù)荷數(shù)據(jù)進行預(yù)處理,將非平穩(wěn)的序列平穩(wěn)化,提升了預(yù)測精度。通過對比可知,本文模型預(yù)測效果相較所有模型最佳。
通過Model 4與其他三種模型對比并結(jié)合表6中的評價指標(biāo)可知,本文模型三項評估指標(biāo)均優(yōu)于其他三種模型,相較于Model 1(單一模型),RMSE降低18.5%,MAE降低13.8%,R2提升15.8%;與Model 2(加入卷積神經(jīng)網(wǎng)絡(luò))相比,RMSE降低12.6%,MAE降低12.7%,R2提升14.3%;與Model 3相比,RMSE降低1.2%,MAE降低3.5%,R2提升1.1%。
6" 結(jié)" 論
本文利用變分模態(tài)分解、改進沙貓群算法、卷積神經(jīng)網(wǎng)絡(luò)和雙向長短期記憶神經(jīng)網(wǎng)絡(luò)的組合,構(gòu)建了一個VMD?ISCSO?CNN?BiLSTM熱負(fù)荷預(yù)測模型,通過實驗得到以下結(jié)論。
1) 利用VMD算法,發(fā)揮了VMD中對數(shù)據(jù)降噪、降低非平穩(wěn)性的能力,為后續(xù)模型訓(xùn)練提供了穩(wěn)定的時間序列。
2) 通過改進沙貓群算法,利用單峰測試函數(shù)和多峰測試函數(shù)來驗證算法處理復(fù)雜問題的能力。仿真結(jié)果表明,通過引入K?means算法初始種群、演變機制和變異機制來改進沙貓群算法,該算法相較于PSO、SSA等對比算法尋優(yōu)精度更高,收斂速度更快。
3) 將ISCSO對模型參數(shù)進行尋優(yōu),并進行實例分析。實驗結(jié)果表明,相較于BiLSTM、CNN?BiLSTM、ISCSO?CNN?BiLSTM,所提算法模型的RMSE分別降低18.5%、12.6%、1.2%,MAE分別降低13.8%、12.7%、3.5%,R2分別提升15.8%、14.3%、1.1%。
本研究未考慮改進模型結(jié)構(gòu)以提升預(yù)測精度,未來可探索相關(guān)知識以降低模型運行時間和提升熱負(fù)荷預(yù)測精度。
注:本文通訊作者為薛貴軍。
參考文獻(xiàn)
[1] 郝俊紅,郭俁,王星策,等.有限信息下典型用能行業(yè)能效碳效診斷研究進展[J].中國電機工程學(xué)報,2023,43(z1):174?197.
[2] 趙安軍,席江濤,荊競,等.基于CNN的高層住宅建筑群熱負(fù)荷混合預(yù)測模型[J].控制工程,2023,30(4):662?672.
[3] 趙瑩玉,彭慧春,李繼清.融合改進灰狼算法的機器學(xué)習(xí)月徑流預(yù)測方法[J].水力發(fā)電學(xué)報,2023,42(9):34?45.
[4] 梁浩,黃生志,孟二浩,等.基于多種混合模型的徑流預(yù)測研究[J].水利學(xué)報,2020,51(1):112?125.
[5] YANG Yi, WU Xuerui, REN Fei, et al. Wind speed prediction using a hybrid model of EEMD and LSTM considering seasonal features [J]. Energy reports, 2022(2): 88965?88980.
[6] 傅雨晨,陳星,付文龍,等.基于多級特征提取和IHHO?KELM的變壓器油中溶解氣體體積分?jǐn)?shù)預(yù)測[J/OL].高壓電器:1?14[2024?01?01].http://kns.cnki.net/kcms/detail/61.1127.TM.20230713.1803.004.html.
[7] BAIGANG D, SHUO H, JUN G, et al. Interval forecasting for urban water demand using PSO optimized KDE distribution and LSTM neural networks [J]. Applied soft computer, 2022(122): 122.
[8] 齊結(jié)紅,錢虹,吳文軍.超短期熱負(fù)荷預(yù)測在發(fā)電機組廠級供熱調(diào)度的應(yīng)用[J].電力系統(tǒng)保護與控制,2023,51(18):117?124.
[9] 張金萍,薛治倫,陳航,等.基于注意力機制的CNN?BiLSTM的IGBT剩余使用壽命預(yù)測[J].半導(dǎo)體技術(shù),2024,49(4):373?379.
[10] EIMAN T, AL?SHAMMARIA, AFRAM K, et al. Prediction of heat load in district heating systems by Support Vector Machine with Firefly searching algorithm [J]. Energy, 2016(95): 266?273.
[11] 金秀章,史德金,喬鵬.基于沙地貓群優(yōu)化?最小二乘支持向量機的動態(tài)NOx排放預(yù)測[J].中國電機工程學(xué)報,2024,44(1):182?191.
[12] 肖斌,李炎炎,段增峰,等.基于ISCSO?LSTM模型的刀具磨損預(yù)測[J].組合機床與自動化加工技術(shù),2023(6):102?105.
[13] DRAGOMIRETSKIY K, ZOSSO D. Variational mode decompo?sition [J]. IEEE transcation signal processing, 2014, 62(3): 531.
[14] AMIR S, FARZAD K. Sand Cat swarm optimization: a nature?inspired algorithm to solve global optimization problems [J]. Engineering with computers, 2022, 39(4): 2627?2651.
[15] ZHU J, JANG?JACCARD J, WATTERS P A. Multi?loss siamese neural network with batch normalization layer for malware detection [J]. IEEE access, 2020, 8: 171542?171550.
[16] 劉可真,普偉,趙慶麗,等.基于VMD?BiLSTM機制的小水電日發(fā)電量預(yù)測[J].電力科學(xué)與工程,2023,39(9):28?37.
[17] 薛鋒,劉泳博,陳逸飛.新型群智能算法在求解聚類問題上的對比研究[J].計算機仿真,2023,40(3):370?376.
[18] 謝國民,王潤良.基于改進金豺算法的短期負(fù)荷預(yù)測[J].電力系統(tǒng)及其自動化學(xué)報,2024,36(3):65?74.
[19] 馬永翔,唐浦容,閆群民,等.基于VMD?STFT提升源?荷互動可靠性的混合儲能優(yōu)化配置[J].可再生能源,2023,41(12):1626?1633.
[20] ZANG H, CHENG L, DING T, et al. Hybrid method for short?term photovoltaic power forecasting based on deep convolutional neural network [J]. IET generation, transmission distribution, 2018, 12(20): 4557?4567.