基于CEEMDAN-LSTM的陶岔渠首水深預(yù)測(cè)

陳 偉，呂學(xué)斌，梁雪春

（1.南京工業(yè)大學(xué) 數(shù)理科學(xué)學(xué)院，江蘇 南京 211816；2.南京工業(yè)大學(xué) 電氣工程與控制科學(xué)學(xué)院，江蘇 南京 211816）

南水北調(diào)中線一期陶岔渠首樞紐工程自2014年12月12日正式投入使用以來，供水量逐年遞增。隨著供水壓力的增大，構(gòu)建準(zhǔn)確、高效的水深預(yù)測(cè)模型對(duì)于保障工程穩(wěn)定運(yùn)行顯得尤為重要。鑒于水位數(shù)據(jù)具有明顯的季節(jié)性與復(fù)雜性，一些學(xué)者將傳統(tǒng)的時(shí)間序列統(tǒng)計(jì)方法和模型應(yīng)用到水位預(yù)測(cè)研究中。范先友等［1］、蔣利娟［2］利用多元線性回歸方法分別對(duì)長(zhǎng)江監(jiān)利站、黃河花園口站水位進(jìn)行預(yù)測(cè)，取得了較好的效果；易云飛等［3］利用主成分分析法確定方程的參數(shù)并建立自回歸分布滯后模型，對(duì)湖北省長(zhǎng)江航道水深進(jìn)行短期預(yù)測(cè)的結(jié)果表明，該模型預(yù)測(cè)精度較高；陳漢軍等［4］利用ARMA模型預(yù)測(cè)北京市地下水位，得出了地下水位變化規(guī)律。上述傳統(tǒng)統(tǒng)計(jì)學(xué)模型只能針對(duì)較平穩(wěn)序列進(jìn)行預(yù)測(cè)，且對(duì)于拐點(diǎn)處的預(yù)測(cè)效果較差，因此模型適用性不夠廣泛。

水位數(shù)據(jù)具有高度的非線性，傳統(tǒng)的統(tǒng)計(jì)學(xué)方法在預(yù)測(cè)波動(dòng)頻率較高的水深時(shí)往往會(huì)陷入困境。近些年來，伴隨著機(jī)器學(xué)習(xí)方法的興起，基于人工神經(jīng)網(wǎng)絡(luò)方法的預(yù)測(cè)模型開始普及，由于利用人工神經(jīng)網(wǎng)絡(luò)加入非線性激活函數(shù)擬合的方法可提高模型預(yù)測(cè)精度，因此有關(guān)學(xué)者將機(jī)器學(xué)習(xí)方法應(yīng)用到水深預(yù)測(cè)中。管新建等［5］利用BP神經(jīng)網(wǎng)絡(luò)對(duì)某地區(qū)地下水位進(jìn)行預(yù)測(cè)，結(jié)果表明BP神經(jīng)網(wǎng)絡(luò)模型在預(yù)測(cè)效率及預(yù)測(cè)精度方面都顯著優(yōu)于傳統(tǒng)統(tǒng)計(jì)模型；潘長(zhǎng)森等［6］利用優(yōu)化后的支持向量機(jī)（SVM）模型對(duì)水深進(jìn)行預(yù)測(cè)，取得了比BP神經(jīng)網(wǎng)絡(luò)和RBF神經(jīng)網(wǎng)絡(luò)更好的預(yù)測(cè)效果；黃發(fā)明等［7］使用粒子群-支持向量機(jī)模型對(duì)滑坡地下水位進(jìn)行預(yù)測(cè)，結(jié)果表明該模型可以真實(shí)地反映地下水位的演變規(guī)律。但BP神經(jīng)網(wǎng)絡(luò)容易陷入局部極小化且收斂速度慢，其反向傳播算法容易導(dǎo)致“梯度爆炸”與“梯度消失”現(xiàn)象。隨著機(jī)器學(xué)習(xí)方法的發(fā)展，Hochreiter等［8］提出了長(zhǎng)短期記憶（LSTM）神經(jīng)網(wǎng)絡(luò)模型，利用“門”的結(jié)構(gòu)調(diào)控梯度，解決了“梯度爆炸”與“梯度消失”的問題。邢立文等［9］比較了多種神經(jīng)網(wǎng)絡(luò)模型，最終選用預(yù)測(cè)效果最好的LSTM模型對(duì)晉祠泉2018—2027年水位進(jìn)行預(yù)測(cè)，結(jié)果顯示正確措施的實(shí)施可以取得良好的泉水復(fù)流效果；閆佰忠等［10］利用多變量LSTM神經(jīng)網(wǎng)絡(luò)模型對(duì)山東省泰安市地下水位進(jìn)行預(yù)測(cè)，結(jié)果表明LSTM模型比傳統(tǒng)機(jī)器學(xué)習(xí)方法有更高的預(yù)測(cè)精度。王亦斌等［11］利用集合經(jīng)驗(yàn)?zāi)B(tài)分解-長(zhǎng)短期記憶（EMD-LSTM）神經(jīng)網(wǎng)絡(luò)模型對(duì)南水北調(diào)工程沿線某河流水量、水位進(jìn)行預(yù)測(cè)，首先使用EMD分解得到原序列的本征模態(tài)函數(shù)（IMF），然后構(gòu)建LSTM神經(jīng)網(wǎng)絡(luò)模型得到各分量的預(yù)測(cè)值，最后對(duì)水位及水量的預(yù)測(cè)值進(jìn)行重構(gòu)，取得了比LSTM神經(jīng)網(wǎng)絡(luò)模型更好的預(yù)測(cè)效果。EMD方法是一種常見的信號(hào)處理方法，其特點(diǎn)是能夠?qū)π盘?hào)進(jìn)行平穩(wěn)化處理并提取信號(hào)中不同尺度的振動(dòng)模態(tài)信息，進(jìn)而生成一系列含局部信號(hào)特征且具有不同時(shí)間尺度的分量，在處理非線性、非平穩(wěn)的序列時(shí)具有明顯的優(yōu)勢(shì)［12］。但EMD方法本身存在模態(tài)混疊、分解不完備、重構(gòu)誤差大等問題，Wu等［13］通過加入高斯白噪聲來輔助經(jīng)驗(yàn)?zāi)B(tài)分解，提出了集合經(jīng)驗(yàn)?zāi)B(tài)分解（EEMD）方法，但分解時(shí)加入的高斯白噪聲在重構(gòu)時(shí)無法完全去除。Torres等［14］在EEMD的基礎(chǔ)上通過在原序列中加入若干組自適應(yīng)且獨(dú)立同分布的白噪聲，提出了自適應(yīng)噪聲的完全集合經(jīng)驗(yàn)?zāi)B(tài)分解（CEEMDAN）方法，有效解決了EEMD方法存在的計(jì)算過程復(fù)雜、輔助噪聲帶來重構(gòu)誤差的問題。CEEMDAN方法目前已被廣泛應(yīng)用于不同領(lǐng)域中，張樂樂等［15］利用CEEMDAN算法對(duì)原始信號(hào)進(jìn)行分解，進(jìn)而檢測(cè)諧波中的瞬時(shí)幅頻信息，為諧波檢測(cè)提供了一種新的思路；賀毅岳等［16］將CEEMDAN方法應(yīng)用于我國(guó)A股市場(chǎng)，對(duì)滬深300指數(shù)進(jìn)行預(yù)測(cè)，結(jié)果顯示該模型能夠準(zhǔn)確預(yù)測(cè)滬深300指數(shù)的走勢(shì)；Cao等［17］利用CEEMDAN-LSTM對(duì)股價(jià)走勢(shì)進(jìn)行預(yù)測(cè)，結(jié)果顯示該模型能夠?qū)χ虚L(zhǎng)期股價(jià)進(jìn)行高精度的預(yù)測(cè)。筆者采用CEEMDAN方法構(gòu)建CEEMDAN-LSTM模型，預(yù)測(cè)陶岔渠首的水深，以期獲得更好的預(yù)測(cè)效果。

1 CEEMDAN-LSTM模型構(gòu)建

1.1 CEEMDAN方法

CEEMDAN方法［14］是基于EMD和EEMD方法并進(jìn)行改進(jìn)的分解方法，構(gòu)建步驟如下。

（1）構(gòu)造含噪序列：

式中：x（t）為t時(shí)刻水深實(shí)測(cè)值；wj（t）為第j個(gè)服從標(biāo)準(zhǔn)正態(tài)分布的白噪聲；J為加入白噪聲的樣本數(shù)量。

（2）對(duì)xj（t）進(jìn)行EMD分解得到樣本分量，然后對(duì)J個(gè)分量求均值，將其作為xj（t）的第一階本征模態(tài)分量：

式中：E1（·）為EMD分解得到的第1階IMF算子；σ1為加入的白噪聲初始標(biāo)準(zhǔn)差。

（5）計(jì)算k階殘差及k＋1階IMF，公式分別為

式中：σk為第k階分解時(shí)加入白噪聲的標(biāo)準(zhǔn)差，σk=σ1｛s t d［Rk（t）］／s t d｛Ek［wj（t）］｝｝（s t d為標(biāo)準(zhǔn)差）。

（6）重復(fù)步驟（5），直至殘差不能被繼續(xù)分解時(shí)終止，輸出所有分量。最終殘差為

式中：K為CEEEMDAN分解得到分量的最高階數(shù)。

原始序列的重構(gòu)形式為

1.2 LSTM神經(jīng)網(wǎng)絡(luò)模型

圖1 LSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

（2）輸入門。決定允許或阻止輸入向量更新細(xì)胞單元狀態(tài)ct，輸入門的表達(dá)式為

（3）輸出門。決定當(dāng)前細(xì)胞記憶狀態(tài)部分輸出和輸入下一單元，輸出門的表達(dá)式為

1.3 CEEMDAN-LSTM模型

將CEEMDAN分解法與LSTM神經(jīng)網(wǎng)絡(luò)模型相結(jié)合，使用CEEMDAN-LSTM模型對(duì)水深進(jìn)行預(yù)測(cè)，計(jì)算公式為

2 陶岔渠首水深預(yù)測(cè)

2.1 數(shù)據(jù)預(yù)處理

陶岔渠首2017年11月3日—2018年6月1日每隔1 h的水深數(shù)據(jù)共有4 999個(gè)。首先對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，主要采用中位值平均濾波法過濾噪聲和對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理。

濾波后的陶岔渠首水深變化情況見圖2。

圖2 濾波后的陶岔渠首水深變化情況

采用極值標(biāo)準(zhǔn)化法對(duì)濾波后的數(shù)據(jù)進(jìn)行處理，以消除量綱的影響，計(jì)算公式為

式中：x′（t）為標(biāo)準(zhǔn)化后的水深；xmax與xmin分別為實(shí)測(cè)水深最大值與最小值。

將數(shù)據(jù)集的分割比定為0.85∶0.15，即前4 999×0.85=4 249個(gè)數(shù)據(jù)作為訓(xùn)練集，后4 999×0.15=750個(gè)數(shù)據(jù)作為測(cè)試集。

2.2 CEEMDAN分解

利用CEEMDAN分解法對(duì)水深時(shí)間序列進(jìn)行平穩(wěn)化處理，將原序列分解成多個(gè)包含原始序列特征信息的分量，分量序列波動(dòng)特征較為簡(jiǎn)單且低頻分量中基本不再含有噪聲，因而可以大大提高水深預(yù)測(cè)的精度。

2.3 利用LSTM神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)水深

將CEEMDAN分解后的各個(gè)分量輸入LSTM神經(jīng)網(wǎng)絡(luò)模型中，利用Adam算法對(duì)模型權(quán)值進(jìn)行更新使其加速收斂，直至均方誤差（MSE）最小。在模型中加入Dropout層［18］并將其參數(shù)設(shè)置為0.5，防止出現(xiàn)過擬合的現(xiàn)象。MSE計(jì)算公式為

式中：yi（t）為L(zhǎng)STM神經(jīng)網(wǎng)絡(luò)模型的第i個(gè)輸入值；（t）為L(zhǎng)STM神經(jīng)網(wǎng)絡(luò)模型的第i個(gè)預(yù)測(cè)值；n為輸入值或預(yù)測(cè)值總數(shù)。

對(duì)歸一化后的各分量預(yù)測(cè)數(shù)據(jù)進(jìn)行反歸一化，然后疊加各分量反歸一化后的預(yù)測(cè)結(jié)果及殘差序列來重構(gòu)陶岔渠首水深預(yù)測(cè)結(jié)果。采用均方根誤差（RMSE）、平均絕對(duì)誤差（MAE）與平均絕對(duì)百分比誤差（MAPE）評(píng)價(jià)模型的預(yù)測(cè)效果（這些指標(biāo)值越小，說明模型預(yù)測(cè)效果越好），計(jì)算公式分別為

2.4 CEEMDAN-LSTM模型調(diào)參

設(shè)定在CEEMDAN分解過程中加入待分解序列中的白噪聲數(shù)量J=500，加入的白噪聲初始標(biāo)準(zhǔn)差σ1=0.2。LSTM神經(jīng)網(wǎng)絡(luò)模型需要調(diào)整的參數(shù)主要有迭代次數(shù)（E poch）、訓(xùn)練批次（Batch Size）、隱藏層節(jié)點(diǎn)數(shù)（p）和學(xué)習(xí)率（φ）。鑒于同時(shí)調(diào)整4個(gè)參數(shù)比較困難，本文采取控制變量的方法進(jìn)行調(diào)參，即固定非調(diào)整參數(shù)值，不斷改變需要調(diào)整的參數(shù)值，以尋找最優(yōu)參數(shù)組合。在訓(xùn)練過程中發(fā)現(xiàn)，模型迭代到1 000次且訓(xùn)練批次設(shè)為24時(shí)，損失函數(shù)能達(dá)到收斂狀態(tài)，因此固定E poch=1 000、Batch Size=24，對(duì)隱藏層節(jié)點(diǎn)數(shù)p和學(xué)習(xí)率φ進(jìn)行調(diào)整。隱藏層節(jié)點(diǎn)數(shù)p一般由經(jīng)驗(yàn)公式［10］給出，學(xué)習(xí)率φ通常按照3的倍數(shù)［10］來進(jìn)行調(diào)節(jié)。兩組參數(shù)不同組合形式在測(cè)試集中的均方根誤差（RMSE）計(jì)算結(jié)果見表1。

表1 不同參數(shù)組合對(duì)應(yīng)的均方根誤差 m

由表1可知，隱藏層節(jié)點(diǎn)數(shù)為64、學(xué)習(xí)率為0.000 3的組合對(duì)應(yīng)的均方根誤差最小，僅為0.011 1。因此，最終確定的參數(shù)組合：迭代次數(shù)為1 000次、訓(xùn)練批次為24、隱藏層節(jié)點(diǎn)數(shù)為64、學(xué)習(xí)率為0.000 3。

為了研究不同預(yù)測(cè)窗口長(zhǎng)度對(duì)預(yù)測(cè)結(jié)果的影響，在設(shè)定輸入窗口長(zhǎng)度為24 h的前提下，將預(yù)測(cè)窗口長(zhǎng)度分別設(shè)為L(zhǎng)=6 h與L=12 h進(jìn)行試驗(yàn)（即利用前24 h的水深分別預(yù)測(cè)后6 h與12 h的水深）。

2.5 CEEMDAN-LSTM模型預(yù)測(cè)結(jié)果

（1）分量預(yù)測(cè)結(jié)果。利用CEEMDAN算法對(duì)陶岔渠首2017年11月3日至2018年4月30日共計(jì)4 249個(gè)水深數(shù)據(jù)（即訓(xùn)練集數(shù)據(jù)）進(jìn)行分解，得到I M F1～I(xiàn) M F99個(gè)分量和殘差序列R（t）。水深序列經(jīng)CEEMDAN分解后的各分量波動(dòng)相對(duì)比較簡(jiǎn)單，為后續(xù)提取各分量的波動(dòng)特征并以此來構(gòu)建預(yù)測(cè)模型降低了難度。將CEEMDAN分解后的各分量作為輸入，利用LSTM神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練、學(xué)習(xí)分量的演變特征并輸出預(yù)測(cè)結(jié)果。以預(yù)測(cè)窗口長(zhǎng)度L=6 h為例，I M F1～I(xiàn) M F99個(gè)分量及殘差序列R（t）的預(yù)測(cè)結(jié)果見圖3。

圖3 CEEMDAN-LSTM模型預(yù)測(cè)窗口長(zhǎng)度L=6 h下各分量的預(yù)測(cè)結(jié)果

從圖3可以看出，CEEMDAN-LSTM模型對(duì)I M F1及I M F2的預(yù)測(cè)效果較差，原因是這兩個(gè)分量為高頻分量，其中攜帶大量噪聲，基本無規(guī)律可循。而殘差序列（未經(jīng)過標(biāo)準(zhǔn)化）反映了數(shù)據(jù)的長(zhǎng)期演變趨勢(shì)，因此預(yù)測(cè)值與觀測(cè)值十分接近。

（2）分量重構(gòu)預(yù)測(cè)結(jié)果。重構(gòu)過程參考賀毅岳等［16］的研究，將分量預(yù)測(cè)結(jié)果反歸一化后的序列進(jìn)行累加，重構(gòu)陶岔渠首CEEMDAN-LSTM模型的預(yù)測(cè)水深，結(jié)果見圖4?？芍獌煞N預(yù)測(cè)窗口長(zhǎng)度下模型的預(yù)測(cè)結(jié)果都較好，但對(duì)于波動(dòng)頻率較大的片段，L=6 h的預(yù)測(cè)結(jié)果明顯優(yōu)于L=12 h的，總體預(yù)測(cè)精度也是L=6 h的結(jié)果優(yōu)于L=12 h的。

圖4 不同預(yù)測(cè)窗口長(zhǎng)度下CEEMDAN-LSTM模型水深預(yù)測(cè)結(jié)果

3 不同模型的預(yù)測(cè)結(jié)果對(duì)比

為進(jìn)一步研究不同模型、不同預(yù)測(cè)窗口長(zhǎng)度對(duì)預(yù)測(cè)精度的影響，分別利用SVR、BP、LSTM、EMD-LSTM模型計(jì)算預(yù)測(cè)窗口長(zhǎng)度L=6 h與12 h下的陶岔渠首水深，并與CEEMDAN-LSTM模型的預(yù)測(cè)值進(jìn)行對(duì)比，結(jié)果見圖5，相關(guān)統(tǒng)計(jì)指標(biāo)見表2。

圖5 不同模型、不同預(yù)測(cè)窗口長(zhǎng)度下的預(yù)測(cè)結(jié)果

表2 不同模型、不同預(yù)測(cè)窗口長(zhǎng)度下的預(yù)測(cè)統(tǒng)計(jì)指標(biāo)

由圖4、圖5可知：

（1）CEEMDAN-LSTM模型比傳統(tǒng)機(jī)器學(xué)習(xí)方法（SVR、BP模型）擬合效果更好、預(yù)測(cè)精度更高，尤其對(duì)于水深變化頻率較高的時(shí)段和拐點(diǎn)處的水深預(yù)測(cè)。例如，CEEMDAN-LSTM模型能很好地預(yù)測(cè)2018年6月6—20日水深從高到低的突變過程，而SVR、BP模型預(yù)測(cè)的水深曲線較為平緩，無法真實(shí)反映拐點(diǎn)處的水深突變情況。原因是水深突變受氣候、環(huán)境、人類活動(dòng)等多方面因素的影響，傳統(tǒng)機(jī)器學(xué)習(xí)方法很難從歷史數(shù)據(jù)中去學(xué)習(xí)并及時(shí)作出反映。

（2）LSTM、EMD-LSTM模型相比SVR、BP模型預(yù)測(cè)效果更好，但比CEEMDAN-LSTM模型略遜一籌，說明CEEMDAN分解是有效且具有普遍適用性的，而LSTM模型更容易學(xué)習(xí)歷史水深數(shù)據(jù)的演變規(guī)律，從而實(shí)現(xiàn)更高精度的預(yù)測(cè)。

（3）SVR、BP、LSTM、EMD-LSTM、CEEMDAN-LSTM

模型預(yù)測(cè)窗口長(zhǎng)度L=6 h的預(yù)測(cè)結(jié)果均優(yōu)于預(yù)測(cè)窗口長(zhǎng)度L=12 h的，說明神經(jīng)網(wǎng)絡(luò)模型更擅長(zhǎng)處理短時(shí)間的預(yù)測(cè)任務(wù)。原因是預(yù)測(cè)窗口長(zhǎng)度過長(zhǎng)會(huì)導(dǎo)致數(shù)據(jù)信號(hào)發(fā)生變化，而這些變化使神經(jīng)網(wǎng)絡(luò)幾乎無法從歷史數(shù)據(jù)中去學(xué)習(xí)，從而導(dǎo)致預(yù)測(cè)精度下降。

4 結(jié) 語

本文構(gòu)建CEEMDAN-LSTM模型對(duì)陶岔渠首水深進(jìn)行預(yù)測(cè)，并比較了不同模型、不同預(yù)測(cè)窗口長(zhǎng)度對(duì)預(yù)測(cè)精度的影響。結(jié)果表明：CEEMDAN-LSTM模型比SVR、BP、LSTM、EMD-LSTM模型預(yù)測(cè)效果更好，而且更擅長(zhǎng)處理短時(shí)間的預(yù)測(cè)任務(wù)。

本文建立的CEEMDAN-LSTM模型尚存在不足，如CEEMDAN分解后的I M F1及I M F2分量因含有大量噪聲而使預(yù)測(cè)效果不佳，下一步可考慮加入假設(shè)檢驗(yàn)方法對(duì)高頻分量進(jìn)行篩選，選取預(yù)測(cè)效果好的高頻序列對(duì)總序列進(jìn)行重構(gòu)。