基于CNN-BiLSTM的特高拱壩變形預(yù)測模型

摘要： 為提高特高拱壩的變形預(yù)測精度，提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)（CNN）和雙向長短期記憶網(wǎng)絡(luò)（BiLSTM）的大壩變形預(yù)測模型.該模型利用CNN捕捉數(shù)據(jù)之間的空間關(guān)系，進(jìn)行特征提取，再將其輸入到BiLSTM中進(jìn)行時間維度上的演變規(guī)律考慮.通過特征融合和全連接層的拼接，得到更豐富和綜合的特征表示，最終映射到預(yù)測輸出層進(jìn)行拱壩變形預(yù)測.以某拱壩為例，驗證了CNN-BiLSTM模型在RMSE等評價指標(biāo)上具有高精度和穩(wěn)定性，為混凝土拱壩結(jié)構(gòu)的安全監(jiān)測提供了新的思路.

關(guān)鍵詞： 混凝土拱壩；卷積神經(jīng)網(wǎng)絡(luò)；雙向長短期記憶網(wǎng)絡(luò)；預(yù)測模型

中圖分類號： S277.9 文獻(xiàn)標(biāo)志碼： A 文章編號： 1674-8530（2024）10-1031-05

DOI：10.3969/j.issn.1674-8530.23.0180

歐斌，張才溢，傅蜀燕，等.基于CNN-BiLSTM的特高拱壩變形預(yù)測模型[J].排灌機械工程學(xué)報，2024，42（10）：1031-1035，1043.

OU Bin，ZHANG Caiyi，F(xiàn)U Shuyan，et al.CNN-BiLSTM-based deformation prediction model for extra-high arch dams[J].Journal of drainage and irrigation machinery engineering（JDIME），2024，42（10）：1031-1035，1043.（in Chinese）

CNN-BiLSTM-based deformation prediction model

for extra-high arch dams

OU Bin1，2，3， ZHANG Caiyi1，3*， FU Shuyan1，2，3， YANG Lin1，3， CHEN Dehui1，3， YANG Shiyong1，3

（1. College of Water Conservancy， Yunnan Agricultural University， Kunming， Yunnan 650201， China; 2. State Key Laboratory of Hydrology-Water Resources and Hydraulic Engineering， Hohai University， Nanjing， Jiangsu 210098，China; 3. Yunnan Province Small and Medium-sized Water Conservancy Engineering Research Centre for Intelligent Management and Maintenance， Kunming， Yunnan 650201，China）

Abstract： To improve the deformation prediction accuracy of extra-high arch dams， a dam deformation prediction model based on convolutional neural network （CNN） and bidirectional long and short-term memory network （BiLSTM） was proposed. The model used CNN to capture the spatial relationship between the data for feature extraction， which was then fed into BiLSTM for the consideration of evolutio-nary patterns in the time dimension. A richer and integrated feature representation was obtained through feature fusion and splicing of fully connected layers， which was finally mapped to the prediction output layer for arch dam deformation prediction. Taking an arch dam as an example， the CNN-BiLSTM mo-del was verified to have high accuracy and stability in evaluation indexes such as RMSE， providing a new idea for the safety monitoring of concrete arch dam structures.

Key words： concrete arch dams；convolutional neural networks；bidirectional long and short-term memory networks； predictive modeling

截至2020年，中國共建成9萬多座水庫大壩，是現(xiàn)今世界上擁有大壩數(shù)量最多的國家.而大壩受力受到環(huán)境、材料老化、溶蝕等影響，存在一定的安全隱患[1].其中大壩的變形能最直觀地反映大壩的安全狀態(tài)，因此利用變形監(jiān)測數(shù)據(jù)構(gòu)建高精度的監(jiān)測模型，對于確保大壩的正常運轉(zhuǎn)至關(guān)重要[2].

現(xiàn)有的大壩變形監(jiān)測模型可分為統(tǒng)計模型、確定性模型和混合模型[3].其中統(tǒng)計模型簡單易實現(xiàn)，被廣泛使用.但隨著計算機網(wǎng)絡(luò)和智能算法的發(fā)展，如支持向量機[4]、隨機森林理論[5]、灰色理論[6]、BP神經(jīng)網(wǎng)絡(luò)[7]等智能算法被廣泛運用.相關(guān)學(xué)者對上述理論方法進(jìn)行了探討并將其運用于大壩安全監(jiān)測：王慧穎等[8]針對大壩安全監(jiān)測數(shù)據(jù)的非線性特征，提出了一種基于主成分分析法優(yōu)化支持向量機（SVM）并結(jié)合灰狼優(yōu)化算法（GWO），用于優(yōu)化參數(shù)并構(gòu)建大壩變形預(yù)測模型.曾永軍等[9]針對混凝土壩變形監(jiān)控模型中因子選取的相關(guān)問題，建立了基于RS-RF的混凝土壩變形預(yù)測模型.秦旭元等[10]將經(jīng)驗?zāi)B(tài)分解（EMD）和粒子群算法（PSO）引入到BP神經(jīng)網(wǎng)絡(luò)中，建立EMD-PSO-BP模型.雖然上述機器學(xué)習(xí)模型在大壩變形監(jiān)測中取得了一定的效果，但仍然存在一些缺陷.支持向量機的預(yù)測能力受參數(shù)選取影響較大，隨機森林理論不易處理小樣本數(shù)據(jù)且運算速度較慢，而神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測時存在局部極小化及收斂速度慢等問題，從而導(dǎo)致預(yù)測精度不高[11].

文中提出CNN-BiLSTM模型，用于預(yù)測混凝土拱壩的變形.該模型考慮到監(jiān)測數(shù)據(jù)的非線性特征、趨勢性和周期性.將監(jiān)測數(shù)據(jù)輸入CNN中提取空間特征，再輸入BiLSTM中提取時間維度特征，最后將CNN和BiLSTM的輸出進(jìn)行特征融合，映射到預(yù)測輸出層進(jìn)行拱壩變形預(yù)測.

1 混凝土拱壩變形預(yù)測模型

1.1 卷積神經(jīng)網(wǎng)絡(luò)

CNN是深度前饋神經(jīng)網(wǎng)絡(luò)，通過模擬生物視覺系統(tǒng)進(jìn)行圖像特征提取，結(jié)構(gòu)包括多個卷積層和池化層，交替出現(xiàn)以實現(xiàn)特征提取和維度降低.卷積過程提取圖像中的特征，CNN能夠自適應(yīng)地提取輸入數(shù)據(jù)中的重要特征，減少數(shù)據(jù)的冗余和復(fù)雜度.結(jié)構(gòu)如圖1所示.

卷積的過程計算式為

y=g（WX+b），（1）

式中：X為卷積層的輸入塊；W為不同層卷積核的權(quán)值；b為不同層卷積核的偏置；y為卷積層的輸出；g（）為非線性激活函數(shù).

卷積神經(jīng)網(wǎng)絡(luò)中的卷積層提取不同特征，通過反向傳播優(yōu)化參數(shù).池化層減少數(shù)據(jù)規(guī)模，降低計算量，常用方法為平均池化和最大池化.針對大壩變形監(jiān)測點，文中采用最大池化以保留有效信息并濾除噪聲，其表達(dá)式為

zj+1i（k）=max（k－1）ω+1≤m≤kω{pji（m）}，（2）

式中：ω為池化寬度；zj+1i（k）為j+1層中第i個特征面內(nèi)的神經(jīng)元對應(yīng)值；pji（m）為第j層中的第i個特征面內(nèi)第m個神經(jīng)元的激活值.

1.2 雙向長短期記憶網(wǎng)絡(luò)

BiLSTM是LSTM的變體，通過添加反向傳播層次，改善對序列上下文的理解和表達(dá).以“門”形式存儲細(xì)胞狀態(tài)并更新，通過控制信息流動，捕捉長期依賴關(guān)系.

首先，定義一組門控單元，其值?。?，1]，用于控制信息流通.

正向傳播：設(shè)給定輸入序列X=［x1，x2，…，xn］，其中xi是輸入向量.正向量ht的計算式為

ft=σ（Wf［ht－1，xt］+bf），（3）

it=σ（Wi［ht－1，xt］+bi），（4）

ot=σ（Wo［ht－1，xt］+bo），（5）

ct=ft⊙ct－1+it⊙tanh （Wc［ht－1，xt］+bc）.（6）

隱藏狀態(tài)更新

ht=ot⊙tanh（ct），（7）

上述式中： ft為遺忘門；it為輸入門；ot為輸出門；σ為sigmoid函數(shù)；⊙為逐元素乘法；W為權(quán)重矩陣；［ht－1，xt］為將上一個時間步的隱藏狀態(tài)ht－1和當(dāng)前輸入向量xt進(jìn)行拼接；ct為細(xì)胞狀態(tài).

反向量h～t的計算式為

f～t=σ（W～f［h～t－1，xt］+b～f），（8）

i～t=σ（W～i［h～t－1，xt］+b～i），（9）

o～t=σ（W～o［h～t－1，xt］+b～o），（10）

c～t=f～t⊙c～t－1+i～t⊙

tanh（W～c［h～t－1，x～t］+b～c），（11）

反向隱藏狀態(tài)更新

h～t=ot⊙tanh（c～t），（12）

上述式中：b～為反向的偏置參數(shù)；W～為反向權(quán)重矩陣；［h～t－1，x～t］為將上一個時間步的隱藏狀態(tài)h～t－1和當(dāng)前輸入x～t進(jìn)行拼接；c～t為反向細(xì)胞狀態(tài).

2 模型構(gòu)建

文中采用了CNN-BiLSTM相結(jié)合的方法，構(gòu)建預(yù)測混凝土拱壩變形的模型，其流程如圖2所示.具體步驟：① 初始化.對大壩監(jiān)測數(shù)據(jù)進(jìn)行歸一化處理，以便于模型更好地處理數(shù)據(jù);② 劃分訓(xùn)練集和測試集.創(chuàng)建向量長度分別為訓(xùn)練集長度和測試集長度，以便于模型在訓(xùn)練和測試時的輸入輸出;③ 特征提取.將處理好的監(jiān)測數(shù)據(jù)輸入至CNN（卷積神經(jīng)網(wǎng)絡(luò)），利用其卷積層提取空間特征;④ 時序特征提取.將CNN處理后的數(shù)據(jù)輸入到BiLSTM層，通過訓(xùn)練前向網(wǎng)絡(luò)和后向網(wǎng)絡(luò)，擬合數(shù)據(jù)并提取時間特征;⑤ 預(yù)測輸出.將BiLSTM網(wǎng)絡(luò)的輸出作為全連接層的輸入數(shù)據(jù)，最終輸出得到大壩的變形預(yù)測;⑥ 分析討論.對混凝土拱壩變形預(yù)測結(jié)果進(jìn)行分析討論，以驗證模型的準(zhǔn)確性和可靠性.

3 實例分析

小灣水電站位于云南省瀾滄江中游河段的大（1）型工程，由混凝土雙曲拱壩、水墊塘及二道壩、泄洪洞及地下引水發(fā)電系統(tǒng)等組成.混凝土雙曲拱壩、全長約901.8 m，最大壩高294.5 m，正常蓄水位1 240 m，總庫容150億m3.其中，變形監(jiān)測設(shè)施（正倒垂線）布置方案如圖3所示.

文中考慮到不同監(jiān)測點可能存在缺失，因此選取數(shù)據(jù)較為穩(wěn)定的測點C4-A22-PL-04，C4-A22-PL-05作為預(yù)測變形的監(jiān)測點.該水電站的上下游水位H、溫度T如圖4—5所示.

根據(jù)混凝土壩變形監(jiān)控模型公式[12]可知，對于重力壩而言，變形監(jiān)控模型中影響因子有9個，分別為H，H1，H2，θ，ln θ，sin（2πt/365），sin（4πt/365），cos（2πt/365），cos（4πt/365）.但對于拱壩而言，除上述影響因子之外其變形還受到H4的影響，共計10個影響因子.在確定了影響因子和效應(yīng)量后，為了消除單位差異和因子間數(shù)量級的差異，需要對影響因子和效應(yīng)量進(jìn)行規(guī)范化處理.

在CNN-BiLSTM模型中，輸入層的結(jié)構(gòu)為（24，10），包括2層卷積層和1個池化層.卷積層使用512個大小為2的卷積核，而池化層的池化深度為2.雙向LSTM層的神經(jīng)元個數(shù)為200.訓(xùn)練集占監(jiān)測數(shù)據(jù)的70%，驗證集占30%.特征維度為3，最大迭代次數(shù)為50，學(xué)習(xí)率為0.01，最大周期為500，梯度閾值為1，學(xué)習(xí)率下降周期為20，學(xué)習(xí)率下降系數(shù)為0.9.文中運用均方根RMSE、平均絕對值MAE、平均絕對百分比誤差MAPE對CNN-BiLSTM的模型預(yù)測結(jié)果進(jìn)行評價.

文中在壩體上選取測點C4-A22-PL-04 2013年2月13日至2014年6月11日的變形監(jiān)測數(shù)據(jù)為訓(xùn)練集，2014年6月12日至2014年12月7日監(jiān)測數(shù)據(jù)為測試集.選取測點C4-A22-PL-05 2014年2月2號至2015年3月18日的變形監(jiān)測數(shù)據(jù)為訓(xùn)練集，2015年3月19日至2015年6月16日監(jiān)測數(shù)據(jù)為測試集進(jìn)行測試.為驗證模型的有效性，采用不同模型構(gòu)建相應(yīng)的預(yù)測模型，3種模型的預(yù)測結(jié)果見表1，預(yù)測曲線及模型殘差如圖6—7所示，圖中d為位移，l為殘差.

通過實例驗證，表1結(jié)果顯示，對于測點C4-A22-PL-04的預(yù)測，CNN-BiLSTM模型相比LSTM模型和BiLSTM模型具有更小的RMSE，MAE和MAPE，表明CNN-BiLSTM模型具有更高的穩(wěn)定性和預(yù)測精度.其中，CNN-BiLSTM模型的RMSE比BiLSTM模型減少了0.208 4 mm，比LSTM模型減少了0.126 6 mm；MAE比BiLSTM模型減少了0.153 8 mm2，比LSTM模型減少了0.110 1 mm2；MAPE比BiLSTM模型減少了0.004 1 mm，比LSTM模型減少了0.003 2 mm.這進(jìn)一步驗證了CNN-BiLSTM模型在處理復(fù)雜時序數(shù)據(jù)和非線性關(guān)系方面的優(yōu)勢.

根據(jù)圖6的結(jié)果，CNN-BiLSTM，BiLSTM和LSTM算法構(gòu)建的預(yù)測模型與實際位移變化過程保持一致，但CNN-BiLSTM算法的預(yù)測模型具有更高的擬合精度.圖7顯示CNN-BiLSTM模型的殘差無明顯的變化規(guī)律，數(shù)值范圍相對較小并保持在一定范圍內(nèi)，而其他3種模型的誤差隨著時間的推移逐漸增加，并且存在更大的波動范圍.因此，CNN-BiLSTM模型在挖掘影響因子與拱壩變形之間的內(nèi)在關(guān)系方面具有更強的能力.

4 結(jié) 論

1） 提出了一種基于CNN-BiLSTM的混凝土拱壩變形預(yù)測模型，該模型充分挖掘拱壩變形監(jiān)測數(shù)據(jù)的時間序列屬性，獲取深層次的時間相關(guān)性，提高預(yù)測準(zhǔn)確性和可靠性.

2） CNN-BiLSTM模型結(jié)合CNN的空間特征提取能力和BiLSTM的雙向特征提取能力，實現(xiàn)了更準(zhǔn)確的拱壩變形預(yù)測，為大壩變形監(jiān)測提供了新的可行性方案.

參考文獻(xiàn)（References）

[1] 趙二峰，顧沖時.混凝土壩長效服役性態(tài)健康診斷研究述評[J].水力發(fā)電學(xué)報，2021，40（5）：22-34.

ZHAO Erfeng，GU Chongshi. Review of health diagnosis of concrete dams in long service[J]. Journal of hydropower generation，2021，40（5）：22-34.（in Chinese）

[2] 宋寶鋼，包騰飛，向鎮(zhèn)洋，等.基于小波的SSA-ELM大壩變形時空預(yù)測模型[J].長江科學(xué)院院報，2023，40（8）：145-151.

SONG Baogang， BAO Tengfei， XIANG Zhenyang，et al. Wavelet-based SSA-ELM spatio-temporal prediction model for dam deformation[J].Journal of Yanetze River Scientific Research Institute，2023，40（8）：145-151.（in Chinese）

[3] YUAN R，SU C，CA E，et al. Exploration of multi-scale reconstruction framework in dam deformation prediction [J]. Applied sciences，2021， 11：167334.

[4] XING Y，CHEN Y，HUANG S，et al. Research on dam deformation prediction model based on optimized SVM [J]. Processes，2022， 10： 091842.

[5] DAI B， GU C， ZHAO E， et al. Statistical model optimized random forest regression model for concrete dam deformation monitoring[J].Struct control health monit，2018，25：e2170.

[6] KOSE E，TASCI L.Geodetic deformation forecasting based on multi-variable grey prediction model and regression model [J].Grey systems：theory and applica-tion， 2019，9（4）： 464-471.

[7] 朱小韋， 袁占泉， 李宏超. 基于BP-PCA-WCA-SVM的混凝土大壩變形預(yù)測方法[J]. 長江科學(xué)院院報， DOI： 10.11988/ckyyb.20230194.

ZHU Xiaowei， YUAN Zhanquan， LI Hongchao. Concrete dams deformation prediction method based on BP-PCA-WCA-SVM[J]. Journal of Yangtze River Scientific Research Institute， DOI： 10.11988/ckyyb.20230194.（in Chinese）

[8] 王穎慧，蘇懷智.基于PCA-GWO-SVM的大壩變形預(yù)測[J].人民黃河，2020，42（11）：130-134.

WANG Yinghui，SU Huaizhi. Dam deformation predic-tion based on PCA-GWO-SVM model [J]. Yellow River，2020，42（11）：130-134.（in Chinese）

[9] 曾永軍，張俊文，曹登剛，等.RS-RF模型在混凝土壩變形預(yù)測中的應(yīng)用[J].水利水電技術(shù)，2021，52（5）：82-88.

ZENG Yongjun， ZHANG Junwen， CAO Denggang， et al. Application of RS-RF model in deformation predic-tion of concrete dams [J]. Water resources and hydropower engineering，2021，52（5）：82-88.（in Chinese）

[10] 秦旭元，劉立龍，陳軍，等.基于EMD-PSO-BP網(wǎng)絡(luò)模型的大壩變形預(yù)測[J].桂林理工大學(xué)學(xué)報，2017，37（4）：641-646.

QIN Xuyuan，LIU Lilong，CHEN Jun，et al. Dam defor-mation forecast based on EMD-PSO-BP neural network model[J].Journal of Guilin University of Technology，2017，37（4）：641-646.（in Chinese）

[11] 張才溢，傅蜀燕，歐斌，等.基于APSO和TWSVM的特高拱壩變形預(yù)測模型[J].水利水電科技進(jìn)展，2023，43（4）：46-51.

ZHANG Caiyi，F(xiàn)U Shuyan，OU Bin，et al. Deformation prediction model of ultra-high arch dams based on APSO and TWSVM[J].Advances in science and technology of water resources，2023，43（4）：46-51.（in Chinese）

[12] 牛景太.基于奇異譜分析與PSO優(yōu)化SVM的混凝土壩變形監(jiān)控模型[J].水利水電科技進(jìn)展，2020，40（6）：60-65.

NIU Jingtai. Dam deformation monitoring model based on singular spectrum analysis and SVM optimized by PSO[J]. Advances in science and technology of water resources，2020，40（6）：60-65.（in Chinese）

（責(zé)任編輯 談國鵬）