CAST-LSTM:一種用于雷達(dá)回波外推的時空LSTM模型*

渠海峰 何光鑫 康志明 程 勇 王 軍 莊瀟然 李遠(yuǎn)祿

1 南京信息工程大學(xué),南京 210044 2 中國氣象局廣州熱帶海洋氣象研究所,廣東省區(qū)域數(shù)值天氣預(yù)報重點(diǎn)實驗室,廣州 510640 3 江蘇省氣象臺,南京 210008

提 要: 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的雷達(dá)回波外推算法的預(yù)報結(jié)果隨時間逐漸模糊失真,同時難以預(yù)報強(qiáng)回波區(qū)域。針對上述問題,提出一種上下文融合和注意力機(jī)制的時空長短期記憶網(wǎng)絡(luò)模型。該方法通過上下文融合模塊充分提取雷達(dá)圖像不同尺度的短期上下文信息;通過注意力模塊拓寬預(yù)測單元的時間感受域,使模型感知更多的時間動態(tài)。以2019—2021年4—9月江蘇省氣象雷達(dá)數(shù)據(jù)為樣本,通過試驗對比分析,基于上下文融合和注意力機(jī)制的時空長短期記憶網(wǎng)絡(luò)取得了更好的預(yù)測性能。在外推60 min,閾值為10、20、40 dBz的條件下,臨界成功指數(shù)和HSS分別達(dá)到0.7611、0.5326、0.2369和0.7335、0.5735、0.3075,有效提高了預(yù)測精度。

引 言

降水短時臨近預(yù)報一直是氣象預(yù)報的一項重要任務(wù),通常是指對某一地區(qū)未來短時間內(nèi)(通常是0～2 h)的降雨量進(jìn)行預(yù)測(Singh et al,2017),準(zhǔn)確的短時臨近預(yù)報可以在暴雨、雷暴等惡劣天氣提供預(yù)防作業(yè)(如為農(nóng)業(yè)、航海等提供天氣指導(dǎo)),減少人員傷亡和財產(chǎn)損失。因此,如何利用雷達(dá)回波外推技術(shù)獲取精準(zhǔn)、快速的天氣短時臨近預(yù)報,成為氣象研究方面的熱點(diǎn)問題。

降水短時臨近預(yù)報可以看作是一種時空序列預(yù)測問題。預(yù)測雷達(dá)圖通過Z-R關(guān)系(Marshall and Palmer,1948)轉(zhuǎn)換為降雨強(qiáng)度,作為最終短時臨近預(yù)報。傳統(tǒng)的雷達(dá)回波外推方法主要有交叉相關(guān)法(Rinehart and Garvey,1978;Zou et al,2019)、單體質(zhì)心法(Chung and Yao,2020;Lakshmanan et al,2009)和光流法(Ayzel et al,2019;Woo and Wong,2017)。交叉相關(guān)法是將整個數(shù)據(jù)區(qū)域劃分成若干小區(qū)域,然后在相鄰時刻雷達(dá)回波圖像的小區(qū)域之間計算相關(guān)系數(shù),通過最大相關(guān)系數(shù)確定相鄰時刻圖像中的區(qū)域?qū)?yīng)關(guān)系,進(jìn)而確定回波區(qū)域的平均運(yùn)動。但是,在強(qiáng)對流天氣中,跟蹤失敗的情況就會顯著增加。單體質(zhì)心法是將雷暴視為三維單體進(jìn)行識別、分析和追蹤,對雷暴進(jìn)行擬合外推來做臨近預(yù)報。該方法在雷達(dá)回波較為零散或出現(xiàn)合并、分裂現(xiàn)象時,準(zhǔn)確度將會大大下降。而光流法本質(zhì)上是通過計算雷達(dá)回波的光流場得到回波的運(yùn)動矢量場,并基于運(yùn)動矢量場對雷達(dá)回波進(jìn)行外推,但光流法在計算光流矢量和外推兩步時存在累計誤差。雷達(dá)回波圖像數(shù)據(jù)作為一類序列圖像數(shù)據(jù),以上三種傳統(tǒng)方法沒有充分學(xué)習(xí)海量雷達(dá)數(shù)據(jù)內(nèi)部蘊(yùn)含的復(fù)雜天氣變化規(guī)律,存在外推準(zhǔn)確率低的問題。

近年來,深度學(xué)習(xí)是機(jī)器學(xué)習(xí)中發(fā)展最為迅速的技術(shù),針對傳統(tǒng)方法存在的問題,越來越多的人嘗試采用深度學(xué)習(xí)方法來解決視頻預(yù)測(Bei et al,2021;Chang et al,2021;Tamaru et al,2021)、交通流預(yù)測(Tian and Chan,2021;Yin et al,2022;Zhao et al,2022)和降水短時臨近預(yù)報(陳錦鵬等,2021;郭瀚陽等,2019;顧建峰等,2020;黃驕文等,2021;黃興友等,2021;尹麒名等,2021;周康輝等,2021;袁凱等,2022;陳鶴等,2022)等時空序列預(yù)測問題。深度學(xué)習(xí)方法可以處理復(fù)雜的時空關(guān)系,以便從大量先前的雷達(dá)回波序列中自適應(yīng)地學(xué)習(xí)降水量變化的規(guī)律。例如,Shi et al(2015)提出了將卷積神經(jīng)網(wǎng)絡(luò)(CNN)和長短期記憶網(wǎng)絡(luò)(LSTM)相結(jié)合的卷積LSTM(ConvLSTM)模型用于降水預(yù)測,LSTM用于提取時間動態(tài)信息并存儲在時間記憶單元中,CNN則負(fù)責(zé)提取空間信息。因此,該網(wǎng)絡(luò)可以對時空信息進(jìn)行更好的學(xué)習(xí)和建模?；谘h(huán)神經(jīng)網(wǎng)絡(luò)的預(yù)報方法,采用堆疊網(wǎng)絡(luò)單元的方式搭建整體網(wǎng)絡(luò)架構(gòu),考慮到ConvLSTM只關(guān)注了時間信息,而忽略了來自不同單元層之間的空間信息。Wang et al(2017)提出了ST-LSTM單元(spatio-temporal LSTM),通過在ConvLSTM中添加一個新的、并行的空間記憶單元,來保存每個單元層的空間特征并將其應(yīng)用在新的端到端模型PredRNN上。Wang et al(2018)進(jìn)一步將雙記憶單元采用級聯(lián)的方式構(gòu)建Causal-LSTM單元,并加入梯度高速公路單元(gradient highway unit,GHU) 緩解梯度消失問題,形成新的端到端模型PredRNN++。Wang et al(2019a)提出了一種新的模型E3D-LSTM(eidetic 3D LSTM),將3D卷積集成到RNN中,使存儲單元能夠存儲更好的短期特征。對于長期關(guān)系,通過門控制的自注意力機(jī)制使當(dāng)前記憶狀態(tài)與其歷史記憶狀態(tài)相互作用。但由于集成的3D卷積,使E3D-LSTM的計算負(fù)載非常高。Wang et al(2019b)提出了MIM(memory in memory),可以捕捉雷達(dá)回波圖像中的非平穩(wěn)和近似平穩(wěn)特性。Luo et al(2021)提出了一種新的PFST-LSTM單元(pseudo flow spatio-temporal LSTM),其開發(fā)的空間存儲單元和位置對齊模塊,解決了位置不匹配和缺少空間外觀保護(hù)器的問題。Yang et al(2023)提出了CEMA-LSTM,引入多頭注意機(jī)制塊(MAB)使用位置和信道注意機(jī)制來捕獲雷達(dá)回波的全局特征。Geng et al(2022)提出了一種注意力融合時空殘差網(wǎng)絡(luò)(AF-SRNet)來精確預(yù)測對流降水的弱連續(xù)性。具體而言,時空殘差網(wǎng)絡(luò)用于提取雷達(dá)回波和降水?dāng)?shù)據(jù)的深層時空特征,實現(xiàn)了更精確的對流降水預(yù)報。

盡管上述方法有了重大改進(jìn),但這些網(wǎng)絡(luò)仍存在一些缺陷:(1)輸入數(shù)據(jù)和隱藏狀態(tài)之間的上下文特征相關(guān)性較弱,不能相互幫助識別和保存重要信息;(2)隨著預(yù)測時間增加,會出現(xiàn)記憶單元中存儲信息逐漸衰減的問題,即當(dāng)前時刻記憶單元很難有效回憶起先前時刻存儲記憶。這些問題導(dǎo)致在雷達(dá)回波外推任務(wù)中,隨著預(yù)測時間的增加,雷達(dá)回波預(yù)測圖像逐漸模糊,反射率較高的雷達(dá)回波區(qū)域有消失的趨勢,這大大影響了預(yù)測精度。

針對上述問題,本文提出了上下文融合和注意力機(jī)制的時空LSTM模型(CAST-LSTM)。首先,提出了上下文融合模塊,有效地提取圖像多尺度時空信息并提高上下文相關(guān)性。然后,提出了一種注意力模塊,通過拓寬網(wǎng)絡(luò)模型的時間感受域,使模型感知更多的時間信息。將這兩個模塊集成到網(wǎng)絡(luò)單元中,性能顯著提高,尤其是在強(qiáng)降雨地區(qū)。

1 數(shù) 據(jù)

1.1 Moving MNIST數(shù)據(jù)集

Moving MNIST數(shù)據(jù)集是時空序列預(yù)測任務(wù)中使用最廣泛的數(shù)據(jù)集,在有限的范圍內(nèi),幾個數(shù)字隨機(jī)移動,具有一些運(yùn)動模式,包括旋轉(zhuǎn)縮放、亮度變化等。每20個連續(xù)幀劃分為一個序列。其中10幀用于輸入,10幀用于預(yù)測,每幀的大小為64×64。訓(xùn)練集包括10 000個序列,驗證集為2000個序列,測試集為3000個序列。本文通過Moving MNIST數(shù)據(jù)集初步檢驗改進(jìn)模型對時空序列預(yù)測任務(wù)的性能。使用訓(xùn)練集對網(wǎng)絡(luò)進(jìn)行訓(xùn)練;使用驗證集調(diào)整模型結(jié)構(gòu)和超參數(shù),使模型性能達(dá)到最佳;最后使用測試集檢驗?zāi)Ｐ偷男阅堋?/p>

1.2 雷達(dá)數(shù)據(jù)集

使用江蘇氣象雷達(dá)數(shù)據(jù)集來評估模型在真實場景下的雷達(dá)回波外推性能。數(shù)據(jù)集為2019—2021年4—9月對江蘇多部S波段氣象雷達(dá)質(zhì)量控制及組網(wǎng)拼圖后得到的實際觀測數(shù)據(jù),覆蓋整個江蘇省區(qū)域面積,該數(shù)據(jù)集由江蘇省氣象臺制作,以灰度圖形式存儲。數(shù)據(jù)取值范圍為0～70 dBz,水平分辨率為0.01°(約1 km),時間間隔為6 min,單時次數(shù)據(jù)(即單張圖片)的網(wǎng)格尺寸為480×560像素。

在本文中,將數(shù)據(jù)集中每20張間隔為6 min的雷達(dá)圖像作為一個序列樣本。在每個序列樣本中,前10張回波圖像作為輸入,后10張作為實際輸出,即根據(jù)過去一小時的觀察結(jié)果預(yù)測未來一小時的結(jié)果。將所有序列樣本按4∶1的比例劃分為訓(xùn)練樣本和檢驗樣本,其中訓(xùn)練樣本含21 103組,檢驗樣本含5275組,使用訓(xùn)練樣本對網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,使用檢驗樣本進(jìn)行測試評估。由于檢驗樣本沒有參與算法的訓(xùn)練和參數(shù)調(diào)整,因此可以客觀地衡量算法的學(xué)習(xí)能力和預(yù)報效果。

使用江蘇2022年4—9月雷達(dá)數(shù)據(jù)資料,采用與上文相同的處理方式,從中挑選并劃分出5143組序列樣本用于檢驗算法的泛化性能及在實際業(yè)務(wù)中的可用性。

2 算法描述

本節(jié)詳細(xì)介紹CAST-LSTM模型。首先介紹上下文融合模塊,然后闡述注意力模塊,并描述如何將上下文融合模塊和注意力模塊嵌入到ST-LSTM單元中。最后,將介紹所提出的CAST-LSTM模型的整體外推結(jié)構(gòu)。

2.1 上下文融合模塊

注:Xt和表示上下文信息,其中Xt表示當(dāng)前時刻輸入,表示先前時刻隱藏狀態(tài);“σ”表示Sigmoid函數(shù)。圖1 上下文融合模塊Fig.1 Context fusion module

在卷積操作中,卷積核大小代表著感受野的范圍大小。卷積核偏小時,每次滑動提取信息的范圍更小,偏向于捕捉較小范圍間變化較慢的信息;卷積核偏大時,每次滑動提取信息的范圍更大,偏向于捕捉較大范圍間變化較快的信息。因此,不同尺寸的卷積運(yùn)算相結(jié)合可以充分提取雷達(dá)回波圖像中更全面的多尺度時空演變特征,而好的預(yù)測結(jié)果需要網(wǎng)絡(luò)模型充分的提取特征。因此,本文提取上下文不同尺度時空特征如式(1)所示:

(1)

(2)

(3)

式中:“⊙”表示矩陣的Hadamard積(下同),“W”表示對應(yīng)的卷積核。

由上述公式可見,通過對上下文信息進(jìn)行不同尺寸的卷積來提取更精細(xì)的多尺度時空特征。使用融合門來控制上下文融合過程,提高了當(dāng)前輸入和先前隱藏狀態(tài)的上下文相關(guān)性。

2.2 注意力模塊

圖2 嵌入模型的注意力模塊Fig.2 Attention module embedded in model

所示:

(4)

(5)

式中Catt可以表示為時間注意力信息,代表一種長期的運(yùn)動趨勢。通過當(dāng)前空間狀態(tài)與歷史空間狀態(tài)之間相關(guān)性所得的注意力分?jǐn)?shù)可以更好地、有選擇性地保留歷史時間記憶單元的信息。

(6)

2.3 CAST-LSTM單元

圖3 上下文融合注意力長短期記憶單元內(nèi)部結(jié)構(gòu)圖Fig.3 Internal structure diagram of long short-term memory unit of context fusion attention

(7)

2.4 CAST-LSTM網(wǎng)絡(luò)結(jié)構(gòu)

圖4 CAST-LSTM網(wǎng)絡(luò)模型結(jié)構(gòu)Fig.4 CAST-LSTM network model structure

3 試驗分析

在本章節(jié),將分別在Moving MNIST數(shù)據(jù)集和2019—2021年4—9月江蘇省氣象雷達(dá)數(shù)據(jù)分別進(jìn)行試驗,在2022年4—9月江蘇省氣象雷達(dá)數(shù)據(jù)上進(jìn)一步檢驗算法的泛化性能及在實際業(yè)務(wù)中的可用性,并與現(xiàn)有模型對比分析。按照圖4所示應(yīng)用了四層CAST-LSTAM單元,每個單元的通道數(shù)設(shè)置為64,通道數(shù)即預(yù)測單元中進(jìn)行卷積操作時的卷積核數(shù)量,卷積核大小設(shè)置為5×5。所有模型均在基于Pytorch框架上進(jìn)行訓(xùn)練和測試,試驗在NVIDIA A10 GPU上實現(xiàn),輸入圖像的大小受硬件設(shè)備限制(如GPU顯存),本文試驗中占用顯存約21Gb。選擇Adam優(yōu)化器進(jìn)行優(yōu)化,其學(xué)習(xí)率設(shè)置為0.0001,而批大小設(shè)置為4。為了穩(wěn)定訓(xùn)練過程,在CAST-LSTM中的每個卷積層之后使用層歸一化。

3.1 Moving MNIST試驗

為了評估性能,本文采用了兩種常用的指標(biāo),包括均方誤差(MSE)、結(jié)構(gòu)相似性指數(shù)(SSIM)。較低的MSE及較高的SSIM表示更好的預(yù)測性能,如表1所示。

表1 不同方法在移動MNIST數(shù)據(jù)集(10楨→10楨)中的結(jié)果Table 1 Results of different methods for moving MNIST datasets (10 frames → 10 frames)

本文提出的CAST-LSTM顯著優(yōu)于其他方法,尤其是在最后兩個時間步中的預(yù)測,如圖5所示。CAST-LSTM網(wǎng)絡(luò)很好地保留了數(shù)字的變化細(xì)節(jié),特別是處理重疊的軌跡,保持了隨時間變化的清晰度。相比較之下,ConvLSTM、PredRNN網(wǎng)絡(luò)預(yù)測結(jié)果很快變得模糊,逐漸丟失細(xì)節(jié)信息;而其他方法雖然也能取得一定的預(yù)測結(jié)果,但在最后時間步的預(yù)測結(jié)果中CAST-LSTM可以保留更多的細(xì)節(jié)信息,在位置精度和空間外觀方面更有優(yōu)勢。

圖5 不同方法在移動MNIST數(shù)據(jù)集中的結(jié)果Fig.5 Results of different methods for mobile MNIST dataset

3.2 雷達(dá)數(shù)據(jù)集試驗

本試驗實現(xiàn)以過去十個時間步的觀察結(jié)果來預(yù)測未來十個時間步的結(jié)果。本文使用數(shù)據(jù)集為間隔6 min的連續(xù)雷達(dá)資料,即根據(jù)過去一小時的觀察結(jié)果預(yù)測未來一小時的結(jié)果。

對著前面的洼地，對著山羊，王婆追蹤過去痛苦的日子。她想把那些日子捉回，因為今日的日子還不如昨日。洼地沒人種，上崗那些往日的麥田荒亂在那里。她在傷心地追想。

3.2.1 評估指標(biāo)

在評估方面,本文使用臨界成功指數(shù)(CSI)和HSS(heidke skill score)指標(biāo)來評估結(jié)果。為此,應(yīng)用以下變換將地面實況和預(yù)測回波圖的像素值p轉(zhuǎn)換為反射率dBz,如式(8)所示:

dBz=p×95/255-10

(8)

通過設(shè)置閾值將預(yù)測回波圖和地面實況圖轉(zhuǎn)換為二進(jìn)制矩陣。若雷達(dá)回波值大于給定閾值,則將相應(yīng)的值設(shè)置為1;否則設(shè)置為0。類比到氣象上如表2所示,計算真陽性預(yù)測數(shù)TP(預(yù)測=1,真值=1)、假陽性預(yù)測數(shù)FP(預(yù)測=1,真值=0)、真陰性預(yù)測數(shù)TN(預(yù)測=0,真值=0)和假陰性預(yù)測數(shù)FN(預(yù)測=0,真值=1)。

表2 列聯(lián)表Table 2 Contingency table

CSI和HSS的具體公式如式(9)所示:

HSS=

(9)

具體來說,分別選擇10、20和40 dBz作為閾值。CSI和HSS是綜合度量,考慮了檢測概率和虛警率,可以直接反映模型的優(yōu)劣。CSI和HSS越大性能越好。

3.2.2 結(jié)果與分析

表3顯示了在2019—2021年4—9月江蘇省雷達(dá)數(shù)據(jù)集不同方法的對比結(jié)果?？梢钥吹奖疚奶岢龅腃AST-LSTM模型在所有閾值下的CSI和HSS性能最佳,并且隨著閾值的增加,模型的優(yōu)勢變得越來越明顯。特別是,當(dāng)閾值為40 dBz時,評估的CSI和HSS指標(biāo)達(dá)到0.2369和0.3075,分別比PredRNN算法提高了30.5%和31.5%,比PFST-LSTM算法高9.9%和8.6%。這意味著開發(fā)的上下文融合模塊和注意力模塊有助于提高對強(qiáng)降水區(qū)域的預(yù)測效果。

表3 2019—2021年4—9月江蘇省雷達(dá)數(shù)據(jù)集不同方法的CSI和HSS評分結(jié)果Table 3 Scoring results of CSI and HSS under different methods for dataset of Jiangsu radar from April to September of 2019-2021

為了更好地說明結(jié)果,描述了圖6所示的在2019—2021年4—9月江蘇省雷達(dá)數(shù)據(jù)中檢驗樣本集不同閾值的CSI和HSS變化曲線,以顯示各種模型在不同時間步下的性能?？梢钥吹?本文提出的模型整體上優(yōu)于其他模型,在40 dBz時差距最為明顯,原因是CAST-LSTM融入了上下文融合模塊和注意力模塊,上下文融合模塊充分提取不同尺度時空信息,提高上下文相關(guān)性;注意力模塊可以從更寬的感受域感知更多的時間動態(tài),減少了信息丟失,這更好地模擬了短期和長期依賴關(guān)系。因此,CAST-LSTM可以更好地保留預(yù)測結(jié)果的細(xì)節(jié)性,在強(qiáng)回波區(qū)域的預(yù)測結(jié)果也表現(xiàn)得更出色。此外,Pred-RNN的結(jié)果總是比本文提出的模型差,尤其是在高閾值下。這是因為PredRNN存在沒有充分提取上下文相關(guān)性信息和記憶單元信息丟失的問題。此外,由于偽流位置對齊模塊的設(shè)計,PFST-LSTM取得了第二的性能。至于ConvLSTM模型,其性能在試驗中表現(xiàn)最差。

圖6 2019—2021年4—9月江蘇省雷達(dá)數(shù)據(jù)集中檢驗樣本集不同閾值下的(a,c,e)CSI和(b,d,f)HSS變化曲線Fig.6 Variation curves of (a, c, e) CSI and (b, d, f) HSS at different thresholds for the test sample of dataset of Jiangsu radar from April to September of 2019-2021

為了更好地比較和理解結(jié)果,在圖7中可視化了2021年5月15日02:06—03:00江蘇省雷達(dá)數(shù)據(jù)不同方法下的預(yù)測結(jié)果。從地面真值序列中看到,回波圖像有三個主要的強(qiáng)回波區(qū)域,回波區(qū)域的強(qiáng)度變得更高,位置也隨之變化,且主要回波區(qū)域向圖像右側(cè)移動。在02:18之前,各個模型之間的預(yù)測結(jié)果差異較小,且非常接近實況。然后,隨著預(yù)測時間的增加,強(qiáng)回波開始衰減,同時預(yù)報圖像的細(xì)節(jié)也開始減少。在02:36,盡管每個模型的預(yù)測結(jié)果中都丟失了一些細(xì)節(jié),但仍可以大致預(yù)測回波的整體輪廓和變化趨勢,其中CAST-LSTM的預(yù)測效果最好。隨著預(yù)測時間繼續(xù)增加,ConvLSTM的外推結(jié)果逐漸變得模糊,強(qiáng)回波區(qū)域逐漸變小甚至消失,整個預(yù)測邊界區(qū)域也逐漸平滑,只能預(yù)測出回波的大致輪廓。這是因為ConvLSTM只關(guān)注時間信息而忽略了來自不同單元層之間的空間信息。Pred-RNN在最后時刻盡管保留了部分紅色區(qū)域,但回波強(qiáng)度仍被大大低估了。同樣的問題也出現(xiàn)在PredRNN++、E3D-LSTM和MIM的外推圖像中。盡管這些方法同時關(guān)注了時空信息,但這些網(wǎng)絡(luò)在預(yù)測過程中存在信息丟失問題,因此隨時間增加強(qiáng)回波逐步衰減。與上述方法相比,PFST-LSTM和CAST-LSTM的外推圖與觀測結(jié)果更相似,但只有CAST-LSTM模型更好地保留三個強(qiáng)回波區(qū)域,且預(yù)測結(jié)果的細(xì)節(jié)性也較高。這是因為CAST-LSTM的時空感知注意力機(jī)制能有效改善信息丟失問題,且多尺度上下文融合模塊可以更好地幫助網(wǎng)絡(luò)在預(yù)測中保持較多的細(xì)節(jié)性。

注:第一行為預(yù)測時輸入的2021年5月15日01:06—02:00的雷達(dá)圖像,第二行為02:06—03:00的實際觀測圖像;其他行為不同模型下的預(yù)測結(jié)果。圖7 2021年5月15日02:06—03:00江蘇省雷達(dá)數(shù)據(jù)集不同方法下的預(yù)測結(jié)果Fig.7 Prediction results under different methods for dataset of Jiangsu radar from 02:06 BT to 03:00 BT 15 May 2021

此外,為了說明模型的泛化性及在業(yè)務(wù)中的實際可用性,本文使用江蘇省2022年4—9月雷達(dá)數(shù)據(jù)進(jìn)行驗證。在三個閾值條件下進(jìn)行外推時長為1 h 的試驗,表4顯示了使用不同模型的試驗結(jié)果。

表4 2022年4—9月江蘇省雷達(dá)數(shù)據(jù)集在不同方法下外推60分鐘的CSI和HSS評分結(jié)果Table 4 Scoring results of CSI and HSS under different methods for dataset of Jiangsu radar from April to September 2022

除了本文提出的CAST-LSTM模型之外,還采用了ConvLSTM、PredRNN、PredRNN++、MIM、E3D-LSTM和PFST-LSTM先進(jìn)模型進(jìn)行對比。可以看到CAST-LSTM模型在所有閾值下的CSI和HSS性能最佳,并且隨著閾值的增加,模型的優(yōu)勢變得越來越明顯。特別是,當(dāng)閾值為40 dBz 時,評估的CSI和HSS指標(biāo)達(dá)到0.2331和0.3037,分別比PredRNN算法提高了29.3%和30.6%,比PFST-LSTM算法高8.7%和8.2%。這意味著提出的上下文融合模塊和注意力模塊有助于提高對強(qiáng)回波區(qū)域的預(yù)測效果。

為了更直觀地觀察外推中數(shù)據(jù)變化過程,對2022年4—9月江蘇省雷達(dá)數(shù)據(jù)在不同閾值條件下CAST-LSTM模型與ConvLSTM、PredRNN等其他主流算法在10個時序(1 h)中各項指標(biāo)變化進(jìn)行統(tǒng)計,結(jié)果如圖8所示。從圖中可以看出本模型整體上優(yōu)于其他模型,尤其是對強(qiáng)回波的預(yù)測能力,特別是在最后幾個時序中,CAST-LSTM模型實現(xiàn)了更好的預(yù)測結(jié)果。這是因為CAST-LSTM模型更關(guān)注上下文特征信息的有效提取,并且通過注意力機(jī)制有效緩解了信息傳遞過程中的衰減問題。

圖8 2022年4—9月江蘇雷達(dá)數(shù)據(jù)集中檢驗樣本集不同閾值下的(a,c,e)CSI和(b,d,f)HSS變化曲線Fig.8 Variation curves of (a, c, e) CSI and (b, d, f) HSS at different thresholds for the test sample of dataset of Jiangsu radar from April to September 2022

為了更好地展示試驗結(jié)果,在圖9中可視化了2022年7月28日07:36—08:30江蘇雷達(dá)數(shù)據(jù)不同方法下的預(yù)測結(jié)果。從地面真值序列中看到,隨著時間推移,回波圖像有兩個主要的強(qiáng)回波區(qū)域:中下方的強(qiáng)回波區(qū)域向圖像下方移動,且強(qiáng)度逐漸減弱;右側(cè)帶狀強(qiáng)回波區(qū)域向圖像右下方移動。從預(yù)測結(jié)果來看,所有模型都成功地預(yù)測了雷達(dá)回波的整體運(yùn)動趨勢,但外推圖像在一些細(xì)節(jié)(如邊界、回波強(qiáng)度)上仍存在差異。在07:48,各個模型之間的預(yù)測結(jié)果差異較小,且非常接近實況。在07:48以后,ConvLSTM的預(yù)測結(jié)果中強(qiáng)回波區(qū)域開始衰退。在08:12,ConvLSTM無法有效預(yù)測強(qiáng)回波區(qū)域的演變趨勢,其他模型仍可以預(yù)測強(qiáng)回波區(qū)域的位置和雷達(dá)回波的部分細(xì)節(jié)。隨著預(yù)報時間繼續(xù)增加,其他模型相較于ConvLSTM保留了更多的高回波信息,其中PredRNN和E3D-LSTM在最后幾個時刻中強(qiáng)回波區(qū)也逐漸消散,PredRNN++、MIM外推結(jié)果有所改善,但對強(qiáng)回波的預(yù)測仍存在偏差。只有PFST-LSTM和CAST-LSTM可以更好地預(yù)測強(qiáng)回波區(qū)域,其中CAST-LSTM更能預(yù)測強(qiáng)回波區(qū)域的強(qiáng)度和位置,也可以很好地預(yù)測回波變化趨勢且細(xì)節(jié)效果也更好。

注:第一行為預(yù)測時輸入的2022年7月28日06:36—07:30的雷達(dá)圖像,第二行為07:36—08:30實際觀測圖像;其他行為不同模型下的預(yù)測結(jié)果。圖9 2022年7月28日07:36—08:30江蘇省雷達(dá)數(shù)據(jù)集不同方法下的預(yù)測結(jié)果Fig.9 Prediction results under different methods for dataset of Jiangsu radar from 07:36 BT to 08:30 BT 28 July 2022

4 結(jié) 論

本文提出了一種新的雷達(dá)回波外推方法,即CAST-LSTM。使用Moving MNIST數(shù)據(jù)集和2019—2021年4—9月江蘇省氣象雷達(dá)數(shù)據(jù)資料進(jìn)行測試檢驗,并使用2022年4—9月江蘇省雷達(dá)數(shù)據(jù)進(jìn)行實際驗證。通過與幾種現(xiàn)有算法的對比分析,得出以下結(jié)論。

(1) 在Moving MNIST數(shù)據(jù)集中,CAST-LSTM算法的MSE為最低、SSIM最高,與幾種現(xiàn)有算法相比,性能得到明顯提升;在可視化實例中,CAST-LSTM算法具有更好的預(yù)測結(jié)果,很好地保留了數(shù)字的移動軌跡和變化細(xì)節(jié)。

(2) 在江蘇省氣象雷達(dá)數(shù)據(jù)中,CAST-LSTM算法有效提高了預(yù)測精度;在可視化實例中,CAST-LSTM算法在較長的時間內(nèi)有效提高預(yù)測結(jié)果的準(zhǔn)確性,在強(qiáng)回波區(qū)域的預(yù)測結(jié)果也表現(xiàn)得更出色。

(3) 本文提出的上下文融合模塊有效提高網(wǎng)絡(luò)單元的上下文相關(guān)性,提取多尺度特征信息;注意力模塊可以從拓寬的感受域中感知更多的時間動態(tài),減少信息丟失。通過將兩個模塊添加到網(wǎng)絡(luò)模型中,可以進(jìn)一步提高預(yù)報精度,特別是對于降雨量大且強(qiáng)度持續(xù)增加的地區(qū)。

目前深度學(xué)習(xí)算法使雷達(dá)回波外推效果得到了很大的提升,但距離真實實況仍有一定的差距。在后續(xù)的研究中,將研究如何在雷達(dá)回波外推任務(wù)中考慮更多的氣象因素,探索更有效的算法進(jìn)一步提高降水短時臨近預(yù)報的預(yù)測能力。