基于時空記憶解耦RNN的雷暴預(yù)測方法

何詩揚, 汪 玲,*, 朱岱寅, 錢 君

(1. 南京航空航天大學(xué)電子與信息工程學(xué)院/集成電路學(xué)院, 江蘇 南京 211106;2. 中國航空工業(yè)集團雷華電子技術(shù)研究所, 江蘇 無錫 214063)

0 引 言

雷暴是一種局地強對流天氣,通常伴隨雷電、冰雹、強降水、龍卷等劇烈天氣現(xiàn)象,這些天氣現(xiàn)象會嚴重威脅到工農(nóng)業(yè)生產(chǎn)及人民日常生活[1]。據(jù)統(tǒng)計,全球各地每天約有44 000個雷暴發(fā)生,其影響范圍達到了全球的1%。1987年,聯(lián)合國將雷暴列為最嚴重的十大自然災(zāi)害之一。同時,隨著科技的進步,社會對于天氣預(yù)報的及時性、實效性和準確性提出了更高的要求,因此提供更為準確高效的雷暴短時預(yù)報尤為重要。

由于常規(guī)資料時間和空間分辨率有限,并且雷暴具有生命周期短、空間尺度小的特征,很難對其實現(xiàn)探測和預(yù)警。多普勒氣象雷達資料具有高時空分辨率,是探測強對流天氣系統(tǒng)和短時臨近預(yù)報的主要工具[2]。傳統(tǒng)的雷暴預(yù)測方法主要有單體質(zhì)心法、光流法和交叉相關(guān)法[3]。這些方法僅利用若干個連續(xù)時刻的雷達回波圖像推測下一時刻雷暴位置,忽略了在實際情況中雷暴的移動通常是非線性的,存在對歷史雷達資料利用率不足和外推時效較短的局限。而神經(jīng)網(wǎng)絡(luò)模型具有強大的非線性映射能力,且對數(shù)據(jù)的利用率大大提高。

連續(xù)的雷達觀測圖像是一種時序數(shù)據(jù),想要在外推時取得較好的效果,需要充分考慮相鄰時次雷達反射率因子之間的時序相關(guān)性[4]。而循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)是一種遞歸神經(jīng)網(wǎng)絡(luò),常用來進行關(guān)于時序問題的數(shù)據(jù)建模[5-6]。循環(huán)神經(jīng)網(wǎng)絡(luò)內(nèi)不僅有前向反饋,還存在后向反饋,通過內(nèi)部循環(huán)的方式,將內(nèi)部的神經(jīng)網(wǎng)絡(luò)多次利用,其輸入依賴于當前的輸入和對歷史輸入的記憶,可以將時間序列數(shù)據(jù)中的關(guān)鍵信息持久化,使其擁有較強處理時間序列的能力。張心宇等利用長短時記憶(long short-term memory, LSTM)網(wǎng)絡(luò)進行衛(wèi)星軌道預(yù)測,其預(yù)報精度滿足衛(wèi)星自主軌道預(yù)報以及地面測控的需求[7]。何春蓉等提出了基于注意力機制的門控循環(huán)單元(gate recurrent unit, GRU)神經(jīng)網(wǎng)絡(luò)安全態(tài)勢預(yù)測方法,該方法具有較快的收斂速度和較低的復(fù)雜度[8]。胡玉可等提出了一種基于門控循環(huán)單元的循環(huán)神經(jīng)網(wǎng)絡(luò)模型,實現(xiàn)了對目標傳播進行航跡預(yù)測[9]。

卷積神經(jīng)網(wǎng)絡(luò)在雷達回波外推上的研究目前仍處于起步階段,國內(nèi)外學(xué)者在此方面進行了一定的研究。Shi等提出使用帶有卷積層的LSTM單元組成RNN,并將其應(yīng)用到雷達外推預(yù)報中[10]。隨后,Shi等又提出了一個具有可學(xué)習卷積的軌跡門控循環(huán)單元(trajectory gate recurrent unit, TrajGRU)模型[11]。Jing等提出了一種由堆疊的RNN模塊和細化模塊構(gòu)成的多層級預(yù)測RNN(hierarchical prediction RNN,HPRNN)模型,有助于實現(xiàn)長時間的雷達回波外推[12]。韓豐等在文獻[13-15]所提出的PredRNN系列模型基礎(chǔ)上將時空長短時記憶(spatiotemporal long short-term memory, ST-LSTM)單元應(yīng)用到RNN模型中[16],將其結(jié)果與交叉相關(guān)算法對比,結(jié)果表明這個網(wǎng)絡(luò)在20/30 dBz上的準確率顯著提升。Wang等將三維卷積和RNN集成為Eidetic-3D-LSTM單元[17],使得網(wǎng)絡(luò)具有較好的對早期活動的識別能力。Wang等改進了LSTM單元的forget門結(jié)構(gòu),提出了MIM模型,使得網(wǎng)絡(luò)具有捕捉非平穩(wěn)特征的能力[18]。傳統(tǒng)RNN網(wǎng)絡(luò),如LSTM等,只能實現(xiàn)時間尺度上的預(yù)測,而雷暴預(yù)測不僅需要時間維度上的信息,還需要空間維度信息,故本文將能同時提取空間記憶和時間表示的ST-LSTM單元作為網(wǎng)絡(luò)結(jié)構(gòu)用于雷暴回波外推?？紤]到雷暴屬于強對流天氣系統(tǒng),變化很快且具有隨機性,在預(yù)測上有一定難度,在此基礎(chǔ)上進一步引入時空記憶解耦結(jié)構(gòu),提升雷暴預(yù)測性能。選取香港天文臺(Hong Kong Observatory, HKO)的HKO-7雷達回波圖像數(shù)據(jù)集作為試驗對象,通過構(gòu)建時間序列輸入網(wǎng)絡(luò)進行訓(xùn)練預(yù)測雷暴演變,并將有記憶解耦結(jié)構(gòu)ST-LSTM網(wǎng)絡(luò)、常規(guī)ST-LSTM網(wǎng)絡(luò)與傳統(tǒng)的單體質(zhì)心法及MIM網(wǎng)絡(luò)進行比較。

論文結(jié)構(gòu)安排如下:第1節(jié)給出基于時空記憶解耦RNN的雷暴預(yù)測網(wǎng)絡(luò)模型;第2節(jié)給出氣象雷達數(shù)據(jù)預(yù)處理的詳細步驟;第3節(jié)給出網(wǎng)絡(luò)試驗結(jié)果及個例分析;第4節(jié)對文章進行了總結(jié)。

1 基于ST-LSTM的雷暴預(yù)測網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)是一類以時序數(shù)據(jù)作為輸入,在序列演進方向進行遞歸且所有節(jié)點按鏈式連接的網(wǎng)絡(luò)結(jié)構(gòu)。雷暴的預(yù)測實質(zhì)上是時間序列數(shù)據(jù)的外推問題,這很符合循環(huán)神經(jīng)網(wǎng)絡(luò)的特性。本文采用了帶有記憶解耦結(jié)構(gòu)的ST-LSTM單元組成的網(wǎng)絡(luò)模型。

ST-LSTM單元是在LSTM單元[5,19-20]的基礎(chǔ)上進行擴展,它包含兩個記憶模塊:時間記憶單元和空間記憶單元。時間記憶單元C也就是LSTM單元中的結(jié)構(gòu),負責橫向時間流的傳遞;空間記憶單元M負責層與層之間空間記憶的傳遞,它從同一時間步的l-1層垂直傳遞到當前節(jié)點。最后將這兩個記憶單元的內(nèi)容進行融合,并使用一個1×1卷積層進行降維,使得該單元的隱藏輸出具有和任一記憶單元相同的維度。在雷暴預(yù)測中,ST-LSTM單元的優(yōu)勢在于將狀態(tài)之間的轉(zhuǎn)化改為卷積形式,使得網(wǎng)絡(luò)模型可以同時提取到時間信息以及空間特征,并且兩種記憶類型使用共享輸出門來實現(xiàn)無縫記憶融合,這可以有效地模擬雷暴時空序列的形狀和運動軌跡信息。網(wǎng)絡(luò)記憶流如圖1所示。

圖1 ST-LSTM網(wǎng)絡(luò)記憶流結(jié)構(gòu)

(1)

(2)

(3)

2 數(shù)據(jù)處理與分析

2.1 數(shù)據(jù)集選取

本文數(shù)據(jù)來源為香港天文臺HKO-7數(shù)據(jù)集,該數(shù)據(jù)集包含2009年至2015年的雷達回波圖像?？紤]到雷暴數(shù)據(jù)的特殊性,從2009年至2015年數(shù)據(jù)中選取符合條件的共計371天的數(shù)據(jù)組成本文所使用的數(shù)據(jù)集,具體分布如圖2及表1所示。

表1 采樣天數(shù)年份統(tǒng)計表

圖2 采樣天數(shù)月份統(tǒng)計圖

2.2 雷達資料預(yù)處理

為保證樣本數(shù)據(jù)質(zhì)量,需要對雷達數(shù)據(jù)進行質(zhì)量控制,包括孤立噪聲點濾除、平滑濾波、構(gòu)造高通濾波器濾除與降水無關(guān)的反射率因子值。HKO-7數(shù)據(jù)集中的雷達回波圖像以灰度圖像方式存儲,圖像分辨率為480×480。尺寸過大的圖像中包含的時空信息較多,為提高網(wǎng)絡(luò)訓(xùn)練效率,需將回波圖像裁剪為分辨率128×128的小尺寸圖像。

面積過小的回波一般較弱且演變較快,對預(yù)測結(jié)果正向影響較小,所以在數(shù)據(jù)集構(gòu)造過程中還需要對裁剪后的灰度圖像進行進一步篩選,只保留有效像素值占比超過10%的圖像。隨后采用滑動窗口對連續(xù)序列雷達回波圖像進行切片,此處連續(xù)的定義為間隔6 min的連續(xù)掃描雷達數(shù)據(jù),得到時間序列。每個序列包含20幀圖像,其中10幀輸入、10幀輸出,涵蓋了2 h的回波變化數(shù)據(jù)。數(shù)據(jù)集構(gòu)造流程如圖3所示。

圖3 數(shù)據(jù)集構(gòu)造流程

通過上述步驟對采樣圖像進行處理,得到共計279 318張128×128像素灰度圖像。通過滑窗切片得到時間序列共11 882組,采用8:2比例劃分訓(xùn)練集及測試集,結(jié)果如表2所示。

表2 數(shù)據(jù)集劃分表

3 檢驗結(jié)果與分析

3.1 模型評價指標

檢驗雷暴預(yù)測性能的指標為探測成功概率(probability of detection, POD)、虛警率(false alarm ratio, FAR)、臨界成功指數(shù)(critical success index, CSI)。考慮到雷暴這類天氣系統(tǒng)的特殊性,所涉及反射率因子范圍偏高,選取30 dBz、40 dBz、50 dBz作為判別閾值,預(yù)測時長為1 h,每張預(yù)測圖像間隔6分鐘。模型評價指標定義如表3所示,其中NA為預(yù)報正確次數(shù),NB為空報次數(shù),NC為漏報次數(shù)。

(4)

(5)

(6)

除上述預(yù)報因子外,在個例檢驗中還使用結(jié)構(gòu)相似性(structural similarity index measure, SSIM)指標來衡量預(yù)測圖像和真實圖像之間的相似度[21]。SSIM是一種基于感知的模型指標,從亮度、對比度、結(jié)構(gòu)3個方面評價兩張圖像的相似程度。SSIM的計算方法如下所示:

(7)

3.2 測試集檢驗結(jié)果

表4和表5給出了有記憶解耦結(jié)構(gòu)和無記憶解耦結(jié)構(gòu)的兩種網(wǎng)絡(luò)在測試集上的雷暴預(yù)測評分因子指標結(jié)果,分別給出在不同時間步長,6 min、30 min、60 min情況下采用30 dBz、40 dBz、50 dBz為閾值的檢驗結(jié)果。

表4 ST-LSTM+記憶解耦網(wǎng)絡(luò)測試集指標檢驗結(jié)果

表5 ST-LSTM網(wǎng)絡(luò)測試集指標檢驗結(jié)果

從表4和表5中數(shù)據(jù)對比可以看出,在相同檢驗條件下,有記憶解耦結(jié)構(gòu)的網(wǎng)絡(luò)效果優(yōu)于常規(guī)ST-LSTM,3個預(yù)測評分因子POD、CSI、FAR平均提升0.05～0.1。隨著預(yù)報時間的推移,兩個網(wǎng)絡(luò)均表現(xiàn)出臨界成功指數(shù)、預(yù)測成功概率隨時間延長而下降,虛警率隨時間延長而上升的趨勢。此外,由表4和表5中相同預(yù)測時間下各預(yù)測評分因子值可以看出,隨著反射率閾值的增大,臨界成功指數(shù)和探測成功概率有所下降,而虛警率上升。這是由于當閾值增大的時候,更著重于強回波區(qū)域的演變,但強回波區(qū)域相對變化更快且不確定性更強,所以會出現(xiàn)預(yù)報因子下降的情況。

為了比較不同方法的性能,表6中給出了預(yù)報時間為30 min時單體質(zhì)心法、MIM網(wǎng)絡(luò)、ST-LSTM網(wǎng)絡(luò)和有記憶解耦結(jié)構(gòu)ST-LSTM網(wǎng)絡(luò)的預(yù)報評分因子結(jié)果?？梢钥闯鰧τ?個評分因子,有記憶解耦結(jié)構(gòu)和無記憶解耦結(jié)構(gòu)的預(yù)測神經(jīng)網(wǎng)絡(luò)結(jié)果均明顯優(yōu)于單體質(zhì)心法,并且也優(yōu)于MIM網(wǎng)絡(luò)結(jié)果。

表6 不同預(yù)測方法30 min預(yù)報評分因子結(jié)果

綜上所述,預(yù)測神經(jīng)網(wǎng)絡(luò)對于雷暴的預(yù)測能力明顯優(yōu)于單體質(zhì)心法,也優(yōu)于MIM網(wǎng)絡(luò),并且?guī)в杏洃浗怦罱Y(jié)構(gòu)的ST-LSTM網(wǎng)絡(luò)在雷暴的預(yù)測效果上相較于常規(guī)ST-LSTM有提升。

3.3 個例分析

3.3.1 雷暴個例天氣過程1

2010年9月8日,受到雷雨帶經(jīng)過影響,香港東南部遭遇狂風雷暴天氣。選取當日的雷達回波圖像進行個例檢驗,圖4給出了有記憶解耦結(jié)構(gòu)ST-LSTM網(wǎng)絡(luò)和常規(guī)ST-LSTM網(wǎng)絡(luò)在60 min內(nèi)的不同時間步長的預(yù)測結(jié)果,及其對應(yīng)時刻的真實地面回波圖像。從圖4中可以看出,有記憶解耦結(jié)構(gòu)的網(wǎng)絡(luò)預(yù)測的反射率因子位置分布與真實回波基本一致,正確預(yù)報出自北向南的強回波帶以及整個回波向西南方收縮移動的趨勢,而常規(guī)ST-LSTM網(wǎng)絡(luò)在預(yù)測時間較短時結(jié)果也基本一致,但隨著預(yù)測時間的增加,預(yù)測的反射率因子區(qū)域相較于真實回波差距增大。通過對比可以看出,有記憶解耦結(jié)構(gòu)ST-LSTM網(wǎng)絡(luò)在內(nèi)部最強回波區(qū)域的預(yù)測上明顯優(yōu)于常規(guī)ST-LSTM網(wǎng)絡(luò),后者隨著預(yù)測時間的增加,所預(yù)測的強回波區(qū)域越來越小。

圖4 2010年9月8日雷暴回波真實觀測圖像與模型預(yù)報結(jié)果

圖5是兩個網(wǎng)絡(luò)預(yù)測圖像與真實回波的結(jié)構(gòu)相似性曲線,可以看出預(yù)測準確率整體隨預(yù)測時間的增加呈下降趨勢,但帶有記憶解耦模塊的網(wǎng)絡(luò)預(yù)測效果始終優(yōu)于常規(guī)ST-LSTM網(wǎng)絡(luò)。

圖5 2010年9月8日不同模型預(yù)報結(jié)果SSIM曲線

3.3.2 雷暴個例天氣過程2

2014年5月11日,香港出現(xiàn)雷暴天氣,并影響上百架航班離港。選取該日的雷達回波圖像進行個例檢驗,圖6給出了有記憶解耦結(jié)構(gòu)ST-LSTM網(wǎng)絡(luò)和常規(guī)ST-LSTM網(wǎng)絡(luò)在60 min內(nèi)不同時間步長的預(yù)測結(jié)果,及其對應(yīng)時刻的真實地面回波圖像。從圖6中可以看出,真實回波中有明顯的強回波帶,并且呈融合趨勢,有記憶解耦結(jié)構(gòu)的網(wǎng)絡(luò)預(yù)測反射率因子位置分布與真實回波基本一致,正確預(yù)報出回波輪廓和位于內(nèi)部的強回波區(qū)域,以及整個回波區(qū)域向東側(cè)移動的趨勢。

圖6 2014年5月11日雷暴回波真實觀測圖像與模型預(yù)報結(jié)果

常規(guī)ST-LSTM網(wǎng)絡(luò)在預(yù)測時間較短時結(jié)果也基本一致,但預(yù)測反射率因子區(qū)域相較于真實回波隨著預(yù)測時間的增加差距增大。并且在內(nèi)部的強回波區(qū),有記憶解耦結(jié)構(gòu)的網(wǎng)絡(luò)預(yù)測結(jié)果明顯優(yōu)于常規(guī)ST-LSTM網(wǎng)絡(luò),能較好地預(yù)測強回波區(qū)的形態(tài)及變化趨勢。

圖7是兩個網(wǎng)絡(luò)預(yù)測圖像結(jié)構(gòu)相似性曲線,曲線整體呈下降趨勢,且有記憶解耦模塊ST-LSTM網(wǎng)絡(luò)SSIM值大于常規(guī)ST-LSTM網(wǎng)絡(luò),圖像相似度更高。在雷暴預(yù)測后期出現(xiàn)模糊現(xiàn)象,考慮到雷暴回波屬于強對流天氣,變化快且具有相當?shù)牟淮_定性,分析原因可能為隨著預(yù)測時間增長,對回波細節(jié)預(yù)測難度增大,網(wǎng)絡(luò)會更加注重整體回波形態(tài)的演變,從而丟失一些細節(jié)上的推斷。

圖7 2014年5月11日不同模型預(yù)報結(jié)果SSIM曲線

4 結(jié) 論

本文針對傳統(tǒng)雷暴預(yù)測方法外推時效較短且對歷史雷達資料利用不足的局限,搭建帶有記憶解耦結(jié)構(gòu)的RNN模型用于雷暴預(yù)測,在HKO-7數(shù)據(jù)集基礎(chǔ)上構(gòu)建雷暴數(shù)據(jù)集進行訓(xùn)練。通過預(yù)測評分因子結(jié)果,表明ST-LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)在雷暴預(yù)測方面的效果優(yōu)于單體質(zhì)心法和MIM網(wǎng)絡(luò);結(jié)合個例檢驗結(jié)果說明常規(guī)ST-LSTM網(wǎng)絡(luò)能較好預(yù)測雷暴發(fā)展變化,加入記憶解耦結(jié)構(gòu)的ST-LSTM RNN網(wǎng)絡(luò)效果更好,尤其針對大片回波區(qū)域內(nèi)部的強回波區(qū),能更好地預(yù)測其發(fā)展趨勢。

目前對于預(yù)測神經(jīng)網(wǎng)絡(luò)在雷暴回波外推上的資料使用僅為不同時次的反射率因子信息,在后續(xù)研究中考慮加入其他輸入,例如環(huán)境風場、氣壓等信息,從而進一步優(yōu)化對雷暴演變的預(yù)測。