郭艷萍,高 云,周建慧,彭 煒
(山西大同大學(xué)計(jì)算機(jī)與網(wǎng)絡(luò)工程學(xué)院,山西 大同 037009)
現(xiàn)階段,借助智能化手段可以實(shí)時(shí)獲取天氣預(yù)報(bào)信息,隨著全球氣候惡化情況的逐漸嚴(yán)峻,各種突發(fā)性、極端天氣越來越多見,這類氣象具有破壞性較大,影響范圍大等特點(diǎn),對(duì)人們?nèi)粘3鲂?,農(nóng)作物生產(chǎn)以及施工建設(shè)等均會(huì)造成一定程度的影響。因此,需要對(duì)短時(shí)突發(fā)天氣進(jìn)行準(zhǔn)確預(yù)報(bào)。
雷達(dá)回波外推技術(shù)是當(dāng)前普遍應(yīng)用的短臨預(yù)報(bào)方法[1],實(shí)時(shí)、準(zhǔn)確的外推雷達(dá)回波圖像是獲取高精度短臨預(yù)報(bào)內(nèi)容的前提條件[2]。當(dāng)前普遍使用的雷達(dá)回波外推技術(shù)多以深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)[3,4],但由于自然環(huán)境的多變,導(dǎo)致短臨預(yù)報(bào)結(jié)果具有一定誤差,且時(shí)效性較差。針對(duì)上述問題,考慮外推圖像與輸入圖像間的高度相關(guān)性[5],提出基于循環(huán)動(dòng)態(tài)卷積的雷達(dá)回波外推短臨預(yù)報(bào)方法,提升卷積神經(jīng)網(wǎng)絡(luò)對(duì)于時(shí)序圖像的處理效果。
循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)包含兩個(gè)主要部分:循環(huán)動(dòng)態(tài)子網(wǎng)絡(luò)、概率外推層。循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)以動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)[6],引入循環(huán)神經(jīng)網(wǎng)絡(luò),利用其構(gòu)建相鄰時(shí)刻輸入圖像序列間的相關(guān)性,以此提升具有時(shí)序特征輸入圖像的外推結(jié)果精度。基于循環(huán)動(dòng)態(tài)卷積的雷達(dá)回波外推短臨預(yù)報(bào)方法實(shí)現(xiàn)流程如圖1所示。
圖1 短臨預(yù)報(bào)實(shí)現(xiàn)流程
根據(jù)圖1所示的基于循環(huán)動(dòng)態(tài)卷積的雷達(dá)回波外推短臨預(yù)報(bào)方法實(shí)現(xiàn)流程可知,在雷達(dá)回波外推短臨預(yù)報(bào)過程中,在循環(huán)動(dòng)態(tài)子網(wǎng)絡(luò)內(nèi)輸入采集到的圖像,通過循環(huán)動(dòng)態(tài)子網(wǎng)絡(luò)處理獲取兩個(gè)概率向量,以其作為概率外推層的卷積核,并與輸入的最后一幅圖像實(shí)施卷積處理[7],獲取外推結(jié)果。依據(jù)外推結(jié)果同短臨預(yù)報(bào)內(nèi)容間的相關(guān)性,生成短臨預(yù)報(bào)內(nèi)容。
基于循環(huán)動(dòng)態(tài)卷積的雷達(dá)回波外推過程中包含訓(xùn)練與測(cè)試兩個(gè)環(huán)節(jié):
1)訓(xùn)練環(huán)節(jié)
基于所采集的雷達(dá)回波圖像構(gòu)建訓(xùn)練樣本集訓(xùn)練循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò),利用前向傳播與反向傳播過程確定輸出并獲取不同網(wǎng)絡(luò)層的誤差項(xiàng)優(yōu)化權(quán)值參數(shù)[8,9]。
(1)
式(1)內(nèi),Hx和Cx為序號(hào)一致的隱含層與卷積層,kij表示卷積核。
2)測(cè)試環(huán)節(jié)
基于所構(gòu)建的測(cè)試樣本集測(cè)試訓(xùn)練完成后的循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò),利用前向傳播獲取外推結(jié)果,外推結(jié)果精度較高的條件下可定義循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)滿足收斂標(biāo)準(zhǔn),具有較高的應(yīng)用價(jià)值;相反外推雷達(dá)回波圖像精度較低時(shí)需優(yōu)化結(jié)構(gòu)參數(shù),直至其符合收斂標(biāo)準(zhǔn)為止。
相較于動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò),循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)在外推過程中,t-1時(shí)刻處理的雷達(dá)回波圖像可傳至t時(shí)刻的動(dòng)態(tài)循環(huán)子網(wǎng)絡(luò)內(nèi),可以提升t時(shí)刻下循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)的外推精度。
動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)由動(dòng)態(tài)子網(wǎng)絡(luò)與概率外推層組成,通過訓(xùn)練后能夠獲取輸入的雷達(dá)回波圖像序列動(dòng)態(tài)變化。動(dòng)態(tài)子網(wǎng)絡(luò)的主要功能是確定概率向量[11],其中包含動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)的所有權(quán)值參數(shù),其輸出結(jié)果可作為概率外推層內(nèi)的卷積核。概率外推層將輸入的雷達(dá)回波圖像序列內(nèi)最后一幅圖像同卷積核實(shí)施處理,獲取外推結(jié)果。
2.2.1 動(dòng)態(tài)子網(wǎng)絡(luò)
將采集的雷達(dá)回波圖像輸入至動(dòng)態(tài)子網(wǎng)絡(luò)后,通過網(wǎng)絡(luò)處理獲取一維垂直向量和一維水平向量[12],分別用VP和HP表示。
動(dòng)態(tài)子網(wǎng)絡(luò)包含五個(gè)卷積層,以Ci(i=1,2,…,5)表示,除C5層卷積核大小為7×7外,剩余各層均為9×9。卷積層內(nèi)激活函數(shù)的輸入可采用特征圖同卷積核實(shí)施卷積處理過后獲取的結(jié)果與偏置項(xiàng)的結(jié)合,通過激活函數(shù)能夠得到卷積層的輸出特征圖,具體公式描述如下
(2)
2.2.2 概率外推層
概率外推層存在兩個(gè)輸入,其輸入特征圖與卷積核分別為最后一幅圖像和概率向量。概率外推層內(nèi)對(duì)輸入特征圖實(shí)施兩次卷積處理,獲取外推結(jié)果。圖2所示為概率外推層結(jié)構(gòu)圖。
圖2 概率外推層結(jié)構(gòu)
概率外推層內(nèi)存在兩層結(jié)構(gòu),分別以DC1和DC2進(jìn)行表示,各層內(nèi)的卷積核分別為VP和HP。DC1層內(nèi)輸入的最后一幅圖像同VP實(shí)施卷積處理,獲取輸出特征圖,其在DC2層內(nèi)同HP實(shí)施卷積處理獲取外推圖像??紤]VP和HP的元素都是正值,且元素相加值為1,因此,可將概率外推層內(nèi)兩層結(jié)構(gòu)的卷積處理過程理解為縱向與橫向的外推過程。
循環(huán)神經(jīng)網(wǎng)絡(luò)的主要優(yōu)勢(shì)體現(xiàn)在可提升網(wǎng)絡(luò)處理過程中圖像處理效果方面,其隱含層內(nèi)引入反饋連接,因此令其產(chǎn)生記錄過去狀態(tài)的功能,將其與動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)相結(jié)合,構(gòu)建循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò),在動(dòng)態(tài)子網(wǎng)絡(luò)內(nèi)引入循環(huán)網(wǎng)絡(luò)結(jié)構(gòu),增強(qiáng)對(duì)具有時(shí)序相關(guān)性特征的雷達(dá)回波圖像序列的適用性。
假設(shè)xt和st分別表示t時(shí)刻的輸入與隱藏狀態(tài),前者描述存在特征維度的向量,后者由xt與前一隱藏狀態(tài)st-1獲取,公式描述如下
st=σ(Uxt+Wst-1)
(3)
式(3)內(nèi),σ、U和W分別表示激活函數(shù)、xt連接st、st連接輸出的權(quán)重矩陣。
ot表示t時(shí)刻的輸出,可描述全部類別的概率向量,其公式描述如下
ot=Softmax(Vst)
(4)
式(4)內(nèi),V表示st-1連接st+1的權(quán)重矩陣。
根據(jù)上述分析可知,通過動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)得到雷達(dá)回波圖像序列動(dòng)態(tài)變化,同時(shí),結(jié)合循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)特性,建立循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)。在循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)中的卷積層引入循環(huán)結(jié)構(gòu),得到不同時(shí)間段雷達(dá)回波圖像序列之間的相關(guān)性。根據(jù)相關(guān)性分析結(jié)果,輸入雷達(dá)回波圖像,并通過卷積處理,得到雷達(dá)回波外推結(jié)果,在此基礎(chǔ)上,可以得到短臨預(yù)報(bào)結(jié)果。
實(shí)驗(yàn)為驗(yàn)證本文研究的基于循環(huán)動(dòng)態(tài)卷積的雷達(dá)回波外推短臨預(yù)報(bào)在實(shí)際應(yīng)用過程中的有效性,在Matlab軟件上對(duì)本文方法進(jìn)行仿真測(cè)試。以某市2020年9月4日的降雨過程為仿真對(duì)象,采用傳統(tǒng)基于卷積神經(jīng)網(wǎng)絡(luò)的外推方法和基于深度學(xué)習(xí)的外推方法與本文方法獲取其雷達(dá)回波圖像。為了保證實(shí)驗(yàn)結(jié)果的準(zhǔn)確性,確保實(shí)驗(yàn)條件具有一致性。
本文方法仿真過程中,初始化循環(huán)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)內(nèi)的卷積核,設(shè)定學(xué)習(xí)率與動(dòng)量系數(shù)分別為0.0001和0.4,訓(xùn)練環(huán)節(jié)中樣本輸入量和迭代次數(shù)分別為5組和40次。仿真結(jié)果如圖3所示,其中圖3(a)和圖3(b)分別為輸入的圖像序列和實(shí)際觀測(cè)獲取的圖像,以15min為輸入圖像時(shí)間間隔,圖3(c)為本文方法外推結(jié)果。同時(shí),為進(jìn)一步驗(yàn)證本文方法的外推性能,以基于卷積神經(jīng)網(wǎng)絡(luò)的外推方法和基于深度學(xué)習(xí)的外推方法為對(duì)比方法,兩種對(duì)比方法的外推結(jié)果如圖3和圖4所示。
圖3 雷達(dá)回波圖像外推結(jié)果
圖4 卷積神經(jīng)網(wǎng)絡(luò)外推結(jié)果
分析圖3至圖5可得,三種方法中,本文方法與基于卷積神經(jīng)網(wǎng)絡(luò)的外推效果優(yōu)于基于深度學(xué)習(xí)的外推方法,這是因?yàn)楸疚姆椒ㄅc基于卷積神經(jīng)網(wǎng)絡(luò)的外推方法在訓(xùn)練過程中有效地學(xué)習(xí)了雷達(dá)回波圖像的波動(dòng)規(guī)律,只要輸入的雷達(dá)回波圖像內(nèi)存在這種規(guī)律,就能夠獲取精度較高的外推結(jié)果。本文方法與基于卷積神經(jīng)網(wǎng)絡(luò)的外推方法相比具有更高的清晰度,這是由于自然環(huán)境短時(shí)間內(nèi)會(huì)產(chǎn)生大量變化,導(dǎo)致雷達(dá)回波圖像具有較高的復(fù)雜度,本文方法相比于卷積神經(jīng)網(wǎng)絡(luò)添加了循環(huán)神經(jīng)網(wǎng)絡(luò),能夠記錄過去狀態(tài),增強(qiáng)卷積神經(jīng)網(wǎng)絡(luò)對(duì)具有時(shí)序相關(guān)性特征的雷達(dá)回波圖像序列的適用性。
圖5 深度學(xué)習(xí)外推結(jié)果
以上仿真結(jié)果充分說明本文方法外推結(jié)果與實(shí)際觀測(cè)獲取的雷達(dá)回波圖像一致度最高,即本文方法外推結(jié)果精度更高。
圖6 相關(guān)系數(shù)變化情況
圖6內(nèi),由相關(guān)系數(shù)角度出發(fā)得到:在預(yù)測(cè)時(shí)間逐漸提升的條件下,本文方法與對(duì)比方法預(yù)測(cè)結(jié)果的相關(guān)系數(shù)均表現(xiàn)為逐漸下降的態(tài)勢(shì),但本文方法下降態(tài)勢(shì)更為平緩。由P分析角度出發(fā)得到:本文方法的P值接近5h,兩種對(duì)比方法P值在2.5h—3.5h之間,說明本文方法與對(duì)比方法相比具有更長的外推時(shí)效。
綜合分析上述實(shí)驗(yàn)結(jié)果可知,本文方法能夠有效提升雷達(dá)回波序列圖像的適用性,短臨預(yù)報(bào)結(jié)果具有更高的精準(zhǔn)度。同時(shí),該方法在外推時(shí)效方面具有明顯的優(yōu)勢(shì)性,充分說明本文方法的實(shí)際應(yīng)用價(jià)值較高。
本文研究基于循環(huán)動(dòng)態(tài)卷積的雷達(dá)回波外推短臨預(yù)報(bào)方法,在傳統(tǒng)動(dòng)態(tài)卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上引入循環(huán)神經(jīng)網(wǎng)絡(luò),增強(qiáng)卷積神經(jīng)網(wǎng)絡(luò)對(duì)具有時(shí)序相關(guān)性特征的雷達(dá)回波圖像序列的適用性,獲取高精度的雷達(dá)回波圖像外推結(jié)果,基于外推結(jié)果與預(yù)報(bào)內(nèi)容間的相關(guān)性實(shí)現(xiàn)準(zhǔn)確的短臨預(yù)報(bào)。仿真結(jié)果表明,與傳統(tǒng)基于卷積神經(jīng)網(wǎng)絡(luò)的外推方法和基于深度學(xué)習(xí)的外推方法相比,本文方法的時(shí)效性更好,且短臨預(yù)報(bào)效果更佳,可廣泛應(yīng)用于短臨預(yù)報(bào)領(lǐng)域。雖然本文方法實(shí)現(xiàn)了對(duì)短臨預(yù)報(bào)效果的提升,但是其全面性還有待提升,接下來將針對(duì)不同的雷達(dá)回波圖像進(jìn)行更加深入的研究,爭取提升雷達(dá)回波外推短臨預(yù)報(bào)方法的全面性。