• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    深度學(xué)習(xí)方法在強(qiáng)降水臨近預(yù)報(bào)技術(shù)中的應(yīng)用及其改進(jìn)思考

    2022-12-01 16:46:04張亞萍張焱翟丹華劉伯駿周國(guó)兵
    暴雨災(zāi)害 2022年5期
    關(guān)鍵詞:深度模型

    張亞萍,張焱,翟丹華,劉伯駿,周國(guó)兵

    (重慶市氣象臺(tái),重慶401147)

    引言

    天氣預(yù)報(bào)是根據(jù)過去和現(xiàn)在的大氣狀態(tài),利用現(xiàn)代預(yù)報(bào)技術(shù)和方法,運(yùn)用天氣學(xué)、動(dòng)力氣象學(xué)、統(tǒng)計(jì)學(xué)等科學(xué)理論和數(shù)值預(yù)報(bào)技術(shù),對(duì)未來某一地區(qū)或地點(diǎn)的大氣狀態(tài)及可能影響進(jìn)行預(yù)測(cè)(《中國(guó)氣象百科全書·氣象預(yù)報(bào)預(yù)測(cè)卷》編委會(huì),2016)。世界氣象組織(World Meteorological Organization,WMO)將臨近預(yù)報(bào)(Nowcasting)定義為從現(xiàn)在到未來6 h內(nèi)的天氣預(yù)報(bào)(鄭永光等,2010;WMO,2017)??紤]到本文主要討論的是深度學(xué)習(xí)方法在0~2 h強(qiáng)降水預(yù)報(bào)技術(shù)中的應(yīng)用,因此對(duì)降水臨近預(yù)報(bào)(Precipitation Nowcasting)的定義采用Ravuri 等(2021)的標(biāo)準(zhǔn),即對(duì)未來0~2 h 的降水進(jìn)行高時(shí)空分辨率的預(yù)報(bào)。精準(zhǔn)的降水臨近預(yù)報(bào),除有助于開展重大活動(dòng)氣象保障服務(wù)和公眾日常出行外,還是發(fā)布強(qiáng)降水誘發(fā)城鄉(xiāng)積澇、中小河流洪水以及山洪、滑坡、泥石流等次生災(zāi)害氣象風(fēng)險(xiǎn)預(yù)警的重要技術(shù)支撐,并為應(yīng)急管理部門指揮搶險(xiǎn)救災(zāi)提供參考信息。短時(shí)強(qiáng)降水(Flash heavy rain)是指1 h雨量大于等于20 mm 的降水事件。為了分析短時(shí)強(qiáng)降水的極端性,需要進(jìn)一步將1 h 雨量≥80 mm 或3 h 雨量≥180 mm 的降水事件作為極端短時(shí)強(qiáng)降水(俞小鼎等,2020)。目前,業(yè)務(wù)上采用的降水臨近預(yù)報(bào)方法主要是拉格朗日外推法(鄭永光等,2010),外推法只對(duì)范圍較大的弱降水預(yù)報(bào)效果較好,但對(duì)短時(shí)強(qiáng)降水預(yù)報(bào)在落區(qū)和強(qiáng)度上還存在較大偏差,限制了降水臨近預(yù)報(bào)產(chǎn)品的業(yè)務(wù)用途(Wilson et al.,2020;Ravuri et al.,2021)。短時(shí)強(qiáng)降水誘發(fā)的次生災(zāi)害往往會(huì)對(duì)人民生命財(cái)產(chǎn)及各種生產(chǎn)生活設(shè)施造成重大危害,為更好地發(fā)揮降水臨近預(yù)報(bào)的作用,急需提升短時(shí)強(qiáng)降水預(yù)報(bào)精度。

    人工智能(Artificial Intelligence,AI)在大氣科學(xué)及相關(guān)領(lǐng)域得到了廣泛應(yīng)用(許小峰,2018;馬雷鳴,2020;王啟光和丑紀(jì)范,2021;張敬林等,2022)。其中,深度學(xué)習(xí)(Deep Learning,DL)算法因能自動(dòng)提取強(qiáng)對(duì)流天氣的非線性特征,可對(duì)具有高度非線性變化的降水 進(jìn) 行 較 好 的 預(yù) 報(bào)(Shi et al.,2015;Ravuri et al.,2021)。然而,目前大多數(shù)深度學(xué)習(xí)模型只考慮了輸入數(shù)據(jù)本身的信息,模型訓(xùn)練過程中沒有人為的先驗(yàn)信息,因此將先驗(yàn)知識(shí)與深度學(xué)習(xí)模型融合,則有可能提高此類模型的準(zhǔn)確性和泛化能力。如,由Zhuo 和Tan(2021)發(fā)展的基于深度學(xué)習(xí)的熱帶氣旋強(qiáng)度和大小估計(jì)模型DeepTCNet,將表征熱帶氣旋強(qiáng)度的豐滿度(fullness)指標(biāo)(Guo and Tan,2017)作為輔助信息,模型融合輔助信息后估計(jì)熱帶氣旋強(qiáng)度的誤差較未融合輔助信息時(shí)的誤差減少12%。如何有效地將基于預(yù)報(bào)員經(jīng)驗(yàn)、不受物理公式約束的強(qiáng)降水天氣特征作為先驗(yàn)知識(shí)融入到深度學(xué)習(xí)模型,是提升強(qiáng)降水臨近預(yù)報(bào)準(zhǔn)確率面臨的重要挑戰(zhàn)之一。為此,本文梳理了深度學(xué)習(xí)算法在強(qiáng)降水臨近預(yù)報(bào)技術(shù)中的應(yīng)用情況,并提出了改進(jìn)強(qiáng)降水臨近預(yù)報(bào)技術(shù)的幾點(diǎn)建議。

    1 深度學(xué)習(xí)及可解釋性

    關(guān)于人工智能,可將其簡(jiǎn)單理解為研究一種“機(jī)器”,這種“機(jī)器”在處理任務(wù)時(shí)具有類似人類智力的特點(diǎn)(Russell and Norvig,2020)。制作強(qiáng)降水臨近預(yù)報(bào)時(shí)采用的外推法和數(shù)值預(yù)報(bào)方法,實(shí)質(zhì)上都屬于人工智能方法。外推法對(duì)強(qiáng)降水演變的非線性考慮不足(Wilson et al.,1998);雖然現(xiàn)有高分辨率對(duì)流尺度數(shù)值模式可以模擬局地對(duì)流,但由于數(shù)值預(yù)報(bào)模式需要spin-up時(shí)間、對(duì)流尺度同化方法提供的初始條件還不能完全與高分辨率對(duì)流尺度數(shù)值模式相協(xié)調(diào)(Sun et al.,2014)、顯式微物理方案(Jensen et al.,2020)和邊界層模擬技術(shù)(Sun et al.,2021)也需要進(jìn)一步完善,導(dǎo)致數(shù)值預(yù)報(bào)對(duì)強(qiáng)降水臨近預(yù)報(bào)效果比外推法差,因此,對(duì)精準(zhǔn)模擬局地尺度的對(duì)流存在困難。在提取非線性特征方面,深度學(xué)習(xí)是人工智能中最具優(yōu)勢(shì)的方法(LeCun et al.,2015),將深度學(xué)習(xí)用于提取強(qiáng)降水演變的非線性特征,從而提高強(qiáng)降水預(yù)報(bào)準(zhǔn)確率,是外推法和數(shù)值預(yù)報(bào)方法的有效補(bǔ)充(Ravuri et al.,2021)。為后文討論方便,先對(duì)目前主流的深度學(xué)習(xí)模型以及一些已開展的針對(duì)深度學(xué)習(xí)模型可解釋性的探索成果簡(jiǎn)述如下。

    1.1 主流的深度學(xué)習(xí)模型

    卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)、循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks,RNN)和圖神經(jīng)網(wǎng)絡(luò)(Graph neural networks,GNN)是深度學(xué)習(xí)中最典型的三類模型。對(duì)其分別介紹如下:

    (1)CNN。該模型專門用于從空間網(wǎng)格等具有拓?fù)浣Y(jié)構(gòu)的數(shù)據(jù)中學(xué)習(xí)。該深度學(xué)習(xí)模型由于采用卷積核和深層網(wǎng)絡(luò)實(shí)現(xiàn)特征圖上像素點(diǎn)感受野的擴(kuò)大和多尺度深層特征提取,采用激活函數(shù)進(jìn)行非線性映射等,在圖像識(shí)別任務(wù)上表現(xiàn)極佳(Krizhevsky et al.,2012)。但隨著神經(jīng)網(wǎng)絡(luò)深度加深會(huì)出現(xiàn)梯度消失問題,導(dǎo)致訓(xùn)練難以收斂。He 等(2016)研發(fā)的深度殘差網(wǎng)絡(luò)(Deep Residual Learning Network,ResNet)能夠有效避免梯度消失現(xiàn)象。只要提供一定數(shù)量的矩陣數(shù)據(jù)和對(duì)應(yīng)的標(biāo)簽,均可以用CNN 進(jìn)行識(shí)別,如進(jìn)行鋒面和陣風(fēng)鋒等的識(shí)別(Lagerquist et al.,2019;徐月飛等,2020)。

    (2) RNN。CNN 注重的是空間特征的提取,而RNN在神經(jīng)網(wǎng)絡(luò)中引入了記憶的反饋,即每一個(gè)時(shí)間步中除了輸入當(dāng)前特征外,還要輸入上一步輸出的隱藏特征,因此可用于處理序列數(shù)據(jù)(Rumelhart et al.,1986;Werbos,1990),其中每一個(gè)輸出都與之前所有序列數(shù)據(jù)相關(guān),即過去的數(shù)據(jù)會(huì)對(duì)未來的數(shù)據(jù)產(chǎn)生影響,具有“記憶”效果。為避免RNN存在的梯度消失現(xiàn)象,Hochreiter 和Schmidhuber (1997)發(fā)展了長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)(Long Short Term Memory,LTSM),Vaswani等(2017)則發(fā)展了門控循環(huán)單元(Gated Recurrent Unit,GRU)。Shi 等(2015)將降水臨近預(yù)報(bào)作為一個(gè)針對(duì)雷達(dá)回波演變的時(shí)空序列預(yù)報(bào)問題,發(fā)展了卷積長(zhǎng)短期記憶網(wǎng)絡(luò)(Convolutional LSTM Network,ConvLSTM),模型的輸入為包括當(dāng)前時(shí)次在內(nèi)的時(shí)間間隔為6 min的過去J個(gè)時(shí)次觀測(cè)的回波,模型輸出為未來K個(gè)時(shí)次的回波最可能的演變情況。

    (3)GNN。許多學(xué)習(xí)任務(wù)都需要處理包含元素間豐富關(guān)系信息的圖(Graph)數(shù)據(jù)。GNN(Scarselli et al.,2009)將神經(jīng)網(wǎng)絡(luò)使用在圖數(shù)據(jù)上,通過圖節(jié)點(diǎn)之間的消息傳遞來捕獲圖的依賴性。GNN 能處理不規(guī)則數(shù)據(jù)結(jié)構(gòu),可用于場(chǎng)景分析和問題推理等,如道路交通動(dòng)態(tài)流量預(yù)測(cè)、智能客服、異常檢測(cè)、欺詐檢測(cè)等(Zhou et al.,2020a;Waikhom and Patgiri,2021)。由于GNN具有處理不規(guī)則數(shù)據(jù)結(jié)構(gòu)的優(yōu)勢(shì),其在氣象上的應(yīng)用研究也會(huì)逐漸增加(Lin et al.,2021)。

    (4)其他模型。主流的深度學(xué)習(xí)模型還包括Hinton 等(2006)提出的深度信念網(wǎng)絡(luò)(Deep Belief Networks,DBN)、Goodfellow 等(2014)提出的生成式對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Networks,GAN)、Vaswani 等(2017)提出的Transformer 等。其中,Transformer 以注意力機(jī)制(Attention)為其網(wǎng)絡(luò)結(jié)構(gòu),與CNN、RNN 和GNN 均有一定的相似性(Bai et al.,2019;Cordonnier et al.,2019;Katharopoulos et al.,2020)。自然語言處理(Natural Language Processing,NLP)和計(jì)算機(jī)視覺(Computer vision,CV)領(lǐng)域?qū)ransformer的研究應(yīng)用都較廣泛,但Transformer對(duì)數(shù)據(jù)量的要求較高。

    1.2 深度學(xué)習(xí)模型的可解釋性

    深度學(xué)習(xí)模型在大氣科學(xué)領(lǐng)域的可解釋性初步分為兩個(gè)方向,即對(duì)深度學(xué)習(xí)模型的“黑箱”探索方向和基于特征提取后的可解釋性方向。

    深度學(xué)習(xí)模型是端到端(end to end)的“黑箱”模型,其中間過程不可知、結(jié)果不可控。一方面,人們難以知道它在做什么;另一方面,難以解釋和理解它為什么這么做。隨著對(duì)深度學(xué)習(xí)可解釋性需求的增加,對(duì)深度學(xué)習(xí)模型進(jìn)行解釋的方法得到了發(fā)展。如,通過求出某個(gè)神經(jīng)元的激活值相對(duì)于原始輸入圖像的梯度,把某個(gè)神經(jīng)元的輸出重構(gòu)回原始輸入像素空間,可研究該神經(jīng)元究竟在尋找什么特征(Zeiler and Fergus,2013;Karpathy et al.,2015)。為探索深度學(xué)習(xí)模型是否能夠?qū)臻g天氣特征進(jìn)行編碼,并解釋其與相關(guān)強(qiáng)天氣的聯(lián)系,Gagne等(2019)利用深度學(xué)習(xí)方法研究了直徑25 mm以上冰雹的預(yù)報(bào)水平,通過特征重要性和特征優(yōu)化對(duì)CNN 進(jìn)行解釋,結(jié)果表明:該網(wǎng)絡(luò)綜合了大的溫度遞減率和有利于寬廣上升氣流的風(fēng)切變廓線等有利于冰雹生長(zhǎng)的環(huán)境和風(fēng)暴形態(tài)信息,這與氣象學(xué)家的理解一致。

    Lagerquist 等(2019)以人工分析的鋒面為標(biāo)簽,利用CNN來識(shí)別天氣尺度鋒面,然后采用后處理方法將網(wǎng)格上的概率值轉(zhuǎn)化為預(yù)報(bào)目標(biāo),用北美區(qū)域再分析資料中的1 000 hPa風(fēng)速、溫度、比濕、濕球位溫和位勢(shì)高度等網(wǎng)格化資料作為預(yù)報(bào)因子,結(jié)果表明該系統(tǒng)有可能用于定量解釋數(shù)值天氣預(yù)報(bào)集合成員預(yù)報(bào)鋒面特性的多樣性。

    人工標(biāo)簽雖然也是一種對(duì)先驗(yàn)知識(shí)的應(yīng)用,但若在模型提取特征前就引入先驗(yàn)知識(shí),如基于主觀預(yù)報(bào)經(jīng)驗(yàn)或概念模型先對(duì)某些特征(如陣風(fēng)鋒、中氣旋等)進(jìn)行提取,將提取的特征進(jìn)行編碼再與模型融合,也可能是探索模型可解釋性和提高模型泛化能力的一種方法。

    2 強(qiáng)降水臨近預(yù)報(bào)方法

    強(qiáng)降水臨近預(yù)報(bào)主要是基于地面雨量計(jì)、天氣雷達(dá)、氣象衛(wèi)星等監(jiān)測(cè)資料,分析監(jiān)測(cè)到的強(qiáng)降水中心特征,采用主客觀方法預(yù)報(bào)未來0~2 h強(qiáng)降水中心和量級(jí)。強(qiáng)降水落區(qū)和量級(jí)預(yù)報(bào)越準(zhǔn)確,越有利于提升強(qiáng)降水誘發(fā)的城市積澇、山洪、滑坡等次生災(zāi)害的預(yù)警提前量。對(duì)目前常用的幾種強(qiáng)降水臨近預(yù)報(bào)方法簡(jiǎn)介如下。

    2.1 拉格朗日外推法

    目前,臨近預(yù)報(bào)在很大程度上仍然是依賴于基于觀測(cè)的拉格朗日外推。此外推法又可分為平流外推法和單體跟蹤外推法,但無論采用何種外推,準(zhǔn)確預(yù)報(bào)強(qiáng)回波中心的位置和強(qiáng)度都是提高強(qiáng)降水預(yù)報(bào)精度的關(guān)鍵。

    平流外推法通常是假設(shè)在數(shù)小時(shí)時(shí)間范圍內(nèi),通過沿不變的運(yùn)動(dòng)場(chǎng)來移動(dòng)雷達(dá)回波,且不改變其強(qiáng)度以捕獲降水演變(Zawadzki et al.,1994)。用于臨近預(yù)報(bào)的平流場(chǎng)通常基于使用最新雷達(dá)圖像或衛(wèi)星云圖分析獲得的視運(yùn)動(dòng)?;夭ㄟ\(yùn)動(dòng)場(chǎng)可通過相關(guān)系數(shù)法(Wilson et al.,1998;Li et al.,2000;陳明軒等,2007;胡勝等,2011;羅義等,2021)或光流法(韓雷等,2008;曹春燕等,2015;Pulkkinen et al.,2019;田剛等,2021)得到。單體跟蹤外推法首先將風(fēng)暴識(shí)別為當(dāng)前雷達(dá)掃描中的目標(biāo),然后通過在連續(xù)掃描中識(shí)別相同的目標(biāo)來跟蹤風(fēng)暴的運(yùn)動(dòng)(Dixon and Wiener,1993;Johnson et al.,1998;胡勝等,2006;鄭永光等,2010),適用于識(shí)別和跟蹤強(qiáng)對(duì)流風(fēng)暴。將外推預(yù)報(bào)的雷達(dá)回波經(jīng)過Z-R關(guān)系(Z為天氣雷達(dá)反射率因子,R為降水強(qiáng)度)轉(zhuǎn)換為降水,得到降水臨近預(yù)報(bào)結(jié)果。

    與雷達(dá)強(qiáng)回波中心的外推預(yù)報(bào)類似,通過對(duì)衛(wèi)星云圖上的強(qiáng)降水云團(tuán)進(jìn)行識(shí)別和跟蹤(Hubert and Whitney,1971;Merritt and Fritsch,1984;白潔等,1997;傅云飛,2019;楊磊等,2020),可開展強(qiáng)降水臨近預(yù) 報(bào)。如,Merritt 和Fritsch (1984)利用GOES 衛(wèi)星的10.7 μm 數(shù)字資料將中尺度對(duì)流系統(tǒng)(Mesoscale Convective System,MCS)最冷云頂簇定義為空間尺度在10~100 km、時(shí)間尺度在1~10 h 的β中尺度核(Meso-Beta Cores,MBC),并通過監(jiān)測(cè)和預(yù)報(bào)MBC 的移動(dòng)和傳播實(shí)現(xiàn)基于衛(wèi)星的強(qiáng)降水監(jiān)測(cè)和預(yù)報(bào)。隨著衛(wèi)星觀測(cè)資料時(shí)空分辨率的提高(Yang et al.,2017)以及對(duì)流初生(Convection Initiation,CI)等臨近預(yù)報(bào)技術(shù)的發(fā)展(黃亦鵬等,2019),衛(wèi)星、雷達(dá)等多源觀測(cè)資料將在降水臨近預(yù)報(bào)中得到更充分的融合與應(yīng)用。

    然而,拉格朗日外推預(yù)報(bào)精度會(huì)隨時(shí)間迅速降低(Wilson et al.,1998;Mandapaka et al.,2012)。正因?yàn)槿绱?,Tsonis和Austin(1981)針對(duì)已經(jīng)維持了30 min以上的風(fēng)暴單體,利用回波影響范圍和強(qiáng)度的時(shí)間變化趨勢(shì),希望能提高臨近外推預(yù)報(bào)的精度,結(jié)果發(fā)現(xiàn)即使在復(fù)雜的非線性時(shí)間趨勢(shì)方案中,預(yù)報(bào)技巧的提高也微不足道。后來,Wilson 等(1998)測(cè)試了類似的回波趨勢(shì)變化技術(shù),得到了相似的結(jié)果,并指出預(yù)報(bào)技巧難以提高的原因可能是決定強(qiáng)降雨隨時(shí)間變化的關(guān)鍵物理過程(如邊界層風(fēng)的輻合)在回波發(fā)展過程中不一定是可被觀測(cè)到的。

    2.2 數(shù)值預(yù)報(bào)方法

    目前基于數(shù)值模式的0~2 h 強(qiáng)降水預(yù)報(bào)效果還不理想,主要原因包括數(shù)值模式預(yù)報(bào)提前時(shí)間少于模式spin-up 所需時(shí)間、非高斯分布數(shù)據(jù)同化存在困難(Sun et al.,2014)、對(duì)云及對(duì)流過程表征還不夠準(zhǔn)確(Guo et al.,2015)等。另外,高分辨率快速更新模式(High-Resolution Rapid Refresh,HRRR)還不能精準(zhǔn)模擬出既受外流邊界輻合影響又受地形影響的γ中尺度氣流,從而導(dǎo)致降水臨近預(yù)報(bào)出現(xiàn)誤差。近年,國(guó)外有人利用HRRR 模式(Wilson et al.,2020)研究了2017年夏季沿美國(guó)科羅拉多州弗蘭特山脈120 km 空間尺度上的降水臨近預(yù)報(bào)情況,結(jié)果表明:模式預(yù)報(bào)的0~2 h降水精度較基于天氣雷達(dá)資料的外推結(jié)果差;局地尺度(中尺度)對(duì)強(qiáng)降水的影響比大尺度(天氣尺度)的影響要大得多,在局地尺度上大尺度趨勢(shì)對(duì)于修正外推臨近預(yù)報(bào)沒有作用。

    數(shù)值預(yù)報(bào)方法對(duì)0~2 h預(yù)報(bào)還多是參考,其直接應(yīng)用偏少,但可通過使用后處理診斷工具提取一些有用信息進(jìn)行間接使用(鄭永光等,2015a,2015b;WMO,2017)。大量事實(shí)證明,NWP 模式在起報(bào)數(shù)小時(shí)后通常比外推法能產(chǎn)生更好的定量降水預(yù)報(bào)效果,因此通常將雷達(dá)回波外推與數(shù)值天氣預(yù)報(bào)模式相結(jié)合以生成無縫的0~6 h 預(yù)報(bào)(程叢蘭等,2013;Sun et al.,2014;Pinto et al.,2018)。

    2.3 深度學(xué)習(xí)方法

    由于深度學(xué)習(xí)能提取復(fù)雜的非線性特征,它適用于處理強(qiáng)降水臨近預(yù)報(bào)這種需要進(jìn)行強(qiáng)降水回波或強(qiáng)降水云團(tuán)空間特征提取和時(shí)間演變分析的情形。如果按照輸入數(shù)據(jù)和輸出數(shù)據(jù)類型不同,可將基于深度學(xué)習(xí)方法的強(qiáng)降水臨近預(yù)報(bào)分為以下3種情況:

    (1)深度學(xué)習(xí)模型的輸入和輸出均為雷達(dá)反射率因子場(chǎng),將模型輸出經(jīng)過Z-R關(guān)系轉(zhuǎn)換為降水。這是目前進(jìn)行強(qiáng)降水臨近預(yù)報(bào)最常用的方法。這方面工作最早可追溯到Shi等(2015)提出的ConvLSTM。此后不久,Shi等(2017)又提出了卷積核可變形門控循環(huán)單元(Trajectory Gated Recurrent Unit,TrajGRU),通過顯式地學(xué)習(xí)輸入數(shù)據(jù)中的空間變化關(guān)系,改進(jìn)了ConvLSTM 卷積循環(huán)結(jié)構(gòu)位置不變的不足。之后,其他人在相關(guān)工作上也有一些進(jìn)展。如,韓豐等(2019)使用預(yù)測(cè)循環(huán)神經(jīng)網(wǎng)絡(luò)架構(gòu)(predictive RNN),利用歷史雷達(dá)組合反射率因子建模,進(jìn)行未來1 h 組合反射率因子預(yù)報(bào),對(duì)反射率因子強(qiáng)度變化有一定的預(yù)報(bào)能力。郭瀚陽等(2019)基于改進(jìn)的RNN 算法形成的自編碼模型,開展了強(qiáng)對(duì)流高分辨率臨近預(yù)報(bào)試驗(yàn),其結(jié)果比傳統(tǒng)外推方法有了較明顯的提高。Agrawal 等(2019)將回波演變模擬視為一個(gè)圖像到圖像的轉(zhuǎn)換問題,基于深度圖像分割網(wǎng)絡(luò)U-Net 架構(gòu)(Ronneberger et al.,2015)進(jìn)行降水臨近預(yù)報(bào),其預(yù)報(bào)效果好于光流法。參考U-Net 和SegNet (Badrinarayanan et al.,2017),Ayzel等(2020)提出了RainNet模型,該模型是一種分支之間有跳躍連接的、遵循標(biāo)準(zhǔn)的編碼器-解碼器結(jié)構(gòu)的深度卷積神經(jīng)網(wǎng)絡(luò),其預(yù)報(bào)效果也優(yōu)于光流法。Trebing 等(2021)提出了一個(gè)基于U-Net 的、包括注意力模塊和深度可分離卷積的SmaAt-UNet 模型,該模型僅使用了1/4的可訓(xùn)練參數(shù),在預(yù)報(bào)性能上與其他模型相當(dāng)。

    值得一提的是,重慶市氣象局與百度公司合作,基于2008—2018年天氣雷達(dá)數(shù)據(jù)集和其它實(shí)況資料,結(jié)合重慶市氣象臺(tái)發(fā)展的冰雹大風(fēng)自動(dòng)標(biāo)識(shí)技術(shù)(劉伯駿等,2021),采用TrajGRU,初步建立了三維雷達(dá)回波智能臨近預(yù)報(bào)模型,并將以上技術(shù)用于強(qiáng)降水臨近預(yù)報(bào)業(yè)務(wù)。結(jié)果顯示,與中國(guó)氣象局災(zāi)害天氣短時(shí)臨近預(yù)報(bào)系統(tǒng)(Severe Weather Automatic Nowcast system,SWAN)的產(chǎn)品相比,雷達(dá)回波智能預(yù)報(bào)能力隨時(shí)間降低的速度低于傳統(tǒng)外推方法,對(duì)長(zhǎng)時(shí)效雷達(dá)回波預(yù)報(bào)明顯提升,降水智能預(yù)報(bào)比SWAN降水預(yù)報(bào)有了一定程度的提高(顧建峰等,2020),但對(duì)強(qiáng)降水的預(yù)報(bào)能力仍然有限。對(duì)重慶2018年發(fā)生的10次暴雨天氣過程的檢驗(yàn)表明,以7 mm·h-1雨強(qiáng)為閾值,深度學(xué)習(xí)的1 h臨近預(yù)報(bào)臨界成功指數(shù)(Critical Success Index,CSI)為0.16,而SWAN 的只有0.04;其2 h 臨近預(yù)報(bào)CSI 僅為0.06,而SWAN的則更低,為0.01(顧建峰等,2020)。

    (2)深度學(xué)習(xí)模型的輸入和輸出均為降水場(chǎng)。隨著預(yù)報(bào)時(shí)效的延長(zhǎng),由于缺乏對(duì)提高預(yù)測(cè)值很重要的小尺度天氣特征的有效提取,基于深度學(xué)習(xí)的降水臨近預(yù)報(bào)模型輸出的降水場(chǎng)越來越模糊,預(yù)報(bào)的不確定性也相應(yīng)增加。為有效提取小尺度天氣特征以提高強(qiáng)降水預(yù)報(bào)準(zhǔn)確率,Ravuri等(2021)提出了降水深度生成模型(Deep Generative Model of Rainfall,DGMR),采用的算法框架為Mirza 和Osindero (2014)提出的條件生成對(duì)抗網(wǎng)絡(luò)(Conditional Generative Adversarial Network,CGAN)。DGMR 的輸入和標(biāo)簽均為雷達(dá)定量估計(jì)降水,輸出為降水場(chǎng)。DGMR平衡了預(yù)報(bào)的降水強(qiáng)度和范圍,可更好地捕捉環(huán)流、強(qiáng)度和結(jié)構(gòu)等信息,更準(zhǔn)確地預(yù)報(bào)局部降雨,提高了強(qiáng)降水預(yù)報(bào)的質(zhì)量和一致性。此外,通過50 多位氣象專家的系統(tǒng)評(píng)估,與利用平流方法的PySTEPS (Pulkkinen et al.,2019)和利用深度學(xué)習(xí)方法的MetNet (S?nderby et al.,2020)相比,DGMR 在89% 的案例中其準(zhǔn)確性和實(shí)用性排名第一,對(duì)強(qiáng)降水的位置、范圍、運(yùn)動(dòng)和強(qiáng)度預(yù)報(bào)均具優(yōu)勢(shì)。

    (3)深度學(xué)習(xí)模型的輸入為多源數(shù)據(jù),輸出為降水場(chǎng)。S?nderby 等(2020)提出了一種將LSTM 編碼器和軸向注意力解碼器組合的模型(即MetNet),該模型以雷達(dá)定量估計(jì)降水、衛(wèi)星數(shù)據(jù)作為輸入,并進(jìn)行了經(jīng)緯度、海拔高度、小時(shí)、日、月等實(shí)值特征的嵌入,實(shí)現(xiàn)了對(duì)未來8 h 降水的預(yù)報(bào),并能生成概率降水預(yù)報(bào)圖。Ravuri 等(2021)利用英國(guó)和美國(guó)的數(shù)據(jù)對(duì)MetNet的預(yù)報(bào)性能進(jìn)行評(píng)估后發(fā)現(xiàn),額外的衛(wèi)星或地形數(shù)據(jù)以及時(shí)空嵌入并沒有提供統(tǒng)計(jì)上顯著的CSI改善。

    目前,將雷達(dá)反射率因子作為深度學(xué)習(xí)模型的輸入,將地面觀測(cè)的降水場(chǎng)作為標(biāo)簽和輸出的研究尚少,這種方式相當(dāng)于需要模型自動(dòng)尋找Z-R關(guān)系,如果相關(guān)模型得到發(fā)展和解釋,有望促進(jìn)Z-R關(guān)系的研究。另外,閃電活動(dòng)與短時(shí)強(qiáng)降水也有較好的相關(guān)關(guān)系(劉澤等,2020;成勤等,2020)。如,Zhou 等(2020b)構(gòu)建的三維語義分割模型LightningNet,其輸入數(shù)據(jù)為雷達(dá)回波、衛(wèi)星云圖和閃電密度,實(shí)現(xiàn)了0~1 h云地閃臨近預(yù)報(bào)。因此,需要發(fā)展將閃電資料等多源數(shù)據(jù)輸入到深度學(xué)習(xí)模型并應(yīng)用到強(qiáng)降水臨近預(yù)報(bào)的方法。

    3 深度學(xué)習(xí)方法在強(qiáng)降水臨近預(yù)報(bào)技術(shù)中的改進(jìn)思考

    應(yīng)用深度學(xué)習(xí)方法的強(qiáng)降水臨近預(yù)報(bào)技術(shù)在強(qiáng)降水預(yù)報(bào)精度上已經(jīng)明顯高于光流法等外推法已是不爭(zhēng)的事實(shí),但隨著預(yù)報(bào)時(shí)效延長(zhǎng),其對(duì)強(qiáng)降水區(qū)域的預(yù)報(bào)仍然非常困難(Ravuri等,2021)。在深度學(xué)習(xí)模型的不同環(huán)節(jié)融入適當(dāng)?shù)南闰?yàn)知識(shí),有可能提高模型學(xué)習(xí)到重要特征的能力,也有可能提高模型的可解釋性。同時(shí),對(duì)模型效果的評(píng)估方法決定了模型算法改進(jìn)的方向。下文從先驗(yàn)知識(shí)融入深度學(xué)習(xí)模型和提高主客觀評(píng)估結(jié)果的一致性方面,提出改進(jìn)強(qiáng)降水臨近預(yù)報(bào)技術(shù)的幾點(diǎn)建議如下。

    3.1 先驗(yàn)知識(shí)與深度學(xué)習(xí)模型融合

    將物理過程與數(shù)據(jù)驅(qū)動(dòng)(data-driven)的機(jī)器學(xué)習(xí)進(jìn)行混合建模,發(fā)揮兩者的協(xié)同作用,是提升預(yù)報(bào)能力的重要途徑(Reichstein et al.,2019;馬雷鳴2020;李揚(yáng)等,2021;周康輝等,2021)。如,Snaiki 和Wu(2019)將基于物理方程或半經(jīng)驗(yàn)公式的熱帶氣旋邊界層風(fēng)的先驗(yàn)知識(shí)轉(zhuǎn)變?yōu)闄C(jī)器可讀的(machine-readable)補(bǔ)充知識(shí),并應(yīng)用到熱帶氣旋邊界層風(fēng)動(dòng)力學(xué)的深層網(wǎng)絡(luò)建模,減少了模型訓(xùn)練需要的數(shù)據(jù)集,訓(xùn)練后的模型可以準(zhǔn)確、有效地預(yù)報(bào)各種熱帶氣旋的邊界層風(fēng)場(chǎng)。與上述文獻(xiàn)將受物理公式約束的先驗(yàn)知識(shí)引入深度學(xué)習(xí)算法不同,Zhuo 和Tan(2021)發(fā)展的熱帶氣旋強(qiáng)度和大小估計(jì)模型DeepTCNet,引入了表征熱帶氣旋強(qiáng)度的豐滿度指標(biāo)等作為輔助信息,并假設(shè)這些先驗(yàn)知識(shí)不受物理公式約束,輔助信息在輸入空間和輸出目標(biāo)之間可能引入了額外的物理關(guān)系,因此可以約束模型產(chǎn)生更好的熱帶氣旋強(qiáng)度和大小估計(jì)。后者將不受物理公式約束的先驗(yàn)知識(shí)融入深度學(xué)習(xí)算法的思路,可作為探索強(qiáng)降水臨近預(yù)報(bào)業(yè)務(wù)初步解決方案的借鑒。類似的不受物理公式約束的先驗(yàn)知識(shí),常見于氣象專家系統(tǒng)(expert system)。氣象專家系統(tǒng)是一種基于知識(shí)的推理系統(tǒng),將有經(jīng)驗(yàn)的預(yù)報(bào)員在實(shí)際預(yù)報(bào)實(shí)踐中取得的經(jīng)驗(yàn)用適當(dāng)形式存入計(jì)算機(jī),形成知識(shí)庫(kù),根據(jù)輸入的氣象資料,按照一定的推理規(guī)則作出客觀預(yù)報(bào)。20世紀(jì)80年代,作為人工智能的一個(gè)分支,已有少數(shù)專家系統(tǒng)的災(zāi)害性天氣預(yù)報(bào)準(zhǔn)確率接近當(dāng)時(shí)優(yōu)秀預(yù)報(bào)員的水平,在其落區(qū)和強(qiáng)度預(yù)報(bào)方面也取得了比較明顯的效果(氣象史料挖掘與研究工程項(xiàng)目組,2018)。

    從多源觀測(cè)資料總結(jié)更多的強(qiáng)降水風(fēng)暴特征,研究將經(jīng)驗(yàn)知識(shí)適當(dāng)?shù)剞D(zhuǎn)換為機(jī)器可讀知識(shí)的方法,并將這種類似于專家系統(tǒng)的先驗(yàn)知識(shí)融入到深度學(xué)習(xí)模型,可能是預(yù)報(bào)員開展研究型強(qiáng)降水臨近預(yù)報(bào)業(yè)務(wù)需要面對(duì)的挑戰(zhàn)(圖1)。預(yù)報(bào)員和科研人員在強(qiáng)降水臨近預(yù)報(bào)實(shí)踐中總結(jié)了一些強(qiáng)降水風(fēng)暴的特征和指標(biāo),如雷達(dá)回波不斷經(jīng)過同一地點(diǎn)時(shí)的“列車效應(yīng)”(李明華等,2019)、中尺度輻合輻散共軛系統(tǒng)風(fēng)場(chǎng)反映在多普勒天氣雷達(dá)徑向速度圖上的逆風(fēng)區(qū)(張培源和陳榮林,1995)、強(qiáng)低空急流展現(xiàn)在多普勒速度圖上的“牛眼”以及強(qiáng)降水與雷達(dá)反射率因子垂直累積液態(tài)水含量(Vertically Integrated Liquid water content,VIL)的關(guān)系、強(qiáng)降水與閃電的關(guān)系等(章國(guó)材,2011)?!傲熊囆?yīng)”這類特征由于含有運(yùn)動(dòng)信息,可能是機(jī)器能夠自動(dòng)學(xué)習(xí)到的“知識(shí)”?!澳骘L(fēng)區(qū)”等特征需要先開發(fā)識(shí)別算法才能編碼,在數(shù)據(jù)量較大時(shí)也可探索采用機(jī)器學(xué)習(xí)算法提取。VIL等特征已可量化,其編碼相對(duì)簡(jiǎn)單。

    圖1 先驗(yàn)知識(shí)融入深度學(xué)習(xí)模型Fig.1 Schematic diagram of prior information into deep learning algorithm

    為了將先驗(yàn)知識(shí)融入到深度學(xué)習(xí)模型,可從數(shù)據(jù)預(yù)處理、改變數(shù)據(jù)標(biāo)簽、在模型架構(gòu)中嵌入先驗(yàn)知識(shí)的量化編碼、修改損失函數(shù)等方面著手。

    在數(shù)據(jù)預(yù)處理方面,若先驗(yàn)知識(shí)不能簡(jiǎn)單量化,可基于決策樹等機(jī)器學(xué)習(xí)算法或另一深度學(xué)習(xí)算法先對(duì)特征進(jìn)行提取,再將提取的特征向量輸入到強(qiáng)降水預(yù)報(bào)的深度學(xué)習(xí)模型。如,徐月飛等(2020)基于深度卷積神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)了陣風(fēng)鋒自動(dòng)識(shí)別算法。這類輔助信息可作為強(qiáng)降水預(yù)報(bào)深度學(xué)習(xí)模型的輸入。同時(shí),預(yù)先提取的特征也可作為標(biāo)簽。周康輝等(2021)指出,若能利用機(jī)器學(xué)習(xí)識(shí)別中氣旋、上沖云頂和弓狀回波等與強(qiáng)對(duì)流相關(guān)的特征并作為標(biāo)簽,相比直接用雷暴大風(fēng)等天氣現(xiàn)象作為標(biāo)簽,可能有望延長(zhǎng)預(yù)警提前時(shí)間?!吧顚?duì)流塔”是西南渦強(qiáng)降水的一種重要γ中尺度系統(tǒng)(Zhai et al.,2021),若能實(shí)現(xiàn)其自動(dòng)識(shí)別,有望延長(zhǎng)強(qiáng)降水臨近預(yù)報(bào)時(shí)間。在對(duì)深度學(xué)習(xí)模型深入理解的基礎(chǔ)上,可在模型架構(gòu)中嵌入先驗(yàn)知識(shí)的量化編碼。如Zhuo 和Tan (2021)發(fā)展的DeepTCNet,就是通過將輔助信息嵌入到VGGNet 模型(Simonyan and Zisserman,2014)的全連接層前面實(shí)現(xiàn)了先驗(yàn)知識(shí)與深度學(xué)習(xí)模型的融合。

    無論深度學(xué)習(xí)模型的架構(gòu)如何,最終要實(shí)現(xiàn)的任務(wù)是由損失函數(shù)決定的。Ravuri 等(2021)分別用一個(gè)空間判別器和一個(gè)時(shí)間判別器定義了兩個(gè)損失函數(shù)以驅(qū)動(dòng)深度學(xué)習(xí),第一個(gè)判別器的目的是確保空間一致性并阻止模糊預(yù)測(cè),第二個(gè)判別器旨在區(qū)分觀測(cè)到的和生成的雷達(dá)序列,施加時(shí)間一致性并懲罰跳躍預(yù)測(cè)。結(jié)合可求導(dǎo)的檢驗(yàn)指標(biāo)用于損失函數(shù)設(shè)計(jì),可作為模型優(yōu)化的一種重要手段。而Zheng 等(2021)則利用Dense U-Net 架構(gòu),在牙齒的CT 圖像上引入材料(materials)不會(huì)直接連接骨頭等解剖學(xué)先驗(yàn)知識(shí),對(duì)先驗(yàn)知識(shí)進(jìn)行量化,并在深度學(xué)習(xí)網(wǎng)絡(luò)的損失函數(shù)中考慮新的得分函數(shù),其得分越高表示越符合解剖學(xué)的先驗(yàn)知識(shí),取得了較好的圖像分割效果。

    3.2 提高主客觀評(píng)估結(jié)果的一致性

    檢驗(yàn)是研發(fā)預(yù)報(bào)系統(tǒng)過程中不可或缺的一步,也是確定強(qiáng)降水預(yù)報(bào)技術(shù)改進(jìn)方向的關(guān)鍵。同時(shí),預(yù)報(bào)檢驗(yàn)也是一個(gè)具有很多可能評(píng)分方法的多維難題(Jolliffe and Stephenson,2016)。國(guó)外有人在評(píng)估降水臨近預(yù)報(bào)結(jié)果時(shí)(Ravuri et al.,2021)指出,氣象專家認(rèn)為不同方法的預(yù)報(bào)結(jié)果有很大差別: 與其它方法相比,DGMR 模型的預(yù)報(bào)結(jié)果“能夠最好地捕捉到對(duì)流單體的大小和強(qiáng)度”,但常用的降水檢驗(yàn)指標(biāo)大多只能得出差別不大的檢驗(yàn)結(jié)果。為了盡量做到客觀檢驗(yàn)指標(biāo)與氣象專家評(píng)估結(jié)果的一致,需要發(fā)展新的評(píng)估指標(biāo)。

    針對(duì)同樣的強(qiáng)降水回波,兩個(gè)預(yù)報(bào)員的看法都可能不一樣,主客觀評(píng)估結(jié)果更不可能完全一致。但通過改進(jìn)客觀檢驗(yàn)指標(biāo),有可能提高主客觀評(píng)估結(jié)果的一致性。茅懋等(2016)設(shè)計(jì)了強(qiáng)對(duì)流預(yù)報(bào)產(chǎn)品的目標(biāo)對(duì)象檢驗(yàn)方法,包括預(yù)報(bào)產(chǎn)品和實(shí)況資料的對(duì)流單體和強(qiáng)降水落區(qū)等目標(biāo)的識(shí)別和匹配、多指標(biāo)檢驗(yàn)、根據(jù)用戶評(píng)價(jià)偏好進(jìn)行加權(quán)平均給出總體檢驗(yàn)評(píng)分。這種目標(biāo)對(duì)象檢驗(yàn)方法提供的有關(guān)面積、位置和形狀等的評(píng)價(jià)信息更適合預(yù)報(bào)員和預(yù)報(bào)業(yè)務(wù)的需求,可作為研發(fā)新的檢驗(yàn)指標(biāo)的參考。

    4 存在問題及展望

    本文以強(qiáng)降水臨近預(yù)報(bào)為例,梳理了深度學(xué)習(xí)算法在強(qiáng)降水臨近預(yù)報(bào)技術(shù)中的應(yīng)用情況,參考已有研究成果,提出了將基于預(yù)報(bào)員經(jīng)驗(yàn)、不受物理公式約束的強(qiáng)降水天氣特征作為先驗(yàn)知識(shí)融入到深度學(xué)習(xí)模型的可能途徑,包括將一些經(jīng)驗(yàn)特征進(jìn)行量化或自動(dòng)識(shí)別后作為模型輸入、將預(yù)先提取的特征作為模型標(biāo)簽、在模型架構(gòu)中嵌入先驗(yàn)知識(shí)的量化編碼、結(jié)合可求導(dǎo)的檢驗(yàn)指標(biāo)設(shè)計(jì)損失函數(shù)對(duì)模型進(jìn)行優(yōu)化。同時(shí),針對(duì)一些客觀檢驗(yàn)指標(biāo)對(duì)氣象專家認(rèn)為明顯有差別的強(qiáng)降水預(yù)報(bào)結(jié)果的評(píng)分相差不大的問題,提出要提高主客觀評(píng)估的一致性,以便更好地確定強(qiáng)降水臨近預(yù)報(bào)技術(shù)的改進(jìn)方向。

    為了更好地改進(jìn)深度學(xué)習(xí)方法在強(qiáng)降水臨近預(yù)報(bào)技術(shù)中的應(yīng)用,還需要關(guān)注數(shù)據(jù)集構(gòu)建(劉娜等,2021)、深度學(xué)習(xí)算法代碼復(fù)現(xiàn)時(shí)的本地化。為了支持強(qiáng)降水臨近預(yù)報(bào)技術(shù)研究及應(yīng)用的長(zhǎng)期有效性,需要建設(shè)具有氣象學(xué)、遙感、計(jì)算機(jī)科學(xué)等背景的多學(xué)科人員組成的團(tuán)隊(duì),團(tuán)隊(duì)成員需要具有實(shí)時(shí)跟蹤最新技術(shù)的能力。如,RNN、LSTM 和GRU 都是串行,如何將目前能夠處理時(shí)間序列并實(shí)現(xiàn)并行的Informer 架構(gòu)(Zhou et al.,2020c)應(yīng)用到強(qiáng)降水臨近預(yù)報(bào)中,是否能夠?qū)⑾闰?yàn)知識(shí)嵌入到該架構(gòu),如何對(duì)其損失函數(shù)進(jìn)行改進(jìn),是一個(gè)有意義的探索方向。同時(shí),要特別關(guān)注團(tuán)隊(duì)成員之間頻繁而常態(tài)化的交叉培訓(xùn),培訓(xùn)越多,聯(lián)合研發(fā)和業(yè)務(wù)應(yīng)用過程就越有效。

    鑒于天氣預(yù)報(bào)的不確定性,研究成果投入業(yè)務(wù)應(yīng)用后需要得到反饋,再根據(jù)反饋進(jìn)行技術(shù)升級(jí),并反復(fù)進(jìn)行應(yīng)用評(píng)估,才能真正發(fā)揮研究成果的作用(鄭永光等,2015a;林建等,2016)。為加快強(qiáng)降水臨近預(yù)報(bào)技術(shù)的應(yīng)用,有必要從需求分析出發(fā),有的放矢,研究相關(guān)的深度學(xué)習(xí)技術(shù),統(tǒng)計(jì)并提取相關(guān)強(qiáng)降水天氣特征,將不受物理公式約束的先驗(yàn)知識(shí)融入深度學(xué)習(xí)算法,研發(fā)能夠提高主客觀評(píng)估結(jié)果一致性的檢驗(yàn)指標(biāo),最終形成一個(gè)從研究到業(yè)務(wù)、再?gòu)臉I(yè)務(wù)到研究的相輔相成、緊密聯(lián)系的閉環(huán)。

    猜你喜歡
    深度模型
    一半模型
    深度理解一元一次方程
    重要模型『一線三等角』
    重尾非線性自回歸模型自加權(quán)M-估計(jì)的漸近分布
    深度觀察
    深度觀察
    深度觀察
    深度觀察
    3D打印中的模型分割與打包
    FLUKA幾何模型到CAD幾何模型轉(zhuǎn)換方法初步研究
    一卡2卡三卡四卡精品乱码亚洲| 日本黄色视频三级网站网址| 91av网一区二区| 婷婷色综合大香蕉| 乱人视频在线观看| 能在线免费观看的黄片| 亚洲人成网站高清观看| 三级男女做爰猛烈吃奶摸视频| 自拍偷自拍亚洲精品老妇| 一二三四社区在线视频社区8| 欧美在线一区亚洲| 色综合欧美亚洲国产小说| 国产精品人妻久久久久久| 每晚都被弄得嗷嗷叫到高潮| 色哟哟·www| 久久午夜亚洲精品久久| 日韩欧美国产在线观看| 免费无遮挡裸体视频| 午夜福利18| 淫秽高清视频在线观看| 99精品久久久久人妻精品| 亚洲av成人精品一区久久| 好男人电影高清在线观看| 高清日韩中文字幕在线| 免费观看的影片在线观看| 亚洲av电影不卡..在线观看| 欧美最新免费一区二区三区 | 深夜a级毛片| 久久人人爽人人爽人人片va | 色5月婷婷丁香| 我的老师免费观看完整版| 色吧在线观看| 日韩亚洲欧美综合| 天堂网av新在线| 亚洲经典国产精华液单 | 最近最新中文字幕大全电影3| 一个人看视频在线观看www免费| 国产av在哪里看| 九九热线精品视视频播放| 欧美日韩福利视频一区二区| 日日夜夜操网爽| 色哟哟哟哟哟哟| 国产高清视频在线观看网站| 国产成人av教育| 看免费av毛片| 久久欧美精品欧美久久欧美| 午夜福利免费观看在线| 国产亚洲欧美98| 国产伦在线观看视频一区| 精品人妻1区二区| 亚洲狠狠婷婷综合久久图片| 免费在线观看亚洲国产| 欧美精品啪啪一区二区三区| 国产高清激情床上av| 久久亚洲真实| 久久伊人香网站| 免费av不卡在线播放| 国产主播在线观看一区二区| 国产亚洲av嫩草精品影院| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 国产精品自产拍在线观看55亚洲| 日本黄色片子视频| 少妇高潮的动态图| 亚洲,欧美精品.| 俺也久久电影网| 男女那种视频在线观看| 人妻夜夜爽99麻豆av| 亚洲自偷自拍三级| 国产中年淑女户外野战色| 真人做人爱边吃奶动态| 深夜a级毛片| 一区二区三区四区激情视频 | www.999成人在线观看| 青草久久国产| 免费观看精品视频网站| 此物有八面人人有两片| 欧美一区二区亚洲| 欧美日韩亚洲国产一区二区在线观看| 欧美+日韩+精品| 日韩成人在线观看一区二区三区| 国模一区二区三区四区视频| 99精品在免费线老司机午夜| 午夜福利18| 搡老妇女老女人老熟妇| 日本三级黄在线观看| 欧美最新免费一区二区三区 | 欧美黄色淫秽网站| 欧美成人免费av一区二区三区| 精品久久久久久成人av| 国产美女午夜福利| 老司机午夜福利在线观看视频| 特大巨黑吊av在线直播| 999久久久精品免费观看国产| 午夜免费男女啪啪视频观看 | 中文字幕高清在线视频| 在线播放无遮挡| 一区二区三区高清视频在线| 男女床上黄色一级片免费看| 一级黄片播放器| 搡老熟女国产l中国老女人| 国产三级在线视频| 亚洲欧美日韩卡通动漫| 精品一区二区三区av网在线观看| 午夜免费成人在线视频| 日本 欧美在线| 午夜久久久久精精品| 999久久久精品免费观看国产| 精品久久国产蜜桃| 老司机福利观看| 一个人看视频在线观看www免费| 亚洲精品日韩av片在线观看| www.www免费av| 中文字幕久久专区| 精品人妻视频免费看| 亚洲欧美日韩卡通动漫| 又爽又黄a免费视频| 国产极品精品免费视频能看的| 长腿黑丝高跟| 国产精品亚洲av一区麻豆| 少妇高潮的动态图| 长腿黑丝高跟| 特大巨黑吊av在线直播| 日本黄大片高清| 床上黄色一级片| 99热这里只有是精品在线观看 | www.www免费av| 国产色婷婷99| 97人妻精品一区二区三区麻豆| 久久久久久久精品吃奶| 可以在线观看毛片的网站| 婷婷精品国产亚洲av在线| av在线天堂中文字幕| 亚洲欧美精品综合久久99| h日本视频在线播放| 99久久精品热视频| 精品人妻熟女av久视频| 亚洲最大成人中文| 成人毛片a级毛片在线播放| 好男人电影高清在线观看| 亚洲,欧美精品.| 女人十人毛片免费观看3o分钟| 亚洲美女搞黄在线观看 | 黄色一级大片看看| 免费高清视频大片| 欧美黄色淫秽网站| 亚洲电影在线观看av| 国产一区二区在线av高清观看| 三级毛片av免费| 亚洲欧美日韩东京热| 久久这里只有精品中国| 简卡轻食公司| 成人国产综合亚洲| 床上黄色一级片| 国产亚洲欧美98| 国产白丝娇喘喷水9色精品| 亚洲av美国av| 欧美3d第一页| 精品国产亚洲在线| 制服丝袜大香蕉在线| 蜜桃久久精品国产亚洲av| 成人特级黄色片久久久久久久| 亚洲内射少妇av| 99久久精品国产亚洲精品| 黄色配什么色好看| 波多野结衣高清作品| 免费在线观看成人毛片| av天堂中文字幕网| 国产精品自产拍在线观看55亚洲| 欧美成人免费av一区二区三区| 久久精品国产亚洲av天美| 亚洲一区二区三区不卡视频| 97超视频在线观看视频| 美女高潮的动态| .国产精品久久| 长腿黑丝高跟| 国产成人啪精品午夜网站| 身体一侧抽搐| 国产高清有码在线观看视频| 成人美女网站在线观看视频| av国产免费在线观看| 嫁个100分男人电影在线观看| 真人做人爱边吃奶动态| 亚洲综合色惰| 两人在一起打扑克的视频| 国语自产精品视频在线第100页| 久久久久久久久久黄片| 欧美zozozo另类| 中出人妻视频一区二区| 每晚都被弄得嗷嗷叫到高潮| 69人妻影院| 中文在线观看免费www的网站| 91字幕亚洲| а√天堂www在线а√下载| 中文字幕人妻熟人妻熟丝袜美| 日本免费一区二区三区高清不卡| 亚洲精华国产精华精| 免费观看精品视频网站| 中文字幕人成人乱码亚洲影| 亚洲成人久久爱视频| 欧美精品啪啪一区二区三区| 亚洲国产欧美人成| 观看免费一级毛片| 3wmmmm亚洲av在线观看| 美女 人体艺术 gogo| 少妇熟女aⅴ在线视频| 黄片小视频在线播放| 亚洲欧美激情综合另类| 永久网站在线| 久久亚洲真实| 亚洲一区二区三区不卡视频| 亚洲av成人av| 丰满人妻熟妇乱又伦精品不卡| 91久久精品电影网| 欧美xxxx黑人xx丫x性爽| 国产激情偷乱视频一区二区| 久久久成人免费电影| 18禁黄网站禁片午夜丰满| 成人国产综合亚洲| 18禁在线播放成人免费| 夜夜躁狠狠躁天天躁| 深夜a级毛片| 久久午夜亚洲精品久久| 欧美不卡视频在线免费观看| 精品久久久久久久久av| 国产aⅴ精品一区二区三区波| 嫩草影视91久久| 日本 欧美在线| 麻豆一二三区av精品| 一区福利在线观看| 国产精品亚洲av一区麻豆| 国产极品精品免费视频能看的| 一夜夜www| 国内精品久久久久精免费| 一级a爱片免费观看的视频| 在现免费观看毛片| 亚洲av二区三区四区| 久久久久久大精品| 男女那种视频在线观看| 久久精品国产亚洲av香蕉五月| 非洲黑人性xxxx精品又粗又长| 网址你懂的国产日韩在线| 国产一区二区激情短视频| 内地一区二区视频在线| 无遮挡黄片免费观看| 性色avwww在线观看| 国产亚洲精品综合一区在线观看| 男女床上黄色一级片免费看| 黄色丝袜av网址大全| 国产野战对白在线观看| 51国产日韩欧美| 久久国产精品影院| 日日干狠狠操夜夜爽| 国产欧美日韩精品一区二区| 日韩欧美三级三区| 蜜桃久久精品国产亚洲av| 亚洲精品亚洲一区二区| 国产淫片久久久久久久久 | 在线观看美女被高潮喷水网站 | 黄色女人牲交| 99久国产av精品| 一进一出抽搐gif免费好疼| 天天躁日日操中文字幕| 久久精品国产亚洲av涩爱 | 久久精品国产亚洲av涩爱 | 国产精品一区二区三区四区免费观看 | 久久久久久久久久成人| 欧美一区二区国产精品久久精品| 中文字幕久久专区| 日韩欧美三级三区| 久久久久精品国产欧美久久久| 人人妻人人澡欧美一区二区| 欧美xxxx性猛交bbbb| 99视频精品全部免费 在线| 精品免费久久久久久久清纯| 中文资源天堂在线| 一个人免费在线观看的高清视频| 成人一区二区视频在线观看| 88av欧美| 最近最新中文字幕大全电影3| 18禁黄网站禁片免费观看直播| 国产精品美女特级片免费视频播放器| 国产免费一级a男人的天堂| 天天躁日日操中文字幕| 黄色一级大片看看| 69人妻影院| 国产精品人妻久久久久久| 欧美精品国产亚洲| 99热这里只有是精品50| 一进一出好大好爽视频| 校园春色视频在线观看| 国产真实伦视频高清在线观看 | 午夜视频国产福利| 亚洲内射少妇av| 国产大屁股一区二区在线视频| 丁香欧美五月| 美女高潮的动态| 在线观看av片永久免费下载| 麻豆国产av国片精品| av天堂中文字幕网| 亚洲精华国产精华精| 两性午夜刺激爽爽歪歪视频在线观看| 我要看日韩黄色一级片| 国产亚洲精品综合一区在线观看| 成人特级av手机在线观看| 真实男女啪啪啪动态图| 国产91精品成人一区二区三区| 成人亚洲精品av一区二区| 国产男靠女视频免费网站| 成人性生交大片免费视频hd| 1000部很黄的大片| 久久久国产成人免费| 国产精品亚洲一级av第二区| 欧美xxxx黑人xx丫x性爽| 欧美日韩瑟瑟在线播放| 国产伦人伦偷精品视频| 成人永久免费在线观看视频| 18禁在线播放成人免费| 一本综合久久免费| 美女xxoo啪啪120秒动态图 | 久久天躁狠狠躁夜夜2o2o| 久久久久久久久久成人| 日本免费a在线| netflix在线观看网站| 九色成人免费人妻av| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 免费在线观看成人毛片| 神马国产精品三级电影在线观看| 无人区码免费观看不卡| 久久欧美精品欧美久久欧美| 国内精品久久久久久久电影| 亚洲av成人不卡在线观看播放网| 热99re8久久精品国产| 1000部很黄的大片| 国产人妻一区二区三区在| 亚洲一区二区三区色噜噜| 亚洲精品久久国产高清桃花| 又紧又爽又黄一区二区| 久久久久九九精品影院| 欧美三级亚洲精品| 美女cb高潮喷水在线观看| 精品不卡国产一区二区三区| 亚洲精品久久国产高清桃花| 国产亚洲精品久久久久久毛片| 精品久久久久久久末码| 小说图片视频综合网站| 亚洲五月天丁香| 黄色配什么色好看| 欧美黑人巨大hd| 国内精品一区二区在线观看| 欧美成人性av电影在线观看| 白带黄色成豆腐渣| 日韩av在线大香蕉| 亚洲色图av天堂| 成人欧美大片| 国产一区二区激情短视频| 欧美最黄视频在线播放免费| 精品久久久久久久久av| 少妇的逼水好多| 欧美一区二区国产精品久久精品| 日韩欧美在线乱码| 乱人视频在线观看| 欧美绝顶高潮抽搐喷水| 狠狠狠狠99中文字幕| 日韩国内少妇激情av| 99国产综合亚洲精品| 中文字幕高清在线视频| av在线天堂中文字幕| 91九色精品人成在线观看| 亚洲性夜色夜夜综合| 亚洲中文日韩欧美视频| 国产精品女同一区二区软件 | 村上凉子中文字幕在线| 极品教师在线视频| 婷婷六月久久综合丁香| 久久久久精品国产欧美久久久| 色综合亚洲欧美另类图片| 亚洲第一电影网av| 国产精品免费一区二区三区在线| 国产综合懂色| 哪里可以看免费的av片| 午夜免费男女啪啪视频观看 | 变态另类丝袜制服| a级一级毛片免费在线观看| 床上黄色一级片| a级一级毛片免费在线观看| 亚洲av日韩精品久久久久久密| 天堂av国产一区二区熟女人妻| 国产黄a三级三级三级人| 欧美最黄视频在线播放免费| 露出奶头的视频| 中文资源天堂在线| 欧美激情在线99| 伦理电影大哥的女人| 天天躁日日操中文字幕| 动漫黄色视频在线观看| 99精品久久久久人妻精品| 日韩人妻高清精品专区| xxxwww97欧美| 久久国产乱子免费精品| 免费看日本二区| 欧美在线黄色| 级片在线观看| 哪里可以看免费的av片| 国产精品不卡视频一区二区 | 乱码一卡2卡4卡精品| 亚洲自拍偷在线| 精品熟女少妇八av免费久了| 在线观看免费视频日本深夜| 亚洲五月婷婷丁香| 国产精品一区二区性色av| 亚洲av熟女| 久久久久久久久中文| 久久久精品欧美日韩精品| 国产精品99久久久久久久久| 免费搜索国产男女视频| 亚洲中文字幕日韩| 国产欧美日韩一区二区精品| 99国产极品粉嫩在线观看| 桃色一区二区三区在线观看| 午夜a级毛片| 级片在线观看| 国产一区二区在线av高清观看| 午夜免费男女啪啪视频观看 | 亚洲无线在线观看| 两性午夜刺激爽爽歪歪视频在线观看| 国产精品久久视频播放| 两个人的视频大全免费| 两人在一起打扑克的视频| av国产免费在线观看| 欧美国产日韩亚洲一区| 久久精品影院6| 中文字幕高清在线视频| 91在线精品国自产拍蜜月| 白带黄色成豆腐渣| 欧美成狂野欧美在线观看| 99久久久亚洲精品蜜臀av| 在线免费观看不下载黄p国产 | 性色av乱码一区二区三区2| 伦理电影大哥的女人| 18禁裸乳无遮挡免费网站照片| 999久久久精品免费观看国产| 国产成人aa在线观看| 亚洲美女黄片视频| 丰满人妻熟妇乱又伦精品不卡| 深夜精品福利| 国产亚洲精品综合一区在线观看| 欧美zozozo另类| 在线天堂最新版资源| 国产精品嫩草影院av在线观看 | 久久婷婷人人爽人人干人人爱| 日本一本二区三区精品| 欧美性猛交黑人性爽| 伊人久久精品亚洲午夜| 很黄的视频免费| 亚洲av成人不卡在线观看播放网| 特大巨黑吊av在线直播| 99热只有精品国产| 午夜视频国产福利| 欧美zozozo另类| 成人特级黄色片久久久久久久| 国产成人aa在线观看| 精品久久久久久,| 国产成人啪精品午夜网站| 亚洲av免费在线观看| 真人做人爱边吃奶动态| 亚洲av熟女| 亚洲 欧美 日韩 在线 免费| 老司机午夜十八禁免费视频| 久久亚洲精品不卡| 99精品在免费线老司机午夜| 国产黄色小视频在线观看| av福利片在线观看| 国产美女午夜福利| 欧美bdsm另类| 男女那种视频在线观看| 黄色视频,在线免费观看| 老熟妇乱子伦视频在线观看| 精品一区二区三区视频在线| 村上凉子中文字幕在线| 午夜久久久久精精品| 久久久久久国产a免费观看| 日韩国内少妇激情av| 十八禁人妻一区二区| 久久精品人妻少妇| 精品久久久久久成人av| 亚洲内射少妇av| 国产午夜精品论理片| 男女视频在线观看网站免费| 91久久精品电影网| 久久草成人影院| 色在线成人网| 色视频www国产| 久久精品久久久久久噜噜老黄 | 国产精品电影一区二区三区| а√天堂www在线а√下载| 亚洲中文字幕日韩| 亚洲成a人片在线一区二区| 久久精品国产亚洲av香蕉五月| 国产探花在线观看一区二区| 亚洲av第一区精品v没综合| 夜夜看夜夜爽夜夜摸| 很黄的视频免费| 亚洲美女视频黄频| 国产伦精品一区二区三区四那| 亚洲无线在线观看| 人人妻人人看人人澡| 国产精品精品国产色婷婷| 又黄又爽又免费观看的视频| 国产精品嫩草影院av在线观看 | 亚洲,欧美精品.| 国产精品不卡视频一区二区 | 亚洲 国产 在线| 国产v大片淫在线免费观看| 亚洲av免费在线观看| 色5月婷婷丁香| a在线观看视频网站| 国产精品久久久久久亚洲av鲁大| 国产精品永久免费网站| 精品久久国产蜜桃| 国产乱人伦免费视频| 久99久视频精品免费| 亚洲成人中文字幕在线播放| 怎么达到女性高潮| 岛国在线免费视频观看| 成人av一区二区三区在线看| 校园春色视频在线观看| 国产三级黄色录像| 免费无遮挡裸体视频| 日韩有码中文字幕| 少妇丰满av| av专区在线播放| 69av精品久久久久久| 国产精品综合久久久久久久免费| 成人亚洲精品av一区二区| 亚洲熟妇熟女久久| 亚洲国产精品合色在线| 国产欧美日韩一区二区精品| 3wmmmm亚洲av在线观看| 国产精品野战在线观看| 亚洲精华国产精华精| 此物有八面人人有两片| 尤物成人国产欧美一区二区三区| 亚洲最大成人av| 国产精品电影一区二区三区| 亚洲黑人精品在线| 国产三级中文精品| 中文字幕人妻熟人妻熟丝袜美| 听说在线观看完整版免费高清| av福利片在线观看| 99热这里只有是精品在线观看 | 99久久99久久久精品蜜桃| 国模一区二区三区四区视频| 2021天堂中文幕一二区在线观| 真实男女啪啪啪动态图| 精品免费久久久久久久清纯| 国产高潮美女av| 免费黄网站久久成人精品 | h日本视频在线播放| 美女 人体艺术 gogo| 香蕉av资源在线| 亚洲一区二区三区不卡视频| 一本一本综合久久| 男女下面进入的视频免费午夜| 精品久久久久久久人妻蜜臀av| 一区二区三区免费毛片| 亚洲乱码一区二区免费版| 久久久久久久亚洲中文字幕 | 成人特级黄色片久久久久久久| 久久久国产成人精品二区| 亚洲av美国av| 日韩精品中文字幕看吧| 中文字幕精品亚洲无线码一区| 久久久久久久久大av| 成人永久免费在线观看视频| 好男人在线观看高清免费视频| 色噜噜av男人的天堂激情| 国产在线男女| 日韩欧美精品免费久久 | 国产高清三级在线| 91在线精品国自产拍蜜月| 在线观看av片永久免费下载| 精品人妻一区二区三区麻豆 | 婷婷色综合大香蕉| 国产成人a区在线观看| а√天堂www在线а√下载| 在线观看av片永久免费下载| 中文字幕人妻熟人妻熟丝袜美| 少妇裸体淫交视频免费看高清| 三级国产精品欧美在线观看| 欧美高清性xxxxhd video| 噜噜噜噜噜久久久久久91| 精品国产亚洲在线| 亚洲avbb在线观看| 久久久精品欧美日韩精品| 欧美日韩黄片免| 亚洲不卡免费看| 麻豆国产97在线/欧美| 国产免费男女视频| 欧美成人一区二区免费高清观看| 我的老师免费观看完整版| 嫩草影院精品99| 麻豆av噜噜一区二区三区| 亚洲欧美日韩无卡精品| 久久久久精品国产欧美久久久| 变态另类丝袜制服| 国产成+人综合+亚洲专区| 亚洲国产精品成人综合色| 在线观看免费视频日本深夜| 免费在线观看亚洲国产| 精品一区二区免费观看| 小蜜桃在线观看免费完整版高清| 成年女人永久免费观看视频| 国产av麻豆久久久久久久| 国产伦人伦偷精品视频| 99视频精品全部免费 在线|