• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于圖卷積網(wǎng)絡(luò)的交通預(yù)測綜述

    2021-08-05 06:42:28王竟成胡永利尹寶才
    關(guān)鍵詞:特征模型

    王竟成,張 勇,胡永利,尹寶才

    (1.北京工業(yè)大學(xué)信息學(xué)部,北京 100124;2.北京工業(yè)大學(xué)多媒體與智能軟件技術(shù)北京市重點(diǎn)實(shí)驗(yàn)室,北京 100124)

    隨著城市化進(jìn)程的加快以及交通數(shù)據(jù)的爆炸式增長,智慧交通的重要性日益顯著,而交通預(yù)測則是智慧交通發(fā)展的基石.精準(zhǔn)的交通預(yù)測對于許多實(shí)際交通應(yīng)用至關(guān)重要.例如:路面交通的車速及流量預(yù)測對于公眾出行路徑規(guī)劃以及交通指揮智能調(diào)控等需求具有重要意義;軌道交通客流預(yù)測對于站點(diǎn)客流壓力測試以及線路時(shí)刻安排同樣至關(guān)重要;對于網(wǎng)約車的用車需求預(yù)測則可以協(xié)助網(wǎng)約車公司動(dòng)態(tài)分配運(yùn)營車輛,從而實(shí)現(xiàn)調(diào)度效率最大化.

    交通預(yù)測問題有多種分類方式,針對不同的預(yù)測任務(wù),可概括為流量預(yù)測、速度預(yù)測、到達(dá)時(shí)間預(yù)測以及交通需求預(yù)測等.根據(jù)交通預(yù)測的實(shí)際場景可分類為高峰期預(yù)測、平峰期預(yù)測以及異常狀況下的預(yù)測等.對于交通預(yù)測問題的劃分同時(shí)側(cè)面反映了交通預(yù)測模型對于實(shí)時(shí)性、準(zhǔn)確性以及異常狀況下的可靠性要求.

    不同于其他時(shí)序預(yù)測問題,交通預(yù)測的主要挑戰(zhàn)在于包含路網(wǎng)結(jié)構(gòu)拓?fù)溥B接關(guān)系在內(nèi)的復(fù)雜耦合關(guān)聯(lián)關(guān)系及其不斷變化的時(shí)空特征.空間上,路網(wǎng)中相鄰節(jié)點(diǎn)存在著直接相互影響的強(qiáng)關(guān)聯(lián)關(guān)系,非相鄰節(jié)點(diǎn)在交通流模式上也存在著基于交通出行起止點(diǎn)(origin-destination,OD)的隱含空間關(guān)聯(lián).時(shí)間上,交通數(shù)據(jù)呈現(xiàn)出極強(qiáng)的時(shí)變性與周期性,例如早高峰與晚高峰、周中與周末等.

    傳統(tǒng)的基于數(shù)理統(tǒng)計(jì)的方法以及經(jīng)典機(jī)器學(xué)習(xí)方法往往針對路網(wǎng)中某一觀測點(diǎn)的時(shí)序數(shù)據(jù)進(jìn)行建模分析以及預(yù)測.較有代表性的方法有歷史平均值(historical average,HA)[1-2]、整合移動(dòng)平均自回歸(autoregressive integrated moving average,ARIMA)模型[3-5]、卡爾曼濾波模型(Kalman filtering model)[6]、非參數(shù)回歸模型(nonparametric regressive model)[7]以及動(dòng)態(tài)模式分解(dynamic mode decomposition)[8]等.后續(xù)隨著深度學(xué)習(xí)的發(fā)展,端到端的卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks,CNN)[9]、循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)[10]及其變體長短期記憶(long short-term memory,LSTM)網(wǎng)絡(luò)[11]以及門控循環(huán)單元(gated recurrent units,GRU)[11]等網(wǎng)絡(luò)模型被廣泛用于時(shí)序預(yù)測問題.

    上述方法可以捕獲時(shí)序數(shù)據(jù)的非線性特征,但針對單個(gè)節(jié)點(diǎn)的時(shí)序預(yù)測難以描述節(jié)點(diǎn)之間的相互影響.依賴路網(wǎng)結(jié)構(gòu)的交通預(yù)測問題顯然無法滿足對單節(jié)點(diǎn)的逐一分析.雖然部分傳統(tǒng)方法考慮了交通拓?fù)浣Y(jié)構(gòu)中觀測點(diǎn)之間的連接屬性,但并未進(jìn)行充分利用[12].路網(wǎng)作為一種離散化非規(guī)則排列且易受距離影響的結(jié)構(gòu),圖表示以及圖卷積網(wǎng)絡(luò)(graph convolutional network,GCN)[13]被自然地應(yīng)用于交通預(yù)測問題且取得了優(yōu)異的結(jié)果.

    在交通預(yù)測領(lǐng)域,由于交通數(shù)據(jù)特有的時(shí)序及空間特征,誕生了許多基于圖卷積的方法模型[14],實(shí)現(xiàn)了對交通數(shù)據(jù)時(shí)空特征的提取.本文針對基于GCN的交通流預(yù)測模型進(jìn)行歸納總結(jié).

    1 圖卷積網(wǎng)絡(luò)概述

    1.1 符號定義

    首先給出本文以及相關(guān)文獻(xiàn)中常見通用的符號定義.

    表1 符號定義Table 1 Symbol definition

    一般地,G=(V;E;W)用于表示交通預(yù)測問題中常用的無向帶權(quán)圖[15].A表示圖的鄰接矩陣(adjacency matrix),定義節(jié)點(diǎn)之間的相互連通關(guān)系.H為關(guān)聯(lián)矩陣(incidence matrix),用于定義圖中邊與節(jié)點(diǎn)之間的連接,其中元素的定義為

    (1)

    對于圖中的節(jié)點(diǎn),其度矩陣Dv中元素定義為連接到該節(jié)點(diǎn)所有邊的權(quán)重之和,即

    (2)

    相似地,De中元素定義為連接到該邊的節(jié)點(diǎn)數(shù)量之和,即

    (3)

    1.2 圖卷積

    傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)局限于對歐氏空間數(shù)據(jù)進(jìn)行建模,而圖卷積操作利用圖表示對非歐氏空間數(shù)據(jù)進(jìn)行處理,使卷積操作更加適用于交通數(shù)據(jù)結(jié)構(gòu).圖卷積操作主要包括基于空域以及頻域的圖卷積2類.空域圖卷積將圖卷積操作定義為圖中相鄰節(jié)點(diǎn)之間的特征信息的聚合,基于頻域的圖卷積則利用圖信號處理(graph signal processing),引入濾波器實(shí)現(xiàn)頻域圖卷積的推導(dǎo).

    1.2.1 空域圖卷積

    與深度學(xué)習(xí)中常用的例如圖像等歐氏空間的卷積相比,圖結(jié)構(gòu)中由于節(jié)點(diǎn)數(shù)量及連接關(guān)系的不確定性,難以通過固定大小可學(xué)習(xí)的卷積核對特征進(jìn)行提取.針對此問題,空域圖卷積從節(jié)點(diǎn)域出發(fā),通過特征的聚集直接在圖上定義卷積操作以找到適用于圖的可學(xué)習(xí)圖卷積核.該過程將某中心節(jié)點(diǎn)與周圍鄰居節(jié)點(diǎn)的信息通過定義的聚合函數(shù)進(jìn)行聚合,實(shí)現(xiàn)中心節(jié)點(diǎn)的特征更新.空域圖卷積的通用聚合函數(shù)在消息傳遞神經(jīng)網(wǎng)絡(luò)(message passing neural network,MPNN)[16]中的定義被廣泛應(yīng)用.該網(wǎng)絡(luò)提出一種空域圖卷積的形式化框架,即空域卷積被分解為消息傳遞與狀態(tài)更新2個(gè)過程,分別表示為Ml(·)與Ul(·).該框架可表示為

    (4)

    式中:u和v均為圖中節(jié)點(diǎn);hl為圖卷積在第l層的特征,即該框架中各節(jié)點(diǎn)在第l層的信息通過Ml(·)函數(shù)聚合后通過Ul(·)函數(shù)實(shí)現(xiàn)第l+1層的特征更新.MPNN實(shí)現(xiàn)了對于整張圖進(jìn)行空域卷積操作,但面對龐大的圖時(shí)全圖卷積的方法需要占用過多計(jì)算資源.GraphSAGE[17]則針對此缺陷利用節(jié)點(diǎn)鄰居的特征信息通過采樣和聚集進(jìn)行學(xué)習(xí).該模型通過訓(xùn)練聚合器函數(shù)實(shí)現(xiàn)節(jié)點(diǎn)鄰域的信息聚合.來自給定節(jié)點(diǎn)的不同跳數(shù)的或深度的信息可通過聚合器進(jìn)行特征抽取并計(jì)算節(jié)點(diǎn)處的損失,實(shí)現(xiàn)節(jié)點(diǎn)特征的嵌入.GraphSAGE中提出了3種聚合器,分別為均值聚合器、LSTM聚合器以及池化聚合器.以LSTM聚合器為例,其表達(dá)式為

    (5)

    該聚合器將節(jié)點(diǎn)的前一層表示與聚合的鄰居信息進(jìn)行級聯(lián).Liu等[18]則通過GraphSAGE模型的均值聚合器進(jìn)行了路面交通的短期車流速度預(yù)測.其均值聚合器表示為

    (6)

    節(jié)點(diǎn)v是在節(jié)點(diǎn)u的周圍在固定長度上隨機(jī)游走的節(jié)點(diǎn).聚合器的權(quán)重矩陣由基于圖的損失函數(shù)通過隨機(jī)梯度下降進(jìn)行調(diào)整,最終實(shí)現(xiàn)使用GraphSAGE模型預(yù)測交通流速度.

    Li等[19]針對路況的動(dòng)態(tài)變化,將交通流建模為有向圖上的擴(kuò)散過程,并提出了基于空域圖卷積的擴(kuò)散卷積神經(jīng)網(wǎng)絡(luò)(diffusion convolutional recurrent neural network,DCRNN),基于雙向隨機(jī)游走理論捕獲空間相關(guān)性,實(shí)現(xiàn)了大規(guī)模路網(wǎng)的交通流量預(yù)測.Chen等[20]也同樣在卷積網(wǎng)絡(luò)中引入了擴(kuò)散圖卷積進(jìn)行空域上的圖卷積操作.因此,Chen等[20]為了捕獲交通網(wǎng)絡(luò)的連通性和全局性,提出了基于殘差遞歸架構(gòu)的網(wǎng)絡(luò)模型Res-RNN,實(shí)現(xiàn)路面交通流預(yù)測.Song等[21]在圖的鄰接矩陣中增加了前后時(shí)刻的時(shí)空關(guān)聯(lián)關(guān)系,并利用空域圖卷積層與門控線性單元的多個(gè)組合網(wǎng)絡(luò)構(gòu)建其整體預(yù)測框架.Bruna等[22]則認(rèn)為顯式圖結(jié)構(gòu)難以表示真實(shí)的圖中節(jié)點(diǎn)關(guān)系,并提出了基于節(jié)點(diǎn)嵌入學(xué)習(xí)的圖神經(jīng)網(wǎng)絡(luò)架構(gòu)Graph WaveNet.該網(wǎng)絡(luò)架構(gòu)中圖卷積層即通過空域圖卷積提取節(jié)點(diǎn)間的結(jié)構(gòu)特征.

    1.2.2 頻域圖卷積

    空域圖卷積借鑒了歐氏空間的卷積,頻域圖卷積則從信號處理的角度利用圖信號的傅里葉變換實(shí)現(xiàn)卷積操作.頻域圖卷積最早由Bruna等[23]提出.對于圖G,其拉普拉斯矩陣可表示為L=Dv-A.歸一化后拉普拉斯矩陣表示為

    (7)

    因拉普拉斯矩陣L為半正定的實(shí)對稱矩陣,可將特征分解為L=UΛUT.與歐氏空間的卷積操作相似,對于圖信號x及圖卷積核g的圖卷積可表示為

    x*Gg=U(UTx°UTg)=U(UTg°UTx)

    (8)

    式中:°為哈達(dá)瑪乘積;*G特指圖卷積操作.將UTg作為可訓(xùn)練的圖卷積核gθ,圖卷積操作可簡化為

    x*Gg=UgθUTx

    (9)

    在訓(xùn)練頻域卷積神經(jīng)網(wǎng)絡(luò)的過程中,由于拉普拉斯矩陣的所有特征值以及特征向量的計(jì)算量過大,所以為加速特征矩陣的求解,切比雪夫網(wǎng)絡(luò)(ChebNet.)[24]以及一階切比雪夫網(wǎng)絡(luò)(1stChebNet.)[25]應(yīng)運(yùn)而生.

    切比雪夫網(wǎng)絡(luò)首先通過切比雪夫多項(xiàng)式

    (10)

    (11)

    (12)

    式中θ0與θ1均為全圖共享的可學(xué)習(xí)參數(shù).在實(shí)際操作中,為了進(jìn)一步限制參數(shù)的數(shù)量以解決過擬合問題,令θ=θ0=-θ1,圖卷積操作可進(jìn)一步簡化為

    (13)

    (14)

    1.3 圖卷積網(wǎng)絡(luò)

    GCN即利用空域圖卷積或頻域圖卷積構(gòu)建的深度網(wǎng)絡(luò)模型.Kipf等[13]所提圖卷積神網(wǎng)絡(luò)模型中輸入層與輸出層均為圖信號數(shù)據(jù),其中隱含層為圖卷積層,圖結(jié)構(gòu)在各層中共享,最終實(shí)現(xiàn)節(jié)點(diǎn)的聚類或節(jié)點(diǎn)值的預(yù)測等輸出.

    空域圖卷積網(wǎng)絡(luò)與頻域圖卷積網(wǎng)絡(luò)雖然均不是針對交通預(yù)測問題而提出的,但由于交通數(shù)據(jù)的天然圖結(jié)構(gòu)屬性,令GCN在交通預(yù)測領(lǐng)域展現(xiàn)出優(yōu)于傳統(tǒng)方法的高效率與高準(zhǔn)確率.無論是空域圖卷積還是頻域圖卷積,本質(zhì)上都是對圖拓?fù)浣Y(jié)構(gòu)的建模利用,即空間特征的提取.例如Lee等[25]利用路面?zhèn)鞲衅鏖g的距離和位置等信息構(gòu)建非歐氏關(guān)系,并利用GCN提取空間特征進(jìn)行交通速度預(yù)測.Geng等[32]則以相鄰街區(qū)以及相似功能區(qū)等為節(jié)點(diǎn),構(gòu)建多種基于圖結(jié)構(gòu)的表示,在此基礎(chǔ)上使用多組GCN進(jìn)行空間相關(guān)性建模,實(shí)現(xiàn)乘車需求預(yù)測.

    基于GCN的交通預(yù)測大都建立在頻域圖卷積或空域圖卷積的基礎(chǔ)之上,通過圖結(jié)構(gòu)約束節(jié)點(diǎn)間的數(shù)據(jù)關(guān)系,利用圖卷積對非歐氏空間數(shù)據(jù)進(jìn)行結(jié)構(gòu)化空間特征提取,實(shí)現(xiàn)交通預(yù)測.

    2 基于GCN的交通預(yù)測模型

    目前,GCN已成為交通預(yù)測研究的基礎(chǔ)模型以及實(shí)驗(yàn)的基準(zhǔn)方法.由于交通數(shù)據(jù)本身為時(shí)序數(shù)據(jù),如何挖掘時(shí)序特征且與空間特征融合預(yù)測成為用于交通預(yù)測的神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)重點(diǎn).此外,圖注意力機(jī)制同樣被用于交通預(yù)測模型且能顯著提升模型性能.同時(shí),當(dāng)前研究已不滿足靜態(tài)圖、單圖的卷積網(wǎng)絡(luò),動(dòng)態(tài)圖卷積網(wǎng)絡(luò)、多圖卷積網(wǎng)絡(luò)以及多任務(wù)學(xué)習(xí)的框架不斷被提出.

    2.1 圖時(shí)空網(wǎng)絡(luò)

    交通數(shù)據(jù)是標(biāo)準(zhǔn)的時(shí)間序列數(shù)據(jù),如圖1所示,即同一數(shù)據(jù)集內(nèi)所有數(shù)據(jù)內(nèi)容依時(shí)間按照統(tǒng)一時(shí)間口徑進(jìn)行排列組織.其中:橙色虛線表示某節(jié)點(diǎn)延邊對鄰居節(jié)點(diǎn)產(chǎn)生影響;藍(lán)色虛直線表示某節(jié)點(diǎn)交通數(shù)據(jù)該時(shí)刻對下一時(shí)刻的影響;藍(lán)色虛曲線表示跨時(shí)刻的長遠(yuǎn)影響.由于交通數(shù)據(jù)存在明顯的時(shí)序特征,許多時(shí)序預(yù)測模型便被應(yīng)用于交通預(yù)測問題,例如最常用的傳統(tǒng)交通預(yù)測方法ARIMA[33].該方法基于單個(gè)交通節(jié)點(diǎn)的時(shí)序數(shù)據(jù)構(gòu)建統(tǒng)計(jì)模型,進(jìn)而分析數(shù)據(jù)實(shí)現(xiàn)預(yù)測.傳統(tǒng)機(jī)器學(xué)習(xí)方法,例如支持向量回歸(support vector regression,SVR)[34],相較于基于統(tǒng)計(jì)的方法能更好地捕獲復(fù)雜的線性關(guān)系.上述方法大多用于單一時(shí)序數(shù)據(jù)的識別與預(yù)測問題,難以對全局交通數(shù)據(jù)進(jìn)行端到端的統(tǒng)一整體化分析及預(yù)測.

    圖1 時(shí)序交通數(shù)據(jù)Fig.1 Time series traffic data

    圖神經(jīng)網(wǎng)絡(luò)將空間特征提取蘊(yùn)于圖卷積操作之中,但當(dāng)提取空間特征與時(shí)序特征相結(jié)合的方法被用于交通預(yù)測問題時(shí),人工智能在該領(lǐng)域的潛力才得以真正釋放.時(shí)序特征的提取方法主要有CNN以及RNN.

    2.1.1 基于CNN的時(shí)序特征提取

    在Gehring等[35]所提出的卷積Sequence-to-Sequence模型(convolutional sequence to sequence,ConvS2S)的基礎(chǔ)上,Yu等[29]代表性地利用其門控線性單元(gated liner units,GLU)組建時(shí)序卷積層并構(gòu)建時(shí)空圖卷積網(wǎng)絡(luò),實(shí)現(xiàn)時(shí)序特征的提取.

    STGCN的模型結(jié)構(gòu)見圖2,2層時(shí)序卷積層與1層圖卷積層組成了時(shí)空卷積模塊.其中時(shí)序卷積層將一維因果卷積作用于時(shí)間軸,該操作可表示為

    圖2 時(shí)空圖卷積網(wǎng)絡(luò)[29]Fig.2 Spatio-temporal graph convolutional networks[29]

    (15)

    在利用因果卷積提取交通數(shù)據(jù)的時(shí)序特征的基礎(chǔ)之上,Graph WaveNet[22]采用了擴(kuò)張因果卷積(dilated casual convolution),亦稱作膨脹因果卷積或者空洞因果卷積.如圖3所示,擴(kuò)張因果卷積通過跳過一定的步長在輸入序列上沿時(shí)間軸進(jìn)行滑動(dòng),從而增加時(shí)序卷積操作的感受野.隨著擴(kuò)張因果卷積層數(shù)量的增加,其捕獲的時(shí)序感受野的范圍呈指數(shù)級增加.該卷積操作可表示為

    圖3 擴(kuò)張因果卷積[20]Fig.3 Dilated casual convolution[20]

    (16)

    Fang等[26]同樣在其所提框架GSTNet的時(shí)空卷積模塊中利用擴(kuò)張卷積構(gòu)建了多分辨率時(shí)序模塊,即多層因果卷積層的堆疊.Guo等[36]不僅用卷積提取時(shí)空特征,并在其所提深度時(shí)空3D卷積神經(jīng)網(wǎng)絡(luò)(deep spatial-temporal 3D convolutional neural networks,ST-3DNet)中引入了3D卷積,從而實(shí)現(xiàn)端到端的交通擁堵狀態(tài)預(yù)測以及人群流量預(yù)測.Yao等[37]針對不平衡空間分布的交通數(shù)據(jù),提出使用少量訓(xùn)練數(shù)據(jù)實(shí)現(xiàn)模型訓(xùn)練,并通過遷移學(xué)習(xí)實(shí)現(xiàn)不同城市的交通流預(yù)測問題.在其提出的MetaST模型中將CNN與LSTM相結(jié)合,構(gòu)成其元學(xué)習(xí)網(wǎng)絡(luò)模型.

    2.1.2 基于RNN的時(shí)序特征提取

    同樣為了在深度圖卷積網(wǎng)絡(luò)中提取時(shí)序特征并用于交通預(yù)測,Zhao等[38]較早地提出了時(shí)序圖卷積網(wǎng)絡(luò)T-GCN.他們認(rèn)為RNN作為處理序列數(shù)據(jù)的最廣泛使用的模型,其變體LSTM網(wǎng)絡(luò)與GRU能克服訓(xùn)練過程中梯度爆炸與消失的缺陷.LSTM模型與GRU模型均使用門控機(jī)制來“記憶”盡可能多的長期信息.

    T-GCN的網(wǎng)絡(luò)架構(gòu)如圖4所示,其以歷史交通數(shù)據(jù)作為模型的輸入,通過GCN以及門控循環(huán)單元后獲得預(yù)測結(jié)果.為了獲取交通數(shù)據(jù)的時(shí)序特征,T-GCN利用了參數(shù)較少并且訓(xùn)練更快的門控循環(huán)單元而非LSTM網(wǎng)絡(luò).其計(jì)算過程表示為

    圖4 時(shí)序圖卷積網(wǎng)絡(luò)[38]Fig.4 Temporal graph convolutional networks[38]

    ut=σ(Wu[f(A,Xt),ht-1]+bu
    rt=σ(Wr[f(A,Xt),ht-1]+br
    ct=tanh(Wc[f(A,Xt),(rt°ht-1)]+bc
    ht=ut°ht-1+(1-ut)°ct

    (17)

    式中:ut和rt分別表示t時(shí)刻的更新門和復(fù)位門;ht和ht-1分別表示t時(shí)刻和t-1時(shí)刻的輸出;σ(·)表示Sigmoid激活函數(shù);f(A,Xt)表示圖卷積操作;W和b則分別表示訓(xùn)練過程中的權(quán)重以及偏置項(xiàng).Chen等[20]在門控循環(huán)單元存儲長期依賴關(guān)系的基礎(chǔ)上,利用跳躍鏈接(hop-links)的方案捕捉周期性的時(shí)間相關(guān)性.同時(shí)將殘差加入循環(huán)圖網(wǎng)絡(luò)中,從而改善深層網(wǎng)絡(luò)里長期反向傳播(long-term back-propagation)的梯度爆炸和消失的問題.Li等[39-40]則分別在其共享單車需求預(yù)測的模型以及出租車需求預(yù)測模型中使用了LSTM進(jìn)行時(shí)序建模.該建模過程可描述為

    (18)

    式中Wa、Ua、ba(a∈{i,f,o,g})均為可學(xué)習(xí)變量.Wang等[41]針對交通時(shí)間預(yù)測,提出了2層LSTM堆疊的模型,并考慮道路交叉口以及交通信號燈對預(yù)測結(jié)果的影響以提升模型性能.

    GRU與LSTM作為時(shí)序依賴的循環(huán)網(wǎng)絡(luò)建模方法,在車速預(yù)測[42-43]、道路占有率預(yù)測[44]、人群密度預(yù)測[45]、網(wǎng)約車需求預(yù)測[46]、出租車需求預(yù)測[47-48]、出租車OD預(yù)測[49]、公交到站時(shí)間預(yù)測[50-51]以及空氣質(zhì)量預(yù)測[52]等實(shí)際需求問題上均取得了優(yōu)異的預(yù)測效果.

    2.2 圖自編碼器

    以交通數(shù)據(jù)等標(biāo)準(zhǔn)的序列化數(shù)據(jù)作為輸入,自編碼器(auto-encoder,AE)架構(gòu)在預(yù)測問題上的效果更加穩(wěn)定且泛化效果更好[53].Li等[19]所提DCRNN模型中,在使用門控循環(huán)單元提取時(shí)序特征的基礎(chǔ)上利用了自編碼器的架構(gòu).其中編碼器和解碼器都是基于DCRNN的遞歸神經(jīng)網(wǎng)絡(luò).其模型的基本框架如圖5所示.

    圖5 擴(kuò)散卷積遞歸神經(jīng)網(wǎng)絡(luò)[19]Fig.5 Diffusion convolutional recurrent neural network[19]

    在訓(xùn)練過程中,歷史交通數(shù)據(jù)序列首先被輸入編碼器,并使用其最終狀態(tài)初始化編碼器.在測試過程中,預(yù)測值被用于替換真實(shí)值.基于圖的自編碼器較早由Kipf等[54]提出,包括變分圖自編碼器(variational graph auto-encoders,VGAE)以及圖自編碼器(graph auto-encoders,GAE).VGAE將變分自編碼器遷移到了圖領(lǐng)域,以圖卷積作為編碼操作,用已知圖通過編碼學(xué)習(xí)節(jié)點(diǎn)向量化表示的分布對其采樣,從而得到節(jié)點(diǎn)的向量表示,通過解碼操作重新構(gòu)建圖以實(shí)現(xiàn)鏈路預(yù)測等任務(wù).GAE則包括2層GCN,解碼器計(jì)算連接2個(gè)節(jié)點(diǎn)邊的存在概率進(jìn)而重構(gòu)圖.Lv等[55]較早地利用自編碼器模塊化地構(gòu)建深層網(wǎng)絡(luò)模型并用于交通流預(yù)測.其提出的堆疊式自編碼器(stacked auto-encoder,SAE)模型的輸入與輸出可分別表示為

    y(x)=f(W1x+b1)
    z(x)=g(W2y(x)+b2)

    (19)

    式中:x為訓(xùn)練樣本;y(x)為編碼器的隱藏表示,并于解碼器中得到z(x);W1和W2以及b1和b2分別為編碼器和解碼器的權(quán)重矩陣以及偏置向量.在此基礎(chǔ)上,Lv等[55]將多個(gè)自編碼器堆疊,在獲得第1個(gè)隱藏層后,將第k個(gè)隱藏層的輸出作為第k+1個(gè)隱藏層的輸入,最后通過輸出層實(shí)現(xiàn)回歸預(yù)測.在此基礎(chǔ)上,Zhao等[56]設(shè)計(jì)并提出了一種分層遞歸自編碼器,使用3層堆疊式自編碼器架構(gòu)來獲取時(shí)序依賴并使用遞歸神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測.在Bai等[30]的工作中將捕捉長期時(shí)序特征與捕捉短期時(shí)序特征的編解碼器分別同步進(jìn)行訓(xùn)練用以緩解基于RNN的解碼器模型固有的誤差積累問題.Lin等[57]則利用基于自編碼器架構(gòu)的圖濾波器模型提取共享單車與出租車用車數(shù)據(jù)的時(shí)空特征,并預(yù)測共享單車的需求量.自編碼器的架構(gòu)靈活多變,可基于CNN[58],亦可基于LSTM[59-61].編碼器與解碼器在功能與架構(gòu)上相輔相成,在GEML[31]、Forecaster[62]、ST-GRAT[63]及ARU[64]等模型中均展現(xiàn)出優(yōu)異的效果.

    2.3 圖注意力網(wǎng)絡(luò)

    注意力機(jī)制首先被提出用于自然語言處理[54],如今已被廣泛應(yīng)用到許多序列相關(guān)的任務(wù)之中.例如:Liang等[65]利用多級注意力的循環(huán)神經(jīng)網(wǎng)絡(luò)自適應(yīng)地調(diào)整多個(gè)地理傳感器采集到的時(shí)序數(shù)據(jù)間的相關(guān)性并用于空氣質(zhì)量等預(yù)測.其優(yōu)點(diǎn)在于可以放大序列中重要部分的影響,將注意力機(jī)制引入圖神經(jīng)網(wǎng)絡(luò),其可同樣受益.GCN由于依靠拉普拉斯矩陣的特征值,使得卷積操作難以抽離于整體的靜態(tài)圖結(jié)構(gòu).在圖注意力網(wǎng)絡(luò)(graph attention networks,GAT)[66]中,不同節(jié)點(diǎn)被分配以不同權(quán)重,訓(xùn)練過程憑借成對的相鄰節(jié)點(diǎn),而非具體圖結(jié)構(gòu),即不依賴于整個(gè)圖的全部信息.在時(shí)空圖卷積網(wǎng)絡(luò)的基礎(chǔ)上,注意力機(jī)制被引入并廣泛用于時(shí)空特征的提取.

    在處理空間特征時(shí),以路面交通為例,某道路的交通狀態(tài)在一定程度上必然受到直接相鄰或間接相鄰道路的影響.此種影響的范圍以及程度隨位置、距離以及時(shí)間等因素不斷變化.在Guo等[67]提出基于注意力的時(shí)空圖卷積網(wǎng)絡(luò)(attention based spatial-temporal graph convolutional networks,ASTGCN)中,空間注意力矩陣可定義為

    (20)

    (21)

    在進(jìn)行圖卷積操作的過程中,鄰接矩陣A與注意力矩陣S′將同時(shí)動(dòng)態(tài)地調(diào)整節(jié)點(diǎn)之間的權(quán)重關(guān)系以捕獲空間維度上節(jié)點(diǎn)之間的動(dòng)態(tài)相關(guān)性.Pan等[68]同樣認(rèn)為,兩節(jié)點(diǎn)之間的空間相關(guān)性與其地理信息相關(guān).在其所提模型中,提取空間特征的注意力機(jī)制與元學(xué)習(xí)(meta learning)相結(jié)合,使其注意力模塊的權(quán)重從元知識中學(xué)習(xí)而來.在用于共享單車需求預(yù)測的STG2Vec[39]模型中同樣利用注意力機(jī)制對空間特征進(jìn)行提取.Chen等[69]則為雙分量圖卷積(bicomponent GCN)提出了多范圍注意力機(jī)制(multi-range attention mechanism).其模型首先分別構(gòu)建節(jié)點(diǎn)圖與邊緣圖,在通過雙分量圖卷積實(shí)現(xiàn)邊與節(jié)點(diǎn)交互的基礎(chǔ)上,利用多范圍注意力聚合鄰域的信息,從而動(dòng)態(tài)地了解不同聚合范圍的重要性.Zhang等[70]則在所提門控注意力網(wǎng)絡(luò)(gated attention networks,GaAN)中利用多頭注意力機(jī)制(multi-head attention mechanism)對節(jié)點(diǎn)及其鄰居的特征進(jìn)行聚合.與傳統(tǒng)多頭注意力機(jī)制不同,GaAN使用了卷積子網(wǎng)(convolutional sub-network)來控制每個(gè)注意力頭的重要性,并用以解決交通速度預(yù)測問題.

    與空間特征方法類似,在處理時(shí)序特征時(shí),注意力機(jī)制被作用于時(shí)間維度以對長期序列數(shù)據(jù)進(jìn)行建模.例如:Yao等[71]為解決動(dòng)態(tài)的空間依賴以及周期性的時(shí)間依賴,設(shè)計(jì)了一種周期性轉(zhuǎn)移的注意力機(jī)制來處理長期周期性時(shí)序偏移.在同一模型中將注意力機(jī)制同時(shí)用于空間特征以及時(shí)序特征的提取已被證明卓有成效[67,72-75].

    注意力機(jī)制可被用于輔助時(shí)空特征的提取,也可以摒棄卷積操作,借鑒Transformer[76]架構(gòu)僅利用注意力機(jī)制完成交通預(yù)測任務(wù).在圖變換網(wǎng)絡(luò)(graph transformer networks,GTN)[77]相關(guān)工作中提出,傳統(tǒng)GCN的結(jié)構(gòu)固定,即其中鄰接矩陣為圖的固有屬性不隨模型訓(xùn)練過程而改變.GTN則能夠挑選有價(jià)值的多跳連接的元路徑(meta-path),從而實(shí)現(xiàn)基于可學(xué)習(xí)圖結(jié)構(gòu)的預(yù)測.

    GCN無論是引入注意力機(jī)制還是與Transformer架構(gòu)的結(jié)合[78],目的均是更有效地提取空間特征與時(shí)序特征.Li等[62]利用該框架提出了Forecaster模型.從學(xué)習(xí)圖結(jié)構(gòu)開始,將學(xué)習(xí)到的結(jié)構(gòu)表示不同位置數(shù)據(jù)之間的空間依賴,再基于圖拓?fù)鋵ransformer進(jìn)行稀疏處理以提升模型強(qiáng)度,從而實(shí)現(xiàn)精準(zhǔn)的出租車需求預(yù)測.

    3 公開數(shù)據(jù)集

    鑒于大范圍跨時(shí)空交通數(shù)據(jù)采集的難度,高質(zhì)量的數(shù)據(jù)集對于交通預(yù)測問題的研究至關(guān)重要.交通數(shù)據(jù)類別豐富,包括但不限于交通運(yùn)輸數(shù)據(jù)、交通管理數(shù)據(jù)以及用于輔助的氣象數(shù)據(jù)和事件數(shù)據(jù)等.

    其中交通運(yùn)輸數(shù)據(jù)主要采集于路面交通、軌道交通以及航運(yùn)交通的實(shí)際運(yùn)營過程,例如路面車流量、路面車速、路面車道占有率、出租車需求量、網(wǎng)約車需求量、共享單車軌跡、公交車客流量、公交車到站時(shí)間、地鐵進(jìn)出站客流量以及地鐵換乘客流量等.交通管理數(shù)據(jù)則包括信號燈調(diào)度數(shù)據(jù)、潮汐車道數(shù)據(jù)以及私家車限號數(shù)據(jù)等.在此基礎(chǔ)上,氣象數(shù)據(jù)與交通數(shù)據(jù)密切相關(guān),主要源自氣象部門的信息化系統(tǒng),包括氣象衛(wèi)星以及地面氣象監(jiān)測站等獲取的數(shù)據(jù),其中重點(diǎn)關(guān)注雨、雪、霧、霾等各種惡劣天氣對交通情況的影響.事件數(shù)據(jù)則包括大型活動(dòng)數(shù)據(jù)以及交通事故數(shù)據(jù)等.本文將重點(diǎn)介紹數(shù)個(gè)目前應(yīng)用較多的全球公開交通數(shù)據(jù)集.

    1)PeMS

    PeMS為加利福尼亞運(yùn)輸局的性能測量系統(tǒng)(performance measurement system)的縮寫.該數(shù)據(jù)集的內(nèi)容由39 000余個(gè)獨(dú)立傳感器以5 min為時(shí)間間隔實(shí)時(shí)收集,其范圍覆蓋了加利福尼亞州所有主要城市區(qū)域的高速公路系統(tǒng).該數(shù)據(jù)集可由其官方網(wǎng)站http:∥pems.dot.ca.gov/獲得.由于PeMS全部數(shù)據(jù)體量較大,目前衍生出數(shù)個(gè)常用子數(shù)據(jù)集,包括PeMS-03、PeMS-04、PeMS-07 、PeMS-08、PeMS-SF以及PeMS-BAY等.子數(shù)據(jù)集覆蓋了不同大小的區(qū)域,包含不同數(shù)量傳感器采集的不同時(shí)間跨度以及不同時(shí)間粒度的交通流信息.

    2)METR-LA

    該數(shù)據(jù)集采集自洛杉磯高速路的207個(gè)傳感器,每組數(shù)據(jù)的時(shí)間間隔為5 min,該數(shù)據(jù)由其官網(wǎng)https:∥www.metro.net/獲得,并用于DCRNN[19]模型的實(shí)驗(yàn)測試中首次使用.

    3)LOOP[28]

    該數(shù)據(jù)集由部署在華盛頓州西雅圖地區(qū)的4條相連的高速公路上的323 個(gè)地感線圈收集而來.該數(shù)據(jù)集包含2015年全年的速度數(shù)據(jù),時(shí)間間隔為5 min.數(shù)據(jù)地址:https:∥github.com/zhiyongc/Seattle-Loop-Data.

    4)NYC Taxi

    該數(shù)據(jù)集由紐約出租車與轎車委員會(huì)(Taxi and Limousine Commission)提供,收集了紐約出租車的行程記錄,包括上下車的日期與時(shí)間、上下車的位置、行程距離、分項(xiàng)票價(jià)、費(fèi)率類型、付款類型以及乘客人數(shù)等信息.數(shù)據(jù)集所含數(shù)據(jù)的時(shí)間跨度為2009—2020年且仍在不斷更新之中.該數(shù)據(jù)集可通過網(wǎng)址https:∥www1.nyc.gov/site/tlc/about/tlc-trip-record-data.page獲得.

    4 未來研究方向

    隨著智慧交通以及深度學(xué)習(xí)的發(fā)展,近年交通預(yù)測領(lǐng)域已取得長足的進(jìn)步,但目前仍存在許多富有研究價(jià)值與意義的問題和挑戰(zhàn).本文將從應(yīng)用、模型以及多源數(shù)據(jù)的角度分類討論未來研究的方向,以及目前富有價(jià)值與意義的嘗試.

    4.1 應(yīng)用研究

    近年來,交通預(yù)測領(lǐng)域內(nèi)對圖卷積網(wǎng)絡(luò)的應(yīng)用已日漸豐富,包括但不限于道路車輛流量預(yù)測[58,79-83]、道路車輛平均速度預(yù)測[84-85]、道路車輛占有率預(yù)測[44]、道路交通狀態(tài)預(yù)測[28,72,86-87]、行人軌跡預(yù)測[88-89]、車輛軌跡預(yù)測[90]、通勤時(shí)間預(yù)測[91-92]、軌道交通客流預(yù)測[93-94]、物流時(shí)間預(yù)測[95]、出租車需求預(yù)測[31-32]以及共享單車需求預(yù)測[60,96]等.

    然而,目前的交通預(yù)測成果大多集中于短時(shí)常態(tài)預(yù)測,對于長時(shí)以及非常態(tài)下的研究相對較少.

    1)長時(shí)交通預(yù)測

    對于長時(shí)交通預(yù)測而言,由于更復(fù)雜的時(shí)空依賴性和更多不確定性因素,長時(shí)預(yù)測比中短時(shí)預(yù)測更加困難.Wang等[97]即利用LSTM網(wǎng)絡(luò)以及自編碼器架構(gòu)對數(shù)據(jù)的長時(shí)特征進(jìn)行學(xué)習(xí),并在其自編碼器中提出了一種基于學(xué)習(xí)相似模式的硬注意力機(jī)制以增強(qiáng)神經(jīng)元的記憶并減少誤差在傳播過程中的累積.但上述模型均未以圖結(jié)構(gòu)對數(shù)據(jù)進(jìn)行建模表示且模型中利用CNN及RNN對單時(shí)序數(shù)據(jù)的時(shí)空特征進(jìn)行提取,忽略了時(shí)序數(shù)據(jù)之間的相互影響.因此,未來可針對此問題在此基礎(chǔ)上通過圖結(jié)構(gòu)對數(shù)據(jù)進(jìn)行表示,并引入GCN以實(shí)現(xiàn)更加精準(zhǔn)的長時(shí)交通預(yù)測.

    2)非常態(tài)交通預(yù)測

    交通異常狀況即發(fā)生于交通營運(yùn)過程之中,或發(fā)生于交通體系之外,但影響到交通正常運(yùn)行的情況及事件,例如突發(fā)交通事故,人群大規(guī)模聚集,惡劣天氣導(dǎo)致的路面結(jié)冰、積水等非常態(tài)情形.雖然非常態(tài)數(shù)據(jù)體量較小,但可借鑒小樣本學(xué)習(xí)以及遷移學(xué)習(xí)的思想.異常交通事件對于公共出行安全具有極大威脅,因此,該研究方向具有重要社會(huì)價(jià)值.交通異常事件往往具有突發(fā)性強(qiáng)以及連鎖影響范圍廣等特點(diǎn).Guo等[98]測試了KNN、RNN以及TDNN算法在異常狀況下交通預(yù)測的準(zhǔn)確率,并表示KNN效果較好.Li等[99]則發(fā)現(xiàn)當(dāng)同時(shí)使用來自多個(gè)傳感器的交通信息時(shí),可以在短期趨勢上提高預(yù)測準(zhǔn)確性.其研究表明,對于異常狀況下的交通流預(yù)測,交通流序列之間的空間關(guān)系變得更加重要.因此,對于該問題,將圖卷積網(wǎng)絡(luò)引入其中可作為未來重點(diǎn)研究方向之一.

    4.2 模型研究

    GCN由于對圖結(jié)構(gòu)數(shù)據(jù)進(jìn)行卷積操作,所以,圖表示與圖卷積操作均具有深入研究價(jià)值.對于構(gòu)建圖,目前研究熱點(diǎn)包括但不局限于動(dòng)態(tài)圖卷積網(wǎng)絡(luò)、多圖卷積網(wǎng)絡(luò)以及深層圖卷積網(wǎng)絡(luò).

    1)動(dòng)態(tài)圖建模

    由于許多交通網(wǎng)絡(luò)本質(zhì)上均為圖拓?fù)浣Y(jié)構(gòu),為充分利用該拓?fù)湫畔ⅲ煌〝?shù)據(jù)均依靠圖建模進(jìn)行表示.在構(gòu)建圖的過程中,鄰接矩陣承擔(dān)了空間信息的載體.大多數(shù)用于交通預(yù)測的GCN均采用了靜態(tài)鄰接矩陣,即假定節(jié)點(diǎn)之間的關(guān)聯(lián)關(guān)系不隨時(shí)移而改變.該鄰接矩陣往往由研究人員根據(jù)實(shí)際交通情況手工設(shè)計(jì)而來,最常見的即表示路面節(jié)點(diǎn)間連接關(guān)系的0-1矩陣以及表示節(jié)點(diǎn)之間實(shí)際地理距離的距離矩陣.

    但目前有研究者認(rèn)為預(yù)定義的鄰接矩陣并不能很好地反映節(jié)點(diǎn)之間真正的相關(guān)性及其時(shí)空依賴[89],反而從數(shù)據(jù)中學(xué)得的動(dòng)態(tài)鄰接矩陣在相關(guān)交通預(yù)測問題上表現(xiàn)出更加準(zhǔn)確的效果.例如:Guo等[100]在訓(xùn)練階段通過數(shù)據(jù)驅(qū)動(dòng)的方式學(xué)習(xí)優(yōu)化圖,從而從交通數(shù)據(jù)中揭示了路段之間的潛在關(guān)系.在圖卷積的過程中,拉普拉斯矩陣由鄰接矩陣計(jì)算而來,Diao等[27]設(shè)計(jì)了動(dòng)態(tài)拉普拉斯矩陣估計(jì)器,給定一個(gè)代表交通網(wǎng)絡(luò)靜態(tài)結(jié)構(gòu)的全局拉普拉斯矩陣,同時(shí)利用短期交通流變化估計(jì)實(shí)時(shí)拉普拉斯矩陣,從而實(shí)現(xiàn)動(dòng)態(tài)建模.

    GCN無疑依賴于良好定義的圖結(jié)構(gòu)信息[101].當(dāng)基于空間位置的鄰接矩陣不明確時(shí),對于交通數(shù)據(jù)這種多元時(shí)間序列可分析多元變量間的因果關(guān)系,并動(dòng)態(tài)地構(gòu)建鄰接矩陣.

    此外,超圖[102]作為一種圖的表示方法,由于可以表示個(gè)體之間的高階關(guān)系,目前被廣泛應(yīng)用于社交網(wǎng)絡(luò)或通信網(wǎng)絡(luò)等領(lǐng)域之中.與普通圖相比,超邊可同時(shí)連接多個(gè)節(jié)點(diǎn),從而突破兩兩關(guān)系的限制.例如:Wang等[103]在軌道交通預(yù)測中利用靜態(tài)的超邊表示軌道交通的線路,在此基礎(chǔ)上對交通流OD進(jìn)行分析,挖掘不同時(shí)間跨度下的車流或客流的出行規(guī)律.以北京地鐵為例,天通苑站及周圍站點(diǎn)與中關(guān)村及其周圍站點(diǎn)在軌道網(wǎng)絡(luò)中并非直接相連,但由OD分析可發(fā)掘出兩者之間存在客流強(qiáng)關(guān)聯(lián)且該關(guān)聯(lián)隨時(shí)移呈現(xiàn)出不同模式.因此,可據(jù)此構(gòu)建動(dòng)態(tài)超邊,與靜態(tài)超邊同時(shí)納入超圖之中,并通過超圖時(shí)空卷積網(wǎng)絡(luò)實(shí)現(xiàn)交通預(yù)測.

    2)多圖卷積網(wǎng)絡(luò)

    隨著GCN的發(fā)展,單圖所承載的信息越來越難以滿足交通預(yù)測的需求.研究者即通過多圖卷積網(wǎng)絡(luò),尤其是異質(zhì)圖卷積網(wǎng)絡(luò),對交通預(yù)測問題進(jìn)行了更加精細(xì)化建模.

    Lv等[104]認(rèn)為現(xiàn)有工作多數(shù)局限于利用時(shí)空模型進(jìn)行交通預(yù)測,而道路之間的語義相關(guān)性(semantic correlation)同樣重要.在其所提時(shí)序多圖卷積網(wǎng)絡(luò)(temporal multi-graph convolutional network,T-MGCN)中利用道路之間的空間相關(guān)性以及語義相關(guān)性構(gòu)建多圖,對多圖分別進(jìn)行圖卷積后將結(jié)果融合,再通過GRU提取時(shí)序特征,實(shí)現(xiàn)交通流預(yù)測.Chai等[105]則通過共享自行車站點(diǎn)之間的距離以及行駛記錄相關(guān)性等關(guān)聯(lián)關(guān)系構(gòu)造多圖.與Lv等[104]的方法不同的是,Chai等[105]在處理多圖卷積時(shí),先進(jìn)行圖融合操作,再對融合圖做圖卷積.類似地,Ke等[106]也通過空間距離以及語義相關(guān)性為出租車的OD預(yù)測構(gòu)造多圖 .針對軌道交通,進(jìn)出站客流在不同時(shí)間跨度下的出行模式也可以通過多個(gè)超圖進(jìn)行建模[103].針對路面交通,Song等[21]針對時(shí)序特征,設(shè)計(jì)了不同時(shí)間段的多個(gè)模塊以有效地捕獲時(shí)空圖中的異質(zhì)性.Zhang等[107]則通過路網(wǎng)節(jié)點(diǎn)之間的距離、方向以及位置關(guān)系構(gòu)建多圖神經(jīng)網(wǎng)絡(luò).在復(fù)雜多層次交通數(shù)據(jù)的建模上,多圖卷積網(wǎng)絡(luò)取得了良好的效果.如何挖掘更深層次的多圖表示,如何實(shí)現(xiàn)更高效的多圖卷積操作,仍是目前及未來的研究熱點(diǎn).

    3)多任務(wù)圖網(wǎng)絡(luò)

    與多圖卷積網(wǎng)絡(luò)不同,多任務(wù)圖網(wǎng)絡(luò)借鑒了多任務(wù)學(xué)習(xí)(multi-task learning)的架構(gòu).多任務(wù)學(xué)習(xí)的初衷在于僅關(guān)注單個(gè)任務(wù)可能會(huì)忽略相關(guān)任務(wù)中潛在但有益的信息.通過在一定程度上共享任務(wù)之間的參數(shù)或特征,可提升主要任務(wù)的表現(xiàn).通常,多任務(wù)可以分為同構(gòu)任務(wù)和異構(gòu)任務(wù).同構(gòu)任務(wù)可直接共享模型的參數(shù),從而降低訓(xùn)練中過擬合的風(fēng)險(xiǎn).異構(gòu)任務(wù)的模型不同,但通過在訓(xùn)練中共享中間層特征,從而相互提供額外信息[108].

    在交通預(yù)測領(lǐng)域,Huang等[109]提出了一種基于多任務(wù)深度網(wǎng)絡(luò)架構(gòu),該架構(gòu)由底部的深度信念網(wǎng)絡(luò)(deep belief network)以及頂部的多任務(wù)回歸層組成.Zhang等[110]將地理位置劃分為交通單元,利用多任務(wù)學(xué)習(xí)對每個(gè)交通單元通過時(shí)間卷積實(shí)現(xiàn)乘客需求預(yù)測.Gao等[111]則利用多任務(wù)學(xué)習(xí)融合了GPS軌跡、智能手機(jī)數(shù)據(jù)和道路網(wǎng)絡(luò)結(jié)構(gòu)以估計(jì)出租車乘客的出行時(shí)間.多任務(wù)學(xué)習(xí)為深度網(wǎng)絡(luò)模型提供了優(yōu)化并利用了多源數(shù)據(jù)的潛力,在交通預(yù)測領(lǐng)域基于GCN的多任務(wù)學(xué)習(xí)框架仍具有很高的研究價(jià)值.

    4)圖卷積優(yōu)化

    GCN可以使圖信號更加平滑,這是圖卷積的固有優(yōu)勢.但是,在GCN的層數(shù)不斷加深時(shí),其訓(xùn)練結(jié)果極易出現(xiàn)過平滑的情況[14].由于圖卷積是特殊形式的拉普拉斯平滑,在圖卷積聚合鄰居節(jié)點(diǎn)特征的過程中,平滑操作使信號在特征層面更加一致,從而使信號失去其多樣性,導(dǎo)致相關(guān)預(yù)測任務(wù)的性能急劇下降,該現(xiàn)象在小數(shù)據(jù)集上更加明顯.因此,GCN不能像一般卷積模型那樣不斷深入地堆疊,但淺層神經(jīng)網(wǎng)絡(luò)又存在感受野和特征提取能力有限的問題.

    針對該問題,一種解決思路是基于隨機(jī)游走(random walk)的協(xié)同訓(xùn)練(co-training)[112]方法.因?yàn)殡S機(jī)游走可以探索全局圖結(jié)構(gòu),彌補(bǔ)了圖卷積操作局部平滑的缺陷.另一種增大圖卷積感受野的思路是自訓(xùn)練(self-training)方法.該方法首先訓(xùn)練帶給定標(biāo)簽的GCN,隨后為每個(gè)類別選擇最可靠的預(yù)測并將其添加到標(biāo)簽集中.在此基礎(chǔ)上,使用預(yù)先訓(xùn)練的GCN繼續(xù)使用擴(kuò)展標(biāo)簽后的數(shù)據(jù)集訓(xùn)練GCN.上述2種方法也可以同時(shí)進(jìn)行,其目的都是擴(kuò)展訓(xùn)練集.

    在圖卷積操作過程中,由于中心節(jié)點(diǎn)的特征易于向鄰居節(jié)點(diǎn)傳播,而邊緣節(jié)點(diǎn)的特征則很難輻射至其余邊緣節(jié)點(diǎn).為克服此缺點(diǎn),可引入一種通用的自動(dòng)編碼器網(wǎng)絡(luò)架構(gòu),將數(shù)據(jù)內(nèi)容信息補(bǔ)充到GCN,實(shí)現(xiàn)類似于殘差網(wǎng)絡(luò)的效果,或使用跳躍圖卷積網(wǎng)絡(luò)實(shí)現(xiàn)特征的有效傳遞.為了更好地捕獲數(shù)據(jù)樣本之間的高階關(guān)系,同時(shí)可以利用注意力融合機(jī)制對可判別信息進(jìn)行突出.基于上述思路,在深度堆疊的GCN中,每一層都用于捕獲數(shù)據(jù)的不同潛在特征.

    4.3 多源數(shù)據(jù)融合

    近年來交通預(yù)測方法不斷由模型驅(qū)動(dòng)轉(zhuǎn)變?yōu)閿?shù)據(jù)驅(qū)動(dòng),即由數(shù)學(xué)模型推導(dǎo)演變?yōu)橥诰虿W(xué)習(xí)數(shù)據(jù)本身的特征.目前,基于單一數(shù)據(jù)源的學(xué)習(xí)已逐漸完備,但實(shí)際中交通數(shù)據(jù)多源異構(gòu)的特點(diǎn)決定了該領(lǐng)域研究必將從單源走向多源.同時(shí)空內(nèi),跨媒體交通數(shù)據(jù)類型多樣并結(jié)構(gòu)復(fù)雜,但同時(shí)相互影響且互為補(bǔ)充.針對多源交通數(shù)據(jù)的挑戰(zhàn),本文將小樣本學(xué)習(xí)、跨媒體數(shù)據(jù)融合以及交通知識圖譜嵌入作為未來研究方向的參考.

    1)小樣本學(xué)習(xí)

    目前,大多數(shù)交通預(yù)測的解決方案均通過密集的歷史交通數(shù)據(jù)進(jìn)行訓(xùn)練,但由于交通數(shù)據(jù)采集等問題,城市之間交通數(shù)據(jù)量級不同,部分城市交通數(shù)據(jù)量較小或質(zhì)量較差.同時(shí),用以輔助交通預(yù)測的極端天氣、交通事故、交通管制以及其他異常事件等發(fā)生頻率遠(yuǎn)低于交通數(shù)據(jù)采集頻率,使得學(xué)習(xí)過程異常困難.因此,交通預(yù)測領(lǐng)域的小樣本學(xué)習(xí)問題同樣為未來研究方向之一.

    元學(xué)習(xí)在監(jiān)督學(xué)習(xí)領(lǐng)域?yàn)樾颖緦W(xué)習(xí)提供了解決思路,Pan等[68]即提出了元-圖注意力模塊與元-循環(huán)神經(jīng)網(wǎng)絡(luò)模塊.其中注意力模塊的權(quán)重是通過地理屬性中提取的節(jié)點(diǎn)和邊的元知識生成的,因此,理論上可以對各種空間相關(guān)性進(jìn)行建模,而循環(huán)神經(jīng)網(wǎng)絡(luò)根據(jù)每個(gè)節(jié)點(diǎn)的元知識生成門控循環(huán)單元的所有權(quán)重,從而實(shí)現(xiàn)元學(xué)習(xí)的GCN模型.

    解決此問題的另一種思路是通過遷移學(xué)習(xí)來執(zhí)行跨城市的交通預(yù)測任務(wù).該思路旨在將交通知識從數(shù)據(jù)源豐富的城市轉(zhuǎn)移到數(shù)據(jù)稀缺的目標(biāo)城市.但目前該研究方向尚未進(jìn)行徹底的探究,例如如何設(shè)計(jì)一個(gè)高質(zhì)量泛用性強(qiáng)的用于交通預(yù)測的遷移學(xué)習(xí)框架,或者如何實(shí)現(xiàn)小樣本外部數(shù)據(jù)的嵌入學(xué)習(xí)等.

    2)跨媒體數(shù)據(jù)融合

    目前,交通領(lǐng)域已經(jīng)匯聚了監(jiān)控設(shè)備采集的視頻、圖像,線圈卡口采集的流量、速度、占有率以及車載設(shè)備采集的GPS等海量多源異構(gòu)的高維交通數(shù)據(jù),同時(shí)惡劣天氣、交通事故以及交通管制等輔助數(shù)據(jù)同樣對于交通預(yù)測具有不可忽視的價(jià)值.由于難以從單一數(shù)據(jù)源全面且精準(zhǔn)地捕獲交通特征,并且針對體量大、時(shí)空跨度廣以及結(jié)構(gòu)復(fù)雜等特點(diǎn),對多源交通數(shù)據(jù)進(jìn)行融合、協(xié)同分析已成為該領(lǐng)域未來研究方向之一.對于多源交通數(shù)據(jù)融合,本文認(rèn)為需研究跨媒體數(shù)據(jù)的有效表達(dá)方法及協(xié)同分析模型.

    無論是圖時(shí)空網(wǎng)絡(luò)或圖注意力網(wǎng)絡(luò),其關(guān)注點(diǎn)均主要在于時(shí)空特征的提取.在此基礎(chǔ)上,若引入交通流數(shù)據(jù)之外有價(jià)值的信息,勢必對交通預(yù)測問題有所提升.Ni等[113]通過研究社交媒體的動(dòng)態(tài)進(jìn)而感知交通事件的發(fā)生,并通過分析表明軌道交通的客流量與社交媒體的發(fā)帖率之間存在正相關(guān)關(guān)系.基于該發(fā)現(xiàn),Ni等[113]提出了基于標(biāo)簽的事件監(jiān)測算法并與SARIMA模型相結(jié)合,用于軌道交通的客流預(yù)測.同樣針對軌道客流預(yù)測問題,Chen等[114]則利用刷卡數(shù)據(jù)對異常事件進(jìn)行捕獲,并結(jié)合ARIMA模型實(shí)現(xiàn)預(yù)測.社交媒體數(shù)據(jù)[115]、刷卡數(shù)據(jù)[116]、遙感數(shù)據(jù)[117]及天氣數(shù)據(jù)[118]均被用作提升預(yù)測精度的外源數(shù)據(jù).Zhang等[118]在其所提框架中將雨雪天氣等外部因素通過門控機(jī)制融合至預(yù)測模型之中.但目前上述方法均未考慮交通數(shù)據(jù)的圖表示及GCN,因此,在GCN的基礎(chǔ)上,通過多任務(wù)學(xué)習(xí)等方法融合多源異構(gòu)交通數(shù)據(jù)具有廣闊的研究前景.

    3)交通知識圖譜嵌入

    知識圖譜是對某領(lǐng)域的知識整合以及利用的重要工具,由大量知識實(shí)體及其之間的關(guān)系交織而成.交通運(yùn)輸領(lǐng)域的知識存在于海量多源異構(gòu)的交通數(shù)據(jù)之中.對于交通知識圖譜,未來主要研究圖譜構(gòu)建以及知識嵌入兩方面內(nèi)容.

    知識圖譜構(gòu)建方面,早期主要為泛領(lǐng)域化的語義網(wǎng)絡(luò),強(qiáng)調(diào)廣義概念之間的關(guān)聯(lián)關(guān)系.近年來面向特定行業(yè)應(yīng)用領(lǐng)域的知識圖譜逐步涌現(xiàn),例如語義網(wǎng)絡(luò)知識圖譜[119]以及醫(yī)療知識圖譜[120]等.對于交通領(lǐng)域,則需要明確知識實(shí)體以及實(shí)體之間的多層次關(guān)聯(lián)關(guān)系,挖掘跨域全時(shí)交通數(shù)據(jù)之間的深度關(guān)聯(lián)與知識聚合,實(shí)現(xiàn)交通知識圖譜構(gòu)建.在構(gòu)建交通知識圖譜的基礎(chǔ)上,可研究知識的嵌入模型.目前,主流方法有基于TransE[121]及其擴(kuò)展和變體的平移距離模型以及基于Rescal[122]的擴(kuò)展和變體語義匹配模型等.交通知識的嵌入對于交通預(yù)測模型而言可提供無法由交通流數(shù)據(jù)中學(xué)得的額外信息.因此,如何對交通知識進(jìn)行抽取并構(gòu)建相關(guān)知識圖譜,如何將交通知識嵌入交通預(yù)測模型之中,如何將富有價(jià)值意義的交通知識應(yīng)用于實(shí)際交通預(yù)測問題之中是未來交通預(yù)測領(lǐng)域的重點(diǎn)研究方向之一.

    5 結(jié)論

    1)本文首先梳理了交通預(yù)測問題以及圖卷積神經(jīng)網(wǎng)絡(luò)的基本定義.在此基礎(chǔ)上對不同類型的基于GCN的交通預(yù)測模型進(jìn)行分類介紹,包括圖時(shí)空網(wǎng)絡(luò)、圖自編碼器以及圖注意力網(wǎng)絡(luò)等.

    2)針對交通預(yù)測實(shí)驗(yàn),本文介紹了目前全球范圍內(nèi)廣泛用于科學(xué)研究的部分公開交通數(shù)據(jù)集,包括其數(shù)據(jù)來源、數(shù)據(jù)內(nèi)容以及數(shù)據(jù)獲取地址等信息.

    3)討論了未來的幾點(diǎn)研究方向,包括應(yīng)用研究方向、模型研究方向以及多源數(shù)據(jù)研究方向.本文適合用于快速了解GCN在交通預(yù)測領(lǐng)域的模型及應(yīng)用.

    猜你喜歡
    特征模型
    一半模型
    抓住特征巧觀察
    重要模型『一線三等角』
    新型冠狀病毒及其流行病學(xué)特征認(rèn)識
    重尾非線性自回歸模型自加權(quán)M-估計(jì)的漸近分布
    如何表達(dá)“特征”
    不忠誠的四個(gè)特征
    抓住特征巧觀察
    3D打印中的模型分割與打包
    FLUKA幾何模型到CAD幾何模型轉(zhuǎn)換方法初步研究
    亚洲美女视频黄频| 少妇 在线观看| 国产精品一二三区在线看| 91成人精品电影| av有码第一页| 欧美日韩视频精品一区| 我要看日韩黄色一级片| 久久精品久久精品一区二区三区| 国产中年淑女户外野战色| 日本欧美视频一区| 成人毛片60女人毛片免费| 美女主播在线视频| 久久韩国三级中文字幕| 欧美日韩亚洲高清精品| 欧美激情极品国产一区二区三区 | 91精品一卡2卡3卡4卡| 亚洲av欧美aⅴ国产| 97超视频在线观看视频| av不卡在线播放| 精品人妻一区二区三区麻豆| 国产精品.久久久| av在线观看视频网站免费| 国产精品三级大全| 午夜激情福利司机影院| 人妻一区二区av| 亚洲激情五月婷婷啪啪| 成人18禁高潮啪啪吃奶动态图 | 18禁动态无遮挡网站| 人妻一区二区av| 久久99精品国语久久久| 午夜免费鲁丝| 免费黄网站久久成人精品| 免费看光身美女| 国产精品福利在线免费观看| 9色porny在线观看| 中文字幕亚洲精品专区| 黄色配什么色好看| 99热国产这里只有精品6| 视频中文字幕在线观看| 99热这里只有是精品在线观看| av专区在线播放| 成人毛片60女人毛片免费| 一级片'在线观看视频| 国产精品久久久久成人av| 极品少妇高潮喷水抽搐| 高清午夜精品一区二区三区| 啦啦啦在线观看免费高清www| av不卡在线播放| 国产日韩欧美在线精品| a级毛片在线看网站| 一边亲一边摸免费视频| a级毛色黄片| 欧美高清成人免费视频www| 久久久亚洲精品成人影院| 午夜久久久在线观看| 男人爽女人下面视频在线观看| 久久久久久久亚洲中文字幕| 交换朋友夫妻互换小说| 欧美少妇被猛烈插入视频| 欧美精品亚洲一区二区| 国产成人精品一,二区| h视频一区二区三区| 国产免费福利视频在线观看| 免费观看a级毛片全部| 国产精品欧美亚洲77777| 精品人妻熟女av久视频| 国产毛片在线视频| 国产熟女午夜一区二区三区 | 欧美成人精品欧美一级黄| 国产精品99久久久久久久久| 国产精品福利在线免费观看| 在线观看免费高清a一片| 亚洲人成网站在线播| 精品酒店卫生间| 人人妻人人澡人人看| 久久国产亚洲av麻豆专区| 国产爽快片一区二区三区| 国产白丝娇喘喷水9色精品| 少妇人妻 视频| 99久久综合免费| 久久精品国产鲁丝片午夜精品| 久久国产精品大桥未久av | 亚洲精品一二三| 只有这里有精品99| 18禁在线无遮挡免费观看视频| 乱人伦中国视频| .国产精品久久| 极品人妻少妇av视频| 一区二区三区乱码不卡18| 久久久国产欧美日韩av| 亚洲精品亚洲一区二区| 日韩强制内射视频| 免费黄网站久久成人精品| 大陆偷拍与自拍| 日韩中文字幕视频在线看片| 乱系列少妇在线播放| 国产精品人妻久久久久久| av播播在线观看一区| 免费观看性生交大片5| 99热这里只有精品一区| 日本黄大片高清| 日韩av免费高清视频| 少妇人妻精品综合一区二区| 欧美激情极品国产一区二区三区 | 欧美日韩精品成人综合77777| 黄色毛片三级朝国网站 | 黑人猛操日本美女一级片| 国产中年淑女户外野战色| 亚洲,欧美,日韩| 免费观看a级毛片全部| 六月丁香七月| 亚洲丝袜综合中文字幕| 亚洲精品亚洲一区二区| 精品少妇内射三级| 秋霞伦理黄片| 3wmmmm亚洲av在线观看| 老司机亚洲免费影院| 成人午夜精彩视频在线观看| 最新中文字幕久久久久| 国产老妇伦熟女老妇高清| 久久久精品免费免费高清| 免费高清在线观看视频在线观看| 毛片一级片免费看久久久久| 日韩欧美一区视频在线观看 | 亚洲av在线观看美女高潮| 人体艺术视频欧美日本| 亚洲精品国产色婷婷电影| 久久99热6这里只有精品| 国产在线视频一区二区| 国产一区亚洲一区在线观看| 国产69精品久久久久777片| 国产在线免费精品| 国产国拍精品亚洲av在线观看| 在线免费观看不下载黄p国产| 国产精品99久久久久久久久| 亚洲综合色惰| 免费在线观看成人毛片| 夫妻性生交免费视频一级片| 色哟哟·www| 午夜日本视频在线| 日日摸夜夜添夜夜爱| 国产日韩欧美亚洲二区| 免费高清在线观看视频在线观看| 夜夜骑夜夜射夜夜干| 一级毛片aaaaaa免费看小| 2022亚洲国产成人精品| 午夜福利视频精品| 成人午夜精彩视频在线观看| 人人妻人人澡人人看| 热99国产精品久久久久久7| 久久精品熟女亚洲av麻豆精品| 日韩人妻高清精品专区| 嫩草影院入口| 久热这里只有精品99| 黄片无遮挡物在线观看| 在线观看免费高清a一片| 欧美精品高潮呻吟av久久| 在线观看av片永久免费下载| 男男h啪啪无遮挡| 国产免费又黄又爽又色| 少妇被粗大猛烈的视频| 曰老女人黄片| 国产精品一区二区在线观看99| 日韩中文字幕视频在线看片| 亚洲国产成人一精品久久久| 边亲边吃奶的免费视频| 毛片一级片免费看久久久久| 欧美老熟妇乱子伦牲交| 日韩中文字幕视频在线看片| 三上悠亚av全集在线观看 | 日本黄色片子视频| 欧美区成人在线视频| 午夜激情久久久久久久| 中文字幕免费在线视频6| 欧美xxⅹ黑人| 午夜免费鲁丝| 成人午夜精彩视频在线观看| 桃花免费在线播放| 国产精品久久久久久精品古装| av天堂中文字幕网| 夫妻午夜视频| 中文在线观看免费www的网站| 亚洲精品亚洲一区二区| av卡一久久| 男女无遮挡免费网站观看| 街头女战士在线观看网站| 最后的刺客免费高清国语| 99久久精品一区二区三区| 哪个播放器可以免费观看大片| 亚洲精品国产av成人精品| 日韩成人伦理影院| www.色视频.com| 最近的中文字幕免费完整| 日韩熟女老妇一区二区性免费视频| 国产亚洲91精品色在线| 黑人巨大精品欧美一区二区蜜桃 | 一级毛片黄色毛片免费观看视频| 天美传媒精品一区二区| 午夜视频国产福利| 九九久久精品国产亚洲av麻豆| 曰老女人黄片| 美女脱内裤让男人舔精品视频| 一级毛片电影观看| 在线观看一区二区三区激情| 亚洲欧美精品专区久久| 美女cb高潮喷水在线观看| 亚洲人成网站在线观看播放| 久久久久视频综合| 久久精品久久久久久久性| 肉色欧美久久久久久久蜜桃| 久久97久久精品| 亚洲国产毛片av蜜桃av| 国产欧美日韩综合在线一区二区 | 人体艺术视频欧美日本| 亚洲色图综合在线观看| a级片在线免费高清观看视频| 日本vs欧美在线观看视频 | 99久久精品热视频| 另类精品久久| 精品人妻偷拍中文字幕| 亚洲综合精品二区| 岛国毛片在线播放| 我要看日韩黄色一级片| av专区在线播放| 人人妻人人澡人人看| 最近的中文字幕免费完整| 色网站视频免费| 我要看日韩黄色一级片| 秋霞伦理黄片| 五月玫瑰六月丁香| 国产在线一区二区三区精| 亚洲精品视频女| 午夜91福利影院| 国产成人一区二区在线| 久久久精品94久久精品| 国产日韩欧美在线精品| 亚洲综合色惰| 免费看日本二区| 国产精品一区二区性色av| 中文字幕av电影在线播放| h视频一区二区三区| 国产伦精品一区二区三区视频9| 久久久久国产精品人妻一区二区| 免费观看在线日韩| 成人无遮挡网站| 亚洲久久久国产精品| 在线观看三级黄色| 九九爱精品视频在线观看| 汤姆久久久久久久影院中文字幕| 大香蕉97超碰在线| 黑丝袜美女国产一区| 色视频在线一区二区三区| 黄色欧美视频在线观看| 中国三级夫妇交换| 老熟女久久久| 日本与韩国留学比较| 国产老妇伦熟女老妇高清| h日本视频在线播放| 噜噜噜噜噜久久久久久91| 91成人精品电影| 哪个播放器可以免费观看大片| 黄色视频在线播放观看不卡| 国产成人精品久久久久久| 国产av国产精品国产| 人妻 亚洲 视频| 美女国产视频在线观看| 成年av动漫网址| 亚洲av国产av综合av卡| 欧美日韩av久久| 色网站视频免费| 亚洲精品久久午夜乱码| 日日摸夜夜添夜夜添av毛片| 97在线视频观看| av在线老鸭窝| 国产极品粉嫩免费观看在线 | 精品人妻一区二区三区麻豆| 精品国产一区二区久久| 99热这里只有精品一区| 精品国产乱码久久久久久小说| 亚洲精品成人av观看孕妇| 欧美三级亚洲精品| 最近手机中文字幕大全| 插逼视频在线观看| av国产久精品久网站免费入址| 国产探花极品一区二区| 观看美女的网站| 日韩欧美一区视频在线观看 | 亚洲国产精品999| 亚洲国产欧美在线一区| 精品亚洲成国产av| 久久精品久久久久久噜噜老黄| 麻豆乱淫一区二区| 最新的欧美精品一区二区| 久久国内精品自在自线图片| 国产熟女欧美一区二区| 午夜老司机福利剧场| 伦理电影大哥的女人| 久久人人爽av亚洲精品天堂| 亚洲精品一二三| 日本猛色少妇xxxxx猛交久久| 国产在线一区二区三区精| 五月伊人婷婷丁香| 极品教师在线视频| 欧美性感艳星| 欧美变态另类bdsm刘玥| 一级a做视频免费观看| 十八禁高潮呻吟视频 | 久久久a久久爽久久v久久| 国产一区二区在线观看日韩| 免费看日本二区| 日韩一本色道免费dvd| 我要看黄色一级片免费的| 人人妻人人澡人人爽人人夜夜| 色视频在线一区二区三区| 欧美高清成人免费视频www| 有码 亚洲区| 精品久久久噜噜| 亚洲av男天堂| av在线app专区| 国产欧美日韩综合在线一区二区 | 日韩一本色道免费dvd| 老司机影院成人| 亚洲电影在线观看av| 国产成人a∨麻豆精品| 久久久久久久久久成人| 在线观看美女被高潮喷水网站| kizo精华| 中国国产av一级| 两个人免费观看高清视频 | 久久鲁丝午夜福利片| 中国国产av一级| 赤兔流量卡办理| 色哟哟·www| 久久狼人影院| √禁漫天堂资源中文www| 精品久久久噜噜| 黑人高潮一二区| 97在线人人人人妻| 亚洲av男天堂| 午夜影院在线不卡| 2018国产大陆天天弄谢| 秋霞伦理黄片| 丰满乱子伦码专区| 日韩成人伦理影院| 观看美女的网站| 麻豆成人av视频| 噜噜噜噜噜久久久久久91| 午夜视频国产福利| 在线观看国产h片| 18+在线观看网站| 伦理电影免费视频| 久久精品熟女亚洲av麻豆精品| 中文精品一卡2卡3卡4更新| 丝袜喷水一区| 日日撸夜夜添| 亚洲第一av免费看| 一级a做视频免费观看| 日韩精品免费视频一区二区三区 | 国产午夜精品一二区理论片| 18禁裸乳无遮挡动漫免费视频| 免费看av在线观看网站| 精品视频人人做人人爽| 精品亚洲乱码少妇综合久久| 久久99热这里只频精品6学生| av在线播放精品| 国产高清三级在线| 91aial.com中文字幕在线观看| 热re99久久国产66热| 国产又色又爽无遮挡免| 亚洲av不卡在线观看| 午夜影院在线不卡| 免费观看在线日韩| 亚洲欧洲日产国产| 最近2019中文字幕mv第一页| 亚洲在久久综合| 777米奇影视久久| 色视频www国产| 黑丝袜美女国产一区| 日韩强制内射视频| 香蕉精品网在线| 欧美区成人在线视频| 国产精品欧美亚洲77777| 三上悠亚av全集在线观看 | a级毛片免费高清观看在线播放| 极品教师在线视频| 国产成人精品久久久久久| 亚洲精品久久午夜乱码| 一个人免费看片子| 亚洲精品久久久久久婷婷小说| 最近手机中文字幕大全| 女人久久www免费人成看片| 亚洲色图综合在线观看| av天堂中文字幕网| 男人和女人高潮做爰伦理| 人妻夜夜爽99麻豆av| 夜夜骑夜夜射夜夜干| 亚洲欧美一区二区三区黑人 | freevideosex欧美| 久久精品久久久久久久性| 国产 一区精品| 久久久久久久大尺度免费视频| 欧美bdsm另类| 伊人久久国产一区二区| 日韩三级伦理在线观看| 午夜视频国产福利| 校园人妻丝袜中文字幕| 黄色日韩在线| 大香蕉97超碰在线| 22中文网久久字幕| 国产69精品久久久久777片| 免费观看a级毛片全部| 国产91av在线免费观看| 亚洲一级一片aⅴ在线观看| 夜夜爽夜夜爽视频| 在线观看国产h片| 国产探花极品一区二区| 午夜91福利影院| 免费观看在线日韩| 午夜激情福利司机影院| 欧美日韩精品成人综合77777| 久久精品国产亚洲av天美| 久久久久久久久大av| 成人美女网站在线观看视频| 男女边吃奶边做爰视频| 在线精品无人区一区二区三| 91精品伊人久久大香线蕉| av天堂中文字幕网| 麻豆成人午夜福利视频| 在线观看av片永久免费下载| 一级av片app| 精品国产一区二区久久| 欧美一级a爱片免费观看看| 有码 亚洲区| 久久亚洲国产成人精品v| 精品少妇久久久久久888优播| 五月开心婷婷网| 插阴视频在线观看视频| 亚洲精品aⅴ在线观看| 久久精品夜色国产| 3wmmmm亚洲av在线观看| 少妇精品久久久久久久| av一本久久久久| 久久婷婷青草| 啦啦啦在线观看免费高清www| 乱码一卡2卡4卡精品| 欧美亚洲 丝袜 人妻 在线| 一区二区三区乱码不卡18| 亚洲欧美成人精品一区二区| 中文精品一卡2卡3卡4更新| 特大巨黑吊av在线直播| 亚洲激情五月婷婷啪啪| 成年人午夜在线观看视频| 久久毛片免费看一区二区三区| 亚洲国产av新网站| 丰满饥渴人妻一区二区三| 久久国产精品大桥未久av | 乱码一卡2卡4卡精品| 欧美bdsm另类| 久久精品久久久久久久性| 精品人妻偷拍中文字幕| 国产在视频线精品| 丰满人妻一区二区三区视频av| 欧美 日韩 精品 国产| 日韩一本色道免费dvd| 精品国产国语对白av| 亚洲欧美日韩东京热| 九色成人免费人妻av| 久久久久久久久久久丰满| 国产成人精品婷婷| 99re6热这里在线精品视频| 国产免费一区二区三区四区乱码| 久久99一区二区三区| 在线免费观看不下载黄p国产| 日韩欧美 国产精品| 狂野欧美激情性bbbbbb| 观看av在线不卡| 新久久久久国产一级毛片| 国产精品三级大全| 九草在线视频观看| 在现免费观看毛片| 国产午夜精品久久久久久一区二区三区| 亚洲精品乱码久久久v下载方式| 大码成人一级视频| 日日摸夜夜添夜夜添av毛片| 久久午夜福利片| 国产精品一区二区性色av| 国产精品一二三区在线看| 日本wwww免费看| 男人添女人高潮全过程视频| 日韩成人av中文字幕在线观看| 精品国产一区二区三区久久久樱花| 女性被躁到高潮视频| 一区二区三区精品91| 亚洲国产精品国产精品| 亚洲欧洲日产国产| 亚洲中文av在线| 久久久久网色| 精华霜和精华液先用哪个| 又黄又爽又刺激的免费视频.| 亚洲精品国产色婷婷电影| 看十八女毛片水多多多| 成年人午夜在线观看视频| 日本av免费视频播放| 伊人久久国产一区二区| 亚洲精品国产色婷婷电影| 看十八女毛片水多多多| 丝袜脚勾引网站| 免费观看a级毛片全部| 观看免费一级毛片| 伦理电影免费视频| av天堂中文字幕网| 韩国av在线不卡| 亚洲欧洲国产日韩| 精品一品国产午夜福利视频| 最近中文字幕高清免费大全6| 成年美女黄网站色视频大全免费 | 尾随美女入室| 午夜福利影视在线免费观看| 国产黄频视频在线观看| 97在线人人人人妻| 日韩强制内射视频| 大陆偷拍与自拍| 99热全是精品| 色吧在线观看| 久久久久久久久久成人| 99久国产av精品国产电影| 国产一区二区三区av在线| 丁香六月天网| 青青草视频在线视频观看| 国产精品久久久久久久电影| 亚洲欧美一区二区三区国产| 日本wwww免费看| 人人妻人人看人人澡| 久久97久久精品| 国产免费福利视频在线观看| 国产精品蜜桃在线观看| 午夜久久久在线观看| 少妇高潮的动态图| 国产片特级美女逼逼视频| 一区在线观看完整版| 精品一区二区三卡| 黄色毛片三级朝国网站 | 亚洲国产成人一精品久久久| 九色成人免费人妻av| 大香蕉久久网| 久久精品夜色国产| 久久久久久伊人网av| 蜜桃在线观看..| 久久午夜福利片| 国内少妇人妻偷人精品xxx网站| 免费黄网站久久成人精品| 欧美少妇被猛烈插入视频| av福利片在线观看| 国产乱来视频区| 各种免费的搞黄视频| 欧美+日韩+精品| av不卡在线播放| 日韩中字成人| 秋霞伦理黄片| 一区二区三区免费毛片| 国产黄频视频在线观看| 亚洲第一av免费看| 一二三四中文在线观看免费高清| 日韩av不卡免费在线播放| 丝瓜视频免费看黄片| 91久久精品国产一区二区三区| 99精国产麻豆久久婷婷| 国产无遮挡羞羞视频在线观看| 丰满人妻一区二区三区视频av| 精品少妇黑人巨大在线播放| 下体分泌物呈黄色| 国产一区二区在线观看av| 亚洲精华国产精华液的使用体验| 丰满少妇做爰视频| 国产真实伦视频高清在线观看| 久久狼人影院| 国产免费一区二区三区四区乱码| 国产精品偷伦视频观看了| 国产高清三级在线| 日日爽夜夜爽网站| 这个男人来自地球电影免费观看 | 91久久精品电影网| 高清毛片免费看| 我要看日韩黄色一级片| 亚洲欧美一区二区三区黑人 | 多毛熟女@视频| 最近中文字幕2019免费版| 麻豆乱淫一区二区| 国产男人的电影天堂91| 亚洲成色77777| 在线观看www视频免费| 大片电影免费在线观看免费| 女人久久www免费人成看片| 麻豆乱淫一区二区| 中文精品一卡2卡3卡4更新| 色94色欧美一区二区| 韩国高清视频一区二区三区| 久久人人爽人人爽人人片va| 久久女婷五月综合色啪小说| 啦啦啦啦在线视频资源| 免费久久久久久久精品成人欧美视频 | 偷拍熟女少妇极品色| 我的老师免费观看完整版| 内地一区二区视频在线| 久久午夜综合久久蜜桃| 高清黄色对白视频在线免费看 | 国国产精品蜜臀av免费| 高清午夜精品一区二区三区| 中文字幕亚洲精品专区| av天堂久久9| 成人毛片60女人毛片免费| 日日啪夜夜爽| 久久精品久久精品一区二区三区| 亚洲av中文av极速乱| 久久国产精品男人的天堂亚洲 |