基于組合圖和多尺度時(shí)間建模的交通流量預(yù)測

黃 怡，王彤彤，王 睿

（四川大學(xué)電子信息學(xué)院，成都 610065）

0 引言

隨著數(shù)據(jù)采集技術(shù)的蓬勃發(fā)展,車輛軌跡、道路傳感器數(shù)據(jù)等交通流量數(shù)據(jù)數(shù)量激增。根據(jù)歷史觀測流量結(jié)果進(jìn)行準(zhǔn)確、及時(shí)的交通流量預(yù)測,有助于道路使用者制定更好的出行計(jì)劃,提高交通運(yùn)行效率,也有助于交通管理者及時(shí)調(diào)整道路的時(shí)間空間資源,緩解交通擁堵。因此,隨著智能交通系統(tǒng)的快速發(fā)展,城市交通流量預(yù)測得到了越來越多的關(guān)注。

過去的幾十年間,國內(nèi)外對(duì)交通流量預(yù)測的研究不斷發(fā)展,早期的交通流量預(yù)測方法通常采用基于統(tǒng)計(jì)模型的方法,例如差分整合移動(dòng)平均自回歸模型、卡爾曼濾波方法等,統(tǒng)計(jì)模型方法簡單,但較依賴于時(shí)間序列的平穩(wěn)性,并且不能反映交通流的復(fù)雜時(shí)空特性,因此不能應(yīng)用于波動(dòng)較大的數(shù)據(jù)。隨后,基于機(jī)器學(xué)習(xí)的預(yù)測方法開始廣泛應(yīng)用與交通流量預(yù)測,有近鄰非參數(shù)回歸、支持向量機(jī)等,然而,這些方法只考慮時(shí)間維度的交通流量信息,而忽略了空間信息對(duì)準(zhǔn)確預(yù)測的重要性。

近年來,基于深度學(xué)習(xí)的交通預(yù)測方法得到了廣泛的研究。一些研究人員將交通網(wǎng)絡(luò)建模為網(wǎng)格,并使用卷積神經(jīng)網(wǎng)絡(luò)（CNN）來捕捉空間相關(guān)性。然而,由于道路的不規(guī)律性,網(wǎng)格建模將不可避免地失去交通網(wǎng)絡(luò)內(nèi)的拓?fù)湫畔?。近幾?研究者將不規(guī)則流量數(shù)據(jù)之間的非歐幾里得關(guān)系表示為圖,采用圖神經(jīng)網(wǎng)絡(luò)來建模空間特征,如Yu等將將圖卷積網(wǎng)絡(luò)嵌入到卷積神經(jīng)網(wǎng)絡(luò)中,Li等將圖卷積網(wǎng)絡(luò)嵌入到遞歸神經(jīng)網(wǎng)絡(luò)中,而Wu等則將圖卷積網(wǎng)絡(luò)和Oord等的WaveNet組合共同捕獲時(shí)空信息。

圖卷積模塊的引入盡管解決了空間非歐幾里得空間建模問題,但以前的方法仍然忽略了以下兩個(gè)方面。第一，交通流量是動(dòng)態(tài)變化的,因此功能區(qū)相近的道路它們在時(shí)間維度上是相近的,以前的圖卷積只考慮局部空間信息的相近性,沒有考慮到上下文特征的相似性。第二，交通流量預(yù)測對(duì)長時(shí)間時(shí)空依賴的捕捉非常重要,因?yàn)榱髁看笮≡跁r(shí)間維度上是相互關(guān)聯(lián)的,而目前交通流量上通用的門時(shí)間卷積網(wǎng)絡(luò)采用的是卷積核和空洞參數(shù)均為1和2的一維卷積,受感受野的局限不能捕捉長時(shí)間的時(shí)空依賴。

為了解決上述問題,我們的主要工作如下：

（1）提出了一種動(dòng)態(tài)空間圖和動(dòng)態(tài)語義圖的組合方式。該組合方式同時(shí)考慮了交通流量的空間特征動(dòng)態(tài)變化和相近的功能區(qū)上下文語義信息的相似性,從而增強(qiáng)了對(duì)動(dòng)態(tài)信息和相近功能區(qū)信息的捕獲。

（2）提出了一種多尺度時(shí)間卷積網(wǎng)絡(luò)模塊。該模塊采用了多種卷積核和空洞參數(shù)設(shè)置,使得模型可以捕獲到不同長度時(shí)間依賴。

（3）在METR-LR和PEMS-BAY兩個(gè)公開數(shù)據(jù)集上的對(duì)比實(shí)驗(yàn)結(jié)果表明,我們的模塊的準(zhǔn)確度優(yōu)于先前的模型。我們還對(duì)模型的模塊進(jìn)行了消融實(shí)驗(yàn),分析了每個(gè)模塊對(duì)結(jié)果的影響。

1 模型實(shí)現(xiàn)

1.1 問題定義

交通流量預(yù)測是一類時(shí)間序列的預(yù)測問題。其中,交通道路網(wǎng)絡(luò)由于其非歐幾里得特性,可以表示為圖(,,A)，其中={,,…,v}表示交通網(wǎng)絡(luò)的個(gè)傳感器節(jié)點(diǎn)采集的數(shù)據(jù)集合，表示交通道路的邊緣集，A∈R 是由圖導(dǎo)出的鄰接矩陣。定義圖信號(hào)X∈R 為在t時(shí)刻觀察到的圖信息，其中是傳感器采集的數(shù)據(jù)維度。交通流量預(yù)測即可定義為：學(xué)習(xí)一個(gè)非線性函數(shù)，在時(shí)刻開始，從道路上的個(gè)傳感器的前個(gè)時(shí)刻數(shù)據(jù)預(yù)測出下個(gè)時(shí)刻的交通速度。公式形式表示如下：

1.2 整體模型

本文參考了Wu等人的GraphWaveNet網(wǎng)絡(luò)架構(gòu),其整體網(wǎng)絡(luò)由多個(gè)疊加的時(shí)空層和一個(gè)輸出層組成。首先由一個(gè)線性層進(jìn)行轉(zhuǎn)換,隨后進(jìn)入一個(gè)門控時(shí)間卷積網(wǎng)絡(luò)（TCN）和一個(gè)自適應(yīng)空間圖卷積網(wǎng)絡(luò)（SG-GCN）的串聯(lián)的時(shí)空層，每層時(shí)空層又以跳連接的方式組合,最后經(jīng)過兩層全連接層輸出結(jié)果。我們在GraphWaveNet上做了一些改進(jìn)。將其中的門控TCN轉(zhuǎn)變?yōu)槎喑叨乳T控時(shí)間卷積模塊（Gated MS-TCN），將之前的自適應(yīng)空間GCN添加了一個(gè)自適應(yīng)語義GCN模塊（TG-GCN）進(jìn)行并聯(lián)，得到一個(gè)自適應(yīng)空間語義GCN模塊（MG-GCN）。我們將改進(jìn)的網(wǎng)絡(luò)稱為基于組合圖和多尺度時(shí)間卷積網(wǎng)絡(luò),其網(wǎng)絡(luò)總體結(jié)構(gòu)如圖1所示。

圖1 基于組合圖和多尺度時(shí)間卷積網(wǎng)絡(luò)

1.3 自適應(yīng)空間語義圖模塊

我們模型的多圖組合的動(dòng)態(tài)圖卷積模塊由兩個(gè)模塊并聯(lián)而成,分別為自適應(yīng)空間圖卷積模塊（SG-GCN）和自適應(yīng)語義圖卷積模塊（TGGCN）,其中SG-GCN引用自Wu等的論文,它是一個(gè)自適應(yīng)鄰接矩陣和一個(gè)有向空間鄰接矩陣的組合。我們在此基礎(chǔ)上設(shè)計(jì)了一個(gè)TGGCN進(jìn)行并聯(lián)。TG-GCN的和語義鄰接矩陣組成。

自適應(yīng)鄰接矩陣：包含了兩個(gè)可學(xué)習(xí)參數(shù)E,E∈R,這兩個(gè)參數(shù)首先進(jìn)行隨機(jī)初始化,然后隨模型通過隨機(jī)梯度下降進(jìn)行端到端的學(xué)習(xí),讓模型自身學(xué)習(xí)隱藏的空間依賴關(guān)系,因此可表示為

語義鄰接矩陣：由于某一區(qū)域的交通流量不僅與其周圍的局部空間有關(guān),相似功能區(qū)的流量變化在時(shí)間維度上還具有相似性,為了捕獲這種時(shí)間上的相似性,我們使用了動(dòng)態(tài)時(shí)間規(guī)整（dynamic time warping，DTW）算法來計(jì)算一個(gè)語義鄰接矩陣,判斷節(jié)點(diǎn)是否為語義鄰居。

DTW可計(jì)算兩個(gè)不同長度、不同節(jié)奏時(shí)間序列的相似度,通過動(dòng)態(tài)規(guī)劃來自動(dòng)扭曲時(shí)間序列,使其在時(shí)間軸上進(jìn)行局部縮放,來達(dá)到使兩個(gè)序列盡可能一致的效果。如圖2所示,從兩條速度變化曲線可以看出,相比于同一時(shí)刻的速度和,速度與具有更強(qiáng)的相似性。

圖2 兩個(gè)交通流量序列的歐氏距離和DTW距離對(duì)比

用DTW算法具體步驟即為：對(duì)于兩個(gè)時(shí)間序列=(,,…,x)和=(,,…,y)，首先計(jì)算兩個(gè)時(shí)間序列各個(gè)點(diǎn)之間的距離，得到一個(gè)距離矩陣∈R，其次，尋找一條從兩個(gè)時(shí)間序列開始位置(1,1)到結(jié)束位置(,)的一條路徑，使得路徑上的元素最小。其起始條件為：

再次,通過動(dòng)態(tài)規(guī)劃算法遞歸,得到后續(xù)從矩陣左上角(1,1)到任一點(diǎn)（,）的最短路徑長度為(,)：

遞歸完成后，計(jì)算序列和的DTW距離dist(,)：

dist(,)越小，表示兩個(gè)序列和的相似度越大。

根據(jù)DTW距離的值來生成語義鄰接矩陣A,其生成規(guī)則如下：

其中,是一個(gè)門限值,用于判定兩個(gè)交通流量序列在(,)點(diǎn)是否為語義鄰居。則語義鄰接矩陣可以用來表示兩個(gè)序列中具有相似時(shí)間模式的節(jié)點(diǎn)。

自適應(yīng)語義鄰接矩陣：我們的模型將語義鄰居和自適應(yīng)鄰接矩陣組合,得到一個(gè)自適應(yīng)語義鄰接矩陣A，從而可以在訓(xùn)練過程中動(dòng)態(tài)的判定兩個(gè)交通流量序列的相似性。其中語義鄰接矩陣可以指導(dǎo)自適應(yīng)鄰接矩陣中參數(shù)的學(xué)習(xí)方向,而自適應(yīng)鄰接矩陣也可以反過來動(dòng)態(tài)修正語義鄰接矩陣的精度問題：

我們的自適應(yīng)空間語義圖模塊將自適應(yīng)空間鄰接矩陣和自適應(yīng)語義鄰接矩陣分別引入圖卷積網(wǎng)絡(luò)（GNN）中，各自獲取到交通流量數(shù)據(jù)的空間特征和語義特征，最后將兩者組合起來，得到空間和語義的融合信息。

1.4 多尺度時(shí)間卷積模塊

在交通流量預(yù)測中,下一個(gè)時(shí)刻的流量數(shù)據(jù)和上一個(gè)乃至多個(gè)時(shí)刻的信息是具有很強(qiáng)的相互關(guān)聯(lián)性的，因此捕獲長時(shí)間的依賴關(guān)系至關(guān)重要。而目前現(xiàn)有的時(shí)間卷積網(wǎng)絡(luò)模塊大多是采用具有固定大小為1×1的卷積核，以空洞參數(shù)為1和2交替進(jìn)行時(shí)間建模，感受野的范圍有限，僅能學(xué)習(xí)到前一兩個(gè)時(shí)間單元的流量，不能很好地捕獲長時(shí)間跨度的交通流量信息。

針對(duì)感受野范圍過小的問題,我們設(shè)計(jì)了一個(gè)多尺度的時(shí)間卷積網(wǎng)絡(luò)模塊（MS-TCN）,如圖3所示。該模塊在卷積核大小與空洞卷積兩個(gè)方面同時(shí)對(duì)感受野進(jìn)行了多個(gè)尺度的擴(kuò)張，從而可以在不同的時(shí)間跨度捕獲時(shí)間維度的交通流量信息。而且相比于僅從空洞數(shù)方面擴(kuò)張感受野,從擴(kuò)大卷積核和空洞數(shù)兩個(gè)方面的擴(kuò)張可以防止一些關(guān)鍵信息的丟失。

圖3 多尺度時(shí)間卷積網(wǎng)絡(luò)模塊（MS-TCN）

具體地，輸入交通流量數(shù)據(jù)首先分別進(jìn)入四個(gè)卷積核大小均為1×1的卷積和Relu層，之后前三個(gè)分支分別進(jìn)入空洞數(shù)為0、2、3的3×1的卷積中，通過不同大小的感受野學(xué)習(xí)信息，而第四個(gè)分支則采用了3×1的最大池化，提取3個(gè)時(shí)間維度中具有最突出信息的特征。最后，將四個(gè)分支進(jìn)行合并，得到多尺度融合的特征信息。除此之外，我們還引入了一個(gè)殘差分支，將其進(jìn)入一個(gè)1×1的卷積后和主干匯合，其目的是加速網(wǎng)絡(luò)的收斂。

2 實(shí)驗(yàn)相關(guān)設(shè)置

2.1 數(shù)據(jù)集

本文采用了兩個(gè)公開的交通數(shù)據(jù)集作為多圖和多尺度時(shí)間建模網(wǎng)絡(luò)的驗(yàn)證,即Li等提供的METR-LA和PEMS-BAY。其中,METR-LA是在2012年3月1日至6月30日這段時(shí)間內(nèi),于洛杉磯縣高速公路交通速度的207個(gè)傳感器收集的交通速度數(shù)據(jù)；PEMS-BAY是從2017年1月1日到5月31日內(nèi)在灣區(qū)公路的325個(gè)傳感器上采集的速度數(shù)據(jù)。

2.2 評(píng)估指標(biāo)

我們采用了以下三個(gè)指標(biāo)進(jìn)行模型評(píng)估,其中和?表示交通流量的實(shí)際預(yù)測值和實(shí)驗(yàn)預(yù)測值，表示數(shù)據(jù)總數(shù)。

（mean absolute error，MAE）：表示模型預(yù)測的交通流量數(shù)值與實(shí)際數(shù)據(jù)集中交通流量數(shù)據(jù)的平均速度差。定義如下：

（mean absolute percent?age error,MAPE）：表示各個(gè)預(yù)測交通流量值與實(shí)際數(shù)據(jù)集數(shù)據(jù)的平均速度差與實(shí)際數(shù)據(jù)集數(shù)據(jù)之比,定義如下：

（root mean squared error，RMSE）：表示模型預(yù)測的交通流量數(shù)值與實(shí)際數(shù)據(jù)集中交通流量數(shù)據(jù)的期望值。定義如下：

2.3 實(shí)驗(yàn)設(shè)置

為了和之前的一些交通流量預(yù)測方法進(jìn)行公平地比較，我們將數(shù)據(jù)集分為了訓(xùn)練集、驗(yàn)證集和測試集，兩個(gè)數(shù)據(jù)集分割比例均為7∶2∶1，并且1小時(shí)12個(gè)連續(xù)時(shí)間步長的歷史數(shù)據(jù)用于預(yù)測下一小時(shí)的12個(gè)連續(xù)時(shí)間步長數(shù)據(jù)。我們在NVIDIA 1080Ti GPU下進(jìn)行了實(shí)驗(yàn),總體模型基于Pytorch實(shí)現(xiàn),數(shù)據(jù)集批量大小設(shè)置為64，權(quán)重衰減、隨機(jī)失活率、初始學(xué)習(xí)率分別為0.0001、0.25和0.001。訓(xùn)練時(shí)的優(yōu)化器采用Adam優(yōu)化器,訓(xùn)練周期迭代數(shù)為100。

3 實(shí)驗(yàn)結(jié)果及分析

3.1 消融實(shí)驗(yàn)

為了證明引入的自適應(yīng)空間語義圖模塊和多尺度時(shí)間卷積模塊的有效性，我們在兩個(gè)數(shù)據(jù)集上分別進(jìn)行了消融實(shí)驗(yàn)。其中對(duì)比的baseline是Wu等的GraphWaveNet，TG-GCN是在base?line中加入了自適應(yīng)語義鄰接矩陣的圖卷積模塊，MS-TCN是在baseline中加入了多尺度時(shí)間卷積網(wǎng)絡(luò)模塊，TG-GCN+MS-TCN是在baseline中加入了自適應(yīng)語義鄰接矩陣的圖卷積模塊和多尺度時(shí)間卷積網(wǎng)絡(luò)模塊，實(shí)驗(yàn)結(jié)果如表1所示。

從表1可以看出,單獨(dú)加入TG-GCN和MSTCN時(shí),模型三個(gè)評(píng)估參數(shù)都較baseline有了一定下降,說明了我們加入的模塊的有效性。并且單獨(dú)加入MS-TCN時(shí),預(yù)測的效果更好,說明長時(shí)間依賴的捕獲對(duì)于提升預(yù)測精度具有更重要的影響。與此同時(shí),將TG-GCN和MS-TCN模塊同時(shí)加入基礎(chǔ)模型,得到的效果優(yōu)于baseline和兩個(gè)模塊單獨(dú)放入的預(yù)測效果,這說明加入的兩個(gè)模塊的左右沒有發(fā)生抵消。總體來看,我們的模型的預(yù)測效果總體上有所提升。

表1 消融實(shí)驗(yàn)結(jié)果

3.2 實(shí)驗(yàn)結(jié)果

我們將本文的模型與baseline模型在兩個(gè)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果進(jìn)行了比較。實(shí)驗(yàn)結(jié)果如表2所示。

表2 多個(gè)模型性能比較

兩個(gè)數(shù)據(jù)集的驗(yàn)證中,我們的模型的MAE、RMSE和MAPE三個(gè)評(píng)估結(jié)果都有不同程度的下降,模型在一定程度上降低了預(yù)測誤差,說明引入的自適應(yīng)空間語義GCN成功捕獲時(shí)間維度的語義信息,而多尺度TCN獲取了長時(shí)間依賴信息,提升了預(yù)測結(jié)果的準(zhǔn)確性。

4 結(jié)語

本文針對(duì)交通流量預(yù)測模型中時(shí)間維度語義信息缺乏的問題,提出了一種將自適應(yīng)空間信息和自適應(yīng)語義信息組合的圖卷積模型,其中引入的自適應(yīng)語義信息GCN通過DTW得到語義相似性矩陣來尋找語義鄰居,然后通過自學(xué)習(xí)的方式實(shí)現(xiàn)語義信息的自適應(yīng)。同時(shí)提出了一種多尺度TCN,通過多個(gè)不同卷積核和空洞數(shù)的卷積并聯(lián),不同程度的擴(kuò)大感受野,以確保對(duì)長時(shí)間時(shí)空依賴的捕獲。在兩個(gè)真實(shí)場景數(shù)據(jù)集上實(shí)驗(yàn)結(jié)果表明,我們的模型有效地提高了交通流量預(yù)測的準(zhǔn)確性。