基于車流特性和LSTM的長(zhǎng)期車輛軌跡預(yù)測(cè)方案

李新，蔡英，張猛，李汶錦，范艷芳

(北京信息科技大學(xué) 計(jì)算機(jī)學(xué)院，北京 100101)

0 引言

車聯(lián)網(wǎng)作為智能交通系統(tǒng)的重要組成部分可以實(shí)現(xiàn)車輛之間、車輛與基礎(chǔ)設(shè)施之間通信。隨著車聯(lián)網(wǎng)的發(fā)展，依賴于車輛軌跡的應(yīng)用不斷增多[1]，如碰撞預(yù)測(cè)、邊緣計(jì)算中的數(shù)據(jù)檢索、交通管理和時(shí)延容忍數(shù)據(jù)收集等，預(yù)測(cè)車輛軌跡可以使得這些應(yīng)用運(yùn)行更加高效。其中碰撞預(yù)測(cè)需要短時(shí)間內(nèi)高精度地預(yù)測(cè)車輛未來(lái)軌跡，以提高駕駛的安全性和舒適性。時(shí)延容忍數(shù)據(jù)收集需要預(yù)測(cè)車輛較長(zhǎng)時(shí)間的軌跡，同時(shí)相比于碰撞預(yù)測(cè)應(yīng)用對(duì)精度要求較低。例如在邊緣計(jì)算中通過軌跡預(yù)測(cè)實(shí)現(xiàn)數(shù)據(jù)檢索，邊緣服務(wù)器(edge server,ES)預(yù)測(cè)車輛軌跡后，將數(shù)據(jù)包發(fā)送到一個(gè)特定的位置來(lái)減小由于消息冗余導(dǎo)致的廣播風(fēng)暴的概率，實(shí)現(xiàn)高效檢索[2]。

現(xiàn)有的軌跡預(yù)測(cè)方案可以分為3類[3]。一是基于物理/機(jī)動(dòng)模型的方案，其方案可以在短時(shí)間內(nèi)(小于1 s)準(zhǔn)確預(yù)測(cè)，但是由于預(yù)測(cè)時(shí)間過短導(dǎo)致駕駛員不能及時(shí)做出反應(yīng)。基于物理/機(jī)動(dòng)模型的方案假定車輛有恒定的速度和方向，這與實(shí)際情況不符[4]。二是基于傳統(tǒng)機(jī)器學(xué)習(xí)的方案，其方案可以在2～3 s內(nèi)準(zhǔn)確預(yù)測(cè)。基于傳統(tǒng)機(jī)器學(xué)習(xí)的方案致力于離散位置預(yù)測(cè)，這實(shí)際上是一個(gè)多分類問題，并且不適合預(yù)測(cè)具有固定采樣間隔的軌跡序列[5]。三是基于深度學(xué)習(xí)的方案，其方案利用不同神經(jīng)網(wǎng)絡(luò)模型的特性，充分考慮車輛歷史軌跡、駕駛風(fēng)格和周圍車輛的行為等因素對(duì)車輛軌跡的影響，可達(dá)到較高的預(yù)測(cè)精度。采用的模型主要有卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN)、圖神經(jīng)網(wǎng)絡(luò)(graph neural network,GNN)和長(zhǎng)短期記憶(long short-term memory,LSTM)網(wǎng)絡(luò)[6]。其中基于CNN和GNN的方案可以捕捉車輛歷史軌跡中的空間特性及周圍車輛的交互影響，但無(wú)法捕捉到軌跡序列中時(shí)間維度上的影響。LSTM具有“記憶”特性，在序列-序列(sequence to sequence,seq2seq)[7]的預(yù)測(cè)任務(wù)中表現(xiàn)出良好的性能。Zhu等[8]從理論上證明了車輛未來(lái)的軌跡與它歷史的軌跡高度相關(guān)。車輛軌跡預(yù)測(cè)本質(zhì)上也是seq2seq預(yù)測(cè)，因此LSTM是實(shí)現(xiàn)長(zhǎng)期軌跡預(yù)測(cè)最有前景的方法。Altché等[9]首次將LSTM模型運(yùn)用到車輛軌跡預(yù)測(cè)，同時(shí)考慮周圍不同車輛類型的交互影響。Wang等[10]不但考慮了周圍車輛的交互影響，而且將交通規(guī)則納入方案中提升預(yù)測(cè)精度。Khakzar等[4]將車輛空間占用信息和車輛運(yùn)行周圍安全風(fēng)險(xiǎn)信息同時(shí)輸入預(yù)測(cè)模型中。Wang等[5]將地圖柵格化，針對(duì)目標(biāo)車輛可以預(yù)測(cè)多個(gè)時(shí)間步的多模態(tài)狀態(tài)。Park等[11]預(yù)測(cè)網(wǎng)格圖上的占用概率，并應(yīng)用集束搜索算法來(lái)選擇k個(gè)最可能的軌跡。

1 預(yù)備知識(shí)

LSTM是循環(huán)神經(jīng)網(wǎng)絡(luò)的變體，可以有效克服梯度消失的問題。一個(gè)LSTM網(wǎng)絡(luò)由多個(gè)神經(jīng)元組成，每一個(gè)組成單元的結(jié)構(gòu)如圖1所示。LSTM神經(jīng)元由遺忘門、輸入門、輸出門實(shí)現(xiàn)“記憶”功能。遺忘門控制在ct-1中保留多少信息，輸入門決定ct-1中保留多少xt的信息，輸出門決定ot中多少信息被輸出到ht。LSTM的工作過程可由式(1)描述：

(1)

圖1 一個(gè)LSTM組成單元結(jié)構(gòu)

2 本文方案

針對(duì)城區(qū)場(chǎng)景，由于市民出行在時(shí)間上具有周期性，在目的地上具有固定性，因此城區(qū)中車流在早高峰時(shí)集中在從居民區(qū)至辦公區(qū)、寫字樓等，在晚高峰時(shí)車流趨勢(shì)相反，因此車流受到居民出行時(shí)間、道路限制和城區(qū)規(guī)劃的影響，在地理空間上具有聚集性，在時(shí)間維度上具有潮汐性。由于車流由多條車輛軌跡組成，因此針對(duì)長(zhǎng)期車輛軌跡預(yù)測(cè)，這兩種特性將有助于減少預(yù)測(cè)誤差。地理空間上的聚集性即為位置，本文所提方案通過分析每個(gè)位置出現(xiàn)的頻次，為其設(shè)置相應(yīng)的權(quán)重值，用以描述位置對(duì)軌跡的影響程度。時(shí)間維度上的潮汐性指的是在不同時(shí)間段時(shí)車流趨勢(shì)不同，本文所提方案中模型的輸入包含了一天內(nèi)多時(shí)段的歷史軌跡序列，其已含有單個(gè)車輛軌跡在時(shí)間維度上的特征，無(wú)需重復(fù)進(jìn)行特征工程建立單獨(dú)特征。因此，本方案采用車流聚集性和潮汐性作為特征，設(shè)計(jì)了長(zhǎng)期車輛軌跡預(yù)測(cè)方案，減小長(zhǎng)期預(yù)測(cè)時(shí)的位置誤差，提高方案的泛化性。

2.1 問題形式化描述

本方案采用由編碼器和解碼器組成的seq2seq架構(gòu)，編碼器和解碼器均采用LSTM模型。編碼器讀取輸入歷史軌跡序列并將其轉(zhuǎn)換為一個(gè)固定長(zhǎng)度的矢量作為輸出；解碼器使用編碼器的輸出來(lái)初始化LSTM模型隱藏狀態(tài)(ht,ct)，隨后在迭代過程中生成預(yù)測(cè)軌跡序列中每一時(shí)刻的位置。基于LSTM的編碼器-解碼器模型如圖2所示，其中，Sp為預(yù)測(cè)的軌跡序列，So為觀察到的歷史軌跡序列，to為觀察時(shí)間，tp為預(yù)測(cè)時(shí)間。

圖2 基于LSTM的編碼器-解碼器模型

本方案的軌跡預(yù)測(cè)函數(shù)f通過上述模型學(xué)習(xí)得出，其中歷史軌跡序列作為訓(xùn)練數(shù)據(jù)，預(yù)測(cè)軌跡序列作為標(biāo)簽數(shù)據(jù)。歷史軌跡序列由多個(gè)時(shí)刻的車輛狀態(tài)信息組成，每個(gè)時(shí)刻的車輛狀態(tài)信息中包含3個(gè)特征，分別是經(jīng)度、緯度和位置權(quán)重。經(jīng)度、緯度用以確定車輛位置，位置權(quán)重用以描述該位置對(duì)車輛軌跡的影響程度。預(yù)測(cè)軌跡序列同樣也由多個(gè)時(shí)刻的車輛狀態(tài)信息組成，與歷史軌跡中不同的是，預(yù)測(cè)軌跡中每個(gè)時(shí)刻的車輛空間狀態(tài)信息只包括經(jīng)度和緯度，用以確定車輛位置。將軌跡預(yù)測(cè)過程形式化為式(2)所示。

(2)

式中：f為預(yù)測(cè)函數(shù)；Vt為車輛在t時(shí)刻的實(shí)際車輛的狀態(tài)；V′t為車輛在t時(shí)刻的預(yù)測(cè)車輛狀態(tài)；(x′t,y′t)為車輛在t時(shí)刻的預(yù)測(cè)坐標(biāo)。

本方案采用權(quán)重的差異性代表車輛位置的聚集性，設(shè)計(jì)每個(gè)位置的權(quán)重值代表車輛密度，權(quán)重值越高表明該位置越有可能是車輛的下一時(shí)刻位置。首先對(duì)原始數(shù)據(jù)進(jìn)行清洗，去除異常數(shù)據(jù)，如車輛不活躍時(shí)段的數(shù)據(jù)、位置發(fā)生突變的數(shù)據(jù)和不屬于城區(qū)范圍內(nèi)的數(shù)據(jù)；其次統(tǒng)計(jì)剩余數(shù)據(jù)中所有位置坐標(biāo)出現(xiàn)的次數(shù)作為該位置的權(quán)重，將坐標(biāo)與該坐標(biāo)的權(quán)重建立一一對(duì)應(yīng)關(guān)系。將上述過程形式化表達(dá)如式(3)所示：

2）噴藥操作要規(guī)范，藥液霧化效果要好，噴頭不能離果實(shí)太近，噴藥過程中如發(fā)現(xiàn)藥液產(chǎn)生沉淀，不能攪拌后繼續(xù)噴，因?yàn)槌恋砦镆锥氯麌婎^、刺激果面。

(3)

式中：wt為當(dāng)前坐標(biāo)的權(quán)重；(xt,yt)為車輛在t時(shí)刻的坐標(biāo)；loc為包含所有坐標(biāo)的集合；count(xt,yt)為統(tǒng)計(jì)函數(shù)，用以統(tǒng)計(jì)(xt,yt)在loc中出現(xiàn)的次數(shù)。

2.2 系統(tǒng)模型

本方案系統(tǒng)模型如圖3所示，其中有兩個(gè)實(shí)體，即車輛和ES。車輛之間、車輛與ES之間通過無(wú)線連接；ES之間通過光纖連接。車輛上的應(yīng)用，通過車輛之間或車輛與ES之間共享位置，預(yù)測(cè)周圍車輛的軌跡，車輛根據(jù)預(yù)測(cè)結(jié)果做出相應(yīng)的駕駛行為。部署在ES上的應(yīng)用，根據(jù)收集到的車輛位置和位置權(quán)重預(yù)測(cè)車輛軌跡，將預(yù)測(cè)結(jié)果發(fā)送到目標(biāo)ES或車輛。

圖3 系統(tǒng)模型

2.3 預(yù)測(cè)模型結(jié)構(gòu)

本文方案的預(yù)測(cè)模型采用seq2seq架構(gòu)。LSTM模型具有“記憶”特性，擅長(zhǎng)處理時(shí)序任務(wù)，因此預(yù)測(cè)模型中編碼器和解碼器均采用LSTM模型。多層LSTM與單層LSTM相比，由于預(yù)測(cè)位置誤差相差很小，但是訓(xùn)練參數(shù)量顯著增加，因此在編碼器和解碼器中均采用一層LSTM模型。不同神經(jīng)元個(gè)數(shù)的LSTM模型在測(cè)試集上的損失值如圖4所示。從圖中可以看出，含有120個(gè)神經(jīng)元的LSTM模型在測(cè)試集上具有較小的損失值。

圖4 不同神經(jīng)元個(gè)數(shù)時(shí)測(cè)試集損失值的變化

預(yù)測(cè)模型結(jié)構(gòu)如圖5所示，其中輸入是歷史軌跡序列，編碼器和解碼器中每個(gè)LSTM模型包含120個(gè)神經(jīng)元，采用帶有Sigmoid激活函數(shù)的全連接層輸出預(yù)測(cè)結(jié)果。

圖5 預(yù)測(cè)模型結(jié)構(gòu)

3 實(shí)驗(yàn)仿真

本實(shí)驗(yàn)硬件環(huán)境為Intel core i5、NVIDIA GTX 1650。軟件環(huán)境為Windows 10、Python 3.6、Pycharm 2020和Tensorflow 2.5。

3.1 數(shù)據(jù)集和預(yù)處理

本實(shí)驗(yàn)采用的數(shù)據(jù)集為T-drive[13]。該數(shù)據(jù)集包含了2008年2月2日至2月8日期間，北京市10 357輛出租車一周的軌跡。GPS坐標(biāo)的總數(shù)約為1 500萬(wàn)個(gè)，軌跡的總距離為900萬(wàn)km，平均采樣間隔為177 s，平均距離約為623 m。

工作日高峰時(shí)段車流聚集于工作場(chǎng)所和住宅區(qū)域，休息日則是休閑娛樂場(chǎng)所和住宅區(qū)域。根據(jù)上述特點(diǎn)首先將數(shù)據(jù)集分為工作日數(shù)據(jù)集D1和休息日數(shù)據(jù)集D2兩個(gè)部分。其次，考慮到2008年北京市發(fā)展?fàn)顟B(tài)以及人們?nèi)粘３鲂袝r(shí)間，只保留北京市四環(huán)內(nèi)，7∶00至21∶00的數(shù)據(jù)。最后，為驗(yàn)證長(zhǎng)期預(yù)測(cè)和采樣間隔較長(zhǎng)時(shí)的效果，只保留了采樣間隔為300 s的軌跡數(shù)據(jù)。本實(shí)驗(yàn)將3個(gè)時(shí)刻軌跡信息作為輸入，預(yù)測(cè)后3個(gè)時(shí)刻的軌跡。

3.2 模型訓(xùn)練

本方案模型訓(xùn)練時(shí)采用早停的方法防治模型過擬合，即當(dāng)驗(yàn)證集上損失值變大時(shí)，立即停止訓(xùn)練。因此將訓(xùn)練集按照8∶1∶1分為訓(xùn)練集、驗(yàn)證集和測(cè)試集。由于D1數(shù)據(jù)量遠(yuǎn)大于D2，車流聚集性在工作日更加明顯，因此訓(xùn)練模型采用D1。相較于平均絕對(duì)誤差和均方誤差，均方根誤差(root mean square error,RMSE)對(duì)于誤差較大的預(yù)測(cè)結(jié)果更加敏感，因此損失函數(shù)選擇RMSE，其值為：

(4)

由于Adam[14]優(yōu)化器在多領(lǐng)域深度學(xué)習(xí)中均有較好的精度，因此本文優(yōu)化器選擇為Adam，其學(xué)習(xí)率為0.001，經(jīng)過多次實(shí)驗(yàn)驗(yàn)證后，模型參數(shù)如表1所列。

表1 模型參數(shù)設(shè)置

3.3 方案評(píng)估

3.3.1 評(píng)估指標(biāo)

本實(shí)驗(yàn)采用常規(guī)評(píng)估指標(biāo)均方根誤差、平均位置誤差(average displacement error,ADE)和最終位置誤差(final displacement error,FDE)。ADE和FDE的計(jì)算公式分別如式(5)、式(6)所示。

(5)

(6)

3.3.2 對(duì)比實(shí)驗(yàn)

將本文方案與不含有位置權(quán)重特征的CTAL方案(CTAL without position weight ,CTAL-W/O PW)、SU-LSTM[5]和PRB-LSTM[10]以相同的訓(xùn)練方法進(jìn)行對(duì)比。其中CTAL-W/O PW為消融實(shí)驗(yàn)，采用D1測(cè)試集評(píng)估模型。平均位置誤差和最終位置誤差如圖6所示，均方根誤差如圖7所示。

圖6 D1測(cè)試集上的平均位置誤差和最終位置誤差

圖7 D1測(cè)試集上的均方根誤差

從圖6、7可以看出，本文方案的平均位置誤差、最終位置誤差和均方根誤差均優(yōu)于其他3種方案。同時(shí)在D1測(cè)試集上本研究對(duì)比了各方案在300 s、600 s的平均位置誤差和在900 s的最終位置誤差，如表2所示。

表2 D1測(cè)試集上的預(yù)測(cè)位置誤差 km

從表2也可以看出，本文方案在每個(gè)時(shí)間的平均位置誤差和最終位置誤差小于CTAL-W/O PW和SU-LSTM方案，PRB-LSTM方案的平均位置誤差和最終位置誤差與本文相近。圖8所示為各個(gè)方案的神經(jīng)元數(shù)量對(duì)比，從圖中可以看到，本文方案和CTAL-W/O PW的模型均使用了242個(gè)神經(jīng)元，而SU-LSTM使用了770個(gè)，PRB-LSTM則共計(jì)使用了642個(gè)神經(jīng)元。本文所提方案訓(xùn)練參數(shù)數(shù)量明顯少于SU-LSTM和PRB-LSTM。

圖8 神經(jīng)元數(shù)量對(duì)比結(jié)果

為了驗(yàn)證本文方案的泛化性，使用D2數(shù)據(jù)集來(lái)評(píng)估模型，實(shí)驗(yàn)結(jié)果如圖9、圖10、表3所示。從實(shí)驗(yàn)結(jié)果可以看出，本方案在D2上同樣具有較好的實(shí)驗(yàn)結(jié)果，表明本文方案具有較好的泛化性。

圖9 D2上的平均位置誤差和最終位置誤差

圖10 D2上的均方根誤差

表3 D2上的預(yù)測(cè)位置誤差 km

4 結(jié)束語(yǔ)

本文針對(duì)城區(qū)場(chǎng)景，利用車流聚集性和潮汐性，分析不同地理位置對(duì)軌跡的影響程度，確定了位置權(quán)重以體現(xiàn)車輛密度，設(shè)計(jì)了基于LSTM的編碼器-解碼器方案實(shí)現(xiàn)軌跡預(yù)測(cè)。該方案輸入為車輛歷史軌跡，包括車輛位置和位置的權(quán)重，輸出為由車輛位置組成的軌跡。在D1測(cè)試集上的實(shí)驗(yàn)結(jié)果表明，所提方案與消融實(shí)驗(yàn)方案對(duì)比，在預(yù)測(cè)時(shí)間300 s和600 s中平均位置誤差分別降低了1.4%、1.1%，在預(yù)測(cè)時(shí)間900 s時(shí)的最終位置誤差降低了0.9%，均方根誤差降低了0.9%。在D2上的實(shí)驗(yàn)結(jié)果表明，所提方案與消融實(shí)驗(yàn)方案對(duì)比，在預(yù)測(cè)時(shí)間300 s和600 s中平均位置誤差分別降低了1.3%、0.8%，在預(yù)測(cè)時(shí)間900 s時(shí)的最終位置誤差降低了0.6%，均方根誤差降低了1.0%，表明所提方案具有較好的泛化性。