基于LSTM的船舶航跡預(yù)測(cè)

(西安交通大學(xué) 現(xiàn)代設(shè)計(jì)及轉(zhuǎn)子軸承系統(tǒng)教育部重點(diǎn)實(shí)驗(yàn)室，西安 710049)

關(guān)于船舶航跡預(yù)測(cè),現(xiàn)有的方法有卡爾曼濾波算法、航跡插值方法、灰色模型、支持向量機(jī)、人工神經(jīng)網(wǎng)絡(luò)等。相關(guān)的研究涉及建立船舶航行軌跡擬合曲線(xiàn)[1];根據(jù)船舶的航速、航向等信息采用卡爾曼濾波算法預(yù)測(cè)船舶的運(yùn)動(dòng)軌跡[2-3];將灰色模型運(yùn)用到航跡預(yù)測(cè)當(dāng)中，使用小波變換對(duì)軌跡數(shù)據(jù)降噪處理[4]，該方法能夠及時(shí)修正帶有噪聲的航跡數(shù)據(jù)；提出組合預(yù)測(cè)模型，進(jìn)行粗預(yù)測(cè)之后，用隱馬爾可夫模型對(duì)預(yù)測(cè)結(jié)果進(jìn)行微調(diào)，取得了較高的預(yù)測(cè)精度[5]；提出支持向量機(jī)回歸(SVR)航跡預(yù)測(cè)模型，并用AIS數(shù)據(jù)進(jìn)行驗(yàn)證，不足的是無(wú)法對(duì)船舶運(yùn)動(dòng)進(jìn)行實(shí)時(shí)在線(xiàn)預(yù)測(cè)[6]；使用BP神經(jīng)網(wǎng)絡(luò)對(duì)船舶行為進(jìn)行預(yù)測(cè)，取得了一定的預(yù)測(cè)效果[7-8]。但是傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)在使用歷史航跡數(shù)據(jù)訓(xùn)練時(shí)并未體現(xiàn)先后時(shí)序，每次神經(jīng)元權(quán)重的修正只是基于單個(gè)訓(xùn)練樣本的局部調(diào)整，而船舶航行數(shù)據(jù)是典型的隨時(shí)間變化的量，每個(gè)樣本在時(shí)間軸上都有前后聯(lián)系，因此基于BP網(wǎng)絡(luò)的預(yù)測(cè)模型面對(duì)船舶復(fù)雜的軌跡態(tài)勢(shì)預(yù)測(cè)顯得捉襟見(jiàn)肘。長(zhǎng)短期記憶網(wǎng)絡(luò)(long short-term memory,LSTM)在軌跡預(yù)測(cè)方面的研究已有成功安全[9-10]，但該方法未考慮異常數(shù)據(jù)對(duì)預(yù)測(cè)精度的影響，預(yù)測(cè)準(zhǔn)確率仍有提升空間。基于此，本文提出一種基于長(zhǎng)短期記憶網(wǎng)絡(luò)的船舶航跡預(yù)測(cè)方法，運(yùn)用插值的方法對(duì)航跡數(shù)據(jù)進(jìn)行等時(shí)間間隔插補(bǔ)，綜合考慮船舶航速、航向、經(jīng)緯度特征，實(shí)現(xiàn)船舶航跡的準(zhǔn)確可靠的預(yù)測(cè)。

1 理論基礎(chǔ)

1.1 循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)

一個(gè)簡(jiǎn)單的RNN網(wǎng)絡(luò)包含了輸入層x、隱含層h、輸出層o3個(gè)部分。見(jiàn)式(1)，RNN在任一時(shí)刻t，其隱含層輸出ht由該時(shí)刻的輸入xt和上一時(shí)刻隱含層的輸出ht-1共同決定，體現(xiàn)出RNN將時(shí)序信息考慮在網(wǎng)絡(luò)結(jié)構(gòu)當(dāng)中，以達(dá)到對(duì)時(shí)間序列建模的目的。

ht=f(U·xt+W·ht-1)

(1)

式中：f為隱含層激活函數(shù)，U、V和W分別代表輸入層到隱含層、隱含層到輸出層和隱含層之間的連接權(quán)值矩陣。

1.2 長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)

LSTM網(wǎng)絡(luò)是將RNN的隱含層單元替換為L(zhǎng)STM細(xì)胞，使其能夠避免梯度消失和梯度爆炸的問(wèn)題，且具有長(zhǎng)期記憶的能力。LSTM模型的隱含層結(jié)構(gòu)見(jiàn)圖1。

LSTM網(wǎng)絡(luò)包含一組記憶模塊，取代了常規(guī)RNN中的隱含層單元。每個(gè)模塊包含一個(gè)或多個(gè)具有內(nèi)部狀態(tài)的記憶細(xì)胞，如圖1最上方的水平線(xiàn)，表示細(xì)胞狀態(tài)，可以看做是記憶鏈條，細(xì)胞狀態(tài)會(huì)沿著整個(gè)鏈條傳送，只在少數(shù)地方有一些線(xiàn)性交互，因此使得LSTM可以記憶長(zhǎng)期的信息。記憶模塊還包含3個(gè)用于控制信息流入、流出的門(mén)。LSTM計(jì)算過(guò)程如下。

1)記憶模塊中忘記門(mén)決定哪些信息需要從細(xì)胞中拋棄，表達(dá)式為

ft=σ(Wf·ht-1+Uf·xt+bf)

(2)

式中：xt為該時(shí)刻的輸入；ht-1為上一時(shí)刻隱含層的輸出；ft為忘記門(mén)的輸出；Wf、Uf、bf分別為忘記門(mén)的權(quán)值項(xiàng)和偏置項(xiàng)；σ為sigmoid激活函數(shù)。

2)輸入門(mén)(input gate)決定什么樣的信息應(yīng)該被存儲(chǔ)，這個(gè)過(guò)程主要分為兩步，第一步sigmoid層決定哪些值需要被更新。

it=σ(Wi·ht-1+Ui·xt+bi)

(3)

(4)

式中：Wc、Uc、bc分別為權(quán)值項(xiàng)和偏置項(xiàng)，為雙曲正切激活函數(shù)。

3)將忘記門(mén)和輸入門(mén)輸出的兩個(gè)值結(jié)合起來(lái)并更新細(xì)胞狀態(tài)Ct。

(5)

4)最后輸出門(mén)基于新的細(xì)胞狀態(tài)確定輸出的內(nèi)容。

Ot=σ(Wo·ht-1+Uo·xt+bo)

(6)

ht=Ot×tanh(Ct)

(7)

式中：ht表示該時(shí)刻隱含層輸出。

LSTM網(wǎng)絡(luò)訓(xùn)練采用基于時(shí)間的反向傳播算法 (back propagation trough time，BPTT)，其基本原理與經(jīng)典的誤差反傳算法(back propagation,BP)相似，均包含正向傳播和反向傳播的過(guò)程。

2 模型建立

2.1 模型結(jié)構(gòu)

為了深入挖掘船舶歷史航行數(shù)據(jù)，以船舶航向、航速和經(jīng)度、緯度作為L(zhǎng)STM網(wǎng)絡(luò)的輸入，充分利用與船舶位置聯(lián)系最緊密的航行信息，構(gòu)造實(shí)時(shí)航跡預(yù)測(cè)模型，模型結(jié)構(gòu)見(jiàn)圖2。

圖2 航跡預(yù)測(cè)模型結(jié)構(gòu)示意

對(duì)于目標(biāo)船舶，其在t時(shí)刻的航行狀態(tài)特征可以表示為

S(t)={λt,φt,vt,αt}

(8)

式中：λt、φt、vt、αt分別代表船舶在t時(shí)刻的經(jīng)度、緯度、速度和航向?？紤]到模型實(shí)時(shí)性要求，保證網(wǎng)絡(luò)的預(yù)測(cè)輸出能夠確定船舶位置即可，不需要預(yù)測(cè)的船舶速度和航向信息，以減少模型計(jì)算量。綜上，采用船舶的t時(shí)刻及其前n-1個(gè)時(shí)刻的經(jīng)度、緯度、航速、航向作為L(zhǎng)STM網(wǎng)絡(luò)的輸入，t+1時(shí)刻船舶的經(jīng)緯度坐標(biāo)作為輸出，建立LSTM航跡預(yù)測(cè)模型，則t+1時(shí)刻船舶位置可以表示為

L(t+1)=g(S(t),S(t-1),…,S(t-n+1))

(9)

式中：L(t+1)=(λt+1,φt+1)，g表示所訓(xùn)練的模型。

2.2 數(shù)據(jù)分析

2.2.1 數(shù)據(jù)來(lái)源

船舶自動(dòng)識(shí)別系統(tǒng)(automatic identification system，AIS)數(shù)據(jù)中蘊(yùn)含著豐富的船舶信息，裝有AIS的船舶能夠?qū)⑵渥陨淼慕?jīng)緯度坐標(biāo)、航速、航向等動(dòng)態(tài)信息以及MMSI、船長(zhǎng)、船名等靜態(tài)信息周期地向附近水域船舶及岸基廣播[11]。因此，將船舶AIS信息作為數(shù)據(jù)來(lái)源。

2.2.2 AIS數(shù)據(jù)修復(fù)

實(shí)際的AIS數(shù)據(jù)中包含大量的錯(cuò)誤數(shù)據(jù)[12]，此外，航跡數(shù)據(jù)采樣間隔一般不相等，限制了模型的應(yīng)用。本文所用到的AIS數(shù)據(jù)主要為動(dòng)態(tài)信息，因此要對(duì)船舶經(jīng)緯度、航速、航向等數(shù)據(jù)進(jìn)行修復(fù)。

1)異常值剔除。使用分箱的方式，將數(shù)據(jù)分到一系列等寬的“箱”中，若一個(gè)數(shù)據(jù)點(diǎn)在某一屬性上的值，位于“箱”中所有數(shù)據(jù)點(diǎn)在這一屬性上統(tǒng)計(jì)平均值的3倍標(biāo)準(zhǔn)差之外，就認(rèn)為這個(gè)點(diǎn)是異常值點(diǎn)，需要被剔除。

2)時(shí)間對(duì)齊。針對(duì)1)中剔除的異常值需要用合理的值來(lái)替代以及AIS數(shù)據(jù)本身就存在的缺失值，使用三次樣條插值的方法對(duì)其修復(fù)，以獲得時(shí)間間隔相等的航跡數(shù)據(jù)。選取缺失數(shù)據(jù)點(diǎn)t前后相鄰兩點(diǎn)，提取他們的時(shí)間ti、ti+1，船舶位置為(λi,φi)、(λi+1,φi+1)。對(duì)于在ti、ti+1之間的t時(shí)刻的船舶經(jīng)度數(shù)據(jù)可以用式(10)計(jì)算。

(10)

式中：hi=xi-xi-1；Mi為插值函數(shù)λ(t)在節(jié)點(diǎn)ti處的二階導(dǎo)數(shù)值。同理可以計(jì)算出插值點(diǎn)t時(shí)的船舶緯度、速度、航向等數(shù)據(jù)。在真實(shí)航跡上人為添加一些異常值，并用所述方法修復(fù)，仿真航跡修復(fù)結(jié)果見(jiàn)圖3，可以看出，插值得到的數(shù)據(jù)點(diǎn)能夠準(zhǔn)確反映船舶航跡的真實(shí)情況。

3 實(shí)驗(yàn)分析

3.1 實(shí)驗(yàn)數(shù)據(jù)

選取渤海水域煙臺(tái)到大連段某船真實(shí)航行的AIS數(shù)據(jù)作為原始樣本，按照時(shí)間順序?qū)⑵淝?/5劃分為訓(xùn)練集，后1/5用于測(cè)試訓(xùn)練好的LSTM模型，原始數(shù)據(jù)經(jīng)修復(fù)之后用于網(wǎng)絡(luò)訓(xùn)練和測(cè)試。

3.2 模型訓(xùn)練與預(yù)測(cè)

航跡預(yù)測(cè)流程見(jiàn)圖4。

圖4 模型預(yù)測(cè)流程

1)AIS數(shù)據(jù)預(yù)處理。由于AIS數(shù)據(jù)在不同船速下傳輸時(shí)間間隔不等，使用前述方法對(duì)原始AIS數(shù)據(jù)進(jìn)行修復(fù)之后，使用三次樣條插值對(duì)船舶航行數(shù)據(jù)進(jìn)行插值，獲得時(shí)間間隔為10 s的等間隔數(shù)據(jù)。使用min-max標(biāo)準(zhǔn)化方法對(duì)數(shù)據(jù)進(jìn)行歸一化處理。

(11)

式中：1≤i≤n，1≤j≤n，max{xj}為樣本數(shù)據(jù)的最大值，min{xj}為樣本數(shù)據(jù)的最小值，轉(zhuǎn)換后的數(shù)據(jù)均在[0,1]內(nèi)，避免因輸入數(shù)據(jù)間量級(jí)差別較大對(duì)LSTM網(wǎng)絡(luò)模型影響。

2)模型參數(shù)初始化。使用Xavier方法對(duì)網(wǎng)絡(luò)權(quán)值初始化，使用網(wǎng)格搜索的方法對(duì)LSTM網(wǎng)絡(luò)時(shí)間步、隱含層節(jié)點(diǎn)、學(xué)習(xí)率、批大小等參數(shù)進(jìn)行尋優(yōu)。網(wǎng)絡(luò)參數(shù)選擇如下：輸入層節(jié)點(diǎn)為4，隱含層節(jié)點(diǎn)為100，輸出層節(jié)點(diǎn)為2，設(shè)置初始學(xué)習(xí)率為0.001，批大小為20。

3)模型訓(xùn)練。LSTM網(wǎng)絡(luò)的輸入考慮了時(shí)間順序，在考慮連續(xù)多個(gè)時(shí)刻的船舶信息時(shí)不再是將多個(gè)時(shí)刻的向量拼接成一個(gè)向量，而是增加了一階時(shí)間步，輸入數(shù)據(jù)的格式為矩陣形式。訓(xùn)練樣本表示為

{xt:[S(t),S(t-1),…,S(t-n+1)],

Yt:L(t+1)}

(12)

式中：n為時(shí)間步長(zhǎng)，使用adam優(yōu)化算法對(duì)網(wǎng)絡(luò)權(quán)值進(jìn)行更新，根據(jù)設(shè)置的誤差率確定網(wǎng)絡(luò)最終的權(quán)值。

4)模型預(yù)測(cè)。訓(xùn)練完成后，將測(cè)試樣本輸入到模型中進(jìn)行預(yù)測(cè)，同時(shí)還要對(duì)預(yù)測(cè)的結(jié)果反歸一化，使得預(yù)測(cè)得到的航跡數(shù)據(jù)具有真實(shí)的物理意義。

3.3 實(shí)驗(yàn)結(jié)果

為了驗(yàn)證方法的可行性與可靠性，選取船舶直行和轉(zhuǎn)向兩種情況下各200組連續(xù)數(shù)據(jù)進(jìn)行實(shí)驗(yàn)，數(shù)據(jù)時(shí)間間隔為10 s，前4/5數(shù)據(jù)用于網(wǎng)絡(luò)訓(xùn)練，后1/5數(shù)據(jù)用于預(yù)測(cè)。

3.3.1 不同時(shí)間步長(zhǎng)對(duì)實(shí)驗(yàn)結(jié)果的影響

時(shí)間步長(zhǎng)即連續(xù)n個(gè)時(shí)刻的船舶航跡數(shù)據(jù)輸入，直接影響航跡預(yù)測(cè)的準(zhǔn)確性，為了選擇合適的時(shí)間步長(zhǎng)，保證網(wǎng)絡(luò)其他參數(shù)不變，改變時(shí)間步長(zhǎng)，對(duì)比不同時(shí)間步長(zhǎng)下的預(yù)測(cè)結(jié)果，見(jiàn)圖5。

圖5 不同時(shí)間步預(yù)測(cè)誤差結(jié)果

使用均方根誤差ΔRMSE作為誤差評(píng)價(jià)指標(biāo)，越低則表明誤差越小，其數(shù)學(xué)表達(dá)式為

(13)

式中：m表示樣本數(shù)量。隨著時(shí)間步長(zhǎng)增大，網(wǎng)絡(luò)預(yù)測(cè)誤差逐漸呈下降趨勢(shì)，當(dāng)時(shí)間步過(guò)長(zhǎng)時(shí)，輸入的前后關(guān)聯(lián)性減小造成網(wǎng)絡(luò)的預(yù)測(cè)誤差增加，并經(jīng)實(shí)驗(yàn)驗(yàn)證在時(shí)間步等于5時(shí)的ΔRMSE最小。

3.3.2 船舶實(shí)時(shí)航跡預(yù)測(cè)結(jié)果對(duì)比

航行預(yù)測(cè)結(jié)果及誤差分析見(jiàn)圖6、7。

圖6 直行預(yù)測(cè)結(jié)果

圖7 轉(zhuǎn)向預(yù)測(cè)結(jié)果

圖6a)和7a)中空心坐標(biāo)點(diǎn)為真實(shí)航跡，實(shí)心點(diǎn)為預(yù)測(cè)數(shù)據(jù)，可以看出預(yù)測(cè)的航跡可以較好地反映出訓(xùn)練集船舶的航行趨勢(shì)，且預(yù)測(cè)航跡與真實(shí)航跡吻合較好。

由圖6b)、c)和7b)、c)可以看出，兩種情況下的經(jīng)緯度預(yù)測(cè)最大誤差不超過(guò)5×10-4°,表明該模型具有一定的預(yù)測(cè)精度，可以滿(mǎn)足監(jiān)控中心對(duì)船舶進(jìn)行監(jiān)控和管理的需求。

3.3.3 輸入對(duì)模型預(yù)測(cè)精度的影響

為了分析航速v、航向α作為輸入對(duì)預(yù)測(cè)精度的影響，將網(wǎng)絡(luò)的輸入改為僅包含船舶的經(jīng)緯度坐標(biāo)，使用轉(zhuǎn)向情況下的航跡數(shù)據(jù)進(jìn)行驗(yàn)證，實(shí)驗(yàn)結(jié)果見(jiàn)表1。

表1 輸入對(duì)預(yù)測(cè)精度的影響對(duì)比

可以看出，含航速、航向的預(yù)測(cè)模型相對(duì)于僅有經(jīng)緯度輸入的情況，對(duì)船舶的航跡的預(yù)測(cè)誤差大大減小，預(yù)測(cè)精度也相對(duì)提高。

3.3.4 不同模型預(yù)測(cè)精度對(duì)比

選擇灰色預(yù)測(cè)GM(1,1)模型和BP神經(jīng)網(wǎng)絡(luò)與所提方法進(jìn)行對(duì)比實(shí)驗(yàn)。其中GM(1,1)模型灰發(fā)展系數(shù)取0.5，單一使用經(jīng)度和緯度進(jìn)行訓(xùn)練和預(yù)測(cè)；BP網(wǎng)絡(luò)的層數(shù)設(shè)置為四層，輸入層、隱含層1、隱含層2、輸出層維數(shù)分別為4、50、10、2，同樣使用經(jīng)度、緯度、航速和航向作為網(wǎng)絡(luò)輸入，經(jīng)緯度作為輸出，實(shí)驗(yàn)結(jié)果見(jiàn)圖8?？梢钥闯霰疚姆椒ㄏ噍^于灰色預(yù)測(cè)模型和BP網(wǎng)絡(luò)有著更高的預(yù)測(cè)精度。

圖8 不同模型預(yù)測(cè)結(jié)果對(duì)比

4 結(jié)論

相較于傳統(tǒng)方法，基于LSTM網(wǎng)絡(luò)的航跡預(yù)測(cè)模型具有更高的精度；利用三次樣條插值可以將不等間隔的航跡數(shù)據(jù)處理成整周期采樣，可有效避免不等間隔數(shù)據(jù)對(duì)模型的限制，能夠快速準(zhǔn)確地預(yù)測(cè)船舶航跡。未來(lái)的研究應(yīng)考慮模型的在線(xiàn)更新和實(shí)時(shí)預(yù)測(cè)，以進(jìn)一步提高模型的航跡預(yù)測(cè)能力。