融合空間關(guān)系與時(shí)間序列特征的民航旅客量預(yù)測(cè)算法

吳麗娜 馮 迪 李忠虎

(中國(guó)民航信息網(wǎng)絡(luò)股份有限公司 北京 101318 (民航旅客服務(wù)智能化應(yīng)用技術(shù)重點(diǎn)實(shí)驗(yàn)室 北京 101318)

0 引 言

未來(lái)民航旅客量的變化趨勢(shì)一直是民航業(yè)最受關(guān)注的課題，對(duì)未來(lái)民航旅客量預(yù)測(cè)的準(zhǔn)確與否直接決定了民航業(yè)的收益。精準(zhǔn)的近期旅客量的預(yù)測(cè)是民航收益管理員操作的開(kāi)放艙位的基礎(chǔ)，而中遠(yuǎn)期的民航旅客量預(yù)測(cè)為航空公司調(diào)整運(yùn)力及航線網(wǎng)絡(luò)提供有力的支持。本文旨在解決航線粒度的民航旅客量的中長(zhǎng)期的預(yù)測(cè)。

受經(jīng)濟(jì)、政策、天氣、季節(jié)、運(yùn)力投放等多種因素的影響，民航旅客量預(yù)測(cè)的準(zhǔn)確性受到限制，其預(yù)測(cè)難度也隨之增加?，F(xiàn)有旅客量預(yù)測(cè)常采用以下幾類(lèi)方法，一類(lèi)是傳統(tǒng)的時(shí)間序列預(yù)測(cè)方法，考慮了數(shù)據(jù)的時(shí)間特性，對(duì)時(shí)間序列曲線進(jìn)行分析，綜合考慮其趨勢(shì)性和周期性特征，這些模型就被廣泛地應(yīng)用于各種時(shí)序預(yù)測(cè)問(wèn)題中，并作了很多的改進(jìn)[1-4]，文獻(xiàn)[5-6]采用三次指數(shù)平滑模型對(duì)鐵路旅客量，城市交通流量進(jìn)行了預(yù)測(cè)，這類(lèi)時(shí)序方法考慮了時(shí)間序列的時(shí)序特點(diǎn)并對(duì)其建模預(yù)測(cè)。另一類(lèi)是機(jī)器學(xué)習(xí)方法[7-10]，如BP神經(jīng)網(wǎng)絡(luò)[7-8]和深度學(xué)習(xí)[9-10]，這些方法對(duì)影響未來(lái)目標(biāo)的數(shù)據(jù)進(jìn)行特征提取，多角度描述對(duì)未來(lái)趨勢(shì)變化的影響，并建立合理的模型。另外還有一些組合方法[11-13]，對(duì)不同的問(wèn)題，采用多個(gè)模型進(jìn)行組合，并綜合使用，能夠獲得不錯(cuò)的預(yù)測(cè)效果。以上方法都只考慮了數(shù)據(jù)的時(shí)間特性，而文獻(xiàn)[14-16]將城市劃分為區(qū)域網(wǎng)絡(luò)，對(duì)深度卷積神經(jīng)網(wǎng)絡(luò)(DCNN)進(jìn)行了改進(jìn)，有效捕獲了交通數(shù)據(jù)之間的空間依賴(lài)關(guān)系，并預(yù)測(cè)城市區(qū)域交通流量的變化趨勢(shì)。

基于時(shí)間序列的方法能夠捕捉數(shù)據(jù)的時(shí)間信息，而缺少數(shù)據(jù)的空間信息，而基于機(jī)器學(xué)習(xí)的方法，尤其是采用卷積神經(jīng)網(wǎng)絡(luò)的方法能夠捕捉數(shù)據(jù)的空間信息。在民航旅客量預(yù)測(cè)的問(wèn)題上，城市(機(jī)場(chǎng))間的空間位置會(huì)影響民航旅客的出行路線，進(jìn)而影響相關(guān)城市的旅客量，其空間連通信息會(huì)影響民航旅客量預(yù)測(cè)的準(zhǔn)確性。因此本文采用卷積神經(jīng)網(wǎng)絡(luò)捕捉城市間的空間信息和近期時(shí)序信息，采用三次指數(shù)平滑模型建立民航旅客量時(shí)間序列的時(shí)間信息，獲取時(shí)間序列的長(zhǎng)期趨勢(shì)和周期信息，最后采用全連接網(wǎng)絡(luò)將上述兩個(gè)模型的結(jié)果與外部因素進(jìn)行融合，提高民航旅客量預(yù)測(cè)的準(zhǔn)確性。

1 算法概況

1.1 問(wèn)題定義

本文旨在解決在當(dāng)前時(shí)間點(diǎn)下，利用已知的歷史旅客量序列預(yù)測(cè)未來(lái)的旅客量值。問(wèn)題定義如下，(Xk+1,Xk+2,…,Xk+n)=f(Xt|t=k,k-1,…,0)，已知某航線t=0至t=k時(shí)刻的旅客量，預(yù)測(cè)t=k+1至k+n時(shí)刻的旅客量。在民航領(lǐng)域，某航線在一段時(shí)間內(nèi)的旅客量構(gòu)成一個(gè)時(shí)間序列的曲線，如圖1所示。以2個(gè)航線在2019年1月至3月內(nèi)按天的旅客量曲線為例，圖1中橫坐標(biāo)為天，縱坐標(biāo)為旅客量，可見(jiàn)不同航線的時(shí)間序列曲線其特點(diǎn)并不相同，趨勢(shì)性和周期性表現(xiàn)也不一致。民航航線的旅客量序列不僅和時(shí)間有關(guān)，還和航線的起始到達(dá)城市的空間位置相關(guān)，一個(gè)航線的旅客量的增減會(huì)與和該航線相關(guān)的其他航線。以圖2為例，對(duì)到達(dá)城市B的旅客量，由A到B的旅客量、A到C城市中轉(zhuǎn)再到B的旅客量、D到B的旅客量組成，這三條航線的旅客量會(huì)相互影響，而對(duì)于從城市A出發(fā)的旅客量，由A到C、A經(jīng)C中轉(zhuǎn)到B、A直達(dá)到B、A到E的旅客量組成，城市A的旅客的出行計(jì)劃會(huì)直接影響這幾條航線的旅客量，其中一條航線的旅客量增加會(huì)導(dǎo)致其他航線的旅客量減少。因此，要提高航線級(jí)旅客量預(yù)測(cè)的準(zhǔn)確性，時(shí)序關(guān)系和空間關(guān)系是建立模型的必要因素。

(a) 航線示例AA

(b) 航線示例BB圖1 民航航線旅客量時(shí)序曲線圖示例

圖2 民航航線旅客流空間關(guān)系圖

1.2 算法整體框架

(1)

圖3 算法總體框架

模型由三部分組成，圖3所示的上面部分為所有航線在每個(gè)歷史時(shí)刻的旅客量形成的該時(shí)刻的旅客量矩陣，每個(gè)歷史時(shí)刻的旅客量矩陣按時(shí)間順序組成了一個(gè)矩陣序列。算法構(gòu)建兩個(gè)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，一個(gè)以預(yù)測(cè)時(shí)刻最近鄰的若干個(gè)旅客量矩陣為輸入，建立鄰近性信息的模型；一個(gè)以歷史上相同周期的旅客量矩陣作為輸入，建立周期性信息的模型。圖3所示的中間部分為對(duì)各個(gè)航線分別建立旅客量的時(shí)間序列，采用三次指數(shù)平滑模型，對(duì)各個(gè)時(shí)間序列進(jìn)行預(yù)測(cè)，所有航線的預(yù)測(cè)結(jié)果，仍是一個(gè)旅客量矩陣。圖3所示的下面部分表示外部因素，包含日期特征和對(duì)應(yīng)城市的天氣特征，以上三部分的輸出融合在一起進(jìn)行訓(xùn)練。

2 算法實(shí)現(xiàn)

本文算法設(shè)立兩個(gè)多層卷積殘差網(wǎng)絡(luò)結(jié)構(gòu)，和多個(gè)三次指數(shù)平滑模型，并將兩個(gè)模型的結(jié)果與外部因素融合在一起，采用最小化預(yù)測(cè)值矩陣和真實(shí)值矩陣的均方誤差來(lái)訓(xùn)練模型。

2.1 卷積殘差神經(jīng)網(wǎng)絡(luò)

低層卷積網(wǎng)絡(luò)可以獲取航線網(wǎng)絡(luò)的相鄰的空間相關(guān)關(guān)系，多層卷積可以獲取更遠(yuǎn)距離的空間關(guān)系。因此，為了對(duì)航線網(wǎng)絡(luò)的空間關(guān)系建模，以不同時(shí)刻航線網(wǎng)絡(luò)的旅客量矩陣作為輸入，設(shè)計(jì)了多層卷積網(wǎng)絡(luò)，如圖3所示。假設(shè)當(dāng)前時(shí)刻為t，預(yù)測(cè)未來(lái)t+k時(shí)刻的旅客量，本文設(shè)計(jì)了兩組神經(jīng)網(wǎng)絡(luò)，一組以鄰近預(yù)測(cè)時(shí)刻的旅客量序列(Xc)(0)=[Xt-m,…,Xt-1,Xt]為初始輸入，建立鄰近時(shí)間性質(zhì)的卷積網(wǎng)絡(luò)結(jié)構(gòu)，時(shí)間跨度為m，一組截取相同周期的旅客量序列(Xp)(0)=[Xt+k-nT,…,Xt+k-2T,Xt+k-T]，周期為T(mén)，跨度為n。

以鄰近性質(zhì)的卷積網(wǎng)絡(luò)為例，其過(guò)程為(Xc)(c0)∈Rm×N×N為初始輸入，通過(guò)卷積C1將(Xc)(c0)轉(zhuǎn)換為(Xc)(c1)∈Rm×N×N，其計(jì)算過(guò)程如下，

(Xc)(c1)=f((Wc)(c1)*(Xc)(c0)+(bc)(c1))

(2)

式中：*表示卷積；(Wc)(c1)和(bc)(c1)是第一層卷積的參數(shù),f(·)是激活函數(shù)，在這里使用線性修正單元ReLU函數(shù)，即f(x)=max(x,0)。為了保持卷積后的矩陣與輸入矩陣大小相同，在下一層卷積的輸入矩陣周?chē)钛a(bǔ)上零值。為了能夠高效學(xué)習(xí)，并且保證模型預(yù)測(cè)的準(zhǔn)確率不會(huì)隨著神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的深度結(jié)構(gòu)而降低，本算法的網(wǎng)絡(luò)結(jié)在第一層卷積之后加入了L個(gè)殘差單元，殘差單元定義如下：

(Xc)(Rl+1)=(Xc)(Rl)+F((Xc)(Rl);(θc)(Rl))

l=1,2,…,L

(3)

式中：(Xc)(Rl)和(Xc)(Rl+1)分別表示第l個(gè)殘差單元的輸入和輸出；F(·)表示殘差映射；(θc)(Rl)表示第l個(gè)殘差單元的參數(shù)。這里殘差單元采用2個(gè)(ReLU+卷積)的組合結(jié)構(gòu)。在殘差單元之后，加入1個(gè)卷積單元，獲得該部分的最終輸出(Xc)(c2)。

同樣方法可獲得表示周期性質(zhì)的卷積網(wǎng)絡(luò)輸出(Xp)(c2)。

將上述兩個(gè)卷積結(jié)構(gòu)的輸出(Xc)(c2)和(Xp)(c2)進(jìn)行融合，融合的計(jì)算公式如下：

(Xcp)(c2)=(Wc)° (Xc)(c2)+(Wp)° (Xp)(c2)

(4)

式中：° 表示哈馬達(dá)乘積；Wc和Wp是學(xué)習(xí)參數(shù)。

2.2 三次指數(shù)平滑算法

時(shí)間序列數(shù)據(jù)一般有以下兩個(gè)特點(diǎn)：一是趨勢(shì)性，二是季節(jié)性。三次指數(shù)平滑算方法基于一次指數(shù)平滑和二次指數(shù)平滑算法，可以對(duì)同時(shí)含有趨勢(shì)和季節(jié)性的時(shí)間序列進(jìn)行預(yù)測(cè)。已知時(shí)間序列(X1,X2,…,Xt,…)，一次指數(shù)平滑算法計(jì)算如下：

(5)

二次指數(shù)平滑計(jì)算公式如下：

(6)

預(yù)測(cè)第T期的數(shù)值的計(jì)算公式為：

(7)

三次指數(shù)平滑是在二次指數(shù)平滑的基礎(chǔ)上再進(jìn)行一次平滑，其計(jì)算公式如下：

(8)

預(yù)測(cè)第T期的數(shù)值的計(jì)算公式為：

(9)

三次指數(shù)平滑算法可以很好地保存時(shí)間序列數(shù)據(jù)的趨勢(shì)和季節(jié)性信息，因此得到了廣泛的研究。

2.3 外部特征日期特征與天氣特征

2.4 融 合

(10)

本文算法定義損失函數(shù)為:

(11)

式中：θ表示上述模型中所有的學(xué)習(xí)參數(shù)；λ是正則化項(xiàng)系數(shù)。本文采用最小化上述損失函數(shù)來(lái)訓(xùn)練模型，獲得所有學(xué)習(xí)參數(shù)的值。

3 實(shí)驗(yàn)與結(jié)果分析

本文采用的實(shí)驗(yàn)數(shù)據(jù)來(lái)源于中國(guó)航信2011年至2018年共8年的旅客量數(shù)據(jù)，本實(shí)驗(yàn)選取30個(gè)開(kāi)通機(jī)場(chǎng)的城市，構(gòu)成900個(gè)城市對(duì)，預(yù)測(cè)未來(lái)14天的旅客量，即預(yù)測(cè)時(shí)間長(zhǎng)度k=14。實(shí)驗(yàn)中鄰近性旅客量的天數(shù)m=14，周期T=7天，歷史周期數(shù)量n=12。實(shí)驗(yàn)選取其中80%的數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)集，20%的數(shù)據(jù)作為測(cè)試數(shù)據(jù)集。

本文算法中，卷積神經(jīng)網(wǎng)絡(luò)中第一個(gè)卷積和殘差單元均采用32個(gè)卷積核，卷積核大小的范圍為{2×2,3×3,4×4}，殘差單元的個(gè)數(shù)L的取值范圍為(2,4,6,8)。實(shí)驗(yàn)中對(duì)上述參數(shù)組合分別進(jìn)行訓(xùn)練，選取在測(cè)試集上性能最優(yōu)的模型作為最終模型。實(shí)驗(yàn)中最終參數(shù)為卷積核大小是3×3,L=6。實(shí)驗(yàn)結(jié)果采用平均準(zhǔn)確率Pavg來(lái)評(píng)估算法的準(zhǔn)確性，定義如下:

(12)

實(shí)驗(yàn)對(duì)2019年的旅客量進(jìn)行預(yù)測(cè)，比較了ARIMA方法、單獨(dú)使用卷積神經(jīng)網(wǎng)絡(luò)、單獨(dú)使用三次指數(shù)平滑，及本文算法的實(shí)驗(yàn)效果。圖4所示為幾個(gè)航線的不同預(yù)測(cè)天的平均預(yù)測(cè)誤差率結(jié)果，圖中橫標(biāo)是預(yù)測(cè)的未來(lái)14天，縱坐標(biāo)是對(duì)應(yīng)平均誤差率結(jié)果，ARIMA表示ARIMA方法的預(yù)測(cè)結(jié)果，CNN表示卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的預(yù)測(cè)結(jié)果，ES3表示三次指數(shù)平滑算法預(yù)測(cè)的結(jié)果。可以看出，ARIMA和三次指數(shù)平滑算法隨著預(yù)測(cè)時(shí)間的增大，平均相對(duì)誤差也隨之增大，卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的預(yù)測(cè)效果并不穩(wěn)定，而本文提出的算法明顯優(yōu)于前兩者，有效地提高了民航旅客量預(yù)測(cè)的準(zhǔn)確性。

(a) 航線1 (b) 航線2

(c) 航線3 (d) 航線4圖4 部分航線實(shí)驗(yàn)結(jié)果

4 結(jié) 語(yǔ)

本文針對(duì)民航旅客量預(yù)測(cè)問(wèn)題，提出了基于空間關(guān)系的預(yù)測(cè)模型，采用卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)對(duì)民航航線網(wǎng)絡(luò)的城市間的空間相關(guān)性進(jìn)行建模，采用三次指數(shù)平滑模型對(duì)民航旅客量時(shí)間序列的趨勢(shì)性和周期性進(jìn)行建模，并加入天氣特征和日期特征作為外部因素。實(shí)驗(yàn)結(jié)果表明，本文算法有效地提升了預(yù)測(cè)準(zhǔn)確性。

但是影響民航旅客量變化的因素還有很多，比如突發(fā)事件、重大活動(dòng)等，因此如何量化這些因素對(duì)旅客量的影響，并建立新的民航旅客量預(yù)測(cè)模型，是下一步的研究重點(diǎn)。