基于組合預(yù)測(cè)模型的鐵路貨運(yùn)量預(yù)測(cè)研究

徐玉萍，鄧俊翔，蔣澤華

基于組合預(yù)測(cè)模型的鐵路貨運(yùn)量預(yù)測(cè)研究

徐玉萍，鄧俊翔，蔣澤華

(華東交通大學(xué) 交通運(yùn)輸與物流學(xué)院，江西 南昌 330013)

為了進(jìn)一步提高鐵路貨運(yùn)量的預(yù)測(cè)精度，提出基于乘積季節(jié)模型與引入注意力機(jī)制(Attention Mechanism)的長(zhǎng)短期記憶(Long Short-Term Memory)模型的組合預(yù)測(cè)模型。首先建立乘積季節(jié)模型、LSTM模型與引入注意力機(jī)制的LSTM模型，然后利用誤差修正法分別將2種LSTM模型與乘積季節(jié)模型組合起來(lái)進(jìn)行預(yù)測(cè)，最后將預(yù)測(cè)結(jié)果分別與單一模型進(jìn)行對(duì)比。采用2005年至2018年全國(guó)鐵路月度貨運(yùn)量進(jìn)行預(yù)測(cè)分析，結(jié)果表明2種組合預(yù)測(cè)模型的預(yù)測(cè)精度均高于單一預(yù)測(cè)模型的預(yù)測(cè)精度，其中基于乘積季節(jié)模型與引入注意力機(jī)制的LSTM模型的組合預(yù)測(cè)模型精度最高，具有研究和實(shí)用價(jià)值。

鐵路貨運(yùn)量，乘積季節(jié)模型，LSTM模型，組合預(yù)測(cè)模型，注意力機(jī)制

鐵路貨運(yùn)量的預(yù)測(cè)對(duì)鐵路運(yùn)輸行業(yè)的發(fā)展有著至關(guān)重要的作用，既可以明確未來(lái)鐵路貨運(yùn)量的發(fā)展趨勢(shì)又能對(duì)未來(lái)的發(fā)展有一個(gè)大致的判斷。合理的鐵路貨運(yùn)量預(yù)測(cè)不僅能夠及時(shí)發(fā)現(xiàn)我國(guó)鐵路貨運(yùn)行業(yè)發(fā)展過(guò)程中的問(wèn)題，為我國(guó)鐵路貨運(yùn)相關(guān)部門(mén)提供建設(shè)性建議，也能夠?yàn)槲覈?guó)未來(lái)鐵路建設(shè)提供一個(gè)合理的方向。常用的預(yù)測(cè)方法有時(shí)間序列分析與機(jī)器學(xué)習(xí)兩種。時(shí)間序列分析方法又分為簡(jiǎn)單時(shí)序平均數(shù)法、加權(quán)序時(shí)平均數(shù)法、簡(jiǎn)單移動(dòng)平均法、加權(quán)移動(dòng)平均法、指數(shù)平滑法、季節(jié)趨勢(shì)預(yù)測(cè)法與市場(chǎng)壽命周期預(yù)測(cè)法等，主要用于金融、交通運(yùn)輸以及疾病防控等領(lǐng)域。張立欣等[1]通過(guò)對(duì)阿拉爾市近20年的風(fēng)速進(jìn)行分析，利用差分自回歸移動(dòng)平均模型(以下簡(jiǎn)記ARIMA)乘積季節(jié)模型進(jìn)行預(yù)測(cè)，預(yù)測(cè)效果較好。決策樹(shù)、支持向量機(jī)、神經(jīng)網(wǎng)絡(luò)、隨機(jī)森林與樸素貝葉斯等為常用的機(jī)器學(xué)習(xí)方法，這些方法廣泛應(yīng)用于自動(dòng)機(jī)器翻譯、計(jì)算機(jī)視覺(jué)(即時(shí)拍照翻譯等)、語(yǔ)音識(shí)別與預(yù)測(cè)分析等方面。GAO等[2]提出一種非線性回歸方法，即隨機(jī)森林回歸(RFR)，通過(guò)對(duì)2001年至2013年的鐵路貨運(yùn)量數(shù)據(jù)分析，發(fā)現(xiàn)預(yù)測(cè)精度高，泛化能力強(qiáng)，魯棒性好，參數(shù)可調(diào)性強(qiáng)。當(dāng)然，也不僅限于以上提到的方法，如通過(guò)小波灰色GM(1,N)模型進(jìn)行貨運(yùn)量預(yù)測(cè)[3]；改進(jìn)粒子群算法優(yōu)化長(zhǎng)短期記憶(Long Short-Term Memory)模型進(jìn)行貨運(yùn)量預(yù)測(cè)[4]；利用粒子群對(duì)灰色Verhulst模型進(jìn)行優(yōu)化以提高預(yù)測(cè)精度[5]。隨著各領(lǐng)域?qū)τ陬A(yù)測(cè)精度要求的不斷提高，原有單一模型已經(jīng)不能滿足現(xiàn)有的預(yù)測(cè)需求，不少學(xué)者已對(duì)組合預(yù)測(cè)模型進(jìn)行了研究，梁寧等[6]提出構(gòu)建多項(xiàng)式核函數(shù)與徑向基核函數(shù)線性組合的SVM-mixed預(yù)測(cè)模型并通過(guò)果蠅優(yōu)化算法確定最優(yōu)參數(shù)以提高鐵路貨運(yùn)量的預(yù)測(cè)精度。楊靜等[7]對(duì)比自回歸移動(dòng)平均模型(ARMA模型)與小波ARMA組合模型對(duì)北京某地鐵站進(jìn)站量進(jìn)行預(yù)測(cè)，發(fā)現(xiàn)組合預(yù)測(cè)模型效果更好。ZHOU等[8]提出基于粒子群優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的組合預(yù)測(cè)方法以解決BP神經(jīng)網(wǎng)絡(luò)存在的局部最優(yōu)、精度低、收斂性差等問(wèn)題，實(shí)驗(yàn)表明模型具有較好的收斂性能和穩(wěn)定性。對(duì)鐵路貨運(yùn)量預(yù)測(cè)已有大量研究，單就組合預(yù)測(cè)模型而言，主要還是通過(guò)一種模型算法對(duì)另一個(gè)模型的參數(shù)選取方式進(jìn)行改進(jìn)以解決單一算法中的局部最優(yōu)問(wèn)題，而對(duì)鐵路貨運(yùn)量數(shù)據(jù)特征的研究較少。通過(guò)對(duì)鐵路貨運(yùn)量的分析，可以發(fā)現(xiàn)鐵路貨運(yùn)量的數(shù)據(jù)同時(shí)具備線性與非線性的特征，選擇適合的模型對(duì)預(yù)測(cè)精度的高低起到至關(guān)重要的作用，故提出基于擅長(zhǎng)擬合線性特征數(shù)據(jù)的乘積季節(jié)模型與擅長(zhǎng)擬合非線性數(shù)據(jù)的LSTM模型的組合預(yù)測(cè)模型，為了進(jìn)一步提高預(yù)測(cè)精度，引入了注意力機(jī)制，使得整個(gè)組合模型更適合鐵路貨運(yùn)量的預(yù)測(cè)。

1 模型構(gòu)建

1.1 乘積季節(jié)模型

基于傳統(tǒng)時(shí)間序列分析得出的差分自回歸移動(dòng)平均模型早在20世紀(jì)70年代便已公開(kāi)發(fā)表。此模型根據(jù)原始時(shí)間序列是否平穩(wěn)以及回歸中所含部分的不同，包括自回歸模型(AR)、移動(dòng)平均模型(MA)、ARMA模型以及ARIMA模型。

設(shè)序列X={1,2,…,x}為一個(gè)時(shí)間序列，由于ARMA模型要求序列平穩(wěn)，所以需要對(duì)序列進(jìn)行平穩(wěn)化處理。ARIMA模型的表達(dá)式為：

若序列X具有季節(jié)性的變動(dòng)規(guī)律，則稱(chēng)為季節(jié)性模型，季節(jié)性模型的一般表達(dá)式為：

乘積季節(jié)模型是(,,)與(,,)的結(jié)合。設(shè)et～(,,)，則有：

建立乘積季節(jié)模型，首先通過(guò)對(duì)數(shù)據(jù)的分析得出是否存在季節(jié)性，存在則確定其周期，設(shè)為s；之后根據(jù)已知數(shù)據(jù)利用ADF檢驗(yàn)獲得具體值和；為了消除時(shí)間序列數(shù)據(jù)的季節(jié)性應(yīng)該運(yùn)用季節(jié)差分法，使新的序列趨于平穩(wěn)，其差分步長(zhǎng)應(yīng)與季節(jié)周期保持一致；通過(guò)計(jì)算相應(yīng)的AIC值來(lái)確定，，，的階數(shù)并利用極大似然法求得模型參數(shù)的估計(jì)值。

1.2 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)模型

LSTM模型最早于1997年由Sepp Hochreiter和Jurgen Schmidhuber 提出。LSTM則為循環(huán)神經(jīng)網(wǎng)絡(luò)的一種變體，主要是為了解決RNN存在的長(zhǎng)期依賴問(wèn)題，適用于處理和預(yù)測(cè)時(shí)間序列。LSTM模型的改進(jìn)主要在于由一組獨(dú)特的記憶細(xì)胞組成，這些記憶細(xì)胞將RNN中的隱藏層神經(jīng)元取代，其關(guān)鍵是記憶細(xì)胞的狀態(tài)。每個(gè) LSTM 單元由3個(gè)控制信息存儲(chǔ)和流入的門(mén)(gate)和核心信元cell組成，3個(gè)門(mén)分別是輸入門(mén)(Input gate)、輸出門(mén)(Output gate)、遺忘門(mén)( Forgetgate)，具體結(jié)構(gòu)如圖1所示。每個(gè)單元塊內(nèi)的3類(lèi)門(mén)均使用sigmoid激活單元函數(shù)來(lái)決定它們是否啟動(dòng)，使模型狀態(tài)的改變以及信息的添加可以通過(guò)單元塊選擇性地流動(dòng)。LSTM模型結(jié)構(gòu)的控制模式，有利于對(duì)時(shí)間序列上的信息進(jìn)行選擇性地記憶，滿足時(shí)間序列中長(zhǎng)期和短期關(guān)聯(lián)性分析的需求。在時(shí)刻，LSTM神經(jīng)網(wǎng)絡(luò)定義如下：

式中：W，W，W和W為x的權(quán)重；b，b，b和b偏置條件；為sigmoid激活函數(shù)；tan為雙曲正切函數(shù)。

激活函數(shù)sigmoid與tan函數(shù)的表達(dá)式分別表示為：

(7)

LSTM運(yùn)用于預(yù)測(cè)的流程：

1) 選擇Keras作為實(shí)驗(yàn)平臺(tái)，運(yùn)用python進(jìn)行編寫(xiě)基于Tensorflow為接口實(shí)現(xiàn)模型的運(yùn)行。

2) 將獲取的鐵路貨運(yùn)量進(jìn)行劃分，標(biāo)準(zhǔn)化處理這些數(shù)據(jù)，而后分為訓(xùn)練集與測(cè)試集。

3) 將訓(xùn)練集作為輸入值獲得序列x與h?1，進(jìn)入遺忘門(mén)f，查看x與h?1信息確定C?1中信息的保留，全過(guò)程由sigmoid函數(shù)進(jìn)行處理。

5) 通過(guò)輸入門(mén)i的sigmoid函數(shù)得到初始輸出，再經(jīng)輸出門(mén)o的tan函數(shù)得到預(yù)測(cè)值h。

6) 模型建立后需要通過(guò)參數(shù)的比選得出最優(yōu)參數(shù)以獲得最優(yōu)模型，帶入測(cè)試集進(jìn)行預(yù)測(cè)。

1.3 注意力機(jī)制

從對(duì)人類(lèi)視覺(jué)的研究中得出，注意力機(jī)制(Attention Mechanism)通過(guò)將足夠的注意力分配給關(guān)鍵信息來(lái)突出顯示重要的本地信息。注意機(jī)制在諸如語(yǔ)音識(shí)別，機(jī)器翻譯和文本識(shí)別等序列化數(shù)據(jù)中非常出色。基于注意力機(jī)制的神經(jīng)網(wǎng)絡(luò)在深度學(xué)習(xí)研究中引起了學(xué)者們的極大的興趣。XUE等[9]通過(guò)構(gòu)建基于注意力的時(shí)空分層卷積長(zhǎng)短期記憶(ST-HConvLSTM)網(wǎng)絡(luò)，對(duì)時(shí)空域中的動(dòng)作結(jié)構(gòu)進(jìn)行建模，經(jīng)過(guò)數(shù)據(jù)集評(píng)估得出模型性能最佳。黨宏社[10]等[10]將存儲(chǔ)注意力和解碼自注意力組合形成混合注意力，以解決文本重復(fù)、曝光偏差等問(wèn)題。

注意力機(jī)制主要通過(guò)提取新聞中的信息來(lái)輔助預(yù)測(cè)價(jià)格波動(dòng)，從而將其應(yīng)用于股票預(yù)測(cè)中。例如，喬若羽[11]通過(guò)引入注意力機(jī)制給各時(shí)間維度的信息賦予不同權(quán)重以優(yōu)化RNN、LSTM和GRU等模型以提高性能。注意機(jī)制可以具有軟性或硬性注意。注意力機(jī)制專(zhuān)注于輸入信息中的一個(gè)元素，基于最大采樣或隨機(jī)采樣選擇信息，這需要大量的訓(xùn)練才能獲得良好的結(jié)果。軟注意力機(jī)制為所有輸入信息分配權(quán)重，使輸入信息的使用效率更高，并及時(shí)獲得結(jié)果[12]。將軟注意力機(jī)制引入到LSTM模型當(dāng)中，為所有輸入特征逐個(gè)加權(quán)，以達(dá)到提高預(yù)測(cè)精度的目的。注意力機(jī)制可以表述為：

其中：a為最終權(quán)重；e為第1次加權(quán)計(jì)算的結(jié)果；w為注意力機(jī)制的權(quán)重；為注意力機(jī)制的偏差。

注意力機(jī)制主要分為2個(gè)步驟：1) 計(jì)算注意力分布；2) 根據(jù)注意力分布計(jì)算輸入信息的加權(quán)平均值。注意力機(jī)制結(jié)構(gòu)如圖2所示。

圖2 注意力機(jī)制結(jié)構(gòu)

1.4 基于誤差修正的組合預(yù)測(cè)模型

乘積季節(jié)模型對(duì)于非線性擬合能力差，預(yù)測(cè)精度不夠，故引入誤差修正的方法將乘積季節(jié)模型與基于注意力機(jī)制的LSTM模型(以下簡(jiǎn)稱(chēng)LSTM (AM))進(jìn)行組合，以提高原有預(yù)測(cè)模型的預(yù)測(cè)精度。將貨運(yùn)量數(shù)據(jù)先由乘積季節(jié)模型進(jìn)行預(yù)測(cè)，所得預(yù)測(cè)值與實(shí)際值計(jì)算得出殘差,在此記為預(yù)殘差，將預(yù)殘差輸入基于注意力機(jī)制的LSTM模型進(jìn)行訓(xùn)練以獲得訓(xùn)練后的殘差，在此記為終殘差，利用終殘差對(duì)預(yù)測(cè)值進(jìn)行誤差修正，最后輸出最終預(yù)測(cè)結(jié)果，如圖3所示。

圖3 誤差修正結(jié)構(gòu)

2 實(shí)驗(yàn)與結(jié)果分析

2.1 實(shí)驗(yàn)數(shù)據(jù)

實(shí)驗(yàn)數(shù)據(jù)均取自國(guó)家統(tǒng)計(jì)局官網(wǎng)，如圖4所示，選取2005年1月至2018年10月的鐵路貨運(yùn)量月度數(shù)據(jù)共166組，以2005年1月至2017年10月的貨運(yùn)量數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)，以2017年11月至2018年10月的貨運(yùn)量數(shù)據(jù)作為測(cè)試數(shù)據(jù)。所有模型均使用Python進(jìn)行編寫(xiě)，LSTM模型與LSTM (AM)模型采用Keras框架。

2.2 實(shí)驗(yàn)評(píng)價(jià)指標(biāo)

選取平均絕對(duì)誤差(Mean Absolute Error，MAE)、平均相對(duì)誤差(Mean Relative Error，MRE)均方根誤差(Root Mean Square Error, RMSE)作為實(shí)驗(yàn)主要評(píng)價(jià)指標(biāo)。

2.3 實(shí)驗(yàn)結(jié)果分析

實(shí)驗(yàn)將乘積季節(jié)模型、LSTM模型、LSTM(AM)模型、門(mén)控循環(huán)單元(GRU)模型、乘積季節(jié)模型與LSTM的組合模型以及乘積季節(jié)模型與LSTM(AM)的組合模型的預(yù)測(cè)值進(jìn)行了對(duì)比。如圖5所示，各模型的預(yù)測(cè)值與實(shí)際值的對(duì)比。各模型的逐點(diǎn)相對(duì)誤差如圖6所示。

圖4 2005年1月至2018年10月鐵路貨運(yùn)量

圖5 模型預(yù)測(cè)值與實(shí)際值的對(duì)比

從圖5可以看出，乘積季節(jié)模型預(yù)測(cè)數(shù)據(jù)與實(shí)際數(shù)據(jù)變化趨勢(shì)大致相同，即模型對(duì)于線性特征數(shù)據(jù)預(yù)測(cè)較好，LSTM模型預(yù)測(cè)數(shù)據(jù)與實(shí)際數(shù)據(jù)對(duì)比可以看出變化趨勢(shì)相差較大，但總體誤差較于前者要小。在引入注意力機(jī)制以后，LSTM模型的預(yù)測(cè)精度再次提高。由圖6也能看出組合模型降低了整體的相對(duì)誤差，預(yù)測(cè)效果較好。由表1可以看出，GRU與LSTM的性能在很多方面相差不大，但結(jié)果表明LSTM更適合鐵路貨運(yùn)量特征的預(yù)測(cè)，幾種預(yù)測(cè)模型相互比較，組合預(yù)測(cè)模型的評(píng)價(jià)指標(biāo)最好，即預(yù)測(cè)精度最高。

圖6 逐點(diǎn)相對(duì)誤差

表1 評(píng)價(jià)指標(biāo)對(duì)比

3 結(jié)論

1) 對(duì)比乘積季節(jié)模型、LSTM模型、GRU模型、引入注意力機(jī)制的LSTM模型與基于修正誤差的組合模型，發(fā)現(xiàn)組合預(yù)測(cè)模型可提高預(yù)測(cè)精度。由此可以看出，所提出的組合預(yù)測(cè)模型適用于數(shù)據(jù)量較多且具有復(fù)雜線性特征數(shù)據(jù)。

2) 組合預(yù)測(cè)模型效果最好，但從評(píng)價(jià)指標(biāo)可以看出，引入注意力機(jī)制的LSTM模型與2個(gè)組合預(yù)測(cè)模型的預(yù)測(cè)效果差距不大，主要原因是網(wǎng)絡(luò)已經(jīng)收斂，損失不會(huì)再有明顯下降，說(shuō)明該模型仍有處理更大數(shù)據(jù)量的能力，下一步研究可以加入更多的數(shù)據(jù)用于模型的訓(xùn)練，再進(jìn)一步提高預(yù)測(cè)能力。

3) 后續(xù)也可以再引入其他模型進(jìn)行組合，同樣加大數(shù)據(jù)規(guī)模對(duì)模型進(jìn)行更好的修改，進(jìn)一步提高模型的預(yù)測(cè)精度，由于模型考慮到數(shù)據(jù)的線性與非線性特征，也可為其他領(lǐng)域復(fù)雜時(shí)間序列的預(yù)測(cè)提供一些參考。

[1] 張立欣, 叢申, 范振岐. 基于ARIMA乘積季節(jié)模型對(duì)阿拉爾市風(fēng)速變化的分析[J]. 數(shù)學(xué)的實(shí)踐與認(rèn)識(shí), 2017, 47(23): 157?163. ZHANG Lixin, CONG Shen, FAN Zhenqi. Analysis of wind speed variation in alar based on multiple seasonal ARIMA model[J]. Journal of Mathematics in Practice and Theory, 2017, 47(23): 157?163.

[2] GAO Junning, LU Xiaochun. Forecast of China railway freight volume by random forest regression model[C]// 2015 International Conference on Logistics, Informatics and Service Sciences (LISS). Barcelona: IEEE, 2015: 1?6.

[3] 崔乃丹, 向萬(wàn)里, 孟學(xué)雷, 等. 基于小波灰色GM(1,1)模型的貨運(yùn)量預(yù)測(cè)研究[J]. 鐵道科學(xué)與工程學(xué)報(bào), 2017, 14(11): 2480?2486. CUI Naidan, XIANG Wanli, MENG Xuelei, et al. Railway freight volume forecasting based on grey GM(1,1) model and wavelet de-noising[J]. Journal of Railway Science and Engineering, 2017, 14(11): 2480? 2486.

[4] 李萬(wàn), 馮芬玲, 蔣琦瑋. 改進(jìn)粒子群算法優(yōu)化LSTM神經(jīng)網(wǎng)絡(luò)的鐵路客運(yùn)量預(yù)測(cè)[J]. 鐵道科學(xué)與工程學(xué)報(bào), 2018, 15(12): 3274?3280. LI Wan, FENG Fenling, JIANG Qiwei. Prediction for railway passenger volume based on modified PSO optimized LSTM neural network[J]. Journal of Railway Science and Engineering, 2018, 15(12): 3274?3280.

[5] 賀政綱, 黃娟. 基于FPSO灰色Verhulst模型的鐵路貨運(yùn)量預(yù)測(cè)[J]. 鐵道學(xué)報(bào), 2018, 40(8): 1?8. HE Zhenggang, HUANG Juan. Prediction of railway freight volumes based on FPSO grey Verhulst model[J]. Journal of the China Railway Society, 2018, 40(8): 1?8.

[6] 梁寧, 耿立艷, 張占福, 等. 基于GRA與SVM-mixed的貨運(yùn)量預(yù)測(cè)方法[J]. 交通運(yùn)輸系統(tǒng)工程與信息, 2016, 16(6): 94?99. LIANG Ning, GENG Liyan, ZHANG Zhanfu, et al. A prediction method of railway freight volumes using GRA and SVM-mixed[J]. Journal of Transportation Systems Engineering and Information Technology, 2016, 16(6): 94?99.

[7] 楊靜, 朱經(jīng)緯, 劉博, 等. 基于組合模型的城市軌道交通短時(shí)客流預(yù)測(cè)[J]. 交通運(yùn)輸系統(tǒng)工程與信息, 2019, 19(3): 119?125. YANG Jing, ZHU Jingwei, LIU Bo, et al. Short-term passenger flow prediction for urban railway transit based on combined model[J]. Journal of Transportation Systems Engineering and Information Technology, 2019, 19(3): 119?125.

[8] ZHOU Cheng, TAO Juncheng. Adaptive combination forecasting model for China’s logisitc freight volume based on an improved PSO-BP neural network[J]. Economic Modelling, 2015, 31(4): 646?666.

[9] XUE Fei, JI Hongbing, ZHANG Wenbo, et al. Attention- based spatial-temporal hierarchical ConvLSTM network for action recognition in videos[J]. IET Computer Vision, 2019, 13(8): 708?718.

[10] 黨宏社, 陶亞凡, 張選德. 基于混合注意力與強(qiáng)化學(xué)習(xí)的文本摘要生成[J]. 計(jì)算機(jī)工程與應(yīng)用, 2020, 56(1): 185?190. DANG Hongshe, TAO Yafan, ZHANG Xuande. Abstractive summarization model based on mixture attention and reinforcement learning[J]. Computer Engineering and Applications, 2020, 56(1): 185?190.

[11] 喬若羽. 基于神經(jīng)網(wǎng)絡(luò)的股票預(yù)測(cè)模型[J]. 運(yùn)籌與管理, 2019, 28(10): 132?140. QIAO Ruoyu. Stock prediction model based on neural network[J]. Operations Research and Management Science, 2019, 28(10): 132?140.

[12] Dat T T, Alexandros I, Juho K, et al. Temporal attention-augmented bilinear network for financial time-series data analysis[J]. IEEE Transactions on Neural Networks and Learning Systems, 2019, 30(5): 1407? 1418.

Railway freight volume forecasting based on a combined model

XU Yuping, DENG Junxiang, JIANG Zehua

(School of Transportation and Logistics, East China Jiaotong University, Nanchang 330013, China)

In order to further improve the prediction accuracy of railway freight volume, this paper proposed a combined prediction model based on multiplicative seasonal ARIMA model and the LSTM (Long Short-Term Memory) model that introduced the attention mechanism. Firstly, a product seasonal model, an LSTM model and an LSTM model with attention mechanism were established. Then, two types of LSTM models were combined with the product seasonal model for prediction using the error correction method. Finally, the prediction results were compared with single model. Based on the analysis of the monthly railway freight volume from 2005 to 2018, the results show that the prediction accuracy of the two combined prediction models is higher than that of the single prediction model. Among them, the combined prediction model based on multiplicative seasonal ARIMA model and the LSTM model with attention mechanism has the highest accuracy, and the experiment has research and practical value.

railway freight volume; multiplicative seasonal ARIMA model; LSTM neural network model; combined forecasting model; attention mechanism

U294.1+3

A

1672 ? 7029(2021)01 ? 0243 ? 07

10.19713/j.cnki.43?1423/u.T20200281

2020?04?07

國(guó)家自然科學(xué)基金資助項(xiàng)目(51708218)；江西省社科規(guī)劃項(xiàng)目(18YJ16)；南昌市社科重點(diǎn)規(guī)劃項(xiàng)目(JJ210802)

徐玉萍(1973?)，女，江西豐城人，教授，從事交通運(yùn)輸規(guī)劃與管理、運(yùn)輸經(jīng)濟(jì)研究；E?mail：1423907384@qq.com

(編輯 蔣學(xué)東)