基于ARIMA-Intervention-LSTM的組合預(yù)測(cè)模型

馮思曼 閆亮 張艷輝 蔡霞

摘要 針對(duì)某時(shí)刻存在異常的序列數(shù)據(jù)，首先建立添加異常值或干預(yù)效應(yīng)的ARIMA（Autoregressive Integrated Moving Average）模型，之后應(yīng)用LSTM（Long-Short Term Memory）模型對(duì)ARIMA模型殘差序列進(jìn)行深度學(xué)習(xí)。通過(guò)對(duì)波動(dòng)較為明顯的股票收盤價(jià)格日度數(shù)據(jù)和受“新冠”疫情影響的公路貨運(yùn)量序列數(shù)據(jù)進(jìn)行實(shí)證分析，證實(shí)該模型在對(duì)某時(shí)刻發(fā)生不同程度突變的試驗(yàn)數(shù)據(jù)進(jìn)行預(yù)測(cè)時(shí)，能夠明顯提高預(yù)測(cè)精度。

關(guān) 鍵 詞 ARIMA；干預(yù)分析；LSTM；組合模型；預(yù)測(cè)

中圖分類號(hào) C812；F224.7? ? ?文獻(xiàn)標(biāo)志碼 A

Hybrid forecasting model based on ARIMA-Intervention-LSTM

FENG Siman1， YAN Liang2， ZHANG Yanhui2， CAI Xia3

（1.Faculty of Science， Beijing University of Technology， Beijing 100124， China; 2. School of Mathematics and Statistics， Hebei University of Economics and Business， Shijiazhuang， Hebei 050061， China; 3.School of Science， Hebei University of Science and Technology， Shijiazhuang， Hebei 050018， China）

Abstract Since the sequence data with anomalies appear at a certain time， an ARIMA （Autoregressive Integrated Moving Average） model adding outliers or intervention effects is established， and then apply LSTM （long short term memory） model to carry out deep learning on the residual sequence of ARIMA model. Through the empirical analysis of the daily data of stock closing price with obvious noise and the series data of highway freight volume affected by the intervention of COVID-19， it is confirmed that the model can significantly improve the prediction accuracy when predicting the test data with different degrees of mutation at a certain time.

Key words ARIMA; intervention analysis; LSTM; hybrid model; prediction

0 引言

在時(shí)間序列數(shù)據(jù)的預(yù)測(cè)研究中，目前國(guó)內(nèi)大多采用單一模型進(jìn)行預(yù)測(cè)。盧志義等[1]運(yùn)用ARMA模型對(duì)天津地鐵一號(hào)線短期客運(yùn)量進(jìn)行預(yù)測(cè)并取得了較好的效果。王振杰等[2]對(duì)公共醫(yī)療衛(wèi)生支出、社會(huì)醫(yī)療支出和個(gè)人醫(yī)療支出建立ARIMA模型，顯示該模型有較好的擬合效果。譚照盈[3]研究了石家莊市各監(jiān)測(cè)站點(diǎn)的AQI數(shù)據(jù)，通過(guò)R軟件建立ARIMA模型對(duì)其進(jìn)行短期預(yù)測(cè)。邵鵬郡[4]通過(guò)建立適當(dāng)?shù)腁RIMA模型對(duì)美國(guó)失業(yè)率進(jìn)行短期預(yù)測(cè)，為國(guó)家的貨幣政策及投資者的投資決策提供依據(jù)。在干預(yù)分析方面，曹志強(qiáng)等[5]基于干預(yù)分析對(duì)黃金的日交易價(jià)格進(jìn)行預(yù)測(cè)。納艷萍[6]基于政府限行、減排措施等政策建立ARIMA模型進(jìn)行空氣質(zhì)量影響因素研究。

隨著機(jī)器學(xué)習(xí)和人工智能的發(fā)展，深度學(xué)習(xí)在時(shí)間序列預(yù)測(cè)方面的應(yīng)用愈加廣泛。長(zhǎng)短期記憶（Long Short Term Memory， LSTM）神經(jīng)網(wǎng)絡(luò)模型作為一種循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network， RNN），是當(dāng)今最受歡迎的深度學(xué)習(xí)模型之一。最早在1997年由Hochreiter等[7]提出，涉及長(zhǎng)時(shí)間滯后任務(wù)時(shí)，LSTM表現(xiàn)出比其他RNN模型更好的性能，所以被很多學(xué)者精煉和推廣。2017年，R推出Keras安裝包，這是一個(gè)運(yùn)行在Tensorflow之上的綜合庫(kù)，使得在R中可以用LSTM實(shí)現(xiàn)時(shí)間序列預(yù)測(cè)。石慶研等[8]通過(guò)CRITIC方法對(duì)利用短期航班飛行軌跡建立的ARIMA模型和LSTM模型進(jìn)行并聯(lián)，該組合模型的預(yù)測(cè)效果要比單一模型更精確。Jin等[9]在分解投資人情緒傾向的基礎(chǔ)上建立LSTM模型對(duì)股票收盤價(jià)格進(jìn)行預(yù)測(cè)。Shahid F等[10]通過(guò)建立ARIMA模型、SVR模型、LSTM模型和Bi-LSTM模型對(duì)全球主要“新冠”感染國(guó)家的死亡情況進(jìn)行預(yù)測(cè)，通過(guò)MAE和RMSE值比較，發(fā)現(xiàn)Bi-LSTM模型在2個(gè)指標(biāo)下都為最小。Yadav等[11]對(duì)印度股票市場(chǎng)創(chuàng)建數(shù)據(jù)集，并通過(guò)尋找隱藏層數(shù)量等參數(shù)的過(guò)程對(duì)模型進(jìn)行優(yōu)化。王英偉等[12]將ARIMA和LSTM混合模型應(yīng)用于5組不同行業(yè)的時(shí)間序列數(shù)據(jù)中，結(jié)果顯示ARIMA和LSTM混合模型與其他模型相比能夠有效提高預(yù)測(cè)精度。張波等[13]和張悟移等[14]利用單一LSTM模型分別對(duì)機(jī)場(chǎng)路面交通擁堵和交通運(yùn)輸業(yè)能耗進(jìn)行預(yù)測(cè)，預(yù)測(cè)效果顯示LSTM模型幾乎在所有預(yù)測(cè)期均優(yōu)于其他模型。LSTM模型由于其能夠?qū)W習(xí)序列數(shù)據(jù)長(zhǎng)期依賴關(guān)系并在處理海量數(shù)據(jù)防止梯度爆炸，在近幾年的預(yù)測(cè)中應(yīng)用十分廣泛。

LSTM模型的長(zhǎng)短期記憶特點(diǎn)使其在對(duì)時(shí)間序列數(shù)據(jù)訓(xùn)練時(shí)能夠提取更多復(fù)雜信息，然而并未發(fā)現(xiàn)學(xué)者將LSTM模型應(yīng)用到干預(yù)模型中。對(duì)于一些突發(fā)事件，如美國(guó)“911”恐怖襲擊、新冠疫情爆發(fā)等都會(huì)使時(shí)間序列數(shù)據(jù)在短時(shí)間內(nèi)產(chǎn)生不同程度的突變，再如國(guó)家出臺(tái)的相關(guān)政策及國(guó)際局勢(shì)的變化同樣會(huì)對(duì)政策敏感性數(shù)據(jù)產(chǎn)生異常影響。針對(duì)基礎(chǔ)序列在某時(shí)刻發(fā)生異常的數(shù)據(jù)，Intervention模型具有處理突發(fā)事件的優(yōu)勢(shì)，故將其與ARIMA、LSTM模型結(jié)合，即ARIMA-Intervention-LSTM混合預(yù)測(cè)模型。該模型在理論上能降低復(fù)雜序列數(shù)據(jù)的預(yù)測(cè)誤差。

1 模型理論

1.1 ARIMA模型

實(shí)際生活中的序列數(shù)據(jù)往往不平穩(wěn)，但對(duì)序列數(shù)據(jù)進(jìn)行短期預(yù)測(cè)有迫切需求，故提出一種新的時(shí)間序列預(yù)測(cè)分析方法ARIMA模型[15]。實(shí)質(zhì)就是ARMA模型與差分運(yùn)算的組合，ARIMA（p，d，q）模型針對(duì)具有時(shí)間序列性質(zhì)的數(shù)據(jù)在預(yù)測(cè)方面占有較大的優(yōu)勢(shì)，突破了ARMA模型只能研究平穩(wěn)序列的局限性，任何非平穩(wěn)序列如果能夠通過(guò)適當(dāng)d階數(shù)的差分實(shí)現(xiàn)差分后平穩(wěn)，就可以對(duì)差分后序列進(jìn)ARIMA模型擬合。對(duì)含有趨勢(shì)或周期性的非平穩(wěn)時(shí)間序列數(shù)據(jù)通常進(jìn)行差分處理，對(duì)差分平穩(wěn)后的數(shù)據(jù)使用ARIMA進(jìn)行數(shù)據(jù)擬合。

純季節(jié)模型ARIMA（P，D，Q）是指時(shí)間序列數(shù)據(jù)變化特征帶有一定的周期性，表現(xiàn)出顯著的同期相關(guān)。其中D表示季節(jié)性差分次數(shù)，P、Q分別代表季節(jié)性自回歸階數(shù)和移動(dòng)平均階數(shù)。但實(shí)際的時(shí)間序列不僅存在同期相關(guān)還與相鄰數(shù)據(jù)點(diǎn)有關(guān)。此時(shí)可對(duì)兩者的效應(yīng)進(jìn)行混合相乘，構(gòu)建ARIMA（P，D，Q）[×]ARIMA（p，d，q）模型，即ARIMA乘積季節(jié)模型對(duì)時(shí)間序列數(shù)據(jù)進(jìn)行預(yù)測(cè)。

1.2 干預(yù)分析

當(dāng)基礎(chǔ)序列發(fā)生了突發(fā)的短期性變化，就需要引入干預(yù)分析對(duì)突發(fā)事件進(jìn)行處理。

1.2.1 異常值分析

異常值是一種異乎尋常的觀測(cè)值，是指數(shù)據(jù)序列的基礎(chǔ)過(guò)程發(fā)生了突發(fā)的短期性變化。異常值出現(xiàn)可能是因?yàn)橹饔^錯(cuò)誤，也可能是客觀原因，它既可能出現(xiàn)在測(cè)量序列之中，也有可能出現(xiàn)在誤差項(xiàng)里。對(duì)于時(shí)間序列觀測(cè)數(shù)據(jù)而言，可識(shí)別的異常值有2種，分別為可加異常值和新息異常值，通常簡(jiǎn)記為AO和IO。如果序列的基礎(chǔ)過(guò)程在T時(shí)刻受到了可疊加性的擾動(dòng)，那么此時(shí)就會(huì)出現(xiàn)可加異常值，因此數(shù)據(jù)變?yōu)椋?/p>

AO可看作具有脈沖響應(yīng)的干預(yù)。如果在T時(shí)刻誤差受到了擾動(dòng)，那么在T時(shí)刻就會(huì)出現(xiàn)一個(gè)新息異常值。因此：

式中：[et]是一個(gè)零均值的白噪聲過(guò)程。將異常值納入模型之中往往使模型的擬合效果更好。

1.2.2 干預(yù)分析

假定干預(yù)是通過(guò)改變時(shí)間序列的均值函數(shù)或趨勢(shì)來(lái)對(duì)過(guò)程施加影響的，對(duì)于添加干預(yù)效應(yīng)的時(shí)間序列[Yt]的一般形式為

式中：[mt]表示均值函數(shù)；[Nt]表示ARIMA模型。假定某數(shù)據(jù)集在T時(shí)刻受到對(duì)應(yīng)干預(yù)，則在T之前，[mt]為0。T時(shí)刻序列數(shù)據(jù)相當(dāng)于受到脈沖響應(yīng)，影響均值函數(shù)，實(shí)際生活中，干預(yù)的影響只有經(jīng)歷一段時(shí)間才能全部消失。常見的有關(guān)脈沖響應(yīng)的干預(yù)模型為

通常用極大似然估計(jì)法對(duì)模型的參數(shù)進(jìn)行估計(jì)，由于[Yt-mt]為一個(gè)ARIMA過(guò)程，因此這里的似然函數(shù)即為聯(lián)合概率密度函數(shù)。

1.3 LSTM模型

由于時(shí)間序列數(shù)據(jù)往往具有前后依賴性，增加了時(shí)間序列預(yù)測(cè)的復(fù)雜度。RNN是一種專門處理序列數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)，與人工神經(jīng)網(wǎng)絡(luò)相比，其最大的特點(diǎn)就是在某一時(shí)刻的輸出能夠作為輸入再次輸入到神經(jīng)元，從而使網(wǎng)絡(luò)具有記憶能力，但在RNN中，小權(quán)重通過(guò)幾個(gè)步長(zhǎng)反復(fù)相乘，梯度逐漸減小到0，故無(wú)法解決長(zhǎng)期實(shí)踐序列依賴問(wèn)題。因此，LSTM神經(jīng)網(wǎng)絡(luò)應(yīng)運(yùn)而生。LSTM是一種特殊的RNN，主要為了解決長(zhǎng)序列訓(xùn)練過(guò)程中的梯度消失和梯度爆炸問(wèn)題。簡(jiǎn)單來(lái)說(shuō)，相比普通的RNN，LSTM能夠在更長(zhǎng)的序列中有更好的表現(xiàn)。

LSTM包括遺忘門、輸入門、輸出門和記憶細(xì)胞。sigmoid和tanh激活函數(shù)稱為“門”的機(jī)制調(diào)節(jié)，即用“門”來(lái)篩選信息，用記憶細(xì)胞來(lái)儲(chǔ)存信息。假設(shè)單元狀態(tài)里面的信息用[Ct]來(lái)表示，上一個(gè)時(shí)刻的隱藏狀態(tài)為[ht-1]，當(dāng)前的輸入為[xt]，通過(guò)權(quán)重矩陣[W]逐點(diǎn)相乘，然后將偏差[b]加到乘積中。LSTM訓(xùn)練過(guò)程如下：

1）由遺忘門sigmoid來(lái)控制上一時(shí)刻的輸出信息，具體形式如式（5）所示，其中[ft]為介于0～1之間的一個(gè)數(shù)，0表示刪除上一時(shí)刻所有信息，1表示上一時(shí)刻信息全部通過(guò)

2）在輸入門產(chǎn)生需要更新的信息。這一步包含兩部分，第一是輸入門通sigmoid函數(shù)來(lái)決定哪些值用來(lái)更新，第二是用tanh層來(lái)生成新的候選值相加，得到該時(shí)刻所需的候選值。一、二部分結(jié)合起來(lái)就將原來(lái)的單元狀態(tài)[Ct-1]更新為[Ct]，具體形式為

3）輸出門完成決定模型的輸出。首先通過(guò)sigmoid層得到一個(gè)初始輸出，然后通過(guò)tanh將值縮放到[-1，1]之間，再與sigmoid得到的輸出逐對(duì)相乘，從而得到模型的最終輸出[ht]

1.4 串聯(lián)式組合模型

串聯(lián)式組合預(yù)測(cè)模型一般是采用傳統(tǒng)時(shí)間序列預(yù)測(cè)方法同機(jī)器學(xué)習(xí)方法進(jìn)行串聯(lián)式組合預(yù)測(cè)。ARIMA對(duì)線性模型處理具有優(yōu)勢(shì)，LSTM對(duì)時(shí)間序列的非線性部分具有較好的處理效果，故對(duì)ARIMA加干預(yù)效應(yīng)之后的殘差數(shù)據(jù)建立LSTM模型進(jìn)行訓(xùn)練，在理論上應(yīng)當(dāng)比單一模型擬合及預(yù)測(cè)效果更加理想。

2 實(shí)證分析

本文采用2組不同行業(yè)的數(shù)據(jù)集進(jìn)行實(shí)證分析，驗(yàn)證模型的普適性。數(shù)據(jù)集分別為上證交易所股票收盤價(jià)格日度數(shù)據(jù)和公路貨運(yùn)量月度數(shù)據(jù)。

2.1 衡量指標(biāo)

判斷模型建立準(zhǔn)確性的指標(biāo)有很多，指標(biāo)的選定原則為盡可能從不同維度刻畫模型預(yù)測(cè)誤差大小。為保證對(duì)模型進(jìn)行評(píng)判的全面性，本文采用平均絕對(duì)誤差（Mean Absolute Error， MAE）和平均絕對(duì)百分比誤差（Mean Absolute Percentage Error， MAPE）這2項(xiàng)誤差指標(biāo)作為衡量本文提出的模型與基礎(chǔ)模型預(yù)測(cè)效果的判斷標(biāo)準(zhǔn)，其中，MAE用來(lái)度量絕對(duì)誤差的大小，而MAPE用來(lái)度量相對(duì)誤差的大小，兩者數(shù)值越小，則對(duì)應(yīng)模型的預(yù)測(cè)精度越高，具體形式如式（8）和（9）所示：

2.2 股票日度數(shù)據(jù)

股票價(jià)格預(yù)測(cè)被認(rèn)為是在經(jīng)濟(jì)領(lǐng)域中一個(gè)非常重要的實(shí)際問(wèn)題，由于股票數(shù)據(jù)不受研究者控制，受外界條件影響較大，因此一些突發(fā)的事件往往會(huì)造成觀測(cè)值的異常，導(dǎo)致序列數(shù)據(jù)在某時(shí)刻存在異常值的情況。上證交易所股票收盤價(jià)格日度數(shù)據(jù)序列如圖1所示。

2.2.1 模型建立

1）擬合異常值：采用auto.arima函數(shù)根據(jù)AIC、BIC準(zhǔn)則對(duì)該時(shí)間序列數(shù)據(jù)的ARIMA模型進(jìn)行自動(dòng)定階，確定ARIMA模型后，利用R語(yǔ)言detectAO和detectIO命令，檢測(cè)數(shù)據(jù)序列的異常值并對(duì)其進(jìn)行處理，避免異常值對(duì)數(shù)據(jù)預(yù)測(cè)的干擾。本文對(duì)2019年1月2日至2020年12月31日共487個(gè)上證交易所股票收盤價(jià)格樣本進(jìn)行預(yù)測(cè)研究。首先對(duì)該數(shù)據(jù)集建立ARIMA模型，檢測(cè)發(fā)現(xiàn)2019年2月25日、2019年4月24日、2019年5月6日和2020年2月3日上證交易所股票價(jià)格均存在異常。具體情況有：2019年由于政策引導(dǎo)股票市場(chǎng)，2月25日A股井噴，上證綜指當(dāng)日大漲5.60%；同年5月5日，美國(guó)總統(tǒng)特朗普表示對(duì)中國(guó)商品加征關(guān)稅，5月6日上證綜指大跌5.60%[16]；因?yàn)榇汗?jié)假期休市，A股在2月3日迎來(lái)了疫情爆發(fā)后第一個(gè)交易日，上證綜指低開9.13%，創(chuàng)下了A股有史以來(lái)的下跌記錄[17]。將上述異常值納入ARIMA模型后AIC變得更小了，說(shuō)明模型擬合效果更好。

2）LSTM模型參數(shù)尋優(yōu)：對(duì)異常值進(jìn)行調(diào)整擬合后，將序列真實(shí)值和擬合值相減得到模型殘差序列，對(duì)加上異常值的ARIMA模型殘差序列建立LSTM模型進(jìn)行訓(xùn)練。本文的LSTM模型共包括四層，分別為輸入層、LSTM層、dense層和輸出層。神經(jīng)網(wǎng)絡(luò)模型最重要的過(guò)程便是參數(shù)尋找過(guò)程，對(duì)特定數(shù)據(jù)集在一定范圍內(nèi)尋找出最優(yōu)參數(shù)才能保證模型的預(yù)測(cè)效果。LSTM模型輸入的3個(gè)維度（批量、時(shí)間步長(zhǎng)、輸入維度）設(shè)置為（1，2，1），其中批量的設(shè)置應(yīng)為訓(xùn)練集和測(cè)試集的共同因子，且需要保證收斂速度，經(jīng)調(diào)試后將其設(shè)置為1；時(shí)間步長(zhǎng)經(jīng)調(diào)試后設(shè)置為2；由于該數(shù)據(jù)集為日度時(shí)間序列數(shù)據(jù)，故輸入特征維度為1；在dense層，最終輸出單元設(shè)置為1，LSTM層輸出維度為100，因此dense層所需要訓(xùn)練的參數(shù)數(shù)量為11。在保證模型收斂速度快的同時(shí)模型不宜過(guò)于復(fù)雜，總共需要訓(xùn)練491個(gè)參數(shù)，Keras層結(jié)構(gòu)如表1所示。

利用網(wǎng)格化尋參的辦法，找到合適的學(xué)習(xí)率參數(shù)和迭代次數(shù)。在該股票日度數(shù)據(jù)中，通過(guò)網(wǎng)格化搜索，尋找最優(yōu)模型。將學(xué)習(xí)率控制在0.01～0.20的范圍內(nèi)尋找，變化幅度為0.01。迭代次數(shù)在4～50的范圍內(nèi)尋找，以均方誤差（MSE）作為損失函數(shù)，訓(xùn)練集中全部樣本的訓(xùn)練次數(shù)為8時(shí)模型的損失值趨于穩(wěn)定，數(shù)值穩(wěn)定在0.054 3附近；最終確定學(xué)習(xí)率為0.09。至此，ARIMA-Intervention-LSTM模型建立完成。

2.2.2 模型比較

除了建立ARIMA-Intervention-LSTM串聯(lián)模型外，本文還建立了單一的ARIMA模型、ARIMA-異常值模型和單獨(dú)的LSTM模型，并對(duì)模型的預(yù)測(cè)精度進(jìn)行比較。這些模型的建立同上述敘述過(guò)程類似，故不再展開論述。對(duì)上證交易所股票日度數(shù)據(jù)建立的各模型預(yù)測(cè)誤差如表2所示。

結(jié)果顯示，對(duì)ARIMA模型添加異常值處理，能夠有效提高預(yù)測(cè)精度，LSTM在訓(xùn)練股票等樣本量較大的序列數(shù)據(jù)時(shí)具有更為明顯的優(yōu)勢(shì)?？紤]MAPE值時(shí)，本文提出的ARIMA-Intervention-LSTM串聯(lián)模型具有比其他模型更準(zhǔn)確的預(yù)測(cè)效果。

2.3 公路運(yùn)輸量數(shù)據(jù)

受新冠疫情的影響，國(guó)內(nèi)公路貨運(yùn)量在2020年2月具有明顯的突降，國(guó)內(nèi)的公路貨運(yùn)行業(yè)受到嚴(yán)重沖擊，許多貨車司機(jī)不得不歇業(yè)在家，隨著疫情的控制，公路貨運(yùn)量逐漸上升，但目前仍未達(dá)到正常貨運(yùn)水平。公路貨運(yùn)量的數(shù)據(jù)來(lái)源于國(guó)家統(tǒng)計(jì)局月度數(shù)據(jù)，國(guó)內(nèi)公路貨運(yùn)量原始序列圖如圖2所示。將我國(guó)公路貨運(yùn)量2008年1月～2020年7月月度數(shù)據(jù)作為訓(xùn)練集，其余數(shù)據(jù)作為測(cè)試集，建立基于ARIMA-Intervention-LSTM的混合預(yù)測(cè)模型來(lái)表征模型預(yù)測(cè)效果，以下為模型建立過(guò)程。

2.3.1 模型建立

1）預(yù)干預(yù)數(shù)據(jù)的ARIMA模型：時(shí)間序列在受到干預(yù)之前的數(shù)據(jù)稱為預(yù)干預(yù)數(shù)據(jù)，首先對(duì)2008年1月～2020年7月預(yù)干預(yù)時(shí)間序列數(shù)據(jù)建立ARIMA模型，采用auto.arima函數(shù)，通過(guò)AIC、BIC準(zhǔn)則進(jìn)行模型自動(dòng)定階，最終確定模型為[ARIMA（0，1，1）×（1，1，0）12]。

2）干預(yù)分析：該序列數(shù)據(jù)在2020年2月受到干預(yù)過(guò)程，采用預(yù)干預(yù)ARIMA模型表示未受干擾過(guò)程，干預(yù)效應(yīng)在2020年2月出現(xiàn)，公路貨運(yùn)量自2013年起穩(wěn)步提升，2014年1、2月，2017年2月，2019年2月和2020年1月均存在新息異常值。公路貨運(yùn)量相比其他交通方式需要更多的人力資本，異常值均存在于1、2月份，可能與春節(jié)期間公路貨運(yùn)量減少有關(guān)。干擾影響相對(duì)未受干擾的均值函數(shù)的偏離用一些協(xié)變量的ARMA濾波器的輸出之和來(lái)表示，偏差被稱作傳遞函數(shù)，對(duì)于該數(shù)據(jù)集，創(chuàng)建2個(gè)名為covid-19的相同協(xié)變量，該變量為示性變量，記作[Pt]，在2020年2月取值為1，其它時(shí)刻取值為0，傳遞函數(shù)是階數(shù)分別為c（0，0）和c（1，0）的covid-19示性變量的2個(gè)ARMA濾波器之和。通過(guò)極大似然估計(jì)模型參數(shù)，最終得到的傳遞函數(shù){[mt]}為：

根據(jù)估計(jì)的傳遞函數(shù)，圖3給出了“新冠”疫情對(duì)公路貨運(yùn)量的影響估計(jì)，由影響估計(jì)可知，“新冠”疫情對(duì)公路貨運(yùn)量的負(fù)向影響效應(yīng)在逐漸減小，但到2020年11月止，該影響效應(yīng)并未完全消失。

3）殘差的LSTM模型：對(duì)ARIMA模型添加干預(yù)效應(yīng)，并對(duì)信息異常值進(jìn)行擬合后得到ARIMA-Intervention模型。用公路貨運(yùn)量的真實(shí)值減去ARIMA-Intervention模型，得到一組殘差序列，對(duì)殘差序列進(jìn)行LSTM模型訓(xùn)練，參數(shù)尋找過(guò)程同上述過(guò)程類似，最終確定模型訓(xùn)練次數(shù)為7，學(xué)習(xí)率為0.09。對(duì)訓(xùn)練好的模型進(jìn)行預(yù)測(cè)，并與其他單一模型進(jìn)行比較。

2.3.2 模型比較

如表3所示，ARIMA-Intervention-LSTM組合模型對(duì)公路貨運(yùn)量的預(yù)測(cè)誤差較其他模型一致小。由此可見，本文提出的組合模型預(yù)測(cè)精度整體優(yōu)于其他模型，預(yù)測(cè)效果較好。

2.4 兩實(shí)證數(shù)據(jù)集誤差分析

ARIMA-Intervention-LSTM組合模型同ARIMA模型相比降低的MAE占比作為模型預(yù)測(cè)性能的指標(biāo)，兩組數(shù)據(jù)的實(shí)證分析，對(duì)于股票數(shù)據(jù)來(lái)說(shuō)，誤差降低19%左右，公路數(shù)據(jù)的預(yù)測(cè)誤差降低了33%，此外，將表2和表3中的模型與模型類別進(jìn)行對(duì)應(yīng)可視化，結(jié)果如圖4所示，ARIMA-Intervention-LSTM組合模型在兩數(shù)據(jù)集間幾乎均具有一致最優(yōu)性。

3 結(jié)論

采用新提出的模型對(duì)兩組不同類型的數(shù)據(jù)進(jìn)行預(yù)測(cè)分析，結(jié)果顯示本文所提出的模型預(yù)測(cè)精度有所提高。有些時(shí)間序列數(shù)據(jù)即使沒有明顯的干預(yù)特點(diǎn)，在加入異常值之后也會(huì)使模型的擬合效果更好。對(duì)存在明顯突增或突降的序列數(shù)據(jù)添加干預(yù)效應(yīng)，能夠很好地提高模型預(yù)測(cè)效果。加上干預(yù)之后的ARIMA模型同樣僅對(duì)時(shí)間序列數(shù)據(jù)的線性部分有較好的提取效果，LSTM模型除具有長(zhǎng)期記憶和在大樣本時(shí)防止梯度消失的優(yōu)點(diǎn)外，同樣能夠?qū)π蛄袛?shù)據(jù)的非線性特征有較強(qiáng)的預(yù)測(cè)能力。

參考文獻(xiàn)：

[1]? ? 盧志義，聶惟聰，陳麗珍. 基于ARMA模型的城市軌道交通客流量預(yù)測(cè)[J]. 河南科學(xué)，2018，36（05）：646-651.

[2]? ? 王振杰，肖溢文，李佳懌，等. 基于ARIMA模型的2017-2025年我國(guó)醫(yī)療支出變化趨勢(shì)及預(yù)測(cè)分析[J]. 中國(guó)衛(wèi)生統(tǒng)計(jì)，2019，36（04）：571-573.

[3]? ? 譚照盈. 石家莊空氣質(zhì)量預(yù)測(cè)及影響因素研究[D]. 石家莊：河北經(jīng)貿(mào)大學(xué)，2020.

[4]? ? 邵鵬郡. 基于ARIMA時(shí)間序列模型的美國(guó)失業(yè)率預(yù)測(cè)研究[J]. 國(guó)際公關(guān)，2020（12）：395-396.

[5]? ? 曹志強(qiáng)，李慧. 基于干預(yù)分析的黃金日交易價(jià)格時(shí)序模型[J]. 數(shù)學(xué)的實(shí)踐與認(rèn)識(shí)，2015，45（15）：146-153.

[6]? ? 納艷萍. 政策干預(yù)對(duì)銀川市空氣質(zhì)量的影響研究[J]. 數(shù)學(xué)的實(shí)踐與認(rèn)識(shí)，2020，50（09）：243-249.

[7]? ? HOCHREITER S，SCHMIDHUBER J. Long short-term memory[J]. Neural Computation，1997，9（8）：1735-1780.

[8]? ? 石慶研，岳聚財(cái)，韓萍，等. 基于LSTM-ARIMA模型的短期航班飛行軌跡預(yù)測(cè)[J]. 信號(hào)處理，2019，35（12）：2000-2009.

[9]? ? JIN Z G，YANG Y，LIU Y H. Stock closing price prediction based on sentiment analysis and LSTM[J]. Neural Computing and Applications，2020，32（3）：9713–9729.

[10]? SHAHID F，ZAMEER A，MUNEEB M. Predictions for COVID-19 with deep learning models of LSTM，GRU and Bi-LSTM[J]. Chaos Solitons & Fractals，2020，140：110212.

[11]? YADAV A，JHA C K，SHARAN A. Optimizing LSTM for time series prediction in Indian stock market[J]. Procedia Computer Science，2020，167：2091-2100.

[12]? 王英偉，馬樹才. 基于ARIMA和LSTM混合模型的時(shí)間序列預(yù)測(cè)[J]. 計(jì)算機(jī)應(yīng)用與軟件，2021，38（02）：291-298.

[13]? 張波，周芳，李強(qiáng). 基于LSTM模型的北京首都國(guó)際機(jī)場(chǎng)路面交通擁堵預(yù)測(cè)[J]. 數(shù)理統(tǒng)計(jì)與管理，2020，39（05）：761-770.

[14]? 張悟移，陳成. 基于深度學(xué)習(xí)的交通運(yùn)輸業(yè)能耗預(yù)測(cè)——以“一帶一路”主要經(jīng)濟(jì)體為例[J]. 數(shù)學(xué)的實(shí)踐與認(rèn)識(shí)，2021，51（06）：74-86.

[15]? 王燕. 時(shí)間序列分析：基于R[M]. 北京：中國(guó)人民大學(xué)出版社，2015.

[16]? 燕翔，許茹純，朱成成. 2019年股市回顧與反思：行情軌跡[EB/OL]. （2020-01-01）[2022-04-29]. https：//www. gelonghui. com/p/336770.

[17]? 冉學(xué)東，安凌飛. 數(shù)字貨幣春節(jié)假期齊漲 近七日市值漲幅達(dá)34%[EB/OL]. （2020-02-03）[2022-04-29]. https：//finance. ifeng. com/c/7tlrAep6Oi9.