基于LSTM神經(jīng)網(wǎng)絡(luò)模型的鋼鐵價(jià)格預(yù)測(cè)

陸澤楠+商玉林

【摘 要】由于鋼鐵價(jià)格具有影響因子難以確定和非線性的特點(diǎn)，在數(shù)據(jù)挖掘預(yù)測(cè)分析是，傳統(tǒng)的預(yù)測(cè)方法只能夠?qū)︿撹F價(jià)格進(jìn)行小數(shù)據(jù)量的分析，導(dǎo)致預(yù)測(cè)精度低、速度慢且效率低下。隨著大數(shù)據(jù)的深入研究，將神經(jīng)網(wǎng)絡(luò)與spark相結(jié)合，能滿(mǎn)足用戶(hù)對(duì)實(shí)時(shí)數(shù)據(jù)處理的需求。在多個(gè)深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)模型中，基于長(zhǎng)短期記憶單元（Long Short-term memory，LSTM）的遞歸神經(jīng)網(wǎng)絡(luò)（recurrent neural network，RNN）模型因?yàn)槠淠苡行Ю眯蛄袛?shù)據(jù)中長(zhǎng)距離依賴(lài)信息的能力，非常適用于價(jià)格指數(shù)的預(yù)測(cè)中。文章利用python和lstm，結(jié)合近幾年鋼鐵交易價(jià)格的走勢(shì)數(shù)據(jù)，對(duì)數(shù)據(jù)進(jìn)行回歸擬合，生成訓(xùn)練模型，然后將得出的模型用來(lái)對(duì)未來(lái)的鋼鐵交易價(jià)格進(jìn)行預(yù)測(cè)，使用均方誤差（MSE）對(duì)預(yù)測(cè)數(shù)據(jù)和原始數(shù)據(jù)進(jìn)行誤差分析與處理，并與支持向量回歸（SVR）模型進(jìn)行對(duì)比。

【關(guān)鍵詞】大數(shù)據(jù)；LSTM；RNN；MSE；SVR；價(jià)格指數(shù)預(yù)測(cè)

【Abstract】Because of the characteristics of steel prices is difficult to determine the impact factor and nonlinear， in data mining prediction analysis， analysis of the traditional prediction methods can only be a small amount of data on steel prices， resulting in low prediction accuracy， slow speed and low efficiency.With the deep research of large data， the combination of neural network and spark can meet the needs of users for real-time data processing. In multiple depth learning neural network models， The recurrent neural network model based on long and short memory units is very suitable for the prediction of price index because it can effectively utilize the ability of long distance dependence information in sequence data. The use of Python and LSTM， combined with the trend of steel price data in recent years， the data fitting， the generation of the training model， then the model is used to predict the future price of steel trading， analysis and handle the error of forecast data and the original data using mean square error， and with the support vector regression model comparison.

【Key words】Big Data；LSTM；RNN；MSE；SVR；Price index forecasting

0 前言

鋼鐵生產(chǎn)在國(guó)民經(jīng)濟(jì)中具有舉足輕重的地位，是社會(huì)發(fā)展的重要物質(zhì)保障。中國(guó)近50年來(lái)在鋼鐵行業(yè)有著突飛猛進(jìn)的發(fā)展。鋼鐵價(jià)格的波動(dòng)對(duì)國(guó)民經(jīng)濟(jì)以及相關(guān)行業(yè)帶來(lái)深遠(yuǎn)的影響。導(dǎo)致鋼鐵價(jià)格波動(dòng)的因素有很多，既有來(lái)自宏觀經(jīng)濟(jì)的影響，又有生產(chǎn)成本、供求關(guān)系、國(guó)際貿(mào)易、國(guó)家政策等諸多因素。因此，鋼鐵價(jià)格的預(yù)測(cè)是當(dāng)前國(guó)內(nèi)外數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)應(yīng)用研究的熱點(diǎn)。目前，對(duì)鋼鐵價(jià)格預(yù)測(cè)研究的算法主要有線性回歸法、小波分解算法、支持向量機(jī)法、聚類(lèi)分析法等[1]。

在大數(shù)據(jù)時(shí)代，一個(gè)好的預(yù)測(cè)方法可以為決策者提供強(qiáng)有力的決策依據(jù)。其不僅可以準(zhǔn)確地預(yù)測(cè)價(jià)格的走勢(shì)，還可以預(yù)測(cè)顧客對(duì)商品的需求，從而讓生產(chǎn)者有效地安排生產(chǎn)、減少企業(yè)的庫(kù)存、合理安排物流、提高企業(yè)的生產(chǎn)效率、提高顧客對(duì)企業(yè)的滿(mǎn)意程度、綜合提高企業(yè)的競(jìng)爭(zhēng)力。目前用于預(yù)測(cè)的方法有很多，主要的預(yù)測(cè)方法有：移動(dòng)平均預(yù)測(cè)法、指數(shù)平滑預(yù)測(cè)法、趨勢(shì)外推預(yù)測(cè)法、回歸預(yù)測(cè)法、灰色預(yù)測(cè)法、移動(dòng)自回歸預(yù)測(cè)法、機(jī)器學(xué)習(xí)法[2]。

本文基于近10年鋼鐵交易價(jià)格數(shù)據(jù)，分別從單因子和雙因子方面，將LSTM與SVR這兩個(gè)模型進(jìn)行對(duì)比分析，得出最優(yōu)預(yù)測(cè)模型。

1 研究對(duì)象

對(duì)近十年鋼鐵交易價(jià)格數(shù)據(jù)進(jìn)行數(shù)據(jù)處理，分別得到單因子（圖1）與雙因子（圖2）兩份csv數(shù)據(jù)。其中單因子為鋼鐵交易價(jià)格，雙因子為鋼鐵交易價(jià)格與對(duì)應(yīng)的成交量。

2 研究方法

長(zhǎng)短期記憶人工神經(jīng)網(wǎng)絡(luò)（Long-Short Term Memory，LSTM）是一種改進(jìn)的時(shí)間循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network，RNN）。LSTM可以學(xué)習(xí)時(shí)間序列長(zhǎng)短期依賴(lài)信息，由于神經(jīng)網(wǎng)絡(luò)中包含時(shí)間記憶單元，因此適用于處理和預(yù)測(cè)時(shí)間序列中的間隔和延遲事件。

循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）可以被看做是同一神經(jīng)網(wǎng)絡(luò)的多次復(fù)制，每個(gè)神經(jīng)網(wǎng)絡(luò)模塊會(huì)把消息傳遞給下一個(gè)（見(jiàn)圖3）。

LSTM 通過(guò)刻意的設(shè)計(jì)來(lái)避免長(zhǎng)期依賴(lài)問(wèn)題，其每個(gè)神經(jīng)元中包含四個(gè)交互的層（見(jiàn)圖4），分別為忘記門(mén)層、輸入門(mén)層、更新門(mén)層以及輸出門(mén)層。

3 應(yīng)用分析

3.1 LSTM模型單因子預(yù)測(cè)

首先，基于序貫?zāi)Ｐ停╧eras）搭建三層RNN神經(jīng)網(wǎng)絡(luò)模型，每層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中均包含LSTM神經(jīng)網(wǎng)絡(luò)單元。其中第一層為1個(gè)輸入單元，50個(gè)輸出單元；第二層為50個(gè)輸入單元，100個(gè)輸出單元；最后一層為100個(gè)輸入單元，1個(gè)輸出單元。誤差函數(shù)為均方誤差（mse）函數(shù)，激活函數(shù)為rmsprop。

接下來(lái)，對(duì)3078條每日的鋼鐵價(jià)格數(shù)據(jù)進(jìn)行模型訓(xùn)練，現(xiàn)將數(shù)據(jù)歸一化，處理為-1到1區(qū)間內(nèi)的數(shù)，便于訓(xùn)練模型的確立。每5條數(shù)據(jù)分為一組訓(xùn)練數(shù)據(jù)，后一條數(shù)據(jù)為標(biāo)簽數(shù)據(jù)。模型重復(fù)訓(xùn)練100次，得以下結(jié)果（圖5）：

均方誤差為：0.00847638923468，最終預(yù)測(cè)值為：3666.215308904648

根據(jù)多次改變模型層數(shù)，重復(fù)訓(xùn)練次數(shù)等方面得出的結(jié)果分析，隨著訓(xùn)練次數(shù)的減少，模型擬合不理想；訓(xùn)練次數(shù)增加，模型會(huì)過(guò)擬合。因此，對(duì)于單因子數(shù)據(jù)，取100次訓(xùn)練次數(shù)，能得到較好的預(yù)測(cè)模型。

3.2 LSTM模型雙因子預(yù)測(cè)

首先，因?yàn)樾蜇災(zāi)Ｐ停╧eras）只適用于單因子，因此需要自定義模型結(jié)構(gòu)。分別定義獲取訓(xùn)練集函數(shù)與獲取測(cè)試集函數(shù)，訓(xùn)練集個(gè)數(shù)與測(cè)試集個(gè)數(shù)比為10：1，并分別將它們歸一化。再定義神經(jīng)網(wǎng)絡(luò)變量，即輸入層、輸出層的權(quán)重、偏置。最后定義LSTM神經(jīng)網(wǎng)絡(luò)，確定輸入與輸出數(shù)據(jù)維度。對(duì)模型進(jìn)行100次重復(fù)訓(xùn)練后，進(jìn)行預(yù)測(cè)，得以下結(jié)果（圖6）：

均方誤差為：0.00428824，最終預(yù)測(cè)值為：3746.97504515

因?yàn)槎嘁蜃雨P(guān)聯(lián)影響的原因，不同訓(xùn)練次數(shù)，導(dǎo)致模型擬合效果不同。因此，接下來(lái)分別對(duì)不同訓(xùn)練次數(shù)進(jìn)行預(yù)測(cè)對(duì)比，以下是200次、300次、400次以及500次重復(fù)訓(xùn)練的誤差值、預(yù)測(cè)值以及訓(xùn)練時(shí)間（表1）。

對(duì)比單因子和不同訓(xùn)練次數(shù)下雙因子的誤差值，在重復(fù)訓(xùn)練300次時(shí)，模型擬合最好，預(yù)測(cè)值也最接近真實(shí)值。因此可以將此模型保存，存在實(shí)用價(jià)值。

3.3 SVR模型雙因子預(yù)測(cè)

作為對(duì)比，本文也使用支持向量回歸（SVR）模型，對(duì)相同雙因子數(shù)據(jù)進(jìn)行分析預(yù)測(cè)。SVR模型分別從RBF、Linear以及Polynomial這三個(gè)核函數(shù)進(jìn)行訓(xùn)練預(yù)測(cè)，得出以下結(jié)果（圖7）：

與LSTM模型相比，SVR耗時(shí)長(zhǎng)、精度低、實(shí)用性低，因此不提倡使用此模型。

4 總結(jié)

鋼鐵的價(jià)格變化波動(dòng)不定，傳統(tǒng)的預(yù)測(cè)方法僅僅能夠?qū)ι倭康臄?shù)據(jù)進(jìn)行預(yù)測(cè)分析。本文采用了LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法，建立了新的預(yù)測(cè)模型，對(duì)鋼鐵交易價(jià)格的數(shù)據(jù)進(jìn)行預(yù)測(cè)分析。實(shí)驗(yàn)結(jié)果表明，LSTM神經(jīng)網(wǎng)絡(luò)可以有效地預(yù)測(cè)鋼鐵的價(jià)格走勢(shì)，不僅比傳統(tǒng)的預(yù)測(cè)方法速度更快，而且精度更高，具有很好的應(yīng)用前景。

【參考文獻(xiàn)】

[1]朱靖翔，張濱，樂(lè)嘉錦.基于內(nèi)存計(jì)算的鋼鐵價(jià)格預(yù)測(cè)算法研究.東華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，上海201620.

[2]彭巖，王萬(wàn)森，王旭仁.基于機(jī)器學(xué)習(xí)的風(fēng)險(xiǎn)預(yù)測(cè)方法研究[J].計(jì)算機(jī)科學(xué)，2009，36（4）：205-207.

[責(zé)任編輯：朱麗娜]