基于GSA-ELM 算法的股票市場(chǎng)預(yù)測(cè)模型

張小寧，官啟航，黃敬宇

（1.甘肅廣播電視大學(xué)，甘肅 蘭州 730000；2.蘭州大學(xué)信息科學(xué)與工程學(xué)院，甘肅 蘭州 730000）

1 研究背景

股票市場(chǎng)的指數(shù)高低是反映國(guó)內(nèi)市場(chǎng)經(jīng)濟(jì)發(fā)展情況的重要指標(biāo)之一[1]。隨著國(guó)內(nèi)人民經(jīng)濟(jì)生活水平的不斷提高，參與股票投資的人數(shù)也逐年增長(zhǎng)。股票市場(chǎng)因其具有高風(fēng)險(xiǎn)與高收益并存的特點(diǎn)，一直是人們的主要投資工具。因此，如何對(duì)股票的價(jià)格走勢(shì)進(jìn)行有效地預(yù)測(cè)，進(jìn)而提高股票的投資回報(bào)率，也成為了眾多投資者所關(guān)注的問(wèn)題[2]。

股票市場(chǎng)的波動(dòng)預(yù)測(cè)是多種因素共同作用的結(jié)果，主要有國(guó)家出臺(tái)的金融政策、發(fā)售股票的公司主體的經(jīng)營(yíng)情況和國(guó)家匯率的調(diào)整等因素[3]。眾多因素的變化使得股票市場(chǎng)價(jià)格波動(dòng)頻繁，同時(shí)也具有了非線性、穩(wěn)定性、隨機(jī)性等特點(diǎn)。近年來(lái)深度學(xué)習(xí)技術(shù)的飛速發(fā)展，并應(yīng)用于各種領(lǐng)域，都取得了較好的成果。因此，諸多學(xué)者將深度學(xué)習(xí)的技術(shù)和預(yù)測(cè)股票市場(chǎng)的價(jià)格走勢(shì)相融合，通過(guò)模型進(jìn)行預(yù)測(cè)，以此來(lái)降低股民的投資風(fēng)險(xiǎn)，提高股票的經(jīng)濟(jì)收益[4]。

2 國(guó)內(nèi)外研究現(xiàn)狀

股票市場(chǎng)的預(yù)測(cè)通常是利用前期的股票數(shù)據(jù)，來(lái)預(yù)測(cè)股票未來(lái)價(jià)格走勢(shì)的過(guò)程[5]。經(jīng)過(guò)國(guó)內(nèi)外學(xué)者的深入研究，股票市場(chǎng)的預(yù)測(cè)主要分為基于傳統(tǒng)機(jī)器學(xué)習(xí)算法和基于深度學(xué)習(xí)網(wǎng)絡(luò)兩種方法。

傳統(tǒng)的機(jī)器學(xué)習(xí)算法主要包括支持向量機(jī)、K近鄰算法和XGBoost 算法。Trafails 和Ince[6]將支持向量機(jī)技術(shù)應(yīng)用于RBF 神經(jīng)網(wǎng)絡(luò)和反向傳播過(guò)程中，并利用生成的模型去預(yù)測(cè)股票的價(jià)格走勢(shì)。Cao和Tay[7]提出了一種自適應(yīng)參數(shù)的改進(jìn)支持向量機(jī)算法，來(lái)應(yīng)對(duì)金融時(shí)序序列的穩(wěn)定性，并將模型應(yīng)用在海外股票市場(chǎng)的數(shù)據(jù)集中，結(jié)果表明支持向量機(jī)的性能較高。張偉楠等[8]利用K 近鄰算法來(lái)預(yù)測(cè)股票市場(chǎng)價(jià)格的漲跌，集成多個(gè)K 近鄰算法模型，通過(guò)滑窗方法將歷史價(jià)格和當(dāng)前價(jià)格進(jìn)行對(duì)比，結(jié)果表明集成模型能有效預(yù)測(cè)股票價(jià)格的波動(dòng)情況。凌筱玥[9]利用XGBoost 算法運(yùn)算效率高和準(zhǔn)確率高等優(yōu)點(diǎn)，對(duì)上證綜合指數(shù)數(shù)據(jù)集進(jìn)行股票價(jià)格的漲跌預(yù)測(cè)，同時(shí)和支持向量機(jī)、決策樹(shù)算法進(jìn)行對(duì)比分析，結(jié)果表明基于XGBoost 算法的預(yù)測(cè)準(zhǔn)確率更高。

基于深度學(xué)習(xí)網(wǎng)絡(luò)的股票預(yù)測(cè)方法能夠在數(shù)據(jù)量較多的情況下，通過(guò)自身的特征提取和表示能力，在不考慮經(jīng)濟(jì)學(xué)原理的前提下直接從數(shù)據(jù)中提取出有效信息[10]。Chen 等[11]利用LSTM 網(wǎng)絡(luò)對(duì)國(guó)內(nèi)股票市場(chǎng)的歷史數(shù)據(jù)進(jìn)行分析，相比于隨機(jī)預(yù)測(cè)方法，LSTM 網(wǎng)絡(luò)的預(yù)測(cè)精確度更高。Shao 等[12]先利用K-means 算法對(duì)股票數(shù)據(jù)進(jìn)行聚類集群，根據(jù)集群的數(shù)量，對(duì)每一個(gè)集群分別進(jìn)行LSTM 網(wǎng)絡(luò)訓(xùn)練，來(lái)預(yù)測(cè)下一個(gè)股票加一日的價(jià)格。Althelaya 等[13]提出將雙向長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)（BiLSTM）應(yīng)用于股票市場(chǎng)的指數(shù)預(yù)測(cè)中，同時(shí)和堆疊長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)（SLSTM）和長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)（LSTM）對(duì)比，結(jié)果表明BiLSTM 的模型預(yù)測(cè)精確度更高。

本研究主要利用股票市場(chǎng)交易的歷史數(shù)據(jù)作為基準(zhǔn)，利用引力搜索優(yōu)化ELM 網(wǎng)絡(luò)，對(duì)未來(lái)的股票市場(chǎng)進(jìn)行回歸預(yù)測(cè)分析，并通過(guò)實(shí)際的交易數(shù)據(jù)進(jìn)行誤差計(jì)算，來(lái)衡量回歸預(yù)測(cè)模型的性能。

3 相關(guān)技術(shù)知識(shí)

3.1 引力搜索算法

引力搜索算法（Gravitational Search Algorithm,GSA）屬于群智能優(yōu)化算法，是伊朗的Rashed 等[14]受到萬(wàn)有引力理論的啟發(fā)而提出的。算法的基本原理是在解空間中的個(gè)體都會(huì)互相吸引，其吸引力的大小和個(gè)體的質(zhì)量乘積成正比，和個(gè)體間距離的平方成反比[15]。個(gè)體的移動(dòng)遵循質(zhì)量小的個(gè)體會(huì)向質(zhì)量大的個(gè)體的方向去移動(dòng)原則，經(jīng)過(guò)算法不斷地迭代，質(zhì)量最大的個(gè)體即為優(yōu)化問(wèn)題的最優(yōu)解。引力搜索算法的數(shù)學(xué)過(guò)程如下。

假設(shè)算法中的搜索空間有n 維，個(gè)體的種群規(guī)模為X=（X1，X2，...，Xn），其中第i 個(gè)個(gè)體在每個(gè)維度上的位置信息可表示為Xi=（x1，x2，...xn）。算法初始化時(shí)，每個(gè)個(gè)體的位置是隨機(jī)分布的，t 時(shí)刻下，空間中個(gè)體i 和個(gè)體j 的引力大小如下：

式中：Mpi（t）表示個(gè)體i 的質(zhì)量大??；Maj（t）表示個(gè)體j 的質(zhì)量大??；ε 是無(wú)限接近于0 的數(shù)，防止分母為0；G（t）是引力參數(shù)，隨著t 的增加而減?。籊0和α 是常數(shù)；T 為最大迭代次數(shù)；Rij（t）表示個(gè)體i 和個(gè)體j 之間的歐氏距離的平方。

t 時(shí)刻下，個(gè)體i 在維度d 上的所有作用力的合力大小和產(chǎn)生的加速度大小如下：

式中：rand 是[0，1]之間的隨機(jī)數(shù)；Mi（t）表示個(gè)體i 的質(zhì)量大小。在引力搜索算法中，kbest（t）是隨時(shí)間增加而減小的線性函數(shù)，由于算法存在陷入局部最優(yōu)的缺陷，故隨著迭代次數(shù)的增加，算法應(yīng)該更加注重開(kāi)發(fā)能力，探索能力逐漸減弱。kbest（t）函數(shù)的初始值設(shè)為種群規(guī)模數(shù)量N，在算法的迭代過(guò)程中，線性減小至1，表示最終只剩下一個(gè)質(zhì)量最大的個(gè)體作用于其他個(gè)體。

t 時(shí)刻下，個(gè)體的質(zhì)量大小和適應(yīng)度值大小有關(guān)，適應(yīng)度值大的個(gè)體質(zhì)量也越大，個(gè)體i 的質(zhì)量的計(jì)算方式如下所示：

式中：fitnessi（t）是t 時(shí)刻下個(gè)體i 的適應(yīng)度值；best（t）和worst（t）表示t 時(shí)刻下，所有個(gè)體中適應(yīng)度值最大和最小值。

當(dāng)待優(yōu)化問(wèn)題是求解函數(shù)的最小值時(shí)，所有個(gè)體中適應(yīng)度值最大和最小值計(jì)算方式如下：

當(dāng)待優(yōu)化問(wèn)題是求解函數(shù)的最大值時(shí)，所有個(gè)體中適應(yīng)度值最大和最小值計(jì)算方式如下：

個(gè)體i 的移動(dòng)速度和位置信息的更新方式如下所示：

引力搜索算法的執(zhí)行步驟如下。

第一步：初始化算法的參數(shù)。包括個(gè)體的種群規(guī)模N，算法最大迭代次數(shù)T，并隨機(jī)初始化個(gè)體在空間中的位置信息，設(shè)置每個(gè)個(gè)體的初速度為0；

第二步：計(jì)算每個(gè)個(gè)體的適應(yīng)度值大??；

第三步：根據(jù)公式（3）計(jì)算每個(gè)個(gè)體的質(zhì)量大??；

第四步：根據(jù)公式（2）計(jì)算每個(gè)個(gè)體在不同維度上的所有作用力的合力大小和產(chǎn)生的加速度大小；

第五步：根據(jù)公式（6）計(jì)算每個(gè)個(gè)體的移動(dòng)速度和更新后的位置信息；

第六步：回到第二步重新迭代計(jì)算，若達(dá)到算法的最大迭代次數(shù)，則結(jié)束循環(huán)，輸出結(jié)果。

3.2 ELM 網(wǎng)絡(luò)

極限學(xué)習(xí)機(jī)（Extreme Learning Machine，ELM）是由新加坡南洋理工大學(xué)的Huang 等[16]于2004 年提出的一種單隱藏層的前饋神經(jīng)網(wǎng)絡(luò)。相比于傳統(tǒng)的BP 神經(jīng)網(wǎng)絡(luò)，ELM 網(wǎng)絡(luò)的學(xué)習(xí)速度更快，需要調(diào)節(jié)的參數(shù)較少，只需初始化隱藏層的神經(jīng)元結(jié)點(diǎn)個(gè)數(shù)，具有較好的泛化能力[17]。ELM 網(wǎng)絡(luò)訓(xùn)練時(shí)沒(méi)有通過(guò)梯度下降法迭代求解的過(guò)程，而是利用輸入層和隱藏層的權(quán)值矩陣和實(shí)際輸出矩陣來(lái)進(jìn)行求解，故ELM 網(wǎng)絡(luò)訓(xùn)練的時(shí)間更短[18]。ELM 網(wǎng)絡(luò)結(jié)構(gòu)圖如圖1 所示，組成包括一個(gè)輸入層、一個(gè)隱藏層和一個(gè)輸出層。

圖1 ELM 網(wǎng)絡(luò)結(jié)構(gòu)圖

假設(shè)樣本規(guī)模為N，每一個(gè)樣本可表示為（xi，ti），隱藏層的神經(jīng)元結(jié)點(diǎn)個(gè)數(shù)為M，激勵(lì)函數(shù)為g（x）的極限學(xué)習(xí)機(jī)表達(dá)式如下：

式中：wi是輸入層結(jié)點(diǎn)和隱藏層結(jié)點(diǎn)i 之間的權(quán)值向量，βi是隱藏層結(jié)點(diǎn)i 和輸出層結(jié)點(diǎn)之間的權(quán)值向量，bi是隱藏層結(jié)點(diǎn)i 的偏置值。

當(dāng)ELM 網(wǎng)絡(luò)完美擬合所有樣本時(shí)，該等式可變?yōu)椋?/p>

此時(shí)等式可以變形為：

式中：H 是ELM 網(wǎng)絡(luò)隱藏層的輸出矩陣，矩陣中的第i 列表示第i 個(gè)輸入樣本對(duì)應(yīng)的輸出。并且當(dāng)前饋神經(jīng)網(wǎng)絡(luò)的激活函數(shù)是非零連續(xù)可微時(shí)，網(wǎng)絡(luò)可以擬合任意的連續(xù)函數(shù)，故ELM 網(wǎng)絡(luò)的輸入權(quán)值向量和偏置值可以隨機(jī)初始化，在網(wǎng)絡(luò)訓(xùn)練過(guò)程中不再需要迭代更新。

ELM 網(wǎng)絡(luò)的訓(xùn)練過(guò)程如下所示。

第一步：初始化網(wǎng)絡(luò)中輸入層結(jié)點(diǎn)和隱藏層結(jié)點(diǎn)之間的權(quán)值向量w，隱藏層結(jié)點(diǎn)的偏置值b；

第二步：計(jì)算出隱藏層的輸出矩陣H；

第三步：計(jì)算出隱藏層結(jié)點(diǎn)和輸出層結(jié)點(diǎn)之間的權(quán)值向量β。

4 GSA-ELM 模型

基于GSA 算法優(yōu)化ELM 網(wǎng)絡(luò)模型的基本原理是利用引力搜索算法去優(yōu)化ELM 網(wǎng)絡(luò)的初始輸入權(quán)值向量和偏置值。由于原始的ELM 網(wǎng)絡(luò)的擬合性較強(qiáng)，故ELM 網(wǎng)絡(luò)的輸入權(quán)值向量和偏置值可以隨機(jī)初始化，在網(wǎng)絡(luò)訓(xùn)練過(guò)程中不進(jìn)行迭代更新。雖然減少了網(wǎng)絡(luò)的訓(xùn)練時(shí)間，但每次產(chǎn)生的初始權(quán)值向量和偏置值都是隨機(jī)的，具有盲目性。本次實(shí)驗(yàn)先通過(guò)引力搜索算法進(jìn)行適應(yīng)度函數(shù)尋優(yōu)，求解最優(yōu)的初始權(quán)值向量和偏置值。適應(yīng)度函數(shù)是訓(xùn)練集的最終輸出向量和理論輸出向量之間的均方誤差（Mean Squared Error），函數(shù)表達(dá)式如下：

當(dāng)MSE 的值越小時(shí)，表示模型對(duì)輸入實(shí)驗(yàn)數(shù)據(jù)的預(yù)測(cè)準(zhǔn)確率越高?；贕SA 算法優(yōu)化ELM 網(wǎng)絡(luò)模型的具體執(zhí)行步驟如下。

第一步：處理訓(xùn)練集和測(cè)試集樣本，確定輸入層、隱藏層和輸出層的結(jié)點(diǎn)個(gè)數(shù)等參數(shù)；

第二步：初始化網(wǎng)絡(luò)中輸入層結(jié)點(diǎn)和隱藏層結(jié)點(diǎn)之間的權(quán)值向量w，隱藏層結(jié)點(diǎn)的偏置值b；

第三步：將訓(xùn)練集輸入ELM 網(wǎng)絡(luò)，并通過(guò)GSA算法不斷調(diào)整求解出最優(yōu)的輸入權(quán)值向量和偏置值參數(shù)；

第四步：將測(cè)試集輸入GSA 算法訓(xùn)練好的ELM網(wǎng)絡(luò)中，計(jì)算出隱藏層的輸出矩陣H、隱藏層結(jié)點(diǎn)和輸出層結(jié)點(diǎn)之間的權(quán)值向量β；

第五步：計(jì)算出GSA-ELM 網(wǎng)絡(luò)輸出層的預(yù)測(cè)值并輸出。

5 實(shí)驗(yàn)結(jié)果及分析

5.1 數(shù)據(jù)集介紹

本次實(shí)驗(yàn)所采用的股票預(yù)測(cè)數(shù)據(jù)集是來(lái)源于真實(shí)股票市場(chǎng)的數(shù)據(jù)，時(shí)間從1990 年12 月—2015年12 月，共5 917 條股票數(shù)據(jù)，每條股票數(shù)據(jù)包括6 種屬性，見(jiàn)表1。

表1 股票數(shù)據(jù)集的屬性值

開(kāi)盤價(jià)是指每個(gè)交易日開(kāi)市后的第一筆每股買賣成交價(jià)格；最高價(jià)指的是當(dāng)日所有買賣成交價(jià)格中的最大值；最低價(jià)指的是當(dāng)日所有買賣成交價(jià)格中的最小值；收盤價(jià)是指當(dāng)日最后一筆交易前1min所有交易的成交量加權(quán)平均價(jià)格；調(diào)整后收盤價(jià)指的是在第二天開(kāi)盤前任何時(shí)間發(fā)生的任何分配和公司行為導(dǎo)致股票價(jià)格發(fā)生變化后的最終價(jià)格；成交量指的是該交易日內(nèi)買賣雙方所達(dá)成交易的總體數(shù)量。

本次實(shí)驗(yàn)將5 917 條股票數(shù)據(jù)作為輸入樣本，通過(guò)前一天的6 種股票屬性，去預(yù)測(cè)當(dāng)天的股票開(kāi)盤價(jià)，故總共產(chǎn)生除最后一天的5 916 條股票市場(chǎng)數(shù)據(jù)作為輸入樣本，除第一天的5 916 條股票市場(chǎng)開(kāi)盤價(jià)作為理論輸出值。為了更好地展示模型的回歸預(yù)測(cè)能力，選擇后100 條股票數(shù)據(jù)作為測(cè)試集，將股票訓(xùn)練數(shù)據(jù)集輸入基于GSA 算法優(yōu)化ELM 網(wǎng)絡(luò)的模型中進(jìn)行訓(xùn)練，最后將測(cè)試集輸入訓(xùn)練好的模型中進(jìn)行預(yù)測(cè)，得出實(shí)驗(yàn)結(jié)果。

5.2 結(jié)果分析

本次實(shí)驗(yàn)將GSA 算法優(yōu)化ELM 網(wǎng)絡(luò)的模型應(yīng)用于股票市場(chǎng)價(jià)格的預(yù)測(cè)領(lǐng)域中，利用GSA 算法求解最優(yōu)解的能力，找出ELM 網(wǎng)絡(luò)中最優(yōu)的輸入權(quán)值向量和偏置值，能夠減小回歸預(yù)測(cè)的誤差值，提高對(duì)股票市場(chǎng)價(jià)格的預(yù)測(cè)準(zhǔn)確率。

回歸預(yù)測(cè)的評(píng)價(jià)指標(biāo)主要有均方誤差（Mean Squared Error，MSE），平均絕對(duì)誤差（Mean Absolute Error，MAE）和平均百分比誤差（Mean Absolute Percent Error，MAPE）等，指標(biāo)主要的計(jì)算方式見(jiàn)表2。

表2 回歸預(yù)測(cè)的評(píng)價(jià)指標(biāo)

為了更清晰地表明GSA 算法的優(yōu)化性能，將基于GSA 算法優(yōu)化ELM 網(wǎng)絡(luò)模型和原始的ELM 網(wǎng)絡(luò)模型進(jìn)行實(shí)驗(yàn)對(duì)比分析，將股票測(cè)試數(shù)據(jù)集輸入兩種模型中進(jìn)行預(yù)測(cè)，得出的結(jié)果見(jiàn)表3。

表3 評(píng)價(jià)指標(biāo)的實(shí)驗(yàn)結(jié)果

通過(guò)表3 和圖2、圖3 的實(shí)驗(yàn)結(jié)果可以得出，在5 次回歸預(yù)測(cè)實(shí)驗(yàn)中，GSA-ELM 模型每一次的MSE 值都比ELM 模型要小，MSE 表示模型預(yù)測(cè)輸出值和理論輸出值差的平方的期望值，MSE 的值越小，表示GSA-ELM 模型對(duì)股票市場(chǎng)數(shù)據(jù)的回歸預(yù)測(cè)準(zhǔn)確率更高；MAE 是絕對(duì)誤差的平均值，能夠更好地評(píng)價(jià)預(yù)測(cè)值和理論值誤差的實(shí)際情況，在5 次實(shí)驗(yàn)結(jié)果中，GSA-ELM 模型的MAE 值更小，同樣表示本研究所提出的模型更優(yōu)；MAPE 表示預(yù)測(cè)結(jié)果相比理論輸出結(jié)果的偏離程度，5 次實(shí)驗(yàn)結(jié)果都表明，GSA-ELM 模型輸出值的偏離程度比ELM 模型的偏離程度更小，更加接近于股票測(cè)試集數(shù)據(jù)的輸出值。5 次實(shí)驗(yàn)結(jié)果的平均值也表明GSA-ELM 模型的性能更優(yōu)，驗(yàn)證了GSA 的優(yōu)化能力和穩(wěn)定性，同時(shí)對(duì)股票市場(chǎng)數(shù)據(jù)的回歸預(yù)測(cè)準(zhǔn)確率更高。

圖2 GSA-ELM 和ELM 模型預(yù)測(cè)圖

圖3 GSA-ELM 和ELM 模型誤差圖

6 結(jié)論

本研究提出了一種利用引力搜索算法優(yōu)化極限學(xué)習(xí)機(jī)網(wǎng)絡(luò)的回歸預(yù)測(cè)模型，并將模型應(yīng)用于預(yù)測(cè)股票市場(chǎng)的價(jià)格。原始的極限學(xué)習(xí)機(jī)網(wǎng)絡(luò)由于網(wǎng)絡(luò)的輸入權(quán)值向量和偏置值可以隨機(jī)初始化，在網(wǎng)絡(luò)訓(xùn)練過(guò)程中不再需要迭代更新，但隨機(jī)初始化的參數(shù)具有盲目性，故利用引力搜索算法進(jìn)行優(yōu)化，尋找極限學(xué)習(xí)機(jī)網(wǎng)絡(luò)最優(yōu)的輸入權(quán)值向量和偏置值參數(shù)，提高了網(wǎng)絡(luò)的回歸預(yù)測(cè)性能。實(shí)驗(yàn)將引力搜索算法優(yōu)化極限學(xué)習(xí)機(jī)網(wǎng)絡(luò)模型和原始極限學(xué)習(xí)機(jī)網(wǎng)絡(luò)模型進(jìn)行對(duì)比實(shí)驗(yàn)，計(jì)算出回歸預(yù)測(cè)相關(guān)的衡量指標(biāo)，結(jié)果表明基于引力搜索算法優(yōu)化極限學(xué)習(xí)機(jī)網(wǎng)絡(luò)的回歸預(yù)測(cè)模型在股票市場(chǎng)價(jià)格預(yù)測(cè)中誤差更小，有更高的預(yù)測(cè)準(zhǔn)確率。