BP 神經(jīng)網(wǎng)絡(luò)與符號時間序列下的金融波動研究

徐 梅，王 方

(天津大學(xué) 管理與經(jīng)濟學(xué)部，天津300072)

正確地估計和預(yù)防金融波動，對防范金融風(fēng)險具有重要意義。目前所采用的一些模型，如ARCH 族模型、GARCH 族模型及隨機波動率模型都針對低頻收益率數(shù)據(jù)，會損失大量的日內(nèi)交易信息，不能準確估計和預(yù)測金融波動率。近十幾年來，計算機技術(shù)的發(fā)展使得對高頻金融數(shù)據(jù)的研究成為可能。顯然，數(shù)據(jù)采集頻率越高，金融市場信息就保留得越全面，因此學(xué)術(shù)界越來越熱衷于對金融高頻數(shù)據(jù)的研究。另外，目前已有的很多方法對未來某一時點的波動值進行預(yù)測，但波動的變化趨勢也是值得關(guān)注的，對其進行正確預(yù)測能幫助投資者對金融市場風(fēng)險有更直觀的了解，從而有效防范風(fēng)險。因此，筆者用符號時間序列分析方法預(yù)測金融波動的變動趨勢。

反向傳播(back propagation，BP)學(xué)習(xí)算法，簡稱BP 算法，是由MCCELLAND 等于1986 年首次提出的［1］，由于其良好的逼近能力和成熟的訓(xùn)練方法而成為應(yīng)用最廣泛的人工神經(jīng)網(wǎng)絡(luò)模型，且很多研究證明神經(jīng)網(wǎng)絡(luò)用于股市預(yù)測是可行的、有效的［2］。筆者將波動時間序列符號化，然后基于波動符號的歷史樣本，建立BP 神經(jīng)網(wǎng)絡(luò)，對樣本進行訓(xùn)練，實現(xiàn)未來波動與歷史波動之間的映射關(guān)系，通過輸入歷史波動符號，得到下一時點的波動符號，預(yù)測未來波動的變化趨勢。針對金融市場的非線性特征，筆者將BP 神經(jīng)網(wǎng)絡(luò)模型與符號時間序列相結(jié)合來預(yù)測金融波動。

1 BP 神經(jīng)網(wǎng)絡(luò)預(yù)測符號時間序列原理

BP 神經(jīng)網(wǎng)絡(luò)由大量神經(jīng)元廣泛互連構(gòu)成，包含一個輸入層、一個輸出層和至少一個隱含層。其具有如下特點：①非線性。理論上神經(jīng)網(wǎng)絡(luò)可以趨近任何非線性函數(shù)。②分布存儲和容錯性。神經(jīng)網(wǎng)絡(luò)的信息按內(nèi)容分布于整個網(wǎng)絡(luò)，因此整個網(wǎng)絡(luò)集存儲與運算功能于一體，具有容錯、聯(lián)想和記憶能力。③學(xué)習(xí)、自組織和自適應(yīng)性。金融市場是一個非線性系統(tǒng)，具有不確定性，BP 神經(jīng)網(wǎng)絡(luò)可以通過訓(xùn)練典型樣本，把握金融市場的規(guī)律性，從而發(fā)揮預(yù)測功能。

基于上述特點可以認為BP 神經(jīng)網(wǎng)絡(luò)能夠準確表示極其復(fù)雜的非線性模型系統(tǒng)。設(shè)一個單變量時間序列X1，X2，…，Xn，假設(shè)前m項之間存在某種函數(shù)關(guān)系，即Xn+k=f(X1，X2，…，Xn-m-1)?；谠摷僭O(shè)與歷史信息，筆者利用BP 神經(jīng)網(wǎng)絡(luò)來擬合該函數(shù)關(guān)系，據(jù)此對符號序列的未來值進行預(yù)測。

圖1 為3 層BP 神經(jīng)網(wǎng)路結(jié)構(gòu)圖，包含輸入層、輸出層及至少一個隱含層。神經(jīng)網(wǎng)絡(luò)的每一層擁有一個或多個神經(jīng)元，每個神經(jīng)元只接受前一層神經(jīng)元的輸入信息，經(jīng)過各層神經(jīng)元依次處理后，最后由輸出層輸出。

圖1 BP 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)圖

1.1 神經(jīng)元模型

圖2所示為神經(jīng)元模型，假設(shè)其為第j個神經(jīng)元節(jié)點，一個典型的神經(jīng)元模型主要包含5 個部分：①輸入。x1，x2，…，xn分別為神經(jīng)元的n個輸入。②網(wǎng)絡(luò)權(quán)值和閾值。ω1j，ω2j，…，ωnj為網(wǎng)絡(luò)權(quán)值，表示輸入與神經(jīng)元之間的連接強度;bj為神經(jīng)元閾值，網(wǎng)絡(luò)權(quán)值和閾值都是可以調(diào)節(jié)的。③求和單元。該部分對輸入進行加權(quán)求和，所得Sj即為第j個神經(jīng)元的凈輸入，即Sj= ∑n i=1ωij xi+bj。④傳遞函數(shù)。用f表示傳遞函數(shù)，細胞傳遞信號必有最大值，因此f一定單調(diào)遞增且有界。⑤輸出。yi=f(Sj)。

圖2 神經(jīng)元模型

1.2 BP 神經(jīng)網(wǎng)絡(luò)

BP 神經(jīng)網(wǎng)絡(luò)的工作過程包括工作信號的正向傳播和誤差信號的反向傳播兩個過程。正向傳播時，輸入信號由輸入層經(jīng)過隱含層，在輸出層產(chǎn)生輸出信號，期間網(wǎng)絡(luò)的權(quán)值保持不變，每層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元。如果在輸出層得到的輸出不滿足期望，則以輸出與期望的誤差為信號進行反向傳播。通過誤差反饋不斷調(diào)節(jié)和修正網(wǎng)絡(luò)權(quán)值，從而使網(wǎng)絡(luò)的輸出越來越接近期望，直至誤差信號足夠小。

1.2.1 正向傳播

假設(shè)一個n-q-m結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)(見圖1)，即輸入層、隱含層、輸出層分別有n、q、m個神經(jīng)元。輸入層與隱含層之間的權(quán)值為ωij;隱含層與輸出層之間的權(quán)值為νjk;隱含層的傳遞函數(shù)為f1;輸出層的傳遞函數(shù)為f2;輸入X=［x1，x2，…，xn］T;輸出Y=［y1，y2，…，ym］T;隱含層輸出Z=［z1，z2，…，zq］T;權(quán)值ω、ν 分別為：

(1)隱含層中第j個神經(jīng)元的輸出為：zj=

(2)輸出層中第k個神經(jīng)元輸出為：yk=至此，n維向量對m維向量的空間映射已完成。

(3)定義誤差函數(shù)。設(shè)共有P個樣本，分別為X1，X2，…，XP。輸入第P個樣本時，輸出為(k=1，2，…，m);期望輸出為;定義第P個樣本的誤差全局誤差E=

1.2.2 反向傳播

(1)輸出層權(quán)值和閾值的變化為：

(2)隱層權(quán)值和閾值的變化為：

1.3 BP 算法的改進

標準的BP 算法采用梯度下降算法，在實際應(yīng)用中存在收斂速度慢、訓(xùn)練時間較長、易陷入局部極小值等缺陷。Matlab 神經(jīng)網(wǎng)絡(luò)工具箱提供了幾種能夠克服上述缺陷的改進算法［3］。

(1)附加動量法。該算法在更新網(wǎng)絡(luò)權(quán)重和閾值時，除關(guān)注誤差對梯度的影響，也考慮誤差曲面上變化趨勢的作用，降低調(diào)整參數(shù)時網(wǎng)絡(luò)性能的敏感度。沒有附加動量的情況下，網(wǎng)絡(luò)較易陷入局部極小值，在附加動量的作用下可以避開這些極小值。具體算法就是在反向傳播，調(diào)整權(quán)重和閾值時加上與上次變化率成正比的值，并根據(jù)反向傳播法來產(chǎn)生新的權(quán)重和閾值。

(2)Levenberg - Marguardt 優(yōu)化方法(trainlm)。該方法能夠根據(jù)網(wǎng)絡(luò)訓(xùn)練誤差變化情況，自動調(diào)節(jié)網(wǎng)絡(luò)訓(xùn)練參數(shù)μ，使網(wǎng)絡(luò)實時采取適宜的訓(xùn)練方法。當μ 較小，網(wǎng)絡(luò)訓(xùn)練過程主要依據(jù)Gauss-Newton 法;當μ 較大，網(wǎng)絡(luò)訓(xùn)練過程主要依據(jù)梯度下降算法。該訓(xùn)練函數(shù)的效率優(yōu)于梯度下降法，但占用內(nèi)存較大，適用于規(guī)模較小的網(wǎng)絡(luò)。

(3)Bayesian 正則化方法(trainbr)。trainbr函數(shù)采用Levenberg -Marquardt 優(yōu)化方法進行網(wǎng)絡(luò)權(quán)值和閾值的最優(yōu)化搜索，并采用Bayesian 正則化方法在網(wǎng)絡(luò)訓(xùn)練過程中自適應(yīng)地調(diào)節(jié)性能函數(shù)比例系數(shù)的大小，使其達到最優(yōu)，采用trainbr函數(shù)訓(xùn)練后BP 網(wǎng)絡(luò)具有較好的推廣能力。

2 符號時間序列分析

符號時間序列分析就是將序列符號化，以減小一些數(shù)據(jù)信息的干擾，捕捉到數(shù)據(jù)序列的大尺度特征。該過程能夠?qū)⒏叻直娴臄?shù)據(jù)轉(zhuǎn)化成低分辨的數(shù)據(jù)，是一個“粗?；钡倪^程，盡管不能獲得全部信息，但能夠保留非線性系統(tǒng)的周期性和相關(guān)性等本質(zhì)特征。另外，該方法無需對產(chǎn)生數(shù)據(jù)的模型和條件進行假設(shè)［4］。

對原始序列進行符號化的方法有很多。向馗等對靜態(tài)法、動態(tài)法和小波空間法進行實證分析，得出動態(tài)法是最佳方法的結(jié)論［5］。故筆者采用符號集的大小為4 的二階差分動態(tài)法。

該方法不僅能反映波動序列值的增減，還能分別記錄增減的趨勢強弱。例如，當xi≥xi-1且2xi≥xi-1+xi+1時，說明數(shù)列不僅增大，而且增大的趨勢較之前有所增加，此時，將Si賦值為1。

3 金融波動預(yù)測

根據(jù)文獻［1］和文獻［4］，利用Matlab 可以實現(xiàn)基于BP 神經(jīng)網(wǎng)絡(luò)的波動符號序列未來值預(yù)測，步驟如下：

(1)按照二階差分動態(tài)對原始序列進行符號化，得到符號集大小為n、字長為L的波動符號序列{S0，S1，…，SL-1，SL，SL+1，…，SN-1，SN}。取第0到第L-1 個符號為第一個字，第1 到第L個符號為第二個字，以此類推，最后得到一個新序列{S0，S1，…，SL-1，S1，S2，…，SL，…，SN-L，SN-L+1，…，SN}。

(2)對新序列各個字進行編碼，得到一個十進制序列代碼構(gòu)成的編碼序列{X1，X2，…，XN}，其中Xi=Si-1nL-1+SinL-2+…+Si-2+Ln0。

(3)用BP 算法對神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練并預(yù)測。①初始化BP 神經(jīng)網(wǎng)絡(luò)模型。將網(wǎng)絡(luò)中的權(quán)值ωij和νjk，以及閾值bj分別賦予［-1，1］區(qū)間內(nèi)的數(shù)值。②施加輸入X=［x1，x2，…，xn］T，輸出Y=［y1，y2，…，ym］T。③逐個計算網(wǎng)絡(luò)隱含層各個神

4 實證分析

以上海證券交易所綜合指數(shù)(簡稱上證綜指)2011 年1 月1 日—2014 年12 月12 日采樣間隔為5 min 的高頻數(shù)據(jù)為樣本數(shù)據(jù)。9：30—11：30 和13：00—15：00 是連續(xù)競價時間，每天有48 個交易數(shù)據(jù)，除去休息日，共有956 天的45 888 個數(shù)據(jù)。

4.1 金融數(shù)據(jù)波動符號化

相對于低頻數(shù)據(jù)，高頻數(shù)據(jù)包含的數(shù)據(jù)更為龐大，信息更為豐富，但處理過程較復(fù)雜。處理時應(yīng)盡量做到能讓有效的高頻數(shù)據(jù)得到保存，又能簡化處理過程。其中，由ANDERSON［6］提出的“已實現(xiàn)”波動的概念為高頻數(shù)據(jù)的處理提供了一個可行的方案。每日已實現(xiàn)波動是通過對日內(nèi)收益平方求和得出的［7］，其步驟如下：

(1)Rt=lnP(t+1 )-lnP(t)，t=1，2，…，n-1。其中：n為每天第n次采集數(shù)據(jù);P(t) 為t時刻的價格;Rt為t時刻的收益。

4.2 BP 神經(jīng)網(wǎng)絡(luò)預(yù)測波動符號序列

4.2.1 BP 神經(jīng)網(wǎng)絡(luò)設(shè)計

(1)網(wǎng)絡(luò)層數(shù)。已有理論證明，一個網(wǎng)絡(luò)具有偏差，至少一個S 型隱含層和一個線性輸出層的網(wǎng)絡(luò)，能夠逼近任何有理函數(shù)［8］。盡管層數(shù)增加可以降低誤差，提高精度，但網(wǎng)絡(luò)會更加復(fù)雜，訓(xùn)練時間更長。若增加隱含層神經(jīng)節(jié)點數(shù)能提高精度，則能得到比層數(shù)增加的網(wǎng)絡(luò)更易觀察和調(diào)整的訓(xùn)練效果。因此，一般只設(shè)置一個隱含層。

(2)隱含層神經(jīng)元個數(shù)。隱含層的神經(jīng)元能夠提取樣本的內(nèi)在信息并儲存，一個神經(jīng)元所具有的若干個權(quán)值能夠使網(wǎng)絡(luò)的映射能力增強。用增加隱含層神經(jīng)元個數(shù)的方式比增加隱含層個數(shù)更易于提高網(wǎng)絡(luò)的訓(xùn)練精度。但是隱含層神經(jīng)元的個數(shù)如何確定，至今沒有明確的理論結(jié)果。較少的神經(jīng)元不能從樣本中獲得足夠的信息，不能概括和描述樣本規(guī)律;而過多的神經(jīng)元可能導(dǎo)致樣本中噪聲的干擾，因而出現(xiàn)過度吻合的現(xiàn)象。因此神經(jīng)元個數(shù)的確定非常重要，筆者使用常見的試湊法，即利用統(tǒng)一樣本集從少數(shù)的神經(jīng)元開始，然后逐漸遞增來訓(xùn)練網(wǎng)絡(luò)，直至得到最小誤差，取相應(yīng)神經(jīng)元數(shù)。筆者最后得到用33 個隱含層神經(jīng)元訓(xùn)練效果最好。

(3)輸入輸出節(jié)點數(shù)。一般根據(jù)實際問題來確定輸入輸出節(jié)點個數(shù)，筆者預(yù)測周期選取5 日的已實現(xiàn)波動符號序列值來預(yù)測后一日波動符號值，因此輸入節(jié)點為5 個，輸出節(jié)點為1 個。

(4)數(shù)據(jù)的預(yù)處理和后處理。數(shù)據(jù)的預(yù)處理和后處理對能否有效訓(xùn)練神經(jīng)網(wǎng)絡(luò)至關(guān)重要，并影響到訓(xùn)練后神經(jīng)網(wǎng)絡(luò)的性能。一般是將原始數(shù)據(jù)歸一化，即用線性變化將輸入和輸出數(shù)據(jù)控制在［-1，1］范圍內(nèi)。

(5)傳遞函數(shù)的選擇。傳遞函數(shù)對于BP 神經(jīng)網(wǎng)絡(luò)是很重要的一部分，一般的神經(jīng)網(wǎng)絡(luò)會選擇S 型的對數(shù)或正切函數(shù)，筆者對輸入數(shù)據(jù)進行歸一化處理，輸入和輸出數(shù)據(jù)都在［-1，1］范圍內(nèi)，正好滿足S 型對數(shù)或正切函數(shù)對數(shù)值取值區(qū)間的要求［9］。筆者在設(shè)計BP 神經(jīng)網(wǎng)絡(luò)輸出層和隱含層時傳遞函數(shù)都選擇了tansig 函數(shù)，其對應(yīng)的數(shù)學(xué)表達式為

4.2.2 BP 神經(jīng)網(wǎng)絡(luò)預(yù)測

筆者所用數(shù)據(jù)共有954 個波動符號，將其分為兩部分，前854 個作為訓(xùn)練樣本，后100 個作為測試樣本檢驗?zāi)Ｐ皖A(yù)測效果。對于訓(xùn)練樣本，一次將前5 個數(shù)據(jù)作為輸入向量，其后一個作為網(wǎng)絡(luò)的期望輸出，依次滾動排列，形成訓(xùn)練樣本。經(jīng)過137 次訓(xùn)練之后，網(wǎng)絡(luò)誤差達到最小。利用訓(xùn)練好的網(wǎng)絡(luò)對測試樣本的波動符號進行預(yù)測。

4.3 結(jié)果分析

由于誤差的存在，將預(yù)測得到的結(jié)果四舍五入，得到100 個波動符號值，將其與實際的波動符號進行對比，符號完全相同的有41 個，符號相差一級的有43 個，其他的相差二級以上。實際符號與預(yù)測符號相鄰或相近的比例為84%，預(yù)測準確率較高。

5 結(jié)論

筆者將符號序列時間分析法與BP 神經(jīng)網(wǎng)絡(luò)預(yù)測法結(jié)合，首先對高頻金融數(shù)據(jù)進行波動處理，能夠在操作簡化的情況下保留金融高頻數(shù)據(jù)的大量信息，然后將得到的已實現(xiàn)波動值進行符號化，去除系統(tǒng)非本質(zhì)特征，降低噪聲干擾，獲取大尺度特征，最后運用BP 神經(jīng)網(wǎng)絡(luò)原理和方法，對未來某一時點的波動符號序列值進行成功預(yù)測。實證結(jié)果表明，該方法能夠?qū)σ褜崿F(xiàn)波動趨勢進行成功預(yù)測?？傊枙r間序列和BP 神經(jīng)網(wǎng)絡(luò)結(jié)合的預(yù)測方式能夠準確獲取金融時間序列的內(nèi)在規(guī)律，提高預(yù)測精度，減小誤差，客觀反映已實現(xiàn)波動的變化趨勢。

［1］ 宋玉強.人工神經(jīng)網(wǎng)絡(luò)在時間序列預(yù)測中的應(yīng)用研究［D］.西安：西安建筑科技大學(xué)，2005.

［2］ 王莎.BP 神經(jīng)網(wǎng)絡(luò)在股票預(yù)測中的應(yīng)用研究［D］.長沙：中南大學(xué)，2008.

［3］ 涂曄，車文剛.BP 神經(jīng)網(wǎng)絡(luò)在福利彩票預(yù)測中的應(yīng)用［C］//國際信息技術(shù)與應(yīng)用論壇論文集. 濟南：［s.n.］，2009：243 -246.

［4］ BRIDA J G，PUNZO L F.Symbolic time series analysis and dynamic regimes［J］. Structural Change and Economic Dynamics，2003，14(2)：159 -183.

［5］ 向馗，蔣靜坪.時間序列的符號化方法研究［J］. 模式識別與人工智能，2007，20(2)：154 -161.

［6］ ANDERSON T G，BOLLERSLEV T，DIEBOLD F X，et al. Exchange rate returns standardized by realized volatility are(nearly)gaussian［J］. Multinational Finance Journal，2000，4(3/4)：159-179.

［7］ 郭名媛，張世英.基于“已實現(xiàn)”波動的協(xié)同持續(xù)研究及其應(yīng)用［J］. 系統(tǒng)工程理論與實踐，2006，26(5)：30 -35.

［8］ HORNIK K，STINCHCOMBE M，WHITE H.Multilayer feedforward networks are universal approximators［J］.Neural Networks，1989，2(5)：359 -366.

［9］ 劉琳，謝懷軍.基于BP 神經(jīng)網(wǎng)絡(luò)的股票短期應(yīng)用研究［D］.北京：對外經(jīng)貿(mào)大學(xué)，2008.