基于大腦情感學(xué)習(xí)模型和自適應(yīng)遺傳算法的混沌時間序列預(yù)測?

梅英1)2) 譚冠政1) 劉振燾3) 武鶴2)

1)(中南大學(xué)信息科學(xué)與工程學(xué)院,長沙 410083)

2)(湖南文理學(xué)院電氣與信息工程學(xué)院,常德 415000)

3)(中國地質(zhì)大學(xué)自動化學(xué)院,武漢 430074)

(2017年9月22日收到;2018年2月8日收到修改稿)

1 引 言

混沌時間序列預(yù)測在地磁活動預(yù)測[1]、天氣預(yù)測[2]、太陽黑子數(shù)預(yù)測[3]等方面應(yīng)用廣泛.近年來,國內(nèi)外學(xué)者提出了多種混沌預(yù)測模型,如:人工神經(jīng)網(wǎng)絡(luò)(回聲狀態(tài)網(wǎng)絡(luò)[4,5]、極限學(xué)習(xí)機[6]和遞歸神經(jīng)網(wǎng)絡(luò)[7])等、局部多項式模型[8]、自回歸模型[9]和支持向量機[10]等.混沌系統(tǒng)往往具有高度的非線性特性,而神經(jīng)網(wǎng)絡(luò)由于具有良好的非線性運算能力已成為混沌預(yù)測的有力工具.然而,隨著系統(tǒng)復(fù)雜度的不斷增加,傳統(tǒng)神經(jīng)網(wǎng)絡(luò)在混沌預(yù)測中的運算速度與準(zhǔn)確性難以滿足要求.因此,需要借助神經(jīng)科學(xué)上的新發(fā)現(xiàn),發(fā)展準(zhǔn)確高效的神經(jīng)網(wǎng)絡(luò)新模型,為系統(tǒng)的下一步?jīng)Q策提供科學(xué)指導(dǎo).

神經(jīng)心理學(xué)研究表明[11],情感是人類智能的重要組成部分.目前,情感智能為新一代人工智能的發(fā)展提供了新思路.根據(jù)神經(jīng)生理學(xué)上的研究發(fā)現(xiàn)[12],大腦中的杏仁體能根據(jù)感官刺激信息產(chǎn)生情感并鞏固記憶,避免重復(fù)學(xué)習(xí).2001年,Balkenius和Morén[13]提出了大腦情感學(xué)習(xí)(brain emotional learning,BEL)模型,該模型根據(jù)哺乳動物大腦邊緣系統(tǒng)的結(jié)構(gòu),模擬了杏仁體和眶額皮質(zhì)之間的情感學(xué)習(xí)機制,具有結(jié)構(gòu)簡單、計算復(fù)雜度低和運算速度快的優(yōu)點.近年來,BEL模型在混沌時間序列預(yù)測領(lǐng)域取得了廣泛的應(yīng)用.Babaie和Karimizandi[14]設(shè)計了基于BEL模型的地磁風(fēng)暴預(yù)警系統(tǒng).Abdi等[15]將BEL模型用于短時交通預(yù)測.Sharaf i等[16]和Milad等[17]將BEL模型用于混沌時間序列預(yù)測.盡管這些工作取得了一定的效果,但在BEL模型應(yīng)用中,均采用了一種基于獎勵信號的強化學(xué)習(xí)方法調(diào)節(jié)模型參數(shù),使得BEL模型的輸出對獎勵信號有明顯的依賴性,而關(guān)于獎勵信號的設(shè)定方法,目前尚沒有統(tǒng)一的規(guī)定.以上研究者只是根據(jù)不同的應(yīng)用提出了不同的獎勵信號設(shè)定方法,而這些方法缺乏通用性.

為了增強BEL模型的通用性,提高模型精度,研究者們提出采用智能算法優(yōu)化其參數(shù).Dorrah[18]采用粒子群算法優(yōu)化BEL控制器參數(shù),實驗結(jié)果表明優(yōu)化后的BEL控制器在魯棒性和響應(yīng)時間方面優(yōu)于傳統(tǒng)比例-積分-微分(proportion integration dif f erentiation,PID)控制器,但當(dāng)待優(yōu)化參數(shù)過多時算法容易陷入局部最優(yōu).Mei等[19]采用遺傳算法優(yōu)化BEL模型參數(shù),優(yōu)化后的BEL模型在分類正確率方面明顯提高,但在處理高維多分類數(shù)據(jù)時收斂速度變慢.Lotf i和Akbarzadeh[20]設(shè)計了競爭型BEL模型并采用遺傳算法優(yōu)化其參數(shù),增強了BEL模型處理高維多分類數(shù)據(jù)的能力,但當(dāng)優(yōu)化目標(biāo)模型較復(fù)雜時,遺傳算法容易出現(xiàn)局部收斂.遺傳算法由于交叉與變異概率固定,其靈活度不高,搜索能力受限.

為了克服遺傳算法的缺點,本文提出采用自適應(yīng)遺傳算法(self-adaptive genetic algorithm,AGA)優(yōu)化BEL模型,即自適應(yīng)遺傳算法和大腦情感學(xué)習(xí)模型結(jié)合形成AGA-BEL模型用于混沌時間序列預(yù)測.在自適應(yīng)遺傳算法中,通過設(shè)計合理的自適應(yīng)交叉概率和變異概率,讓染色體能夠根據(jù)適應(yīng)度值自適應(yīng)地進(jìn)行交叉與變異操作,優(yōu)化調(diào)節(jié)BEL模型中杏仁體和眶額皮質(zhì)的權(quán)值和閾值.該方法可以提高算法的靈活性,增強算法的全局和局部搜索能力.因此,AGA-BEL模型一方面可以充分利用自適應(yīng)遺傳算法在廣域空間中的尋優(yōu)功能,另一方面又能利用BEL算法的快速學(xué)習(xí)能力引導(dǎo)自適應(yīng)遺傳算法向最優(yōu)解快速逼近,從而獲得最佳的模型參數(shù).將AGA-BEL模型用于Lorenz混沌時間序列和實際地磁Dst指數(shù)序列的仿真預(yù)測,實驗結(jié)果表明,AGA-BEL模型的預(yù)測結(jié)果能有效地反映混沌時間序列的變化趨勢,預(yù)測精度高,且計算速度和穩(wěn)定性明顯優(yōu)于傳統(tǒng)神經(jīng)網(wǎng)絡(luò).

2 大腦情感學(xué)習(xí)模型

大腦中的邊緣系統(tǒng)是負(fù)責(zé)調(diào)節(jié)情感的主要部位[12],邊緣系統(tǒng)中控制情感反應(yīng)的一個重要組織叫杏仁體,它可以接收來自不同感覺聯(lián)合區(qū)的信息,負(fù)責(zé)產(chǎn)生情感并鞏固記憶.感官刺激可以通過兩條長短不同的反射通路到達(dá)杏仁體,在長反射通路中,感官刺激經(jīng)過丘腦到達(dá)視覺皮層,被深度加工處理后到達(dá)杏仁體;在短反射通路中,感官刺激到達(dá)丘腦后直接送往杏仁體.

受神經(jīng)生理學(xué)研究的啟發(fā),Balkenius和Morén[13]提出了大腦情感學(xué)習(xí)模型,該模型主要由丘腦、感官皮質(zhì)、眶額皮質(zhì)和杏仁體四大部分組成,如圖1所示.杏仁體和眶額皮質(zhì)是兩個主要組成部分.情感學(xué)習(xí)主要發(fā)生在杏仁體內(nèi),杏仁體負(fù)責(zé)根據(jù)刺激產(chǎn)生情感輸出并促進(jìn)情感記憶,避免重復(fù)學(xué)習(xí);眶額皮質(zhì)主要對杏仁體的學(xué)習(xí)起輔助調(diào)節(jié)作用,避免出現(xiàn)過學(xué)習(xí)和欠學(xué)習(xí)現(xiàn)象.

圖1 大腦情感學(xué)習(xí)模型結(jié)構(gòu)框圖Fig.1.Framework of brain emotional learning model.

由圖1可知,杏仁體接收丘腦信號Ath、感官輸入信號SI(sensor inputs)及獎勵信號Rew(reward);眶額皮質(zhì)接收獎勵信號Rew及感官輸入信號SI.大腦情感學(xué)習(xí)模型的輸出是對感官輸入信號的響應(yīng),情感學(xué)習(xí)的過程即為大腦情感學(xué)習(xí)模型的權(quán)值調(diào)節(jié)過程.根據(jù)大腦情感學(xué)習(xí)模型的定義[13],杏仁體和眶額皮質(zhì)的權(quán)值調(diào)節(jié)規(guī)律分別為

式中?v表示杏仁體權(quán)值變化率;?w表示眶額皮質(zhì)權(quán)值變化率;i是表示感官輸入信號個數(shù)的變量;Ai和Oi分別表示杏仁體和眶額皮質(zhì)的輸出節(jié)點;α和β表示學(xué)習(xí)率,分別控制杏仁體和眶額皮質(zhì)的學(xué)習(xí)速度.

從(1)式和(2)式可以看出,獎勵信號Rew對杏仁體和眶額皮質(zhì)的權(quán)值調(diào)整起重要作用.因此,大腦情感學(xué)習(xí)的效果對獎勵信號有明顯的依賴性,而關(guān)于獎勵信號的設(shè)定方法,目前尚沒有統(tǒng)一的規(guī)定.為了增強大腦情感學(xué)習(xí)模型的通用性,提高模型精度,本文采用自適應(yīng)遺傳算法優(yōu)化調(diào)節(jié)其權(quán)值,具體方法見下一節(jié).

3 AGA-BEL實現(xiàn)方法

3.1 大腦情感學(xué)習(xí)算法

采用基于自適應(yīng)遺傳算法的監(jiān)督學(xué)習(xí)代替基于獎勵信號的強化學(xué)習(xí),能優(yōu)化調(diào)節(jié)大腦情感學(xué)習(xí)模型中杏仁體和眶額皮質(zhì)的權(quán)值,因此需要對基本大腦情感學(xué)習(xí)模型進(jìn)行改進(jìn),去掉獎勵信號.此外,為了防止神經(jīng)元在學(xué)習(xí)過程中出現(xiàn)飽和狀態(tài),可以根據(jù)大腦中杏仁體和眶額皮質(zhì)間的交互機制,在杏仁體和眶額皮質(zhì)神經(jīng)元中添加閾值,分別為ba和bo.杏仁體和眶額皮質(zhì)是負(fù)責(zé)情感學(xué)習(xí)的主要組成部分,對于任意輸入模式,都是在二者的共同學(xué)習(xí)作用下形成輸出模式.基于大腦情感學(xué)習(xí)模型的改進(jìn)網(wǎng)絡(luò)如圖2所示.

圖2 改進(jìn)大腦情感學(xué)習(xí)網(wǎng)絡(luò)Fig.2.Improved brain emotional learning network.

在圖2所示的網(wǎng)絡(luò)中,代表情感刺激的所有感官輸入信號SI表示為

其中m表示感官輸入信號數(shù)目.

根據(jù)大腦中的情感信息處理機制,在短反射通路中,感官輸入信號SI中的最大值通過丘腦傳遞給杏仁體,表示為

對于每個感官輸入信號Si,杏仁體中總存在相應(yīng)節(jié)點Ai接受信號,表示為

其中vi表示杏仁體各節(jié)點間的權(quán)值,Ath表示丘腦信號.

杏仁體接收每個感官輸入信號Si、丘腦信號Ath及閾值ba,則杏仁體的內(nèi)部輸出表示為

在眶額皮質(zhì)單元中,也存在相應(yīng)節(jié)點Oi接受每個感官輸入信號Si,表示為

其中wi表示眶額皮質(zhì)各節(jié)點間的權(quán)值.

眶額皮質(zhì)接收每個感官輸入信號Si和閾值bo,則眶額皮質(zhì)的內(nèi)部輸出E表示為

在杏仁體和眶額皮質(zhì)的相互學(xué)習(xí)下,產(chǎn)生大腦情感學(xué)習(xí)模型的總體輸出E,表示為

根據(jù)以上描述,大腦情感學(xué)習(xí)主要包括杏仁體和眶額皮質(zhì)的學(xué)習(xí),學(xué)習(xí)過程即為二者權(quán)值和閾值的調(diào)節(jié)過程,其協(xié)同工作的結(jié)果決定大腦情感學(xué)習(xí)模型的總體輸出.采用不同的方法調(diào)整權(quán)值和閾值,將會使大腦情感學(xué)習(xí)的效果產(chǎn)生很大的差別.本文將自適應(yīng)遺傳算法引入改進(jìn)后的大腦情感學(xué)習(xí)網(wǎng)絡(luò),實現(xiàn)了杏仁體和眶額皮質(zhì)權(quán)值與閾值的優(yōu)化調(diào)整.

3.2 自適應(yīng)遺傳算法

為了使遺傳算法具有更強的自適應(yīng)性能,需要對遺傳參數(shù)動態(tài)化以提高算法的靈活性,這樣改進(jìn)的遺傳算法稱為自適應(yīng)遺傳算法[21].本文根據(jù)染色體的適應(yīng)度值設(shè)計自適應(yīng)交叉概率和變異概率,具體遺傳操作見以下描述.

3.2.1 染色體編碼

在自適應(yīng)遺傳算法中,將待優(yōu)化的參數(shù)編碼形成的字符串稱為染色體.由于BEL網(wǎng)絡(luò)中的每個權(quán)值與閾值為實數(shù),本文采用實數(shù)編碼方式以提高參數(shù)的提取精度.將BEL網(wǎng)絡(luò)中待優(yōu)化的參數(shù)按順序排列在染色體基因序列上,以第3.1節(jié)中圖2所示的BEL網(wǎng)絡(luò)為例,染色體編碼格式為其中v1,···,vm+1表示杏仁體各節(jié)點間的權(quán)值;ba為杏仁體神經(jīng)元閾值;w1,···,wm表示眶額皮質(zhì)各節(jié)點間的權(quán)值;bo為眶額皮質(zhì)神經(jīng)元閾值;m表示感官信號數(shù)目,每條染色體包含的基因數(shù)為2m+3.

3.2.2 適應(yīng)度函數(shù)

適應(yīng)度函數(shù)(fitness function)用于指導(dǎo)自適應(yīng)遺傳算法的搜索進(jìn)程,該函數(shù)的設(shè)計關(guān)系到算法的收斂速度和預(yù)測精度.一般而言,適應(yīng)度函數(shù)由目標(biāo)函數(shù)轉(zhuǎn)換而成.本文AGA-BEL模型的預(yù)測誤差越小表明染色體分配的參數(shù)越優(yōu),而求目標(biāo)函數(shù)問題是最小值問題.因此,定義適應(yīng)度函數(shù)為

式中n表示樣本數(shù)量;yl表示第l種輸入模式下模型的預(yù)測值;?yl表示第l種輸入模式下模型的輸出期望值;F(Ch)表示以染色體Ch為網(wǎng)絡(luò)參數(shù)時的平均預(yù)測誤差.根據(jù)適應(yīng)度函數(shù)選出的最優(yōu)染色體,即為杏仁體和眶額皮質(zhì)權(quán)值與閾值的最佳組合.

3.2.3 遺傳算子

在選擇操作中,采用輪盤賭和最優(yōu)個體保留策略選擇交配組[19].在輪盤賭方法中,每條染色體被選擇的概率與其適應(yīng)度值成正比.設(shè)第j條染色體的適應(yīng)度值為fj,則該個體被選擇的概率pj表示為

式中M表示種群大小;k表示相關(guān)系數(shù);F(Chj)可以根據(jù)適應(yīng)度函數(shù)計算出來.由于概率選擇存在隨機性誤差,為了提高遺傳算法的收斂性,采用最優(yōu)個體保留策略,其思想是讓適應(yīng)度最高的個體直接參與下一步遺傳操作.

在自適應(yīng)交叉操作中,交叉概率pc計算公式為

式中pcmax和pcmin分別為預(yù)先設(shè)定的最大交叉概率和最小交叉概率;fmax和favg分別為群體最大適應(yīng)度值及平均適應(yīng)度值;f為當(dāng)前父代雙親中適應(yīng)度值較大者.

在交叉操作中,采用算術(shù)交叉方式,表示為

式中Ch1和Ch2代表兩個父個體;代表兩個子個體;r為隨機數(shù),取值范圍為[0,1].

在自適應(yīng)變異操作中,首先判斷每條染色體是否需要變異,如果需要,則根據(jù)父個體的適應(yīng)度值確定變異概率pm,表示為

式中pmax和pmin分別為預(yù)先設(shè)定的最大變異概率和最小變異概率;fmax和favg分別為群體最大適應(yīng)度值與平均適應(yīng)度值;f′為需要變異個體的適應(yīng)度值.

在上述遺傳操作中,交叉和變異過程隨著個體的適應(yīng)度值動態(tài)改變,從而增強了算法的靈活性,加快了算法的收斂速度與精度.經(jīng)過自適應(yīng)遺傳操作選出的最優(yōu)染色體,代表了BEL網(wǎng)絡(luò)中杏仁體和眶額皮質(zhì)最佳權(quán)值與閾值的組合,將其更新至BEL網(wǎng)絡(luò)中,通過網(wǎng)絡(luò)訓(xùn)練,即能得到預(yù)測結(jié)果.

3.3AGA-BEL算法步驟

AGA-BEL算法的偽代碼如下.

4 仿真預(yù)測實驗

實驗中采用Intel CPU Core i7-3770處理器,主頻3.4 GHz,8 GB內(nèi)存,64位Windows 7操作系統(tǒng),Matlab 2014b編程環(huán)境.

4.1 數(shù)據(jù)處理

采用神經(jīng)網(wǎng)絡(luò)進(jìn)行混沌時間序列預(yù)測時,為了獲得更好的預(yù)測效果,需要對預(yù)測數(shù)據(jù)進(jìn)行歸一化和反歸一化處理[22].設(shè)一時間序列原始數(shù)據(jù)X=(x1,x2,···,xN),X∈RN,進(jìn)行歸一化的方法為

式中N為時間序列的總長;x(t)表示原始值;x(t)′表示歸一化后的值,x(t)′∈[0,1];xmin表示原始數(shù)據(jù)序列中的最小值;xmax表示最大值.

設(shè)神經(jīng)網(wǎng)絡(luò)的仿真輸出為Y=(y1,y2,···,yN),Y∈[0,1],進(jìn)行反歸一化的方法為

式中y(t)表示仿真輸出值;y(t)′表示反歸一化后的值,y(t)′∈RN;ymin表示仿真輸出數(shù)據(jù)中的最小值;ymax表示最大值.

相空間重構(gòu)即通過一維時間序列反向構(gòu)造出原系統(tǒng)的相空間結(jié)構(gòu).Takens定理[23]中說明了系統(tǒng)中任一分量的演化都是由與之相關(guān)的其他分量決定的.設(shè)x為觀測到的分量,x(t),t=1,2,···,N為要研究的混沌時間序列,其重構(gòu)的相空間表示為:X(t)={x(t),x(t?τ),···,x[t?(m?1)τ]},t=(m?1)τ+1,···,N,選擇合適的延遲時間τ和嵌入維數(shù)m,可以預(yù)測未來t+η時刻的值x(t+η),其中,η為預(yù)測步長,當(dāng)η=1時,為單步預(yù)測;當(dāng)η>1時,為多步預(yù)測.本文對混沌時間序列開展單步預(yù)測的仿真實驗研究.

4.2 預(yù)測器性能評價

本文主要驗證AGA-BEL模型在預(yù)測精度、運算速度和穩(wěn)定性方面的性能.預(yù)測精度采用平均絕對誤差(mean absolute deviation,Mad)[24]、均方誤差(mean square error,Mse)[25]、平均絕對百分比誤差(mean absolute percentage error,Mape)[24]和相關(guān)系數(shù)(correlation coefficient,Cor)[25]4個指標(biāo)來衡量.設(shè)y(t)為模型的預(yù)測值,?y(t)為混沌時間序列的實際觀測值,n為樣本數(shù)量,4個指標(biāo)計算如下:

1)平均絕對誤差Mad

4)相關(guān)系數(shù)Cor

關(guān)于模型的運行效率,可以采用在相同的計算環(huán)境下,執(zhí)行同樣任務(wù)所需的時間來評價;關(guān)于模型的穩(wěn)定性,可以采用在相同的計算環(huán)境下重復(fù)性實驗結(jié)果的統(tǒng)計方差來評價[24].

4.3 Lorenz混沌時間序列預(yù)測

Lorenz系統(tǒng)可以作為許多混沌系統(tǒng)的精確模型,此模型的動力學(xué)方程式為一組三元常微分方程[3],表示為

當(dāng)選取參數(shù)a=10,b=8/3,c=28,x(0)=?1,y(0)=0,z(0)=1時,(22)式具有混沌特性.取采樣時間為0.05,采用四階Runge-Kutta法迭代產(chǎn)生6000組混沌時間序列.本文使用前4000組數(shù)據(jù)作為訓(xùn)練樣本,后2000組數(shù)據(jù)作為測試樣本,驗證AGA-BEL模型對Lorenz-x(t)的單步預(yù)測效果.

4.3.1 參數(shù)設(shè)置

首先對Lorenz混沌時間序列進(jìn)行歸一化處理和相空間重構(gòu).根據(jù)飽和關(guān)聯(lián)維數(shù)法和互信息函數(shù)法[24]分別確定嵌入維數(shù)m=4,延遲時間τ=1.采用單步預(yù)測方式,設(shè)置預(yù)測步長η=1.構(gòu)造一個輸入數(shù)據(jù)形式為[x(t),x(t?1),x(t?2),x(t?3)]的四維向量作為AGA-BEL預(yù)測模型的輸入信號,模型輸出用一維向量表示為x(t+1).

AGA-BEL模型參數(shù)設(shè)計包括BEL網(wǎng)絡(luò)參數(shù)設(shè)計與AGA遺傳參數(shù)設(shè)計兩部分.采用十折交叉驗證法得到模型的最佳參數(shù).在BEL神經(jīng)網(wǎng)絡(luò)設(shè)計中,輸入層和輸出層的節(jié)點數(shù)分別由輸入和輸出數(shù)據(jù)的維度確定,因此設(shè)置輸入節(jié)點數(shù)為4,輸出節(jié)點數(shù)為1,隱含層節(jié)點數(shù)由經(jīng)驗公式和交叉驗證確定為9,網(wǎng)絡(luò)初始權(quán)值和閾值的取值范圍為[?1,1].在自適應(yīng)遺傳算法設(shè)計中,取種群大小為100,最大進(jìn)化代數(shù)為100,染色體長度為11,設(shè)定最大交叉概率和最小交叉概率分別為pcmax=0.8和pcmin=0.3,最大變異概率和最小變異概率分別為pmax=0.1和pmin=0.001.經(jīng)過網(wǎng)絡(luò)訓(xùn)練,將仿真數(shù)據(jù)進(jìn)行反歸一化處理,最后得到Lorenz-x(t)的預(yù)測值.

4.3.2 Lorenz序列預(yù)測結(jié)果

在Lorenz-x(t)混沌預(yù)測中,圖3(a)代表4000個訓(xùn)練數(shù)據(jù)的Lorenz-x(t)預(yù)測曲線,從圖中可以看出,綠色的預(yù)測曲線可以很好地擬合藍(lán)色的實際曲線,均方誤差Mse為0.0001537.對應(yīng)地,圖3(b)代表4000個訓(xùn)練數(shù)據(jù)的預(yù)測誤差曲線,從圖中可以看出,各點預(yù)測誤差均在零點附近的較小范圍內(nèi)波動,說明AGA-BEL模型的預(yù)測誤差小.

圖4(a)代表2000個測試數(shù)據(jù)的Lorenz-x(t)預(yù)測曲線,從圖中可以看出,綠色的預(yù)測曲線可以很好地擬合紅色的實際曲線,均方誤差Mse為0.0001336.對應(yīng)地,圖4(b)代表2000個測試數(shù)據(jù)的預(yù)測誤差曲線,從圖中可以看出,各點預(yù)測誤差均在零點附近的較小范圍內(nèi)波動,說明AGA-BEL模型對Lorenz-x(t)預(yù)測的有效性.

從圖3和圖4所示的Lorenz-x(t)預(yù)測曲線和誤差曲線可以看出,無論對訓(xùn)練數(shù)據(jù)還是測試數(shù)據(jù),預(yù)測曲線都可以很好地擬合實際曲線,說明AGA-BEL模型的預(yù)測結(jié)果能有效地反映混沌時間序列的變化趨勢,預(yù)測精度高,魯棒性好.

圖5表示AGA-BEL模型對Lorenz-x(t)混沌時間序列數(shù)據(jù)的擬合性能,Cor值表示模型預(yù)測值與觀測值之間的相關(guān)系數(shù).從圖5(a)和圖5(b)中可以看出,在訓(xùn)練集與測試集上的相關(guān)系數(shù)分別為0.9989和0.9999,說明AGA-BEL模型對Lorenzx(t)混沌時間序列數(shù)據(jù)具有很好的擬合性能.

4.3.3 與其他方法比較

為了在預(yù)測精度、速度和穩(wěn)定性上對比驗證AGA-BEL模型的性能,在相同的實驗條件下,分別采用MLP-BP[26],LM-BP[27]和基本BEL模型[13]對Lorenz時間序列進(jìn)行單步預(yù)測.每種模型獨立運行50次,統(tǒng)計得到平均絕對誤差Mad,均方誤差Mse,平均絕對百分比誤差Mape,線性相關(guān)度Cor及計算時間的平均值.其中,Mape是反映預(yù)測值與實際值之間偏離程度的重要指標(biāo),模型的穩(wěn)定性采用Mape的方差來評價[24].表1給出了不同模型對Lorenz時間序列的預(yù)測結(jié)果.

圖3 Lorenz-x(t)時間序列訓(xùn)練集預(yù)測結(jié)果 (a)預(yù)測曲線;(b)誤差曲線Fig.3.Result of Lorenz-x(t)prediction on training datas:(a)Prediction curve;(b)error curve.

圖4 Lorenz-x(t)時間序列測試集預(yù)測結(jié)果 (a)預(yù)測曲線;(b)誤差曲線Fig.4.Result of Lorenz-x(t)prediction on testing datas:(a)Prediction curve;(b)error curve.

圖5 Lorenz時間序列預(yù)測線性相關(guān)性 (a)訓(xùn)練集;(b)測試集Fig.5.Linear correlation of Lorenz time series prediction:(a)Training datas;(b)testing datas.

表1 不同模型對Lorenz-x(t)單步預(yù)測的結(jié)果比較Table 1.Lorenz-x(t)prediction comparisons of dif f erent models(1-step).

從表1中可以看出,相對于其他方法,在預(yù)測精度方面,AGA-BEL預(yù)測模型的Mad,Mse及Mape均最小,Cor最高,說明AGA-BEL在混沌時間序列的預(yù)測精度上具有明顯的優(yōu)勢.在預(yù)測穩(wěn)定性方面,AGA-BEL的平均絕對百分比誤差Mape的方差最小,說明其預(yù)測的穩(wěn)定性最好.在計算時間方面,BEL模型與AGA-BEL模型所用的計算時間遠(yuǎn)遠(yuǎn)少于傳統(tǒng)的BP網(wǎng)絡(luò),由于AGA-BEL中執(zhí)行了遺傳算法的迭代運算,所以計算時間較基本BEL模型長.總體看來,在Lorenz混沌時間序列預(yù)測中,較其他傳統(tǒng)方法,AGA-BEL模型在預(yù)測精度、運行速度和穩(wěn)定性上均具有明顯優(yōu)勢.

4.4 磁暴環(huán)電流Dst指數(shù)預(yù)測

磁暴環(huán)電流(disturbance storm time,Dst)指數(shù)[1]作為一種通用表征磁暴強度的地磁指數(shù),在地磁擾動研究中具有重要作用,對防御空間天氣災(zāi)害方面具有重要價值.本文的Dst指數(shù)數(shù)據(jù)集來自于世界地磁數(shù)據(jù)中心(http://wdc.kugi.kyotou.ac.jp).選取發(fā)生在2000年間的1000個磁暴環(huán)電流指數(shù)Dst數(shù)據(jù)序列作為測試數(shù)據(jù),時間間隔為1 h,這是一個典型的混沌時間序列.本文通過研究Dst指數(shù)的變化規(guī)律,建立提前1 h預(yù)報Dst指數(shù)的方法.

4.4.1 參數(shù)設(shè)置

采用AGA-BEL模型對Dst指數(shù)時間序列進(jìn)行單步預(yù)測.首先按上個實驗的方法對Dst數(shù)據(jù)進(jìn)行歸一化處理和相空間重構(gòu).根據(jù)飽和關(guān)聯(lián)維數(shù)法和互信息函數(shù)法[24]確定嵌入維數(shù)m=4和延遲時間τ=1.采用單步預(yù)測方式,設(shè)置預(yù)測步數(shù)η=1.采用代表Dst指數(shù)的時間序列:Dst(t),Dst(t?1),Dst(t?2),Dst(t?3),預(yù)測t+1時刻的Dst指數(shù)值Dst(t+1).在構(gòu)造BEL網(wǎng)絡(luò)時,設(shè)置網(wǎng)絡(luò)輸入層的神經(jīng)元為4個,輸出神經(jīng)元為1個.構(gòu)造一個輸入數(shù)據(jù)形式為[Dst(t),Dst(t?1),Dst(t?2),Dst(t?3)]的四維向量作為感官輸入信號,預(yù)測模型輸出用一維向量Dst(t+1)表示.基于AGA-BEL的Dst指數(shù)預(yù)測網(wǎng)絡(luò)簡化表示如圖6所示.

圖6 基于AGA-BEL的Dst指數(shù)預(yù)測模型Fig.6.AGA-BEL prediction model for Dst index.

設(shè)置輸入節(jié)點數(shù)為4,輸出節(jié)點數(shù)為1,隱含層節(jié)點數(shù)由經(jīng)驗公式和交叉驗證確定為10,網(wǎng)絡(luò)初始權(quán)值的取值范圍為[?1,1].在自適應(yīng)遺傳算法設(shè)計中,取種群大小為100,最大進(jìn)化代數(shù)為50,染色體長度為11,設(shè)定最大交叉概率和最小交叉概率分別為pcmax=0.6和pcmin=0.1,最大變異概率和最小變異概率分別為pmax=0.1和pmin=0.003.經(jīng)過網(wǎng)絡(luò)訓(xùn)練,將仿真數(shù)據(jù)進(jìn)行反歸一化處理,得到Dst指數(shù)序列的預(yù)測結(jié)果.

4.4.2 Dst指數(shù)預(yù)測結(jié)果

根據(jù)磁暴的4個級別:?50

圖7 Dst指數(shù)預(yù)測結(jié)果Fig.7.Result of Dst index prediction.

由圖8所示的誤差曲線可以看出,各點的預(yù)測誤差在零點附近的較小范圍內(nèi)波動,說明預(yù)測誤差小,從而驗證了AGA-BEL模型在磁暴事件預(yù)測問題上的有效性.

圖8 Dst指數(shù)預(yù)測誤差曲線Fig.8.Error curve of Dst index prediction.

為了進(jìn)一步量化評估AGA-BEL模型的預(yù)測性能,計算了預(yù)測模型的均方誤差Mse以及預(yù)測值與實際值的相關(guān)系數(shù)Cor.圖9代表均方誤差曲線,當(dāng)算法進(jìn)化到第50代時網(wǎng)絡(luò)完全收斂,均方誤差Mse為0.0011859.

圖10表示在Dst指數(shù)預(yù)測中的線性相關(guān)性,其中,Y表示模型預(yù)測值,T表示Dst指數(shù)的實際值,Cor表示二者之間的相關(guān)系數(shù).從圖10(a)和圖10(b)中可以看出,在訓(xùn)練集與測試集上的相關(guān)系數(shù)分別為0.9555和0.9697,說明AGA-BEL模型對于Dst指數(shù)數(shù)據(jù)集具有很好的擬合性能.

圖9 Dst指數(shù)預(yù)測均方誤差曲線Fig.9.Mseof Dst index prediction.

圖10 Dst指數(shù)預(yù)測線性相關(guān)性 (a)訓(xùn)練集;(b)測試集Fig.10.Linear correlation of Dst index prediction:(a)Training datas;(b)testing datas.

4.4.3 與其他方法比較

為了在精度、速度和穩(wěn)定性上對比驗證AGA-BEL的性能,在相同的實驗條件下,分別采用MLP-BP[26],LM-BP[27]和基本BEL模型[13]對Dst指數(shù)進(jìn)行單步預(yù)測.每種模型獨立運行50次,統(tǒng)計得到Mad,Mse,Mape,Cor及計算時間的平均值.根據(jù)文獻(xiàn)[24],模型的穩(wěn)定性采用Mape的方差來評價.表2給出了不同模型對Dst指數(shù)的預(yù)測結(jié)果.

表2 不同模型對Dst指數(shù)單步預(yù)測的結(jié)果比較Table 2.Dst index prediction performance comparisons of dif f erent models(1-step).

從表2可以看出,相對于其他方法,AGA-BEL預(yù)測模型的Mad,Mse及Mape均最小,Cor最大,說明AGA-BEL模型的預(yù)測精度最高.在預(yù)測穩(wěn)定性方面,AGA-BEL模型Mape的方差最小,說明其預(yù)測的穩(wěn)定性最好.在計算時間方面,BEL模型與AGA-BEL模型所用時間遠(yuǎn)遠(yuǎn)少于傳統(tǒng)的BP網(wǎng)絡(luò).AGA-BEL模型中因執(zhí)行了遺傳算法的迭代運算,所以計算時間比基本BEL模型稍長.總體看來,AGA-BEL模型在地磁Dst指數(shù)預(yù)測問題上的準(zhǔn)確性、穩(wěn)定性和速度均優(yōu)于傳統(tǒng)模型.因此,AGA-BEL模型在空間災(zāi)害的預(yù)警系統(tǒng)中具有巨大的潛力和廣闊的應(yīng)用前景.

5 結(jié) 論

結(jié)合大腦情感學(xué)習(xí)模型和自適應(yīng)遺傳算法,提出了一種混沌時間序列預(yù)測的新模型.利用大腦情感學(xué)習(xí)模型模擬大腦邊緣系統(tǒng)中的情感學(xué)習(xí)機制,有效地克服了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)收斂速度慢的缺點.進(jìn)一步,采用基于自適應(yīng)遺傳算法的監(jiān)督學(xué)習(xí)代替基于獎勵信號的強化學(xué)習(xí),使預(yù)測模型能根據(jù)實際輸出和期望輸出的差值來優(yōu)化調(diào)節(jié)杏仁體和眶額皮質(zhì)的權(quán)值與閾值,增強了大腦情感學(xué)習(xí)模型的通用性,提高了模型精度.在Lorenz標(biāo)桿問題和實際地磁Dst指數(shù)的預(yù)測中,實驗結(jié)果表明了本文所提出的AGA-BEL預(yù)測模型具有預(yù)測精度高、收斂速度快和穩(wěn)定性強的優(yōu)點,而且模型結(jié)構(gòu)簡單,計算復(fù)雜度低,便于用于實際的預(yù)測系統(tǒng),如地下水位預(yù)測系統(tǒng)、天氣預(yù)測系統(tǒng)等.

[1]Lotf iE,Akbarzadeh T M R 2014Neurocomputing126 188

[2]Singh S,Gill J 2014Int.J.Intell.Syst.Appl.6 55

[3]Tian Z D,Gao X W,Shi T 2014Acta Phys.Sin.63 160508(in Chinese)[田中大,高憲文,石彤.2014物理學(xué)報63 160508]

[4]Li D,Han M,Wang J 2012IEEE Trans.Neural Netw.Learn.Syst.23 787

[5]Shi Z W,Han M 2007IEEE Trans.Neural Netw.18 359

[6]Wang X Y,Han M 2015Acta Phys.Sin.64 070504(in Chinese)[王新迎,韓敏 2015物理學(xué)報64 070504]

[7]Han M,Xi J H,Xu S G 2004IEEE Trans.Signal Process.52 3409

[8]Su L Y 2010Comput.Math.Appl.59 737

[9]Su L Y,Li C L 2015Discrete.Dyn.Nat.Soc.2015 329487

[10]Tian Z D,Li S J,Wang Y H,Gao X W 2015Acta Phys.Sin.64 030506(in Chinese)[田中大,李樹江,王艷紅,高憲文2015物理學(xué)報64 030506]

[11]Mayer J D,Roberts R D,Barsade S G 2008Annu.Rev.Psych.59 507

[12]Ledoux J E 1991Concepts Neurosci.2 169

[13]Balkenius C,Morén J 2001Cybern.Syst.32 611

[14]Babaie T,Karimizandi L 2008Soft.Comput.12 857

[15]Abdi J,Moshiri B,Abdulhai B 2012Eng.Appl.Arti.Intell.25 1022

[16]Sharaf iY,Setayeshi S,Falahiazar A 2015J.Math.Comput.Sci.14 42

[17]Milad H S A,Farooq U,Hawary M,Asad M U 2016IEEE Access23 569

[18]Dorrah H T 2011J.Adv.Res.2 73

[19]Mei Y,Tan G Z,Liu Z T 2017Algorithms10 70

[20]Lotf iE,Akbarzadeh T M R 2016Inf.Sci.3 369

[21]Srinivas M,Patnaik L M 2002IEEE Trans.Syst.M.Cyber.24 656

[22]Guo Y Y 2013M.S.Thesis(Harbin:Harbin Institute of Technology)(in Chinese)[郭圓圓 2013碩士學(xué)位論文(哈爾濱:哈爾濱工業(yè)大學(xué))]

[23]Takens F 1981Lecture Notes in Mathematics(Berlin:Springer-Verlag)p366

[24]Yang F 2012Ph.D.Dissertation(Beijing:Beijing University of Posts and Telecommunications)(in Chinese)[楊飛2012博士學(xué)位論文(北京:北京郵電大學(xué))]

[25]Lotf iE,Akbarzadeh T 2013Cybernet.Syst.44 402

[26]Amani J,Moeini R 2012Sci.Iran.19 242

[27]Li J,Feng J,Wang W 2016Sci.Geog.Sin.36 780

[28]Peng Y X,Lü J Y,Gu S J 2016Chin.J.Space Sci.36 866(in Chinese)[彭宇翔,呂建永,顧賽菊 2016空間科學(xué)學(xué)報36 866]