柯海森 雙嘉偉
(中國(guó)計(jì)量學(xué)院機(jī)電工程學(xué)院 浙江 杭州 310018)
?
基于ELM運(yùn)動(dòng)想象腦電信號(hào)的分類
柯海森雙嘉偉
(中國(guó)計(jì)量學(xué)院機(jī)電工程學(xué)院浙江 杭州 310018)
針對(duì)運(yùn)動(dòng)想象腦電信號(hào)的分類識(shí)別,提出一種基于小波變換和共空間模式濾波的方法進(jìn)行特征提取。對(duì)EEG進(jìn)行3層小波分解,提取相關(guān)層數(shù)小波系數(shù)的特征量;同時(shí)利用共空間模式對(duì)EEG進(jìn)行空間濾波,提取其轉(zhuǎn)換后信號(hào)的方差作為特征量,并將這兩類特征量進(jìn)行組合。該方法結(jié)合了時(shí)頻域和空間域的特征信息,可提高分類識(shí)別的效果。最后選取BCI2003中Data set Ⅲ數(shù)據(jù)作為樣本,分別用極限學(xué)習(xí)機(jī)和基于粒子群算法的支持向量機(jī)進(jìn)行分類識(shí)別。實(shí)驗(yàn)結(jié)果表明極限學(xué)習(xí)機(jī)分類學(xué)習(xí)時(shí)間較快,最優(yōu)識(shí)別率為94.2857%,證明了該方法更適用于腦機(jī)接口系統(tǒng)。
運(yùn)動(dòng)想象小波變換共空間模式支持向量機(jī)極限學(xué)習(xí)機(jī)
腦機(jī)接口BCI(Brain Computer Interface)技術(shù)是一種通過(guò)大腦與外界環(huán)境進(jìn)行交流控制,使人們可以通過(guò)大腦來(lái)表達(dá)自己的意愿或者控制意圖。其主要目標(biāo)是加強(qiáng)有嚴(yán)重身體缺陷和交流障礙的傷殘人士與外界交流和溝通的能力[1,2]。
特征提取和分類器設(shè)計(jì)是BCI系統(tǒng)中的核心技術(shù),快速準(zhǔn)確地對(duì)EEG進(jìn)行分類識(shí)別是BCI系統(tǒng)的重要指標(biāo)。早期的腦電信號(hào)特征提取方法有單一類信息法[3]和時(shí)頻特征組合法[4]可以簡(jiǎn)單有效提取EEG的特征信息,但該方法處理短信號(hào)時(shí)特征信息不明顯,并且如果信號(hào)發(fā)生突變時(shí),其提取的特征信息效果不佳;自回歸AR(Auto regression)模型[5]雖然能很好地分析出信號(hào)的時(shí)變特性,但是信號(hào)的長(zhǎng)度決定其分辨的效果,也不利于短信號(hào)的分析;自適應(yīng)自回歸AAR(Adaptive auto regression)模型[6]可以有效地彌補(bǔ)AR模型在短信號(hào)處理時(shí)的缺陷,但此方法更適用于平穩(wěn)信號(hào),而EEG是一種非平穩(wěn)無(wú)周期的信號(hào);小波分析[7]可以提取低頻時(shí)的頻率信息和高頻時(shí)的時(shí)間信息,能夠很好地分析非平穩(wěn)信號(hào),但是該方法只考慮了時(shí)頻域的特征,沒(méi)有考慮運(yùn)動(dòng)想象腦電信號(hào)空間域的特征信息。
針對(duì)此問(wèn)題,本文提出一種基于小波變換和共空間模式CSP(Common spatial pattern)的方法,小波變換對(duì)EEG進(jìn)行小波分解,提取相關(guān)層數(shù)的頻域信息作為一組時(shí)頻域的特征量;同時(shí),對(duì)腦電信號(hào)進(jìn)行共空間模式濾波,計(jì)算出濾波后信號(hào)的方差作為一組空間域的特征向量。組合兩組特征量,即對(duì)時(shí)頻域的特征量進(jìn)行增廣,該方法結(jié)合了時(shí)頻域和空間域的特征信息,可提高分類識(shí)別的效果。
對(duì)于分類器的設(shè)計(jì),支持向量機(jī)(SVM)主要是對(duì)特征量進(jìn)行升維和線性化,而升維增加計(jì)算量使訓(xùn)練學(xué)習(xí)時(shí)間較長(zhǎng);極限學(xué)習(xí)機(jī)(ELM)是一種泛化的單隱層前饋神經(jīng)網(wǎng)絡(luò),但ELM不用計(jì)算出每個(gè)隱層的連接權(quán)值和閾值,而是根據(jù)概率論知識(shí)隨機(jī)每個(gè)隱層的連接權(quán)值和閾值,有效地減少了計(jì)算量,極大地縮短訓(xùn)練學(xué)習(xí)時(shí)間。因此,本文選擇ELM對(duì)特征量進(jìn)行分類。
而對(duì)在線腦機(jī)接口系統(tǒng)來(lái)講,能夠更快、更高效地實(shí)時(shí)分類識(shí)別出操作人員的腦電信號(hào),是該技術(shù)發(fā)展的重點(diǎn)方向。本文選用2003年BCI競(jìng)賽中的運(yùn)動(dòng)想象腦電數(shù)據(jù)(Data set Ⅲ),比較了不同特征提取方法的識(shí)別效果,在分類算法上對(duì)比了ELM和基于粒子群算法的支持向量機(jī)(PSO-SVM)的分類效果。實(shí)驗(yàn)結(jié)果表明本文提出的方法,比只單獨(dú)使用一種方法的識(shí)別率要高,ELM在分類時(shí)的學(xué)習(xí)時(shí)間更快,最優(yōu)識(shí)別率為94.2857%也優(yōu)于PSO-SVM,驗(yàn)證了該方法能更好地應(yīng)用于BCI實(shí)時(shí)系統(tǒng)。
1.1離散小波變換
小波變換的實(shí)質(zhì)是通過(guò)改變小波窗口的大小,對(duì)信號(hào)進(jìn)行多尺度分析,從而實(shí)現(xiàn)對(duì)信號(hào)高頻處進(jìn)行時(shí)間細(xì)分,而對(duì)信號(hào)的低頻處進(jìn)行頻率的細(xì)分。
設(shè)x(n)是腦電采集設(shè)備輸出的離散信號(hào),采用Mallat算法,按式(1)對(duì)EEG進(jìn)行小波分解[7,8]:
(1)
1.2共空間模式濾波
CSP是一種針對(duì)多類信號(hào)的處理手段,從多類信號(hào)集中提取特定的任務(wù)信號(hào),并使兩者在空間能量的分布差異最大化[9]。
設(shè)腦電信號(hào)采集設(shè)備上共有M個(gè)通道,即M個(gè)電極,每一次實(shí)驗(yàn)每個(gè)通道分別采集N個(gè)信號(hào),故每次采集的數(shù)據(jù)可以看成一個(gè)M×N的就矩陣Ei。則Ei的標(biāo)準(zhǔn)空間協(xié)方差矩陣可以表示為:
(2)
C=Cl+Cr
(3)
而C又可以寫(xiě)成C=BλBT,式中B為C的特征向量矩陣,λ是由非零特征值組成的對(duì)角陣。使λ按照對(duì)角線上的元素進(jìn)行遞減排列,同時(shí)B與之對(duì)應(yīng)的進(jìn)行調(diào)整。求出白化矩陣:
(4)
則矩陣PCPT的特征值為1,又因?yàn)槭?3),所以可以令:
Sl=PClPTSr=PCrPT
(5)
則Sl與Sr具有共同的特征向量??梢栽O(shè):
Sl=DλlDTSr=DλrDTλl+λr=I
(6)
式中,Sl與Sr的共同特征向量D,I是單位陣。由式(6)可知,若λ1是由大到小排列,則λ2是從小到大排列。為了實(shí)現(xiàn)兩類任務(wù)在空間排布的最大差異化,選取λ1中m個(gè)最大特征值對(duì)應(yīng)的特征向量和m個(gè)最小特征值對(duì)應(yīng)的特征向量,組成新的特征量Dl和Dr來(lái)構(gòu)造兩類任務(wù)的空間濾波器:
(7)
則每次實(shí)驗(yàn)采集的腦電數(shù)據(jù)Ei,進(jìn)行共空間模式濾波得到Zi,即Zi=WEi。
2.1單隱層前饋神經(jīng)網(wǎng)絡(luò)
設(shè)訓(xùn)練集共有N個(gè)樣本,樣本的輸入集X和輸出集T用矩陣表示為:
X=[x1,x2,…,xN]T=[t1,t2,…,tN]
(8)
則標(biāo)準(zhǔn)的單隱層前向神經(jīng)網(wǎng)絡(luò)數(shù)學(xué)模型可以表示為:
(9)
式中,xj和tj表示第j個(gè)樣本的輸入和輸出,ai是輸入神經(jīng)元與第i個(gè)隱層節(jié)點(diǎn)的連接權(quán)值,bi為第i個(gè)隱層節(jié)點(diǎn)的偏置,βi是第i個(gè)隱層節(jié)點(diǎn)與輸出神經(jīng)元的連接權(quán)值,g(x)是無(wú)限可微的激勵(lì)函數(shù)。
式(9)式可表示為:
Hβ=T
(10)
H(a1,…,aL,b1,…,bL,x1,…,xN)
(11)
(12)
式中,H為神經(jīng)網(wǎng)絡(luò)的隱層輸出矩陣。
2.2極限學(xué)習(xí)機(jī)原理
極限學(xué)習(xí)機(jī)的主要原理[10]是:為了達(dá)到確定網(wǎng)絡(luò)結(jié)構(gòu)的目的,可以通過(guò)擬合N個(gè)不同樣本的輸入輸出來(lái)得到任意小的非零誤差,并根據(jù)實(shí)際情況選擇L(L≤N)個(gè)隱層節(jié)點(diǎn)。通過(guò)隨機(jī)每個(gè)隱層節(jié)點(diǎn)的輸入權(quán)值ai和偏置閾值bi,來(lái)求出隱層輸出矩陣H。
當(dāng)激勵(lì)函數(shù)g(x)無(wú)限可微時(shí),只要在訓(xùn)練樣本前隨機(jī)這兩個(gè)參數(shù),并且在整個(gè)訓(xùn)練過(guò)程保證兩個(gè)參數(shù)的大小不變,即可以得到輸出連接權(quán)值。求出式(13)的最小二乘解:
(13)
可求出:
β=H+T
(14)
式中,H+是H的廣義逆。
綜上,ELM的算法內(nèi)容如下:
若已知N個(gè)訓(xùn)練樣本中的輸入集和輸出集,極限學(xué)習(xí)機(jī)的隱層節(jié)點(diǎn)數(shù)L,以及無(wú)限可微的激勵(lì)函數(shù)g(x),具體步驟如下:
(1) 隨機(jī)選取每個(gè)隱層節(jié)點(diǎn)對(duì)應(yīng)的輸入權(quán)值ai和隱層偏置bi,i=1,2,…,L;
(2) 通過(guò)式(11)確定隱層輸出矩陣H;
(3) 通過(guò)式(14)求出輸出權(quán)值β。
本文選用的數(shù)據(jù)是Graz大學(xué)提供的BCI 2003運(yùn)動(dòng)想象腦電數(shù)據(jù)(Data set Ⅲ)[11]。該實(shí)驗(yàn)對(duì)同一受試者進(jìn)行了7×40次實(shí)驗(yàn),每組實(shí)驗(yàn)在同一天完成,每次實(shí)驗(yàn)后都有一定的休息時(shí)間。腦電采集設(shè)備使用雙級(jí)導(dǎo)聯(lián)的方式,對(duì)運(yùn)動(dòng)想象區(qū)域的C3、C4和Cz三個(gè)位置進(jìn)行腦電信號(hào)采集,電極位置如圖1所示。
圖1 電極位置圖
每次實(shí)驗(yàn)的時(shí)序如圖2所示,實(shí)驗(yàn)分為三個(gè)階段:0~2 s為等待休息時(shí)間;2~3 s屏幕中央出現(xiàn)十字符號(hào)提醒受試者做好準(zhǔn)備;3~9 s屏幕上隨機(jī)出現(xiàn)一個(gè)向左或者向右的指示箭頭,要求受試者按照箭頭方向做出與之對(duì)應(yīng)的運(yùn)動(dòng)想象。每組實(shí)驗(yàn)的采樣頻率為128 Hz,且每組數(shù)據(jù)都進(jìn)行了0.5~30 Hz的帶通濾波。比賽共提供了280組數(shù)據(jù),140組已知想象運(yùn)動(dòng)方式當(dāng)作訓(xùn)練集,另外140組未知其想象運(yùn)動(dòng)方式當(dāng)作測(cè)試集。
圖2 實(shí)驗(yàn)時(shí)序圖
4.1數(shù)據(jù)預(yù)處理
通過(guò)大量的實(shí)驗(yàn)證明,人們?cè)谙胂蠡驅(qū)嵤﹩蝹?cè)手運(yùn)動(dòng)時(shí),其對(duì)側(cè)運(yùn)動(dòng)感覺(jué)區(qū)的μ節(jié)律(8~13 Hz)和β節(jié)律(18~30 Hz)的幅值降低,此現(xiàn)象稱為事件相關(guān)去同步ERD(event-related desynchronization);對(duì)應(yīng)的同側(cè)運(yùn)動(dòng)感覺(jué)區(qū)的μ節(jié)律和β節(jié)律的幅值升高,此現(xiàn)象稱為事件相關(guān)同步ERS(event-related synchronization)[7]。所以,本文通過(guò)分析想象左右手運(yùn)動(dòng)時(shí)ERD/ERS信號(hào)最明顯的EEG信號(hào)段,選取合適的時(shí)間段進(jìn)行后續(xù)的特征提取及分類。由于,電極Cz的位置與運(yùn)動(dòng)想象功能區(qū)沒(méi)有太大的相關(guān)性,本文只對(duì)C3和C4兩個(gè)通道采集的數(shù)據(jù)進(jìn)行特征提取。首先對(duì)140個(gè)訓(xùn)練集樣本進(jìn)行8~30 Hz帶通濾波,然后按照以下公式計(jì)算各導(dǎo)EEG信號(hào)的平均能量:
(15)
式中,N為訓(xùn)練集的數(shù)量,x(i, j)為第i個(gè)樣本中第j個(gè)采樣腦電信號(hào)的電壓幅值,P(j)為第j個(gè)采樣腦電信號(hào)的平均能量值。通過(guò)式(15)得出C3和C4記錄的EEG通過(guò)8~30 Hz帶通濾波后的平均能量變化曲線,如圖3所示。
圖3 想象左右手運(yùn)動(dòng)時(shí)C3和C4通道EEG信號(hào)的平均能量變化
由圖3可得,受試者在9 s的運(yùn)動(dòng)想象實(shí)驗(yàn)中,其出現(xiàn)ERD現(xiàn)象最明顯的是3.5~7 s這個(gè)范圍內(nèi)。因此,本文選取3.5~7 s時(shí)間段內(nèi)且頻率在8~30 Hz的信號(hào)進(jìn)行后續(xù)的特征提取和分類。
4.2特征提取
4.2.1離散小波變換的腦電信號(hào)特征提取
因?yàn)椋〔ㄗ儞Q對(duì)EEG進(jìn)行有限層分解,其分解的層數(shù)與腦電設(shè)備的采樣頻率和μ節(jié)律與β節(jié)律所在的頻率段有關(guān)。本實(shí)驗(yàn)?zāi)X電采集設(shè)備的采樣頻率為128 Hz,ERD有用成分的信號(hào)在8~30 Hz的范圍內(nèi)。因此,本文選用小波db4對(duì)EEG進(jìn)行三層分解,EEG分解后細(xì)節(jié)部分為D1、D2和D3,近似部分為A3,如圖4所示。
圖4 想象左右手運(yùn)動(dòng)時(shí)小波3層分解(C3通道)
對(duì)EEG進(jìn)行小波3層分解,如表1所示。
表1 小波分解后各層頻帶范圍
由表1可知,μ節(jié)律和β節(jié)律主要包含在D3和D2這兩個(gè)細(xì)節(jié)信號(hào)中,因此本文提取D2和D3系數(shù)的絕對(duì)值的平均值、標(biāo)準(zhǔn)差和能量均值作為一組特征量。
4.2.2CSP的腦電信號(hào)的特征提取
通過(guò)組合空間協(xié)方差矩陣求出的兩類空間濾波器Wl和Wr,令W=[Wl;Wr]。通過(guò)組合后的空間濾波器W,對(duì)實(shí)驗(yàn)數(shù)據(jù)進(jìn)行濾波,濾波后的部分?jǐn)?shù)據(jù)如圖5所示。
圖5 想象左右手運(yùn)動(dòng)時(shí)信號(hào)通過(guò)濾波器W
對(duì)變換后的信號(hào)Zi(i=1,2,…,2n)按式(16)進(jìn)行變換作為另一組特征量。
(16)
4.3腦電信號(hào)分類
通過(guò)小波分析和CSP對(duì)腦電信號(hào)提取的14維特征向量,送入以Sigmoid為激勵(lì)函數(shù)的ELM分類器進(jìn)行分類識(shí)別。為了證明ELM更加適用于運(yùn)動(dòng)想象腦電信號(hào)的分類,本文通過(guò)與使用粒子群算法PSO來(lái)尋找最優(yōu)的C(懲罰因子)和σ(核參數(shù))的SVM分類方法作比較,如表2和表3所示。
表2 分類準(zhǔn)確率的比較
表3 學(xué)習(xí)時(shí)間的比較
通過(guò)表2可知,ELM對(duì)3種不同特征信息的最優(yōu)識(shí)別率與PSO-SVM相比,分別提高了2.1428%、6.4286%和7.1428%。CSP和小波分析的結(jié)合也比只單獨(dú)提取CSP的特征量和小波分析的特征量的分類識(shí)別率高,最優(yōu)識(shí)別率提高了5.7143%。
通過(guò)表3可知,ELM的學(xué)習(xí)分類時(shí)間與PSO-SVM的學(xué)習(xí)分類時(shí)間相比,有著很大程度的減小。證明了ELM在運(yùn)動(dòng)想象腦電信號(hào)的分類中具有更高的分類識(shí)別能力,更短的分類學(xué)習(xí)時(shí)間,能夠更好地滿足BCI實(shí)時(shí)系統(tǒng)的要求。
同時(shí),將本文的分類結(jié)果與BCI 2003的優(yōu)勝者進(jìn)行對(duì)比,比賽前3名的最優(yōu)識(shí)別率分別為89.29%、84.29%、和82.86%,通過(guò)對(duì)比可知本文所述方法的最優(yōu)識(shí)別率94.2857%也比第一名的89.29%提高了4.9957%。同時(shí),也比文獻(xiàn)[12]的90.71%和文獻(xiàn)[13]的92.14%有了明顯的提高。
通過(guò)對(duì)不同的特征量進(jìn)行分類比較,發(fā)現(xiàn)結(jié)合頻域和空間域的信息都比提取單一類信息的效果好。對(duì)比了ELM和PSO-SVM兩種分類器的效果,通過(guò)實(shí)驗(yàn)證明ELM具有更快的學(xué)習(xí)時(shí)間,分類效果也有一定幅度的提高。同時(shí)后續(xù)的工作研究中,也將對(duì)本文提出的運(yùn)動(dòng)想象腦電信號(hào)分類方法用于在線BCI系統(tǒng),進(jìn)行更深入的研究。
[1] Gao Shangkai,Wang Yijun,Gao Xiaorong.Visual and auditory brain-computer interfaces[J].IEEE Transactions on Biomedical Engineering,2014,61(5):1436-1447.
[2] Li X,Wang Y R,Song J L,et al.Research on classification method of combining support vector machine and genetic algorithm for motor imagery EEG[J].Journal of Computational Information Systems,2011,7(12):4351-4358.
[3] Esposito M,Carotenuto M.Intellectul disabilities and power spectra analysis during sleep:a new perspective on borderline intellectual functioning[J].Journal of intellectual disability research,2014,58(5):421-429.
[4] Thanh Nguyen,Khosravi Abbas,Creighton Douglas,et al.EEG signal classification for BCI applications by wacelets and interval type-2 fuzzy logic systems[J].Expert Systems With Applications,2015,42(9):615-624.
[5] Han M,Sun L L.EEG signal classification for epilepsy diagnosis based on AR model and RVM[C]//2010 International Conference on Intelligent Control and Information Processing.DaLian,Liaoning,China:Wang Jun,Han Min,2010:134-139.[6] Hsu Weiyen.Embedded prediction in feature extraction:Application to single-trail EEG discrimination[J].Clinical EEG and Neuroscience,2013,44(1):31-38.
[7] Rosso O A,Martin M T,Figliola A,et al.EEG analysis using wavelet based information tools[J].Journal of Neuroscience Methods,2006,153(2):163-182.
[8] 趙建林,周衛(wèi)東,劉凱,等.基于SVM和小波分析的腦電信號(hào)分類方法[J].計(jì)算機(jī)應(yīng)用與軟件,2011,28(5):114-116.
[9] Tomida Naoki,Tanaka Toshihisa,Ono Shunsuke,et al.Active data selection for motor imagery EEG classification[J].IEEE Transactions on Biomedical Engineering,2015,62(2):458-467.
[10] Vong Chi Man,Tai Keng Lam,Pun Chin Man,et al.Fast and accurate face detection by sparse Bayesian extreme learning machine[J].Neural Computing & Appplications,2015,26(5):1149-1156.
[11] Blankertz B,Muller K,Curio G,et al.The BCI Competition 2003:Progress and Perspectives in Detection and Discrimination of EEG Single Trials[J].IEEE Transactions on Biomedical Engineering,2004,51(6):1044-1051.
[12] 王月茹,李昕,李紅紅,等.基于時(shí)-頻-空間域的運(yùn)動(dòng)想象腦電信號(hào)特征提取方法研究[J].生物醫(yī)學(xué)工程學(xué)雜志,2014,31(5):955-961.
[13] 徐寶國(guó),宋愛(ài)國(guó),費(fèi)樹(shù)岷.在線腦機(jī)接口中腦電信號(hào)的特征提取與分類方法[J].電子學(xué)報(bào),2011,39(5):1025-1030.
CLASSIFICATION OF MOTOR IMAGERY ELECTROENCEPHALOGRAM BASED ON ELM
Ke HaisenShuang Jiawei
(CollegeofMechanicalandElectricalEngineering,ChinaJiliangUniversity,Hangzhou310018,Zhejiang,China)
In this paper, a proposed method has been introduced to classify the motor imagery EEG, whose features are extracted by using discrete wavelet transform and CSP. The EEG signal is decomposed to three levels and the statistics of wavelet coefficients of correlative level are calculated. Meanwhile, CSP is applied to EEG for space filtering and the variance of converted data is extracted as the features vector. Then the two characteristic quantities are combined. This method combines the features of frequency domain and spatial domain to improve the recognition performance. Finally, using Data set Ⅲ from BCI2003 as the sample to classify this method by using extreme learning machine and support vector machine which is based on particle swarm algorithm. The classification results show that the ELM needs less time to classify and the method obtains the best recognition accuracy at 94.2857, which proves the method is more adaptable to brain computer interface system.
Motor imageryWavelet TransformCommon spatial patternsSupport vector machineExtreme learning machine
2015-07-22。浙江省自然科學(xué)基金項(xiàng)目(LY12F030 13);“十二五”浙江省高校重中之重學(xué)科-儀器科學(xué)與技術(shù)學(xué)生開(kāi)放實(shí)驗(yàn)項(xiàng)目(JL150527)??潞I?,副教授,主研領(lǐng)域:自適應(yīng)控制。雙嘉偉,碩士生。
TP391.4R318.04
A
10.3969/j.issn.1000-386x.2016.10.041