喬 敏,張德雨,劉思宇,閆天翼,相 潔
1.太原理工大學(xué) 信息與計(jì)算機(jī)學(xué)院,太原030600
2.北京理工大學(xué) 機(jī)電學(xué)院,北京100081
3.北京理工大學(xué) 生命學(xué)院,北京100081
腦機(jī)接口(Brain-Computer Interface,BCI)可以自動(dòng)識(shí)別人的意圖,利用的是大腦的信號(hào),能不依賴于神經(jīng)系統(tǒng)和肌肉去控制外部設(shè)備,進(jìn)而與外界交流互動(dòng)。該技術(shù)廣泛用于術(shù)后康復(fù)訓(xùn)練、重癥及殘障人士的護(hù)理、智能假肢以至機(jī)械設(shè)備控制等方面[1-3]。與其他方法相比,SSVEP需要記錄的腦電數(shù)據(jù)通道少,無需訓(xùn)練,還可以獲得較高的識(shí)別度。然而,目前研究通常采用在一塊靜態(tài)背景的不同位置上輸出不同頻率閃爍,每一個(gè)閃爍對(duì)應(yīng)一種固定頻率,同時(shí)對(duì)應(yīng)著某個(gè)固定的指令,如用于腦控輪椅的方向信息,用于腦控打字的字母信息等。例如,Omid及其團(tuán)隊(duì)[4]就在黑色屏幕背景的上、下、左、右四個(gè)方向上分別施加不同頻率的閃爍刺激,實(shí)現(xiàn)了重癥病人的醫(yī)護(hù)人員召喚及食物請(qǐng)求等不同需求。國內(nèi)清華大學(xué)高上凱教授團(tuán)隊(duì)的陳小剛博士[5]實(shí)現(xiàn)了利用SSVEP腦控打字,可以輸出26個(gè)英文字母、10個(gè)數(shù)字以及部分功能按鍵等,在他們的研究中,字母、數(shù)字等以陣列閃爍的形式存在,使用者依次注視不同的字母,即可實(shí)現(xiàn)字符的輸入與輸出。
這些范式主要是在靜態(tài)背景下輸出刺激閃爍,被試無法直觀地獲取被腦電控制物體的實(shí)時(shí)狀態(tài),而且可能更容易導(dǎo)致視覺疲勞。所以近期部分研究者提出了基于增強(qiáng)現(xiàn)實(shí)的SSVEP研究。例如:Si-Mohammed及其團(tuán)隊(duì)[6]在2018 年使用基于增強(qiáng)現(xiàn)實(shí)的SSVEP 實(shí)現(xiàn)了腦電對(duì)智能車的控制,研究者們使用固定攝像機(jī)的采集圖像,而非純色背景,在增強(qiáng)現(xiàn)實(shí)背景上疊加SSVEP閃爍刺激,分別對(duì)應(yīng)前進(jìn)、左轉(zhuǎn)、右轉(zhuǎn),并以此控制車按指定路線前進(jìn)。Yang Chenguang及其團(tuán)隊(duì)于2018年基于物體追蹤實(shí)現(xiàn)了增強(qiáng)現(xiàn)實(shí)背景與增強(qiáng)現(xiàn)實(shí)刺激的腦控機(jī)械臂系統(tǒng),并以腦電控制機(jī)械臂直接抓取物體。然而,對(duì)于當(dāng)前基于增強(qiáng)現(xiàn)實(shí)(AR)的SSVEP 研究存在以下問題:(1)其刺激方式為閃爍的黑白塊,固定在某些位置,而實(shí)際應(yīng)用中所識(shí)別的目標(biāo)物體大多是動(dòng)態(tài)的。(2)當(dāng)前研究中,由于SSVEP 需要快速的閃爍,使得其對(duì)物體識(shí)別的速率要求極高,所以在識(shí)別增強(qiáng)現(xiàn)實(shí)SSVEP 腦電信號(hào)時(shí)引入了濾波器組相關(guān)分析方法(FBCCA)[7]。(3)當(dāng)前研究中,增強(qiáng)現(xiàn)實(shí)SSVEP對(duì)腦電影響的分析較少,因此限制了其在增強(qiáng)現(xiàn)實(shí)SSVEP 系統(tǒng)的優(yōu)化空間。
增強(qiáng)現(xiàn)實(shí)腦機(jī)接口系統(tǒng)由以下幾個(gè)部分構(gòu)成,系統(tǒng)框架結(jié)構(gòu)如圖1所示:(1)增強(qiáng)現(xiàn)實(shí)刺激模塊,采用基于視覺與多線程異步運(yùn)行的方法,向使用者輸出場(chǎng)景感知與追蹤指定物體的視覺刺激。(2)腦電采集模塊,在研究的系統(tǒng)結(jié)構(gòu)中,腦電采集設(shè)備通過LSL(Lab Streaming Layer)[8]進(jìn)行數(shù)據(jù)傳輸,所以增強(qiáng)現(xiàn)實(shí)腦機(jī)接口可支持多種腦電采集設(shè)備。(3)腦電分析模塊,采用濾波器組典型相關(guān)分析(FBCCA)[7]方式實(shí)現(xiàn)對(duì)人腦意圖的分類。(4)機(jī)械臂控制模塊,外部設(shè)備根據(jù)實(shí)時(shí)分析出來的結(jié)果,通過TCP/IP協(xié)議傳輸?shù)綑C(jī)械臂控制系統(tǒng),完成相應(yīng)動(dòng)作,實(shí)現(xiàn)使用者的操作意圖。
圖1 增強(qiáng)現(xiàn)實(shí)腦機(jī)接口系統(tǒng)框架
當(dāng)系統(tǒng)開機(jī)以后,增強(qiáng)現(xiàn)實(shí)刺激模塊通過預(yù)設(shè)的模型庫匹配場(chǎng)景中的指定物體,將物體以一定的頻率標(biāo)記,作為刺激顯示呈現(xiàn)給被試。
實(shí)驗(yàn)采用德國Brain Products公司的放大器和腦電采集設(shè)備,利用公司自帶的BrainVision Recorder 記錄軟件記錄并保存數(shù)據(jù),在線實(shí)驗(yàn)中該軟件可以作為服務(wù)器通過LSL 協(xié)議傳輸數(shù)據(jù),實(shí)驗(yàn)記錄數(shù)據(jù)時(shí)設(shè)置0.5~48 Hz的帶通濾波。
目前SSVEP腦機(jī)接口系統(tǒng)的腦電在線分類有兩種代表性思路,第一種先對(duì)信號(hào)先進(jìn)行頻域變換,然后使用機(jī)器學(xué)習(xí)算法進(jìn)行分類;第二種是對(duì)時(shí)域信號(hào)使用相關(guān)性算法進(jìn)行分類,其中具有代表性的算法就是CCA(Canonical Correlation Analysis,典型相關(guān)分析算法)[9-11]。第一種思路需要對(duì)被試首先采集一段腦電數(shù)據(jù),然后訓(xùn)練模型,最后進(jìn)行在線分類;而第二種思路具有不需訓(xùn)練、能夠直接進(jìn)行在線分類的優(yōu)勢(shì)。因此,在系統(tǒng)設(shè)計(jì)中,采用濾波器組典型相關(guān)分析方法(FBCCA)[7],對(duì)傳統(tǒng)的CCA方法進(jìn)行了改進(jìn)。在SSVEP范式中,CCA方法經(jīng)常被用到,該方法用來量化兩個(gè)多維變量之間的相關(guān)性。而本研究采用的濾波器組典型相關(guān)分析方法,是利用SSVEP 信號(hào)中的諧波信號(hào)提高頻率識(shí)別準(zhǔn)確率。FBCCA 的基本思想是SSVEP 電位中,基頻信號(hào)的幅度常常會(huì)大于諧波信號(hào),并且諧波信號(hào)會(huì)隨著諧波數(shù)增加而減弱,但對(duì)應(yīng)的信噪比卻減弱得很小,這表明諧波信號(hào)相對(duì)于周圍的噪聲信號(hào)仍具有很強(qiáng)的辨識(shí)性。圖2是該算法的流程框圖。
圖2 FBCCA算法框圖
FBCCA基本流程:
步驟1 濾波器組分析。
首先,濾波器組分析用多個(gè)具有不同帶通的濾波器進(jìn)行子帶分解。帶通濾波提取EEG 信號(hào)中的子帶成分,濾波使用IIR濾波器。濾波分析后,各子帶分量分別進(jìn)行標(biāo)準(zhǔn)CCA,得到子帶分量和預(yù)定參考信號(hào)(與刺激頻率相一致的頻率)的相關(guān)值。其中第k個(gè)信號(hào)的向量ρk包含n個(gè)相關(guān)值,定義如下:
其中,ρ(x,y)表示x和y之間的相關(guān)系數(shù)。目標(biāo)識(shí)別特征是由一個(gè)相關(guān)值的平方加權(quán)和計(jì)算得到,對(duì)應(yīng)所有子帶成分(如ρ1k)。
其中,n是子帶的索引。根據(jù)研究發(fā)現(xiàn),SSVEP 諧波的SNR隨著響應(yīng)頻率的增加而降低,子帶分量的權(quán)重定義如下:
其中,a和b是使分類器性能最大化的常數(shù),可以使用離線分析的網(wǎng)格搜索方法確定a和b。公式等號(hào)左邊ρ用來確定SSVEP頻率,對(duì)應(yīng)所有刺激頻率。其中,ρ的最大值所對(duì)應(yīng)的參考信號(hào)的頻率就被確定為SSVEP的頻率。
步驟2 穩(wěn)態(tài)視覺誘發(fā)電位腦電信號(hào)的子帶成分與參考信號(hào)計(jì)算CCA。
構(gòu)造腦電信號(hào)模板。由于10 Hz 的SSVEP 刺激信號(hào)會(huì)在10 Hz及倍頻(如20 Hz、30 Hz等)處產(chǎn)生誘發(fā)腦電,同時(shí)考慮到較高倍頻處誘發(fā)的SSVEP信號(hào)較弱,因此在本研究中只分析10 Hz與20 Hz處的誘發(fā)腦電。構(gòu)造模板信號(hào)X,X維度為12×N(其中N為分析信號(hào)點(diǎn)數(shù),N=f×T,f為信號(hào)頻率,T為分析信號(hào)時(shí)間長度)。X的前六行為頻率10 Hz,相位間隔為60°的正弦波;后六行為頻率20 Hz,相位間隔為60°的正弦波。同理,也可以將8 Hz、10 Hz、15 Hz的腦電模板構(gòu)造出來。
數(shù)據(jù)標(biāo)準(zhǔn)化。實(shí)驗(yàn)中獲取一段時(shí)間的腦電信號(hào)Y,Y維度為C×N(其中C為通道數(shù);N為分析信號(hào)點(diǎn)數(shù),N=f×T,f為信號(hào)頻率,T為分析信號(hào)時(shí)間長度)。為了便于計(jì)算,第一步需要對(duì)原始數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化,得到均值是0方差是1的數(shù)據(jù)。這里,默許X、Y都是標(biāo)準(zhǔn)化后的數(shù)據(jù)。
CCA 求解問題簡化。分別線性表示這兩個(gè)矩陣,投影到一維空間,對(duì)應(yīng)的投影向量命名為a、b。因此,
算出最大化后對(duì)應(yīng)的投影向量a、b是典型關(guān)聯(lián)分析的思路,即:
同時(shí):
由于X,Y均值為0:
令SXY=cov(X,Y),則優(yōu)化目標(biāo)轉(zhuǎn)化為:
固定分母,優(yōu)化分析,優(yōu)化目標(biāo)在此可以轉(zhuǎn)化為:
其中,aTSKXa=1,bTSYYb=1。
步驟3 CCA 算法的SVD 求解。令,可以得到:
優(yōu)化目標(biāo)轉(zhuǎn)化為:
其中,uTu=1,vTv=1。
在這里,可以將u和v視作矩陣的某一個(gè)奇異值對(duì)應(yīng)的左右奇異值向量。利用奇異值分解,可以得到M=UΣVT,其中M與V為M的左右奇異向量矩陣,Σ為M的奇異值構(gòu)成的對(duì)角矩陣。因此可以得到:
這樣,目標(biāo)接下來就是M的最大奇異值。接下來,利用左右奇異變量u與v可以求出X與Y的投影矩陣a與b(在本研究中只需要求出最大相關(guān)系數(shù)即可)。在以上的步驟中,可以分別求解出腦電信號(hào)Y與四種刺激頻率(8 Hz,10 Hz,12 Hz 和15 Hz)下參考信號(hào)X的最大相關(guān)系數(shù)。
步驟4 目標(biāo)識(shí)別。
相關(guān)系數(shù)ρ的最大值所對(duì)應(yīng)的參考信號(hào)的頻率就是受試者當(dāng)時(shí)所看到的刺激目標(biāo)頻率,也就是SSVEP的頻率。
北京理工大學(xué)研究生,共8人,年齡23~30歲,實(shí)驗(yàn)前均表示無疾病,視力正?;蛘呓?jīng)過矯正后正常。受試者均有過做腦電實(shí)驗(yàn)的經(jīng)歷,在本項(xiàng)實(shí)驗(yàn)前保證了充足的睡眠時(shí)間,并將頭發(fā)洗干凈。離線數(shù)據(jù)采集和在線實(shí)驗(yàn)均在正常環(huán)境中進(jìn)行,沒有屏蔽外界的電磁干擾和周圍同學(xué)走動(dòng)的干擾等。
為模擬真實(shí)的腦機(jī)接口應(yīng)用場(chǎng)景,實(shí)驗(yàn)數(shù)據(jù)采集時(shí)未在屏蔽室進(jìn)行,而是在日常的實(shí)驗(yàn)室環(huán)境下,所以周圍會(huì)有人員走動(dòng)的干擾和環(huán)境中的其他干擾。視覺刺激顯示在27 英寸的LED 屏幕上,屏幕幀速率為60 Hz,最高亮度為600 nit。受試者坐在離屏幕60 cm[12]的地方。采用干電極(O1,O2,Oz,P3)對(duì)被試者的腦電進(jìn)行采集,電極位置分布采用10-20 國際標(biāo)準(zhǔn)放置法[13],放大器中記錄腦電圖(EEG),電極以(Cz)作為參考,以前額為地。這樣的電極配置可以覆蓋視覺皮層。使用ActiCHamp-32 放大器(BrainProduct,德國)以500 Hz的頻率記錄腦電圖數(shù)據(jù),使用工作站(Intel 8700K CPU、16 GB-DDR5 RAM、Nvidia GTX1060 圖形卡)做刺激呈現(xiàn)以及數(shù)據(jù)分析。圖3 顯示了實(shí)驗(yàn)的環(huán)境配置及電極位置。
圖3 實(shí)驗(yàn)環(huán)境配置及電極位置
當(dāng)被試者被告知實(shí)驗(yàn)方案,并完全同意后,他們按上述方案佩戴腦電采集設(shè)備,并完成4組SSVEP數(shù)據(jù)采集實(shí)驗(yàn)。每組實(shí)驗(yàn)由20 個(gè)Block 組成。在每個(gè)Block中,都有4 個(gè)目標(biāo)以不同頻率閃爍,參與者按照提示注視某一目標(biāo)。每一個(gè)Block 持續(xù)12 s,包括6 s 的刺激,以及6 s 的休息時(shí)間。在第一組實(shí)驗(yàn)中,靜態(tài)背景下呈現(xiàn)4個(gè)固定目標(biāo)(分別以8、10、12、15 Hz頻率閃爍)。被試在每個(gè)Block中被提示隨機(jī)注視其中的一個(gè)目標(biāo)。第二組實(shí)驗(yàn)中,閃爍塊以1 000 px/s的速度左右移動(dòng),閃爍塊的大小與第一組實(shí)驗(yàn)中的一致,同樣的,實(shí)驗(yàn)進(jìn)行4組,每組20個(gè)block。在線實(shí)驗(yàn)中,利用一個(gè)實(shí)時(shí)高速攝像頭,被試可以直觀感受到外部環(huán)境,攝像頭置于機(jī)器人頭部,置物架以預(yù)先設(shè)定好的采用機(jī)器視覺追蹤并以特定頻率閃爍塊標(biāo)記物體(如圖4(c)中橙子的標(biāo)記是12 Hz閃爍塊),機(jī)器視覺追蹤采用深度學(xué)習(xí)方法追蹤目標(biāo),實(shí)時(shí)獲取目標(biāo)坐標(biāo)位置信息并進(jìn)行頻率標(biāo)記。系統(tǒng)語音提示受試者需注視目標(biāo)后,被標(biāo)記的物體開始閃爍,系統(tǒng)分析1 s 后給出分類結(jié)果,機(jī)械臂進(jìn)行抓取動(dòng)作(比如分類結(jié)果是12 Hz,機(jī)械臂執(zhí)行抓取橙子動(dòng)作)。此組在線實(shí)驗(yàn)系統(tǒng)提示受試者0.25 s,采集1 s,休息0.25 s。
圖4 AR-SSVEP實(shí)驗(yàn)設(shè)計(jì)
在目標(biāo)檢測(cè)中,使用遷移學(xué)習(xí)方法,對(duì)計(jì)算機(jī)視覺領(lǐng)域前沿算法模型進(jìn)行再訓(xùn)練。本系統(tǒng)采用TinyYOLOv3模型,首先,下載已有的YOLOv3 模型[14];第二步,獲取200 張要追蹤的物體照片;第三步,劃分訓(xùn)練集與驗(yàn)證集(此處,使用對(duì)數(shù)據(jù)集使用了樣本增強(qiáng)辦法,擴(kuò)充到了2 000 個(gè)樣本);第四步,與YOLOv3 論文中進(jìn)行相同的參數(shù)設(shè)置,單獨(dú)修改模型最后一層,凍結(jié)前面的模型層,使用實(shí)驗(yàn)室的GPU 進(jìn)行訓(xùn)練;第五步,使用驗(yàn)證集對(duì)模型進(jìn)行評(píng)估,同時(shí)在真實(shí)場(chǎng)景下對(duì)模型識(shí)別率進(jìn)行測(cè)試。然后,將遷移學(xué)習(xí)得到的模型用于實(shí)時(shí)物體檢測(cè)當(dāng)中,可以實(shí)時(shí)輸出每一幀中的檢測(cè)目標(biāo)(多個(gè))的Bounding Box(矩形框的四個(gè)點(diǎn)坐標(biāo))。
接下來,使用密度直方圖估計(jì)方法,對(duì)前后兩幀中識(shí)別的多個(gè)檢測(cè)目標(biāo)進(jìn)行匹配。從而實(shí)現(xiàn)物體追蹤。
具體實(shí)現(xiàn)過程如下:對(duì)攝像頭第n幀采集的畫面進(jìn)行物體檢測(cè),檢測(cè)出m個(gè)動(dòng)態(tài)物體,計(jì)算出m個(gè)物體所在的區(qū)域(Bounding Box)密度直方圖。之后,將第n+1 幀畫面中的計(jì)算結(jié)果與第n幀畫面中的計(jì)算結(jié)果進(jìn)行匹配。以此類推,實(shí)現(xiàn)了整個(gè)物體的追蹤過程。
時(shí)間窗口長度(Time Window Length,TWL)[15-16]是在穩(wěn)態(tài)視覺誘發(fā)電位范式中頻率識(shí)別正確率的影響因素,是指算法每次進(jìn)行頻率識(shí)別所利用的信號(hào)時(shí)間長度,它等于信號(hào)長度與采樣率的比值[15-17]。
離線數(shù)據(jù)分類利用FBCCA 算法對(duì)SSVEP 信號(hào)進(jìn)行頻率識(shí)別,分別在時(shí)間窗口長度為0.5 s、1 s、1.5 s、2 s、2.5 s、3 s、3.5 s 時(shí),對(duì)8 名受試者腦電信號(hào)進(jìn)行頻率識(shí)別。圖5 所示為不同時(shí)間窗口下各個(gè)受試者信號(hào)分類準(zhǔn)確率。由圖可知:隨時(shí)間窗口長度增加,信號(hào)的分類準(zhǔn)確率逐漸增大。這是因?yàn)闀r(shí)間窗口長度越大,選取不同的刺激頻率,由通道信號(hào)和參考信號(hào)得到的相關(guān)值ρ越精確,此時(shí)ρk對(duì)應(yīng)的參考信號(hào)的頻率就是SSVEP 的刺激頻率。
圖5 靜態(tài)刺激信號(hào)分類準(zhǔn)確率(0.5~3.5 s,步長0.5 s)
在第二組實(shí)驗(yàn)中,把動(dòng)態(tài)刺激作為在增強(qiáng)現(xiàn)實(shí)和SSVEP 結(jié)合下的模擬實(shí)驗(yàn),分析在真實(shí)背景下,大腦視覺區(qū)域?qū)σ苿?dòng)刺激的反應(yīng)。實(shí)驗(yàn)結(jié)果表明,除受試者S5 外,其余受試者在動(dòng)態(tài)刺激下的目標(biāo)識(shí)別準(zhǔn)確率均高于靜態(tài)刺激,如圖6 所示,這表明增強(qiáng)現(xiàn)實(shí)和SSVEP結(jié)合更夠有效提高準(zhǔn)確率,進(jìn)一步提高人機(jī)互動(dòng)性,為以后的腦機(jī)接口研究發(fā)展提供新思路。
圖6 動(dòng)態(tài)刺激信號(hào)分類準(zhǔn)確率(0.5~3.5 s,步長0.5 s)
在腦機(jī)接口系統(tǒng)中,時(shí)間窗口長度會(huì)影響系統(tǒng)通信速率。通信速率可以通過信息傳輸速率(Information Transmission Rate,ITR)[15,18]來表示,其計(jì)算公式如下:
其中,T為時(shí)間窗口長度(TWL),N為實(shí)驗(yàn)中閃爍塊頻率個(gè)數(shù),P為準(zhǔn)確率,ITR單位是bit/min。在線系統(tǒng)中TWL的選擇需考慮到其對(duì)分類正確率以及系統(tǒng)通信速率的影響。TWL包括目標(biāo)的刺激時(shí)間和兩次目標(biāo)之間的停頓時(shí)間,不同時(shí)間窗口下對(duì)應(yīng)的ITR 顯然不同,表1 列出了不同的SSVEP 刺激方式下,8 個(gè)受試者的平均準(zhǔn)確率對(duì)應(yīng)的ITR。
表1 靜態(tài)和動(dòng)態(tài)SSVEP下不同時(shí)間窗對(duì)應(yīng)的ITR bit/min
由此可以得到,增強(qiáng)現(xiàn)實(shí)和SSVEP 相結(jié)合的這種動(dòng)態(tài)刺激方式下,腦機(jī)接口系統(tǒng)的性能高于傳統(tǒng)的靜態(tài)刺激。同時(shí),在這兩種情況中,信息傳輸速率隨著時(shí)間窗口的增大先變大后減小,在1 s時(shí)得到最大ITR,分別為70.31 bit/min 和74.27 bit/min。當(dāng)然,在動(dòng)態(tài)刺激下,刺激模塊移動(dòng)的速度和方向可能也會(huì)對(duì)結(jié)果產(chǎn)生影響,本實(shí)驗(yàn)中刺激模塊的移動(dòng)速度設(shè)置為每秒1 000 像素點(diǎn),是人眼可以輕松跟隨的速度。采用極限思維思考,移動(dòng)速度達(dá)到最快,人眼無法識(shí)別和追蹤,那自然SSVEP 無法誘發(fā)。關(guān)于這些因素的影響也是之后需要研究的一個(gè)內(nèi)容。
不同受試者在這兩種刺激下的準(zhǔn)確率和ITR 有所不同,圖7就是不同受試者在兩種范式下的準(zhǔn)確率比較。
在以上研究的基礎(chǔ)上,讓同一批受試者進(jìn)行在線實(shí)現(xiàn),實(shí)驗(yàn)場(chǎng)景如圖4(c)所示,繼續(xù)以8、10、12、15 Hz 頻率閃爍標(biāo)記不同實(shí)物。然后分析1 s內(nèi)識(shí)別的平均準(zhǔn)確率,并計(jì)算相應(yīng)ITR。實(shí)驗(yàn)結(jié)果如表2 所示,結(jié)果表明,所有受試者在在線實(shí)驗(yàn)中均取得了較高的正確率,平均正確率為87.66%,平均ITR為50.69 bit/min,達(dá)到了較好的分類效果。系統(tǒng)的在線實(shí)驗(yàn)結(jié)果表明將增強(qiáng)現(xiàn)實(shí)和SSVEP結(jié)合研發(fā)的動(dòng)態(tài)SSVEP腦機(jī)接口系統(tǒng)的可行性。
圖7 受試者在兩組實(shí)驗(yàn)中準(zhǔn)確率隨TWL的變化及兩組的平均
表2 在線實(shí)驗(yàn)中的分類準(zhǔn)確率和ITR
本文研究增強(qiáng)現(xiàn)實(shí)和SSVEP 結(jié)合的腦機(jī)接口系統(tǒng),利用機(jī)器視覺算法實(shí)現(xiàn)目標(biāo)追蹤,設(shè)計(jì)了一個(gè)動(dòng)態(tài)視覺誘發(fā)電位的BCI系統(tǒng)。離線數(shù)據(jù)分析中利用FBCCA算法對(duì)SSVEP信號(hào)分類,證明了FBCCA算法對(duì)所采集的腦電數(shù)據(jù)分類的有效性,并對(duì)在線系統(tǒng)中的參數(shù)的選擇進(jìn)行了分析和說明。在線系統(tǒng)中,八名受試者通過動(dòng)態(tài)視覺誘發(fā)電位BCI系統(tǒng)控制機(jī)器人抓取,四類任務(wù)下取得了87.66%的平均準(zhǔn)確率。相對(duì)目前大多數(shù)腦機(jī)接口研究只進(jìn)行離線數(shù)據(jù)分析的研究,本文設(shè)計(jì)實(shí)現(xiàn)了增強(qiáng)現(xiàn)實(shí)和SSVEP 相結(jié)合的腦機(jī)接口系統(tǒng),設(shè)計(jì)了動(dòng)態(tài)視覺誘發(fā)電位的離線和在線實(shí)驗(yàn),驗(yàn)證了人腦電信號(hào)處理算法在外部設(shè)備控制中的有效性,為將未來的腦控機(jī)器人用于軍事、安防、醫(yī)療護(hù)理、教育、智能家居提供了新思路。