唐偉財(cái),陳善廣,2?,肖 毅,姜國(guó)華,田志強(qiáng)
機(jī)械臂遙操作任務(wù)過(guò)程腦力負(fù)荷研究
唐偉財(cái)1,陳善廣1,2?,肖 毅1,姜國(guó)華1,田志強(qiáng)1
(1.中國(guó)航天員科研訓(xùn)練中心人因工程國(guó)防科技重點(diǎn)實(shí)驗(yàn)室,北京100094;2.中國(guó)載人航天工程辦公室,北京100720)
腦力負(fù)荷是影響機(jī)械臂遙操作績(jī)效的重要因素,通過(guò)提取機(jī)械臂遙操作過(guò)程的自發(fā)腦電功率譜特征以及非線性動(dòng)力學(xué)特征,結(jié)合機(jī)械臂遙操作的三階段操作理論,分析了操作過(guò)程腦力負(fù)荷變化規(guī)律,以及各階段的主要認(rèn)知負(fù)荷來(lái)源。實(shí)驗(yàn)表明:自發(fā)腦電功率譜指標(biāo)能有效評(píng)估遙操作過(guò)程被試的腦力負(fù)荷水平,非線性指標(biāo)能有效評(píng)估思維活動(dòng)水平。在遙操作中,腦電功率譜能量逐漸向高頻段轉(zhuǎn)移,腦力負(fù)荷水平逐漸升高;前兩階段的非線性動(dòng)力學(xué)特征值顯著高于最后階段,在第二階段達(dá)到最大,與被試的思維活動(dòng)強(qiáng)度變化規(guī)律相同。前兩階段被試腦力負(fù)荷主要來(lái)源于空間認(rèn)知,第三階段負(fù)荷主要來(lái)源于距離和角度偏差認(rèn)知及任務(wù)壓力。根據(jù)遙操作任務(wù)過(guò)程的腦力負(fù)荷變化規(guī)律及負(fù)荷的主要來(lái)源針對(duì)性提供信息補(bǔ)償,完善任務(wù)設(shè)計(jì),可降低航天員在各個(gè)階段的腦力負(fù)荷水平,對(duì)保障遙操作任務(wù)的完成有一定指導(dǎo)意義。
遙操作;自發(fā)腦電;功率譜;非線性動(dòng)力學(xué);腦力負(fù)荷;思維活動(dòng)
Abstract:Mental workload is an important factor affecting the performance of manipulator teleoperation.By extracting the power spectrum and the nonlinear dynamics characteristics of electroencephalogram(EEG), the mental workload variation and the main cognitive load at various stages in the operation were analyzed on the basis of the three stages operation theory in teleoperation.The results showed that EEG power spectrum could be used to evaluate the mental workload in teleoperation effectively,and the nonlinear dynamics index could be used to evaluate the thinking activity level effectively.In teleoperation,EEG power spectrum energy shifted to the high frequency band gradually with the increase of the mental workload;the nonlinear dynamics characteristic values of the first two stages were significantly higher than that of the final stages,and reached the maximum in the second stage, so did the variation of the subjects’ thinking activity intensity.The mental workloads of the first two stages were mainly derived from the spatial cognition,and the mental workload of the third stage was mainly derived from the distance and angle deviation cognition and working pressure.According to the mental workload variation and the main source of workload in teleoperation,the compensative information could be provided and the task design could be improved to reduce the mental workload of astronauts in various stages.It is of reference value for the completion of teleoperation mission.
Key words:teleoperation; electroencephalogram(EEG); power spectrum; nonlinear dynamics;mental workload;thinking activity
北大西洋公約組織在腦力負(fù)荷學(xué)專題研討會(huì)上指出,腦力負(fù)荷是一個(gè)多維的概念,它涉及工作要求、時(shí)間壓力、操作者的能力、努力程度、行為表現(xiàn)和其它多種因素,是完成一項(xiàng)或多項(xiàng)任務(wù)時(shí)所產(chǎn)生的生理和心理需求[1]。隨著腦科學(xué)發(fā)展以及腦電采集設(shè)備精密性和便攜性的逐漸完善,用腦電特征指標(biāo)評(píng)估腦力負(fù)荷水平的研究逐漸受到重視,自發(fā)腦電(EEG)的頻域特征和時(shí)域上的非線性動(dòng)力學(xué)特征的研究也逐漸增多。而由于腦電信號(hào)自身的復(fù)雜性和不規(guī)則性,其受到操作任務(wù)、操作環(huán)境等外界的影響較大,加之不同個(gè)體的腦電差異較大,目前國(guó)內(nèi)外關(guān)于自發(fā)腦電的研究都是基于具體的實(shí)驗(yàn)任務(wù)和受試人群,還沒(méi)有廣泛認(rèn)可的通用的腦力負(fù)荷評(píng)估方法和指標(biāo)[2]。
已有研究表明腦電的 θ(4~8 Hz)、α(8~13 Hz)、β(14 ~30 Hz)等頻段的波形對(duì)腦力負(fù)荷變化敏感。高頻快波是大腦皮層興奮時(shí)腦電的主要成分,高幅慢波是大腦皮層處于抑制狀態(tài)時(shí)腦電活動(dòng)的主要表現(xiàn)。當(dāng)任務(wù)較難且人處于警覺(jué)性比較高、情緒比較緊張、壓力較大的情境中時(shí),腦電的能量主要集中在幅值較低、頻率較高的β頻段,α節(jié)律受到抑制;反之,當(dāng)人的喚醒水平和腦力負(fù)荷水平較低時(shí),腦電在頻率較低的α頻段活動(dòng)增強(qiáng),β頻段活動(dòng)減弱[2-3]。Brouwer等人以2~20 Hz頻段的腦電功率譜作為腦力負(fù)荷檢測(cè)模型的重要特征向量,用于預(yù)測(cè)工作記憶任務(wù)的腦力負(fù)荷,取得較好的預(yù)測(cè)效果[4];Kohlmorgen等人提取3~15 Hz頻段的腦電功率譜特征作為任務(wù)難度分類的依據(jù),也取得不錯(cuò)的分類效果[5]。但是由于腦電能量的個(gè)體性差異較大,目前常用的腦電能量參數(shù)主要是各波段能量的比值,包括(α+β) /θ、 α/β、 ( α + θ) /(α + β)、 (α + θ) /β、 β/θ等[3],根據(jù)能量比值的變化確定腦電活性較強(qiáng)的節(jié)律波,從而確定被試的腦力負(fù)荷狀態(tài)變化。此外,近年越來(lái)越多的證據(jù)表明大腦是一個(gè)非線性動(dòng)力學(xué)系統(tǒng),腦電信號(hào)具有非線性動(dòng)力學(xué)特征。腦電信號(hào)的復(fù)雜度、分形維數(shù)、熵值等非線性指標(biāo)可用于描述腦電信號(hào)序列的復(fù)雜性程度以及大腦神經(jīng)元處理信息活動(dòng)時(shí)的有序程度,能夠反映腦電信號(hào)的混亂程度以及動(dòng)力學(xué)特征[6-7]。
機(jī)械臂遙操作是我國(guó)進(jìn)行在軌維修、空間站建設(shè)、星球探測(cè)等復(fù)雜危險(xiǎn)任務(wù)的重要輔助手段,對(duì)航天員的操作技能、空間能力、抗壓能力等綜合素質(zhì)要求較高,航天員容易處于高負(fù)荷狀態(tài),容易出現(xiàn)感知、判斷以及操作等人為失誤,從而導(dǎo)致撞擊等事故發(fā)生[8-11]。Draper認(rèn)為腦力負(fù)荷的增大容易增加操作者的迷惑感和時(shí)間壓力,從而誘發(fā)更多的無(wú)效操作以及沖動(dòng)型操作,降低操作效率[12]。在遙操作的不同階段,腦力負(fù)荷的主要來(lái)源不盡相同,因此,研究航天員在遙操作的不同階段的腦力負(fù)荷變化情況以及主要負(fù)荷來(lái)源,有利于保障遙操作的順利完成。本文通過(guò)開(kāi)展機(jī)械臂遙操作任務(wù)模擬實(shí)驗(yàn)研究,獲取志愿者在操作過(guò)程的自發(fā)腦電信號(hào),并進(jìn)行特征提取、分析,結(jié)合機(jī)械臂遙操作的三階段操作理論,對(duì)比分析腦電能量分布變化與各個(gè)頻段的功率譜特征變化,剖析操作員在任務(wù)過(guò)程中的腦力負(fù)荷變化;結(jié)合腦電信號(hào)的非線性動(dòng)力學(xué)特征參數(shù),研究非線性指標(biāo)的變化規(guī)律以及其與腦力負(fù)荷變化的關(guān)系。
實(shí)驗(yàn)在計(jì)算機(jī)仿真平臺(tái)上進(jìn)行,實(shí)驗(yàn)平臺(tái)是基于V-REP PRO(EDU版本)仿真機(jī)器人軟件構(gòu)建的機(jī)械臂仿真場(chǎng)景,模擬真實(shí)機(jī)械臂對(duì)接任務(wù)。被試在模擬任務(wù)中完成實(shí)驗(yàn)操作。
圖1所示為仿真平臺(tái)實(shí)例,被試通過(guò)仿真平臺(tái)不同位置攝像頭反饋的視覺(jué)信息,左手操作機(jī)械臂位置手柄(萊仕達(dá)雷霆PXN-2103),右手操作機(jī)械臂姿態(tài)手柄,通過(guò)末端控制模式調(diào)節(jié)6關(guān)節(jié)、6自由度機(jī)械臂末端的位移和姿態(tài),完成機(jī)械臂末端上帶有顏色標(biāo)記的十字形負(fù)載與標(biāo)記有顏色的目標(biāo)對(duì)接面的對(duì)接任務(wù)。操作者需要在規(guī)定時(shí)間內(nèi)(240 s),使末端十字負(fù)載以指定的姿態(tài)插入選定的對(duì)接槽,且需在規(guī)定的精度范圍內(nèi)。
被試在實(shí)驗(yàn)過(guò)程中,每次操作任務(wù)過(guò)程可分為三個(gè)階段:第一階段即操作機(jī)械臂使對(duì)接目標(biāo)面出現(xiàn)在機(jī)械臂末端攝像頭的視野中,主要涉及觀察、規(guī)劃、大范圍轉(zhuǎn)移等認(rèn)知操作;第二階段主要依靠末端攝像機(jī)圖像,調(diào)整末端負(fù)載的位置和姿態(tài),使其與目標(biāo)對(duì)接面基本平行,即調(diào)節(jié)機(jī)械臂末端使其靠近并對(duì)準(zhǔn)目標(biāo)階段;第三階段依靠攝像頭信息,精準(zhǔn)、無(wú)故障地完成精細(xì)對(duì)接任務(wù),即精細(xì)對(duì)接階段。
圖1 模擬平臺(tái)場(chǎng)景事例Fig.1 Scene examples in simulation platform
實(shí)驗(yàn)主要分成機(jī)械臂操作技能培訓(xùn)和模擬平臺(tái)實(shí)驗(yàn)兩個(gè)部分。技能培訓(xùn)環(huán)節(jié)主要包括理論知識(shí)培訓(xùn)以及實(shí)踐操作兩個(gè)環(huán)節(jié)。理論培訓(xùn)包括實(shí)驗(yàn)任務(wù)、操作方法、注意事項(xiàng)等內(nèi)容的介紹;實(shí)踐操作即對(duì)手柄的操作以及實(shí)驗(yàn)任務(wù)的熟悉。正式實(shí)驗(yàn)在培訓(xùn)后1~3天內(nèi)進(jìn)行。在實(shí)驗(yàn)過(guò)程中,通過(guò)德國(guó)64導(dǎo)聯(lián)BP腦電采集設(shè)備采集被試的腦電信號(hào)。
實(shí)驗(yàn)招募25名18~25歲之間的男性被試,被試除了需要滿足矯正視力正常外,還需要保證在此之前沒(méi)有接受過(guò)任何機(jī)械臂操作,最終采集到24位有效被試數(shù)據(jù)。
根據(jù)機(jī)械臂認(rèn)知需求分析結(jié)果按照實(shí)驗(yàn)時(shí)間將腦電信號(hào)平均分為三段,分別對(duì)應(yīng)遙操作的觀察、規(guī)劃、大范圍轉(zhuǎn)移階段——調(diào)節(jié)機(jī)械臂姿態(tài)靠近并對(duì)準(zhǔn)目標(biāo)階段——后期精細(xì)對(duì)接階段。提取腦電序列在三個(gè)階段的非線性動(dòng)力學(xué)特征以及功率譜特征,從頻域和非線性動(dòng)力學(xué)角度對(duì)被試的腦電信號(hào)進(jìn)行分析。
3.1.1 腦電功率譜能量變化趨勢(shì)
對(duì)3階段的腦電信號(hào)總功率譜進(jìn)行對(duì)比分析,結(jié)果發(fā)現(xiàn)各導(dǎo)聯(lián)三個(gè)階段的腦電功率譜能量由大到小依此為:第三階段>第二階段>第一階段,其中枕區(qū)位置的O2、Oz等腦電通道第三階段顯著大于第一階段(O2導(dǎo)聯(lián)顯著性p=0.045,Oz導(dǎo)聯(lián)顯著性p=0.032)。
抽取個(gè)別被試,分析他們?cè)谀炒螆?zhí)行任務(wù)過(guò)程中的三個(gè)階段的腦電能量水平,得到他們操作時(shí)腦電地形圖的變化如圖2、圖3所示。
圖2 被試1腦電地形圖Fig.2 BEAM(brain electrical activity mapping) of subject 1
圖3 被試2腦電地形圖Fig.3 BEAM(brain electrical activity mapping) of subject 2
可以看出,第三階段的腦電能量明顯大于第一和第二階段。而且從腦區(qū)能量分布可以看出,和前兩階段相比,第三階段的在左半腦區(qū)的能量(激活程度)有了非常明顯的增加,特別是在左前額葉部分和左頂葉部分,枕區(qū)部分能量也有明顯的增加。
3.1.2 腦電功率譜頻段分布
為區(qū)分不同頻段腦電信號(hào)的變化情況,選取前額區(qū)Fp1導(dǎo)聯(lián)、左腦頂葉P5導(dǎo)聯(lián)和枕區(qū)O2導(dǎo)聯(lián)分析腦電信號(hào)功率譜能量隨頻率的分布變化情況,如圖4所示。其中P5在大腦頂葉位置,與軀體的感知覺(jué)、空間信息處理以及視覺(jué)信息和體感信息的整合聯(lián)系緊密;O2在枕區(qū)位置,與視覺(jué)功能關(guān)系密切。而前額部分腦區(qū)(Fp1導(dǎo)聯(lián)等)對(duì)大腦多個(gè)區(qū)域的協(xié)調(diào)加工有很重要作用,與復(fù)雜知覺(jué)、注意、思維等高級(jí)活動(dòng)有關(guān)[13]。其中1代表θ頻段,2代表α頻段,3代表β頻段,4代表γ頻段。
可以看出,前額區(qū)域能量雖然很大,但是在整個(gè)任務(wù)過(guò)程中的變化不大,即被試在遙操作任務(wù)的三個(gè)階段對(duì)攝像頭信息的感知覺(jué)、注意以及理解等認(rèn)知功能的整合所消耗的能量變化不大,被試一直處在高度警覺(jué)、毫不松懈的狀態(tài)。而大腦皮層的枕-頂葉腦區(qū)的整合功能對(duì)于接受、加工和儲(chǔ)存信息有重要作用[14-15],在操作的三個(gè)階段有較明顯的差異。
圖4 Fp1、P5、O2導(dǎo)聯(lián)功率譜-頻段變化曲線Fig.4 Power spectrum-frequency band curve of Fp1,P5 and O2 channel
P5和O2導(dǎo)聯(lián)三個(gè)階段的θ頻段功率譜能量差異不大,而第三段在β頻段能量明顯上升,高于前兩段,且三個(gè)階段的β波功率譜能量都是腦電能量的主要組成成分,占據(jù)腦電能量的絕大部分。
為了更好地體現(xiàn)腦電功率譜θ、α、β三個(gè)頻段隨操作任務(wù)前、中、后三個(gè)階段的變化情況,下面將詳細(xì)分析P5和O2這兩個(gè)導(dǎo)聯(lián)θ、α、β三個(gè)頻段腦電功率譜之間的比例關(guān)系,分析腦電能量的分布變化規(guī)律。
3.1.3 高低頻段能量比例
分別提取腦電的θ、α、β三個(gè)頻段功率譜能量,分析(α+β) /θ、α/β、(α+θ) /(α+β)、(α+θ)/β、β/θ等5個(gè)特征參數(shù),對(duì)遙操作任務(wù)過(guò)程中P5、O2導(dǎo)聯(lián)的三個(gè)階段進(jìn)行單因素方差分析,結(jié)果如圖5所示。針對(duì)這5項(xiàng)特征,對(duì)3個(gè)階段進(jìn)行成對(duì)比較分析,結(jié)果如表1所示。
圖5 P5、O2導(dǎo)聯(lián)3階段功率譜特征參數(shù)均值-標(biāo)準(zhǔn)差圖Fig.5 Diagram of mean-standard deviation of power spectrum characteristic parameter of P5 and O2 channel in 3 phases
從兩個(gè)導(dǎo)聯(lián)的均值圖中可以看出,這5個(gè)特征之間呈現(xiàn)出比較良好的趨勢(shì)。主要表現(xiàn)在機(jī)械臂遙操作任務(wù)進(jìn)行到后面階段,高頻段功率譜能量的提高速率明顯高于低頻段。特別地,β波在功率譜能量上的提升速率明顯要大于θ波。從成對(duì)比較的結(jié)果中可以看出,第一段的低頻能量與高頻能量的比值要顯著高于第二段和第三段,第二階段高低頻能量比例顯著低于第三階段。
表1 P5、O2導(dǎo)聯(lián)3階段成對(duì)比較分析結(jié)果Table 1 Paired comparison of P5 and O2 channel in 3 phases
綜合功率譜的腦地形圖、各頻段能量變化以及各個(gè)頻段功率譜能量比值在三個(gè)階段的比較分析可知,機(jī)械臂遙操作任務(wù)進(jìn)入到姿態(tài)調(diào)節(jié)以及精細(xì)對(duì)接階段后,操作員的左后半腦區(qū)腦電功率譜能量逐漸升高,其中高頻段的能量升高最快,在操作后期即第三階段,β頻段的能量比例顯著高于初始階段。
本文提取的腦電非線性動(dòng)力學(xué)特征主要包括Lempel-Ziv 四 重 復(fù) 復(fù) 雜 度[16-17]、 計(jì) 盒 分 形 維數(shù)[18]、樣本熵、近似熵[19]等四類,結(jié)合大腦皮層的頂葉和枕葉區(qū)域的 P5、C2、C4、CP6、PO7、O2 等導(dǎo)聯(lián),分析機(jī)械臂遙操作過(guò)程中這些腦電信號(hào)的非線性動(dòng)力學(xué)特征的變化情況。
3.2.1 復(fù)雜度
Lempel-Ziv復(fù)雜度算法(LZC)用于表征一個(gè)時(shí)間序列里出現(xiàn)新模式的速率,LZC值越大,信號(hào)越隨機(jī),動(dòng)力學(xué)行為越復(fù)雜。傳統(tǒng)的LZC復(fù)雜度算法基于腦電二重粗粒化結(jié)果,不能充分反映腦電的復(fù)雜結(jié)構(gòu)[16-17]。因此,本研究在四重粗粒化的基礎(chǔ)上計(jì)算腦電的LZC四重復(fù)復(fù)雜度,并對(duì)3階段的腦電LZC四重復(fù)復(fù)雜度水平進(jìn)行方差分析,其結(jié)果如圖6所示,每?jī)呻A段的成對(duì)比較分析結(jié)果如表2所示。
圖6 3階段復(fù)雜度均值-標(biāo)準(zhǔn)差圖Fig.6 Diagram of mean-standard deviation of complexity in 3 phases
三個(gè)階段的腦電復(fù)雜度的均值圖以及成對(duì)比較分析結(jié)果表明,第二段的腦電復(fù)雜度顯著高于第一段和第三段,第一段顯著高于第三段。
表2 3階段復(fù)雜度成對(duì)比較分析結(jié)果Table 2 Paired comparison of complexity in 3 phases
3.2.2 分形維數(shù)
分形維數(shù)可作為復(fù)雜形體占有空間的有效性以及其不規(guī)則性的量度。腦電信號(hào)具有內(nèi)建的自相似性,分形維數(shù)能夠定量地描述腦電信號(hào)的不規(guī)則程度和復(fù)雜性[18]。分形維數(shù)的計(jì)算方法很多,這里采用比較容易通過(guò)計(jì)算機(jī)實(shí)現(xiàn)的計(jì)盒分形維數(shù)算法。3階段的腦電計(jì)盒分形維數(shù)均值方差如圖7所示,每?jī)呻A段的成對(duì)比較分析結(jié)果如表3所示。
圖7 3階段分形維數(shù)均值-標(biāo)準(zhǔn)差圖Fig.7 Diagram of mean-standard deviation of fractal dimension in 3 phases
表3 3階段分形維數(shù)成對(duì)比較分析結(jié)果Table 3 Paired comparison of fractal dimension in 3 phases
三個(gè)階段的分形維數(shù)的均值圖和成對(duì)比較分析結(jié)果表明,第二段腦電分形維數(shù)顯著高于第一、第三段,部分導(dǎo)聯(lián)第一段顯著高于第三段。
3.2.3 近似熵
近似熵(ApEn)是一種度量非線性時(shí)間序列不規(guī)則性和復(fù)雜性的算法,值越大,系統(tǒng)越趨近于隨機(jī)狀態(tài),包含的頻率成分越豐富,系統(tǒng)越復(fù)雜;反之則信號(hào)越有序,頻帶越窄[19]。
近似熵在大樣本量下不穩(wěn)定,受到高頻噪聲的影響很大,采用完整腦電信號(hào)進(jìn)行分析結(jié)果不穩(wěn)定[19]。 因此,本研究分別提取α、β、θ頻段的腦電近似熵值。經(jīng)過(guò)統(tǒng)計(jì)分析發(fā)現(xiàn),α波和β波各段的差異并不顯著,而頻率較低的θ頻段腦電的近似熵三個(gè)階段的區(qū)分效果比較顯著。3階段的腦電近似熵均值方差如圖8表所示,每?jī)呻A段的近似熵值成對(duì)比較分析如表4所示。
圖8 3階段近似熵均值-標(biāo)準(zhǔn)差圖Fig.8 Diagram of mean-standard deviation of approximate entropy in 3 phases
表4 3階段近似熵成對(duì)比較分析結(jié)果Table 4 Paired comparison of approximate entropy in 3 phases
從三個(gè)階段的近似熵的均值圖和成對(duì)比較分析結(jié)果可知,第二階段腦電近似熵顯著高于第一、第三段,第一和第三段沒(méi)有顯著性差異。
3.2.4 樣本熵
近似熵在計(jì)算過(guò)程中比較了自身數(shù)據(jù)段,違背了新信息的概念,因此用近似熵估計(jì)腦電復(fù)雜性存在一定偏差。Richman等沿襲Grassberger的研究發(fā)展了一種不計(jì)量自身匹配的統(tǒng)計(jì)量,即樣本熵。樣本熵和近似熵類似,值越大則腦電序列越復(fù)雜,且樣本熵不包含自身數(shù)據(jù)段的比較,能夠更加精準(zhǔn)的估計(jì)序列的復(fù)雜性,且更適合小樣本量序列的分析[19]。3階段的腦電樣本熵均值方差如圖9所示,每?jī)呻A段的樣本熵值成對(duì)比較分析如表5所示。
圖9 3階段樣本熵均值-標(biāo)準(zhǔn)差圖Fig.9 Diagram of mean-standard deviation of sample entropy in 3 phases
表5 3階段樣本熵成對(duì)比較分析結(jié)果Table 5 Paired comparison of sample entropy in 3 phases
三個(gè)階段的樣本熵均值圖與成對(duì)比較分析結(jié)果表明,第二階段腦電樣本熵顯著高于第一、第三階段,且第一階段顯著高于第三階段。
從上述三個(gè)階段自發(fā)腦電的四項(xiàng)非線性動(dòng)力學(xué)特征的對(duì)比統(tǒng)計(jì)分析結(jié)果可知,復(fù)雜度、分形維數(shù)、樣本熵、近似熵等四項(xiàng)非線性特征的結(jié)果基本保持一致:第二階段的非線性動(dòng)力學(xué)特征顯著大于第一和第三階段,此外,第一階段的復(fù)雜度和樣本熵還顯著大于第三階段。
1)腦電能量區(qū)域分布分析
在第三階段,左半腦區(qū)腦電功率譜能量明顯增加,與右腦有較為明顯的差異,這和機(jī)械臂遙操作的任務(wù)特性以及操作方式有著很大關(guān)系。右腦在空間推理活動(dòng)中起著重要的作用[15,20]。機(jī)械臂遙操作在前兩階段對(duì)操作員的空間認(rèn)知能力,從視頻圖像中獲取信息、理解信息、整合信息的能力有很高的要求,而第三階段,是機(jī)械臂遙對(duì)接任務(wù)的精細(xì)對(duì)接階段,機(jī)械臂的空間位置變化不大,且基本處于與目標(biāo)對(duì)準(zhǔn)的位置,對(duì)被試空間理解的壓力明顯降低,右腦活動(dòng)強(qiáng)度下降;該階段被試主要的任務(wù)是利用右手進(jìn)行末端姿態(tài)的調(diào)節(jié),使得機(jī)械臂末端與目標(biāo)對(duì)接面基本平行,即各個(gè)維度的角度偏差達(dá)到對(duì)接成功的精度要求,左腦活動(dòng)強(qiáng)度增強(qiáng)。因此左半腦區(qū)的激活程度(功率譜能量)相對(duì)于右半腦區(qū)有較為明顯的提高。從操作難度上看,在第三階段,由于對(duì)三個(gè)維度姿態(tài)的控制精度直接關(guān)系到對(duì)接過(guò)程中是否會(huì)發(fā)生碰撞事故以及對(duì)接任務(wù)的成功與否,相比前兩階段,該階段的操作負(fù)荷更高;對(duì)于未能在規(guī)定時(shí)間內(nèi)完成的實(shí)驗(yàn)輪次,除了少數(shù)是受到關(guān)節(jié)限位事故的影響,大部分是由于在此階段浪費(fèi)了大量的時(shí)間而依然沒(méi)有成功調(diào)整在對(duì)接精度范圍以內(nèi),即在此階段的操作時(shí)間相比前兩階段的需求更高。因此從腦地形圖中可以看出,在第三階段左半腦區(qū)激活程度(能量)相比前兩階段有了較大的提高。
2)腦電低頻段能量與高頻段能量對(duì)比分析
從整體來(lái)看,隨著任務(wù)的進(jìn)行,腦電的總功率譜能量與高頻段能量比例逐漸升高。國(guó)內(nèi)外研究結(jié)果表明,腦電的高頻能量比例越高,高頻與低頻能量的比值越大,操作員的喚醒水平越高,對(duì)應(yīng)的任務(wù)難度水平越高,腦力負(fù)荷水平越高[21-25]。
從實(shí)驗(yàn)設(shè)計(jì)角度上看,本實(shí)驗(yàn)通過(guò)提高對(duì)接成功的精度要求,且結(jié)合航天員在軌執(zhí)行任務(wù)過(guò)程中,主要依靠視覺(jué)圖像信息進(jìn)行對(duì)接而盡量不依賴于數(shù)據(jù)信息的實(shí)際要求,取消數(shù)據(jù)信息的顯示,對(duì)最后的精細(xì)對(duì)接階段提出了更高的難度要求,加重操作員對(duì)手柄的控制、距離的感知、角度的感知等方面的認(rèn)知負(fù)荷,由此帶來(lái)的任務(wù)壓力相比前兩階段明顯提高。而且在任務(wù)的中后期,機(jī)械臂關(guān)節(jié)限位、碰撞、臨近工作區(qū)域等事故逐漸出現(xiàn),操作員對(duì)事故故障的分析排除在一定程度上加重遙操作過(guò)程的腦力負(fù)荷水平;加上有時(shí)間限制、避免事故發(fā)生以及完成任務(wù)的壓力,以及操作過(guò)程體力的消耗,被試在中后期所需要付出的努力相比前面階段要更多,承受的壓力更大。因此在遙對(duì)接任務(wù)過(guò)程中,腦力負(fù)荷水平逐漸升高。
除此之外,從統(tǒng)計(jì)結(jié)果中發(fā)現(xiàn)三個(gè)階段腦電的能量都主要分布在頻率較高的β頻段,說(shuō)明在整個(gè)遙操作任務(wù)過(guò)程中,被試的喚醒水平都比較高,被試由于操作疲勞造成的影響較小,實(shí)驗(yàn)對(duì)疲勞因素的控制效果較好。
3)非線性動(dòng)力學(xué)指標(biāo)結(jié)果對(duì)比分析
在機(jī)械臂遙操作過(guò)程中,第二階段的腦電非線性特征指標(biāo)值要顯著高于第一階段和第三階段,而相對(duì)于第一階段,第三階段更小。
由機(jī)械臂遙操作的認(rèn)知任務(wù)分析可知,在遙操作三個(gè)階段的過(guò)程中,對(duì)應(yīng)的階段性任務(wù)目標(biāo)不同,所涉及的主要的認(rèn)知功能也有所變化,各項(xiàng)認(rèn)知功能在各個(gè)階段的作用也不盡相同。在操作過(guò)程中,第一、第二階段的操作目標(biāo)的難度主要體現(xiàn)在空間關(guān)系的理解、判斷決策兩方面。特別地,相比第一階段側(cè)重于相對(duì)方位的認(rèn)知,第二階段操作員對(duì)機(jī)械臂自身姿態(tài)的認(rèn)知和對(duì)空間關(guān)系,尤其對(duì)機(jī)械臂末端與目標(biāo)相對(duì)角度偏差的認(rèn)知和理解更加重要,使得第二階段對(duì)操作員空間關(guān)系的判斷決策水平的要求相當(dāng)高,對(duì)操作員遙操作過(guò)程的空間認(rèn)知能力的要求和對(duì)姿態(tài)手柄的操作以及對(duì)應(yīng)機(jī)械臂變化的認(rèn)知能力的要求也相當(dāng)高,操作員在此階段進(jìn)行推理、分析的思維活動(dòng)強(qiáng)度相對(duì)較高。而第三階段的思維活動(dòng)主要集中在對(duì)相對(duì)距離和相對(duì)角度偏差的感知和判斷,對(duì)推理、分析等活動(dòng)的負(fù)荷水平相對(duì)較低,腦力思維活動(dòng)強(qiáng)度相比前兩階段有所降低。由此發(fā)現(xiàn),操作員在操作過(guò)程中的思維活動(dòng)強(qiáng)度與腦電的非線性特征指標(biāo)的變化規(guī)律一致,且之前研究表明非線性動(dòng)力學(xué)指標(biāo)對(duì)腦力負(fù)荷水平的變化具有一定的敏感性,對(duì)腦力負(fù)荷的評(píng)價(jià)有一定的參考作用[26-29],可以推斷自發(fā)腦電非線性動(dòng)力學(xué)指標(biāo)能有效評(píng)估遙操作過(guò)程的思維活動(dòng)強(qiáng)度。
4)腦電功率譜和非線性特征統(tǒng)計(jì)結(jié)果對(duì)比分析
從功率譜和非線性特征的統(tǒng)計(jì)結(jié)果發(fā)現(xiàn),兩者的變化規(guī)律不同。腦電功率譜能量從做功的角度出發(fā),反映大腦在操作過(guò)程整體的活動(dòng)水平,綜合反映被試的腦力負(fù)荷水平。非線性指標(biāo)從腦電信號(hào)序列的復(fù)雜性出發(fā),與被試的思維活動(dòng)水平變化一致。兩者的差異主要體現(xiàn)在第三階段的腦力負(fù)荷水平相對(duì)較高,而思維活動(dòng)強(qiáng)度相對(duì)較低。
根據(jù)NASA-TLX量表可知,腦力負(fù)荷水平包括有腦力需求、時(shí)間需求、努力程度、受挫程度、績(jī)效水平、體力需求六個(gè)方面。在機(jī)械臂遙操作任務(wù)中,主要涉及的認(rèn)知功能包括空間相對(duì)距離相對(duì)角度的感知、空間關(guān)系的判斷以及平移和姿態(tài)手柄操作對(duì)應(yīng)機(jī)械臂末端的變化的認(rèn)知,對(duì)應(yīng)整個(gè)認(rèn)知活動(dòng)的感知、判斷決策和操作執(zhí)行三個(gè)完整環(huán)節(jié)。這三方面的認(rèn)知活動(dòng)水平?jīng)Q定了被試在操作過(guò)程中的腦力需求以及努力程度的負(fù)荷水平。其中以判斷決策環(huán)節(jié)的認(rèn)知活動(dòng)對(duì)被試能力的要求最高,操作環(huán)節(jié)最低。且由上述分析可知,第二階段側(cè)重于判斷決策環(huán)節(jié),對(duì)信息的整合、分析、推理等活動(dòng)難度較高,第一階段次之,第三階段側(cè)重于信息的精確感知,思維活動(dòng)強(qiáng)度最低。因此,被試在遙操作過(guò)程中的思維活動(dòng)強(qiáng)度由高到低依次為:第二階段>第一階段>第三階段。
而隨著操作的進(jìn)行,被試的體力消耗逐漸增加,受到時(shí)間的壓力和任務(wù)的壓力也逐漸加大;且伴隨著操作過(guò)程事故的發(fā)生或操作進(jìn)展的不順利,被試操作過(guò)程的挫折感逐漸增加。因此,在第二、第三階段,被試在時(shí)間需求、體力需求、績(jī)效水平、受挫程度方面的負(fù)荷水平明顯提高,第三階段尤其顯著,對(duì)腦力負(fù)荷水平產(chǎn)生很大影響。因此,雖然第三階段操作員在腦力需求以及努力程度方面的思維活動(dòng)水平較低,但綜合時(shí)間壓力、體力需求、績(jī)效水平、受挫程度等維度的負(fù)荷水平,其腦力負(fù)荷水平相比前兩階段有了很大的提高。在遙操作過(guò)程中的腦力負(fù)荷由高到低依次為:第三階段>第二階段>第一階段。
由此可知,非線性指標(biāo)反映的操作員在執(zhí)行任務(wù)過(guò)程中的思維活動(dòng)強(qiáng)度只是腦力負(fù)荷中的一個(gè)部分,而功率譜特征能比較全面地評(píng)估操作的腦力負(fù)荷水平,兩者在統(tǒng)計(jì)結(jié)果上表現(xiàn)出差異。
綜合上述分析,在前兩階段,被試的腦力負(fù)荷水平的很大來(lái)源是操作員的腦力需求和努力水平,特別是第二階段,大腦思維活動(dòng)水平的高低直接關(guān)系到空間認(rèn)知水平高低,直接關(guān)系到任務(wù)的各項(xiàng)指標(biāo)的優(yōu)劣;而第三階段,被試腦力負(fù)荷的主要來(lái)源除了有相對(duì)偏差的感知方面,還有很大一部分來(lái)源于任務(wù)本身帶來(lái)的各項(xiàng)壓力,對(duì)操作員的抗壓能力以及耐性的要求較高。因此,完善前兩階段全局空間信息,提高操作員的空間臨場(chǎng)感對(duì)降低腦力負(fù)荷有比較明顯的效果;而在機(jī)械臂行走至目標(biāo)附近時(shí),通過(guò)局部近景攝像頭或者傳感器測(cè)量等手段完善目標(biāo)與機(jī)械臂末端的距離偏差和角度偏差信息,同時(shí)給予操作者適當(dāng)?shù)男菹⒑托睦硎鑼?dǎo),對(duì)降低最后階段的腦力負(fù)荷有更加明顯的工效。
本文通過(guò)對(duì)機(jī)械臂遙操作過(guò)程的自發(fā)腦電信號(hào)進(jìn)行特征提取和分析,探究遙操作三個(gè)階段的腦力負(fù)荷水平的變化情況,以及每階段主要的負(fù)荷來(lái)源,結(jié)果發(fā)現(xiàn)隨著任務(wù)的進(jìn)行,喚醒水平與腦力負(fù)荷水平逐漸提高。在操作過(guò)程中,第一、第二階段,特別是第二階段對(duì)于操作者空間信息的判斷決策的能力要求相當(dāng)高,操作員在第二階段的思維活動(dòng)強(qiáng)度相比其余兩個(gè)階段更高,腦電信號(hào)復(fù)雜性也相對(duì)更高;第三階段的操作目標(biāo)主要涉及感知覺(jué)和手柄操作,對(duì)思維活動(dòng)水平的要求明顯降低,腦電復(fù)雜性也相對(duì)降低。機(jī)械臂遙操作任務(wù)前期和中期的腦力負(fù)荷主要來(lái)源于空間認(rèn)知,集中體現(xiàn)在腦力需求與努力程度兩個(gè)維度;操作后期增加的腦力負(fù)荷水平主要體現(xiàn)在時(shí)間和任務(wù)壓力、體力需求以及受挫程度等其他維度,和精細(xì)信息感知一起構(gòu)成后期腦力負(fù)荷的主要來(lái)源。
(References)
[1] Moray N.Mental Workload: Its Theory and Measurement[M].New York: Plenum Press,1979:5-6.
[2] 明東,柯余峰,何峰,等.基于生理信號(hào)的腦力負(fù)荷檢測(cè)及自適應(yīng)自動(dòng)化系統(tǒng)研究:40年回顧與最新進(jìn)展[J].電子測(cè)量與儀器學(xué)報(bào),2015,29(1):1-13.Ming D,Ke Y F,He F,et al.Psychophysiological measures based studies on mental workload assessment and adaptive automation:review ofthe last 40 years and the latest developments[J].Journal of Electronic Measurement and Instrumentation, 2015, 29(1): 1-13.(in Chinese)
[3] 嚴(yán)雅婧.基于腦電和腦血流信號(hào)的疲勞駕駛綜合評(píng)價(jià)指標(biāo)的研究[D].沈陽(yáng):東北大學(xué),2012:57-58.Yan Y J.The Research of Comprehensive Evaluation Index of Driving Fatigue Based on EEG and Cerebral Flow[D].Shenyang:Northeastern University, 2012: 57-58.(in Chinese)
[4] Brouwer A M,Hogervorst M A,Van Erp J B F,et al.Estimating workload using EEG spectral power and ERPs in the nback task[J].Journal of Neural Engineering, 2012, 9(4):045008.
[5] Kohlmorgen J,Dornhege G,Braun M,et al.Improving human performance in a real operating environment through realtime mental workload detection[J].Toward Brain-Computer Interfacing,2007: 409-422.
[6] 曹銳.非線性與復(fù)雜網(wǎng)絡(luò)理論在腦電數(shù)據(jù)分析中的應(yīng)用研究[D].太原:太原理工大學(xué),2014.Cao R.Nonlinear And Complex Network Theory In The Application Of EEG Data Analysis Research[D].Taiyuan:Taiyuan University of Technology, 2014.(in Chinese)
[7] 吳祥寶,徐京華.復(fù)雜性與腦功能[J].生物物理學(xué)報(bào),1991, 7(1): 103-103.Wu X B, Xu J H.Complexity and brain function[J].Biophysics Reports, 1991, 7(1): 103-103.(in Chinese)
[8] 唐偉財(cái),陳善廣,肖毅,等.空間立體信息缺失對(duì)機(jī)械臂遙操作任務(wù)的影響[J].北京航空航天大學(xué)學(xué)報(bào),2017,(2): 335-343.Tang W C,Chen S G,Xiao Y,et al.Influence research of the loss of three-dimensional information on the manipulator teleoperation mission [J].Journal of Beijing University of Aeronautics and Astronautics, 2017,(2): 335-343.(in Chinese)
[9] Forman R E.Objective Performance Metrics for Improved Space Telerobotics Training[D].America, Cambridge: Massachusetts Institute of Technology,2011.
[10] You S, Wang T, Eagleson R, et al.A low-cost internet-based telerobotic system for access to remote laboratories[J].Artificial Intelligence in Engineering, 2001, 15(3): 265-279.
[11] Menchaca-Brandan M A,Liu A M,Oman C M,et al.Influence of perspective-taking and mental rotation abilities in space teleoperation[C] //Proceedings of the ACM/IEEE International Conference on Human-robot interaction.ACM,Washington,2007: 271-278.
[12] Riley J M, Kaber D B, Draper J V.Situation awareness and attention allocation measures for quantifying telepresence experiences in teleoperation[J].Human Factors and Ergonomics in Manufacturing & Service Industries,2004,14(1): 51-67.
[13] 姚志彬.臨床神經(jīng)解剖學(xué)[M].北京:世界圖書出版公司,2001:20-24.Yao Z B.Clinical Neuroanatomy[M].Beijing: World Book Incorporated, 2001:20-24.(in Chinese)
[14] Langdon D, Warrington E K.The role of the left hemisphere in verbal and spatial reasoning tasks[J].Cortex, 2000, 36(5): 691-702.
[15] 羅躍嘉.認(rèn)知神經(jīng)科學(xué)教程[M].北京:北京大學(xué)出版社,2005:48-90.Luo Y J.Cognitive Neuroscience[M].Beijing:Peking University Press, 2005: 48-90.(in Chinese)
[16] 肖毅,陳善廣,韓東旭,等.腦電信號(hào)多重粗?;瘡?fù)雜度分析方法研究[J].電子科技大學(xué)學(xué)報(bào),2013,42(3):470.Xiao Y,Chen S G,Hang D X,et al.EEG complexity method based on multiple coarse-grained sequences[J].Journal of University of Electronic Science and Technology of China,2013, 42(3): 470.(in Chinese)
[17] 張棟.Lempel-Ziv復(fù)雜度的尺度劃分方法的研究及應(yīng)用[D].太原:太原理工大學(xué),2013.Zhang D.Research and Application of Scale Division Method in Lempel-Ziv Complexity[D].Taiyuan:Taiyuan University of Technology, 2013.(in Chinese)
[18] 張?zhí)禅P,吳艷秋.兩種分形計(jì)盒維數(shù)的研究[J].吉林建筑工程學(xué)院學(xué)報(bào),2013,30(4):84-85.Zhang T F,Wu Y Q.Research on two fractal box dimension[J].Journal of Ji Lin Jian Zhu University, 2013, 30(4):84-85.(in Chinese)
[19] 李立,曹銳,相潔.腦電數(shù)據(jù)近似熵與樣本熵特征對(duì)比研究[J]. 計(jì)算機(jī)工程與設(shè)計(jì),2014,35(3):1021-1026.Li L,Cao R,Xiang J.Comparative study of approximate entropy and sample entropy based on characterization of EEG[J].Computer Engineering And Design, 2014, 35(3):1021-1026.(in Chinese)
[20] Gazzaniga M S, Ivry R B, Mangun G R. 認(rèn)知神經(jīng)科學(xué)[M].周曉琳,高定國(guó),譯.北京:中國(guó)輕工業(yè)出版社,2011:385-421.Gazzaniga M S, Ivry R B, Mangun G R.Cognitive Neuroscience:The Biology of the Mind[M].Zhou X L,Gao D G,translated.Beijing: China Light Industry Press, 2011: 385-421.(in Chinese)
[21] 趙麗,董燕麗,郭旭宏.α波和運(yùn)動(dòng)想象的混合范式腦-機(jī)接口系統(tǒng)[J].電子測(cè)量與儀器學(xué)報(bào),2014,28(6):625-629.Zhao L,Dong Y L, Guo X H.Hybridbrain-computer interface system based on α wave and motor imagery[J].Journal of Electronic Measurement and Instrumentation, 2014, 28(6): 625-629.(in Chinese)
[22] 王斐,王少楠,王惜慧,等.基于腦電圖識(shí)別結(jié)合操縱特征的駕駛疲勞檢測(cè)[J].儀器儀表學(xué)報(bào),2014,35(2):398-404.Wang F,Wang S N,Wang X H,et al.Driving fatigue detection based on EEG recognition and vehicle handling characteristics[J].Chinese Journal of Scientific Instrument, 2014, 35(2): 398-404.(in Chinese)
[23] 王福旺,王宏.長(zhǎng)途客車駕駛員疲勞狀態(tài)腦電特征分析[J]. 儀器儀表學(xué)報(bào),2013,34(5):1146-1152.Wang F W,Wang H.EEG characteristic analysis of coach bus drivers in fatigue state[J].Chinese Journal of Scientific Instrument, 2013, 34(5): 1146-1152.(in Chinese)
[24] Natani K, Gomer F E.Electrocortical activity and operator workload:A comparison of changes in the electroencephalogram and in event-related potentials[R].ADA237188, 1981.[25] Sterman M B, Schummer G J, Dushenko T W, et al.Electroencephalographic correlates of pilot performance:Simulation and in-flight studies[R].ADP006101, 1988.
[26] 韓東旭,周傳岱,劉月紅.狀態(tài)相關(guān)腦波復(fù)雜度用于腦負(fù)荷評(píng)價(jià)的研究[J].航天醫(yī)學(xué)與醫(yī)學(xué)工程,2001,14(2):102-106.Han D X,Zhou C D,Liu Y H.Application of brain state related EEG complexity measure in mental workload evaluation[J].Space Medicine& Medical Engineering,2001,14(2):102-106.(in Chinese)
[27] 劉建平,鄭崇勛.不同睡眠期腦電圖復(fù)雜性研究[J].生物醫(yī)學(xué)工程學(xué)雜志,1996,13(2):119-122.Liu J P,Zheng C X.Measurement of EEG complexity for studying sleep[J].Journal of Biomedical Engineering, 1996,13(2): 119-122.(in Chinese)
[28] 劉建平,黃遠(yuǎn)桂.EEG復(fù)雜性測(cè)度用于大腦負(fù)荷狀態(tài)的研究[J]. 生物醫(yī)學(xué)工程學(xué)雜志,1997,14(1):33-37.Liu J P,Huang Y G.Measuring EEG complexity for studying the state of mental load[J].Journal of Biomedical Engineering, 1997, 14(1): 33-37.(in Chinese)
[29] 顧凡及,范思陸.不同狀態(tài)下腦電圖復(fù)雜性探索[J].生物物理學(xué)報(bào),1994,10(3):439-445.Gu F J,F(xiàn)an S L.Complexity of EEG in different function states[J].Biophysics Reports, 1994, 10(3): 439-445.(in Chinese)
(責(zé)任編輯:龐迎春)
Study on Mental Workload in Manipulator Teleoperation Mission
TANG Weicai1, CHEN Shanguang1,2?, XIAO Yi1, JIANG Guohua1, TIAN Zhiqiang1
(1.National Key Laboratory of Human Factors Engineering, China Astronaut Research and Training Center,Beijing 100094, China; 2.China Manned Space Agency, Beijing 100720, China)
V7;R857.1
A
1674-5825(2017)05-0688-09
2016-08-15;
2017-04-20
國(guó)家自然科學(xué)基金(71201148;71371174);中國(guó)航天醫(yī)學(xué)工程預(yù)先研究項(xiàng)目(2012SY54A1705);重點(diǎn)實(shí)驗(yàn)室自主課題(HF2011-Z-Z-A-01)
唐偉財(cái),男,碩士研究生,研究方向?yàn)楹教烊艘蚩煽啃?。E-mail:jipingacai@163.com
?通訊作者:陳善廣,男,博士,研究員,研究方向?yàn)楹教烊艘蚬こ?。E-mail:shanguang_chen@126.com