摘" 要" 聯(lián)合行動是日常生活中非常普遍的一種人際互動形式。成功的聯(lián)合行動依賴于個體之間有效的協(xié)同, 其中共同表征能力是人際協(xié)同的基礎(chǔ), 但在聯(lián)合行動中個體如何表征自我與他人的行為, 目前說法尚未統(tǒng)一。在從認(rèn)知表征視角對聯(lián)合行動中人際協(xié)同的過程、機(jī)制及其理論解釋系統(tǒng)梳理和分析的基礎(chǔ)上, 提出人際協(xié)同的多重表征模型, 即可從空間、具身和社會性表征三個維度理解和解釋聯(lián)合行動中人際協(xié)同的內(nèi)容和過程, 并嘗試將其應(yīng)用于智能人機(jī)交互領(lǐng)域人機(jī)協(xié)同與組隊的研究和落地。
關(guān)鍵詞" 聯(lián)合行動, 共同表征, 多重表征模型, 人際協(xié)同, 人機(jī)交互
分類號" B842; B849: C91
1" 引言
在日常生活中我們經(jīng)常需要與他人協(xié)同完成聯(lián)合任務(wù), 如抬沙發(fā)、雙打比賽等。在這類任務(wù)中, 個體需要了解并區(qū)分自己與他人的任務(wù)角色, 表征彼此的行動, 從而協(xié)調(diào)自身動作以配合他人更好地完成任務(wù)(Curioni et al., 2019)。聯(lián)合行動(joint action)就是指這種在一定目標(biāo)的驅(qū)動下, 任何兩個或以上的個體在空間和時間上協(xié)調(diào)其動作以給環(huán)境帶來變化的社會互動形式(Sebanz et al., 2007)。由于任務(wù)環(huán)境是不斷變化的, 個體之間需要經(jīng)常性地協(xié)調(diào)以完成任務(wù), 這種人際協(xié)同在個體和物種水平上都具有重要意義(Sebanz, Bekkering, amp; Knoblich, 2006)。
聯(lián)合行動是一種常見的人際協(xié)同形式, 成功的聯(lián)合行動依賴于共同目標(biāo)驅(qū)動下個體的共同表征(co-representation)能力(Astolfi et al., 2020), 以及在此基礎(chǔ)上個體對自我和他人行動的監(jiān)控(monitoring)及預(yù)測(prediction) (Vesper et al., 2010), 從而確保聯(lián)合任務(wù)順利完成。共同表征既包括共同表征目標(biāo)、動作等具體內(nèi)容(Sebanz, Bekkering, amp; Knoblich, 2006), 也包括共同表征的認(rèn)知過程(Vesper et al., 2010)。當(dāng)個體觀察他人動作時, 對動作的觀察會激活個體已經(jīng)習(xí)得的計劃和執(zhí)行該動作時的表征結(jié)構(gòu), 此時個體共同表征自我和他人動作內(nèi)容(Sebanz et al., 2005); 同時, 個體也以功能等同的方式表征自己要執(zhí)行的動作(Knoblich amp; Sebanz, 2006; Sebanz et al., 2003), 并且通過實時模擬(simulating)及整合(integrate)自己和他人的行為來表征對方的行為, 此過程即共同表征過程(Astolfi et al., 2020)。眾多研究表明, 在個體之間互相協(xié)調(diào)以完成聯(lián)合任務(wù)時, 參與者會首先表征個人目標(biāo)、他人目標(biāo)以及共同的任務(wù)目標(biāo), 并基于此完成對自己行為的監(jiān)控和他人行為的預(yù)測(Vesper et al., 2010)。早在聯(lián)合行動開始之前, 個體就計劃了如何表征搭檔的認(rèn)知和動作(Kourtis et al., 2013)。大量研究發(fā)現(xiàn)并支持在聯(lián)合行動中操作者的共同表征能力越強(qiáng), 與他人的聯(lián)合績效越好(Beaurenaut et al., 2021; Milward et al., 2014; Sebanz, Knoblich et al., 2006)??梢姡?在聯(lián)合行動中, 表征共同行動者的動作是順利進(jìn)行并完成聯(lián)合任務(wù)的基礎(chǔ)。因此, 探討個體在聯(lián)合行動中如何表征自我和他人動作以提高其表征能力是提高聯(lián)合任務(wù)績效的關(guān)鍵。
同時, 探究聯(lián)合行動中的認(rèn)知表征對于研究智能時代的人機(jī)如何協(xié)同(human-machine collaboration)和組隊(human-machine teaming)也具有重要意義。智能時代的人機(jī)關(guān)系是一種新的人機(jī)組隊式的合作關(guān)系(許為, 葛列眾, 2020)。在人機(jī)組隊中, 同為認(rèn)知代理的人類操作員和機(jī)器作為隊友而合作, 而作為智能體的機(jī)器像人類一樣具有一定認(rèn)知、獨立執(zhí)行操作、對不可預(yù)測環(huán)境的自適應(yīng)等能力(許為, 葛列眾, 2020)。這種新的人機(jī)合作關(guān)系與人際協(xié)同方式類似, 意味著人機(jī)組隊過程中的高效協(xié)同可能也需要人對智能體的表征甚至是智能體對人的表征才得以實現(xiàn)。研究發(fā)現(xiàn), 參與者在與合作度高的智能體合作時共享更多的資源并獲得更高的績效(Li et al., 2020), 這表明人類能夠表征機(jī)器的行為并據(jù)此調(diào)整自身之后的表現(xiàn)。此外, 智能體也可借助各種智能交互技術(shù)對人類的特征和狀態(tài)進(jìn)行識別和表征, 整合人類伙伴的可用信息, 并開發(fā)高效和自然的人機(jī)協(xié)同形式(De Vicariis et al., 2022)。弄清楚聯(lián)合行動中個體如何表征自身和智能體動作, 以及這些表征如何影響其后續(xù)的行動(Dolk et al., 2014), 對于提高人機(jī)組隊績效和安全、優(yōu)化人機(jī)系統(tǒng)的設(shè)計十分重要。因此, 從表征視角探究協(xié)同作業(yè)系統(tǒng)中人際協(xié)同發(fā)生及作用的過程, 或可以為建立高效安全的人機(jī)交互模式提供新的科學(xué)依據(jù)。
回顧近20年來的聯(lián)合行動研究, 研究者們考察了聯(lián)合行動中共同表征能力的影響因素, 探討了聯(lián)合行動的認(rèn)知神經(jīng)機(jī)制并提出聯(lián)合行動表征的理論解釋等。Wenke等人(2011)用行動者共同表征來解釋聯(lián)合行動的認(rèn)知機(jī)制, 認(rèn)為個體僅對執(zhí)行動作的行動者是自己還是他人進(jìn)行表征, 并不表征個體如何對刺激進(jìn)行反應(yīng)。根據(jù)以往研究, 關(guān)于聯(lián)合行動中人際協(xié)同表征的過程和機(jī)制仍模糊不清。因此, 本研究旨在從表征的視角理清聯(lián)合行動中個體如何與他人協(xié)同, 以及闡述人際協(xié)同的表征模式對于人機(jī)協(xié)同和組隊的借鑒意義。
2" 人際協(xié)同表征的過程
2.1" 認(rèn)知機(jī)制
以往研究表明共同目標(biāo)(common goal)是聯(lián)合行動順利開展的前提(Wolf et al., 2016)。在執(zhí)行聯(lián)合行動時, 人們會表征共同的任務(wù)目標(biāo), 根據(jù)共同目標(biāo)確定自我目標(biāo)和他人目標(biāo)(Vesper et al., 2010), 并在區(qū)分自己和他人行動的部分時形成聯(lián)合行動的意圖(joint intention) (Knoblich amp; Sebanz, 2008)。個體基于此意圖生成運(yùn)動共振(motor resonance)和運(yùn)動模仿(motor simulation), 以表征自我和他人目標(biāo)(Novembre et al., 2014; Sebanz, Bekkering, amp; Knoblich, 2006), 從而實現(xiàn)共同目標(biāo)(Knoblich amp; Sebanz, 2008)。雖然個體使用共同知識(common knowledge)或者通過聯(lián)合注意(joint attention)替代共同知識來理解他人目標(biāo)(Carpenter, 2009)。但相比于聯(lián)合注意僅僅將個體注意力引導(dǎo)到互動伙伴所在位置, 動作觀察(action observation)及由此產(chǎn)生的表征更有利于理解他人的行動目標(biāo)(Sebanz, Bekkering, amp; Knoblich, 2006)。在觀察他人動作期間, 觀察者動作系統(tǒng)中的相應(yīng)表征被激活, 這被稱為“運(yùn)動共振” (Sebanz, Bekkering, amp; Knoblich, 2006)。運(yùn)動模仿指大腦根據(jù)執(zhí)行動作所需的神經(jīng)資源來表征感知動作的能力, 它可以生成關(guān)于我們自己和他人行為的預(yù)測(Keller, 2012)。
共同表征是聯(lián)合行動中人際協(xié)同的基礎(chǔ)(Astolfi et al., 2020)。在聯(lián)合行動中, 共同表征過程能夠解釋人們實際上是如何行動的(Vesper et al., 2010)。如圖1所示, 在執(zhí)行聯(lián)合任務(wù)時, 個體首先表征共同的運(yùn)動目標(biāo), 具體可分為表征自我目標(biāo)與他人目標(biāo)(Loehr amp; Vesper, 2016), 接著基于對運(yùn)動目標(biāo)的表征預(yù)測自己和他人的行為計劃(Bolt amp; Loehr, 2021; Saha? et al., 2017), 因為兩個合作者都必須根據(jù)對方的動作計劃(并與之協(xié)調(diào))在活動中協(xié)調(diào)自己的動作計劃(Astolfi et al., 2020)。之后個體按照確定好的行動計劃完成動作執(zhí)行并預(yù)測他人動作執(zhí)行效果。最后, 為確定行動是否按預(yù)期展開, 個體會對動作進(jìn)行監(jiān)控和反饋, 以適時調(diào)節(jié)前面各階段的執(zhí)行并最終確保任務(wù)目標(biāo)的實現(xiàn)(Loehr et al., 2013; Vesper et al., 2010)??梢?, 包含預(yù)測、監(jiān)控的共同表征過程決定了能否實現(xiàn)共同目標(biāo)及實現(xiàn)的程度(Saha? et al., 2017; Vesper et al., 2010), 該過程中個體會形成對目標(biāo)任務(wù)、動作計劃和執(zhí)行等內(nèi)容的共同表征。如果只有共同目標(biāo)而沒有共同表征過程, 則無法順利完成聯(lián)合行動(Bolt amp; Loehr, 2017; Sebanz, Bekkering, amp; Knoblich, 2006)。即共同目標(biāo)的實現(xiàn)依賴于個體的共同表征能力。
自上而下對他人行為的預(yù)測是聯(lián)合行動中人際協(xié)同的核心(Konvalinka et al., 2014; Pesquita et al., 2018; van der Weiden et al., 2022), 成功的聯(lián)合行動取決于基于共同表征能力對他人行為的預(yù)測, 并據(jù)此整合對他人行為預(yù)測和自己行為監(jiān)控的結(jié)果(Bolt amp; Loehr, 2017; Sebanz, Bekkering, amp; Knoblich, 2006)。預(yù)測機(jī)制由共同表征能力觸發(fā)(Sebanz amp; Frith, 2004)。在聯(lián)合行動中, 對自我行為的監(jiān)控和他人動作的預(yù)測是通過觀察者動作系統(tǒng)中相應(yīng)表征被激活實現(xiàn)的, 而對自己和他人動作的表征計劃是在個體實時預(yù)測過程中制定的(Sebanz, Knoblich et al., 2006; Vesper et al., 2013; Wolpert et al., 2003)。
基于此, 本文首次在以往研究的基礎(chǔ)上從表征視角提出聯(lián)合行動中人際協(xié)同的認(rèn)知機(jī)制(見圖1)。
2.2" 神經(jīng)基礎(chǔ)
除了探究聯(lián)合行動中人際協(xié)同的表征過程, 以往研究也探討了與表征相關(guān)的大腦活動(Bolt amp; Loehr, 2021), 以揭示支持聯(lián)合行動中人際協(xié)同表征的神經(jīng)機(jī)制(Czeszumski et al., 2020)。研究表明低級感知層面的鏡像神經(jīng)元系統(tǒng)(mirror neuron system) (如具身觀察和模擬等)和高級認(rèn)知層面的心理理論網(wǎng)絡(luò)(Theory of mind network) (對他人行為的預(yù)測等)在聯(lián)合行動中發(fā)揮了重要作用(見綜述: Cerullo et al., 2021)。在執(zhí)行聯(lián)合任務(wù)時, 鏡像神經(jīng)元系統(tǒng)和心理理論網(wǎng)絡(luò)能夠幫助個體完成表征(Gallese et al., 1996; Wilson amp; Knoblich, 2005)。
鏡像神經(jīng)元系統(tǒng)與理解他人意圖和情緒、觀察監(jiān)控和模仿他人行動相關(guān)(劉亞 等, 2011; 葉浩生, 2016; Iacoboni, 2008)。該系統(tǒng)涉及的腦區(qū)主要包括頂下小葉(the inferior parietal lobule, IPL)和額下回(the inferior frontal gyrus, IFG), 頂下小葉使個體能夠通過嵌入模仿(即表征)了解他人的行為和意圖, 從而促進(jìn)動作計劃的制定, 例如在合作和競爭的人際情境中, 個體在雙側(cè)頂下小葉均出現(xiàn)了腦間同步和對他人意圖的表征(Yang et al., 2021)。額下回與抑制控制相關(guān)(Aron et al., 2004), 個體在完成目標(biāo)導(dǎo)向的動作和觀察同種運(yùn)動行為時, 額下回會激活(Hamzei et al., 2015), 此時個體通過具身模擬(embodied simulation)完成對他人動作的模仿, 個體自身動作加工過程中的行為共同表征被激活(Gallese, 2006; Sebanz et al., 2005), 這種基于鏡像神經(jīng)元系統(tǒng)腦區(qū)激活的共同表征使個體能夠制定動作計劃并完成動作執(zhí)行。
作為眾多社會認(rèn)知過程的基礎(chǔ), 心理理論指理解他人心理狀態(tài)/意圖的能力(Brunet et al., 2000), 即個體觀察、解釋和預(yù)測他人行為的能力(Hopcroft, 2013)。對他人的心理和行為表征離不開對他人心理和行為的理解。因此, 心理理論網(wǎng)絡(luò)在聯(lián)合行動的表征過程中至關(guān)重要。與心理理論相關(guān)的腦區(qū)之一顳上溝(the superior temporal sulcus, STS)的功能涉及思考和理解他人意圖(Behrens et al., 2009)。一項近紅外研究表明, 由于聯(lián)合任務(wù)需要共同注意和意圖理解, 個體在右側(cè)后顳上溝的神經(jīng)激活的腦間同步會增加(Liu et al., 2017)。這表明心理理論參與了個體對運(yùn)動目標(biāo)的表征。Liepelt等人(2015)使用經(jīng)顱直流刺激(transcranial direct current stimulation, tDCS)技術(shù), 發(fā)現(xiàn)在聽覺聯(lián)合Simon任務(wù)中, 與心理理論相關(guān)的腦區(qū)內(nèi)側(cè)前額葉皮質(zhì)(the medial prefrontal cortex, MPFC)在控制自生成和他人生成的事件表征方面發(fā)揮了關(guān)鍵作用。然而, 提高人際協(xié)同績效的神經(jīng)工效研究才剛剛起步(Barchiesi et al., 2022; Curtin et al., 2019), 未來仍有很大的研究空間。
基于以往研究, 我們從表征的視角整合了聯(lián)合行動中人際協(xié)同的認(rèn)知機(jī)制, 即共同目標(biāo)是聯(lián)合行動中人際協(xié)同開展的前提, 共同表征是聯(lián)合行動中人際協(xié)同的基礎(chǔ), 對他人行為的預(yù)測是聯(lián)合行動中人際協(xié)同的核心。與目標(biāo)(Hamzei et al., 2015)、共同表征相關(guān)(Iacoboni, 2008)的鏡像神經(jīng)元系統(tǒng)和與共同表征、預(yù)測相關(guān)的心理理論網(wǎng)絡(luò)是聯(lián)合行動的重要神經(jīng)基礎(chǔ)(Cerullo et al., 2021; Liepelt et al., 2015)?;诖?, 本研究論述了鏡像神經(jīng)元系統(tǒng)和心理理論網(wǎng)絡(luò)在個體表征的過程中如何作用。接下來, 本研究希望結(jié)合人際協(xié)同表征的認(rèn)知與神經(jīng)機(jī)制研究, 深入探究人際協(xié)同表征過程背后的原因。
3" 人際協(xié)同表征的理論解釋
以往研究已經(jīng)嘗試從理論層面揭示人際協(xié)同表征的內(nèi)容和過程, 其中應(yīng)用比較廣泛的理論包括空間編碼理論、共同表征理論和參照編碼理論。
3.1" 空間編碼理論
為了探究個體是否以及如何表征搭檔動作并影響自身行為, Sebanz等人(2003)設(shè)計了社會版的Simon任務(wù), 又稱聯(lián)合Simon任務(wù)。在該任務(wù)中兩個個體需要分別對兩種刺激中的一種快速而準(zhǔn)確地反應(yīng)。在每個刺激出現(xiàn)時個體首先需判斷自己還是對方進(jìn)行反應(yīng)。若是判定對方反應(yīng), 個體需要抑制自己對刺激反應(yīng)的沖動并監(jiān)控和預(yù)測對方的表現(xiàn), 以確保下一個出現(xiàn)的刺激需要自己反應(yīng)時能夠盡快行動, 從而使任務(wù)順利進(jìn)行。在觀察對方反應(yīng)時個體的鏡像神經(jīng)元會激活, 產(chǎn)生與自己對刺激反應(yīng)時同樣的表征(Ford amp; Aberdein, 2015)。
在該任務(wù)中, 刺激與反應(yīng)空間位置一致時相較于二者位置不一致時成績提高的現(xiàn)象, 被稱為聯(lián)合Simon效應(yīng)(joint Simon effect, JSE)或社會Simon效應(yīng)??臻g編碼理論認(rèn)為JSE在本質(zhì)上并不是真正的社會效應(yīng), 而是歸因于聯(lián)合行動/不行動(go/nogo)任務(wù)中固有的空間成分, 這種空間成分允許參與者在空間上編碼他們的反應(yīng), 從而能夠區(qū)分與自己和他人生成的動作有關(guān)的認(rèn)知表征, 確保適當(dāng)?shù)娜蝿?wù)執(zhí)行(Baess et al., 2018; Dolk et al., 2011; Hommel et al., 2009)。Dittrich和同事發(fā)現(xiàn)空間反應(yīng)編碼受到反應(yīng)者和反應(yīng)鍵的空間方向的影響, 兩者都必須與空間刺激維度匹配才能出現(xiàn)JSE (Dittrich et al., 2013)。也有研究發(fā)現(xiàn)在聯(lián)合隨機(jī)數(shù)生成任務(wù)(Joint random number generation task, JRNG)中, 兩個參與者共同表征同一個心理數(shù)字線, 當(dāng)參與者位于合作者的左側(cè)(相對于右側(cè))時, 他們產(chǎn)生的數(shù)字相對較小。這表明參與者用自我中心坐標(biāo)構(gòu)建一個共同表征空間, 但這種聯(lián)合空間表征只有在空間參照框架變得突出之后才會構(gòu)建(Hartmann et al., 2019)。根據(jù)空間編碼理論的觀點, 個體首先基于空間維度實現(xiàn)對自我和他人表征的過程?;谧晕铱臻g參照框架, 個體對空間編碼一致的刺激可直接確定是否進(jìn)行動作執(zhí)行, 而對于空間編碼不一致的刺激先進(jìn)行運(yùn)動預(yù)測, 判斷自己還是對方應(yīng)該執(zhí)行動作, 之后如果判定是對方該反應(yīng)的刺激則通過鏡像神經(jīng)元系統(tǒng)預(yù)測對方的計劃及執(zhí)行, 如果判定是自己該反應(yīng)的刺激則納入動作計劃完成動作執(zhí)行。因此, 空間編碼影響個體在表征過程中的運(yùn)動預(yù)測和運(yùn)動執(zhí)行。
然而, Kiernan等人(2012)使用雙選擇聯(lián)合Simon任務(wù)發(fā)現(xiàn)個體表征模式不符合空間編碼理論, 相反, 動作共同表征理論可以解釋JSE。Sellaro等人(2015)也提出參與者對空間的編碼并不能引起JSE, 而是不同的行為事件特征導(dǎo)致JSE, 但前提是這些特征要突出到足以提供行為者動作的參照編碼。
3.2" 共同表征理論
該理論認(rèn)為, 在聯(lián)合任務(wù)中個體不僅表征自己的動作, 也以一種功能類似的方式表征他人的動作, 并會將他人的動作整合進(jìn)自己的認(rèn)知系統(tǒng)(Sebanz et al., 2003)。共同表征理論又可細(xì)分為動作、任務(wù)和行動者共同表征理論三種(徐勝, 宋曉蕾, 2016)。Kiernan等人(2012)通過消除由任務(wù)目標(biāo)和反應(yīng)之間的空間重疊引起的混淆, 讓參與者完成了雙選擇任務(wù)和聯(lián)合Simon任務(wù), 要求參與者集中精力在與他們反應(yīng)相反的空間中產(chǎn)生反應(yīng)。結(jié)果在雙選擇任務(wù)和聯(lián)合任務(wù)中存在負(fù)相容性效應(yīng)。這些發(fā)現(xiàn)支持動作共同表征是JSE的基礎(chǔ)機(jī)制, 并表明一組類似的機(jī)制會導(dǎo)致選擇和聯(lián)合任務(wù)的相容性效應(yīng)(Kiernan et al., 2012)。類似地, 在聯(lián)合數(shù)字大小判斷任務(wù)中, 兩個參與者會從自我和同伴的視角表征與自己任務(wù)相關(guān)的刺激, 當(dāng)自己和同伴視角看到的數(shù)字不同(6, 9)時, 比兩人視角數(shù)字相同(5, 8)時反應(yīng)更慢。即使同伴與自己的任務(wù)不同時, 也會產(chǎn)生類似的共同表征模式(Surtees et al., 2016)。在聯(lián)合數(shù)字奇偶判斷任務(wù)中, 兩個參與者分別對阿拉伯?dāng)?shù)字2~9的奇偶性中的一種做出反應(yīng)。此時個體通過具身的鏡像神經(jīng)元網(wǎng)絡(luò)建構(gòu)了心理數(shù)字線同時表征自己和他人的行為, 因此左側(cè)被試對小數(shù)字反應(yīng)更快, 右側(cè)被試對大數(shù)字反應(yīng)更快, 這被稱為空間?數(shù)字反應(yīng)編碼聯(lián)合效應(yīng)(Spatial-Numerical Association of Response Codes effect), 即SNARC效應(yīng)(Atmaca et al., 2008)。
根據(jù)共同表征理論, 人際協(xié)同的表征過程涉及表征共同目標(biāo)、運(yùn)動預(yù)測和運(yùn)動執(zhí)行。例如, 在音樂轉(zhuǎn)移學(xué)習(xí)范式中, 鋼琴初學(xué)者首先要學(xué)會在與他人伴奏的聯(lián)合動作環(huán)境中演奏簡單的旋律, 從而產(chǎn)生二重唱。然后參與者需要單獨完成旋律(個人動作目標(biāo))或再次完成二重唱(共同目標(biāo))。結(jié)果發(fā)現(xiàn)參與者在個人目標(biāo)條件下比在共同目標(biāo)條件下犯了更多的錯誤。這證明了人們與他人一起學(xué)習(xí)一個新動作時形成對共同目標(biāo)的表征, 且參與者能夠同時預(yù)測他人行為, 并在計劃和執(zhí)行聯(lián)合行動時納入了對他人行為的預(yù)測(Loehr amp; Vesper, 2016)。
然而, 共同表征理論對表征過程的解釋性僅限于共同表征是一個自動的、特定的社會互動過程; 該理論無法解釋為何非社會事件能夠產(chǎn)生類似JSE的效應(yīng)(Sellaro et al., 2015)。此外, 特定聯(lián)合動作表現(xiàn)與基于位置的社會返回抑制而非運(yùn)動共同表征相關(guān)(Atkinson et al., 2014)。當(dāng)參與者們面對面交替執(zhí)行相同動作時, 個體對出現(xiàn)在同伴先前反應(yīng)位置的目標(biāo)的反應(yīng)速度較慢, 此時運(yùn)動效果受到視覺刺激位置和任務(wù)的知覺需求的調(diào)節(jié)(Atkinson et al., 2014)。這表明共同表征理論更多考慮到聯(lián)合行動的社會性一面, 而忽略了空間及知覺層面的表征編碼。因此, 根據(jù)共同表征理論, 仍然缺乏對聯(lián)合行動表征過程的準(zhǔn)確理解, 進(jìn)而無法系統(tǒng)闡釋聯(lián)合行動的真正原因。
3.3" 參照編碼理論
參照編碼理論將聯(lián)合行動中的表征內(nèi)容從單個空間維度擴(kuò)展到多個可感知維度(顏色、情緒、個人特征等), 該理論認(rèn)為操作者會感知其它聯(lián)合或非聯(lián)合的事件, 并以一種類似編碼自身動作的方式來表征他人的動作(Sellaro et al., 2015; Dolk et al., 2014)。在聯(lián)合任務(wù)中, 即使讓兩個操作者各自執(zhí)行任務(wù)中的一部分而不要求他們合作, 個體也會表征他人目標(biāo), 監(jiān)控他人任務(wù)、預(yù)測他人要執(zhí)行的動作, 從而制定自己的動作執(zhí)行計劃 (Astolfi et al., 2020; Bolt amp; Loehr, 2021), 即他人動作及其它顯著性客體或事件的存在也會引起刺激與反應(yīng)特征的空間重疊, 從而影響參與者自身的反應(yīng)編碼(宋曉蕾 等, 2017)。與參照編碼理論的核心觀點一致, 宋曉蕾和賈筱倩等人(2020)發(fā)現(xiàn)不論情緒效價的高低, 高喚醒度刺激都是提高個體聯(lián)合任務(wù)中共同表征能力的關(guān)鍵。在聯(lián)合Flanker任務(wù)中也發(fā)現(xiàn)即使刺激(字母、顏色)和反應(yīng)之間的聯(lián)系是任意的, 與協(xié)同者任務(wù)相關(guān)的刺激也會激活個體行為的表征, 影響個體對他人行動的預(yù)測和錯誤監(jiān)控。當(dāng)感知到協(xié)同者面對的刺激與反應(yīng)不一致時, 個體的績效會降低(Atmaca et al., 2011)。
然而, 引用參照編碼理論需要基于以下假設(shè):引用反應(yīng)編碼對于區(qū)分替代動作事件是必需的, 并且有突出特征的事件可以提供反應(yīng)的引用編碼(Sellaro et al., 2015)。因此, 參照編碼理論僅能解釋聯(lián)合任務(wù)中存在顯著特征事件的情況下個體是如何表征的, 但又忽略了空間物理、自我與他人的區(qū)分及社會性因素本身在表征編碼中的作用。
3.4" 小結(jié)
綜上所述, 三個理論都嘗試解釋人際協(xié)同中個體是如何表征的, 但對于表征為何發(fā)生的解釋不同??臻g編碼理論從空間維度來解釋表征過程, 共同表征理論從社會性維度來解釋表征的過程, 參照編碼理論從多個感知維度(顏色、情緒、個人特征等)解釋表征的過程, 但認(rèn)為僅是個體感知到的某個維度的知覺顯著特征影響了表征的產(chǎn)生。同時三個理論對人際協(xié)同表征的解釋都具有局限性。如空間編碼理論不能解釋具身特征或社會因素對人際協(xié)同表征的影響; 共同表征理論不能解釋空間因素如何作用于該表征過程; 而參照編碼理論雖然嘗試從多個維度來解釋個體的表征過程, 但只有在某個感知維度的知覺特征顯著的情況下可以闡釋個體之間的協(xié)同現(xiàn)象。特別是上述理論多對聯(lián)合行動中衡量個體共同表征能力大小的聯(lián)合Simon效應(yīng)產(chǎn)生的原因進(jìn)行一些理論解釋, 對于人際協(xié)同其他任務(wù)中的表征過程和機(jī)制探究較少。
此外, 上述理論均沒有系統(tǒng)考慮實際的聯(lián)合行動或協(xié)同系統(tǒng)中空間、具身以及社會因素協(xié)同對表征能力和任務(wù)績效的影響。為了更好地解決聯(lián)合行動中人際協(xié)同的機(jī)理以及情境因素(物理、人際、社會)對協(xié)同績效的影響, 以進(jìn)一步服務(wù)于智能人機(jī)交互(intelligent human-computer interaction)中人?智能體的協(xié)同與組隊等問題, 我們嘗試提出人際協(xié)同的多重表征模型以系統(tǒng)化解決上述理論的局限和不足。
4" 人際協(xié)同的多重表征模型
在梳理以往人際協(xié)同表征的相關(guān)理論解釋和影響因素實證研究的基礎(chǔ)上, 本研究提出人際協(xié)同的多重表征模型(見圖2), 該模型的基本觀點是聯(lián)合行動中的操作者表征可以從空間、具身和社會性表征三個維度加以解釋。在聯(lián)合行動中, 個體表征自己和他人的動作, 并在表征過程中實現(xiàn)對自我動作的監(jiān)控和他人動作的預(yù)測(Knoblich amp; Sebanz, 2008; Vesper et al., 2010), 以確保聯(lián)合任務(wù)的完成(Iani et al., 2011)。在表征他人動作時, 個體通過模仿實現(xiàn)對他人即將執(zhí)行動作的動向的預(yù)測, 即空間預(yù)測(Sebanz amp; Knoblich, 2009), 此時個體基于空間一致性編碼自動激活行為傾向(宋曉蕾, 2015), 因此空間預(yù)測能力與空間一致性效應(yīng)密切相關(guān)。而動作模仿依賴于動作觀察, 會激活鏡像神經(jīng)元系統(tǒng)(具身模擬)中與動作執(zhí)行相同的表征(葉浩生, 2016; Gallese, 2006)。同時個體以編碼自身動作類似的方式表征他人的動作(Sinigaglia amp; Butterfill, 2020), 并將他人動作整合進(jìn)自己的認(rèn)知系統(tǒng)(Dolk et al., 2014; Sebanz et al., 2003), 借助心理理論網(wǎng)絡(luò)理解他人行為及背后的意圖(葉浩生, 2016; Brunet et al., 2000)。由于個體對他人的行動表征是基于與他人互動的可能性做出的反應(yīng), 因此這種表征在本質(zhì)上可能是社會性的(Keller et al., 2014)。
結(jié)合前文提到的認(rèn)知機(jī)制, 在人際協(xié)同過程中, 個體首先從空間維度對運(yùn)動目標(biāo)(包括自我與他人目標(biāo))進(jìn)行表征; 然后基于空間和具身維度對運(yùn)動計劃(包括對他人的具身觀察以及模擬和預(yù)測自我與他人計劃)進(jìn)行表征; 接著個體基于空間表征完成自己的動作執(zhí)行, 并通過具身和社會性表征完成對他人的動作觀察并預(yù)測他人動作執(zhí)行結(jié)果。最后, 具身表征能幫助個體整合自我與他人行為, 促進(jìn)任務(wù)監(jiān)控和動作反饋。下文將依次介紹聯(lián)合行動中空間、具身和社會性三個維度如何影響個體的表征過程。
4.1" 空間表征
空間表征的研究主要探索空間維度的編碼對人際協(xié)同的影響(Sun amp; Thomas, 2013), 如空間相容性效應(yīng)(Spatial Compatibility Effect, SCE)的作用。SCE指當(dāng)反應(yīng)側(cè)與空間刺激特征相容(在同側(cè))時, 操作者的反應(yīng)比其不相容(不在同側(cè))時更快、更準(zhǔn)確的現(xiàn)象。聯(lián)合任務(wù)中的空間位置編碼會引起基于客體的SCE (宋曉蕾, 2015; 宋曉蕾, 王丹 等, 2020; Hartmann et al., 2019), 不論是否要求操作者將旁邊他人的動作/任務(wù)納入到自己的動作計劃當(dāng)中, 刺激位置與反應(yīng)位置在同側(cè)比在對側(cè)時被試反應(yīng)更快(宋曉蕾 等, 2017)。這表明個體將他人的動作整合進(jìn)自己的認(rèn)知系統(tǒng)(Dolk et al., 2014; Sebanz et al., 2003)。
空間信息是人際協(xié)同中的重要影響因素, 根據(jù)心理理論, 在空間交互任務(wù)中個體會判斷他人進(jìn)行動作時的目標(biāo)意圖, 從他人空間視角表征刺激位置(肖承麗 等, 2019)。在表征過程中個體會對他人的行動趨勢進(jìn)行空間預(yù)測, 從空間維度表征他人目標(biāo)、預(yù)測他人運(yùn)動計劃和運(yùn)動執(zhí)行(即計劃預(yù)測和預(yù)測執(zhí)行) (Sebanz amp; Knoblich, 2009), 以確定自己的動作計劃和執(zhí)行。研究發(fā)現(xiàn), 讓參與者在進(jìn)行空間相容任務(wù)的練習(xí)之后再執(zhí)行聯(lián)合Simon任務(wù), JSE會減弱(Ferraro et al., 2011); 而讓參與者先進(jìn)行空間不相容任務(wù)的練習(xí)后再進(jìn)行聯(lián)合任務(wù), JSE則會消失; 但是如果讓參與者在練習(xí)和之后的階段交換身體位置, JSE又會出現(xiàn)(宋曉蕾 等, 2018)。產(chǎn)生這種現(xiàn)象的原因可能是空間相容練習(xí)使個體的空間預(yù)測能力增強(qiáng), 更好地在空間上編碼反應(yīng), 從而能夠區(qū)分自己和他人生成的動作有關(guān)的認(rèn)知表征, 以實現(xiàn)聯(lián)合任務(wù)目標(biāo)(Dolk et al., 2011; Hommel et al., 2009)。綜上, 空間因素影響聯(lián)合任務(wù)中個體間的協(xié)同能力, 特別是操作者的空間物理環(huán)境、空間物理位置及反應(yīng)位置對操作者協(xié)作績效影響較大(Dittrich et al., 2013)。
4.2" 具身表征
具身(Embodied)是指身體通過感覺和運(yùn)動體驗(感覺運(yùn)動系統(tǒng))來影響認(rèn)知(葉浩生, 2014)。具身表征的研究聚焦于個體具身特征對其人際協(xié)同的影響。聯(lián)合行動的神經(jīng)基礎(chǔ)研究首先為人際協(xié)同的具身表征性質(zhì)提供了神經(jīng)科學(xué)的證據(jù)。鏡像神經(jīng)元系統(tǒng)是具身認(rèn)知的神經(jīng)系統(tǒng)(Iacoboni, 2008)。在共同運(yùn)動目標(biāo)的驅(qū)動下, 個體通過動作觀察實現(xiàn)動作模仿, 并激活與動作執(zhí)行相同的表征(Gallese, 2006), 此時個體與鏡像神經(jīng)元系統(tǒng)相關(guān)的腦區(qū)被激活(Gallese et al., 1996; Wilson amp; Knoblich, 2005)。具身表征為表征過程的運(yùn)動目標(biāo)(自我和他人目標(biāo))、計劃預(yù)測(觀察動作)和動作執(zhí)行的實現(xiàn)提供了保障。實證研究也表明, 個體的身體姿勢和身體狀態(tài)作用于其在聯(lián)合行動中的共同表征能力(Gonzalez et al., 2011)。在聯(lián)合Simon任務(wù)中將個體雙手縛于身前/身后來改變其反應(yīng)手的狀態(tài)后, 個體的動作模擬受限抑制了表征, 因而不會產(chǎn)生基于共同表征的觀察學(xué)習(xí)(宋曉蕾 等, 2018)。情緒對認(rèn)知加工的影響也表現(xiàn)出具身特征(劉亞 等, 2011), 低效價高喚醒度的情緒能增加個體在聯(lián)合任務(wù)的共同表征能力(宋曉蕾, 賈筱倩等, 2020)。
聯(lián)合Simon效應(yīng)的產(chǎn)生也與具身的感覺通道有關(guān)。聯(lián)合任務(wù)中個體會在視覺上把附近他人的手納入自己的身體圖式中, 產(chǎn)生共享的身體表征, 此時對他人手部空間位置的刺激識別變快(Sun amp; Thomas, 2013)。但以觸覺方式呈現(xiàn)刺激時, 參與者之間的共同表征能力較弱(Pérusseau-Lambert" et al., 2019), 這表明在觸覺上個體對他人的認(rèn)知表征并沒有達(dá)到完全自動化的程度。這種效應(yīng)弱化的現(xiàn)象也可能源于參與者之間缺乏共同的感覺空間。上述研究支持了具身認(rèn)知的觀點:認(rèn)知加工與感覺?運(yùn)動系統(tǒng)之間存在契合關(guān)系(葉浩生, 2014)。
4.3" 社會性表征
參與者所處社會環(huán)境中的各種因素以獨特的方式改變?nèi)藗兊恼J(rèn)知表征能力和聯(lián)合績效(Meagher amp; Marsh, 2014)。首先, 參與者對他人行為的表征取決于操作者對同伴意圖和行為的感知(Ruys amp; Aarts, 2010; Surtees et al., 2016)。良好的同伴關(guān)系能促進(jìn)表征過程, Iani等人(2011)發(fā)現(xiàn)不論是與內(nèi)群體還是外群體成員聯(lián)合行動, 均出現(xiàn)JSE, 但參與者只有感知到積極而非消極的同伴依賴關(guān)系才會表征同伴行為。此外, 同伴角色(Grynszpan et al., 2019; Roberts et al., 2021)、同伴性別(van der Weiden et al., 2016)、同伴行為的可預(yù)測性(Bolt amp; Loehr, 2017)、同伴熟悉度(Iani" "et al., 2019)等也影響聯(lián)合行動中的共同表征能力(Baess amp; Prinz, 2015; Sebanz et al., 2005)。這些研究均表明個體對他人的表征能力建立在感知同伴甚至良性同伴關(guān)系的基礎(chǔ)之上。
其次, 人際因素也作用于自我?他人表征能力(Quintard et al., 2020)。相較人際合作情境, 人際競爭情境抑制了4~5歲幼兒聯(lián)合行動的表征能力(宋曉蕾 等, 2017), 這是因為4~5歲的幼兒不僅能夠表征自己的任務(wù), 而且可以表征任務(wù)伙伴的意圖、目標(biāo)或行動的各個方面(林琳琳 等, 2021; Milward et al., 2014)。此外, 搭檔間的人際距離越近, 自我對他人信息表征的替代性體驗就越強(qiáng)(楊帥 等, 2014)。如與朋友聯(lián)合行動時, Simon效應(yīng)可通過同伴在場時的認(rèn)知視角和不在場時的幻想傾向來預(yù)測(Ford amp; Aberdein, 2015)。與之對應(yīng)的人際協(xié)調(diào)水平越高, 操作者對他人的共同表征能力越強(qiáng), 聯(lián)合績效越好(Ciardo amp; Wykowska, 2018; Michael et al., 2016)。此外, 其他社會性因素如語言文化環(huán)境也影響操作者的表征能力。多元語言文化會促進(jìn)個體情境下的認(rèn)知轉(zhuǎn)換和表征功能, 降低社會情境下的對應(yīng)功能(郭人豪 等, 2020)。
4.4" 人際協(xié)同多重表征的證據(jù)
上文分別闡述了空間、具身和社會性表征三個維度在聯(lián)合行動中人際協(xié)同的表征過程中的重要性。實際上, 這三個維度是同級且交互重疊的關(guān)系。首先, 從個體內(nèi)部來說, 具身維度表征(對他人動作的具身模擬)促進(jìn)了個體對空間維度(空間位置、物理環(huán)境等)信息的表征; 其次, 從個體之間來說, 具身維度表征(對他人動作的觀察)有助于個體對社會性維度(社會因素以及對他人行為預(yù)測等)的信息加以表征; 最后, 在人際協(xié)同的表征過程中個體內(nèi)部的空間表征也與個體之間社會性表征相互產(chǎn)生影響。一方面, 空間維度表征要考慮社會性維度表征的影響; 另一方面, 空間維度信息的明確性又影響社會性維度的表征效果。
就個體內(nèi)部而言, 個體在空間交互任務(wù)中使用具身模擬的方式建立空間參考框架來表征空間信息(肖承麗 等, 2019; 肖承麗 等, 2021)。例如, 在完成雙人鋸蠟塊的任務(wù)后再讓個體對屏幕呈現(xiàn)的刺激進(jìn)行反應(yīng)時, 個體通過鏡像神經(jīng)元網(wǎng)絡(luò)在視覺上把附近他人(朋友)的手納入自己的身體圖式中以實現(xiàn)目標(biāo), 此時參與者能更快地表征朋友手部附近的目標(biāo)以制定運(yùn)動計劃并完成動作執(zhí)行, 這表明共享的身體表征在將注意力(任務(wù)監(jiān)控)偏向他人手附近的空間方面起著重要作用(Sun amp; Thomas, 2013)。
從個體之間來看, 具身表征(對他人動作的觀察)和社會性表征交互作用于人際協(xié)同過程?;阽R像神經(jīng)元系統(tǒng)的具身表征能夠聯(lián)合心理理論網(wǎng)絡(luò)幫助個體理解和預(yù)測他人的動作和目標(biāo), 促進(jìn)任務(wù)監(jiān)控和動作反饋。在聯(lián)合SNARC任務(wù)中, 個體基于具身認(rèn)知視角將數(shù)字符號轉(zhuǎn)換為心理數(shù)字線, 并將自己動作與觀察到的同伴動作納入統(tǒng)一的認(rèn)知系統(tǒng), 以此來共同表征自己的動作執(zhí)行和他人動作的預(yù)測執(zhí)行, 因此更易將左(右)邊數(shù)字表征為?。ù螅?(Atmaca et al., 2008)。
此外, 個體內(nèi)部的空間表征和個體之間社會性因素在人際協(xié)同的表征過程中相互作用。在聯(lián)合Simon任務(wù)、聯(lián)合Flanker任務(wù)、聯(lián)合SNARC任務(wù)中, 共同完成任務(wù)的協(xié)同者處于一種人際互動狀態(tài), 個體對任務(wù)的空間信息表征受到同伴的影響(Atmaca et al., 2008; Atmaca et al., 2011; Ruys amp; Aarts, 2010)。一方面, 從空間維度表征刺激時, 會受到社會性維度的自我和他人區(qū)分能力的影響, 個體基于心理理論的神經(jīng)網(wǎng)絡(luò)分別從社會性維度的自我和他人視角建構(gòu)刺激的空間表征(肖承麗 等, 2019)。即個體在表征共同的運(yùn)動目標(biāo)時會分別表征自我和他人目標(biāo)。例如, 個體在表征自己的手部空間和接近他人手部的空間刺激時加工方式不同(Sun amp; Thomas, 2013)。合作情境下的JSE大于競爭情境下的JSE, 合作情境下的共同表征能力更好(Yang et al., 2021), 這進(jìn)一步表明不同社會情境下個體的空間表征編碼存在差別。另一方面, 空間維度信息的明確性又影響社會性維度的表征。當(dāng)同伴坐在操作者的手部周圍空間之外時, 個體不會表征同伴的動作(Sun amp; Thomas, 2013), 這可能是因為空間信息的有限性使得個體此時無法預(yù)測他人動作計劃和動作執(zhí)行并獲得動作反饋, 此時心理理論網(wǎng)絡(luò)未激活, 無法建構(gòu)他人視角的表征。
綜上所述, 具身的視角采擇同時包含空間和社會線索, 具身表征能夠促進(jìn)個體對社會性他人(人而非物體)視角的空間信息的獲?。ㄐこ宣?等, 2021)。因此, 空間、具身和社會性三個維度共同影響聯(lián)合行動中的表征過程, 即個體對聯(lián)合行動任務(wù)的表征基于一種多重表征方式。
多重表征模型也可以解釋動作共同表征和任務(wù)共同表征在聯(lián)合行動中的作用。動作共同表征理論指出, 在聯(lián)合行動中即使不要求考慮他人的動作, 他人的動作也會被個體表征并影響個體自身的動作(Sebanz et al., 2003)。由于動作具有可模擬的特征, 個體通過鏡像神經(jīng)元系統(tǒng)表征同伴動作, 并在運(yùn)動系統(tǒng)中激活相應(yīng)動作(Tsai et al., 2008), 這種表征方式與多重表征模型具身維度的觀點一致。任務(wù)共同表征是社會情境概念化的結(jié)果(Sebanz et al., 2005), 與搭檔在任務(wù)中的角色相關(guān)(Ford amp; Aberdein, 2015), 可歸納于多重表征模型社會性維度。此外, 為完成具有不對稱任務(wù)約束的任務(wù)(只有一方有任務(wù)約束)的時間協(xié)調(diào), 不受任務(wù)約束的行動者共同表征了搭檔的空間任務(wù)約束(障礙物), 以確保協(xié)作任務(wù)的完成(Schmitz et al., 2017)。此時個體通過具身模擬表征搭檔在空間中面對的刺激, 即具身維度的表征促進(jìn)了基于社會因素的空間信息表征。因此, 受約束的任務(wù)共同表征可以對應(yīng)到多重表征模型的空間、具身和社會性維度的表征。
4.5" 小結(jié)
綜上所述, 本研究提出的人際協(xié)同的多重表征模型具備以下幾個特點。第一, 可解釋范圍廣, 新的理論能夠廣泛解釋聯(lián)合行動中個體表征的研究結(jié)果; 第二, 支持以往對聯(lián)合行動中個體表征的主要理論觀點; 第三, 可考慮推廣應(yīng)用到現(xiàn)實的聯(lián)合行動或協(xié)同作業(yè)系統(tǒng)中。因此, 本研究提出的新的聯(lián)合行動中人際協(xié)同的多重表征模型具有豐富的實證和理論依據(jù), 可以系統(tǒng)合理地解釋以往聯(lián)合行動中個體協(xié)同與表征的相關(guān)研究結(jié)果, 并為未來開展協(xié)同作業(yè)系統(tǒng)中人際或人機(jī)協(xié)同與組隊的研究提供理論支持。最后, 我們繼續(xù)總結(jié)并探討了人際協(xié)同的多重表征模型對于智能人機(jī)系統(tǒng)中人機(jī)協(xié)同與組隊的借鑒意義。
5" 應(yīng)用與展望
如前文所述, 關(guān)于聯(lián)合行動中人際協(xié)同主題的研究數(shù)量眾多且日趨成熟, 近年來學(xué)者們除了關(guān)注其認(rèn)知神經(jīng)機(jī)制, 也開始關(guān)注其在現(xiàn)實中的應(yīng)用, 如如何促進(jìn)人際或人機(jī)協(xié)同以提高協(xié)同作業(yè)的績效。這種發(fā)展趨勢預(yù)示著當(dāng)前迫切需要一個新的整合理論模型來解釋聯(lián)合行動中個體表征背后的機(jī)制, 從而為聯(lián)合行動績效的提高提供理論依據(jù)。本研究在梳理以往理論和實證研究的基礎(chǔ)上, 提出人際協(xié)同的多重表征模型, 該模型可幫助我們深入地理解和解釋聯(lián)合行動中操作者行為背后的表征過程和內(nèi)容, 促進(jìn)未來智能人機(jī)交互研究的推進(jìn)和完善, 提升用戶體驗; 同時圍繞該模型的研究也可直接應(yīng)用于協(xié)同作業(yè)系統(tǒng)的設(shè)計和優(yōu)化, 并最終為設(shè)計人?智能體協(xié)同作業(yè)系統(tǒng)提供科學(xué)基礎(chǔ)。
5.1" 模型的應(yīng)用前景
人工智能(artificial intelligence)的發(fā)展正在催生越來越多樣化的智能人機(jī)交互終端, 日常工作和生活中的人機(jī)交互已經(jīng)逐漸演變成為人與各種帶有自主化特征的智能機(jī)器人之間的交互(許為, 葛列眾, 2020), 未來人類與人工智能進(jìn)行實際意義的協(xié)同將成為常態(tài)。對人與智能體之間如何協(xié)同的機(jī)制研究, 也成為當(dāng)前工程心理學(xué)等人因?qū)W科的重點研究領(lǐng)域之一(許為, 葛列眾, 2018; Heard amp; Adams, 2019)。智能人機(jī)交互研究的是人與智能體如何像人與人一樣協(xié)作, 目標(biāo)在于提升用戶體驗, 通過探究人機(jī)關(guān)系與行為模式, 最終實現(xiàn)人機(jī)交互界面(human machine interface, HMI)的優(yōu)化及創(chuàng)新, 以形成一個完整的智能人機(jī)交互框架(孫效華 等, 2020; Hornb?k et al., 2019)。然而當(dāng)前智能人機(jī)交互的設(shè)計標(biāo)準(zhǔn)仍然不夠具體化和系統(tǒng)化(許為, 2019), 如何使智能機(jī)器人像真正的人類一樣與同伴協(xié)同, 實時動態(tài)地情境感知, 理解同伴的意圖并完成特定的任務(wù)呢?社會技術(shù)大環(huán)境系統(tǒng)理論認(rèn)為, 應(yīng)該從物理、社會以及人際等情境出發(fā), 從整體的系統(tǒng)設(shè)計和優(yōu)化層面來研究人與人以及人與各種界面和智能體之間的交互(許為, 2019)。多重表征模型的三個維度與該理論具有內(nèi)在一致性。因此, 聯(lián)合行動中人際協(xié)同模式及結(jié)果或可為智能人機(jī)交互研究提供借鑒。
根據(jù)人際協(xié)同的多重表征模型, 在設(shè)計智能交互產(chǎn)品或是在實際人機(jī)交互的過程中可以考慮從以下三個方面提升人機(jī)交互感受, 從而提高用戶體驗。首先, 人與機(jī)的空間位置關(guān)系作用于人機(jī)交互效果。人對空間特征如空間位置、空間注意力的編碼是本能自動地發(fā)生的(Porcu et al., 2016; Sun amp; Thomas, 2013), 而人與智能體的空間接觸和交互方式對用戶體驗有重要影響(蘭玉琪, 劉松洋, 2020), 因此, 在設(shè)計智能人機(jī)交互產(chǎn)品時, 首先應(yīng)從空間維度上讓人類主體/用戶感到舒適, 需要考慮機(jī)器外形、大小、與人類接觸的方式等如何對人機(jī)交互模式起作用, 并在比對之后確定最佳人機(jī)空間交互方式。以汽車導(dǎo)航系統(tǒng)為例, 行車過程中駕駛員常借助實時導(dǎo)航系統(tǒng)完成駕駛?cè)蝿?wù)。導(dǎo)航系統(tǒng)的呈現(xiàn)方式(二維或三維)及大小, 與駕駛員的相對空間位置, 都會影響駕駛員注意力的分配。因此, 設(shè)計導(dǎo)航系統(tǒng)時要考慮到空間因素對駕駛績效的影響。
其次, 應(yīng)該考慮人的具身特征(如個體與智能體接觸的身體部位和接觸姿勢)對人機(jī)交互的影響(宋曉蕾 等, 2018; Gonzalez et al., 2011)。如汽車導(dǎo)航系統(tǒng)的界面設(shè)計也應(yīng)該從具身的角度出發(fā), 考慮駕駛員的身高、利手和駕駛姿勢習(xí)慣如何影響其對導(dǎo)航系統(tǒng)提供的信息的感知, 從操作者自身視角出發(fā)增強(qiáng)其身體浸入感, 以提高操作者的導(dǎo)航和尋路績效。
最后, 隨著智能人機(jī)交互的多模態(tài)化, 用戶對于信息和服務(wù)的情景化需求提高, 對智能人機(jī)交互過程中的情景可感知性也提出了更高的要求(許為, 2022)。這與多重表征模型觀點是一致的:同伴特征、社會環(huán)境等因素影響個體對協(xié)同情景的感知(郭人豪 等, 2020; Surtees et al., 2016), 從而影響協(xié)同績效。因此要盡可能使智能體具有社會性功能, 如語言和交際功能(Cochet amp; Guidetti, 2018)、較高擬人化特征、較強(qiáng)的感知交互能力(蘭玉琪, 劉松洋, 2020)。例如, 汽車導(dǎo)航系統(tǒng)提供用戶不同音色的語音系統(tǒng), 以及可以根據(jù)當(dāng)?shù)卣Z言習(xí)慣切換的語言系統(tǒng); 向用戶反饋實時道路和交通狀況, 都增加了與用戶的情境交互。因而讓用戶感覺到智能機(jī)器能夠像伙伴一般與自己進(jìn)行互動和交流(Saha? et al., 2019), 提升智能人機(jī)交互體驗和效果。
目前人機(jī)交互研究的重點更多地關(guān)注了人機(jī)協(xié)同作業(yè)和人機(jī)組隊(Peeters et al., 2021; Wynne amp; Lyons, 2018)。研究聯(lián)合行動中人際協(xié)同的多重表征模型可為實際生活中的人際/人機(jī)協(xié)同績效的提高提供參考, 為智能人機(jī)交互產(chǎn)品的設(shè)計提供思路。同時, 聯(lián)合行動相關(guān)研究有助于我們理解人機(jī)協(xié)同作業(yè)或者人機(jī)組隊操作中, 操作者所處情境及其表征對協(xié)同、組隊操作的影響, 研究成果可以直接應(yīng)用于協(xié)同作業(yè)系統(tǒng)的設(shè)計和優(yōu)化, 并為建立自然高效人機(jī)協(xié)同和組隊的交互模式提供科學(xué)的依據(jù)。
5.2" 模型的優(yōu)勢和不足
首先, 與以往理論的視角不同, 本文基于表征視角提出人際協(xié)同的多重表征模型, 系統(tǒng)地將聯(lián)合行動績效與個體內(nèi)部及個體之間的表征編碼方式結(jié)合起來, 有利于了解個體行為背后表征內(nèi)容的產(chǎn)生及作用的過程。根據(jù)該模型的觀點, 在聯(lián)合行動或協(xié)同作業(yè)中, 個體對共同行動者動作的表征方式與其所處的空間因素、具身特征以及社會性因素密切相關(guān), 其中個體表征他人的能力越強(qiáng), 與他人的協(xié)同績效越好。因此, 提高個體的表征能力, 是提高聯(lián)合行動任務(wù)績效的關(guān)鍵。
其次, 以往理論沒有系統(tǒng)考慮實際的聯(lián)合行動或人際協(xié)同系統(tǒng)中空間、具身、以及社會因素協(xié)同對行動績效的交互影響, 在解釋聯(lián)合行動中操作者間表征及行為表現(xiàn)時具有局限性。本文基于以往的理論和實證研究, 整合空間、具身和社會性三個維度的表征及其作用, 提出了多重表征理論模型。該模型能夠更好地解釋聯(lián)合行動中操作者之間聯(lián)合行動的機(jī)理以及種情境因素(物理、人際、社會)對任務(wù)績效的影響。
再次, 該模型對未來實證研究的開展提供了方向, 在未來探究聯(lián)合行動或團(tuán)隊協(xié)同作業(yè)相關(guān)研究時, 可以從空間、具身和社會性表征三個維度來考察團(tuán)隊協(xié)作中的個體表征能力和任務(wù)表現(xiàn), 以進(jìn)一步揭示個體行為背后的認(rèn)知機(jī)制。
當(dāng)然, 該模型也需進(jìn)一步的完善。一方面, 該模型雖然基于以往研究論證了空間、具身和社會性表征對聯(lián)合行動中的個體表征及協(xié)作表現(xiàn)產(chǎn)生影響, 但對于空間、具身特征和社會性因素如何交互影響操作者表征能力和任務(wù)績效, 目前的實證研究證據(jù)仍需加強(qiáng)。未來還需要開展進(jìn)一步的研究, 以驗證這三個維度是如何相互作用和融合的。另一方面, 雖然本文主要分析了該模型能夠解釋聯(lián)合Simon任務(wù)、聯(lián)合Flanker任務(wù)、聯(lián)合SNARC任務(wù)等人際協(xié)同任務(wù)中個體的表征過程。但不論在何種人際協(xié)同任務(wù)中, 個體都必須與他人共同完成任務(wù)目標(biāo), 他人的存在使個體需要利用鏡像神經(jīng)元系統(tǒng)監(jiān)控他人的動作和預(yù)測對方下一步動作以制定自己的動作計劃, 而對他人的運(yùn)動預(yù)測離不開基于心理理論視角對他人空間信息的表征。因此, 我們推測該模型可使用于大多數(shù)人際協(xié)同任務(wù)。當(dāng)然, 未來仍需考察該模型如何推廣到更廣泛的人際協(xié)同任務(wù)范式。最后, 該模型僅考慮了一般實驗室控制條件對人際協(xié)同表征的影響, 其他一些結(jié)合現(xiàn)實任務(wù)場景因素如特因環(huán)境對團(tuán)隊協(xié)同作業(yè)中操作者的表征及績效的影響也有待進(jìn)一步的探究。
參考文獻(xiàn)
郭人豪, 王婷, 張積家. (2020). 多元語言文化對個體情境下與社會情境下認(rèn)知轉(zhuǎn)換功能的差異性影響——來自錫伯族的證據(jù). 心理學(xué)報, 52(9), 1071?1086. https://doi. org/10.3724/SP.J.1041.2020.01071
蘭玉琪, 劉松洋. (2020). 人工智能技術(shù)下的產(chǎn)品用戶體驗研究綜述. 包裝工程, 41(24), 22?29. https://doi.org/10. 19554/j.cnki.1001-3563.2020.24.004
林琳琳, 劉文, 王薇薇, 龔平. (2021). 幼兒在聯(lián)合行動中共同表征能力的發(fā)展. 心理科學(xué), 44(1), 60?66. https:// doi.org/10.16719/j.cnki.1671-6981.20210109
劉亞, 王振宏, 孔風(fēng). (2011). 情緒具身觀:情緒研究的新視角. 心理科學(xué)進(jìn)展, 19(1), 50?59.
宋曉蕾. (2015). 基于客體的空間一致性效應(yīng):功能可見性或空間位置編碼? 心理科學(xué), 38(5), 1067?1073. https:// doi.org/10.16719/j.cnki.1671-6981.2015.05.008
宋曉蕾, 賈筱倩, 趙媛, 郭晶晶. (2020). 情緒對聯(lián)合行動中共同表征能力的影響機(jī)制. 心理學(xué)報, 52(3), 269?282. https://doi.org/10.3724/SP.J.1041.2020.00269
宋曉蕾, 李洋洋, 楊倩, 游旭群. (2018). 反應(yīng)手的不同狀態(tài)對聯(lián)合任務(wù)中觀察學(xué)習(xí)的影響. 心理學(xué)報, 50(9), 975?984. https://doi.org/10.3724/SP.J.1041.2018.00975
宋曉蕾, 李洋洋, 張詩熠, 張俊婷. (2017). 人際情境對幼兒聯(lián)合Simon效應(yīng)的影響機(jī)制. 心理發(fā)展與教育, 33(3), 273?281. https://doi.org/10.16187/j.cnki.issn1001-4918.2017.03.03
宋曉蕾, 王丹, 張欣欣, 賈筱倩. (2020). 基于客體的一致性效應(yīng)的產(chǎn)生機(jī)制. 心理學(xué)報, 52(6), 669?681. https:// doi.org/10.3724/SP.J.1041.2020.00669
孫效華, 張義文, 秦覺曉, 李璟璐, 王舒超. (2020). 人機(jī)智能協(xié)同研究綜述. 包裝工程, 41(18), 1?11. https://doi. org/10.19554/j.cnki.1001-3563.2020.18.001
肖承麗, 范丫, 徐劉飛, 周仁來. (2019). 以人為中心的人-機(jī)器人自然空間語言交互. 應(yīng)用心理學(xué), 25(4), 319?331.
肖承麗, 隋雨檠, 肖蘇衡, 周仁來. (2021). 空間交互研究新視角: 多重社會因素的影響. 心理科學(xué)進(jìn)展, 29(5), 796?805. https://doi.org/10.3724/SP.J.1042.2021.00796
徐勝, 宋曉蕾. (2016). 聯(lián)合Simon效應(yīng):現(xiàn)狀、影響因素與理論解釋. 心理科學(xué)進(jìn)展, 24(3), 367?378. https://doi. org/10.3724/SP.J.1042.2016.00367
許為. (2019). 四論以用戶為中心的設(shè)計: 以人為中心的人工智能. 應(yīng)用心理學(xué), 25(4), 291?305.
許為. (2022). 六論以用戶為中心的設(shè)計:智能人機(jī)交互的人因工程途徑. 應(yīng)用心理學(xué), 28(3), 195?213.
許為, 葛列眾. (2018). 人因?qū)W發(fā)展的新取向. 心理科學(xué)進(jìn)展, 26(9), 1521?1534. https://doi.org/10.3724/SP.J.1042. 2018.01521
許為, 葛列眾. (2020). 智能時代的工程心理學(xué). 心理科學(xué)進(jìn)展, 28(9), 1409?1425. https://doi.org/10.3724/SP.J.1042. 2020.01409
楊帥, 黃希庭, 陳有國, 傅于玲, 劉孟超. (2014). 人際距離調(diào)節(jié)自我-他人的神經(jīng)表征: 來自oFRN的證據(jù). 心理學(xué)報, 46(5), 666?676. https://doi.org/10.3724/SP.J.1041. 2014.00666
葉浩生. (2014). “具身”涵義的理論辨析. 心理學(xué)報, 46(7), 1032?1042. https://doi.org/10.3724/SP.J.1041.2014.001032
葉浩生. (2016). 鏡像神經(jīng)元的意義. 心理學(xué)報, 48(4), 444?456. https://doi.org/10.3724/SP.J.1041.2016.00444
Aron, A., Mclaughlin-Volpe, T., Mashek, D., Lewandowski, G., Wright, S. C., amp; Aron, E. N. (2004). Including others in the self. European Review of Social Psychology, 15(1), 101?132. http://doi.org/10.1080/10463280440000008
Astolfi, L., Toppi, J., Ciaramidaro, A., Vogel, P., Freitag, C. M., amp; Siniatchkin, M. (2020). Raising the bar: Can dual scanning improve our understanding of joint action? Neuroimage, 216, 116813. https://doi.org/10.1016/j.neuroimage. 2020.116813
Atkinson, M. A., Simpson, A., Skarratt, P. A., amp; Cole, G. G. (2014). Is social inhibition of return due to action co-representation? Acta Psychologica, 150, 85?93. http:// doi.org/10.1016/j.actpsy.2014.04.003
Atmaca, S., Sebanz, N., amp; Knoblich, G. (2011). The joint flanker effect: Sharing tasks with real and imagined co-actors. Experimental Brain Research, 211(3?4), 371? 385. https://doi.org/10.1007/s00221-011-2709-9
Atmaca, S., Sebanz, N., Prinz, W., amp; Knoblich, G. (2008). Action co-representation: The joint SNARC effect. Social Neuroscience, 3(3?4), 410?420. https://doi.org/10.1080/ 17470910801900908
Baess, P., amp; Prinz, W. (2015). My partner is also on my mind: Social context modulates the N1 response. Experimental Brain Research, 233(1), 105?113. https://doi.org/10.1007/ s00221-014-4092-9
Baess, P., Weber, T., amp; Bermeitinger, C. (2018). Sharing different reference frames: How stimulus setup and task setup shape egocentric and allocentric Simon effects. Frontiers in Psychology, 9, 2063. https://doi.org/10.3389/ fpsyg.2018.02063
Barchiesi, G., Zazio, A., Marcantoni, E., Bulgari, M., di San Pietro, C. B., Sinigaglia, C., amp; Bortoletto, M. (2022). Sharing motor plans while acting jointly: A TMS study. Cortex, 151, 224?239. https://doi.org/10.1016/j.cortex.2022. 03.007
Beaurenaut, M., Dezecache, G., amp; Grèzes, J. (2021). Action co-representation under threat: A social Simon study. Cognition, 215, 104829. https://doi.org/10.1016/j.cognition. 2021.104829
Behrens, T. E. J., Hunt, L. T., amp; Rushworth, M. F. S. (2009). The computation of social behavior. Science, 324(5931), 1160?1164. https://doi.org/10.1126/science.1169694
Bolt, N. K., amp; Loehr, J. D. (2017). The predictability of a partner's actions modulates the sense of joint agency. Cognition, 161, 60?65. https://doi.org/10.1016/j.cognition. 2017.01.004
Bolt, N. K., amp; Loehr, J. D. (2021). The motor-related brain activity that supports joint action: A review. Acta Psychologica, 212, 103218. https://doi.org/10.1016/j.actpsy. 2020.103218
Brunet, E., Sarfati, Y., Hardy-Baylé, M.-C., amp; Decety, J. (2000). A PET investigation of the attribution of intentions with a nonverbal task. Neuroimage, 11(2), 157?166. https://doi.org/10.1006/nimg.1999.0525
Carpenter, M. (2009). Just how joint is joint action in infancy? Topics in Cognitive Science, 1(2), 380?392. https://doi.org/10.1111/j.1756-8765.2009.01026.x
Cerullo, S., Fulceri, F., Muratori, F., amp; Contaldo, A. (2021). Acting with shared intentions: A systematic review on joint action coordination in autism spectrum disorder. Brain and Cognition, 149(1), 105693. https://doi.org/10. 1016/j.bandc.2021.105693
Ciardo, F., amp; Wykowska, A. (2018). Response coordination emerges in cooperative but not competitive joint task. Frontiers in Psychology, 9, 1919. https://doi.org/10.3389/ fpsyg.2018.01919
Cochet, H., amp; Guidetti, M. (2018). Contribution of developmental psychology to the study of social interactions: Some factors in play, joint attention and joint action and implications for robotics. Frontiers in Psychology, 9, 1992. https://doi.org/10.3389/fpsyg.2018.01992
Curioni, A., Vesper, C., Knoblich, G., amp; Sebanz, N. (2019). Reciprocal information flow and role distribution support joint action coordination. Cognition, 187, 21?31. https:// doi.org/10.1016/j.cognition. 2019.02.006
Curtin, A., Tong, S., Sun, J., Wang, J., Onaral, B., amp; Ayaz, H. (2019). A systematic review of integrated functional near-infrared spectroscopy (fNIRS) and transcranial magnetic stimulation (TMS) studies. Frontiers in Neuroscience, 13, 84. https://doi.org/10.3389/fnins.2019. 00084
Czeszumski, A., Eustergerling, S., Lang, A., Menrath, D., Gerstenberger, M., Schuberth, S., ... K?nig, P. (2020). Hyperscanning: A valid method to study neural inter-brain underpinnings of social interaction. Frontiers in Human Neuroscience, 14, 39. https://doi.org/10.3389/fnhum.2020. 00039
De Vicariis, C., Pusceddu, G., Chackochan, V. T., amp; Sanguineti, V. (2022). Artificial partners to understand joint action: Representing others to develop effective coordination. IEEE Transactions on Neural Systems and Rehabilitation Engineering, 30, 1473?1482. https://doi.org/ 10.1109/TNSRE.2022.3176378
Dittrich, K., Dolk, T., Rothe-Wulf, A., Klauer, K. C., amp; Prinz, W. (2013). Keys and seats: Spatial response coding underlying the joint spatial compatibility effect. Attention, Perception, amp; Psychophysics, 75(8), 1725?1736. https://doi.org/ 10.3758/s13414-013-0524-z
Dolk, T., Hommel, B., Colzato, L. S., Schütz-Bosbach, S., Prinz, W., amp; Liepelt, R. (2011). How \"social\" is the social Simon effect? Frontiers in Psychology, 2, 84. https://doi. org/10.3389/fpsyg.2011.00084
Dolk, T., Hommel, B., Colzato, L. S., Schütz-Bosbach, S., Prinz, W., amp; Liepelt, R. (2014). The joint Simon effect: A review and theoretical integration. Frontiers in Psychology, 5, 974. https://doi.org/10.3389/fpsyg.2014. 00974
Ferraro, L., Iani, C., Mariani, M., Milanese, N., amp; Rubichi, S. (2011). Facilitation and interference components in the joint Simon task. Experimental Brain Research, 211(3?4), 337?343. https://doi.org/10.1007/s00221-011-2711-2
Ford, R., amp; Aberdein, B. (2015). Exploring social influences on the joint Simon task: Empathy and friendship. Frontiers in Psychology, 6, 962. https://doi.org/10.3389/fpsyg.2015.00962
Gallese, V. (2006). Intentional attunement: A neurophysiological perspective on social cognition and its disruption in autism. Brain Research, 1079(1), 15?24. https://doi.org/10. 1016/j.brainres.2006.01.054
Gallese, V., Fadiga, L., Fogassi, L., amp; Rizzolatti, G. (1996). Action recognition in the premotor cortex. Brain, 119(2), 593?609. https://doi.org/10.1093/brain/119.2.593
Gonzalez, D. A., Studenka, B. E., Glazebrook, C. M., amp; Lyons, J. L. (2011). Extending end-state comfort effect: Do we consider the beginning state comfort of another? Acta Psychologica, 136(3), 347?353. https://doi.org/10. 1016/j.actpsy.2010.12.009
Grynszpan, O., Saha?, A., Hamidi, N., Pacherie, E., Berberian, B., Roche, L., amp; Saint-Bauzel, L. (2019). The sense of agency in human-human vs human-robot joint action. Consciousness and Cognition, 75, 102820. https://doi.org/ 10.1016/j.concog.2019.102820
Hamzei, F., Vry, M.-S., Saur, D., Glauche, V., Hoeren, M., Mader, I., ... Rijntjes, M. (2015). The dual-loop model and the human mirror neuron system: An exploratory combined fMRI and DTI study of the inferior frontal gyrus. Cerebral Cortex, 26(5), 2215?2224. https://doi.org/10. 1093/cercor/bhv066
Hartmann, M., Fischer, M. H., amp; Mast, F. W. (2019). Sharing a mental number line across individuals? The role of body position and empathy in joint numerical cognition. Quarterly Journal of Experimental Psychology, 72(7), 1732?1740. https://doi.org/10.1177/1747021818809254
Heard, J., amp; Adams, J. A. (2019). Multi-dimensional human workload assessment for supervisory human?machine teams. Journal of Cognitive Engineering and Decision Making, 13(3), 146?170. https://doi.org/10.1177/1555343 419847906
Hommel, B., Colzato, L. S., amp; van den Wildenberg, W. P. M. (2009). How social are task representations? Psychological Science, 20(7), 794?798. https://doi.org/10.1111/J.1467- 9280.2009.02367.X
Hopcroft, R. L. (2013). Neurosociology and theory of mind (ToM). In D. D. Franks amp; J. H. Turner (Eds.), Handbook of Neurosociology (pp. 231?241), New York: Springer. https://doi.org/10.1007/978-94-007-4473-8_16
Hornb?k, K., Mottelson, A., Knibbe, J., amp; Vogel, D. (2019). What do we mean by \"interaction\"? An analysis of 35 years of chi. ACM Transactions on Computer-Human Interaction (TOCHI), 26(4), 1?30. https://doi.org/10.1145/ 3325285
Iacoboni, M. (2008). Imitation, empathy, and mirror neurons. Annual Review of Psychology, 60(1), 653?670. https:// doi.org/10.1146/annurev.psych.60.110707.163604
Iani, C., Anelli, F., Nicoletti, R., Arcuri, L., amp; Rubichi, S. (2011). The role of group membership on the modulation of joint action. Experimental Brain Research, 211(3?4), 439?445. https://doi.org/10.1007/s00221-011-2651-x
Iani, C., Ciardo, F., Panajoli, S, Lugli, L amp; Rubichi, S. (2019). The role of the co-actor’s response reachability in the joint Simon effect: Remapping of working space by tool use. Psychological Research. 85(2), 521?532. https://doi.org/10.1007/s00426-019-01271-6
Keller, P. E. (2012). Mental imagery in music performance: Underlying mechanisms and potential benefits. Annals of the New York Academy of Sciences, 1252(1), 206?213. https://doi.org/10.1111/j.1749-6632.2011.06439.x
Keller, P. E., Novembre, G., amp; Hove, M. J. (2014). Rhythm in joint action: Psychological and neurophysiological mechanisms for real-time interpersonal coordination. Philosophical Transactions of the Royal Society B: Biological Sciences, 369(1658), 20130394. https://doi.org/ 10.1098/rstb.2013.0394
Kiernan, D., Ray, M., amp; Welsh, T. N. (2012). Inverting the joint Simon effect by intention. Psychonomic Bulletin amp; Review, 19(5), 914?920. https://doi.org/10.3758/s13423- 012-0283-1
Knoblich, G., amp; Sebanz, N. (2006). The social nature of perception and action. Current Directions in Psychological Science, 15(3), 99?104. https://doi.org/10.1111/j.0963- 7214.2006.00415.x
Knoblich, G., amp; Sebanz, N. (2008). Evolving intentions for social interaction: From entrainment to joint action. Philosophical Transactions of the Royal Society B: Biological Sciences, 363(1499), 2021?2031. https://doi.org/ 10.1098/rstb.2008.0006
Konvalinka, I., Bauer, M., Stahlhut, C., Hansen, L. K., Roepstorff, A., amp; Frith, C. D. (2014). Frontal alpha oscillations distinguish leaders from followers: Multivariate decoding of mutually interacting brains. Neuroimage, 94, 79?88. https://doi.org/10.1016/j.neuroimage.2014.03.003
Kourtis, D., Sebanz, N., amp; Knoblich, G. (2013). Predictive representation of other people's actions in joint action planning: An EEG study. Social Neuroscience, 8(1), 31?42. https://doi.org/10.1080/17470919.2012.694823
Li, J., Dong, S., Chiou, E. K., amp; Xu, J. (2020). Reciprocity and its neurological correlates in human-agent cooperation. IEEE Transactions on Human-Machine Systems, 50(5), 384?394. https://doi.org/10.1109/THMS.2020.2992224
Liepelt, R., Klempova, B., Dolk, T., Colzato, L. S., Ragert, P., Nitsche, M. A., amp; Hommel, B. (2015). The medial frontal cortex mediates self-other discrimination in the joint Simon task: A tDCS Study. Journal of Psychophysiology, 30(3), 87?101. https://doi.org/10.1027/0269-8803/a000158
Liu, T., Saito, G., Lin, C., amp; Saito, H. (2017). Inter-brain network underlying turn-based cooperation and competition: A hyperscanning study using near-infrared spectroscopy. Scientific Reports, 7(1), 8684. https://doi.org/10.1038/s41598- 017-09226-w
Loehr, J. D., Kourtis, D., Vesper, C., Sebanz, N., amp; Knoblich, G. (2013). Monitoring individual and joint action outcomes in duet music performance. Journal of Cognitive Neuroscience, 25(7), 1049?1061. https://doi.org/10.1162/ jocn_a_00388
Loehr, J. D., amp; Vesper, C. (2016). The sound of you and me: Novices represent shared goals in joint action. Quarterly Journal of Experimental Psychology, 69(3), 535?547. https://doi.org/10.1080/17470218.2015.1061029
Meagher, B. R., amp; Marsh, K. L. (2014). The costs of cooperation: Action-specific perception in the context of joint action. Journal of Experimental Psychology: Human Perception and Performance, 40(1), 429?444. https:// doi.org/10.1037/a0033850
Michael, J., Sebanz, N., amp; Knoblich, G. (2016). Observing joint action: Coordination creates commitment. Cognition. 157, 106?113. https://doi.org/10.1016/j.cognition.2016.08.024
Milward, S. J., Kita, S., amp; Apperly, I. A. (2014). The development of co-representation effects in a joint task: Do children represent a co-actor? Cognition, 132(3), 269?279. https://doi.org/10.1016/j.cognition.2014.04.008
Novembre, G., Ticini, L. F., Schütz-Bosbach, S., amp; Keller, P. E. (2014). Motor simulation and the coordination of self and other in real-time joint action. Social Cognitive and Affective Neuroscience, 9(8), 1062?1068. https://doi.org/ 10.1093/scan/nst086
Peeters, M. M. M., van Diggelen, J., van den Bosch, K., Bronkhorst, A., Neerincx, M. A., Schraagen, J. M., amp; Raaijmakers, S. (2021). Hybrid collective intelligence in a human-AI society. AI amp; SOCIETY, 36(1), 217?238. https://doi.org/10.1007/s00146-020-01005-y
Pérusseau-Lambert, A., Anastassova, M., Boukallel, M., Chetouani, M., amp; Grynszpan, O. (2019). The social Simon effect in the tactile sensory modality: A negative finding. Cognitive Processing, 20(3), 299?307. https://doi.org/ 10.1007/s10339-019-00911-4
Pesquita, A., Whitwell, R. L., amp; Enns, J. T. (2018). Predictive joint-action model: A hierarchical predictive approach to human cooperation. Psychonomic Bulletin amp; Review, 25(5), 1751?1769. https://doi.org/10.3758/s13423- 017-1393-6
Porcu, E., B?lling, L., Lappe, M., amp; Liepelt, R. (2016). Pointing out mechanisms underlying joint action. Attention, Perception, amp; Psychophysics, 78(4), 972?977. http://doi.org/10.3758/s13414-016-1093-8
Quintard, V., Jouffre, S., Croizet, J.-C., amp; Bouquet, C. A. (2020). The influence of passionate love on self-other discrimination during joint action. Psychological Research, 84(1), 51?61. http://doi.org/10.1007/s00426-018-0981-z
Roberts, J. W., Maiden, J., amp; Lawrence, G. P. (2021). Sequential aiming in pairs: The multiple levels of joint action. Experimental Brain Research, 239(5), 1479?1488. http://doi.org/10.1007/s00221-021-06060-5
Ruys, K. I., amp; Aarts, H. (2010). When competition merges people's behavior: Interdependency activates shared action representations. Journal of Experimental Social Psychology, 46(6), 1130?1133. http://doi.org/10.1016/j. jesp.2010.05.016
Saha?, A., Desantis, A., Grynszpan, O., Pacherie, E., amp; Berberian, B. (2019). Action co-representation and the sense of agency during a joint Simon task: Comparing human and machine co-agents. Consciousness and Cognition, 67, 44?55. http://doi.org/10.1016/j.concog.2018.11.008
Saha?, A., Pacherie, E., Grynszpan, O., amp; Berberian, B. (2017). Predictive mechanisms are not involved the same way during human-human vs. human-machine interactions: A review. Frontiers in Neurorobotics, 11, 52. https:// doi.org/10.3389/fnbot.2017.00052
Schmitz, L., Vesper, C., Sebanz, N., amp; Knoblich, G. (2017). Co-representation of others’ task constraints in joint action. Journal of Experimental Psychology: Human Perception and Performance, 43(8), 1480?1493. http://doi.org/10.1037/ xhp0000403
Sebanz, N., Bekkering, H., amp; Knoblich, G. (2006). Joint action: Bodies and minds moving together. Trends in Cognitive Sciences, 10(2), 70?76. https://doi.org/10.1016/ j.tics.2005.12.009
Sebanz, N., amp; Frith, C. (2004). Beyond simulation? Neural mechanisms for predicting the actions of others. Nature Neuroscience, 7(1), 5?6. https://doi.org/10.1038/nn0104-5
Sebanz, N., amp; Knoblich, G. (2009). Prediction in joint action: What, when, and where. Topics in Cognitive Science, 1(2), 353?367. https://doi.org/10.1111/J.1756-8765.2009.01024.X
Sebanz, N., Knoblich, G., amp; Prinz, W. (2003). Representing others' actions: Just like one's own? Cognition, 88(3), B11?B21. https://doi.org/10.1016/S0010-0277(03)00043-X
Sebanz, N., Knoblich, G., amp; Prinz, W. (2005). How two share a task: Corepresenting stimulus-response mappings. Journal of Experimental Psychology: Human Perception and Performance, 31(6), 1234?1246. https://doi.org/10. 1037/0096-1523.31.6.1234
Sebanz, N., Knoblich, G., Prinz, W., amp; Wascher, E. (2006). Twin peaks: An ERP study of action planning and control in coacting individuals. Journal of Cognitive Neuroscience, 18(5), 859?870. https://doi.org/10.1162/jocn.2006.18.5.859
Sebanz, N., Rebbechi, D., Knoblich, G., Prinz, W., amp; Frith, C. D. (2007). Is it really my turn? An event-related fmri study of task sharing. Social Neuroscience, 2(2), 81?95. https://doi.org/10.1080/17470910701237989
Sellaro, R., Dolk, T., Colzato, L. S., Liepelt, R., amp; Hommel, B. (2015). Referential coding does not rely on location features: Evidence for a nonspatial joint Simon effect. Journal of Experimental Psychology: Human Perception and Performance, 41(1), 186?195. http://doi.org/10.1037/ a0038548
Sinigaglia, C., amp; Butterfill, S. A. (2020). Motor representation and action experience in joint action. In A. Fiebich (Ed.), Minimal cooperation and shared agency (pp. 181?193). Springer, Cham. https://doi.org/10.1007/978-3-030-29783-1_11
Sun, H.-M., amp; Thomas, L. E. (2013). Biased attention near another's hand following joint action. Frontiers in Psychology, 4, 443. https://doi.org/10.3389/fpsyg.2013.00443
Surtees, A., Apperly, I., amp; Samson, D. (2016). I've got your number: Spontaneous perspective-taking in an interactive task. Cognition, 150, 43?52. https://doi.org/10.1016/j. cognition.2016.01.014
Tsai, C.-C., Kuo, W.-J., Hung, D.-L., amp; Tzeng, O. J. L. (2008). Action co-representation is tuned to other humans. Journal of Cognitive Neuroscience, 20(11), 2015?2024. https://doi.org/10.1162/jocn.2008.20144
van der Weiden, A., Aarts, H., Prikken, M., amp; van Haren, N. E. M. (2016). Individual differences in action co-representation: Not personal distress or subclinical psychotic experiences but sex composition modulates joint action performance. Experimental Brain Research, 234(2), 499?510. https://doi. org/10.1007/s00221-015-4475-6
van der Weiden, A., Porcu, E., amp; Liepelt, R. (2022). Action prediction modulates self?other integration in joint action. Psychological Research, 87(2), 537?552. https://doi.org/ 10.1007/s00426-022-01674-y
Vesper, C., Butterfill, S., Knoblich, G., amp; Sebanz, N. (2010). A minimal architecture for joint action. Neural Networks, 23(8?9), 998?1003. https://doi.org/10.1016/j.neunet.2010. 06.002
Vesper, C., van der Wel, R. P. R. D., Knoblich, G., amp; Sebanz, N. (2013). Are you ready to jump? Predictive mechanisms in interpersonal coordination. Journal of Experimental Psychology: Human Perception and Performance, 39(1), 48?61. https://doi.org/10.1037/a0028066
Wenke, D., Atmaca, S., Holl?nder, A., Liepelt, R., Baess, P., amp; Prinz, W. (2011). What is shared in joint action? Issues of co-representation, response conflict, and agent identification. Review of Philosophy amp; Psychology, 2(2), 147?172. https://doi.org/10.1007/s13164-011-0057-0
Wilson, M., amp; Knoblich, G. (2005). The case for motor involvement in perceiving conspecifics. Psychological Bulletin, 131(3), 460?473. https://doi.org/10.1037/0033- 2909.131.3.460
Wolf, W., Launay, J., amp; Dunbar, R. I. M. (2016). Joint attention, shared goals, and social bonding. British Journal of Psychology, 107(2), 322?337. https://doi.org/ 10.1111/bjop.12144
Wolpert, D. M., Doya, K., amp; Kawato, M. (2003). A unifying computational framework for motor control and social interaction. Philosophical Transactions of the Royal Society B: Biological Sciences, 358(1431), 593?602. https://doi.org/10.1098/rstb.2002.1238
Wynne, K. T., amp; Lyons, J. B. (2018). An integrative model of autonomous agent teammate-likeness. Theoretical Issues in Ergonomics Science, 19(3), 353?374. https://doi.org/ 10.1080/1463922X.2016.1260181
Yang, Q., Song, X., Dong, M., Li, J., amp; Proctor, R. W. (2021). The Underlying neural mechanisms of interpersonal situations on collaborative ability: A hyperscanning study using functional near-infrared spectroscopy. Social Neuroscience, 16(5), 549?563. https://doi.org/10.1080/ 17470919.2021.1965017
Abstract: Joint action is a common form of interpersonal interaction in our daily life. Successful joint action depends on effective collaboration between individuals, and the co-representation ability is the basis of such interpersonal collaboration. However, how humans represent behaviors of self and others and act during joint action, is still vague. From the perspective of cognitive representation, research concerning the representation process and mechanism of joint action and related theories were systematically reviewed, and based on this, a multidimensional representation model of joint action was proposed. The model explored the process and content of collaboration between individuals in joint actions from three dimensions: spatial dimension, embodied dimension and social dimension. The implication of this model for intelligent human-computer interaction was also discussed.
Keywords: joint action, co-representation, multi-representative model, interpersonal collaboration, human- computer interaction