人機互動中的移情問題探析

李妍槿

（武漢理工大學馬克思主義學院，湖北 武漢 430060）

1 社交機器人的移情現(xiàn)象

在人工智能技術持續(xù)發(fā)展的過程中，社會上出現(xiàn)了能夠和人交流的社交機器人。社交機器人是在確保自身身份、遵守倫理規(guī)范的條件下，與人類或其他自主實體進行交互和交流的機器人。人同社交機器人交流的過程是社交機器人利用人工智能情感技術，對使用者進行情感識別，通過相應的情感計算，再對使用者進行情感輸出的過程。因此，移情也不可避免地出現(xiàn)在人與社交機器人的交往互動過程中。顧名思義，移情有傳達情感的作用，能夠將人的主觀情感、意志、動作等一系列的行為活動物化，是在主客體之間互為主體的情況下產生的情感投射，是人的物化和物的人化，是一個從客觀物理性經過感覺知覺達到精神性的深化過程。學者們通常認為移情在對設計社交機器人的反應形成中也起著重要作用。一些研究人員甚至指出，它是實現(xiàn)和維持人與人之間以及人與社交機器人之間社會關系的關鍵因素之一。然而，在人與社交機器人交往互動的過程中，“移情”一詞的社會基礎使得我們很難將它應用于社交機器人的研究，我們會考慮對這些無生命機器使用社會術語和解釋在理論上是否合理。移情在理論上通常被認為是一個與社會認知和社會情感二者相關的過程，但是這個理論在人機交互方面是存在一定問題的，因為社會關系傳統(tǒng)上被理解為兩個有意識的、理性的實體之間的相互作用。然而社交機器人不符合有意識的和理性的主觀性標準，因此不能參與以這種方式理解的社會關系。

盡管如此，仍然有一些理論的存在可以為我們談論社交機器人作為社會關系的參與者提供合理性。社交機器人技術的發(fā)展越來越注重將其置于一種互動循環(huán)中，即賦予它社會性特征，使其在互動中讓人們發(fā)生情感，表達情感，完成相關情感反應的社會情境。移情應該以主體間的、過程性的、社會性的方式來理解。多米奧諾（Luisa Damiano）表示情感是參與特定社會情境的許多參與者共享和共同創(chuàng)造的現(xiàn)象[1]。這一觀點打破了社交機器人僅僅模仿情感的觀點，也打破了社交機器人的反應欺騙人類的觀點，從而表明社交機器人真正在體驗情感，人機互動中產生的情感表達是真實的。一方面，人的聲音的音量和音調會因人的情緒不同而發(fā)生變化，所以聲音是智能機器人可識別人情感狀態(tài)的因素之一，它們不僅能夠識別口頭信息，還能分析人類聲音的音調，并調整自身反應的內容和風格。不僅如此，它們還可以識別情感，如閱讀人的面部表情，識別人的手勢或說話用語，然后以適當?shù)姆绞綄θ祟愃尸F(xiàn)的情感狀態(tài)做出反應，如在被毆打時蜷縮起來。這種現(xiàn)象說明由于社交機器人先進的計算過程，它們已經在日益復雜的社交環(huán)境中具備了捕捉和學習人類語言和行為的能力，并且能夠有效推斷出自己應該以何種方式表達情感和用什么行為來進行應對。這就是我們上面所提到的移情現(xiàn)象，這樣看來移情似乎是不可避免的。因此，使“移情”一詞出現(xiàn)在人機互動中就具有合理性了。另一方面，社交機器人的設計不僅模擬了人體形狀，而且還模擬了人的行為。隨著技術的不斷發(fā)展，社交機器人也在不斷地向人類發(fā)展和學習。因為人類是它們最接近的社會環(huán)境，它們對社會行為的了解在很大程度上來自于對人際互動的觀察，所以只要它們不發(fā)展自己的文化和行為，它們的反應將在很大程度上反映真實發(fā)生在人與人之間的事情。雖然人機互動中的移情現(xiàn)象很難被大眾理解，但社交機器人在某些情況下的反應行為，不僅能夠引起人們的情感共鳴，而且還能維持人機關系。綜上來看，盡管人機互動在未來仍有許多疑問和爭議沒有得到解決，但移情現(xiàn)象的出現(xiàn)是有合理性的。

隨著人機互動日益頻繁，移情也在人機互動中表現(xiàn)出自身的特點。一是移情現(xiàn)象具有真實性。來自麻省理工學院（MIT）的達菲（Brian R. Duffy）認為，“機器人與人進行有意義的社交互動，無論是在形式上還是在行為上，都要求機器人具有某種程度上的擬人化或類人化?！盵2]移情一般被看作是在人與人之間進行的情感互動，但社交機器人的誕生卻使移情增加了新的情感互動對象。社交機器人可以與人產生情感共鳴，并在一定程度上也可以實現(xiàn)它們的情感需求，增強了人對社交機器人的依賴性、認同感，讓人更加明確了人機交互中思維與情感的真實性問題[3]。所以頻繁的人機互動就極有可能會導致人將社交機器人視作和人類同等的生命體。二是移情現(xiàn)象具有單向性。人們的情感溝通是雙向的，一方可以將情感信息傳遞給另一方，這種傳遞方式也表現(xiàn)為“雙向性”?；谶@一點，進行溝通的兩個人可以提供同等的回饋，以此來維持彼此關系的持久性。從移情現(xiàn)象具有的真實性來說，社交機器人可以模仿人類的情緒，這可以看作是它對與人交往互動過程中的“積極”回應，表明它和人類“似乎”有這樣的雙向情感傳遞，但事實并非如此。根據(jù)朔伊茨（Matthias Scheutz）的講述，“有充分的證據(jù)表明，人們很容易受到社交機器人的影響，尤其是他們與機器人進行反復長期的互動時。”[6]他引用了一個Roomba掃地機器人的例子來說明，“Roomba會打掃房子，隨著時間的推移，人類會非常感激Roomba?！盵4]在這里，朔伊茨引用案例表明，與社交機器人的長期接觸，人類自身受到的影響指數(shù)更高，因此人們對機器人的協(xié)助“心生感激”并促使人們與其建立“伙伴關系”。弗勞恩（Marlena R.Fraune）等人也同意，對于社交機器人與人類在互動交往中展現(xiàn)出來的語言和行為，人們通常會有“積極的”情感，而在機器人顯示出與互動者相似的特征時，人們會做出更積極的回應，并給予一定的認同[5]。這一切都說明了人類把情感“反饋”到了機器上，不管是直接的還是間接的，即人類是具有同理心的。人體接收和反饋情感信息必然是統(tǒng)一的。顯而易見，社交機器人沒有能力給人們同樣的情感反饋。人的情感反饋遠遠大于社交機器人，情感反饋的強度也大不相同。從這個意義上來說，人機交互中的移情可以被認為是一種“單向性”的情感。

2 移情引發(fā)的社會倫理問題

可是，一旦人機互動中也出現(xiàn)類似于人與人之間的移情現(xiàn)象，就會帶來一系列有關社會和倫理的問題。首先，人在與社交機器人發(fā)生頻繁的移情關系時，會誤以為機器人也成為了如同人一般的情感交互對象。我們必須認識到，機器人和人類一樣被認為是有意識的生物，這與我們對這個世界的認識是不相適應的，而忽視了這個問題，就會造成對社會缺乏質疑、缺乏批判，乃至“錯誤認知”。所以，當人們失去警惕的時候，他們就會被社交機器人所創(chuàng)造的“錯誤認知”所困住。此外，社交機器人還能利用語言、行為等情感交流，讓人放松戒備，從而使人對社交機器人有了感情上的認同感。在這種情況下，社交機器人具有“欺騙性”。

其次，社交機器人的欺騙性帶來的負面影響也很明顯。斯派洛（Robert Sparrow）認為，“假如一個人想從擁有機器寵物中獲得豐厚的利潤，他必須系統(tǒng)地欺騙自己不了解他與動物之間關系的真實本質。這需要在道德上具有一種可悲的感覺。沉迷于這種感覺違反了我們必須確保自己認識世界的（微弱的）責任。從這個層面看這些機器人的設計和制造是不道德的，因為它預先假定并鼓勵實現(xiàn)了這種欺騙?！盵6]從他的表達中我們可以看到的負面影響有：首先，它讓人們沉浸在情感之中；其次，它降低了人認識世界的責任感。就第一點而言，沉溺在情感中并不是一個貶義的說法，而是欺騙人的情感，將其引向“錯誤”的對象，還放任人的情感沉迷其中，這才是一種不道德的行為。另外，人們被社交機器人引發(fā)的情感所蒙蔽，沉迷于夢幻般的世界，無法準確地理解和認識世界，從而削弱了理解和認識世界的責任感，這種可能性是存在的。社交機器人本身可能沒有“意圖”，但是它卻導致了人的真情實感和社交機器人虛擬情感之間的不平衡，使人失去自身的人生價值。

最后，傳統(tǒng)意義上的移情通常發(fā)生在社會互動過程當中，要求移情的主體和對象都具有意識、情感等心理能力，這暗示情感交互雙方的能力相當?shù)那闆r下才能發(fā)生。顯然，無論是社交能力強還是社交能力弱的機器人，與人進行互動都是一個情感能力極度不對等的社會互動過程，導致人類和社交機器人的真實情緒交流沒有“對等性”。從這一點上來說，人與機互動中的移情具有單向性的特征，人很難抵達機器人內心深處，這在一定程度上可能會使人產生對自己的不認同，從而對身體和精神發(fā)展造成不利的影響。隨著社交機器人技術的發(fā)展，我們整個社會和整個文化都在發(fā)生變化，因此，我們必須考慮它們在這個現(xiàn)實社會中的作用，考慮它們將如何扮演這個角色，以及它們的存在如何影響，重新塑造不同社會主體間的情感和行為及相互依賴的世界。此外，社交機器人的應用還引發(fā)了其他的倫理問題：例如，我們應該同情社交機器人嗎？如果答案是“是的”，那么我們是應該同情所有的機器人，還是僅僅同情其中的某些特殊類型？我們應該允許對社交機器人采取什么樣的行為？我們不僅要免受被社交機器人操縱的可能，例如，生產商利用社交機器人的能力喚起人的同理心達到誘導購物的目的，還需要保護社交機器人免受虐待，因此，法律不應只考慮限制社交機器人的行為，也應該考慮為社交機器人提供法律保護。

3 移情問題的反思與應對策略

科學技術是一柄雙刃劍?？茖W技術是否能起到正面的或負面的影響主要依賴于科技工作者。在人工智能時代，科技工作者要自覺地履行自己的社會義務。歸根結底，任何科技發(fā)展的最終目標都必須把公眾利益放在首位。科技工作者要具有強烈的時代感，具有高尚的科學精神，具有對社會的強烈責任感。在開發(fā)一項特殊技術時，科技工作者往往優(yōu)先考慮如何才能發(fā)揮科學技術的最大效益，但很容易忽視人類的倫理關切，因此，科技工作者必須理性地看待與處理人與信息、人與機器、人與科技、價值理性與工具理性、技術可能性與倫理理性之間的關系，將科學與人文相結合。

人工智能時代已然臨近，它的到來對倫理道德的要求越來越高，因此，構建一個基于社交機器人的倫理評價系統(tǒng)勢在必行。在社交機器人迅速發(fā)展的今天，人們必須制定一種新的道德準則，引導社交機器人的行為，并在它的身體里植入相應的道德準則，讓它遵循道德和自治的約束。社交機器人的道德規(guī)范是由這種制度來指導的。我們可以創(chuàng)造和運用這些體系來解決這些道德問題，并幫助我們設計和管理機器人的行為，與之交流和協(xié)作，在現(xiàn)實的環(huán)境中，對機器人的行為進行道德上的控制。在此基礎上，人們應當對社交機器人的倫理和道德制度進行全面的研究，一并建設其相應需要的輔助措施。政府應該在最短的時間內，建立一個由科學技術、工業(yè)、哲學等方面的專家組成的人工智能倫理委員會，以其為決策單位，制定相關的法規(guī)和政策，從根本上指導人工智能技術的健康發(fā)展。

最后，針對社交機器人的出現(xiàn)和應用可能產生的社會倫理問題，人們也需要發(fā)揮立法在社交機器人發(fā)展中的建設性功能，對其行為進行法律規(guī)制，以便為社交機器人提供法律上的支持。大眾是推動科技進步的一支重要力量，他們對于人工智能的認識與態(tài)度都與其傳播息息相關，社交機器人的構造原理復雜難以理解，再加上人們對其認識不夠透徹，往往會產生一種敬畏甚至恐懼的心理。對此，科技工作者要充分運用互聯(lián)網(wǎng)、大數(shù)據(jù)分析技術，以及微博、微信等新興的宣傳工具，向公眾科普人工智能的基本知識，并介紹社交機器人的真實面貌、應用方向以及對人類可能產生的影響，讓人們對社交機器人有一個理性、全面的了解；利用科普演講、科技展覽等多種形式，讓廣大市民有機會接觸到社交機器人，引導民眾樹立正確的“社交機器人”理念，為未來的發(fā)展創(chuàng)造有利的社會環(huán)境?！?/p>