機器人能具備同理心嗎？

馮雁

我們已經(jīng)看到了各種各樣消費級別的機器人，有無人機能夠自動飛行幫你拍照片、自動機器人吸塵器，機器人甚至能夠向你眨眼和與你交談。日本軟銀公司將要推出的一款機器人還能夠講笑話，并用四國語言與人對話。截至目前，人們早就習(xí)慣與智能手機講話;而CES透露的信息顯示，市場終于為智能機器人的登場做好了準備。

然而，有兩位著名的思想者對此發(fā)出了警告。Stephen Hawking警告稱，“真正的人工智能如果問世，人類將走向終結(jié)”，而人工智能投資人Elon Musk 則聲稱，“人工智能將對人類的生存構(gòu)成最為嚴峻的威脅?！?/p>

而法國諷刺雜志《查理周刊》的12名記者在巴黎辦公室慘遭殺害，一個猶太學(xué)校和一個猶太教堂遭受攻擊，這些都引發(fā)了社會各界對宗教極端主義、言論自由和社會包容的廣泛討論。同理心（empathy）對于維護不同文化和不同宗教的關(guān)系至關(guān)重要，同樣也是處理未來人機關(guān)系的關(guān)鍵。同理心讓一個人能夠站在他人的立場來感受和理解問題。我們希望將來的智能機器人能夠自覺地以人類的立場來理解人類。

智能機器人的崛起

最早的人工智能機器可以追溯到二戰(zhàn)以后，其中包括W. Grey Walter發(fā)明的機械龜和John Hopkins發(fā)明的機械獸。這兩款機器都能夠在實驗室里跑來跑去，自行尋找充電插座。它們是最早的機器人，但它們的技術(shù)基礎(chǔ)是模擬電路，而不是數(shù)字化計算機。1950年，阿蘭·圖靈（Alan Turing）發(fā)表了一篇論文，提出了“圖靈測試”理論。如果一臺機器能夠騙過人類，讓人類覺得他們是在和一個人交談，那么這臺機器就具備了真正意義上的“思維”。

自此，我們慢慢習(xí)慣了各種機器輔助設(shè)備，包括計算器、洗衣機、電飯煲、生產(chǎn)線上的機器人以及飛機自動駕駛系統(tǒng)等。這些機器給我們帶來很多方便，但難免偶爾會給使用者帶來傷害：軟件故障、安全漏洞、操作和決策失誤等都會造成工業(yè)事故。但是，有朝一日，機器有沒有可能會有思維地故意傷害人類呢？不會，但我們必須設(shè)計得當。

我們是如何建造一臺具備人工智能的設(shè)備呢？從根本上來說，智能機器就是一套軟件系統(tǒng)，由兩大模塊構(gòu)成：一個模塊負責人與機器之間的自然語言對話;另一個幫助機器識別視頻攝像頭捕捉到的內(nèi)容。然而，也可以根據(jù)使用者的意愿，設(shè)置更多的模塊，幫助機器進行決策，或者負責機器的反應(yīng)，包括言語、動作或面部表情。每一個軟件程序都采用機器學(xué)習(xí)算法，以模仿人類的語音識別、自然對話、視力、動作和反應(yīng)等能力。

在很大程度上，每一個模塊都是一個超人類的“學(xué)者癥候群患者”，它們能夠接受訓(xùn)練后同時翻譯幾百種語言，或者與你進行不間斷的對話，或者能夠組裝數(shù)百輛汽車的部件。1997年，IBM超級計算機“深藍”擊敗了世界象棋冠軍。2011年，IBM超級計算機“華生”贏得美國“智力大冒險”電視智力競賽。智能機器似乎將在許多領(lǐng)域超越人類。但是，就像汽車跑得比人快、飛機能翱翔高空或互聯(lián)網(wǎng)搜索引擎能鎖定信息位置一樣，智能機器目前仍然只局限于某些特定的任務(wù)。

不僅僅是“一臂之力”

我們逐漸希望智能機器成為人類的伙伴，而不僅僅是助手。讓我們來設(shè)想這樣的未來情景：機器人仆人幫我們料理家常雜務(wù)，并能預(yù)知我們的家務(wù)需求;機器人護士能夠照料老人和病人;機器人老師能夠輔導(dǎo)我們孩子學(xué)習(xí);機器人調(diào)酒師能夠為我們提供飲料，并且還能友好地與我們交談;甚至富有同情心的機器人心理分析學(xué)家還能幫助職業(yè)人士緩解壓力等等。

要做到這些，我們需要將一個“同理心模塊”置入機器，對其進行編程，使其能夠辨識出你的言語，理解你的問題，并從你的聲音中感受到你的壓力，然后問你：“你今天是否過得很糟糕？泡個熱水澡或者來點舒緩的音樂怎么樣？”我們也可以對機器進行編程，讓它能夠謄寫文件和會議記錄，感知會議室的緊張氣氛，然后給大家講個笑話。家庭機器人也可以唱一首搖籃曲或講個故事，哄著孩子入睡。

我們在實驗室正在研究那種既能聽懂人話、又能辨識情緒的機器人。這種機器人和測謊儀比較類似，但是配備了更加高級的機器學(xué)習(xí)算法，它的軟件可以從你的語音語調(diào)、面部表情和肢體語言中辨別出你的情緒狀態(tài)。能夠從知覺信號中捕捉情緒的系統(tǒng)尚處于處級階段，但是研究表明，這種系統(tǒng)已經(jīng)能夠像人一樣識別謊言、壓力甚至是挑逗行為。在某些情況下，機器人的表現(xiàn)甚至能夠超過一般人。將來有一天，機器人從對話交談來了解人們的需要，要比向大腦進行微創(chuàng)掃描更能讓人接受吧。

與此同時，文本情感分析研究已經(jīng)用于商業(yè)領(lǐng)域，可以推薦書籍、電影和商品。當你喜歡或不喜歡網(wǎng)上的某樣?xùn)|西，它就可以建立一個明確的表情，以便機器向你推送內(nèi)容和產(chǎn)品。

機器人會與我們作對嗎？

終有一天，機器將能像識別語言一樣，有效識別人的情緒。它會利用這個力量來幫助我們還是與我們作對，完全取決于科學(xué)家們?nèi)绾卧O(shè)置它的程序。我們正在開發(fā)各種智能系統(tǒng)，讓它們提供信息并幫助人類進行更科學(xué)的決策。比如在醫(yī)學(xué)領(lǐng)域，一個智能系統(tǒng)能夠根據(jù)患者的癥狀和其他類似的病例，匯總患者病歷中的所有信息，并建立一個詳細的患者檔案，幫助醫(yī)生進行診斷。當然，它也可以提醒醫(yī)生患者當前的疼痛程度。

我們回到機器失靈可能導(dǎo)致工業(yè)事故的問題：和其他機械、電子設(shè)備一樣，智能機器也需要內(nèi)置一些安全檢查和控制程序。我們需要對機器進行程序設(shè)置，以避免一些意外的傷害。

如果我們能確保機器富有同情心并能實現(xiàn)情感上的智能，確保它們掌控在科學(xué)家和工程師的手里，且這些科學(xué)家和工程師唯一的目的就是為了幫助人類，那么這些機器就很有可能改善我們的生活，并提高人類的工作效率。它們就能夠理解你，設(shè)身處地為你著想;它們就能為它們的錯誤道歉，并在獲得你的同意后進行下一步操作;它們甚至還能犧牲自己來挽救你的性命——這是同理心的最高境界。

（本文由世界經(jīng)濟論壇授權(quán)發(fā)布）