人工智能“復活”技術(shù)應用邊界反思

彭蘭

【關(guān)鍵詞】人工智能“復活” 情感慰藉 應用邊界 【中圖分類號】B82-057；TP18 【文獻標識碼】A

近年來，人工智能（AI）技術(shù)飛速發(fā)展，將一個以往屬于科幻的概念逐漸變成現(xiàn)實，那就是通過AI技術(shù)讓逝者“復活”。當下AI“復活”數(shù)字人主要在外貌、聲音等外在方面，隨著技術(shù)不斷進步，今后AI“復活”數(shù)字人可能擁有類似真人的身體與性格。這無疑會帶來不少倫理風險和社會問題，諸如對人的本質(zhì)、人機邊界的拷問。要應對這些風險和問題，應厘清三個方面的基本問題。

問題一：人工智能“復活”數(shù)字人帶來情感慰藉的同時，還帶來哪些風險

對普通人來說，他們最想“復活”的一般是已經(jīng)逝去的親朋，“復活”也是從外形開始的。但是，當外貌栩栩如生的數(shù)字人開始出現(xiàn)在生活中時，人們也許會產(chǎn)生更多需求：希望和這些數(shù)字人產(chǎn)生真正的互動，甚至從“他們”那里獲得情感上的交流。那么，是否應該讓“復活”數(shù)字人擁有情感，在技術(shù)上能否賦予“他們”情感呢？

AI“復活”的數(shù)字人本質(zhì)上具有機器屬性?！皬突睢钡臄?shù)字人是通過向智能模型投喂被“復活”者的各種數(shù)據(jù)，進行反復訓練學習的結(jié)果。對于是否要賦予機器情感，研究者有分歧，一種典型的反對聲音是，情感是獨屬于人類的領(lǐng)地，如果被智能機器侵入，會對人的主體性造成威脅、弱化人的尊嚴。①但從用戶的角度看，當智能機器不可避免地浸透到日常生活中時，人們不會希望它們只是以冷冰冰的機器面孔出現(xiàn)，而是希望從機器那感受到一定的人的情感，甚至在一定意義上將它們看作朋友。對于 AI“復活”技術(shù)的應用來說，情感交流更是最主要的目的。

AI“復活”的數(shù)字人可能產(chǎn)生情感嗎？實踐中，與情感相關(guān)的智能技術(shù)一直在推進，這樣的技術(shù)被稱為情感計算。美國學者羅莎琳德·皮卡德在《情感計算》一書中對情感計算的定義為“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或意圖影響情緒和其他情感現(xiàn)象的計算”。皮卡德認為，一個健康人的情感系統(tǒng)具備五項成分：出現(xiàn)情感和情感行為；快速的主要情感；由認知產(chǎn)生情感；情感體驗；精神與肉體的相互作用。她啟發(fā)我們，情緒、情感來自于精神與肉體的相互作用，它的源頭是人們的身體體驗、生活經(jīng)歷，但機器并不完全具備皮卡德所說的五個要素，其中的后三個要素甚至可能是機器難以完全達到的。“情感計算的預設(shè)不具有身體性和內(nèi)在性，僅僅依賴情感的內(nèi)部狀態(tài)的設(shè)計，無法實現(xiàn)情感的因果溯源分析?！雹谶@樣的情感也就是無源之水。即使在前兩個要素方面，“計算”的情感也有一定的機械性與跳躍性，它們只能對人類情感的一些典型狀態(tài)進行模仿，情緒的形成與切換也缺少內(nèi)在動因。

雖然人工智能沒有人類情感的整體性，但有學者認為，人工智能的情感反應只需要輸出端像是人類情感反應就足夠了，至于用什么方式來達到這一點，并不重要。③從用戶角度看，盡管“復活”的數(shù)字人情感表達會一直存在局限性、機械性，但只要獲得足夠的情感反饋，他們也許不在意機器情感是不是“計算”出來的，或者如何“計算”出來的，畢竟在與數(shù)字人的交流中可以獲得一定情感滿足。然而，與數(shù)字“復活”人交流不僅帶來情感滿足，還可能存在陷阱。

一是未得到期待的回應可能帶來的情感傷害和打擊。在與AI“復活”數(shù)字人的交流中，人們或多或少會將對逝者的感情移情到“復活”數(shù)字人身上，而“復活”數(shù)字人卻未必能承受這種情感之重，“他們”對情感的理解與表達也不一定是準確的。因此，在情感上對“復活”數(shù)字人寄予過多期待，人們難免會失望。如果將“復活”數(shù)字人當作真正的親朋看待，甚至可能會在某些時候受到打擊與傷害。

二是應用AI“復活”技術(shù)可能帶來隱私泄露的風險。情感交流的重要基礎(chǔ)是經(jīng)歷的共享，相比諸如ChatGPT等抽象的智能大模型，AI“復活”的數(shù)字人有以往的經(jīng)歷作為支撐，這些經(jīng)歷更容易在交流中引發(fā)情感共享、共鳴，這也是其優(yōu)勢。一方面，在進行數(shù)字“復活”時，不僅需要被“復活”者的外貌等外在數(shù)據(jù)，更需要其生命歷程中的重要事件等數(shù)據(jù)，這會帶來更多隱私泄露風險。人們是否可以為了自己的需要而犧牲逝者的隱私？這是一個倫理上的拷問。另一方面，人們與數(shù)字“復活”者的共同經(jīng)歷都是過去的，如果一直沉浸于回憶中，就容易被困在過去。

情感交流是雙向的。情感交流需要“復活”數(shù)字人具有一定的情感表達能力，也需要“他們”能識別與之交流的人的情感、情緒，這既可以通過對交流中的文本進行分析，也可以借助攝像頭、傳感器等設(shè)備，對捕捉到的人的情緒變化符號或數(shù)據(jù)進行分析，如面部表情、身體動作、心率、血壓、汗的分泌狀況等，而這種分析會進入隱私層面。同時，與“復活”數(shù)字人交流的人也需要分享一些個人的經(jīng)歷與信息。人們看似與“親朋好友”在溫情地交流，其實面臨隱私泄露的風險。

三是AI“復活”的數(shù)字人較難保留原來的個性。科幻系列劇《黑鏡》的第一集《馬上回來》講述了這樣的故事：女主角的男友因車禍去世，因為懷念，她逐步“復活”了男友，從文字交流到語音交流，最終讓“他”擁有了完整的身體，這個“男友”比真人更完美，還可以完全服從女主角，但女主角最終放棄了“他”的陪伴，因為這個“復活人”沒有還原男友并不完美但活生生的個性，她因此意識到這并不是一個真正的人。

從技術(shù)上來看，就像情感一樣，性格未必不能被量化與模擬，今天的MBTI等人格測試就可以將每個人的性格量化，但這樣的測試只是強化了人的性格的某些主要方面。人性的復雜性決定了人們性格的多面性，人的性格也不會完全固定。即使未來智能技術(shù)對性格的分析和模擬可以不斷細化、深化，恐怕也難以復制一個人的“活”個性。

當然，還有一種可能是，有人希望通過數(shù)字化方式“改造”已故親人的性格，讓“他們”變得“更好”，但人們有權(quán)力進行這種改造嗎？被改造后的數(shù)字人還是原來的那個人嗎？未來的人們可能會不時面對這樣的質(zhì)疑。

四是“復活”數(shù)字人即使擁有了“身體”，也可能不具備認知功能。之所以要為機器制造身體，主要還是源于人類的需要。當一個智能機器擁有了身體，且擁有了像人一樣的身體語言時，與之交流的人的視覺、觸覺等會隨之得到調(diào)動，并通過對機器的觸碰、撫摸、擁抱等獲得更多情感滿足，機器也會對人的行動作出回應，這些都會讓人與機器的交流更接近人際交流。

如果人的數(shù)字化“復活”可以達到這樣一種程度，那與之相關(guān)更深層的問題是，這些數(shù)字人是否應該享有一定的權(quán)利？如果能享受權(quán)利，那么這些數(shù)字人是否需要承擔一定的倫理、道德或法律責任？如果要承擔責任，是由“他們”獨立地承擔，抑或是制造“他們”或與“他們”生活、交流的人同時承擔？這些問題涉及到人工智能時代機器的倫理角色與法律地位問題，對此社會各界莫衷一是，還沒有達成共識。

無論未來AI“復活”數(shù)字人會如何發(fā)展，從生者角度看，當人們剛剛接觸“復活”親人時，心理會得到一定安慰，但是，隨著交流日益頻繁深入，如果生者沉浸在交流幻象中，不回到現(xiàn)實世界，就不容易從傷痛中走出。面對AI“復活”技術(shù)，應設(shè)置一定的邊界，避免被隱私黑洞和情感幻象吞沒。

問題二：如何避免人工智能“復活”數(shù)字人淪為侵權(quán)、詐騙的工具

情感撫慰也許是人們在應用AI“復活”技術(shù)時的基本需要和初衷，而一旦技術(shù)日益成熟，人的需求也會不斷擴張，“復活”的數(shù)字人有可能淪為工具。

AI“復活”名人發(fā)出的言論，在傳播中可能存在誤導大眾的問題。今天，一些已故名人雖然可能基于懷念的動機而被AI“復活”，但卻無法排除一些“復活”名人被用作活人表達的工具，甚至被迫為懷著種種功利動因的人“站臺”。一些“復活”名人說出來的話，其中所蘊含的信息、觀點、態(tài)度、立場等是否會違背真人的意愿難以考證，然而，這些話語在廣泛流傳過程中如果帶來混淆視聽的結(jié)果，這無疑會損害名人的名譽，其家人可能因此受到困擾甚至傷害。

即使沒有產(chǎn)生名譽等方面的侵害，誰有權(quán)力來決定這些名人的數(shù)字存在方式與言行？是他們的家人，還是制作者，或是粉絲等？抑或是名人自己生前的意愿？當不同方面的愿望產(chǎn)生沖突時，以誰的意志為主？這些都會是未來實踐中亟須解決的難題。

AI“復活”技術(shù)應避免淪為詐騙、侵權(quán)、深度偽造的工具。比如普通人被“復活”后，較之名人，查證更不容易，“他們”被利用作為詐騙或其他不端行為的工具時，后果也更嚴重。在AI“復活”過程中，也可能存在著復原的不完整性問題，在“復活”過程中還可能有移花接木等種種技術(shù)操控，最終“復活”可能演變成深度偽造。如何判斷什么樣的數(shù)字“復活”是合法的，還有待未來的法律做出明確的界定。

一些人會將AI“復活”名人視作一種創(chuàng)作方式，就像在電影、電視中進行創(chuàng)作一樣。影視作品中對于名人也會有很多虛構(gòu)性創(chuàng)作，對此，人們早已普遍接受。用數(shù)字“復活”的方式進行創(chuàng)作，或許在未來也會得到普遍的認可。這樣的創(chuàng)作與偽造之間的邊界如何劃分？是沿用當今藝術(shù)創(chuàng)作的評判標準，還是有所發(fā)展與修正？盡早回應這些問題，才可能使相關(guān)應用得到規(guī)范。

未來對“復活”數(shù)字人的不當工具性應用可能還有更多表現(xiàn)形式，法律上也需要進一步明晰合理應用的邊界。無論是對名人還是普通人，情感性“復活”與工具性“復活”之間的界限也很難劃清。當人們以為只是滿足情感需求時，或許在另一種意義上把“復活”數(shù)字人當成了一種工具，即人們自我安慰、自我療愈的工具，在人們與“復活”數(shù)字人交流過程中，也難免以自我意志為導向。這樣的應用是否道德，也需要進一步反思。

問題三：人工智能技術(shù)能否讓人類從數(shù)字“復活”發(fā)展到數(shù)字化“永生”

AI“復活”技術(shù)的日趨成熟也激發(fā)出人們的一種想象，那就是主動尋求在身體消亡后用數(shù)字化方式實現(xiàn)自己意識的延續(xù)，從而獲得數(shù)字化永生。探討數(shù)字化永生這一話題，需要對人的本質(zhì)進行探尋，特別是需要回答人的意識與身體是否可能分離這一問題。

對人的身體與意識相分離的可能景象，早有學者作出過設(shè)想。在今天，腦機接口的實驗也在推進，雖然當前主要是應用在醫(yī)學領(lǐng)域，相信未來一旦相關(guān)技術(shù)成熟，人們思維活動的某些狀態(tài)可能通過一定方式被計算機感知、接收，甚至在外部存儲。但是，這是否會意味著人類的意識可以與身體分離？

法國哲學家笛卡爾認為，意識與身體是兩分、對立的，但后來很多哲學家對此持反對意見?，F(xiàn)象學的代表人物，法國哲學家梅洛—龐蒂直接分析了身體對意識生成的影響。他將身體分為客觀的身體和現(xiàn)象的身體兩類，前者是一個能像物質(zhì)一樣進行分解的生理實體，后者則是某個“我”所經(jīng)驗和經(jīng)歷的、承載著“我”的、介入自然和社會的有機體。④現(xiàn)象身體可以理解為肉身化的意識或是意識參與下的身體，它所知覺的空間是現(xiàn)象空間，由此產(chǎn)生了中心性、方位感、視角性、層次、深度、運動性等概念。⑤身體并不是由所謂心靈實體或靈魂所指使的機器，而直接就是進行知覺和理解活動的主體。⑥身體在意識形成中的作用，意味著人的意識不可能脫離身體存在，而且這種身體并非只是生理性的身體，還包括承載著人的經(jīng)驗、經(jīng)歷等的現(xiàn)象身體，即使未來的技術(shù)可以造出生理性的身體，也無法還原現(xiàn)象的身體。美國學者凱瑟琳·海勒認為，“通過對文化意義共鳴的隱喻進行闡釋，身體本身也是一種凝結(jié)的隱喻，一種物理結(jié)構(gòu)，它的局限和可能性是通過進化的歷史形成的，而這種進化史是智能機器無法共享的。”⑦她的觀點也呼應了“現(xiàn)象的身體”。

在認知科學的研究中，學者們越來越多強調(diào)具身性，即認為認知不僅牽涉到中樞神經(jīng)系統(tǒng)，還牽涉到整個身體運作。⑧身體的體驗會滋生豐富的情緒與情感，這也是人和機器的區(qū)別。沒有了身體，人的情緒、情感也就失去了源泉。即使未來的數(shù)字人可擁有人造身體，但正如前文所說，這樣的“身體”與認知、情感活動可能仍是分離的，裝在這樣的身體里的“意識”與存在硬盤里的“意識”沒有區(qū)別，都只是一些代碼或數(shù)據(jù)，而非真正的意識。

在一定意義上，數(shù)字化永生的話題也與NBIC技術(shù)等對人類機能甚至壽命的“增強”問題相關(guān)。NBIC技術(shù)是四大技術(shù)的簡稱，即納米技術(shù)（Nanotechnology）、生物技術(shù)（Biotechnology）、信息技術(shù)（Informational Technology）、認知科學（Cognitive Science），它們共同推動著人類的增強。人類增強也成為后人類或超人類的主旋律之一。

在人類是否應該采用增強技術(shù)這一問題上，支持與反對的聲音并存。支持者從個體權(quán)利、進化論、公共福利等角度為增強技術(shù)辯解，他們也將人類增強視為后人類或超人類的目標。美國傳播學學者詹姆斯·A·赫里克指出，超人類主義者希望通過負責任地使用科學、技術(shù)和其他合理手段，使后人類擁有比現(xiàn)在人類更強大的能力。⑨但反對者則多以違背人類天性和自然法則、自我同一性危機、身份認同危機、社會公平、對民主的威脅、對人類生存的威脅、對人的尊嚴的威脅等理由反對增強技術(shù)的應用。美國學者福山更是指出，后人類的世界也許更為等級森嚴，比現(xiàn)在的世界更富有競爭性，結(jié)果社會矛盾叢生。⑩數(shù)字化永生問題也涉及到與人類增強技術(shù)相似的挑戰(zhàn)，特別是對社會公平的威脅，以及人的尊嚴的侵蝕。

從AI“復活”的現(xiàn)實到數(shù)字化永生的幻想，人類對于技術(shù)可能性的探索欲望越來越強，這也導致人與機器、人與“數(shù)字人”之間的界限日益模糊。進一步，人類是將其發(fā)展到極致，最終完全抹去人與機器的差異，還是保持謹慎，堅守人之為人的那些本質(zhì)特性？凱瑟琳·海勒認為，無論我們的未來如何，它幾乎肯定會包括人類對生物過程的干預，這意味著“人性”將至少部分地取決于人類決定它應該是什么？。換言之，人與機器的邊界，最終應由人類劃定，即使機器有越界的能力，人工干預也可以使機器不能跨越邊界。

要在人機邊界上作出明智的判斷與抉擇，需要思考的是，如何讓技術(shù)真正服務于人類整體的福祉而不是少數(shù)人的利益，如何讓技術(shù)幫助人類更健全、自由的發(fā)展而不是造成人類的退化。除此，還需要通過多方對話，促成對人類的底線和人機邊界認知的共識，同時應通過法律等制度體系的完善，保證智能技術(shù)的發(fā)展不走向歧途。

（作者為中國人民大學新聞與社會發(fā)展研究中心研究員，中國人民大學新聞學院教授、博導）

【注：本文受中國人民大學2022年度“中央高校建設(shè)世界一流大學（學科）和特色發(fā)展引導專項資金、中央高?；究蒲袠I(yè)務費”（項目編號：2022XWTD001）支持】

【注釋】

①朱雯熙、李亭慧：《主體性與秩序正義：行政治理中情感計算的倫理反思與超越》，《人文雜志》，2024年第2期。

②崔中良：《人工情感生成的哲學基礎(chǔ)》，《自然辯證法研究》，2024年第1期。

③王峰：《人工智能的情感計算如何可能》，《探索與爭鳴》，2019年第6期。

④[法]梅洛-龐蒂、姜志輝譯：《知覺現(xiàn)象學》，北京：商務印書館，2001年，第538-540頁。

⑤閆樹睿、王紹森：《基于梅洛龐蒂的身體現(xiàn)象學談建筑空間體驗的具身性》，《建筑與文化》，2017年第5期。

⑥蘇宏斌：《作為存在哲學的現(xiàn)象學———試論梅洛—龐蒂的知覺現(xiàn)象學思想》，《浙江社會科學》，2001年第5期。

⑦[美]凱瑟琳·海勒、劉宇清譯：《我們何以成為后人類：文學、信息科學和控制論中的虛擬身體》，北京：北京大學出版社，2017年，第385頁。

⑧徐英瑾：《人工智能哲學15講》，北京：北京大學出版社，2021年，第205頁。

⑨[美]詹姆斯·A·赫里克：《人類未來進化史：關(guān)于人類增強與技術(shù)超越的迷思》，北京：中國人民大學出版社，2022年，第7-11頁。

⑩[美]弗朗西斯·福山、黃立志譯：《我們的后人類未來：生物技術(shù)革命的后果》，桂林：廣西師范大學出版社，2017年，第217頁。

[美]凱瑟琳·海勒著、黃斐譯：《計算人類》，《全球傳媒學刊》，2019年第1期。

責編/陳楠 美編/王夢雅