“再見一面”輕而易舉：探索數(shù)字人的安全底線

木濃

ChatGPT“數(shù)字人”版AI助手WeHead

每個(gè)人心里可能都有一個(gè)希望再見到的人，就像每個(gè)人心里可能都有一個(gè)想要回到的時(shí)刻。

想再見湯曉鷗一面的商湯人，在商湯科技2024年的年會(huì)上如愿以償；想再見女兒一面的音樂人包小柏，實(shí)現(xiàn)“復(fù)活”女兒的心愿，并讓女兒為妻子唱了生日歌。還有許多普通人，有機(jī)會(huì)通過AI的幫助，再一次見到離世親人的音容笑貌，甚至能與“數(shù)字親人”對(duì)話、相伴。

生成式人工智能的爆發(fā)，視頻大模型Sora的橫空出世，讓電影《流浪地球2》中的“數(shù)字生命”似乎不再只是科幻橋段。有人說“不妨再大膽一點(diǎn)想象”：“通過虛擬數(shù)字技術(shù)，我們或許能夠聆聽孔子的教誨，與愛因斯坦探討物理學(xué)的奧秘，甚至可以和李白‘月下共飲?！?/p>

當(dāng)震古爍今的AI科技為人類帶來更多可能性，“質(zhì)疑圖恒宇，理解圖恒宇，成為圖恒宇”道出了人們對(duì)生命的依戀，對(duì)“永生”的覬覦。

然而，人類歷史上每一次技術(shù)變革與進(jìn)步，都會(huì)引發(fā)人類對(duì)技術(shù)的深刻反思。AI技術(shù)海嘯前進(jìn)的路上，也許需要科技倫理之光照亮。

“再見一面”，如此容易？

商湯科技2024年的年會(huì)，離世不久的創(chuàng)始人湯曉鷗通過數(shù)字人技術(shù)，再次以脫口秀的形式與大家見面。

“這已經(jīng)成為了商湯科技年會(huì)的保留節(jié)目，所以我們讓湯老師以數(shù)字人的形象再次用幽默的方式與大家相見，以寄托大家對(duì)他的懷念。”商湯科技向《看世界》透露，實(shí)現(xiàn)這一次“重逢”，是采用了AI數(shù)字人視頻生成平臺(tái)“如影SenseAvatar”的數(shù)字人技術(shù)打造，在實(shí)現(xiàn)面部、聲音、表情和動(dòng)作模擬的同時(shí)，還隱藏了商湯數(shù)字水印解決方案。

此前，市場(chǎng)上對(duì)于數(shù)字人的主要需求來自直播、視頻制作等娛樂產(chǎn)業(yè)，以及醫(yī)療、教育、金融保險(xiǎn)等行業(yè)，原因是不需要真實(shí)的演員就能制作短視頻，有可能降低人員成本、溝通成本和時(shí)間成本。而目前，“數(shù)字親人”的需求隨之增加。

早在2017年，小冰公司就曾申請(qǐng)了一項(xiàng)復(fù)生已逝親人的專利技術(shù)，隨后提出AI being概念，即通過AI技術(shù)“一站式”完成虛擬人的創(chuàng)建、驅(qū)動(dòng)和內(nèi)容生成，并具備感知、表達(dá)等無須人工干預(yù)的自動(dòng)交互能力。不過這項(xiàng)“數(shù)字永生”計(jì)劃推進(jìn)緩慢。

2023年4月，24歲的上海小伙吳伍六用Midjourney、ChatGPT和D-ID等最新的AI技術(shù)“復(fù)活”奶奶的視頻，在網(wǎng)上迅速走紅，引發(fā)熱議。大量求助“復(fù)活”親人的私信，令他決定啟動(dòng)“數(shù)字關(guān)懷服務(wù)平臺(tái)”，分享AI“復(fù)活”技術(shù)。

與此同時(shí)，“數(shù)字永生”開始成為一門“生意”。在網(wǎng)絡(luò)平臺(tái)上搜索，出現(xiàn)大量“復(fù)活親人”的服務(wù)，價(jià)格最低可至10元，多則數(shù)百元；有的可“幾分鐘創(chuàng)建AI虛擬人”，有的需要定制服務(wù)，精心制作60天后可“交付”；有的商家正兒八經(jīng)地提供套餐選擇：三大主題場(chǎng)景任選，包含湖邊、草地、海邊場(chǎng)景，本服務(wù)可任選其中一個(gè)場(chǎng)景；動(dòng)作服務(wù)預(yù)設(shè)一套人物動(dòng)作，伴行散步、喝茶、面對(duì)面聊天三選其一……

事實(shí)上，幾年前，日本殯葬行業(yè)已經(jīng)開始推廣數(shù)字親人的業(yè)務(wù)，親屬可以通過3D眼鏡、VR眼鏡再見逝者。

而如今，隨著技術(shù)的發(fā)展，生成“數(shù)字親人”的技術(shù)成本和時(shí)間成本已經(jīng)大大降低。有視頻博主就介紹了“數(shù)字親人”的人人可有：利用逝者生前的照片，使用Midjourney制作一個(gè)精細(xì)化程度較高的基礎(chǔ)圖像；使用諸如飛槳AI Studio等工具，來把逝者生前的語音資料生成和制作仿真電子合成語音；使用ChatGPT-4來為虛擬數(shù)字人生成對(duì)話內(nèi)容；使用D-ID生成虛擬數(shù)字人。

湯曉鷗的數(shù)字人形象

康德“人是目的”的道德命令，是建構(gòu)人工智能道德行動(dòng)者的最佳契機(jī)。

想“再見一面”，竟變得如此不費(fèi)吹灰之力。

撫慰傷痛還是自縛蠶繭？

錯(cuò)過爺爺最后一面的大學(xué)生王同學(xué)，卻覺得很難才能“見”上爺爺一面：“有一次好不容易夢(mèng)見他了，夢(mèng)里一直哭，哭了很久，一直到接近中午才恍恍惚惚醒來?！彼X得，夢(mèng)是鏈接逝去親人的方式，因?yàn)橄肽睿詨?mèng)見，哭著不醒來是因?yàn)閼賾俨簧?，不愿斷了這個(gè)鏈接。

當(dāng)被建議可以用AI再見爺爺?shù)臅r(shí)候，他卻表示了拒絕：“我想讓他的形象永遠(yuǎn)留在我的記憶里，不管是不是未來有一天會(huì)變模糊，因?yàn)槟鞘俏易铍h永的回憶。在夢(mèng)里見到他，那是我在索取我自己大腦中的回憶形成的樣子，我不愿意通過AI的手段來回憶?！?/p>

喪失是關(guān)系的終止，是一種“未完成”，而“告別”是一種完結(jié)。筆者曾學(xué)習(xí)藝術(shù)治療，在失落與悲傷藝術(shù)治療中，對(duì)于失去親人的來訪者進(jìn)行悲傷輔導(dǎo)的目標(biāo)有4個(gè)：增加失落的真實(shí)感，其心理和情感接受失落發(fā)生的事實(shí)；協(xié)助其處理已表達(dá)或潛在的情緒；協(xié)助其克服適應(yīng)過程中的障礙；最終目的是鼓勵(lì)其以健康的方式向逝者告別，并坦然地將情感投注在新的關(guān)系里。

電影《流浪地球2》中的數(shù)字生命

“數(shù)字親人”帶來的，究竟是撫慰傷痛的一劑良藥，還是隔絕世界的自縛蠶繭？

在這個(gè)過程中，盡管藝術(shù)治療師往往會(huì)借助逝者的照片，鼓勵(lì)來訪者與親人進(jìn)行對(duì)話，催化出失落的真實(shí)感，但最終目的不是繼續(xù)留戀，而是告別。

每個(gè)人都會(huì)經(jīng)歷喪失的悲傷，并且不可能回到?jīng)]有發(fā)生之前的狀態(tài)，只能進(jìn)入下一個(gè)狀態(tài)。在這個(gè)過程中，有的人善于“偽裝”，也有的人忽略了自己并未痊愈，故作堅(jiān)強(qiáng)一如常態(tài)。而對(duì)于不懂偽裝或無心偽裝的人來說，這個(gè)過程就容易暴露無遺。

筆者作為志愿者，長(zhǎng)期陪伴心智障礙青年（心青年），不久前，一名心青年的母親突然去世，長(zhǎng)期支持他的社工、心理咨詢師聯(lián)合家長(zhǎng)，先對(duì)他隱瞞母親去世的消息，隨即為他進(jìn)行連續(xù)多日的死亡教育后，才告知該消息，并輔助他進(jìn)行與母親告別的儀式。

在其后很長(zhǎng)一段時(shí)間里，他接受了母親離世的事實(shí)，時(shí)常提起母親在天上等待自己團(tuán)聚，自己必須足夠努力，才能在100歲的時(shí)候再見母親一面。支持者認(rèn)為，正是“再見一面”的渴望，支持這位青年繼續(xù)努力生活下去。

有人說，告別是尊重逝者，尊重生命；期待重逢是一種念想，一種慰藉；而執(zhí)著于“數(shù)字親人”，是放不下、未完成。

“有的人能看到能聽到可以緩解思念，撫平一些痛苦，有的人會(huì)因?yàn)檫@個(gè)而更走不出來?！币幻〖t書博主在一篇《關(guān)于把已故的親人做成數(shù)字人的提議》的文章中寫道：“如果做成數(shù)字人對(duì)你來說會(huì)加深痛苦，就沒必要?！?/p>

有人發(fā)問，“數(shù)字親人”帶來的，究竟是撫慰傷痛的一劑良藥，還是隔絕世界的自縛蠶繭？

電影《銀翼殺手2049》劇照

人是目的而不是手段

筆者發(fā)現(xiàn)，在網(wǎng)絡(luò)平臺(tái)上，許多看似營(yíng)銷帖的“復(fù)活”親人故事，往往引發(fā)“我也需要”“還接單嗎”的回復(fù)，還有不少網(wǎng)友評(píng)論“這是科技的溫度”“科技療愈了人類”；也有一些表示質(zhì)疑的聲音，比如“逝者是否愿意被‘復(fù)活”“生命教育還沒有普及，人們尤其是孩子對(duì)生命的理解會(huì)不會(huì)出現(xiàn)偏差”。

“何而為人、人應(yīng)該如何處理與科技的倫理關(guān)系，是人類進(jìn)入科學(xué)選擇階段必須思考的命題?！碑?dāng)下，學(xué)界正關(guān)注的，不僅是人工智能在技術(shù)層面帶來的風(fēng)險(xiǎn)，以及給人工智能倫理從業(yè)者帶來日益嚴(yán)峻的挑戰(zhàn)，還有在哲學(xué)和倫理學(xué)層面帶來的風(fēng)險(xiǎn)，即它“可能會(huì)逾越人、人性和人類性，而重新定義人或人性”。

“數(shù)字永生”并不只是“生意”。

有從業(yè)者在回應(yīng)《看世界》關(guān)于科技倫理這個(gè)問題時(shí)表示，AI數(shù)字人復(fù)活逝者不只是一個(gè)技術(shù)問題，更是一個(gè)倫理道德問題：“技術(shù)是否可以成為人類情感的一種寄托？在數(shù)字化時(shí)代，我們?nèi)绾沃匦露x和塑造人與人之間的聯(lián)系？AI數(shù)字人能否理解人類的情感、是否會(huì)給親人帶來二次創(chuàng)傷？如何避免這項(xiàng)技術(shù)被濫用？這些問題沒有標(biāo)準(zhǔn)答案，也令從業(yè)者更加深入地思考人類的本質(zhì)和技術(shù)的邊界?！?/p>

不過該從業(yè)者認(rèn)為，至少在數(shù)字人技術(shù)不被未經(jīng)授權(quán)濫用的方面，他們做了很多工作，比如在推廣和應(yīng)用數(shù)字人技術(shù)時(shí)，建立嚴(yán)格的倫理準(zhǔn)則和監(jiān)管機(jī)制，包括使用范圍、保護(hù)個(gè)人隱私、尊重死者和家屬的意愿等。

據(jù)了解，此前，在中國(guó)信通院的研究機(jī)構(gòu)牽頭下，商湯科技等多家AI公司共同制定了“可信虛擬人生成內(nèi)容管理系統(tǒng)技術(shù)要求”的標(biāo)準(zhǔn)，制作一個(gè)數(shù)字人，首先需要得到當(dāng)事人生前或其家人授權(quán)。

商湯科技還透露，商湯科技數(shù)字人有相關(guān)的鑒定機(jī)制：“在商湯科技平臺(tái)上制作的數(shù)字人里，有一系列看不到的‘編碼藏在其中。”

中國(guó)信通院曾在《人工智能倫理治理研究報(bào)告（2023年）》指出，人工智能倫理包含價(jià)值目標(biāo)與行為要求兩個(gè)方面：在價(jià)值目標(biāo)上，人工智能倫理要求人工智能各階段活動(dòng)以增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、尊重隱私等為目標(biāo)；在行為要求上，人工智能倫理要求人工智能技術(shù)做到安全可控、透明可解釋。

吳伍六曾在一篇帖子里寫下“不會(huì)過度緬懷過去”，且“希望能激起大家對(duì)人工智能、生命、感情、寄托、人性和倫理道德的深度思考，珍惜當(dāng)下”。

有學(xué)者斷言，康德“人是目的”的道德命令，是建構(gòu)人工智能道德行動(dòng)者的最佳契機(jī)。是的，人是目的而不是手段。

數(shù)十年前，用筆構(gòu)造一個(gè)全新世界的科幻作家斯坦尼斯瓦夫·萊姆曾提出，科幻小說是“增加對(duì)人類自身的認(rèn)知，而不是對(duì)未知生命的認(rèn)知”—在人工智能構(gòu)造了一個(gè)全新世界的今天，堅(jiān)持盧德主義早已不合時(shí)宜，倒不如借AI發(fā)展大勢(shì)，進(jìn)一步增加對(duì)人類自身的認(rèn)知。

責(zé)任編輯吳陽煜 wyy@nfcmag.com