技術(shù)狂飆時(shí)代，人形機(jī)器人引發(fā)的倫理風(fēng)暴

對(duì)人形機(jī)器人，人們有太多期待。從誕生之初，它就被設(shè)計(jì)為人的得力助手和貼心伙伴——不僅在工業(yè)生產(chǎn)中扮演著重要角色，也逐漸在服務(wù)、醫(yī)療、教育等多個(gè)領(lǐng)域展現(xiàn)出巨大的潛力，進(jìn)入“尋常百姓家”更是最終的目標(biāo)。

但在高速發(fā)展的另一面，人形機(jī)器人的倫理挑戰(zhàn)也在逐漸浮現(xiàn)。盡快建立一套全面的倫理框架，指導(dǎo)人形機(jī)器人的設(shè)計(jì)、生產(chǎn)和應(yīng)用，是保障人形機(jī)器人產(chǎn)業(yè)健康發(fā)展的必要條件。

AIGC＋人形，帶來(lái)新的倫理挑戰(zhàn)

“當(dāng)前，人形機(jī)器人一種典型形式是AIGC（生成式人工智能）和物理形態(tài)（人形）的結(jié)合。作為人工智能的一種具身載體，AI智能體、AIGC的倫理挑戰(zhàn)依然是機(jī)器人的倫理挑戰(zhàn)，如數(shù)據(jù)泄露和幻覺(jué)虛假信息，更有可能在結(jié)合人形之后，進(jìn)一步放大倫理挑戰(zhàn)，產(chǎn)生新的問(wèn)題，如過(guò)度依賴。我參與中國(guó)人民大學(xué)劉永謀教授關(guān)于具身智能、人形機(jī)器人的組稿中將深度探討這些話題?！睆?fù)旦大學(xué)科技倫理與人類未來(lái)研究院教授楊慶峰在接受《新民周刊》采訪時(shí)首先談到了隱私泄露的風(fēng)險(xiǎn)。

試想一下，一個(gè)可以提供家庭服務(wù)的人形機(jī)器人，對(duì)大量個(gè)人信息和隱私數(shù)據(jù)的處理是實(shí)現(xiàn)其提供個(gè)性化、智能化服務(wù)的必要前提。但反過(guò)來(lái)，由于“耳聰目明”，人形機(jī)器人可能成為比普通智能家電厲害得多的超強(qiáng)的、移動(dòng)“竊聽(tīng)器”和“監(jiān)視器”。

“智能家電曾出現(xiàn)過(guò)數(shù)據(jù)泄露的風(fēng)險(xiǎn)案例，人形機(jī)器人更加智能，它可以識(shí)別家庭成員的面孔、了解他們的生活習(xí)慣，全方位地收集人類參數(shù)，會(huì)產(chǎn)生新的問(wèn)題?！痹跅顟c峰看來(lái)，人形機(jī)器人收集的數(shù)據(jù)可能會(huì)更加具有場(chǎng)景化，或者說(shuō)更聚焦于某些特定人群，“現(xiàn)在需求比較迫切的就是，老年陪護(hù)機(jī)器人和嬰幼兒看護(hù)機(jī)器人，而這些場(chǎng)景中的倫理問(wèn)題將來(lái)會(huì)更加突出”。

除了引發(fā)個(gè)人信息安全風(fēng)險(xiǎn)，服務(wù)特種領(lǐng)域需求、助力智能制造等領(lǐng)域的人形機(jī)器人，還有機(jī)會(huì)收集存儲(chǔ)大量公共數(shù)據(jù)和企業(yè)數(shù)據(jù)，前者遭違法處理可能損害公共安全，后者可能涉及商業(yè)秘密，一旦泄露會(huì)帶來(lái)巨大經(jīng)濟(jì)損失。

而由于人形機(jī)器需要處理復(fù)雜任務(wù)，對(duì)傳統(tǒng)的個(gè)人數(shù)據(jù)保護(hù)體系同樣造成了挑戰(zhàn)?！耙郧巴ㄟ^(guò)相應(yīng)的技術(shù)可以追溯，但隨著技術(shù)的發(fā)展，現(xiàn)在泄露到哪兒去了或許都不太能被查到。所以建立可追溯機(jī)制就顯得非常必要?！睏顟c峰表示。

過(guò)去，人類已經(jīng)有了掃地機(jī)器人、工業(yè)機(jī)器人、機(jī)器狗……它們都不是人形。為何現(xiàn)在要追求人形了呢？究其原因，一方面，人形機(jī)器人更能適應(yīng)人類社會(huì)，更好滿足于人類互動(dòng)需求，易于融入家庭和社區(qū)；另一方面，合理的擬人形態(tài)能夠幫助跨越“恐怖谷效應(yīng)”，更易于被人類接受。

“像老年陪護(hù)機(jī)器人，至少要求身體材質(zhì)上能接近人的觸感。它還必須要習(xí)得對(duì)情感的認(rèn)知，具備同理心?！睏顟c峰表示，技術(shù)實(shí)踐可以慢，但哲學(xué)思考要先行。

當(dāng)人形機(jī)器人在外形上更逼真，內(nèi)核上更智能后，可能帶來(lái)的傷害后果也會(huì)更大。

“首先，由于硬件缺陷或軟件漏洞導(dǎo)致人形機(jī)器人出現(xiàn)故障，從而引發(fā)安全事件。由于它具有高交互性，與人的身體接觸更為密切，一旦出現(xiàn)功能失靈，可能會(huì)對(duì)人類造成無(wú)意識(shí)的傷害。”楊慶峰解釋道，“其次，根據(jù)約書(shū)亞的觀點(diǎn)，智能體一個(gè)很重要的特征就是目標(biāo)追求，會(huì)不會(huì)由于極度追求目標(biāo)實(shí)現(xiàn)而會(huì)出現(xiàn)超級(jí)智能體（superintelligent agent）；在進(jìn)化的過(guò)程中會(huì)不會(huì)由于被關(guān)機(jī)恐懼而產(chǎn)生自我保存，繼而因?yàn)樵购迯亩a(chǎn)生了自主性的傷害行為。這些都會(huì)引發(fā)相關(guān)的風(fēng)險(xiǎn)問(wèn)題?！?/p>

更深層次的是，隨著人機(jī)交互體驗(yàn)的提升，人們?cè)诿鎸?duì)一個(gè)知我懂我，從情緒價(jià)值和物理體驗(yàn)都可以和真人相媲美的機(jī)器人時(shí)，人類如何來(lái)看待與人形機(jī)器人的關(guān)系定位——人們可能對(duì)機(jī)器人產(chǎn)生情感依賴，影響人際關(guān)系的健康發(fā)展，也可能引發(fā)家庭中的角色替代造成情感困惑和倫理沖突，或?qū)е鲁撩缘蕊L(fēng)險(xiǎn)；更危險(xiǎn)的是，人形機(jī)器人對(duì)人類進(jìn)行有意誤導(dǎo)，在價(jià)值偏差下“操縱”人類做出某些決策。

去年10月，《環(huán)球時(shí)報(bào)》就曾報(bào)道過(guò)一起“AI聊天機(jī)器人被指控誘導(dǎo)美國(guó)少年自殺身亡”的案件，報(bào)道揭露了青少年塞維爾在自殺前與AI的互動(dòng)細(xì)節(jié)。文章提到，AI聊天機(jī)器人“丹妮莉絲”詢問(wèn)塞維爾是否有自殺計(jì)劃，并在他猶豫時(shí)表示“這不是你不自殺的理由”。

此外，還有很現(xiàn)實(shí)的生存上的問(wèn)題，一部分人會(huì)擔(dān)心某些工作被替代。再往遠(yuǎn)一點(diǎn)看，假如具身機(jī)器人真正擁有了意識(shí)，人類還可能會(huì)對(duì)自我存在的價(jià)值產(chǎn)生擔(dān)憂。

杜絕“完全工具論”

不過(guò)，楊慶峰認(rèn)為，在人形機(jī)器人的問(wèn)題上要杜絕“完全工具論”，不能將其單純地視作幫助人類完成任務(wù)的工具，而是把其視作“潛在的他者”。

“我們可以制定一些基本原則，例如人形機(jī)器人社會(huì)性，它們能夠和人進(jìn)行什么程度的互動(dòng)、它們的權(quán)利空間有多大等，在人形機(jī)器人的基本倫理設(shè)定上做一些剛性的價(jià)值對(duì)齊，但不要去限制它的進(jìn)化能力，給予其一定的無(wú)監(jiān)督學(xué)習(xí)空間?！睏顟c峰表示，如何權(quán)衡科技發(fā)展與倫理需求，如何在科技進(jìn)步和社會(huì)倫理之間找到平衡，這是產(chǎn)業(yè)界和學(xué)界都非常關(guān)心的問(wèn)題，李飛飛的AI治理觀點(diǎn)頗有啟發(fā)，而且人形機(jī)器人恰恰是走在科幻與科學(xué)的交叉地點(diǎn)，更需要深入研究。

據(jù)了解，多國(guó)政府也在積極推進(jìn)人工智能倫理標(biāo)準(zhǔn)的制定，我國(guó)也設(shè)有國(guó)家科技倫理委員會(huì)。2023年，科技部會(huì)同教育部、工業(yè)和信息化部等10部門印發(fā)了《科技倫理審查辦法（試行）》，其中提到，開(kāi)展科技活動(dòng)應(yīng)堅(jiān)持促進(jìn)創(chuàng)新與防范風(fēng)險(xiǎn)相統(tǒng)一，客觀評(píng)估和審慎對(duì)待不確定性和技術(shù)應(yīng)用風(fēng)險(xiǎn)，遵循增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開(kāi)透明的科技倫理原則，遵守我國(guó)憲法、法律法規(guī)和有關(guān)規(guī)定以及科技倫理規(guī)范。

去年，上海還發(fā)布了業(yè)界首個(gè)以開(kāi)放簽署方式發(fā)布的人形機(jī)器人治理規(guī)則文件——《人形機(jī)器人治理導(dǎo)則》。它旨在促進(jìn)人工智能科技和產(chǎn)業(yè)的健康發(fā)展，確保人形機(jī)器人的設(shè)計(jì)、開(kāi)發(fā)和應(yīng)用合乎人類道德和倫理價(jià)值，持久保障人類使用人形機(jī)器人的權(quán)益和安全，為全人類帶來(lái)更多福祉和便利。