陪護機器人倫理問題及對策建議

胡明艷 譚潤民

1.中共中央黨校（國家行政學院）哲學教研部，北京，100091；2.珠海市人才資源與就業(yè)服務中心，廣東，珠海，519075

陪護機器人是指能夠陪伴和看護老人、兒童及其他行動不便病患等人類弱勢群體的智能服務機器人。陪護機器人會長時間陪伴在人類身旁，產(chǎn)生前所未有的人機交互體驗和影響。隨著陪護機器人在人類社會的逐步應用，各種潛在的倫理問題逐漸凸顯，引發(fā)了社會各界的擔憂。

一、陪護機器人的應用背景

全球人口正步入老齡化階段。根據(jù)世界衛(wèi)生組織的報告，到2050年，全世界60歲以上人口將翻一番，增至21億人。[1]據(jù)2021年5月11日發(fā)布的我國第七次全國人口普查公報（第五號）顯示，截至2020年11月1日零時，我國大陸60歲及以上人口為264 018 766人，占人口總數(shù)的18.70%，其中65歲及以上人口為190 635 280人，占人口總數(shù)的13.50%。[2]我國人口老齡化問題較為嚴峻。隨著第一代獨生子女的父母老去，我國家庭養(yǎng)老功能日漸弱化。與之伴隨的是我國配套養(yǎng)老服務設施不足、專業(yè)養(yǎng)老服務人員短缺等問題，我國城市老年人口的迅猛增長與養(yǎng)老服務供給相差甚遠的矛盾十分突出。此外，隨著2016年我國全面兩孩政策開始實施，不少獨生子女家庭將面臨上有四老、下有兩小的情形，面臨堅守工作和照顧家庭難以兩全的矛盾，父母由于各種原因缺少時間陪伴教育孩子，這將不利于兒童的身心健康和成長。

陪護機器人不僅可以幫助照看老人的日常生活，如輔助吃藥、檢測身體情況、為老人解悶等，還可以幫助照看兒童的生活、學習，提供娛樂等，有助于緩解眾多家庭的養(yǎng)老和育兒壓力。據(jù)國際機器人聯(lián)合會（IFR）發(fā)布的數(shù)據(jù)顯示，2019年，包括陪護機器人在內(nèi)的全球服務機器人市場銷售額為169億美元，同比增長31%，銷量約為2337萬臺，同比增長34%。[3]日本率先研制出了一系列老人陪護機器人，如西科姆公司的“我的勺子”自動喂食機器人，松下公司推出的洗頭機器人[4]，日本產(chǎn)業(yè)技術(shù)綜合研究所開發(fā)的海豹型機器人帕羅（Paro）等。據(jù)研究，帕羅能有效改善老年人的情緒，治療老年癡呆癥的效果明顯。2008年年底，丹麥政府訂購了1000個帕羅，現(xiàn)在丹麥幾乎所有的老年人護理機構(gòu)都擁有一個帕羅。[5]日本還開發(fā)了兒童機器人，如具有強化通信功能的家庭型機器人PAPEPO 2005，其能夠在噪音環(huán)境中識別聲音、與兒童交流，并可由用戶通過手機畫面遙控、操作。[6]

陪護機器人具有長期與人陪伴共處的特殊性，可能觸發(fā)不可忽視的倫理和社會問題。鑒于轉(zhuǎn)基因技術(shù)、納米技術(shù)等新興技術(shù)的發(fā)展教訓，人類不能只考慮新興技術(shù)可能的收益而忽視潛在的風險，更不能等到某項技術(shù)在人類社會中產(chǎn)生嚴重的乃至不可逆的后果時才開始進行倫理反思，應及早關(guān)注和研究尚處在發(fā)展初期但應用前景廣闊的陪護機器人倫理問題。

二、陪護機器人應用可能引發(fā)的主要倫理問題

目前，陪護機器人在人類社會的市場化應用還處于初級階段，國內(nèi)外對相關(guān)倫理問題的研究尚處于初步探索和討論階段。筆者結(jié)合已有的研究，從機器人技術(shù)自身、人機交互過程和社會正義3個角度分析陪護機器人的倫理問題。

（一）陪護機器人技術(shù)自身可能引發(fā)的倫理問題

外形設計的可接受性。陪護機器人是一個必須以現(xiàn)實產(chǎn)品出現(xiàn)的實體機器人，人們對它的觀感與接受度是影響其發(fā)揮陪護作用的關(guān)鍵因素之一。Broadbent等人發(fā)現(xiàn)，大多數(shù)老年人都偏好小型機器人，人們相信女性機器人比男性機器人更溫柔，人們也更喜歡性格與自己相匹配的機器人，一個富有同情心的機器人可以鼓勵人們互動，機器人根據(jù)用戶的喜好和個性調(diào)整自身的行為可以提高其可接受性。[7]機器人的大小需妥善考慮，如果機器人體形比正常人還要高大，即便能幫助人們處理很多事情，但是也存在傷害人類的可能性，特別是容易對兒童產(chǎn)生驚嚇。此外，機器人是否要說話，如果說話，是設計成女性聲音還是男性聲音，是否帶有口音、飽含情感，要設計哪些身體動作、面部表情等，這些都會對人機交流的質(zhì)量帶來很大影響。這可能引發(fā)以下倫理問題：把機器人設計成能夠顯示出人性是否正當？機器人能顯示出情緒是否符合道德？

機器人行為的不可預測性。首先，機器人的自主性增強會帶來不可預測性。在過去幾十年里，科學家們都致力于環(huán)境感知和分析、自然語言處理、人機互動、認知系統(tǒng)、神經(jīng)網(wǎng)絡、機器學習等研究。在此情形下，機器人的智能是自我發(fā)展的智能，機器人通過學習自己的行動所獲得的經(jīng)驗不斷演化。雖然在短時間內(nèi)，達到或超過人類智能水平的機器人還只能出現(xiàn)在科幻電影里，現(xiàn)在就把機器人當作具備同人類一樣的自由意志的道德主體、談論機器人的道德責任問題還為時尚早，但也許在未來的某一天，人類會和那些被賦予了工程學意義上的擁有自主性的機器人共處一室。機器人日漸增長的自主性存在超出設計者原有意圖的可能，可能會引發(fā)不可預測的后果，需要機器人的設計者們提高警惕。其次，意外技術(shù)故障會帶來不可預測性。機器人通過程序的設定執(zhí)行特定的指令動作以完成相應的任務。受設計、技術(shù)和操作等影響機器人并不能保證始終按照特定程序完成任務，存在發(fā)生意外技術(shù)故障的概率。陪護機器人是用來陪伴和看護老人、兒童以及其他行動不便病患等人類弱勢群體的，其意外技術(shù)故障給被看護者帶來的安全隱患尤其值得關(guān)注。

（二）陪護機器人在人機交互中引發(fā)的倫理問題

隨著陪護機器人應用范圍日漸廣泛，人類逐漸把機器人看成潛在的朋友甚至愛侶，但機器人并不能真正“理解”或“分享”人類的喜怒哀樂。這樣的人機交互會對既有的人類社會交往產(chǎn)生影響，引發(fā)一些倫理問題，主要表現(xiàn)為以下4個方面。

1.情感欺騙問題

很多陪護機器人的設計為了增加人與機器人互動的可信度，往往會通過增加機器人的觸覺、語音和面部反饋能力來模擬動物或人。人是情感動物，在與陪護機器人的長期相處陪伴過程中，受照看者難免會對機器人產(chǎn)生情感。

有研究表明，兒童往往把陪護機器人——不論它是否具有人類的體貌特征視為有生命的個體，如兒童有意拍打機器人時，認為機器人會感到疼痛，會把陪護機器人視為自己的“朋友”等。把機器人當作有生命的人一樣對待，這對兒童而言是一種欺騙，長此以往，兒童對生命可能會產(chǎn)生錯誤的認知。

陪護機器人除了可以在日常生活中照料老人，還可以為這些老人提供心靈上的慰藉，緩解其因長期獨居所產(chǎn)生的孤獨感。然而，有研究表明，日久天長，老人會對陪護機器人產(chǎn)生情感依戀。例如，當機器人被移走時，接受機器人照料的患有阿爾茨海默病的老人會想念它們。[8]如果接受治療的老人對機器人產(chǎn)生了情感依戀，而機器人因為某種原因消失了，就可能讓這些老人因心情沮喪而影響治療效果。為機器人預先設定的機械回應賦予了機器人過多的人類智能和情感，使得長期受到機器人陪護的正常老人也會有意無意地把機器人當作有情感的生命。實際上，不同于人類對陪護機器人的情感依賴，機器人對人類的“情感性表達”只是一種算法結(jié)果的表現(xiàn)，對人類具有欺騙性。這可能引發(fā)以下倫理問題：人類對機器的單向度情感是否會削弱人的尊嚴？給予老人長期陪伴和守護的機器人是否會削弱老人與家人之間的親情，影響人類自身家庭關(guān)系的正常維系？

2.隱私問題

隨著大容量存儲技術(shù)的發(fā)展，陪護機器人能全方位、全時段地采集被照料者的生活數(shù)據(jù)。當陪護機器人進入人們的日常生活后，長期和用戶生活在一起，對用戶的家庭情況，包括家庭成員的身體狀況、從事職業(yè)、興趣愛好、對各種社會事務的傾向及家庭財產(chǎn)和收入來源等信息了解得一清二楚。在信息化時代，高效精準服務的機器人必然要求其一端與互聯(lián)網(wǎng)相連，這就極大增加了用戶隱私被泄露的可能性。若用戶的隱私被泄露，或者被別有用心的人利用，可能對用戶產(chǎn)生極其嚴重的負面影響。被照料者的其他家庭成員是否有權(quán)代替被照料者本人對這種監(jiān)控采集記錄進行許可授權(quán)？這些數(shù)據(jù)應當被保留多久、誰可擁有隱私數(shù)據(jù)的訪問權(quán)等，都是亟須解決的隱私倫理問題。

3.社交影響問題

老人陪護機器人在一定程度上可以緩解老人的孤獨感，但是陪護機器人畢竟只是機器，陪護機器人與人類的交流對話是基于一定的算法，因此陪護機器人不能完全取代人，更不能替代社會關(guān)系中人的存在。若獨居老人將與陪護機器人的交流替代和社會中的人打交道，長此以往，將會影響老人正常的社會交往和認知水平，甚至可能會引發(fā)老人的心理疾病。

兒童陪護機器人往往只是被動地接受主人的語言命令并執(zhí)行，并不具備足夠的敏感性，如兒童陪護機器人不能通過主動觀察嬰幼兒的面部表情獲取嬰幼兒需求的暗示，不能對嬰幼兒的需求作出及時回應等。嬰幼兒主要是通過觀察周遭事物并和周圍人類的社會交往來學習成長，如果從小和機器人一起生活，可能影響其認知能力及社會交往能力的正常發(fā)展。

4.自主意愿問題

陪護服務涉及多方要素，現(xiàn)階段陪護機器人的智能水平層次仍然比較低，在實際的使用過程中，可能出現(xiàn)機器人制約服務對象自主意愿的現(xiàn)象，這在老年陪護機器人的使用中體現(xiàn)得較為明顯。例如，患有某種疾病的老人每天需要定點按時吃藥，吃藥服務由機器人提供，但是假如在某一時段老人情緒不穩(wěn)定，拒絕吃藥，陪護機器人依然會在那一刻為老人提供吃藥服務，這在事實上就形成了對老人自主意愿的干涉。根據(jù)John和Julienne的調(diào)查，老年人普遍認為他們做自主選擇的權(quán)利不應該被限制，他們不希望所有人知道他們在家中跌倒，因為他們認為其可以自行克服這些困難，并會在他們覺得需要幫助的時候再通知別人。[9]未來，隨著機器人智能水平的不斷提高及更多地深入人類家庭，其在陪護服務過程中的自主決策也會增多，陪護對象的自主意愿受到機器人干擾的可能性也會增加。

（三）陪護機器人在社會中可能產(chǎn)生的正義問題

當前，我國城鄉(xiāng)之間、不同區(qū)域之間、不同群體之間收入分配差距依然較大。不同類型陪護機器人的應用，都會涉及不同地域貧富群體的購買力水平差異，進而引發(fā)社會資源分配正義的倫理問題。此外，我國是多民族國家，各民族通常會有其獨特的民族習俗等，陪護機器人在設計研發(fā)使用時，如果只考慮一般群體使用偏好，忽視對不同民族習俗等的少數(shù)民族群體的細致考量，也會引發(fā)社會正義的倫理問題。

三、實現(xiàn)陪護機器人負責任發(fā)展的建議

在人類社會發(fā)展已經(jīng)深度科技化的今天，包括陪護機器人倫理在內(nèi)的新興科技倫理研究并非為了阻擋科技發(fā)展——事實上也不可能阻礙科技的發(fā)展——而是為了推動科技更好地造福人類，實現(xiàn)科技負責任的發(fā)展。2022年3月，中共中央辦公廳、國務院辦公廳印發(fā)的《關(guān)于加強科技倫理治理的意見》提出，要“健全多方參與、協(xié)同共治的科技倫理治理體制機制，堅持促進創(chuàng)新與防范風險相統(tǒng)一、制度規(guī)范與自我約束相結(jié)合”“努力實現(xiàn)科技創(chuàng)新高質(zhì)量發(fā)展與高水平安全良性互動”，并明確了倫理先行、依法依規(guī)、敏捷治理、立足國情和開放合作的治理要求。[10]據(jù)此，筆者對實現(xiàn)陪護機器人技術(shù)負責任的發(fā)展提出如下4點建議。

（一）讓倫理規(guī)范滲透機器設計

在科技倫理治理的體系中，科學家、工程師是相關(guān)倫理問題研究和實踐的主體。只有科學家、工程師把科技倫理的研究視作科研活動的一部分，自覺注重源頭治理和預防，將科技倫理要求貫穿科學研究、技術(shù)開發(fā)等科技活動全過程，才能真正做到科技發(fā)展的“倫理先行”。只有科學家、工程師積極為科技創(chuàng)新中倫理問題的前瞻性治理建言獻策，做科技倫理治理的先行者，才能真正實現(xiàn)科技發(fā)展的“敏捷治理”。當前，技術(shù)倫理學中興起的“道德物化”思想認為，把抽象的道德理念通過恰當?shù)募夹g(shù)設計，使之在人工物的結(jié)構(gòu)和功能中得以體現(xiàn)，可對人的行為產(chǎn)生道德意義上的引導和規(guī)范作用。[11]鑒于此，科學家、工程師應該將社會普遍認可的倫理規(guī)范納入陪護機器人的整體算法設計和制造中。

首先，科研人員應該明白，包括陪護機器人在內(nèi)的人工智能科技的發(fā)展不應以貶低和消除人的智能和價值為前提，而應以人的價值為基礎，讓科技發(fā)展真正造福人類。無論陪護機器人怎么發(fā)展，歸根結(jié)底是人造物。無論將來是否會出現(xiàn)具備獨立意識的超級機器人，目前的陪護機器人都是依靠科技研發(fā)人員所設定的程序完成既定指令的?？蒲腥藛T應不斷優(yōu)化機器人產(chǎn)品設計，讓陪護機器人優(yōu)先聽從人為指令而非機器人的自身程序指令（除非人為指令存在非法傷害人類個體或全體的行為），以此保證人的主體地位。其次，科研人員應根據(jù)具體應用場景設計機器人外觀形態(tài)，引導陪護對象產(chǎn)生積極的情緒而非不安和厭惡等負面情緒，且要遵循社會公平正義原則，不在機器人外觀設計中暗含歧視性元素。再次，對可能產(chǎn)生的情感欺騙問題，科研人員可以設定一些程序，讓陪護機器人和人交流時顯得不像人與人交流那么自然，即以一種人為障礙的方式拉開機器人與人交流的距離，讓人能夠時刻明晰與自己對話的機器人并不是人，也不能取代人。最后，加強對用戶隱私安全的保護，科研人員與生產(chǎn)企業(yè)要嚴格遵守國家的法律法規(guī)、行業(yè)標準，樹立客戶至上的理念，保障用戶的信息安全。

（二）健全法規(guī)制度、制定行業(yè)標準

國家層面的法律法規(guī)應當為陪護機器人發(fā)展設定禁區(qū)，國家有關(guān)的產(chǎn)業(yè)發(fā)展意見和政策可以為陪護機器人的發(fā)展劃定界線。產(chǎn)業(yè)層面的行業(yè)標準可以為陪護機器人行業(yè)發(fā)展引導倫理方向，為企業(yè)制定自己的產(chǎn)品標準提供參照。

在國家層面，應制定相應的法律法規(guī)，如明確科技公司利用陪護機器人收集并濫用用戶隱私信息屬于違法行為，必須從嚴追究法律責任。同時，國家層面應就陪護機器人的倫理問題進行專門監(jiān)督，可以將對這一問題的監(jiān)督職責納入現(xiàn)行的國家倫理委員會職權(quán)范圍。國家倫理委員會除了發(fā)揮監(jiān)督職責，也可以在確定陪護機器人倫理發(fā)展方向、細化陪護機器人的倫理準則要求方面發(fā)揮作用。此外，國家應適時出臺針對陪護機器人倫理治理的產(chǎn)業(yè)發(fā)展意見和政策，為相關(guān)產(chǎn)業(yè)發(fā)展提供符合社會公平正義的引導，如當陪護機器人技術(shù)足夠成熟且存在廣泛社會需求時，國家應對一些經(jīng)濟狀況困難的家庭提供購買陪護機器人的適當補貼。

在產(chǎn)業(yè)層面，應積極與政府及相關(guān)的社會組織探討制定陪護機器人的行業(yè)標準。具體到生產(chǎn)特定陪護機器人的科技公司，應該就自己生產(chǎn)的某一款陪護機器人產(chǎn)品制定特定的產(chǎn)品標準，這一標準既要能夠讓陪護機器人滿足用戶的需求，又要尊重保護人的主體地位?？紤]到現(xiàn)在的多數(shù)公司還沒有形成陪護機器人倫理的產(chǎn)品標準，對相關(guān)的倫理原則了解甚少，可以先鼓勵科技公司設立倫理委員會。但是，科技公司的倫理委員會不能成為科技公司發(fā)展陪護機器人的“倫理外衣”，流于形式，需要在傾聽用戶公眾意見、監(jiān)督公司收集處理使用用戶隱私信息、制定陪護機器人產(chǎn)品標準等方面發(fā)揮作用?？萍脊緜惱砦瘑T會可以仿照上市公司監(jiān)督委員會的設置，主要由外部人士組成，并且由外部人士擔任負責人。[12]

（三）提升公眾科學素養(yǎng)和道德素質(zhì)

陪護機器人作為一項技術(shù)產(chǎn)品，其技術(shù)路徑的形成離不開社會語境的塑造。除了國家層面、產(chǎn)業(yè)界、科學家共同體外，廣大公眾對陪護機器人技術(shù)的社會形成也至關(guān)重要。當前，公眾對陪護機器人的了解多來自科幻電影或小說，缺乏對陪護機器人實際研究進展的準確認知，加之公眾道德素養(yǎng)參差不齊，對陪護機器人符合道德的應用會產(chǎn)生不良影響。為此，應積極提升公眾科學素養(yǎng)和道德素質(zhì)。

正確發(fā)揮媒體作用，幫助社會公眾提升科學素養(yǎng)，使之對陪護機器人技術(shù)形成真實的認知，而非基于科幻小說或科幻電影中夸張的想象進而產(chǎn)生不切實際的倫理擔憂甚至恐慌。實際上，作為當前智能機器人技術(shù)根基的人工智能技術(shù)尚屬于弱人工智能，與科幻小說或電影中的強人工智能還相距甚遠。陪護機器人作為人工智能技術(shù)下的分支，在可以預見的將來，也主要停留在弱人工智能階段，尚無超越人類的能力，人類陪護者無須過于擔憂被陪護機器人取代。

公眾需要提升道德素質(zhì)，樹立合理對待陪護機器人的道德觀念。陪護機器人的購買者和使用者應該明白，陪護機器人本質(zhì)上是協(xié)助人類進行護理、增進人類福祉的機器，即便將來隨著技術(shù)的發(fā)展，陪護機器人智能程度越來越高，人類也不能對陪護機器人產(chǎn)生過度的信任或依賴，而要始終牢記，人機交互不能代替人與人之間的交往，不能因為購置了陪護機器人就放棄了人類自身的道德責任。長期使用陪護機器人對心智尚未成熟的幼童可能產(chǎn)生一定的倫理問題，不利于幼童將來融入人類社會；長期使用陪護機器人也可能使老年人沉迷，影響其與他人正常的社會交往。所以，應對陪護機器人的使用時間和范圍設定限制，決不能用陪護機器人完全替代監(jiān)護人的正常陪伴和照料。

（四）構(gòu)建共通但具特色的倫理規(guī)范體系

在經(jīng)濟和科技全球化的背景下，陪護機器人作為新興的科技產(chǎn)品，從設計師筆下圖紙上的模型到成為現(xiàn)實中市場上售賣的產(chǎn)品，中間會歷經(jīng)多個國家、眾多環(huán)節(jié)，陪護機器人倫理問題的產(chǎn)生和解決不再局限于某一國境內(nèi)。要想實現(xiàn)對陪護機器人的有效倫理治理，讓其更好地造福人類，各國必須通力合作。應倡議各國就實現(xiàn)陪護機器人的有效倫理治理開展對話并建立長效溝通機制，在對話交流中達成共識。在此基礎上，各國結(jié)合本國國情和文化特色，制定對陪護機器人的全球性合作與本國實際相結(jié)合的倫理規(guī)范體系。

我國要實現(xiàn)對陪護機器人倫理問題的有效治理，必須在開放合作的同時立足本國國情。一方面，要廣泛吸納現(xiàn)代人類價值和文化中的倫理觀念，如在保障人的主體地位、尊重人的尊嚴和自主選擇權(quán)利方面可以借鑒其他國家一些好的做法，在保護用戶使用陪護機器人的個人信息隱私安全方面與其他國家加強合作。另一方面，鑒于倫理價值觀念上存在的文化多樣性，我國陪護機器人倫理問題的應對也應基于自身的文化傳統(tǒng)和發(fā)展實際。正如《中國機器人倫理標準化前瞻（2019）》所提出的，“只有充分考慮世界文化的多元特征，中國機器人設計與應用的倫理導則才能得以妥善制定和良好施行”。[13]我國傳統(tǒng)文化一直將天地萬物看成一個聯(lián)系密切、休戚與共的共同體，強調(diào)“天人合一”，提倡“民胞物與”的人與萬物共生繁榮的思想境界。這對解決陪護機器人倫理問題具有一定借鑒意義。西方的機器人倫理標準往往是人類中心主義的，對人機關(guān)系持有非此即彼的態(tài)度，催生出人機關(guān)系緊張的倫理構(gòu)想；我國可以嘗試構(gòu)建去人類中心主義的機器人倫理標準體系，將機器人看作人類生活大系統(tǒng)中的一個有機構(gòu)成，推進人機共生繁榮。