伴侶機(jī)器人倫理缺陷分析

王玉雯

(蘇州科技大學(xué) 馬克思主義學(xué)院，江蘇 蘇州215009)

一、伴侶機(jī)器人的現(xiàn)狀

人工智能(英語為Artificial Intelligence，縮寫為AI)亦稱智械、機(jī)器智能，指由人制造出來的機(jī)器所表現(xiàn)出來的智能。通常它是一種通過普通計(jì)算機(jī)程序來呈現(xiàn)人類智能的技術(shù)。人工智能于一般教材中的定義是“智能主體(intelligent agent)的研究與設(shè)計(jì)”，智能主體指一個(gè)可以觀察周遭環(huán)境并作出行動以達(dá)致目標(biāo)的系統(tǒng)。簡單來說，人工智能就是由人制造的擁有觀察、學(xué)習(xí)、判斷并且根據(jù)判斷實(shí)施行動以達(dá)到目的的智能系統(tǒng)。美國電影《復(fù)仇者聯(lián)盟2：奧創(chuàng)紀(jì)元》中的奧創(chuàng)(英文Ultron)就是目前階段對人工智能所能期望的最大值：即一個(gè)綜合能力完善的強(qiáng)人工智能。

目前從運(yùn)輸計(jì)算到企業(yè)人事工作，運(yùn)用人工智能的行業(yè)越來越多。人工智能以其智能、高效、高速的優(yōu)勢，勢必會取代一部分人類去完成工作。目前被運(yùn)用于運(yùn)算和篩選等工作的人工智能被稱為弱人工智能或是中等人工智能，這兩類人工智能能力較為單一，還未擁有自主行動的能力。而在浩浩蕩蕩的科技熱潮的推動之下，人工智能的開發(fā)和研究逐漸進(jìn)入一個(gè)全新的階段——在現(xiàn)有的設(shè)定相應(yīng)程序、智能體執(zhí)行的模式中，進(jìn)一步在人工智能系統(tǒng)中加入情感反射系統(tǒng)，使其成為可以獨(dú)立思考和判斷的個(gè)體，即強(qiáng)人工智能。強(qiáng)人工智能是AI技術(shù)質(zhì)的進(jìn)步，彼時(shí)人工智能不再只是單一工作的從事者，而是擁有綜合能力的智能體，強(qiáng)人工智能也將擺脫傳統(tǒng)電線電池供能，取而代之的是太陽能供能，因此強(qiáng)人工智能的自主性將會大大增強(qiáng)，對人的依賴性則有較大減弱。更有將這種人工智能技術(shù)與外表類人度極高的普通玩偶或機(jī)器人結(jié)合在一起，成為一個(gè)可以與人互動的智能機(jī)器人。這種伴侶機(jī)器人目前已然在研究和優(yōu)化階段，甚至已經(jīng)開始投入試用。

伴侶機(jī)器人想法的提出和實(shí)施者Abyss Creations公司，擁有來自世界各地的龐大消費(fèi)者群體。近年來公司創(chuàng)始人馬特·麥克馬倫提出想法并開始將人工智能融合到玩偶中。目前第一階段的伴侶機(jī)器人已經(jīng)能夠?qū)崿F(xiàn)與人對話互動，也能夠做到包括眨眼在內(nèi)的所有面部肌肉活動。麥克馬倫第二階段的目標(biāo)將是實(shí)現(xiàn)機(jī)器人全身的自主運(yùn)動。第一階段的伴侶機(jī)器人是沒有“自主感情”的，他們的情緒和性格是通過預(yù)先的性格設(shè)定完成的。而第二階段的機(jī)器人則在智能系統(tǒng)中加入“情感系統(tǒng)”，即通過程序的植入，使機(jī)器人對觀察到的事物進(jìn)行輸入，然后系統(tǒng)進(jìn)行判斷輸出對應(yīng)的情緒反饋，產(chǎn)生一種“類情感”。與此同時(shí)，第一個(gè)加入了人工智能系統(tǒng)的伴侶機(jī)器人——哈莫尼，已經(jīng)進(jìn)入少部分用戶的測試使用中，并且預(yù)計(jì)在兩年內(nèi)投入生產(chǎn)和上市。①

二、 伴侶機(jī)器人的倫理爭議

伴侶機(jī)器人的出現(xiàn)，以及伴侶機(jī)器人“類情感”系統(tǒng)的研究和開發(fā)，使人工智能不再停留于機(jī)械工作和工業(yè)生產(chǎn)領(lǐng)域，而是成為與人類直接發(fā)生聯(lián)系的人類社會和家庭中的成員。這種前所未有的狀況必然會對傳統(tǒng)的社會結(jié)構(gòu)和倫理觀念產(chǎn)生極大的沖擊，于是，對于人工智能尤其是伴侶機(jī)器人的各方爭議日益激烈。

以麥克馬倫以及其產(chǎn)品受眾人群為代表的贊成派認(rèn)為，伴侶機(jī)器人的出現(xiàn)，無疑是運(yùn)用人類的技術(shù)給需要陪伴的人群提供他們所需要的情感依賴。在Abyss Creations公司的用戶采訪中，超過90%的人期待伴侶機(jī)器人的生產(chǎn)，并且表示之后想要擁有自己的“哈莫尼”(Harmony)。占比重最大的理由是他們在長時(shí)間的與人社交的過程當(dāng)中受到傷害或者無法找到適合自己的伴侶，但是有了娃娃的陪伴，削弱了他們的孤獨(dú)感。創(chuàng)始人麥克馬倫也非常支持這一觀點(diǎn)，他認(rèn)為人會在養(yǎng)寵物的過程當(dāng)中與寵物建立情感關(guān)系，有情感上的依賴。那么伴侶機(jī)器人作為更加接近于人的存在，人更容易對于伴侶機(jī)器人有真實(shí)的情感依賴，能夠真正地愛上伴侶機(jī)器人。①

另一部分贊成的人則表示，在現(xiàn)實(shí)生活中，有人因?yàn)闊o法找到一個(gè)理想型的伴侶造成心理缺陷，但伴侶機(jī)器人能讓這部分人彌補(bǔ)這種缺陷。無論是外表還是性格，都能通過自己的設(shè)定和調(diào)整讓伴侶機(jī)器人成為自己所喜歡的樣子，得到百分之百的理想伴侶。他們還表示，跟伴侶機(jī)器人建立戀愛關(guān)系要比和人類建立戀愛關(guān)系更加安定穩(wěn)定，更加能給他們帶來安全感。值得注意的是，還有極少一部分人在調(diào)查中表示，自己有特殊的性癖或者會有虐待傾向。有了伴侶機(jī)器人之后可以將這一部分危險(xiǎn)的行為在機(jī)器人身上實(shí)施，從而減少對真正的女性的傷害。這一理由也使得很多人對伴侶機(jī)器人的生產(chǎn)表示贊成，認(rèn)為這樣能夠減少對于女性的犯罪。

機(jī)器人與人工智能倫理學(xué)教授——凱瑟琳·理查森則反對這些觀點(diǎn)。她是伴侶機(jī)器人的堅(jiān)定反對者之一。凱瑟琳提出，伴侶機(jī)器人最為直接的問題在于物化女性身體，將女性的身體作為消費(fèi)對象，這是一種非常錯(cuò)誤的鼓勵(lì)。她并不認(rèn)為針對伴侶機(jī)器人的暴力會使得針對女性的暴力減少，相反，可能會由于這種間接的鼓勵(lì)方式而帶來更多的性暴力行為。

此外，最為重要的反對原因是，人與人之間的交往是社會生活中最為重要的部分，人們相互之間的社交是相互學(xué)習(xí)和交換經(jīng)驗(yàn)的過程，因此人與人的互動是伴侶機(jī)器人所不能替代的，伴侶機(jī)器人無論如何智能，其本身是個(gè)“被輸入體”，其認(rèn)知和經(jīng)驗(yàn)來自于人的前期設(shè)定和交流中對信息的采集。也就是說，伴侶機(jī)器人是沒有自己的社會經(jīng)驗(yàn)的。那么人在與伴侶機(jī)器人的相處和交流當(dāng)中，就無法實(shí)現(xiàn)信息和經(jīng)驗(yàn)交換，久而久之，個(gè)人便成為一個(gè)缺乏與社會聯(lián)系的封閉的交流圈。凱瑟琳提到：“人一旦陷入自己的封閉世界，不與真的人進(jìn)行交流，而只是消費(fèi)產(chǎn)品，只和產(chǎn)品發(fā)生關(guān)系，那么資本主義會更快地吞噬人類”。這時(shí)候的人便不可避免地成為單向度的人。

這些爭論的本質(zhì)問題在于人工智能機(jī)器人，尤其是要融入人類家庭社會關(guān)系中的伴侶機(jī)器人，在與人的交互過程當(dāng)中，以怎樣的社會地位存在，人與伴侶機(jī)器人要構(gòu)建怎樣的關(guān)系。這些問題都有其倫理的特殊性。再者，人工智能的發(fā)展是存在著風(fēng)險(xiǎn)的。人工智能技術(shù)的發(fā)展不同于尋常的科學(xué)技術(shù)。它與人發(fā)生直接的聯(lián)系，甚至人工智能會成為人類社會的成員，徹底改變現(xiàn)有的社會結(jié)構(gòu)。這樣一項(xiàng)技術(shù)的每一項(xiàng)風(fēng)險(xiǎn)都需要提前預(yù)知和規(guī)避，尤其是倫理層面的風(fēng)險(xiǎn)，更需要在風(fēng)險(xiǎn)轉(zhuǎn)化為事實(shí)危機(jī)之前，對人工智能技術(shù)進(jìn)行反思，在伴侶機(jī)器人成為普遍事實(shí)之前，為其研發(fā)和使用提供更加謹(jǐn)慎的態(tài)度和更加理性的討論環(huán)境。

三、伴侶機(jī)器人的倫理缺陷

除了凱瑟琳之外，也有眾多學(xué)者對人工智能向伴侶型機(jī)器人發(fā)展的趨勢提出技術(shù)上或者是倫理上的質(zhì)疑。伴侶機(jī)器人比起其他人工智能的特殊之處在于要與人類在身體和心靈上產(chǎn)生關(guān)系，甚至是進(jìn)入人類社會的家庭之中，成為家庭組成的一部分。這樣一來，就不可避免地對人類傳統(tǒng)的社會結(jié)構(gòu)和倫理觀念帶來巨大的沖擊。而沖擊的始源，就是使伴侶機(jī)器人擁有獨(dú)立的“情感系統(tǒng)”。

迄今為止情感系統(tǒng)，都被認(rèn)為是動物的特有屬性，其中又在人類身上尤為突出。情感是人對客觀事物是否滿足自己的需要而產(chǎn)生的態(tài)度體驗(yàn)。它與態(tài)度中的內(nèi)向感受、意向具有協(xié)調(diào)一致性，是態(tài)度在生理上一種較復(fù)雜而又穩(wěn)定的生理評價(jià)和體驗(yàn)。情感包括道德感和價(jià)值感，具體表現(xiàn)為愛情、幸福、仇恨、厭惡、美感等等。那么，對人工智能植入情感系統(tǒng)，雖然不能使人工智能擁有人類的情感，但是這會使其擁有觀察、判斷、反射組成的情感反應(yīng)系統(tǒng)，從而擁有一種“類情感”?！邦惽楦小钡漠a(chǎn)生通過對周遭事物的觀察并且傳輸?shù)街行南到y(tǒng)，再由中心系統(tǒng)中的情感系統(tǒng)進(jìn)行分析，最后輸出相應(yīng)的情緒反饋?？梢钥闯鋈斯ぶ悄堋邦惽楦小钡漠a(chǎn)生過程其實(shí)與人類的情感在大腦中的產(chǎn)生過程極為相似。而兩者的區(qū)別在于，人類情感產(chǎn)生的源頭是自身內(nèi)在的生理和心理的沖動，而機(jī)器人的情感源頭則是人類的技術(shù)。擁有情感系統(tǒng)的伴侶機(jī)器人是目前設(shè)想中最為理想的模型，也是用戶群體最為期待的，能夠滿足他們的情感需求。

伴侶機(jī)器人的“類情感”的產(chǎn)生過程和反饋過程與人類情感過程是極為相似的。那么在人機(jī)交互的過程當(dāng)中，首要的一步便是為伴侶機(jī)器人尋找到合適的道德地位。伴侶機(jī)器人的道德地位，決定了人類采取怎樣的態(tài)度去對待伴侶機(jī)器人。伴侶機(jī)器人與以往的人工智能和人造物的不同，為伴侶機(jī)器人尋找道德地位，無法從以往的案例中尋找較為可靠的依據(jù)。因此只能從現(xiàn)有的具體問題入手，逐一針對事實(shí)和社會中所持有的不同態(tài)度進(jìn)行分析。

第一個(gè)問題就是當(dāng)人對伴侶機(jī)器人產(chǎn)生情感依賴是因?yàn)檫@個(gè)伴侶機(jī)器人滿足了他某一方面或者多方面的需求。人們可以根據(jù)自己的需要隨意選擇伴侶機(jī)器人外表功能或者性格。當(dāng)機(jī)器人的外表不再滿足人的變化的審美的時(shí)候，就更換它的外表，亦或在性格上不再滿足個(gè)人的需求，就選擇重新植入想要的性格程序。這樣看起來貌似人與機(jī)器能維持一段理想而完美的關(guān)系，使人對于伴侶的期待能夠得到最大程度的滿足。

但是，在這樣的關(guān)系中，人機(jī)雙方真的是基于情感而產(chǎn)生的伴侶關(guān)系嗎？筆者認(rèn)為不然，這種情感依賴的基礎(chǔ)在于人工智能滿足了人的需求，同樣的，上文中用戶提到的“安全感”或是“舒適感”的來源，亦是如此。在這樣的關(guān)系中，伴侶機(jī)器人所扮演的角色并不是伴侶，而是工具。首先伴侶機(jī)器人作為人造物的本質(zhì)，能否到達(dá)與人類自然進(jìn)化而來的生理情感相同且是個(gè)疑問。再者這種“滿足”與“被滿足”的單向關(guān)系，不是也不能夠成為人類社會所鼓勵(lì)的伴侶關(guān)系。

哲學(xué)家漢斯·約納斯曾針對科學(xué)技術(shù)對于人類和自然的改造，提出責(zé)任倫理學(xué)思想。他認(rèn)為人類生存的威脅大多來自于人為的災(zāi)難，如戰(zhàn)爭、環(huán)境污染、由于生活方式造成的疾病、現(xiàn)代高科技帶來的災(zāi)難、思想觀念上的危險(xiǎn)等，而大多數(shù)災(zāi)難都與科學(xué)技術(shù)有關(guān)?！艾F(xiàn)代技術(shù)——它以對自然日益深化的滲透為特征，并受到市場與政治力量的推動——已經(jīng)把人的力量凌駕于一切已知或可以想象的東西之上?！盵3]203約納斯的這一觀點(diǎn)，與如今人類所面臨的局勢如出一轍。伴侶機(jī)器人既是人造物，但又絕不同于以往的人造物。在這個(gè)問題上人類首次站在了一個(gè)類似于造物主的位置。這種造物主的優(yōu)越感和對科學(xué)技術(shù)的狂熱，淡化了原本的憂患意識。有意無意的僥幸，也使得我們在面對新事物的時(shí)候，更加愿意著眼于積極有利的部分，而刻意避開缺陷。這樣一來，科技成了帶領(lǐng)人類走向?yàn)?zāi)難的開端。當(dāng)技術(shù)達(dá)到最為駭人聽聞的高度時(shí)，就是人類任意創(chuàng)造地球上的物種，完成對自然的最終征服，把人變成了技術(shù)的對象。通過技術(shù)復(fù)刻和模擬人類生理和心理結(jié)構(gòu)制造伴侶機(jī)器人的行為，就屬于其中的一種情況。[1]203

當(dāng)人類沉浸在使用機(jī)器人優(yōu)于人類的體能、速度、精確度等生理能力之后，又進(jìn)一步想要通過伴侶機(jī)器人來滿足人類自身的情感依賴。這些狂熱的目標(biāo)都是人類想要“把自己的進(jìn)化掌握在自己手里”的思想的反映。這樣的行為迫切需要倫理學(xué)的反思和質(zhì)疑——人類有資格扮演造物主的角色嗎？人類的自然凈化過程是一個(gè)緩慢而耐心的過程。從四肢行走到直立行走，從茹毛飲血的原始時(shí)期再到輝煌的文明時(shí)代，每一個(gè)時(shí)期的經(jīng)歷遠(yuǎn)遠(yuǎn)不是在書本當(dāng)中的一小段文字，每一次質(zhì)的改變都是千萬年甚至億萬年量的積累所得來的。因此自然凈化的過程絕不是簡單的社會和技術(shù)的進(jìn)步，更重要的是在漫長的優(yōu)勝劣汰的過程當(dāng)中，人類的生理經(jīng)歷過無數(shù)次與自然的磨合。人類的意識，也逐漸成為這個(gè)過程當(dāng)中文化積淀和背景的綜合體。最重要的是，人類的道德和倫理體系是在這個(gè)緩慢的過程當(dāng)中形成并且傳承的，這樣一種道德體系，很難通過技術(shù)的整合，輸入將要成為人類伴侶的機(jī)器人。[1]205

隨著現(xiàn)代技術(shù)的進(jìn)步，經(jīng)歷幾十年，人類就能利用技術(shù)制造出高度模擬人類外觀和行為的伴侶機(jī)器人，而且這個(gè)時(shí)間會隨著技術(shù)的進(jìn)步而逐漸縮短。現(xiàn)代技術(shù)的“進(jìn)化”使得進(jìn)化過程大為縮短，對于科技的狂熱和對這個(gè)宏大的事業(yè)的期待，使得人類不再容忍耐心和緩慢，壓縮了進(jìn)化的許多細(xì)碎步子。[2]所有研究者都爭先恐后地想要得到質(zhì)的進(jìn)步，使用者和消費(fèi)者渴望看到人類創(chuàng)造的最高級的智能體，科技興奮和對突破人類自身限制的渴望，讓我們有了對伴侶機(jī)器人的盲目期待。

四、結(jié)語

在筆者寫下這篇文章之時(shí)，人工智能的時(shí)代其實(shí)已然來領(lǐng)。這其實(shí)并不全然是一件壞事，筆者的這篇文章也絕不是想要反對這一趨勢。如前文所提到的，人工智能確實(shí)在體能、速度、運(yùn)算、記憶等很多方面突破了人類自身的局限，人工智能的加入也使得人類社會的發(fā)展有了全新的可能。但是這些可能當(dāng)中，不包括伴侶機(jī)器人。伴侶機(jī)器人的特殊性，使其不能與其它單一能力的工作機(jī)器人一概而論。

伴侶機(jī)器人在一段親密社交關(guān)系中取代了真人的位置，本身作為被輸入體的它，阻隔了人與人之間的經(jīng)驗(yàn)互換；其次因?yàn)榘閭H機(jī)器人高度類人的特點(diǎn)，在人與其相處的過程當(dāng)中，模糊了人機(jī)的邊界，與人類交往時(shí)的習(xí)慣會帶到人機(jī)交往當(dāng)中，而和機(jī)器人的相處模式也必然會影響與真實(shí)人類的相處；再次，就目前而言，人類對于伴侶的渴望和依賴出發(fā)點(diǎn)是滿足自我某一方面需求，如此就決定了在這樣一段關(guān)系中，人機(jī)是處于不平等地位的，絕對的滿足與被滿足的關(guān)系使得伴侶機(jī)器人并沒有獲得“伴侶”的地位，而實(shí)質(zhì)上只是工具。[3]

這樣的一種不平等、不健康的相處模式和伴侶關(guān)系是現(xiàn)代文明所不應(yīng)當(dāng)鼓勵(lì)的；最后，人類經(jīng)過億萬年的進(jìn)化至今，依然未能克服很多人性上的缺陷，那么人類又何以成為“造物主”去創(chuàng)造一個(gè)類似于人的新“物種”來加入人類社會呢？道德認(rèn)識決定了道德觀念，道德觀念總要轉(zhuǎn)化為道德行為實(shí)踐，而道德行為則需要道德知識。[4]這其中的任何一個(gè)環(huán)節(jié)出現(xiàn)問題，都可能造成道德的崩塌。人類幾乎不可能讓伴侶機(jī)器人擁有人類的道德，也不能使其在交往過程當(dāng)中做出符合人類社會的道德判斷。在這樣的情況之下就貿(mào)然讓伴侶機(jī)器人成為人類社會甚至是人類家庭中的一份子，與人類親密接觸，無疑是一個(gè)巨大的冒險(xiǎn)。

綜上，伴侶機(jī)器人無論是開發(fā)和研究，還是在與人交際，被人使用的過程當(dāng)中，其本身都是存在倫理缺陷的。在全力以赴取得技術(shù)突破之前，解決這些倫理上的缺陷恐怕才是當(dāng)務(wù)之急。否則也許真的如霍金所言：“成功制造出人工智能機(jī)器人將可能成為我們歷史上最后一個(gè)里程碑”[5]。

注釋：

①資料系筆者根據(jù)騰訊出品的新聞采訪節(jié)目紀(jì)錄片《明天之前》第一集整理而得?！睹魈熘啊芳o(jì)錄片的網(wǎng)址為：http://v.qq.com/detail/d/d08f9goqdsj398h.html.