《克拉拉與太陽》的人機(jī)倫理問題研究

汪慶子

《克拉拉與太陽》是石黑一雄（Kazuo Ishiguro，1954—）最新出版的描寫人工智能機(jī)器人題材的小說。石黑一雄以機(jī)器人克拉拉的視角，展現(xiàn)了專為陪伴兒童而設(shè)計(jì)的AF（Artificial Friend，人工朋友）進(jìn)入人類社會(huì)生活后遇到的一系列問題。小說中有一兩項(xiàng)科學(xué)技術(shù)的突破性發(fā)展比現(xiàn)實(shí)世界實(shí)現(xiàn)得更早，其中機(jī)器人技術(shù)是小說討論的重要內(nèi)容，作者由此展開對科技、人性和倫理等問題的思考，以未來審視當(dāng)下。本文借助文學(xué)倫理學(xué)批評研究擬對此論題加以探討，旨在揭示高科技快速發(fā)展所反映的深刻的倫理內(nèi)涵，以及從人類中心主義的倫理觀出發(fā)，很難建立和諧穩(wěn)定的人機(jī)倫理關(guān)系，從而思考在科學(xué)選擇的新時(shí)代人機(jī)共存如何才有可能。

一、人機(jī)倫理世界：人工朋友與重組社會(huì)

《克拉拉與太陽》描繪了一個(gè)高度技術(shù)化的社會(huì)，小說中既有“超級(jí)智能的”機(jī)器人幫助人類擺脫孤獨(dú)，也有各式各樣尚在發(fā)展的高端技術(shù)，然而人類在利用科技加速征服世界的現(xiàn)代化進(jìn)程中，自身也遭到科技的反噬。

首先，人類為消除孤獨(dú)感，便通過“科學(xué)選擇”制造人工朋友來陪伴孩子。所謂科學(xué)選擇，是指人類文明在完成倫理選擇后，目前正在進(jìn)行和即將進(jìn)行的選擇。聶珍釗教授指出，科學(xué)選擇解決科學(xué)與人的結(jié)合問題，主要強(qiáng)調(diào)三個(gè)方面：“一是人如何發(fā)展科學(xué)和利用科學(xué)；二是如何處理科學(xué)對人的影響及科學(xué)影響人的后果；三是應(yīng)該如何認(rèn)識(shí)和處理人同科學(xué)之間的關(guān)系?！敝魅斯死屯閭冏鳛槿斯づ笥讯恢圃斐鰜?，不僅具備一般人形機(jī)器人的特征和性能，還具有更多更優(yōu)秀的能力，并無私地以自己的種種能力服務(wù)于人類。他們有著與人類無異的外形，比如克拉拉像法國人，有著顏色很深的短而利落的頭發(fā)，還有“一雙最最善良的眼睛”。日本學(xué)者森政弘（Masahiro Mori）曾提出“恐惑谷”理論。該理論表明，機(jī)器人的外形與行為跟人類越是接近，人類越容易對其產(chǎn)生親和感；而當(dāng)這種正面的情感達(dá)到一定的峰值后，隨著相似度不斷提高，人類反而會(huì)對他們產(chǎn)生莫名的惶惑，形成所謂“恐惑谷”。從喬西對克拉拉外貌的評價(jià)，以及大街上隨處可見的一個(gè)孩子身邊跟著一個(gè)AF 的情況來看，人工朋友的外觀設(shè)計(jì)顯然消除了人類“恐惑谷”的心理障礙，不至于因外形產(chǎn)生機(jī)器人與人類溝通交往的消極影響。同時(shí)，AF 們聰明且熱情，真誠又體貼，克拉拉具有出色的共情能力和學(xué)習(xí)能力，以及善良、體貼、無私的美好品質(zhì)。喬西向克拉拉承諾會(huì)把克拉拉帶回家后卻遲遲沒有出現(xiàn)，善良的克拉拉謹(jǐn)遵兩人的約定，一直等待著喬西?？死€能敏銳地察覺出人類的恐懼、憤怒等情緒，能透過喬西的表情、語言、動(dòng)作等感受到她的喜怒哀樂，能無微不至地關(guān)懷生病中的喬西。然而，具備“類人”品質(zhì)的克拉拉還是無法獲得人們的認(rèn)同，梅拉尼婭管家始終對其態(tài)度惡劣，里克的母親海倫質(zhì)疑其是否是臺(tái)真空吸塵器，卡帕爾迪先生僅僅將其當(dāng)作科學(xué)實(shí)驗(yàn)的研究對象。因而，從科學(xué)選擇的角度來看，克拉拉等人工智能機(jī)器人與生俱來的目的性和工具性使其不會(huì)被人類社會(huì)所認(rèn)可，機(jī)器人作為人類工具的原初地位從未改變。

其次，小說還描繪了科技發(fā)展之下城市和鄉(xiāng)村的種種景觀，處處顯示這是一個(gè)正面臨巨大變革的重組社會(huì)。城市里，到處都是望不見頂?shù)母邩谴髲B，遮蔽住了太陽光的照射，行人走到了陰影里；制造污染的庫廷斯機(jī)器發(fā)出滾滾濃煙，還有惱人的噪音。鄉(xiāng)村看似保有自然和寧靜，實(shí)際上，父親保羅曾經(jīng)工作的制冷村荒廢在鄉(xiāng)野，克拉拉眼中可怕的“基因?！钡榷荚诎凳距l(xiāng)村也無可避免地受到科技的入侵?；蚋牧技夹g(shù)也已成為這個(gè)社會(huì)普遍認(rèn)可的改造手段，但喬西的姐姐在接受改造后過世，喬西也因此患病，接受改造甚至成了一道入學(xué)的“門檻”，里克因未接受改造而受到嘲弄且無法進(jìn)入夢想的學(xué)府。

無論是人工朋友的生產(chǎn)制造，還是其他機(jī)器或技術(shù)的極速發(fā)展，最終都指向科學(xué)技術(shù)的異化與技術(shù)理性的膨脹，而這無疑是人類中心主義的產(chǎn)物，在此之下，克拉拉會(huì)有何種經(jīng)歷，又會(huì)做出何種選擇？

二、人機(jī)倫理困境：人類中心主義倫理觀

克拉拉短暫的一生可以分為兩個(gè)階段：商店櫥窗階段，與喬西及其家人生活階段。在前一階段，克拉拉和其他AF 一樣，只需待在自己的位置上觀察學(xué)習(xí)，等待被孩子買回家。來到喬西家后，克拉拉成為一個(gè)名副其實(shí)的AF，陪伴在喬西左右，擔(dān)負(fù)起照顧喬西的任務(wù)。起初，克拉拉一直忠實(shí)地履行作為AF 最基本的職責(zé)，當(dāng)喬西被病痛折磨時(shí)，克拉拉守護(hù)在她的床前，時(shí)刻關(guān)注她的狀態(tài)；當(dāng)喬西和里克鬧別扭時(shí)，又幫助他們重歸于好等等。但是隨著喬西的健康每況愈下，克拉拉所需承擔(dān)的職責(zé)似乎遠(yuǎn)遠(yuǎn)超過了本職?？ㄅ翣柕舷壬莱雠c母親克麗西共謀為喬西“畫肖像”的真實(shí)目的：“我們不僅僅是要求你模仿喬西的外在行為。我們還要請你延續(xù)她?！痹瓉恚瑹o論是第一次見面時(shí)克麗西要求克拉拉模仿喬西走路，還是摩根瀑布之行時(shí)要求克拉拉以喬西的口吻與她對話，以及后來特意為克拉拉安排的對喬西了解程度的測試，目的都是讓克拉拉更好地“延續(xù)”（continuation）喬西。作者在此處將小說推向高潮，擺在克拉拉面前的是要不要“成為喬西”的艱難抉擇。

眾所周知，在西方科幻小說史上，美國科幻作家艾薩克·阿西莫夫（Isaac Asimov）提出了著名的“機(jī)器人學(xué)三大法則”，并在其“機(jī)器人系列”小說中塑造了許多人類的朋友、幫手和忠實(shí)奴仆等機(jī)器人形象，改變了此前科幻文學(xué)中人對機(jī)器人害怕恐懼的描寫?！叭蠓▌t”的具體內(nèi)容是：“一、機(jī)器人不得傷害人類，或因不作為而使人類受到傷害。二、除非違背第一法則，機(jī)器人必須服從人類的命令。三、在不違背第一及第二法則的情況下，機(jī)器人必須保護(hù)自己。”簡單說來就是，機(jī)器人不得傷害人類，機(jī)器人必須服從人類的命令，機(jī)器人可以自保但前提是不得傷害人類，其中第一法則絕對優(yōu)先?！鞍⑽髂虻呢暙I(xiàn)是巨大的，其后的文學(xué)作品，如果不是專門討論人工智能倫理問題，基本都會(huì)遵循該定律來敘述?！笨死葯C(jī)器人也遵循該定律，作為AF 的克拉拉從未違背過第一法則，此刻卻面臨違背“三大法則”的困境。也就是說，如果克拉拉答應(yīng)母親的請求，則成全了她對喬西的“延續(xù)”，但這樣就違背了第一法則，因?yàn)榭死俺蔀閱涛鳌钡耐瑫r(shí)也意味著喬西的生命走向了盡頭，作為機(jī)器人的克拉拉無論如何也不會(huì)讓這樣的事情發(fā)生。另一方面，如果拒絕請求，則又違背了第二法則，同時(shí)太陽是否愿意為喬西獻(xiàn)出特殊關(guān)照是不確定的，同樣可能使喬西遭受危險(xiǎn)。

借助文學(xué)倫理學(xué)的術(shù)語來解釋，此時(shí)的克拉拉陷入了倫理困境，又稱倫理兩難。“倫理兩難即倫理悖論。倫理兩難由兩個(gè)道德命題構(gòu)成，如果選擇者對它們各自單獨(dú)地做出道德判斷，每一個(gè)選擇都是正確的，并且每一個(gè)選擇都符合普遍道德原則。但是，一旦選擇者在二者之間做出一項(xiàng)選擇，就會(huì)導(dǎo)致另一項(xiàng)違背倫理，即違背普遍道德原則?！泵鎸@般困境，克拉拉完美踐行了暗含人類中心主義的“三大法則”，不惜貢獻(xiàn)出自己體內(nèi)的溶液以毀壞產(chǎn)生污染的庫廷斯機(jī)器，又執(zhí)拗地尋求太陽的特殊關(guān)照，都只為幫助喬西恢復(fù)健康。但石黑一雄并未止步于此，其筆下的克拉拉更有著對“三大法則”的突破與超越，那就是克拉拉意識(shí)到喬西身上有著一樣特別的而自己無法替代的東西，“母親、里克、梅拉尼婭管家、父親——我永遠(yuǎn)都無法觸及他們在內(nèi)心中對于喬西的感情”。克拉拉并非出于對第一法則的絕對服從才不顧一切地拯救喬西，而是因?yàn)樗刈o(hù)這份愛。最終，喬西在太陽的照耀下奇跡般地起死回生。在克拉拉對喬西“固執(zhí)”的愛與守護(hù)中，看到的是克拉拉身上集中了人類天性中最值得贊頌的部分，成為“愛”的絕對象征。

病愈后的喬西如愿奔赴理想的學(xué)府，而完成“任務(wù)”后的克拉拉卻獨(dú)自走向滿是機(jī)器人的堆場，在那里克拉拉看到了無數(shù)的同伴，他們同樣失去價(jià)值，正慢慢凋零，可見如此“超級(jí)智能的”機(jī)器人仍未能擺脫悲慘的命運(yùn)。那么，當(dāng)一個(gè)人與機(jī)器共處的時(shí)代必定來臨時(shí)，兩者如何才能實(shí)現(xiàn)真正的共存？

三、人機(jī)倫理反思：人機(jī)共存的可能性

在科學(xué)選擇的新時(shí)代，人類與機(jī)器人共存已成為不可回避的問題，石黑一雄曾表達(dá)對人工智能發(fā)展的擔(dān)憂：“在拐彎處——我們是否已經(jīng)轉(zhuǎn)危為安了？——是科學(xué)、技術(shù)和醫(yī)學(xué)的驚人突破所帶來的挑戰(zhàn)。新的遺傳技術(shù)，如基因編輯技術(shù)CRISPR，以及人工智能和機(jī)器人技術(shù)的進(jìn)步將為我們帶來令人驚嘆的、拯救生命的益處，但也可能造成類似種族隔離制度的野蠻的精英統(tǒng)治社會(huì)，以及大規(guī)模失業(yè)的問題，甚至于當(dāng)前的行業(yè)精英們也將瀕臨失業(yè)?！币虼耍髡咴谛≌f中反思了人類中心主義觀念下人機(jī)共存可能帶來的問題。

一方面，機(jī)器人不僅侵占了人類的生存空間，而且剝奪了越來越多人類工作的機(jī)會(huì)，對于在勞動(dòng)與工作中獲得滿足感與認(rèn)同感的人來說，意味著勞動(dòng)與工作信仰的降低，以及對榮譽(yù)和價(jià)值欲望的喪失，就像小說中喬西的父親保羅被AI 取代，最后只能自我安慰“被替代是我遇到的一件最好的事情”。另一方面，當(dāng)人工智能比人類強(qiáng)大得多的時(shí)候，人類對其“有一種十分普遍而且不斷滋長的擔(dān)憂”，“他們害怕，是因?yàn)樗麄円呀?jīng)不能理解那里面是如何運(yùn)作的了”，所以機(jī)器人遭到人類的仇視與攻擊，不斷被拆開檢查，但實(shí)質(zhì)性的問題卻始終沒有得到解決。

人與機(jī)器人共存本就是一個(gè)復(fù)雜的問題，其根源就在于人類中心主義的倫理觀所存在的弊端，那么如何打破這個(gè)禁錮，建立和諧穩(wěn)定的人機(jī)共存世界，石黑一雄自然不會(huì)為此提供簡單的答案。但作者賦予克拉拉獨(dú)特的情感特質(zhì)，通過克拉拉對“人心”的發(fā)現(xiàn)，讓讀者看到一個(gè)可謂是“真正的人”的機(jī)器，所以人工智能和機(jī)器人技術(shù)并非是對人類的徹底否定，恰恰是科學(xué)選擇時(shí)代里對人類未來走向的追問。盡管人工智能給人類生活和本質(zhì)帶來巨大挑戰(zhàn)，但可以肯定的是，“人心”的特殊價(jià)值是任何機(jī)器都無法替代的。康德曾說：“對動(dòng)物殘忍的人在處理他的人際關(guān)系時(shí)也會(huì)對他人殘忍。我們可以通過一個(gè)人對待動(dòng)物的方式來判斷他的心腸是好是壞?！蓖耆梢該?jù)此推論，在人機(jī)共存的未來時(shí)代里，人類對于機(jī)器人的傷害行為也會(huì)導(dǎo)致對其同胞的傷害，人類對待機(jī)器人的態(tài)度將成為評價(jià)人性善惡的標(biāo)準(zhǔn)之一。

世界千變?nèi)f化，愛卻始終是最為堅(jiān)實(shí)的內(nèi)核，克拉拉便擁有這樣真誠的核心，她不僅僅是機(jī)器，更是一個(gè)太陽，以自己的光芒溫暖著世人，并告訴世人：無論世界如何發(fā)展，身份如何改變，都要守護(hù)好自己的“人心”。

四、結(jié)語

比爾·蓋茨在談及《克拉拉與太陽》時(shí)說道：“這本書讓我思考擁有超級(jí)智能機(jī)器人的生活會(huì)是怎樣的——以及我們是否會(huì)將這些機(jī)器視為技術(shù)的一部分，還是更多的東西?！笔谝恍垡宰骷业娜说乐髁x關(guān)懷，借助文學(xué)的想象力對人類與機(jī)器人的關(guān)系提出前瞻性設(shè)想，既反對技術(shù)至上的唯理主義，又反對以人類為中心的倫理取向，由此為讀者帶來思考與啟示：給人類生存造成威脅的不是技術(shù)本身，而是人類對待和使用科技的態(tài)度與方式；若要建立一個(gè)和諧穩(wěn)定的人機(jī)共存世界，必須擯棄以人類為中心的倫理觀，人機(jī)和諧關(guān)系建立的基礎(chǔ)不在于機(jī)器人究竟是不是“人”，而在于人類以怎樣的眼光和方式看待與對待他們，這不僅是一個(gè)科學(xué)選擇，更是一個(gè)倫理選擇。