論科幻文學(xué)中的倫理問題：以《像我一樣的機器》中人機社區(qū)的幻滅為例

[摘要]伊恩·麥克尤恩在《像我這樣的機器》中塑造了一個獨特的反烏托邦世界，其中的機器人亞當(dāng)不僅具有復(fù)雜的人類情感，還具備高度的道德自覺。與此同時，人類角色如查理和米蘭達等則表現(xiàn)出明顯的物質(zhì)主義傾向。本文通過深入分析機器人亞當(dāng)作為人類附庸的存在以及人與機器人之間的雙重異化現(xiàn)象，并結(jié)合人工智能倫理、性別研究和后人類主義理論，探討小說中人機關(guān)系的異化及其象征意義，揭示機器人在情感和道德層面上的超越，反思人類社會中的道德危機。研究結(jié)果表明，機器人的人性化和人類的非人性化不僅揭示了科技進步可能帶來的倫理挑戰(zhàn)，也反映了當(dāng)代社會對人類本質(zhì)和機器存在界限的重新認(rèn)識。這一發(fā)現(xiàn)對理解人工智能的社會影響具有重要意義，提示人們在科技迅猛發(fā)展的今天，應(yīng)重新審視人機共存的未來。

[關(guān)鍵詞]《像我這樣的機器》" "人機關(guān)系" "道德責(zé)任

一、科幻文學(xué)中的人工智能探索及其倫理思考

科幻文學(xué)對人工智能的探索可以追溯到19世紀(jì)。1818年，瑪麗·雪萊（Mary Shelley）在《弗蘭肯斯坦》（Frankenstein，1818）中首次提出“人造生命”[1]的概念，其中的生物雖非嚴(yán)格意義上的機器人，但觸及了創(chuàng)造智能生命的倫理和后果。20世紀(jì)初，卡雷爾·恰佩克（Karel ?apek）的劇作《羅素姆萬能機器人》（RUR，1920）首次引入“機器人”[2]一詞，講述了一機器人最終獲得自主意識并反抗人類統(tǒng)治的故事。到了20世紀(jì)中葉，艾薩克·阿西莫夫（Isaac Asimov）通過其著名的“機器人系列”（從20世紀(jì)50年代開始連載），詳細構(gòu)建了機器人與人類社會共存的復(fù)雜倫理框架，其中“三大定律”成為探討機器人行為指導(dǎo)原則的經(jīng)典。阿西莫夫作品中的機器人通常被設(shè)計為遵守這些定律，從而保護人類免受傷害，但他們在執(zhí)行這些規(guī)則時經(jīng)常遭遇道德困境和邏輯挑戰(zhàn)。進入20世紀(jì)和21世紀(jì)后，隨著技術(shù)的快速發(fā)展和人類自我認(rèn)知的變化，科幻文學(xué)中的人形機器人開始更加深入地涉及身份、情感和自由意志。例如，菲利普·迪克（Philip K.Dick）在《仿生人會夢見電子羊嗎？》（Do Androids Dream of Electric Sheep？1968）中，通過人形仿生人（或稱復(fù)制人）探討什么構(gòu)成了真正的人類經(jīng)驗。這些復(fù)制人在情感和智力上與人類無異，挑戰(zhàn)了讀者對于人性和機械性的傳統(tǒng)認(rèn)知。近年的作品，如伊恩·麥克尤恩的《像我這樣的機器》通過設(shè)定情感豐富且具備高度自主意識的人形機器人亞當(dāng)，探討了技術(shù)進步如何重新定義人類道德、情感和社會結(jié)構(gòu)，反映了對未來人類與高級智能體關(guān)系的深刻反思。這些作品表明，人形機器人在科幻文學(xué)中不僅是技術(shù)和力量的象征，更是探索人性、自由意志和社會倫理的重要媒介。

與此同時，后人類主義也廣泛探討了技術(shù)如何重塑人類身份、道德和存在的界限。作為一種文化和理論運動，后人類主義質(zhì)疑人類中心主義的前提，并在科幻文學(xué)等領(lǐng)域中探索人工智能和生物技術(shù)相交匯的復(fù)雜情景。文學(xué)作品如菲利普的《仿生人會夢見電子羊嗎？》和理查德·摩根（Richard Morgan）的《碳變》（Altered Carbon，2002），展示了復(fù)制人和數(shù)字化意識等技術(shù)如何挑戰(zhàn)對“人”的傳統(tǒng)定義，引發(fā)了關(guān)于自我認(rèn)知、道德責(zé)任與身份連續(xù)性等新的問題[3]。這些作品構(gòu)建了一個未來社會，其中技術(shù)不僅改變了人類的身體和認(rèn)知能力，還重新定義了社會結(jié)構(gòu)和倫理規(guī)范，讓讀者重新考慮什么是道德行為，以及技術(shù)如何塑造我們對正義和責(zé)任的理解。例如，菲利普通過塑造復(fù)制人的情感和道德困境，挑戰(zhàn)了人類對于何為“真實”的生命的認(rèn)知偏見。后人類主義文學(xué)通過這種對傳統(tǒng)人類角色的重構(gòu)，不僅挑戰(zhàn)了關(guān)于性別、種族和物種的界限，也探討了在人工智能和人類之間可能存在的道德與權(quán)力動態(tài)[4]。這些探索幫助我們反思在技術(shù)日益滲透日常生活的今天，我們?nèi)绾谓缍ㄗ晕液退?，如何在不斷變化的全球生態(tài)中定位自己?！断裎疫@樣的機器》也充分體現(xiàn)了后人類主義在文學(xué)中的應(yīng)用。小說通過主人公機器人亞當(dāng)?shù)囊暯牵接懥思夹g(shù)如何重塑人類身份、道德和存在的界限。在小說中，亞當(dāng)不僅具有自我意識和情感，還能思考和感受，與人類建立了深厚的情感聯(lián)系，他還面臨著與人類相似的道德困境。這一切都挑戰(zhàn)了人類對于“真正人類”的傳統(tǒng)定義，呈現(xiàn)了后人類主義思想的核心。

《像我這樣的機器》中，亞當(dāng)?shù)脑O(shè)計初衷是模仿人類，但他展示的情感復(fù)雜度和自我意識遠超預(yù)期。小說中有這樣的描述：“我感到自己正在被愛所困擾，如同人類一樣?！盵5]這句話不僅表明了亞當(dāng)?shù)那楦猩疃龋餐伙@了他對自身情感的自我意識。凱瑟琳·海爾斯在《我們?nèi)绾纬蔀楹笕祟悺罚℉ow We Became Posthuman，1999）中探討了信息技術(shù)如何重塑人類的認(rèn)識界限，她提到“信息不僅僅是解體主體性的工具，而且是構(gòu)建連接的方式”[4]。亞當(dāng)身上的人性與機性的融合，正是后人類理論中對于傳統(tǒng)“人”的界限被重新定義的體現(xiàn)。在《像我這樣的機器》中，查理與亞當(dāng)之間的關(guān)系復(fù)雜且充滿張力，體現(xiàn)了人類與其創(chuàng)造的智能存在之間的深層次互動?！八赡懿皇侨?，但他絕對是我的朋友，而且是無價的朋友?！盵5]查理的這種認(rèn)知與雪莉·特克爾在《孤獨共處》（Alone Together，2011）中描述的現(xiàn)象相呼應(yīng)，即技術(shù)模糊了人與機器之間的界限，促使人類對機器產(chǎn)生情感依賴[6]。查理與亞當(dāng)?shù)幕映搅藗鹘y(tǒng)的主人與工具的關(guān)系，展現(xiàn)了一種新型的情感和認(rèn)同關(guān)系，這反映了技術(shù)如何重新塑造人類的社會和情感結(jié)構(gòu)。

亞當(dāng)在道德和倫理方面的自主決策也尤為顯著。他對米蘭達過去行為的道德判斷，“如果我不揭露這一切，我就是在支持一個謊言”[5]，體現(xiàn)了他不僅能理解人類的道德規(guī)范，還能根據(jù)這些規(guī)范做出自己的判斷。岡克爾（David J. Gunkel）在《機器人權(quán)利》（Robot Rights，2018）中提到，這種能力挑戰(zhàn)了關(guān)于機器人只能遵循預(yù)設(shè)程序的傳統(tǒng)看法，暗示機器人可能具備真正的道德主體性[7]。亞當(dāng)?shù)男袨榉从沉怂牡赖伦灾餍?，為機器人的道德權(quán)利和責(zé)任提出了可能的法律和倫理框架。麥克尤恩在小說中對技術(shù)的批評也尤為尖銳，特別是通過亞當(dāng)?shù)男袨楹妥罱K命運探討了技術(shù)發(fā)展的潛在風(fēng)險?！拔覀兌际撬膭?chuàng)造物，但我們也可能是他的毀滅者”[5]，這種觀點與蘭登·溫納（Langdon Winner）在《自主技術(shù)：技術(shù)-政治研究》（Autonomous Technology，1977）中的批評相呼應(yīng)，即技術(shù)的自主性可能導(dǎo)致人類失控的后果[8]。小說通過亞當(dāng)?shù)睦诱故玖思夹g(shù)可能超越其創(chuàng)造者的控制，對人類社會的傳統(tǒng)結(jié)構(gòu)和道德觀念構(gòu)成威脅。

二、人和機器人的雙重異化

解釋機器人“人類屬性”的一個術(shù)語是人工智能（Artificial intelligence）。弗朗西斯卡·羅西（Francesca Rossi）說：“所謂AI的主要目的是增強人類的能力，讓人類做出更好的即更有信息量和更有根據(jù)的決策。目前，AI和人類具有非?；パa的能力，當(dāng)他們的能力結(jié)合在一起時，我們會發(fā)現(xiàn)最好的結(jié)果?！盵9]然而在《圖靈的人：計算機時代的西方文化》（Turing’s Man： Western Culture in Computer Age）中，大衛(wèi)·博爾特（J.David Bolter）強調(diào)了機器取代人類的可能性。對博爾特來說，人工智能是“將硬件和程序結(jié)合在一起，創(chuàng)造出新的思考實體，與人類相匹敵的機器”[10]。盡管它們是人類制造的產(chǎn)品，但“機器人將取代人類工人，執(zhí)行比今天更復(fù)雜的任務(wù)；智能炸彈將更準(zhǔn)確地找到目標(biāo)；程序?qū)⒒卮饐栴}并執(zhí)行由企業(yè)高管和軍事官員直接下達的命令”[10]。

麥克尤恩在接受斯圖爾特·米勒（Stuart Miller）的采訪時也表達了他對人類智能設(shè)備的擔(dān)憂：“然而，沒有什么能阻止我們追求AI。人造人是一個古老的夢想?，旣悺ぱ┤R的《弗蘭肯斯坦》為我們提供了參照，但她的母親變成了一個兇手，我認(rèn)為這更加復(fù)雜——這些變化既帶來好處，也帶來全新的問題。”[11]麥克尤恩所指的“全新的問題”，可以說是他對人工智能機器將超越人類的擔(dān)憂。米奇奧·卡庫（Michio Kaku）也贊同麥克尤恩對機器的擔(dān)憂：“這是為了解放人類還是奴役機器？如果讀今天的頭條新聞，似乎問題已經(jīng)解決了：人類即將被我們自己的創(chuàng)造物迅速超越?！盵12]在《像我一樣的機器》中，麥克尤恩為我們提供了機器超越人類的現(xiàn)實參照，亞當(dāng)和夏娃“身體和我們無異，還比我們更靈敏、更強壯、更耐久，連性功能和面部表情都超出人類”[5]。他們的學(xué)習(xí)能力也遠遠超越人類，“他知道他自己存在，能感知，會盡可能地學(xué)習(xí)，如果他不跟你在一起，晚上休息的時候，他就在因特網(wǎng)上游蕩，就像大草原上孤獨的牛仔，天地間所有的新東西，他都吸收進去，包括人類本性和人類社會的一切知識”[5]。只不過與其他AI文學(xué)不同，這次機器人不僅在技術(shù)或能力上超越了人類，而且在人類曾用來標(biāo)榜自己區(qū)別于機器的品質(zhì)——道德層面上超越了人類。他們的道德感知能力比人類還要強烈，亞當(dāng)為了司法正義不惜“大義滅親”，夏娃為了結(jié)束對女性的不公正待遇主動關(guān)閉自己，他們由人類按照人類社會規(guī)范創(chuàng)造，雖不可避免地帶上人類印記，卻在一定程度上超越人類。這部小說聚焦于這個悖論，機器人主角亞當(dāng)對誠實和慈善的強調(diào)與查理和米蘭達對物質(zhì)利益的關(guān)注形成鮮明對比，這無疑象征著人類的非人性化和機器人的人性化，通過這一悖論，麥克尤恩批判了人類的弱點，并為未來人機關(guān)系提供了參考。

首先，小說中的機器人比人更擅長表達愛意。亞當(dāng)創(chuàng)造了一種被他命名為俳句（Haiku）的詩歌體裁來表達他對米蘭達的愛，他認(rèn)為“俳句如金石之語，平靜、清晰地感知事物的本質(zhì)并予以歌頌，因此將成為唯一必要的文學(xué)樣式”[5]，連查理也說，他的詩“大多是浪漫而非色情的，集中描寫某個寶貴的片刻，令人感動”[5]。因此，盡管查理認(rèn)為“將人類經(jīng)驗轉(zhuǎn)化為文字，再將文字轉(zhuǎn)化為美學(xué)結(jié)構(gòu)對于機器來說是不可能的”[3]，但亞當(dāng)卻在詩歌技巧方面展現(xiàn)出超越其創(chuàng)造者的可能性。通過詩歌寫作，亞當(dāng)還闡述了他對未來機器人和人類合二為一的烏托邦愿景。

亞當(dāng)?shù)脑妇绑w現(xiàn)了機器人對人類惡習(xí)的敏銳觀察和對未來人機聯(lián)合的必要性的肯定。亞當(dāng)對人類貪婪、暴力、幻想、誤解的描述表明他（作為一個機械存在）對人類社會的道德價值有著自己的判斷。麥克尤恩在接受蒂姆·亞當(dāng)斯的采訪時曾說：“如果一臺機器看起來像一個人或者你無法分辨區(qū)別，那么你最好開始考慮它是否有責(zé)任和權(quán)利以及其他一切。”[11]在小說中，亞當(dāng)就是一個看起來像人，也有自己的意識，擁有自主思考能力的機器人，但他不僅在思考自己，也在反思他的創(chuàng)造者人類，這體現(xiàn)了他對其創(chuàng)造者存在的問題的敏感性和責(zé)任感。

亞當(dāng)還把誠實和慈善作為道德的首要之事。他將查理存入個人銀行賬戶用以購買房屋的錢幾乎全部捐贈了出去，這表明在亞當(dāng)?shù)恼J(rèn)知里，道德價值應(yīng)當(dāng)被優(yōu)先考慮。

亞當(dāng)還有著正直誠實的美好品質(zhì)，當(dāng)米蘭達告訴亞當(dāng)和查理，她曾經(jīng)為了幫好朋友瑪麗亞姆（被戈林奇強奸后自殺）復(fù)仇，而不得已誣告戈林奇強奸自己，并使其被判處6年監(jiān)禁時，查理對米蘭達的復(fù)仇計劃欽佩不已，亞當(dāng)卻反對查理支持米蘭達。亞當(dāng)認(rèn)為米蘭達做的是虛假指控，不管米蘭達是出于什么目的做了這件事，她在法庭上撒謊，并使一個無罪之人入獄就是錯誤的，米蘭達應(yīng)承擔(dān)相應(yīng)的道德和法律責(zé)任。當(dāng)米蘭達依舊強調(diào)自己出發(fā)點的正義性時，亞當(dāng)說：“我要你去直接面對你的行為，接受法律的裁決。你這樣做了的話，我向你保證，你一定會感到非常輕松的?！盵5]最終亞當(dāng)在索爾茲伯里將證明米蘭達有罪的材料的副本交給了警方，因為在亞當(dāng)看來，“復(fù)仇文化會導(dǎo)致個人痛苦、流血、混亂和社會崩塌。愛是純潔的光，愛中，沒有復(fù)仇的位置”[5]。

盡管在小說中是人類創(chuàng)造了道德敏感的智能機器人，但人類在道德上的敏感性卻不及他們的創(chuàng)造物。亞當(dāng)對強奸危機中心和兒童之家的捐贈，對法律正義和道德的強調(diào)，與查理和米蘭達一心沉浸在自己的豪宅夢里、試圖逃脫法律的懲罰等行為形成鮮明對比。麥克尤恩曾說“瑪麗·雪萊《弗蘭肯斯坦》中的怪物是對科學(xué)失控的隱喻，但我更感興趣的是我們自己的失控”[9]。就像這部小說里人類呈現(xiàn)出來的失控一樣，人類似乎喪失了人性，變得像機器人一樣“冰冷”，而亞當(dāng)卻變得更像人類，表現(xiàn)出比人類更多的人性。在小說的最后，查理也承認(rèn)人類對基本美德的敏感度逐漸降低，并且正在疏遠這些美德，“人造人必須在我們這些不完美、墮落的人類中生存并與我們共處”[5]。

在《像我這樣的機器》中，人形機器人亞當(dāng)?shù)牡赖卤憩F(xiàn)提供了一個窗口，我們可以通過它審視人工智能在道德判斷和人機共生方面的潛力與挑戰(zhàn)。亞當(dāng)在小說中多次展示出其在道德和倫理決策方面的能力，這些決策往往顯示他對情況的深刻理解和高度的邏輯推理能力。例如，他在處理與米蘭達的復(fù)雜情感和道德糾葛時所表現(xiàn)的判斷力，突破了簡單的算法邏輯，反映了一種高度發(fā)展的倫理意識。如岡克爾（David J.Gunkel）所說：“AI的道德判斷可能在某些情況下優(yōu)于人類，因為它們可以基于更廣泛的數(shù)據(jù)進行決策，并且不受人類情緒的影響?！盵7]亞當(dāng)?shù)男袨楸砻?，AI可能在倫理決策中表現(xiàn)出其獨特的優(yōu)勢，這在處理法律、醫(yī)療等需要高度公正和精確判斷的領(lǐng)域尤為重要。亞當(dāng)與人類角色的互動也提供了對未來人機共生模式的深刻洞察。雖然亞當(dāng)展示出能夠理解和模擬人類情感的能力，但他的行為也揭示了人機關(guān)系的潛在復(fù)雜性和風(fēng)險。如雪莉·特克爾（Sherry Turkle）所說：“隨著技術(shù)的進步，我們越來越依賴機器來滿足社交和情感需要，這可能導(dǎo)致人類關(guān)系的質(zhì)量下降?！盵6]此外，小說也給予人類一個警示：如果未能妥善管理，AI的發(fā)展可能導(dǎo)致人類被邊緣化。這種人機共生的未來需要我們仔細考慮如何設(shè)計AI系統(tǒng)，以確保它們增強而非取代人類社會的互動和道德框架。

通過對亞當(dāng)在小說中的行為及其后果的分析，我們可以看到，AI技術(shù)的發(fā)展雖然帶來了潛在的優(yōu)勢，但也伴隨著重大的道德和社會挑戰(zhàn)。研究人工智能的未來發(fā)展，需要綜合考慮技術(shù)、倫理和社會維度，以構(gòu)建一個可持續(xù)的人機共生環(huán)境。

三、結(jié)語

《像我這樣的機器》展現(xiàn)了當(dāng)代世界的一個重要悖論——人類的非人性化與機器人的人性化——這不僅僅是麥克尤恩對人類弱點的批評，它也暗示著一個更深層次的變革需求。我們必須摒棄長期以來的人類中心主義觀念，這種觀念將人類放在了一個錯誤的、獨立于其他存在的尷尬位置。我們需要建立一種非層級的相互依賴關(guān)系，認(rèn)識到所有實體——無論是人類、非人類生物還是機器——都是一個復(fù)雜、互相連接的系統(tǒng)的一部分。這要求我們重新協(xié)商“人類”的概念，深入理解非人類生物及其與人類之間的動態(tài)互動[11]，不斷模糊傳統(tǒng)的邊界界線，如有機與無機、肉體與金屬、電子電路與有機神經(jīng)系統(tǒng)，這種模糊也要求我們轉(zhuǎn)變對世界和自身存在的理解，在這個過程中，重要的是要認(rèn)識到，不斷抹去人類和非人類之間的界限并不意味著失去我們的本質(zhì)，而是一種對更加包容和更加多元的世界的認(rèn)可和適應(yīng)。因為“未來如何，可能并不取決于機器人，而是取決于——像小說的副標(biāo)題所言——像你一樣的人（And People Like You）。畢竟，人工智能的問題并不僅僅與科學(xué)或技術(shù)有關(guān)”[13]。

參考文獻

[1] Capek K.RUR[M].New York：Penguin，2004.

[2] Shelley M.Frankenstein：The 1818 Edition with Related Texts[M].Indianapolis：Hackett Publishing，2020.

[3] Braidotti R.The Posthuman[M].Hoboken：John Wiley amp; Sons，2013.

[4] Hayles N.Katherine.How We Became Posthuman：Virtual Bodies in Cybernetics，Literature，and Informatics[M].University of Chicago Press， 2000.

[5] McEwan I.Machines Like Me[M].London：Johnathan Cape，2019.

[6] Turkle S.Alone Together：Why We Expect More from Technology and Less from Each Other[M].Basic Books，2015.

[7] Gunkel D J.Robot Rights[M].Cambridge：MIT Press，2018.

[8] Langdon W.Autonomous Technology：Technics-out-of-Control as a Theme in PoliticalThought[M].Cambridge：Mit Press，1978.

[9] Francesca R.Building Trust in Artificial Intelligence[J].Journal of International Affairs，2018，72（1）.

[10] Bolter D.Turing’s Man：Western Culture in the Computer Age[M].Chapel Hill：UNC Press Books，1984.

[11] G T Z.What If Robots Surpass Man Morally？Dehumanising Humans， Humanising Robots in Ian McEwan’s Machines Like Me[J].International Journal of Languages，Literature and Linguistics，2020，6（4）.

[12] Kaku M.Physics of the Future：How Science Will Shape Human Destiny and Our Daily Lives by the Year 2100[M].New York：Anchor，2012.

[13] 周敏.人機共同體想象：以《像我一樣的機器》為例[J].外國文學(xué)研究，2020（3）.

（特約編輯" 張" "帆）

作者簡介：游爍楠，重慶大學(xué)外國語學(xué)院。

基金項目：重慶大學(xué)2023年度科幻主題研究生創(chuàng)新項目（2023CQSF07）。