阿西莫夫機(jī)器人系列小說中的倫理解構(gòu)及其邏輯基礎(chǔ)

[摘" 要] 科幻小說之父阿西莫夫著作頗豐，其作品既有科學(xué)性也有人文性，他總是不遺余力地表現(xiàn)科技對人類發(fā)展的威脅和問題重重的烏托邦世界。隨著人工智能的發(fā)展，人機(jī)倫理問題成為學(xué)界關(guān)注的熱點(diǎn)。阿西莫夫機(jī)器人系列小說的創(chuàng)作都基于一個共同的基礎(chǔ)，即“機(jī)器人三定律”，這三大定律構(gòu)成了對機(jī)器人的倫理要求。倫理禁忌是維系倫理秩序的核心因素，然而在阿西莫夫的作品中，作者也精心設(shè)計了一些情節(jié)對倫理禁忌進(jìn)行解構(gòu)。

[關(guān)鍵詞] 阿西莫夫" 倫理禁忌" 解構(gòu)

[中圖分類號] I106.4" " " [文獻(xiàn)標(biāo)識碼] A" " " "[文章編號] 2097-2881（2024）17-0083-04

在文明進(jìn)程中，禁忌被用來控制人類野蠻的本能。隨著社會的發(fā)展，禁忌也越來越多。作為道德的代表，禁忌起著維護(hù)社會秩序的作用，所以，社會一旦要改造，倫理禁忌就要被重構(gòu)。作為人類與機(jī)器人的倫理禁忌，“機(jī)器人三定律”明確規(guī)定了人類對機(jī)器人的絕對權(quán)力，但同時，機(jī)器人對權(quán)力的爭奪也從未停止。

阿西莫夫的作品生動地展現(xiàn)了一批具有自由意志的機(jī)器人，它們有自己的思維模式，有的還具有感受痛苦和歡樂的能力，這意味著它們可以有自己獨(dú)立的道德地位。阿西莫夫筆下的機(jī)器人擁有獨(dú)立的倫理選擇，它們做決定時更愿意遵從自己的內(nèi)心而不是所謂的法律，有時會陷入道德困境。

一、阿西莫夫機(jī)器人系列小說中的倫理解構(gòu)

1.機(jī)器人突破監(jiān)控，獲得自主權(quán)

一方面，人類認(rèn)為機(jī)器人地位不如自己，另一方面，人類又害怕機(jī)器人潛在的能力，所以人類試圖用“機(jī)器人三定律”來規(guī)訓(xùn)機(jī)器人。?？抡J(rèn)為權(quán)力規(guī)訓(xùn)是一種精細(xì)的、可持續(xù)的運(yùn)行機(jī)制。規(guī)訓(xùn)的方式之一就是監(jiān)控，通過監(jiān)控，個體被物化，被機(jī)制觀察和記錄，這種監(jiān)控是一種持續(xù)的、實在的力量。

監(jiān)控權(quán)可以在“機(jī)器人三定律”中體現(xiàn)，它規(guī)定機(jī)器人不得傷害人類，而“人類”的定義卻是模糊的，不僅指某個特定的人，還泛指整個人類社會。人類在一種虛構(gòu)關(guān)系下實現(xiàn)對機(jī)器人的控制，并以一種簡單的方式實現(xiàn)復(fù)雜和持續(xù)的管理。監(jiān)控的目的是對機(jī)器人進(jìn)行價值滲透，從而迫使它們服從權(quán)力。

然而，《兩百歲的人》打破了人與機(jī)器人之間的刻板關(guān)系，小說里的機(jī)器人安德魯扮演了一個合作者的角色。它是馬丁家的仆人，馬丁先生像對待一個真正的人一樣對待它，并聲稱安德魯應(yīng)該有自由意志。馬丁先生的小女兒也很尊重安德魯，甚至視它為知己。安德魯像人一樣努力學(xué)習(xí)，開了自己的公司，為科學(xué)創(chuàng)新做出了很大貢獻(xiàn)。此外，它一次又一次地改造自己的身體，并決定像正常人一樣死去。從被人監(jiān)控到知道如何對人進(jìn)行生理和心理監(jiān)控，其人化過程可以解釋為對監(jiān)控的解碼。

《鋼鐵之窟》中，阿西莫夫講述了一個人類和機(jī)器人合作追捕罪犯的故事。背景設(shè)定在未來世界，那時的地球由擁有更先進(jìn)技術(shù)的太空物種統(tǒng)治，由于科技落后，地球人一直無法推翻他們的統(tǒng)治。此外，外來物種發(fā)明的機(jī)器人也被用來監(jiān)視人類。貝利是一個地球人警察，他討厭機(jī)器人，認(rèn)為機(jī)器人是外來文明的象征，它們破壞地球秩序、壓迫地球人。此外，地球人區(qū)域和外來物種區(qū)域的邊界也處于機(jī)器人軍隊嚴(yán)密的監(jiān)視之下。在故事最后，兇手竟然是人類警察局長，他被外來物種提拔用以監(jiān)視地球人。這是一種戲劇性的諷刺，警察局長作為權(quán)力的調(diào)節(jié)者，做著監(jiān)控群眾的工作，同時也受到上層權(quán)力的監(jiān)控，他更像是權(quán)力鏈條中的一個結(jié)點(diǎn)。最終，警察局長殺死他的上級領(lǐng)導(dǎo)，通過突破機(jī)器人的監(jiān)控為地球人爭取自由，這是顛覆權(quán)力的一次嘗試?？傊?，在阿西莫夫的作品中，無論被監(jiān)控的是誰，總是試圖推翻秩序。

2.機(jī)器人發(fā)展語言，爭奪話語權(quán)

《羅比》中，羅比是一個不會說話的機(jī)器人，它被視為有情感和自我表達(dá)缺陷的冰冷機(jī)器。韋斯頓夫人擔(dān)心羅比對女兒存在潛在威脅：“我不會把女兒托付給一臺機(jī)器。我不在乎它有多聰明，它沒有靈魂，沒有人知道它在想什么。孩子不應(yīng)該被一個金屬殼子保護(hù)著?！卑凑账恼f法，機(jī)器人的危險之處在于無法表達(dá)自己，人類無法了解機(jī)器人的思想，它們被看作沒有靈魂和意志的人造物。

阿西莫夫記錄了機(jī)器人語言能力的發(fā)展，它們從不會說話到不會說好話；從只說真話到能對人類撒謊；從只對主人說話到面對公眾演講。這種演變不僅意味著技術(shù)的進(jìn)步，也意味著人與機(jī)器人之間權(quán)力的重新分配。巴赫金在《陀思妥耶夫斯基詩學(xué)問題》中指出，語言是一個不斷重構(gòu)的過程，總是充滿意識形態(tài)。因此，語言滲透著社會意識和權(quán)力結(jié)構(gòu)，代表著權(quán)力沖突，用巴赫金的話來說就是，語言是階級斗爭的舞臺。阿西莫夫?qū)C(jī)器人從被動的信息接收者轉(zhuǎn)變?yōu)橹鲃拥谋磉_(dá)者，語言的發(fā)展意味著機(jī)器人對權(quán)力的爭奪。

小說中另一個機(jī)器人“小可愛”在讀書時發(fā)出誰才是主人的疑問，要注意的是，書是人類語言的集合?！靶】蓯邸闭f道：“我是一個成品。我直接吸收電能，并以幾乎百分之百的效率利用它。我意志堅強(qiáng)，有持續(xù)的意識且能輕易忍受極端環(huán)境?！备鶕?jù)達(dá)爾文的進(jìn)化論，適者總是被認(rèn)為是更先進(jìn)的，所以“小可愛”認(rèn)為它比人類先進(jìn)得多。人類科學(xué)家解釋說人類會推理，而機(jī)器人是智能?！靶】蓯邸闭J(rèn)為更智能就是更優(yōu)越，但科學(xué)家卻將推理置于智能之上。從能指和所指的角度來看，推理是一個追求意義的過程，它像一條能指鏈；而智能意味著可以很快給出答案。答案是否正確有明確的標(biāo)準(zhǔn)，但推理沒有，因而意義是不確定的、無限的，人類因此也有了更多的可能性。而在機(jī)器人的話語中，數(shù)據(jù)的準(zhǔn)確性就等于理性，答案越精確，大腦就越優(yōu)越。因此人和機(jī)器人生活在不同的話語中。哈貝馬斯認(rèn)為，“交往理性”是語言社區(qū)中的協(xié)調(diào)者，它幫助社區(qū)成員共享認(rèn)知并建立一個共同的規(guī)范標(biāo)準(zhǔn)。此外，在不同的語言群體中，尊重多樣性是基礎(chǔ)。他堅持認(rèn)為，理性的關(guān)鍵是消除隱藏的權(quán)力關(guān)系，這是造成溝通扭曲的最大障礙。機(jī)器人擁有自己的話語，在與人類的對話中，它們的意圖一旦可以被表達(dá)和理解，就有可能顛覆人類的統(tǒng)治。

3.機(jī)器人凝視他人，享受自主權(quán)

凝視是一種傳遞力量或欲望的觀看方式。作為視覺中心主義的產(chǎn)物，它賦予凝視的主體權(quán)力，并通過凝視的壓力迫使被凝視的客體內(nèi)化價值判斷，從而使被凝視者屈從于凝視者。薩特在《存在與虛無》中把“他人的凝視”提升到哲學(xué)層面?！霸趧e人的注視下，我獲得了另一種生活。除了我擁有的所有意識，我是其他人認(rèn)可的‘我’……我被其他人的凝視所包圍?！边@些話可以明明白白地解釋當(dāng)世界被人類凝視時，自在之物通過凝視被集中在人的意識中。因此，人類覺得自己是這個世界的中心，人類有自主權(quán)；然而，如果人被他人注視，他人則成為中心。也就是說，如果有他人的干預(yù)，一個人就會失去控制全部自由的優(yōu)先權(quán)。為了奪回自由，一個人要掌握注視他人的優(yōu)先權(quán)，把自己從他人的控制中解放出來，從而確保他人從屬自己。所以，凝視的過程就是權(quán)力的爭奪過程。

《證據(jù)》講述了人類科學(xué)家想要證明一個名叫拜爾利的市長候選人是機(jī)器人的故事。人類和拜爾利一共有三次面對面的交流。第一次是與卡爾文的會面，在這次會面中，“拜爾利轉(zhuǎn)向那位女士，后者則冷漠地凝視著他”。然而，拜爾利卻表現(xiàn)得很自然。第二次是和哈羅韋之間的較量，哈羅韋受拜爾利對手的囑托去搜查他的房子。“那個叫哈羅韋的小家伙猶豫了一會兒，他的臉突然紅了，他不敢正視拜爾利的眼睛?！痹谶@場權(quán)力的斗爭中，拜爾利的目光壓倒了對方，使象征著人類權(quán)威的男性警察相形見絀。最后一次見面也是故事的高潮，拜爾利站在競選臺上在全體公民面前演講。但突然，人群中一名男子質(zhì)疑拜爾利是機(jī)器人，他走上舞臺要求拜爾利咬自己。根據(jù)“機(jī)器人第一定律”，機(jī)器人永遠(yuǎn)不能傷害人類。在這種注視的壓力下，拜爾利必須做點(diǎn)什么。大眾的目光把人類的力量推向極致，這是對一個類人機(jī)器人的極限挑戰(zhàn)。最終，拜爾利當(dāng)眾咬了那人，并向他道歉，而后繼續(xù)自己的演講。此時它重新獲得了凝視的主體地位，臺下整個人類社會都被凝視著，這預(yù)示著權(quán)力的轉(zhuǎn)移和機(jī)器人在權(quán)力之戰(zhàn)中的最終勝利。

二、阿西莫夫機(jī)器人系列小說中倫理解構(gòu)的邏輯基礎(chǔ)

1.人類語言和機(jī)器語言的差異

《迷失的小機(jī)器人》中，科學(xué)家致力于尋找一個有自我意識的機(jī)器人，他們想通過詢問同樣的問題的方式來測試所有機(jī)器人。然而，一位科學(xué)家質(zhì)疑機(jī)器人能否理解其中的意思。用他的話來說，人類語言是易錯的，它不能建立能指和所指的聯(lián)系，因此人類語言無法揭開真理的面紗。

從結(jié)構(gòu)主義的角度來看，語言和真理的關(guān)系是線性的，語言可以揭示真理。當(dāng)一個問題被提出，答案隨之而來，這個答案可以被視為真理，因為語言可以被視為邏輯計算的過程。所以，機(jī)器人生活在一個語言被視為發(fā)現(xiàn)和解釋真理的世界。然而，后現(xiàn)代主義者德里達(dá)認(rèn)為，人類語言只是能指，但機(jī)器人用數(shù)字編碼直接指向所指。在能指與所指的迷宮中，語言無法被簡潔而精確地編碼為數(shù)據(jù)，因此人與機(jī)器人的認(rèn)知和邏輯必然存在差異，這種差異在數(shù)據(jù)失效時賦予了機(jī)器人獨(dú)立思考的自由，同時為話語顛覆提供了可能性。

2.“機(jī)器人三定律”內(nèi)在的邏輯缺陷

短篇小說《證據(jù)》中，蘭寧博士和蘇珊·卡爾文在爭論“機(jī)器人三定律”的邏輯是否存在缺陷時，蘭寧博士堅稱定律沒有問題，但蘇珊不同意，她舉了一個例子——如果一個機(jī)器人遇到一個瘋子正要放火燒一棟有人的房子，此時該怎么辦？為了保護(hù)房子里的人它要阻止那個瘋子，但如果唯一能阻止他的方法就是殺了他呢？從這個例子可以看出，“機(jī)器人三定律”內(nèi)在邏輯缺陷非常明顯。機(jī)器人不能殺死放火者，但又不能放棄幫助被困在房子里的人。

《迷失的小機(jī)器人》中，科學(xué)家們設(shè)計了一個道德困境：一個處在伽馬射線中的人隨時有生命危險，但同時這些射線對機(jī)器人也是致命的。此時，“機(jī)器人三定律”一旦付諸實施就會出現(xiàn)一些悖論。如果機(jī)器人想生存，它必須違反第一定律，如果堅持第一定律，它和人類都不能生存。當(dāng)結(jié)局注定時，機(jī)器人應(yīng)該做出怎樣的選擇呢？“機(jī)器人三定律”中的悖論導(dǎo)致機(jī)器人陷入困境，此時機(jī)器人的最佳選擇是不作為，這是定律允許的錯誤，也是對定律的無聲抗?fàn)?。邏輯缺陷的實質(zhì)在于人類賦予了機(jī)器人思考的自由，卻剝奪了機(jī)器人做出選擇的自由。無法獲得完全的自主性會限制機(jī)器人采取行動的自由，并導(dǎo)致機(jī)器人陷入道德困境。

3.人性中的自相矛盾

短篇小說《說謊者》中，哈比是一個會讀心術(shù)的機(jī)器人，它告訴蘇珊，米爾頓愛著她，但蘇珊卻發(fā)現(xiàn)米爾頓已經(jīng)結(jié)婚，而且非常愛他的妻子；哈比還告訴彼得，他將成為蘭寧的繼任者，但事實證明蘭寧將繼續(xù)擔(dān)任領(lǐng)導(dǎo)人。他們都稱哈比為說謊者，但其實是人類把真相隱藏了起來。蘇珊有愛的欲望，彼得有權(quán)力的欲望，卻都選擇用理性的面具偽裝自己。當(dāng)他們聽到哈比說出事實時，便卸下偽裝，變得非常具有攻擊性。

安德魯向馬丁先生學(xué)習(xí)下棋，學(xué)習(xí)欣賞音樂甚至如何創(chuàng)作。在此期間，它認(rèn)識到人類的偉大在于創(chuàng)造力和善良。馬丁先生的大女兒卻對它一直懷恨在心。一次她命令安德魯從樓上跳下去，作為一個機(jī)器人，安德魯必須毫不猶豫地服從人類的命令。但也是在這個時候，它開始意識到人類并不完美，有時他們會做出一些有意的非理性行為來傷害自己和他人。

故事最后安德魯決定像人一樣死去，死亡學(xué)將人類定義為一個生命體。大多數(shù)存在主義者認(rèn)為生命是一個走向死亡的過程，死亡賦予生命獨(dú)特的意義。安德魯告訴機(jī)器人外科醫(yī)生它是機(jī)器人，所以可以在不違反“機(jī)器人第一定律”的情況下殺死它；關(guān)于“機(jī)器人第三定律”，它告訴妻子：“讓我的肉體活著，但思想死去，這才是真正違反了第三定律。”安德魯是人性的旁觀者，在它向人的轉(zhuǎn)變過程中對人性的思考十分深刻；同時它還是人類的模仿者，面對倫理選擇時有自己獨(dú)特的理解。正如小說中所說，“安德魯給了我們希望，它不僅可以教會智能機(jī)器以符合道德的方式做事，而且也可以引導(dǎo)人類以更符合道德的方式做事”。

三、結(jié)語

傳統(tǒng)的觀點(diǎn)總是把人與機(jī)器人的關(guān)系視為絕對的統(tǒng)治關(guān)系，因為人總是理性的權(quán)威和權(quán)力的象征。一些科幻小說則傾向于吹噓科學(xué)在權(quán)力分配中的決定性作用，因此人被認(rèn)為不如機(jī)器人。這兩個主題在阿西莫夫的作品中都有體現(xiàn)，然而，無論人類對人機(jī)倫理的刻板印象是什么，解構(gòu)在阿西莫夫的小說中從未缺席。這種解構(gòu)承載著他對服務(wù)于新世界的新倫理的希望，而新倫理包括相互性、尊重和平等。

《鋼鐵之窟》中，地球人被視為非理性和非文明的物種，這種非理性在太空種族的眼中是瘋狂的?！动偘d與文明》的導(dǎo)言中，?？玛U明了人性中的非理性——瘋狂被各種形象掩蓋。理性是一種約束身體和道德的秩序，是對社會群體無形壓力的統(tǒng)一需求；瘋癲則意味著與社會交換的另一種理性，精神病學(xué)是瘋癲的理性獨(dú)白。在福柯看來，瘋癲是一種未被解碼的話語，被理性所忽視。然而，瘋癲作為一種與社會交換的形式，可以被視為一種具有內(nèi)在價值的話語。太空種族所珍視的價值標(biāo)準(zhǔn)以理性為中心，但由理性和非理性構(gòu)成的地球人也有被理解的權(quán)利，非理性是文化多樣性的基礎(chǔ)。在故事的結(jié)尾，地球人和太空種族進(jìn)行了平等的對話，促進(jìn)了相互理解，和諧的結(jié)局隱含了阿西莫夫的價值觀，即統(tǒng)一性和多樣性應(yīng)該平衡。

需要注意的一點(diǎn)是，阿西莫夫在“機(jī)器人三定律”中增加了一個額外的原理，并將其命名為“第零定律”，這條定律由阿西莫夫在小說《機(jī)械帝國》中首次提出。巴利的遺言豐富了這條定律：一個人什么時候死并不重要，死者留下的事業(yè)可以由他的后代繼承。從這個意義上說，他并沒有死。人每多活一天，他的事業(yè)就多存在一天。個體是人類社會的一部分。一旦整體存在，他的個體部分也存在，一個人的生命只是人類生命長河中的一滴水。這些話有意區(qū)分個人價值和整個人類共同的價值，整體價值遠(yuǎn)遠(yuǎn)高于個人價值。從這些話引申出的“第零定律”意味著機(jī)器人不可以傷害人類的整體利益，也不可以在人類整體利益遭遇危險時袖手旁觀。

最大幸福原則指無論人類何時行動，人必須考慮的不是特定個人的幸福，而是人類整體的幸福，換句話說，幸福的目的在于使大多數(shù)人滿意。阿西莫夫創(chuàng)作《機(jī)械帝國》期間，世界正處于冷戰(zhàn)時期，作為一名俄裔美國作家，阿西莫夫極力主張兩種政治力量之間的平衡。此外，受解構(gòu)主義的影響，阿西莫夫接受了去中心化的思想，認(rèn)為意識形態(tài)不是二元對立的，而是多元的。阿西莫夫遵循最大幸福原則，他認(rèn)為平衡才是實現(xiàn)最大幸福的手段，因此他從不偏袒人類或機(jī)器人任何一方。

阿西莫夫致力于建立的新秩序是一種平等和尊重的關(guān)系，這與密爾的正義思想遙相呼應(yīng)。密爾認(rèn)為，平等的社會只能存在于這樣一種理解之上，即所有個體的利益都應(yīng)得到平等的對待，所以阿西莫夫作品中不乏機(jī)器人對自由和權(quán)力的爭取，充滿著對傳統(tǒng)倫理的解構(gòu)。

參考文獻(xiàn)

[1] 阿西莫夫.阿西莫夫：機(jī)器人短篇全集[M].葉李華，譯.南京：江蘇文藝出版社，2014.

[2] 陳濤.科學(xué)選擇與倫理身份：阿西莫夫小說中的人機(jī)倫理關(guān)系[J].華中學(xué)術(shù)，2015（2）.

[3] 羅爾斯.正義論[M].何懷宏，何包鋼，廖申白，譯.北京：中國社會科學(xué)出版社，2001.

（特約編輯 劉夢瑤）

作者簡介：孔茹杉，天津外國語大學(xué)。