后人類時代人工智能的探討與反思

[摘? 要] 科學技術一度被人類視為是天賜之物，然而進入后人類時代，隨著科技的高速發(fā)展，人類文明并沒有出現(xiàn)想象中美好的烏托邦社會，人類與技術、資本之間反而出現(xiàn)了問題?！犊死c太陽》是諾貝爾獎得主石黑一雄的第八部長篇小說，基于對科技時代前瞻性的觀察和思考，他在小說中再現(xiàn)了人類和技術的耦合。本文從機器人克拉拉的視角出發(fā)，展現(xiàn)了人工智能和基因編輯技術帶來的倫理挑戰(zhàn)與哲學反思，以及資產(chǎn)階級意識形態(tài)下“人-機-人”的異化關系。

[關鍵詞] 《克拉拉與太陽》? 人工智能? 倫理挑戰(zhàn)? 哲學反思

[中圖分類號] I106? ? ? ? [文獻標識碼] A? ? ? ? [文章編號] 2097-2881（2023）27-0048-05

比爾·蓋茨曾經(jīng)在2015年指出具備“超級智能”性能的機器在未來總有一天會威脅到人類，但在談論到《克拉拉與太陽》這本書時他又說：“這本書讓我思考擁有超級智能機器人的生活可能會是什么樣子，以及以后人們會將這些類型的機器視為技術或其他東西?！薄翱萍肌睆膩砭筒皇强苹眯≌f的真正主題，石黑一雄在接受采訪時就說過：“無論小說本身是否有關科技，我們需要明白的是，我們現(xiàn)在需要擔心的應該是社會急速發(fā)展帶來的巨大變化。”石黑一雄通過《克拉拉與太陽》這個“軟科幻”小說描繪了人性，展現(xiàn)了未來科技時代的“反烏托邦”主題，從而警示人們關注“技術異化”、關注科技與倫理的沖突問題，以未來審視當下。“機器人能否代替人類？”“自然人和類人類能否共存？”這類問題自從未來式科幻小說產(chǎn)生起就出現(xiàn)了，而當下的科幻小說走得更遠。本文的目的在于揭示和反思在當下和未來高科技迅速發(fā)展帶來的深刻倫理問題，以及人類在人機共存世界如何自處等問題。

一、AI與IA：人機世界的交互

在《克拉拉與太陽》中，作者石黑一雄從第一視角出發(fā)，記述了AF克拉拉作為陪伴型機器人最后在廢棄的堆場中回憶自己“一生”的故事，其中作者著重描寫了克拉拉陪伴經(jīng)過了“基因編輯”的小女孩喬西成長的過程?？死屏肌o私、真誠，像太陽那樣奉獻自己溫暖別人，具有全然的利他性。小說的背景設定在人工智能的新時代——書中社會有兩樣東西是遠超現(xiàn)在社會的：一是人工智能機器人（AI），二是基因編輯技術（IA）。后人類時代是不同新興的科技融匯時代，小說把目光聚焦于自然人與超人類、 類人機器之間復雜的身份難題，通過對技術本質(zhì)的批判性審視，對比主人公不斷演變的思維過程以及技術理性背景下人類情感與道德決策，鼓勵讀者思考人性。在人工智能、信息網(wǎng)絡化、生命科技三大新生科技高速發(fā)展下，由于基因工程、克隆技術和虛擬實體的出現(xiàn)，“人 ”的傳統(tǒng)定義受到了巨大挑戰(zhàn)，導致了后人類互動生活方式的發(fā)展變化。小說描繪了科技發(fā)展之下，在農(nóng)村和城市中人類與機器人相處的種種景觀，表明技術已然滲透進了人類生活的方方面面。城市里，高樓鱗次櫛比，一眼望不到頂，遮住了天空和陽光，路面灰撲撲的；路旁的庫廷斯機器高效地運作著，散發(fā)出滾滾白煙，像交響樂中刺耳的噪音。煩人的庫廷斯機器和令人恐懼的“基因牛”，無時無刻不在提醒著人們科技進步帶來的“毀滅”?！斑@時，污染變得更嚴重了，哪怕從雜志桌那一側(cè)，我也看不到天空的縫隙了，而窗玻璃本身——玻璃工人們?nèi)绱蓑湴恋靥娼?jīng)理將它擦亮——也滿是污點”[1]，“污染”遮天蔽日。鄉(xiāng)村里，在喬西母親帶克拉拉去瀑布的路上，田野上的“基因?！币苍诎凳局萍紝τ卩l(xiāng)村生活的入侵。

當前，信息網(wǎng)絡大數(shù)據(jù)的出現(xiàn)帶來了新的前景和挑戰(zhàn)。2016 年，谷歌人工智能程序 （Alpha Go）戰(zhàn)勝韓國職業(yè)九段棋手李世石，是人工智能領域的重大突破。這場比賽是人工智能與人類智能之間的對決，并且宣告了人工智能元年的到來?！翱矗沁?！你看到了嗎，克拉拉？那個男孩好愛他的AF呀！噢，瞧瞧他倆一起哈哈大笑的模樣！”[1]書中的AF是專為陪伴兒童而設計的智能機器人，它們具有極強的觀察力、學習能力和共情能力，通過觀察人類的反應來采取相應的行動，理解和陪伴人類，從而消除被陪伴人的孤獨感。而克拉拉對于世界的理想化認識和對于人類的無私行為展現(xiàn)了人工智能時代下的機器人發(fā)展的一種可能性，同時，也體現(xiàn)了作者對于技術和生命倫理的憂思。

科技是社會先進生產(chǎn)力的代表。而自從工業(yè)革命之后，科學技術開始被資本挾持、控制，淪為資本的“玩物”，成為資本劃分社會階級的工具。在小說中，人類生活在一個科技高度發(fā)達的后人類時代。主人公喬西和她的好朋友里克便是這個時代的兩個代表性產(chǎn)物。喬西與里克對未來有著共同的愿望，雖然這個愿景還不清晰，但是他們確定兩人的未來肯定是緊密聯(lián)系在一起的。但是，喬西是人類自身的智能增強——基因編輯提升的孩子，而里克只是普普通通的平凡人——即使具有天分和進入高等學府的能力，卻還是連大學都上不了的普通人，二人在生命結(jié)構(gòu)上就已經(jīng)不一樣了。因此，兩人之間產(chǎn)生了對未來的分歧。科學技術受制于資本邏輯下的意識形態(tài)，在這個智能時代，自然人被解體，人機交互基因提升成為劃分孩子們命運的工具。

家庭富裕的孩子接受了基因提升，他們不需要自己親身進入線下和老師面對面的實體課堂，而是通過“矩形本”實現(xiàn)像里克這種下階層貧困人民無法觸碰的特殊教育，從而進入上流社會，完成階級上升。而里克雖然才華橫溢，有足夠進入高等教育的能力，但由于基因沒有得到強化，被上層階級拒之門外，導致他最終淪落到社會的最底層。雖然小說中作者并沒有詳細描寫基因編輯的具體過程，但是人類基因優(yōu)化這一項目下的生命價值倫理問題和科技發(fā)展是息息相關的。自此，AI與IA的出現(xiàn)，意味著人機交互的后人類時代到來。

二、 人工智能時代的哲學反思：IA、AI與資本奴役

《克拉拉與太陽》不算是一部硬科幻小說，但它是一部典型的軟科幻小說，人機“相互依賴”“相互滲透”“相互嵌入”。作者在小說中利用科技元素并不是為了科幻而科幻，其根本目的是由科幻來揭示未來科學技術可能引發(fā)的資產(chǎn)階級利用科技完成“資本——機器——人類”的順序奴役問題以及社會道德倫理危機，作者立足于未來的社會，為我們當下科技的發(fā)展敲響警鐘。

科幻小說與機器人的系統(tǒng)結(jié)合創(chuàng)作，最早可以追溯到美國科幻作家艾薩克·阿西莫夫提出的著名的“機器人三大法則”。“三大法則”的具體內(nèi)容是：“一、機器人不得傷害人類，或因不作為而使人類受到傷害。二、除非違背第一法則，機器人必須服從人類的命令。三、在不違背第一及第二法則的情況下，機器人必須保護自己?！盵2]在他創(chuàng)作的“機器人系列”小說中，一改以前科幻文學中恐怖、邪惡、令人害怕的負面機器人形象的描寫方法，塑造了許多與以往不一樣的友好機器人形象，比如人類的忠仆、朋友等。

簡單來說，機器人必須絕對服從人類的命令，人類在它的程序中必須是第一位，即人類優(yōu)先原則。在危險的時刻，機器人不能以傷害人類為代價而保全自己。機器人學三大定律出現(xiàn)后，科幻小說界正式開啟了機器人小說時代。機器人三大定律對后世科幻小說影響極大，可以說它是科幻作品的基石，大多數(shù)作家都受到了這個定律的影響。之后，在不斷的實踐中，阿西莫夫發(fā)現(xiàn)三大定律存在一定的漏洞，自然語言或是會產(chǎn)生歧義的語言無法具有約束力，對于個體人類的保護不夠。于是他對原三大定律修改，增加了“第零定律”：“機器人不得傷害人類，或目睹人類將遭受危險而袖手不管?！币源吮Ｗo個體的人類，最終保護整體的人類。后來，機器人定律又增加了一條，規(guī)定機器人不能參與創(chuàng)造另一個機器人，除非后者的行為符合機器人法則。

人工智能作為當代科技文明的標志之一，正在迅速滲透到人類的生產(chǎn)、日常生活、行為和認知過程中。新興科技的出現(xiàn)，使得原始的社會中人與物的關系問題轉(zhuǎn)變?yōu)槿撕汀叭嗽煳铩钡年P系問題?，F(xiàn)實世界有物理法則，那么人工世界抑或智能世界必定也存在著一套世界法則：人工智能的三條定律。

第一定律被稱為阿什比定律，該定律由《大腦的設計》一書的作者、控制論科學家W.羅斯阿什比提出，他認為任何有效的控制系統(tǒng)都必須和它所控制的系統(tǒng)一樣復雜。第二定律由馮諾依曼提出，他指出，一個復雜系統(tǒng)的定義特征是它構(gòu)成了自身最簡單的行為描述。生物體最基本、最全面的模型就是生物體本身。任何通過形式化描述來簡化系統(tǒng)行為的努力，都只會增加復雜性而非簡單性。第三條定律指出，任何足夠簡單易懂的系統(tǒng)都不會復雜到能夠?qū)崿F(xiàn)智能化的行為，而任何足夠復雜到實現(xiàn)智能化行為的系統(tǒng)都會復雜到難以理解。[3]

阿西莫夫的機器人三定律，主要是為了規(guī)范人和機器人的相處原則，而人工智能三定律的重點是機器人的智能決策和行動。這些法則旨在調(diào)節(jié)機器人與人類之間的動態(tài)關系。而某些人秉持“人機分離”的詭譎邏輯使得資本邏輯下的“人奴役人”轉(zhuǎn)向了錯誤的另一頭“機器奴役人”。人類已經(jīng)認識到人工智能對人類命運的潛在影響，因此應優(yōu)先考慮人類的安全和堅定人類的主導地位。虛擬世界及其與現(xiàn)實世界關系的規(guī)則可確保兩者之間的明確溝通，同時也能起到一定的保障作用。羅薩認為加速社會的提升邏輯和增長邏輯會帶來新的異化，他援引了耶吉對異化的定義：“異化是一種缺乏關系的關系，是一種我們與世界的扭曲的關系?！盵4]值得慶幸的是，一小部分人已經(jīng)開始意識覺醒，開始思考未來“極少數(shù)精英利用智能技術與生物技術的結(jié)合控制大多數(shù)人”[5]的情況，他們害怕資本下的“技術異化”，擔憂“一旦人工智能和基因技術創(chuàng)造了絕對強者，絕對強者就很可能利用絕對優(yōu)勢的技術去實現(xiàn)文明的重新野蠻化，比如說消滅‘無用的人，而放棄高成本而復雜的倫理、法律和政治”[6]，甚至在高技術水平的文明中，資本和權(quán)力合謀，導致其比低技術文明更有湮滅人類的能力，“更危險的是，今天其所發(fā)展出來的強大操控能力正試圖超越并碾壓人類的政治能力”[7]。

如今，在人工智能、信息網(wǎng)格和生命科技時代，人機交互關系已從“相互依存”到“相互滲透”再到“相互嵌入”。智能時代的快速發(fā)展推動了這一演變，嵌入式技術日益成熟。這導致了一種“新人類”的存在——“半機械人”，它存在于人類和機器之間，既不完全是人類，也不完全是機器。從20 世紀開始，科幻文學作品中開始出現(xiàn)了“賽博格”形象。賽博格即機械化有機體，是以無機物所構(gòu)成的機械體，作為人類或其他動物等有機物身體的一部分，思考動作由有機體操作，而無機體能夠增強有機體各方面的能力。賽博格這種人與電子機械融合形象的出現(xiàn)，代表了人類開始借助科技力量來獲得超越生物體智力和體力的極限。小說中所謂的“基因提升”（IA），指的就是現(xiàn)代生物技術即基因編輯優(yōu)化技術，它和賽博格相比，顯然更加突破傳統(tǒng)倫理。

人機互替與基因提升同樣都是利用科技，都提出了挑戰(zhàn)人的概念的存在論問題，但是“賽博格”最多是在外部補全或延伸人類的某些器官（大腦除外），或者增強脆弱人體的某些功能，不至于涉及一些倫理道德問題。人是什么？人是擁有大腦自主思考能力的、有情感有欲望有價值傾向的政治動物，那么機器人便永遠不可能變成人。在小說中，通過克拉拉的回憶，讀者可以了解到克拉拉陪伴的小女孩喬西身患重病，喬西的姐姐因基因提升出現(xiàn)意外而死亡，母親再不能承受失去喬西的痛苦，所以她希望克拉拉能夠?qū)W習女兒的一舉一動、每一個細節(jié)，希望克拉拉能夠在喬西死后為自己造一個女兒還活著的“夢”?！安粌H僅是膚淺的學習，還能深層的、完整的學習，直到第一個喬西和第二個喬西之間再無任何差別”[1]。母親甚至希望卡帕爾迪教授能夠利用科技“再造”一個喬西。令讀者深思的是：克拉拉能否真正地替代喬西？和原主一模一樣的“機器喬西”是真正的喬西嗎？至此，面對人類社會的倫理秩序，小說展現(xiàn)了基因提升科技和倫理的沖突。

有了“自主反思能力”的機器能否代替人類？在資本、權(quán)力和機器高度結(jié)合的情況下，人類是“服務”于機器還是資本？隨著人工智能和生命技術的飛速發(fā)展，這些問題都是未來我們需要面對的。

三、人機倫理反思：人機共存的可能性

人工智能發(fā)展至今，人類仍在操作和掌握機器人。人類與自己控制的機器建立了從屬關系，導致人類掌握著決定機器人命運的權(quán)力。近年來，隨著許多科幻作品的傳播，如《流浪地球》《三體》掀起的科幻熱，越來越多的人關注到這種類型文學，人們開始擔憂，隨著科技的進步與人工智能的發(fā)展，機器人是否會變成能夠取代人類的“新人”。

《克拉拉與太陽》中的機器人克拉拉善良、真誠，善于觀察和模仿他人，具備獨立的思考能力，同時也在自我思考后遵守了自己做出的行動指令——為了讓喬西恢復健康，摧毀庫廷斯并向太陽尋求幫助。這些行為都是克拉拉主動思考與反饋的結(jié)果，其自主系統(tǒng)可以模仿或者取代人類的認知功能。石黑一雄希望人們“感覺到他們看見的并非一個陌生的世界，而是每個人所經(jīng)歷的故事”[8]。關懷人性，是石黑一雄作品的主旨。在讀者看來，克拉拉已經(jīng)有了自我意識，把它置于后人類社會中，它似乎將要脫離人類的掌控。其實，當一個由無機體組成的機器人可以思考的時候，人類與機器的從屬關系也就消失了。同時，當技術發(fā)展到一定階段，置身于未來的社會，科技與社會都上了一個新臺階，外部算法比人類更了解人類自身，出現(xiàn)的可能是人類與機器人的共生關系，甚至會出現(xiàn)人類隸屬于機器人的社會圖景。當然，在機器人主宰人類的假想未來，最理想的情況是人類與機器人共存。這種共存必然會導致“超人類”甚至“智神”等新物種的出現(xiàn)。這里的“超人類”是指人的身體和機器的大腦相結(jié)合的“賽博格”。人類的第一次認知革命是人類自身DNA發(fā)生進化，自我發(fā)展，創(chuàng)造了世界生物體這一切存在的概念，成為地球的主人。而當未來算法與生物技術給人類世界帶來第二次認知革命時，外部算法擁有大數(shù)據(jù)的支撐，比人類更了解人類，通過人工智能與智能增強，智人物種進化為“超人類”或“智神”。無論是“智人”還是“智神”，都是人工智能與智能增強生物技術混合的結(jié)果。這也是當下我們需要思考的問題。

人工智能說到底是通過計算、大數(shù)據(jù)等手段從外部模仿人類的行為，而生物技術則是在人的內(nèi)部改造人，從生物體的有機組織來改造人，甚至創(chuàng)造人?；蛱嵘谷祟愒诔錾鷷r就打上了階級分級標簽，在跳過后天勞動等多重個人因素影響的情況下提前實現(xiàn)了社會分層。作者在小說中寫了一個賭徒式的設定：基因提升不能保證每個人最后的能力都真的跨級式提高，甚至都不能確保每個孩子的生命安全，它是家長圍繞孩子未來的一場投資，是對于未來孩子乃至一個家庭能否從底層擠進上層社會的賭注。

進入后人類社會，人類與技術的耦合似乎并未帶來想象中的美好烏托邦，反而讓社會走向了另一極端—— 一個悖論式的未來。在科技面前本就弱小的人類，在與技術結(jié)合之后更加孱弱，甚至使人類的存在價值消失。科技的發(fā)展真的能給人類帶來希望嗎？真的能使人類更加強大嗎？小說中，在科學選擇的新時代，人類陷入兩難境地，人工智能和基因編輯技術帶來的諸多問題反映了工具理性和技術崇拜的弊端。科學技術的首要目標是增進人類福祉，然而，現(xiàn)代科學技術的發(fā)展卻對人類的重要性和地位帶來了前所未有的考驗。作家從機器人的視角出發(fā)，審視人類中心主義帶來的惡果，理性的自負和社會的不斷加速使世界面臨失控的風險，科學技術沖擊了傳統(tǒng)的道德倫理，進而造成社會階級的分層。通過這部小說，作者石黑一雄一方面向讀者揭示技術理性的有限性，警惕技術拜物教和人類中心論，另一方面也指出了在資本邏輯驅(qū)動下我們應站在歷史唯物主義的立場下來看待人機關系。該作品反映了石黑一雄對技術和人類存在的哲學思考。

在高科技智能時代，工廠流水線上生產(chǎn)出來的家庭陪伴機器人AF正在一步步瓦解人類社會傳統(tǒng)的道德觀念。人機共存的后人類社會存在著諸多問題，這些問題最后其實都指向了人類中心主義。面對未來的人工智能時代，人類必須開始思考如何與機器共處，如何跳出資本社會“人-機-人”式的奴役陷阱。只有消除人類中心主義的觀念，未來的人機共存社會才有可能和諧。

四、結(jié)語

技術把人們帶往自由和解放的道路的同時，也引發(fā)了新的矛盾和困境。最近的AI繪圖技術和Chat GPT ①更是增加了人們對于人工智能的擔憂——我們離危險又強大的人工智能不遠了。其實，人們對于未來人機之間關系的各種擔憂，癥結(jié)在于人而不是機器。未來給人類生存造成威脅的不是高速發(fā)展的技術本身，而是人類對待和使用科技的方式。時代在發(fā)展，這些問題是不可避免的，如果我們想建立一個人類與機器人和諧共存的社會，對技術化的人類生存方式必須有新的認識，還要消除人類中心主義的倫理觀。

面對高科技帶來的便捷與美好生活，我們必須對新興技術進行批評性反思。在避免自身復原力和抵抗力受到侵蝕的同時，也有必要警惕智能技術對人類自主性和內(nèi)在性的潛在破壞。只有這樣才能在未來人機共存的社會中保持自我意識的獨立，維持社會的和諧穩(wěn)定。

注釋

① Chat GPT是一種由 AI 技術驅(qū)動的自然語言處理工具，可讓你與聊天機器人進行類似人類的對話等。語言模型可以回答問題，協(xié)助人完成諸如撰寫電子郵件、論文和代碼等任務。

參考文獻

[1] 石黑一雄.克拉拉與太陽[M].宋僉，譯.上海：上海譯文出版社，2021.

[2] 阿西莫夫.阿西莫夫：機器人短篇全集[M].葉李華，譯.南京：江蘇文藝出版社，2014.

[3] 布羅克曼. AI的25種可能[M].王佳音，譯.杭州：浙江人民出版社， 2019.

[4] Rahel Jaeggi，Alienation[M].New York： Columbia University Press，2014.

[5] 赫拉利.未來簡史[M].林俊宏，譯.北京：中信出版社，2017.

[6] 趙汀陽.人工智能提出了什么哲學問題[J].文化縱橫，2020（1）.

[7] 趙汀陽.人工智能“革命”的“近憂”和“遠慮”——一種倫理學和存在論的分析[J].哲學動態(tài)，2018（4）.

[8] Cynthia F. Wong＆ Grace Crummett A Conversation about Life and Art with Kazuo Ishiguro [A]. In Ed，Brian W.Shaffer＆Cynthia F. Wong. Conversations With Kazuo Ishiguro[C]. Jackson： University Press of Mississippi，2008.

（責任編輯 羅? 芳）

作者簡介：劉怡，閩南師范大學文學院，研究方向為科幻文學。