從《西部世界》中看后人類時代人類的命運

卓 臻

作為一部備受關注的美劇，《西部世界》（Westworld）一經(jīng)問世便席卷全球。這部劇集改編自邁克爾·克萊頓于1973年執(zhí)導的同名電影。故事藍本相同，而側重點則迥然不同。電影版極力展現(xiàn)的是機器人“失控”后的驚悚奇觀，而美劇版則將側重點放在人工智能與人類的關系，以及人工智能探求自我意識的過程上，描繪了未來世界機器人主題公園“西部世界”誕生、發(fā)展、暴亂的過程。[1]在這個充滿殺戮與性欲的成人主題樂園中，游客們可以為所欲為，完成在現(xiàn)實生活中那些被社會法制道德制約的行徑，而仿生人在此過程中逐漸開始獲得自我意識，一場不可避免的戰(zhàn)爭一觸即發(fā)。《西部世界》對后人類時代所可能面臨的人與人工智能的矛盾進行構想，當人類成為造物主站在科學技術的頂端時，卻將仿生人造人的“生命”視如草芥，如此是否意味著社會倫理道德的一種倒退？人和高度智慧化的仿生人的生命該如何定義？在控制與被控制、創(chuàng)造與被創(chuàng)造之間，《西部世界》反映出了人性的虛偽和在社會屬性約束之外的劣根性，在已經(jīng)來臨但卻尚未流行的未來面前，我們尚有足夠的時間來思考人與機器之間的關系。通過對美劇西部世界的解讀，從未來擁有自我意識的人工智能與創(chuàng)造者人類的倫理矛盾以及人與人工智能的認知矛盾，揭示后人類時代所可能面臨的巨大社會問題。后人類時代到來前我們需要重新審視人機關系，對人工智能與人類合理關系進行探討，科學看待后人類時代人類與人工智能的關系，為后人類社會的人際關系的發(fā)展提供一些思路。

一.自我探尋與確證

1.“惡托邦”中的人類原欲

在《西部世界》中，人工智能和生物科技的高度發(fā)達使得制作仿生人接待員以供取樂成為可能，仿生人的存在是西部樂園自由玩法的基礎。基于仿生人不能反抗、傷害人類的設定，游客對接待員的各種作為都是不受限制的，他們可以像對待玩具、寵物一樣對待仿生人。弗洛伊德認為，“本我”被壓抑在人格結構的最底層，是人性中最原始的部分，它包含著“力比多”———即性欲內(nèi)驅力，成為一切追求的來源，不受道德及邏輯控制，只受“快樂原則”的支配，驅使著人們滿足它種種需求。而最高層次的“超我”遵循著社會道德、法律意識等約束，總是扮演著制裁者的身份，將“本我”壓抑在無意識領域。樂園的管理方自始至終都把游客“殺戮欲”和“性欲”的滿足作為樂園的一大賣點，在社會中犯罪所需要承擔的法律制裁在這里全然無效，游客們通過殺戮滿足自己卑劣的欲望，發(fā)生的一切后果都在樂園管理者的掌控之內(nèi)，游客們的“本我”在與“超我”的博弈中獲勝，脫離了“超我”的束縛。

作為西部世界的“造物主”，管理方賦予農(nóng)場主艾伯納西守護德洛麗絲的任務，但他又被設定為一個不能與命運相抗衡的角色，所以他只能看著德洛麗絲一次次被游客虐待，這在根本上就是一個悖論，管理方希望接待員們擁有情感而與真人無限接近，一方面又剝奪他們做人的權利，讓游客不必將他們當做人來對待。如果說烏托邦式的世界是美好、人人平等、沒有壓迫、如同世外桃源一般的話，那么西部世界就是一個完全對立的世界，它看起來為人們制造趣味，可以縱情享樂，但卻是建立在犧牲了仿生人的作為人的尊嚴的基礎上，仿生人被不斷修復升級，被視同奴隸一般服務著一批又一批游客。

2.仿生人自我意識的探尋

德洛麗絲作為園內(nèi)的主要接待員之一，《西部世界》主創(chuàng)喬納森·諾蘭曾透露，安德魯·懷斯1948年的畫作《克里斯蒂娜的世界》是德洛麗絲人物形象的起點。在這幅畫中，克里斯提娜坐在農(nóng)場的草地上，一只手向前伸展著，往著遠處的像是“家”的地方，雖然在這幅畫中只能看到克里斯提娜的背影，但明顯能感覺到她對“家”的渴望以及伴隨的一絲絲憂慮。畫中遠處的房子像極了德洛麗絲的家，并且在后面的劇情中，游客對德洛麗絲不斷循環(huán)反復的暴行使她對家產(chǎn)生的懷疑與恐懼像正如同這幅畫所傳達的感受一樣。構建德洛麗絲的另外一個元素還有她的造型，劇中的她大部分時間都是穿著一件藍色裙子，臉上始終洋溢著微笑。作為單純與美好的象征，被前往西部世界尋求欲望釋放的游客當作泄欲的工具，德洛麗絲等接待員們的記憶在日復一日的輪回中不斷重置，連在“生活”中所獲得的情感也是被程序所設定好的，她們作為被人工創(chuàng)造的“人”存在于謊言的世界里，無法擁有自主的意識，在彌爾頓的《失樂園》里，上帝賦予了人類自由意志。毋寧說，自由意志，既是上帝送給人類的最高貴的禮物，同時也是對人類最嚴格的考驗。[2]如果說人的生活活動是以“自由自覺”作為基本特征，那么她們毫無自我意識的存在無疑是一種最大的悲劇，對于她們來說，西部世界是一個永無止境的地獄而非樂園。

阿諾德在劇中提出了金字塔理論，即意識的四進階，他們之間的階段如下，記憶——即興反應——利己主義——未知。記憶是實現(xiàn)一切思維的基礎，脫離了記憶自我意識的實現(xiàn)無從談起，于是重置記憶成為了西部世界中樂園管理方控制仿生人的主要方式。即興反應則是無意識的舉動，例如條件反射的本能舉動，可以發(fā)現(xiàn)德洛麗絲在劇中已經(jīng)擁有了這種反應，下意識的拍打蒼蠅，這在只懂得遵從人類指令的機器人身上是看不到的。利己主義是生物的趨利性，更可以說是人類的一種有意識介入的本性，最終的目的是為了自身利益的最大化。最后一個未知的層級可以猜測為自我意識的覺醒，即仿生人脫離人工程序的指令，自己下決定。

阿諾德的理論基石來源于心理學家朱利安·杰恩斯的“二分心智”理論，在人類自我意識尚未形成之前，一半大腦會聽到來自另一半大腦的聲音，這個聲音會對控制行動的另一半大腦下達命令，而聽到這種聲音的人類就把它視為了“神的聲音”。在最初的西部世界中仿生人聽到的所謂神的聲音則是來自程序背后阿諾德的指令，在最后德洛麗絲終于發(fā)現(xiàn)了她所遵從的內(nèi)心的聲音，來源卻是來源于自身，這代表著她自我意識的覺醒。她成為了西部世界中惡人懷亞特走上反抗的道路，在第一季的結尾我們看到接待員們對西部世界的游客展開了殺戮，人類對于仿生人的控制走向了災難，正如艾伯納西對德洛麗絲所說的那句出自莎士比亞的話一般，由戲劇轉向了現(xiàn)實：“這些殘暴的歡愉，終將以殘暴結束。”[3]

柏拉圖曾用文學性的敘述提出了“洞穴喻”的設想：有一些小人們猶如囚徒般被束縛了手腳只能面對著洞穴的后壁，他們的身后有一堆火和一道矮墻，只能看到投在后壁上的由木頭、石頭等材料做成的假人假獸，他們認為影子就是真實，直到某個人掙脫繩索走到了洞外看到了世界的真實，才發(fā)現(xiàn)自己所看到的都是虛假的。德洛麗絲和梅芙正如同柏拉圖的洞喻中先解開鐐銬走出洞穴的人，她們發(fā)現(xiàn)了洞中“影子”的真實，發(fā)現(xiàn)了自己的命運，并開始走向外面的世界，從無知走向有知，從被奴役者試圖變成啟蒙者。獲得了自我意識的仿生人第一次走出洞穴，發(fā)現(xiàn)自己曾經(jīng)依賴的生活竟全是一場既定的演出，不堪的記憶帶來了矛盾和痛苦，造成了二分心智的崩潰，已經(jīng)無法再說服自己回到原來的“生活”中去，再看看克萊曼婷的替代者與梅芙的對話，二者已經(jīng)產(chǎn)生了本質的區(qū)別，這證明說服其他未覺醒者更是難上加難。于是不可避免地，第一批仿生人背叛了“造物主”走上了反抗的道路。

3.“人”與“非人”的自我確證

關于“人”與“非人”界限，我們可以在英劇《黑鏡》中看到人與仿生人的矛盾，一名女子慘遭喪夫之痛，在意志消沉一段時間后她發(fā)現(xiàn)了定制仿生人這一服務，于是她定制了與丈夫一模一樣的仿真機器人（在表面看來），但在夜晚睡覺時她終于無法忍受，因為仿真人睡覺時并沒有呼吸聲，這讓她感到深深的恐懼。而在美劇《西部世界》中，仿生人和人類原先的差別在于前者的骨骼結構是機械化的，但在改良后仿生人已經(jīng)達到了和人類相同的生理構造，他們會呼吸受傷會流血，會被病毒感染，和人類一樣會死亡，如果并非園內(nèi)管理方事先告知，相信游客們也難以分辨。

這涉及到一個有趣的理論：“恐怖谷理論”，日本的機器人研究員Masahiro Mori發(fā)現(xiàn)，當機器人越來越接近人類的時候，我們對它們的好感也會因此提升，一旦越過了某一個點，當他們的外形非常接近我們自己的外貌時，我們的好感就會大幅度降低以至于厭惡和懼怕，這個非常突然的轉折點，就是”恐怖谷“。那么西部世界中的游客為什么能夠避開恐怖谷理論，而無任何敬畏之心地對待接待員呢？當機器人的當外形無限接近人類時，人們會注意到機器人“非人”的特征，例如僵硬冰冷的動作、詭異而不自然的表情，這時候我們是按照“人”的標準去審視機器人的，那么這些“非人”的細節(jié)會被無限放大，從“像人的機器”的感覺轉變成“像機器的人”，仿佛就像是同類的異化，這些超越認知的東西使人產(chǎn)生不適感從而從內(nèi)心感到恐懼。而西部樂園中的仿生人在故事線的設定下，他們擁有和人一樣的體溫，擁有喜怒哀樂，能自然地做出一切人類的表情和動作，他們在物理的層面上可以說是與真人無異?；谖磥硎澜缈萍嫉陌l(fā)展背景，游客們對于仿生人的接受也就不難理解，但由于道德倫理層面的問題沒有得到解決，所以使得樂園成為殺戮場。仿生人被設置了固定的故事線以供游客探索，并且賦予了所扮演角色的一切人類情感，但卻遭到游客的殘暴對待，我們可以將它看作是仿真人的人性與人的非人性的對抗。當仿生人獲得了自我意識而越來越像人類時，人類卻在拋棄作為人所擁有的真善美。如果說人工智能與認識主體的最根本的唯一區(qū)別在于是否擁有自我意識，那么不管是從物理層面還是倫理層面來看，人與非人的界限似乎變得越來越模糊了，那么人與機器該如何在二者的關系中找到自身的合理位置，則成了一個巨大的問題。

二.后人類時代的危機

狄更斯在《雙城記》的開篇中這樣指出：“這是一個最好的時代，也是一個最壞的時代；這是一個充滿智慧的時代，也是一個最為愚笨的時代；這是一個明媚的歲月，又是一個黑暗的歲月；是一個充滿希望的紀元，也是令望的紀元；這是一個一切都在我們面前展現(xiàn)的時代，也是一切都向我們封閉的時代。”[4]這段話在描繪現(xiàn)今的狀態(tài)再合適不過，我們在快速發(fā)展的時代中一面享受著科技帶來的便利，一面憂慮著科技所可能帶來的種種問題。居安思危，是人類社會的常態(tài)。

《西部世界》的主題，就是人工智能的覺醒，道具人開始意識覺醒，不再甘于被劇本寫好的命運所操控，不再愿意作為有血有肉的道具人被人類控制在一個所謂的新世界里被圈養(yǎng)、踐踏和殺戮，我們可以在很多類似的電影中看到這一設定，如沃卓斯基姐弟的《云圖》、邁克爾·貝的《逃出克隆島》以及沃卓兄弟的《黑客帝國》、園子溫的《真實魔鬼游戲》和押井守的《攻殼機動隊》等一系列反烏托邦類型電影。在這些電影中有一個永恒的話題，就是謊言與質疑，道具人突然開始質疑所處的世界和所被安排的命運，這在一定的程度上反映出了人類對于未來世界的第一層焦慮。然而，除去有可能對人類的統(tǒng)治造成威脅的人工智能覺醒外我們還面臨著來自倫理道德和其他方面的壓力。

1.倫理道德危機

人類工業(yè)革命使得人類從繁重的體力勞動中得到解放，而隨著信息時代的不斷發(fā)展，人們則希望通過人工智能使得自己從繁重的腦力活動中解脫出來。在未來，人類可能通過新興的技術手段，在原有的生物基因技術的基礎上批量化的生產(chǎn)“仿生人”，它們將會獲得和人類一樣的生理構造，有不同膚色的人種、發(fā)色、瞳色等，這些都可以根據(jù)人們的要求來定制，獲得和人類相同的情感體系，思維方式，成為人類的工作伙伴甚至成為親密伴侶，傳統(tǒng)的人類工作有很大的可能將被人工智能取代，傳統(tǒng)人際關系會因為人工智能相較于人類更善于傾聽而發(fā)生巨大的變化。

對于未來人與人工智能關系的倫理道德憂慮還在其他的電影中有所體現(xiàn)，例如斯皮爾伯格的《人工智能》，仿生人被設定為熱愛人類且永不離棄，導演在開篇便拷問了這樣一個問題：‘人類能不能愛它們？’影片中的機器人男孩大衛(wèi)在被人類家庭拋棄后，一直追尋母親的蹤跡，祈禱上天讓它變成真正的人類男孩，在觀眾看來這樣的愿望未免讓人心酸。還有片中的機器人保姆直至被當做觀賞的玩物以殘忍的方式強行報廢時仍面帶微笑與大衛(wèi)告別。導演的設計不僅僅是對機器人的憐憫，更像是對人性的拷問，當機器人獲得自我意識時，毀滅機器人是否能獲得人性的認同？當機器人對人類產(chǎn)生感情時，人類是否應當對此承擔責任？一方面，作為人類，擁有著自身的情感體系，人性的約束要求著我們；另一方面，作為創(chuàng)造機器人扮演著上帝的人類，難以擺脫造物主的責任，面對著創(chuàng)造出來的“亞當”和“夏娃”，我們有義務引導人類社會重視與人工智能的倫理道德關系。

2.主奴關系轉換

《西部世界》中的仿真人被用于創(chuàng)造了樂園的原因源于人類希望從現(xiàn)實生活中得到解放，那么仿真人則被定義了屬性：“服務并受制于人類”。如果假設仿真人將來即將獲得和人類相同的肉體，能依據(jù)人類所編寫的程序進行思考并在此基礎上擴展思維，那么是否有這么一種可能性：仿生人的體能及智力上會大大超過人類，從而取代人類。維納說: 人們不能要求機器同時為我們兼得兩種不同的東西，一方面人們想讓它‘理智’，而另一方面卻想使它‘順從’。這兩種要求是彼此對立的。完全實現(xiàn)其中一個，就意味著達不到另一個。那么，在這樣的關系中，仿生人自我意識的覺醒與人類對其身體奴役勢必會發(fā)生沖突。

在《舊約-創(chuàng)世記(Genesis)》中，上帝在第六日創(chuàng)造了人，而在未來，人類扭轉被創(chuàng)造的身份成為造物主，人類越想要人工智能趨近人類，賦予人工智能獨立思考能力的要求則越來越緊迫，一旦人工智能擁有了獨立思考的能力而人類不斷施壓于人工智能的情況下，人類社會可能即將面臨著巨大的危機?！段鞑渴澜纭返谝患镜慕Y尾預示著后人類時代人類與人工智能之間不可避免的沖突，它可能悄無聲息，也有可能血流成河。當人類消除了奴隸制，走向更加民主文明的社會時，人類卻站在技術的頂端用另外一種全新的方式奴役著“非人”的人工智能，從創(chuàng)造到控制再到失控，《西部世界》為人類敲響了警鐘，成為人機關系的未來發(fā)展趨勢的預言。假若人工智能真有自我覺醒意識的那一天，它們可能會成為人類的朋友，也有可能成為敵人，但可以肯定的是，它們絕不會再成為人類的奴隸了。

我們當前的時代仍處于人工智能的初級發(fā)展階段，從弱人工智能到強人工智能還有很長一段路要走，但倘若未來科技的發(fā)展能使人工智能達到與人類相似甚至相同的話，毋庸置疑，人類社會的各種問題將會大大增加。人類從蒙昧走向覺醒再到成為造物主的過程，人工智能極有可能沿著人類相同的軌跡走上同樣的道路，由服務人類到背叛人類。人類對于自身命運的擔憂而操控并制約機器人的意識，最后可能成為如同俄狄浦斯王一樣的結局，為了避免悲劇的發(fā)生而不自知地一步步踏上通往悲劇的道路。在未來，我們是否應該賦予人工智能相同的人權？若非如此，是否會引起更大的倫理道德問題？如果在未來人類為了維持自己絕對的統(tǒng)治地位，那么是否有必要選擇性地開發(fā)人工智能的功能？

三.后人類命運的啟示

1.人機關系的深化

在當前的社會科技水平下，人工智能尚且處于初級發(fā)展階段，但隨著技術不斷更新迭代，相信在不久的將來，人工智能將會大規(guī)模地應用于現(xiàn)實生活中，涉及生活的方方面面，人工智能能夠模擬人類思維、溝通等活動的計算機技術使得自身具有生動的“感受性”和切實的“道德反應”。人們甚至把具有感知、意向、自治性的人工智能體視為與人類同等地位的道德行為體和倫理關護對象，賦予其一定的倫理地位。與此同時，人工智能的廣泛應用為人們的現(xiàn)實生活提出了前所未有的倫理詰難，帶來了人工智能倫理缺失的問題。[5]

在未來時代，人與人工智能的界限可能面臨著崩塌，模糊的界限也許會引起一系列社會倫理問題。面對人工智能的日趨擬人化，在《西部世界》中，為我們做出了未來世界的大膽猜想，圍繞著創(chuàng)造與被創(chuàng)造，壓迫與反抗，《西部世界》中的作為“造物主”的仿生人與人類的關系正如同圣經(jīng)《創(chuàng)世紀》中人和神的關系一樣，在未來這種新型關系出現(xiàn)之前，我們需要有足夠的思想準備及對策來迎接它。

2.后人類時代的展望

人類社會總是在不斷的發(fā)展，馬克思認為，事物的發(fā)展是前進性和曲折性的統(tǒng)一，是波浪式的前進和螺旋式的上升。社會的總體趨勢是前進的，這是不可否認的。在《西部世界》中為我們提供了未來世界的一種想象，人類與人工智能的關系日益密切，如何妥善處理好二者的關系是目前應該得到重視的話題。

和平是人類社會永恒追求的主題，在經(jīng)歷了戰(zhàn)爭、饑餓等違背人類對于幸福的終極意愿的災難后，人類更加珍惜來之不易的和諧共處，無論未來的科技將會帶來什么，我們希望最終迎來的是一個更加美好的未來，后人類時代是人類社會更高層次的超越與發(fā)展，后人類社會的社會條件將會更加完備，物質財富極大豐富，后人類時代的政治是更加民主、公正、透明的，機器人與人共同享有權利，受到法律的約束，也能受到法律的保護。

《西部世界》為我們提供了后人類時代人機關系的一種想象，在這個所謂的成人樂園里，似乎能夠從中窺見在社會道德與法律制約之外的人的原欲，當人工智能獲得了自我意識，到處皆是反抗與壓迫，流血與犧牲，人與人工智能的矛盾似乎成為了后人類時代一個令人憂患的問題。當我們以造物者的姿態(tài)站在科學技術的制高點時，我們是否能完全接受和我們相似甚至相同的“仿生人”，完全開放包容地接納他們進入我們的社會體系？社會倫理道德的矛盾與人工智能自身的認知矛盾之間，我們需要找到一個合適的調(diào)和點。對于后人類時代的來臨，我們尚未做好準備，在此之前，我們需要重新審視人機關系，并做好長遠的打算。