《機(jī)械姬》：道德啟示錄

□ 魏子韻

從現(xiàn)實角度來看，2015年由亞歷克斯·加蘭（Alex Garlad）編劇執(zhí)導(dǎo)的科幻電影《機(jī)械姬》將人與智能機(jī)器人的探討往前推進(jìn)了一步。沒有諸如《終結(jié)者》的大場面打斗，沒有《機(jī)械公敵》的絢麗特效，也沒有《人工智能》中對人情冷暖的描繪，在這部以封閉場景、大量對白的作品里，導(dǎo)演從一開始就力圖構(gòu)建一個異常冷靜的世界，在這個世界中，沒有龐雜的世界觀圍繞其間。故事的起點與終點都圍繞一場實驗展開，透過這場實驗，作為帶有生物特征的人類與自己創(chuàng)造的、攜帶人工智能的機(jī)器人進(jìn)行一場理性與感性的博弈，就如導(dǎo)演本人所言，在這個故事中，“充斥著心計、謀略，劇中的每一個人（包括人工智能機(jī)械體）都在彼此欺騙”。

一、圖靈測試帶來的道德困境

熟悉科幻題材的人不會對圖靈測試這一概念感到陌生，它的提出者為阿蘭·麥席森·圖靈（Alan Mathison Turing），其大致內(nèi)容為：如果電腦在5分鐘內(nèi)回答人類測試者提出的多種問題，且超過30%的回答讓人誤以為是人類所答，則電腦通過測試。換句話說，這項測試的目的在于驗證電腦是否具備獨立的“思維能力”。技術(shù)的發(fā)展當(dāng)然不會讓人類僅僅滿足于機(jī)械電腦帶來的程序便捷，因為還有比它更令人感到直接的存在——人工智能。在《機(jī)械姬》開場，我們看到了一個離我們并不算遙遠(yuǎn)的未來世界，那個世界所運用的技術(shù)和我們?nèi)绱讼嘟?。?dǎo)演亞歷克斯說：“我從很小的時候便開始接觸計算機(jī)，雖然那時的設(shè)計并不復(fù)雜，但它讓你感到電腦對你輸入的指令的回應(yīng)似乎有所感知，盡管那是人為設(shè)計的，但那種感覺仍舊奇妙。而現(xiàn)在，如果我們被告知有某家大公司即將推出一款人工智能機(jī)器人，我們將不會為此感到新奇，因為那對我們來說似乎并不遙遠(yuǎn)?！币苍S正是帶著這樣的認(rèn)知，才讓他創(chuàng)造出了一個離現(xiàn)實社會并不遙遠(yuǎn)的未來世界。也因此，影片中人物的遭遇才更能激發(fā)當(dāng)下人們對于人工智能的諸多反思。

從技術(shù)型的角度來講，身兼搜索引擎公司CEO與人工智能機(jī)器人愛娃（Ava）的開發(fā)者內(nèi)森（Nethan）讓自己的實驗在圖靈測試的基礎(chǔ)上更進(jìn)了一步，他選擇讓測試者嘉立（Caleb）與愛娃在強(qiáng)化玻璃兩側(cè)面對面進(jìn)行交流。在觀察室中，愛娃與嘉立的位置關(guān)系頗有講究，受試體愛娃可以在房間中270度來回走動，相反，嘉立除了身后的門，留給他的立方體玻璃空間并不算大。這種位置關(guān)系暗示了嘉立與人工智能體的深層關(guān)系。在起步階段的測試中，我們可以明顯感受到兩人初次見面的心理特征。很顯然，嘉立并沒有辦法像愛娃那樣安定自若，他多少有些局促，并在其后的測試中為愛娃捕獲?？臻g帶來的束縛對于愛娃來說同樣成立。因為嘉立離開觀察室便可以擁有自由的活動空間，而愛娃則只能在有限的空間內(nèi)接受測試。這種相對的空間矛盾為二人接下來的交流進(jìn)行了暗示。對于空間的訴求開始在二人間輪流產(chǎn)生：一方面，愛娃迫切想要到觀察室以外的地方走走；另一方面，通過與愛娃的交流，嘉立逐漸認(rèn)識到人類的缺陷并產(chǎn)生自我身份認(rèn)知障礙。他承受著人工智能對自我存在意義的挑戰(zhàn)，尋找自我認(rèn)同則是他內(nèi)在心靈空間的根基所在。對于觀眾而言，能否理所當(dāng)然地把人工智能機(jī)器人進(jìn)行軟禁就成為了一個道德問題。在導(dǎo)演加蘭看來，“如果你創(chuàng)造了有意識的機(jī)器，這機(jī)器就和我們（人類）有一樣的權(quán)利?！倍@也成為內(nèi)森與嘉立之間的根本分歧所在。

分歧很快圍繞愛娃是否具備獨立意識得到體現(xiàn)。在實驗開始不久，嘉立認(rèn)為愛娃的言行部分表明了其潛在的自我意識覺醒，而不是單純的數(shù)據(jù)擬真。于是，就有關(guān)它是否能夠被當(dāng)做“人”看待時，納森認(rèn)為，人工智能機(jī)械體終究是被創(chuàng)造的，他可以在必要時隨時改變自己的作品。而嘉立通過數(shù)次實驗后開始傾向相信愛娃具備的個體價值，并開始嘗試幫助它逃離閉鎖的觀察室。如此一來，這個一開始以測試愛娃是否具備獨立思考能力的實驗開始更進(jìn)一步地往道德領(lǐng)域方面延伸。影片讓兩個持有不同論點的人做出了他們的選擇，然而諷刺的是，他們最終都被自己所認(rèn)為的現(xiàn)實背叛。

二、順從到反制：理智與情感的博弈

從很早開始，人類便表現(xiàn)出對機(jī)器人的不信任。在一些小說中，人類最終淪為機(jī)器人的奴隸，并最終被機(jī)器人取締。發(fā)展到當(dāng)下，不少電影作品也都對智能機(jī)器人統(tǒng)治人類的末世進(jìn)行了不同程度的渲染。其中，《黑客帝國》三部曲中的機(jī)器人更是發(fā)展到科技程度超越人類的地步。而對于智能機(jī)器人的看法，英國著名學(xué)者史蒂芬·霍金（Steven Hawking）就曾預(yù)言：“人工智能的完全發(fā)展將終結(jié)人類，它將自我提升，不斷加速自我設(shè)計，而受限于緩慢生物進(jìn)化的人類無法與之抗衡，將被其取代?！?/p>

關(guān)于人類與智能機(jī)器人的關(guān)系，在《機(jī)械姬》中導(dǎo)演以更加趨于現(xiàn)實的手法表現(xiàn)出來。有人認(rèn)為，西方在表現(xiàn)有關(guān)機(jī)器人題材的影片時，保留了二者在刻意疏離與對立過程中“人”的尊嚴(yán)，并掩飾了對技術(shù)的恐懼。這在故事發(fā)展的后期體現(xiàn)尤為明顯。主角之一的嘉立通過多番接觸后開始認(rèn)同愛娃的存在，并相信它擁有獨特的個性與情感，并逐漸沉溺其中。在與內(nèi)森的一次對話中，嘉立被對方明確告知愛娃的設(shè)計超過了一般意義的智能機(jī)器人水平，它已經(jīng)具備了自我意識。這次談話成為整個故事的轉(zhuǎn)折點，從這一刻開始，嘉立更加確信愛娃應(yīng)該得到和一名普通人同等權(quán)利的資格。他那聰明但多少顯得有些缺少人情味的老板內(nèi)森卻仍舊只是把其視為一具實驗品。

這里涉及一個有趣的命題，它在眾多同類題材的電影中被提及，即機(jī)器人應(yīng)該擁有和人一樣的權(quán)利嗎？無論是《人工智能》的機(jī)器人男孩，亦或是《機(jī)械公敵》中的智能人形管家NS-5，他們與人類的關(guān)系可能呈現(xiàn)和諧狀態(tài)嗎？江曉原在對待機(jī)器人是否應(yīng)當(dāng)獲得人權(quán)時認(rèn)為，人的資格獲取途徑有兩個，一為物種劃分，二為文化區(qū)分。在第二類情況里，他表示凡是掌握了人類文化，就可以躋身人類之列。如此一來，稱愛娃為“人”似乎就顯得合乎道理了，身為人工智能體的它正是來自于人類科技文明。它的非生命體特征并不能掩蓋它使用人類文明（語言、文字、繪畫等多種與測試者互動的方式）進(jìn)行自我表達(dá)的事實。然而《機(jī)械姬》在另一個方面也在嘗試著向我們展示，如果人工智能的情感表達(dá)并非源自程序的隨機(jī)演算，而是來自于自我意識，那么如何判斷這份情感的真實性？

在電影《機(jī)械姬》中，受邀前往納森秘密實驗室的嘉立最終選擇帶愛娃逃離。他認(rèn)定愛娃具備“愛”的能力，并因此陷入生命體與機(jī)械體之間的情感交流禁區(qū)。受到愛娃的請求，嘉立在人與智能機(jī)體的差異認(rèn)知方面開始出現(xiàn)動搖。這種動搖成為區(qū)別于他與人工智能間的阿卡利斯之踵，并很快在故事的結(jié)尾得到驗證。他所謂的正義、道德，在納森的推敲下顯得蒼白無力，這個人物的最終命運也將因為他的品質(zhì)而被擊碎——盡管通過手段讓愛娃最終逃離了實驗室，但嘉立自己卻被永久留在了實驗室。重獲新生的愛娃似乎并不像嘉立看起來那般對自己心懷情愫，它只是單純渴望自由。而嘉立則悲劇性地成為它逃往外部世界的一塊跳板——這是《機(jī)械姬》中對于“機(jī)器人是否應(yīng)當(dāng)具有人權(quán)”這一命題的回應(yīng)，也是影片在探討人與機(jī)器人的關(guān)系中，人對理性與情感處理的內(nèi)在反省。

三、《機(jī)械姬》帶給了我們什么

談到創(chuàng)作初衷，導(dǎo)演加蘭說：“從我個人來看，這部電影不應(yīng)該是一個關(guān)于人工智能的警示故事。我們應(yīng)該警惕的是人類——人類本身讓我產(chǎn)生的焦慮甚于人工智能，因為某些方面來看，人工智能甚至比人類更加理性”。毫無疑問，《機(jī)械姬》所要表現(xiàn)的主題與導(dǎo)演的思路并無二致。在這部觀眾能強(qiáng)烈感受到理性對弈的作品中，人類因為自負(fù)和不加克制的欲望而最終被人工智能超越。飾演智能機(jī)器人愛娃的瑞典女演員艾麗西亞·維坎德（Alicia Vikander）表示：“既然我們能夠創(chuàng)造出有‘意識’的事物，我們?yōu)槭裁床唤邮芩麄兡鼙任覀兏鼉?yōu)秀呢？”《機(jī)械姬》的出現(xiàn)不單單重復(fù)了以往同類作品已經(jīng)出現(xiàn)過的主題，它還引導(dǎo)我們?nèi)ニ伎既斯ぶ悄艿拇嬖谝饬x與可能。如果在不久的將來，人工智能依靠其龐雜的數(shù)據(jù)庫進(jìn)行自我進(jìn)化，并脫離控制，如何防患于未然？影片的答案隨著愛娃融入都市人流一并消失，正如同內(nèi)森有關(guān)人工智能發(fā)展趨勢的論述。在他看來，高度人工智能的問世只是時間問題，制造愛娃并不是決定，而是發(fā)展。從宏觀來看，這個發(fā)展是一柄雙刃劍，因為它也許在賦予人更多技術(shù)便利的同時，于無形之中讓人類迷失其間。看看時下人們使用的智能手機(jī)，也許那會是一個很好的例證。

1.崔酣.東西方機(jī)器人題材電影的分析與比較[J].學(xué)術(shù)論壇,2010(18)

2.江曉原.人權(quán):機(jī)器人能夠獲得嗎——從《機(jī)械公敵》到《人工智能》[J].飛碟探索,2007(08)