如果有一天“人造人”寫出了小說

[英]伊恩·麥克尤恩

2018年10月26日，由中國人民大學文學院、騰訊新聞、東方文學國際寫作中心基金會聯(lián)合主辦的“21大學生國際文學盛典”在中國人民大學舉辦，英國作家伊恩·麥克尤恩現(xiàn)場發(fā)表了以“數(shù)字革命”為主題的演講，他說：當“人造人”寫出了第一部有意義的原創(chuàng)小說時——如果真有這一天的話——我們將有機會通過我們所創(chuàng)造的這些“他者”的眼睛看見我們自己。

以下為麥克尤恩演講翻譯全文：

我想要開啟一段短暫的路程，踏入不可知的未來。我的出發(fā)點是在我們的有生之年已經發(fā)生的一項深刻的改變，而它影響的是這顆星球上的絕大多數(shù)成人，還有孩子。當然，我所說的就是數(shù)字革命。今天我們尚處在這場革命的初級階段，也許歷史剛剛完成了第一章，接下來的章節(jié)會更加深刻地影響我們如何理解我們自身的人性，進而影響我們的文學和我們所有的藝術形式。此時此刻，這些新章節(jié)正在書寫之中。

我這一代人，出生于20世紀中葉，成長于模擬信號的世界中。我們寄信，我們在公共電話亭里通話（信號很差）；要想了解世界信息，我們會伸手求助書架上的百科全書。我們得到的新聞永遠遲了一天。接著，我們不得不笨拙地過渡到一個數(shù)字宇宙中，為了應付各種數(shù)字任務，我們時常得求助于自己的子女，然后是我們的孫輩。

對于80后以及更年輕的人而言，他們成人之時，互聯(lián)網(wǎng)業(yè)已成為了生活的一部分，那些被他們隨身揣在口袋里的強大電腦不僅僅是有用的工具——它們已經成為自我的延展?；ヂ?lián)網(wǎng)幾乎已成為一個包圍、影響意識本身的巨大精神體。我們學會了像在自己的腦海中漫游一樣漫游于網(wǎng)絡空間之中。我們與朋友，與廣闊的信息世界的連接速度同步于我們思維的速度?；ヂ?lián)網(wǎng)成為我們的存儲空間，成為雄心、知識、關系、夢想與渴望的中心。對于我們大多數(shù)人而言，從學生到總統(tǒng)，沒有了互聯(lián)網(wǎng)，工作——甚至是生活——都是不可想象的。它以它最美好的面孔和最丑惡的形態(tài)囊括了人性。它囊括了我們。一旦由于某種技術原因丟失了網(wǎng)絡連接，我們立刻就會感到孤獨、感到失落。這種奇怪的感覺完完全全是現(xiàn)代性的，它代表了人類意識的一次轉變。

但這僅僅是開始。過去十年間，我們目睹了計算機科學的一場革命。人工智能時代已經降臨。25年前，一臺計算機打敗了一位國際象棋大師。那臺計算機的程序中塞滿了數(shù)千場象棋賽。每走一步棋，它都會演算出每一種可能性。但就在去年，另一臺計算機僅僅被輸入了比賽規(guī)則和要求取勝的指令，除此之外，別無其他。比賽開始了，它下出了一步又一步非同尋常、步步見血的妙招，而這些絕不是人類能夠想出的招數(shù)——譬如說，開局棄后（編者注：國際象棋中，皇后是最有威脅的棋子，一般人下棋時不會選擇故意犧牲掉皇后的下法）。一臺機器再定義了人類的游戲。機器學習已經進入了第一個興旺期。利用算法，基于我們之前的購買選擇，人工智能已經能夠給我們提供書籍、電影的網(wǎng)上導購建議了。它還能夠規(guī)劃商業(yè)航班線路，還將在自動駕駛設計中大放異彩。

這一切會通向何方呢？許多個世紀以來，在許多種不同的文化中，人們的腦海里一直縈繞著一個夢，那個夢就是創(chuàng)造出一個人造版的我們。就像基督教的上帝用黏土造出第一個人那樣，我們自己或許有朝一日也能成為上帝，造出我們自己的第一個人造人。一千年前，在歐洲大大小小的教堂里，有的雕像會在某些特殊的日子里，為人類的錯誤和罪孽而落淚。人們目瞪口呆地望著這一神跡——一尊上了油彩的石像竟然活了過來！如今我們知道了——雕像里面藏著一個水槽，里面有一條金魚。金魚一游動，水就會順著一根隱蔽的管道流到人像的眼睛里。

19世紀初葉，一本小說誕生了，它成為后來一切的文本基石。瑪麗·雪萊的《弗蘭肯斯坦》講述了一個與該書同名的科學家如何造出了一個人，用電賦予了他生命。弗蘭肯斯坦的造物最后成了一個殺人犯。這個故事后來成為一個強有力的隱喻，告誡我們科學創(chuàng)造最終可能讓我們玩火自焚。

我們生來就有一種將生命投射到無生命體上的本能。一幅最粗陋的人臉畫也能把嬰兒逗笑。誰沒有在汽車打不著火的時候恨不得踹它一腳呢？一位哲學家曾經對我說，我們能夠與一臺冰箱建立起情感聯(lián)結。但如今我們看到，未來我們也許真的能造出可信的、智慧的類人體。許多年來，我們的小說與電影一直對此浮想聯(lián)翩。我們的新表親或許一開始會成為孩子們的玩伴——目前市場上已經有了這類產品的初級版。機器人可以幫助照料老年人，在人口迅速老齡化的日本，這件事正在成為現(xiàn)實?？萍家呀浽斐隽髓蜩蛉缟钠つw、眼睛、頭發(fā)；今天的機器人已經可以跳舞，甚至可以接球了——這件事并不像我們看來的那么簡單。要設計出能夠準確無誤地理解、使用語言的軟件是一項更加艱巨的任務。而最最艱巨的任務則是創(chuàng)造出所謂的通用智能。但這一天會到來的，唯一的問題就是，何時到來。

也許這一天到來得不會像我們許多人想象的那樣快。人工智能讓我們了解到，大腦究竟有多么神奇——一臺只占一升空間的水冷三維生物計算機。它包含了大約1000億個神經元，每一個神經元平均產生7000條輸入與輸出信號。神經元之間的連接數(shù)量超出了我們的想象力。而這一切的能耗只有25瓦——相當于一個小燈泡的功率。我們目前的科技水平遠遠達不到這樣的微型化程度，更不用說還要同時避免元件過熱問題了。我們甚至還沒有找到儲存電能的高效途徑。你在網(wǎng)上看到的那種笨重的機器人通常都插著一根電源線。不接電源的話，它們蹦跶不了多久就得充電。

還有，我們很容易忘記一點：國際象棋和生活不一樣。國際象棋是一個封閉系統(tǒng)，比賽的歷史與現(xiàn)狀都確鑿無疑，比賽的結局也確鑿無疑。而生活卻是一個開放系統(tǒng)——在各個層面上都不可預測。語言也是一個開放系統(tǒng)，要理解一個句子，我們必須調用關于外部世界的先驗知識。要理解詞義，語境是至關重要的。

但無論如何，那一天會到來的，人工智能會出現(xiàn)在筆記本電腦、臺式機與大型計算機中——它們還會幫助人類設計先進的人造人——因為我們無法抗拒那個計劃的誘惑、那個古老的夢想，盡管依照我們自己的形象制造一臺機器或許并沒有太多的科學價值。但我們也可以說，孤零零的一臺筆記本電腦，一臺沒有軀體的計算機永遠也沒法同我們建立起一絲一毫的相似之處，它們既無法理解我們，我們也無法理解它們。

隨著硬件與軟件的進步，我們將面對一個古老的問題。當一個人形物帶著善解人意的表情，溫暖的聲音，有智慧、有見識的舉止出現(xiàn)在你面前，而你知道這個人造物就是在北京附近的一座工廠中生產出來的時候，這究竟意味著什么呢？你的新朋友真的和你一樣有意識嗎？還是說，那只是他的設計帶給人的錯覺？他真的有自我，有悲喜，會懷念過去，期待未來嗎？這個問題有一個很粗淺的應對方法。

偉大的計算機科學家艾倫·圖靈在二十世紀三十年代認真思考過機器智慧的問題，我們不妨采納他提出的理念：如果你根本沒法判定一臺機器是否有意識，那你不妨假定它有意識。畢竟，我們所有人類都必須假定彼此有意識，可我們從來得不到這一點的最終證明。還有一個方法可以應對機器有無意識的難題——但我想把這一點留到最后講。

歸根結底，思維所依附的人腦是由物質構成的。而物質是由你的大腦和人造人的“大腦”共享的。近100年來，理論物理學家一直在告訴我們，物質比常識所以為的要奇怪得多。當我們最終發(fā)展到能夠接受生物大腦相對于無機物大腦并不享有任何特殊地位或特權時，我們立刻就會面對一系列有趣的問題。我們應該授予人造人以公民權和公民義務嗎？買賣或擁有這樣一個人造物是否是不道德的，就像過去買賣或擁有奴隸是不道德的一樣？摧毀這樣一個人造物是否構成謀殺？它們會不會變得比我們更聰明，搶走我們的工作？在我們今日的工廠里，聰明但沒有思維的機器已經開始替代工人了。下一個也許就輪到醫(yī)生和律師了。接下來就是那個終極問題：人造人會征服我們，甚至取代我們嗎？

這些正是科幻小說多年來一直在探索的問題。現(xiàn)在，這些問題終于到了需要回答的時刻了，未來已經降臨。我們可以賦予一臺計算機怎樣的道德準則呢？自主、自動駕駛車輛的生產商們已經開始面對這件事了。你的新車應該忠于誰呢？一個孩子突然躥上馬路，正好躥入了你的行駛路線。如果你猛打方向盤，一頭撞上一輛迎面駛來的大貨車，你就可以挽救這個孩子的生命。這個選擇必須在須臾之間做出。大腦運轉遲緩的人類不太擅長快速厘清這類問題。你新買的自動駕駛汽車可以遵照編定的程序，將你的生命安全置于其他所有人的生命安全之上?；蛘撸部梢苑罾髁x和社會公益之名，準備好了犧牲你的生命。這是一個我們在設計汽車自動駕駛軟件時不得不面對的道德選擇。

對于我們許多人而言，我們的童年都會經歷這樣一個階段——我們終于意識到了一個非常深奧的道理：這顆星球上生活著數(shù)十億人類，其中的每一個個體都有著和你的內心一樣鮮活、真實、不言自明的精神生活。也許，這就是道德觀在一個人的童年誕生的時刻，那一刻你開始理解每一個旁人對于他們自己而言也是真實的，就如同你對于你自己而言是真實的一樣。你希望別人如何待你，你就得如何待人；你還得試圖理解一個不同于你的他人，究竟意味著什么。

這就把我的話題引到了另一項發(fā)明之上，一項古老的發(fā)明，不需要電池驅動，也無需高深的科技，但在道德上和審美上卻高度復雜，當它登峰造極之時，美得無與倫比。我說的是各種形式的小說。要想進入別人的思想，要想衡量不同人的思想彼此之間的關系，以及它們與容納它們的社會之間的關系，小說依然是我們最好的途徑、最好的工具。小說家是在他人的思想之海上揚帆的水手。電影直觀易懂，也很引人入勝，但它并沒有像許多人預言過的那樣讓小說消亡。只有小說能呈現(xiàn)給我們流動在自我的隱秘內心中的思維與情感，那種通過他人的眼睛看世界的感覺。

如果我們真的準備好了——也許就在本世紀——創(chuàng)造出全新的有意識體，而它們的思想會漸漸踏上一條和我們截然不同的道路，那么小說就將是我們借以理解它們的最佳途徑。我將我的一生都獻給了這種藝術形式，我確信它可以進入這顆星球上任何一個男人、女人和小孩的頭腦中。因此，它也可以進入一個類人機器人的頭腦中。小說可以嘗試著預演我們未來的主觀意識，包括那些我們所發(fā)明的頭腦的主觀意識。在我們爭論究竟應該給我們的人造物注入何種道德體系的過程中，我們將不可避免地面對并闡明三個問題：我們是誰？我們是什么？我們想要什么？而當一個人造人寫出了第一部有意義的原創(chuàng)小說時——如果真有這一天的話——我們將有機會通過我們所創(chuàng)造的這些“他者”的眼睛看見我們自己。這將確鑿無疑地證明一件事：一種全新的、有意識的人造物已經降生在我們身邊了。一場偉大的冒險將就此展開，無論它帶來的是美好還是恐怖。

謝謝。