與《未來簡史》作者尤瓦爾·赫拉利聊聊比人工智能統(tǒng)治世界更可怕的事

巴芮+張薇+晁春彬

人們總是熱衷于幻想未來?！度祟惡喪贰返淖髡哂韧郀枴ず绽╕uval Noah Harari）在新書《未來簡史》中描繪了一幅小部分人進化為神、大部分人被人工智能（AI）所超越成為“無用階層”的圖景。他希望通過描述這種可能性，來提醒人們能夠對此警覺并作出行動。

尤瓦爾·赫拉利（Yuval Noah Harari） = Y

P：你曾經(jīng)對未來世界有過多少種不同的暢想？

Y：未來，人類會將進化為神，這毫不夸張。我們將會獲得“神力”，尤其是創(chuàng)造和重構生命的能力。我們可以用基因工程創(chuàng)造新型的有機生物；用腦-機接口（brain-computer interfaces）技術創(chuàng)造半機械人；甚至創(chuàng)造完全無機的生命體。21世紀經(jīng)濟的主要產(chǎn)物不再是紡織品、車輛或武器，而是身體、大腦和思想。

這將是地球上生命出現(xiàn)以來最偉大的生物學革命。40億年來，生命被自然選擇的規(guī)律所掌控。無論你是病毒或恐龍，都要根據(jù)自然法則進化；無論仙人掌還是鯨魚，外觀如何古怪另類，都依然局限于有機領域。而現(xiàn)在科學可以用智能設計取代自然選擇，甚至能創(chuàng)造非有機的生命形式。

P：寫這本書的目的是什么？對《未來簡史》中描繪的未來，很多人表現(xiàn)出的并非進化為神人的滿足，而是恐懼。

Y：我寫這本書正是為了提醒人們正面臨的一些更危險的可能性。如果你懼怕某些可能性，仍可以采取些行動。

21世紀，人工智能（AI）和生物科技的興起肯定會改變世界，我們可以用它們創(chuàng)建不同類型的社會。而如何明智地使用它們是人類所面臨的最重要的問題，這比全球經(jīng)濟危機、中東戰(zhàn)爭或歐洲的難民危機更為重要。

想想生物技術對待家畜的方式。一方面，我們無視對動物的折磨用生物技術設計生長更快、產(chǎn)肉更多的牛、豬和雞；另一方面，我們也能用它來生產(chǎn)被稱為“清潔肉”的肉 —在實驗室中用動物細胞培養(yǎng)出來的肉，不需要飼養(yǎng)和屠宰一整只動物。這意味著，我們能用生物工程、人工智能和納米技術創(chuàng)造天堂，也同樣可以構建地獄。作出明智選擇的好處將是無法估量的，一旦選擇錯誤，代價可能是毀滅人類。

P：《未來簡史》中展現(xiàn)出一幅大部分人被超級智能機器人所取代，變成無用階級的圖景，但目前已有很多人工智能領域專家反對人工智能威脅論，你的設想是否太過悲觀？

Y：關于人工智能可能對人類造成的威脅，人們有諸多困惑?？苹秒娪爸校珹I通常會產(chǎn)生意識，并試圖操縱甚至消滅人類，這十分不切實際。智力是解決問題的能力，而意識則是感受和渴望事物的能力。雖然計算機已經(jīng)擁有了令人驚嘆的智力，但他們仍然沒有意識，且并無證據(jù)表明他們已經(jīng)在發(fā)展意識的道路上。例如，AlphaGo，這個擊敗圍棋世界冠軍李世石的AI具有令人驚嘆的智力，但它并沒有意識，它不會在比賽中感到焦慮，也不會因贏得比賽而感到快樂。因此，對殺人機器人試圖滅絕人類的恐懼是毫無根據(jù)的。

我更擔心的是無意識的AI導致數(shù)十億人失業(yè)，形成一個龐大的“無用階層”。從汽車駕駛到疾病診斷，我們現(xiàn)在開發(fā)的計算機軟件和人工智能正在越來越多的任務中超越人類。專家估計在20-30年內，不僅出租車司機和醫(yī)生，而且發(fā)達經(jīng)濟體中約50%的工作可能被計算機所取代。該如何處理這數(shù)十億經(jīng)濟上無用之人？我們無從得知。我們沒有任何經(jīng)濟模式可以應對這種情況。這可能是21世紀我們面臨的最難以破解的經(jīng)濟和政治難題。

此外，隨著算法迫使人類退出就業(yè)市場，不僅財富，政治權力也可能集中在擁有全能算法的小部分精英手中，從而造成前所未有的不平等。

P：《經(jīng)濟學人》評價《未來簡史》是“一部膚淺、華而不實的作品”，論斷相當模糊，給人留下的只有幻象。對此，你想說什么？

Y：我收到許多關于這本書的反饋，有些是負面評價，但多數(shù)是非常積極的。我并不奢望每個人都同意我的意見。

這本書并沒有給出確切答案，而是提了許多問題，并鼓勵人們辯論這些問題。例如，當大數(shù)據(jù)算法比我們自己更了解我們的愿望和意見時，政界會發(fā)生些什么事？當出租車司機、醫(yī)生、教師和警察被人工智能取代時，就業(yè)市場會發(fā)生什么？硅谷最終會不會不僅生產(chǎn)新穎的小玩意，還生產(chǎn)新宗教？針對這些問題，我給出自己的答案，但這只是辯論的開始。我希望讀者能對這些形成自己的看法，而不是一味相信我的話。說到底，問題比我給出的具體答案重要得多。如果人們去討論這些問題，那么這本書就達到目的了。

P：你在書中提出，因左右腦的分裂，出現(xiàn)“體驗自我”與“敘事自我”，而人類沒有真正的“自我”。根據(jù)你的設想，有人總結稱“人生根本沒有真實的意義，一切意義都是幻想出來的”。你怎樣看待人生的真實意義？

Y：人們尋找人生的意義時，他們大多期望得到一個故事。智人是一種講故事的動物，在故事中思考。猶太人的故事，基督教的故事……—這些（圣經(jīng)等）只是由人類發(fā)明的小說。沒有廣闊的故事，他們不明白活著還有什么意義。但我不這么認為。放棄所有的虛構故事后，你終會發(fā)現(xiàn)，現(xiàn)實才是最美好的。許多時候痛苦由對虛構故事的信念而引起，比如因宗教信仰而引起的戰(zhàn)爭。

當我在清晨醒來，我可不想扮演某些虛幻劇中的角色。我想要理解現(xiàn)實，了解真相?？鞓凡⒉荒転槟闾峁┏志玫臐M足，得知真相才是獲得幸福的關鍵。如果你真的了解自己和世界的真相，便沒有什么可以讓你悲傷。當然，說易行難。

于我而言，最重要的是“什么是現(xiàn)實？什么是真正的真實，還是說這只是我頭腦中的虛構？”要回答這個問題，我們就要讀懂自己的內心。但到目前為止，科學在研究心靈方面仍有很大困難，因為心靈沒有直接觀察的方法。你很難用系統(tǒng)并客觀的方式讀懂自己的內心，曾嘗試過的人都知道，即使是幾秒鐘最簡單的心理過程觀察，不被分神或壓垮，都是極為困難的。而你也只能懂得自己的心靈，永遠無法直接窺視另一個人的心靈。

這就是為什么我每天花兩個小時冥想，而且每年都要進行一到兩個月的漫長冥想靜修。我跟一個叫S. N. Goenka的老師練習內觀禪修。內觀是一種用系統(tǒng)和客觀的方式觀察內心的方法，心靈一直與身體感覺保持聯(lián)系。內觀時，人訓練自己用有序客觀的方式觀察身體的感覺和心靈對感覺的反應，從而揭示我們最深刻的心理模式。

我在冥想中能夠直接觀察到的東西，比我遇到的任何技術設備都令人興奮，也比任何智能手機或計算機更能讓我的內心感到平靜和幸福。這是我每天與現(xiàn)實接觸的方式。至少每天2小時，我的確在冥想中觀察了現(xiàn)實。而其他22小時，我被電子郵件、推特和有趣的小貓視頻淹沒。

P：你會怎樣避免自己被海量信息淹沒？

Y：我依然在用一個很老舊的的諾基亞手機，沒有攝像頭，也不連網(wǎng)。人們花幾個小時在互聯(lián)網(wǎng)上看搞笑的小貓視頻，卻不關心全球變暖。我盡量避免使用智能手機，以免被無關信息淹沒，比起不停檢查電郵、發(fā)推特和拍照，我有更重要的事情要做。

（實習生吳睿對本文亦有貢獻）