尤瓦爾?赫拉利未來，人工智能所做的決定，人類將不知道它為什么這么做

尤瓦爾?赫拉利++徐筱瑋

真正的問題不是電腦與人的矛盾，更多的是人與人之間的矛盾。

2012年，36歲的尤瓦爾·赫拉利從沒想過，他寫的書日后會被翻譯成近30種文字，不僅為全球學術界所矚目，更引起了大眾對過去和未來的興趣。

《未來簡史》作者尤瓦爾·赫拉利

這位來自以色列的歷史學怪才分別在2014年、2017年在中國出版了《人類簡史》《未來簡史》兩本著作。他為不同國家的不同譯本量身定制了各自的內容：“核心思想是一樣的，但針對不同國家的讀者，我會用一些不同的例子。針對倫敦的讀者，我就會說一些跟英國地理和歷史相關的事情。在提到歷史上強勢的女性角色時，英國版的例子是伊麗莎白一世，中國版本里我寫的是慈禧太后?！?/p>

在這個月舉行的“未來已來”全球人工智能高峰論壇上，創(chuàng)業(yè)邦（微信搜索：ichuangyebang）聯(lián)合中央電視臺英語頻道（CGTN）對尤瓦爾·赫拉利進行了專訪，與他共同探討人工智能在未來對就業(yè)的影響、人類將如何與人工智能共存等話題。

創(chuàng)業(yè)邦：如您所說，放眼未來的就業(yè)市場，許多工作將被人工智能所取代，具體是哪些工作？

尤瓦爾·赫拉利：那恐怕我得告訴你一個壞消息了，因為沒有人知道未來的就業(yè)市場會是什么樣子，或者是我們的孩子未來在學校應該學什么。但我相信，今天的很多工作到40年、50年之后，肯定會被取代，他們需要重新改變自己，并且在有生之年不斷地學習。我們未來要教給我們的孩子的一些內容，就是要讓他們有一個心理的靈活度，一個平衡度，去不斷適應世界的改變，適應生活。

因為對于未來世界，最大的不變就是“變化”。

我認為大部分單一且重復的工作最容易被取代，這跟金錢、產業(yè)都沒有關系。比如醫(yī)生這個職業(yè)，他的工作是單一的，這個工作并不難模擬，人工智能很快就會比人類醫(yī)生表現得更好。

有些人說我們還是需要人類醫(yī)生的，因為人類醫(yī)生有情感，可以非常好地識別出病人的情感、喜怒哀樂，并且很好地照顧病人的情緒。這是世界上任何一個好醫(yī)生都應該做的事情。照顧病人的情感，這是完全正確的。

對待一個病人，就是要對待病人的情緒，不僅僅是他的身體情況，還有心理情況。但就算是診斷心理上的疾病，人工智能也可能比人類醫(yī)生做得更好。因為情感到最后其實也是一個生物的模式。人類的醫(yī)生要如何去識別一個病人的情緒狀態(tài)？基本上他們會分析一些信息，病人的細微的表情和行為。

不幸的是，現在的人工智能也可以識別出一個人憤怒的語調，或者一個快樂的語調，這叫做模式識別。在未來的語音識別、臉部識別上，人工智能會比人類醫(yī)生做得更好，可以更好地監(jiān)視病人外部的一些表征，如表情、動作等。人工智能可以比人類醫(yī)生做更多甚至人類醫(yī)生從來沒做過的事情，也就是說它們可以實時監(jiān)控人類身體內部的一些情況，如血壓、心率等。如果把人工智能和生物醫(yī)學治療傳感器連接在一起，人工智能會比人類更強大，甚至在情感上更勝一籌，可以更好地回應人類情緒上的一些反應。

但有一件事，人工智能是不能夠和人類媲美的，這件事在不久的將來也將保持這樣一個狀態(tài)，那就是我們的意識。

創(chuàng)業(yè)邦：如果說人工智能可以感受到人類的情緒，基本上就可以說它們已經擁有了人的意識，但是您卻認為人工智能是沒有意識的？

尤瓦爾·赫拉利：人工智能和人類的意識，是有區(qū)別的。意識，在另一個層面來說是感知外部世界的能力，感受到快樂，感受到憤怒，感受到愛情，等等。人類或者其他哺乳動物，所有的哺乳動物都是通過情感、意識、感受來解決問題的，是使用智能和意識的綜合體來解決問題。

我們看到這兩個詞會感到很困惑，事實上，人工智能沒有意識，它們只是不斷地發(fā)展智能。它們在意識上的發(fā)展是零。人工智能在很多方面都會比人類好，比如說解決問題方面，但是某些人類可以解決的問題它們卻解決不了，也就是人類使用意識和情感感受來解決的問題是人工智能無法處理的。

我認為大家對于這兩個詞有很大的誤解，這是因為受到了很多科幻小說的影響。我個人也非常喜歡科幻小說，但我認為有些科幻小說會給大家造成很大的誤解，使大家錯誤地理解什么是智能，什么是意識，因為科幻小說把一些事情顛覆了，講得完全顛倒了！

在很多科幻小說中都講到了機器人、計算機、人工智能，如果說計算機和人工智能得到了一些非常復雜的意識能力，基本上也就可以擁有智能和意識。它有了感覺，它有了情感。要么就是科學家和機器人墜入愛河，要么是機器人變得非常憤怒，想要毀滅人類，這是95%的科幻小說的情節(jié)。

它們對于人工智能的理解是錯誤的，因為到2017年為止，我們沒有理由認為人工智能會發(fā)展出意識，或者說人工智能需要發(fā)展出意識來超過人類。人工智能會不斷地演進，不斷地發(fā)展，往超級智能體的方向發(fā)展，但是是通過不同的方式，就如哺乳動物也在不斷地進化，逐漸變成越來越智能的哺乳動物。

創(chuàng)業(yè)邦：人工智能采用了截然不同的路徑，達到了和人類及其他哺乳動物一樣的結果？

尤瓦爾·赫拉利：哺乳動物的進化是非常漫長的，他們需要幾百年、幾百萬年。而電腦、計算機，它們走了一個捷徑，在短短數十年間采用了與哺乳動物截然不同的方式——以無意識的方式發(fā)展出了極高的智能。到2017年為止，我們現在看到的人工智能的發(fā)展，也就是計算機智能的發(fā)展和零意識的發(fā)展。

為什么人工智能現在還沒有意識？那是因為人類作為它的創(chuàng)造人，對于意識的理解還有它的含義知之甚少。我們對于大腦的理解、對于智能的了解是越來越多的，我們知道通過智能可以創(chuàng)造出智能的機器，但是我們不理解什么是意識，所以到現在為止我們還不能夠創(chuàng)造出一個有意識的機器。

意識不是一個有機體，它不像是我們的手、眼睛或者是腿。意識是一個主觀的東西，像愛、疼痛、愉悅這類感覺。而這種感受是一個接一個的，比如說愛恨交織，或者悲喜交加，這才是形成大腦意識的元素。

所以大家對于意識和大腦其實也有點困惑。它們兩者是互相關聯(lián)的，但它們不是同一個東西。大腦是什么？它是一個非常復雜的組織，里面有很多神經元，很多化學物質，很多神經電子。意識控制的是主觀的信息流，我們每時每刻都感受到了一些感覺，比如恨、愛。它不是非常形而上的東西，它是世界上最普遍的東西，也就是我們每時每刻所感受到的，這就叫做意識。

現在一些科學的教條，尤其是生命科學的教條中解釋了大腦、意識，說意識其實是從大腦中得出的，是大腦產生了意識，也解釋了大腦是一個生物化學的載體，讓我們能夠處理數據，作出決策。我們有一個假設，意識的感受，愛、恨、快樂，都是要完成某個功能，處理某些數據，做一些計算，然后作出決策。

創(chuàng)業(yè)邦：說到沒有意識，有這樣的一個問題：現在有一輛自動駕駛的汽車面臨兩個選擇，往左會沖進人群撞死10個人，往右會撞死1個人，這個問題對于人類來講是非常令人糾結的事情，但是對于人工智能來講，它有這樣的糾結嗎，還是就選擇撞死1個人？

尤瓦爾·赫拉利：人工智能在道德領域有可能會比人類做得好，但是考慮到以自動駕駛或無人駕駛汽車為例，比如說，撞10個人跟撞1個人，很多專家從各種理論討論出發(fā)這個問題，有的人用佛教的理論討論一年，得出的結論可能是這個汽車會選擇撞毀自己，但如果人工智能有情感，在這樣的情況下，它不會選擇撞毀自己。這是哲學上面的問題，有一個理想化的結論，也是受情感的控制，人工智能不會按照理想化的情緒去處理。

創(chuàng)業(yè)邦：現在有“黑匣子”這一理論，說人工智能在內部如何倒騰自己的邏輯，這個過程我們是不知道的。如果是在這種情況下，人工智能有沒有可能在未來做出一些會危害到人類的事？

尤瓦爾·赫拉利：實際上，人工智能會有意識，它會越來越復雜，人類控制它的能力會越來越弱，人工智能作出的一些決定，人類將不知道它為什么作出這樣的決定。舉個例子，很多公司已經給了人工智能權利去作決定，比如說一些銀行用人工智能發(fā)放貸款，來拒絕一些人的貸款要求。當銀行拒絕給他貸款時，這個人會問為什么，這時銀行就會說“這是人工智能決定的，我們不知道答案”。

再舉個例子，人工智能會對人類進行分類，就像過去有人歧視婦女、歧視黑人、歧視同性戀一樣，以后人工智能也會有自己的歧視傾向。它不喜歡你，但是你不知道為什么，最主要的一個原因就是人工智能是根據你個人的大量數據來判斷是否喜歡你。這是非常個人化的問題，你知道人工智能不喜歡你，但你很難找到同類、找到一個團體去進行抗議。

創(chuàng)業(yè)邦：聽起來很可怕，人工智能可能做出很多事情，但是人類不明白它為什么這樣做，未來如果高度發(fā)達且沒有意識的人工智能充斥著我們的社會的話，會發(fā)生什么事？

尤瓦爾·赫拉利：這會導致社會不同層面的進化，比如說，帶來一些問題，比如說剝奪一部分的工作機會，剝奪一部分人的經濟和政治地位，等等。會有大量的權力和能力集中在部分精英的手里，而大部分人并不知道為什么失去了這些權力，這個可能就是其中的一個問題。

但是人工智能的優(yōu)點是能將人類從簡單枯燥的工作中解放出來，其中一個重要的問題是誰來控制這個人工智能。也就是說，我們有一個選擇，人工智能到底對我們是好的還是壞的，我們是有的選的。

創(chuàng)業(yè)邦：也就是到底由誰來做這個事，就是政府推出一些法律來規(guī)定未來開發(fā)人工智能可以做哪些領域的東西，是不是應該做這些事，保證未來開發(fā)出來的人工智能不是那種對人類有害的人工智能？

尤瓦爾·赫拉利：目前有三種危險的情況，第一個就是需要有一個政治的討論，第二個是需要對數據有更好的控制，至于第三個要從全球的情況來介紹一下。

第一點，接下來最重要的一個問題，就是說，需要政治層面的討論，因為現在的人工智能是部分私企，包括一些其他的研究機構都可以自由去做的，但是私有的企業(yè)不是代表所有人的利益，所以說，政府的參與很重要。

第二點，講數據的監(jiān)控。我們現在最大的一個資產就是數據，個人的數據。以前的資產主要是土地、工廠和機器，但是二十一世紀的資產就是數據，是逐漸地積累起來之后變成了很重要的資產。這些資產有一部分是政府和私企在掌控，最重要的問題就是需要得到數據的控制權，對個人來說要有一定的控制權。

第三點，講全球合作。全球合作勢必會帶來一些危險，比如說，自制武器。雖然中國禁止（私人攜帶）武器，但是人工智能沒有禁止，它們有能力發(fā)展自己的武器，在這種情況下，需要加強全球合作。

創(chuàng)業(yè)邦：很多人認為人工智能是一個危險的事物，包括馬斯克也是，他認為人工智能技術可能會被一些別有用心的人利用，從而做出一些對人類有害的事情。

尤瓦爾·赫拉利：現在可以說并沒有跡象表明人工智能有毀滅人類的可能，因為現在它的發(fā)展方向并不是生成自我意識，他跟人類和動物的智能發(fā)展方向不一樣。人類通過感情和自我意識作決定，但是人工智能是完全不同的方向。

實際上，真正的問題不是電腦與人的矛盾，而是受到電腦武裝，有更多的人類和人類之間的矛盾。這個能力被少數國家甚至少數階級所占有，他們剝奪了大多數人在經濟上、政治上的權力。比如說在十九世紀工業(yè)革命的時候，電的出現使英國和法國得到快速發(fā)展，但是導致了中國和印度等國家的落后，造成了不好的影響。一樣的問題在二十一世紀也會出現，只是涉及的國家不一樣。

創(chuàng)業(yè)邦：您曾說過，人工智能的發(fā)展有可能促生一個新的群體，就是“無用群體”，部分工作崗位會被取代。比如工業(yè)革命時，機器取代人，反而產生了許多新的工作機會。今天我們對于失業(yè)的擔憂是不是重復上一次的擔憂，或者說，人工智能技術將帶來新的工作機會？

尤瓦爾·赫拉利：現在要知道具體的發(fā)展還有待觀察，但我們可以認識到目前這次革命跟十九世紀的工業(yè)革命不一樣，主要有兩個方面的不一樣。未來人工智能有兩種智能，一個是身體的能力，還有一個是認知的能力，目前工業(yè)革命產生的工作類型更傾向于認知方面，未來的發(fā)展中人類是否會產生第三種能力仍然有待觀察。

肯定會有新的工作機會，但是人類重新適應新的工作需要多少時間？過去農民到城市參與新的工作，實際上不需要很大的技能，他可以很快適應，但是我們預計在未來新的工作需要很多的創(chuàng)新能力和技能。比如說，我是一名40歲的中年人，你讓我去設計VR，對我來說就是一件很困難的事情。

創(chuàng)業(yè)邦：有樂觀主義者認為人類還可以找到一些技能、一些能力是人工智能無法掌握的，這種想法會不會太樂觀了？

尤瓦爾·赫拉利：人類有一些自己的技能、自己的意識，但是這些對于經濟領域來說并不重要，就是說，人類這部分的技能很少被使用到。以汽車為例，一個好的駕駛員在經濟領域并不重要，因為完全可以被自動駕駛汽車取代。從就業(yè)層面來說人工智能完全可以取代人，但是我覺得人工智能更應該朝解放人類的方向發(fā)展，給人類時間發(fā)展其他新的模型，新的經濟和政治上的模型。

創(chuàng)業(yè)邦：未來的工作場景會變成什么樣子？您提過一個“兩極化”的觀點，認為未來要么是擁有中高技能的工人，要么就是低級的工人，中間的一部分人會變得沒有用，為什么會出現這樣一種狀況？

尤瓦爾·赫拉利：因為比較靈活的高技能工作很難被取代。剛剛舉例的醫(yī)生，診斷醫(yī)生容易被取代，做研究的醫(yī)生不容易被取代。就在百年內，前10%的醫(yī)生同樣會存在，但是90%的醫(yī)生會失業(yè)。比較廉價的勞工也仍然會存在，因為在經濟層面用人工智能不劃算。中間層面的人薪水比較高，性價比最低，最容易被取代。

創(chuàng)業(yè)邦：如果在未來有80%?90%的人沒有用，那我們還能做什么？更重要的是，這些人沒有用了，他們的感覺一定會變差，那我們怎么來理解自身的價值？

尤瓦爾·赫拉利：首先從物質角度來說這個問題，我們可以通過計算積累的總財富平均分配一下，這個不存在問題。真正的問題是，人類生活的意義就會成為一個問題。這當中會有不同的方向，其中一個就是人類被解封之后可以開發(fā)不同的潛能。人工智能對人類的潛能研究比較少，我們之前的工作很少做，現在有機會重新證實一下。

人類追求娛樂性的感受、心情的感受，這些實際上是比較容易實現的，通過藥物，通過游戲。我們現在玩的計算機游戲是3D的，就是虛擬現實?，F在的人經常玩手機，大家沉浸在虛擬和現實的游戲當中。

以虛擬現實為例，這也可以像各種各樣的宗教一樣，人類花數千年的意義探索其中的規(guī)律。比如說，你玩游戲的話每天可以積分，不斷去積分，這個也可以消耗你上千年的時間去探索。

創(chuàng)業(yè)邦：最后想問一下，目前我們最應該做的事是什么？

尤瓦爾·赫拉利：珍惜現在的工作。