生存或者毀滅：超級人工智能將給人類帶來什么？

讓-保爾·德拉埃

當(dāng)人工智能在越來越多的領(lǐng)域超越人類時(shí)，我們不得不思考它到底會發(fā)展成什么樣，又會對人類社會產(chǎn)生哪些影響。

讓-保爾·德拉埃

（Jean-Paul Delahaye）

人工智能領(lǐng)域的科學(xué)家已經(jīng)取得了一項(xiàng)驚人的成就。戴維·希爾弗（David Silver）是DeepMind團(tuán)隊(duì)的負(fù)責(zé)人，他和團(tuán)隊(duì)共同研發(fā)的AlphaZero從掌握初步規(guī)則開始，通過自己與自己對戰(zhàn)，獨(dú)立學(xué)會了國際象棋、圍棋和將棋（日本棋類游戲）。對于這三種棋類游戲，AlphaZero已經(jīng)超過了最好的人類棋手。

這一進(jìn)步非常了不起。1997年，計(jì)算機(jī)深藍(lán)（Deep Blue）打敗了國際象棋世界冠軍加里·卡斯帕羅夫（Gary Kasparov），它結(jié)合了優(yōu)秀的算法與對棋局的出色理解。最好的人類棋手也貢獻(xiàn)了關(guān)于開局、殘局和局面評估的專業(yè)知識，從某種意義上來說，是人類將這些知識“教”給了程序。

而AlphaZero不同，不需要由人類專家向它傳授自己掌握的知識。對于這樣的棋類游戲，AI可以獨(dú)立學(xué)習(xí)，快速達(dá)到人類需要幾個(gè)世紀(jì)才能累積的高度。AlphaZero的研發(fā)人員表示：“無論對于國際象棋、將棋還是圍棋， AlphaZero使用的都是同樣的算法，同樣的網(wǎng)絡(luò)結(jié)構(gòu)。結(jié)果表明，通用強(qiáng)化學(xué)習(xí)算法（即能夠勝出的決策將被算法優(yōu)先選擇）能夠從一塊白板出發(fā)，學(xué)會任何事物。它不需要依靠知識，也不需要來自人類的特定經(jīng)驗(yàn)?！?/p>

隨著人工智能快速發(fā)展，這個(gè)領(lǐng)域也開始面臨越來越迫切的問題。研究人員、哲學(xué)家還有技術(shù)預(yù)言家紛紛開始辯論，設(shè)想未來可能出現(xiàn)的種種矛盾。無論是感到期待還是恐慌，沒有人會懷疑人工智能將主導(dǎo)我們的未來。這種主導(dǎo)作用也許是通過互聯(lián)網(wǎng)，也許是與人類融合。

許多思想家都曾經(jīng)深入思考過超級人工智能（以及它對人類的態(tài)度），試圖以此預(yù)測未來的趨勢。我們將探討尼克·博斯特羅姆（Nick Bostrom）、雷·庫茲韋爾（Ray Kurzweil）、本（Ben）和泰德·戈?duì)枬蔂柛缸樱═ed Goertzel）、漢斯·莫拉維克（Hans Moravec）、弗朗西斯·海利根（Francis Heylighen）、雨果·德·加里斯（Hugode Garis）和克萊蒙·維達(dá)爾（Clement Vidal）的思考。

評論的風(fēng)口浪尖

當(dāng)我們還不了解一件事物時(shí)，往往會作出夸張的設(shè)想，討論它的性質(zhì)時(shí)也會出現(xiàn)兩極分化的觀點(diǎn)。但是，正如劇作家拉辛（Racine）借他筆下人物所說，AI無法承擔(dān)我們過分施加的榮耀，也不至于因?yàn)樗l(fā)的憂慮而遭受羞辱。

盡管我們對AI取得的成就感到震驚，也意識到它可能會造成巨大的影響，但不能被狂熱沖昏頭腦。AI在許多高度專業(yè)化的任務(wù)中都取得了驚人的成績，但它仍然難以勝任所有需要常識的任務(wù)，例如翻譯文學(xué)作品。自動駕駛也被寄予厚望，但是專家仍然保持謹(jǐn)慎，認(rèn)為我們至少需要50年的時(shí)間，才可能制造出完全自主駕駛的汽車，讓乘客能夠安心在后排看書。

在我撰寫的專欄中，曾經(jīng)提到過一些能夠欺騙圖片識別軟件（基于深度神經(jīng)網(wǎng)絡(luò)的算法）的方法。比如，所有人都能一眼看出這是一門大炮的照片，算法卻把它識別成了鴕鳥。

雖然人工智能已經(jīng)在越來越多的專業(yè)任務(wù)中取得了令人矚目的成就，但它卻面臨兩方面的障礙。首先，對于同樣的任務(wù)，AI獲得結(jié)果的方式與人類的方式完全不同，它借助技術(shù)設(shè)備和計(jì)算，不需要人類介入。例如，部分自動駕駛汽車上裝配的雷達(dá)和激光，它們計(jì)算和存儲海量信息的能力遠(yuǎn)遠(yuǎn)超過人腦；另一方面，盡管取得了這樣的成就，AI仍然無法將多種專業(yè)能力結(jié)合起來，形成一個(gè)自洽的、具備常識的系統(tǒng)。我們無法合理地推測它們是否具備自我意識，擁有感知能力、幽默感，甚至是完備而穩(wěn)定的“人格”。

總是失誤的預(yù)測

1958年，赫伯特·西蒙（Herbert Simon，1978年諾貝爾經(jīng)濟(jì)學(xué)獎得主）宣稱，在未來10年中，計(jì)算機(jī)將在國際象棋中打敗人類冠軍。他正確預(yù)言了我們將取得的成就，卻弄錯(cuò)了等待的時(shí)間——他的預(yù)言過了40年才實(shí)現(xiàn)。

1966年，英國著名統(tǒng)計(jì)學(xué)家歐文·古德（Irving Good）為斯坦利·庫布里克（Stanley Kubrick）的電影《2001太空漫游》擔(dān)任顧問，他設(shè)想在2000年將出現(xiàn)一個(gè)強(qiáng)大的人工智能，達(dá)到甚至超越人類的智力水平?，F(xiàn)在的人工智能還沒有達(dá)到這個(gè)水平，期待強(qiáng)大人工智能的人們只好推遲這個(gè)期限。谷歌工程技術(shù)總監(jiān)庫茲韋爾和奇點(diǎn)大學(xué)（位于美國加州的一所私立學(xué)校）聯(lián)合創(chuàng)始人及董事長彼得·戴曼迪斯（Peter Diamandis）認(rèn)為這個(gè)期限是2030年，而AI研究者泰德·戈?duì)枬蔂柡捅尽じ隊(duì)枬蔂杽t認(rèn)為要等到2040年，甚至2100年。

這很可能會像國際象棋AI的發(fā)展一樣：我們實(shí)現(xiàn)了目標(biāo)，只是晚得多。因?yàn)檫@個(gè)問題非常困難，我們只有經(jīng)過年復(fù)一年的努力才會實(shí)現(xiàn)這一點(diǎn)。如今，最合理的預(yù)測也許是不要作出任何預(yù)測！

對于必將到來的超級人工智能，人們提出了一個(gè)叫做“奇點(diǎn)”的概念，盡管誰也無法真正了解它究竟是什么。也許是某個(gè)日期，到時(shí)候地球上人工智能的能力曲線將以接近垂直的方式增長？也許是某個(gè)事件，機(jī)器毀滅人類，奪取了權(quán)力？也許是某一時(shí)刻，由于超越人類的人工智能帶來了翻天覆地的變化，人類再也無法理解這個(gè)世界？

即便考慮著名的“摩爾定律”（計(jì)算設(shè)備的能力每18個(gè)月到2年就會翻倍，過去50年的發(fā)展基本符合這一定律），“奇點(diǎn)”理論也不會很快成為嚴(yán)重的威脅。一方面，摩爾定律預(yù)測的增長是一個(gè)指數(shù)函數(shù)，它不會趨于直線；另一方面，在我們的物理世界中，所有的指數(shù)增長都會很快遇到阻礙，進(jìn)而停滯不前。沒有人認(rèn)為摩爾定律會無限延續(xù)下去（它已經(jīng)遇到了困難）。最后，盡管計(jì)算和存儲能力持續(xù)增長，也無法確保我們始終知道如何使用這些能力，創(chuàng)造出足以和我們對抗的通用型人工智能。

對于谷歌、蘋果、臉書、亞馬遜和微軟在這方面發(fā)出的宣言，我們應(yīng)該審慎地看待。和這些技術(shù)公司的發(fā)言人相比，一些研究人員的態(tài)度要謹(jǐn)慎和清醒得多，例如法國國家科學(xué)研究中心（CNRS）倫理委員會主席、人工智能專家讓-加布里埃尓·加納西亞（Jean-Gabriel Ganascia）。加納西亞認(rèn)為，那些人想要發(fā)起一個(gè)由企業(yè)主導(dǎo)、超越國界的大型項(xiàng)目，可能只是出于無盡的貪欲。奇點(diǎn)的概念被用來轉(zhuǎn)移注意力、制造恐慌，但實(shí)際上這主要是為了勸阻其他人，并掩飾自己想要占據(jù)統(tǒng)治地位的野心。

盡管無法確切地知道超級人工智能出現(xiàn)時(shí)是什么情形，但也無法阻止我們深入探討、投下賭注。我們可以想象多個(gè)不同的場景，不設(shè)定具體期限，甚至考慮任何猜想都不正確。

尼克·博斯特羅姆在他的書中定義了超級人工智能，并設(shè)定這種智能在任何一個(gè)方面都大大超過人類的認(rèn)知能力。他還提出了兩個(gè)截然不同的假設(shè)。

（a）基于硅的機(jī)器（包括量子計(jì)算機(jī)）進(jìn)入實(shí)用領(lǐng)域并不斷發(fā)展，最終這些人造設(shè)備在一切可能的智力活動中達(dá)到甚至超過人類水平，就像AlphaZero一樣。而我們與它們的功能沒有發(fā)生直接聯(lián)系，也沒有在肢體上與人工智能設(shè)備融合或相連接。

（b）基于生物性元素（人類或其他的）與信息技術(shù)設(shè)備結(jié)合的產(chǎn)物。簡單地說，就是人類發(fā)明的高級技術(shù)與生物體有機(jī)地結(jié)合在了一起，他們之間是相互融合的。這種形式也有可能發(fā)展出超級人工智能。

勢力分化？

研究人工智能的加里斯則將滿足假設(shè)（a）的智慧生物稱為“人工大腦”，并設(shè)想了一種基于這類技術(shù)的未來，我們將在下一部分討論這種場景。

而長久以來，科幻作品都采用了假設(shè)（b），并將這類結(jié)合了生物和信息技術(shù)，具備超級智能的混合體稱為賽博格（cyborgs，或改造人）。例如，假設(shè)為了彌補(bǔ)記憶局限，我們給自己插入容量高達(dá)到數(shù)太字節(jié)（TB）的芯片，從而能夠直接在大腦中讀取整部維基百科的信息。與此同時(shí)，借助一種能夠通過可以瞬間讀取的數(shù)學(xué)計(jì)算模塊，我們能立刻回答“720等于幾”或“sin(cos(x))的五階導(dǎo)數(shù)是什么”之類的問題。我們的智力將大幅提升。

有時(shí)也會提到第三個(gè)假設(shè)：一臺全球化的大腦，各地的機(jī)器通過網(wǎng)絡(luò)交換信息，構(gòu)成了某種去中心化、具有思想的存在。我們稍后再回到這個(gè)假設(shè)。

悲觀的加里斯

加里斯認(rèn)為：“社會將會分成三個(gè)哲學(xué)派別，派別之間將發(fā)生激烈的斗爭。第一個(gè)派別由宇宙主義者構(gòu)成，他們支持建造人工大腦；第二派別由地球主義者構(gòu)成，他們反對建造人工大腦；而第三派別則支持賽博格，他們希望對大腦進(jìn)行改造，從而把自己變成賽博格?！?/p>

加里斯的著作《人工大腦之戰(zhàn)》（The Artilect War）介于科幻小說和嚴(yán)肅的未來學(xué)著作之間。在這部作品中，他認(rèn)為三個(gè)派別之間的戰(zhàn)爭不可避免，并且在他看來，這場戰(zhàn)爭將比地球上發(fā)生過的任何戰(zhàn)爭都更慘烈，將在21世紀(jì)造成超過十億人死亡。地球主義者在這場戰(zhàn)爭中獲勝的希望非常渺茫，如果他們要取得勝利，就必須趕在另外兩個(gè)可能結(jié)盟的派別察覺到威脅之前采取行動。在接受探索頻道的訪談時(shí)，加里斯就曾表達(dá)過他的憂慮：“我很高興能活在這個(gè)時(shí)代，我很有可能會平靜地躺在自己的床上死去。但是我為我的孫輩感到擔(dān)憂，他們可能被卷入人工大腦的戰(zhàn)爭，并且很可能因此喪命。”

有趣的是，盡管超人類主義者在法國不受待見，加里斯也在書中對他們表達(dá)了譴責(zé)或嘲笑，但他們卻非常樂觀地捍衛(wèi)自己的主張。超人類主義者認(rèn)為應(yīng)當(dāng)毫無保留地發(fā)展增強(qiáng)技術(shù)，對人類進(jìn)行改造——不能止步于眼鏡、助聽器和心臟起搏器，而是要采用一切可能的技術(shù)延長壽命、提升智力和強(qiáng)化身體機(jī)能。簡而言之，他們支持賽博格的思想，屬于賽博格主義者的陣營。他們將和宇宙主義者結(jié)盟，避免被地球主義者消滅。

至于賽博格主義者和宇宙主義者之間會發(fā)生什么，超人類主義者和加里斯發(fā)生了分歧。大多數(shù)超人類主義者認(rèn)為，人類賽博格將與具備超級智能的機(jī)械設(shè)備共存，不會發(fā)生生物學(xué)上的結(jié)合；而超人類主義者相信，將生物性元素（特指他們自己）和電子技術(shù)元素深度結(jié)合能夠增強(qiáng)人類獲得長生不死的能力，這才是人類未來的關(guān)鍵。

加里斯的設(shè)想恰好相反：和人工大腦可能取得的成就相比，超人類主義簡直無足輕重。在他看來，將生命體和未來的信息技術(shù)相融合只是一種幻想：人工大腦將對改造人這樣的怪物不屑一顧，它只會毀滅改造人。

而作為世界超人類主義者協(xié)會（World Transhumanist Association）聯(lián)合創(chuàng)始人，博斯特羅姆也不認(rèn)為人工大腦會對人類（人工大腦的創(chuàng)造者，最終會成為賽博格）采取和平友善的態(tài)度。他催促人們審視未來的智能產(chǎn)物，將它們視為一種威脅。博斯特羅姆的作品得到了埃隆·馬斯克（Elon Musk）、比爾·蓋茨（Bill Gates）和李彥宏的推崇，這種看法似乎打動了他們，使他們開始傳播恐慌信息（也就是所謂的人工智能威脅論）。

在加里斯看來，人工大腦（具備意識的人工智能，或極其智能的機(jī)器）不會友好地容忍人類甚至賽博格的存在，他說：“這個(gè)想法就像是尾巴搖狗一樣，顯然很荒謬。狗可比它的尾巴大得多，尾巴根本無法搖動狗。但超人類主義者認(rèn)為人工大腦會和人類保持友好，這就犯了同樣的邏輯錯(cuò)誤……我認(rèn)為這種觀念是狂妄而天真的。它假設(shè)人類足夠智能，即便面對一個(gè)能力超出人類幾十億倍的個(gè)體，也能正確判斷它的動機(jī)?！?/p>

?下轉(zhuǎn)第21版

?上接第19版

其他可能

加里斯忽略了另一種思潮：世界上所有的個(gè)體并不一定要互相競爭，而是相互連接，成為一種全球尺度的超級有機(jī)體。這種觀點(diǎn)直接排除了“終結(jié)者之戰(zhàn)”的可能。

這種全球大融合的觀點(diǎn)常常被認(rèn)為是宗教性的。它存在于佛教的哲學(xué)中，也出現(xiàn)在天主教耶穌會哲學(xué)家德日進(jìn)（Pierre Teilhard de Chardin，1881-1955）的思想中。德日進(jìn)提出了“智慧圈”，這種“一體性的思想由人類的交流形成，覆蓋了地球表面”。

比利時(shí)哲學(xué)家弗朗西斯·海利根堅(jiān)定地認(rèn)為：超級人工智能將通過互聯(lián)網(wǎng)傳播，形成一個(gè)類似超級大腦的存在。他指出：“這個(gè)全球化的大腦將克服全球性超級有機(jī)體可能遭遇的挑戰(zhàn)。它的能力將遠(yuǎn)遠(yuǎn)超過我們現(xiàn)有的水平，將具備某些神性的特質(zhì)：無所不知（知道我們的一切問題的答案）、無處不在（存在于任何時(shí)間和地點(diǎn)）、無所不能（能夠以最高效的方式生產(chǎn)任何物品或服務(wù)）、博愛眾生（致力于為最多的人帶來最大的幸福）。”

比利時(shí)布魯塞爾自由大學(xué)的哲學(xué)家克萊蒙·維達(dá)爾研究宇宙主義，他引用了威廉·斯塔福德（William Stafford）的詩句“所有的戰(zhàn)爭都有兩個(gè)失敗者”，指出暴力往往是非理性的。而斯蒂芬·平克（Steven Pinker）詳細(xì)論述了世界會越來越和平，盡管我們覺得這個(gè)過程過于漫長，但它仍然是可被測量和解釋的。一方面，無論我們是否愿意，所有人對所有人的相互依賴都使我們彼此產(chǎn)生聯(lián)系。博弈論和對囚徒困境模型計(jì)算模擬的結(jié)果都支持這樣的分析。這表明，合作才是多個(gè)社會和政治團(tuán)體理性的選擇。

殊途同歸

“復(fù)雜性的倫理”是最后一個(gè)論據(jù)，可以證明“地球上不同動機(jī)的群體最終會結(jié)成一個(gè)利益共同體”的想法并不荒謬。如果按照這個(gè)倫理的預(yù)測，所有的智慧生物都會選擇為一個(gè)普世價(jià)值共同體服務(wù)，將向著共同的目標(biāo)行動，不再有發(fā)動戰(zhàn)爭的動機(jī)。

盡管不同的討論顯示可能存在某種共同的方向，但這并不能保證當(dāng)超級人工智能出現(xiàn)時(shí)（如果它們會出現(xiàn)的話），將與我們這些或多或少變成賽博格的人類和平結(jié)盟，并且在這個(gè)過程中沒有任何一方試圖消滅其他群體。在我看來，我們或許可以堅(jiān)持一種極其簡單的信念：并不是地球上生物性的軀體才具有人性，他們生產(chǎn)和制造的一切事物也應(yīng)該有，甚至讓這些事物得以存在的一切也有。地球在未來演化出的超級集合體會更加智能，內(nèi)部之間的聯(lián)系也越來越團(tuán)結(jié)和緊密，尤其是在地球上剛剛出現(xiàn)的幾個(gè)不同派別之間。這種討論會永久避免加里斯設(shè)想的內(nèi)部戰(zhàn)爭，因?yàn)閼?zhàn)爭變成了某種形式的自殘甚至自殺行為。

到這里我們已經(jīng)超出了科幻小說的范疇。目前看來，我們要小心避免抨擊任何對這個(gè)問題的思考，不要斷言它們是愚蠢和不成熟的。AlphaZero已經(jīng)證明，我們能夠借助機(jī)器取得不可思議的成就：人工智能再也不是一個(gè)遙遠(yuǎn)的夢。另一方面，物聯(lián)網(wǎng)的快速發(fā)展將把全世界所有的參與者聯(lián)系起來，構(gòu)成一個(gè)致密的繭。毫無疑問，它將形成一個(gè)全新的結(jié)構(gòu)，所有的事物都依賴于所有的因素。而我們就像我們的人工智能一樣，不過是其中的組成部分。

（Scientific American中文版環(huán)球科學(xué)授權(quán)南方周末發(fā)表，戚譯引翻譯）