21世紀人類滅絕的風險水平是六分之一

托比·奧德

今天核武器造成的生存性風險很可能依然來自美國和俄羅斯龐大的核武儲備。洲際導彈的研發(fā)使雙方都有能力摧毀對方的大部分導彈，這一過程中的預警時間只有30分鐘。因此兩國都把很多導彈調(diào)整為“一觸即發(fā)”的響應(yīng)等級——10分鐘內(nèi)就能發(fā)射。處于這種響應(yīng)等級的導彈非常容易誤射，也可能因為誤報警而被有意發(fā)射出去。正如我們將在第四章里看到的，冷戰(zhàn)結(jié)束時還發(fā)生了一系列可怕的誤報警事件。從更長的時間尺度來看，還會有其他風險出現(xiàn)：其他國家可能發(fā)展起龐大的核武儲備，軍事技術(shù)創(chuàng)新有可能削弱核威懾原則，地緣政治局勢改變也許會再次引發(fā)大國之間的軍備競賽。

核武器不是人類面臨的唯一威脅。只因為核武器是首個威脅到人類的風險，所以才會至今仍是我們的關(guān)注焦點。然而，其他風險也還是存在的。

工業(yè)革命帶來的繁榮程度指數(shù)式上升的背后，是二氧化碳排放量的迅速增加。工業(yè)化進程的小小副作用，最后竟演變成對健康、環(huán)境、國際穩(wěn)定的威脅，甚至可能危害到人類自身。

核武器和氣候變化有明顯的相似和不同之處。它們都會大幅改變地球溫度，從而對人類造成威脅，但一個是使溫度降低，另一個是升高。一個作為意料之外的科研突破產(chǎn)物橫空出世，另一個則是舊有技術(shù)在數(shù)個世紀里持續(xù)擴大規(guī)模的結(jié)果。一個驟然加劇為災難的風險程度較高，另一個則是持續(xù)漸進的過程，其影響遲遲才開始產(chǎn)生，但必然會造成某種程度上的災難，主要不太確定的是會糟糕到何種地步。一個涉及機密的軍事技術(shù)，由一小部分手握大權(quán)的實施者控制，另一個則牽涉到全世界每個人的選擇所帶來的微小效應(yīng)的總和。

隨著技術(shù)繼續(xù)進步，前方出現(xiàn)了新的威脅。比起氣候變化，這些威脅可能跟核武器更像：由意外的突破、驟然發(fā)生的災難和一小批實施者采取的行動引起。我尤其關(guān)注兩種新興技術(shù)，本書第五章將談到它們。

自農(nóng)業(yè)革命以來，我們一直在改造周圍動植物的基因以適應(yīng)我們的需要。但是，遺傳密碼的發(fā)現(xiàn)，以及讀寫遺傳密碼的工具的發(fā)明，讓我們?yōu)榱诵履繕硕厮苌哪芰Τ霈F(xiàn)了大爆發(fā)。生物科技將帶來醫(yī)藥、農(nóng)業(yè)和工業(yè)方面的重大進步，但它也會給文明和人類自身帶來風險：不管是合法研究中的事故，還是經(jīng)過基因改造的生物武器，都會帶來風險。

我們還見證了人工智能系統(tǒng)能力的快速發(fā)展，人工智能在認知、學習、通用智能等傳統(tǒng)上薄弱的領(lǐng)域產(chǎn)生了巨大進步。專家們認為，人工智能有可能在21世紀就在通用智能方面超越人類水平——具備克服各種困難以實現(xiàn)目標的能力，而不僅僅是在有限的領(lǐng)域里領(lǐng)先。把人類提升至掌控萬物的地位的正是我們得天獨厚的腦力，如果我們把這種能力傳給我們的機器，那么占據(jù)這種獨特位置的將會是它們。這種情況讓我們不禁思考人類還能不能繼續(xù)掌握主導權(quán)。我們必須學會如何讓越來越聰明、自動化水平越來越高的機器和人類的利益保持一致，并且需要在這些機器變得比我們更強大之前做到。

人類面臨的這些威脅，以及我們應(yīng)對它們的方式，定義了我們這個時代。核武器在20世紀出現(xiàn)，帶來了可能導致人類滅絕的真實風險。在技術(shù)持續(xù)加速發(fā)展的情況下，如果不為保護人類做出真正的努力，那么我們有充分理由相信風險在21世紀會更高，而在下個世紀里，隨著技術(shù)不斷進步，風險還會增加。人類自身造成的種種風險超過了所有自然風險的總和，因此，人為風險決定了人類還剩多長時間可以懸崖勒馬。

我不認為科學進步必然導致人類滅絕，甚至說這并不是最有可能出現(xiàn)的情況。我要提出的是，在人類力量的增長中有一股強有力的趨勢，當這股趨勢到達某個節(jié)點時就會對我們的生存造成嚴重的威脅。我們?nèi)绾螒?yīng)對這類風險取決于我們自身。

我也不反對技術(shù)。技術(shù)已經(jīng)證明其本身對提升人類生存狀況有巨大價值，而且，技術(shù)是人類實現(xiàn)長期發(fā)展?jié)摿Φ幕A(chǔ)。沒有技術(shù)，我們會在小行星撞擊之類不斷累加的自然風險中滅亡;沒有技術(shù)，我們將無法實現(xiàn)本有能力實現(xiàn)的高度繁榮。

真正的問題與其說是技術(shù)的泛濫，不如說是人類智慧的缺乏?？枴に_根說得很好：

我們面臨的很多危險實際上源于科學與技術(shù)——但更根本的問題是，我們變得更強大，卻沒有相應(yīng)地變得更有智慧。技術(shù)賦予我們改變世界的力量，手握這種力量的我們需要具備從前不曾有過的深思熟慮和高瞻遠矚。

甚至有位美國總統(tǒng)在任時也提倡這種理念：

人類這個物種特有的那些閃光點——我們的思維、我們的想象、我們的語言、我們使用工具的能力、我們獨立于自然并根據(jù)自己意愿改造自然的能力，恰恰也是它們賦予我們造成最大破壞的力量…… 技術(shù)的發(fā)展若不伴隨人類制度的相應(yīng)進步，就會使我們遭遇滅頂之災。有了能實現(xiàn)原子裂變的科學革命，也應(yīng)該有一場道德革命。

我們必須獲得這種智慧，進行這場道德革命，因為我們無法從滅絕中重生，我們不能坐以待斃——我們必須積極行動起來。而且，由于獲得智慧和發(fā)起道德革命都需要時間，我們必須馬上行動。

我認為我們可以渡過這個難關(guān)。不單因為這些挑戰(zhàn)較小，還因為我們會奮起反擊。正因為這些風險是人為造成的，所以人類也有辦法應(yīng)對它們。失敗主義的情緒毫無必要，只會適得其反——讓預言自我實現(xiàn)。相反，我們應(yīng)當在需要保護的長期未來積極愿景的指導下，以清晰而嚴謹?shù)乃伎颊嬗舆@些挑戰(zhàn)。

這些風險到底有多大？很難給出精確的數(shù)字，因為這些風險是復雜的（因此無法應(yīng)用簡單的數(shù)學分析），也是空前的（因此無法通過長期頻率來估計）。不過，至少有必要試著進行量化估算?！叭祟悳缃^的嚴峻風險”這類定性說法代表的風險水平，可以理解為1%～99% 這個區(qū)間內(nèi)的任何一個數(shù)字，這只會讓人更加困惑。因此我將提供量化的估計，當然，估計不可能精準，有待進一步修正。

據(jù)我推測，20世紀人類滅絕或發(fā)生不可恢復的文明崩潰的風險水平是1%。根據(jù)我目前掌握的所有信息，我認為21世紀人類滅絕的風險水平大概是1/6：一次俄羅斯輪盤賭。如果我們不齊心協(xié)力，如果我們繼續(xù)讓自身力量的增長超過智慧的提升，我們在下一個世紀面臨的風險會更高，而且還會不斷增加。

這些是我們面臨的最大風險。如果我對風險規(guī)模的測算大致沒錯的話，我們是不可能在這些風險中生存太久的。這是一種不可持續(xù)的風險水平。因此這段生存期無論如何也不可能持續(xù)超過若干個世紀。

人類要么掌控住風險并將其降低至使人類可持續(xù)生存的水平，要么自取滅亡。

若將人類歷史比作一次穿越荒野的壯游，行程中必有誤入歧路和艱難跋涉的時候，但也會有突飛猛進和邂逅美景的時候。20世紀，我們已翻越崇山峻嶺，并且發(fā)現(xiàn)前面只有一條崖邊小道：緊臨搖搖欲墜的險境邊緣。往下面的深淵望去，會令人頭暈目眩。如果我們掉落下去，一切都將終結(jié)。我們不知道掉下去的概率有多高，但這是我們遇到過的最大危機。

在人類歷史中，這段相對短暫的時期構(gòu)成了特殊的挑戰(zhàn)。我們的應(yīng)對方式將定義我們的故事，未來的歷史學者將為這個時期命名，學童們將學習這段過往。但我想我們現(xiàn)在就該給它一個名字，我稱之為“危崖時期”。

危崖時期給我們的時代賦予了巨大意義。在歷史的漫長過程中（如果我們能夠存續(xù)那么久），這正是讓后人銘記我們這個時代的東西：因為這個時代危機重重，也因為人類打開了視野，開始成熟起來并確保自身的長期未來能豐饒昌盛。這就是我們這個時代的意義。

我并不是在美化或抹黑我們的時代，我想表達的是，我們的行動事關(guān)重大。我們是偉大的還是可怖的將取決于我們?nèi)绾卫眠@個機會。我希望我們能生存下來，告訴子孫后代我們沒有袖手旁觀，而是利用這個機會完成了歷史賦予我們的任務(wù)。

保護人類免遭這些風險應(yīng)當是我們這個時代的中心和首要任務(wù)。我并不是說全世界只有這么一個議題，人們應(yīng)當放下其他一切重要的事情。但如果你發(fā)現(xiàn)自己能發(fā)揮某種作用，比如你有相關(guān)的技能，或者你年紀尚輕，可以塑造自己的道路，那么我認為保護人類度過這段危機歲月是你所能追求的最崇高的意義。

（責編：栗月靜）

人們越來越清晰地認識到，人類活動是塑造環(huán)境的支配力量?？茖W家認為，人類不但就其自身而言很重要，也在客觀上對生物、地質(zhì)和氣候等影響重大。如果在遙遠的未來有地質(zhì)學家的話，他們會辨別出我們這個時代的地質(zhì)巖層和以往形成的巖層相比發(fā)生了根本性的變化。

因此，當代地質(zhì)學家正在考慮正式命名這種變化——改變地質(zhì)年代的分類方式，引入一個名為“人類世”的新世代。科學家提議作為這一世代開端的事件有巨型動物的滅絕、農(nóng)業(yè)革命、穿越大西洋、工業(yè)革命、早期核武器試驗等。

這個“人類世”和“危崖時期”一樣嗎？如何區(qū)分兩者？

人類世是人類對環(huán)境產(chǎn)生深刻影響的時期，而危崖時期則是人類自我毀滅風險極高的時期。

人類世是地質(zhì)年代，地質(zhì)年代通常持續(xù)數(shù)百萬年，而危崖時期是人類歷史中的一個時期（類似于啟蒙運動或工業(yè)革命），很可能在幾個世紀內(nèi)就結(jié)束了。

兩者都可以用第一次原子彈爆炸試驗作為開端，但這樣劃分的原因是不同的。人類世以核爆為開端主要是為了定年方便，危崖時期始于核爆則是因為核武器對我們的生存造成了威脅。