AI何時(shí)能助人類(lèi)從工作中解放

在《超級(jí)智能》出版十年之后，英國(guó)未來(lái)學(xué)家尼克·博斯特羅姆出版了他的新書(shū)《未來(lái)之地》。他構(gòu)想了一個(gè)所有問(wèn)題都已經(jīng)被解決的“深度烏托邦”，試圖在其中尋找人類(lèi)的目的和意義是什么。

在人類(lèi)面臨如此多挑戰(zhàn)的當(dāng)下，為什么要去想象一個(gè)挑戰(zhàn)已經(jīng)不復(fù)存在的理想世界？像物理學(xué)家通過(guò)粒子加速器創(chuàng)造極端條件，博斯特羅姆通過(guò)這本書(shū)創(chuàng)造了一個(gè)極端條件的思想實(shí)驗(yàn)，用它來(lái)理解人類(lèi)價(jià)值和目標(biāo)。

博斯特羅姆甚至樂(lè)觀地認(rèn)為，許多讀者可以在有生之年接近“深度烏托邦”。他希望在這樣的世界到來(lái)之前，先啟發(fā)一些討論：如果人工智能開(kāi)啟了新的能力水平，我們想要一個(gè)什么樣的未來(lái)？生活在一個(gè)已經(jīng)不需要人類(lèi)付出努力的世界，什么樣的生活才是有意義的？

人工智能將是促成“深度烏托邦”成為現(xiàn)實(shí)的因素，博斯特羅姆近日在接受《財(cái)經(jīng)》專(zhuān)訪時(shí)說(shuō)。在他看來(lái)，超級(jí)智能一旦發(fā)展成熟，將如同掀翻棋盤(pán)般，徹底改變一切。

英國(guó)物理學(xué)家斯蒂芬·霍金曾表示，徹底開(kāi)發(fā)人工智能可能導(dǎo)致人類(lèi)滅亡。博斯特羅姆在《超級(jí)智能》中寫(xiě)道，人類(lèi)的命運(yùn)將取決于超級(jí)智能機(jī)器的行為。人類(lèi)如何才能保持對(duì)機(jī)器的完美控制？“這就像是一場(chǎng)競(jìng)賽：人工智能的能力在快速發(fā)展，人類(lèi)逐漸了解如何調(diào)整這些系統(tǒng)……人類(lèi)對(duì)機(jī)器的完美控制原則上是可能的，只是我們并不確定能否及時(shí)找到解決方案?！辈┧固亓_姆說(shuō)。

至于人工智能是讓人類(lèi)變得更團(tuán)結(jié)還是更分裂，博斯特羅姆認(rèn)為這并非技術(shù)本身能夠決定，最終還是取決于人性中的智慧與善意在面對(duì)其他傾向時(shí)能否勝出。

博斯特羅姆是牛津大學(xué)未來(lái)人類(lèi)研究所的創(chuàng)始人。在研究所于去年關(guān)閉之后，他發(fā)起了“宏觀戰(zhàn)略研究倡議”。宏觀戰(zhàn)略研究對(duì)他而言是找出漂浮在空曠宇宙中的這個(gè)星球上的人類(lèi)文明身處何方，又發(fā)生了什么。

人工智能風(fēng)險(xiǎn)

《財(cái)經(jīng)》：你在十年前出版的《超級(jí)智能》中曾預(yù)警人工智能可能危及人類(lèi)生存，而這本新書(shū)討論的是人工智能幫助人類(lèi)解決了所有挑戰(zhàn)的世界。你對(duì)于人工智能風(fēng)險(xiǎn)的看法是否隨著時(shí)間發(fā)生了變化？

博斯特羅姆：這其實(shí)是我一直在思考的硬幣兩面。在我寫(xiě)《超級(jí)智能》的時(shí)候，大部分篇幅都在描述事情是如何出錯(cuò)的，我希望能夠找出避免這些風(fēng)險(xiǎn)的方法。但事情也可以進(jìn)展順利，所以我現(xiàn)在想，也許是時(shí)候看看硬幣的另一面了，積極的那面。

這并不是說(shuō)我的觀點(diǎn)改變了，只是因?yàn)檫@是一個(gè)巨大的話(huà)題，一本書(shū)只能充分涵蓋其中一面。這也不是說(shuō)我一開(kāi)始相信某件事情，而現(xiàn)在信的卻截然相反。更像是我之前看到的是一張模糊的照片，現(xiàn)在像素更清晰了。比如，當(dāng)前人工智能系統(tǒng)的擬人化程度令人震驚，在很多方面都很像人類(lèi)，它們可以和我們交談，甚至表現(xiàn)出一些與人類(lèi)相同的心理偏見(jiàn)和特性。十年前，我們并不能明顯感知到這點(diǎn)。而僅僅過(guò)了幾年，我們就看到這種非常像人類(lèi)的人工智能形態(tài)。

《財(cái)經(jīng)》：隨著這類(lèi)人工智能的興起，我們?nèi)绾文艽_保人工智能不會(huì)與人類(lèi)反目？人類(lèi)可以保持對(duì)機(jī)器的完美控制嗎？

博斯特羅姆：這是一個(gè)對(duì)齊（Alignment）問(wèn)題。在我寫(xiě)《超級(jí)智能》的時(shí)候，這個(gè)問(wèn)題被忽視和忽略了。當(dāng)時(shí)人們還在試圖讓人工智能變得更有能力，卻沒(méi)人致力于確保，如果我們開(kāi)發(fā)的人工智能能力越來(lái)越高，我們?nèi)绾慰梢园聪Ｍ哪菢觼?lái)引導(dǎo)人工智能。

現(xiàn)在情況發(fā)生了變化。有很多匯聚了優(yōu)秀人才的團(tuán)隊(duì)正在努力開(kāi)發(fā)可擴(kuò)展的人工智能對(duì)齊方法，即使我們面對(duì)的是極端超級(jí)智能系統(tǒng)，也依然具備可行的控制技術(shù)。

但這并不是一個(gè)已經(jīng)完全解決的問(wèn)題，我們能否及時(shí)解決這個(gè)問(wèn)題仍懸而未決。這就像是一場(chǎng)競(jìng)賽：人工智能的能力在快速發(fā)展，人類(lèi)逐漸了解如何調(diào)整這些系統(tǒng)。但我們無(wú)法確定，如果明天有人找到了讓系統(tǒng)真正變得更加智能的技巧，我們是否有可靠的方法來(lái)充滿(mǎn)信心地駕馭這種情況。所以這是一個(gè)開(kāi)放的問(wèn)題，人類(lèi)對(duì)機(jī)器的完美控制原則上是可能的，只是我們并不確定能否及時(shí)找到解決方案。

《財(cái)經(jīng)》：你在書(shū)里所描述的“問(wèn)題已解的世界”（Solved World）從技術(shù)、生產(chǎn)力和治理方面呈現(xiàn)出什么特點(diǎn)？

博斯特羅姆：有兩種屬性。一是它處于或者接近技術(shù)成熟狀態(tài)，也就是說(shuō)，我們基本上已經(jīng)開(kāi)發(fā)了全部有用的通用技術(shù)，這些技術(shù)在物理上是可能的，原則上是可能實(shí)現(xiàn)的，即使我們現(xiàn)在還不具備這樣的能力。比如，治愈衰老、太空殖民、完美的虛擬現(xiàn)實(shí)、將人類(lèi)意識(shí)上傳到電腦、對(duì)人類(lèi)大腦情感機(jī)制的精細(xì)控制與認(rèn)知能力的增強(qiáng)、完美的自動(dòng)化技術(shù)，這些事物都沒(méi)有違反物理定律。而超級(jí)智能的出現(xiàn)，讓那個(gè)長(zhǎng)期未來(lái)像望遠(yuǎn)鏡一樣被快速拉近。這是第一個(gè)屬性，即近乎魔法的技術(shù)能力。

第二個(gè)假設(shè)是，治理問(wèn)題已經(jīng)得到了很好解決，或者至少在一定程度上得到了控制。這本書(shū)并沒(méi)有關(guān)注政治治理方面，但我假設(shè)它不是糟糕的，沒(méi)有出現(xiàn)管理不善，人人都有機(jī)會(huì)，和平到來(lái)，政府不壓迫人民等等。這兩個(gè)屬性構(gòu)成了我對(duì)“問(wèn)題已解世界”的定義。

《財(cái)經(jīng)》：這樣一個(gè)理想世界什么時(shí)候會(huì)到來(lái)？你提到我們可能在有生之年看到一部分。

博斯特羅姆：這更像是一種希望，而非預(yù)測(cè)。鑒于目前人工智能的發(fā)展速度，這樣世界的到來(lái)是可能的。超級(jí)智能一旦發(fā)展成熟，將像掀翻棋盤(pán)般，徹底改變一切。在好的情況下我們會(huì)看到這個(gè)理想世界，一個(gè)“深度烏托邦”。但在壞的情況下，我們可能面臨滅絕。有很多可能的結(jié)果。

目前來(lái)看還很難預(yù)測(cè)，但出現(xiàn)一種強(qiáng)大的、可以從根本上改變很多事情的力量是可能的。我們是否會(huì)實(shí)現(xiàn)“深度烏托邦”或者其他任何一種烏托邦，現(xiàn)在還是未知數(shù)。這本書(shū)沒(méi)有對(duì)時(shí)間線做出預(yù)測(cè)，但我確實(shí)認(rèn)為，這種可能性是現(xiàn)實(shí)的，很可能會(huì)在許多讀者的有生之年內(nèi)實(shí)現(xiàn)。如果某些人工智能實(shí)驗(yàn)室負(fù)責(zé)人對(duì)前景的預(yù)測(cè)可信的話(huà)，這一切甚至也許只需要幾年時(shí)間。

《財(cái)經(jīng)》：使“深度烏托邦”成為現(xiàn)實(shí)面臨的最大挑戰(zhàn)是什么？

博斯特羅姆：如果“深度烏托邦”要成為現(xiàn)實(shí)，人工智能將是促成這一切發(fā)生的因素。在沒(méi)有人工智能的情況下，我們可能需要成千上萬(wàn)年才能實(shí)現(xiàn)。但是人工智能不僅有潛力帶來(lái)巨大的好處，隨之而來(lái)的還有事情可能出錯(cuò)的各種情況。因此主要的挑戰(zhàn)就在于確保這些壞的事情不會(huì)發(fā)生。這也是我們前面所討論的對(duì)齊問(wèn)題，要確保超級(jí)智能系統(tǒng)不會(huì)與人類(lèi)為敵。

其次是治理挑戰(zhàn)，確保人類(lèi)不會(huì)使用這些日益強(qiáng)大的人工智能工具來(lái)傷害彼此。人類(lèi)使用了很多技術(shù)來(lái)制造武器等諸多破壞性事物。

第三個(gè)挑戰(zhàn)受到的關(guān)注要少得多，這是我最近工作關(guān)注的內(nèi)容，即如何確保我們不會(huì)傷害正在建構(gòu)的人工智能。我認(rèn)為其中的一些數(shù)字心智將具備道德地位，是真正有感知的存在，有自己的利益和目標(biāo)。絕大多數(shù)心智在未來(lái)很可能將是數(shù)字的，而非生物的。

這些數(shù)字心智的規(guī)模可能差異巨大，從類(lèi)似于行星級(jí)別的超級(jí)智能，到像松鼠那樣微小的意識(shí)體，甚至是那種僅僅用來(lái)運(yùn)行洗衣機(jī)的微型智能。未來(lái)可能會(huì)出現(xiàn)各種形態(tài)的數(shù)字心智，這構(gòu)成了一種道德上的挑戰(zhàn)：我們能否將人類(lèi)的同理心拓展到他者。這可能很難，畢竟，有時(shí)人類(lèi)連彼此都難以好好相待。而對(duì)于動(dòng)物，情況只會(huì)更糟。在畜牧業(yè)中，人類(lèi)經(jīng)常嚴(yán)重虐待動(dòng)物。某些數(shù)字意識(shí)，可能只是數(shù)據(jù)中心里一些不可見(jiàn)的進(jìn)程，沒(méi)有眼睛，也不會(huì)發(fā)出哪怕一絲“吱吱”聲，需要我們想象身處它們的情境。

我最近寫(xiě)的一篇論文草稿里提及了第四種挑戰(zhàn)，盡管我現(xiàn)在還沒(méi)有考慮得太清楚。如果我們創(chuàng)造出某種形式的超級(jí)智能，它可能存在于一個(gè)有其他超級(jí)智能的世界中。這些超級(jí)智能可能是由遙遠(yuǎn)星系中的外星文明構(gòu)建的，也可能是由宇宙波函數(shù)的其他分支所產(chǎn)生，又或者如果生活在一個(gè)計(jì)算機(jī)模擬中，模擬器本身也將是超級(jí)智能體。所以這個(gè)挑戰(zhàn)就在于要確保我們創(chuàng)造的任何形式超級(jí)智能，都能夠與這組可能已經(jīng)存在的原住者相處融洽。傳統(tǒng)神學(xué)中的神明，也可以算作其中一類(lèi)。確保人類(lèi)與它們之間關(guān)系融洽非常重要。

我們還得保證人類(lèi)能夠走到建設(shè)超級(jí)智能的那一步，而不是在這之前就以其他方式自我毀滅。我們現(xiàn)在仍擁有大量核武器和生物武器，以及其他可能摧毀文明的方式，如果在那之前我們自己就把文明搞垮了，那將是非?？杀摹Ｎ覀冞B與超級(jí)智能“擲骰子”、一試未來(lái)命運(yùn)的機(jī)會(huì)都沒(méi)能爭(zhēng)取到，就已經(jīng)出局了。

《財(cái)經(jīng)》：你預(yù)見(jiàn)的“深度烏托邦”是一個(gè)所有挑戰(zhàn)都已經(jīng)解決的完美世界。另一個(gè)未來(lái)學(xué)家凱文·凱利則提出了“漸進(jìn)烏托邦”（Protopia）的概念，他認(rèn)為問(wèn)題與解決方案總在循環(huán)擴(kuò)張，烏托邦只能是一個(gè)漸進(jìn)的過(guò)程。你如何看待這兩種烏托邦的不同？

博斯特羅姆：凱文·凱利提出的“漸進(jìn)烏托邦”更多地是關(guān)于此時(shí)此地，它錨定在當(dāng)前的現(xiàn)實(shí)和實(shí)際中，反映的是你如何看待過(guò)去幾十年的技術(shù)發(fā)展。正如技術(shù)進(jìn)步的一貫?zāi)Ｊ?，人?lèi)不斷嘗試各種方法，跌跌撞撞地解決了一些問(wèn)題，在這個(gè)過(guò)程中又會(huì)制造出新的問(wèn)題，之后我們?cè)偃ソ鉀Q這些問(wèn)題。

這并不是說(shuō)每件事都是完美的，但如果你從更遠(yuǎn)的角度看，你會(huì)發(fā)現(xiàn)，我們需要解決的問(wèn)題質(zhì)量越來(lái)越高。比如，如何按時(shí)上床睡覺(jué)，而不是沉迷于你的社交媒體。這可能是個(gè)問(wèn)題，但總比面對(duì)如何獲得足夠的食物來(lái)養(yǎng)活孩子這樣的問(wèn)題好。我們用那些解決起來(lái)依然困難但更好的問(wèn)題來(lái)替代更糟糕的問(wèn)題，這反映了我們過(guò)去和現(xiàn)在所處的位置。

但“深度烏托邦”試圖通過(guò)快進(jìn)推斷：如果我們把現(xiàn)在的趨勢(shì)發(fā)揮到極限，會(huì)發(fā)生什么？人工智能變得越來(lái)越強(qiáng)大，很有可能在某一時(shí)刻，它可以完成人類(lèi)所能做的一切。它將徹底變成超人，解鎖完整的科技樹(shù)（Technology Tree）。因此，“深度烏托邦”提出的是一個(gè)不同問(wèn)題，是關(guān)于邏輯的最終結(jié)果。而“漸進(jìn)烏托邦”的邏輯結(jié)論是，到了某個(gè)節(jié)點(diǎn)，解決問(wèn)題的實(shí)體會(huì)比人類(lèi)更善于解決問(wèn)題。也許即使到了“深度烏托邦”，依然會(huì)有挑戰(zhàn)和問(wèn)題出現(xiàn)，但會(huì)有比人類(lèi)更高效的超級(jí)智能來(lái)解決。

《財(cái)經(jīng)》：你的書(shū)里提到了“馬爾薩斯陷阱”，你如何從技術(shù)進(jìn)步的角度解釋它？一些未來(lái)學(xué)家認(rèn)為，人工智能將終結(jié)稀缺性，但在物質(zhì)充沛的世界，人工智能是否會(huì)帶來(lái)其他意義上的稀缺？

博斯特羅姆：“馬爾薩斯陷阱”依然會(huì)存在。人們常常忽略了它的存在，也許只是在一些歷史教材的某些段落中讀過(guò)。我們不應(yīng)輕易認(rèn)為2025年的世界狀態(tài)是正常的默認(rèn)狀態(tài)。我們今天能夠享有高于平均溫飽水平的收入，其實(shí)是一種巨大例外，是我們的幸運(yùn)。這種狀態(tài)并不理所當(dāng)然地會(huì)持續(xù)下去的。

隨著超級(jí)智能推動(dòng)技術(shù)迅速走向成熟，經(jīng)濟(jì)發(fā)展可能極其迅速，我們可以解鎖巨量資源，甚至最終開(kāi)發(fā)太空資源等。但人口增長(zhǎng)的速度可能更快。人口增長(zhǎng)是可以呈指數(shù)級(jí)的——哪怕每年增長(zhǎng)10%，最終的總量也可能變得天文般龐大。尤其如果未來(lái)大多數(shù)的“人”是數(shù)字意識(shí)體，那它們可能只需幾分鐘就能復(fù)制一次。因此即使是天文數(shù)字級(jí)別的資源儲(chǔ)備，也可能在極短時(shí)間內(nèi)被迅速耗盡。

未來(lái)我們將不得不再次面對(duì)馬爾薩斯的挑戰(zhàn)，并可能需要采取某種方式，對(duì)“有多少、何種形式的意識(shí)體得以存在”做出更多選擇，以確保每一個(gè)存在的個(gè)體，都能擁有高質(zhì)量的生命體驗(yàn)。我不認(rèn)為這是當(dāng)下必須立刻解決的迫切問(wèn)題，但在未來(lái)某一時(shí)刻，它將成為必須應(yīng)對(duì)的課題。否則，任何形式的烏托邦都將只是短暫的幻象——隨著人口增加，人均收入重新跌落到僅夠生存的水平。

勞動(dòng)力市場(chǎng)的影響

《財(cái)經(jīng)》：你如何看待人工智能對(duì)勞動(dòng)力市場(chǎng)的改變？

博斯特羅姆：目前的影響并不大，主要是一些輕微的邊際影響。一些科技公司可能不再像幾年前那樣雇用大量初級(jí)軟件工程師和程序員，因?yàn)榫幋a助手運(yùn)行得很好，而且越來(lái)越好。科技公司會(huì)認(rèn)為，既然人工智能可以做到，也許不該再讓大量初級(jí)程序員加入進(jìn)來(lái)。我個(gè)人覺(jué)得，一些低水平的研究輔助任務(wù)可以由人工智能系統(tǒng)很好地完成，比如你想就某個(gè)主題展開(kāi)一些初步研究調(diào)查，或者對(duì)一些隨機(jī)事件寫(xiě)報(bào)告，人工智能完全有能力完成，而且速度更快。隨著人工智能可靠性以及與業(yè)務(wù)流程融合程度的提高，這種類(lèi)型的自動(dòng)化任務(wù)將迅速擴(kuò)張。

現(xiàn)在的人工智能，即使在沒(méi)有提升的情況下，一旦完全融入經(jīng)濟(jì)、數(shù)據(jù)集和工作流程，也足以實(shí)現(xiàn)很大一部分人類(lèi)勞動(dòng)力的自動(dòng)化。但到目前為止，我認(rèn)為人工智能對(duì)勞動(dòng)力市場(chǎng)的影響還非常有限。

《財(cái)經(jīng)》：在你描述的理想世界中，人類(lèi)不再需要工作。你如何看待人工智能取代人類(lèi)工作的道德維度？失業(yè)本身就是一件壞事嗎，還是由失業(yè)帶來(lái)的不平等、身份喪失、缺乏目的等等使得失業(yè)成為一個(gè)問(wèn)題？

博斯特羅姆：我不認(rèn)為失業(yè)總是一件壞事，這有兩個(gè)前提。一是人類(lèi)不像現(xiàn)在這樣總是需要換一份別的工作。在一個(gè)充滿(mǎn)活力的經(jīng)濟(jì)體系中，人們需要流動(dòng)，一些工作被創(chuàng)造出來(lái)，取代了之前的工作。但在“問(wèn)題已解的世界”，我們看到的是普遍失業(yè)。由于人們不掙工資，他們需要其他維持生計(jì)的來(lái)源。準(zhǔn)確地說(shuō)，在這種情況下，所有工作都可以自動(dòng)化，實(shí)現(xiàn)了極為迅速的經(jīng)濟(jì)增長(zhǎng)。有了這種經(jīng)濟(jì)富礦，慷慨的全民基本收入變得可行，或者讓每個(gè)人都擁有主權(quán)財(cái)富基金的股權(quán)。

另一個(gè)是尊嚴(yán)和自我價(jià)值來(lái)源。在當(dāng)下，如果人們失去工作時(shí)，他們會(huì)覺(jué)得自己一無(wú)是處，失去與同事以及其他人的社會(huì)關(guān)系。我認(rèn)為這種文化需要轉(zhuǎn)變，需要不再把失業(yè)看作是失敗的標(biāo)志，而應(yīng)該是：你現(xiàn)在不必再做這些工作，你已經(jīng)從工作中解放。

我們需要發(fā)展一種新的文化，培養(yǎng)卓越的休閑方式。有些人會(huì)覺(jué)得無(wú)聊，他們躺在沙發(fā)上，覺(jué)得自己一無(wú)是處。但另一些人則享受每一個(gè)空閑時(shí)刻，他們有自己的愛(ài)好，和朋友共度時(shí)光，鍛煉，去自然探險(xiǎn)，或者花時(shí)間和孩子在一起，聽(tīng)音樂(lè)，有很多這樣的事情可以做。在當(dāng)前的教育系統(tǒng)中，我們?nèi)匀恍枰囵B(yǎng)坐在辦公桌前的人，完成布置的工作任務(wù)。但在理想世界里，這些都不再需要了，教育系統(tǒng)將被改變，它將教會(huì)人們享受生活，真正享受生活的多樣性。

《財(cái)經(jīng)》：英國(guó)經(jīng)濟(jì)學(xué)家凱恩斯曾在一個(gè)世紀(jì)前預(yù)言，到2030年，人們每周只需要工作15個(gè)小時(shí)。但顯然我們離這個(gè)目標(biāo)還很遠(yuǎn)，還有很多人總在加班。為什么凱恩斯的預(yù)言未能實(shí)現(xiàn)？

博斯特羅姆：他預(yù)測(cè)的其實(shí)是兩件事。一是在這100年的時(shí)間里，生產(chǎn)力將增長(zhǎng)4倍到8倍，這確實(shí)發(fā)生了。另一件則是在這種情況下人們每周只需工作15小時(shí)，這并沒(méi)有發(fā)生。雖然人們還在工作，但西方國(guó)家的一些統(tǒng)計(jì)數(shù)據(jù)顯示，人在一生中的工作時(shí)間比以前少了，人們有更長(zhǎng)的接受教育時(shí)間和更長(zhǎng)的退休時(shí)間，每天的工作時(shí)間略有減少，同時(shí)有更多的假期、產(chǎn)假或者陪產(chǎn)假。把所有這些都算上的話(huà)，人的工作時(shí)間顯著減少。

生產(chǎn)力雖然得到提升，人們選擇用于增加支出和消費(fèi)。所以你可以說(shuō)是貪婪戰(zhàn)勝了懶惰。部分原因在于人們想要的在很大程度上是位置商品，你擁有的東西是其他人沒(méi)有的。地位消費(fèi)總是貪得無(wú)厭。我們?cè)究梢陨僭谝路匣ㄥX(qián)，即使天氣很冷也足以御寒，但我們?nèi)匀换烁噱X(qián)，因?yàn)橄胱寗e人對(duì)我們的外表留下深刻的印象。一個(gè)舊手機(jī)也可以運(yùn)行同樣的應(yīng)用程序，但新手機(jī)看起來(lái)更酷，所以我們又多花了錢(qián)。

在現(xiàn)代，這種地位驅(qū)動(dòng)的消費(fèi)助長(zhǎng)了許多消費(fèi)行為。如果你只是想保證有足夠的食物，不會(huì)挨餓受凍，人們其實(shí)可以少工作很多，很多人甚至可以不工作。假設(shè)你生活在一個(gè)富裕國(guó)家，努力工作十年，然后搬到一個(gè)生活成本低的國(guó)家，如果你愿意接受生活只有基本必需品，你極有可能可以靠積蓄生活。只是很少有人這么做。位置商品對(duì)于驅(qū)動(dòng)消費(fèi)行為的重要性，這是凱恩斯當(dāng)年沒(méi)有覺(jué)察到的。

《財(cái)經(jīng)》：隨著超級(jí)智能的崛起，有哪些人類(lèi)活動(dòng)是不可替代的？

博斯特羅姆：作為消費(fèi)者，我們面對(duì)產(chǎn)品和服務(wù)，不僅關(guān)心它們的客觀和內(nèi)在屬性，還關(guān)心它們是如何制造以及由誰(shuí)制造的。消費(fèi)者會(huì)愿意支付額外費(fèi)用，比如在購(gòu)買(mǎi)煙灰缸之類(lèi)的小玩意時(shí)，如果它是由當(dāng)?shù)厥止に嚾酥谱鳎皇窃诠S里批量生產(chǎn)的。又或者我們還是更喜歡觀看人類(lèi)跑步和打拳擊，即使機(jī)器人跑得更快或出拳更有力。

鑒于消費(fèi)者的這些偏好，即使在技術(shù)成熟的情況下，對(duì)人類(lèi)勞動(dòng)力的需求仍然存在，而且這方面的權(quán)重還會(huì)增加，因?yàn)槿藗冏兊梅浅８挥?，可以買(mǎi)得起更多此類(lèi)產(chǎn)品來(lái)滿(mǎn)足品位，而不僅僅只看其表面。它變得不那么功利了：我喜歡這個(gè)物件是因?yàn)樗澈蟮臍v史；我認(rèn)識(shí)制作它的人，他們懷著愛(ài)與關(guān)懷對(duì)待它；它被某位名人擁有了一段時(shí)間，現(xiàn)在出現(xiàn)在我的客廳里。

會(huì)有一段短暫的過(guò)渡期。當(dāng)人類(lèi)第一次掌握可以對(duì)很多事情實(shí)現(xiàn)自動(dòng)化的技術(shù)時(shí)，可能在一段時(shí)期內(nèi)，我們不會(huì)完全信任技術(shù)。即使它們可以完成各種工作，我們還是沒(méi)信心把重要的決定交給它們。人類(lèi)從事的許多工作將是監(jiān)督人工智能勞動(dòng)力，審查其產(chǎn)出，對(duì)其進(jìn)行評(píng)估和檢查，并做出最終決定，盡管事實(shí)上，人工智能完全有能力勝任這些工作。

最終，我們會(huì)對(duì)人工智能培養(yǎng)出足夠的信任，把事情外包給它們。但還是會(huì)有受到保護(hù)的特定工作類(lèi)別，比如法律規(guī)定特定的任務(wù)必須由人來(lái)執(zhí)行，就像現(xiàn)在的公證人、法官或政治決策者，又或者是出于宗教理由，比如牧師。這些都是通用自動(dòng)化之外潛在的重要例外?，F(xiàn)在屬于這一類(lèi)別的工作相對(duì)較少，但隨著各行業(yè)實(shí)現(xiàn)完全自動(dòng)化，會(huì)有更多的工作進(jìn)入這一類(lèi)別。

人生的意義是什么

《財(cái)經(jīng)》：你在書(shū)里討論了“深層冗余”和“淺層冗余”，這兩者的主要區(qū)別是什么？面對(duì)“深層冗余”，人類(lèi)可以做什么？

博斯特羅姆：淺層冗余意味著沒(méi)有任何功能性的經(jīng)濟(jì)目的需要我們付出努力，我們不需要為生計(jì)而工作。一個(gè)膚淺冗余的世界意味著不需要人類(lèi)的經(jīng)濟(jì)勞動(dòng)，所有工作都由機(jī)器人完成。無(wú)論你工不工作，都會(huì)收到薪水。

深層冗余則超越了這一點(diǎn)。當(dāng)你不工作的時(shí)候，還有很多活動(dòng)需要你以不同方式付出努力。有些人可能會(huì)去健身房鍛煉，因?yàn)檫@樣才能保持身材。有人可能會(huì)花時(shí)間裝飾他們的房子，因?yàn)橹挥羞@樣才能把房間變成自己想要的樣子?；蛘呷ベ?gòu)物，這是你想要得到特定物品的唯一方法。即使你很有錢(qián)，你仍然必須做出選擇才能得到想要的東西。再比如學(xué)習(xí)數(shù)學(xué)，這是你實(shí)現(xiàn)擅長(zhǎng)數(shù)學(xué)的唯一途徑。即使你是億萬(wàn)富翁，可以請(qǐng)家教，但你仍然需要做數(shù)學(xué)練習(xí)，自己付出努力。

然而到了技術(shù)成熟時(shí)，實(shí)現(xiàn)這些結(jié)果會(huì)有捷徑，不僅是經(jīng)濟(jì)上的努力變得沒(méi)有必要，其他形式的努力也變得沒(méi)有必要。你不必再去健身房，只需服用健身藥丸，就會(huì)自動(dòng)帶來(lái)和去健身房一樣的效果。你也不必大費(fèi)周章去不同的商店購(gòu)物，人工智能知道你的品位和偏好，為你挑選好所有東西，使你得到一個(gè)更好的房子和更好的品位。你會(huì)因此產(chǎn)生一種更深刻的冗余感——看起來(lái)任何東西都不需要努力。

《財(cái)經(jīng)》：生命的意義是什么？你在書(shū)的結(jié)尾提出了這個(gè)問(wèn)題，但沒(méi)有給出答案。

博斯特羅姆：這個(gè)問(wèn)題其實(shí)可以從不同層面來(lái)回答。其中一個(gè)原因是，我寫(xiě)這本書(shū)已經(jīng)花了很長(zhǎng)時(shí)間，寫(xiě)到那個(gè)階段時(shí)，我只是特別想把它完成并盡早發(fā)布，最好是在奇點(diǎn)到來(lái)之前，還能留出一些時(shí)間，所以它確實(shí)需要收尾。我知道無(wú)論我在哪一頁(yè)停筆，都會(huì)有更多我尚未涉及的問(wèn)題。這就是這類(lèi)話(huà)題的特點(diǎn)：它太龐大了，一旦你開(kāi)始認(rèn)真思考，就會(huì)發(fā)現(xiàn)總還有更多的東西可以繼續(xù)挖掘。

我不想寫(xiě)成那種無(wú)限拖延下去的書(shū)。我有一個(gè)好朋友，他寫(xiě)書(shū)寫(xiě)了大概已經(jīng)有15年。書(shū)越寫(xiě)越大，但始終沒(méi)能真正出版。我在想，也許到了某個(gè)時(shí)候，人工智能可以在十分鐘內(nèi)把整本書(shū)寫(xiě)完，要是我的這本書(shū)在那之前還沒(méi)出版，就變過(guò)時(shí)了，那真挺遺憾的。我不想那樣，這也是我必須給這本書(shū)畫(huà)上句號(hào)的一個(gè)現(xiàn)實(shí)原因。

但另一方面，我認(rèn)為讓讀者自己去思考這個(gè)問(wèn)題，未嘗不是件好事。答案因人而異，會(huì)隨著你所持的不同立場(chǎng)而呈現(xiàn)出不同的面貌。我覺(jué)得很關(guān)鍵的一點(diǎn)是，當(dāng)我們說(shuō)“生命的意義”時(shí)，“意義”到底是什么？在給出答案之前，你需要先弄清楚這個(gè)問(wèn)題。

如果你對(duì)“生命的意義”的理解是人們將來(lái)會(huì)用什么來(lái)填滿(mǎn)他們的日常生活？我在書(shū)中其實(shí)討論了這個(gè)問(wèn)題。事實(shí)上，你甚至可以把這本書(shū)看作某種可能生活方式的片段化呈現(xiàn)。比如，書(shū)中那些角色，他們到處去聽(tīng)講座，然后互相討論，接著去泡溫泉放松。那種生活狀態(tài)其實(shí)就是一種相當(dāng)烏托邦式的存在。他們像蝴蝶一樣，采集知識(shí)的花蜜，在學(xué)習(xí)中獲得樂(lè)趣，同時(shí)也享受生活。

我設(shè)定這些場(chǎng)景，正是想借此呈現(xiàn)一種生活方式。我寫(xiě)這本書(shū)的目的不僅僅是解釋各種概念、論證和思想，當(dāng)然這是書(shū)中很重要的一部分，但我也希望通過(guò)這本書(shū)傳達(dá)一種特定的精神，用有趣和有愛(ài)的方式來(lái)面對(duì)這些問(wèn)題。如果未來(lái)真的會(huì)有一些人要作出那些影響長(zhǎng)期未來(lái)的重大決定，他們?cè)谶M(jìn)入我所說(shuō)的“假想中的討論室”之前，心態(tài)也許和具體的想法一樣重要。我希望他們能以一種開(kāi)放的心態(tài)去面對(duì)這樣艱難的任務(wù)。在保持人類(lèi)價(jià)值觀的同時(shí)，懷著一種慷慨、有趣和愛(ài)護(hù)的態(tài)度，去思考我們可以建構(gòu)的未來(lái)。

這也是為什么這本書(shū)會(huì)以這樣的方式來(lái)寫(xiě)，因?yàn)槊鎸?duì)這些宏大的問(wèn)題，人是很容易脫軌的，要么是失去了人性中的一些人類(lèi)價(jià)值，要么是困在當(dāng)下，無(wú)法想象不同的未來(lái)。無(wú)論是哪一種，都會(huì)讓人變得錯(cuò)亂。要在思考這些問(wèn)題的過(guò)程中，保持完全的理智，并與自身的價(jià)值觀及更廣泛的人類(lèi)情感保持連結(jié)，其實(shí)是非常困難的。

《財(cái)經(jīng)》：如果是你生活在“深度烏托邦”，你的人生意義會(huì)是什么？

博斯特羅姆：我們還是得先對(duì)“意義”這個(gè)詞做出界定。我在書(shū)中確實(shí)花了很多篇幅討論“目的”，并且區(qū)分了“意義”與“目的”的不同，我認(rèn)為“意義”是一種特殊類(lèi)型的“目的”。我也談到其他更普遍形式的目的，尤其是“人工目的”的可能性，而這正是烏托邦居民所擁有的主要目的。簡(jiǎn)單來(lái)說(shuō)，就是你為自己設(shè)定的任意目標(biāo)，一旦確立了這個(gè)目標(biāo)，你就會(huì)有理由去努力實(shí)現(xiàn)它。

游戲就是這種形式。你決定打一場(chǎng)高爾夫，你給自己設(shè)定了這個(gè)目標(biāo)，讓球進(jìn)到18個(gè)洞。你用高爾夫球桿擊球，這其實(shí)非常不方便，用你的手撿球并按順序移動(dòng)它會(huì)容易得多。但出于某種原因，你做了這個(gè)決定，要試著只用一根高爾夫球桿把球打進(jìn)18洞。一旦你接受了這個(gè)目標(biāo)，你就有了一個(gè)人為的目的。

你只有全神貫注、盡最大努力去擊球，參與高爾夫球運(yùn)動(dòng)的每一個(gè)環(huán)節(jié)，可能是和朋友一起，才能真正實(shí)現(xiàn)這個(gè)目標(biāo)，并因此度過(guò)一段愉快的時(shí)光。所以，游戲其實(shí)就是一種人為設(shè)定目標(biāo)的活動(dòng)，目的是促成本身就有價(jià)值的體驗(yàn)。烏托邦中的人們所做的事情，就是一起創(chuàng)造出越來(lái)越精巧、復(fù)雜、奇妙且富有美感的游戲形式。這不是指小小的棋盤(pán)游戲，并非只是移動(dòng)幾個(gè)棋子那么簡(jiǎn)單，更像是一種將人生作為審美表達(dá)的方式，與他人共同生活、互動(dòng)，努力把生活本身變得美好、充滿(mǎn)樂(lè)趣。

除了人工目的，人們可能依然保留某些自然目的。比如，如果你認(rèn)為，緬懷祖先是一件有價(jià)值的事。在“深度烏托邦”降臨之前，他們?yōu)榱四隳茏叩浇裉?，付出了諸多犧牲。那么，懷著感激之情銘記他們會(huì)是一種值得保留的目的，這件事是你無(wú)法外包給機(jī)器完成的。假設(shè)你造了一個(gè)機(jī)器人，讓它說(shuō)：“祖父，我記得你，我很感激你?！边@并不能真正算作是你在緬懷祖先，必須是你親自花時(shí)間去做這件事，才算是真正的紀(jì)念。

類(lèi)似的還有各種社會(huì)關(guān)系的牽絆。比如，當(dāng)你對(duì)另一個(gè)人有個(gè)人情感時(shí)，重要的就不是完成一件事，而是你親自為對(duì)方做了這件事，這其中包含了一種獨(dú)特的價(jià)值。即使在技術(shù)達(dá)到任意高度的未來(lái)，有些目的仍然需要你親自動(dòng)手、親自用心去完成。所以，這些自然目的會(huì)繼續(xù)存在，而且它們可能變得越來(lái)越重要。

至于生命的意義這個(gè)問(wèn)題，我覺(jué)得就更復(fù)雜了。我們到時(shí)會(huì)處在一個(gè)什么樣的情境，不是那么明確。也許，那時(shí)的意義會(huì)更多地轉(zhuǎn)向精神性、宗教性或超驗(yàn)性的方向。

就算我們已經(jīng)擁有了近乎魔法的技術(shù)，對(duì)現(xiàn)實(shí)氣泡有了完美的掌控能力，也許在那之外還有一個(gè)更大的現(xiàn)實(shí)。取決于這個(gè)更寬廣的現(xiàn)實(shí)是如何構(gòu)成的，我們也許仍然能獲得某種意義，就像我在書(shū)中所闡述的那樣。在這個(gè)更大的宇宙面前，即使我們實(shí)現(xiàn)了技術(shù)的完全成熟，我們?cè)谄渲锌赡苋允菢O其微小的存在。

《財(cái)經(jīng)》：在寫(xiě)這本書(shū)的過(guò)程中，你最重要的收獲是什么？

博斯特羅姆：很難簡(jiǎn)明扼要地總結(jié)，但也許可以這樣說(shuō)：我們的人類(lèi)價(jià)值和欲望，在很大程度上是錨定在當(dāng)前所處的情境之中的。

當(dāng)你試圖將這些價(jià)值延伸到一個(gè)完全不同的情境中，比如“問(wèn)題已解的世界”，那么這些價(jià)值就開(kāi)始變得不明確、松散，或者說(shuō)，像是一種分布外的外推（Out-of-distribution extrapolation）。在這種情況下，我們究竟會(huì)選擇什么、想要什么，答案在很大程度上其實(shí)是不確定的。我們關(guān)心的很多東西，都是一種預(yù)設(shè)，以經(jīng)驗(yàn)性、偶然性的事實(shí)為前提，這些事實(shí)構(gòu)成了我們所處的位置。而一旦這些前提被移除，我們就很難說(shuō)清楚自己到底還想要什么，或者會(huì)賦什么予價(jià)值。這就像是進(jìn)入一個(gè)自由浮動(dòng)的世界，一旦離開(kāi)我們熟悉的環(huán)境，很難用可以理解的方式來(lái)描述。但這是我在寫(xiě)這本書(shū)的過(guò)程中，逐漸體會(huì)到的一個(gè)重要領(lǐng)悟。

人工智能治理

《財(cái)經(jīng)》：在一個(gè)后工具性的社會(huì)，你認(rèn)為什么樣的體制會(huì)繼續(xù)發(fā)揮作用？治理、市場(chǎng)這些概念是否仍有意義？

博斯特羅姆：很難用詳細(xì)具體的畫(huà)面來(lái)描述在一個(gè)后超級(jí)智能世界中，哪些社會(huì)組織是有意義的。我們究竟應(yīng)當(dāng)以怎樣的方式來(lái)實(shí)現(xiàn)自己，也許并不是我們現(xiàn)在這個(gè)階段能夠，也未必需要詳細(xì)規(guī)劃清楚的事情。因?yàn)槲磥?lái)的人類(lèi)將處于離那種情境更近的位置，對(duì)正在發(fā)生的事情也會(huì)看得更清楚。而且，他們還將擁有超級(jí)智能的人工智能顧問(wèn)，幫助他們?cè)O(shè)計(jì)和組織社會(huì)結(jié)構(gòu)。

我并不知道這個(gè)問(wèn)題的答案。我的猜測(cè)是，到了那個(gè)階段，這些制度性的安排可能會(huì)與現(xiàn)在的完全不同——不僅僅是在邊緣做一些小調(diào)整，某些制度的必要性和本質(zhì)都可能需要在技術(shù)成熟之后徹底重新思考。

《財(cái)經(jīng)》：你在個(gè)人網(wǎng)站上提到目前在關(guān)注與人工通用智能（AGI）治理相關(guān)的工作，有什么可以分享的嗎？

博斯特羅姆：其實(shí)是我正在探索的一些想法，只是某個(gè)問(wèn)題的切面。我在思考這些問(wèn)題，但常常感覺(jué)難以找到方向。這回到了我們前面提到的那個(gè)問(wèn)題，關(guān)于宏觀戰(zhàn)略。我們究竟在搭建什么？為什么是在這個(gè)地方建它，而不是在另一個(gè)地方？我們是不是應(yīng)該去做完全不同的事？當(dāng)你開(kāi)始從這個(gè)層面思考，就很難判斷：什么方向才算是改進(jìn)，什么又可能會(huì)把我們帶得更遠(yuǎn)。在人工智能治理領(lǐng)域，我有非常深的這種感受。

對(duì)于很多決策問(wèn)題，你可以看到支持與反對(duì)的合理理由。比如，我們是需要政府更多介入人工智能的發(fā)展，還是應(yīng)該更少？我們是應(yīng)該推動(dòng)開(kāi)源開(kāi)放，還是保持封閉，由實(shí)驗(yàn)室來(lái)密切注視前沿技術(shù)？這些都不是顯而易見(jiàn)的問(wèn)題。我有自己的看法，但我也很清楚，這些看法未必能完全覆蓋所有相關(guān)事實(shí)，我也不確定什么方案才是真正最優(yōu)的。

我并沒(méi)有足夠的信心認(rèn)為自己已經(jīng)找到了明確的藍(lán)圖。就算我是這個(gè)世界的帝王，有人問(wèn)我應(yīng)該怎么處理人工智能問(wèn)題，我恐怕也只能提出一些邊際上的建議，也許是有用的，但不是一整套確信可行的系統(tǒng)方案。

所以我還在繼續(xù)思考。我想說(shuō)的是，可以做一些事情來(lái)使我們的軌跡朝著一個(gè)更加合作的未來(lái)前進(jìn)，不同國(guó)家、不同民族和包括數(shù)字思維在內(nèi)的不同類(lèi)型存在，都在尋求合作。這會(huì)帶來(lái)更積極的未來(lái)愿景，而不是以一種零和的心態(tài)來(lái)看待問(wèn)題。我認(rèn)為對(duì)未來(lái)最大的威脅之一，其實(shí)就是各種形式的沖突。不是我們能否戰(zhàn)勝自然的問(wèn)題，風(fēng)險(xiǎn)在于我們是否能避免與其他智能存在的沖突。如果找不到相處的辦法，我們會(huì)讓一切變得更糟。

很難確切知道這具體意味著什么。但我認(rèn)為，至少它意味著不斷尋找機(jī)會(huì)，以一種更加合作的方式來(lái)解決問(wèn)題。沒(méi)有人會(huì)得到他們想要的100%。但我認(rèn)為未來(lái)的容量足夠大，可以讓每個(gè)人得到他們想要的90%或者95%，然后我們?cè)賮?lái)爭(zhēng)吵剩下的那5%也無(wú)妨。只要我們能確保每一個(gè)存在，包括數(shù)字智能在內(nèi)，都能擁有美好的生活，到那時(shí)候，誰(shuí)得到最后的5%其實(shí)也沒(méi)那么重要了。

《財(cái)經(jīng)》：你如何評(píng)價(jià)當(dāng)前的人工智能治理？我們需要什么樣的治理機(jī)制？

博斯特羅姆：現(xiàn)在的治理還可以，問(wèn)題在于，隨著人工智能的能力和影響力不斷增強(qiáng)，我們是否需要一種不同的應(yīng)對(duì)方式。不同的模式各有利弊。最近我在思考的是：如果一個(gè)人工智能項(xiàng)目是可以公開(kāi)投資的，它將有利于促進(jìn)合作。因?yàn)橥獠康娜司湍芡ㄟ^(guò)投資的方式參與其中，成為它的一部分，而不必選擇與其競(jìng)爭(zhēng)，甚至想要摧毀它。如果一個(gè)人工智能產(chǎn)品已經(jīng)存在，而你作為局外人完全無(wú)法分享它的紅利，也無(wú)法對(duì)它有任何控制權(quán)，你可能就會(huì)覺(jué)得：既然我不能參與，那我只能自己做一個(gè)產(chǎn)品，即使這意味著要投入一場(chǎng)無(wú)法放慢節(jié)奏、無(wú)法謹(jǐn)慎行事的競(jìng)賽。如果你完全被排除在外，你可能會(huì)覺(jué)得自己非得加入競(jìng)賽不可，甚至在某些情況下，可能會(huì)試圖干擾或破壞它，尤其當(dāng)這個(gè)人工智能項(xiàng)目對(duì)國(guó)家安全極其重要時(shí)。

但如果外部參與變得可能，情況可能就會(huì)不同。比如可以設(shè)想國(guó)際合作項(xiàng)目，或者更簡(jiǎn)單地，允許人們投資人工智能公司、持有股份、參與利潤(rùn)分配、對(duì)其技術(shù)使用方式擁有一定影響力。這或許可以是緩解負(fù)和博弈的一種辦法。

如果這個(gè)人工智能項(xiàng)目是以公司形式運(yùn)行的，公眾可以通過(guò)持股參與，那么投資性參與的機(jī)制就可以建立起來(lái)。不過(guò)，這又涉及政府監(jiān)管的問(wèn)題，就像對(duì)其他公司一樣，政府也需要對(duì)人工智能公司設(shè)立監(jiān)管框架。由于人工智能對(duì)世界的影響極其巨大，這類(lèi)監(jiān)管可能更需要嚴(yán)格執(zhí)行。問(wèn)題是，如果政府高度介入人工智能公司的運(yùn)作，那投資人會(huì)不會(huì)擔(dān)心公司有朝一日會(huì)被政府沒(méi)收。如果有這種擔(dān)憂(yōu)，他們可能根本就不會(huì)投資，這就會(huì)使合作紅利的設(shè)想失效。有沒(méi)有可能找到一種平衡機(jī)制，既保留人人都可以參與的開(kāi)放性，像上市公司一樣，又能具備足夠的政府監(jiān)督，這樣就可以建立一個(gè)監(jiān)管框架，確保人工智能的私營(yíng)公司能夠負(fù)起責(zé)任和確保安全。

我正在探索這些想法，還沒(méi)有完全下定論，但我認(rèn)為這值得與其他人提出的模型一起探索，比如人工智能版的“曼哈頓計(jì)劃”或人工智能版的歐洲核子研究中心（CERN）。可以把幾種方案并列擺出來(lái)比較，評(píng)估它們的可行性與吸引力，這也許能幫助我們找到更好的組織方式。

《財(cái)經(jīng)》：你認(rèn)為人工智能讓人類(lèi)變得更加團(tuán)結(jié)還是更加分裂？

博斯特羅姆：兩種情況都有可能，很難預(yù)測(cè)。就像對(duì)社交媒體提出同樣的問(wèn)題，即使我們現(xiàn)在能看到結(jié)果都很難說(shuō)它究竟是讓我們更團(tuán)結(jié)還是更分裂。我們通過(guò)社交媒體可以更方便地與人保持聯(lián)系，也更容易了解發(fā)生了什么事。但它也容易制造“過(guò)濾氣泡”——你和你所屬的群體圍坐一圈，互相強(qiáng)化、贊同彼此的觀點(diǎn)，同時(shí)一起討厭圈外的那些人。這樣很容易造成群體之間的巨大裂痕。如果我們能找到一些辦法，鼓勵(lì)人們多傾聽(tīng)對(duì)手的觀點(diǎn)，試著從他們的視角去理解問(wèn)題，并進(jìn)行對(duì)話(huà)，這可能有助于我們朝著一個(gè)和平、合作的未來(lái)邁進(jìn)。

技術(shù)本身是支持這種可能性的，但問(wèn)題是，人們是否選擇這樣的方式。這就像任何一種強(qiáng)大的技術(shù)，它可以被用于造福人類(lèi)，但如果有人堅(jiān)持拿它做壞事，同樣可以造成巨大傷害。

人工智能也面臨類(lèi)似的問(wèn)題。它的潛力是巨大的，可以幫助人們更好地理解世界、解釋復(fù)雜問(wèn)題、促進(jìn)合作方案。但如果人們選擇用它來(lái)屏蔽異見(jiàn)、放大自身立場(chǎng)、制造武器，甚至用它來(lái)優(yōu)化戰(zhàn)爭(zhēng)決策流程，那就是另一回事了。所以我覺(jué)得，問(wèn)題最終還是取決于人性中的智慧與善意在面對(duì)其他傾向時(shí)能否勝出。這一點(diǎn)，并不是技術(shù)本身能預(yù)測(cè)或決定的。