為何技術(shù)會(huì)促成專制

編譯 魏劉偉

對(duì)被邊緣化日益加深的恐懼

民主并非是必要的。由于民主國(guó)家在過(guò)去一個(gè)世紀(jì)或更長(zhǎng)時(shí)間里取得了很大的成功，因此它們成為歷史上的亮點(diǎn)。然而，君主制、寡頭制和其他形式的威權(quán)統(tǒng)治是更為普遍的人類治理模式。

自由民主的出現(xiàn)與自由和平等的理想聯(lián)系在一起，這些理想似乎是不言自明和不可逆轉(zhuǎn)的。但這些理想遠(yuǎn)比我們認(rèn)為的脆弱。它們?cè)?0世紀(jì)的成功取決于獨(dú)特的技術(shù)條件，而這種技術(shù)條件有可能是暫時(shí)性的。

在21世紀(jì)的第2個(gè)10年，自由主義開(kāi)始聲名狼藉。關(guān)于自由民主服務(wù)中產(chǎn)階級(jí)的能力的問(wèn)題逐漸凸顯；政治變得越來(lái)越種族化；在越來(lái)越多的國(guó)家中，領(lǐng)導(dǎo)人都開(kāi)始表現(xiàn)出對(duì)群眾煽動(dòng)和專制的偏好。這種政治轉(zhuǎn)變的原因是復(fù)雜的，但它們似乎與當(dāng)前的技術(shù)發(fā)展交織在一起。支持民主的技術(shù)正在發(fā)生變化，隨著人工智能的發(fā)展，民主可能會(huì)發(fā)生進(jìn)一步的變化。

信息技術(shù)繼續(xù)突飛猛進(jìn)；生物技術(shù)正開(kāi)始為我們的內(nèi)在生活（我們的情感、思想和選擇）提供窗口。信息技術(shù)和生物技術(shù)將共同在人類社會(huì)中造成前所未有的動(dòng)蕩，侵蝕人類機(jī)構(gòu)并可能顛覆人類的欲望。在這種情勢(shì)下，自由民主和自由市場(chǎng)經(jīng)濟(jì)可能會(huì)成為過(guò)去時(shí)。

普通人可能不了解人工智能和生物技術(shù)的任何細(xì)節(jié)，但他們能感覺(jué)到未來(lái)的趨勢(shì)。在1938年，蘇聯(lián)、德國(guó)或美國(guó)的普通男人的處境可能比較嚴(yán)峻，但他們經(jīng)常被告知自己是世界上最重要的事物，他們是未來(lái)。當(dāng)他們看宣傳海報(bào)時(shí)（這些海報(bào)通常描繪了煤礦工人和鋼鐵工人的英雄姿態(tài)），會(huì)發(fā)現(xiàn)自己就在其中：“我就在那張海報(bào)里！我是未來(lái)的英雄！”

在2018年，普通人感到自己越來(lái)越無(wú)關(guān)緊要。在TED演講、政府智庫(kù)和高科技會(huì)議中，人們興奮傳播許多神秘的術(shù)語(yǔ)（全球化、區(qū)塊鏈、基因工程、人工智能、機(jī)器學(xué)習(xí)），普通人無(wú)論男女，都會(huì)認(rèn)為這些術(shù)語(yǔ)與他們無(wú)關(guān)。

在20世紀(jì)，民眾反對(duì)剝削，并尋求將他們?cè)诮?jīng)濟(jì)中的重要作用轉(zhuǎn)化為政治權(quán)力。而現(xiàn)在，民眾擔(dān)心自己被邊緣化，他們瘋狂地想在為時(shí)已晚之前使用剩余的政治權(quán)力。2016年，特朗普和英國(guó)退歐得到了許多人的支持，他們?nèi)匀幌碛姓螜?quán)力，但擔(dān)心自己正在失去經(jīng)濟(jì)價(jià)值。也許在21世紀(jì)，民粹主義的反叛將不是針對(duì)剝削人民的經(jīng)濟(jì)精英，而是針對(duì)不再需要他們的經(jīng)濟(jì)精英。

信息技術(shù)和生物技術(shù)革命仍處于初級(jí)階段，它們對(duì)當(dāng)前的自由主義危機(jī)究竟要負(fù)多大的責(zé)任，這值得商榷。伯明翰、伊斯坦布爾、圣彼得堡和孟買的大多數(shù)人只是模糊地意識(shí)到人工智能的興起及其對(duì)他們生活的潛在影響。然而，毫無(wú)疑問(wèn)，技術(shù)革命正在加速發(fā)展，在今后幾十年中，人類將面臨迄今所遇到的最嚴(yán)峻考驗(yàn)。

一個(gè)新的無(wú)用階級(jí)？

讓我們從就業(yè)和收入開(kāi)始討論，因?yàn)椴还茏杂擅裰髟谡軐W(xué)上有多大的吸引力，它的力量在很大程度上都得益于一個(gè)實(shí)際優(yōu)勢(shì)：在政治學(xué)和經(jīng)濟(jì)學(xué)中，自由主義的特點(diǎn)是分散決策，這使得自由民主國(guó)家能夠勝過(guò)其他國(guó)家，并為人民帶來(lái)越來(lái)越多的財(cái)富。

自由主義向每個(gè)人承諾分得更大的蛋糕，從而使無(wú)產(chǎn)階級(jí)與資產(chǎn)階級(jí)、有信仰者與無(wú)神論者、土著與移民、歐洲人與亞洲人和解。如果存在一個(gè)不斷增長(zhǎng)的蛋糕，上述的和解是可能達(dá)到的。而且這個(gè)蛋糕很可能還會(huì)繼續(xù)增長(zhǎng)。然而，經(jīng)濟(jì)增長(zhǎng)可能無(wú)法解決目前因顛覆性技術(shù)而產(chǎn)生的社會(huì)問(wèn)題，因?yàn)檫@種增長(zhǎng)越來(lái)越依賴于更具顛覆性的技術(shù)的發(fā)明。

當(dāng)然，對(duì)于機(jī)器將人們趕出就業(yè)市場(chǎng)的恐懼并不新鮮。然而在過(guò)去，這種擔(dān)心被證明是沒(méi)有根據(jù)的。但是人工智能不同于舊機(jī)器。在過(guò)去，機(jī)器與人類所競(jìng)爭(zhēng)的主要是手工技能?，F(xiàn)在人工智能開(kāi)始在認(rèn)知技能上與我們競(jìng)爭(zhēng)。

至少在未來(lái)幾十年中，人類的智能在許多領(lǐng)域可能仍遠(yuǎn)超計(jì)算機(jī)智能。因此，隨著計(jì)算機(jī)取代越來(lái)越多的日常認(rèn)知工作，人類新的創(chuàng)造性工作將繼續(xù)涌現(xiàn)。這些新工作中有許多可能會(huì)依賴于合作，而不是人類與人工智能之間的競(jìng)爭(zhēng)。人類-人工智能團(tuán)隊(duì)可能不僅會(huì)比人類更優(yōu)越，而且還會(huì)比獨(dú)立工作的計(jì)算機(jī)更優(yōu)越。

然而，大多數(shù)新工作可能需要高水平的專業(yè)知識(shí)和聰明才智，因此可能無(wú)法解決非熟練工人的失業(yè)問(wèn)題或只能以極低工資就業(yè)的工人問(wèn)題。此外，隨著人工智能的不斷進(jìn)步，甚至那些需要高智商和高創(chuàng)造力的工作也可能逐漸消失。國(guó)際象棋世界就是例子，能夠說(shuō)明這種可能的趨勢(shì)。在IBM的計(jì)算機(jī)“深藍(lán)”于1997年擊敗加里·卡斯帕羅夫（Garry Kasparov）的幾年后，人類棋手仍在蓬勃發(fā)展；人工智能被用來(lái)訓(xùn)練人類神童，由人和計(jì)算機(jī)組成的團(tuán)隊(duì)證明比單純的電腦更加優(yōu)越。

然而近年來(lái)，計(jì)算機(jī)已經(jīng)變得如此擅長(zhǎng)下棋，以至于他們的人類合作者已經(jīng)失去了價(jià)值，可能很快就會(huì)變得完全無(wú)關(guān)緊要。2017年12月6日，谷歌的AlphaZero項(xiàng)目擊敗了Stockfis 8項(xiàng)目，從而達(dá)到了另一個(gè)重要的里程碑。Stockfish 8在2016年贏得了世界電腦國(guó)際象棋錦標(biāo)賽的冠軍，它可以接觸到幾百年來(lái)人類所積累的國(guó)際象棋經(jīng)驗(yàn)和幾十年的計(jì)算機(jī)經(jīng)驗(yàn)。相比之下，AlphaZero并沒(méi)有被其人類創(chuàng)造者教授過(guò)任何象棋策略，甚至連標(biāo)準(zhǔn)的開(kāi)局都沒(méi)有教過(guò)。相反，它使用最新的機(jī)器學(xué)習(xí)原理自學(xué)國(guó)際象棋。盡管如此，在新手AlphaZero對(duì)陣Stockfish 8的100場(chǎng)比賽中，AlphaZero贏了28場(chǎng)，打平了72場(chǎng)，一次都沒(méi)有輸。由于AlphaZero沒(méi)有從任何人類身上學(xué)習(xí)，它的許多勝手和策略在人類看來(lái)似乎都是非常規(guī)的。這些策略即使不是真正的圣手，也是極具創(chuàng)造性。

你能猜出AlphaZero花了多長(zhǎng)時(shí)間完成如下的工作嗎？從頭開(kāi)始學(xué)習(xí)國(guó)際象棋，準(zhǔn)備與Stockfish8的比賽，培養(yǎng)自己的天才本能。答案是4個(gè)小時(shí)。幾個(gè)世紀(jì)以來(lái)，國(guó)際象棋被認(rèn)為是人類智慧的最高榮耀之一。AlphaZero在沒(méi)有任何人類的幫助下，在4個(gè)小時(shí)內(nèi)從完全無(wú)知達(dá)到了創(chuàng)造性的掌握。

AlphaZero并不是唯一具有想象力的軟件。在如今的國(guó)際象棋比賽中，抓作弊者的方法之一就是監(jiān)控玩家展示的創(chuàng)意水平。如果他們下了一步特別有創(chuàng)意的棋，評(píng)委通常會(huì)懷疑這不是人類的下法，而一定是電腦的下法。至少在國(guó)際象棋中，創(chuàng)造力已經(jīng)被認(rèn)為是計(jì)算機(jī)而非人類的標(biāo)志！今天人類-人工智能團(tuán)隊(duì)在國(guó)際象棋中正在發(fā)生的事情，未來(lái)可能會(huì)延伸到警務(wù)、醫(yī)學(xué)、銀行業(yè)和許多其他領(lǐng)域。

更重要的是，人工智能擁有獨(dú)特的非人能力，這使得人工智能和人類工作者之間的區(qū)別不僅僅是程度上的差異。人工智能所具有的兩種特別重要的非人能力是連通性和可更新性。

例如，許多司機(jī)不熟悉他們所行駛道路上不斷變化的交通規(guī)則，而且他們經(jīng)常違反這些規(guī)定。此外，由于每個(gè)司機(jī)都是個(gè)體，當(dāng)兩輛車接近同一交叉口時(shí)，駕駛員有時(shí)會(huì)誤判彼此的意圖并發(fā)生碰撞。相比之下，自動(dòng)駕駛汽車會(huì)知道所有的交通規(guī)則，并且不會(huì)故意違反交通規(guī)則，而且自動(dòng)駕駛汽車可以相互連接在一起。當(dāng)兩輛無(wú)人駕駛汽車接近同一個(gè)交叉口時(shí)，它們實(shí)際上不是兩個(gè)獨(dú)立的個(gè)體，而是同一個(gè)算法的一部分。因此，它們誤判和碰撞的可能性要小得多。

同樣，如果世界衛(wèi)生組織發(fā)現(xiàn)了一種新的疾病，或者某個(gè)實(shí)驗(yàn)室研發(fā)了一種新藥，我們無(wú)法使得世界上所有的人類醫(yī)生立刻同步更新這個(gè)信息。然而，即使世界上有數(shù)十億個(gè)人工智能醫(yī)生，每個(gè)醫(yī)生分別監(jiān)測(cè)一個(gè)人的健康狀況，它們?nèi)匀豢梢栽谝幻腌妰?nèi)完成更新，它們還可以互相交流對(duì)這種新疾病或新藥的評(píng)估。連接性和可更新性的潛在優(yōu)勢(shì)是如此巨大，以至于即使在某些工作領(lǐng)域某些個(gè)人仍然比機(jī)器做得好，用計(jì)算機(jī)取代所有人也是有意義的。

所有這一切導(dǎo)致了非常重要的結(jié)論：自動(dòng)化革命不是由單一的分水嶺事件所組成的，相反，這將是更大混亂的連鎖事件。舊的工作會(huì)消失，新的工作會(huì)出現(xiàn)，但新的工作也會(huì)迅速改變和消失。人們需要重新訓(xùn)練和改造自己，不是一次而是很多次。

在20世紀(jì)，各國(guó)政府為年輕人建立了大規(guī)模的教育體系，但在21世紀(jì)，他們將需要為成年人建立大規(guī)模的再教育體系。但這就足夠了嗎？變化總是充滿壓力的，21世紀(jì)初繁忙的世界已經(jīng)產(chǎn)生了全球性的壓力流行病。隨著工作波動(dòng)的增加，人們是否有能力應(yīng)付？到2050年，可能會(huì)出現(xiàn)一個(gè)無(wú)用階級(jí)，這不僅是因?yàn)槿狈蜆I(yè)機(jī)會(huì)或缺乏相關(guān)教育，而且也是因?yàn)槿狈^續(xù)學(xué)習(xí)新技能的精神毅力。

數(shù)字獨(dú)裁的興起

由于許多人失去了他們的經(jīng)濟(jì)價(jià)值，他們也可能會(huì)失去政治權(quán)力。同樣的技術(shù)，可能使數(shù)十億人在經(jīng)濟(jì)上邊緣化，也可能使他們更容易受到監(jiān)測(cè)和控制。

人工智能會(huì)嚇到許多人，因?yàn)樗麄儾幌嘈潘鼤?huì)聽(tīng)話。科幻小說(shuō)中都認(rèn)為計(jì)算機(jī)或機(jī)器人產(chǎn)生意識(shí)的可能性很大，不久之后就會(huì)試圖殺死所有人類。但是沒(méi)有證據(jù)表明：人工智能會(huì)變得更聰明而發(fā)展出意識(shí)。相反，我們應(yīng)該擔(dān)憂人工智能對(duì)人類主人的絕對(duì)服從而非反抗。人工智能與人類開(kāi)發(fā)的任何其他工具和武器都不同；它會(huì)使得強(qiáng)者進(jìn)一步鞏固其權(quán)力。

說(shuō)到監(jiān)視，包括幾個(gè)民主國(guó)家在內(nèi)的許多國(guó)家，都在忙著建立前所未有的監(jiān)視系統(tǒng)。例如，以色列在監(jiān)控技術(shù)領(lǐng)域處于領(lǐng)先地位，并在占領(lǐng)的西岸創(chuàng)建了一個(gè)全面監(jiān)控體系的工作原型。時(shí)至今日，每當(dāng)巴勒斯坦人打電話、在臉書上發(fā)帖，或從一座城市到另一座城市旅行時(shí)，他們都可能受到以色列的麥克風(fēng)、照相機(jī)、無(wú)人機(jī)或間諜軟件的監(jiān)視。算法分析收集到的數(shù)據(jù)，幫助以色列安全部隊(duì)找到并消除他們認(rèn)為的潛在威脅。巴勒斯坦人也許管理著西岸的一些城鎮(zhèn)和村莊，但以色列人控制著天空、電波和網(wǎng)絡(luò)空間。因此，不需要多少以色列士兵就能夠有效控制住在西岸的大約250萬(wàn)巴勒斯坦人。

在2017年10月的一起事件中，一名巴勒斯坦勞工在他的個(gè)人臉書賬戶上貼出了自己在工作場(chǎng)所的照片，照片中他的旁邊有推土機(jī)。在圖片旁邊，他寫道：“早上好！”臉書的翻譯算法在翻譯阿拉伯字母時(shí)犯了一個(gè)小錯(cuò)誤。算法將這些字母識(shí)別為“Ydbachhum”（意為“傷害它們”），而不是“Ysabechhum”(意為“早上好”)。以色列安全部隊(duì)?wèi)岩蛇@名男子可能是恐怖分子，打算用推土機(jī)把人撞倒，于是迅速逮捕了他。當(dāng)他們意識(shí)到算法犯了一個(gè)錯(cuò)誤后，他們釋放了他。即便如此，臉書上的那篇帖子還是被刪除了——你再怎么小心也不為過(guò)。巴勒斯坦人今天在西岸的經(jīng)歷可能只是全世界數(shù)十億人終將會(huì)經(jīng)歷的一個(gè)預(yù)演。

然而，在大多數(shù)情況下，這種強(qiáng)硬的策略可能并不是必要的。在一些國(guó)家，自由選擇和自由投票的表象可能仍然存在，甚至公眾所受的實(shí)際控制越來(lái)越少。誠(chéng)然，操縱選民情緒的企圖并不新鮮。但是，一旦有人獲得了操控人類內(nèi)心的技術(shù)能力，民主政治就會(huì)演變成一場(chǎng)情緒化的木偶劇。

在未來(lái)的幾十年里，我們不太可能會(huì)遇到有意識(shí)機(jī)器的反叛，但我們可能不得不面對(duì)成群結(jié)隊(duì)的機(jī)器人。這些機(jī)器人比我們的母親更懂得如何觸發(fā)我們的情感，并在人類精英的命令下，利用這種不可思議的能力，試圖向我們推銷某種東西，無(wú)論是汽車、政治家，還是整個(gè)意識(shí)形態(tài)。機(jī)器人可能會(huì)識(shí)別我們最深的恐懼、仇恨和渴望，并利用它們來(lái)對(duì)付我們。我們已經(jīng)在近期世界各地的選舉和公民投票中領(lǐng)略到了這一點(diǎn)，黑客學(xué)會(huì)了如何通過(guò)分析有關(guān)選民的數(shù)據(jù)并利用他們的偏見(jiàn)來(lái)操縱個(gè)體選民。雖然科幻驚悚片中的末日伴隨著大火和濃煙，但在現(xiàn)實(shí)中，我們可能只會(huì)面對(duì)一個(gè)由鼠標(biāo)點(diǎn)擊帶來(lái)的乏味末日。

人工智能革命最大和最可怕的影響可能是民主國(guó)家和獨(dú)裁政權(quán)的相對(duì)效率。我們傾向于認(rèn)為民主和獨(dú)裁之間的沖突是兩種不同的道德體系之間的沖突，但實(shí)際上這是兩種不同的數(shù)據(jù)處理系統(tǒng)之間的沖突。民主在眾多人和機(jī)構(gòu)中分配處理信息和決策的權(quán)力，而獨(dú)裁則把信息和權(quán)力集中在一個(gè)地方。考慮到20世紀(jì)的技術(shù)，把太多的信息和權(quán)力集中在一個(gè)地方是沒(méi)有效率的。沒(méi)有人有能力快速處理所有可用的信息并做出正確的決定。然而，人工智能可能很快會(huì)改變這種趨勢(shì)。人工智能使得集中處理大量信息成為可能。事實(shí)上，它可能會(huì)使集中式系統(tǒng)比分散系統(tǒng)更高效，因?yàn)楫?dāng)機(jī)器有更多的信息需要分析時(shí)，機(jī)器學(xué)習(xí)會(huì)更有效率。如果你無(wú)視所有的隱私問(wèn)題，把所有與10億人有關(guān)的信息集中在一個(gè)數(shù)據(jù)庫(kù)中，那么相對(duì)于尊重個(gè)人隱私且只有100萬(wàn)人的部分信息的數(shù)據(jù)庫(kù)，你最終會(huì)得到更好的算法。如果一個(gè)威權(quán)政府命令所有公民進(jìn)行DNA測(cè)序，并與某些中央機(jī)構(gòu)分享他們的醫(yī)療數(shù)據(jù)，這將使得該政府在遺傳學(xué)和醫(yī)學(xué)研究方面對(duì)那些醫(yī)學(xué)數(shù)據(jù)嚴(yán)格保密的社會(huì)取得巨大優(yōu)勢(shì)。20世紀(jì)威權(quán)政體的主要障礙（將所有信息和權(quán)力集中在一個(gè)地方的愿望）可能成為其在21世紀(jì)的決定性優(yōu)勢(shì)。

當(dāng)然，新技術(shù)將繼續(xù)出現(xiàn)，其中一些技術(shù)可能會(huì)有助于信息和權(quán)力的分配，而不是集中。區(qū)塊鏈技術(shù)以及其所導(dǎo)致的加密貨幣的使用就被吹捧為對(duì)集權(quán)的一種平衡。但是區(qū)塊鏈技術(shù)還處于萌芽階段，我們還不知道它是否真的能抵消人工智能的集中化趨勢(shì)。請(qǐng)記住，互聯(lián)網(wǎng)在其早期也被炒作為自由意志的靈丹妙藥，它將人們從所有的集中系統(tǒng)中解放出來(lái)，但現(xiàn)在它正使得中央集權(quán)比以往任何時(shí)候都更加強(qiáng)大。

權(quán)力向機(jī)器的轉(zhuǎn)移

即使有些社會(huì)表面上仍然是民主的，算法效率的提高仍將使越來(lái)越多的權(quán)威從個(gè)人轉(zhuǎn)移到聯(lián)網(wǎng)機(jī)器上。我們可能會(huì)自愿放棄越來(lái)越多關(guān)于自己生活的權(quán)威，因?yàn)槲覀儠?huì)從經(jīng)驗(yàn)中學(xué)到要相信算法而不是自己的感受，最終會(huì)失去為自己做決定的能力。想想看，在短短20年的時(shí)間里，數(shù)十億人都開(kāi)始委托谷歌的搜索算法來(lái)完成最重要的任務(wù)之一：找到相關(guān)、值得信賴的信息。隨著我們更依賴谷歌來(lái)尋找答案，我們獨(dú)立定位信息的能力就會(huì)減弱。今天，“真相”已經(jīng)被谷歌搜索的最高結(jié)果所定義。這個(gè)過(guò)程同樣影響了我們的身體能力，例如空間導(dǎo)航。人們要求谷歌不僅要找到信息，還要為人們導(dǎo)航。自動(dòng)駕駛汽車和人工智能醫(yī)生將代表進(jìn)一步的侵蝕：雖然這些創(chuàng)新將使卡車司機(jī)和人類醫(yī)生失業(yè)，但更重要的是他們的權(quán)威和責(zé)任會(huì)轉(zhuǎn)移到機(jī)器上。

人類習(xí)慣于把生活看作是一場(chǎng)關(guān)于決定的戲劇。自由民主和自由市場(chǎng)資本主義將個(gè)人視為不斷對(duì)世界作出選擇的自主個(gè)體。無(wú)論是莎士比亞的戲劇、簡(jiǎn)·奧斯汀的小說(shuō)還是俗氣的好萊塢喜劇，藝術(shù)作品的主題通常是英雄做出的一些至關(guān)重要的決定。生存還是毀滅？聽(tīng)妻子的話殺了鄧肯國(guó)王還是遵循良心而寬恕他？嫁給柯林斯先生還是達(dá)西先生？基督教和穆斯林神學(xué)同樣關(guān)注選擇的戲劇性，認(rèn)為永恒的救贖取決于做出正確的選擇。

當(dāng)我們依靠人工智能為我們做出更多的決定時(shí)，這種人生觀會(huì)發(fā)生什么變化呢？即使現(xiàn)在，我們也信任Netflix所推薦的電影、Spotify所選擇的音樂(lè)。但人工智能的體貼怎么會(huì)到此為止呢？

每年都有數(shù)以百萬(wàn)計(jì)的大學(xué)生需要決定學(xué)習(xí)什么科目。這是一個(gè)非常重要和困難的決定，是在父母、朋友和不同興趣和意見(jiàn)的教授的壓力下作出。它也受學(xué)生自己的個(gè)人恐懼和幻想的影響，而這些恐懼和幻想本身是由電影、小說(shuō)和競(jìng)選宣傳所塑造的。更復(fù)雜的是，一個(gè)特定的學(xué)生并不真正知道在某一特定職業(yè)中取得成功需要什么，也不一定對(duì)自己的長(zhǎng)處和弱點(diǎn)有現(xiàn)實(shí)的認(rèn)識(shí)。

不難看出，人工智能總有一天能對(duì)職業(yè)甚至人際關(guān)系做出比我們更好的決定。但是，一旦我們開(kāi)始依靠人工智能來(lái)決定該學(xué)習(xí)什么，在哪里工作，以及與誰(shuí)約會(huì)甚至結(jié)婚，人類的生活將不再是一場(chǎng)關(guān)于選擇的戲劇，我們的人生觀將需要改變。民主選舉和自由市場(chǎng)可能不再有意義，大多數(shù)宗教和藝術(shù)作品也是如此。想象一下，安娜·卡列尼娜拿出她的智能手機(jī)，問(wèn)Siri，她是應(yīng)該和卡列寧結(jié)婚還是應(yīng)該和時(shí)髦的弗倫斯基伯爵私奔?；蛘呦胂笠幌履阕钕矚g的莎士比亞劇中的所有關(guān)鍵決定都是由谷歌算法做出的。哈姆雷特和麥克白會(huì)有更舒心的人生，但那會(huì)是怎樣的生活呢？我們有模型來(lái)理解這種生活嗎？

議會(huì)和政黨能否克服這些挑戰(zhàn)，防止更黑暗的情況發(fā)生？目前看來(lái)似乎不太可能。技術(shù)的顛覆性甚至不是政治議程上的主要議題。在2016年美國(guó)總統(tǒng)大選期間，主要提到的顛覆性技術(shù)是希拉里·克林頓的電子郵件崩潰。盡管人們都在談?wù)撌I(yè)問(wèn)題，但這兩位候選人都沒(méi)有直接提到自動(dòng)化的潛在影響。特朗普警告選民，墨西哥人會(huì)搶走他們的工作，因此美國(guó)應(yīng)該在其南部邊境修建一堵墻。他從來(lái)沒(méi)有警告過(guò)選民，算法會(huì)搶走他們的工作，他也沒(méi)有建議在加州周圍建立防火墻。

我們?cè)撛趺崔k？

首先，我們需要把理解人類思維的運(yùn)作方式放在更高的優(yōu)先級(jí)上，特別是關(guān)于我們自己的智慧和同情心是如何培養(yǎng)出來(lái)的。如果我們?cè)谌斯ぶ悄苌贤度胩?，而在開(kāi)發(fā)人類頭腦方面的工作太少，那么復(fù)雜的計(jì)算機(jī)人工智能可能只會(huì)增強(qiáng)人類的愚蠢，并培養(yǎng)我們最壞（但可能也是最強(qiáng)大）的沖動(dòng)，其中包括貪婪和仇恨。為了避免這樣的結(jié)果，對(duì)于我們投資于改進(jìn)人工智能的每一美元和每一分鐘，明智的選擇應(yīng)當(dāng)是將其投資在探索和發(fā)展人類意識(shí)方面。

如果我們想要防止所有財(cái)富和權(quán)力集中在少數(shù)精英手中，我們就必須更實(shí)際和更直接管理數(shù)據(jù)的所有權(quán)。在古代，土地是最重要的資產(chǎn)，所以政治是爭(zhēng)奪土地的斗爭(zhēng)。在現(xiàn)代，機(jī)器和工廠比土地更重要，所以政治斗爭(zhēng)集中在控制這些重要的生產(chǎn)資料上。在21世紀(jì)，數(shù)據(jù)將取代土地和機(jī)械成為最重要的資產(chǎn)，因此政治將是控制數(shù)據(jù)流的斗爭(zhēng)。

不幸的是，我們?cè)诠芾頂?shù)據(jù)所有權(quán)方面沒(méi)有多少經(jīng)驗(yàn)，這本身就是比管理土地或機(jī)器更困難的任務(wù)。數(shù)據(jù)隨處可見(jiàn)，同時(shí)也無(wú)處可尋，它們可以光速移動(dòng)，你可以隨心所欲復(fù)制它們。收集的關(guān)于我的DNA、大腦和生活的數(shù)據(jù)是屬于我、政府、公司、還是全體人類？

積累數(shù)據(jù)的競(jìng)爭(zhēng)已經(jīng)開(kāi)始，目前由谷歌、臉書等巨頭主導(dǎo)，在中國(guó)是百度和騰訊等巨頭。到目前為止，這些公司都是“注意力商人”（attention merchants），它們通過(guò)向我們提供免費(fèi)的信息、服務(wù)和娛樂(lè)來(lái)吸引我們的注意力，然后將我們的注意力轉(zhuǎn)賣給廣告商。然而，他們真正的業(yè)務(wù)不僅僅是銷售廣告。相反，通過(guò)吸引我們的注意力，他們?cè)O(shè)法積累了大量關(guān)于我們的數(shù)據(jù)，這些數(shù)據(jù)比任何廣告收入都更有價(jià)值。我們不是他們的顧客，而是他們的產(chǎn)品。

普通人會(huì)發(fā)現(xiàn)很難抗拒這個(gè)過(guò)程。目前，我們當(dāng)中的很多人都很樂(lè)意放棄我們最寶貴的資產(chǎn)（我們的個(gè)人數(shù)據(jù)），以交換免費(fèi)的電子郵件服務(wù)和有趣的視頻。但是，如果以后普通人決定嘗試阻止數(shù)據(jù)的流動(dòng)，他們很可能會(huì)遇到麻煩，尤其是他們可能會(huì)依靠網(wǎng)絡(luò)來(lái)幫助他們做出決定，甚至是關(guān)于他們的健康和生存方面。

政府將數(shù)據(jù)國(guó)有化可以提供解決方案，它肯定會(huì)抑制大公司的力量。但歷史表明，在權(quán)力過(guò)大的政府手中，我們的生活并不一定更好。因此，我們最好呼吁科學(xué)家、哲學(xué)家、律師甚至詩(shī)人，把他們的注意力轉(zhuǎn)移到這個(gè)大問(wèn)題上：如何管理數(shù)據(jù)的所有權(quán)？

目前，人類面臨著與馴養(yǎng)動(dòng)物相似的風(fēng)險(xiǎn)。我們已經(jīng)培育了溫順的奶牛，它們生產(chǎn)大量牛奶，但在其他方面遠(yuǎn)遠(yuǎn)不如它們的野生祖先。它們不那么靈活、不那么好奇、也不那么聰明。我們現(xiàn)在正在創(chuàng)造馴服的人類，他們產(chǎn)生大量的數(shù)據(jù)，并在巨大的數(shù)據(jù)處理機(jī)制中充當(dāng)高效的芯片，但他們很難最大限度發(fā)揮他們的人類潛力。如果我們不小心，我們會(huì)濫用升級(jí)的電腦給自己和世界造成巨大的破壞，最終成為退化的人類。

如果你發(fā)現(xiàn)這些前景令人擔(dān)憂，如果你不喜歡生活在數(shù)字專政或某種退化的社會(huì)中，那么你能做出的最重要的貢獻(xiàn)就是找到辦法，防止過(guò)多的數(shù)據(jù)集中在極少數(shù)人手中，并找到方法使分布式數(shù)據(jù)處理比集中式數(shù)據(jù)處理更有效率。這些任務(wù)并不容易。但實(shí)現(xiàn)這些目標(biāo)可能是民主的最佳保障。

資料來(lái)源 theatlantic.com