人工智能將如何威脅人類(lèi)文明？

江曉原

從去年12月29號(hào)“上線”到1月4日，一個(gè)名為“Master”的神秘賬號(hào)在多家網(wǎng)絡(luò)圍棋平臺(tái)連續(xù)挑落53名世界圍棋高手，中日韓三國(guó)的最強(qiáng)選手：柯潔、井山裕太和樸廷桓三人無(wú)一幸免。作為智力游戲的最高象征，圍棋領(lǐng)域的失手讓人類(lèi)感到一絲畏懼。人工智能將威脅到人類(lèi)文明嗎？

我本人是學(xué)天體物理出身的，算是科學(xué)家，在天文臺(tái)工作過(guò)十幾年，對(duì)科學(xué)有一些了解，但我并不從事人工智能的研究。對(duì)于人工智能，我是完全反對(duì)的，我認(rèn)為人類(lèi)現(xiàn)在正在玩的火有那么兩三把，其中最危險(xiǎn)的就是人工智能，但是很多人并沒(méi)有認(rèn)識(shí)到這一點(diǎn)。我們可以從近期、中期和遠(yuǎn)期三個(gè)層面來(lái)看人工智能的威脅。

近期威脅：大批失業(yè)、軍事化

近期主要的問(wèn)題是會(huì)導(dǎo)致大規(guī)模的失業(yè)和大規(guī)模的軍事化應(yīng)用，中期是公眾相對(duì)了解最多的，就是擔(dān)心人工智能失控、反叛；但是遠(yuǎn)期的終極威脅很多人都沒(méi)有想到。

在每一期威脅上都有很多錯(cuò)誤的認(rèn)識(shí)。最常見(jiàn)的一種是：現(xiàn)在的人工智能還很弱小，我們擔(dān)心的什么反叛、失控，都太遙遠(yuǎn)了。這種理由是非?；闹嚨?，想想“養(yǎng)虎遺患”是什么意思？能用“老虎還小”作為你的理由嗎？

我們首先看近期的危險(xiǎn)。在這個(gè)方面，人工智能的專(zhuān)家們也祭出了一些非常幼稚的理由，他們首先對(duì)我們?cè)S諾說(shuō)，在可見(jiàn)的將來(lái)，95%甚至95%以上的工作崗位，都將可以由人工智能來(lái)取代。如果真的像他們說(shuō)的那樣，那就意味著我們社會(huì)中的絕大部分人都將失業(yè)，只剩下少數(shù)人工作養(yǎng)活所有人。這樣的社會(huì)結(jié)構(gòu)，人類(lèi)有史以來(lái)還沒(méi)有出現(xiàn)過(guò)。

現(xiàn)在有10%或者15%的人失業(yè)，我們就說(shuō)失業(yè)率高企，這個(gè)社會(huì)很危險(xiǎn)了。那要是到了85%、95%的人都不需要工作的時(shí)候，他們會(huì)干什么呢？你可以說(shuō)他們不叫失業(yè)，現(xiàn)在讓機(jī)器人工作，養(yǎng)活我們就行了，他們只要在家里吃喝玩樂(lè)就行了。這個(gè)時(shí)候你要當(dāng)心，人們除了吃喝玩樂(lè)，還要做另外一件事情：他們要鬧革命，95%的工作都可以被取代的話，可以猜想，連革命也可以讓機(jī)器人來(lái)進(jìn)行。而由機(jī)器人進(jìn)行的革命，在很多科幻電影里大家都已經(jīng)看到了，比如說(shuō)《機(jī)械公敵》的結(jié)尾，廣場(chǎng)上是一望無(wú)際的機(jī)器人，這樣的社會(huì)非常危險(xiǎn)。

搞人工智能的專(zhuān)家經(jīng)常跟我們說(shuō)，人類(lèi)歷史上每次重要的技術(shù)革命產(chǎn)生的時(shí)候，都失去了一些工作崗位，但是接著都造成了新的崗位。當(dāng)他們找出這種理由來(lái)的時(shí)候，在邏輯上已經(jīng)犯錯(cuò)誤了。因?yàn)樗麄冎俺兄Z的95%的崗位都可以由機(jī)器人來(lái)完成就不成立了。

事實(shí)上，人工智能造成的對(duì)人工的取代，跟以往的情形完全不一樣。原來(lái)我們可以說(shuō)，有了汽車(chē)，馬車(chē)夫失業(yè)了不要緊，可以改為開(kāi)汽車(chē)；可是現(xiàn)在汽車(chē)本身都是智能的了，用不著人去開(kāi)它了，所以大規(guī)模失業(yè)實(shí)際上是一個(gè)非常危險(xiǎn)的事情。我覺(jué)得我們不能僅僅因?yàn)閺慕档统杀究紤]使用機(jī)器人。如果你換用了機(jī)器人以后，產(chǎn)業(yè)能夠升級(jí)，那也許還能考慮，盡管長(zhǎng)遠(yuǎn)來(lái)說(shuō)也不好。但如果你僅僅為了降低成本而導(dǎo)致大批工人失業(yè)，社會(huì)就不安定了。

把機(jī)器人弄到軍事用途上當(dāng)然會(huì)很有效，盡管大家都知道阿西莫夫的機(jī)器人三定律，任何軍事用途都是直接違反三定律的，但三定律又不是什么法律，只是小說(shuō)家的想象。另外，機(jī)器人用到軍事用途上，還會(huì)帶來(lái)更多的倫理問(wèn)題。比如說(shuō)我們今天決定往什么地方扔炸彈，這是由我們?nèi)藖?lái)決定的；現(xiàn)在有智能無(wú)人機(jī)之類(lèi)的裝置，需要它自己當(dāng)場(chǎng)斷定要不要攻擊某一目標(biāo)，這樣一來(lái)就變成由機(jī)器人來(lái)決定它要不要?dú)⒛莻€(gè)人了，這樣的事情在倫理上完全改變了以前戰(zhàn)爭(zhēng)的狀態(tài)。

所以我們今天如果把人工智能用到軍事上，我覺(jué)得只能抱著類(lèi)似于當(dāng)年美國(guó)人搞曼哈頓工程的心態(tài)，只是因?yàn)楦覀兊膶?duì)手也在弄，我們不弄會(huì)吃虧，所以不得不跟進(jìn)。所以特斯拉的老總馬斯克提出來(lái)各國(guó)應(yīng)該坐下來(lái)談判，簽協(xié)定不能把機(jī)器人用到軍事用途上。

中期威脅：人工智能的反叛和失控

中期的問(wèn)題是人工智能的反叛，現(xiàn)在有些業(yè)界專(zhuān)家還在說(shuō)，可以拔掉機(jī)器人的電源。實(shí)際上人工智能跟互聯(lián)網(wǎng)結(jié)合以后，它完全不需要什么形態(tài)，以前沒(méi)有互聯(lián)網(wǎng)的時(shí)候，單個(gè)的人工智能有局限，哪怕全部都是芯片，也有存儲(chǔ)、運(yùn)算方面的極限。但是現(xiàn)在跟互聯(lián)網(wǎng)一結(jié)合，所有的物質(zhì)結(jié)構(gòu)都不再需要了，只要靠在網(wǎng)絡(luò)上下單、訂購(gòu)各種服務(wù)，就可以完成對(duì)社會(huì)的破壞。所以到那個(gè)時(shí)候你根本無(wú)法拔電源，因?yàn)樗淮嬖谝粋€(gè)電源讓你拔掉。

人工智能和互聯(lián)網(wǎng)結(jié)合以后，危險(xiǎn)成萬(wàn)倍增長(zhǎng)。以前對(duì)于個(gè)體的人工智能，它智能的增長(zhǎng)還會(huì)受到物理極限的約束，但一旦和互聯(lián)網(wǎng)結(jié)合，這個(gè)物理極限的約束就徹底消失了。所以人工智能可以在極快的時(shí)間里自我進(jìn)化。

去年一篇很長(zhǎng)的文章在很多圈子里瘋傳，那篇文章稍微有點(diǎn)危言聳聽(tīng)，但結(jié)論我同意。作者想論證這樣一種前景，就是說(shuō)人工智能一旦越過(guò)了某個(gè)坎之后，自我進(jìn)化的速度是極快的，快到不是以年月來(lái)計(jì)算，而可能是以分鐘甚至是秒來(lái)計(jì)算。一瞬間它就可以變成超人。一旦變成超人，當(dāng)然就失控了。因此說(shuō)老虎還小的人，不要以為老虎跟現(xiàn)在一樣一年長(zhǎng)大一點(diǎn)，如果這個(gè)老虎一分鐘長(zhǎng)大一倍，這樣的老虎還了得？雖然現(xiàn)在很小，過(guò)五分鐘就能吃人了。

在這個(gè)問(wèn)題上，專(zhuān)家們經(jīng)常說(shuō)，我們?cè)跈C(jī)器人的芯片里寫(xiě)進(jìn)什么話，讓它不學(xué)壞。關(guān)于這個(gè)問(wèn)題最簡(jiǎn)單的疑問(wèn)是，你都不能保證自己的孩子不學(xué)壞，更何況人工智能呢？因此，到目前為止，沒(méi)有人能給出一個(gè)辦法讓我們相信他真的能防止人工智能的反叛。

遠(yuǎn)期威脅：將最終消解人類(lèi)生存的根本意義

但是最危險(xiǎn)的是來(lái)自遠(yuǎn)期的威脅，這是終極威脅，假如人工智能一點(diǎn)都不反叛，全能地、忠誠(chéng)地、全心全意為我們服務(wù)，所有的事情被人工智能做完了，你活著干什么呢？你會(huì)變成行尸走肉，人類(lèi)這個(gè)物種會(huì)迅速退化，無(wú)論在體能和智能上都迅速退化，這樣對(duì)人類(lèi)來(lái)說(shuō)一點(diǎn)意義都沒(méi)有，實(shí)際上就是自掘墳?zāi)埂?/p>

所以我們應(yīng)該把人工智能認(rèn)識(shí)為大規(guī)模殺傷性武器，最好的局面是將來(lái)世界各大國(guó)坐下來(lái)舉行談判，加以限制。最多保留一點(diǎn)低級(jí)的人工智能，但是我們要想辦法防止它的進(jìn)化。

其實(shí)我們?cè)谏钪杏昧撕芏嗳斯ぶ悄埽热缯f(shuō)你在網(wǎng)上買(mǎi)一張火車(chē)票、飛機(jī)票，這個(gè)系統(tǒng)就是人工智能。這類(lèi)人工智能如果不進(jìn)化問(wèn)題不大，但是由于人工智能有可能是以極快的速度進(jìn)化的，這個(gè)進(jìn)化的過(guò)程我們很難操控，因此我們能做的就是嚴(yán)防它的進(jìn)化，當(dāng)然我們能做到什么程度，這個(gè)事情很難說(shuō)。

我們現(xiàn)在能確定的是現(xiàn)在科學(xué)家憋著勁兒要搞人工智能，不確定的是人工智能最后會(huì)不會(huì)毀滅我們。

摘編自《文匯學(xué)人》微信公號(hào) 作者系上海交通大學(xué)科學(xué)史與科學(xué)文化研究院院長(zhǎng)