人工智能時(shí)代應(yīng)該思考三個(gè)問(wèn)題

胡泳

一、從與機(jī)器賽跑到第二次機(jī)器革命

每一次技術(shù)的變革都將在市場(chǎng)掀起翻天覆地的變化。近些年，以人工智能為代表的高科技革命正在逐漸改變?nèi)藗兊纳睿⒃谑袌?chǎng)上開(kāi)辟出新的賽道。未來(lái)，技術(shù)與市場(chǎng)將擦出怎樣的火花？工業(yè)革命最早以技術(shù)——蒸汽機(jī)為開(kāi)端，我們稱為第一次技術(shù)革命。蒸汽機(jī)擔(dān)任了一個(gè)重要角色。第二次技術(shù)革命是電力工業(yè)革命，美國(guó)是其中最大的受益國(guó)。像愛(ài)迪生等人在第二次技術(shù)革命時(shí)創(chuàng)辦的公司目前仍處于市場(chǎng)重要位置。第三次技術(shù)革命與我們息息相關(guān)。事實(shí)上，第三次技術(shù)革命已經(jīng)進(jìn)入尾聲，我們所說(shuō)的移動(dòng)互聯(lián)網(wǎng)、智能手機(jī)都是第三次技術(shù)革命的產(chǎn)物。在信息革命巔峰時(shí)期，主要以移動(dòng)互聯(lián)網(wǎng)和智能手機(jī)為代表，因?yàn)橹悄苁謾C(jī)是移動(dòng)互聯(lián)網(wǎng)的承載體。事實(shí)上，從2010年開(kāi)始，我們已經(jīng)開(kāi)始受到以人工智能為代表的高科技革命的影響，即AI革命，也被稱作是第四次工業(yè)革命。

1.第四次工業(yè)革命

第四次工業(yè)革命不同于之前的地方在于技術(shù)融合。融合是一個(gè)關(guān)鍵詞，模糊了物理、數(shù)字、生物領(lǐng)域之間的界限。而目前最受關(guān)注的是“網(wǎng)絡(luò)物理系統(tǒng)”，它代表著一系列的技術(shù)：納米、量子計(jì)算、生物技術(shù)、物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)、5G通訊技術(shù)，我們稱之為“第四次工業(yè)革命”。

2.第二次機(jī)器革命

這只是一個(gè)分法。人類發(fā)明各種各樣的東西，對(duì)我們所面臨的現(xiàn)象進(jìn)行各種各樣的劃分。先不討論幾次工業(yè)革命的問(wèn)題，我再來(lái)引入另一個(gè)劃分。

麻省理工學(xué)院的兩位教授合著的一本書(shū)叫《第二次機(jī)器革命》。這本書(shū)里給了另一種分法。

第一次機(jī)器革命核心討論的是人與機(jī)器的關(guān)系，那個(gè)時(shí)代人和機(jī)器是一種互補(bǔ)的關(guān)系。到第二次機(jī)器革命的時(shí)候，可能不是互補(bǔ)關(guān)系，而是替代關(guān)系。

3.第二次機(jī)器革命的邏輯

《第二次機(jī)器革命》的兩位作者認(rèn)為基本邏輯就三個(gè)。

第一個(gè)，指數(shù)級(jí)增長(zhǎng)。眾多例子證明，世界萬(wàn)物很多是呈指數(shù)級(jí)增長(zhǎng)的，導(dǎo)致一個(gè)想象力的極限問(wèn)題，一個(gè)敏感的初始值問(wèn)題。

第二個(gè)，數(shù)字化進(jìn)步。多年來(lái)，我們通過(guò)數(shù)字化把大量的信息積攢起來(lái)，到底有沒(méi)有產(chǎn)生智慧？如果能夠把這些智慧挖掘出來(lái)，又有什么作用？

而這兩位作者通過(guò)選取一些關(guān)鍵詞，做成一個(gè)模型，用這個(gè)模型預(yù)測(cè)三個(gè)月之內(nèi)美國(guó)某個(gè)地方房?jī)r(jià)的增長(zhǎng)，發(fā)現(xiàn)預(yù)測(cè)的結(jié)果很精準(zhǔn)。通過(guò)數(shù)字化信息轉(zhuǎn)換成智慧，他們叫做數(shù)字化進(jìn)步。

第三個(gè)，組合式創(chuàng)新。創(chuàng)新是組合式創(chuàng)新，只要把積木的數(shù)量不斷擴(kuò)大，反復(fù)搭來(lái)搭去，就是創(chuàng)新，這也就證明了融合的重要性。

這三點(diǎn)就是他們認(rèn)為的第二次機(jī)器革命的邏輯，正是因?yàn)檫@個(gè)邏輯，我們不能夠簡(jiǎn)單地跟機(jī)器賽跑了。

二、人們信仰的不同

1.人工智能與人類工作

這種情況下，大家非常在意的就是將來(lái)可能沒(méi)有工作，大部分人將會(huì)成為“無(wú)用階級(jí)”。

而這個(gè)觀點(diǎn)來(lái)自歷史學(xué)家尤瓦爾·赫拉利。赫拉利認(rèn)為，未來(lái)的人工智能會(huì)導(dǎo)致無(wú)用的人類，21世紀(jì)最重要的不是反抗剝削而是反抗無(wú)用。無(wú)用的問(wèn)題可能比剝削嚴(yán)重很多倍，工作在很多時(shí)候是每一個(gè)人的尊嚴(yán)所在，是人的價(jià)值所在。如果沒(méi)有工作，這個(gè)人可能失去尊嚴(yán)和價(jià)值。對(duì)此觀點(diǎn)，我們依然要?jiǎng)澮粋€(gè)很大的問(wèn)號(hào)。

當(dāng)然，有人反對(duì)這樣的觀點(diǎn)，代表性的人物就是李開(kāi)復(fù)。李開(kāi)復(fù)說(shuō)：“赫拉利聳人聽(tīng)聞，赫拉利雖然是一個(gè)歷史學(xué)者，但是他不懂技術(shù)。”李開(kāi)復(fù)認(rèn)為必須停止煽動(dòng)人類對(duì)于AI的恐慌，而且“無(wú)用階級(jí)”這個(gè)說(shuō)法本身是對(duì)人的巨大打擊，不可以隨便說(shuō)人是無(wú)用的，有些事情AI無(wú)法替代人類。

但是李開(kāi)復(fù)僅僅代表爭(zhēng)論的一方。討論AI對(duì)人類的影響這個(gè)話題，我們并非針對(duì)普通人，因?yàn)槠胀ù蟊妼?duì)AI也不太了解。然后我們要看人類的精英是如何看待這個(gè)問(wèn)題的，因?yàn)槭撬麄冊(cè)趧?chuàng)造未來(lái)的世界。

但是在這個(gè)問(wèn)題上，人類的精英們是分裂的。

2.兩個(gè)陣營(yíng)

有一部分精英認(rèn)為AI有非常大的問(wèn)題，比如霍金?；艚鹫f(shuō)人工智能有可能會(huì)毀滅整個(gè)人類文明。

霍金去世前特別關(guān)心的是劍橋大學(xué)的未來(lái)研究中心，他說(shuō)：“以往的人類研究歷史發(fā)現(xiàn)的真相只有一個(gè)，人類的歷史就是一部愚蠢的歷史，我們能不能反過(guò)來(lái)想一下人類在什么時(shí)候能夠不愚蠢？”所以劍橋大學(xué)建立的未來(lái)研究中心有一個(gè)非常簡(jiǎn)單的使命，就是研究人工智能在未來(lái)會(huì)不會(huì)毀滅人類。

霍金曾經(jīng)講了一段話：人工智能的發(fā)展可能幫助人類消滅疾病、消滅貧困、阻止氣候變化，但也可能產(chǎn)生人們不愿意看到的種種后果，包括產(chǎn)生自主武器，造成經(jīng)濟(jì)災(zāi)難，包括與人類發(fā)生沖突時(shí)擁有自己意愿的機(jī)器。

所以未來(lái)研究中心給歐洲議會(huì)寫(xiě)報(bào)告，比如機(jī)器人會(huì)不會(huì)有電子人格，這是一個(gè)很?chē)?yán)肅的問(wèn)題。如果機(jī)器人有電子人格，我們?cè)鞕C(jī)器的時(shí)候一定要附加一個(gè)最后的開(kāi)關(guān)，能夠讓機(jī)器人停止做某種事情。

大家可能看過(guò)克拉克的著名科幻片的《2001太空漫游》，其中的人工智能電腦哈爾因?yàn)椴荒芸刂颇莻€(gè)開(kāi)關(guān)，結(jié)果把人類毀滅了。也就是說(shuō)，如果機(jī)器有自己的人格，甚至企圖對(duì)創(chuàng)造它的人造成傷害，我們?cè)撛趺崔k？這是霍金擔(dān)憂的問(wèn)題。

剛才說(shuō)到精英群體觀點(diǎn)的分裂，還有其他的代表人物，比如埃隆·馬斯克。馬斯克一邊在研究AI，一邊在談AI的危險(xiǎn)。他說(shuō)：“人工智能的危險(xiǎn)大于核武器的危險(xiǎn)。”因?yàn)樗J(rèn)為人工智能專家未必懂AI，人類天生有過(guò)度自信的思維陷阱。還有比爾·蓋茨，他說(shuō)：“我不知道大家為什么在現(xiàn)在還對(duì)這個(gè)問(wèn)題毫不擔(dān)心，我不理解為什么有些人對(duì)于人工智能的未來(lái)毫不擔(dān)憂?！?/p>

這是我說(shuō)的精英的一個(gè)陣營(yíng)，另外一個(gè)陣營(yíng)幾乎也同樣強(qiáng)大。比如扎克伯格。在人們討論人工智能可能造成人類末世場(chǎng)景的時(shí)候，扎克伯格說(shuō)這種討論是毫不負(fù)責(zé)任的。人工智能領(lǐng)域最牛的華人之一吳恩達(dá)說(shuō)他不擔(dān)心人工智能成為惡魔的原因就像他不擔(dān)心火星上會(huì)人口過(guò)剩一樣。

我特別喜歡的一個(gè)人工智能的專家佩德羅·多明戈斯，他看到馬斯克發(fā)了推特之后說(shuō)：“我沒(méi)有什么話可說(shuō)，只有一個(gè)詞叫做嘆息。”他認(rèn)為馬斯克說(shuō)的完全不對(duì)。

3.普通人該如何自處

這個(gè)問(wèn)題似乎看上去是無(wú)解的，包括剛才講的人工智能到底會(huì)毀滅工作，還是創(chuàng)造工作。

有關(guān)AI的爭(zhēng)論一定是不會(huì)休止的，我們普通人應(yīng)該如何自處，這是一個(gè)很?chē)?yán)肅的問(wèn)題。

4.信仰不同產(chǎn)生觀點(diǎn)分裂

事實(shí)上不光是人類的未來(lái)，或者人類工作的未來(lái)，也包括機(jī)器會(huì)不會(huì)有意識(shí)等等。當(dāng)我們產(chǎn)生這些惶恐，問(wèn)題不能得到解答的時(shí)候，其實(shí)有一個(gè)出路。這個(gè)出路就是要意識(shí)到，這些專家之所以對(duì)未來(lái)的前景產(chǎn)生不同意見(jiàn)，不是因?yàn)樗麄冎朗裁?，而是因?yàn)樗麄兊男叛霾灰粯印?/p>

為什么我強(qiáng)調(diào)這個(gè)觀點(diǎn)非常重要，我最后主題會(huì)落到這里。

比如那些預(yù)測(cè)我們一定會(huì)造出有意識(shí)的機(jī)器人的專家，是因?yàn)樗嘈乓粋€(gè)非常基本的假設(shè)——人類在本質(zhì)上是機(jī)器。如果人類是機(jī)器，我們當(dāng)然最終可以建立一個(gè)有意識(shí)的機(jī)器人。而那些認(rèn)為機(jī)器永遠(yuǎn)不會(huì)產(chǎn)生意識(shí)的人，也不是因?yàn)樗且庾R(shí)專家，而是因?yàn)樗嘈湃瞬豢赡苁羌兇獾臋C(jī)械生物。

我說(shuō)到這里大家可能會(huì)很疑惑，它不是一個(gè)意識(shí)問(wèn)題，而是一個(gè)信仰問(wèn)題。

如果一旦談到信仰問(wèn)題，討論人工智能問(wèn)題一定要解構(gòu)一些最基本的東西，不能就事論事討論人工智能，而是要回到歷史上、回到整個(gè)技術(shù)的發(fā)展歷程上去解構(gòu)一些最基本的東西。

三、人工智能時(shí)代必須思考的三個(gè)問(wèn)題

1.三個(gè)問(wèn)題

最終要解構(gòu)的東西就是三個(gè)基本問(wèn)題。

第一個(gè)問(wèn)題，宇宙的構(gòu)成是什么？這是從古希臘以來(lái)就爭(zhēng)論不休的一個(gè)事情。

第二個(gè)問(wèn)題，我們是什么？我們是什么的問(wèn)題就是人類是什么。

第三個(gè)問(wèn)題，不是一個(gè)集體概念，是一個(gè)個(gè)體概念，而且是自我的問(wèn)題。我是什么？

為什么這三個(gè)問(wèn)題在今天變得如此重要，更多的是一個(gè)哲學(xué)的思考？

其實(shí)你會(huì)發(fā)現(xiàn)有關(guān)這三個(gè)問(wèn)題的回答都不是單一答案，全部都是多重選擇題。

2.兩種思想流派的矛盾

舉一個(gè)簡(jiǎn)單的例子。比如宇宙的構(gòu)成，一直有兩種思想流派。一種認(rèn)為宇宙的構(gòu)成就是原子，單一的物質(zhì)。從德謨克利特開(kāi)始就認(rèn)為，作為一個(gè)人在這里思考就是原子在運(yùn)動(dòng)，這叫一元論。另外一派人堅(jiān)決不同意，認(rèn)為的確有原子，但是人不只是由原子構(gòu)成的，總還有點(diǎn)別的東西?？茖W(xué)家?guī)缀醵贾С忠辉??？茖W(xué)家認(rèn)為世界的萬(wàn)事萬(wàn)物都可以還原，如果不還原，這件事就沒(méi)辦法解釋。所以必須找到一個(gè)解釋，通過(guò)還原論來(lái)講，就一定能夠找到這個(gè)事情物質(zhì)的原因。但是二元論者認(rèn)為這是不對(duì)的。當(dāng)然這里有很多的哲學(xué)思考。為什么有的人會(huì)相信二元論，有的人會(huì)相信一元論？其實(shí)本質(zhì)上我們歸結(jié)為他們對(duì)現(xiàn)實(shí)本質(zhì)的信仰是什么。

再次回到信仰問(wèn)題，我們會(huì)說(shuō)一元論是理性和現(xiàn)代的，但是這個(gè)世界上永遠(yuǎn)有人相信理性和現(xiàn)代的東西是不對(duì)的，還有很多東西是精神的，是原子解釋不了的。這就是一元論和二元論的矛盾。

3.人類的信仰會(huì)決定人工智能怎么應(yīng)用

因此我想說(shuō)，以上三個(gè)問(wèn)題是今天人工智能時(shí)代必須思考的三個(gè)問(wèn)題，而它的思考方向本質(zhì)上是要討論人類的信仰到底是什么。人類信仰的問(wèn)題以往是哲學(xué)家們、神學(xué)家們的專利，但是今天的人工智能把這個(gè)問(wèn)題推到所有人面前。那些做人工智能的人尤其需要考慮這個(gè)問(wèn)題：你是秉持著一種什么樣的信仰在創(chuàng)造這個(gè)東西。因?yàn)檫@會(huì)決定這個(gè)東西將來(lái)會(huì)達(dá)到什么程度，會(huì)怎么樣應(yīng)用。