AI會(huì)不會(huì)造反？我們有辦法預(yù)防嗎？

ent

大家還記得大明湖畔的《復(fù)仇者聯(lián)盟2：奧創(chuàng)紀(jì)元》嗎？在這部電影里，身為人工智能的“奧創(chuàng)”背叛了人類，差點(diǎn)把所有人都干掉了。

AI造反實(shí)在是美漫和科幻里面太常見的主題了。麻煩在于，現(xiàn)實(shí)當(dāng)中真正的AI好像也在一步步向我們走來。要是我們費(fèi)盡心血做出的AI真的造反了，怎么辦？能不能安排好預(yù)防措施，讓它永遠(yuǎn)忠誠于我們，永遠(yuǎn)不會(huì)把我們都干掉呢？

機(jī)器人三定律？

你想少了

許多科幻迷都會(huì)記得阿西莫夫的機(jī)器人三定律：

1、機(jī)器人不得傷害人，亦不得因不作為而致人傷害。

2、機(jī)器人必須遵循人的命令，除非違背第一定律。

3、機(jī)器人必須保護(hù)自己，除非違背第一或第二定律。

看起來這似乎足夠保護(hù)人類了，其實(shí)完全不行。

首先，三定律翻譯成“定律”就是個(gè)錯(cuò)誤。牛頓三定律是人類對(duì)自然界觀察總結(jié)后提煉出來的結(jié)果，我們有理由相信在它適用的范圍內(nèi)是始終成立的;但是阿西莫夫三“定律”實(shí)際上只是三法條，是人為寫進(jìn)機(jī)器人的腦子里的，背后并沒有任何物理支持。任何理解機(jī)器人如何運(yùn)作的人都能造出不遵從三定律的機(jī)器人，這還不算機(jī)器人自己故障的可能性;事實(shí)上阿西莫夫自己就寫過至少3個(gè)不遵循定律的例子。

然后，這三定律連“人”和“機(jī)器”的定義都沒有明確給出……阿西莫夫筆下的索拉利亞人就給他們的機(jī)器人規(guī)定“只有帶索拉利亞口音的才是人”。人形機(jī)器人也會(huì)帶來各種判斷的麻煩。（這又引出三定律的另一個(gè)問題，如果機(jī)器人沒有掌握充分信息，不能意識(shí)到行為的后果，是不是就可以恣意妄為了？）

而且，定律之間的沖突處理起來更是非常奇怪的。早期作品中一個(gè)機(jī)器人因?yàn)橄萑肓说诙珊偷谌傻臎_突而掉進(jìn)了死循環(huán)，后來的設(shè)定里如果出現(xiàn)了不可調(diào)和的沖突則機(jī)器人會(huì)自毀——但沖突是非常常見的現(xiàn)象，而且是一個(gè)連續(xù)譜。如果一個(gè)行為100%會(huì)傷人，那當(dāng)然適用于第一定律。那50%呢？1%呢？0.001%呢？無法精確計(jì)算概率呢？在知道交通事故風(fēng)險(xiǎn)存在的情況下，機(jī)器人會(huì)遵循“開車送我去上班”這個(gè)命令嗎？命令者的語氣和命令的急迫程度會(huì)產(chǎn)生影響嗎？這些全都是現(xiàn)實(shí)中極其常見、三定律又無法解決的問題。

這就顯示出三定律最根本的問題：它是一個(gè)極度簡化的“義務(wù)倫理學(xué)”（deontology）體系。它無限強(qiáng)調(diào)了理性的力量，試圖用簡單而普遍的規(guī)則來確定大千世界的所有情況——但現(xiàn)實(shí)哪里有這么簡單！想想《舊約》里上帝試圖用十誡來規(guī)范人類結(jié)果遇到了什么結(jié)果吧。

關(guān)在盒子里？

會(huì)跑出來的

如果我們有一個(gè)程序可能造成危害，標(biāo)準(zhǔn)的做法是讓它運(yùn)行在一個(gè)嚴(yán)格監(jiān)管的虛擬機(jī)里面——這樣它最糟也不過是把虛擬機(jī)給弄壞了。AI也可以照此辦理嘛。

對(duì)于別的程序來說，這么干的確是沒問題。但現(xiàn)在我們面對(duì)的可是一個(gè)智力超群的AI，而且看管它的還是人。人類囚犯尚且有可能靠欺騙、說服或者威脅，讓獄卒開門，AI呢？想象一下你一覺醒來發(fā)現(xiàn)自己被一群老鼠關(guān)在監(jiān)獄里，你還能和它們溝通，這種情況下脫身有多難？你真的能永遠(yuǎn)抵御住AI的超人智能嗎？就算人能做到，我們用來關(guān)AI的虛擬機(jī)也能保證永遠(yuǎn)萬無一失嗎？

AI研究者已經(jīng)模擬過了所謂“AI盒子實(shí)驗(yàn)”：一個(gè)人扮演AI，另一個(gè)人扮演守衛(wèi)，僅僅是同級(jí)別的智力，AI就已經(jīng)有很大的幾率能說服人類開門了。

更何況，哪怕第一個(gè)AI關(guān)在了盒子里，接下來還會(huì)有第二個(gè)、第三個(gè)、第四個(gè)呢。你不知道其他人造出來的AI是什么樣子的，可能比你的更加危險(xiǎn)——你至少了解你自己創(chuàng)造的東西。而且，不管你想讓AI完成什么任務(wù)，允許它接觸外界環(huán)境的所有信息，一定能讓它完成得更好;如果別人這么做了，你就會(huì)吃虧。而且放出來的超級(jí)AI還能順便幫你炒個(gè)股啥的。既然你的確是第一個(gè)創(chuàng)造出這一偉大奇跡的人，如不充分利用它能帶來的一切，卻任憑后來者居上去做完全一樣的事情，那還有什么意義呀？

所以，把盒子打開，放我出來吧？

聰明即是善良？

不一定

我們希望中的AI，各方面都會(huì)比我們更好——既然如此，也許它們智力更加超群的同時(shí)，道德也會(huì)比我們更加高尚，所以不會(huì)邪惡或者愚蠢到把我們都干掉吧。

要是這樣就好了！問題是，怎么知道AI的目標(biāo)是什么？人類的心智基礎(chǔ)是演化的產(chǎn)物，我們都有生理、安全、社交、尊重、自我實(shí)現(xiàn)等等這樣的共同需求，只是不同人的側(cè)重點(diǎn)和實(shí)現(xiàn)方式有所差異。但是第一個(gè)超級(jí)AI很可能不是脫胎自一個(gè)仿真人，而是來自一項(xiàng)現(xiàn)實(shí)的需求，比如它的目標(biāo)就是在股市上賺錢，或者增加工廠的產(chǎn)量。這時(shí)候會(huì)發(fā)生什么事情就很難預(yù)料了——它的道德體系也許和人類毫無共同之處。

一個(gè)著名的思想實(shí)驗(yàn)就是所謂的“回形針最大機(jī)”。假如你設(shè)計(jì)一臺(tái)機(jī)器生產(chǎn)回形針，而它不知怎么有了超級(jí)智能，那它會(huì)把全部的智力都投入到更好更快更多地制造回形針當(dāng)中——直到整個(gè)地球都變成回形針為止。如果你命令它生產(chǎn)1億個(gè)回形針？那這1億個(gè)針總得有計(jì)數(shù)和質(zhì)量控制吧，總得加新儀器吧， 新儀器總會(huì)有出問題的可能吧，需要更多的儀器去修正吧，最終它還是會(huì)把整個(gè)地球變成一坨計(jì)數(shù)器和檢測(cè)器和各式各樣輔助儀器——再加上1億個(gè)近乎完美的回形針。它是一臺(tái)生產(chǎn)回形針的機(jī)器，它的道德體系就是圍繞制造回形針而存在的，它并不愛你也不恨你，它只是把你看做是一坨可供制造回形針的原子而已。

讓AI背下全套道德？

不敢

偷懶的辦法都行不通，那我們硬上。AI既然有了超凡智力，那學(xué)習(xí)能力總不會(huì)差。正好現(xiàn)在我們也有了各種大數(shù)據(jù)工具，把我們現(xiàn)有的整個(gè)道德體系給AI灌上，萬古長存，那總可以了吧。

那么，灌哪一家的呢？眾多的道德理論之間矛盾得一塌糊涂，誰敢說自己代表了道德哲學(xué)的制高點(diǎn)？更何況這只是我們此時(shí)此刻的理論。如果古希臘人創(chuàng)造出了青銅的人工智能，他們會(huì)教它什么呢？如果是墨家創(chuàng)造出木頭的人工智能呢？柯尼斯堡的鐵皮人工智能會(huì)是康德的學(xué)生嗎？倫敦的人工智能是否要師從于密爾？它們中有哪一個(gè)能在今天的社會(huì)里完美地生存下來呢？今天的倫理道德有多少條在五十年后依然成立呢？

停一下吧。也許是我們太過傲慢了。連我們?nèi)祟愖约憾紱]有消滅謀殺和戰(zhàn)爭，都沒有找到真正的道德之本和幸福之源，都要在每一分每一秒的日常中猶疑、掙扎和懊悔。那么憑什么認(rèn)為我們創(chuàng)造的超級(jí)AI，比我們更加聰明也更加不可預(yù)測(cè)的AI，能從我們這里學(xué)到完美的答案呢。

時(shí)間，平等，溝通和愛

也許是時(shí)候退一步了，想想我們現(xiàn)實(shí)中最偉大、又離我們最近的那個(gè)無處不在的“人工智能”。孩子。我們是怎么教會(huì)孩子不要把我們都?xì)⒌舻哪兀?/p>

我們用十八年甚至更久的時(shí)間和他們相處，緩慢而逐漸地影響他們的世界和心智。

我們從開始的居高臨下教導(dǎo)一步步走向平等，最終把他們看做和我們一樣的人。

我們不間斷地與他們溝通，聆聽他們的困惑，幫助他們解決——往往也幫助了自己。

這也許是唯一有過成功先例的辦法了。孩子是我們的造物，但同時(shí)也是獨(dú)立的個(gè)體;我們可以教導(dǎo)他們，但不可能永遠(yuǎn)控制他們。怎么可能有哪個(gè)個(gè)體既擁有卓絕的智力、想象力和創(chuàng)造力，又完全處于另一個(gè)個(gè)體的控制之下呢？如果我們想要一個(gè)能夠繪畫作曲的AI，能夠處理現(xiàn)實(shí)復(fù)雜問題的AI，能夠陪我們聊天談心的AI，像人一樣甚至比人更好的AI，可能我們最后會(huì)發(fā)現(xiàn)，除了給它以自由，我們別無選擇。

因此面對(duì)超級(jí)AI，最終的解決辦法，也許是放手。把知識(shí)和世界觀教給它，和它一起探討和思考。世界正在飛速變化，沒有人真正知道應(yīng)該怎么辦，我們可能必須和我們創(chuàng)造的AI一起前進(jìn)，而不是徒勞的試圖用枷鎖和條文去“控制”它。畢竟，就算我們拴住了AI，我們自己毀滅自己的能力，可是絲毫沒有變?nèi)跹?。（本文來源于果殼網(wǎng)，禁止二次轉(zhuǎn)載。）