人工智能的鑰匙該在誰(shuí)手中

胡驚雷

正如其他顛覆性的技術(shù)，人工智能是數(shù)個(gè)世紀(jì)的藝術(shù)想象、哲學(xué)反思、科學(xué)突破和工程進(jìn)步合力的產(chǎn)物。神造人的傳說(shuō)，笛卡爾的“身心二元論”， 霍布斯關(guān)于一切心靈活動(dòng)都可以被還原為加減乘除的斷言，萊布利茲的二進(jìn)制，巴貝奇的可編程機(jī)械計(jì)算器，布爾的0和1為結(jié)論賦值的代數(shù)，羅素悖論，希爾伯特關(guān)于算術(shù)公理的相容性問(wèn)題，哥德?tīng)柌煌陚涠ɡ?，圖靈，馮諾依曼……

但人工智能的飛速發(fā)展，是在1956年的“達(dá)特茅斯會(huì)議”之后。這半個(gè)多世紀(jì)里，它雖然經(jīng)歷了20世紀(jì)70年代中期政府削減預(yù)算和80年代后期市場(chǎng)需求不足所引發(fā)的兩次“寒冬”，卻在其余階段高歌猛進(jìn)，經(jīng)歷了好幾個(gè)“里程碑”的時(shí)刻，比如1997年“深藍(lán)”擊敗國(guó)際象棋冠軍卡斯帕羅夫，2011年Watson打敗了百科知識(shí)問(wèn)答節(jié)目Jeopardy！ 歷史上最偉大的兩個(gè)冠軍，到2014年、2015年更是出現(xiàn)井噴，尤其是后一年，被彭博網(wǎng)認(rèn)為是劃時(shí)代的。人工智能在圖像識(shí)別、工程應(yīng)用、機(jī)器翻譯、游戲競(jìng)技等方面均取得跨越式發(fā)展，Google 、Microsoft、Amazon、IBM、Intel、Facebook等科技巨頭們，都將之列為最優(yōu)先發(fā)展的方向。不僅如此，機(jī)器學(xué)習(xí)的一些技術(shù)革新還先后登上了《自然》和《科學(xué)》雜志封面。而到2016年春，Alpha Go與李世石的圍棋大戰(zhàn)，使人工智能成為舉世矚目的焦點(diǎn)。

似乎Kurzweil 在《奇點(diǎn)臨近》 一書(shū)中所預(yù)見(jiàn)的以人工智能為代表的科技呈指數(shù)增長(zhǎng)的趨勢(shì)已經(jīng)形成; 而1950年圖靈的開(kāi)創(chuàng)性論文“計(jì)算機(jī)器與智能”的種種啟發(fā)性設(shè)想，比如模仿兒童學(xué)習(xí)的機(jī)器，比如模仿神經(jīng)的網(wǎng)絡(luò)，比如類似生物變異的衍生算法……以及在倒數(shù)第二頁(yè)那個(gè)看似不經(jīng)意的推斷：智能機(jī)器的行為并非是完全可被預(yù)知的……都變成了預(yù)言。

一些人期待人工智能幫助我們恢復(fù)生態(tài)、消滅貧困、實(shí)施救援、支持殘障等，另一些人警告它可能成為潛在的敵人或是潛在敵人的大規(guī)模殺傷性武器。樂(lè)觀的展望并非毫無(wú)根據(jù)，而小心的警告也不是空穴來(lái)風(fēng)。不要忘記，大型機(jī)的鼻祖ENIAC和它的升級(jí)版MANIAC分別用來(lái)做原子彈與氫彈的計(jì)算;不要忘記，擁有“高級(jí)智能”的人類滅絕物種的效率是自然界的1000倍。參加曼哈頓工程的費(fèi)曼就曾引用一句箴言表達(dá)他對(duì)科技這把雙刃劍的警惕： 同一把鑰匙，既可以打開(kāi)天堂之門(mén)，也可以打開(kāi)地獄之門(mén)。人工智能會(huì)是這樣一把鑰匙嗎？

布魯金斯資深研究員P.W.Singer 注意到，美國(guó)空軍和地面部隊(duì)激增的機(jī)器人需求正在加速改變戰(zhàn)爭(zhēng)的形態(tài)，簡(jiǎn)言之，機(jī)器人正在結(jié)束人類5000多年來(lái)對(duì)戰(zhàn)爭(zhēng)的壟斷;2015年7月，包括霍金、馬斯克、史蒂夫·沃茲尼亞克在內(nèi)的多位科技名人與公共知識(shí)分子都簽署了一封公開(kāi)信，呼吁禁止自動(dòng)化武器以避免引發(fā)軍備競(jìng)賽，重蹈冷戰(zhàn)覆轍;去年2月，比爾·蓋茨主張向機(jī)器人征稅以幫助人類過(guò)渡到失業(yè)狀態(tài);3月，摩根大通開(kāi)發(fā)的金融合同解析人工智能系統(tǒng)COIN成功將36萬(wàn)小時(shí)的工作縮至幾秒內(nèi)完成，這使得自適應(yīng)交易算法ZIP的發(fā)明人Dave Cliff很多年前的玩笑變成了預(yù)言：不久你會(huì)發(fā)現(xiàn)，交易大廳里只剩下一臺(tái)大計(jì)算機(jī)，一條狗和一個(gè)人;計(jì)算機(jī)做交易，狗負(fù)責(zé)守計(jì)算機(jī)，人負(fù)責(zé)喂狗。

一些紙上談兵的思想者會(huì)說(shuō)，這都是杞人憂天。這種勇氣來(lái)自于一個(gè)事實(shí)：他們不需要對(duì)后果負(fù)責(zé)。如果我們要用這把鑰匙進(jìn)天堂，就不能忘記馮諾依曼的叮囑：“我們應(yīng)該預(yù)測(cè)所有穩(wěn)定的過(guò)程，控制不穩(wěn)定的過(guò)程?！敝豢上⑽赐瓿蛇z作《計(jì)算機(jī)與人腦》，我們無(wú)法猜測(cè)他可能提出哪些建議以控制人工智能這個(gè)注定“不穩(wěn)定的過(guò)程”。我們要前進(jìn)，但也有責(zé)任保持這份警惕：往往我們所期待的，總是來(lái)得太慢，而我們所憎恨的，總是來(lái)得太快。