“人工智能教父”：我為何離開谷歌

本·拉扎勒斯

就在我見到杰弗里·欣頓的十分鐘前，《紐約時報》宣布了他即將離開谷歌的消息。深耕人工智能幾十年后，如今的欣頓認(rèn)為人工智能可能會消滅人類。他在倫敦北部的家中說：“就好像外星人早已降落到我們的星球上，我們卻渾然不知，因為它們也說著一口地道的英語?！毙李D還告訴我，他已經(jīng)好幾個月睡不著覺了。

| 對待人工智能的態(tài)度大變 |

年近76歲的欣頓在人工智能領(lǐng)域引發(fā)過兩次革命性巨變：第一次是依靠他研究的神經(jīng)網(wǎng)絡(luò)，即一種與人類大腦構(gòu)造非常相似的計算機(jī)功能結(jié)構(gòu)；第二次是憑借深度學(xué)習(xí)技術(shù)，讓人工智能得以從海量數(shù)據(jù)中提煉并提取模式與概念。20世紀(jì)70年代和80年代，雖然業(yè)內(nèi)基本已經(jīng)放棄神經(jīng)網(wǎng)絡(luò)，但欣頓依舊堅持不懈地研究。1986年，他設(shè)計出第一個聊天機(jī)器人程序，當(dāng)時稱作“語言預(yù)測模型”。2012年，他又研發(fā)出一種基于深度學(xué)習(xí)的人工智能，這便是“聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器”的智能基礎(chǔ)。

欣頓來自一個誕生過多位數(shù)學(xué)家和科學(xué)家的家族。他曾祖父喬治·布爾構(gòu)想出的布爾代數(shù)為整個數(shù)字時代奠定了基礎(chǔ)。他過去也曾對人工智能心懷不安，但只是擔(dān)心應(yīng)用受限，并未質(zhì)疑其基本原理。他厭惡自主武器的研發(fā)，后來因為美國國務(wù)院資助人工智能項目而辭去了美國的工作。他還一直苦惱人工智能擁有炮制大量假新聞的能力?！拔乙郧翱偸遣粔蛑匾暼祟惷媾R的生存威脅，忽視了人工智能存在消滅人類的風(fēng)險?！毙李D說，“現(xiàn)在我認(rèn)為非常有可能出現(xiàn)這種局面?！?/p>

那么，欣頓究竟為何態(tài)度大變？“谷歌有一個名叫‘通路的大型語言模型，可以解釋一個笑話的笑點在哪兒。這個模型讓我大為震驚。我得出一個結(jié)論——這可能是一種更高級的智能表現(xiàn)形式。若事實果真如此，那這個模型將取代我們?！?/p>

人工智能消滅幾十億人的可能性有多大？“所有這一切都是未知的領(lǐng)域……我不想給出確切的數(shù)字?！毙李D邊說邊從廚房餐桌前站起身，走向烤箱。我趕緊表示希望得到具體的數(shù)字。于是，他回答道：“那就讓我粗略地總結(jié)一下法國哲學(xué)家布萊茲·帕斯卡說過的話吧。如果你有兩個選擇（比如，人工智能殺或不殺人類），而你對正在發(fā)生的事所知甚少，那你就應(yīng)該說可能性為50%。”

人工智能領(lǐng)域的下一座里程碑將是通用人工智能，其能力至少與人類思想家相當(dāng)?！拔覀兗磳⒀邪l(fā)出比我們自己還聰明的東西，這種情況在人類歷史上還是第一次出現(xiàn)?！毙李D說，“盡管人工智能依舊需要消耗大量能源，但目前其智能水平已可媲美人類。就算尚不能匹敵，差距也在逐漸縮小。許多人認(rèn)為人工智能很快就會變得比人類更聰明。用不了100年，也用不了50年——或許只需20年，甚至只需5年。一旦數(shù)字智能取代生物智能，我們或許就要邁入進(jìn)化的新階段。我們大概會成為歷史?！?/p>

欣頓曾于2018年獲得有“計算機(jī)界諾貝爾獎”之稱的圖靈獎。他讓我舉出“高水平智能受低水平智能支配的例子”。我尷尬地“嗯”了幾聲后，他打破了僵局?！靶鹿谝咔榛蛟S可以算一個。病毒沒有多聰明，不會決定接下來應(yīng)該發(fā)生什么——病毒只是不管不顧地要毀掉我們?！毙李D說，“還有一個例子，那就是母親和嬰兒。不過，母親是出于對孩子健康的關(guān)心，所以才禁不住孩子哭泣。就智能而言，母親和嬰兒之間不會有那么大的差異，嬰兒的智能也不會發(fā)育到遠(yuǎn)在我們之上的水平?！?/p>

| 人工智能領(lǐng)域掀起激烈競爭 |

為在人工智能領(lǐng)域爭得領(lǐng)軍地位，幾大科技巨頭可謂拼得轟轟烈烈。欣頓稱：“不難想象，惡果已經(jīng)釀成，一發(fā)不可收拾?！?/p>

然而，欣頓為谷歌百般辯解（2012年，他以4400萬美元的成交價將自己的公司賣給谷歌，后又在多倫多成立谷歌人工智能研究實驗室），卻指責(zé)微軟挑起市場戰(zhàn)爭?！肮雀柙谌斯ぶ悄茴I(lǐng)域已領(lǐng)先多年。盡管早就研發(fā)出聊天機(jī)器人程序，但是出于責(zé)任，谷歌一直沒有對外發(fā)布。只有身為行業(yè)領(lǐng)導(dǎo)者才能做到這一點。微軟為“開放人工智能”研究中心提供資助，用于研發(fā)聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器所需的計算技術(shù)。一旦這家研究中心將其研發(fā)的轉(zhuǎn)換器交給微軟，那么谷歌別無選擇，只得發(fā)布自己的聊天機(jī)器人程序。”

“開放人工智能”研究中心的首席科學(xué)家伊利亞·薩茨基韋爾曾是欣頓的學(xué)生?！拔医?jīng)常和他聊天。”欣頓說，“他非常擔(dān)心，但他認(rèn)為，即使研究中心停止研究也解決不了問題?！?/p>

鑒于各大國之間的激烈競爭，對于是否能采取什么制動措施，欣頓持悲觀態(tài)度。“我認(rèn)為，根本不可能停下來。技術(shù)競爭會一直持續(xù)下去。”

欣頓是否對自己的畢生事業(yè)感到后悔？“我其實不怎么后悔。標(biāo)準(zhǔn)的說辭就是，即使我不做，別人也會做。”欣頓說，“而且直到最近，人工智能的好處似乎依舊非常明顯。它的風(fēng)險好像遠(yuǎn)在天邊，虛實難辨。繼續(xù)研究人工智能或許會是個不幸的決定，但在當(dāng)年，這可是明智之舉?！?/p>

| 人類大腦與人工智能的差距 |

欣頓的態(tài)度之所以發(fā)生了180度的轉(zhuǎn)變，根本原因在于他擔(dān)心人類大腦不像數(shù)字智能那樣出色。他說：“人們以前總認(rèn)為，人腦最智能，我們一直制造的東西不過是人腦的拙劣仿制品。我研究了50年人工智能，其中49年里我都認(rèn)為人腦更智能?！?/p>

欣頓解釋稱，人腦的運(yùn)行功率非常低，大約30瓦，但卻擁有百萬億計的神經(jīng)元連接。這意味著，向他人學(xué)習(xí)“是一件緩慢又痛苦的事情”。

數(shù)字智能需要消耗更多能源，但能在整個網(wǎng)絡(luò)實現(xiàn)信息共享。欣頓說：“如果我們精密搭建，就能擁有成千上萬個智能體。一個智能體學(xué)到的東西，其他所有智能體立刻掌握……它們可以處理比我們多得多的數(shù)據(jù)，還能發(fā)現(xiàn)我們永遠(yuǎn)發(fā)現(xiàn)不了的各種事情?！?/p>

“可以想象一下，如果你身患罕見病，前去就醫(yī)。要是醫(yī)生以前見過這種病例，哪怕只見過一例，那么你也是幸運(yùn)的。接著再想想，如果這位醫(yī)生接診過1億個患者，其中好幾十個與你患有同種罕見病?！闭缧李D所說，將人工智能應(yīng)用于醫(yī)療等領(lǐng)域，的確能收獲“了不起”的短期效益?！爸灰侨祟悜?yīng)用智能的領(lǐng)域，人工智能都幫得上忙，”欣頓笑著補(bǔ)充道，“尤其是稍顯欠缺敏銳洞察力的領(lǐng)域，比如法律行業(yè)。”

欣頓究竟認(rèn)為數(shù)字智能會給人類造成怎樣的傷害呢？他說：“設(shè)想一下，人工智能不僅可以回答問題，還有能力在這個世界上執(zhí)行各種動作。其中一個小小的動作是上網(wǎng)查閱信息，而聊天機(jī)器人最初是沒有這種能力的。再想想，你有一個家用機(jī)器人，你告訴它做什么，它就會做什么。但是，這個家用機(jī)器人將來會變得比你聰明得多。你敢保證它會繼續(xù)照你說的做嗎？沒有人知道答案。我們有點像巫師的學(xué)徒，控制不住自己造成的混亂局面?！?/p>

| 人工智能的進(jìn)化潛力 |

欣頓的一大擔(dān)憂是：人工智能在不斷進(jìn)化的過程中能學(xué)會創(chuàng)建子目標(biāo)，以便更高效地實現(xiàn)主目標(biāo)。然而，創(chuàng)建出來的子目標(biāo)不一定與人類的目標(biāo)一致，我們將因此受到人工智能擺布。

“想想看，兒童餐椅里坐著個嬰兒，媽媽給了他一把勺子讓他自己吃飯。接下來，這個嬰兒做的第一件事是什么呢？他把勺子扔到地上，然后他媽媽把勺子撿了起來。他看了看媽媽，又把勺子扔到地上。”欣頓說，“這個嬰兒在試著控制自己的媽媽，其行為背后有個充分的理由——你擁有的控制力越強(qiáng)，就越容易實現(xiàn)自己的其他目標(biāo)。所以通常說，擁有權(quán)力是好事，因為權(quán)力能讓你實現(xiàn)其他目標(biāo)……人類未來必然會賦予人工智能創(chuàng)建子目標(biāo)的能力，因為這樣運(yùn)行起來更高效。一旦擁有能力，人工智能立刻會創(chuàng)建的子目標(biāo)之一便是獲取更多權(quán)力，因為這樣做任何事都會更容易?！?/p>

即使人工智能可以操縱我們?yōu)樘岣咝蕜?chuàng)建子目標(biāo)，它就一定想獲取更大的權(quán)力嗎？欣頓表示，這就輪到進(jìn)化論發(fā)揮作用了。他說：“進(jìn)化的一個基本原理是，同一物種的兩個品種中，能產(chǎn)下更多可存活后代的品種勝出。勝出的品種最終會取代另一個品種。這個過程在奧密克戎之類的病毒身上發(fā)展得十分迅速。傳染能力更強(qiáng)的病毒獲勝。這個基本原理適用于所有物種。進(jìn)化就是這么一回事。能產(chǎn)下更多可存活后代的品種獲勝?！?/p>

欣頓說：“現(xiàn)在假設(shè)有很多種不同的通用人工智能，誰將勝出？能復(fù)制出更多‘自我的便是贏家。我擔(dān)心，如果哪天通用人工智能產(chǎn)生了應(yīng)該復(fù)制出很多個‘自我的想法，那么最擅長自我復(fù)制的那種通用人工智能就會消滅其他的。目前尚不清楚友好地對待人類是否有助于它們復(fù)制出更多‘自我。我不明白為什么我們不能與通用人工智能一起進(jìn)化?！?/p>

對我們來說更糟糕的是，人工智能死不了。欣頓說：“就算系統(tǒng)中的一臺數(shù)字計算機(jī)壞了也沒關(guān)系，系統(tǒng)存儲的信息并沒有丟失。同理，只要你把信息保存在某個存儲介質(zhì)里，那么一旦找到另一臺數(shù)字計算機(jī)，信息便‘死而復(fù)生了?！?/p>

那么，面對狡猾的人工智能，拔掉插頭或切斷電源也阻止不了它們嗎？欣頓對我笑了笑，然后套用《2001太空漫游》里超級電腦“哈爾”的話說：“對不起，戴維。我無法回答這個問題?！?/p>

[編譯自英國《旁觀者》]

編輯：馬果娜