愚蠢的人工智能？

曼弗雷德·德沃夏克 鄢俊

在識別圖像時(shí)，遇到一種彩色的小斑點(diǎn)，人工智能就會出現(xiàn)識別錯(cuò)誤。這種斑點(diǎn)很閃亮，內(nèi)部雜亂無章，像一個(gè)至幻至美的棒棒糖。一個(gè)來自谷歌公司的研究團(tuán)隊(duì)發(fā)現(xiàn)，在它面前，計(jì)算機(jī)仿佛被催眠了一樣，失去了自動識別圖像的能力。此時(shí)，所有圖像在計(jì)算機(jī)面前都被誤認(rèn)為是烤面包機(jī)，無論是一堆香蕉、一間浴室，還是德國總理默克爾。

實(shí)驗(yàn)表明，彩色小斑點(diǎn)正是靠著這種伎倆蒙混過關(guān)。只要它出現(xiàn)在相機(jī)捕捉到的圖像里，無論在什么位置，都能讓計(jì)算機(jī)不知不覺中邪。為什么會這樣？研究人員解釋道，對于人工智能識別，這個(gè)圖案就像一個(gè)無法抗拒的誘餌。在這個(gè)斑點(diǎn)中，計(jì)算機(jī)能夠非常輕易地識別出一臺烤面包機(jī)。于是，斑點(diǎn)里的其他圖案就變得無關(guān)緊要，直接被計(jì)算機(jī)忽視了。

計(jì)算機(jī)這么容易被欺騙，這確實(shí)讓人意想不到。但其實(shí)這并非計(jì)算機(jī)上當(dāng)受騙的第一例，研究人員早已發(fā)現(xiàn)了圖像識別的這一奇怪弱點(diǎn)。他們將數(shù)碼相片的像素做了肉眼幾乎不可見的微小調(diào)整，計(jì)算機(jī)就突然把一輛校車識別成了一只鴕鳥。甚至三維打印的物體也出現(xiàn)過類似情況：一只三維打印出來的烏龜看起來惟妙惟肖，卻被識別成了一把步槍。一只愛好和平的爬行動物，怎么會變成一把用于射擊的武器？然而對此，計(jì)算機(jī)卻絲毫不感到困擾，反而非常堅(jiān)信自己的判斷。

人工智能如何被欺騙？雖然到目前為止，這個(gè)問題主要是由相關(guān)專家來研究，但操作的方法和手段卻越來越能夠?yàn)槠胀ㄈ怂p易掌握。任何人都可以下載并打印這個(gè)具有催眠作用的彩色斑點(diǎn)，再加上一些專業(yè)知識，就可以繪制出除烤面包機(jī)外其他具有欺騙性的圖案，如三輪車、手雷或者金色倉鼠。研究人員相信，互聯(lián)網(wǎng)很快就能為人工智能計(jì)算機(jī)調(diào)制出種類繁多的致幻劑。對于黑客和惡作劇者來說這極具誘惑力，對于那些倡導(dǎo)反政府監(jiān)督的人士來說，這也不失為一個(gè)良好的對抗手段。比如，將這種圖案貼在額頭上，就無法被監(jiān)控?cái)z像機(jī)辨認(rèn)出身份，就像貼了一個(gè)隱身符咒一樣?？梢灶A(yù)見，在未來，監(jiān)控?cái)z像頭會捕捉到許許多多臺“烤面包機(jī)”在街上示威游行。匹茲堡卡內(nèi)基·梅隆大學(xué)的研究人員已經(jīng)開發(fā)出了一款帶有這種圖案的可打印眼鏡框，人們可以用它掩蓋自己的真實(shí)身份。也就是說，任何人戴上這個(gè)鏡框，都能被識別為電影明星拉塞爾·克勞。

這對于人工智能未來的發(fā)展絕不是件好事。實(shí)際上，在過去這些年，自動圖像識別在很多領(lǐng)域都已經(jīng)發(fā)展得很好了。要不是這些奇怪的錯(cuò)誤，人工智能幾乎已經(jīng)能與人腦相媲美。出現(xiàn)這種問題的原因與計(jì)算機(jī)的學(xué)習(xí)模式有關(guān)——它總是按照既定的模板來尋找圖像。簡單來說，就是每個(gè)圖像都應(yīng)該被歸入一個(gè)相應(yīng)的 “抽屜”里——所有的烏龜在一個(gè)，所有的步槍又在另一個(gè)。在識別過程中，人工智能所做的只是猜測。但在每次驗(yàn)證結(jié)果后，計(jì)算機(jī)都能進(jìn)一步提升它的識別準(zhǔn)確度。經(jīng)過無數(shù)次努力，它顯然學(xué)到了一些東西，最終把大部分烏龜都?xì)w入了正確的“抽屜”。

然而，人們很難弄清計(jì)算機(jī)是如何做出它的判斷的。只有一點(diǎn)可以確定：人眼可識別的很重要的特征，人工智能卻往往捕捉不到，如圓圓的龜殼以及仿佛長滿魚鱗的龜腿。否則，它也不會把一只爬行動物標(biāo)注成一把步槍。很顯然，它完全沒理解自己所看到的事物。這是目前計(jì)算機(jī)自主學(xué)習(xí)方面的最大謎團(tuán)：為什么計(jì)算機(jī)如此擅長學(xué)習(xí)，卻又如此容易犯錯(cuò)誤？研究人員不斷尋找計(jì)算機(jī)的弱點(diǎn)，希望能對此找出一個(gè)合理的解釋。目前，這已經(jīng)成為了一個(gè)很興旺的學(xué)科。不斷有新的“攻擊”得到測試，每隔幾天都有新的問題被發(fā)現(xiàn)。

2013年底，谷歌公司的研究人員宣布，他們對人工智能計(jì)算機(jī)進(jìn)行了第一次成功的“攻擊”。自那以后，研究人員還相繼進(jìn)行過多次類似的“攻擊”。只是這些“攻擊”針對的都是數(shù)碼相片的識別，危害相對較小。然而，研究工作循序漸進(jìn)，而現(xiàn)實(shí)世界卻飛速發(fā)展。雖然目前這個(gè)問題更多的還只是停留在理論層面上，但是很快這些“攻擊”也會發(fā)生在現(xiàn)實(shí)世界中。比如交通標(biāo)志的篡改，只要有人對停車指示牌稍微做一點(diǎn)手腳，就能讓監(jiān)控電腦誤以為是限速標(biāo)識牌。

此外，研究還表明，不只圖像會被弄混和認(rèn)錯(cuò)，自動語音識別也存在缺陷——有時(shí)計(jì)算機(jī)完全誤解了人們所說的話。混雜在語音文本中的干擾信號極其微弱，人耳很難分辨，卻能夠輕易使計(jì)算機(jī)上當(dāng)受騙。這種情況不僅出現(xiàn)在一般錄音中，也出現(xiàn)在實(shí)時(shí)錄音中。甚至在音樂里，也隱藏著這些秘密的干擾信號。因此，當(dāng)一個(gè)毫無戒心的音樂愛好者在視頻網(wǎng)站上錄制一場音樂會時(shí)，他的話筒很可能已經(jīng)悄悄地向室內(nèi)所有可接收信息的電腦發(fā)送了一些不為人知的信息。

人工智能語音識別還有很大的發(fā)展空間。像亞馬遜的Alexa那樣聰明的語音助手已經(jīng)走入了千家萬戶，時(shí)刻聽從著主人的差遣。幾乎可以確定，在不久的將來，語音指令將左右我們一半的生活。到那時(shí)，如果有人企圖使壞，情況就糟糕了。因?yàn)樗恍枰獙⑷悄芊课莸臒敉蝗魂P(guān)掉，或者在全家人面前用Alexa的聲音開一個(gè)下流的玩笑就能得逞。

人工智能越是深入到人們的日常生活，其容易失誤這一缺點(diǎn)就體現(xiàn)得越為明顯。為此，無人駕駛的發(fā)展引發(fā)了諸多爭議。汽車供應(yīng)商博世的一個(gè)研究團(tuán)隊(duì)發(fā)現(xiàn)，理論上講，即使是主控計(jì)算機(jī)，也能被刻意干擾。實(shí)驗(yàn)中，被干擾的計(jì)算機(jī)就像昏了頭一樣，無法辨識在汽車前面經(jīng)過的行人。

到目前為止，針對這樣的“攻擊”能采取的措施很少。用已知的迷惑性圖案和干擾雜音來訓(xùn)練人工智能，使它不那么容易掉入陷阱，這有一定的作用。但是，這樣的訓(xùn)練并不能擔(dān)保它不受未知種類的“攻擊”。在出現(xiàn)新的突破之前，凡是在安全至上的地方，自主學(xué)習(xí)的人工智能計(jì)算機(jī)都將會是一個(gè)難以估算的風(fēng)險(xiǎn)點(diǎn)。

對于人工智能的發(fā)展而言，這是一個(gè)發(fā)人深省的問題。很多研究人員都曾希望他們的人工智能計(jì)算機(jī)會隨著時(shí)間的推移而變得越來越聰明。一臺能夠在無數(shù)張照片中正確識別出桌子的計(jì)算機(jī)，久而久之就該知道構(gòu)成一張桌子的要素是什么——一個(gè)有底座的平面，常常被幾把椅子所環(huán)繞，上面偶爾放著幾把早餐餐具、幾個(gè)家庭作業(yè)本或者一個(gè)棋盤?，F(xiàn)在，這個(gè)希望幾乎已經(jīng)破滅。計(jì)算機(jī)無法理解所有桌子的共性是什么，也無法理解桌子的用途。把一個(gè)斑點(diǎn)圖案打印出來放在桌子上，就足以讓計(jì)算機(jī)把桌子認(rèn)成一臺烤面包機(jī)了。

實(shí)際上真正令人驚嘆的是，即便人工智能無法理解事物，卻仍然能夠達(dá)到目前的認(rèn)知水平。

那么，它究竟是如何識別出桌子的呢？針對這個(gè)問題，來自蒙特利爾大學(xué)的人工智能專家約書亞·本吉奧經(jīng)研究得出一個(gè)結(jié)論。照片有一個(gè)詭異的特點(diǎn)，同一種類的圖像，如車水馬龍的街景，即使采取截然不同的方法拍攝，在算法上來說，也存在很多共同之處。也就是說，它們共享一個(gè)隱藏的編碼。決定這個(gè)編碼的因素包括：圖像表面的顏色怎么分布，其對比度是怎樣的，是以光滑的表面還是以內(nèi)部結(jié)構(gòu)為主。這只是純粹的統(tǒng)計(jì)數(shù)據(jù)，對人類而言并沒有多大意義，但對于人工智能而言，卻能提供海量的信息。比如，汽車的圖像與瀑布、摩天大樓、動物等其他物體的圖像有著不同的編碼，計(jì)算機(jī)僅憑這些像數(shù)學(xué)模型一樣的編碼，就能夠知道一張圖片所顯示的內(nèi)容，壓根兒不需要“看”。本吉奧在最近的一次實(shí)驗(yàn)中證明，人工智能就是用這種數(shù)字游戲來完成圖像識別的。對于圖像所展示的真正內(nèi)容，它只有一個(gè)最基本的概念。這至少在某種程度上解釋了為什么人工智能在識別圖像時(shí)那么容易弄混淆，以及為什么它無法通過自主學(xué)習(xí)取得真正的進(jìn)步。

本吉奧認(rèn)為，“簡單的解決辦法是不存在的”。只有創(chuàng)立一種新的學(xué)習(xí)模式，由人類刻意訓(xùn)練人工智能去理解圖片的內(nèi)容，人工智能才會也去學(xué)習(xí)圖片中的物體到底是什么，以及它們在現(xiàn)實(shí)世界中是如何互相關(guān)聯(lián)的。到目前為止，它識別圖像的過程還只是按圖索驥。要實(shí)現(xiàn)這個(gè)目標(biāo)，人工智能必須能從抽象概念的層面去理解事物：桌子怎樣才算桌子？烏龜怎樣才算烏龜？對此，谷歌公司的人工智能研究員弗朗索瓦·喬萊特卻持懷疑態(tài)度。他認(rèn)為讓人工智能學(xué)會理解抽象的事物太難?！斑@是人工智能最大的問題，”他在推特中這樣簡短地寫道，“沒有人知道該怎么辦。”

可以預(yù)見，與此相關(guān)的研究在未來數(shù)年還會繼續(xù)進(jìn)行下去，并且會更加深入。但與此同時(shí)，人工智能也將遇到越來越多的“攻擊”。

[譯自德國《明鏡周刊》]