似界

王凱

我們遇見的第一天，醫(yī)生告訴我說：現(xiàn)在的人工智能，最重要的不是智能，而是人工。

當(dāng)時(shí)我尚未涉足這一行，對(duì)他說的話似懂非懂。于是，他把我?guī)У焦镜淖罡咭粚樱@里是識(shí)圖AI的訓(xùn)練場，被分割成一個(gè)個(gè)隔音小房間，里面坐著來自附近城中村的女工們。她們或年老或年少，有些人握著鼠標(biāo)的手尚且笨拙。一幅幅圖片在屏幕上閃過，她們點(diǎn)擊這些圖片，對(duì)著麥克風(fēng)大聲讀出這些圖片里物件的名字。這些聲音被收集起來，匯總到數(shù)據(jù)中心，變成一片小小的碎片，并會(huì)在下一個(gè)流程中化作支撐AI聲音識(shí)別的一塊磚瓦。

“你有興趣嗎？當(dāng)然，不是做聲音識(shí)別，是做別的?！?/p>

我點(diǎn)點(diǎn)頭。

接下來的數(shù)年里，我也坐進(jìn)了類似的小房間，我的工作不是識(shí)圖，而是識(shí)別文字。我閱讀各種各樣的文字，從小說到紀(jì)實(shí)文學(xué)，從藥品說明書到微博，從商業(yè)成功學(xué)到宗教，然后我總結(jié)自己閱讀時(shí)的情感，把這些情感歸攏成數(shù)據(jù)“喂”給公司的另一個(gè)AI系統(tǒng)。醫(yī)生讓我和其他人收集每一個(gè)無法識(shí)別的句子、每一串能夠愚弄人工智能的文本，再把它們“喂”給另一個(gè)人工智能。

這個(gè)名叫“似界”的AI吞下這一切，不僅是文本，還有圖片和聲音。其中包括了被識(shí)別成鳥的橋梁藍(lán)圖、被認(rèn)定為數(shù)學(xué)公式的詩、被判斷成細(xì)菌的人臉和被認(rèn)定為消防警報(bào)的歌。

我問過醫(yī)生，“似界”這個(gè)名字的意思。

他說：“大千世界，似是而非?！?/p>

在文字識(shí)別組工作數(shù)年后，醫(yī)生把我調(diào)進(jìn)了“似界”的項(xiàng)目組。

不同的項(xiàng)目組，同樣的工作內(nèi)容。

“似界”會(huì)根據(jù)我們“喂”給它的那些“錯(cuò)誤”，生成大量的文本、圖片和聲音。我的工作就是去識(shí)別這些東西，將那些對(duì)人類有意義的事物和在人類眼里不可理解的事物分開來。

我問過醫(yī)生這是在做什么。但他說，就算解釋了，我也不會(huì)懂。

在我看來，“似界”仿佛是在搞藝術(shù)。

我對(duì)人工智能一竅不通。我只懂藝術(shù)，而且我上一份工作就是搞藝術(shù)——寫賣不出去的小說和沒人看的詩，最后窮出了心理疾病，跑到互聯(lián)網(wǎng)上去找免費(fèi)的心理治療，然后我遇到了醫(yī)生。

“你需要的不是一次治療?！彼f，“你需要一份工作，而我恰好可以提供一份工作。”

這就是為什么我叫他醫(yī)生，盡管他這輩子幾乎都沒穿過白大褂。其實(shí)醫(yī)生比我更像是個(gè)藝術(shù)家，他搞出來的“似界”雖然只是個(gè)人工智能算法，但它“吐”出的很多東西都挺有藝術(shù)感的。我為醫(yī)生收集這些內(nèi)容，直到有一天，一群穿著黑色T恤衫的人出現(xiàn)在公司里。他們表情嚴(yán)肅認(rèn)真，而醫(yī)生也難得地露出了嚴(yán)肅的表情。

“我們要看演示?！眰€(gè)子最高、肩膀最寬的那個(gè)人說。

醫(yī)生帶他們?nèi)琼?。那里擺放著幾十臺(tái)無人機(jī)。他叫上了所有“似界”項(xiàng)目組的人，包括我。我們好奇而不解地坐在樓頂?shù)乃芰弦巫由?，那些椅子平時(shí)是用來做拓展游戲的。

一個(gè)穿黑T恤衫的人拿出遙控器，無人機(jī)成群結(jié)隊(duì)地起飛。掠過樓頂，再飛回來，最終全部懸停在醫(yī)生的頭頂，紅色的激光點(diǎn)落在他的臉上和胸口，他笑著用手遮擋。那天很熱，我還記得陽光落在我的臉上。那些聰明的小飛機(jī)突然從我的頭頂飛過，甚至繞著我的臉轉(zhuǎn)。然后，它們繞到我背后，發(fā)現(xiàn)我，氣勢洶洶地向我飛過來。但是等它們繞到我身前時(shí)，仿佛被某種事物所迷惑，又飛走了。

“行了。”個(gè)子最高的那個(gè)男人擺擺手，“簽保密協(xié)議吧。你們所有人?！?/p>

我們那天就在現(xiàn)場、在天臺(tái)上、在凹凸不平帶著小圓點(diǎn)的塑料凳子上，簽下了我們這輩子第一份保密協(xié)議。我當(dāng)時(shí)又困惑又緊張，甚至劃破了紙。

那時(shí)候我從來沒想到，這份工作會(huì)把我?guī)蠠o人戰(zhàn)場。無人戰(zhàn)場名副其實(shí)，那里在開戰(zhàn)后就已經(jīng)空無一人。當(dāng)?shù)鼐用窀鶕?jù)他們的信仰和信念，收拾行裝逃往不同的方向。如今，那片土地上只有無人機(jī)、自走機(jī)器人和自行戰(zhàn)車。它們開出廠房，駛下運(yùn)輸機(jī)，穿過臨時(shí)機(jī)場那塵土飛揚(yáng)的跑道，進(jìn)入無人戰(zhàn)場，開始沖撞彼此、轟炸彼此。

我只在分析室里見過N區(qū)。那個(gè)長條形房間燈光昏暗，墻壁上并排掛著兩幅投影屏，左邊是人工智能分析終端生成的N區(qū)圖像，右邊是無人機(jī)拍攝視頻里的N區(qū)風(fēng)景。

它們迥然不同。

擁有“似界”的人，不只是我們，還有敵人。雙方都在用盡一切辦法愚弄對(duì)方自主作戰(zhàn)機(jī)器人的眼睛。因此，在人工智能的分析圖像里，整個(gè)N區(qū)顯現(xiàn)出難以置信的光怪陸離，就像是具象化的卡爾維諾小說，或者動(dòng)態(tài)的達(dá)利油畫。

我至今保留著一段N區(qū)的人工智能全景視頻。在那段視頻里，天空湛藍(lán)、陽光明亮，棉花般的云朵中間倒掛著一座索橋，正呼嘯著向鏡頭的方向沖過來。

這甚至不是整段視頻里最怪異的部分。

在被集束炸彈破壞得坑坑洼洼的地面上，奔跑著各種莫可名狀的事物。我能從中間分辨出一只藍(lán)色的袋鼠、兩條直徑比人還粗的繩索、一只琺瑯鼻煙壺和六架不同顏色的天文望遠(yuǎn)鏡。在視頻里，它們看起來模糊不清、破碎跳動(dòng)，彼此沖撞廝打，仿佛一群不真實(shí)的野獸。

如果比對(duì)直接拍攝的視頻，就可以看出，這些互相廝打的異物都是刷有“愚弄迷彩”的自走機(jī)器人，天空中呼嘯而來的是一架大型無人機(jī)。

對(duì)方也使用了“似界”的技術(shù)。把愚弄自動(dòng)戰(zhàn)爭機(jī)器的迷彩刷在每一臺(tái)機(jī)器上，讓戰(zhàn)場指揮AI產(chǎn)生嚴(yán)重的錯(cuò)覺，迫使我們不得不倒退回用人手操控戰(zhàn)爭機(jī)器的時(shí)代，而且他們甚至還有余裕的精力來掌控這些錯(cuò)覺的細(xì)節(jié)。當(dāng)時(shí)，我們認(rèn)為那是對(duì)方對(duì)我們的示威。

第二天晚上，噩耗從海上傳來，我們才知道，那是對(duì)方相信自己已經(jīng)勝利的宣言。

我們最終還是奪回了N區(qū)。

但沒有人能把醫(yī)生帶回來給我們。

他們叫我過去的時(shí)候，已經(jīng)是醫(yī)生的飛機(jī)墜入深海的第九天。這一次我簽下了差不多一指厚的保密協(xié)議，才得以見到那個(gè)幸存下來的飛行員。

她看起來疲憊、驚恐、雙眼紅腫，而且充滿不安。他們給她安排的房間寬敞而舒適，但這并不能改變她正在被監(jiān)控的事實(shí)。我看了他們對(duì)她每一次問詢的記錄，但我決定還是面對(duì)面地和她談一談。

當(dāng)我走進(jìn)去的時(shí)候，她甚至都沒有抬頭，只是大聲地喊：“出去！我都說過了！我不想再說一遍！”

我在她對(duì)面坐下。

“我叫他醫(yī)生?！蔽艺f，“他叫我鏡子?！?/p>

這句話讓她抬起頭來，困惑地看著我。我對(duì)她說了醫(yī)生的名字，我看到她臉上的表情由不滿變成悲哀和內(nèi)疚。

“我真的什么都沒有注意到。”她說，“雷達(dá)和目視都一切正常。”

“我相信雷達(dá)一切正常?！蔽艺f，“在現(xiàn)代戰(zhàn)爭里，要騙過雷達(dá)的辦法有很多?！?/p>

她又轉(zhuǎn)為警惕，“那你的意思是，我沒有看到那個(gè)迎面撞上我飛機(jī)的東西？”

“我覺得你看到了?！蔽艺f，“只不過那個(gè)東西太怪異，怪異到你都不相信它會(huì)在那里，怪異到你覺得它應(yīng)該是個(gè)幻覺。而你是個(gè)飛行員，你的訓(xùn)練要求你理智冷靜，要求你忽略那個(gè)看到不可思議的東西的瞬間?！?/p>

她看著我，嘴唇微張，欲言又止。

我拿出手機(jī)，給她看那段視頻，給她看廝打在一起的望遠(yuǎn)鏡和袋鼠，以及空中飛掠并開火的懸索橋。

她的眼睛睜大了。

“很多年前，有一群科學(xué)家……”我說。

這個(gè)故事是醫(yī)生講給我聽的。我向他抱怨說我對(duì)他的工作一無所知。他就笑著摸我的頭，說，要給我講一個(gè)一無所知的人也能懂的、關(guān)于人工智能和他的工作的故事。

我記住了他說的每一個(gè)字，并在很多年后，講給那個(gè)飛行員。

很多年前，有一群科學(xué)家。他們想要?jiǎng)?chuàng)造出和人一樣聰明，能夠作出判斷和選擇的機(jī)器，但他們選擇了不同的方法去做。有些科學(xué)家，他們用做鐘表的方法去做，只要“齒輪”轉(zhuǎn)到了合適的位置，就能給出時(shí)間，而鐘表不需要理解時(shí)間本身。另一些科學(xué)家，他們選擇用更困難的方法，去仿造人類的神經(jīng)系統(tǒng)，仿造你和我的大腦，來做這種機(jī)器。他們希望機(jī)器能夠真正地去“理解”和“認(rèn)知”。

這就是我們今天最常見的人工智能——至少是人工智能的一種。

起初，他們很成功。

但是后來，這些科學(xué)家發(fā)現(xiàn)，他們做出來的人工智能是有缺陷的。雖然這些機(jī)器可以識(shí)別99%的圖片、聲音、文字，但是總有那么1%的東西，它們會(huì)認(rèn)錯(cuò)。把狗認(rèn)成摩托、把花看成跳舞的女人，或者把歌聲判斷成警報(bào)。

科學(xué)家們收集了這些會(huì)讓人工智能出錯(cuò)的事物。開始研究，有些人認(rèn)為，這種錯(cuò)誤最終是可以消除的，因此他們一直致力于糾正這些錯(cuò)誤。但另一些科學(xué)家認(rèn)為，這種錯(cuò)誤根植于人工智能的基本結(jié)構(gòu)——而這個(gè)基本結(jié)構(gòu)同時(shí)也是人類神經(jīng)系統(tǒng)的基本結(jié)構(gòu)。他們認(rèn)為這種錯(cuò)誤無法消除，但可以總結(jié)出其中的規(guī)律。

我做的事情就是后一種。

“似界”的算法讓它能夠發(fā)現(xiàn)和生成這些帶來錯(cuò)誤認(rèn)知的事物。它已經(jīng)超越了色彩、圖像和意義，給認(rèn)知本身披上了偽裝。在自主武器系統(tǒng)遍布全球、無人戰(zhàn)爭多點(diǎn)開花的今天，每一張錯(cuò)誤認(rèn)知圖片，每一塊“愚弄迷彩”，都有可能從無人機(jī)轟炸下拯救一條生命；每一條錯(cuò)誤認(rèn)知文本都有可能繞過無孔不入的網(wǎng)絡(luò)監(jiān)視、傳遞至關(guān)重要的密碼；每一組錯(cuò)誤認(rèn)知聲音都有可能擾亂對(duì)方的信息系統(tǒng)。

我不知道是戰(zhàn)爭找到了我，還是我去找到了戰(zhàn)爭。

“似界”創(chuàng)造的每一個(gè)錯(cuò)誤認(rèn)知，其錯(cuò)誤都根植于人工智能算法的基本結(jié)構(gòu)，而這個(gè)結(jié)構(gòu)脫胎于人類的神經(jīng)系統(tǒng)。如果能撥開這些錯(cuò)覺的迷霧，或許我們就能看見世界背后的真實(shí)。如果能掌握這種錯(cuò)誤認(rèn)知的力量，我們或許就能獲得更強(qiáng)大的武器。

而且我必須要快。

我們有敵人，而且敵人和我們一樣聰明。

“我看見一顆月亮向我飛來，我甚至能看清楚它上面的環(huán)形山。那是在白天，天空那么明亮，而那個(gè)月亮離我那么近，仿佛伸手就能摸到，它又那么小，直徑比我的飛機(jī)的翼展還窄，像一塊完美的圓形石頭。我想我一定是太累了，出現(xiàn)了幻覺，然后那顆月亮就撞在了飛機(jī)上。我以為是我的錯(cuò)?！彼f。

我拿出一張經(jīng)過特殊設(shè)計(jì)的雜色濾光片，它可以擾亂固有的視覺模式，重置被欺騙的神經(jīng)信號(hào)。我把它疊在圖片上，給她看。

“這是……這不可能……”

我嘆口氣。

在那張照片上，一架涂滿了愚弄迷彩的無人機(jī)正掠過天空。

“我要叫你鏡子?！贬t(yī)生曾經(jīng)這樣說，“因?yàn)槟惚任腋h(yuǎn)離真實(shí)，又比我更接近真實(shí)。”

我是個(gè)色盲，很微弱的那種。我分不清藍(lán)色和綠色，這讓我可以免疫大概30%的針對(duì)人類設(shè)計(jì)的錯(cuò)誤認(rèn)知迷彩。和我一起工作的人里，有些是紅綠色盲，但更多的是非常稀有的全色盲。他們幾乎可以免疫絕大多數(shù)的錯(cuò)誤認(rèn)知迷彩。根據(jù)我們的視覺模式，一批批單色和轉(zhuǎn)色濾光片被制造出來，保護(hù)那些被困擾的戰(zhàn)士和被愚弄的人工智能。讓他們能夠穿過硝煙，穿過戰(zhàn)場，去尋找真相。

但世界正在一天接一天地失去真實(shí)。在前線，我甚至看到過刷滿愚弄迷彩、偽裝成山脈的一整棟大樓。人們這么做并不是為了贏得戰(zhàn)爭，而是那些充滿恐懼的居民想要讓自己從世界上消失。

最近，我聽說已經(jīng)有針對(duì)色盲者的錯(cuò)誤認(rèn)知迷彩被開發(fā)出來。人們將欺騙人工智能的方法轉(zhuǎn)而用到欺騙人眼上，開發(fā)出了能夠超越濾光設(shè)備的通用認(rèn)知擾亂圖形。很多科學(xué)家一起接手了醫(yī)生留下來的研究工作，他們和我一樣憂心忡忡。

醫(yī)生說的話依舊回蕩在我們耳邊。

必須要快，他說。

我們有敵人，而且敵人和我們一樣聰明。