似界

王凱

1

我們遇見(jiàn)的第一天，醫(yī)生告訴我說(shuō)：現(xiàn)在的人工智能，最重要的不是智能，而是人工。

當(dāng)時(shí)我尚未涉足這一行，對(duì)他說(shuō)的話似懂非懂。于是他帶我去看公司的最高一層，這里是識(shí)圖A.I.的訓(xùn)練場(chǎng)，被分割成一個(gè)個(gè)的隔音小房間，里面坐著來(lái)自附近城中村的女工們。她們或年老或年少，有些人握著鼠標(biāo)的手尚且笨拙。

一幅幅圖片在屏幕上閃過(guò)，她們點(diǎn)擊這些圖片，對(duì)著麥克風(fēng)大聲讀出這些圖片里物件的名字。這些聲音被收集起來(lái)，匯總到數(shù)據(jù)中心，變成一片小小的碎片，并會(huì)在下一個(gè)流程中化作支撐A.I.聲音識(shí)別的一塊磚瓦。

“你有興趣嗎？當(dāng)然，不是做聲音識(shí)別，是做別的。”

我點(diǎn)點(diǎn)頭。

接下來(lái)的數(shù)年里，我也坐進(jìn)了類似的小房間，我的工作不是識(shí)圖，而是識(shí)別文字。我閱讀各種各樣的文字，從小說(shuō)到紀(jì)實(shí)文學(xué)，從藥品說(shuō)明書(shū)到微博，從商業(yè)成功學(xué)到宗教，我閱讀它們，我咀嚼它們，然后我總結(jié)自己閱讀時(shí)的情感，把這些情感歸攏成數(shù)據(jù)喂給公司的另一個(gè)A.I.系統(tǒng)。

那不是簡(jiǎn)單的“喜歡”或者“不喜歡”。我分析自己的每一份感受，把它們切成一小片一小片，再加以命名，放入分類系統(tǒng)，對(duì)照數(shù)據(jù)表，最終把它們上傳到數(shù)據(jù)庫(kù)里。

我還會(huì)閱讀那些A.I.寫(xiě)出來(lái)的文字，我看著它們從狗屁不通到初具文采，漸漸與人類創(chuàng)作出來(lái)的事物難分伯仲。

我也會(huì)對(duì)比人工智能識(shí)別文字的結(jié)果，大部分時(shí)候，它們的識(shí)別越來(lái)越準(zhǔn)確，但是有些時(shí)候，它們會(huì)出錯(cuò)，會(huì)出很大很大的錯(cuò)。錯(cuò)到令人覺(jué)得自己一整年都干了白工。

//有一些歌是藍(lán)色的，另一些歌是紅色的，每當(dāng)音樂(lè)響起，我就聽(tīng)見(jiàn)色彩，我的耳朵五彩繽紛，我的雙眼尖叫不已。//

我拿著這段話去找醫(yī)生。告訴他我們訓(xùn)練的A.I.完全無(wú)法理解它。

和它一樣會(huì)發(fā)生識(shí)別錯(cuò)誤的文字還有幾百段。按照醫(yī)生的要求，我把它們積攢下來(lái)，收集成一個(gè)小小的文檔。里面什么都有。其中有些頗有趣味。

//芳香烴，通常指分子中含有苯環(huán)結(jié)構(gòu)的碳?xì)浠衔铩Ｊ情]鏈類的一種。具有苯環(huán)基本結(jié)構(gòu)，歷史上早期發(fā)現(xiàn)的這類化合物多有芳香味道，所以稱//

//芳香烴，通常指分子中含有苯環(huán)結(jié)構(gòu)的碳?xì)浠衔铩Ｊ情]鏈類的一種。具有苯環(huán)基本結(jié)構(gòu)，歷史上早期發(fā)現(xiàn)的這類化合物多有芳香味道，所以稱這些烴類物質(zhì)為芳香烴。//

這一組就是個(gè)典型例子：前面那句話只說(shuō)了一半，而A.I.會(huì)把它錯(cuò)誤判斷為“在描述一棵樹(shù)”。

我實(shí)在不知道它是怎么判斷的。

但如果我把這句話完整輸入，A.I.就會(huì)正確地判斷為“在描述一種化學(xué)物質(zhì)”。

我也不知道它是怎么做到的。

醫(yī)生讓我和其他人收集每一個(gè)無(wú)法識(shí)別的句子、每一串能夠愚弄人工智能的文本。再把它們喂給另一個(gè)人工智能。

這個(gè)名叫“似界”的A.I.吞下這一切，不僅是文本，還有圖片和聲音。其中包括了被識(shí)別成鳥(niǎo)的橋梁藍(lán)圖、被認(rèn)定為數(shù)學(xué)公式的詩(shī)、被判斷成細(xì)菌的人臉和被認(rèn)定為消防警報(bào)的歌。

然后它開(kāi)始生成。

我問(wèn)過(guò)醫(yī)生，“似界”這個(gè)名字的意思。

他說(shuō)：“大千世界，似是而非?！?h3>2

在文字識(shí)別組工作數(shù)年后，醫(yī)生把我調(diào)進(jìn)了“似界”的項(xiàng)目組。

不同的項(xiàng)目組，同樣的工作內(nèi)容。

“似界”會(huì)根據(jù)我們喂給它的那些“錯(cuò)誤”，生成大量的文本、圖片和聲音。而我的工作就是去識(shí)別這些東西。將那些對(duì)人類有意義的事物和在人類眼里不可理解的事物分開(kāi)來(lái)。

我問(wèn)過(guò)醫(yī)生這是在做什么。但他說(shuō)，就算解釋了，我也不會(huì)懂。

在我看來(lái)，“似界”仿佛是在搞藝術(shù)。

我對(duì)人工智能一竅不通。我只懂藝術(shù)，而且我上一份工作就是搞藝術(shù)。寫(xiě)賣(mài)不出去的小說(shuō)和沒(méi)人看的詩(shī)。最后窮出了心理疾病，跑到互聯(lián)網(wǎng)上去找免費(fèi)的心理治療。然后我遇到了醫(yī)生。

“你需要的不是一次治療?！彼f(shuō)，“你需要一份工作。而我恰好可以提供一份工作?！?/p>

這就是為什么我叫他醫(yī)生。

盡管他這輩子大概都沒(méi)穿過(guò)白大褂。

其實(shí)醫(yī)生比我更像是個(gè)藝術(shù)家，他搞出來(lái)的“似界”雖然只是個(gè)人工智能算法，但它吐出的很多東西都挺有藝術(shù)感的。比如下面這段話：

//歌在被歌唱的地方靜默了，又在被靜默的地方響起//

或者——

//巴拉巴拉愛(ài)上了拉吧拉吧//

我為醫(yī)生收集這些內(nèi)容，直到有一天，一群穿著黑色T恤衫的人出現(xiàn)在公司里。他們表情嚴(yán)肅認(rèn)真，而醫(yī)生也難得地露出了嚴(yán)肅的表情。

“——我們要看演示?！眰€(gè)子最高、肩膀最寬的那個(gè)人說(shuō)。

醫(yī)生帶他們?nèi)琼?。那里擺放著幾十臺(tái)無(wú)人機(jī)。他叫上了所有“似界”項(xiàng)目組的人，包括我。我們好奇而不解地坐在樓頂?shù)乃芰弦巫由希切┮巫悠綍r(shí)是用來(lái)做拓展游戲的。

“阿鏡，你把這個(gè)穿上。”

醫(yī)生指著我說(shuō)。

我從他手里接過(guò)那件衣服，是一件套頭迷彩服罩衫，但又不完全是迷彩服，因?yàn)樵诿圆史男厍坝≈恢环浅Ｉ禋獾墓科妗?/p>

我不太高興地看了他一眼，還是把罩衫套上了。

因?yàn)獒t(yī)生也穿了一件，只不過(guò)他胸前沒(méi)有印花，只是純粹的迷彩。

然后他讓幾個(gè)男同事去抬了八盆一人高的盆栽過(guò)來(lái)，自己拉起罩衫的迷彩兜帽，站在盆栽后面，像一棵會(huì)笑出白牙的樹(shù)。

“好了?！彼f(shuō)。

一個(gè)穿黑T恤衫的人拿出遙控器，無(wú)人機(jī)成群結(jié)隊(duì)地起飛。掠過(guò)樓頂，再飛回來(lái)，最終全部懸停在醫(yī)生的頭頂，紅色的激光點(diǎn)落在他的臉上和胸口，他笑著用手遮擋。

“換人，換人。”

他把我叫過(guò)去，讓我拉起兜帽，也站在那里。

無(wú)人機(jī)散開(kāi)，重新組成編隊(duì)，掃過(guò)樓頂。它們掃過(guò)我的頭頂，一次，又一次。我很確定它們腹部的小小攝像頭曾經(jīng)指向我的位置。但它們完全沒(méi)有做出反應(yīng)。

“阿鏡。你從盆栽后面出來(lái)。把兜帽摘了?！?/p>

我按照醫(yī)生說(shuō)的做了。

那天很熱。我還記得陽(yáng)光落在我的臉上。那些聰明的小飛機(jī)從我的頭頂飛過(guò)，甚至繞著我的臉轉(zhuǎn)。它們繞到我背后，發(fā)現(xiàn)我，氣勢(shì)洶洶地向我飛過(guò)來(lái)。

但是等它們繞到我身前時(shí)，仿佛被某種事物所迷惑，又飛走了。

“行了?！眰€(gè)子最高的那個(gè)男人擺擺手，“簽保密協(xié)議吧。你們所有人?！?/p>

他想了想，又補(bǔ)充道：“就在這兒，當(dāng)場(chǎng)簽?！?h3>3

我們那天真的就在現(xiàn)場(chǎng)、在天臺(tái)上、在凹凸不平帶著小圓點(diǎn)的塑料凳子上，簽下了我們這輩子第一份保密協(xié)議。我當(dāng)時(shí)又困惑又緊張，甚至劃破了紙。

這份協(xié)議至今仍然有效。因此我不能告訴你，我的讀者，我不能告訴你醫(yī)生的名字，我不能告訴你我的名字，我不能告訴你“似界”的項(xiàng)目編號(hào)或者我所在的公司的名字。我所說(shuō)的一切技術(shù)都已經(jīng)是公開(kāi)的和為人所知的。我至今仍然無(wú)法談?wù)撃切┎粸槿酥牟糠?。盡管其中有一些已經(jīng)和醫(yī)生一起長(zhǎng)眠深海。

很多年前，我和醫(yī)生爭(zhēng)吵的時(shí)候，他嘲笑了我對(duì)詩(shī)歌的偏執(zhí)。而我對(duì)他說(shuō)，人生而殘缺，而藝術(shù)可以提供完整的幻覺(jué)。

如果有可能，我想要告訴他。我錯(cuò)了。

有些失去永遠(yuǎn)無(wú)法用藝術(shù)填補(bǔ)。

4

醫(yī)生把公司開(kāi)在一個(gè)二線城市的三環(huán)外，在那里，他買(mǎi)下的破廠房和周圍的城中村違章建筑風(fēng)格無(wú)比一致。那些年里，我白天在那里工作，中午在食堂爭(zhēng)搶免費(fèi)水果里的小番茄，晚上回到單人宿舍，揉我的貓，收拾房間、洗個(gè)澡、然后一身疲憊地落入夢(mèng)鄉(xiāng)。

那時(shí)候我從來(lái)沒(méi)想到，這份工作會(huì)把我?guī)蠠o(wú)人戰(zhàn)場(chǎng)。

當(dāng)然，我其實(shí)沒(méi)有真正到過(guò)N區(qū)。

無(wú)人戰(zhàn)場(chǎng)名副其實(shí)，那里在開(kāi)戰(zhàn)后就已經(jīng)空無(wú)一人。當(dāng)?shù)鼐用窀鶕?jù)他們的信仰和信念，收拾行裝逃往不同的方向。如今那片土地上只有無(wú)人機(jī)、自走機(jī)器人和自行戰(zhàn)車，它們開(kāi)出廠房，駛下運(yùn)輸機(jī)，穿過(guò)臨時(shí)機(jī)場(chǎng)那塵土飛揚(yáng)的跑道，進(jìn)入無(wú)人戰(zhàn)場(chǎng)，開(kāi)始沖撞彼此、轟炸彼此。

我只在分析室里見(jiàn)過(guò)N區(qū)。那個(gè)長(zhǎng)條形房間燈光昏暗，墻壁上并排掛著兩幅投影屏，左邊是人工智能分析終端生成的N區(qū)圖像，右邊是無(wú)人機(jī)拍攝視頻里的N區(qū)風(fēng)景。

它們迥然不同。

擁有“似界”這樣的A.I.的人，不只是我們，還有敵人。雙方都在用盡一切辦法愚弄對(duì)方自主作戰(zhàn)機(jī)器人的眼睛。

因此，在人工智能的分析圖像里，整個(gè)N區(qū)顯現(xiàn)出難以置信的光怪陸離，就像是具象化的卡爾維諾小說(shuō)，或者動(dòng)態(tài)的達(dá)利油畫(huà)。

我至今保留著一段N區(qū)的人工智能全景視頻。在那段視頻里，天空湛藍(lán)、陽(yáng)光明亮，棉花般的云朵中間倒掛著一座索橋，正呼嘯著向鏡頭的方向沖過(guò)來(lái)。

這甚至不是整段視頻里最怪異的部分。

在被集束炸彈破壞得坑坑洼洼的地面上，奔跑著各種莫可名狀的事物。我能從中間分辨出一只藍(lán)色的袋鼠、兩條直徑比人還粗的繩索、一只琺瑯鼻煙壺和六架不同顏色的天文望遠(yuǎn)鏡。

在視頻里，它們看起來(lái)模糊不清、破碎跳動(dòng)，彼此沖撞廝打，仿佛一群不真實(shí)的野獸。

而醫(yī)生的大臉則投射在這些莫可名狀的事物彼方，比兩層樓還高，如同一尊架空而來(lái)的彌勒佛般開(kāi)口大笑。

如果比對(duì)直接拍攝的視頻，就可以看出，這些互相廝打的異物都是刷有“愚弄迷彩”的自走機(jī)器人;天空中呼嘯而來(lái)的是一架大型無(wú)人機(jī);而被錯(cuò)誤識(shí)別為醫(yī)生面孔的，則是高達(dá)二十六米的移動(dòng)智能堡壘。

對(duì)方也使用了“似界”的技術(shù)。把愚弄自動(dòng)戰(zhàn)爭(zhēng)機(jī)器的迷彩刷在每一臺(tái)機(jī)器上，讓?xiě)?zhàn)場(chǎng)指揮A.I.產(chǎn)生嚴(yán)重的錯(cuò)覺(jué)，迫使我們不得不倒退回用人手操控戰(zhàn)爭(zhēng)機(jī)器的時(shí)代。而且他們甚至還有余裕來(lái)掌控這些錯(cuò)覺(jué)的細(xì)節(jié)。

當(dāng)時(shí)，我們認(rèn)為那是對(duì)方對(duì)我們的示威。

第二天晚上，噩耗從海上傳來(lái)，我們才知道，那是對(duì)方相信自己已經(jīng)勝利的宣言。

我們最終還是奪回了N區(qū)。

但沒(méi)有人能把醫(yī)生帶回來(lái)給我們。

給我。

5

他們叫我過(guò)去的時(shí)候，已經(jīng)是醫(yī)生的飛機(jī)墜入深海的第九天。這一次我簽下了差不多一指厚的保密協(xié)議，才得已見(jiàn)到那個(gè)幸存下來(lái)的飛行員。

她看起來(lái)疲憊、驚恐、雙眼紅腫，而且充滿不安。他們給她安排的房間寬敞而舒適，但這并不能改變她正在被監(jiān)控的事實(shí)。我看了他們對(duì)她每一次問(wèn)詢的記錄。但我決定還是面對(duì)面地和她談一談。

當(dāng)我走進(jìn)去的時(shí)候，她甚至都沒(méi)有抬頭，只是大聲地喊：“出去！我都說(shuō)過(guò)了！我不想再說(shuō)一遍！”

我在她對(duì)面坐下。

“我叫他醫(yī)生?！蔽艺f(shuō)，“他叫我鏡子?！?/p>

這句話讓她抬起頭來(lái)，困惑地看著我。我對(duì)她說(shuō)了醫(yī)生的名字，我看到她臉上的表情由不滿變成悲哀和內(nèi)疚。

“我真的什么都沒(méi)有注意到。”她說(shuō)，“雷達(dá)和目視都一切正常?！?/p>

我搖搖頭。

“我相信雷達(dá)一切正常?！蔽艺f(shuō)，“在現(xiàn)代戰(zhàn)爭(zhēng)里，要騙過(guò)雷達(dá)的辦法很多?！?/p>

她又轉(zhuǎn)為警惕，“那你的意思是，我沒(méi)有看到那個(gè)迎面撞上我飛機(jī)的東西？”

“我覺(jué)得你看到了?！拔艺f(shuō)，“只不過(guò)那個(gè)東西太怪異，怪異到你都不相信它會(huì)在那里，怪異到你覺(jué)得它應(yīng)該是個(gè)幻覺(jué)。而你是個(gè)飛行員，你的訓(xùn)練要求你理智冷靜，要求你忽略那個(gè)看到不可思議的東西的瞬間。”

她看著我，嘴唇微張，欲言又止。

我拿出手機(jī)，給她看那段視頻。給她看廝打在一起的望遠(yuǎn)鏡和袋鼠，以及空中飛掠并開(kāi)火的懸索橋。

她的眼睛睜大了。

“很多年前，”我說(shuō)，“有一群科學(xué)家……”

這個(gè)故事是醫(yī)生講給我聽(tīng)的。我向他抱怨說(shuō)我對(duì)他的工作一無(wú)所知。他就笑著摸我的頭，說(shuō)，要給我講一個(gè)一無(wú)所知的人也能懂的、關(guān)于人工智能和他的工作的故事。

我記住了他說(shuō)的每一個(gè)字。并在很多年后，講給那個(gè)飛行員，也講給你聽(tīng)。

6

很多年前，有一群科學(xué)家。他們想要?jiǎng)?chuàng)造出和人一樣聰明，能夠作出判斷和選擇的機(jī)器。但他們選擇了不同的方法去做。

有些科學(xué)家，他們用做鐘表的方法去做，只要“齒輪”轉(zhuǎn)到了合適的位置，就能給出時(shí)間。而鐘表不需要理解時(shí)間本身。

另一些科學(xué)家，他們選擇用更困難的方法，去仿造人類的神經(jīng)系統(tǒng)。仿造你和我的大腦，來(lái)做這種機(jī)器。他們希望機(jī)器能夠真正地去“理解”和“認(rèn)知”。

這就是我們今天最常見(jiàn)的人工智能——至少是人工智能的一種。

起初，他們很成功。

但是后來(lái)，這些科學(xué)家發(fā)現(xiàn)，他們做出來(lái)的人工智能是有缺陷的。雖然這些機(jī)器可以識(shí)別百分之九十九的圖片、聲音、文字，但是總有那么百分之一的東西，它們會(huì)認(rèn)錯(cuò)。把狗認(rèn)成摩托、把花看成跳舞的女人，或者把歌聲判斷成警報(bào)。

科學(xué)家們收集了這些會(huì)讓人工智能出錯(cuò)的事物。開(kāi)始研究。在這里，他們又一次選擇了不同的路。

有些人認(rèn)為，這種錯(cuò)誤是最終可以消除的。因此他們一直致力于糾正這些錯(cuò)誤。

但另一些科學(xué)家認(rèn)為，這種錯(cuò)誤根植于人工智能的基本結(jié)構(gòu)——而這個(gè)基本結(jié)構(gòu)同時(shí)也是人類神經(jīng)系統(tǒng)的基本結(jié)構(gòu)。他們認(rèn)為這種錯(cuò)誤無(wú)法消除，但可以總結(jié)出其中的規(guī)律。

我做的事情就是后一種。

“似界”的算法讓它能夠發(fā)現(xiàn)和生成這些帶來(lái)錯(cuò)誤認(rèn)知的事物。它已經(jīng)超越了色彩、圖像和意義，給認(rèn)知本身披上了偽裝。

而在自主武器系統(tǒng)遍布全球、無(wú)人戰(zhàn)爭(zhēng)多點(diǎn)開(kāi)花的今天，每一張錯(cuò)誤認(rèn)知圖片，每一塊愚弄迷彩，都有可能從無(wú)人機(jī)轟炸下拯救一條生命;每一條錯(cuò)誤認(rèn)知文本都有可能繞過(guò)無(wú)孔不入的網(wǎng)絡(luò)監(jiān)視、傳遞至關(guān)重要的密碼;每一組錯(cuò)誤認(rèn)知聲音都有可能擾亂對(duì)方的信息系統(tǒng)。

我不知道是戰(zhàn)爭(zhēng)找到了我。還是我找到了戰(zhàn)爭(zhēng)。

但是讓我再重復(fù)一次。

“似界”創(chuàng)造的每一個(gè)錯(cuò)誤認(rèn)知，其錯(cuò)誤都根植于人工智能算法的基本結(jié)構(gòu)，而這個(gè)結(jié)構(gòu)脫胎于人類的神經(jīng)系統(tǒng)。

我正在走向更遠(yuǎn)的地方。去找尋更深處的錯(cuò)誤認(rèn)知。

我要尋找的是那些人類也無(wú)法避免的錯(cuò)誤認(rèn)知。

我要?jiǎng)?chuàng)造的是一個(gè)真正似是而非的世界。

如果能撥開(kāi)這些錯(cuò)覺(jué)的迷霧，或許我們就能看見(jiàn)世界背后的真實(shí)。如果能掌握這種錯(cuò)誤認(rèn)知的力量，我們或許就能獲得更強(qiáng)大的武器。

而且我必須要快。

我們有敵人，而且敵人和我們一樣聰明。

7

“……我看見(jiàn)一個(gè)月亮?！彼f(shuō)，“我看見(jiàn)一顆月亮向我飛來(lái)，我甚至能看清楚它上面的環(huán)形山。那是在白天，天空那么明亮，而那個(gè)月亮離我那么近，仿佛伸手就能摸到，它又那么小，直徑比我的飛機(jī)的翼展還窄。像一塊完美的圓形石頭。我想我一定是太累了，出現(xiàn)了幻覺(jué)。然后那顆月亮就撞在了飛機(jī)上。我以為是我的錯(cuò)——”

我拿出一張圖片。給她看。

“你看到了什么？”

她的聲音微弱下去，“……月亮?！?/p>

我拿出一張經(jīng)過(guò)特殊設(shè)計(jì)的雜色濾光片，它可以擾亂固有的視覺(jué)模式，重置被欺騙的神經(jīng)信號(hào)。我把它疊在圖片上，再給她看。

“你現(xiàn)在看到了什么？”

“這是……這不可能……”

我嘆口氣。

在那張照片上，一架涂滿了愚弄迷彩的無(wú)人機(jī)正掠過(guò)天空。

8

“我要叫你鏡子?！贬t(yī)生曾經(jīng)這樣說(shuō)，“因?yàn)槟惚任腋h(yuǎn)離真實(shí)，又比我更接近真實(shí)?！?/p>

我是個(gè)色盲。很微弱的那種。我分不清藍(lán)色和綠色。這讓我可以免疫大概百分之三十的、針對(duì)人類設(shè)計(jì)的錯(cuò)誤認(rèn)知迷彩。

和我一起工作的人里，有些是紅綠色盲，但更多的是非常稀有的全色盲。他們幾乎可以免疫絕大多數(shù)的錯(cuò)誤認(rèn)知迷彩。

根據(jù)我們的視覺(jué)模式，一批批單色和轉(zhuǎn)色濾光片被制造出來(lái)，保護(hù)那些被困擾的戰(zhàn)士和被愚弄的人工智能。讓他們能夠穿過(guò)硝煙，穿過(guò)戰(zhàn)場(chǎng)，去尋找真相。

但世界正在一天接一天地失去真實(shí)。在前線，我甚至看到過(guò)刷滿愚弄迷彩、偽裝成山脈的一整棟大樓。人們這么做并不是為了贏得戰(zhàn)爭(zhēng)，而是那些充滿恐懼的居民想要讓自己從世界上消失。

最近，我聽(tīng)說(shuō)已經(jīng)有針對(duì)色盲者的錯(cuò)誤認(rèn)知迷彩被開(kāi)發(fā)出來(lái)。人們將欺騙人工智能的方法轉(zhuǎn)而用到欺騙人眼上，開(kāi)發(fā)出了能夠超越濾光設(shè)備的通用認(rèn)知擾亂圖形。

這讓我感到了緊迫。

很多科學(xué)家一起接手了醫(yī)生留下來(lái)的研究工作。他們和我一樣憂心忡忡。

醫(yī)生說(shuō)的話依舊回蕩在我們耳邊。

必須要快，他說(shuō)。

我們有敵人，而且敵人和我們一樣聰明。

【責(zé)任編輯：阿 吾】