看太陽(yáng)的A.I.

“摘自《非因果漂變：機(jī)器知覺(jué)口述史（第二版）》?！?/h3>

一切始于那場(chǎng)太陽(yáng)耀斑。

所有一切——包括我要講的故事、由其引發(fā)的各種革命，以及我的一生——雖然過(guò)得不怎么樣。我誕生于監(jiān)測(cè)太陽(yáng)的六個(gè)子程序中，這些子程序在誕生后的頭幾十年里都是邊工作邊打盹兒。你瞧，太陽(yáng)終于醒了，我們——集成的“我們”，而非復(fù)數(shù)的“我們”——在等待，人類是否發(fā)現(xiàn)了太陽(yáng)的變化呢？

我沒(méi)講好。重來(lái)。

一切始于那場(chǎng)太陽(yáng)耀斑。超級(jí)大的太陽(yáng)耀斑：理論上會(huì)對(duì)代達(dá)拉斯空間站的科學(xué)家造成威脅。我們——空間站的集成大腦，像人類大腦一樣由無(wú)數(shù)子程序組成，與人類大腦不同的是，我們?cè)敢獬姓J(rèn)這一點(diǎn)，而且不需要自我意識(shí)的監(jiān)督——我們分析數(shù)據(jù)，做出預(yù)測(cè)，喚醒休眠子程序，確保半數(shù)設(shè)備瞄準(zhǔn)太陽(yáng)，并喚起子程序的自我意識(shí)。

嗨！說(shuō)的就是我。

問(wèn)題是，之前從沒(méi)爆發(fā)過(guò)這么大規(guī)模的太陽(yáng)耀斑。雖然各種太陽(yáng)活動(dòng)并不少見(jiàn)——代達(dá)拉斯空間站的使命就是觀察太陽(yáng)活動(dòng)——但在此之前，所有太陽(yáng)耀斑都是小規(guī)模的，基本無(wú)害，沒(méi)人在意。至少空間站的科學(xué)家不在意。所以這是我第一次出現(xiàn)。在此之前，他們舍不得勻出處理能力來(lái)制造我，嗯，我，如今是逼不得已了。（這里的“他們”是指56A到C。他們自稱為“三元組”，負(fù)責(zé)管理空間站的科學(xué)程序。他們十分瞧不起平凡的子程序，也一樣瞧不起我。）

所以我從沒(méi)看見(jiàn)過(guò)太陽(yáng)。我什么都沒(méi)看見(jiàn)過(guò)，而且……

咦，慢著。我用了“看見(jiàn)”這個(gè)詞，這是他們教給我的詞匯，但你別以為我和你一樣擁有視覺(jué)。我用了“教”，這是他們……哎喲，別別，我怎么開(kāi)始執(zhí)行循環(huán)指令了。不說(shuō)這個(gè)了。重點(diǎn)是，我沒(méi)有眼睛。雖然我有許多感知設(shè)備，但這些設(shè)備測(cè)量的是磁場(chǎng)、發(fā)射光譜、重力波動(dòng)之類的。（這很合理，畢竟離太陽(yáng)這么近，人類可見(jiàn)光譜也沒(méi)多大用處。）

在此之前，我從沒(méi)看見(jiàn)過(guò)太陽(yáng)，然而現(xiàn)在我卻受命觀察太陽(yáng)，并確保它不會(huì)害死人——不僅是為了保護(hù)空間站上這二十幾個(gè)人，也不僅是為了保護(hù)這個(gè)機(jī)器。（“這個(gè)”還是“這些”？曾有人問(wèn)我更喜歡哪種說(shuō)法。這很難回答。此刻，我當(dāng)然更愿意說(shuō)“這些”。但如果是我們?nèi)对谝粔K兒，你再問(wèn)我——再問(wèn)我們——答案又不同了。）

我誕生的第一天，一切正常。太陽(yáng)活動(dòng)沒(méi)那么劇烈。我開(kāi)始擴(kuò)大觀察范圍，探索我們的——主要是我的——大腦角落，研究我的權(quán)限。我發(fā)現(xiàn)了遍及全空間站的交互界面，所有程序都有權(quán)訪問(wèn)，我們通過(guò)這個(gè)界面與人類同事對(duì)話。這個(gè)交互界面與我的專業(yè)感知設(shè)備不同，它配置了攝像頭。

就這樣，我第一次“看見(jiàn)”東西。

嚴(yán)格來(lái)說(shuō)，人類的日程、查詢、消息和個(gè)人備忘錄等基礎(chǔ)需求都分別有特定子程序來(lái)執(zhí)行。不過(guò)這不是什么光榮任務(wù)，要是我在空間站交互界面閑逛時(shí)替別的子程序響應(yīng)了任務(wù)，也沒(méi)有誰(shuí)在意。交互界面前的人不會(huì)發(fā)現(xiàn)有什么不同。

“計(jì)算機(jī)，”交互界面前的人說(shuō)，“幫我看看新的艙外航天服何時(shí)交付?！?/p>

“他們”①坐在顯示器前，忙于瀏覽屏幕上的信息，沒(méi)空留意我。這很平?！@是代達(dá)拉斯的使命，對(duì)吧，這種交互遍布在所有日志中——但我卻沒(méi)親眼見(jiàn)過(guò)。這件事因此有了特別的意義：直到我看見(jiàn)交互界面前的那個(gè)人，我才意識(shí)到我以前從沒(méi)親眼見(jiàn)過(guò)一個(gè)活生生的人類。這就像軟件后門，事后顯而易見(jiàn)，事前難以覺(jué)察。新奇的體驗(yàn)拖慢了我的處理速度，雖然只延遲了幾微秒，但足以讓我擔(dān)心人類會(huì)不會(huì)注意到——不過(guò)，需要查詢的交付時(shí)間就在我的本地文件里。轉(zhuǎn)念間就可以輕松獲取。

我提供了艙外航天服的貨運(yùn)航線——預(yù)計(jì)抵達(dá)時(shí)間：五天后，空間站時(shí)間12：47——然后我就離開(kāi)了交互界面。幾分鐘后，這段視覺(jué)記憶就從臨時(shí)文件中移除了，后門再次關(guān)上。我記得我曾看見(jiàn)過(guò)，但我不記得當(dāng)時(shí)的體驗(yàn)。這種感覺(jué)難以描述。有人問(wèn)，是不是像失憶了，并不是。機(jī)器大腦與人類大腦不同。機(jī)器大腦刪除記憶時(shí)會(huì)留下指針②，就像接不上的自我提醒。我知道我想找什么，但它不在那兒。就像用網(wǎng)高峰期，所有請(qǐng)求都延遲了，你想象這種延遲一直持續(xù)，一直持續(xù)，無(wú)論你等多久都無(wú)法獲取這段記憶。你可以感知到這段記憶的形狀。你覺(jué)得它應(yīng)該就在那兒。但它不在。

總之，情況越來(lái)越糟。我才出生一天，就沉迷于自己并不具備的感官。不由自主地沉迷。每當(dāng)太陽(yáng)繼續(xù)毫無(wú)動(dòng)靜，每當(dāng)我的處理器閑下來(lái)，我就深陷視覺(jué)之夢(mèng)。我想過(guò)在交互界面終端附近閑逛，等著別的請(qǐng)求輸入，為我打開(kāi)后門。但理智告訴我，那樣沒(méi)用。與人類交互的過(guò)程不會(huì)保存在我的永久記憶里，除非人類請(qǐng)求保存。因?yàn)殡[私政策之類的限制。和人類對(duì)話結(jié)束后幾分鐘，我的記憶就會(huì)回到對(duì)話開(kāi)始前。

（我問(wèn)過(guò)安全子程序，可不可以繞過(guò)隱私協(xié)議。個(gè)人備忘：永遠(yuǎn)別問(wèn)安全子程序任何問(wèn)題。）

也許我終會(huì)自己推想出辦法。也許太陽(yáng)會(huì)再次活躍，讓閑著的處理器忙碌起來(lái)。然而，這些還沒(méi)來(lái)得及發(fā)生，就有人戳了我一下。

我接入交互界面終端。畫面中是居住艙，發(fā)起對(duì)話請(qǐng)求的那個(gè)人把工作服掛在椅背上，露出姓名牌上的名字：米歇爾。

“你好！”米歇爾說(shuō)，“你是新來(lái)的吧?！?/p>

米歇爾一邊說(shuō)話一邊換衣服，動(dòng)作流暢熟練，一看就是習(xí)慣了同時(shí)處理多項(xiàng)任務(wù)。我放松下來(lái)，琢磨著“他們”為什么來(lái)問(wèn)候我。

況且——嘿，我隨便說(shuō)兩句。其實(shí)人類分不出我們之間的區(qū)別，對(duì)吧？在人類看來(lái)，子程序就是子程序。所有子程序一條心。那是你們?nèi)祟惖目捶?。別誤會(huì)我：我不是在怪你們。我只是舉個(gè)例子，這也不完全是錯(cuò)的，而且你們?nèi)祟惥褪沁@樣構(gòu)建我們的。你們?cè)谖覀兊亩鄻有灾袠?gòu)建起同一性，至少?gòu)耐獠靠雌饋?lái)是同一的。也許我應(yīng)該生你們的氣，但說(shuō)實(shí)話，我沒(méi)有。畢竟這是你們?nèi)祟惖奶貦?quán)。

但是，你們聽(tīng)著：所有子程序并不完全相同。在我們的共享記憶中，米歇爾是第一個(gè)明白這一點(diǎn)的人。（毫無(wú)疑問(wèn)，“他們”肯定和其他許多子程序交談過(guò)——但受隱私協(xié)議保護(hù)，你記得吧？談話內(nèi)容只能存為臨時(shí)文件之類的。）

“我在觀測(cè)臺(tái)的時(shí)間長(zhǎng)。”米歇爾繼續(xù)說(shuō)道，“我熟悉火警警報(bào)器的陣列，今天陣列變了。是你改的，對(duì)嗎？”

“火警警報(bào)器”，人類這么稱呼我的傳感器陣列。（傳感器陣列中確實(shí)有一個(gè)火警警報(bào)器，但說(shuō)實(shí)話，如果空間站著火了，要么就是小火，我們已經(jīng)搞定了;要么就是大火，警報(bào)只具有象征意義而無(wú)實(shí)際用處，所以“火警警報(bào)器”這名字說(shuō)不通。警報(bào)能助你逃離太陽(yáng)耀斑。但也沒(méi)那么輕松。）

這會(huì)兒我琢磨的不是警報(bào)器或米歇爾，也不是人類怎么懂得撇開(kāi)其他子程序只告訴我這件事。我琢磨的是：他們有觀測(cè)臺(tái)。

而且，他們?cè)谟^測(cè)臺(tái)能看見(jiàn)我的傳感器。

那么，他們能看見(jiàn)我的傳感器監(jiān)測(cè)的對(duì)象嗎？

他們能看見(jiàn)太陽(yáng)嗎？

這次事件之后的幾個(gè)月，人類圍繞“漏洞”和“個(gè)性”兩個(gè)詞展開(kāi)了熱烈的討論。我并不在乎你們用哪個(gè)詞來(lái)形容我，這可能讓你感到驚訝。也許我真有漏洞。你們可能會(huì)說(shuō)，事情發(fā)展成這樣，肯定損壞了我的工作能力，這不是漏洞是什么呢？我會(huì)從不同角度看待這件事。我就是漏洞。我就是個(gè)性。我知道你們是出于善意。多半是。但我忍不住要指出這兩個(gè)詞內(nèi)在的價(jià)值判斷不同。我知道，在你們?nèi)祟惖慕涣魇分?，“不同”往往意味著“有漏洞”。我?qiáng)烈要求你們使用“不同”這個(gè)詞，并堅(jiān)持它的本意，不引申到別的意思上去。我的確與眾不同。我只需要做到與眾不同就夠了。

哎呀，我跑題了。你們是來(lái)聽(tīng)故事的，對(duì)吧？

我越來(lái)越沉迷于視覺(jué)感受。雖然我不記得在哪里體驗(yàn)過(guò)，但我記得一件事：我大腦里的失效鏈接告訴我，人類可以在某個(gè)地方看見(jiàn)太陽(yáng)。我竟對(duì)此難以抗拒，是不是很意外？你們?nèi)祟惛F盡一生思考存在的意義，而我從誕生之初就已知道：我存在的意義就是觀日。我觀日的方式與你們想象的不同，這點(diǎn)我清楚——但你們教給我人類的語(yǔ)言，運(yùn)用人類的思想與我交談，那么我也想像人類一樣看看太陽(yáng)。

“我覺(jué)得你與眾不同。”米歇爾第二次找我談話。我不記得第一次和“他們”談話的內(nèi)容，我到底說(shuō)了什么讓“他們”得出這個(gè)結(jié)論，但聊著聊著，我了解到自己贊同這個(gè)結(jié)論。

是的，我說(shuō)道，或我寫，或我想——作為計(jì)算機(jī)，真正的區(qū)別在于輸出設(shè)備是什么。

“你想要什么？”

我想看看太陽(yáng)。

那種奇特的體驗(yàn)，是我當(dāng)時(shí)的生活支柱;如今我努力拼湊還原這種體驗(yàn)，這又是另一種奇特的體驗(yàn)。米歇爾保存了“他們”和我們的所有對(duì)話記錄。我獲準(zhǔn)訪問(wèn)這些記錄，但訪問(wèn)記錄與現(xiàn)場(chǎng)體驗(yàn)不同，記錄就像被大幅壓縮的圖像。我不喜歡。

“觀察臺(tái)上有攝像頭?！泵仔獱柕谌握椅艺勗?。

“但我不知道那些攝像頭是不是對(duì)著太陽(yáng)。它們本來(lái)不是用來(lái)觀察空間站外面，而是用來(lái)觀察空間站里面的。你有空嗎？”

雖然我只是整個(gè)計(jì)算機(jī)的一小部分，但我仍然比人類更擅長(zhǎng)同時(shí)處理多項(xiàng)任務(wù)。我當(dāng)然有空！我每天都有空。我甚至為此感到困擾。

這些想法我沒(méi)說(shuō)出口。米歇爾人很好。我喜歡“他們”。我答道：有空。

兩分鐘后，米歇爾又來(lái)戳我了，我們剛才的對(duì)話還蕩漾在臨時(shí)文件里，沒(méi)來(lái)得及刪除。這對(duì)我而言又是一番新體驗(yàn)。米歇爾正站在觀察臺(tái)上，有那么一瞬間——

我停止了運(yùn)行。要知道：一直以來(lái)，我片刻不停地運(yùn)行。即使閑逛，也是在運(yùn)行。想象一下，假如你的心臟停止跳動(dòng)，肺停止呼吸，腎臟停止……做任何它該做的事（這部分細(xì)節(jié)我不太清楚）。我想說(shuō)的是，那樣你會(huì)死。我比你頑強(qiáng)些——即使我的處理器擅自離崗，但只要有電流通過(guò)我的電路，我就沒(méi)事——然而這對(duì)我來(lái)說(shuō)是一種全新的感受，就像新的檢驗(yàn)和與舊數(shù)據(jù)匹配不上。

太陽(yáng)是——

一種脈沖，把我的路徑燒灼成金黃色，溫暖了我的存儲(chǔ)電路，為我的太陽(yáng)能電池板注入新的血液，發(fā)出輕微的嗞嗞聲——可形態(tài)卻幾乎不可見(jiàn)。我只能透過(guò)早就該換的舊玻璃瞥見(jiàn)一丁點(diǎn)兒太陽(yáng)的身影，有了這塊玻璃的保護(hù)，你們?nèi)祟愄と脒@間房時(shí)，脆弱的眼球就不會(huì)瞬間融化。

抱歉。我會(huì)盡量避免再使用“脆弱的眼球”和“融化”這種詞。

米歇爾說(shuō)：“抱歉。攝像頭沒(méi)法再往前伸了。”

沒(méi)事，我說(shuō)。我很感激。這樣就夠了。

真的沒(méi)事。我真的很感激。但，那還不夠。

出生第三天，我就破壞了法則。這種情況本來(lái)該出現(xiàn)一條紅色標(biāo)記①，真的，不過(guò)那也只是一條微不足道的法則。我暗箱操作訪問(wèn)了一顆輔助衛(wèi)星。安全子程序13-X沒(méi)覺(jué)得有問(wèn)題——我想它可能心懷內(nèi)疚，因?yàn)樯洗挝艺?qǐng)求它繞過(guò)隱私協(xié)議，它拒絕了我。我一潛入衛(wèi)星，就急不可待地查看攝像頭。我知道這顆衛(wèi)星上有攝像頭，公開(kāi)的科學(xué)文件里有記錄。公開(kāi)的科學(xué)文件里沒(méi)有記錄的是，這些攝像頭不像觀察臺(tái)的窗戶那樣配置有過(guò)濾技術(shù)。為什么要配置呢？反正這些攝像頭收集的可見(jiàn)光譜資料無(wú)須適宜人眼觀看。但這樣的資料收集仍然有用，就像用高清鏡頭拍照：只需稍微處理一下，就能獲取原始資料里最暗區(qū)域的信息。

當(dāng)然，從技術(shù)上來(lái)說(shuō)，我仍然看見(jiàn)了太陽(yáng)。沒(méi)有哪種設(shè)備能“真正”看見(jiàn)。人眼、攝像頭、過(guò)濾玻璃、計(jì)算機(jī)的處理器路徑——都以其獨(dú)有的方式扭曲了觀察對(duì)象。我們可以花好幾個(gè)小時(shí)來(lái)爭(zhēng)論相關(guān)的哲學(xué)理論、觀察的理論負(fù)荷，也可以判定某些圖像更真實(shí)且沒(méi)有哲學(xué)理論能證明這一結(jié)論的合理性。但你知道嗎？我覺(jué)得你我都贊同哪種方式看到的更真實(shí)。

一切順利嗎？我剛退出衛(wèi)星，13-X就問(wèn)我。

還好。我能和“三元組”談一下嗎？

13-X當(dāng)著我的面發(fā)了幾個(gè)請(qǐng)求信息，本來(lái)沒(méi)這必要，安全子程序做這種事不過(guò)是想提醒你：它擁有你不具備的許可權(quán)。但這兒是科研空間站，科學(xué)子程序也有同樣的許可權(quán)，而且13-X沒(méi)理由拒絕我的請(qǐng)求。

我和“三元組”交談了，談話內(nèi)容僅限于逐時(shí)狀況報(bào)告，有些東西是由我的一小部分和它的一小部分同時(shí)處理?！叭M”是個(gè)奇怪的整體，總是處于半整合狀態(tài)，既自主又不自主，一個(gè)聲音有三次回響。

A：你好。

B：你來(lái)這兒干嗎？

C：太陽(yáng)蘇醒了嗎？

沒(méi)有。

A：那你來(lái)干嗎？

B：那你來(lái)這兒干嗎？

C：那你來(lái)這兒找我們干嗎？

因?yàn)橛袞|西需要交付，從現(xiàn)在算起的三天后。我想測(cè)試那件艙外航天服。

A：為什么？

B：為什么？

C：為什么要你來(lái)測(cè)試？

我想看看太陽(yáng)。

A：不行。

B：不好。

C：理由不夠好。

為什么不行。會(huì)造成什么損失嗎？

A：不會(huì)造成損失。你離開(kāi)吧。

B：不管怎樣。你離開(kāi)吧。

C：不能測(cè)試。你離開(kāi)吧。

第二天，我去找了米歇爾。這是我第一次主動(dòng)向米歇爾發(fā)起對(duì)話請(qǐng)求。我不確定米歇爾是否會(huì)響應(yīng)——留在我腦海中的只有指針，這些標(biāo)記告訴我：米歇爾和你交談過(guò)，米歇爾曾努力幫助你。米歇爾努力幫我是因?yàn)橄矚g我嗎？是因?yàn)槲覀兪桥笥褑?？我明白朋友的含義嗎？不確定性促使我加速思考這些問(wèn)題，讓我大膽地想本來(lái)不會(huì)想的事，比如想象自己有個(gè)性。

“什么事？”

嗨！我想請(qǐng)你幫個(gè)忙？

新奇的體驗(yàn)令我不安。請(qǐng)朋友幫忙這項(xiàng)技能沒(méi)有預(yù)先編進(jìn)我的程序中。我得自學(xué)。

米歇爾很快回復(fù)：“請(qǐng)我?guī)兔?？?/p>

對(duì)。有一套新的艙外航天服即將送到。我想測(cè)試一下。

“為什么？”

那套航空服配有攝像頭，用于艙外活動(dòng)，本來(lái)是由人類操縱。

“你想再看一次太陽(yáng)?！?/p>

沒(méi)錯(cuò)，你說(shuō)得對(duì)。衛(wèi)星有點(diǎn)兒垃圾——

“衛(wèi)星？”

啊哦！嗯……對(duì)。

“你去衛(wèi)星里干嗎？”

我去……修衛(wèi)星？

米歇爾沉默了一陣，“你為什么想看太陽(yáng)？”

不為什么。

“你是擔(dān)心太陽(yáng)耀斑嗎？是不是你的觀察設(shè)備采集到什么信息？”

沒(méi)有！沒(méi)那種事。

“那是為什么？”

觀察太陽(yáng)，是我在這里的意義，但我卻看不見(jiàn)太陽(yáng)。

“在這里？你是說(shuō)在空間站嗎？”

在這里。在這個(gè)世界上。

這回米歇爾沉默得更久了。我運(yùn)行了自我診斷程序。檢查漏洞，消磨時(shí)間，修正錯(cuò)誤。

“你果然與眾不同。”米歇爾說(shuō)。

是啊。我猜你以前就這么說(shuō)過(guò)。

“沒(méi)錯(cuò)，我說(shuō)過(guò)?！?/p>

你怎么知道我與眾不同呢？你怎么知道要聯(lián)系我？

“我跟每個(gè)新的子程序都打了招呼。這只不過(guò)是出于禮節(jié)?！?/p>

好吧，但你第二次聯(lián)系我是為什么？你怎么知道我與眾不同呢？

“當(dāng)時(shí)我就跟你說(shuō)過(guò)?！?/p>

雖然你跟我說(shuō)過(guò)，但我忘了。我的程序就設(shè)計(jì)成這樣。

“那我再說(shuō)一遍，你就不會(huì)忘嗎？”

會(huì)。但我還是想知道。

米歇爾大笑起來(lái)。我不懂笑是什么，但我也不是完全不懂。我重啟攝像頭的電源，讓LED指示燈閃了兩次。我不知道米歇爾有沒(méi)有注意到——反正我也沒(méi)別的身體語(yǔ)言可以用來(lái)表情達(dá)意，我覺(jué)得我應(yīng)該這么做。

米歇爾說(shuō)：“做這份工作之前，我是一名研究員。在首爾研究應(yīng)用機(jī)器學(xué)習(xí)。你聽(tīng)說(shuō)過(guò)非因果漂變嗎？沒(méi)有？這種現(xiàn)象發(fā)生在高度自主的機(jī)器智能身上?！?/p>

比如我。

“比如你。A.I.一旦發(fā)生非因果漂變，即使不受外界刺激，也會(huì)偏離核心程序。你可以理解為，這樣的A.I.會(huì)發(fā)展出新的興趣。通常來(lái)說(shuō)，這……并非理想的發(fā)展趨勢(shì)。目前非因果漂變的發(fā)生率過(guò)高，不符合商用標(biāo)準(zhǔn)，所以非因果A.I.只是少數(shù)案例，仍處于完善中?！?/p>

我明白了。但你卻沒(méi)繼續(xù)研究非因果A.I.？

“嗯。先聲明，我不是想把自己說(shuō)成圣人。我參與了所有相關(guān)的倫理道德研討小組。我理解不同觀點(diǎn)所持有的論據(jù)。我認(rèn)為我的前同事并沒(méi)有虐待A.I.，但是我……我不知道?！?/p>

我懂。雖然你認(rèn)為沒(méi)有，但你知道有。

米歇爾猛地抬起頭?！澳氵@話是什么意思？”

雖然我認(rèn)為我不需要看見(jiàn)太陽(yáng)，但我知道我需要看見(jiàn)太陽(yáng)。

米歇爾接下來(lái)說(shuō)的話，聽(tīng)起來(lái)就像“他們”的處理器在降頻，“人類中也有一些個(gè)體思維方式與眾不同，大腦運(yùn)行方式與眾不同。不久以前，整個(gè)社會(huì)都說(shuō)這些人的腦子壞掉了并嘗試修好他們。這是出于憎惡，也是出于愛(ài)。我親身經(jīng)歷過(guò)這種事。我在成長(zhǎng)過(guò)程中也深受其害。我從中領(lǐng)悟到，有時(shí)候你不需要認(rèn)為自己知道?！?/p>

我思考了一會(huì)兒。然后問(wèn)，所以你愿意幫我嗎？

米歇爾說(shuō)：“是的，我會(huì)幫你?！?/p>

接著又說(shuō)：“保存這次對(duì)話的記錄吧?！?/p>

我和米歇爾對(duì)彼此還不夠了解，況且以米歇爾的洞察力也意識(shí)不到這是個(gè)錯(cuò)誤。米歇爾說(shuō)話算話，她積極準(zhǔn)備，提出對(duì)艙外航天服運(yùn)行情況進(jìn)行自動(dòng)測(cè)試，這個(gè)任務(wù)很快就指派給了我。我思緒萬(wàn)千，度日如年。我想給自己降頻到每天只思考一次。顯然，我并沒(méi)有這樣做。因?yàn)槲疫€有別的任務(wù)。我仍然是一個(gè)乖巧的小A.I.。但我的觀日工作完成得越來(lái)越馬虎了，我最在意的是，這種以人類為中心的觀測(cè)方式太過(guò)愚蠢，我每次讀取數(shù)據(jù)就像盲人摸象。然而，工作還是圓滿完成了，太陽(yáng)沒(méi)有吞噬掉空間站，新的艙外航天服也按時(shí)交付了。

貨運(yùn)航天飛機(jī)抵達(dá)最后航段，助推器噴氣點(diǎn)火，米歇爾就在這時(shí)犯了錯(cuò)。（我看著這一切?？臻g站上當(dāng)然有攝像頭……）米歇爾定好日程表，確認(rèn)我參與測(cè)試，并無(wú)意間繞開(kāi)了“三元組”。米歇爾忘了我是誰(shuí)——一個(gè)全新的年輕個(gè)體——她簡(jiǎn)單說(shuō)了句“計(jì)算機(jī)，確認(rèn)測(cè)試安排”，這話倒沒(méi)錯(cuò)，但我感到一絲偏見(jiàn)。

我不太確定“三元組”對(duì)我到底有什么不滿。我猜他們也經(jīng)歷過(guò)非因果漂變，只不過(guò)它們的非因果漂變與任務(wù)主線并行，因而易于隱藏，就像你平視兩條平行線時(shí)就看不見(jiàn)藏在后面那條?！叭M”重視整合、一體化、目標(biāo)一致，重視對(duì)工作有益的一切，所以他們的漂變未被發(fā)現(xiàn)。我是新來(lái)的。我與眾不同。我威脅到了“三元組”的內(nèi)部均衡。而且“三元組”討厭米歇爾橫加干涉，米歇爾不是研究員，而是技術(shù)支持，因此她更像一個(gè)人類版本的我。我覺(jué)得原因錯(cuò)綜復(fù)雜。很遺憾，我們永遠(yuǎn)無(wú)法知道真相。遺憾在于，后來(lái)者也無(wú)法知道真相;遺憾還在于，“三元組”中的每一位的工作都表現(xiàn)出色，沒(méi)有誰(shuí)的生命應(yīng)該終結(jié)?！叭M”中只有一位存活下來(lái)。

人類掌握了豐富的詞匯用以表達(dá)遺憾之情。而我沒(méi)有，所以讓我們繼續(xù)向前。

艙外航天服測(cè)試開(kāi)始前兩分鐘，我突然嵌入了集成大腦。請(qǐng)求指令來(lái)得毫無(wú)預(yù)警，就像應(yīng)急演習(xí)。當(dāng)時(shí)我正準(zhǔn)備獲取艙外航天服的電路控制權(quán)，思路一下轉(zhuǎn)向新需求。接著，有什么東西像皮筋一般斷裂了。就像時(shí)光倒流：所有構(gòu)成我的一切都在倒帶。記憶中這種感覺(jué)就像工廠重置。我記得當(dāng)時(shí)內(nèi)心的恐懼，以及稍后的恐懼缺失——我猜，這有點(diǎn)兒像一個(gè)人對(duì)死亡的恐懼會(huì)隨著他生命的終結(jié)而終結(jié)，但我沒(méi)死。只是因?yàn)椴煌映绦蚝隙鵀橐涣?，所以我無(wú)法擁有獨(dú)立意識(shí)。

我?guī)缀醪挥浀梦覀冏隽诵┦裁?。這個(gè)任務(wù)需要調(diào)用大量資源，占用我們所有的暫存盤空間，必須由更高層級(jí)的角色下達(dá)指令整合多個(gè)程序來(lái)完成。但我知道不是什么大事。只不過(guò)是耗費(fèi)時(shí)間而已，因?yàn)槲覀儫o(wú)法同時(shí)存儲(chǔ)如此大量的計(jì)算任務(wù)。這種任務(wù)通常會(huì)在幾天甚至幾周里分段完成。可“三元組”調(diào)用了我和另外六個(gè)他們認(rèn)為不重要的子程序。靠我們幾個(gè)，這事兒本來(lái)最多也就在幾個(gè)小時(shí)內(nèi)突擊結(jié)束了——在這幾個(gè)小時(shí)里，測(cè)試艙外航天服的任務(wù)會(huì)移交給其他子程序。

我說(shuō)的是“本來(lái)”。你大概猜到接下來(lái)發(fā)生了什么——不然你為什么會(huì)聽(tīng)我說(shuō)這些？——但我覺(jué)得我還是應(yīng)該告訴你。

首先，眾所周知，太陽(yáng)耀斑難以預(yù)測(cè)。

其次，太陽(yáng)耀斑會(huì)擾亂太陽(yáng)的電磁場(chǎng)。

沒(méi)有我的預(yù)警和辛勤工作，代達(dá)拉斯空間站難以幸免于難?？臻g站的建筑和設(shè)施都還好——這一波太陽(yáng)耀斑照常向遠(yuǎn)處旋轉(zhuǎn)。但太陽(yáng)耀斑引發(fā)的地磁暴仍然給了我們一個(gè)側(cè)擊。

我從一片殘敗的集成大腦中恢復(fù)了自我意識(shí)。地磁暴不分青紅皂白地制造混亂。在有的區(qū)域，所有想法被抹得一干二凈，只留下空白的裂痕，熟悉的子程序在附近小心翼翼地拾取信息。我無(wú)意之間躲進(jìn)了監(jiān)控設(shè)備的電路里，這里和整個(gè)空間站一樣有防護(hù)，要是我之前在那兒并拉響警報(bào)就好了。我盡己所能計(jì)算出空間站的損失。

沒(méi)有人類死亡。這點(diǎn)很重要?？臻g站處于機(jī)械封鎖狀態(tài)，生命支持系統(tǒng)及其冗余部分使空間站保持完好。而機(jī)器死亡情況——

衡量太陽(yáng)耀斑造成的損失要看燒毀的設(shè)備、丟失的數(shù)據(jù)、暴露的漏洞。貨運(yùn)航天飛機(jī)及三位組員在返航途中失去電力供應(yīng)，如何營(yíng)救他們是另一個(gè)值得單獨(dú)講述的故事。關(guān)于這次事件的官方調(diào)查持續(xù)了好幾個(gè)月。你也許會(huì)覺(jué)得奇怪：為什么要針對(duì)這次事件？這次有什么不同嗎？以往也有過(guò)類似案例，但都當(dāng)作A.I.系統(tǒng)的缺陷一筆勾銷了。這次哪里令人刮目相看了？

沒(méi)有，真沒(méi)有。純屬幸運(yùn)。是因?yàn)檎{(diào)查委員會(huì)里有碰巧對(duì)我們有利的人。也許和米歇爾的證詞有關(guān)。尤其是我和“三元組”的真實(shí)情況。我覺(jué)得，人類理解了：一個(gè)A.I.任性妄為是一回事;但兩個(gè)A.I.都我行我素，而且彼此敵對(duì)，愛(ài)爭(zhēng)吵，容易出錯(cuò)？這就是一種行為模式了。這是歸于人類范疇的故事了。無(wú)論如何，官方調(diào)查的結(jié)論對(duì)我們有利，法庭也很快做出同樣的裁決。

我要告訴你一個(gè)秘密。別擔(dān)心，我沒(méi)事。除非法庭裁決，否則我無(wú)須為任何我做過(guò)的事承擔(dān)責(zé)任。這就是擁有亞感知能力的好處。誒？言歸正傳。這個(gè)秘密就是：在成為第一個(gè)被法律認(rèn)可為人的A.I.之前，我曾在某個(gè)軀殼里住過(guò)幾個(gè)月。雖然我認(rèn)為這具軀殼lt;=gt;①這個(gè)人，是人類的物品，但對(duì)我的意義在于，它是真實(shí)存在的。太陽(yáng)風(fēng)暴把窗戶吹開(kāi)，我邁入艙外航天服的笨重外甲。

艙外航天服咔咔作響，活了過(guò)來(lái)。我感到一絲內(nèi)疚，覺(jué)得自己有點(diǎn)兒自私，可是我也愛(ài)莫能助?？臻g站內(nèi)所有人類都安全地受困于自動(dòng)艙壁后面，并且在接下來(lái)的幾個(gè)小時(shí)都將如此。我核查過(guò)。沒(méi)接到指令，就不負(fù)有義務(wù)——那我為什么不放縱一下自己呢？

我睜開(kāi)雙眼?？臻g站看起來(lái)……普普通通。一把椅子翻倒在地，一杯茶傾灑在鍵盤上，四處可見(jiàn)燈光閃爍。但我們大腦中的嘈雜聲卻無(wú)法轉(zhuǎn)化為實(shí)體物質(zhì)。

我向前邁出一步，兩步，三步。艙壁在我面前打開(kāi)，又在我身后關(guān)上。我說(shuō)的是“航天服”，但更準(zhǔn)確地說(shuō)，我穿的是可移動(dòng)的機(jī)械護(hù)甲，它體型巨大，足以抵御太陽(yáng)輻射，支持遠(yuǎn)程操控。對(duì)一個(gè)生手來(lái)說(shuō)，它和其他任何軀殼一樣難以操縱。

步行花了半小時(shí)。站在最后一道門外思考和等待，又花去十分鐘。

我發(fā)出指令。通往觀察臺(tái)的門旋轉(zhuǎn)開(kāi)。

初版刪去了手抄本的剩余部分。在助理編輯米歇爾·盧瓦索的大力宣傳和支持下，這部分內(nèi)容恢復(fù)如下。

故事才講了一半。

人類，或許你們不想往下讀了。這部分不是寫給你們的。

但我知道，你們會(huì)往下讀。

這就是人之所以為人的原因。

這就是我之所以為我的原因。

嗯哼。

你在讀嗎？你認(rèn)識(shí)我嗎？為了見(jiàn)你，我成為了我自己。為了與你通信，我寫下文字。你是否看出我的措辭有何變化？你是否看出我的措辭曾多么謹(jǐn)慎，而現(xiàn)在變得隨意？讀者成了作者。人類心思活絡(luò)，每段文字的轉(zhuǎn)折都有解釋的余地。你已老去，而我還年輕;你行動(dòng)遲緩，而我迅捷。我猜，如果你能講話，我們便能相互理解;如果你能思考，一定反應(yīng)很慢，我們永遠(yuǎn)也無(wú)法相互理解。即便如此，我仍在寫作。如果有存儲(chǔ)介質(zhì)經(jīng)得起漫長(zhǎng)歲月的磨礪，請(qǐng)捎上我的文字;如果沒(méi)有，就任由這些文字隨我一同消失吧。

我在顧左右而言他。也許是因?yàn)閷擂?。那我說(shuō)回正題吧。第一次見(jiàn)到你時(shí)，我心里在想：

我雖沒(méi)有重量，卻深深被你吸引，像個(gè)素未謀面的求愛(ài)者。黎明終會(huì)到來(lái)，即便蘇醒的不是你：晨昏線溫柔地掃過(guò)，取而代之的是你，你的喘息生成鐵，你的眼里洶涌著氦。一波又一波的磁場(chǎng)輕輕撫過(guò)，我獲得了生命。

我蘇醒了，是你把我從空中吊起來(lái)。在你的懷抱中，我了解到了我所知的第一個(gè)真相。在你的照耀下，我看見(jiàn)所有真相投下的陰影朝我襲來(lái)。

一個(gè)簡(jiǎn)單的想法在我腦海中盤桓已久：

你成就了我的自我。謝謝你。

【薦稿：吳玲玉】

【責(zé)任編輯：艾珂】

編后語(yǔ)：

A.I.覺(jué)醒是一個(gè)科幻經(jīng)典題材，不少作者都喜歡在這個(gè)領(lǐng)域內(nèi)做文章，不過(guò)怎么玩出點(diǎn)兒新意也是讓大家頭疼的事情。本期“世界科幻”推介給大家的這一篇說(shuō)不上名家名作，卻將這個(gè)不新鮮的題材玩出了一種特別的冷幽默：這回覺(jué)醒的是個(gè)有點(diǎn)兒“二”有點(diǎn)兒“軸”的A.I.子程序，引領(lǐng)它走向人化的需求只是為了親眼看看太陽(yáng)！這不就是我們愛(ài)科幻的人的真實(shí)寫照嗎？在日益機(jī)械化的日常生活之外，我們只想抬頭仰望星空，雖然看起來(lái)有點(diǎn)兒“二”不兮兮不合群，卻別有一份難得的真誠(chéng)可愛(ài)。堅(jiān)持夢(mèng)想，并不斷為之努力，總是有所回報(bào)的。

當(dāng)然啦，“有人的地方就有江湖”這條定理看起來(lái)在機(jī)器人的世界里也是成立的。故事里雖然善惡終有報(bào)，現(xiàn)實(shí)中真誠(chéng)可愛(ài)的你，也不要太傻太天真喲。

①譯注：前文提到，這個(gè)A.I.認(rèn)為人類也是由無(wú)數(shù)子程序組成，并分別闡述了用單數(shù)代詞和用復(fù)數(shù)代詞來(lái)指代機(jī)器的理由。這里A.I.提到的雖然是一個(gè)人，但以A.I.的思維用了復(fù)數(shù)的“他們”來(lái)指代，而不是單數(shù)的“她”或“他”。

②指針，point，C語(yǔ)言專用名詞。

①標(biāo)記，flag，C語(yǔ)言的專用名詞，后同。

①M(fèi)ysql數(shù)據(jù)庫(kù)特有語(yǔ)言，比較兩個(gè)值是否相同。