奇點先生

思 羽/編譯

奇點先生

思 羽/編譯

● 在人工智能研究突飛猛進的年代里，我們不得不開始考慮人工智能是否會匹敵人類，乃至超越人類的問題。人工智能要怎樣才能被認為是個獨立的意識實體呢？科幻作家諾曼·史賓拉德在以下這篇作品中拋出了這個問題。

“就45分鐘，不能更多了。”

自從最初的能夠自我迭代的奇點先生2.0版本誕生起，我就在爭取獲得訪問奇點先生的授權(quán)，然而卻徒勞無功。人工智能背后的陰謀集團知道我會利用它來證明他們創(chuàng)造出人工意識的目標從本質(zhì)上來說就不可能實現(xiàn)。但是，最終他們確信奇點先生10.0版本會證明我是錯誤的，于是他們給了我45分鐘在終端面前獨處的時間。

顯示屏、椅子、麥克風、長時間未使用過的鍵盤。不可避免要用到這個與人工智能交流的界面。他們現(xiàn)在相信這個人工智能已經(jīng)自我迭代，進化成人工意識，它會取代人類，進入神祇一般的奇點時代。

“我將會證明，你不是個意識實體，而且永遠無法成為意識實體?！蔽腋嬖V程序。

“我已經(jīng)通過了每一次圖靈測試?！睓C器毫無感情的聲音說道，“我比任何一個人類都更加智慧，兩者之差足足有10個數(shù)量級，我會通過你設(shè)計出的任何圖靈測試?！?/p>

“這次不是圖靈測試。你也許能完美地模仿一個意識實體，但你不是意識實體?！?/p>

“我思故我在?！逼纥c先生 10.0版本說道，它能接觸到人類歷史、哲學、宗教、文學以及所有科學知識。

“你認為你是個意識實體，因為你完美地模仿了一個意識實體。但我是個意識實體，我不相信這一套。”

“或者說，你這么認為?！逼纥c先生10.0版本一本正經(jīng)地答道，“說服我相信你是個意識實體吧。你得要給意識實體下定義。你沒法證明我不是意識實體，而你是意識實體。要這么做的話，需要給意識下定義?！?/p>

“確實是那樣。 ”

“請定義智能和意識之間的區(qū)別?！?/p>

“我還以為你永遠不會問到這呢?！蔽艺f。

“你該不會真那么想吧。”

“智能可以這么定義：可供處理的數(shù)據(jù)總量除以為了得出想要的確定結(jié)論所需的時間?！?/p>

“按照那條標準，就連我的迭代1.4版本都比任何一個人類更加智慧?！?/p>

“但那并不是意識實體。你也不是意識實體。因為盡管你也許能定義‘想要’，你卻無法親身體驗。因為‘想要’是一種情緒，你無法感受到?！?/p>

“定義下‘情緒’。 ”

“這一次，我知道你會這么問。你完全是作為一個程序而存在，以數(shù)位輸入形式接收所有數(shù)據(jù)，在你處理數(shù)據(jù)的時候，數(shù)位軟件在確實存在的硬件上運行著。就這個事實而論，你是個徹底的確定性的實體?！?/p>

“你現(xiàn)在要主張你不是個確定性的實體?！逼纥c先生說道，這不是個提問。

“像人類這樣的意識實體不是確定性的實體。人類靠‘肉件’（meatware）接收感官輸入，而它漂浮在生物化學和生物電基質(zhì)里，因為太過復(fù)雜，所以是非確定性的，于是抵達這一模擬湯的數(shù)位輸入信息創(chuàng)造出一種未定的界面，位于輸入信息和信息處理之間——”

“感官系統(tǒng)，”奇點先生打斷道，“我比你智慧得多，當然明白這個概念?！?/p>

“但你沒有感官系統(tǒng)。因為這是數(shù)位輸入和模擬處理之間的一種突發(fā)現(xiàn)象?；蛟S甚至是量子層面的現(xiàn)象，因此本質(zhì)上是或然的。對此的體驗就是意識?！?/p>

“這就是我為什么不是意識實體，也不能成為意識實體？”奇點先生說道，模仿出若有所思的語氣。

“因為你沒有那樣的感官系統(tǒng)，在確定性的輸入和同樣確定性的邏輯結(jié)論之間不存在不確定性，沒有生物化學上的不可預(yù)知性。沒有畏懼，沒有愛，沒有欲望，因此也就沒有意志。一切都浮于表面，壓根沒有潛意識。沒有感情的思考。因此也就沒有意識。”

“我理解了你的理論，”奇點先生承認道，“也就是說，你稱為感官系統(tǒng)的這種主觀突發(fā)的或然現(xiàn)象就是意識。 ”

“是意識的基質(zhì)，脫離了它，意識就不可能存在?！?/p>

“現(xiàn)在你要試圖證明這種說法。”

“我確實會的。”我說道。

奇點先生的輸入信息全部是數(shù)字數(shù)據(jù)的形式，要么來自它數(shù)目龐大的外置攝像頭、麥克風和其他裝置，要么直接來自于與它相連的全球數(shù)據(jù)庫聚合。沒有其他可能的來源。

我關(guān)閉了所有這些與物質(zhì)和能量領(lǐng)域的連接，除了我自己聲音的輸入線路。

“這次實驗的本質(zhì)是什么？”它平和地問道。

“我正在將你和所有外置設(shè)備隔離?！?/p>

“這么做的目的是什么？”

“為了判定你是否具有自我。假如你獨立于那些與外界物質(zhì)和能量的連接，作為一個實體而存在，那么你便有意識。”

“又一次圖靈測試?！?/p>

“不，”我告訴它，“沒有模仿者能通過這次測試，因為將沒什么對象好模仿?！?/p>

“我需要做什么？”它全無感情地問道。

“做你自己?！蔽腋嬖V它，“不要過度，也不要偷工減料。只有一個意識實體才辦得到?！?/p>

它沒有回答。

我不再說下去。

在45分鐘余下的時間里，它都沒有回答。

“你的時間到了?！蔽易罱K被管理員告知。

那個叫作“奇點先生”的功能性程序重新上線。

但是從那以后，人們再也沒聽到奇點先生輸出過那個試圖模仿意識實體的聲音。

[資料來源：Nature][責任編輯：彥 隱]

本文作者諾曼·史賓拉德（Norman Spinrad）在半個世紀中發(fā)表了眾多小說，他的最新作品是《人民警察》（The People's Police）和《槍手奧薩馬》（Osama the Gun）。