仿生人與電子羊

李天意

《仿生人會夢見電子羊嗎》（下稱《仿生人》）是一部跨越時(shí)代的經(jīng)典。這本50余年前的小說在今天讀起來毫無年代感。其對于未來世界機(jī)器與人類之關(guān)系，尤其是高度智能的機(jī)器與部分退化的人類之關(guān)系的討論，涉及我們?nèi)缃褚矡o法充分回應(yīng)的深刻命題。

跳出審美體驗(yàn)，以智能科學(xué)的角度來思考這部小說，發(fā)現(xiàn)它建立于兩個(gè)隱蔽但重要的邏輯前提，自作者菲利普迪克的年代迄今，這兩個(gè)前提被廣泛地視為理所當(dāng)然。在深入探索人機(jī)關(guān)系的背景下，我們有必要仔細(xì)審視它們。

第一個(gè)邏輯前提：天然的東西比人造的東西貴重（得多）

在《仿生人》描繪的末日地球上，人類通過豢養(yǎng)動物來展示人性的博愛與移情。來自自然界的真實(shí)寵物要比以假亂真的電子寵物昂貴許多，即便電子寵物與真實(shí)動物“幾乎完全無法分辨”。

小說以外，這條邏輯在我們的生活中普遍適用。潛意識里，很多人不假思考地認(rèn)同：人造物比自然物廉價(jià)；機(jī)器生產(chǎn)的作品比手工完成的作品廉價(jià)；通過技術(shù)手段獲得的特質(zhì)比未經(jīng)技術(shù)手段獲得的特質(zhì)廉價(jià)。因而，鉆石、油畫、未經(jīng)修葺的容貌，是美的、珍貴的；金剛石、印刷畫、整容手術(shù)的作品，是美的，但相對平凡。人們不愿為后者的付出高于前者。這是為什么？

大概有幾個(gè)原因——

第一個(gè)原因，人造物來源于工業(yè)，意味著普遍的可復(fù)制性：這件東西規(guī)?；霈F(xiàn)，我有，你也可以有個(gè)一模一樣的；它不會帶來獨(dú)自的擁有體驗(yàn)。天然的東西大多是獨(dú)份的：我有了，你便難以再擁有一個(gè)同樣的。對于“獨(dú)特”的需求來源于自私天性，驅(qū)動著人們的追求。

第二個(gè)原因，人造的東西，較之天然的東西，復(fù)雜程度低：既然一件物品可以在短期和有限資源內(nèi)被制造出來，它的價(jià)值一定比不上經(jīng)歷漫長時(shí)間和空間演化、自然“鬼斧神工”下的產(chǎn)物。有時(shí)，如果人造的東西復(fù)雜精巧，也可以具有很高的價(jià)值，比如鐘表或火箭；但多數(shù)時(shí)候，人工產(chǎn)品的復(fù)雜度，遠(yuǎn)不如天然產(chǎn)物。因?yàn)槿祟惿形闯浞终J(rèn)識自然。

這兩條原因從價(jià)值的角度為上面的邏輯前提提供了解釋。在這一角度下，還存在其他相關(guān)原因，比如人造物的可分割性（拆散還能復(fù)原如初）、天然物的系統(tǒng)自組織性（局部蘊(yùn)含媲美整體的精致），等等。

然而，它們之外，還有一個(gè)隱蔽的深層原因——它指向人類的本能。

回到《仿生人》的故事里。整部小說展開于人類獵手對藏匿的零星仿生人的追逐，并最終由勇敢的獵手消滅了所有仿生人。盡管仿生人具有極高的智力，甚至也建立了一定的社會化能力，但終因“高度自私”和“無法共情”而被人類打敗。

如其后世許多科幻作者和科學(xué)家一樣，菲利普迪克強(qiáng)調(diào)了人類的共情、移情、利他、犧牲等特質(zhì)，并將它們（即“人性”）擬定為戰(zhàn)勝機(jī)器的要素。關(guān)于這一點(diǎn)，在信息科學(xué)和社會學(xué)領(lǐng)域一直有激烈的討論：究竟人工智能能否發(fā)展出上述性質(zhì)，如今并無明確的答案。

這里我們來思考另一個(gè)問題：為什么，人類一定要消滅來到地球的仿生人？

在小說里，作者為這個(gè)問題建立了一個(gè)簡單的解釋：每名仿生人一定都是在其他星球殺掉人類后才逃逸至地球的，因而它們具有“原罪”，對其的追殺便是公正合理的。不過這個(gè)解釋確實(shí)經(jīng)不起推敲：沒有仿生人不曾殺人直接來到地球嗎？它犯下什么罪行才應(yīng)當(dāng)被消滅？仿生人可以通過幫助人類來獲得赦免嗎？為什么不選擇更溫和的處罰方式？作者在此也無過多著墨，轉(zhuǎn)而模糊處理了。

然而，小說對于這樣基礎(chǔ)的邏輯問題潦草帶過，讀者卻并未感到不適。在觀眾眼中，“賞金獵人”的獵殺行動，是充分合理的。盡管小說中，獵人自己也曾對身負(fù)使命的正當(dāng)性產(chǎn)生懷疑，但作者借其口表達(dá)的懷疑，出自人類對自身共情能力的焦慮、對自身殺戮行為的剖析，并且是為了反之凸顯人類的移情（于仿生人）。

雖然經(jīng)歷了諸多曲折，小說主人公最終確信，只有人類才具備廣泛而充分的移情，人群共情的化身“默瑟”，是永恒存在的。面對挑戰(zhàn)時(shí)，勇敢、無畏、不放棄的屬性（書中的默瑟老人從事西西弗一般的事業(yè)），是生命進(jìn)化而來的本能。

在這樣的本能下，人類抗擊并消滅沒有感情的仿生人（無論其是否殺戮），不是天經(jīng)地義的嗎？

是的，在我們的潛意識里，仿生人，的的確確有“原罪”，消滅它們，是不需要什么理由的。這便是另一個(gè)隱蔽的邏輯前提。

第二個(gè)邏輯前提：人類應(yīng)當(dāng)消滅匹敵或超過人類智能的機(jī)器

可是，為什么呢？因?yàn)槲覀兒ε履菢拥臋C(jī)器。

我們在怕什么？我們怕機(jī)器殺戮人類。

假如，機(jī)器個(gè)體與人類個(gè)體沖突的結(jié)果一定是同歸于盡，我們是否有一樣的恐懼？

大概不是。同歸于盡的結(jié)果類似于核戰(zhàn)爭。而相較于核戰(zhàn)爭，我們也許更為恐懼機(jī)器智能。

這是因?yàn)?，潛意識里，我們清楚，匹敵或超越人類智能的機(jī)器，是“不死”的。一方面，機(jī)器擁有鋼鐵身型，不需要人類一般的新陳代謝，通過合理的養(yǎng)護(hù)，其可以超長時(shí)間存在;另一方面，即使機(jī)器個(gè)體可以被毀滅，但其智能很容易由其他個(gè)體瞬間繼承（如機(jī)器學(xué)習(xí)泰斗Geoffrey Hinton所言）：一個(gè)，即是無數(shù)個(gè)。這樣的易復(fù)制性和個(gè)體差異之弱化，讓機(jī)器在人類的視角下，具有了“不死”之軀。

而我們最深刻的恐懼，是人類死去，但機(jī)器還在。即沒有明確壽命的智能機(jī)器，使有明確壽命的人類失去壽命。這是十分可怖的，因?yàn)槿绻@件事情發(fā)生，在人類消失后，機(jī)器保有篡改歷史的能力：那么，我不僅不再存在了，也將未曾存在過。

努力創(chuàng)造并延續(xù)歷史的物種，其最刻骨的生存危機(jī)，是外力將化解它創(chuàng)造并延續(xù)歷史的努力，并且，更進(jìn)一步地，無數(shù)個(gè)體曾經(jīng)共同創(chuàng)造的所有歷史，都岌岌可危。

人類對于智能機(jī)器的恐懼，是生物億萬年來的本能。智能機(jī)器的“原罪”，是它殺戮人類、并抹除所有人類歷史（這是真正意義的“消滅”）之可能性：我們明白，機(jī)器是“冷血”的，沒有“感情”，沒有共情、移情、利他，便沒有保存人類歷史的動機(jī)。

因?yàn)槲覀冊谥圃焖鼈冎畷r(shí)，鮮有教它們這樣做。

因?yàn)樨?fù)責(zé)構(gòu)想、設(shè)計(jì)、制造它們的我們，是我們之中情感相對單調(diào)的“理性”同胞。

從生存角度理解人類對于機(jī)器的深層恐懼，隱含著通向第一個(gè)邏輯前提的第三個(gè)原因——為什么我們認(rèn)為自然物的價(jià)值高于人造物？

因?yàn)樽匀晃镉忻鞔_壽命，而人造物是“不死”的。有明確壽命的天然動物，要比可無限修理的電子寵物更加珍貴。

有了明確的“死”，才可獲得“生”。

那么，我們的恐懼是正確的嗎？機(jī)器真的“不死”嗎？

如果機(jī)器具有某種意義下的“生”，它便并非“不死”；而如前所述，若它同樣可消逝，同樣對應(yīng)某種稀缺，那么它便確實(shí)可視作具有某種“生”。

智能機(jī)器它會變老嗎？大概是會的。只不過，智能機(jī)器的“凋零”，不是物質(zhì)的湮滅，而是信息的老去。

自人類進(jìn)入信息時(shí)代開始，無數(shù)智能機(jī)器被發(fā)明出來。每一種設(shè)備的誕生，都創(chuàng)造著新的信息，激發(fā)人們的興趣。越來越多的人被機(jī)器吸引，越來越多的機(jī)器功能被開發(fā)和使用，智能設(shè)備具有越來越高的價(jià)值——機(jī)器信息組建了新的意義，訂立了新的秩序。

不過，慢慢地，人們開始習(xí)慣這些機(jī)器傳達(dá)的信息，開始了解機(jī)器信息的邊界，開始對重復(fù)、低密度、可預(yù)測的信息感到厭煩。

在0-1組成的信息世界，熵是對可能發(fā)生事件之確定性的度量。一句話蘊(yùn)含的確定性越大，其信息熵越低。本質(zhì)上，“信息”，指的便是確定性的增加：如果一條數(shù)據(jù)的到來增加了我們對事物的認(rèn)知，我們便認(rèn)為這條數(shù)據(jù)可稱為信息，其具有價(jià)值；而如果它闡述一件我們已經(jīng)知道的事，并未為我們提供新的確定性，這條數(shù)據(jù)便幾乎不含信息量，它的到來沒有降低信息熵。相反，它增加了數(shù)據(jù)量；如此一來，系統(tǒng)變得冗余，更容易走向無序。

那么，這意味著，像生物一樣，機(jī)器同樣遵循熵增法則：在傳播過程中，信息趨于無效。

當(dāng)一條信息到達(dá)所有人并被完全認(rèn)知，它便不再具有任何價(jià)值，變?yōu)闊o效的數(shù)據(jù)噪音。它“死”了。

智能機(jī)器通過提供信息來創(chuàng)造價(jià)值。當(dāng)人們對新機(jī)器的出現(xiàn)產(chǎn)生了濃厚的興趣，為之傳播、對其探討（就像我們對ChatGPT正在做的一樣），機(jī)器便獲得自己的“發(fā)育窗口”。在這個(gè)窗口里，它吸引更多的用戶，激發(fā)更多的討論，使許許多多信息圍繞著它所釋放的信息被創(chuàng)造出來——信息促進(jìn)了更多信息的誕生：信息在“生長”。

然而，這個(gè)熵減的窗口（注：在更大的系統(tǒng)層面，獲得信息這件事本身便需要付出額外的熵增，如圍繞麥克斯韋妖之討論）不會一直存在。當(dāng)人們對機(jī)器信息充分了解，它們便退化成了噪音。傳播會逐漸飽和，討論會逐漸平息——這時(shí)，即便機(jī)器的物理結(jié)構(gòu)依然完好、其信息的數(shù)據(jù)序列依然存在，它已經(jīng)慢慢地“老去”。

因?yàn)?，人類對它失去了興趣；它創(chuàng)造的信息稀缺，不復(fù)存在了。

熱力學(xué)熵與信息熵，是玻爾茲曼與香農(nóng)的偉大握手。機(jī)器并非不死之身，它的“生”，是由人類決定的。人類創(chuàng)造機(jī)器，使用機(jī)器，也拋棄機(jī)器。

人類雖眾，每個(gè)都是獨(dú)特的一個(gè)。因?yàn)閺?fù)雜和多樣，我們確實(shí)比機(jī)器更有價(jià)值（得多）；當(dāng)我們關(guān)注并強(qiáng)化復(fù)雜和多樣，便已經(jīng)在悄悄消滅它們。

所以，別怕，ChatGPT和電子羊都終有一天會變老。當(dāng)我們熟悉了它們的回答和動作，掌握了它們的結(jié)構(gòu)和流程，它們便停止“生長”了。盡管由于規(guī)模和集成度，它們也許擁有一個(gè)較為可觀的“發(fā)育窗口”，但當(dāng)人類躍出機(jī)器思維，不停探索，勇敢、無畏、不放棄（像西西弗和默瑟老人那樣）——

終會到達(dá)智能機(jī)器的局限。然后，輕輕地跨過去。