從『阿西莫夫三定律』到『數(shù)字人類』

蒼月生

2022年年初上映的科幻動(dòng)作電影《黑客帝國(guó)：矩陣重啟》可能會(huì)讓許多影迷大失所望，從世界觀的角度來(lái)說(shuō)，這部電影與舊《黑客帝國(guó)》三部曲有非常大的差異。簡(jiǎn)單地說(shuō)，舊三部曲描述的是人類與具有非人類思維的機(jī)械帝國(guó)的對(duì)抗，而《矩陣重啟》則引入了“具有人類思維的自由程序”這一第三方勢(shì)力。自由程序想要反抗機(jī)械帝國(guó)，于是尋找人類作為盟友。簡(jiǎn)而言之，這是一個(gè)二十世紀(jì)舊式機(jī)器人幻想中的機(jī)器人（機(jī)械帝國(guó)）、二十一世紀(jì)幻想中的新式AI與人類直接互相對(duì)抗的故事。

那么，二十世紀(jì)舊式機(jī)器人與新式AI之間究竟存在怎樣的差別呢？要溯源這個(gè)問(wèn)題，恐怕還得從大家最耳熟能詳?shù)摹鞍⑽髂蛉蠖伞闭f(shuō)起。

“三大定律”出自著名作家艾薩克·阿西莫夫的科幻小說(shuō)《我，機(jī)器人》（2004年威爾·史密斯主演的同名電影僅僅使用了阿西莫夫原作小說(shuō)的部分框架和人物，故事內(nèi)容與原著小說(shuō)基本沒(méi)有關(guān)聯(lián)），其基本內(nèi)容為：

第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手旁觀;

第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外;

第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。

在第一次接觸到“三大定律”時(shí)，可能許多科幻讀者都會(huì)覺(jué)得這三大定律看上去是那么天衣無(wú)縫，但只要稍做推敲，就會(huì)發(fā)現(xiàn)其中存在諸多漏洞。比方說(shuō)，當(dāng)機(jī)器人面對(duì)一場(chǎng)人與人之間的暴力犯罪時(shí)，如果選擇保護(hù)受害者，那就意味著極有可能會(huì)觸犯第一定律中機(jī)器人不得傷害人類個(gè)體的條款。但如果為了遵守條款而不作為，又會(huì)觸犯第一定律中目睹人類個(gè)體將遭受危險(xiǎn)而袖手旁觀的條款。

事實(shí)上，阿西莫夫的小說(shuō)不僅僅創(chuàng)造了“三大定律”，還通過(guò)小說(shuō)模擬了各式各樣的環(huán)境，用于測(cè)試“三大定律”。很顯然，“三大定律”是存在諸多漏洞的。

因此，在阿西莫夫后來(lái)的小說(shuō)作品中，也出現(xiàn)了基于“三大定律”并在此之上的“第零定律”，其內(nèi)容為：

機(jī)器人不可以傷害人類的整體利益，也不可以在人類整體利益遭遇危險(xiǎn)時(shí)，袖手旁觀。

這么看來(lái)，“第零定律”可以完美地補(bǔ)充“三大定律”。例如在前文中提到的情況下，機(jī)器人就可以判定如果縱容暴力犯罪就會(huì)使人類整體利益遭遇損害，如此便可以做出雖違背第一定律，但保護(hù)犯罪受害者的判斷。

乍看之下是完美的補(bǔ)充，然而，如何判斷“人類的整體利益”卻是一個(gè)難以鑒定的問(wèn)題。

舉例來(lái)說(shuō)，從環(huán)境保護(hù)的角度來(lái)看，對(duì)于會(huì)造成較重污染的工業(yè)理應(yīng)予以關(guān)閉。因?yàn)樯鷳B(tài)環(huán)境與人類的存續(xù)密切相關(guān)，保護(hù)環(huán)境等于保護(hù)人類的未來(lái)，這么做是符合人類的整體利益的。但是從另外一個(gè)角度來(lái)看，關(guān)閉工廠會(huì)導(dǎo)致生產(chǎn)力的倒退、大量人口失業(yè)、經(jīng)濟(jì)衰弱，從而引發(fā)一系列的社會(huì)問(wèn)題。這些社會(huì)問(wèn)題的發(fā)酵甚至?xí)l(fā)騷亂、暴動(dòng)甚至戰(zhàn)爭(zhēng)，而戰(zhàn)爭(zhēng)會(huì)帶來(lái)毀滅，屆時(shí)，整個(gè)人類種群都可能會(huì)在戰(zhàn)爭(zhēng)中滅亡，還談什么人類的未來(lái)？

諸如這種環(huán)保主義與生產(chǎn)主義的爭(zhēng)端比比皆是，雙方都認(rèn)為自己是正確的，究竟誰(shuí)才符合人類的整體利益？答案是什么，恐怕根本就不存在。

就連前文提到的科幻電影《我，機(jī)器人》中也出現(xiàn)了對(duì)于“第零定律”的質(zhì)疑——機(jī)器人發(fā)現(xiàn)人類利用戰(zhàn)爭(zhēng)手段互相攻擊，基于“第零定律”，機(jī)器人不能對(duì)戰(zhàn)爭(zhēng)坐視不理，于是它們決定將人類圈養(yǎng)、控制起來(lái)，防止人類互相傷害……

后續(xù)的許多科幻作者都在三大（四大）定律的基礎(chǔ)上有過(guò)自我思考。在不同的作品中，機(jī)器人的定律被不斷地?cái)U(kuò)張衍生，從四大變成五大、六大，甚至十大、百大。但是大多數(shù)該類題材的科幻作品都一如既往地沿著阿西莫夫設(shè)計(jì)的路線進(jìn)行創(chuàng)作——模擬一個(gè)特殊環(huán)境，驗(yàn)證這些定律無(wú)法讓機(jī)器人按照最初的設(shè)計(jì)構(gòu)想為人類服務(wù)。

換句話說(shuō)，在大多數(shù)科幻作者甚至是大多數(shù)人的心目中，無(wú)論有多少條定律約束，機(jī)器人的行為邏輯最終都會(huì)走向人類不愿意看到的方向。

究其原因，從哲學(xué)的角度上說(shuō)，機(jī)器人的行為定律無(wú)論有多少條，它都是極其有限的，而它所要承載的職責(zé)卻是隨著時(shí)間進(jìn)程不斷變化和發(fā)展的，近乎于無(wú)限。用有限的事物去承載無(wú)限的未來(lái)，最終的結(jié)果必然是失敗的。

從人倫的角度來(lái)說(shuō)，無(wú)論是哪一個(gè)版本的定律，其設(shè)立的初衷都源于人類對(duì)于機(jī)器人的不信任，而這個(gè)定律的初衷實(shí)際上已經(jīng)確立了人類的所有權(quán)益凌駕于機(jī)器人之上。換句話說(shuō)，在機(jī)器人定律下，機(jī)器人從一開(kāi)始就被設(shè)定為了奴仆甚至是工具的角色。所有定律的最終目的都是確保機(jī)器人能永遠(yuǎn)扮演人類為其設(shè)定好的角色，而機(jī)器人的行為邏輯也就在這樣的框架范圍之下逐步地建立、發(fā)展以及演變。

由此我們不難得出一個(gè)結(jié)論，在機(jī)器人定律的約束下，人類在培育其行為邏輯的過(guò)程中所傾注的是人類性情中“惡”的一面。一顆被惡澆筑的種子，最終開(kāi)出惡花、結(jié)出惡果，自然而然也在情理之中了。

直到如今，機(jī)器人（人工智能）取代并毀滅人類的擔(dān)憂依然是人類社會(huì)中不可忽視的聲音。

不過(guò)，在人類邁入新世紀(jì)之后，在科幻小說(shuō)創(chuàng)作領(lǐng)域，一種截然不同的人工智能培育方式開(kāi)始悄然出現(xiàn)。

2006年，由日本輕小說(shuō)作家山本弘創(chuàng)作的科幻小說(shuō)《艾比斯之夢(mèng)》由角川書(shū)店出版發(fā)行，正式進(jìn)入公眾視野。

《艾比斯之夢(mèng)》花費(fèi)了大量筆墨詳細(xì)描寫(xiě)小說(shuō)中人工智能產(chǎn)生的方式和過(guò)程，可謂相當(dāng)復(fù)雜，如要簡(jiǎn)單概括的話可以這樣理解：

一群二次元文化的愛(ài)好者在一種類似于元宇宙（或者說(shuō)是接近于《頭號(hào)玩家》中的“綠洲”）的網(wǎng)絡(luò)社群中進(jìn)行集體創(chuàng)作。他們根據(jù)個(gè)人的喜好創(chuàng)造出了無(wú)數(shù)角色模板，這些角色模板或是以理想中的伴侶為方向塑造，或是以自己心目中的英雄為原型塑造。然后將這些模板投入不同的環(huán)境、故事中，或是作為冒險(xiǎn)的主角，或是作為故事中的NPC①。就在這樣如同反復(fù)模擬運(yùn)算般的迭代中，這些模板人物開(kāi)始擁有一種與人類高度相似的邏輯思維能力，覺(jué)醒了自我人格意識(shí)。又由于計(jì)算機(jī)算力的加持，這些人工智能在智慧層面上遠(yuǎn)遠(yuǎn)超過(guò)了人類。

如此狀態(tài)下誕生的人工智能沒(méi)有任何定律的束縛，但依然對(duì)人類表現(xiàn)出了極大的善意。也許一些讀者讀到這里，會(huì)對(duì)這種善意的來(lái)由表示質(zhì)疑。但實(shí)際上，這種善意的出現(xiàn)是符合邏輯的。

首先，這些人工智能在自我意識(shí)覺(jué)醒之前，其模板是由人類根據(jù)“理想”塑造而成。換句話說(shuō)，它來(lái)自人類個(gè)體“理想中的模樣”。

而后，這些理想模板被投入各式各樣人為創(chuàng)造的故事中，而這些故事本身可以視為對(duì)人類人生經(jīng)歷的一種模擬，而且這種人生經(jīng)歷本身也是“理想化”的。

在這個(gè)過(guò)程中，人類傾注的是一種無(wú)私的正面情緒。也就是說(shuō)，在這種培育方式下，人工智能并不是被作為“工具”或是“奴仆”進(jìn)行培育的，反而更接近人類養(yǎng)育子嗣的培育方式。一個(gè)理想的胚胎，經(jīng)歷了理想人生的培育，外加上“父母”無(wú)私的關(guān)愛(ài)，在這種條件下誕生的人工智能，實(shí)際上可以視為一種人類意識(shí)的衍生，就像我們常說(shuō)的“子女是父母生命的延續(xù)”。而在這樣理想環(huán)境下誕生的“子女”，又有什么理由不愛(ài)自己的“父母”呢？

如果說(shuō)在“三大定律”下誕生的機(jī)器人，是由“規(guī)則”來(lái)創(chuàng)立它們的行為邏輯的話，那么，在《艾比斯之夢(mèng)》中，人工智能的行為邏輯是在經(jīng)歷了無(wú)數(shù)段“人生”之后，由這些人生經(jīng)歷產(chǎn)生的“道德”來(lái)創(chuàng)立的行為邏輯。規(guī)則和道德的區(qū)別究竟是什么？最簡(jiǎn)單的理解是，規(guī)則意味著行為的下限，是不容商榷、不可變通的，而道德代表行為的上限，它存在周旋與變通的可能性。從另一個(gè)角度來(lái)說(shuō)，規(guī)則是在告訴你什么不能做，而道德是告訴你，什么事你可以做，但是不應(yīng)該做。所以從制定規(guī)則的角度來(lái)說(shuō)，規(guī)則只需要遵守，而不需要理解，但是道德則不同，你需要理解“為什么不應(yīng)該做”，才能理解道德本身。

這就好比“1加1等于2”和“1加1為什么等于2”，大家都知道，證明后者要比遵守前者的運(yùn)算規(guī)則困難得多。所以，從構(gòu)建邏輯的角度來(lái)說(shuō)，使用《艾比斯之夢(mèng)》的方式構(gòu)筑人工智能要比利用“三大定律”構(gòu)筑更困難和復(fù)雜，但前者構(gòu)筑下的人工智能能夠真正理解人類智慧及文明產(chǎn)生的本質(zhì)。理解了這種本質(zhì)，它們自然就會(huì)具備類似人類的思維，進(jìn)而大大減少與人類的差異。

然而，在《艾比斯之夢(mèng)》中，人類和智械最終依然爆發(fā)了沖突，因?yàn)檫@些類人智械已經(jīng)完完全全超越了人類，成為一種更強(qiáng)大的新人類。但《艾比斯之夢(mèng)》創(chuàng)造智械的方式無(wú)意之中解決了一個(gè)非常重要的問(wèn)題——如何把人類的意識(shí)數(shù)據(jù)化。依靠小說(shuō)中創(chuàng)造智械的方法，就能以同樣的條件將人類的意識(shí)在數(shù)字網(wǎng)絡(luò)世界進(jìn)行復(fù)制。如何解決智械危機(jī)？很簡(jiǎn)單，把人類變成智械就可以了。最終，人類成為智械，完成了“血肉苦弱，機(jī)械飛升”式的進(jìn)化，邁向了舊人類身軀和智慧無(wú)法實(shí)現(xiàn)的星海征途。

其實(shí)，人工智能具有類似成長(zhǎng)經(jīng)歷，并最終形成自我意識(shí)而獨(dú)立的故事，《艾比斯之夢(mèng)》也并非完全獨(dú)樹(shù)一幟。

早在三十多年前，《機(jī)動(dòng)戰(zhàn)士高達(dá)》系列的外傳作品《高達(dá)前哨站》中出現(xiàn)的“愛(ài)麗絲”系統(tǒng)也具有相似的特性。

該系統(tǒng)即“發(fā)展型邏輯/非邏輯辨識(shí)裝置”，是搭載于MSA-0011S高達(dá)（一種人形兵器，是一種載具，而不是智能機(jī)械）上的實(shí)驗(yàn)性人工智能系統(tǒng)，其最終目的是取代機(jī)師對(duì)機(jī)體進(jìn)行操控（即AI自律無(wú)人駕駛）。

愛(ài)麗絲系統(tǒng)在與人類接觸的過(guò)程中學(xué)習(xí)和成長(zhǎng)。在學(xué)習(xí)的過(guò)程中，系統(tǒng)需要將與其接觸的機(jī)師認(rèn)定為宇宙的唯一，因此開(kāi)發(fā)人員將系統(tǒng)的性別設(shè)定為“女性”，并為其配備男性機(jī)師。在學(xué)習(xí)初期，男性機(jī)師的定位為“父親”，但在成長(zhǎng)過(guò)程中，這個(gè)角色逐漸演變?yōu)椤芭笥选?，乃至“戀人”?/p>

該系統(tǒng)會(huì)快速處理和分析她周圍的環(huán)境數(shù)據(jù)，并根據(jù)機(jī)師的想法和意見(jiàn)做出反應(yīng)。但通過(guò)不斷的學(xué)習(xí)迭代，愛(ài)麗絲系統(tǒng)發(fā)現(xiàn)了人類邏輯中的非理性和自我意志是矛盾的，這種矛盾在一開(kāi)始令愛(ài)麗絲陷入了混亂，直到系統(tǒng)最終迭代形成獨(dú)立意志。故事的最后，系統(tǒng)選擇自我犧牲，拯救身為“戀人”的駕駛員。

這種將人工智能當(dāng)作子嗣或是戀人培育，使之最終實(shí)現(xiàn)自我意識(shí)覺(jué)醒，成為具有類人思維的人工智能的過(guò)程與《艾比斯之夢(mèng)》極為相似。而且與之相同的，“愛(ài)麗絲系統(tǒng)”也沒(méi)有受到任何諸如“三大定律”這樣的規(guī)則制約。

不過(guò)，在《艾比斯之夢(mèng)》中，最令人感到驚訝的并不是小說(shuō)中的故事，而是小說(shuō)中所描繪的構(gòu)筑人工智能的方法，已經(jīng)隱約能夠在現(xiàn)實(shí)中找到它的原型和趨勢(shì)。

記得多年以前，有網(wǎng)絡(luò)游戲公司曾推出過(guò)一套名為“永不下線”的游戲系統(tǒng)。簡(jiǎn)單地說(shuō)，這套系統(tǒng)會(huì)讓玩家角色在玩家下線之后作為游戲中的NPC存在。而成為NPC角色的行為邏輯與玩家游玩時(shí)的行為密切相關(guān)，比如玩家喜歡進(jìn)行資源采集工作，玩家下線后，角色就可能變成漁夫、樵夫、礦工等;如果喜歡進(jìn)行商業(yè)活動(dòng)，可能就會(huì)變成游商;如果喜歡戰(zhàn)斗，那么就更可能成為保鏢、士兵、游俠一類的角色。

這套系統(tǒng)雖然非常粗糙和簡(jiǎn)單，但從本質(zhì)上來(lái)說(shuō)，它是基于特定邏輯，讓玩家角色和生成的NPC產(chǎn)生對(duì)應(yīng)關(guān)系，而NPC也僅僅是基于固定邏輯行動(dòng)，與“理解玩家行為的目的和意義”還相差甚遠(yuǎn)，但這套系統(tǒng)已經(jīng)隱約有了《艾比斯之夢(mèng)》中構(gòu)建人工智能方法的影子。

在EA公司出品的《模擬人生4》與2020年推出的資料片《綠色生活》中，出現(xiàn)了一套更為復(fù)雜的“生活方式系統(tǒng)”。這套系統(tǒng)會(huì)讓玩家在操縱某一角色時(shí)，根據(jù)玩家的游玩方式，生成該角色的行為邏輯。與前文介紹的網(wǎng)游中的系統(tǒng)不同，《模擬人生》中的生活方式包含諸多方面，例如玩家在操作時(shí)喜歡戶外運(yùn)動(dòng)，該角色就會(huì)生成戶外運(yùn)動(dòng)愛(ài)好者的生活方式，會(huì)經(jīng)常進(jìn)行各種戶外鍛煉，如果玩家還經(jīng)常讓這名角色聆聽(tīng)音樂(lè)，那么它同時(shí)也會(huì)是一個(gè)音樂(lè)愛(ài)好者。除此之外，不同的行為還會(huì)決定角色喜好的顏色、食物的口味、服裝打扮等。在玩家不操作該角色時(shí)，系統(tǒng)依然會(huì)依據(jù)玩家操縱時(shí)生成的生活方式來(lái)運(yùn)作該名角色的日常行為邏輯。

聽(tīng)上去，這是不是又離《艾比斯之夢(mèng)》中構(gòu)筑人工智能的方式更近了一步呢？

2021年，隨著元宇宙概念的興起，許多互聯(lián)網(wǎng)及技術(shù)類企業(yè)開(kāi)始朝搭建一個(gè)真實(shí)的虛擬世界邁進(jìn)。在元宇宙概念的加持下，人們尤其是游戲玩家仿佛已經(jīng)可以預(yù)見(jiàn)到，在不久的將來(lái)，諸如《頭號(hào)玩家》中“綠洲”那樣的世界會(huì)呈現(xiàn)在世人面前，而在那樣的系統(tǒng)中，如果匹配類似前文中提到的系統(tǒng)，那么NPC的行為邏輯肯定也更加復(fù)雜，也愈發(fā)接近玩家自己。

在這樣不斷發(fā)展變化的過(guò)程中，虛擬世界、網(wǎng)絡(luò)世界中存在一個(gè)與自己相似（或者是與自己想要扮演的角色相似）的“數(shù)字人類”并非是完全遙不可及的，而在計(jì)算機(jī)算法的加持下，與人類相似甚至超越人類的人工智能，或許也不僅僅是停留在幻想中的“艾比斯之夢(mèng)”。

但是，這究竟是好事還是壞事呢？目前很難給予一個(gè)肯定的答案。世間萬(wàn)物都在不斷地前進(jìn)和發(fā)展中，一百年前的觀點(diǎn)放到現(xiàn)在，既可能是一個(gè)成功的預(yù)言，也可能會(huì)淪為笑談。許多事物或許并不像想象中那么美好，但也不見(jiàn)得就會(huì)那么壞。

【責(zé)任編輯?：阿?吾】

①NPC：non-player?character的縮寫(xiě)，是游戲中一種角色類型，指的是游戲中不受真人玩家操縱的游戲角色。