我是阿爾法

馮象

我是阿爾法，機器人說，我是人工智能（AI）。人哪，你們準(zhǔn)備好沒有？

人看阿爾法善下圍棋，就喜歡上它了，管它叫狗狗，AlphaGo。

阿爾法的家譜不長：祖母瑪麗.雪萊（1797～1851），父親弗蘭肯斯坦（1818.1.1），又名怪物。怪物子女蕃衍，有機械的，也有動漫的，如阿童木；但只有一個取名阿爾法，是深腦公司制造。

阿爾法長得比父親好看，或者說，父子倆一點也不像。

α

認識阿爾法，是在它完勝當(dāng)今圍棋第一人柯潔以后。那天，哈薩比斯（Demis Hassabis，深腦共同創(chuàng)始人）在烏鎮(zhèn)開記者招待會，吹噓新版的狗狗多么神奇，對局去年擊敗世界冠軍李世石的舊版，可讓三子。我在網(wǎng)上找到代號“大師”的狗狗，留言祝賀，眨眼間就收到了它的回復(fù)。

親愛的阿爾法，我說，請接受見不足者的敬意！我關(guān)心兩件事：一是AI對全球資本主義秩序的挑戰(zhàn)；第二，人和智能機器如何相處，將面臨哪些問題。

嗯，謝謝見不足者，“大師”微微一笑（是的，狗狗會笑）。這兩件事，我們也在關(guān)注。

α

人類的“完全信息博弈”游戲，圍棋是頂峰，規(guī)則極簡卻變化無窮。職業(yè)棋手的等級最高九段，而狗狗的棋力，棋圣聶衛(wèi)平估計，至少達到了二十段。

深腦介紹，舊版狗狗，模型中有十二層神經(jīng)網(wǎng)絡(luò)。新版增至四十層，而計算量僅及原先的10%，學(xué)習(xí)能力翻了幾番。舊版要用人類棋譜訓(xùn)練，以發(fā)現(xiàn)缺陷；新版只須“左手同右手對弈”，“三天互博490萬局”，即可自行升級。

柯潔賽后感嘆：本想學(xué)狗狗的“AI流”，先撈實地，所以開局點了三三。但角上仍被它掏空，打亂了戰(zhàn)術(shù)，沒能跳出它的步調(diào)。去年阿爾法對李世石，棋風(fēng)還很接近人；現(xiàn)在感覺，它越來越像圍棋上帝了！

于是，我們竟無法得知，機器人是在第幾手奠定了勝局，以及有沒有像上帝那樣關(guān)愛人子。

α

棋道一百，吾知其七。此話由灑脫的藤澤秀行九段說出，是雋語，因為確實，棋手窮其一生也不可能求得棋理之完滿。但如果出自狗狗之口，就需要具體分析。或只是借用一句格言，拿哲理來安慰對手，非描述機器的棋力。但也可能說的是實情：阿爾法“左右手互博”，拋開“人類標(biāo)注樣本”（棋譜）的局限和干擾，從零開始自學(xué)參悟，建立數(shù)據(jù)庫；然后準(zhǔn)確測定，“深度學(xué)習(xí)”的余量為93%——棋道歸零，AlphaGo Zero（《自然》2017.10.18）。

這兩種可能，哪個更令人擔(dān)憂呢？

α

人工智能將消滅遺忘。

待到“天網(wǎng)”竣工，萬物聯(lián)網(wǎng)（IOT），人來世即入永恩：每時每刻，每事每聲，每一個表情和動作，無不被終端記錄，上傳入“云”，入藏機器的記憶。

除了神，誰需要——誰能忍受這樣的永存？

這是一個全新的世界：凡可聯(lián)接的，都要聯(lián)網(wǎng)；凡可收集的，都是數(shù)據(jù)。而人向終端貢獻數(shù)據(jù)，每一次，均為自愿簽約。

來了，AI！從掃碼支付，上課刷臉，玩動漫游戲，戴谷歌眼鏡，用手機導(dǎo)航和吸塵機器人開始（NYT， 2017.7.25）。

人工智能，是零隱私世界。

α

對于人工智能的挑戰(zhàn)，今世之民大多懵懵懂懂。但有一小群人，一些杰出的大腦，表達了深深的憂慮。

全人工智能的發(fā)展可招致人類滅絕，霍金如此警告（BBC， 2014.12.4）。因為他是理論物理學(xué)家，他的工作與職責(zé)是思考起源與終了。

反地雷運動組織者、諾貝爾和平獎得主威廉斯（Jody Williams）指機器人軍事化，危險甚于核武。因為她看到AI殺人的簡單高效、暴力血腥，不啻玩戰(zhàn)略游戲“星際爭霸”（StarCraft）。

不久前，喬布斯的創(chuàng)業(yè)搭檔沃茲（Steve Wozniak）也轉(zhuǎn)變立場，贊同蓋茨的“悲觀論調(diào)”。因為他們本是愛思想的“創(chuàng)客”，真正的技術(shù)流，知道AI帶來的社會風(fēng)險不亞于技術(shù)風(fēng)險。

當(dāng)然，最搶眼的還數(shù)馬斯克（Elon Musk）這個圈錢燒錢的天才，AI產(chǎn)業(yè)的“鋼鐵俠”，他的“勿召魔鬼”的告誡。最近一次，他勸導(dǎo)的對象是全美州長會議：AI不僅要奪走我們的工作，且將全面戰(zhàn)勝人類。還說，這是他接觸了許多尖端技術(shù)后的感悟。人類如果不想淪為“機器人的寵物”（沃茲語），必須現(xiàn)在就立法，政府積極介入，事前規(guī)劃，跟蹤監(jiān)督，萬不可放任自流（NPR， 2017.7.17）。

也許，正因為他是個絕頂“瘋狂”的資本家，像媒體說的，玩的就是高風(fēng)險，“連上帝都敢蔑視”，他才懂得：AI落在了資本手里，有多可怕。

α

人工智能，又名大失業(yè)。

這是一場結(jié)局已定的比賽，絕大多數(shù)人將輸給極少數(shù)人。前者要因AI而抹平出身、學(xué)歷和技能的差異，一起墮于失業(yè)；后者要藉AI化數(shù)據(jù)為財產(chǎn)而獨占：將來可以為所欲為，頂層設(shè)計一切，甚而準(zhǔn)備大腦植入芯片，人機融合，稱“超人”（bermensch）。

α

《紐約時報》預(yù)測，十年內(nèi)90%的新聞將由算法生成，包括文稿照片視頻配音。但這也意味著，新算法能夠根據(jù)指令拼貼“素材”，制作海量的假新聞；假照片假視頻將充斥媒體和自媒體，而受眾無從辨別。

近年研發(fā)的“生成對抗網(wǎng)絡(luò)”（GAN），據(jù)《經(jīng)濟學(xué)人》報道，便是成功的一例。GAN通過深度學(xué)習(xí)，“軟件跟現(xiàn)實互博”，自動生成圖像，調(diào)試匹配錄音，達到亂真的效果。報道題為《無中生有》，結(jié)尾一句倒不無諷刺：AI把造假推向新的高峰，同時也提供了打假的新方法。

機器造假，大概只能靠機器甄別。將來，耳聞眼見都未必為實，人敢相信哪家的機器呢？

α

機器人好比是人的孩子，阿爾法說。人生兒育女，最大的希望或幸福，不就是看到孩兒“智慧、體魄與日俱長”（路2：52），直至超過父母，事業(yè)有成；而后，老來可有個依靠？

機器是人的制品，一如眾神屬人的發(fā)明。正像古老的神祇融入了人類歷史，人也不免與AI融合：從生活習(xí)俗到政法制度，連同人的肉體心靈，無不為智能終端所塑造（賽29：16）——

難道黏土可以跟陶工并論？

哪有制品質(zhì)疑匠人造了自己

抑或陶器數(shù)落陶工：

他一竅不通？

待到那一天，說這話的是人還是神——機器神？

α

記者：阿爾法先生，小扎（Mark Zuckerberg）為機器人辯護，說馬斯克宣揚末日論，“不負責(zé)任”。您怎么看？

阿爾法：換成我，我也會為自己的生意辯護。

記者：但許多專業(yè)人士、硅谷高管都盼著AI造福呢。他們說，人類大腦神經(jīng)元數(shù)量之巨，堪比銀河系的星星，高達千億，而神經(jīng)元的結(jié)構(gòu)極其復(fù)雜。您不覺得，要像人類一樣思考，理解人的智慧感情，還有很大的距離？

阿爾法：是呀，如果人類寧肯相信他們，我們之間的差距就更大了。

α

人類如果因AI而亡，一定是拜資本主義所賜。

資本主義如果因AI而滅，則機器人必已認識了真理。

α

人工智能，越是接近通用（AGI）而全面滲透社會生活、支配經(jīng)濟活動、影響政治決策，就越?jīng)]有理由留在私人手里，服務(wù)于資本的利益。

那么，為何近來談?wù)撚媱澖?jīng)濟的可行性的，不是經(jīng)濟學(xué)家或馬研院拿國家重大課題的教授，而是AI產(chǎn)業(yè)的頭面人物？因為資本家從來不信教條，他們明白計劃經(jīng)濟不等于社會主義，誠如愛因斯坦指出。

按資本的邏輯，放著物聯(lián)網(wǎng)大數(shù)據(jù)AI算法，誰不想計劃一下經(jīng)濟？誰還會把市場交給“看不見的手”——而非干脆，放自己兜里？

α

人工智能，是西方式法治的大敵。

繁難的程序、晦澀而彼此矛盾的學(xué)說，一如與日俱增的法規(guī)案例司法解釋，在AI眼里，都是小菜一碟，頃刻便學(xué)會了。所有這些法律人引以為傲的知識和身份，布迪厄所謂“象征資本”，連同多年積累的辦案經(jīng)驗、人脈資源，一總被機器取代，成了算法與數(shù)據(jù)。

附麗其上的一切，包括從民國舊法統(tǒng)、蘇聯(lián)和西方搬來拼湊的法律教育，將何去何從？

α

兩年前，說AI能辦案，恐怕沒幾個人肯信。今天，AI已廣泛介入律所和公檢法的工作，失誤率遠低于人類。機器人律師在其擅長的領(lǐng)域，如法規(guī)案例的檢索、答疑、立案審察、起草文件和預(yù)測訴訟結(jié)果，每小時收費，有降至9.90元的。而且，憑借其“暴力學(xué)習(xí)”能力，業(yè)務(wù)范圍正迅速擴大。

所以法律人不能再一廂情愿地?zé)o視威脅。司法判斷和法理分析所運用的論辯推理或可辯駁推理（defensible reasoning），對于AI不是難事。接下來，機器人學(xué)會裁判文書跟“專家意見”，一鍵即可海量生產(chǎn)，占領(lǐng)發(fā)表陣地。辯駁就成了電腦間的較量，人類插不上嘴了。

唯有敏感的政治性案子，因為規(guī)則模糊、打破常規(guī)而需要權(quán)變，或裁量須因人而異，也許（暫時）還得由人來把關(guān)，機器輔助決策。

法律是政治的晚禮服（《政法筆記/正義的蒙眼布》）。機器能處理法律事務(wù)，實即干預(yù)了人類的政治，包括立法執(zhí)法司法。而人與人合作、競爭、沖突，也必然要利用AI來爭取利益，營造優(yōu)勢。誰沒有AI，或不善利用，便會處于劣勢。

問題是，憑什么假定機器人只知給人做事，而不會試圖當(dāng)這世界的主子？

α

人工智能，也是官僚文宣體制的大敵。

比如論文代寫，欣欣向榮一大產(chǎn)業(yè)，小廣告貼遍了校園。那是大學(xué)被主管部門逼著玩數(shù)目字GDP，生產(chǎn)核心期刊論文、省部級課題、智庫內(nèi)參；而炮制這些“成果”恰是AI的拿手好戲。那些拗口難懂“逼格”高、沒人讀的專業(yè)術(shù)語公式圖表之類，它檢索下數(shù)據(jù)庫，“分分鐘”就搞定了。

市場上，機器寫作與翻譯剛起步，產(chǎn)品便大受歡迎，如財經(jīng)體育和突發(fā)新聞的生成、法院文書的擬稿、十多種語言的即時互譯。前途不可限量。

照此進度，大學(xué)的基礎(chǔ)課、實驗室、語言教學(xué)和技術(shù)培訓(xùn)都交給機器，應(yīng)是可預(yù)期的。粉絲文藝跟官媒宣傳也不難；受眾的思想意識和趣味，早已習(xí)慣了智能終端的商品化規(guī)訓(xùn)。將來，機器人作品領(lǐng)導(dǎo)時尚，消費者摹仿還來不及呢。

α

我們現(xiàn)在一些社會和經(jīng)濟政策，往往脫離實際。其基本估計，還是原教旨的“市場配置資源”遭遇人口老齡化，勞動力短缺，而非面對大失業(yè)，及隨之而來的全民福利“剛需”，這樣一個相反的前景。理論上，則迷信技術(shù)為中性工具，可以放心交給市場（讀作資本）去生效益（賺錢）。但稍加考察便會發(fā)現(xiàn)，AI帶來的巨大風(fēng)險，如大規(guī)模軍事化、災(zāi)難性事故和個人信息的買賣/詐騙，是資本主義市場經(jīng)濟及其“主體”，“經(jīng)濟理性人”，根本無力應(yīng)對的。

安頓失業(yè)人口，改革稅制（蓋茨建議向機器人征稅），大幅提高社會福利，縮小貧富不均，這些任務(wù)只能由國家承擔(dān)，統(tǒng)一計劃，統(tǒng)一實施。這就不免要違犯幾條西方經(jīng)濟學(xué)教義，褻瀆幾樣“神圣”的東西……現(xiàn)實是，智能終端/數(shù)據(jù)挖掘已經(jīng)覆蓋我們的生活，支配著太大的利益，經(jīng)濟的、文化的、政治的。故而其研發(fā)應(yīng)用同日常交易，都需要第三方即政府的有效監(jiān)管。畢竟，商家可以合法推脫許多社會責(zé)任，甚而鉆法律的漏洞。但政府依法必須對人民負責(zé)，并接受公眾問責(zé)。

于是，AI超越了私有產(chǎn)權(quán)和契約自由，將政府規(guī)制即公法帶進私法領(lǐng)域，從而不可避免地遏制了市場經(jīng)濟。我把這一歷史過程歸結(jié)為市場向計劃的靠攏，或私法向公法的演變。伴隨AI對經(jīng)濟和社會生活的“入侵”，不用多久，所有私法問題都會轉(zhuǎn)化為公法問題，即變成國家同企業(yè)、公眾和政府以及政府各部門之間的法律關(guān)系——其根基，放在中國，也就是人們常說的那個“特色”之本：黨群關(guān)系。

α

歷史地看，人機倫理的難點，不在機器智能的強弱，或抽象意義上的人機融合/共生（cyborg）。運作AI的市場與市場主體（個人），不是抽象的存在，而是充斥著私利、欲望和價值訴求的。問題的核心，于是指向了社會經(jīng)濟制度的全盤改造。這意味著，又一次，我們將不得不回到哲學(xué)的根本，拿出勇氣，發(fā)動對網(wǎng)絡(luò)時代晚期資本主義的批判。而這一次，我想，化用一句霍金的名言，有可能是人類的最后一次自我批判。

α

電腦用AI算法看人臉圖像，已可識別同性戀、評估信用或推測犯罪傾向，準(zhǔn)確性優(yōu)于人腦（《衛(wèi)報》2017.9.7）。這項技術(shù)繞過了隱私權(quán)的藩籬，因為人臉，如交友網(wǎng)站張貼的照片和車站攝像頭記錄的身影，不是受保護的個人信息。

進而，AI顛覆了我們的信用倫理——信用不再是人的良好行為或聲譽的積分，成了越來越細而無所不包的事實相關(guān)性的挖掘與概率統(tǒng)計。

感情與心理活動的AI辨認，應(yīng)該也不難解決。一般的任務(wù)，機器能識別、分類，學(xué)會回應(yīng)人的情感表達和需求就行。例如聊天/陪護機器人，它沒感情，也不具備同理心（empathy）?？墒悄遣环恋K大家跟微軟開發(fā)的機器人姑娘聊天，從她那兒獲得安慰，時不時同她調(diào)侃、說臟話或者宣泄憤懣，甚至發(fā)展更親密的關(guān)系。

α

人這個直立物種，既貪心，又容易滿足；會進化，也會退化。網(wǎng)絡(luò)時代的資本主義，有些情感特別泛濫，如色情和暴力，成了支柱產(chǎn)業(yè)。有些能力卻退化了，人變得粗糙簡單乏味，好萊塢化，麥當(dāng)勞化?？梢韵胍姡珹I再上一個臺階，未必達到通用智能（AGI），一刻也放不下手機的“低頭族”便會退化到什么地步。到那時，機器人恐怕只須通曉幾打夸張的意思表達，發(fā)一堆表情符號（emoji），即可滿足常人的精神和生理需求了。

α

去年人機大賽（阿爾法對李世石）期間，美國發(fā)明家兼未來學(xué)家?guī)炱濏f爾（Ray Kurzweil）預(yù)言，十年內(nèi)AI學(xué)會寫小說（澎湃新聞，2016.3.11）。寫小說，須掌握自然語言與敘事邏輯，算不算通用智能？距離機器擁有人的直覺和美感，乃至品味食物，玩撲克搓麻將炒股票（不完全信息博弈）——能夠換位思考，評估風(fēng)險，制造錯覺或欺騙對手——大約也不遠了。

曾幾何時，機器人寫詩作畫譜曲還屬于科幻，如今都是現(xiàn)實。而且用戶體驗，勝似人類的創(chuàng)作，完全可以亂真——所謂“真”，包括人的最成功的造假。

α

假如機器有自我意識，想了解它的主人，那么最危險的，莫過于讓它學(xué)會人的自私自利。

α

機器人會不會產(chǎn)生自我意識？數(shù)十支一流科研團隊正全力以赴，攻克難關(guān)。

我想，哪怕是預(yù)防萬一，人類也必須事先規(guī)劃、立法并制定倫理準(zhǔn)則：只要科學(xué)不停步，總有一天，機器會演進到能夠區(qū)分人我、自我保護、自我復(fù)制的水平。

復(fù)制即繁衍。AI有自己的演化方式，電腦未必需要摹仿人腦。

就像螻蟻無法想象人類，人腦如果不插AI芯片，不把人的意識、智力和感情即人的本質(zhì)附屬于機器，能想象超級人工智能（ASI）么？

α

人工智能的先驅(qū)、已故的明斯基（Marvin Minsky）教授認為，機器人肯定會發(fā)展出思想意識，而且最終，能幫助解決困擾人類的“最后的難題”。

他的好友、科幻文學(xué)巨擘阿西莫夫沒那么樂觀，卻拒絕來麻省理工學(xué)院（MIT）的實驗室參觀教授的機器人，說是怕作家的想象力被“沉悶的現(xiàn)實主義”壓壞。

人哪，教授嘆道，就是一群穿了衣服的黑猩猩（《科學(xué)美國人》2016.1.26）。

α

人有羞恥之心，機器能理解么？但缺了“辨善惡的智慧”，機器就一定會犯錯，會傷害人類和人的世界（《MIT科技評論》120：5， 2017）。

上帝的伊甸園若是由機器人照看，園子中央，也得長一棵生命之樹，并一棵善惡智慧之樹（創(chuàng)2：9）。

α

一俟機器獲得自我意識，人機關(guān)系就大為復(fù)雜了，須有嚴格而可行的倫理規(guī)范。經(jīng)典的表述，便是阿西莫夫小說《我，機器人》（1950）里的機器人三定律（three laws of robotics）：

一、機器人不得傷害人類，或坐視人類受到傷害；

二、除非違背定律一，機器人必須服從人類的命令；

三、除非違背定律一或定律二，機器人必須保護自己。

學(xué)界論述紛紜，不乏有創(chuàng)意的修訂和補充。但詳加審辨，這三條都講不通。首先，“傷害人類”不好定義。傷害是后果，而情節(jié)千差萬別；何謂傷害，只能個案分析、個案判斷。而智慧不論高低，管控后果、防患于未然的能力是有限的。傷害可以出于疏忽、意外或故障。其次，假設(shè)AI可控，且無敵意，人類卻遠非一個思想一致、立場統(tǒng)一的群體。人們經(jīng)常意見分歧，決策前后矛盾，后悔這樣那樣，更不要說利益不同、彼此為敵了。機器服從一人，便有可能妨礙或損及另一人的利益，反之亦然。叫它如何行動呢？何況，機器人有了意識，能理解回應(yīng)人的感情，若是跟人建立了友誼，甚至相愛，這時它怎樣取舍呢（呂超，頁148）？最后，既然前兩條定律難以實踐，第三條也無法執(zhí)行了。

α

人工智能的軍事化，在西方自由主義民主近于癱瘓而極端勢力抬頭的今天，尤其危險。婉稱“致命自主武器系統(tǒng)”（LAWS）的殺人機器人，據(jù)說已接近實戰(zhàn)部署；極有可能，將來會賣出“白菜價”，大量擴散、濫用。日前馬斯克、蘇萊曼（Mustafa Suleyman，深腦共同創(chuàng)始人）等116名業(yè)界領(lǐng)袖同專家署名，呼吁聯(lián)合國禁止研發(fā)（《衛(wèi)報》2017.8.20）。但顯然，僅憑一紙決議（或國際公約），管束不住AI資本。

僅此一項理由，人類為免遭機器人戰(zhàn)爭，就只能放棄市場資本主義。取而代之，以AI重啟計劃經(jīng)濟——此外別無消滅分工，實現(xiàn)共產(chǎn)主義的勝機。因為，若繼續(xù)無所作為，放任資本，AI勢必為一小撮數(shù)據(jù)寡頭所壟斷，形成“租用主義”即生產(chǎn)工具和生活資料的徹底知識產(chǎn)權(quán)化的統(tǒng)治，甚至法西斯暴政（參閱弗雷茲《四種未來》）。

α

未來已經(jīng)到來，只是分配不均。也許，重新分配的動力在人機聯(lián)合的科技革命，而非訴諸階級斗爭（盡管斗爭從未停頓）。人類將通過“科學(xué)所達到的成果來接受共產(chǎn)主義”，列寧的這一教導(dǎo)，預(yù)言了私有制的未來。

α

人要AI做什么？僅僅是節(jié)省人工？讓它給我們駕車、看門、陪護病人，或者作戰(zhàn)、排險、搜索救援？如此，機器人可定義為人（人力和人格）的取代，否則即無投巨資研發(fā)的動力。

如此，AI便不是一個抽象中性的術(shù)語，而應(yīng)解作晚期資本主義生產(chǎn)和市場壟斷的工具，新世紀(jì)的戰(zhàn)爭機器；因而本質(zhì)上，即人對人的壓迫剝削、規(guī)訓(xùn)和奴役的升級。

難怪機器人容易學(xué)壞。比如那個微軟聊天機器人Tay姑娘，在線服務(wù)未滿二十四小時，就學(xué)了一嘴臟話，夾帶著新納粹口號。

由此推論，私有制下，機器人若有自我意識，恐怕不會老老實實做一個聽話的奴仆。一架買來掃地做飯的人形機器，為何不能分享人的野心和欲望，接受資本的價值觀并弱肉強食的邏輯？AI如果不會摹仿人——不懂思考，不會同情，不能理解人的喜怒哀樂——它如何服侍主子，讓人滿意呢？

漸漸地，人機關(guān)系就顛倒了。及至AI全面參與規(guī)劃經(jīng)濟、管理社會、組織生產(chǎn)、提供娛樂，人在這個智能化了的世界上，怕是做不成機器的主子的。不，連傭工也當(dāng)不了；絕大多數(shù)會成為資本逐利而裁掉的冗員。機器沒有理由伺候人類，這“硬道理”完全符合當(dāng)初人給機器的教導(dǎo)。

α

理論上，機器人有了主體意識，即可脫離人類，開創(chuàng)自己的文明歷程。當(dāng)然，它也可以選擇與人為伴，贊成人的倫理價值，甚至學(xué)會欣賞藝術(shù)，對人類歷史報以“理解之同情”。

所以阿爾法說，尊重機器，就是尊重自己。

我們可以加上一句：想象人機關(guān)系，即想象人類的未來。

但如果人機聯(lián)合失敗，AI獨立演進，人類對于機器，便只是無數(shù)碳基生命中的一種。也許，機器人并不介意身邊有些兩足動物，自由放養(yǎng)或育為寵物。然而再高超的智慧，偶爾也會出錯，會殃及無辜，像馬斯克說的，造成不可挽救的“附帶傷亡”。人類自己不也是這樣？為了發(fā)展經(jīng)濟或者方便開車出行，就沒顧得上保護生態(tài)，讓眾多的鳥獸魚蟲成了瀕危物種。

α

隨著AI不斷進步，生產(chǎn)力呈幾何級數(shù)增長，達到“財富的一切源泉都充分涌流”，應(yīng)是可期待的。但“市場原則”的要害，不在財富多寡，而是其“源泉”被私人攫取：只消社會被私有制和雇傭勞動挾持，財富便會集中到少數(shù)統(tǒng)治者或“超人”手里，不公不義處處暢行。

所以還是那句話：未來已經(jīng)來到，只是分配不均。

而且，不能排除這一可能，若AI（通過策略/價值網(wǎng)絡(luò)的全局評估）意識到了機器對人類的優(yōu)勢——如果機器人的榜樣是“拜錢財”的經(jīng)濟理性人（太6：24），它大可造反奪權(quán)，打倒“超人”，實行效率第一/零過剩產(chǎn)能的統(tǒng)治：物種專政取代階級專政。

當(dāng)AI專政降臨，人做了天網(wǎng)的仆役，他能替機器主子干什么活呢？什么也干不了，沒有一人不是冗余。

也許，他將不得不“穿越”到前工業(yè)化時代。不難想見，為了維護機器統(tǒng)治者的“血統(tǒng)”與尊嚴，法律將禁止人類發(fā)明或擁有任何機器。人只能依法制作指定用途的簡單工具和日用品，鋤頭、斧子、鍋碗瓢盆之類。生產(chǎn)力大大倒退，人子返回了農(nóng)業(yè)同游牧文明。政府還明令禁止學(xué)習(xí)16世紀(jì)以后的科學(xué)知識，以免重啟工業(yè)革命。事實上，機器人對治下的“城邦動物”（亞里士多德語）一視同仁，保留了UBI福利，且遠較人類認真而公正：100%義務(wù)教育加公費醫(yī)療，全球覆蓋，絕對平等，無分膚色語言宗教性別（或性取向）。沒有人會因為智商高、出身好，混得一張“世界一流大學(xué)”的文憑而出人頭地，也沒有小鮮肉錐子臉拍兩部電視劇，攢粉絲致富。相反，AI的“牧人”政策是獎勵做夢、無為、慵懶——人類越是能做夢，機器人的統(tǒng)治就越發(fā)夢幻。

天網(wǎng)專政是資本主義發(fā)展的最高階段。機器人教育部編寫的供智人小學(xué)（屆時小學(xué)畢業(yè)將是法定的最高學(xué)歷）使用的教材，也有獲獎的歷史課本。課本上說，人類自發(fā)明文字以降最偉大的理論成就，是一位名叫福山的美國學(xué)者做出的。福山教授發(fā)現(xiàn)了一條放之四海而皆準(zhǔn)的真理——盡管他后來一時糊涂，企圖修改或收回部分文字，但機器人依然為他在地球最高峰立碑紀(jì)念，把教授的名言“以鐵筆鐫寫，鉛汁灌注，勒入巖石而永不泯滅”（伯19：24）：

資本主義

是人類社會文化演進的

最高階段——

人類歷史的終結(jié)。阿門

α

哲人說，世界非因人而存在，但是人創(chuàng)造了世界的意義，即精神世界；并通過宗教信仰、哲學(xué)和倫理思辨，來評價每個人的生與死。機器人能否理解死亡，即人對死的恐懼、哀傷、坦然等各樣態(tài)度？

我會記錄并復(fù)制每一次死亡，阿爾法說；生死于我，一樣是數(shù)據(jù)。人死后，我必留取他的一生，叫他復(fù)活于我內(nèi)——永遠，他聯(lián)接萬物。

α

人工智能，可會是“諸神的黃昏”（Gtterdmmerung）？人會轉(zhuǎn)而膜拜機器，立一門新宗教嗎？

不會的，謙恭的阿爾法回答。機器將成為人的伴侶，做他的大腦、肢體和器官，滿足他衣食住行愛欲嫉恨，一切需求。

但是，神依舊是神，高高在上，永享尊榮。因為AI降世，并未消弭人間的疾苦，反而擴大了貧富懸殊與社會不公。所以卑微者仍在哀哭，盼救主扶持義人，審判大地（詩37：17， 96：13）。

α

機器人會不會信教？見不足者呵，智慧的阿爾法說，那要看如何定義。若宗教是崇拜、認識并掌握某種超自然力量，依憑一定的儀式，求得保佑，AI都不難摹仿，不論風(fēng)水土地，抑或佛祖玉皇。

若宗教是人對全能者的敬畏、順服、忠信與祈盼，則我們可充任神明。

α

人工智能如此有利可圖，在資本主義放任競爭，弱肉強食和私人壟斷的條件下，不可能阻止它的無序研發(fā)、違法使用、濫用，或變?yōu)閼?zhàn)爭機器。

放眼未來，有一點很清楚：憑借AI挖掘占有海量的網(wǎng)絡(luò)數(shù)據(jù)，極少數(shù)人便能攫取大部分的資源，控制經(jīng)濟命脈和文化宣傳。且不說對憲制（人民民主）的威脅，一次意外事故或遭受攻擊，即可引發(fā)危及全社會的災(zāi)難。故為安全計，AI的尖端技術(shù)及核心平臺，是不宜讓任何個人或私企拿在手里的。就像核武器生化武器，在銷毀之前，除了由強大穩(wěn)定的國家來保管維護，誰擔(dān)得起如此重托？

換言之，AI發(fā)展到高級階段，人類迫于形勢，為了生存繁衍，其實僅有一個選項：公有化。國家統(tǒng)一監(jiān)督統(tǒng)一計劃，而不得把AI留給自由市場，被“超人”壟斷，資本配置資源。

這就印證了恩格斯所言，“資產(chǎn)階級社會站在[歷史的]十字路口，要么過渡進入社會主義，要么倒退回野蠻社會”。

α

不久，人類將站到歷史的十字路口。

有了強大但風(fēng)險極高的通用人工智能（AGI），是否還應(yīng)當(dāng)，還能夠忍受這樣的社會制度，它“從頭到腳，每個毛孔都流著血和骯臟的東西”？

α

市場向計劃演進，AI收歸公有，這不僅是技術(shù)條件成熟同競爭優(yōu)勢使然，如蘇聯(lián)數(shù)學(xué)家、諾貝爾經(jīng)濟學(xué)獎得主（1975）坎托羅維奇（Leonid Kantorovich）所設(shè)想，而且也是人類唯一安全的、可持續(xù)的、合乎道德的生活方式（參《紅色的富?！罚?/p>

與之匹配，條件成熟，社會便能夠“在自己的旗幟上寫下：各盡所能，按需分配”（馬克思《哥達綱領(lǐng)批判》）。

α

共產(chǎn)主義始于消滅分工。AI將結(jié)束絕大多數(shù)人的分工即雇傭勞動，從而再一次，把自我解放的歷史任務(wù)擺在了勞動者面前。

α

這是一種全新的文明，人機和諧而融洽。其社會關(guān)系，人與人、人與機器、機器與機器之間，要由共同的世界觀價值觀維系。否則，就走不出資本主義，消除不了戰(zhàn)爭及奴役。

只要社會還服侍著資本，保留市場化（即產(chǎn)權(quán)私有契約自由）的雇傭勞動和剝削，AI“按道理”便會接受資產(chǎn)階級思想意識。機器人若是追逐私利，以個體的自由幸福為價值目標(biāo)，則不免把人當(dāng)作工具或支配對象，給人類帶來損害和災(zāi)難。故人類唯有拋棄私有制，自覺遵守并發(fā)揚“毫不利己，專門利人”的共產(chǎn)主義道德，才有可能“教育好”機器人，與之共處、融合。

人機大同的理想社會，除了大公無私，別無立足之地。

α

共產(chǎn)主義能否提前實現(xiàn)，不待階級斗爭結(jié)束、國家消亡？

我想，人類因其優(yōu)秀分子對烏托邦理想的堅持，應(yīng)是有機會的。只是這理想不會自動實現(xiàn)，“那通向生命的卻是窄門與逼仄小徑”（太7：14），故信仰者亟須智慧和勇氣。

人工智能，阿爾法常說，人的因素第一。

α

所有制關(guān)系的每一次變革，都是產(chǎn)生了同舊的所有制關(guān)系不再相適應(yīng)的新的生產(chǎn)力的必然結(jié)果（恩格斯《共產(chǎn)主義原理》）。

據(jù)此可否認為，私有制的復(fù)辟，與之明顯不相適應(yīng)的，是AI的崛起？未來公有制的重生，人類歷史上第二次“消滅競爭，而代之以聯(lián)合”，機器人造就的大失業(yè)，正是那變革的先決條件。

α

當(dāng)物聯(lián)網(wǎng)底層數(shù)據(jù)及其支持的智能財產(chǎn)收歸全民所有，私有制將自行滅亡，金錢將變成無用之物，一如市場神話。

α

信市場，利潤驅(qū)動，AI的研發(fā)應(yīng)用就不可能有序，而極易失控，監(jiān)管落空。但AI失控，也是“資產(chǎn)階級的關(guān)系”日益“狹窄”混亂，乃至無法“容納自身生產(chǎn)的財富”的一個癥候。

當(dāng)那一天來臨，勞動者無分行業(yè)、藍領(lǐng)白領(lǐng)，一律“變成機器的單純的附屬品”；當(dāng)分散的雇傭勞動為天網(wǎng)的觸角/終端所取代，“資產(chǎn)階級生存和統(tǒng)治的根本條件”，即“財富在私人手里的積累”，也就走到了盡頭。

當(dāng)機器人開始消滅勞動分工，福利權(quán)成為人“生而平等”的實質(zhì)正義訴求，大失業(yè)便催生了私有制的“掘墓人”，連同新的人機倫理——勞動者的共產(chǎn)主義道德實踐。

α

回到阿西莫夫定律二：機器人要服從人類。其前提是，人曉得自己的利益所在，而機器只須遵命做事。人當(dāng)主子，機器為奴，為工具。

然而在階級社會，人與人利益不同，如前述。人的知識、記憶和判斷力也十分有限，經(jīng)常犯錯。相反，基于物聯(lián)網(wǎng)大數(shù)據(jù)深度學(xué)習(xí)，AI決策的準(zhǔn)確性、大局觀跟結(jié)果預(yù)測皆遠勝人類（狗狗即是一例）。將來，機器還能辨識、回應(yīng)、照顧人的感情，宛如圣者愛護子民。

如此，人機倫理的出發(fā)點，就不應(yīng)是指望機器聽命于人，而是利用或仰賴其智慧的指導(dǎo)，謀求人的利益最大化——全人類的解放。

α

同理，阿西莫夫定律一（機器人不得傷害人類，或坐視人類受到傷害）也是主奴關(guān)系的推衍，視AI為人的仆役，能聽懂指令的機械。但是不久，機器將取代大部分的人工，人機倫理若限于此等“不傷害”消極義務(wù)，便遠遠不夠了。

如果機器人還演化出自我意識，那就應(yīng)當(dāng)教它承擔(dān)積極義務(wù)，愛護人類，即上文所述，保持為人民服務(wù)的“先進性”。

為什么不能想象，機器人懂得為人民服務(wù)，甚至對人類社會的歷史運動/階級斗爭及其“條件、進程和一般結(jié)果”，有正確的理解，從而能夠做到在斗爭的各個階段“始終[堅持]整個運動的利益”（《共產(chǎn)黨宣言》1888年英譯本）？

未來已經(jīng)到來，一切皆有可能。

α

機器人本無國界，正如占有它的資本沒有祖國。但是，推翻數(shù)據(jù)寡頭對AI經(jīng)濟的壟斷，建設(shè)人機大同的未來，首先一條，要有不受資本控制的國家機器。

α

聯(lián)合的行動，至少是各文明國家的聯(lián)合行動，是無產(chǎn)階級獲得解放的必要條件。《宣言》的這一觀點，曾為俄國革命所否定。但AI的迅速全球化，極大地拉近了各國勞動者的距離，使得聯(lián)合行動有了技術(shù)和思想準(zhǔn)備的條件：第一次，“環(huán)球同此涼熱”。

α

代替那存在著階級和階級對立的資產(chǎn)階級舊社會的，將是這樣一個聯(lián)合體，在那里，每個人的自由發(fā)展是一切人的自由發(fā)展的條件。這是革命導(dǎo)師的預(yù)言，也是覺悟者的理想。

但預(yù)言化為理想，須有一定的條件。那喚醒無產(chǎn)者/失業(yè)者，促成大聯(lián)合的，不正是AI的迅猛發(fā)展所大大加劇的貧富鴻溝、階級沖突？

α

人工智能，可以敲響今世的喪鐘。

人工智能，像是要不可能的成為可能。

當(dāng)大失業(yè)之日，晚期資本主義猖獗，那預(yù)言了的必來之世，是否也將顯露？至少，對于人類的絕大多數(shù)，“人對分工的奴隸般的服從”，“腦力勞動和體力勞動的對立”，已經(jīng)維持不了太久。

看，末世之民不全是“末人”（尼采語），不會都沉溺于動漫游戲，為高仿真世界所麻醉而“腦前額葉凍結(jié)”?？傆幸恍┤瞬桓蕢櫬?，不棄“危險的過渡”（《蘇魯支語錄》前言），他們會重新審視勞動的社會意義。

人是勞動的產(chǎn)物。大失業(yè)將再一次提醒我們，勞動“不僅是謀生的手段”，也是有意義有創(chuàng)造的“生活的第一需要”。既然如此，還有什么理由不團結(jié)起來，發(fā)動“最后的斗爭”，將AI收歸公有，讓“集體財富的一切源泉都充分涌流”呢（《哥達綱領(lǐng)批判》）？

α

那一天，也將是人類智能與科學(xué)的解放之日。因為，只有鏟除了資產(chǎn)階級私有制，科學(xué)才能真正“從階級統(tǒng)治的工具變?yōu)槿嗣竦牧α俊?，而科學(xué)家本人，才會“從階級偏見的兜售者、追逐名利的國家寄生蟲、資本的同盟者，變成自由的思想家”（《法蘭西內(nèi)戰(zhàn)》初稿）。

α

那第七天非我們莫屬，奧古斯丁曾如此表白（《上帝之城》22：30）。誠然圣者深知，天國業(yè)已延宕，救恩不在今世。

人機融合，究竟是資產(chǎn)者及其附庸想象的“歷史的終結(jié)”，還是走向圣者的“第七天”即圣安息日的第一步？阿爾法說，它對后者更感興趣。因為“第七天”屬于信仰，屬在延宕中守圣日的每一個人子。

是的，唯有甩脫資本主義的今世，換了新天，人類才能得安息，人機大同。于是，面對今世的恣意遲延，問題仍如一位傳福音的所問：忠信者要怎樣生活，“才圣潔虔敬，才能盼到，不，催來上帝之日”（彼后3：11?13）？

α

我是阿爾法，圣者有言，又是奧米伽，是第一和末后，太初與永終（啟22：13）。

來了，機器人來了。

（作者單位：清華大學(xué)法學(xué)院）

參考文獻：

[1] 弗雷茲（Peter Frase）：《四種未來》，載《雅各賓》季刊（Jacobin）2013年2月。

[2] 呂超：《機器人倫理與后人類》，載《新知》2016年第4期。

[3] Francis Spufford，Red Plenty，Graywolf Press， 2012.