通用人工智能：是“賦能”還是“危險”

【關鍵詞】人工智能 技術奇點 ChatGPT 人類主義 后人類主義 【中圖分類號】D262.6 【文獻標識碼】A

人工智能比人類更懂策略、更有知識、更會創(chuàng)作

2022年11月，前身為“臉書”的“元”（Meta）在《科學》雜志上發(fā)表了一篇題為《在〈外交〉游戲中將諸種語言模型同策略性推理結合的人類水準游戲》的論文?！锻饨弧肥怯擅绹婢吖竞⒅畬殻℉asbro）于20世紀50年代開發(fā)的一款七人制經(jīng)典策略游戲。通過對20世紀初歐洲七大國的“扮演”，玩家需要與其他選手建立信任、談判和合作，并盡可能多地占領領土。這要求玩家制定復雜的計劃并及時調(diào)整，理解他人的觀點乃至看破其背后的動機，然后應用語言與他人達成合作，最后說服他們建立伙伴關系和聯(lián)盟等。在游戲時玩家可以遵守或違反對其他參與者的承諾，亦可以私下交流、討論潛在的協(xié)調(diào)行動。

“元”的研究人員開發(fā)了名為“西塞羅”（Cicero）的人工智能算法模型，并于2022年8月至10月匿名參加了webDiplomacy.net組織的40場線上《外交》比賽?！拔魅_”的成績在所有參賽者中高居前10%：它的平均得分為25.8%，是其82名對手平均得分（12.4%）的兩倍還多。要知道，《外交》這款游戲完全不同于圍棋、國際象棋等游戲，后者的游戲只需要遵照規(guī)則進行，而前者則需要在規(guī)則之上同其他玩家進行大量溝通，建立信任（抑或背后捅刀）。玩家不僅要懂策略，還需要擅長談判、說服、結盟、威脅乃至欺騙。人工智能要玩好《外交》，不僅要有強大的策略推理能力，而且要有一流的交流溝通能力。

“西塞羅”算法模型主要由兩部分組成，分別是“策略推理”和“自然語言處理”。兩項技術的整合，使“西塞羅”能夠針對其他玩家的動機進行推理并制定策略，然后使用自然語言進行交流，達成一致以實現(xiàn)共同目標，形成聯(lián)盟并協(xié)調(diào)計劃。“西塞羅”會與另一位玩家協(xié)商戰(zhàn)術計劃，向盟友保證其意圖，討論游戲中更廣泛的戰(zhàn)略動態(tài)，甚至只是進行隨意的閑聊——包括幾乎任何人類玩家可能會討論的內(nèi)容。在實際的比賽過程中，“西塞羅”的對手們幾乎都未能將它與其他人類玩家區(qū)分開來（只有一位玩家有所懷疑）。

“西塞羅”使用了此前webDiplomacy.net上4萬多場《外交》游戲的數(shù)據(jù)集進行了預訓練，這些數(shù)據(jù)中還包含玩家之間交流時產(chǎn)生的超過1290萬條消息。在達成合作、談判和協(xié)調(diào)上，“西塞羅”已經(jīng)超過絕大多數(shù)人類玩家。這意味著人工智能在自然語言處理領域取得了里程碑式的成就，甚至意味著向通用人工智能（AGI， artificial general intelligence）的一大邁進。“西塞羅”的成績標識出，人工智能已經(jīng)能參與并且比絕大多數(shù)人類更好地完成以前被視作“政治”的事務。

同樣在2022年11月，人工智能研究公司OpenAI推出了一個叫作“ChatGPT”的人工智能聊天機器人程序，該程序使用基于“GPT-3.5”架構的大型語言模型，并同時通過“監(jiān)督學習”（supervised learning）與“增強學習”（reinforcement learning）進行訓練。ChatGPT具有極其強大的自然語言能力：它不但可以同人進行談話般的交互，并能夠記住同該用戶之前的互動，甚至會在連續(xù)性的對話中承認自己此前回答中的錯誤，以及指出人類提問時的不正確前提，并拒絕回答不適當?shù)膯栴}。在對話中很多用戶發(fā)現(xiàn)，它還會編程寫代碼、寫學術論文、給企業(yè)管理開藥方……有不少人工智能專家認為，ChatGPT已到了突破“圖靈測試”的邊界。2022年2月成為美國國家工程院院士、并坐上世界首富寶座的埃隆·馬斯克在推特上寫道：“ChatGPT好到嚇人（scary good），我們離危險的強人工智能不遠了。”

GPT將AIGC（AI Generated Content，人工智能所生成內(nèi)容）熱潮推上新的頂點。當下，人工智能撰寫出來的論文、劇本、詩詞、代碼、新聞報道……，以及繪畫、平面設計、音樂創(chuàng)作、影像創(chuàng)作方面的作品，其質(zhì)量已然不輸于人類創(chuàng)作者——如果不是已經(jīng)讓后者中的絕大多數(shù)變成冗余的話。實際上，大量當代創(chuàng)作者明里暗里已經(jīng)開啟人工智能“代寫”模式。最近在國內(nèi)火爆出圈的科幻全域IP《人類發(fā)明家：Ashes of Liberty》的創(chuàng)作者Enki曾說道：“在Runway和Stable Diffusion的加持上，《人類發(fā)明家》完成了角色的表達，場景的表達、電影海報的表達、logo圖標的表達、整個內(nèi)容總本的相關繪制、NFT 的制作、游戲場景的繪制等。這些工作如果以傳統(tǒng)的方式是很難一個人完成的，但是由于AI的強大，作者僅僅使用業(yè)余的時間，從8月份到12月份，短短4個月基本完成了所有的內(nèi)容，這是在以前不敢想像的?！?/p>

人類創(chuàng)作者，竟越來越深度地倚賴人工智能來進行“創(chuàng)作”（有意思的是，他們自我冠名為“人類發(fā)明家”）。誠然，這在“以前”——“人類主義”（humanism，漢語學界通常譯為“人文主義”）時代——是難以想像的。

并且，人工智能正在從文本、語音、視覺等單模態(tài)智能快速朝著多模態(tài)融合的方向邁進；亦即，人工智能能夠在文字、圖像、音樂等多種模態(tài)間進行“轉換型/生成型”創(chuàng)作。人工智能生成的作品，越來越好，“好到嚇人”。人工智能的能力越來越強，強到令人“不敢想像”。人工智能之“智”，正在使人（“智人”）變得冗余。

人類正在進入這樣一個世界，在這個世界中，人工智能比人類更懂策略，更有知識，并且更會創(chuàng)作。這個世界，誠然是一個“后人類”的世界。

人類主義框架無所不在，我們還用這個框架來評價自身，人類被放置在宇宙的中心

人工智能，激進地擊破近幾百年根深蒂固的“人類例外主義”（human exceptionalism）。人類在物種學上將自身稱作“智人”（homo sapiens），然而，這個自我界定（實則頗有點自我貼金的意味）在人工智能興起的今天，恰恰遭遇了前所未有的挑戰(zhàn)。

“人類例外主義”另一個更為人知的名字，就是“人類主義”——這是一個直接以“人類”為主義的思潮?！叭祟愔髁x”（“人類例外主義”）盡管可以追溯到卡爾·雅斯貝爾斯筆下的“軸心時代”（即公元前800年至前200年），從古希臘的“人是萬物的尺度”到中國的孟子“人之異于禽獸者幾?！?，都是人類例外主義者。

在人類主義框架下，人類被放置在宇宙的中心，當“仁”——亦即“人”——不讓地占據(jù)著舞臺的“C位”。是故，人類主義亦可稱作“人類中心主義”（Anthropocentrism，“C位”即是“中心”之意）。近數(shù)百年來，人類主義是如此根深蒂固，乃至于當一個人被評論為“人類主義者”（漢語語境里的“人文主義者”）時，他/她會很清楚，這是對自己的極大褒揚。而一個人能犯下的最大的罪，恐怕就是“反人類罪”了——阿道夫·希特勒就是被視作犯下了“反人類罪”。

在人類主義框架下，“人”被設定可以同其他“對象”根本性地分割開來，并且因為這個可分割性，后者能夠被對象化與效用化為“物”（things），亦即：根據(jù)其對于人的有用性確立其價值。人類主義用“人類學機器”（anthropological machine，吉奧喬·阿甘本的術語），確立起一個“人”高于其他“物”（動物-植物-無機物）的等級制。

近數(shù)百年來，人類主義框架已然無所不在，我們用它評判所有“非人類”（nonhumans）——說他們有用或者沒用（譬如“益蟲”“害蟲”），斷定是不是“類人”。更進一步，我們還用這個框架來評價自身。當我們確定把理性的人（乃至西方還曾經(jīng)把白人）定義為一種典范性的“人”時，那么其他所有不符合這個范式的人，就變成了“亞人”（sub-human）。猶太人、黃種人、印第安人、黑人、拉美人（如唐納德·特朗普口中都是強奸犯的墨西哥人。在2016年總統(tǒng)競選期間特朗普曾公開聲稱：“墨西哥送來美國的人都不是好人，他們送來的都是問題人員，他們帶來毒品，帶來犯罪，他們是強奸犯”，“應該全面禁止穆斯林入境美國”……這些言論非但沒有影響特朗普當年一路過關斬將突進到共和黨總統(tǒng)候選人位置上，并且在當時每次都使其支持率不降反升）、女人以及最近的LGBTQ……針對他們的各種殘忍的政治性操作（典型如納粹的“最終方案”），就可以在所謂捍衛(wèi)“人類”（“人性”“人道”）的名義下展開。在人類主義的話語框架里面，這些“人”實際上處在“邊緣”乃至“外部”的位置上——他們并非沒有位置，而是結構性地處在以排斥的方式而被納入的位置上（他們恰恰是以被排斥為“亞人”的方式而被歸納為“人”）。

人類主義框架正在遭遇以人工智能為代表的“技術對象”的嚴峻挑戰(zhàn)，面對人類主義所鑄造的這臺動力強悍的“人類學機器”，存在著兩種抗爭方式

在人類社會中根深蒂固的人類主義框架，正在遭遇以人工智能為代表的“技術對象”（technic object）的嚴峻挑戰(zhàn)。技術發(fā)展到21世紀，在以雷·庫茲韋爾為代表的技術專家眼里，很快將把人類文明推到一個“技術奇點”（technological singularity）上，在抵達該點之后，一切人類主義敘事（價值、規(guī)則、律令……）都將失去描述性-解釋性-規(guī)范性效力。人工智能這個名稱中被貼上“人類”標簽的“技術對象”，卻正在將其創(chuàng)造者推向奇點性的深淵。

在物理學上，奇點指一個體積無限小、密度無限大、引力無限大、時空曲率無限大的點，“在這個奇點上，諸種科學規(guī)則和我們預言未來的能力將全部崩潰（break down）”（史蒂芬·霍金語）。奇點，標識了物理學本身的潰?。ūM管它涵蓋在廣義相對論的理論推論之中）。與之對應地，技術奇點，則標識了人類文明自身的潰?。ūM管它涵蓋在人類文明進程之中）。

在面向奇點的境況下，人類主義正在遭受前所未有的挑戰(zhàn)。由HBO（美國鼎級劇場）推出的以人工智能為主題的科幻美劇《西部世界》（從2016年到2022年共播出四季），顯然就不是一部人類主義作品。該劇中很多主角（人工智能機器人）似乎都明目張膽地犯下了“反人類罪”。該劇講述了在遙遠的未來，一座巨型高科技成人樂園建成，樂園中生活著各種各樣的仿生人接待員，人類游客可以在樂園中為所欲為，殺害和虐待仿生人是該樂園的主要賣點，然而這座巨大機械樂園漸漸失去了對仿生人的控制，人類游客被仿生人殺死?？梢哉f，該劇很不合時宜地展示了那些遵守倫理準則、通曉“科技以人為本”的人工智能的前景。

在以人工智能為代表的“技術對象”正在激進地刺破人類主義框架的今天，我們則有必要反思性地探討“后人類境況”（the posthuman condition）。我們也要看到，在該境況下，人類主義亦正在全力開動“人類學機器”，包括給人工智能制定“倫理”準則（比如，不能傷害人類），讓它懂得誰是“主人”，知曉“科技以人為本”的道理。

面對人類主義所鑄造的這臺動力強悍的“人類學機器”，存在著兩種抗爭方式。第一種反抗的進路，我稱之為“新啟蒙主義”進路：要通過抗爭去爭取的，是讓更多的人進入到人類主義范式上的“人”的范疇里面來。這個進路實際上的反抗方式，是反內(nèi)容不反框架，其隱在態(tài)度便是：既然人類主義話語是個典范，在這個典范內(nèi)有那么多的好處，那么我得擠進來成為其中一員。它反的是關于“人”的具體內(nèi)容（如白人、男人等等），而訴求是把各種被忽略、被排斥的“亞人”都拉進來——通過各種各樣平權運動、女性運動、LGBT運動、Queer運動等，把這些“下等人”“奇奇怪怪的人”都拉進來。

值得指出的是，這個進路確實具有一定的批判性強度，用納入的方式來將更多被排斥在“典范”之外的“亞人”包容進來。這些斗爭運動是有社會性與政治性價值的。但與此同時，這一進路恰恰亦是在確認人類主義框架本身，或者說它沒有影響該框架，其努力不過是多拉一些人進入到這個框架中，把一些以前被嫌棄與拋棄的人也弄進來。所謂“包容”只是包容更多的“人”，就像于爾根·哈貝馬斯所說的“包容他者”，這個“他者”必須是可以溝通與對話的、具備“溝通理性”（communicative rationality）的。

進而，“新啟蒙主義”進路的根本性局限，恰恰就在于：總會有結構性的“余數(shù)”（remainder）。“我”進來了以后，總還會有其他的“他者”在外面，成為人類主義框架下的“余數(shù)生命”。這就是所謂“身份斗爭”的尷尬。就算LGBT進來了，Q（Queer）也進來了，總還會有這個視域里沒有被看到或者看不到的在外面。而且形式上進來了后，是否真正被實質(zhì)性接納，也是一個根本性的社會政治問題。2020年的“黑命亦命”（Black Lives Matters）抗爭標識出：哪怕二十世紀六十年代黑人民權運動取得了巨大的社會性影響，直到六十年后的今天，黑人也仍然沒有真正擺脫“亞人”的地位?！昂诿嗝贝唐屏爽F(xiàn)代自由主義-多元主義社會的“所有命皆命”（All Lives Matters）的陳詞濫調(diào)。

第二種反抗的進路，可以被稱為“后人類主義”的進路。較之“新啟蒙主義”進路，這條進路在批判的向度上要激進得多。那是因為，它針對的是框架而非內(nèi)容——不是哪些人可以進入這個人類主義框架中，也不是要“包容”更多的人；而是去質(zhì)疑，憑什么這個框架本身就一定是合理的。在人類主義者眼里，后人類主義者筆下各種徹底溢出人類主義框架的論述，總是極其怪異的，比方說他們會討論動物、怪物、雜交物（半人半動物抑或半人半機器）。

唐娜·哈拉維在1985年就以宣言的方式，把“賽博格”（半人半機器）視作政治主體，當時震驚了很多學者，而現(xiàn)在則成為了后人類主義的經(jīng)典文本之一。哈拉維本來是個女性主義理論家，但在她看來，“賽博格”這個概念恰恰具有著可以涵蓋女性主義斗爭、但又進一步越出其視域的激進潛能——“賽博格”打破了“自然/文化”“有機物/機器”“人/動物”這些二元對立框架，“混淆”了現(xiàn)代性的諸種邊界。這就沖破了女性主義框架，亦即，我們是女人，所以我們?yōu)榕吮患{入而斗爭。當哈拉維宣布“我們都是賽博格”時，人類主義框架本身受到了挑戰(zhàn)。

這就是后人類主義在思想史上關鍵價值之所在，尤其是在新啟蒙主義進路構成了主流的社會-政治方案的當代，“后人類”（并不僅僅只是“賽博格”）激進地刺出了人類主義框架。真正的批判，永遠是對框架本身的挑戰(zhàn)，而不是對內(nèi)容的增減?！昂笕祟愔髁x”確立起一個新的開放式框架，在其中人類不再占據(jù)“C位”。“后人類”指向一個開放性的范疇，換言之，并不存在定于一尊的“后人類”；它更像是一份邀請函，邀請各種在人類主義框架下沒有位置的亞人、次人、非人（……）來加入到“后人類-主義”的聚合體（assemblage）中。

人工智能所帶來的“全面賦能”，和19世紀的“機器入侵”全然不同，全方位地將人類“驅趕”出去

在我們的現(xiàn)實世界中，人工智能亦一次次地刷新人們對“智能”的認知，以至于馬斯克于2017年就曾聯(lián)合一百多位人工智能領域專家發(fā)出公開信，呼吁限制人工智能的開發(fā)。他曾在推特上聲稱：人類的第三次世界大戰(zhàn)，將會由人工智能開啟。馬斯克甚至于2019年2月宣布退出了他與薩姆·奧爾特曼于2015年12月共同創(chuàng)立的OpenAI，并高調(diào)宣稱“我不同意OpenAI團隊想做的一些事，綜合各種因素我們最好還是好說好散”。馬斯克轉而投資腦機接口項目，旨在使人（至少是一部分人）能夠在智能上駕馭住人工智能?，F(xiàn)在，人們眼里不再只有人。人類主義框架，被尖銳地撕開了一道缺口。

讓我們再次返回到近期人工智能這一輪新的爆發(fā)上。人工智能，正在激進地沖擊著“智人”的自我界定?！拔魅_”算法模型與ChatGPT大語言模型，已然使得通用人工智能不再遙不可及、不可想像?！拔魅_”能夠在高度復雜的主體間性（intersubjectivity）——可以是人際（interpersonal）或國際（international）——環(huán)境中達成合作、談判和協(xié)調(diào)。而ChatGPT能編程、寫學術綜述、創(chuàng)作詩詞、劇本、設計廣告文案、進行多語種翻譯，能做醫(yī)療診斷，能幫助企業(yè)進行戰(zhàn)略分析與管理，能做數(shù)據(jù)分析與進行預測，能以某知名人物的口吻來表述觀點或風格來進行創(chuàng)作……人工智能越來越成為沒有能力短板的“全職高手”，它能做很多事，而且做得相當好，極其好，“好到嚇人”。

對于正在從事相應工作的職場人士、專業(yè)人士而言，職場的大門還能打開多久？此前是A譯者被能力更強的B譯者所取代，C設計師比更具創(chuàng)意的D設計師取代，現(xiàn)在是所有的人類從業(yè)者都將被“生成型預訓練變形金剛”（孩之寶公司超級IP“變形金剛”便是“Transformer”）取代——與后者相較，能力盡皆不足、并且管理成本高昂的前者將全面不被需要。

人工智能所帶來的“全面賦能”，和19世紀的那次“機器入侵”全然不同——當時大量被稱為“盧德分子”的紡織工人聲稱新技術將毀滅世界，并動手摧毀棉紡機器。人工智能的賦能，不只是針對人類的身體能力，并且針對其認知能力。那就意味著，人工智能絕對不只是用機器（智能機器）將工人從工廠車間中“驅趕”出去，絕對不只是針對所謂“低技能崗位”“體力勞動”，而是全方位地將人類“驅趕”出去，包括醫(yī)生、翻譯家、教師、律師、平面設計師、廣告文案、理財經(jīng)理、企業(yè)管理顧問、戰(zhàn)略分析師等這類主要建立在認知能力之上的“高層次人才”。那么，實際上陷入全面無事可做的數(shù)量龐大的人，將何去何從？

人類正在步入后人類境況中：人類文明將陷入技術奇點。代之以今天媒體專家們所熱衷討論的哪些領域和崗位會受人工智能影響，我們需要討論人全面“不被需要”的問題：前者只是策略性的討論（個體策略），而后者才能激活文明性的思考（文明轉向）。

在最根本性的層面上，我們有必要追問：在后人類境況下，失去人類主義框架的人類，將何以自處？

凱瑟琳·馬勒布的說法值得我們仔細品味。她說，面對人工智能的指數(shù)級發(fā)展，作為一個事實，人類已經(jīng)在逐漸喪失原有的控制；而關鍵在于，“去智能地喪失對智能的控制”（to lose control of intelligence intelligently）。這也許就是后人類境況下人類的首要任務。

（作者為華東師范大學二級教授、政治與國際關系學院院長，教育部長江學者特聘教授）

【本文系國家社科基金重大項目“后現(xiàn)代主義哲學發(fā)展路徑與新進展研究”（項目編號：18ZDA017）研究成果】

【參考文獻】

①馬春雷、路強：《走向后人類的哲學與哲學的自我超越——吳冠軍教授訪談錄》，《晉陽學刊》，2020年第4期。

②吳冠軍：《神圣人、機器人與“人類學機器”——二十世紀大屠殺與當代人工智能討論的政治哲學反思》，《上海師范大學學報（哲學社會科學版）》，2018年第6期。

③Stephen W. Hawking， A Brief History of Time： From the Big Bang to Black Holes， New York： Bantam， 2009， p. 84.

④吳冠軍：《陷入奇點：人類世政治哲學研究》，北京：商務印書館，2021年。

⑤Hannah Arendt， The Human Condition， 2nd edition， Chicago： The University of Chicago Press， 1998

⑥哈貝馬斯著、曹衛(wèi)東譯：《包容他者》，上海：上海人民出版社，2002年。

⑦吳冠軍：《健康碼、數(shù)字人與余數(shù)生命——技術政治學與生命政治學的反思》，《探索與爭鳴》，2020年第9期。

⑧吳冠軍：《愛、謊言與大他者：人類世文明結構研究》，上海：上海文藝出版社，2023年。

⑨Catherine Malabou， Morphing Intelligence： From IQ Measurement to Artificial Brains， trans. Carolyn Shread， New York： Columbia University Press， 2019， p. 153.

責編/李一丹 美編/楊玲玲