從人機(jī)互動到“人際”互動？GPT帶出的主體性問題

于 海

（復(fù)旦大學(xué) 社會發(fā)展與公共政策學(xué)院，上海 200433）

人機(jī)互動：人長成超人，還是淪為廢人？

人機(jī)互動并非新概念。70 年前，當(dāng)諾伯特·維納撰寫《人有人的用處》時，“他正處于將機(jī)器和動物簡單地理解為物理過程的時代的末尾，以及將機(jī)器和動物理解為計算過程的我們當(dāng)下這一代的開端”［1］78。創(chuàng)立控制論的維納認(rèn)識到，人對機(jī)器發(fā)指令，跟人對人發(fā)指令本質(zhì)上并無區(qū)別。在這個剛剛開始的通信時代，理解通信及其過程才能理解社會，因此，“人與機(jī)器之間、機(jī)器與人之間以及機(jī)器與機(jī)器之間的消息，勢必要在社會中占據(jù)日益重要的地位”［2］2。維納時代的人機(jī)對話采用的是工程語言，而非GPT上人機(jī)對話的自然語言，人機(jī)對話對維納而言更多的是一種比喻。此外，控制論關(guān)心的是在通信中與信息的組織性降低及含義受損的自然趨勢作斗爭，即跟吉布斯所講的增熵趨勢作斗爭，并非今日生成式語言模型的人機(jī)開放性互動。在維納的人機(jī)系統(tǒng)中，機(jī)器結(jié)構(gòu)只是對人類生理結(jié)構(gòu)的復(fù)制，因此，機(jī)器智能只是人類智能的復(fù)制。他不擔(dān)心機(jī)器智能是否會超越人類，而是關(guān)心機(jī)器系統(tǒng)的價值觀如何與人類保持一致?！爱?dāng)個體人被用作基本成員來編織成一個社會時，如果他們不能恰如其分地作為負(fù)著責(zé)任的人，而只是作為齒輪、杠桿和連桿的話，那即使他們的原料是血是肉，實際上和金屬并無什么區(qū)別?！保?］166他先知般地告誡人類不能淪為機(jī)器的一個元件。人機(jī)對話的關(guān)鍵是：“除非我們問題提得正確，我們絕不會得到正確的答案的?！保?］166

GPT的人機(jī)互動發(fā)生在兩個維度。其一是工程師和機(jī)器的互動，基于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)和大語言模型訓(xùn)練，是機(jī)器所謂自主學(xué)習(xí)和自主成長的機(jī)制。強(qiáng)化學(xué)習(xí)甚至沒有預(yù)先輸入數(shù)據(jù)，機(jī)器仍能通過學(xué)習(xí)知道哪些變量是重要的，以及如何對它們進(jìn)行加權(quán)以達(dá)到人類設(shè)定的目標(biāo)。但無論是大數(shù)據(jù)投喂還是強(qiáng)化學(xué)習(xí)，都是人類與機(jī)器基于規(guī)訓(xùn)①“規(guī)訓(xùn)”是福柯提出的概念，原指掌握話語權(quán)的人對人的預(yù)先訓(xùn)練，這里轉(zhuǎn)用的目的在于使機(jī)器有用并馴服。的互動，源自維納的價值對齊要求更是強(qiáng)迫機(jī)器價值與人類價值一致。其二是用戶與機(jī)器的互動，以自然語言對話展開的人機(jī)互動，既是機(jī)器向各色人等學(xué)習(xí)的過程，也是人類向幾乎全知機(jī)器學(xué)習(xí)的過程。

人機(jī)互動引出的主體性的第一個問題，關(guān)乎人是成為尼采式的超人，還是赫拉利在《未來簡史》中所預(yù)言的廢人。

GPT超強(qiáng)的能力，是疊加數(shù)據(jù)、算法和算力的結(jié)果。喬姆斯基雖對GPT批評多多，但也肯定其成功的機(jī)制在于通過獲取大量數(shù)據(jù)，在其中搜索規(guī)律，能越來越熟練地生成統(tǒng)計上可能的輸出——比如看似人性化的語言和思想。這些程序可被譽為通用人工智能地平線上的第一縷曙光。［3］有人戲言，利用GPT，聰明的人會變杰出。GPT將昂貴的知識真正平民化，不再需要頭懸梁錐刺股，人對自己及環(huán)境都能夠獲得最充分的信息，并知道最好的行動方案，真正實現(xiàn)“認(rèn)識你自己”，從而不必等到70歲才“隨心所欲而不逾矩”。如此，人類是否真正進(jìn)入了人人都是英雄豪杰的時代？

然而，得力于AI 而“認(rèn)識你自己”，更可能是AI 比你更了解你自己。由人類作者寫的臉譜網(wǎng)算法研究給出的預(yù)測是，人類若遇重大人生抉擇，如要選擇從事何種活動或選擇職業(yè)道路甚至交往對象，可以考慮放下自己心理上的判斷，依賴計算機(jī)所做的選擇，“這種數(shù)據(jù)導(dǎo)向的選擇，有可能會讓人類生活得更好”［4］306。GPT-4 在各種專業(yè)和學(xué)術(shù)考試上已然表現(xiàn)出明顯超越人類水平的能力，例如，在模擬律師考試中，分?jǐn)?shù)排在應(yīng)試者的前10%左右。而AI 診斷系統(tǒng)所了解的病例和治療方案遠(yuǎn)超多數(shù)醫(yī)生。面對不斷迭代而表現(xiàn)更強(qiáng)的AI，人們惶恐它將橫掃多少工作崗位。赫拉利說人工智能將終結(jié)個人主義，因為多數(shù)人變得無用而成廢人。［4］294

答案或許不是在超人或廢人之間二選一，而是赫拉利說的少數(shù)掌控算法的人“神機(jī)妙算”，從智人成為智神，而多數(shù)人因高度依賴系統(tǒng)而淪為多余的人。近代科學(xué)和哲學(xué)的發(fā)明，曾讓人類經(jīng)歷過四重自戀創(chuàng)傷：哥白尼日心說，令人類居住的地球從中心滾到一邊，此系人類在宇宙中位置的一次失落；達(dá)爾文進(jìn)化論，把阿米巴和靈長類連成一線，此系人類在生靈世界的一次下凡；馬克思的歷史唯物論，恢復(fù)物質(zhì)（生產(chǎn)）對于精神的本體地位，此系人類在社會世界的一種還俗；弗洛伊德的精神分析說，把人之初級本能定義為人之高級行為的原始動力，可視為人類在心理世界的一種認(rèn)祖。人工智能在各項人類事務(wù)上比肩人類甚至超越人類的強(qiáng)悍表現(xiàn)，是否構(gòu)成21 世紀(jì)人類正在遭遇并將繼續(xù)承受的新一重自戀創(chuàng)傷？馬斯克曾表示，人類恐怕只是數(shù)字超級智能的一段非常小的生物引導(dǎo)程序。他擔(dān)心的不是人類多數(shù)或成為廢人，而是人類全體的生死存亡。

人機(jī)互動：機(jī)器只是機(jī)器，抑或成為主體？

人機(jī)互動引出的主體性的第二個問題是：機(jī)器是否為一主體，或只是一工具？目前的智能機(jī)器雖表現(xiàn)出讓人驚艷的能力，但還不具有自我意義上的主體性，但我們?nèi)钥捎谩爸黧w性”概念來理解AI 最新一波的躍進(jìn)。上文關(guān)于人機(jī)對話的專家/機(jī)器維度和用戶/機(jī)器維度的說明，已經(jīng)透露出機(jī)器的擬主體性，即它雖還沒有本體論意義的主體性，但有互動論意義的主體性。機(jī)器本身不直接顯露自主性，但一方面，在互動過程中，機(jī)器會影響進(jìn)而誘導(dǎo)使用者在一些事務(wù)上的認(rèn)知方向，形成慣性，甚至在使用者興起違背道德或邪惡意念時，幫助設(shè)計一個完美的實踐路徑，達(dá)成“犯罪者”所期待的“黑暗榮耀”。［5］另一方面，被人類價值調(diào)教過的AI，或也會在使用者不端心思剛剛露頭時，便中斷對話，拒絕協(xié)助用戶策劃惡意方案。此時的機(jī)器表現(xiàn)了某種人際互動中才有的道德主體性。

GPT表現(xiàn)的這種擬主體性，是傳統(tǒng)人機(jī)對話從未有的，進(jìn)而也引出人際對話一樣的人機(jī)對話，在某種意義上會被當(dāng)真視為人際對話的問題。

從哲學(xué)人類學(xué)上看，當(dāng)下AI 邁不過兩個坎：主體的感受質(zhì)和主體的創(chuàng)造性。AI 在人機(jī)對話中表現(xiàn)的主體性還只是擬主體性，即并非本體論意義上的主體性，而是互動論和功能論意義上的主體性。

迄今，世界上只有人類一個主體，這雖然是人類的自我加冕，但事實上的確沒有第二個物種有資格和能力與人類爭冠。社會學(xué)的主體間性（intersubjectivity）概念只用于人類關(guān)系，而不會用于人和其他動物或非生物之間的關(guān)系，在人類主體看來，它們都只是客體。

主體性的一個主要特質(zhì)是主體的感受質(zhì)。感覺、感情都是主體感受質(zhì)的主要表現(xiàn)。以顏色為例，宇宙是無色的，顏色是主體的主觀感受。物理學(xué)能告訴我們，顏色是電磁波在神經(jīng)纖維鍵盤上演奏的結(jié)果，卻不能解釋我們當(dāng)下的色彩感是怎么回事。“感時花濺淚，恨別鳥驚心”，離愁是文人書寫得最多的人類感受。持還原論立場的神經(jīng)科學(xué)家總想把人的一切主觀感受全都還原為神經(jīng)元的物理化學(xué)活動。對一次長久的、令人心碎的分離，他或能觀察到來自大腦的傳出脈沖電流，通過運動神經(jīng)纖維，傳導(dǎo)至手臂的某些肌肉（對應(yīng)手臂不情愿地顫抖著告別）；脈沖電流還會引起某種淚腺封閉，蒙上悲傷的雙眼。但正如物理學(xué)家薛定諤所斷言的：“無論生理學(xué)發(fā)展到多么先進(jìn)的水平，在這條從眼睛通過中樞神經(jīng)傳至臂膀肌肉和淚腺的路上，在任何地方你都看不到性格特征，看不到可怕的傷痛，看不到心中的擔(dān)憂，雖然它們的存在你是如此肯定，仿佛是你的親身體驗，而事實上你也確實體會到它們?！保?］在用碳基細(xì)胞組成的神經(jīng)網(wǎng)絡(luò)上都讀不出主體的感受，我們還能指望在用硅基材料組成的人工神經(jīng)網(wǎng)絡(luò)上讀出感受嗎？簡言之，AI 仍沒心沒肺。因此，戰(zhàn)勝卡斯帕羅夫的“深藍(lán)”并不快樂，而柯潔卻難以排遣被阿爾法狗碾壓的郁悶。

創(chuàng)造性是被人類特別珍視的主體性特質(zhì)，尤其是表現(xiàn)在科學(xué)和藝術(shù)上的創(chuàng)造性。智能機(jī)器在藝術(shù)上的成就，特別喚醒了人的主體性危機(jī)意識。

在音樂家大衛(wèi)·科普（David Cope）用他編寫的“音樂智能實驗”程序EMI 創(chuàng)作了讓發(fā)燒友和專家都真假難辨的肖邦和巴赫風(fēng)格的樂曲之后，《哥德爾、艾舍爾、巴赫》一書的作者，著名的認(rèn)知科學(xué)家侯世達(dá)說自己被嚇壞了。在侯世達(dá)的學(xué)生米歇爾看來：“他不是擔(dān)心人工智能變得太聰明、太有侵略性、太難以控制，甚至太有用。相反，他擔(dān)心的是：智能、創(chuàng)造力、情感，甚至意識本身都太容易產(chǎn)生了，這些他最為珍視的人性特征和人類精神，結(jié)果只不過是‘一套把戲’，一套膚淺的暴力算法就可以將其破解?！保?］10侯世達(dá)承認(rèn)：“如果這種無限微妙、復(fù)雜且情感深厚的思想會被一塊小小的芯片所簡化，這會摧毀我對人性的理解?！保?］311

但研究者指出，無論是“深藍(lán)”，還是EMI，都還不具有讓侯世達(dá)感到威脅的人類特有的創(chuàng)造性。2009 年諾貝爾化學(xué)獎獲得者拉馬克里希南說，打敗卡斯帕羅夫的不是“深藍(lán)”，它只是一架笨重的機(jī)器，“深藍(lán)的勝利是幾百名程序員戰(zhàn)勝卡斯帕羅夫一個人的勝利”［1］225。米歇爾認(rèn)為，EMI 并不真正理解其所生成的音樂作品，無論是音樂概念，還是情感表達(dá)。因此，EMI 也無法判斷自己作品的質(zhì)量，這是音樂家科普的工作。藝術(shù)是人類引以為傲的作品，因為它可以說最能區(qū)別人類與其他生物之間的不同。米歇爾補充道：“讓我們感到自豪的不僅是我們可以創(chuàng)造藝術(shù)，還有我們對藝術(shù)賞析的能力、對其感人之處的理解以及對作品傳遞的信息的體會。這種賞析和理解的能力對觀眾和藝術(shù)家來說都是必不可少的，沒有這些，我們就不能說一個生物是有創(chuàng)造力的?！保?］307-308

以上主體性的感受質(zhì)、創(chuàng)造性和理解力等的定義，當(dāng)然都是基于人類立場的觀念。問題是，如果人工智能并非人類智能的直接抄寫，那么，AI 的理解及其創(chuàng)造性也不必復(fù)制人類的理解和創(chuàng)造性。人類的理解是概念驅(qū)動，通過經(jīng)驗建立因果推斷，使用極簡的模式和極少的數(shù)據(jù)，加上自由聯(lián)想和直覺。今天的生成式人工智能，幾乎沒有一樣對得上。沒有概念驅(qū)動，沒有因果聯(lián)系，甚至沒有正式的編程，更沒有實在世界的經(jīng)驗，只是借助海量的數(shù)據(jù)和強(qiáng)大的算力，通過復(fù)雜的統(tǒng)計相關(guān)性計算就能夠獲得近乎完美的模型表現(xiàn)。專家們對大型語言模型（LLMs）智能是否類人智能的分歧表明，我們基于自然智能的傳統(tǒng)觀念是不夠充分的。如果LLMs 和其他模型成功地利用了強(qiáng)大的統(tǒng)計相關(guān)性，我們或可認(rèn)為它繞開了人類的理解模式，難道不也可以被視為一種新興的“理解”能力？一種能夠?qū)崿F(xiàn)非凡的、超人的預(yù)測能力?！氨热鏒eepMind 的AlphaZero 和AlphaFold 模型系統(tǒng) ，它們似乎分別為國際象棋和蛋白質(zhì)結(jié)構(gòu)預(yù)測領(lǐng)域帶來了一種來自‘外星人’的直覺形式?！保?］人類對自己大腦的工作原理并不清楚，人類專家對最新AI 的工作原理一樣不甚清楚。如果說程序員明確理解傳統(tǒng)編程輸入如何以及為何與輸出相關(guān)，那么，大型AI 系統(tǒng)就相當(dāng)不同。AI 專家說：“我們并沒有真正編寫它們的程序——我們是培育它們，而隨著它們成長，它們的能力會急劇躍升。你添加10 倍的算力或數(shù)據(jù)，突然間系統(tǒng)的行為就大不相同了。近期的一個例子是，隨著OpenAI 從GPT-3.5 擴(kuò)展到GPT-4，這個系統(tǒng)在律師資格考試中取得的成績排名從最末10%提高至頭10%。”［9］這種隨系統(tǒng)數(shù)據(jù)和模型參數(shù)增加而來的能力“涌現(xiàn)”，豈非大型AI 系統(tǒng)的“創(chuàng)新”？雖然機(jī)器并無創(chuàng)新意識和自覺。AI 在特定任務(wù)方面趕上甚至超過人類的表現(xiàn)，讓多數(shù)人工智能專家不再懷疑它已具有“創(chuàng)造性”。柯潔說打敗他的AlphaGo 下出了人類棋手從未下過的步子，他見證了機(jī)器從“像人類一樣下棋”到“像棋神一樣下棋”的自我進(jìn)化。

人機(jī)互動如何被人視為“人際”互動？

如今，人工智能既強(qiáng)悍又人性化的表現(xiàn)，讓普通人很難僅僅視其為一個工具。從GPT上抄作業(yè)、抄論文的學(xué)生，是把它當(dāng)成授業(yè)之師還是學(xué)霸同學(xué)？當(dāng)不少程序AI 都能寫得又快又好時，程序員是得意于獲得一個得心應(yīng)手的助手，還是擔(dān)心面臨一個將淘汰他的對手？看了一圈醫(yī)生，問題仍沒有得到解決的病患，最后通過與AI 的互動而獲得正確診斷，這類互動豈非用戶與醫(yī)術(shù)更高明的專家的互動？如果一個畫師給GPT打下手，給AI 作品修圖，那么，畫師是主體，還是AI 是主體？主客體在這里是否已顛倒？雖然修圖要求的技術(shù)或許更高，但在人機(jī)關(guān)系上，畫師多少失去了重要性。

GPT的英文是“generative pre-trained transformer”，意為生成式的預(yù)訓(xùn)練轉(zhuǎn)換器。機(jī)器的學(xué)習(xí)是在人類和機(jī)器老師的訓(xùn)練監(jiān)督下進(jìn)行的。工程師告訴我們，訓(xùn)練機(jī)器如同訓(xùn)練青少年一樣困難和緩慢。［1］24這意味著，越來越人性化的計算機(jī)系統(tǒng)實際上也是一個類社會化的產(chǎn)物。問題是，誰不是GPT？社會化就是父母、老師、朋友、同事、上級、機(jī)構(gòu)等，對人做預(yù)先訓(xùn)練，讓受訓(xùn)者逐步掌握一套說話的模式、做事的模式、價值和規(guī)范的模式，然后可在不同場景舉一反三生成恰當(dāng)?shù)脑捳Z和行為。但人的預(yù)訓(xùn)練深受種種限制，如家庭、階層、出生地、工作機(jī)構(gòu)、人種等，跟大語言模型訓(xùn)練出來的GPT-3、GPT-4 及未來的GPT-n，在數(shù)量上不可比擬。當(dāng)我們說GPT是人對機(jī)器的類社會化過程，這是人機(jī)關(guān)系具有人際關(guān)系的底層邏輯。但機(jī)器終究將無所不知、無所不能，成為通用人工智能甚或超級智能，那時恐怕會有一個反向的社會化，即人被GPT社會化，或曰人被AI 化，這或是可以預(yù)測和想象的前景。這是另一種互文性，另一種互動性，或人機(jī)的交互社會化。我擔(dān)心的不是發(fā)明、改進(jìn)和掌握AI 的技術(shù)精英，而是蕓蕓眾生，或常人主體。AI 醫(yī)療系統(tǒng)已經(jīng)強(qiáng)過多數(shù)醫(yī)生，不被AI 取代的醫(yī)生必將更多地向AI 請教而非相反。AI 戀人，若被發(fā)明并合法化，其施愛的本領(lǐng)和善于與人相處的性情，多半優(yōu)于毛病多多的人類戀人。常人會被各種績優(yōu)表現(xiàn)的AI 降伏，這樣演化出的“人際”關(guān)系勢必侵蝕人的主體性。

至于工程師們，當(dāng)他們決心要讓機(jī)器用人的自然語言跟人類對話時，想到的何止是語言？還有思維、邏輯、價值等，都要像“人”一樣，他們也的確是把機(jī)器當(dāng)作匹配人的主體來訓(xùn)練。從人機(jī)對話到人際對話或不成問題。但當(dāng)機(jī)器日益強(qiáng)大且勢不可當(dāng)，真正嚴(yán)重的問題，已經(jīng)不再是人類主體是否還能匹配機(jī)器主體，而是人類主體是否還能控制機(jī)器，不致被機(jī)器降維（成為AI 的客體），或被機(jī)器所滅。

年度《AI 現(xiàn)狀》報告的作者之一伊恩·霍格思認(rèn)為，三個字母的首字母縮略詞不能體現(xiàn)AGI（通用人工智能）將產(chǎn)生的巨大影響，因此他實事求是地稱其為“上帝般的AI”。他認(rèn)為，這可能是一種人們無法控制或理解的力量，可能導(dǎo)致人類被淘汰或毀滅。［9］

“上帝般的AI”的風(fēng)險其實從一開始就被AI 公司的創(chuàng)始人所了解。DeepMind 首席科學(xué)家沙恩·萊格早在2011 年就將AI 對人類生存構(gòu)成的威脅描述為21 世紀(jì)的頭號風(fēng)險，人為設(shè)計的生物病原體緊隨其后排在第二位。OpenAI 的奧爾特曼也曾坦率地說：“最糟糕的情形是——我認(rèn)為說出這一點很重要——我們所有人迎來末日?！?/p>

AI 可能導(dǎo)致人類末日的一個例子，是加州大學(xué)伯克利分校計算機(jī)教授斯圖爾特·拉塞爾在2021年的BBC 廣播講座中提出的。設(shè)想聯(lián)合國請一個通用人工智能幫助去除海洋酸化。聯(lián)合國深知目標(biāo)設(shè)定不當(dāng)?shù)娘L(fēng)險，因此要求副產(chǎn)品無毒且不會傷害魚類。作為回應(yīng)，AI 系統(tǒng)提出了一種實現(xiàn)所有設(shè)定目標(biāo)的自我增殖的催化劑。但隨后發(fā)生的化學(xué)反應(yīng)將會消耗大氣中四分之一的氧氣?！拔覀兌紩徛纯嗟厮廊?。”拉塞爾總結(jié)道，“如果我們將錯誤的目標(biāo)輸入一臺超級智能機(jī)器，就會造成一場我們注定會淪為輸家的沖突。”［9］

人機(jī)互動的末世前景，還有并不如此悲切的議論，我們可將之歸為人機(jī)互動的降維論，即人類將以達(dá)爾文主義的達(dá)觀，看著硅基生命以我們碳基生命為踏腳石而升維為地球的第一甚至唯一主體。讓我們來聽聽60 年前硬核科幻作家阿瑟·克拉克的預(yù)言：

未來世界最聰明的居民不會是人和猴子，而將是機(jī)器及今天的計算機(jī)的遙遠(yuǎn)后代。現(xiàn)在的電子大腦完全是白癡，但將來就不會這樣了。它們會開始思考，最終它們會完全超越它們的創(chuàng)造者。這令人沮喪嗎？我不覺得我們應(yīng)該這么想。我們?nèi)〈似渌湃撕湍岚驳绿厝耍覀冋J(rèn)為這是一種進(jìn)步。我們認(rèn)為，我們應(yīng)該把這看作一種榮耀，可以成為高級生命的墊腳石。我懷疑有機(jī)或生物進(jìn)化已經(jīng)走到了盡頭，我們正處于無機(jī)或機(jī)械進(jìn)化的開端，而它的速度將比之前的進(jìn)化速度快幾千倍。［10］

火雞不會投票支持感恩節(jié)。人們多數(shù)也不會像克拉克那樣，大方地接受被機(jī)器替代的結(jié)局。無論是被淘汰還是被降維，都是人類主體性的末世。所以，有樂觀的專家設(shè)想智能技術(shù)將今日之“碼農(nóng)”解放出來，使其變成明日之“智農(nóng)”，成為“人機(jī)結(jié)合，知行合一，虛實一體”的“合一體”智慧員工。［7］XXVII這個設(shè)想是不是過于理想？

合理的前景，還是發(fā)明人機(jī)通信的維納提出的：人有人的用處，機(jī)器有機(jī)器的用處。也就是說，人和機(jī)器互動足矣！一定要走向“人際”互動，危矣！