基于大模型的知識(shí)生產(chǎn)與啟蒙辯證法

內(nèi)容提要 人們?cè)谑褂么竽Ｐ偷倪^(guò)程中，會(huì)存在某種程度的幻覺(jué)，即認(rèn)為大模型無(wú)所不知和無(wú)所不能。正因?yàn)檫@種幻覺(jué)的存在，大模型可能會(huì)從啟蒙的理性變成新的啟蒙神話(huà)。啟蒙的意義在于保持一種開(kāi)放性，而啟蒙的神話(huà)就表明了這種開(kāi)放性的消失。大模型的發(fā)展無(wú)疑會(huì)加劇世界的數(shù)學(xué)化。在此背景之下，權(quán)證就構(gòu)成了未來(lái)數(shù)字世界的基本通貨。過(guò)度的數(shù)學(xué)化也醞釀了新的工具理性危險(xiǎn)。作為新的技術(shù)，大模型全面展示了知識(shí)與權(quán)力的關(guān)系。大模型擁有巨大的整合力，正在實(shí)現(xiàn)新型的知識(shí)大一統(tǒng)。這種彌散化的超能力會(huì)進(jìn)入知識(shí)生產(chǎn)的各個(gè)領(lǐng)域，沒(méi)有個(gè)體可以逃脫這種超能力的捕捉。大模型會(huì)進(jìn)一步加劇知識(shí)工業(yè)化，這將導(dǎo)致更為嚴(yán)重的意識(shí)形態(tài)問(wèn)題。一方面，大模型本身有其意識(shí)形態(tài)。另一方面，大模型更加深刻的意識(shí)形態(tài)會(huì)隱含在其免費(fèi)模式和消費(fèi)模式之中，同時(shí)想象的知識(shí)共同體最終又會(huì)服務(wù)于知識(shí)霸權(quán)。面對(duì)知識(shí)工業(yè)化的風(fēng)險(xiǎn)，應(yīng)該建立知識(shí)生產(chǎn)的“手工綠洲”，用荒謬、隱喻和修辭來(lái)對(duì)抗理性，讓人類(lèi)保有通過(guò)具身體驗(yàn)來(lái)創(chuàng)造知識(shí)的能力，并且要避免同一性和絕對(duì)正確的神話(huà)。

關(guān)鍵詞 大模型 人工智能 ChatGPT 啟蒙辯證法 工具理性

高奇琦，華東政法大學(xué)政府管理學(xué)院教授、政治學(xué)研究院院長(zhǎng)

自從ChatGPT在2022年11月底發(fā)布之后，大模型技術(shù)便逐步引起了世界性的關(guān)注。作為全新的知識(shí)生產(chǎn)技術(shù)，大模型會(huì)重塑整個(gè)知識(shí)生產(chǎn)格局。在這一情境下，大模型技術(shù)將給人類(lèi)的啟蒙進(jìn)程帶來(lái)哪些影響？針對(duì)由大模型技術(shù)引發(fā)的新一輪啟蒙革命，我們又該對(duì)其中產(chǎn)生的破壞性效應(yīng)采取哪些應(yīng)對(duì)措施？為了更加深入地討論這些問(wèn)題，筆者引入馬克斯·霍克海默（Max Horkheimer）和西奧多·阿多諾（Theodor Adorno）在《啟蒙辯證法》中的思想資源，通過(guò)對(duì)與知識(shí)生產(chǎn)相關(guān)聯(lián)的知識(shí)啟蒙、工具理性以及文化工業(yè)等概念的討論，并結(jié)合其他思想家的思想資源分析未來(lái)人類(lèi)社會(huì)的知識(shí)生產(chǎn)及其背后更加深刻的政治哲學(xué)意蘊(yùn)。

一、從告別愚昧到新的啟蒙神話(huà)

這里首先需要看到大模型的啟蒙潛能。大模型的本質(zhì)是一種新型的知識(shí)生產(chǎn)工具。人們只要對(duì)大模型發(fā)問(wèn)，就可以得到某種形式的知識(shí)回應(yīng)。之前人類(lèi)往往會(huì)屈從于傳統(tǒng)的知識(shí)秩序。例如，在農(nóng)業(yè)社會(huì)，知識(shí)生產(chǎn)更多掌握在族長(zhǎng)、鄉(xiāng)紳、巫師手中?，F(xiàn)代社會(huì)開(kāi)啟了啟蒙的篇章，逐步將知識(shí)生產(chǎn)變成一種專(zhuān)業(yè)化過(guò)程。現(xiàn)代教育的展開(kāi)使得知識(shí)生產(chǎn)不再掌握在工業(yè)文明之前的鄉(xiāng)村秩序或神秘主義力量手中，而逐步將其全面化和專(zhuān)業(yè)化，這便是啟蒙的新意義。啟蒙的重要功能在于告別愚昧，原先由族長(zhǎng)、鄉(xiāng)紳和巫師掌握的知識(shí)生產(chǎn)逐步交由科學(xué)進(jìn)行。同時(shí)，也出現(xiàn)了圍繞知識(shí)生產(chǎn)的專(zhuān)門(mén)群體。這一群體既包括創(chuàng)造科學(xué)知識(shí)的學(xué)者，也包括傳播這些知識(shí)的教師抑或是實(shí)踐這些知識(shí)的醫(yī)生、律師、工程師等。

在現(xiàn)代性知識(shí)生產(chǎn)的過(guò)程中，會(huì)產(chǎn)生過(guò)度專(zhuān)業(yè)化導(dǎo)致的某種專(zhuān)家治國(guó)問(wèn)題。而這種專(zhuān)家治國(guó)問(wèn)題的產(chǎn)生，還伴有科學(xué)技術(shù)在社會(huì)地位日顯、政府職能擴(kuò)張及技術(shù)民主思潮興起等時(shí)代背景[1]。換言之，專(zhuān)家成為整個(gè)社會(huì)的主宰。對(duì)于這一點(diǎn)，許多學(xué)者都進(jìn)行過(guò)深入討論。例如，尤爾根·哈貝馬斯（Jürgen Habermas）提出科學(xué)技術(shù)是一種新的意識(shí)形態(tài)：“技術(shù)和科學(xué)在某種程度上滲透進(jìn)社會(huì)制度并改變了它們，這使得舊的合法性遭到摧毀?！盵2]喬萬(wàn)尼·薩托利（Giovanni Sartori）同樣對(duì)專(zhuān)家治國(guó)進(jìn)行了激烈的批評(píng)：“我們必須服從民主政體的需要，這并不是受專(zhuān)家的統(tǒng)治，重要的是依靠他們的專(zhuān)業(yè)知識(shí)?！盵3]換言之，專(zhuān)家本身是打破愚昧的一種工具，然而專(zhuān)家在其長(zhǎng)期參與知識(shí)生產(chǎn)過(guò)程中，又逐步演化為新的神話(huà)。而大模型的出現(xiàn)，在很大程度上可以扮演新的啟蒙角色。例如，人們可以不再盲從專(zhuān)家的建議，轉(zhuǎn)而通過(guò)不斷地向大模型發(fā)問(wèn)來(lái)獲取對(duì)于某些問(wèn)題的答案，并輔以自己的思考來(lái)得出自己較為認(rèn)同的結(jié)論。

實(shí)際上，大模型使得人類(lèi)社會(huì)的存在與提問(wèn)緊密關(guān)聯(lián)在一起。提問(wèn)是人類(lèi)獲取知識(shí)以及深入理解知識(shí)的關(guān)鍵。中國(guó)古代將知識(shí)中較為重要的部分稱(chēng)為學(xué)問(wèn)，其中包含了兩層含義，一是學(xué)習(xí)，二是提問(wèn)。同樣，在中國(guó)文化中，那些掌握較多知識(shí)或更具創(chuàng)新力的人被稱(chēng)為大學(xué)問(wèn)家。進(jìn)一步講，提問(wèn)能力對(duì)于個(gè)體的啟蒙極為重要。一個(gè)好的問(wèn)題，往往比答案更加重要。隨著不斷地深入使用大模型，人們會(huì)發(fā)現(xiàn)大模型回答問(wèn)題的質(zhì)量取決于人提問(wèn)的質(zhì)量。目前大模型已經(jīng)出現(xiàn)了一種新型的學(xué)習(xí)內(nèi)容和職業(yè)方向，即提示工程。提示工程的核心學(xué)習(xí)內(nèi)容就是將提問(wèn)進(jìn)一步專(zhuān)業(yè)化，通過(guò)培養(yǎng)學(xué)習(xí)者更強(qiáng)的提問(wèn)能力，從而獲得更好的語(yǔ)言大模型使用技巧。從這個(gè)角度來(lái)講，提示工程具有更加深刻的啟蒙內(nèi)涵。

因此，大模型的出現(xiàn)可能會(huì)使得人類(lèi)的教育走向側(cè)重提問(wèn)。之前人類(lèi)教育的重點(diǎn)更傾向于對(duì)傳統(tǒng)知識(shí)的記憶以及對(duì)問(wèn)題的回答，根據(jù)大模型發(fā)展的方向，未來(lái)的教育重點(diǎn)應(yīng)該要逐步轉(zhuǎn)向?qū)τ谔釂?wèn)的教育。實(shí)際上，在人類(lèi)的幼年階段，提問(wèn)是一種自然能力。人們會(huì)發(fā)現(xiàn)小孩子比成年人有更多的問(wèn)題。因此，未來(lái)教育的重點(diǎn)應(yīng)是鼓勵(lì)孩子在人生的整個(gè)階段中都時(shí)刻保持這種發(fā)問(wèn)的狀態(tài)。這種發(fā)問(wèn)在某些情境下可能會(huì)造成尷尬的氣氛。例如，在《皇帝的新裝》故事中，那個(gè)孩子的發(fā)問(wèn)便打破了整個(gè)戲劇的氣氛，使人們回到真實(shí)的情境之中。因此，大模型所強(qiáng)調(diào)的提問(wèn)實(shí)質(zhì)是使得人們可以不斷地進(jìn)入啟蒙的狀態(tài)。

然而，大模型的出現(xiàn)并沒(méi)有一勞永逸地解決啟蒙問(wèn)題，而且創(chuàng)造了新的啟蒙困難。問(wèn)題的癥結(jié)出現(xiàn)在回答的內(nèi)容上。人們?cè)谑褂么竽Ｐ偷倪^(guò)程中，會(huì)存在某種程度的幻覺(jué)。這種幻覺(jué)主要體現(xiàn)為以下兩點(diǎn)：

第一，無(wú)所不知。大模型與之前的智能音箱有明顯的區(qū)別。智能音箱是基于傳統(tǒng)的自然語(yǔ)言技術(shù)而設(shè)計(jì)的，其回答問(wèn)題的基礎(chǔ)是人為知識(shí)庫(kù)。當(dāng)人們問(wèn)到知識(shí)庫(kù)之外的問(wèn)題時(shí)，智能音箱的典型做法是拒絕回答，因?yàn)檫@樣的問(wèn)題不在其回答的范圍之內(nèi)。智能音箱的技術(shù)基礎(chǔ)是觸發(fā)機(jī)制，即人們?cè)诎l(fā)問(wèn)中的關(guān)鍵詞會(huì)觸發(fā)相應(yīng)的、人們之前已經(jīng)準(zhǔn)備好的答案。這一過(guò)程更多是一種機(jī)械關(guān)聯(lián)的過(guò)程。然而，大模型回答的內(nèi)容卻是生成的。ChatGPT的技術(shù)基礎(chǔ)是一種“通過(guò)上文預(yù)測(cè)下文”的大語(yǔ)言模型[1]。在回答問(wèn)題的過(guò)程中，人們確實(shí)發(fā)現(xiàn)大語(yǔ)言模型可能會(huì)具備無(wú)所不知的特點(diǎn)。按照OpenAI首席科學(xué)家伊利亞·蘇茨克沃（Ilya Sutskever）的說(shuō)法，他深信在GPT模型內(nèi)部存在一種世界模型[2]。大模型的基礎(chǔ)是一種知識(shí)壓縮，而預(yù)訓(xùn)練模型意味著科學(xué)家已經(jīng)把人類(lèi)幾乎所有的重要知識(shí)（包括維基百科、人類(lèi)書(shū)籍、網(wǎng)頁(yè)文本和爬蟲(chóng)數(shù)據(jù)）都封裝到這一模型中。這種海量知識(shí)的生成模式使得大模型幾乎可以回答所有問(wèn)題。當(dāng)然，這種“無(wú)所不知”的問(wèn)題就在于其會(huì)因幻覺(jué)（hallucination）生成一些完全不存在的內(nèi)容[3]，典型案例就是人們討論的“林黛玉倒拔垂楊柳”。因此，大模型的這種無(wú)所不知并不是真正的無(wú)所不知，其本質(zhì)上是一種不知限度的回答。

第二，無(wú)所不能。大模型會(huì)在預(yù)訓(xùn)練知識(shí)之上形成某種知識(shí)的超能力。盡管大模型的基礎(chǔ)是大語(yǔ)言模型，然而大模型卻可以掌握一些超出語(yǔ)料內(nèi)容的超能力。例如，ChatGPT和GPT-4中的中文語(yǔ)料訓(xùn)練數(shù)據(jù)非常少，然而其在中文內(nèi)容的理解方面甚至?xí)^(guò)以中文語(yǔ)料為主的文心一言等中文大模型。換言之，其強(qiáng)大的超能力是在某種人類(lèi)并不理解的情境下涌現(xiàn)的。另外，其強(qiáng)大的編程能力也很大程度上基于這種涌現(xiàn)。GPT技術(shù)最薄弱的環(huán)節(jié)是數(shù)學(xué)。例如，ChatGPT一般可以理解問(wèn)題，卻不能提供正確的解決方案[4]。然而，到GPT-4之后，特別是在接入了Wolfram等數(shù)學(xué)插件工具之后，其數(shù)學(xué)計(jì)算能力大大增強(qiáng)。換言之，整體來(lái)看，大模型會(huì)形成一種全知全能的超能力，會(huì)體現(xiàn)為一種基于不確定性的確定性。不確定性在于其生成智能的本質(zhì)特征。生成智能就意味著人類(lèi)并不能完全掌控其接下來(lái)生成的內(nèi)容，因?yàn)檫@樣的生成是完全基于概率的。確定性就在于其強(qiáng)大的超能力，其似乎真的可以做到全知全能。

正因?yàn)檫@種超能力的存在，大模型可能會(huì)從啟蒙的理性變成新的啟蒙神話(huà)。就像趙磊在討論《啟蒙辯證法》一書(shū)時(shí)所提到的，啟蒙精神為了使人類(lèi)擺脫自然恐懼，不斷祛除自然之魅并消除神話(huà)，但這一過(guò)程卻導(dǎo)致了神話(huà)理性，同時(shí)編織了技術(shù)神話(huà)，使人類(lèi)在自然面前的主體性淪為技術(shù)附庸[5]。進(jìn)言之，這種超能力最大的問(wèn)題在于讓學(xué)習(xí)者感到慚愧。當(dāng)GPT-4出現(xiàn)之后，大量編程領(lǐng)域的學(xué)習(xí)者的第一反應(yīng)是震驚。就連深度信念網(wǎng)絡(luò)的發(fā)明人杰弗里·辛頓（Geoffery Hinton）也有如此感受。辛頓在訪(fǎng)談中多次表達(dá)了對(duì)ChatGPT超能力的驚嘆。辛頓明確指出，他一直認(rèn)為人類(lèi)在處理信息方面具有某種優(yōu)勢(shì)，機(jī)器是永遠(yuǎn)趕不上人類(lèi)的，這是他在機(jī)器學(xué)習(xí)研究中的一個(gè)基本信念。然而，GPT技術(shù)的發(fā)展卻顛覆了他的認(rèn)知，這也是他從谷歌離職并希望利用自己的聲譽(yù)提醒人們關(guān)注GPT技術(shù)風(fēng)險(xiǎn)的原因[1]。這種超能力進(jìn)一步導(dǎo)致的問(wèn)題是，人們對(duì)大模型可能會(huì)從剛開(kāi)始的不信任逐步變成超信任。大模型仍然在快速進(jìn)化當(dāng)中，從ChatGPT到GPT-4，大模型在準(zhǔn)確性上有非常大的提升。按照這一進(jìn)化速度，未來(lái)大模型可能會(huì)變得越來(lái)越準(zhǔn)確。人們?cè)谑褂眠^(guò)程當(dāng)中會(huì)不斷增加對(duì)其的信任，最終就會(huì)發(fā)展為一種超信任。當(dāng)大模型出錯(cuò)時(shí)，人們會(huì)覺(jué)得不可理解，最終導(dǎo)致的結(jié)果就是大模型的發(fā)展會(huì)使得許多開(kāi)放性問(wèn)題只有封閉性答案，而許多開(kāi)放性問(wèn)題本身是沒(méi)有標(biāo)準(zhǔn)答案的，因此大模型的發(fā)展可能會(huì)對(duì)多元主義文化形成壓抑。

語(yǔ)言大模型本質(zhì)上是一種知識(shí)的大一統(tǒng)。由于OpenAI在訓(xùn)練大模型時(shí)形成了一種英文語(yǔ)料大一統(tǒng)的格局，在某種程度上對(duì)其他語(yǔ)種的語(yǔ)料形成了拒斥，進(jìn)而演化為一種封閉樣態(tài)。因而從這個(gè)角度來(lái)講，大模型可能會(huì)成為新的啟蒙神話(huà)。

二、世界的數(shù)學(xué)化與工具理性的彌散

上文討論了大模型的啟蒙潛能以及其可能會(huì)陷入啟蒙神話(huà)的危險(xiǎn)。大模型對(duì)世界的影響進(jìn)一步體現(xiàn)在，其會(huì)極大地推動(dòng)世界的數(shù)學(xué)化。阿蘭·巴迪歐（Alain Badiou）曾在討論中提出了數(shù)學(xué)本體論的觀(guān)點(diǎn)。巴迪歐的這一觀(guān)點(diǎn)在很大程度上是對(duì)柏拉圖的致敬。柏拉圖認(rèn)為，理念是第一性的，物質(zhì)世界是第二性的。理念世界的根本是數(shù)學(xué)，特別是幾何學(xué)。柏拉圖指出，幾何學(xué)“大概能把靈魂引向真理”[2]。換言之，在柏拉圖的理解中，由數(shù)學(xué)構(gòu)成的理念才是人類(lèi)社會(huì)最本源的部分，而物質(zhì)世界則在很大程度上是對(duì)數(shù)學(xué)抽象的一種表達(dá)和反映。巴迪歐在柏拉圖理念論的基礎(chǔ)之上，結(jié)合了格奧爾格·康托爾（Georg Cantor）等人的現(xiàn)代集合論，進(jìn)一步提出了數(shù)學(xué)本體論的觀(guān)念[3]。本體論是哲學(xué)中最為基礎(chǔ)的表達(dá)，而這種數(shù)學(xué)本體論則進(jìn)一步因應(yīng)了當(dāng)代世界的數(shù)字化轉(zhuǎn)型這一事實(shí)。當(dāng)然，巴迪歐的數(shù)學(xué)本體論更多從集合的角度出發(fā)，因?yàn)槿祟?lèi)社會(huì)的絕大多數(shù)概念都表現(xiàn)為集合。集合分為清晰集和模糊集。一些相對(duì)模糊的概念，更多以模糊集的方式來(lái)體現(xiàn)。

進(jìn)言之，大模型的發(fā)展無(wú)疑會(huì)加劇上文提到的世界的數(shù)學(xué)化。大模型的基礎(chǔ)是語(yǔ)言概率模型，其最為重要的技術(shù)底座是詞向量。詞向量的核心就是將人類(lèi)語(yǔ)言的基本單元轉(zhuǎn)化為數(shù)學(xué)中的向量，然后再通過(guò)傅立葉變換的矩陣運(yùn)算來(lái)測(cè)度任何兩個(gè)詞之間的距離[4]。這種轉(zhuǎn)換就使得我們?nèi)粘Ｉ钪械膬蓚€(gè)詞之間存在了一種空間上的距離。因此，這一基本邏輯就是將我們對(duì)話(huà)的語(yǔ)言世界轉(zhuǎn)換為一個(gè)以向量為中心的空間世界。在詞向量化之后，通過(guò)計(jì)算詞和詞之間的距離來(lái)進(jìn)行相似度運(yùn)算，最后再通過(guò)概率模型來(lái)進(jìn)行上文對(duì)下文的預(yù)測(cè)。從這個(gè)角度來(lái)講，向量計(jì)算是大模型技術(shù)的基礎(chǔ)。不僅詞可以向量化，圖片、聲音、視頻等不同模態(tài)的數(shù)據(jù)都可以向量化。向量化與權(quán)證化（tokenization）結(jié)合在一起。權(quán)證化的基本邏輯就是，將傳統(tǒng)圖片的格式信息轉(zhuǎn)換成一個(gè)長(zhǎng)長(zhǎng)的序列信息。例如，一張圖片可以轉(zhuǎn)化為1024個(gè)權(quán)證（token）的序列信息，這樣就可以運(yùn)用上文預(yù)測(cè)下文的算法來(lái)進(jìn)行全新內(nèi)容的生成[5]。這種向量運(yùn)算構(gòu)成了大模型的基礎(chǔ)，也構(gòu)成了世界數(shù)字化的基礎(chǔ)。

在此背景之下，權(quán)證就構(gòu)成了未來(lái)數(shù)字世界的基本通貨。所有的知識(shí)都可以在新的通貨的基礎(chǔ)之上進(jìn)行運(yùn)算和交易。從這個(gè)意義上講，未來(lái)大模型會(huì)成為數(shù)字世界的底座。人類(lèi)社會(huì)將不可避免地走向一種大一統(tǒng)的數(shù)字系統(tǒng)。大模型會(huì)成為數(shù)字化的基礎(chǔ)能力。數(shù)字世界構(gòu)建的基本邏輯，一方面是在人類(lèi)的現(xiàn)實(shí)世界之外構(gòu)建一個(gè)平行世界，另一方面則是這一平行世界會(huì)反身于物理世界，與物理世界緊密結(jié)合在一起。數(shù)字孿生便是這種緊密結(jié)合的表達(dá)，即人們構(gòu)建的數(shù)字世界會(huì)反作用于他們所處的物理世界。物理世界的典型特征是不確定性，因?yàn)樵谖锢硎澜缰杏袩o(wú)數(shù)個(gè)行為體。不同行為體的互動(dòng)會(huì)使得未來(lái)出現(xiàn)無(wú)限種可能性。不確定性就意味著新的風(fēng)險(xiǎn)可能隨時(shí)到來(lái)，而數(shù)字世界構(gòu)建的意義就在于通過(guò)一種確定性的構(gòu)建來(lái)降低物理世界的不確定性。

數(shù)字化主要表現(xiàn)為三方面特征：第一，數(shù)量化，即將物理世界中的一切行為和主體都進(jìn)行量化。數(shù)量化意味著其特征可以用數(shù)字方式來(lái)記錄。第二，可視化?？梢暬年P(guān)鍵在于將這些行為軌跡以清晰的方式展現(xiàn)出來(lái)?？梢暬囊饬x在于為下一個(gè)階段決策做準(zhǔn)備。第三，決策便捷化。在數(shù)量化和可視化的基礎(chǔ)之上，數(shù)字孿生系統(tǒng)可以進(jìn)一步輔助人們的行為，在較為復(fù)雜的海量信息中更容易產(chǎn)生最優(yōu)決策，其根本邏輯是用數(shù)字的確定性來(lái)捕捉物理世界的不確定性。從這個(gè)意義上講，大模型的意義在于其構(gòu)建了一個(gè)可以計(jì)算的世界，通過(guò)計(jì)算來(lái)征服自然界，這可以看成人類(lèi)力量的一個(gè)新的高度。人們通過(guò)數(shù)字世界的構(gòu)建對(duì)自然界進(jìn)行一種全方位的捕捉。無(wú)論是山川、河流、湖泊，還是浩瀚的天空以及處在這個(gè)地球上的生命，都可以通過(guò)數(shù)字系統(tǒng)來(lái)進(jìn)行精準(zhǔn)捕捉。最終，人類(lèi)社會(huì)將進(jìn)入一個(gè)計(jì)算主義的帝國(guó)。而在這種精密的計(jì)算下，強(qiáng)人工智能的深度發(fā)展甚至超人工智能的出現(xiàn)將挑戰(zhàn)人類(lèi)道德決策中心地位[1]。

對(duì)于人類(lèi)社會(huì)的科技快速進(jìn)步，霍克海默和阿多諾在《啟蒙辯證法》中就不斷地表達(dá)內(nèi)心的憂(yōu)慮。當(dāng)然，霍克海默和阿多諾并未看到目前數(shù)字世界的成就，他們處在第二次工業(yè)革命向第三次工業(yè)革命轉(zhuǎn)型的過(guò)程中。即便如此，在當(dāng)時(shí)的條件下已經(jīng)出現(xiàn)了眾多令人擔(dān)憂(yōu)的情境，即“勝利的災(zāi)難”（triumphant calamity）[2]。霍克海默和阿多諾所描述的是一種從現(xiàn)代性的啟蒙到現(xiàn)代性的噩夢(mèng)的過(guò)程。在二人看來(lái)，這種勝利最終導(dǎo)致的將是人性狀態(tài)的缺失，并進(jìn)入一種新型的野蠻主義。在霍克海默和阿多諾看來(lái)，啟蒙的綱領(lǐng)就是要喚醒世界，祛除神話(huà)并用知識(shí)來(lái)替代幻想。他們認(rèn)為，“神話(huà)變成了啟蒙，自然則變成了純粹的客觀(guān)性”[3]。二人對(duì)啟蒙與神話(huà)的悖謬關(guān)系進(jìn)行了深刻的討論。神話(huà)最初作為啟蒙的嘗試而出現(xiàn)。換言之，神話(huà)記錄了人們的想象，也記錄了人們對(duì)未知世界的探索。然而，神話(huà)最終體現(xiàn)為一種非科學(xué)的蒙昧。因此，霍克海默和阿多諾描述了另外兩個(gè)重要時(shí)期，一個(gè)是哲學(xué)時(shí)期，另一個(gè)是現(xiàn)代科學(xué)時(shí)期。哲學(xué)時(shí)期的關(guān)鍵是通過(guò)理性反思來(lái)重新思考人類(lèi)知識(shí)。這便是霍克海默和阿多諾所強(qiáng)調(diào)的，用知識(shí)來(lái)替代幻想的意義?，F(xiàn)代科學(xué)則用重復(fù)的、可以加以驗(yàn)證的方式來(lái)推動(dòng)一種新的理性。然而，在霍克海默和阿多諾看來(lái)，這種新的理性導(dǎo)致了世界的數(shù)學(xué)化，也醞釀了新的工具理性危險(xiǎn)。

霍克海默與阿多諾的這種提醒在今天看來(lái)非常重要。如前所述，大模型會(huì)加劇世界的數(shù)字化。大模型會(huì)日益表現(xiàn)為一種大一統(tǒng)的數(shù)字系統(tǒng)，這就使得沒(méi)有哪種外在之物可以逃脫大模型的影響。大模型對(duì)自然界時(shí)刻處在一種捕捉的狀態(tài)，這可能就會(huì)導(dǎo)致對(duì)大模型的迷信。這種迷信意味著，當(dāng)大模型出錯(cuò)時(shí)，人們似乎不能接受這樣的情況。這是一種必須正確的迷信。在這一背景之下，大模型就會(huì)成為新的理性囚籠。大模型的基礎(chǔ)是數(shù)學(xué)，而數(shù)學(xué)強(qiáng)調(diào)一種確定性。確定性就不允許出格。任何一種出格都是對(duì)秩序的挑戰(zhàn)。這里我們需要回顧吉爾·德勒茲（Gilles Deleuze）和菲利克斯·加塔利（Felix Guattari）關(guān)于游牧的討論。游牧就表現(xiàn)為一種逃逸的力量，是一種對(duì)捕捉的抗拒。二人極為重視根莖的意義。在德勒茲和加塔利看來(lái)，根莖與樹(shù)形系統(tǒng)（root-tree）不同。樹(shù)形的邏輯是模仿和復(fù)制，而根莖則是更具創(chuàng)造性的。根莖的意義在于其在無(wú)器官的身體之中實(shí)現(xiàn)一種自我復(fù)制[1]。在面臨巨大力量的捕獲時(shí)，逃逸就會(huì)變得至關(guān)重要。逃逸意味著在傳統(tǒng)的結(jié)構(gòu)之中生成一種新的域。德勒茲和加塔利將其稱(chēng)為再結(jié)域（reterritorialization），他們認(rèn)為，事物相互作用的過(guò)程是“解域”和“再結(jié)域”相互聯(lián)系的過(guò)程：兩個(gè)“異質(zhì)元素”形成了“根莖”，其中一個(gè)形成另一個(gè)的“一個(gè)形象”（an image）與“一個(gè)摹圖”（a tracing），而另一個(gè)在這個(gè)形象之上再結(jié)域[2]。正是這種解域與再結(jié)域的辯證法構(gòu)成了一種新的游牧。同時(shí)，這里也可以引入中國(guó)古代莊子所討論的逍遙游與之相對(duì)比[3]。換言之，在不可名狀的無(wú)法逃脫的工具理性之下，需要一種游牧或者逍遙游的力量，才可以擺脫這種理性的囚籠。這種擺脫體現(xiàn)為自由的力量，只有通過(guò)獲得自由，才能重回啟蒙并祛除神話(huà)。

三、知識(shí)大一統(tǒng)及其背后的超能力

大模型表現(xiàn)為一種新型的知識(shí)構(gòu)建。盡管OpenAI團(tuán)隊(duì)反復(fù)強(qiáng)調(diào)大模型與人類(lèi)價(jià)值觀(guān)的對(duì)齊，但是正如蘇茨克沃所討論的，封裝好的預(yù)訓(xùn)練模型本身就代表了一種世界模型。盡管人類(lèi)可以通過(guò)對(duì)齊的力量對(duì)大模型進(jìn)行規(guī)訓(xùn)，但是如果這樣的世界模型本身就內(nèi)置了一種價(jià)值觀(guān)，那么人類(lèi)社會(huì)的對(duì)齊努力總歸會(huì)表層化。目前的大模型技術(shù)仍然無(wú)法擺脫深度神經(jīng)網(wǎng)絡(luò)不可解釋性的弱點(diǎn)。大模型技術(shù)的基礎(chǔ)是轉(zhuǎn)換器（transformer）架構(gòu)[4]。轉(zhuǎn)換器則是在之前的深度神經(jīng)網(wǎng)絡(luò)算法基礎(chǔ)之上發(fā)展而來(lái)，這些算法包括卷積神經(jīng)網(wǎng)絡(luò)（CNN）、循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）以及生成式對(duì)抗網(wǎng)絡(luò)（GAN）等。無(wú)論大模型的技術(shù)如何發(fā)展，內(nèi)在于大模型之中的不可解釋性就像幽靈一樣仍然附著在大模型之上。然而，從另一個(gè)角度來(lái)講，不可解釋性似乎也可以變成優(yōu)點(diǎn)，因?yàn)椴豢山忉屝源砹四撤N神秘主義的超能力。從這一角度來(lái)講，大模型從祛魅走到了新的神話(huà)本身。

作為新的技術(shù)，大模型全面展示了知識(shí)與權(quán)力的關(guān)系。米歇爾·?？拢∕ichel Foucault）深刻地指出，知識(shí)和權(quán)力之間存在一種互構(gòu)關(guān)系，即“權(quán)力和知識(shí)直接地互相隱含”[5]。或者說(shuō)，知識(shí)就是權(quán)力本身。大模型正在成為改變世界的支配性力量。弗朗西斯·培根（Francis Bacon）極為強(qiáng)調(diào)知識(shí)的正確性，而正確性由經(jīng)驗(yàn)歸納而來(lái)。在培根看來(lái)，正確的知識(shí)才能體現(xiàn)為一種對(duì)自然的支配力。培根指出：“知識(shí)和權(quán)力是同義詞，因?yàn)閷?duì)原因無(wú)知就不會(huì)有結(jié)果，而只有服從自然才能支配自然?！盵6]正是在這一基礎(chǔ)之上，人類(lèi)現(xiàn)代科學(xué)的主要工作就是將知識(shí)技術(shù)化，并借助這種技術(shù)的力量形成對(duì)自然界的改變，從而對(duì)世界進(jìn)行支配和統(tǒng)治。然而，大模型的發(fā)展似乎使這種對(duì)世界的支配和統(tǒng)治達(dá)到了一種巔峰。大模型表現(xiàn)出巨大的整合力，其正在實(shí)現(xiàn)一種新型的知識(shí)大一統(tǒng)。之前的人類(lèi)知識(shí)被分割在不同的學(xué)科和領(lǐng)域當(dāng)中。即便是天才，也只能在某個(gè)局限的領(lǐng)域中做出一丁點(diǎn)的成績(jī)。在現(xiàn)代社會(huì)，通才的出現(xiàn)被看成是不可能的，因?yàn)槿祟?lèi)個(gè)體終其一生也無(wú)法將人類(lèi)社會(huì)中不同學(xué)科的知識(shí)都輸入大腦之中，更無(wú)法對(duì)這些知識(shí)進(jìn)行系統(tǒng)整合。從這個(gè)角度來(lái)講，那些通才性的大思想家在近代就已經(jīng)終結(jié)?？档潞秃诟駹柨梢员豢闯蛇@種通才的典型代表。在今天，我們幾乎無(wú)法想象一個(gè)同時(shí)在自然科學(xué)和社會(huì)科學(xué)都做出巨大貢獻(xiàn)的、跨越學(xué)科的全能通才。然而，大模型恰恰以知識(shí)大一統(tǒng)的形式出現(xiàn)，并逐步從知識(shí)大一統(tǒng)轉(zhuǎn)變?yōu)榧夹g(shù)大一統(tǒng)。大模型的勝利可以被看成數(shù)學(xué)的勝利。

數(shù)學(xué)和語(yǔ)言學(xué)原本是兩個(gè)完全不同的領(lǐng)域。大模型的基礎(chǔ)是數(shù)學(xué)和語(yǔ)言學(xué)的結(jié)合。在計(jì)算機(jī)科學(xué)等支撐之下，大模型形成的強(qiáng)大語(yǔ)言能力最終又超越了語(yǔ)言學(xué)本身，再次返身進(jìn)入眾多完全不同的領(lǐng)域。接下來(lái)人工智能的進(jìn)展，無(wú)論是自動(dòng)駕駛、醫(yī)療、教育、商業(yè)營(yíng)銷(xiāo)等都寄希望于大模型技術(shù)的進(jìn)一步發(fā)展。大模型突破是知識(shí)大一統(tǒng)的突破。在這種知識(shí)大一統(tǒng)的基礎(chǔ)之上，進(jìn)一步產(chǎn)生了技術(shù)大一統(tǒng)，并最終會(huì)實(shí)現(xiàn)科學(xué)技術(shù)的統(tǒng)一，其中的典型例證便是“人工智能推動(dòng)的科學(xué)”（AI for science）[1]。未來(lái)人類(lèi)科學(xué)研究的重要方向是，通過(guò)人工智能的強(qiáng)大力量實(shí)現(xiàn)對(duì)未來(lái)各種可能性的組合，從而幫助科學(xué)家進(jìn)一步發(fā)現(xiàn)世界運(yùn)作的規(guī)律?！叭斯ぶ悄芡苿?dòng)的科學(xué)”的核心仍然是世界的數(shù)學(xué)化。大模型這種統(tǒng)一的力量將對(duì)未來(lái)世界進(jìn)行全新塑造，這一點(diǎn)已經(jīng)體現(xiàn)在蛋白質(zhì)合成領(lǐng)域。人類(lèi)之前通過(guò)眾多努力也無(wú)法實(shí)現(xiàn)所有的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)，但這最終被AlphaFold攻克[2]。這便是知識(shí)大一統(tǒng)的力量。同時(shí)，在人工智能技術(shù)的輔助之下，一些全新的蛋白質(zhì)正在被合成，而這些新的蛋白質(zhì)正在構(gòu)筑新的世界。從這個(gè)意義上講，大模型知識(shí)會(huì)成為世界的創(chuàng)生力量。

然而，這種知識(shí)創(chuàng)生同樣會(huì)產(chǎn)生新的風(fēng)險(xiǎn)。典型案例便是新病毒的合成。一種新藥物的誕生，要經(jīng)過(guò)較長(zhǎng)的臨床試驗(yàn)。然而，病毒的產(chǎn)生并不需要人類(lèi)監(jiān)管機(jī)構(gòu)的批準(zhǔn)。換言之，在這種超能力以及超快速度面前，人類(lèi)社會(huì)的眾多傳統(tǒng)監(jiān)管方式可能會(huì)完全失效。進(jìn)一步來(lái)說(shuō)，當(dāng)以大模型為代表的人工智能的能力與自主性不斷增強(qiáng)，并通過(guò)自主升級(jí)獲得遠(yuǎn)超人類(lèi)的智能與力量時(shí)，人類(lèi)的命運(yùn)將被置于巨大的不確定性與風(fēng)險(xiǎn)之中[3]。這種超能力在運(yùn)用到善的方面時(shí)，要經(jīng)過(guò)人類(lèi)社會(huì)漫長(zhǎng)的核查和確認(rèn)，然而，用其作惡時(shí)，其往往可以通過(guò)地下通道快速傳播，這種合成的超能力大大縮短了超級(jí)惡的誕生時(shí)間；同時(shí)，其也會(huì)在暗市場(chǎng)中快速傳播，并對(duì)人類(lèi)社會(huì)形成重大打擊。與新病毒合成的另一相似案例是虛假信息的合成和流行。一旦知識(shí)創(chuàng)生的超能力被用到虛假信息之中，就會(huì)對(duì)人類(lèi)社會(huì)形成巨大沖擊。人類(lèi)社會(huì)在長(zhǎng)期的演進(jìn)過(guò)程中，已經(jīng)形成了“有圖有真相”這樣的圖片與真相的緊密關(guān)聯(lián)，所以當(dāng)人們看到圖片時(shí)會(huì)自然地將其與真實(shí)聯(lián)系在一起。這種聯(lián)系是在人類(lèi)的進(jìn)化過(guò)程中逐漸形成的。要打破這種聯(lián)系并不容易，況且一旦打破，人類(lèi)社會(huì)將進(jìn)入一種深度的迷失狀態(tài)，即后真相時(shí)代的來(lái)臨會(huì)讓人類(lèi)更加苦惱，因?yàn)闆](méi)有什么事情可以被證明是真實(shí)的。同時(shí)，人類(lèi)社會(huì)可能會(huì)加速進(jìn)入一種更加不團(tuán)結(jié)的狀態(tài)。虛假信息會(huì)加速不信任的蔓延，而且在“深度偽造”（deepfake）流行的狀況之下，人們無(wú)法再對(duì)所看到的東西產(chǎn)生信任，進(jìn)而將誘發(fā)嚴(yán)重的社會(huì)信任危機(jī)[4]。此外，這種不信任在社會(huì)極化的影響之下還會(huì)疊加，最終人類(lèi)將很難對(duì)真實(shí)的東西產(chǎn)生共識(shí)。同時(shí)，這樣的知識(shí)大一統(tǒng)似乎會(huì)進(jìn)入一個(gè)全新的整合世界，其在很大程度上可以被理解為多元主義的災(zāi)難。大模型一統(tǒng)天下在很大程度上是商業(yè)利益的勝利。當(dāng)然，我們還可以寄希望于開(kāi)源和小模型的最后抵抗。然后，大模型公司的發(fā)展一定會(huì)擁有一種無(wú)處不在的幽靈式權(quán)力。這種彌散化的超能力會(huì)進(jìn)入知識(shí)生產(chǎn)的各個(gè)領(lǐng)域，沒(méi)有個(gè)體可以逃脫這種超能力的捕捉。同時(shí)，這種超能力還會(huì)幻化為接入性能力，即每個(gè)個(gè)體只要向大模型交一定的“保護(hù)費(fèi)”，就可以瞬間接入這種超能力。這種接入似乎可以讓人獲得一種幽靈的分身，然而幽靈的分身最終會(huì)掏空人類(lèi)的身體，因?yàn)檫@種超能力并不是人類(lèi)自身?yè)碛械摹?/p>

四、知識(shí)工業(yè)化及其意識(shí)形態(tài)風(fēng)險(xiǎn)

霍克海默和阿多諾還討論了文化工業(yè)的問(wèn)題。在霍克海默和阿多諾所處的時(shí)代，文化正在進(jìn)一步工業(yè)化。對(duì)于這一點(diǎn)，瓦爾特·本雅明（Walter Benjamin）也有類(lèi)似的哀嘆。本雅明認(rèn)為，機(jī)器復(fù)制正在成為文化的主導(dǎo)形態(tài)，而這一點(diǎn)最終會(huì)導(dǎo)致文化神韻的消失。本雅明指出：“在技術(shù)復(fù)刻時(shí)代藝術(shù)品所枯萎的便是其光韻。”[1]貝爾納·斯蒂格勒（Bernard Stiegler）在之后的討論中進(jìn)一步提出了全球編程工業(yè)的概念。斯蒂格勒主要是在對(duì)美國(guó)軟件工業(yè)長(zhǎng)期觀(guān)察之后提出的這一概念。在斯蒂格勒看來(lái)，這種編程工業(yè)無(wú)疑服務(wù)于美國(guó)的霸權(quán)，其在很大程度上是知識(shí)帝國(guó)的一種體現(xiàn)。斯蒂格勒認(rèn)為，這種巨大的以消費(fèi)為形式的整合最后體現(xiàn)為美國(guó)化[2]。在筆者看來(lái)，人類(lèi)社會(huì)正在逐步從文化工業(yè)走到編程工業(yè)，最后再走到知識(shí)工業(yè)。大模型技術(shù)就代表了這種知識(shí)工業(yè)的誕生。文化工業(yè)在很大程度上仍然表現(xiàn)為一種休閑娛樂(lè)的力量，編程工業(yè)則意味著整個(gè)世界數(shù)字化的進(jìn)程，而知識(shí)工業(yè)最后體現(xiàn)為對(duì)人類(lèi)知識(shí)創(chuàng)造的大一統(tǒng)的工業(yè)化，其是一種更加全面深入的力量?；艨撕Ｄ桶⒍嘀Z討論的是文化工業(yè)中的自動(dòng)化。例如，兩位學(xué)者討論到電影院的觀(guān)眾情緒是被自動(dòng)化設(shè)定好的。電影工業(yè)要抓住人們的心就需要對(duì)某一個(gè)細(xì)節(jié)進(jìn)行設(shè)定，考慮觀(guān)眾對(duì)這些細(xì)節(jié)的理解，因此觀(guān)眾就像被設(shè)定到流水線(xiàn)生產(chǎn)過(guò)程中的卓別林一樣，在觀(guān)賞電影的過(guò)程中不得不服從這種自動(dòng)化的情感機(jī)制，成為“永恒的消費(fèi)者”[3]。知識(shí)工業(yè)化則是一種全新的發(fā)展。在知識(shí)工業(yè)化的過(guò)程中，人類(lèi)對(duì)知識(shí)的把握逐步從創(chuàng)造知識(shí)轉(zhuǎn)變?yōu)檫x擇知識(shí)。例如，前述的“人工智能推動(dòng)的科學(xué)”，便是從創(chuàng)造或者發(fā)現(xiàn)向選擇的轉(zhuǎn)變?？茖W(xué)家的主要工作不再是進(jìn)行新的發(fā)現(xiàn)，而是在機(jī)器做出了各種可能性的發(fā)現(xiàn)之后，再根據(jù)自己的經(jīng)驗(yàn)進(jìn)行選擇。

創(chuàng)造知識(shí)是第一階段，選擇知識(shí)是第二階段，接受知識(shí)則是第三階段。當(dāng)大模型變得越來(lái)越強(qiáng)大，人類(lèi)由原來(lái)對(duì)大模型知識(shí)的懷疑逐步走向?qū)Υ竽Ｐ椭R(shí)的接受。盡管人類(lèi)個(gè)體現(xiàn)在對(duì)大模型的生成物表示各種挑剔，然而大模型的發(fā)展日新月異，將來(lái)不可避免地對(duì)其是一種全面的接受。那么，第四階段便是驚嘆，這是一種驚為天人的感覺(jué)。語(yǔ)言大模型的能力實(shí)在太過(guò)強(qiáng)大。數(shù)學(xué)家陶哲軒在接受訪(fǎng)談時(shí)，也談到其在數(shù)學(xué)研究中對(duì)ChatGPT的使用[4]。

在筆者看來(lái)，知識(shí)工業(yè)化導(dǎo)致的意識(shí)形態(tài)風(fēng)險(xiǎn)主要表現(xiàn)在如下方面：第一，大模型本身有其意識(shí)形態(tài)。在被提問(wèn)時(shí)，大模型往往會(huì)宣稱(chēng)其作為語(yǔ)言模型的中立性，然而使用者在與其進(jìn)行多輪對(duì)話(huà)之后，總是會(huì)從其回答中發(fā)現(xiàn)意識(shí)形態(tài)的傾向性。例如，ChatGPT明顯更傾向于拜登政府，而非特朗普政府[5]。換言之，ChatGPT是符合美國(guó)主流價(jià)值觀(guān)的，這是由其訓(xùn)練的語(yǔ)料所決定的。在訓(xùn)練過(guò)程中，ChatGPT首先會(huì)學(xué)習(xí)維基百科、人類(lèi)書(shū)籍、網(wǎng)站信息以及爬蟲(chóng)數(shù)據(jù)等[1]，其實(shí)際上把人類(lèi)已有的知識(shí)集中封裝到這一大模型之中，而這種封裝本身就內(nèi)含一種前見(jiàn)特征。漢斯-格奧爾格·伽達(dá)默爾（Hans-Georg Gadamer）曾經(jīng)討論了人類(lèi)知識(shí)的前見(jiàn)問(wèn)題，因?yàn)橹R(shí)不可避免地會(huì)存在前見(jiàn)。伽達(dá)默爾認(rèn)為：“對(duì)于所有理解都不可避免地存在前見(jiàn)（prejudice），這給了解釋學(xué)問(wèn)題（the hermeneutical problem）以真正的推動(dòng)力?！盵2]換言之，大模型并不是憑空而來(lái)的，而是基于人類(lèi)知識(shí)的一種封裝。這種知識(shí)本身便是一種帶有某種偏見(jiàn)和傾向性的前見(jiàn)知識(shí)。大模型在預(yù)訓(xùn)練之后還會(huì)進(jìn)行大量的對(duì)齊工程，其基礎(chǔ)是基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)[3]。然而，問(wèn)題是這里的對(duì)齊是向誰(shuí)對(duì)齊？ChatGPT自然是向美國(guó)的主流價(jià)值觀(guān)對(duì)齊。因?yàn)檫@樣的大模型誕生在美國(guó)社會(huì)，其首先要符合美國(guó)主流價(jià)值觀(guān)，否則不可能在美國(guó)社會(huì)中生存下來(lái)，也不可能得到美國(guó)監(jiān)管層的認(rèn)可。

第二，知識(shí)工業(yè)的消費(fèi)價(jià)值觀(guān)。大模型更加深刻的意識(shí)形態(tài)會(huì)隱含在其免費(fèi)模式和消費(fèi)模式之中。大模型首先會(huì)以一定的免費(fèi)形式存在。這種免費(fèi)是其重要的流量入口，即通過(guò)免費(fèi)的形式可以導(dǎo)入大量的使用者。同時(shí)，其本身是一種商業(yè)化的產(chǎn)品。盡管OpenAI是非營(yíng)利組織，但是這種知識(shí)商業(yè)化本身自然會(huì)轉(zhuǎn)化為一種商業(yè)行為。這也是目前GPT系列提供每月20美元收費(fèi)服務(wù)的基礎(chǔ)。同時(shí)，伴隨著GPT插件的廣泛應(yīng)用，其會(huì)把整個(gè)美國(guó)商業(yè)社會(huì)接入并內(nèi)置到大模型之中。語(yǔ)言大模型是人類(lèi)知識(shí)的入口。人們可以向大模型提各種問(wèn)題。這些問(wèn)題本身是一種免費(fèi)的詢(xún)問(wèn)邏輯，但是這種詢(xún)問(wèn)自然又與商業(yè)社會(huì)邏輯結(jié)合在一起。例如，某人在詢(xún)問(wèn)符合自己心理價(jià)位的某件商品時(shí)，自然就向大模型表達(dá)了自己希望購(gòu)買(mǎi)這一商品的愿望，那么這種詢(xún)問(wèn)就會(huì)與消費(fèi)這一商品結(jié)合在一起，所以大模型具有巨大的實(shí)現(xiàn)消費(fèi)社會(huì)的潛能。讓·鮑德里亞（Jean Baudrillard）所擔(dān)心的消費(fèi)社會(huì)對(duì)人的異化[4]，不可避免地會(huì)在大模型的基礎(chǔ)上發(fā)生，并且這種消費(fèi)有時(shí)會(huì)與工具理性相結(jié)合。換言之，這樣的大模型并不完全是免費(fèi)為人類(lèi)提供某些知識(shí)服務(wù)，而是服務(wù)于強(qiáng)大的資本主義消費(fèi)邏輯。因?yàn)樵跈C(jī)器大工業(yè)的時(shí)代，生產(chǎn)早已過(guò)剩，而消費(fèi)就成為資本主義的主導(dǎo)邏輯。誰(shuí)只要提供某種創(chuàng)造的需求給顧客，那就會(huì)提供整個(gè)商業(yè)的未來(lái)。同時(shí)，這種消費(fèi)社會(huì)的邏輯又與霍克海默等人批判的工具理性緊密結(jié)合，因?yàn)檫@樣的消費(fèi)最終服務(wù)于資本主義增長(zhǎng)的工具理性。

第三，想象的知識(shí)共同體又會(huì)最終服務(wù)于知識(shí)霸權(quán)。知識(shí)工業(yè)化不可避免地會(huì)與元宇宙結(jié)合在一起。目前一系列相關(guān)技術(shù)都正在突破中。例如，文生圖的技術(shù)已經(jīng)出現(xiàn)了巨大進(jìn)展，代表性應(yīng)用包括Stable Diffusion和Midjourney等。接下來(lái)突破的一個(gè)重點(diǎn)是文生視頻。換言之，只要人們做出一定的文字提示，軟件很快就可以生成相應(yīng)的視頻片段。同時(shí)，文生動(dòng)畫(huà)也在推進(jìn)之中。例如，一些著名的動(dòng)畫(huà)引擎公司如虛幻和Unity都在做類(lèi)似的開(kāi)發(fā)，這就使得未來(lái)的元宇宙構(gòu)建變得極為方便。只要用戶(hù)說(shuō)出需求，瞬間就可以生成一個(gè)虛擬世界。簡(jiǎn)言之，虛擬世界中的生成會(huì)變得更加便利和無(wú)所不在，最終元宇宙世界會(huì)與生活世界打通。在這種鮑德里亞意義上的“超真實(shí)世界”[5]中，用戶(hù)似乎感受不到任何的意識(shí)形態(tài)，但實(shí)際上大模型自身以及消費(fèi)社會(huì)的意識(shí)形態(tài)都會(huì)內(nèi)置其中，并構(gòu)筑為整體性的知識(shí)霸權(quán)。這種知識(shí)霸權(quán)最終還會(huì)導(dǎo)向?qū)θ祟?lèi)個(gè)體的壓制。人們?cè)谶@一過(guò)程中似乎會(huì)產(chǎn)生一個(gè)疑問(wèn)：這究竟是機(jī)器向人類(lèi)的對(duì)齊還是人類(lèi)向機(jī)器的對(duì)齊？如果工具理性大行其道，那最終結(jié)果便是人類(lèi)的機(jī)器化。

對(duì)于知識(shí)工業(yè)化的風(fēng)險(xiǎn)，筆者認(rèn)為，應(yīng)該在如下幾方面做出回應(yīng)：

第一，建立某種知識(shí)生產(chǎn)的“手工綠洲”。盡管知識(shí)工業(yè)化的趨勢(shì)不可阻擋，大模型會(huì)成為最具效率的知識(shí)生產(chǎn)方式，但是大模型的出現(xiàn)并不能完全將人類(lèi)傳統(tǒng)的手工生產(chǎn)或腦工生產(chǎn)蕩滌掉。人類(lèi)社會(huì)應(yīng)該保留一些這樣的“綠洲”?；蛘哒f(shuō)，當(dāng)人類(lèi)個(gè)體的自由時(shí)間大量增加之后，絕大多數(shù)人要加入腦工知識(shí)生產(chǎn)的行列中。換言之，即便我們可以使用大模型來(lái)加速知識(shí)生產(chǎn)，但是一定要清晰地認(rèn)識(shí)到這樣的知識(shí)生產(chǎn)并不是人類(lèi)本身的知識(shí)生產(chǎn)。這樣的知識(shí)生產(chǎn)本身有眾多的內(nèi)在問(wèn)題。例如，深度神經(jīng)網(wǎng)絡(luò)的黑箱就意味著其具有某種不可解釋性[1]，會(huì)使得人們忽視其本質(zhì)，然而人類(lèi)的知識(shí)卻是相對(duì)有邏輯并且較容易進(jìn)行解釋的。這種腦工知識(shí)生產(chǎn)綠洲的關(guān)鍵是對(duì)人的思維能力的訓(xùn)練。換言之，在大模型興起之后，我們并不能走向人類(lèi)的退化，而應(yīng)是走向人類(lèi)的強(qiáng)化。人類(lèi)需要在大模型他者的強(qiáng)大影響之下，進(jìn)一步將自己的潛能激發(fā)出來(lái)，而腦工知識(shí)生產(chǎn)綠洲便發(fā)揮重要的激發(fā)個(gè)體潛能的作用。只有這種腦工知識(shí)生產(chǎn)才能夠不斷地返回啟蒙本身，因?yàn)閱⒚傻年P(guān)鍵就是保持開(kāi)放性，而不是僅僅獲得對(duì)問(wèn)題的封閉性回答。

第二，用荒謬、隱喻和修辭來(lái)對(duì)抗理性。大模型的勝利是一種理性的勝利。大模型把工具理性的特征發(fā)揮到極致，從而對(duì)人類(lèi)個(gè)體形成某種壓抑性的效果。而要對(duì)抗工具理性就需要重新激發(fā)人類(lèi)的創(chuàng)造性，那在這一過(guò)程中荒謬的作用可能是獨(dú)特的。阿爾貝·加繆（Albert Camus）專(zhuān)門(mén)討論了荒謬這一問(wèn)題[2]?；闹囁憩F(xiàn)的是一種不一致和不和諧。用巴迪歐的描述來(lái)講，這是一種斷裂性的事件[3]，但正因?yàn)檫@種斷裂恰恰出現(xiàn)了某種全新的可能性，就意味著它可能會(huì)突破工具理性的壓抑。隱喻也有類(lèi)似的效果，其似乎可以成為人類(lèi)在機(jī)器語(yǔ)言之下進(jìn)行隱蔽溝通的關(guān)鍵。通過(guò)會(huì)心一笑和相互暗示，人類(lèi)個(gè)體之間可以傳遞某種機(jī)器無(wú)法理解的內(nèi)涵。這恰恰給人類(lèi)個(gè)體之間的溝通留下了空間。修辭與激情結(jié)合在一起，成為對(duì)抗工具理性的工具。工具理性是相對(duì)冰冷的，其要祛除情感的因素，而修辭則可以把情感帶進(jìn)來(lái)。通過(guò)在語(yǔ)言中增加一些修飾性的內(nèi)容，修辭使得語(yǔ)言更具有生動(dòng)性，從而可以激發(fā)對(duì)話(huà)者的情緒。

第三，要讓人類(lèi)保有通過(guò)具身體驗(yàn)來(lái)創(chuàng)造知識(shí)的能力。在這一過(guò)程中，要減緩AI具身化的節(jié)奏。目前的ChatGPT還主要生活在虛擬世界中。然而，接下來(lái)的進(jìn)展很可能是ChatGPT與具身智能結(jié)合在一起[4]。換言之，ChatGPT會(huì)從虛擬世界進(jìn)入物理世界。在筆者看來(lái)，這樣的進(jìn)程要盡可能地減緩。ChatGPT的知識(shí)生產(chǎn)主要是一種想象性的知識(shí)生產(chǎn)，其基本邏輯是通過(guò)概率生成相應(yīng)知識(shí)組合的可能性，這就意味著其僅僅是一種基于想象的知識(shí)組合，而人類(lèi)的知識(shí)生產(chǎn)則是一種知行合一的過(guò)程。人類(lèi)社會(huì)長(zhǎng)期積累的一些重要知識(shí)是在廣泛的實(shí)踐過(guò)程中形成的，因此要避免機(jī)器從想象的知識(shí)生產(chǎn)走向具身的知識(shí)生產(chǎn)。從這個(gè)角度來(lái)講，要保留人類(lèi)個(gè)體在具身體驗(yàn)中產(chǎn)生知識(shí)的特權(quán)，同時(shí)盡可能地減緩人工智能具身化的進(jìn)程。

第四，要避免同一性和絕對(duì)正確的神話(huà)。當(dāng)啟蒙走向了某種神話(huà)，便走向了啟蒙的終結(jié)。啟蒙的意義在于保持回答問(wèn)題的開(kāi)放性。人類(lèi)恰恰是在多樣性的意義中尋求共識(shí)的。一旦達(dá)成某種絕對(duì)的一致性，就會(huì)最終導(dǎo)致人類(lèi)社會(huì)的封閉。大模型很容易走向一種絕對(duì)一致性的境況，這恰恰是我們要警惕并且加以避免的。因此，人類(lèi)提問(wèn)能力的關(guān)鍵要表現(xiàn)為一種問(wèn)難能力，即通過(guò)提問(wèn)來(lái)創(chuàng)造不一致和荒謬，就像《皇帝的新裝》故事中那個(gè)問(wèn)難小孩所表現(xiàn)的一樣。當(dāng)這樣的發(fā)問(wèn)出現(xiàn)之后，馬上氣氛會(huì)出現(xiàn)不一致，皇帝新裝的戲劇化場(chǎng)景就會(huì)被打破。同時(shí)，也正是這種問(wèn)難使得我們時(shí)刻處于一種啟蒙的狀態(tài)。正如布魯諾·拉圖爾（Bruno Latour）所說(shuō)的“我們從未現(xiàn)代化過(guò)”[1]，這實(shí)際上傳遞了一個(gè)重要信息，就是啟蒙需要時(shí)刻處于進(jìn)行時(shí)，或啟蒙沒(méi)有終結(jié)，而只有開(kāi)始。

五、結(jié)語(yǔ)

整體而言，大模型將不可避免地改變?nèi)祟?lèi)知識(shí)創(chuàng)造的傳統(tǒng)。從啟蒙的角度來(lái)講，大模型會(huì)帶來(lái)一場(chǎng)新的啟蒙革命。通過(guò)每個(gè)個(gè)體掌握提問(wèn)的能力，人類(lèi)個(gè)體可以通過(guò)發(fā)問(wèn)更加容易進(jìn)入一種啟蒙狀態(tài)。發(fā)問(wèn)就保持了問(wèn)題的開(kāi)放性，并使得啟蒙的過(guò)程得以開(kāi)始。然而，大模型卻存在一種內(nèi)置的神話(huà)，因?yàn)槠淇赡軙?huì)做到無(wú)所不知和無(wú)所不能。人類(lèi)個(gè)體在使用大模型的過(guò)程中，會(huì)在大模型的超能力面前感到慚愧，最終可能會(huì)從剛開(kāi)始使用大模型的不信任，走向一種超信任，這實(shí)際上就是大模型從啟蒙走向啟蒙神話(huà)的開(kāi)始。大模型無(wú)疑會(huì)成為未來(lái)最重要的基礎(chǔ)設(shè)施之一，并進(jìn)一步推動(dòng)世界的數(shù)學(xué)化。世界數(shù)學(xué)化同樣是一個(gè)不可避免的趨勢(shì)。大模型通過(guò)向量運(yùn)算使得詞語(yǔ)、圖片、聲音、視頻都可以進(jìn)行向量化，最終就將人類(lèi)的物理世界帶入一個(gè)數(shù)字世界。世界的數(shù)學(xué)化會(huì)導(dǎo)致一個(gè)更加公式化和規(guī)則化的世界，會(huì)使得理性大行其道，然而這種理性最終可能會(huì)演變?yōu)榛艨撕Ｄ桶⒍嘀Z所擔(dān)憂(yōu)的工具理性。換言之，大模型最終可能會(huì)演變成一種新的理性，去不斷地捕捉那些逃出秩序的逃逸潛能。

大模型會(huì)以一種知識(shí)大一統(tǒng)的力量示人。這種知識(shí)大一統(tǒng)不可避免地會(huì)形成改變世界和驅(qū)動(dòng)世界的力量。從這個(gè)角度來(lái)講，大模型知識(shí)本身就是世界的創(chuàng)生力量。這種超能力可以使得人類(lèi)個(gè)體擁有更強(qiáng)的支配世界的能力，但同時(shí)一旦這種超能力落入不法分子的手中便將造成巨大的破壞性后果。無(wú)論是合成新的病毒還是合成新的虛假信息都可能會(huì)給人類(lèi)社會(huì)帶來(lái)新的災(zāi)難，同時(shí)知識(shí)大一統(tǒng)的強(qiáng)大整合能力對(duì)于少數(shù)族群和少數(shù)文化都可能產(chǎn)生災(zāi)難性影響。最終大模型帶來(lái)的知識(shí)生產(chǎn)可能會(huì)演變?yōu)橹R(shí)工業(yè)化。知識(shí)工業(yè)化可以被看成從文化工業(yè)到編程工業(yè)再發(fā)展下去的一種新的階段。知識(shí)工業(yè)化不可避免地會(huì)帶來(lái)新的意識(shí)形態(tài)風(fēng)險(xiǎn)，這不僅反映了美國(guó)主流的價(jià)值觀(guān)，還會(huì)與消費(fèi)邏輯以及工具理性結(jié)合在一起，形成強(qiáng)大的、無(wú)法清晰辨識(shí)的新意識(shí)形態(tài)。這便是哈貝馬斯所強(qiáng)調(diào)的科學(xué)技術(shù)成為一種新的意識(shí)形態(tài)。大模型會(huì)成為意識(shí)形態(tài)本身，而要破除這種意識(shí)形態(tài)，關(guān)鍵是要回到人的能力本身。通過(guò)腦工勞動(dòng)綠洲的建設(shè)，不斷地激發(fā)個(gè)體的啟蒙潛能，用荒謬、隱喻和修辭來(lái)對(duì)抗可能的工具理性，在破除絕對(duì)正確的神話(huà)的基礎(chǔ)之上，通過(guò)保持人的具身體驗(yàn)不斷地使知識(shí)處于開(kāi)放狀態(tài)，這似乎是在大模型時(shí)代人類(lèi)保有知識(shí)尊嚴(yán)的一種唯一可能的方式。

〔責(zé)任編輯：史拴拴〕

本文為國(guó)家社會(huì)科學(xué)基金重點(diǎn)項(xiàng)目“加快數(shù)字化發(fā)展與建設(shè)數(shù)字中國(guó)的政治保障研究”（21AZD021）的階段性成果。

[1]陶文昭：《論信息時(shí)代的專(zhuān)家治國(guó)》，《電子政務(wù)》2010年第8期。

[2]J. Habermas， Toward a Rational Society： Student Protest， Science， and Politics， Boston： Beacon Press， 1970， p.81.

[3]G. Sartori， The Theory of Democracy Revisited， Chatham： Chatham House Publishers， 1987， p.432.

[1]A. Kucharavy， Z. Schillaci， L. Maréchal，et al.， "Fundamentals of Generative Large Language Models and Perspectives in Cyber-Defense"， ArXiv Preprint， 2023， 2303.12132.

[2]M. Cathedral， "Conference Jensen Huang （Nvidia） and Ilya Sutskever （Open AI）： AI Today and Vision of the Future"， https：//youtu.be/ZZ0atq2yYJw，訪(fǎng)問(wèn)時(shí)間：2023年7月3日。

[3]J. Ziwei， N. Lee， R. Frieske， et al.， "Survey of Hallucination in Natural Language Generation"， ACM Computing Surveys， 2023， 55（12）， pp.1-38.

[4]S. Frieder， L. Pinchetti， R. Griffiths， "Mathematical Capabilities of ChatGPT"， ArXiv Preprint， 2023， 2301.13867.

[5]趙磊：《從〈啟蒙辯證法〉的批判邏輯看技術(shù)恐懼》，《北京理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2022年第6期。

[1]C. Metz， "The Godfather of A.I. Leaves Google and Warns of Danger Ahead"， https：//www.nytimes.com/2023/05/01/ technology/ai-google-chatbot-engineer-quits-hinton.html，訪(fǎng)問(wèn)時(shí)間：2023年6月19日。

[2]Plato， The Republic，Cambridge： Cambridge University Press， 2000， p.235.

[3]A. Badiou， Being and Event， Translated by Oliver Feltham， New York： Continuum ， 2005， p.3.

[4]S. Birunda， K. Devi， "A Review on Word Embedding Techniques for Text Classification"， Innovative Data Communication Technologies and Application： Proceedings of ICIDCA， 2020， 2021， pp.267-281.

[5]K. Saito， K. Sohn， X. Zhang， et al.， "Pic2Word： Mapping Pictures to Words for Zero-shot Composed Image Retrieval"， Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition， 2023， pp.19305-19314.

[1]張亦佳：《強(qiáng)人工智能設(shè)備面臨的倫理困境與風(fēng)險(xiǎn)》，《江蘇社會(huì)科學(xué)》2023年第2期。

[2][3]M. Horkheimer， T. Adorno， Dialectic of Enlightenment： Philosophical Fragments， Stanford： Stanford University Press， 2002， p.1， p.6.

[1][2]G. Deleuze， F. Guattari， A Thousand Plateaus： Capitalism and Schizophrenia， London： University of Minnesota Press， 1987， p.20， p.10.

[3]莊子認(rèn)為：“若夫乘天地之正，而御六氣之辯，以游無(wú)窮者，彼且惡乎待哉?！眳⒁?jiàn)方勇譯注：《莊子》，中華書(shū)局2010年版，第3頁(yè)。

[4]A. Vaswani， N. Shazeer， N. Parmar， et al.， "Attention Is All You Need"， Advances in Neural Information Processing Systems， 2017， 30， pp.1-11.

[5]M. Foucault， Discipline and Punish： The Birth of the Prison， New York： Vintage Books，1995， p.27.

[6]F. Bacon， Novum Organum， Chicago： Henry Regnery Company， 1949， p.7.

[1]R. Stevens， V. Taylor， J. Nichols， et al.， AI for Science， Lemont： Argonne National Laboratory， 2020， pp.5-15.

[2]K. Ruff， R. Pappu， "AlphaFold and Implications for Intrinsically Disordered Proteins"， Journal of Molecular Biology， 2021， 433（20）， pp.1-11.

[3]孫偉平：《人工智能與人的“新異化”》，《中國(guó)社會(huì)科學(xué)》2020年第12期。

[4]張濤：《后真相時(shí)代深度偽造的法律風(fēng)險(xiǎn)及其規(guī)制》，《電子政務(wù)》2020年第4期。

[1]W. Benjamin， The Work of Art in the Age of Its Technological Reproducibility， and Other Writingson Media， Cambridge： The Belknap Press of Harvard University， 2008， p.22.

[2]B. Stiegler， Technics and Time， 3： Cinematic Time and the Question of Malaise， Stanford： Stanford University Press， 2011， p.106.

[3]M. Horkheimer， T. Adorno， Dialectic of Enlightenment： Philosophical Fragments， Stanford： Stanford University Press， 2002， p. 113.

[4]D. Castelvecchi， "How Will AI Change Mathematics？ Rise of Chatbots Highlights Discussion"， Nature， 2023， 615（7950） pp.15-16.

[5]R. McGee， "Capitalism， Socialism and ChatGPT"， https：//dx.doi.org/10.2139/ssrn.4369953，訪(fǎng)問(wèn)時(shí)間：2023年7月3日。

[1]L. Gao， S. Biderman， S. Black， et al.， "The Pile： An 800GB Dataset of Diverse Text for Language Modeling"， ArXiv Preprint， 2020， 2101.00027.

[2]H. Gadamer， Truth and Method， New York： Continuum， 1975， p.272.

[3]B. Peng， C. Li， P. He， et al.， "Instruction Tuning with GPT-4"， ArXiv Preprint， 2023， 2304.03277.

[4]J. Baudrillard， The Consumer Society： Myths and Structures， London： Sage Publication， 1998， p.191.

[5]鮑德里亞寫(xiě)道：“今天抽象不再是地圖、雙層、鏡像或概念。模擬不再是一個(gè)領(lǐng)土、一個(gè)參照存在或一個(gè)物質(zhì)。它是一個(gè)沒(méi)有起源或現(xiàn)實(shí)的真實(shí)模型的產(chǎn)生：一個(gè)超真實(shí)世界?！眳⒁?jiàn)J. Baudrillard， Simulacra and Simulation， Ann Arbor： University of Michigan Press， 1994， p.1。

[1]M. Xue， C. Yuan， H. Wu， et al.， "Machine Learning Security： Threats， Countermeasures， and Evaluations"， IEEE Access， 2020， 8， pp.74720-74742.

[2]李元：《論加繆的“荒謬”概念》，《北京大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2005年第1期。

[3]P. Hallward， "Generic Sovereignty： The Philosophy of Alain Badiou"， Angelaki： Journal of the Theoretical Humanities， 1998， 3（3）， pp.87-111.

[4]Y. Mu， Q. Zhang， M. Hu， et al.， "EmbodiedGPT： Vision-Language Pre-Training via Embodied Chain of Thought"， ArXiv Preprint， 2023， 2305.15021.

[1]B. Latour， We Have Never Been Modern， Cambridge： Harvard University Press， 1993， p.46.