ChatGPT走紅，但也帶來治理風(fēng)險(xiǎn)

湯景泰

ChatGPT是人工智能發(fā)展史上又一款現(xiàn)象級產(chǎn)品。此前，人工智能領(lǐng)域曾多次出現(xiàn)過類似情況。例如，1997年，IBM開發(fā)的深藍(lán)計(jì)算機(jī)在國際象棋的世紀(jì)大戰(zhàn)中打敗了當(dāng)時(shí)的世界冠軍卡斯帕羅夫；2016年，谷歌開發(fā)的AlphaGo在與世界頂尖棋手李世石的五番對決中，以4:1的成績獲勝。

但此次推出的ChatGPT不同點(diǎn)在于，它超越了單一的游戲領(lǐng)域，讓各行各業(yè)的普羅大眾直接領(lǐng)教了一番人工智能的魅力攻勢。特別是ChatGPT不僅上知天文、下知地理，而且在文本生產(chǎn)、數(shù)據(jù)分析、代碼編寫、圖像生成等多模態(tài)話語領(lǐng)域均體現(xiàn)出讓人驚艷的可靠性、高效性與邏輯性，它以生產(chǎn)力工具的面貌突然出現(xiàn)在大眾面前，也因此產(chǎn)生遠(yuǎn)超以往的社會震動(dòng)。已有經(jīng)驗(yàn)表明，人總是容易高估一年內(nèi)的短期變化，卻容易低估十年內(nèi)的長期變化。雖然ChatGPT發(fā)展為成熟的應(yīng)用進(jìn)入普通生活場景，仍需一定時(shí)日，但基于長期眼光來看，ChatGPT所帶來的風(fēng)險(xiǎn)并不會僅局限在個(gè)體層面，從社會緯度來看，這類人工智能產(chǎn)品或?qū)⒔o網(wǎng)絡(luò)社會治理帶來前所未有的挑戰(zhàn)。

從內(nèi)容質(zhì)量來看，“幻覺”（Hallucination）對真實(shí)性的污染使得未來的虛假信息治理面臨更嚴(yán)峻挑戰(zhàn)。所謂“幻覺”，指的是自然語言處理模型生成自然流暢，語法正確，但實(shí)際上毫無意義，或包含虛假信息的內(nèi)容，就像人產(chǎn)生幻覺一樣。作為人工智能領(lǐng)域最先進(jìn)的產(chǎn)品之一，ChatGPT在底層數(shù)據(jù)與核心技術(shù)方面均為世界領(lǐng)先，特別是其核心的人工智能語言大模型在參數(shù)規(guī)模'上已經(jīng)達(dá)到千億級別，也使其具備優(yōu)秀的意圖識別與語言理解能力。但是因?yàn)閿?shù)據(jù)質(zhì)量與技術(shù)的限制，它也難以避免幻覺現(xiàn)象。

幻覺問題導(dǎo)致一些網(wǎng)民在試用時(shí)發(fā)現(xiàn)，ChatGPT在交互中會生成不少事實(shí)性錯(cuò)誤，有時(shí)對一些簡單問題也會一本正經(jīng)地胡說八道。Meta公司推出的大型語言模型Galactica主打科學(xué)研究領(lǐng)域的內(nèi)容生成服務(wù)，上線后也被發(fā)現(xiàn)部分生成內(nèi)容失實(shí)，三天后就遭下線。因此，紐約大學(xué)教授蓋瑞?馬庫斯認(rèn)為，盡管ChatGPT能夠生成合乎語言邏輯的內(nèi)容，但這些內(nèi)容本身并不一定真實(shí)。在隔行如隔山的今天，這種似是而非的內(nèi)容對非專業(yè)用戶具有極大的迷惑性。再加上隨著現(xiàn)代科學(xué)的蓬勃發(fā)展，科學(xué)技術(shù)的先進(jìn)性與權(quán)威性已經(jīng)深度捆綁，并植入到了大眾的腦海之中。ChatGPT也可以利用這種認(rèn)知慣性，裹挾著科學(xué)之威，在潛移默化中影響對特定問題的社會認(rèn)知。

從信息生產(chǎn)與傳播角度來看，ChatGPT還實(shí)現(xiàn)了傳播模式的升級。就互聯(lián)網(wǎng)的內(nèi)容生產(chǎn)模式而言，無論是最初的PGC（專家生產(chǎn)內(nèi)容），還是后來大行其道的UGC（用戶生產(chǎn)內(nèi)容），內(nèi)容生產(chǎn)的主體都是人，但以ChatGPT等為代表的應(yīng)用卻帶來新的AIGC時(shí)代(AI生產(chǎn)內(nèi)容）。與此前的模式相比，AIGC實(shí)現(xiàn)了傳播主體、內(nèi)容與媒介的深度一體化，標(biāo)志著基于互聯(lián)網(wǎng)的深度媒介化進(jìn)入到一個(gè)新階段。媒介化是一個(gè)宏觀層面上的概念，是對媒介效果的宏觀社會效應(yīng)的一種延展，其根本點(diǎn)在于以此概念來理解媒介所帶來的復(fù)雜社會后果。已有研究表明，媒介化是“所有社會進(jìn)程中的一個(gè)獨(dú)特維度”，媒介化學(xué)派代表性人物弗里德里希?克羅茨甚至將媒介化視為可以塑造交往形態(tài)和歷史進(jìn)程的“元進(jìn)程”。從這個(gè)角度來看，ChatGPT就不只是作為一種中立性和工具性的中介存在于治理體系之中，而是會成為不同利益、立場的群體進(jìn)行互動(dòng)的平臺和交往場域，并以其內(nèi)在的技術(shù)邏輯改造傳統(tǒng)的權(quán)力運(yùn)行邏輯，改變已有的權(quán)力結(jié)構(gòu)，對現(xiàn)實(shí)社會中的利益博弈施加內(nèi)在影響，從而產(chǎn)生廣泛且深刻的影響。

例如，雖然ChatGPT仍在試用階段，但眾多社會從業(yè)者體驗(yàn)之后都感到可能被替代的擔(dān)憂。關(guān)鍵是ChatGPT還處于持續(xù)更新的狀態(tài)中，可以想見，那些擔(dān)憂并非杞人憂天，《人類簡史》的作者赫拉利所預(yù)言的大規(guī)?！盁o用階層”的出現(xiàn)也并非危言聳聽。雖然技術(shù)的每一次更新都會創(chuàng)造新的勞動(dòng)就業(yè)機(jī)會，但落到個(gè)體的角度，卻存在各種可能的結(jié)果。由技術(shù)發(fā)展帶來的系統(tǒng)性、結(jié)構(gòu)性失業(yè)問題，對任何國家而言，都是不得不防的社會風(fēng)險(xiǎn)。

這還僅僅是ChatGPT對勞資若系可能造成的影響。一從技術(shù)麥展的邏輯來看，賦能會導(dǎo)向賦權(quán)，ChatGPT延伸了個(gè)體的信息生產(chǎn)與傳播能力，也會因此激發(fā)社會行動(dòng)者達(dá)權(quán)通變的意愿，利用相關(guān)技術(shù)與工具拓展各類權(quán)力訴求，這又可能帶來權(quán)力格局的深度調(diào)整。特別是在國際緯度，以ChatGPT為代表的人工智能與國家的信息安全、經(jīng)濟(jì)發(fā)展、社會穩(wěn)定等問題息息相關(guān)，未來很可能成為大國競爭的戰(zhàn)略工具。屆時(shí)，個(gè)別國家以其技術(shù)優(yōu)勢獲得更大的霸權(quán)優(yōu)勢，將成為全球網(wǎng)絡(luò)治理中的新難題。

在現(xiàn)代社會，各類新技茉一度被視為“解蔽世界的力量”而被寄予厚望，但歷史卻多次展現(xiàn)了事與愿違的結(jié)果。面對以ChatGPT為代表的人工智能技術(shù)可能帶來的治理風(fēng)險(xiǎn)，我們當(dāng)然不能以“用勺子挖運(yùn)河”的思維一禁了之，也沒必要恐慌焦慮，但是應(yīng)樹立完善的技術(shù)發(fā)展與應(yīng)用觀念，警惕激進(jìn)主義傾向，審慎對待技術(shù)的采用和相應(yīng)產(chǎn)業(yè)的政策制定，防止技術(shù)在利益的裹挾，下無序應(yīng)用。（作者是復(fù)旦大學(xué)新聞學(xué)院教授）