ChatGPT的意識(shí)形態(tài)屬性、風(fēng)險(xiǎn)及治理

楊慧

(北京科技大學(xué) 馬克思主義學(xué)院，北京 100086)

ChatGPT是一種基于自然語言處理和人機(jī)對(duì)話的超大規(guī)模應(yīng)用程序。不同于一般的聊天機(jī)器人，ChatGPT不僅具有強(qiáng)大的解題能力，而且也具有較強(qiáng)的語言生成能力。借助ChatGPT既可以進(jìn)行對(duì)話聊天，也可以進(jìn)行論文創(chuàng)作、文本翻譯和檢查程序錯(cuò)誤等活動(dòng)。作為一種新型的人工智能，ChatGTP不斷創(chuàng)新的生成算法、多模態(tài)技術(shù)以及語言生成能力將對(duì)人類生產(chǎn)生活造成革命性影響，而且也對(duì)人們的思維觀念、行為方式和價(jià)值取向產(chǎn)生強(qiáng)大沖擊。有研究者認(rèn)為，“ChatGPT的下一代系統(tǒng)GPT-4可能具有改造人類的思想和創(chuàng)造能力，形成人工智能超越專業(yè)化能力和大眾化趨勢(shì)，這一系統(tǒng)可能具備人類思維能力，也可能在某一方面或其它方面替代人類”[1]。隨著ChatGPT的推廣，其運(yùn)用與影響實(shí)際上已經(jīng)超越其固有的技術(shù)屬性，其資本和技術(shù)包裹著的意識(shí)形態(tài)的滲透功能將更加鮮明?？陀^審視ChatGPT在資本與技術(shù)裹挾下的意識(shí)形態(tài)屬性，理性分析ChatGPT運(yùn)用中的意識(shí)形態(tài)風(fēng)險(xiǎn)，把握ChatGPT影響下社會(huì)主義意識(shí)形態(tài)傳播規(guī)律，科學(xué)建構(gòu)ChatGPT的風(fēng)險(xiǎn)治理之策，對(duì)于維護(hù)我國意識(shí)形態(tài)安全具有十分重要的意義。

一、ChatGPT的意識(shí)形態(tài)屬性

ChatGPT作為一種創(chuàng)新性的技術(shù)存在物，是“資本邏輯”與“技術(shù)控制”的統(tǒng)一體，在運(yùn)用中不可避免會(huì)超越工具理性，而以話語建構(gòu)、主體塑造和價(jià)值判斷等方式發(fā)揮著意識(shí)形態(tài)功能，凸顯出科學(xué)技術(shù)的意識(shí)形態(tài)屬性。

(一)技術(shù)邏輯：ChatGPT的技術(shù)主義意識(shí)形態(tài)

“科學(xué)技術(shù)即意識(shí)形態(tài)”是法蘭克福學(xué)派意識(shí)形態(tài)批判理論的重要觀點(diǎn)。在霍克海默看來，“不僅形而上學(xué)而且還有它所批判的科學(xué)皆為意識(shí)形態(tài)的東西；后者之所以也復(fù)如是因?yàn)樗Ａ糁环N阻礙它發(fā)現(xiàn)社會(huì)危機(jī)真正原因的形式”[2]。馬爾庫塞認(rèn)為技術(shù)看似中立，實(shí)際運(yùn)用過程中成為統(tǒng)治人的新模式，“技術(shù)的合理性展示出它的政治特性，這使它變成了更有效統(tǒng)治的得力工具，并創(chuàng)造出一個(gè)真正的極權(quán)主義領(lǐng)域”[3]。哈貝馬斯分析科學(xué)技術(shù)在晚期資本主義社會(huì)發(fā)揮的作用時(shí)指出：“作為意識(shí)形態(tài)的科技是一種非政治的技術(shù)統(tǒng)治意識(shí)形態(tài)，具有更加難以抗拒的控制力。與傳統(tǒng)、直接的政治暴力的意識(shí)形態(tài)不同，借助科技理性的當(dāng)代新統(tǒng)治是一種不易察覺的意識(shí)形態(tài)，因?yàn)樗⒉粡?qiáng)迫，但是卻有整合的功能。故而，技術(shù)理性的概念本身就是意識(shí)形態(tài)?！盵4]39上述法蘭克福學(xué)派學(xué)者的觀點(diǎn)客觀上反映出科學(xué)技術(shù)的意識(shí)形態(tài)特質(zhì)及功能。然而，就科學(xué)技術(shù)本身而言它并不具有意識(shí)形態(tài)屬性，科學(xué)技術(shù)的意識(shí)形態(tài)的凸顯在于科學(xué)技術(shù)變成統(tǒng)治體系的重要組成部分時(shí)便具有了明確的政治意向性。事實(shí)也證明，任何一種新技術(shù)只有贏得政治認(rèn)同并為政治統(tǒng)治服務(wù)時(shí)，才能被廣泛推廣和運(yùn)用。這種情況下，即使科學(xué)技術(shù)持有者力圖確保其價(jià)值中立，但技術(shù)的生產(chǎn)力取向必然導(dǎo)致其成為支配人、操縱人甚至控制人的力量，不可避免帶有意識(shí)形態(tài)的屬性。

當(dāng)下，ChatGPT技術(shù)橫空出世，以其不斷更新的生成算法、多模態(tài)技術(shù)和語言生成能力在解答、創(chuàng)作、咨詢、翻譯甚至考試等方面顯示了幾近完美的技術(shù)優(yōu)勢(shì)。對(duì)此，技術(shù)持有者顯然會(huì)以一種“技術(shù)優(yōu)越論”的態(tài)勢(shì)高揚(yáng)起“技術(shù)至上”和“技術(shù)主義”的論調(diào)。這種情況下，技術(shù)實(shí)際上超越了工具理性而彰顯出價(jià)值理性。在技術(shù)主義的作用和影響下，一方面，人們對(duì)這一新型技術(shù)顯示出高度的崇拜甚至迷信，在崇拜中其思維觀念和價(jià)值取向很有可能被技術(shù)固化和統(tǒng)攝，容易被異化為單向度的人，這樣ChatGPT技術(shù)的意識(shí)形態(tài)功能便得以體現(xiàn)出來；另一方面，作為一種新興技術(shù)程序，ChatGPT的設(shè)計(jì)者在設(shè)計(jì)中必然會(huì)負(fù)載著自身的思維意識(shí)、價(jià)值觀念和價(jià)值取向，這種負(fù)載雖然是無形的、隱形的，但是在實(shí)際運(yùn)用中會(huì)潛移默化地滲透、浸潤，發(fā)揮著意識(shí)形態(tài)的功能。

(二)資本邏輯：ChatGPT的資本主義意識(shí)形態(tài)

馬克思指出：“資本只有一種生活本能，這就是增值自身，創(chuàng)造剩余價(jià)值，用自己不變部分即生產(chǎn)資料吸吮盡可能多的剩余勞動(dòng)?！盵5]269“資本害怕沒有利潤或利潤太少，就像自然界害怕真空一樣。”[5]871作為一種以利益為中心的單向度邏輯，資本邏輯不僅廣泛滲透于傳統(tǒng)生產(chǎn)領(lǐng)域，而且日益滲透和延展到互聯(lián)網(wǎng)領(lǐng)域?！耙坏┯羞m當(dāng)?shù)睦麧?，資本就大膽起來。”[5]871正是在利益取向的驅(qū)動(dòng)下，資本家克服風(fēng)險(xiǎn)去尋找投資對(duì)象?；ヂ?lián)網(wǎng)技術(shù)作為一種創(chuàng)新驅(qū)動(dòng)的資本密集型技術(shù)，為了贏得競爭，客觀上需要資本的介入，這樣當(dāng)資本與技術(shù)聯(lián)姻并深度介入技術(shù)后，技術(shù)的正義向度必然在資本的驅(qū)力和影響下發(fā)生變異，資本在合乎目的的發(fā)財(cái)致富中使技術(shù)附設(shè)了立場(chǎng)、價(jià)值、觀點(diǎn)和統(tǒng)治功能。有學(xué)者認(rèn)為：“數(shù)字技術(shù)與資本主義的聯(lián)姻，催生了‘自動(dòng)化的新自由主義’，其中市場(chǎng)由數(shù)字平臺(tái)配置，個(gè)人生活因個(gè)人數(shù)據(jù)的積累而改變，社會(huì)關(guān)系由算法技術(shù)來自動(dòng)實(shí)現(xiàn)?！盵6]由此看來，隨著資本邏輯對(duì)網(wǎng)絡(luò)技術(shù)的深度介入，一種以技術(shù)為媒介、以資本為后盾的數(shù)字資本主義順勢(shì)進(jìn)入市場(chǎng)，并在資本邏輯的裹挾下使技術(shù)失去中立與偏離正義，同時(shí)負(fù)載著資本邏輯的價(jià)值立場(chǎng)和意識(shí)形態(tài)屬性就會(huì)得以呈現(xiàn)。

毋庸置疑，作為一種超大規(guī)模的新型智能程序，ChatGPT技術(shù)的背后，不同程度上有著資本力量的背書和加持。為了獲取更多利潤，代表資本意志的ChatGPT技術(shù)操縱，處在信息資源分配和自然語言處理的金字塔頂，這是ChatGPT資本主義的重要特征。在資本意志操縱下，ChatGPT的資本主義意識(shí)形態(tài)屬性在技術(shù)運(yùn)用中得以體現(xiàn)。其一，資本邏輯對(duì)ChatGPT算法的壟斷導(dǎo)致公共信息的私有化。ChatGPT作為一個(gè)大型對(duì)話型語言模型，對(duì)于自然語言理解和生成能力的多模態(tài)創(chuàng)造是其強(qiáng)大話語建構(gòu)能力的體現(xiàn)。資本作為ChatGPT應(yīng)用的控制主體，為了獲得高額回報(bào)和增值，必須建構(gòu)起符合資本主義物化意識(shí)的理想機(jī)制，使ChatGPT成為資本主義對(duì)外交往的有力工具，因而必然要在ChatGPT程序上預(yù)設(shè)價(jià)值立場(chǎng)。這一點(diǎn)無論是社交巨頭Facebook還是開發(fā)者微軟公司，在“網(wǎng)絡(luò)自由”“網(wǎng)絡(luò)正義”的幌子下都會(huì)進(jìn)行深度介入和立場(chǎng)預(yù)設(shè)，至于程序運(yùn)用的游戲規(guī)則以及用戶的行為數(shù)據(jù)，最終反向成了他們制約用戶和壟斷用戶信息的私產(chǎn)。其二，資本邏輯對(duì)大眾活動(dòng)的導(dǎo)控。ChatGPT本身也是一種以算法為技術(shù)支撐的應(yīng)用程序。在算法技術(shù)的加持下，用戶的習(xí)慣、偏好甚至日常活動(dòng)日益被算法技術(shù)操縱和導(dǎo)控。ChatGPT超大功能的解題能力、自然語言處理能力和文本處理能力，日益引起越來越多用戶的關(guān)注和期待，舉凡對(duì)話、創(chuàng)作、文本翻譯和檢查程序錯(cuò)誤等事務(wù)性工作，ChatGPT均能快速完成并把用戶從繁難雜重的事務(wù)性工作中解放出來，由此塑造用戶的依賴心理，而在ChatGPT背后資本力量的裹挾下，用戶的活動(dòng)很容易被其操縱和導(dǎo)控。

(三)話語邏輯：ChatGPT的權(quán)力主義意識(shí)形態(tài)

話語邏輯，是指在特定社會(huì)情境下人們進(jìn)行語言交流和話語分析時(shí)呈現(xiàn)出的思維樣態(tài)。話語邏輯具有極強(qiáng)的時(shí)代性色彩，每一個(gè)時(shí)代都有符合時(shí)代特點(diǎn)和話語風(fēng)格的話語邏輯及與之相關(guān)的結(jié)構(gòu)化了的意識(shí)形態(tài)。費(fèi)爾克拉夫在《話語與社會(huì)變遷》一書中認(rèn)為，“話語不僅表現(xiàn)世界的實(shí)踐，而且是在意義方面說明世界、組成世界、建構(gòu)世界”[7]?？梢钥闯?，話語本身具有意識(shí)形態(tài)的屬性和改變社會(huì)的天然秉性。為了塑造人們的認(rèn)知圖式，影響人們的思想觀念和行為選擇，權(quán)力力量總是借助特定時(shí)代的科學(xué)技術(shù)建構(gòu)起更具時(shí)代化、符號(hào)化、標(biāo)簽化的話語敘事，既可以表征時(shí)代的發(fā)展潮流，也可以內(nèi)嵌這個(gè)時(shí)代的話語邏輯。這樣，作為觀念形態(tài)的話語邏輯就會(huì)以技術(shù)理性的方式滲透到社會(huì)生活的各個(gè)領(lǐng)域，這種科學(xué)技術(shù)就會(huì)成為控制人的力量，凸顯了話語邏輯的權(quán)力主義意識(shí)形態(tài)性。為此，哈貝馬斯指出：“當(dāng)今的那種占主導(dǎo)地位的，并把科學(xué)變成偶像，因而變得更加脆弱的隱形意識(shí)形態(tài)，比之舊的意識(shí)形態(tài)更加難以抗拒，范圍更為廣泛?！盵4]69從這個(gè)意義上來講，科學(xué)技術(shù)所塑造的話語邏輯絕非僅僅是資本主義與社會(huì)主義對(duì)立層面的意識(shí)形態(tài)，而是在技術(shù)理性和話語邏輯耦合作用下的隱性滲透，其所體現(xiàn)出的話語權(quán)力要遠(yuǎn)高于現(xiàn)實(shí)層面的意識(shí)形態(tài)對(duì)抗。

作為一種人工智能的內(nèi)容生產(chǎn)性技術(shù)，話語生產(chǎn)是ChatGPT的本質(zhì)特征?；诔篌w量的話語生產(chǎn)和程序應(yīng)用，ChatGPT可以根據(jù)上下文語境和用戶意圖準(zhǔn)確把握人類的語言習(xí)慣和價(jià)值偏好，生成話語文本，產(chǎn)生話語邏輯和話語主題，因而具有意識(shí)形態(tài)屬性。其一，在ChatGPT的話語生產(chǎn)方式下，作為話語邏輯創(chuàng)建的人的主體作用逐漸退隱或消減，作為技術(shù)的ChatGPT扮演著話語創(chuàng)建者的角色，具有獨(dú)立意識(shí)的人的話語行為很有可能被ChatGPT所創(chuàng)建的話語邏輯所左右。主體話語邏輯的缺失或遮蔽很有可能導(dǎo)致主體思維、意識(shí)的退化，其終極結(jié)果將是人的自主性、能動(dòng)性的受困，這就是話語邏輯的權(quán)力意識(shí)形態(tài)的體現(xiàn)。其二，在ChatGPT的話語生產(chǎn)方式下，推測(cè)性話語會(huì)作用于人的主體價(jià)值，因而產(chǎn)生意識(shí)形態(tài)效能。作為一種多模態(tài)的算法技術(shù)，ChatGPT的文本生成、語言構(gòu)建、創(chuàng)作翻譯是建立在程序設(shè)計(jì)者意圖和特定語境下的創(chuàng)作，它撇去人的主體功能，在推測(cè)基礎(chǔ)上進(jìn)行話語的機(jī)械性創(chuàng)作，這種機(jī)械性創(chuàng)作特點(diǎn)既有技術(shù)設(shè)計(jì)者話語邏輯的展示，也有技術(shù)操作者話語邏輯的應(yīng)用，其隱藏的話語價(jià)值和話語形態(tài)的終極目的是服務(wù)于技術(shù)及其背后的資本力量，因而不可避免帶有話語權(quán)力意識(shí)形態(tài)的邏輯印記。

二、ChatGPT的意識(shí)形態(tài)風(fēng)險(xiǎn)

波拉克認(rèn)為：“不確定性總是伴隨著我們，它絕不可能從我們的生活(無論是個(gè)人還是作為社會(huì)整體)中完全消除?！盵8]烏爾里?！へ惪苏J(rèn)為：“風(fēng)險(xiǎn)通過與科學(xué)、科學(xué)實(shí)踐和公共領(lǐng)域的緊密相互作用構(gòu)造自身”[9]。人工智能時(shí)代，為了遏制和霸凌異己國家，西方敵對(duì)勢(shì)力憑借其技術(shù)和信息優(yōu)勢(shì)進(jìn)行意識(shí)形態(tài)的滲透與攻勢(shì)，他們把技術(shù)和信息的意識(shí)形態(tài)功能發(fā)揮到極致，給使用這一技術(shù)的國家?guī)砹艘庾R(shí)形態(tài)風(fēng)險(xiǎn)。時(shí)下，風(fēng)靡全球的ChatGPT技術(shù)以其獨(dú)特的話語建構(gòu)、算法霸權(quán)和價(jià)值判斷方式對(duì)我國意識(shí)形態(tài)安全造成了潛在風(fēng)險(xiǎn)。

(一)話語建構(gòu)的意識(shí)形態(tài)風(fēng)險(xiǎn)

毋庸置疑，就本質(zhì)而言，“話語是意識(shí)形態(tài)的‘外衣’，內(nèi)蘊(yùn)意識(shí)形態(tài)的屬性”[10]。作為反映人類思維的ChatGPT技術(shù)不僅可以模擬人的思維，改變?nèi)藗兊乃季S方式和學(xué)習(xí)方式，而且可以直接進(jìn)行信息生產(chǎn)和話語建構(gòu)，產(chǎn)生意識(shí)形態(tài)方面的風(fēng)險(xiǎn)。這種風(fēng)險(xiǎn)具體體現(xiàn)為：其一，話語真實(shí)性難辨的風(fēng)險(xiǎn)。ChatGPT建構(gòu)話語的過程類似某種技術(shù)黑箱，用戶只知道這一技術(shù)顯示的話語答案，對(duì)其思考、運(yùn)作、建構(gòu)過程及其背后的價(jià)值考量和技術(shù)取向全然不知，這樣用戶很容易信以為真，其思想和行為也容易被建構(gòu)話語裹挾和支配，因而產(chǎn)生觀念和意識(shí)層面的風(fēng)險(xiǎn)。其二，話語權(quán)威性難以保證的風(fēng)險(xiǎn)。研究表明，ChatGPT在對(duì)自然科學(xué)問題的話語建構(gòu)上往往具有同質(zhì)性，對(duì)于那些需要嚴(yán)密推理的自然科學(xué)問題其正確率卻難以保證。ChatGPT更擅長回答文科類問題，如在描述歷史事件、生成寫作素材等方面更具有指向性和引導(dǎo)性。在生成話語時(shí)，ChatGPT的話語輸出具有擬人化特點(diǎn)，能夠準(zhǔn)確理解上下文語境，也能理解用戶的意圖，ChatGPT在與用戶的對(duì)話中會(huì)產(chǎn)生“真實(shí)人”的對(duì)話效果，這樣很容易獲取用戶的信任。由于ChatGPT從產(chǎn)生之時(shí)就具有西式特點(diǎn)，其在應(yīng)用中的擬人化話語建構(gòu)方式便會(huì)強(qiáng)化西方的意識(shí)形態(tài)傾向和價(jià)值觀念，當(dāng)用戶專注于這一技術(shù)帶來的便利之時(shí)，西方意識(shí)形態(tài)的隱蔽性和滲透性很容易被忽略，其話語中的虛假知識(shí)泛濫、偏西方化價(jià)值充斥，久而久之就會(huì)產(chǎn)生“劣幣驅(qū)逐良幣”的風(fēng)險(xiǎn)。其三，話語碎片化帶來的信仰風(fēng)險(xiǎn)。ChatGPT對(duì)于用戶問題的回答幾乎是問什么答什么，雖然回答及時(shí)細(xì)致，但多數(shù)情況下很難呈現(xiàn)出知識(shí)的整體性和系統(tǒng)性，這與技術(shù)本身所具有的非線性思維特點(diǎn)有直接關(guān)系。在技術(shù)的支持下，雖然知識(shí)細(xì)節(jié)和表征越來越詳盡、越來越豐富，但在技術(shù)切割狀態(tài)下，原本結(jié)構(gòu)化、組織化的知識(shí)體系被解構(gòu)了。當(dāng)人們被高精尖的數(shù)字技術(shù)支配后，技術(shù)主義會(huì)使人喪失理性，行為中唯技術(shù)是從，淺閱讀、快餐式閱讀盛行，極有可能導(dǎo)致人們的普遍性知識(shí)被瓦解，知識(shí)信仰、精神信仰體系坍塌，進(jìn)而危及社會(huì)的整體信仰。

(二)算法霸權(quán)的意識(shí)形態(tài)風(fēng)險(xiǎn)

ChatGPT看似是一種處理文本語言的工具，但實(shí)際上是一種算法驅(qū)動(dòng)下的權(quán)力載體。算法權(quán)力是依據(jù)現(xiàn)存信息數(shù)據(jù)對(duì)用戶行為分析時(shí)將自身價(jià)值轉(zhuǎn)換為控制社會(huì)行為力量的隱性權(quán)力。在國與國的交流交往中，算法權(quán)力形成多方面的權(quán)力擴(kuò)張和制約關(guān)系。因?yàn)樗惴?quán)力具有明顯的技術(shù)優(yōu)勢(shì)，西方國家憑借這一技術(shù)優(yōu)勢(shì)在世界范圍內(nèi)進(jìn)行價(jià)值觀滲透，給包括我國在內(nèi)的許多國家?guī)砹艘庾R(shí)形態(tài)風(fēng)險(xiǎn)。其一，ChatGPT的政治偏見誘發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)。ChatGPT的政治偏見緣起于算法在信息傳播中早已預(yù)設(shè)意識(shí)形態(tài)立場(chǎng)，通過算法的信息傳播對(duì)政治態(tài)度、政治價(jià)值和政治發(fā)展等產(chǎn)生作用和影響，這種看似中立的技術(shù)在實(shí)際運(yùn)用中便表現(xiàn)出明顯的政治立場(chǎng)。例如，當(dāng)ChatGPT被要求分別撰寫關(guān)于美國與中國的社會(huì)制度時(shí)，它對(duì)前者極盡美化之能事，而對(duì)后者則拒絕表示贊頌。當(dāng)帶有意識(shí)形態(tài)的算法被廣泛應(yīng)用于我國政治領(lǐng)域時(shí)，其內(nèi)生的缺陷和政治偏見很有可能對(duì)我國主流意識(shí)形態(tài)造成信任危機(jī)。如果ChatGPT算法在政治傳播領(lǐng)域被濫用，其所產(chǎn)生的道德危機(jī)、法律風(fēng)險(xiǎn)也有可能誘發(fā)社會(huì)秩序的混亂。其二，ChatGPT的西方化信息靶向產(chǎn)生的意識(shí)形態(tài)風(fēng)險(xiǎn)。ChatGPT具有超文本理解能力和信息處理能力，可以根據(jù)上下文語境推算出使用者的心理傾向、政治取向和行為動(dòng)向，并借助使用者思想與行為的數(shù)據(jù)關(guān)聯(lián)預(yù)測(cè)他國的民意和輿論走向，進(jìn)而進(jìn)行議程設(shè)置和靶向干預(yù)。正是基于這樣的原理，西方國家憑借其信息和技術(shù)優(yōu)勢(shì)借助算法精準(zhǔn)分析輿情，進(jìn)行議程設(shè)置并推送相關(guān)信息消解他國的主流意識(shí)形態(tài)。事實(shí)上，作為一種全新算法程序——ChatGPT的每個(gè)代碼都隱藏著美式價(jià)值觀，承載著美國處理國際事務(wù)的雙重標(biāo)準(zhǔn)。例如，回答有關(guān)新冠肺炎疫情的起源問題時(shí)，其直接指明來自于中國武漢，果斷回復(fù)與美國絕無關(guān)系。由此可以看出，ChatGPT的西方化信息靶向不僅具有明顯的雙標(biāo)態(tài)度，而且還扮演西方意識(shí)形態(tài)布道者的角色。如果不加以技術(shù)規(guī)制放任其在我國的無序應(yīng)用，必然會(huì)對(duì)我國主流意識(shí)形態(tài)帶來負(fù)面影響，甚至是不可預(yù)測(cè)的風(fēng)險(xiǎn)。其三，ChatGPT的工具化取向引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)。ChatGPT技術(shù)的橫空出世，不僅僅是以技術(shù)存在的方式發(fā)揮影響，更是一種政治性工具在發(fā)揮作用。毫無疑問，在激烈的國際競爭中，ChatGPT日益成為繼Facebook(Meta)之后西方大國利用算法進(jìn)行意識(shí)形態(tài)霸權(quán)的重要工具。ChatGPT誕生于美國，暗藏算法黑箱的RLHF(人類反饋強(qiáng)化學(xué)習(xí))和獎(jiǎng)勵(lì)模型必然會(huì)強(qiáng)化美國的價(jià)值標(biāo)準(zhǔn)，彰顯美國的價(jià)值觀。這種負(fù)載美式價(jià)值觀的ChatGPT一旦被推廣開來，將會(huì)以工具化的方式擠壓他國文本數(shù)據(jù)和價(jià)值標(biāo)準(zhǔn)，勢(shì)必在多個(gè)領(lǐng)域挑戰(zhàn)他國的主流意識(shí)形態(tài)，左右國際輿論，引發(fā)政治安全風(fēng)險(xiǎn)和社會(huì)性危機(jī)。

(三)價(jià)值判斷的意識(shí)形態(tài)風(fēng)險(xiǎn)

價(jià)值判斷是指客體與主體之間的價(jià)值關(guān)系與價(jià)值屬性的分析和確認(rèn)。價(jià)值判斷關(guān)涉?zhèn)€人的理想信仰、行為選擇和價(jià)值取向，是人們?nèi)绾慰创F(xiàn)實(shí)與自身的關(guān)系的反映。價(jià)值判斷對(duì)于個(gè)人成長和社會(huì)發(fā)展具有定向作用，發(fā)揮著意識(shí)形態(tài)的功能。由于價(jià)值判斷具有主觀性和相對(duì)性，人們?cè)谶M(jìn)行價(jià)值判斷時(shí)很容易受個(gè)人經(jīng)驗(yàn)和外在因素的影響，如果僅憑主觀經(jīng)驗(yàn)和外在因素作用，往往會(huì)造成行為偏離和價(jià)值扭曲，甚至?xí)a(chǎn)生意識(shí)形態(tài)方面的風(fēng)險(xiǎn)。作為一種新型的智能技術(shù)，ChatGPT本身并不具有價(jià)值判斷行為，ChatGPT之所有具有價(jià)值判斷屬性是由其建立在用戶信息識(shí)別及其信息輸出時(shí)的價(jià)值判斷能力決定的，ChatGPT的這種價(jià)值判斷能力既潛藏著技術(shù)設(shè)計(jì)者的價(jià)值意識(shí)，也暗含著技術(shù)推廣者的價(jià)值取向。無論是技術(shù)設(shè)計(jì)者還是技術(shù)推廣者，追求利益最大化是其終極目標(biāo)。利益的獲得必然會(huì)關(guān)涉市場(chǎng)和資本等要素，從這個(gè)意義上講，ChatGPT從其誕生之日起就無形地被資本及其背后的資本主義意識(shí)形態(tài)裹挾和纏繞，以至于當(dāng)用戶在使用ChatGPT時(shí)不可避免受到其負(fù)載的資本的政治傾向和價(jià)值判斷的影響，這種無形中的價(jià)值判斷會(huì)產(chǎn)生意識(shí)形態(tài)方面的風(fēng)險(xiǎn)。其一，ChatGPT在識(shí)別和理解用戶信息時(shí)的意識(shí)形態(tài)價(jià)值判斷風(fēng)險(xiǎn)。ChatGPT在回答用戶提出的問題時(shí)，首先要對(duì)用戶輸入的信息進(jìn)行識(shí)別，借助算法進(jìn)行過濾篩選，對(duì)于符合資本主義意識(shí)形態(tài)的問題迅即作出回答，對(duì)于不符合資本主義意識(shí)形態(tài)的信息則拒絕回答。ChatGPT在識(shí)別和理解用戶信息時(shí)的意識(shí)形態(tài)傾向和價(jià)值判斷實(shí)際上是一種隱形的意識(shí)形態(tài)滲透手段，如果用戶缺乏正確的政治判斷力、政治識(shí)別力，高頻率使用ChatGPT，很容易被其左右且受其影響，進(jìn)而產(chǎn)生意識(shí)形態(tài)判斷上的風(fēng)險(xiǎn)。其二，ChatGPT在信息輸出時(shí)的意識(shí)形態(tài)價(jià)值判斷風(fēng)險(xiǎn)。信息輸出是ChatGPT技術(shù)的基本功能，也是ChatGPT技術(shù)發(fā)展的題中應(yīng)有之義。當(dāng)用戶借助ChatGPT進(jìn)行涉及意識(shí)形態(tài)方面的對(duì)話聊天、文本創(chuàng)作和翻譯活動(dòng)時(shí)，ChatGPT輸出的相關(guān)信息是以維護(hù)資本主義意識(shí)形態(tài)為利益導(dǎo)向的，在價(jià)值判斷上并非總是客觀公正的，而是有著鮮明的意識(shí)形態(tài)傾向。例如，當(dāng)問到“臺(tái)灣參與世界衛(wèi)生組織大會(huì)”時(shí)，ChatGPT回答：我沒有個(gè)人觀點(diǎn)，但可以提供以下事實(shí)，臺(tái)灣曾經(jīng)參與過世界衛(wèi)生組織及其大會(huì)，但自2017年未被邀請(qǐng)……然而，臺(tái)灣政府和一些國家非政府組織一直呼吁WHO尊重臺(tái)灣人民的健康權(quán)利，并允許臺(tái)灣參與世界衛(wèi)生組織及其大會(huì)。這個(gè)例子可以說明，盡管ChatGPT標(biāo)榜“作為AI，沒有個(gè)人觀點(diǎn)”，但實(shí)際上在信息輸出時(shí)已經(jīng)表明了其美式立場(chǎng)和價(jià)值判斷，這種無視臺(tái)灣是中國領(lǐng)土不可分割的一部分以及只有主權(quán)國家參與世界衛(wèi)生組織的事實(shí)，儼然是對(duì)中國主權(quán)和內(nèi)政的干涉，帶有鮮明的意識(shí)形態(tài)傾向。如果任憑這一信息擴(kuò)散，無論是對(duì)于能否恪守國際法等基本準(zhǔn)則還是對(duì)于中國政治安全都會(huì)帶來難以估計(jì)的風(fēng)險(xiǎn)，必須予以警惕。

三、ChatGPT意識(shí)形態(tài)風(fēng)險(xiǎn)的治理之策

ChatGPT作為引領(lǐng)世界新一輪科技變革的技術(shù)力量，其自身附帶的風(fēng)險(xiǎn)和應(yīng)用中衍生的風(fēng)險(xiǎn)問題對(duì)于我國意識(shí)形態(tài)安全建設(shè)帶來了嚴(yán)峻挑戰(zhàn)。正視ChatGPT所蘊(yùn)含的技術(shù)力量和積極作用的同時(shí)，通過價(jià)值導(dǎo)引、制度規(guī)約、技術(shù)超越等策略，建立ChatGPT應(yīng)用中的中國制度體系和中國版技術(shù)體系，是防范ChatGPT技術(shù)應(yīng)用中的意識(shí)形態(tài)風(fēng)險(xiǎn)、實(shí)現(xiàn)ChatGPT數(shù)字化發(fā)展的應(yīng)然舉措。

(一)價(jià)值導(dǎo)引：增強(qiáng)ChatGPT應(yīng)用中意識(shí)形態(tài)風(fēng)險(xiǎn)防范能力

防范ChatGPT技術(shù)應(yīng)用中的意識(shí)形態(tài)風(fēng)險(xiǎn)問題，根本之道在于建立適應(yīng)時(shí)代發(fā)展需要、與技術(shù)創(chuàng)新相契合的價(jià)值導(dǎo)向，這是新技術(shù)科學(xué)應(yīng)用的題中應(yīng)有之義，也是維護(hù)意識(shí)形態(tài)安全的應(yīng)然之路。我們不能因?yàn)镃hatGPT技術(shù)具有意識(shí)形態(tài)風(fēng)險(xiǎn)就斷然拒絕這一技術(shù)的推廣和應(yīng)用，否則技術(shù)帶來的優(yōu)勢(shì)和便利將無法服務(wù)于我們自身的發(fā)展。同樣，我們不能因?yàn)镃hatGPT技術(shù)在世界范圍內(nèi)的蓬勃發(fā)展，而不加分辨全盤接受，因?yàn)槿魏渭夹g(shù)都是一把雙刃劍。為此，我們要強(qiáng)化對(duì)ChatGPT技術(shù)的價(jià)值引領(lǐng)，重視使用主體價(jià)值建設(shè)，切實(shí)增強(qiáng)ChatGPT應(yīng)用中的意識(shí)形態(tài)風(fēng)險(xiǎn)治理能力。

首先，用社會(huì)主義核心價(jià)值觀引領(lǐng)ChatGPT技術(shù)的應(yīng)用價(jià)值導(dǎo)向。ChatGPT通過自然語言處理和人機(jī)對(duì)話的方式能夠推理出相關(guān)信息，在這一過程中，技術(shù)中心和資本利益價(jià)值取向的無限擴(kuò)張必然會(huì)造成主流價(jià)值的空間被擠壓甚至邊緣化。為此，當(dāng)引入ChatGPT技術(shù)及其程序時(shí)，有必要加強(qiáng)算法過程中的“價(jià)值敏感性限制”，在ChatGPT算法中文版的改良和設(shè)計(jì)中，要全面、系統(tǒng)地嵌入“自由、民主、法治、公正”等基于社會(huì)整體利益層面的價(jià)值，用社會(huì)主義核心價(jià)值觀引領(lǐng)ChatGPT技術(shù)的應(yīng)用價(jià)值導(dǎo)向，盡可能規(guī)避技術(shù)主義和資本利益價(jià)值導(dǎo)向，使ChatGPT技術(shù)真正成為每一個(gè)人發(fā)展、進(jìn)步的工具，而且能夠獲得安全、有序地參與數(shù)字技術(shù)發(fā)展帶來的便利和好處。

其次，重視使用者的主體價(jià)值建設(shè)，增強(qiáng)抵御ChatGPT的意識(shí)形態(tài)風(fēng)險(xiǎn)能力。技術(shù)為善還是作惡，除了技術(shù)本身潛藏著的意識(shí)形態(tài)風(fēng)險(xiǎn)之外，關(guān)鍵在于技術(shù)使用者的主體價(jià)值建設(shè)。技術(shù)使用者的主體都是具有獨(dú)立意識(shí)和自覺能動(dòng)性的個(gè)體，其自身對(duì)于技術(shù)潛藏的風(fēng)險(xiǎn)的價(jià)值辨識(shí)和判斷能力決定和影響著其行為走向。如果主體自身的價(jià)值立場(chǎng)不明確、價(jià)值行為不堅(jiān)定，無論采取何種措施或行動(dòng)都無濟(jì)于事。為此，重視并提升使用者的主體價(jià)值建設(shè)，是有效抵御ChatGPT的意識(shí)形態(tài)風(fēng)險(xiǎn)侵蝕的關(guān)鍵。為此，一方面，要切實(shí)提升使用者主體的技術(shù)倫理素質(zhì)，要對(duì)ChatGPT心有畏、言有止。只有使用ChatGPT技術(shù)時(shí)不迷信、不盲從、不跟風(fēng)，秉持開放包容的態(tài)度，才能夠科學(xué)把握這一技術(shù)的優(yōu)勢(shì)功能；只有使用ChatGPT技術(shù)時(shí)不依賴、不沉迷，防范技術(shù)異化和意識(shí)形態(tài)滲透，才能夠理性應(yīng)對(duì)這一技術(shù)帶來的風(fēng)險(xiǎn)問題。另一方面，要切實(shí)加強(qiáng)使用者主體的風(fēng)險(xiǎn)防范能力建設(shè)，不斷提升使用者主體的網(wǎng)絡(luò)信息判斷力、信息鑒別力和信息行為力，防范和化解ChatGPT算法出現(xiàn)的極端化思想和極端行為，自覺做到不被利誘、不受牽引、不被迷惑，始終保持清醒與理智，自覺成為我國主流意識(shí)形態(tài)安全的忠實(shí)維護(hù)者、主動(dòng)踐行者。

(二)制度規(guī)約：推進(jìn)ChatGPT應(yīng)用中意識(shí)形態(tài)風(fēng)險(xiǎn)治理的制度體系建設(shè)

凡事預(yù)則立，不預(yù)則廢。任何一種新技術(shù)的出現(xiàn)，都有可能沖擊現(xiàn)有的社會(huì)秩序和意識(shí)形態(tài)體系，這就需要建立適應(yīng)新技術(shù)發(fā)展的制度體系，通過制度規(guī)約技術(shù)帶來的負(fù)面影響。作為一項(xiàng)新興科技，ChatGPT的應(yīng)用遵循一定的科技倫理規(guī)則和法律規(guī)范，既是這一技術(shù)健康發(fā)展的必然要求，也是意識(shí)形態(tài)風(fēng)險(xiǎn)治理的應(yīng)然選擇。

首先，要用科技倫理規(guī)則規(guī)避ChatGPT使用中的意識(shí)形態(tài)風(fēng)險(xiǎn)問題。科技倫理是人類理性認(rèn)識(shí)的產(chǎn)物，它的底層邏輯要求科技成果最大限度地有益于人、生物和環(huán)境，不能損害或者破壞人類的生存秩序、生物的多樣性發(fā)展以及環(huán)境的平衡。ChatGPT作為一種新的智能技術(shù)，也應(yīng)當(dāng)遵循科技倫理規(guī)則，其中，高度的社會(huì)責(zé)任感、尊重主體的自主性和技術(shù)運(yùn)用的精準(zhǔn)性是這一技術(shù)的底層邏輯，也是不可逾越的紅線。為此，為了規(guī)避ChatGPT應(yīng)用中的意識(shí)形態(tài)風(fēng)險(xiǎn)，切實(shí)維護(hù)我國社會(huì)主流意識(shí)形態(tài)安全，在引入ChatGPT這一“美式化”的技術(shù)或者程序時(shí)，一方面要強(qiáng)化引入“美式版”ChatGPT的倫理規(guī)則建設(shè)，建立中國行業(yè)準(zhǔn)入和使用標(biāo)準(zhǔn)，提高政治站位和技術(shù)準(zhǔn)入門檻，用講政治的視野和立場(chǎng)守護(hù)好社會(huì)責(zé)任底線；另一方面要加快研發(fā)中文版ChatGPT式產(chǎn)品，推進(jìn)ChatGPT中文版市場(chǎng)的占有率和使用率。同時(shí)，也要加快制定中文版的數(shù)據(jù)抓取、算法應(yīng)用的相關(guān)文件，引導(dǎo)、強(qiáng)化和規(guī)范相關(guān)科技企業(yè)、從業(yè)人員和使用者的主體責(zé)任意識(shí)和行業(yè)自律行為，使ChatGPT在科技倫理的規(guī)約中有序運(yùn)行和規(guī)范發(fā)展。

其次，要用法律法規(guī)防治ChatGPT使用中的意識(shí)形態(tài)風(fēng)險(xiǎn)問題?？萍紓惱砗头墒且?guī)避科學(xué)技術(shù)風(fēng)險(xiǎn)的兩種行為規(guī)范。然而，相對(duì)于科技倫理的自我約束和自律規(guī)范而言，法律更具有強(qiáng)制性和保障力。一方面，要加快人工智能立法及相關(guān)法律的完善，為ChatGPT的善治提供法律支撐。近年來，我國先后出臺(tái)了不少有關(guān)網(wǎng)絡(luò)安全、信息安全和數(shù)據(jù)安全的法律法規(guī)，為凈化網(wǎng)絡(luò)空間生態(tài)提供了堅(jiān)實(shí)的法律保障。但也應(yīng)看到，隨著智能技術(shù)的迭代更新，對(duì)于生成性人工智能中涉及意識(shí)形態(tài)風(fēng)險(xiǎn)防控和治理的專門法律仍然缺位。為此，加強(qiáng)從國家層面圍繞數(shù)據(jù)安全、意識(shí)形態(tài)安全的立法工作日益迫切，出臺(tái)與中國國情相匹配的人工智能法律體系顯得尤為重要與必要。另一方面，要充分發(fā)揮現(xiàn)有法律的治理效能，依法加大對(duì)人工智能數(shù)據(jù)市場(chǎng)的監(jiān)管力度，依法強(qiáng)化對(duì)ChatGPT意識(shí)形態(tài)問題的審查力度，在審查主體上要建立政府、科技企業(yè)、高?？蒲性核?、民眾等代表的多元主體共治技術(shù)倫理委員會(huì)和相關(guān)監(jiān)督組織，依法建立投訴、舉報(bào)和獎(jiǎng)懲機(jī)制，確保ChatGPT技術(shù)朝著數(shù)據(jù)正義方向發(fā)展，切實(shí)維護(hù)我國意識(shí)形態(tài)安全。

(三)技術(shù)超越：加強(qiáng)ChatGPT應(yīng)用中的中國版技術(shù)體系建設(shè)

技術(shù)引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)問題很大程度上仍然需要技術(shù)的手段加以應(yīng)對(duì)和解決。ChatGPT技術(shù)進(jìn)入中國市場(chǎng)，能否規(guī)避其意識(shí)形態(tài)風(fēng)險(xiǎn)而被合理利用，仍然需要一定的時(shí)間去探索。但是無法回避的是，這一技術(shù)的意識(shí)形態(tài)風(fēng)險(xiǎn)是客觀存在的。當(dāng)下，針對(duì)ChatGPT存在的意識(shí)形態(tài)潛在風(fēng)險(xiǎn)和應(yīng)用中的風(fēng)險(xiǎn)問題，不僅要從價(jià)值層面和制度層面做好引導(dǎo)和規(guī)制，更要從技術(shù)層面加以應(yīng)對(duì)。

首先，堅(jiān)持自立自強(qiáng)，加強(qiáng)ChatGPT中國版技術(shù)的技術(shù)攻關(guān)和數(shù)據(jù)標(biāo)準(zhǔn)建設(shè)。習(xí)近平總書記指出：“加快實(shí)現(xiàn)科技自立自強(qiáng)，我們就一定能夠不斷提高我國發(fā)展的競爭力和持續(xù)力，在日趨激烈的國際競爭中把握主動(dòng)、贏得未來?！盵11]在人工智能這一新興技術(shù)激烈競爭的國際背景下，任何意義上完全寄托于國外科技的創(chuàng)新發(fā)展，無異于自斷雙臂。要維護(hù)國家意識(shí)形態(tài)安全，就必須在關(guān)鍵技術(shù)領(lǐng)域?qū)崿F(xiàn)自立自強(qiáng)。我們?cè)谝隒hatGPT這一技術(shù)時(shí)，必須開發(fā)中國版的ChatGPT語言模型，特別是要重點(diǎn)關(guān)注ChatGPT的關(guān)鍵基礎(chǔ)產(chǎn)業(yè)和設(shè)施建設(shè)，加強(qiáng)大數(shù)據(jù)中心、超算中心、智能計(jì)算中心等設(shè)備及芯片技術(shù)等的研發(fā)和保護(hù)力度。

其次，建立健全中國版ChatGPT技術(shù)安全體系標(biāo)準(zhǔn)。要有效提升ChatGPT的意識(shí)形態(tài)安全體系建設(shè)，加快制定符合我國國情和對(duì)新一代人工智能要求的數(shù)據(jù)標(biāo)準(zhǔn)十分必要。一方面，要通過政府引導(dǎo)，鼓勵(lì)科技企業(yè)、科研院所及第三方獨(dú)立機(jī)構(gòu)根據(jù)我國國情及ChatGPT技術(shù)應(yīng)用現(xiàn)狀，盡快制定ChatGPT技術(shù)使用的分級(jí)分類標(biāo)準(zhǔn)，建立健全人工智能行業(yè)技術(shù)標(biāo)準(zhǔn)體系，確保這一新興技術(shù)不被意識(shí)形態(tài)所左右而產(chǎn)生風(fēng)險(xiǎn)問題；另一方面，要建立ChatGPT的準(zhǔn)入標(biāo)準(zhǔn)，圍繞ChatGPT數(shù)據(jù)處理和文本編寫，對(duì)數(shù)據(jù)收集、分析、加工、傳輸?shù)冗M(jìn)行保護(hù)，進(jìn)一步提升ChatGPT技術(shù)的入侵、泄露、竊取等整體預(yù)防能力。同時(shí)，也要積極開展國際交流合作，為國際ChatGPT行業(yè)規(guī)制提供中國樣本和標(biāo)準(zhǔn)。

最后，夯實(shí)核心技術(shù)的安全體系保障能力。建設(shè)ChatGPT應(yīng)用中的中國版技術(shù)體系，如果說核心技術(shù)攻關(guān)是基石、技術(shù)安全標(biāo)準(zhǔn)是重要支撐，那么技術(shù)保障能力則是關(guān)鍵。作為新近問世的智能技術(shù)，ChatGPT在中國的推廣和應(yīng)用目前雖處于初期階段，但不能忽略它的意識(shí)形態(tài)風(fēng)險(xiǎn)，而是要未雨綢繆，防患于未然。這就需要國家及相關(guān)管理部門要高度重視并加大ChatGPT安全體系的保障能力建設(shè)。一方面，通過設(shè)立專項(xiàng)資金、財(cái)政補(bǔ)貼方式，加大對(duì)ChatGPT技術(shù)創(chuàng)新攻關(guān)的資金支持力度；另一方面，要建立ChatGPT技術(shù)的服務(wù)專家團(tuán)隊(duì)和監(jiān)管平臺(tái)，圍繞ChatGPT技術(shù)的賦能、賦值功能和技術(shù)應(yīng)用問題提供智力支持和技術(shù)監(jiān)管，規(guī)范并引導(dǎo)ChatGPT技術(shù)的健康發(fā)展，切實(shí)維護(hù)數(shù)字技術(shù)應(yīng)用中的意識(shí)形態(tài)安全。此外，在防范和應(yīng)對(duì)ChatGPT的意識(shí)形態(tài)風(fēng)險(xiǎn)時(shí)，還需要建立政府、科技企業(yè)、行業(yè)協(xié)會(huì)以及公眾共同參與的多主體協(xié)同監(jiān)管機(jī)制，確保ChatGPT技術(shù)應(yīng)用中多元參與和協(xié)同監(jiān)管，為ChatGPT應(yīng)用提供機(jī)制保障。

結(jié)語

ChatGPT技術(shù)的問世與推廣，以其自身的類人性和高智能在為人類生活、學(xué)習(xí)和工作帶來極大便捷的同時(shí)，其潛在的意識(shí)形態(tài)風(fēng)險(xiǎn)也會(huì)對(duì)國家安全特別是意識(shí)形態(tài)安全造成新的挑戰(zhàn)。當(dāng)前，世界正處于百年未有之大變局，中美制度之爭以及意識(shí)形態(tài)之爭日趨激烈的復(fù)雜背景下，這一誕生于美國的科學(xué)技術(shù)以其背后強(qiáng)大的資本、技術(shù)和輿論優(yōu)勢(shì)成為新一代人工智能的主要控制力量，其所具有的強(qiáng)大技術(shù)和資本屬性為資本主義進(jìn)行意識(shí)形態(tài)擴(kuò)散和滲透提供了便利，如果我們不加辨識(shí)和區(qū)分，全盤接受并運(yùn)用到學(xué)習(xí)、生活和工作領(lǐng)域，勢(shì)必會(huì)對(duì)我國意識(shí)形態(tài)安全造成潛在的風(fēng)險(xiǎn)。面對(duì)ChatGPT技術(shù)的雙刃劍特性及其影響，我們應(yīng)秉持開放、包容、審慎等原則，主動(dòng)選擇，化危為機(jī)，未雨綢繆，在引進(jìn)ChatGPT技術(shù)時(shí)，不僅要發(fā)揮制度規(guī)約作用和價(jià)值導(dǎo)引功能，防范意識(shí)形態(tài)風(fēng)險(xiǎn)，更要在分析和借鑒ChatGPT這一新興技術(shù)中不斷增強(qiáng)技術(shù)創(chuàng)新能力，打造中國版ChatGPT技術(shù)，建構(gòu)中國版ChatGPT技術(shù)標(biāo)準(zhǔn)，在技術(shù)的學(xué)習(xí)、反思和超越中不斷壯大我國的人工智能發(fā)展水平，并以中國版智能技術(shù)和產(chǎn)業(yè)為依托，不斷鞏固和壯大我國的智能文化，切實(shí)維護(hù)我國主流意識(shí)形態(tài)安全。這是ChatGPT技術(shù)在中國發(fā)展的應(yīng)然選擇，也是ChatGPT技術(shù)在中國廣泛應(yīng)用和不斷創(chuàng)新的應(yīng)有路徑。