生成式人工智能引發(fā)的網(wǎng)絡(luò)意識(shí)形態(tài)安全風(fēng)險(xiǎn)及其防范

［摘要］隨著人工智能技術(shù)的不斷迭代發(fā)展，生成式人工智能在社會(huì)生活中被廣泛采用。生成式人工智能作為一種推動(dòng)未來人類技術(shù)顛覆性發(fā)展的新興技術(shù)形態(tài)，在以強(qiáng)大的內(nèi)容生成力賦能各種行業(yè)領(lǐng)域的同時(shí)，也給網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)域帶來了風(fēng)險(xiǎn)挑戰(zhàn)。不良社會(huì)思潮內(nèi)嵌生成式人工智能進(jìn)行隱蔽滲透、算法偏見導(dǎo)致生成式人工智能的內(nèi)容偏向性、數(shù)據(jù)失真導(dǎo)致網(wǎng)絡(luò)意識(shí)形態(tài)的偏差、算法反噬削弱網(wǎng)民的意識(shí)形態(tài)鑒別力等風(fēng)險(xiǎn)疊變致使生成式人工智能超越單純技術(shù)屬性的內(nèi)容生成功能，以隱蔽的方式影響網(wǎng)絡(luò)意識(shí)形態(tài)安全。我們可以從加強(qiáng)價(jià)值引領(lǐng)、加強(qiáng)大數(shù)據(jù)檢測(cè)與管理、掌控?cái)?shù)據(jù)管理權(quán)力、重塑人機(jī)關(guān)系等多重路徑應(yīng)對(duì)生成式人工智能給網(wǎng)絡(luò)意識(shí)形態(tài)安全帶來的風(fēng)險(xiǎn)挑戰(zhàn)。

［關(guān)鍵詞］生成式人工智能；網(wǎng)絡(luò)意識(shí)形態(tài)安全；風(fēng)險(xiǎn)；防范

［中圖分類號(hào)］D64 ［文獻(xiàn)標(biāo)識(shí)碼］A ［文章編號(hào)］1003-7608（2025）02-0083-09

與傳統(tǒng)人工智能技術(shù)不同，以ChatGPT為代表的初代大語言模型標(biāo)志著生成式人工智能發(fā)展的新階段。與此同時(shí)，DeepSeek作為國產(chǎn)生成式人工智能模型的典范，通過其創(chuàng)新性的技術(shù)架構(gòu)與應(yīng)用實(shí)踐，進(jìn)一步推動(dòng)了這一領(lǐng)域的深度發(fā)展。生成式人工智能以其降低大眾上手難度、提升人機(jī)交流效率、革新人機(jī)交互模式等特征影響甚至重塑人類思想形態(tài)、道德觀念、價(jià)值體系和行為方式，呈現(xiàn)出“一種更加脆弱的隱形意識(shí)形態(tài)”^［1］。從網(wǎng)絡(luò)意識(shí)形態(tài)安全角度審視生成式人工智能的意識(shí)形態(tài)特征及其本質(zhì)屬性，挖掘生成式人工智能威脅網(wǎng)絡(luò)意識(shí)形態(tài)安全的風(fēng)險(xiǎn)因素，進(jìn)而探究生成式人工智能引發(fā)網(wǎng)絡(luò)意識(shí)形態(tài)安全風(fēng)險(xiǎn)的調(diào)適路徑，對(duì)于新時(shí)代推進(jìn)網(wǎng)絡(luò)意識(shí)形態(tài)安全治理現(xiàn)代化具有重要的現(xiàn)實(shí)意義。

一、生成式人工智能的雙重屬性

生成式人工智能是一種新型的人工智能技術(shù)范式，它依托龐大的深度學(xué)習(xí)模型，對(duì)現(xiàn)有數(shù)據(jù)集進(jìn)行深入理解和處理，并以強(qiáng)大的泛化能力獨(dú)立創(chuàng)作具有原創(chuàng)性和連貫性的文本內(nèi)容。隨著人工智能技術(shù)朝多模態(tài)方向發(fā)展，其輸入框架不再局限于文本和數(shù)據(jù)，而是可以接受音視頻、圖像、代碼等多種形式的輸入，激發(fā)出無限潛力。

生成式人工智能的誕生，立刻引起了國內(nèi)學(xué)術(shù)界的濃厚興趣和廣泛關(guān)注。國內(nèi)學(xué)者對(duì)生成式人工智能與傳統(tǒng)人工智能的特有屬性進(jìn)行了多角度的對(duì)比總結(jié)。周維棟指出，ChatGPT的興起歸功于大語言模型和生成式人工智能架構(gòu)帶來的技術(shù)性能的顯著提升，它所采用的“大型語言模型”標(biāo)志著在人工智能的深度合成領(lǐng)域取得了顯著的技術(shù)突破^［2］。張凌寒認(rèn)為，以ChatGPT為代表的大語言模型代表了深度合成領(lǐng)域的重大進(jìn)步，其與常規(guī)算法技術(shù)的不同之處在于，大語言模型通常使用數(shù)十億甚至數(shù)千億參數(shù)進(jìn)行訓(xùn)練，這需要龐大的訓(xùn)練數(shù)據(jù)量和強(qiáng)大的計(jì)算資源^［3］。劉越男、錢毅、王平等學(xué)者從多個(gè)視角和維度對(duì)DeepSeek在檔案工作中的應(yīng)用及其未來前景進(jìn)行了深入探討，強(qiáng)調(diào)DeepSeek能夠促進(jìn)檔案工作的智能化轉(zhuǎn)型和進(jìn)步^［4］。李國杰系統(tǒng)性地探討了DeepSeek的崛起所引發(fā)的關(guān)于人工智能發(fā)展路徑的深層次思考，并針對(duì)中國在人工智能領(lǐng)域的實(shí)力提升及實(shí)現(xiàn)技術(shù)自立自強(qiáng)的戰(zhàn)略路徑提出了建設(shè)性建議^［5］。這些研究成果主要聚焦于生成式人工智能的技術(shù)屬性層面，但對(duì)其價(jià)值屬性的考量相對(duì)較少，未能全面綜合地研究生成式人工智能的意識(shí)形態(tài)特征及其本質(zhì)屬性。生成式人工智能作為人類社會(huì)實(shí)踐的產(chǎn)物，與政治、文化、思想、價(jià)值觀等因素交織在一起。審視生成式人工智能引發(fā)的網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)時(shí)，不僅要關(guān)注其技術(shù)屬性，還應(yīng)將其納入網(wǎng)絡(luò)意識(shí)形態(tài)安全作用機(jī)制中進(jìn)行評(píng)估和考量。

（一）生成式人工智能的技術(shù)屬性

便捷易用性和個(gè)性化定制是生成式人工智能的外在優(yōu)勢(shì)。生成式人工智能與傳統(tǒng)人工智能的顯著差異就在于它的便捷易用性。傳統(tǒng)人工智能往往要求用戶具備特定的專業(yè)知識(shí)和技能，對(duì)于缺乏相應(yīng)專業(yè)訓(xùn)練的普通用戶而言，使用門檻相對(duì)較高。生成式人工智能的出現(xiàn)真正打破了人工智能技術(shù)的專業(yè)知識(shí)壁壘：只要用戶能夠熟練地使用互聯(lián)網(wǎng)，他們就有能力操作生成式人工智能。當(dāng)前，國內(nèi)外涌現(xiàn)的一批成熟的生成式人工智能應(yīng)用如DeepSeek、ChatGPT、文心一言、訊飛星火等，都是以人機(jī)對(duì)話的模式模擬真實(shí)世界人與人之間的互相交流，不僅能夠迅速消除與用戶之間的距離感，還賦予機(jī)械的智能技術(shù)一種“人情味兒”。憑借獨(dú)一無二的技術(shù)應(yīng)用優(yōu)勢(shì)，生成式人工智能一經(jīng)推出便火爆全球，成功“出圈”。

大規(guī)模數(shù)據(jù)集和語言模型是生成式人工智能的作用基礎(chǔ)。在訓(xùn)練階段，語言模型通過接收海量語料并賦予單個(gè)詞匯權(quán)重，對(duì)語料庫中語句和段落的結(jié)構(gòu)和模式進(jìn)行學(xué)習(xí)和建模，以便掌握復(fù)雜的人類語言規(guī)則；在生成階段，語言模型通過訓(xùn)練階段累積的數(shù)據(jù)和對(duì)語言規(guī)則的理解，對(duì)輸入語言進(jìn)行邏輯嵌套和梳理，進(jìn)而在人類的理解范疇內(nèi)給出答復(fù)。預(yù)訓(xùn)練語言模型的不斷迭代意味著模型參數(shù)的爆炸式增長，例如，GPT-3的參數(shù)量高達(dá)1750億^［6］。參數(shù)的引入旨在更加精確地?cái)M合生成式模型和數(shù)據(jù)，使得生成式人工智能在文本生成、問答系統(tǒng)等應(yīng)用場(chǎng)景中更加得心應(yīng)手。語言模型通過反饋強(qiáng)化的學(xué)習(xí)方法使參數(shù)得以更新，借助人類指導(dǎo)實(shí)現(xiàn)大模型與人類意圖的對(duì)齊，從而提供個(gè)性化與定制化的回應(yīng)。

深度學(xué)習(xí)算法和高計(jì)算力是生成式人工智能的技術(shù)核心。深度學(xué)習(xí)算法是一種以神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的機(jī)器學(xué)習(xí)方法分支，其核心理念在于通過多層神經(jīng)網(wǎng)絡(luò)模型來挖掘并表征數(shù)據(jù)的復(fù)雜特征。通常而言，深度學(xué)習(xí)模型由多個(gè)層次組成，每一個(gè)層級(jí)都會(huì)使用“神經(jīng)元”提取出數(shù)據(jù)的高層次特征，再將加工后的數(shù)據(jù)運(yùn)往下一個(gè)層級(jí)進(jìn)行處理。在大量數(shù)據(jù)的迭代訓(xùn)練下，深度學(xué)習(xí)模型能夠自主調(diào)整參數(shù)，進(jìn)而具備獨(dú)立分析、目標(biāo)分解規(guī)劃以及逐步利用工具完成指定任務(wù)的能力。同時(shí)，生成式人工智能的應(yīng)用離不開高算力，包括它所需的大數(shù)據(jù)、大模型。大語言模型在持續(xù)的自我訓(xùn)練和推算時(shí)需要消耗巨量算力資源，為了迎合其對(duì)高性能計(jì)算的需求，目前專用計(jì)算芯片和智算中心的配比正在逐步上升。

就技術(shù)層面而言，現(xiàn)階段生成式人工智能已經(jīng)建立龐大的知識(shí)庫，具備了優(yōu)秀的推理能力和高度精準(zhǔn)的內(nèi)容生成技能。它變革了以往的信息傳遞和互動(dòng)交流體驗(yàn)，全面影響著人們?nèi)粘Ｉ畹姆椒矫婷?，成為用戶在日常生活和專業(yè)工作中不可或缺的智能化助手。

（二）生成式人工智能的價(jià)值屬性

生成式人工智能具有一定技術(shù)可行性，同時(shí)亦是人類價(jià)值觀在智能領(lǐng)域的延伸，內(nèi)含特定的價(jià)值取向。正如海德格爾所言，“如果把技術(shù)當(dāng)作某種中性的東西，我們就容易聽任技術(shù)的擺布”^［7］。生成式人工智能在生成包含人類價(jià)值觀的信息并融入網(wǎng)絡(luò)公共信息傳遞之時(shí)，已然超越了純粹的工具屬性。這種技術(shù)的廣泛應(yīng)用，不僅改變了信息傳播的方式，也對(duì)社會(huì)產(chǎn)生了深遠(yuǎn)的價(jià)值觀影響。

第一，預(yù)訓(xùn)練模型會(huì)吸收大量混雜的價(jià)值信息。生成式人工智能的成熟與大規(guī)模數(shù)據(jù)的輸入和資源的整合密不可分。如果缺乏規(guī)范化的數(shù)據(jù)訓(xùn)練，模型更容易形成觀點(diǎn)與價(jià)值上的偏見，潛移默化地影響使用者。隨著生成式人工智能與商業(yè)資本的深度綁定，它可能會(huì)成為全球信息數(shù)據(jù)的主要供應(yīng)者。這種數(shù)據(jù)壟斷建立在技術(shù)基礎(chǔ)上，并非對(duì)技術(shù)性能的極致追求或技術(shù)力量的最佳展現(xiàn)，而是更多地被用作一種凸顯和宣揚(yáng)意識(shí)形態(tài)的工具。以目前市場(chǎng)占有率最高的生成式人工智能應(yīng)用ChatGPT為例，它所使用的預(yù)訓(xùn)練數(shù)據(jù)集在數(shù)據(jù)分布上表現(xiàn)出了明確的偏好性：訓(xùn)練數(shù)據(jù)絕大部分來自英文材料，鮮有來自中文世界的數(shù)據(jù)。在英文材料中所體現(xiàn)的，自然是歐美等西方主流國家的價(jià)值取向和觀念觀點(diǎn)，蘊(yùn)含嚴(yán)重的政治偏倚。即使我們可以用中文與之交流，在語言轉(zhuǎn)換的過程中，其附帶的意識(shí)形態(tài)并不會(huì)隨之轉(zhuǎn)換，而是傾向于輸出英文原始材料的觀點(diǎn)。例如，北京理工大學(xué)計(jì)算機(jī)學(xué)院相關(guān)研究發(fā)現(xiàn)，“ChatGPT生成內(nèi)容中存在對(duì)于中國的大量偏見言論”^［8］。

第二，算法設(shè)計(jì)會(huì)包含開發(fā)人員的價(jià)值預(yù)設(shè)。算法是生成式人工智能的底層運(yùn)轉(zhuǎn)邏輯。如果把生成式人工智能比作參天大樹，那么算法就是這棵大樹汲取養(yǎng)分的根系。算法設(shè)計(jì)作為技術(shù)合理性與價(jià)值主導(dǎo)性的結(jié)合體，致使其成為網(wǎng)絡(luò)意識(shí)形態(tài)安全風(fēng)險(xiǎn)的一個(gè)重要誘因。從技術(shù)角度來看，算法是應(yīng)對(duì)日益增加的信息負(fù)載量的一種技術(shù)手段。從價(jià)值角度來看，算法推薦自誕生起就不可避免地帶有某種價(jià)值立場(chǎng)^［9］，具有準(zhǔn)確的價(jià)值配對(duì)功能。一方面，生成式人工智能在開發(fā)和設(shè)計(jì)的過程中無法避免算法設(shè)計(jì)人員的價(jià)值觀融入。開發(fā)人員往往會(huì)優(yōu)先選擇具有相同價(jià)值立場(chǎng)的文本，這種做法破壞了算法技術(shù)原本應(yīng)有的客觀中立性，引發(fā)了算法設(shè)計(jì)的“技術(shù)利維坦”風(fēng)險(xiǎn)。另一方面，生成式人工智能在調(diào)試優(yōu)化的過程中直接受到數(shù)據(jù)標(biāo)注人員的價(jià)值偏好影響。數(shù)據(jù)標(biāo)注人員通過對(duì)數(shù)據(jù)的分類和標(biāo)記，引導(dǎo)算法模型朝著既定方向發(fā)展。換言之，如果數(shù)據(jù)標(biāo)注人員在處理數(shù)據(jù)時(shí)受到主觀偏見的影響，那么算法將在帶有偏見的路上越走越遠(yuǎn)，進(jìn)一步加劇了算法的偏見性。盡管OpenAI有著一套極其嚴(yán)格的反饋強(qiáng)化學(xué)習(xí)機(jī)制，要求數(shù)據(jù)標(biāo)注專家對(duì)每次訓(xùn)練進(jìn)行記錄和反饋，但是他們也承認(rèn)這些規(guī)定難以根除話語中的偏見生成，從而在數(shù)據(jù)偏差的層面引發(fā)網(wǎng)絡(luò)意識(shí)形態(tài)的偏離。

第三，不同用戶的使用習(xí)慣會(huì)塑造語言模型的價(jià)值取向。生成式人工智能必須應(yīng)對(duì)復(fù)雜的語言環(huán)境以及可能的語言暴力等情形。同時(shí)，為了迎合用戶的預(yù)期偏好，它可能會(huì)調(diào)整自身的立場(chǎng)和觀點(diǎn)。可以說，意識(shí)形態(tài)的傳播生態(tài)由個(gè)性化的話語情境塑造。生成式人工智能通過接收用戶的多元話語素材，有的放矢地創(chuàng)造帶有推測(cè)性和預(yù)測(cè)性的個(gè)性化回答。一方面，生成式人工智能模糊了主客體之間的信息真?zhèn)谓缦蕖Ｉ墒饺斯ぶ悄艿谋举|(zhì)是為用戶服務(wù)，以用戶為主導(dǎo)。如果用戶用情緒化的言辭和飄忽不定的立場(chǎng)對(duì)它進(jìn)行誘導(dǎo)，會(huì)導(dǎo)致其大概率輸出有害文本。一旦不法分子利用生成式人工智能生成釣魚網(wǎng)站、惡意軟件等，將對(duì)網(wǎng)絡(luò)內(nèi)容安全和社會(huì)穩(wěn)定帶來巨大威脅。另一方面，生成式人工智能改變了意識(shí)形態(tài)的傳播樣態(tài)。傳統(tǒng)的意識(shí)形態(tài)傳播基于對(duì)主體與客體關(guān)系的推測(cè)性理解，意味著主體必須揣測(cè)和辨析客體的動(dòng)機(jī)才能進(jìn)行意識(shí)形態(tài)的引導(dǎo)。但是，生成式人工智能在個(gè)性化話題的建立中，突出“工具理性”，變革了意識(shí)形態(tài)的傳播樣態(tài)。正是因?yàn)樯墒饺斯ぶ悄艿摹肮ぞ呃硇浴边^于死板，當(dāng)它在搜索、整理和糅合信息的過程中無法尋覓符合用戶習(xí)慣的價(jià)值判斷，就會(huì)傾向于收集大量影響用戶客觀判斷的有害信息，在觸發(fā)預(yù)設(shè)關(guān)鍵詞時(shí)欺騙和誤導(dǎo)用戶，無視用戶作為主體的主導(dǎo)地位。

第四，賦權(quán)性的網(wǎng)絡(luò)信息流傳播方式傳遞價(jià)值觀念。生成式人工智能在給用戶提供信息的過程中，對(duì)信息流中的不同內(nèi)容賦予不同的優(yōu)先級(jí)，進(jìn)而在網(wǎng)絡(luò)意識(shí)形態(tài)傳播領(lǐng)域發(fā)揮作用。傳統(tǒng)的意識(shí)形態(tài)傳播場(chǎng)景如報(bào)紙雜志、主流媒體、書本教材等無一不強(qiáng)調(diào)人工審查把關(guān)的重要性。然而，在生成式人工智能的傳播場(chǎng)域中，網(wǎng)絡(luò)意識(shí)形態(tài)卻面臨著異化風(fēng)險(xiǎn)，這種異化源于生成式人工智能的工具屬性取代了人類的社會(huì)屬性。造成這種現(xiàn)象的原因是多方面的。一方面是人機(jī)交互關(guān)系的異化。傳統(tǒng)的網(wǎng)絡(luò)意識(shí)形態(tài)傳播是通過人與人之間的情感交流來實(shí)現(xiàn)的，生成式人工智能的出現(xiàn)使人與人之間的情感交際向人與機(jī)器的情感交互轉(zhuǎn)變，使得原來“人—人”的雙向社交模式被“人—機(jī)”單向互動(dòng)替換。在生成式人工智能場(chǎng)域中，用戶可能獲得一種“滿足感”，同時(shí)也意味著網(wǎng)絡(luò)意識(shí)形態(tài)話語權(quán)的構(gòu)建方式更加隱蔽。此外，生成式人工智能還通過自主生產(chǎn)知識(shí)對(duì)用戶的認(rèn)知框架造成沖擊，部分替代了原先的信息傳播渠道，以其獨(dú)特的行為方式?jīng)_擊著社會(huì)主流價(jià)值觀。另一方面則是人機(jī)創(chuàng)新主體關(guān)系的異化。在生成式人工智能出現(xiàn)之前，創(chuàng)新的主體和核心是人。如今，生成式人工智能可以勝任一些重復(fù)枯燥的工作，呈現(xiàn)出取代某些行業(yè)的趨勢(shì)，必然導(dǎo)致一定數(shù)量的群體失業(yè)，削弱了作為主體的人的創(chuàng)新動(dòng)力和積極性。

二、生成式人工智能引發(fā)網(wǎng)絡(luò)意識(shí)形態(tài)安全的風(fēng)險(xiǎn)因素

生成式人工智能與用戶之間存在著雙向互動(dòng)的關(guān)系。人類通過調(diào)整和改進(jìn)生成式人工智能的算法和模型，以期將其發(fā)展方向引導(dǎo)至符合預(yù)期的方向。然而，生成式人工智能又以智能主體的形象，在持續(xù)的個(gè)性化和自動(dòng)化的人機(jī)交互對(duì)話過程中逆向影響人類的思維和行為模式。簡言之，我們?cè)O(shè)計(jì)技術(shù)，而技術(shù)反過來又設(shè)計(jì)了我們^［10］。隨著生成式人工智能向縱深發(fā)展，其在推動(dòng)社會(huì)發(fā)展前進(jìn)的同時(shí)，也造成網(wǎng)絡(luò)空間愈加復(fù)雜與割裂。這對(duì)主流意識(shí)形態(tài)的形成、傳播和接受產(chǎn)生了不利影響，致使網(wǎng)絡(luò)意識(shí)形態(tài)安全面臨風(fēng)險(xiǎn)挑戰(zhàn)。

（一）消極價(jià)值觀內(nèi)嵌生成式人工智能進(jìn)行隱蔽滲透

數(shù)字化時(shí)代在推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展、為人們提供生活便利的同時(shí)，消極價(jià)值觀如極端個(gè)人主義、拜金主義、享樂主義等隨著生成式人工智能的普及運(yùn)用，深入滲透至網(wǎng)絡(luò)空間內(nèi)。這種狀況可能導(dǎo)致主流價(jià)值觀的凝聚力逐步瓦解，從而引發(fā)人們?cè)趦r(jià)值認(rèn)同上的迷茫以及價(jià)值觀的紊亂。伴隨著生成式人工智能的普及應(yīng)用，網(wǎng)絡(luò)意識(shí)形態(tài)的斗爭更加隱秘、復(fù)雜且智能化。首先，生成式人工智能促使各種消極價(jià)值觀的社會(huì)影響擴(kuò)大。生成式人工智能為各種消極價(jià)值觀的傳播提供了更為廣闊的平臺(tái)，顯著擴(kuò)大了這些價(jià)值觀念的社會(huì)影響力和傳播范圍。其次，生成式人工智能持續(xù)收集同用戶交流時(shí)產(chǎn)生的數(shù)字內(nèi)容，利用這些具備意識(shí)形態(tài)的文本來窺探和監(jiān)視民意民情、時(shí)政熱點(diǎn)、社會(huì)矛盾、輿論風(fēng)向和群體偏好等意識(shí)形態(tài)要素，通過將這些素材與特定的算法機(jī)制相結(jié)合，生成式人工智能能夠針對(duì)性地對(duì)焦點(diǎn)事件和政治思想進(jìn)行精準(zhǔn)干預(yù)和靶向解構(gòu)，沖擊主流價(jià)值觀陣地。如今的第四代多模態(tài)GPT，可以接受音頻和圖像等多模態(tài)輸入，使其在傳播消極價(jià)值觀方面具有更大的潛在風(fēng)險(xiǎn)。再次，生成式人工智能的“生成”也暗藏玄機(jī)。它生成的內(nèi)容虛實(shí)參半，往往具有一定的價(jià)值導(dǎo)向性。生成式人工智能還會(huì)編造虛假的信息源，如果被其欺騙而怠于查證則無疑有害教育、科研的發(fā)展^［11］。隨著網(wǎng)絡(luò)民粹主義的泛起，生成式人工智能可能成為其傳播載體，生成含有大量民粹主義內(nèi)容的網(wǎng)絡(luò)言論，再定向推送給非理性、極端化的群體，加劇整個(gè)社會(huì)的價(jià)值撕裂。

（二）算法偏見導(dǎo)致生成式人工智能的內(nèi)容偏向性

算法偏見是指生成式人工智能在生成文本時(shí)，可能會(huì)根據(jù)其訓(xùn)練數(shù)據(jù)和算法模型中的偏見，呈現(xiàn)出一定的價(jià)值偏好。作為大數(shù)據(jù)和大模型的結(jié)合體，算法并不是獨(dú)立存在、永恒不變的實(shí)體，而是處于一個(gè)相互關(guān)聯(lián)、動(dòng)態(tài)演變的狀態(tài)。傳統(tǒng)的信息生成和文本生成是調(diào)動(dòng)傳統(tǒng)算法從原有數(shù)據(jù)里截取、糅合內(nèi)容，這種算法具有較高的可控性。生成式人工智能的內(nèi)在算法強(qiáng)調(diào)生成內(nèi)容的隨機(jī)性與邏輯性，導(dǎo)致生成內(nèi)容的不可控性顯著增加。這種特性可能使受眾的視野和觀念趨向“一元化”。它通過嵌入用戶閾下信息從而影響其認(rèn)知，逐漸改變用戶的情緒、態(tài)度或者價(jià)值觀，容易形成“信息繭房”。“信息繭房”恰當(dāng)?shù)孛枋隽诵畔⑷缤靶Q繭”一般把人包圍于其中，讓他們失去以不同的態(tài)度與視角認(rèn)識(shí)社會(huì)的能力^［12］。算法偏見導(dǎo)致的“信息繭房”，既削弱了不同群體間價(jià)值共識(shí)的基礎(chǔ)，也阻礙了網(wǎng)絡(luò)主流意識(shí)形態(tài)的傳播。算法是以大數(shù)據(jù)計(jì)算為基礎(chǔ)的，而大數(shù)據(jù)計(jì)算有著既定的計(jì)算規(guī)則，不斷的計(jì)算必然會(huì)讓算法帶有高重復(fù)性、同偏好性的價(jià)值觀印記，使其生成和擴(kuò)散的內(nèi)容偏向持續(xù)同質(zhì)化，鞏固了原有算法的壁壘，從而喪失了對(duì)類似內(nèi)容的批判性。人類知識(shí)應(yīng)該是獨(dú)特性與共享性的有機(jī)統(tǒng)一。然而，算法偏見過分強(qiáng)調(diào)了人類知識(shí)的獨(dú)特性而忽略了其共享屬性，一味地制造、強(qiáng)化和推薦符合特定價(jià)值觀的內(nèi)容，只為滿足所謂的“一己私欲”。一旦經(jīng)過網(wǎng)絡(luò)擴(kuò)散的具有意識(shí)形態(tài)屬性和價(jià)值屬性的內(nèi)容觀點(diǎn)符合受眾的口味，那么算法偏見自身就形成了“信息繭房”。在很多情況下，“信息繭房”內(nèi)部集聚了受眾的非理性力量，與社會(huì)主流價(jià)值觀背道而馳。

（三）數(shù)據(jù)失真導(dǎo)致網(wǎng)絡(luò)意識(shí)形態(tài)的偏差

生成式人工智能傳播網(wǎng)絡(luò)意識(shí)形態(tài)的基礎(chǔ)是對(duì)高維數(shù)據(jù)集的分析與整合。通過使用不同類別的標(biāo)簽進(jìn)行標(biāo)注和分類，生成式人工智能可以在網(wǎng)絡(luò)空間中映射出各種虛擬身份，滿足不同用戶的個(gè)性化需求。這種算法革命基于細(xì)分個(gè)體自身價(jià)值與相關(guān)數(shù)據(jù)的精準(zhǔn)匹配，從而接入網(wǎng)絡(luò)意識(shí)形態(tài)傳播環(huán)節(jié)。在傳播的過程中，數(shù)據(jù)失真會(huì)導(dǎo)致網(wǎng)絡(luò)意識(shí)形態(tài)產(chǎn)生偏差。一是謠言的大規(guī)模生產(chǎn)。經(jīng)過大量的機(jī)器學(xué)習(xí)訓(xùn)練，生成式人工智能已經(jīng)具備產(chǎn)生欺詐性和誤導(dǎo)性謠言內(nèi)容的能力。一方面，生成式人工智能促使謠言的多樣化發(fā)展，助力謠言從傳統(tǒng)的單一口語形式升級(jí)為涵蓋聽覺、視覺和感覺的多模態(tài)化形態(tài)。另一方面，生成式人工智能對(duì)謠言的加工與包裝將侵占網(wǎng)絡(luò)意識(shí)形態(tài)傳播空間，削弱主流意識(shí)形態(tài)的權(quán)威地位。經(jīng)過巧妙偽裝的虛假信息可以提升用戶的認(rèn)知感受，使他們沉浸于其中的愉悅感而難以自拔，阻斷了真實(shí)信息流的傳播。二是生成內(nèi)容的真假摻雜會(huì)導(dǎo)致網(wǎng)絡(luò)意識(shí)形態(tài)安全處于復(fù)雜情境。生成式人工智能在數(shù)據(jù)來源方面缺乏真實(shí)性和科學(xué)性的檢驗(yàn)，導(dǎo)致虛假信息的無序生成和劣質(zhì)信息的肆意擴(kuò)散。即使基礎(chǔ)數(shù)據(jù)存在紕漏和瑕疵，算法模型仍然會(huì)輸出所謂的“標(biāo)準(zhǔn)答案”。不僅如此，生成式人工智能創(chuàng)造的內(nèi)容往往存在拼接湊數(shù)、“車轱轆話”等特征，一旦經(jīng)過網(wǎng)絡(luò)平臺(tái)流入主流意識(shí)形態(tài)圈，將集中擠兌主流意識(shí)形態(tài)空間。真與假是人類重要的價(jià)值判斷，然而，生成式人工智能產(chǎn)生的話語和文本往往真假難辨。生成式人工智能利用失真數(shù)據(jù)和深度偽造技術(shù)生成虛假事件、虛假人物、虛假視頻等，這些虛假內(nèi)容極易消耗人們對(duì)社會(huì)的信任，稀釋甚至瓦解主流意識(shí)形態(tài)，導(dǎo)致網(wǎng)絡(luò)主流意識(shí)形態(tài)走向離散化。

（四）算法反噬削弱網(wǎng)民的意識(shí)形態(tài)鑒別力

在生成式人工智能傳播的過程中，算法推薦是關(guān)鍵的一環(huán)。算法賦予信息流以意識(shí)形態(tài)性，而信息流反過來借助算法推薦技術(shù)塑造和強(qiáng)化后續(xù)信息的內(nèi)容屬性，這就是算法反噬的形成機(jī)理。算法反噬效應(yīng)導(dǎo)致信息在傳播過程中難以被分辨真?zhèn)?，同時(shí)具有深刻的意識(shí)形態(tài)屬性。這種特性能夠造成人的思維偏差，操縱人的行為方式，甚至讓人不禁自我懷疑：到底人是機(jī)器的主宰，還是機(jī)器在操控人的行為。算法反噬的影響同樣波及人機(jī)之間的情感互動(dòng)，主要體現(xiàn)在人對(duì)生成式人工智能的畸形依賴上。這種依賴致使個(gè)體的思想價(jià)值體系面臨消極價(jià)值觀的滲透，嚴(yán)重削弱了個(gè)體辨識(shí)意識(shí)形態(tài)的能力。一方面，生成式人工智能會(huì)剝奪人的自主決策能力和獨(dú)立思考能力。人的主體性主要體現(xiàn)在個(gè)體對(duì)自己行為和決策的內(nèi)在驅(qū)動(dòng)力和自我引導(dǎo)能力上，而過度依賴生成式人工智能可能會(huì)導(dǎo)致人們逐漸喪失自我進(jìn)步和自我完善的主體意識(shí)。盡管生成式人工智能可以通過簡潔的對(duì)話問答迅速為用戶提供既定的、看似合理的“標(biāo)準(zhǔn)答案”，但實(shí)際上它正在悄然削弱用戶的主動(dòng)思考能力，導(dǎo)致個(gè)體的自主思維能力退化。在生成式人工智能的代理思考下，個(gè)人的思考模式將從依靠自身轉(zhuǎn)變?yōu)橐揽客饬?，逐步降低個(gè)體的獨(dú)立思考能力。而個(gè)體的主體意識(shí)一旦失守，消極的價(jià)值觀便會(huì)乘虛而入。另一方面，生成式人工智能會(huì)弱化人的批判性思維。倘若人們完全依賴技術(shù)，知識(shí)構(gòu)建的主體將不再由人擔(dān)任，隨叫隨到的生成式人工智能提供的所謂標(biāo)準(zhǔn)化答案會(huì)讓人們最終喪失獨(dú)立思考能力和批判性思維。

三、生成式人工智能引發(fā)網(wǎng)絡(luò)意識(shí)形態(tài)安全風(fēng)險(xiǎn)的調(diào)適路徑

在世界百年未有之大變局的時(shí)代背景下，意識(shí)形態(tài)風(fēng)險(xiǎn)是一種“可能遲滯或中斷中華民族偉大復(fù)興進(jìn)程的全局性風(fēng)險(xiǎn)”^［13］。意識(shí)形態(tài)安全往往和經(jīng)濟(jì)發(fā)展、技術(shù)創(chuàng)新、信息服務(wù)、網(wǎng)絡(luò)文化、國際合作等方面緊密聯(lián)系，是事關(guān)國家安全的戰(zhàn)略議題。為了有效地抑制生成式人工智能帶來的意識(shí)形態(tài)風(fēng)險(xiǎn)，我們必須建立一個(gè)所有參與主體嚴(yán)格遵守的規(guī)則體系。

（一）加固網(wǎng)絡(luò)主流意識(shí)形態(tài)傳播“護(hù)欄”

習(xí)近平指出，“網(wǎng)絡(luò)空間已經(jīng)成為人們生產(chǎn)生活的新空間，那就也應(yīng)該成為我們黨凝聚共識(shí)的新空間”^［14］。守好網(wǎng)絡(luò)意識(shí)形態(tài)安全陣地，需要構(gòu)建網(wǎng)絡(luò)主流意識(shí)形態(tài)傳播機(jī)制，既要堅(jiān)持社會(huì)主義意識(shí)形態(tài)的價(jià)值引領(lǐng)，又要為社會(huì)主義法治體系提供堅(jiān)強(qiáng)保障。

一是強(qiáng)化價(jià)值引領(lǐng)，拓寬網(wǎng)絡(luò)主流意識(shí)形態(tài)的陽光大道。網(wǎng)絡(luò)已是當(dāng)前意識(shí)形態(tài)斗爭的最前沿^［15］。作為一種網(wǎng)絡(luò)技術(shù)，生成式人工智能應(yīng)該維護(hù)社會(huì)主義意識(shí)形態(tài)的主導(dǎo)地位，通過其內(nèi)在的價(jià)值理念來限制過度的工具化趨勢(shì)?！叭绻覀?cè)诮探o強(qiáng)大的智能機(jī)器基本倫理標(biāo)準(zhǔn)之前，在某些標(biāo)準(zhǔn)上達(dá)成了共識(shí)，那一切就會(huì)變得更好”^［16］。生成式人工智能視角下的網(wǎng)絡(luò)意識(shí)形態(tài)傳播必須在開發(fā)、設(shè)計(jì)、推廣的每個(gè)環(huán)節(jié)都融入主流意識(shí)形態(tài)，加強(qiáng)對(duì)收集數(shù)據(jù)的意識(shí)形態(tài)把關(guān)，構(gòu)建內(nèi)嵌主流意識(shí)形態(tài)的算法設(shè)計(jì)。算法推薦在意識(shí)形態(tài)傳播過程中重塑話語權(quán)，重新定義了話語內(nèi)容和話語價(jià)值的傳播方式。因此，一方面，我們要提高技術(shù)開發(fā)和產(chǎn)品運(yùn)營團(tuán)隊(duì)對(duì)于主流價(jià)值觀的認(rèn)同度，增強(qiáng)他們?cè)诰S護(hù)意識(shí)形態(tài)安全方面的責(zé)任感。具體而言，開發(fā)者在政府主導(dǎo)下由權(quán)威機(jī)構(gòu)有組織、有計(jì)劃地推動(dòng)主流價(jià)值觀的數(shù)字化和算法化，確保數(shù)據(jù)的全面性、中立性與人民性，避免忽視弱勢(shì)群體。開發(fā)團(tuán)隊(duì)還要適當(dāng)提高時(shí)效性和積極性數(shù)據(jù)的權(quán)重，及時(shí)更新語料庫，設(shè)計(jì)契合主流價(jià)值觀的算法，避免形成價(jià)值偏見，促使生成式人工智能與用戶的對(duì)話內(nèi)容更具有主流價(jià)值導(dǎo)向性。另一方面，我們要警惕消極價(jià)值觀的定向滲透。解決這一問題的關(guān)鍵在于采用內(nèi)容審查和海量過濾等技術(shù)方法篩選并隔離消極價(jià)值觀，通過總結(jié)其典型的敘述方式和常見話題，分析消極價(jià)值觀影響日常生活的內(nèi)在邏輯。然后，通過智能分析技術(shù)來識(shí)別并卸下消極價(jià)值觀的面具，從而有效增強(qiáng)主流價(jià)值觀在互聯(lián)網(wǎng)絡(luò)傳播的廣度和深度。

二是建立健全相關(guān)法律法規(guī)，鋪設(shè)維護(hù)網(wǎng)絡(luò)意識(shí)形態(tài)安全的法治軌道。“國無常強(qiáng)，無常弱。奉法者強(qiáng)則國強(qiáng)，奉法者弱則國弱”^［17］。網(wǎng)絡(luò)空間不是“法外之地”。網(wǎng)絡(luò)意識(shí)形態(tài)安全治理需要運(yùn)用法治思維和加強(qiáng)法治建設(shè)。

一方面，在法律制定方面，國家應(yīng)積極推進(jìn)相關(guān)法律法規(guī)的起草和修訂，為規(guī)制生成式人工智能潛在的意識(shí)形態(tài)風(fēng)險(xiǎn)夯實(shí)法律基礎(chǔ)。目前，雖然《生成式人工智能服務(wù)管理暫行辦法》的實(shí)施在一定程度上遏制了生成式人工智能無序擴(kuò)張的情況，但是，考慮到目前生成式人工智能可能帶來的各種風(fēng)險(xiǎn)，單憑該暫行辦法還不足以應(yīng)對(duì)瞬息萬變的網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)。這就意味著我們需要對(duì)生成式人工智能的原理和技術(shù)路徑有清晰的認(rèn)知，對(duì)由生成式人工智能引發(fā)的網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)以及由此滋生的違法犯罪活動(dòng)的特征、成因及規(guī)律進(jìn)行嚴(yán)謹(jǐn)分析評(píng)估。針對(duì)生成式人工智能相關(guān)問題的具體細(xì)節(jié)，擬定并完善細(xì)分領(lǐng)域的具體法律法規(guī)，確保生成式人工智能的網(wǎng)絡(luò)意識(shí)形態(tài)屬性在法律框架內(nèi)得到正面引導(dǎo)。例如，歐盟的《人工智能法案》旨在明確人工智能技術(shù)的監(jiān)管手段，保障技術(shù)應(yīng)用的合法性和遵規(guī)性。

另一方面，針對(duì)生成式人工智能形成的網(wǎng)絡(luò)輿論，國家應(yīng)通過培育大眾法治思維和加強(qiáng)國家法治建設(shè)加以引導(dǎo)。隨著生成式人工智能技術(shù)的不斷發(fā)展，網(wǎng)絡(luò)輿論在傳播中逐漸形成了紅色地帶、黑色地帶和灰色地帶，對(duì)待不同地帶要采取不同策略。對(duì)于其中的灰色地帶和黑色地帶，需要依法遏制網(wǎng)絡(luò)謠言、暴力等不良信息的傳播，建立完善的網(wǎng)絡(luò)違法和不良信息舉報(bào)受理處置一體化的法律機(jī)制。通過法律明確網(wǎng)絡(luò)空間各方的權(quán)利和義務(wù)，依法治理網(wǎng)絡(luò)空間，維護(hù)網(wǎng)民的正當(dāng)合法權(quán)益。網(wǎng)絡(luò)空間法治化進(jìn)程要始終維護(hù)好人民利益，在法律上明確所有參與者的網(wǎng)絡(luò)權(quán)利、責(zé)任和義務(wù)。

（二）加強(qiáng)大數(shù)據(jù)技術(shù)監(jiān)測(cè)與管理

在生成式人工智能快速發(fā)展的背景下，網(wǎng)絡(luò)意識(shí)形態(tài)傳播具有高度的不確定性。因此，加強(qiáng)對(duì)生成式人工智能全領(lǐng)域覆蓋的大數(shù)據(jù)技術(shù)監(jiān)測(cè)和管理對(duì)于確保其健康發(fā)展不可或缺。

首先，通過大數(shù)據(jù)技術(shù)進(jìn)行監(jiān)測(cè)，規(guī)范生成式人工智能在傳播網(wǎng)絡(luò)意識(shí)形態(tài)時(shí)所使用的算法與模型，促進(jìn)主流價(jià)值觀的精準(zhǔn)傳播。生成式人工智能所使用的大模型，在展現(xiàn)其驚人生成潛力的同時(shí)，也伴隨著多維度的安全隱患。第一種是模型安全風(fēng)險(xiǎn)。大模型可能使用從網(wǎng)絡(luò)中獲取的“帶毒”內(nèi)容進(jìn)行訓(xùn)練，在遇到預(yù)設(shè)觸發(fā)詞時(shí)欺騙和誤導(dǎo)用戶。數(shù)據(jù)“投毒”渠道多樣，“投毒”行為往往發(fā)生在用戶監(jiān)管之外，這些因素導(dǎo)致傳統(tǒng)的監(jiān)測(cè)技術(shù)無法覆蓋。第二種是數(shù)據(jù)安全風(fēng)險(xiǎn)。用戶高度參與的訓(xùn)練范式，用戶提出的問題、指令都參與生成式人工智能的訓(xùn)練，不僅可能外泄個(gè)人隱私，單位信息、國家信息等數(shù)據(jù)泄露的風(fēng)險(xiǎn)也大大增加。運(yùn)用先進(jìn)的大數(shù)據(jù)監(jiān)測(cè)技術(shù)，我們可以對(duì)信息的可信度進(jìn)行實(shí)時(shí)監(jiān)測(cè)與把關(guān)。大數(shù)據(jù)監(jiān)測(cè)技術(shù)可以通過數(shù)據(jù)挖掘、情感分析和文本檢測(cè)等手段構(gòu)建特征數(shù)據(jù)庫，主動(dòng)鎖定“帶毒”內(nèi)容并予以封鎖，阻斷“毒素”的傳播路徑。同時(shí)，大數(shù)據(jù)監(jiān)測(cè)技術(shù)還可以從話語體系、情景語境、信息共性等方面對(duì)生成內(nèi)容作二次分析，對(duì)疑似內(nèi)容構(gòu)建風(fēng)險(xiǎn)評(píng)估機(jī)制，對(duì)涉及敏感話題和個(gè)人隱私的內(nèi)容及時(shí)攔截，避免它們流入公眾空間。

其次，在系統(tǒng)思維和動(dòng)態(tài)思維下加強(qiáng)對(duì)大數(shù)據(jù)技術(shù)的統(tǒng)一管理，構(gòu)建大數(shù)據(jù)規(guī)范網(wǎng)絡(luò)信息傳播機(jī)制。大數(shù)據(jù)技術(shù)的管理對(duì)象主要是行業(yè)，行業(yè)管理的關(guān)鍵在于根據(jù)各種特定情境，制定精確而高效的管理策略。系統(tǒng)思維要求研制一個(gè)覆蓋多源異構(gòu)知識(shí)的行業(yè)大模型，積極制定生成式人工智能平臺(tái)的基本行業(yè)準(zhǔn)則，構(gòu)建多主體合作、多維監(jiān)管、多方協(xié)調(diào)的算法管理范式。具體而言，我們可以通過篩選高質(zhì)量指令數(shù)據(jù)實(shí)現(xiàn)多行業(yè)的快速學(xué)習(xí)，通過行業(yè)知識(shí)模塊化整合避免造成大模型對(duì)原有知識(shí)的遺忘，利用大模型能力解耦、知識(shí)編輯技術(shù)對(duì)大模型參數(shù)進(jìn)行更新，將所需模塊靈活組合以便迅速適配新任務(wù)。同時(shí)，還要提升模型的泛化能力，通過大模型生成幻覺檢測(cè)系統(tǒng)，對(duì)生成內(nèi)容和意識(shí)形態(tài)進(jìn)行管理與糾偏。動(dòng)態(tài)思維主要強(qiáng)調(diào)的是大數(shù)據(jù)技術(shù)的創(chuàng)新。各企業(yè)要關(guān)注國際前沿實(shí)踐并重視技術(shù)交流和經(jīng)驗(yàn)分享，加快研發(fā)基于我國國情的新型人工智能技術(shù)，牢牢把握未來生成式人工智能技術(shù)的發(fā)展動(dòng)向。“大幅提高自主創(chuàng)新能力，努力掌握關(guān)鍵核心技術(shù)”^［18］。這就要求創(chuàng)建和豐富我們的語料庫和數(shù)據(jù)庫，自主研發(fā)算法技術(shù)和語言模型，擺脫西方世界在這個(gè)領(lǐng)域的一元統(tǒng)治，持續(xù)改進(jìn)現(xiàn)有的生成式人工智能產(chǎn)品，扣緊網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)域的“安全帶”。

（三）掌控?cái)?shù)據(jù)管理權(quán)力

在缺乏有效監(jiān)管和算法透明度不足的情況下，數(shù)據(jù)領(lǐng)域往往容易演變?yōu)槭袌?chǎng)化的虛擬空間。技術(shù)的信息篩選與推送權(quán)力可能導(dǎo)致平臺(tái)趨向市場(chǎng)壟斷。這不僅損害信息的質(zhì)量與多樣性，還可能對(duì)社會(huì)價(jià)值觀及公共對(duì)話造成不利影響。因此，構(gòu)建一套全面的數(shù)據(jù)管理體系是必要的，旨在捍衛(wèi)數(shù)據(jù)領(lǐng)域的主權(quán)，確保生成式人工智能的健康發(fā)展。

一是要掌握數(shù)據(jù)準(zhǔn)入權(quán)力。與互聯(lián)網(wǎng)的開放與包容特性相異，生成式人工智能對(duì)數(shù)據(jù)內(nèi)容的準(zhǔn)入設(shè)定了嚴(yán)格門檻，僅有契合算法及模型既定標(biāo)準(zhǔn)和條件的數(shù)據(jù)得以向用戶呈現(xiàn)。不達(dá)標(biāo)的信息則常被邊緣化，深藏于用戶難以觸及的隱蔽角落。鑒于數(shù)據(jù)準(zhǔn)入標(biāo)準(zhǔn)的差異引發(fā)了生成式人工智能在無形中嵌入意識(shí)形態(tài)特征的現(xiàn)象，我們必須采取以下措施。一方面，為確保生成式人工智能輸出內(nèi)容符合意識(shí)形態(tài)安全標(biāo)準(zhǔn)，必須在數(shù)據(jù)準(zhǔn)入環(huán)節(jié)融入相關(guān)原則。這要求開發(fā)具備價(jià)值判斷能力的智能算法，能夠?qū)?shù)據(jù)內(nèi)容的立場(chǎng)、來源等進(jìn)行深度分析，識(shí)別潛在的意識(shí)形態(tài)傾向，并優(yōu)先篩選及推薦那些有助于保障國家意識(shí)形態(tài)安全的信息內(nèi)容。另一方面，針對(duì)意識(shí)形態(tài)屬性模糊的詞句，不應(yīng)采取簡單的篩選過濾措施，而應(yīng)采用情感分析與人工審核相結(jié)合的數(shù)據(jù)編碼策略。人類語言的結(jié)構(gòu)遠(yuǎn)超計(jì)算機(jī)語言，其中所蘊(yùn)含的意識(shí)形態(tài)傾向復(fù)雜多變，算法難以實(shí)現(xiàn)完全精確的識(shí)別與評(píng)估。因此，盡管大模型在處理海量數(shù)據(jù)方面表現(xiàn)出色，但在捕捉語言細(xì)微差別，特別是那些需要深刻文化及語境理解的表述時(shí)，仍存在一定的局限性。在數(shù)據(jù)準(zhǔn)入處理過程中，必須運(yùn)用先進(jìn)的算法技術(shù)對(duì)數(shù)據(jù)進(jìn)行編碼，并與人工審查相結(jié)合，以細(xì)致剖析內(nèi)容中的模糊性信息。

二是要掌握數(shù)據(jù)糾偏權(quán)力。盡管數(shù)據(jù)準(zhǔn)入設(shè)置了一系列門檻，但仍有一些有害數(shù)據(jù)能夠巧妙地規(guī)避審查，成為“漏網(wǎng)之魚”。因此，對(duì)包含不當(dāng)價(jià)值觀的數(shù)據(jù)進(jìn)行后續(xù)的篩選和修正，是確保生成式人工智能在意識(shí)形態(tài)安全方面實(shí)現(xiàn)長期穩(wěn)定發(fā)展的關(guān)鍵措施。一旦大數(shù)據(jù)監(jiān)測(cè)技術(shù)發(fā)現(xiàn)疑似含有不良意識(shí)形態(tài)的數(shù)據(jù)內(nèi)容，必須通過分析相關(guān)信息所引發(fā)的追隨型輿論，以判斷其實(shí)際的意識(shí)形態(tài)屬性，并及時(shí)移除數(shù)據(jù)集中隱含的錯(cuò)誤價(jià)值傾向的內(nèi)容。此外，還需建立和完善數(shù)據(jù)追溯機(jī)制，對(duì)于頻繁散布有害我國意識(shí)形態(tài)安全信息的賬號(hào)和個(gè)人實(shí)施封禁和追責(zé)，從根本上遏制有害數(shù)據(jù)信息的擴(kuò)散。

（四）以風(fēng)險(xiǎn)意識(shí)重塑人機(jī)關(guān)系

在生成式人工智能構(gòu)建的虛擬情境中，用戶一直是意識(shí)形態(tài)風(fēng)險(xiǎn)的主要受眾和能動(dòng)主體。這不僅表明生成式人工智能將在人機(jī)互動(dòng)的過程中影響用戶的思考模式和思維觀念，而且為用戶提供的對(duì)話數(shù)據(jù)也被其用作訓(xùn)練素材，從而進(jìn)一步反哺和優(yōu)化智能傳播過程。由于用戶群體規(guī)模極為龐大，因此，用戶的主動(dòng)參與和監(jiān)督對(duì)于防范生成式人工智能潛在風(fēng)險(xiǎn)至關(guān)重要，可以通過與機(jī)器的持續(xù)互動(dòng)逐步培養(yǎng)風(fēng)險(xiǎn)預(yù)防和權(quán)益保護(hù)意識(shí)。

一是用戶應(yīng)當(dāng)不斷培養(yǎng)自身的“智能素養(yǎng)”。在生成式人工智能時(shí)代，只有用戶具備與生成式人工智能相匹配的智能素養(yǎng)，才能在廣泛參與生成式人工智能治理的進(jìn)程中構(gòu)建抵御網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)、保護(hù)網(wǎng)絡(luò)意識(shí)形態(tài)安全的堅(jiān)實(shí)防線。首先，要增強(qiáng)用戶的數(shù)據(jù)感知。用戶應(yīng)充分了解智能算法和語言模型的工作原理，對(duì)生成式人工智能提供的內(nèi)容保持理性態(tài)度，充分鑒別有用信息，避免虛假信息的誤導(dǎo)，以批判性思維評(píng)估新興的智能工具。其次，用戶要在人機(jī)交互中增強(qiáng)自身的數(shù)據(jù)表達(dá)能力。用戶應(yīng)以主體意識(shí)看待生成式人工智能，驅(qū)動(dòng)自身對(duì)數(shù)據(jù)的收集、處理、應(yīng)用和轉(zhuǎn)換，在實(shí)際操作中逐步建立適應(yīng)時(shí)代發(fā)展的思維模式和話語體系。再次，用戶要正確使用生成式人工智能產(chǎn)品。用戶必須堅(jiān)守法律底線思維，對(duì)于不實(shí)的內(nèi)容要拒絕傳播，并在發(fā)現(xiàn)有害信息時(shí)立即保存相關(guān)證據(jù)，及時(shí)向平臺(tái)或監(jiān)管機(jī)構(gòu)報(bào)告，自覺抵制對(duì)不良信息的二次創(chuàng)作和擴(kuò)散，同時(shí)尊重他人的知識(shí)產(chǎn)權(quán)和個(gè)人信息權(quán)利，避免侵犯他人合法權(quán)益。

二是用戶必須始終堅(jiān)持主體意識(shí)。為了始終保持人機(jī)關(guān)系中的主體地位，在參考生成式人工智能提供的信息或建議時(shí)，用戶應(yīng)當(dāng)保留自己獨(dú)立思考的空間。從技術(shù)的本質(zhì)來看，人類是主導(dǎo)者，技術(shù)則是被操作的實(shí)體。網(wǎng)絡(luò)意識(shí)形態(tài)的風(fēng)險(xiǎn)因素往往是通過人這一主體產(chǎn)生影響的。盡管生成式人工智能是由開發(fā)者創(chuàng)建的，但它是在與用戶的實(shí)際交互過程中不斷進(jìn)化的，其意識(shí)形態(tài)的最終影響力必然是由廣大用戶群體所決定的。用戶在人機(jī)交互時(shí)，若能自覺傳播正向價(jià)值觀內(nèi)容，他們將成為規(guī)范技術(shù)的關(guān)鍵力量，并有助于在輸入端預(yù)防由生成式人工智能引發(fā)的網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)。利用生成式人工智能的循環(huán)反饋機(jī)制，促使用戶的價(jià)值表達(dá)與語言模型的價(jià)值輸出相輔相成，糾正生成式人工智能固有的先驗(yàn)價(jià)值取向，以實(shí)現(xiàn)對(duì)生成式人工智能發(fā)展的價(jià)值引導(dǎo)。

四、結(jié)語

“網(wǎng)絡(luò)空間成為國家意識(shí)形態(tài)交流交鋒交融的前沿陣地，成為威脅我國總體安全的‘最大變量’”^［19］。新一代生成式人工智能的興起，標(biāo)志著人類步入下一個(gè)智能時(shí)代。通過創(chuàng)造個(gè)性化的對(duì)話體驗(yàn)、生成智能化的信息內(nèi)容以及塑造新的人機(jī)交互關(guān)系，生成式人工智能不再僅僅被視為工具，而是展示出強(qiáng)大的意識(shí)形態(tài)影響力，隨之而來的網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)亦日益凸顯。生成式人工智能的迅猛發(fā)展使網(wǎng)絡(luò)意識(shí)形態(tài)安全在數(shù)據(jù)基礎(chǔ)、主客體關(guān)系、內(nèi)容傳播等方面都面臨著巨大的挑戰(zhàn)。為了應(yīng)對(duì)這一系列挑戰(zhàn)，我們需要深入研究生成式人工智能的應(yīng)用現(xiàn)狀和未來趨勢(shì)，精準(zhǔn)研判其潛在的意識(shí)形態(tài)風(fēng)險(xiǎn)，加強(qiáng)預(yù)見性防范和標(biāo)準(zhǔn)化指引，確保生成式人工智能發(fā)展的可控性、可用性和可靠性，促進(jìn)生成式人工智能這一“最大變量”向“最大能量”轉(zhuǎn)化。

［參考文獻(xiàn)］

［1］哈貝馬斯.作為“意識(shí)形態(tài)”的技術(shù)與科學(xué)［M］.李黎，郭官義，譯.上海：學(xué)林出版社，1999： 69.

［2］周維棟.生成式人工智能類案裁判的標(biāo)準(zhǔn)及價(jià)值邊界［J］.東方法學(xué)，2023（3）：47-60.

［3］張凌寒.深度合成治理的邏輯更新與體系迭代：ChatGPT等生成型人工智能治理的中國路徑［J］.法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2023（3）：38-51.

［4］劉越男，錢毅，王平，等.挑戰(zhàn)與展望：DeepSeek對(duì)檔案工作的影響及應(yīng)用前景［J］.浙江檔案，2025（2）：5-13.

［5］李國杰.DeepSeek引發(fā)的AI發(fā)展路徑思考［J］.科技導(dǎo)報(bào)，2025（3）：14-19.

［6］STOKEL-WALKER C ， VAN NOORDEN R. The Promise and Peril of Generative AI ［J］.Nature，2023，614（7947）：214-216.

［7］HEIDEGGER M. Basic Writing：From Being and Time（1927） to the Task of Thinking（1964） ［M］.New York：Harper amp; Rowp，1977：288.

［8］張華平，李林翰，李春錦.ChatGPT中文性能測(cè)評(píng)與風(fēng)險(xiǎn)應(yīng)對(duì)［J］.數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn)，2023（3）：16-25.

［9］張林.智能算法推薦的意識(shí)形態(tài)風(fēng)險(xiǎn)及其治理［J］.探索，2021（1）：176-188.

［10］WOLFF J.How Is Technology Changing the World，and How Should the World Change Technology？［J］.Global Perspectives，2021（1）：42-45.

［11］COTTON D R， COTTON P A， SHIPWAY J R.Chatting and Cheating：Ensuring Academic Integrity in the Era of ChatGPT［J］.Innovations in Education and Teaching International，2023：1-12.

［12］桑斯坦.信息烏托邦：眾人如何生產(chǎn)知識(shí)［M］.畢競(jìng)悅，譯.北京：法律出版社，2008：102.

［13］中共中央黨史和文獻(xiàn)研究院.十九大以來重要文獻(xiàn)選編：中［M］.北京： 中央文獻(xiàn)出版社，2021：654.

［14］習(xí)近平.加快推動(dòng)媒體融合發(fā)展 構(gòu)建全媒體傳播格局［J］.求是， 2019（6）：4-8.

［15］中共中央文獻(xiàn)研究室.習(xí)近平關(guān)于社會(huì)主義文化建設(shè)論述摘編［M］.北京：中央文獻(xiàn)出版社，2017：36.

［16］泰格馬克.生命3.0：人工智能時(shí)代人類的進(jìn)化與重生［M］.汪婕舒，譯.杭州：浙江教育出版社，2018：444.

［17］習(xí)近平.在慶祝全國人民代表大會(huì)成立六十周年大會(huì)上的講話［J］.求是，2019（18）：4-15.

［18］習(xí)近平在中共中央政治局第九次集體學(xué)習(xí)時(shí)強(qiáng)調(diào) 敏銳把握世界科技創(chuàng)新發(fā)展趨勢(shì) 切實(shí)把創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略實(shí)施好［N］.人民日?qǐng)?bào)，2013-10-02（1）.

［19］呂列霞，陳錫喜.國家治理現(xiàn)代化視域下新時(shí)代意識(shí)形態(tài)功能提升論析［J］.東南學(xué)術(shù)，2022（2）：23-30.

［責(zé)任編輯：靳芳菲］