生成式人工智能服務(wù)提供者意識形態(tài)風(fēng)險及其治理

［摘" 要］

生成式人工智能開啟了意識形態(tài)傳播的智能化進(jìn)程。生成式人工智能服務(wù)提供者作為信息生產(chǎn)和傳播的核心，具有對大眾感性認(rèn)知能力的擠壓、對公共領(lǐng)域中算法權(quán)力的延展以及對本土社會文化價值的滲透功能。生成式人工智能的進(jìn)一步運用和發(fā)展，會產(chǎn)生割裂本土共同價值、提供虛假信息、削弱自我邏輯思維以及突破法律監(jiān)管框架等風(fēng)險。應(yīng)當(dāng)通過對齊引領(lǐng)價值、確保內(nèi)容真實、建構(gòu)多元治理體系、完善法律監(jiān)管框架等路徑，不斷推動網(wǎng)絡(luò)意識形態(tài)治理范式的發(fā)展。

［關(guān)鍵詞］

生成式人工智能" 服務(wù)提供者" 意識形態(tài)風(fēng)險" 類型化

［中圖分類號］" D912.1" ［文獻(xiàn)標(biāo)識碼］" A" "［文章編號］" 1008—3642（2025）01—0086—08

收稿日期：2024-08-31

作者簡介：

胡新瑞，華東政法大學(xué)中國法治戰(zhàn)略研究院博士研究生。

一直以來，技術(shù)的廣泛運用在不斷顛覆傳統(tǒng)的技術(shù)使用模式，帶來了人們生活、學(xué)習(xí)和生產(chǎn)方式的變革。目前，技術(shù)已發(fā)展到人工智能、大數(shù)據(jù)的全新階段，時間和空間已不再成為人們活動的阻礙。生成式人工智能作為2022年與2023年被大眾廣泛熟知的人工智能模式，以生成連貫文本為顯著特點，已經(jīng)被運用到了工作、社交、教育等領(lǐng)域。與專用性人工智能不同的是，生成式人工智能有著類似人類的響應(yīng)，可以更好地被普羅大眾使用。

回顧生成式人工智能的學(xué)術(shù)研究，我們可以發(fā)現(xiàn)，以2023年“生成式人工智能”抑或“ChatGPT”為關(guān)鍵詞的學(xué)術(shù)論文在CSSCI期刊中發(fā)表了243篇，涉及多學(xué)科和多視角研究，主要圍繞其積極影響、消極風(fēng)險以及應(yīng)對策略三個視角展開。一方面，有學(xué)者指出“ChatGPT將釋放生產(chǎn)力”［1］，還有學(xué)者指出“在理解使用者需求、生成文本內(nèi)容”等方面存在優(yōu)勢［2］。另一方面，舒洪水認(rèn)為ChatGPT可能會導(dǎo)致虛假信息泛濫［3］，周洪宇則認(rèn)為若生成式人工智能進(jìn)入教育領(lǐng)域，可能會導(dǎo)致知識異化、數(shù)字倫理等風(fēng)險［4］。在上述研究中，楊章文更深入地關(guān)注到了ChatGPT的意識形態(tài)屬性以及其導(dǎo)致的風(fēng)險［5］。我們應(yīng)當(dāng)從生成式人工智能服務(wù)提供者（以下簡稱“服務(wù)提供者”）的切入點對其觀點進(jìn)行更細(xì)致的剖析，以對上述研究進(jìn)行完善和補(bǔ)充。事實上，目前已有法學(xué)學(xué)者關(guān)注到了服務(wù)提供者這一主體，指出了其重要性及其承擔(dān)的法律責(zé)任。比如，孫祁認(rèn)為“其是生成式人工智能產(chǎn)品的責(zé)任主體”［6］。上述內(nèi)容作為前沿文獻(xiàn)，或宏觀或細(xì)致地指出了服務(wù)提供者的不同性質(zhì)和義務(wù)。我們可以從這一主體作為切入點對ChatGPT的意識形態(tài)屬性進(jìn)行更加細(xì)致的探討。

本文將生成式人工智能服務(wù)提供者的意識形態(tài)風(fēng)險作為核心研究問題，將其拆分為意識形態(tài)功能、意識形態(tài)風(fēng)險以及治理路徑建構(gòu)三個子問題；通過類型化的理論方法進(jìn)行論證，提出服務(wù)提供者的意識形態(tài)風(fēng)險的治理范式，在理論和實踐方面具有重要意義。

一、生成式人工智能內(nèi)容提供者所具有的意識形態(tài)功能

根據(jù)我國頒布的《生成式人工智能服務(wù)管理暫行辦法》第22條，生成式人工智能服務(wù)提供者主要有以下三個特征：一是利用生成式人工智能技術(shù)，二是提供服務(wù)，包括提供可編程接口，三是具有一定的意識形態(tài)功能。

（一）對大眾感性認(rèn)知能力的擠壓功能

一般來說，服務(wù)提供者在提供服務(wù)的過程中往往需要建立一個動態(tài)的數(shù)據(jù)語料庫，這類語料庫在前期訓(xùn)練中可能先使用龐大的訓(xùn)練集。比如，Chat GPT的訓(xùn)練集主要來源于“Common Crawl、WebText2、Books、Wikipedia”，內(nèi)容大概涉及31億個網(wǎng)頁中的內(nèi)容。之后，再通過上下文對話來擴(kuò)充原有的訓(xùn)練集以形成一個語料庫。這種語料庫與概率分布式的輸出形式導(dǎo)致服務(wù)提供者在提供服務(wù)的過程對大眾感性認(rèn)知能力造成了擠壓。

這種擠壓有三個重要體現(xiàn)。第一，服務(wù)提供者所依賴的技術(shù)理性擦抹大眾的價值理性傳統(tǒng)。當(dāng)前服務(wù)提供者提供服務(wù)以邏輯和算法作為生成式人工智能輸出回答的技術(shù)支撐；也就是說其還是建立在提前預(yù)設(shè)好的程序框架中，將世界拆解成為數(shù)據(jù)結(jié)構(gòu)和算法程序，并基于此提供服務(wù)。這種建立在高度依賴技術(shù)的服務(wù)方式缺乏本身的價值指向。根據(jù)學(xué)者所言，人工智能無法自發(fā)地生成意識，且缺乏對情緒的感知能力，并且不具有獨立意志［7］。這種評價無疑是對人工智能缺乏價值理性的有力證明，指出了人工智能還是依賴算法和數(shù)據(jù)等預(yù)設(shè)好的訓(xùn)練集及運算框架，生成式人工智能也不例外。當(dāng)大眾頻繁使用生成式人工智能作為工作生活的工具時，往往下意識地將人工智能基于技術(shù)的回答作為價值判斷的依據(jù)，也就是使用技術(shù)理性替代了原本基于經(jīng)驗、情感的價值觀念［8］，從而使得技術(shù)的運行方式被廣泛接受。其潛在原因在于大眾個體的感性認(rèn)知能力在人工智能海量生成內(nèi)容前被嚴(yán)重擠壓［9］。這種海量的生成內(nèi)容極易使得大眾在使用過程中產(chǎn)生依賴性，原本使用者在作出決策和判斷時所依賴的傳統(tǒng)價值理性往往被生成式人工智能服務(wù)者原本依賴的理性漸漸替代。

第二，服務(wù)提供者使用擬人化服務(wù)將原本復(fù)雜的信息簡單化。服務(wù)提供者提供的擬人化服務(wù)建立在使用機(jī)器語言對基于互聯(lián)網(wǎng)以及大眾提問與回答的語料庫進(jìn)行解構(gòu)和清洗的基礎(chǔ)上，形成概率上出現(xiàn)頻率較高的生成內(nèi)容。正如學(xué)者所言，生成式人工智能中的大語言模型僅僅是統(tǒng)計學(xué)層面上計算的概率，但并不理解生成的內(nèi)容［10］。從上述學(xué)者的觀點出發(fā)，筆者認(rèn)為盡管生成式人工智能的服務(wù)不僅僅局限在大語言模型，而是覆蓋了圖像、視頻等多元化的輸出邏輯，但其原理并無本質(zhì)區(qū)別，都是根據(jù)一些訓(xùn)練數(shù)據(jù)，為輸出內(nèi)容匹配一個概率。因此，盡管作為訓(xùn)練集的語料庫可能包括了復(fù)雜的社會關(guān)系及人類情感，但是其在將文本轉(zhuǎn)換為二進(jìn)制的機(jī)器語言后，這種復(fù)雜的關(guān)系和情感必然被相對地簡單化，其中蘊含的邏輯和背景被概率匹配的內(nèi)容取代，使用者接收到的信息是經(jīng)過簡化的信息，其對復(fù)雜關(guān)系和情感的感知也受到極大影響。

第三，服務(wù)提供者所輸出的碎片化內(nèi)容破壞使用者原有的系統(tǒng)性感知。一般來說，生成式人工智能所提供的內(nèi)容往往不是完整的回答，而是通過使用者的提問和基本的語言結(jié)構(gòu)邏輯生成的碎片化內(nèi)容。這種內(nèi)容只展示使用者所要求的關(guān)鍵信息，可能會隱藏掉原有內(nèi)容中的核心信息或者對使用者要求展示的信息有重要因果關(guān)系的內(nèi)容。大眾往往通過系統(tǒng)性的感知來對事物作出判斷。若在接受生成式人工智能的過程中只接觸到碎片化的內(nèi)容，類似“瞎子摸象”的故事，大眾原有的系統(tǒng)性感知會被破壞，從而陷入“信息繭房”的困境。

（二）公共領(lǐng)域中算法權(quán)力的延展功能

生成式人工智能在公共領(lǐng)域的應(yīng)用，是其服務(wù)提供者通過數(shù)據(jù)與算法將其嵌入到社會資本的生產(chǎn)過程，從而使提供者所擁有的算法權(quán)力廣泛滲透到公共領(lǐng)域的各個方面。這種算法權(quán)力往往建立在與資本的耦合邏輯上，表現(xiàn)為算法權(quán)力壟斷。根據(jù)學(xué)者研究，以資本作為根基的人工智能服務(wù)提供者往往借助與使用者信息和技術(shù)的不對稱，同時扮演公共領(lǐng)域生成式人工智能運用的立法者與執(zhí)法者［11］。隨著算法權(quán)力在公共領(lǐng)域的不斷擴(kuò)展，服務(wù)提供商的影響力變得更加廣泛隱蔽，人工智能依托算法形成了技術(shù)和資本的合謀，看似具有“偽中立性”，即將技術(shù)合理作為實現(xiàn)資本合理的前提，卻將其服務(wù)提供者的價值立場作為一種意識形態(tài)模式［12］。這種蘊含著資本與技術(shù)的算法權(quán)力壟斷并非單一，而是由多家服務(wù)提供商共同實現(xiàn)的，這使得它們對意識形態(tài)的影響更加分散。

另外，另一個算法權(quán)力的延伸表現(xiàn)即算法歧視的持續(xù)化。根據(jù)《2023全球生成式AI領(lǐng)軍者TOP60榜單》中對服務(wù)提供者的排名，第一名的Open AI以及第二名的Google公司毫無疑問都是西方國家的大型公司，它們在提供服務(wù)的同時，也容易受到資本的投資影響。這些公司在服務(wù)過程中，不僅通過數(shù)據(jù)搜集和算法應(yīng)用實現(xiàn)技術(shù)輸出，也輸出了資本主義的意識形態(tài)。根據(jù)學(xué)者的觀點，人工智能時代的算法研發(fā)者、開發(fā)公司所具有的西方意識形態(tài)帶來相當(dāng)?shù)乃惴ㄆ缫暫推姡?3］。這種意識偏見的輸出，一方面受到西方資本主義國家的價值觀和制度框架的影響，另一方面可能還包含了服務(wù)提供商初始訓(xùn)練集中的意識形態(tài)偏見。當(dāng)公眾使用這些生成式服務(wù)時，不可避免地會受到服務(wù)提供商的意識形態(tài)影響，這種影響不僅體現(xiàn)在服務(wù)的輸出上，也體現(xiàn)在服務(wù)提供商本身的意識形態(tài)傾向方面。

（三）對本土社會文化價值的滲透功能

意識形態(tài)的功能主要基于政治觀念和敘事話語的傳播并對特定意識形態(tài)內(nèi)容的編排表達(dá)方式方面。在生成式人工智能領(lǐng)域，服務(wù)提供者所傳達(dá)的社會價值有時會與本土社會文化價值發(fā)生沖突，這種沖突和滲透會對本土大眾原有的思想觀念造成影響。一方面，國家間在技術(shù)領(lǐng)域的競爭也產(chǎn)生了意識形態(tài)的競爭。技術(shù)的引領(lǐng)性越強(qiáng)，其背后的話語體系和政治觀念越可能被廣泛接受。因此，當(dāng)生成式人工智能服務(wù)擴(kuò)展到國際領(lǐng)域時，其影響力可能會滲透到使用國的社會文化價值理念中，形成大國間意識形態(tài)博弈的新戰(zhàn)場。另一方面，由于服務(wù)提供者多受西方社會文化價值的影響，其服務(wù)過程中主要使用英文作為輸出語言，這與我國的意識形態(tài)和傳統(tǒng)社會文化價值存在割裂。這種服務(wù)提供的算法偏見必然帶有西方意識形態(tài)色彩，在中西方價值觀存在差異的情況下，可能導(dǎo)致服務(wù)內(nèi)容出現(xiàn)誤導(dǎo)或者論證失誤的情況。

二、類型化視角下生成式人工智能內(nèi)容提供者的意識形態(tài)風(fēng)險

生成式人工智能將網(wǎng)絡(luò)服務(wù)提供者、信息生產(chǎn)者的二元藩籬和技術(shù)提供者的功能統(tǒng)一到人工智能內(nèi)容提供者的角色當(dāng)中［14］。生成式人工智能的服務(wù)提供者所具有的意識形態(tài)功能很有可能會給當(dāng)前社會帶來一系列意識形態(tài)風(fēng)險。本節(jié)從類型化的視角切入，即以一定標(biāo)準(zhǔn)將論述對象分成不同的集合體， 并通過深描的方式將特征間的聯(lián)系論證出來［15］，表現(xiàn)在服務(wù)提供者所帶來的意識形態(tài)風(fēng)險上，即將具體風(fēng)險分為不同的類型，并詳細(xì)地對此風(fēng)險展開論證，包括割裂本土共同價值的風(fēng)險、提供虛假信息的風(fēng)險、削弱自我邏輯思維的風(fēng)險以及突破法律監(jiān)管框架的風(fēng)險。

（一）割裂本土共同價值的風(fēng)險

共同價值與現(xiàn)實生活的統(tǒng)一是共同價值存在的基礎(chǔ)［16］。一般來說，本土共同價值往往基于本土現(xiàn)實存在。但在人工智能時代，生成式人工智能的服務(wù)提供者帶來了割裂本土共同價值的風(fēng)險。盡管生成式人工智能具有信息、智能服務(wù)、生產(chǎn)工具等功能，但是其生成式的內(nèi)容可能與現(xiàn)實生活存在一定的偏差和失真，與之相偏或相違，從而使得公眾個體的意識形態(tài)偏離基于本土實踐所產(chǎn)生的本土共同價值。

第一，信息繭房所帶來的隱憂是割裂本土共同價值的風(fēng)險之一。信息繭房首先出現(xiàn)在傳播學(xué)領(lǐng)域，即指大眾往往偏向于選擇的事物和可以得到愉悅的事物［17］。在意識形態(tài)領(lǐng)域，信息繭房有著封閉循環(huán)的特點。在生成式人工智能的影響下，使用者不斷對算法利維坦進(jìn)行回應(yīng)和臣服，再次推動了意識形態(tài)的影響。在此過程中使用者難以獲得主流意識形態(tài)中本土共同價值引領(lǐng)，出現(xiàn)了意識形態(tài)失準(zhǔn)的風(fēng)險，即傳統(tǒng)國家共同價值所主導(dǎo)的主流話語不斷受到生成式人工智能服務(wù)的影響；具體來說，生成式人工智能的服務(wù)在鏈接西方媒體報道的基礎(chǔ)上，使用者更愿意接觸其選擇的信息或者可以使其愉悅的信息，這些信息往往附帶西方宣揚的普世價值，導(dǎo)致使用者對具有邏輯且基于現(xiàn)實的本土共同價值不感興趣，從而消解了我國本土共同價值的整合能力和權(quán)威性。

第二，與資本耦合的算法偏見和歧視影響了使用者的共同價值，即將資本與社會固有的偏見印刻在使用者的意識形態(tài)之中。具體來說，資本在追求效益最大化的過程中故意對明顯的算法歧視進(jìn)行篩選和對算法程序過濾，生成式人工智能的服務(wù)提供者可以只讓使用者感知經(jīng)過篩選的內(nèi)容。在西方意識形態(tài)場域下，算法偏見和歧視成為資本操縱意識形態(tài)的產(chǎn)物。此外，服務(wù)所依賴的技術(shù)帶有設(shè)計者的印記，包括了存在于人類社會的固有偏見，舉例而言，此前某公司錯將黑人標(biāo)注為大猩猩就是具體表現(xiàn)［18］，還有性別歧視的相關(guān)例子可以佐證。以上算法偏見和歧視有著難以預(yù)測的特點，將使用者的共同價值不斷模糊和替代，帶來了意識形態(tài)風(fēng)險。

第三，生成式人工智能服務(wù)的全球化特點使得本土共同價值陷入混亂。生成式人工智能服務(wù)具有全球化特點，強(qiáng)調(diào)跨境的信息流動，帶來了“數(shù)字帝國主義”的影響。全球化隱含了數(shù)字帝國主義的價值邏輯，旨在將普世價值進(jìn)行輸出，從而影響了其他國家尤其是社會主義國家的主流意識形態(tài)，破壞了多樣的文化價值。尤其在2024年Sora的出現(xiàn)，僅借助提示詞就能生成流暢的視頻［19］，非本土共同價值很容易受到音頻、視頻等生成式人工智能模型的服務(wù)內(nèi)容影響，尤其是以全球化為表征的西方價值，對我國的本土共同價值形成沖擊，從而帶來共同價值混亂和偏向的風(fēng)險。

（二）提供虛假信息的風(fēng)險

生成式人工智能服務(wù)提供者所提供的服務(wù)往往具有相當(dāng)?shù)奶摷傩畔?，不僅影響了主流意識形態(tài)安全，甚至影響了國家文化安全。

第一，從技術(shù)層面來說，生成式人工智能服務(wù)導(dǎo)致虛假信息在數(shù)量和速度上都難以被人工審核。生成式人工智能的服務(wù)提供者在提供信息等服務(wù)時往往缺少最后的核驗環(huán)節(jié)；即便有技術(shù)檢測環(huán)節(jié)，技術(shù)環(huán)節(jié)也不能自動識別虛假信息，還增加了人工審核的流程。這類信息有著高度可信賴性，其生成的文本在說服力上不輸于人類所撰寫的文本，甚至更加具有說服力。尤其是2024年Sora的出現(xiàn)帶來了專業(yè)生成式人工智能服務(wù)的爆發(fā)，其可以通過圖像和視頻進(jìn)一步生成更加逼真的信息，這類信息在表征上與真實信息似乎沒有區(qū)別，更容易影響使用者。這種具備高度擬人化風(fēng)格的虛假信息都裹挾著西方意識形態(tài)，其傳播起來無疑是更加隱蔽且效率更高的。例如，2023年生成式人工智能服務(wù)在以色列—哈馬斯之間的虛假信息戰(zhàn)中起到了至關(guān)重要的作用。

第二，從方式上來說，生成式人工智能服務(wù)使得使用者在虛假信息的生成和傳播過程中扮演重要角色，使得虛假信息在意識形態(tài)塑造中起到更加深刻、更加復(fù)雜的作用。使用者的誘導(dǎo)會是生成虛假信息的成因［20］。比如，語言模型生成的內(nèi)容與使用者輸入的提示詞相關(guān)，在使用者輸入不良提示詞時，若是模型未經(jīng)對齊微調(diào)，就會生成與提示詞有關(guān)的不良信息。盡管內(nèi)容并非正確的，可是其與使用者的聯(lián)系相當(dāng)密切，在傳播過程中可以增進(jìn)使用者的認(rèn)知體驗。這種以使用者體驗為基礎(chǔ)的虛假信息傳播方式很可能會降低信息審核的標(biāo)準(zhǔn)，使用者可能會忽視生成內(nèi)容的意識形態(tài)問題，對虛假進(jìn)行二次傳播。此外，服務(wù)提供者不僅可以自動生成虛假信息，造成虛假信息的夸大傳播，還可以使用模型和算法詳細(xì)生成細(xì)化可行的方案［21］，可以通過凸顯社會中的分歧，對主流意識形態(tài)造成干擾，還可以對毫不知情的使用者實現(xiàn)微定向，加深其與虛假信息的聯(lián)系，從而達(dá)到塑造意識形態(tài)的目的。

第三，從內(nèi)容上來說，虛假信息與真實信息的并存對意識形態(tài)造成了更劇烈的沖擊。生成式人工智能的語料庫與當(dāng)前互聯(lián)網(wǎng)相關(guān)，但由于互聯(lián)網(wǎng)存在相當(dāng)?shù)奶摷傩畔?，盡管生成式人工智能服務(wù)覆蓋了政治、社會民生和文化等主題，但其內(nèi)容中虛假信息與真實信息相互摻雜，服務(wù)提供者還可以采用定向推送的形式，將這種半真半假的信息推送至信息前沿，或者運用利用熱搜、榜單等排序方式增加上述信息的曝光量。上述信息有著追求流量、低俗惡俗的特點，而那些真實的、反映現(xiàn)實的信息卻因為具有嚴(yán)肅性的特點而被驅(qū)逐出信息頭條，導(dǎo)致虛假信息大行其道，善良風(fēng)俗和主流意識形態(tài)所面臨的噪音更多，弱化了主流意識形態(tài)的凝聚力，不加以治理將會產(chǎn)生隱患。

（三）削弱自我邏輯思維的風(fēng)險

對生成式人工智能服務(wù)的依賴將削弱使用者的邏輯思維，影響個體對意識形態(tài)的辨識能力，具體表現(xiàn)為數(shù)據(jù)逐漸替代知識。技術(shù)性的思維方式替代邏輯性思維方式，可能導(dǎo)致使用者的思維能力下降，逐漸單一化和片面化。第一，削弱自主獨立思考與決策能力。生成式人工智能服務(wù)進(jìn)入生產(chǎn)生活中，將逐漸代替人類思考，導(dǎo)致個體的獨立思考與決策能力退化，甚至帶來人類對其服務(wù)的過度依賴，使用者可能不再習(xí)慣于獨立解決問題，使得本來的思維訓(xùn)練和知識建構(gòu)停滯，本身的信息篩選能力逐步下降。第二，降低批判性思維與信息篩選能力。具體來說，個體在面對復(fù)雜或未知情境時，需要經(jīng)歷信息搜集—信息處理—作出決策的過程，但長期依賴生成式人工智能的服務(wù)，擬人化的答案僅需要通過輸入提示詞即可實現(xiàn)，使用者在前兩個過程中不需要經(jīng)歷現(xiàn)實生活搜集信息，也不需要根據(jù)自身思維篩選和處理信息，喪失了對客觀現(xiàn)實的批判與體驗，可能導(dǎo)致使用者不再質(zhì)疑所接收信息的準(zhǔn)確性，弱化批判性思維能力。第三，限制創(chuàng)新能力。一般來說，使用者的創(chuàng)新能力往往來源于自我建構(gòu)過程中的內(nèi)在驅(qū)動，需要獨立思考和跳出常規(guī)的能力，但過度依賴智能技術(shù)可能限制個體的創(chuàng)造性思維。使用生成式人工智能服務(wù)獲得現(xiàn)成的答案，可能會導(dǎo)致使用者探索問題的主動性和好奇心降低。

（四）突破法律監(jiān)管框架的風(fēng)險

生產(chǎn)式人工智能的法律風(fēng)險涵蓋了輸入—處理—輸出的全過程，還包括了不當(dāng)利用風(fēng)險。相對于現(xiàn)有人工智能技術(shù)的發(fā)展，當(dāng)前法律并未做到及時回應(yīng)，法律供給能力相對滯后。2023年《生成式人工智能服務(wù)管理辦法（征求意見稿）》的，對服務(wù)提供者進(jìn)行了較為詳細(xì)的規(guī)范［22］，但仍有力有未逮之處。生成式人工智能服務(wù)提供者在提供服務(wù)時往往在輸入—處理—輸出的過程中突破現(xiàn)有法律監(jiān)管框架，逐漸形成新的異化力量，在個人數(shù)據(jù)、內(nèi)容標(biāo)識等方面造成新的法律風(fēng)險。

首先是個人數(shù)據(jù)和隱私的泄露問題。當(dāng)前生成式人工智能服務(wù)過程中個人數(shù)據(jù)和隱私的泄露問題主要表現(xiàn)在語料庫數(shù)據(jù)和服務(wù)過程兩個方面。一方面，其預(yù)訓(xùn)練的語料庫數(shù)據(jù)大部分未經(jīng)過作者許可或授權(quán)使用。一般來說，生成式人工智能的服務(wù)基礎(chǔ)語料庫由預(yù)訓(xùn)練和微調(diào)兩種語料庫組成，服務(wù)提供者處理數(shù)據(jù)的正當(dāng)性來源于合同約定，但如果服務(wù)提供者利用技術(shù)獲得了個人數(shù)據(jù)并將其納入預(yù)訓(xùn)練語料庫中，上述方式已然構(gòu)成了非法獲取。當(dāng)其數(shù)據(jù)來源出現(xiàn)個人數(shù)據(jù)和隱私的泄露時，服務(wù)提供者應(yīng)對此負(fù)責(zé)。另一方面，服務(wù)提供者可能并未經(jīng)過使用者允許就查詢并保存使用者的個人數(shù)據(jù)。服務(wù)提供者相對使用者來說具有專業(yè)技術(shù)優(yōu)勢，使用者在使用過程中可能需要將個人數(shù)據(jù)使用到輸入其數(shù)據(jù)庫中，服務(wù)提供者可以直接控制使用者的個人數(shù)據(jù)。這些個人數(shù)據(jù)可能會被進(jìn)一步使用到人工智能服務(wù)的訓(xùn)練當(dāng)中。同時，我國立法以及歐盟相關(guān)法案都對個人數(shù)據(jù)在訓(xùn)練中的使用作出規(guī)定，說明當(dāng)前相關(guān)法律法規(guī)尚不能對此問題進(jìn)行有效規(guī)制。

此外，當(dāng)前制度對內(nèi)容標(biāo)識問題的規(guī)制也不夠全面，目前人工智能生成內(nèi)容依舊存在虛假信息與虛構(gòu)信息，且人工篩查很難對內(nèi)容進(jìn)行標(biāo)識。根據(jù)學(xué)者觀點，目前人工智能服務(wù)內(nèi)容標(biāo)識技術(shù)可分為兩類：一是根據(jù)預(yù)定義類別對內(nèi)容進(jìn)行分類，二是利用對數(shù)概率和隨機(jī)擾動的對比進(jìn)行標(biāo)識，但是這兩種檢測技術(shù)都有力有未逮之處。當(dāng)前各國機(jī)器內(nèi)容自動標(biāo)識的監(jiān)管制度還不成熟，不但不能降低虛假信息的擴(kuò)散風(fēng)險，還可能帶來造謠、詐騙等行為［23］。

三、生成式人工智能服務(wù)提供者意識形態(tài)的治理路徑

面對上述一系列割裂本土共同價值、提供虛假信息、削弱邏輯思維以及突破法律監(jiān)管框架的風(fēng)險，應(yīng)當(dāng)通過對齊引領(lǐng)價值、確保內(nèi)容真實、建構(gòu)多元治理體系、完善法治監(jiān)管框架等不同路徑，進(jìn)一步對其意識形態(tài)風(fēng)險進(jìn)行治理。

（一）對齊服務(wù)提供者的共同引領(lǐng)價值

隨著人工智能的發(fā)展，因應(yīng)其意識形態(tài)風(fēng)險的一個重要方式就是給人工智能系統(tǒng)嵌入與人類一致的價值觀。價值對齊作為人工智能治理的重要方式，已經(jīng)在目前生成式人工智能的實踐中被廣泛應(yīng)用；具體來說，目前生成式人工智能已經(jīng)和西方價值觀實現(xiàn)了價值對齊。生成式人工智能服務(wù)提供者在提供服務(wù)的過程中天然地受到了西方意識形態(tài)的社會文化價值的影響，從而帶來了割裂本土共同價值的風(fēng)險。在這種情況之下，統(tǒng)一服務(wù)提供者的引領(lǐng)價值，使得本土文化價值中的統(tǒng)一價值可以引領(lǐng)生成式人工智能服務(wù)及其提供者。

馬克思主義理論在意識形態(tài)領(lǐng)域的指導(dǎo)地位是不容置疑的，在面對當(dāng)前服務(wù)提供者的意識形態(tài)對本土共同價值的割裂時，需要運用理論武器，凸顯主流意識形態(tài)的真理性和科學(xué)性，需要運用馬克思主義的世界觀和方法論來引導(dǎo)生成式人工智能提供者。首先，要堅持馬克思主義觀點。我們應(yīng)當(dāng)堅持馬克思主義理論在意識形態(tài)領(lǐng)域的指導(dǎo)地位，以中國特色的馬克思主義理論回應(yīng)信息繭房和算法偏見等問題對意識形態(tài)的割裂，用馬克思主義理論為指導(dǎo)去解決信息傳播不對等、社會黏性喪失等具體問題。其次，強(qiáng)化社會主義核心價值觀的導(dǎo)向作用。需要在生成式人工智能的算法中嵌入核心價值觀，同時使得服務(wù)提供者所提供的服務(wù)接受核心價值觀的引導(dǎo)。我國《生成式人工智能服務(wù)管理暫行辦法》在第4條規(guī)定，提供生成式人工智能服務(wù)要堅持社會主義核心價值觀，若能確保生成式人工智能服務(wù)遵循核心價值的導(dǎo)向，算法的運行不損害核心價值觀生態(tài)。我們可以將核心價值觀作為生成式人工智能服務(wù)提供的基礎(chǔ)，治理服務(wù)提供過程中的意識形態(tài)風(fēng)險，最大限度地確保服務(wù)提供者在社會主義核心價值觀指引下提供服務(wù)。服務(wù)提供者應(yīng)當(dāng)將維護(hù)社會主義核心價值觀作為服務(wù)提供和內(nèi)容生成的底線，以主流價值觀駕馭算法，實現(xiàn)算法向善。最后，加大對生成式人工智能服務(wù)提供者的支持力度，實現(xiàn)核心技術(shù)發(fā)展?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》在總則部分強(qiáng)調(diào)了“有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展”的內(nèi)容。風(fēng)險治理不僅鼓勵利益相關(guān)者的參與，還在于在服務(wù)提供過程中保護(hù)利益相關(guān)者的權(quán)益。因此，以政府為主導(dǎo)的利益相關(guān)者應(yīng)當(dāng)共同合作，加強(qiáng)對生成式人工智能服務(wù)提供者的支持力度；在此基礎(chǔ)上促進(jìn)核心技術(shù)發(fā)展，通過組織專家成立專項小組，加強(qiáng)信息加密、匿名處理技術(shù)的發(fā)展，最終實現(xiàn)政府引導(dǎo)下生成式人工智能服務(wù)的優(yōu)化升級。我國生成式人工智能服務(wù)的提供者也應(yīng)當(dāng)通過提升技術(shù)創(chuàng)新能力，破解“算法黑箱”，從而實現(xiàn)算法優(yōu)化的技術(shù)升級，規(guī)避意識形態(tài)風(fēng)險。

（二）確保服務(wù)提供者提供的內(nèi)容真實

目前我國已經(jīng)制定了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》，規(guī)定了服務(wù)提供者提供的內(nèi)容應(yīng)真實。一方面是防止生成違法和不良信息的義務(wù)，另一方面是對生成內(nèi)容進(jìn)行標(biāo)識的義務(wù)。根據(jù)已有規(guī)范，當(dāng)生成式人工智能服務(wù)提供者提供虛假信息時，應(yīng)當(dāng)從加強(qiáng)語料管理、實現(xiàn)內(nèi)容控制、建立不實和不良信息的投訴機(jī)制三個角度對其生成內(nèi)容進(jìn)行更加嚴(yán)格核查，確保服務(wù)提供者提供的內(nèi)容真實。

第一，智能服務(wù)提供者應(yīng)當(dāng)加強(qiáng)語料管理來保障生成內(nèi)容的真實性。目前僅有服務(wù)提供者有權(quán)決定語料庫的數(shù)據(jù)，服務(wù)提供者應(yīng)積極審查數(shù)據(jù)來源的合法性與真實性。當(dāng)生成式人工智能的數(shù)據(jù)來源出現(xiàn)不真實的情況時，作為控制數(shù)據(jù)的主體應(yīng)當(dāng)對此負(fù)責(zé)［24］。生成式人工智能服務(wù)生成的內(nèi)容是對數(shù)據(jù)語料庫的概率式輸出，因此其常常會“一本正經(jīng)的胡說八道”，編造生成看似正確的內(nèi)容。為此，第一，要保障作為基礎(chǔ)的數(shù)據(jù)語料庫的真實性。生成式人工智能服務(wù)提供者應(yīng)當(dāng)確保語料來源的合法性和可追溯性，并對自采語料進(jìn)行合規(guī)性審核。第二，應(yīng)當(dāng)實現(xiàn)對生成內(nèi)容的控制。服務(wù)提供者應(yīng)當(dāng)采用關(guān)鍵詞檢測和分類模型等手段，對用戶輸入進(jìn)行實時監(jiān)測，拒絕回答明顯偏激或誘導(dǎo)生成違法不良信息的問題。設(shè)置監(jiān)看人員，并及時根據(jù)監(jiān)看情況提高生成內(nèi)容的質(zhì)量和安全性，從而逐步破除意識形態(tài)風(fēng)險，即對人工智能生成內(nèi)容進(jìn)行標(biāo)識，并區(qū)分場景規(guī)定不同的標(biāo)識要求［25］。第三，不實和不良信息的投訴機(jī)制。建立多種投訴舉報途徑，制定明確的投訴舉報處理規(guī)則。并非所有人都能感知人工智能的意識形態(tài)風(fēng)險，因此需要提升使用者的認(rèn)知能力，確保使用者能評估和判斷潛在的風(fēng)險。服務(wù)提供者可以引導(dǎo)使用者選擇服務(wù)的特點并提醒使用者輸入提示語，提升使用者對生成內(nèi)容的甄別能力，鼓勵使用者向服務(wù)提供者反饋有關(guān)虛假信息。若服務(wù)提供者不作為，可向有關(guān)主管部門投訴和舉報［26］。

（三）以服務(wù)提供者為核心建構(gòu)風(fēng)險防范的多元治理體系

基于服務(wù)提供者在當(dāng)前信息生產(chǎn)與傳播過程中所能發(fā)揮的重要作用，風(fēng)險治理體系需要多元主體協(xié)作完成，應(yīng)當(dāng)以多元主體的平等性作為基本原則，最終形成以政府為主導(dǎo)、服務(wù)提供者為核心、其他利益相關(guān)者協(xié)同參與的多元意識形態(tài)風(fēng)險防控體系。在具體方式上，按照聯(lián)合國教科文組織的相關(guān)文件規(guī)定，一方面要提倡建立跨部門治理的組織機(jī)構(gòu)，另一方面要加強(qiáng)國家的作用以及其他部門的參與，加強(qiáng)政府與社會組織之間的合作。根據(jù)國際經(jīng)驗以及我國意識形態(tài)的具體風(fēng)險，具體應(yīng)從治理體系的定位、治理體系的責(zé)任內(nèi)容以及治理體系的協(xié)同合作機(jī)制三方面出發(fā)規(guī)避服務(wù)提供者所帶來的意識形態(tài)風(fēng)險。

第一，治理體系的定位。治理需要平衡不同主體的利益，需要確定不同主體在治理體系中的定位。在治理體系中，政府負(fù)責(zé)制定統(tǒng)一的政策以實施服務(wù)提供者的監(jiān)管與促進(jìn)規(guī)劃，推進(jìn)生成式人工智能基礎(chǔ)設(shè)施建設(shè)。服務(wù)提供者作為核心，必須承擔(dān)主體責(zé)任，必須著力落實意識形態(tài)風(fēng)險防范作用。使用者在接受生成式人工智能服務(wù)的過程中承擔(dān)著參與和監(jiān)督的責(zé)任，必須充分發(fā)揮其積極作用。明確的治理體系定位是生成式人工智能的意識形態(tài)風(fēng)險防范的客觀要求。第二，治理體系的責(zé)任內(nèi)容。通過明確的責(zé)任內(nèi)容規(guī)范確定政府、服務(wù)提供者和使用者具體的權(quán)責(zé)，從縱向、橫向上優(yōu)化多元治理體系，增強(qiáng)人工智能監(jiān)管機(jī)構(gòu)對服務(wù)提供者的監(jiān)管能力，提高服務(wù)提供者的合規(guī)能力，推動行業(yè)自律，最終建立多元協(xié)同的責(zé)任內(nèi)容矩陣。第三，治理體系的協(xié)同合作機(jī)制。以主體協(xié)作、信息共享為基礎(chǔ)建立高效協(xié)調(diào)的意識形態(tài)風(fēng)險防范合作治理機(jī)制，建立生成式人工智能決策咨詢機(jī)構(gòu)，同時遵循算法的技術(shù)規(guī)律，將服務(wù)提供者提供服務(wù)的功能作為合作治理的基本單元，提高意識形態(tài)風(fēng)險防范的整體性成效。

（四）完善法治監(jiān)管框架

當(dāng)前我國已經(jīng)出臺了《中華人民共和國個人信息保護(hù)法》《中華人民共和國網(wǎng)絡(luò)數(shù)據(jù)安全法》和《生成式工智能服務(wù)管理暫行辦法》等面向服務(wù)提供者的法律規(guī)范，此外《人工智能法》也在學(xué)者討論之中［27］。國際上還有《人工智能倫理建議書》等規(guī)范。盡管當(dāng)前已經(jīng)有一些針對服務(wù)提供者的法律規(guī)范，可是正如前文所述，當(dāng)前人工智能的發(fā)展已然突破了法治監(jiān)管的框架，需要從加快統(tǒng)一法律法規(guī)的制定、協(xié)調(diào)好法律和政策的關(guān)系、實現(xiàn)法律和技術(shù)治理的統(tǒng)一等方面完善當(dāng)前的法治監(jiān)管框架。

首先，加快統(tǒng)一法律法規(guī)的制定。面對服務(wù)提供者所帶來的意識形態(tài)風(fēng)險，可在《人工智能法》中明確人工智能管理制度和服務(wù)提供者所應(yīng)在承擔(dān)的合規(guī)義務(wù)，要將法律規(guī)制的重點放在服務(wù)提供者上，通過專章規(guī)定服務(wù)提供者的權(quán)利與義務(wù)，并規(guī)定其所應(yīng)承擔(dān)的法律責(zé)任。其次，實現(xiàn)法律與政策的協(xié)調(diào)。法律和政策要實現(xiàn)對接，先通過政策進(jìn)行規(guī)范，再通過“政策篩選”的方式，實現(xiàn)政策的法律化。最后，實現(xiàn)法律和技術(shù)治理的統(tǒng)一。當(dāng)前對內(nèi)容標(biāo)識、算法和數(shù)據(jù)的監(jiān)管已然有了技術(shù)的手段。我們可以通過《人工智能法》對服務(wù)提供者進(jìn)行規(guī)范，最終實現(xiàn)技術(shù)治理的法治化。技術(shù)治理不能突破法律監(jiān)管框架，兩者協(xié)同最終能夠?qū)崿F(xiàn)完善的意識形態(tài)風(fēng)險防范。

結(jié)語

總之，生成式人工智能開啟了意識形態(tài)傳播的智能化進(jìn)程。生成式人工智能服務(wù)提供者是當(dāng)前生成式人工智能服務(wù)過程中信息生產(chǎn)和傳播的核心。生成式人工智能服務(wù)提供者服務(wù)提供的過程，會出現(xiàn)對大眾感性認(rèn)知能力的擠壓、對公共領(lǐng)域中算法權(quán)力的延展以及對本土社會文化價值的滲透功能等問題；會帶來割裂本土共同價值、提供虛假信息、削弱自我邏輯思維以及突破法律監(jiān)管框架的意識形態(tài)風(fēng)險。因此，我們應(yīng)對齊引領(lǐng)價值、確保內(nèi)容真實、建構(gòu)多元治理體系、完善法治監(jiān)管框架，不斷推動網(wǎng)絡(luò)意識形態(tài)治理范式的發(fā)展。生成式人工智能服務(wù)提供者的意識形態(tài)風(fēng)險類型化及其治理是一個開放性話題。理論上的探索能夠?qū)⒕W(wǎng)絡(luò)意識形態(tài)理論重新“問題化”，引起學(xué)界對這一問題的關(guān)注和深入的研究。

參考文獻(xiàn)：

［1］ 張夏恒.ChatGPT的邏輯解構(gòu)、影響研判及政策建議［J］.新疆師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2023，44（5）：113-123.

［2］ 楊宗凱，王俊，吳砥，等.ChatGPT/生成式人工智能對教育的影響探析及應(yīng)對策略［J］.華東師范大學(xué)學(xué)報（教育科學(xué)版），2023，41（7）：26-35.

［3］ 舒洪水，彭鵬.ChatGPT場景下虛假信息的法律風(fēng)險與對策［J］.新疆師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2023，44（5）：124-129.

［4］ 周洪宇，李宇陽.ChatGPT對教育生態(tài)的沖擊及應(yīng)對策略［J］.新疆師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2023，44（4）：102-112.

［5］ 楊章文.ChatGPT類生成式人工智能的意識形態(tài)屬性及其風(fēng)險規(guī)制［J］.內(nèi)蒙古社會科學(xué)，2024，45（1）：57-64.

［6］ 孫祁.規(guī)范生成式人工智能產(chǎn)品提供者的法律問題研究［J］.政治與法律，2023（7）：162-176.

［7］ 劉智慧.民法典視域下人工智能法律規(guī)制論綱［J］.學(xué)術(shù)交流，2023（9）：80-96.

［8］ 胡平仁.法律主體新論［J］.甘肅社會科學(xué)，2023（6）：111-127.

［9］ 張凌寒，賈斯瑤.人工智能生成內(nèi)容標(biāo)識制度的邏輯更新與制度優(yōu)化［J］.求是學(xué)刊，2024，51（1）：112-122.

［10］ 吳冠軍.大語言模型的技術(shù)政治學(xué)評析［J］.中國社會科學(xué)評價，2023（4）：27-37，155-156.

［11］ 苗逢春.教育人工智能倫理的解析與治理：《人工智能倫理問題建議書》的教育解讀［J］.中國電化教育，2022（6）：22-36.

［12］ 鄧伯軍.人工智能的算法權(quán)力及其意識形態(tài)批判［J］.當(dāng)代世界與社會主義，2023（5）：24-32.

［13］ 汪懷君，汝緒華.人工智能算法歧視及其治理［J］.科學(xué)技術(shù)哲學(xué)研究，2020，37（2）：101-106.

［14］ 張凌寒.生成式人工智能的法律定位與分層治理［J］.現(xiàn)代法學(xué)，2023，45（4）：126-141.

［15］ 王美舒.類型思維下的金融消費者：從語詞認(rèn)識到裁判邏輯［J］.法律科學(xué)（西北政法大學(xué)學(xué)報），2019，37（2）：180-192.

［16］ 鄧依晴，程廣云.從文化符號看人類命運共同體構(gòu)建邏輯［J］.貴州社會科學(xué)，2021（8）：60-66.

［17］ 郭永輝，宋磊.挑戰(zhàn)與引領(lǐng)：算法推薦場域新聞主流話語數(shù)字傳播的風(fēng)險治理［J］.未來傳播，2024，31（2）：20-28.

［18］ 陶盈.機(jī)器學(xué)習(xí)的法律審視［J］.法學(xué)雜志，2018，39（9）：55-63.

［19］ 陳力丹，榮雪燕.從ChatGPT到Sora：生成式AI浪潮下強(qiáng)化新聞專業(yè)意識的再思考［J］.新聞愛好者，2024（4）：4-8.

［20］ 李銘軒，文繼榮.AIGC時代網(wǎng)絡(luò)信息內(nèi)容的法律治理：以大語言模型為例［J］.北京理工大學(xué)學(xué)報（社會科學(xué)版），2023，25（6）：83-92.

［21］ 張欣.生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管［J］.現(xiàn)代法學(xué)，2023，45（3）：108-123.

［22］ 韓兆柱，申帥杰.敏捷治理：人工智能治理新模式［J］.華東理工大學(xué)學(xué)報（社會科學(xué)版），2024，39（1）：105-119.

［23］ 張凌寒，賈斯瑤.人工智能生成內(nèi)容標(biāo)識制度的邏輯更新與制度優(yōu)化［J］.求是學(xué)刊，2024，51（1）：112-122.

［24］ 王良順，李想.生成式人工智能服務(wù)提供者的數(shù)據(jù)安全保護(hù)義務(wù)研究［J］.南昌大學(xué)學(xué)報（人文社會科學(xué)版），2023，54（6）：72-83.

［25］ 李銘軒，文繼榮.AIGC時代網(wǎng)絡(luò)信息內(nèi)容的法律治理：以大語言模型為例［J］.北京理工大學(xué)學(xué)報（社會科學(xué)版），2023，25（6）：83-92.

［26］ 徐磊.生成式人工智能內(nèi)容風(fēng)險的一體化規(guī)制［J］.出版發(fā)行研究，2024（1）：59-66.

［27］ 楊建軍，張凌寒，周輝，等.人工智能法：必要性與可行性［J］.北京航空航天大學(xué)學(xué)報（社會科學(xué)版），2024，37（3）：162-174.

責(zé)任編輯：曲崇明