以“智”治“智”：AIGC謠言生成、特點(diǎn)及治理研究

摘要：Web3.0時(shí)代人工智能的發(fā)展使得AIGC謠言頻發(fā)，這主要源于內(nèi)容生產(chǎn)中的深度偽造和公開(kāi)數(shù)據(jù)強(qiáng)化等問(wèn)題。AIGC謠言在形式上呈現(xiàn)出多樣態(tài)和高仿真，在內(nèi)容上體現(xiàn)為近民生和抓眼球，在技術(shù)上凸顯出低門檻和高效率，在傳播上表現(xiàn)為難辨識(shí)和易擴(kuò)散。AIGC謠言的治理需要?jiǎng)?chuàng)新智能方法和技術(shù)，以“智”治“智”，在生產(chǎn)端通過(guò)數(shù)據(jù)智能選擇進(jìn)行信息溯源，在分發(fā)端引入智能識(shí)別并規(guī)范AIGC發(fā)布，在反饋端進(jìn)行輿情智能檢測(cè)并推動(dòng)源頭治理。

關(guān)鍵詞：網(wǎng)絡(luò)謠言 AIGC 人機(jī)互動(dòng) 輿情治理

2023年12月20日，國(guó)家語(yǔ)言資源監(jiān)測(cè)與研究中心、商務(wù)印書館、新華網(wǎng)聯(lián)合主辦的“漢語(yǔ)盤點(diǎn)2023”揭曉儀式舉行，“ChatGPT”當(dāng)選年度國(guó)際詞。作為一款劃時(shí)代的人工智能應(yīng)用，ChatGPT自2022年末發(fā)布以來(lái)，不斷刷新公眾的認(rèn)知，也開(kāi)啟了AIGC（Artificial Intelligence Generated Content，人工智能生產(chǎn)內(nèi)容）這一新興內(nèi)容的生產(chǎn)范式。隨著GPT-4o的發(fā)布以及國(guó)內(nèi)多款A(yù)IGC工具的涌現(xiàn)，其生產(chǎn)類型從文本向圖片、音頻、視頻等多媒體領(lǐng)域拓展。然而，由此產(chǎn)生的負(fù)面影響也層出不窮，數(shù)據(jù)泄露、名譽(yù)誹謗、謠言混亂等問(wèn)題凸顯，尤其是AIGC謠言產(chǎn)生了極其惡劣的影響，對(duì)其治理刻不容緩。從已有研究來(lái)看，網(wǎng)絡(luò)謠言的生產(chǎn)和傳播具有主觀偽造和未經(jīng)證實(shí)的典型特征。AIGC謠言則是一種特殊的網(wǎng)絡(luò)謠言，它是借助AIGC進(jìn)行生產(chǎn)或借由AIGC生產(chǎn)過(guò)程得到強(qiáng)化，并通過(guò)網(wǎng)絡(luò)渠道進(jìn)行傳播的謠言。AIGC作為Web3.0時(shí)代最具代表性的生產(chǎn)范式，其謠言的生產(chǎn)主體及治理環(huán)境也日趨復(fù)雜。一方面，對(duì)話式人工智能制造的謠言高度仿真，并具有生產(chǎn)多模態(tài)謠言的能力；另一方面，基于智能技術(shù)的分發(fā)解決了謠言與用戶間的匹配問(wèn)題，能夠輕松找到易于被謠言“感染”的用戶并向其精準(zhǔn)投放。

一、人機(jī)互動(dòng)：AIGC謠言生成路徑

AIGC謠言相較于其他網(wǎng)絡(luò)謠言，呈現(xiàn)出兩條獨(dú)特的生成路徑，一是謠言內(nèi)容的智能生產(chǎn)，即利用AIGC對(duì)文本、圖片乃至音視頻進(jìn)行全方位立體的深度偽造，使得謠言極具迷惑性，難以輕易識(shí)別；二是謠言傳播的智能強(qiáng)化，部分AIGC會(huì)對(duì)社交媒體中的數(shù)據(jù)進(jìn)行實(shí)時(shí)抓取和學(xué)習(xí)，其數(shù)據(jù)中難以避免謠言的混入，進(jìn)而在與用戶交互的過(guò)程中強(qiáng)化對(duì)謠言的傳播。

1．“智謠”生產(chǎn)：深度偽造形成立體謠言?！吧疃葌卧臁币辉~源于“計(jì)算機(jī)深度學(xué)習(xí)”和“偽造”二者的合成，是指通過(guò)技術(shù)的高仿真處理，實(shí)現(xiàn)視頻、音頻、圖像等信息的數(shù)據(jù)技術(shù)偽造，其廣泛應(yīng)用于影視制作、廣告營(yíng)銷、藝術(shù)創(chuàng)作等領(lǐng)域，但基于“深度偽造”技術(shù)的應(yīng)用開(kāi)發(fā)和普及也屢屢觸犯法律和道德的紅線。AIGC的演進(jìn)帶來(lái)了對(duì)用戶友好的工具與平臺(tái)，同時(shí)也簡(jiǎn)化了深度偽造內(nèi)容的制作流程，即便是非專業(yè)人士也能輕松偽造出極具真實(shí)感的內(nèi)容，大大降低了造謠的難度。包括GPT-4o在內(nèi)的多款具有圖片生成能力的AIGC應(yīng)用的推出，讓沒(méi)有任何圖片編輯技術(shù)的普通人也可以通過(guò)簡(jiǎn)單的對(duì)話向人工智能下達(dá)指令，以實(shí)現(xiàn)圖片編輯。“有圖有真相”“有視頻有真相”等說(shuō)法在基于AIGC的深度偽造面前徹底粉碎，謠言的甄別難度進(jìn)一步提升。

2．“智謠”傳播：公開(kāi)數(shù)據(jù)的謠言強(qiáng)化。AIGC應(yīng)用的核心是基于數(shù)據(jù)預(yù)訓(xùn)練產(chǎn)生的大規(guī)模語(yǔ)言模型（Large Language Model，LLM），預(yù)訓(xùn)練數(shù)據(jù)集的質(zhì)量和人工標(biāo)注質(zhì)量會(huì)顯著影響AIGC信息的質(zhì)量。目前，AIGC應(yīng)用類型較多，從使用范圍來(lái)看，可分為垂直型AIGC和通用型AIGC。垂直型AIGC是指在特定領(lǐng)域具有專業(yè)性，且主要為該領(lǐng)域的創(chuàng)作提供服務(wù)，如彩云小夢(mèng)專注故事寫作，DeepAI專注圖片生成，Boomy專注音樂(lè)創(chuàng)作。通用型AIGC在使用體驗(yàn)上更接近于傳統(tǒng)搜索引擎，如ChatGPT、文心一言等，用戶通過(guò)對(duì)話向它們尋求各類問(wèn)題的答案和幫助，通用型AIGC應(yīng)用的數(shù)據(jù)庫(kù)通常更為龐大，也更重視實(shí)時(shí)數(shù)據(jù)的抓取。AIGC應(yīng)用中對(duì)報(bào)道或媒體傳播數(shù)據(jù)具有依賴性，而社交媒體中的低質(zhì)和謠言數(shù)據(jù)會(huì)因?yàn)閷?shí)時(shí)抓取而混入AIGC應(yīng)用的數(shù)據(jù)庫(kù)，被用作預(yù)訓(xùn)練數(shù)據(jù)集，再加上用戶的提問(wèn)方式以及AIGC自身模型的缺陷，都會(huì)進(jìn)一步導(dǎo)致謠言的生成和傳播。此外，AIGC應(yīng)用為增強(qiáng)自身可信度，其回答會(huì)突出對(duì)權(quán)威信息來(lái)源的標(biāo)榜。例如，部分新聞事件在早期的媒體報(bào)道和社交媒體數(shù)據(jù)中存在片面乃至錯(cuò)誤的認(rèn)知，AIGC參考引用這些信息并標(biāo)注來(lái)源，以一種“官方認(rèn)可的真相”形式取信于用戶，用戶又缺乏對(duì)AIGC運(yùn)作機(jī)制的了解，進(jìn)而導(dǎo)致謠言的強(qiáng)化傳播。

二、“智謠”難辨：AIGC謠言特點(diǎn)

有研究基于謠言文本的實(shí)證分析發(fā)現(xiàn)，善用故事元素并利用數(shù)據(jù)和權(quán)威支撐是網(wǎng)絡(luò)謠言敘事的顯著特征，扯明星、蹭熱點(diǎn)成為網(wǎng)絡(luò)謠言偽裝的重要手段，此外，圖片和視頻類謠言比例不斷提升。ChatGPT發(fā)布后，AIGC技術(shù)已將網(wǎng)絡(luò)謠言推向了更高層次，AIGC謠言在形式、內(nèi)容、技術(shù)和傳播上呈現(xiàn)出嶄新特點(diǎn)。

1．形式上：多樣態(tài)，高仿真。當(dāng)前網(wǎng)絡(luò)謠言呈現(xiàn)出多模態(tài)的復(fù)合形式，即文字、圖片、音視頻不以單一形式出現(xiàn)，而是多種形式并存，交叉佐證，以增強(qiáng)自身的可信度，其中以圖文并茂的謠言居多。AIGC謠言則從圖片編輯、圖片合成進(jìn)入圖片生成時(shí)代，即只要編造文本謠言，便能通過(guò)技術(shù)生成與其相符的圖片，甚至視頻也能無(wú)中生有。2023年7月，網(wǎng)傳的廣東茂名“小孩偷鉛筆被老師綁電線桿5小時(shí)”視頻，經(jīng)查是網(wǎng)民通過(guò)AI軟件生成的謠言。此類案例反映出AIGC謠言的極高仿真性，其對(duì)圖片、視頻的深度合成讓人難以辨識(shí)，多模態(tài)復(fù)合謠言的極強(qiáng)說(shuō)服力也讓不明真相的群眾信以為真，并促成謠言的進(jìn)一步擴(kuò)散。2024年2月，OpenAI發(fā)布文生視頻模型Sora，只需要一段提示文本，就能生成具有多個(gè)角色和特定動(dòng)作類型且主題和背景基本準(zhǔn)確的高清視頻，這也將給未來(lái)的AIGC謠言治理帶來(lái)全新挑戰(zhàn)。

2．內(nèi)容上：近民生，抓眼球。從內(nèi)容上看，具有煽動(dòng)性的社會(huì)新聞和其他民生信息仍是AIGC謠言的主流。2024年3月，網(wǎng)絡(luò)中出現(xiàn)一條標(biāo)題駭人的“新聞”：“平遙古城明清街一女子與男友吃東西時(shí)，用竹簽扎小孩臉，后小孩被‘120’抬走，生死未卜”，該“新聞”還附有事發(fā)現(xiàn)場(chǎng)的視頻截圖和網(wǎng)友的熱議記錄，瞬間引發(fā)大量討論與猜測(cè)。后證實(shí)為謠言，是發(fā)布者為吸引眼球、增加點(diǎn)擊量而利用AI技術(shù)合成。這些要素俱全的煽動(dòng)性謠言正迎合了公眾對(duì)悲劇和惡性社會(huì)事件的關(guān)切心理。部分AIGC謠言還造成了經(jīng)濟(jì)損失，如2023年5月，一篇由AI生成的示警文稱“科大訊飛被爆涉嫌大量采集用戶隱私數(shù)據(jù)，并將其用于人工智能研究”，引發(fā)廣泛關(guān)注，科大訊飛股價(jià)因這則謠言出現(xiàn)大幅下跌。這一謠言利用了人們對(duì)個(gè)人隱私保護(hù)的關(guān)注，編造具有煽動(dòng)性的內(nèi)容，造成了極其惡劣的后果。

3．技術(shù)上：低門檻，高效率。ChatGPT的橫空出世推動(dòng)了各行各業(yè)對(duì)大模型研發(fā)的熱情，現(xiàn)如今，即使不具備使用ChatGPT的相關(guān)條件，也可以通過(guò)文心一言、通義千問(wèn)、訊飛星火、DeepSeek等國(guó)產(chǎn)AIGC應(yīng)用獲得高效便捷的體驗(yàn)。在任意瀏覽器中檢索“AI生成”，結(jié)果頁(yè)面中赫然陳列著數(shù)十條不同的AI工具網(wǎng)頁(yè)，涵蓋文本、圖片、音視頻等多種形式。網(wǎng)上甚至曾出現(xiàn)過(guò)一些“換臉直播”教程，發(fā)布者聲稱實(shí)時(shí)變臉軟件可以幫助用戶輕松“變臉”，極大地助力引流賣貨。AIGC的高效率導(dǎo)向了AIGC謠言的批量生產(chǎn)，2023年12月，西安市公安局鄠邑分局在對(duì)一起AIGC謠言的調(diào)查中發(fā)現(xiàn)，涉案的AIGC寫稿軟件每天能生成19萬(wàn)篇文章，短時(shí)間內(nèi)就能達(dá)到上百萬(wàn)篇，以致官方辟謠后，許多雷同的謠言仍在互聯(lián)網(wǎng)上大量傳播。

4．傳播上：難辨識(shí)，易擴(kuò)散。AIGC技術(shù)的不斷發(fā)展使得謠言的甄別難度進(jìn)一步提升，尤其在進(jìn)行公式化、模板化的消息新聞創(chuàng)作上，如若不進(jìn)行事實(shí)核查，部分新聞從業(yè)者第一眼也難以辨別。此外，隨著深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等技術(shù)的成熟和應(yīng)用，AIGC偽造圖片、音視頻的技術(shù)手段也在不斷升級(jí)，現(xiàn)在的AIGC已經(jīng)可以生成非常逼真、難以分辨的圖像和聲音，甚至可以模擬出特定的光照、陰影、紋理等細(xì)節(jié)，使得偽造的內(nèi)容更加真實(shí)可信。由于對(duì)AIGC技術(shù)的相對(duì)陌生，公眾對(duì)于深度偽造的AIGC謠言難以根據(jù)常識(shí)迅速做出判斷，因而在傳播上極易擴(kuò)散。AIGC文本謠言尚且難以辨別，部分互聯(lián)網(wǎng)用戶缺乏對(duì)AIGC的了解，無(wú)法想象圖片、音視頻等的偽造情況，因此面對(duì)AI換臉、聲音替換等廣泛傳播的AIGC謠言，幾乎不會(huì)產(chǎn)生懷疑。

三、以“智”治“智”：技術(shù)賦能AIGC謠言治理

世界多國(guó)政府都正在積極推動(dòng)AIGC及其相關(guān)法律條例的制定。在我國(guó)，2023年7月13日，國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，提出國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，明確了提供和使用生成式人工智能服務(wù)總體要求。據(jù)財(cái)聯(lián)社消息，2023年12月7日，歐盟接近達(dá)成一項(xiàng)里程碑式法案，對(duì)ChatGPT和其他人工智能技術(shù)進(jìn)行監(jiān)管。

同時(shí)，AIGC謠言的治理除了依靠相關(guān)法律法規(guī)的確立和監(jiān)管推進(jìn)，更需要以智能技術(shù)本身為支撐，針對(duì)深度偽造、公開(kāi)數(shù)據(jù)強(qiáng)化等不同成因的AIGC謠言，形成一套涵蓋生產(chǎn)、分發(fā)及反饋全鏈條的智能治理路徑。

1．生產(chǎn)端：數(shù)據(jù)智能選擇，技術(shù)溯源信息。從生產(chǎn)端來(lái)看，AIGC的內(nèi)容生產(chǎn)可分為三個(gè)階段，第一階段為模型預(yù)訓(xùn)練，這一階段需要提供大量的數(shù)據(jù)集用于大語(yǔ)言模型的自我學(xué)習(xí)；第二階段為對(duì)話指令輸入，即用戶通過(guò)對(duì)話向AI發(fā)出內(nèi)容生成指令；第三階段為AIGC內(nèi)容產(chǎn)出，即AI依據(jù)自身對(duì)指令的理解，結(jié)合現(xiàn)有數(shù)據(jù)庫(kù)或抓取實(shí)時(shí)信息輸出合適的內(nèi)容。依據(jù)生產(chǎn)過(guò)程的不同階段，在各階段進(jìn)行適當(dāng)介入并有效減少謠言的產(chǎn)出。

在模型預(yù)訓(xùn)練階段，主要通過(guò)優(yōu)化數(shù)據(jù)集的質(zhì)量來(lái)保障數(shù)據(jù)庫(kù)的安全性和可靠性。首先，技術(shù)的進(jìn)步不能跨過(guò)法律的紅線，要禁止各類機(jī)密數(shù)據(jù)、用戶隱私數(shù)據(jù)被用于模型訓(xùn)練。其次，審慎使用社交媒體數(shù)據(jù)，在以往的案例中，放任于社交媒體中進(jìn)行自我進(jìn)化的AI往往在最后表現(xiàn)出較高的攻擊性和惡意性，盡管社交媒體中不乏真善美的聲音，但由于互聯(lián)網(wǎng)的匿名性，許多用戶針對(duì)AI展現(xiàn)出特定的不帶掩飾的惡意，使得AI的數(shù)據(jù)庫(kù)中充斥著大量低質(zhì)數(shù)據(jù)，進(jìn)而衍生出與普遍道德觀相左的“AI人格”。最后，優(yōu)選公開(kāi)可靠的數(shù)據(jù)，尤其在一些知識(shí)類數(shù)據(jù)的輸入中，應(yīng)優(yōu)先選擇經(jīng)過(guò)認(rèn)證的可靠性高的官方網(wǎng)站數(shù)據(jù)作為訓(xùn)練集，而不能盲目采信各類百科數(shù)據(jù)，如確要使用，必須事先經(jīng)過(guò)人工參與篩查標(biāo)注，盡可能減少數(shù)據(jù)輸入端的謬誤。此外，也可以建立特定領(lǐng)域的AIGC應(yīng)用，縮小其數(shù)據(jù)范圍，以便進(jìn)行有針對(duì)性的微調(diào)。

在對(duì)話指令階段，應(yīng)當(dāng)通過(guò)預(yù)設(shè)的程序算法，禁止AI對(duì)某些不符合道德和法律規(guī)范的指令做出回應(yīng)，并規(guī)范AI的內(nèi)容輸出表達(dá)，使其遵循現(xiàn)有的規(guī)章制度。首先，可以通過(guò)設(shè)置關(guān)鍵詞禁止AI對(duì)某些指令做出回應(yīng)，如在使用文心一言4.0的圖片生成模塊時(shí)，其會(huì)拒絕生成包含“血”“尸體”的圖片。其次，關(guān)注AI與用戶交流產(chǎn)生的自學(xué)習(xí)數(shù)據(jù)，通過(guò)人工參與標(biāo)注等方式減少用戶端的不良數(shù)據(jù)逆向輸入，如有的用戶會(huì)通過(guò)諧音、其他指代詞等繞過(guò)預(yù)設(shè)的關(guān)鍵詞檢測(cè)，利用AI制造謠言。最后，明確禁止AIGC在部分領(lǐng)域的使用，如新聞、政治、未經(jīng)授權(quán)的商業(yè)領(lǐng)域等，通過(guò)禁止未經(jīng)認(rèn)證的普通用戶利用AIGC應(yīng)用生成新聞可以有效降低謠言的產(chǎn)出，對(duì)違背公序良俗的功能更應(yīng)全力禁止。

在內(nèi)容產(chǎn)出階段，模型的訓(xùn)練程度以及算法的完備度均會(huì)影響AIGC內(nèi)容的質(zhì)量，可以從以下幾個(gè)方面優(yōu)化AIGC表現(xiàn)，減少謠言產(chǎn)出：一是基于用戶的協(xié)同過(guò)濾，ChatGPT、文心一言等均設(shè)置了用戶的反饋途徑，即通過(guò)向用戶詢問(wèn)AIGC內(nèi)容的表現(xiàn)是否符合用戶預(yù)期來(lái)促進(jìn)模型學(xué)習(xí)，進(jìn)而優(yōu)化其內(nèi)容整合和表達(dá)能力；二是AIGC的信息來(lái)源標(biāo)注，通過(guò)類似參考文獻(xiàn)標(biāo)注的形式，給予用戶可對(duì)照可參考的可信信息來(lái)源，提升算法透明度，增強(qiáng)AIGC內(nèi)容的可靠性；三是給AIGC內(nèi)容添加數(shù)字水印，目前已有相關(guān)技術(shù)公司致力于針對(duì)AIGC內(nèi)容識(shí)別的研究，也取得了一定的成果。但隨著AIGC的發(fā)展，其識(shí)別難度會(huì)不斷提升，應(yīng)從源頭強(qiáng)制要求各AIGC應(yīng)用公司為AIGC內(nèi)容添加數(shù)字識(shí)別水印，即為每一條AIGC文本、圖片、視頻等賦予數(shù)字ID，引起人們對(duì)其內(nèi)容真實(shí)性的警惕，增強(qiáng)可證實(shí)性，減少謠言信息的產(chǎn)出和廣泛傳播。

2．分發(fā)端：引入智能識(shí)別，規(guī)范AIGC發(fā)布。就分發(fā)端而言，AIGC的內(nèi)容標(biāo)識(shí)顯著性或區(qū)分度影響著其在互聯(lián)網(wǎng)中的傳播效率。社交平臺(tái)作為當(dāng)下網(wǎng)絡(luò)謠言病毒式傳播的重災(zāi)區(qū)，應(yīng)針對(duì)AIGC謠言進(jìn)行同步技術(shù)升級(jí)。首先，應(yīng)大力開(kāi)發(fā)和引入AIGC識(shí)別技術(shù)，如北京大學(xué)、華為已聯(lián)合開(kāi)發(fā)出可進(jìn)行ChatGPT內(nèi)容檢測(cè)的AI檢測(cè)器，使用此類檢測(cè)器可以及時(shí)發(fā)現(xiàn)AIGC信息，提前納入監(jiān)管范圍。此外，在AIGC應(yīng)用主動(dòng)為AIGC信息內(nèi)置水印的前提下，社交平臺(tái)應(yīng)積極向各AIGC應(yīng)用取得相應(yīng)技術(shù)授權(quán)，通過(guò)識(shí)別技術(shù)監(jiān)測(cè)平臺(tái)中的AIGC信息。其次，應(yīng)借助技術(shù)對(duì)平臺(tái)中的AIGC信息進(jìn)行顯著標(biāo)識(shí)。當(dāng)檢測(cè)到用戶可能發(fā)布了AIGC信息時(shí)，應(yīng)對(duì)其進(jìn)行標(biāo)注，提醒其他潛在傳播者“此條文本/圖片/視頻可能為AI生成，謹(jǐn)慎采信和傳播”。最后，引入人工參與的智能篩查機(jī)制，審慎推薦AIGC信息。目前，多數(shù)社交平臺(tái)的推薦機(jī)制均基于大數(shù)據(jù)和用戶畫像，如果相關(guān)模型針對(duì)互聯(lián)網(wǎng)熱門內(nèi)容進(jìn)行學(xué)習(xí)，很容易掌握當(dāng)下社交平臺(tái)的“流量密碼”，并仿制出類似內(nèi)容。因此，在識(shí)別并標(biāo)注AIGC信息后，可以引入人工參與的篩查機(jī)制，對(duì)其真實(shí)性進(jìn)行核查。同時(shí)，應(yīng)審慎將AIGC信息納入算法推薦，AIGC信息的高效率生產(chǎn)和對(duì)互聯(lián)網(wǎng)熱門內(nèi)容的高質(zhì)量模仿極易在當(dāng)下算法推薦體系中形成一邊倒的形勢(shì)，既可能對(duì)原創(chuàng)UGC內(nèi)容帶來(lái)傾軋式打擊，也可能讓AIGC謠言披著熱門內(nèi)容的外衣迅速傳開(kāi)。

3．反饋端：智能監(jiān)測(cè)輿情，推動(dòng)源頭治理。在生產(chǎn)端和傳播端的層層把關(guān)與監(jiān)管之下，對(duì)仍出現(xiàn)的“漏網(wǎng)之魚(yú)”，就需要啟用相應(yīng)的AIGC謠言應(yīng)急反饋機(jī)制，即AIGC謠言智能治理模型的反饋端。網(wǎng)絡(luò)謠言的治理依賴兩條信息反饋路徑：一是普通用戶的舉報(bào)，數(shù)字素養(yǎng)較高的用戶會(huì)對(duì)互聯(lián)網(wǎng)信息保持敏感性，道德本能會(huì)驅(qū)使他們阻止謠言信息的進(jìn)一步擴(kuò)散；二是有賴于當(dāng)前的網(wǎng)絡(luò)輿情監(jiān)測(cè)系統(tǒng)，其對(duì)互聯(lián)網(wǎng)信息的全天候監(jiān)控能及時(shí)發(fā)現(xiàn)當(dāng)下互聯(lián)網(wǎng)的熱點(diǎn)、爭(zhēng)議點(diǎn)，并形成相應(yīng)匯報(bào)供人工核查。AIGC謠言作為網(wǎng)絡(luò)謠言的一種，對(duì)其監(jiān)管也離不開(kāi)這兩條反饋路徑，但在反饋核查后的應(yīng)對(duì)上，AIGC謠言的處理應(yīng)更為細(xì)致。首先，利用智能追蹤技術(shù)追查源頭發(fā)布者，依法追究其責(zé)任，并自動(dòng)管控其后續(xù)傳播渠道。其次，辟謠既要講內(nèi)容，也要分析技術(shù)，在破除謠言的基礎(chǔ)上，還要將AIGC謠言的高仿真特性普及給公眾，提供辨識(shí)技巧或工具，如早期AI生成的圖片不擅長(zhǎng)手指、漢字、多個(gè)面部的生成等。再次，建立AIGC謠言的跨平臺(tái)智能監(jiān)督體系，各平臺(tái)之間共享謠言數(shù)據(jù)庫(kù)，減少AIGC謠言通過(guò)更換發(fā)布平臺(tái)“死而復(fù)生”。最后，建立AIGC謠言數(shù)據(jù)集，一方面，可用于訓(xùn)練專門的AIGC謠言識(shí)別程序，提高AIGC謠言識(shí)別效率；另一方面，可用于對(duì)現(xiàn)有AIGC應(yīng)用的調(diào)整性修正，完善違禁詞庫(kù)和違禁指令，優(yōu)化整體算法模型。

（作者段峰峰系湖南師范大學(xué)新聞與傳播學(xué)院副教授、碩士生導(dǎo)師；杜萌 湖南師范大學(xué)新聞與傳播學(xué)院）

本文系湖南省社科基金項(xiàng)目“網(wǎng)絡(luò)謠言傳播機(jī)理及智能治理研究”（項(xiàng)目編號(hào)：24JD058）的階段性研究成果。

參考文獻(xiàn)

[1]黃河．網(wǎng)絡(luò)謠言的智能化演變及治理[J]．人民論壇，2023（04）．

[2]王振波，吳湘玲．?dāng)?shù)字時(shí)代“深度偽造”技術(shù)研究——機(jī)理特征、功能異化及其優(yōu)化理路[J/OL]．北京航空航天大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）．（2022-07-07）[2024-05-06]．https：//doi.org/10.13766/j.bhsk.1008-2204.2022.0148．

[3]喻國(guó)明．網(wǎng)絡(luò)謠言的文本結(jié)構(gòu)與表達(dá)特征——基于騰訊大數(shù)據(jù)篩選鑒定的6000+謠言文本的分析[J]．新聞與寫作，2018（02）．

[4]陳世華．網(wǎng)絡(luò)圖像謠言的安全風(fēng)險(xiǎn)與治理路徑[J]．江淮論壇，2022（04）．

[5]莫祖英，盤大清，劉歡，等．信息質(zhì)量視角下AIGC虛假信息問(wèn)題及根源分析[J]．圖書情報(bào)知識(shí)，2023（04）．

【編輯：李棟】