網(wǎng)絡(luò)輿情事件中的謠言傳播與智能化治理

摘要

網(wǎng)絡(luò)謠言的生成與傳播始終是網(wǎng)絡(luò)輿情的重要誘因與推力，智媒時代，在信息技術(shù)的加持下，兩者的耦合關(guān)系更加凸顯，網(wǎng)絡(luò)謠言也呈現(xiàn)出定制化生成、精準(zhǔn)化傳播、智能化擴散的新特征，加劇了對網(wǎng)絡(luò)輿論環(huán)境、社會秩序和公共安全的負(fù)面影響。本文旨在通過典型案例分析來研究網(wǎng)絡(luò)輿情事件中謠言傳播的特征，在此基礎(chǔ)上，結(jié)合互聯(lián)網(wǎng)平臺和媒體機構(gòu)的技術(shù)探索實踐，嘗試從信源、內(nèi)容、傳播三個層面提出網(wǎng)絡(luò)謠言智能化治理策略，以期為網(wǎng)絡(luò)空間治理、防范輿情風(fēng)險提供參考。

關(guān)鍵詞

網(wǎng)絡(luò)謠言 網(wǎng)絡(luò)輿情 人工智能 社會風(fēng)險

網(wǎng)絡(luò)謠言治理是互聯(lián)網(wǎng)信息內(nèi)容治理的重要部分。不同于傳統(tǒng)媒體時代，大眾傳播模式下的新聞報道有著嚴(yán)格規(guī)范的把關(guān)流程，智能時代的今天，網(wǎng)絡(luò)信息的數(shù)量過載、裂變式傳播和網(wǎng)民媒介素養(yǎng)的不對稱，增加了獲取事實信息的難度，傳統(tǒng)把關(guān)模式不再行之有效。人工智能技術(shù)的深度發(fā)展也進一步驅(qū)動了網(wǎng)絡(luò)謠言加速向智能化網(wǎng)絡(luò)謠言演化，催生出面向特定個體群體或機構(gòu)的定制化謠言，以及逼真模擬與合成音視頻內(nèi)容的深度偽造謠言。麥克唐納提到每個人認(rèn)為自己看到了破碎真相的全部[1]，新型網(wǎng)絡(luò)謠言內(nèi)容與傳播形態(tài)使謠言容易在基于網(wǎng)民利益和心理訴求所形成的強互動的社群傳播催化下，演化成為網(wǎng)絡(luò)空間的優(yōu)勢意見，進而推動網(wǎng)絡(luò)公共事件的發(fā)酵或改變輿情事件進程。因此，針對網(wǎng)絡(luò)輿情事件中的新型謠言生產(chǎn)和傳播模式下智能化治理策略的研究，對于疏解社會情緒，防范社會風(fēng)險，凈化網(wǎng)絡(luò)環(huán)境具有重要意義。

一、網(wǎng)絡(luò)謠言與網(wǎng)絡(luò)輿情的耦合關(guān)系

網(wǎng)絡(luò)謠言與網(wǎng)絡(luò)輿情往往相互影響、相互作用，所帶來的社會風(fēng)險和負(fù)面影響日益凸顯。伴隨網(wǎng)絡(luò)傳播深度與廣度的拓展，熱點事件滋生謠言的土壤仍將長期存在，對網(wǎng)絡(luò)謠言和網(wǎng)絡(luò)輿情的耦合關(guān)系的厘清，將有助于把握此類謠言傳播的特殊性。

網(wǎng)絡(luò)輿情與網(wǎng)絡(luò)謠言相伴而生。網(wǎng)絡(luò)輿情與網(wǎng)絡(luò)謠言往往共同作用于網(wǎng)絡(luò)輿論環(huán)境。網(wǎng)絡(luò)輿情事件演化過程中，會圍繞著網(wǎng)民關(guān)切問題和次生輿情議題，產(chǎn)生各種各樣的網(wǎng)絡(luò)謠言。而與社會熱點問題緊密關(guān)聯(lián)，能夠聚焦網(wǎng)民注意力或能夠引發(fā)公眾“集體記憶”的網(wǎng)絡(luò)謠言，更容易誘發(fā)“變異進化”，成為網(wǎng)絡(luò)輿情事件重要的輿情客體。例如2016年關(guān)于“上海女孩逃離江西農(nóng)村”的相關(guān)謠言，是江蘇省的一名女網(wǎng)民春節(jié)前與丈夫吵架，不愿去丈夫老家過年而獨自留守家中，于是發(fā)帖宣泄情緒，內(nèi)容是虛構(gòu)的。但因其發(fā)生在春節(jié)期間，觸及城鄉(xiāng)差異、傳統(tǒng)習(xí)俗等社會問題，快速引起網(wǎng)民熱議。同時存在惡意炮制謠言制造網(wǎng)絡(luò)熱點事件的現(xiàn)象，或在基礎(chǔ)事實之上，通過移花接木、添油加醋等手段，形成網(wǎng)絡(luò)輿情的傳播動力。

網(wǎng)絡(luò)輿情與網(wǎng)絡(luò)謠言相互推動。網(wǎng)絡(luò)輿情事件發(fā)展的不同階段會為網(wǎng)絡(luò)謠言的滋生提供土壤，并使網(wǎng)絡(luò)謠言表現(xiàn)出不同的傳播特點。如輿情發(fā)酵期，信息的有限性和不對稱性會導(dǎo)致公眾對部分失實內(nèi)容的偏信與傳播；輿情爆發(fā)期，隨著討論議題和群體性觀點的逐漸固化，從眾心理會促使易感人群形成謠言依賴；輿情蔓延期，輿情應(yīng)對能力不足會加劇謠言的持續(xù)演變和發(fā)展。同時，網(wǎng)絡(luò)謠言的擴散也會不同程度地影響輿情事件走向，網(wǎng)絡(luò)謠言易導(dǎo)致輿情方向的偏離，圍繞謠言所形成的大規(guī)模傳播集群也會刺激輿情周期呈現(xiàn)波動式反復(fù)特征。例如，在2021年“成都49名中學(xué)生墜亡”事件中，校方發(fā)布官方調(diào)查結(jié)果后，微博、知乎等平臺爆出所謂“知情人”的“內(nèi)幕消息”，引發(fā)大量網(wǎng)民質(zhì)疑，刺激輿情熱度上升。

網(wǎng)絡(luò)謠言與網(wǎng)絡(luò)輿情事件會在相互影響的過程中產(chǎn)生反作用力，加速彼此消退。當(dāng)分散性的網(wǎng)絡(luò)謠言激增，會轉(zhuǎn)移公眾對中心輿情事件的關(guān)注，降低群體性意見的同質(zhì)性，從而阻礙輿情事件發(fā)展，謠言被證偽也會加速輿情衰退。而有效的信息公開、事件處置以及輿論引導(dǎo)能夠快速抑制網(wǎng)絡(luò)謠言傳播，加速網(wǎng)絡(luò)謠言瓦解。例如，在2022年“豐縣生育八孩女子”事件中，因部分網(wǎng)民發(fā)布該母親為四川失聯(lián)女子李瑩等相關(guān)謠言，導(dǎo)致輿情反復(fù)升溫，最終在江蘇省委省政府調(diào)查組開展深入調(diào)查并通報事件處置情況后，相關(guān)謠言才被擊破，輿情逐漸消退。

二、網(wǎng)絡(luò)輿情事件中的謠言特征分析

近年來，因網(wǎng)絡(luò)謠言傳播而引發(fā)的輿情事件越來越高發(fā)，網(wǎng)絡(luò)聚焦和放大效應(yīng)更加明顯，本文嘗試通過典型案例來研究網(wǎng)絡(luò)輿情事件中謠言的信源特征、內(nèi)容特征和傳播特征，以期為此類網(wǎng)絡(luò)謠言治理提供依據(jù)。

（一）樣本選取與類目編碼

本文選取了2018年至2023年30例較為典型的由網(wǎng)絡(luò)謠言引發(fā)的輿情事件，涵蓋近年來較有代表性的網(wǎng)絡(luò)謠言議題，如表1所示。

根據(jù)研究目標(biāo)和樣本特點，結(jié)合網(wǎng)絡(luò)謠言類型劃分和判定標(biāo)準(zhǔn)，對30個樣本進行類目劃分，并對每一級類目進行編碼，如表2所示。

（二）交互信度檢測

為了保證編碼的可靠性和分析結(jié)果的有效性，由兩位編碼員對30個案例的類目分別編碼，進行交互信度檢測。根據(jù)內(nèi)容分析信度公式R=（n×k）/[1+（n-1）k]，計算交互信度，R表示信度，n表示編碼員數(shù)量，k表示平均同意度。最終計算得出平均同意度為0.9074，交互信度為0.9632。本類目設(shè)計具有可行性，數(shù)據(jù)分析具有準(zhǔn)確性。

（三）研究結(jié)果分析

1.描述性分析

一是社交媒體、短視頻平臺是主要溫床，算法機制加劇謠言跨渠道傳播。從首發(fā)媒體分析情況來看，微博、微信等社交平臺是網(wǎng)絡(luò)謠言事件的主要發(fā)酵場域，其以關(guān)鍵傳播節(jié)點為核心所形成的集群傳播模式會加速網(wǎng)絡(luò)謠言的形成與擴散，影響輿情事件的發(fā)生與發(fā)展。此外，隨著短視頻平臺深度下沉，用戶數(shù)量激增，也成為網(wǎng)絡(luò)謠言的重要集散地。視頻內(nèi)容的真實感和在場感，容易贏得網(wǎng)民信任與共情。短視頻平臺的算法推送機制，使多元主體的信息表達呈現(xiàn)出“網(wǎng)絡(luò)社群巴爾干化”特征，加劇謠言圈層傳播中的極化傾向[2]，極易形成網(wǎng)民合意來強化參與行為動機，加速謠言跨渠道裂變式擴散，擴大謠言負(fù)面影響。

二是社會民生類和防疫健康類網(wǎng)絡(luò)謠言更易引發(fā)輿情危機。從議題類型分析情況來看，圍繞社會熱點話題的網(wǎng)絡(luò)謠言更容易引發(fā)輿情事件。其中，社會民生始終是網(wǎng)絡(luò)謠言事件的高發(fā)領(lǐng)域，主要涉及衣食住行、倫理規(guī)范、違法犯罪等議題，因貼近公眾生活、關(guān)乎公共利益，高發(fā)生率，更能引起網(wǎng)民關(guān)注。此外，自2020年新冠疫情爆發(fā)以來，健康領(lǐng)域也成為網(wǎng)絡(luò)謠言的重災(zāi)區(qū)，圍繞疫情防控，疫苗接種，呼吸道疾病防治以及各類新型傳播性病毒等健康類謠言層出不窮，其指涉對象多關(guān)注具體的人或人群在健康風(fēng)險中的狀況和境遇。其中，社交機器人參與生產(chǎn)和傳播了大量涉疫敘事[3]。健康類謠言容易引發(fā)公眾恐慌情緒和健康焦慮，產(chǎn)生偏聽偏信的盲從行為，加劇對個人家庭、社會和政府公信力的不良影響，已經(jīng)成為不可忽視的社會問題。

三是謠言傳播中的情緒因素被放大，線上線下關(guān)聯(lián)風(fēng)險加劇。如何使傳播產(chǎn)生效果，需要把傳播的信息注入被傳者的心理系統(tǒng)[4]。當(dāng)傳受雙方處于同一輿論環(huán)境共生狀態(tài)下，如果謠言傳播者善于建立共通的意義空間開展共情傳播，將極大增強謠言的煽動性。從謠言內(nèi)容分析情況來看，尋求網(wǎng)民身份認(rèn)同，傳播敏感和爭議性信息，更容易誘發(fā)網(wǎng)民的非理性情緒，產(chǎn)生話語協(xié)同，加速輿情演化。具有煽動性，迎合網(wǎng)民情感訴求的網(wǎng)絡(luò)謠言更具傳播力和影響力。從互動儀式鏈視角可以將此種謠言傳播到輿情爆發(fā)的演化過程描述為“群體聚集——群體認(rèn)同——群體行動”。這樣的現(xiàn)象在社交媒體和短視頻平臺尤為突出，其匿名性和強交互性會集聚和放大網(wǎng)民的負(fù)面情緒，基于情緒的網(wǎng)絡(luò)謠言由此產(chǎn)生、擴散，進而刺激群體非理性行為在線上線下相互作用下形成耦合效應(yīng)。

四是辟謠主體多元化，官方機構(gòu)、專業(yè)媒體依然是重要“守門人”。從辟謠主體來看，信息生產(chǎn)和傳播機制的轉(zhuǎn)變，使辟謠平臺、自媒體和廣大網(wǎng)民成為重要的辟謠主體，與官方機構(gòu)、專業(yè)媒體一同構(gòu)建網(wǎng)絡(luò)謠言多元共治的長效機制。其中，政府有關(guān)部門及時信息公開和應(yīng)急管理，能夠有效疏解社會輿情；專業(yè)媒體積極發(fā)揮事實核查、公共監(jiān)督和輿論引導(dǎo)作用，特別是中央級主流媒體的介入，快速提升輿情等級，加速事件解決和輿論衰退；互聯(lián)網(wǎng)平臺致力于依托信息技術(shù)，打造辟謠矩陣產(chǎn)品，聯(lián)合構(gòu)建辟謠聯(lián)盟，強化內(nèi)容監(jiān)管能力，落實平臺主體責(zé)任；自媒體能夠以更加簡單直接、通俗易懂的方式傳遞科學(xué)知識，強化辟謠的情緒化引導(dǎo)。網(wǎng)民作為重要的信息生產(chǎn)者和傳播者，能夠通過提供事實信息，參與平臺舉報等方式，加速謠言證偽。

2.相關(guān)性分析

為了進一步分析不同因素之間的關(guān)聯(lián)性，本文通過SPSS Statistics 25軟件生成關(guān)于網(wǎng)絡(luò)謠言的參數(shù)“相關(guān)系數(shù)分析表”（見表3）。其中，帶＊號數(shù)據(jù)表示兩者之間的關(guān)系是顯著的，數(shù)值越小，顯著性越強。本文重點討論較為顯著的正相關(guān)變量，作為網(wǎng)絡(luò)謠言特征分析的參考。

經(jīng)分析，一方面從議題類型相關(guān)性來看，社會民生類網(wǎng)絡(luò)謠言事件多滋生于微信、貼吧、抖音平臺，對信息編造篡改、利用熱點事件張冠李戴是導(dǎo)致此類謠言的重要原因。健康類網(wǎng)絡(luò)謠言事件多發(fā)酵于微博、微信和新聞網(wǎng)站，具有口頭性和無根據(jù)性特點，曲解、虛構(gòu)、假借、恐嚇式、數(shù)據(jù)化的敘事框架構(gòu)造了此類謠言的傳播場景。此外，傳統(tǒng)媒體在突發(fā)事件中的失語或未經(jīng)調(diào)查核實的錯誤性報道，更容易產(chǎn)生負(fù)面的社會影響。另一方面從虛假程度和造假方式相關(guān)性來看，完全虛假的網(wǎng)絡(luò)謠言沒有事實依據(jù)，往往由信源出于某種利益動機故意策劃，或借熱點事件捏造而成。而部分失實的網(wǎng)絡(luò)謠言是在一定客觀事實基礎(chǔ)上的信息傳播，在擴散過程中被篡改、誤讀或刻意夸大，在網(wǎng)絡(luò)輿情事件中較為常見。

綜上所述，網(wǎng)絡(luò)輿情事件中的謠言傳播表現(xiàn)出以下主要特征：一是信源層面，社會化信息生產(chǎn)擴大謠言數(shù)量，網(wǎng)民參與行為加速謠言擴散，社交機器人參與偽科學(xué)認(rèn)知傳播；微博、微信等社交平臺和抖音等短視頻平臺是網(wǎng)絡(luò)謠言事件的主要發(fā)酵場域。二是內(nèi)容層面，社會民生和健康類網(wǎng)絡(luò)謠言激增；反映社會問題的敏感性議題和視頻化內(nèi)容更易煽動網(wǎng)民情感；多模態(tài)網(wǎng)絡(luò)謠言的隱蔽性和說服性增強；網(wǎng)絡(luò)謠言存在錯誤的價值導(dǎo)向，容易引發(fā)意識形態(tài)安全風(fēng)險。三是傳播層面，算法機制加速謠言跨渠道病毒式傳播；網(wǎng)民情緒傳播與謠言擴散和輿情演化有強關(guān)聯(lián)性；線上線下交互下情感驅(qū)動的群體性事件有所加??；政府、媒體和辟謠平臺在打擊謠言、疏解輿情方面作用顯著。

三、網(wǎng)絡(luò)謠言智能化治理路徑

智能傳播時代，信息技術(shù)的快速迭代使網(wǎng)絡(luò)輿論生態(tài)結(jié)構(gòu)發(fā)生巨變，也使網(wǎng)絡(luò)謠言除以上特點外，還呈現(xiàn)出“定制化生成”“精準(zhǔn)化傳播”和“智能化擴散”的趨勢。深度偽造技術(shù)強化了多模態(tài)謠言的逼真性和場景化，生成式人工智能能夠針對特定目標(biāo)定制謠言，并在算法加持下，讓謠言傳播鏈條的傳播能力更強大[5]。作為一種系統(tǒng)性風(fēng)險，呈現(xiàn)上述特征的網(wǎng)絡(luò)謠言傳播會對社會信息生態(tài)與社會信任體系產(chǎn)生極大破壞，加強對網(wǎng)絡(luò)謠言的管控迫在眉睫。本文結(jié)合互聯(lián)網(wǎng)平臺和媒體機構(gòu)的探索實踐，嘗試從信源、內(nèi)容、傳播三個層面提出智能化的網(wǎng)絡(luò)謠言甄別與管控策略。

（一）信源層面：加強賬號行為監(jiān)測，打擊謠言生產(chǎn)信源

從信源心理角度出發(fā)，網(wǎng)絡(luò)輿情事件中的謠言通常是基于一定利益動機、社會心理發(fā)布和傳播的，而網(wǎng)民的網(wǎng)絡(luò)行為是其態(tài)度的行動成分在網(wǎng)絡(luò)上的具體表現(xiàn)?；谟脩舻幕拘畔⒑托袨閿?shù)據(jù)，分析其利益結(jié)構(gòu)、心理動機和行為特點，研究形成“謠言發(fā)布心理”的情緒閾值和行為特征指標(biāo)，建設(shè)謠言傳播者畫像庫，構(gòu)建聚焦網(wǎng)絡(luò)謠言場景下的用戶信用度評級體系，實現(xiàn)可疑信源的判別和預(yù)警。同時基于“智能合約”等技術(shù)，進行自動化的階梯式賬號管理，以此約束平臺用戶行為，從源頭上減少網(wǎng)絡(luò)謠言的傳播。例如，F(xiàn)acebook規(guī)定用戶每天分享內(nèi)容超50次或反復(fù)傳播虛假內(nèi)容，將無法使用廣告投放等功能，發(fā)布的內(nèi)容也會被平臺降級處理。谷歌也采取了積極的措施來打擊謠言散布者和以欺騙排名算法系統(tǒng)來獲得更多可見性內(nèi)容的創(chuàng)作者。同時，根據(jù)“陪審團定理”①，大量低信用度的個體可以實現(xiàn)非常高的可靠性，根據(jù)用戶信用記錄來計算用戶對新發(fā)內(nèi)容反饋的先驗概率，也能夠幫助判定傳播內(nèi)容的可信度。阿里巴巴設(shè)計了一套涵蓋發(fā)布信息、社交畫像、用戶反饋、傳播路徑等在內(nèi)的謠言判定系統(tǒng)，將謠言識別與社交用戶觀點識別打通分析，能夠快速鑒別網(wǎng)絡(luò)謠言。

其次，針對社交媒體和短視頻平臺上網(wǎng)絡(luò)謠言的集群傳播現(xiàn)象，可以基于網(wǎng)絡(luò)結(jié)構(gòu)對謠言的傳播路徑以及與網(wǎng)絡(luò)用戶關(guān)系等傳播鏈進行綜合分析，實現(xiàn)對網(wǎng)絡(luò)謠言的跟蹤、溯源和取證，實施針對性治理。人民網(wǎng)與人民中科聯(lián)合發(fā)布的跨模態(tài)智能內(nèi)容搜索引擎“白澤”，是對全網(wǎng)海量內(nèi)容進行高通量感知、機器理解、智能檢索并自主進化的計算平臺。在溯源辟謠方面，“白澤”能夠基于海量媒體內(nèi)容，提供圖形、音頻、視頻、文本等多種形態(tài)的全網(wǎng)快速比對，通過對內(nèi)容在各網(wǎng)絡(luò)平臺的轉(zhuǎn)發(fā)、引用等傳播鏈綜合分析，提供網(wǎng)絡(luò)謠言的跟蹤、溯源、取證、辟謠等技術(shù)支撐。2024年3月推出的“白澤”跨模態(tài)數(shù)據(jù)計算一體機可實現(xiàn)跨模態(tài)內(nèi)容的理解、檢索、問答和生成，進一步提升了溯源、風(fēng)控、鑒偽等計算服務(wù)能力。谷歌發(fā)布的“反向圖像搜索”（Reverse Image Search）溯源工具，能夠使用戶快速找到圖片和視頻來源，幫助判定信息真實性。同時，也可以通過監(jiān)測和分析群體性傳播行為，識別不同集群網(wǎng)絡(luò)中關(guān)鍵節(jié)點的網(wǎng)絡(luò)位置及相鄰節(jié)點的拓?fù)浣Y(jié)構(gòu)，結(jié)合節(jié)點的傳播狀態(tài)進行實時監(jiān)測與綜合評估，通過干預(yù)關(guān)鍵節(jié)點行為，破壞謠言集群的同質(zhì)性來降低謠言影響力。英國科技公司 Fabula AI利用幾何深度學(xué)習(xí)（Geometric Deep Learning）的方法，著眼于信息如何在社交網(wǎng)絡(luò)上傳播以及誰在傳播，通過合并用戶特征、用戶間社交網(wǎng)絡(luò)互動等異質(zhì)數(shù)據(jù)開展分析，來判定內(nèi)容可信程度，對內(nèi)容進行分類和評分，并通過可視化方式展現(xiàn)謠言傳播的特征差異。

此外，網(wǎng)絡(luò)輿情中大量謠言來自于社交機器人賬號，其隱蔽性和不透明性加劇了人們獲取信息來源的不確定性，所形成的僵尸網(wǎng)絡(luò)（botnet）也會在短時間內(nèi)產(chǎn)生大規(guī)模誤導(dǎo)信息，影響公眾認(rèn)知判斷，并通過對真實傳播網(wǎng)絡(luò)的快速滲透，成為中心節(jié)點從而擴大輿論影響，引發(fā)信息失序。社交機器人也被廣泛應(yīng)用于國際輿論戰(zhàn)中，通過推動標(biāo)簽活動、標(biāo)簽劫持、充當(dāng)意見領(lǐng)袖等方式來操縱輿論、抹黑對手[6]。目前，通過追蹤原發(fā)文源平臺是否為自動化平臺來判定機器人賬號是較為常見的做法，判別方法包括行為模式分析、內(nèi)容文本分析、流量異常檢測、社交網(wǎng)絡(luò)分析、用戶元數(shù)據(jù)分析等。例如，BotOrNot 社交機器人評估系統(tǒng)是 Twitter 公開的第一個檢測社交機器人的接口，該系統(tǒng)能夠通過分類算法對用戶賬號的元數(shù)據(jù)以及交互模式、發(fā)布內(nèi)容、社交關(guān)系等數(shù)據(jù)進行分析，生成1000多種特征值，用以判斷賬號屬于惡意機器人的可能性?；ヂ?lián)網(wǎng)平臺應(yīng)建立完善的人機審核制度，通過對機器人創(chuàng)建的賬號采取標(biāo)注、監(jiān)測、封禁等措施，有效干預(yù)網(wǎng)絡(luò)謠言的異常協(xié)同行為。

（二）內(nèi)容層面：利用智能識別技術(shù)，降低謠言擴散風(fēng)險

在內(nèi)容層面，可以利用網(wǎng)絡(luò)謠言檢測技術(shù)和算法，實現(xiàn)網(wǎng)絡(luò)謠言文本識別。結(jié)合謠言文本的內(nèi)容特征、話語特征、產(chǎn)生機理等規(guī)律，利用謠言檢測技術(shù)通過自然語言處理、社交挖掘、機器學(xué)習(xí)等智能處理方法，對謠言進行鑒別與認(rèn)定，也可以利用謠言粉碎機等算法分析詞匯和信息源特征來判定文本可信度，或以大數(shù)據(jù)和仿人工神經(jīng)的情緒模擬來推測文本內(nèi)容可能對公眾帶來的情緒反應(yīng)，幫助判斷內(nèi)容的真實性，進而對可疑謠言進行預(yù)警、標(biāo)識、刪除等管控。騰訊利用自然語言處理、大數(shù)據(jù)等技術(shù)，從內(nèi)容、標(biāo)題等多維度所對應(yīng)的表征對信息是否為謠言進行判定。舊金山人工智能基金會（AI Foundation）開發(fā)的Reality Defender系統(tǒng)，利用人工智能驅(qū)動的分析技術(shù)幫助識別 AI 算法生成內(nèi)容，提高謠言檢測效率[7]。2023年，谷歌更新了檢測虛假內(nèi)容的機器學(xué)習(xí)算法，對網(wǎng)絡(luò)謠言和虛假評論的識別效率提升了45%，同時能夠?qū)Ξ惓鞑バ袨楹凸裟Ｊ竭M行捕獲。

其次，打造跨模態(tài)內(nèi)容數(shù)據(jù)庫與智能搜索引擎，實現(xiàn)多種形態(tài)謠言的精準(zhǔn)識別。謠言識別通常采用基于神經(jīng)網(wǎng)絡(luò)的機器學(xué)習(xí)方法提取特征，并與已有數(shù)據(jù)庫對比的方式進行檢測[8]。為應(yīng)對多模態(tài)謠言識別難的問題，通過豐富謠言在多模態(tài)上的基礎(chǔ)表征，構(gòu)建健康、常識等重點領(lǐng)域的知識圖譜，訓(xùn)練突發(fā)、敏感等輿情事件的主題模型等完善謠言數(shù)據(jù)庫建設(shè)，進一步強化對比檢測手段。中科聞歌研發(fā)了“紅旗”融媒體平臺，基于跨模態(tài) AI 技術(shù)，實現(xiàn)了文本、圖片、視頻全網(wǎng)跨渠道的檢索、計算、關(guān)聯(lián)與分析，構(gòu)建了覆蓋海內(nèi)外42個語種、多傳播渠道的開源資訊數(shù)據(jù)庫，為網(wǎng)絡(luò)謠言的自動識別和謠言內(nèi)容及傳播賬號的溯源提供了基礎(chǔ)。騰訊較真采用“自主生產(chǎn)+外部授權(quán)”的形式接入全網(wǎng)各平臺的辟謠文章，構(gòu)建辟謠數(shù)據(jù)庫，來反哺平臺謠言識別和檢測能力，并通過搜索服務(wù)精準(zhǔn)打擊謠言。密度推出“跨模態(tài)信息檢索系統(tǒng)”，能夠?qū)碓从谌W(wǎng)的多模態(tài)海量信息映射到統(tǒng)一語義空間，進行自動理解、關(guān)聯(lián)關(guān)鍵要素，檢索出相同語義的視頻，快速識別謠言及其來源，為相關(guān)部門辟謠提供有力支撐。

第三，利用人工智能內(nèi)容風(fēng)控模型，實現(xiàn)AIGC內(nèi)容有效性驗證。AIGC內(nèi)容生產(chǎn)成本低，可規(guī)?；茉诙虝r間內(nèi)生成大量信息，相比于真實構(gòu)圖，AIGC生成內(nèi)容的自由度更高、更復(fù)雜，這為網(wǎng)絡(luò)平臺內(nèi)容審核帶來了挑戰(zhàn)。針對這一難題，依托人民網(wǎng)建設(shè)的傳播內(nèi)容認(rèn)知全國重點實驗室研發(fā)了“天目”智能識別系統(tǒng)，采用算法融合與知識驅(qū)動的人工智能框架，使用深度建模來捕捉困惑度、突現(xiàn)頻次等隱式特征，學(xué)習(xí)得到機器生成文本與人工生成文本的分布差異，實現(xiàn)對AI生成文本、圖形、視頻內(nèi)容的精準(zhǔn)識別，深度偽造內(nèi)容的有效檢測，并對合成手段進行追根溯源，有效防范虛假信息。網(wǎng)易易盾也研發(fā)了針對圖片、音頻、視頻的“深度偽造檢測”技術(shù)，從數(shù)據(jù)源頭入手，通過模擬擴充攻擊數(shù)據(jù)，以培訓(xùn)計算機檢測AI合成內(nèi)容，實現(xiàn)“人臉鑒偽”與“聲紋鑒偽”。瑞萊智慧RealAI 推出深度偽造內(nèi)容檢測平臺DeepReal，通過識別偽造與真實內(nèi)容的表征差異，挖掘不同生成途徑的深度偽造內(nèi)容一致性特征，實現(xiàn)對圖像、音頻、視頻等多種模態(tài)內(nèi)容的真?zhèn)涡詸z測，有效輔助打擊虛假宣傳、證據(jù)造假等違法行為。

（三）傳播層面：建設(shè)聯(lián)合共治機制，阻斷謠言傳播渠道

針對已經(jīng)進入到信息傳播通道的謠言內(nèi)容，應(yīng)盡可能壓縮網(wǎng)絡(luò)謠言的生存空間，降低謠言在網(wǎng)絡(luò)輿論場可能產(chǎn)生的負(fù)面風(fēng)險。根據(jù)網(wǎng)絡(luò)謠言的鏈狀傳播、樹狀傳播、放射狀傳播、漩渦型復(fù)式傳播等特殊的傳播模式[9]，以及話題標(biāo)簽、推廣策略、鏈接引流等傳播特點快速識別謠言，在不同傳播階段，實施針對性阻斷措施。例如，在冷啟動階段，降低與輿情事件關(guān)聯(lián)的可疑信息的推薦權(quán)重，或通過算法優(yōu)化排序機制，弱化網(wǎng)絡(luò)謠言帶來的負(fù)面影響。Facebook會降低有爭議的新聞的排序，不會再進行推廣，并對其進行標(biāo)注和提示，點擊提示鏈接，用戶能夠看到爭議內(nèi)容的源鏈接。谷歌也采取了類似方法，對虛假信息進行排名降級，避免這些信息置頂，針對“突發(fā)新聞”，谷歌通過機器學(xué)習(xí)等方式，訓(xùn)練系統(tǒng)自動識別假消息，并將用戶搜索結(jié)果導(dǎo)向權(quán)威性和可信度更高的條目。

第二，網(wǎng)信部門和互聯(lián)網(wǎng)平臺共同致力于提高辟謠信息的傳播覆蓋面和精準(zhǔn)觸達率。全國網(wǎng)絡(luò)辟謠聯(lián)動機制由中央宣傳部指導(dǎo)、中央網(wǎng)信辦牽頭，41家中央和國家機關(guān)部門、人民團體為成員單位，地方網(wǎng)信部門、中央主要新聞單位、權(quán)威科普機構(gòu)、大型商業(yè)網(wǎng)站平臺為參與單位。2023年9月，全國網(wǎng)絡(luò)辟謠聯(lián)動機制第一次全體會議強調(diào)“要堅持效果導(dǎo)向，擴大網(wǎng)絡(luò)辟謠傳播力影響力；要堅持突出重點，切實加強重點領(lǐng)域網(wǎng)絡(luò)辟謠；要堅持重拳出擊，堅決打擊造謠傳謠惡劣行為”等。同月，北京市委網(wǎng)信辦指導(dǎo)包括微博、抖音、快手、百度、知乎、騰訊網(wǎng)在內(nèi)的11家重點網(wǎng)絡(luò)平臺在熱搜熱榜設(shè)置“固定辟謠位”，統(tǒng)一標(biāo)注“辟謠”標(biāo)簽，全面推送呈現(xiàn)辟謠稿件，有效提高辟謠信息的觸達范圍?；ヂ?lián)網(wǎng)平臺方面，今日頭條搭建 GUARD 反謠言系統(tǒng)，建立謠言知識庫，快速識別謠言及其首發(fā)賬號，對謠言進行標(biāo)記和攔截，對涉事賬號進行處罰，并向瀏覽謠言的用戶進行定向辟謠，在網(wǎng)絡(luò)熱點事件發(fā)生后，“頭條辟謠”賬號會快速發(fā)布辟謠信息。百度也構(gòu)建了辟謠平臺數(shù)據(jù)庫，通過引入全國網(wǎng)警等官方機構(gòu)和各領(lǐng)域?qū)＜覍W(xué)者，可以鑒別謠言并針對性產(chǎn)出辟謠文章，再通過辟謠信息分發(fā)機制傳遞給廣大網(wǎng)民。

第三，利用事實打擊謠言，需要發(fā)揮多主體協(xié)同治理效能。除了政府部門及時、高質(zhì)量的信息公開和推進事件處置，專業(yè)媒體積極還原事實真相、主動發(fā)聲引導(dǎo)輿論外，也可以探索利用區(qū)塊鏈技術(shù)提升謠言識別效率并充分調(diào)動群眾能動性，共同營造良好的信任環(huán)境，消除謠言滋生溫床。區(qū)塊鏈技術(shù)具有去中心、難篡改、自治性等特征，能夠增加信息透明度，一旦信息被偽造，區(qū)塊鏈會暴露其惡意行為，也能夠用來追蹤謠言傳播路徑與來源。同時，基于區(qū)塊鏈的信任機制和共識機制，通過構(gòu)建網(wǎng)絡(luò)謠言證偽專區(qū)，能夠?qū)崿F(xiàn)公眾參與的“眾包式”事實核查。Userfeeds 依托區(qū)塊鏈技術(shù)打造公開透明、能被公眾審查的新聞內(nèi)容平臺及其配套排名算法，基于內(nèi)容生產(chǎn)者“評估證明”，在信息推送給用戶之前，實現(xiàn)虛假內(nèi)容的有效過濾。Steemit 平臺基于區(qū)塊鏈技術(shù)通過設(shè)計實現(xiàn)包括用戶申請審查制、謠言界定投票制、內(nèi)容浮現(xiàn)動態(tài)化在內(nèi)的各項機制，實現(xiàn)對平臺上內(nèi)容的流程管控，強化多主體甄別謠言能力，從而限制和減少網(wǎng)絡(luò)謠言在平臺上的傳播。

第四，針對可能演化為社會輿情的網(wǎng)絡(luò)謠言及其擴散可能帶來的不良價值導(dǎo)向和意識形態(tài)風(fēng)險，要進一步強化輿情監(jiān)測研判、網(wǎng)民情緒疏導(dǎo)和內(nèi)容風(fēng)控能力。網(wǎng)絡(luò)輿情事件中的謠言傳播是社會情緒的鏡像，對網(wǎng)民行為和情感的分析有利于更好地把握公眾訴求。對此，ChatGPT 依托強大的語言理解、文本分析和情緒識別能力，能夠基于網(wǎng)民語言和符號更深刻地理解網(wǎng)絡(luò)情緒所具備的輿情內(nèi)涵，有效提升輿情精準(zhǔn)研判水平[10]，并通過模型訓(xùn)練準(zhǔn)確預(yù)測輿情發(fā)展方向，同時依托其內(nèi)容生成能力，能夠針對不同網(wǎng)民群體特征實施分眾化輿情引導(dǎo)。而為了更好地自主研發(fā)和訓(xùn)練此類大模型來強化主流輿論導(dǎo)向，凝聚社會共識，人民網(wǎng)開發(fā)建設(shè)“人民網(wǎng)主流價值語料庫”，助力提高大模型導(dǎo)向安全水平，防范 AIGC 生成謠言風(fēng)險，有效提升主流媒體輿論糾偏能力。同時，人民網(wǎng)數(shù)據(jù)中心依托業(yè)內(nèi)最大的輿情數(shù)據(jù)庫和人民網(wǎng)輿情監(jiān)測系統(tǒng)，致力于為黨政機構(gòu)、企事業(yè)單位和社會團體提供精準(zhǔn)的熱點事件社會情緒感知、網(wǎng)絡(luò)輿情風(fēng)險監(jiān)測和態(tài)勢分析研判等全鏈條智能輿情服務(wù)，截至2023年底，已為3000多起危機事件提供應(yīng)對策略支持，有效降低社會輿情風(fēng)險帶來的負(fù)面影響。齊魯壹點也推出了“鷹眼智能校審系統(tǒng)”，通過 NLP、OCR 等技術(shù)構(gòu)建具有主流價值觀的黨媒算法模型，能夠有效識別多模態(tài)內(nèi)容中的虛假信息、意識形態(tài)偏見等違規(guī)內(nèi)容。

結(jié)語

網(wǎng)絡(luò)謠言易引發(fā)網(wǎng)絡(luò)輿情，網(wǎng)絡(luò)輿情易滋生網(wǎng)絡(luò)謠言，兩者的相互作用在智媒時代的今天表現(xiàn)得更加明顯，對網(wǎng)絡(luò)環(huán)境和社會發(fā)展的負(fù)面影響也更加突出。網(wǎng)絡(luò)輿情事件中的謠言傳播具有特殊性，并借由定制生產(chǎn)、算法分發(fā)、智能傳播、社交機器人介入等方式，進一步實現(xiàn)了隱蔽流動、靶向傳染、集中爆發(fā)和極化偏向，網(wǎng)絡(luò)謠言也必然會伴隨技術(shù)的發(fā)展與人類長期共存，并不斷呈現(xiàn)出新的特點。對此，應(yīng)以 AI 治理 AI，充分利用新技術(shù)、新應(yīng)用、新方法，從網(wǎng)絡(luò)謠言的信源、內(nèi)容、傳播等層面的新特征出發(fā)，探索貫穿信息生產(chǎn)傳播全鏈路的針對性、智能化甄別與管控手段，充分發(fā)揮多主體協(xié)同治理效能，將有效助力于社會共識的形成和網(wǎng)絡(luò)輿情的治理，營造清朗、健康、有序的網(wǎng)絡(luò)空間。

注釋：

①陪審團定理，也稱為孔多塞陪審團定理，是一種關(guān)于群體決策的理論，它指出在特定條件下，群體的智慧可能會超越個體。該定理的核心在于，當(dāng)參與者的知識水平普遍較高時，群體的共識更有可能達到正確的結(jié)果。

參考文獻：

[1][英]赫克托·麥克唐納.后真相時代[M].北京：民主與建設(shè)出版社，2019：12.

[2]馮雯璐，蘇健威等.社會民生事件中網(wǎng)絡(luò)輿情演化與引導(dǎo)機制研究[J].情報雜志，2022（8）：112-120.

[3]楊梟梟，王唯瀅.社交機器人參與網(wǎng)絡(luò)偽科學(xué)認(rèn)知傳播的機理研究[J].青年記者，2024（2）：23-30.

[4]林之達.傳播心理學(xué)教程[M].北京：北京大學(xué)出版社，2012：18.

[5]警惕網(wǎng)絡(luò)謠言智能化[EB/OL].（2023-05-08）[2024-04-07].https：//www.zjwx.gov.cn/art/2023/5/8/art_1673572_58873161.html.

[6]趙蓓，張洪忠，任吳炯等.標(biāo)簽、賬號與敘事：社交機器人在俄烏沖突中的輿論干預(yù)研究[J].新聞與寫作，2022（9）：89-99.

[7]李凈.國際視野下治理虛假新聞的技術(shù)手段及相關(guān)模型[J].中國傳媒科技，2021（8）：17-21.

[8]元鵬，曹娟，盛強.語義增強的多模態(tài)虛假新聞檢測[J].計算機研究與發(fā)展，2021（7）：1456-1465.

[9]李倩倩，劉怡君，馬寧等.基于智庫雙螺旋法的輿情治理與智庫研究[J].中國科學(xué)院院刊，2022（6）：773-782.

[10]丁曉蔚，趙鑫，劉梓航，劉天昊.輿情精準(zhǔn)研判中的ChatGPT：“大數(shù)據(jù)、大模型、大計算”范式驅(qū)動的理論與應(yīng)用探索[J].傳媒觀察，2024（3）：53-72.

作者信息：馮雯璐，人民網(wǎng)研究院助理研究員、博士；劉乃榕，人民網(wǎng)傳播內(nèi)容認(rèn)知全國重點實驗室助理研究員、博士；田曉麗，人民網(wǎng)研究院編輯、碩士。