AI時(shí)代網(wǎng)絡(luò)謠言傳播問題及對(duì)策分析

摘要：隨著人工智能技術(shù)的發(fā)展，AI工具被不法分子用于生成網(wǎng)絡(luò)謠言。這些工具降低了造謠的成本和門檻，使謠言的批量生產(chǎn)和傳播變得更加容易。互聯(lián)網(wǎng)平臺(tái)在為用戶提供個(gè)性化信息推薦服務(wù)的同時(shí)，給網(wǎng)絡(luò)謠言傳播帶來圈群化、形成“信息繭房”、加劇群體極化和價(jià)值異化等負(fù)面影響。面對(duì)AI時(shí)代網(wǎng)絡(luò)謠言的傳播，現(xiàn)有治理模式需要升級(jí)。文章分析網(wǎng)絡(luò)謠言如何在AI時(shí)代傳播，以及網(wǎng)絡(luò)謠言傳播呈現(xiàn)的新趨勢(shì)，認(rèn)為AI時(shí)代網(wǎng)絡(luò)謠言傳播門檻降低，且謠言傳播更加復(fù)雜化、多元化。文章針對(duì)AI時(shí)代網(wǎng)絡(luò)謠言治理提出多元共治建議，認(rèn)為完善法律法規(guī)、加大對(duì)造謠者的處罰力度是治理AI謠言的重要手段。此外，提高公眾的媒介素養(yǎng)和法律意識(shí)，以及多方組織和個(gè)體共同參與，也是有效應(yīng)對(duì)AI謠言的關(guān)鍵。

關(guān)鍵詞：AI時(shí)代；網(wǎng)絡(luò)謠言；信息繭房；傳播；對(duì)策

中圖分類號(hào)：G206 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：1674-8883（2024）19-0010-04

一、引言

謠言通常指的是未經(jīng)證實(shí)或缺乏可靠來源，在公眾中傳播并可能引起恐慌、誤解或其他社會(huì)影響的言論或報(bào)道[1]。網(wǎng)絡(luò)謠言則是指通過互聯(lián)網(wǎng)渠道傳播的未經(jīng)證實(shí)或缺乏可靠來源的信息，這些信息可能包含誤導(dǎo)性或虛假內(nèi)容。因此，網(wǎng)絡(luò)謠言本質(zhì)上就是謠言在網(wǎng)絡(luò)上的傳播。

網(wǎng)絡(luò)信息時(shí)代，謠言的傳播對(duì)網(wǎng)民更具沖擊力，謠言鋪天蓋地。與一般謠言最大的不同在于，網(wǎng)絡(luò)謠言的傳播多以網(wǎng)絡(luò)文字和多媒體為載體，傳播媒介變成了網(wǎng)絡(luò)平臺(tái)。

二、AI時(shí)代網(wǎng)絡(luò)謠言的新趨勢(shì)

（一）傳播技術(shù)發(fā)展降低謠言的傳播門檻

與大眾傳播時(shí)代內(nèi)容推動(dòng)謠言發(fā)展有所不同，在人工智能背景下，網(wǎng)絡(luò)謠言的傳播更多依靠互聯(lián)網(wǎng)技術(shù)。隨著互聯(lián)網(wǎng)技術(shù)的進(jìn)步，依賴大數(shù)據(jù)推送已成為平臺(tái)“靶向”定位客戶的有效手段。平臺(tái)通過分析用戶的搜索和瀏覽記錄，精確繪制用戶畫像，針對(duì)性地推送各種信息，包括虛假信息和謠言[2]。

同時(shí)，“沉默的螺旋”“群體效應(yīng)”“信息繭房”等現(xiàn)象在人工智能技術(shù)迅速發(fā)展的背景下困擾著受眾。在相對(duì)單一和重復(fù)的信息推送中，謠言的可信度提高，使受眾容易陷入其中，并且深信不疑。例如，在“胖貓”事件中，一些網(wǎng)民為了博取流量，編造謠言，累計(jì)點(diǎn)贊達(dá)數(shù)千次，造成了惡劣的社會(huì)影響。

在謠言傳播中，圖片、視頻等素材在智能剪輯、AI換臉、后期配音等技術(shù)的加持下顯得愈發(fā)“真實(shí)”，令人難辨真假，憑借強(qiáng)大的視覺沖擊力在互聯(lián)網(wǎng)平臺(tái)傳播。普通受眾往往難以鑒別這類網(wǎng)絡(luò)謠言，這給了謠言制造者可乘之機(jī)，其憑借極具煽動(dòng)性的語言生產(chǎn)與傳播謠言，對(duì)社會(huì)秩序和個(gè)人權(quán)益造成巨大威脅。

AI時(shí)代，AI技術(shù)大幅降低了造謠的成本和門檻。利用AI技術(shù)能夠快速高效地生產(chǎn)虛假信息，造謠者能夠以極低的成本批量生產(chǎn)謠言，并迅速傳播到各大網(wǎng)絡(luò)平臺(tái)[3]。AI軟件可以通過提供關(guān)鍵字自動(dòng)在網(wǎng)絡(luò)上抓取相關(guān)信息，并結(jié)合熱點(diǎn)新聞和隨機(jī)音視頻素材進(jìn)行批量化生產(chǎn)。同時(shí)，為實(shí)現(xiàn)更大范圍的傳播，AI生成的謠言通常以視頻形式呈現(xiàn)，這種形態(tài)契合了網(wǎng)民“有圖有視頻就有真相”的認(rèn)知心理，使這些謠言一經(jīng)上網(wǎng)就能迅速傳播。

今日頭條在2018年發(fā)布的《3·15今日頭條資訊打假報(bào)告》對(duì)近3萬名用戶進(jìn)行了調(diào)研。結(jié)果顯示，認(rèn)為網(wǎng)絡(luò)謠言現(xiàn)象嚴(yán)重的受訪者占比達(dá)55.72%，認(rèn)為網(wǎng)絡(luò)謠言對(duì)社會(huì)造成嚴(yán)重危害的受訪者高達(dá)70.75%。在今日頭條攔截到的各類謠言中，視頻類謠言占比近一半，謠言發(fā)文時(shí)間與普通用戶瀏覽信息高峰期重合，集中在21點(diǎn)至22點(diǎn)。今日頭條采用技術(shù)與人工審核相結(jié)合的方式，以大幅提升抵御謠言的能力。通過技術(shù)手段，實(shí)現(xiàn)對(duì)謠言的精準(zhǔn)打擊，并確保權(quán)威的辟謠信息能夠準(zhǔn)確無誤地推送給曾接觸過謠言的用戶[4]。

（二）謠言傳播渠道復(fù)雜化、多元化

第53次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示，截至2023年12月，我國手機(jī)網(wǎng)民規(guī)模達(dá)10.91億人，網(wǎng)民使用手機(jī)上網(wǎng)的比例為99.9%。同時(shí)，即時(shí)通信用戶、網(wǎng)絡(luò)視頻用戶規(guī)模分別為10.6億、10.67億人。人工智能背景下的謠言傳播具備快捷、大眾化、互動(dòng)性強(qiáng)的特點(diǎn)，提高了用戶的參與度。隨著抖音、快手等互聯(lián)網(wǎng)平臺(tái)成為網(wǎng)絡(luò)謠言的傳播渠道，新媒體傳播平臺(tái)的傳播形式更加復(fù)雜多樣，傳播內(nèi)容更加豐富，對(duì)網(wǎng)絡(luò)謠言治理提出了新的挑戰(zhàn)[5]。

AI能夠面向特定受眾精準(zhǔn)傳播謠言，這不僅具有極強(qiáng)的迷惑性，而且傳播范圍更廣[6]。社交媒體平臺(tái)的興起也讓生產(chǎn)和傳播謠言變得越來越容易，這些平臺(tái)通過算法推薦，進(jìn)一步提升了謠言的傳播力和影響力。例如，在Twitter上，虛假新聞的傳播速度是真實(shí)新聞的6倍，且被轉(zhuǎn)發(fā)概率幾乎高出70%。同時(shí)，在新媒體環(huán)境下，“網(wǎng)絡(luò)水軍”通過社交媒體等平臺(tái)發(fā)布虛假視頻和圖片操縱公眾輿論，導(dǎo)致“回聲室效應(yīng)”，即用戶只看到與自己觀點(diǎn)一致的信息，加劇了“信息繭房”的形成，從而促進(jìn)了謠言的傳播。

三、網(wǎng)絡(luò)謠言治理可利用的人工智能資源

（一）互聯(lián)網(wǎng)提供完善的網(wǎng)絡(luò)謠言數(shù)據(jù)庫

互聯(lián)網(wǎng)時(shí)代，可以建立一體化的網(wǎng)絡(luò)謠言數(shù)據(jù)庫，利用人工智能算法程序?qū)Πl(fā)布在網(wǎng)絡(luò)上的信息進(jìn)行篩查分析，迅速識(shí)別并攔截謠言，對(duì)謠言進(jìn)行全方位的監(jiān)控和處理[7]。同時(shí)在AI的支持下，利用算法程序?qū)ヂ?lián)網(wǎng)上傳播的信息進(jìn)行監(jiān)控，一經(jīng)算法程序識(shí)別出謠言，便可立即攔截，這樣可以最大限度減少謠言傳播。

（二）“AI謠言粉碎機(jī)”對(duì)謠言精確進(jìn)行監(jiān)控和辟謠

“AI謠言粉碎機(jī)”依托大數(shù)據(jù)平臺(tái)建立綜合辟謠機(jī)制，通力協(xié)作，能夠有效打擊網(wǎng)絡(luò)謠言。2019年，阿里巴巴發(fā)布的“AI謠言粉碎機(jī)”在特定場景中的準(zhǔn)確率已經(jīng)達(dá)到81%，利用AI技術(shù)有效遏制社交媒體和網(wǎng)絡(luò)新聞中謠言的傳播[8]。

面對(duì)海量的網(wǎng)絡(luò)信息，“AI謠言粉碎機(jī)”能夠精準(zhǔn)識(shí)別信源，對(duì)用戶資料進(jìn)行深度剖析，作為判斷信源是否可靠的重要依據(jù)。然后對(duì)信息內(nèi)容進(jìn)行判斷，與權(quán)威信息比對(duì)，針對(duì)謠言文本特征進(jìn)行精準(zhǔn)辨別，判斷內(nèi)容的可信程度。同時(shí)，能夠深入分析謠言的傳播路徑。謠言在傳播的過程中會(huì)產(chǎn)生各種不同的觀點(diǎn)，“AI謠言粉碎機(jī)”能夠?qū)λ袘B(tài)度進(jìn)行權(quán)重分析，有效鑒別信息的真實(shí)性，快速攔截謠言。

（三）AI在信息公開和澄清謠言方面具有顯著優(yōu)勢(shì)

傳播學(xué)者克羅斯提出謠言傳播的公式：謠言的傳播=事件重要性×事件模糊性÷公眾批判能力[9]。由此可知，謠言的傳播影響力與公眾對(duì)信息的判斷能力密切相關(guān)。AI時(shí)代，克羅斯提出的謠言傳播公式仍然適用。提高信息透明度，讓公眾最大限度接收信息，才能有效阻止謠言的傳播。

AI技術(shù)能夠在較短的時(shí)間內(nèi)處理和分析大量數(shù)據(jù)，從而迅速識(shí)別和澄清謠言。同時(shí)，AI通過深度學(xué)習(xí)，可以對(duì)網(wǎng)絡(luò)上復(fù)雜的信息進(jìn)行精準(zhǔn)分析和驗(yàn)證。

利用AI辟謠通常會(huì)邀請(qǐng)各領(lǐng)域的專家參與，提升辟謠內(nèi)容的權(quán)威性和準(zhǔn)確性。中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺(tái)推出的《澄清謬誤、傳遞真相》系列訪談就涵蓋了健康、醫(yī)療、經(jīng)濟(jì)、科技等多個(gè)領(lǐng)域，對(duì)常見謠言進(jìn)行分析，幫助公眾提高網(wǎng)絡(luò)媒介素養(yǎng)，提升公眾對(duì)網(wǎng)絡(luò)信息的判斷力，削弱網(wǎng)絡(luò)謠言傳播的影響力。

四、AI時(shí)代網(wǎng)絡(luò)謠言傳播治理途徑

（一）發(fā)揮技術(shù)在網(wǎng)絡(luò)謠言治理中的基礎(chǔ)性作用

在構(gòu)建媒體平臺(tái)時(shí)，需在理念與姿態(tài)上堅(jiān)守算法向善的原則，秉持社會(huì)主義核心價(jià)值觀，并嚴(yán)格遵守相關(guān)法律法規(guī)[10]。同時(shí)，要不斷創(chuàng)新發(fā)展謠言辨識(shí)工具，加大對(duì)社交媒體信息的監(jiān)管力度。網(wǎng)絡(luò)平臺(tái)開發(fā)者扮演著算法推薦創(chuàng)造者的角色，也肩負(fù)著對(duì)平臺(tái)信息的監(jiān)管職責(zé)。目前，今日頭條和抖音等頭部媒體都在通過技術(shù)手段加強(qiáng)對(duì)網(wǎng)絡(luò)謠言的監(jiān)管。

網(wǎng)絡(luò)運(yùn)營商可以利用技術(shù)手段將網(wǎng)絡(luò)謠言治理的關(guān)口前置，如采用敏感詞篩選、AI信息驗(yàn)證技術(shù)和大數(shù)據(jù)分析方法等，建立完整的預(yù)警及監(jiān)控系統(tǒng)。通過對(duì)潛在不實(shí)信息進(jìn)行細(xì)致的檢驗(yàn)和評(píng)估，可以有效遏制網(wǎng)絡(luò)不實(shí)言論的擴(kuò)散。

面對(duì)網(wǎng)絡(luò)上紛繁復(fù)雜的謠言，平臺(tái)應(yīng)加強(qiáng)人工審核。面對(duì)高熱度的網(wǎng)絡(luò)謠言，應(yīng)運(yùn)用相關(guān)技術(shù)迅速定位信息的首發(fā)者，并由審核人員向其確認(rèn)信息的真實(shí)性。

（二）發(fā)揮政府部門在網(wǎng)絡(luò)謠言治理中的主導(dǎo)作用

政府部門應(yīng)與其他主體合作，打通不同主體之間的壁壘，在治理中形成立體式、聯(lián)合式、常態(tài)化的高效治理模式。政府部門要充分發(fā)揮主導(dǎo)作用。政府部門在治理謠言的過程中要采取多管齊下的綜合管理方法，包括增強(qiáng)防范意識(shí)、及時(shí)回應(yīng)、發(fā)揮預(yù)警職能等[11]。除此之外，政府部門還可以通過部署開展專項(xiàng)行動(dòng)，依法打擊網(wǎng)絡(luò)謠言，凈化網(wǎng)絡(luò)環(huán)境。

強(qiáng)化政府部門對(duì)網(wǎng)絡(luò)輿論的引導(dǎo)作用，提高對(duì)社交媒體和傳播渠道職業(yè)操守的期望，確立一套完善的追蹤源頭機(jī)制，實(shí)現(xiàn)對(duì)在線平臺(tái)的持續(xù)監(jiān)管，以及對(duì)互聯(lián)網(wǎng)上不實(shí)信息的即時(shí)介入和改正。政府部門還可以通過發(fā)布權(quán)威信息，利用行政渠道和市場化渠道等多種方式，將信息迅速傳導(dǎo)至其他網(wǎng)絡(luò)主流媒體平臺(tái)，引導(dǎo)輿論方向。此外，要加大對(duì)網(wǎng)絡(luò)謠言發(fā)布、傳播的懲戒力度。

（三）完善懲治網(wǎng)絡(luò)謠言的法律法規(guī)

當(dāng)前，網(wǎng)絡(luò)謠言的管控法治化進(jìn)程持續(xù)推進(jìn)。隨著互聯(lián)網(wǎng)不斷發(fā)展，互聯(lián)網(wǎng)用戶增多，實(shí)行網(wǎng)絡(luò)實(shí)名制在一定程度上維護(hù)了網(wǎng)絡(luò)環(huán)境的和諧，能夠監(jiān)督自媒體用戶文明上網(wǎng)。相關(guān)部門就網(wǎng)絡(luò)平臺(tái)的監(jiān)管制定了嚴(yán)苛的標(biāo)準(zhǔn)[12]。

在我國，尚不存在專門針對(duì)謠言的獨(dú)立法律法規(guī)。法律在判斷網(wǎng)絡(luò)謠言、確定謠言發(fā)起者以及適用法律條件方面存在不明確性?，F(xiàn)有法律對(duì)網(wǎng)絡(luò)謠言作出了一些原則性規(guī)定，但對(duì)造謠、傳謠等違法行為的審判懲治未作詳細(xì)規(guī)定。因此，要完善懲治網(wǎng)絡(luò)謠言的法律法規(guī)，加大對(duì)造謠者的處罰力度。

（四）激發(fā)主流媒體平臺(tái)的責(zé)任意識(shí)

主流媒體平臺(tái)應(yīng)增強(qiáng)責(zé)任意識(shí)，不能一味追求流量和商業(yè)利益而放松對(duì)內(nèi)容的管理[13]。不僅要對(duì)自己生產(chǎn)的內(nèi)容負(fù)責(zé)，還應(yīng)承擔(dān)起平臺(tái)衍生內(nèi)容的把關(guān)人職責(zé)。通過減少網(wǎng)絡(luò)謠言的傳播，提高媒體平臺(tái)的公信力，牢牢掌握話語權(quán)。主流媒體肩負(fù)著傳播主流意識(shí)形態(tài)、引領(lǐng)社會(huì)輿論的重要任務(wù)。要通過正確引導(dǎo)輿論，凝聚受眾共識(shí)，凈化網(wǎng)絡(luò)環(huán)境。平臺(tái)要加強(qiáng)自身管理，健全規(guī)章制度，完善運(yùn)營規(guī)則，加強(qiáng)內(nèi)容及資質(zhì)審核管理，切實(shí)履行企業(yè)主體責(zé)任，嚴(yán)格管控涉低俗色情、標(biāo)題黨、炮制謠言等行為。

（五）發(fā)揮網(wǎng)民在網(wǎng)絡(luò)平臺(tái)的主體作用

賦權(quán)公眾扮演關(guān)鍵角色，做到謠言止于智者，倡導(dǎo)網(wǎng)民在分享信息時(shí)積極肩負(fù)起責(zé)任，喚起個(gè)人參與的熱情，通過多樣化的途徑阻止謠言擴(kuò)散。網(wǎng)民是構(gòu)成網(wǎng)絡(luò)管理的核心要素，網(wǎng)民提高媒介素養(yǎng)，增強(qiáng)信息辨別能力和法律觀念是遏制網(wǎng)絡(luò)虛假信息滋生與傳播的根本?？紤]到網(wǎng)絡(luò)受眾對(duì)簡潔、迅速、新穎的視覺內(nèi)容的喜愛，推廣活動(dòng)應(yīng)利用強(qiáng)烈的視覺效果，創(chuàng)作并傳播能夠揭露網(wǎng)絡(luò)謠言和虛假信息的高質(zhì)量內(nèi)容。

提升公眾判斷力，形成不信謠、不傳謠的社會(huì)共識(shí)。美國學(xué)者克拉帕在《大眾傳播效果》一書中提出了“受眾選擇理論”。選擇性注意是指受眾在選擇信息時(shí)，更傾向于接收刺激性強(qiáng)、重復(fù)性高或與自身立場相符的內(nèi)容[14]。媒體有時(shí)會(huì)通過使用夸張的標(biāo)題來對(duì)事件進(jìn)行片面描述，他們利用公眾的好奇心理有意挑起爭議，以此激發(fā)人們的情緒，并使他們輕易相信流言蜚語。在傳播過程中，往往那些契合受眾需求和興趣的謠言會(huì)被有意識(shí)地記住，這對(duì)受眾及傳播內(nèi)容都會(huì)產(chǎn)生不利影響[15]。因此，要提高網(wǎng)民媒介素養(yǎng)，增強(qiáng)對(duì)網(wǎng)絡(luò)信息的辨別能力，以有效減緩網(wǎng)絡(luò)謠言的擴(kuò)散。

五、結(jié)語

AI在網(wǎng)絡(luò)謠言治理方面具有明顯的先天優(yōu)勢(shì)。AI時(shí)代，網(wǎng)絡(luò)謠言的治理效率得到了顯著提升。網(wǎng)絡(luò)謠言的傳播不僅會(huì)誤導(dǎo)公眾和破壞網(wǎng)絡(luò)環(huán)境，還會(huì)對(duì)社會(huì)秩序和公共安全構(gòu)成潛在威脅。網(wǎng)絡(luò)謠言的治理更是一項(xiàng)系統(tǒng)工程，需要政府、技術(shù)提供者、平臺(tái)運(yùn)營者、法律制定者以及每一個(gè)網(wǎng)民的共同努力。只有構(gòu)建一個(gè)多方參與、協(xié)同治理的網(wǎng)絡(luò)環(huán)境，才能有效遏制網(wǎng)絡(luò)謠言蔓延，保障信息的真實(shí)性和網(wǎng)絡(luò)空間健康發(fā)展。未來，隨著技術(shù)的不斷進(jìn)步和網(wǎng)絡(luò)環(huán)境的演變，需不斷更新和完善網(wǎng)絡(luò)謠言治理策略。在社會(huì)各界的共同努力下，構(gòu)建一個(gè)更加理性、健康、有序的網(wǎng)絡(luò)信息生態(tài)，形成一個(gè)多元的網(wǎng)絡(luò)謠言治理格局。

參考文獻(xiàn)：

[1] 雷霞.謠言生命力解讀：謠言概念及公式研究綜述[J].新聞?dòng)浾撸?020（11）：85-96.

[2] 閆嘉怡.新媒體時(shí)代謠言傳播治理探究[J].西部廣播電視，2021，42（24）：31-33.

[3] 李玉碧，胡曙光.人工智能時(shí)代網(wǎng)絡(luò)謠言的嬗變：基于自媒體造謠朱婷的案例分析[J].中國傳媒科技，2022（12）：25-28.

[4] 趙磊.社交媒體時(shí)代突發(fā)事件網(wǎng)絡(luò)謠言的傳播機(jī)制與治理對(duì)策[J].新聞傳播，2024（11）：18-20.

[5] 郭宏剛，楊芳.基于影響力的跨社交網(wǎng)絡(luò)謠言擴(kuò)散模型與抑制方法[J].計(jì)算機(jī)應(yīng)用與軟件，2022，39（7）：73-79，153.

[6] 李大勇.大數(shù)據(jù)時(shí)代網(wǎng)絡(luò)謠言的合作規(guī)制[J].行政法學(xué)研究，2021（1）：115-125.

[7] 任松林.信息時(shí)代網(wǎng)絡(luò)謠言治理與真實(shí)性公信力研究[J].中國報(bào)業(yè)，2024（15）：216-217.

[8] 張先. AI“謠言粉碎機(jī)”對(duì)網(wǎng)絡(luò)謠言傳播及治理的影響探析[J].新聞傳播，2019（13）：48-49.

[9] 任喆，李永鳳.人工智能參與網(wǎng)絡(luò)謠言治理的未來圖景[J].青年記者，2018（6）：79-80.

[10] 黃華.工具理性與價(jià)值引領(lǐng)共生：算法推薦下網(wǎng)絡(luò)謠言傳播問題及治理路徑[J].宜春學(xué)院學(xué)報(bào)，2023，45（11）：10-13，74.

[11] 郭全.互聯(lián)網(wǎng)時(shí)代的網(wǎng)絡(luò)謠言治理研究[J].新聞愛好者，2018（6）：29-32.

[12] 崔麗霜.重大事件網(wǎng)絡(luò)謠言傳播預(yù)防和治理研究[J].河北公安警察職業(yè)學(xué)院學(xué)報(bào)，2023，23（4）：50-53.

[13] 牟惠嫄.全媒體傳播體系中網(wǎng)絡(luò)謠言治理研究[J].新聞世界，2023（12）：29-32.

[14] 翟月熒.網(wǎng)絡(luò)謠言的傳播與治理[J].東岳論叢，2023，44（8）：150-156.

[15] 王東林.受眾選擇3S理論視角下媒體的對(duì)外傳播邏輯芻議[J].聲屏世界，2018（9）：27.

作者簡介 付陽，研究方向：新聞學(xué)。