AI時代信息疫情的挑戰(zhàn)升級與協(xié)同治理

中圖分類號：G206；TP18 文獻(xiàn)標(biāo)志碼：A 文章編號：1004-342（2025）04-23-5

當(dāng)前，信息要素已完全嵌入人們的生存方式、生產(chǎn)方式和組織方式，“全天候在線”獲取信息成為普遍現(xiàn)象。然而信息過載、信息繭房、真實(shí)信息與虛假信息的混雜傳播，也給人們帶來不少困惑和焦慮，這種因信息而導(dǎo)致的疾病，可被稱為信息疫情（Infodemic）。AI時代的到來，智能化的信息生產(chǎn)和傳播模式使“信息疫情”所產(chǎn)生的影響已超以往任何時期次生災(zāi)害。掌握AI時代信息疫情的本質(zhì)內(nèi)涵和生成傳播機(jī)理，制定有效的治理措施，對提升社會治理能力有著重要意義。

一、對信息疫情的再認(rèn)識

一般認(rèn)為，信息疫情（Infodemic）是由信息（Information）和疫情（Pandemic）組合而成。在國內(nèi)被翻譯為“信息疫情”“信息瘟疫”“信息傳染病”“信息流行病”等。信息疫情起源于真實(shí)的疫情，2003年非典疫情暴發(fā)，戴維·羅特科普夫（DavidRothkopf）在《華盛頓郵報》上第一次使用了“Infodemic”一詞，戴維·羅特科普夫認(rèn)為，“Infodemic”是一些混雜著恐懼、猜測和謠言的事實(shí)信息，在世界范圍內(nèi)被現(xiàn)代信息技術(shù)迅速放大和傳播，以與現(xiàn)實(shí)世界完全不相關(guān)的方式影響國家、地區(qū)乃至全球政治、經(jīng)濟(jì)甚至安全的現(xiàn)象。①之后“Infodemic”雖被學(xué)術(shù)界偶有提及，但影響不大。直到新冠疫情的全球蔓延，信息疫情再次引起人們的關(guān)注。2020年9月，世界衛(wèi)生組織（WHO）發(fā)布ManagingtheCOVID-19infodemic： Promoting healthy behaviours andmitigating the harm from misinformation anddisinformation一文，認(rèn)為COVID-19是歷史上第一次大規(guī)模使用技術(shù)和社交媒體來確保人們的安全、知情、高效和聯(lián)系的大流行病。與此同時，我們賴以保持聯(lián)系和知情的技術(shù)正在助長和擴(kuò)大信息疫情（Infodemic），這種流行病繼續(xù)破壞全球應(yīng)對措施，危及控制疫情的措施。②自此，信息疫情開始被業(yè)界和學(xué)界廣泛關(guān)注。此后，隨著信息疫情研究的不斷深入，信息疫情的內(nèi)涵不斷泛化。如方興東等認(rèn)為“信息疫情”的本質(zhì)是新技術(shù)背景下人類社會信息傳播的無序和失控，是民眾、媒體、國家與國際社會整體對新形勢不適應(yīng)的一次集中劇烈的爆發(fā)。③有學(xué)者指出信息疫情更多地含有“信息過多，反而使人們在需要時很難找到可靠的來源和可靠的指導(dǎo)”之意。④有學(xué)者指出，信息疫情不應(yīng)局限于公共衛(wèi)生領(lǐng)域，任何由突發(fā)事件的風(fēng)險性所引發(fā)的次生信息災(zāi)害都是信息疫情的治理范疇。③

基于上述討論，我們認(rèn)為AI時代的信息疫情可理解為：在數(shù)字信息生態(tài)中，圍繞特定議題的事實(shí)性信息與非事實(shí)性信息的（如謠言、偏見、陰謀論等）混雜傳播，導(dǎo)致公眾認(rèn)知系統(tǒng)過載、情感極化與社會信任耗損的信息生態(tài)失衡現(xiàn)象及過程?！靶畔⒁咔椤钡纳蓹C(jī)理是信息過載和信息不確定性疊加作用而成。其本質(zhì)是信息生產(chǎn)一消費(fèi)鏈條中“信息熵增”與“認(rèn)知秩序”的動態(tài)博弈，是信息生態(tài)的失序。這種狀態(tài)擾亂公眾判斷、侵蝕社會信任，最終形成與實(shí)體危機(jī)交織的系統(tǒng)性風(fēng)險。我們可以從四個維度理解信息疫情的內(nèi)涵：

第一，從生成語境來看，信息疫情孕育于多元社會情境中，包括但不限于公共危機(jī)、政治選舉、科技爭議、文化沖突等議題，其觸發(fā)點(diǎn)通常與社會認(rèn)知斷層（如專業(yè)知識壁壘、價值觀對立）或利益博弈（如商業(yè)競爭、地緣政治）密切相關(guān)。

第二，從擴(kuò)散機(jī)制來看，信息疫情依賴數(shù)字媒介的超鏈接性與算法推薦機(jī)制，形成“事實(shí)與非事實(shí)”信息的共生傳播網(wǎng)絡(luò)，并表現(xiàn)出非線性擴(kuò)散和情感裹挾邏輯（如憤怒、恐懼等高喚醒情緒內(nèi)容優(yōu)先獲得傳播勢能等）。

第三，從內(nèi)容特征來看，異質(zhì)性信息同時傳播，事實(shí)與非事實(shí)信息并非簡單對立，而是通過語義嵌套（如真假信息互為論據(jù)）模態(tài)混合（文本、圖像、視頻的多模態(tài)偽造）與語境挪用（如斷章取義引用權(quán)威信源）建構(gòu)出“半真半假”的灰色信息生態(tài)。

第四，從社會影響看，信息疫情通過三重機(jī)制瓦解社會認(rèn)知秩序。首先是認(rèn)知熵增，個體因信息過載與矛盾證據(jù)陷入“分析癱瘓”，理性決策能力下降；其次是情感極化，群體間因信息選擇差異形成對立性情感共同體；最后是信任耗散，專家系統(tǒng)、媒體機(jī)構(gòu)等傳統(tǒng)權(quán)威信源的公信力被持續(xù)侵蝕，催生“后真相”文化。

二、AI時代信息疫情的挑戰(zhàn)升級

隨著人工智能技術(shù)的迅猛發(fā)展，特別是深度偽造（Deepfake）生成式AI及算法推薦系統(tǒng)的廣泛應(yīng)用，信息疫情的產(chǎn)生和傳播面臨著前所未有的挑戰(zhàn)，具體包括：

1.生成式AI驅(qū)動的虛假信息工業(yè)化生產(chǎn)和傳播。一方面，生成式AI能夠生成看似合理、邏輯連貫的文章、回答等文本內(nèi)容，這使得制造虛假信息變得更加容易；另一方面，深度偽造技術(shù)可以將虛假的內(nèi)容完美地嵌入到真實(shí)的圖像、視頻或音頻中，讓人們難以辨別真?zhèn)巍４送?，社交平臺算法推薦機(jī)制存在顯著情緒化傾向，優(yōu)先抓取社會矛盾、極端觀點(diǎn)等高傳播性內(nèi)容構(gòu)建傳播鏈路。這種算法偏好與虛假信息的高度情緒煽動性形成共振效應(yīng)，使失真內(nèi)容在信息繭房效應(yīng)加持下呈裂變式擴(kuò)散。

2.認(rèn)知免疫系統(tǒng)的結(jié)構(gòu)性崩潰。多模態(tài)信息（如文本 + 圖像 + 音頻）通過不同感官通道（視覺皮層、聽覺皮層等）同時傳遞信息，可以形成跨模態(tài)神經(jīng)網(wǎng)絡(luò)的協(xié)同激活。研究表明，這種多通道輸人可顯著增強(qiáng)杏仁核的神經(jīng)元放電頻率，遠(yuǎn)超單一模態(tài)的刺激效果。①在這種協(xié)同激活模式下，多模態(tài)信息的認(rèn)知滲透增強(qiáng)，導(dǎo)致跨模態(tài)毒性上升，過度激活人的直覺系統(tǒng)，同時抑制理性系統(tǒng)的功能，最終造成人的雙認(rèn)知系統(tǒng)失效，認(rèn)知失衡。如在俄烏戰(zhàn)爭中，烏軍利用AI技術(shù)生成虛假的俄軍將領(lǐng)投降視頻，這一“攻心”奇招，在短短48小時內(nèi)就給俄軍士氣帶來了巨大打擊。②

三、AI時代信息疫情的協(xié)同治理路徑

“信息疫情”同現(xiàn)實(shí)疫情一樣，危害著正常社會秩序和人們的認(rèn)知與心理健康，需要在信息治理中加以防控。

1.構(gòu)建基于AI技術(shù)的全鏈條監(jiān)測與風(fēng)險防控體系。一是搭建多模態(tài)監(jiān)測體系，集成文本語義分析、圖像對抗樣本檢測、視頻光流場解析等技術(shù)模塊，構(gòu)建覆蓋全媒介的深度偽造識別網(wǎng)絡(luò)，實(shí)現(xiàn)虛假信息溯源與快速響應(yīng)。二是建立用戶行為圖譜，通過時空數(shù)據(jù)分析模型解析信息傳播的時空分布特征，結(jié)合群體畫像技術(shù)識別高風(fēng)險傳播節(jié)點(diǎn)。三是部署智能防護(hù)系統(tǒng)，采用聯(lián)邦學(xué)習(xí)框架下的差分隱私保護(hù)機(jī)制，在保障數(shù)據(jù)安全前提下實(shí)施精準(zhǔn)干預(yù)；同步開發(fā)智能合約系統(tǒng)，構(gòu)建從風(fēng)險預(yù)警到違規(guī)內(nèi)容自動下架的全周期處置閉環(huán)，形成技術(shù)治理與隱私權(quán)保護(hù)的動態(tài)平衡機(jī)制。

2.打造政府主導(dǎo)一平臺擔(dān)責(zé)一社會參與的多維治理體系。在政府層面，應(yīng)構(gòu)建AI內(nèi)容全鏈條監(jiān)管框架，建立生成內(nèi)容數(shù)字水印標(biāo)注體系，厘清算法推薦連帶責(zé)任邊界，并將深度偽造技術(shù)納入特種應(yīng)用許可管理。在平臺層面，需強(qiáng)化技術(shù)自治能力，開發(fā)多模態(tài)內(nèi)容鑒偽系統(tǒng)（集成語義指紋分析、傳播網(wǎng)絡(luò)溯源等功能），實(shí)施AIGC強(qiáng)制標(biāo)識制度，同時重構(gòu)推薦算法權(quán)重模型，降低負(fù)面信息傳播勢能，并通過安全多方計算技術(shù)實(shí)現(xiàn)跨平臺數(shù)據(jù)協(xié)作。在社會參與層面，推行“雙軌制”數(shù)字素養(yǎng)提升工程，一方面可由相關(guān)組織開發(fā)虛實(shí)信息對抗訓(xùn)練平臺，運(yùn)用認(rèn)知免疫理論設(shè)計交互式反謠課程；另一方面在社區(qū)層面建立網(wǎng)格化科普機(jī)制，通過信息溯源工作坊、數(shù)字內(nèi)容工坊等場景化培訓(xùn)，培育公眾深度媒介素養(yǎng)。

3.建立以人為核心的動態(tài)優(yōu)化干預(yù)機(jī)制。由于在信息疫情傳播鏈條中人的行為呈現(xiàn)雙重特性：一是傳播端的利益驅(qū)動型擴(kuò)散者（如黑灰產(chǎn)流量變現(xiàn)、意識形態(tài)操縱），二是接收端的認(rèn)知偏差型傳播者（如恐懼心理擴(kuò)散、確認(rèn)偏誤強(qiáng)化）。因此，人才是信息疫情治理中的核心，為此，應(yīng)構(gòu)建以人為核心的動態(tài)優(yōu)化干預(yù)機(jī)制。在信息疫情傳播行為治理層面，可運(yùn)用傳播溯源圖譜技術(shù)解析惡意傳播網(wǎng)絡(luò)，結(jié)合社會認(rèn)知理論建立“經(jīng)濟(jì)利益一傳播效能”關(guān)聯(lián)模型，精準(zhǔn)識別黑產(chǎn)傳播鏈中的關(guān)鍵節(jié)點(diǎn)。在接收行為干預(yù)層面，可開發(fā)信息認(rèn)知基線評估系統(tǒng)，通過眼動追蹤與神經(jīng)反饋技術(shù)量化公眾認(rèn)知偏差程度，設(shè)計階梯式認(rèn)知矯正方案。

四、AI時代信息疫情治理的前沿挑戰(zhàn)

在信息疫情治理過程中，存在著治理悖論。其中一個重要的方面是內(nèi)容審核與言論自由的邊界爭議。一方面，為了治理信息疫情，需要對虛假信息進(jìn)行審核和管控，這可能會涉及對某些內(nèi)容的限制。另一方面，言論自由是公民的基本權(quán)利，如何在保障言論自由的前提下進(jìn)行內(nèi)容審核成為了一個難題。例如，一些批評性的言論可能在某些情況下被誤判為虛假信息而受到限制，這就引發(fā)了關(guān)于內(nèi)容審核是否過度侵犯言論自由的爭議。同時，算法偏見導(dǎo)致的過度審查風(fēng)險也是治理悖論的一部分。算法是基于數(shù)據(jù)進(jìn)行訓(xùn)練的，而數(shù)據(jù)可能存在偏差。例如，對于少數(shù)語言群體，由于在數(shù)據(jù)集中他們的語言樣本較少，算法可能對他們的內(nèi)容存在誤判。這可能導(dǎo)致在內(nèi)容審核過程中，對少數(shù)語言群體的正常言論進(jìn)行過度審查。

此外，信息疫情治理也面臨著技術(shù)攻防演進(jìn)的挑戰(zhàn)，對抗樣本攻擊對檢測系統(tǒng)的威脅日益增大，量子計算可能引發(fā)的加密體系重構(gòu)也給信息疫情治理帶來了挑戰(zhàn)。目前，許多信息安全技術(shù)都是基于現(xiàn)有的加密體系。量子計算具有強(qiáng)大的計算能力，可能會破解現(xiàn)有的加密算法。一旦加密體系被重構(gòu)，信息疫情治理中的數(shù)據(jù)安全、信息傳輸安全等方面都將面臨新的挑戰(zhàn)。

（責(zé)任編輯：劉曉琴）

Escalating Challenges and Collaborative Governance of InfodemicintheAIEra

CHEN Lanjie12

（1.SchoolofManagement，Hebei University；2.Research Institute for Digital Governanceand Collaborative Governance of Hebei Province，Baoding，Hebei， O71002）

Abstract：With therapid development of AI technology，the increasingly serious phenomenon of infodemic has become a new challenge for social governance.Infodemic is characterized bythe mixed disseminationof factual and non-factual informationonthe specifictopic，leading tocognitiveoverload，emotional polarization，anddepletionof social trust among the public.Inthe AIera，generative AIand deepfaketechnologies have exacerbated the industrial production and dissemination of 1 information，while algorithm recommendation mechanisms have accelerated the fissile diffsion of distorted content，resulting in structuralcollapseof thecognitive immune system.To address this challenge，it is necessry to build an AI-based full-chain monitoring and risk prevention and control system， including the development of amultimodal monitoring system，the construction of user behavior graph，and the deploymentof intelligent protectionsystem.Meanwhile，a multidimensional governance system led bythe govermment， with platforms taking responsibilityand society participating is essential，which strengthens technological autonomy and enhances public digital literacy.Moreover，a human-centered dynamic optimization intervention mechanism is also crucial，itcanaccuratelyidentifyandinterveneindisseminationbehaviors through traceabilityofdissemiation and cognitive correction.

Keywords： information epidemic; infodemic; generative artificial intelligence