AI 算法賦能網(wǎng)絡(luò)文化安全風(fēng)險(xiǎn)預(yù)警機(jī)制的策略

◎朱 艷 劉銘宸

(東北農(nóng)業(yè)大學(xué)，黑龍江 哈爾濱 150006)

一、AI出現(xiàn)前的傳統(tǒng)網(wǎng)絡(luò)文化安全監(jiān)測方法

“網(wǎng)絡(luò)文化安全是國家文化安全的最主要形態(tài)之一，是國家安全諸多變量中的最重要因素[1]?！痹贏I 出現(xiàn)之前，傳統(tǒng)的網(wǎng)絡(luò)文化監(jiān)測主要通過計(jì)算機(jī)數(shù)據(jù)挖掘技術(shù)，運(yùn)用特定的計(jì)算機(jī)程序搜集互聯(lián)網(wǎng)上的信息，經(jīng)過文本分析技術(shù)，提取文本中的關(guān)鍵信息，并與數(shù)據(jù)庫中的信息進(jìn)行匹配，來判斷是否存在網(wǎng)絡(luò)文化安全問題。

這一種監(jiān)測模式依賴于存有已知威脅和相關(guān)關(guān)鍵詞的數(shù)據(jù)庫。把抓取的數(shù)據(jù)與存有已知威脅和相關(guān)關(guān)鍵詞的數(shù)據(jù)庫進(jìn)行對比。當(dāng)找到匹配項(xiàng)時(shí)，系統(tǒng)會觸發(fā)警報(bào)。雖然這種方法對已知威脅有效，但對新的和未知的威脅不適用。此外，這一種模式還可能會產(chǎn)生大量誤報(bào)，一旦合法流量恰好與已知威脅具有相似的特征，就可能被標(biāo)記為惡意的，很多時(shí)候需要依賴于人工判斷，由專職或兼職人員承擔(dān)起網(wǎng)絡(luò)文化安全問題的巡查與監(jiān)測的責(zé)任，通過對重點(diǎn)網(wǎng)站、重點(diǎn)論壇進(jìn)行日常監(jiān)測，及時(shí)發(fā)現(xiàn)網(wǎng)絡(luò)文化安全問題。

隨著我國互聯(lián)網(wǎng)產(chǎn)業(yè)的快速發(fā)展，網(wǎng)絡(luò)空間的信息數(shù)量呈現(xiàn)爆發(fā)態(tài)勢。目前，我國網(wǎng)民數(shù)量位居世界第一，而且每年以千萬級的數(shù)目增長。網(wǎng)絡(luò)空間公眾意見數(shù)量與密度的爆發(fā)式增長，使得通過傳統(tǒng)方法來監(jiān)測網(wǎng)絡(luò)文化安全的模式越來越難以為繼。

二、AI介入網(wǎng)絡(luò)文化安全風(fēng)險(xiǎn)預(yù)警后優(yōu)勢明顯

當(dāng)下，AI 算法介入網(wǎng)絡(luò)文化安全風(fēng)險(xiǎn)預(yù)警主要體現(xiàn)在借助數(shù)據(jù)挖掘、聚合與清洗，通過技術(shù)模型計(jì)算風(fēng)險(xiǎn)概率和發(fā)生路徑，分析判斷網(wǎng)絡(luò)文化安全風(fēng)險(xiǎn)是否出現(xiàn)。相比傳統(tǒng)的網(wǎng)絡(luò)文化預(yù)警方法，基于AI 的解決方案在網(wǎng)絡(luò)文化預(yù)警中具有明顯優(yōu)勢。

(一)實(shí)時(shí)監(jiān)測是AI 算法的主要優(yōu)勢

人工智能不僅具備精密計(jì)算能力和強(qiáng)悍算法，更是可以24 小時(shí)持續(xù)提供網(wǎng)絡(luò)信息的核查、定位、追蹤、監(jiān)管和治理，徹底改變了網(wǎng)絡(luò)安全問題的處理方式。例如在網(wǎng)絡(luò)意識形態(tài)風(fēng)險(xiǎn)防控中，人工智能技術(shù)能夠全天候收集、整理、歸類數(shù)據(jù)，并借助語義、語音和視覺識別技術(shù)對內(nèi)容進(jìn)行有效識別，通過數(shù)據(jù)模型深度分析，精準(zhǔn)得出反主流意識形態(tài)的話語、圖像及視頻的特征，從而在第一時(shí)間防止日益隱喻化的反主流意識內(nèi)容擴(kuò)散和傳播，利用算法實(shí)時(shí)監(jiān)測識別出潛在網(wǎng)絡(luò)違法者的應(yīng)用不勝枚舉。

(二)效率高、準(zhǔn)確性強(qiáng)是AI 算法另一優(yōu)勢

首先，AI 算法技術(shù)的運(yùn)用有效提高了分析網(wǎng)絡(luò)信息的效率。傳統(tǒng)的網(wǎng)絡(luò)文化安全監(jiān)測中，安全分析師經(jīng)常面臨著篩選大量日志、警報(bào)和報(bào)告以識別潛在威脅的挑戰(zhàn)的問題。面對當(dāng)前的互聯(lián)網(wǎng)規(guī)模，傳統(tǒng)的網(wǎng)絡(luò)監(jiān)管模式顯得費(fèi)力耗時(shí)。相比之下，AI 算法可以快速處理和分析大量數(shù)據(jù)，有效地識別和優(yōu)先處理潛在風(fēng)險(xiǎn)。例如監(jiān)測網(wǎng)絡(luò)文化安全事件時(shí)，通過“不良網(wǎng)絡(luò)文化形成模型”可以對不良網(wǎng)絡(luò)文化類型進(jìn)行有效識別，并通過對網(wǎng)絡(luò)內(nèi)容的情感分析與流量變化，追蹤輿情變化，利用大數(shù)據(jù)模型來判斷群體情感，來判斷某一網(wǎng)絡(luò)群體的情感傾向，及時(shí)對相關(guān)內(nèi)容進(jìn)行限流、刪帖，減少相關(guān)信息在網(wǎng)絡(luò)上傳播，阻絕不良網(wǎng)絡(luò)文化的擴(kuò)散與蔓延，減輕甚至避免不良網(wǎng)絡(luò)文化對于現(xiàn)實(shí)的影響。

其次，在準(zhǔn)確性方面，AI 利用先進(jìn)的機(jī)器學(xué)習(xí)算法構(gòu)建語料模型，可以更準(zhǔn)確識別出網(wǎng)絡(luò)文化安全威脅。傳統(tǒng)的網(wǎng)絡(luò)文化安全監(jiān)測依賴存有已知威脅信息和關(guān)鍵詞數(shù)據(jù)庫來識別威脅，很難識別隱喻化的威脅信息和新興網(wǎng)絡(luò)文化安全信息，AI 則顯著提高了準(zhǔn)確性。例如2021 年，日本學(xué)者用機(jī)器學(xué)習(xí)的方法，對一款社交類游戲進(jìn)行分析，在不監(jiān)測聊天內(nèi)容的情況下，僅基于聊天次數(shù)、聊天對象、聊天時(shí)間等基本信息，就能較為精準(zhǔn)地識別出潛在網(wǎng)絡(luò)違法者，并預(yù)測出違法行為的大概時(shí)間[2]。

(三)AI 算法適用場景廣泛

隨著數(shù)字化程度不斷加深，網(wǎng)絡(luò)文化安全已經(jīng)不再只包含網(wǎng)絡(luò)空間內(nèi)的“言論”，更包含更廣意義上的文化概念、文化現(xiàn)象與文化安全。

近年來，隨著大數(shù)據(jù)和人工智能的發(fā)展，國內(nèi)外有不少研究人員利用文本分析法進(jìn)行用戶身心健康評估。如Meta的自殺預(yù)警系統(tǒng)使用人工智能技術(shù)對海量數(shù)據(jù)進(jìn)行梳理，尋找有自殺傾向的人。

在國內(nèi)，僅2023 年第二季度，抖音就利用人工智能技術(shù)，發(fā)現(xiàn)并報(bào)警救助安撫用戶773 人，處理慫恿、教唆他人實(shí)施極端行為的不當(dāng)視頻2.7 萬條。在弱勢群體方面，日均對未成年用戶過濾內(nèi)容20 萬條，處置80 多萬條對中老年人用戶騙取互動的違規(guī)視頻，發(fā)出近7 萬次風(fēng)險(xiǎn)提醒。知乎平臺的算法機(jī)器人“瓦力”能在0.3 秒內(nèi)識別判斷內(nèi)容是否為不友善、答非所問、陰陽怪氣等多種需被折疊的答案[3]。

在網(wǎng)絡(luò)文學(xué)領(lǐng)域，AI 技術(shù)已經(jīng)深度嵌入網(wǎng)絡(luò)文學(xué)生態(tài)，不僅在內(nèi)容審核方面深度運(yùn)用于網(wǎng)絡(luò)文化安全的監(jiān)測，在文本審校上，AI 技術(shù)可以輔助編輯迅速檢索文本，實(shí)現(xiàn)網(wǎng)絡(luò)文學(xué)文稿的批量審核、修改和冗余章節(jié)的刪除等任務(wù)，有效提升了網(wǎng)絡(luò)文學(xué)的作品質(zhì)量。

除了可以預(yù)測網(wǎng)絡(luò)攻擊威脅、提高危機(jī)事件的預(yù)測與管理能力，AI 算法在保障金融安全、提高金融監(jiān)管有效性和精準(zhǔn)度、推進(jìn)社會治理智能化建設(shè)、提供有效網(wǎng)絡(luò)安全防護(hù)手段等方面均有不俗建樹。

三、AI算法賦能我國網(wǎng)絡(luò)文化安全風(fēng)險(xiǎn)預(yù)警機(jī)制的建議

盡管目前AI 大模型在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用面臨在很多挑戰(zhàn)，但毋庸置疑的是，AI 助力網(wǎng)絡(luò)文化安全風(fēng)險(xiǎn)預(yù)警邁向智能化安全的新階段已經(jīng)開啟。未來5 至10 年，網(wǎng)絡(luò)安全市場將成為技術(shù)創(chuàng)新的戰(zhàn)場，智能化、數(shù)據(jù)隱私保護(hù)、多維度防御等趨勢將推動網(wǎng)絡(luò)文化安全預(yù)警領(lǐng)域向更高的水平邁進(jìn)，為數(shù)字世界的安全提供更加堅(jiān)實(shí)的保障。

2021 年12 月31 日，中央網(wǎng)信辦印發(fā)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，文中明確提出了算法推薦服務(wù)機(jī)制對于網(wǎng)絡(luò)文化安全的責(zé)任。任何技術(shù)的應(yīng)用都有其運(yùn)營的必要場景，隨著治理客體、治理對象發(fā)生變化，在法律賦權(quán)的情況下，AI 算法干預(yù)和介入網(wǎng)絡(luò)文化風(fēng)險(xiǎn)預(yù)警的技術(shù)條件已經(jīng)成熟。筆者認(rèn)為，若要更好地發(fā)揮AI 算法在網(wǎng)絡(luò)文化安全預(yù)警領(lǐng)域的作用，需要在監(jiān)管主體、監(jiān)管內(nèi)容、監(jiān)管方式三方面進(jìn)行發(fā)力。

(一)建設(shè)跨平臺、跨部門的統(tǒng)一預(yù)警平臺

實(shí)踐證明，水平再高的硬件技術(shù)也不敵機(jī)構(gòu)重疊、職能交叉的管理“盲區(qū)”。近年來，我國不斷推動網(wǎng)絡(luò)文化安全治理工作，目前具有網(wǎng)絡(luò)文化安全監(jiān)管職責(zé)的部門就有十幾家之多，但是職責(zé)交叉和重疊問題依舊突出，這大大降低了網(wǎng)絡(luò)文化安全治理的效率。建設(shè)跨平臺、跨部門的統(tǒng)一預(yù)警平臺，可以在很大程度上填補(bǔ)這一漏洞，更好地發(fā)揮人工智能技術(shù)的治理效能。

當(dāng)下，國內(nèi)網(wǎng)絡(luò)文化安全監(jiān)測數(shù)據(jù)孤島問題較為突出，表現(xiàn)在各網(wǎng)絡(luò)文化安全監(jiān)管平臺之間數(shù)據(jù)互通不暢，跨平臺數(shù)據(jù)流動流程繁瑣。作為網(wǎng)絡(luò)信息傳播監(jiān)管的絕對主體，相關(guān)部門應(yīng)努力推動建立能夠促進(jìn)人工智能正向效能釋放的跨平臺、跨部門的統(tǒng)一預(yù)警平臺，這不僅有利于各部門掌握涉及部門本身的網(wǎng)絡(luò)文化安全信息，有利于更好地掌握涉及本部門的網(wǎng)絡(luò)安全問題情況，還可以避免各部門各自為戰(zhàn)，為進(jìn)一步加強(qiáng)治理提供大數(shù)據(jù)支持。以文化產(chǎn)品審批為例，如能構(gòu)建涉及多部門的全國統(tǒng)一的審批平臺，不僅能建立權(quán)力清單，加快審批流程，持續(xù)推進(jìn)文化領(lǐng)域“放管服”改革，大大減少文化產(chǎn)品審批時(shí)間，更有利于網(wǎng)絡(luò)文化的繁榮。

網(wǎng)絡(luò)安全問題發(fā)展快、影響范圍廣，要想充分發(fā)揮人工智能技術(shù)賦能網(wǎng)絡(luò)安全預(yù)警的作用，需要各主體共同參與。不妨借鑒西方國家的做法，建立政府、企業(yè)、公民多方參與的行業(yè)自律協(xié)會，對于新變化、新問題，及時(shí)通過行會公約進(jìn)行約束，充分發(fā)揮行業(yè)自律協(xié)會的作用，建立起溝通政府、互聯(lián)網(wǎng)企業(yè)、個(gè)人三方的橋梁。構(gòu)建相關(guān)主體相互配合、協(xié)同聯(lián)動的有效運(yùn)行機(jī)制，及時(shí)處理網(wǎng)絡(luò)文化安全領(lǐng)域的新問題、新變化，保障人工智能賦能網(wǎng)絡(luò)文化安全預(yù)警的平穩(wěn)、有序、長效發(fā)展。

(二)完善法律法規(guī)，明確治理標(biāo)準(zhǔn)

2020 年3 月1 日，《互聯(lián)網(wǎng)信息內(nèi)容生態(tài)治理規(guī)定》正式實(shí)施，我國初步確立了黨委領(lǐng)導(dǎo)、政府管理、企業(yè)履責(zé)、社會監(jiān)督、網(wǎng)民自律的多主體協(xié)同參與網(wǎng)絡(luò)安全治理體系?！秶揖W(wǎng)絡(luò)空間安全戰(zhàn)略》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律法規(guī)不斷出臺，網(wǎng)絡(luò)安全法律體系逐漸完善[4]。與此同時(shí)，立法質(zhì)量上仍顯不足，并存在一定程度上的滯后性。有學(xué)者認(rèn)為，2021 年頒布的《個(gè)人信息保護(hù)法》雖然因日趨嚴(yán)重的個(gè)人信息泄露而產(chǎn)生，然而它更多著力于規(guī)制信息服務(wù)者對用戶索要信息公開許可的情況，對人工智能領(lǐng)域產(chǎn)生的問題缺乏進(jìn)一步的研究[5]。這在一定程度上反映出網(wǎng)絡(luò)安全法規(guī)滯后的現(xiàn)實(shí)縮影。

此外，由于多部門分別具有管理網(wǎng)絡(luò)文化安全問題的職責(zé)，制定相關(guān)政策的背景與目的存在較大差異，這使得部分法律法規(guī)的標(biāo)準(zhǔn)存在一定差異，甚至出現(xiàn)了自相矛盾的情況，影響了立法效能的有效釋放。網(wǎng)絡(luò)文化安全的相關(guān)標(biāo)準(zhǔn)特別是事先審查標(biāo)準(zhǔn)的不一致和界定模糊，不僅導(dǎo)致同一款產(chǎn)品需要重復(fù)審查、修改，更有甚者一些平臺為了免責(zé)，審查時(shí)層層加碼，從重從嚴(yán)，導(dǎo)致大量網(wǎng)絡(luò)文化內(nèi)容無法通過審查，這種情況在醫(yī)療科普等領(lǐng)域尤為明顯。這不僅打擊了網(wǎng)民創(chuàng)作積極性，更極大地制約了網(wǎng)絡(luò)文化的生產(chǎn)和繁榮。

在具體實(shí)踐中，審查標(biāo)準(zhǔn)的不一致和界定模糊的問題在敏感詞設(shè)置方面表現(xiàn)較為突出。雖然對于敏感內(nèi)容的界定有總體的指導(dǎo)精神，但涉及的具體詞語詞匯需要從上至下的各級平臺自行掌握。為了免責(zé)，各類平臺紛紛采取了更加嚴(yán)苛的監(jiān)管方式，一封了之，一禁了之，矯枉過正的情況屢見不鮮。因此，作為監(jiān)管主體，政府部門要在現(xiàn)有網(wǎng)絡(luò)信息傳播領(lǐng)域法律法規(guī)的基礎(chǔ)上，根據(jù)形勢發(fā)展需要，研究出臺人工智能技術(shù)應(yīng)用于網(wǎng)絡(luò)信息傳播領(lǐng)域的專項(xiàng)法規(guī)、規(guī)章，明確邊界和規(guī)范，從而切實(shí)引導(dǎo)網(wǎng)絡(luò)平臺正確使用人工智能技術(shù)。

(三)堅(jiān)持以人為本，優(yōu)化算法推薦模式

人工智能在網(wǎng)絡(luò)安全治理方面擁有廣闊發(fā)展前景，但同時(shí)也存在技術(shù)風(fēng)險(xiǎn)，如可生成文本技術(shù)帶來的虛假信息泛濫、算法推薦技術(shù)加劇認(rèn)知偏倚、信息繭房等問題日益得到關(guān)注。近年來，個(gè)人信息泄漏事故頻發(fā)更是引發(fā)社會不安，讓人們對人工智能的信任度大打折扣。算法偏見是影響網(wǎng)絡(luò)文化安全治理的重要問題，有學(xué)者認(rèn)為：“算法并非完全價(jià)值中立的技術(shù)，算法偏見是社會偏見在人工智能時(shí)代的產(chǎn)物。算法偏見不僅背離了公平公正的新聞職業(yè)規(guī)范、挑戰(zhàn)了用戶知情權(quán)和信息選擇權(quán)，還會解構(gòu)社會共識，引發(fā)輿論風(fēng)險(xiǎn)等[5]?！?/p>

算法推薦技術(shù)具有一定的意識形態(tài)屬性，影響著網(wǎng)絡(luò)空間內(nèi)的信息把關(guān)機(jī)制、信息傳播秩序和輿論場格局，加劇了傳播學(xué)理論視角下的“把關(guān)人離場”效應(yīng)、“信息繭房”效應(yīng)和“沉默的螺旋”效應(yīng)，導(dǎo)致網(wǎng)絡(luò)主流意識形態(tài)面臨主導(dǎo)力式微、凝聚力式微和引領(lǐng)力式微的風(fēng)險(xiǎn)。

從個(gè)體權(quán)利看，算法技術(shù)可能侵犯個(gè)體的話語權(quán)利，形成技術(shù)對主體社會生活的僭越。從技術(shù)監(jiān)管看，“算法推薦的利用若不受監(jiān)管，將會對主流意識形態(tài)傳播、網(wǎng)絡(luò)信息環(huán)境和用戶的價(jià)值觀念帶來沖擊”[6]。從信息把關(guān)出發(fā)，算法推薦下，把關(guān)人缺位，使得信息的客觀真實(shí)性、價(jià)值導(dǎo)向性無法得到保證。從輿論導(dǎo)向看，算法推薦缺乏對信息內(nèi)容的適宜度和尺度的嚴(yán)格規(guī)范，導(dǎo)致缺乏正確價(jià)值導(dǎo)向的垃圾資訊充斥網(wǎng)絡(luò)空間，破壞網(wǎng)絡(luò)輿論生態(tài)。

為了化解算法偏見下的傳播壁壘，一方面，需要優(yōu)化算法推薦技術(shù)本身，改進(jìn)單一化的信息模型，豐富算法模型信息挑選的維度，在滿足個(gè)性化需求的同時(shí)，增加多樣信息和公共議題的供給，以促進(jìn)社會多元主體之間的對話。加強(qiáng)主流價(jià)值觀對技術(shù)的牽引，反對在技術(shù)把關(guān)上單向度地遵循“唯熱度”論的資本邏輯，注重加強(qiáng)鑒定內(nèi)容的專業(yè)性、權(quán)威性和真實(shí)性等，凸顯技術(shù)把關(guān)的公共性、價(jià)值性。創(chuàng)新應(yīng)用人工智能、云計(jì)算、大數(shù)據(jù)等多樣化的信息技術(shù)，精準(zhǔn)溯源用戶個(gè)性“信息繭房”的成因，發(fā)掘當(dāng)下用戶“繭房”中缺失但又十分重要的信息內(nèi)容。

另一方面，要建立“人機(jī)協(xié)同”的把關(guān)機(jī)制，要防范單向度技術(shù)把關(guān)模式下的風(fēng)險(xiǎn)，在優(yōu)化技術(shù)把關(guān)的基礎(chǔ)上，加強(qiáng)人工審核信息，尤其加強(qiáng)對信息內(nèi)容意識形態(tài)導(dǎo)向性審核，發(fā)揮人工把關(guān)的價(jià)值糾偏作用，保證信息分發(fā)的真實(shí)性、有效性和導(dǎo)向性，強(qiáng)化主流價(jià)值守望。以人為本，優(yōu)化算法推薦模式，建構(gòu)“人機(jī)共融”的預(yù)警體系，會帶來以往無法實(shí)現(xiàn)的網(wǎng)絡(luò)防御的新水平。

AI 無法輕松搞定所有網(wǎng)絡(luò)風(fēng)險(xiǎn)，但在有效提高現(xiàn)有網(wǎng)絡(luò)安全和數(shù)據(jù)保護(hù)程序方面潛力無限。根據(jù)Marketsand Markets的報(bào)告，全球網(wǎng)絡(luò)安全中的AI 市場規(guī)模預(yù)計(jì)將從2020 年的88 億美元增長到2026 年的382 億美元，預(yù)測期間的復(fù)合年增長率為23.3%。2023 年10 月，人工智能國際治理領(lǐng)域發(fā)生的最重要事件之一，是在第三屆“一帶一路”國際合作高峰論壇上，習(xí)近平主席宣布中方《全球人工智能治理倡議》提出的以人為本、智能向善等原則。在推動人工智能技術(shù)服務(wù)于網(wǎng)絡(luò)文化安全治理的實(shí)踐中，只有堅(jiān)持以人為本，充分尊重個(gè)人信息知情權(quán)、同意權(quán)，保護(hù)個(gè)人隱私權(quán)，保障充分自主決策權(quán)等，才能更好地發(fā)揮人工智能的技術(shù)優(yōu)勢，以管理工具的變革推動網(wǎng)絡(luò)文化安全的提效，使公眾充分享受到數(shù)字化與人工智能帶來的便利。

未來，隨著社會數(shù)字化程度進(jìn)一步加深，人工智能技術(shù)效能在網(wǎng)絡(luò)空間中進(jìn)一步釋放，美國等西方國家進(jìn)一步升級對我國技術(shù)封鎖，如何應(yīng)對“技術(shù)邊緣化”帶來的國家網(wǎng)絡(luò)文化安全風(fēng)險(xiǎn)，以及敵對勢力濫用通用人工智能技術(shù)對我國展開滲透等安全風(fēng)險(xiǎn)，成為整個(gè)國家和社會深入研究的新課題。為此，需要更加重視人工智能賦能文化安全的基礎(chǔ)理論研究，強(qiáng)化研判人工智能發(fā)展趨勢，以供決策者完善國家網(wǎng)絡(luò)文化安全新防護(hù)機(jī)制的頂層設(shè)計(jì)。只有如此，才能在國際競爭中掌握主動權(quán)，加強(qiáng)對不斷演變的網(wǎng)絡(luò)安全威脅的防御能力。