全球化數(shù)字化背景下開展網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)的思考

吳振峰

（中國(guó)科學(xué)技術(shù)信息研究所，北京 100038）

近年來，互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、人工智能和區(qū)塊鏈等技術(shù)飛速發(fā)展，數(shù)字經(jīng)濟(jì)已成為中國(guó)經(jīng)濟(jì)發(fā)展的重要驅(qū)動(dòng)力。網(wǎng)站系統(tǒng)作為數(shù)字經(jīng)濟(jì)時(shí)代的關(guān)鍵信息基礎(chǔ)設(shè)施和典型組織形態(tài)，深刻改變了人們的生產(chǎn)生活方式，在優(yōu)化資源配置、推動(dòng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)、賦能經(jīng)濟(jì)高質(zhì)量發(fā)展等方面發(fā)揮重要作用。數(shù)字經(jīng)濟(jì)時(shí)代開展網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)，對(duì)于維護(hù)國(guó)家安全、國(guó)家網(wǎng)絡(luò)安全和網(wǎng)絡(luò)空間主權(quán)，保障經(jīng)濟(jì)社會(huì)健康發(fā)展，維護(hù)公共利益和公民合法權(quán)益具有重要意義。

1 研究背景

信息內(nèi)容安全作為信息安全領(lǐng)域中的一個(gè)重要分支，與物理安全、網(wǎng)絡(luò)安全和數(shù)據(jù)安全等信息安全領(lǐng)域其他分支的不同之處在于，其以信息內(nèi)容為主要研究載體，分析識(shí)別信息內(nèi)容是否合法合規(guī)，更傾向于檢測(cè)保護(hù)信息自身的安全，強(qiáng)化信息內(nèi)容安全管控，防止非法內(nèi)容的傳播和利用。信息內(nèi)容安全的內(nèi)涵可總結(jié)為兩個(gè)主要方面：一是對(duì)信息內(nèi)容的保護(hù)，二是信息內(nèi)容要符合政治、法律和道德層面的有關(guān)要求[1]（見圖1）。面向網(wǎng)站系統(tǒng)的信息內(nèi)容安全防護(hù)，本質(zhì)上是信息內(nèi)容安全領(lǐng)域的一個(gè)子集，以網(wǎng)站系統(tǒng)的信息內(nèi)容為研究對(duì)象，針對(duì)網(wǎng)站系統(tǒng)中的文字、圖片和音視頻等信息開展內(nèi)容安全審核，監(jiān)測(cè)涉政、涉黃、涉暴、涉恐等違法違規(guī)信息，防范虛假新聞、網(wǎng)絡(luò)謠言等內(nèi)容造假信息，以及錯(cuò)別字詞、標(biāo)點(diǎn)符號(hào)錯(cuò)誤等不規(guī)范表述，加強(qiáng)知識(shí)產(chǎn)權(quán)保護(hù)、信息隱藏、隱私保護(hù)以及黨政、科技、金融等重點(diǎn)領(lǐng)域的重要信息內(nèi)容保密，及時(shí)處置可能存在的風(fēng)險(xiǎn)隱患，確保網(wǎng)站系統(tǒng)信息內(nèi)容安全。

圖1 信息內(nèi)容安全的內(nèi)涵

2021 年10 月18 日，習(xí)近平總書記在十九屆中央政治局第三十四次集體學(xué)習(xí)時(shí)指出，要完善國(guó)家安全制度體系，重點(diǎn)加強(qiáng)數(shù)字經(jīng)濟(jì)安全風(fēng)險(xiǎn)預(yù)警、防控機(jī)制和能力建設(shè)，實(shí)現(xiàn)核心技術(shù)、重要產(chǎn)業(yè)、關(guān)鍵設(shè)施、戰(zhàn)略資源、重大科技、頭部企業(yè)等安全可控。因此，發(fā)展數(shù)字經(jīng)濟(jì)，必須把安全問題擺在更加突出的位置，把安全防護(hù)貫穿數(shù)字經(jīng)濟(jì)發(fā)展的全過程，做好全面風(fēng)險(xiǎn)管理和安全保障。黨的十九大以來，中國(guó)數(shù)字經(jīng)濟(jì)規(guī)模持續(xù)提升并實(shí)現(xiàn)全球領(lǐng)先，數(shù)據(jù)資源價(jià)值加快釋放，數(shù)字社會(huì)服務(wù)更加普惠便捷。根據(jù)《數(shù)字中國(guó)發(fā)展報(bào)告（2021 年）》，2017—2021 年，中國(guó)數(shù)字經(jīng)濟(jì)規(guī)模從27.2 萬億元增長(zhǎng)至45.5 萬億元，總量穩(wěn)居世界第二位；數(shù)據(jù)產(chǎn)量從2.3 ZB 增長(zhǎng)至6.6 ZB，大數(shù)據(jù)產(chǎn)業(yè)規(guī)模從4 700 億元增長(zhǎng)至1.3 萬億元；網(wǎng)民規(guī)模從7.72 億人增長(zhǎng)至10.32 億人，互聯(lián)網(wǎng)普及率從55.8%提升至73.0%[2]。數(shù)字經(jīng)濟(jì)內(nèi)涵和外延不斷豐富的同時(shí)，也帶動(dòng)了網(wǎng)站類、平臺(tái)類和生產(chǎn)業(yè)務(wù)類等網(wǎng)站系統(tǒng)建設(shè)不斷提速。根據(jù)第49 次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，截至2021 年12 月，中國(guó)域名總數(shù)為3 593 萬個(gè)，網(wǎng)站數(shù)量為418 萬個(gè)，網(wǎng)頁(yè)數(shù)量為3 350 億個(gè)；其中，政府網(wǎng)站數(shù)量為14 566 個(gè)，僅信息公開類欄目數(shù)量就高達(dá)22.5 萬個(gè)[3]。以此推斷，若將未聯(lián)網(wǎng)的業(yè)務(wù)系統(tǒng)考慮在內(nèi)，中國(guó)網(wǎng)站系統(tǒng)數(shù)量以及數(shù)據(jù)規(guī)模將更加龐大，這其中既包含具有重大價(jià)值的科研數(shù)據(jù)和商業(yè)數(shù)據(jù)，也包含用戶個(gè)人隱私數(shù)據(jù)，甚至可能包含影響國(guó)家安全的重要數(shù)據(jù)，對(duì)網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)提出新的挑戰(zhàn)。

數(shù)字經(jīng)濟(jì)時(shí)代，網(wǎng)站系統(tǒng)對(duì)行業(yè)、領(lǐng)域關(guān)鍵業(yè)務(wù)起到基礎(chǔ)支撐作用，網(wǎng)站系統(tǒng)信息內(nèi)容通常具有數(shù)量大、形式多樣化和流動(dòng)性強(qiáng)等特點(diǎn)，導(dǎo)致信息全生命周期管理過程中的內(nèi)容安全風(fēng)險(xiǎn)隨之增大。特別是近年來全球網(wǎng)絡(luò)信息泄露、網(wǎng)絡(luò)攻擊和數(shù)據(jù)違規(guī)使用等事件頻發(fā)，國(guó)內(nèi)外由網(wǎng)站系統(tǒng)信息內(nèi)容安全管理機(jī)制不健全、內(nèi)容監(jiān)測(cè)技術(shù)體系不完善等導(dǎo)致的內(nèi)容安全問題時(shí)有發(fā)生。中國(guó)國(guó)家計(jì)算機(jī)病毒應(yīng)急處理中心2022年9月5日發(fā)布的《西北工業(yè)大學(xué)遭美國(guó)NSA 網(wǎng)絡(luò)攻擊事件調(diào)查報(bào)告（之一）》顯示，近年美國(guó)國(guó)家安全局特定入侵行動(dòng)辦公室對(duì)中國(guó)國(guó)內(nèi)的網(wǎng)絡(luò)目標(biāo)實(shí)施了上萬次的惡意網(wǎng)絡(luò)攻擊，控制了數(shù)以萬計(jì)的網(wǎng)絡(luò)設(shè)備，竊取了超過140 GB 的高價(jià)值數(shù)據(jù)[4]。國(guó)際商業(yè)機(jī)器公司（IBM）最新發(fā)布的《2022 年數(shù)據(jù)泄露成本報(bào)告》顯示，全球550 家來自不同行業(yè)和地域的組織在2021 年3 月—2022 年3 月所經(jīng)歷的數(shù)據(jù)泄露平均成本高達(dá)435 萬美元[5]。就網(wǎng)站系統(tǒng)自身而言，部分網(wǎng)站系統(tǒng)存在違規(guī)采編發(fā)布或交易信息、散播虛假消息和網(wǎng)絡(luò)謠言等亂象，極易擾亂網(wǎng)絡(luò)傳播秩序，泄露重要數(shù)據(jù)[1]。由此可見，網(wǎng)站系統(tǒng)一旦遭到破壞或者數(shù)據(jù)泄露，可能嚴(yán)重危害國(guó)家安全和公共利益，甚至對(duì)其他行業(yè)和領(lǐng)域產(chǎn)生重要的關(guān)聯(lián)性影響。網(wǎng)站系統(tǒng)信息內(nèi)容安全已成為事關(guān)國(guó)家安全、社會(huì)穩(wěn)定和人民利益的重要問題，信息內(nèi)容安全防護(hù)更是成為網(wǎng)站系統(tǒng)生態(tài)治理的重要內(nèi)容。

因此，本研究結(jié)合中國(guó)網(wǎng)站系統(tǒng)數(shù)量多、發(fā)布內(nèi)容多且用戶規(guī)模大的實(shí)際情況，歸納網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)的國(guó)內(nèi)外發(fā)展現(xiàn)狀、面臨的安全風(fēng)險(xiǎn)，分析信息內(nèi)容安全防護(hù)的關(guān)鍵技術(shù)及相關(guān)產(chǎn)品，并重點(diǎn)從頂層設(shè)計(jì)、信息發(fā)布管控、信息化建設(shè)和安全人才隊(duì)伍建設(shè)4 個(gè)方面提出對(duì)策建議。

2 網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)國(guó)內(nèi)外發(fā)展現(xiàn)狀

隨著互聯(lián)網(wǎng)和人工智能等技術(shù)的快速發(fā)展和廣泛應(yīng)用，全球范圍內(nèi)網(wǎng)站系統(tǒng)信息內(nèi)容安全問題日益突出，特別是新冠肺炎疫情發(fā)生以來，網(wǎng)絡(luò)攻擊和數(shù)據(jù)泄露等事件頻發(fā)，受到世界各國(guó)的高度關(guān)注。本文在廣泛收集和系統(tǒng)梳理相關(guān)文獻(xiàn)資料的基礎(chǔ)上，從政策法規(guī)、項(xiàng)目產(chǎn)品和技術(shù)應(yīng)用3 個(gè)維度對(duì)國(guó)內(nèi)外網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)的發(fā)展現(xiàn)狀進(jìn)行了分析探討。

2.1 安全立法進(jìn)程不斷加快，安全保護(hù)政策法規(guī)體系逐步完善

國(guó)外方面，聯(lián)合國(guó)貿(mào)易發(fā)展組織統(tǒng)計(jì)數(shù)據(jù)顯示，截至2022 年2 月21 日，全球約80%的國(guó)家已完成數(shù)據(jù)安全和隱私立法或已提出相關(guān)法律草案。特別是2015—2022 年，以美國(guó)、歐盟和俄羅斯等為代表的主要國(guó)家和地區(qū)相繼出臺(tái)相關(guān)政策法規(guī)，不斷完善網(wǎng)絡(luò)安全、數(shù)據(jù)安全頂層設(shè)計(jì)（見表1）。例如，美國(guó)發(fā)布《關(guān)于加強(qiáng)國(guó)家網(wǎng)絡(luò)安全的行政命令》，強(qiáng)化針對(duì)影響聯(lián)邦政府信息系統(tǒng)或非聯(lián)邦政府信息系統(tǒng)的重大網(wǎng)絡(luò)事件、威脅活動(dòng)和安全漏洞等的審核評(píng)估。歐洲數(shù)據(jù)保護(hù)監(jiān)管局發(fā)布《歐洲數(shù)據(jù)保護(hù)監(jiān)管局戰(zhàn)略計(jì)劃（2020—2024）：塑造更安全的數(shù)字未來》，明確了前瞻性、行動(dòng)性和協(xié)調(diào)性三大數(shù)據(jù)保護(hù)任務(wù)，推進(jìn)數(shù)字經(jīng)濟(jì)轉(zhuǎn)型和可持續(xù)發(fā)展。俄羅斯發(fā)布《主權(quán)互聯(lián)網(wǎng)法》，提出要建立獨(dú)立于因特網(wǎng)的俄羅斯互聯(lián)網(wǎng)，確保俄羅斯互聯(lián)網(wǎng)安全、穩(wěn)定和可持續(xù)運(yùn)行。

國(guó)內(nèi)方面，中國(guó)政府高度重視網(wǎng)絡(luò)與信息安全工作，不斷完善網(wǎng)絡(luò)安全、數(shù)據(jù)安全領(lǐng)域相關(guān)制度，有力保障關(guān)鍵信息基礎(chǔ)設(shè)施特別是網(wǎng)站系統(tǒng)的信息內(nèi)容安全。2016 年以來，中國(guó)加快推進(jìn)安全立法，相繼出臺(tái)《中華人民共和國(guó)數(shù)據(jù)安全法》《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》等多項(xiàng)代表性政策法規(guī)，為維護(hù)國(guó)家安全和人民群眾利益提供堅(jiān)實(shí)的法治保障。例如，為規(guī)范數(shù)據(jù)處理活動(dòng)，保障數(shù)據(jù)安全，《中華人民共和國(guó)數(shù)據(jù)安全法》明確了數(shù)據(jù)安全保護(hù)的適用范圍、支持促進(jìn)數(shù)據(jù)安全與發(fā)展的措施、數(shù)據(jù)安全制度、數(shù)據(jù)安全保護(hù)義務(wù)、政務(wù)數(shù)據(jù)安全與開放，以及數(shù)據(jù)安全工作職責(zé)。為保障關(guān)鍵信息基礎(chǔ)設(shè)施安全，維護(hù)網(wǎng)絡(luò)安全，《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》完善了關(guān)鍵信息基礎(chǔ)設(shè)施認(rèn)定機(jī)制，明確了關(guān)鍵信息基礎(chǔ)設(shè)施范圍和保護(hù)工作原則目標(biāo)、監(jiān)督管理體制、運(yùn)營(yíng)者的責(zé)任與義務(wù)、保障和促進(jìn)措施，以及法律責(zé)任。

2.2 信息內(nèi)容安全產(chǎn)業(yè)規(guī)模持續(xù)增長(zhǎng)，項(xiàng)目和產(chǎn)品更趨多元化

國(guó)外方面，相關(guān)統(tǒng)計(jì)數(shù)據(jù)顯示，全球信息內(nèi)容安全產(chǎn)業(yè)規(guī)模增長(zhǎng)較快，收入從2018 年的1 400 億～1 600 億元增長(zhǎng)到2020 年的1 600 億～2 000 億元，其中北美、西歐和亞太地區(qū)占據(jù)產(chǎn)業(yè)結(jié)構(gòu)的主導(dǎo)地位，總占比達(dá)90%，而北美占比接近40%[6]。面向政府管理需求，許多國(guó)家政府、科研院所或企業(yè)主導(dǎo)了一些代表性的信息內(nèi)容安全項(xiàng)目，并形成相關(guān)產(chǎn)品。例如，美國(guó)政府層面主導(dǎo)了無限信息（Boundless Informant）、食肉獸（Carnivore）、錦繡（Fairview）和特別收集服務(wù)（Special Collection Service）等一系列項(xiàng)目，開展語(yǔ)音識(shí)別和關(guān)鍵信息提取等數(shù)據(jù)挖掘技術(shù)研究，分析全球電子信息，監(jiān)聽新聞網(wǎng)站和電子郵件等信息并進(jìn)行內(nèi)容分析，識(shí)別恐怖活動(dòng)、欺詐等可能威脅國(guó)家安全和社會(huì)公共利益的行為。澳大利亞國(guó)家信息與通信技術(shù)研究中心主導(dǎo)的安全（SAFE）項(xiàng)目，通過目標(biāo)檢測(cè)等計(jì)算機(jī)視覺技術(shù)分析異常行為，預(yù)判可能的恐怖活動(dòng)[6]。英國(guó)Autonomy 公司主導(dǎo)的智能數(shù)據(jù)操作層（Intelligent Data Operating Layer，IDOL）服務(wù)項(xiàng)目，研發(fā)文本信息發(fā)掘工具，支持多語(yǔ)言語(yǔ)義檢索、信息聚類、文本分類與推送等功能，并應(yīng)用于實(shí)踐。

國(guó)內(nèi)方面，中國(guó)工業(yè)和信息化部公布的《2021 年中國(guó)軟件和信息技術(shù)服務(wù)業(yè)統(tǒng)計(jì)公報(bào)》數(shù)據(jù)顯示，信息安全產(chǎn)品和服務(wù)收入增長(zhǎng)較快，2021 年，實(shí)現(xiàn)收入1 825 億元，增速較2020 年同期提高3 個(gè)百分點(diǎn)。從全球范圍來看，中國(guó)信息內(nèi)容安全產(chǎn)業(yè)已初具規(guī)模，約占亞太地區(qū)的7%[6]。從應(yīng)用領(lǐng)域來看，政府、電信和金融等領(lǐng)域?qū)π畔踩枨笠?guī)模較大，約占全國(guó)總需求份額的60%[7]。隨著國(guó)家在信息內(nèi)容安全政策上的支持加大、用戶需求擴(kuò)大和數(shù)量增多，除北京奇虎科技有限公司、奇安信科技集團(tuán)股份有限公司等信息安全領(lǐng)域代表性企業(yè)外，許多互聯(lián)網(wǎng)公司和科研院所也相繼加入信息內(nèi)容安全領(lǐng)域。例如，阿里巴巴、騰訊、網(wǎng)易等互聯(lián)網(wǎng)公司分別推出了云盾、天御、網(wǎng)易易盾等一系列內(nèi)容安全產(chǎn)品，借助人工智能技術(shù)，檢測(cè)文本、圖片、視頻中的涉政、涉黃、涉暴、涉恐等信息，但是面向科技領(lǐng)域的內(nèi)容安全審核較少。中國(guó)科學(xué)技術(shù)信息研究所面向科技領(lǐng)域內(nèi)容安全需求，推出了內(nèi)容安全防控系統(tǒng)，能夠快速自動(dòng)檢測(cè)黨政、科技等重點(diǎn)領(lǐng)域的敏感信息和錯(cuò)誤表述，識(shí)別科技熱點(diǎn)話題、敏感話題并獲取相關(guān)資訊，實(shí)現(xiàn)風(fēng)險(xiǎn)信息內(nèi)容的科學(xué)研判和分級(jí)預(yù)警。

2.3 信息內(nèi)容安全行業(yè)技術(shù)發(fā)展處于成長(zhǎng)期，人工智能等技術(shù)研發(fā)及應(yīng)用受到重視

國(guó)外方面，前瞻產(chǎn)業(yè)研究院《中國(guó)信息安全行業(yè)市場(chǎng)前瞻與投資戰(zhàn)略規(guī)劃分析報(bào)告》統(tǒng)計(jì)數(shù)據(jù)顯示，2010—2020 年全球信息安全行業(yè)專利申請(qǐng)數(shù)量和授權(quán)數(shù)量呈現(xiàn)逐年增長(zhǎng)的趨勢(shì)，全球信息安全技術(shù)整體上處于成長(zhǎng)期，截至2022 年1 月，美國(guó)信息安全專利申請(qǐng)量約占國(guó)外信息安全專利總申請(qǐng)量的50%[7]。從基于人工智能的內(nèi)容信息安全技術(shù)角度看，美國(guó)人工智能論文引文影響力、專利合作條約（PCT）專利數(shù)量、企業(yè)數(shù)量和融資規(guī)模等指標(biāo)位居全球第一，整體實(shí)力領(lǐng)跑全球；歐洲、日本等主要發(fā)達(dá)國(guó)家和地區(qū)也紛紛將人工智能發(fā)展作為國(guó)家戰(zhàn)略重點(diǎn)，通過加強(qiáng)人工智能等技術(shù)研究，賦能信息內(nèi)容安全防護(hù)。例如，康奈爾大學(xué)主導(dǎo)的一項(xiàng)美國(guó)國(guó)土安全部資助項(xiàng)目，利用人工智能技術(shù)從收集的文本中判別蘊(yùn)含的觀點(diǎn)并尋找可能的信息來源，從而輔助決策；雅虎等公司利用大數(shù)據(jù)與人工智能分析技術(shù)過濾垃圾郵件；美國(guó)點(diǎn)評(píng)網(wǎng)站（Yelp）等社交網(wǎng)站利用自然語(yǔ)言處理技術(shù)識(shí)別虛假評(píng)論。

國(guó)內(nèi)方面，截至2022 年1 月，中國(guó)信息安全專利申請(qǐng)量占全球信息安全專利總申請(qǐng)量的78.33%，排名第一位，國(guó)家電網(wǎng)、華為、騰訊等公司的信息安全專利申請(qǐng)數(shù)量在全國(guó)位列前三名[7]。近年來，中國(guó)人工智能發(fā)展迅速，綜合實(shí)力不斷提升，中國(guó)科學(xué)技術(shù)信息研究所發(fā)布的《2021 年全球人工智能創(chuàng)新指數(shù)報(bào)告》顯示，中國(guó)人工智能創(chuàng)新水平已經(jīng)進(jìn)入世界第一梯隊(duì)。中國(guó)科研院所和企業(yè)根據(jù)國(guó)內(nèi)信息內(nèi)容安全實(shí)際，積極開展基于人工智能的信息內(nèi)容安全技術(shù)研發(fā)和應(yīng)用示范。例如，阿里云平臺(tái)、新浪微博等借助自然語(yǔ)言處理技術(shù)開展內(nèi)容安全審核，識(shí)別垃圾文本和惡意行為，定位敏感信息[6]。中國(guó)科學(xué)技術(shù)信息研究所內(nèi)容安全防控系統(tǒng)通過加持網(wǎng)絡(luò)新聞熱點(diǎn)話題識(shí)別等人工智能技術(shù)[8]，開展內(nèi)容安全審核、科技主題研判、智能監(jiān)控預(yù)警和防控定制服務(wù)，保障信息內(nèi)容安全。

3 網(wǎng)站系統(tǒng)信息內(nèi)容安全面臨的風(fēng)險(xiǎn)

網(wǎng)站系統(tǒng)作為信息存儲(chǔ)、交換和服務(wù)的基本載體，是網(wǎng)絡(luò)安全的重中之重，也是可能遭受攻擊的重點(diǎn)目標(biāo)。例如，金融、能源和電力等領(lǐng)域的網(wǎng)站系統(tǒng)一旦遭受破壞或者發(fā)生重要信息泄露，極可能導(dǎo)致金融紊亂、交通中斷、電力癱瘓等問題，將對(duì)經(jīng)濟(jì)社會(huì)穩(wěn)定和國(guó)家安全構(gòu)成威脅。本文從信息生命周期管理、技術(shù)謬用和濫用、網(wǎng)絡(luò)輿情管理3 個(gè)視角，重點(diǎn)梳理了網(wǎng)站系統(tǒng)信息內(nèi)容安全存在的風(fēng)險(xiǎn)。

3.1 網(wǎng)站系統(tǒng)信息生命周期管理各環(huán)節(jié)存在數(shù)據(jù)安全風(fēng)險(xiǎn)

網(wǎng)站系統(tǒng)信息的采集、傳輸、處理、存儲(chǔ)、傳播和利用等信息生命周期管理的重要環(huán)節(jié)，存在數(shù)據(jù)篡改、違規(guī)傳輸、非法訪問、數(shù)據(jù)泄露和數(shù)據(jù)濫用等數(shù)據(jù)安全風(fēng)險(xiǎn)[9-10]。一是信息采集環(huán)節(jié)存在數(shù)據(jù)篡改和違規(guī)采集風(fēng)險(xiǎn)。采集的信息經(jīng)過計(jì)算機(jī)或者人為的修改、增加和刪除等破壞操作造成數(shù)據(jù)失真，或者未按照有關(guān)規(guī)定開展信息采集工作，影響數(shù)據(jù)的真實(shí)性和合法性。二是信息傳輸環(huán)節(jié)存在隱私泄露和違規(guī)傳輸風(fēng)險(xiǎn)。數(shù)據(jù)傳輸實(shí)時(shí)性要求高，由于行業(yè)和企業(yè)間存在差異，數(shù)據(jù)接口規(guī)范、通信協(xié)議不統(tǒng)一，加密技術(shù)和安全策略強(qiáng)度不足，或者數(shù)據(jù)未按照有關(guān)規(guī)定擅自進(jìn)行傳輸，容易導(dǎo)致數(shù)據(jù)傳輸過程追蹤溯源和隱私泄露等問題。三是信息處理環(huán)節(jié)存在內(nèi)容敏感和不規(guī)范風(fēng)險(xiǎn)。網(wǎng)站系統(tǒng)在信息處理過程中容易忽視黨政、科技等領(lǐng)域敏感詞匯和不規(guī)范表述的內(nèi)容安全審核，導(dǎo)致涉及國(guó)家秘密、商業(yè)秘密和個(gè)人隱私等信息的泄露風(fēng)險(xiǎn)。四是信息存儲(chǔ)環(huán)節(jié)存在數(shù)據(jù)篡改和數(shù)據(jù)濫用風(fēng)險(xiǎn)。數(shù)據(jù)資源整合不足、數(shù)據(jù)分級(jí)分類管理不規(guī)范、數(shù)據(jù)存儲(chǔ)故障或被破壞等問題，會(huì)影響數(shù)據(jù)的真實(shí)性和保密性，容易導(dǎo)致數(shù)據(jù)泄露、篡改、丟失、不可用等風(fēng)險(xiǎn)。五是信息傳播環(huán)節(jié)存在數(shù)據(jù)泄露和數(shù)據(jù)濫用風(fēng)險(xiǎn)。數(shù)據(jù)被惡意獲取或者轉(zhuǎn)移、發(fā)布至不安全環(huán)境，以及數(shù)據(jù)超時(shí)間、超范圍和超用途使用，容易造成數(shù)據(jù)泄露風(fēng)險(xiǎn)。六是信息利用環(huán)節(jié)存在非法訪問和流量異常風(fēng)險(xiǎn)。網(wǎng)站系統(tǒng)易出現(xiàn)數(shù)據(jù)遭到未授權(quán)訪問、數(shù)據(jù)資源整合和深度分析不足、數(shù)據(jù)流量規(guī)模和內(nèi)容出現(xiàn)異常等問題，導(dǎo)致身份識(shí)別和權(quán)限管理風(fēng)險(xiǎn)增加。

3.2 技術(shù)謬用和濫用對(duì)網(wǎng)站系統(tǒng)信息內(nèi)容安全構(gòu)成潛在威脅

隨著人工智能等新技術(shù)的快速發(fā)展，“深度偽造”“大數(shù)據(jù)殺熟”等技術(shù)謬用和濫用現(xiàn)象，為個(gè)人和社會(huì)帶來風(fēng)險(xiǎn)挑戰(zhàn)。一是基于人工智能的內(nèi)容“深度偽造”現(xiàn)象可能威脅公民人身和財(cái)產(chǎn)安全。具有極高欺騙性的“深度偽造”技術(shù)借助深度學(xué)習(xí)算法，制作或修改視頻、音頻、圖片、文本內(nèi)容，以呈現(xiàn)出高度逼真但與實(shí)際不符的事物，加劇了社交媒體虛假信息的傳播[11]。二是“大數(shù)據(jù)殺熟”現(xiàn)象沖擊市場(chǎng)和商業(yè)倫理。部分企業(yè)和商家濫用用戶信息數(shù)據(jù)，對(duì)新老用戶實(shí)施差異化定價(jià)手段而牟取利益，侵害消費(fèi)者權(quán)益。三是算法模型自身存在安全風(fēng)險(xiǎn)。通過數(shù)據(jù)投毒攻擊、神經(jīng)網(wǎng)絡(luò)后門攻擊、對(duì)抗攻擊和模型竊取攻擊等技術(shù)手段，誘使算法模型生成誤判或漏判結(jié)果，或造成數(shù)據(jù)、模型泄露，影響網(wǎng)站系統(tǒng)信息內(nèi)容安全[12]。四是算法模型可解釋性影響網(wǎng)站系統(tǒng)信息內(nèi)容的可信度。部分網(wǎng)站系統(tǒng)使用深度學(xué)習(xí)算法模型進(jìn)行數(shù)據(jù)挖掘，并提供信息服務(wù)，但是由于深度學(xué)習(xí)算法模型可解釋性不足，模型預(yù)測(cè)結(jié)果透明度成為研究人員和網(wǎng)站系統(tǒng)用戶關(guān)注的主要問題。五是基于智能算法的情報(bào)收集技術(shù)可能被用于國(guó)家競(jìng)爭(zhēng)和現(xiàn)代戰(zhàn)爭(zhēng)。網(wǎng)站系統(tǒng)信息內(nèi)容經(jīng)過深度關(guān)聯(lián)分析，極容易形成有價(jià)值的情報(bào)，威脅國(guó)家安全。

3.3 復(fù)雜傳播環(huán)境下網(wǎng)站系統(tǒng)信息發(fā)布內(nèi)容的網(wǎng)絡(luò)輿情管理難度加大

新媒體技術(shù)的快速發(fā)展和廣泛應(yīng)用，促使網(wǎng)絡(luò)傳播環(huán)境更加復(fù)雜化、傳播形態(tài)更加多樣化，網(wǎng)絡(luò)傳播交互性和實(shí)時(shí)性特征凸顯，重要信息泄露、虛假新聞傳播等風(fēng)險(xiǎn)大幅增加，加大了網(wǎng)絡(luò)輿情管理工作的難度。一是網(wǎng)站系統(tǒng)用戶辨別能力較弱、法律意識(shí)不強(qiáng)等問題導(dǎo)致輿情復(fù)雜化。用戶非理性轉(zhuǎn)發(fā)傳播網(wǎng)絡(luò)突發(fā)事件信息，促使突發(fā)事件傳播更快、更廣，擴(kuò)大了網(wǎng)絡(luò)輿情帶來的負(fù)面影響。二是網(wǎng)絡(luò)信息碎片化和不對(duì)稱性引發(fā)負(fù)面輿情風(fēng)險(xiǎn)。信息內(nèi)容失真、信息觀點(diǎn)分化，以及用戶對(duì)信息獲取滯后、了解缺失等現(xiàn)象，使得網(wǎng)站系統(tǒng)與受眾之間產(chǎn)生認(rèn)知偏差，導(dǎo)致負(fù)面輿情風(fēng)險(xiǎn)增加。三是網(wǎng)站系統(tǒng)信息發(fā)布制度疏漏和審核不嚴(yán)謹(jǐn)導(dǎo)致負(fù)面輿情風(fēng)險(xiǎn)。部分網(wǎng)站系統(tǒng)存在審核把關(guān)機(jī)制不健全、管理規(guī)范性不高、內(nèi)容保障和安全保障能力不強(qiáng)等問題，導(dǎo)致錯(cuò)別字詞和表述性錯(cuò)誤時(shí)有發(fā)生，影響網(wǎng)站系統(tǒng)服務(wù)質(zhì)量。四是網(wǎng)站系統(tǒng)中的不良信息、偏激信息影響社會(huì)穩(wěn)定性。不良信息會(huì)對(duì)正確價(jià)值觀產(chǎn)生負(fù)面影響，偏激信息在網(wǎng)絡(luò)上傳播容易導(dǎo)致用戶產(chǎn)生負(fù)面情緒，影響用戶對(duì)信息的價(jià)值判斷。五是輿情管理機(jī)制不健全威脅網(wǎng)站系統(tǒng)信息安全。網(wǎng)絡(luò)輿情信息收集、識(shí)別、研判、分析、預(yù)警和監(jiān)督等機(jī)制不完善，信息化和智能化水平還不夠高，導(dǎo)致復(fù)雜網(wǎng)絡(luò)傳播環(huán)境下安全漏洞和惡意攻擊事件頻繁發(fā)生。

4 信息內(nèi)容安全防護(hù)關(guān)鍵技術(shù)及相關(guān)產(chǎn)品

信息內(nèi)容安全防護(hù)旨在分析識(shí)別信息內(nèi)容是否合法、規(guī)范，防止非法內(nèi)容和不良信息的傳播與利用，確保信息內(nèi)容安全[6]。近年來，人工智能等新技術(shù)快速發(fā)展，有效提高了內(nèi)容鑒別和審查能力，推進(jìn)內(nèi)容安全治理自動(dòng)化、智能化、高效化和精準(zhǔn)化[1]。為此，本文廣泛調(diào)研國(guó)內(nèi)外應(yīng)對(duì)信息內(nèi)容安全的經(jīng)驗(yàn)做法，梳理了信息內(nèi)容安全防護(hù)的關(guān)鍵技術(shù)及相關(guān)產(chǎn)品，為數(shù)字經(jīng)濟(jì)時(shí)代做好網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)提供參考。

4.1 信息內(nèi)容安全防護(hù)關(guān)鍵技術(shù)及應(yīng)用

從防范和化解網(wǎng)站系統(tǒng)信息內(nèi)容安全風(fēng)險(xiǎn)角度出發(fā)，信息內(nèi)容安全防護(hù)范疇可重點(diǎn)歸結(jié)為信息生命周期保護(hù)、新技術(shù)安全應(yīng)用和網(wǎng)絡(luò)輿情安全管理3 個(gè)方面，以下對(duì)其相關(guān)關(guān)鍵技術(shù)及應(yīng)用進(jìn)行分析。

信息生命周期保護(hù)方面，隱私計(jì)算和區(qū)塊鏈等關(guān)鍵技術(shù)被用于助力數(shù)據(jù)開放共享、加強(qiáng)數(shù)據(jù)隱私保護(hù)、降低數(shù)據(jù)泄露風(fēng)險(xiǎn)和服務(wù)數(shù)據(jù)價(jià)值流通等實(shí)際場(chǎng)景中，輔助解決信息生命周期各階段中的數(shù)據(jù)權(quán)屬界定和數(shù)據(jù)安全風(fēng)險(xiǎn)等問題。隱私計(jì)算技術(shù)可在充分保護(hù)數(shù)據(jù)和隱私安全的前提下實(shí)現(xiàn)數(shù)據(jù)價(jià)值的轉(zhuǎn)化和釋放，實(shí)現(xiàn)多方數(shù)據(jù)“可用不可見”[13]。目前隱私計(jì)算技術(shù)有3 個(gè)主流方向，分別是以多方安全計(jì)算為代表的基于密碼學(xué)的隱私計(jì)算技術(shù)、以聯(lián)邦學(xué)習(xí)為代表的人工智能與隱私保護(hù)技術(shù)融合衍生的隱私計(jì)算技術(shù)，以及以可信執(zhí)行環(huán)境為代表的基于可信硬件的隱私計(jì)算技術(shù)[14]。區(qū)塊鏈技術(shù)具有分布式、難篡改和可溯源等特點(diǎn)，確保計(jì)算過程和數(shù)據(jù)可信[15]。隨著中國(guó)“東數(shù)西算”工程實(shí)施，隱私計(jì)算技術(shù)與區(qū)塊鏈技術(shù)加速融合，用于解決數(shù)據(jù)隱私保護(hù)和數(shù)據(jù)共享之間的矛盾，助力數(shù)據(jù)可信流通。隱私計(jì)算和區(qū)塊鏈等關(guān)鍵技術(shù)為實(shí)現(xiàn)數(shù)據(jù)安全提供了重要的技術(shù)支撐，但是它們本身的安全性和性能仍需進(jìn)一步完善。

新技術(shù)安全應(yīng)用方面，機(jī)器學(xué)習(xí)安全防御、虛假內(nèi)容檢測(cè)等關(guān)鍵技術(shù)被用于應(yīng)對(duì)算法模型本身存在的安全風(fēng)險(xiǎn)，以及解決“深度偽造”“大數(shù)據(jù)殺熟”等技術(shù)謬用和濫用問題。機(jī)器學(xué)習(xí)在自然語(yǔ)言處理、計(jì)算機(jī)視覺和信息安全等領(lǐng)域應(yīng)用廣泛，但是機(jī)器學(xué)習(xí)算法模型和訓(xùn)練數(shù)據(jù)本身面臨數(shù)據(jù)投毒攻擊、模型竊取攻擊等安全威脅，進(jìn)而影響基于機(jī)器學(xué)習(xí)的應(yīng)用系統(tǒng)的安全性。針對(duì)機(jī)器學(xué)習(xí)算法模型安全問題，近年來機(jī)器學(xué)習(xí)算法安全評(píng)估、訓(xùn)練過程防御、測(cè)試推理過程防御、數(shù)據(jù)安全隱私保護(hù)等多方面技術(shù)加速發(fā)展，旨在防御算法模型在訓(xùn)練和推理過程中的安全威脅[16]。針對(duì)“深度偽造”技術(shù)謬用現(xiàn)象，近年來涌現(xiàn)出大量虛假內(nèi)容檢測(cè)技術(shù)，著力于識(shí)別人工無法審核的內(nèi)容，在虛假新聞檢測(cè)和人臉資料審核等實(shí)際應(yīng)用場(chǎng)景中發(fā)揮作用[17-18]。機(jī)器學(xué)習(xí)安全防御、虛假內(nèi)容檢測(cè)等關(guān)鍵技術(shù)有力保障了新技術(shù)的安全應(yīng)用，但在多學(xué)習(xí)器安全問題和信息缺失下的系統(tǒng)建模和推理問題等方面仍有待深入研究[1]。

網(wǎng)絡(luò)輿情安全管理方面，不良信息檢測(cè)與過濾和社會(huì)網(wǎng)絡(luò)分析等關(guān)鍵技術(shù)被用于復(fù)雜網(wǎng)絡(luò)環(huán)境下信息內(nèi)容安全審核和網(wǎng)絡(luò)安全防護(hù)。網(wǎng)絡(luò)輿情管理是集信息監(jiān)測(cè)、分析、預(yù)警、處置和總結(jié)于一體的系統(tǒng)性工作，需要利用信息檢索、網(wǎng)絡(luò)爬蟲、特征抽取、話題檢測(cè)與跟蹤以及情感分析等技術(shù)對(duì)網(wǎng)絡(luò)輿情進(jìn)行綜合研判處理。同時(shí)，社會(huì)網(wǎng)絡(luò)分析、信息內(nèi)容過濾和文本自動(dòng)糾錯(cuò)等關(guān)鍵技術(shù)可用于識(shí)別涉政敏感、科技敏感、低俗色情和違禁暴恐等敏感信息和不規(guī)范內(nèi)容。例如，可通過對(duì)文本數(shù)據(jù)進(jìn)行語(yǔ)義網(wǎng)絡(luò)分析，自動(dòng)識(shí)別陰謀論文本[19]。通過對(duì)網(wǎng)絡(luò)開源信息開展針對(duì)性監(jiān)測(cè)，基于開源情報(bào)分析、話題檢測(cè)與跟蹤等技術(shù)判斷敏感信息網(wǎng)絡(luò)暴露情況，追蹤網(wǎng)絡(luò)輿情事件發(fā)展趨勢(shì)和態(tài)勢(shì)。從系統(tǒng)網(wǎng)絡(luò)角度來看，基于流量分析與入侵檢測(cè)、惡意代碼挖掘與檢測(cè)等技術(shù)，對(duì)網(wǎng)絡(luò)中各種業(yè)務(wù)流量以及系統(tǒng)代碼進(jìn)行深入分析，識(shí)別惡意流量和代碼，及時(shí)開展問題溯源，保障網(wǎng)絡(luò)信息安全。

4.2 信息內(nèi)容安全防護(hù)相關(guān)產(chǎn)品

計(jì)算機(jī)技術(shù)的快速發(fā)展和信息化應(yīng)用的廣泛普及，特別是人工智能、區(qū)塊鏈等新技術(shù)加速演進(jìn)，導(dǎo)致網(wǎng)絡(luò)信息安全風(fēng)險(xiǎn)概率、種類和復(fù)雜度日益增加。面對(duì)日益復(fù)雜嚴(yán)峻的網(wǎng)絡(luò)安全形勢(shì)挑戰(zhàn)，中國(guó)近年來相繼推出《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》等多項(xiàng)政策法規(guī)，為信息內(nèi)容安全產(chǎn)業(yè)快速發(fā)展提供了良好的政策環(huán)境和制度保障。本文對(duì)現(xiàn)有信息內(nèi)容安全防護(hù)產(chǎn)品進(jìn)行了梳理，重點(diǎn)總結(jié)了內(nèi)容安全、數(shù)據(jù)安全、身份與訪問安全、云安全、安全智能、網(wǎng)絡(luò)安全、安全服務(wù)7 個(gè)類別的相關(guān)產(chǎn)品，可以看出，信息內(nèi)容安全類產(chǎn)品與服務(wù)的種類趨于多樣化、功能趨于實(shí)用化、性能趨于智能化（見表2）。

5 開展網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)的對(duì)策

數(shù)字經(jīng)濟(jì)背景下造成的網(wǎng)站系統(tǒng)信息內(nèi)容安全問題，既有網(wǎng)站系統(tǒng)自身的原因，也有外部的原因，主要受網(wǎng)站系統(tǒng)自身安全防控能力不足、不能及時(shí)適應(yīng)信息安全等級(jí)保護(hù)要求、信息安全環(huán)境復(fù)雜多變、防控體制機(jī)制不健全等多方面因素的影響。未來的網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)將成為各方重點(diǎn)關(guān)注的問題。黨的二十大報(bào)告明確指出，必須堅(jiān)定不移貫徹總體國(guó)家安全觀，把維護(hù)國(guó)家安全貫穿黨和國(guó)家工作各方面全過程，健全國(guó)家安全體系，增強(qiáng)維護(hù)國(guó)家安全能力，提高公共安全治理水平，完善社會(huì)治理體系，確保國(guó)家安全和社會(huì)穩(wěn)定。這為今后做好網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)指明了前進(jìn)方向，提供了根本遵循。

面對(duì)形勢(shì)新變化和實(shí)踐新要求，網(wǎng)站系統(tǒng)信息內(nèi)容安全防護(hù)仍然存在政策體系不完善、管理責(zé)任不明晰和技術(shù)監(jiān)測(cè)機(jī)制有待健全等問題。為科學(xué)應(yīng)對(duì)網(wǎng)站系統(tǒng)信息內(nèi)容安全面臨的風(fēng)險(xiǎn)，可以重點(diǎn)從頂層設(shè)計(jì)、信息發(fā)布管控、信息化建設(shè)和安全人才隊(duì)伍建設(shè)4 個(gè)方面著手解決問題。

（1）加強(qiáng)頂層設(shè)計(jì)，完善法律法規(guī)和政策標(biāo)準(zhǔn)體系。

中國(guó)要充分適應(yīng)形勢(shì)新變化、實(shí)踐新要求和促進(jìn)新技術(shù)快速發(fā)展，加強(qiáng)關(guān)鍵信息基礎(chǔ)設(shè)施特別是網(wǎng)站系統(tǒng)的信息內(nèi)容安全立法工作，建立新的自上而下的信息內(nèi)容安全法律法規(guī)和政策標(biāo)準(zhǔn)體系保障框架，從國(guó)家戰(zhàn)略層面引導(dǎo)各級(jí)政府機(jī)構(gòu)、非政府組織和企業(yè)等多方完善機(jī)構(gòu)層面的網(wǎng)站系統(tǒng)信息內(nèi)容安全管理制度，制定更加務(wù)實(shí)、可落地和操作性強(qiáng)的安全防控工作舉措，并建立長(zhǎng)效工作機(jī)制，強(qiáng)化對(duì)本行業(yè)、本領(lǐng)域和本區(qū)域?qū)ν獍l(fā)布信息內(nèi)容安全的管理。網(wǎng)站系統(tǒng)責(zé)任機(jī)構(gòu)要以優(yōu)化機(jī)制、完善流程和強(qiáng)化管理為抓手，健全網(wǎng)站系統(tǒng)信息發(fā)布和更新維護(hù)、信息內(nèi)容安全檢測(cè)、定期備份和應(yīng)急響應(yīng)等信息內(nèi)容安全管理制度體系，機(jī)構(gòu)內(nèi)各部門依據(jù)信息內(nèi)容安全管理制度體系，結(jié)合實(shí)際制定相應(yīng)實(shí)施細(xì)則，完善網(wǎng)站系統(tǒng)信息內(nèi)容安全保護(hù)流程，明確責(zé)任分工、審查流程、審查標(biāo)準(zhǔn)、應(yīng)急處置和檔案管理等要求，并與時(shí)俱進(jìn)更新完善。上級(jí)主管機(jī)構(gòu)做好對(duì)網(wǎng)站系統(tǒng)責(zé)任機(jī)構(gòu)的指導(dǎo)、監(jiān)督和檢查工作。各級(jí)網(wǎng)信部門和保密部門要強(qiáng)化網(wǎng)站系統(tǒng)信息內(nèi)容安全工作協(xié)調(diào)機(jī)制，完善網(wǎng)站系統(tǒng)安全防控力量布局，構(gòu)建全域聯(lián)動(dòng)、立體高效的信息內(nèi)容安全防護(hù)體系，努力形成各單位各部門協(xié)調(diào)配合、齊抓共管的良好局面。

（2）加強(qiáng)信息發(fā)布管控，完善信息內(nèi)容安全風(fēng)險(xiǎn)監(jiān)測(cè)和評(píng)估機(jī)制。

從國(guó)家層面加快健全風(fēng)險(xiǎn)監(jiān)測(cè)、評(píng)估、預(yù)警和管控機(jī)制，明確重點(diǎn)領(lǐng)域安全風(fēng)險(xiǎn)，構(gòu)建一套完備的網(wǎng)站系統(tǒng)信息內(nèi)容安全工作監(jiān)測(cè)和評(píng)估指標(biāo)體系，制定內(nèi)容安全風(fēng)險(xiǎn)管理流程標(biāo)準(zhǔn)和操作指南，搭建包含識(shí)別、防護(hù)、檢測(cè)、響應(yīng)和恢復(fù)等功能的內(nèi)容安全框架，并根據(jù)實(shí)際情況變化適時(shí)修訂完善，為各級(jí)政府機(jī)構(gòu)、非政府組織和企業(yè)等多方做好內(nèi)容安全風(fēng)險(xiǎn)防控并及時(shí)改進(jìn)工作提供重要遵循。網(wǎng)站系統(tǒng)責(zé)任機(jī)構(gòu)要加強(qiáng)信息發(fā)布內(nèi)容公開審查，堅(jiān)持“先審查、后公開”的原則，嚴(yán)格限定公開范圍及時(shí)限；要規(guī)范網(wǎng)站系統(tǒng)信息的宣傳報(bào)道內(nèi)容，強(qiáng)化核心技術(shù)、重大項(xiàng)目、關(guān)鍵人才、重點(diǎn)機(jī)構(gòu)、重要成果和展覽展示的信息發(fā)布審查；要建立應(yīng)急處置機(jī)制，制定風(fēng)險(xiǎn)防控應(yīng)急預(yù)案，一旦發(fā)現(xiàn)內(nèi)容安全風(fēng)險(xiǎn)，第一時(shí)間采取措施防止擴(kuò)散并進(jìn)行處理。各級(jí)網(wǎng)信部門和保密部門要以堅(jiān)定維護(hù)國(guó)家政權(quán)安全、制度安全、意識(shí)形態(tài)安全為根本，加大監(jiān)督檢查力度，推進(jìn)網(wǎng)站系統(tǒng)信息內(nèi)容安全防控常態(tài)化，定期開展網(wǎng)站系統(tǒng)信息內(nèi)容安全風(fēng)險(xiǎn)專項(xiàng)整治，加強(qiáng)重點(diǎn)行業(yè)、重點(diǎn)領(lǐng)域的網(wǎng)站系統(tǒng)信息發(fā)布、傳播的管理和監(jiān)管，以及內(nèi)容安全風(fēng)險(xiǎn)信息獲取、分析、研判和預(yù)警工作，及時(shí)掌握網(wǎng)站系統(tǒng)信息內(nèi)容安全整體態(tài)勢(shì)，嚴(yán)密防范安全風(fēng)險(xiǎn)。

（3）加強(qiáng)信息化建設(shè)，開發(fā)自主可控、安全可靠的內(nèi)容安全防控系統(tǒng)。

考慮到機(jī)構(gòu)層面的網(wǎng)站系統(tǒng)內(nèi)容安全保護(hù)能力參差不齊，國(guó)家網(wǎng)信部門和保密部門應(yīng)牽頭完善網(wǎng)站系統(tǒng)內(nèi)容安全風(fēng)險(xiǎn)防控體系，建設(shè)涵蓋網(wǎng)絡(luò)攻擊和敏感信息等方面的高質(zhì)量權(quán)威內(nèi)容安全比對(duì)數(shù)據(jù)庫(kù)，充分利用人工智能、隱私計(jì)算和開源情報(bào)分析等先進(jìn)技術(shù)，研發(fā)有效的內(nèi)容安全防控系統(tǒng)，能夠針對(duì)網(wǎng)站系統(tǒng)中的文字、圖片和音視頻等信息內(nèi)容開展內(nèi)容安全審核，檢測(cè)隱私泄露、知識(shí)產(chǎn)權(quán)侵權(quán)和涉政、涉黃、涉暴、涉恐等違法違規(guī)信息，黨政、科技和金融等重點(diǎn)領(lǐng)域的保密或敏感信息，虛假新聞、網(wǎng)絡(luò)謠言等內(nèi)容造假信息，以及錯(cuò)別字詞、標(biāo)點(diǎn)符號(hào)錯(cuò)誤等不規(guī)范表述，提升安全防控智能化、信息化水平，全面提高網(wǎng)站系統(tǒng)全域監(jiān)測(cè)、智能預(yù)警和風(fēng)險(xiǎn)處置能力。網(wǎng)站系統(tǒng)責(zé)任機(jī)構(gòu)要著力貫通機(jī)構(gòu)內(nèi)部各網(wǎng)站系統(tǒng)的底層數(shù)據(jù)，夯實(shí)網(wǎng)站系統(tǒng)數(shù)據(jù)脫敏、追蹤溯源、全域掃描和實(shí)時(shí)監(jiān)測(cè)等技術(shù)基礎(chǔ)，強(qiáng)化網(wǎng)站系統(tǒng)中數(shù)據(jù)、技術(shù)和服務(wù)等各類要素的融合與銜接，促使數(shù)據(jù)資源分級(jí)分類管理和跨系統(tǒng)有序高效流動(dòng)，推進(jìn)技術(shù)和服務(wù)跨系統(tǒng)安全耦合，依托內(nèi)容安全防控系統(tǒng)，持續(xù)監(jiān)測(cè)網(wǎng)站系統(tǒng)發(fā)布信息和開源網(wǎng)絡(luò)及社交媒體數(shù)據(jù)，提升網(wǎng)站系統(tǒng)信息內(nèi)容鑒別和違規(guī)審查水平，確保網(wǎng)站系統(tǒng)數(shù)據(jù)、技術(shù)和服務(wù)等各類要素用途明確、范圍可控。關(guān)鍵領(lǐng)域、易受攻擊威脅和對(duì)信息技術(shù)依賴較大的機(jī)構(gòu)要做好硬件設(shè)備、軟件系統(tǒng)和關(guān)鍵技術(shù)的國(guó)產(chǎn)化更新升級(jí)，有組織、有計(jì)劃地保障網(wǎng)站系統(tǒng)信息內(nèi)容安全。

（4）加強(qiáng)安全人才隊(duì)伍建設(shè)，營(yíng)造人人關(guān)注安全、重視安全和參與安全的良好氛圍。

考慮到網(wǎng)站系統(tǒng)信息內(nèi)容安全工作具有復(fù)雜性、動(dòng)態(tài)變化性等特點(diǎn)，政府主管部門需要與時(shí)俱進(jìn)地吸收網(wǎng)站系統(tǒng)信息內(nèi)容安全的創(chuàng)新理念、技術(shù)和管理方法，加強(qiáng)信息內(nèi)容安全人才引進(jìn)、培養(yǎng)等管理工作；發(fā)展壯大群防群治力量，營(yíng)造安全氛圍，推動(dòng)構(gòu)建人人有責(zé)、人人盡責(zé)和人人享有的信息內(nèi)容安全治理共同體。鼓勵(lì)高等院校探索信息內(nèi)容安全人才培養(yǎng)的新思路和新機(jī)制，強(qiáng)化師資隊(duì)伍建設(shè)和專業(yè)人才培養(yǎng)；鼓勵(lì)企業(yè)深度參與高等院校信息內(nèi)容安全人才培養(yǎng)工作，推動(dòng)高校和企業(yè)協(xié)同育人，構(gòu)建信息內(nèi)容安全人才培養(yǎng)和技術(shù)創(chuàng)新助力產(chǎn)業(yè)發(fā)展的良好生態(tài)。網(wǎng)站系統(tǒng)責(zé)任機(jī)構(gòu)要把安全文化建設(shè)作為業(yè)務(wù)工作考核的重要參考，充分調(diào)動(dòng)干部職工的積極性和創(chuàng)造力，從根本上提升安全工作水平；加強(qiáng)提高網(wǎng)站系統(tǒng)信息內(nèi)容安全以及處置相關(guān)突發(fā)輿情事件的保障能力，加強(qiáng)本單位的信息內(nèi)容安全人才、技術(shù)等力量建設(shè)。各級(jí)網(wǎng)信部門和保密部門要加強(qiáng)網(wǎng)站系統(tǒng)信息內(nèi)容安全教育，通過培訓(xùn)、宣傳和研討等形式，增強(qiáng)相關(guān)單位及人員維護(hù)網(wǎng)站系統(tǒng)信息內(nèi)容安全的意識(shí)和能力，筑牢網(wǎng)站系統(tǒng)信息內(nèi)容安全人民防線。■