人工智能時代的網絡安全治理機制變革

張 濤

(鄭州大學 政治與公共管理學院， 河南 鄭州 450001)

1 問題的提出

作為依托于網絡架構的數字智能技術，隨著人工智能在各行各業(yè)的滲透和應用，網絡空間安全治理迎來了無限機遇，同時也面臨諸多風險挑戰(zhàn)[1]。近年來，各國政府紛紛對人工智能進行戰(zhàn)略布局和政策部署，積極推動人工智能在治理領域的普及應用。美國、英國等國家加大人工智能戰(zhàn)略布局力度，成立專門機構統(tǒng)籌推進人工智能戰(zhàn)略實施，并通過與私營機構和科研單位聯合，加速實現人工智能與國家治理資源的有效整合，為國家安全和發(fā)展增效賦能。人工智能本身為網絡數字技術，其依托于網絡空間，同時又服務于網絡空間的建設。網絡安全治理研究的內容既包含網絡自身的生態(tài)系統(tǒng)安全，也包含網絡技術對現實社會中的公共安全生態(tài)系統(tǒng)的治理作用。本文側重人工智能對網絡安全治理賦能的機制研究。隨著人工智能、物聯網和大數據等新興網絡技術在國家安全和社會治理中的快速普及，公共安全威脅來源正日益從傳統(tǒng)的社會安全向網絡空間轉移，公共安全與網絡安全的聯系更加緊密。人工智能技術的應用普及給國家網絡安全治理帶了前所未有的機遇，同時也需警惕人工智能技術濫用和非法使用對國家安全和社會安全的危害。

以往關于人工智能與國家治理的關系研究主要涉及人工智能本身的網絡技術安全和人工智能在公共安全領域的政策解讀等，很少有研究從治理機制視角探討人工智能對網絡安全的影響。徐輝認為，人工智能通過提升網格化管理水平實現了社會治理的“協同共治”和“人機共治”[2]。彭禎方等認為，人工智能通過全面的數據采集和算法模型能夠對政府公共網站的用戶行為、訪問記錄以及時空信息等數據進行全方位分析，并能夠動態(tài)檢測用戶操作狀態(tài)，實現對惡意行為的精準定位和實時預警[3]。人工智能還可以實現對計算機網絡的智能化管理，使政府數據存儲更加安全可靠，進而為部門間的信息交換創(chuàng)造良好的網絡環(huán)境[4]。Singh認為，人工智能和區(qū)塊鏈技術的融合正在徹底改變智慧城市網絡架構，以構建可持續(xù)的城市公共安全生態(tài)系統(tǒng)[5]。

人工智能如何影響網絡安全治理、如何變革網絡安全治理機制和治理效能，是目前亟待研究的現實問題。隨著公共安全問題的網絡屬性不斷增強，人工智能與網絡安全治理問題的結合，將成為未來網絡安全治理研究的重點和難點。目前，人工智能在網絡安全領域的應用還處在測試和迭代的螺旋式發(fā)展階段。研究人工智能對網絡安全治理的作用機制以及對治理帶來的公共風險進行辨識，對于今后利用人工智能技術保障公共安全和社會穩(wěn)定、推動國家治理體系和治理能力現代化，具有重要的理論意義和現實研究價值。

2 人工智能推動網絡安全治理機制的變革

人工智能是未來網絡安全治理的重要工具。人工智能在不斷變化的威脅環(huán)境中的作用,對未來安全治理至關重要，這反映了人工智能在信息時代通過智能學習所產生的更廣泛的影響[6]。網絡安全的治理機制主要涉及事前威脅認知、事中安全防御、事后信息控制等。人工智能通過對網絡安全認知機制、防御機制和控制機制等的變革和完善，能夠有效提升政府的網絡安全治理能力。

2.1 認知機制：人工智能推動網絡安全威脅的自主認知機制變革

2.1.1 自主感知機制變革

認知機制變革的前提是感知機制的變化，只有感知能力提升，才有可能提升對網絡安全威脅的認知水平。人工智能在網絡安全領域的首要作用就是自主感知。數字化時代，僅僅依靠傳統(tǒng)的人工情報很難快速實現對外來威脅的感知。在2018年世界人工智能大會人工智能安全高端對話分論壇中，騰訊公司發(fā)布的《人工智能賦能網絡空間安全：模式與實踐》報告指出，網絡安全威脅已經全面泛化和滲透，如何利用好人工智能技術防范各種未知網絡威脅，是各國政府提升網絡安全治理能力的關鍵。Gartner公司將網絡安全治理過程分為感知、防御、檢測、響應四個維度，其中感知維度被放在了安全治理的首要位置。傳統(tǒng)意義上，政府對網絡安全威脅的判斷往往是從感知安全威脅的動向開始，主要是基于經驗知識的分析，并針對威脅形態(tài)做出一系列決策。人工智能時代，威脅感知能力通過機器自動化和機器學習技術得到了成倍提高。通過人工智能技術，人類對威脅識別的自動化作為交互式人機分析工作流程的一部分，能夠對批量收集的數據進行快速過濾、標記和分類，顯著減少了人工操作員處理大量數據所需的時間，大大提升了政府對網絡安全威脅的推理能力和預測水平，提升了感知的自主化水平，從而顯著提升了對外來威脅的防御水平。

2.1.2 自主認知機制變革

對風險和威脅的認知是網絡安全治理的關鍵問題，是感知之后的重要階段。人工智能是提升網絡安全威脅認知水平的重要手段，能對感知信息進行自主分析，是對網絡安全威脅感知能力的進一步提升。只有實現從感知能力到認知水平的提升，才能更好地應對網絡安全威脅。人工智能自主認知外來風險的機制是以海量數據輸入和算法為支撐，自主感知外在環(huán)境，然后通過環(huán)境數據的聚類和算法分析，做出最優(yōu)的認知決策。只有快速認知和識別威脅類型和具體位置，才能為后續(xù)快速執(zhí)行和輔助決策、為系統(tǒng)實現網絡安全防御，打下堅實基礎。2020年英國防務智庫發(fā)布的《人工智能與國家安全》報告中提到，基于人工智能的防御軟件可以主動地對網絡中最易受攻擊的目標進行優(yōu)先級排序，反復適應目標環(huán)境，并通過一系列自主決策進行自我傳播，從而有效消除潛在公共威脅。例如，在公共衛(wèi)生安全領域，利用人工智能建立的“新冠肺炎疫情預測模型”能夠精準地分析和預測地區(qū)疫情變化，為政府和醫(yī)生提供科學的防疫治理方案[7]。對威脅信號的自主認知和學習應對，是人工智能提高網絡安全防御能力的先決要素，對于未來的網絡安全治理具有極其重要的意義。

2.2 防御機制：人工智能推動網絡安全威脅防御機制的變革

2.2.1 自主防御機制變革

人工智能擁有自我進化和學習機制，通過對數據的深度學習，不斷進行自我完善，不斷提高對威脅的自主防控能力。人工智能在情報領域的發(fā)展應用帶來了一場史無前例的“情報革命”。政府并不缺乏公共安全方面的數據，缺乏的是快速、自主分析數據信息并進行自動化防御的核心能力。對比傳統(tǒng)的數據信息處理模式，人工智能在海量數據挖掘和動態(tài)分析方面具有絕對的優(yōu)勢。生物識別技術和深度機器學習能夠對所收集到的圖像進行高速分析處理，高質量地實現圖像自動識別和目標提取，從而全方位感知外來威脅。

基于人工智能系統(tǒng)的“智能動態(tài)防御”技術，可以實現防御手段的實時自主修正和防御策略的靈活機動改變，彌補了政府傳統(tǒng)網絡防御模式對網絡漏洞被動防護的技術缺陷，建立起了動態(tài)環(huán)境下破壞外來攻擊進程和阻斷攻擊路徑的機制。美國國防部已開始在國家安全體系中運用人工智能技術進行自主防御和主動打擊網絡恐怖主義，防范公共安全威脅[8]。同時，人工智能可以生成新的干擾和通信手段，預設欺騙性的網絡防御信號來迷惑對手。例如，網絡安全事件發(fā)生時，人工智能的機器學習可以通過反向數據模擬來誘導攻擊者，以保護更有價值的政府公共數據資產，并避免系統(tǒng)遭受致命攻擊?；谌斯ぶ悄艿木W絡防御將成為未來提升政府網絡安全治理能力的關鍵抓手。目前，世界各國政府都在積極部署人工智能戰(zhàn)略，試圖搶占國家網絡安全防御制高點。

2.2.2 協同防御機制變革

人工智能給國家網絡空間安全治理提供了新的思路。人工智能系統(tǒng)巧妙地將人類的創(chuàng)造性和靈活性與機器的邏輯性和穩(wěn)定性相結合，實現了優(yōu)勢互補。人工智能在提升網絡安全協同治理水平方面主要分為兩個維度。

第一，人工智能在公共安全領域的應用能夠推動跨部門、跨地域、跨領域的數據共享和業(yè)務聯動，推動治理模式的扁平化和高效化。人工智能對威脅的全維感知能夠提升各部門之間對數據整合和協同的現實需求，推動網絡安全防御的協同治理。人工智能對網絡安全防御能力的提升是以數據和算法為基礎的，因此，為了實現對網絡安全威脅的全維感知和精確預判，數據的整合和協同至關重要。人工智能在網絡安全領域的應用提升了網絡化管理能力，推動了“共治群體”的壯大。

第二，人工智能的系統(tǒng)性和復雜性將促進國際社會的治理協同。人工智能從技術研發(fā)、設備部署到運行維護，是一項龐大的系統(tǒng)工程，需要各個環(huán)節(jié)在技術和標準領域的協同支持。由于人工智能涉及物聯網、云計算、數據挖掘、智能算法等多種數字化技術，涉及即時感知、科學決策、智能監(jiān)管、數據分析、機器學習和精準算法等各項技術資源，治理要素廣泛分布于網絡巨頭、科研機構、政府部門和用戶群體之中。因此，網絡安全治理更加需要跨領域、跨國界、跨部門的資源整合和協同應對，以擴展治理體系的延展面。

2.3 控制機制：人工智能推動網絡信息安全控制機制變革

2.3.1 網絡輿論引導機制的變革

人工智能時代，算法已經成為新的網絡信息權力來源[9]。算法與政治的結合已經形成一種全新的政治形態(tài)，即“算法政治”[10]。掌握最前沿的算法就意味著掌握了網絡信息的優(yōu)先主導權。在人工智能背景下，基于深度學習的情感預算和自然語言處理技術的超前發(fā)展，給國家意識形態(tài)治理帶來了新的機遇和挑戰(zhàn)。首先，人工智能有助于政府建立公共安全治理“智能”整合機制，對信息收集、處理和分發(fā)等過程進行算法整合，能夠有效提升信息傳播和控制的效果[11]。網絡信息通過算法推薦，能夠根據個人的偏好被精準推送至特定的受眾人群。其次，人工智能有助于政府建立對政治議程和走向的引導機制。基于人工智能的算法技術，最終解決的是“知識發(fā)現”問題，是對信息的智能挖掘和處理。建立針對個人價值取向、政治觀點、行為動向等在內的諸多數據觀測點，通過數據訓練建立行動與思想的某種關聯，利用人工智能就有可能預測和掌控意識形態(tài)流向，從而強化對網絡輿論的引導和控制[12]。但由于人工智能是基于給定的數據信息進行運算和學習，數據資源的真實性和完整性往往無法得到全方位保障，“算法偏見”難以避免。算法本身并不會說謊，但是數據資源收集必定滲透著算法使用者的主觀價值。在國家層面，“算法偏見”可能會導致政府在信息獲取和決策執(zhí)行環(huán)節(jié)的偏差，從而引發(fā)社會輿論動蕩。

2.3.2 網絡信息甄別機制的變革

首先，人工智能的應用可以有效降低網絡輿情的傳播效率。盡管技術日新月異，但是目前沒有任何技術能夠完全解決虛假信息傳播對國家政治安全的影響。人工智能通過算法和自主學習不斷形成對虛假信息的甄別和剔除機制，能夠有效剔除虛假輿論和不良信息。甄別和控制網絡虛假信息是國家意識形態(tài)建設領域的重要議題，不僅關乎國家信息安全，更影響社會政治穩(wěn)定。傳統(tǒng)的網絡虛假信息甄別主要是采用人工手段對網絡信息進行人為辨別和剔除，煩瑣耗時是其主要劣勢。在2016年美國大選期間，借助人工智能技術，推特軟件通過對大量虛假信息和真實信息的識別和分析對比，發(fā)現了兩者傳播模式的差異，進而找到了更快發(fā)現虛假信息的技術路徑[13]。

其次，人工智能抵御虛假信息的另一重要優(yōu)勢，就是其建立的快速輿情反饋機制。面對緊急突發(fā)事件和重大政治新聞，人工智能憑借天然的技術優(yōu)勢可以快速自動生成對應新聞，并在第一時間進行報道，自主快速占據主流輿論制高點，從而有效降低后續(xù)虛假信息的生存空間[14]。人工智能對虛假信息的技術甄別正處于發(fā)展階段，未來人工智能在甄別虛假信息和防范意識形態(tài)滲透等方面具有廣闊的治理應用和發(fā)展前景。

3 人工智能在網絡安全治理中的風險識別

人工智能是一把“雙刃劍”。對于網絡安全治理，人工智能可以為政府筑起網絡安全治理的有效屏障，抵御各類網絡風險，提升國家治理能力。同時，由于人工智能主體多元、技術復雜、相關制度法規(guī)滯后以及政府對人工智能安全風險管控能力不足等，人工智能過度使用和違規(guī)使用問題突出。

3.1 管控風險：人工智能主體多元化弱化政府網絡安全管控能力

人工智能將推動國家產生更加包容和多層次的治理需求，增加世界的復合化，包括權力的去中心化和行為主體的多元化[15]。人工智能時代，數據即代表著競爭力，算法即是權力。掌握數據和算法的主體既有國家行為體，也有個人、企業(yè)團體、社會組織等非國家行為體。人工智能在技術層面的風險主要是“技術依賴”風險。

在國際層面，由于人工智能技術最初是基于商業(yè)用途研發(fā)的，因此,其核心技術也主要掌握在國際商業(yè)巨頭手中。目前，全球最核心的人工智能技術成果主要來自谷歌、微軟、IBM、亞馬遜等互聯網巨頭，這些互聯網巨頭通過不斷兼并其他企業(yè)壯大規(guī)模。目前，由于人工智能的國家安全應用層次不斷擴展，政府在一定程度上也需要與互聯網巨頭進行合作。此外，許多商用人工智能程序必須經過重大修改后才能為政府服務，但一些人工智能企業(yè)出于商業(yè)機密或其他原因,不愿意與政府合作。未來，跨國公司將利用資本優(yōu)勢和技術優(yōu)勢，掌握更多關于人工智能的前沿技術和標準規(guī)則。這意味著互聯網巨頭在人工智能領域擁有舉足輕重的話語權力和技術權威，這有可能會侵蝕國家的傳統(tǒng)管理優(yōu)勢。算法、智能芯片和數據資源等，是人工智能運轉的重要基礎。目前，芯片的核心技術主要掌握在國外企業(yè)手中，網絡數據的獲取則更加依賴互聯網巨頭掌握的用戶數據、企業(yè)數據以及公共機構的數據等。算法則更是集中在人工智能巨頭手中。人工智能技術一旦被私營集團和不法分子利用進行網絡恐怖主義等極端活動，將會給國家和社會造成不可估量的損失。

在國內層面，政府并不是人工智能與網絡安全技術和規(guī)則的唯一控制主體。國家行為體主要進行的是頂層設計和法治監(jiān)管，人工智能技術和標準的制定權主要掌握在互聯網企業(yè)、行業(yè)協會和私營團體手中。這意味著，對人工智能應用于網絡安全的全方位管控需要多元化主體協同參與。目前，由于協同機制和法規(guī)等不夠完善，多元化主體的存在反而弱化了政府的網絡安全管控能力。人工智能目前廣泛用于網絡安全防御和犯罪偵查等領域，但是不法分子同樣可以利用人工智能的機器學習優(yōu)勢改進攻擊方法和策略。人工智能能夠每秒做出成千上萬個復雜的決策，如果被不法分子利用，也有可能成為公共安全和社會穩(wěn)定的禍患[16]。未來，人工智能在網絡安全治理領域的運用，需要建立公共機構和私營部門之間的資源統(tǒng)籌、部門協作、信息共享等合作機制，同時應不斷加強行業(yè)自律，引導企業(yè)制定人工智能倫理規(guī)則和內部審查機制，實現自我監(jiān)管和外部規(guī)制力量的有效整合。

3.2 政治風險：人工智能技術鴻溝使意識形態(tài)安全面臨嚴峻挑戰(zhàn)

人工智能對國家政治安全的影響主要有兩點:一是政府在決策系統(tǒng)中的智能算法和數據分析技術水平，將影響政府的整體決策質量；二是個別技術強國可能通過算法和大數據有針對性地對他國進行輿論和政治事務的干擾，影響他國政治穩(wěn)定。人工智能是一把“雙刃劍”，它既可以用來識別和篩選虛假信息，也可以成為意識形態(tài)滲透的工具。在新聞和知識生產、傳播的過程中，人工智能算法和學習能力的差異，將造成國家間意識形態(tài)互動的結構失衡。在人工智能時代，虛假信息傳播將更遠、更快、更深、更廣，特別是在政治新聞領域，將加劇全球信息安全風險。

在政治領域，人工智能可能成為加強意識形態(tài)滲透的工具。傳統(tǒng)媒介時代，記者和傳媒機構是信息發(fā)布的“把關人”，民眾所認知的信息環(huán)境是一種被信息媒體處理和篩選后的“擬態(tài)環(huán)境”。智能算法引入傳媒領域后，信息傳播模式發(fā)生了巨大變化，信息可以通過算法推薦被智能分析和精準傳播，“信息投喂”更加符合用戶的思想和行為偏好?？刂迫蚓W絡傳媒和社交傳媒的個別國家，則可能利用算法技術實現對受眾群體的思想引導和干預，甚至會帶來不同群體的認知偏執(zhí)和思想極化，以致動搖主流意識形態(tài)的認同建構。未來，人工智能或可導致國家間產生諸如“算法戰(zhàn)”和“意識戰(zhàn)”等新型大國政府戰(zhàn)略對抗模式。人工智能可以通過算法將含有欺騙性和隱蔽性的內容“子彈”通過個性化的“靶向”推送，對受眾人群進行密集型的信息“轟炸”，從而成為影響他國國內輿論、甚至是分裂社會的“超級武器”。因此，必須警惕他國利用人工智能對我國社會輿論和政治事務的干擾和破壞行為。

3.3 隱私風險：人工智能的過度使用加劇個人隱私安全風險

人工智能應用的初衷是服務人類社會，服務國家治理和國家安全。但如今，人工智能的濫用和違規(guī)使用問題頻繁發(fā)生，增加了網絡安全風險。在數字信息時代，用戶的信息類別可以分為兩種：一種是身份信息，例如登錄密碼、指紋、虹膜和用戶名等信息；另一種是內容信息，如引擎搜索、網購、娛樂消費等信息。人工智能通過信息識別和超級算法不斷地獲取用戶的個人資料和行為偏好，通過算法分析有可能會勾勒出用戶的思想和行為動向，構成對用戶隱私甚至是人身安全的侵犯[17]。目前，視頻監(jiān)控系統(tǒng)普遍嵌入了人工智能技術，通過智能分析比對監(jiān)控視頻、音頻和圖片等，公安機關能夠快速識別和發(fā)現違法犯罪行為，高效維護社會治安。但是，人工智能監(jiān)控設備的成本越來越低，如果被不法分子違規(guī)使用，則有可能會盜用公民的隱私數據以牟取暴利，危害公民隱私安全和人身安全。同時，一些大型企業(yè)和機構利用人工智能算法，通過捆綁服務和針對性的定位營銷等手段，對用戶信息進行惡意識別和身份定位，損害用戶隱私權益。

2021年7月，因“滴滴出行”App存在違法違規(guī)收集個人信息的行為，中國網信辦要求全網應用商店下架“滴滴出行”App，并要求其全面整改，徹底完善用戶信息的安全合規(guī)使用規(guī)則[18]。隱私權是公民享有的合法信息權利，未經本人允許，任何機構和個人不得違規(guī)使用、披露和公開他人的隱私信息。滴滴公司利用人工智能和大數據分析技術，通過用戶出行數據，能夠輕而易舉地掌握用戶的行為動向。機構或企業(yè)如果不能妥善保管和合理使用用戶信息，用戶隱私權益將會受到侵害。

4 結語

人工智能的發(fā)展不僅是國家經濟轉型和產業(yè)發(fā)展的重要推手，更是維護國家安全和提升社會治理能力的重要抓手。人工智能本質上是依托于網絡架構的數字技術，國家在人工智能領域的戰(zhàn)略布局說明人工智能對公共安全的重要戰(zhàn)略意義。面對人工智能帶來的機遇與挑戰(zhàn)，完善人工智能戰(zhàn)略布局是管控人工智能風險，更好地利用其服務國家安全治理與發(fā)展建設的關鍵一步。近年來，我國在人工智能領域積極進行戰(zhàn)略布局。但與美國等西方發(fā)達國家相比，我國人工智能戰(zhàn)略布局仍較為松散，可操作性和協同性較弱。同時,人工智能產學研方面的協同整合能力還不足。未來，我國人工智能戰(zhàn)略布局需要解決人才、資金、體制和產業(yè)鏈之間的協調配合問題，以形成發(fā)展合力[19]。在公共安全領域，要加快人工智能與國家安全、城市安全、社會安全等治理要素的有機整合，擴展人工智能戰(zhàn)略布局。在體制機制、機構設置、產學研合作、人才培養(yǎng)等領域加快綜合布局，進一步擴展人工智能在公共安全治理中的應用。針對人工智能濫用的問題，需要完善相關法律法規(guī)、健全體制機制，同時加強人工智能使用效果和結果的評估體系建設，消除人工智能安全隱患，推動人工智能在公共安全治理領域的可持續(xù)發(fā)展。