人工智能重塑國(guó)家安全的范式和邏輯

【關(guān)鍵詞】人工智能 國(guó)家安全 技術(shù)治理 敏捷治理

【中圖分類號(hào)】D631；TP18 【文獻(xiàn)標(biāo)識(shí)碼】A

人工智能（AI）作為一項(xiàng)具有戰(zhàn)略性、通用性和軍民兩用性特點(diǎn)的技術(shù)，其與國(guó)家安全之間的復(fù)雜關(guān)聯(lián)愈發(fā)引人關(guān)注。歷史經(jīng)驗(yàn)表明，戰(zhàn)略性技術(shù)如核武器、太空技術(shù)和互聯(lián)網(wǎng)，往往與國(guó)家安全密不可分，它們不僅推動(dòng)了技術(shù)的進(jìn)步，也在軍事、情報(bào)和政治領(lǐng)域發(fā)揮了巨大作用。烏克蘭危機(jī)中，人工智能技術(shù)在認(rèn)知戰(zhàn)、情報(bào)戰(zhàn)、無人機(jī)、無人作戰(zhàn)車輛、巡飛彈、衛(wèi)星圖像識(shí)別、決策輔助和網(wǎng)絡(luò)對(duì)抗等領(lǐng)域的廣泛應(yīng)用，凸顯了其在國(guó)家安全中的重要地位。同時(shí)，人工智能的通用性特征使其成為類似電力般的革命性技術(shù)，能夠在醫(yī)療、金融、制造、教育、交通等多個(gè)領(lǐng)域帶來創(chuàng)新和優(yōu)化。這種廣泛的應(yīng)用潛力使得人工智能不僅在民用領(lǐng)域大有作為，而且對(duì)軍事應(yīng)用也產(chǎn)生了深遠(yuǎn)影響。與此同時(shí)，人工智能的軍民兩用性也導(dǎo)致其在國(guó)家安全中出現(xiàn)泛安全化問題。

隨著人工智能技術(shù)的不斷發(fā)展，國(guó)家安全進(jìn)入了數(shù)字化和智能化時(shí)代，技術(shù)安全風(fēng)險(xiǎn)也在深刻塑造和改變國(guó)家安全的性質(zhì)與特點(diǎn)。因此，我們需要深入思考人工智能將如何塑造未來的國(guó)家安全，并探討國(guó)家安全治理體系的變革趨向。

人工智能賦能國(guó)家安全

人工智能作為一項(xiàng)革命性的通用技術(shù)，正以前所未有的速度和廣度滲透到國(guó)家安全的各個(gè)領(lǐng)域，對(duì)傳統(tǒng)的國(guó)家安全邏輯和政策版圖帶來了全面而深刻的影響。人工智能不僅通過其強(qiáng)大的技術(shù)賦能，改變了國(guó)家安全的內(nèi)容和政策實(shí)踐，使得傳統(tǒng)的安全觀念與治理策略面臨前所未有的挑戰(zhàn)；同時(shí)，它還通過重塑戰(zhàn)爭(zhēng)形態(tài)，顛覆了人們對(duì)國(guó)家安全認(rèn)知的傳統(tǒng)框架，使國(guó)家安全的內(nèi)涵和外延發(fā)生了重大變化。

隨著私營(yíng)部門在人工智能技術(shù)領(lǐng)域的崛起，越來越多的尖端科研成果出自企業(yè)之手，而非傳統(tǒng)的國(guó)家實(shí)驗(yàn)室。這一變化不僅為國(guó)家安全帶來了新的機(jī)遇和活力，也造成了諸多復(fù)雜而棘手的問題。因此，深入探討人工智能對(duì)國(guó)家安全的影響，不僅有助于我們更好地理解這一技術(shù)革命帶來的挑戰(zhàn)和機(jī)遇，更有助于我們?yōu)閲?guó)家安全戰(zhàn)略和政策制定提供科學(xué)依據(jù)和有力支撐。

人工智能重塑公民國(guó)家安全認(rèn)知：戰(zhàn)爭(zhēng)形態(tài)與信息戰(zhàn)。

隨著人工智能技術(shù)的飛速進(jìn)步，未來的戰(zhàn)爭(zhēng)模式正醞釀著一場(chǎng)根本性的變革。傳統(tǒng)的人力密集型軍事任務(wù)，如前線偵察、物資運(yùn)輸及直接火力支援等，正逐步被高度智能化的機(jī)器人與無人機(jī)系統(tǒng)取代。這一轉(zhuǎn)變不僅顯著降低了軍事行動(dòng)中的人員傷亡風(fēng)險(xiǎn)，還極大地提升了作戰(zhàn)的效率與精確打擊能力，使得戰(zhàn)爭(zhēng)形態(tài)向更高效、更精準(zhǔn)的方向發(fā)展。掌握先進(jìn)人工智能技術(shù)的國(guó)家在信息戰(zhàn)中占據(jù)顯著的優(yōu)勢(shì)地位。人工智能技術(shù)憑借其強(qiáng)大的數(shù)據(jù)處理與分析能力，能夠迅速識(shí)別敵方的戰(zhàn)略弱點(diǎn)與作戰(zhàn)意圖，為決策層提供精確、及時(shí)的情報(bào)支持，從而在戰(zhàn)爭(zhēng)中贏得先機(jī)。此外，人工智能技術(shù)還通過模擬與預(yù)測(cè)戰(zhàn)爭(zhēng)進(jìn)程，為軍事戰(zhàn)略與戰(zhàn)術(shù)的制定提供科學(xué)依據(jù)。通過構(gòu)建復(fù)雜的戰(zhàn)爭(zhēng)模型，人工智能可以模擬不同戰(zhàn)略選擇下的戰(zhàn)爭(zhēng)發(fā)展態(tài)勢(shì)，幫助指揮員作出更為明智的決策。這種基于數(shù)據(jù)的戰(zhàn)爭(zhēng)規(guī)劃方式，無疑將極大地提升戰(zhàn)爭(zhēng)的勝算。

2022年烏克蘭危機(jī)作為近年來全球范圍內(nèi)爆發(fā)的重大沖突之一，被普遍認(rèn)為是首次大規(guī)模應(yīng)用人工智能技術(shù)參與作戰(zhàn)的現(xiàn)代戰(zhàn)爭(zhēng)。在這場(chǎng)沖突中，雙方不僅利用社交媒體平臺(tái)傳播虛假信息，以干擾對(duì)方的士氣與決策，還借助先進(jìn)的衛(wèi)星圖像分析軟件，實(shí)時(shí)追蹤敵軍動(dòng)向，為精確打擊提供有力支持。這些實(shí)例充分展示了人工智能技術(shù)對(duì)未來戰(zhàn)爭(zhēng)形態(tài)的深刻影響，預(yù)示著在未來的戰(zhàn)爭(zhēng)中，人工智能技術(shù)將發(fā)揮越來越重要的作用，成為決定戰(zhàn)爭(zhēng)勝負(fù)的關(guān)鍵因素之一。因此，應(yīng)高度重視人工智能技術(shù)在軍事領(lǐng)域的應(yīng)用與發(fā)展，加強(qiáng)相關(guān)研究與投入力度，以確保國(guó)家安全。

人工智能全面賦能國(guó)家安全能力：情報(bào)分析能力躍升。

在國(guó)家安全這一關(guān)鍵領(lǐng)域內(nèi)，人工智能技術(shù)的應(yīng)用正逐步深化，其影響力從最初的簡(jiǎn)單分類任務(wù)擴(kuò)展至復(fù)雜的決策支持過程。在情報(bào)分析的前沿陣地，人工智能技術(shù)以其卓越的數(shù)據(jù)處理能力，對(duì)源自社交媒體、新聞報(bào)道、衛(wèi)星圖像等多維度的海量數(shù)據(jù)進(jìn)行深度掃描與智能分析，能夠精準(zhǔn)捕捉異?；顒?dòng)跡象，及時(shí)預(yù)警潛在的安全威脅。這一能力的躍升，不僅極大提高了情報(bào)分析的精確度與時(shí)效性，更為決策層提供了全面、準(zhǔn)確的信息。隨著生成式人工智能的突破，通過高效整合文本、圖像、音頻等多模態(tài)信息，實(shí)現(xiàn)了內(nèi)容信息生產(chǎn)方式的變革，為國(guó)家安全戰(zhàn)略的實(shí)施提供了更為靈活多變、全面深入的支持框架。

人工智能打破國(guó)家安全資源壟斷：私營(yíng)部門的角色與國(guó)際合作。

在全球范圍，人工智能不僅引發(fā)了軍事和情報(bào)領(lǐng)域的革命，更打破了政府對(duì)于國(guó)家安全的壟斷。長(zhǎng)期以來，政府作為國(guó)家安全事務(wù)的主導(dǎo)者乃至唯一合法參與者，掌握著安全領(lǐng)域的先進(jìn)技術(shù)、威脅情報(bào)、高端人才等資源。然而，隨著人工智能技術(shù)的迅猛發(fā)展，這一傳統(tǒng)格局正經(jīng)歷著前所未有的變革?？萍计髽I(yè)在人工智能技術(shù)領(lǐng)域展現(xiàn)出強(qiáng)大的研發(fā)實(shí)力與創(chuàng)新能力，成為推動(dòng)人工智能技術(shù)進(jìn)步不可或缺的力量。大型國(guó)際科技企業(yè)的崛起，無疑對(duì)國(guó)家安全格局產(chǎn)生了深遠(yuǎn)且復(fù)雜的影響。從積極層面看，科技企業(yè)的參與為國(guó)家安全注入了新鮮血液，帶來了更多的技術(shù)創(chuàng)新與支持，有助于提升國(guó)家安全的整體效能。然而，私營(yíng)企業(yè)的利益訴求與價(jià)值取向往往與國(guó)家安全目標(biāo)存在潛在的沖突與矛盾，如何在保障國(guó)家安全的同時(shí)兼顧私營(yíng)企業(yè)的合理利益，已成為亟待解決的重要議題。

面對(duì)這一挑戰(zhàn)，國(guó)際社會(huì)開始積極探索建立更為開放、包容的合作框架，以期在人工智能技術(shù)與國(guó)家安全之間找到平衡點(diǎn)。與此同時(shí)，各國(guó)政府也在積極尋求與私營(yíng)企業(yè)的深度合作，通過政策引導(dǎo)、資金扶持等多種手段，鼓勵(lì)私營(yíng)企業(yè)積極參與國(guó)家安全領(lǐng)域的研發(fā)與應(yīng)用。這種政府與企業(yè)攜手并進(jìn)的合作模式，不僅加速了人工智能技術(shù)的迭代升級(jí)，還提升了國(guó)家安全的整體水平與應(yīng)對(duì)能力，為構(gòu)建更加穩(wěn)固的國(guó)家安全體系奠定了基礎(chǔ)。

人工智能技術(shù)安全對(duì)國(guó)家安全的深層次影響

賦能國(guó)家安全僅為人工智能的影響之一，其更為深刻且廣泛的效應(yīng)在于人工智能自身所蘊(yùn)含的技術(shù)安全性對(duì)國(guó)家安全本質(zhì)與特性的重塑。隨著人工智能與國(guó)家安全的全面深度融合，人工智能技術(shù)中潛藏的安全風(fēng)險(xiǎn)亦隨之滲透至國(guó)家安全的各個(gè)維度與環(huán)節(jié)，形成了一種復(fù)雜的映射關(guān)系。若缺乏對(duì)人工智能技術(shù)安全性的深刻理解，便難以準(zhǔn)確把握國(guó)家安全所面臨的新態(tài)勢(shì)與新特征。

人工智能技術(shù)安全（AI Safety），其核心在于確保人工智能系統(tǒng)自身的安全性與可信賴性?；谀Ｐ退惴ǖ娜斯ぶ悄芟到y(tǒng)，面臨著諸如“黑箱操作”、算法偏見、惡意誘導(dǎo)、認(rèn)知幻覺、系統(tǒng)操縱等多重風(fēng)險(xiǎn)，直接關(guān)乎人工智能是“向善”還是“向惡”，是穩(wěn)定運(yùn)行還是走向失控。從技術(shù)治理的視角出發(fā)，增強(qiáng)算法模型的可解釋性、透明度及魯棒性，是構(gòu)建人工智能安全可信框架的關(guān)鍵路徑。然而，技術(shù)治理并非“萬能鑰匙”，無法全然消解人工智能系統(tǒng)面臨的所有風(fēng)險(xiǎn)，原因在于人工智能技術(shù)與風(fēng)險(xiǎn)之間存在著一種共生共存的復(fù)雜關(guān)系。

更深層次地，人工智能在全面、顛覆性、革命性地賦能國(guó)家安全的同時(shí)，也驅(qū)動(dòng)了國(guó)家安全范式的深刻轉(zhuǎn)型——從追求確定性因果機(jī)制的傳統(tǒng)模式，轉(zhuǎn)向應(yīng)對(duì)不確定性相關(guān)性機(jī)制的新范式。在這一范式轉(zhuǎn)換的過程中，國(guó)家安全正面臨著風(fēng)險(xiǎn)來源多樣化、系統(tǒng)安全脆弱性加劇、治理邊界模糊化、威脅認(rèn)知不確定性增加等一系列挑戰(zhàn)。這些挑戰(zhàn)要求我們?cè)谙硎苋斯ぶ悄軒淼陌踩c效率提升的同時(shí)，必須深刻洞察并妥善應(yīng)對(duì)由人工智能技術(shù)發(fā)展所引發(fā)的國(guó)家安全新變局。

一是風(fēng)險(xiǎn)來源多樣化。在傳統(tǒng)國(guó)家安全領(lǐng)域，能夠威脅到國(guó)家安全的風(fēng)險(xiǎn)來源相對(duì)明確。這使得國(guó)家只需要將有限的資源投入相對(duì)重要的領(lǐng)域就可以在最大程度上維護(hù)國(guó)家安全。人工智能技術(shù)廣泛應(yīng)用所帶來的影響之一便是加速了國(guó)家安全風(fēng)險(xiǎn)來源的多樣化。在傳統(tǒng)國(guó)家安全框架中，軍事威脅占據(jù)主導(dǎo)地位，而隨著人工智能技術(shù)的滲透與融合，網(wǎng)絡(luò)攻擊、信息戰(zhàn)、經(jīng)濟(jì)間諜活動(dòng)等新型威脅日益凸顯，構(gòu)成了對(duì)國(guó)家安全的復(fù)雜挑戰(zhàn)。

人工智能技術(shù)為網(wǎng)絡(luò)攻擊提供了更為強(qiáng)大的工具與手段。相較于傳統(tǒng)的人工操作，人工智能技術(shù)能夠?qū)崿F(xiàn)自動(dòng)化、智能化的網(wǎng)絡(luò)攻擊，極大地提高了攻擊的效率與規(guī)模。此外，人工智能技術(shù)在信息戰(zhàn)中的應(yīng)用，使得虛假信息的制造與傳播變得更加容易與逼真。深度偽造技術(shù)（deepfake）便是其中的典型代表。通過先進(jìn)的機(jī)器學(xué)習(xí)算法，深度偽造技術(shù)能夠生成高度逼真的虛假視頻與音頻，從而誤導(dǎo)公眾，破壞社會(huì)穩(wěn)定。不僅如此，人工智能技術(shù)還可能被用于經(jīng)濟(jì)間諜活動(dòng)，竊取國(guó)家重要經(jīng)濟(jì)數(shù)據(jù)與商業(yè)機(jī)密。攻擊者可以利用人工智能算法對(duì)海量數(shù)據(jù)進(jìn)行深度挖掘與分析，從中獲取有價(jià)值的信息與情報(bào)，進(jìn)而對(duì)國(guó)家經(jīng)濟(jì)利益造成損害。

二是威脅認(rèn)知不確定性。人工智能系統(tǒng)的“黑箱”特性增加了威脅認(rèn)知的難度。許多先進(jìn)的人工智能模型，尤其是深度學(xué)習(xí)模型，其內(nèi)部決策機(jī)制復(fù)雜且難以解釋，導(dǎo)致國(guó)家安全機(jī)構(gòu)在理解人工智能系統(tǒng)行為、預(yù)測(cè)其潛在風(fēng)險(xiǎn)時(shí)面臨巨大挑戰(zhàn)。這種不透明性不僅限制了國(guó)家安全機(jī)構(gòu)對(duì)人工智能系統(tǒng)安全性的全面評(píng)估，還可能為惡意攻擊者提供隱蔽的操作空間，進(jìn)一步加劇威脅的不確定性。對(duì)于關(guān)鍵的國(guó)家安全設(shè)施如核控制系統(tǒng)，在與人工智能系統(tǒng)相結(jié)合后不透明性增加，使得核控制系統(tǒng)在關(guān)鍵時(shí)刻的決策過程難以預(yù)測(cè)和解釋，這可能導(dǎo)致在緊急情況下引發(fā)對(duì)系統(tǒng)決策的質(zhì)疑，進(jìn)而影響整體的國(guó)家安全。

面對(duì)人工智能技術(shù)帶來的威脅認(rèn)知不確定性，國(guó)家安全策略的制定與實(shí)施需進(jìn)行相應(yīng)調(diào)整與優(yōu)化。一方面，國(guó)家安全機(jī)構(gòu)應(yīng)加強(qiáng)對(duì)人工智能技術(shù)的深入研究與持續(xù)監(jiān)控，建立快速響應(yīng)機(jī)制，確保能夠及時(shí)識(shí)別并應(yīng)對(duì)新出現(xiàn)的威脅。這包括投資研發(fā)先進(jìn)的檢測(cè)工具、建立跨部門協(xié)作機(jī)制以及提升人員的技術(shù)能力等。另一方面，國(guó)家安全策略應(yīng)更加注重靈活性與適應(yīng)性，以應(yīng)對(duì)人工智能技術(shù)帶來的不確定性。這意味著需保持對(duì)人工智能技術(shù)發(fā)展趨勢(shì)的敏銳洞察，不斷調(diào)整策略方向與重點(diǎn)，確保國(guó)家安全體系能夠有效應(yīng)對(duì)不斷變化的威脅環(huán)境。

三是系統(tǒng)安全脆弱性。人工智能系統(tǒng)的復(fù)雜性與高度互聯(lián)性如同一把“雙刃劍”，在賦予系統(tǒng)強(qiáng)大處理能力的同時(shí)，也無形中擴(kuò)大了安全漏洞的暴露面，為潛在的安全威脅提供了可乘之機(jī)。人工智能系統(tǒng)的復(fù)雜性、快速迭代性、對(duì)數(shù)據(jù)的高度依賴以及決策過程的不透明性，共同構(gòu)成了其安全脆弱性的核心要素。面對(duì)這一挑戰(zhàn)，需加強(qiáng)人工智能系統(tǒng)安全標(biāo)準(zhǔn)的制定與執(zhí)行，推動(dòng)安全技術(shù)創(chuàng)新，提升系統(tǒng)的魯棒性與自恢復(fù)能力，同時(shí)加強(qiáng)數(shù)據(jù)保護(hù)與治理，確保人工智能技術(shù)的健康發(fā)展，為維護(hù)國(guó)家安全與社會(huì)穩(wěn)定奠定堅(jiān)實(shí)基礎(chǔ)。

人工智能系統(tǒng)的“機(jī)器幻覺”進(jìn)一步增加了安全的脆弱性。人工智能系統(tǒng)往往由多層算法、模型及海量數(shù)據(jù)交織而成，不僅容易出現(xiàn)穩(wěn)定性差的問題，還經(jīng)常會(huì)出現(xiàn)“幻覺”，包括一些情況下“一本正經(jīng)的胡說八道”。對(duì)此，探索“機(jī)器幻覺”出現(xiàn)的原因以及如何對(duì)其矯正需要耗費(fèi)大量的時(shí)間，并且難以保證其不會(huì)再次出現(xiàn)類似情況。在系統(tǒng)自身易出現(xiàn)幻覺的情況下，如何預(yù)防人工智能應(yīng)用過程中出現(xiàn)的風(fēng)險(xiǎn)成為了高難度的挑戰(zhàn)。

人工智能系統(tǒng)對(duì)數(shù)據(jù)的高度依賴性，構(gòu)成了其安全脆弱性的另一重要維度。數(shù)據(jù)作為人工智能系統(tǒng)的“血液”，其質(zhì)量與完整性直接關(guān)系到系統(tǒng)決策的準(zhǔn)確性與可靠性。然而，數(shù)據(jù)在收集、存儲(chǔ)、處理及傳輸過程中，面臨著被篡改、污染或竊取的風(fēng)險(xiǎn)。一旦訓(xùn)練數(shù)據(jù)遭到惡意操縱，人工智能系統(tǒng)便可能基于錯(cuò)誤的信息作出決策，從而引發(fā)嚴(yán)重的安全問題。例如，在自動(dòng)駕駛汽車領(lǐng)域，若訓(xùn)練數(shù)據(jù)被故意篡改，車輛可能無法正確識(shí)別道路標(biāo)志、行人或其他車輛，進(jìn)而在實(shí)際行駛過程中發(fā)生碰撞事故，不僅危及乘客生命安全，還可能對(duì)公共交通安全構(gòu)成重大威脅。

四是治理邊界模糊性。隨著人工智能技術(shù)的迅猛發(fā)展，其跨領(lǐng)域、跨行業(yè)的廣泛應(yīng)用正逐步重塑著國(guó)家安全的治理框架，其中最為顯著的影響之一便是治理邊界的模糊性。這一模糊性不僅體現(xiàn)在國(guó)家安全治理的傳統(tǒng)領(lǐng)域與新興領(lǐng)域的交織上，還深刻影響著國(guó)際法與國(guó)內(nèi)法應(yīng)對(duì)人工智能相關(guān)安全挑戰(zhàn)的適用與協(xié)調(diào)。

在傳統(tǒng)意義上，國(guó)家安全治理主要聚焦于軍事防御與情報(bào)收集，這些領(lǐng)域有著明確的組織架構(gòu)、法律基礎(chǔ)及操作流程。然而，人工智能技術(shù)的廣泛應(yīng)用打破了這一界限，使得國(guó)家安全議題不再局限于傳統(tǒng)的硬實(shí)力范疇，而是滲透到經(jīng)濟(jì)、社會(huì)、科技等多個(gè)維度。例如，在金融領(lǐng)域，人工智能算法被用于風(fēng)險(xiǎn)評(píng)估、市場(chǎng)預(yù)測(cè)等，其決策過程與結(jié)果直接影響到國(guó)家經(jīng)濟(jì)的穩(wěn)定與安全；在醫(yī)療領(lǐng)域，人工智能輔助診斷、藥物研發(fā)等雖提高了醫(yī)療服務(wù)效率，但也帶來了患者隱私泄露、醫(yī)療數(shù)據(jù)安全等新的公共衛(wèi)生安全問題。這些跨領(lǐng)域的應(yīng)用使得國(guó)家安全治理的邊界變得模糊，傳統(tǒng)建立在科層制基礎(chǔ)之上的治理機(jī)制，由于不同部門負(fù)責(zé)專門事務(wù)， 難以有效覆蓋所有潛在風(fēng)險(xiǎn)，甚至出現(xiàn)治理失靈。

人工智能時(shí)代的國(guó)家安全治理體系

各國(guó)政府普遍對(duì)人工智能所帶來的廣泛機(jī)遇與復(fù)雜挑戰(zhàn)給予了高度重視，并據(jù)此制定了一系列相關(guān)的國(guó)家戰(zhàn)略、政策舉措，同時(shí)設(shè)立了專門的治理機(jī)構(gòu)以應(yīng)對(duì)這一新興領(lǐng)域的獨(dú)特需求。在國(guó)際安全層面，無論是聯(lián)合國(guó)等多邊國(guó)際組織，還是諸如北大西洋公約組織、上海合作組織等區(qū)域性組織，均建立了相應(yīng)的治理機(jī)制，旨在規(guī)范和引導(dǎo)人工智能的健康發(fā)展。然而，現(xiàn)有的治理機(jī)制主要基于國(guó)際社會(huì)在核軍控、大規(guī)模殺傷性武器軍控等傳統(tǒng)安全領(lǐng)域的知識(shí)和經(jīng)驗(yàn)，在應(yīng)對(duì)人工智能所帶來的風(fēng)險(xiǎn)來源多樣化、系統(tǒng)安全脆弱性、治理邊界模糊性、威脅認(rèn)知不確定性等新型挑戰(zhàn)時(shí)，顯現(xiàn)出較強(qiáng)的不適應(yīng)性。這種不適應(yīng)性若未及時(shí)關(guān)注和有效解決，極易導(dǎo)致泛安全化和過度安全化等負(fù)面現(xiàn)象的出現(xiàn)，不僅會(huì)大幅增加社會(huì)的整體成本，還可能對(duì)人工智能技術(shù)的創(chuàng)新與發(fā)展產(chǎn)生抑制作用。

因此，國(guó)際社會(huì)亟需從理念層面、機(jī)制構(gòu)建、方法創(chuàng)新以及議程設(shè)置等多個(gè)維度出發(fā)，重新構(gòu)建一套適用于人工智能技術(shù)風(fēng)險(xiǎn)的國(guó)家安全治理體系。這一體系應(yīng)充分考慮到人工智能技術(shù)的獨(dú)特性與復(fù)雜性，以及其對(duì)國(guó)家安全、社會(huì)穩(wěn)定和全球經(jīng)濟(jì)發(fā)展的深遠(yuǎn)影響，從而確保在保障國(guó)家安全的同時(shí)，也能促進(jìn)人工智能技術(shù)的健康、可持續(xù)發(fā)展。

首先，在治理理念層面，應(yīng)構(gòu)建一個(gè)基于人工智能安全風(fēng)險(xiǎn)的全面認(rèn)知框架。人工智能為國(guó)家和社會(huì)帶來的安全風(fēng)險(xiǎn)具有長(zhǎng)期性、持續(xù)性特征，且不存在一勞永逸的解決方案。這些風(fēng)險(xiǎn)主要源自三個(gè)維度：技術(shù)本身的缺陷與不完善性、技術(shù)的濫用及不負(fù)責(zé)任的使用，以及社會(huì)應(yīng)對(duì)機(jī)制的缺失。針對(duì)前兩者，技術(shù)治理與監(jiān)管機(jī)制的逐步建立已成為趨勢(shì)；然而，關(guān)于社會(huì)如何有效應(yīng)對(duì)人工智能時(shí)代風(fēng)險(xiǎn)的探討仍顯不足。從風(fēng)險(xiǎn)韌性社會(huì)的視角出發(fā)，盡管人類無法根除自然災(zāi)害，但可通過多種措施減輕其影響。同理，技術(shù)缺陷、技術(shù)濫用與韌性社會(huì)之間應(yīng)建立一種良性互動(dòng)關(guān)系。過度聚焦于前兩者可能導(dǎo)致追求絕對(duì)安全與過度治理的困境。因此，構(gòu)建人工智能風(fēng)險(xiǎn)韌性社會(huì)需從提升公眾與組織的技術(shù)素養(yǎng)、建立風(fēng)險(xiǎn)共擔(dān)的社會(huì)保障體系等方面著手，以實(shí)現(xiàn)技術(shù)進(jìn)步與社會(huì)發(fā)展的和諧共生。

其次，在治理機(jī)制層面，應(yīng)著重強(qiáng)調(diào)技術(shù)標(biāo)準(zhǔn)、法規(guī)政策與戰(zhàn)略舉措之間的協(xié)同與整合。人工智能作為一項(xiàng)前沿技術(shù)，其治理體系必須具備一定的前瞻性與適應(yīng)性，以確保在技術(shù)生命周期的各個(gè)階段都能實(shí)施有效的監(jiān)管和引導(dǎo)。技術(shù)標(biāo)準(zhǔn)作為治理的基礎(chǔ)，應(yīng)確保其具有科學(xué)性、合理性和可操作性，為人工智能技術(shù)的研發(fā)和應(yīng)用提供明確的指導(dǎo)和規(guī)范。同時(shí)，法規(guī)政策應(yīng)與技術(shù)標(biāo)準(zhǔn)緊密銜接，通過立法手段明確人工智能技術(shù)的合法邊界，保護(hù)個(gè)人隱私和數(shù)據(jù)安全，防止技術(shù)濫用和惡意攻擊。

戰(zhàn)略舉措則是實(shí)現(xiàn)技術(shù)標(biāo)準(zhǔn)與法規(guī)政策協(xié)同的關(guān)鍵。政府應(yīng)制定長(zhǎng)遠(yuǎn)的人工智能發(fā)展戰(zhàn)略，明確技術(shù)發(fā)展的方向和目標(biāo)，為技術(shù)標(biāo)準(zhǔn)和政策法規(guī)的制定提供宏觀指導(dǎo)。此外，戰(zhàn)略舉措還應(yīng)包括建立跨部門、跨領(lǐng)域的協(xié)作機(jī)制，加強(qiáng)政府、企業(yè)、科研機(jī)構(gòu)和社會(huì)組織之間的溝通與合作，共同推動(dòng)人工智能技術(shù)的健康發(fā)展。在此過程中，敏捷治理成為一種重要的方式。面對(duì)人工智能技術(shù)的快速迭代和廣泛應(yīng)用，治理機(jī)制應(yīng)具備靈活性和快速響應(yīng)能力，能夠及時(shí)調(diào)整和優(yōu)化治理策略，以適應(yīng)技術(shù)發(fā)展的新趨勢(shì)和新挑戰(zhàn)。通過敏捷治理，可以確保治理機(jī)制與技術(shù)發(fā)展的同步性，提高治理效能，促進(jìn)人工智能技術(shù)的可持續(xù)創(chuàng)新與發(fā)展。

再次，在治理方法維度，應(yīng)構(gòu)建政府、產(chǎn)業(yè)界及研發(fā)機(jī)構(gòu)高效協(xié)同機(jī)制。人工智能的迅猛發(fā)展已促使國(guó)家安全領(lǐng)域從傳統(tǒng)安全及非傳統(tǒng)安全范疇，逐步邁向數(shù)字安全。在此背景下，企業(yè)與技術(shù)社群在國(guó)家安全體系中的地位日益凸顯，亟需建立更為高效、靈活的溝通協(xié)調(diào)機(jī)制。傳統(tǒng)的自上而下、等級(jí)化及中心化的國(guó)家安全技術(shù)、知識(shí)與信息傳遞模式已難以適應(yīng)當(dāng)前形勢(shì)，如何更有效地與大型科技企業(yè)及技術(shù)社群加強(qiáng)聯(lián)系，促進(jìn)政府與企業(yè)間人員的流動(dòng)與交流，成為政府重塑人工智能安全領(lǐng)域權(quán)威性的關(guān)鍵所在。以美國(guó)為例，其人工智能安全治理主要依托人工智能安全研究所進(jìn)行。與傳統(tǒng)政府機(jī)構(gòu)不同，該研究所人員精簡(jiǎn)，主要工作通過與企業(yè)合作完成，其核心職能在于搭建政府與企業(yè)、企業(yè)與企業(yè)之間的溝通橋梁。這種定位使研究所更注重成為人工智能安全治理的核心節(jié)點(diǎn)，雖不具備傳統(tǒng)政府機(jī)構(gòu)的命令發(fā)布權(quán)，卻能占據(jù)信息與知識(shí)的中心位置，進(jìn)而提升政府在該領(lǐng)域的權(quán)威性與影響力。

最后，在議程設(shè)置層面，需深入關(guān)注人工智能時(shí)代國(guó)家安全所蘊(yùn)含的豐富內(nèi)涵，這包括但不限于生存性風(fēng)險(xiǎn)、算法模型風(fēng)險(xiǎn)、應(yīng)用型風(fēng)險(xiǎn)以及廣義上的國(guó)家安全風(fēng)險(xiǎn)。作為人工智能時(shí)代最為嚴(yán)峻的挑戰(zhàn)之一，生存性風(fēng)險(xiǎn)涉及技術(shù)失控、系統(tǒng)崩潰等極端情況，可能對(duì)人類社會(huì)造成不可逆轉(zhuǎn)的損害。因此，議程設(shè)置應(yīng)優(yōu)先考慮如何建立有效的風(fēng)險(xiǎn)預(yù)警與應(yīng)對(duì)機(jī)制，確保人工智能技術(shù)的健康發(fā)展。算法模型風(fēng)險(xiǎn)則源于算法設(shè)計(jì)的不完善、數(shù)據(jù)偏差以及訓(xùn)練過程中的不確定性，這些因素可能導(dǎo)致算法決策出現(xiàn)偏差，甚至引發(fā)歧視、不公平等問題。在議程設(shè)置中，應(yīng)加強(qiáng)對(duì)算法模型的監(jiān)管與評(píng)估，確保其公正性、透明度和可解釋性。應(yīng)用型風(fēng)險(xiǎn)主要關(guān)注人工智能技術(shù)在具體應(yīng)用領(lǐng)域可能帶來的安全隱患，如自動(dòng)駕駛、醫(yī)療診斷等。議程設(shè)置需針對(duì)這些領(lǐng)域的特點(diǎn)，制定具有針對(duì)性的安全標(biāo)準(zhǔn)和規(guī)范，確保技術(shù)的安全應(yīng)用。此外，廣義上的國(guó)家安全風(fēng)險(xiǎn)也是議程設(shè)置不可忽視的一部分。人工智能技術(shù)的快速發(fā)展可能對(duì)國(guó)家主權(quán)、安全和發(fā)展利益產(chǎn)生深遠(yuǎn)影響。因此，議程設(shè)置應(yīng)充分考慮如何平衡技術(shù)發(fā)展與國(guó)家安全的關(guān)系，確保國(guó)家在人工智能時(shí)代的戰(zhàn)略利益。

（作者為同濟(jì)大學(xué)政治與國(guó)際關(guān)系學(xué)院教授，網(wǎng)絡(luò)空間國(guó)際治理研究基地常務(wù)副主任）

【參考文獻(xiàn)】

①Joseph S. Nye， Jr.，“AI and National Security”，Project Syndicate， July 31，2024.

②封帥：《國(guó)家安全學(xué)視域下的人工智能安全研究：議題網(wǎng)絡(luò)建構(gòu)的初步嘗試》，《國(guó)際安全研究》，2023年第1期。

③薛瀾、賈開、趙靜：《人工智能敏捷治理實(shí)踐：分類監(jiān)管思路與政策工具箱構(gòu)建》，《中國(guó)行政管理》，2024年第3期。

④魯傳穎：《人工智能：一項(xiàng)戰(zhàn)略性技術(shù)的應(yīng)用及治理》，《人民論壇》，2024年第1期。

⑤Gregory C. Allen，and Taniel Chan，Artificial Intelligence and National Security，Center for a New American Security， July 2017.

⑥魯傳穎、張璐瑤：《人工智能的安全風(fēng)險(xiǎn)及治理模式探索》，《國(guó)家安全研究》，2022年第4期。

責(zé)編/周小梨 美編/王夢(mèng)雅