強化人工智能安全治理

[摘要] 人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，加快發(fā)展新一代人工智能是我國抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題。人工智能在為各行各業(yè)賦能的同時，也帶來了系統(tǒng)性的安全風險，主要體現(xiàn)在倫理和軍事安全風險方面。堅持發(fā)展和安全并重，抓住人工智能帶來的戰(zhàn)略機遇，加快形成新質(zhì)生產(chǎn)力。同時，深入貫徹總體國家安全觀，以大安全理念為指引，加快構(gòu)建涵蓋人工智能安全等于一體的國家安全體系，提升維護國家安全的能力。

[關(guān)鍵詞] 人工智能；? 發(fā)展與安全；? 總體國家安全觀；? 安全治理

[中圖分類號] D616； D630.8? ? ? ?[文獻標識碼] A? ? ? ?[文章編號] 0529-1445（2024）05-0040-04

人工智能的迅猛發(fā)展將對經(jīng)濟社會發(fā)展和人類文明進步產(chǎn)生深遠影響，同時也帶來各種難以預(yù)知的風險和復(fù)雜挑戰(zhàn)。2022年末生成型預(yù)訓(xùn)練變換模型（ChatGPT）橫空出世，人工智能技術(shù)在文生圖、文生視頻等領(lǐng)域飛速迭代，展現(xiàn)出廣闊的商業(yè)化應(yīng)用前景。國家主席習近平在第三屆“一帶一路”國際合作高峰論壇開幕式上的主旨演講中指出：“愿同各國加強交流和對話，共同促進全球人工智能健康有序安全發(fā)展?！北仨氁钥傮w國家安全觀為指引，堅持發(fā)展和安全并重，構(gòu)筑人工智能安全屏障，擁抱智能時代的到來。

人工智能治理的重要性日益凸顯

人工智能特別是生成式人工智能取得重大突破，標志著人工智能技術(shù)正在實現(xiàn)從弱人工智能向強人工智能的飛躍。人工智能所蘊含的對各行各業(yè)的強大賦能力量表明，人工智能已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。人工智能是未來世界經(jīng)濟和高端制造的主導(dǎo)技術(shù)，發(fā)展人工智能是支撐科技自立自強、加快發(fā)展新質(zhì)生產(chǎn)力、實現(xiàn)高質(zhì)量發(fā)展的重要戰(zhàn)略抓手。我國要搶抓人工智能發(fā)展的重大戰(zhàn)略機遇，構(gòu)筑人工智能發(fā)展的先發(fā)優(yōu)勢，發(fā)揮人工智能對我國現(xiàn)代化產(chǎn)業(yè)體系建設(shè)的賦能作用，加快建設(shè)創(chuàng)新型國家和世界科技強國。

人工智能技術(shù)所具有的通用性、智能性和不可解釋性等特點在給社會帶來非凡增長機遇的同時，其所蘊含的安全風險也引發(fā)高度關(guān)注。《中華人民共和國國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和2035年遠景目標綱要》提出：“加強網(wǎng)絡(luò)安全關(guān)鍵技術(shù)研發(fā)，加快人工智能安全技術(shù)創(chuàng)新，提升網(wǎng)絡(luò)安全產(chǎn)業(yè)綜合競爭力?！泵鎸σ訡hatGPT、Sora等為代表的人工智能技術(shù)的迅速發(fā)展及其在金融、醫(yī)療、交通、制造業(yè)等領(lǐng)域的廣泛應(yīng)用，人類社會日益面臨著更復(fù)雜的人工智能安全挑戰(zhàn)，包括數(shù)據(jù)竊取風險、網(wǎng)絡(luò)攻擊風險、經(jīng)濟安全風險、“數(shù)據(jù)投毒”風險、軍事安全風險等。1

人工智能治理的本質(zhì)是統(tǒng)籌人工智能發(fā)展和安全，既要充分發(fā)揮人工智能技術(shù)對國家經(jīng)濟社會發(fā)展的創(chuàng)新引領(lǐng)作用，又要對其所帶來的安全外部性進行必要的監(jiān)管。維護網(wǎng)絡(luò)安全，確保人工智能安全、可靠、可控，切實保障國家數(shù)據(jù)安全，統(tǒng)籌高質(zhì)量發(fā)展和高水平安全，這已成為數(shù)字時代國家安全的必然要求。為進一步統(tǒng)籌人工智能發(fā)展與安全，2019年6月，我國新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》，創(chuàng)造性地提出了“敏捷治理”模式，即尊重人工智能發(fā)展規(guī)律，在推動人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時，及時發(fā)現(xiàn)和化解可能引發(fā)的風險。要對未來更高級人工智能可能存在的潛在風險開展研究和預(yù)判，確保人工智能始終朝著有利于社會的方向發(fā)展。在通用人工智能呼之欲出的當下，這些前瞻性的戰(zhàn)略布局為我國的人工智能治理指明了前進的方向和路徑。

科學(xué)評估人工智能對國家安全的影響

當前，人工智能治理面臨的重要挑戰(zhàn)之一是評估其對國家安全的影響。在移動互聯(lián)網(wǎng)、大數(shù)據(jù)、超級計算、傳感網(wǎng)、腦科學(xué)等新理論新技術(shù)的驅(qū)動下，人工智能加速發(fā)展，呈現(xiàn)出深度學(xué)習、跨界融合、人機協(xié)同、群智開放、自主操控等新特征。人工智能正在對經(jīng)濟發(fā)展、社會進步等產(chǎn)生重大而深遠的影響。由于人工智能具有多學(xué)科綜合、高度復(fù)雜的特征，其對國家安全的影響也不再局限于某個行業(yè)或者某個領(lǐng)域，而是會對國家經(jīng)濟、政治、社會、軍事等各領(lǐng)域帶來系統(tǒng)性的影響。一方面，人工智能技術(shù)可以被用來維護與保障國家安全。另一方面，人工智能的通用性、智能性和不可解釋性等特點也會給國家安全帶來潛在的風險和挑戰(zhàn)。如何應(yīng)對人工智能的安全風險并把握好發(fā)展的戰(zhàn)略主動，這既是我國國家安全治理的重要內(nèi)容，也是推進國家安全體系和能力現(xiàn)代化、以新安全格局保障新發(fā)展格局的必然要求。

伴隨著人工智能技術(shù)向國家經(jīng)濟、政治和社會生活各領(lǐng)域的不斷滲透和擴展，人工智能這項通用使能技術(shù)（enabling technology）所帶來的安全風險將出現(xiàn)在技術(shù)應(yīng)用的各個節(jié)點。按照安全風險的意圖分類，人工智能的國家安全風險可以分為兩類：一類是源于技術(shù)本身的倫理道德風險，這種風險屬于無意安全風險。人工智能不僅是在模擬人類的智能，而且可以用自己的邏輯在紛繁復(fù)雜的眾多可能性中識別出那些人類智能還無法理解或識別的規(guī)律。它所具有的智能性和不可解釋性，都將加劇人工智能應(yīng)用的倫理風險，例如自動駕駛汽車的道德和倫理問題、隱私保護和知識產(chǎn)權(quán)問題、失業(yè)和就業(yè)問題等。另一類是人工智能的武器化和軍事化應(yīng)用，屬于人為有意安全風險。人工智能不僅可以在不同軍事領(lǐng)域快速形成衍生技術(shù)，而且能夠推動一個國家整體軍事能力發(fā)生根本性變化。特別是自主性武器的出現(xiàn)，讓戰(zhàn)場態(tài)勢變得更加容易失控，責任更容易被推卸。傳統(tǒng)武裝沖突中調(diào)停、斡旋等預(yù)防沖突升級的空間將會急劇縮小，戰(zhàn)場形勢一旦失控，往往會給沖突各方帶來意想不到的災(zāi)難性后果。

鑒于人工智能對人類未來發(fā)展的重大影響，世界主要國家和經(jīng)濟體紛紛出臺有關(guān)人工智能監(jiān)管的立法和治理倡議，以降低人工智能帶來的安全風險。我國近年來先后出臺了多項政策文件，包括《新一代人工智能治理原則——發(fā)展負責任的人工智能》《新一代人工智能發(fā)展規(guī)劃》《人工智能標準化白皮書》等，發(fā)布了一系列具體的人工智能治理措施。2023年10月，美國發(fā)布一項名為《關(guān)于安全、可靠和值得信賴的人工智能的相關(guān)行政令》，為涉及人工智能安全的事項制定了新標準。2024年3月，歐洲委員會敲定《人工智能、人權(quán)、民主和法治框架公約》最終草案，預(yù)計這將是第一個國際人工智能條約。2024年3月21日，聯(lián)合國大會通過首個有關(guān)人工智能的全球決議，該決議題為《抓住安全、可靠、值得信賴的人工智能系統(tǒng)帶來的機遇，促進可持續(xù)發(fā)展》。

人工智能治理是世界各國面臨的共同課題，攸關(guān)全人類命運，離不開全球合作。2021年12月，我國向聯(lián)合國《特定常規(guī)武器公約》第六次審議大會提交了《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》，呼吁各國要秉持共同、綜合、合作、可持續(xù)的安全觀，通過對話與合作，就如何規(guī)范人工智能軍事應(yīng)用尋求共識，構(gòu)建有效的治理機制，避免人工智能軍事應(yīng)用給人類帶來重大損害甚至災(zāi)難。2022年11月，我國外交部發(fā)布了《中國關(guān)于加強人工智能倫理治理的立場文件》，倡導(dǎo)“以人為本”和“智能向善”理念，主張增進各國對人工智能倫理問題的理解，確保人工智能安全、可靠、可控，更好賦能全球可持續(xù)發(fā)展，增進全人類共同福祉，構(gòu)建人類命運共同體。2023年10月18日，中央網(wǎng)信辦發(fā)布《全球人工智能治理倡議》，聚焦人工智能治理的倫理和軍事安全風險，呼吁各國應(yīng)在人工智能治理中加強信息交流和技術(shù)合作，共同做好風險防范，形成具有廣泛共識的人工智能治理框架和標準規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。2024年4月3日，中非互聯(lián)網(wǎng)發(fā)展與合作論壇發(fā)表關(guān)于中非人工智能合作的主席聲明，提出“共同加強人工智能領(lǐng)域合作，攜手構(gòu)建更加緊密的中非網(wǎng)絡(luò)空間命運共同體”。

以總體國家安全觀為指導(dǎo)做好人工智能安全治理

通用人工智能技術(shù)的發(fā)展推動人工智能治理進入新階段。如何堅持發(fā)展和安全并重、在加強監(jiān)管的同時盡可能發(fā)揮人工智能技術(shù)的賦能作用，這已經(jīng)成為實現(xiàn)新時代國家治理能力現(xiàn)代化的重要命題。鑒于人工智能的全局性和系統(tǒng)性影響，將總體國家安全觀的大安全理念貫徹于人工智能治理全過程，對于做好人工智能安全治理具有重要的現(xiàn)實指導(dǎo)意義。

總體國家安全觀的“總體性”是人工智能治理的指導(dǎo)性原則?？傮w國家安全觀是新時代國家安全工作的根本遵循和行動指南，人工智能治理也不例外?？傮w國家安全觀的關(guān)鍵是“總體”，強調(diào)大安全理念，強調(diào)堅持國家安全工作的系統(tǒng)思維和方法，強調(diào)國家安全要貫穿到黨和國家工作全局各方面、各環(huán)節(jié)，強調(diào)打總體戰(zhàn)，用全社會全政府全體系全手段應(yīng)對重大國家安全風險挑戰(zhàn)。由于人工智能技術(shù)的通用性、智能性和創(chuàng)新性，人工智能技術(shù)應(yīng)用所帶來的安全風險將會出現(xiàn)在國家經(jīng)濟、政治、社會、軍事等領(lǐng)域的各個環(huán)節(jié)。一方面，原有的安全風險出現(xiàn)了新的變化和形式，例如網(wǎng)絡(luò)安全、數(shù)據(jù)安全、內(nèi)容安全等。另一方面，新的安全風險開始出現(xiàn)，如倫理道德風險和自主性軍事武器的使用所帶來的風險等。在進行人工智能安全治理頂層戰(zhàn)略設(shè)計時，必須全盤考慮各領(lǐng)域各層面的安全風險。要從國家的總體利益出發(fā)，制定相應(yīng)的治理方略，避免因某個領(lǐng)域的治理規(guī)制措施對其他領(lǐng)域產(chǎn)生消極影響。

總體國家安全觀的“重點性”對集人工智能安全等于一體的國家安全體系和能力建設(shè)提出了更高的要求。鑒于人工智能所蘊含的巨大安全風險，總體國家安全觀強調(diào)大安全理念，涵蓋政治、軍事、國土、經(jīng)濟、金融、文化、社會、科技、網(wǎng)絡(luò)、糧食、生態(tài)、資源、核、海外利益、太空、深海、極地、生物、人工智能、數(shù)據(jù)等重點領(lǐng)域，并且將隨著社會發(fā)展不斷動態(tài)調(diào)整。人工智能安全被列入國家安全重點領(lǐng)域，凸顯出在新興的人工智能領(lǐng)域推進國家安全體系和國家安全能力現(xiàn)代化的迫切性，必須統(tǒng)籌謀劃、協(xié)同創(chuàng)新、穩(wěn)步推進。就目前而言，我國在關(guān)鍵核心技術(shù)創(chuàng)新領(lǐng)域距離國際領(lǐng)先水平還有一定差距，技術(shù)深度應(yīng)用和動能轉(zhuǎn)換方面的潛力還有待挖掘。我們要充分利用好人工智能這把“雙刃劍”：一方面要把握戰(zhàn)略主動，讓人工智能成為國家安全體系和能力現(xiàn)代化的重要賦能者。另一方面也要系統(tǒng)應(yīng)對國家、社會、企業(yè)和個人層面的安全風險，有效維護和保障國家安全。

總體國家安全觀的“統(tǒng)籌性”是人工智能治理實踐的指導(dǎo)原則和政策目標?？傮w國家安全觀強調(diào)科學(xué)統(tǒng)籌，做到統(tǒng)籌發(fā)展和安全、開放和安全、傳統(tǒng)安全和非傳統(tǒng)安全、自身安全和共同安全、維護國家安全和塑造國家安全，著力解決國家安全工作不平衡、不充分的問題。在人工智能技術(shù)突飛猛進、大國競爭博弈加劇的大變局下，人工智能治理中的統(tǒng)籌問題就顯得尤為重要。統(tǒng)籌問題產(chǎn)生的前提是由于矛盾各方內(nèi)在的沖突和張力。如果一味地推動人工智能技術(shù)突飛猛進而忽視安全監(jiān)管，那么可能會帶來嚴重的社會后果；如果過于重視軍事安全風險而忽視倫理道德風險，也會帶來國家安全的不平衡發(fā)展；如果僅僅單方面強調(diào)本國的安全而不重視共同安全，外部安全環(huán)境的惡化最終也會損害本國安全；如果只是被動地應(yīng)對安全風險而忽視了主動塑造國家安全，片面追求近期安全利益就可能導(dǎo)致長期利益受損。因此，在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，人工智能治理只能是共同的、綜合的、合作的、可持續(xù)的治理。必須堅持發(fā)展和安全并重的原則，通過對話與合作凝聚共識，建立開放、公正、有效的治理機制，真正讓人工智能技術(shù)造福于人類，推動構(gòu)建人類命運共同體。

人工智能技術(shù)創(chuàng)新應(yīng)用的飛速迭代，帶來巨大發(fā)展機遇的同時，技術(shù)發(fā)展的不可知性和風險的不確定性也將帶來諸多安全挑戰(zhàn)。就目前的態(tài)勢看，或許跨過通用人工智能技術(shù)的門檻還存在很多不確定因素，但人工智能對國家經(jīng)濟、政治、社會生活等革命性影響已經(jīng)徐徐開啟，而人類將迎來一個什么樣的人工智能時代，取決于我們現(xiàn)在如何采取行動。我們要在機遇與安全之間尋求平衡，盡快筑牢安全屏障，充分發(fā)揮人工智能的“頭雁”效應(yīng)，加快形成新質(zhì)生產(chǎn)力，助力以中國式現(xiàn)代化全面推進中華民族偉大復(fù)興。

（本文是中國社會科學(xué)院重大創(chuàng)新項目“推進國家安全體系和能力現(xiàn)代化研究”〈項目編號：2023YZD025〉階段性成果）

[參考文獻]

[1]習近平著作選讀（第一卷）（第二卷）[M].北京：人民出版社，2023.

[2]習近平關(guān)于總體國家安全觀論述摘編[M].北京：中央文獻出版社，2018.

（作者簡介：郎平，中國社會科學(xué)院世界經(jīng)濟與政治研究所研究員）

責任編輯 / 高海濤