人工智能時(shí)代的國家安全：風(fēng)險(xiǎn)與治理

（上海國際問題研究院，上海 200233）

1 人工智能時(shí)代的來臨

現(xiàn)代意義上的人工智能研究最早可以追溯到20世紀(jì)40年代。1950年，英國著名科學(xué)家圖靈在《計(jì)算機(jī)器與智能》一文中首次提出了“機(jī)器能夠思考嗎?”這一具有劃時(shí)代意義的理論問題，并同時(shí)提出了測試機(jī)器是否擁有智能的方法。

1956年，在達(dá)特茅斯夏季學(xué)術(shù)研討會(huì)上，研究者們接受了計(jì)算機(jī)專家約翰·麥卡錫提出的人工智能(AI)概念，并將其作為這門新興學(xué)科的正式標(biāo)簽。然而，在隨后幾十年的時(shí)間里，人工智能的發(fā)展卻并非一帆風(fēng)順，雖然在不同時(shí)期出現(xiàn)了“專家系統(tǒng)”、“深藍(lán)”等多項(xiàng)具有標(biāo)志性意義的成果，但由于客觀條件的限制，人工智能技術(shù)始終無法有效解決人們的現(xiàn)實(shí)需求，技術(shù)發(fā)展無法在產(chǎn)業(yè)層面落地，對(duì)于現(xiàn)實(shí)社會(huì)的影響非常有限。

真正的突破出現(xiàn)在2009-2010年前后，硬件設(shè)備的進(jìn)步使新一代計(jì)算機(jī)在運(yùn)算速度和信息處理能力方面得到大幅提升。互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展改變了人類的生活方式,使得網(wǎng)絡(luò)成為人們獲取日常生活數(shù)據(jù)最集中、最便捷的渠道。移動(dòng)互聯(lián)時(shí)代的到來，則使來自網(wǎng)絡(luò)搜索、電子商務(wù)、社會(huì)媒體、科學(xué)研究等不同領(lǐng)域的海量數(shù)據(jù)迅速累積，為人工智能的飛躍提供了充足的養(yǎng)分。在已具備強(qiáng)大計(jì)算能力與大數(shù)據(jù)環(huán)境的情況下，早在60年代就已經(jīng)被提出的多層神經(jīng)網(wǎng)絡(luò)工具煥發(fā)出巨大的生命力，重新成為技術(shù)發(fā)展的主流路徑。

本輪人工智能發(fā)展熱潮以“深度學(xué)習(xí)”為核心，該算法以建立套嵌式的多層次模式識(shí)別系統(tǒng)組成的“神經(jīng)”架構(gòu)為基礎(chǔ)，通過組合低層特征形成更加抽象的高層屬性、類別或特征，借以發(fā)現(xiàn)數(shù)據(jù)的分布特點(diǎn)。深度學(xué)習(xí)的出現(xiàn)帶來了人工智能算法的跨越，改變了傳統(tǒng)符號(hào)主義學(xué)派以計(jì)算機(jī)模擬人類認(rèn)知系統(tǒng)推進(jìn)人工智能的艱難嘗試，讓人工智能擁有了從海量且復(fù)雜的信息源中提取、識(shí)別和構(gòu)建體系的能力，在那些任務(wù)目標(biāo)明確且相關(guān)數(shù)據(jù)豐富的領(lǐng)域，深度學(xué)習(xí)算法能夠讓機(jī)器學(xué)習(xí)新的技能，制定有效策略，從而在短時(shí)間內(nèi)提出超過人類學(xué)習(xí)能力的問題解決方案。

隨著深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)成為主流發(fā)展方向，人工智能技術(shù)很快在現(xiàn)實(shí)場景中得以應(yīng)用。在很短的時(shí)間內(nèi)，人工智能技術(shù)就在圖像識(shí)別、語音識(shí)別、機(jī)器翻譯、自動(dòng)駕駛甚至棋類競賽等復(fù)雜的應(yīng)用場景中獲得了飛速的進(jìn)步，基本達(dá)到了滿足人類日常需求的標(biāo)準(zhǔn)，具備了商業(yè)投資的價(jià)值，并很快成為資本市場追捧的新熱點(diǎn)。

邁過產(chǎn)業(yè)化的門檻意味著人工智能技術(shù)真正走出了實(shí)驗(yàn)室，能夠?qū)ι鐣?huì)生產(chǎn)和人類生活產(chǎn)生直接影響。更重要的是，本輪人工智能技術(shù)的進(jìn)步證明，機(jī)器學(xué)習(xí)算法能夠在具有很多限定性條件的領(lǐng)域比人類做得更好，并且能夠通過自我學(xué)習(xí)不斷進(jìn)步。這一結(jié)論事實(shí)上打開了人類對(duì)于人工智能發(fā)展的未來想象空間，人類社會(huì)已經(jīng)能夠清晰地聽到未來社會(huì)匆匆而至的腳步聲。

2 人工智能技術(shù)與四大領(lǐng)域的安全風(fēng)險(xiǎn)

誠如馬克思所言，“科學(xué)是歷史的有力杠桿，是最高意義上的革命力量”。作為一項(xiàng)具有時(shí)代意義的科學(xué)思想與技術(shù)，人工智能系統(tǒng)能夠通過大數(shù)據(jù)分析和學(xué)習(xí)理解人類的內(nèi)在需求，作為創(chuàng)造性的伙伴直接參與到人類改造世界的活動(dòng)中。它表現(xiàn)出與人類理性思維方式相匹敵的思考能力，在一定程度上改變了人類與技術(shù)工具的關(guān)系。然而，一切革命性的技術(shù)變革都意味著不確定性和風(fēng)險(xiǎn)，人工智能革命也將對(duì)經(jīng)濟(jì)、政治、軍事、社會(huì)等領(lǐng)域產(chǎn)生重大沖擊。如何在潛在的動(dòng)蕩風(fēng)險(xiǎn)尚未發(fā)生時(shí)做到未雨綢繆，使技術(shù)革命不至于反噬人類本身，是社會(huì)科學(xué)研究者所肩負(fù)的重要責(zé)任。在此，本報(bào)告分析總結(jié)了人工智能技術(shù)進(jìn)步對(duì)于社會(huì)生活中四大領(lǐng)域所帶來的潛在風(fēng)險(xiǎn)，旨在較為全面地展示我們所需面對(duì)的挑戰(zhàn)。

2.1 人工智能技術(shù)對(duì)于經(jīng)濟(jì)安全的影響

經(jīng)濟(jì)安全是國家安全的重要組成部分。特別是在冷戰(zhàn)結(jié)束之后，隨著國際體系的內(nèi)在邏輯變遷，經(jīng)濟(jì)安全問題日益被各國政府和研究者所重視，將其視為國家安全的核心組成部分，并逐漸擴(kuò)展為一個(gè)完整的理論體系。其中金融安全、產(chǎn)業(yè)安全、經(jīng)濟(jì)信息安全都被視為經(jīng)濟(jì)安全問題的重要組成部分。人工智能技術(shù)在發(fā)展過程中首先被視為一項(xiàng)具有明確經(jīng)濟(jì)目標(biāo)的技術(shù)創(chuàng)新，其成果對(duì)于經(jīng)濟(jì)體系的影響也最為直接。因此，在嘗試討論人工智能技術(shù)所帶來的安全風(fēng)險(xiǎn)時(shí)，最為基礎(chǔ)的便是其對(duì)國家層面經(jīng)濟(jì)安全的影響。

2.1.1 結(jié)構(gòu)性失業(yè)風(fēng)險(xiǎn)

從歷史上看，任何圍繞著自動(dòng)化生產(chǎn)的科技創(chuàng)新都會(huì)造成勞動(dòng)力需求的明顯下降，人工智能技術(shù)的進(jìn)步也同樣意味著普遍的失業(yè)風(fēng)險(xiǎn)。

據(jù)美國國家科學(xué)技術(shù)委員會(huì)預(yù)測，在未來10～20年的時(shí)間內(nèi)，9%～47%的現(xiàn)有工作崗位將受到威脅，平均每3個(gè)月就會(huì)有約6%的就業(yè)崗位消失。[1]與傳統(tǒng)基于生產(chǎn)規(guī)模下行所導(dǎo)致的周期性失業(yè)不同，由新的技術(shù)進(jìn)步所導(dǎo)致的失業(yè)現(xiàn)象從本質(zhì)上說是一種結(jié)構(gòu)性失業(yè)，資本以全新的方式和手段替代了對(duì)于勞動(dòng)力的需要。結(jié)構(gòu)性失業(yè)的人們在短期內(nèi)很難重新獲得工作，因?yàn)樗麄冎八軌蜻m應(yīng)的崗位已經(jīng)徹底消失，而適應(yīng)新的崗位則需要較長的時(shí)間周期。

可以預(yù)見的是，主要依賴重復(fù)性勞動(dòng)的勞動(dòng)密集型產(chǎn)業(yè)和依賴于信息不對(duì)稱而存在的部分服務(wù)行業(yè)的工作崗位將首先被人工智能所取代。隨著人工智能技術(shù)在各個(gè)垂直領(lǐng)域不斷推進(jìn)，受到威脅的工作崗位將越來越多，實(shí)際的失業(yè)規(guī)模①相關(guān)研究還可參見：Martin Ford. Rise of the Robots: Technology and the Threat of a Jobless Future[M]. New York: Basic Books, 2015; 該書已經(jīng)出版了中文版，對(duì)失業(yè)問題的相關(guān)論述可見：[英]馬丁·福特.機(jī)器人時(shí)代：技術(shù)、工作與經(jīng)濟(jì)的未來[M].王吉美、牛筱萌譯.北京：中信集團(tuán)出版社，2015:239-244.將越來越大，失業(yè)的持續(xù)時(shí)間也將越來越長。這種趨勢的演進(jìn)，對(duì)于社會(huì)穩(wěn)定的影響將是巨大的。

2.1.2 貧富分化與不平等

人工智能技術(shù)的進(jìn)步所帶來的另一大經(jīng)濟(jì)影響是進(jìn)一步加劇了貧富分化與不平等現(xiàn)象。

一方面，作為資本擠壓勞動(dòng)力的重要進(jìn)程，人工智能所帶來的勞動(dòng)生產(chǎn)率提升很難轉(zhuǎn)化為工資收入的普遍增長。在就業(yè)人口被壓縮的情況下，只有少數(shù)勞動(dòng)人口能夠參與分享自動(dòng)化生產(chǎn)所創(chuàng)造的經(jīng)濟(jì)收益。新創(chuàng)造的社會(huì)財(cái)富將會(huì)以不成比例的方式向資本一方傾斜。②根據(jù)《烏鎮(zhèn)指數(shù)：全球人工智能發(fā)展報(bào)告（2016）》的預(yù)測，短期內(nèi)人工智能的主要應(yīng)用領(lǐng)域?qū)⒓杏谧詣?dòng)駕駛、醫(yī)療健康、安防、電商零售、金融、教育和個(gè)人助理7個(gè)方面。報(bào)告全文見：http://www.199it.com/archives/526338.html.

另一方面，人工智能技術(shù)對(duì)于不同行業(yè)的參與和推進(jìn)是不平衡的。部分擁有較好數(shù)據(jù)積累，且生產(chǎn)過程適宜人工智能技術(shù)介入的行業(yè)可能在相對(duì)較短的時(shí)間內(nèi)獲得較大發(fā)展。在這種情況下，少數(shù)行業(yè)會(huì)吸納巨額資本注入與大量的人才集聚，迅速改變國內(nèi)產(chǎn)業(yè)結(jié)構(gòu)。行業(yè)發(fā)展不平衡的鴻溝與部分行業(yè)大量超額收益的存在將對(duì)國家經(jīng)濟(jì)發(fā)展產(chǎn)生復(fù)雜影響。[2]

2.1.3 循環(huán)增強(qiáng)的壟斷優(yōu)勢

作為一項(xiàng)有效的創(chuàng)新加速器，不斷發(fā)展成熟的人工智能技術(shù)可以為技術(shù)領(lǐng)先國家?guī)斫?jīng)濟(jì)競爭中的戰(zhàn)略優(yōu)勢。人工智能技術(shù)的進(jìn)步需要大量的前期投入，特別是在數(shù)據(jù)搜集和計(jì)算機(jī)技術(shù)方面的技術(shù)積累對(duì)于人工智能產(chǎn)業(yè)的發(fā)展至關(guān)重要。但各國在該領(lǐng)域的投入差距很大，不同國家在人工智能技術(shù)方面的發(fā)展嚴(yán)重不平衡。而人工智能技術(shù)自身潛在的創(chuàng)造力特性又能使率先使用該技術(shù)的國家有更大的機(jī)率出現(xiàn)新一輪技術(shù)創(chuàng)新。如果這種邏輯確實(shí)成立，那么少數(shù)大國就會(huì)利用人工智能技術(shù)實(shí)現(xiàn)有效的技術(shù)壟斷，不僅能夠使自己獲得大量超額收益，使本已十分嚴(yán)重的全球財(cái)富分配兩極分化的情況進(jìn)一步加劇，而且將會(huì)隨著時(shí)間的推移使差距進(jìn)一步拉大。在這種狀況下，處于弱勢地位的大部分發(fā)展中國家應(yīng)如何在不利的經(jīng)濟(jì)結(jié)構(gòu)中維持自身的經(jīng)濟(jì)安全就將成為極具挑戰(zhàn)性的課題。

2.1.4 小結(jié)

人工智能技術(shù)的發(fā)展已經(jīng)深刻地改變著維系國民經(jīng)濟(jì)運(yùn)行和社會(huì)生產(chǎn)經(jīng)營活動(dòng)的各項(xiàng)基本生產(chǎn)要素的意義。在人工智能技術(shù)的影響下，資本與技術(shù)在經(jīng)濟(jì)活動(dòng)中的地位獲得全面提升，而勞動(dòng)力要素的價(jià)值則受到嚴(yán)重削弱。在傳統(tǒng)工業(yè)化時(shí)代重要的人口紅利很可能在新時(shí)代成為新型經(jīng)濟(jì)模式下的“不良資產(chǎn)”。新的經(jīng)濟(jì)體系的重構(gòu)過程將會(huì)引導(dǎo)全球資本和人才進(jìn)一步流向技術(shù)領(lǐng)導(dǎo)國，留給發(fā)展中國家走上現(xiàn)代化道路的機(jī)遇期將變得更加有限。人工智能技術(shù)帶來的全球經(jīng)濟(jì)結(jié)構(gòu)調(diào)整，將促使經(jīng)濟(jì)安全問題成為所有發(fā)展中國家所面對(duì)的共同挑戰(zhàn)。

2.2 人工智能技術(shù)對(duì)于政治安全的影響

人工智能技術(shù)對(duì)于經(jīng)濟(jì)領(lǐng)域的深度影響會(huì)自然傳導(dǎo)到政治領(lǐng)域，而人工智能技術(shù)的特性也容易對(duì)現(xiàn)有的政治安全環(huán)境產(chǎn)生影響。從議題層面來看，人工智能技術(shù)及其背后的大數(shù)據(jù)和算法能夠潛移默化地影響人類行為，直接對(duì)國內(nèi)政治行為產(chǎn)生干擾。從結(jié)構(gòu)層面來看，人工智能所帶來的社會(huì)經(jīng)濟(jì)結(jié)構(gòu)調(diào)整，會(huì)使資本的權(quán)力在政治體系中呈現(xiàn)擴(kuò)張態(tài)勢，最終在政治權(quán)力分配中獲得相應(yīng)的反映。除此之外，人工智能技術(shù)的介入，還將影響國際競爭的內(nèi)容與形態(tài)。因此，對(duì)于身處人工智能時(shí)代的國家主體而言，如何在變革的條件下有效維護(hù)本國的政治安全與秩序穩(wěn)定，并且提高參與國際競爭的能力，將是所有國家都不得不面對(duì)的重要課題。

2.2.1 數(shù)據(jù)與算法的壟斷對(duì)于政治議程的影響

技術(shù)對(duì)于各國國內(nèi)的政治議程所產(chǎn)生的影響軌跡已經(jīng)變得越來越清晰，在過去兩年中，圍繞著2016年美國大選而開展的種種政治運(yùn)作已經(jīng)越來越明顯地展現(xiàn)出擁有數(shù)據(jù)和技術(shù)能夠在怎樣的程度上影響政治的結(jié)果。

劍橋分析公司事件的出現(xiàn)非常清晰地顯示出，只要擁有足夠豐富的數(shù)據(jù)和準(zhǔn)確的算法，技術(shù)企業(yè)就能夠?yàn)楦偁幮赃x舉制造針對(duì)性影響。在人工智能技術(shù)的協(xié)助下，各種數(shù)據(jù)資源的積累，使每個(gè)接受互聯(lián)網(wǎng)服務(wù)的用戶都會(huì)被系統(tǒng)自動(dòng)畫像與分析，從而獲得定制化的服務(wù)。然而，漸趨透明的個(gè)人信息本身也就意味著這些信息可以輕易服務(wù)于政治活動(dòng)。正如英國第四頻道針對(duì)劍橋分析事件所做的評(píng)論，“…一只看不見的手搜集了你的個(gè)人信息，挖掘出你的希望和恐懼，以此謀取最大的政治利益?！庇谑?，伴隨著技術(shù)的不斷成熟，當(dāng)某種特定政治結(jié)果發(fā)生時(shí)，你將難以確定這是民眾正常的利益表達(dá)，還是被有目的地引導(dǎo)的結(jié)果。

在人工智能時(shí)代，數(shù)據(jù)和算法就是權(quán)力，這也意味著新的政治風(fēng)險(xiǎn)。這種技術(shù)干涉國內(nèi)政治的風(fēng)險(xiǎn)對(duì)于所有國家都普遍存在，但對(duì)于那些技術(shù)水平相對(duì)落后的廣大發(fā)展中國家來說，這種挑戰(zhàn)顯然更加嚴(yán)酷。由于缺乏相應(yīng)技術(shù)積累，發(fā)展中國家并沒有充分有效的方式保護(hù)自己的數(shù)據(jù)安全，也沒有足夠的能力應(yīng)對(duì)算法所帶來的干涉。人工智能技術(shù)的進(jìn)步將進(jìn)一步凸顯其在政治安全領(lǐng)域的脆弱性特征，傳統(tǒng)的國家政治安全將面臨嚴(yán)峻的考驗(yàn)。

2.2.2 技術(shù)進(jìn)步與資本權(quán)力的持續(xù)擴(kuò)張

國家權(quán)力的分配方式從根本上說是由社會(huì)經(jīng)濟(jì)生產(chǎn)方式的特點(diǎn)所決定的，不同時(shí)代的生產(chǎn)力水平?jīng)Q定了特定時(shí)段最為合理的政治組織模式。威斯特伐利亞體系中的民族國家體制出現(xiàn)，從根本上說正是目前人類所創(chuàng)造的最適宜工業(yè)化大生產(chǎn)經(jīng)濟(jì)模式的權(quán)力分配方式。因此，當(dāng)人工智能技術(shù)所推動(dòng)的社會(huì)經(jīng)濟(jì)結(jié)構(gòu)變革逐步深入時(shí)，新的社會(huì)權(quán)力分配結(jié)構(gòu)也會(huì)伴隨著技術(shù)變革而興起，推動(dòng)國家治理結(jié)構(gòu)與權(quán)力分配模式做出相應(yīng)的調(diào)整。

從當(dāng)前的各種跡象來看，資本權(quán)力依托技術(shù)和數(shù)據(jù)壟斷的地位持續(xù)擴(kuò)張將成為新時(shí)代國家治理結(jié)構(gòu)調(diào)整的重要特征。人工智能技術(shù)的研究工作門檻很高，依賴于巨額且長期的資本投入。當(dāng)前，人工智能研究中最具實(shí)際應(yīng)用價(jià)值的科研成果多出自大型企業(yè)所支持的研究平臺(tái)。超級(jí)互聯(lián)網(wǎng)商業(yè)巨頭實(shí)際上掌握了目前人工智能領(lǐng)域的大部分話語權(quán)。人工智能領(lǐng)域研究已經(jīng)深深地打上了資本的烙印，大型企業(yè)對(duì)于數(shù)據(jù)資源以及人工智能技術(shù)的控制能力正在形成他們實(shí)際上的壟斷地位。這種力量將滲入當(dāng)前深嵌于網(wǎng)絡(luò)的社會(huì)生活的方方面面，利用算法的黑箱為大眾提供他們希望看到的內(nèi)容，潛移默化地改變公共產(chǎn)品的提供方式。在人工智能時(shí)代，資本和技術(shù)力量的壟斷地位有可能結(jié)合在一起，在一定程度上逐漸分享傳統(tǒng)上由民族國家所掌控的金融、信息等重要的權(quán)力。資本的權(quán)力隨著新技術(shù)在各個(gè)領(lǐng)域的推進(jìn)而不斷擴(kuò)張，這將成為人工智能技術(shù)在進(jìn)步過程中所帶來的權(quán)力分配調(diào)整的重要特征。

對(duì)于民族國家來說，資本權(quán)力的擴(kuò)張本身并非不可接受，大型企業(yè)通過長期投資和技術(shù)研發(fā)，能夠更加經(jīng)濟(jì)、更加有效地在很多領(lǐng)域承擔(dān)提供相應(yīng)公共產(chǎn)品的職能。然而，民族國家能否為資本權(quán)力的擴(kuò)張?jiān)O(shè)定合理的邊界則是關(guān)系到傳統(tǒng)治理模式能否繼續(xù)存在的重要問題，這種不確定性將成為未來民族國家所面對(duì)的普遍性政治安全風(fēng)險(xiǎn)。

2.2.3 技術(shù)進(jìn)步對(duì)主權(quán)國家參與國際競爭的挑戰(zhàn)

人工智能技術(shù)進(jìn)步所帶來的另一項(xiàng)重要政治安全風(fēng)險(xiǎn)是使得技術(shù)落后的國家在國際戰(zhàn)略博弈中長期處于不利地位。

戰(zhàn)略博弈是國際競爭活動(dòng)中最為普遍的形式，參與者通過判斷博弈對(duì)手的能力、意圖、利益和決心，結(jié)合特定的外部環(huán)境分析，制定出最為有利的博弈策略并加以實(shí)施。①關(guān)于戰(zhàn)略博弈的分析過程參見：唐世平.一個(gè)新的國際關(guān)系歸因理論：不確定性的維度及其認(rèn)知挑戰(zhàn)[J].國際安全研究,2014(02):3-41.由于國際關(guān)系領(lǐng)域的戰(zhàn)略博弈涉及范圍廣，內(nèi)容復(fù)雜，各項(xiàng)要素相互累加形成的系統(tǒng)效應(yīng)（System Effects）實(shí)際上已經(jīng)遠(yuǎn)遠(yuǎn)超出了人類思維所能夠分析和掌控的范疇，傳統(tǒng)意義上國家參與戰(zhàn)略博弈的過程更多依賴政治家的直覺與判斷。這種類似于“不完全信息博弈”的形態(tài)給人工智能技術(shù)的介入提供了條件。②關(guān)于不完全信息博弈問題的基本模式參見：John C. Harsanyi. Games with Incomplete Information Played by “Bayesian” Players, Part I:The Basic Model[J].Management Science, 1967, 14(03):159-182.只要技術(shù)進(jìn)步的大趨勢不發(fā)生改變，人工智能所提供的戰(zhàn)略決策輔助系統(tǒng)就將對(duì)博弈過程產(chǎn)生重大影響。③參見：Kareem Ayoub, Kenneth Payne.Strategy in the Age of Artificial Intelligence[M].The Journal of Strategic Studies, 2016,39(5-6):793-819.

首先，人工智能系統(tǒng)能夠提供更加精確的風(fēng)險(xiǎn)評(píng)估和預(yù)警，使戰(zhàn)略決策從一種事實(shí)上的主觀判斷轉(zhuǎn)變?yōu)榫_化的揀選過程，提升戰(zhàn)略決策的科學(xué)性。[3-4]其次，深度學(xué)習(xí)算法能夠以更快的速度提供更多不同于人類常規(guī)思維方式的戰(zhàn)略選項(xiàng)，并且隨著博弈過程的持續(xù)，進(jìn)一步根據(jù)對(duì)方策略的基本傾向?qū)Ρ痉讲呗约右酝晟疲嵘龑?shí)現(xiàn)戰(zhàn)略決策的有效性。④Kareem Ayoub, Kenneth Payne. Strategy in the Age of Artificial Intelligence[M].The Journal of Strategic Studies, 2016, 39(5-60:808.最后，在戰(zhàn)略博弈進(jìn)程中，人工智能系統(tǒng)能夠最大限度排除人為因素的干擾，提高戰(zhàn)略決策的可靠性。⑤參見：Stephen P. Rosen.War and Human Nature[M]. Princeton, NJ: Princeton University Press, 2005:27-70.

以人工智能技術(shù)為基礎(chǔ)的決策輔助系統(tǒng)在國際戰(zhàn)略博弈的進(jìn)程中將發(fā)揮重要作用，技術(shù)的完善將使得國際行為體之間戰(zhàn)略博弈能力的差距進(jìn)一步擴(kuò)大。缺少人工智能技術(shù)輔助的行為體將在風(fēng)險(xiǎn)判斷、策略選擇、決策確定、執(zhí)行效率，以及決策可靠性等多個(gè)方面處于絕對(duì)劣勢，整個(gè)戰(zhàn)略博弈過程將會(huì)完全失衡。一旦這種情況出現(xiàn)，主權(quán)國家將不得不參與到技術(shù)競爭中來。而在資本和技術(shù)都處于落后一方的中小國家將在國際競爭中處于不利地位，也將面對(duì)嚴(yán)重的政治安全風(fēng)險(xiǎn)。

2.2.4 小結(jié)

人工智能技術(shù)的快速發(fā)展所帶來的不確定性將直接影響國家的政治安全。它不僅能夠直接作用于國內(nèi)政治議程，通過技術(shù)手段對(duì)內(nèi)部政治生態(tài)產(chǎn)生短時(shí)段的直接干擾，而且會(huì)通過國內(nèi)社會(huì)經(jīng)濟(jì)結(jié)構(gòu)的調(diào)整，在長時(shí)段內(nèi)影響原有政治體系的穩(wěn)定。在人工智能時(shí)代，國內(nèi)治理格局需要根據(jù)經(jīng)濟(jì)基礎(chǔ)的變化進(jìn)行調(diào)整，作為大工業(yè)時(shí)代產(chǎn)物的科層制管理體系應(yīng)該如何適應(yīng)新時(shí)代的要求，將成為影響民族國家國內(nèi)政治穩(wěn)定的重要因素。另一方面，人工智能技術(shù)的介入和參與還會(huì)進(jìn)一步拉大國家間的戰(zhàn)略設(shè)計(jì)與戰(zhàn)略執(zhí)行能力的差距，技術(shù)的潛力一旦得到完全釋放，將使得國際競爭格局進(jìn)一步失衡，處于弱勢一方的發(fā)展中國家維護(hù)自身利益的空間進(jìn)一步縮減。國際關(guān)系行為體之間將呈現(xiàn)出在技術(shù)和制度上的系統(tǒng)性差距，發(fā)展中國家將面臨更加嚴(yán)酷的國際競爭環(huán)境。

2.3 人工智能技術(shù)對(duì)于軍事安全的影響

人工智能技術(shù)本身并不是軍事武器，但它天然與軍事安全領(lǐng)域的所有問題都存在千絲萬縷的聯(lián)系。從人工智能技術(shù)誕生之日起，如何將其有效應(yīng)用于軍事領(lǐng)域就已被納入所有技術(shù)先進(jìn)國家的考慮范圍之內(nèi)。①在人工智能技術(shù)誕生之初，美國軍方就自動(dòng)化和智能化武器產(chǎn)生的濃厚的興趣，相關(guān)信息可參見：Allan M. Din (ed.). Arms and Artificial Intelligence: Weapon and Arms Control Applications of Advanced Computing[M].New York: Oxford University Press, 1988; Jeffrey L. Caton.Autonomous Weapons Systems: A Brief Survey of Developmental, Operational, legal and Ethical Issues[EB/OL].Strategic Studies Institute, U.S.Army War College.(2015-11). http://www.strategicstudiesinstitute.army.mil/pdffiles/PUB1309.pdf.這是因?yàn)閲业能娛滦袨榕c公司等經(jīng)濟(jì)組織的商業(yè)行為擁有相似的邏輯，都要求建立一個(gè)有效的系統(tǒng)，以便在競爭性過程中獲得勝利。整個(gè)過程中同樣包含快速獲取信息、快速處理信息、做出決策與執(zhí)行決策等過程。而隨著人工智能技術(shù)的成熟，它將會(huì)被越來越廣泛地應(yīng)用于軍事領(lǐng)域，武器系統(tǒng)、軍事策略、軍事組織，甚至戰(zhàn)爭的意義可能會(huì)發(fā)生深刻改變，人類社會(huì)也有可能在進(jìn)入人工智能時(shí)代之后迎來一個(gè)不同的軍事安全環(huán)境。②Vincent Boulanin, MaaikeVerbruggen.Mapping the Development of Autonomy in Weapon Systems[M].Sweden Stockholm International Peace Research Institute, 2017:16-17.

2.3.1 完全自主性武器的廣泛應(yīng)用將帶來巨大的軍事倫理問題

人工智能技術(shù)不是武器，但能夠成為武器性能提升的助推器。一方面，人工智能技術(shù)的介入，使大量無人作戰(zhàn)武器參與作戰(zhàn)成為可能。當(dāng)前，無人機(jī)、無人地面車輛、無人潛航設(shè)備已經(jīng)廣泛應(yīng)用于軍事領(lǐng)域，而各國軍事部門對(duì)于機(jī)器人作戰(zhàn)系統(tǒng)的興趣也是有增無減。利用深度學(xué)習(xí)算法，智能化武器可以在虛擬環(huán)境中得到武器操控的基本能力，隨后在現(xiàn)實(shí)環(huán)境中廣泛獲取數(shù)據(jù)，并根據(jù)數(shù)據(jù)反饋不斷提升戰(zhàn)斗能力，學(xué)習(xí)執(zhí)行各種戰(zhàn)斗命令，最終實(shí)現(xiàn)有效應(yīng)用于復(fù)雜的戰(zhàn)場態(tài)勢。

另一方面，隨著人工智能技術(shù)的發(fā)展，算法的更新可以賦予智能武器新的角色與行動(dòng)邏輯。以智能化無人機(jī)為例，利用人工智能技術(shù)，無人機(jī)已不僅是執(zhí)行定點(diǎn)清除等特殊任務(wù)的執(zhí)行者，更成為情報(bào)搜集、目標(biāo)定位、策略制定和行動(dòng)發(fā)起的協(xié)調(diào)平臺(tái)，擔(dān)負(fù)起前沿信息節(jié)點(diǎn)和策略制定等重要任務(wù)。此外，人工智能技術(shù)的成果同樣可以應(yīng)用于對(duì)于各種智能化武器的訓(xùn)練過程中。智能化武器的規(guī)模越大，其在戰(zhàn)斗中相互協(xié)調(diào)的優(yōu)勢就越容易發(fā)揮出來。通過共同的算法進(jìn)行“訓(xùn)練”的大批量智能化武器可以協(xié)調(diào)行動(dòng)，有助于其最大限度地優(yōu)化其作戰(zhàn)策略，并且根據(jù)戰(zhàn)場形勢和作戰(zhàn)目標(biāo)進(jìn)行靈活調(diào)整，最大限度地獲得戰(zhàn)場優(yōu)勢。③Vincent Boulanin, MaaikeVerbruggen.Mapping the Development of Autonomy in Weapon Systems[M]. Sweden: Stockholm International Peace Research Institute, 2017:27-29; Peter Singer, Wired for War: The Robotics Revolution and Conflict in the Twenty-first Century[M]. London:Penguin, 2009:124-125.

然而，武器系統(tǒng)的快速進(jìn)步也為國家的軍事行為帶來了嚴(yán)重的倫理問題。隨著技術(shù)的進(jìn)步，完全自主的致命性武器系統(tǒng)能夠做到主動(dòng)識(shí)別和選擇目標(biāo)，確定擬對(duì)目標(biāo)施加的武力級(jí)別，并在特定的時(shí)間和空間范圍內(nèi)對(duì)目標(biāo)實(shí)施規(guī)定的武力。但自主武器是否有權(quán)力在沒有人為干涉的情況下自主決定對(duì)于目標(biāo)的殺傷，仍然是人類倫理領(lǐng)域的一個(gè)尚無答案的問題。人類社會(huì)的運(yùn)行要建立在很多具有共識(shí)性的倫理基礎(chǔ)之上，即使是軍事行為也有很多明確的國際法規(guī)范。然而，這些法律規(guī)范都立足于人類之間的戰(zhàn)爭行為，對(duì)于智能化武器的規(guī)范尚未形成。特別是處于弱勢一方的軍事組織，在無法通過消滅有生力量的方式制止對(duì)方戰(zhàn)爭行為的情況下，是否有權(quán)利對(duì)于對(duì)方城市平民發(fā)動(dòng)襲擊，迫使對(duì)方停止侵略行為？如果這種行為能夠被接受，那么軍事行動(dòng)的合法性界限到底在哪里？在這些問題得到有效解決之前，一旦在現(xiàn)實(shí)戰(zhàn)場上出現(xiàn)智能化武器自主決定對(duì)于人類的大規(guī)模殺傷，人類社會(huì)的倫理原則就將面臨重大考驗(yàn)。

2.3.2 更加有效的作戰(zhàn)體系的出現(xiàn)很可能觸發(fā)新一輪的軍備競賽

人工智能技術(shù)的進(jìn)步和智能化武器的發(fā)展，可以使人工智能時(shí)代的作戰(zhàn)體系逐漸趨向去中心化的動(dòng)態(tài)網(wǎng)絡(luò)結(jié)構(gòu)。由于智能化武器本身有承載作戰(zhàn)關(guān)鍵節(jié)點(diǎn)的功能，且相互之間能夠?qū)崿F(xiàn)數(shù)據(jù)和策略共享，因此，在戰(zhàn)爭過程中能夠做到相互取代，從而避免了因?yàn)殛P(guān)鍵節(jié)點(diǎn)被攻擊而導(dǎo)致整個(gè)作戰(zhàn)系統(tǒng)失效的結(jié)果。同時(shí)，人工智能具有更加全面高效搜集戰(zhàn)場信息的能力，能夠利用智能系統(tǒng)重新構(gòu)筑戰(zhàn)場形態(tài)，實(shí)現(xiàn)對(duì)戰(zhàn)場真實(shí)情況最大限度的模擬。在人工智能技術(shù)的推動(dòng)下，在軍事安全領(lǐng)域能夠出現(xiàn)更加有效的作戰(zhàn)體系。

事實(shí)上，人工智能擁有兩個(gè)人類無法比擬的優(yōu)勢，其一，人工智能系統(tǒng)可以快速處理戰(zhàn)場信息，具有人類所不具備的快速反應(yīng)能力。其二，人工智能系統(tǒng)具有多線程處理能力，可以同時(shí)處理軍事行動(dòng)中同時(shí)發(fā)生的多項(xiàng)行動(dòng)，并且提出人類思維模式所無法理解的復(fù)雜策略。①Li Yingjieet, al.RTS Game Strategy Evaluation Using Extreme Learning Machine[J].Soft Computing, 2012, 16(09):1623-1637.速度是現(xiàn)代戰(zhàn)爭中的重要優(yōu)勢，在現(xiàn)代戰(zhàn)爭信息超載的情況下，成熟的人工智能系統(tǒng)的反應(yīng)速度和策略安排都將遠(yuǎn)遠(yuǎn)超過人類體能的極限。技術(shù)的影響將加劇常規(guī)軍事力量對(duì)抗的不平衡狀態(tài)，缺少人工智能技術(shù)輔助的武裝力量將越來越難以通過戰(zhàn)術(shù)與策略彌補(bǔ)戰(zhàn)場上的劣勢。常規(guī)對(duì)抗將不再是合理的戰(zhàn)略選項(xiàng)，不對(duì)稱戰(zhàn)爭將成為這兩種力量對(duì)抗的主要方式。

人類既有的歷史經(jīng)驗(yàn)多次驗(yàn)證了任何科技革命的出現(xiàn)都會(huì)使率先掌握新科技的國家與其他國家之間的力量差距進(jìn)一步擴(kuò)大。作為人類科技史上最新的力量放大器，人工智能在軍事領(lǐng)域已經(jīng)展現(xiàn)出明顯超越人類的能力與持續(xù)發(fā)展的潛力。一旦技術(shù)發(fā)展成熟，這種差距已經(jīng)很難用數(shù)量堆砌或策略戰(zhàn)術(shù)加以彌補(bǔ)，應(yīng)用人工智能的國際行為體在軍事行動(dòng)中很難被尚未使用人工智能技術(shù)的對(duì)手擊敗，國際主體間的力量鴻溝變得更加難以跨越。面對(duì)這樣的技術(shù)變革浪潮，所有具有相應(yīng)技術(shù)基礎(chǔ)的大國必然會(huì)千方百計(jì)地獲取相關(guān)技術(shù)，一場以人工智能技術(shù)為核心的新的軍備競賽恐怕很難避免。

2.3.3 人工智能技術(shù)會(huì)大大降低戰(zhàn)爭的門檻

在現(xiàn)代國際體系中，戰(zhàn)爭被普遍視為國際政治行為中的極端手段。巨大的經(jīng)濟(jì)成本與傷亡所造成的國內(nèi)政治壓力實(shí)際上給戰(zhàn)爭設(shè)置了較高的門檻。然而，隨著人工智能技術(shù)的介入，戰(zhàn)爭行動(dòng)的成本與風(fēng)險(xiǎn)都有明顯下降的趨勢。

一方面，人工智能技術(shù)的介入將能夠有效節(jié)約軍事行動(dòng)的成本。智能化武器的使用可以有效節(jié)約訓(xùn)練過程的時(shí)間和人力成本。無人作戰(zhàn)武器的訓(xùn)練多依賴于相對(duì)成熟的深度學(xué)習(xí)算法，在初始訓(xùn)練結(jié)束后，可以快速復(fù)制到所有同類型無人作戰(zhàn)武器上，完成作戰(zhàn)武器的快速培訓(xùn)過程。最大限度地節(jié)省了人類武器操控者需要對(duì)所有個(gè)體重復(fù)培訓(xùn)的人力和物力成本，而且可以從整體上做到所有武器操控的同步進(jìn)步。從長時(shí)段效果來看，這更是一種更加經(jīng)濟(jì)、更加有效的作戰(zhàn)訓(xùn)練方式。由于算法與數(shù)據(jù)的可復(fù)制性，部分武器的戰(zhàn)損對(duì)于整體作戰(zhàn)效能的影響將大大降低。即使在實(shí)際戰(zhàn)斗中出現(xiàn)戰(zhàn)損情況，其實(shí)際損失也要明顯小于傳統(tǒng)作戰(zhàn)武器。

另一方面，傳統(tǒng)戰(zhàn)爭模式中最為殘酷的一面是戰(zhàn)爭導(dǎo)致的人員傷亡，這也是現(xiàn)代社會(huì)戰(zhàn)爭行為最為嚴(yán)重的政治風(fēng)險(xiǎn)。而智能化武器的廣泛應(yīng)用實(shí)際上減少人類直接參與戰(zhàn)斗的過程，人與武器實(shí)現(xiàn)實(shí)質(zhì)性分離，將戰(zhàn)爭活動(dòng)在很大程度上轉(zhuǎn)變?yōu)槔脽o人武器系統(tǒng)的任務(wù)。從而有力地規(guī)避了大量傷亡所導(dǎo)致的政治風(fēng)險(xiǎn)。在傳統(tǒng)的戰(zhàn)爭形態(tài)中，由于人類的深度參與，戰(zhàn)爭的雙方都有較大的可能出現(xiàn)重大傷亡，這是戰(zhàn)爭的不確定性所決定的。在現(xiàn)代政治體系中，戰(zhàn)爭所導(dǎo)致的大量本國人員傷亡會(huì)在國內(nèi)政治領(lǐng)域形成重要的社會(huì)壓力，客觀上增加了大國發(fā)動(dòng)戰(zhàn)爭的顧慮，提升了戰(zhàn)爭的門檻。然而，隨著智能化武器的廣泛使用，人員傷亡能夠大大減少，政治風(fēng)險(xiǎn)極大降低。這種情況實(shí)質(zhì)上鼓勵(lì)大國減少自我約束，更多采取進(jìn)攻性的行動(dòng)來達(dá)到相應(yīng)的目的，也會(huì)對(duì)國際安全形成新的不穩(wěn)定因素，客觀上為大國之間的技術(shù)軍備競賽提供了額外的動(dòng)力。

2.3.4 人工智能技術(shù)給網(wǎng)絡(luò)安全問題帶來的重大風(fēng)險(xiǎn)

網(wǎng)絡(luò)安全本身就是具有顛覆性、殺手锏性質(zhì)的領(lǐng)域，人工智能的應(yīng)用將會(huì)進(jìn)一步放大網(wǎng)絡(luò)安全在進(jìn)攻和防御方面的作用，從而使得強(qiáng)者愈強(qiáng)。同時(shí)，人工智能在網(wǎng)絡(luò)攻擊行動(dòng)和網(wǎng)絡(luò)武器開發(fā)中的應(yīng)用也會(huì)帶來很大的安全風(fēng)險(xiǎn)。這種風(fēng)險(xiǎn)主要表現(xiàn)在對(duì)自主選擇目標(biāo)的攻擊是否會(huì)引起附帶的傷害，是否會(huì)超出預(yù)設(shè)的目標(biāo)從而導(dǎo)致沖突升級(jí)。在現(xiàn)有網(wǎng)絡(luò)領(lǐng)域的沖突中，各方在選擇目標(biāo)和采取的破壞程度時(shí)都會(huì)非常謹(jǐn)慎，避免產(chǎn)生不必要的傷害以及防止沖突發(fā)生。但是人工智能網(wǎng)絡(luò)武器的使用是否能夠遵循這一謹(jǐn)慎，能否將更多在網(wǎng)絡(luò)安全之外的因素納入到攻擊目標(biāo)的選擇和攻擊程度的決策上，仍然存在疑問。因此，自主攻擊的網(wǎng)絡(luò)武器開發(fā)應(yīng)當(dāng)被嚴(yán)格限制在特定的環(huán)境之下，并且精確地開展測試。

另一方面，自主攻擊網(wǎng)絡(luò)武器的擴(kuò)散將會(huì)對(duì)網(wǎng)絡(luò)安全造成更加難以控制的危害。近年發(fā)生的網(wǎng)絡(luò)武器泄露已經(jīng)給國際安全造成了嚴(yán)重威脅，類似于WannaCry和NotPetya這樣源自于美國國家安全局武器庫中網(wǎng)絡(luò)武器泄露再次開發(fā)而成的勒索病毒給國際社會(huì)帶來了幾百億美元的經(jīng)濟(jì)損失和重大的公共安全危害。如果更具危害的自主性網(wǎng)絡(luò)武器一旦泄露，其給網(wǎng)絡(luò)安全帶來的威脅將會(huì)更加嚴(yán)重。試想如果恐怖主義集團(tuán)獲得了可以自動(dòng)對(duì)全球各個(gè)關(guān)鍵基礎(chǔ)設(shè)施發(fā)動(dòng)攻擊的網(wǎng)絡(luò)武器，那么將會(huì)對(duì)全球網(wǎng)絡(luò)安全造成嚴(yán)重危害。因此，自主網(wǎng)絡(luò)武器需要有嚴(yán)格加密和解密的規(guī)定，并且還應(yīng)當(dāng)具有在泄露后自我刪除、取消激活等功能。

2.3.5 技術(shù)本身的安全問題與技術(shù)擴(kuò)散對(duì)于全球安全的威脅

人工智能技術(shù)的介入能夠使軍事武器的作戰(zhàn)效能提升，同時(shí)推動(dòng)成本逐步下降，兩方面優(yōu)勢的同時(shí)存在將使得對(duì)智能化武器的追求成為各大國的合理選擇，但這并不意味著人工智能技術(shù)已經(jīng)完全解決了可靠性的問題。從目前情況看，人工智能技術(shù)本身的安全問題與技術(shù)擴(kuò)散風(fēng)險(xiǎn)仍然不可忽視。

一方面，技術(shù)本身仍存在潛在的安全問題。算法與數(shù)據(jù)是人工智能技術(shù)發(fā)展最重要的兩項(xiàng)要素，但這兩項(xiàng)要素本身都蘊(yùn)含著潛在的安全風(fēng)險(xiǎn)。算法是由人編寫的，因此，無法保證程序完全安全、可靠、可控、可信。而從數(shù)據(jù)角度來看，人工智能依賴大數(shù)據(jù)，同時(shí)數(shù)據(jù)的質(zhì)量也會(huì)影響算法的判斷。軍事數(shù)據(jù)的獲取、加工、存儲(chǔ)和使用等環(huán)節(jié)都存在著一定的數(shù)據(jù)質(zhì)量和安全風(fēng)險(xiǎn)問題。軍隊(duì)的運(yùn)作建立在可靠性的基礎(chǔ)之上，而人工智能技術(shù)本身存在的不確定性會(huì)為全球軍事安全帶來考驗(yàn)。

另一方面，人工智能技術(shù)的擴(kuò)散給全球安全帶來了威脅。伴隨著人工智能武器的開發(fā)，國際社會(huì)面臨將面臨嚴(yán)峻的反擴(kuò)散問題的挑戰(zhàn)?？植乐髁x組織以及部分不負(fù)責(zé)任的國家有可能利用各種途徑獲得人工智能武器，并對(duì)國際安全和平產(chǎn)生威脅。人工智能從某種意義上而言，也是一種程序和軟件，因此，它面臨的擴(kuò)散風(fēng)險(xiǎn)要遠(yuǎn)遠(yuǎn)大于常規(guī)武器。經(jīng)驗(yàn)表明，類似于美國國家安全局的網(wǎng)絡(luò)武器庫被黑客攻擊，并且在暗網(wǎng)進(jìn)行交易，最后被黑客開發(fā)為勒索病毒的案例也有可能在人工智能武器領(lǐng)域重現(xiàn)。如何控制人工智能技術(shù)擴(kuò)散所帶來的風(fēng)險(xiǎn)將成為未來全球軍事安全的重要議題。

2.3.6 小結(jié)

人工智能技術(shù)在軍事領(lǐng)域的深度介入，是核武器發(fā)明以來全球軍事領(lǐng)域所出現(xiàn)的最重要的技術(shù)變革之一。①Greg Allen, Taniel Chan.Artificial Intelligence and National Security, Intelligence Advanced Research Projects [M].Activity(IARPA), Belfer Center, Harvard Kennedy School, 2017:15-18.以深度學(xué)習(xí)為標(biāo)志的人工智能技術(shù)可以增強(qiáng)信息化作戰(zhàn)系統(tǒng)的能力，這是改變戰(zhàn)爭形態(tài)的基礎(chǔ)。智能化武器的出現(xiàn)在理論上能夠?yàn)閲姨峁┑统杀竞偷惋L(fēng)險(xiǎn)的軍事系統(tǒng)，能夠再次在短時(shí)間內(nèi)放大主體間軍事力量的差距，擁有人工智能技術(shù)的國家將具有全面超越傳統(tǒng)軍事力量的能力，使對(duì)方原本有效的傷害手段失效。新的不平衡狀態(tài)可能會(huì)造成重大的倫理問題，而中小國家則不得不面對(duì)更加嚴(yán)酷的軍事安全形勢。如果這種狀況不能得到有效管控，大國將陷入新一輪軍備競賽，而中小國家則必然會(huì)尋找相關(guān)軍事技術(shù)的擴(kuò)散或新的不對(duì)稱作戰(zhàn)方式，以便維持自己在國際體系中的影響能力。

2.4 人工智能技術(shù)對(duì)于社會(huì)安全的影響

作為新一輪產(chǎn)業(yè)革命的先聲，人工智能技術(shù)所展現(xiàn)出來的顛覆傳統(tǒng)社會(huì)生產(chǎn)方式的巨大潛力，以及可能隨之而來的普遍性失業(yè)浪潮將持續(xù)推動(dòng)著物質(zhì)與制度層面的改變，也持續(xù)地沖擊著人們的思想觀念。面對(duì)劇烈的時(shí)代變革與動(dòng)蕩，世界各國都面臨著法律與秩序深度調(diào)整、新的思想理念不斷碰撞等問題。變革時(shí)期的社會(huì)安全問題也將成為各國不得不面對(duì)的重要挑戰(zhàn)，新的思想與行動(dòng)最終將匯集形成具有時(shí)代特征的社會(huì)思潮，對(duì)國家治理方式產(chǎn)生重要影響。

2.4.1 人工智能技術(shù)帶來的法律體系調(diào)整

人工智能技術(shù)在社會(huì)領(lǐng)域的滲透逐漸深入，給當(dāng)前社會(huì)的法律法規(guī)和基本的公共管理秩序帶來了新的危機(jī)。新的社會(huì)現(xiàn)象的廣泛出現(xiàn)，超出了原有的法律法規(guī)在設(shè)計(jì)時(shí)的理念邊界，法律和制度產(chǎn)品的供給出現(xiàn)了嚴(yán)重的赤字。能否合理調(diào)整社會(huì)法律制度，對(duì)于維護(hù)人工智能時(shí)代的社會(huì)穩(wěn)定具有重要意義。針對(duì)人工智能技術(shù)可能產(chǎn)生的社會(huì)影響，各國國內(nèi)法律體系至少要在以下幾個(gè)方面進(jìn)行深入思考：

（1）如何界定人工智能產(chǎn)品的民事主體資格

盡管目前的人工智能產(chǎn)品還具有明顯的工具性特征，顯然無法成為獨(dú)立的民事主體，但法律界人士已經(jīng)開始思考未來更高級(jí)的人工智能形式能否具有民事主體的資格。事實(shí)上，隨著人工智能技術(shù)的完善，傳統(tǒng)民法理論中的主體與客體的界限正在日益模糊，學(xué)術(shù)界正在逐步形成“工具”和“虛擬人”兩種觀點(diǎn)。所謂“工具”，即把人工智能視為人的創(chuàng)造物和權(quán)利客體；所謂“虛擬人”是法律給人工智能設(shè)定一部分“人”的屬性，賦予其能夠享有一些權(quán)利的法律主體資格。這場爭論迄今為止尚未形成明確結(jié)論，但其最終的結(jié)論將會(huì)對(duì)人工智能時(shí)代的法律體系產(chǎn)生基礎(chǔ)性的影響。

（2）如何處理人工智能設(shè)備自主行動(dòng)產(chǎn)生損害的法律責(zé)任

當(dāng)人工智能系統(tǒng)能夠與機(jī)器工業(yè)制品緊密結(jié)合之后，往往就具有了根據(jù)算法目標(biāo)形成的自主性行動(dòng)能力。然而，在其執(zhí)行任務(wù)的過程中，一旦出現(xiàn)對(duì)于其他人及其所有物產(chǎn)生損害的情況，應(yīng)如何認(rèn)定侵權(quán)責(zé)任就成了一個(gè)非常具有挑戰(zhàn)性的問題。表面上看，這種侵權(quán)責(zé)任的主體應(yīng)該是人工智能設(shè)備的所有者，但由于技術(shù)本身的特殊性，使得侵權(quán)責(zé)任中的因果關(guān)系變得非常復(fù)雜。由于人工智能的具體行為受算法控制，發(fā)生侵權(quán)時(shí)，到底是由設(shè)備所有者還是軟件研發(fā)者擔(dān)責(zé)，很值得商榷。

（3）如何規(guī)范自動(dòng)駕駛的法律問題

智能駕駛是本輪人工智能技術(shù)的重點(diǎn)領(lǐng)域，借助人工智能系統(tǒng)，車輛可以通過導(dǎo)航系統(tǒng)、傳感器系統(tǒng)、智能感知算法、車輛控制系統(tǒng)等智能技術(shù)實(shí)現(xiàn)無人操控的自動(dòng)駕駛，從而在根本上改變?nèi)伺c車之間的關(guān)系。

無人駕駛的出現(xiàn)意味著交通領(lǐng)域的一個(gè)重要的結(jié)構(gòu)變化，即駕駛?cè)说南?。智能系統(tǒng)取代了駕駛?cè)顺蔀榻煌ǚㄒ?guī)的規(guī)制對(duì)象。那么一旦出現(xiàn)無人駕駛汽車對(duì)他人權(quán)益造成損害時(shí)，應(yīng)如何認(rèn)定責(zé)任，機(jī)動(dòng)車所有者、汽車制造商與自動(dòng)駕駛技術(shù)的開發(fā)者應(yīng)如何進(jìn)行責(zé)任分配。只有這些問題得以解決，才能搭建起自動(dòng)駕駛行為的新型規(guī)范。

歸結(jié)起來，人工智能技術(shù)對(duì)于社會(huì)活動(dòng)所帶來的改變正在沖擊著傳統(tǒng)的法律體系。面對(duì)這些新問題和新挑戰(zhàn)，研究者必須未雨綢繆，從基礎(chǔ)理論入手，構(gòu)建新時(shí)代的法律規(guī)范，從而為司法實(shí)踐提供基礎(chǔ)框架。而所有這些都關(guān)系到社會(huì)的安全與穩(wěn)定。

2.4.2 思想理念的競爭性發(fā)展態(tài)勢

隨著人工智能技術(shù)的發(fā)展和進(jìn)步，特別是“機(jī)器替人”風(fēng)險(xiǎn)的逐漸顯現(xiàn)，人類社會(huì)逐漸針對(duì)人工智能技術(shù)也將逐漸展示出不同的認(rèn)知與思想理念。不同思想理念之間的差異與競爭反映了社會(huì)對(duì)于人工智能技術(shù)的基本認(rèn)知分歧。同時(shí)，不同思想理念所引申的不同策略與邏輯也將成為未來影響人類社會(huì)發(fā)展軌跡的重要方向。

（1）第一種可能廣泛出現(xiàn)的思想理念是：保守主義

事實(shí)上，在每一次工業(yè)革命發(fā)生時(shí)，人類社會(huì)都會(huì)出現(xiàn)對(duì)于技術(shù)的風(fēng)險(xiǎn)不可控問題的擔(dān)憂，人工智能技術(shù)的進(jìn)步也概莫能外。在深度學(xué)習(xí)算法釋放出人工智能技術(shù)的發(fā)展?jié)摿χ螅诤芏囝I(lǐng)域的人工智能應(yīng)用系統(tǒng)都僅僅需要很短的學(xué)習(xí)時(shí)間，便能夠超越人們多年所積累的知識(shí)與技術(shù)。人類突然意識(shí)到，自己曾經(jīng)引以為傲的思維能力在純粹的科學(xué)力量面前顯得是那樣微不足道。更嚴(yán)重的是，深度學(xué)習(xí)算法的“黑箱”效應(yīng)，使人類無法理解神經(jīng)網(wǎng)絡(luò)的思維邏輯。人類對(duì)未來世界無法預(yù)知和自身力量有限而產(chǎn)生的無力感所形成的雙重?fù)?dān)憂，導(dǎo)致對(duì)技術(shù)的恐懼。這種觀念在各種文藝作品都有充分的表達(dá)，而保守主義就是這種社會(huì)思想的集中反映。

在他們看來，維持人工智能技術(shù)的可控性是技術(shù)發(fā)展不可逾越的界限。①關(guān)于超人工智能主要特征可參見：Nick Bostrom.Superintelligence: Paths, Dangers, Strategies[M].Oxford: Oxford University Press, 2014.針對(duì)弱人工智能時(shí)代即將出現(xiàn)的失業(yè)問題，保守主義者建議利用一場可控的“新盧德運(yùn)動(dòng)”②盧德運(yùn)動(dòng)（Luddism）是19世紀(jì)初英國工業(yè)革命時(shí)期，傳統(tǒng)紡織業(yè)者搗毀機(jī)器的群眾運(yùn)動(dòng)。20世紀(jì)90年代之后，新一代反對(duì)現(xiàn)代技術(shù)的哲學(xué)思潮逐漸出現(xiàn)，因?yàn)槌鲇趯?duì)自動(dòng)化、數(shù)字化負(fù)面影響的擔(dān)心，他們希望限制新技術(shù)的使用，由于同早期盧德運(yùn)動(dòng)的思想淵源相近，因此被稱為新盧德運(yùn)動(dòng)（Neo-Luddism）。在弱人工智能時(shí)代，預(yù)計(jì)新盧德運(yùn)動(dòng)將獲得更多的支持，有可能成為一股重要的社會(huì)思潮。關(guān)于新盧德運(yùn)動(dòng)的更詳細(xì)介紹可參見：Steven E. Jones.Against Technology: From the Luddites to Neo-Luddism[M].New York:Routledge, 2006.延緩失業(yè)浪潮，通過政治手段限制人工智能在勞動(dòng)密集型行業(yè)的推進(jìn)速度，使絕對(duì)失業(yè)人口始終保持在可控范圍內(nèi)，為新經(jīng)濟(jì)形態(tài)下新型就業(yè)崗位的出現(xiàn)贏得時(shí)間。這種思路的出發(fā)點(diǎn)在于盡可能長地維護(hù)原有體系的穩(wěn)定，以犧牲技術(shù)進(jìn)步的速度為代價(jià)，促使體系以微調(diào)的方式重構(gòu)，使整個(gè)體系的動(dòng)蕩強(qiáng)度降低。

然而，在科技快速發(fā)展的時(shí)代，任何國家選擇放緩對(duì)新技術(shù)的研發(fā)和使用在國際競爭中都是非常危險(xiǎn)的行為。人工智能技術(shù)的快速發(fā)展可以在很短的時(shí)間內(nèi)使得國家間力量差距被不斷放大。信奉保守主義理念的國家將在國際經(jīng)濟(jì)和政治競爭中因?yàn)榧夹g(shù)落后陷入非常不利的局面，這也是保守主義思想的風(fēng)險(xiǎn)。

（2）第二種可能廣泛出現(xiàn)的思想理念是：進(jìn)步主義

這種觀點(diǎn)的理論出發(fā)點(diǎn)在于相信科技進(jìn)步會(huì)為人類社會(huì)帶來積極的影響，主張利用技術(shù)紅利所帶來的生產(chǎn)效率提升獲得更多的社會(huì)財(cái)富。進(jìn)步主義體現(xiàn)了人類對(duì)于人工智能技術(shù)的向往，這一思想理念高度評(píng)價(jià)人工智能所引領(lǐng)的本輪工業(yè)革命的重要意義。他們解決問題的邏輯是要通過對(duì)于制度和社會(huì)基本原則的調(diào)整，充分釋放人工智能技術(shù)發(fā)展的紅利，在新的社會(huì)原則基礎(chǔ)上構(gòu)建一個(gè)更加適應(yīng)技術(shù)發(fā)展特性的人類社會(huì)。

在進(jìn)步主義者看來，人工智能技術(shù)所導(dǎo)致的大規(guī)模失業(yè)是無法避免的歷史規(guī)律，試圖阻止這種狀態(tài)的出現(xiàn)是徒勞的。維持弱人工智能時(shí)代社會(huì)穩(wěn)定的方式不是人為干預(yù)不可逆轉(zhuǎn)的失業(yè)問題，而是改變工業(yè)化時(shí)代的分配原則。利用技術(shù)進(jìn)步創(chuàng)造的豐富社會(huì)財(cái)富，為全體公民提供能夠保障其保持體面生活的收入。①關(guān)于“無條件基本收入”的相關(guān)問題，參見：Phillipe Van Parijs. Basic Income: A Radical Proposal for a Free Society and a Sane Economy[M].Boston: Harvard University Press, 2017; Karl Widerquist (ed.). Basic Income: An Anthology of Contemporary Research[M].Hoboken, NJ:Wiley-Blackwell, 2013.最終實(shí)現(xiàn)在新的分配方式的基礎(chǔ)上重新構(gòu)建社會(huì)文化認(rèn)知，形成新時(shí)代的社會(huì)生活模式。

進(jìn)步主義思想的主要矛盾在于，它的理論基礎(chǔ)建立在人工智能技術(shù)能夠快速發(fā)展并能夠持續(xù)創(chuàng)造足夠豐富的社會(huì)財(cái)富的基礎(chǔ)上，從而滿足全球福利社會(huì)的需求。然而，人工智能技術(shù)的發(fā)展歷史從來不是一帆風(fēng)順，從弱人工智能時(shí)代到強(qiáng)人工智能時(shí)代需要經(jīng)歷多久，至今難有定論。一旦科技進(jìn)步的速度無法滿足社會(huì)福利的財(cái)富需求，進(jìn)步主義所倡導(dǎo)的新的社會(huì)體系的基礎(chǔ)就將出現(xiàn)嚴(yán)重的動(dòng)搖，甚至?xí)霈F(xiàn)難以預(yù)料的社會(huì)劇烈動(dòng)蕩。

2.4.3 小結(jié)

變革必然意味著風(fēng)險(xiǎn)，風(fēng)險(xiǎn)則會(huì)帶來社會(huì)安全的挑戰(zhàn)。人工智能技術(shù)的發(fā)展和進(jìn)步能夠直接作用于經(jīng)濟(jì)、政治等多個(gè)領(lǐng)域，也對(duì)于社會(huì)結(jié)構(gòu)將產(chǎn)生深遠(yuǎn)影響。面對(duì)技術(shù)所帶來的社會(huì)安全風(fēng)險(xiǎn)，我們既需要積極調(diào)整法律規(guī)制體系，努力維持社會(huì)穩(wěn)定，又要在思想層面上對(duì)本輪社會(huì)變遷進(jìn)行深層次的思考。雖然面對(duì)奔涌而來的人工智能浪潮，不同的思想理念展現(xiàn)的應(yīng)對(duì)路徑具有明顯的分歧，但無論怎樣，我們在思考人類與人工智能技術(shù)的關(guān)系時(shí)，應(yīng)該始終堅(jiān)信，人工智能是人類的造物，是人類知識(shí)與理性的偉大結(jié)晶。人工智能可能給世界帶來的威脅遠(yuǎn)遠(yuǎn)不及那些人類自己可能創(chuàng)造的惡。我們應(yīng)該以冷靜而客觀的態(tài)度理解和思考人工智能技術(shù)對(duì)于社會(huì)的影響，在處于變革中的并且更趨不平等的世界創(chuàng)造更加穩(wěn)定、更加合理、更加體現(xiàn)人類文明與尊嚴(yán)的體系與制度。

3 人工智能在國家安全領(lǐng)域的風(fēng)險(xiǎn)應(yīng)對(duì)

目前世界各國政府在人工智能領(lǐng)域的主要關(guān)注點(diǎn)是推動(dòng)發(fā)展，對(duì)其所蘊(yùn)含風(fēng)險(xiǎn)則準(zhǔn)備不足。如上文所述，在人工智能時(shí)代，世界各國在國家安全領(lǐng)域面臨的各項(xiàng)風(fēng)險(xiǎn)是相當(dāng)嚴(yán)峻的。從全球?qū)用鎭砜?，各國所具備的?yīng)對(duì)舉措還存在較大的缺點(diǎn)。結(jié)合人工智能技術(shù)特點(diǎn)和應(yīng)用發(fā)展趨勢中可能引發(fā)的各項(xiàng)潛在風(fēng)險(xiǎn)，我們認(rèn)為，國家可以從風(fēng)險(xiǎn)意識(shí)提升、治理體系建設(shè)、加強(qiáng)監(jiān)管能力和國際合作等多個(gè)方面來構(gòu)建風(fēng)險(xiǎn)分析和應(yīng)對(duì)框架，以提升國家安全的韌性。

3.1 提升風(fēng)險(xiǎn)防范意識(shí)

提升風(fēng)險(xiǎn)防范意識(shí)是應(yīng)對(duì)人工智能時(shí)代國家安全風(fēng)險(xiǎn)的重要起點(diǎn)。相對(duì)于其他領(lǐng)域的安全風(fēng)險(xiǎn)，人工智能在國家安全領(lǐng)域的風(fēng)險(xiǎn)具有系統(tǒng)性、不確定性、動(dòng)態(tài)性等特點(diǎn)。此外，人工智能是一個(gè)新的風(fēng)險(xiǎn)領(lǐng)域，既有的安全治理經(jīng)驗(yàn)很少，人們很難從過去的經(jīng)驗(yàn)中吸取教訓(xùn)。因此，無論是風(fēng)險(xiǎn)的識(shí)別、預(yù)防和化解都是一項(xiàng)全新的挑戰(zhàn)。建立相應(yīng)的風(fēng)險(xiǎn)感知、識(shí)別、預(yù)防和化解能力框架是現(xiàn)階段應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的當(dāng)務(wù)之急。

3.1.1 感知風(fēng)險(xiǎn)意識(shí)

國家在發(fā)展和應(yīng)用人工智能技術(shù)過程中，應(yīng)當(dāng)重視提高對(duì)技術(shù)以及應(yīng)用的風(fēng)險(xiǎn)意識(shí)。由于人工智能技術(shù)的復(fù)雜性，企業(yè)常常處于技術(shù)創(chuàng)新和發(fā)展的前沿；而國家在某種程度上遠(yuǎn)離技術(shù)的前沿，對(duì)技術(shù)的感知存在一定的滯后，并且往往是在事件發(fā)生之后才被動(dòng)地做出反應(yīng)，這樣就會(huì)錯(cuò)過最佳的干預(yù)時(shí)期。為了建立主動(dòng)應(yīng)對(duì)的能力，國家首先需要提高對(duì)于行業(yè)和領(lǐng)域的風(fēng)險(xiǎn)意識(shí)，避免由于風(fēng)險(xiǎn)意識(shí)不足導(dǎo)致的危機(jī)。

例如，在總體國家安全觀以及其包含的政治安全、國土安全、軍事安全、經(jīng)濟(jì)安全、文化安全、社會(huì)安全、科技安全、信息安全、生態(tài)安全、資源安全、核安全等在內(nèi)的11個(gè)安全領(lǐng)域中高度重視人工智能發(fā)展可能帶來的積極和消極影響。特別是在涉及到政治安全、軍事安全、經(jīng)濟(jì)安全、信息安全、核安全等領(lǐng)域，人工智能所包含的風(fēng)險(xiǎn)已經(jīng)開始顯現(xiàn)，但相應(yīng)的風(fēng)險(xiǎn)意識(shí)并沒有跟上風(fēng)險(xiǎn)的威脅程度。①Gregory C. Allen,Taniel Chan. Artificial Intelligence and National Security[M].Cambridge: Harvard University, 2017.在這些重點(diǎn)領(lǐng)域和行業(yè)，應(yīng)當(dāng)把提升風(fēng)險(xiǎn)意識(shí)作為制度性工作。

提升風(fēng)險(xiǎn)意識(shí)需要國家密切關(guān)注人工智能技術(shù)和應(yīng)用的發(fā)展，通過系統(tǒng)思維對(duì)其可能在重要安全領(lǐng)域帶來的風(fēng)險(xiǎn)進(jìn)行深度思考。提升意識(shí)有助于后續(xù)的風(fēng)險(xiǎn)識(shí)別、預(yù)防和化解的過程，增加國家和社會(huì)對(duì)風(fēng)險(xiǎn)的重視程度，從而加大資源的投入與人才的培養(yǎng)。

3.1.2 識(shí)別風(fēng)險(xiǎn)能力

識(shí)別潛在的風(fēng)險(xiǎn)是加強(qiáng)危機(jī)應(yīng)對(duì)的重要組成部分，但它又是具有挑戰(zhàn)性的工作。人工智能距離廣泛應(yīng)用還有一段距離，相應(yīng)的風(fēng)險(xiǎn)還在逐步地顯現(xiàn)，在缺乏足夠的案例的情況下，建立對(duì)風(fēng)險(xiǎn)的識(shí)別能力是一種具有前瞻性和挑戰(zhàn)性的工作。人工智能是一項(xiàng)通用性的技術(shù)，有很多方向和突破點(diǎn)，這加大了風(fēng)險(xiǎn)識(shí)別的難度?？傮w而言，主要遵循著技術(shù)突破——應(yīng)用創(chuàng)新——新的風(fēng)險(xiǎn)這樣一個(gè)過程。識(shí)別風(fēng)險(xiǎn)的階段越早，對(duì)于風(fēng)險(xiǎn)的控制就越容易。已有的案例和技術(shù)發(fā)展的趨勢表明，人工智能所帶來的風(fēng)險(xiǎn)程度高，往往還是具有一定系統(tǒng)性特征，對(duì)國家安全所造成的威脅程度較大。對(duì)于國家而言，識(shí)別人工智能的風(fēng)險(xiǎn)能力建設(shè)是一項(xiàng)長期的工作，需要建立跨學(xué)科的知識(shí)背景以及相應(yīng)的跨部門協(xié)作機(jī)制，在政治安全、經(jīng)濟(jì)安全、軍事安全、社會(huì)安全等領(lǐng)域建立相應(yīng)的風(fēng)險(xiǎn)識(shí)別機(jī)制，加強(qiáng)相應(yīng)的能力建設(shè)。

3.1.3 風(fēng)險(xiǎn)預(yù)防能力

風(fēng)險(xiǎn)預(yù)防是指對(duì)已經(jīng)識(shí)別的風(fēng)險(xiǎn)和未能識(shí)別的風(fēng)險(xiǎn)進(jìn)行預(yù)防。對(duì)已經(jīng)能夠識(shí)別的風(fēng)險(xiǎn)領(lǐng)域，應(yīng)當(dāng)根據(jù)自身的脆弱性，制定相應(yīng)的預(yù)案，并且尋求風(fēng)險(xiǎn)降級(jí)的方法。對(duì)于未能識(shí)別的風(fēng)險(xiǎn)，則需要投入更多的精力，制定相應(yīng)的規(guī)劃，評(píng)估處置措施。在國家安全領(lǐng)域建立風(fēng)險(xiǎn)預(yù)防能力對(duì)于政府部門的動(dòng)員能力有很高的要求。在很多風(fēng)險(xiǎn)的預(yù)防問題上，政府都缺乏足夠的經(jīng)驗(yàn)，缺乏成熟的應(yīng)對(duì)機(jī)制，但是卻需要政府部門能夠快速地應(yīng)對(duì)，及時(shí)的制定相應(yīng)的風(fēng)險(xiǎn)預(yù)防計(jì)劃。

3.1.4 風(fēng)險(xiǎn)化解能力

風(fēng)險(xiǎn)化解的能力，最終決定國家在人工智能時(shí)代應(yīng)對(duì)國家安全風(fēng)險(xiǎn)的結(jié)果。風(fēng)險(xiǎn)意識(shí)提高、識(shí)別能力加強(qiáng)和建立預(yù)防能力都是增加風(fēng)險(xiǎn)化解能力的關(guān)鍵。但是，最終如何化解風(fēng)險(xiǎn)還取決于多方面的能力要素構(gòu)建。人工智能所具有的跨領(lǐng)域特征，要求首先構(gòu)建相應(yīng)的跨部門協(xié)調(diào)機(jī)制。①M(fèi)iles Brundage, ShaharAvin, Jack Clark, et alia. The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation[M].Cornell:arXiv Archive, Cornell University Library, 2018.人工智能所展現(xiàn)的跨國界特征，則要求建立起相應(yīng)的國際合作機(jī)制?？傮w而言，如果化解人工智能的風(fēng)險(xiǎn)，就需要持續(xù)的關(guān)注和不斷的加強(qiáng)能力建設(shè)，這對(duì)國家提出了更高的要求。

最后，風(fēng)險(xiǎn)化解一項(xiàng)系統(tǒng)性工程，它并非是要減少和限制人工智能的發(fā)展，相反，它是建立在對(duì)人工智能技術(shù)、應(yīng)用、影響等多個(gè)維度的精確理解基礎(chǔ)之上，在發(fā)展與安全之間取得平衡的一種能力。風(fēng)險(xiǎn)管控越有效，人工智能發(fā)展的空間越大，國家競爭力就越強(qiáng)。因此，提升國家安全領(lǐng)域的人工智能風(fēng)險(xiǎn)意識(shí)以及建立相應(yīng)的管控機(jī)制，是保障其未來發(fā)展的關(guān)鍵。

3.2 構(gòu)建安全治理體系

在提升風(fēng)險(xiǎn)意識(shí)和加強(qiáng)風(fēng)險(xiǎn)應(yīng)對(duì)的同時(shí)，國家還應(yīng)當(dāng)主動(dòng)加強(qiáng)人工智能安全治理體系的建設(shè)，將更多的利益攸關(guān)方納入到治理體系當(dāng)中，從技術(shù)、產(chǎn)業(yè)、政策、法律等多個(gè)方面建立安全保障體系。

人工智能是知識(shí)密集型和資本密集型的領(lǐng)域，人工智能技術(shù)的開發(fā)者，包括算法和數(shù)據(jù)領(lǐng)域的專家以及應(yīng)用開發(fā)領(lǐng)域的人才大多分布在企業(yè)、研究機(jī)構(gòu)當(dāng)中。因此，構(gòu)建多方參與的治理體系是推動(dòng)人工智能治理的主要方式。①Joseph S. Nye.The Regime Complex for Managing Global Cyber Activities[D].Harvard University, 2014.其中，政府作為監(jiān)管部門，加強(qiáng)與社群和私營部門之間的互動(dòng)，一方面可以掌握技術(shù)和應(yīng)用發(fā)展的趨勢和方向，另一方面也可以幫助社群和私營部門更好地理解政府的關(guān)切，從而避免因?yàn)楹鲆暫驼`判引起的不必要安全風(fēng)險(xiǎn)。

治理不同于管理，很大程度上治理是一種開放、多方參與的過程。很多情況下，治理是自下而上的，強(qiáng)調(diào)技術(shù)導(dǎo)向的治理方式。它與傳統(tǒng)的自上而下、只有政府參與的管理模式存在很大的不同。目前，以多利益攸關(guān)方為主要治理模式的機(jī)制正在人工智能領(lǐng)域出現(xiàn)。②ITU.AI for Good Global Summit Report[EB/OL].Geneva.(2017-06-30).https://www.itu.int/en/ITU-T/AI/Pages/201706-default.aspx.例如，在人工智能的安全與管理領(lǐng)域，正在形成新的以社群為中心的治理機(jī)制，IEEE《以倫理為基礎(chǔ)的設(shè)計(jì)》《阿西洛馬倡議》是其中的代表。而國際電信聯(lián)盟這樣的政府間組織也在通過多利益攸關(guān)方模式發(fā)起《向善的人工智能倡議》。[5]

政府應(yīng)與其他的利益攸關(guān)方之間加強(qiáng)交流合作，通過相應(yīng)的互動(dòng)機(jī)制幫助各方更好地理解國家安全領(lǐng)域的風(fēng)險(xiǎn)，以及共同制定相應(yīng)的風(fēng)險(xiǎn)管控機(jī)制；避免由于知識(shí)與政策之間的鴻溝影響技術(shù)社群、私營部門與政府之間的溝通障礙，導(dǎo)致風(fēng)險(xiǎn)出現(xiàn)以及相應(yīng)的風(fēng)險(xiǎn)管控措施無法出臺(tái)。

3.3 加強(qiáng)監(jiān)管能力建設(shè)

從國家安全角度來看，政府是應(yīng)對(duì)風(fēng)險(xiǎn)最主要的責(zé)任人，加強(qiáng)政府的監(jiān)管能力是降低人工智能風(fēng)險(xiǎn)、保障技術(shù)與產(chǎn)業(yè)長足發(fā)展的關(guān)鍵。從政府角度而言，建立人工智能的技術(shù)標(biāo)準(zhǔn)體系、應(yīng)用開發(fā)的規(guī)范體系以及建立與人工智能時(shí)代相適應(yīng)的法律體系是保障監(jiān)管能力的關(guān)鍵。

3.3.1 技術(shù)標(biāo)準(zhǔn)體系

人工智能的技術(shù)標(biāo)準(zhǔn)對(duì)于技術(shù)本身是否存在漏洞、符合相應(yīng)的安全要求具有重要的作用。技術(shù)上的漏洞有可能導(dǎo)致人工智能的系統(tǒng)被黑客或其他不法分子利用，從而危害國家安全。例如很多智能音箱所暴露出來對(duì)個(gè)人隱私的侵犯，以及無人駕駛汽車由于圖像識(shí)別能力不足導(dǎo)致的車禍等，都暴露出了人工智能還存著很多的不完善的地方，有可能會(huì)引發(fā)新的安全風(fēng)險(xiǎn)。對(duì)于這些缺陷，應(yīng)當(dāng)不斷提高技術(shù)標(biāo)準(zhǔn)予以克服。

技術(shù)標(biāo)準(zhǔn)由技術(shù)社群主導(dǎo)建立，直接面向工程師和開發(fā)人員，對(duì)于提高人工智能應(yīng)用的安全性具有重要作用。例如，作為主要的人工智能技術(shù)社群，IEEE設(shè)立了IEEEP7000標(biāo)準(zhǔn)工作組，設(shè)立了倫理、透明、算法、隱私等10大標(biāo)準(zhǔn)工作組，通過國際化的標(biāo)準(zhǔn)了影響整個(gè)技術(shù)社群。[5]2018年1月，中國國家標(biāo)準(zhǔn)化管理委員會(huì)宣布成立國家人工智能標(biāo)準(zhǔn)化總體組、專家咨詢組，負(fù)責(zé)全面統(tǒng)籌規(guī)劃和協(xié)調(diào)管理我國人工智能標(biāo)準(zhǔn)化工作。[6]標(biāo)準(zhǔn)雖然是面向開發(fā)者，但是它作為技術(shù)人員所應(yīng)遵循的基本規(guī)范，對(duì)于國家安全而言具有重要作用。

3.3.2 程序規(guī)范體系

在標(biāo)準(zhǔn)之上，國家還應(yīng)當(dāng)在不同的部門制定相應(yīng)的規(guī)范流程，確保對(duì)安全風(fēng)險(xiǎn)的控制。以軍事領(lǐng)域?yàn)槔瑹o論是半自主和全自主的武器系統(tǒng)，其設(shè)計(jì)應(yīng)允許指揮官和作戰(zhàn)人員在使用武力方面作出適當(dāng)?shù)娜藶榕袛?。在決定是否使用人工智能武器時(shí)，應(yīng)當(dāng)制定明確的規(guī)范和流程，避免造成不可預(yù)測的后果。①US DOD, Autonomy in Weapon Systems, No. 3000.09, Nov 21, 2012.同時(shí)，還應(yīng)當(dāng)加強(qiáng)對(duì)人工智能武器的安全性，避免武器泄露或者隨意轉(zhuǎn)讓相關(guān)技術(shù)。無論是無意或者有意的擴(kuò)散都會(huì)增加軍備競賽的風(fēng)險(xiǎn)，威脅國際安全體系。

同時(shí)對(duì)于人工智能軍事領(lǐng)域的使用，也應(yīng)當(dāng)有一套嚴(yán)格的流程，確?！昂戏ㄊ褂谩?，即負(fù)責(zé)授權(quán)使用、指揮使用或操作自動(dòng)化和半自主武器系統(tǒng)的人必須遵守戰(zhàn)爭法、其他國際條約、武器系統(tǒng)的安全規(guī)則以及適用的交戰(zhàn)規(guī)則（ROE）。

3.3.3 法律法規(guī)體系

為應(yīng)對(duì)人工智能時(shí)代的安全問題，國家應(yīng)當(dāng)建立相應(yīng)的法律、法規(guī)體系。國際和國內(nèi)法律界對(duì)此展開了激烈討論。有學(xué)者認(rèn)為，“智能革命的出現(xiàn)，對(duì)當(dāng)下的倫理標(biāo)準(zhǔn)、法律規(guī)則、社會(huì)秩序及公共管理體制帶來一場前所未有的危機(jī)和挑戰(zhàn)。它不僅與已有法律秩序形成沖突，凸顯現(xiàn)存法律制度產(chǎn)品供給的缺陷，甚至?xí)嵏参覀儤I(yè)已構(gòu)成的法律認(rèn)知?！盵7]具體而言，人工智能已經(jīng)在法律資格的主體、致人傷害的責(zé)任認(rèn)定等多個(gè)方面提出了現(xiàn)實(shí)的問題。

從國家安全角度來看，人工智能的法律、法規(guī)所包含的內(nèi)容更加豐富。從軍事領(lǐng)域看，在應(yīng)對(duì)人工智能武器攻擊時(shí)，如何從國際法角度去認(rèn)定攻擊的性質(zhì)和攻擊的溯源，并應(yīng)采取何種形式的反擊和應(yīng)對(duì)舉措？在經(jīng)濟(jì)領(lǐng)域，如何去規(guī)范人工智能造成的金融系統(tǒng)安全問題？如何明確相應(yīng)的責(zé)任，對(duì)相關(guān)的企業(yè)和人員進(jìn)行處罰？在政治安全領(lǐng)域，對(duì)于類似“劍橋分析”的大數(shù)據(jù)公司和互聯(lián)網(wǎng)社交媒體平臺(tái)，應(yīng)當(dāng)如何制定相應(yīng)的法律法規(guī)，禁止其通過人工智能對(duì)政治安全進(jìn)行干擾和破壞？

3.4 提升國際合作水平

人工智能所帶來的問題具有全球?qū)傩裕皇悄骋粐一蛘吣骋活I(lǐng)域的治理問題。從技術(shù)本身來看，人工智能算法與安全問題是人類共同面臨的挑戰(zhàn)，具有普適性；從應(yīng)用角度來看，各國在人工智能的發(fā)展和應(yīng)用上對(duì)國家安全造成的威脅是跨國界的；從體系角度來看，人工智能對(duì)于地緣經(jīng)濟(jì)、地緣安全的顛覆性影響，沖擊甚至重塑著現(xiàn)有的國際政治體系，從而影響體系中每一個(gè)行為體的國家安全。因此，加強(qiáng)人工智能領(lǐng)域的國際合作對(duì)于應(yīng)對(duì)國家安全風(fēng)險(xiǎn)具有重要作用。

3.4.1 國際法

聯(lián)合國高度關(guān)注人工智能對(duì)于國家安全的影響，經(jīng)過2014年和2015年的兩次非正式會(huì)議后，在2016年12月16日關(guān)于特定常規(guī)武器公約的聯(lián)合國會(huì)議上成立了致命性自主武器系統(tǒng)（LAWS）政府專家組（GGE）。該小組的任務(wù)是研究致命性自主武器領(lǐng)域的新興技術(shù)，評(píng)估其對(duì)國際和平與安全的影響，并為制定相應(yīng)的國際法和國際治理提供建議。①UNICRI.CBRN National Action Plans: Rising to the Challenges of International Security and the Emergence of Artificial Intelligence[EB/OL].(2015-10-07).http://www.unicri.it/news/article/CBRN_Artificial_Intelligence.2018年9月在日內(nèi)瓦召開的聯(lián)合國常規(guī)武器公約的討論中，各方就制定禁止人工智能驅(qū)動(dòng)的致命性完全自主武器的條約開展討論。全球約有26個(gè)國家支持全面禁止人工智能武器，而絕大多數(shù)國家還在觀望，所以這次會(huì)議并未達(dá)成共識(shí)。②UNIDIR.The Weaponization of Increasingly Autonomous Technologies: Concerns, Characteristics and Definitional Approaches[EB/OL].Geneva:2017. http://www.unidir.org/files/publications/pdfs/the-weaponization-of-increasingly-autonomous-technologies-concerns-characteristicsand-definitional-approaches-en-689.pdf.但是，在規(guī)則缺失和大國戰(zhàn)略競爭的背景下，軍事領(lǐng)域人工智能的發(fā)展帶來的風(fēng)險(xiǎn)和威脅在不斷增加，出臺(tái)國際法對(duì)于減小人工智能安全風(fēng)險(xiǎn)至關(guān)重要。

技術(shù)強(qiáng)國與弱國之間存在不同的觀點(diǎn)是導(dǎo)致相應(yīng)的國際法難以出臺(tái)的重要原因。技術(shù)弱國認(rèn)為應(yīng)當(dāng)完全禁止致命性自主武器的開發(fā)使用，技術(shù)強(qiáng)國則持相反意見，認(rèn)為開發(fā)致命性自主武器可以降低人員損傷，有利于打擊恐怖主義和維護(hù)國家安全，并且很多系統(tǒng)已經(jīng)在戰(zhàn)場上進(jìn)入實(shí)戰(zhàn)。軍事是推動(dòng)技術(shù)進(jìn)步的重要因素，互聯(lián)網(wǎng)就是由美國軍方所發(fā)明，同樣，人工智能的技術(shù)發(fā)展背后也有軍事因素在強(qiáng)力推動(dòng)。但是，人工智能的軍備競賽也非技術(shù)之福，特別是致命性自主武器的擴(kuò)散會(huì)造成更為嚴(yán)重的后果。因此，從聯(lián)合國層面制定相應(yīng)的國際法，并且促成大國之間在發(fā)展致命性自主武器上達(dá)成一定的軍控條約是當(dāng)務(wù)之急。

當(dāng)前，在國際法不明確的情況下，各國應(yīng)克制在軍事領(lǐng)域使用人工智能武器。聯(lián)合國政府專家組也應(yīng)考慮對(duì)國際法此前未曾預(yù)見的情況追加法律限制，并以道德或倫理為由盡量減少對(duì)人和平民的傷害。更進(jìn)一步的目標(biāo)包括管理以下風(fēng)險(xiǎn)，如使用武力的門檻降低、意外導(dǎo)致的傷害、預(yù)期之外的矛盾升級(jí)以及軍備競賽和擴(kuò)散。

3.4.2 雙邊及多邊合作

從聯(lián)合國角度來達(dá)成一項(xiàng)談判可能需要十年甚至更長的時(shí)間，鑒于越來越多的風(fēng)險(xiǎn)，大國之間應(yīng)當(dāng)及早就人工智能在軍事領(lǐng)域應(yīng)用可能帶來的潛在風(fēng)險(xiǎn)開展對(duì)話，及早啟動(dòng)相應(yīng)的軍控進(jìn)程，短期內(nèi)促成技術(shù)強(qiáng)國在謀求戰(zhàn)略優(yōu)勢和國際安全體系穩(wěn)定之間的妥協(xié)。同時(shí)，各國政府在面對(duì)人工智能時(shí)代的國家安全問題上面臨著共同的威脅和挑戰(zhàn)，加強(qiáng)彼此之間的合作是應(yīng)對(duì)威脅的解決之道。

在軍事領(lǐng)域，大國之間可以就人工智能的發(fā)展以及可能觸發(fā)的軍備競賽問題開展對(duì)話，避免由于過度、過快的開發(fā)軍事應(yīng)用而引起的倫理問題，以及對(duì)國際安全體系的穩(wěn)定造成沖擊。可以預(yù)見，人工智能在軍事領(lǐng)域的應(yīng)用會(huì)加速發(fā)展，存在的問題也會(huì)越來越多。特別是各國之間對(duì)于如何看待人工智能武器，如何進(jìn)行有效互動(dòng)還存在很大的認(rèn)知差距。這種差距的存在，導(dǎo)致各國在沖突發(fā)生時(shí)缺乏有效的應(yīng)對(duì)手段。因此，各國之間應(yīng)當(dāng)就人工智能的軍事安全問題開展對(duì)話，加強(qiáng)管控，增強(qiáng)政策透明度、建立信任措施，降低相應(yīng)的軍事沖突的風(fēng)險(xiǎn)，并且在沖突發(fā)生時(shí)能夠采取有效的危機(jī)管控和沖突降級(jí)措施。

在政治安全、經(jīng)濟(jì)安全、社會(huì)安全領(lǐng)域，許多國家也都在積極開展各種實(shí)踐活動(dòng)，相應(yīng)的做法之間有很大的相互借鑒之處。各國可以就政策實(shí)踐、信息共享、最佳實(shí)踐、案例研究等問題開展有效對(duì)話。目前看來，主要的大國并未在雙邊層面開展相關(guān)的對(duì)話，由此帶來的后果是相互之間的猜忌和不信任程度的增加。令人值得警惕的是，很多人把中國與美國在包括人工智能在內(nèi)的高科技領(lǐng)域的競爭比作另一個(gè)“星球大戰(zhàn)”，或者所謂的“科技冷戰(zhàn)”，不僅導(dǎo)致了雙方之間相互將對(duì)方視為敵手，甚至導(dǎo)致了對(duì)科學(xué)研究、供應(yīng)鏈、產(chǎn)品的人為設(shè)限。因此，應(yīng)通過相應(yīng)的對(duì)話機(jī)制，通過有效的溝通來尋求更多的合作點(diǎn)，避免由于相互猜忌導(dǎo)致的惡性競爭。

總體而言，國家安全風(fēng)險(xiǎn)是人工智能發(fā)展過程中各國必須直面的挑戰(zhàn)，在面臨共同的威脅時(shí)，最優(yōu)的做法是攜手應(yīng)對(duì)，通過相應(yīng)的國際合作機(jī)制來降低安全威脅，增加合作空間，讓人工智能更好地服務(wù)于人類社會(huì)的發(fā)展，增進(jìn)人類社會(huì)福祉。