為何擔(dān)心人工智能沖擊國際安全

陳琪 朱榮生

【關(guān)鍵詞】人工智能 ?國際安全 ?戰(zhàn)略穩(wěn)定 ?國際治理 ? ?【中圖分類號】D81;TP18 ? ?【文獻標(biāo)識碼】A

科學(xué)家普遍認(rèn)為，當(dāng)前人工智能尚處于“弱人工智能”階段，即只能出色地完成某一項特定的任務(wù)或解決某一類特定問題。但也有一些專家斷言，人工智能軍事化就如同1945年美國第一次進行的核爆實驗及在長崎和廣島投下的原子彈般橫空出世，一定會給國際戰(zhàn)略格局帶來范式性的沖擊。然而，這場革命究竟會如何向世人呈現(xiàn)其真實全貌還未可知。但就武器產(chǎn)生的變革效應(yīng)和方式而言，核武器與人工智能在性質(zhì)上頗為不同。核武器在誕生之初即展示出驚人的破壞力，進而對國際安全和國際軍控產(chǎn)生顛覆性的深遠(yuǎn)心理和物理影響。而人工智能是賦能技術(shù)，必須與其他武器技術(shù)相結(jié)合才能引發(fā)戰(zhàn)場革命。一些比較悲觀的專家則進一步預(yù)言，現(xiàn)有理論研究的內(nèi)在不足將限制人工智能的發(fā)展前景，人工智能在未來無可避免地陷入“寒冬”。既然人工智能帶來的革命性影響是一個未知數(shù)，為何國際社會開始急于尋找關(guān)于人工智能的國際安全治理的答案呢？

當(dāng)下的三種爭論

我們在近期眾多的國內(nèi)外會議以及相關(guān)文獻中發(fā)現(xiàn)，包括政策制定者、科學(xué)家、工程師、政治學(xué)者在內(nèi)的專業(yè)人士對人工智能是否會沖擊國際安全及如何沖擊國際安全，其實持有頗為不同的觀點和視角。倘若以人工智能對國際安全的影響程度來區(qū)分，這些討論大體可被歸為三種，即主張革命性沖擊的變革派、尚未達到“質(zhì)變”的演進派以及影響受限的謹(jǐn)慎派。

在這場大爭論中，變革派預(yù)測人工智能將對國際安全產(chǎn)生顛覆性影響，斷言其軍事影響力可與核武器相提并論。在他們看來，人工智能在軍事領(lǐng)域的廣泛應(yīng)用極大地提高了士兵的戰(zhàn)場態(tài)勢感知能力和戰(zhàn)略決策效率，其與機器人的結(jié)合一定會顯示出比人類要強大得多的行動力和協(xié)調(diào)力。在核戰(zhàn)略較量中，戰(zhàn)略威懾不僅通過理性計算和技術(shù)實施，而且也是最高決策者之間的心理較量。而深度學(xué)習(xí)算法可排除恐懼、焦慮和疲勞引發(fā)的錯誤認(rèn)知和判斷，剔除人類心理的干擾作用。盡管決策者獲得了更加理性的政策建議，但人工智能介入戰(zhàn)略博弈反而加大了對手理解信號的難度。人工智能賦能的自主武器具備成本低、反應(yīng)迅速、打擊精準(zhǔn)的優(yōu)點。為了追求更大的戰(zhàn)場優(yōu)勢和國際權(quán)勢，一些國家會謀求大量部署自主武器，繼而引發(fā)軍備競賽;或者減少對智能武器的限制，最終出現(xiàn)完全自主的致命性殺傷武器。此外，科技的不斷發(fā)展還會侵蝕戰(zhàn)略威懾的基礎(chǔ)，動搖大國間越發(fā)脆弱的戰(zhàn)略穩(wěn)定。擁核國家將加強部署更具有生存能力的第二次打擊，確保對手不敢發(fā)動第一次打擊。因此，確保報復(fù)可信度成為大國核戰(zhàn)略博弈的重要基礎(chǔ)。變革派認(rèn)為，人工智能目前尚存缺陷的探查能力可剛好削弱第二次核打擊能力的可信度，進而威脅到防守方的核報復(fù)打擊能力，顛覆大國核戰(zhàn)略博弈的理論前提。

演進派則認(rèn)為人工智能更應(yīng)被看作是武器的“放大器”，其作為武器本身并不是直接引發(fā)國際安全范式性變革的主要因素。他們并不否認(rèn)人工智能有潛力掀起一場戰(zhàn)爭革命，但推斷它對軍事的影響是演進性的。盡管一些國家有可能為了擴大自主武器帶來的戰(zhàn)略紅利而將無人化和智能化作為技術(shù)發(fā)展方向，但人類的理性和合作精神始終是決定性因素。致命性自主武器的戰(zhàn)場投放面臨著諸如道德和法律的約束、戰(zhàn)略文化的限制以及官僚機構(gòu)的制約。這些抑制性因素決定了人類在戰(zhàn)爭中的決定性地位不會被最終替代。演進派認(rèn)同人工智能加大戰(zhàn)略不穩(wěn)定性的觀點，但強調(diào)人工智能尚未導(dǎo)致國家陷入你死我活的困境中。在理想的情況下，如果獲取更全面的情報和分析，一定程度上會降低戰(zhàn)爭風(fēng)險。即使人工智能可定位一國的導(dǎo)彈發(fā)射井，戰(zhàn)略對手也可提升發(fā)射井的打擊承受力，從而保留第二次打擊的戰(zhàn)略性力量，形成戰(zhàn)略威懾。①

相比于變革派和演進派對人工智能的信心，謹(jǐn)慎派認(rèn)為人工智能給國家在戰(zhàn)爭中帶來多大的好處模糊不清。新美國安全中心研究員保羅·斯查瑞指出，操作人員能否適應(yīng)復(fù)雜的人工智能系統(tǒng)，人工智能系統(tǒng)是否能不被惡意操控，都是重要的安全問題。②對戰(zhàn)場具有革命性影響的新技術(shù)往往會復(fù)雜化戰(zhàn)略決策和決策組織間互動的過程。作戰(zhàn)部門適應(yīng)人工智能復(fù)雜系統(tǒng)的速度不同，可能給各個部門間協(xié)調(diào)造成障礙，反而降低軍事部署的效率。而且，人工智能無法理解人類與生俱來的意圖、期望、情感以及戰(zhàn)爭中的榮譽。這種缺乏理解阻礙了創(chuàng)建安全、高效的人機協(xié)作關(guān)系。不論是在戰(zhàn)場上還是在官僚機構(gòu)中，部署人工智能都要面臨長時間的安全審查。在某些傳統(tǒng)的戰(zhàn)略文化制約下，新技術(shù)所起到的效用可能不如預(yù)期。尤其是在人工智能技術(shù)還不夠成熟的背景下，一個更為謹(jǐn)慎的觀點是不應(yīng)將其用在高度敏感的核安全領(lǐng)域。此外，人工智能未來發(fā)展面臨技術(shù)發(fā)展的瓶頸期阻滯，會顯著偏離很多國際安全專家的樂觀期待。一些專家斷言，現(xiàn)在的人工智能算法家族的發(fā)展?jié)摿χ挥惺?。如果沒有很多重要技術(shù)諸如高效的芯片和先進的量子計算機的跨越式突破，將根本性地限制人工智能的未來發(fā)展。③

目前來看，人工智能未來的發(fā)展充滿不確定性，在現(xiàn)實應(yīng)用中的表現(xiàn)也不如想象的完美?；蛟S，正是因為以上兩點剛好能允許戰(zhàn)略博弈的雙方找到應(yīng)對方法，進而給這場爭論創(chuàng)造了巨大空間。一方面，變革派對人工智能技術(shù)的未來發(fā)展報以極高的期待，但對人類事務(wù)的看法十分悲觀。這讓他們能夠以敏銳的目光發(fā)現(xiàn)國際安全面臨的潛在挑戰(zhàn)和安全問題的本質(zhì)。另一方面，部分謹(jǐn)慎派的人工智能專家對這項技術(shù)的未來發(fā)展持保守態(tài)度。他們的悲觀預(yù)測反而使決策者和國際安全研究者緊張的神經(jīng)得到放松。不同于變革派將人工智能影響最大化的邏輯，演進派仍然在現(xiàn)有國際安全現(xiàn)實結(jié)構(gòu)和秩序中展開討論，決定了他們必然犧牲部分長遠(yuǎn)和深邃的戰(zhàn)略眼光。然而，他們的研究在人工智能還沒有帶來即視的安全沖擊的當(dāng)下，提供了國際安全治理的可能線索。只要人工智能帶來的安全挑戰(zhàn)不是顛覆性的，當(dāng)下圍繞人工智能競爭激烈的中美兩國就可以在歷史經(jīng)驗和現(xiàn)有理論中找到大國協(xié)調(diào)的答案，存在共同維護戰(zhàn)略穩(wěn)定和構(gòu)建國際規(guī)范的相對確定預(yù)期。

人工智能增加了國際安全的不確定性

在人工智能競賽中，有贏家，也有輸家。沒能成功開發(fā)人工智能技術(shù)并搶占市場的國家將遭受經(jīng)濟和福利損失。同樣，軍事應(yīng)用的投資和開發(fā)不足的國家面臨更大的安全威脅，其地緣影響力無疑會被削弱。換言之，技術(shù)競爭絕非是中性的。隨著通信技術(shù)的不斷發(fā)展，有先發(fā)優(yōu)勢的國家想要確保在全球數(shù)字轉(zhuǎn)型中獲取更大的權(quán)勢，或者防止自己屈居人下。故此，圍繞著科技制高點的爭奪，在一些觀察家看來將不可避免地引發(fā)一場“大國政治的悲劇”。

中美之間的貿(mào)易戰(zhàn)和科技領(lǐng)導(dǎo)權(quán)之爭，似乎印證了這一論斷。政策制定者一般傾向于高估技術(shù)突破帶來的權(quán)勢變化，低估國家間的合作可以穩(wěn)定國際安全的可能。按照現(xiàn)實主義的邏輯，大國怯于在這場影響國運的競爭中放松神經(jīng)，因為它們既不確定自己會否成為贏家，也難以猜想在新的技術(shù)秩序變革中自身將出現(xiàn)何種地位的變化。于是，在悲觀而固執(zhí)的零和思維驅(qū)使下，美中之間的大國競爭油然而起，正危險地滑向?qū)е率澜绶至殉蓛蓚€對立體系之勢。為此，聯(lián)合國秘書長安東尼奧·古特雷斯發(fā)出危險警告：“世界上最大的兩個經(jīng)濟體創(chuàng)造了兩個獨立的、相互競爭的世界，各自擁有自己的主導(dǎo)貨幣、貿(mào)易和金融規(guī)則、自己的互聯(lián)網(wǎng)和人工智能能力，以及自己的零和地緣政治和軍事戰(zhàn)略?！雹?/p>

令人擔(dān)憂的不只是國際秩序向?qū)剐苑较蜓葸M。人工智能已經(jīng)具備了幫助人類從大量信息中篩選出導(dǎo)彈發(fā)射平臺的能力。強大的偵察力已越來越讓中國和俄羅斯擔(dān)憂美國跟蹤和鎖定移動導(dǎo)彈發(fā)射器技術(shù)發(fā)展成熟后會威脅到它們的核報復(fù)能力。⑤如果無人武器設(shè)備的隱蔽性和突破性足夠強大，國家就有風(fēng)險更低、打擊效能更高的攻擊選擇。⑥雖然這種戰(zhàn)術(shù)不能保證自身免遭第二次打擊，但這種可能性本身就已經(jīng)十分可怕。面對核威懾，決策者不得不在極其有限的時間內(nèi)作出決策，因而要承受更大的發(fā)動第一次打擊的壓力?；蛘?，國家需要發(fā)展更加危險的傳統(tǒng)武器來平衡威懾不足。由此引發(fā)的軍備競賽迫使國家部署不安全的人工智能系統(tǒng)，并進一步加大戰(zhàn)略不穩(wěn)定。對于防守方來說還有另一種選擇，那就是攻擊敵方的探查器件，生成對抗性網(wǎng)絡(luò)或采取戰(zhàn)略欺騙的方式來防止對方打擊自己的報復(fù)力量。這些努力在一定程度上可確保己方核報復(fù)設(shè)施的隱蔽性和安全性。但是，這種安全困境的加劇反而會導(dǎo)致意外沖突升級和加大戰(zhàn)略部署判斷的復(fù)雜性和誤判可能性。最終，國家不得不面對要么提前發(fā)動進攻，要么輸?shù)魬?zhàn)爭的兩難選擇。

有技術(shù)優(yōu)勢的國家會率先在戰(zhàn)場上部署更加先進的武器裝備或建立新的指揮作戰(zhàn)概念。技術(shù)落后的國家則因缺少應(yīng)對策略而陷入相對劣勢。按照現(xiàn)實主義的安全互動模式，大國可能尋求相對優(yōu)勢以規(guī)避他國的軍事進步威脅自己的安全，或者在其他地方尋找抵消對手優(yōu)勢的方法。在軍備競賽的螺線軌跡上，自主武器越發(fā)先進，以至于戰(zhàn)爭速度快到超出人類的反應(yīng)，由此導(dǎo)致國家爭相部署不安全的人工智能武器，這都將給決策者帶來巨大的心理壓力，扭曲人類戰(zhàn)略應(yīng)對的固有理性判斷。

此外，自主武器擴散降低了戰(zhàn)爭門檻，加大國家間戰(zhàn)爭風(fēng)險。軍事行動往往伴隨著人員傷亡的高風(fēng)險。國家領(lǐng)導(dǎo)人要顧及到民眾對戰(zhàn)爭傷亡的敏感性，因而不敢輕易發(fā)動對外軍事行動。但是，自主武器減少傷亡率預(yù)期的特點促使改變戰(zhàn)略決策過程。決策者可以竭力說服民眾只需較小的代價就能獲得更高的戰(zhàn)爭回報，進而擺脫使用武力的國內(nèi)限制，更有利于它們對外投射自己的軍事影響力。不過，自主武器擴散的最大受益人或許并不是大國而是技術(shù)基礎(chǔ)較好的中等國家。它們可以借此彌補資源和人口上的劣勢，從而改變國際常規(guī)武力的對比，提高自己在國際均勢體系中的地位。在致命性自主殺傷武器缺乏有效國際規(guī)范的局勢下，大國和這些中等國家的均勢變動將給國際安全體系帶來怎樣的沖擊，令人擔(dān)憂。加之人工智能技術(shù)本身的脆弱性，更加大了突發(fā)事件發(fā)生的概率。

探索人工智能國際安全治理的演化路徑

人工智能是一項處于不斷發(fā)展進程的賦能技術(shù)，很難找到一個完美的定義。它帶來的變革效應(yīng)正在全球顯現(xiàn)，完全禁止已然不可能，任由其肆意發(fā)展也與國際關(guān)切和人類共同命運不符。那么，如何對其進行國際治理呢？對政策制定者來說，所需要關(guān)注的并非只是技術(shù)在國際安全上引發(fā)的眾多不確定性，還有他們對這項技術(shù)認(rèn)識的不斷豐富，進而改變對當(dāng)下以及未來的治理選擇。擺在我們面前的并不是一個注定的悲劇，而是一個承擔(dān)人類發(fā)展重任的抉擇。

在聯(lián)合國框架下，有多個機制都對限制自主武器發(fā)展進行了國際探討。其中，聯(lián)合國《特定常規(guī)武器公約》談判機制自從2014年起已召開了三次非正式專家會議和三次正式政府專家組會議。盡管在國際機制和國際規(guī)范的建立上取得了一定的突破，但是參與討論的各方對于致命性自主武器的適用定義分歧嚴(yán)重，均認(rèn)為其指涉對象十分模糊。現(xiàn)在來看，不論各方討論的是怎樣的定義，都在一定程度上與既有使用武器的規(guī)則存在矛盾。根據(jù)瑞典斯德哥爾摩和平研究所對154種武器系統(tǒng)的統(tǒng)計分析發(fā)現(xiàn)，只有49種武器可以在人類監(jiān)管但不介入的情況下進行合法交戰(zhàn)。它們主要用于對己方設(shè)施進行防御，比如保護軍艦或基地、應(yīng)對來襲導(dǎo)彈等。⑦而致命性自主武器帶來的戰(zhàn)略紅利牽動著各國的安全利益，給后續(xù)軍控行動增加了困難和挑戰(zhàn)。

盡管如此，這并不意味著我們無計可施而注定陷入絕望的無謂爭論之中。在前述2014年第一次非正式專家會議中，各方分歧明顯。有的國家代表認(rèn)為，致命性自主武器易于擴散且極其危險，終將給人類帶來巨大威脅，需要全面禁止開發(fā)和使用。與之相反的觀點則認(rèn)為，應(yīng)該發(fā)展致命性自主武器，因為它未來足夠“聰明”，能夠理解人類戰(zhàn)爭中的道德規(guī)范，甚至可為人類提供一種更加人道的戰(zhàn)爭選擇。兩種觀點都預(yù)設(shè)了人工智能最終足夠強大，卻給出了完全對立的應(yīng)對方案。時至今日，他們的預(yù)想都缺乏足夠的支持，但看似不可調(diào)和的爭論中日漸出現(xiàn)共識。參與討論的各方同意，致命性自主武器的軍控行為不應(yīng)阻礙民用技術(shù)的開發(fā)和促進經(jīng)濟發(fā)展，即使定義不清也不妨礙其他問題取得進展。這表明，決策者的認(rèn)知不是一成不變的。相關(guān)軍控談判不會是一次性達成具有約束力的國際條約，而是制定出致命性自主武器的底線后采取多種軍控手段結(jié)合的漸進方式以建立共識性的“軟法”。這需要國家采取自我限制，達成國家之間的非約束性協(xié)議，比如符合現(xiàn)行國際法和國際準(zhǔn)則的“行為準(zhǔn)則”。這種做法可以應(yīng)對自主武器引發(fā)的倫理道德問題，但是對于維護戰(zhàn)略穩(wěn)定作用不大。最好的方法或許是國家在尚未出現(xiàn)激烈的軍備競賽前，利用好窗口機遇期，盡早劃出一條能夠確保人類掌握自己生死命運的紅線。

“大分裂”并不是中美兩國唯一的選擇。我們應(yīng)樂觀地相信，人工智能競賽不是零和游戲。它應(yīng)當(dāng)是一項促進人類福祉和推動國家合作的工具。雖然特朗普政府的美國對外政策表現(xiàn)出部分領(lǐng)域“脫鉤”的趨勢，中美兩國的科研合作反而呈現(xiàn)出更加緊密的需求。通過對科學(xué)和工程領(lǐng)域的著作進行文獻統(tǒng)計，有研究發(fā)現(xiàn)中美兩國學(xué)者在2014至2018年間共同發(fā)表的論文數(shù)量增長了55.7%，因此如果美國貿(mào)然切斷同中國的科研合作可能導(dǎo)致美國的發(fā)表成果數(shù)量大幅下降。⑧從人類歷史而言，科學(xué)技術(shù)的發(fā)展和在世界范圍的傳播使得各國受益。即便在人工智能技術(shù)競爭加劇的今天，一國的技術(shù)突破也可能有利于另一國的經(jīng)濟社會發(fā)展。比如，位于北京的微軟亞洲研究院曾支持四名中國年輕學(xué)者發(fā)表的一篇關(guān)于深度殘差學(xué)習(xí)的論文，成為近年來該領(lǐng)域的重要引用文獻。在論文發(fā)表后，四位作者中有一位前往美國臉書公司任職，其余三位則加入到中國國內(nèi)的人工智能創(chuàng)業(yè)行列之中。他們的成功無疑讓中美兩國企業(yè)和整個人工智能研發(fā)都有所受益。

在國際安全事務(wù)的歷史進程中，不確定性是常態(tài)，確定性反而是稀缺的。隨著人工智能技術(shù)的發(fā)展，對致命性自主武器的定義不再只限制在技術(shù)層面而在于自主能力范圍的問題上。例如，武器的智能化程度成為判定其性質(zhì)和限制的標(biāo)準(zhǔn)。政策制定者最需要擔(dān)心的并不是那些不確定性導(dǎo)致的潛在權(quán)勢流失，而是這種認(rèn)知的固化帶來的長遠(yuǎn)風(fēng)險。他們不應(yīng)期待以“技術(shù)治理技術(shù)”的手段獲得穩(wěn)健安全的人工智能系統(tǒng)來解決國際安全困境。安全的軍事系統(tǒng)會在技術(shù)層面降低國家之間突發(fā)事件發(fā)生的可能性，但這意味著一國獲得了只有它才有的利器。這將不可避免地加劇軍備競賽，甚至動搖戰(zhàn)略穩(wěn)定而產(chǎn)生災(zāi)難性后果。同時，國家也不應(yīng)為了贏得軍備競賽的勝利而爭相部署不安全的人工智能系統(tǒng)。政策制定者既不能低估不同的戰(zhàn)略文化對使用新技術(shù)的影響，也不應(yīng)高估人工智能帶來的安全沖擊。

在人類走過的道路上，到處可見文明破滅的廢墟殘骸、帝國崩潰的殘碑破冢、信仰者和衛(wèi)道者的尸首斷骨，他們被一波波時代的浪潮淹沒，沒能在人類社會進化的道路中找到延續(xù)的崎嶇小道。然而，正是他們的犧牲照亮了我們未來前進的道路，使人類文明有可能免于走向錯誤的演化道路。回望過去遙望未來，任何對人工智能帶來美好未來的華麗辭藻以及其中所包含的美好期待，都不應(yīng)掩飾或漠視其中所蘊含的種種危險。而任何否定人工智能的抵觸情緒和對人性的過度信任，都無法阻擋技術(shù)發(fā)展帶來的種種好處。我們需要承認(rèn)，不確定性決定著人工智能的安全治理是一個動態(tài)的過程，基于在未來出現(xiàn)最好或者最壞結(jié)果的極端預(yù)設(shè)可能都很難實現(xiàn)。面對不斷變動的國際環(huán)境，我們需要在不斷發(fā)展的技術(shù)和不變的人性中去尋找國際合作的空間。

（作者分別為清華大學(xué)戰(zhàn)略與安全研究中心秘書長、教授;清華大學(xué)戰(zhàn)略與安全研究中心研究員）

【注：本文系國家社科基金重點項目“自由貿(mào)易區(qū)建設(shè)與亞太安全關(guān)系重構(gòu)研究”（項目編號：15AGJ006）的階段性成果】

【注釋】

①⑤吉斯特·愛德華、安德魯·洛恩：《人工智能對核戰(zhàn)爭風(fēng)險意味幾何？》，蘭德公司，2018年。

②“Highlighting Artificial Intelligence： An Interview with Paul Scharre，” Strategic Studies Quarterly， Sep. 26， 2017， p. 17.

③Kelley M. Sayler， “Artificial Intelligence and National Security，” Congressional Research Service Report， Jan. 30， 2019， p. 33.

④António Guterres， “Address to the 74th Session of the UN General Assembly，” United Nations Secretary General Speech， Sep. 24， 2019.

⑥Michael Mayer， “The New Killer Drones： Understanding the Strategic Implications of Next-Generation Unmanned Combat Aerial Vehicles，” International Affairs， Vol. 91， No. 4， July 2015， pp. 765-780.

⑦Vincent Boulanin and Maaike Verbruggen， “Mapping the development of autonomy in weapon systems，” SIPRI Report， Nov. 14， 2018， p. 26.

⑧Jenny Lee and John Haupt， “Winners and losers in US-China scientific research collaborations，" Higher Education， Nov. 7， 2019.

責(zé)編/周小梨 ? ?美編/楊玲玲