人工智能軍事應(yīng)用的國(guó)際安全風(fēng)險(xiǎn)與治理路徑*

龍 坤 徐能武

一、人工智能發(fā)展應(yīng)用帶來的國(guó)際安全風(fēng)險(xiǎn)

（一）近期：戰(zhàn)爭(zhēng)門檻降低與自主武器擴(kuò)散

（二）中期：戰(zhàn)略穩(wěn)定性與核戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)

（三）遠(yuǎn)期：超級(jí)人工智能威脅人類整體安全

二、人工智能全球安全治理的進(jìn)程與問題

在人工智能軍事應(yīng)用深刻影響國(guó)家安全，甚至可能危及全球戰(zhàn)略穩(wěn)定的背景下，各方逐步認(rèn)識(shí)到必須高度重視其潛在風(fēng)險(xiǎn)，對(duì)人工智能造成的國(guó)際安全問題進(jìn)行全球?qū)用娴闹卫怼．?dāng)前人工智能全球安全治理的基本結(jié)構(gòu)正逐步生成，但仍面臨許多問題。

（一）治理主體：多元行為體共同參與但協(xié)同不足

人工智能技術(shù)是一個(gè)類似于電力的“通用技術(shù)”和“使能技術(shù)”，能夠賦能各行各業(yè)，并影響全球的政治經(jīng)濟(jì)發(fā)展。因而，關(guān)于其造成的國(guó)際安全問題的治理也必然涉及多個(gè)利益攸關(guān)方。在人工智能全球安全治理這一議題上，存在著十分多元的治理主體，它們通過磋商談判、積極呼吁、發(fā)表宣言等形式推進(jìn)這一領(lǐng)域的治理進(jìn)程。

（二）治理機(jī)制：各類平臺(tái)和規(guī)范不斷涌現(xiàn)但效果有限

（三）治理對(duì)象：以致命性自主武器系統(tǒng)為主要議題但總體進(jìn)展緩慢

從理論上看，人工智能全球安全治理的對(duì)象包括前述人工智能帶來的所有國(guó)際安全問題。而在當(dāng)下的現(xiàn)實(shí)發(fā)展中，人工智能全球安全治理以對(duì)致命性自主武器系統(tǒng)的探討和確立規(guī)制為主，究其原因，有以下幾個(gè)方面。

總之，當(dāng)前國(guó)際社會(huì)已在致命性自主武器系統(tǒng)議題方面達(dá)成了11項(xiàng)不具有法律約束力的指導(dǎo)原則，但在戰(zhàn)略穩(wěn)定、危機(jī)管控、自主武器擴(kuò)散等其他較為緊迫的人工智能全球安全治理領(lǐng)域，相關(guān)機(jī)制和方案仍暫付闕如。人工智能的全球安全治理的實(shí)質(zhì)性進(jìn)展有限，仍存在很多需要解決的問題。

三、推動(dòng)人工智能全球安全治理的路徑思考

（一）加快建立信任措施保持戰(zhàn)略穩(wěn)定和管控戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)

第一，在核領(lǐng)域，擁核國(guó)家須強(qiáng)化合作，盡快簽訂相關(guān)雙邊和多邊軍控協(xié)定，禁止將人工智能技術(shù)用于核指揮控制系統(tǒng)中，確保人類控制所有核武器發(fā)射平臺(tái)。核領(lǐng)域?qū)?guó)際安全的影響是最具毀滅性的，攸關(guān)全世界的生死存亡，因而管控人工智能在這一領(lǐng)域的風(fēng)險(xiǎn)尤為緊迫。如前所述，將人工智能應(yīng)用到核武器的預(yù)警、控制以及運(yùn)載系統(tǒng)中，可能會(huì)導(dǎo)致意外核風(fēng)險(xiǎn)的升級(jí)，對(duì)國(guó)際戰(zhàn)略穩(wěn)定造成災(zāi)難性后果。因此，核大國(guó)之間要盡快推進(jìn)對(duì)話，優(yōu)先對(duì)將人工智能應(yīng)用于核武器系統(tǒng)的行為設(shè)定強(qiáng)有力的限制措施，尤其是有核國(guó)家間達(dá)成由人類嚴(yán)格控制核發(fā)射決定權(quán)的協(xié)議，確保人類控制所有核武器發(fā)射平臺(tái)。這樣才能降低意外核戰(zhàn)爭(zhēng)的風(fēng)險(xiǎn)，避免在沒有人參與的情況下由于機(jī)器故障或誤判直接導(dǎo)致核戰(zhàn)爭(zhēng)爆發(fā)等災(zāi)難性場(chǎng)景的出現(xiàn)。由于核武器的極端破壞性，各國(guó)必須確保人類嚴(yán)格控制核發(fā)射決策，同時(shí)明確人工智能賦能的無人武器裝備不應(yīng)用作核運(yùn)載平臺(tái)，避免人類失去對(duì)核武器的控制而發(fā)生核事故或意外核戰(zhàn)爭(zhēng)。

（二）分級(jí)治理不同自主程度的武器系統(tǒng)

針對(duì)不同自主程度的武器系統(tǒng)及其安全風(fēng)險(xiǎn)，需要采取相應(yīng)的治理舉措。完全自主的武器系統(tǒng)，應(yīng)當(dāng)在國(guó)際社會(huì)進(jìn)行預(yù)防性禁止，而半自主或其他低自主的武器系統(tǒng)，則應(yīng)當(dāng)采取限制措施、測(cè)試評(píng)估等方式進(jìn)行風(fēng)險(xiǎn)管控。

（三）強(qiáng)化自主武器及相關(guān)技術(shù)出口控制

結(jié) 束 語

人工智能作為科技發(fā)展的前沿領(lǐng)域，本質(zhì)上是全球性的通用泛在技術(shù)和先進(jìn)生產(chǎn)力，其在全球化時(shí)代產(chǎn)生的安全風(fēng)險(xiǎn)也必然會(huì)波及全球，可能會(huì)嚴(yán)重威脅戰(zhàn)略穩(wěn)定，降低戰(zhàn)爭(zhēng)門檻，提高沖突頻率，并給國(guó)際恐怖主義大開方便之門，甚至可能誘發(fā)超級(jí)人工智能的崛起，威脅人類整體安全。要應(yīng)對(duì)人工智能帶來的多重國(guó)際安全風(fēng)險(xiǎn)，需要全世界的主權(quán)國(guó)家、國(guó)際組織、跨國(guó)公司、全球公民社會(huì)等國(guó)際關(guān)系行為體加強(qiáng)合作，共同參與和貢獻(xiàn)智慧，推動(dòng)人工智能全球安全治理的進(jìn)程，使得制度建設(shè)和倫理規(guī)范跟上人工智能發(fā)展演進(jìn)的速度。作為引領(lǐng)人工智能發(fā)展應(yīng)用的“領(lǐng)頭羊”國(guó)家和世界前兩大經(jīng)濟(jì)體，中、美兩國(guó)積極承擔(dān)這一領(lǐng)域的大國(guó)責(zé)任尤為重要。當(dāng)前一段時(shí)期，正是管控人工智能國(guó)際安全風(fēng)險(xiǎn)的關(guān)鍵窗口期，兩國(guó)需要強(qiáng)化合作，共同引領(lǐng)人工智能的全球安全治理進(jìn)程，通過基于風(fēng)險(xiǎn)排序和時(shí)間緊迫度的分層治理方式化解安全風(fēng)險(xiǎn)，維護(hù)全球戰(zhàn)略穩(wěn)定。同時(shí)，也需充分發(fā)揮國(guó)際組織和全球公民社會(huì)的推動(dòng)作用，強(qiáng)化主權(quán)國(guó)家、國(guó)際組織、全球公民社會(huì)等治理主體的良性互動(dòng)和相互合作，形成松散耦合的人工智能全球安全治理機(jī)制，合力推進(jìn)這一進(jìn)程的有序前行。