人工智能軍事應(yīng)用治理與相關(guān)國(guó)際學(xué)術(shù)共同體

祁昊天北京大學(xué)國(guó)際安全與和平研究中心副主任

人工智能（AI）的軍事應(yīng)用尚處在初級(jí)階段，但影響已嵌入指揮、情報(bào)、攻防、后勤、訓(xùn)練等諸多領(lǐng)域，覆蓋戰(zhàn)略、戰(zhàn)役、戰(zhàn)術(shù)不同層面。

AI作為一種通用和賦能技術(shù)，在提高軍事效能的同時(shí)，也帶來(lái)諸多風(fēng)險(xiǎn)，主要包括：本體性風(fēng)險(xiǎn)，即人類在機(jī)器面前失去主導(dǎo)地位；能動(dòng)性風(fēng)險(xiǎn)，即AI在攻防平衡、威懾平衡、危機(jī)穩(wěn)定等場(chǎng)景下誘發(fā)主動(dòng)沖突或升級(jí)可能；意外性風(fēng)險(xiǎn)，即AI系統(tǒng)因誤操作或系統(tǒng)故障所帶來(lái)的傷害。

相關(guān)國(guó)際治理亦面臨多重挑戰(zhàn)，比如：規(guī)則機(jī)制發(fā)展與技術(shù)發(fā)展不匹配；對(duì)于如何將AI軍事應(yīng)用進(jìn)行界定和分類，存在分歧；國(guó)際信任赤字疊加AI軍用利益訴求差異，加大了不信任和誤解；AI軍備競(jìng)賽與擴(kuò)散風(fēng)險(xiǎn)；AI疊加信息和網(wǎng)絡(luò)安全，使得廣義數(shù)字化軍事安全場(chǎng)域愈加復(fù)雜，等等。

國(guó)際社會(huì)需要通過(guò)加強(qiáng)多邊合作來(lái)應(yīng)對(duì)AI軍事化風(fēng)險(xiǎn)，但相關(guān)全球治理仍處在醞釀期，學(xué)術(shù)和智庫(kù)在此時(shí)的積極參與至關(guān)重要。目前，AI軍事應(yīng)用治理的國(guó)際學(xué)術(shù)共同體呈現(xiàn)松散狀態(tài)，但也已形成幾種初步的樣式和特點(diǎn)：跨地域、跨領(lǐng)域、跨形式，就軍用AI的倫理、法律、技術(shù)、軍事和治理機(jī)制問(wèn)題進(jìn)行不同形式的對(duì)話與合作研究；學(xué)術(shù)機(jī)構(gòu)和智庫(kù)合作往往嵌入政府、國(guó)際組織、非政府組織和業(yè)界，而非單純紙上談兵；合作平臺(tái)逐漸機(jī)制化，包括定期舉行國(guó)際研討會(huì)，開展中長(zhǎng)期的雙多邊聯(lián)合項(xiàng)目，進(jìn)行共同成果倡議和宣言發(fā)布；跨領(lǐng)域?qū)W術(shù)“基建”得到重視，特別是針對(duì)AI軍事應(yīng)用的定性、范疇及互動(dòng)過(guò)程；教育與培訓(xùn)提上日程，通過(guò)國(guó)際平臺(tái)幫助相關(guān)研究和實(shí)踐者提升對(duì)AI軍事應(yīng)用復(fù)雜性的認(rèn)知……

過(guò)去一年，比較典型的合作包括清華大學(xué)戰(zhàn)略與安全研究中心與美國(guó)布魯金斯學(xué)會(huì)合辦的雙邊二軌研討，新加坡南洋理工大學(xué)舉辦的年度多邊AI與戰(zhàn)略穩(wěn)定研討會(huì)，日內(nèi)瓦安全政策中心舉辦的年度五常智庫(kù)會(huì)議，海牙阿瑟研究所舉辦的“困境2023”會(huì)議。另有官方多邊場(chǎng)合為學(xué)術(shù)和智庫(kù)交流搭臺(tái)，如荷蘭政府舉辦的首屆“負(fù)責(zé)任軍事人工智能”峰會(huì)（REAIM2023），英國(guó)政府舉辦的AI安全峰會(huì)，等等。這些活動(dòng)雖由不同的主辦方發(fā)起，但所依托的機(jī)構(gòu)和人員網(wǎng)絡(luò)存在廣泛交集，議題互補(bǔ)，整體呈現(xiàn)出共同體式的聚合力。這一共同體包含不同的子網(wǎng)絡(luò)，子網(wǎng)絡(luò)的范圍、緊密程度、科研水平和政策支持能力固然存在差異，但共同塑造著全球軍事AI治理體系。

通過(guò)對(duì)過(guò)去十年相關(guān)數(shù)據(jù)的收集與分析，可以發(fā)現(xiàn)中國(guó)的清華大學(xué)、中國(guó)科學(xué)院、北京大學(xué)，美國(guó)的布魯金斯學(xué)會(huì)、卡內(nèi)基和平研究所、人道主義對(duì)話中心，歐洲的日內(nèi)瓦安全政策中心、斯德哥爾摩國(guó)際和平研究所，以及新加坡的南洋理工大學(xué)，擁有相對(duì)更為廣泛的合作網(wǎng)絡(luò)和更加中心化的地位，在掌握合作資源方面占據(jù)著較高排名。而在它們之外，哈佛大學(xué)、美國(guó)對(duì)外關(guān)系委員會(huì)等機(jī)構(gòu)并非最為活躍，但也承擔(dān)著共同體網(wǎng)絡(luò)的中介調(diào)節(jié)和向外延展通道功能。

目前這些機(jī)構(gòu)和相關(guān)研究群體已在一些重大問(wèn)題上達(dá)成較廣泛共識(shí)，涉及：軍用AI系統(tǒng)安全可靠的必要性，避免意外或未經(jīng)授權(quán)行動(dòng)發(fā)生的重要性，測(cè)試和驗(yàn)證的重要性，不同環(huán)境和條件下穩(wěn)定性和可預(yù)測(cè)性的重要性與局限性，倫理和法律標(biāo)準(zhǔn)的重要性，等等。近幾年，它們圍繞AI軍事應(yīng)用術(shù)語(yǔ)、治理原則框架、跨學(xué)科復(fù)雜性、軍事與非軍事領(lǐng)域關(guān)聯(lián)、AI與核導(dǎo)關(guān)聯(lián)、AI與其他新軍事技術(shù)集成、既有軍控機(jī)制與AI治理等議題，開展了廣泛的學(xué)術(shù)研討、知識(shí)積累、報(bào)告發(fā)布和咨政管道疏通工作。在此過(guò)程中，共同體內(nèi)存在不同程度的分歧，比如：AI系統(tǒng)多大程度上可擁有自主性，特別是決策方面；人在回路中的具體位置、作用、控制程度，以及如何定義“有意義的控制”；如何針對(duì)透明度、責(zé)任和倫理等問(wèn)題，制定和實(shí)施國(guó)際標(biāo)準(zhǔn)和規(guī)范；如何明確有效部署的技術(shù)標(biāo)準(zhǔn)和成熟度；如何界定和規(guī)制致命性自主武器系統(tǒng)，等等。

AI軍事應(yīng)用尚處在高度不確定的萌芽期，但在新技術(shù)沖擊下維護(hù)全球和平與穩(wěn)定的任務(wù)又是緊迫的，未來(lái)相關(guān)學(xué)術(shù)共同體如要進(jìn)一步發(fā)展，需要繼續(xù)降低跨學(xué)科跨領(lǐng)域?qū)υ掗T檻，降低科研—政策對(duì)接成本，并努力破除信息繭房。