人工智能軍事應(yīng)用及其國(guó)際法問題*

李 享，羅天宇

（清華大學(xué) 社會(huì)科學(xué)學(xué)院，北京 100084）

0 引 言

隨著對(duì)人工智能技術(shù)發(fā)展前景的認(rèn)識(shí)更加明確，各國(guó)都開始謀求將其應(yīng)用于軍事領(lǐng)域，以占領(lǐng)新的軍事技術(shù)制高點(diǎn)。在世界主要軍事大國(guó)之間，人工智能軍備競(jìng)賽已從幕后走到了臺(tái)前，但由于新技術(shù)的不確定性、應(yīng)用方式的不明確、應(yīng)用效果的未知、國(guó)際規(guī)則尚未成熟等因素，人工智能的軍事應(yīng)用也孕育著潛在的安全風(fēng)險(xiǎn)。為防范和化解相關(guān)風(fēng)險(xiǎn)，在現(xiàn)有國(guó)際法體系之上進(jìn)一步探索規(guī)范人工智能軍事應(yīng)用的途徑有著重要意義。

1 人工智能軍事應(yīng)用的主要領(lǐng)域

與以往大多數(shù)新興軍事技術(shù)不同，人工智能技術(shù)并不專屬于某個(gè)作戰(zhàn)空間或領(lǐng)域，而是能夠應(yīng)用于各領(lǐng)域并提升武器裝備性能的一種技術(shù)，甚至可以改變現(xiàn)有戰(zhàn)爭(zhēng)形態(tài)。根據(jù)一些學(xué)者的分類，人工智能目前可以分為“弱人工智能”和“強(qiáng)人工智能”兩類，“弱人工智能”能夠借鑒人類的智能行為，以減輕人類智力勞動(dòng)；“強(qiáng)人工智能”則是達(dá)到甚至超越人類智慧水平的人造物，具有心智和意識(shí)、能根據(jù)自己的意圖開展行動(dòng)[1]。從目前來看，“強(qiáng)人工智能”的出現(xiàn)依然較為遙遠(yuǎn)，但基于大數(shù)據(jù)和深度學(xué)習(xí)的計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理等“弱人工智能”技術(shù)正在不斷地得到開發(fā)應(yīng)用，因此本文僅討論“弱人工智能”的軍事應(yīng)用問題。通過梳理現(xiàn)有文獻(xiàn)與案例可以發(fā)現(xiàn)，人工智能的軍事應(yīng)用主要集中在情報(bào)與偵察、作戰(zhàn)決策與指揮控制、自主武器系統(tǒng)、訓(xùn)練與演習(xí)、作戰(zhàn)支援與保障等領(lǐng)域。

在情報(bào)與偵察領(lǐng)域，由于人工智能在圖像、語音識(shí)別方面具有強(qiáng)大能力，其與各類傳感器的結(jié)合能夠大幅提升戰(zhàn)略與戰(zhàn)術(shù)偵察能力，提升衛(wèi)星照片判讀、光學(xué)/電子偵察、水聲探測(cè)識(shí)別的效率。例如，美國(guó)國(guó)防部2017年啟動(dòng)了Maven項(xiàng)目，以實(shí)現(xiàn)計(jì)算機(jī)從視頻圖像中自主識(shí)別人員、車輛等目標(biāo)，并計(jì)劃在后續(xù)將其集成在各類平臺(tái)上。當(dāng)年12月，Maven項(xiàng)目的原型系統(tǒng)已經(jīng)部署在美軍中央司令部和非洲司令部的轄區(qū)進(jìn)行試驗(yàn)，并在一周時(shí)間內(nèi)使目標(biāo)識(shí)別準(zhǔn)確率從60%提升至80%[2]。盡管該項(xiàng)目曾因合作方谷歌的退出而受到影響，但目前仍在美國(guó)國(guó)防部的重點(diǎn)支持下平穩(wěn)推進(jìn)。

在作戰(zhàn)決策與指揮控制領(lǐng)域，人工智能因具有出色的數(shù)據(jù)處理、系統(tǒng)集成、高性能計(jì)算能力，被視為輔助甚至替代決策者與指揮員的工具。美軍目前提出的“聯(lián)合全域指揮控制”（JADC2）“馬賽克戰(zhàn)”“忠誠(chéng)僚機(jī)”“分布式殺傷”等概念對(duì)人工智能算法支持的任務(wù)規(guī)劃、態(tài)勢(shì)分析、作戰(zhàn)決策、指揮控制、通信傳輸提出了較高要求，以期加快決策速度并提高作戰(zhàn)效率，克服人力處理信息的局限性。

在自主武器系統(tǒng)領(lǐng)域，人工智能使得傳統(tǒng)的遙控式無人武器開始向不受人工干預(yù)的自主武器方向升級(jí)，這是目前人們關(guān)注人工智能軍事應(yīng)用問題的焦點(diǎn)。目前關(guān)于自主武器還沒有公認(rèn)的定義。美國(guó)國(guó)防部認(rèn)為，自主武器系統(tǒng)指的是“一旦啟動(dòng)，可以在不受操作人員干預(yù)下選擇目標(biāo)并交戰(zhàn)的武器系統(tǒng)，它也包括受到人類監(jiān)督的此種武器系統(tǒng)?！盵3]國(guó)際紅十字會(huì)也提出了類似的定義，并明確其應(yīng)區(qū)別于自動(dòng)武器/半自主武器①指由操作人員設(shè)定目標(biāo)，在設(shè)定好的可控環(huán)境中嚴(yán)格執(zhí)行預(yù)編寫程序的武器系統(tǒng)，如自動(dòng)崗哨炮、末敏彈、艦載近防系統(tǒng)等。，以及遙控武器。也有一些學(xué)者從人機(jī)關(guān)系角度出發(fā)，根據(jù)約翰·博伊德提出的OODA（觀察—判斷—決策—行動(dòng)）循環(huán)，將自主武器分為半自主武器、有監(jiān)督的自主武器和完全自主武器。從目前各國(guó)發(fā)展人工智能軍事應(yīng)用的公開資料來看，自主武器無疑是重中之重。就包含半自主與完全自主的廣義范圍而言，目前各軍事大國(guó)正在研發(fā)或部署階段的此類武器已涵蓋了防空系統(tǒng)、主動(dòng)防御系統(tǒng)、機(jī)器哨兵、制導(dǎo)彈藥、巡飛武器等。此外，還包括自主無人機(jī)、無人車輛、無人艦艇、戰(zhàn)斗機(jī)器人等主戰(zhàn)裝備，例如美國(guó)的MQ-9無人機(jī)、“海上獵手”無人船，俄羅斯的“天王星-9”戰(zhàn)斗機(jī)器人、“涅列赫塔”無人戰(zhàn)車、無人版T-14主戰(zhàn)坦克，以色列的“哈比”無人機(jī)，韓國(guó)的SGR-A1自動(dòng)崗哨炮等。值得一提的是，除了常規(guī)武器，俄羅斯還專門研發(fā)了具有自主能力的戰(zhàn)略武器，如攜帶核彈頭的“波塞冬”（Poseidon）核動(dòng)力無人潛航器。目前，上述一些裝備已經(jīng)以集群編隊(duì)的方式進(jìn)行了測(cè)試，甚至已被部署到戰(zhàn)場(chǎng)使用。

人工智能技術(shù)還在訓(xùn)練與演習(xí)、作戰(zhàn)支援與保障領(lǐng)域得到廣泛應(yīng)用。這里主要包括訓(xùn)練模擬、計(jì)算機(jī)推演、網(wǎng)絡(luò)攻防、信息作戰(zhàn)、醫(yī)療救護(hù)、維修保障等用途。例如，美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）正在推進(jìn)“先進(jìn)空戰(zhàn)演進(jìn)”項(xiàng)目，以對(duì)人機(jī)協(xié)同作戰(zhàn)提供訓(xùn)練；而在DARPA舉行的Alpha Dogfight人機(jī)空戰(zhàn)對(duì)抗模擬演習(xí)中，人工智能以5∶0的比分戰(zhàn)勝了美軍F-16飛行員[4]。

2 人工智能軍事應(yīng)用對(duì)國(guó)際法帶來的挑戰(zhàn)

新軍事技術(shù)的出現(xiàn)往往對(duì)戰(zhàn)爭(zhēng)模式和交戰(zhàn)規(guī)則帶來巨大甚至顛覆性的影響，從而對(duì)已有的國(guó)際法體系帶來了挑戰(zhàn)。針對(duì)這個(gè)問題，1977年的《日內(nèi)瓦公約第一附加議定書》在第36條“新武器”明確了各國(guó)應(yīng)當(dāng)承擔(dān)的國(guó)際義務(wù)，即“在研究、發(fā)展、取得或采用新的武器、作戰(zhàn)手段或方法時(shí)，締約一方有義務(wù)斷定，在某些或所有情況下，該新的武器、作戰(zhàn)手段或方法的使用是否為本議定書或適用于該締約一方的任何其它國(guó)際法規(guī)則所禁止。”人工智能的軍事應(yīng)用當(dāng)然也應(yīng)遵循這一條規(guī)定。

近年來，人們已普遍認(rèn)識(shí)到致命自主性武器（LAWS）對(duì)國(guó)際人道主義法帶來的嚴(yán)峻挑戰(zhàn)。2016年中國(guó)政府向《特定常規(guī)武器公約》五審會(huì)提交了立場(chǎng)文件，呼吁從國(guó)際法層面對(duì)致命自主武器引發(fā)的人道主義問題進(jìn)行規(guī)制。相關(guān)研究人員也就致命自主武器對(duì)國(guó)際人道主義法的區(qū)分原則、比例原則、責(zé)任歸屬等方面引發(fā)的問題展開了較為廣泛的討論。但是，在致命自主性武器與人道主義問題以外，更為廣泛的人工智能軍事應(yīng)用還可能在武力使用合法性、國(guó)家主權(quán)、武器擴(kuò)散方面對(duì)現(xiàn)有國(guó)際法造成挑戰(zhàn)，由于其對(duì)國(guó)際安全與地區(qū)穩(wěn)定具有重要影響，需要引起國(guó)際社會(huì)的同等重視。

2.1 對(duì)武力使用合法性的挑戰(zhàn)

目前的國(guó)際法已對(duì)武力使用的合法性做出了嚴(yán)格規(guī)定?！堵?lián)合國(guó)憲章》第1章第2條第4款規(guī)定：“各會(huì)員國(guó)在其國(guó)際關(guān)系上不得使用威脅或武力，或以與聯(lián)合國(guó)宗旨不符之任何其他方法，侵害任何會(huì)員國(guó)或國(guó)家之領(lǐng)土完整或政治獨(dú)立?！边@一條款禁止了武力的使用，并受到聯(lián)合國(guó)會(huì)員國(guó)的普遍認(rèn)可，在法律層面上有強(qiáng)制約束力。但在普遍禁止之外，國(guó)際法還針對(duì)兩種例外情況授予了使用武力的合法性，根據(jù)《聯(lián)合國(guó)憲章》第7章第42條和第51條，這兩種例外分別是：（1）安理會(huì)授權(quán)以武力維持或恢復(fù)國(guó)際和平及安全；（2）會(huì)員國(guó)受武力攻擊時(shí)行使單獨(dú)或集體自衛(wèi)。從以往的經(jīng)驗(yàn)來看，由于使用武力的決策權(quán)一直牢牢地掌握在武器使用者的手中，新軍事技術(shù)本身幾乎不會(huì)對(duì)武力使用的合法性產(chǎn)生影響。但是，隨著人工智能開始逐漸被用在軍事決策領(lǐng)域，人類可能會(huì)有意或無意地將使用武力的決策權(quán)授予人工智能系統(tǒng)。相關(guān)研究者常常以蘇聯(lián)研發(fā)的“死手”（或稱為“周長(zhǎng)”）系統(tǒng)①“死手”系統(tǒng)是一種半自動(dòng)化的核武器指揮控制系統(tǒng)，它能夠根據(jù)各類傳感器回傳的數(shù)據(jù)來判斷蘇聯(lián)是否遭到核攻擊，一旦失去了和外界的通信聯(lián)系，它會(huì)認(rèn)為蘇聯(lián)領(lǐng)導(dǎo)層已經(jīng)被“斬首”，并將核武器控制權(quán)交給掩體中的基層指揮人員。以及1983年“彼得洛夫事件”②1983年9月蘇聯(lián)的預(yù)警衛(wèi)星誤報(bào)美國(guó)對(duì)蘇聯(lián)發(fā)射核導(dǎo)彈，差點(diǎn)啟動(dòng)了蘇聯(lián)的反擊程序并引發(fā)核戰(zhàn)爭(zhēng)，這場(chǎng)危機(jī)因基層軍官彼得洛夫的干預(yù)而被解除。引發(fā)的意外核戰(zhàn)爭(zhēng)危機(jī)為例，提醒人們自主化決策與指揮控制系統(tǒng)的安全風(fēng)險(xiǎn)。從國(guó)際法的角度來看，這種新的情況針對(duì)前面提到的武力使用的第二種合法例外——單獨(dú)或集體自衛(wèi)帶來了挑戰(zhàn)。對(duì)于人工智能的自主決策和指揮控制系統(tǒng)以及自主武器系統(tǒng)而言，在缺乏人工干預(yù)時(shí)，如何判斷自衛(wèi)的條件是一個(gè)較為困難的問題。目前的人工智能技術(shù)在可解釋性、認(rèn)知能力方面仍較為薄弱，因此無法像受過訓(xùn)練的人類一樣能夠?qū)δ：欢ㄅc復(fù)雜多變的情況做出適當(dāng)判斷。如果在邊境部署的自動(dòng)崗哨武器，或在海空巡邏的無人機(jī)或無人艦艇，因?yàn)樗惴ㄒ鸬恼`判或是系統(tǒng)故障而對(duì)他國(guó)人員或資產(chǎn)主動(dòng)發(fā)起攻擊，將直接違反國(guó)際法關(guān)于武力使用的規(guī)定，而且這種違背使用者意圖的非法武力使用也難以找到明確的主體來承擔(dān)法律責(zé)任。此外，當(dāng)應(yīng)用于軍隊(duì)決策與指揮控制的人工智能系統(tǒng)出現(xiàn)這種情況時(shí)，除了會(huì)產(chǎn)生更嚴(yán)重的國(guó)際法后果外，還甚至?xí)M(jìn)一步引起意外性戰(zhàn)爭(zhēng)。

2.2 對(duì)國(guó)家主權(quán)的挑戰(zhàn)

人工智能軍事應(yīng)用對(duì)于受國(guó)際法保護(hù)的國(guó)家主權(quán)構(gòu)成了侵蝕。與有人駕駛裝備相比，以無人機(jī)、無人潛航器為代表的一批人工智能無人系統(tǒng)具有小型化、隱身性能強(qiáng)的特點(diǎn)，以及無需人工操縱且能夠執(zhí)行長(zhǎng)距離作業(yè)，因此極為適合完成滲透?jìng)刹烊蝿?wù)。由于這些特點(diǎn)能夠隱匿身份而降低外交敏感性，一些國(guó)家開始更加大膽地使用此類裝備執(zhí)行侵入性行動(dòng)，這使得各國(guó)的領(lǐng)空和領(lǐng)海主權(quán)變得更加容易被侵蝕。

2015年8月，中國(guó)漁民在海南三亞市海岸打撈到國(guó)外無人潛航器；2016年12月，中國(guó)海軍在南海海域打撈到一艘美國(guó)無人潛航器，隨后移交美方；2019年6月，伊朗聲稱擊落了一架入侵領(lǐng)空的美國(guó)無人機(jī)，加劇了霍爾木茲海峽緊張局勢(shì)；2019年9月，位于沙特腹地的原油生產(chǎn)設(shè)施阿布凱克（Abqaiq）油田遭到18架無人機(jī)突襲，使該國(guó)原油產(chǎn)量受到重大損失。[5]對(duì)此美國(guó)宣稱無人機(jī)歸屬伊朗，但聯(lián)合國(guó)的調(diào)查報(bào)告表示無法確認(rèn)攻擊者的身份。2020年，印度和巴基斯坦分別宣稱擊落了對(duì)方入侵本國(guó)領(lǐng)空的無人機(jī)。上述案例表明，在和平或危機(jī)時(shí)期，一些國(guó)家越來越傾向于使用無人系統(tǒng)執(zhí)行越境軍事行動(dòng)，這對(duì)各國(guó)維護(hù)領(lǐng)土主權(quán)（主要是領(lǐng)空、領(lǐng)海）構(gòu)成了威脅。

目前，對(duì)于軍用空中無人系統(tǒng)進(jìn)入他國(guó)領(lǐng)空的問題，已有明確的國(guó)際法規(guī)范?！秶?guó)際民用航空公約》第1部分第3條規(guī)定：“用于軍事、海關(guān)和警察部門的航空器，應(yīng)認(rèn)為是國(guó)家航空器?！薄耙痪喖s國(guó)的國(guó)家航空器，未經(jīng)特別協(xié)定或其他方式的許可并遵照其中的規(guī)定，不得在另一締約國(guó)領(lǐng)土上空飛行或在此領(lǐng)土上降落”。該條約第8條針對(duì)“無人駕駛航空器”也做出了規(guī)定：“任何無人駕駛而能飛行的航空器，未經(jīng)一締約國(guó)特許并遵照此項(xiàng)特許的條件，不得無人駕駛而在該國(guó)領(lǐng)土上空飛行?！边@兩條明確禁止了軍用空中無人系統(tǒng)在未經(jīng)許可的情況下進(jìn)入他國(guó)領(lǐng)空。

但是，關(guān)于軍用無人艦艇的航行問題卻出現(xiàn)了一些法律爭(zhēng)議。首先，目前的國(guó)際法對(duì)于軍用無人艦艇的屬性未做出明確規(guī)定。《聯(lián)合國(guó)海洋法公約》第29條規(guī)定：“‘軍艦’是指屬于一國(guó)武裝部隊(duì)、具備辨別軍艦國(guó)籍的外部標(biāo)志、由該國(guó)政府正式委任并名列相應(yīng)的現(xiàn)役名冊(cè)或類似名冊(cè)的軍官指揮和配備有服從正規(guī)武裝部隊(duì)紀(jì)律的船員的船舶?！庇捎谲娪脽o人艦艇不配備軍官與船員，且常常為了隱蔽身份而清除標(biāo)識(shí)，其既不能被定義為軍艦，也不能被視為政府船舶，這種性質(zhì)使其無法擁有上述兩種船只在公海不受其他國(guó)家管轄的豁免權(quán)。①《聯(lián)合國(guó)海洋法公約》第95、96條分別規(guī)定了公海上軍艦和政府非商業(yè)性服務(wù)的船舶的豁免權(quán)。在2016年南海無人潛航器事件中，美國(guó)聲稱其潛航器是一艘享有主權(quán)豁免的船只，并與日本公開質(zhì)疑中國(guó)海軍打撈活動(dòng)的合法性[6]。但是根據(jù)《聯(lián)合國(guó)海洋法公約》的上述規(guī)定，中國(guó)學(xué)者認(rèn)為其并不享有主權(quán)豁免。其次，《聯(lián)合國(guó)海洋法公約》規(guī)定軍艦在他國(guó)領(lǐng)海的“無害通過權(quán)”不適用于軍用無人潛航器?！堵?lián)合國(guó)海洋法公約》第19條明確了違反“無害通過”的12種情形，包括“任何目的在于搜集情報(bào)使沿海國(guó)的防務(wù)或安全受損害的行為”和“進(jìn)行研究或測(cè)量活動(dòng)”，這兩種活動(dòng)正是目前軍用無人潛航器的主要任務(wù)。另外，第20條規(guī)定“在領(lǐng)海內(nèi)，潛水艇和其他潛水器，須在海面上航行并展示其旗幟。” 這一點(diǎn)是無人潛航器在偵察任務(wù)中難以做到的，更不用說一些國(guó)家為了避免承擔(dān)責(zé)任而故意隱藏其標(biāo)識(shí)。因此，盡管美國(guó)軍艦常常以“無害通過權(quán)”為理由進(jìn)入其他國(guó)家領(lǐng)海實(shí)施“自由航行計(jì)劃”，但使用軍用無人潛航器執(zhí)行這一任務(wù)無疑是違反現(xiàn)行國(guó)際法的。這些問題需要得到國(guó)際社會(huì)進(jìn)一步的明確與重視。

2.3 對(duì)國(guó)際武器貿(mào)易規(guī)范的挑戰(zhàn)

隨著人工智能技術(shù)的發(fā)展，其研發(fā)成本將不斷降低，這有利于相關(guān)技術(shù)及產(chǎn)品的擴(kuò)散。從現(xiàn)實(shí)情況來看，無人機(jī)、智能彈藥已經(jīng)成為了國(guó)際軍貿(mào)市場(chǎng)的熱點(diǎn)產(chǎn)品，阿塞拜疆和亞美尼亞的武裝沖突進(jìn)一步證明了這種武器的軍事價(jià)值。由于人工智能武器能夠高效殺傷敵人并能夠大幅減少本國(guó)人員傷亡，它可能會(huì)降低戰(zhàn)爭(zhēng)成本，從而降低戰(zhàn)爭(zhēng)門檻，促使國(guó)家更傾向于使用武力解決爭(zhēng)端；而這又可能會(huì)反過來促進(jìn)人工智能武器系統(tǒng)的擴(kuò)散，加劇各國(guó)軍備競(jìng)賽，并破壞地區(qū)安全與穩(wěn)定。目前，國(guó)際社會(huì)已經(jīng)形成了對(duì)核、生物、化學(xué)、導(dǎo)彈等大規(guī)模殺傷性武器擴(kuò)散的管控機(jī)制，由于禁止擴(kuò)散大規(guī)模殺傷性武器已經(jīng)成為各國(guó)接受的規(guī)范，人工智能武器系統(tǒng)將主要以常規(guī)武器為平臺(tái)進(jìn)行擴(kuò)散，這對(duì)規(guī)范常規(guī)武器貿(mào)易的《武器貿(mào)易條約》將構(gòu)成新的挑戰(zhàn)。

《武器貿(mào)易條約》作為首個(gè)聯(lián)合國(guó)框架下規(guī)范常規(guī)武器貿(mào)易活動(dòng)的國(guó)際條約，為增強(qiáng)國(guó)際武器貿(mào)易透明度、打擊非法武器轉(zhuǎn)讓提供了具有法律效力的國(guó)際標(biāo)準(zhǔn)。該條約主要依靠各締約國(guó)完善國(guó)家管制制度，對(duì)武器出口的最終用戶和最終用途進(jìn)行審查，以防止出口的武器被用于違反國(guó)際法的目的?！段淦髻Q(mào)易條約》要求各國(guó)禁止批準(zhǔn)出口可能用于戰(zhàn)爭(zhēng)罪行、恐怖主義、有組織犯罪的8類武器裝備，包括坦克、裝甲戰(zhàn)車、大口徑大炮、戰(zhàn)斗機(jī)、攻擊直升機(jī)、戰(zhàn)艦、導(dǎo)彈與導(dǎo)彈發(fā)射器、輕小武器等，而這8類武器都可以作為人工智能武器系統(tǒng)的平臺(tái)。但是，由于人工智能技術(shù)的軍民兩用性質(zhì)，可以作為插件存在的人工智能模塊尚未受到條約的重視，某些人工智能技術(shù)甚至能夠作為民用品出口，完全規(guī)避《武器貿(mào)易條約》對(duì)最終用途的約束，這有可能進(jìn)一步強(qiáng)化相關(guān)武器的交易與濫用，導(dǎo)致此類武器或技術(shù)向恐怖主義或犯罪組織非法擴(kuò)散。因此，如何規(guī)范武裝無人機(jī)、戰(zhàn)斗機(jī)器人等自主武器系統(tǒng)的轉(zhuǎn)讓，限制其擴(kuò)散對(duì)地區(qū)安全穩(wěn)定與人道主義的負(fù)面影響，為現(xiàn)有常規(guī)武器貿(mào)易管控機(jī)制提出了新的問題。

3 規(guī)范人工智能軍事應(yīng)用的國(guó)際法途徑

當(dāng)前，對(duì)人工智能軍事應(yīng)用帶來的國(guó)際法挑戰(zhàn)較多的討論聚焦于人道主義問題，尤其是對(duì)致命性自主武器（LAWS）違反國(guó)際人道法對(duì)非作戰(zhàn)人員進(jìn)行殺傷的問題。然而，人工智能作為一種變革性技術(shù)，其對(duì)國(guó)際法的挑戰(zhàn)本身具有更深層次的含義。如前文所提，人工智能技術(shù)對(duì)國(guó)際法的挑戰(zhàn)主要體現(xiàn)于兩個(gè)方面：一是變革技術(shù)的出現(xiàn)降低違反國(guó)際法的成本；二是核心議題涉及當(dāng)前國(guó)際法所未能覆蓋的領(lǐng)域。因此，本文擬從這兩個(gè)層面討論完善相關(guān)國(guó)際法的途徑，討論如何提高相應(yīng)國(guó)際法門檻、確立新的國(guó)際法規(guī)則。

具體而言，LAWS的應(yīng)用以及戰(zhàn)略武器自主指揮控制系統(tǒng)的發(fā)展主要降低了國(guó)家違反國(guó)際法的成本，通過模糊責(zé)任主體、對(duì)國(guó)際法概念進(jìn)行特定解釋可以讓部分國(guó)家在使用武力、侵犯他國(guó)主權(quán)等問題上擁有一定的“靈活性”，對(duì)此，本文認(rèn)為應(yīng)當(dāng)在《特定常規(guī)武器公約》框架下規(guī)范LAWS的應(yīng)用并禁止戰(zhàn)略武器自主指揮控制系統(tǒng)的應(yīng)用，形成類似“核禁忌”的國(guó)際共識(shí)；而人工智能武器的貿(mào)易問題涉及的是國(guó)際法上的“灰色地帶”或者“空白地帶”。如果作為軍用品，無疑，其可以受到《武器貿(mào)易條約》的約束。但是，因?yàn)樵摷夹g(shù)軍民兩用之間界限的模糊（部分民用人工智能技術(shù)完全可以應(yīng)用于軍事領(lǐng)域），完善《武器貿(mào)易條約》，重新對(duì)人工智能技術(shù)的軍事性質(zhì)進(jìn)行界定，進(jìn)而限制作為武器模塊的人工智能技術(shù)的擴(kuò)散成為當(dāng)下國(guó)際法亟待解決之事。

3.1 提高國(guó)際法管轄門檻，增加國(guó)家違反國(guó)際法的成本

3.1.1 推動(dòng)管控LAWS的《特定常規(guī)武器公約》新議定書

對(duì)于LAWS而言，當(dāng)前的發(fā)展仍然處于初步階段，且不存在完全脫離人控制的全自主武器，各國(guó)不具有緊迫的動(dòng)力和意愿來限制LAWS。因此，想要馬上實(shí)現(xiàn)一份有約束力的法律文書是較為困難的。但是自2014年起，各國(guó)開始在《特定常規(guī)武器公約》框架下對(duì)LAWS問題進(jìn)行討論，并已舉行了8次專家組會(huì)議。①包括3次非正式專家組會(huì)議和5次政府專家組會(huì)議。整理自《特定常規(guī)武器公約》致命性自主武器專家組報(bào)告。2018年，政府專家組在關(guān)于管控LAWS的指導(dǎo)原則中建議：“應(yīng)確保根據(jù)適用的國(guó)際法在《特定常規(guī)武器公約》的框架內(nèi)對(duì)發(fā)展、部署和使用任何新武器系統(tǒng)問責(zé)，包括使這類系統(tǒng)在人類指揮和控制的責(zé)任鏈中運(yùn)作?！盵7]中國(guó)政府表示“支持在《特定常規(guī)武器公約》框架下，繼續(xù)深入討論‘致命性自主武器系統(tǒng)’問題，并談判達(dá)成國(guó)際法律文書”。[8]從現(xiàn)存《特定常規(guī)武器公約》的框架和實(shí)施效果來看，將LAWS納入管轄存在一定積極意義并具有高度可行性。

就公約本身而言，其設(shè)立之目標(biāo)是制定新規(guī)則保護(hù)平民免受武裝沖突中武器使用的傷害（尤其是不斷迭代的新式武器），并且保護(hù)戰(zhàn)斗人員免受不必要的傷害。因此，公約現(xiàn)存的議定書中涵蓋了產(chǎn)生不可檢測(cè)碎片的武器、地雷餌雷、燃燒武器、激光致盲武器②其中，第五份議定書指向的是清理戰(zhàn)爭(zhēng)遺留的爆炸物。，這些武器的共同點(diǎn)在于反人道主義與過分殺傷，這點(diǎn)與限制LAWS的初衷是高度相似的。LAWS可能將殺傷范圍擴(kuò)大至平民，同時(shí)，如果缺少人的干預(yù)，“濫用火力”現(xiàn)象將會(huì)成為常態(tài)。通過新議定書的形式將LAWS納入《特定常規(guī)武器公約》，不但符合公約保護(hù)人道主義的目的，也便于直接借助現(xiàn)有框架凝聚國(guó)際社會(huì)共識(shí)。而從《特定常規(guī)武器公約》實(shí)施的經(jīng)驗(yàn)來看，盡管履約基本依靠成員國(guó)的自我約束，但各項(xiàng)議定書對(duì)特定武器的限制在普遍程度上受到了國(guó)際社會(huì)認(rèn)可，并形成了一定程度的國(guó)際規(guī)范，使得大部分國(guó)家在研發(fā)、部署和使用相關(guān)武器時(shí)都采取了較為謹(jǐn)慎的態(tài)度。因此，若能在《特定常規(guī)武器公約》下達(dá)成關(guān)于LAWS的新議定書，將有利于在法律層面上對(duì)LAWS的濫用進(jìn)行約束。

3.1.2 嚴(yán)格禁止戰(zhàn)略武器自主指揮與控制系統(tǒng)的研發(fā)與使用

與LAWS相比，將人工智能技術(shù)應(yīng)用于戰(zhàn)略武器的指揮與控制系統(tǒng)所帶來的是各國(guó)都難以承擔(dān)的“相互摧毀”的風(fēng)險(xiǎn)。蘇聯(lián)的“死手”系統(tǒng)可以看成是戰(zhàn)略武器自主指揮與控制系統(tǒng)的某種前身，但這類系統(tǒng)本質(zhì)上是冷戰(zhàn)核軍備競(jìng)賽高峰期的產(chǎn)物。在全球化的今天不應(yīng)具有任何存在的價(jià)值。在這一問題上，美國(guó)軍方已有相關(guān)考慮，現(xiàn)任美國(guó)參謀長(zhǎng)聯(lián)席會(huì)議副主席約翰·海頓（John Hyten）曾表示，一旦使用人工智能的計(jì)算機(jī)系統(tǒng)能夠全面運(yùn)轉(zhuǎn)，五角大樓應(yīng)考慮采取安全防范措施，確保人類而非機(jī)器掌控使用核武器的決策[9]。但是，即使是人類參與決策，人工干預(yù)也并不能完全避免類似系統(tǒng)出現(xiàn)事故性發(fā)射，而且難以防范外部網(wǎng)絡(luò)攻擊引發(fā)的系統(tǒng)失靈，因此應(yīng)全面禁止研發(fā)和部署戰(zhàn)略武器自主指揮與控制系統(tǒng)。目前，還沒有國(guó)際條約對(duì)這種系統(tǒng)進(jìn)行限制，相對(duì)可以借鑒的是《不擴(kuò)散核武器條約》《禁止生物武器公約》和《禁止化學(xué)武器公約》。這三個(gè)條約所限制的都是國(guó)際社會(huì)公認(rèn)應(yīng)避免使用的武器，并具有嚴(yán)格的法律約束力和道德禁忌規(guī)范。由于后果的不可預(yù)測(cè)性以及意外事故的災(zāi)難性，戰(zhàn)略武器的自主化性質(zhì)較核武器擴(kuò)散或持有、化學(xué)武器與生物武器的使用等行為可能更為惡劣。因此，在嚴(yán)格禁止相關(guān)系統(tǒng)的開發(fā)、部署和使用方面，大多數(shù)國(guó)家擁有共同的利益，所以有必要從國(guó)際法的層面對(duì)此進(jìn)行討論并形成有約束力的規(guī)則。在此基礎(chǔ)上，還需要將其從法律層面擴(kuò)展到道德禁忌層面，在國(guó)際社會(huì)形成拒絕使用此類武器的共識(shí)與規(guī)范，禁止賦予人工智能系統(tǒng)對(duì)戰(zhàn)略武器的指揮決策權(quán)限。

禁忌是促進(jìn)軍備控制發(fā)展的重要因素，盡管在某些時(shí)候，禁忌可能并沒有馬上形成國(guó)際規(guī)約，但是其仍能通過無形壓力對(duì)國(guó)家與非國(guó)家行為體的行為作出限制[10]。而禁忌的形成部分依賴于宣傳的作用，因此，在明確國(guó)際法對(duì)相關(guān)系統(tǒng)發(fā)展的限制的同時(shí)，國(guó)際社會(huì)也應(yīng)當(dāng)注意對(duì)其可能帶來的災(zāi)難性后果進(jìn)行充分的討論。

3.2 填補(bǔ)國(guó)際法空白領(lǐng)域，確立國(guó)際法新規(guī)則

相較于人工智能武器的使用，其擴(kuò)散問題是當(dāng)前國(guó)際法上的“灰色地帶”。這并不是說當(dāng)前國(guó)際法沒有對(duì)武器貿(mào)易進(jìn)行約束，只是人工智能武器的貿(mào)易與常規(guī)武器的貿(mào)易具有較大的差異，且這種差異暫時(shí)還未引起國(guó)際法層次的重視。

《武器貿(mào)易條約》目前的監(jiān)管對(duì)象是國(guó)際主流的八大類常規(guī)武器。從這個(gè)角度而言，人工智能武器的貿(mào)易本也應(yīng)在該條約的限制之下，但人工智能技術(shù)的軍民兩用性質(zhì)為其監(jiān)管帶來了障礙。其實(shí)，在《武器貿(mào)易條約》形成的過程之中，各國(guó)已就軍用技術(shù)轉(zhuǎn)讓問題進(jìn)行過激烈的辯論，即貿(mào)易的限制是否應(yīng)當(dāng)僅僅局限于武器本身，軍品彈藥、零部件和技術(shù)是否也應(yīng)當(dāng)一并被納入條約的保障范圍之內(nèi)[11]。但是當(dāng)時(shí)的主要反對(duì)意見認(rèn)為彈藥的數(shù)目巨大、技術(shù)難以被監(jiān)測(cè)或是界定，因此最終條約并沒有涵蓋這些部分。而人工智能技術(shù)的出現(xiàn)可以說成為國(guó)際法相關(guān)領(lǐng)域的盲區(qū)。人工智能技術(shù)可以作為民用技術(shù)進(jìn)行轉(zhuǎn)讓，但在實(shí)際運(yùn)用中被用于軍事目的。

針對(duì)這一問題，應(yīng)當(dāng)確立新的關(guān)于人工智能軍用技術(shù)轉(zhuǎn)讓的國(guó)際法規(guī)范。對(duì)于智能武器而言，算法和用于訓(xùn)練算法的數(shù)據(jù)集才是本體，而且其數(shù)據(jù)集在一定程度上能夠區(qū)分軍用和民用兩種用途。因此，鼓勵(lì)各國(guó)增強(qiáng)對(duì)智能武器貿(mào)易的透明度迫在眉睫。為了有效打擊智能武器的非法擴(kuò)散，應(yīng)在《武器貿(mào)易條約》框架下探索規(guī)范軍用級(jí)算法與數(shù)據(jù)集的標(biāo)準(zhǔn)，并借助條約的年度報(bào)告與信息交流機(jī)制提升締約國(guó)相關(guān)貿(mào)易活動(dòng)的透明度，進(jìn)而形成類似《塔林手冊(cè)》《圣雷莫國(guó)際海上武裝沖突法手冊(cè)》具有“軟法”性質(zhì)的國(guó)際文件或準(zhǔn)則，逐漸擴(kuò)大國(guó)際共識(shí)，推動(dòng)將智能武器納入《武器貿(mào)易條約》的管控范圍。這些工作應(yīng)該成為各國(guó)推動(dòng)《武器貿(mào)易條約》進(jìn)程努力的下一步重點(diǎn)方向。

綜合而言，規(guī)范人工智能的軍事應(yīng)用一方面需要各國(guó)進(jìn)行觀念上的革新，認(rèn)識(shí)到人工智能武器與傳統(tǒng)武器的區(qū)別，同時(shí)，這也需要各國(guó)進(jìn)一步加強(qiáng)合作，為相關(guān)算法與訓(xùn)練數(shù)據(jù)制定標(biāo)準(zhǔn)，形成廣泛的國(guó)際共識(shí)。

4 結(jié) 論

國(guó)際法是否能塑造國(guó)家的行為？對(duì)于很多現(xiàn)實(shí)主義國(guó)際關(guān)系學(xué)者而言，類似的問題似乎是偽命題。誠(chéng)然，在無政府體系下，大部分國(guó)際法因缺乏強(qiáng)制約束似乎不過是一紙空文。但是，國(guó)際法的作用往往是長(zhǎng)期而潛移默化的。規(guī)范的形成本身并不需要強(qiáng)制執(zhí)行。

當(dāng)前，技術(shù)發(fā)展往往先于觀念的革新。人工智能已被認(rèn)為是變革性的國(guó)家安全技術(shù)，可以與核武器、計(jì)算機(jī)等相提并論。這種新技術(shù)的出現(xiàn)以及軍事應(yīng)用既對(duì)現(xiàn)行的國(guó)際法帶來了多方面的沖擊，也使當(dāng)前國(guó)際法出現(xiàn)了更多的空白與模糊地帶。針對(duì)這些問題，本文認(rèn)為，可以從提高國(guó)際法門檻、確立新的國(guó)際法規(guī)范兩個(gè)層次進(jìn)一步完善該領(lǐng)域的國(guó)際法規(guī)則，并通過限制LAWS使用、禁止戰(zhàn)略武器自主使用以及加強(qiáng)對(duì)人工智能武器擴(kuò)散的管控三種具體措施緩解人工智能軍事應(yīng)用對(duì)國(guó)際法帶來的新挑戰(zhàn)。