人工智能全球安全治理領(lǐng)域的新進(jìn)展與焦點(diǎn)議題*

龍 坤

（國(guó)防大學(xué) 國(guó)家安全學(xué)院，北京 100091）

0 引言

2010年前后，以深度學(xué)習(xí)為代表的新一輪人工智能浪潮興起，一方面，給軍事變革帶來(lái)了重大機(jī)遇，有望助推各國(guó)軍事實(shí)力的躍升，重塑戰(zhàn)爭(zhēng)形態(tài)。另一方面，人工智能軍事應(yīng)用也給國(guó)際安全帶來(lái)了諸多挑戰(zhàn)[1]。特別是自2022年11月以來(lái)，以ChatGPT為代表的生成式人工智能迅猛發(fā)展，部分展現(xiàn)了在多領(lǐng)域達(dá)到乃至超越人類(lèi)智能的通用人工智能的潛在能力，掀起了人工智能研發(fā)應(yīng)用的新一波熱潮。在此背景下，國(guó)際各方越來(lái)越認(rèn)識(shí)到，在積極發(fā)展人工智能的同時(shí)，必須高度重視其可能帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)，加強(qiáng)前瞻性應(yīng)對(duì)和治理。人工智能全球安全治理就是對(duì)人工智能軍事應(yīng)用產(chǎn)生的全球安全威脅進(jìn)行全球?qū)用娴闹卫恚谌斯ぶ悄苘娛聭?yīng)用風(fēng)險(xiǎn)越來(lái)越凸顯的背景下，這一新興全球治理領(lǐng)域越來(lái)越受到國(guó)際社會(huì)的重視。本文將梳理各方在人工智能全球安全治理領(lǐng)域的新進(jìn)展，考察這一領(lǐng)域的焦點(diǎn)議題及主要分歧，為推進(jìn)這一領(lǐng)域的治理進(jìn)程和學(xué)界研究提供參考。

1 人工智能全球安全治理領(lǐng)域的新進(jìn)展

迄今為止，國(guó)際社會(huì)的多個(gè)行為體都參與到了人工智能全球安全治理這一進(jìn)程中來(lái)。具體而言，最新進(jìn)展主要表現(xiàn)在以下3個(gè)方面。

1.1 主權(quán)國(guó)家的代表性治理進(jìn)展

從國(guó)家行為體來(lái)看，針對(duì)人工智能的全球安全治理主要有以下最新代表性進(jìn)展。

中國(guó)高度重視人工智能全球安全治理，呼吁在人工智能治理領(lǐng)域踐行人類(lèi)命運(yùn)共同體理念。2021年9月，中國(guó)國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，提出了增進(jìn)人類(lèi)福祉、促進(jìn)公平公正等6項(xiàng)基本倫理要求和18項(xiàng)具體倫理要求，以實(shí)際行動(dòng)為推動(dòng)人工智能治理、構(gòu)建人類(lèi)命運(yùn)共同體作出表率[2]。同年12月，中國(guó)代表李松大使在《特定常規(guī)武器公約》第六次審議大會(huì)上提交的《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》中強(qiáng)調(diào)“智能向善”原則，呼吁“各國(guó)政府、國(guó)際組織、技術(shù)企業(yè)、科研院校、民間機(jī)構(gòu)和公民個(gè)人等各主體秉持共商共建共享的理念，協(xié)力共同促進(jìn)人工智能安全治理”[3]。2022年7月，在聯(lián)合國(guó)特定常規(guī)武器公約框架下針對(duì)致命性自主武器系統(tǒng)（Lethal Autonomous Weapons Systems，LAWS）的政府專(zhuān)家組第二期會(huì)議上，中國(guó)提交了關(guān)于致命性自主武器的工作文件[4]。2022年11月，中國(guó)政府在參加《特定常規(guī)武器公約》締約國(guó)會(huì)議時(shí)，進(jìn)一步提交了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，從監(jiān)管、研發(fā)、使用和國(guó)際合作4個(gè)方面提出了強(qiáng)化全球人工智能倫理治理的中國(guó)方案[5]。2023年2月21日，中國(guó)發(fā)布了《全球安全倡議概念文件》，其中特別強(qiáng)調(diào)，要“加強(qiáng)人工智能等新興科技領(lǐng)域國(guó)際安全治理，預(yù)防和管控潛在安全風(fēng)險(xiǎn)”[6]。

美國(guó)大力推動(dòng)所謂負(fù)責(zé)任人工智能軍事應(yīng)用戰(zhàn)略及“最佳實(shí)踐”（Best Practice）。2022年6月，美國(guó)國(guó)防部出臺(tái)《負(fù)責(zé)任人工智能戰(zhàn)略和實(shí)施路線圖》，提出了負(fù)責(zé)任人工智能戰(zhàn)略的6大原則，旨在建立士兵、指揮員和民眾對(duì)人工智能軍事應(yīng)用的信任[7]。2023年1月，美國(guó)國(guó)防部更新了《3000.09指令》（武器系統(tǒng)中的自主性）[8]。早在2012年，美軍就出臺(tái)了這一指令，強(qiáng)調(diào)“自主和半自主武器系統(tǒng)的設(shè)計(jì)應(yīng)允許指揮官和操作員對(duì)其進(jìn)行適當(dāng)?shù)娜祟?lèi)判斷”，以及“授權(quán)使用、指揮使用或操作自主和半自主武器系統(tǒng)的人必須嚴(yán)格地服從，并執(zhí)行戰(zhàn)爭(zhēng)法、適用的條約、武器系統(tǒng)安全規(guī)則和適用的交戰(zhàn)規(guī)則”[9]。這次更新對(duì)這一問(wèn)題進(jìn)行了進(jìn)一步細(xì)化明確，將前期的軍用人工智能倫理準(zhǔn)則嵌入。2022年，美國(guó)聯(lián)合澳大利亞、加拿大、日本、韓國(guó)、英國(guó)向聯(lián)合國(guó)提交了《致命性自主武器系統(tǒng)領(lǐng)域新興技術(shù)的原則和最佳實(shí)踐》文件，強(qiáng)調(diào)了國(guó)際人道法適用、國(guó)家責(zé)任等原則，并提出了所謂的人工智能軍事應(yīng)用“最佳實(shí)踐”[10]。2023年5月，美國(guó)聯(lián)合澳大利亞、加拿大、日本、波蘭、韓國(guó)、英國(guó)向聯(lián)合國(guó)提交了《自主武器系統(tǒng)條款草案——基于國(guó)際人道法的禁令和其他監(jiān)管措施》文件，強(qiáng)調(diào)禁止不符合國(guó)際人道法的自主武器系統(tǒng)，并提出了促進(jìn)自主武器系統(tǒng)使用時(shí)符合國(guó)際人道法原則的措施建議[11]。

除中美兩個(gè)人工智能大國(guó)外，其他一些國(guó)家也在人工智能全球安全治理領(lǐng)域采取了一些舉措。比較有代表性的有：2022年3月，阿根廷、哥斯達(dá)黎加、危地馬拉、哈薩克斯坦、尼日利亞、巴拿馬、菲律賓、塞拉利昂、巴勒斯坦、烏拉圭這10個(gè)發(fā)展中國(guó)家組成的代表團(tuán)提交了《實(shí)現(xiàn)自主武器系統(tǒng)新議定書(shū)的路線圖》，旗幟鮮明地呼吁針對(duì)LAWS問(wèn)題制定一項(xiàng)具有法律約束力的文書(shū)啟動(dòng)開(kāi)放式談判[12]。2022年7月，在聯(lián)合國(guó)特定常規(guī)武器公約框架下針對(duì)致命性自主武器系統(tǒng)的政府專(zhuān)家組本年度第二期會(huì)議上，法國(guó)、德國(guó)、芬蘭、荷蘭、挪威、西班牙和瑞典7個(gè)歐盟國(guó)家共同提交了一份立場(chǎng)文件，提出了針對(duì)LAWS的分級(jí)分類(lèi)管理辦法[13]。2023年5月，俄羅斯提交工作文件《俄軍在發(fā)展和使用具有人工智能技術(shù)的武器系統(tǒng)方面的活動(dòng)構(gòu)想》，提出了安全、透明、技術(shù)主權(quán)、責(zé)任與控制這五大原則[14]。2023年5月，阿根廷、厄瓜多爾、薩爾瓦多、哥倫比亞、哥斯達(dá)黎加、危地馬拉、哈薩克斯坦、尼日利亞、巴勒斯坦、巴拿馬、秘魯、菲律賓、塞拉利昂和烏拉圭這14個(gè)國(guó)家在第二期會(huì)議上向聯(lián)合國(guó)提交了《關(guān)于自主武器系統(tǒng)的第六附加議定書(shū)草案》，呼吁“禁止在任何情況下設(shè)計(jì)、開(kāi)發(fā)、生產(chǎn)、擁有、獲取、部署、轉(zhuǎn)讓或使用在選擇、瞄準(zhǔn)或使用武力等關(guān)鍵功能時(shí)無(wú)法在有意義的人類(lèi)控制下使用的自主武器系統(tǒng)，包括那些以無(wú)法預(yù)測(cè)、解釋、預(yù)期、理解或追蹤的方式運(yùn)作的武器系統(tǒng)”[15]。

1.2 國(guó)際（地區(qū)）組織的代表性治理進(jìn)展

聯(lián)合國(guó)《特定常規(guī)武器公約》機(jī)制聚焦自主武器議題的軍控磋商。當(dāng)前，致命性自主武器系統(tǒng)是人工智能全球安全治理最為核心的議題，而聯(lián)合國(guó)《特定常規(guī)武器公約》機(jī)制則是迄今為止針對(duì)LAWS議題最為官方的磋商平臺(tái)。自2013年以來(lái)，多國(guó)代表和全球公民社會(huì)代表圍繞LAWS議題在這一平臺(tái)上召開(kāi)了多次非正式和正式的會(huì)議[16]。這一機(jī)制經(jīng)過(guò)數(shù)年的磋商，達(dá)成的最為重要的成果是于2019年9月確立了關(guān)于LAWS的11項(xiàng)指導(dǎo)原則[17]。2022年和2023年，按照這一機(jī)制每年都召開(kāi)了兩期政府專(zhuān)家組會(huì)議，各方代表提交了相關(guān)工作文件，表達(dá)了對(duì)人工智能軍事應(yīng)用尤其是致命性自主武器系統(tǒng)的立場(chǎng)和觀點(diǎn)，并審議通過(guò)了年度報(bào)告[18]。

聯(lián)合國(guó)其他一些機(jī)構(gòu)也在人工智能全球安全治理問(wèn)題上取得了一些新的進(jìn)展。比較有代表性的是，2021年11月25日，聯(lián)合國(guó)教科文組織正式推出《人工智能倫理問(wèn)題建議書(shū)》，該建議書(shū)由教科文組織會(huì)員國(guó)集體通過(guò)，是關(guān)于人工智能主題的首份全球性規(guī)范框架，提出了規(guī)范人工智能發(fā)展應(yīng)遵循的原則及應(yīng)用領(lǐng)域[19]。此外，2022年10月，70個(gè)國(guó)家在聯(lián)合國(guó)大會(huì)第一委員會(huì)發(fā)布了關(guān)于致命性自主武器系統(tǒng)的聯(lián)合聲明（以?shī)W地利為代表）。聲明中強(qiáng)調(diào)，自主武器系統(tǒng)給人類(lèi)社會(huì)帶來(lái)了嚴(yán)重的人道主義、技術(shù)、安全、法律和倫理挑戰(zhàn)，要維持人類(lèi)對(duì)武力使用的控制和責(zé)任，有必要達(dá)成廣泛認(rèn)可的國(guó)際規(guī)則[20]。

近年來(lái)，除聯(lián)合國(guó)外，一些區(qū)域性政府間組織也發(fā)布了涉及人工智能倫理準(zhǔn)則的重要文件。2021年2月，非洲人權(quán)委員會(huì)通過(guò)了第一份關(guān)于人工智能的決議，強(qiáng)調(diào)要對(duì)自主武器系統(tǒng)保持“有意義的人類(lèi)控制”[21]。非常值得注意的是，2023年2月15日—16日，荷蘭與韓國(guó)共同主辦了“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”峰會(huì)，中國(guó)、美國(guó)等80多個(gè)主權(quán)國(guó)家，以及聯(lián)合國(guó)等國(guó)際組織應(yīng)邀參加，來(lái)自政府、智庫(kù)、企業(yè)、科研機(jī)構(gòu)等1700余人與會(huì)。此次峰會(huì)發(fā)布了成果文件《軍事領(lǐng)域負(fù)責(zé)任使用人工智能行動(dòng)倡議》（REAIM Call to Action），呼吁國(guó)際社會(huì)應(yīng)就軍事領(lǐng)域人工智能應(yīng)用所帶來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)加強(qiáng)多利益攸關(guān)方的討論合作。此外，2023年2月25日，組成拉美和加勒比國(guó)家共同體的33個(gè)國(guó)家在哥斯達(dá)黎加召開(kāi)了“人工智能對(duì)社會(huì)和人道主義的影響”會(huì)議，并發(fā)表了一份共同宣言，呼吁“就自主武器系統(tǒng)問(wèn)題緊急談判一項(xiàng)具有法律約束力的國(guó)際文書(shū)”。

1.3 技術(shù)社群和非政府組織的代表性治理倡議

在人工智能全球安全治理領(lǐng)域，非政府組織和技術(shù)社群的積極性和活躍度非常高，成為重要的推動(dòng)力量。其中，非政府組織主要以未來(lái)生命研究所（Future of Life Institute）、禁止殺手機(jī)器人運(yùn)動(dòng)（Campaign to Stop Killer Robots）、人工智能安全中心等為代表，技術(shù)社群則包括埃隆·馬斯克、戴密斯·哈薩比斯等人工智能領(lǐng)域的一些知名專(zhuān)家。近年來(lái)，具有代表性的倡議如下：2018年6月，在瑞典召開(kāi)的國(guó)際人工智能聯(lián)合會(huì)議上，埃隆·馬斯克、戴密斯·哈薩比斯等超過(guò)2000名人工智能專(zhuān)家和企業(yè)家共同簽署《致命性自主武器宣言》（Lethal Autonomous Weapons Pledge），堅(jiān)決反對(duì)這類(lèi)武器的研發(fā)、生產(chǎn)和使用，并呼吁各國(guó)政府強(qiáng)化對(duì)這類(lèi)武器的監(jiān)管。此外，在ChatGPT等人工智能大模型迅速發(fā)展應(yīng)用的背景下，2023年3月22日，未來(lái)生命研究所向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。截至5月14日，已有包括馬斯克在內(nèi)的超過(guò)兩萬(wàn)名科技專(zhuān)家、企業(yè)家及其他人士簽署了這一公開(kāi)信[22]。2023年5月30日，非政府國(guó)際組織“人工智能安全中心”（Center for AI Safety）發(fā)布公開(kāi)信，強(qiáng)調(diào)“減輕人工智能帶來(lái)的人類(lèi)滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭(zhēng)等其他影響社會(huì)的大規(guī)模風(fēng)險(xiǎn)一同成為全球優(yōu)先事項(xiàng)”，呼吁國(guó)際社會(huì)認(rèn)真對(duì)待人工智能帶來(lái)的一系列重要且緊迫的風(fēng)險(xiǎn)。該公開(kāi)信已獲得各領(lǐng)域教授和學(xué)者總計(jì)超350人的簽署[23]。這意味著諸多世界知名專(zhuān)家已經(jīng)將人工智能給人類(lèi)帶來(lái)的生存威脅確定為全球亟須應(yīng)對(duì)的優(yōu)先事項(xiàng)。

2 人工智能全球安全治理領(lǐng)域的焦點(diǎn)議題及分歧

當(dāng)前國(guó)際社會(huì)圍繞人工智能全球安全治理這一新興的全球科技治理領(lǐng)域，主要焦點(diǎn)在于對(duì)自主武器系統(tǒng)的規(guī)制，具體的議題包括但不限于以下5個(gè)方面。

2.1 自主武器相關(guān)定義和特征

對(duì)于自主武器、致命性自主武器、人工智能賦能的武器系統(tǒng)、完全自主武器等概念界定和基本特征，目前國(guó)際上還未形成一致的看法。

俄羅斯認(rèn)為，完全自主武器系統(tǒng)是不需要人類(lèi)操作者參與的，用于執(zhí)行作戰(zhàn)和作戰(zhàn)支援任務(wù)的一種無(wú)人技術(shù)手段（而非彈藥）[24]。自主武器系統(tǒng)的定義不應(yīng)限制技術(shù)進(jìn)步和不利于民用機(jī)器人、人工智能的研究，而應(yīng)當(dāng)符合以下要求：包括對(duì)自主武器系統(tǒng)武器種類(lèi)、生產(chǎn)和試驗(yàn)條件及使用程序的說(shuō)明；不局限于目前對(duì)LAWS的理解，也要考慮未來(lái)的發(fā)展前景；在包括科學(xué)家、工程師、技術(shù)人員、軍事人員、律師和倫理學(xué)家在內(nèi)的專(zhuān)家群體范圍內(nèi)尋求普遍認(rèn)同[25]。美國(guó)認(rèn)為，自主武器系統(tǒng)是指一旦被激活，就可以識(shí)別、選擇并使用致命力量打擊目標(biāo)，而無(wú)須操作員進(jìn)一步干預(yù)的武器系統(tǒng)[8]。美國(guó)傾向于將人工智能賦能武器和人工智能武器進(jìn)行區(qū)分，認(rèn)為前者會(huì)使人類(lèi)指揮的戰(zhàn)爭(zhēng)更精確、致命和有效，而后者則可以脫離人類(lèi)控制做出致命的決定，強(qiáng)調(diào)要限制的是后一類(lèi)武器，而非前者。阿根廷等13個(gè)發(fā)展中國(guó)家組成的集團(tuán)認(rèn)為，自主武器系統(tǒng)是指其關(guān)鍵功能中具有自主性的武器系統(tǒng)，包括在沒(méi)有人為干預(yù)的情況下使用武力選擇、瞄準(zhǔn)和打擊目標(biāo)。這意味著根據(jù)傳感器數(shù)據(jù)處理而非直接根據(jù)人類(lèi)指令來(lái)選擇目標(biāo)和進(jìn)行武力打擊。中國(guó)則認(rèn)為，致命性自主武器系統(tǒng)應(yīng)滿(mǎn)足但不限于致命性、全自主性、無(wú)法終止性、濫殺性、進(jìn)化性這5個(gè)基本特征[4]。

總的來(lái)看，國(guó)際社會(huì)對(duì)于自主武器、自動(dòng)武器、自動(dòng)化武器的區(qū)分還存在明顯的模糊性和分歧，對(duì)于致命性自主武器系統(tǒng)應(yīng)當(dāng)包括哪些特點(diǎn)也爭(zhēng)論不休，各方?jīng)]有在人工智能軍事應(yīng)用的概念特征方面形成一致的認(rèn)識(shí)，這對(duì)于如何對(duì)相關(guān)武器系統(tǒng)進(jìn)行限制等治理行動(dòng)造成了較大的阻礙。

同時(shí)，在是否需要制定自主武器相關(guān)的工作定義這一問(wèn)題上，各方也存在較大分歧。一些國(guó)家認(rèn)為，制定具有廣泛共識(shí)的工作定義是有效治理的必要前提。例如，俄羅斯強(qiáng)調(diào)，明確定義是各代表團(tuán)開(kāi)始工作的起點(diǎn)，各國(guó)應(yīng)把重點(diǎn)放在確定自主武器系統(tǒng)的定義和特征上，然后再開(kāi)始考慮規(guī)制措施。土耳其表示，在沒(méi)有定義的情況下制定具有法律約束力的文書(shū)將難以實(shí)現(xiàn)。但也有一部分國(guó)家認(rèn)為，不需要制定廣泛認(rèn)可的工作定義，也能推進(jìn)這一領(lǐng)域的相關(guān)工作。愛(ài)爾蘭就表示，關(guān)于自主武器系統(tǒng)缺乏全面的談判定義不應(yīng)被視為進(jìn)展的障礙，例如“恐怖主義”和“核武器”就沒(méi)有國(guó)際公認(rèn)的定義，但相關(guān)的國(guó)際合作仍可以照常進(jìn)行。

2.2 自主武器系統(tǒng)的具體規(guī)制方案

目前，國(guó)際社會(huì)圍繞自主武器系統(tǒng)具體規(guī)制方案這一議題，主要呈現(xiàn)出以下3類(lèi)主張。

一是建立新的具有法律約束力的國(guó)際文書(shū)（Legally Binding Instrument，LBI），禁止和限制特定類(lèi)別自主武器系統(tǒng)的使用。如效仿《特定常規(guī)武器公約》對(duì)不可探測(cè)碎片、燃燒武器、集束彈藥、激光致盲武器、戰(zhàn)爭(zhēng)遺留物的規(guī)制，建立第六附加議定書(shū)。持這類(lèi)觀點(diǎn)的主要是以阿根廷、菲律賓等為代表的人工智能技術(shù)和軍事應(yīng)用程度較低的廣大發(fā)展中國(guó)家，以及以國(guó)際紅十字委員會(huì)、“禁止殺手機(jī)器人運(yùn)動(dòng)”組織為代表的非政府組織。目前，阿根廷、厄瓜多爾、哥斯達(dá)黎加、尼日利亞、巴拿馬、菲律賓、塞拉利昂和烏拉圭已經(jīng)聯(lián)合向聯(lián)合國(guó)提交《特定常規(guī)武器公約》第六附加議定書(shū)草案[26]。據(jù)統(tǒng)計(jì)，截至2023年5月，已有90個(gè)國(guó)家贊同展開(kāi)對(duì)制定一項(xiàng)關(guān)于LAWS問(wèn)題的具有法律約束力的國(guó)際文書(shū)進(jìn)行談判[27]。

二是通過(guò)一項(xiàng)不具有法律約束力的行為準(zhǔn)則或政治聲明，制定相關(guān)原則、現(xiàn)有法律適用的解釋等“軟法”，對(duì)自主武器系統(tǒng)的研發(fā)和使用進(jìn)行規(guī)范。持這一觀點(diǎn)的主要有美國(guó)、俄羅斯、以色列、印度、土耳其等人工智能軍事應(yīng)用走在前列的國(guó)家。美國(guó)堅(jiān)決不支持談判一項(xiàng)關(guān)于自主武器系統(tǒng)的具有法律約束力的文書(shū)。在2021年《特定常規(guī)武器公約》致命性自主武器系統(tǒng)問(wèn)題政府專(zhuān)家組第二期會(huì)議上，美國(guó)就旗幟鮮明地表示，“現(xiàn)有的國(guó)際人道主義法及國(guó)家層面執(zhí)行國(guó)際人道主義法的有效措施，足以應(yīng)對(duì)致命性自主武器系統(tǒng)帶來(lái)的挑戰(zhàn)[28]。”

三是雙層方案（Two-Tied Approach），即分兩個(gè)層級(jí)對(duì)自主武器系統(tǒng)進(jìn)行有區(qū)別的管制，禁止完全脫離人類(lèi)控制和負(fù)責(zé)任的指揮鏈運(yùn)作的完全自主致命武器系統(tǒng)，管理其他具有自主性的致命武器系統(tǒng)。這一主張的代表國(guó)家是法國(guó)、德國(guó)、芬蘭、荷蘭、挪威、西班牙和瑞典7個(gè)歐盟國(guó)家。2022年3月，在向聯(lián)合國(guó)提交的立場(chǎng)文件中，這7個(gè)國(guó)家共同提出了針對(duì)自主武器系統(tǒng)的分類(lèi)管理辦法，即宣布在人類(lèi)控制和負(fù)責(zé)任的指揮系統(tǒng)之外運(yùn)作的全自主致命武器系統(tǒng)為非法，監(jiān)管其他具有自主性的致命武器系統(tǒng)，以確保遵守國(guó)際人道法的規(guī)則和原則，保持人的責(zé)任和問(wèn)責(zé)制，確保適當(dāng)?shù)娜祟?lèi)控制，并實(shí)施風(fēng)險(xiǎn)緩解措施[13]。目前，已有包括美國(guó)、新西蘭、阿根廷、澳大利亞等在內(nèi)的相當(dāng)一部分國(guó)家表示支持采取雙層方案。這表明，國(guó)際社會(huì)在針對(duì)自主武器系統(tǒng)的具體規(guī)制措施方面正在朝著一定的共識(shí)方向前進(jìn)。

2.3 國(guó)際人道法對(duì)自主武器系統(tǒng)的適用

在國(guó)際人道法適用這一問(wèn)題上，各方普遍認(rèn)為國(guó)際人道主義法繼續(xù)全面適用于所有武器系統(tǒng)，包括致命性自主武器系統(tǒng)的潛在發(fā)展和使用；各國(guó)負(fù)責(zé)計(jì)劃和進(jìn)行攻擊的人必須遵守國(guó)際人道主義法；基于新興技術(shù)的武器系統(tǒng)的潛在使用必須按照適用的國(guó)際法來(lái)進(jìn)行，通過(guò)指揮控制鏈來(lái)實(shí)施。平民和戰(zhàn)斗人員在任何時(shí)候都應(yīng)受到來(lái)自既定習(xí)慣、人道原則和公眾良知要求的國(guó)際法原則的保護(hù)和管轄。

但是，在是否需要制定新國(guó)際法來(lái)規(guī)制這類(lèi)武器系統(tǒng)的問(wèn)題上，國(guó)際社會(huì)存在較大的歧見(jiàn)。美國(guó)、俄羅斯等國(guó)家認(rèn)為，包括區(qū)分、比例和預(yù)防措施原則在內(nèi)的現(xiàn)有國(guó)際人道法，已經(jīng)為管制自主武器系統(tǒng)提供了一個(gè)全面的框架，不需要制定新的法律規(guī)范。2021年12月，在《特定常規(guī)武器公約》第六次審議大會(huì)上，俄羅斯明確反對(duì)制定任何關(guān)于自主武器系統(tǒng)的具有法律約束力的國(guó)際文書(shū)，也不同意暫停開(kāi)發(fā)和使用這類(lèi)系統(tǒng)及相關(guān)技術(shù)，因?yàn)檫@將會(huì)對(duì)民用領(lǐng)域的高科技發(fā)展產(chǎn)生負(fù)面影響，也會(huì)影響社會(huì)安全目標(biāo)的實(shí)現(xiàn)。與此針?shù)h相對(duì)的是，以紅十字國(guó)際委員會(huì)等為代表的行為體強(qiáng)調(diào)，現(xiàn)有規(guī)則并不能完全解決LAWS所引發(fā)的人道、法律和道德關(guān)切，需要具有法律約束力的新規(guī)則來(lái)闡明國(guó)際人道法如何適用于LAWS的規(guī)制。新規(guī)則應(yīng)規(guī)定對(duì)不可預(yù)測(cè)的自主武器系統(tǒng)予以明令禁止；基于根本道德關(guān)切，禁止使用殺傷人員的自主武器；對(duì)于未被禁止的LAWS，需要對(duì)其目標(biāo)類(lèi)型、使用時(shí)長(zhǎng)、地理范圍和規(guī)模、使用場(chǎng)景、人機(jī)互動(dòng)的設(shè)計(jì)和使用進(jìn)行限制[29]。

2.4 有意義的人類(lèi)控制

有意義的人類(lèi)控制（Meaningful Human Control，MHL）是指維護(hù)人類(lèi)對(duì)于武力使用的判斷和干預(yù)等能動(dòng)性，包括：重新定義或修改武器系統(tǒng)的目標(biāo)或任務(wù)或使其適應(yīng)環(huán)境的能力；根據(jù)需要停用、中止、終止或中斷其操作和使用；限制武器系統(tǒng)使用范圍和規(guī)模的能力；能夠理解和解釋武器系統(tǒng)的功能，以便回顧性地提供解釋[15]。人類(lèi)判斷即人類(lèi)而非機(jī)器根據(jù)他們對(duì)當(dāng)時(shí)所掌握信息的評(píng)估，真誠(chéng)地作出特定判斷。目前，大部分國(guó)家支持對(duì)自主武器系統(tǒng)保持有意義的人類(lèi)控制這一提法。例如，德國(guó)和土耳其表示，有意義的人類(lèi)控制框架可提供一個(gè)重要基礎(chǔ)，在此基礎(chǔ)上可以達(dá)成共識(shí)。墨西哥表示，有意義的人類(lèi)控制是現(xiàn)有國(guó)際人道法和國(guó)際人權(quán)法的隱含條件，必須在武器系統(tǒng)全生命周期中進(jìn)行有意義的人類(lèi)控制[30]。阿根廷也強(qiáng)調(diào)，有意義的人類(lèi)控制至關(guān)重要，應(yīng)成為確定是否遵守國(guó)際人道法及倫理原則的關(guān)鍵標(biāo)準(zhǔn)。如果要按照國(guó)際人道法使用自主武器系統(tǒng)，就必須保證由有意義的人類(lèi)控制。土耳其和巴勒斯坦均表示，不符合有意義的人類(lèi)控制的自主武器系統(tǒng)與國(guó)際人道法相悖，應(yīng)當(dāng)被嚴(yán)格禁止。

然而，美國(guó)和俄羅斯反對(duì)有意義的人類(lèi)控制這一概念。美國(guó)宣稱(chēng)，人類(lèi)控制本身不是一項(xiàng)法律要求，而只是幫助確保遵守國(guó)際人道法的一種手段。國(guó)際人道法并未將“人類(lèi)控制”一詞作為對(duì)武器系統(tǒng)的要求，幾乎所有的武器和彈藥都不受人類(lèi)控制。自主性并不會(huì)降低對(duì)武力使用的控制，反而會(huì)加強(qiáng)對(duì)武力的控制，從而有助于提升對(duì)平民的保護(hù)。美國(guó)不同意制定“新的人類(lèi)控制標(biāo)準(zhǔn)”，認(rèn)為有意義的人類(lèi)控制這一概念正在導(dǎo)致各方的分裂，而避免這種情況的辦法是制定一項(xiàng)澄清國(guó)際人道法如何適用于自主武器系統(tǒng)的國(guó)際文書(shū)[31]。俄羅斯也對(duì)有意義的人類(lèi)控制這一概念表示反對(duì)，并表示堅(jiān)持這一提法可能會(huì)導(dǎo)致意見(jiàn)兩極分化，也難以讓各國(guó)找到合適的定義。挪威等部分國(guó)家秉持折中的看法，認(rèn)為如果各國(guó)不能在使用有意義的人類(lèi)控制這個(gè)術(shù)語(yǔ)上達(dá)成一致，可以聚焦有意義的人類(lèi)控制所包含的基本要素，比如可預(yù)測(cè)性、可理解性、可解釋性、可靠性等方面[30]。

2.5 風(fēng)險(xiǎn)緩解與建立信任措施

人工智能軍事應(yīng)用會(huì)帶來(lái)哪些風(fēng)險(xiǎn)？如何緩解這些風(fēng)險(xiǎn)？這也是當(dāng)前人工智能全球安全治理領(lǐng)域的關(guān)鍵議題之一，國(guó)際社會(huì)對(duì)此高度關(guān)注。

目前，治理各方對(duì)管控人工智能軍事應(yīng)用的各類(lèi)風(fēng)險(xiǎn)達(dá)成了原則性的共識(shí)。聯(lián)合國(guó)《指導(dǎo)原則》第六條明確，在發(fā)展或取得基于致命性自主武器系統(tǒng)領(lǐng)域新技術(shù)的新武器系統(tǒng)時(shí)，應(yīng)考慮到實(shí)體安保、適當(dāng)?shù)姆菍?shí)體保障（包括針對(duì)黑客攻擊或數(shù)據(jù)欺騙等網(wǎng)絡(luò)安全問(wèn)題）、落入恐怖主義團(tuán)體手中的風(fēng)險(xiǎn)和擴(kuò)散的風(fēng)險(xiǎn)；第七條進(jìn)一步指出，風(fēng)險(xiǎn)評(píng)估和緩解措施應(yīng)成為任何武器系統(tǒng)新技術(shù)的設(shè)計(jì)、發(fā)展、測(cè)試和部署周期的組成部分[17]。此外，各方還意識(shí)到，必須考慮到平民傷亡等風(fēng)險(xiǎn)，以及有助于減少各類(lèi)風(fēng)險(xiǎn)的預(yù)防措施。應(yīng)酌情考慮其他類(lèi)型的風(fēng)險(xiǎn)，包括但不限于意外交戰(zhàn)的風(fēng)險(xiǎn)、系統(tǒng)失控的風(fēng)險(xiǎn)、擴(kuò)散的風(fēng)險(xiǎn)及恐怖組織獲取的風(fēng)險(xiǎn)。針對(duì)這些風(fēng)險(xiǎn)的緩解措施可包括：對(duì)系統(tǒng)進(jìn)行嚴(yán)格的測(cè)試和評(píng)估，法律審查，易于理解的人機(jī)界面和控制，培訓(xùn)專(zhuān)業(yè)人員，建立理論和程序，并通過(guò)適當(dāng)?shù)慕粦?zhàn)規(guī)則限制武器的使用；在可行和適當(dāng)?shù)那闆r下，必須制定涵蓋所有可能或預(yù)期使用情況的可驗(yàn)證性和認(rèn)證程序，應(yīng)分享應(yīng)用這些程序的經(jīng)驗(yàn)；在可行和適當(dāng)?shù)那闆r下，必須將跨學(xué)科的觀點(diǎn)納入研究和開(kāi)發(fā)，包括通過(guò)獨(dú)立的倫理審查，同時(shí)考慮到國(guó)家安全因素和對(duì)商業(yè)專(zhuān)有信息的限制。

關(guān)于這一議題的主要分歧在于，風(fēng)險(xiǎn)緩解措施和建立信任措施能否取代具有法律約束力的國(guó)際文書(shū)。英美等國(guó)家認(rèn)為，這類(lèi)措施足以有效治理人工智能軍事應(yīng)用帶來(lái)的風(fēng)險(xiǎn)，無(wú)須額外制定具有法律約束力的國(guó)際條約。而一些國(guó)家則認(rèn)為這類(lèi)措施并不能取代具有法律約束力的國(guó)際條約。例如，菲律賓表示，避免使用與武力相關(guān)的人工智能風(fēng)險(xiǎn)的最佳方法仍然是禁止使用超出人類(lèi)控制范圍、不具有可理解性、可靠性等的武器。風(fēng)險(xiǎn)緩解措施不應(yīng)僅限于國(guó)內(nèi)層面，而應(yīng)拓展到多邊商定框架。古巴也強(qiáng)調(diào)，具有法律約束力的國(guó)際文書(shū)才是避免和消除部署此類(lèi)系統(tǒng)所帶來(lái)風(fēng)險(xiǎn)的最有效措施。

3 結(jié)語(yǔ)

人工智能全球安全治理是全人類(lèi)面臨的共同課題，從維護(hù)人類(lèi)共同安全和尊嚴(yán)出發(fā)，有效管控人工智能軍事應(yīng)用引發(fā)的全球安全風(fēng)險(xiǎn)，是各國(guó)安全發(fā)展的必要條件和義不容辭的責(zé)任。當(dāng)前，圍繞人工智能全球安全治理這一領(lǐng)域，一些代表性的主權(quán)國(guó)家、國(guó)際組織、技術(shù)社群和非政府組織等行為體均認(rèn)識(shí)到了人工智能軍事應(yīng)用的風(fēng)險(xiǎn)和治理的必要性，表達(dá)了自身的立場(chǎng)觀點(diǎn)，并展開(kāi)了一系列治理行動(dòng)，這是積極的方面。但與此同時(shí)，各方在概念特征、治理路徑、國(guó)際法適用、人類(lèi)控制等具體的議題中，仍存在顯著分歧，人工智能全球安全治理仍面臨主體間信任赤字、治理平臺(tái)碎片化、治理進(jìn)程難以取得實(shí)質(zhì)進(jìn)展等諸多挑戰(zhàn)[32]。不難預(yù)見(jiàn)，隨著生成式人工智能的快速發(fā)展與應(yīng)用，以及越來(lái)越多的智能無(wú)人武器在俄烏沖突等局部戰(zhàn)爭(zhēng)中的廣泛使用，人工智能全球安全治理的重要性將會(huì)愈加凸顯。在此背景下，各方要著眼全人類(lèi)共同利益，秉持人類(lèi)命運(yùn)共同體理念，踐行全球安全倡議，攜手應(yīng)對(duì)人工智能軍事應(yīng)用帶來(lái)的全球安全威脅和挑戰(zhàn)，以聯(lián)合國(guó)平臺(tái)為核心，以其他機(jī)制為補(bǔ)充，求同存異，探索具有廣泛共識(shí)的人工智能全球安全治理方案。中國(guó)作為人工智能發(fā)展大國(guó)，需把握好負(fù)責(zé)任推進(jìn)人工智能軍事應(yīng)用與推動(dòng)人工智能全球安全治理之間的合理平衡，倡導(dǎo)以人為本、智能向善、多元參與、開(kāi)放對(duì)話(huà)、共建共享、合作共贏，進(jìn)一步參與和引領(lǐng)人工智能全球安全治理進(jìn)程，在這一領(lǐng)域推動(dòng)構(gòu)建人類(lèi)命運(yùn)共同體，為建設(shè)持久和平、普遍安全的世界做出積極貢獻(xiàn)。