軍用人工智能國際安全治理亟待加強(qiáng)

朱啟超 王文佳

人工智能的廣泛應(yīng)用正深刻或”變?nèi)祟惿鐣?huì)生產(chǎn)生活方式，在軍爭領(lǐng)域的應(yīng)用也不斷改變戰(zhàn)爭的樣貌，但與此同時(shí)引起了人們對(duì)無人化自主武器可能被濫用、濫殺的警惕與擔(dān)憂。日前，由荷蘭和韓國共同主辦的“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”峰會(huì)在海牙閉幕，包括美國、中國在內(nèi)的60多個(gè)國家在會(huì)上簽署了一份聯(lián)合行動(dòng)倡議書，呼吁各國政府、產(chǎn)業(yè)界和智庫等所有利益攸關(guān)方行動(dòng)起來，以共同應(yīng)對(duì)人工智能在軍事領(lǐng)域應(yīng)用時(shí)可能造成的“意外后果”和責(zé)任追溯難題。這次峰會(huì)和這份“行動(dòng)呼吁”被認(rèn)為邁出了確立在戰(zhàn)場上應(yīng)用人工智能國際準(zhǔn)則的重要一步，引起世界廣泛關(guān)注。

其實(shí)，針對(duì)人工智能軍事應(yīng)用安全治理和國際規(guī)范制定相關(guān)話題的討論多年前就已展開，既有聯(lián)合國層面的定期磋商，也有國家層面的各自努力，還有產(chǎn)業(yè)界和智庫層面的對(duì)話交流。2019年9月，聯(lián)合國《特定常規(guī)武器公約》確立了致命性自主武器系統(tǒng)運(yùn)用的11項(xiàng)指導(dǎo)原則。聯(lián)合國教科文組織2021年正式發(fā)布了《人工智能倫理問題建議書》。除聯(lián)合國外，一些區(qū)域性政府間組織也發(fā)布了涉及人工智能倫理準(zhǔn)則的文件。比如，2019年4月，歐盟委員會(huì)發(fā)布《可信賴的人工智能倫理準(zhǔn)則》。

在國家層面，作為世界上科技最發(fā)達(dá)、軍力最強(qiáng)大的國家，美國2012年以來先后出臺(tái)自主武器安全規(guī)范和軍用人工智能倫理準(zhǔn)則。比如，美國國防部陸續(xù)發(fā)布了《國防部指令3000.09自主性武器系統(tǒng)》《負(fù)責(zé)任的人工智能準(zhǔn)則》　《負(fù)責(zé)任的人工智能戰(zhàn)略與實(shí)施路徑》等政策文件。中國政府也高度重視人工智能軍事應(yīng)用國際治理和規(guī)范制定，科技部指導(dǎo)成立了國家新一代人工智能治理專業(yè)委員會(huì)，2017年以來陸續(xù)發(fā)布了《新一代人工智能治理原則一發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》等報(bào)告文件。2021年12月13日，中國特命全權(quán)裁軍事務(wù)大使李松向聯(lián)合國《特定常規(guī)武器公約》第六次審議大會(huì)提交了《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》。2022年11月16日，李松大使又向聯(lián)合國《特定常規(guī)武器公約》締約國大會(huì)提交了《中國關(guān)于加強(qiáng)人工智能倫理治理的立場文件》。在這些文件中，中國積極倡導(dǎo)人工智能“倫理先行”“以人為本”“智能向善”和“多邊協(xié)商”等治理原則。

在智庫交流層面，中國軍控與裁軍協(xié)會(huì)、清華大學(xué)戰(zhàn)略與安全研究中心等機(jī)構(gòu)，積極組織中國專家學(xué)者參與人工智能國際安全治理二軌對(duì)話，與美國、歐盟、印度、印度尼西亞、馬來西亞等國智庫之間建立了機(jī)制性對(duì)話研討平臺(tái)，增進(jìn)人工智能負(fù)責(zé)任運(yùn)用的概念理解、規(guī)范制定和學(xué)術(shù)共識(shí)。

此次海牙峰會(huì)發(fā)表的“行動(dòng)呼吁”，再次強(qiáng)調(diào)了負(fù)責(zé)任開發(fā)和使用人工智能軍事系統(tǒng)的重要性，強(qiáng)化了國際社會(huì)已有的人工智能軍事應(yīng)用國際規(guī)范基本共識(shí)。但我們需清醒地認(rèn)識(shí)到，這是一項(xiàng)不具有法律約束力的溫和“行動(dòng)呼吁”，在參加會(huì)議的80多個(gè)國家的代表中只有60多個(gè)國家簽署了“行動(dòng)呼吁”。比如，作為人工智能技術(shù)強(qiáng)國，以色列代表就沒有在“行動(dòng)呼吁”倡議書上簽字。可見，在人工智能軍事應(yīng)用領(lǐng)域，要制定一項(xiàng)類似于限制使用化學(xué)武器和生物武器的聯(lián)合國軍控協(xié)議，還有很長的路要走。

首先，國際社會(huì)對(duì)致命性自主武器系統(tǒng)府認(rèn)識(shí)存在較大分歧。以“不結(jié)盟運(yùn)動(dòng)”和非洲聯(lián)盟為代表的廣大發(fā)展中國家和非政府組織強(qiáng)烈要求限制乃至禁止致命性自主武器系統(tǒng)，主張就此達(dá)成一項(xiàng)具有法律約束力的國際文書；以歐盟為代表的部分發(fā)達(dá)國家強(qiáng)調(diào)人工智能的軍民兩用性，主張達(dá)成一項(xiàng)不真有法律約束力的政治聲明；俄羅斯和美國則強(qiáng)力阻礙致命性自主武器系統(tǒng)軍控，尤其是美國，一再強(qiáng)調(diào)人工智能軍事應(yīng)用對(duì)于人道主義有顯著的改善作用，堅(jiān)決反對(duì)制定禁止致命性自主武器系統(tǒng)的國際條約。

其次，地緣政治對(duì)抗嚴(yán)重影響各國團(tuán)結(jié)合作。當(dāng)前，大國博弈與對(duì)抗達(dá)到自冷戰(zhàn)結(jié)束以來的新高，少數(shù)國家被排除在國際合作框架與體系之外，缺乏全面參與人工智能軍事應(yīng)用國際規(guī)范討論與制定的渠道。比如，由于俄烏沖突，俄羅斯未被邀請(qǐng)參加此次人工智能負(fù)責(zé)任運(yùn)用的峰會(huì)，沒有機(jī)會(huì)簽署此份“行動(dòng)呼吁”。

最后，人為制造科技壁壘限制了人工智能技術(shù)發(fā)展與合作。人工智能是人類共同的智慧結(jié)晶，應(yīng)該造福全人類。同時(shí)，因人工智能技術(shù)的自主成長性、不可解釋性造成的潛在使用風(fēng)險(xiǎn)，需要全人類合作攻關(guān)。美國等個(gè)別國家雖然口頭上高調(diào)宣稱支持人工智能負(fù)責(zé)在運(yùn)用的國際合作，但又把人工智能技術(shù)當(dāng)作地緣政治博弈中維護(hù)自身霸權(quán)的工具，構(gòu)建排他性小圈子小集團(tuán)，在與人工智能技術(shù)發(fā)展應(yīng)用緊密相關(guān)的芯片、5G通信等領(lǐng)域人為制造科技壁壘，惡意阻撓人工智能技術(shù)國際交流,成為負(fù)責(zé)任使用人工智能國際合作砧絆腳石。

從歷史上看，具有顛覆性潛力的新興技術(shù)往往首先用于軍事，因而人工智能軍事應(yīng)用不可避免。盡管目前要達(dá)成一項(xiàng)關(guān)于人工智能軍事應(yīng)用的國際條約仍困難重重，但各國已經(jīng)越來越意識(shí)到人工智能軍事應(yīng)用的同時(shí)，必須考慮其所帶來的法律、倫理和道德風(fēng)險(xiǎn)的應(yīng)對(duì)問題。

展望未來，要進(jìn)一步推動(dòng)人工智能軍事應(yīng)用的國際規(guī)范制定，仍需要各國拿出真誠意愿，積極磋商合作。在這個(gè)問題上，中美俄等大國需要加強(qiáng)溝'通對(duì)話，探索建立相關(guān)信任措施，避免人工智能誤用濫用引發(fā)的戰(zhàn)爭沖突升級(jí)和人道主義災(zāi)難，推動(dòng)構(gòu)建人工智能軍事應(yīng)用領(lǐng)域的人類命運(yùn)共同體，與國際社會(huì)一道共同維護(hù)全球戰(zhàn)略穩(wěn)定和人類和平福祉。（作者分別是國防科技大學(xué)國防科技戰(zhàn)略研究智庫副主任、研究員和助理研究員）