防止人工智能在軍事上的濫用（觀察家）

仇昊 梁逵

隨著算法、算力和大數(shù)據(jù)等方面的不斷突破，人工智能已被廣泛應(yīng)用于經(jīng)濟(jì)、社會(huì)、軍事等領(lǐng)域，成為促進(jìn)經(jīng)濟(jì)發(fā)展、技術(shù)創(chuàng)新、戰(zhàn)斗力提升的動(dòng)力和引擎。但人工智能技術(shù)同時(shí)也是一把雙刃劍，可能成為引發(fā)全球性風(fēng)險(xiǎn)和挑戰(zhàn)的“潘多拉魔盒”。

可能引發(fā)諸多風(fēng)險(xiǎn)和挑戰(zhàn)

首先，人工智能軍事競(jìng)爭(zhēng)可能觸發(fā)新一輪軍備競(jìng)賽。人工智能技術(shù)的發(fā)展正孕育著新軍事革命的鏈?zhǔn)酵黄疲赡艹蔀楦淖儑?guó)家軍事實(shí)力對(duì)比的核心技術(shù)。人工智能將是大國(guó)塑造軍事優(yōu)勢(shì)的新杠桿，通過(guò)推進(jìn)智能武器部署，實(shí)現(xiàn)作戰(zhàn)能力的迭代升級(jí)，維持或打造軍事能力優(yōu)勢(shì)和新代差。對(duì)中小國(guó)家而言，人工智能的巨大賦能效應(yīng)可能會(huì)彌補(bǔ)其在領(lǐng)土、人口、經(jīng)濟(jì)等方面的劣勢(shì)，獲得挑戰(zhàn)大國(guó)的實(shí)力和機(jī)會(huì)。

為此，世界主要大國(guó)和部分技術(shù)領(lǐng)先的中小國(guó)家都在抓緊制定人工智能發(fā)展戰(zhàn)略和規(guī)劃，推進(jìn)智能化武器系統(tǒng)研發(fā)，推進(jìn)軍事力量向智能化轉(zhuǎn)型。據(jù)稱美軍正在推進(jìn)的“第三次抵消”戰(zhàn)略，有80%的項(xiàng)目與人工智能技術(shù)密切相關(guān)。從實(shí)際應(yīng)用看，智能化武器系統(tǒng)已在美兩場(chǎng)反恐戰(zhàn)爭(zhēng)以及近期中東發(fā)生的多場(chǎng)軍事沖突中使用。人工智能的軍事應(yīng)用已成為發(fā)展趨勢(shì)，人工智能的軍事競(jìng)爭(zhēng)有演化成新一輪軍備競(jìng)賽的可能。

其次，人工智能軍事應(yīng)用可能顯著降低戰(zhàn)爭(zhēng)門(mén)檻。隨著自主武器系統(tǒng)的大規(guī)模運(yùn)用，戰(zhàn)爭(zhēng)對(duì)抗可能首先在機(jī)器與機(jī)器之間展開(kāi)，機(jī)器人、無(wú)人機(jī)、無(wú)人潛航器等自主武器成為部署在最前沿的力量，人將逐步退到后臺(tái)擔(dān)任操作和指揮的角色，戰(zhàn)場(chǎng)傷亡人員的數(shù)量顯著減少。軍事智能發(fā)展催生出認(rèn)知戰(zhàn)、失能戰(zhàn)、網(wǎng)絡(luò)戰(zhàn)等非殺傷性作戰(zhàn)手段，可能不再以消滅對(duì)手為目的，而是以控制對(duì)方認(rèn)知、行動(dòng)等方式取勝，加大了戰(zhàn)爭(zhēng)“零傷亡”的可能。智能化條件下的殺傷性行動(dòng)主要由自主機(jī)器實(shí)施，作戰(zhàn)樣式以自主式遠(yuǎn)程無(wú)人攻擊為主，降低了戰(zhàn)爭(zhēng)的成本。

這些因素都能夠使戰(zhàn)爭(zhēng)看起來(lái)更“人道”“廉價(jià)”，減輕戰(zhàn)爭(zhēng)決策者發(fā)動(dòng)戰(zhàn)爭(zhēng)的道義責(zé)任和政治壓力。另外，部署在網(wǎng)絡(luò)、太空、深海等新型作戰(zhàn)空間的智能武器更具有隱蔽性，難以判定誰(shuí)是發(fā)起者，成為軍事對(duì)抗的“灰色地帶”。

再次，智能技術(shù)的易擴(kuò)散性將加劇非傳統(tǒng)風(fēng)險(xiǎn)。人工智能技術(shù)與以往核武器、生化武器等最顯著的不同是易擴(kuò)散性。由于智能技術(shù)的低成本、高賦能，易于被恐怖組織、個(gè)人等非國(guó)家行為體掌握和運(yùn)用，成為恐怖分子、犯罪組織、黑客等進(jìn)行破壞和犯罪的工具。類似委內(nèi)瑞拉總統(tǒng)馬杜羅遭無(wú)人機(jī)攻擊的事件，都表明了智能技術(shù)可能引發(fā)的非傳統(tǒng)安全挑戰(zhàn)，帶來(lái)國(guó)際安全治理的新難題。

合作共治才能防患未然

人工智能技術(shù)應(yīng)用可能導(dǎo)致的這些風(fēng)險(xiǎn)，已經(jīng)引發(fā)世界范圍內(nèi)的擔(dān)憂，促進(jìn)國(guó)際社會(huì)對(duì)人工智能發(fā)展和應(yīng)用進(jìn)行深思。面對(duì)智能化時(shí)代的國(guó)際安全風(fēng)險(xiǎn)，國(guó)際社會(huì)只能通力合作，或許可從以下幾個(gè)方面入手：

一是確立共同目標(biāo)。國(guó)際社會(huì)應(yīng)當(dāng)認(rèn)清在人工智能應(yīng)用問(wèn)題上“一榮俱榮、一損俱損”的現(xiàn)實(shí)，明白在智能化時(shí)代的對(duì)抗沒(méi)有贏家，進(jìn)而確保人工智能用于和平目的，倡導(dǎo)用人工智能服務(wù)于世界的繁榮與發(fā)展，共享智能技術(shù)帶來(lái)的機(jī)會(huì)和便利，杜絕零和思維、冷戰(zhàn)思維模式在智能時(shí)代沉渣泛濫，防止數(shù)字鴻溝和自我封閉。為此，各國(guó)應(yīng)把共治作為途徑，破除以往各國(guó)“各掃門(mén)前雪”的做法，提倡通過(guò)交流對(duì)話處置人工智能領(lǐng)域的矛盾和爭(zhēng)議，杜絕發(fā)展過(guò)程中的歧視和雙重標(biāo)準(zhǔn)。

二是推進(jìn)責(zé)任共擔(dān)。各國(guó)特別是人工智能大國(guó)應(yīng)切實(shí)承擔(dān)起應(yīng)有的國(guó)際責(zé)任，防止人工智能可能引發(fā)的惡性競(jìng)爭(zhēng)和軍備競(jìng)賽。尤其杜絕智能技術(shù)在軍事上的濫用，不發(fā)展和使用有違人類尊嚴(yán)、具有大規(guī)模破壞效應(yīng)的智能裝備。另外，各國(guó)都有義務(wù)強(qiáng)化對(duì)本國(guó)智能技術(shù)發(fā)展的管理與引導(dǎo)，確保人工智能被用于合法目的。

三是致力群治共防。愛(ài)因斯坦去世前，曾后悔自己的發(fā)明被用于發(fā)展核武器，認(rèn)為那是自己犯的一個(gè)巨大錯(cuò)誤。為防止智能時(shí)代出現(xiàn)類似的錯(cuò)誤，必須致力于推進(jìn)國(guó)際社會(huì)群防共治，著手商討建立人工智能?chē)?guó)際治理體系。各國(guó)應(yīng)當(dāng)把風(fēng)險(xiǎn)預(yù)防做在前面，不能等危機(jī)和風(fēng)險(xiǎn)降臨后再被動(dòng)應(yīng)對(duì)。以共同治理作為重點(diǎn)，各國(guó)應(yīng)特別注意防止智能技術(shù)擴(kuò)散與核、生物技術(shù)擴(kuò)散帶來(lái)的疊加風(fēng)險(xiǎn)，共同探討建立打擊人工智能恐怖主義、國(guó)際犯罪的合作機(jī)制，維護(hù)智能時(shí)代的網(wǎng)絡(luò)安全和公共安全。

四是深化國(guó)際交流。為實(shí)現(xiàn)共同目標(biāo)、應(yīng)對(duì)共同挑戰(zhàn)，防止國(guó)際社會(huì)在智能發(fā)展領(lǐng)域出現(xiàn)兩個(gè)世界、兩個(gè)標(biāo)準(zhǔn)、兩種體系對(duì)立，推進(jìn)國(guó)際交流合作是當(dāng)前最緊迫的現(xiàn)實(shí)需要。各國(guó)應(yīng)停止為他國(guó)發(fā)展設(shè)障礙、施絆子的行為，尊重他國(guó)發(fā)展智能技術(shù)的合法權(quán)利，停止對(duì)他國(guó)企業(yè)機(jī)構(gòu)的打壓限制，在平等互利基礎(chǔ)上推進(jìn)智能技術(shù)合作與產(chǎn)品貿(mào)易。國(guó)際社會(huì)應(yīng)致力于促進(jìn)人工智能技術(shù)和人才交流，促進(jìn)共同的技術(shù)標(biāo)準(zhǔn)和技術(shù)準(zhǔn)入，防止惡意技術(shù)封鎖。各國(guó)應(yīng)在公開(kāi)、透明基礎(chǔ)上建立交流合作機(jī)制，通過(guò)外交對(duì)話、國(guó)際會(huì)議、防務(wù)合作、學(xué)者交流等多種途徑交流觀點(diǎn)，防止戰(zhàn)略誤判和技術(shù)對(duì)抗，構(gòu)建人工智能領(lǐng)域互信機(jī)制。

五是構(gòu)建國(guó)際規(guī)則。當(dāng)前，國(guó)際社會(huì)尚沒(méi)有建立共同遵守的人工智能?chē)?guó)際規(guī)則，但一些學(xué)者和有識(shí)之士已認(rèn)識(shí)到構(gòu)建國(guó)際規(guī)則的必要性和緊迫性，中國(guó)、歐美、日本都有學(xué)者呼吁和探討建立人工智能?chē)?guó)際規(guī)則問(wèn)題。去年在中國(guó)烏鎮(zhèn)召開(kāi)的第5屆世界互聯(lián)網(wǎng)大會(huì)上，就有學(xué)者呼吁盡早就人工智能制定國(guó)際準(zhǔn)則。今年4月，歐盟委員會(huì)公布了人工智能道德準(zhǔn)則。今年5月，中國(guó)研究機(jī)構(gòu)聯(lián)合發(fā)布《人工智能北京共識(shí)》，提出15條原則。

在這一背景下，國(guó)際社會(huì)應(yīng)適時(shí)推進(jìn)人工智能?chē)?guó)際規(guī)則制定，借鑒核、生物、常規(guī)武器等領(lǐng)域國(guó)際規(guī)則制定歷史經(jīng)驗(yàn)，探討人工智能發(fā)展與運(yùn)用的國(guó)際規(guī)則問(wèn)題，就智能武器的地位、使用范圍和限制、安全可控標(biāo)準(zhǔn)、人與機(jī)器的關(guān)系等問(wèn)題進(jìn)行研究和探討，確保人工智能成為人類的工具而不是相反?！ㄗ髡叻謩e是軍事科學(xué)院戰(zhàn)爭(zhēng)研究院研究員、助理研究員）