軍用無(wú)人系統(tǒng)的合法性及未來(lái)挑戰(zhàn)

陳會(huì)斌 曾楊智

2017年，聯(lián)合國(guó)在日內(nèi)瓦舉行《特定常規(guī)武器公約》框架下可致命性自主武器系統(tǒng)第二次正式專家會(huì)議，來(lái)自聯(lián)合國(guó)《特定常規(guī)武器公約》締約方的幾十個(gè)國(guó)家、地區(qū)和國(guó)際組織（包括如聯(lián)合國(guó)裁軍研究所、國(guó)際紅十字委員會(huì)等）參加了會(huì)議，其中包括中國(guó)外交部和國(guó)防部也派遣代表參會(huì)，與會(huì)人員對(duì)可致命性自主武器系統(tǒng)特別是其定義以及對(duì)倫理道德和國(guó)際法的沖擊進(jìn)行了激烈討論。

軍用無(wú)人系統(tǒng)因其零傷亡和對(duì)復(fù)雜任務(wù)的良好適應(yīng)性，被認(rèn)為將是繼火藥和核武器發(fā)明之后的革命性武器，它的廣泛使用將完全改變現(xiàn)有的戰(zhàn)爭(zhēng)形態(tài)和格局，甚至改變戰(zhàn)爭(zhēng)的本質(zhì)，因而受到各國(guó)的高度重視。但是，軍用無(wú)人系統(tǒng)自主性的發(fā)展和作戰(zhàn)運(yùn)用對(duì)倫理、道德、法律層面所帶來(lái)的挑戰(zhàn)，也引起了國(guó)際社會(huì)的廣泛關(guān)注和擔(dān)憂，國(guó)際輿論和立法將深刻影響和制約軍用無(wú)人系統(tǒng)發(fā)展與運(yùn)用的走向。

隨著人工智能和信息技術(shù)發(fā)展，技術(shù)層面基本上已經(jīng)不再是制約軍用無(wú)人系統(tǒng)發(fā)展的瓶頸，各種軍用無(wú)人系統(tǒng)，特別是以無(wú)人機(jī)為典型的軍用無(wú)人系統(tǒng)已廣泛應(yīng)用到軍事領(lǐng)域并在反恐領(lǐng)域取得實(shí)效?？芍旅宰灾魑淦飨到y(tǒng)就是在無(wú)人化平臺(tái)上搭載可致命性武器載荷的軍用無(wú)人系統(tǒng)。

一些激進(jìn)的和平組織和人士將自主武器系統(tǒng)稱呼為“殺人機(jī)器人”。研究國(guó)際社會(huì)對(duì)軍用無(wú)人系統(tǒng)發(fā)展的方向輿論，特別是其在倫理道德以及國(guó)際法層面所帶來(lái)的挑戰(zhàn)，可以對(duì)未來(lái)軍用無(wú)人系統(tǒng)發(fā)展趨勢(shì)做出有意義和有效的前瞻，對(duì)于我國(guó)和軍隊(duì)發(fā)展運(yùn)用軍用無(wú)人系統(tǒng)、合理規(guī)避國(guó)際爭(zhēng)議，具有一定的戰(zhàn)略價(jià)值。

以美國(guó)為例，美國(guó)的地面無(wú)人系統(tǒng)，如角斗士多用途無(wú)人戰(zhàn)車已大量列裝海軍陸戰(zhàn)隊(duì)。執(zhí)行偵察、戰(zhàn)場(chǎng)運(yùn)輸和排雷等任務(wù)的專用機(jī)器人如第一眼、非洲獵豹等也投入了使用。海上方面，美國(guó)研發(fā)了多種可長(zhǎng)時(shí)間自主巡邏海岸、港口并識(shí)別可疑船只的無(wú)人巡邏艇，正在試驗(yàn)的無(wú)人潛航器可執(zhí)行偵察監(jiān)視、探雷掃雷和攻擊等任務(wù)。無(wú)人機(jī)方面，1995年7月，捕食者無(wú)人機(jī)首次加入巴爾干地區(qū)的軍事行動(dòng)以來(lái)，美軍的無(wú)人機(jī)已被先后部署到本土以外的8個(gè)國(guó)家。特別是“9·11”事件以后，美國(guó)開始在全球部署可致命性無(wú)人機(jī)。據(jù)美國(guó)智庫(kù)機(jī)構(gòu)新美國(guó)基金統(tǒng)計(jì)，2004年—2013年，無(wú)人機(jī)在巴基斯坦和也門共執(zhí)行過(guò)428次攻擊任務(wù)，造成2439～3982人死亡；其中在巴基斯坦境內(nèi)攻擊355次，造成2003～3321人死亡。在2017年5月份召開的致命性自主武器系統(tǒng)專家會(huì)議上，巴基斯坦用了長(zhǎng)達(dá)5頁(yè)紙的內(nèi)容表達(dá)了對(duì)未來(lái)自主武器系統(tǒng)的深切擔(dān)憂。

現(xiàn)有軍用無(wú)人系統(tǒng)的合法性問(wèn)題

研究現(xiàn)有軍用無(wú)人系統(tǒng)的合法性問(wèn)題，有效運(yùn)用和發(fā)展現(xiàn)有軍用無(wú)人系統(tǒng)技術(shù)是十分必要的。對(duì)現(xiàn)有的軍用無(wú)人系統(tǒng)，可將其分為非致命性軍用無(wú)人系統(tǒng)和可致命性軍用無(wú)人系統(tǒng)分別進(jìn)行討論。

非致命性軍用無(wú)人系統(tǒng)的合法性問(wèn)題。一般來(lái)講，非致命性軍用無(wú)人系統(tǒng)多應(yīng)用于偵察監(jiān)視、障礙物清除、搜索營(yíng)救、爆炸物拆除、生物化學(xué)武器探測(cè)等非戰(zhàn)爭(zhēng)軍事行動(dòng)和反恐領(lǐng)域。通過(guò)應(yīng)用這些非致命性軍用無(wú)人系統(tǒng)，可以使原本需要由士兵執(zhí)行的任務(wù)由無(wú)人系統(tǒng)來(lái)執(zhí)行，有效降低士兵傷亡率；一些不適宜由人類執(zhí)行的復(fù)雜環(huán)境的任務(wù)也可以交由無(wú)人系統(tǒng)執(zhí)行，提高任務(wù)效率。很多技術(shù)專家強(qiáng)調(diào)機(jī)器人技術(shù)的“雙重使用屬性”，強(qiáng)調(diào)不能因?yàn)楹ε轮旅宰灾魑淦飨到y(tǒng)的潛在威脅就停止發(fā)展人工智能和自主系統(tǒng)，因?yàn)樗鼈兛梢院芡昝赖貞?yīng)用在民事領(lǐng)域以及非戰(zhàn)爭(zhēng)軍事行動(dòng)中，“可以給我們的生活帶來(lái)積極的改變”。

現(xiàn)有可致命性軍用無(wú)人系統(tǒng)的合法性問(wèn)題。現(xiàn)有致命性軍用無(wú)人系統(tǒng)都是由人類遠(yuǎn)程操控進(jìn)行的，一般認(rèn)為，目前尚未出現(xiàn)完全意義的致命性自主武器系統(tǒng)。對(duì)于現(xiàn)有致命性軍用無(wú)人系統(tǒng)的合法性，國(guó)際社會(huì)頗有爭(zhēng)議。“探討致命性軍用無(wú)人系統(tǒng)的合法性，一般是看該種新形式、新手段的武器是否嚴(yán)格遵守軍事沖突的國(guó)際法律”。所有這些新武器都必須嚴(yán)格遵守國(guó)際人道主義法的基本規(guī)定，包括區(qū)分原則、比例原則、軍事必須原則以及人權(quán)原則。

《1949年8月12日日內(nèi)瓦公約關(guān)于保護(hù)國(guó)際性武裝沖突受難者的附加議定書》（第一議定書）就區(qū)別原則和比例原則做出了規(guī)定，要求攻擊行動(dòng)應(yīng)限于軍事目標(biāo)，平民和平民目標(biāo)不得作為攻擊目標(biāo)，并且禁止實(shí)施可能給平民生命、健康、財(cái)產(chǎn)或三者同時(shí)造成意外損害，與預(yù)期的具體和直接軍事利益相比損害過(guò)大的攻擊。以攻擊型無(wú)人機(jī)為例，它是由戰(zhàn)斗人員進(jìn)行操控并下達(dá)攻擊命令，其本身并不能自主飛行（僅在無(wú)人機(jī)與操作人員失去聯(lián)系的時(shí)候，無(wú)人機(jī)才會(huì)加載自動(dòng)飛行模塊進(jìn)行自動(dòng)返航）和攻擊。其作戰(zhàn)的軍事必須性是由作戰(zhàn)司令部或者作戰(zhàn)指揮員決定和負(fù)責(zé)。戰(zhàn)斗人員通過(guò)遠(yuǎn)程畫面對(duì)敵方戰(zhàn)斗人員和平民進(jìn)行區(qū)分然后攻擊。攻擊使用的是掛載的導(dǎo)彈，與一般飛機(jī)無(wú)異。

因此，承擔(dān)戰(zhàn)爭(zhēng)責(zé)任的決策者和行為主體都是明確的，武器使用的也是常規(guī)的導(dǎo)彈，我們可以認(rèn)為現(xiàn)有的以攻擊型無(wú)人機(jī)為典型的可致命性軍用無(wú)人系統(tǒng)本身是合法的。

但是正如奧地利專家擔(dān)憂的：“我們非常懷疑一個(gè)預(yù)先程序化的無(wú)人武器系統(tǒng)能夠在一個(gè)人類遠(yuǎn)程的控制下，通過(guò)人類對(duì)情況的判斷，做出準(zhǔn)確而必要的決定。也就是說(shuō)，如何讓我們相信殺傷性的武力是否是在某個(gè)人類控制下，針對(duì)每個(gè)情況，理性而準(zhǔn)確的做出決定，從而使該個(gè)人類能夠在國(guó)際法約束下履行責(zé)任。”這種擔(dān)憂是有道理的，因?yàn)楸壤瓌t的根本意義在于當(dāng)保護(hù)不可能是絕對(duì)的時(shí)候，應(yīng)秉承善意，用人道和軍事需要這兩項(xiàng)原則互相制約，從而達(dá)到最大程度保障無(wú)辜平民生命權(quán)的目的。

然而基于兩方面的原因，可致命性無(wú)人系統(tǒng)可能更容易造成不必要和不成比例的平民傷亡。一是軍用無(wú)人系統(tǒng)給攻擊策劃者和實(shí)施者創(chuàng)造一個(gè)與現(xiàn)實(shí)割裂的虛擬的戰(zhàn)場(chǎng)環(huán)境，難以讓操作人員全面掌握真實(shí)而準(zhǔn)確的戰(zhàn)場(chǎng)信息，尤其是在準(zhǔn)確辨識(shí)攻擊目標(biāo)方面。二是操控者置身事外的心態(tài)不利于其以克制的情緒操控武力。有操控者在接受媒體采訪時(shí)表示，按下導(dǎo)彈發(fā)射按鈕的那一刻是他最有成就感的時(shí)候。操控者在進(jìn)行操作的時(shí)候可能會(huì)形成一種進(jìn)行電玩游戲的心態(tài)，其動(dòng)用武力的意愿在不經(jīng)意間就遭到了強(qiáng)化，有可能對(duì)平民等非軍事目標(biāo)造成不必要的傷害。

未來(lái)可致命性自主武器對(duì)國(guó)際社會(huì)帶來(lái)的挑戰(zhàn)

軍用無(wú)人系統(tǒng)的未來(lái)發(fā)展趨勢(shì)可能使其目前的合法性質(zhì)出現(xiàn)變化，國(guó)際人道法中非常重要的“馬頓斯條款”就規(guī)定：在國(guó)際人道法未包括的情況下，“平民和戰(zhàn)斗員仍受來(lái)源于既定習(xí)慣、人道原則和公眾良心要求的國(guó)際法原則的保護(hù)和支配。”隨著技術(shù)的發(fā)展，無(wú)人系統(tǒng)必將向自主化方向發(fā)展，發(fā)展為可致命性自主武器，而可致命性自主武器系統(tǒng)可以自主決定行進(jìn)路徑、自主進(jìn)行目標(biāo)搜索和判別并自主進(jìn)行致命攻擊的機(jī)器特性，將嚴(yán)重挑戰(zhàn)現(xiàn)有倫理道德和國(guó)際法對(duì)現(xiàn)代戰(zhàn)爭(zhēng)的約束。具體表現(xiàn)在以下幾個(gè)方面。

嚴(yán)重挑戰(zhàn)現(xiàn)有國(guó)際法對(duì)于戰(zhàn)爭(zhēng)主體的定義。無(wú)人機(jī)如果完全自主選擇、識(shí)別、攻擊目標(biāo)，那么這種無(wú)人機(jī)很難僅僅被視為一種武器，而是具有某種程度人類才具有的“主體”地位。國(guó)際人道主義法從產(chǎn)生到至今，關(guān)注的一直都是人的問(wèn)題，如對(duì)作戰(zhàn)方法和手段的限制、戰(zhàn)俘待遇、平民的保護(hù)等，所有的原則、規(guī)則和制度都是從人的角度出發(fā)，通過(guò)人來(lái)解決。機(jī)器以及人與機(jī)器之間的關(guān)系，在國(guó)際法中迄今為止未列入考慮范圍。那么如果一個(gè)自主武器殺害了平民，究竟誰(shuí)該承擔(dān)責(zé)任，是追究自主武器自身的責(zé)任還是其設(shè)計(jì)者的責(zé)任，抑或可能存在的操控者的責(zé)任，還是或者說(shuō)沒有人該被追究責(zé)任？這種“反客為主”的無(wú)人機(jī)不僅對(duì)現(xiàn)有倫理道德構(gòu)成威脅，而且對(duì)國(guó)際人道主義法存在本身也形成根本挑戰(zhàn)。

嚴(yán)重挑戰(zhàn)現(xiàn)有國(guó)際法的基本原則。國(guó)際人道主義法的基本規(guī)定，包括區(qū)分原則、比例原則、軍事必須原則以及人權(quán)原則。殺人機(jī)器人如何在瞬息萬(wàn)變的戰(zhàn)場(chǎng)上瞬間區(qū)分?jǐn)橙撕推矫穸徽`傷平民，如何能在復(fù)雜戰(zhàn)爭(zhēng)環(huán)境下仍能作出在國(guó)際人權(quán)法律要求下的決定，嚴(yán)格遵守國(guó)際人權(quán)法都不能得到保證。機(jī)器人只能執(zhí)行人類預(yù)先設(shè)定的程序，目標(biāo)是否可以通過(guò)某種算法結(jié)合某種生理特征而被鎖定或者區(qū)分，比如“大胡子”，那么是否意味著所有的有“大胡子”的都是敵人或者恐怖分子？而且對(duì)一個(gè)機(jī)器人武器來(lái)說(shuō)，判斷一個(gè)人是否離開戰(zhàn)斗、失去戰(zhàn)斗力的評(píng)價(jià)也存在很大的問(wèn)題。造成人類死亡的決定是由沒有感情的機(jī)器決定的，這也是對(duì)人類生命權(quán)和生命尊嚴(yán)的侵犯，嚴(yán)重違反了國(guó)際人權(quán)法的人權(quán)原則。機(jī)器畢竟是冰冷的機(jī)器，不是有血有肉的人類，不具備人類天生所具有的悲憫和善良，不具備倫理和道德的觀念，他們只會(huì)嚴(yán)格的執(zhí)行任務(wù)，殘酷的殺死一切鎖定目標(biāo)，而不管正確還是錯(cuò)誤，都嚴(yán)重違背了國(guó)際人道主義法的基本原則。

自主武器發(fā)展還將加劇損害不發(fā)達(dá)國(guó)家及其人民的人道主義權(quán)利，引發(fā)全人類的生存危機(jī)。正如聯(lián)合國(guó)法外處決、即決處決或任意處決問(wèn)題特別報(bào)告員克里斯托夫·海恩斯所說(shuō)：“人們不應(yīng)當(dāng)忘記，飛機(jī)最初在武裝沖突期間使用時(shí)也只是用于偵察目的，不考慮為進(jìn)攻性目的使用。后來(lái)的經(jīng)驗(yàn)表明，一旦相關(guān)技術(shù)日臻完善，最初的考慮和保證往往被拋擲腦后?！碑?dāng)發(fā)達(dá)國(guó)家自主武器發(fā)展到一定程度，他們未必能阻止甚至可能樂(lè)見投入使用致命性自主武器，因?yàn)槭褂脵C(jī)器人意味著“零傷亡”，但是這是一場(chǎng)非對(duì)稱戰(zhàn)爭(zhēng)，是一場(chǎng)一邊是機(jī)器人而另一邊是人類的戰(zhàn)爭(zhēng)，這嚴(yán)重?fù)p害了不發(fā)達(dá)國(guó)家及其人民的人道主義權(quán)利，必將促進(jìn)各個(gè)國(guó)家展開新一輪軍備競(jìng)賽，成為引發(fā)全球戰(zhàn)爭(zhēng)威脅的誘因，帶來(lái)全人類的生存危機(jī)。

自主武器泛濫將會(huì)導(dǎo)致全球恐怖主義泛濫。致命性自主武器將如同核武器一樣，同樣帶來(lái)擴(kuò)散的威脅，放任致命性自主武器的發(fā)展和泛濫，恐怖組織和不法分子必將大肆利用致命性自主武器，從而導(dǎo)致全球恐怖主義的亂潮。2015年11月，“伊斯蘭國(guó)”在巴黎和馬里的恐怖主義行動(dòng)造成了大量無(wú)辜平民的死亡。各個(gè)國(guó)家和國(guó)際社會(huì)應(yīng)該仔細(xì)考慮這項(xiàng)技術(shù)落入如“伊斯蘭國(guó)”等激進(jìn)的恐怖組織手中的后果。這些群體大量依賴于自殺性爆炸事件達(dá)成其戰(zhàn)術(shù)和戰(zhàn)略目的。落入這些團(tuán)體的手中的致命性自主武器將造成比他們使用自殺性爆炸更大的影響后果。此外，這還可以防止他們招募的新兵的死亡。

國(guó)際社會(huì)如何應(yīng)對(duì)未來(lái)可致命無(wú)人武器系統(tǒng)

現(xiàn)階段軍用無(wú)人系統(tǒng)仍屬于合法武器的范疇，其對(duì)國(guó)際法的挑戰(zhàn)主要集中在可能違反比例原則、造成過(guò)分平民死傷或民用物體毀損上，以及由此產(chǎn)生的責(zé)任問(wèn)題。但是從現(xiàn)實(shí)來(lái)看，美國(guó)等軍事強(qiáng)國(guó)仍將繼續(xù)大力推進(jìn)致命性無(wú)人系統(tǒng)研發(fā)，致命性自主武器也有可能落入恐怖分子手中，研究軍用無(wú)人系統(tǒng)發(fā)展的倫理道德困境和國(guó)際法理發(fā)展具有重要意義。國(guó)際人道主義法以及聯(lián)合國(guó)《特定常規(guī)武器公約》一直設(shè)法將武裝沖突帶來(lái)的影響限制在一定范圍內(nèi)的規(guī)則，國(guó)際法未來(lái)可能會(huì)從以下方面應(yīng)對(duì)軍用無(wú)人系統(tǒng)對(duì)倫理道德和現(xiàn)有國(guó)際法的挑戰(zhàn)。

有可能會(huì)頒布一個(gè)預(yù)先禁令。有鑒于未來(lái)可致命性自主武器系統(tǒng)所帶來(lái)的威脅，一些國(guó)家呼吁對(duì)致命性自主武器頒發(fā)一個(gè)預(yù)先禁令，正如日內(nèi)瓦公約第一附加議定書第36條規(guī)定：“在研究、發(fā)展、取得或采用新的武器、作戰(zhàn)手段或方法時(shí)，締約一方有義務(wù)斷定，在某些或所有情況下，該新的武器、作戰(zhàn)手段或方法的使用是否為本議定書或適用于該締約一方的任何其他國(guó)際法規(guī)則所禁止。”在統(tǒng)一的監(jiān)督、法律、應(yīng)用框架建立前暫停致命性自主武器的研究、生產(chǎn)、部署和使用。但是一些國(guó)家有可能會(huì)利用技術(shù)的“雙重使用屬性”，搞表面一套背后一套，表面遵守禁令，開發(fā)自主系統(tǒng)的民用發(fā)展用途，但其實(shí)亦可以快速部署于軍事用途。因此一旦頒發(fā)這個(gè)禁令，必須加強(qiáng)對(duì)這個(gè)禁令執(zhí)行的監(jiān)管。

在《特定常規(guī)武器公約》平臺(tái)上建立統(tǒng)一的框架和協(xié)議，用于審查、監(jiān)督致命性無(wú)人系統(tǒng)的發(fā)展和應(yīng)用，增加致命性無(wú)人武器研發(fā)的透明性。致命性無(wú)人武器審查的目標(biāo)應(yīng)該是確保系統(tǒng)不會(huì)因系統(tǒng)故障或意外失控繼續(xù)作用，并導(dǎo)致意外傷害。同時(shí)加強(qiáng)對(duì)致命性自主武器系統(tǒng)進(jìn)行控制，防止致命性無(wú)人武器系統(tǒng)的非法獲得。同時(shí)應(yīng)嚴(yán)格測(cè)試系統(tǒng)應(yīng)對(duì)網(wǎng)絡(luò)攻擊的堅(jiān)韌性，編程錯(cuò)誤和部署錯(cuò)誤發(fā)生時(shí)的應(yīng)對(duì)以及評(píng)估，嚴(yán)格遵守第36條附加協(xié)議。

為可致命性無(wú)人系統(tǒng)增加有意義的人類控制。各國(guó)都強(qiáng)調(diào)致命性無(wú)人系統(tǒng)對(duì)國(guó)際人道主義法原則的嚴(yán)格遵循，因此必須對(duì)可致命性無(wú)人系統(tǒng)增加有意義的人類控制，使機(jī)器人在選擇、識(shí)別、攻擊目標(biāo)時(shí)絕對(duì)由人類控制，而不是由機(jī)器自主選擇。這一點(diǎn)是《特定常規(guī)武器公約》致命性自主武器系統(tǒng)專家會(huì)議所有國(guó)家和組織的共識(shí)。正如聯(lián)合國(guó)日內(nèi)瓦辦事處執(zhí)行總干事Michael Moller所說(shuō)：“人類最終的生命權(quán)應(yīng)該掌握在人類自己手上?！?/p>

強(qiáng)調(diào)指揮鏈責(zé)任。作戰(zhàn)系統(tǒng)的自動(dòng)化并不意味著他們不是由人部署或控制的。即使是自主武器，在作出最初部署決定時(shí)，也必須有人監(jiān)督和控制。無(wú)論什么情況下，使用致命武力都應(yīng)該有一個(gè)負(fù)責(zé)任的人。責(zé)任和問(wèn)責(zé)制是國(guó)際人道主義法的核心內(nèi)容。在軍事活動(dòng)方面，問(wèn)責(zé)是承認(rèn)和對(duì)其決定、行動(dòng)及其后果承擔(dān)責(zé)任，因此必須有一個(gè)授權(quán)的軍事目標(biāo)。國(guó)際人道主義法規(guī)定，指揮官有“防止在其統(tǒng)率下的武裝部隊(duì)人員和在其控制下的其他人破壞國(guó)際人道主義法”的責(zé)任。這些人是責(zé)任最初的歸屬，責(zé)任會(huì)沿著指揮鏈往上追溯。加強(qiáng)指揮官責(zé)任，追究指揮鏈責(zé)任，并通過(guò)國(guó)際法律立法加以實(shí)現(xiàn)，可以有效解決可致命性無(wú)人系統(tǒng)的法律和責(zé)任問(wèn)題。

結(jié) 論

軍用無(wú)人系統(tǒng)作為一種新型武器，對(duì)國(guó)際政治和國(guó)際法律造成了諸多挑戰(zhàn)。因此，國(guó)際社會(huì)特別是軍事大國(guó)應(yīng)盡快規(guī)范軍用無(wú)人系統(tǒng)的研發(fā)、部署和使用規(guī)范。對(duì)此，中國(guó)也應(yīng)該積極應(yīng)對(duì)，主動(dòng)參與相關(guān)會(huì)議討論和法律法規(guī)制定，探討適合中國(guó)國(guó)情和發(fā)展的軍用無(wú)人系統(tǒng)的研發(fā)、部署和使用規(guī)范，而不應(yīng)只關(guān)注于軍用無(wú)人系統(tǒng)的技術(shù)本身，為我國(guó)發(fā)展和運(yùn)用軍用無(wú)人系統(tǒng)合理規(guī)避爭(zhēng)議，提高軍用無(wú)人系統(tǒng)的國(guó)際話語(yǔ)權(quán)做出努力。

責(zé)任編輯：彭振忠