人工智能技術(shù)國際法問題研究
——以自主武器為例

張玉玲

（中央財(cái)經(jīng)大學(xué) 法學(xué)院，北京 100081）

1 問題的提出

人工智能技術(shù)日臻成熟，推動(dòng)了我們生活發(fā)生極大的變化，如乘坐無人掌控方向盤的無人駕駛汽車、穿戴型智能讀取人體神經(jīng)信號(hào)的可穿戴型機(jī)器人等。人工智能技術(shù)，一方面如同傳統(tǒng)科技一樣強(qiáng)化或補(bǔ)足了人類生理能力的某些限制，另一方面，它獲得了原本由人類所獨(dú)享的某些智力上的能力，尤其是建立在大數(shù)據(jù)基礎(chǔ)上的深度學(xué)習(xí)而來的分析能力和決策能力，擁有著強(qiáng)大“自省”能力。[1]正是這種強(qiáng)大的自省與學(xué)習(xí)能力，使人工智能類技術(shù)類產(chǎn)品區(qū)別于以往普通產(chǎn)品。雖然科學(xué)技術(shù)的進(jìn)步是無法阻擋的，但擁有“自省”能力的人工智能產(chǎn)品，就像一枚硬幣的正反兩面，在給我們帶來的生活便利的同時(shí)也讓我們對(duì)這些智能產(chǎn)品將來未知的行為產(chǎn)生恐慌。這種典型恐慌的代表就是具有人工智能技術(shù)的自主武器。當(dāng)擁有自省與學(xué)習(xí)特性的自主武器被運(yùn)用到戰(zhàn)場上時(shí)，它是傳統(tǒng)的武器地位嗎？它可以自主來決定殺人嗎？它符合國際法的要求嗎……自主武器將會(huì)引發(fā)人們一系列的爭論。

2 自主武器的法律地位之爭

無論是冷兵器時(shí)期士兵手中直接揮舞的刀劍，還是熱兵器時(shí)期被用來近距離瞄準(zhǔn)射擊的火藥槍，以及信息化時(shí)期全方位遠(yuǎn)距離攻擊的飛機(jī)、電子武器，武器一直處于人類直接的掌控之中。即使武器的打擊范圍與距離越來越大、靈活性也越來越強(qiáng)，扣動(dòng)扳機(jī)、按下射擊按鈕的關(guān)鍵時(shí)刻，還是獨(dú)屬于人類。但當(dāng)人工智能技術(shù)運(yùn)用到軍事武器上，似乎這一切都發(fā)生了變化。自主武器它的典型特征是一旦啟動(dòng)，就無需人的干預(yù)而選擇和打擊目標(biāo)。此時(shí)的自主武器，自主決策自主完成打擊，已經(jīng)超越人類的控制范圍，它具有了區(qū)別于一般武器的獨(dú)特性。此時(shí)，我們將如何對(duì)它定義，就成了我們認(rèn)識(shí)它的第一步。

2.1 普通武器

自主武器之所以引發(fā)人類的廣泛討論，是因?yàn)樗牧銈鰞?yōu)點(diǎn)和良好的環(huán)境適應(yīng)能力，這使得它成為繼火藥與核武器發(fā)明之后的創(chuàng)造性武器。在當(dāng)前的國際法上，并不存在對(duì)這個(gè)革命性武器做出明確定義的法律文件。目前武器的分類方法，只有武器與作戰(zhàn)手段、方法兩類。《日內(nèi)瓦四公約關(guān)于保護(hù)國際性武裝沖突受難者的附加議定書（第一議定書）》（以下稱“第一議定書”）第36條對(duì)這兩種分類有所涉及。如何檢驗(yàn)自主武器是否符合以上兩種分類方法，目前是不得而知的。目前多數(shù)學(xué)者的觀點(diǎn)認(rèn)為，即使智能武器擁有自主性，它仍是可以進(jìn)行自我約束的武器。因?yàn)?，就人類的法律地位來看，如果將人工智能擬制為法律主體會(huì)導(dǎo)致人類價(jià)值的貶值以及物對(duì)人的侵蝕、異化，應(yīng)該盡力避免[2]，自主武器反客為主挑戰(zhàn)人的主體地位。我們將致命性決策權(quán)交由智能無人作戰(zhàn)系統(tǒng)來掌控，實(shí)際上是對(duì)人的統(tǒng)治地位的嚴(yán)重挑戰(zhàn)，這樣會(huì)貶低人格，對(duì)人的生命權(quán)與尊嚴(yán)產(chǎn)生深遠(yuǎn)的影響。從武器所具有的能力來看，自主武器是將環(huán)境中的數(shù)據(jù)轉(zhuǎn)化為有目的的計(jì)劃和行動(dòng),在以后每次執(zhí)行行動(dòng)的時(shí)候，所依據(jù)的數(shù)據(jù)會(huì)越來越大，打擊的精確性也會(huì)越來越低，這也必然會(huì)導(dǎo)致其每次決策的模糊性提高，導(dǎo)致它的安全性就會(huì)降低。更為嚴(yán)重的是，自主武器附帶了戰(zhàn)爭屬性之后，殺傷力和毀滅程度是難以想象的。[3]擁有強(qiáng)大打擊能力的自主武器，突破傳統(tǒng)武器法律地位的后果是無法想象的。那些與打擊目標(biāo)相似的建筑物或者人，都可能由于自主武器打擊決策的模糊性而成為攻擊對(duì)象。此外，我們應(yīng)該將問題聚焦在人身上而非是技術(shù)身上，自主武器只是在技術(shù)上較傳統(tǒng)武器有所發(fā)展，并未突破其武器的本質(zhì)。

2.2 機(jī)器人殺手/戰(zhàn)斗員

自主武器的自主性能來源于數(shù)據(jù)與算法，這種自主性的來源根本無法與人類相比較。的確，如果我們賦予它殺人機(jī)器人/戰(zhàn)斗員的身份，讓它具有與人類似的地位，那么將來當(dāng)它發(fā)生違法國際法的行為時(shí)，它就需要像戰(zhàn)斗員一樣承擔(dān)相應(yīng)的責(zé)任，這對(duì)于自主武器來說意義并不大。換句話說，國際法也從來沒有試圖讓自主武器來承擔(dān)責(zé)任。并且如果賦予自主武器以戰(zhàn)斗員身份，那些關(guān)于戰(zhàn)斗員應(yīng)該享有的福利，是否同樣應(yīng)該賦予自主武器呢？這些問題在目前都將無法獲得答案。但有學(xué)者認(rèn)為每個(gè)智能系統(tǒng)在不斷演進(jìn)與變化，都表現(xiàn)出一定的自主性，因此不能把智能裝備看成簡單武器，它的自主決策能力可以把先進(jìn)的武器系統(tǒng)從被動(dòng)的軍事材料的類別提升到自動(dòng)戰(zhàn)斗人員。根據(jù)《第一議定書》第43條第2款規(guī)定的戰(zhàn)斗員是有權(quán)直接參加敵對(duì)行動(dòng)。但遺憾的是，該規(guī)定并未說明戰(zhàn)斗員必須是自然人，至于那些具有與人類戰(zhàn)斗員類似的自主武器是否屬于戰(zhàn)斗員行列，國際法目前無法給出清晰的回答，自主武器是否可以成為將來戰(zhàn)場上的戰(zhàn)斗員，進(jìn)行戰(zhàn)斗也是不清晰的。同樣，將自主武器也可以視為“機(jī)器人殺手”。機(jī)器人殺手與人類在決策與行動(dòng)上類似，和戰(zhàn)斗員無異。因此，從這些方面來看，將自主武器劃歸為具有人的特性的戰(zhàn)斗員/機(jī)器人殺手并無不妥。是否將自主武器視為一般的戰(zhàn)斗員/機(jī)器人殺手是人們爭論分歧較大的一點(diǎn)。

從自主武器自身的特性來看，將它視為機(jī)器人殺手/戰(zhàn)斗員似乎沒有問題。但是，值得注意的是目前的法律體系是以人為中心建立起來的，如果將自主武器的法律地位看作與人類相同，這就會(huì)威脅人類的主體地位，對(duì)人格的侵蝕，甚至是對(duì)人類尊嚴(yán)的踐踏。因此，雖然法律上未明確說明戰(zhàn)斗員必須是自然人的身份，但結(jié)合法律立法的背景以及人的主體地位來看，將自主武器視為普通武器的法律地位，仍然是我們治理自主武器的前提，自主武器的法律地位應(yīng)當(dāng)與普通的常規(guī)武器一樣。將來自主武器發(fā)展到完全的自主的時(shí)候，發(fā)展幾乎與人類的特性一樣的時(shí)候，可以考慮賦予自主武器以獨(dú)立的法律地位，但不是現(xiàn)在。

3 自主武器的合法性判斷

目前為止，國際法上也依然不存在一個(gè)明確的標(biāo)準(zhǔn)來衡量武器的合法性，這就使得自主武器的合法性沒有一個(gè)定論。結(jié)合國際法的實(shí)踐，判斷自主武器合法性主要表現(xiàn)在兩個(gè)方面：一是自主武器自身的合法性；二是自主武器在被人類使用時(shí)的合法性。

3.1 自主武器自身合法性判斷

自主武器合法性的判斷主要通過兩個(gè)方面來看，一是從武器的審查標(biāo)準(zhǔn)與自身的功能來看，《第一議定書》第36條沒有設(shè)立禁止自主武器的標(biāo)準(zhǔn)，并且自主武器投入到戰(zhàn)場上，會(huì)減少戰(zhàn)斗員不必要的痛苦和傷亡，因此，自主武器在現(xiàn)行法律框架下是合法的。[4]二是從自主武器是否具有“可預(yù)測性”來看，[5]人工智能的本質(zhì)是數(shù)據(jù)與算法的結(jié)合，[6]自主武器將來會(huì)在戰(zhàn)場上面臨各種復(fù)雜的環(huán)境并且不斷的學(xué)習(xí)，這就意味著將來它的行動(dòng)難以被人們預(yù)測。一旦戰(zhàn)爭爆發(fā)，戰(zhàn)爭的發(fā)展方向就有可能不再受到人類的控制。那些投入戰(zhàn)場的自主武器，不將僅僅是軍事一方的災(zāi)難，而更可能會(huì)成為全人類共同的災(zāi)難。由此，從自主武器的不可預(yù)測性所帶來的惶恐，使得人們對(duì)它的合法性產(chǎn)生懷疑。更甚者，自主武器流入黑市是遲早的事情，落入恐怖分子手中，那些想要控制更多平民的獨(dú)裁者手中，希望進(jìn)行種族清洗的軍閥等，自主武器也是暗殺、顛覆國家的很好武器。[7]從自主武器的自身來看，法律沒有對(duì)自主武器這類新型的武器進(jìn)行準(zhǔn)確的定義，自主武器本身既有積極的一面，也有消極的一面，但消極的一面似乎給人類帶來更大的代價(jià)。將來自主武器無法被人類預(yù)測與控制，人們是無法接受的。

3.2 武器在使用時(shí)的合法性判斷

自主武器在使用上的合法性判斷，主要涉及到的是自主武器在使用的過程中是否會(huì)遵守國際人道法上的基本原則與規(guī)定，主要涉及到的是區(qū)分原則和比例原則。

3.2.1 區(qū)分原則

在武裝沖突中，區(qū)分原則是一項(xiàng)重要的原則，國際法院在關(guān)于以核武器相威脅或使用核武器是否合法的咨詢意見中，甚至將區(qū)分原則作為首要核心原則。區(qū)分原則要求對(duì)戰(zhàn)斗員與平民之間區(qū)分，和軍民混用設(shè)施進(jìn)行區(qū)分。區(qū)分原則使武裝沖突對(duì)平民的影響降到最低，禁止以平民為目標(biāo)及不加區(qū)分的進(jìn)行攻擊。

在戰(zhàn)爭中準(zhǔn)確做到區(qū)分面臨著兩種困難。第一，對(duì)平民與戰(zhàn)斗員之間的判斷，涉及到很多需要解釋與分析的因素，如對(duì)戰(zhàn)爭行為的解釋。在傳統(tǒng)的戰(zhàn)爭中，戰(zhàn)斗員都有自己明顯區(qū)別平民的標(biāo)志，如穿戴特定戰(zhàn)斗裝備、在戰(zhàn)斗期間公開攜帶槍支等，人們對(duì)平民與戰(zhàn)斗員進(jìn)行區(qū)分是容易的。但是如果混淆這種明顯的標(biāo)志，比如，沒有明顯標(biāo)志的平民加入戰(zhàn)爭、尤其是軍事安保公司的加入，美國軍隊(duì)依靠私人承包商來維護(hù)軍隊(duì)，這些軍事安保公司實(shí)際上是軍事上的重要合作者。他們是否應(yīng)該與平民一樣受到保護(hù)，是值得商榷的,尤其現(xiàn)在，針對(duì)戰(zhàn)爭的含義越來也越來模糊，在非國際性對(duì)抗沖突蔓延的形勢下，人們往往需要對(duì)戰(zhàn)爭行為的進(jìn)行具體的解釋才能判斷出哪些是戰(zhàn)斗員、哪些是平民。第二，隨著軍民融合現(xiàn)場的產(chǎn)生，具有“軍民兩用”性質(zhì)的設(shè)施大量出現(xiàn)，這些設(shè)施在平時(shí)是歸于民用，只是在戰(zhàn)時(shí)才會(huì)被征用為軍用設(shè)施，或者只是在戰(zhàn)時(shí)的某一時(shí)刻被利用，它們與平民的生活息息相關(guān)，如果一旦被攻擊，對(duì)平民的生活將造成很大的影響。但是有的學(xué)者認(rèn)為，不能過分強(qiáng)調(diào)對(duì)于軍民兩用的保護(hù)，也沒必要對(duì)其進(jìn)行區(qū)分，因?yàn)檫@樣會(huì)導(dǎo)致一方過度使用此類方法以躲避軍事攻擊，影響戰(zhàn)爭的效力。[8]自主武器的發(fā)展是否會(huì)克服以上兩種困難是不確定的，這就導(dǎo)致人類無法放心的認(rèn)為自主武器可以合法的進(jìn)入戰(zhàn)場。

3.2.2 比例原則

在國際人道法中，比例原則要求在進(jìn)行軍事行動(dòng)過程中需要對(duì)平民和軍民兩用設(shè)施的攻擊傷害程度降到最低?？偟膩碚f，它需要對(duì)軍事利益、損害范圍界定以及合乎比例性評(píng)估三個(gè)方面都需要進(jìn)行思考。

比例原則要求所取得軍事利益必須大于軍事行動(dòng)所造成的損害，否則這種軍事行動(dòng)是不被允許的。[9]比例原則作為一種價(jià)值判斷，它具有靈活性與內(nèi)涵豐富性的特性。對(duì)于攻擊是否符合比例，指揮官擁有較大的自由裁量權(quán)?，F(xiàn)在存在的問題是，國際法對(duì)比例原則的規(guī)定比較模糊，沒有給出準(zhǔn)確的判斷標(biāo)準(zhǔn)。[10]機(jī)器沒有情景意識(shí)，它是否可以像人類那樣，做出符合道德價(jià)值的判斷。自主武器系統(tǒng)是否按比例使用武力，取決于它的裝備以及其規(guī)劃和設(shè)計(jì)所允許的能力。人類的智能是否可以遷移到自主武器身上，目前還不得而知。因此，在不得而知的情況下，我們也無法判斷自主武器的行為是否符合比例原則。

綜上，自主武器合法性無法判斷的原因主要表現(xiàn)在兩個(gè)方面，一個(gè)是法律上原因，另一個(gè)是自主武器自身發(fā)展的原因。法律上對(duì)自主武器自身是否合法沒有做出判斷和提供一些判斷的標(biāo)準(zhǔn)。自身原因是自主武器的發(fā)展究竟會(huì)到智能到什么地步，是不確定的，它是否會(huì)遵從比例原則和區(qū)分原則是無法判斷的。由此，目前自主武器的合法性判斷是無法做出的，它的合法性與否取決于將來自主武器發(fā)展程度與遵守法律的情況。

4 自主武器的國際法規(guī)制之爭

現(xiàn)在來看，我們宜將自主武器視為普通武器的法律地位，由于它的合法性無法判斷和投入戰(zhàn)場的潛在危害性，國際法必須對(duì)自主武器進(jìn)行合理的規(guī)制。目前國際社會(huì)針對(duì)自主武器國際法規(guī)制的方式，主要幾種在以下幾種方式。

4.1 制定專門規(guī)制自主武器的框架性公約

“條約必須遵守”，有效的條約對(duì)各當(dāng)事國具有拘束力。當(dāng)事國不得以國內(nèi)法規(guī)定為由拒絕履行條約義務(wù)。國際社會(huì)主張針對(duì)自主武器達(dá)成一項(xiàng)專門的國際條約，就是看上了條約強(qiáng)大的約束作用。此外，達(dá)成一項(xiàng)新的條約，也意味著考慮到了自主武器的自主性，將它與其他普通的武器有所區(qū)別。特殊情形特殊對(duì)待。支持制定條約國家認(rèn)為，考慮到人工智能技術(shù)正在不斷的發(fā)展，人們對(duì)自主武器的很多方面還未了解清楚，該國際條約不宜規(guī)定的過于全面，開始可以制定框架性公約，隨著人工智能技術(shù)進(jìn)步不斷完善與發(fā)展公約的內(nèi)容。反對(duì)者認(rèn)為，達(dá)成框架性的公約對(duì)于各個(gè)國家根本沒有約束力，自主武器在國際法上的發(fā)展仍然是出于不確定狀態(tài)。并且有學(xué)者認(rèn)為現(xiàn)在預(yù)先禁止自主武器還為時(shí)尚早，因?yàn)榧夹g(shù)還不太成熟。是否制定條約，以及制定什么樣的條約，目前國際社會(huì)還在激烈的討論之中。

4.2 制定公約附加議定書

1980 年聯(lián)合國通過了《特定常規(guī)武器公約》（CWW）目的是為了停止使用被認(rèn)可為過度不人道與濫殺濫傷作用的武器。該公約雖然僅僅包含11個(gè)條文，它的5個(gè)附加議定書卻在限制特定武器上發(fā)揮著巨大的作用?？v觀這個(gè)五個(gè)議定書，均是針對(duì)特定具有較大危害性的某一種類武器的限制。促進(jìn)武器使用向著更符合人道的方向發(fā)展。這種使用附加議定書的方式比制定統(tǒng)一公約的好處是，它可以隨著科技與武器形態(tài)變化，隨時(shí)添加具體規(guī)制的武器。此外，采用此種方式，有利于締約國根據(jù)自己國際的實(shí)際情況，選擇參考某個(gè)具體的議定書，給國家一定的選擇性。但它也存在著困難，自主武器雖然具有普通武器的地位，但它與普通常規(guī)武器已經(jīng)有所區(qū)別，它是否可以被納入到《特定常規(guī)武器公約》之內(nèi)，接受《常規(guī)武器公約》的約束是不明確的。雖然，2016年《常規(guī)武器公約》締約國第五次審議大會(huì)決定成立政府專家組，討論自主武器的話題一直持續(xù)召開至今。但這也并不意味著，國際社會(huì)一定會(huì)在《常規(guī)武器公約》框架下達(dá)成規(guī)制自主武器的議定書。

4.3 達(dá)成任何規(guī)制自主武器的協(xié)定或公約時(shí)機(jī)還不成熟

目前的人工智能仍然是在發(fā)展階段，還遠(yuǎn)遠(yuǎn)未達(dá)到強(qiáng)人工智能階段，人工智能技術(shù)正處于不斷的探索之中。考慮到人工智能技術(shù)在民用產(chǎn)品上的廣泛，現(xiàn)在就考慮規(guī)制該技術(shù)，會(huì)阻礙人工智能技術(shù)在民用領(lǐng)域的發(fā)展。就像很多專家、學(xué)者討論至今也沒有討論出合適的解決辦法。就像有的學(xué)者所主張的那樣，我們根本不知道要盤點(diǎn)什么，因?yàn)樵谠S多情況下，我們將試圖預(yù)測不存在的系統(tǒng)的開發(fā)，在可預(yù)見的未來不太可能存在，而且可能永遠(yuǎn)不會(huì)存在。因此，達(dá)成任何規(guī)制自主武器的協(xié)定與公約時(shí)機(jī)還未成熟。

自主武器在投入戰(zhàn)場上可以減少士兵的投入，減少士兵的痛苦，這兩個(gè)特點(diǎn)是對(duì)很多國家是有誘惑力的。同樣，它會(huì)降低戰(zhàn)爭發(fā)動(dòng)的門檻，但是最大的缺點(diǎn)，也是很多國家不敢嘗試的一個(gè)重要原因是，它在戰(zhàn)場會(huì)是否會(huì)遵守國際法是不得而知的。如果我們不能控制一個(gè)自主武器的行動(dòng)，也不能預(yù)測它的行動(dòng)方向，就貿(mào)然的就將它投入到戰(zhàn)場上，這對(duì)于很多其他國家來說是極其不負(fù)責(zé)任的。因此，無論自主武器的合法性是否可以判斷，將來它的法律地位如何，我們對(duì)自主武器的規(guī)制是必要的。結(jié)合目前人工智能技術(shù)發(fā)展來看，人們確實(shí)還沒有完全認(rèn)識(shí)自主武器的方方面面，所以制定一個(gè)框架性的條約是一個(gè)合適的選擇。相比于一步到位的議定書做法，它給當(dāng)事國更多認(rèn)識(shí)自主武器的機(jī)會(huì)，有機(jī)會(huì)等待自主武器的進(jìn)一步的發(fā)展。相比于不制定任何規(guī)制文件的做法，它提供給當(dāng)事國逐漸形成共識(shí)的機(jī)會(huì)，為以后自主武器的治理奠定了基礎(chǔ)。因此，目前比較有效的自主武器的國際法規(guī)制的方式，是各事國達(dá)成一項(xiàng)框架性條約，并且之后隨著自主武器的發(fā)展逐步的進(jìn)行完善。

5 結(jié)語

自主武器在軍事上的運(yùn)用改變了傳統(tǒng)武裝沖突的形式。它的自主性一方面加快了戰(zhàn)爭的勝利，另一方面也給人類帶來嚴(yán)重的威脅。自主武器與人具有相似的自主學(xué)習(xí)能力，但從目前智能技術(shù)的發(fā)展和法律體系的構(gòu)建來看，還是應(yīng)該將它視為普通武器的地位。自主武器缺乏天然的基本道德情感與場景分析能力，導(dǎo)致它的合法性受到質(zhì)疑，自主武器將來在猶如戰(zhàn)場是否會(huì)違反比例原則、區(qū)分原則現(xiàn)在不得而知，這就使得它的合法性無法判斷。它是否會(huì)遵守國際法，有待進(jìn)一步的驗(yàn)證。無論合法性與法律地位如何，國際社會(huì)針對(duì)此類自主武器的自主性和給將來潛在的威脅，必要對(duì)它進(jìn)行一定的規(guī)制。規(guī)制方式就是制定一項(xiàng)框架的條約，隨著自主武器的發(fā)展再逐步達(dá)成規(guī)制的共識(shí)。