人工智能對(duì)國(guó)際法的挑戰(zhàn)及其應(yīng)對(duì)

趙 駿 李婉貞

(浙江大學(xué) 光華法學(xué)院， 浙江 杭州 310008)

從電子計(jì)算開始，賦予計(jì)算機(jī)人工智能一直是計(jì)算機(jī)專家的夢(mèng)想。早在1950年，艾倫·圖靈(Alan Turing)在其《計(jì)算機(jī)器與智能》一文中就提出過(guò)“機(jī)器能否進(jìn)行思考”的問(wèn)題[1]5。人工智能是一套旨在使機(jī)器更接近人類或動(dòng)物在某些方面的認(rèn)知的技術(shù)[2]404。機(jī)器學(xué)習(xí)是人工智能的一個(gè)方面，它探索如何讓計(jì)算機(jī)根據(jù)經(jīng)驗(yàn)改善其性能(1)Russell S., ″Q & A: The Future of Artificial Intelligence,″ http://people.eecs.berkeley.edu/～russell/temp//q-and-a.html, 2020-01-31.。多年來(lái)，人工智能將自動(dòng)化或復(fù)制智能行為作為研究目標(biāo)[1]7。根據(jù)智能水平的不同，人工智能表現(xiàn)為強(qiáng)人工智能與弱人工智能兩種類型[3]59。強(qiáng)人工智能可以匹敵甚至超過(guò)人類智能，目前仍屬于純粹科幻式事物；弱人工智能能夠通過(guò)計(jì)算機(jī)再現(xiàn)人類智能的某些方面，已經(jīng)被應(yīng)用到社會(huì)的諸多領(lǐng)域，例如谷歌搜索引擎、全球定位系統(tǒng)、電子游戲等[4]4。當(dāng)前，在弱人工智能的基礎(chǔ)上產(chǎn)生了一批“進(jìn)階版弱人工智能”，能夠通過(guò)與人類交互再現(xiàn)某些方面的弱人工智能[4]8，例如蘋果智能語(yǔ)音助手、自動(dòng)駕駛汽車、機(jī)器人保姆、人工智能產(chǎn)業(yè)工人、無(wú)人船舶、人工智能偵察機(jī)與軍用無(wú)人機(jī)等。

經(jīng)過(guò)長(zhǎng)時(shí)間的發(fā)展，人類已在信息社會(huì)的基礎(chǔ)上開始了智能社會(huì)的建設(shè)[5]95-96。人工智能的應(yīng)用帶來(lái)了生產(chǎn)力的巨大變革，法律作為上層建筑，不可避免地受到人工智能技術(shù)發(fā)展的影響。在智能社會(huì)，法律既面臨人工智能帶來(lái)的各種挑戰(zhàn)，也遇到了難得的發(fā)展機(jī)遇。由于現(xiàn)有法律系統(tǒng)都是圍繞“只有人才能做出決定”這一基本假定展開的，人工智能作為一項(xiàng)新興科技，同樣具有類似于自然人的自主決策能力，這將從根本上顛覆現(xiàn)有法律體系的基礎(chǔ)[4]5。人工智能的自主決策能力、交互能力使其有別于一般的物，并接近于作為法律主體的自然人。整體上，與人工智能相關(guān)的法律問(wèn)題可以分為兩類：一類是人工智能應(yīng)用于各個(gè)領(lǐng)域而產(chǎn)生的法律問(wèn)題，例如人機(jī)交互、機(jī)器與機(jī)器交互下產(chǎn)生的責(zé)任、知識(shí)產(chǎn)權(quán)等問(wèn)題；另一類是對(duì)人工智能自身發(fā)展的價(jià)值衡量與相應(yīng)規(guī)制。同時(shí)，在應(yīng)對(duì)此類新問(wèn)題及變革法律的過(guò)程中，還存在幾個(gè)宏觀且關(guān)鍵的問(wèn)題：一是如何把握好創(chuàng)新與既有的關(guān)系；二是如何促進(jìn)國(guó)際與國(guó)內(nèi)的良性互動(dòng)；三是正確對(duì)待他山之石與前車之鑒，要充分考察其他領(lǐng)域和其他國(guó)家的立法過(guò)程與內(nèi)容。

國(guó)際法同樣深受人工智能的影響。就像其他法律一樣，國(guó)際法也假定所有的決定都是由人做出的，即使是代表國(guó)家利益的決定[4]208，人工智能的自主決策能力將會(huì)徹底改變以往只有自然人或法人才能代表一國(guó)的傳統(tǒng)。當(dāng)前，所有關(guān)于國(guó)際法下人工智能的觀點(diǎn)，都是基于各國(guó)預(yù)期的習(xí)慣用途以及對(duì)現(xiàn)有國(guó)際法規(guī)定的變通解釋得出來(lái)的，但人工智能很快將會(huì)在影響國(guó)際法的各個(gè)領(lǐng)域中應(yīng)用起來(lái)[4]234-235。由于國(guó)際法同樣沒有直接對(duì)由人工智能或者非人類做出決定的法律后果進(jìn)行規(guī)定，諸如人工智能國(guó)籍、人工智能侵害他國(guó)的行為能否歸于一國(guó)、無(wú)人轟炸機(jī)等自主武器系統(tǒng)是否違反國(guó)際人道法、無(wú)人船舶是否能無(wú)害通過(guò)一國(guó)領(lǐng)海等問(wèn)題，在現(xiàn)有國(guó)際法體系內(nèi)尚無(wú)法解決，需要作為國(guó)際社會(huì)共通規(guī)則的國(guó)際法積極做出回應(yīng)。本文主要圍繞人工智能給國(guó)際法帶來(lái)的兩個(gè)層面的挑戰(zhàn)展開分析，一是針對(duì)國(guó)際法的基本原則，二是針對(duì)國(guó)際法的具體領(lǐng)域，并給出國(guó)際法應(yīng)對(duì)這些挑戰(zhàn)的可行路徑。

一、 人工智能對(duì)國(guó)際法基本原則的挑戰(zhàn)

國(guó)際法基本原則代表著一套基本的行為標(biāo)準(zhǔn)，在整個(gè)國(guó)際法體系中處于統(tǒng)領(lǐng)性位置，構(gòu)成了最高的法律標(biāo)準(zhǔn)，可以視為國(guó)際共同體的最高原則[6]64-65。國(guó)際法基本原則具有一些重要特征：第一，國(guó)際公認(rèn)；第二，具有全局性和普遍意義，超越國(guó)際法各個(gè)領(lǐng)域；第三，適用于國(guó)際法的一切效力范圍；第四，是國(guó)際法的基礎(chǔ)[7]34。國(guó)際法基本原則的內(nèi)容一直處于動(dòng)態(tài)發(fā)展中，其重要發(fā)展是在第二次世界大戰(zhàn)以后，集中體現(xiàn)在《聯(lián)合國(guó)憲章》第2條以及1970年《國(guó)際法原則宣言》中[7]37-41。例如國(guó)家主權(quán)原則(2)在近代國(guó)際法產(chǎn)生之后，就提出了一些國(guó)際法基本原則，例如國(guó)家主權(quán)平等原則、不干涉內(nèi)政原則等。參見王鐵崖主編《國(guó)際法》，(北京)法律出版社1995年版，第37-41頁(yè)。、民族自決原則、國(guó)家責(zé)任原則(3)國(guó)家責(zé)任屬于國(guó)際法基本原則的范疇，在施瓦曾伯格爾提出的7項(xiàng)國(guó)際法基本原則中，國(guó)家責(zé)任是其中一項(xiàng)，參見王鐵崖主編《國(guó)際法》，(北京)法律出版社1995年版，第41頁(yè)。伊恩·布朗利認(rèn)為國(guó)家責(zé)任是國(guó)際法的一般原則，參見Crawford J., Brownlie’s Principles of Public International Law (8th Edition), Oxford: Oxford University Press, 2012, p.540；Shaw也認(rèn)為國(guó)家責(zé)任是國(guó)際法的基本原則，參見Shaw M.N., International Law (7th Edition), Cambridge: Cambridge University Press, 2014, p.1120。等。在人工智能時(shí)代，人工智能的自主決策能力將對(duì)其提出新的挑戰(zhàn)，例如人工智能霸權(quán)對(duì)國(guó)家主權(quán)原則的挑戰(zhàn)、人工智能行為的國(guó)家責(zé)任問(wèn)題等。

(一) 人工智能對(duì)國(guó)家主權(quán)原則的挑戰(zhàn)

人工智能時(shí)代的到來(lái)，可能會(huì)造成嚴(yán)重的算法壟斷與數(shù)據(jù)壟斷問(wèn)題，甚至形成人工智能霸權(quán)(4)霸權(quán)體系可以分為兩種,一種是權(quán)勢(shì)霸權(quán),一種是制度霸權(quán)。兩者的區(qū)分標(biāo)準(zhǔn)是霸權(quán)的維持機(jī)制，前者主要依靠霸權(quán)國(guó)的實(shí)力,尤其是軍事實(shí)力，核心是強(qiáng)制性治理；后者主要依靠體系中的制度。參見秦亞青《權(quán)勢(shì)霸權(quán)、制度霸權(quán)與美國(guó)的地位》，載《現(xiàn)代國(guó)際關(guān)系》2004年第3期，第6頁(yè)。，嚴(yán)重威脅一國(guó)的國(guó)家主權(quán)。因而，有必要提出“人工智能主權(quán)”概念。根據(jù)《聯(lián)合國(guó)憲章》第2條第1項(xiàng)、第78條以及《國(guó)際法原則宣言》的規(guī)定，各國(guó)一律享有主權(quán)(5)United Nations General Assembly, ″Declaration on Principles of International Law Concerning Friendly Relations and Co-operation among States in Accordance with the Charter of the United Nations,″ http://www.un-documents.net/a25r2625.htm, 2020-01-31.。主權(quán)是指包括國(guó)家領(lǐng)土之上立法權(quán)限在內(nèi)的管轄權(quán)，表示出依賴習(xí)慣法和獨(dú)立于他國(guó)特別同意的權(quán)利和特權(quán)的特征[8]448，并存在于國(guó)家與其他國(guó)家或國(guó)際組織之間的關(guān)系之中，可以從兩個(gè)視角進(jìn)行界定：一是對(duì)內(nèi)與對(duì)外視角，即對(duì)內(nèi)最高權(quán)與對(duì)外獨(dú)立權(quán)；二是橫向與縱向視角，即橫向地理范圍與縱向事項(xiàng)范圍。隨著社會(huì)的發(fā)展，主權(quán)概念一直處于動(dòng)態(tài)發(fā)展之中。在縱向的發(fā)展上，主權(quán)概念在反對(duì)霸權(quán)的進(jìn)程中向縱深方向不斷掘進(jìn)，例如，伴隨政治霸權(quán)、經(jīng)濟(jì)霸權(quán)、文化霸權(quán)與信息霸權(quán)出現(xiàn)的政治主權(quán)、經(jīng)濟(jì)主權(quán)、文化主權(quán)與信息主權(quán)概念[9]519。

當(dāng)前，人工智能已經(jīng)廣泛應(yīng)用于生產(chǎn)、服務(wù)、武器、司法、經(jīng)濟(jì)與政治決策等諸多社會(huì)領(lǐng)域，但是，各國(guó)掌握的人工智能技術(shù)存在較大差距。人工智能技術(shù)水平較低的國(guó)家在部分領(lǐng)域的主權(quán)控制力將在不同程度上被削弱，面臨其他國(guó)家的控制和威脅。對(duì)內(nèi)層面，一國(guó)可以利用人工智能跨境搜集并傳播對(duì)另一國(guó)政府不利的信息，或者深入另一國(guó)的生產(chǎn)和服務(wù)領(lǐng)域，影響該國(guó)產(chǎn)業(yè)發(fā)展與就業(yè)。由于市場(chǎng)總是趨利避害的，如果人工智能技術(shù)的運(yùn)用能夠使市場(chǎng)參與者獲得更大的利益，理性經(jīng)濟(jì)人顯然會(huì)選擇以人工智能技術(shù)替代原有的生產(chǎn)或服務(wù)模式。這有可能會(huì)促使已經(jīng)存在的算法與數(shù)據(jù)壟斷問(wèn)題進(jìn)一步演化為人工智能技術(shù)霸權(quán)問(wèn)題，給國(guó)家主權(quán)帶來(lái)嚴(yán)峻挑戰(zhàn)。對(duì)外層面，人工智能技術(shù)在戰(zhàn)略決策、軍事領(lǐng)域與社會(huì)生產(chǎn)方面的應(yīng)用會(huì)進(jìn)一步拉大國(guó)際法主體間的力量差距，改變?nèi)蛏鐣?huì)經(jīng)濟(jì)生產(chǎn)模式與權(quán)力結(jié)構(gòu)，影響原本穩(wěn)定的國(guó)際關(guān)系，最終會(huì)對(duì)國(guó)際體系產(chǎn)生重大影響[10]128-129。

對(duì)此，有必要提出人工智能主權(quán)概念，以防人工智能技術(shù)霸權(quán)對(duì)國(guó)家主權(quán)的侵害。其必要性主要體現(xiàn)在三個(gè)方面：第一，維護(hù)本國(guó)信息安全。人工智能需要數(shù)據(jù)作為營(yíng)養(yǎng)。人工智能發(fā)揮作用的前提是搜集和分析大量的信息數(shù)據(jù)，這些數(shù)據(jù)涵蓋一國(guó)的各個(gè)領(lǐng)域以及不同的個(gè)人。是否促進(jìn)數(shù)據(jù)的跨境流通以及具體的流通方式應(yīng)當(dāng)屬于一國(guó)的主權(quán)管轄范圍。第二，規(guī)制人工智能的必要性。人工智能具有深度學(xué)習(xí)功能和超強(qiáng)的復(fù)制性，這些特征使其可以對(duì)社會(huì)各領(lǐng)域發(fā)揮極大的推動(dòng)作用。但是，如果人工智能被懷有惡意的人利用，也會(huì)對(duì)一國(guó)的政治、經(jīng)濟(jì)、文化以及國(guó)防安全構(gòu)成嚴(yán)重威脅。第三，保護(hù)本國(guó)人工智能產(chǎn)業(yè)。人工智能已經(jīng)應(yīng)用于社會(huì)的各個(gè)領(lǐng)域，國(guó)家有權(quán)在防止其他國(guó)家人工智能產(chǎn)業(yè)威脅本國(guó)產(chǎn)業(yè)的基礎(chǔ)上，保障本國(guó)人工智能產(chǎn)業(yè)的自由發(fā)展。人工智能領(lǐng)域存在主權(quán)，但這個(gè)主權(quán)只能屬于國(guó)家，而非人工智能本身。人工智能技術(shù)的目的是服務(wù)人類，而非控制人類。同時(shí)，由于人工智能的可規(guī)制性，國(guó)家擁有人工智能主權(quán)也具有可行性。人工智能技術(shù)與實(shí)體都真實(shí)存在于一定的地理區(qū)域內(nèi)，國(guó)家需要解決人工智能研發(fā)、使用與跨境過(guò)程中涉及的研發(fā)者標(biāo)準(zhǔn)、可以使用的數(shù)據(jù)標(biāo)準(zhǔn)、應(yīng)用標(biāo)準(zhǔn)、具體應(yīng)用領(lǐng)域的范圍以及跨境監(jiān)管等諸多問(wèn)題。

人工智能主權(quán)的實(shí)現(xiàn)與政治、經(jīng)濟(jì)、文化、信息主權(quán)的實(shí)現(xiàn)相互影響并相互促進(jìn)，但是在內(nèi)涵上具有不同的側(cè)重點(diǎn)。伊恩·布朗利認(rèn)為國(guó)家主權(quán)與平等所帶來(lái)的必然結(jié)果主要有：對(duì)領(lǐng)土及永久居住其上的人口的初步排他管轄權(quán)，其他國(guó)家在此排他管轄權(quán)區(qū)域內(nèi)的不干涉義務(wù)，以及最終取決于是否同意由習(xí)慣法或條約產(chǎn)生的義務(wù)[8]447。路易斯·亨金也認(rèn)為國(guó)際法試圖促進(jìn)的是國(guó)家的獨(dú)立、平等、自治、不可干涉性以及致力于實(shí)現(xiàn)自己所認(rèn)同的國(guó)家利益[11]146-148。因此，人工智能主權(quán)的內(nèi)涵也應(yīng)該包括對(duì)內(nèi)與對(duì)外兩個(gè)層面：一是對(duì)內(nèi)層面，國(guó)家具有對(duì)人工智能技術(shù)與實(shí)體的立法、司法與行政管轄權(quán)。國(guó)家應(yīng)當(dāng)制定規(guī)范人工智能的具體法律和制度，指引人工智能向服務(wù)于人類命運(yùn)共同體構(gòu)建的方向不斷發(fā)展。二是對(duì)外層面，國(guó)家享有保護(hù)本國(guó)人工智能產(chǎn)業(yè)發(fā)展的權(quán)利，以及自主制定關(guān)于人工智能發(fā)展的規(guī)劃與自主決定人工智能研發(fā)進(jìn)程的權(quán)利，其他國(guó)家不能干擾、阻礙或控制該國(guó)人工智能的發(fā)展。在當(dāng)前缺少國(guó)際法明文規(guī)定的情況下，各國(guó)應(yīng)當(dāng)遵守現(xiàn)有國(guó)際法基本原則、習(xí)慣國(guó)際法以及國(guó)際強(qiáng)行法的一般規(guī)定，例如不得侵犯他國(guó)的主權(quán)、保護(hù)人權(quán)等。

(二) 人工智能對(duì)國(guó)家責(zé)任原則的挑戰(zhàn)

國(guó)家必須履行包括已加入的條約法義務(wù)和強(qiáng)行法義務(wù)在內(nèi)的國(guó)際義務(wù),承擔(dān)因其國(guó)家行為違背國(guó)際義務(wù)所產(chǎn)生的國(guó)家責(zé)任[12]97。根據(jù)《國(guó)家對(duì)國(guó)際不法行為的責(zé)任條款草案》(以下簡(jiǎn)稱《草案》)第2條的規(guī)定，國(guó)家承擔(dān)國(guó)際責(zé)任的前提條件是發(fā)生國(guó)際不法行為，包含主觀可歸因性與客觀違法性兩方面的要素[13]72。前者強(qiáng)調(diào)存在可歸因于一國(guó)的行為，后者強(qiáng)調(diào)該行為的違法性認(rèn)定不要求國(guó)家存在主觀過(guò)錯(cuò)。《草案》在第4—6條以及第8—11條中有限列舉了七類可歸因于一國(guó)的行為(6)這七類行為分別為：國(guó)家機(jī)關(guān)的行為、經(jīng)國(guó)家授權(quán)的行為、支配機(jī)關(guān)的行為、國(guó)家指揮或控制下的行為、正式當(dāng)局不存在或缺席時(shí)實(shí)施的行為、叛亂運(yùn)動(dòng)或其他運(yùn)動(dòng)的行為以及經(jīng)國(guó)家確認(rèn)的行為。。同時(shí)，第7條強(qiáng)調(diào)越權(quán)與違背指示的行為仍可歸因于一國(guó)。

從目前來(lái)看，除第11條規(guī)定的“經(jīng)國(guó)家確認(rèn)的行為”外，《草案》第4—6條以及第8—10條規(guī)定國(guó)家不法行為的實(shí)施者應(yīng)是個(gè)人或由個(gè)人組成的實(shí)體。但是，人工智能已經(jīng)具備信息收集、分析、決策，甚至執(zhí)行能力，從人工智能的自主程度來(lái)看，人工智能既可以充當(dāng)代表國(guó)家行為的個(gè)人或?qū)嶓w的工具，也可以直接經(jīng)國(guó)家授權(quán)或者自主決策而實(shí)施某項(xiàng)行為，例如實(shí)施違背指示的行為。在后一種情況下，當(dāng)人工智能的行為違反一國(guó)承擔(dān)的國(guó)際義務(wù)時(shí)，該行為無(wú)法直接歸因于一國(guó)，而是必須先行證明這些行為能夠歸于個(gè)人或?qū)嶓w。但是，當(dāng)這一行為是由全自動(dòng)機(jī)器實(shí)施時(shí)，這是一項(xiàng)艱難甚至不可能完成的任務(wù)[14]9。由此導(dǎo)致的結(jié)果是，國(guó)家可以利用人工智能的完全自主行為免除國(guó)家責(zé)任。因而，《草案》下一步的修改可以考慮在第4—6條以及第8—10條中增加行為主體可以為具有自主決策能力的人工智能的相關(guān)規(guī)定，從而將人工智能的行為直接歸因于國(guó)家。

關(guān)于國(guó)家責(zé)任形式，傳統(tǒng)責(zé)任類型依然適用于人工智能，例如賠償、保證不再重犯等。保證不再重犯主要針對(duì)嚴(yán)重的國(guó)際不法行為，受害國(guó)通常要求行為國(guó)保證不法行為不再發(fā)生，并附帶要求行為國(guó)采取某項(xiàng)特定措施或某種特定行為加以預(yù)防，例如擔(dān)保、新的立法[7]108-114。具體到人工智能領(lǐng)域，考慮到其潛在威脅與特殊性，保證不再重犯還需要行為國(guó)做出更多的努力，例如改編人工智能，甚至銷毀人工智能等特定行為類型。改編人工智能適用于通過(guò)改編算法就可以避免不法行為再次發(fā)生的情形。銷毀人工智能不僅僅是銷毀人工智能應(yīng)用的實(shí)體，而且應(yīng)當(dāng)對(duì)該項(xiàng)算法進(jìn)行永久封存，避免其再次被使用，但這一行為的適用應(yīng)當(dāng)限于無(wú)法通過(guò)改編算法避免不法行為再次發(fā)生的情形。

二、 人工智能對(duì)國(guó)際法具體領(lǐng)域的挑戰(zhàn)

人工智能對(duì)國(guó)際法的影響是多方面、有差異的，除了影響具有全局性的國(guó)際法基本原則外，也給國(guó)際法的具體領(lǐng)域帶來(lái)新的挑戰(zhàn)，突出體現(xiàn)在國(guó)際法居民制度、國(guó)際人道法、國(guó)際刑法、國(guó)際知識(shí)產(chǎn)權(quán)法、國(guó)際人權(quán)法以及國(guó)際海洋法和國(guó)際海事法等領(lǐng)域。

(一) 人工智能對(duì)國(guó)際法居民制度的挑戰(zhàn)

國(guó)際法居民制度包括國(guó)籍、外國(guó)人法律地位、引渡、庇護(hù)等制度[7]121-139。這些制度存在一定共性，規(guī)制的對(duì)象都是法律上的“人”，包括自然人和法人，而非國(guó)家或國(guó)際組織。國(guó)際法居民制度是否適用于人工智能取決于其是否屬于法律上的“人”。但是，具備深度學(xué)習(xí)功能的人工智能屬于新興事物，其法律地位仍處于模糊狀態(tài)。對(duì)此，學(xué)界的觀點(diǎn)也不統(tǒng)一。有的學(xué)者承認(rèn)人工智能的法律人格地位[15]95；有的學(xué)者則從自然人與法人的特征出發(fā)，否定人工智能的法律人格地位[16]131。

法律上的“人”享有權(quán)利能力，具有法律人格。從術(shù)語(yǔ)的起源來(lái)看，“人格”與“權(quán)利能力”都是確認(rèn)法律主體身份的工具(7)人格在字義上源于拉丁語(yǔ)的persona。persona原指戲臺(tái)上演員所戴的面具，在法律上系指一定的階級(jí)身份。在古羅馬法早期，只有同時(shí)具備自由人、家父和市民三個(gè)身份，才能獲得人格，成為民事主體。后來(lái)，在德國(guó)民法中，為了賦予團(tuán)體以人格，創(chuàng)造了“權(quán)利能力”的概念。參見王澤鑒《人格權(quán)法：法釋義學(xué)、比較法、案例研究》，(北京)北京大學(xué)出版社2013年版，第41頁(yè)；周枏《羅馬法原論》(上冊(cè))，(北京)商務(wù)印書館1994年版，第106-107頁(yè)；付翠英《人格·權(quán)利能力·民事主體辨思》，載《法學(xué)》2006年第8期，第74-76頁(yè)。。人是權(quán)利的主體，分為自然人與法人[17]37。人工智能不是生物學(xué)意義上的人，不具備人類的理性思維和倫理觀[18]5-8，難以成為自然人。因而，有學(xué)者認(rèn)為在符合法人設(shè)立的標(biāo)準(zhǔn)時(shí)，人工智能可以成為國(guó)家法律管轄的法人[15]95。也有學(xué)者認(rèn)為將人工智能確認(rèn)為法人實(shí)體是非常現(xiàn)實(shí)和有希望的，可以為其提供“電子身份”(“電子實(shí)體”)的法律地位[19]139。從更長(zhǎng)遠(yuǎn)的角度看，人工智能的智能化程度將不斷提高。在超級(jí)人工智能階段，人工智能將遠(yuǎn)遠(yuǎn)超出人類智能(8)參見Russell S., ″Q & A: The Future of Artificial Intelligence,″ http://people.eecs.berkeley.edu/～russell/temp//q-and-a.html, 2020-01-31。。為了統(tǒng)治的需要，古羅馬設(shè)定“人格”制度以劃分人與人之間的等級(jí)，德國(guó)設(shè)定“權(quán)利能力”以區(qū)分不同的團(tuán)體。由于人工智能可以像人類一樣做出決定，在特定情形中將人工智能作為法律主體對(duì)待并賦予其權(quán)利義務(wù)是合理的[4]288。這里的特定情形應(yīng)當(dāng)限于具有自主決策能力的人工智能，而且目標(biāo)應(yīng)當(dāng)在于促進(jìn)人類更好地發(fā)展。

在獲得法律人格的同時(shí)，人工智能將享有法律賦予的權(quán)利能力和行為能力，并在其能力范圍內(nèi)承擔(dān)法律責(zé)任，進(jìn)而也會(huì)成為國(guó)際法上的居民。國(guó)際法居民制度必須考慮如何適用于人工智能。例如國(guó)籍制度，本質(zhì)是人的身份問(wèn)題[20]66，特指?jìng)€(gè)人具有某國(guó)的國(guó)民或公民法律資格[7]121。通常將人(包括公司)和財(cái)產(chǎn)歸于一個(gè)國(guó)家，需要采用國(guó)籍概念，特別是為了外交保護(hù)目的[8]527。自然人一般通過(guò)出生或加入兩種方式取得國(guó)籍；法人在符合法律規(guī)定設(shè)立時(shí)可以依據(jù)注冊(cè)登記地、住所地等取得一國(guó)國(guó)籍[21]93-94。人工智能取得國(guó)籍的標(biāo)準(zhǔn)和依據(jù)不能完全遵照自然人和法人取得國(guó)籍的方法。在取得國(guó)籍的標(biāo)準(zhǔn)方面，人工智能必須達(dá)到一定的智能程度。在依據(jù)方面，考慮到人工智能的非自然人特征，可以參照船舶、航空器等物體國(guó)籍的確定標(biāo)準(zhǔn)。例如，《聯(lián)合國(guó)海洋法公約》第91條、《國(guó)際民用航空公約》第17—21條以及《外空公約》第8條都分別確定了登記國(guó)對(duì)船舶、航空器和空間物體具有管轄權(quán)的一般標(biāo)準(zhǔn)。為了更好地確認(rèn)管轄權(quán)，人工智能也應(yīng)當(dāng)采取登記地作為國(guó)籍。各國(guó)有權(quán)自主規(guī)定人工智能獲得登記的條件，并允許符合條件的人工智能在其領(lǐng)土內(nèi)登記、給予標(biāo)示該國(guó)旗幟的權(quán)利并頒發(fā)相關(guān)證明文件。

(二) 人工智能對(duì)國(guó)際人道法的挑戰(zhàn)

近年來(lái)，人工智能被大量應(yīng)用于武器系統(tǒng)，促使武器系統(tǒng)的自主程度不斷提高，并逐漸脫離人類控制。盡管許多國(guó)家都宣稱，人類仍然在使用致命武器方面具有決定權(quán)，但聯(lián)合國(guó)的一份報(bào)告顯示，自動(dòng)化殺傷性機(jī)器人武器系統(tǒng)正在到來(lái)，目標(biāo)的自動(dòng)化處理在戰(zhàn)場(chǎng)上也只是時(shí)間問(wèn)題，例如以色列正在實(shí)施一項(xiàng)閉環(huán)邊界防御系統(tǒng)，由人工智能炮塔監(jiān)視邊界，無(wú)須任何人類干預(yù)，就能瞄準(zhǔn)目標(biāo)并攻擊它們[22]14-15。此類自主武器系統(tǒng)(autonomous weapons systems，簡(jiǎn)稱AWS)沒有士兵或飛行員按下發(fā)射器，而是由人工智能系統(tǒng)自己決定攻擊的時(shí)間與對(duì)象。因而，AWS已經(jīng)不再僅僅是傳統(tǒng)合法武器的升級(jí)，而是嚴(yán)重沖擊著國(guó)際人道法(9)國(guó)際人道法是從人道主義的原則出發(fā)給予戰(zhàn)爭(zhēng)受難者以必要保護(hù)的國(guó)際法律規(guī)范,主要包括1949年《日內(nèi)瓦公約》和1977年該公約的兩個(gè)附加議定書。關(guān)于禁止使用濫傷性武器、比例原則等的相關(guān)規(guī)定。

美國(guó)國(guó)防部在其2013年的指令3000.09中將AWS定義為：“一旦啟動(dòng)，就可以在沒有人類進(jìn)一步干預(yù)的情況下選擇和打擊目標(biāo)?！卑ㄈ祟惐O(jiān)督式自主武器系統(tǒng)，即人類保持對(duì)AWS干預(yù)和終止打擊的能力，以及半自主武器系統(tǒng)，即武器系統(tǒng)一旦被激活，僅用于瞄準(zhǔn)單個(gè)目標(biāo)或由操作人員選定的特定目標(biāo)群體[23]19。紅十字國(guó)際委員會(huì)從關(guān)鍵功能出發(fā)，認(rèn)為自主武器系統(tǒng)是指任何具有自主關(guān)鍵功能的武器系統(tǒng)，可以在不需要人為干預(yù)下選擇(搜索、檢測(cè)、識(shí)別、跟蹤)和攻擊(使用武力對(duì)抗、中和或破壞)目標(biāo)[24]5。可見，AWS的最大特征依然是自主決策能力。

根據(jù)《1949年8月12日日內(nèi)瓦四公約關(guān)于保護(hù)國(guó)際性武裝沖突受難者的附加議定書》(以下簡(jiǎn)稱《第一議定書》)第51條第4款的規(guī)定，濫傷性武器是指不能區(qū)分平民和軍事目標(biāo)的武器。在當(dāng)前進(jìn)階版弱人工智能水平下，AWS的辨別能力顯然低于受過(guò)長(zhǎng)期訓(xùn)練的軍人，因而難以準(zhǔn)確識(shí)別現(xiàn)實(shí)中平民與軍事目標(biāo)等復(fù)雜情況。同時(shí)，根據(jù)國(guó)際人道法的相關(guān)規(guī)定，指揮官或操作者在使用武器系統(tǒng)方面應(yīng)當(dāng)遵循比例原則(10)比例原則的完整表述在1977年《日內(nèi)瓦四公約關(guān)于保護(hù)國(guó)際性武裝沖突受難者的附加議定書(第一議定書)》第51條第5款b項(xiàng)中，指“可能附帶使平民生命受損失、平民受傷害、平民物體受損害或三種情形均有而且與預(yù)期的具體和直接軍事利益相比損害過(guò)分的攻擊”。與攻擊預(yù)防規(guī)則(11)攻擊預(yù)防規(guī)則完整表述在1977年《日內(nèi)瓦四公約關(guān)于保護(hù)國(guó)際性武裝沖突受難者的附加議定書(第一議定書)》第57條和58條關(guān)于攻擊時(shí)的預(yù)防措施和防止攻擊影響的預(yù)防措施的規(guī)定中。，尋求軍事需要與平民保護(hù)兩種價(jià)值之間的平衡，防止平民與民用物體的損失。關(guān)于比例原則，更是要求綜合各種因素定性評(píng)估(12)參見Wanger M., ″Taking Humans Out of the Loop: Implications for International Humanitarian Law,″ Journal of Law Information and Science, Vol.21, No.2 (2012), p.165。。AWS的自主決策能力顯然無(wú)法滿足比例原則與攻擊預(yù)防原則的基本要求。

鑒于此，國(guó)際社會(huì)禁止使用致命性自主武器系統(tǒng)(lethal autonomous weapons systems，簡(jiǎn)稱LAWS)的呼聲不斷。根據(jù)停止殺手機(jī)器人運(yùn)動(dòng)組織(The Campaign to Stop Killer Robots)的報(bào)告，自2013年3月30日巴基斯坦呼吁禁止LAWS至2016年12月13日，已有19個(gè)國(guó)家發(fā)出同樣禁止的呼聲(13)The Campaign to Stop Killer Robots, ″Country Views on Killer Robots,″ https://www.stopkillerrobots.org/wp-content/uploads/2013/03/KRC_CountryViews_May2017.pdf, 2020-01-31.。2014年5月，聯(lián)合國(guó)《特定常規(guī)武器公約》締約國(guó)通過(guò)非正式專家會(huì)議的形式討論是否有理由禁止LAWS(14)United Nations, ″Report of the 2014 Informal Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS),″ https://documents-dds-ny.un.org/doc/UNDOC/GEN/G14/048/96/PDF/G1404896.pdf?OpenElement, 2020-01-31.，吸引了各國(guó)、聯(lián)合國(guó)組織、紅十字國(guó)際委員會(huì)和非政府組織的廣泛參與(15)UN Meeting Targets ″Killer Robots″, https://news.un.org/en/story/2014/05/468302-un-meeting-targets-killer-robots, 2020-01-31.。

但是，已經(jīng)發(fā)展AWS的國(guó)家不會(huì)希望以任何方式限制其軍事使用。因而，需要國(guó)際關(guān)注和改變現(xiàn)有法律以應(yīng)對(duì)這些挑戰(zhàn)，而不是預(yù)先強(qiáng)加一套新的禁止規(guī)則或暫停發(fā)展AWS[25]411。現(xiàn)階段可以通過(guò)修改國(guó)際人道法使其能夠適用于AWS，以解決軍事行動(dòng)期間人工智能的強(qiáng)制性行為，并為各國(guó)在國(guó)際法下確立何時(shí)能夠授權(quán)AWS進(jìn)行操作和攻擊提供一個(gè)標(biāo)準(zhǔn)[4]240。

(三) 人工智能對(duì)國(guó)際刑法的挑戰(zhàn)

當(dāng)人工智能代表個(gè)人做出《國(guó)際刑事法院規(guī)約》(以下簡(jiǎn)稱《羅馬規(guī)約》)禁止的行為時(shí)，會(huì)產(chǎn)生責(zé)任主體認(rèn)定、歸因方式與責(zé)任類型等新的問(wèn)題。根據(jù)《羅馬規(guī)約》第1條、第5條的規(guī)定，國(guó)際刑事法院對(duì)個(gè)人所犯的滅絕種族罪、危害人類罪、戰(zhàn)爭(zhēng)罪及侵略罪行使管轄權(quán)。這里的“個(gè)人”僅指自然人，非自然人的法人、國(guó)家、國(guó)際組織皆不能承擔(dān)國(guó)際刑事責(zé)任。當(dāng)具有自主決策能力的人工智能實(shí)體做出滅絕種族、危害人類、違反戰(zhàn)爭(zhēng)法或侵略的行為時(shí)，首先產(chǎn)生的問(wèn)題是由人工智能自身承擔(dān)責(zé)任，還是由人工智能背后的控制人或他人承擔(dān)責(zé)任。根據(jù)《羅馬規(guī)約》的規(guī)定，人工智能實(shí)體并不具有承擔(dān)個(gè)人刑事責(zé)任的資格。未來(lái)人工智能即使被賦予法律人格，其最終承擔(dān)的刑事責(zé)任類型也很有限，往往難以與其造成的行為后果相匹配，不符合刑法“罪刑相適應(yīng)”的原則。因而，為了維護(hù)人類的生存利益，防止個(gè)人利用人工智能逃避責(zé)任，個(gè)人仍應(yīng)當(dāng)是唯一的國(guó)際刑事責(zé)任承擔(dān)者。

當(dāng)人工智能介入時(shí)，產(chǎn)生的主要問(wèn)題是誰(shuí)應(yīng)當(dāng)對(duì)人工智能的行為承擔(dān)刑事責(zé)任，以及如何將人工智能的行為歸因于個(gè)人。在責(zé)任主體方面，是程序員、控制人工智能機(jī)器的上司、采用這種戰(zhàn)爭(zhēng)方法的軍事指揮官，還是命令軍事指揮官采取任何有效戰(zhàn)爭(zhēng)方法的政治領(lǐng)導(dǎo)人[14]8-9？在此，不能將人工智能實(shí)體簡(jiǎn)單地類比為指揮官。因?yàn)槿斯ぶ悄苋鄙倮硇院蛡惱砼袛嗟哪芰?，完全遵從算法的指令。因而，在?zé)任主體制度的構(gòu)建上，仍需系統(tǒng)考慮人工智能實(shí)體的特殊性與智能化程度。在歸因方式上，宜采取過(guò)錯(cuò)歸因原則，只有負(fù)有監(jiān)督職責(zé)的人，或者與其交互的人存在過(guò)錯(cuò)，才需承擔(dān)由人工智能行為產(chǎn)生的法律責(zé)任。

同時(shí)，個(gè)人承擔(dān)的刑事責(zé)任還須附加一項(xiàng)特殊的刑罰類型，即對(duì)其控制的人工智能實(shí)體進(jìn)行改造以符合法律規(guī)定，或者直接毀滅。在刑事責(zé)任的類型上，鑒于人工智能感受不到痛苦，需要選擇其他的懲罰方式，例如失能與修復(fù)等方式[26]71。當(dāng)前，《羅馬規(guī)約》中尚無(wú)任何關(guān)于人工智能的規(guī)定，亟須對(duì)相關(guān)的責(zé)任主體、歸因方式與責(zé)任類型做出一般規(guī)定。

(四) 人工智能對(duì)國(guó)際知識(shí)產(chǎn)權(quán)法的挑戰(zhàn)

人工智能的生成之物一般通過(guò)兩種方式產(chǎn)生：一是人工智能被人類用作工具，受到人類的直接控制；二是人工智能自主生成。在第一種方式下，人工智能生成之物的知識(shí)產(chǎn)權(quán)應(yīng)當(dāng)屬于人類；在第二種方式下，由于具體創(chuàng)作過(guò)程缺少人類的參與，人工智能生成之物是否符合發(fā)明、作品或商標(biāo)的標(biāo)準(zhǔn)以及歸屬權(quán)等問(wèn)題仍存在一定爭(zhēng)議。有學(xué)者認(rèn)為在缺少人類干預(yù)時(shí)，人工智能生成的內(nèi)容具有隨機(jī)性，缺乏個(gè)性特征，并不符合獨(dú)創(chuàng)性的要求[27]154-155。但是，創(chuàng)造型人工智能已經(jīng)出現(xiàn)，并且在過(guò)去幾十年里悄然發(fā)展起來(lái)[4]257。人工智能生成的具有價(jià)值與創(chuàng)新性的發(fā)明、作品或商標(biāo)應(yīng)當(dāng)受到法律的保護(hù)，以鼓勵(lì)創(chuàng)新，促進(jìn)經(jīng)濟(jì)、文化的發(fā)展。在具體方式上，當(dāng)人工智能在沒有任何有意義的人類交互干預(yù)下自主創(chuàng)造新的知識(shí)產(chǎn)權(quán)時(shí)，人工智能本身應(yīng)當(dāng)被視為作者或發(fā)明者，但在其進(jìn)入公共領(lǐng)域之前，人工智能的創(chuàng)造者應(yīng)當(dāng)對(duì)此享有10年的版權(quán)或?qū)＠麢?quán)。由此，既可鼓勵(lì)編程者開發(fā)具有自主創(chuàng)新能力的新程序，也能加快該產(chǎn)品進(jìn)入公共領(lǐng)域的進(jìn)度[4]291。

在人工智能生成之物在國(guó)內(nèi)逐漸獲得知識(shí)產(chǎn)權(quán)的同時(shí)，各國(guó)關(guān)于人工智能生成之物的保護(hù)標(biāo)準(zhǔn)也將不可避免地產(chǎn)生矛盾，尤其是在部分國(guó)家承認(rèn)人工智能自主生成之物的知識(shí)產(chǎn)權(quán)而某些國(guó)家不承認(rèn)的情況下，當(dāng)未保護(hù)國(guó)的國(guó)民侵犯該知識(shí)產(chǎn)權(quán)時(shí)，權(quán)利人僅能在受保護(hù)國(guó)主張權(quán)利，這顯然不利于知識(shí)產(chǎn)權(quán)的保護(hù)，因而需要國(guó)際知識(shí)產(chǎn)權(quán)法(16)主要指《保護(hù)文學(xué)和藝術(shù)作品伯爾尼公約》《保護(hù)工業(yè)產(chǎn)權(quán)巴黎公約》以及《與貿(mào)易有關(guān)的知識(shí)產(chǎn)權(quán)協(xié)定》。積極進(jìn)行協(xié)調(diào)。但是，當(dāng)前國(guó)際知識(shí)產(chǎn)權(quán)法對(duì)人工智能生成之物尚無(wú)任何規(guī)定。隨著科技的發(fā)展，國(guó)際社會(huì)一直在努力推動(dòng)知識(shí)產(chǎn)權(quán)法的更新，知識(shí)產(chǎn)權(quán)保護(hù)的范圍也在不斷擴(kuò)大，例如計(jì)算機(jī)程式與數(shù)據(jù)。為了使人工智能自主生成之物受到應(yīng)有的保護(hù)，國(guó)際社會(huì)應(yīng)當(dāng)設(shè)定最低的保護(hù)標(biāo)準(zhǔn)，在諸如人工智能生成之物的歸屬、保護(hù)期限等方面，各國(guó)應(yīng)當(dāng)具有一致性。

(五) 人工智能對(duì)國(guó)際人權(quán)法的挑戰(zhàn)

傳統(tǒng)上，國(guó)際人權(quán)法面臨的挑戰(zhàn)往往來(lái)自恐怖主義、戰(zhàn)爭(zhēng)、貧困與環(huán)境惡化等方面。在智能時(shí)代，國(guó)際人權(quán)法還面臨人工智能的嚴(yán)峻挑戰(zhàn)。一方面，人工智能將會(huì)沖擊國(guó)際人權(quán)法的部分規(guī)定，例如人權(quán)的主體、人權(quán)的內(nèi)容；另一方面，人工智能的不當(dāng)利用會(huì)導(dǎo)致嚴(yán)重侵害人權(quán)的行為，例如人類利用自主武器系統(tǒng)做出違反國(guó)際人道法與國(guó)際刑法的行為，將會(huì)嚴(yán)重危害其他人的生命、財(cái)產(chǎn)、自由、發(fā)展、可獲得的食物水源等。

國(guó)際人權(quán)法的發(fā)展經(jīng)歷了漫長(zhǎng)的過(guò)程，真正意義上的國(guó)際人權(quán)保護(hù)文件出現(xiàn)在二戰(zhàn)以后?！堵?lián)合國(guó)憲章》中有關(guān)人權(quán)的條款為保護(hù)人權(quán)奠定了基礎(chǔ)，1966年通過(guò)的兩個(gè)人權(quán)公約(《經(jīng)濟(jì)、社會(huì)和文化權(quán)利國(guó)際公約》《公民權(quán)利和政治權(quán)利國(guó)際公約》)及一個(gè)議定書進(jìn)一步細(xì)化了人權(quán)的基本內(nèi)容[8]634-638。人權(quán)既包括個(gè)人權(quán)利，也包括集體權(quán)利(17)集體權(quán)利包括民族自決權(quán)、發(fā)展權(quán)、環(huán)境權(quán)、和平權(quán)等，參見白桂梅《論新一代人權(quán)》，載《法學(xué)研究》1991年第5期，第3-4頁(yè)。。根據(jù)國(guó)際人權(quán)保護(hù)文件的規(guī)定，人類是人權(quán)的唯一主體(18)例如《聯(lián)合國(guó)憲章》第1條，《公民權(quán)利和政治權(quán)利國(guó)際公約》與《經(jīng)濟(jì)、社會(huì)、文化權(quán)利國(guó)際公約》的序言部分都強(qiáng)調(diào)了人權(quán)的主體是人類。。但是，人權(quán)的主體具有擴(kuò)大的趨勢(shì)。先有關(guān)于集體權(quán)利的主體是個(gè)人還是集體的爭(zhēng)議[28]4-5，后有人權(quán)主體從生命主體到人格主體的擴(kuò)展[29]55-57。例如，法人在諸多國(guó)內(nèi)法律和國(guó)際條約中已經(jīng)獲得部分人權(quán)(19)1950年《歐洲人權(quán)公約第一補(bǔ)充議定書》第10條規(guī)定:“每個(gè)自然人或法人有權(quán)和平享有其財(cái)產(chǎn)。”參見徐顯明、曲相霏《人權(quán)主體界說(shuō)》，載《中國(guó)法學(xué)》2001年第2期，第55-57頁(yè)。，突破了建立在人類尊嚴(yán)基礎(chǔ)上人權(quán)主體的唯一性(20)有學(xué)者認(rèn)為人的尊嚴(yán)是人權(quán)的基礎(chǔ)，參見[美]艾倫·格沃斯《作為權(quán)利基礎(chǔ)的人的尊嚴(yán)》，鐘夏露、孫雨菲編譯，載《中國(guó)人權(quán)評(píng)論》2015年第2期，第153頁(yè)。。

當(dāng)前，人工智能已經(jīng)應(yīng)用于人類生活、學(xué)習(xí)和工作的各個(gè)領(lǐng)域，并在逐步取代人類的工作。未來(lái)，人工智能的水平會(huì)不斷提高，甚至可能超越人類，成為人類生存的主要工具。為了維護(hù)人類的利益，法人被逐步賦予部分人權(quán)。人工智能在成為人類利益的主要?jiǎng)?chuàng)造者和維護(hù)者的時(shí)候，也可能被賦予人權(quán)的部分內(nèi)容，例如財(cái)產(chǎn)權(quán)、勞動(dòng)權(quán)。但是，人工智能擁有人權(quán)的目的限于保護(hù)人類的利益。例如，賦予部分“情感陪護(hù)型機(jī)器人”以人權(quán)，目的是保護(hù)被陪護(hù)人的權(quán)益。因而，當(dāng)人工智能涉及人的情感、利益以及人獲得陪伴、幫助的權(quán)利時(shí)，人工智能會(huì)因此獲得一些“邊際人權(quán)”。但是，當(dāng)前《聯(lián)合國(guó)憲章》第1條以及《世界人權(quán)宣言》、兩個(gè)人權(quán)公約的序言部分規(guī)定的人權(quán)主體仍僅限于人類，未來(lái)，國(guó)際人權(quán)法需要對(duì)此做出特別規(guī)定。

(六) 人工智能對(duì)國(guó)際海洋法、國(guó)際海事法的挑戰(zhàn)

在海上航行方面，與無(wú)人駕駛汽車和無(wú)人機(jī)類似的是，人工智能技術(shù)的應(yīng)用使無(wú)人船舶成為現(xiàn)實(shí)。由于當(dāng)前人工智能在國(guó)際海洋法、國(guó)際海事法領(lǐng)域中帶來(lái)的挑戰(zhàn)都是由無(wú)人船舶引起的，因而本文將這兩部分放在一起討論。無(wú)人船舶最終的發(fā)展方向是船上沒有人員的完全自動(dòng)航行[30]60。和人類駕駛型船舶相比，無(wú)人船舶在節(jié)約成本、降低風(fēng)險(xiǎn)等方面具有獨(dú)特優(yōu)勢(shì)。雖然當(dāng)前關(guān)于無(wú)人船舶的嘗試大多都是學(xué)術(shù)性質(zhì)的，但有一些組織正在尋求將該技術(shù)商業(yè)化[31]198。未來(lái)，無(wú)人船舶也將會(huì)被用于貨物托運(yùn)、乘客運(yùn)送等諸多工作中。但是，當(dāng)前國(guó)際航運(yùn)規(guī)范、海洋法和國(guó)際海事法的前提是人的存在和控制船舶(21)Chircop A., ″Testing International Legal Regimes: The Advent of Automated Commercial Vessels,″ German Yearbook of International Law, Vol.60 (2017), p.109.，因而需要重新審視相關(guān)國(guó)際法規(guī)范以確定哪些可以適用于無(wú)人船舶，哪些不能適用于無(wú)人船舶。在不能適用時(shí)，應(yīng)當(dāng)做出怎樣的改變。

關(guān)于“船舶”一詞，不同國(guó)際條約的規(guī)定并不相同，有的甚至沒有做出規(guī)定(22)《聯(lián)合國(guó)海洋法公約》未對(duì)船舶一詞做出具體規(guī)定，而《國(guó)際防止船舶造成污染公約》第2條規(guī)定，船舶包括在海洋環(huán)境中運(yùn)行的任何類型的船舶。，其實(shí)，無(wú)人船舶除了缺少船員外，與傳統(tǒng)船舶并無(wú)區(qū)別，暫且假定無(wú)人船舶屬于船舶的一種。作為船舶，無(wú)人船舶的航行也需要考慮適航標(biāo)準(zhǔn)、航行規(guī)則、海上合同、海事賠償責(zé)任等諸多問(wèn)題，涉及復(fù)雜的國(guó)際規(guī)則。尤其是依據(jù)不同的標(biāo)準(zhǔn)，無(wú)人船舶可以被分為不同的類型(23)例如，根據(jù)是否載人載物，無(wú)人船舶可分為載人無(wú)人船舶、載物無(wú)人船舶以及空船無(wú)人船舶三類。根據(jù)人類控制程度的不同，無(wú)人船舶可分為遙控船舶、自動(dòng)化船舶與自主船舶三類，自動(dòng)化船舶又可進(jìn)一步分類為人為控制、人工授權(quán)控制和人為監(jiān)控控制三類。根據(jù)是否在水面航行，無(wú)人船舶可分為無(wú)人水面艦艇和無(wú)人潛艇兩類?！翱沾痹谧獯瑯I(yè)務(wù)中通常指配備了船員卻沒有載貨或者載客的船舶，將“空船”與“無(wú)人”結(jié)合指代沒有載貨和載客且沒有船員的船舶。參見Chwedczuk M., ″Analysis of the Legal Status of Unmanned Commercial Vessels in U.S. Admiralty and Maritime Law,″ Journal of Maritime Law and Commerce, Vol.47, No.2 (2016), pp.128-130; Schmitt M.N. & Goddard D.S., ″International Law and the Military Use of Unmanned Maritime Systems,″ International Review of the Red Cross, Vol.98, No.2 (2016), p.571。，不同類型的無(wú)人船舶所適用的規(guī)則存在一定差異，由此也進(jìn)一步加劇了國(guó)際規(guī)則的復(fù)雜程度。

例如，在無(wú)人船舶的航行規(guī)則方面，根據(jù)《聯(lián)合國(guó)海洋法公約》(United Nations Convention on the Law of the Sea，簡(jiǎn)稱UNCLOS)第17條和第58條的規(guī)定，船舶在他國(guó)領(lǐng)海享有無(wú)害通過(guò)權(quán)、在專屬經(jīng)濟(jì)區(qū)享有航行自由等航行權(quán)利。雖然UNCLOS在制定之初沒有考慮無(wú)人船舶，而且在第94條要求船旗國(guó)采取保證船舶海上航行安全的必要措施，其中就包括船員的資格和人數(shù)要求，但是鑒于UNCLOS中的大部分內(nèi)容已經(jīng)成為習(xí)慣國(guó)際法，無(wú)人船舶也應(yīng)當(dāng)享有類似的權(quán)利并履行同等的義務(wù)。同時(shí)，考慮到無(wú)人船舶的特殊性質(zhì)和潛在危險(xiǎn)性，沿海國(guó)對(duì)無(wú)人船舶也應(yīng)當(dāng)享有特殊的管轄權(quán)。例如，UNCLOS第22條規(guī)定沿海國(guó)指定或規(guī)定海道和分道通航制，可以適用于無(wú)人船舶。為了方便沿海國(guó)的管轄，無(wú)人船舶本身應(yīng)當(dāng)具有特殊的足以被辨別的標(biāo)記，或者由船舶所有者主動(dòng)向沿海國(guó)做特別報(bào)告。

值得注意的是，在UNCLOS中軍艦享有特殊的權(quán)利，例如主權(quán)豁免權(quán)、扣押實(shí)施海盜行為的船舶、登臨權(quán)、緊追權(quán)，并參與旨在保護(hù)海洋環(huán)境的執(zhí)法行動(dòng)(24)參見《聯(lián)合國(guó)海洋法公約》第32條，第107條，第110條，第111條，第224條。。由于軍艦需要軍官指揮并配備服從正規(guī)武裝部隊(duì)紀(jì)律的船員(25)參見《聯(lián)合國(guó)海洋法公約》第29條。，無(wú)人船舶往往難以滿足軍艦的要求。但是，為政府服務(wù)的其他船舶也具有同樣的權(quán)利(26)參見《聯(lián)合國(guó)海洋法公約》第32條，第107條，第110條第5款，第111條第5款，第224條。。除此之外，UNCLOS并沒有施加更多的標(biāo)準(zhǔn)。這意味著只要無(wú)人船舶具有相應(yīng)的標(biāo)記并有資格成為船舶，則沒有其他原因可以阻礙無(wú)人船舶由政府授權(quán)行使軍艦享有的特殊權(quán)利[32]579。

此外，在海事賠償責(zé)任方面，對(duì)于受遠(yuǎn)程控制和監(jiān)督的無(wú)人船舶，控制人、監(jiān)督者和船舶所有者應(yīng)當(dāng)對(duì)事故承擔(dān)責(zé)任。但是，完全自主的船舶在造成海洋污染或發(fā)生船舶碰撞事故時(shí)，應(yīng)當(dāng)由誰(shuí)承擔(dān)責(zé)任？是所有者、設(shè)計(jì)者、建造人，還是船旗國(guó)？同時(shí)，在追責(zé)過(guò)程中還面臨主觀注意義務(wù)如何確定的困境。例如《國(guó)際海上避免碰撞規(guī)則》第7條要求船舶判斷是否存在碰撞危險(xiǎn)，第8條規(guī)定了避免碰撞的行動(dòng)。由于無(wú)人船舶難以做出理性人的分析，在涉及無(wú)人船舶的事故中進(jìn)行疏忽分析往往存在困難[33]421。因而，法律要求的注意義務(wù)目前只能由無(wú)人船舶的所有者或設(shè)計(jì)者在過(guò)錯(cuò)原則的基礎(chǔ)上承擔(dān)。

三、 國(guó)際法應(yīng)對(duì)人工智能挑戰(zhàn)的途徑

大數(shù)據(jù)時(shí)代，直覺的判斷被迫讓位于精準(zhǔn)的數(shù)據(jù)分析[34]21，人類的衣、食、住、行都被迫與人工智能密切聯(lián)系。在強(qiáng)人工智能時(shí)代，人工智能表現(xiàn)出明顯的智能行為，至少在整個(gè)認(rèn)知任務(wù)中，與人類一樣先進(jìn)[1]7。艾薩克·阿西莫夫曾在短篇科幻小說(shuō)《環(huán)舞》中首次提出機(jī)器人學(xué)的三大法則(27)第一法則，“機(jī)器人不得傷害人，或者坐視人類受到傷害而袖手旁觀”；第二法則，“除非違背第一法則，否則機(jī)器人必須服從人類命令”；第三法則，“在不違背第一及第二法則的前提下，機(jī)器人必須盡可能地保護(hù)自己”。。雖然這些法則針對(duì)的對(duì)象不包括其他類型的人工智能實(shí)體與研發(fā)者，但是也對(duì)今天如火如荼開展的人工智能研發(fā)提出了頗有價(jià)值的建議。人工智能的應(yīng)用在促進(jìn)社會(huì)發(fā)展的同時(shí)，也會(huì)產(chǎn)生嚴(yán)峻的安全問(wèn)題，不排除人工智能的研發(fā)被用于實(shí)現(xiàn)非法目的，甚至走到人類難以控制的地步?；诖?，正確處理人工智能技術(shù)發(fā)展與國(guó)際法的關(guān)系顯得尤為重要。為此，國(guó)際社會(huì)必須確立以人工智能安全使用為價(jià)值的目標(biāo)，始終以其對(duì)人類社會(huì)的影響為指導(dǎo)，積極引導(dǎo)人工智能健康發(fā)展，在防范風(fēng)險(xiǎn)的同時(shí)為人工智能技術(shù)的發(fā)展留有必要的制度空間。

(一) 制定國(guó)際軟法

國(guó)際軟法是沒有作為條約或習(xí)慣國(guó)際法的地位的形式性國(guó)際文書，亦是在形成過(guò)程中的未成熟規(guī)范的總稱[35]2。在變革過(guò)程中的法領(lǐng)域，由于新規(guī)則的形成存在困難，往往首先用“軟法”形式的文件抽象性地確認(rèn)這些規(guī)則，然后通過(guò)國(guó)家慣常的積累，將成熟的“軟法”凝固、結(jié)晶化為“硬法”[35]2。在國(guó)際軟法中，存在一種超級(jí)軟法，其制定主體是相關(guān)利益方、專業(yè)團(tuán)體、社會(huì)和自然科學(xué)家、公司以及民間社會(huì)組織形成的無(wú)政府無(wú)領(lǐng)導(dǎo)的立法機(jī)構(gòu)[15]106。在其制定普遍適用的標(biāo)準(zhǔn)時(shí)，沒有任何傳統(tǒng)的國(guó)際法制定者參與其中，例如主權(quán)國(guó)家、國(guó)際組織等[15]106。從軟法發(fā)展的歷史來(lái)看，其產(chǎn)生的原因主要是新事物的出現(xiàn)和硬法制定的滯后。為了有效治理新事物，不得不率先制定軟法。

人工智能屬于新興領(lǐng)域，許多國(guó)家的人工智能技術(shù)尚處于起步或前期發(fā)展階段。雖然主權(quán)國(guó)家自身會(huì)出臺(tái)相關(guān)指導(dǎo)性規(guī)則、行業(yè)調(diào)整規(guī)則等，但是在短期內(nèi)，各國(guó)難以締結(jié)具有約束力的國(guó)際規(guī)范。而人工智能的安全問(wèn)題不容忽視，其發(fā)展需要得到有效規(guī)范。因此，人工智能的相關(guān)利益方、研發(fā)者、公司以及民間社會(huì)組織可以率先組織起來(lái)，盡快制定關(guān)于人工智能安全和倫理的技術(shù)標(biāo)準(zhǔn)。與網(wǎng)絡(luò)領(lǐng)域的代碼類似，這些標(biāo)準(zhǔn)將用于解決人工智能的安全和倫理問(wèn)題。我國(guó)阿里巴巴、科大訊飛等科技公司的部分人工智能技術(shù)已經(jīng)處于世界前列，應(yīng)當(dāng)抓住這種領(lǐng)先優(yōu)勢(shì)，主動(dòng)制定或牽頭制定相關(guān)超級(jí)軟法，從而掌握人工智能技術(shù)標(biāo)準(zhǔn)的話語(yǔ)權(quán)。同時(shí)，相關(guān)國(guó)際組織也應(yīng)當(dāng)積極制定規(guī)范人工智能的軟法規(guī)則。

值得注意的是，國(guó)際軟法都缺少法律約束力。網(wǎng)絡(luò)領(lǐng)域隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展逐漸制定了硬法，形成了“軟硬結(jié)合”的治理方式。在人工智能領(lǐng)域制定國(guó)際軟法雖然能夠解決技術(shù)問(wèn)題和一定的倫理問(wèn)題，但其不具有約束力，而且難以應(yīng)對(duì)層出不窮的新型社會(huì)問(wèn)題和倫理問(wèn)題。此外，網(wǎng)絡(luò)域名和地址分配規(guī)則與人工智能標(biāo)準(zhǔn)存在明顯不同。前者屬于靜態(tài)技術(shù)，由于網(wǎng)絡(luò)的交互性和普遍性特征，各國(guó)需要遵循統(tǒng)一的標(biāo)準(zhǔn)；而后者仍處在動(dòng)態(tài)發(fā)展過(guò)程中，任何國(guó)家、團(tuán)體或個(gè)人在掌握技術(shù)的情況下皆可創(chuàng)造人工智能實(shí)體，缺少遵循統(tǒng)一標(biāo)準(zhǔn)的動(dòng)力。未來(lái)人工智能發(fā)展的高度可能超出人類所能控制的范疇，引發(fā)更深層次的倫理問(wèn)題，因而需要相關(guān)的國(guó)內(nèi)法以及國(guó)際法予以指導(dǎo)、規(guī)制和保護(hù)。

(二) 修改和出臺(tái)多邊條約

解決各國(guó)之間有關(guān)人工智能的爭(zhēng)議、潛在問(wèn)題以及沖突的最好的辦法就是通過(guò)多邊條約的形式[4]235。經(jīng)過(guò)長(zhǎng)期發(fā)展，部分軟法硬法化是必須進(jìn)行的立法工作。軟法不具有強(qiáng)制力，其作用更多體現(xiàn)為指導(dǎo)性和宣示性。而人工智能仍處于發(fā)展之中，在必須設(shè)置強(qiáng)義務(wù)責(zé)任領(lǐng)域內(nèi)仍然需要硬法進(jìn)行規(guī)制。另一方面，軟法由于在解釋上具有更大的隨意性，也難以在司法程序范圍內(nèi)發(fā)展適用甚至改進(jìn)，給國(guó)際法治建設(shè)帶來(lái)不穩(wěn)定因素。因此，將來(lái)有必要將部分人工智能軟法硬法化，促成相關(guān)多邊條約的出臺(tái)。同時(shí)，通過(guò)修改多邊國(guó)際規(guī)則，例如國(guó)家責(zé)任原則中的具體內(nèi)容，實(shí)現(xiàn)對(duì)人工智能的有效規(guī)范，避免出現(xiàn)法律漏洞的情況，及時(shí)解決人工智能對(duì)這些規(guī)則提出的挑戰(zhàn)，形成全球性的風(fēng)險(xiǎn)防控機(jī)制。

當(dāng)前，尚無(wú)任何國(guó)家或人權(quán)組織去關(guān)注弱人工智能演化為進(jìn)階版人工智能甚至強(qiáng)人工智能的后果。這本是一個(gè)應(yīng)該早在科學(xué)家、計(jì)算機(jī)工程師和程序員成功創(chuàng)建單個(gè)或多個(gè)超智能機(jī)器人或能控制地球的機(jī)器之前，就需要解決的可能對(duì)人類產(chǎn)生重大影響的問(wèn)題[14]10-11。在現(xiàn)實(shí)生活中，人類在從事一定行業(yè)時(shí)往往需要一定的培訓(xùn)并取得資格證書和職業(yè)證書，人工智能在具體應(yīng)用到某一領(lǐng)域時(shí)也應(yīng)達(dá)到相應(yīng)的標(biāo)準(zhǔn)[2]419。對(duì)此，國(guó)際社會(huì)宜設(shè)定人工智能的使用標(biāo)準(zhǔn)[4]240-241，以便監(jiān)督管理。

在人工智能武器系統(tǒng)領(lǐng)域，非政府組織Article 36提出了“有意義的人類控制”(Meaningful Human Control)這一新興概念，作為解決AWS所帶來(lái)的挑戰(zhàn)的一種可能方案[36]1，并得到聯(lián)合國(guó)《特定常規(guī)武器公約》締約國(guó)的廣泛認(rèn)同(28)Article 36, ″Article 36 Reviews and Addressing Lethal Autonomous Weapons Systems,″ http://www.article36.org/wp-content/uploads/2016/04/LAWS-and-A36.pdf, 2020-01-31.。該組織將滿足人類控制的關(guān)鍵要素總結(jié)為四點(diǎn)：第一，技術(shù)是可預(yù)測(cè)的、可靠的和透明的；第二，使用者必須擁有正確的信息；第三，及時(shí)的人類判斷、行動(dòng)和介入；第四，一定標(biāo)準(zhǔn)下的負(fù)責(zé)制[37]3-4。其實(shí)，無(wú)論是AWS，還是其他類型的人工智能實(shí)體，人類都應(yīng)當(dāng)始終對(duì)人工智能的發(fā)展和行為負(fù)責(zé)，以避免人工智能本身對(duì)人以及人類的權(quán)益造成損害。因而，任何人工智能實(shí)體都應(yīng)當(dāng)嚴(yán)格遵守“有意義的人類控制標(biāo)準(zhǔn)”。該標(biāo)準(zhǔn)應(yīng)當(dāng)以法律規(guī)范的形式固定下來(lái)，并貫穿于人工智能實(shí)體研發(fā)、制造和使用的全過(guò)程。

然而，修改與制定國(guó)際規(guī)則不是一蹴而就的事情，國(guó)家之間的利益分歧往往阻礙新規(guī)則的產(chǎn)生和發(fā)展。從國(guó)內(nèi)規(guī)則與國(guó)際規(guī)則的互動(dòng)規(guī)律來(lái)看，國(guó)內(nèi)規(guī)則與國(guó)際規(guī)則之間總是相互影響、相互促進(jìn)的(29)參見趙駿《全球治理視野下的國(guó)際法治與國(guó)內(nèi)法治》，載《中國(guó)社會(huì)科學(xué)》2014年第10期，第79-99頁(yè)；孔慶江、王藝琳《國(guó)際法與國(guó)內(nèi)法的關(guān)系:國(guó)際組織法律文件的視角》，載《武大國(guó)際法評(píng)論》2018年第1期，第50-76頁(yè)。。國(guó)內(nèi)規(guī)則在得到他國(guó)認(rèn)同的情況下可能會(huì)逐漸上升為國(guó)際規(guī)則，同時(shí)國(guó)際規(guī)則也會(huì)在主權(quán)國(guó)家承擔(dān)國(guó)際義務(wù)的范圍內(nèi)轉(zhuǎn)化為國(guó)內(nèi)規(guī)則。在人工智能領(lǐng)域，雖然尚未締結(jié)任何有約束力的國(guó)際規(guī)則，但是相關(guān)的國(guó)內(nèi)政策和規(guī)則已經(jīng)出現(xiàn)。在制定與修改國(guó)際規(guī)則的路徑上，部分主權(quán)國(guó)家可以選擇在分歧較小又亟須實(shí)現(xiàn)有效規(guī)范的技術(shù)標(biāo)準(zhǔn)領(lǐng)域率先締結(jié)雙邊或區(qū)域性條約，將國(guó)內(nèi)法的共識(shí)部分上升為國(guó)際條約。隨著人工智能的不斷發(fā)展，相關(guān)國(guó)際條約的加入國(guó)會(huì)不斷增加，反過(guò)來(lái)也會(huì)影響國(guó)內(nèi)規(guī)則的制定?？傮w上，多邊條約將會(huì)與相關(guān)行業(yè)規(guī)則、國(guó)家立法、國(guó)際示范法等相互影響、相互促進(jìn)。

(三) 設(shè)立專門性國(guó)際機(jī)構(gòu)

為了應(yīng)對(duì)人工智能在全球范圍內(nèi)帶來(lái)的機(jī)遇與挑戰(zhàn)，引導(dǎo)人工智能更好地服務(wù)于人類命運(yùn)共同體的建設(shè)，宜在國(guó)際層面設(shè)立人工智能的專門性國(guó)際機(jī)構(gòu)。考慮到各國(guó)之間的利益分歧，人工智能專門性國(guó)際機(jī)構(gòu)并不限于政府間國(guó)際組織。在職責(zé)方面，人工智能專門性國(guó)際機(jī)構(gòu)應(yīng)當(dāng)至少履行以下五個(gè)方面的職責(zé)：(1)關(guān)注并制定人工智能行業(yè)標(biāo)準(zhǔn)、技術(shù)與倫理規(guī)范；(2)人工智能研發(fā)的合規(guī)、國(guó)家規(guī)則協(xié)調(diào)及監(jiān)管；(3)人工智能技術(shù)與知識(shí)產(chǎn)權(quán)保護(hù)；(4)人工智能爭(zhēng)端與沖突解決；(5)人工智能與現(xiàn)有國(guó)際法體系的“融合”等等。

以人工智能的監(jiān)管為例，由于任何一國(guó)的強(qiáng)人工智能都可能變成對(duì)全人類的威脅，因而迫切需要實(shí)現(xiàn)全球性的監(jiān)管合作。根據(jù)《第一議定書》第36條的規(guī)定，一個(gè)國(guó)家具有自主審查新武器、作戰(zhàn)手段或方法的義務(wù)，以確定是否符合國(guó)際規(guī)定。然而，由于超智能機(jī)器以廣泛共享的人類理想為動(dòng)力，可以對(duì)人類控制新興技術(shù)的危險(xiǎn)方面更為有益，從而能夠提高國(guó)家的政治、經(jīng)濟(jì)和國(guó)防優(yōu)勢(shì)。沒有一個(gè)國(guó)家或公司會(huì)放棄研究人工智能，因?yàn)檠芯靠梢垣@得某些好處并制衡競(jìng)爭(zhēng)對(duì)手[19]139。因而，主權(quán)國(guó)家一般缺少足夠的動(dòng)力去執(zhí)行自主審查任務(wù)，需要獨(dú)立的第三方來(lái)履行監(jiān)督人工智能技術(shù)發(fā)展的責(zé)任。

作為尖端科技，人工智能技術(shù)在各國(guó)和私人機(jī)構(gòu)的研發(fā)和應(yīng)用一般處于保密狀態(tài)。但是，如果任由資本和利益驅(qū)動(dòng)的人工智能技術(shù)發(fā)展，可能會(huì)對(duì)公平、正義造成毀滅性打擊。在監(jiān)管方式上，各國(guó)和私人研發(fā)機(jī)構(gòu)應(yīng)當(dāng)定期向?qū)ｉT機(jī)構(gòu)報(bào)告研發(fā)進(jìn)程，同時(shí)在出現(xiàn)重大技術(shù)創(chuàng)新時(shí)也必須及時(shí)報(bào)告。在監(jiān)管對(duì)象上，應(yīng)當(dāng)局限于一定水平基礎(chǔ)上的人工智能核心程序或算法。雖然人工智能可以被應(yīng)用于各個(gè)領(lǐng)域，但是專門機(jī)構(gòu)的監(jiān)管范圍并不包括所有與人工智能相關(guān)的領(lǐng)域，而應(yīng)當(dāng)被限定在與人類安全息息相關(guān)的領(lǐng)域，例如武器系統(tǒng)等。

由于對(duì)人工智能技術(shù)的有效管理需要機(jī)構(gòu)擁有專業(yè)技術(shù)知識(shí)，因而監(jiān)管部門以及監(jiān)管過(guò)程的各個(gè)階段都需要高級(jí)專家的參與。對(duì)此，一方面，可以采取新型的人事分配和交換模式，即臨時(shí)性人事分配模式，讓專家在監(jiān)管機(jī)構(gòu)、大學(xué)、研發(fā)中心以及其他符合條件的組織之間定期流動(dòng)。另一方面，可以建設(shè)技術(shù)合作機(jī)制，由國(guó)際監(jiān)管機(jī)構(gòu)委托獨(dú)立技術(shù)機(jī)構(gòu)檢查、測(cè)試部分算法。同時(shí)，各國(guó)應(yīng)當(dāng)加大與人工智能有關(guān)的教育投入，培養(yǎng)一批專業(yè)的隊(duì)伍。

四、 結(jié) 語(yǔ)

人工智能的發(fā)展已經(jīng)成為不可阻擋的潮流和趨勢(shì)，也再次突顯了科技與法律的矛盾關(guān)系。追溯遠(yuǎn)古，如果將工具的使用看作科學(xué)創(chuàng)造、把規(guī)則的創(chuàng)制視為發(fā)明，那么科技與法律都是人類為了更好地生存和生活而進(jìn)行的文明構(gòu)建。人工智能的發(fā)展對(duì)社會(huì)各方面都產(chǎn)生了重大影響。在國(guó)際法領(lǐng)域，人工智能不僅極大地挑戰(zhàn)了國(guó)際法基本原則，而且深刻影響了國(guó)際法的具體領(lǐng)域。面對(duì)這些共同的挑戰(zhàn)和風(fēng)險(xiǎn)，亟須實(shí)現(xiàn)全球治理。盡管國(guó)際社會(huì)無(wú)法在短期內(nèi)達(dá)成較為一致的意見，從而制定國(guó)際法規(guī)予以管制，但是技術(shù)層面的自我規(guī)制可率先行動(dòng)。通過(guò)民間力量形成較為可行的技術(shù)標(biāo)準(zhǔn)，首先保障人工智能不越界，這也完全符合法的歷史軌跡——從共識(shí)到習(xí)慣再到規(guī)則。同時(shí)，國(guó)際法律工作者應(yīng)主動(dòng)參與人工智能相關(guān)軟法的制定，并適時(shí)促成相關(guān)多邊條約的出臺(tái)，設(shè)定“有意義的人類控制標(biāo)準(zhǔn)”，同時(shí)設(shè)立國(guó)際監(jiān)管機(jī)構(gòu)，實(shí)現(xiàn)對(duì)人工智能技術(shù)的有效引導(dǎo)、約束和規(guī)范，使人工智能的發(fā)展在法治的軌道上不斷推進(jìn)。