人工智能與國(guó)際安全治理路徑探討

【摘要】目前很難就全面禁止人工智能武器達(dá)成全球共識(shí)，更可行的做法可能是要求人工智能賦能武器的發(fā)展符合現(xiàn)有國(guó)際法規(guī)范。為此，各國(guó)需要就如何進(jìn)行風(fēng)險(xiǎn)防范尋求共識(shí)，共同努力構(gòu)建治理機(jī)制?，F(xiàn)階段是構(gòu)建人工智能國(guó)際安全規(guī)范的關(guān)鍵窗口期。目前中美兩國(guó)是在人工智能技術(shù)研究和應(yīng)用發(fā)展最快的國(guó)家，兩國(guó)需要在這個(gè)領(lǐng)域加強(qiáng)協(xié)調(diào)與合作。

【關(guān)鍵詞】人工智能 國(guó)際安全治理 【中圖分類號(hào)】D815 【文獻(xiàn)標(biāo)識(shí)碼】A

清華大學(xué)戰(zhàn)略與安全研究中心在“人工智能國(guó)際治理”框架下，于2019年6月啟動(dòng)了一項(xiàng)與美國(guó)布魯金斯學(xué)會(huì)進(jìn)行聯(lián)合研究的項(xiàng)目，研究中心主任傅瑩和美國(guó)布魯金斯學(xué)會(huì)會(huì)長(zhǎng)約翰·艾倫（John Allen）為項(xiàng)目總牽頭人。圍繞課題人工智能技術(shù)在安全領(lǐng)域的挑戰(zhàn)和治理問(wèn)題，兩國(guó)專家進(jìn)行了一系列二軌（非官方）對(duì)話和研討，在討論的基礎(chǔ)上分別就各項(xiàng)議題撰寫(xiě)了論文。據(jù)此，傅瑩和約翰·艾倫在美國(guó)Noema雜志分別發(fā)表文章，公布聯(lián)合研究成果，介紹雙方專家的討論和主要觀點(diǎn)，旨在提高國(guó)際社會(huì)和兩國(guó)各界對(duì)人工智能武器化風(fēng)險(xiǎn)的認(rèn)知和警惕，并提出治理建議。

約翰·艾倫在文章中提到，美中在人工智能等新興技術(shù)領(lǐng)域的戰(zhàn)略競(jìng)爭(zhēng)日益明顯，圍繞著“人工智能軍備競(jìng)賽”的說(shuō)法不絕于耳。為了避免不可控的軍備競(jìng)賽，他希望美中兩國(guó)專家組成的“人工智能與國(guó)際安全”研究團(tuán)隊(duì)所討論的安全關(guān)切，能夠在政府層面對(duì)話和非官方論壇中得到進(jìn)一步探討，特別是針對(duì)人工智能所構(gòu)成的國(guó)家安全風(fēng)險(xiǎn)，以降低這些風(fēng)險(xiǎn)發(fā)生的可能性。他認(rèn)為現(xiàn)在正是規(guī)范智能技術(shù)發(fā)展和應(yīng)用的關(guān)鍵期。因?yàn)橐坏┻@些技術(shù)被納入到軍事體系中，呼吁限制其在國(guó)家安全領(lǐng)域的應(yīng)用將極為困難。

以下為傅瑩文章正文：

近年來(lái)，人工智能技術(shù)的快速發(fā)展帶來(lái)了巨大機(jī)遇，但是技術(shù)革命也往往伴隨不可預(yù)知的安全挑戰(zhàn)，尤其需要關(guān)注人工智能技術(shù)武器化的道德和技術(shù)風(fēng)險(xiǎn)問(wèn)題。許多國(guó)家的專家和學(xué)者呼吁禁止發(fā)展可以自主識(shí)別并擊殺人類目標(biāo)的智能武器，更不應(yīng)該容許它們執(zhí)掌人類生死。然而，全面禁止人工智能武器很難達(dá)成全球共識(shí)，即便能開(kāi)啟相關(guān)討論和談判也將曠日持久。

從目前的趨勢(shì)看，人工智能武器化是不可避免的。更可行的做法可能是要求人工智能賦能武器的發(fā)展符合現(xiàn)有國(guó)際法規(guī)范。為此，各國(guó)需要就如何進(jìn)行風(fēng)險(xiǎn)防范尋求共識(shí)，共同努力構(gòu)建治理機(jī)制。在與美方進(jìn)行二軌討論時(shí)，我們的焦點(diǎn)在于如何設(shè)定人工智能賦能武器的攻擊“禁區(qū)”，如何依據(jù)國(guó)際法律和規(guī)范開(kāi)展對(duì)人工智能武器的監(jiān)管，以及如何鼓勵(lì)采取克制態(tài)度以限制對(duì)人工智能數(shù)據(jù)的軍事化濫用。

人工智能的軍事安全挑戰(zhàn)

人工智能賦能武器系統(tǒng)存在諸多潛在挑戰(zhàn)。一是人工智能內(nèi)在的技術(shù)缺陷使得攻擊者難以限制打擊的損害范圍，容易使得被打擊方承受過(guò)大連帶傷害，從而導(dǎo)致沖突升級(jí)。人工智能賦能武器不僅應(yīng)該在實(shí)施打擊時(shí)區(qū)分軍事目標(biāo)和民用目標(biāo)，還需要防止和避免對(duì)民用目標(biāo)造成過(guò)分的附帶或間接損害。然而，現(xiàn)有人工智能技術(shù)條件在能否保證武力使用過(guò)程中完全滿足上述條件方面，是存在不確定性的。

二是當(dāng)前以機(jī)器學(xué)習(xí)帶動(dòng)的人工智能技術(shù)發(fā)展需要大量數(shù)據(jù)，不能完全避免基于大數(shù)據(jù)訓(xùn)練的算法和訓(xùn)練數(shù)據(jù)集將偏見(jiàn)帶入真實(shí)應(yīng)用系統(tǒng)，因此，不能排除人工智能給決策者提供錯(cuò)誤建議的可能性。進(jìn)而，當(dāng)訓(xùn)練數(shù)據(jù)集受到其他國(guó)家的污染，致使系統(tǒng)提供錯(cuò)誤偵查信息時(shí)，也有可能讓軍事決策者做出錯(cuò)誤判斷和相應(yīng)的軍事部署。

三是人機(jī)協(xié)同的挑戰(zhàn)是人工智能軍事化的終極難題。機(jī)器學(xué)習(xí)和大數(shù)據(jù)處理機(jī)制存在局限。無(wú)論是行為主義的強(qiáng)化學(xué)習(xí)、聯(lián)結(jié)主義的深度學(xué)習(xí)，還是符號(hào)主義的專家系統(tǒng)都不能如實(shí)準(zhǔn)確地反映人類的認(rèn)知能力，比如直覺(jué)、情感、責(zé)任、價(jià)值等。人工智能的軍事運(yùn)用是人一機(jī)一環(huán)境的綜合協(xié)同過(guò)程，而機(jī)器在可解釋性、學(xué)習(xí)性、常識(shí)性等方面的不足，將放大發(fā)生戰(zhàn)場(chǎng)沖突的風(fēng)險(xiǎn)，甚至刺激國(guó)際危機(jī)的螺旋上升。

人工智能安全治理路徑探討

對(duì)話雙方一致認(rèn)為，各國(guó)需要采取軍事克制態(tài)度，避免人工智能武器化給人類帶來(lái)重大損害。各國(guó)應(yīng)該禁止沒(méi)有責(zé)任和風(fēng)險(xiǎn)意識(shí)的輔助決策系統(tǒng)。在使用人工智能賦能的武器時(shí)，需要限制其打擊的損害范圍，防止造成連帶傷害，避免沖突升級(jí)。此外，軍事克制的內(nèi)容還應(yīng)該反映在公共教育當(dāng)中。由于人工智能技術(shù)具有易于擴(kuò)散的特點(diǎn)，它有可能流入某些黑客手里，進(jìn)而將人工智能技術(shù)用于有害公共安全的行為中。

人工智能賦能武器的使用如何與國(guó)際法的基本原則保持一致，是安全治理研究中的重點(diǎn)所在。《聯(lián)合國(guó)憲章》規(guī)定，除非得到聯(lián)合國(guó)安理會(huì)的授權(quán)，否則成員國(guó)不得使用武力，或者是出于自衛(wèi)的目的才能使用武力。因此，國(guó)家出于自衛(wèi)目的而使用武力時(shí)，所使用武力的強(qiáng)度和規(guī)模須與受到的攻擊或者受到的威脅的嚴(yán)重性相稱。在討論中，中方專家特別提出，各國(guó)須承擔(dān)法律責(zé)任，主動(dòng)推動(dòng)和實(shí)現(xiàn)在涉及人工智能的軍事行動(dòng)中國(guó)際規(guī)范的建構(gòu)。同時(shí)需要確定人類參與的閾值，以保證智能武力的使用不會(huì)造成過(guò)度傷害。因?yàn)槿斯ぶ悄苜x能的武器平臺(tái)很難評(píng)判什么是必要的、合適的、平衡的攻擊，所以人類指揮官的主觀能動(dòng)性應(yīng)當(dāng)?shù)玫阶鹬亍?/p>

此外，人工智能數(shù)據(jù)的安全必須得到保證。應(yīng)該對(duì)數(shù)據(jù)挖掘和采集的過(guò)程、數(shù)據(jù)標(biāo)注和分類、數(shù)據(jù)使用和監(jiān)管進(jìn)行規(guī)范和限制。智能武器訓(xùn)練數(shù)據(jù)的收集過(guò)程和手段應(yīng)當(dāng)遵守國(guó)際法律，收集的數(shù)據(jù)數(shù)量應(yīng)達(dá)到一定規(guī)模。需要確保數(shù)據(jù)標(biāo)注和分類的質(zhì)量和準(zhǔn)確性，避免形成錯(cuò)誤模型和導(dǎo)致決策者做出錯(cuò)誤判斷。在數(shù)據(jù)使用過(guò)程中，需要關(guān)注使用目標(biāo)和數(shù)據(jù)的污染問(wèn)題。有中方學(xué)者建議給智能武器的自主化程度分級(jí)。例如，分為半自主化、部分自主化、有條件自主化、高度自主化和完全自主化五級(jí)。對(duì)自主化程度進(jìn)行分級(jí)，有利于更好地確認(rèn)和保障人類的作用，從而切實(shí)有效地實(shí)現(xiàn)對(duì)人工智能及自主武器系統(tǒng)的管理和控制。

中美人工智能全球治理合作

現(xiàn)階段是構(gòu)建人工智能國(guó)際安全規(guī)范的關(guān)鍵窗口期。目前中美兩國(guó)是在人工智能技術(shù)研究和應(yīng)用發(fā)展最快的國(guó)家，兩國(guó)需要在這個(gè)領(lǐng)域加強(qiáng)協(xié)調(diào)與合作。其他國(guó)家也表示出對(duì)人工智能應(yīng)用的安全擔(dān)憂，說(shuō)明人工智能治理是人類共同的難題，不是一國(guó)兩國(guó)能夠解決的。中美開(kāi)展對(duì)話與合作至關(guān)重要，將能夠?yàn)槿蛉斯ぶ悄苤卫砗献髫暙I(xiàn)智慧。因此，中美兩國(guó)應(yīng)就推動(dòng)構(gòu)建國(guó)際層面的規(guī)范和制度進(jìn)行正式討論，在各自利益關(guān)切的基礎(chǔ)上探索合作領(lǐng)域，互換和翻譯相關(guān)文件，以政策溝通和學(xué)術(shù)交流的方式降低兩國(guó)在這一領(lǐng)域影響雙邊關(guān)系和國(guó)際安全的潛在風(fēng)險(xiǎn)。

近年來(lái)，中國(guó)積極釋放合作信號(hào)，2020年11月21日，習(xí)近平主席在二十國(guó)集團(tuán)領(lǐng)導(dǎo)人第十五次峰會(huì)上強(qiáng)調(diào)，中方支持圍繞人工智能加強(qiáng)對(duì)話，倡議適時(shí)召開(kāi)專題會(huì)議，推動(dòng)落實(shí)二十國(guó)集團(tuán)人工智能原則，引領(lǐng)全球人工智能健康發(fā)展。2020年9月8日，國(guó)務(wù)委員兼外長(zhǎng)王毅提出《全球數(shù)據(jù)安全倡議》，包括有效應(yīng)對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)挑戰(zhàn)應(yīng)遵循的三項(xiàng)原則，表示希望國(guó)際社會(huì)在普遍參與的基礎(chǔ)上就人工智能安全問(wèn)題達(dá)成國(guó)際協(xié)議，支持并通過(guò)雙邊或多邊協(xié)議形式確認(rèn)倡議中的有關(guān)承諾。中國(guó)在發(fā)展人工智能技術(shù)的同時(shí)，也高度重視和積極推進(jìn)相關(guān)國(guó)內(nèi)治理建設(shè)。2018年中國(guó)發(fā)布《人工智能標(biāo)準(zhǔn)化白皮書(shū)》列出了四條倫理原則，包括人類利益原則、責(zé)任原則、透明度原則、權(quán)責(zé)一致原則。

中國(guó)已經(jīng)準(zhǔn)備好與美國(guó)和其他國(guó)家地區(qū)在人工智能治理方面開(kāi)展合作。我們相信，人工智能不應(yīng)成為一場(chǎng)“零和游戲”，技術(shù)突破最終應(yīng)使得全人類受益。

責(zé)編/常妍 美編/宋揚(yáng)