人工智能對國際關(guān)系的影響初析

【內(nèi)容提要】 本文重點分析人工智能如何從國際格局和國際規(guī)范兩個方面影響國際秩序的變遷。在國際格局方面，人工智能有可能在經(jīng)濟和軍事領(lǐng)域影響國家間的力量對比，非國家行為體的能力也將前所未有地擴大，圍繞科技的國際競爭將更加激烈。在國際規(guī)范方面，人工智能有可能改變戰(zhàn)爭的形式和原則，并對現(xiàn)行的國際法律和倫理道德造成沖擊。文章認(rèn)為，人工智能技術(shù)帶來的安全和治理挑戰(zhàn)是需要全人類共同面對的問題，各國應(yīng)從構(gòu)建人類命運共同體的視角看問題，從共同安全的理念出發(fā)，討論未來人工智能的國際規(guī)范。文章提出基于福祉、安全、共享、和平、法治、合作的六項原則。

【關(guān)鍵詞】 人工智能 國際格局 國際規(guī)范 共同規(guī)范

【作者簡介】 傅瑩，清華大學(xué)兼職教授、國際關(guān)系研究院榮譽院長、國際戰(zhàn)略與安全研究中心主任。

清華大學(xué)國際戰(zhàn)略與安全研究中心于2018年啟動的人工智能與安全項目小組，重點探討人工智能技術(shù)的發(fā)展對國家安全和國際關(guān)系的影響以及構(gòu)建共同準(zhǔn)則的可能性。本文是基于對項目組相關(guān)信息的匯總而對人工智能與國際關(guān)系的相互影響的初步研究。

1950年，英國科學(xué)家圖靈提出了人工智能的概念。①1956年，首屆人工智能研討會在美國新罕布什爾州達(dá)特茅斯舉行，人工智能作為一門科學(xué)正式為科學(xué)界所承認(rèn)。1997 年，IBM 計算機程序“深藍(lán)”贏得與世界國際象棋特級大師卡斯帕羅夫的六盤大戰(zhàn)。進入21世紀(jì)的第二個十年，人工智能技術(shù)的研究和開發(fā)加快了步伐。2014年，谷歌AlphaGo戰(zhàn)勝世界圍棋冠軍李世石。60年后的今天，人工智能在人類越來越多的生產(chǎn)和生活領(lǐng)域得到廣泛應(yīng)用，在部分專門領(lǐng)域接近甚至超過人腦的表現(xiàn)。作為一種有潛力改造人類社會面貌的泛在性技術(shù)，人工智能在科技、產(chǎn)業(yè)、軍事、社會、倫理等領(lǐng)域被廣泛討論。

那么，人工智能是否會對國際關(guān)系產(chǎn)生影響？會產(chǎn)生什么樣的影響？本文試圖對這些問題作一些探討。需要說明的是，人工智能技術(shù)本身存在復(fù)雜性、難以說明性和不確定性，筆者非人工智能技術(shù)專家，本文只是根據(jù)已經(jīng)發(fā)生的人工智能事件或?qū)W術(shù)界普遍認(rèn)可的發(fā)展趨勢，來分析人工智能對國際關(guān)系產(chǎn)生的影響，并試圖探討構(gòu)建共同準(zhǔn)則的必要性和可能性。

誠然，對于科學(xué)技術(shù)會如何影響現(xiàn)代國際關(guān)系有不少過高的預(yù)期。例如，阿爾溫·托夫勒在1980年出版的《第三次浪潮》一書中預(yù)測，未來世界將充斥核武器風(fēng)險，瀕臨經(jīng)濟和生態(tài)崩潰，現(xiàn)存政治制度將迅速過時，世界將面臨嚴(yán)重危機。這類預(yù)測往往高估了科技給人類帶來的困難，卻低估了人類解決困難的意愿和能力。冷戰(zhàn)后，在全球化的大背景之下，多邊主義逐漸成為國際共識，國際防止核武器擴散體系的有效性，應(yīng)對氣候變化的全球運動和各國由此而不斷強化的應(yīng)對環(huán)境變化的合作，以及世界范圍內(nèi)的和平運動的發(fā)展，都顯示了人類在維護和平和應(yīng)對挑戰(zhàn)上的理念共識和負(fù)責(zé)任態(tài)度?？萍荚斐傻膯栴}，可以通過科技本身的不斷再進化而得到解決，人類也需要通過倫理道德和法律來構(gòu)建嚴(yán)密的防范體系。實際上，每一次科技革命都加速了全球化的進程，促使一系列全球性問題被納入國際政治的議事日程中來，世界也因此變得更加透明和更加融為一體。

一、 我們討論的是什么？

在進入正式討論之前，需要明確幾個問題。

第一個問題，我們討論的是什么人工智能？是狹義的、能夠模擬人的個別智能行為的人工智能，比如識別、學(xué)習(xí)、推理、判斷？還是通用人工智能，擁有與人類大腦相似的自主意識和自主創(chuàng)新能力？是弱人工智能，為解決特定、具體任務(wù)而存在，只擅長語音識別、圖像識別、翻譯某些特定素材的人工智能，例如谷歌的AlphaGo、科大訊飛的智能翻譯器？還是強人工智能，能夠思考、計劃、解決問題，能夠進行抽象思維、理解復(fù)雜理念、快速學(xué)習(xí)、從經(jīng)驗中學(xué)習(xí)等人類級別的人工智能，例如電影《人工智能》中的小男孩大衛(wèi)、《機械姬》中的艾娃？抑或是未來的超級人工智能，即跨過了“奇點”1990年，美國未來學(xué)家雷·庫茲韋爾在《奇點臨近》《人工智能的未來》兩本書中，用“奇點”作為隱喻，描述人工智能的能力超越人類的某個時空階段。當(dāng)人工智能跨越“奇點”后，一切我們習(xí)以為常的傳統(tǒng)、認(rèn)識、理念、常識將不復(fù)存在，技術(shù)的加速發(fā)展會導(dǎo)致“失控效應(yīng)”，人工智能將超越人類智能的潛力和控制，迅速改變?nèi)祟愇拿?。，計算和思維能力遠(yuǎn)超人腦，“在幾乎所有領(lǐng)域都比最聰明的人類大腦聰明很多，包括科學(xué)創(chuàng)新、通識和社交技能”（牛津哲學(xué)家Nick Bostrom對超級智能的定義）的所謂人工智能合成人（Synthetics）？

我們討論人工智能對國際關(guān)系乃至國際格局的影響，只能限定在已知、基于大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)，以算力、算法和數(shù)據(jù)為三大要素的人工智能技術(shù)及其應(yīng)用上。我們還無法討論那些尚未獲得突破的、擁有全大腦仿真技術(shù)的未來人工智能技術(shù)。目前應(yīng)是依據(jù)已經(jīng)存在和能大致預(yù)見到的人工智能技術(shù)及其發(fā)展趨勢，來探討其已經(jīng)和可能對國際關(guān)系產(chǎn)生的影響。

第二個問題，人工智能能否影響國際關(guān)系進而影響到國際秩序？目前看，答案是肯定的。歷史上，技術(shù)革新和傳播曾經(jīng)無數(shù)次革命性地改變了一國或多國命運，進而改變了地區(qū)格局甚至世界形勢。麥克尼爾父子在《麥克尼爾全球史：從史前到21世紀(jì)的人類網(wǎng)絡(luò)》一書中，生動地描寫了技術(shù)革命對軍事、政府組織方式、信仰，進而對國家間權(quán)力轉(zhuǎn)移和地區(qū)格局演變的決定性影響。書中談到，公元前1700年左右，戰(zhàn)車革命改變了美索不達(dá)米亞、埃及、印度、中國黃河地區(qū)等區(qū)域的權(quán)力格局，例如，雅利安人入主印度北部和商朝的興起。公元前1200年后，鐵冶煉技術(shù)的出現(xiàn)和傳播，使裝備著相對價格低廉的鐵甲胄和兵器的普通步兵，有條件將精英駕馭的戰(zhàn)車掀翻在地，更加廉價的武器裝備、更大規(guī)模的軍隊、官僚統(tǒng)治的鞏固等條件的組合，使亞述、波斯等農(nóng)業(yè)帝國的崛起成為可能。公元前7世紀(jì)，馬弓手的數(shù)量和技術(shù)又一次打破歐亞大陸的軍事政治平衡，大草原上的游牧民族再度取得對農(nóng)耕民族的優(yōu)勢。約翰·R·麥克尼爾、威廉·H·麥克尼爾：《麥克尼爾全球史：從史前到21世紀(jì)的人類網(wǎng)絡(luò)》，王晉新等譯，北京大學(xué)出版社，2017年，第72—79頁。

再舉一例，核技術(shù)的出現(xiàn)改變了現(xiàn)代世界的政治面貌，進一步穩(wěn)固了二戰(zhàn)結(jié)束時形成的大國權(quán)力格局，五核國的身份使得美國、蘇聯(lián)（解體后是俄羅斯）、英國、法國、中國保持了聯(lián)合國安理會常任理事國地位，而且產(chǎn)生了為和平目的利用核能、有核國家承擔(dān)不擴散核武器義務(wù)、允許無核國家獲取和平核能技術(shù)等一系列國際規(guī)范，催生了核戰(zhàn)爭等于人類毀滅、核擴散不義且非法等國際價值觀，形成了《不擴散核武器條約》《全面禁止核試驗HYPERLINK\"https：//baike.baidu.com/item/%E6%A0%B8%E8%AF%95%E9%AA%8C\"＼t\"_blank\"條約》、聯(lián)合國核裁軍談判機制、全球核安全峰會、東南亞無核區(qū)等一系列國際制度安排。

人工智能被認(rèn)為具有像核能一樣的軍民兩用性和改變國際實力對比的顛覆性。2017年7月，哈佛大學(xué)肯尼迪學(xué)院貝爾?？茖W(xué)與國際事務(wù)中心發(fā)布了《人工智能與國家安全》報告，認(rèn)為未來人工智能有可能成為與核武器、飛機、計算機、生物技術(shù)不相上下的變革性國家安全技術(shù)。因此，將人工智能納入能夠影響國際關(guān)系的討論范疇是合理的。

人工智能甚至可能影響國際秩序的變遷。北京大學(xué)王緝思教授認(rèn)為，國際秩序包含兩項基本內(nèi)容，一是主要國家和國家集團的權(quán)力結(jié)構(gòu)和實力對比，二是處理國家間關(guān)系應(yīng)遵循的規(guī)范。王緝思：《世界政治的終極目標(biāo)》，北京：中信出版集團，2018年，第30頁。清華大學(xué)閻學(xué)通教授認(rèn)為，國際秩序是“國際體系中國家依據(jù)國際規(guī)范采取非暴力方式解決沖突的狀態(tài)”，其構(gòu)成要素為國際主流價值觀、國際規(guī)范和國際制度安排。閻學(xué)通：《無序體系中的國際秩序》，《國際政治科學(xué)》2016年第1期，第13—14頁。他還認(rèn)為，導(dǎo)致國際秩序變化的原因是國際格局的變化，但國際格局卻不是國際秩序的構(gòu)成要素;建立國際新秩序的性質(zhì)是國際權(quán)力的再分配，即國際制度再安排的核心內(nèi)容。同上，第10頁，第15頁。兩位學(xué)者在分析國際秩序時都強調(diào)了國際格局、國際規(guī)范兩大因素。人工智能有可能通過改變國際行為體的力量對比和相互關(guān)系，沖擊現(xiàn)有國際規(guī)范并催生新的國際規(guī)范，從而從國際格局和國際規(guī)范兩個方面影響國際秩序的變遷。

二、 人工智能將如何影響國際格局？

首先，人工智能將從經(jīng)濟上影響國家間的力量對比，甚至引發(fā)新一輪大國興衰。

保羅·肯尼迪在《大國的興衰》一書中指出，從長遠(yuǎn)看，在每個大國經(jīng)濟的興衰與其作為一個世界性大國的興衰之間有一種顯而易見的聯(lián)系。保羅·肯尼迪：《大國的興衰》，北京：中信出版集團，2013年，前言第12頁。2017年6月，普華永道發(fā)布的《抓住機遇——2017夏季達(dá)沃斯論壇報告》預(yù)測，到2030年，人工智能對世界經(jīng)濟的貢獻(xiàn)將達(dá)到15.7萬億美元，中國與北美有望成為最大受益者，總獲益相當(dāng)于10.7萬億美元。2018年9月，麥肯錫全球研究所發(fā)布的《前沿筆記：用模型分析人工智能對世界經(jīng)濟的影響》報告認(rèn)為，人工智能將顯著提高全球整體生產(chǎn)力。去除競爭影響和轉(zhuǎn)型成本因素，到 2030 年，人工智能可能為全球額外貢獻(xiàn)13萬億美元的GDP增長，平均每年推動GDP增長約1.2%。這堪比或大于歷史上其他幾種通用技術(shù)（比如19世紀(jì)的蒸汽機、20 世紀(jì)的工業(yè)制造和21世紀(jì)的信息技術(shù)）所帶來的變革性影響。報告還指出，占據(jù)人工智能領(lǐng)導(dǎo)地位的國家和地區(qū)（以發(fā)達(dá)經(jīng)濟體為主）可以在目前基礎(chǔ)上獲得 20%～25%的經(jīng)濟增長，而新興經(jīng)濟體可能只有這一比例的一半?！叭斯ぶ悄茗櫆稀笨赡軙?dǎo)致“數(shù)字鴻溝”的進一步加深。Ibid.， p.34.人工智能可能改變?nèi)虍a(chǎn)業(yè)鏈。以工業(yè)機器人、智能制造等為代表的“新工業(yè)化”將吸引制造業(yè)“回流”發(fā)達(dá)經(jīng)濟體，沖擊發(fā)展中國家人力資源等比較優(yōu)勢，使許多發(fā)展中國家提前“去工業(yè)化”或永久性失去工業(yè)化的機會，被鎖定在資源供應(yīng)國的位置上。人工智能的開發(fā)和應(yīng)用需要大量資金，科技含量高，且有可能導(dǎo)致就業(yè)結(jié)構(gòu)變革，使得高重復(fù)性、低技術(shù)含量的工作逐漸消失。

此外，麥肯錫在2017年的另外一份報告中，根據(jù)對46個國家和800種職業(yè)進行的研究作出預(yù)測，到2030年，全球?qū)⒂卸噙_(dá)8億人會失去工作，取而代之的是自動化機器人;屆時，全球多達(dá)1/5的勞動力將受到影響。全球?qū)l(fā)生類似在20世紀(jì)初的大規(guī)模崗位轉(zhuǎn)變，當(dāng)時全球大部分崗位從農(nóng)業(yè)轉(zhuǎn)為工業(yè)。簡言之，就是用資本和技術(shù)替代勞動力。同時，人工智能技術(shù)的廣泛應(yīng)用也將增加對這方面的專業(yè)人才的需求。

研究顯示，有3種類型的國家最有可能從人工智能技術(shù)的發(fā)展中受益。第一類是有人工智能先發(fā)優(yōu)勢的國家，比如美國和中國，都被看好。第二類是資本和技術(shù)密集、同時人口較少或處于下行趨勢的國家，比如日本、韓國、新加坡，既有發(fā)展人工智能的資本、技術(shù)條件，又能借助人工智能的發(fā)展彌補人口總量不足或呈下降趨勢、人口結(jié)構(gòu)老齡化等劣勢。第三類是擁有更多科學(xué)家、數(shù)學(xué)家、工程師的國家，或重視科學(xué)、技術(shù)、工程、數(shù)學(xué)（STEM）相關(guān)專業(yè)教育的國家。

其次，人工智能將從軍事上改變國家間的力量對比。

軍事智能化的鼓吹者認(rèn)為，人工智能將顛覆戰(zhàn)爭形態(tài)和戰(zhàn)爭樣式。機械化戰(zhàn)爭是以物釋能，靠的是石油和鋼鐵;信息化戰(zhàn)爭是以網(wǎng)絡(luò)聚能，靠的是信息和鏈接。而根據(jù)目前的預(yù)期，一旦戰(zhàn)爭進入智能化時代，將是以智馭能，打的是機器人和自動化戰(zhàn)爭。

可以預(yù)見的是，在智能化條件下，戰(zhàn)斗人員、作戰(zhàn)概念、制勝機理等戰(zhàn)爭要素都將發(fā)生改變。在傳統(tǒng)的戰(zhàn)爭中，即便存在敵對雙方在武器裝備、訓(xùn)練水平上的差距，劣勢一方憑借有利的天時地利、超人一等的計謀、先進的戰(zhàn)術(shù)等，尚可一戰(zhàn)。比如，在伊拉克和阿富汗戰(zhàn)爭期間，簡易爆炸裝置就讓美軍吃盡了苦頭。而在智能化戰(zhàn)爭條件下，一方在人工智能上的技術(shù)優(yōu)勢會迅速形成戰(zhàn)場上的壓倒性優(yōu)勢，使劣勢一方無法形成有效的觀察—判斷—決策—行動循環(huán)，始終處于被動挨打的狀況。布魯金斯學(xué)會在《人工智能改變世界》報告中提出了“極速戰(zhàn)”（hyperwar）的概念，即戰(zhàn)爭是一個與時間賽跑的過程，決策最快和執(zhí)行最快的一方通常會占上風(fēng)。在人工智能輔助下的指揮和控制系統(tǒng)，其決策速度會大大超越傳統(tǒng)戰(zhàn)爭模式，加上能夠自主決定發(fā)射致命武器的自動武器系統(tǒng)，將大大加速戰(zhàn)爭進程，以至于需要創(chuàng)造一個新術(shù)語“極速戰(zhàn)”來描述這種戰(zhàn)爭模式。關(guān)于后者，2018年4月26日“大西洋”網(wǎng)站刊發(fā)的《當(dāng)排爆機器人變成武器》一文中，就用大量分析說明，軍事機器人可以顯著降低路邊炸彈的威脅。

人工智能還將引發(fā)軍事裝備的革命性變化，無人自動性致命武器的集群式作戰(zhàn)，可能成為未來戰(zhàn)爭的主角和主要作戰(zhàn)方式。設(shè)想中的空中無人機“蜂群”、水下無人潛艇“狼群”、地面機器人、無人坦克“蟻群”等一旦出現(xiàn)，將重構(gòu)“消耗戰(zhàn)”“人海戰(zhàn)術(shù)”的價值，使得艦?zāi)?、F-35戰(zhàn)斗機等復(fù)雜而昂貴的大型武器平臺，從戰(zhàn)爭成本和作戰(zhàn)效能的綜合角度看變得不那么具有優(yōu)勢。可以想象一下，當(dāng)單架成本上億美元的F-35戰(zhàn)斗機對戰(zhàn)單價在幾千美元的武裝無人機集群時，無異于“大炮打蚊子”。

需要說明的是，人工智能對軍事的影響尚存在很大不確定性，這種影響可以有多大、如何影響，都并不確定。在2018年7月清華大學(xué)第七屆世界和平論壇“人工智能與安全”分論壇的討論中，有專家提出，雖然目前大致可以判斷出機器學(xué)習(xí)、工業(yè)機器人、材料科學(xué)等技術(shù)的未來發(fā)展趨勢，但這些技術(shù)結(jié)合起來給未來戰(zhàn)爭造成的具體影響尚無法準(zhǔn)確預(yù)估。20世紀(jì)前30年，當(dāng)時的德、英、法、意等歐陸軍事強國都研發(fā)出了坦克、飛機、無線電通信技術(shù)等。但是，只有當(dāng)?shù)聡诙?zhàn)中遂行了“閃電戰(zhàn)”后，世界才發(fā)現(xiàn)這些新技術(shù)作為一個整體竟會給戰(zhàn)爭帶來如此顛覆性的改變?，F(xiàn)在，無論“算法戰(zhàn)”還是“蜂群”戰(zhàn)術(shù)，戰(zhàn)略界的熱議都還是從單項技術(shù)出發(fā)分析其對作戰(zhàn)的影響。如果不能從整體上認(rèn)識人工智能技術(shù)的軍事運用，設(shè)想出來的應(yīng)對措施有可能成為昂貴而無用的新“馬其諾防線”。

再次，按照目前的研究成果看，人工智能對國際格局的影響可以概括為三個方面。

一是可以顯著增加全球財富。但是財富在國家間的分配將更加不平衡，人工智能技術(shù)的引領(lǐng)國受益多，落后國受益少，人工智能將進一步拉大國家間經(jīng)濟總量和質(zhì)量差距。新增財富在地區(qū)間的分配也將是不平衡的，東亞地區(qū)有可能成為人工智能技術(shù)的最大受益者，美國有條件鞏固其世界經(jīng)濟中心的地位，而東亞的地位也會進一步上升。與此同時，財富在同一國不同地區(qū)、不同行業(yè)、不同群體中的分配可能進一步失衡，相關(guān)國家國內(nèi)政治平衡也將受到不同程度的沖擊。二是在資本、技術(shù)、勞動力三要素中，人工智能有利于具有前兩項要素比較優(yōu)勢的國家，不利于勞動力要素優(yōu)勢的國家。三是當(dāng)前人工智能技術(shù)的核心要素是算法、算力和數(shù)據(jù)，哪個國家擁有的計算資源越多、研發(fā)的算法越先進、掌握的數(shù)據(jù)越多，就越有可能獲得經(jīng)濟優(yōu)勢。未來可能出現(xiàn)“算法博弈”“算法霸權(quán)”，數(shù)據(jù)將成為國家戰(zhàn)略資源。四是由于人工智能技術(shù)迭代速度快，在“馬太效應(yīng)”作用下，具有先發(fā)優(yōu)勢的國家將強者恒強，后發(fā)國家越來越難以追趕，形成國際社會的“階層固化”。由于當(dāng)前人工智能技術(shù)的發(fā)展建立在計算機技術(shù)進步基礎(chǔ)之上，并與數(shù)字經(jīng)濟發(fā)展存在緊密關(guān)聯(lián)，因此數(shù)字經(jīng)濟和技術(shù)領(lǐng)先的國家將在人工智能國際競賽中占得先機。

最后，人工智能帶來的經(jīng)濟和軍事變化，在影響國家間力量變化的同時，還可能意味著國際趨勢的變化。

一是北升南降還是南升北降？近年隨著金融危機影響消退，發(fā)達(dá)經(jīng)濟體逐步復(fù)蘇，而金磚國家相繼出現(xiàn)困難，發(fā)展中國家追趕步伐放慢，南升北降的趨勢開始減緩。如果不論其他因素，單就人工智能技術(shù)的發(fā)展而言，很可能加劇這一勢頭。一方面，發(fā)達(dá)經(jīng)濟體有條件維持甚至擴大對發(fā)展中國家的整體優(yōu)勢。另一方面，發(fā)展中國家之間的實力、利益分化也可能進一步加劇。

二是多極化還是兩極化？閻學(xué)通教授認(rèn)為國際格局的趨勢是中美兩極化，而不是多極化。人工智能技術(shù)的發(fā)展為他的觀點提供了一定的支持。國際上很多人工智能排名都不約而同地將美國和中國列為第一梯隊。美國作為人工智能的發(fā)源地，在創(chuàng)新精神、基礎(chǔ)理論、核心算法、高端芯片、從業(yè)人員規(guī)模和素質(zhì)等方面，明顯地領(lǐng)先全球。而中國在人臉識別、語音識別等領(lǐng)域走在前面，同時擁有海量數(shù)據(jù)和應(yīng)用場景等其他國家難以比擬的天然優(yōu)勢。中國擁有全球最多的互聯(lián)網(wǎng)用戶、最活躍的數(shù)據(jù)生產(chǎn)主體。2018年8月20日，中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第42次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》顯示，截止2018年6月，中國網(wǎng)民規(guī)模達(dá)到8.02億人，每年產(chǎn)生的數(shù)據(jù)約占全球13%。中國擁有更多的人工智能相關(guān)專業(yè)大學(xué)生，人才供給上更具潛力。根據(jù)騰訊研究院發(fā)布的《中美兩國人工智能產(chǎn)業(yè)發(fā)展全面解讀》報告，截至2017年6月，全球人工智能企業(yè)總數(shù)為2542家，其中美國有1078家，占42%，從業(yè)人員約為7.8萬人;中國有592家，占23%，從業(yè)人員為3.9萬人;其余872家企業(yè)分布在瑞典、新加坡、日本、英國、澳大利亞、以色列、印度等國家。人工智能技術(shù)競賽目前主要是巨頭企業(yè)之間的角力，而主要的互聯(lián)網(wǎng)巨頭也都在將自己的資源轉(zhuǎn)向人工智能。在世界互聯(lián)網(wǎng)巨頭企業(yè)中，美國有蘋果、谷歌、微軟、亞馬遜、臉書5家，中國有百度、阿里巴巴、騰訊3家。美中作為人工智能的世界前兩個強國，同時也是全球綜合國力的前兩強，與其他國家的差距可能會進一步拉大。

三是非國家行為體的權(quán)力擴大。人工智能將賦予巨頭企業(yè)前所未有的權(quán)力。2016年發(fā)生的“劍橋分析”公司通過臉書影響美國大選的事件，顯示了這些企業(yè)可以有多大的政治和社會影響力。未來，一些傳統(tǒng)的政府職能，如信息統(tǒng)計和收集、公眾信息發(fā)布、社會福利發(fā)放還有公共政策討論、評估與反饋，以及涉及軍事和外交方面的輿論活動等，都可能被人工智能企業(yè)取代。在信息即權(quán)力的時代，企業(yè)行為對國內(nèi)政治、進而對國際政治的影響力還將不斷增大。美國斯坦福大學(xué)和美國Infinite初創(chuàng)公司聯(lián)合研發(fā)了一種基于人工智能處理芯片的自主網(wǎng)絡(luò)攻擊系統(tǒng)。該系統(tǒng)能夠自主學(xué)習(xí)網(wǎng)絡(luò)環(huán)境并自行生成特定惡意代碼，實現(xiàn)對指定網(wǎng)絡(luò)的攻擊、信息竊取等操作。通過人工智能自主尋找網(wǎng)絡(luò)漏洞的方式，將使網(wǎng)絡(luò)作戰(zhàn)行動更加高效，攻擊手段更加隱蔽和智能。傳統(tǒng)的防護方式是基于病毒庫和行為識別，將無法應(yīng)對靈活多變的人工智能病毒生成系統(tǒng)，其惡意代碼的生成、執(zhí)行、感染具有更強的隱蔽性，這將使網(wǎng)絡(luò)安全環(huán)境面臨更大的挑戰(zhàn)。

更令人擔(dān)心的是，人工智能也有可能為恐怖分子、網(wǎng)絡(luò)黑客、罪犯等提供新的犯罪手段。例如，恐怖分子可以遠(yuǎn)程操縱無人機或無人駕駛汽車，對目標(biāo)實施暗殺和破壞活動，黑客可以利用大數(shù)據(jù)武器對關(guān)鍵基礎(chǔ)設(shè)施進行更加復(fù)雜和自動化的大規(guī)模攻擊。經(jīng)常被提到的案例包括：俄羅斯在敘利亞的赫梅米姆和塔爾圖斯軍事基地遭受武裝分子無人機攻擊，委內(nèi)瑞拉總統(tǒng)馬杜羅在演講時遭受無人機襲擊，“想哭”病毒的爆發(fā)，等等。加拿大學(xué)者阿查亞提出了“復(fù)合世界”概念。阿米塔亞·阿查亞：《中國與自由主義國際秩序的危機》，《全球秩序》2018年第1期，第81頁。毫無疑問，人工智能將增加世界的復(fù)合化，包括政治權(quán)力的去中心化、更多元的行為主體的出現(xiàn)，乃至政治和意識形態(tài)的多樣性，因此產(chǎn)生更加包容和更多層次的治理需求。

四是加劇科技競爭。人工智能技術(shù)的發(fā)展及其應(yīng)用，進一步鞏固了科技在國際競爭中的重要地位。2016年5月，美國國家科技委員會國土與國家安全分委會發(fā)布的《21世紀(jì)國家安全科學(xué)、技術(shù)與創(chuàng)新戰(zhàn)略》提到，科技已經(jīng)成為一個國家國際競爭力最關(guān)鍵的成分。沒有科技創(chuàng)新就沒有國家安全。美國能夠在國際競爭中保持優(yōu)勢，很大程度上有賴于其科技創(chuàng)新力量。國內(nèi)許多學(xué)者認(rèn)為，中美貿(mào)易戰(zhàn)的實質(zhì)是科技戰(zhàn)，中美博弈已經(jīng)率先在科技領(lǐng)域展開了。2018年，美國先后對兩家中國公司禁售芯片，更有甚者，公開阻止盟友國家采用中國華為公司的5G技術(shù)。同年11月19日，美國商務(wù)部工業(yè)安全署列出了擬議管制的14個“具有代表性的新興技術(shù)”清單，其中對人工智能和機器學(xué)習(xí)的技術(shù)分類和列管最為詳盡。美國商務(wù)部“具有代表性的新興技術(shù)”清單在人工智能和機器學(xué)習(xí)項下列出的技術(shù)包括：神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)（例如腦模擬、時間序列預(yù)測、分類）、進化和遺傳計算（例如遺傳算法、遺傳編程）、強化學(xué)習(xí)、計算機視覺（例如物體識別、圖像理解）、專家系統(tǒng)（例如決策支持系統(tǒng)、教學(xué)系統(tǒng)）、語音和音頻處理（例如語音識別和制作）、自然語言處理（例如機器翻譯）、規(guī)劃（例如調(diào)度、博弈）、音頻和視頻處理技術(shù)（例如語音克隆、deepfakes）、AI云技術(shù)、AI芯片組?？梢灶A(yù)見，在人工智能時代，圍繞科技的國際競爭將更加激烈，競爭的結(jié)果也將在很大程度上影響國際格局的走向。

三、 人工智能將如何影響國際規(guī)范？

人工智能可能對現(xiàn)行國際規(guī)范帶來一系列沖擊。

第一，人工智能有可能改變戰(zhàn)爭的內(nèi)涵和形式。美國學(xué)者斯蒂芬·平克指出了人類相互間使用暴力減少的歷史大趨勢，認(rèn)為“今天我們也許處于人類有史以來最和平的時代”斯蒂芬·平克：《人性中的善良天使：暴力為什么會減少》，北京：中信出版集團，2015年，前言第1頁。。王緝思對當(dāng)今世界戰(zhàn)爭明顯減少的現(xiàn)象給出了5個方面的解釋，包括：大國發(fā)動戰(zhàn)爭可能付出的成本和代價大大高于可能的收益，通過非戰(zhàn)爭手段也可以獲得過去需要通過戰(zhàn)爭才能獲得的收益，國家間相互了解的增加以及危機預(yù)防和管控機制的普遍建立，國際軍控機制的建立，和平作為一種國際價值觀的深入人心。王緝思：《世界政治的終極目標(biāo)》，北京：中信出版集團，2018年，第55—59頁。而人工智能的發(fā)展有可能使國家和非國家行為體在是否使用軍事手段解決矛盾的選擇中，顧慮下降。至少從理論推演的結(jié)果看，人工智能能夠從決策者、軍隊、民意3個層面減少對戰(zhàn)爭的制約，降低戰(zhàn)爭門檻。無人武器使得戰(zhàn)爭行為者的人員傷亡預(yù)期可以降到近乎“零”。人工智能技術(shù)的快速迭代和新材料的廣泛運用將極大地壓縮戰(zhàn)爭的物理成本，讓戰(zhàn)爭的經(jīng)濟適用性上升，甚至變得有利可圖。這使得決策者發(fā)動戰(zhàn)爭的誘惑增大、顧慮減少?！俺暰唷弊鲬?zhàn)的可能性和機器人戰(zhàn)士的出現(xiàn)，將進一步從心理上解放士兵。未來戰(zhàn)爭中，士兵或許不必上戰(zhàn)場，作戰(zhàn)任務(wù)可以通過事先設(shè)計好的算法，由“人工智能將軍”指揮無人自動武器完成?！皹O速戰(zhàn)”可以極大壓縮戰(zhàn)爭時間，在出現(xiàn)民意的反彈之前戰(zhàn)爭就可以結(jié)束了。這些可能改變?nèi)藗儗?zhàn)爭的立場，讓暴力回潮。

2018年10月，美國陸軍協(xié)會陸戰(zhàn)研究所發(fā)布的報告《影響力機器——讓自動化信息作戰(zhàn)成為戰(zhàn)略制勝機制》稱，在人工智能的幫助下，利用算法生成內(nèi)容，實施個性化的目標(biāo)鎖定和采用密集的信息傳播組合，可以生成“影響力機器”，實施信息作戰(zhàn)，由此能產(chǎn)生指數(shù)級的影響效應(yīng)。該報告認(rèn)為，“影響力機器”信息作戰(zhàn)在戰(zhàn)略層面上的影響力遠(yuǎn)勝于人工智能技術(shù)在其他領(lǐng)域的應(yīng)用。因為它可以在機器學(xué)習(xí)的輔助下，對情感、偏見和價值觀等指標(biāo)進行篩選，并鎖定那些心理最易受到影響的目標(biāo)受眾，然后將定制的“精神彈藥”快速密集的“射向”目標(biāo)群體，達(dá)到影響其心理、操縱其認(rèn)知的目的。

第二，人工智能可能沖擊全球戰(zhàn)略穩(wěn)定。約瑟夫·奈曾經(jīng)談到，核武器的出現(xiàn)使軍事力量作為維護安全的手段走到了極限，甚至走向其反面。人們認(rèn)識到，在核戰(zhàn)爭中沒有贏家，核武器可能使全人類面臨滅亡的危險。約瑟夫·奈：《理解國際沖突：理論與歷史》，上海人民出版社，第201—207頁。而人工智能將挑戰(zhàn)經(jīng)典的“相互確保摧毀”理論。蘭德公司在2018年發(fā)布的《人工智能對核戰(zhàn)爭風(fēng)險的影響》報告中分析認(rèn)為，到2040年，人工智能技術(shù)的進步使報復(fù)性核反擊力量成為目標(biāo)并被摧毀的可能性大大增加，從而削弱“相互確保摧毀”的基礎(chǔ)，打破核戰(zhàn)略平衡。即使各國無意發(fā)起先發(fā)制人的攻擊，也會傾向于追求先發(fā)制人的能力，以此作為與對手討價還價的手段，而這無疑將破壞戰(zhàn)略穩(wěn)定。第三，人工智能的自身特點讓建立相關(guān)國際軍控和防擴散機制變得困難。在2018年7月清華大學(xué)第七屆世界和平論壇“人工智能與安全”分論壇的討論中，《智能時代的戰(zhàn)略競爭》報告的作者之一格里戈利·艾倫（Gregory C.Allen）說，人工智能也有軍民兩用性，但其軍事應(yīng)用不同于核，更像電。如果可以認(rèn)為核是一種黑白技術(shù)，只存在“有”或“沒有”兩種狀態(tài)，一國要么是有核國，要么是無核國。而電則是一種光譜技術(shù)，就像紅橙黃綠藍(lán)靛紫七色光有不同的波長和媒介反射率一樣，不同的國家都可以用電，只是應(yīng)用方式和程度會有很大差異。人工智能在軍事上的應(yīng)用更像電，無法禁止哪一個國家使用人工智能。就像美蘇冷戰(zhàn)期間的軍備競賽一樣，未來很可能出現(xiàn)人工智能強國之間的算法競賽。問題是，當(dāng)年美蘇通過軍控談判簽署了一系列核導(dǎo)軍控協(xié)議，確定了基本規(guī)則，未來的人工智能強國間能否本著同樣的精神達(dá)成算法控制協(xié)議呢？艾倫認(rèn)為，從目前大國關(guān)系態(tài)勢看，達(dá)成這樣的共識幾無可能;然而，考慮到未來無序發(fā)展的風(fēng)險，大國又必須認(rèn)真考慮就此進行共同探討的必要性。

第四，人工智能給國際法帶來了一系列的問題。在應(yīng)用人工智能武器的條件下，國際人道法和戰(zhàn)爭法的有關(guān)原則是否能夠繼續(xù)適用？比如，區(qū)別對待軍民目標(biāo)的“區(qū)分原則”、禁止過分攻擊的“比例原則”、非軍事手段無法達(dá)成目標(biāo)的“軍事必要原則”，對作戰(zhàn)手段的限制等。有沒有必要針對人工智能武器制定專門的規(guī)則？在智能化戰(zhàn)爭條件下，如何區(qū)分戰(zhàn)斗人員和非戰(zhàn)斗人員？戰(zhàn)爭機器人是否享有人道待遇？人工智能武器是否對其造成的損害有承擔(dān)責(zé)任的能力？如果它不具備承擔(dān)責(zé)任的能力，那責(zé)任主體應(yīng)該是武器的制造者還是使用者？當(dāng)人工智能武器侵犯國家的主權(quán)HYPERLINK\"http：//www.yidianzixun.com/channel/w/%E4%B8%BB%E6%9D%83\"原則時，它的行為能否觸發(fā)國家責(zé)任？

第五，人工智能可能沖擊國際關(guān)系民主化。人工智能的發(fā)展有可能固化國際權(quán)力結(jié)構(gòu)，深化小國、弱國對強國、大國的科技、經(jīng)濟和安全的依賴。當(dāng)“贏者通吃”的人工智能技術(shù)競爭和商業(yè)競爭規(guī)律復(fù)制到國際關(guān)系上時，必然會沖擊大小、強弱國家間的主權(quán)平等關(guān)系。當(dāng)主要大國之間的競爭加劇時，結(jié)盟關(guān)系是否會再度成為弱國的必然選擇呢？而結(jié)盟本身就是一種盟主和盟友之間的不平等關(guān)系。

第六，人工智能對全球治理提出了新的課題。人工智能的發(fā)展對于解決當(dāng)今世界面臨的三大困境（老齡化、數(shù)字化和氣候變化）都具有意義。而更大的挑戰(zhàn)也許是人工智能帶來的對于“人”的價值的進一步思考。一些國家和城市也開始探索試行“普遍個人收入”制度（UPI，universal personal income）。這必定是一個需要匯聚全球智慧與力量共同去思考和實踐的問題。

在規(guī)則與制度層面上，以數(shù)據(jù)為例，在近代人類歷史上，國際社會先后就自然人的跨境移動、船只和飛行器等交通工具的跨境移動、資本和商品的跨境移動等，形成了普遍認(rèn)同的規(guī)則和制度安排。當(dāng)前，數(shù)據(jù)作為一種資源的重要性與日俱增，隨之而來的問題是：數(shù)據(jù)跨境轉(zhuǎn)移應(yīng)遵循什么規(guī)則、在什么樣的制度安排下進行？數(shù)據(jù)的產(chǎn)生方、使用方、輸出方、接收方等利益相關(guān)各方分別享有什么權(quán)利、承擔(dān)什么義務(wù)？數(shù)據(jù)本土儲存和跨境轉(zhuǎn)移之間是什么關(guān)系？國家與數(shù)據(jù)企業(yè)之間是什么關(guān)系？這些都將是未來全球治理的難題。2019年G20的東道主日本已經(jīng)提議將全球數(shù)據(jù)治理列入G20的議程。

四、 我們該如何選擇？

目前，即便走在人工智能技術(shù)最前列的科研人員也承認(rèn)，人類距離制造出達(dá)到人類智慧的機器人，還有比較長的距離。目前，人工智能可能帶來的安全威脅更多是人類本身利用人工智能去威脅人類。因此，人類如何進行自我約束是人工智能技術(shù)進步過程中最為緊迫的道德問題。

2015年10月14日，一個名為“智能平方”的組織在紐約邀請幾位國際問題專家進行了一場辯論，題目是：中美是長期敵人嗎？。芝加哥大學(xué)政治學(xué)教授米爾斯海默不出所料地講起了“大國政治的悲劇”。作為反方，澳大利亞前總理陸克文有一句話令人記憶猶新。他說，外交的挑戰(zhàn)就是要確保阻止戰(zhàn)爭的發(fā)生，相信我們能夠做到這一點。陸克文的邏輯也適用于人工智能。人工智能是一種技術(shù)，可以為善，也可以作惡。盡管對善、惡的判斷和選擇是人類一個古老和難有完全一致看法的哲學(xué)命題，但是在關(guān)系到人類根本生存這樣的大問題上，擁有理性和現(xiàn)代文明的人類應(yīng)該可以決定向善還是向惡。

2018年6月，筆者應(yīng)邀參訪科大訊飛北京公司，其間討論到未來是否會出現(xiàn)人工翻譯與機器翻譯之間的競爭時，公司負(fù)責(zé)人表示，發(fā)展人工智能翻譯技術(shù)的目的不是取代人，而是助力翻譯工作更加準(zhǔn)確和輕松。這給筆者以啟發(fā)。畢竟，就像毛澤東同志所說的“決定戰(zhàn)爭勝敗的是人民，而不是一兩件新式武器”《毛澤東選集（第四卷）》，北京：人民出版社，1991年，第1195頁。。人類開發(fā)人工智能技術(shù)的目的是服務(wù)于人類，是善用還是惡意應(yīng)用最終取決于掌握技術(shù)的人。

當(dāng)前國際上關(guān)于秩序的討論十分熱烈。其中，中美兩國學(xué)界最為關(guān)心的，也為世界其他各國所普遍關(guān)注的是：美國與中國是否會展開“新冷戰(zhàn)”，從而導(dǎo)致冷戰(zhàn)時的平行秩序再度出現(xiàn)？2018年3月，筆者與來北京參加中國發(fā)展高層論壇的美歐人士交談時，觀察到他們對中美關(guān)系的前景比較悲觀，認(rèn)為中國的快速增長對美國來說是結(jié)構(gòu)性威脅。當(dāng)筆者問道：中美兩國除了走向?qū)?，有沒有別的選擇？英國《金融時報》副主編馬丁·沃爾夫回答說，你們沒有什么可選擇的，中國不會停止增長，美國不會停止擔(dān)憂。（You have no choice， you can't stop growing and they can't stop worrying.）除非出現(xiàn)一種情況，例如發(fā)生來自火星的入侵，人類面臨共同的敵人，屆時美中才有可能真正團結(jié)起來。

如果用零和博弈和追求絕對安全的眼光看待世界，那毫無疑問，人工智能會像20世紀(jì)40、50年代的原子彈、衛(wèi)星一樣，成為大國競爭的新焦點，并成為將世界劃分為兩種或多種平行秩序的助推動力。但是如果我們采用人類命運共同體的視角，本著共同安全的理念看問題，那么就不難認(rèn)識到，人工智能技術(shù)帶來的安全和治理挑戰(zhàn)是需要全人類共同面對的問題。如此，我們就不難本著平等協(xié)商的精神，共同探討各利益攸關(guān)方都能夠接受的規(guī)范。那么，人工智能是否會成為那個將中國、美國、俄羅斯以及世界其他國家團結(jié)在一起的“火星入侵”式的挑戰(zhàn)呢？

技術(shù)專家們在大聲疾呼。在2018年的烏鎮(zhèn)第五屆世界互聯(lián)網(wǎng)大會上舉辦的“網(wǎng)絡(luò)空間的中美關(guān)系”分論壇上，原美國聯(lián)邦通信委員會專家戴夫·法伯呼吁，應(yīng)盡早就人工智能制定國際準(zhǔn)則，避免重演核武器技術(shù)產(chǎn)生時因國際共識和自律的遲到而導(dǎo)致的悲劇及其影響至今的嚴(yán)重后果。

現(xiàn)實情況是，中美兩國在科學(xué)技術(shù)研究領(lǐng)域的交往與合作是相當(dāng)深入的。根據(jù)科睿唯安提供的人工智能領(lǐng)域科技文獻(xiàn)數(shù)據(jù)，從2013年到2017年，全球參與評估的167個國家/地區(qū)在WOS學(xué)科“計算機、人工智能”發(fā)文排名中，中國大陸位居第一，發(fā)文量達(dá)到59573篇，占25.02%，其次是美國，發(fā)文量為32527篇，占13.66%。其中，中美兩國國際合作論文數(shù)量增長最快，例如，過去5年中國大陸開展國際合作最多的對象是美國，合作論文量是4307篇，同樣，美國開展國際合作最多的國家也是中國大陸，遠(yuǎn)遠(yuǎn)多于與其他國家的合作論文量?？祁Ｎò残畔⒎?wù)：《人工智能領(lǐng)域科技文獻(xiàn)中高產(chǎn)國家/地區(qū)的競爭力分析》，2018年12月，第13頁。

國際上圍繞相關(guān)問題的探討和研究已經(jīng)在步步深入。例如，聯(lián)合國裁軍委致命性自主武器系統(tǒng)問題政府專家組的討論就涉及要注意致命性自主武器系統(tǒng)可能對國際安全產(chǎn)生的影響。例如，致命性自主武器系統(tǒng)技術(shù)方面的軍備競賽，擴大發(fā)達(dá)國家與發(fā)展中國家之間的技術(shù)差距，以及可能降低使用武力的門檻等;就國家對其管轄下的致命性自主武器系統(tǒng)負(fù)有法律責(zé)任達(dá)成非正式普遍諒解;探討參照《特定常規(guī)武器公約》議定書的形式，制定一項具有法律約束力的文件，預(yù)防性地禁止致命性自主武器系統(tǒng)。

習(xí)近平主席于2018年9月在致2018世界人工智能大會的賀信中闡明了中國的立場和態(tài)度。他指出，新一代人工智能正在全球范圍內(nèi)蓬勃興起，為經(jīng)濟社會發(fā)展注入了新動能，正在深刻改變?nèi)藗兊纳a(chǎn)生活方式。把握好這一發(fā)展機遇，處理好人工智能在法律、安全、就業(yè)、道德倫理和政府治理等方面提出的新課題，需要各國深化合作、共同探討。中國愿在人工智能領(lǐng)域與各國共推發(fā)展、共護安全、共享成果。

基于清華大學(xué)人工智能與安全項目小組的研究結(jié)果，我們提出了關(guān)于人工智能的六點原則：一是福祉原則。人工智能的發(fā)展應(yīng)服務(wù)于人類共同福祉和利益，其設(shè)計與應(yīng)用須遵循人類社會基本倫理道德，符合人類的尊嚴(yán)和權(quán)利。二是安全原則。人工智能不得傷害人類，要保證人工智能系統(tǒng)的安全性、可適用性與可控性，保護個人隱私，防止數(shù)據(jù)泄露與濫用。保證人工智能算法的可追溯性與透明性，防止算法歧視。三是共享原則。人工智能創(chuàng)造的經(jīng)濟繁榮應(yīng)服務(wù)于全體人類。構(gòu)建合理機制，使更多人受益于人工智能技術(shù)的發(fā)展、享受便利，避免數(shù)字鴻溝的出現(xiàn)。四是和平原則。人工智能技術(shù)須用于和平目的，致力于提升透明度和建立信任措施，倡導(dǎo)和平利用人工智能，防止開展致命性自主武器軍備競賽。五是法治原則。人工智能技術(shù)的運用，應(yīng)符合《聯(lián)合國憲章》的宗旨以及各國主權(quán)平等、和平解決爭端、禁止使用武力、不干涉內(nèi)政等現(xiàn)代國際法基本原則。六是合作原則。世界各國應(yīng)促進人工智能的技術(shù)交流和人才交流，在開放的環(huán)境下推動和規(guī)范技術(shù)的提升。這些原則可以作為討論和制定人工智能國際規(guī)則的基礎(chǔ)。

雖然這些原則尚顯空泛和抽象，如何細(xì)化和如何與各國專家深入探討，尋找最大公約數(shù)，還是一個需要花時間去努力爭取的目標(biāo)。值得注意的是，許多從事高端科研的青年專家已經(jīng)提出為人類的共同利益而主動自律的問題，不少企業(yè)界人士表示要在人工智能的技術(shù)研究和產(chǎn)品制造中自覺強調(diào)道德和道義的因素，不會從事有損人類福祉的研究和制造工作。

筆者希望國際上關(guān)于這些問題的探討能不斷深入，也期待中國的智庫和科學(xué)技術(shù)界能在這個方向上為全球的共同努力貢獻(xiàn)力量。