人工智能“軍備競(jìng)賽”的真正危險(xiǎn)是什么

保羅·斯查瑞

俄羅斯總統(tǒng)弗拉基米爾·普京早在2017年時(shí)就宣稱(chēng)，領(lǐng)導(dǎo)人工智能發(fā)展的國(guó)家將“成為世界的統(tǒng)治者”。這種觀點(diǎn)顯然在全球全面鋪開(kāi)，因?yàn)榻刂聊壳?，已?jīng)有十幾個(gè)國(guó)家宣布了本國(guó)的人工智能計(jì)劃。2017年，中國(guó)發(fā)布《新一代人工智能發(fā)展規(guī)劃》，制訂了“到2030年人工智能理論、技術(shù)與應(yīng)用總體達(dá)到世界領(lǐng)先水平，成為世界主要人工智能創(chuàng)新中心，智能經(jīng)濟(jì)、智能社會(huì)取得明顯成效，為躋身創(chuàng)新型國(guó)家前列和經(jīng)濟(jì)強(qiáng)國(guó)奠定重要基礎(chǔ)”的目標(biāo)。2019年早些時(shí)候，美國(guó)白宮發(fā)布了《美國(guó)人工智能計(jì)劃》，美國(guó)國(guó)防部推出了人工智能戰(zhàn)略。

科技發(fā)力，創(chuàng)新進(jìn)步固然是好事，然而近期，關(guān)于“人工智能軍備競(jìng)賽”的新說(shuō)法則反映了一種對(duì)其危險(xiǎn)性的錯(cuò)誤認(rèn)識(shí)，這有可能引發(fā)重大的新風(fēng)險(xiǎn)。其實(shí)，對(duì)于每個(gè)國(guó)家來(lái)說(shuō)，真正的危險(xiǎn)并非在人工智能的競(jìng)爭(zhēng)方面落后于對(duì)手，而是企圖“競(jìng)賽”的這種高壓態(tài)勢(shì)，反而會(huì)促使各國(guó)急于部署并不安全的人工智能系統(tǒng)。想要先發(fā)制人并贏得勝利的各國(guó)，實(shí)際上面臨著與對(duì)手國(guó)家一樣多的危險(xiǎn)。

1.一場(chǎng)沒(méi)有人會(huì)獲勝的比賽

人工智能帶來(lái)從衛(wèi)生保健到交通等全方位巨大的好處，還有巨大的風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)并不像科幻大片里演的那樣是機(jī)器人的崛起，真正的威脅來(lái)自于人類(lèi)自己。

目前，人工智能系統(tǒng)雖然功能強(qiáng)大但并不可靠。很多人工智能系統(tǒng)不僅在受到復(fù)雜的攻擊時(shí)會(huì)變得脆弱，而且在受訓(xùn)的環(huán)境之外使用時(shí)常會(huì)失靈。政府確實(shí)是希望系統(tǒng)能平穩(wěn)運(yùn)行，但是“軍備競(jìng)賽”的大環(huán)境卻讓一些人只顧得了眼前卻管不了將來(lái)。即使其他國(guó)家實(shí)際上并沒(méi)有實(shí)現(xiàn)人工智能系統(tǒng)的重大突破，但是認(rèn)為他們的技術(shù)正在突飛猛進(jìn)的猜測(cè)，卻足以促使另外一些國(guó)家投身“競(jìng)賽”。如果某國(guó)政府部署了未經(jīng)測(cè)試的人工智能武器系統(tǒng)或依靠有故障的人工智能系統(tǒng)來(lái)發(fā)起網(wǎng)絡(luò)攻擊，可能會(huì)對(duì)所有參與其中的人與國(guó)家造成災(zāi)難性的后果。

各國(guó)政治家們應(yīng)該從計(jì)算機(jī)網(wǎng)絡(luò)發(fā)展的歷史中進(jìn)行學(xué)習(xí)，從一開(kāi)始就將安全性作為人工智能設(shè)計(jì)的主要因素；還應(yīng)該減少有關(guān)人工智能軍備競(jìng)賽的言論，并尋求機(jī)會(huì)與其他國(guó)家合作研究降低人工智能風(fēng)險(xiǎn)。歸根結(jié)底，人工智能軍備競(jìng)賽是一場(chǎng)沒(méi)有人會(huì)獲勝的比賽。

最簡(jiǎn)單的人工智能系統(tǒng)通過(guò)遵循人類(lèi)預(yù)先設(shè)置的一系列規(guī)則來(lái)執(zhí)行任務(wù)。雖然我們很難把飛機(jī)自動(dòng)駕駛儀或報(bào)稅軟件背后的技術(shù)視為人工智能，但這些眾所周知的“專(zhuān)家系統(tǒng)”已經(jīng)存在了幾十年，而且現(xiàn)在它們無(wú)處不在。過(guò)去的幾年中，數(shù)據(jù)收集、計(jì)算機(jī)處理能力和算法設(shè)計(jì)的飛速發(fā)展，研究人員通過(guò)更靈活的方法在人工智能方面取得了重大進(jìn)展：機(jī)器學(xué)習(xí)。

機(jī)器學(xué)習(xí)是指程序員無(wú)須編寫(xiě)規(guī)則，機(jī)器通過(guò)分析給定的數(shù)據(jù)來(lái)拾取它們。給算法提供數(shù)千張帶有對(duì)象標(biāo)簽的照片，它將學(xué)習(xí)識(shí)別圖像中的圖案并與對(duì)象名稱(chēng)建立關(guān)聯(lián)。人工智能的繁榮始于2012年，研究人員依靠人工深度神經(jīng)網(wǎng)絡(luò)，在機(jī)器學(xué)習(xí)技術(shù)的“深度學(xué)習(xí)”方面取得了重要突破。人工神經(jīng)網(wǎng)絡(luò)是受生物神經(jīng)元啟發(fā)的一種智能技術(shù)，模擬生物神經(jīng)元通過(guò)發(fā)送和接收電脈沖與其他細(xì)胞進(jìn)行交流。人工神經(jīng)網(wǎng)絡(luò)最初就像是一片空白一無(wú)所知的領(lǐng)域，然后系統(tǒng)通過(guò)調(diào)整神經(jīng)元之間的連接強(qiáng)度，增強(qiáng)正確答案的路徑連接以及減弱錯(cuò)誤答案路徑連接來(lái)進(jìn)行學(xué)習(xí)。深度神經(jīng)網(wǎng)絡(luò)——深度學(xué)習(xí)，是一個(gè)在輸入層和輸出層之間具有多層人工神經(jīng)元的神經(jīng)網(wǎng)絡(luò)，額外的神經(jīng)元層次允許不同路徑的強(qiáng)度具有更多可變性，從而幫助人工智能在更大范圍內(nèi)應(yīng)對(duì)各種情況。

2.幾乎無(wú)所不能的人工智能

系統(tǒng)如何精確學(xué)習(xí)取決于開(kāi)發(fā)人員選取哪種機(jī)器學(xué)習(xí)算法以及提供哪些數(shù)據(jù)。許多機(jī)器學(xué)習(xí)方法使用已標(biāo)記的數(shù)據(jù)（稱(chēng)為“監(jiān)督學(xué)習(xí)”），但是機(jī)器也可以從未標(biāo)記的數(shù)據(jù)（“無(wú)監(jiān)督學(xué)習(xí)”）或直接從環(huán)境中學(xué)習(xí)（“強(qiáng)化學(xué)習(xí)”），機(jī)器還可以根據(jù)計(jì)算機(jī)合成的數(shù)據(jù)進(jìn)行學(xué)習(xí)。Waymo是一家研發(fā)自動(dòng)駕駛汽車(chē)的公司，其研發(fā)的自動(dòng)駕駛汽車(chē)已經(jīng)在公共道路上行駛超過(guò)一千萬(wàn)英里，而該公司每天在計(jì)算機(jī)上模擬記錄行駛一千萬(wàn)英里，從而能夠利用數(shù)十億英里的合成數(shù)據(jù)來(lái)測(cè)試自動(dòng)駕駛汽車(chē)的算法。

自2012年深度學(xué)習(xí)取得重大突破以來(lái)，研究人員創(chuàng)造了媲美甚至超越人類(lèi)最佳表現(xiàn)的人工智能系統(tǒng)，這些系統(tǒng)能夠進(jìn)行面部識(shí)別、物體識(shí)別、語(yǔ)音轉(zhuǎn)錄以及玩復(fù)雜的游戲，包括中國(guó)圍棋和實(shí)時(shí)計(jì)算機(jī)游戲“星際爭(zhēng)霸”。深度學(xué)習(xí)也已經(jīng)超越舊的、基于規(guī)則的人工智能系統(tǒng)。2018年，一種深度學(xué)習(xí)算法在一臺(tái)大型超級(jí)計(jì)算機(jī)上用了四個(gè)小時(shí)與自己進(jìn)行了數(shù)百萬(wàn)次對(duì)弈，就擊敗了當(dāng)時(shí)的國(guó)際象棋冠軍計(jì)算機(jī)程序，而無(wú)須任何人工訓(xùn)練數(shù)據(jù)或手動(dòng)編碼規(guī)則來(lái)指導(dǎo)其行為。

研究人員現(xiàn)在將人工智能應(yīng)用于改進(jìn)現(xiàn)實(shí)世界的問(wèn)題，從診斷皮膚癌到駕駛汽車(chē)再到提高能源效率等。根據(jù)麥肯錫咨詢(xún)公司的估計(jì)，美國(guó)人需要的付費(fèi)服務(wù)，幾乎有一半可以使用現(xiàn)有人工智能技術(shù)實(shí)現(xiàn)自動(dòng)化（有5%的服務(wù)最終會(huì)被消滅）。大型機(jī)構(gòu)在大數(shù)據(jù)上的積累和強(qiáng)大的計(jì)算能力，最有可能取得重大突破，使人工智能工具越來(lái)越普及?，F(xiàn)在，很多人工智能工具都可以任意在線(xiàn)使用，例如免費(fèi)編程課程教人們?nèi)绾沃谱髯约旱娜斯ぶ悄芟到y(tǒng)，并且可以免費(fèi)下載經(jīng)過(guò)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)。人工智能工具的流行的確能夠促進(jìn)創(chuàng)新，但是將強(qiáng)大的人工智能工具輕易地交給任何想要的人，也會(huì)幫助到想要作惡的人。

濫用人工智能造成的危害并非假設(shè)，事實(shí)已經(jīng)擺在這里。聊天機(jī)器人之類(lèi)的僵尸程序通常用于操縱社交媒體，選擇性地放大某些消息并壓制其他消息。人工智慧換臉是由人工智能生成的偽造視頻，將人的臉部以數(shù)字方式完美地與色情演員的身體嫁接，用來(lái)實(shí)行所謂的“色情復(fù)仇攻擊”。

上述的例子僅僅是開(kāi)始。政治運(yùn)動(dòng)使用基于人工智能的數(shù)據(jù)分析來(lái)針對(duì)個(gè)人設(shè)計(jì)量身定制的政治宣傳，商業(yè)公司也使用相同的分析來(lái)為潛在客戶(hù)專(zhuān)門(mén)發(fā)送感興趣的廣告。數(shù)字小偷使用人工智能工具來(lái)創(chuàng)建更有效的網(wǎng)絡(luò)釣魚(yú)攻擊，聊天機(jī)器人只需要一分鐘的音頻就可以克隆人的聲音，從而令人信服地在線(xiàn)或通過(guò)電話(huà)模擬人類(lèi)交談，任何沒(méi)有真人現(xiàn)身的網(wǎng)上或電話(huà)互動(dòng)都可能是詐騙行為。安全專(zhuān)家證明，網(wǎng)絡(luò)黑客完全有可能入侵自動(dòng)駕駛汽車(chē)，鎖定自動(dòng)車(chē)輛的轉(zhuǎn)向和剎車(chē)功能，僅靠一個(gè)人通過(guò)網(wǎng)上操作就可以劫持大量汽車(chē)，造成交通擁堵或發(fā)動(dòng)恐怖襲擊。

3.人工智能將何去何從

無(wú)論哪個(gè)國(guó)家在人工智能方面居于領(lǐng)先地位，都將利用它來(lái)獲取與競(jìng)爭(zhēng)對(duì)手在經(jīng)濟(jì)和軍事上的相對(duì)優(yōu)勢(shì)。預(yù)計(jì)到2030年，人工智能將為全球經(jīng)濟(jì)做出13萬(wàn)億至15萬(wàn)億美元的貢獻(xiàn)。人工智能還將加快科學(xué)發(fā)展的進(jìn)程。2019年，人工神經(jīng)網(wǎng)絡(luò)在生物學(xué)研究的關(guān)鍵任務(wù)——合成蛋白折疊方面取得重要進(jìn)展，大幅領(lǐng)先現(xiàn)有的研究方法。

人工智能也將徹底改變戰(zhàn)爭(zhēng)。人工智能對(duì)于提高士兵在戰(zhàn)場(chǎng)上的態(tài)勢(shì)感知、指揮官的決策能力和命令傳達(dá)能力最為有效。人工智能系統(tǒng)處理信息的數(shù)量與速度都遠(yuǎn)超人類(lèi)，它們是對(duì)戰(zhàn)爭(zhēng)中海量信息進(jìn)行實(shí)時(shí)評(píng)估的寶貴工具，而在戰(zhàn)場(chǎng)上，機(jī)器比人類(lèi)的移動(dòng)更快、更精確、更協(xié)調(diào)。在最近的“星際爭(zhēng)霸”電游人工智能對(duì)戰(zhàn)人類(lèi)比賽中，人工智能系統(tǒng)AlphaStar在快速處理海量信息、作戰(zhàn)單位協(xié)調(diào)以及快速精準(zhǔn)移動(dòng)方面顯示了超越人類(lèi)的能力?，F(xiàn)實(shí)世界中，人工智能系統(tǒng)憑借上述優(yōu)勢(shì)在管理控制機(jī)器人群上比人類(lèi)手動(dòng)控制更加有效。人類(lèi)可以在更高層面的戰(zhàn)略中保留自己的優(yōu)勢(shì)，但人工智能將在地面戰(zhàn)爭(zhēng)中占據(jù)主導(dǎo)地位。

中國(guó)已經(jīng)是人工智能方面的全球強(qiáng)國(guó)，這也是華盛頓不甘落后急于開(kāi)發(fā)人工智能的原因。全球領(lǐng)先的人工智能公司排名，中國(guó)的科技巨頭阿里巴巴、百度和騰訊緊隨亞馬遜、谷歌與微軟其后。2018年注資最多的10家人工智能初創(chuàng)企業(yè)中有5家是中國(guó)企業(yè)。幾年前，中國(guó)提出到2030年成為全球人工智能領(lǐng)導(dǎo)者的目標(biāo)似乎還是紙上談兵，現(xiàn)在則完全可能成為現(xiàn)實(shí)。

美國(guó)的現(xiàn)實(shí)情況是華盛頓和硅谷之間在軍事使用人工智能方面存在巨大分歧。谷歌與微軟的員工反對(duì)他們與五角大樓簽訂的公司合同，導(dǎo)致谷歌停止使用人工智能分析視頻素材的項(xiàng)目。由于政府與民間的分歧，哪怕美國(guó)在人工智能研發(fā)方面保持領(lǐng)先地位，也會(huì)失去軍事優(yōu)勢(shì)。政府合理的反應(yīng)是將自己在人工智能上的投資加倍，然而問(wèn)題在于，人工智能技術(shù)是把雙刃劍，不僅會(huì)給輸?shù)舯荣惖囊环綆?lái)風(fēng)險(xiǎn)，同樣也會(huì)給贏得比賽的一方帶來(lái)風(fēng)險(xiǎn)。

4.未可知的風(fēng)險(xiǎn)與挑戰(zhàn)

當(dāng)今的人工智能技術(shù)功能雖然強(qiáng)大但并不完全可靠。基于規(guī)則的系統(tǒng)無(wú)法處理程序員未曾預(yù)見(jiàn)到的情況，學(xué)習(xí)系統(tǒng)也受到訓(xùn)練數(shù)據(jù)的限制，人工智能的失敗已經(jīng)導(dǎo)致了一些悲劇發(fā)生。自動(dòng)駕駛汽車(chē)的先進(jìn)功能雖然在某些情況下表現(xiàn)良好，但無(wú)預(yù)警地將汽車(chē)撞向卡車(chē)、水泥路障以及停放著的汽車(chē)的情況也時(shí)有發(fā)生。當(dāng)出現(xiàn)與訓(xùn)練場(chǎng)景不一樣的突發(fā)狀況，人工智能系統(tǒng)會(huì)瞬間從超級(jí)智能變?yōu)槌?jí)白癡。當(dāng)敵人試圖操縱和入侵人工智能系統(tǒng)時(shí)，導(dǎo)致的風(fēng)險(xiǎn)將更大。

雖然有時(shí)不會(huì)完全崩潰，但學(xué)習(xí)系統(tǒng)也會(huì)以錯(cuò)誤的方式實(shí)現(xiàn)目標(biāo)。去年的一篇研究論文中，有52位研究人員對(duì)人工智能系統(tǒng)表現(xiàn)出幾十次異常的行為進(jìn)行了闡述：學(xué)習(xí)在模擬環(huán)境中行走的算法發(fā)現(xiàn)，通過(guò)反復(fù)摔倒可以更快地移動(dòng)；一個(gè)玩俄羅斯方塊的機(jī)器人學(xué)會(huì)了在最后一塊積木掉下來(lái)之前暫停游戲，這樣它就永遠(yuǎn)不會(huì)輸?shù)簦灰粋€(gè)程序自動(dòng)刪除了不能讓自己得到高分的評(píng)估文件。正如研究人員寫(xiě)道：“從功能實(shí)現(xiàn)角度來(lái)講，人工智能在迭代過(guò)程中尋找設(shè)計(jì)上的漏洞比實(shí)現(xiàn)人類(lèi)為其設(shè)定的預(yù)期目標(biāo)要容易得多。”給人類(lèi)帶來(lái)驚喜或是驚嚇?biāo)坪跏侨斯ぶ悄軐W(xué)習(xí)系統(tǒng)的標(biāo)準(zhǔn)特色。

機(jī)器學(xué)習(xí)系統(tǒng)的性能優(yōu)劣與其拾取的訓(xùn)練數(shù)據(jù)密切相關(guān)，如果數(shù)據(jù)不能很好地反映系統(tǒng)的運(yùn)行環(huán)境，則該系統(tǒng)在現(xiàn)實(shí)世界中就會(huì)發(fā)生故障。麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究人員2018年發(fā)現(xiàn)，三個(gè)主流的面部識(shí)別系統(tǒng)，在識(shí)別深色皮膚方面比識(shí)別淺膚色要差很多。

當(dāng)機(jī)器學(xué)習(xí)系統(tǒng)出現(xiàn)失誤時(shí)，也會(huì)像人類(lèi)一樣沮喪并變得陰晴不定。即使研究人員并不一定每一次都能預(yù)測(cè)到機(jī)器的行為，對(duì)于基于規(guī)則的人工智能系統(tǒng)，研發(fā)者大體還是可以解釋機(jī)器的行為。然而對(duì)于深度學(xué)習(xí)系統(tǒng)，研究人員往往無(wú)法理解機(jī)器為什么要這樣做。谷歌公司的人工智能研究人員阿里·拉希米（Ali Rahimi）認(rèn)為，中世紀(jì)的煉金術(shù)士雖然發(fā)現(xiàn)了現(xiàn)代玻璃制造技術(shù)，但并不了解這一突破背后的化學(xué)或物理原理，與此相似，現(xiàn)代正在研發(fā)機(jī)器學(xué)習(xí)的工程師們也能在人工智能上取得重大突破，但相應(yīng)的基礎(chǔ)科學(xué)還沒(méi)有發(fā)展到能對(duì)此進(jìn)行解釋的程度，是技術(shù)走到了科學(xué)的前頭。

人工智能系統(tǒng)的每一次故障都會(huì)成為一個(gè)可以利用的漏洞。在某些情形下，攻擊者可以使訓(xùn)練數(shù)據(jù)中毒。微軟公司在2016年創(chuàng)建了一個(gè)名為泰（Tay）的聊天機(jī)器人，并為其開(kāi)設(shè)了推特賬戶(hù)。當(dāng)一些用戶(hù)對(duì)泰發(fā)布攻擊性的推文后，不到24小時(shí)泰就開(kāi)始鸚鵡學(xué)舌地模仿他們的種族主義和反猶太言論。這就是一個(gè)顯而易見(jiàn)的數(shù)據(jù)中毒的例子，但不是所有的數(shù)據(jù)中毒攻擊都如此明顯，有些潛伏在訓(xùn)練數(shù)據(jù)中人類(lèi)無(wú)法檢測(cè)到，卻在暗中操縱機(jī)器的運(yùn)作。

深度學(xué)習(xí)系統(tǒng)的創(chuàng)建者即使保護(hù)了數(shù)據(jù)源，攻擊者也可以通過(guò)提供精心定制的輸入——對(duì)抗性樣本——來(lái)欺騙系統(tǒng)讓機(jī)器犯錯(cuò)誤。正常圖像的輕度變形，人類(lèi)可以一眼就看穿卻能夠糊弄人工智能。對(duì)衛(wèi)星圖像分類(lèi)的神經(jīng)網(wǎng)絡(luò)系統(tǒng)會(huì)被對(duì)抗性樣本欺騙，把稍加變形的醫(yī)院圖片識(shí)別為軍事機(jī)場(chǎng)，反之亦可能。對(duì)抗性樣本甚至可以就是具體的物體。一個(gè)案例中，物體識(shí)別系統(tǒng)把龜殼上嵌有細(xì)微旋渦的塑料烏龜識(shí)別為步槍?zhuān)涣硪豁?xiàng)研究中，研究人員在停車(chē)標(biāo)志前放置了幾個(gè)白色和黑色的小正方形，這些干擾讓神經(jīng)網(wǎng)絡(luò)系統(tǒng)將其辨識(shí)成每小時(shí)45英里的限速標(biāo)志。更糟糕的是，入侵者根本無(wú)須訪(fǎng)問(wèn)訓(xùn)練數(shù)據(jù)或他們?cè)噲D打敗的系統(tǒng)底層算法，就可以開(kāi)發(fā)出這類(lèi)欺騙性圖像和物體，因此研究人員也一直在努力尋找有效的防御手段來(lái)抵御這種威脅。此類(lèi)威脅與網(wǎng)絡(luò)安全漏洞不同，后者通常可以在發(fā)現(xiàn)漏洞后通過(guò)打補(bǔ)丁進(jìn)行修補(bǔ)，前者還沒(méi)有辦法可以針對(duì)攻擊對(duì)算法提前打預(yù)防針。

各國(guó)政府測(cè)試人工智能在軍事、網(wǎng)絡(luò)和監(jiān)測(cè)方面已經(jīng)積累了豐富的經(jīng)驗(yàn)，但還沒(méi)有一種測(cè)試方法可以保證復(fù)雜的系統(tǒng)一旦在現(xiàn)實(shí)世界中運(yùn)行就不會(huì)出現(xiàn)故障。F-22戰(zhàn)斗機(jī)第一次穿越國(guó)際日期變更線(xiàn)時(shí)，計(jì)算機(jī)系統(tǒng)崩潰，飛機(jī)幾乎墜毀在太平洋。

測(cè)試人工智能系統(tǒng)比測(cè)試傳統(tǒng)軍事硬件設(shè)備要花費(fèi)更多的時(shí)間和金錢(qián)。人工智能的復(fù)雜性賦予其更大的能力，也導(dǎo)致了更多難以預(yù)見(jiàn)的意外故障。假設(shè)某國(guó)政府研發(fā)出可以不知不覺(jué)入侵?jǐn)硨?duì)國(guó)計(jì)算機(jī)網(wǎng)絡(luò)的人工智能系統(tǒng)，部署該系統(tǒng)的政府將獲得遠(yuǎn)超敵對(duì)國(guó)的巨大優(yōu)勢(shì)。由于也擔(dān)心敵對(duì)國(guó)正在加緊開(kāi)發(fā)類(lèi)似的人工智能工具，政府會(huì)被迫縮短測(cè)試時(shí)間并盡早部署該系統(tǒng)。這種你追我趕的局面已經(jīng)在自動(dòng)駕駛汽車(chē)等行業(yè)形成風(fēng)氣，然而人工智能工具在國(guó)家安全領(lǐng)域造成事故的后果更加巨大。

政府醉心于強(qiáng)大但并不安全的技術(shù)，其實(shí)首開(kāi)先河的不是人工智能而是計(jì)算機(jī)。盡管計(jì)算機(jī)系統(tǒng)存在巨大漏洞，但仍在從股票交易到制導(dǎo)導(dǎo)彈的幾乎所有領(lǐng)域中發(fā)揮著至關(guān)重要的作用。美國(guó)政府責(zé)任署調(diào)查員在2018年發(fā)現(xiàn)，美國(guó)武器系統(tǒng)存在許多網(wǎng)絡(luò)安全漏洞，通過(guò)“相對(duì)簡(jiǎn)單的工具和技術(shù)”就可以利用這些漏洞。更糟糕的是，國(guó)防部的項(xiàng)目主管居然不知道問(wèn)題所在，并對(duì)責(zé)任署的發(fā)現(xiàn)不予理睬，還宣稱(chēng)其測(cè)試不切實(shí)際。計(jì)算機(jī)安全漏洞不僅限于政府運(yùn)行的系統(tǒng)，很多大公司也相繼遭受重大數(shù)據(jù)泄露，因此現(xiàn)在再提數(shù)字安全性已經(jīng)是馬后炮的做法。然而人工智能系統(tǒng)遍布全球不僅僅是一種可能，而是默認(rèn)設(shè)置，人工智能安全性更是一個(gè)迫在眉睫的世界性問(wèn)題。

5.人工智能發(fā)展需要全球合作和安全第一

人工智能的威脅如此緊急，全球需要進(jìn)行緊急響應(yīng)。政治家們應(yīng)對(duì)人工智能危害最重要的防御方法之一就是增加人工智能安全研究的資金投入。私營(yíng)公司花費(fèi)數(shù)十億美元研發(fā)人工智能在商業(yè)方面的應(yīng)用，各國(guó)政府更應(yīng)該在該領(lǐng)域發(fā)展之初就加大基礎(chǔ)性研究上的投入。美國(guó)國(guó)防高級(jí)研究計(jì)劃署正在執(zhí)行“下一代人工智能創(chuàng)新”項(xiàng)目，計(jì)劃在未來(lái)5年內(nèi)耗資20億美元解決弱人工智能系統(tǒng)局限性問(wèn)題（譯者注：弱人工智能是指在人為規(guī)定的框架內(nèi)，可以按照人類(lèi)做出的決定，獨(dú)立執(zhí)行某些精確任務(wù)，但不具備意識(shí)）。在此基礎(chǔ)上，作為美國(guó)人工智能創(chuàng)新規(guī)劃的一部分，白宮會(huì)相應(yīng)追加人工智能安全性研究的資金，并要求國(guó)會(huì)對(duì)人工智能安全性的研發(fā)提供更多預(yù)算。

將人工智能應(yīng)用于國(guó)家安全方面，政府機(jī)構(gòu)需要重新審視一直以來(lái)測(cè)試新系統(tǒng)的傳統(tǒng)方法，僅僅驗(yàn)證系統(tǒng)是否符合設(shè)計(jì)規(guī)格還遠(yuǎn)遠(yuǎn)不夠。測(cè)試人員還需要確保當(dāng)面臨現(xiàn)實(shí)世界敵對(duì)入侵威脅時(shí)，系統(tǒng)還能夠繼續(xù)正常運(yùn)行。在某些情況下，測(cè)試人員可以參考自動(dòng)駕駛汽車(chē)制造商的做法，使用計(jì)算機(jī)模擬來(lái)梳理錯(cuò)誤漏洞。另外國(guó)防部和情報(bào)界還應(yīng)建立“紅色軍團(tuán)”——充當(dāng)攻擊者以測(cè)試系統(tǒng)的防御能力——來(lái)搜索人工智能系統(tǒng)中的安全隱患，這樣開(kāi)發(fā)人員可以在系統(tǒng)上線(xiàn)之前進(jìn)行修復(fù)。

政府官員還要淡化有關(guān)人工智能軍備競(jìng)賽的言論，這些話(huà)語(yǔ)很可能成為自我實(shí)現(xiàn)的預(yù)言。五角大樓首席研究員、工程師邁克爾·格里芬2018年在一次會(huì)議上說(shuō)：“可能會(huì)有一場(chǎng)人工智能軍備競(jìng)賽，但我們還沒(méi)有參加?！泵绹?guó)軍方肯定會(huì)用到人工智能，但是格里芬的聲明既沒(méi)有提到更沒(méi)有意識(shí)到隨之而來(lái)的風(fēng)險(xiǎn)。政府官員過(guò)多地談?wù)撥妭涓?jìng)賽，只可能鼓勵(lì)競(jìng)爭(zhēng)對(duì)手追求速度而降低安全性，因此他們不僅要強(qiáng)調(diào)人工智能的價(jià)值，還要強(qiáng)調(diào)可靠性和安全性。

最后，為確保人工智能的安全性，美國(guó)應(yīng)該尋求與其他國(guó)家（哪怕是對(duì)手）合作的方式。在新技術(shù)方面的國(guó)際合作有好有壞的先例，各國(guó)有時(shí)也能成功合作避免相互傷害。冷戰(zhàn)期間，美國(guó)與蘇聯(lián)共同合作，限制了雙方都認(rèn)為特別不穩(wěn)定的某些類(lèi)型的核彈頭運(yùn)載系統(tǒng)。美國(guó)還鼓勵(lì)其他國(guó)家采取安全措施，防止未經(jīng)授權(quán)使用核武器。今天美國(guó)要與盟國(guó)和對(duì)手共同努力，增加研究人工智能安全的國(guó)際投資。美國(guó)還應(yīng)該與中國(guó)和俄羅斯開(kāi)始討論，人工智能的某些應(yīng)用是否會(huì)帶來(lái)可怕的風(fēng)險(xiǎn)升級(jí)或失控，以及各國(guó)如何共同采取措施來(lái)改善安全性。在人工智能軍備競(jìng)賽中，美國(guó)面臨的最大危險(xiǎn)不是輸球，而是出現(xiàn)一個(gè)滿(mǎn)盤(pán)皆輸?shù)氖澜纭?/p>

19世紀(jì)的工業(yè)化帶來(lái)了巨大的經(jīng)濟(jì)增長(zhǎng)，但同時(shí)也為軍隊(duì)制造出坦克、機(jī)槍和芥子氣等殺人武器。核武器的發(fā)明帶來(lái)了更大的危險(xiǎn)，決策者們?nèi)栽跒橹橇?。?jì)算機(jī)徹底改變了人們的工作、學(xué)習(xí)和交流方式，但同時(shí)也使以前相對(duì)獨(dú)立的系統(tǒng)更容易受到網(wǎng)絡(luò)攻擊。

人工智能隨著時(shí)代應(yīng)運(yùn)而生，產(chǎn)生的絕大多數(shù)影響都是積極的。人工智能會(huì)促進(jìn)經(jīng)濟(jì)增長(zhǎng)、診斷和治療疾病、減少交通事故并全方位地改善人們的生活。但正如任何新技術(shù)一樣，人工智能也有暗黑的一面。勇敢直面風(fēng)險(xiǎn)才能實(shí)現(xiàn)人類(lèi)創(chuàng)造人工智能改善生活的初衷，否則只會(huì)帶來(lái)無(wú)盡的危險(xiǎn)。

（摘自7月23日《光明日?qǐng)?bào)》。作者為新美國(guó)安全中心高級(jí)研究員兼技術(shù)與國(guó)家安全項(xiàng)目主任，譯者為四川省社會(huì)科學(xué)院管理學(xué)所副研究員。原文刊登于美國(guó)《外交事務(wù)》雜志2019年5/6月刊）