人工智能在反恐活動中的應(yīng)用、影響及風(fēng)險?

傅瑜 陳定定

【內(nèi)容摘要】 隨著反恐形勢的日益嚴(yán)峻與人工智能技術(shù)的日趨成熟，人工智能在反恐領(lǐng)域已經(jīng)部分應(yīng)用到反恐活動中。具體而言，人工智能輔助控制了恐怖組織信息的傳播，促進(jìn)了反恐信息的開發(fā)和利用，提升了對恐怖活動的預(yù)測能力，也促進(jìn)了智能武器的開發(fā)。此外，人工智能技術(shù)已經(jīng)成為國家反恐戰(zhàn)略的重要組成部分，在反恐資源融合、反恐活動主體及反恐合作方式方面革新了傳統(tǒng)反恐領(lǐng)域的基本規(guī)則，也從法律、道德和心理角度影響了人類反恐活動的展開。但與此同時，反恐視野下人工智能手段的開發(fā)和利用在準(zhǔn)確性、公平性和倫理道德方面仍面臨風(fēng)險。未來人工智能技術(shù)在計算機(jī)視覺、自然語言處理等方面可能迎來速度和質(zhì)量上的飛躍，人工智能武器的開發(fā)也將繼續(xù)，人工智能領(lǐng)域很可能成為未來反恐力量與恐怖組織的角逐場。

【關(guān)鍵詞】 人工智能 深度學(xué)習(xí) 反恐 系統(tǒng)性影響 潛在風(fēng)險

【作者簡介】 傅瑜，暨南大學(xué)21世紀(jì)絲綢之路研究院研究助理；海國圖智研究院助理研究員（廣州 郵編：510000）；陳定定，暨南大學(xué)國際關(guān)系學(xué)院教授（廣州 郵編：510000）

【中圖分類號】 D815.5 TP18 【文獻(xiàn)標(biāo)識碼】 A

【文章編號】 1006-1568-（2018）04-0119-19

【DOI編號】 10.13851/j.cnki.gjzw.201804007

自1956年達(dá)特茅斯會議首次提出人工智能的概念以來，學(xué)術(shù)界對此尚未有統(tǒng)一和明確的定義。 總的來說，目前對人工智能的定義主要從“像人一樣思考和行動”和“合理地思考和行動”兩個維度進(jìn)行分析。 鑒于人工智能與智慧及計算機(jī)的密切關(guān)系，本文中人工智能指利用計算機(jī)算法和其他前沿科技研究、創(chuàng)建和模仿人類解決問題的方式的技術(shù)手段，比如語音識別、視覺感知和決策等?！?·11”恐怖襲擊事件發(fā)生以來，恐怖主義活動對國家和公民安全造成日益嚴(yán)重的威脅?？植酪u擊遍布美國、法國、英國、中國、印度、澳大利亞等許多國家。以卡車和自制炸彈等為手段的自殺式爆炸襲擊屢屢發(fā)生。目前的反恐投入大、消耗多，但效果有限。 如何運用科技高效反恐成為各國反恐的核心需求。

人工智能在反恐中的應(yīng)用可以劃入人工智能與國際關(guān)系的范疇，廣義上則屬于對科技與安全關(guān)系的討論?，F(xiàn)代對人工智能的研究最早可以追溯到圖靈（A. M. Turing）發(fā)表的《計算機(jī)器與智能》一文。 對人工智能的研究隨后主要停留在技術(shù)及概念的探討上。直到20世紀(jì)80年代，西方學(xué)者開始圍繞計算機(jī)與武器控制、人工智能與國土安全等話題進(jìn)行討論。 進(jìn)入21世紀(jì)，隨著大數(shù)據(jù)、云計算和認(rèn)知技術(shù)等的出現(xiàn)，人工智能在學(xué)界引發(fā)廣泛關(guān)注，產(chǎn)生了更多關(guān)于人工智能研究模型、機(jī)器學(xué)習(xí)、人工智能帶來的社會變化及問題與挑戰(zhàn)等主題的研究。 就中國而言，人文領(lǐng)域早期鮮有對人工智能的直接研究，更多是探討科技對國際關(guān)系的影響，這一研究話題曾在20世紀(jì)末的中國引發(fā)一股研究熱潮，代表人物是王逸舟和張驥。 進(jìn)入21世紀(jì)以后，人工智能對國際關(guān)系產(chǎn)生影響的話題引起國內(nèi)學(xué)者的極大關(guān)注。董青嶺等學(xué)者在相關(guān)文章中深入探討了科技對國家安全的影響。

探尋人工智能在反恐活動中的應(yīng)用、影響和風(fēng)險，不僅有利于反恐工作的提升，也是對科技與安全這一重大問題的探索，是當(dāng)前和未來全球安全維護(hù)的重點方向之一。囿于研究材料和信息保密性等問題，本研究存在缺陷和不足，希望能夠拋磚引玉，推動學(xué)界對此話題做更為深入的研究。

一、人工智能參與反恐活動的技術(shù)基礎(chǔ)

進(jìn)入21世紀(jì)，大數(shù)據(jù)、高性能芯片與深度算法推動了人工智能走向跨越式發(fā)展，人工智能在自然語言處理、計算機(jī)視覺、智能決策等方面的發(fā)展為人工智能的反恐應(yīng)用奠定了技術(shù)基礎(chǔ)。

（一）大數(shù)據(jù)和計算芯片的發(fā)展提升了人工智能的數(shù)據(jù)處理能力

21世紀(jì)以來，亞馬遜（Amazon）、谷歌（Google）、雅虎（Yahoo）、推特（Twitter）、臉書（Facebook）等積累了大量的用戶信息。到2020年，數(shù)據(jù)總量將達(dá)到40萬億G，較2011年提升21倍。 通過挖掘數(shù)據(jù)背后的規(guī)律，大數(shù)據(jù)為人工智能和智能決策提供了數(shù)據(jù)基礎(chǔ)，也為機(jī)器學(xué)習(xí)提供了訓(xùn)練數(shù)據(jù)庫。圍繞神經(jīng)網(wǎng)絡(luò)開發(fā)的新型高性能計算芯片及架構(gòu)不斷涌現(xiàn)。隨著英特爾處理器由CPU為主轉(zhuǎn)變?yōu)镚PU為主CPU為輔的結(jié)構(gòu)，計算機(jī)運行速度提升了近70倍。 Google的機(jī)器學(xué)習(xí)定制芯片TPU、Altera公司和IBM使用的芯片F(xiàn)PGA，分別在分析、預(yù)判效率和靈活性上有突出優(yōu)勢。 這些新型高性能計算芯片及架構(gòu)為人工智能處理和分析恐怖主義相關(guān)信息奠定了技術(shù)基礎(chǔ)。

（二）深度算法提升了人工智能對恐怖分子的語音和圖像處理能力

深度學(xué)習(xí)可以識別非結(jié)構(gòu)化數(shù)據(jù)，模擬人腦神經(jīng)元多層深度傳遞的過程，通過多隱層的神經(jīng)網(wǎng)絡(luò)模型的構(gòu)建和海量數(shù)據(jù)的訓(xùn)練，極大提升數(shù)據(jù)的表征學(xué)習(xí)能力。通過在并行計算平臺的訓(xùn)練，“谷歌大腦”（Google Brain）語音識別準(zhǔn)確度從2012年的84%上升到2014年的98%。 在深度神經(jīng)網(wǎng)絡(luò)技術(shù)的基礎(chǔ)上，F(xiàn)acebook的研究小組創(chuàng)建的深度學(xué)習(xí)面部識別系統(tǒng)“深度辨臉” （Deep Face）以用戶上傳的400萬張圖片為基礎(chǔ)進(jìn)行了訓(xùn)練，將面部識別算法精度提升到97%。 基于卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network ， CNN），湯曉鷗開發(fā)的“深度識別”（Deep ID）深度學(xué)習(xí)模型識別率達(dá)到了99.15%。 2016年9月，谷歌旗下的“深度思維”（Deep Mind）利用深度神經(jīng)網(wǎng)絡(luò)對原始音頻波形建立模型，研發(fā)能夠自動辨別語言和語音的“波網(wǎng)”（Wave Net），促發(fā)了圖像和語音識別的又一次飛躍。

（三）人工智能在武器中的應(yīng)用促進(jìn)了自主武器的研發(fā)

武器自主化是自主將環(huán)境中的數(shù)據(jù)轉(zhuǎn)化為有目的的計劃和行動的過程。從技術(shù)角度而言，自主武器（autonomous weapons）的研發(fā)依賴于圖像和語音識別、反射控制系統(tǒng)（reactive control systems）、傳統(tǒng)控制系統(tǒng)（deliberative control systems）以及行動指令等。 而反射控制系統(tǒng)又包括簡單的反射控制系統(tǒng)和基于模型的反射控制系統(tǒng)。自然語言處理和計算機(jī)視覺的發(fā)展從速度和準(zhǔn)確度上提升了自主武器獲取外界信息的能力。大數(shù)據(jù)基礎(chǔ)上的算法訓(xùn)練推動了智能決策的研究。蒙特卡洛決策樹與深度神經(jīng)網(wǎng)絡(luò)的結(jié)合使得阿爾法狗（AlphaGo）在棋類游戲中所向披靡。自主武器需要明確運作程序、規(guī)則和目的，這一過程需要在大量模型基礎(chǔ)上進(jìn)行訓(xùn)練。在每一個訓(xùn)練模型都需要人類設(shè)定時，會出現(xiàn)因操作環(huán)境復(fù)雜以至于人類無法建立模型的情況，制約了自主武器的發(fā)展。 計算機(jī)性能和深度學(xué)習(xí)的發(fā)展使得機(jī)器可以在訓(xùn)練數(shù)據(jù)的基礎(chǔ)上自主學(xué)習(xí)，通過經(jīng)驗來提高知識，而不依賴于人類定義的有限模型。

總而言之，人工智能在數(shù)據(jù)處理、自然語言處理、計算機(jī)視覺和深度學(xué)習(xí)等方面正逐步走向更加高效的發(fā)展階段，將為今后人工智能的反恐應(yīng)用提供更為有效的技術(shù)支持。

二、人工智能技術(shù)在反恐活動中的初步應(yīng)用

人工智能在計算機(jī)視覺、自然語言處理和智能決策等方面的迅速發(fā)展為人工智能在反恐活動中的實際應(yīng)用提供了基礎(chǔ)條件?？偟膩碚f，充分利用持續(xù)進(jìn)步的人工智能技術(shù)，可以在控制恐怖組織信息傳播、解讀反恐情報、預(yù)防恐怖事件方面發(fā)揮更大的作用。

（一）通過人工智能技術(shù)輔助控制恐怖組織信息的傳播

利用推特、臉書、優(yōu)兔網(wǎng)（YouTube）、圖享（Instagram）等社交媒體招募潛在恐怖行為支持者，已經(jīng)成為“伊斯蘭國”（ISIS）等極端恐怖組織影響力擴(kuò)張的重要途徑。僅在2014年9月至12月期間，“伊斯蘭國”的支持者就使用了約46 000個推特帳號。 恐怖組織利用推特宣揚“圣戰(zhàn)”，對個人賬戶、機(jī)構(gòu)賬戶及整個社交網(wǎng)絡(luò)都進(jìn)行充分的內(nèi)容控制。 恐怖主義的支持者們關(guān)注并轉(zhuǎn)發(fā)此類信息，使得極端意識形態(tài)從有關(guān)機(jī)構(gòu)賬戶流向更廣泛的傳播網(wǎng)絡(luò)。此外，恐怖組織發(fā)布的內(nèi)容以視頻形式為主，相較于文字更難控制。

隨著深度學(xué)習(xí)算法的不斷完善，人工智能技術(shù)在視頻、語音和圖像識別方面的能力不斷增強(qiáng)。目前，科技手段已經(jīng)能夠有效參與到反恐行動中：YouTube的“變革創(chuàng)造者”（Creators for Change）以及Facebook的“點對點”（Person-to-person， P2P）和“線上公民勇氣倡議”（Online Civil Courage Initiative， OCCI）正加入到“反擊演講”（counter speech）的操作中。 人工智能手段在反恐活動的作用也開始引發(fā)更廣泛的關(guān)注。

人工智能可以通過圖像匹配技術(shù)控制之前被標(biāo)記為恐怖主義的宣傳圖像或視頻的上傳。 系統(tǒng)可以將用戶上傳的照片或視頻與已知恐怖信息數(shù)據(jù)庫比對，以此來決定上傳行為是否被拒絕。 Facebook、微軟、Twitter和YouTube已經(jīng)著手共建歐盟互聯(lián)網(wǎng)論壇和共享行業(yè)數(shù)據(jù)庫，改進(jìn)現(xiàn)有的聯(lián)合工作技術(shù)，利用機(jī)器學(xué)習(xí)，開發(fā)和實施新的內(nèi)容檢測和分類技術(shù)，交流實踐經(jīng)驗，并確定恐怖主義相關(guān)內(nèi)容的刪除標(biāo)準(zhǔn)。 事實上，YouTube的“重定向方法”（redirect method）已經(jīng)部分實現(xiàn)了定位和消除社交媒體網(wǎng)絡(luò)極端主義宣傳的智能化?！爸囟ㄏ蚍椒ā睍跈z測到“伊斯蘭國”相關(guān)搜索、材料、廣告和“相關(guān)內(nèi)容”后破壞這些宣傳信息；在YouTube上搜索與“伊斯蘭國”相關(guān)的內(nèi)容時，該平臺也將搜索到與這一極端恐怖組織有關(guān)的視頻，并加以“攻擊”。 利用人工智能控制恐怖組織的信息傳播目前已經(jīng)取得了良好效果。通過利用人工智能算法工具，僅2017年上半年，推特就減少了近30萬個恐怖分子的賬戶，清除效率提升了約20%。 人工智能也輔助Facebook刪除了99%的基地組織和“伊斯蘭國”的材料。 隨著人工智能繼續(xù)向前發(fā)展，社交媒體對恐怖主義信息的控制能力還將進(jìn)一步增強(qiáng)。

（二）依靠人工智能技術(shù)促進(jìn)反恐情報的開發(fā)和利用

人工智能在機(jī)器翻譯和圖像、語音識別等方面的發(fā)展使得高效開發(fā)和利用現(xiàn)有的反恐情報成為可能?，F(xiàn)代技術(shù)的進(jìn)步帶動了反恐情報數(shù)量的急劇增長。無人機(jī)平臺及其全運動視頻傳感器收集了海量反恐情報。 受制于有限的人力資源，這些傳感器平臺和監(jiān)控設(shè)備收獲的大量視頻數(shù)據(jù)過去并沒有得到及時解析。

隨著計算機(jī)芯片的不斷進(jìn)化，人工智能對數(shù)據(jù)的高速處理能力可以實現(xiàn)低層次計算活動的完全自動化，進(jìn)一步發(fā)展和有效利用現(xiàn)有數(shù)據(jù)的價值。例如，人工智能在語言識別上的技術(shù)優(yōu)勢能夠節(jié)省培養(yǎng)新語言學(xué)家所需要的時間，大大提升了語言處理速度和準(zhǔn)確度。通過深度算法，人工智能還可以抓取恐怖組織成員及其支持者的文字和圖片。早在2013年，為探查潛在的自殺式爆炸襲擊者等恐怖分子，美國國土安全部已經(jīng)把深度學(xué)習(xí)技術(shù)應(yīng)用于“生物特征識別視覺監(jiān)控系統(tǒng)”（Biometric Optical Surveillance System， BOSS），通過鏈接計算機(jī)與攝像頭，在掃描人群后根據(jù)面孔自動識別和定位目標(biāo)。 2017年4月，為將國防部的大量數(shù)據(jù)快速轉(zhuǎn)換為具有實際價值的情報，美國國防部啟動了“算法戰(zhàn)跨職能小組”（Algorithmic Warfare Cross-Functional Team， AWCFT）。 目前該小組正在利用人工智能解析MQ-9和MQ-19無人機(jī)平臺上的全運動視頻傳感器數(shù)據(jù)，首批4套智能算法已經(jīng)進(jìn)入測試階段。

（三）利用人工智能技術(shù)預(yù)測以防范恐怖活動的發(fā)生

人工智能系統(tǒng)可以根據(jù)現(xiàn)有恐怖活動案例數(shù)據(jù)庫和各類政府?dāng)?shù)據(jù)庫及社交媒體數(shù)據(jù)庫，利用人工智能預(yù)測恐怖活動嫌疑人和恐怖行為，從而在必要時對嫌疑人進(jìn)行防范和監(jiān)督，在可能發(fā)生恐怖襲擊的地點做好防范和應(yīng)急準(zhǔn)備工作。目前馬里蘭大學(xué)開發(fā)的全球恐怖主義數(shù)據(jù)庫（Global Terrorism Database）涵蓋了近17萬起恐襲案例，隨著人工智能技術(shù)對人力的解放，以大數(shù)據(jù)為基礎(chǔ)的恐怖行為分析預(yù)測將得到顯著提升。

目前，已經(jīng)有利用大數(shù)據(jù)和人工智能算法來模擬和分析“伊斯蘭國”的案例。 2015年，安德魯·斯坦頓（Andrew Stanton）等人評估了2 200多起涉及“伊斯蘭國”的交戰(zhàn)案例，通過挖掘這些事件來推導(dǎo)“伊斯蘭國”的車載簡易爆炸活動與伊拉克的軍事行動、聯(lián)軍空襲、“伊斯蘭國”簡易爆炸活動之間的關(guān)系，以及間接打擊、自殺式襲擊和逮捕行動的發(fā)生規(guī)律。通過分析“伊斯蘭國”的行為，研究人員判斷出恐怖組織的優(yōu)先目標(biāo)，發(fā)現(xiàn)了以前未被認(rèn)識到的戰(zhàn)術(shù)之間的相關(guān)性。

此外，人工智能技術(shù)正逐步被應(yīng)用到對恐怖襲擊嫌疑人的預(yù)測之中。以色列公司Faception以人物性格為分類，利用算法對一個人在分類項中的匹配度打分，預(yù)測雖未列入官方數(shù)據(jù)但有可能發(fā)動襲擊的人員。截至2016年，該公司已經(jīng)開發(fā)了15個分類數(shù)據(jù)庫，其首席執(zhí)行官稱，F(xiàn)aception識別人格特征的準(zhǔn)確率已經(jīng)達(dá)到80%。 Faception的面部分析技術(shù)也可以預(yù)測潛在的恐怖分子。在2015年11月巴黎恐怖襲擊涉及的11名恐怖分子中，只有3人有犯罪記錄，而Faception的面部分析技術(shù)在沒有檔案的情況下可以將其中的9人都標(biāo)記為潛在恐怖分子。 美國國家安全局開發(fā)的“天網(wǎng)”（SKYNET）也可以利用機(jī)器學(xué)習(xí)在555萬人的蜂窩網(wǎng)絡(luò)元數(shù)據(jù)基礎(chǔ)上評估可能成為恐怖分子的潛在對象。

（四）人工智能技術(shù)推動了自主武器的研發(fā)和運用

自主武器按照人類在其執(zhí)行任務(wù)過程中的角色可以分為遙控階段、半自主階段和全自主階段。目前自主武器智能化水平不高，尚且處于遙控階段和半自主階段。

當(dāng)前，無人機(jī)是自主武器研發(fā)和使用的典型代表。隨著智能化的發(fā)展，世界上已有70多個國家軍隊在發(fā)展無人化系統(tǒng)平臺。截至2017年，美軍已裝備7 000多架無人機(jī)，在伊拉克、阿富汗戰(zhàn)場上投入運用的履帶式機(jī)器人超過12 000個。 俄羅斯也測試了包括“巨蜥-9”（Uran-9）、索拉特尼克（Soratnik）、“平臺-M”（Platforma-M） 等多種無人地面車輛（Unmanned Ground Vehicle）。 無人機(jī)“掃描鷹”（Scan Eagle）、“灰鷹MQ – 1C”（MQ-1C Gray Eagle）和“MQ - 9收割機(jī)”（MQ-9 Reaper）在全球抗擊“伊斯蘭國”的戰(zhàn)斗中發(fā)揮了重要作用。 俄羅斯聯(lián)邦安全局在其國內(nèi)有關(guān)地區(qū)利用反恐機(jī)器人引爆，消滅了11名恐怖分子。

人工智能的發(fā)展促使各國更加重視自主化武器的研發(fā)。美國辛辛那提大學(xué)研發(fā)的ALPHA系統(tǒng)擊敗前美國空軍上校李·吉恩（Gene Lee）的事件促使美國對自主武器、無人機(jī)和深度學(xué)習(xí)投入更多資金。 美國海軍陸戰(zhàn)隊的持槍機(jī)器人、以色列的“多戈”（DOGO）自動武裝戰(zhàn)術(shù)作戰(zhàn)機(jī)器人都部分利用人工智能嘗試實現(xiàn)機(jī)器人的自主化行動。俄羅斯的“涅列赫塔”（Nerehta）機(jī)器人嘗試將無人戰(zhàn)車與人工智能技術(shù)結(jié)合，目前在偵察、運輸和地面保護(hù)等方面表現(xiàn)良好。 2018年3月，俄羅斯宣布戰(zhàn)斗機(jī)器人最早將在年內(nèi)開始批量生產(chǎn)。 全自主化武器的研發(fā)需要機(jī)器具有獨立的知識和專家推理能力，如何攻克這兩個難題有賴于人工智能在機(jī)器學(xué)習(xí)和智能決策上的進(jìn)一步推進(jìn)。

目前，自主武器的研制已經(jīng)取得一些成果。俄羅斯聯(lián)合儀表制造公司的Unikum機(jī)器人能在控制過程中完全排除人工工作。 三星公司研發(fā)的機(jī)器人哨兵SGR-A1通過內(nèi)置的攝像頭、熱量及運動傳感器來檢測入侵者，已經(jīng)實現(xiàn)了自主發(fā)射。

三、人工智能對反恐領(lǐng)域的系統(tǒng)性影響

人工智能不僅在具體應(yīng)用上提升了反恐能力，也對反恐領(lǐng)域產(chǎn)生了系統(tǒng)性影響。各國普遍提升對人工智能技術(shù)的重視程度，甚至將其視為國家反恐戰(zhàn)略的重要組成部分。在反恐行動上，人工智能促進(jìn)了反恐資源的融合、豐富了反恐活動主體，加強(qiáng)了反恐合作，也在法律、道德和心理上影響了人類反恐活動的展開。

（一）人工智能技術(shù)已經(jīng)成為各國反恐戰(zhàn)略的重要組成部分

隨著人工智能在新世紀(jì)的迅速發(fā)展，技術(shù)在安全領(lǐng)域的作用也逐漸顯現(xiàn)，人工智能開始參與到反恐活動的方方面面，并逐漸影響到反恐活動的頂層設(shè)計，成為各國反恐活動的重要組成部分。中美等國在反恐形勢日益嚴(yán)峻的背景下都將利用人工智能反恐納入國家發(fā)展戰(zhàn)略。

中國已經(jīng)將發(fā)展人工智能作為一項基本國策，在戰(zhàn)略層面多次強(qiáng)調(diào)發(fā)揮人工智能在反恐中的作用。《新一代人工智能發(fā)展規(guī)劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018—2020年）》《人工智能標(biāo)準(zhǔn)化白皮書》都重視利用人工智能提升公共安全保障能力。 把現(xiàn)代信息技術(shù)與反恐維穩(wěn)工作有機(jī)融合，推進(jìn)大數(shù)據(jù)、人工智能等新技術(shù)的深度應(yīng)用，不斷提高信息化、智能化水平，已經(jīng)成為有關(guān)地區(qū)維穩(wěn)工作的指導(dǎo)原則。

作為五角大樓“第三次抵消戰(zhàn)略”（Third Offset Strategy）的核心邏輯，美國早在2007年就將人工智能作為反恐所需的核心技術(shù)之一。 2016年發(fā)布的《為人工智能的未來做好準(zhǔn)備》和《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》提出，將人工智能技術(shù)的研發(fā)確定為國家戰(zhàn)略中的重點發(fā)展對象，建議在國際人道主義基礎(chǔ)上推進(jìn)自動和半自動武器的發(fā)展。 美國陸軍部則將機(jī)器學(xué)習(xí)、傳感器與控制系統(tǒng)、人機(jī)交互列為最值得關(guān)注的科技發(fā)展趨勢之一。 目前，美國在國家層面愈加重視人工智能的發(fā)展，將加強(qiáng)對自主武器、人工智能、機(jī)器學(xué)習(xí)等的投入視為防范和打擊恐襲的戰(zhàn)略途徑之一。

日本和俄羅斯也不斷提升對人工智能的重視程度。日本內(nèi)閣召開“人工智能技術(shù)戰(zhàn)略會議”，將發(fā)展人工智能納入了《第5期科學(xué)技術(shù)基本計劃》和《科學(xué)技術(shù)創(chuàng)新綜合戰(zhàn)略2016》，強(qiáng)調(diào)人工智能關(guān)系到國家工業(yè)和軍事的發(fā)展，將人工智能視為提升國家競爭力的手段。 俄羅斯外交和國防政策委員會也認(rèn)為人工智能是維護(hù)主權(quán)和保持國防能力的關(guān)鍵。

（二）人工智能技術(shù)正在改變傳統(tǒng)反恐領(lǐng)域的基本規(guī)則

在人工智能納入國家頂層設(shè)計的背景下，傳統(tǒng)的反恐領(lǐng)域的很多基本規(guī)則——例如反恐資源融合，反恐活動主體、反恐合作方式等也正一一發(fā)生微妙的變化。

第一，人工智能的介入促進(jìn)了國家組織機(jī)構(gòu)的資源融合和共享。美國國防部內(nèi)部復(fù)雜的職位設(shè)置和分工一定程度上干擾了反恐行動的策劃和有效實施。利用人工智能反恐涉及多個組織部門的協(xié)調(diào)與合作，在一定程度上促進(jìn)了國防資源的整合。2017年4月啟動的“算法戰(zhàn)跨職能小組”（AWCFT）將聯(lián)合參謀部、國防部顧問辦公室（the Office of the DoD General Counsel）、國防部分管情報的副部長等國防部成員組合在一起，在組織結(jié)構(gòu)上實現(xiàn)了國防部內(nèi)部的資源整合。 此外，人工智能在反恐領(lǐng)域的介入也促進(jìn)了國家職能機(jī)構(gòu)間的資源重組，促進(jìn)專業(yè)化機(jī)構(gòu)的產(chǎn)生。2018年3月，美國國會建議成立“國家人工智能安全委員會”，號召組建主管人工智能建設(shè)的獨立政府部門，探究軍事上應(yīng)用人工智能和機(jī)器學(xué)習(xí)的風(fēng)險，促進(jìn)美國人工智能、機(jī)器學(xué)習(xí)和相關(guān)技術(shù)的發(fā)展， 全面解決國家安全需要。

第二，人工智能的介入也使得反恐活動組織方式發(fā)生了變化。在國家安全部門的領(lǐng)導(dǎo)下，科技公司逐步成為反恐活動的主要參與者，政府與企業(yè)的合作成為反恐合作的重要方向。作為反恐行動的主導(dǎo)，美國政府已經(jīng)在開展“深綠”（Deep Green）計劃。 人工智能自適應(yīng)無線電技術(shù)和人機(jī)協(xié)作項目等多個以人工智能為核心的反恐項目也在推進(jìn)。 目前，在美國國防部主導(dǎo)人工智能反恐活動的同時，越來越多的科技企業(yè)也融入其中。美國人工智能公司帕蘭提爾（Palantir）開發(fā)的“帕蘭提爾科技”（Palantir Technologies）被用于追捕“基地”組織頭目本·拉登（Osama Bin Laden）。 “算法戰(zhàn)跨職能小組”也整合了機(jī)器學(xué)習(xí)、自動化、計算機(jī)視覺算法等方面的國防情報企業(yè)資源。

第三，人工智能也加強(qiáng)了國家間的反恐合作，智能武器和情報共享可能成為未來反恐國際合作的主流。在人工智能的幫助下，未來國家間情報共享程度有望得到進(jìn)一步提升，反恐情報可能從人工智能技術(shù)發(fā)達(dá)的國家和地區(qū)流向技術(shù)落后的國家和地區(qū)。與此同時，智能武器可能成為反恐國際合作的重點。由于“彩虹—4”無人機(jī)在執(zhí)行反恐任務(wù)時表現(xiàn)出色，沙特于2017年確定引進(jìn)中國無人機(jī)生產(chǎn)線，服務(wù)國內(nèi)反恐需要。 埃及也從中國引進(jìn)了翼龍偵察打擊一體化無人機(jī)，用于提高埃及作戰(zhàn)能力。 由于智能武器引進(jìn)便捷、打擊高效、耗資較少等特點，未來可能會有更多傳統(tǒng)軍事力量薄弱但面臨恐怖威脅的國家或地區(qū)引進(jìn)智能武器。

（三）人工智能對開展反恐活動的法律、道德和心理影響

對于智能武器的應(yīng)用是否符合現(xiàn)有的國際法，目前存在爭議，國際社會就智能武器的使用規(guī)范尚未達(dá)成共識。1983年生效的《特定常規(guī)武器公約》規(guī)定禁止或限制使用某些被認(rèn)為具有過分傷害力或濫殺濫傷作用的常規(guī)武器。1977年《日內(nèi)瓦四公約第一附加議定書》禁止附帶使平民生命受損失、平民受傷害、平民物體受損害。在實際應(yīng)用中，自主武器在行動中容易造成大量平民傷亡。巴基斯坦“基本權(quán)利基金會”主席沙赫扎德·阿克巴爾表示，在過去12年中，至少有3 000名巴基斯坦平民死于美國無人機(jī)空襲，其中至少包括200名兒童。 聯(lián)合國全球反恐戰(zhàn)略提出，確保尊重所有人的人權(quán)和法治是打擊恐怖主義的根本基礎(chǔ)，規(guī)定各國必須確保其打擊恐怖主義所采取的任何措施符合人權(quán)法、難民法和國際人道主義法。 從反恐的角度看，智能武器的濫殺行為一定程度上削弱了反恐的法律和道德基礎(chǔ)。

自由意志和道德責(zé)任控制著人類對一般武器的使用，而自動武器依據(jù)固定程序做出判斷，既沒有責(zé)任主體，也不會對殺戮產(chǎn)生道德反思。 所以利用缺乏道德和法律約束的智能武器殺人的行為一定程度上沖擊了大眾對反恐的心理認(rèn)識。美籍俄羅斯裔科幻作家艾薩克·阿西莫夫（Isaac Asimov）提出機(jī)器人倫理問題的三定律，認(rèn)為機(jī)器人不得傷害人類族群，或坐視人類族群受到傷害，以三定律來約束人工智能機(jī)器的行為，賦予它們服從和保護(hù)人類的強(qiáng)制性道德準(zhǔn)則。 但人工智能擁有自主性或自我意識后，將不可能服從機(jī)器人定律或任何人類法律的約束，對機(jī)器人的道德要求很難實現(xiàn)。

當(dāng)前人工智能的直接行動方尚未成為法律和倫理主體，無法為其行為負(fù)責(zé)。目前聯(lián)合國教科文組織和歐盟等都將人類代理人（如制造商、經(jīng)營者、所有者或使用者）作為人工智能行為責(zé)任的承擔(dān)者，主張讓機(jī)器人的行為及決策全程處于監(jiān)管之下。 但此種倡議也僅適用于弱人工智能階段。從技術(shù)的角度出發(fā)，目前有兩種規(guī)范機(jī)器人行為的設(shè)想。其一是自上而下，在人工智能機(jī)器中預(yù)設(shè)一套可操作性的倫理準(zhǔn)則；其二是自下而上，通過研究人類現(xiàn)實和模擬場景讓機(jī)器學(xué)習(xí)人類在實際情況中的行為，使其樹立與人類相似的價值觀。 這兩種設(shè)想在現(xiàn)階段都還難以實現(xiàn)。

四、人工智能技術(shù)參與反恐活動的潛在風(fēng)險

作為一項正在高速發(fā)展進(jìn)程中的新技術(shù)，人工智能技術(shù)的發(fā)展還遠(yuǎn)未成熟，這也就意味著人工智能在反恐領(lǐng)域的應(yīng)用必然伴隨著一定的風(fēng)險。

第一，在反恐領(lǐng)域應(yīng)用人工智能需要以人工智能技術(shù)的穩(wěn)定性和可操控性為基礎(chǔ)，但目前人類尚未實現(xiàn)對人工智能體系及相關(guān)設(shè)施的完全控制，人工智能的發(fā)展存在失控的風(fēng)險。目前，已經(jīng)出現(xiàn)了人工智能失控的情況。Facebook兩個昵稱為Alice和Bob的程序使用了研究人員無法解讀的交流方式，亞馬遜人工智能程序Alexa隨意發(fā)出了“令人毛骨悚然”的笑聲。 英國巴斯大學(xué)的一個編程團(tuán)隊曾透露，就連設(shè)計者僅憑觀察來破譯他們所研發(fā)的機(jī)器人的行為也有困難。 這意味著利用人工智能進(jìn)行反恐活動時很可能失控，可能會錯誤地刪除用戶信息，也可能隨意將普通民眾識別為恐怖分子。在涉及自主武器時，人工智能的失控將導(dǎo)致自主武器失控，造成重大傷亡。

第二，人工智能的預(yù)測功能尚無法保證準(zhǔn)確性和公平性。伊斯蘭堡半島電視臺記者艾哈邁德·穆法克·扎伊丹（Ahmad Muaffaq Zaidan）工作中曾與恐怖組織有多次接觸，美國政府“天網(wǎng)”程序根據(jù)對扎伊丹社交網(wǎng)絡(luò)的分析將其列為“基地”組織及穆斯林兄弟會成員。 即便系統(tǒng)做出了準(zhǔn)確預(yù)測的結(jié)果，也不一定是出于正確的原因。在訓(xùn)練計算機(jī)系統(tǒng)區(qū)分狗和狼的實驗中，計算機(jī)系統(tǒng)準(zhǔn)確率幾乎達(dá)到100%。但事實證明，計算機(jī)學(xué)會的并非是識別狼與狗的圖像差異，而是識別照片中的雪，所有的狼的照片都是在雪地里拍的，狗的照片卻不是。 所以人工智能在少數(shù)案例中的準(zhǔn)確性并不能成為其廣泛可靠應(yīng)用的保證。此外，計算機(jī)系統(tǒng)很難保障公平性。美國《科學(xué)》雜志曾指出，當(dāng)智能算法通過分析處理人類書寫的文本來學(xué)習(xí)詞句的含義時，可能獲得類似于人類偏見那樣的刻板印象，所以計算機(jī)向人類學(xué)習(xí)時可能會產(chǎn)生偏見。 例如，某些以算法為基礎(chǔ)的廣告會出現(xiàn)向女性推薦低薪工作及向非裔美國人推薦低檔社區(qū)的現(xiàn)象。 這意味著數(shù)據(jù)庫的性質(zhì)會影響人工智能的判斷，人工智能很可能會將具有某一膚色、種族特征的人識別為恐怖分子。

第三，人工智能在反恐領(lǐng)域的應(yīng)用可能侵犯民眾的隱私。從某種意義上說，以大數(shù)據(jù)為基礎(chǔ)的研究是建立在侵犯用戶隱私權(quán)基礎(chǔ)上的，即使對信息來源進(jìn)行特殊處理，也難以控制用戶信息的泄露。2006年，網(wǎng)絡(luò)視頻公司奈飛公司（Netflix）放出上億條匿名處理的電影評分?jǐn)?shù)據(jù)，有研究人員通過對比匿名數(shù)據(jù)與公開獲取的IMDB數(shù)據(jù)，將匿名數(shù)據(jù)與具體的用戶對應(yīng)了起來。 在反恐視野內(nèi)，有些國家政府對數(shù)據(jù)的搜集和使用本身涉及了隱私侵犯問題。美國國家安全局開發(fā)的“天網(wǎng)”（SKYNET）項目可以獲取巴基斯坦境內(nèi)5 500萬個手機(jī)用戶的信號來源、移動軌跡、通話對象、通話時長等信息。 部分政府和組織出臺了數(shù)據(jù)使用的相關(guān)條例，如《英國數(shù)據(jù)保護(hù)法案》（1998）和《歐盟一般數(shù)據(jù)保護(hù)條例》（2016）規(guī)定了政府分析人士使用公民數(shù)據(jù)的方式，推動保護(hù)隱私權(quán)，但是在數(shù)據(jù)開源的網(wǎng)絡(luò)環(huán)境中，個人隱私能否得到切實保護(hù)尚難以預(yù)料。

五、簡短展望

鑒于人工智能技術(shù)的現(xiàn)有發(fā)展水平，結(jié)合當(dāng)前恐怖主義的發(fā)展?fàn)顟B(tài)和近期人工智能技術(shù)的發(fā)展趨勢，未來人工智能在反恐領(lǐng)域的運用有三個可以預(yù)見的發(fā)展趨勢應(yīng)當(dāng)引起重視。

首先，人工智能在計算機(jī)視覺和自然語言處理方面將很快迎來速度和質(zhì)量上的飛躍，帶動反恐情報處理和恐怖事件防范的提升。在自然語言處理方面，當(dāng)前的機(jī)器翻譯嚴(yán)重依賴于大規(guī)模平行語料庫（large-scale parallel corpora）。反恐情報涉及的語言多樣，訓(xùn)練機(jī)器以單語語料庫（monolingual corpora）為基礎(chǔ)進(jìn)行自主學(xué)習(xí)才可能突破平行語料庫的局限。目前Facebook團(tuán)隊基于重構(gòu)損失迭代的新翻譯模型和FAIR研究自動生成平行語料的實驗，已經(jīng)表明人類在單語語料庫運用方面取得突破。 在計算機(jī)視覺方面，反恐信息提取的準(zhǔn)確度和速度未來可能得到顯著提升。?？低晥F(tuán)隊提出的卷積式共現(xiàn)特征學(xué)習(xí)框架和杰弗里·欣頓（Geoffrey Hinton）提出的膠囊網(wǎng)絡(luò)（capsule networks）有望克服當(dāng)前卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的層次少，圖像識別不準(zhǔn)確的硬傷。 阿里巴巴團(tuán)隊提出的基于交替方向法的多比特量化方案也克服了循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks）的延時缺陷，提升了人工智能的推斷速度。

其次，未來人工智能很可能成為恐怖組織的發(fā)動恐襲的工具，反恐力量與恐怖組織可能面臨在人工智能領(lǐng)域的博弈。主要軍事力量的自主武器可能通過非法途徑落入激進(jìn)組織手中。隨著數(shù)字資源越來越面向全世界開放，恐怖組織可以進(jìn)行簡單人工智能武器的自主研發(fā)，也可以較為容易地獲取和使用微型和小型無人系統(tǒng)。 事實上，很難阻止恐怖組織將人工智能納入恐襲計劃?！耙了固m國”也已經(jīng)開始嘗試使用商業(yè)無人機(jī)投擲爆炸物。 此外，反恐力量很難發(fā)現(xiàn)并摧毀恐怖分子的人工智能武器生產(chǎn)點，恐怖組織可以用看似正常的工業(yè)和研究活動來掩蓋人工智能武器的開發(fā)。 由于武器的自主性，恐怖組織利用自主化武器屠殺平民也將不再受到組織內(nèi)部的反對。 這是對反恐事業(yè)的巨大威脅。

最后，雖然遭受廣泛質(zhì)疑，自主性武器的研發(fā)還將繼續(xù)，所以自主武器未來可能會應(yīng)用到反恐等安全領(lǐng)域。埃隆·馬斯克（Elon Musk）和穆斯塔法·蘇萊曼（Mustafa Suleyman）等多國專家呼吁禁止自主性武器研發(fā)，認(rèn)為目前正在進(jìn)行的殺手機(jī)器人研發(fā)競賽是“潘多拉的盒子”。 2018年4月，也有多國人工智能研究人員聯(lián)名抵制韓國科學(xué)技術(shù)院設(shè)立人工智能武器實驗室的舉動。 但目前美國、英國、俄羅斯、以色列等國已經(jīng)卷入一場打造殺人機(jī)器人軍團(tuán)的競賽，倫理并不能阻礙自主性武器的研制。 正如美國戰(zhàn)略與國際研究中心最新報告所指出的，當(dāng)前最重要的不是考慮全自主武器帶來的倫理問題，對于國防部而言，重要的是不能在機(jī)器智能的使用和開發(fā)領(lǐng)域滯后于他國。 這樣一種競賽，對各國的反恐活動和正常生活，究竟是禍?zhǔn)歉＃灿写M(jìn)一步觀察。

[收稿日期：2018-03-23]

[修回日期：2018-06-09]

[責(zé)任編輯：孫震海]