人工智能時代的恐怖主義：挑戰(zhàn)與應對[1]

謝 磊

【內容提要】人類社會已經進入到人工智能時代。恐怖分子利用人工智能帶來的“紅利”，通過使用無人機進行襲擊、搜集情報、實施網(wǎng)絡攻擊和網(wǎng)絡宣傳等，對國際社會造成了嚴重威脅。人工智能的使用，增強了恐怖分子與國家政府進行不對稱沖突的能力，加之恐怖分子倫理標準低，因此造成的傷害更大、活動的范圍更廣。國家政府需要在人工智能領域建立絕對優(yōu)勢，加強國際合作以及與重要人工智能商業(yè)公司和研究機構的合作關系，防止高等級人工智能被恐怖分子利用，從而有效避免恐怖分子利用這種新興技術手段獲得最大收益的可能性。

人類社會已經進入到人工智能時代。“人工智能”是指研究和創(chuàng)造信息系統(tǒng)，使之具備類似通過人力解決問題的能力。其主要采用計算機算法從事需要人類智商進行的工作，比如語音識別、視覺感知和決策制定等。[1]Daniel Wagner, “Artificial Intelligence and Virtual Terrorism,” Huffpost, Aug.17, 2017, https://www.huffpost.com/entry/artificial-intelligence-and-virtual-terrorism_b_5995c144e4b00dd984e37d08.簡單來說，人工智能是一門科學，這門科學讓機器做需要人類智能才能完成的事，涉及領域包括博弈、專家系統(tǒng)、神經計算、進化計算、自然語言處理、生物信息學等。[2][美]史蒂夫·盧奇、[美]丹尼·科佩克：《人工智能（第2 版）》，林賜譯，北京：中國工信出版集團、人民郵電出版社2018年版，第5 頁、第29—36 頁。

人工智能正從各個方面改變著我們的日常生活，也對國際關系和國家安全產生了重大且深遠的影響。一方面，作為人類文明發(fā)展的最新前沿科技成果，人工智能推動形成新的軍事能力和戰(zhàn)略博弈模式，維護經濟、環(huán)境、網(wǎng)絡、能源等領域安全，打擊恐怖主義和跨境犯罪等方面都發(fā)揮了重要作用。[3]闕天舒、張紀騰：《人工智能時代背景下的國家安全治理：應用范式、風險識別與路徑選擇》，載《國際安全研究》2020年第1 期，第4—38 頁。但另一方面，人工智能的發(fā)展不可避免地會使其成為“雙刃劍”，即在為人類社會帶來便捷生活的同時，也會導致一些負面影響。例如，2018年2月，生命未來研究所（Future of Humanity Institute）、牛津大學、劍橋大學、新美國安全中心（Center for a New American Security）等7 家機構共同發(fā)布報告指出，人工智能的發(fā)展將會導致數(shù)字層面、物理層面和政治層面的安全問題。[4]Miles Brundage, et al., The Malicious Use of Artificial Intelligence: Forecasting,Prevention, and Mitigation, Future of Humanity Institute, University of Oxford, Centre for the Study of Existential Risk, University of Cambridge, Center for a New American Security,Electronic Frontier Foundation, OpenAI, Feb. 2018.如人工智能的發(fā)展可能會造成個體隱私和個人信息的嚴重泄露；由于以往需要大量人力從事的工作改由人工智能承擔，可能會導致一些行業(yè)出現(xiàn)嚴重的失業(yè)問題；此外，一些犯罪分子可能會利用人工智能進行洗錢、銀行詐騙和其他犯罪活動，對國家穩(wěn)定和社會治安造成負面影響。最為悲觀的預言是，隨著人工智能技術的日趨成熟，其意識將會最終“覺醒”，從而成為人類自我制造的“潘多拉魔盒”，使得人類徹底淪為人工智能的奴隸。

在人工智能時代，反恐形勢也面臨著同樣困境：一方面，利用人工智能打擊恐怖主義具有得天獨厚的優(yōu)勢，可以比其他手段花費更小的成本。例如，建立各種可疑信息、身份、面容、聲音等的識別系統(tǒng)，輔助控制恐怖組織在社交媒體上的信息傳播；通過開發(fā)新的芯片和深度算法，促進反恐情報的開發(fā)和利用；推動自主武器的研發(fā)，并將其運用到反恐實戰(zhàn)中；基于大數(shù)據(jù)、機器學習和人工智能技術，對恐怖組織的行為進行預測，從而避免恐怖襲擊發(fā)生。[1]董青嶺：《機器學習與沖突預測——國際關系研究的一個跨學科視角》，載《世界經濟與政治》2017年第7 期，第100—117 頁；傅瑜、陳定定：《人工智能在反恐活動中的應用、影響及風險》，載《國際展望》2018年第4 期，第119—137 頁；肖軍：《人工智能背景下公安反恐多技術融合模型的構建與運用》，載《中國刑警學院學報》2019年第4 期，第12—17 頁。

另一方面，隨著人工智能在社會各領域的普遍運用，恐怖分子也認識到了其在組織活動中的優(yōu)勢，并將其作為一種行動工具運用到與國家政府對抗的實踐之中。當前有一種值得擔憂的趨勢是，人工智能領域的軍備競賽將導致“流氓國家和非國家行為體，例如恐怖組織”通過黑市獲得這些武器。[2]Max Tegmark, Life 3.0: Being Human in the Age of Artificial Intelligence, New York: Alfred A. Knopf, 2017, p.141.恐怖組織利用人工智能帶來的“紅利”從事恐怖活動并非聳人聽聞的宣傳，而是一個客觀存在的事實。相較于以往的傳統(tǒng)方式，使用人工智能進行的恐怖活動有其自身鮮明的特點，即擴大了活動范圍，減少了傷亡狀況，同時也對國際局勢產生了更為深遠的影響。然而，相較于當前對人工智能在反恐行動中優(yōu)勢的研究[1]例如，Kathleen McKendrick, “Artificial Intelligence Prediction and Counterterrorism,”Research Paper, Chatham House, Aug. 2019; Boaz Ganor, “Artificial or Human: A New Era of Counterterrorism Intelligence?” Studies in Conflict & Terrorism, 2019, https://www.tandfonline.com/doi/full/10.1080/1057610X.2019.1568815; “Artificial Intelligence and Counterterrorism: Possibilities and Limitations,” Prepared Written Testimony and Statement for the Record of Alexander Stamos, Director, Stanford Internet Observatory before The U.S.House of Representatives Committee on Homeland Security, Subcommittee on Intelligence and Counterterrorism, June. 25, 2019; Julian Sanchez, “Artificial Intelligence and Counterterrorism:Possibilities and Limitations,” Cato Institute, June. 25, 2019, https://www.cato.org/publications/testimony/artificial-intelligence-counterterrorism-possibilities-limitations; 傅瑜、陳定定：《人工智能在反恐活動中的應用、影響及風險》，載《國際展望》2018年第4 期，第119—137頁；馬方、王文娟：《構筑“人工智能+情報反恐”生態(tài)系統(tǒng)》，載《山東警察學院學報》2018年第4 期，第105—112 頁；李龍、支庭榮：《“算法反恐”：恐怖主義媒介化與人工智能應對》，載《現(xiàn)代傳播》2018年第9 期，第13—18 頁，等等。，學術界對恐怖分子利用人工智能手段進行恐怖襲擊的研究普遍關注不夠。本文將對恐怖組織此類恐怖活動的主要表現(xiàn)及特點進行分析，并提出應對人工智能時代恐怖襲擊的政策思考。

一、恐怖組織使用人工智能的主要方式

傳統(tǒng)的恐怖襲擊主要是通過放置爆炸物、使用槍械射擊、駕駛或劫持交通工具撞擊，甚至使用管制刀具行兇等方式，針對目標進行物理層面的攻擊，以造成民眾的恐慌情緒，要挾國家政府作出政治妥協(xié)或重大讓步。然而，隨著時代的進步，特別是新科學技術的發(fā)展與成熟，極大地改變了恐怖分子實施恐怖襲擊的方式，他們開始利用諸如網(wǎng)絡之類的虛擬空間從事恐怖主義活動。尤其是以“伊斯蘭國”（IS）為代表的國際恐怖組織，熟諳各種網(wǎng)絡技術手段和西方式輿論宣傳工具，組建了專門的行動部門，并將網(wǎng)絡宣傳的功效最大化。在實踐中，“伊斯蘭國”通過使用臉書（Facebook）、推特（Twitter）、優(yōu)兔（YouTube）、照片墻（Instagram）等熱門社交平臺，以及開發(fā)應用程序等方式，宣傳本組織的恐怖主義主張，灌輸恐怖主義思想，進行組織成員招募，并通過網(wǎng)絡攻擊等形式不斷擴大組織的影響力。

近期隨著人工智能不斷成熟且日益深入普通人的日常生活，恐怖組織開始使用人工智能手段從事恐怖襲擊活動。具體方式主要有以下幾種：

（一）使用無人機發(fā)動恐怖襲擊

與恐怖組織以往慣用的行動方式相比，人工智能開發(fā)門檻較高，恐怖組織沒有足夠的人才、資金和時間進行深度研發(fā)，因此，主要采用“模仿”而非“創(chuàng)新”的手段，在一種較低的水平上使用這種最新的科學技術。當前，恐怖組織主要是通過操控小型無人機對目標物發(fā)動襲擊，這是最低程度的人工智能攻擊手段。早在2012年，就有報道稱黎巴嫩真主黨嘗試使用商業(yè)無人機運載爆炸物攻擊以色列目標。[1]Gili Cohen, “IDF Shoots Down Drone That Penetrated Israeli Airspace,” Haaretz, Oct. 6,2012, https://www.haaretz.com/watch-idf-shoots-down-drone-1.5177128.“伊斯蘭國”興起之后，就多次使用裝有爆炸物的小型商業(yè)無人機進行恐怖襲擊活動。[2]David Hambling, “ISIS Is Reportedly Packing Drones with Explosives Now,” Popular Mechanics, Dec. 16, 2015, https://www.popularmechanics.com/military/weapons/a18577/isis-packing-drones-with-explosives.此外，“伊斯蘭國”還經常使用無人機發(fā)動自殺式襲擊，即接近并撞擊敵對目標，并通過捆綁爆炸物以增加威力。2016年10月2日，“伊斯蘭國”使用一架無人機攻擊了位于伊拉克北部的一個庫爾德人和法國的軍營，造成“庫爾德人敢死隊”（Peshmerga）2 名隊員死亡、法國特種部隊2 名士兵受傷。[3]Michael Horton, “Inside the Chilling World of Artificially Intelligent Drones,” The American Conservative, Feb. 12, 2018, https://www.theamericanconservative.com/articles/inside-the-chilling-proliferation-of-artificially-intelligent-drones/.在2016—2017年的摩蘇爾戰(zhàn)役中，“伊斯蘭國”使用了裝備爆炸物的小型便捷式商用無人機，通過自殺式攻擊對抗伊拉克的正規(guī)軍事力量。[4]Ben Watson, “The Drones of ISIS,” Jan. 12, 2017, https://www.defenseone.com/technology/2017/01/drones-isis/134542; Ben Solomon, “Witnessing an ISIS Drone Attack,” The New York Times, Apr. 14, 2017, https://www.nytimes.com/video/world/middleeast/100000005040770/isis-drone-attack-mosul.html.

盡管恐怖組織與先進國家在人工智能領域存在著代際差距，恐怖分子尚處于以人工方式對無人機進行遠程遙控為主的初級階段，而且難以通過有競爭力的條件招募到愿意為之效力的人工智能專家，但是恐怖組織并未放棄將人工智能作為組織行動重要方式的努力。2016年，就有相關領域的科學家和工程師應恐怖組織邀請到訪伊拉克和敘利亞，為其開發(fā)無人機武器系統(tǒng)。[1]Joby Warrick, “Use of Weaponized Drones by ISIS Spurs Terrorism Fears,” The Washington Post, Feb. 22, 2017, https://www.washingtonpost.com/world/national-security/use-of-weaponized-drones-by-isis-spurs-terrorism-fears/2017/02/21/9d83d51e-f382-11e6-8d72-263470bf0401_story.html; Serkan Balkan, DAESH’s Drone Strategy: Technology and the Rise of Innovative Terrorism, Istanbul: SETA, 2017, p.10.由于目前已有一些從事無人機開發(fā)及相關領域工作的工程師和科學家加入“伊斯蘭國”，2017年該組織成立了一個“圣戰(zhàn)無人航空器”（Unmanned Aircraft of the Mujahideen）分部，任務是發(fā)展和使用無人機技術，這是恐怖組織將無人機技術武器化的重要一步。[2]Joby Warrick, “Use of Weaponized Drones by ISIS Spurs Terrorism Fears,” The Washington Post, Feb. 22, 2017, https://www.washingtonpost.com/world/national-security/use-of-weaponized-drones-by-isis-spurs-terrorism-fears/2017/02/21/9d83d51e-f382-11e6-8d72-263470bf0401_story.html.

這種情況已得到相關國家政府的高度關注。2018年，美國聯(lián)邦調查局重要事件響應小組副助理斯科特·布倫納（Scott Brunner）在參議院國土安全與政府事務委員會作證時指出，聯(lián)邦調查局“關心犯罪分子和恐怖分子將利用無人機系統(tǒng)（UAS）對美國人民的安全造成嚴重威脅”。無人機系統(tǒng)的方式包括多種形式，如非法監(jiān)控及使用化學、生物或放射性材料發(fā)動襲擊，對露天場館（如演唱會、典禮或體育賽事）的傳統(tǒng)攻擊，或者是襲擊政府機構和軍事設施及人員。[3]Brian Blodgett, “Drones Becoming Frightening Weapon of Choice for Terrorists,” May 6,2019, https://inhomelandsecurity.com/drones-frightening-weapon-terrorists.需要高度警惕的是，當前恐怖分子實施的無人機襲擊主要采取投擲爆炸物的方式，而如果恐怖分子使用無人機空運化學、生物或者放射性材料攻擊目標，將會導致更為嚴重的人員傷亡并產生更長時間的社會和經濟影響。[1]“New Technologies, Artificial Intelligence Aid fight against Global Terrorism,” UN News, Sept. 4, 2019, https://news.un.org/en/story/2019/09/1045562.

（二）利用人工智能搜集情報

與國家政府類似的是，恐怖組織也非常重視情報的搜集工作，一般較大型的恐怖組織都有自己專門的情報部門。過去恐怖組織主要采取人工方式并輔以技術手段搜集情報。而在社交網(wǎng)絡與人工智能興起之后，恐怖組織充分意識到上述方式在減少情報人員壓力、情報搜集時間、資金消耗及提高情報可信度等方面具有優(yōu)勢，并將其運用到情報工作之中。自2014年起“伊斯蘭國”已經開始使用無人機搜集戰(zhàn)場情報。[2]Joby Warrick, “Use of Weaponized Drones by ISIS Spurs Terrorism Fears,” The Washington Post, Feb. 22, 2017, https://www.washingtonpost.com/world/national-security/use-of-weaponized-drones-by-isis-spurs-terrorism-fears/2017/02/21/9d83d51e-f382-11e6-8d72-263470bf0401_story.html.特別是在敘利亞和伊拉克的軍事行動中，使用無人機偵查已經成為“伊斯蘭國”的重要“標配”，極大地提高了其獲取情報的便捷性和情報的可信度。無人機一般配置有高清攝像頭，通過攝像頭拍攝的視頻，使恐怖組織能夠以鳥瞰的方式，更為直觀地了解敵方防御體系中的薄弱之處，以及整個區(qū)域的實時交通狀況。此外，安裝了紅外攝像頭的無人機可以在夜晚進行工作，它因目標較小且更為隱蔽，不容易被防御力量發(fā)現(xiàn)。事實上，“伊斯蘭國”最早使用無人機就是對伊拉克安全部隊和“庫爾德人敢死隊”駐扎區(qū)域進行調查和搜集情報。[3]Serkan Balkan, DAESH’s Drone Strategy: Technology and the Rise of Innovative Terrorism, Istanbul: SETA, 2017, p.24.

另外，“伊斯蘭國”還利用人工智能進行社會網(wǎng)絡關系的繪制工作，以確認哪些目標更有攻擊價值，并以更小的代價獲得更大的組織收益?！耙了固m國”在多個城市使用監(jiān)測系統(tǒng)識別重要人物，以更有效地鎖定和攻擊特定目標。[1]Richard Blech, “How Artificial Intelligence Advancements Have Impacted Cybersecurity,” Nov. 21, 2018, https://www.cpomagazine.com/cyber-security/how-artificialintelligence-advancements-have-impacted-cybersecurity.例如，2016年3月，“伊斯蘭國”在北非的分支機構襲擊了突尼斯邊境城鎮(zhèn)本加爾丹（Ben Gardane），并暗殺了當?shù)氐闹匾踩賳T。有證據(jù)表明，此前“伊斯蘭國”就是通過利用人工智能繪制“人文地形系統(tǒng)”（human terrain system）[2]人文地形系統(tǒng)，源于美軍針對非常規(guī)作戰(zhàn)對文化情報的特殊需求，通過收集地區(qū)部落關系、種族淵源、宗教、政治、經濟、語言等文化情報資源，繪制“人文地形圖”，向作戰(zhàn)指揮官制定戰(zhàn)術行動計劃提供必要的咨詢和建議。參見龐超偉、馬曉雷、侯豫、王泳利：《論美軍在非常規(guī)作戰(zhàn)中的文化情報工作》，載《情報雜志》2015年第3 期，第5—9 頁。的方式，掌握了當?shù)刂匾宋锏姆植紶顩r。[3]Daveed Gartenstein-Ross, “Terrorists Are Going to Use Artificial Intelligence,” Defense One,May 3, 2018, https://valensglobal.com/2018/06/03/terrorists-going-use-artificial-intelligence.

（三）利用人工智能進行網(wǎng)絡攻擊和宣傳

恐怖組織利用網(wǎng)絡空間進行恐怖襲擊已經有較長一段歷史?？植婪肿又饕峭ㄟ^對計算機系統(tǒng)、程序、數(shù)據(jù)和信息等進行有預謀和有政治動機的系統(tǒng)攻擊，以制造社會恐慌，從而影響國家政府實現(xiàn)特定的政治、宗教和意識形態(tài)目標。當前，隨著“人工智能+網(wǎng)絡空間”逐漸融為一體，網(wǎng)絡空間處于恐怖組織與國家政府爭奪跟隨者的關鍵位置，并得到了恐怖組織的更多關注。

傳統(tǒng)的網(wǎng)絡攻擊主要是利用計算機代碼存在的各種漏洞展開，恐怖分子主要通過“網(wǎng)絡釣魚”或是在計算機系統(tǒng)和軟件安裝“后門”的方式對網(wǎng)絡空間進行攻擊；而當前的人工智能主要是通過算法，即類似于人類學習的方式，從數(shù)據(jù)集（dataset）中提煉有用信息進行機器學習。[4]Marcus Comiter, “Attacking Artificial Intelligence: Al’s Security Vulnerability and What Policymakers Can Do about It,” Belfer Center Paper, Kennedy School at Harvard University,Aug. 2019, p.12.因此，恐怖分子使用人工智能進行的網(wǎng)絡攻擊行為，主要是利用人工智能算法存在的內在缺陷，而目前對這些缺陷尚不能如傳統(tǒng)的代碼漏洞那樣，通過給計算機系統(tǒng)“打補丁”的方式迅速加以修復。[1]Marcus Comiter, “Attacking Artificial Intelligence: Al’s Security Vulnerability and What Policymakers Can Do about It,” Belfer Center Paper, Kennedy School at Harvard University, Aug. 2019, p.28.具體來說，恐怖組織在進行網(wǎng)絡攻擊的時候，通過使用人工智能執(zhí)行自動化任務，以使襲擊的潛在規(guī)模和影響更大，而且相對于其他網(wǎng)絡攻擊手段，這種方式的隱蔽性更強。

恐怖分子使用人工智能進行網(wǎng)絡攻擊，也涉及到數(shù)字安全問題?？植婪肿游磥砗芸赡懿捎谜Z音合成、自動黑客攻擊、在深度學習時插入惡意樣本、污染數(shù)據(jù)等方式，發(fā)動新型的網(wǎng)絡攻擊。[2]Miles Brundage, et al., The Malicious Use of Artificial Intelligence: Forecasting,Prevention, and Mitigation, Future of Humanity Institute, University of Oxford, Centre for the Study of Existential Risk, University of Cambridge, Center for a New American Security,Electronic Frontier Foundation, OpenAI, Feb. 2018, p.6; Renske van der Veer, “Terrorism in the Age of Technology,” Clingendael Institute, Netherlands Institute of International Relations, https://www.clingendael.org/pub/2019/strategic-monitor-2019-2020/terrorism-in-the-age-of-technology.恐怖分子還有可能通過破解生物特征數(shù)據(jù)或者在人工智能系統(tǒng)中安裝后門程序等方式，發(fā)動更大規(guī)模的網(wǎng)絡襲擊。[3]Marcus Comiter, “Attacking Artificial Intelligence: Al’s Security Vulnerability and What Policymakers Can Do about It,” Belfer Center Paper, Kennedy School at Harvard University, Aug. 2019, p.28.

此外，恐怖組織還經常利用無人機將恐怖襲擊拍攝成視頻，并上傳到網(wǎng)絡空間，尤其是各類社交媒體進行宣傳?！耙了固m國”等恐怖組織還充分利用青少年的活動特點，將視頻編輯成類似于電腦游戲的形式，以吸引更多受眾。視頻的主要內容包括：襲擊之前的畫面、被襲擊后的人員傷亡、被襲擊軍事目標的混亂情況，以及為恐嚇目的而通過無人機拍攝的各種高清圖像，如對人質進行斬首等。這些視頻的文字和圖片版本也會在Al-Naba和Rumiyah 等“伊斯蘭國”的官方刊物發(fā)表，以增強宣傳效果。[4]Serkan Balkan, DAESH’s Drone Strategy: Technology and the Rise of Innovative Terrorism, Istanbul: SETA, 2017, pp.38-39.

從現(xiàn)實看，目前恐怖組織使用人工智能還處于層次較低的階段，但是從發(fā)展趨勢看，不排除其利用人工智能進一步擴大自身影響、發(fā)動更大規(guī)?？植酪u擊的可能性，國際社會需對此保持高度警惕。

二、恐怖組織使用人工智能的主要特點

作為一種全新的恐怖襲擊策略，人工智能的應用對恐怖組織的行動方式、組織生態(tài)、未來發(fā)展都將產生重大影響?？植澜M織很可能進一步利用人工智能的技術特點，擴大行動范圍，甚至創(chuàng)新恐怖主義的形態(tài)。具體來說，當前恐怖組織使用人工智能具有以下幾個特點：

（一）增強了恐怖組織在不對稱沖突中的實力

從某種意義上說，人工智能迅速填平了恐怖組織與國家政府在技術層面的鴻溝，使處于劣勢地位的恐怖分子也可享受到前沿技術的紅利，并將其運用到與國家政府的對抗之中。一般而言，無論是戰(zhàn)斗人員規(guī)模，還是資金和物資保障、科學技術水平等方面，恐怖組織均與國家政府存在較大差距。因此，能否使用代價最小的行動方式獲得最大的收益，是恐怖組織發(fā)動襲擊時所考慮的最重要的衡量標準之一。

按照美國著名學者戴維·拉波波特（David Rapoport）的觀點，20世紀80年代以來的“第四波恐怖主義”以自殺式襲擊為主[1]David Rapoport, “The Fourth Wave: September 11 in the History of Terrorism,”Current History, Vol.100, No.650, 2001, pp.419-424.，特別是“9·11”事件造成包括19 名恐怖分子在內的2996 人死亡，給美國經濟造成嚴重損失，也對整個國際體系尤其是國家間關系帶來了深遠影響，標志著國際恐怖主義進入自殺式襲擊的高潮期。盡管自殺式恐怖襲擊的影響較大，但這種方式需要通過數(shù)量稀缺的恐怖分子的死亡來贏得成功，是恐怖組織在不得已情況下選擇的一種“終極”手段。從不對稱沖突的角度講，人工智能為恐怖襲擊帶來的優(yōu)勢是，恐怖分子可以通過遠程遙控的方式實施恐怖襲擊活動，以零傷亡的代價造成所針對目標物的巨大損失，而國家政府卻很難追蹤到恐怖襲擊實施者的情況，這對恐怖分子來說堪稱“完美”。

此外，引入人工智能技術可減少人力資源在恐怖活動中的使用，恐怖主義的組織形態(tài)將由“勞動密集型”向“知識密集型”轉變。一些規(guī)模較小的恐怖組織或是“獨狼”式恐怖分子，可以利用技術上的優(yōu)勢，獲得與大型國際恐怖組織同樣的能量。在人工智能時代，組織規(guī)模不再是衡量恐怖組織獲得權力大小的首要指標，而是否掌握先進的人工智能技術、尤其是自主性致命武器系統(tǒng)，將是決定恐怖組織影響力的關鍵。因此，在人工智能時代，恐怖組織的規(guī)?？赡艹霈F(xiàn)小型化趨勢。隨著技術的發(fā)展，恐怖組織有可能只需使用售價幾千美元的武裝無人機“蜂群”，就可對國家政府擁有的價值上億乃至幾十億美元尖端裝備的軍事力量造成威脅。這使得在新科技革命條件下，恐怖組織與國家政府不對稱沖突的能力進一步增強。

（二）在使用人工智能方面，恐怖分子采取無差別進攻方式實施恐怖襲擊的可能性大

國家作為國際社會中最為重要的行為體，有著相對較高的倫理道德標準。同時，一系列的國際公約和國際人道主義法，例如《聯(lián)合國憲章》《海牙公約》《日內瓦議定書》《日內瓦公約》《特定常規(guī)武器公約》《公民權利與政治權利公約》等，都對國家使用武力的行為進行約束，并規(guī)定了國家在保障人權和不得隨意剝奪任何人生命方面的義務。如果國家違反這些國際公約和國際人道主義法，將會遭到國際社會道義層面的譴責。比如，美國多次使用無人機對恐怖分子實施“定點清除”，這在戰(zhàn)爭倫理和國際法角度都存在很大爭議。[1]例如，對于無人機倫理和法理的主要中文文獻包括但不限于：黃云松、蔡瑞艷：《無人攻擊機面臨的國際法挑戰(zhàn)——以美國在巴基斯坦的無人機攻擊為例》，載《南亞研究季刊》2012年第1 期，第21—25 頁；錢鋮、石斌：《“雄蜂”的陰影——美國無人機作戰(zhàn)對當代戰(zhàn)爭倫理的挑戰(zhàn)》，載《世界經濟與政治》2013年第8 期，第86—99 頁；梁亞濱：《武裝無人機的應用：挑戰(zhàn)與影響》，載《外交評論》2014年第1 期，第143—156 頁；袁靖：《無人機襲擊造成的國際法挑戰(zhàn)——以美國實踐為視角》，廈門大學碩士學位論文，2014年；張蛟龍：《無人機作戰(zhàn)對國家武力使用規(guī)范的影響——以美國為例》，天津師范大學碩士學位論文，2016年；劉樹才：《武裝無人機與戰(zhàn)爭變遷：以社會-技術系統(tǒng)為視角》，載《國際安全研究》2018年第2 期，第72—90 頁，等等。聯(lián)合國2013年的A/68/382 號文件指出，盡管無人機不是非法武器，但是它的使用對普遍民眾的生命權造成了嚴重損害。[1]United Nations, Report of the Special Rapporteur on Extrajudicial, Summary or Arbitrary Executions, Sept. 13, 2013, A/68/382, p.2.因此，考慮到國際社會的壓力，國家在使用人工智能應對恐怖分子時會持相對謹慎的態(tài)度。同時，各國的國內法也對利用人工智能等技術手段打擊恐怖主義加以限制，一些國家還制定相關法律法規(guī)，禁止武裝使用無人機以及使用私人無人機偵查他人。[2]Michael Froomkin and Zak Colangelo, “Self-Defense against Robot and Drones,”Connecticut Law Review, Vol.48, No.1, 2015, pp.3-69.

在使用人工智能方面與國家政府存在著較多道德和國際公約的制約不同，恐怖組織則沒有太多顧忌，他們認為，自己進行的暴力活動實際上是反抗那些壓迫人民以及進行宗教迫害的邪惡政府的正義行為?？植澜M織考慮最多的只是如何以最小成本獲得最大收益，而顯然以無人機作為主要襲擊手段符合這一要求?？植澜M織甚至認為，采取人工智能方式是遵循“真主的旨意”，“伊斯蘭國”因而將自己的無人機行動小組命名為“圣戰(zhàn)無人航空器”分部。

此外，致命性自主武器的發(fā)展也引發(fā)了法律、道德和軍控等方面的一系列問題。[3]Chase Winter, “‘Killer Robots’: Autonomous Weapons Pose Moral Dilemma,”Deutsche Welle, Nov.14, 2017, https://www.dw.com/en/killer-robots-autonomous-weaponspose-moral-dilemma/a-41342616.盡管當前一些國際非政府組織以及眾多的科學家和知名人士，包括聯(lián)合國人權理事會“法外處決、即審即決或任意處決問題”特別報告員，“禁止殺手機器人運動”國際化組織，生命未來研究所等，都要求對致命性自主武器加以限制，但是以美國和俄羅斯為代表的一些國家反對任何禁止自主性武器的國際條約。因為國際社會無法達成普遍共識，如果致命性自主武器得不到有效控制，那么終有一天它將會被恐怖組織獲取，并被用于進行恐怖襲擊。即便國際社會通過相應的國際條約，其對恐怖組織的行動也沒有約束力，恐怖組織只考慮如何使用先進科技手段獲得更大利益，并不在意使用這種手段是否符合人類社會的普遍倫理準則。

（三）使用人工智能簡單廉價并擴大了恐怖組織的襲擊范圍，使得國家政府難以跟蹤和及時獲得恐怖分子的信息來源

當前，無人機技術存在擴散容易、技術簡單及缺乏有效國際監(jiān)控等問題。[1]Paul Schulte, “Future War: AI, Drones, Terrorism and Counterterror,” in David Martin Jones, Paul Schulte, Carl Ungerer and M. L. R. Smith, eds., Handbook of Terrorism and Counter Terrorism Post 9/11, Northampton, MA: Edward Elgar Pub, 2019, pp.416-433.盡管恐怖組織沒有足夠的資金和人才進行高端人工智能的研發(fā)工作，但是隨著技術的進步，使用人工智能的成本會越來越廉價，低端人工智能的制造也相對比較簡單。此外，很多人工智能具有軍民兩用特征，這進一步加大了國家政府對相關技術的監(jiān)控難度。[2]劉楊鉞：《全球安全治理視域下的自主武器軍備控制》，載《國際安全研究》2018年第2 期，第65 頁。比如，一些專門的商業(yè)技術網(wǎng)站對自制無人機進行全程介紹，而且普通人都可以通過網(wǎng)站購買制造無人機的各種材料和獲得軟件支持。“伊斯蘭國”甚至已經建立了多個制造無人機的專門作坊。[3]“Islamic States’ Weaponised Drones,” Conflict Armament Research Ltd., 2016, pp.1-2,http://www.conflicttarm.com.2018年1月，一個敘利亞反政府團體就自制了13 架簡易無人機，用以攻擊位于敘利亞境內的兩處俄羅斯軍事基地。[4]Jacob Ware, “Terrorist Groups, Artificial Intelligence, and Killer Drones,” War on the Rocks, Sept. 24, 2019, http://warontherocks.com/2019/09/terrorist-groups-artificialintelligence-and-killer-drones.據(jù)估計，一臺小型人工智能殺人無人機的價格相當、甚至低于一臺智能手機的價格，恐怖分子花費大約1100 英鎊就可以在商店購買到一臺最新式的無人機。[5]Max Tegmark, Life 3.0: Being Human in the Age of Artificial Intelligence, New York:Alfred A. Knopf, 2017, p.141; Harvey Gavin, “Terrorists Could Use Bomb Drones to Attack Streets of the West, Security Experts Warn,” Express, Feb. 3, 2018, https://www.express.co.uk/news/world/913155/terrorist-weaponise-drone-threat-attack-bomb-acid-warning-2018.

此外，人工智能的使用也擴大了恐怖組織的活動范圍。當前成熟且價格低廉的無人機技術，使得恐怖組織可以利用航空器進行抵近偵察和實施恐怖襲擊，其活動范圍已擴展到高空并且機動性更強。一架裝載了炸藥物的小型無人機可以在大約122 米的高度以48—64 公里的時速飛行，不加注意很難及時發(fā)現(xiàn)。[1]Tung Yin, “Game of Drones: Defending against Drone Terrorism,” Texas A & M Law Review, Vol.2, No.4, 2015, p.650.即便能夠發(fā)現(xiàn)，因這種小型無人機目標太小且移動速度較快，也很難被擊落。如果恐怖分子想要暗殺一名政客，他只需將目標的照片和地址上傳至“殺人無人機”，無人機便會飛到指定地點確認和清除目標，并在完成任務后自毀，以確保暗殺行動的實施者不被發(fā)現(xiàn)。[2]Max Tegmark, Life 3.0: Being Human in the Age of Artificial Intelligence, New York:Alfred A. Knopf, 2017, p.141.無人機具有匿名性質，從而進一步增大了打擊這種恐怖襲擊方式的難度。

人工智能武器的另一個特點是能夠在極端和惡劣氣候條件下進行物理層面的打擊，讓襲擊目標防不勝防?？植澜M織在惡劣氣候和復雜地形條件下利用人工智能，使用無人機“蜂群”攻擊敵對國家的重要地標性建筑物甚至是重要的軍事設施，都是極有可能的。

從恐怖分子的角度來看，利用人工智能進行組織活動具有其他技術手段無法比擬的巨大優(yōu)勢?？植澜M織的組織理念和運作方式，使之在行動時極少考慮是否濫殺無辜，是否違背人類道德和倫理等非技術因素，而僅僅希望通過殺傷力和影響力最大的方式達到組織利益最大化。因此，在恐怖組織使用人工智能的情況下，國際社會需采取及時、有效和有針對性的措施加以應對。

三、應對人工智能恐怖主義的具體措施

隨著人工智能的日趨成熟和普及，恐怖組織使用先進技術手段進行恐怖襲擊的可能性會進一步增大。 除傳統(tǒng)的無人機恐怖襲擊外，恐怖分子還可能利用無人機自帶或是安裝的攝像頭，通過網(wǎng)絡傳輸將恐怖襲擊的實時場景上傳到社交媒體，從而造成民眾恐慌。此外，隨著5G 技術的普遍運用及其在人工智能和物聯(lián)網(wǎng)運用中的優(yōu)勢日益顯現(xiàn)，恐怖分子也可能通過“智能手機+人工智能”方式，針對特定用戶的智能手機或智能操作系統(tǒng)，實施一起本方零傷亡卻能造成極大社會恐慌的恐怖襲擊事件。比如，在一輛無人駕駛的汽車里安裝惡意軟件，造成車上的重要政治人物因為嚴重車禍身亡，或是遠程操控無人駕駛汽車撞向無辜行人或是建筑物等。3D 打印技術的普及可使恐怖分子獲得武器的方式更加簡單。據(jù)稱，只需要一個周末的時間以及50 美元的花費就能3D 打印出一支槍只。[1]Lizzie Dearden, “Use of 3D Printed Guns in German Synagogue Shooting Must Act as Warning to Security Services, Experts Say,” Independent, Oct. 11, 2019, https://www.independent.co.uk/news/world/europe/3d-gun-print-germany-synagogue-shootingstephan-balliet-neo-nazi-a9152746.html.利用3D 打印技術，恐怖分子甚至可以制造更加復雜的襲擊工具，從而對國際社會造成更大威脅。人工智能時代，國家打擊恐怖主義面臨著新問題，亟需通過有效方式加以應對。

（一）國家應充分利用技術優(yōu)勢，占領人工智能應用領域的高地

相對于恐怖分子，國家政府在人工智能方面應進一步加大研發(fā)力度，始終在該領域占據(jù)優(yōu)勢地位，這是一個關鍵。美國已充分意識到人工智能和機器學習在未來戰(zhàn)爭中的作用，成立了“算法戰(zhàn)跨職能小組”（AWCFT）、國家人工智能安全委員會、聯(lián)合人工智能中心（JAIC）等機構，以整合資源進行技術開發(fā)，尋求在人工智能反恐等領域的優(yōu)勢地位。例如，美國國防部聯(lián)合人工智能中心工作的5 個重點領域是：提供能夠完成關鍵任務的人工智能能力；通過一個共同的基礎，擴大人工智能對國防部的影響，促成分散開發(fā)和實驗；培養(yǎng)一流的人工智能人才隊伍；與商業(yè)界、學術界及國際盟友和合作伙伴開展合作；在軍事道德和人工智能安全領域發(fā)揮領導作用。[2]《美國國防部聯(lián)合人工智能中心及其發(fā)展規(guī)劃》，載《中國航天報》2019年4月9日，第A06 版。以色列也注重通過大數(shù)據(jù)以及機器學習等方式應對恐怖主義威脅。由于在打擊恐怖主義的過程中廣泛使用了人工智能技術，以色列境內的恐怖襲擊數(shù)量出現(xiàn)了降低趨勢。[3]Boaz Ganor, “Artificial or Human: A New Era of Counterterrorism Intelligence?” Studies in Conflict & Terrorism, 2019, pp.12-16, https://www.tandfonline.com/doi/full/10.1080/10576 10X.2019.1568815.

值得注意的是，恐怖組織使用人工智能的方式目前尚以低端無人機攻擊為主。雖然各國都通過立法對無人機使用的范圍、條件、規(guī)模等進行了限制，但這些立法對恐怖組織而言沒有任何約束力。因此，從技術而非法律層面對恐怖組織在制造、獲取和使用民用無人機等方面加以限制，才是國家在應對人工智能恐怖主義的重點領域。

（二）重視人工智能高新技術企業(yè)和科研機構在反恐方面的優(yōu)勢

人工智能的特點，決定了開發(fā)和研制新型技術離不開商業(yè)公司和一線科研機構的支持，在人才、資金、技術等領域更是如此。因此，國家與企業(yè)、高校、研究機構建立合作關系，利用其在人工智能領域的優(yōu)勢地位開展反恐工作是十分必要的。

特別是對于“獨狼”恐怖分子，由于其目標小且行動機動性強，很難用傳統(tǒng)的人工情報和通訊情報對其可能發(fā)動的恐怖襲擊事先監(jiān)控，但是“獨狼”恐怖分子很有可能會在襲擊前利用社交媒體發(fā)布其采取行動的原因，因此通過人工智能手段對社交媒體進行監(jiān)控的方式開展反恐是極有必要的。[1]Boaz Ganor, “Artificial or Human: A New Era of Counterterrorism Intelligence?”Studies in Conflict & Terrorism, 2019, pp.6-7, https://www.tandfonline.com/doi/full/10.10 80/1057610X.2019.1568815.當前一個被反復提及的重要案例是“臉書”公司利用人工智能技術尋找和移除該平臺上的恐怖主義內容。其主要方式是“臉書”公司在后臺通過圖像匹配技術，識別和防止那些知名恐怖分子的照片和視頻出現(xiàn)在個人賬戶上。此外，“臉書”公司還利用機器學習算法尋找恐怖分子開展宣傳的慣用模式，以便快速移除這些賬號的信息流（newsfeeds）。[2]“Facebook Using Artificial Intelligence to Fight Terrorism,” CBS News, Jun. 15,2017, https://www.cbsnews.com/news/facebook-using-a-i-artificial-intelligence-againstterrorism/.再比如，美國空軍與一家以色列公司簽訂了一份價值1560 萬美元的協(xié)議，以開發(fā)反無人機襲擊技術。[3]Oriana Pawlyk, “Air Force Works to Track ISIS Drones to the Source,” Military.com,Mar. 6, 2017, https://www.military.com/daily-news/2017/03/06/air-force-works-to-trackisis-drones-to-the-source.html.高校以及企業(yè)還可通過開發(fā)機器翻譯、數(shù)據(jù)挖掘、語音識別、文本分析等技術，加強對恐怖分子行動的預測，配合做好應對恐怖襲擊的預警工作。[1]Sheryl Prentice, “How Technology Could Help Predict Terrorist Attacks,” https://www.iflscience.com/technology/how-technology-could-help-predict-terrorist-attacks/all/.

未來，國家與商業(yè)公司和研究機構在反恐領域的合作需進一步增強。例如，商業(yè)公司可通過人工智能手段更好更快地鎖定恐怖分子的行蹤，而不是像現(xiàn)在一樣僅僅對疑似恐怖分子的賬號進行銷號。商業(yè)公司還可利用開發(fā)軟件以及為公共部門提供數(shù)據(jù)集等方式介入反恐行動。[2]Kathleen McKendrick, “Artificial Intelligence Prediction and Counterterrorism,”Research Paper, Chatham House, Aug. 2019, p.8.通過更多地引入非國家行為體的力量，將人工智能技術更好地運用于反恐行動，將是打擊人工智能恐怖主義的一個重要依托。

（三）加強人工智能反恐領域的國際合作

加強在人工智能反恐領域的國際合作，是打擊恐怖主義的一個重要途徑。2019年9月3—4日，白俄羅斯政府與聯(lián)合國反恐辦公室共同主辦的“通過創(chuàng)新方法和使用新興技術應對恐怖主義”高級別國際會議在明斯克舉行，會議主要聚焦全球、區(qū)域和國家層面恐怖分子使用新技術和人工智能問題，以及對這些恐怖分子采取措施的方法和戰(zhàn)略。[3]“New Technologies, Artificial Intelligence Aid fight against Global Terrorism,” UN News, Sept. 4, 2019, https://news.un.org/en/story/2019/09/1045562.各國共享恐怖分子人臉、語音、指紋等方面的數(shù)據(jù)庫，利用大數(shù)據(jù)技術對恐怖分子進行甄別、監(jiān)控和打擊，共同將人工智能領域的前沿成果運用到反恐工作中，將有利于從國際層面使用人工智能手段對恐怖分子進行精準打擊。

當前，利用人工智能技術方面的國際合作尚處于初級階段，相關國家需要進一步就利用人工智能反恐的優(yōu)勢和必要性達成共識，盡快成立政府間的人工智能反恐合作機制，舉行定期或不定期的高層官員會談，并利用國家政府在人工智能領域的技術優(yōu)勢，分享有關恐怖主義活動的相關情報，同時各國利用人工智能技術打擊恐怖主義的經驗，特別是使用生物特征識別技術搜集匯總恐怖分子和高危犯罪分子相關信息，建設各國都可以正常接入的數(shù)據(jù)庫，以便更好地對恐怖組織的活動進行監(jiān)測。國際社會尤其需將涉及致命性自主武器的高級人工智能的研發(fā)、交易、部署和使用全過程置于有效監(jiān)管之下，并確保其研發(fā)和部署符合人道主義原則。[1]董青嶺：《新戰(zhàn)爭倫理：規(guī)范和約束致命性自主武器系統(tǒng)》，載《國際觀察》2018年第4 期，第62—65 頁。

（四）避免高級人工智能技術落入恐怖分子手中

隨著一些恐怖組織實力的增強，他們有可能會招募到專門從事人工智能研發(fā)的高級科技人才或者一些擁有高學歷、高智商的“獨狼”式恐怖襲擊者，從而可能使用技術更為高端的襲擊方式，并造成更為嚴重的襲擊后果。在此背景下，提高重要實驗室的安保級別，確保關鍵性的人工智能技術掌握在國家政府手里，避免其落入恐怖分子手中，這非常重要。

當前，恐怖分子利用人工智能實施襲擊已經不是一個假設，而是一個迫在眉睫的現(xiàn)實問題。面對恐怖分子利用人工智能日益增多的情形，國家政府需要充分利用自身的技術優(yōu)勢地位，阻斷恐怖組織發(fā)展人工智能技術手段的路徑，否則，一旦恐怖分子掌握的人工智能技術日趨成熟，將會對國際社會造成無法想象的災難。

結 論

人工智能運用領域的不斷擴展，在給人們帶來方便的同時，也存在著一定的負面影響，這是先進技術發(fā)展所帶來的不可避免的“雙刃劍”效應?？植婪肿永眉夹g革命的有利契機，開始使用各種人工智能手段進行恐怖活動，對國際社會造成嚴重危害，需引起各國高度重視。

國際社會與恐怖活動將在很長一段時間內處于共存狀態(tài)?？植婪肿硬⒉慌懦馊祟愖钕冗M的科學技術，而是“以子之矛，攻子之盾”，充分利用這些技術手段對國家和社會發(fā)動恐怖襲擊。此外，盡管恐怖分子使用人工智能尚處于較低水平，但我們絕不能忽視他們利用人工智能手段擴大組織影響，以及實施更具威脅的恐怖襲擊的可能性，尤其是那些擁有較高學歷和較高智商的“獨狼”恐怖分子，更有可能使用人工智能方式進行恐怖襲擊。在這種情況下，國家政府應采取各種手段對其加以遏制，使之不會成為影響國際社會發(fā)展的一個重要負面因素，這在當前是一個非常緊迫的現(xiàn)實問題。國家需要在人工智能領域建立相對恐怖分子的絕對優(yōu)勢，加強國際合作以及與重要人工智能商業(yè)公司和研究機構的合作關系，避免高等級的人工智能被恐怖分子利用，有效防止恐怖分子利用這種新興的技術手段獲得最大收益。

人類社會對先進技術的追求是無止境的。人工智能的發(fā)展作為人類社會又一場具有跨時代意義的“技術革命”，正在改變著我們的日常生活，也對國際秩序產生了深遠影響，甚至將會徹底改變國際體系的權力分配狀況。因此，我們應當對人工智能技術持開放態(tài)度。但是，我們也需要警惕和遏制這種技術被國際恐怖分子濫用，從而更好地實現(xiàn)人類社會整體的安全、發(fā)展與進步。