英國智庫RUSI報告：人工智能與國家安全

曾輝

近日，英國防務智庫皇家聯(lián)合軍種國防研究所（RUSI）發(fā)布報告，系統(tǒng)研究了人工智能對國家安全的威脅以及應用。報告指出，隨著數(shù)據(jù)量不斷呈指數(shù)級增長，使用更先進的分析工具已成必要。但人工智能的惡意使用已經(jīng)對國家安全構成了“切實威脅”，因此，安全機關迫切需要采用更先進的數(shù)據(jù)科學技術，以應對人工智能帶來的潛在威脅。IPP評論組織翻譯了這一報告的關鍵部分，供讀者參考。

一、背景

雖然人工智能可以增進現(xiàn)有安全機制的效率和有效性，但同時也會帶來新的問題，這些問題需要在現(xiàn)有法律和監(jiān)管框架內進行評估。最近，一些分析人士稱，人工智能和高級分析技術在監(jiān)管方面有潛在的風險，可能會產(chǎn)生隱私或人權問題?？萍及l(fā)展帶來的安全挑戰(zhàn)是英國的高度優(yōu)先事項之一。根據(jù)英國政府通信總部（GCHQ）的說法，有必要開展有關國家安全與人工智能的辯論，這樣有利于更快地獲得應對方案，也能給公眾一個交代。

GCHQ進一步指出，“人工智能的應用必須符合倫理規(guī)范，并接受有效的監(jiān)管”。英國軍情五處總干事安德魯·帕克（Andrew Parker）表示，雖然人工智能能夠讓我們實時地了解成千上萬人的生活細節(jié)，但是我們仍無法通過數(shù)據(jù)了解人類的思想。

令人擔憂的是，許多不成熟的人工智能技術在商業(yè)界開始流行。英國安全機關在數(shù)據(jù)的獲取和使用方面需要接受額外的審查，而私營部門卻并非如此。

因此，人工智能的國家安全應用需要比商業(yè)應用有更高程度的魯棒性、彈性和獨立性。

此外，英國安全機關需要在不損害社會和倫理價值觀，以及公眾信任的前提下，充分利用人工智能帶來的機遇，制定明確、科學的決策。

二、何為人工智能？?

人工智能現(xiàn)在仍沒有廣泛接受的定義。人工智能大致可分為兩大類：強人工智能（General AI）和弱人工智能（Narrow AI）。強人工智能具備與人類同等智慧或超越人類的人工智能，能表現(xiàn)正常人類所具有的所有智能行為。弱人工智能不具備人類完整的認知能力，只處理特定的問題，例如語音識別、圖像識別和翻譯。幾乎目前所有的人工智能都屬于弱人工智能的范疇?？茖W界普遍認為，強人工智能的普及還需要幾十年的時間才能實現(xiàn)。

弱人工智能可以理解為“使機器能夠有效地執(zhí)行高度復雜任務的通用數(shù)字技術”。人工智能通常定義為“執(zhí)行通常需要人類智能的任務”，主要由六個關鍵要素組成，即自動推理、自然語言處理、知識表示、計算機視覺、機器人學以及機器學習。

弱人工智能的發(fā)展與機器學習的發(fā)展息息相關。機器學習能通過經(jīng)驗自動改進計算機算法，其特點是使用統(tǒng)計算法進行建模、理解和預測。算法可以定義為“為解決一個特定的問題而精心設計的一組數(shù)學指令或規(guī)則”，而機器學習是一種特殊算法，使用新數(shù)據(jù)可以優(yōu)化計算機程序的性能標準。機器學習可以大致分為四種類別：監(jiān)督學習、半監(jiān)督學習、無監(jiān)督學習和增強學習。

監(jiān)督學習：從給定的訓練數(shù)據(jù)集中學習出一個函數(shù)，當新的數(shù)據(jù)到來時，可以根據(jù)這個函數(shù)預測結果。監(jiān)督學習的訓練集要求包括輸入和輸出，也可以說是特征和目標。訓練集中的目標是由人標注的。例如，在物體識別方面，機器可以根據(jù)訓練數(shù)據(jù)中有關水果的照片和描述正確識別不同類型的水果。

無監(jiān)督學習：與監(jiān)督學習相比，訓練集沒有人為標注的結果。例如，在圖像識別方面，機器可以根據(jù)訓練數(shù)據(jù)中有關動物的照片，但在缺乏相關描述的情況下，對不同類型的動物進行正確分類。

半監(jiān)督學習：介于監(jiān)督學習與無監(jiān)督學習之間。訓練集一半為人為標注，另一半則為無人為標注。機器可以根據(jù)這種訓練集進行預訓練，然后通過人為標注集進行調整。

增強學習：機器為了達成目標，隨著環(huán)境的變動，而逐步調整其行為，并評估每一個行動之后所得到的回饋是正向的還是負向的。例如，使用者可以對機器推薦的音樂進行反饋，以便讓機器學習使用者的音樂喜好。隨著反饋的增多，推薦結果將越來越貼合使用者的音樂喜好。

近年來，大型數(shù)據(jù)集的普及使機器學習的應用日益廣泛。在醫(yī)療領域，機器學習的圖像識別技術可用于預測嬰兒患自閉癥的風險和檢測皮膚癌。地方議會目前正在大力推廣機器學習在社區(qū)事務中的應用。在治安管理方面，機器學習可用于預測在押案犯再次犯罪的可能性，根據(jù)“破案成功率”對案件進行優(yōu)先排序。隨著“智慧城市”概念的不斷深入，機器學習越多越多地被用于垃圾處理、交通管理、污水處理等民政工作。根據(jù)英國政府人工智能辦公室的預測，人工智能可在2030年為英國經(jīng)濟創(chuàng)造約2320億英鎊的價值。

然而，值得注意的是，英國大多數(shù)人工智能的發(fā)展成就都是由私營部門和學術機構創(chuàng)造的。英國公共生活標準委員會（Committee on Standards in Public Life）的調查顯示，盡管人工智能引起了不少官員的重視，但人工智能在英國政府的普及程度并不高，而且英國政府的人工智能項目仍處于計劃階段。因此，如何在未來充分利用人工智能帶來的機遇，應當成為英國政府的高度優(yōu)先事項。

三、AI在國家安全中的應用?

“信息過載”給英國安全機關帶來了嚴峻挑戰(zhàn)，正如美國貝爾弗科學與國際事務中心（BCSIA）格雷格·艾倫（Greg Allen）和塔尼爾·陳（Taniel Chan）所說：“隨著數(shù)據(jù)量的激增，情報工作的難度也隨之加大，想要找出有價值的信息猶如大海撈針。”

“信息過載”只是一方面。英國上議院議員大衛(wèi)·安德森（David Anderson）在2015年的政府工作報告中指出，通信方式的變革、電信供應商的分散化、通信權歸屬的爭議，加密技術的升級和新數(shù)據(jù)源的出現(xiàn)，加大了英國安全機關的工作難度。為了應對這些挑戰(zhàn)，英國政府需要開發(fā)更高級的數(shù)據(jù)分析工具，而人工智能將是實現(xiàn)這一目的重要途徑之一。英國政府通信總部（GCHQ）曾公開表示：“許多類似GCHQ的機構將考慮使用機器學習和人工智能，這有利于提高英國安全機關的工作效率和有效性，英國的國家安全也將得到更有效的保障。”

1. 人工智能在商業(yè)和行政領域中的優(yōu)勢

對于任何大型行政機構而言，重復性工作占總工作量的很大一部分。使用人工智能最直接的優(yōu)勢是行政管理自動化。2016年美國政府發(fā)布的人工智能報告稱：“人工智能帶來的主要經(jīng)濟效應是行政管理自動化。”

人工智能在商業(yè)領域中的運用也具有重要的價值和意義。人工智能可在前臺和后臺使用：在前臺，基于計算機視覺和自然語言處理的人工智能系統(tǒng)可根據(jù)圖像信息，用語音引導用戶完成電子商務交易;在后臺，人工智能系統(tǒng)可通過圖像掃描，對發(fā)票進行全自動化的數(shù)據(jù)轉換，在貸款業(yè)務中進行交叉引用數(shù)據(jù)，整理巨量信息，例如行業(yè)公告、財務數(shù)據(jù)等。同樣，使用人工智能可大大減少政府的工作量。

監(jiān)管自動化也可提高政府的工作效率。德國新責任基金會（SNV）最近的一份報告提出了七種以數(shù)據(jù)驅動的監(jiān)管工具，這些工具可使監(jiān)管機構進行未經(jīng)宣布的檢查和審計，人工智能便是其中之一。本報告建議將簡單描述法、高級機器學習和統(tǒng)計分析技術相結合，開發(fā)一種可用于識別數(shù)據(jù)不正當使用和非法活動的“行為檢測系統(tǒng)”。監(jiān)管自動化不僅有助于督促被監(jiān)管機構遵守國家法律，而且還能給監(jiān)管機構的員工騰出時間處理更復雜的技術問題。

2. 人工智能對網(wǎng)絡安全的重要性

當今網(wǎng)絡威脅的增長速度已遠遠超過了人類應對的速度。鑒于網(wǎng)絡攻擊頻率的迅速上升，越來越多的人工智能網(wǎng)絡防御系統(tǒng)被用于檢測和防御網(wǎng)絡威脅。傳統(tǒng)的防病毒技術是基于病毒特征碼和特征庫的，而基于人工智能的防病毒技術無需借助病毒數(shù)據(jù)庫就能識別潛在的網(wǎng)絡威脅。

英國人工智能網(wǎng)絡安全公司Darktrace最近的一份報告稱：“傳統(tǒng)的網(wǎng)絡安全工具可識別已知的威脅，而人工智能卻可識別未知的網(wǎng)絡威脅。隨著網(wǎng)絡犯罪分子創(chuàng)新能力的不斷增強，提升網(wǎng)絡安全能力已變得十分必要。”

基于人工智能的網(wǎng)絡檢測系統(tǒng)可對各種網(wǎng)絡活動進行分析，對異?；顒幼龀鰧崟r響應。用戶認證也是一個值得關注的方向。最近有研究提出了一種“行為的生物測定法”，即根據(jù)用戶數(shù)字活動的特征判斷用戶的安全性，例如用戶使用鼠標的習慣、輸入的字詞、語言特征等。這也是一種增強網(wǎng)絡安全的有效手段。

3. 人工智能在情報領域的應用

人工智能可對非結構化或繁雜的數(shù)據(jù)集進行分析，并找出有價值的信息，提高情報工作的效率。人工智能在情報領域的應用可大致分為三個方面：（1）認知自動化;（2）數(shù)據(jù)篩選、標記、分類;（3）行為的生物測定法。

（1）認知自動化

人工智能最明顯的優(yōu)勢是“認知自動化”，即人類感官數(shù)據(jù)化（如自然語言處理和視聽分析）。這項技術可大大減少人工分析數(shù)據(jù)的時間，同時還可降低情報外泄的風險。

使用語音到文本的轉換可減少處理音頻數(shù)據(jù)的人力。機器翻譯也有明顯的優(yōu)勢，可用于文本的轉錄，也可直接應用于音頻數(shù)據(jù)。最近，語言分析技術取得了長足的進步。“說話者識別”的應用可提高搜索語音數(shù)據(jù)的效率。2019年2月，美國人工智能研究組織OpenAI公布了一個大規(guī)模無監(jiān)督語言模型GPT-2。該模型可生成連貫的文本段落，并能夠執(zhí)行基本的閱讀理解、機器翻譯、問答和總結，在許多語言建?；鶞噬媳憩F(xiàn)出色。最近研究表明，受過機器學習訓練的模型可根據(jù)語言風格識別作者的身份。

人工智能還可提高視頻數(shù)據(jù)處理的效率，物體分類和面部匹配技術的應用也可以大幅度減少搜索視頻的時間。另一個優(yōu)勢是對不同的視頻進行分類，防止有害內容對用戶造成不良影響，例如涉及暴力或性虐待的視頻。視頻摘要在視頻分析和基于內容的視頻檢索中扮演著重要角色，例如，機器學習算法在視頻摘要中的應用，即采用“關鍵幀捕獲”技術捕獲原始視頻的內容，生成視頻摘要。這項技術可用來記錄某一時間段內視頻所發(fā)生的變化。

美國軟件工程研究所（SEI）正在開發(fā)多視頻摘要技術，其最終目標是通過識別和搜索多個視頻中的行為模式，預測未來可能發(fā)生的事件。

（2）數(shù)據(jù)篩選、標記、分類

英國安全機關采集的數(shù)據(jù)主要是通過體積縮減系統(tǒng)進行處理的，這個系統(tǒng)能夠對數(shù)據(jù)進行過濾、搜索和篩選。如果在這一過程中使用人工智能，就可提高體積縮減系統(tǒng)的效率，確保情報分析人員只接觸到與手頭任務相關的數(shù)據(jù)，最大限度地減少間接入侵。美國國家研究委員會（UNRC）在2015年的一份報告中稱：“雖然目前仍沒有可完全取代大規(guī)模信號情報采集的技術，但可提高情報采集的針對性及控制所采集情報的使用。英國需要開發(fā)一種可限制對情報的訪問、審核和使用的系統(tǒng)以加強隱私保護?！?/p>

大衛(wèi)·安德森在2016年撰寫的一份審查報告闡述了英國政府通信總部是如何批量攔截信號情報的。這項技術可分為三個步驟，即“采集”、“篩選”和“核查”。首先，評估通信的情報價值，選擇承載。然后，對選定承載的通信量進行一定的過濾，篩選出有潛在情報價值的通信，同時丟棄無情報價值的通信。最后，將剩余的通信輸入數(shù)據(jù)庫進行有針對性和非針對性的搜索，以獲得有情報價值的通信。由于數(shù)據(jù)量巨大，情報分析人員通常會采取應用分類法來確定哪些情報最有價值，然后對篩選出的搜索結果進行核查。

英國調查權利專員辦公室（IPCO）最近的年度報告指出：“絕大多數(shù)通過批量采集獲得的情報并未經(jīng)過情報分析人員的審查，但會根據(jù)特定標準進行自動篩選審查，使我們盡可能地獲得有價值的情報。”

如果使用得當，人工智能可比人工操作更有效地識別多個海量數(shù)據(jù)集內部和之間的關聯(lián)，進而提高篩選和過濾的準確性。然而，使用人工智能識別重要情報與使用行為分析法檢測（預測）可疑活動不能相提并論。為了有效地從海量數(shù)據(jù)中提取有用的信息，人工智能可作為人機交互工作流的一部分。當搜索或過濾通過批量采集獲得的情報時，使用人工智能可最低限度地減少人工審查內容，以此降低間接入侵的風險。

（3）行為分析法

行為分析法可定義為將復雜算法應用于分析和預測人類行為的一種分析方法。安全機關可通過基于行為分析法的人工智能預測各種對國家和個人的威脅。

人工智能用于反恐情報分析已成為目前關注的焦點。2017年倫敦和曼徹斯特恐怖襲擊事件發(fā)生后，就有官員提出改良英國安全機關的數(shù)據(jù)使用方式，以提高其反恐能力。

大衛(wèi)·安德森最近撰寫的報告描述了開發(fā)相關技術所需的能力和數(shù)據(jù)，其中提到：“隨著人工智能提取信息能力的不斷增強，行為分析法在人工智能中的應用也越來越成熟，屆時現(xiàn)有的技術難題將會迎刃而解。”

大衛(wèi)·安德森指出，行為分析法永遠不會過時，不僅可用于完善現(xiàn)有的反恐風險評估機制，而且還可用于偵測可疑目標，例如分析個人心理變化、犯罪分子進行犯罪活動前的行為等。目前有大量的學術文獻研究臨床（自主）決策與統(tǒng)計（非自主）決策的相對優(yōu)勢，但學術界對它們的理解和評價仍存在巨大爭議。上世紀50年代的一些實證研究顯示，無論在學術或實踐上，統(tǒng)計預測都比非結構化臨床判斷更準確。

有專家認為，在評估個人層面的風險時，綜合預測準確率從根本上是有誤導性的，而且有證據(jù)表明，基于專業(yè)判斷的風險評估機制優(yōu)于基于統(tǒng)計法的風險評估機制。

此外，由于恐怖暴力事件的發(fā)生頻率較低，統(tǒng)計風險模型的歷史數(shù)據(jù)集通常較小。根據(jù)學術文獻中的案例分析，恐怖分子的個人背景、行為模式、犯罪動機，以及犯罪誘因等方面皆存在巨大差異。因此，恐怖分子之間的共同點很少。正如美國弗吉尼亞大學法學教授約翰·莫納漢（John Monahan）總結的那樣：“大多數(shù)現(xiàn)有研究未能從統(tǒng)計學的角度明確地找出誘發(fā)恐怖主義的因素，難以進行微觀化的風險評估?！睂⒔y(tǒng)計法納入風險評估機制的另一個問題是使用行為分析法可能會導致個人背景信息的丟失。

考慮到行為分析法的局限性，本報告建議開發(fā)增強智能系統(tǒng)。這種系統(tǒng)能夠整理來自多個來源的信息，并可對重要的數(shù)據(jù)項進行標記以供人工核查。盡管如此，在評估個人行為模式或心理狀態(tài)的變化仍需要一定的人為判斷。美國軟件和服務公司Palantir最近發(fā)表的一篇文章指出：“人工智能被過分夸大了。機器的作用并不是取代人類，而是服務人類。在數(shù)據(jù)泛濫的今天，增強智能使安全機關能夠以更加透明的方式做出數(shù)據(jù)驅動的決策?！?/p>

倫敦警察局局長克雷西達·迪克（Cressida Dick）在2020年的RUSI年度講座上強調：“雖然我們需要借助各種先進技術開展工作，但我們不會把所有的希望都寄托在人工智能上。人工智能的目的是增強人類智能，而不是取代人類智能，這也是公眾所期望的?！?h3>四、惡意人工智能的潛在風險?

人工智能可以帶來好處，但它也有其黑暗面，黑客利用人工智能制作惡意軟件攻擊的做法早已屢見不鮮。更讓人不安的是，一些不受同等法律框架約束的敵對國家正在大力開發(fā)惡意人工智能。網(wǎng)絡犯罪集團在未來也會通過科技的高速發(fā)展，使用更高級的惡意人工智能進行犯罪活動。

1. 數(shù)字安全

人工智能惡意軟件給英國國家安全造成的威脅在未來將成為常態(tài)。具體地說，許多傳統(tǒng)的惡意軟件防御措施幾乎無法檢測到使用無限數(shù)量的加密算法的多態(tài)惡意軟件。這些軟件可主動確定攻擊目標，對攻擊目標進行優(yōu)先排序，環(huán)境適應力強，可在無人為操控的情況下傳播。另一個值得關注的問題是域生成算法的惡意使用。域生成算法在惡意軟件中用于生成大量的域名，這些域名可用于與惡意軟件的命令和控制服務器的通信，例如，受感染的計算機可創(chuàng)建數(shù)千個域名，這無疑加大了反制僵尸網(wǎng)絡的難度。

近年來，更多的黑客轉向利用人的弱點即社會工程學法來實施網(wǎng)絡攻擊，這通常被認為是一種欺詐他人以收集信息、行騙和入侵計算機系統(tǒng)的行為。社會工程學攻擊以不同形式，通過多樣的攻擊向量進行傳播，例如，在大多數(shù)情況下，攻擊者利用受害者賬戶發(fā)送電子郵件，由于人們通常更容易相信來自熟人的郵件附件或鏈接，從而讓攻擊者輕松得手。

人工智能在商業(yè)領域的應用也存在著不小的風險，而這些風險很可能會被黑客利用。針對訓練數(shù)據(jù)的供應鏈攻擊可能會導致人工智能系統(tǒng)無法正常運行。攻擊者還可通過訓練算法將惡意軟件偽裝成合法軟件在人工智能系統(tǒng)中安裝后門程序。

2. 政治安全

隨著人工智能的發(fā)展，造假技術也越來越高級。深度偽造技術是人工智能的另一種形式，可用于歪曲事實，甚至可對政治秩序構成威脅。這項技術利用生成對抗網(wǎng)絡（GAN）的機器學習技術，將現(xiàn)有的圖像和影片添加到目標圖像或影片上，例如換臉、像傀儡般的同步動作、偽造聲帶、唇形同步等。2019年5月，三星電子（Samsung）的研究人員展示了一個人工智能系統(tǒng)，該系統(tǒng)可根據(jù)照片生成“會說話”的視頻。英國2019年大選前夕，一位名叫比爾·波斯特（Bill Posters）的藝術家公布了一段以深度偽造技術制作的視頻。在該視頻中，首相候選人鮑里斯·約翰遜（Boris Johnson）和杰里米·科爾賓（Jeremy Corbyn）相互支持對方競選首相。他想以此告誡公眾：人工智能是一把“雙刃劍”，既能助力社會發(fā)展，也能對社會帶來危害。

假視頻很容易被識破，但由于數(shù)字內容在網(wǎng)上傳播的速度很快，決策者有可能會被虛假信息誤導，給國家?guī)頌碾y性的后果。

3. 實體安全

盡管目前人工智能武器化的案例很少，但恐怖分子可利用商業(yè)人工智能系統(tǒng)進行犯罪活動，例如，使用無人機或自動駕駛車進行恐怖襲擊。可以肯定，這些風險會隨著人工智能的高速發(fā)展而進一步加大。

據(jù)預測，到2035年，自動駕駛車在歐洲的銷量將達到世界汽車總銷量的31%。此外，人類還可借助人工智能輕而易舉地完成需要專業(yè)技術的任務，例如軍事無人機的“集群攻擊”，即利用分布式人工智能網(wǎng)絡，使無人機具備持續(xù)監(jiān)視、大區(qū)域預警、對特定目標執(zhí)行快速協(xié)調攻擊等能力。

物聯(lián)網(wǎng)、“智慧城市”和基礎設施互聯(lián)互通暴露出的問題讓黑客找到了可乘之機。雖然這些威脅尚未明確，但威脅仍無處不在。因此，英國政府需要制定積極、主動的政策，應對人工智能對國家安全的威脅。

責任編輯：趙宇然

zhaoyr@staff.ccidnet.com