人工智能重塑國家安全

（聯合國犯罪司法所）

我很高興與大家一起分享我的一些人工智能重塑國家安全的想法、我們可采取的行動和步驟。

當今的人們比以往任何時候都更加富有、聰慧，彼此之間也建立了更廣泛的鏈接，我認為這非常重要，能夠帶給我們前所未有的機會，快速找到之前無法解決的問題的應對之道，AI即是如此。AI本身是一種工具，可以用于好的事物，也可以用于壞的事物，但我們應該對人工智能技術（AI）抱有更為樂觀的態(tài)度?；氐?003年伊拉克戰(zhàn)爭期間，當時我在聯合國武器檢查團伊拉克調查小組工作，主要協調保護及援助禁止化學武器組織成員，那時，無人機數量寥寥可數，沒有AI或者自動機器人，甚至也沒有智能電話。僅僅15年之后，世界完全改變了，我們擁有了虛擬現實系統(tǒng)（VR）、自動駕駛汽車、虛擬化系統(tǒng)、無人機以及其他許許多多的新生事物。當然再往后20或者30、40年后，我們的世界可能變得更加不同，人類和AI可能共同存在，我想強調的是這是一種趨勢，而非預測。

值得注意的是，現在主要由私營部門在引領人工智能的發(fā)展，而不是政府公共部門，很顯然政府在人工智能領域已經落后了。直至2017年，才有國家開始制定人工智能國家戰(zhàn)略，中國便是其中之一。而歐盟及其他一些其他國家則通過投資或者進行產業(yè)合作，作為自己國家的人工智能戰(zhàn)略。

到2015年，聯合國安理會才第一次真正地討論了AI，當時由我主持這個討論會，與會的絕大多數聯合國代表頑固地認為AI只存在于科幻小說，有些“卓越的”演講者甚至質問為什么要在聯合國這樣的場合來討論AI。顯然，短短幾年的時間，一切都發(fā)生了改變。就在去年（2017年）的聯合國安理會上，古特雷斯秘書長在致辭中指出：“人工智能技術改變世界, 可以促進發(fā)展和讓生活更多姿多彩，但它也會對勞動力市場，甚至是全球安全和社會結構產生深遠的影響，我們呼吁所有的聯合國機構和成員國都思考如何使用這項技術?！甭摵蠂脑S多機構各自開展了AI項目和活動，我們與聯合國犯罪司法所（UNICRI）開展了一項特別項目—UNICRI人工智能和機器人中心，總部設在荷蘭海牙，旨在提高公眾對于人工智能和機器人技術風險與利益并存的理解，從而提高協調能力，加快知識收集和傳播，提高安全意識并拓展活動領域。當前主要開展的內容共四個項目：全球教育項目、與國際刑警合作研究在執(zhí)法過程中應用AI技術及使用機器人的機遇及風險、AI政策與治理、消減人工智能引發(fā)的自動化對發(fā)展中國家及轉型經濟體社會穩(wěn)定的沖擊。

目前聯合國193個會員國的代表已經就2015年后的發(fā)展議程達成一致，發(fā)布了題為“變革我們的世界——2030年可持續(xù)發(fā)展議程”的文件，標志著人類社會第一次就發(fā)展的概念達成共識，提出了17個可持續(xù)發(fā)展目標及169個子目標，總共230個指標，其內容可以歸結為五大類，即人、地球、繁榮、和平和合作伙伴，是一張旨在結束全球貧困、為所有人構建尊嚴生活且不讓一個人被落下的路線圖。當然AI不是唯一的目標，也不是唯一的工具，但AI是非常強大的工具，可能幫助實現上述所有的目標。例如在協助完成消除貧困的首位目標時，使用AI技術可以從太空中拍攝貧困地圖，使實時資源調配成為可能，等等。這也是為什么從2017年起，聯合國組織召開以AI造福全人類為主題的峰會，嘗試將AI定義為能夠實現聯合國可持續(xù)發(fā)展目標的特別項目。

AI將重塑國家安全。首先AI對國家安全有非常大的影響，其次AI給國家安全既帶來了收益，同時也帶來了風險，但影響程度如何并未深入討論過。這次人工智能安全高峰論壇恰逢其時，每一個觀點的碰撞都有助于我們實現目標。首先分析AI技術應用于安全的好處，這類例子有很多，如國際司法援助的自動研究分析及響應、虛擬尸檢確定死因、自主機器人巡邏系統(tǒng)、被盜汽車的視覺識別、偷盜的行為檢測、在線欺詐的自動識別和跟蹤工具等等，這類科技的確效果明顯。其次分析AI給安全帶來的風險，在可預見的未來，AI會增強犯罪，被用于致命性自動武器系統(tǒng)，帶來技術性失業(yè)，當然還存在超級智能這類關乎人類生存的問題，這可能非常遙遠，但是應當做到未雨綢繆。

2018年7月，我們和國際刑警合作在新加坡舉辦了首屆“執(zhí)法中應用人工智能及機器人的機遇與風險”的全球會議，在會議上，我們研討了一些新的基于人工智能的犯罪或恐怖分子使用的工具，主要有數字攻擊、政治攻擊和物理攻擊。首先，AI用于數字襲擊將增強網絡攻擊范圍的效果，其次在政治攻擊方面，常見的形式包括利用AI擴散假新聞，以及針對政治或公眾人物的面部交換和視頻操作工具。最后在物理攻擊方面，世界各地都存在此類情況，但使用無人機結合復雜的AI技術，襲擊極具破壞性。新加坡會議后，我們在紐約的總部介紹了會議成果，將最新的科技向聯合國成員國做了介紹，并提出了相應的建議。

另一個大的話題——在AI領域各國是競爭合作還是軍備競賽，我本人比較樂觀。其實就在9月17日，習主席向大會發(fā)的賀信很好說明了中國對于合作和競爭的態(tài)度，并鼓勵成果分享和國際合作。

關于AI導致技術性失業(yè)，聯合國已經在日內瓦開展了一個全球的項目，旨在減小人工智能引發(fā)的自動化對發(fā)展中國家和轉型經濟體社會穩(wěn)定的影響。

最后，我提議所有的人向前看，通過綜合分析預測和評估，認識到合作對于解決問題的必要性，最終促成政府間、國際組織間、私營部門、學術界多元利益相關方之間的緊密合作。