國際刑警組織“人工智能警務創(chuàng)新工具指南”

編譯/吳杰麗

近年來，人工智能技術（AI）正經(jīng)歷著令人難以置信的跨越式發(fā)展，成為一股強大的力量，重塑著社會的諸多方面。警務執(zhí)法領域也不例外。隨著人工智能在警務領域的不斷深化應用，警務科技含量和執(zhí)法規(guī)范化水平都得到了提升。一定程度上，“人工智能+警務”模式也緩解了警力不足的難題。

然而，作為一種具有超強潛力的技術資本，人工智能時代的到來也給世界帶來了諸多不確定性和威脅。這些潛在的風險要求我們時刻保持最大的警惕性和責任感。尤其是在要求嚴格和敏感強度高的執(zhí)法環(huán)境中。

鑒于人工智能在警務執(zhí)法領域應用仍然欠缺充分的指引，并且在道德規(guī)范方面不可避免地引發(fā)擔憂，因此，國際刑警組織（Interpol）和聯(lián)合國區(qū)域間犯罪和司法研究所（UNICRI）在國際刑警組織警察科學大會上共同發(fā)布了“負責任的人工智能創(chuàng)新工具指南”。該指南旨在指引執(zhí)法人員和機構能夠以可靠、合法和負責任的方式將人工智能技術應用于警務執(zhí)法領域。

一、“人工智能創(chuàng)新工具指南”的形成路徑

在歐盟的財政支持下，人工智能創(chuàng)新工具指南由區(qū)域間犯罪和司法研究所人工智能與機器人中心和國際刑警組織人工智能實驗室聯(lián)合開發(fā)。人工智能創(chuàng)新工具指南的形成過程充分體現(xiàn)了包容、協(xié)商和迭代的特點，主要由以下四個方面參與完成。

一是由國際刑警組織和區(qū)域間犯罪和司法研究所共同成立的核心專家組。該專家組由來自30 多個不同國家的執(zhí)法部門、學術界、私營部門和民間組織的56 名專家組成。在開發(fā)過程中，共召開了6 次在線會議。會上，圍繞人工智能在警務執(zhí)法中的應用問題充分開展了研討和協(xié)商。

二是利益攸關方的參與研討。在人工智能創(chuàng)新工具指南開發(fā)過程中，國際刑警組織和區(qū)域間犯罪和司法研究所會同執(zhí)法領域的代表定期進行協(xié)商。此外，又與刑事司法人員、人權保護領域代表以及技術供應商召開特別協(xié)商會議。必要時，還與個別領域專家、委員會和組織就專題進行商議。公眾參與、信任和執(zhí)法透明度的理念在“負責任的人工智能創(chuàng)新”概念中發(fā)揮著至關重要的作用。為了在開發(fā)工具指南中充分體現(xiàn)這些理念，開展了全球民意調查，全面收集公眾的意見和反饋，了解公眾對于人工智能在執(zhí)法領域運用的看法，并且在公眾特別關注的領域或者薄弱且亟須改進的領域進一步組織磋商。

三是同行審查。國際刑警組織和區(qū)域間犯罪和司法研究所組織了全球各地的30 多名具有執(zhí)法、學術、人力資源、工業(yè)、刑事司法、公共部門和國際組織背景的專家就人工智能創(chuàng)新工具指南開展了技術審查。在此過程中，收集反饋信息，并及時將更新的內容融入工具指南中。

四是實際環(huán)境中的測試。作為對技術同行審查的補充，15 個不同國家和地方層面的執(zhí)法機構，在實際執(zhí)法環(huán)境中，對人工智能創(chuàng)新工作指南進行了測試。即使在指南發(fā)布的此刻，在實際執(zhí)法環(huán)境中的測試仍然在繼續(xù)，反饋信息和改進措施不斷被指南的未來版本所采納。

二、“人工智能創(chuàng)新工具指南”的內涵建設

世界各地的國家執(zhí)法機構陸續(xù)開發(fā)、獲取和使用不同類型的人工智能系統(tǒng)、工具和技術，從而支持越來越廣泛的執(zhí)法工作。無論是應用于圖像、文本、語音分析還是風險評估，人工智能都是必不可少的，甚至正在成為警務執(zhí)法工作的基本操作手段之一。負責任的人工智能在警務執(zhí)法領域的創(chuàng)新應用，其內涵建設主要圍繞三個目標開展：第一，在各方面必須追求道德平衡以及符合法律法規(guī)；第二，從開發(fā)到應用需要有一套健全的管理機制；第三，必須建立強有力的監(jiān)管機構，從而確保創(chuàng)新應用時的公平公正和安全穩(wěn)定。

為了實現(xiàn)內涵建設的三大目標，人工智能創(chuàng)新工具指南設計了七個部分內容，分別是：導論、原則、組織計劃、組織準備評估問卷、風險評估問卷、工作手冊、技術參考書。

導論部分向執(zhí)法團隊和個人提供了人工智能的概念、負責任的人工智能創(chuàng)新應用含義和解讀、人工智能在執(zhí)法領域應用的基礎條件以及重要意義等內容。

作為人工智能創(chuàng)新工作指南的基礎性內容，原則部分中闡述了在警務執(zhí)法領域負責任應用人工智能的指導原則。該原則與警務原則保持一致，確保能夠在保護人權和追求道德平衡的同時，開發(fā)和使用人工智能系統(tǒng)，從而造福社會。

組織計劃部分旨在幫助執(zhí)法機構了解應該具備哪些要素，以便對人工智能系統(tǒng)的開發(fā)、采購以及部署采取負責任的手段和措施。

組織準備評估部分主要是一份自我評估問卷，旨在幫助執(zhí)法機構對其文化、人員、專業(yè)知識和現(xiàn)有流程的批判性審查，確定這些要素在其機構中采用負責任的人工智能的準備情況。這份自我評估問卷將使機構更好地了解自己在向負責任的人工智能發(fā)展過程中所處的位置。組織準備評估部分與組織計劃部分和原則部分密切相關，旨在支持各機構實施其中包含的建議。

風險評估問卷部分旨在支持執(zhí)法機構和人員，從負責任人工智能創(chuàng)新角度，認識到人工智能應用過程將會對個人、群體甚至是整個社會，帶來潛在威脅和不利影響，以及這些威脅和不利影響發(fā)生的可能性?；谶@些對于潛在威脅的認知，執(zhí)法人員和機構能夠在人工智能系統(tǒng)設計、開發(fā)、采購、部署或使用的每一環(huán)節(jié)作出負責任的決策，并且建立相應組織、技術和安全保障，必要時采取相應的行動。

工作手冊旨在為執(zhí)法機構實施負責任態(tài)度的人工智能創(chuàng)新，以及人工智能整個開發(fā)周期作出相應的決策。技術參考部分旨在與工具指南中的其他部分一起使用。它提供了對關鍵概念和術語以及相關領域的解釋，并提供了與執(zhí)法有關的案例。

這七個部分又可以分為三大類：主要指導文件、實用工具、輔助文件。這些部分的設計旨在通過向執(zhí)法機構和人員提供豐富的人工智能知識、人工智能應用指導和最佳實踐范式，從而實現(xiàn)基于“人權-道德-警務原則”三個維度的負責任人工智能警務執(zhí)法創(chuàng)新之路。

三、“人工智能創(chuàng)新工具指南”的使用建議

首先，建議警務工作領導者、負責人以及決策者等認真閱讀原則、組織計劃、組織準備評估問卷等部分內容。其次，建議執(zhí)法機構在人工智能創(chuàng)新應用之初進行自我評估。通過自我評估，了解機構人工智能警務執(zhí)法應用的經(jīng)驗和能力水平。再者，由于風險評估是一個反復的過程，因此建議定期完成風險評估問卷。此外，建議認真閱讀負責人的人工智能創(chuàng)新行動手冊。該手冊能夠為人工智能警務執(zhí)法應用過程中的每個不同階段提供配套資源，從規(guī)劃到部署，再到使用和監(jiān)控，以及其他可能涉及的事務。最后需要強調的是，該指南也有助于各國能力建設的提升，幫助各國更好地起草國家層面的人工智能警務執(zhí)法的管理機制。

國際刑警組織秘書長斯托克表示：“不可否認，人工智能改變了犯罪分子和執(zhí)法部門的行事規(guī)則。然而，我們必須以可靠、合法和負責任的態(tài)度，提供清晰、務實，最重要是有效的方式，向新科技時代過渡?！痹诼?lián)合國犯罪和司法研究所與國際刑警組織的伙伴關系框架下，促成了這一關鍵的創(chuàng)新工具指南，確保執(zhí)法人員和機構能夠在符合法治和道德以及尊重人權的范圍內利用好技術。與此同時，人工智能創(chuàng)新工作指南將定期進行更新和修訂，以確保執(zhí)法部門能夠緊跟這一領域的快速發(fā)展，并且及時應對相關的法律和道德挑戰(zhàn)。當然，每個國家勢必對其人工智能發(fā)展道路保留完全的自主權。