人工智能技術(shù)在智慧警務(wù)中的應(yīng)用困境探析

夏潤澤

（中國人民公安大學(xué)）

1 引言

人工智能技術(shù)的快速發(fā)展為“智慧警務(wù)”建設(shè)提供了新生動力，也為擴大公安機關(guān)基層警務(wù)治理空間提供了可能。隨著人工智能技術(shù)在基層警務(wù)中應(yīng)用深度和廣度的不斷拓展，其本身以月為單位的更新迭代導(dǎo)致的不確定性帶來了技術(shù)、邊界、倫理等方面的風(fēng)險，極大地挑戰(zhàn)著基層公安機關(guān)的治理水平和能力。因此，如何化解人工智能技術(shù)在智慧警務(wù)中的應(yīng)用困境成為亟待解決的命題。

2 智慧警務(wù)中人工智能的應(yīng)用邏輯

2.1 人工智能應(yīng)用于智慧警務(wù)的必要性

當(dāng)前，傳統(tǒng)的警務(wù)模式已難以回應(yīng)復(fù)雜的社會需求，“智慧警務(wù)”概念的提出為警務(wù)效能建設(shè)指明了方向。技術(shù)是推動社會發(fā)展進步的最活躍的要素，日新月異的技術(shù)變革不斷推動生產(chǎn)力發(fā)展[1]，“智慧警務(wù)”是指依托現(xiàn)代信息技術(shù)，以科技強警的戰(zhàn)略部署為指導(dǎo)，推進公安警務(wù)工作信息化、交互化、智能化，搭建貼近警務(wù)實戰(zhàn)的數(shù)據(jù)分析，研判機制建設(shè)和公安機關(guān)各部門間協(xié)同運轉(zhuǎn)，最終實現(xiàn)警務(wù)效能最大化和最優(yōu)化的警務(wù)工作新理念。人工智能技術(shù)的發(fā)展為基層警務(wù)效能建設(shè)提供了新的可行路徑，公安機關(guān)治理與技術(shù)吸納實質(zhì)是一種雙向互動關(guān)系，這構(gòu)成了人工智能技術(shù)嵌入基層公安機關(guān)治理的內(nèi)在邏輯[2]。人工智能技術(shù)的應(yīng)用也因此成為智慧警務(wù)建設(shè)過程中無法規(guī)避的命題。

2.2 人工智能應(yīng)用于智慧警務(wù)的現(xiàn)狀

人工智能技術(shù)在智慧警務(wù)中的應(yīng)用是指公安機關(guān)基于物聯(lián)網(wǎng)、數(shù)據(jù)處理和可視化交互等關(guān)鍵技術(shù)實現(xiàn)警務(wù)模式的多元智能融合。首先是部分警務(wù)工作實現(xiàn)智能化和自動化，如警用人工智能在評估出警環(huán)境后認為存在潛在威脅時，可以直接調(diào)配警力支援[3]，從而解放了警力，有助于延伸公安警務(wù)工作的廣度。此外，依托人工智能技術(shù)搭建的一體化警務(wù)合成作戰(zhàn)平臺和警用地理信息平臺[4]使公安機關(guān)能更全面高效地掌握轄區(qū)內(nèi)信息，從而提高了轄區(qū)治理的能力和效率，拓展了警務(wù)工作深度。

3 智慧警務(wù)中應(yīng)用人工智能技術(shù)面臨的問題

警務(wù)是專業(yè)化警察運用國家強制力，預(yù)防懲治違法犯罪，維護國家安全和社會穩(wěn)定的活動[5]，可見，包含智慧警務(wù)在內(nèi)的警務(wù)活動由主體、客體和過程三要素構(gòu)成，因此，本文從這三個維度分析人工智能技術(shù)在智慧警務(wù)中的應(yīng)用困境。

1）技術(shù)異化：警務(wù)主體正確履職遭遇困境

一方面，異化是人類在發(fā)展過程中創(chuàng)造的物質(zhì)或精神的東西，其成為異己的存在力量并反過來控制、奴役人類自身[6]。人工智能與智慧警務(wù)的深度融合必然使其與使用者發(fā)生交互，并基于人工智能的思考和判斷作為行使警察權(quán)的依據(jù)，甚至直接由人工智能決定行使警察權(quán)。由此而言，警用人工智能已經(jīng)在一定程度上成為了警務(wù)主體，原本的警務(wù)人員則逐漸淪為附庸，警用人工智能異化的趨向已經(jīng)有所顯現(xiàn)，甚至反過來鉗制警務(wù)人員。

另一方面，盡管人工智能號稱“極致理性”[7]，但警用人工智能能否正確履職仍然取決于其內(nèi)設(shè)算法。算法編輯者的主觀偏向會有意或無意地導(dǎo)致算法缺陷，使人工智能同樣產(chǎn)生“主觀偏見”。警用人工智能技術(shù)的前沿性、專業(yè)性以及開發(fā)公司的保密要求所形成的“算法黑箱”導(dǎo)致警務(wù)人員難以掌握其運行邏輯，其潛在的偏向性將導(dǎo)致警務(wù)活動偏離公正軌道，甚至使無辜者遭受不必要的懲罰，嚴(yán)重影響警務(wù)主體正確履職。

2）權(quán)力擴張：警務(wù)客體權(quán)利保護面臨風(fēng)險

智能社會下人類生活的不可侵犯性受到?jīng)_擊[8]。為給人工智能技術(shù)提供足夠數(shù)據(jù)，往往需要在特定時空內(nèi)最大限度地收集和處理信息，公眾不自覺地暴露于警務(wù)人工智能的監(jiān)控之下，這種對公民個人信息的全方位收集將不可避免地壓縮公民隱私權(quán)。

警用人工智能對公民隱私權(quán)的挑戰(zhàn)主要體現(xiàn)在收集端和處理端。就收集端而言，相較于傳統(tǒng)的信息收集，基于物聯(lián)網(wǎng)的人工智能技術(shù)能夠最大程度地全方位挖掘處理信息。由無人機、全天監(jiān)控、人臉識別等工具共同連接成的信息收集網(wǎng)絡(luò)甚至能夠突破時間和空間的限制。這種無孔不入的信息收集將難以避免地觸及私人領(lǐng)域，對公民隱私權(quán)保護構(gòu)成挑戰(zhàn)。就處理端而言，為更高效地預(yù)防犯罪，人工智能往往會將收集到的個人信息，甚至包括某些當(dāng)事人并不愿為人所知的信息，作為研判和預(yù)測個體行為的依據(jù)，這些數(shù)據(jù)間的比對和碰撞在警務(wù)人員面前一覽無余。警用人工智能廣泛進行的數(shù)據(jù)分析畫像和精準(zhǔn)防控已經(jīng)揭開了傳統(tǒng)隱私空間的面紗。

3）倫理爭議：警務(wù)過程監(jiān)管存在歸責(zé)障礙

人工智能快速更新迭代使其深度學(xué)習(xí)能力不斷增強，逐漸實現(xiàn)從信息收集到?jīng)Q定執(zhí)行全過程的自動化、自主化，甚至出現(xiàn)代替警務(wù)人員履職的現(xiàn)象。此時，警用人工智能已經(jīng)從事實上由“工具”轉(zhuǎn)為警務(wù)工作的“主體”，原本身為主體的警務(wù)人員則只能被動的依令行事，隨著人工智能技術(shù)的進步及其應(yīng)用深度的拓展，人類作為警務(wù)活動主體的地位將被削弱，作為警務(wù)法律關(guān)系中的管理及執(zhí)法對象的人類成為客體，人類與人工智能主客體地位反轉(zhuǎn)，人類顯現(xiàn)出“主體客體化”傾向[9]。

然而，當(dāng)警務(wù)過程轉(zhuǎn)由人工智能主導(dǎo)，警務(wù)活動中的責(zé)任事故應(yīng)當(dāng)如何歸責(zé)？在人工智能研判決定下被動行事的警務(wù)人員主觀上并無過錯，由其承擔(dān)責(zé)任則有失公平。而作出決定的人工智能則很難被視為能夠獨立承擔(dān)責(zé)任的主體，其同樣也不具備接受處罰或救濟損失的能力，也不能用警察職業(yè)道德去要求[10]。因此，一旦人工智能主導(dǎo)的智慧警務(wù)過程中出現(xiàn)損失甚至傷亡后果，現(xiàn)有的針對警察執(zhí)法人員過錯的監(jiān)管歸責(zé)機制將無法運用。

4 人工智能之于智慧警務(wù)的優(yōu)化路徑

4.1 堅持警務(wù)人員主體身份，防止關(guān)系異位

就警務(wù)人員而言，應(yīng)當(dāng)強調(diào)人的主體性，始終堅持以人為本的原則，即所有的警用人工智能都應(yīng)當(dāng)為警務(wù)人員服務(wù)，將決定的自主性回歸警務(wù)人員自身，明確人類是采取警務(wù)活動的最終決定者。同時，將人工智能的算法設(shè)計向警務(wù)人員公開，賦予警務(wù)人員了解和質(zhì)疑人工智能的權(quán)利，破除算法黑箱，以警察的職業(yè)倫理矯正警用人工智能可能存在的算法偏見，進而強化警務(wù)人員的主體地位。

就警用人工智能而言，應(yīng)當(dāng)強調(diào)其工具性。明確人工智能介入智慧警務(wù)模式的邊界，即哪些警務(wù)工作可以借助人工智能輔助以及輔助的界限和程度，哪些警務(wù)工作只能由警務(wù)人員自主完成，通過制度設(shè)計明確警用人工智能在智慧警務(wù)中的輔助地位，防止其過度自主化，從而充分發(fā)揮警用人工智能在提高警務(wù)效能方面的積極作用，防止人工智能過度介入導(dǎo)致的技術(shù)異化。

4.2 優(yōu)化人工智能數(shù)據(jù)應(yīng)用，規(guī)避侵權(quán)風(fēng)險

首先，應(yīng)充分發(fā)揮法律法規(guī)的規(guī)制作用。應(yīng)當(dāng)針對人工智能技術(shù)收集處理數(shù)據(jù)的范圍、方式、用途和目的構(gòu)建法律框架，并建立完善的數(shù)據(jù)安全監(jiān)管體系，依托國家強制力確保個人隱私數(shù)據(jù)的安全性。同時以法律形式賦予公民合理的知情權(quán)和參與權(quán)，以規(guī)避信息鴻溝和數(shù)據(jù)獨裁。

其次，應(yīng)當(dāng)制定使用數(shù)據(jù)的標(biāo)準(zhǔn)規(guī)范。建立數(shù)據(jù)合規(guī)性操作標(biāo)準(zhǔn)，明確數(shù)據(jù)使用流程和安全檢驗機制。公安機關(guān)作為數(shù)據(jù)的使用者應(yīng)當(dāng)建立起安全可靠的警用數(shù)據(jù)平臺，設(shè)立數(shù)據(jù)使用守則，使警務(wù)數(shù)據(jù)信息的處理和使用均處于監(jiān)管之下，防止警務(wù)人員濫用、泄露隱私信息。同時設(shè)置信息分類管理標(biāo)準(zhǔn)，劃定信息處理的界線和范圍，避免敏感和隱私信息的非必要收集和處理。

最后，應(yīng)當(dāng)加強數(shù)據(jù)安全保障體系建設(shè)。建設(shè)隱私數(shù)據(jù)保護平臺，采取安全加密技術(shù)、安全存儲等數(shù)據(jù)保護手段，實現(xiàn)數(shù)據(jù)加密、隔離和同步備份，并且采取匿名化或脫敏技術(shù)，對涉及個人隱私的數(shù)據(jù)進行加密處理，防止數(shù)據(jù)泄露，消除個人身份信息、敏感數(shù)據(jù)及其他個人信息的暴露風(fēng)險。

4.3 搭建警務(wù)監(jiān)管制度框架，解決歸責(zé)難題

一方面要建立涵蓋“事前—事中—事后”的全流程監(jiān)管機制，規(guī)避人工智能導(dǎo)致警務(wù)活動責(zé)任事故的風(fēng)險。事前，對警用人工智能設(shè)計企業(yè)進行資質(zhì)審核，同時對警務(wù)人工智能的源代碼和算法設(shè)計進行評估，從源頭上減少警用人工智能偏差的可能。事中，隨時關(guān)注警用人工智能的運行狀況，提高警務(wù)人員的知識水平和應(yīng)用人工智能技術(shù)的能力，以人的主觀能動性保障警務(wù)人工智能的正確運行。事后，要加強事后的評估優(yōu)化，設(shè)置由公安機關(guān)領(lǐng)導(dǎo)、一線警務(wù)人員和技術(shù)專家組成的評估專家組，及時分析研判人工智能介入警務(wù)活動過程中存在的問題，并以此為依據(jù)對人工智能進行優(yōu)化升級，逐漸完善警用人工智能技術(shù)的應(yīng)用。

另一方面，建立可行的歸責(zé)機制。盡管在人工智能所主導(dǎo)的警務(wù)活動中應(yīng)當(dāng)由誰承擔(dān)責(zé)任仍是一個有待商榷的問題，但在公共治理領(lǐng)域，技術(shù)與行政價值的互動，須以責(zé)任明晰為前提[11]，無法歸責(zé)的模糊答案顯然無法回應(yīng)發(fā)生警務(wù)責(zé)任事故后社會公眾的期待。確定的是，公安機關(guān)在應(yīng)用人工智能技術(shù)時理應(yīng)預(yù)見到其可能導(dǎo)致的后果，因此按照誰應(yīng)用誰負責(zé)的原則，由公安機關(guān)對外承擔(dān)責(zé)任在邏輯上是妥當(dāng)?shù)摹Ｔ诔袚?dān)社會責(zé)任后，公安機關(guān)應(yīng)當(dāng)如何在使用者、設(shè)計者之間進行內(nèi)部追責(zé)則需要根據(jù)個案情況進行理性分析。這種擔(dān)責(zé)方式可以確保社會公眾的權(quán)益得到及時妥當(dāng)保障，也符合國家新一代人工智能治理專業(yè)委員會確定的“共擔(dān)責(zé)任”原則。

5 結(jié)語

警務(wù)人工智能的運用一方面能夠促進智慧警務(wù)建設(shè)，使警務(wù)工作適應(yīng)新時代的需要，另一方面也給警務(wù)活動帶來了前所未有的挑戰(zhàn)。需要明確并牢記的是：警用人工智能終究只是警務(wù)人員的輔助和延伸，應(yīng)當(dāng)堅持“人”的主體地位，高揚警務(wù)人員的職業(yè)倫理和主觀能動性，以人的邏輯掌控人工智能而非被其所鉗制，正確發(fā)揮其積極作用，實現(xiàn)人工智能與智慧警務(wù)的充分融合。