人工智能應(yīng)用于“智慧執(zhí)法”中的路徑與規(guī)制

鐘一葦

(貴州財(cái)經(jīng)大學(xué) 法學(xué)院, 貴州 貴陽(yáng) 550025)

一、引言

數(shù)字時(shí)代,人工智能自動(dòng)發(fā)現(xiàn)疑似違法行為的能力正迅速提升。隨著大數(shù)據(jù)技術(shù)的迅猛發(fā)展,先進(jìn)的傳感器技術(shù)、深度學(xué)習(xí)技術(shù)、算法技術(shù)以及網(wǎng)絡(luò)技術(shù),使人工智能系統(tǒng)能夠與執(zhí)法反饋循環(huán)機(jī)制有效結(jié)合起來[1]。相較于傳統(tǒng)執(zhí)法模式耗費(fèi)大量人力物力且賦予執(zhí)法人員自由裁量權(quán)的不確定性,“智慧執(zhí)法”系統(tǒng)不僅能以較低的成本對(duì)違法行為加以懲罰,亦能保證執(zhí)法行為的確定性與公正性,從而為提高執(zhí)法質(zhì)量,為科學(xué)的執(zhí)法決策提供客觀而精準(zhǔn)的依據(jù)。

在國(guó)外,許多以人工智能技術(shù)為基礎(chǔ)的“智慧執(zhí)法”系統(tǒng)已開始應(yīng)用于具體的執(zhí)法活動(dòng)中。如在美國(guó),紐約警方使用的“領(lǐng)域識(shí)別系統(tǒng)”,能夠鏈接并記錄約9 000個(gè)傳感器收集的視頻資料,并通知執(zhí)法人員正在發(fā)生的疑似違法行為[2]。IBM研發(fā)的“交通事故處理系統(tǒng)”,能通過識(shí)別要素,利用指數(shù)、時(shí)間、地點(diǎn)、天氣等來預(yù)測(cè)可能發(fā)生的交通事故,執(zhí)法人員只需在事故高發(fā)的時(shí)段重點(diǎn)巡查,即可減少交通事故。在德國(guó),“屬地型警務(wù)預(yù)測(cè)軟件”依據(jù)數(shù)據(jù)智能分析結(jié)果,通過挖掘某一地區(qū)的違法行為報(bào)告,進(jìn)而預(yù)測(cè)未來可能發(fā)生的同類違法行為[3]。

在我國(guó),自《法治政府建設(shè)實(shí)施綱要(2021—2025年)》提出“積極推進(jìn)智慧執(zhí)法,加強(qiáng)信息化技術(shù)、裝備的配置和應(yīng)用”以來,學(xué)界對(duì)“智慧執(zhí)法”建設(shè)亦作出了富有成效的探討。如在理論方面,雷磊[4]將“智慧執(zhí)法”界定為利用網(wǎng)絡(luò)與人工智能技術(shù)推動(dòng)政府服務(wù)管理信息化,推動(dòng)社會(huì)治理模式創(chuàng)新。具體而言,即將傳感器收集的執(zhí)法信息匯總到執(zhí)法系統(tǒng)中,通過智能化的算法技術(shù),將信息分發(fā)到相應(yīng)的執(zhí)法終端,并由其關(guān)聯(lián)和實(shí)時(shí)處理[5]?！爸腔蹐?zhí)法”的核心問題是如何讓人工智能在執(zhí)法中進(jìn)行自主推理,實(shí)現(xiàn)調(diào)查取證的自動(dòng)化,進(jìn)而達(dá)成處罰決策的自動(dòng)化[6]。在實(shí)踐方面,近年來各地執(zhí)法部門亦開啟了“智慧執(zhí)法”應(yīng)用的建設(shè)之路:如北京“規(guī)劃和自然資源領(lǐng)域違法行為信息系統(tǒng)”,通過線上移動(dòng)執(zhí)法APP應(yīng)用,實(shí)現(xiàn)規(guī)劃國(guó)土執(zhí)法業(yè)務(wù)融合[7]。浙江“環(huán)境執(zhí)法通”應(yīng)用將立案、告知、決定、執(zhí)行、結(jié)案設(shè)置為軟件操作程序,實(shí)現(xiàn)案件現(xiàn)場(chǎng)檢查、調(diào)查取證、行政處罰的全過程“云辦理”[8]。貴州“執(zhí)法司法辦案平臺(tái)”則以業(yè)務(wù)應(yīng)用系統(tǒng)為基礎(chǔ),推出執(zhí)法辦案流程、政法協(xié)同、法律監(jiān)督、智能輔助、職務(wù)犯罪偵查等線上功能[9]。

然而,不管在理論還是實(shí)踐中,現(xiàn)有的大多數(shù)研究仍集中于對(duì)“智慧執(zhí)法”概念與發(fā)展趨勢(shì)的探討,或聚焦于對(duì)各地執(zhí)法機(jī)關(guān)實(shí)踐應(yīng)用的梳理與總結(jié)[10]。不僅忽略了對(duì)“智慧執(zhí)法”建設(shè)中具體路徑的分析,亦鮮有論文專門對(duì)“智慧執(zhí)法”可能面臨的風(fēng)險(xiǎn)及如何規(guī)制進(jìn)行論證。因此,在世界各國(guó)都在努力通過人工智能技術(shù)提高其視覺、聽覺、嗅覺及記憶能力,使其執(zhí)法行為變得更加“智慧”的背景下,本文試圖在積極的立場(chǎng)上論證我國(guó)人工智能應(yīng)用于“智慧執(zhí)法”的三層次路徑,并對(duì)“智慧執(zhí)法”在運(yùn)行過程中存在的兩大隱憂——算法黑箱與被執(zhí)法人信息保護(hù)問題進(jìn)行分析,從技術(shù)、程序與實(shí)體3個(gè)層面探尋對(duì)應(yīng)規(guī)制之策,從而使“智慧執(zhí)法”應(yīng)用真正成為治理違法行為,保護(hù)公眾權(quán)利的利器。

二、人工智能應(yīng)用于“智慧執(zhí)法”中的建設(shè)路徑

(一)“智慧執(zhí)法”建設(shè)的具體路徑

1.執(zhí)法監(jiān)測(cè)系統(tǒng):違法信息自動(dòng)收集

“智慧執(zhí)法”應(yīng)用的主要目標(biāo)是通過人工智能中的數(shù)據(jù)分析、深度學(xué)習(xí)、自動(dòng)化等技術(shù),輔助執(zhí)法人員形成科學(xué)的執(zhí)法決策,幫助其減輕負(fù)擔(dān)、提高效率,進(jìn)而解決各類社會(huì)問題。其首要功能是以較低的成本持續(xù)監(jiān)測(cè)可能涉嫌違法的區(qū)域,并通過網(wǎng)絡(luò)化傳感系統(tǒng),對(duì)監(jiān)測(cè)設(shè)備記錄的違法數(shù)據(jù)進(jìn)行收集與保存[11],即利用人工智能技術(shù)對(duì)可能或已經(jīng)發(fā)生的違法信息進(jìn)行公開收集,為執(zhí)法行為的實(shí)施提供依據(jù),并對(duì)可能的違法行為形成“威懾”。根據(jù)執(zhí)法用途,執(zhí)法監(jiān)測(cè)系統(tǒng)主要具有“識(shí)別”“定位”“跟蹤”3種功能:

第一,執(zhí)法的首要環(huán)節(jié)是對(duì)違法人員及其行為進(jìn)行識(shí)別,當(dāng)系統(tǒng)通過傳感器監(jiān)測(cè)到違法行為并將相關(guān)信息連接至數(shù)據(jù)庫(kù)時(shí),即能夠以一定的準(zhǔn)確度通過運(yùn)行算法確定主體身份。例如:在交通執(zhí)法中,車牌讀取器可以精準(zhǔn)識(shí)別牌照,通過查詢機(jī)動(dòng)車記錄數(shù)據(jù)庫(kù)即可以確定車主。在網(wǎng)絡(luò)執(zhí)法中,Web瀏覽器亦能夠被唯一識(shí)別,如某人在某網(wǎng)站發(fā)布違法信息時(shí),可由網(wǎng)站向Web瀏覽器發(fā)送Cookie來唯一識(shí)別瀏覽器,進(jìn)而識(shí)別違法主體。在“智慧執(zhí)法”應(yīng)用中,影像識(shí)別技術(shù)能夠?qū)?zhí)法監(jiān)測(cè)系統(tǒng)收集到的各類影像進(jìn)行精確判斷。通過對(duì)影像信息的預(yù)處理、區(qū)域分割及智能提取,系統(tǒng)就能對(duì)違法主體的信息進(jìn)行精準(zhǔn)篩選。同時(shí),結(jié)合系統(tǒng)的監(jiān)測(cè)數(shù)據(jù),通過建立違法主體活動(dòng)區(qū)域的監(jiān)測(cè)模型,即可鎖定其身份信息并進(jìn)行有效識(shí)別。

第二,在完成對(duì)違法主體行為與身份的識(shí)別后,人工智能能夠?yàn)楸O(jiān)測(cè)系統(tǒng)提供自動(dòng)的且具備高精度的定位機(jī)制。例如:GPS接收器的功能之一即為提供位置信息,攜帶具有GPS定位功能的設(shè)備(如智能手機(jī)、智能導(dǎo)航儀)的人或車輛均能夠被精準(zhǔn)定位。又如射頻識(shí)別標(biāo)簽(RFID tag)收集的信息亦可在幾十米范圍內(nèi)被讀取,通過監(jiān)控相機(jī)指向已知方向來監(jiān)測(cè)被關(guān)注的主體,并精確定位主體的位置。在“智慧執(zhí)法”應(yīng)用中,地域管控監(jiān)測(cè)系統(tǒng)則能夠利用矢量數(shù)據(jù),實(shí)現(xiàn)對(duì)行為人的定位,并評(píng)判出監(jiān)測(cè)區(qū)域的各類違法情況:對(duì)于可能的違法行為,可利用收集到的歷史數(shù)據(jù)與實(shí)時(shí)數(shù)據(jù),通過相關(guān)分析、聚類分析、回歸分析等方式,分析其可能發(fā)生的時(shí)間、區(qū)域、頻率及變化趨勢(shì);對(duì)于已經(jīng)發(fā)生的違法行為,則可利用區(qū)域衛(wèi)星監(jiān)測(cè)圖、衛(wèi)片對(duì)比影像圖等數(shù)據(jù),核實(shí)某一違法行為在何時(shí)何地發(fā)生,并篩選出同一類型的違法線索。

第三,對(duì)于一系列定位信息的記錄,系統(tǒng)會(huì)產(chǎn)生疑似違法人員移動(dòng)的軌跡和路徑。由此,系統(tǒng)即可對(duì)疑似違法人員加以追蹤,以防止可能的違法行為,并對(duì)已經(jīng)產(chǎn)生的違法行為進(jìn)行處罰。例如:電子收費(fèi)系統(tǒng)能夠記錄相應(yīng)車輛進(jìn)出高速公路的時(shí)間和地點(diǎn)數(shù)據(jù),交通監(jiān)控?cái)z像機(jī)亦可以對(duì)監(jiān)測(cè)區(qū)域內(nèi)部和周邊的道路進(jìn)行常規(guī)性監(jiān)控。在“智慧執(zhí)法”應(yīng)用中,視頻監(jiān)控與可視化技術(shù)則能夠輔助執(zhí)法人員對(duì)違法行為進(jìn)行追蹤。通過從視頻監(jiān)控?cái)?shù)據(jù)平臺(tái)讀取視頻數(shù)據(jù)流,按執(zhí)法需求對(duì)視頻內(nèi)容進(jìn)行實(shí)時(shí)分析,并對(duì)分析出的數(shù)據(jù)流中的異常情況進(jìn)行預(yù)警。而可視化技術(shù)則用于幫助執(zhí)法人員直觀地看到分析結(jié)果,以解決傳統(tǒng)執(zhí)法模式中無法從大量數(shù)據(jù)中精準(zhǔn)識(shí)別目標(biāo)信息的困境。通過可視化技術(shù),執(zhí)法人員能夠迅速篩選出與違法行為相關(guān)的數(shù)據(jù)流,以實(shí)現(xiàn)對(duì)違法行為的直接追蹤。

2.信息處理系統(tǒng):違法數(shù)據(jù)自動(dòng)分析

“智慧執(zhí)法”應(yīng)用的一個(gè)重要特征,是能夠以遠(yuǎn)超人類計(jì)算能力的速度處理信息。相比于傳統(tǒng)執(zhí)法模式,“智慧執(zhí)法”系統(tǒng)通過對(duì)違法主體與行為的定位、追蹤與識(shí)別,能夠快速聚合若干傳感器收集的數(shù)據(jù),以形成一個(gè)對(duì)違法主體活動(dòng)更為全面的認(rèn)識(shí)[12]。更為重要的是,這種數(shù)據(jù)聚合可將系統(tǒng)收集的不同時(shí)間、不同地理位置、不同來源的數(shù)據(jù)結(jié)合起來,并利用深度分析技術(shù),對(duì)可能或已經(jīng)發(fā)生的違法行為進(jìn)行預(yù)測(cè)與事后分析。

第一,預(yù)測(cè)分析,其主要作用是利用收集到的時(shí)間、位置、身份信息等聚合數(shù)據(jù),結(jié)合執(zhí)法系統(tǒng)的智能分析結(jié)果,對(duì)可能出現(xiàn)的違法行為進(jìn)行預(yù)測(cè)并加以防范[13]。目前,已有很多系統(tǒng)軟件能夠?qū)崿F(xiàn)該功能,如PredPol系統(tǒng)能夠通過已有的違法類型、違法地點(diǎn)、違法時(shí)間等載體信息來預(yù)測(cè)未來可能的違法行為。Beware軟件以個(gè)人的交易數(shù)據(jù)、社交媒體信息、公共行為記錄為基礎(chǔ),對(duì)個(gè)人行為進(jìn)行評(píng)估并劃分等級(jí),使執(zhí)法人員能夠以此為依據(jù)對(duì)相關(guān)人員進(jìn)行調(diào)查[14]。而HunchLab模型則可將各種物理情境、社會(huì)環(huán)境、個(gè)體行為等不同因素賦予不同的風(fēng)險(xiǎn)權(quán)重,并結(jié)合不同的違法行為類型,形成統(tǒng)一的違法分布圖,通過風(fēng)險(xiǎn)的疊加與分配提煉最有可能出現(xiàn)違法的區(qū)域,為合理調(diào)配執(zhí)法力量提供參考[15]。

第二,事后分析,其主要作用在于通過對(duì)已發(fā)生的違法事件的智能分析,將收集并保存的信息作為證據(jù),為執(zhí)法行為的合法性提供相關(guān)依據(jù);同時(shí),亦可對(duì)違法行為的原因進(jìn)行分析,并對(duì)相應(yīng)的執(zhí)法措施進(jìn)行評(píng)價(jià),形成可定量分析的案例,從而為后續(xù)更準(zhǔn)確的預(yù)測(cè)與執(zhí)法響應(yīng)提供支持。以違停執(zhí)法為例,過去一名執(zhí)法人員可能需要花費(fèi)大量時(shí)間來確定車輛是否違停并開具罰單,而“智慧執(zhí)法”系統(tǒng)則能同時(shí)監(jiān)測(cè)大量車輛,且在毫秒內(nèi)完成分析并作出處罰決定。正如Glasson[16]所言:“那些結(jié)合新興人工智能技術(shù)、傳感技術(shù)以及數(shù)據(jù)挖掘技術(shù)的智慧執(zhí)法系統(tǒng),意味著未來的執(zhí)法活動(dòng)能夠?qū)V泛且不斷擴(kuò)大的違法主體列為目標(biāo)并予以審查及處罰,處理事務(wù)的時(shí)間不斷縮減,且沒有潛在的人為干預(yù)?！?/p>

3.執(zhí)法應(yīng)用系統(tǒng):執(zhí)法措施自動(dòng)采取

以人工智能為基礎(chǔ)的“智慧執(zhí)法”應(yīng)用的原理與邏輯是:數(shù)據(jù)收集→數(shù)據(jù)分析→數(shù)據(jù)預(yù)測(cè)與應(yīng)用,在對(duì)傳感器監(jiān)測(cè)到的數(shù)據(jù)進(jìn)行收集與分析后,系統(tǒng)即可根據(jù)具體的違法情況自動(dòng)采取相應(yīng)的執(zhí)法措施,主要包括:取證(如監(jiān)測(cè)設(shè)備對(duì)違法行為的錄音錄像)、通知(如發(fā)送信息告知違法主體的違法行為)、警告(如通過手機(jī)APP向使用者列明哪些行為可能導(dǎo)致違法)、處罰(根據(jù)法律規(guī)定自動(dòng)采取相應(yīng)處罰措施)等。以公共交通執(zhí)法為例,“智慧執(zhí)法”的應(yīng)用場(chǎng)景為:

第一,數(shù)據(jù)收集:通過在街道和高速等道路網(wǎng)絡(luò)設(shè)置的傳感器與監(jiān)控設(shè)備,收集海量的道路交通信息,如車流信息、車速信息、時(shí)間信息、位置信息、車輛行駛軌跡信息等。第二,數(shù)據(jù)分析:對(duì)收集到的海量數(shù)據(jù)進(jìn)行智能分析,如某時(shí)段某區(qū)域車流量大,交通擁堵,車輛違法頻率高;某高速道路某時(shí)段超速現(xiàn)象頻發(fā);某時(shí)某刻駕駛員更傾向于行駛至某條道路,以逃避酒駕審查等。第三,數(shù)據(jù)預(yù)測(cè)與應(yīng)用:通過分析后的脫敏數(shù)據(jù),對(duì)違法行為進(jìn)行處置。事前數(shù)據(jù)預(yù)測(cè):通過智慧執(zhí)法系統(tǒng)或授權(quán)第三方,提示駕駛員該路段為違章或超速多發(fā)區(qū),告知其若違法將承擔(dān)相應(yīng)的法律后果;提前至酒駕高發(fā)區(qū)域布置執(zhí)法人員,查處可能的酒駕行為。事后數(shù)據(jù)應(yīng)用:監(jiān)測(cè)到駕駛員違法行駛時(shí)由系統(tǒng)自動(dòng)開具罰單;若違法主體提出異議,則轉(zhuǎn)換為人工審查,公布審查結(jié)果,并告知其權(quán)利救濟(jì)的手段(如向執(zhí)法機(jī)關(guān)提出復(fù)議或向司法機(jī)關(guān)起訴)。

圖1 “智慧執(zhí)法”應(yīng)用的工作流程

(二)“智慧執(zhí)法”運(yùn)行中面臨的風(fēng)險(xiǎn)

1.技術(shù)風(fēng)險(xiǎn):算法的黑箱困境

黑箱困境是指在利用人工智能分析數(shù)據(jù)時(shí),工作人員只是輸入指令然后得到系統(tǒng)的輸出結(jié)果,而并不了解其內(nèi)部運(yùn)作機(jī)制,即系統(tǒng)的整個(gè)運(yùn)算過程是不透明的[17]。在傳統(tǒng)的執(zhí)法模式中,執(zhí)法決定需要進(jìn)行充分的說理和論證以便公眾理解,但以人工智能為基礎(chǔ)的智慧執(zhí)法系統(tǒng)卻并不如此運(yùn)作,普通人往往很難理解算法的機(jī)制和原理,因?yàn)樽詣?dòng)化決策通常是在“黑箱”中作出的。公眾對(duì)執(zhí)法決定的信任是建立在透明的基礎(chǔ)上,但如果算法保持“神秘”,在本質(zhì)上即與執(zhí)法的“公開”屬性存在沖突。算法確定性與執(zhí)法靈活性的區(qū)別正如規(guī)則與標(biāo)準(zhǔn)之間的區(qū)別:規(guī)則是事先設(shè)計(jì)和確定的法律要求,易于理解和執(zhí)行,但缺乏靈活性;標(biāo)準(zhǔn)是與事實(shí)相關(guān)的指向,往往由執(zhí)法機(jī)構(gòu)事后依據(jù)案件事實(shí)決定,具有靈活性,卻缺乏可預(yù)見性和確定性[18]。因此,系統(tǒng)依據(jù)事先設(shè)計(jì)的確定程序所作出的執(zhí)法決策可能并不適用于具體且靈活的案件事實(shí)。由此引發(fā)的問題是:

第一,執(zhí)法人員無法理解系統(tǒng)為什么會(huì)作出這個(gè)決策?！爸腔蹐?zhí)法”系統(tǒng)雖能夠在并不為人知的深度和細(xì)節(jié)上判斷違法主體的傾向、特征和意圖,并以此為依據(jù)預(yù)測(cè)違法主體未來的行為,但也會(huì)未經(jīng)反思地使用收集到的數(shù)據(jù)。這些數(shù)據(jù)或缺失了原有的語(yǔ)境,或不能反映最新的事態(tài),而若系統(tǒng)基于上述數(shù)據(jù)作出決策,則很可能讓人無法理解作出這些決策的過程和原因。正如有學(xué)者所言:“在使用算法的情況下,即使參與創(chuàng)建算法的設(shè)計(jì)者對(duì)被深度學(xué)習(xí)修改后的程序也不甚了解?？朔詣?dòng)執(zhí)法系統(tǒng)的黑箱特性,需要高水平的專業(yè)知識(shí)和使用復(fù)雜的程序,其障礙是巨大的?！盵19]

第二,若被執(zhí)法人對(duì)決策有疑問或反對(duì),執(zhí)法機(jī)構(gòu)亦無法很好地對(duì)作出該決策的理由和依據(jù)進(jìn)行解釋。當(dāng)一位公民的行為因執(zhí)法系統(tǒng)的決策而被判定為違法時(shí),其并不了解系統(tǒng)作出該決策的依據(jù),亦看不到判定其行為為何違法的全過程。而執(zhí)法人員并非程序的設(shè)計(jì)者,不僅無法解釋系統(tǒng)作出的執(zhí)法行為的成因,也無法提供審查所需要的依據(jù)和相關(guān)解釋說明。“一些地方的智慧治理加劇了城市的兩極分化和社會(huì)隔閡,并產(chǎn)生了由技術(shù)官僚化帶來的計(jì)算機(jī)官僚主義為城市設(shè)置的新道德秩序?！盵20]因此,若系統(tǒng)作出的執(zhí)法決策既難以解釋又不公開透明,那么執(zhí)法機(jī)構(gòu)制定規(guī)則的權(quán)力與責(zé)任便會(huì)受到質(zhì)疑,執(zhí)法行為的透明度及準(zhǔn)確性亦會(huì)丟失。

2.法律風(fēng)險(xiǎn):被執(zhí)法人信息的違法收集

“智慧執(zhí)法”應(yīng)用的基礎(chǔ)在于對(duì)公民行為信息廣泛地自動(dòng)收集與使用。而每一個(gè)執(zhí)法系統(tǒng)又需要不同的組織來設(shè)計(jì)、安裝、操作、運(yùn)行和執(zhí)行,一旦這些個(gè)人信息通過數(shù)據(jù)網(wǎng)絡(luò)連接至系統(tǒng),電腦內(nèi)的軟件即會(huì)通過運(yùn)行算法來自動(dòng)確定即將或已經(jīng)發(fā)生的違法行為。但問題的關(guān)鍵在于,系統(tǒng)在收集和使用信息時(shí),并不會(huì)自動(dòng)判斷其目的與手段是否合法正當(dāng),亦無法區(qū)分其采集的個(gè)人信息哪些是合法的、哪些是違法的。

盡管執(zhí)法決策是執(zhí)法機(jī)關(guān)依職權(quán)作出的行為,實(shí)際上是執(zhí)法機(jī)關(guān)履行公權(quán)力的“副產(chǎn)品”。我們并不能認(rèn)為執(zhí)法機(jī)構(gòu)只要是在履職過程中即可以隨意收集公共數(shù)據(jù)并以此為依據(jù)作出執(zhí)法決策,且不受任何約束和限制。根據(jù)法治的基本精神與理念,個(gè)人信息的保護(hù)應(yīng)始終伴隨著對(duì)公權(quán)力的限制,執(zhí)法機(jī)構(gòu)不能無節(jié)制地采集和利用個(gè)人信息。因此,法律應(yīng)對(duì)執(zhí)法者收集、處理和利用公民個(gè)人信息的能力進(jìn)行限制,以確保公權(quán)力不被濫用;同時(shí),亦應(yīng)采取必要措施,保障個(gè)人信息的安全。

可見,由智能系統(tǒng)取代人工進(jìn)行自動(dòng)執(zhí)法,乍看似乎是一個(gè)節(jié)約成本的實(shí)用方法,但在推進(jìn)“法治中國(guó)”建設(shè)的今天,執(zhí)法活動(dòng)應(yīng)是社會(huì)共同體的延伸以及公眾自發(fā)遵從的結(jié)果,而非對(duì)于執(zhí)法系統(tǒng)的“恐懼”。若任由“智慧執(zhí)法”系統(tǒng)無節(jié)制地收集和利用個(gè)人信息,其引發(fā)對(duì)被執(zhí)法人權(quán)利的損害,很可能會(huì)抵消為提高執(zhí)法效率而帶來的收益。因此,如何通過法律手段來確定執(zhí)法系統(tǒng)收集信息的目的與手段是否合法正當(dāng),如何判斷系統(tǒng)收集的信息哪些屬于合法信息可以使用,哪些屬于違法信息不能使用,這些是當(dāng)前“智慧執(zhí)法”在應(yīng)用過程中亟需解決的問題。

三、完善“智慧執(zhí)法”應(yīng)用的規(guī)制途徑

(一)技術(shù)層面:優(yōu)化算法的透明度

1.增強(qiáng)算法的可解釋性

對(duì)于“智慧執(zhí)法”應(yīng)用中算法的“黑箱困境”,可針對(duì)不同的執(zhí)法場(chǎng)景,采取不同的解釋模型與方法,以增強(qiáng)系統(tǒng)在決策過程中的可解釋性。

第一,對(duì)于執(zhí)法場(chǎng)景較為簡(jiǎn)單的案件,如治安、交通執(zhí)法等,可采用“自解釋模型”。該模型本身是可解釋的,即對(duì)于已完成訓(xùn)練的模型,無需額外信息即可理解其決策過程與依據(jù)。自解釋模型主要包括邏輯回歸、線性模型、貝葉斯決策列表等,這些方法均可使觀察者能夠測(cè)試系統(tǒng)中機(jī)器訓(xùn)練與深度學(xué)習(xí)的可靠性,以確定是否可以信任該模型?！霸鰪?qiáng)人工智能的可解釋性意味著開發(fā)分析工具,使系統(tǒng)具備觀察和分析自身操作的能力,從而識(shí)別因果決定因素,并以人類可理解的方式予以呈現(xiàn)?！盵21]例如:谷歌推出的“模型卡片”,通過為算法提供簡(jiǎn)明易懂的可視化解釋文檔,對(duì)算法的運(yùn)作原理進(jìn)行解釋。該模型能夠清晰地展現(xiàn)犯罪預(yù)測(cè)系統(tǒng)識(shí)別人臉時(shí)的運(yùn)作機(jī)制與考量要素,顯現(xiàn)其是否存在算法偏見或歧視[22]。又如IBM研發(fā)的“AI事實(shí)清單”機(jī)制,通過對(duì)人工智能模型用途、指標(biāo)、影響因素、訓(xùn)練數(shù)據(jù)、警告與建議等方面的解釋說明,使執(zhí)法者能夠更好地理解AI模型[23]。

第二,對(duì)于執(zhí)法場(chǎng)景較為復(fù)雜的案件,如網(wǎng)絡(luò)執(zhí)法、環(huán)境執(zhí)法等,則可采用“獨(dú)立于模型的解釋”。該方法將解釋過程與機(jī)器學(xué)習(xí)模型分離,主要依靠分析特征的輸入與輸出,而不關(guān)注模型的內(nèi)部細(xì)節(jié)。其優(yōu)點(diǎn)是松耦合,解釋時(shí)能夠替換底層學(xué)習(xí)模型,具有解釋靈活性,主要包括部分依賴圖(PDP)、個(gè)體條件期望(ICE)、累積局部效應(yīng)(ALE)等[24]。如在網(wǎng)絡(luò)執(zhí)法中,即可采用PDP解釋方法,該方法能夠描述“特征(表示為被執(zhí)法人在網(wǎng)絡(luò)中的具體行為)”是如何影響模型預(yù)測(cè)的,并解釋“特征”和“標(biāo)簽(表示為判定行為是否違法的標(biāo)準(zhǔn))”之間是否相關(guān)。其解釋流程為:將預(yù)測(cè)完成的某個(gè)違法“特征”進(jìn)行展示,利用訓(xùn)練模型將“特征”與“標(biāo)簽”進(jìn)行比對(duì),通過繪制PDP圖,解釋兩者是否相符、是否具有線性相關(guān)性。而在環(huán)境執(zhí)法中,則可采用ICE解釋方法,該方法能夠解釋“個(gè)體(表示被執(zhí)法人)”的預(yù)測(cè)值與“變量(表示為行為是否導(dǎo)致環(huán)境違法的范圍)”之間的關(guān)系。其解釋流程為:對(duì)某一“個(gè)體”,隨機(jī)置換選定的特征“變量”的取值,繪制“個(gè)體”與特征“變量”的ICE關(guān)系圖,通過可視化方式對(duì)“個(gè)體”的行為是否超出了“變量”的限度進(jìn)行解釋。

第三,對(duì)于稅務(wù)執(zhí)法等針對(duì)特定對(duì)象的現(xiàn)場(chǎng)執(zhí)法案件,則可采用“反解釋方法”。即在不打開“黑箱”的情況下提供反事實(shí)的推理解釋,其原理為:某人顯示一個(gè)Xi的特征,對(duì)其進(jìn)行反事實(shí)推理解釋的模型則為“因?yàn)槟愕奶卣魇荴i,所以生成的結(jié)果是Y;而如果展現(xiàn)的特征是非Xi(-Xi),那么則會(huì)生成結(jié)果-Y”[25]。將該解釋方法應(yīng)用到“智慧執(zhí)法”系統(tǒng)中,即為對(duì)執(zhí)法的負(fù)面結(jié)果做一張“正面清單”。例如:某納稅人在申請(qǐng)退稅時(shí)被執(zhí)法系統(tǒng)拒絕,即會(huì)收到系統(tǒng)發(fā)出一份反事實(shí)的表格,表明還需要提供哪些必需的信息或修改哪些資料才能申請(qǐng)退稅成功。由于該解釋是基于“反事實(shí)”的假設(shè)展示了一個(gè)具體可代替的未來,且對(duì)于被執(zhí)法人來說具有較高的可理解性,因此在執(zhí)法實(shí)踐中,亦可能會(huì)提高被執(zhí)法人改變自己的行為或減少對(duì)負(fù)面執(zhí)法決定提出異議的幾率。

2.推進(jìn)算法的全過程公開參與

在“智慧執(zhí)法”應(yīng)用的運(yùn)行過程中,若將絕對(duì)透明視為算法解釋的標(biāo)準(zhǔn),難免過于苛刻,就效果而言,亦未必能良好地維護(hù)公眾的權(quán)益。因此,在不能保證算法完全透明或具有極高解釋性的情況下,執(zhí)法機(jī)構(gòu)要對(duì)系統(tǒng)運(yùn)行的機(jī)制與原理予以披露,并賦予被執(zhí)行者申請(qǐng)解釋的權(quán)利。

一方面,執(zhí)法機(jī)構(gòu)應(yīng)對(duì)“智慧執(zhí)法”系統(tǒng)算法予以披露與公布。首先,其有責(zé)任和義務(wù)告知公眾“智慧執(zhí)法”系統(tǒng)的存在,并披露與系統(tǒng)相連接的執(zhí)法設(shè)備在何時(shí)、何地及哪些領(lǐng)域(如交通、稅務(wù)、環(huán)境、網(wǎng)絡(luò)等)已準(zhǔn)備或開始應(yīng)用。披露的內(nèi)容則應(yīng)包括目的、范圍、數(shù)據(jù)來源、做法及實(shí)施時(shí)間表等詳細(xì)信息。例如:2017年,紐約立法當(dāng)局責(zé)成“使用算法自動(dòng)處理數(shù)據(jù)系統(tǒng),對(duì)個(gè)人進(jìn)行執(zhí)法并施加處罰”的公共機(jī)構(gòu)應(yīng)當(dāng)“在該機(jī)構(gòu)的網(wǎng)站上發(fā)布該系統(tǒng)的源代碼”。2018年,德國(guó)國(guó)家司法部長(zhǎng)會(huì)議建議履行向公眾通報(bào)使用自動(dòng)化決策系統(tǒng)情況的一般職責(zé),立法強(qiáng)制使用自動(dòng)化決策的公共部門必須發(fā)布系統(tǒng)的“邏輯”“權(quán)重”以及管理人員的專業(yè)程度等信息;其次,執(zhí)法機(jī)構(gòu)應(yīng)將“智慧執(zhí)法”系統(tǒng)的相關(guān)信息予以公布,以使公眾能夠了解系統(tǒng)的運(yùn)行原理與執(zhí)法方式,為公民被執(zhí)法后的權(quán)利救濟(jì)及上級(jí)機(jī)構(gòu)的監(jiān)督提供依據(jù)與保障。公布的信息則應(yīng)包括:系統(tǒng)的基礎(chǔ)數(shù)據(jù)、模型和決策邏輯、執(zhí)法系統(tǒng)的數(shù)據(jù)標(biāo)準(zhǔn)、系統(tǒng)的參考或配置文件、系統(tǒng)針對(duì)有關(guān)個(gè)人作出的執(zhí)法決策的判斷標(biāo)準(zhǔn)等。

另一方面,應(yīng)賦予被執(zhí)法人獲得人工解釋的權(quán)利。由于算法的確定性和非精準(zhǔn)決策無法涵蓋所有可能落入合理使用范疇的情形,亦無法對(duì)較為復(fù)雜的情形作出準(zhǔn)確判斷,因此,若被執(zhí)法人就算法提出異議或申訴,應(yīng)在算法審查標(biāo)記為不確定的情況下,進(jìn)行人工解釋[26]。對(duì)此,丁曉東[27]指出:“當(dāng)個(gè)人提出算法解釋權(quán)的主張時(shí),自動(dòng)化決策者應(yīng)通過人工服務(wù)的方式解釋算法的運(yùn)行機(jī)制?！睂I(yè)高效的人工解釋更有利于信任的建立,對(duì)于一些造成重大社會(huì)影響的算法,人工解釋應(yīng)成為兜底性要求和保障,以便公眾對(duì)算法應(yīng)用主體進(jìn)行監(jiān)督。由此,在執(zhí)法的參與層面,應(yīng)賦予被執(zhí)法人相應(yīng)的程序性權(quán)利:一為算法的參與權(quán),執(zhí)法機(jī)構(gòu)可通過便捷、可視化的操作流程,實(shí)時(shí)向公眾展示對(duì)執(zhí)法系統(tǒng)算法的解釋信息,并對(duì)其疑問進(jìn)行回應(yīng);二為算法解釋的申請(qǐng)權(quán),當(dāng)被執(zhí)法人不信任對(duì)其造成不利后果的算法時(shí),有權(quán)向執(zhí)法機(jī)構(gòu)申請(qǐng)啟動(dòng)算法的人工解釋程序[28]。

(二)程序?qū)用?保證系統(tǒng)執(zhí)法決策的正當(dāng)性

1.目的合法:明確執(zhí)法信息的使用目的

在“智慧執(zhí)法”系統(tǒng)自動(dòng)作出執(zhí)法決策的過程中,如何確保被執(zhí)法人的合法權(quán)利不受侵犯,關(guān)乎“智慧執(zhí)法”應(yīng)用的合法性基礎(chǔ)與實(shí)施前景。因此,行使國(guó)家的賦權(quán)責(zé)任,需要在程序?qū)用鎸?duì)智慧執(zhí)法系統(tǒng)的目標(biāo)和理念予以規(guī)制,也即系統(tǒng)在行使執(zhí)法權(quán)力時(shí),必須有明確的目的并經(jīng)合法程序,才能收集和使用個(gè)人信息。有學(xué)者對(duì)人工智能在執(zhí)法過程中應(yīng)遵守的義務(wù)進(jìn)行了闡述:(1)揭示系統(tǒng)的規(guī)制作用;(2)保護(hù)與使用系統(tǒng)有關(guān)數(shù)據(jù)和信息的安全;(3)保證與使用系統(tǒng)有關(guān)的透明度;(4)明確與使用系統(tǒng)有關(guān)的責(zé)任和義務(wù)[29]。

目的合法是“智慧執(zhí)法”應(yīng)采取的首要原則,即系統(tǒng)對(duì)個(gè)人信息的利用應(yīng)具有明確和特定的目的和用途,且應(yīng)在法律規(guī)定的目的和用途范圍內(nèi)收集與使用數(shù)據(jù)。具體而言,明確執(zhí)法目的的合法性應(yīng)主要包括如下3個(gè)方面:(1)數(shù)據(jù)處理的目的必須是明確的,并具有結(jié)果的可預(yù)見性,不能是一個(gè)寬泛而抽象的目的(如國(guó)家安全、公共利益等)。(2)數(shù)據(jù)處理的目的不得以侵犯公民的基本權(quán)利為代價(jià),不能侵犯商業(yè)秘密和個(gè)人隱私。(3)數(shù)據(jù)處理的目的應(yīng)符合形式標(biāo)準(zhǔn)。即若個(gè)人信息的收集或使用可能對(duì)數(shù)據(jù)主體的權(quán)利造成不利影響,應(yīng)給予其質(zhì)疑、表達(dá)意見與尋求司法救濟(jì)的機(jī)會(huì)和權(quán)利。

2.手段正當(dāng):明示執(zhí)法信息的處理規(guī)則

除目的合法外,“智慧執(zhí)法”應(yīng)用的手段亦應(yīng)是正當(dāng)?shù)?即要求執(zhí)法機(jī)構(gòu)必須明示收集信息的范圍與方式,并在執(zhí)法中盡到告示、說明和警示義務(wù)。具體而言,要求執(zhí)法主體審查數(shù)據(jù)處理所選擇的手段是否足以實(shí)現(xiàn)預(yù)定的目的:(1)執(zhí)法數(shù)據(jù)處理的手段,包括收集、存儲(chǔ)、記錄、使用、恢復(fù)、刪除等全周期,均應(yīng)有明確的程序并予以公開。(2)執(zhí)法系統(tǒng)擬采取的手段,亦應(yīng)與數(shù)據(jù)處理可能給數(shù)據(jù)主體權(quán)利造成損害的范圍、程度和性質(zhì)相適應(yīng)。

由此,應(yīng)從事前、事中、事后3個(gè)環(huán)節(jié)對(duì)執(zhí)法系統(tǒng)收集和使用個(gè)人信息的自動(dòng)決策機(jī)制進(jìn)行規(guī)制:首先,在執(zhí)法前,公開執(zhí)法信息的收集使用規(guī)則,明確信息安全評(píng)估程序;其次,在執(zhí)法時(shí),對(duì)收集到的信息進(jìn)行再審查,判斷系統(tǒng)使用信息的手段是否正當(dāng)、執(zhí)法結(jié)果與對(duì)被執(zhí)法主體造成的損失是否相適應(yīng);最后,在執(zhí)法完成后,向被執(zhí)法主體提供針對(duì)自動(dòng)決策結(jié)果的救濟(jì)渠道與人工復(fù)核。

(三)實(shí)體層面:規(guī)范執(zhí)法系統(tǒng)對(duì)信息的收集與使用

1.信息自決:強(qiáng)化個(gè)人敏感信息的保護(hù)

在保證執(zhí)法目的與手段合法正當(dāng)?shù)幕A(chǔ)上,“智慧執(zhí)法”應(yīng)用還須解決的問題是:被執(zhí)法主體的哪些信息是合法的,可以收集使用?哪些信息是不合法的,不能收集使用?目前,我國(guó)法律對(duì)個(gè)人信息的收集與使用遵循“授權(quán)原則”，即數(shù)據(jù)主體基于具體的目的而對(duì)處理其個(gè)人數(shù)據(jù)的行為表示同意。其理論基礎(chǔ)來源于“信息自決權(quán)”,即“保護(hù)個(gè)人數(shù)據(jù)不被無限制地提取、存儲(chǔ)、使用和繼續(xù)傳輸,保障個(gè)人有權(quán)自我決定、透露或使用其個(gè)人數(shù)據(jù)的權(quán)利”。根據(jù)上述要旨,公民擁有對(duì)其個(gè)人數(shù)據(jù)自決處理的權(quán)利,司法與執(zhí)法的任務(wù)在于保障公民的信息權(quán)不受來自國(guó)家公權(quán)力的侵害。因此,為劃定“合法”與“違法”信息的界限,明確哪些信息在執(zhí)法活動(dòng)中“能夠”或“不能”被收集使用,筆者認(rèn)為對(duì)于個(gè)人敏感信息,應(yīng)遵循“信息自決”原則,對(duì)“智慧執(zhí)法”系統(tǒng)認(rèn)定和處理敏感信息的行為進(jìn)行規(guī)制。

目前,我國(guó)《個(gè)人信息保護(hù)法》對(duì)敏感信息的界定采取“概括+列舉”的方式,將其認(rèn)定為“一旦泄露或非法使用,容易導(dǎo)致人格尊嚴(yán)、人身、財(cái)產(chǎn)安全受到侵害的信息”,并列舉了“生物識(shí)別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡、不滿十四周歲未成年人的個(gè)人信息”7種類型。但在具體的執(zhí)法實(shí)踐中,由于敏感信息更多是主觀認(rèn)識(shí),沒有具體的評(píng)價(jià)標(biāo)準(zhǔn),導(dǎo)致系統(tǒng)對(duì)敏感信息的認(rèn)定存在極大困難。在此情況下,較為可行的方法是:首先,細(xì)化敏感信息的類型,使執(zhí)法系統(tǒng)更容易識(shí)別。如生物識(shí)別信息可細(xì)化為遺傳信息、家族病史信息;醫(yī)療健康信息可細(xì)化為病歷材料、體檢資料、醫(yī)療記錄;金融賬戶信息可細(xì)化為財(cái)務(wù)記錄、收入記錄、銀行卡賬號(hào)密碼等。其次,可基于“場(chǎng)景理論”輔助敏感信息的判斷。該理論可對(duì)個(gè)人信息在不同場(chǎng)景的信息要素進(jìn)行評(píng)價(jià):(1)信息主體要素,如不滿14周歲的個(gè)人信息即應(yīng)認(rèn)定為敏感信息;(2)信息處理的身份要素,如醫(yī)生使用患者的醫(yī)療健康信息即不應(yīng)認(rèn)定為敏感信息;(3)信息處理的目的要素,如公民購(gòu)買汽車行為不被視為敏感信息,但若持續(xù)收集其駕駛軌跡、出行規(guī)律等行為,則應(yīng)被認(rèn)定為敏感信息[30]。由此,可根據(jù)被執(zhí)法人的信息要素,制定不同場(chǎng)景中的執(zhí)法模型,進(jìn)行深度學(xué)習(xí)與反復(fù)訓(xùn)練,輔助判斷其是否屬于敏感信息。

在對(duì)個(gè)人敏感信息進(jìn)行認(rèn)定后,執(zhí)法系統(tǒng)還需判斷是否有必要收集和使用該信息。若判斷為“否”,則放棄對(duì)該信息的處理,這是執(zhí)法系統(tǒng)易于做到的;而若判斷為“是”,系統(tǒng)對(duì)敏感信息的處理則須符合法律的規(guī)定。目前,《個(gè)人信息保護(hù)法》規(guī)定了敏感信息處理的條件,即“特定目的”與“充分必要”。首先,“特定目的”要求執(zhí)法行為的目的必須是具體明確且特定化的。其次,“充分”要求執(zhí)法行為只有在理由充分的情形下方能處理,“必要”則要求是否有其他方式可以替代。然而,在當(dāng)前“弱人工智能”局面下,要求系統(tǒng)進(jìn)行如此復(fù)雜的主觀價(jià)值判斷,顯然勉為其難。因此,若系統(tǒng)將被執(zhí)法人的行為認(rèn)定為敏感信息,且判斷確有必要進(jìn)行處理,即應(yīng)告知執(zhí)法人員,由人工判斷該信息是否應(yīng)被收集和使用,以及是否應(yīng)成為執(zhí)行執(zhí)法決策的依據(jù)。

2.利益平衡:推進(jìn)個(gè)人一般信息的利用

在具體的執(zhí)法活動(dòng)中,若完全遵循“信息自決”原則,那么執(zhí)法權(quán)則可能會(huì)失去行使的空間。因此,為保障執(zhí)法活動(dòng)的正常開展,對(duì)于個(gè)人非私密可公開的一般信息,法律應(yīng)授權(quán)執(zhí)法系統(tǒng)合法收集并使用,以兼顧敏感信息保護(hù)與執(zhí)法決策實(shí)施的利益平衡。正如趙宏[31]指出,法律對(duì)信息自決權(quán)的確認(rèn)與保護(hù),并不意味著將這一權(quán)利的絕對(duì)化,“信息自決并非無限,對(duì)于其自身信息,個(gè)人并不具有任何絕對(duì)的控制。個(gè)人是在社會(huì)共同體之下發(fā)展其個(gè)性,即便是個(gè)人信息,亦同樣是社會(huì)事實(shí)的反映,而非純粹與個(gè)人關(guān)聯(lián)”。因此,為了迫切的公共利益,個(gè)人在原則上必須接受對(duì)其信息自決權(quán)的某種限制。

在未來的數(shù)字社會(huì)中,數(shù)據(jù)治理需要兼顧個(gè)人信息的權(quán)利保護(hù)與流動(dòng),并全面促進(jìn)數(shù)據(jù)的利用。例如:《歐盟GDPR合規(guī)指引》制定之目的即解決個(gè)人信息權(quán)利保護(hù)與數(shù)據(jù)流動(dòng)的平衡。該“指引”開宗明義指出:“本條例旨在確立個(gè)人數(shù)據(jù)處理中的自然人保護(hù)和數(shù)據(jù)自由流通的規(guī)范?！币虼?推進(jìn)個(gè)人一般信息的利用,促進(jìn)其公共管理與社會(huì)價(jià)值的發(fā)揮,已成為數(shù)字時(shí)代各國(guó)掌握信息話語(yǔ)權(quán)的必然選擇。在我國(guó),新頒布的《數(shù)據(jù)安全法》即明確鼓勵(lì)數(shù)據(jù)的依法合理有效利用與有序自由流動(dòng),以促進(jìn)數(shù)字經(jīng)濟(jì)和數(shù)字治理的發(fā)展。同時(shí),相關(guān)法律亦規(guī)定了授權(quán)原則的例外,如個(gè)人自行公開或已合法公開、與公共安全或公共利益直接相關(guān)、與刑事判決執(zhí)行直接相關(guān)的信息,無需取得信息主體的同意即可收集。可見,設(shè)計(jì)“智慧執(zhí)法”應(yīng)用的目標(biāo)不僅僅是對(duì)個(gè)人數(shù)據(jù)權(quán)利的保護(hù),更是民眾利益或福利的最大化。正如程嘯[32]所強(qiáng)調(diào):“不能僅僅為了保護(hù)自然人的權(quán)利,無限度擴(kuò)張對(duì)個(gè)人數(shù)據(jù)權(quán)利的保護(hù)邊界,從而妨礙數(shù)據(jù)的流動(dòng)、分享與利用?！币虼?將個(gè)人一般信息納入“智慧執(zhí)法”系統(tǒng)合法收集并使用的范圍,能夠保證執(zhí)法機(jī)構(gòu)為了公共管理與社會(huì)利益,在不侵犯公民信息自決權(quán)的前提下,最大程度地利用個(gè)人信息。