人工智能參與行政執(zhí)法的風(fēng)險(xiǎn)與法律規(guī)制

邢 超 趙 凱

東北大學(xué)文法學(xué)院，遼寧 沈陽 110169

作為新一輪科技革命的重要引擎，人工智能越來越成為國家治理能力和治理水平現(xiàn)代化的重要驅(qū)動(dòng)力，在法律與行政領(lǐng)域的應(yīng)用越來越廣泛。由于行政執(zhí)法的廣泛性和普遍性，人工智能在行政領(lǐng)域的應(yīng)用以智能化執(zhí)法最為典型。人工智能技術(shù)的應(yīng)用在優(yōu)化行政執(zhí)法的同時(shí)會(huì)產(chǎn)生一系列風(fēng)險(xiǎn)，如何有效規(guī)制風(fēng)險(xiǎn)成為行政執(zhí)法模式順利轉(zhuǎn)型升級(jí)亟待解決的問題。

一、人工智能參與行政執(zhí)法的技術(shù)基礎(chǔ)

人工智能之所以區(qū)別于其他機(jī)器，就是因?yàn)樗闹悄苄裕軌蛲瓿稍局荒苡扇祟愅瓿傻墓ぷ?。人工智能發(fā)揮作用離不開三個(gè)必備要素：數(shù)據(jù)、算法和算力。

（一）數(shù)據(jù)

數(shù)據(jù)是實(shí)現(xiàn)人工智能的首要因素，也是其他要素發(fā)揮作用的前提。人工智能本質(zhì)上是通過對(duì)海量數(shù)據(jù)的深度學(xué)習(xí)來掌握人類智力活動(dòng)的規(guī)律，從而模擬人類智能進(jìn)行判斷與決策。具體到行政執(zhí)法領(lǐng)域，就是通過“喂食”海量數(shù)據(jù)，讓人工智能深入學(xué)習(xí)現(xiàn)行行政法律法規(guī)、執(zhí)法記錄、案件裁決等，從而將行政執(zhí)法活動(dòng)規(guī)律化、模式化，形成統(tǒng)一的技術(shù)模型應(yīng)用于各種具體情況。

（二）算法

算法是人工智能解決問題的直接手段。如果說數(shù)據(jù)對(duì)應(yīng)輸入的過程，產(chǎn)生的結(jié)果對(duì)應(yīng)輸出的過程，那么算法就是連接輸入與輸出的技術(shù)工具。人工智能算法能夠挖掘人腦思維活動(dòng)的規(guī)律來建立類似的神經(jīng)網(wǎng)絡(luò)，從而模仿人類處理信息的模式進(jìn)行深度學(xué)習(xí)，并在分析數(shù)據(jù)的過程中根據(jù)不同的關(guān)鍵詞自動(dòng)調(diào)整算法參數(shù)，優(yōu)化結(jié)果輸出質(zhì)量。人工智能算法應(yīng)用在行政執(zhí)法中能夠讓執(zhí)法人員從大量重復(fù)性勞動(dòng)中解放出來，促進(jìn)行政執(zhí)法提質(zhì)、降本、增效。

（三）算力

算力是人工智能算法實(shí)現(xiàn)的決定性因素。人工智能算法模型的應(yīng)用需要大量計(jì)算，算力的局限會(huì)導(dǎo)致計(jì)算速度、正確率大打折扣，從而限制算法的實(shí)際效能?！?020—2021中國人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》指出，為了更加實(shí)時(shí)地分析和處理來自終端設(shè)備的海量數(shù)據(jù)并減輕網(wǎng)絡(luò)傳輸?shù)膲毫Γ斯ぶ悄芩懔?huì)逐步向邊緣滲透［1］。這就為人工智能技術(shù)應(yīng)用于具體的行政執(zhí)法場(chǎng)景提供了更加堅(jiān)實(shí)的技術(shù)基礎(chǔ)。

二、人工智能參與行政執(zhí)法的可能性

行政執(zhí)法是一種管理性行為，區(qū)別于行政立法、行政司法、行政協(xié)議等行為。不同的行政執(zhí)法場(chǎng)景具有相同的邏輯環(huán)節(jié)，即都包含收集信息、作出決策和檢查監(jiān)督三個(gè)基本環(huán)節(jié)。人工智能參與行政執(zhí)法也正是在這幾個(gè)環(huán)節(jié)中發(fā)揮作用。

（一）行政執(zhí)法信息收集智能化

傳統(tǒng)的信息收集主要依靠行政主體主動(dòng)獲取和行政相對(duì)人主動(dòng)申報(bào)兩種方式，耗時(shí)耗力還有時(shí)空局限。相比之下，利用人工智能建立自動(dòng)化的信息收集和處理模型，不僅能夠提高信息處理效率和準(zhǔn)確度，還能打破信息壁壘，提高信息利用率。例如在行政處罰活動(dòng)中，可以利用智能攝像頭在執(zhí)法點(diǎn)位自主識(shí)別并拍攝違規(guī)行為，使交管部門實(shí)時(shí)獲得行政處罰的證據(jù)資料。同時(shí)，人工智能可以根據(jù)違規(guī)類型、情節(jié)、出現(xiàn)頻率、處罰程度等標(biāo)準(zhǔn)對(duì)收集到的證據(jù)材料進(jìn)行歸納整理，并建立數(shù)據(jù)庫實(shí)現(xiàn)數(shù)據(jù)共享，從而打破部門之間、行政區(qū)劃之間的信息壁壘，便利數(shù)據(jù)資源的調(diào)用。

（二）行政執(zhí)法決策智能化

根據(jù)人工智能參與行政執(zhí)法決策的自主程度，可以將智能化決策分為半自動(dòng)決策和全自動(dòng)決策。半自動(dòng)決策是指人工智能輔助行政執(zhí)法人員進(jìn)行決策，多應(yīng)用于案情比較復(fù)雜、涉及利害關(guān)系較多的情形。例如在行政處罰的量罰環(huán)節(jié)，主管機(jī)關(guān)作出行政處罰決定時(shí)可以參考人工智能給出的處罰建議，修改補(bǔ)充或直接采納并自動(dòng)生成處罰結(jié)果。全自動(dòng)決策是指人工智能全自動(dòng)決策而無需人工干預(yù)。全自動(dòng)決策一般應(yīng)用于簡單的行政執(zhí)法活動(dòng)，例如在行政審批中，申請(qǐng)人只需登錄服務(wù)系統(tǒng)提交申請(qǐng)材料并進(jìn)行身份驗(yàn)證，后臺(tái)人工智能服務(wù)終端便運(yùn)行預(yù)先設(shè)計(jì)好的算法將獲取的信息與數(shù)據(jù)庫存儲(chǔ)的法律規(guī)范和裁量標(biāo)準(zhǔn)進(jìn)行比對(duì)，幾分鐘之內(nèi)就能自動(dòng)作出決定并通過網(wǎng)絡(luò)實(shí)時(shí)送達(dá)相對(duì)人。

（三）行政執(zhí)法檢查智能化

在行政檢查實(shí)踐中，人工智能技術(shù)被廣泛應(yīng)用于數(shù)據(jù)庫構(gòu)建、風(fēng)險(xiǎn)預(yù)測(cè)和智能監(jiān)管系統(tǒng)的構(gòu)建。以佛山市市場(chǎng)監(jiān)督管理局的智能化檢查實(shí)踐為例，市場(chǎng)監(jiān)管與大數(shù)據(jù)結(jié)合形成的數(shù)據(jù)庫為人工智能的應(yīng)用提供了信息資源；基于人工智能深度學(xué)習(xí)技術(shù)構(gòu)建的風(fēng)險(xiǎn)研判和預(yù)警機(jī)制實(shí)現(xiàn)了精確化、針對(duì)性監(jiān)管；現(xiàn)場(chǎng)檢查與智能識(shí)別相結(jié)合的移動(dòng)監(jiān)管終端系統(tǒng)實(shí)現(xiàn)了檢查情況實(shí)時(shí)錄入、當(dāng)即反饋，監(jiān)管人員只需要在智能匹配的電子化表格中勾選相關(guān)指標(biāo)的檢查結(jié)果即可，不僅使工作效率和準(zhǔn)確率大幅提升，而且節(jié)約了時(shí)間成本和人力成本。

三、人工智能參與行政執(zhí)法的風(fēng)險(xiǎn)

（一）合法性風(fēng)險(xiǎn)

行政執(zhí)法的合法性既包括實(shí)體合法也包括程序合法，體現(xiàn)在法律原則上就是依法行政原則和程序正當(dāng)原則。

1.從實(shí)體上看，決策主體由人向機(jī)器的轉(zhuǎn)變削弱了行政執(zhí)法的合法性根基

人工智能對(duì)行政執(zhí)法活動(dòng)的參與在一定程度上實(shí)現(xiàn)了機(jī)器對(duì)人的替代。只要有足夠的數(shù)據(jù)、預(yù)先設(shè)計(jì)好的算法和足以支持算法運(yùn)行的算力，人工智能即可脫離人類干預(yù)，全自動(dòng)地分析案情并做出決策。人工智能的這種運(yùn)作模式使得由其參與而產(chǎn)生的行政處理決定體現(xiàn)出了“機(jī)器意志”［2］，而“機(jī)器意志”的背后則是人工智能開發(fā)者的意志。讓人不禁懷疑：人工智能參與行政執(zhí)法是否架空了行政機(jī)關(guān)的執(zhí)法權(quán)？到底是行政主體執(zhí)法還是人工智能技術(shù)開發(fā)者執(zhí)法？如何保證“機(jī)器意志”完全契合法律意志？

2.從程序上看，人工智能自動(dòng)決策侵蝕程序正當(dāng)?shù)姆稍瓌t

程序正當(dāng)要求行政機(jī)關(guān)在作出涉及行政相對(duì)人利益的決定前，必須給予行政相對(duì)人陳述、申辯的機(jī)會(huì)，聽取行政相對(duì)人的訴求，并且對(duì)作出的行政決定說明理由［3］。在智能化的執(zhí)法模式下，現(xiàn)實(shí)可見的行政執(zhí)法程序轉(zhuǎn)化為高度隱蔽的后臺(tái)技術(shù)程序，最終輸出的處理結(jié)果是否公平合理則無從得知。在自動(dòng)化行政執(zhí)法模式下，行政程序被大大簡化，相對(duì)人向誰陳述和申辯？聽證程序如何啟動(dòng)？聽證結(jié)果與智能化決策結(jié)果不一致該如何抉擇？由此可見，人工智能參與行政執(zhí)法對(duì)相對(duì)人程序利益的保護(hù)存在許多漏洞。

（二）安全性風(fēng)險(xiǎn)

1.人工智能參與行政執(zhí)法有技術(shù)安全風(fēng)險(xiǎn)

首先，數(shù)據(jù)的真實(shí)性、可靠性直接影響人工智能算法的運(yùn)行結(jié)果。如果數(shù)據(jù)被泄露、篡改，行政執(zhí)法證據(jù)就會(huì)失去真實(shí)性與準(zhǔn)確性。其次，人工智能依賴的算法也存在不穩(wěn)定性，可能出現(xiàn)失靈或被黑客入侵的情形。一旦算法被篡改，其參與的行政執(zhí)法環(huán)節(jié)很可能產(chǎn)生錯(cuò)誤的處理結(jié)果，導(dǎo)致行政相對(duì)人利益受損，行政機(jī)關(guān)公信力下降。

2.人工智能參與行政執(zhí)法有社會(huì)安全風(fēng)險(xiǎn)

這里的社會(huì)安全風(fēng)險(xiǎn)是指人工智能的廣泛應(yīng)用帶來的公眾隱私泄露風(fēng)險(xiǎn)。在人工智能時(shí)代，公眾的隱私信息呈高度暴露狀態(tài)，人工智能極易通過自主學(xué)習(xí)獲取包含個(gè)人隱私的數(shù)據(jù)信息［4］，公民隱私權(quán)受到侵害的風(fēng)險(xiǎn)大大提升。人工智能參與行政執(zhí)法使原本應(yīng)該由政府部門獨(dú)立掌握的隱私信息被迫開放給人工智能技術(shù)開發(fā)公司，因此面臨著被不法利用的風(fēng)險(xiǎn)。

（三）公平性風(fēng)險(xiǎn)

1.人工智能運(yùn)行依賴的原始數(shù)據(jù)不夠中立

人工智能運(yùn)行的基本模式是對(duì)海量數(shù)據(jù)進(jìn)行歸納總結(jié)，通過構(gòu)建算法模型來實(shí)現(xiàn)自動(dòng)化決策。因此，基礎(chǔ)數(shù)據(jù)的真實(shí)性、客觀性、普遍性對(duì)于人工智能運(yùn)行至關(guān)重要，直接影響決策結(jié)果的內(nèi)容和質(zhì)量。數(shù)據(jù)在收集、存儲(chǔ)過程中可能產(chǎn)生瑕疵，原始數(shù)據(jù)自身的片面性也不容忽視。數(shù)據(jù)樣本的選擇缺乏全面性和數(shù)據(jù)樣本存在固有偏見都可能導(dǎo)致原始數(shù)據(jù)不夠中立，進(jìn)而使人工智能決策缺乏公平性。

2.人工智能參與行政執(zhí)法缺乏透明性

人工智能在實(shí)際應(yīng)用中的“黑箱效應(yīng)”不容忽視，算法一旦被設(shè)計(jì)出來投入使用便產(chǎn)生了天然的封閉性，應(yīng)用人工智能的行政執(zhí)法主體無法解釋算法自動(dòng)決策背后的原理，也難以預(yù)測(cè)可能產(chǎn)生的執(zhí)法結(jié)果，導(dǎo)致行政執(zhí)法過程的公開透明很難實(shí)現(xiàn)。社會(huì)公眾由于對(duì)人工智能的認(rèn)識(shí)不足，很容易對(duì)人工智能參與行政執(zhí)法的公正性產(chǎn)生懷疑，進(jìn)而加劇行政執(zhí)法部門與社會(huì)公眾之間的信任危機(jī)。

四、人工智能參與行政執(zhí)法的風(fēng)險(xiǎn)規(guī)制

（一）合法性風(fēng)險(xiǎn)規(guī)制

1.明確人工智能在行政執(zhí)法中的適用范圍

行政機(jī)關(guān)應(yīng)當(dāng)明確人工智能參與行政執(zhí)法的工具屬性和輔助地位，堅(jiān)持“以人為本”的執(zhí)法理念，避免盲目服從和過度依賴人工智能。人工智能參與行政執(zhí)法的具體環(huán)節(jié)、案件類型、參與方式、參與程度都要由行政機(jī)關(guān)進(jìn)行前置性把控，把控的標(biāo)準(zhǔn)就是要符合法律規(guī)定和法律原則。行政機(jī)關(guān)應(yīng)當(dāng)合理劃分案件類型，區(qū)分出哪些行政執(zhí)法行為適合由人工智能自動(dòng)化完成，哪些行政執(zhí)法行為需要人工的干預(yù)。在具體案件的處理過程中，行政機(jī)關(guān)可以總結(jié)應(yīng)用人工智能輔助行政執(zhí)法的實(shí)踐經(jīng)驗(yàn)和教訓(xùn)，向立法機(jī)關(guān)提出完善相關(guān)法律法規(guī)的建議。

2.保障行政相對(duì)人的知情權(quán)和自主選擇權(quán)

行政機(jī)關(guān)在使用人工智能進(jìn)行行政執(zhí)法時(shí)應(yīng)當(dāng)如實(shí)告知行政相對(duì)人，并賦予相對(duì)人合理懷疑的權(quán)利，面對(duì)涉及行政相對(duì)人利益的事項(xiàng)，行政機(jī)關(guān)有義務(wù)安排專業(yè)人員作出解釋。在保障行政相對(duì)人知情權(quán)的基礎(chǔ)上，應(yīng)當(dāng)視情況賦予相對(duì)人自主選擇執(zhí)法方式的權(quán)利，即有條件地允許相對(duì)人拒絕智能化執(zhí)法。該自主選擇權(quán)既包括案件首次處理時(shí)要求人工干預(yù)的權(quán)利，也包括對(duì)人工智能參與下的執(zhí)法結(jié)果不滿提起行政復(fù)議時(shí)拒絕人工智能參與的權(quán)利。應(yīng)當(dāng)注意的是，行政相對(duì)人的自主選擇權(quán)應(yīng)當(dāng)由法律法規(guī)進(jìn)行合理限制，明確自主選擇權(quán)的行使范圍和方式，防止行政相對(duì)人濫用權(quán)利造成行政資源的浪費(fèi)。

（二）安全性風(fēng)險(xiǎn)規(guī)制

1.彌補(bǔ)技術(shù)安全漏洞

人工智能開發(fā)者應(yīng)當(dāng)承擔(dān)社會(huì)責(zé)任，加強(qiáng)對(duì)人工智能系統(tǒng)的安全檢測(cè)和風(fēng)險(xiǎn)預(yù)警，通過技術(shù)創(chuàng)新和算法修復(fù)最大程度地彌補(bǔ)人工智能存在的安全漏洞。政府作為人工智能的應(yīng)用者，也應(yīng)當(dāng)加強(qiáng)內(nèi)部網(wǎng)絡(luò)的信息安全建設(shè)，通過構(gòu)筑更加牢固的防火墻、完善網(wǎng)絡(luò)安全監(jiān)測(cè)系統(tǒng)來抵御黑客入侵。針對(duì)數(shù)據(jù)的安全性，行政部門在應(yīng)用人工智能參與行政執(zhí)法時(shí)不僅要規(guī)范數(shù)據(jù)的收集與儲(chǔ)存方式，還要加強(qiáng)數(shù)據(jù)庫的安全建設(shè)，盡量把數(shù)據(jù)安全風(fēng)險(xiǎn)降到最低。

2.重視保護(hù)公民隱私權(quán)

首先，要嚴(yán)格遵守《民法典》和《個(gè)人信息保護(hù)法》關(guān)于公民隱私保護(hù)的規(guī)定，在法律允許的范圍內(nèi)合理利用公民個(gè)人信息，公開信息收集的方式、目的、用途，由行政機(jī)關(guān)嚴(yán)格管控信息去向；其次，要著眼于人工智能參與行政執(zhí)法帶來的信息安全風(fēng)險(xiǎn)的特殊性，組織人工智能專家、法律專家、行政機(jī)關(guān)的執(zhí)法專業(yè)人員開展專題研討，有針對(duì)性地提出公民隱私權(quán)保護(hù)的建議，為法律法規(guī)的完善提供理論支撐。

（三）公平性風(fēng)險(xiǎn)規(guī)制

1.擴(kuò)大數(shù)據(jù)收集范圍，加強(qiáng)數(shù)據(jù)質(zhì)量把關(guān)

針對(duì)由于數(shù)據(jù)信息遺漏造成的決策偏見，行政執(zhí)法部門應(yīng)該深入貫徹落實(shí)大數(shù)據(jù)戰(zhàn)略，強(qiáng)化基礎(chǔ)信息平臺(tái)建設(shè)。為了提升數(shù)據(jù)資源的代表性和覆蓋面，可以嘗試?yán)萌斯ぶ悄艿臄?shù)據(jù)處理能力，收集特定行政執(zhí)法領(lǐng)域的公眾信息。針對(duì)數(shù)據(jù)本身可能隱匿的社會(huì)偏見，可以采用算法監(jiān)測(cè)的技術(shù)治理手段。

2.完善法律法規(guī)，治理人為設(shè)置的算法黑箱

人工智能的應(yīng)用不能完全依靠市場(chǎng)自發(fā)調(diào)節(jié)，應(yīng)當(dāng)從制度層面、法律層面予以規(guī)制。立法機(jī)關(guān)應(yīng)當(dāng)把人工智能應(yīng)用領(lǐng)域的信息公開原則通過法律法規(guī)明確下來，在保護(hù)知識(shí)產(chǎn)權(quán)和商業(yè)隱私的合理范圍內(nèi)，要求人工智能研發(fā)機(jī)構(gòu)適當(dāng)公開算法的設(shè)計(jì)理念、工作流程，并及時(shí)向行政執(zhí)法部門和社會(huì)公眾說明算法決策的構(gòu)建思路。同時(shí)應(yīng)當(dāng)補(bǔ)償性地賦予處于信息溝通弱勢(shì)地位的行政相對(duì)人一定的程序權(quán)利保障，具體來說就是使行政相對(duì)人面臨智能執(zhí)法可能對(duì)自身利益造成重大影響時(shí)，能夠要求執(zhí)法部門聯(lián)合人工智能開發(fā)機(jī)構(gòu)就智能執(zhí)法的運(yùn)行過程、決策依據(jù)等信息說明理由。

五、結(jié)語

法治不僅僅是要考慮當(dāng)下，也要考慮未來［5］。隨著人工智能在行政執(zhí)法領(lǐng)域應(yīng)用的逐步深入，如何論證智能執(zhí)法的合法性、如何維護(hù)技術(shù)和隱私的安全性、如何保證機(jī)器執(zhí)法的公平性等一系列風(fēng)險(xiǎn)成為不得不面對(duì)的現(xiàn)實(shí)議題。對(duì)此，我們既不能“因噎廢食”又不能輕視風(fēng)險(xiǎn)，而是要加強(qiáng)頂層設(shè)計(jì)，從制度層面、法律層面為風(fēng)險(xiǎn)防控做出合理規(guī)劃，并加強(qiáng)多方協(xié)作，形成風(fēng)險(xiǎn)治理的合力，以期實(shí)現(xiàn)技術(shù)發(fā)展與社會(huì)需求相適應(yīng)、科技進(jìn)步與法治建設(shè)相協(xié)調(diào)的良好局面。