問題三：自動化對行政程序帶來哪些挑戰(zhàn)？

余凌云：技術賦能對非現(xiàn)場執(zhí)法程序提出挑戰(zhàn)

行政正當程序在規(guī)范行政權力運行、保障相對人權利等方面的作用，任何行政機關作出影響行政相對人權益的行政行為時必須遵循法定且正當?shù)男姓绦?，交警非現(xiàn)場執(zhí)法也不例外?？萍驾o助、人工決定仍然是當前交警非現(xiàn)場執(zhí)法的主要特征。

但不可否認，大數(shù)據(jù)分析、人臉識別、智能預審等新技術應用，已經(jīng)嵌入調查取證、違法信息通知、罰款繳納、文書送達等執(zhí)法程序中。只不過這些技術在助益執(zhí)法效能提升的同時，也確實給非現(xiàn)場執(zhí)法程序帶來了挑戰(zhàn)。具體而言，主要包括三個方面：

第一，行政相對人陳述、申辯易被壓縮。交警在利用“行人闖紅燈”抓拍裝置收集違法行為人的違法事實后，理應聽取違法行為人的陳述、申辯，現(xiàn)在卻直接省略該環(huán)節(jié)，將違法行為人的違法事實與相關信息實時同步曝光，違法行為人的陳述、申辯則被壓縮，行政正當程序遭到架空。

第二，證據(jù)認定流于形式。從執(zhí)法實踐來看，交警在大多數(shù)情況下，僅依靠交通技術監(jiān)控設備或執(zhí)法設備所記錄的圖片或視頻就實施處罰，盡管這些圖片或視頻應當滿足《道路交通安全違法行為處理程序規(guī)定》《道路交通安全違法行為圖像取證技術規(guī)范》等技術標準，但能否查證屬實、做到證據(jù)確實充分，值得推敲。在交警非現(xiàn)場執(zhí)法過程中，交通技術監(jiān)控記錄資料本應當是交警繼續(xù)調查取證的“開始”，然而在“人工智能預審系統(tǒng)”“自動化輔助決策系統(tǒng)”的幫助下，調查取證環(huán)節(jié)更多成為人工對圖片或視頻簡單判斷的流水線作業(yè)。執(zhí)法人員常年執(zhí)法積累的取證經(jīng)驗并無用武之地，甚至其判斷還會被技術潛移默化地影響，認為技術是正確的，致使證據(jù)認定流于形式。

第三，行政機關說明理由面臨變動。在非現(xiàn)場執(zhí)法的后續(xù)處罰程序中，執(zhí)法人員應當向相對人說明處罰的理由，尤其在相對人認為監(jiān)控設備故障時。只不過以往面對質疑，基于調查職權主義的立場，公安機關一般會給出以下三點理由：（1）監(jiān)控設備符合國家標準或行業(yè)標準；（2）監(jiān)控設備經(jīng)國家有關部門認定、檢定合格，且被用于執(zhí)法時處于有效期內；（3）圖像符合《道路交通安全違法行為圖像取證技術規(guī)范》的要求。

在司法實踐中，如果相對人沒有足以推翻的證據(jù)，法院一般尊重公安機關的判斷進而認定監(jiān)控設備運轉正常、記錄真實。然而，在人臉、聲吶等依托數(shù)據(jù)和算法深度分析的識別技術被用于輔助調查的情況下，上述理由的說服性則大大降低。因為這種識別技術不僅會受到數(shù)據(jù)完整性和真實性限制，還會受到算法設計、運行與環(huán)境的制約。也就是說，無論哪項影響因素發(fā)生變化，都可能對識別結果產(chǎn)生影響。那么此時，公安機關如若不能對技術輔助推理的過程說明理由，仍單純地舉證監(jiān)控設備檢定合格且符合國家標準，很顯然是蒼白無力的。而且算法運行看似客觀，其背后卻隱藏著難以為外界知曉的數(shù)據(jù)處理過程，無論是相對人還是公安機關，目前能做到的只是“知其然”，對技術如何得到結論的過程難以“知其所以然”，由此形成了所謂的“算法黑箱”，這無疑又給公安機關的說明理由出了一道難題。

胡敏潔：自動化行政縮減了行政行為的程序環(huán)節(jié)

在“田志鵬訴陜西省西安市公安局站前分局行政處罰糾紛案”中，田志鵬認為，在交警大廳處理違章時，行政主體沒有出具簡易程序《處罰決定書》，違反了道路交通安全法的程序規(guī)定。法院在審判中認為，田志鵬的違法行為事實清楚，被告適用簡易程序符合規(guī)定，至于未出具《處罰決定書》，那是因為自助繳納系統(tǒng)本身可以自行打印且被告在處理大廳公示了違法處理流程，張貼有《法律文書補打流程告知》以及相關操作說明；田志鵬可依據(jù)操作說明在處理大廳自助系統(tǒng)打印出《處罰決定書》，但原告未按照上述告知內容打印，因而其主張被告沒有明示自助繳費，不向其出具《處罰決定書》等意見，法院不予采納，其訴訟請求被駁回。

該案從形式上來看，程序被縮減，但實質上轉移為另一種形式，即自助打印，而此時原告已繳納罰款，可視為自行放棄了相應權利。但這里自然提出相關問題：是不是自動化行政所依賴的程序都是簡易程序？或者可以缺省必要的程序？此時是否可以將行政主體的義務轉化為行政相對人的權利？自動化執(zhí)法系統(tǒng)會威脅程序性權利，即相對人被通知和進行申辯的機會。為救濟相對人的合法權益，任何自動化執(zhí)法系統(tǒng)都應該有大量的失效保護、冗余備份及相關機制，以確保完成適當?shù)耐ㄖ覀€人可以有效地對自動出具的懲戒提出上訴。

劉東亮：自動化決策的瞬時性危及程序保障

一般來說，計算機程序是由成千上百萬條命令行組成的，這些命令行可以輸出數(shù)億條指示，最終的輸出結果瞬間即告完成。自動化決策的時間往往以毫秒計，這也正是自動化決策的優(yōu)勢之所在。算法的價值全部體現(xiàn)在它的速度上。如果算法不能在毫秒或者微秒級內完成復雜任務，就不能稱之為革新的力量。一個能給出正確輸出但耗時很長的算法幾乎沒什么價值。算法設計的精妙之處，即在于如何多快好省地完成預定任務。說到底，智能既是一種實現(xiàn)復雜目標的能力，同時也是一種時間性能力。如果任務時間無限，即使是滴水也能穿石；要想辦法用工具迅速穿石，這才稱得上是智能。

自動化決策在帶來便利和高效的同時，也引發(fā)了權利保障問題。智能機器中的算法有無錯誤？是否存在隱而不彰的歧視和偏見？有沒有因算法放棄裁量而導致行政決定不合理？如果存在這些問題，當事人如何尋求救濟？尤為重要的是，為保障當事人實體權利的實現(xiàn)并具有其自身內在價值的諸多程序保障如何通過算法設計得以體現(xiàn)？傳統(tǒng)的正當程序在新技術條件下究竟還有沒有可適用的空間？總之，自動化對行政程序提出一系列挑戰(zhàn)。

張凌寒：算法自動化決策與行政正當程序制度產(chǎn)生沖突

從信息論的角度看，行政正當程序本質是行政機關向行政相對人發(fā)送信息的工具。無論是行政活動前的行政公開、聽證，行政活動中的通知、聽取陳述與申辯以及事后的說明理由，目的都是在行政機關與行政相對人之間建立信息溝通機制。行政正當程序的信息發(fā)送功能由于算法自動化決策阻礙無法實現(xiàn)。無論是反應型算法壓縮行政程序各個環(huán)節(jié)造成行政正當程序的缺省，還是預測型算法直接作為內部決策規(guī)避行政正當程序，最終均導致行政相對人無法接收到行政機關通過行政正當程序發(fā)送的信息。具體而言，尤其以行政公開原則、公眾參與原則與說明理由規(guī)則為甚。

第一，算法不透明遮蔽行政公開原則。算法的采購、設計與運行，甚至算法的存在本身，政府基于各種考慮可公開而不愿公開。私營公司主張公開算法侵害商業(yè)秘密，政府官員可能會擔心公開披露的算法會被篡改或規(guī)避，阻礙行政目的實現(xiàn)。同時，“算法黑箱”造成的公開不能?！八惴ê谙洹笔侵冈谒惴Q策數(shù)據(jù)輸入、計算和輸出的三個環(huán)節(jié)中，分別面臨著三個難題：數(shù)據(jù)收集由于公共利益豁免知情同意規(guī)則而不透明、算法決策過程由于商業(yè)秘密保護而不公開、數(shù)據(jù)分析結果與決策之間轉換不公布。

第二，技術壟斷架空公眾參與原則。行政正當程序中的公眾參與原則極為重要，“某種形式的聽證”被認為是程序正當性過程最基本的要求，是行政機關提供正當程序的最低限度。然而，算法自動化決策系統(tǒng)由私營公司“技術壟斷”，公眾的參與權難以得到保障。

第三，“算法黑箱”無法提供理由說明。正當程序中的說明理由制度是指公權力機關在作出決定或者裁決時，應向其他利害關系人說明法律依據(jù)和事實狀態(tài)，及通過相關法律和事實狀態(tài)進行推理或裁量而作出結論的過程，從而表明理由與最終該決定的內在聯(lián)系。尤其是行政機關作出不利于行政相對人的行政行為時，除非有法定保密的要求，都必須說明理由。然而，預測型算法作出行政決策的時點是在行政對象作出行為之前，依據(jù)是大數(shù)據(jù)的相關關系而非因果關系，因此無法提供理由說明。