政府自動(dòng)化決策責(zé)任認(rèn)定的法理邏輯與限度廓清

蘇穩(wěn)

摘 ? ? ?要：政府自動(dòng)化決策是一種由人工智能參與，部分或者完全取代行政主體參與，實(shí)現(xiàn)行政行為過程的自動(dòng)化、無人化甚至智能化，從而產(chǎn)生對(duì)外法律效果的行政行為。行政自動(dòng)化決策在提升行政效率、堅(jiān)守決策中立等方面意義凸出，但仍暴露出諸多不敷適用之處，尤其表現(xiàn)在責(zé)任認(rèn)定標(biāo)準(zhǔn)存疑、責(zé)任主體識(shí)別困難、責(zé)任范圍劃分模糊以及侵權(quán)賠償標(biāo)準(zhǔn)混亂等。基于此，當(dāng)前應(yīng)依據(jù)實(shí)際參與原則與契約自由理念厘清政府自動(dòng)化決策的責(zé)任主體，明確政府自動(dòng)化決策的責(zé)任范圍，健全政府自動(dòng)化決策的監(jiān)督評(píng)估機(jī)制，形塑以算法解釋權(quán)、算法拒絕權(quán)、損害評(píng)估標(biāo)準(zhǔn)為核心的救濟(jì)機(jī)制。

關(guān) ?鍵 ?詞：政府自動(dòng)化決策;行政效率;責(zé)任認(rèn)定;責(zé)任主體;責(zé)任范圍

中圖分類號(hào)：D922.1 ? ? ?文獻(xiàn)標(biāo)識(shí)碼：A ? ? ?文章編號(hào)：1007-8207（2024）05-0104-11

一、問題的提出

進(jìn)入數(shù)字時(shí)代以來，算法、大數(shù)據(jù)、人工智能與社會(huì)生活的深度契合衍生出諸多新場(chǎng)景，其中，自動(dòng)化行政借助數(shù)字技術(shù)，以預(yù)測(cè)資源分配、輔助行政裁量的方式，通過算法決策程序?qū)Ａ繑?shù)據(jù)進(jìn)行分析處理并完成替代性決策，從而優(yōu)化行政效能?？茖W(xué)、客觀、快捷、精準(zhǔn)地嵌入政府行政決策，有效提高行政決策效能。[1]同時(shí)，囿于決策技術(shù)的自身弊端和社會(huì)環(huán)境存在的諸多主客觀原因，伴隨著技術(shù)內(nèi)生的不確定性風(fēng)險(xiǎn)、法律層面權(quán)力行使與權(quán)利保障的挑戰(zhàn)，價(jià)值層面中技術(shù)理性吞噬價(jià)值理性等桎梏，相關(guān)法律法規(guī)逐漸滯后，如何進(jìn)行規(guī)制成為政府行政繞不開的話題。國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》提出，支持人工智能技術(shù)和應(yīng)用發(fā)展的三步走戰(zhàn)略目標(biāo)，并要求建立人工智能法律法規(guī)理論體系。在學(xué)界中，部分學(xué)者從主體、程序以及救濟(jì)方式等方面，對(duì)傳統(tǒng)行政方式與自動(dòng)化行政相關(guān)關(guān)系、自動(dòng)化行政類型化分級(jí)、自動(dòng)化行政應(yīng)用范圍以及應(yīng)用中問題及風(fēng)險(xiǎn)控制等方面進(jìn)行研究，但在公共決策過程中，算法決策所產(chǎn)生的風(fēng)險(xiǎn)的具體形式和原因，以及算法和數(shù)據(jù)管理的責(zé)任劃分，已有研究成果尚未形成完善的理論系統(tǒng)，無法為政府自動(dòng)化決策的責(zé)任認(rèn)定等問題提供可操作性的因應(yīng)對(duì)策?；诖?，筆者立足于自動(dòng)化行政的行為解構(gòu)和類型化分類，通過探究政府自動(dòng)化決策中產(chǎn)生的法律困境，以期對(duì)數(shù)字政府建設(shè)有所裨益。

二、政府自動(dòng)化決策的基本邏輯

（一）政府自動(dòng)化決策的行為解構(gòu)

政府自動(dòng)化決策是指以數(shù)字化技術(shù)為基礎(chǔ)，以自動(dòng)化行政系統(tǒng)為載體，部分或完全替代行政主體參與行政過程，實(shí)現(xiàn)行政行為過程自動(dòng)化、無人化甚至智能化，由人工智能參與的一種行政行為。[2]自動(dòng)化行政中信息交互關(guān)系由傳統(tǒng)兩元式轉(zhuǎn)變?yōu)椤靶姓鄬?duì)人-自動(dòng)化行政系統(tǒng)-行政主體”的三元式。不論大數(shù)據(jù)和人工智能的參與程度如何，在自動(dòng)化行政法律關(guān)系中，行政主體理應(yīng)是行政機(jī)關(guān)及法律法規(guī)授權(quán)的組織。自動(dòng)化行政系統(tǒng)在政府自動(dòng)化決策中扮演著傳統(tǒng)行政機(jī)構(gòu)的角色，獲得具有法律屬性的“公務(wù)員”職能和“主體性”地位。需要注意的是，“主體性”地位并不能與法律意義上的“行政主體”劃等號(hào)，“主體性”強(qiáng)調(diào)在政府自動(dòng)化決策中，自動(dòng)化行政系統(tǒng)不再只局限于單純意義上的輔助工具，而是超越“物”本身的客體屬性，對(duì)政府行政行為和決策在一定程度上具有意思表達(dá)的法律效果，代表所屬行政主體的決策意志，并對(duì)行政相對(duì)人產(chǎn)生法律效力。[3]現(xiàn)代行政決策的動(dòng)態(tài)性特征明顯，尤其體現(xiàn)在人工智能算法可以實(shí)現(xiàn)行政決策過程的前、中、后期全過程參與。具言之，在政府自動(dòng)化決策的前期，人工智能系統(tǒng)可以自動(dòng)抓取特定信息，留待政府決策取用;在中期，人工智能則可以依托二進(jìn)位制算法模擬專家決策，研判不同政策方案預(yù)期;在后期，人工智能算法可以進(jìn)行后果預(yù)測(cè)，監(jiān)督行政決策的執(zhí)行，形塑行政決策與決策效果的因果關(guān)系。

（二）政府自動(dòng)化決策的類型化

依據(jù)政府自動(dòng)化決策的參與程度、決策領(lǐng)域、決策階段等不同分類邏輯，可將政府自動(dòng)化決策予以類型化。同時(shí)，類型化的機(jī)制也可以防控政府自動(dòng)化決策的法律風(fēng)險(xiǎn)，實(shí)施更加精準(zhǔn)的法律規(guī)制。有學(xué)者參考自動(dòng)駕駛領(lǐng)域分級(jí)標(biāo)準(zhǔn)，結(jié)合行政任務(wù)的“識(shí)別輸入”“分析決定”“輸出實(shí)現(xiàn)”三個(gè)關(guān)鍵環(huán)節(jié)，依據(jù)人類與人工智能系統(tǒng)的分工以及適用場(chǎng)景的不同對(duì)行政自動(dòng)化進(jìn)行二輪分類，將自動(dòng)化行政分為五級(jí)。[4]基于此，自動(dòng)化行政決策同樣可以參考上述思路，分為低階、初階、中階、高階四個(gè)階段。低階自動(dòng)化決策是指自動(dòng)化行政系統(tǒng)輔助行政機(jī)關(guān)完成特定的行政活動(dòng)。在不同行政環(huán)節(jié)中，自動(dòng)化行政系統(tǒng)可以輔助人工完成部分任務(wù)，但尚無法實(shí)現(xiàn)獨(dú)立完成的目標(biāo)。初階自動(dòng)化決策是指自動(dòng)化行政系統(tǒng)可以獨(dú)立完成行政行為中的某一個(gè)部分，但不能獨(dú)立作出一個(gè)行政行為，在該部分中，不再需要人工干預(yù)，如實(shí)踐中廣泛使用的執(zhí)法記錄儀。中階自動(dòng)化決策是指無裁量能力的完全自動(dòng)化行政。自動(dòng)化行政系統(tǒng)可以獨(dú)立完成一個(gè)行政行為，全部環(huán)節(jié)都由自動(dòng)化行政系統(tǒng)完成，對(duì)不需裁量的行政行為進(jìn)行獨(dú)立處理，較為典型的實(shí)踐是深圳市的“秒批”服務(wù)。高階自動(dòng)化決策指有裁量能力的完全自動(dòng)化行政。自動(dòng)化行政系統(tǒng)獨(dú)立完成數(shù)據(jù)獲取、分析識(shí)別、判斷認(rèn)定等環(huán)節(jié)，并且做出相應(yīng)分析與決策。在廣義的自動(dòng)化行政行為中，高階自動(dòng)化決策是自動(dòng)化行政行為的最高階段，此時(shí)自動(dòng)化行政系統(tǒng)具有獨(dú)立裁量能力，可以在一定的裁量空間中完成自動(dòng)化決策行為。

（三）政府自動(dòng)化決策的特點(diǎn)臚列

⒈決策效率性。政府自動(dòng)化決策通過算法來實(shí)現(xiàn)，在龐大的數(shù)據(jù)信息資源庫中，算法根據(jù)現(xiàn)有模型，實(shí)現(xiàn)信息的高效互通，通過深度學(xué)習(xí)不斷提高分析能力和決策精準(zhǔn)度，再加上人工智能算法主要以直接結(jié)果輸出方式出現(xiàn)，將繁瑣的行政流程轉(zhuǎn)換為直線輸出的方式，告別傳統(tǒng)“一人一事”行政手段，節(jié)省行政人員時(shí)間成本，實(shí)現(xiàn)讓信息輸入獲得客觀結(jié)果，提高公共行政決策便捷性。[5]同時(shí)，政府自動(dòng)化決策所用到的自動(dòng)化行政系統(tǒng)，能夠依靠數(shù)字化技術(shù)短時(shí)間內(nèi)處理海量信息，并嵌入特定的算法和程序設(shè)計(jì)中，最終自動(dòng)輸出結(jié)果，將行政裁量大幅度壓縮，減少傳統(tǒng)行政程序中的繁瑣步驟。此外，傳統(tǒng)政府決策的完成需要工作人員通過調(diào)查、詢問等對(duì)相關(guān)情形進(jìn)行自由裁量，存在冗雜的人為處理過程。相比之下，政府自動(dòng)化決策則不需要耗費(fèi)大量人力，在減輕公職人員壓力的同時(shí)也提高了行政機(jī)關(guān)的工作效率。

⒉結(jié)果中立性。保障行政決策公正性是政府自動(dòng)化決策的優(yōu)勢(shì)所在?；鶎由鐣?huì)治理活動(dòng)中人情、關(guān)系等因素作用明顯，對(duì)基層行政治理活動(dòng)公正性產(chǎn)生嚴(yán)重影響。在傳統(tǒng)行政決策過程中，行政決策判斷容易受到情緒、情感等傳統(tǒng)人為因素影響而出現(xiàn)偏私、偏頗甚至歧視，違背行政決策公正性、客觀性要求。[6]而以“技術(shù)中立”為優(yōu)勢(shì)的自動(dòng)化行政系統(tǒng)能有效避免行政決策的獨(dú)斷專行和隨心所欲，將復(fù)雜的人情、關(guān)系等傳統(tǒng)人為因素排除在自動(dòng)化決策過程之外，實(shí)現(xiàn)行政決策客觀公正的目標(biāo)。[7]政府行政中自動(dòng)化決策要求不分年齡、不分職業(yè)、不分性別對(duì)待行政相對(duì)人，即確保行政公平。[8]技術(shù)意義上的“人人平等”依托數(shù)據(jù)測(cè)算和代碼編寫規(guī)則得以實(shí)現(xiàn)，能夠有效解決人情干預(yù)決策、權(quán)力尋租、公共資源配置低效等問題，減少行政決策裁量權(quán)濫用的可能性，為廉潔政府建設(shè)提供技術(shù)支撐。

⒊算法隱蔽性。政府算法的隱蔽性是政府利用算法技術(shù)的制度方式耦合的產(chǎn)物，是算法技術(shù)本身所具有的特性。《黑箱社會(huì)》中最早使用算法黑箱進(jìn)行隱喻，從概念上來說，算法黑箱是指算法系統(tǒng)內(nèi)，存在于輸入到輸出之間不公開、不透明，且難以被理解和觀察的隱層。[9]技術(shù)本身天然地具有不透明性，無法充分考慮數(shù)字和規(guī)則之外的因素。自動(dòng)化系統(tǒng)主導(dǎo)的行政行為往往以不透明方式完成操作的分析過程，這使得二者之間的信息不對(duì)稱問題變得更加嚴(yán)重，特別是行政人員普遍不具備較高的算法控制技術(shù)，開發(fā)者和使用者之間存在技術(shù)鴻溝。自動(dòng)化系統(tǒng)的運(yùn)行機(jī)理與商業(yè)秘密之間的沖突加劇。且囿于數(shù)據(jù)篡改與刪除的風(fēng)險(xiǎn)，行政機(jī)關(guān)不僅不會(huì)直觀解釋行政決策結(jié)果，更難以向社會(huì)公眾公開相關(guān)過程?；诖?，行政相對(duì)人難以突破技術(shù)壁壘，使得其無法知曉自動(dòng)化系統(tǒng)算法的底層邏輯，便難以發(fā)現(xiàn)自動(dòng)化行政中的錯(cuò)誤和漏洞，無法對(duì)因自動(dòng)化決策導(dǎo)致的權(quán)益侵害進(jìn)行有效救濟(jì)。

三、政府自動(dòng)化決策的法理依據(jù)

（一）價(jià)值維度：行政決策效率的現(xiàn)實(shí)考量

在數(shù)字化政府建設(shè)背景下，政府治理呈現(xiàn)出需求多樣化、對(duì)象多元化、內(nèi)容復(fù)雜化等特征，社會(huì)公眾對(duì)行政管理活動(dòng)的要求也由原來的消極被動(dòng)轉(zhuǎn)為積極主動(dòng)，對(duì)建設(shè)“服務(wù)型政府”“高效政府”提出更高要求，據(jù)此，提高政府行政決策效率成為建設(shè)高效政府的必然要求。傳統(tǒng)法治政府的高效運(yùn)行面臨科層體制的困境，囿于治理事項(xiàng)碎片分裂、組織結(jié)構(gòu)協(xié)同失靈、官僚行為消極禁錮等弊端，傳統(tǒng)依法行政無法滿足深層次服務(wù)型政府和高效政府建設(shè)目標(biāo)，難以實(shí)現(xiàn)政府治理現(xiàn)代化需求。依托人工智能技術(shù)，現(xiàn)代法治政府突破科層治理的禁錮限制，以公共需求為導(dǎo)向，有效彌合政府與社會(huì)、公眾等相關(guān)主體之間的分離裂隙，構(gòu)建起政務(wù)活動(dòng)全方位、全流程、全覆蓋、全時(shí)空的新樣態(tài)。[10]行政效率提高能夠健全政府決策、執(zhí)行、監(jiān)督等各環(huán)節(jié)，讓政府組織機(jī)構(gòu)設(shè)置、權(quán)責(zé)分配與運(yùn)行機(jī)制達(dá)到系統(tǒng)化、科學(xué)化、完善化效果，保證地方政府在規(guī)定時(shí)限內(nèi)以最快速度完成最大工作量，實(shí)現(xiàn)行政管理體制中的人、財(cái)、物等各要素科學(xué)組合配置，有助于構(gòu)建起政府與社會(huì)、公眾之間的良性關(guān)系，從而更好服務(wù)于人民。[11]地方政府實(shí)踐中，浙江省杭州市率先開啟數(shù)字化改革探索實(shí)踐，突破時(shí)空局限下的政務(wù)不足，通過數(shù)據(jù)共享推動(dòng)“最多跑一次”改革，實(shí)現(xiàn)“讓群眾少跑腿，讓數(shù)據(jù)多跑路”。

（二）技術(shù)維度：生成式人工智能等技術(shù)的邏輯支撐

構(gòu)建包括信息技術(shù)、人工智能等技術(shù)在內(nèi)的新增長(zhǎng)引擎，完善精細(xì)化服務(wù)、信息化支撐的基層治理平臺(tái)，提升社會(huì)治理效能，顯示出在數(shù)字政府中嵌入人工智能技術(shù)的必要性。[12]生成式人工智能憑借深度自我學(xué)習(xí)，將決策問題轉(zhuǎn)化為算法能夠理解的數(shù)據(jù)模型，基于“信息輸入-數(shù)據(jù)分析-決策輸出”的自動(dòng)化決策公式，突破原有政務(wù)人工智能的功能界限。生成式人工智能參與數(shù)字政府建設(shè)的可行路徑在于實(shí)現(xiàn)權(quán)利保障優(yōu)位、效率與責(zé)任并行，保持安全與發(fā)展均衡。作為人工智能時(shí)代的一次重大技術(shù)躍遷，生成式人工智能本身帶有很強(qiáng)賦能特征，其高效的信息協(xié)同能力、精密的算法運(yùn)行能力以及深度的人機(jī)交互能力對(duì)數(shù)字政府建設(shè)的縱深發(fā)展大有裨益。[13]生成式人工智能的引入增強(qiáng)了政府自動(dòng)化決策的科學(xué)性。生成式人工智能通過自動(dòng)抓取和精準(zhǔn)識(shí)別，實(shí)現(xiàn)對(duì)相關(guān)數(shù)據(jù)的全面獲取，提升政府自動(dòng)化決策的準(zhǔn)確性和高效性，使基于人工智能算法和系統(tǒng)的政府自動(dòng)化決策成為可能。生成式人工智能在技術(shù)上促進(jìn)政府與公眾之間信息交流與共享。生成式人工智能根據(jù)用戶指令基于條件語言模型生成答案，幫助政府在收集、處理公眾信息與公眾訴求的基礎(chǔ)上為社會(huì)公眾生成更精確、更個(gè)性化的服務(wù)信息。面對(duì)當(dāng)前以算法技術(shù)塑造全新社會(huì)秩序的智能社會(huì)，以生產(chǎn)式人工智能為核心的人工智能、大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈等技術(shù)相繼應(yīng)用于行政決策系統(tǒng)，能夠協(xié)助數(shù)字政府建設(shè)及時(shí)有效應(yīng)對(duì)自然語言理解、文本生成能力、知識(shí)更新響應(yīng)等方面的新問題新挑戰(zhàn)，強(qiáng)化數(shù)字政府的協(xié)同和服務(wù)能力，提升數(shù)字政府政務(wù)效能。

（三）經(jīng)驗(yàn)維度：電子政務(wù)轉(zhuǎn)型自動(dòng)化決策的域外參考

西方發(fā)達(dá)國(guó)家以電子政務(wù)為雛形，較早提出自動(dòng)化行政概念，探索數(shù)字政府建設(shè)。美國(guó)是最早發(fā)展電子政務(wù)的國(guó)家，并率先將人工智能上升到國(guó)家治理層面，以《2002年電子政務(wù)法》為基礎(chǔ)，先后出臺(tái)了《國(guó)家機(jī)器人計(jì)劃》《人工智能參與國(guó)家安全》《人工智能未來法案》等一系列政策規(guī)劃，為電子政務(wù)發(fā)展提供完善的法律依據(jù)。[14]2011年新加坡政府發(fā)布《新加坡電子政務(wù)總體規(guī)劃（2011-2015）》，并于2015年實(shí)現(xiàn)全面電子政務(wù)的目標(biāo)，建成政府與公眾深度融合的互動(dòng)體系。[15]2012年英國(guó)政府發(fā)布《數(shù)字政府戰(zhàn)略》，開始正式開啟數(shù)字政府建設(shè)。[16]2017年德國(guó)在《聯(lián)邦行政程序法》的修改中引入“全自動(dòng)具體行政行為”概念，對(duì)全自動(dòng)行政決定的應(yīng)用范疇進(jìn)行嚴(yán)格控制，后又出臺(tái)了《在線入口法》，為建設(shè)全德政務(wù)服務(wù)平臺(tái)提供法律保障。[17]日本建立電子政務(wù)績(jī)效考評(píng)，注重保護(hù)“個(gè)人編號(hào)制度”中的個(gè)人數(shù)據(jù)安全，采取質(zhì)、量相結(jié)合的考評(píng)體系，完善各府省信息系統(tǒng)評(píng)價(jià)體制。2007年韓國(guó)實(shí)施《推進(jìn)電子政務(wù)戰(zhàn)略》，采用“政府主導(dǎo)”模式，打造“足不出戶的民政時(shí)代”，完成政府流程改造和提升。[18]綜上，域外國(guó)家推進(jìn)行政自動(dòng)化決策的過程中，傾向通過頒布戰(zhàn)略規(guī)劃進(jìn)行整體布局，甚至上升到國(guó)家戰(zhàn)略層面。同時(shí)，注重構(gòu)建配套政策或者法治保障體系，即關(guān)注基礎(chǔ)設(shè)施建設(shè)、技術(shù)研發(fā)、資金投入、人才培養(yǎng)、多元參與和數(shù)據(jù)開放共享等問題，進(jìn)而保障數(shù)字政府建設(shè)的現(xiàn)實(shí)應(yīng)用。[19]

（四）理論維度：“敏捷治理”范式的理論支撐

世界經(jīng)濟(jì)論壇發(fā)布的《敏捷治理：第四次工業(yè)革命時(shí)代政策制定的重構(gòu)》正式提出敏捷治理概念，并將其定義為“一種自適應(yīng)、以人為本以及具有包容性的可持續(xù)決策過程，具有柔韌性、流動(dòng)性、靈活性和適應(yīng)性特點(diǎn)”[20]。敏捷治理的核心是改變第四次工業(yè)革命時(shí)期公共政策的產(chǎn)生、分析、決策及執(zhí)行，“全局、適應(yīng)、靈活”的整體效能是敏捷治理的獨(dú)特價(jià)值追求，作為數(shù)字政府的改革理念、運(yùn)行機(jī)制和治理工具，契合生成式人工智能治理需求，為數(shù)字政府建設(shè)提供強(qiáng)大推動(dòng)力。[21]敏捷治理強(qiáng)調(diào)的快速感知、持續(xù)協(xié)調(diào)和靈活響應(yīng)等功能在自動(dòng)化行政決策中有所顯示，也是自動(dòng)化行政決策的效應(yīng)呈現(xiàn)。事實(shí)上，敏捷治理理論下的自動(dòng)化行政強(qiáng)調(diào)對(duì)政府內(nèi)部及外部社會(huì)需求的輸入和以數(shù)字政府改革為輸出的回應(yīng)系統(tǒng)建設(shè)，其不僅可以延續(xù)自動(dòng)化行政決策內(nèi)涵的彈性理念，即采取建立統(tǒng)籌性組織結(jié)構(gòu)與臨時(shí)性頂層機(jī)構(gòu)等手段提升政府治理的高效化和靈活性，還能深耕自動(dòng)化行政決策要義的適應(yīng)性理念，強(qiáng)調(diào)政府在技術(shù)發(fā)展的外部環(huán)境和需求多元的內(nèi)部結(jié)構(gòu)下，適應(yīng)以數(shù)據(jù)要素為核心的時(shí)代要求的管理模式改革?？梢?，“敏捷治理在信息技術(shù)的支持下將政府職能通過數(shù)字化、網(wǎng)絡(luò)化、智能化的方式予以延伸”[22]，有效解決了政府行政決策中層次重疊、資本浪費(fèi)、行政機(jī)構(gòu)運(yùn)轉(zhuǎn)效率低下等問題，提高了政府決策效率和質(zhì)量，契合數(shù)字政府的韌性、協(xié)同、循數(shù)和感知機(jī)制建設(shè)。

四、政府自動(dòng)化決策責(zé)任認(rèn)定的困境檢視

（一）責(zé)任認(rèn)定標(biāo)準(zhǔn)存疑

⒈瑕疵行政決策認(rèn)定。政府自動(dòng)化瑕疵決策主要是指由于算法漏洞、數(shù)據(jù)錯(cuò)誤、系統(tǒng)故障等產(chǎn)生的瑕疵結(jié)果，常見的有數(shù)據(jù)來源瑕疵、算法漏洞瑕疵、系統(tǒng)故障瑕疵等類型，嚴(yán)重情況下也包括違法的自動(dòng)化指令，如存在歧視、違背公平等。[23]在政府自動(dòng)化決策中，公共數(shù)據(jù)大多來源于政府提供和申請(qǐng)人自主申報(bào)，然而兩種數(shù)據(jù)來源都極易存在數(shù)據(jù)瑕疵，若不對(duì)海量數(shù)據(jù)加以甄別和篩選，行政決策很可能會(huì)被其干擾甚至被帶偏方向，造成自動(dòng)化決策的誤判風(fēng)險(xiǎn)，陷入真假數(shù)據(jù)的迷宮。自動(dòng)化行政安全問題也會(huì)損害信息真實(shí)性，進(jìn)而影響行政決策質(zhì)量，自動(dòng)化行政系統(tǒng)直接涉及各級(jí)政府核心信息，如病毒破壞、黑客攻擊、信息間諜等，都會(huì)對(duì)自動(dòng)化行政系統(tǒng)的安全構(gòu)成威脅。自動(dòng)化行政系統(tǒng)意外故障會(huì)阻礙行政決策過程，在政府自動(dòng)化決策中，一旦自動(dòng)化行政系統(tǒng)因自然災(zāi)害、人為盜竊、設(shè)備破壞等原因發(fā)生意外，就會(huì)極大影響政府管理和決策功能的發(fā)揮。此外，“算法黑箱”可能造成對(duì)決策正當(dāng)程序和公眾參與的破壞，算法本身缺乏價(jià)值判斷能力，行政機(jī)關(guān)高度依賴算法可能會(huì)導(dǎo)致“算法偏見”和“算法歧視”，從而剝奪行政相對(duì)人的解釋權(quán)。

⒉損害效果認(rèn)定。政府自動(dòng)化決策損害后果關(guān)注相對(duì)人的舉證困難問題，如行為損害難以發(fā)現(xiàn)、舉證能力不足、行政機(jī)關(guān)以及第三方抗辯等。算法隱匿是指算法獨(dú)立運(yùn)行后相對(duì)于行政機(jī)關(guān)和利害關(guān)系人具有封閉性和不可解釋性。因技術(shù)天然地具有不透明性，隨著技術(shù)進(jìn)步，技術(shù)開發(fā)者與技術(shù)使用者之間的信息不對(duì)稱愈發(fā)嚴(yán)重，開發(fā)者和使用者之間形成“技術(shù)鴻溝”。[24]舉證困難是難以有效認(rèn)定瑕疵行政決策損害的主要原因。由于“算法黑箱”的隱匿性，無法直接判斷出損害侵權(quán)行為來源于人為因素或者系統(tǒng)故障，給損害當(dāng)事人合法權(quán)益造成巨大損失，并且在權(quán)責(zé)難以明晰的情況下，很容易將技術(shù)風(fēng)險(xiǎn)轉(zhuǎn)嫁給行政相對(duì)人。當(dāng)政府自動(dòng)化決策出現(xiàn)瑕疵或者錯(cuò)誤時(shí)，算法的自主決策容易導(dǎo)致管理者推卸責(zé)任，失去對(duì)責(zé)任人的跟蹤，不予公開的自動(dòng)化決策機(jī)制違背了行政公開原則，同時(shí)為行政機(jī)關(guān)算法卸責(zé)提供便利條件，從而導(dǎo)致自動(dòng)化決策的責(zé)任承擔(dān)陷入困境。[25]

（二）責(zé)任主體識(shí)別困難

在政府自動(dòng)化決策背景下，多元技術(shù)參與主體在某種程度上成為自動(dòng)化系統(tǒng)的一部分，但并非只是行政主體。同時(shí)，由于參與主體的多元性和第三方服務(wù)責(zé)任的分散性，使得責(zé)任難以明確。一是自動(dòng)化系統(tǒng)的法律主體資格認(rèn)定引發(fā)的責(zé)任主體問題。人工智能既具有一定限度的自主性同時(shí)又作為工具依附于人類，也使得法學(xué)界對(duì)人工智能法律地位持不同觀點(diǎn)。從法理上講，在自動(dòng)化決策中行政決策由自動(dòng)化行政系統(tǒng)作出，行政機(jī)關(guān)雖然沒有事實(shí)參與，但是行政法律關(guān)系不會(huì)發(fā)生改變，責(zé)任承擔(dān)主體依舊是行政機(jī)關(guān)。自動(dòng)化行政系統(tǒng)所涉及的責(zé)任關(guān)系也較為復(fù)雜，需要進(jìn)一步厘清。二是自動(dòng)化系統(tǒng)提供者與行政機(jī)關(guān)的責(zé)任識(shí)別。自動(dòng)化行政系統(tǒng)輔助決策過程與傳統(tǒng)行政決策機(jī)制不同，過程中涉及行政組織主體、算法運(yùn)營(yíng)主體、算法系統(tǒng)本身以及利害關(guān)系人的多方互動(dòng)。算法決策錯(cuò)誤的行政責(zé)任無法像傳統(tǒng)行政責(zé)任一樣概由行政主體承擔(dān)，究其原因，由于算法隱匿、算法偏差等問題的存在，并不單純來源于行政主體的過錯(cuò)與失職。自動(dòng)化行政決策中還可能出現(xiàn)第三方開發(fā)者介入的情況，開發(fā)者在算法實(shí)際運(yùn)作過程中充當(dāng)著相當(dāng)程度的行政管理者角色，若以此為依據(jù)追究他們的行政責(zé)任，則有可能陷入把行政行為與商業(yè)活動(dòng)混淆不清的境地。三是行政機(jī)關(guān)內(nèi)部不同部門的責(zé)任識(shí)別。通常情況下，自動(dòng)化行政系統(tǒng)面向相對(duì)人作出行政決策，并不會(huì)說明其從屬的部門機(jī)構(gòu)，并且在具體實(shí)踐中，同一個(gè)自動(dòng)化行政系統(tǒng)涉及多個(gè)部門機(jī)構(gòu)的業(yè)務(wù)領(lǐng)域，不同行政機(jī)關(guān)共用一個(gè)自動(dòng)化行政系統(tǒng)的情況也相當(dāng)常見，這就直接導(dǎo)致了行政相對(duì)人很難準(zhǔn)確識(shí)別責(zé)任主體。

（三）侵權(quán)賠償標(biāo)準(zhǔn)混亂

在實(shí)踐中，賠償大多參照《中華人民共和國(guó)民法典》侵權(quán)責(zé)任編第十章關(guān)于建筑物致害和民事訴訟程序的規(guī)定，然而公共設(shè)施的判定遠(yuǎn)非“建筑物”概念這么簡(jiǎn)單，對(duì)于自動(dòng)化行政救濟(jì)來說，缺乏相應(yīng)的執(zhí)法規(guī)制和救濟(jì)機(jī)制，相對(duì)人的合法權(quán)利將無法受到保護(hù)。針對(duì)侵權(quán)賠償?shù)臍w責(zé)原則，有學(xué)者主張，依據(jù)過錯(cuò)原則，即關(guān)注行政主體的主觀想法，存在過錯(cuò)則需要進(jìn)行行政賠償。[26]有學(xué)者則主張，依據(jù)無過錯(cuò)原則，即認(rèn)為只要造成損害侵權(quán)結(jié)果，無論是否存在過錯(cuò)都要承擔(dān)相應(yīng)責(zé)任，不考慮主觀因素。[27]行政賠償不同于民事賠償，以主觀因素衡量判定標(biāo)準(zhǔn)極其困難，導(dǎo)致行政相對(duì)人的申訴無法得到保障，其獲得賠償?shù)母怕室矔?huì)大大降低，這顯然和公法領(lǐng)域契約精神中控制公權(quán)力的原則理念相背離。然而如果只單純考慮客觀因素，則難以劃分賠償與補(bǔ)償?shù)慕缦??；诖?，建立起一套兼具穩(wěn)定性、可信性的法定賠償制度是解決侵權(quán)損害賠償困境的必由之路，將算法推薦服務(wù)提供者的侵害后果數(shù)字化、貨幣化能夠合理確定算法推薦服務(wù)提供者責(zé)任，有效賠償受害人損失。關(guān)于如何制定合理的賠償標(biāo)準(zhǔn)，有學(xué)者認(rèn)為，應(yīng)根據(jù)法經(jīng)濟(jì)學(xué)的理論劃定賠償標(biāo)準(zhǔn)，受害人不應(yīng)因損害而獲得高于損害所得利益，算法推薦服務(wù)提供者也不應(yīng)因侵權(quán)獲利而賠償?shù)陀趽p害所得利益。[28]由于算法推薦侵權(quán)的特點(diǎn)，被侵犯的一方可向算法推薦服務(wù)者提出請(qǐng)求，索取侵權(quán)內(nèi)容的信息及其傳播情況，這有助于準(zhǔn)確計(jì)算侵權(quán)帶來的損失，同時(shí)，便于受害者采取措施防止或修復(fù)未來的損傷。如前所述，算法正日漸脫離輔助工作角色，成為行政資源配置的重要手段。遺憾的是，技術(shù)壁壘、算法黑箱、算法歧視等存在侵蝕行政決策中立性、合理性的風(fēng)險(xiǎn)，更會(huì)損害行政相對(duì)人的知情權(quán)、聽證權(quán)、救濟(jì)權(quán)等程序權(quán)利，在此背景下，如何明確政府自動(dòng)化決策的責(zé)任機(jī)制變得尤為重要。

五、政府自動(dòng)化決策法律責(zé)任的制度設(shè)計(jì)

（一）厘清政府自動(dòng)化決策的責(zé)任主體

如何精準(zhǔn)識(shí)別自動(dòng)化行政處罰的責(zé)任主體是責(zé)任機(jī)制落實(shí)的關(guān)鍵環(huán)節(jié)。事實(shí)上，行政主體本質(zhì)上為法律擬制。盡管基于底層數(shù)據(jù)與算法程序，自動(dòng)化決策可以勝任更復(fù)雜的行政決策行為，但其工具屬性短期內(nèi)不會(huì)改變。判斷責(zé)任的核心要素就是“誰”作出了決策，以及責(zé)任人的作用。在初級(jí)與中階自動(dòng)化決策中，自動(dòng)化系統(tǒng)沒有獨(dú)立裁量權(quán)，由行政主體做出最終決定，因而由行政主體承擔(dān)行政責(zé)任并無爭(zhēng)議。然而，在高階自動(dòng)化決策中，自動(dòng)化系統(tǒng)擁有獨(dú)立裁量權(quán)并可直接做出決策，如何歸責(zé)便陷入困境。所以，在自動(dòng)化決策應(yīng)用過程中，應(yīng)首先明確多元參與主體的決策程度關(guān)系。質(zhì)言之，應(yīng)認(rèn)識(shí)到自動(dòng)化行政系統(tǒng)的提供者并不能視為行政法意義上的責(zé)任主體，錯(cuò)誤決策或者瑕疵決策一旦做出，承擔(dān)相應(yīng)責(zé)任的行政機(jī)關(guān)能否以第三方追償并不屬于行政法律關(guān)系的范疇。事實(shí)上，行政機(jī)關(guān)與技術(shù)提供者之間的技術(shù)購(gòu)買服務(wù)，本質(zhì)上屬于行政協(xié)議，而行政關(guān)系中直接面對(duì)行政相對(duì)人的是行政機(jī)關(guān)，因此基于系統(tǒng)本身錯(cuò)誤亦或是人為失誤所造成的后果應(yīng)由作出行政行為的行政機(jī)關(guān)承擔(dān)。值得注意的是，行政機(jī)關(guān)作為責(zé)任主體并不意味著其應(yīng)當(dāng)填補(bǔ)所有損失，而應(yīng)根據(jù)瑕疵決策原因，依法或者依約，向設(shè)計(jì)人員等技術(shù)主體、執(zhí)法人員部分或全部追償。

（二）健全政府自動(dòng)化決策的監(jiān)督評(píng)估機(jī)制

⒈明確政府自動(dòng)化決策的監(jiān)督主體。傳統(tǒng)行政監(jiān)督主體主要包括國(guó)家機(jī)關(guān)內(nèi)部監(jiān)督和社會(huì)外部監(jiān)督。其中國(guó)家機(jī)關(guān)能夠依法采取相應(yīng)措施對(duì)公職人員進(jìn)行權(quán)力監(jiān)督并且背后有強(qiáng)制力進(jìn)行保障，社會(huì)組織和公民依據(jù)法律賦予的監(jiān)督權(quán)對(duì)行政合法性進(jìn)行外部監(jiān)督。社會(huì)組織監(jiān)督以保障公眾利益為主，時(shí)刻保持監(jiān)督者狀態(tài)，然而由于算法技術(shù)具有高度專業(yè)性和不透明性，普通民眾常受制于技術(shù)掌握不足和“算法黑箱”影響難以對(duì)算法程序和過程進(jìn)行有效監(jiān)督，使得社會(huì)外部監(jiān)督缺失?；诖耍斜匾⑵鹁哂袑I(yè)技術(shù)能力的中立性自動(dòng)化行政監(jiān)督機(jī)構(gòu)。當(dāng)社會(huì)組織和公民的外部監(jiān)督方式無法實(shí)現(xiàn)監(jiān)督效果時(shí)，需要有關(guān)國(guó)家機(jī)關(guān)或者網(wǎng)絡(luò)媒體發(fā)揮橋梁作用對(duì)自動(dòng)化行政進(jìn)行有效監(jiān)督。完善自動(dòng)化行政監(jiān)督體系首先要實(shí)現(xiàn)多元化、多渠道參與政府與企業(yè)規(guī)制過程，政府和企業(yè)在設(shè)立自動(dòng)化行政系統(tǒng)時(shí)應(yīng)廣泛征求群眾意見，滿足群眾合法需求;其次要充分公開自動(dòng)化行政相關(guān)信息，拓寬社會(huì)公眾參與渠道，保障行政相對(duì)人合法權(quán)益，實(shí)現(xiàn)社會(huì)公眾主體參與自動(dòng)化行政監(jiān)督規(guī)制的實(shí)質(zhì)效果。[29]

⒉科技賦能政府自動(dòng)化決策的全生命周期監(jiān)管。通過事前、事中、事后三個(gè)階段的監(jiān)督將其予以規(guī)范化，在行政治理領(lǐng)域中更好地規(guī)范行政權(quán)、保障公民權(quán)。在事前監(jiān)督階段，通過反復(fù)測(cè)試和審核可檢驗(yàn)算法是否公正、合理，行政主體主動(dòng)公開自動(dòng)化系統(tǒng)的算法保證公眾的知情權(quán)，使自動(dòng)化系統(tǒng)受廣大公眾監(jiān)督，及時(shí)發(fā)現(xiàn)問題并提前解決問題。行政機(jī)關(guān)及技術(shù)開發(fā)者要對(duì)算法進(jìn)行反復(fù)測(cè)試和審核，確保自動(dòng)化行政算法公正、系統(tǒng)無誤。并向公眾主動(dòng)公開自動(dòng)化行政系統(tǒng)程序和相關(guān)信息，保障公眾知情權(quán)、解釋權(quán)和拒絕權(quán)，接受社會(huì)組織和公眾監(jiān)督。在事中監(jiān)督階段，通過設(shè)立自動(dòng)化行政系統(tǒng)技術(shù)開發(fā)者定期履行系統(tǒng)維護(hù)、檢查、管理的義務(wù)，防止自動(dòng)化行政系統(tǒng)由于故障、崩潰等原因無法作出準(zhǔn)確行政行為，通過建立專門性監(jiān)督機(jī)構(gòu)，實(shí)現(xiàn)常態(tài)化監(jiān)督機(jī)制。在事后監(jiān)督階段，通過及時(shí)公示自動(dòng)化系統(tǒng)作出的自動(dòng)化行政行為和決策，實(shí)現(xiàn)社會(huì)對(duì)自動(dòng)化決策的監(jiān)督。暢通公民反映意見渠道，鼓勵(lì)公民進(jìn)行反饋，根據(jù)大眾的意見完善政府自動(dòng)化決策。[30]同時(shí)，隨著大數(shù)據(jù)、智能化時(shí)代的發(fā)展，可以通過搭建行政公示信息平臺(tái)、違法行為投訴舉報(bào)平臺(tái)等網(wǎng)絡(luò)監(jiān)督平臺(tái)進(jìn)行線上監(jiān)督，進(jìn)一步促進(jìn)行政主體與行政相對(duì)人之間良性溝通，實(shí)現(xiàn)隨時(shí)溝通、科學(xué)執(zhí)法，提高執(zhí)法的精確性和科學(xué)性。[31]

（三）拓寬政府自動(dòng)化決策的救濟(jì)機(jī)制

⒈相對(duì)人算法解釋權(quán)。行政法中公開透明原則為算法解釋權(quán)提供了正當(dāng)性基礎(chǔ)。算法解釋權(quán)即當(dāng)政府自動(dòng)化決策對(duì)行政相對(duì)人做出具有法律效力的行政行為時(shí)，行政相對(duì)人有權(quán)要求決策方進(jìn)行解釋，乃至持異議要求決策方更正錯(cuò)誤或不當(dāng)?shù)乃惴Q策的權(quán)利。[32]這一解釋說明的內(nèi)容包括對(duì)行政相對(duì)人說明算法決策中數(shù)據(jù)處理的規(guī)則、決策處理過程、決策生成的原因等。算法解釋權(quán)可以破解“算法黑箱”，通過增加決策透明度以提高算法可理解性與可問責(zé)性。對(duì)于算法解釋權(quán)的主體范圍應(yīng)當(dāng)予以明確，行政領(lǐng)域的算法決策權(quán)利主體是受到權(quán)益侵害的行政相對(duì)人;而在義務(wù)主體方面，將算法制造者、控制者納入侵權(quán)義務(wù)主體范圍內(nèi)，承擔(dān)無過錯(cuò)責(zé)任或過錯(cuò)推定責(zé)任。對(duì)于算法解釋的標(biāo)準(zhǔn)應(yīng)當(dāng)充分考慮相關(guān)性與可理解性，算法解釋不僅應(yīng)提供算法決策的理由、個(gè)人數(shù)據(jù)等，也應(yīng)提供救濟(jì)的途徑，使用通俗易懂的語言，保證解釋客體的完整。

⒉相對(duì)人算法拒絕權(quán)。相對(duì)人的程序抵抗權(quán)是指在傳統(tǒng)行政過程中，如果行政程序出現(xiàn)違法問題，行政相對(duì)人有權(quán)當(dāng)即拒絕行政機(jī)關(guān)所有指令。網(wǎng)絡(luò)信息技術(shù)的發(fā)展為相對(duì)人算法拒絕權(quán)提供技術(shù)保障，在自動(dòng)化行政中，相對(duì)人程序抵抗權(quán)能夠保障相對(duì)人充分參與自動(dòng)化行政程序中，即賦予相對(duì)人算法拒絕權(quán)，相對(duì)人有權(quán)拒絕接受政府自動(dòng)化決策做出的行政行為并隨時(shí)要求行政主體人工介入等。然而新技術(shù)的適用能否契合公民的行政需求是行政機(jī)關(guān)選擇提供何種行政方式首先需要考慮的問題，對(duì)于不愿使用自動(dòng)化系統(tǒng)的行政相對(duì)人而言，其有拒絕使用人工智能系統(tǒng)的權(quán)利。[33]政府作為公權(quán)力一方，有義務(wù)為行政相對(duì)人提供可供選擇的行政方式，政府即使在特定領(lǐng)域提供自動(dòng)化行政系統(tǒng)，也不應(yīng)剝奪行政相對(duì)人要求人工行政的權(quán)利。[34]

3.相對(duì)人獲得救濟(jì)權(quán)?！吨腥A人民共和國(guó)憲法》《中華人民共和國(guó)行政處罰法》《中華人民共和國(guó)國(guó)家賠償法》均賦予公民獲得賠償?shù)臋?quán)利?！盁o救濟(jì)則無權(quán)利”，行政機(jī)關(guān)作為自動(dòng)化行政的責(zé)任主體理應(yīng)對(duì)政府自動(dòng)化瑕疵決策造成的損害結(jié)果承擔(dān)相應(yīng)賠償責(zé)任。自動(dòng)化行政過程中的行政處罰行為作為行政處罰的延伸發(fā)展，同樣適用行政賠償?shù)臍w責(zé)原則，把行政行為是否違法作為行政賠償?shù)呐袛鄻?biāo)準(zhǔn)。[35]根據(jù)《中華人民共和國(guó)行政許可法》第八條對(duì)信賴?yán)姹Ｗo(hù)原則的規(guī)定，因行政機(jī)關(guān)需要撤回或者撤銷行政許可對(duì)行政相對(duì)人造成損失的，應(yīng)給予行政相對(duì)人補(bǔ)償。[36]根據(jù)自動(dòng)化行政中多元化參與特征，政府應(yīng)針對(duì)自動(dòng)化行政系統(tǒng)的評(píng)估與認(rèn)證程序建立相應(yīng)的責(zé)任制度，明確企業(yè)及研究機(jī)構(gòu)的責(zé)任，經(jīng)政府機(jī)構(gòu)認(rèn)證的自動(dòng)化行政系統(tǒng)的設(shè)計(jì)者、制造商和銷售者依據(jù)協(xié)議承擔(dān)有限的侵權(quán)責(zé)任，以期保障自動(dòng)化行政系統(tǒng)的規(guī)范運(yùn)行。

【參考文獻(xiàn)】

[1]王張華，顏佳華.人工智能時(shí)代算法行政的公共性審視——基于“人機(jī)關(guān)系”的視野[J].探索，2021（4）：82-95.

[2]盧榮婕，趙靜波.論自動(dòng)化行政的法律規(guī)制[J].長(zhǎng)春理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2020（3）：40-44+49.

[3]敖雙紅，雷金晶.論自動(dòng)化行政及其法律規(guī)制[J].湖南警察學(xué)院學(xué)報(bào)，2017（1）：84-90.

[4]馬顏昕.自動(dòng)化行政的分級(jí)與法律控制變革[J].行政法學(xué)研究，2019（1）：80-92.

[5]吳銳，張若涵.自動(dòng)化行政中對(duì)人工智能算法決策的程序規(guī)制[J].成都理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2022（5）：58-67.

[6]韓軼，張婷.行政處罰中人工智能的應(yīng)用及其邊界考量[J].行政與法，2022（5）：77-84.

[7]Ines Mergel，Noella Edelmann，Nathalie Haug.Defining Digital Transformation：Results from Expert Interviews.[J]Government Information Quarterly，2019（4）.

[8]Mateen Harris.Weapons of Math Destruction： How Big Data Increases Inequality and Threatens Democracy[J].Berkeley Journal of Employment and Labor Law，2018（5）：301-302.

[9]張紅春，章知連.從算法黑箱到算法透明：政府算法治理的轉(zhuǎn)軌邏輯與路徑[J].貴州大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2022（4）：65-74.

[10]陳炳水.推進(jìn)電子政務(wù)：提升現(xiàn)代政府行政能力的現(xiàn)實(shí)途徑[J].社會(huì)科學(xué)，2006（6）：50-57.

[11]徐晶.構(gòu)建服務(wù)型政府進(jìn)程中的行政效率提升研究[D].青島：青島大學(xué)碩士學(xué)位論文，2010：18.

[12]宋貴倫.全面推進(jìn)中國(guó)式社會(huì)建設(shè)現(xiàn)代化[J].前線，2023（1）：18-21.

[13]Meng Y，Shiyao J，Xiongying N.Can AI really help？The Double-edged Sword Effect of AI Assistant on Employees Innovation Behavior[J].Computers in Human Behavior，2024，150.

[14]尤嵩菀，王文龍.美俄軍事智能化發(fā)展及啟示[J].海軍工程大學(xué)學(xué)報(bào)（綜合版），2020（2）：64-69.

[15]朱寧潔.新加坡政府開放數(shù)據(jù)政策研究[J].管理觀察，2019（5）：70-71+73.

[16]詹國(guó)彬.英國(guó)數(shù)字政府轉(zhuǎn)型：價(jià)值理念、技術(shù)工具與制度保障[J].行政論壇，2021（6）：136-143.

[17]卞鷹.德國(guó)電子政務(wù)建設(shè)經(jīng)驗(yàn)及啟示[N].湖南日?qǐng)?bào)，2018-01-30（11）.

[18]廉成，楊飛，張恒燁.韓日電子政務(wù)發(fā)展?fàn)顩r評(píng)析[J].管理觀察，2018（19）：84-85.

[19]胡國(guó)任.自動(dòng)化行政的法律控制[J].克拉瑪依學(xué)刊，2021（2）：52-59.

[20]Ines Mergel，Sukumar Ganapati，Andrew B.Whitford.Agile：A New Way of Governing[J].Public Administration Review，2020（1），161-165.

[21]康偉，周潤(rùn).基層治理適應(yīng)性創(chuàng)新探究——敏捷—韌性治理模式的邏輯進(jìn)路與實(shí)現(xiàn)路徑[J].理論與現(xiàn)代化，2022（5）：43-55.

[22]曹海軍，侯甜甜.敏捷賦能視角下的數(shù)字政府建設(shè)：實(shí)踐緣起與理論建構(gòu)[J].吉林大學(xué)社會(huì)科學(xué)學(xué)報(bào)，2021（6）：170-178+235.

[23]胡敏潔.論自動(dòng)化行政中的瑕疵指令及其救濟(jì)[J].北京行政學(xué)院學(xué)報(bào)，2021（4）：81-88.

[24]尹鋒林，李玲娟.算法私人治理的三個(gè)維度：主體、內(nèi)容與方式[J].理論月刊，2021（3）：141-149.

[25]張凌寒.算法自動(dòng)化決策與行政正當(dāng)程序制度的沖突與調(diào)和[J].東方法學(xué)，2020（6）：4-17.

[26]馬顏昕.自動(dòng)化行政方式下的行政處罰：挑戰(zhàn)與回應(yīng)[J].政治與法律，2020（4）：139-148.

[27]邵紅紅.算法推薦服務(wù)提供者的著作權(quán)注意義務(wù)探究[J].蘇州大學(xué)學(xué)報(bào)（法學(xué)版），2023（1）：26-39.

[28]李宵.人工智能時(shí)代行政執(zhí)法問題研究[D].南寧：廣西大學(xué)碩士學(xué)位論文，2021：20.

[29]彭衛(wèi)貞.人工智能背景下自動(dòng)化行政的法律規(guī)制研究[D].天津：天津商業(yè)大學(xué)碩士學(xué)位論文，2020：18.

[30]陸雪.行政法視角下的自動(dòng)化行政研究[D].蘇州：蘇州大學(xué)碩士學(xué)位論文，2021：32.

[31]Kimberly Stowers，Kevin Leyva，Gabriella M.Hancock，Peter A.Hancock.Life or Death by Robot？[J].Ergonomics

in Design：The Quarterly of Human Factors Applications，2016.

[32]解正山.算法決策規(guī)制——以算法“解釋權(quán)”為中心[J].現(xiàn)代法學(xué)，2020（1）：179-193.

[33]胡敏潔.自動(dòng)化行政的法律控制[J].行政法學(xué)研究，2019（2）：56-66.

[34]張濤.自動(dòng)化系統(tǒng)中算法偏見的法律規(guī)制[J].大連理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2020（4）：92-102.

[35]馬懷德，高辰年.國(guó)家賠償法的發(fā)展與完善[C]//中國(guó)法學(xué)會(huì)行政法學(xué)研究會(huì).修憲之后的中國(guó)行政法——中國(guó)法學(xué)會(huì)行政法學(xué)研究會(huì)2004年年會(huì)論文集.北京：中國(guó)政法大學(xué)出版社，2004：15.

[36]查云飛.行政裁量自動(dòng)化的學(xué)理基礎(chǔ)與功能定位[J].行政法學(xué)研究，2021（3）：114-124.

The Legal Logic and Limit of Government Automatic

Decision-Making Responsibility Identification

Su Wen

Abstract：Government automatic decision-making is a kind of administrative act that is participated by artificial intelligence，partially or completely replaces the participation of administrative subjects，and realizes the automation，unmanned and even intelligence of the administrative behavior process，so as to produce external legal effects. The significance of administrative automation decision-making has a prominent significance in improving administrative efficiency and adhering to the decision-making neutrality，but many aspects are still exposed，especially in the doubt of the responsibility identification standard，the difficult identification of the responsibility subject，the fuzzy division of the scope of responsibility and the confusion of the tort compensation standard. Based on this，the responsible subject of government automated decision-making should be clarified according to the principle of actual participation and the concept of freedom of contract;clarify the scope of responsibility of government automated decision-making;improve the supervision and evaluation

mechanism of government automated decision-making;form the relief mechanism of algorithm interpretation right，algorithm rejection right and damage assessment standard.

Key words：government automation decision-making;administrative efficiency;responsibility determination;responsibility subject;scope of responsibility

（責(zé)任編輯：王正橋）