算法政治：算法介入國家治理的耦合邏輯與政治效應(yīng)

摘要： 進(jìn)入人工智能時(shí)代，算法介入國家治理成為國家治理變革的重要趨勢，算法政治研究成為前沿議題。算法介入國家治理的動(dòng)力包括功能主義、組織契合、社會(huì)工程、政企關(guān)系四種理論解釋；算法通過賦能、賦權(quán)和賦智三種機(jī)制嵌入國家治理過程，進(jìn)而形成了算法系統(tǒng)介入國家治理的三種耦合樣態(tài)：政企合作、政府自建、政社共建。算法在重塑國家內(nèi)部組織結(jié)構(gòu)、官僚自主性與權(quán)力關(guān)系的同時(shí)，也通過算法中介作用對(duì)國家-社會(huì)關(guān)系的演變產(chǎn)生了巨大影響，這涉及國家-社會(huì)間權(quán)力配置、社會(huì)對(duì)國家的約束、國家對(duì)社會(huì)的干預(yù)三個(gè)維度。算法政治的未來研究，一方面要打開算法政治黑箱，考察算法政治的類型學(xué)及其成因；另一方面要深入探究算法政治在微觀、中觀和宏觀層面的政治效應(yīng)，以及智能社會(huì)中日益凸顯的治理算法研究議題。

關(guān)鍵詞： 算法；算法政治；國家治理；國家-社會(huì)關(guān)系；政治效應(yīng)

DOI： 10.19836/j.cnki.37-1100/c.2024.05.012

基金項(xiàng)目： 國家社科基金重大項(xiàng)目“基于大數(shù)據(jù)的智能化社會(huì)治理監(jiān)測、評(píng)估與應(yīng)對(duì)策略研究”（18ZDA110）；清華大學(xué)計(jì)算社會(huì)科學(xué)與國家治理實(shí)驗(yàn)室研究項(xiàng)目。

一、引言

黨的二十屆三中全會(huì)指出：“面對(duì)新一輪科技革命和產(chǎn)業(yè)變革……必須繼續(xù)把改革推向前進(jìn)?！雹僭谶M(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化進(jìn)程中，人工智能作為“新一輪科技革命和產(chǎn)業(yè)變革”的重要驅(qū)動(dòng)力量，正在對(duì)國家治理變革產(chǎn)生深刻影響。在人工智能時(shí)代，算法介入國家治理成為全球范圍內(nèi)國家治理變革的重要趨勢，構(gòu)成近年來國際學(xué)界熱議的前沿議題②。無論是在美國等發(fā)達(dá)國家還是在中國等發(fā)展中國家，均可看到算法作為一項(xiàng)治理技術(shù)正日益廣泛而深入地介入國家治理實(shí)踐。世界各國政府已在公共決策、公共服務(wù)、城市治理、社會(huì)治理等諸多領(lǐng)域積極引入算法技術(shù)，如智慧城市項(xiàng)目在歐洲、亞洲、北美洲等地的全球部署③，這表明將算法技術(shù)嵌入城市治理過程，已成為各國政府共同的治理關(guān)切；又如，基于算法決策系統(tǒng)的各類政府治理實(shí)驗(yàn)亦不斷涌現(xiàn)，包括中國的城市大腦系統(tǒng)、澳大利亞的福利欺詐檢測系統(tǒng)、美國預(yù)測再犯風(fēng)險(xiǎn)的COMPAS系統(tǒng)④等。各國在國家治理過程中引入算法的諸多舉措，蘊(yùn)含著對(duì)算法技術(shù)提升政府運(yùn)作效率、優(yōu)化政府治理績效，進(jìn)而增強(qiáng)國家能力、改善國家-社會(huì)關(guān)系等方面的治理期待①。

算法介入國家治理并非新生事物，在早期的國家治理實(shí)踐中就已出現(xiàn)了“國家計(jì)算”“數(shù)目字管理”等算法政治現(xiàn)象。在現(xiàn)代國家構(gòu)建過程中，政府應(yīng)用數(shù)字、圖表、指數(shù)等治理技術(shù)的政治實(shí)踐更是層出不窮。進(jìn)入數(shù)字智能時(shí)代，算法已經(jīng)成為政府改革及其日常運(yùn)行不可或缺的治理要素。人們既能看到政務(wù)機(jī)器人的實(shí)時(shí)響應(yīng)②、公共服務(wù)的個(gè)性化提供③、城市交通的流量優(yōu)化④、社情民意的算法化感知⑤等一系列善治實(shí)踐，亦可觀察到算法自動(dòng)化決策對(duì)民主程序的威脅⑥、預(yù)測式警務(wù)內(nèi)含的自我強(qiáng)化偏見⑦、算法俘獲與算法操縱對(duì)公共利益的蠶食⑧等新型治理風(fēng)險(xiǎn)的生成。這表明，算法技術(shù)與國家治理的融合正處于初生、動(dòng)蕩與未定的實(shí)驗(yàn)期，智能時(shí)代的國家治理正處在亟須對(duì)經(jīng)典理論進(jìn)行學(xué)理反思乃至建構(gòu)新型理論的關(guān)鍵節(jié)點(diǎn)，以厘清算法與國家治理的耦合邏輯與政治效應(yīng)，明晰算法政治在國家治理既有理論譜系之中的坐標(biāo)定位，從而適時(shí)回應(yīng)實(shí)踐需求、推動(dòng)理論發(fā)展。

既有文獻(xiàn)已對(duì)算法介入國家治理的新現(xiàn)象展開了許多有益的理論探索。不同學(xué)者基于各自的理論視角，借助“算法政府”⑨、“算法行政”⑩、“算法治理”11、“算法官僚制”12、“算法利維坦”13等概念，從不同層次和維度捕捉、描摹與解釋算法時(shí)代國家治理出現(xiàn)的新變化。本文試圖從政治學(xué)視角論述算法介入國家治理的動(dòng)力、邏輯與效應(yīng)，為學(xué)界系統(tǒng)理解算法之于國家治理的深刻影響提供理論框架。

首先從技術(shù)和社會(huì)兩重理論進(jìn)路對(duì)“算法”概念進(jìn)行厘清和界定，進(jìn)而闡明算法介入國家治理何以成為政治學(xué)研究的新興領(lǐng)域。在此基礎(chǔ)上構(gòu)建了一個(gè)理解算法政治的“動(dòng)力—機(jī)制—模式”分析框架，用以闡明國家為何引入、如何嵌入及如何應(yīng)用算法技術(shù)，從這三個(gè)維度試圖解釋算法介入國家治理的耦合邏輯，進(jìn)而從國家-社會(huì)關(guān)系視角考察算法介入國家治理的復(fù)合性政治效應(yīng)。最后嘗試探討算法政治研究的未來議程。

二、智能時(shí)代的算法迭代與國家治理

“算法”是一個(gè)古老而內(nèi)涵豐富的概念，眼下學(xué)界主要從技術(shù)和社會(huì)兩重進(jìn)路理解算法。隨著人工智能時(shí)代的快速推進(jìn)，人類邁入了“算法社會(huì)”①，一個(gè)“算法時(shí)代”②已然到來。國家治理因算法技術(shù)的進(jìn)入而呈現(xiàn)出許多與過往不同的新特征，算法政治成為近年來備受關(guān)注的研究主題。

（一）理解“算法”：技術(shù)進(jìn)路與社會(huì)進(jìn)路

目前，學(xué)界對(duì)“算法”的理解主要沿著兩條脈絡(luò)展開③：一是從技術(shù)視角界定算法，二是從社會(huì)視角對(duì)作為技術(shù)的算法進(jìn)行再審視與再定義。

1.技術(shù)進(jìn)路：機(jī)器智能的路徑

“算法”首先是一個(gè)數(shù)學(xué)詞匯，基本含義是“計(jì)算的方法”。從詞源學(xué)上看，算法的英文algorithm一般被認(rèn)為源自9世紀(jì)數(shù)學(xué)家花拉子米（AI-Khwarizmi）的拉丁文名，這一古老詞匯的原初含義是“一個(gè)符號(hào)運(yùn)算過程”（symbolic computation）④。到了17世紀(jì)，萊布尼茨的研究成果為“算法”一詞注入了“二進(jìn)制運(yùn)算”的新內(nèi)涵，這構(gòu)成數(shù)學(xué)史上“算法”含義的一次重要變遷⑤。

進(jìn)入20世紀(jì)，電子計(jì)算機(jī)的發(fā)明讓人類越來越多地將計(jì)算的任務(wù)交付給這些“用于計(jì)算的機(jī)器”去完成。在此過程中，人類首先需要向計(jì)算機(jī)輸入一系列代碼形式的指令，告訴它以何種方式完成目標(biāo)任務(wù)——此種指令正是計(jì)算機(jī)科學(xué)視野下“算法”的核心內(nèi)涵之所在。計(jì)算機(jī)科學(xué)家將“算法”界定為“用以完成一項(xiàng)任務(wù)的、一系列精確控制的步驟”，認(rèn)為“算法的句法結(jié)構(gòu)體現(xiàn)了一種讓事情發(fā)生的命令結(jié)構(gòu)”⑥。圖靈獎(jiǎng)獲得者Knuth從計(jì)算機(jī)編程視角，將算法的要素與特征總結(jié)為輸入、輸出、有窮性、明確性和有效性⑦，這表明計(jì)算機(jī)意義上的“算法”實(shí)則是“基于特定的計(jì)算，將輸入的數(shù)據(jù)轉(zhuǎn)化為預(yù)期輸出結(jié)果的編碼程序（encoded procedures）”⑧。

綜上，作為技術(shù)的“算法”概念有兩層含義（見圖1）：一是原初數(shù)學(xué)意義上的算法，它體現(xiàn)為抽象的形式邏輯；二是計(jì)算機(jī)出現(xiàn)后，數(shù)學(xué)算法日益以代碼的面貌示人，“計(jì)算機(jī)算法”成為算法的主要存在形態(tài)，它又分為傳統(tǒng)的確定型算法和具備自主學(xué)習(xí)能力的智能算法（機(jī)器智能）兩種基本類型。

2.社會(huì)進(jìn)路：機(jī)器-社會(huì)智能的路徑

社會(huì)視角認(rèn)可算法的技術(shù)性定義，但更關(guān)注算法社會(huì)化應(yīng)用之后的社會(huì)后果，注重考察機(jī)器智能與社會(huì)智能的耦合互動(dòng)過程及其影響。近年來“批判性算法研究”（critical algorithm studies）的興起即是從社會(huì)視角重新審視“算法”。在社會(huì)進(jìn)路的研究脈絡(luò)中，來自社會(huì)學(xué)、政治學(xué)、哲學(xué)等多學(xué)科的學(xué)者主張超出算法的技術(shù)界定來研究算法對(duì)人類社會(huì)的復(fù)雜影響，這種研究視野除了關(guān)注算法的技術(shù)原理外，更關(guān)注其內(nèi)嵌于社會(huì)的過程及后果，關(guān)注算法內(nèi)隱的意識(shí)形態(tài)與世界觀、與人類實(shí)踐的糾纏（entanglement）、對(duì)人類社會(huì)產(chǎn)生的影響，并致力于為此發(fā)展出一套專門的理論框架①。

在批判性算法研究的視野中，“計(jì)算機(jī)算法”并非僅是一串串代碼和指令，而是一種包含了人、機(jī)器與程序的“算法系統(tǒng)”（algorithmic systems）。“算法作為復(fù)雜的社會(huì)-技術(shù)組合體（socio-technical assemblages），包括算法、模型、目標(biāo)、數(shù)據(jù)、訓(xùn)練數(shù)據(jù)、應(yīng)用、硬件——這些都與更廣泛的、致力于生產(chǎn)知識(shí)的社會(huì)努力相聯(lián)系”②。Seaver認(rèn)為，必須在算法系統(tǒng)層次上才能準(zhǔn)確把握Google、Facebook等平臺(tái)賴以運(yùn)作的算法技術(shù)，因?yàn)檫@些算法系統(tǒng)“并不是一個(gè)個(gè)孤立的小盒子，而是規(guī)模龐大、相互連接在一起的存在物，且有成百上千只手伸入其中，對(duì)其展開調(diào)試、更換零件與試驗(yàn)新的安排”。在此種理解中，算法不再是技術(shù)性定義中“程式化、僵硬和連貫一致的存在”，恰恰相反，它是“流動(dòng)、可修改與協(xié)商性的”③。

簡言之，較之于對(duì)算法進(jìn)行技術(shù)性界定，社會(huì)視角更傾向于在算法技術(shù)與人類社會(huì)、機(jī)器智能與社會(huì)智能的互動(dòng)和互構(gòu)中把握算法的意義，因而對(duì)算法的概念建構(gòu)更具多元性、復(fù)雜性與開放性。

（二）算法系統(tǒng)：智能革命的語境

為考察智能革命背景下算法對(duì)國家治理的介入與影響，我們對(duì)“算法”的界定采用計(jì)算機(jī)科學(xué)視角下的狹義界定。這意味著本文僅關(guān)注算法的一種現(xiàn)代形態(tài)——計(jì)算機(jī)算法，特別是其中與智能革命密切相關(guān)的學(xué)習(xí)型算法。在研究取向上，采納社會(huì)視角對(duì)于“算法”的理解進(jìn)路，關(guān)注由機(jī)器智能和社會(huì)智能共同構(gòu)成的廣義“算法系統(tǒng)”所驅(qū)動(dòng)的國家治理新興現(xiàn)象及其政治效應(yīng)。

在智能革命語境中討論算法，亦有必要辨析與算法緊密相關(guān)的兩個(gè)概念。一是算法與數(shù)據(jù)（data）。算法是對(duì)數(shù)據(jù)進(jìn)行的操作，數(shù)據(jù)在算法的操作中呈現(xiàn)意義④。Balkin曾將Kant的名言改編為“沒有數(shù)據(jù)的算法是空洞的，沒有算法的數(shù)據(jù)是盲目的”⑤，用以說明二者之間存在相互依存關(guān)系。換言之，算法若要產(chǎn)出計(jì)算（computation）的結(jié)果并發(fā)揮影響力，離不開數(shù)據(jù)作為原料和算力作為支撐。因此，對(duì)“算法”的討論也必然涉及“數(shù)據(jù)”問題①。二是算法與人工智能（Artificial Intelligence， AI）。依托學(xué)習(xí)型算法，機(jī)器能夠以智慧化的方式完成任務(wù)，由此造就了“能夠正確解釋外部數(shù)據(jù)，從這些數(shù)據(jù)中學(xué)習(xí)，并運(yùn)用這些學(xué)習(xí)到的知識(shí)，通過靈活適應(yīng)的方式來實(shí)現(xiàn)特定目標(biāo)和完成任務(wù)”②的人工智能?？梢?，學(xué)習(xí)型算法是人工智能的關(guān)鍵構(gòu)件。

（三）算法政治：一個(gè)新興的研究題域

伴隨著智能革命進(jìn)程，算法對(duì)人類社會(huì)各領(lǐng)域產(chǎn)生了深遠(yuǎn)影響。在社交應(yīng)用中，“為你推薦”“大家都在看”等算法推薦模塊已是常見的信息配置機(jī)制；在新聞獲取過程中，“算法新聞”提供的內(nèi)容聚合服務(wù)已成為公眾日益重要的信息來源；在網(wǎng)絡(luò)搜索領(lǐng)域，“自動(dòng)補(bǔ)全”“按相關(guān)性排序”“個(gè)性化搜索”等算法驅(qū)動(dòng)的信息檢索服務(wù)已成為標(biāo)準(zhǔn)化功能設(shè)置；在交通執(zhí)法領(lǐng)域，“天眼抓拍”等高精度算法監(jiān)控設(shè)備已被廣泛用于違法行為識(shí)別；等等。上述這些不勝枚舉的實(shí)例表明，人類社會(huì)已邁入算法時(shí)代。

算法介入國家治理并非新生事物。在“國家計(jì)算”或“數(shù)目字管理”的視閾中，國家早在前現(xiàn)代社會(huì)就已借助數(shù)字、圖表等計(jì)算方法來試圖測算和理解社會(huì)；而步入現(xiàn)代社會(huì)后，國家又設(shè)計(jì)出更為復(fù)雜的數(shù)字化管理體系來應(yīng)對(duì)日益復(fù)雜的治理場景③，這表明“計(jì)算方法”早已是現(xiàn)代國家構(gòu)建的必要構(gòu)成。進(jìn)入數(shù)字時(shí)代，在全球數(shù)字政府建設(shè)進(jìn)程中，算法成為數(shù)字政府建設(shè)不可或缺的治理要素④?？傊?，無論是廣義的算法還是狹義的代碼形式的算法，均在國家治理實(shí)踐中扮演著重要角色。然而，上述國家治理的“算法”應(yīng)用很少被視作表征國家治理演進(jìn)趨勢的“算法政治”實(shí)踐，而更多被作為治理工具箱中的一種新生治理技術(shù)來看待。

目前，學(xué)界關(guān)于“算法治理”“算法政府”等問題的研究通常認(rèn)為，算法政治的生成與政治場域中“智能算法”的廣泛應(yīng)用緊密相連。智能算法以數(shù)據(jù)為原料、以代碼為載體、以自主學(xué)習(xí)為核心特征，其運(yùn)作除遵循一般的計(jì)算邏輯外，自身還擁有一套特異性邏輯，如迭代學(xué)習(xí)、自我強(qiáng)化、黑箱性、隱蔽性等，這使得這項(xiàng)技術(shù)與政府先前使用的傳統(tǒng)算法技術(shù)相比，具有更高的技術(shù)自主性、更強(qiáng)的原理隱蔽性與更廣的影響輻射性，以至迥異于過去許多簡單可控的治理技術(shù)，衍生出一種新型“技術(shù)權(quán)力”⑤，因此也成為智能時(shí)代國家治理變革日益凸顯的新興研究領(lǐng)域。

算法政治的兩個(gè)基本研究問題是“算法治理”（governance by algorithms）與“治理算法”（governance of algorithms）問題⑥。其中，“算法治理”的核心是各類政治主體如何利用算法達(dá)成政治意志，如國家如何利用算法提升其理解社會(huì)運(yùn)行的能力，社會(huì)公眾如何借助算法更好地參與公共生活，算法如何賦能政府提升其治理績效等⑦；“治理算法”則關(guān)注政府、企業(yè)、社會(huì)組織、社會(huì)公眾等多元主體如何理解以及應(yīng)對(duì)算法在社會(huì)化應(yīng)用過程中所引發(fā)的一系列倫理問題與社會(huì)風(fēng)險(xiǎn)，進(jìn)而實(shí)現(xiàn)算法向善的價(jià)值目標(biāo)①。具體而言，本文關(guān)注的“算法政治”聚焦算法介入國家治理過程的動(dòng)力、機(jī)制及模式，尤其是算法催生的新型技術(shù)權(quán)力與國家這一關(guān)鍵政治主體的交互過程及其潛在政治效應(yīng)。國家作為公共權(quán)力的掌握者，其對(duì)于算法技術(shù)的使用，將對(duì)公民權(quán)益與社會(huì)福祉產(chǎn)生更為直接、普遍和強(qiáng)制性的影響，因而構(gòu)成算法政治實(shí)踐的核心場域，是最為直觀和典型的算法政治形式。

三、算法介入國家治理：動(dòng)力、機(jī)制與模式

科技革新代表了生產(chǎn)力質(zhì)的飛躍，始終是國家發(fā)展的重要驅(qū)動(dòng)力。在現(xiàn)代國家建設(shè)進(jìn)程中，科技革命深刻影響著國家構(gòu)建及其運(yùn)行的方方面面。譬如，工業(yè)革命推動(dòng)了現(xiàn)代科層制政府的形成，互聯(lián)網(wǎng)革命帶來了無縫隙政府的萌芽，第四次科技革命驅(qū)動(dòng)著國家治理的智能化轉(zhuǎn)型?？萍几镄陆槿雵抑卫硪话阈杞?jīng)歷技術(shù)采納、技術(shù)嵌入和技術(shù)耦合三個(gè)階段。以算法介入為例。首先需要產(chǎn)生一定的技術(shù)介入動(dòng)力，這構(gòu)成算法政治實(shí)踐的前置性條件，是政府為何要引入算法的技術(shù)采納問題；其次是在政府決定引入算法之后，算法以何種機(jī)制嵌入政府運(yùn)行過程，這是政府如何獲得算法技術(shù)的問題；最后是在政府將算法納入治理工具箱以后，即進(jìn)入到算法治理應(yīng)用階段。此時(shí)問題的關(guān)鍵是，政府如何使用算法技術(shù)以達(dá)成預(yù)期目標(biāo)——也正是在此過程中，算法與國家治理耦合形成了不同模式。

由此可見，算法介入國家治理包含技術(shù)進(jìn)入動(dòng)力、嵌入機(jī)制與耦合模式三個(gè)要素，涉及政府采納、獲得和應(yīng)用算法技術(shù)的三個(gè)階段②?；诖?，提出“動(dòng)力—機(jī)制—模式”的框架來分析和理解算法與國家治理的耦合過程與嵌入邏輯。其中，動(dòng)力維度涉及推動(dòng)算法介入國家治理的多重因素，機(jī)制維度涉及算法嵌入國家治理的多元方式，模式維度涉及算法與政府治理體系的不同耦合樣態(tài)，三者共同構(gòu)成以國家為中心的算法政治實(shí)踐的全過程。

（一）動(dòng)力：算法技術(shù)為何介入國家運(yùn)行

政府為何引入算法技術(shù)？哪些因素推動(dòng)了算法技術(shù)進(jìn)入政治過程？可以從以下四個(gè)理論視角（見表1）來理解算法技術(shù)采納的政治邏輯。

一是功能主義視角。此視角關(guān)注國家治理中的算法引入所能夠?yàn)閲疫\(yùn)行帶來的諸多增益，這源于機(jī)器智能較之于人類智能所擁有的幾大優(yōu)勢：一是速度或效率優(yōu)勢，即面對(duì)復(fù)雜繁重的治理任務(wù)，政府能夠借助預(yù)先設(shè)計(jì)的算法自動(dòng)高效地處理海量數(shù)據(jù)和完成大量工作①；二是節(jié)約治理成本優(yōu)勢，即在政府預(yù)算緊張的現(xiàn)實(shí)約束下，引入算法技術(shù)被認(rèn)為從長遠(yuǎn)來看能夠?yàn)檎?jié)省更多經(jīng)費(fèi)，如應(yīng)用算法技術(shù)幫助處理文書工作即可節(jié)約大量人力資源成本②；三是精準(zhǔn)和一致優(yōu)勢，計(jì)算機(jī)理性的這兩種特性被認(rèn)為能夠給出更加公平的算法判斷③；四是個(gè)性化或定制化優(yōu)勢，即過去政府公共服務(wù)的個(gè)性化提供在很大程度上受制于技術(shù)約束，而今算法支持下的公民數(shù)據(jù)收集與挖掘讓公民得以參與到個(gè)性化公共服務(wù)的共同生產(chǎn)之中，實(shí)現(xiàn)大規(guī)模個(gè)性化定制的治理目標(biāo)④；五是治理信息和知識(shí)供給優(yōu)勢，這是機(jī)器智能的關(guān)鍵優(yōu)勢，即能夠從大數(shù)據(jù)中自主學(xué)習(xí)并進(jìn)行預(yù)測，據(jù)此為國家治理提供更加豐富的治理信息和治理知識(shí)⑤。

二是組織契合視角。該視角注意到，算法系統(tǒng)的運(yùn)作原理與韋伯經(jīng)典科層制理論中的理性化、非人格化、規(guī)則化、專業(yè)化、客觀化要素具有內(nèi)在的契合性⑥，這為算法技術(shù)進(jìn)入政府、成為政府組織自然的技術(shù)延伸營造了相宜的環(huán)境。例如Peeters和Schuilenburg認(rèn)為，算法本質(zhì)上是一種官僚化工具，它以類似乃至更甚于官僚組織的方式對(duì)人類行為與決策進(jìn)行組織與安排⑦。算法進(jìn)入政府之后形成的“算法官僚”，延續(xù)了傳統(tǒng)官僚制設(shè)計(jì)的工具理性邏輯，在此意義上，過度依賴算法官僚可能讓“韋伯鐵籠”延伸為“算法鐵籠”⑧。更多的類比論證還包括，對(duì)作為社會(huì)-技術(shù)存在的算法系統(tǒng)與官僚制組織進(jìn)行的類比⑨，以及Muellerleile等學(xué)者對(duì)“數(shù)字韋伯主義”的相關(guān)論述⑩。從組織契合視角來看，政府科層制過去一直致力于實(shí)現(xiàn)非人格化的、基于規(guī)則的組織理性化運(yùn)作，而算法的新近發(fā)展則為現(xiàn)實(shí)中的政府組織更接近于韋伯所設(shè)想的理想類型提供了技術(shù)契機(jī)。

三是社會(huì)工程視角。該視角從更為抽象的觀念以至意識(shí)形態(tài)層面出發(fā)，來解釋許多行動(dòng)者對(duì)推動(dòng)算法技術(shù)進(jìn)入公共部門的偏好乃至狂熱。Scott在《國家的視角》一書中曾提到“社會(huì)工程”（social engineering）及其背后的極端現(xiàn)代主義意識(shí)形態(tài)，用以批評(píng)國家權(quán)力出于這種信念對(duì)社會(huì)大肆進(jìn)行的諸多科學(xué)化改造11。而在社會(huì)工程的篤信者看來，許多國家改造項(xiàng)目失敗的根源是技術(shù)還不夠先進(jìn)和完善。但在如今的技術(shù)條件下，國家大規(guī)模收集和分析數(shù)據(jù)、提升社會(huì)可讀性的能力在算法的加持下似乎有了新的突破。于是，過去許多棘手的社會(huì)治理問題現(xiàn)下或有望依靠算法來得到解決。這種信念也被Morozov稱為“解決方案主義”①，它揭示了驅(qū)動(dòng)算法進(jìn)入公共部門的一種觀念動(dòng)力。

四是政企關(guān)系視角。由于算法政府的建設(shè)在現(xiàn)實(shí)中多依賴政府與外部機(jī)構(gòu)特別是科技企業(yè)的合作，因此不少學(xué)者特別關(guān)注企業(yè)在游說政府應(yīng)用算法技術(shù)過程中的角色。諸如“算法影子官僚”②、“算法俘獲”③等概念的提出，凸顯了算法企業(yè)基于商業(yè)逐利邏輯不斷向政府推銷和植入其算法技術(shù)的現(xiàn)象④，這構(gòu)成算法進(jìn)入公共部門背后隱蔽的經(jīng)濟(jì)和利益驅(qū)動(dòng)力。這一視角為算法從私營部門向公共部門各領(lǐng)域的持續(xù)擴(kuò)張態(tài)勢提供了一種政治經(jīng)濟(jì)學(xué)的解釋。

（二）機(jī)制：算法技術(shù)如何嵌入國家治理

政府如何引入算法技術(shù)？算法技術(shù)以何種機(jī)制嵌入政府？諸多研究探討了算法技術(shù)嵌入國家治理過程的具體機(jī)制和路徑問題。從理論角度而言，賦能政府、賦權(quán)社會(huì)和賦智決策是算法嵌入的三種關(guān)鍵機(jī)制⑤。其中，算法賦能機(jī)制概括了算法技術(shù)與政府內(nèi)部各職能部門日常工作的耦合過程，算法賦權(quán)機(jī)制側(cè)重算法技術(shù)對(duì)社會(huì)多元主體組織和參與能力的增強(qiáng)作用，算法賦智機(jī)制強(qiáng)調(diào)算法技術(shù)如何匯集眾智，進(jìn)而從綜合維度提升國家治理的決策質(zhì)量。這三種機(jī)制在理論上相互區(qū)分，在實(shí)踐中則往往相互交織，并經(jīng)由更多具體的操作化路徑，使算法得以嵌入國家治理過程。

首先，算法通過賦能機(jī)制嵌入國家日常運(yùn)行。在人工智能時(shí)代，無論是政府自身還是社會(huì)經(jīng)濟(jì)運(yùn)行都日益數(shù)字化、智能化，算法成為政府機(jī)構(gòu)日常運(yùn)行的必要治理技術(shù)⑥。算法賦能政府的操作化路徑包括政府服務(wù)部門應(yīng)用算法自動(dòng)化決策系統(tǒng)對(duì)福利申請(qǐng)者進(jìn)行資格審核與福利發(fā)放⑦、交通管理部門依托算法系統(tǒng)對(duì)交通違章進(jìn)行自動(dòng)識(shí)別⑧、司法部門利用智能算法系統(tǒng)輔助量刑決策的實(shí)踐⑨等。算法賦能不僅可以顯著促使政府提升自身運(yùn)行效率，提高其精準(zhǔn)科學(xué)決策、優(yōu)化考核問責(zé)的能力，還能夠有效地強(qiáng)化政府更寬領(lǐng)域、更長時(shí)段、更精細(xì)地感知和干預(yù)經(jīng)濟(jì)社會(huì)運(yùn)行的能力。

其次，算法技術(shù)通過賦權(quán)社會(huì)促進(jìn)政社協(xié)同。算法技術(shù)的普及應(yīng)用推動(dòng)了社會(huì)成員智能素養(yǎng)的培育，提升了社會(huì)公眾理解、連接和使用算法服務(wù)及智能應(yīng)用的能力，進(jìn)而增強(qiáng)了整個(gè)社會(huì)進(jìn)行信息處理、訴求表達(dá)和集體行動(dòng)的能力，促進(jìn)了國家治理過程中的社會(huì)參與。算法賦權(quán)社會(huì)的典型路徑包括政府投放政務(wù)機(jī)器人促進(jìn)政民實(shí)時(shí)互動(dòng)⑩、利用自然語言分析技術(shù)解析網(wǎng)絡(luò)表達(dá)并及時(shí)推進(jìn)政府回應(yīng)11等。在此過程中，算法技術(shù)及其應(yīng)用能夠促使政府、科技企業(yè)、科技社群、社會(huì)成員等多元治理主體構(gòu)建起生態(tài)伙伴關(guān)系12，從而一方面培育社會(huì)協(xié)同能力、促進(jìn)算法創(chuàng)新及其應(yīng)用場景開發(fā)，另一方面構(gòu)建政社協(xié)同格局、保障算法治理應(yīng)用的社會(huì)合法性及其日常化運(yùn)行。

最后，算法技術(shù)通過賦智決策實(shí)現(xiàn)人機(jī)共治。算法系統(tǒng)嵌入政府運(yùn)行本質(zhì)上反映了人機(jī)共治的產(chǎn)生，這影響著政府決策過程及權(quán)力關(guān)系的演變。Yeung提出了一個(gè)算法規(guī)制的類型學(xué)框架，對(duì)理解算法如何經(jīng)由賦智機(jī)制嵌入決策頗具啟發(fā)意義。依據(jù)算法應(yīng)用類型與人機(jī)共治模式，算法賦智包括下列類別①：按照標(biāo)準(zhǔn)設(shè)定、監(jiān)控與信息收集、執(zhí)法與制裁三個(gè)維度進(jìn)行劃分。其中，在標(biāo)準(zhǔn)設(shè)定層面，可分為標(biāo)準(zhǔn)固定型（簡單的算法系統(tǒng)）與標(biāo)準(zhǔn)可變型（具有適應(yīng)性的、智慧的算法系統(tǒng)）；在監(jiān)控與信息收集層面，可分為歷史數(shù)據(jù)型（反應(yīng)式的算法系統(tǒng)）和推斷數(shù)據(jù)型（預(yù)測式的算法系統(tǒng)）；在執(zhí)法與制裁層面，可分為自動(dòng)型（算法自主決策）和建議型（算法輔助決策）。這呈現(xiàn)了算法系統(tǒng)的兩種基本運(yùn)作邏輯（反應(yīng)邏輯與預(yù)測邏輯），以及人機(jī)共治的兩種基本方式（算法輔助與算法取代），它們共同構(gòu)成算法賦智的多元實(shí)現(xiàn)路徑。

（三）模式：算法與國家治理的耦合樣態(tài)

政府如何將算法技術(shù)融入現(xiàn)有的治理結(jié)構(gòu)？抑或算法技術(shù)如何重塑政府？簡言之，算法系統(tǒng)與國家治理通過多元方式耦合以促使政府形成算法治理體系及能力。政企合作、政府自建和政社共建是國家-算法耦合的三種常見樣態(tài)。

一是政企合作模式。這源于算法的技術(shù)復(fù)雜性及其應(yīng)用的場景復(fù)雜性，因而政府與企業(yè)合作成為克服這兩種復(fù)雜性的常見模式。該模式的主要實(shí)現(xiàn)機(jī)制是公私合營或政府采購，譬如經(jīng)由政府采購程序獲得私營部門的技術(shù)能力，或者通過公私合營構(gòu)建支撐算法系統(tǒng)開發(fā)及運(yùn)行維護(hù)的市場主體。該機(jī)制的優(yōu)勢是政府獲得的算法技術(shù)將更具專業(yè)性，并傾向于擁有更好的效能，而其劣勢則肇因于此模式中的委托-代理關(guān)系，即從中可能衍生出信息不對(duì)稱、監(jiān)管困難、俘獲與尋租等問題②。政府機(jī)構(gòu)通常從科技企業(yè)購買和移植算法系統(tǒng)，而較少參與這些系統(tǒng)的開發(fā)和設(shè)計(jì)過程，這導(dǎo)致政府對(duì)這些算法系統(tǒng)知之甚少，在算法系統(tǒng)出錯(cuò)之后亦無力提供解釋③，由此加劇了算法不透明和監(jiān)督問責(zé)的困境。

二是政府自建模式。Engstrom等學(xué)者④較為推崇這一方式，認(rèn)為其優(yōu)勢在于政府與技術(shù)人員能夠在算法開發(fā)設(shè)計(jì)階段同地辦公、充分溝通并緊密協(xié)作，這有利于政府即時(shí)、動(dòng)態(tài)地調(diào)校和優(yōu)化算法系統(tǒng)。同時(shí)，較之于外包至商業(yè)機(jī)構(gòu)，這一方式有助于更好地應(yīng)對(duì)對(duì)抗性學(xué)習(xí)（adversarial learning）問題，從而在政府算法系統(tǒng)運(yùn)行方面更具安全性。更重要的是，經(jīng)此方式，政府將能夠掌控開發(fā)過程、提升自身能力并獲得嵌入式的技術(shù)專長（embedded technical expertise）。不過，這一技術(shù)嵌入模式盡管優(yōu)勢顯著，但在現(xiàn)實(shí)中卻常因受制于政府人力、財(cái)政能力等資源約束，而難以成為實(shí)踐的主流。

三是政社共建模式，即政府通過與學(xué)術(shù)機(jī)構(gòu)、非政府組織等社會(huì)力量或志愿力量合作，或通過發(fā)起社會(huì)眾包競賽等方式來引入算法技術(shù)。此種算法嵌入模式的優(yōu)勢在于，能夠調(diào)動(dòng)社會(huì)力量參與政府算法系統(tǒng)共建，有效利用社會(huì)創(chuàng)新能力，并能夠在一定程度上調(diào)和前兩種方式中政府面臨的“自建還是購買”權(quán)衡（the made or buy trade-off）。但其劣勢則在于，社會(huì)開發(fā)的技術(shù)應(yīng)用范圍往往有限，技術(shù)可靠性和運(yùn)行韌性時(shí)常堪憂，且通常在大型、復(fù)雜的任務(wù)上表現(xiàn)欠佳。

四、算法政治的效應(yīng)：基于國家-社會(huì)關(guān)系視角

算法介入國家治理所引發(fā)的多維效應(yīng)已引起廣泛關(guān)注。社會(huì)學(xué)視角特別關(guān)注國家治理算法化的社會(huì)控制后果，法學(xué)視角更為聚焦算法對(duì)行政法及政府行為之合法性的影響，組織學(xué)視角更注重探討算法對(duì)政府科層制組織形態(tài)的重塑。本文旨在從政治學(xué)視角系統(tǒng)考察算法政治興起的效應(yīng)，尤其是從國家-社會(huì)關(guān)系經(jīng)典視角出發(fā)，全面探析算法介入國家治理將產(chǎn)生何種政治后果。

（一）算法化的國家與社會(huì)

國家治理引入算法系統(tǒng)將變革國家自身，帶來國家的算法化，主要體現(xiàn)在以下幾個(gè)方面：

一是變革政府組織模式。科層制是政府組織的基本形式，而算法的進(jìn)入將推動(dòng)政府內(nèi)部形成一種新的組織、協(xié)調(diào)與合作機(jī)制。例如，Meijer等學(xué)者對(duì)德國與荷蘭地方警務(wù)部門的預(yù)測性警務(wù)實(shí)踐研究發(fā)現(xiàn)，兩地政府部門均會(huì)圍繞算法系統(tǒng)的引入來重新安排工作，且在不同組織規(guī)范與行政文化的影響下，兩地分別形成了更強(qiáng)調(diào)縱向等級(jí)控制的“算法牢籠”（the algorithmic cage）模式，和更強(qiáng)調(diào)水平協(xié)作生產(chǎn)的“算法同僚”（the algorithmic colleague）模式①。

二是重塑官僚角色與自由裁量權(quán)。算法系統(tǒng)之于人類官僚具有替代與輔助兩重效應(yīng)。一方面，算法系統(tǒng)將接管過去由人類官僚從事的許多日常工作，由是人類官僚的角色將發(fā)生轉(zhuǎn)變，即更多轉(zhuǎn)向監(jiān)督算法系統(tǒng)運(yùn)行、處理例外狀況等；另一方面，算法系統(tǒng)能夠?yàn)槿祟惞倭诺臎Q策判斷提供智力支持，其輸出的智能化研判可作為一種新型決策建議供人類官僚參考，此時(shí)人類官僚的任務(wù)更多轉(zhuǎn)為與數(shù)據(jù)科學(xué)家合作，將自身專業(yè)知識(shí)與算法研判相結(jié)合以作出更為科學(xué)、精準(zhǔn)的決策②。在前者的情形中，人類官僚的自由裁量權(quán)實(shí)際上受到了算法系統(tǒng)的限制或取代；而在后者的場景中，人類官僚的自由裁量權(quán)事實(shí)上得到了增強(qiáng)，因其在決定如何利用算法判斷方面獲得了更多的自主性③。

三是重構(gòu)政府內(nèi)部權(quán)力關(guān)系。算法系統(tǒng)的引入打破了政府內(nèi)部既有的權(quán)力格局，催生出新的權(quán)力關(guān)系。一方面，算法專家、數(shù)據(jù)科學(xué)家、科技企業(yè)等局外群體進(jìn)入政府內(nèi)部，協(xié)助政府建造和應(yīng)用算法系統(tǒng)。此類群體基于對(duì)算法知識(shí)與技能的掌握，實(shí)質(zhì)上獲得了一種專業(yè)化的影響力與支配權(quán)④，這導(dǎo)致政府內(nèi)部的權(quán)力運(yùn)行出現(xiàn)外部化趨勢；另一方面，政府內(nèi)部掌控算法系統(tǒng)的部門獲得了額外的技術(shù)與信息優(yōu)勢，因此在橫向權(quán)力關(guān)系中將擁有更多的話語權(quán)和更為凸顯的權(quán)力地位⑤，在縱向權(quán)力關(guān)系中則將改變過去政府上下級(jí)之間的信息不對(duì)稱現(xiàn)象⑥，產(chǎn)生權(quán)力轉(zhuǎn)移效應(yīng)。

與此同時(shí)，伴隨著國家運(yùn)行的算法化進(jìn)程，社會(huì)也經(jīng)歷著算法化過程。無論是從微觀層次個(gè)體的經(jīng)濟(jì)與社會(huì)行為，還是從中觀層次市場與社會(huì)組織的運(yùn)行過程而言，算法都成為智能社會(huì)不可或缺的基礎(chǔ)要素⑦。例如，算法已成為社會(huì)媒體應(yīng)用中信息分發(fā)、網(wǎng)絡(luò)過濾的常見技術(shù)裝置，而生成式人工智能的普及應(yīng)用更是促使內(nèi)容生成、內(nèi)容聚合成為每個(gè)人越來越離不開的數(shù)字生態(tài)。此外，算法在電子商務(wù)、金融信貸、快遞服務(wù)等領(lǐng)域也得到了廣泛使用，正逐漸成為降低對(duì)傳統(tǒng)勞動(dòng)力依賴的智能化替代方案。而且，社會(huì)治理的算法化進(jìn)程也在加快推進(jìn)。為適配社會(huì)治理的算法化進(jìn)程，數(shù)字服務(wù)日益成為如水電一般尋常普惠的社會(huì)基礎(chǔ)設(shè)施，以將每一位社會(huì)成員都納入算法系統(tǒng)的操作范圍，使之利用基于算法推斷的“算法身份”來與國家展開互動(dòng)，并以此得到國家的差異化、個(gè)性化對(duì)待。

（二）算法驅(qū)動(dòng)的國家-社會(huì)關(guān)系變遷

算法介入國家治理極大地推進(jìn)了國家和社會(huì)的算法化進(jìn)程，進(jìn)而對(duì)智能時(shí)代國家-社會(huì)關(guān)系的重塑產(chǎn)生了巨大影響。

首先，在國家與社會(huì)之間的權(quán)力配置維度，算法治理被認(rèn)為具有權(quán)力再分配效應(yīng)，可能加劇政治社會(huì)不平等并引致國家與社會(huì)之間的權(quán)力配置失衡①：一是算法治理中依舊存在操縱算法系統(tǒng)（gaming the system）的可能性，而擁有更多金錢、關(guān)系等資源的群體往往比弱勢群體更有能力操縱算法為己所用②，這意味著在機(jī)器配置公共資源的鐵面無私外衣下，一個(gè)馬太效應(yīng)的故事繼續(xù)變裝上演。二是算法的不均衡賦權(quán)效應(yīng)。在算法治理的版圖中，因算法擴(kuò)張而獲得新型權(quán)力的“代碼精英”（the coding elite）③正日益崛起，而本就掌握公共權(quán)力的政府則在與這一群體的合作過程中獲得了更多數(shù)據(jù)賦予的知情、評(píng)分、排序等權(quán)力。相較之下，普通個(gè)體在國家精算邏輯擴(kuò)張的過程中卻通常處于相當(dāng)被動(dòng)和選擇極為有限的境地：個(gè)體倘若拒絕被數(shù)字化，那么在一個(gè)算法治理的世界中，這很可能意味著失去獲取公共服務(wù)乃至政治身份的機(jī)會(huì)，成為“余數(shù)生命”④。

其次，在社會(huì)對(duì)國家的約束維度，算法介入之于政府行為正當(dāng)性和問責(zé)性的影響值得深入思考。一是民主侵蝕與正當(dāng)程序問題。反應(yīng)式算法自動(dòng)化決策具有瞬時(shí)性，對(duì)原有的行政程序環(huán)節(jié)進(jìn)行了極大的壓縮，預(yù)測式算法則更是以難為人類所理解的機(jī)器理性輸出著一系列結(jié)果，并據(jù)此指導(dǎo)政府調(diào)配公共資源。而在這些過程中，公眾參與、討論協(xié)商、專家論證等一系列環(huán)節(jié)均可被排除在外，或者不被需要⑤。在此意義上，算法治理的技術(shù)邏輯與權(quán)利意義上的民主邏輯產(chǎn)生了沖突，算法治理面臨著去民主化的風(fēng)險(xiǎn)⑥。更重要的是，當(dāng)算法系統(tǒng)出錯(cuò)或出現(xiàn)偏見之時(shí)，受到算法系統(tǒng)傷害的公民面對(duì)政府將代理權(quán)和自由裁量權(quán)下放給算法的現(xiàn)實(shí)，時(shí)常會(huì)遭遇權(quán)利救濟(jì)和問責(zé)障礙⑦。二是權(quán)力濫用與監(jiān)督問責(zé)問題。算法治理可能促使政府以算法決策不可解釋性為由，逃避對(duì)公共決定的回應(yīng)與責(zé)任承擔(dān)，抑或是在技術(shù)外包給私人企業(yè)的情況下將責(zé)任推諉給科技企業(yè)⑧。

再次，在國家對(duì)社會(huì)的干預(yù)維度，算法獨(dú)特的運(yùn)作機(jī)理將改變過去國家對(duì)社會(huì)的干預(yù)邏輯，推動(dòng)形成新的干預(yù)調(diào)控模式。算法嵌入的運(yùn)行原理是社會(huì)測量和社會(huì)計(jì)算⑨，主要涉及問題定義、問題的形式化、數(shù)據(jù)收集與整合、數(shù)據(jù)處理與知識(shí)生產(chǎn)、應(yīng)用算法知識(shí)采取干預(yù)措施五個(gè)步驟⑩。此種運(yùn)作機(jī)理為國家干預(yù)社會(huì)提供了兩種新思路：一是基于預(yù)測的行動(dòng)邏輯。算法預(yù)測讓國家能夠依靠機(jī)器智慧獲得“先知”的能力，從而先發(fā)制人地進(jìn)行治理。二是基于設(shè)計(jì)的治理邏輯。在算法和數(shù)據(jù)驅(qū)動(dòng)下，國家將規(guī)則與價(jià)值規(guī)范預(yù)先內(nèi)置于算法系統(tǒng)的設(shè)計(jì)當(dāng)中，而后經(jīng)由算法系統(tǒng)對(duì)這些設(shè)計(jì)要旨的自動(dòng)化執(zhí)行，來巧妙、隱蔽和更為自然地達(dá)成治理目標(biāo)。這種治理模式的核心是設(shè)計(jì)和改變算法系統(tǒng)中行為者的選擇架構(gòu)（choice architecture）①，因而有別于行政命令和法律等剛性干預(yù)機(jī)制，為國家干預(yù)社會(huì)提供了一種更為軟性的算法控制機(jī)制。

當(dāng)國家基于上述兩種邏輯干預(yù)社會(huì)運(yùn)行時(shí)，將會(huì)產(chǎn)生何種效應(yīng)？依賴算法知識(shí)的預(yù)測式治理與強(qiáng)調(diào)事前設(shè)計(jì)的設(shè)計(jì)式治理，實(shí)際上涉及國家自主性與社會(huì)復(fù)雜性的更深層次問題。因此，算法對(duì)社會(huì)復(fù)雜性的簡約化處置、對(duì)多元社會(huì)價(jià)值的剛性化操持，均可能引致一系列算法治理的潛在風(fēng)險(xiǎn)與治理失敗，甚至對(duì)既有國家-社會(huì)互動(dòng)機(jī)制造成破壞性效應(yīng)。

事實(shí)上，在算法應(yīng)用于國家治理的新興全球?qū)嵺`中，已有越來越多的現(xiàn)實(shí)案例表明，當(dāng)算法介入國家治理過程時(shí)，算法系統(tǒng)的運(yùn)行有效性、透明度、自動(dòng)化等一系列特質(zhì)，都會(huì)對(duì)國家算法治理發(fā)生地的國家-社會(huì)關(guān)系產(chǎn)生多重影響。例如，荷蘭政府在2014—2020年投入使用的用于檢測潛在福利欺詐行為并進(jìn)行風(fēng)險(xiǎn)評(píng)分的SyRI（系統(tǒng)風(fēng)險(xiǎn)指示）系統(tǒng)，就因其算法不透明和社會(huì)監(jiān)視特性而引發(fā)了社會(huì)恐懼。在政府拒絕披露算法系統(tǒng)細(xì)節(jié)的情況下，當(dāng)?shù)厣鐣?huì)組織將政府告上法庭，最終海牙法院以違反人權(quán)規(guī)范為由裁定政府停止使用該系統(tǒng)②。又如，在預(yù)測性警務(wù)領(lǐng)域，著名的PredPol算法系統(tǒng)已在美國大約60個(gè)警務(wù)部門得到使用。最初，該系統(tǒng)被寄望能夠預(yù)先阻止犯罪活動(dòng)，從而徹底變革執(zhí)法方式。但在實(shí)踐中，由于該系統(tǒng)使用了復(fù)雜的算法，其運(yùn)行效能一直難以有效評(píng)估③。

除了引發(fā)集體行動(dòng)和算法訴訟外，算法介入國家治理所引發(fā)的更為深遠(yuǎn)的政治后果莫過于荷蘭的Toeslagenaffaire丑聞。2013年，荷蘭稅務(wù)和海關(guān)管理局一個(gè)名為Toeslagen的部門在管理育兒津貼的過程中，引入和使用了一套基于智能算法的風(fēng)險(xiǎn)評(píng)估模型，而在2019年人們發(fā)現(xiàn)，有數(shù)以萬計(jì)的父母被該系統(tǒng)不公平地歸類為潛在的詐騙犯。此事曝光以后，最終導(dǎo)致了2021年荷蘭內(nèi)閣的辭職④。

值得深思的是，以上事件并非孤例。數(shù)據(jù)正義實(shí)驗(yàn)室2022年發(fā)布的一份研究報(bào)告顯示，在美國、澳大利亞、加拿大等多個(gè)國家，已有61個(gè)應(yīng)用算法自動(dòng)化決策系統(tǒng)的政府項(xiàng)目被取消或暫停，這些項(xiàng)目多來自福利欺詐偵查、警務(wù)與法律、兒童保護(hù)等領(lǐng)域，其被取消的原因包括對(duì)算法系統(tǒng)有效性的質(zhì)疑、算法項(xiàng)目受到來自社會(huì)的批評(píng)、涉及法律訴訟等⑤。這意味著在全球范圍內(nèi)，與國家治理的算法化進(jìn)程相伴生的另一趨勢是，一些國家正選擇在實(shí)踐中暫?；蛉∠麘?yīng)用算法系統(tǒng)，這些算法系統(tǒng)引發(fā)了國家與社會(huì)之間的沖突，對(duì)既有的國家-社會(huì)關(guān)系產(chǎn)生了現(xiàn)實(shí)沖擊。

五、結(jié)論與展望

算法特別是學(xué)習(xí)型算法的興起，正為國家治理帶來一系列引人矚目亦爭議不斷的新變化。本文在梳理“算法”概念的基礎(chǔ)上，從算法介入國家治理的動(dòng)力、嵌入國家治理的機(jī)制、影響國家治理的邏輯、對(duì)國家-社會(huì)關(guān)系的影響四個(gè)維度，分析了算法政治的理論問題及其學(xué)術(shù)議程演進(jìn)。可以說，算法政治研究方興未艾，學(xué)界圍繞算法系統(tǒng)及其與國家治理的耦合問題展開了諸多研究。尤其是算法政治研究正從理論探討逐步轉(zhuǎn)向?qū)嵶C研究，在此過程中，諸如相似的算法技術(shù)應(yīng)用為何會(huì)產(chǎn)生異質(zhì)的政府組織效應(yīng)、算法技術(shù)嵌入模式如何影響算法政府運(yùn)行、算法系統(tǒng)如何重塑民主制度等更為深入的問題，逐步成為學(xué)術(shù)研究的焦點(diǎn)，這標(biāo)識(shí)著算法政治研究日漸從萌芽走向深入。通過對(duì)算法介入國家治理的“全過程”進(jìn)行全景圖式的闡述，力圖為算法政治研究的現(xiàn)狀描繪及其未來推進(jìn)提供一幅思維地圖。當(dāng)然，這幅地圖并非完備詳盡，還存在一些缺陷，這主要反映在兩方面：一是本文更多為規(guī)范性分析，文中所使用的實(shí)證證據(jù)主要以單案例形式呈現(xiàn)，而尚未進(jìn)行更為系統(tǒng)的比較案例分析與假設(shè)檢驗(yàn)；二是對(duì)算法政治現(xiàn)象的關(guān)注，首要聚焦的是國家使用算法進(jìn)行的治理活動(dòng)，而并未涉及該現(xiàn)象的另一重要維度，即國家作為政治主體對(duì)于算法的約束與治理。

就未來研究而言，至少存在下述三個(gè)方向值得學(xué)界重點(diǎn)關(guān)注和深化研究：

一是打開算法政治的“黑箱”，考察算法政治的典型類型及其成因。面對(duì)算法在各國國家治理領(lǐng)域的擴(kuò)張態(tài)勢，在學(xué)理上尋根溯源、追蹤過程，深入分析算法介入國家治理的動(dòng)力、過程與機(jī)制，并以此為基礎(chǔ)進(jìn)行必要的概念建構(gòu)與理論發(fā)展，仍是未來尤為重要的一項(xiàng)基礎(chǔ)性工作。此方向的研究重點(diǎn)包括：識(shí)別和類型化考察驅(qū)動(dòng)不同政府部門采納算法技術(shù)進(jìn)行治理的多重因素、揭示算法嵌入政府治理過程的完整鏈條與多元機(jī)制、理解算法與政府既有治理結(jié)構(gòu)的互動(dòng)關(guān)系及耦合路徑等。以全球各國豐富的算法治理實(shí)踐為經(jīng)驗(yàn)材料，展開個(gè)案深描或多案例比較研究，從中歸納出國家算法治理的典型模式并建構(gòu)類型學(xué)框架，系統(tǒng)解釋不同模式的生成機(jī)制，是這一方向未來的研究重心所在。

二是探究算法政治影響國家治理的微觀、中觀和宏觀層次政治后果。國家引入算法進(jìn)行治理將帶來復(fù)雜多維的政治后果，未來的研究可從微觀、中觀和宏觀三個(gè)層次切入展開。其中，微觀層面的后果研究包括算法應(yīng)用在個(gè)體層次上引發(fā)的政治態(tài)度與行為后果，如算法厭惡、算法欣賞、算法信任等技術(shù)態(tài)度的生成①，以及個(gè)體針對(duì)國家算法應(yīng)用的應(yīng)對(duì)行動(dòng)與因應(yīng)策略等；中觀層面的后果研究包括算法技術(shù)嵌入對(duì)政府組織、結(jié)構(gòu)與功能的影響，以及對(duì)政府與企業(yè)、社會(huì)等外部行為體之間關(guān)系的重塑等；宏觀層面的后果研究包括算法在單一國家治理過程中的應(yīng)用，可能對(duì)該國政治制度產(chǎn)生的變革性影響，以及各國不同的算法治理實(shí)踐對(duì)于全球治理體系與國際政治格局變遷所可能產(chǎn)生的深遠(yuǎn)后果。

三是關(guān)于國家如何治理算法問題的研究。國家既是算法的使用主體，亦是算法的監(jiān)管主體，這一雙重角色意味著國家在引入算法技術(shù)進(jìn)行治理的過程中，亦需同步發(fā)展其應(yīng)用、把控、監(jiān)管和治理算法的能力，以促進(jìn)算法技術(shù)與國家治理之間的良性互動(dòng)。基于此，未來研究的一個(gè)重要方向是，理解國家算法治理原理，探究如何經(jīng)由算法技術(shù)設(shè)計(jì)與制度設(shè)計(jì)兩條基本進(jìn)路②，來確保算法在國家治理過程中的有效運(yùn)行和可控應(yīng)用，最終實(shí)現(xiàn)算法均衡賦權(quán)國家與社會(huì)的科技善治之道。

Politics of Algorithms： The Coupling Logic and Political Implications of Algorithmic Applications in State Governance

Meng Tianguang Wu Peilin

（School of Social Sciences， Tsinghua University， Beijing 100084， P.R.China）

Abstract： As we enter the era of artificial intelligence， the integration of algorithms into state governance has become a significant trend in governance reforms worldwide， and the study of algorithmic politics has emerged as a cutting-edge topic in academia in recent years. This paper examines and defines the concept of “algorithm，” elucidating the driving forces， mechanisms， and political implications of algorithmic interventions in state governance.

“Algorithm” is an ancient and multifaceted concept， with contemporary scholarship primarily interpreting it from technical and social perspectives. The emergence of algorithmic politics is closely linked to the widespread application of “intelligent algorithms” in the political sphere. The two fundamental research questions in algorithmic politics are “governance by algorithms” and “governance of algorithms.” The former concerns how various political actors use algorithms， while the latter focuses on how diverse stakeholders understand and collectively address the risks associated with algorithmic applications. This paper primarily focuses on the state， the core political actor， and its use of algorithms—the most direct and typical form of algorithmic politics.

The process of algorithmic interventions in state governance involves three elements： the driving forces for technology adoption， the embedding mechanisms， and the coupling modes， pertaining to the stages of the government’s adoption， acquisition， and application of algorithmic technologies. Based on this， the paper proposes a “driving force-mechanism-mode” framework to analyze and understand the coupling process and embedding logic of algorithms and state governance. First， in terms of driving forces， the perspectives on factors propelling algorithmic interventions in state governance include functionalism， organizational fit， social engineering， and government-business relations. Second， in terms of mechanisms， algorithms are embedded in the governance process through three mechanisms： enablement， empowerment， and augmentation. Third， in terms of modes， government-business collaboration， government self-construction， and government-society co-construction are three common patterns of state-algorithm coupling.

The political implications of algorithmic interventions in state governance can be understood through the classic perspective of state-society relations. Algorithms reshape the internal organizational structure，bureaucratic autonomy， and power relations of the state， thereby driving the algorithmization of state operations. At the same time， as algorithms become increasingly indispensable elements in social life and governance， they accelerate the algorithmization process of society. Through the mediating role of algorithms， state-society relations in the intelligent era are undergoing profound changes， primarily manifested in three dimensions： the power configuration between the state and society， society’s constraints on the state， and the state’s interventions in society.

Future research on algorithmic politics should focus on opening the black box of algorithmic politics， examining the typology of algorithmic politics and its causes. Additionally， it is crucial to delve into the political effects of algorithmic politics at the micro， meso， and macro levels， as well as the increasingly prominent research topics concerning the governance of algorithms in intelligent societies.

Keywords： Algorithm； Algorithmic politics； State governance； State-society relations； Political implications

[責(zé)任編輯：李春明]

①《中共中央關(guān)于進(jìn)一步全面深化改革 推進(jìn)中國式現(xiàn)代化的決定》，《人民日?qǐng)?bào)》2024年7月22日，第1版。

②Medaglia R.，Gil-Garcia J. R.，Pardo T. A.，“Artificial Intelligence in Government： Taking Stock and Moving Forward”，Social Science Computer Review，2023， 41（1）， pp. 123-140.

③德勤：《超級(jí)智能城市2.0：人工智能引領(lǐng)新風(fēng)向》，https：//www2.deloitte.com/content/dam/Deloitte/cn/Documents/public-sector/ deloitte-cn-ps-super-smart-city-2.0-zh-191210.pdf，訪問日期：2024年6月11日。

④Madan R.，Ashok M.，“A Public Values Perspective on the Application of Artificial Intelligence in Government Practices： A Synthesis of Case Studies”，in Saura J. R.，Debasa F.（Eds.），Handbook of Research on Artificial Intelligence in Government Practices and Processes，Hershey，PA：IGI Global，2022. pp.162-189；Washington A. L.，“How to Argue with an Algorithm：Lessons from the COMPAS-ProPublica Debate”，Colorado Technology Law Journal，2018，17（1）， pp. 131-160.

①Gupta R.，Pal S. K.，Introduction to Algorithmic Government，Singapore：Palgrave Macmillan，Springer Nature Singapore Pte Ltd，2021， pp. 69-82；孟天廣：《智能治理：通用人工智能時(shí)代的治理命題》，《學(xué)?！?023年第2期。

②Androutsopoulou A.，Karacapilidis N.，Loukis E.，et al.，“Transforming the Communication between Citizens and Government through AI-Guided Chatbots”，Government Information Quarterly，2019，36（2），pp. 358-367.

③Margetts H.，Dorobantu C.，“Rethink Government with AI”，Nature，2019，568（7751），pp. 163-165.

④本清松、彭小兵：《人工智能應(yīng)用嵌入政府治理：實(shí)踐、機(jī)制與風(fēng)險(xiǎn)架構(gòu)——以杭州城市大腦為例》，《甘肅行政學(xué)院學(xué)報(bào)》2020年第3期。

⑤Berryhill J.，Heang K. K.，Clogher R.，et al.，“Hello， World： Artificial Intelligence and Its Use in the Public Sector”， https：//www. oecd-ilibrary.org/governance/hello-world_726fd39d-en，pp. 141-144，訪問日期：2024年6月11日。

⑥Susskind J.，F(xiàn)uture Politics： Living Together in a World Transformed by Tech，Oxford，United Kingdom：Oxford University Press ，2018.

⑦Kaufmann M.，Egbert S.，Leese M.，“Predictive Policing and the Politics of Patterns”，The British Journal of Criminology，2019，59（3），pp. 674-692.

⑧鄭崇明：《警惕公共治理中算法影子官僚的風(fēng)險(xiǎn)》，《探索與爭鳴》2021年第1期。

⑨Engin Z.，Treleaven P.，“Algorithmic Government： Automating Public Services and Supporting Civil Servants in using Data Science Technologies”，The Computer Journal，2019，62（3），pp.448-460.

⑩Veale M.，Brass I.，“Administration by Algorithm？ Public Management Meets Public Sector Machine Learning”，in Yeung K.，Lodge M.（Eds.），Algorithmic Regulation，Oxford，UK：Oxford University Press，2019， pp. 121-149.

11張敏：《算法治理：21世紀(jì)的公共管理現(xiàn)代化與范式變革》，《政治學(xué)研究》2022年第4期。

12 Vogl T.，Seidelin C.，Ganesh B.，et al.，“Smart Technology and the Emergence of Algorithmic Bureaucracy： Artificial Intelligence in UK Local Authorities”，Public Administration Review，2020，80（6），pp. 946-961.

13 Konig P. D.，“Dissecting the Algorithmic Leviathan： On the Socio-Political Anatomy of Algorithmic Governance”，Philosophy Technology，2020，33（3），pp. 467-485.

①Schuilenburg M.，Peeters R.（Eds.），The Algorithmic Society： Technology， Power， and Knowledge，London：Routledge，2021.

②Abiteboul S.，Dowek G.，The Age of Algorithms，Cambridge：Cambridge University Press，2020.

③Bucher T.，If…Then： Algorithmic Power and Politics，Oxford： Oxford University Press，2018.

④Thomas W.，“Algorithms： From Al-Khwarizmi to Turing and Beyond”，in Sommaruga G.， Strahm T.（Eds.），Turing’s Revolution：The Impact of His Ideas about Computability，Heidelberg，Germany：Birkh？user Springer，2015， p. 30.

⑤Thomas W.，“Algorithms： From Al-Khwarizmi to Turing and Beyond”，In Sommaruga G.， Strahm T.（Eds.），Turing’s Revolution：The Impact of His Ideas about Computability，Heidelberg，Germany：Birkh？user Springer，2015， pp. 30-33.

⑥Goffey A.，“Algorithm”，in Fuller M.（Ed.），Software Studies： A Lexicon，Cambridge， MA：MIT Press，2008， pp. 16-17.

⑦Knuth D. E.，The Art of Computer Programming （3rd Editon），Volume 1： Fundamental Algorithms，Boston： Addison Wesley Longman，1997.

⑧Gillespie T.，“The Relevance of Algorithms”，in Gillespie T.，Boczkowski P.，F(xiàn)oot K.（Eds.），Media Technologies： Essays on Communication， Materiality， and Society，Cambridge，MA：MIT Press，2014， p. 167.

①Kitchin R.，“Thinking Critically about and Researching Algorithms”，Information， Communication Society，2017，20（1），pp.14-29.

②Gillespie T.，“Algorithm”，in Peters B.（Ed.），Digital Keywords： A Vocabulary of Information Society and Culture， Princeton， NJ：Princeton University Press，2016， p. 22.

③Seaver N.，“Knowing Algorithms”，in Vertesi J.，Ribes D.（Eds.），digitalSTS： A Field Guide for Science Technology Studies，Princeton，NJ：Princeton University Press，2019， pp. 418-420.

④Wirth N.，Algorithms + Data Structures = Programs，Englewood Cliffs，NJ：Prentice-Hall ，1976.

⑤Balkin J. M.，“2016 Sidley Austin Distinguished Lecture on Big Data Law and Policy： The Three Laws of Robotics in the Age of Big Data”，Ohio State Law Journal，2017，78（5），p. 1220.

①Janssen M.，Kuk G.，“The Challenges and Limits of Big Data Algorithms in Technocratic Governance”，Government Information Quarterly，2016，33（3），pp.371-377.

②Kaplan A.，Haenlein M.，“Siri， Siri， in My Hand： Who’s the Fairest in the Land？ On the Interpretations， Illustrations， and Implications of Artificial Intelligence”，Business Horizons，2019，62（1），pp. 15-25.

③韓志明、劉華云：《計(jì)算、算法和算力：基于信息的國家計(jì)算邏輯》，《探索與爭鳴》2021年第3期；Foucault M.，Security，Territory， Population： Lectures at the Collège de France， 1977-78，translated by Burcheu G.， Basingstoke， Hampshire：Palgrave Macmillan London， 2007。

④黃璜：《數(shù)據(jù)計(jì)算與治理變革：對(duì)政府計(jì)算的研究與基于計(jì)算的政府研究》，《電子政務(wù)》2020年第1期；孟天廣：《數(shù)字治理生態(tài)：數(shù)字政府的理論迭代與模型演化》，《政治學(xué)研究》2022年第5期。

⑤譚九生、范曉韻：《 “算法權(quán)力”的異議與證成》，《北京行政學(xué)院學(xué)報(bào)》2021年第6期；張凌寒：《算法權(quán)力的興起、異化及法律規(guī)制》，《法商研究》2019年第4期；汝緒華：《算法政治：風(fēng)險(xiǎn)、發(fā)生邏輯與治理》，《廈門大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2018年第6期；Amoore L.，“Machine Learning Political Orders”，Review of International Studies，2023，49（1），pp. 20-36。

⑥孟天廣、李珍珍：《治理算法：算法風(fēng)險(xiǎn)的倫理原則及其治理邏輯》，《學(xué)術(shù)論壇》2022年第1期。

⑦Katzenbach C.， Ulbricht L.， “Algorithmic Governance”， Internet Policy Review， 2019， 8（4）， pp. 1-18.

①Andrews L.，“Public Administration， Public Leadership and the Construction of Public Value in the Age of the Algorithm and‘Big Data’”， Public Administration，2019，97（2）， pp. 296-310.

②Levy K.，Chasalow K. E.，Riley S.，“Algorithms and Decision-Making in the Public Sector”，Annual Review of Law and Social Science，2021，17， pp. 309-334.

①Gupta R.，Pal S. K.，“Background of Algorithmic Government”，in Gupta R.，Pal S. K.，Introduction to Algorithmic Government，Singapore：Palgrave Macmillan，Springer Nature Singapore Pte Ltd，2021. pp. 17-36.

②Eggers W. D.，Schatsky D.，Viechnicki P.，AI-Augmented Government： Using Cognitive Technologies to Redesign Public Sector Work，https：//www2.deloitte.com/xe/en/insights/focus/cognitive-technologies/artificial-intelligence-government.html，訪問日期：2024年6月11日。

③Coglianese C.，“Algorithmic Regulation： Machine Learning as a Governance Tool”，in Schuilenburg M.，Peeters R.（Eds.），The Algorithmic Society： Technology， Power， and Knowledge，London： Routledge，2021， pp. 35-52.

④Williamson B.，“Knowing Public Services： Cross-Sector Intermediaries and Algorithmic Governance in Public Sector Reform”，Public Policy and Administration，2014，29（4）， pp. 292-312.

⑤宋鍇業(yè)：《“算法”與國家治理創(chuàng)新——數(shù)據(jù)、算法與權(quán)力的知識(shí)生產(chǎn)與邏輯呈現(xiàn)》，《科學(xué)學(xué)研究》2022年第3期。

⑥也有學(xué)者強(qiáng)調(diào)算法的技術(shù)特異性及其與經(jīng)典科層制的差異之處，譬如Lorenz等區(qū)分了“算法官僚制”與傳統(tǒng)的“機(jī)械官僚制”的差異。參見Lorenz L.，Meijer A.，Schuppan T.，“The Algocracy as a New Ideal Type for Government Organizations： Predictive Policing in Berlin as an Empirical Case”，Information Polity，2021，26（1）， pp. 71-86.

⑦Peeters R.，Schuilenburg M.，“Machine Justice： Governing Security through the Bureaucracy of Algorithms”，Information Polity，2018，23（3），pp. 267-280.

⑧段哲哲：《控制算法官僚：困境與路徑》，《電子政務(wù)》2021年第12期。

⑨P？？kk？nen J.，Nelimarkka M.，Haapoja J.，et al.，“Bureaucracy as a Lens for Analyzing and Designing Algorithmic Systems”，Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems，2020， pp. 1-14.

⑩Muellerleile C.，Robertson S. L.，“Digital Weberianism： Bureaucracy， Information， and the Techno-Rationality of Neoliberal Capitalism”，Indiana Journal of Global Legal Studies，2018，25（1）， pp. 187-216.

11 Scott J. C.，Seeing Like a State，New Haven：Yale University Press，1998.

①M(fèi)orozov E.，To Save Everything， Click Here： The Folly of Technological Solutionism，New York： PublicAffairs， 2013， pp. 1-16.

②鄭崇明：《警惕公共治理中算法影子官僚的風(fēng)險(xiǎn)》，《探索與爭鳴》2021年第1期。

③聶輝華：《 數(shù)字經(jīng)濟(jì)時(shí)代的政企關(guān)系： 一個(gè)初步框架》，《應(yīng)用經(jīng)濟(jì)學(xué)評(píng)論》2022年第1期。

④Valentine S.，“Impoverished Algorithms： Misguided Governments， Flawed Technologies， and Social Control”，F(xiàn)ordham Urban Law Journal，2019，46（2），pp.404-408.

⑤孟天廣：《智能治理：通用人工智能時(shí)代的治理命題》，《學(xué)?！?023年第2期。

⑥張會(huì)平：《算法嵌入政府科層制的路徑、影響與風(fēng)險(xiǎn)應(yīng)對(duì)》，《廣西師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2021年3期。

⑦Eubanks V.，Automating Inequality： How High-Tech Tools Profile， Police， and Punish the Poor，New York，NY：St. Martin’s Press，2018，pp.60-118.

⑧Yeung K.，“Algorithmic Regulation： A Critical Interrogation”，Regulation Governance，2018，12（4），pp.505-523.

⑨Zavr？nik A.，“Algorithmic Justice： Algorithms and Big Data in Criminal Justice Settings”，European Journal of Criminology，2021，18（5），pp.623-642.

⑩Androutsopoulou A.，Karacapilidis N.，Loukis E.，et al.，“Transforming the Communication between Citizens and Government through AI-Guided Chatbots”，Government Information Quarterly，2019，36（2），pp.358-367.

11 Engstrom D. F.，Ho D. E.，Sharkey C. M.，et al.，“Government by Algorithm： Artificial Intelligence in Federal Administrative Agencies”，https：//law.stanford.edu/wp-content/uploads/2020/02/ACUS-AI-Report.pdf，訪問日期：2024年6月11日。

12 孟天廣：《數(shù)字治理生態(tài)：數(shù)字政府的理論迭代與模型演化》，《政治學(xué)研究》2022年第5期。

①Yeung K.，“Algorithmic Regulation： A Critical Interrogation”，Regulation Governance，2018，12（4），pp. 505-523.

②段哲哲：《控制算法官僚：困境與路徑》，《電子政務(wù)》2021年第12期。

③Valentine S.，“Impoverished Algorithms： Misguided Governments， Flawed Technologies， and Social Control”，F(xiàn)ordham Urban Law Journal，2019，46（2），p. 373.

④Engstrom D. F.，Ho D. E.，Sharkey C. M.，et al.，“Government by Algorithm： Artificial Intelligence in Federal Administrative Agencies”，https：//law.stanford.edu/wp-content/uploads/2020/02/ACUS-AI-Report.pdf，訪問日期：2024年6月11日。

①M(fèi)eijer A.，Lorenz L.，Wessels M.，“Algorithmization of Bureaucratic Organizations： Using a Practice Lens to Study How Context Shapes Predictive Policing Systems”，Public Administration Review，2021，81（2），pp. 837-846.

②Vogl T.，Seidelin C.，Ganesh B.，et al.，“Smart Technology and the Emergence of Algorithmic Bureaucracy： Artificial Intelligence in UK Local Authorities”，Public Administration Review，2020，80（6），pp. 946-961.

③Bullock J. B.，“Artificial Intelligence， Discretion， and Bureaucracy”，The American Review of Public Administration，2019，49（7），pp. 751-761.

④段哲哲：《控制算法官僚：困境與路徑》，《電子政務(wù)》2021年第12期；鄭崇明：《警惕公共治理中算法影子官僚的風(fēng)險(xiǎn)》，《探索與爭鳴》2021年第1期。

⑤梅立潤：《技術(shù)置換權(quán)力：人工智能時(shí)代的國家治理權(quán)力結(jié)構(gòu)變化》，《武漢大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2023年第1期。

⑥景躍進(jìn)：《數(shù)字時(shí)代的中國場景：數(shù)字化改革的政治意義》，《浙江社會(huì)科學(xué)》2023年第1期。

⑦Cheney-Lippold J.，We Are Data： Algorithms and the Making of Our Digital Selves，New York：New York University Press，2017，pp. 3-32.

①王小芳、王磊：《“技術(shù)利維坦”：人工智能嵌入社會(huì)治理的潛在風(fēng)險(xiǎn)與政府應(yīng)對(duì)》，《電子政務(wù)》2019年第5期。

②Engstrom D. F.，Ho D. E.，“Chapter 3： Artificially Intelligent Government： A Review and Agenda”，In Vogl R.（Ed.），Research Handbook on Big Data Law，Cheltenham，UK：Edward Elgar Publishing，2021，pp. 57-86.

③Burrell J.，F(xiàn)ourcade M.，“The Society of Algorithms”，Annual Review of Sociology，2021，47，pp. 213-237.

④吳冠軍：《健康碼、數(shù)字人與余數(shù)生命——技術(shù)政治學(xué)與生命政治學(xué)的反思》，《探索與爭鳴》2020年第9期。

⑤張凌寒：《算法自動(dòng)化決策與行政正當(dāng)程序制度的沖突與調(diào)和》，《東方法學(xué)》2020年第6期；張恩典：《人工智能算法決策對(duì)行政法治的挑戰(zhàn)及制度因應(yīng)》，《行政法學(xué)研究》2020年第4期；Burrell J.，“How the Machine Thinks： Understanding Opacity in Machine Learning Algorithms”，Big Data Society，2016，3（1）， pp. 1-12。

⑥D(zhuǎn)anaher J.，“The Threat of Algocracy： Reality， Resistance， and Accommodation”，Philosophy Technology，2016，29（3），pp.245-268.

⑦Busuioc M.，“Accountable Artificial Intelligence： Holding Algorithms to Account”，Public Administration Review，2021，81（5），pp. 825-836.

⑧Coglianese C.，“Algorithmic Regulation： Machine Learning as a Governance Tool”，in Schuilenburg M.，Peeters R.（Eds.），The Algorithmic Society： Technology， Power， and Knowledge，London： Routledge，2021. pp. 35-52.

⑨張敏：《算法治理：21世紀(jì)的公共管理現(xiàn)代化與范式變革》，《政治學(xué)研究》2022年第4期。

⑩Levy K.，Chasalow K. E.，Riley S.，“Algorithms and Decision-Making in the Public Sector”，Annual Review of Law and Social Science，2021，17，pp. 309-334.

①Gritsenko D.，Wood M.，“Algorithmic Governance： A Modes of Governance Approach”，Regulation Governance，2022，16（1），pp. 45-62.

②Algorithm Watch，“How Dutch Activists Got an Invasive Fraud Detection Algorithm Banned”，https：//algorithmwatch.org/en/syrinetherlands-algorithm，訪問日期：2024年6月9日。

③Los Angeles Times，“LAPD Pioneered Predicting Crime with Data. Many Police Don’t Think It Works”，https：//www.latimes. com/local/lanow/la-me-lapd-precision-policing-data-20190703-story.html， 訪問日期：2024年6月11日。

④Giest S. N.，Klievink B.，“More than a Digital System： How AI Is Changing the Role of Bureaucrats in Different Organizational Contexts”，Public Management Review，2024，26（2），pp. 379-398.

⑤Redden J.，Brand J.，Sander I.，et al.，“Automating Public Services： Learning from Cancelled Systems”，https：//www. carnegieuktrust.org.uk/publications/automating-public-services-learning-from-cancelled-systems，訪問日期：2024年6月11日。

①Kennedy R. P.，Waggoner P. D.，Ward M. M.，“Trust in Public Policy Algorithms”，The Journal of Politics，2022，84（2），pp.1132-1148.

②孟天廣、李珍珍：《治理算法：算法風(fēng)險(xiǎn)的倫理原則及其治理邏輯》，《學(xué)術(shù)論壇》2022 年第1期；賈開、趙靜：《技術(shù)嵌入、價(jià)值傾向與算法分類治理》，《經(jīng)濟(jì)社會(huì)體制比較》2023 年第4期；Fourcade M.，Gordon J.，“Learning Like a State： Statecraft in the Digital Age”，Journal of Law and Political Economy，2020，1（1），pp. 96-99.