治理算法化的證成與風(fēng)險(xiǎn)：如何理解人工智能的治理屬性

摘 要：人工智能對于治理領(lǐng)域產(chǎn)生的變革要求在理論上予以重構(gòu)與創(chuàng)新，將人工智能置于治理的內(nèi)部“理論證成”與外部“風(fēng)險(xiǎn)識別”的二階結(jié)構(gòu)中提出并論證治理算法化這一分析框架，不失為一條在人工智能時(shí)代探討治理變革的有益進(jìn)路。治理算法化成立的先決條件除了“可計(jì)算化”模塊的努力之外，更重要的是重塑治理的邊界。其源起既是治理信任補(bǔ)強(qiáng)之需，亦有個(gè)體化時(shí)代建構(gòu)集體行動(dòng)之必要。治理算法化應(yīng)始終秉持以人為尺度的應(yīng)用邏輯。治理算法化存在“道”與“術(shù)”的異步困境，即存在商業(yè)邏輯優(yōu)先于治理邏輯、算法偏見內(nèi)化為公共理性、技術(shù)權(quán)力泛化為液態(tài)監(jiān)控以及擬態(tài)真實(shí)取代治理情境等風(fēng)險(xiǎn)。因此，治理算法化仍須進(jìn)一步促進(jìn)技術(shù)與人的和諧關(guān)系。

關(guān)鍵詞：人工智能;治理算法化;大數(shù)據(jù);算法偏見;機(jī)器學(xué)習(xí)

中圖分類號：D035 文獻(xiàn)標(biāo)識碼：A 文章編號：1008-7168（2022）01-0013-12

算法，一個(gè)存在已久的技術(shù)術(shù)語，隨著人工智能和大數(shù)據(jù)的發(fā)展以迅猛的態(tài)勢深入人們的生活。“算法”本質(zhì)上就是一些復(fù)雜的電腦代碼程式，但隨著人類在人工智能的道路上不斷開疆拓土，它的意義已經(jīng)遠(yuǎn)超其原初單純的技術(shù)屬性而被附著眾多的意義和評價(jià)，其廣泛滲透于政治、經(jīng)濟(jì)、文化等各領(lǐng)域，作為技術(shù)要素影響、參與甚至引領(lǐng)革命性變革。在經(jīng)濟(jì)領(lǐng)域，算法表現(xiàn)為技術(shù)資本在數(shù)字經(jīng)濟(jì)市場中的利益追求工具;在文化領(lǐng)域，愈發(fā)形成并固化為技術(shù)特質(zhì)下精準(zhǔn)高效、人群分化的文化傳播;而在政治領(lǐng)域，則化身為一種新的權(quán)力形態(tài)，高度聚焦于政治決策的智能化、政治治理的精準(zhǔn)性以及政治傳播的針對性。算法根據(jù)其運(yùn)用領(lǐng)域和作用主體的不同，產(chǎn)生差異化的技術(shù)效益與治理效能。而在這個(gè)過程中，不僅該領(lǐng)域的系統(tǒng)本身被改革，貫穿其中的算法亦幾經(jīng)流轉(zhuǎn)而重新“粉墨登場”。這既是一種系統(tǒng)的思維，更是一種演進(jìn)的視角。要討論一種社會(huì)中新出現(xiàn)的技術(shù)，除了考慮它是被用來解決什么問題以及它所產(chǎn)生的各種效應(yīng)之外，在這個(gè)基礎(chǔ)上論證這樣的意圖以及效應(yīng)是如何產(chǎn)生的同樣重要。因此，在治理與算法的“聯(lián)姻”中，除了將治理作為一個(gè)待解釋變量，理解算法統(tǒng)攝下的技術(shù)變遷可能會(huì)使治理本身產(chǎn)生什么樣的轉(zhuǎn)型之外，亦需要關(guān)注以及論證這種轉(zhuǎn)型的合法性基礎(chǔ)，以及治理的非技術(shù)因素與人工智能的算法因素之間將以何種方式互嵌互構(gòu)。

一、論證的基點(diǎn)：名正而后言順

（一）治理算法化：一個(gè)分析性框架

雖然算法近些年開始流行起來，但它并不是新生事物。縱觀算法的發(fā)展史，有關(guān)它的概念釋義不僅多元而且發(fā)展迅速，如若粗略劃分，目前學(xué)界對于算法的闡釋主要基于自然科技史和技術(shù)社會(huì)學(xué)兩個(gè)視角。

從科技史的發(fā)展來看，早在中國商周時(shí)期，漢語中的“術(shù)”字就有推理、算術(shù)、邏輯之意。公元8世紀(jì)的波斯，著名數(shù)學(xué)家阿爾·花拉子米（AlKhowarizmi）將算法作為一個(gè)獨(dú)立概念提出，意指“能夠運(yùn)行的系統(tǒng)性計(jì)算”①。公元1202年，意大利著名數(shù)學(xué)家斐波那契（Leonardo Fibonacci）的傳世之作《計(jì)算之術(shù)》問世，其后，算法的概念逐漸在歐洲流行，并在19世紀(jì)成為數(shù)學(xué)家們討論的重要概念。20世紀(jì)90年代中期電子計(jì)算機(jī)的問世，使得代碼與算法高度關(guān)聯(lián)，在網(wǎng)絡(luò)世界中“代碼即法律”的信仰之下，算法成為邏輯和規(guī)則的代名詞。近年來，伴隨計(jì)算機(jī)智能化水平的不斷升級，算法開始指向更具預(yù)示性和模糊性的含義，任何涉及人類社會(huì)復(fù)雜的決策系統(tǒng)都與算法相關(guān)。相較于自然科學(xué)，技術(shù)社會(huì)學(xué)的視角則更加關(guān)注算法在社會(huì)、文化和各種體系結(jié)構(gòu)下的嵌入路徑和影響。古典政治經(jīng)濟(jì)學(xué)創(chuàng)始人威廉·配第（William Petty）曾在《政治算術(shù)》中指出：“凡關(guān)于統(tǒng)治的事項(xiàng)，以及同君主的榮耀、人民的幸福和繁盛有極大關(guān)系的事項(xiàng)，都可以用算術(shù)的一般法則加以論證?！盵1]（pp.1-2）這一觀念使新興的概率論與統(tǒng)計(jì)學(xué)在經(jīng)濟(jì)社會(huì)和政治領(lǐng)域得到了廣泛應(yīng)用，人們開始以對各種社會(huì)問題的可量化和可測度作為科學(xué)客觀性的指標(biāo)，予以承認(rèn)和信賴，并將技術(shù)迭代視作文明演進(jìn)的主要元素以及人性不可分割的部分。在這方面，已有不少學(xué)者就技術(shù)的社會(huì)化建構(gòu)問題進(jìn)行了探討。如?？拢∕ichel Foucault）以“圓形監(jiān)獄”作為比喻，探討了技術(shù)與規(guī)訓(xùn)之間的關(guān)系[2];麥克盧漢（Marshall McLuhan）則在泛媒介論的基礎(chǔ)上，提出了“媒介即訊息”的著名命題[3];基特勒（Fredirch Kittler）走得更遠(yuǎn)，他認(rèn)為，人體和機(jī)器的界限不再清晰，身體更可能淪為技術(shù)的客體[4];而阿甘本（Giorgio Agamben）則以“裝置”重申了?？碌募夹g(shù)哲學(xué)思想[5]。技術(shù)的無遠(yuǎn)弗屆和強(qiáng)大的滲透性，讓整個(gè)社會(huì)系統(tǒng)“改頭換面”。這一源遠(yuǎn)流長的技術(shù)思想使我們不必受困于對算法烏托邦式的計(jì)算觀。當(dāng)然，伴隨當(dāng)下信息技術(shù)的演進(jìn)，算法迭代日益加速，任何一種單一的學(xué)科視角都已經(jīng)無法全面涵蓋對算法的全部認(rèn)識。一種歷史和互動(dòng)的回顧，為我們理解當(dāng)下信息社會(huì)算法的多元面向和表征意義提供了新的可能和價(jià)值基準(zhǔn)。

在我們的一貫認(rèn)知中，高度的智能與發(fā)達(dá)的意識一向是兩個(gè)形影不離的概念，只有具有意識的個(gè)體，才能執(zhí)行需要高度智能的任務(wù)，如下棋、開車、診治、提供法律意見，或者辨認(rèn)出恐怖分子。然而，進(jìn)入人工智能時(shí)代后，基于算法模式的“無意識智能”開始興起，并在解決人類社會(huì)的很多問題上表現(xiàn)優(yōu)越，這讓我們無法避免將面臨這樣一個(gè)問題，那些原來必須依靠人類意識才能完成的復(fù)雜治理任務(wù)，能否由算法來實(shí)現(xiàn)？如果成立，這一模式是否適用于我們目前生活的公共領(lǐng)域？如果普遍適用，這種新的治理模式最大的特征是什么？討論至此，一個(gè)自然而然的概念呼之欲出，即治理算法化?；氐焦差I(lǐng)域的治理行為，顯然，對算法更為精確的定義或許是，它是從數(shù)字邏輯和數(shù)據(jù)形式內(nèi)外雙重維度塑造治理預(yù)設(shè)目標(biāo)并提供決策結(jié)果的行為主體，而不僅僅是治理手段或工具。在已有文獻(xiàn)中，基于治理的算法是一個(gè)顯而易見的現(xiàn)象，但治理算法化卻是一個(gè)偶有被提及但未被細(xì)化的概念框架。筆者認(rèn)為，就治理算法化的概念和現(xiàn)象進(jìn)行辨析和審視，不僅是必須的，也是緊迫的。一方面，治理算法化已經(jīng)不再是理論上的“空中樓閣”，而是超越了傳統(tǒng)治理技術(shù)范疇的實(shí)在現(xiàn)象。治理算法化不能被簡化為治理與算法結(jié)合的過程與結(jié)果，而應(yīng)被視為以人工智能為代表的數(shù)字技術(shù)治理內(nèi)在融合與對抗的一體兩面。換句話說，相較之下，治理算法化這一概念更為凸顯的是算法全面嵌入之下的科層治理與技術(shù)治理如何互動(dòng)形成復(fù)雜的結(jié)構(gòu)體。不同于簡·E·芳?。↗ane E.Fountain）提出的技術(shù)執(zhí)行理論，在這里，算法不僅是被執(zhí)行的“技術(shù)對象”（technical object），亦是治理主體。另一方面，作為信息技術(shù)時(shí)代治理的演進(jìn)模式，治理算法化在創(chuàng)造了新的控制方法時(shí)，也制造了新的問題，甚至控制這些新問題的難度要遠(yuǎn)大于控制傳統(tǒng)治理問題的難度。因此，在凡事必提“智能”的話語風(fēng)靡時(shí)期，筆者并不愿意去跟隨贊樂的音符和節(jié)拍，而是試圖以一種中立、客觀、冷靜的視角和立場，嘗試展現(xiàn)智能系統(tǒng)與人類對于社會(huì)治理權(quán)“明爭暗奪”的背后隱匿了怎樣的運(yùn)行邏輯，以及由此帶來的智能化的政治經(jīng)濟(jì)社會(huì)體系變革是一番怎樣的景象。本文作為一項(xiàng)理論研究，承接這一研究脈絡(luò)，以超越算法的計(jì)算性和邏輯推理性之外的視角闡釋治理算法化的建構(gòu)意義，內(nèi)窺其中的風(fēng)險(xiǎn)，最終評判治理算法化的價(jià)值，進(jìn)而賦予治理算法化積極的實(shí)踐意義。

（二）治理算法化的先決條件：治理邊界的重塑

人類大腦對復(fù)雜選擇做出判斷時(shí)的意識與行動(dòng)之間的微妙關(guān)系一直是學(xué)界的焦點(diǎn)議題之一，將此類復(fù)雜任務(wù)交由人工智能處理時(shí)，應(yīng)當(dāng)保證計(jì)算機(jī)可以模擬人類大腦的活動(dòng)，從認(rèn)識論的角度而言，這個(gè)基礎(chǔ)就是“認(rèn)知可計(jì)算化”。當(dāng)前人工智能的幾大不同流派在對人工智能的認(rèn)知基礎(chǔ)上形成的共識是，通過分析和處理真實(shí)人類世界的行為數(shù)據(jù)可以幫助機(jī)器來模擬人類的認(rèn)知和決策[6]，而這所有一切的基礎(chǔ)都是“有數(shù)可循”。2011年10月的美國佛羅里達(dá)州發(fā)生了一起惡性交通事故，事故原因是一名退休警察超速行駛。佛羅里達(dá)州《太陽哨兵報(bào)》的記者在查閱歷年的數(shù)據(jù)后發(fā)現(xiàn)，這可能并不是一起偶然事件，因?yàn)殚_快車是警察的經(jīng)常性行為。為了取證，她根據(jù)美國的《信息自由法》向當(dāng)?shù)亟煌ü芾聿块T申請獲得了110萬條當(dāng)?shù)鼐囃ㄟ^不同高速路口收費(fèi)站的原始記錄，最終利用數(shù)據(jù)分析證實(shí)了由于工作需要和警察的特權(quán)意識，開快車成了警察群體的普遍習(xí)慣。可以想象，如果沒有上百萬條充沛的數(shù)據(jù)記錄以及成熟的數(shù)據(jù)分析手段，類似于“警察群體普遍開快車”的社會(huì)問題可能永遠(yuǎn)都無法在法庭上得到證實(shí)，這種知法犯法的特權(quán)行為，也永遠(yuǎn)得不到有效的治理[7]（p.274）。當(dāng)個(gè)體在真實(shí)世界中的任何活動(dòng)都能被事無巨細(xì)地高頻記錄時(shí)，就為社會(huì)可計(jì)算化提供了豐富的數(shù)據(jù)，讓治理行為“有數(shù)可循”。然而，這只是治理算法化的第一步。

治理為一個(gè)相對開放的系統(tǒng)，有關(guān)治理理論或范式本身的形成亦經(jīng)歷了相當(dāng)長時(shí)間的實(shí)踐檢驗(yàn)和理論分析加工，因此，將治理規(guī)則編寫成代碼的過程不是一個(gè)簡單的數(shù)據(jù)收集和機(jī)器學(xué)習(xí)過程。治理算法化有賴于治理主體將不同領(lǐng)域的治理目標(biāo)、價(jià)值選擇、專業(yè)知識等內(nèi)容“數(shù)據(jù)化”并轉(zhuǎn)化為“可計(jì)算化”模塊的前期努力。結(jié)論看似簡單，但存在一個(gè)難以跨越的鴻溝，就是人不可能約束自己不懂的東西。Facebook數(shù)據(jù)泄露后，作為創(chuàng)始人的扎克伯格多次接受美國國會(huì)的質(zhì)詢，但媒體捕捉到并呈現(xiàn)在大眾眼前更多的是，那些資深立法者和議員們在長達(dá)4～5個(gè)小時(shí)的質(zhì)詢中試圖想要了解的問題卻如此膚淺且空洞無物。正如有媒體指出的那樣，這些問題都能通過搜索找到答案，沒必要在聽證會(huì)上浪費(fèi)好幾個(gè)小時(shí)。顯然，無論是立法者、治理者、監(jiān)管者抑或普通的消費(fèi)者，對人工智能、大數(shù)據(jù)等技術(shù)所知的遠(yuǎn)要比我們想象得少得多，這種認(rèn)知鴻溝普遍存在，而且日益加深。在實(shí)踐中的具體分工是，治理者提出相關(guān)的治理目的與要求，“技術(shù)工程師”努力將這種要求轉(zhuǎn)化為一系列可以被算法解讀和操作的代碼。但技術(shù)的掌握者是否能夠準(zhǔn)確理解治理者的真正意圖或者是否能夠依據(jù)不同的治理目的體系化和精確化地構(gòu)建單一或復(fù)合的算法模型并進(jìn)行預(yù)測？這里就可能存在一個(gè)悖論，通俗而言，就是“懂技術(shù)的人不懂治理，而懂治理的人則不懂技術(shù)”。以司法為例，案情的最終確定取決于法官大腦里那個(gè)專業(yè)而復(fù)雜的人類思維過程——自由心證，而將自由心證轉(zhuǎn)換成計(jì)算機(jī)能“讀懂”的程序，就成了算法判案的前提條件。

有人認(rèn)為人工智能的價(jià)值并不在于模仿或者替代了人類行為，而是其深度自主的學(xué)習(xí)能力[8]。正如作為第一個(gè)戰(zhàn)勝圍棋世界冠軍的人工智能機(jī)器人AlphaGo，其設(shè)計(jì)者卻并非圍棋頂尖大師，人工智能法官當(dāng)然也可以借此進(jìn)行算法的“自由心證”。但事實(shí)上，算法判案是否可行最終并不取決于技術(shù)發(fā)展的程度，而是取決于我們?nèi)绾慰创?。從世俗—理性的角度出發(fā)，法律不過是治理社會(huì)的一種工具而已，繁雜的各種制度也只不過是我們設(shè)計(jì)出的一部龐大復(fù)雜的機(jī)器，“人工智能+司法”只是加速了這部機(jī)器的運(yùn)轉(zhuǎn)和理性計(jì)算的程度，那么人工智能法官顯然是最好的選擇。但問題在于一旦我們將法律徹底視為工具，這種工具性的法律是無法樹立它的權(quán)威以及喚起我們的認(rèn)同感的，最后我們信賴和認(rèn)同的將不是法律的公正與否，而是技術(shù)的高低。為了提高治理效率，對治理的邊界可以進(jìn)行調(diào)整甚至模糊化處理，但須臾不可缺的是清晰可見的“紅線”。亦如法官的“自由心證”或者治理者手中的自由裁量權(quán)，其更高的意義和價(jià)值在于當(dāng)法律體系有漏洞之時(shí)，他可以援引不同的判例，以不同的角度解讀并矯正正義，而這里的標(biāo)準(zhǔn)是法律背后那個(gè)更高的人性存在，顯然，這是人工智能無法通過被“投喂”大量的案例數(shù)據(jù)從而學(xué)習(xí)獲得的。因此，治理算法化的前提條件除了“可計(jì)算化”模塊的努力之外，也許更重要的在于區(qū)分并真正實(shí)踐“上帝的歸上帝，凱撒的歸凱撒”。換言之，即重塑治理邊界，在社會(huì)上形成這樣的共識：“哪些是他們（算法）接觸我們（個(gè)人）的點(diǎn)？”

二、治理算法化的源起：外困內(nèi)交的選擇

（一）治理信任需要技術(shù)信任的補(bǔ)強(qiáng)

信任或如格奧爾格·齊美爾（Georg Simmel）所言的，是關(guān)于他人未來行為的假設(shè)，介于“知”與“無知”之間[9]。而治理信任事實(shí)上則是基于對權(quán)力行為的一種可信賴預(yù)期，即作為一種行動(dòng)類型的信任，更強(qiáng)調(diào)通過既往經(jīng)驗(yàn)和對已有信息的判斷以及對未來的可救濟(jì)兩個(gè)層面增加對未知不確定性的保障。在治理實(shí)踐中，治理信任一方面可以促進(jìn)以知情、增信為初衷的公共信息的公開，另一方面可以增加信任缺失的救濟(jì)渠道，如通過司法機(jī)關(guān)事后的法律救濟(jì)方式實(shí)現(xiàn)。在傳統(tǒng)社會(huì)，這兩種方式能夠相互補(bǔ)強(qiáng)，但進(jìn)入互聯(lián)網(wǎng)時(shí)代后，雖然無論信息量還是信息流速都極大提升，但也引發(fā)了嚴(yán)重的信息不對稱與隱私侵害問題。網(wǎng)絡(luò)巨頭們?yōu)楂@利而嚴(yán)重地公開、暴露個(gè)體的信息隱私，相較于此，更為嚴(yán)重的后果可能是，作為個(gè)體的你可能毫不知情，即使知曉也沒有拒絕的余地。事實(shí)上，這也反映了信息公開在網(wǎng)絡(luò)空間的異化，結(jié)果是，信任的傾斜使用戶對“中心化”的控制主體產(chǎn)生“離心”以及“反向運(yùn)動(dòng)”。與此同時(shí)，正如2015年我國“Cookie隱私第一案”中所反映的救濟(jì)效果，反轉(zhuǎn)的“法律天平”離人們對算法侵權(quán)的規(guī)制期待遠(yuǎn)未達(dá)一間。可見，在這個(gè)全新的互聯(lián)網(wǎng)時(shí)代，單憑人類價(jià)值理性難以構(gòu)建起對權(quán)力運(yùn)行的可信賴預(yù)期，而“以技治技”或許能實(shí)現(xiàn)新的平衡。正如哈貝馬斯（Jürgen Harbermas）所認(rèn)為的那樣，當(dāng)發(fā)現(xiàn)并掌握技術(shù)、資源和控制之間的必然規(guī)律后，技術(shù)就能補(bǔ)強(qiáng)個(gè)人決策不合理之處，以適應(yīng)技術(shù)將國家轉(zhuǎn)變?yōu)椤昂侠淼男姓芾頇C(jī)構(gòu)”的新身份[10]（p.99）?！凹夹g(shù)量化”所締造的信任關(guān)系能夠在權(quán)力的運(yùn)行過程中構(gòu)建一種公開兼具加密的保護(hù)機(jī)制。

事實(shí)上，這種做法是有成效的。在抗擊新冠肺炎疫情的過程中，數(shù)字政府借助人工智能技術(shù)的各類算法治理，不僅消弭了疫情信息混沌、遲滯的困境，而且顯著提升了公眾對政府信息和治理能力的信任。如疫情期間誕生的健康碼，經(jīng)由智能技術(shù)聯(lián)結(jié)規(guī)則的算法，使整個(gè)社會(huì)共同體抵達(dá)系統(tǒng)狀態(tài)的“共享真實(shí)”，這將有效減少系統(tǒng)中每個(gè)參與者（包括作為行動(dòng)者的政府）展開合作所需要的信任量，從而極大地提升了人際間信任與一般化的社會(huì)信任[11]。縱觀人類社會(huì)的技術(shù)發(fā)展史，每一次技術(shù)的發(fā)展都伴生各種新的風(fēng)險(xiǎn)和不確定性，導(dǎo)致公眾深陷技術(shù)治理的“迷思”之中。亦如在算法技術(shù)的發(fā)展中，機(jī)器決策的黑箱性廣受詬病，但目前已經(jīng)達(dá)成的共識就是通過增強(qiáng)技術(shù)的可靠性以及開拓技術(shù)周邊措施的方式創(chuàng)建可以提供穩(wěn)定預(yù)期和公眾信任的技術(shù)環(huán)境，增加公眾對算法的信任。典型的做法是利用數(shù)據(jù)挖掘技術(shù)高效識別特定算法應(yīng)用中的歧視性規(guī)定和內(nèi)容，最終實(shí)現(xiàn)技術(shù)信任對治理信任的補(bǔ)強(qiáng)，并使治理信任泛化為普遍的社會(huì)信任。例如，谷歌公司已經(jīng)就一系列人工智能增強(qiáng)技術(shù)展開研究，如其開發(fā)的概念激活向量測試（Testing with Concept Activation Vectors，TCAV）就具有理解信號可能表現(xiàn)出現(xiàn)偏差的能力。

（二）個(gè)體化時(shí)代集體行動(dòng)困境的消解

早在20多年前，互聯(lián)網(wǎng)先驅(qū)尼葛洛龐帝（Nicholas Negroponte）就曾預(yù)言，數(shù)字化生存天然具有“賦權(quán)”的本質(zhì)，這一特質(zhì)將引發(fā)積極的社會(huì)變遷，在數(shù)字化的未來，人們將找到新的希望與尊嚴(yán)[12]（p.271）。自此，個(gè)體賦權(quán)成為主流論調(diào)。特別是當(dāng)信息技術(shù)日益上升為社會(huì)資源再分配的重要力量時(shí)，傳統(tǒng)權(quán)力格局、關(guān)系模式便呈現(xiàn)出迥異的特征。法國哲學(xué)家吉爾伯特·西蒙棟（Gilbert Simondon）在提出“個(gè)體化”這一概念時(shí)就指出，個(gè)體化是技術(shù)對象自身發(fā)展的規(guī)則，是朝向穩(wěn)定狀態(tài)發(fā)展的趨勢[13]。顯然，技術(shù)的進(jìn)步亦伴隨著個(gè)體化的歷程。人類個(gè)體的價(jià)值，隨著技能門檻的拆除而迅速地、類性（generic）地上升[14]。在探討網(wǎng)絡(luò)規(guī)制時(shí)，勞倫斯·萊斯格（Lawrence Lessig）就曾明確提出“網(wǎng)絡(luò)需要各種選擇”的主張——有些選擇應(yīng)當(dāng)由個(gè)人決定，如作者是否要主張他的版權(quán)或者公眾通過何種方式保護(hù)自己的隱私，但當(dāng)所規(guī)制的事項(xiàng)關(guān)涉價(jià)值理念的選擇時(shí)就應(yīng)當(dāng)由集體決定[15]（p.9）。從這個(gè)邏輯出發(fā)，泛化互聯(lián)網(wǎng)時(shí)代的一個(gè)典型特征就是，主張個(gè)體權(quán)利和選擇的價(jià)值意義與集體行動(dòng)之間的沖突。而要化解這種沖突和矛盾，根本的解決方法就是在個(gè)體選擇與集體行動(dòng)之間嫁接一條柔性的轉(zhuǎn)化通道。

雖然Facebook的數(shù)據(jù)泄露和對選舉的操作作為一樁挑戰(zhàn)人類尊嚴(yán)的丑聞?dòng)绊懮钸h(yuǎn)，但也為我們展現(xiàn)了如何在智能時(shí)代實(shí)踐一條“串聯(lián)”個(gè)體意志、選擇和行為的通路。政治學(xué)者漢斯·科曼（Hans Keman）曾經(jīng)指出：“許多集體行為的問題只通過個(gè)人行為無法解決，但是由遙遠(yuǎn)的國家調(diào)節(jié)或間接的正式民主程序也不容易解決。相反，社群的自我調(diào)節(jié)，結(jié)合民主國家及其機(jī)構(gòu)的權(quán)威，倒可以使問題得到解決?！盵16]（pp.5-6）那么，如何將原子化的個(gè)體聯(lián)結(jié)為社群？如何在個(gè)體之間達(dá)成合作？從互聯(lián)網(wǎng)發(fā)展的歷程來看，經(jīng)由大數(shù)據(jù)和智能算法重構(gòu)的“人”，從以往統(tǒng)計(jì)學(xué)意義上抽象的“人”搖身一變，成為“群體畫像”中那個(gè)搖曳生姿的“人”，不僅能被多層次數(shù)據(jù)標(biāo)注和計(jì)算勾勒，而且可以被單獨(dú)量化以及高度解析，而這正是商業(yè)資本所樂見的，因?yàn)檫@使他們對每個(gè)人的“量身定價(jià)”成為可能。但伴隨個(gè)體“顆粒化”的同時(shí)，關(guān)乎社會(huì)秩序穩(wěn)定的集體行動(dòng)也在一定程度上落入到平臺(tái)資本的控制之中，正如當(dāng)年的Facebook丑聞。而事實(shí)上，真正對個(gè)體行為進(jìn)行引導(dǎo)和實(shí)施操縱的正是裹挾著資本甚至政治動(dòng)機(jī)的算法工具。談及這種關(guān)乎社會(huì)秩序穩(wěn)定的集體行動(dòng)的重要性，一個(gè)尤為明顯的例子便是網(wǎng)絡(luò)空間中公眾合意的形成與發(fā)酵過程，“由誰決定哪些社會(huì)問題成為政策問題，對于政策制定過程來說是關(guān)鍵性的。決定哪些問題成為政策問題，甚至比決定這些問題的解決辦法更為重要”[17]（p.28）。特別是在當(dāng)前全球范圍內(nèi)民粹主義思潮不斷抬頭的背景下，誰掌握了控制個(gè)體認(rèn)知和聚集網(wǎng)民合意的能力，誰就具備了催化社會(huì)集體行動(dòng)的可能。由此，算法及其相關(guān)問題的重要性便不只體現(xiàn)在個(gè)體層面的經(jīng)濟(jì)和倫理意義上，更因其在公共生活中可能產(chǎn)生難以預(yù)估的實(shí)際后果而具備了深刻的政治意涵。在這個(gè)意義上，智能算法以其日益強(qiáng)大的作用力逐漸滲透到現(xiàn)實(shí)生活的每一處，將個(gè)體的過去、現(xiàn)在和未來建立聯(lián)結(jié)，這種技術(shù)上的“聯(lián)結(jié)”應(yīng)用到公共治理領(lǐng)域，不僅能夠集合分散的民意，更為重要的是在這個(gè)過程中，能對各方面制度和資源的進(jìn)一步集聚發(fā)揮重要作用，使國家處于更有優(yōu)勢的地位[18]。

三、治理算法化的應(yīng)用場景：以人為尺度

所有算法類型盡管理念不同，但成功的關(guān)鍵都聚焦于算法和數(shù)據(jù)[8]。在“算法統(tǒng)治”時(shí)代，算法抉擇和運(yùn)用成為人類主要的工作，我們應(yīng)該去考慮的是在什么場景下應(yīng)用哪一種算法，從而為人類的幸福帶來最大的增益。技術(shù)的發(fā)展不是最終目的，人的發(fā)展才是技術(shù)發(fā)展的本質(zhì)[19]。也就是說，在什么場景下應(yīng)用哪種算法關(guān)鍵取決于能否促進(jìn)人的發(fā)展。這無疑是個(gè)宏大的命題和論證過程，但卻是我們推動(dòng)技術(shù)極致化發(fā)展道路上不可或缺的“指明燈”。

2012年8月，中國國家發(fā)改委社會(huì)發(fā)展研究所楊宜勇所長發(fā)布了他的一項(xiàng)研究成果：2010年，中華民族復(fù)興指數(shù)為6274%，這表明中國的民族復(fù)興已經(jīng)完成了大概6274%，截至2012年底，這個(gè)數(shù)字由6274%增至653%[7]（p.172）。該結(jié)論一出便引發(fā)了極大的爭議。批評者認(rèn)為，楊先生的研究方法深刻反映了當(dāng)前社會(huì)治理理念與模式中“數(shù)據(jù)迷信”的盛行，更有批評者認(rèn)為，類似民族復(fù)興這件事根本不能也不用量化。在這里我們無意評判民族復(fù)興是否可以量化，而是據(jù)此試圖厘清算法到底適用于哪些場景。對此，法國社會(huì)學(xué)家埃米爾·涂爾干（E.Durkheim）的理論具有啟示價(jià)值。他在《宗教生活的基本形式》一書中，將人類社會(huì)區(qū)分為“神圣”與“世俗”兩大領(lǐng)域[20]。所謂神圣領(lǐng)域，是指那些具有永恒的、完美的社會(huì)特征的領(lǐng)域，其中最典型的就是宗教信仰領(lǐng)域;而所謂世俗領(lǐng)域，則指那些與人們?nèi)粘Ｉ钕⑾⑾嚓P(guān)的方方面面[21]。在世俗領(lǐng)域，人們生活的指導(dǎo)原則是理性化原則，而算法在強(qiáng)化理性完成特定任務(wù)的績效方面顯然表現(xiàn)卓越。正如計(jì)算機(jī)科學(xué)泰斗高德納（David E.Knuth）所說的，算法與目的高度匹配的場景都是算法的“應(yīng)許之地”，而特定場景的目的決定適用哪種類型的算法[22]。單從這個(gè)角度而言，算法在世俗生活中只應(yīng)當(dāng)被區(qū)分而不應(yīng)當(dāng)被限制。但事實(shí)是，人類社會(huì)的諸多事務(wù)在很多時(shí)候沒有明顯區(qū)別世俗與神圣之間的界限。如人類的婚姻，作為其根基的愛情通常被認(rèn)為是神圣的存在，但現(xiàn)實(shí)的婚姻生活卻始終圍繞著“柴米油鹽醬醋茶”。而人類社會(huì)之所以能夠存在，生活于其中的個(gè)體之所以能夠彼此團(tuán)結(jié)起來而不至于一盤散沙，所依賴的絕不僅僅是一種理性的“利己主義”精神;相反，人們需要的是一種超越現(xiàn)實(shí)的“觀念真實(shí)”，這種“觀念真實(shí)”的存在無法用理性來衡量和辯論，甚至只可意會(huì)不可言傳，但也只有通過這種“觀念真實(shí)”，人們才能夠在彼此之間找到共同的社會(huì)屬性，進(jìn)而結(jié)成一個(gè)具有團(tuán)結(jié)性的有機(jī)社會(huì)。

人類社會(huì)活動(dòng)所追求的目標(biāo)價(jià)值從來就充滿了悖論，而技術(shù)的發(fā)展不僅不會(huì)消除這種悖論反而會(huì)使這種沖突和矛盾空前凸顯。這也就意味著，即使當(dāng)人工智能進(jìn)化到能滿足人類所有的物質(zhì)欲望，乃至在精神結(jié)構(gòu)上取代“神”的位置，人類作為一個(gè)社會(huì)共同體、命運(yùn)共同體的精神本質(zhì)問題仍然不會(huì)消失。這也決定了區(qū)分算法在人類社會(huì)生活中的應(yīng)用場景也許并不是一個(gè)明智之舉，而更值得我們?nèi)プ龅目赡苁菆?jiān)持一種韋伯意義上的價(jià)值理性。雖然有研究指出，在未來可能賦予強(qiáng)人工智能以人類價(jià)值，但人類價(jià)值觀的積累過程是人類相關(guān)基因機(jī)理經(jīng)歷成千上萬年進(jìn)化的結(jié)果，模仿并復(fù)現(xiàn)這一過程非常困難[23]。相比對未來強(qiáng)人工智能進(jìn)行設(shè)計(jì)構(gòu)想，在實(shí)踐層面，各國已經(jīng)通過積極設(shè)計(jì)方案來應(yīng)對算法危機(jī)帶來的多重挑戰(zhàn)。如歐盟通過賦予數(shù)據(jù)主體反對權(quán)和解釋權(quán)等新型算法權(quán)利來對抗算法的“侵蝕”;美國則遵循技術(shù)正當(dāng)程序的思路，賦予公眾對公用事業(yè)領(lǐng)域算法應(yīng)用的知情、參與、異議和救濟(jì)等程序性權(quán)利，著力構(gòu)筑以算法問責(zé)為核心的外部治理框架[24]。無論是凸顯解釋權(quán)的核心地位，還是加強(qiáng)對算法的問責(zé)，都旨在避免當(dāng)算法在社會(huì)治理過程中逐漸成為建構(gòu)人們生存環(huán)境的決定性力量時(shí)，人們可能日益淪為算法“附庸”的風(fēng)險(xiǎn)。不同的算法治理路徑反映了迥異的治理傳統(tǒng)、制度基礎(chǔ)和治理效能，但須臾未曾偏離也不能偏離的價(jià)值核心是以人為尺度。

四、治理算法化的風(fēng)險(xiǎn)：

“道”與“術(shù)”的異步困境

治理算法化旨在利用算法重塑一個(gè)更加客觀精準(zhǔn)的現(xiàn)實(shí)世界，毋庸置疑，就技術(shù)層面而言，算法并無價(jià)值傾向，但改善問題的系統(tǒng)卻往往可能反過來使問題更為嚴(yán)重。算法的背后無可避免交織著的是資本的商業(yè)邏輯與智能官僚主義的濫觴。其大規(guī)模應(yīng)用更是引發(fā)了諸多質(zhì)疑和警惕，算法歧視、算法“黑箱”、“監(jiān)視資本主義”等概念的提出更為具體地揭示了算法應(yīng)用中的風(fēng)險(xiǎn)形態(tài)。算法在給治理系統(tǒng)帶來便利與福利的同時(shí)，極易觸發(fā)意外未知風(fēng)險(xiǎn)從而侵蝕社會(huì)的公平正義。而究其根本，則在于治理之“道”與治理之“術(shù)”的異步困境。

（一）商業(yè)邏輯優(yōu)先于治理邏輯

任何一項(xiàng)技術(shù)的研發(fā)和運(yùn)用都意味著巨額資金的投入。顯而易見，只有雄厚的資本才能支撐算法的研發(fā)和持續(xù)優(yōu)化，而谷歌、微軟、蘋果等互聯(lián)網(wǎng)巨頭公司是算法的主要投資主體。但資本的介入，無疑賦予了算法天然的逐利性，成本—收益的商業(yè)邏輯被投資方奉為圭臬，因?yàn)椤罢莆樟藬?shù)據(jù)就意味著掌握了資本和財(cái)富，掌握了算法就意味著掌握了話語權(quán)和規(guī)制權(quán)”[25]。而與此同時(shí)，一群“算法影子官僚”②順勢而生，伴隨算法在公共領(lǐng)域的大規(guī)模運(yùn)用，商業(yè)邏輯的盈利思維開始滲透進(jìn)以公共價(jià)值為主導(dǎo)的治理領(lǐng)域。而算法技術(shù)的高度不對稱賦予了這群“算法影子官僚”更高的議價(jià)能力，從而使其能夠名正言順地汲取超額的公共財(cái)政資金。幾乎所有的算法技術(shù)公司都不斷地向政府兜售新的版本，而不管政府是否真的需要。事實(shí)上，即使沒有超級平臺(tái)的壟斷優(yōu)勢，基于緩解治理壓力的考量，公共部門也會(huì)日益依賴于算法技術(shù)進(jìn)行日常管理和決策，而這很可能使人的主動(dòng)意識、理性精神、自覺擔(dān)當(dāng)消失于無形[26]。相比于對公共財(cái)政資金的攫取，更為嚴(yán)重的后果是，算法邏輯在公共領(lǐng)域占據(jù)絕對權(quán)威，會(huì)導(dǎo)致公共權(quán)力屈服于技術(shù)公司及其開發(fā)人員的私人控制，而算法植入、算法俘獲以及算法支配等方式都使得這種私人控制更為隱蔽。以健康碼數(shù)據(jù)常態(tài)化應(yīng)用為例，健康碼在研發(fā)和使用過程中不可避免會(huì)引發(fā)“被動(dòng)監(jiān)管俘獲”，具有國家壟斷權(quán)力的監(jiān)管者被市場壟斷者“俘獲”，實(shí)現(xiàn)壟斷權(quán)力和壟斷利潤的聯(lián)動(dòng)和共謀，未來或?qū)⒊蔀榍址腹珯?quán)力和私權(quán)利的最主要方式[27]。政府雖基于限定目的使用健康碼數(shù)據(jù)，但由于健康碼數(shù)據(jù)的精確性和動(dòng)態(tài)性較強(qiáng)，經(jīng)處理后具有極高的商業(yè)利用價(jià)值，因此很容易成為醫(yī)藥公司、私立醫(yī)院、科技公司等市場主體“覬覦”的對象，而這也正是包括李彥宏在內(nèi)的諸多業(yè)內(nèi)人士建議健康碼必須在疫情之后予以取消，而刻寫其中的信息和數(shù)據(jù)須徹底予以銷毀的原因[28]。

面對日益復(fù)雜的治理任務(wù)，公權(quán)力將數(shù)據(jù)的抓取、問題的界定、議程的設(shè)置、方案的設(shè)計(jì)與選擇甚至政策的執(zhí)行和評估等都一起打包給了算法，這使得政府公職人員更多地充當(dāng)著“屏幕官僚”的角色，而真正掌握或者制定規(guī)則的很可能是算法及其背后的資本力量。但任何權(quán)力的來源和目標(biāo)指向都應(yīng)當(dāng)具有公共性，即以公共秩序和公共資源配置的合理性和公平性加持治理邏輯，這也是技術(shù)治理下“以人為尺度”的一種體現(xiàn)。對此，恩格斯曾在《反杜林論》中就有所洞悉：社會(huì)伊始就存在著共同利益，維護(hù)這種利益的工作，雖然是在全社會(huì)的監(jiān)督下，但不能不由個(gè)別成員來擔(dān)當(dāng)[29]（p.190）。當(dāng)算法技術(shù)掌握在少部分企業(yè)的手中時(shí)，就意味著個(gè)別的社會(huì)成員承擔(dān)了基于數(shù)據(jù)活動(dòng)而產(chǎn)生的利益分配活動(dòng)，不排除數(shù)據(jù)處理者基于正當(dāng)或不正當(dāng)?shù)睦碛山柚魇灸康难诓仄湔鎸?shí)目的之可能[30]。但與此同時(shí)，正如當(dāng)年“魏則西”事件反映了百度算法徹頭徹尾的“唯利是圖”，曾一度喚起民眾對于相關(guān)算法問題的關(guān)注，并掀起針對百度和涉事監(jiān)管部門的輿論攻勢，遺憾的是，公共輿論力量并沒有借此契機(jī)為規(guī)制算法構(gòu)建一條制度化的監(jiān)督路徑。

（二）算法偏見內(nèi)化為公共理性

算法偏見并不是一個(gè)新鮮詞，人們已經(jīng)觀察到算法在進(jìn)入世俗社會(huì)時(shí)不可避免地繼承了設(shè)計(jì)者對于世界的認(rèn)識，即人類社會(huì)無法根除的結(jié)構(gòu)型偏見。特別是數(shù)據(jù)選取、算法模型權(quán)重設(shè)定等環(huán)節(jié)是設(shè)計(jì)者嵌入自我價(jià)值傾向的“重災(zāi)區(qū)”，因?yàn)椤皵?shù)據(jù)分布本身就帶有一定的偏見性”[31]。在大數(shù)據(jù)的推薦算法中，人越來越依賴自己情感上有所偏好和習(xí)慣的領(lǐng)域，“我們只聽我們選擇的東西和愉悅我們的東西的通訊領(lǐng)域”[32]（p.8）。

毫無疑問，絕大多數(shù)算法自誕生之日起就存在特定的利益傾向。而在當(dāng)前弱人工智能向強(qiáng)人工智能進(jìn)化的階段，機(jī)器學(xué)習(xí)就類似一個(gè)生物體在進(jìn)行基因重組，算法偏見決定了智能社會(huì)運(yùn)行的基本規(guī)則，也即內(nèi)化為社會(huì)“基因”。而內(nèi)化為“基因”的算法偏見，一旦被廣泛應(yīng)用于公共領(lǐng)域，可能導(dǎo)致弱勢群體進(jìn)一步普遍淪為算法社會(huì)的“囚徒”。雖然他們的社會(huì)成員資格并沒有被懸置，但算法統(tǒng)攝下的數(shù)據(jù)探勘技術(shù)卻可能將他們阻擋在正常社會(huì)生活的邊界之外，如在住房、教育、信貸、保險(xiǎn)、就業(yè)等方面所遭遇的歧視。換言之，那些屢屢碰壁的人并非出于巧合或偶然的運(yùn)氣不好，而是算法這只無形的“上帝之手”在“縱橫捭闔”，這將成為一個(gè)主要的政治與社會(huì)問題。而與其他諸如貧富差距、環(huán)境污染、種族歧視等問題不同，它隱秘且難以為公眾所理解，更難以被抗議。2019年4月5日，美國密歇根州4萬名居民對州政府提起了集體訴訟。事件的起因是密歇根州政府利用一款集成反欺詐算法的綜合數(shù)據(jù)化系統(tǒng)“米達(dá)思”（MIDAS）對該州失業(yè)補(bǔ)貼申請進(jìn)行審核，做出申請者是否存在欺詐的判斷，并對欺詐者施以懲罰。但這個(gè)系統(tǒng)的出錯(cuò)率高達(dá)93%，致使超過4萬申請人被標(biāo)簽化為“欺詐者”[33]。在美國人工智能的應(yīng)用史上，因?yàn)椴缓侠淼乃惴ㄔO(shè)計(jì)給公眾帶來極其嚴(yán)重?fù)p害的情況已不是第一次了。2018年，美國紐約州被迫終止了對旨在防止家庭暴力的兒童保護(hù)預(yù)測算法的使用，該算法曾一度導(dǎo)致上萬個(gè)家庭中父母同其子女的被迫分離，僅僅因?yàn)樗惴ǔ绦蛟跀?shù)據(jù)分析后認(rèn)為這些家長可能具有“嚴(yán)重的家暴傾向”[33]。肉眼可見的危害也許還能事后補(bǔ)救，更可怕的結(jié)果是，算法的偏見極有可能損害我們當(dāng)前公共理性的內(nèi)核，即什么樣的治理原則具有“可接受性”，公民是否還能就公平正義以及在此基礎(chǔ)上形成的公共政策問題進(jìn)行自由論辯。缺少公共理性的治理，不僅在相當(dāng)程度上造成了治理人員的技術(shù)依賴，那些依托個(gè)人情感和自由意志的治理經(jīng)驗(yàn)和嫻熟技能已經(jīng)不再重要，理性、自由意志和個(gè)人情緒亦變得沒有必要[34]，而且它將不可避免地以人的“客體化”為代價(jià)，即人不再是享有自由并為生活賦予意義的主體，而淪為被支配的客體[35]。屆時(shí)，公共理性和政治技藝?yán)硇詫⑦M(jìn)一步滑向“工具理性鐵籠”，導(dǎo)致治理的空心化和公信力下降。質(zhì)言之，當(dāng)基于理性設(shè)計(jì)的公平正義、自由平等等政治價(jià)值與社會(huì)規(guī)約被技術(shù)的標(biāo)準(zhǔn)化和程序化簡單劃歸為數(shù)據(jù)準(zhǔn)則下的“正常人”和“非正常人”之分時(shí)，每個(gè)人都被算法牢牢“鎖定”，而“人的政治”將不再保有不證自明的價(jià)值。

（三）技術(shù)權(quán)力泛化為液態(tài)監(jiān)控

與其將算法視為一項(xiàng)新技術(shù)，毋寧將其看作是權(quán)力的新媒介。技術(shù)權(quán)力的共性在于依托大規(guī)模的集成數(shù)字化平臺(tái)，靠全覆蓋的攝像頭、傳感器、分析中心和智能終端匯總社會(huì)個(gè)體和群體的生活形態(tài)和生活軌跡，將分散的價(jià)值與意識集中成公意，從而強(qiáng)制執(zhí)行[36]。而最活躍且有效的機(jī)制，莫過于?？滤f的“全景敞視結(jié)構(gòu)”的監(jiān)控，這也是技術(shù)時(shí)代人類“異化”和“化異”的產(chǎn)物之一。正如德國當(dāng)代技術(shù)哲學(xué)家弗里德里?！だ眨‵riedrich Rapp）所言，“同從前的時(shí)代相反，現(xiàn)代科學(xué)技術(shù)賦予人類的力量，需要人有一定程度的自我控制。而這完全超出了人類的能力，這就是現(xiàn)實(shí)讓人進(jìn)退兩難的地方”[37]。然而，福柯在寫作《規(guī)訓(xùn)與懲罰》時(shí)，沒有預(yù)料到信息技術(shù)在當(dāng)代的迅猛發(fā)展，以及它為監(jiān)控所帶來的新變化。當(dāng)以數(shù)據(jù)搜集、處理和分析為基礎(chǔ)的算法嵌入國家權(quán)力體系中時(shí)，技術(shù)將以更隱秘和更具合法性的形式推動(dòng)國家權(quán)力的多維時(shí)空滲透，形塑智能時(shí)代的“圓形監(jiān)獄”。正如馬爾庫塞強(qiáng)調(diào)的，“技術(shù)成了社會(huì)控制和社會(huì)團(tuán)結(jié)的新的、更有效的、更令人愉快的形式”[38]（p.6）。國家治理現(xiàn)代化將人工智能視為重要的推動(dòng)力，被納入制度化體系的算法技術(shù)在其程序運(yùn)行中內(nèi)嵌了公權(quán)力的政治意識形態(tài)與價(jià)值預(yù)設(shè)，而具有意識形態(tài)化特性的算法技術(shù)一旦投入社會(huì)獨(dú)立運(yùn)作就會(huì)在復(fù)雜的算法推薦過程中不斷影響公民的政治認(rèn)知與價(jià)值取向，并迫使公民接受對算法廣泛運(yùn)用的社會(huì)合理性。一旦這種合理性擁有了公民的“同意”基礎(chǔ)，算法也變成了一個(gè)具有獨(dú)立性的控制體系。

這種控制不僅有著合法性基礎(chǔ)，而且將利用算法的不透明以及流動(dòng)性打造出更具柔韌度的網(wǎng)絡(luò)，將所有人裹挾其中，并以潤物細(xì)無聲的方式悄然彌散開來，而在此過程中，作為算法“指涉/改造”的對象——權(quán)力，亦流變?yōu)橐环N全新的監(jiān)控模式。在當(dāng)代社會(huì)，借助科學(xué)技術(shù)手段，統(tǒng)治階級的意志和命令被內(nèi)化為一種社會(huì)及個(gè)人心理，技術(shù)已經(jīng)成為新的控制形式[39]。而這最終將不可避免地滑向“算法利維坦”，并進(jìn)一步加劇政治與道德的分離，屆時(shí)，基于理性自治的官僚結(jié)構(gòu)將從“人的組織”轉(zhuǎn)向“算法的組織”，包括算法治理的人與治理算法的人都將不得不在算法測量、統(tǒng)計(jì)、計(jì)算中尋求生存。正如互聯(lián)網(wǎng)誕生之初人們熱烈地期盼進(jìn)入一個(gè)全新的“烏托邦世界”，一個(gè)“利維坦”無法壓迫“美麗新世界”。但正如齊格蒙特·鮑曼（Zygmunt Bauman）所指出的，“這種景象的共同體，就像是一個(gè)置身汪洋恣肆充滿敵意的大海中舒適安逸的普通平靜小島”[40]（p.300），互聯(lián)網(wǎng)所營造的極有可能是反抗強(qiáng)權(quán)以及逃避監(jiān)控的假象，聚合并不是能有效地推動(dòng)政治改革的力量。亦如算法統(tǒng)攝的智能時(shí)代，算法構(gòu)筑的液態(tài)監(jiān)控覆蓋了空間與時(shí)間的各個(gè)維度，無所不至。正是在這種情況下，人們喪失了對監(jiān)控的敏感度。?？略?jīng)在《必須保衛(wèi)社會(huì)》中指出：“在17和18世紀(jì)，出現(xiàn)了一個(gè)主要現(xiàn)象：出現(xiàn)了新的權(quán)力機(jī)制（應(yīng)當(dāng)說是發(fā)明），它有很特殊的程序，全新的工具，完全不同的機(jī)器……這種新的權(quán)力機(jī)器首先作用于人的肉體及其行動(dòng)，超過其作用于土地及其產(chǎn)品。這種權(quán)力機(jī)制更是源自肉體、時(shí)間和工作而不是財(cái)物。”[41]（p.33）有學(xué)者曾以可穿戴設(shè)備為例，思考數(shù)字社會(huì)如何在促進(jìn)跑者自我賦權(quán)的同時(shí)引發(fā)了一場自我量化的數(shù)字勞動(dòng)，而在這個(gè)過程中，具有“后全景敞視結(jié)構(gòu)”特征的液態(tài)監(jiān)控則一直嵌入其中，進(jìn)而形成被強(qiáng)制的自我追蹤[42]，這在一定程度上也是人屈從于機(jī)器的一種表現(xiàn)。?？略?jīng)生動(dòng)而準(zhǔn)確地指出，“可見性就是捕捉器”，當(dāng)“規(guī)訓(xùn)機(jī)制逐漸擴(kuò)展，遍布了整個(gè)社會(huì)機(jī)體時(shí)”，肉體就無處遁形了。?？抡J(rèn)為以“規(guī)訓(xùn)社會(huì)”命名仍屬“姑且名之”，但實(shí)際上是恰切之極。事實(shí)上，類似于吉爾·德勒茲（Gilles Deleuze）提出的個(gè)體被信息技術(shù)消解而產(chǎn)生的“分格”，而基于算法的“分格”使得德勒茲口中的“管控社會(huì)”成為“液態(tài)社會(huì)”，但不同于鮑曼口中“流沙”般的現(xiàn)代社會(huì)，算法權(quán)力將個(gè)人“歸置”于由代碼組成的數(shù)字世界中——“它們不僅決定了人們能否獲得信息，并且使人置身于一種無處不在的、持續(xù)運(yùn)轉(zhuǎn)的網(wǎng)絡(luò)之中，形同巨大的篩子上排列得錯(cuò)落有致的篩孔”[43]。

（四）擬態(tài)真實(shí)取代治理情境

人工智能技術(shù)的崛起，在媒介信息傳播領(lǐng)域掀起了革命性浪潮，最顯著的作用是使內(nèi)容的自動(dòng)生產(chǎn)成為可能。各類“新聞寫作機(jī)器人”已在國內(nèi)外相繼投入使用，如我國新華社的“快筆小新”，《南方都市報(bào)》的“小南”和美聯(lián)社的“小美”等[44]。機(jī)器人寫作、人機(jī)對話、算法分發(fā)等媒介制作和信息傳播方式的出現(xiàn)，不僅極大地消除了信息傳輸過程中人為主觀因素造成的認(rèn)知偏差，更為重要的是，依靠算法推薦機(jī)制形成的那些更為清晰甚至帶有預(yù)測功能的信息環(huán)境，成了在這個(gè)高度不確定性社會(huì)中人們的理想“伊甸園”。與此同時(shí)，一個(gè)看似“超真實(shí)”的全面擬真信息時(shí)代正在成為現(xiàn)實(shí)。這種“擬態(tài)真實(shí)”不僅成為受眾的日常生活情境，而且也日益取代傳統(tǒng)的治理情境。最典型莫過于近年來，隨著人工智能技術(shù)的突飛猛進(jìn)，在司法領(lǐng)域，曾有人一度將人工智能視為“法律自動(dòng)售貨機(jī)”，并將其視為未來的司法功能形態(tài)，雖然這一觀點(diǎn)已經(jīng)被業(yè)界人士和專家學(xué)者們所批判，但向智能算法投喂大量數(shù)據(jù)以促使其“學(xué)習(xí)”和“進(jìn)化”，找到隱藏的規(guī)律和范式進(jìn)而自動(dòng)執(zhí)行決策和操作已經(jīng)成為人工智能進(jìn)階的必經(jīng)之路。但這條進(jìn)化路徑卻在不斷深化型構(gòu)一個(gè)巨大的“陷阱”，那些看似更為精確的治理情境和治理數(shù)據(jù)，事實(shí)上以一種高度擬真的景觀想象，消弭了人類主觀認(rèn)識與客觀環(huán)境的邊界，并在社會(huì)不同階層的受眾之間持續(xù)強(qiáng)化認(rèn)知鴻溝。未來的信息推薦算法或許不會(huì)總是將人們封閉在個(gè)人的小天地里，甚至可以期待它們會(huì)在促進(jìn)公共傳播方面有所作為，但即使如此，被算法無時(shí)無刻“投喂”的人們，最終極有可能成為愚笨的信息“填鴨”。而算法構(gòu)建的擬態(tài)環(huán)境，類似由智能算法推薦的新聞、廣告等，不僅僅是試圖以信息“感染”個(gè)體，進(jìn)而“操縱”個(gè)體的行為，更重要的是，它通過對大數(shù)據(jù)庫的實(shí)時(shí)分析，構(gòu)建起跨語言、深層次、全局性地認(rèn)識事物、表征和預(yù)測現(xiàn)實(shí)的模型，突破了以往人們“腦海真實(shí)”的片面性和局部性，從而仿真出無限逼近于客觀真實(shí)的“符號真實(shí)”[45]。在公共管理領(lǐng)域，這種“符號真實(shí)”在很大程度上會(huì)成為治理者的決策依據(jù)，但也使得治理主體戴上了“有色眼鏡”從而忽視治理情境中的許多“邊緣情況”。而當(dāng)公眾對于真實(shí)的理解長期處于這種算法的計(jì)算之下，就會(huì)形成一種斯蒂芬·科爾伯特所說的“真實(shí)效應(yīng)的幻覺”[46]。

長期脫離真實(shí)社會(huì)生活的社會(huì)和政治實(shí)踐，不僅會(huì)阻礙人格的正常形成，削弱人們參與政治的能力，也將進(jìn)一步加劇人們識別自身的真正困境。如在扶貧領(lǐng)域，人工智能算法的應(yīng)用的確能夠助力精準(zhǔn)扶貧，大幅降低當(dāng)前貧困認(rèn)定的遺漏率和錯(cuò)配率，但也可能導(dǎo)致特定貧困群體被算法故意“剔除”，而很多現(xiàn)實(shí)情境下的貧困認(rèn)定工作，需要基層扶貧干部實(shí)現(xiàn)“強(qiáng)約束下的變通”[47]。事實(shí)上，基層治理中的大量實(shí)踐需要依賴所謂的“模糊性治理”（Ambiguous Governing），即指當(dāng)政府面對困境性的（如政策方案不成熟）、可爭議性的政策議題，或者面臨應(yīng)對價(jià)值或倫理上的兩難情形時(shí)，在治理機(jī)制、政策工具或行動(dòng)策略上表現(xiàn)出來具有“詮釋靈活性”“模棱兩可”等特性的公共管理模式[48]，這些都必須根植于現(xiàn)實(shí)的治理情境。而算法在公共管理領(lǐng)域的介入，以“擬態(tài)真實(shí)”取代真實(shí)的治理情境，也消除了困境性議題中模糊策略的施展空間，這也意味著在某種程度上權(quán)力“以退為進(jìn)”之路被阻斷。

五、回歸正題：治理算法化的界定、

評價(jià)與啟示

聚焦當(dāng)下，由大量數(shù)據(jù)驅(qū)動(dòng)的算法已經(jīng)成為一種全新的權(quán)力媒介，或?qū)θ藗兊男袨楹捅憩F(xiàn)進(jìn)行預(yù)測，或?qū)Ω鞣N資源和福利分配進(jìn)行排序。與其說治理算法化是一個(gè)新的概念，倒不如說它更像是一個(gè)不斷逼近的社會(huì)事實(shí)。諸如Facebook、微軟、百度、新浪、阿里巴巴等技術(shù)公司和相關(guān)組織通過算法權(quán)力分割政府的管理權(quán)限已經(jīng)成為不爭的事實(shí)，而積累了強(qiáng)大技術(shù)行政能力的行動(dòng)者將進(jìn)一步形塑治理算法化。正如尤瓦爾·赫拉利（Yuval Noah Harari）所預(yù)測的，算法會(huì)成為經(jīng)濟(jì)鏈的頂端，而不僅僅是效益決策的最大助推力。這些決策與各種平臺(tái)應(yīng)用有機(jī)結(jié)合，不斷顛覆并帶領(lǐng)人們快速邁向算法社會(huì)，構(gòu)成治理算法化的現(xiàn)實(shí)樣態(tài)。面對新的社會(huì)樣態(tài)，既需要對具體研發(fā)、使用情景中的新一代人工智能技術(shù)及其嵌入公共領(lǐng)域的方式進(jìn)行預(yù)制、校準(zhǔn)以及倫理反思，亦需要遵循蘇格拉底“認(rèn)識你自己”的古老教誨，對人的自身價(jià)值進(jìn)行追問，并重塑智能社會(huì)下人的自我生活策略。無論是治理抑或算法，其越“先進(jìn)”，就越會(huì)遠(yuǎn)離人之初的“本自然”。因此，人必須成為算法的控制者，“一切劃時(shí)代的體系的真正的內(nèi)容都是由于產(chǎn)生這些體系的那個(gè)時(shí)期的需要而形成起來的”[49]（p.554）。治理算法化并非是簡單的人工智能嵌入治理領(lǐng)域之后的產(chǎn)物，而是實(shí)踐先于理論而存在，亦是這個(gè)時(shí)代的社會(huì)需求。我們無疑已經(jīng)進(jìn)入了對算法需求的“寒武紀(jì)大爆發(fā)”時(shí)代，現(xiàn)如今對算法和人工智能的理解，亦如18世紀(jì)的科學(xué)家亞歷山大·馮·洪堡（Alexander von Humboldt）第一次以“生命之網(wǎng)”的整體視角重塑人類對大自然的認(rèn)識，需要經(jīng)歷一個(gè)“洪堡時(shí)刻”，其核心就是在智能系統(tǒng)中嵌入符合人類價(jià)值的基模，構(gòu)筑算法的底層運(yùn)行規(guī)則[50]。而這個(gè)規(guī)則須臾不可偏離的基點(diǎn)即所有的技術(shù)發(fā)展本質(zhì)上都是為了實(shí)現(xiàn)人的發(fā)展，人是起點(diǎn)亦是終點(diǎn)。

當(dāng)然，任何一項(xiàng)技術(shù)的發(fā)展在帶來福音的同時(shí)都存在進(jìn)一步撕裂當(dāng)下社會(huì)的風(fēng)險(xiǎn)，我們除了審慎和理性地分析算法危機(jī)的根源和特征之外，更應(yīng)當(dāng)以包容客觀的心態(tài)給予算法技術(shù)足夠的創(chuàng)新空間，并有針對性地總結(jié)算法治理以及治理算法的經(jīng)驗(yàn)，這樣做的目的不僅在于緩解算法焦慮，與“算法共存”，而且旨在于治理算法化的體系中進(jìn)一步促進(jìn)技術(shù)與人的和諧關(guān)系。當(dāng)然，算法技術(shù)本身的優(yōu)化和完善十分重要，但更需要在凝聚社會(huì)共識以及型構(gòu)異議空間的基礎(chǔ)上建立有效應(yīng)對“道”與“術(shù)”異步困境的治理機(jī)制，防范人工智能的技術(shù)性風(fēng)險(xiǎn)。這不僅涉及強(qiáng)化法律規(guī)制的傳統(tǒng)制度改造，更要求建立以全面理性為基礎(chǔ)、以社會(huì)監(jiān)管為重要內(nèi)容的政策體系，甄別與抵制算法對“人的政治”的侵蝕。誠然，算法時(shí)代的“洪堡時(shí)刻”并沒有捷徑可走，或許只能通過諸如對“自動(dòng)駕駛在面對‘電車難題’時(shí)做出的選擇是否比人類更合乎道德”“智能司法系統(tǒng)會(huì)不會(huì)比法官裁判更公正”等悖論的思辨與探討，才能從每一個(gè)具體的治理算法化情境中，不斷深化對人工智能治理屬性的再思考。

注釋：

①參見JeanLuc Chabert：“A History of Algorithm：From the Pebble to the Microchip”，Springer，1999.

②有學(xué)者指出，在商業(yè)邏輯的支配下，算法公司可能通過程序設(shè)定將算法植入公共部門，并將算法優(yōu)勢嵌入公共部門的投入、過程與產(chǎn)出等環(huán)節(jié)，以期獲得更多的財(cái)政資金制造機(jī)會(huì)，進(jìn)而充當(dāng)算法影子官僚，不斷擴(kuò)大算法權(quán)力在公共領(lǐng)域的影響。參見鄭崇明：《警惕公共治理中算法影子官僚的風(fēng)險(xiǎn)》，《探索與爭鳴》2021年第1期。

參考文獻(xiàn)：

[1][英]威廉·配第.政治算術(shù)[M].陳冬野.北京：商務(wù)印書館，2014.

[2][法]米歇爾·?？?規(guī)訓(xùn)與懲罰[M].劉北成，楊遠(yuǎn)嬰.北京：生活·讀書·新知三聯(lián)書店，2012.

[3][加拿大]馬歇爾·麥克盧漢.理解媒介：論人的延伸[M].何道寬.南京：譯林出版社，2019.

[4]張昱辰.走向后人文主義的媒介技術(shù)論——弗里德里希·基特勒媒介思想解讀[J].現(xiàn)代傳播，2014，（9）.

[5][意]吉奧喬·阿甘本.論友愛[M].劉耀輝，尉光吉.北京：北京大學(xué)出版社，2017.

[6]鄭戈.算法的法律與法律的算法[J].中國法律評論，2018，（2）.

[7]徐子沛.數(shù)據(jù)之巔[M].北京：中信出版社，2018.

[8]賈開，蔣余浩.人工智能治理的三個(gè)基本問題——技術(shù)邏輯、風(fēng)險(xiǎn)挑戰(zhàn)與公共政策選擇[J].中國行政管理，2017，（10）.

[9][德]蓋奧爾格·西美爾.社會(huì)學(xué)：關(guān)于社會(huì)化形式的研究[M].林榮遠(yuǎn).北京：華夏出版社，2002.

[10][德]尤爾根·哈貝馬斯.作為“意識形態(tài)”的技術(shù)與科學(xué)[M].李黎，郭官義.北京：學(xué)林出版社，1999.

[11]吳冠軍.信任的“狡計(jì)”——信任缺失時(shí)代重思信任[J].探索與爭鳴，2019，（12）.

[12][美]尼葛洛龐帝.數(shù)字化生存[M].胡泳，等.?？冢汉Ｄ铣霭嫔纾?997.

[13]夏逸舟.西蒙棟技術(shù)哲學(xué)淺析——從“個(gè)體化”概念入手[D].南京：南京大學(xué)學(xué)位論文，2017.

[14]吳冠軍.競速統(tǒng)治與后民主政治——人工智能時(shí)代的政治哲學(xué)反思[J].當(dāng)代世界與社會(huì)主義，2019，（6）.

[15][美]勞倫斯·萊斯格.代碼2.0：網(wǎng)絡(luò)空間中的法律[M].李旭，沈偉偉.北京：清華大學(xué)出版社，2009.

[16]李惠斌，楊冬雪.社會(huì)資本與社會(huì)發(fā)展[M].北京：社會(huì)科學(xué)文獻(xiàn)出版社，2000.

[17][美]托馬斯·R·戴伊.理解公共政策（第十二版）[M].謝明.北京：中國人民大學(xué)出版社，2011.

[18]高奇琦.智能革命與國家治理現(xiàn)代化初探[J].中國社會(huì)科學(xué)，2020，（7）.

[19]張志安，劉杰.人工智能與新聞業(yè)：技術(shù)驅(qū)動(dòng)與價(jià)值反思[J].新聞與寫作，2017，（11）.

[20][法]愛彌爾·涂爾干.宗教生活的基本形式[M].渠敬東，汲喆.北京：商務(wù)印書館，2011.

[21]胡安寧. 人心可以計(jì)算嗎？——人工智能與社會(huì)科學(xué)研究之關(guān)系[J].南國學(xué)術(shù)，2017，（4）.

[22][美]高德納.計(jì)算機(jī)程序設(shè)計(jì)藝術(shù)卷1：基本算法[M].李伯明，等.北京：人民郵電出版社，2016.

[23]劉宇擎，張玉槐，段沛奇，等.針對強(qiáng)人工智能安全風(fēng)險(xiǎn)的技術(shù)應(yīng)對策略[J].中國工程科學(xué)，2021，（3）.

[24]張欣.從算法危機(jī)到算法信任：算法治理的多元方案和本土化路徑[J].華東政法大學(xué)學(xué)報(bào)，2019，（6）.

[25]鄭智航.人工智能算法的倫理危機(jī)與法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2021，（1）.

[26]任劍濤.人工智能與“人的政治”重生[J].探索，2020，（5）.

[27]方興東，嚴(yán)峰.“健康碼”背后的數(shù)字社會(huì)治理挑戰(zhàn)研究[J].人民論壇·學(xué)術(shù)前沿，2020，（16）.

[28]姚佳瑩.健康碼能否升級“全能碼”？[J].晚晴，2020，（7）.

[29]恩格斯.反杜林論[M].中共中央馬克思恩格斯列寧斯大林著作編譯局.北京：人民出版社，2018.

[30]蔣紅珍.目的正當(dāng)性審查在比例原則中的定位[J].浙江工商大學(xué)學(xué)報(bào)，2019，（2）.

[31]汝緒華.算法政治：風(fēng)險(xiǎn)、發(fā)生邏輯與治理[J].廈門大學(xué)學(xué)報(bào)，2018，（6）.

[32][美]凱斯·R.桑斯坦.信息烏托邦：眾人如何生產(chǎn)知識[M].畢競悅.北京：法律出版社，2008.

[33]唐林垚.算法應(yīng)用的公共妨害及其治理路徑[J].北方法學(xué)，2020，（3）.

[34]朱婉菁.算法維度下人工智能嵌入治理的風(fēng)險(xiǎn)研判及政策因應(yīng)[J].天津行政學(xué)院學(xué)報(bào)，2020，（6）.

[35]孫國東.“算法理性”的政治哲學(xué)檢視[J].廈門大學(xué)學(xué)報(bào)，2021，（2）.

[36]張愛軍，李圓.人工智能時(shí)代的算法權(quán)力：邏輯、風(fēng)險(xiǎn)及規(guī)制[J].河海大學(xué)學(xué)報(bào)，2019，（6）.

[37]汪行福.“復(fù)雜現(xiàn)代性”論綱[J].天津社會(huì)科學(xué)，2018，（1）.

[38][美]赫伯特·馬爾庫塞.單向度的人[M].劉繼.上海：上海譯文出版社，2008.

[39]陳振明.走向一種科學(xué)技術(shù)政治學(xué)理論——評“西方馬克思主義”關(guān)于科學(xué)技術(shù)政治效應(yīng)的觀點(diǎn)[J].自然辨證法通訊，1997，（2）.

[40][英]齊格蒙特·鮑曼.流動(dòng)的現(xiàn)代性[M].歐陽景根.北京：中國人民大學(xué)出版社，2018.

[41][法]米歇爾·?？?必須保衛(wèi)社會(huì)[M].錢翰.上海：上海人民出版社，1999.

[42]王健.自我、權(quán)力與規(guī)訓(xùn)：可穿戴設(shè)備的社會(huì)學(xué)解析——以青年跑者為例[J].中國青年研究，2019，（12）.

[43]段偉文.面向人工智能時(shí)代的倫理策略[J].當(dāng)代美國評論，2019，（1）.

[44]羅歡.智媒時(shí)代媒體的智能化發(fā)展與轉(zhuǎn)型研究[J].新聞愛好者，2019，（1）.

[45]喻國明，韓婷.算法型信息分發(fā)：技術(shù)原理、機(jī)制創(chuàng)新與未來發(fā)展[J].新聞愛好者，2018，（4）.

[46]汝緒華.假新聞泛濫與西方民主的整體性危機(jī)[J].馬克思主義研究，2019，（5）.

[47]劉建.標(biāo)準(zhǔn)化、自由裁量權(quán)與街頭博弈：貧困治理情境轉(zhuǎn)換的路徑及邏輯[J].甘肅行政學(xué)院學(xué)報(bào)，2019，（4）.

[48]孫志建.“模糊性治理”的理論系譜及其詮釋：一種嶄新的公共管理敘事[J].甘肅行政學(xué)院學(xué)報(bào)，2012，（3）.

[49]馬克思恩格斯選集（第3卷）[M].北京：人民出版社，1995.

[50]喻國明，耿曉夢.智能算法推薦：工具理性與價(jià)值適切——從技術(shù)邏輯的人文反思到價(jià)值適切的優(yōu)化之道[J].全球傳媒學(xué)刊，2018，（4）.

[責(zé)任編輯：張英秀]

Abstract： The transformation of artificial intelligence in the field of governance requires theoretical reconstruction and innovation. Putting artificial intelligence in the secondorder structure of internal “theoretical proof” and external “risk identification” of governance， proposing and demonstrating the analytical framework of governance algorithmization is a useful way to explore governance reform in the era of artificial intelligence. The prerequisite for the establishment of governance algorithmization is not only the efforts of the “calculable” module， but also the need to reshape the boundary of governance. It originates from both the need to strengthen governance trust and the need to construct collective action in the individualized era， and should always adhere to the application logic of human scale. Governance algorithmization has the asynchronous dilemma of “Tao” and “art”， that is， there are risks such as business logic taking precedence over governance logic， algorithm bias internalizing into public rationality， technology power generalization into liquid monitoring， and pseudo reality replacing governance situation. Therefore， the algorithmization of governance still needs to further promote the harmonious relationship between technology and people.

Key words： artificial intelligence， the algorithm of governance， big data， algorithm bias， machine learning