算法社會(huì)的技術(shù)內(nèi)涵、演化過程與治理創(chuàng)新

賈 開

（電子科技大學(xué) 公共管理學(xué)院,四川 成都 611731）

1 問題提出與文獻(xiàn)回顧

算法正在成為數(shù)字時(shí)代的“哲學(xué)王”。越來越多的人類事務(wù)被置于算法的影響與控制之下，個(gè)體層面的衣食住行、組織層面的管理調(diào)度、社會(huì)層面的生產(chǎn)分配，無一不在數(shù)字化轉(zhuǎn)型的進(jìn)程中被嵌入算法建構(gòu)的技術(shù)環(huán)境。算法環(huán)境儼然成為與自然環(huán)境、社會(huì)環(huán)境具有同等意義的人類生產(chǎn)生活新空間，并可能推動(dòng)人類社會(huì)進(jìn)入算法社會(huì)的新階段[1]。算法社會(huì)可以被視為法國社會(huì)學(xué)家雅克-埃呂爾(Jacques Ellul)筆下“技術(shù)化社會(huì)”(Technological Society)在當(dāng)前的具體體現(xiàn)。“技術(shù)化社會(huì)”概念聚焦技術(shù)作為工具的影響范圍不斷擴(kuò)大的進(jìn)程和狀態(tài)。從初始僅作為人類肢體的延伸，到進(jìn)入組織而成為商業(yè)活動(dòng)和政府行政的手段，再到進(jìn)一步泛化以潛移默化地影響人類行為，“處處滲透著技術(shù)且以技術(shù)為工具”的技術(shù)化社會(huì)得以形成[1]。算法作為技術(shù)的一種類型，其初始概念是指在有限資源內(nèi)完成既定目標(biāo)的方法或步驟[2]73。但受益于計(jì)算機(jī)、互聯(lián)網(wǎng)、人工智能、區(qū)塊鏈等一系列數(shù)字技術(shù)的發(fā)展應(yīng)用，算法的影響力日益增加，在成為人類生產(chǎn)生活活動(dòng)基本規(guī)則的同時(shí)，也重新建構(gòu)了人類社會(huì)的權(quán)力關(guān)系，并最終推動(dòng)人類社會(huì)進(jìn)入算法社會(huì)的新階段。

沿襲技術(shù)化社會(huì)的理論建構(gòu)，算法社會(huì)可被視為算法作為人類生產(chǎn)生活活動(dòng)重要規(guī)則的社會(huì)形態(tài)。與數(shù)字化社會(huì)、智能化社會(huì)等概念強(qiáng)調(diào)數(shù)字技術(shù)提升社會(huì)運(yùn)行效率的工具主義取向不同，算法社會(huì)更強(qiáng)調(diào)數(shù)字技術(shù)嵌入人類社會(huì)并與之相互影響而形成的新體系。與其他技術(shù)化社會(huì)不同，算法的獨(dú)特屬性使得算法社會(huì)的內(nèi)在運(yùn)行邏輯更為復(fù)雜、影響也更為深遠(yuǎn)。一方面，技術(shù)樂觀主義者往往贊頌算法在提升社會(huì)治理能力和效率方面的作用，認(rèn)為算法能夠?qū)⑷祟悘臋C(jī)械化工作中解放出來，并圍繞“數(shù)據(jù)主義”[3]368、“算法規(guī)制”[4]289-300的相關(guān)論述勾勒出算法社會(huì)的“烏托邦”場景；另一方面，算法的大規(guī)模應(yīng)用同樣引發(fā)了諸多質(zhì)疑和警惕，“答案主義”[5]、“監(jiān)控資本主義”[6]8從不同視角批判了算法應(yīng)用的潛藏風(fēng)險(xiǎn)，算法歧視、算法“黑箱”、算法“回音壁”則更為具體地揭示了其風(fēng)險(xiǎn)內(nèi)涵。

埃呂爾在論述技術(shù)化社會(huì)時(shí)曾指出，技術(shù)將逐漸擺脫依附于人和組織的影響而成為獨(dú)立領(lǐng)域，并認(rèn)為技術(shù)化社會(huì)終將“排擠人類創(chuàng)造力并控制人類社會(huì)”[7]7。算法社會(huì)是否同樣遵循這一趨勢，如果是，我們該如何解釋算法推動(dòng)社會(huì)進(jìn)步的技術(shù)樂觀主義態(tài)度；如果不是，我們又該如何面對(duì)新的治理風(fēng)險(xiǎn)的不斷涌現(xiàn)，進(jìn)而通過治理體系改革以引導(dǎo)技術(shù)發(fā)展應(yīng)用的未來方向。上述實(shí)踐問題最終又可歸結(jié)為算法社會(huì)背景下如何描述與解釋算法影響人類社會(huì)內(nèi)在機(jī)制的理論問題。具體而言，算法的發(fā)展演化規(guī)律是什么，其將如何影響人類生產(chǎn)生活活動(dòng)，這種影響與歷史上的其他技術(shù)是否存在差別，其影響效力又是否存在邊界。對(duì)于此類問題，已有研究更多體現(xiàn)了局部領(lǐng)域的探索，而非整體性理論框架的建構(gòu)。

一方面，部分研究更多關(guān)注算法應(yīng)用結(jié)果之于人類生產(chǎn)生活的影響，將算法視為外生技術(shù)力量而考慮其改變?nèi)祟惿鐣?huì)權(quán)力結(jié)構(gòu)的作用，前述圍繞算法歧視、算法“回音壁”等應(yīng)用風(fēng)險(xiǎn)的研究便是代表。即使是聚焦算法“黑箱”“看不見的手”[8]等算法形成及應(yīng)用過程研究，也仍然停留于技術(shù)外生性這一視角，強(qiáng)調(diào)算法影響的獨(dú)特性或?qū)ζ浔O(jiān)管的復(fù)雜性。導(dǎo)致上述局限的原因可歸結(jié)于傳統(tǒng)技術(shù)哲學(xué)研究綱領(lǐng)的缺失，其過多關(guān)注技術(shù)應(yīng)用結(jié)果(技術(shù)價(jià)值論)，卻忽視技術(shù)內(nèi)在屬性(技術(shù)本體論)及其演化過程(技術(shù)認(rèn)識(shí)論)的分析[9]。在數(shù)字技術(shù)加速創(chuàng)新應(yīng)用的背景下，算法的普及應(yīng)用已不能簡單理解為技術(shù)產(chǎn)品的結(jié)果正義問題，而應(yīng)被視為內(nèi)生于人類社會(huì)數(shù)字化轉(zhuǎn)型進(jìn)程的重要組成部分，并在與環(huán)境相互嵌入、相互影響的過程中不斷發(fā)展、演化。另一方面，即使部分研究同樣認(rèn)識(shí)到了技術(shù)內(nèi)生性的復(fù)雜現(xiàn)實(shí)，但往往將算法視為嵌入社會(huì)經(jīng)濟(jì)系統(tǒng)之中并受后者約束的技術(shù)形態(tài)，進(jìn)而認(rèn)為算法本身的發(fā)展及其影響都只不過是不同社會(huì)經(jīng)濟(jì)力量的博弈結(jié)果。勞倫斯-萊辛格(Lawrence Lessig)提出的“代碼即法律”[10]1論斷，便是此類思路的代表性觀點(diǎn)。其承認(rèn)算法作為規(guī)則的約束力作用，進(jìn)而強(qiáng)調(diào)平臺(tái)作為規(guī)則制定者的重要角色，并因此要求政府約束乃至限制平臺(tái)制定、應(yīng)用算法的權(quán)力。這一研究思路雖然看到了算法嵌入社會(huì)經(jīng)濟(jì)系統(tǒng)的復(fù)雜性，但認(rèn)為算法的發(fā)展與影響完全決定于不同社會(huì)經(jīng)濟(jì)力量的博弈結(jié)果而不具有特殊性，忽略了數(shù)字時(shí)代由于算法的出現(xiàn)和普及而不同于歷史上任何其他時(shí)代的新規(guī)律與新特征[11]。

已有研究的上述兩方面思路事實(shí)上都未將算法本身作為研究對(duì)象，因而難以深入算法形成、演化過程的內(nèi)部以揭示算法概念及其影響的豐富內(nèi)涵。一方面，它將算法視為理性客觀的技術(shù)模型，并因此忽略算法本身仍然可能具有的多樣性，以及這種多樣性受到環(huán)境因素影響而發(fā)展演化的復(fù)雜性；另一方面，它將算法視為社會(huì)經(jīng)濟(jì)因素的博弈產(chǎn)物，并因此忽略算法在開放性、迭代性、規(guī)范性等方面的主體屬性，以及這種主體性影響人類生產(chǎn)生活機(jī)制的特殊性。正是基于已有研究的不足，本文試圖以解構(gòu)算法的概念內(nèi)涵為起點(diǎn)，既承認(rèn)算法的獨(dú)特性和主體性，又承認(rèn)算法與人類社會(huì)相互影響的多重性與復(fù)雜性，并在此基礎(chǔ)上揭示算法社會(huì)的基本特征與運(yùn)行規(guī)律。首先，回到算法的技術(shù)本源，從公理化數(shù)學(xué)思想和計(jì)算化數(shù)學(xué)思想對(duì)比分析的基礎(chǔ)上，界定算法的概念內(nèi)涵，以廓清圍繞算法的不實(shí)“想象”，并打開理解算法社會(huì)運(yùn)行規(guī)律的理論空間。其次，聚焦算法技術(shù)路徑選擇的多樣性和算法的內(nèi)生社會(huì)效應(yīng)，以體現(xiàn)人類社會(huì)對(duì)于算法形成、發(fā)展、演化過程的影響。再次，討論算法影響人類社會(huì)的機(jī)制與限度，具體體現(xiàn)為生命政治、代碼治理術(shù)、可計(jì)算社會(huì)三個(gè)方面。最后，基于技術(shù)政治、影響機(jī)制兩方面的理論建構(gòu)，進(jìn)一步探討推進(jìn)算法治理創(chuàng)新的價(jià)值和意義。不同于聚焦具體算法風(fēng)險(xiǎn)的應(yīng)對(duì)性措施，算法社會(huì)的理論建構(gòu)有助于我們從整體上理解并推動(dòng)算法治理創(chuàng)新的頂層框架建設(shè)。

2 算法概念的技術(shù)內(nèi)涵

算法的普及性及其難以捉摸的“黑箱”性使得所有針對(duì)算法的討論最終都可能滑向其他對(duì)象，從而模糊算法作為技術(shù)政治學(xué)分析對(duì)象的邊界與內(nèi)涵[8]。已有研究分析視角的局限性，事實(shí)上也反映了對(duì)于算法概念理解的不全面與不完整。不過作為一種技術(shù)現(xiàn)象，自然科學(xué)視角的總結(jié)仍然有可能概括算法的一般性特征，并以此為基礎(chǔ)延伸至相關(guān)社會(huì)科學(xué)議題的考察。本部分將基于算法研究歷史的回顧，從“公理化”與“計(jì)算化”兩種數(shù)學(xué)思想的對(duì)話爭論中對(duì)算法概念的技術(shù)內(nèi)涵作出界定。

2.1 公理化與計(jì)算化數(shù)學(xué)思想分野下的算法界定

唐納德-克努特(Donald E.Knuth)曾指出，“計(jì)算機(jī)科學(xué)就是算法的科學(xué)”[2]73。作為現(xiàn)代計(jì)算機(jī)理論基礎(chǔ)的圖靈機(jī)模型因此也被視為算法的代名詞。不過值得注意的是，“圖靈機(jī)”的最初設(shè)計(jì)目的并非為了制造計(jì)算機(jī)，而是為了解決數(shù)學(xué)領(lǐng)域的“可計(jì)算性”判定問題，這也正是阿蘭-圖靈(Alan M.Turing)提出“可計(jì)算問題等同于圖靈可計(jì)算”命題的原因所在[12]37。隨后，哥德爾(Kurt F.G觟del)、波斯特(Emil L.Post)、邱奇(Alonzo Church)等人提出的用于解決可計(jì)算問題的數(shù)學(xué)模型被證明與“圖靈機(jī)”在計(jì)算能力上是等效的，從而進(jìn)一步強(qiáng)化了數(shù)學(xué)領(lǐng)域的可計(jì)算判定問題與計(jì)算機(jī)領(lǐng)域的算法問題的等效性[13]267。正因?yàn)榇耍鳛榧夹g(shù)的“算法”與作為科學(xué)的數(shù)學(xué)思想便緊密聯(lián)系在一起。

從數(shù)學(xué)發(fā)展史來看，公理化思想和計(jì)算化思想構(gòu)成了數(shù)學(xué)發(fā)展的兩大傳統(tǒng)，而這也成為影響算法演化的兩條路徑。公理化思想體現(xiàn)了繼承于古希臘歐幾里得流派的西方現(xiàn)代數(shù)學(xué)傳統(tǒng)，其旨在圍繞推理論證建立形式化的完備數(shù)學(xué)體系；計(jì)算化思想則體現(xiàn)了以中國傳統(tǒng)數(shù)學(xué)為代表的東方數(shù)學(xué)傳統(tǒng)，其往往從具體問題入手，并將數(shù)學(xué)論證轉(zhuǎn)換成計(jì)算形式，重點(diǎn)在于找到合適的計(jì)算方法以求解問題。吳文俊就指出，“從問題出發(fā)、面向應(yīng)用的中國傳統(tǒng)數(shù)學(xué)注重求解的計(jì)算方法，而西方數(shù)學(xué)沿襲公理化的思想更注重建立在因果演繹基礎(chǔ)上的定理證明”[2]73。

不同的數(shù)學(xué)思想影響了算法理念的演化進(jìn)程。在數(shù)學(xué)公理化視角下，算法被認(rèn)為是抽象的狀態(tài)機(jī)器，其核心任務(wù)是對(duì)不同計(jì)算狀態(tài)進(jìn)行控制、轉(zhuǎn)換并最終基于輸入形成滿足特定要求的輸出。在此種界定下，“算法”是不考慮執(zhí)行過程的獨(dú)立存在，“圖靈機(jī)”以及“圖靈測試”正是此思想的典型代表。在不考慮具體計(jì)算方式(也即忽略“人是如何計(jì)算”)的情況下，阿蘭-圖靈僅聚焦機(jī)器可以實(shí)現(xiàn)并可被觀察到的行為結(jié)果來作為判定“可計(jì)算性”(也即“算法”)的基礎(chǔ)[13]265。只要確定初始狀態(tài)，算法就會(huì)按照既定規(guī)則開始計(jì)算并向其他狀態(tài)轉(zhuǎn)換，直至遇到例外情況而中斷或者達(dá)到既定條件而終止，在此過程中不受其他因素(包括人)的干擾和影響。

算法的公理化定義雖然有助于在形式上建構(gòu)并論證計(jì)算機(jī)科學(xué)(也即算法科學(xué))理論，但仍然忽視了數(shù)學(xué)思想本身的多樣性并低估了現(xiàn)實(shí)生活的復(fù)雜性；相比之下，計(jì)算化思想則為理解算法的多樣性和動(dòng)態(tài)性提供了更豐富的支持。從觀點(diǎn)主張來看，計(jì)算化思想往往強(qiáng)調(diào)“計(jì)算方法”與“問題”的相互影響關(guān)系[14]。一方面，“計(jì)算方法”是在不斷解決“問題”過程中逐漸總結(jié)出的一般規(guī)律或流程，構(gòu)成了解決“問題”的基本單元；另一方面，不斷涌現(xiàn)的“問題”的解決依賴于對(duì)于已知的不同“計(jì)算方法”的組合。

2.2 計(jì)算化數(shù)學(xué)思想定義下的算法特征及其影響

基于計(jì)算化數(shù)學(xué)思想的思路，我們可將“算法”的特征概括為以下三個(gè)方面。首先，“算法”不再是公理論證過程中的唯一解或最優(yōu)解，針對(duì)特定問題往往存在不同的計(jì)算方法及其組合。雖然公理化視角并沒有明確排除算法的多樣性，但其將算法視為狀態(tài)機(jī)器的觀點(diǎn)仍然限定了這種可能性，因?yàn)槌跏紶顟B(tài)和輸入將決定后續(xù)狀態(tài)的變化及最終的輸出結(jié)果。相比之下，計(jì)算化思想則對(duì)算法設(shè)計(jì)持有更大的開放性，其并不先驗(yàn)地將算法抽離于實(shí)際問題，而是基于具體問題及其解決方案總結(jié)出不同的計(jì)算過程，更加強(qiáng)調(diào)在輸入與輸出之間存在著較為豐富的解決方案組合。其次，“算法”不再是一個(gè)絕對(duì)抽象的數(shù)學(xué)概念，而是根植于問題環(huán)境并強(qiáng)調(diào)與環(huán)境的動(dòng)態(tài)適應(yīng)性。類似于公理化思想的一般性概括，雖然計(jì)算化思想也要求針對(duì)不同解決方案進(jìn)行共性總結(jié)，但其更加強(qiáng)調(diào)結(jié)合特定問題環(huán)境而對(duì)已知方案的重新組合，以體現(xiàn)出對(duì)于環(huán)境的適應(yīng)性和權(quán)變性。同時(shí)，不同環(huán)境的復(fù)雜性也是豐富計(jì)算方法組合的源泉和基礎(chǔ)，而公理化思想下的抽象概念則難以發(fā)現(xiàn)算法演化的原因和動(dòng)力。再次，“算法”不再是相對(duì)于執(zhí)行過程中其他因素的獨(dú)立存在，而是需要考慮包括硬件、軟件在內(nèi)的系統(tǒng)概念。相比于公理化思想對(duì)于算法執(zhí)行過程的忽略[2]68，計(jì)算化思想注意到了算法作為系統(tǒng)概念的層次性和復(fù)雜性。事實(shí)上，計(jì)算機(jī)體系是由計(jì)算機(jī)硬件(例如處理器和存儲(chǔ)設(shè)備)、軟件平臺(tái)(例如編程語言和操作系統(tǒng))、數(shù)據(jù)交互接口(例如輸入輸出界面)組成的多層次復(fù)雜結(jié)構(gòu)，算法僅僅作為其中一個(gè)環(huán)節(jié)而與其他因素共同作用才能產(chǎn)生結(jié)果[15]。正因?yàn)榇耍渌蛩氐陌l(fā)展變化同樣影響算法的動(dòng)態(tài)演化，而執(zhí)行過程的資源約束也將影響算法性能的體現(xiàn)及其創(chuàng)新步伐。

公理化思想和計(jì)算化思想構(gòu)成了從技術(shù)層面理解算法的兩條路徑，其影響延伸至社會(huì)科學(xué)領(lǐng)域并成為不同理論的思想基礎(chǔ)。公理化視角直接影響了“技術(shù)決定論”的判斷：樂觀主義者對(duì)于算法效率、客觀、中立價(jià)值的追捧，悲觀主義者對(duì)于算法“無所不能”的假設(shè)，都可追溯至公理化思想將算法抽離于現(xiàn)實(shí)環(huán)境而作為獨(dú)立理性存在的界定。但不足之處在于，對(duì)于算法的孤立認(rèn)識(shí)忽略了其背后所隱藏的豐富內(nèi)涵，而計(jì)算化思想還原了算法的完整概念，在認(rèn)識(shí)到算法具有多樣性的基礎(chǔ)上將環(huán)境、系統(tǒng)因素納入分析框架，從而能夠以辯證視角全面理解算法的演化過程及其影響結(jié)果。對(duì)此，吳文俊曾指出，“中國的傳統(tǒng)數(shù)學(xué)就是算法型的數(shù)學(xué)，是適應(yīng)信息時(shí)代的計(jì)算機(jī)數(shù)學(xué)”[2]74。

基于上述回顧與分析，本文從計(jì)算化思想出發(fā)，將算法定義為“針對(duì)特定問題而形成的數(shù)字化解決方案的集合，其在與環(huán)境、系統(tǒng)的交互過程中實(shí)現(xiàn)既定目標(biāo)并不斷演化，從而維持與相關(guān)因素的動(dòng)態(tài)平衡”?；诖硕x，算法的三方面重要屬性得以顯現(xiàn)，即多樣性、動(dòng)態(tài)性和系統(tǒng)性，但我們對(duì)于算法的理解還不能停留于此，概念層面的界定雖有助于明確所討論對(duì)象的范疇，但不能把握其演化的規(guī)律。只有將靜態(tài)層面的概念界定與動(dòng)態(tài)層面的演化分析結(jié)合起來，才能最終勾勒出“算法”作為被研究對(duì)象的完整內(nèi)涵。

3 算法演化的社會(huì)過程

算法演化的社會(huì)過程研究聚焦人類社會(huì)對(duì)于算法形成、發(fā)展、演化過程的影響分析，以解釋算法內(nèi)嵌于人類社會(huì)環(huán)境的關(guān)聯(lián)性。需要指出的是，這一問題并非人類社會(huì)發(fā)展到數(shù)字時(shí)代之后才引發(fā)的新問題，20世紀(jì)初學(xué)者們圍繞不同技術(shù)類型的討論便集中體現(xiàn)了對(duì)此的思考。劉易斯-芒福德(Lewis Mumford)曾指出，“人類史上存在兩種技術(shù)，一種是威權(quán)型的，另一種是民主型的。前者以系統(tǒng)為中心，功能強(qiáng)大但卻不穩(wěn)定；后者以人為中心，靈活持久但功能相對(duì)弱小”[16]。與此類似，丹尼士-海耶斯(Denis Hayes)更具體地區(qū)分了核技術(shù)和太陽能技術(shù)的社會(huì)屬性差異，認(rèn)為核技術(shù)的使用和普及必然會(huì)導(dǎo)致威權(quán)社會(huì)的形成，而分布式太陽能技術(shù)則與更加平等、自由的包容型社會(huì)相契合[17]159。芒福德和海耶斯的觀點(diǎn)都不能簡單視為對(duì)于技術(shù)應(yīng)用結(jié)果的差異化總結(jié)，而是觀察到了技術(shù)作為主體的不同政治屬性。相比之下，技術(shù)哲學(xué)家蘭登-維納(Langdon Winner)更為系統(tǒng)地構(gòu)建了理論框架，指出了技術(shù)作為主體與其他政治進(jìn)程發(fā)生關(guān)聯(lián)的兩個(gè)維度。

在維納看來，技術(shù)的政治性體現(xiàn)在兩個(gè)方面：技術(shù)路線多樣性的選擇與技術(shù)的內(nèi)生社會(huì)效應(yīng)[18]。一方面，維納強(qiáng)調(diào)技術(shù)具有多條演化路徑，而具體技術(shù)路徑的選擇則體現(xiàn)了不同社會(huì)因素的博弈和妥協(xié)。需要指出的是，與強(qiáng)調(diào)技術(shù)演化完全決定于社會(huì)因素的研究視角不同，技術(shù)多樣性的選擇更加強(qiáng)調(diào)技術(shù)本身屬性作為特定因素參與選擇過程的主體性。另一方面，維納指出每一種技術(shù)內(nèi)在地要求與特定社會(huì)系統(tǒng)相匹配，其更適應(yīng)特定環(huán)境而不適應(yīng)其他環(huán)境，并因此體現(xiàn)出與特定社會(huì)因素相結(jié)合的傾向性。維納提出的分析框架更多針對(duì)具有實(shí)體呈現(xiàn)且較為穩(wěn)定的硬件技術(shù)，建筑、道路以及計(jì)算機(jī)都屬此類。但對(duì)于往往沒有實(shí)體呈現(xiàn)且多變的“算法”而言，其是否同樣適用于維納的分析框架仍然值得進(jìn)一步分析。

3.1 算法多樣性選擇

算法多樣性選擇的內(nèi)涵是指針對(duì)特定問題的算法往往具有多樣性，最終“勝出”(占主流)的算法模型是技術(shù)因素與非技術(shù)因素(社會(huì)因素)互動(dòng)演化的結(jié)果。國際象棋算法的發(fā)展歷史便是典型例證[19]。國際象棋算法在相當(dāng)長時(shí)間內(nèi)都是人工智能領(lǐng)域研究的核心和焦點(diǎn)議題，研究者往往認(rèn)為象棋算法的突破即象征著通過計(jì)算機(jī)模擬實(shí)現(xiàn)了人類智能。亞歷山大-科諾羅德(Alexander Kronrod)曾將國際象棋比作人工智能研究的“果蠅”，赫伯特-西蒙(Herbert A.Simon)又進(jìn)一步將此比喻延伸至認(rèn)知科學(xué)領(lǐng)域，由此可見國際象棋算法的重要性。就具體實(shí)現(xiàn)而言，克勞德-香農(nóng)(Claude E.Shannon)提出了兩條路徑：A路徑通過“蠻力”計(jì)算方式窮盡所有策略以尋找最優(yōu)解，而B路徑則強(qiáng)調(diào)以啟發(fā)式邏輯識(shí)別對(duì)弈局勢以聚焦最有可能獲勝的特定策略展開分析。兩條路徑的差異反映了人工智能研究歷史上的核心爭論：人工智能研究的目的究竟是在結(jié)果層面重復(fù)人類行為，還是在過程中也模仿人類的思維模式?A路徑無疑是前者的體現(xiàn)，而B路徑則遵循了后者的精神。從隨后的發(fā)展歷程來看，A路徑取得了成功而B路徑卻逐漸淡出人們視野，導(dǎo)致這一結(jié)果的原因并不能簡單歸結(jié)為算法效率的高低，而是包括算法在內(nèi)的多重因素共同作用的結(jié)果。技術(shù)發(fā)展史的研究指出，美國和蘇聯(lián)的“冷戰(zhàn)”競爭[20]XXVIII以及20世紀(jì)70年代各研究組為爭取日益減少的人工智能研究資助的競爭[21]108，都直接導(dǎo)致了國際象棋算法研究過程中“比賽”文化的盛行。而A路徑能夠充分利用計(jì)算機(jī)硬件性能提升的發(fā)展紅利及其模塊化結(jié)構(gòu)易于調(diào)試組合的技術(shù)特征，更加適應(yīng)“比賽”壓力下的成果突破與展示。換言之，A路徑在技術(shù)層面的功能特性與當(dāng)時(shí)的社會(huì)需求共同決定了國際象棋算法的演化結(jié)果，但這一結(jié)果不一定是“最優(yōu)選擇”。雖然A路徑能夠有效吸引公眾對(duì)于人工智能研究的關(guān)注，但過于迎合比賽規(guī)則反而影響了人工智能基礎(chǔ)研究的進(jìn)展，聚焦于特定比賽目標(biāo)的研究導(dǎo)向使得A路徑算法很難被應(yīng)用于其他領(lǐng)域[22]。正因?yàn)榇?，?dāng)1997年IBM“深藍(lán)”戰(zhàn)勝卡斯帕羅夫之后，國際象棋便逐漸失去了其在人工智能領(lǐng)域的光環(huán)并逐漸為人所淡忘。國際象棋算法的演化過程并非特例，其清楚揭示了算法多樣性選擇過程的社會(huì)性，算法技術(shù)屬性與社會(huì)因素的相互影響共同決定了不同算法模型的競爭結(jié)果。

3.2 算法的內(nèi)生社會(huì)效應(yīng)

相比于算法多樣性的選擇，算法的內(nèi)生社會(huì)效應(yīng)更為隱蔽并富有爭議。在將技術(shù)視為中立、客觀的習(xí)慣性思維下，芒福德和海耶斯的論斷都顯得極為反常與特別。維納進(jìn)一步將這種內(nèi)生社會(huì)效應(yīng)總結(jié)為兩個(gè)方面：技術(shù)運(yùn)行要求特定社會(huì)系統(tǒng)的建立以作為前提條件，以及技術(shù)雖不能作為前提條件但更適合在特定社會(huì)系統(tǒng)下運(yùn)行。換言之，技術(shù)作為主體具有“內(nèi)生性”。雖然相比于建筑、核能源、工業(yè)機(jī)械等技術(shù)而言，算法的易變性可能使人認(rèn)為其“內(nèi)生性”并不明顯，但互聯(lián)網(wǎng)的發(fā)展史證明并非如此。從技術(shù)構(gòu)成來看，互聯(lián)網(wǎng)實(shí)質(zhì)上是一個(gè)多層次的算法協(xié)議以形成互聯(lián)互通的網(wǎng)絡(luò)結(jié)構(gòu)，其特點(diǎn)在于扁平化和開放性。具體而言，互聯(lián)網(wǎng)允許任意兩個(gè)節(jié)點(diǎn)的直接通信，繞開了必須通過第三方轉(zhuǎn)接的集中式結(jié)構(gòu)，而毫無門檻的開放性決定了終端創(chuàng)新成為互聯(lián)網(wǎng)生命力的不竭源泉?；谶@兩方面技術(shù)屬性，自20世紀(jì)末開始，研究者們紛紛強(qiáng)調(diào)互聯(lián)網(wǎng)獨(dú)立于國家的自主性，并試圖通過維護(hù)互聯(lián)網(wǎng)的扁平化和開放性以促成人類社會(huì)公共空間的繁榮發(fā)展，以維基百科、開源軟件等為代表的案例也的確證明了互聯(lián)網(wǎng)具有這樣的潛力。但經(jīng)過20余年的發(fā)展，我們最終發(fā)現(xiàn)作為人類社會(huì)公共財(cái)富的互聯(lián)網(wǎng)被以平臺(tái)公司形式存在的商業(yè)巨頭所壟斷，在充分利用互聯(lián)網(wǎng)底層算法協(xié)議開放性的基礎(chǔ)上，平臺(tái)公司在上層應(yīng)用建立了新的“集權(quán)點(diǎn)”，并通過更好地協(xié)調(diào)人類活動(dòng)攫取了大量商業(yè)利益[23]。盡管已有研究從技術(shù)創(chuàng)新、法律制度等方面對(duì)平臺(tái)崛起的原因作出了一定解釋，但朱莉-科昂(Julie Cohen)更為直接地指出，與開放互聯(lián)網(wǎng)相伴隨的誤用、濫用問題需要第三方參與治理以形成規(guī)范秩序，而不同個(gè)體的終端創(chuàng)新也需要第三方協(xié)調(diào)以形成集體效應(yīng)，它們都使得平臺(tái)的崛起與普及成為必然[24]。換言之，扁平化、開放式的互聯(lián)網(wǎng)多層次算法設(shè)計(jì)并非如早期研究者們認(rèn)為的那樣，必將帶來人類社會(huì)公共空間的繁榮——雖然其具備這樣的潛力[25]——而是“內(nèi)生”地更適應(yīng)平臺(tái)公司作為主要組織模式的“信息資本主義”體制[26]。由此，我們便再次回到了維納關(guān)于技術(shù)內(nèi)生效應(yīng)的分析思路。在維納看來，核技術(shù)因其潛在安全風(fēng)險(xiǎn)極為巨大，因而要求由嚴(yán)格的威權(quán)控制體系而非協(xié)商式的民主議事模式來約束，由此體現(xiàn)了核技術(shù)的內(nèi)生性。雖然迥異于核技術(shù)，但互聯(lián)網(wǎng)的發(fā)展歷程仍然表明，扁平化、開放式的互聯(lián)網(wǎng)協(xié)議算法同樣更有利于平臺(tái)組織形式的發(fā)展，而非自組織、分散式的“無政府”模式。

算法多樣性的選擇及其內(nèi)生社會(huì)效應(yīng)共同揭示了算法發(fā)展演化過程的政治性。同時(shí)，其也與算法的“計(jì)算化”定義一起構(gòu)成了理解算法政治的兩個(gè)維度。在此基礎(chǔ)上，接下來的問題便是跳出對(duì)于算法本身的內(nèi)部分析，解釋其影響人類社會(huì)的具體機(jī)制，而這又可細(xì)分出為何產(chǎn)生影響、如何產(chǎn)生影響、影響有多大等三個(gè)問題。

4 算法影響社會(huì)的主要機(jī)制

算法影響社會(huì)的機(jī)制聚焦算法應(yīng)用結(jié)果影響人類生產(chǎn)生活的方式、途徑與過程。當(dāng)前，算法應(yīng)用結(jié)果的社會(huì)影響已經(jīng)受到了普遍關(guān)注，圍繞算法歧視、算法操縱、算法霸權(quán)、算法“回音壁”效應(yīng)等現(xiàn)象的討論都是其中的典型案例，它們在從不同視角呈現(xiàn)人們對(duì)算法應(yīng)用反思的同時(shí)，也暗含著人類對(duì)正在進(jìn)入的“算法社會(huì)”的警惕與不安。然而，針對(duì)具體問題的分析雖然有助于應(yīng)對(duì)具體風(fēng)險(xiǎn)，但不能對(duì)“算法社會(huì)”的整體現(xiàn)象作出一般性的總結(jié)與判斷，也難以將“算法”與其他社會(huì)機(jī)制聯(lián)系起來，并在宏觀層面體現(xiàn)其產(chǎn)生影響的復(fù)雜過程。鑒于此，本部分將跳出具體議題領(lǐng)域的分析，從算法“進(jìn)入”并影響人類社會(huì)的三個(gè)連續(xù)性問題入手解釋其社會(huì)機(jī)制，即算法為什么能產(chǎn)生影響、算法如何產(chǎn)生影響、算法的影響程度有多大。筆者認(rèn)為，這三個(gè)問題又分別與生命政治、代碼治理術(shù)、可計(jì)算社會(huì)三方面研究緊密相關(guān)。

4.1 生命政治與算法規(guī)范性力量的源泉

算法社會(huì)的時(shí)代意義在于算法成為影響人類生產(chǎn)生活的基本規(guī)則，也即具有了規(guī)范性力量。但這種規(guī)范性力量源自何處、具備何種特點(diǎn)、與其他規(guī)范性力量有何聯(lián)系與差別，便成為亟待解釋的理論問題。在米歇爾-?？?Michel Foucault)的理論框架下，規(guī)范性力量可被劃分為兩種類型，即主權(quán)權(quán)力與生命權(quán)力。前者來源于君主，其通過“使人死、讓人活”的消極性方式體現(xiàn)權(quán)力關(guān)系；后者則源自現(xiàn)代民族國家，其通過“使人活、讓人死”的建構(gòu)性方式從總體上調(diào)節(jié)人口生命活動(dòng)[27]35-36。算法對(duì)于人類社會(huì)的影響，無疑更接近生命權(quán)力的范疇，并因而體現(xiàn)出生命政治的特征。

自1976年確立“生命政治”概念的基本內(nèi)涵之后，?？聦?duì)此概念的分析被認(rèn)為包含了三方面內(nèi)容[28]。首先，在圣保羅講座以及《必須保衛(wèi)社會(huì)》中，?？鹿蠢粘隽恕罢螜?quán)力管理人口”的二元結(jié)構(gòu)。不同于主權(quán)權(quán)力下的懲罰機(jī)制，生命政治此時(shí)體現(xiàn)為國家為了特定目的而促進(jìn)個(gè)體生命活動(dòng)的良好運(yùn)轉(zhuǎn)并將其“規(guī)訓(xùn)”為集體性力量的過程。其次，?？略?977—1978年以《安全、領(lǐng)土與人口》為主題的法蘭西學(xué)院講座中，進(jìn)一步引入“治理術(shù)”和“安全機(jī)制”兩個(gè)概念。不同于規(guī)訓(xùn)機(jī)制下國家積極地干涉和調(diào)控個(gè)體行為，“安全機(jī)制”的邏輯轉(zhuǎn)而將個(gè)體自由視為前提，并通過著眼于整體人口的“治理術(shù)”以滲透或維系權(quán)力關(guān)系[29]7-11。規(guī)訓(xùn)機(jī)制和安全機(jī)制由此共同構(gòu)成了生命政治體現(xiàn)規(guī)范性力量的兩種方式。但?？碌姆治霾⑽粗共接诖耍沁M(jìn)一步將生命政治與自由主義的思想發(fā)展脈絡(luò)聯(lián)系在一起，解釋了生命政治的規(guī)范性力量實(shí)現(xiàn)自我生產(chǎn)的過程與原理。?？轮赋?，在自由主義思想下，市場原則被移植至生命領(lǐng)域，人類一切生命活動(dòng)都被視為自我投資、生產(chǎn)、競爭的“企業(yè)家”行為而自動(dòng)運(yùn)行，政治活動(dòng)的作用則在于引導(dǎo)、干預(yù)這一自發(fā)行為；在不同自由主義思想下，這種引導(dǎo)、干預(yù)作用也有所不同，其既可以體現(xiàn)為“守夜人”，也可能成為“爐邊政治”，二者將最終導(dǎo)致人類生命活動(dòng)行為的不同結(jié)果[30]425-427。由此，?？峦瓿闪松卫碚摽蚣艿慕?gòu)，并為其在不同領(lǐng)域的應(yīng)用留下了開放空間。算法作為規(guī)范性力量的原因與特點(diǎn)，也因此可以從算法作為規(guī)訓(xùn)工具、安全機(jī)制以及規(guī)范性力量的自我生產(chǎn)過程等三個(gè)層面得到解釋。

第一，算法可以作為規(guī)訓(xùn)工具提升國家直接干涉和調(diào)控個(gè)體行為的能力。以生物識(shí)別算法為例，其不僅大幅擴(kuò)展了國家監(jiān)控個(gè)體的范圍，同時(shí)也深化了個(gè)體可被監(jiān)控的維度與細(xì)節(jié)，二者共同催生了“監(jiān)控資本主義”的形成。第二，算法的隱蔽性和無處不在同樣使其可以作為安全機(jī)制的重要載體，在并不直接干涉?zhèn)€人行為自由的同時(shí)仍然能夠施加影響。以智能推送算法為例，無論是廣告推送還是內(nèi)容資訊推送，用戶都在自主選擇的“外衣”下事實(shí)上接受著其他權(quán)力的影響。第三，算法作為規(guī)范性力量的自我生產(chǎn)過程將因其所處環(huán)境的不同而呈現(xiàn)出差異化特點(diǎn)。如果沿襲自由主義的理念，算法應(yīng)用將追求對(duì)于人類活動(dòng)乃至人類本身的數(shù)字化替代，并在此基礎(chǔ)上實(shí)現(xiàn)商品化轉(zhuǎn)換，任何生命活動(dòng)都可在算法作用下轉(zhuǎn)化為可被交易、增值的數(shù)字資本并循環(huán)使用。但秩序自由主義對(duì)于市場脆弱性的強(qiáng)調(diào)以及要求國家適度干涉的理念，將會(huì)把算法定位為人類活動(dòng)的輔助而賦能于人，并通過腦力勞動(dòng)的機(jī)械化將人類解放出來以從事更有意義的生命活動(dòng)，而在人類不斷開拓未知領(lǐng)域的過程中算法也不斷演化發(fā)展[2]66。未來究竟朝向何種方向發(fā)展仍然取決于社會(huì)制度的選擇，而這也正是阿西莫格魯(Daron Acemoglu)提出“我們需要何種人工智能”問題的真實(shí)含義[31]。

上述三個(gè)層面的解釋回答了算法作為規(guī)范性力量的原因，以及這種規(guī)范性力量自我生產(chǎn)的動(dòng)力源泉。但正如?？鹿P下的生命權(quán)力需要通過社會(huì)醫(yī)療系統(tǒng)等“治理術(shù)”才能發(fā)揮其影響類似，算法同樣需要找到其作為規(guī)范性力量對(duì)其他主體產(chǎn)生影響的載體，而在數(shù)字時(shí)代這便集中體現(xiàn)為“代碼”。

4.2 代碼治理術(shù)與算法規(guī)范性影響的載體

算法將如何產(chǎn)生規(guī)范性影響?沿襲生命政治視角的理論分析，對(duì)此問題的回答將聚焦在“治理術(shù)”的相關(guān)研究方面。就概念內(nèi)涵而言，“治理術(shù)”可以被寬泛理解為影響人類行為的技術(shù)或流程，圍繞其不同類別、產(chǎn)生來源、實(shí)踐差異、執(zhí)行過程以及在不同領(lǐng)域的具體體現(xiàn)構(gòu)成了“治理術(shù)”研究的主要內(nèi)容[32]82。根據(jù)治理目的的不同，“治理術(shù)”大致可劃分為兩個(gè)類別：第一，在國家理性的思想影響下，“治理術(shù)”的設(shè)計(jì)與應(yīng)用都指向提升國家權(quán)力的單一目標(biāo)，無論是“懲罰”還是“規(guī)訓(xùn)”，都將個(gè)體行為視為可被控制或影響的對(duì)象而加以約束，進(jìn)而服務(wù)于國家權(quán)力；第二，在自由主義的思想啟發(fā)下，“治理術(shù)”的影響對(duì)象從生命個(gè)體轉(zhuǎn)變?yōu)椤叭丝凇奔w，在認(rèn)識(shí)到人口的發(fā)展、變遷、演化具有其自發(fā)規(guī)律的前提下，“治理術(shù)”旨在發(fā)現(xiàn)這一規(guī)律并維系其治理目標(biāo)[33]。就前者而言，“治理術(shù)”強(qiáng)調(diào)人們“做什么”與“不做什么”，在此基礎(chǔ)上對(duì)個(gè)體行為作出“符合規(guī)范”與“不符合規(guī)范”的兩種分類，并分別施以不同權(quán)力影響；就后者而言，“治理術(shù)”更多將個(gè)體視為自我負(fù)責(zé)的“企業(yè)家”，每個(gè)人的生活歷程就像企業(yè)發(fā)展一樣需要自我投資與管理，而“治理術(shù)”的作用既體現(xiàn)為探索整體性的“人口”行為規(guī)律以施加影響，又體現(xiàn)為調(diào)節(jié)國家行為以在不同程度上維系這一行為規(guī)律的“自發(fā)性”[34]116。

“治理術(shù)”的理論探討同樣有助于理解算法作為規(guī)范性力量影響他者的機(jī)制與過程。算法的實(shí)現(xiàn)具有多種形式，中國算盤、古巴比倫代數(shù)表都是歷史上的典型代表。相較之下，直到計(jì)算機(jī)、互聯(lián)網(wǎng)的發(fā)明與應(yīng)用之后，算法作為規(guī)范性力量的影響才得以完全顯現(xiàn)，而此時(shí)的實(shí)現(xiàn)形式則是可被計(jì)算機(jī)處理的數(shù)字符號(hào)——代碼。算法從數(shù)學(xué)概念到計(jì)算機(jī)可執(zhí)行代碼的轉(zhuǎn)化，帶來了三點(diǎn)重要變革。其一，代碼的開源生產(chǎn)范式為算法實(shí)現(xiàn)提供了取之不竭的知識(shí)來源，奠定了算法在人類社會(huì)中普及應(yīng)用的基礎(chǔ)[35]321-330；其二，代碼的模塊化屬性使得算法設(shè)計(jì)、應(yīng)用過程的組合創(chuàng)新成為常態(tài)，其在降低創(chuàng)新成本的同時(shí)也帶來了累進(jìn)式創(chuàng)新的指數(shù)級(jí)增長[36]5；其三，大數(shù)據(jù)時(shí)代的到來以及機(jī)器學(xué)習(xí)技術(shù)的成熟使得代碼實(shí)現(xiàn)了不依賴于人類知識(shí)的自動(dòng)化生產(chǎn)過程，進(jìn)一步提升了算法理解人類社會(huì)并做出智慧決策的能力[37]。正是基于這三點(diǎn)變革，代碼才具備了扮演算法“治理術(shù)”的功能。

一方面，懲罰和規(guī)訓(xùn)機(jī)制下的“治理術(shù)”在功能上主要體現(xiàn)為針對(duì)不同個(gè)體作出“區(qū)分”并相應(yīng)“匹配”允許或不允許該個(gè)體特定行為的不同要求。環(huán)境的異質(zhì)性決定了人類社會(huì)往往需要設(shè)計(jì)不同的“治理術(shù)”以滿足不同治理需求，醫(yī)院、學(xué)校、監(jiān)獄都是性質(zhì)迥異的技術(shù)系統(tǒng)。但作為算法在數(shù)字環(huán)境下的具體實(shí)現(xiàn)方式，代碼將異質(zhì)性的治理需求轉(zhuǎn)換為同質(zhì)化的數(shù)字符號(hào)加以處理，此時(shí)的治理差異主要體現(xiàn)為代碼模塊的不同組合，由此不僅使得代碼能夠更加容易通過數(shù)字符號(hào)的分析實(shí)現(xiàn)“區(qū)分”與“匹配”，同時(shí)也有利于在更大范圍、更多場景發(fā)揮代碼作為懲罰或規(guī)訓(xùn)機(jī)制的功能。另一方面，安全機(jī)制下的“治理術(shù)”事實(shí)上要求治理者能夠“發(fā)現(xiàn)”人口的自發(fā)規(guī)律(也即“知識(shí)發(fā)現(xiàn)”)并加以“引導(dǎo)”。一直以來，知識(shí)發(fā)現(xiàn)都屬于人類智慧的專利，但建立在大數(shù)據(jù)與機(jī)器學(xué)習(xí)基礎(chǔ)上的人工智能算法代碼，同樣可以實(shí)現(xiàn)對(duì)于人類行為自發(fā)規(guī)律的總結(jié)和提煉，并能夠?qū)⑺偨Y(jié)出來的規(guī)律反過來應(yīng)用于對(duì)于個(gè)體行為的引導(dǎo)。更為重要的是，代碼治理術(shù)的這種“發(fā)現(xiàn)”與“引導(dǎo)”功能，比傳統(tǒng)治理術(shù)的效率更高、速度更快、匹配更精準(zhǔn)，并因而產(chǎn)生更為廣泛和深遠(yuǎn)的影響。

需要指出的是，將代碼作為“治理術(shù)”的功能劃分為懲罰、規(guī)訓(xùn)、安全等不同類別，并不意味著不同功能獨(dú)立運(yùn)作，在現(xiàn)實(shí)治理中往往體現(xiàn)了不同功能的混合，并在動(dòng)態(tài)演化中體現(xiàn)出以某種功能為主的基本特征。以外賣調(diào)度算法為例，基于大量外賣員送貨時(shí)間和路線的分析，算法可以總結(jié)出最佳路線和預(yù)估時(shí)間，這一過程體現(xiàn)了代碼作為安全機(jī)制的“治理術(shù)”對(duì)于外賣員群體行動(dòng)規(guī)律的發(fā)現(xiàn)。但要求外賣員個(gè)體按照算法推薦的路線和時(shí)間完成送貨任務(wù)則體現(xiàn)了懲罰和規(guī)訓(xùn)機(jī)制的強(qiáng)制性約束。伴隨著越來越多的外賣員按照算法要求送貨，代碼將隨之動(dòng)態(tài)調(diào)整并越來越精確地掌握外賣員群體的行為規(guī)律，從而更嚴(yán)格、全面地控制外賣員行為。在此案例中，代碼最終演化為以懲罰和規(guī)訓(xùn)機(jī)制為主的“治理術(shù)”特征。但不同場景下的算法影響并不必然走向懲罰或規(guī)訓(xùn)。在內(nèi)容資訊推薦算法案例下，盡管同樣存在著對(duì)于用戶觀看偏好的一般規(guī)律總結(jié)，以及基于精準(zhǔn)推送而試圖影響用戶的約束過程，但用戶偏好本身的不確定性和動(dòng)態(tài)性決定了代碼不可能像控制外賣員行為那樣控制用戶的閱讀行為。在此案例下，安全機(jī)制仍然是代碼作為“治理術(shù)”的主要特征。

4.3 可計(jì)算社會(huì)與算法規(guī)范性力量的限度

生命政治對(duì)于算法作為規(guī)范性力量來源的解釋，以及代碼治理術(shù)作為算法規(guī)范性力量實(shí)施載體的說明，都有助于理解算法影響人類社會(huì)的具體機(jī)制。但第三個(gè)問題還在于，這種影響的范圍有多大、程度有多深。換言之，算法作為規(guī)范性力量的影響究竟是顛覆式的還是適度的，圍繞這一問題的分析與可計(jì)算社會(huì)的爭論緊密相關(guān)。

可計(jì)算社會(huì)爭論的核心議題在于，人類社會(huì)是否可以化約為可計(jì)算的要素與結(jié)構(gòu)，進(jìn)而按照理性原則實(shí)現(xiàn)資源配置的最優(yōu)化。這一“烏托邦”式的暢想曾經(jīng)被認(rèn)為受限于技術(shù)發(fā)展水平難以實(shí)現(xiàn)，但伴隨著信息技術(shù)的快速發(fā)展，計(jì)算性能的指數(shù)級(jí)增長又重新將該問題拉回到了爭論的中心。根據(jù)討論對(duì)象和層次的不同，可計(jì)算社會(huì)的爭論可概括為針對(duì)人類個(gè)體和人類社會(huì)集體兩個(gè)層面。

一方面，“人”是否可被計(jì)算化。赫伯特-西蒙在其1996年出版的《人工科學(xué)》一書中指出，“盡管不同于自然現(xiàn)象服從于自然法則而具有一種‘必然性’，人工現(xiàn)象由于易被環(huán)境改變而具有‘權(quán)變性’，但人工現(xiàn)象不會(huì)完全適應(yīng)環(huán)境仍然反映了其同樣具有凌駕權(quán)變性之上的必然性”[38]XV-XVI。人工現(xiàn)象的這種必然性(或者說相對(duì)于外部環(huán)境的獨(dú)立性)可以通過“消極的隔離、反應(yīng)性的負(fù)反饋、預(yù)測性的適應(yīng)”等多種方式得以實(shí)現(xiàn)[37]8，而這也證明了“人工科學(xué)”是可能的。與之爭鋒相對(duì)，反對(duì)者則對(duì)此持強(qiáng)烈懷疑態(tài)度，不僅強(qiáng)調(diào)感情、意識(shí)乃至精神作為人類獨(dú)有而機(jī)器不能擁有的特殊品質(zhì)，同時(shí)更以自然科學(xué)本身仍然存在不可計(jì)算的局限性否定了其試圖計(jì)算更為復(fù)雜的人類行為的可能性。羅杰-彭羅斯(Roger Penrose)早在1989年出版的《皇帝新腦》一書中就指出，哥德爾不可能定理證明了數(shù)學(xué)意義上的不可計(jì)算性，物理學(xué)領(lǐng)域量子世界的不可測量性同樣影響了對(duì)其客觀存在性的質(zhì)疑，而生物學(xué)上人腦神經(jīng)元活動(dòng)的不確定性和整體性(非局域性)則決定了通過數(shù)字信號(hào)的開關(guān)模擬人腦信號(hào)傳遞方式的不準(zhǔn)確性。上述領(lǐng)域圍繞不可計(jì)算性的討論最終都與人類本身的意識(shí)(或精神)是否可以通過人工智能的方式得以實(shí)現(xiàn)緊密相連，而數(shù)學(xué)、物理學(xué)、生物學(xué)領(lǐng)域的否定回答最終也使得彭羅斯得出了“人類意識(shí)(或精神)不可被計(jì)算”的結(jié)論[39]467-494。圍繞“人”的可計(jì)算性爭論雖然看似聚焦于人工智能能否實(shí)現(xiàn)的技術(shù)問題，但其實(shí)質(zhì)上反映的是如何理解和分析影響人類行為的方法論問題。西蒙對(duì)于“人工科學(xué)”的追求體現(xiàn)了試圖以“科學(xué)”的經(jīng)驗(yàn)研究探索人類行為規(guī)律的努力；而彭羅斯對(duì)此的反駁則體現(xiàn)了對(duì)于“意識(shí)(精神)”的不同認(rèn)識(shí)，進(jìn)而要求承認(rèn)不可計(jì)算性、不確定性的必然存在。在西蒙的理論視閾下，算法對(duì)于人類社會(huì)的影響是顛覆式的，受益于不斷突破的技術(shù)極限，我們最終能以算法實(shí)現(xiàn)對(duì)于人類行為的全面認(rèn)識(shí)、測量與影響；但在彭羅斯的分析框架中，算法的影響是有限的，人類意識(shí)(或精神)的不可計(jì)算性決定了算法不可能將人類置于全面“馴化”的境地。需要指出的是，盡管近年來人工智能技術(shù)快速發(fā)展，但圍繞“人”的可計(jì)算性爭論仍然未取得明顯進(jìn)展，這也凸顯了該問題的挑戰(zhàn)性[40]。

另一方面，人類社會(huì)集體層面的可計(jì)算性討論主要聚焦人類創(chuàng)造的諸多社會(huì)機(jī)制能否被算法替代的問題，其中價(jià)格機(jī)制的可替代性問題便是典型代表。杰拉德-柯亨(Gerald A.Cohen)曾指出，“阻礙社會(huì)主義美好理念成為現(xiàn)實(shí)的關(guān)鍵問題在于我們并不知道如何設(shè)計(jì)一套機(jī)制以使之運(yùn)行”[41]57，但信息技術(shù)的發(fā)展似乎提供了可能。維克托-舍恩伯格(Viktor M.Sch觟nberger)在《大數(shù)據(jù)時(shí)代》與《重塑資本主義》兩本書中，熱情洋溢地推崇了大數(shù)據(jù)與智能算法的結(jié)合所帶來的顛覆式變革。在舍恩伯格看來，傳統(tǒng)經(jīng)濟(jì)形態(tài)下，交易雙方會(huì)考慮所有交易信息并最終作出以“價(jià)格”形式體現(xiàn)出來的理性決策，但由于人類處理信息能力的不足以及可獲得交易信息量的限制，“價(jià)格”僅僅反映了被極度壓縮和簡化后的交易信息，因此傳統(tǒng)經(jīng)濟(jì)只能實(shí)現(xiàn)次優(yōu)結(jié)果。相比之下，大數(shù)據(jù)對(duì)于交易背景、細(xì)節(jié)等諸多信息的還原以及智能算法處理海量信息的能力都使得借助信息技術(shù)可以實(shí)現(xiàn)更為全面、理性的交易決策，進(jìn)而取代價(jià)格機(jī)制成為新時(shí)代的象征[42]10-24。但諸多學(xué)者圍繞信息經(jīng)濟(jì)學(xué)的豐富研究證明，“價(jià)格”只體現(xiàn)了交易過程的截面信息而不是所有交易信息的匯總和簡化，價(jià)格機(jī)制得以正常運(yùn)行的背后是緣于制度因素的共識(shí)(例如交易雙方都是追求利益最大化的理性經(jīng)濟(jì)人理念共識(shí))，以及交易發(fā)生前基于其他機(jī)制(例如通過廣告)的信息交換過程[43]117-119。從這一視角來看，大數(shù)據(jù)與智能算法至多只能影響交易信息的交換過程，從而提升價(jià)格機(jī)制的運(yùn)行效率，難以涵蓋制度背景等其他因素，因此不能成為價(jià)格機(jī)制的代替者。

基于個(gè)體和集體兩個(gè)層面圍繞可計(jì)算社會(huì)的爭論可知，算法將在多大程度上影響人類社會(huì)仍然是個(gè)未解之題。算法既可能代替現(xiàn)有機(jī)制并因而帶來顛覆式影響，也可能作為現(xiàn)有機(jī)制的補(bǔ)充而產(chǎn)生漸進(jìn)式影響。對(duì)此問題的開放性探索雖然還沒有定論，但至少就當(dāng)前的技術(shù)發(fā)展水平和階段而言，其仍然提醒我們需要注意算法社會(huì)的變革限度與邊界。事實(shí)上也正因?yàn)榇?，我們才?huì)在算法普及應(yīng)用的同時(shí)不得不面對(duì)多類型的治理風(fēng)險(xiǎn)，而如何應(yīng)對(duì)治理挑戰(zhàn)以引導(dǎo)數(shù)字社會(huì)轉(zhuǎn)型朝著有利于維系社會(huì)公共價(jià)值的方向發(fā)展，則是算法社會(huì)研究的最終指向。

5 算法社會(huì)的治理創(chuàng)新

算法作為一種技術(shù)現(xiàn)象正在伴隨其應(yīng)用的普及而逐漸引發(fā)人們對(duì)其治理意涵的關(guān)注，圍繞算法歧視[44]、算法操縱[45]、“算法黑箱”[46]、算法“回音壁”[47]等議題的討論日益成為焦點(diǎn)，但針對(duì)具體議題的分析只能勾勒出局部畫面，相應(yīng)提出的政策建議可能陷入“頭痛醫(yī)頭、腳痛醫(yī)腳”的局限，進(jìn)而忽略了算法治理的整體性與關(guān)聯(lián)性，這也反過來彰顯了理解“算法社會(huì)”轉(zhuǎn)型并形成系統(tǒng)性治理應(yīng)對(duì)方案的重要性和迫切性。

就理論價(jià)值而言，算法社會(huì)概念的提出與分析將激勵(lì)更多研究從算法生命周期的視角來探討算法的社會(huì)影響及治理應(yīng)對(duì)。算法生命周期可被理解為包含算法的形成、發(fā)展、應(yīng)用、演變、衰退在內(nèi)的全過程視角，每一個(gè)階段都可能涉及權(quán)力關(guān)系的調(diào)整及利益相關(guān)者的行為變遷，且每一個(gè)階段都將同時(shí)體現(xiàn)為技術(shù)與非技術(shù)因素的相互影響，它們共同構(gòu)成了算法社會(huì)的內(nèi)涵與特征。由此，算法社會(huì)分析將不再局限于圍繞算法應(yīng)用具體問題或影響的討論，而是延展為體現(xiàn)算法自身獨(dú)立性和主體性并與其他因素相互影響以演化發(fā)展的社會(huì)變革進(jìn)程。這一視角的轉(zhuǎn)化將直接有益于算法治理實(shí)踐的創(chuàng)新探索。結(jié)合本文論述邏輯，整體性治理實(shí)踐改革方案應(yīng)重視以下三個(gè)方面。

5.1 以系統(tǒng)環(huán)境聯(lián)動(dòng)推進(jìn)算法治理

計(jì)算化思想啟發(fā)下對(duì)于算法概念的重新定義，為算法社會(huì)的分析打開了理論空間，進(jìn)而啟示算法治理創(chuàng)新要具備開放性、系統(tǒng)性思維。僅僅認(rèn)識(shí)到算法技術(shù)的復(fù)雜性(例如“算法黑箱”)并限制其應(yīng)用范圍(例如限制人工智能算法在公共決策領(lǐng)域的應(yīng)用)，或者試圖深入技術(shù)研發(fā)細(xì)節(jié)而提出微觀治理要求(例如透明性和可解釋性要求)，既可能束縛技術(shù)創(chuàng)新，也可能達(dá)不到安全治理目標(biāo)。計(jì)算化思想則有助于突破算法監(jiān)管的此種困境。一方面，計(jì)算化定義打破了算法絕對(duì)理性的迷霧，認(rèn)識(shí)到算法并非針對(duì)特定問題的唯一解或最優(yōu)解，其本身的多樣性以及伴隨環(huán)境變化的動(dòng)態(tài)性為算法監(jiān)管提供了多元化工具與路徑，鼓勵(lì)監(jiān)管者以更加開放的視野發(fā)現(xiàn)不同場景下算法治理問題的多元解；另一方面，將算法視為與環(huán)境因素緊密聯(lián)系的系統(tǒng)論視角，有助于監(jiān)管者通過影響關(guān)聯(lián)因素(例如算法賴以生存的硬件平臺(tái)、數(shù)據(jù)交換接口等)達(dá)到監(jiān)管目標(biāo)，從而避免陷入算法內(nèi)部復(fù)雜技術(shù)細(xì)節(jié)的考量。

5.2 以技術(shù)路線創(chuàng)新推進(jìn)算法治理

算法演化的社會(huì)過程分析深入算法發(fā)展演化的內(nèi)部揭示了“算法黑箱”，既有助于進(jìn)一步破除算法作為絕對(duì)理性的迷霧，同時(shí)也為治理政策的導(dǎo)入打開了空間。一方面，算法演化過程的多種可能性表明，監(jiān)管者可以在理解不同算法技術(shù)發(fā)展路徑的基礎(chǔ)上，有針對(duì)性地調(diào)整社會(huì)環(huán)境因素以促進(jìn)特定技術(shù)路徑的發(fā)展，并同時(shí)約束其他技術(shù)。以國際象棋算法的發(fā)展為例，在認(rèn)識(shí)到A路徑無益于人工智能的理論研究并難以應(yīng)用于其他領(lǐng)域的情況下，監(jiān)管者事實(shí)上可以弱化“比賽”文化的激勵(lì)并通過有針對(duì)性、有選擇性的公眾教育以支持B路徑的發(fā)展。就當(dāng)前算法技術(shù)而言，我們同樣存在著基于大數(shù)據(jù)統(tǒng)計(jì)的機(jī)器學(xué)習(xí)和基于因果推理的機(jī)器學(xué)習(xí)等不同路徑，前者因?yàn)榛ヂ?lián)網(wǎng)時(shí)代海量數(shù)據(jù)的可得性而在近年來快速發(fā)展，但其存在性能瓶頸而不能成為通用人工智能的基礎(chǔ)，監(jiān)管者同樣可以通過強(qiáng)化數(shù)據(jù)隱私保護(hù)以提升數(shù)據(jù)使用的門檻和成本，從而弱化前者并激勵(lì)基于因果推理的機(jī)器學(xué)習(xí)研究。另一方面，算法的內(nèi)生效應(yīng)提醒監(jiān)管者應(yīng)充分重視算法的“非中立性”，進(jìn)而要求監(jiān)管者順應(yīng)或者調(diào)整算法影響過程以確保社會(huì)公共價(jià)值的維系。事實(shí)上，當(dāng)前以機(jī)器學(xué)習(xí)為代表的人工智能算法由于極度依賴海量數(shù)據(jù)資源和計(jì)算資源，其更適應(yīng)甚至要求資源密集型的產(chǎn)業(yè)模式而非低門檻的開放創(chuàng)新模式，由此帶來的可能結(jié)果便是強(qiáng)化寡頭平臺(tái)在人工智能時(shí)代的權(quán)力集中，甚至阻礙邊緣創(chuàng)新以及技術(shù)發(fā)展成果的普惠共享。如果認(rèn)識(shí)到這一點(diǎn)，決策者的任務(wù)便不僅僅是鼓勵(lì)人工智能技術(shù)的發(fā)展與應(yīng)用，而是需要更具體地聚焦人工智能算法技術(shù)的發(fā)展路徑與業(yè)態(tài)選擇。需要注意的是，傳統(tǒng)監(jiān)管理論往往強(qiáng)調(diào)抑制政府對(duì)于技術(shù)發(fā)展路徑的干預(yù)，并通過市場機(jī)制推動(dòng)技術(shù)的自我演化，但如果考慮到算法演化過程可能存在的社會(huì)分化結(jié)果，政府的適當(dāng)干預(yù)不僅有利于公共利益的維系，同時(shí)也將有利于技術(shù)的可持續(xù)發(fā)展。

5.3 以人為本推進(jìn)算法治理

算法影響的社會(huì)機(jī)制分析聚焦算法應(yīng)用結(jié)果的規(guī)范性影響，而其潛在主線可被理解為針對(duì)算法應(yīng)用的結(jié)果是替代人類還是輔助人類的社會(huì)選擇的反思。一方面，無論是生命政治視野下的思想主張，或者是作為規(guī)訓(xùn)工具的代碼治理術(shù)，以及將人類個(gè)體及集體行為視為可被計(jì)算化的對(duì)象，其實(shí)質(zhì)都反映了通過算法替代人類自主行為進(jìn)而更有效管理社會(huì)的政治理念，此時(shí)“人類自主行為”往往被視為導(dǎo)致偏離“秩序”的因素而需要得到合理控制；另一方面，秩序自由主義、作為安全機(jī)制體現(xiàn)的代碼治理術(shù)以及堅(jiān)持人類社會(huì)不能化約為可計(jì)算對(duì)象的觀點(diǎn)，則又集中體現(xiàn)了算法應(yīng)該輔助人類并促進(jìn)更多自主行為的社會(huì)訴求。算法應(yīng)用結(jié)果的這種分化差異并無絕對(duì)意義上的好壞、優(yōu)劣之分，二者都將同時(shí)呈現(xiàn)出積極影響和消極影響兩個(gè)方面的結(jié)果。對(duì)于替代人類的理念而言，安保領(lǐng)域的人臉識(shí)別算法、生產(chǎn)流水線上的自動(dòng)化機(jī)械設(shè)備都是算法帶來的正面變革，而算法歧視、算法操縱則又同時(shí)體現(xiàn)為潛藏風(fēng)險(xiǎn)。對(duì)于輔助人類的理念而言，智能推送有效提升了人類的信息處理能力，但“算法黑箱”、算法“回音壁”等現(xiàn)象又同時(shí)意味著人類面臨異化的潛在挑戰(zhàn)。對(duì)于監(jiān)管者而言，其不僅需聚焦具體算法應(yīng)用的正面或負(fù)面結(jié)果，同時(shí)還應(yīng)意識(shí)到在不同的算法應(yīng)用結(jié)果背后還反映了不同的社會(huì)價(jià)值理念。在某些情況下，后者可能更為重要。因?yàn)獒槍?duì)具體的算法應(yīng)用問題終歸能找到合適的治理之策，但只有意識(shí)到算法應(yīng)用結(jié)果背后的這種價(jià)值差異，才可能從整體上理解不同算法治理案例之間的關(guān)聯(lián)性，以及這種關(guān)聯(lián)性所反映的價(jià)值理念和社會(huì)體系偏好，從而作出應(yīng)該適應(yīng)還是調(diào)整這種偏好的政治決策，而這也正是算法社會(huì)研究要提醒和推動(dòng)我們探索的根本問題所在。

6 結(jié)語

算法技術(shù)的迭代創(chuàng)新與快速應(yīng)用正在加速推動(dòng)算法社會(huì)的到來，但我們對(duì)于這個(gè)“新社會(huì)”的運(yùn)行規(guī)律仍然知之甚少。當(dāng)前圍繞算法在不同場景下應(yīng)用而引發(fā)治理風(fēng)險(xiǎn)的理論討論和政策改革，盡管有利于回應(yīng)治理需求，但并不能構(gòu)成對(duì)于算法社會(huì)的整體解釋，相關(guān)研究的不足和需求主要體現(xiàn)在兩個(gè)方面。

一方面，需要回到技術(shù)本源的探討，挖掘當(dāng)前時(shí)代背景下，“算法”相比于傳統(tǒng)“技術(shù)”研究的新特征及其推動(dòng)社會(huì)演化的新規(guī)律。盡管社會(huì)科學(xué)的討論并不致力于回答科學(xué)技術(shù)問題，但對(duì)于算法社會(huì)這樣一個(gè)緣起于科學(xué)技術(shù)創(chuàng)新而引發(fā)社會(huì)變革的現(xiàn)象解釋，仍然有必要回到技術(shù)本源以避免“技術(shù)決定論”或“社會(huì)決定論”的潛在影響。就此而言，本文在公理化與計(jì)算化數(shù)學(xué)思想分野基礎(chǔ)上對(duì)“算法”概念的界定，還僅僅是起點(diǎn)。計(jì)算機(jī)科學(xué)史上圍繞計(jì)算機(jī)、機(jī)器智能、控制論、人工智能等關(guān)鍵概念的爭論，將為此提供更為豐富的土壤，而這也再一次要求跨學(xué)科領(lǐng)域的知識(shí)對(duì)話與融合。另一方面，算法社會(huì)轉(zhuǎn)型背景下，算法對(duì)于人類生產(chǎn)生活的影響早已超越工具層面的效率提升或工作替代，對(duì)其影響機(jī)制的揭示將成為未來研究的關(guān)鍵焦點(diǎn)。此時(shí)，重要的便不僅僅是技術(shù)邏輯，還有業(yè)態(tài)邏輯。算法只有融入特定業(yè)態(tài)環(huán)境之下，才會(huì)體現(xiàn)出其對(duì)于人類社會(huì)所關(guān)心的價(jià)值理念的影響，以及其產(chǎn)生影響的載體、方式與途徑。本文從生命政治、技術(shù)治理術(shù)等政治學(xué)概念所給出的部分解釋仍然只是視角之一，將算法影響嵌入平臺(tái)組織、數(shù)字勞動(dòng)、知識(shí)經(jīng)濟(jì)等理論研究脈絡(luò)之中，將同樣是值得期待的新方向?？傊?，算法技術(shù)創(chuàng)新與應(yīng)用背景下的社會(huì)轉(zhuǎn)型已經(jīng)拉開了序幕，對(duì)其內(nèi)在規(guī)律的解釋既需要繼承技術(shù)政治傳統(tǒng)理論的討論，也需要在學(xué)科交叉融合中尋找新的理論窗口。唯有如此才可能最終對(duì)算法社會(huì)背景下的治理體系創(chuàng)新提供堅(jiān)實(shí)的理論基礎(chǔ)與實(shí)踐啟示。