深度智能化時(shí)代算法認(rèn)知的倫理與政治審視

文/段偉文

我們正在走向深度智能化時(shí)代。所謂深度智能化，不僅意味著對(duì)事物的自動(dòng)化認(rèn)知和控制，更令人本身成為機(jī)器智能運(yùn)用算法加以認(rèn)知與操控的對(duì)象。在人們驚嘆智能算法強(qiáng)大力量的同時(shí)，也帶來(lái)了大數(shù)據(jù)殺熟、算法歧視、“智能監(jiān)測(cè)”等隱蔽而普遍存在的問(wèn)題。當(dāng)前，有關(guān)算法的倫理和法律研究與實(shí)踐備受矚目，但大多未能深入探究智能算法這一全新機(jī)器控制方式的認(rèn)知機(jī)制，更未看到算法認(rèn)知對(duì)我們生活于其中的無(wú)遠(yuǎn)弗屆的技術(shù)社會(huì)系統(tǒng)的基礎(chǔ)性影響。我們認(rèn)為對(duì)智能算法的研究應(yīng)進(jìn)一步剖析算法認(rèn)知過(guò)程與認(rèn)知生態(tài)系統(tǒng)，系統(tǒng)地審視由此導(dǎo)致的倫理與政治結(jié)構(gòu)的嬗變，為深度智能化時(shí)代的治理奠定更加扎實(shí)和更具前瞻性的理論基礎(chǔ)。

機(jī)器真理：從算法的客觀性到算法認(rèn)知的倫理與政治結(jié)構(gòu)

算法的觀念可以追溯至人類(lèi)文明早期舉行儀式和解決問(wèn)題的程序化方法。當(dāng)前數(shù)據(jù)驅(qū)動(dòng)的算法認(rèn)知的觀念源于科學(xué)革命以來(lái)現(xiàn)代性建構(gòu)進(jìn)程中對(duì)“計(jì)算理性”和“量化社會(huì)”的追尋。在科技與經(jīng)濟(jì)等主流話語(yǔ)中，算法一般被視為抽象的用于認(rèn)知和決策的數(shù)學(xué)程序或模型，或可以通過(guò)對(duì)數(shù)據(jù)的計(jì)算與學(xué)習(xí)提取知識(shí)和指導(dǎo)行動(dòng)的技術(shù)。

什么是算法？從語(yǔ)義上講，算法在當(dāng)代的含義多指一組旨在達(dá)成某種預(yù)期的結(jié)果而展開(kāi)的正式的過(guò)程或按步驟進(jìn)行的程序。在詞源上，一般認(rèn)為算法一詞來(lái)自中世紀(jì)波斯學(xué)者花拉子（Al-Khwarizmi）的名字衍生的拉丁詞“algorismus”，意指使用印度—阿拉伯十進(jìn)制數(shù)字進(jìn)行四則運(yùn)算的手動(dòng)程序——而此前的羅馬數(shù)字只便于做加減法。這便賦予算法以程序化數(shù)學(xué)運(yùn)算的基本內(nèi)涵，即能夠在有限數(shù)量的步驟中產(chǎn)生問(wèn)題的答案或解決方案的系統(tǒng)的數(shù)學(xué)程序或捷徑。直到20世紀(jì)初，阿拉伯?dāng)?shù)字還常被稱(chēng)為“算法數(shù)字”（the number of algorism），它使工商業(yè)發(fā)展所需要的復(fù)雜的會(huì)計(jì)活動(dòng)成為可能。換言之，算法建立在一套能有效地解決問(wèn)題的編碼系統(tǒng)之上?，F(xiàn)代意義上的算法是計(jì)算機(jī)和數(shù)字技術(shù)的產(chǎn)物，指以計(jì)算和信息的方式解決問(wèn)題的、可通過(guò)遞歸等機(jī)器自動(dòng)重復(fù)執(zhí)行的邏輯程序或編碼系統(tǒng)。當(dāng)前，隨著大數(shù)據(jù)與人工智能的發(fā)展，人們對(duì)算法的相關(guān)討論更多聚焦于數(shù)據(jù)驅(qū)動(dòng)的機(jī)器學(xué)習(xí)算法。

實(shí)際上，正如法國(guó)數(shù)學(xué)家讓-呂克·夏伯特（Jean-Luc Chabert）在《算法史》（1994）一書(shū)開(kāi)篇所指出的那樣，算法自人類(lèi)文明之初就有，在人們創(chuàng)造一個(gè)特殊的詞來(lái)描述它們之前就已經(jīng)存在了。在更加凸顯文化的廣義算法觀看來(lái)，一旦人們找到了一套解決問(wèn)題的程序化方法，會(huì)很自然地將“配方”傳遞給他人。也就是說(shuō)，不論十進(jìn)制四則運(yùn)算的算法還是二進(jìn)制計(jì)算機(jī)的算法，都是古代算法觀念的產(chǎn)物。因此，廣義的算法原本并不局限于數(shù)學(xué)和數(shù)字技術(shù)。在所有文化中，算法都被用于預(yù)測(cè)未來(lái)，決定著醫(yī)療和美食的配方與步驟，人們?cè)盟_定法律要點(diǎn)、校正語(yǔ)法。也就是說(shuō)，與其說(shuō)數(shù)學(xué)和數(shù)字技術(shù)帶來(lái)了算法，毋寧說(shuō)是算法觀念推動(dòng)了數(shù)學(xué)和數(shù)字技術(shù)的應(yīng)用。

盡管夏伯特的算法觀更加強(qiáng)調(diào)算法的目的性及其與社會(huì)文化的相關(guān)性，但夏伯特的研究太早，沒(méi)受到應(yīng)有的關(guān)注。自20余年前谷歌搜索算法通過(guò)分析用戶(hù)生成內(nèi)容（UGC）開(kāi)啟這波數(shù)據(jù)驅(qū)動(dòng)的智能算法應(yīng)用以來(lái)，算法在科技和經(jīng)濟(jì)等主流話語(yǔ)中主要被視為抽象數(shù)學(xué)程序在數(shù)字技術(shù)前沿的應(yīng)用，這使得基于算法的認(rèn)知被默認(rèn)為可以揭示事物的相關(guān)性的客觀的“機(jī)器真理”。特別是大數(shù)據(jù)和人工智能的迅猛發(fā)展，使得具有經(jīng)驗(yàn)主義色彩的數(shù)據(jù)驅(qū)動(dòng)的智能和算法的認(rèn)知功能被夸大。其追捧者相信或聲稱(chēng)，數(shù)據(jù)可以呈現(xiàn)世界的一切，甚至成為比世界更真實(shí)、更直接的認(rèn)知對(duì)象，通過(guò)智能算法能讓數(shù)據(jù)或原始數(shù)據(jù)說(shuō)話，從而揭示關(guān)于世界的所有真相與趨勢(shì)。

量化社會(huì)和算法認(rèn)知其實(shí)是比它所聲稱(chēng)的客觀認(rèn)知復(fù)雜得多的社會(huì)工程技術(shù)，其中伴隨著知識(shí)與權(quán)力的糾纏。它們與其說(shuō)是基于社會(huì)事實(shí)的真理發(fā)現(xiàn)，毋寧說(shuō)是重新安排社會(huì)事實(shí)的真理的制造，而其目的是使人和社會(huì)成為可以調(diào)控的對(duì)象和過(guò)程。透過(guò)志愿獻(xiàn)血、服兵役的年齡限制以及各種自我健康監(jiān)測(cè)應(yīng)用程序，就可以看到量化社會(huì)和算法認(rèn)知實(shí)際上是一種社會(huì)層面的運(yùn)作，運(yùn)行其中的國(guó)家計(jì)算和資本計(jì)算等“認(rèn)知—權(quán)力”形塑著這樣那樣的本體論政治安排，構(gòu)造著負(fù)載倫理價(jià)值的事實(shí)。要獲得對(duì)算法認(rèn)知更深入的認(rèn)識(shí)，就應(yīng)該轉(zhuǎn)向?qū)λ惴ㄕJ(rèn)知所安排和構(gòu)建的倫理與政治結(jié)構(gòu)的探究。

算法認(rèn)知正在決定著我們解釋與改變世界和自我的方式。例如，各種智能穿戴和量化自我的應(yīng)用甚至使我們對(duì)數(shù)據(jù)的感覺(jué)成為我們自身的一部分。但在更多的情況下，算法認(rèn)知所帶來(lái)的是不對(duì)稱(chēng)的倫理與政治結(jié)構(gòu)。有關(guān)亞馬遜土耳其機(jī)器人等眾包平臺(tái)的幽靈工作以及大量以人類(lèi)智能彌補(bǔ)機(jī)器智能不足之類(lèi)的研究表明，算法認(rèn)知實(shí)際上是人機(jī)共生時(shí)代全新的社會(huì)分工的統(tǒng)籌機(jī)制。由于算法認(rèn)知將人和機(jī)器視為無(wú)差別的具有能動(dòng)性（agency）的能動(dòng)者（agents），使得傳統(tǒng)的以人類(lèi)為認(rèn)知主體的社會(huì)嬗變?yōu)榛谌藱C(jī)認(rèn)知組合的認(rèn)知生態(tài)系統(tǒng)和技術(shù)社會(huì)系統(tǒng)。由此，必然地賦予相關(guān)倫理與政治關(guān)系以新的內(nèi)涵，進(jìn)而決定著深度智能化時(shí)代的倫理和政治結(jié)構(gòu)的變遷。

深度智能化時(shí)代的算法認(rèn)知與認(rèn)知生態(tài)系統(tǒng)

十多年前，當(dāng)人臉識(shí)別技術(shù)還只是小規(guī)模計(jì)算機(jī)視覺(jué)實(shí)驗(yàn)研究時(shí)，人們就開(kāi)始關(guān)注其可能導(dǎo)致的隱私保護(hù)和普遍監(jiān)控等倫理、法律和政治問(wèn)題。如今這項(xiàng)技術(shù)已能從數(shù)百萬(wàn)張人臉數(shù)據(jù)中學(xué)會(huì)解讀微妙的情感暗示，甚至通過(guò)人臉識(shí)別發(fā)現(xiàn)人們之間是否具有基因關(guān)聯(lián)或是否屬于同一族群。這一典型案例揭示出當(dāng)前科技發(fā)展與人文應(yīng)對(duì)中經(jīng)常遭遇的悖論：在技術(shù)變得更為強(qiáng)大的同時(shí)，原有的問(wèn)題變得更加敏感，倫理規(guī)范和法律法規(guī)的發(fā)展速度跟不上科技創(chuàng)新的加速度。

這一來(lái)自現(xiàn)實(shí)的挑戰(zhàn)表明，隨著科技的加速創(chuàng)新，必須引入一種全新的思考框架對(duì)其加以審視，更具預(yù)見(jiàn)性地探究其對(duì)人和社會(huì)的深遠(yuǎn)影響。我們認(rèn)為，為了刻畫(huà)當(dāng)代科技對(duì)世界和人類(lèi)帶來(lái)的這些全面、深刻而微妙的影響，可以用深度科技化這一動(dòng)態(tài)的概念對(duì)其加以概觀。由此既能凸顯在納米、信息、生命和認(rèn)知等會(huì)聚科技的基礎(chǔ)上發(fā)展出的基因、數(shù)字、神經(jīng)等新興科技的顛覆性社會(huì)影響，又有助于從科技未來(lái)與人類(lèi)文明交匯的前沿視野，系統(tǒng)地探討科技所主導(dǎo)的人類(lèi)世面臨的挑戰(zhàn)與可能的出路。近年來(lái)，大數(shù)據(jù)與人工智能迅速地發(fā)展為一種泛在賦能科技，令數(shù)據(jù)和算法所驅(qū)動(dòng)的深度智能化創(chuàng)新成為深度科技化框架下最具動(dòng)能同時(shí)也最有爭(zhēng)議的發(fā)展面向。因此，應(yīng)在深度智能化的趨勢(shì)性框架下展開(kāi)對(duì)算法認(rèn)知的前瞻性思考。

為了避免將算法認(rèn)知所帶來(lái)的倫理和法律爭(zhēng)議簡(jiǎn)化為技術(shù)問(wèn)題，不應(yīng)僅將算法認(rèn)知視為技術(shù)黑箱，而應(yīng)視其為復(fù)雜的技術(shù)社會(huì)系統(tǒng)，以便揭示由其所引發(fā)的認(rèn)知生態(tài)和認(rèn)知權(quán)力結(jié)構(gòu)層面的深刻嬗變。

一是世界的數(shù)據(jù)化與算法認(rèn)知的生成性。在深度智能化時(shí)代，所涉及的智能應(yīng)用主要是由數(shù)據(jù)和算法驅(qū)動(dòng)的數(shù)字技術(shù)系統(tǒng)所具有的機(jī)器智能，其基本形式是基于世界的數(shù)據(jù)化的算法認(rèn)知。所謂世界的數(shù)據(jù)化，即將事物和人轉(zhuǎn)化為可量化、可計(jì)算的非實(shí)體的信息流或數(shù)據(jù)流，由此形成的平行數(shù)據(jù)流不僅使數(shù)據(jù)成為世界的第二屬性，而且產(chǎn)生出數(shù)據(jù)孿生，甚至完全用數(shù)據(jù)構(gòu)建虛擬現(xiàn)實(shí)和鏡像世界——這也是當(dāng)下“元宇宙”熱所聲稱(chēng)的。

在世界的數(shù)據(jù)化或數(shù)字化平臺(tái)上，所有的事物和變化都將成為機(jī)器可識(shí)別的對(duì)象，算法認(rèn)知由此成為一種生成性的力量。隨著算法認(rèn)知的日益普及，它正在成為新的驗(yàn)證和識(shí)別方式，甚至決定著我們活動(dòng)的空間、可以遇到的人和事。這使算法正在成為深度智能化時(shí)代創(chuàng)造世界的方式，從而呈現(xiàn)為一種關(guān)于世界的價(jià)值、假設(shè)和主張的倫理與政治安排。

二是認(rèn)知生態(tài)系統(tǒng)與算法認(rèn)知對(duì)現(xiàn)實(shí)的制造。世界的數(shù)據(jù)化和算法認(rèn)知的興起，正在使我們星球上的認(rèn)知生態(tài)系統(tǒng)發(fā)生顛覆性的改變：以算法認(rèn)知為代表的非意識(shí)的人工智能體認(rèn)知已經(jīng)超越基于人的意識(shí)和主體能動(dòng)性的人類(lèi)認(rèn)知。目前，互聯(lián)網(wǎng)、可編程系統(tǒng)、跨越電磁波譜的有線和無(wú)線數(shù)據(jù)流等共同構(gòu)成了全球互聯(lián)的認(rèn)知生態(tài)系統(tǒng)——認(rèn)知圈，而人類(lèi)社會(huì)正日益嵌入其中。在認(rèn)知圈中，人類(lèi)不再是這個(gè)系統(tǒng)中唯一的行動(dòng)者或智能體，人的主體能動(dòng)性只是具有更廣泛聯(lián)系的一般的能動(dòng)性組合的一部分，而算法認(rèn)知等機(jī)器認(rèn)知者日益扮演著至關(guān)重要的角色。

隨著普適計(jì)算、大數(shù)據(jù)和人工智能的使用，沿著法國(guó)當(dāng)代哲學(xué)家德勒茲（Gilles Deleuze）的控制社會(huì)寓言所揭示的端倪，所謂的“計(jì)算制度”和“算法政治”方興未艾。雖然算法認(rèn)知改變和制造著現(xiàn)實(shí)，但人們往往是在沒(méi)有覺(jué)察到的情況下成為數(shù)據(jù)采集和計(jì)算與認(rèn)知對(duì)象的。其中所涉及的算法認(rèn)知中的主體性、能動(dòng)性等算法權(quán)力等問(wèn)題，恰恰是對(duì)算法認(rèn)知的深度倫理與政治審視的切入點(diǎn)。

算法權(quán)力下的預(yù)測(cè)機(jī)器與智能折疊

從量化社會(huì)到算法認(rèn)知的實(shí)現(xiàn)，始終是由權(quán)力所推動(dòng)的，而其目的一般是為了產(chǎn)生某些方面的知識(shí)并采取相應(yīng)的行動(dòng)，由此提升算法認(rèn)知者的行動(dòng)力和智能系統(tǒng)的運(yùn)作效率。透過(guò)以色列軍事司法機(jī)構(gòu)運(yùn)用算法判定危險(xiǎn)人物、烏克蘭危機(jī)中人臉識(shí)別算法被用于鑒別士兵身份等案例不難看到，算法認(rèn)知不僅伴隨著對(duì)世界的重新安排，而且正在成為具有強(qiáng)力色彩和系統(tǒng)滲透性的權(quán)力，甚至可能形成某種智能權(quán)力場(chǎng)域。由此，就產(chǎn)生了預(yù)測(cè)機(jī)器和智能折疊等深度智能化時(shí)代值得關(guān)注的知識(shí)—權(quán)力運(yùn)作現(xiàn)象。

一是基于算法權(quán)力的預(yù)測(cè)機(jī)器。作為一種新的機(jī)器認(rèn)知與調(diào)控方式，數(shù)據(jù)驅(qū)動(dòng)的智能算法試圖將世界完全轉(zhuǎn)化為數(shù)據(jù)，繼而通過(guò)算法認(rèn)知實(shí)現(xiàn)對(duì)世界的自動(dòng)調(diào)節(jié)。隨著技術(shù)的發(fā)展，這種自動(dòng)調(diào)節(jié)顯然不再滿(mǎn)足于把握事實(shí)和尋求社會(huì)動(dòng)態(tài)平衡，而演進(jìn)為預(yù)見(jiàn)和控制世界的機(jī)器。算法認(rèn)知不僅分析和調(diào)控著我們當(dāng)下的行動(dòng)，而且試圖構(gòu)建一個(gè)最符合其目標(biāo)參數(shù)所刻畫(huà)的可能性的未來(lái)。但問(wèn)題是，基于過(guò)去的經(jīng)驗(yàn)數(shù)據(jù)運(yùn)行的預(yù)測(cè)機(jī)器，實(shí)際上是先通過(guò)過(guò)去的數(shù)據(jù)將世界和人的恰當(dāng)表現(xiàn)標(biāo)準(zhǔn)化，然后以此為基礎(chǔ)預(yù)測(cè)甚至強(qiáng)行構(gòu)造未來(lái)。不論是預(yù)測(cè)罪犯會(huì)不會(huì)再次犯罪，還是根據(jù)數(shù)據(jù)畫(huà)像預(yù)測(cè)消費(fèi)者購(gòu)買(mǎi)某種商品的可能性，算法設(shè)計(jì)的前提都是使人的行為模型標(biāo)準(zhǔn)化，從而使其可以預(yù)測(cè)和引導(dǎo)。為了做到這一點(diǎn)，無(wú)疑需要足夠的數(shù)據(jù)，這便使得對(duì)人的行為數(shù)據(jù)的貪婪而持續(xù)監(jiān)測(cè)正在成為一種新的技術(shù)社會(huì)文化，甚至在有些場(chǎng)景發(fā)展為對(duì)人的未來(lái)行為預(yù)調(diào)控的過(guò)程。

由于預(yù)測(cè)算法只根據(jù)相關(guān)性對(duì)行為可能性作出評(píng)判而不分析其原因，當(dāng)其預(yù)測(cè)到某種可能發(fā)生的風(fēng)險(xiǎn)（如某人可能采取反社會(huì)行為）時(shí)，可能會(huì)先發(fā)制人。但如果憑借強(qiáng)大的計(jì)算能力，普遍采用這種持續(xù)的和先發(fā)制人的權(quán)力實(shí)施方法替代傳統(tǒng)的預(yù)防治理方式，可能會(huì)使治理機(jī)制僅僅關(guān)注結(jié)果而忽視造成問(wèn)題的原因，從長(zhǎng)遠(yuǎn)看可能醞釀更大的社會(huì)風(fēng)險(xiǎn)。

二是人機(jī)認(rèn)知組合下的智能折疊。綜觀從火神祭祀儀式到基于AI的自動(dòng)化勞動(dòng)等算法儀式（algorithmic rituals）的歷史變遷，德國(guó)媒介哲學(xué)家帕斯奎內(nèi)利（Matteo Pasquinelli）認(rèn)為，在人工智能時(shí)代，盡管人們傾向于將算法視為抽象的數(shù)學(xué)在具體數(shù)據(jù)上的應(yīng)用，但算法其實(shí)源于對(duì)空間、時(shí)間、勞動(dòng)和社會(huì)關(guān)系加以劃分的世俗需求，是社會(huì)物質(zhì)實(shí)踐的產(chǎn)物。

從困在算法里的快遞小哥到隱藏在人工智能領(lǐng)域的數(shù)字零工等案例可以看到，算法本身正在成為深度智能化社會(huì)的認(rèn)知生態(tài)系統(tǒng)中的制度安排——所有的人都在人機(jī)認(rèn)知組合中被配置成為特定的數(shù)據(jù)驅(qū)動(dòng)的智能體，進(jìn)而構(gòu)成某種智能折疊。對(duì)這一點(diǎn)的理解需要深入了解人機(jī)認(rèn)知組合的具體運(yùn)作過(guò)程，才可能找到探討的線索。

人機(jī)認(rèn)知組合下的智能折疊實(shí)際上回到了馬克思所討論過(guò)的自動(dòng)機(jī)器時(shí)代一般智能的問(wèn)題。在技術(shù)哲學(xué)和媒介哲學(xué)中，經(jīng)典的觀點(diǎn)是技術(shù)或媒介是人的延伸，但算法權(quán)力下的預(yù)測(cè)機(jī)器與智能折疊似乎意味著人正在成為機(jī)器感知的延伸，人們甚至將不得不面對(duì)機(jī)器役使和社會(huì)馴化的雙重命運(yùn)。

足夠智慧：超越機(jī)器役使和社會(huì)馴化之道

我們之所以對(duì)算法認(rèn)知展開(kāi)倫理與政治審視，所真正關(guān)心的是算法認(rèn)知如何介入人們生活和工作層面的認(rèn)知與行動(dòng)。數(shù)據(jù)驅(qū)動(dòng)的算法認(rèn)知正在影響著我們?cè)趺纯创澜绾臀覀冏约骸⑽覀兛梢赃x擇什么樣的生活、希望自己成為什么樣的人、可以做什么樣的工作等方方面面。面對(duì)這一前所未有的挑戰(zhàn)，無(wú)疑亟待我們對(duì)算法認(rèn)知所帶來(lái)的倫理與政治嬗變作出持續(xù)深入的審視與權(quán)衡，探尋更好地生活于深度智能化時(shí)代所必需的足夠的智慧。

首先，在技術(shù)驅(qū)動(dòng)的深度智能化時(shí)代，要學(xué)會(huì)運(yùn)用技術(shù)賦予的權(quán)力構(gòu)造一種可以讓人們能夠共處的生活方式。為此，必須尋求普通人可以接受的倫理與政治安排，在此基礎(chǔ)上形成全新的社會(huì)契約。如果未來(lái)的社會(huì)治理會(huì)建立在數(shù)據(jù)驅(qū)動(dòng)的算法認(rèn)知之上，至關(guān)重要的前提是如何重新界定數(shù)據(jù)智能和智能監(jiān)測(cè)在社會(huì)應(yīng)用中的邊界和限度。

其次，鑒于人工智能發(fā)展的開(kāi)放性，有必要從恰當(dāng)?shù)募夹g(shù)社會(huì)想象入手，系統(tǒng)探討針對(duì)人的數(shù)據(jù)分析和算法認(rèn)知涉及的權(quán)利問(wèn)題。其中，最為關(guān)鍵的問(wèn)題是，誰(shuí)在多大程度上擁有對(duì)人的可解讀、可預(yù)測(cè)和可推斷的權(quán)利。

最后，要打破技術(shù)解決主義與無(wú)摩擦的技術(shù)的隱蔽組合策略。一方面，面對(duì)智能科技的社會(huì)倫理風(fēng)險(xiǎn)，在尋求技術(shù)解決方案的同時(shí)，應(yīng)立足技術(shù)社會(huì)系統(tǒng)等更為廣闊的維度，追問(wèn)和消除社會(huì)不公、認(rèn)知權(quán)利不對(duì)稱(chēng)等深層次的肇因。另一方面，要充分揭示算法認(rèn)知中經(jīng)常運(yùn)用的“無(wú)摩擦技術(shù)”（frictionless technology）和“技術(shù)無(wú)意識(shí)”等設(shè)計(jì)策略，使算法認(rèn)知以及使其得以運(yùn)作的力量得以應(yīng)有的揭示，從而促進(jìn)公眾對(duì)科技的社會(huì)價(jià)值的理解，提升其對(duì)科技未來(lái)的想象力，使整個(gè)社會(huì)擁有面向深度智能化時(shí)代的生存智慧。