算法監(jiān)控的“行為剩余”資本謀劃及其社會治理

李宏偉，郝 喜

(華中師范大學(xué) 馬克思主義學(xué)院，湖北 武漢 430079)

2021年6月，《中華人民共和國數(shù)據(jù)安全法》以及《深圳經(jīng)濟(jì)特區(qū)數(shù)據(jù)條例》相繼通過，針對數(shù)據(jù)安全、數(shù)據(jù)權(quán)利、數(shù)據(jù)濫用的國家及地方立法引發(fā)社會高度關(guān)注。但是由于數(shù)據(jù)的隱秘性與算法的復(fù)雜性，公眾數(shù)據(jù)安全認(rèn)知以及權(quán)利意識等亟待加強(qiáng)。對于隱藏在網(wǎng)絡(luò)公司、數(shù)據(jù)平臺背后的算法監(jiān)控資本謀劃機(jī)制的揭示，有助于我們對外賣騎手“極限賽跑”以及個性化推薦、大數(shù)據(jù)“殺熟”等社會現(xiàn)象有更加清醒的認(rèn)識，對于數(shù)據(jù)企業(yè)、網(wǎng)絡(luò)平臺、算法監(jiān)控實(shí)施更為精準(zhǔn)的社會治理。

一、算法監(jiān)控的隱秘規(guī)訓(xùn)

算法與計算、數(shù)學(xué)相關(guān)，但并不局限于數(shù)學(xué)“純粹理性”，而是具有明確的社會運(yùn)用指向。算法貌似中立，但其背后總是隱藏著不可告人的籌劃與算計。算法與監(jiān)控相結(jié)合，算法監(jiān)控隱秘規(guī)訓(xùn)的意向目的性更是難以隱藏。

(一)算法監(jiān)控的目的意向性

在計算機(jī)科學(xué)界，算法常常被理解為解決某些特定問題的一系列清晰指令，即“有限的、抽象的、有效的、復(fù)合的控制結(jié)構(gòu)，在給定的規(guī)則下完成特定的目的”(1)Hill， R. K .What an Algorithm is. Philosophy & Technology， 2016(1).。算法活動中規(guī)則與目的的有機(jī)結(jié)合，表明算法不僅是服從使用者意志的外在工具，更是從技術(shù)設(shè)計伊始就將目的意向性隱含其中賦予自身。算法語境中的監(jiān)控，不同于工業(yè)設(shè)備、生態(tài)環(huán)境、農(nóng)業(yè)種植等方面的有形監(jiān)控，它作為一個學(xué)術(shù)概念指稱對象是“人”而非“物”，旨在將人類一切行為舉止數(shù)據(jù)化，實(shí)施對人的行為預(yù)測、誘導(dǎo)、操控。

算法與監(jiān)控原本是兩件不同的事情，但是在算法監(jiān)控中二者緊密聯(lián)系構(gòu)成一體，監(jiān)控為算法提供數(shù)據(jù)資源，算法則謀劃實(shí)現(xiàn)監(jiān)控的目的。算法監(jiān)控中的監(jiān)控不再是傳統(tǒng)意義上的監(jiān)控，而是現(xiàn)代大數(shù)據(jù)、人工智能技術(shù)條件下的“升級版”監(jiān)控。算法監(jiān)控不同于傳統(tǒng)監(jiān)控的獨(dú)特之處就在于，它不是過往時空范圍一般意義上的監(jiān)控，而是更多側(cè)重于對于人的未來行為預(yù)測與誘導(dǎo)。比如某客戶經(jīng)常在某平臺購買機(jī)票，平臺按照客戶的個人數(shù)據(jù)給客戶“畫像”，推算出客戶的購票偏好、心理價位。平臺一旦推測出購票人看重便捷舒適，對于機(jī)票價格變動不太敏感，就會針對此客戶上調(diào)機(jī)票價格，實(shí)施一人一價的“差異性”價格，這就是我們常說的“大數(shù)據(jù)殺熟”。

(二)“圓形監(jiān)獄”的數(shù)據(jù)化升級

傳統(tǒng)監(jiān)控更多地依靠視覺、聽覺等感覺感知、經(jīng)驗(yàn)判斷，缺少大數(shù)據(jù)、云計算、人工智能等現(xiàn)代技術(shù)支持，但是其中也隱含著現(xiàn)代算法監(jiān)控的思想根基、技術(shù)淵源。英國思想家邊沁首次提出“圓形監(jiān)獄”概念，作為一種利用特殊物理構(gòu)造來自動行使規(guī)訓(xùn)權(quán)力的理想建筑，它是由中心瞭望塔和四周被分割成許多小囚室的環(huán)形建筑構(gòu)成。在這種結(jié)構(gòu)中，監(jiān)視者能夠利用塔樓的百葉窗觀察被監(jiān)視者的一舉一動，而被監(jiān)視者只能看到塔樓高大輪廓，無法知道塔樓中是否有監(jiān)視者一直存在，因此被監(jiān)視者總是“超時間”地處于被支配地位。在這種可見與不可見的二元統(tǒng)一機(jī)制中，規(guī)訓(xùn)權(quán)力通過自身的不可見性來施展，這種不可見性保證了權(quán)力的自動實(shí)現(xiàn)，迫使被監(jiān)視者始終處于“自我約束”狀態(tài)。

法國哲學(xué)家福柯意識到了“圓形監(jiān)獄”的規(guī)訓(xùn)意義，并將現(xiàn)代社會形象地比喻成“監(jiān)獄群島”。他認(rèn)為，“圓形監(jiān)獄”最大的意義在于，通過技術(shù)使“權(quán)力的齒輪”在時間中不停運(yùn)轉(zhuǎn)，使“權(quán)力之眼”能夠窺視所有空間，消融規(guī)訓(xùn)權(quán)力的時空界限，使得“被囚禁者”始終受到權(quán)力效應(yīng)的干預(yù)。也就是說，要讓“被囚禁者”始終“處于一種有意識的、持續(xù)的自我約束狀態(tài)，從而確保權(quán)力自動地發(fā)揮作用”(2)米歇爾·?？?《規(guī)訓(xùn)與懲罰》，劉北成、楊遠(yuǎn)嬰譯，生活·讀書·新知三聯(lián)書店，2012年，第200頁。。以“美團(tuán)”“餓了么”外賣平臺為例，平臺以大數(shù)據(jù)為基礎(chǔ)按照人工智能算法核準(zhǔn)每一單外賣的最佳路線、標(biāo)準(zhǔn)時間，外賣員的收入按照接單量、準(zhǔn)時率、差評率、投訴率等指標(biāo)由算法系統(tǒng)自動生成。人工智能算法不會考慮天氣、交通等各種偶發(fā)因素，超時自動扣減提成，超時可能掙不到錢，甚至可能還會倒貼錢。我們看不到有人在監(jiān)控外賣員，但是網(wǎng)絡(luò)平臺自動記錄生成外賣員的行蹤、評價、績效，這就是我們看到的外賣員不顧風(fēng)險穿行在汽車洪流中表面現(xiàn)象背后的算法作用。

算法與監(jiān)控的結(jié)合構(gòu)造出數(shù)據(jù)化“圓形監(jiān)獄”，通過對人們?nèi)粘Ｉ顢?shù)據(jù)的全方位隱蔽監(jiān)控，以新的技術(shù)實(shí)踐形式延伸了邊沁所構(gòu)想的“圓形監(jiān)獄”。算法監(jiān)控遵循“圓形監(jiān)獄”中可見與不可見的二元統(tǒng)一機(jī)制，大數(shù)據(jù)信息采集、監(jiān)控平臺隱匿不顯而無所不在，被監(jiān)控者時刻處于規(guī)訓(xùn)權(quán)力的施控范圍之內(nèi)。以抽象數(shù)字代碼組成的算法具有不可見性，隱匿了傳統(tǒng)監(jiān)控方式中在場者的權(quán)力地位，成為不在場的在場者，延伸了“圓形監(jiān)獄”的監(jiān)控范圍。算法監(jiān)控作為數(shù)據(jù)化“圓形監(jiān)獄”消解時空結(jié)構(gòu)對監(jiān)控的制約，以超時空控制的方式將自我規(guī)訓(xùn)的觀念內(nèi)化于被監(jiān)視者，迫使被監(jiān)視者時刻處于“敞開”受控狀態(tài)。

算法監(jiān)控具有不同于傳統(tǒng)監(jiān)控特征，大致可歸納為以下幾點(diǎn)：其一，算法監(jiān)控從傳統(tǒng) “單純”監(jiān)控轉(zhuǎn)向“數(shù)據(jù)+算法”監(jiān)控，具有“智能意向性”特征。其二，算法監(jiān)控從傳統(tǒng)監(jiān)控的“過往”時空范圍轉(zhuǎn)向?qū)θ说摹拔磥怼毙袨榈念A(yù)測、操控，反映出算法監(jiān)控的“時空穿越性”特征。其三，算法監(jiān)控從傳統(tǒng)的改善服務(wù)目的轉(zhuǎn)向攫取客戶的“行為剩余”價值，具有“資本驅(qū)動性”特征。其四，算法監(jiān)控不僅是窺探隱私、經(jīng)濟(jì)剝削，更重要的是它具有“誘導(dǎo)規(guī)訓(xùn)性”特征。

二、算法監(jiān)控的資本謀劃

對于算法監(jiān)控不能僅僅停留在個人隱私、社會倫理方面的反思批判，必須透過社會表象揭示其經(jīng)濟(jì)動因，剖析算法監(jiān)控背后的資本運(yùn)作機(jī)制。在資本主義條件下，“技術(shù)不管如何飛躍，本質(zhì)上依然服務(wù)于資本”(3)Zuboff， S. Big Other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Information Technology， 2015(1).。這里問題的關(guān)鍵不在于技術(shù)，而在于技術(shù)的資本主義應(yīng)用。算法監(jiān)控的資本謀劃不僅僅是“行為剩余”的最后榨取，更有“數(shù)據(jù)化”圓形監(jiān)獄“全景式”監(jiān)控的現(xiàn)代技術(shù)支持，是“數(shù)據(jù)主義”利益至上經(jīng)濟(jì)意識形態(tài)的整體實(shí)施。對于算法監(jiān)控的資本謀劃機(jī)制進(jìn)行剖析，是我們駕馭資本力量、打破資本邏輯的基礎(chǔ)。

(一)算法監(jiān)控從虛擬世界延伸至現(xiàn)實(shí)生活

計算機(jī)原本主要是用來進(jìn)行科學(xué)研究、數(shù)據(jù)計算的，即使后來開發(fā)了網(wǎng)絡(luò)游戲，商家可以向玩家推銷各種游戲裝備，數(shù)據(jù)更多反映的還是人們虛擬世界足跡，與人們的現(xiàn)實(shí)生活聯(lián)系并不緊密。但是隨著手機(jī)移動網(wǎng)絡(luò)設(shè)備的開發(fā)完善，越來越多的App小程序在現(xiàn)實(shí)生活中大量應(yīng)用，數(shù)據(jù)愈加翔實(shí)真切地記錄、表達(dá)人們的生活動態(tài)，為算法監(jiān)控從虛擬到現(xiàn)實(shí)的延伸奠定了基礎(chǔ)。數(shù)據(jù)化“圓形監(jiān)獄”無所不在，人們的虛擬世界足跡與現(xiàn)實(shí)生活領(lǐng)域都成為資本逐利的領(lǐng)地。數(shù)據(jù)的潛在利潤引發(fā)眾多數(shù)據(jù)企業(yè)之間相互競爭，現(xiàn)實(shí)世界的未來行為市場成為資本跑馬圈地的“新大陸”。未來行為市場收益是由預(yù)測產(chǎn)品的準(zhǔn)確性決定的，在追求更高確定性預(yù)測產(chǎn)品的競賽過程中，互聯(lián)網(wǎng)公司常常以“便利化”為誘餌竊取用戶行為數(shù)據(jù)，繼而將其轉(zhuǎn)化為資本增值的信息原料。在現(xiàn)代大數(shù)據(jù)技術(shù)、人工智能催化下，數(shù)據(jù)的潛在經(jīng)濟(jì)價值得以發(fā)掘，巨大利潤前景觸發(fā)資本的敏感神經(jīng)，算法監(jiān)控在資本的助推下蓬勃興起。算法監(jiān)控與資本具有共同的高利潤追求目標(biāo)，算法監(jiān)控與資本的“聯(lián)姻”使得算法監(jiān)控的逐利本能在資本邏輯的支配下獲得最大化釋放。

算法監(jiān)控由虛擬世界擴(kuò)張到現(xiàn)實(shí)生活領(lǐng)域，其本質(zhì)是資本增值邏輯“受挫”之后自我揚(yáng)棄、自我更新的結(jié)果，具體表現(xiàn)為資本增值機(jī)制的創(chuàng)新，其背后內(nèi)蘊(yùn)的是資本增值的內(nèi)在需求。近年來，谷歌作為搜索引擎卻致力于布局導(dǎo)航地圖與智能通信，淘寶作為購物平臺卻致力于布局物聯(lián)網(wǎng)與投資打車軟件，臉書作為社交平臺卻致力于局部虛擬現(xiàn)實(shí)與AI家庭助理。這些數(shù)據(jù)企業(yè)似乎有一種不謀而合的資本增值機(jī)制，它們的目標(biāo)不再是生產(chǎn)與銷售更多實(shí)質(zhì)性的商品，取而代之的是通過地圖導(dǎo)航與AI家庭助理等“免費(fèi)”數(shù)字平臺將市場營銷活動延伸至用戶的日常生活。數(shù)據(jù)企業(yè)利用隱藏在數(shù)字平臺背后的“看不見的手”——算法監(jiān)控對消費(fèi)者數(shù)據(jù)足跡進(jìn)行數(shù)字式“攔截與檢查”，以貨幣化數(shù)據(jù)的方式對傳統(tǒng)資本主義生產(chǎn)手段、商品模式、市場模式進(jìn)行顛覆式變革，達(dá)到維護(hù)、確保資本持續(xù)增值的目的。

數(shù)據(jù)企業(yè)在資本邏輯的助推下，將觸手從虛擬世界延伸至現(xiàn)實(shí)生活，它們利用隱藏在平臺背后的算法監(jiān)控把各個層面的人類經(jīng)驗(yàn)視為原材料的來源，通過這些原材料對用戶進(jìn)行“行為預(yù)測”，并將預(yù)測結(jié)果賣給廣告客戶實(shí)現(xiàn)資本增值。數(shù)據(jù)企業(yè)利用算法監(jiān)控得到的海量數(shù)據(jù)分析用戶性格特征與行為偏好，借此矯正我們的行為規(guī)范，“行為矯正手法”成為社會生產(chǎn)手段的主導(dǎo)形態(tài)。數(shù)據(jù)企業(yè)遵循資本增值的方式誘導(dǎo)、規(guī)訓(xùn)我們的行為，擴(kuò)大舊市場與開發(fā)新市場，實(shí)現(xiàn)供給與需求之間新的動態(tài)平衡。這些平衡對生產(chǎn)方式的變革建構(gòu)出一種以數(shù)據(jù)為基礎(chǔ)，以算法為核心的新生產(chǎn)方式；對商品模式的變革表現(xiàn)在它不生產(chǎn)、銷售任何實(shí)質(zhì)性的商品，它的真實(shí)商品是“用戶行為預(yù)測”；對市場模式的變革在于預(yù)測產(chǎn)品賣到一個新的市場環(huán)境中，這個市場環(huán)境流通的商品是“用戶行為預(yù)測”，因此市場模式就由之前的自由商品市場轉(zhuǎn)變?yōu)椤拔磥硇袨槭袌觥?。算法監(jiān)控使得傳統(tǒng)資本主義生產(chǎn)方式、商品模式、市場模式等發(fā)生系列新的變化，為資本邏輯得以持續(xù)運(yùn)行提供保障機(jī)制。

算法監(jiān)控的出現(xiàn)是人類監(jiān)控史上一個重要的分水嶺。從監(jiān)控范圍來看，以虛擬代碼為載體的算法監(jiān)控為了得到更精準(zhǔn)的預(yù)測結(jié)果，已經(jīng)從虛擬世界蔓延到真實(shí)生活，從而消融了虛擬與真實(shí)的界限，超越了時間與空間的限制，形成無所不在的“全景式”監(jiān)控體系；從監(jiān)控方式來看，算法監(jiān)控的產(chǎn)品是“用戶行為預(yù)測”，“這使得原來后發(fā)制人式監(jiān)控轉(zhuǎn)變?yōu)橄劝l(fā)制人式監(jiān)控”(4)Elmer G， Opel A. Surviving the Inevitable Future. Cultural Studies， 2006(4).；從監(jiān)控內(nèi)容來看，智能血氧手環(huán)等移動智能設(shè)備可以利用內(nèi)置傳感器隨時采集血氧信息，對身體健康狀況進(jìn)行監(jiān)控和預(yù)測。這說明，算法“超全景”式監(jiān)控已經(jīng)深入到人的毛細(xì)血管中，“身體不再被認(rèn)為是‘私人空間’，它已經(jīng)是‘超級全景’的一部分”(5)吳雯：《當(dāng)代“監(jiān)控”技術(shù)的倫理困境》，《自然辯證法通訊》，2019年第7期。。

(二)算法監(jiān)控的“數(shù)據(jù)主義”意識形態(tài)

資本為了利用算法監(jiān)控維護(hù)與推進(jìn)自身持續(xù)增值，需要建構(gòu)與之相適應(yīng)的上層建筑?；跀?shù)據(jù)作為算法的“活的靈魂”，“數(shù)據(jù)主義”成為算法監(jiān)控奉行的意識形態(tài)。在劍橋分析公司的大數(shù)據(jù)“讀心術(shù)”、電商平臺的“殺熟”、打車平臺的算法定價合謀各種平臺應(yīng)用中，人們的線上行為與線下活動都可以轉(zhuǎn)譯為供計算機(jī)識別的數(shù)據(jù)。這里的數(shù)據(jù)化不再局限于學(xué)科范圍內(nèi)(科學(xué)研究與管理實(shí)踐)的數(shù)據(jù)化，特指的是人類行為實(shí)踐與思維活動的數(shù)據(jù)化。當(dāng)前社會，數(shù)據(jù)化作為大數(shù)據(jù)技術(shù)發(fā)展促成的一種新趨勢，以一種內(nèi)在必然性的力量自我前行。由于數(shù)據(jù)的經(jīng)濟(jì)屬性，數(shù)據(jù)企業(yè)對數(shù)據(jù)化趨之若鶩。數(shù)據(jù)化趨勢解構(gòu)了原有的權(quán)力結(jié)構(gòu)，形塑出一種新型權(quán)力結(jié)構(gòu)。在這種新型權(quán)力結(jié)構(gòu)中，個人與數(shù)據(jù)企業(yè)之間權(quán)力的不對稱性賦予算法監(jiān)控?zé)o上權(quán)威。算法監(jiān)控如毛細(xì)血管式分布在社會各個角落，從某種程度上來說，它實(shí)現(xiàn)了笛卡爾將世界數(shù)字化的夢想。數(shù)字化的世界適合利用算法進(jìn)行數(shù)據(jù)分析，二者之間的互動不僅強(qiáng)化了算法監(jiān)控自身的權(quán)力，也強(qiáng)化了算法監(jiān)控的“數(shù)據(jù)主義”意識形態(tài)。

以數(shù)據(jù)為中心的“數(shù)據(jù)主義”世界觀成為一種科學(xué)認(rèn)知的通用范式，它擁有強(qiáng)大的解釋與“籌劃”能力，顛覆了人與世界“打交道”的方式，塑造出一個全新的世界。在這個世界中，人與物只有納入數(shù)據(jù)主義所勾勒的數(shù)據(jù)化時空關(guān)系的框架中才能規(guī)定其本性。也就是說，“物之所以是”與“人之所以是”都由二進(jìn)制數(shù)據(jù)定義，數(shù)據(jù)與算法消融了人與物之間不可逾越的界限。數(shù)據(jù)主義以信息自由為至善，“數(shù)據(jù)主義相信一切的善(包括經(jīng)濟(jì)增長)都來自信息自由……如果想要創(chuàng)造一個更美好的世界，關(guān)鍵就是要釋放數(shù)據(jù)，給它們自由”(6)尤瓦爾·赫拉利：《未來簡史》，林俊宏譯，中信出版集團(tuán)，2017年，第347頁。。信息自由與言論自由有所區(qū)別，前者自由賦予的對象是信息，后者自由賦予的對象是人類；前者追求的是信息流通效率，后者追求的是人類獨(dú)立思考與自由表達(dá)自身想法的權(quán)利。目前，算法監(jiān)控作為一種新的生產(chǎn)力要素，極大地提高了人們的生產(chǎn)效率，實(shí)證“信息自由”的科學(xué)性與合理化。把人當(dāng)作數(shù)據(jù)流的一片漣漪，數(shù)據(jù)主義范式逐漸取代人本主義范式成為當(dāng)代主流科學(xué)范式。

數(shù)據(jù)主義、算法監(jiān)控與資本之間，是一種彼此依賴、互動共生的纏繞關(guān)系。一方面，異質(zhì)化、非結(jié)構(gòu)化數(shù)據(jù)只有納入以算法為核心的數(shù)據(jù)處理系統(tǒng)，才能變成同質(zhì)的結(jié)構(gòu)化數(shù)據(jù)，數(shù)據(jù)因此才有意義，才能形成新的價值形式。正如赫拉利所說，“人類可以把自己的體驗(yàn)吟成詩、寫成博客，再發(fā)表到網(wǎng)絡(luò)上，使全球數(shù)據(jù)處理系統(tǒng)更為豐富。就是這樣，才讓他們的數(shù)據(jù)有了意義”(7)尤瓦爾·赫拉利：《未來簡史》，林俊宏譯，中信出版集團(tuán)，2017年，第350頁。。而且海量化數(shù)據(jù)的收集、分析、判斷遠(yuǎn)非人力所及，只有依靠算法監(jiān)控才能實(shí)現(xiàn)。另一方面，算法監(jiān)控之所以受資本青睞，就在于算法對監(jiān)控所得數(shù)據(jù)分析整合后的利潤圖景與資本的增值天性契合一致。算法監(jiān)控?fù)碛凶畲蠡瘮?shù)據(jù)流，才能更好地實(shí)現(xiàn)對人的資本謀劃，實(shí)現(xiàn)資本擴(kuò)張。算法監(jiān)控作為數(shù)據(jù)化“圓形監(jiān)獄”式監(jiān)控，它將權(quán)力的可見之光彌散到整個社會，消融了數(shù)據(jù)的時空界限，在數(shù)據(jù)化時空“籌劃”下的個體逃脫不了數(shù)據(jù)化的命運(yùn)，進(jìn)而被轉(zhuǎn)化為“0”和“1”為基本代碼的二進(jìn)制數(shù)據(jù)流，成為加工與處理的對象。

(三)算法監(jiān)控對“行為剩余”的極限榨取

在前數(shù)據(jù)化階段，人類的行為足跡、思維意識與情感是一片尚未被資本開發(fā)的處女地，數(shù)據(jù)企業(yè)收集數(shù)據(jù)的目的主要是為提升產(chǎn)品質(zhì)量、改善服務(wù)品質(zhì)。此時數(shù)據(jù)企業(yè)與用戶行為數(shù)據(jù)的互動產(chǎn)生一種力量平衡的狀態(tài)：數(shù)據(jù)企業(yè)需要借助用戶行為數(shù)據(jù)完善機(jī)器學(xué)習(xí)功能，進(jìn)而產(chǎn)出更相關(guān)、更全面的搜索結(jié)果并借此吸引更多用戶，而用戶則需要借助這些智能化服務(wù)方便自身生產(chǎn)生活。數(shù)據(jù)企業(yè)與用戶之間這種互利共生的關(guān)系，隨著谷歌定向投放廣告模式的出現(xiàn)而被打破。為滿足資本增值需要，谷歌率先發(fā)現(xiàn)海量數(shù)據(jù)中蘊(yùn)含的經(jīng)濟(jì)價值，并推出基于搜索引擎數(shù)據(jù)的個性化廣告投放，從此谷歌不再單純將收集的數(shù)據(jù)拿來提升服務(wù)品質(zhì)，而是更多地利用這些數(shù)據(jù)分析使用者的情感、判斷使用者的想法，并借此向使用者投放個性化定向廣告。通過數(shù)學(xué)運(yùn)算的精準(zhǔn)性，取代原有廣告模式的不確定性，使谷歌獲得巨大的廣告收益。

谷歌基于搜索引擎數(shù)據(jù)向用戶定向投放廣告模式的成功，吸引了眾多大數(shù)據(jù)資本的研究探討，揭示了“行為剩余”的秘密。在互聯(lián)網(wǎng)發(fā)展初期，受數(shù)據(jù)資源不足和計算能力的技術(shù)局限，數(shù)據(jù)的經(jīng)濟(jì)價值尚未為人們所認(rèn)識。數(shù)據(jù)的經(jīng)濟(jì)屬性不被大眾所知，也沒人對自身數(shù)據(jù)進(jìn)行所有權(quán)主張，所以早期數(shù)據(jù)采集方式極其簡單，只需要購買相關(guān)監(jiān)控算法就能實(shí)現(xiàn)。此時“‘?dāng)?shù)據(jù)采集’描繪了一種社會與物質(zhì)結(jié)構(gòu)，在這一結(jié)構(gòu)中，大數(shù)據(jù)企業(yè)聲稱對這些原材料享有權(quán)威，從而在其原材料供應(yīng)鏈操作中獲得經(jīng)濟(jì)利益”(8)Zuboff，S. The Age of Surveillance Capitalism:The Fight for a Human Future at the New Frontier of Power. Public Affairs，2019，p.65.。但隨著大數(shù)據(jù)技術(shù)的發(fā)展，越來越多的人意識到數(shù)據(jù)的經(jīng)濟(jì)價值，并對自身隱私權(quán)、遺忘權(quán)的保護(hù)愈加重視，傳統(tǒng)“無征求”式的數(shù)據(jù)挖掘不再可能。面對數(shù)字經(jīng)濟(jì)這塊大蛋糕，沒有一家數(shù)據(jù)企業(yè)愿意放棄，放棄就意味著“死亡”。這時新的策略與說辭相應(yīng)而生，目的是“合理化”不尋常的新操作。數(shù)據(jù)企業(yè)機(jī)智地設(shè)計更加先進(jìn)的算法軟件，以提升“便利化”服務(wù)質(zhì)量為招牌，以“免費(fèi)”形式幫助用戶快速獲取目標(biāo)信息。在此新操作中，“便利化”粉飾了企業(yè)隨意竊取用戶隱私數(shù)據(jù)的卑劣行徑，人們不知不覺就“沉浸”在算法監(jiān)控對自身的規(guī)訓(xùn)之中。例如，臉書(Facebook)于2015年開發(fā)出“個人數(shù)位助理”應(yīng)用，該應(yīng)用通過“協(xié)助”的面紗及“便利化”的精心裝飾，掩蓋了數(shù)據(jù)企業(yè)竊取用戶的生活數(shù)據(jù)并借此謀利的意圖。算法監(jiān)控資本謀劃具有隱匿性，即“以善為名，行惡之實(shí)”，“嵌入”內(nèi)在非正義的算法監(jiān)控塑造出來的“個性化”與“便利化”舒適圈為人們被支配與被剝削的現(xiàn)實(shí)披上“合理”外衣。

事實(shí)上，用戶在互聯(lián)網(wǎng)上留下的搜索記錄、行為變化等數(shù)據(jù)僅僅一小部分被企業(yè)用來提升產(chǎn)品質(zhì)量與用戶服務(wù)體驗(yàn)，絕大多數(shù)的剩余數(shù)據(jù)被當(dāng)成資本積累擴(kuò)張的原材料。數(shù)據(jù)企業(yè)利用這些剩余數(shù)據(jù)形成關(guān)于用戶的抽象規(guī)定，繼而將其加工整理成“用戶行為預(yù)測”，賣給廣告客戶獲取利潤。哈佛大學(xué)教授肖莎娜·祖博夫在《監(jiān)控資本主義時代》中將數(shù)據(jù)企業(yè)通過監(jiān)控收集來的數(shù)據(jù)量大于用來提升產(chǎn)品質(zhì)量與服務(wù)品質(zhì)的數(shù)據(jù)需求量，超出的一部分被企業(yè)私自占用的數(shù)據(jù)稱為“行為剩余”。谷歌定向廣告投放模式的絕佳運(yùn)營成效是來自行為剩余的價值，行為剩余的發(fā)現(xiàn)幫助早期谷歌獲得強(qiáng)大的預(yù)測能力，同時也助其建構(gòu)出強(qiáng)大的競爭優(yōu)勢。

行為剩余被發(fā)現(xiàn)以后，監(jiān)控資本主義隨之誕生。所謂監(jiān)控資本主義，即“基于數(shù)據(jù)監(jiān)控的新興資本主義經(jīng)濟(jì)秩序”(9)武青，周程：《資本主義條件下大數(shù)據(jù)技術(shù)的政治經(jīng)濟(jì)學(xué)批判：監(jiān)控資本主義的時代述評》，《科學(xué)與社會》，2020年第1期。，它與傳統(tǒng)資本主義經(jīng)濟(jì)秩序的根本區(qū)別在于：首先，“監(jiān)控資本主義無視消費(fèi)者與生產(chǎn)者長期存在的有機(jī)互惠”(10)肖莎娜·祖博夫：《監(jiān)控資本主義時代(上卷)：基礎(chǔ)與演進(jìn)》，溫澤元等譯，臺北時報文化出版公司，2020年，第25頁。。“如果企業(yè)在收集行為數(shù)據(jù)之前，先獲得消費(fèi)者或用戶的許可，并單純利用這些數(shù)據(jù)來改善產(chǎn)品或服務(wù)品質(zhì)，那這就是資本主義而非監(jiān)控資本主義”(11)肖莎娜·祖博夫：《監(jiān)控資本主義時代(上卷)：基礎(chǔ)與演進(jìn)》，溫澤元等譯，臺北時報文化出版公司，2020年，第57-58頁。。其次，“監(jiān)控資本主義同時擁有知識與自由度的極大特權(quán)”(12)肖莎娜·祖博夫：《監(jiān)控資本主義時代(上卷)：基礎(chǔ)與演進(jìn)》，溫澤元等譯，臺北時報文化出版公司，2020年，第25頁。。傳統(tǒng)資本主義中無知與自由往往結(jié)伴而行，亞當(dāng)·斯密曾將市場比喻成“看不見的手”，“市場本質(zhì)上是不可知的，由于缺乏知識造成無知狀態(tài)，因此市場行為者必須擁有采取各式行動的自由”(13)肖莎娜·祖博夫：《監(jiān)控資本主義時代(下卷)：機(jī)器控制力量》，溫澤元等譯，臺北時報文化出版公司，2020年，第780頁。。而在監(jiān)控資本主義中，無知與自由不再結(jié)伴而行，取而代之的是同時擁有知識與自由兩大特權(quán)。監(jiān)控資本家通過算法，分析整合“行為剩余”形成的“行為預(yù)測市場”取代了“無法測量的市場”，這種現(xiàn)象從根本上顛覆了古典經(jīng)濟(jì)學(xué)中“市場”本質(zhì)上不可知的認(rèn)識?！笆袌觥蹦軌蛘J(rèn)識與預(yù)測，這驅(qū)使著監(jiān)控資本家利用“市場”知識優(yōu)勢來維護(hù)其不受限制的自由。最后，監(jiān)控資本主義將大眾視為取之不盡的數(shù)據(jù)資源，蠶食人們自主性空間。監(jiān)控資本主義擁有一套新的資本增值邏輯，即以行為剩余為生產(chǎn)原料，以算法機(jī)器為生產(chǎn)手段進(jìn)行資本謀劃。在此過程中，人的存在意義僅僅被看作是制造數(shù)據(jù)、聽從數(shù)據(jù)算法支配。

三、算法監(jiān)控的社會治理

算法監(jiān)控的資本運(yùn)作機(jī)制剖析，并不局限在算法監(jiān)控本身而是具有某種典型代表意義，擴(kuò)展加深了我們對于當(dāng)今大數(shù)據(jù)時代人工智能、網(wǎng)絡(luò)平臺公司背后的經(jīng)濟(jì)基礎(chǔ)、資本動因的認(rèn)識和理解。對于算法監(jiān)控的社會治理也不能局限在算法監(jiān)控本身的技術(shù)層面治理，而是要實(shí)施價值觀念、社會變革、法律規(guī)范等全方位社會治理，保障大數(shù)據(jù)技術(shù)、數(shù)字產(chǎn)業(yè)的健康和諧發(fā)展。

(一)算法監(jiān)控惡行源于資本邏輯的極權(quán)主義

算法監(jiān)控以榨取人類“行為剩余”為基礎(chǔ)，以智能化算法為核心的生產(chǎn)方式，深刻改變了傳統(tǒng)經(jīng)濟(jì)形態(tài)與社會關(guān)系。算法監(jiān)控資本謀劃機(jī)制實(shí)現(xiàn)了工具理性的“求利”訴求，但也隱含著價值理性畸變、異化的沖動。安全風(fēng)險、道德淪喪不是算法監(jiān)控發(fā)展過程中的必然直接產(chǎn)物，而是根植于資本無節(jié)制的“增值理性”。資本借助算法監(jiān)控中介實(shí)現(xiàn)自身增值，并進(jìn)一步要求控制社會關(guān)系。算法監(jiān)控將人類行為量化，通過分析用戶行為偏好與性格特征，以“點(diǎn)對點(diǎn)”方式推送預(yù)測產(chǎn)品實(shí)現(xiàn)精準(zhǔn)推銷。通過“客戶畫像”不僅滿足客戶的個性化需求，更是開發(fā)、引導(dǎo)社會生產(chǎn)與消費(fèi)。對此雖然不能一概否定，但“人類各方面的經(jīng)驗(yàn)都被視為原材料，最終是為了轉(zhuǎn)化為行為數(shù)據(jù)”(14)Zuboff，S. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Public Affairs，2019，p.19.，人被異化成取之不盡用之不竭的可供數(shù)字計算的數(shù)據(jù)“資源”，作為一種“無根的存在”消融在資本邏輯的增值理性之中。在資本邏輯的支配下，算法監(jiān)控成為一種新興的霸權(quán)，每個人都成為算法霸權(quán)下被隨意“擺置”的“數(shù)字難民”。

算法監(jiān)控作為資本邏輯的物化力量，為了保障資本持續(xù)增值，盡一切可能將自身蘊(yùn)含的經(jīng)濟(jì)力量轉(zhuǎn)化為政治權(quán)力。算法監(jiān)控帶來數(shù)據(jù)壟斷，使得掌握算法監(jiān)控技術(shù)的科技巨頭成為“數(shù)據(jù)殖民”的新主體，數(shù)據(jù)化世界中的個體成為“數(shù)據(jù)殖民”的難民?！皵?shù)據(jù)殖民”作為新的資源占有方式是通過重塑原有經(jīng)濟(jì)與社會關(guān)系，即建立“數(shù)據(jù)關(guān)系”來實(shí)現(xiàn)的。所謂“數(shù)據(jù)關(guān)系”，即“一種新興的社會形式，通過這種社會形式，數(shù)據(jù)殖民主義作為一種提取過程在個人、群體和機(jī)構(gòu)之間得以持續(xù)，從而穩(wěn)定地促進(jìn)了新的資本主義秩序的形成”(15)Couldly N， Mejiasu A. The Costs off Connection: How Date is Colonizing Human Life and Appropriation it for Capitalism. Stanford Universal Press，2019，p.27.。數(shù)據(jù)關(guān)系的目的，就是通過既定的社會形式建構(gòu)出能夠保障數(shù)據(jù)生產(chǎn)與自由流通的社會秩序。全新的社會秩序加劇了社會經(jīng)濟(jì)權(quán)力的不平等，數(shù)據(jù)企業(yè)與普通用戶之間經(jīng)濟(jì)權(quán)力的不對稱性解構(gòu)了原有的權(quán)力結(jié)構(gòu)，塑造出新的權(quán)力結(jié)構(gòu)。這種新型權(quán)力結(jié)構(gòu)表現(xiàn)在它對以算法為核心的智能化操作機(jī)器的技術(shù)組織權(quán)力上，肖莎娜·祖博夫稱之為“工具主義權(quán)力”。

“工具主義權(quán)力”將數(shù)據(jù)企業(yè)視為權(quán)力的主體，把行為修正手段當(dāng)作實(shí)施權(quán)力的工具，目的是通過算法監(jiān)控機(jī)器把人轉(zhuǎn)化成資本增值的中介手段。在此過程中，“監(jiān)控資本家的意志取代了用戶的意志，將監(jiān)控資本家的目標(biāo)偽裝成用戶自由行使選擇權(quán)的結(jié)果，從而實(shí)現(xiàn)他們的商業(yè)利潤”(16)武青，周程：《資本主義條件下大數(shù)據(jù)技術(shù)的政治經(jīng)濟(jì)學(xué)批判——監(jiān)控資本主義時代述評》，《科學(xué)與社會》，2020年第1期。。個體的自律被資本家的他律所剝奪，個體的意志被出售，收入被用來購買監(jiān)控資本家所謂的“自由”。祖博夫認(rèn)為，在“工具主義權(quán)力”的謀劃下，算法意志取代人的自由意志，以算法監(jiān)控資本操作機(jī)器為生產(chǎn)核心的“監(jiān)控資本主義的極權(quán)主義不同于以往的極權(quán)主義，是一種新型極權(quán)主義”(17)Zuboff， S. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power，Public Affairs， 2019， pp.396-397.。而“憑借它組織自己的技術(shù)基礎(chǔ)的方式，當(dāng)代社會傾向于成為極權(quán)主義的”(18)馬爾庫塞：《單向度的人》，張峰譯，重慶出版社，1988年，第4頁。。這種新型極權(quán)主義不是通過“恐怖與暴力”手段完成社會統(tǒng)治，而是通過經(jīng)濟(jì)—技術(shù)相互協(xié)調(diào)的方式進(jìn)行統(tǒng)治，這種協(xié)調(diào)依靠“行為矯正手段”削弱人們反抗性向度與超越性向度，將個人與強(qiáng)加于他們的生活同一化，進(jìn)而塑造出一個沒有異議的社會。

(二)基于中國國情的算法監(jiān)控治理路徑

算法監(jiān)控的資本謀劃將人異化為數(shù)據(jù)“資源”，侵犯人的隱私權(quán)、剝奪人的否定性，對于算法監(jiān)控社會應(yīng)用的負(fù)面作用我們不能視而不見、聽之任之?！巴赓u平臺系統(tǒng)通過潛移默化地收集、分析騎手?jǐn)?shù)據(jù)并將數(shù)據(jù)結(jié)果反作用于騎手而使勞動秩序成為可能。‘?dāng)?shù)字控制’不僅削弱著騎手的反抗意愿，蠶食著他們發(fā)揮自主性的空間……”(19)陳龍：《“數(shù)字控制”下的勞動秩序：外賣騎手的勞動控制研究》，《社會學(xué)研究》，2021年第6期。我們必須高度警惕算法監(jiān)控資本邏輯驅(qū)動下的社會濫用，對大數(shù)據(jù)企業(yè)、網(wǎng)絡(luò)平臺、算法監(jiān)控實(shí)施更為嚴(yán)格精準(zhǔn)的社會治理。

首先，資本具有增值、擴(kuò)張的天生沖動，但是對于資本的批判不是簡單否定，而是為了“先行澄清”。資本主義與社會主義的區(qū)別不是以有沒有資本為標(biāo)準(zhǔn)，資本并不意味著必然具備“資本主義的意識形態(tài)”功能，以資本為中心為資產(chǎn)階級服務(wù)是資本主義，以人民為中心為廣大人民群眾服務(wù)是社會主義。我們要依托中國特色社會主義制度優(yōu)勢駕馭資本邏輯，把數(shù)據(jù)的開發(fā)、利用規(guī)約在技術(shù)進(jìn)步與社會和諧發(fā)展道路。中國特色社會主義市場經(jīng)濟(jì)具有“以人民為中心”的社會制度與市場經(jīng)濟(jì)相結(jié)合的強(qiáng)大優(yōu)勢，“有為的政府”與“有效的市場”的密切融合建構(gòu)起算法監(jiān)控的法治化環(huán)境，從法律制度上震懾、打擊資本邏輯的“越軌”沖動?！吨腥A人民共和國數(shù)據(jù)安全法》第一條首先明確立法目的，明確了數(shù)據(jù)的開發(fā)利用與安全保護(hù)之間的辯證關(guān)系。這部法律的頒布奠定了算法監(jiān)控的發(fā)展方向，即“開展數(shù)據(jù)處理活動以及研究開發(fā)數(shù)據(jù)新技術(shù)，應(yīng)當(dāng)有利于促進(jìn)經(jīng)濟(jì)社會發(fā)展，增進(jìn)人民福祉，符合社會公德和倫理”。

其次，加大數(shù)據(jù)知識、數(shù)據(jù)權(quán)利的宣傳普及工作，提高全社會的數(shù)據(jù)安全保護(hù)意識，形成管理部門、企業(yè)公司、公民個人積極參與數(shù)據(jù)安全良好社會環(huán)境的建設(shè)。由于大數(shù)據(jù)技術(shù)、網(wǎng)絡(luò)平臺運(yùn)營的隱秘復(fù)雜，民眾對于數(shù)據(jù)安全、個人權(quán)利保護(hù)意識不夠，常常陷進(jìn)不良商家、網(wǎng)絡(luò)平臺設(shè)置的騙局。對于老年人，社區(qū)要組織開展專門的手機(jī)使用、網(wǎng)絡(luò)防騙的公益教育，既要讓老年人跟上信息化社會的技術(shù)進(jìn)步，也要加強(qiáng)公安打擊網(wǎng)絡(luò)詐騙力度，確保社會安全穩(wěn)定?！渡钲诮?jīng)濟(jì)特區(qū)數(shù)據(jù)條例》明確規(guī)定，對于未滿十四周歲未成年人，除征得其監(jiān)護(hù)人明示同意外，不得向其進(jìn)行個性化推薦。國家管理部門應(yīng)進(jìn)一步加強(qiáng)數(shù)據(jù)安全立法，組織推動、適時修訂相關(guān)行業(yè)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)的制定，完善數(shù)據(jù)安全檢測、評估、認(rèn)證等專業(yè)性服務(wù)體系建設(shè)，對數(shù)據(jù)實(shí)施從“國家安全”到“個人隱私”的“分級分類”保護(hù)。2021年6月30日滴滴在美國首次公開發(fā)行籌資40億美元開始交易，7月4日國家網(wǎng)信辦宣布通知應(yīng)用商店下架其應(yīng)用。滴滴之所以被下架應(yīng)用，就在于其在美國的上市可能涉及中國敏感用戶、國家數(shù)據(jù)、地理路網(wǎng)信息泄露風(fēng)險。

再次，清醒認(rèn)識國家公共服務(wù)與大數(shù)據(jù)平臺公司之間目標(biāo)與利益的迭合與差異，對算法控制、資本壟斷實(shí)施更加規(guī)范完善的嚴(yán)格管控。中國20世紀(jì)的互聯(lián)網(wǎng)基礎(chǔ)產(chǎn)業(yè)是由國家啟動建設(shè)，21世紀(jì)以來私營互聯(lián)網(wǎng)企業(yè)步入了快速發(fā)展階段。2000年移動互聯(lián)網(wǎng)興起之際，私營互聯(lián)網(wǎng)絡(luò)公司作為外包項目的分包商與中國電信合作，借用國家發(fā)起、控制的互聯(lián)網(wǎng)基礎(chǔ)設(shè)施獲得飛躍式擴(kuò)張。在這種政商合作中，政府實(shí)現(xiàn)了網(wǎng)上的政務(wù)管理與服務(wù)，如繳納各種水電費(fèi)用乃至征信、身份核驗(yàn)等等；而互聯(lián)網(wǎng)大數(shù)據(jù)平臺公司則借此資本擴(kuò)張，將觸角伸展到經(jīng)濟(jì)、社會、政治各個層面，甚至有可能發(fā)展成為控制某種技術(shù)、市場的“巨鯨”“寡頭”。實(shí)施“互聯(lián)網(wǎng)+”國家戰(zhàn)略、發(fā)展數(shù)字經(jīng)濟(jì)、服務(wù)社會民生是我們的美好期許，但是必須警惕、對抗、馴服某些數(shù)據(jù)公司資本沖動的無序擴(kuò)張，打破技術(shù)壟斷的“捆綁效應(yīng)”“路徑依賴”，維護(hù)國家數(shù)據(jù)安全，保障社會民生福祉。自2020年以來，國家對于螞蟻金服、阿里巴巴的處罰，對滴滴出行等平臺公司的安全審查等都是具有標(biāo)志性意義的政治經(jīng)濟(jì)事件。

最后，遵循“最小必要”“告知同意”“保護(hù)弱者”的基本原則，從法律、倫理、技術(shù)各個層面約束、規(guī)范大數(shù)據(jù)平臺公司的運(yùn)營。我們常常反省國人數(shù)據(jù)安全自我保護(hù)意識不夠，但是大數(shù)據(jù)網(wǎng)絡(luò)公司已然成為社會運(yùn)行的基礎(chǔ)平臺，對于某些App小程序的使用及其個人數(shù)據(jù)的讓渡成為不可逃避的設(shè)定。我們離開手機(jī)網(wǎng)絡(luò)平臺會遭遇太多困難，醫(yī)院掛號、手機(jī)支付、乘車購票等基本生活需求就難以實(shí)現(xiàn)。而大數(shù)據(jù)公司常常采用“一鍵式”一攬子授權(quán)認(rèn)可協(xié)議，要么提供個人信息要么拒絕提供服務(wù)，通過某些便利服務(wù)“綁架”采集個人信息，用戶失去了平等對話或者抗衡自衛(wèi)權(quán)利。個人數(shù)據(jù)“被迫”儲存在“平臺”，要求每一用戶保護(hù)隱私、防范泄露不現(xiàn)實(shí)，也不符合防范風(fēng)險的“最小成本”原則。在強(qiáng)大的技術(shù)網(wǎng)絡(luò)、資本利益面前，我們必須嚴(yán)懲信息泄露、“大數(shù)據(jù)殺熟”等侵犯公民權(quán)益事件，對受害者采取必要的“公益訴訟”保護(hù)，確保數(shù)字經(jīng)濟(jì)、信息社會的和諧健康發(fā)展。