人與算法的關(guān)系：從規(guī)訓(xùn)、控制到自主性

舒暢

摘要：在關(guān)于算法治理的討論中，人與算法的關(guān)系常被忽視。在強(qiáng)調(diào)算法對數(shù)字社會發(fā)展的強(qiáng)大力量時(shí)，需要將算法對個(gè)體的規(guī)訓(xùn)塑造以及控制監(jiān)控納入分析視野，揭示算法對社會個(gè)體進(jìn)行支配的宏觀機(jī)制。還需要在培養(yǎng)人們的算法素養(yǎng)和提升算法意識的過程中，激活自主性、重新定位人在算法系統(tǒng)的自主權(quán)，并在實(shí)踐過程利用好算法的工具性、拓展親密關(guān)系，通過對算法的抵抗性策略來推進(jìn)人與算法關(guān)系的平衡。

關(guān)鍵詞：算法系統(tǒng) 規(guī)訓(xùn)與控制 自主性

進(jìn)入數(shù)字社會，算法無處不在，基于數(shù)據(jù)庫、大數(shù)據(jù)和云計(jì)算等技術(shù)的普遍應(yīng)用，人們?nèi)粘Ｉ钪械墓ぷ鳌W(xué)習(xí)、消費(fèi)、交往、游戲、娛樂與健康等都被算法軟件構(gòu)成的數(shù)字設(shè)備和數(shù)字平臺所中介、增強(qiáng)、生產(chǎn)和監(jiān)管。由算法技術(shù)所構(gòu)成的算法機(jī)器和算法文化力量，正通過社會和個(gè)體的毛細(xì)血管以一種隱蔽和強(qiáng)大的力量，影響著個(gè)體的思維與觀念，支配和塑造個(gè)體與生活相關(guān)的決策。在人與算法的關(guān)系上，一方面基于技術(shù)和算法基礎(chǔ)設(shè)施的作用，個(gè)體成為被算法規(guī)訓(xùn)和控制的對象，但這也容易忽略個(gè)體能動(dòng)性。在重新定位人與算法的關(guān)系時(shí)，需要納入自主性維度，關(guān)注個(gè)體在算法社會的自我改變和算法游戲中的平衡和駕馭。

一、算法系統(tǒng)對個(gè)體的規(guī)訓(xùn)塑造

被稱為第四次工業(yè)革命的人工智能技術(shù)，給社會經(jīng)濟(jì)生活帶來革命性變化。算法作為一種嵌入的、通常是不可見的技術(shù)基礎(chǔ)設(shè)施，不僅改造著整個(gè)生產(chǎn)、分配、交換與消費(fèi)環(huán)節(jié)，而且在微觀領(lǐng)域?qū)€(gè)體的社會生活有著較為明顯的規(guī)訓(xùn)。

1.重組社會個(gè)體生活。在批判性地思考人與算法關(guān)系時(shí)，一個(gè)不容忽視的問題就是數(shù)據(jù)驅(qū)動(dòng)的算法系統(tǒng)已經(jīng)滲透到了經(jīng)濟(jì)、政府和文化部門，并將各類社會個(gè)體內(nèi)化吸納到算法平臺的生態(tài)之中，并逐漸轉(zhuǎn)變?yōu)榛旌闲问降钠脚_社會。作為技術(shù)可供性，算法加速了數(shù)字社會的鏈接性、可編程性、交互性和協(xié)作性，進(jìn)一步整合了網(wǎng)絡(luò)結(jié)構(gòu)，加劇了社會組織模式向網(wǎng)絡(luò)化轉(zhuǎn)型的進(jìn)程。在社會結(jié)構(gòu)層面，由于社會圍繞信息進(jìn)行組織，數(shù)字平臺中算法成為組織社會的方式之一。

對于個(gè)體來說，在政治方面人的權(quán)力得到極大的解放。算法平臺的個(gè)性化推薦與內(nèi)容生產(chǎn)，賦予了“無名者”自由表達(dá)的權(quán)力。這種改變打破了傳統(tǒng)信息媒體基礎(chǔ)設(shè)施和技術(shù)的監(jiān)管控制，從而旨在建立一個(gè)支持、普惠、安全、知情、公民參與和更加包容的平臺社區(qū)。在經(jīng)濟(jì)方面，算法系統(tǒng)讓人們越來越多地處于一個(gè)“無處不在的商業(yè)”環(huán)境。基于數(shù)據(jù)記錄、存儲、交換、處理、分類和解釋，個(gè)體的流量域、位置域和關(guān)系域構(gòu)成了算法對消費(fèi)者日常信息和決策的自動(dòng)化處理。智能手機(jī)、平板電腦都可以即時(shí)性地生成購物清單、被推薦相關(guān)興趣產(chǎn)品，并充當(dāng)移動(dòng)支付錢包。銷售平臺則依靠數(shù)據(jù)庫和算法技術(shù)，記錄消費(fèi)者的檢索、偏好、消費(fèi)記錄，從而將其概念化為“永遠(yuǎn)在線”的主體，將其置于不受時(shí)空限制的隱藏的市場之中。在個(gè)體的日常生活中，算法扮演著核心角色。個(gè)體不但被算法中介，還由算法來決策，更重要的是算法所呈現(xiàn)的高度個(gè)性化的內(nèi)容，正在以中介形式將人們呈現(xiàn)給自己。

2.量化指標(biāo)體系的規(guī)范。在?？驴磥?，規(guī)訓(xùn)是一種把個(gè)人既視為操練對象又視為操練工具的權(quán)力的特殊技術(shù)。這種權(quán)力謙恭而多疑，是一種精心計(jì)算、持久運(yùn)作的機(jī)制。算法技術(shù)，包含對數(shù)據(jù)的組織、控制、計(jì)算等一系列操作，其中每一個(gè)環(huán)節(jié)都離不開量化的指標(biāo)體系。在這些碎片化和具體的實(shí)踐、技術(shù)和機(jī)制中可以總結(jié)出一套完整的權(quán)力機(jī)制——規(guī)訓(xùn)權(quán)力。理解算法規(guī)訓(xùn)權(quán)力的關(guān)鍵就在于，這一套量化指標(biāo)體系形成和積累了個(gè)體實(shí)踐的運(yùn)作工具、觀察方法、動(dòng)作程序、思維認(rèn)知。也就是說，通過這套量化指標(biāo)體系的運(yùn)作，它生產(chǎn)了平臺算法系統(tǒng)的規(guī)范、知識和微妙的權(quán)力。

這表明，從人與算法的關(guān)系上來說，量化的指標(biāo)體系是平臺各行動(dòng)者獲得可見性、拓展關(guān)系以及通過勞動(dòng)獲得資本的指南；但同時(shí)量化指標(biāo)體系是對個(gè)體的約束、引導(dǎo)和懲罰的機(jī)制，還是將平臺參與者組織為有效生產(chǎn)力的重要力量。例如，內(nèi)容平臺中“10萬+”的閱讀、轉(zhuǎn)發(fā)和點(diǎn)贊，文章和視頻的原創(chuàng)度、活躍度、互動(dòng)頻率、停留時(shí)間、展現(xiàn)數(shù)量等一系列量化指標(biāo)，都是基于算法的運(yùn)作。上述可見性指標(biāo)在數(shù)據(jù)上越顯著，就會獲得更多流量，也就會被推薦給更多的用戶。在這種量化的流量指標(biāo)下，平臺創(chuàng)作者在參與“趕流量游戲”中被反復(fù)操練，成為平臺的算法勞動(dòng)大軍。

3.算法培養(yǎng)了個(gè)體的慣習(xí)和依賴。伊尼斯通過對加拿大太平洋鐵路的經(jīng)濟(jì)和文化歷史的研究，認(rèn)識到了交通技術(shù)和基礎(chǔ)設(shè)施對于空間管理和經(jīng)濟(jì)與文化發(fā)展的重要意義。通過工業(yè)產(chǎn)能擴(kuò)張的推動(dòng)，鐵路塑造了當(dāng)時(shí)人們的商業(yè)思維、行為慣習(xí)和依賴。而在平臺中，人們的慣習(xí)與算法技術(shù)也存在著相互規(guī)訓(xùn)的關(guān)系。一方面，主體的慣習(xí)既在客觀結(jié)構(gòu)化的環(huán)境中生產(chǎn)，是對個(gè)體或集體的生活史身體化和內(nèi)在化；同時(shí)也會在既有的客觀實(shí)踐中主動(dòng)形成具體的創(chuàng)意性的慣習(xí)行動(dòng)，并在行動(dòng)中將慣習(xí)外在化。這意味著主體的慣習(xí)與特定的生活環(huán)境、教育程度、所在階層、社會經(jīng)驗(yàn)，以及成長環(huán)境密切相關(guān)，同時(shí)也會將這些歷史化的內(nèi)容外化在日常的行動(dòng)之中，表現(xiàn)為品味、喜好、消費(fèi)需求及生活風(fēng)格。當(dāng)進(jìn)入算法社會，既有的慣習(xí)會影響著個(gè)體在算法平臺的興趣偏好、群體認(rèn)同、消費(fèi)傾向等行為實(shí)踐。因慣習(xí)的差異，導(dǎo)致人們在算法社會形成不同的區(qū)隔和文化分層。其中，趣緣群體和粉絲圈層就是其中的外在表征之一。另一方面，人的慣習(xí)具有能動(dòng)性和生產(chǎn)性，它可以被新的客觀環(huán)境即場域所重新塑造。個(gè)體的既有慣習(xí)所產(chǎn)生的行為實(shí)踐，如點(diǎn)擊、分享、閱讀、搜索、購買等均被采集為數(shù)據(jù)，并建立數(shù)據(jù)庫。通過動(dòng)態(tài)的數(shù)據(jù)庫與靜態(tài)的個(gè)體人口學(xué)統(tǒng)計(jì)數(shù)據(jù)，算法在對個(gè)體進(jìn)行畫像的過程中，依靠算法自動(dòng)分析并預(yù)測和推薦新的內(nèi)容和消費(fèi)產(chǎn)品。

二、算法系統(tǒng)中的監(jiān)視與中介協(xié)調(diào)

在人與算法的關(guān)系中，算法的規(guī)訓(xùn)將個(gè)體塑造為馴順而有用的、符合平臺生產(chǎn)力需要的勞動(dòng)者；人則在規(guī)訓(xùn)過程中適應(yīng)算法的環(huán)境，并利用自身人力資本同時(shí)實(shí)現(xiàn)再技能化。然而，在對個(gè)體進(jìn)行規(guī)訓(xùn)之外，算法系統(tǒng)還通過超視距監(jiān)視、技術(shù)調(diào)節(jié)和時(shí)間控制等戰(zhàn)略來實(shí)現(xiàn)對人的治理。

1.算法系統(tǒng)的全景監(jiān)視與治理。數(shù)字社會因?qū)€(gè)人從時(shí)間和地點(diǎn)的限制中解放出來而被稱贊，但也被批評為將人重新引入了一種數(shù)據(jù)提取的監(jiān)控資本主義。身處其中的人們，工作時(shí)間和休閑時(shí)間、工作空間和休閑空間的邊界日益模糊，其生活、工作、消費(fèi)、娛樂，甚至是內(nèi)心世界，已經(jīng)變得數(shù)字化和算法化。算法系統(tǒng)，實(shí)施監(jiān)控的目標(biāo)是將現(xiàn)實(shí)總體化為數(shù)據(jù)顯示，始終可訪問、始終可知且可變，并通過大數(shù)據(jù)預(yù)測和影響人類行為以產(chǎn)生收入和市場的控制。今天的算法監(jiān)控資本主義的本質(zhì)是平臺企業(yè)與用戶之間商業(yè)關(guān)系的個(gè)性化調(diào)整。當(dāng)平臺被視為個(gè)人的、行為有機(jī)體的集合，那么算法就可以通過自動(dòng)化計(jì)算來大規(guī)模治理個(gè)性化的用戶，例如在營銷上可以快速調(diào)整產(chǎn)品格式、定價(jià)、內(nèi)容、渠道等。

算法社會，許多技術(shù)都可以遠(yuǎn)距離運(yùn)行，大多數(shù)人甚至不知道平臺和資本行為者進(jìn)行的大規(guī)模監(jiān)控。在這種監(jiān)視活動(dòng)中，人類所有的經(jīng)驗(yàn)都可以被稱為免費(fèi)的原材料，可以轉(zhuǎn)化為行為數(shù)據(jù)。隨著平臺公司尋求將人們生活的方方面面轉(zhuǎn)化為最具預(yù)測性的行為數(shù)據(jù)，這些監(jiān)控活動(dòng)的范圍和領(lǐng)域呈指數(shù)級增長。監(jiān)視資本主義的原則和實(shí)踐體現(xiàn)了算法治理的光譜邏輯，它從生活中抽象出來并將人們引導(dǎo)到經(jīng)濟(jì)循環(huán)中。

2.算法系統(tǒng)的中介協(xié)調(diào)。在算法系統(tǒng)中個(gè)體從登陸平臺那一刻開始就被數(shù)字化和代碼化，表現(xiàn)為分體和虛體。人們在算法平臺中活動(dòng)都需要由算法來中介協(xié)調(diào)，無論是需求、偏好、興趣，還是消費(fèi)檢索，都離不開算法的運(yùn)算。尤其在零工經(jīng)濟(jì)平臺中，通過算法中介方式管理和控制工作關(guān)系，包括分配任務(wù)和監(jiān)控各方之間的交流、任務(wù)的執(zhí)行等。

需要指出的是，在平臺中人與算法之間存在著信息和權(quán)力的不對稱。算法作為控制的中介系統(tǒng)，它的“黑匣子”特征決定了用戶無法了解算法控制運(yùn)作的關(guān)鍵信息和基本邏輯。用戶在使用的過程中，同樣無法訪問系統(tǒng)算法的核心架構(gòu)，更無從參與到算法程序之中。正是基于越來越不受控制的算法權(quán)力，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合有關(guān)部門發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，該規(guī)定要求算法推薦服務(wù)提供者要促進(jìn)算法應(yīng)用向上向善，充分體現(xiàn)了以人民為中心的發(fā)展思想，構(gòu)建負(fù)責(zé)任的平臺算法。

三、算法系統(tǒng)中人的自主性維度

在人與算法的關(guān)系中，人們應(yīng)該享有自主權(quán)，即人們在算法平臺中有對其各方面活動(dòng)或工作進(jìn)行自主控制的自由。然而算法的“黑匣子”式自動(dòng)計(jì)算以及無處不在的監(jiān)控，降低了人們的自主性。對此，研究者提出了“算法主動(dòng)主義”來抵消算法的控制，其中學(xué)者薩沃萊寧和魯肯斯坦提出了人與算法關(guān)系中的自主維度，即工具性和親密性。但在這兩個(gè)維度中缺乏了一個(gè)關(guān)鍵的部分，那就是參與算法系統(tǒng)中的行動(dòng)者的自我調(diào)適與抵抗。

1.充分利用算法的工具性。在抖音、美團(tuán)、快手等平臺中，它們均前所未有地以算法驅(qū)動(dòng)的體驗(yàn)為中心。在面對人與算法關(guān)系時(shí)，由于控制和支配的存在，選擇逃避或者拒絕使用平臺，那將會導(dǎo)致人們的學(xué)習(xí)、工作、生活和交往無法高質(zhì)量進(jìn)行，而且容易與數(shù)字化社會脫嵌和斷連?；诖?，人們需要思考應(yīng)該如何與算法系統(tǒng)一起生活，以及利用算法系統(tǒng)人們能做什么等。

回答這一系列問題，需要基于算法的可供性充分利用平臺的算法，發(fā)揮其工具性特征。對于算法設(shè)計(jì)者來說，需要走向以人為本的設(shè)計(jì)理念，發(fā)揮算法在社會各領(lǐng)域的積極作用。對于平臺使用者尤其是內(nèi)容平臺的創(chuàng)作者來說，算法是一個(gè)賦能工具。創(chuàng)作者可以利用這一工具屬性，實(shí)現(xiàn)在內(nèi)容平臺中工作的再技能化，發(fā)展出新的經(jīng)濟(jì)資本、文化資本和象征資本。例如，一批批返鄉(xiāng)青年利用短視頻平臺，以智能手機(jī)為新農(nóng)具，實(shí)現(xiàn)了在自我創(chuàng)業(yè)過程中帶動(dòng)當(dāng)?shù)剜l(xiāng)村致富。從工具性的維度上來說，自主性就體現(xiàn)為對平臺算法情境的掌握，鼓勵(lì)算法參與者合理設(shè)計(jì)與利用算法。尤其對于邊緣群體來說，算法的賦權(quán)和普惠機(jī)制，可以幫助他們在平臺重新獲得可見性，解決自身問題并充分激活創(chuàng)新能力，從而積累人力資本。

2.培養(yǎng)親密感擴(kuò)展社交關(guān)系。工具性突出了在算法實(shí)踐中的審慎、理想和目標(biāo)導(dǎo)向，進(jìn)而以符合人的需要的方式構(gòu)建個(gè)人自主與算法發(fā)展的框架。自主性的親密維度則強(qiáng)調(diào)了在算法實(shí)踐中個(gè)人的人格、情感和社會關(guān)系等層面，即通過平臺的算法與其他參與行動(dòng)者建立親密關(guān)系、獲得情感支持、尋求歸屬感以及拓展社交關(guān)系等。自主性的親密感維度，打破了日常生活中算法作為冷冰冰的技術(shù)程序和控制機(jī)器的認(rèn)知，解釋了算法也會產(chǎn)生和增強(qiáng)親密關(guān)系，為個(gè)體創(chuàng)造“傾聽”的“安全空間”。

抖音、快手等平臺短視頻和直播業(yè)務(wù)的發(fā)展，可以培養(yǎng)人的歸屬感和親密感，還可以促進(jìn)人們在媒介使用過程中獲得自我呈現(xiàn)的愉悅。此外，平臺提供的內(nèi)容貨幣化和產(chǎn)品營銷等功能，可以推動(dòng)用戶或創(chuàng)作者在獲得親密關(guān)系的過程中實(shí)現(xiàn)經(jīng)濟(jì)收益上的增加。從這個(gè)意義上來說，盡管平臺的算法監(jiān)控給用戶和創(chuàng)作者帶來權(quán)力的不平等，但在處理與算法的關(guān)系上更多是與用戶使用平臺的個(gè)人目的有關(guān)。對于一個(gè)普通用戶來說，對平臺算法應(yīng)該做什么或不應(yīng)該做什么的期望，構(gòu)建了他們?nèi)绾闻c平臺算法交互的基本感知。

3.通過自我調(diào)適和抵抗獲得自主性。在算法勞動(dòng)過程中，勞動(dòng)者采取“游戲”“灌水”“刷流量”“利用漏洞”等方式，進(jìn)化出“勞動(dòng)算法”等能動(dòng)性算法行動(dòng)主義尋求在控制中重新獲得自主權(quán)。例如，網(wǎng)約車司機(jī)在日常工作中用策略與系統(tǒng)進(jìn)行博弈，包括停用GPS抵制算法系統(tǒng)、用手投票切換到其他平臺、取消訂單以避免負(fù)面乘客的評分。這些研究發(fā)現(xiàn)表明，在算法加強(qiáng)對平臺使用者的算法控制過程中，人們也逐漸開始覺醒。

一方面，平臺使用者的評判性算法素養(yǎng)在提升，能夠從價(jià)值、監(jiān)視、話語修辭等角度了解算法功能以及這些功能對日常生活的影響；另一方面，平臺使用者算法意識不斷提高，逐漸認(rèn)識到算法系統(tǒng)現(xiàn)在作為數(shù)字基礎(chǔ)設(shè)施的一部分在社會各領(lǐng)域發(fā)揮著普遍的作用，深入了解其運(yùn)作流程及算法決策強(qiáng)制執(zhí)行的潛在破壞性；此外，平臺用戶在使用過程中并不總是算法被動(dòng)的觀察者和控制對象，他們越來越認(rèn)識到自己在塑造算法運(yùn)作中所扮演的角色，即算法提升或降級的價(jià)值是由算法與用戶之間復(fù)雜的相互作用形成的。平臺用戶在算法規(guī)訓(xùn)和控制過程中的覺醒，促使他們開始以政治、商業(yè)或娛樂的方式對算法進(jìn)行調(diào)試、干預(yù)和抵制。

四、結(jié)語

通常來說，算法構(gòu)成了支撐社會生活結(jié)構(gòu)“技術(shù)無意識”的一部分，其運(yùn)作的邏輯仍然是黑箱的和難以追蹤和質(zhì)疑的。這就導(dǎo)致在嵌入權(quán)力的算法系統(tǒng)中，人們難以通過傳統(tǒng)手段來對抗算法霸權(quán)，人們處于算法的規(guī)訓(xùn)和控制之下。對此，應(yīng)該重新檢查人與算法的關(guān)系，即明確一個(gè)觀念：與算法研究用戶行為以促進(jìn)商業(yè)利益一樣，用戶研究算法行為是為了促進(jìn)自己的利益。人們需要在算法治理中重新獲得自主性，要關(guān)注到抵制、顛覆和違反算法工作的實(shí)踐，鼓勵(lì)人們在了解算法、提升算法意識的基礎(chǔ)上，在實(shí)踐中利用算法基礎(chǔ)設(shè)施并塑造算法邏輯。

作者單位 華中科技大學(xué)

參考文獻(xiàn)

[1]藍(lán)江.從規(guī)訓(xùn)社會，到控制社會，再到算法社會——數(shù)字時(shí)代對德勒茲的《控制社會后記》的超-解讀[J].文化藝術(shù)研究，2021（04）.

[2]張萌.從規(guī)訓(xùn)到控制：算法社會的技術(shù)幽靈與底層戰(zhàn)術(shù)[J].國際新聞界，2022（01）.

[3]Mcguigan， L.， Manzerolle， V. “all the worlds a shopping cart”： theorizing the political economy of ubiquitous media and markets[J].New Media & Society，2015（17）.

[4]Savolainen，L.，Ruckenstein， M. Dimensions of autonomy in human-algorithm relations[J].New Media & Society，2022（06）.

【編輯：朱垚穎】