從規(guī)訓(xùn)到控制：算法社會(huì)的技術(shù)幽靈與底層戰(zhàn)術(shù)

文/張萌

我們現(xiàn)在生活的世界，算法越來(lái)越多地參與到重要決定的裁決中。當(dāng)學(xué)者們?cè)谡務(wù)撍惴ㄈ绾稳?gòu)建和實(shí)施權(quán)力和知識(shí)制度時(shí)，將其視為一種引誘、脅迫、約束、調(diào)節(jié)、控制的方式去重塑人、物體與各種系統(tǒng)的互動(dòng)，面對(duì)強(qiáng)大的技術(shù)控制，個(gè)體的能動(dòng)性似乎變得無(wú)足輕重，成了被算法馴化的對(duì)象，公眾被忽視了。事實(shí)上，個(gè)體的能動(dòng)性（agency）是一種積極地適應(yīng)、協(xié)商、參與社會(huì)規(guī)范的互動(dòng)，這種參與如何作用于技術(shù)規(guī)范是值得思考的問(wèn)題。但是，對(duì)個(gè)體力量的過(guò)度肯定則又將算法與用戶(hù)從宏觀(guān)的社會(huì)經(jīng)濟(jì)、技術(shù)背景中剝離，而現(xiàn)實(shí)中個(gè)體很難成為贏家。本研究將批判性和經(jīng)驗(yàn)性的注意力集中于算法受眾的抵抗戰(zhàn)術(shù)上，并將受眾戰(zhàn)術(shù)置于更廣泛的社會(huì)技術(shù)背景（控制社會(huì)）與宏觀(guān)的算法戰(zhàn)略部署中去探討。

算法生產(chǎn)的控制戰(zhàn)略

（一）算法社會(huì)自由幻象的搭建：重預(yù)測(cè)、弱空間、強(qiáng)分體

算法進(jìn)入了我們的生活，幫助我們看到和感知可能錯(cuò)過(guò)的意義世界，為我們帶來(lái)了“便捷”，這種自由世界的搭建，得益于算法強(qiáng)大的生產(chǎn)戰(zhàn)略。

1.從等級(jí)觀(guān)察到數(shù)字化預(yù)測(cè)

算法社會(huì)，規(guī)訓(xùn)時(shí)期的等級(jí)觀(guān)察逐漸瓦解，數(shù)字化模擬和計(jì)算褪去了強(qiáng)制的外衣，算法通過(guò)數(shù)字化模擬的手段，實(shí)現(xiàn)對(duì)被試者的觀(guān)察。這種觀(guān)察形式往往在后臺(tái)完成，沒(méi)有明顯的組織形式，被觀(guān)察者甚至很難察覺(jué)。算法的觀(guān)察模式還表現(xiàn)為“先發(fā)制人”。規(guī)訓(xùn)社會(huì)的觀(guān)察往往是對(duì)當(dāng)下以及過(guò)去時(shí)間的觀(guān)察，而控制社會(huì)則是對(duì)當(dāng)下及事件發(fā)生前的觀(guān)察，算法通過(guò)獲取用戶(hù)信息，以此為依據(jù)來(lái)激發(fā)事件，預(yù)測(cè)用戶(hù)的偏好與行為。算法的觀(guān)察模式不是關(guān)注空間中的物體，而是那些特定的能夠反映用戶(hù)行為的代碼。因此，規(guī)訓(xùn)社會(huì)關(guān)注可見(jiàn)與不可見(jiàn)，控制社會(huì)則對(duì)被觀(guān)察者的欲望、需求和意圖更感興趣。

2.從空間劃分到時(shí)間填充

算法社會(huì)第二個(gè)生產(chǎn)戰(zhàn)略體現(xiàn)在空間的弱化，行動(dòng)越來(lái)越具有流動(dòng)性。算法社會(huì)施加控制的工具是信息機(jī)器，促使代碼空間的流動(dòng)更加有序化、合理化，空間邊界被打破融合成為一個(gè)無(wú)邊的網(wǎng)絡(luò)，機(jī)構(gòu)之間的分界消失。在這種社會(huì)形態(tài)中，越來(lái)越多的具有明確起點(diǎn)和終點(diǎn)的片段被常規(guī)訓(xùn)練所取代，所有的主體時(shí)間成為同時(shí)受到各種形式訓(xùn)練的大片段。脫離了透視空間，算法投射到電子屏幕，個(gè)人需求被24小時(shí)地過(guò)問(wèn)與滿(mǎn)足，用戶(hù)不僅獲取了幾代人積累的知識(shí)與智慧，更是從有限的屏幕中獲得無(wú)限的空間和時(shí)間。算法社會(huì)，空間的區(qū)隔變成了“時(shí)間的填充”。

3.從普遍的個(gè)體到特殊的分體

算法對(duì)主體身份的生產(chǎn)產(chǎn)生了直接的影響。知識(shí)生產(chǎn)與消費(fèi)進(jìn)一步進(jìn)入人們的日常生活，使得規(guī)訓(xùn)社會(huì)普遍的個(gè)體，在今天逐漸成了德勒茲所說(shuō)的分體（dividuality）。個(gè)體（individual）與分體的區(qū)別體現(xiàn)在目標(biāo)的差異。規(guī)訓(xùn)“制造”（make）個(gè)體，將個(gè)人視為對(duì)象與運(yùn)轉(zhuǎn)工具，而算法的調(diào)制模式并非要實(shí)現(xiàn)對(duì)個(gè)體的管理，而是更多地參與流動(dòng)的產(chǎn)生和預(yù)期，因此，算法不關(guān)心“有用個(gè)體”的產(chǎn)生，而是更關(guān)注流動(dòng)的信息是否符合了每一個(gè)特殊分體的自身特點(diǎn)，這也是算法為什么熱衷于為我們提供“個(gè)性化服務(wù)”的原因。

（二）新弱者困境：自由與奴役的交鋒

數(shù)字技術(shù)的豐盈與信息的豐富遠(yuǎn)不會(huì)取消政治，相反會(huì)催生新領(lǐng)域的政治斗爭(zhēng)。

1.“風(fēng)口上的豬”：算法背后的技術(shù)政治

資本和權(quán)力的運(yùn)作最終決定了哪些技術(shù)可以廣泛進(jìn)入社會(huì)生活的領(lǐng)域，而哪些則不能，個(gè)人被看作是算法網(wǎng)絡(luò)中的監(jiān)視對(duì)象，這是算法政治的第一層面。算法技術(shù)普及后，其生產(chǎn)戰(zhàn)略又再次決定了哪些東西可以進(jìn)入我們的視野，哪些則被否定，技術(shù)被賦予了政治屬性——“誰(shuí)在內(nèi)還是外，誰(shuí)可以說(shuō)話(huà)而誰(shuí)又不可以說(shuō)，誰(shuí)擁有權(quán)威而可能會(huì)被相信”，一切都開(kāi)始取決于傳播技術(shù)，技術(shù)看到了并且可能會(huì)放大一些人與其他人一樣或不一樣的東西，這構(gòu)成了算法政治的第二層含義。個(gè)人無(wú)法從根本上左右充斥于自身周邊的技術(shù)走向，同時(shí)個(gè)人用戶(hù)也無(wú)法真正體驗(yàn)到算法在確定一個(gè)人生命中所產(chǎn)生的影響，因?yàn)樗惴ê苌倥c個(gè)人交談。

2.來(lái)自算法的窺視：排序、推薦與排除

技術(shù)對(duì)注意力的分配起到了至關(guān)重要的作用。算法通過(guò)排序、類(lèi)別關(guān)聯(lián)等技術(shù)手段，決定了將什么樣的內(nèi)容呈現(xiàn)在用戶(hù)面前。原本不在日常生活范圍的東西借助算法推薦進(jìn)入人們視野，而那些未被算法選中的東西，則被排除在外。它通過(guò)排序、可見(jiàn)、排除等實(shí)際操作決定了哪些信息作為一種知識(shí)文本向公眾展示世界，影響著事物的可信度、社會(huì)權(quán)威以及隨之而來(lái)的未來(lái)發(fā)展，影響社會(huì)性和技術(shù)性知識(shí)的話(huà)語(yǔ)和文化。

算法看似為分體的發(fā)展打造了個(gè)性化、獨(dú)立化的專(zhuān)屬內(nèi)容與服務(wù)，但其實(shí)質(zhì)是用一套極其單一的標(biāo)準(zhǔn)代碼在征服著世界，它所要實(shí)現(xiàn)的核心非常明確，通過(guò)代碼操作信息的可見(jiàn)范圍，將用戶(hù)需求精準(zhǔn)置入代碼運(yùn)算中，通過(guò)這樣的方式將游離在外的用戶(hù)需求納入算法程序，最大范圍地取消偏離常規(guī)的民間實(shí)踐，用戶(hù)仍然沒(méi)有真正屬于自己的空間。某些代碼和界面功能的設(shè)置為了更有效地迎合用戶(hù)需求，而選擇某一種形式確定下來(lái)，并非基于用戶(hù)變動(dòng)的、不可預(yù)測(cè)的消費(fèi)實(shí)踐提供一種開(kāi)放的、未完成的使用狀態(tài)。用戶(hù)面對(duì)算法，始終缺乏一種對(duì)等的自治能力，只能適應(yīng)被算法按照既定規(guī)則來(lái)進(jìn)行服務(wù)。

3.被隱藏的強(qiáng)制：不得不交付的用戶(hù)自由

德勒茲說(shuō)：“不必問(wèn)哪種制度最殘酷，或是最可容忍，因?yàn)樵诿糠N制度中，自由與奴役都在交鋒。”算法用戶(hù)享受便利的同時(shí)，也在交付自己的某些自由。

（1）被強(qiáng)迫的體驗(yàn)和創(chuàng)造。一方面，參與算法實(shí)踐的用戶(hù)越多，其服務(wù)越全面、越體貼到位，技術(shù)授權(quán)就越突出，個(gè)體被算法實(shí)踐裹挾，不得不參與其中，因?yàn)椤澳磉叺呐笥讯荚谶@么做”“您也必須這么使用”。算法的技術(shù)包容與技術(shù)友好遮蓋了其對(duì)替代選擇的消除與排斥，個(gè)人可以做的選擇越來(lái)越少，到最后，除了接受算法服務(wù)，別無(wú)他選。參與文化中的權(quán)威并不是通過(guò)威脅將我們驅(qū)逐出網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)的，而是通過(guò)使其“難以抵制、盡早參與”來(lái)運(yùn)作的。

（2）獲取使用的同時(shí)交出行為數(shù)據(jù)。算法平臺(tái)不僅內(nèi)含一種獎(jiǎng)勵(lì)制度，還包括一種懲罰制度，對(duì)使用條款的共識(shí)性接受將得到獎(jiǎng)勵(lì)，拒絕接受使用條款將無(wú)法體驗(yàn)由技術(shù)帶來(lái)的便利與普惠。于是，算法的技術(shù)包容建立了一套新的霸權(quán)秩序，不遵守條約或者拒絕按照平臺(tái)規(guī)則來(lái)運(yùn)作，個(gè)人便無(wú)法瀏覽網(wǎng)站或購(gòu)買(mǎi)商品。規(guī)訓(xùn)機(jī)器中，受試者可以意識(shí)到被觀(guān)察的可能性，而數(shù)字時(shí)代人們好像對(duì)自己是否被觀(guān)察并不關(guān)心，對(duì)于自己的行為數(shù)據(jù)，覺(jué)得他們沒(méi)有什么可以隱瞞的。沒(méi)人會(huì)過(guò)于“計(jì)較”自己是否被隱性強(qiáng)制，以此避免被主流技術(shù)話(huà)語(yǔ)邊緣化，為抵御因?yàn)榫芙^就使用條款達(dá)成共識(shí)所帶來(lái)的風(fēng)險(xiǎn)，個(gè)體心甘情愿地被技術(shù)征服。

（3）算法黑箱滲透著利益考量與文化霸權(quán)。算法背后難免存在著對(duì)人的隱晦或者公開(kāi)的歧視。“X=男性”這樣的代碼設(shè)置完成的不僅是一個(gè)劃界動(dòng)作，更是一種文化話(huà)語(yǔ)。正如亞馬遜AI簡(jiǎn)歷篩選過(guò)程中對(duì)那些明顯具有女性標(biāo)簽（如“女子象棋俱樂(lè)部”“女子高中”等）的求職者打低分那樣，算法背后難免滲透著利益的考量與文化霸權(quán)。在我國(guó)也存在用戶(hù)歧視現(xiàn)象，例如“大數(shù)據(jù)殺熟”。殺熟不僅是商戶(hù)的營(yíng)銷(xiāo)手段，更是平臺(tái)追逐高額利潤(rùn)的戰(zhàn)略，資本通過(guò)算法實(shí)現(xiàn)對(duì)社會(huì)的實(shí)質(zhì)性吸納，并對(duì)個(gè)體區(qū)別化對(duì)待。算法技術(shù)不僅是人們彰顯個(gè)性的工具，更成了組織俘獲個(gè)人的手段，受眾不得不承受算法可能帶來(lái)的負(fù)面后果。

弱者的逃逸：抵抗即參與

（一）算法受眾的幾種抵抗戰(zhàn)術(shù)

當(dāng)占據(jù)主導(dǎo)地位的生產(chǎn)系統(tǒng)沒(méi)有為消費(fèi)者留有足夠的自由空間，或者，當(dāng)既定秩序無(wú)法滿(mǎn)足消費(fèi)者的自身利益時(shí)，便會(huì)激發(fā)受眾積極創(chuàng)造，以此參與算法控制的社會(huì)再生產(chǎn)。

1.對(duì)算法產(chǎn)品的空間隔絕

拒絕下載、拒絕點(diǎn)開(kāi)、快速劃走、卸載成了算法受眾對(duì)算法產(chǎn)品最常用的隔絕行動(dòng)機(jī)制。逃避是弱勢(shì)群體經(jīng)常使用的一種武器，這種逃避是一種主動(dòng)選擇的結(jié)果。下層零散的抵抗行為很少進(jìn)入歷史進(jìn)程的記載，但當(dāng)這種底層抵抗被千萬(wàn)次的重復(fù)累加時(shí)，就會(huì)對(duì)整個(gè)技術(shù)社會(huì)產(chǎn)生決定性影響。當(dāng)然，對(duì)算法的反思并不總是以個(gè)體為中心的，在我國(guó)，個(gè)體伴隨著政府的力量可能會(huì)成為“算法之上的我們”，以一種集體分析和集體反思的方式制定規(guī)則。

2.對(duì)算法規(guī)則的自我重組

當(dāng)算法推薦與受眾需求出現(xiàn)匹配斷裂時(shí)，用戶(hù)會(huì)重新將算法產(chǎn)品組織成自己喜歡的形式，在重組中獲得權(quán)力。受眾對(duì)算法規(guī)則的重組是一種非正式的實(shí)踐，是在不改變算法空間規(guī)則的前提下展開(kāi)的，就像德塞托所描述的閱讀中的讀者一樣：“讀者并不奪取原作者的位置，也不為自己謀取一個(gè)作者的位置”，只不過(guò)受眾對(duì)使用規(guī)則的重組創(chuàng)造了算法文本“本來(lái)意圖”之外的東西。

3.對(duì)算法規(guī)則的主動(dòng)嵌入

算法受眾還會(huì)將自己的謀略主動(dòng)嵌入到算法規(guī)則中。例如，在今日頭條和微博中設(shè)置自己感興趣的話(huà)題；在百度地圖中將路線(xiàn)偏好設(shè)置為“躲避擁堵”；點(diǎn)擊頁(yè)面右上角的“×”，對(duì)一些不感興趣的內(nèi)容選擇“不感興趣”，或者對(duì)一些賬號(hào)“取消關(guān)注”“投訴”，對(duì)另一些內(nèi)容選擇“收藏”或者“點(diǎn)贊”。用戶(hù)的自主設(shè)置完成了平臺(tái)內(nèi)容的“自我定制化”，與個(gè)性化不同，定制化（customization）被定位為用戶(hù)明確參與更改產(chǎn)品的過(guò)程，是更高一級(jí)的個(gè)性化，因?yàn)樗擞脩?hù)的參與在其中。但需要注意的是，即便用戶(hù)選擇點(diǎn)擊“叉號(hào)”拒絕算法推薦，也屬于一種參與，因?yàn)辄c(diǎn)擊“不感興趣”這一操作本身就意味著后臺(tái)數(shù)據(jù)的生產(chǎn)，這不是避開(kāi)了算法對(duì)我們的追蹤，而是產(chǎn)生了更多的數(shù)據(jù)信息讓算法更準(zhǔn)確。某種程度上，算法實(shí)踐是一種收縮的、越來(lái)越精細(xì)化的內(nèi)卷過(guò)程。

4.對(duì)算法邏輯的反向規(guī)訓(xùn)與控制

受眾對(duì)算法邏輯的參與最深的層次是故意將自己的偏好、興趣投喂給算法以實(shí)現(xiàn)對(duì)算法的反控制和反規(guī)訓(xùn)，這種反噬意味著受眾努力將主觀(guān)意圖凌駕于機(jī)器意圖之上。常見(jiàn)的反向誘導(dǎo)方式是給予不喜歡的內(nèi)容以較高的“觀(guān)看完成度”。受訪(fǎng)者YL是一個(gè)互聯(lián)網(wǎng)公司的算法工程師，日常生活中，他具有用戶(hù)和算法開(kāi)發(fā)者雙重身份，由于不想被算法過(guò)多“算計(jì)”，他主動(dòng)對(duì)內(nèi)容產(chǎn)品進(jìn)行引導(dǎo)：“在各個(gè)平臺(tái)，不管是什么我都會(huì)關(guān)注，所以給我的推薦是不可能準(zhǔn)確的。它越不準(zhǔn)確，我反而會(huì)越高興，我不希望算法過(guò)于精準(zhǔn)，那樣會(huì)把信息收得很窄?！保?8YL-M-程序員）YL雖比非專(zhuān)業(yè)人士有著更大的算法覺(jué)悟，但依舊只是通過(guò)對(duì)算法產(chǎn)品的使用來(lái)凸顯自己，而非產(chǎn)品本身。

（二）控制社會(huì)與規(guī)訓(xùn)社會(huì)的底層戰(zhàn)術(shù)比較

德塞托關(guān)于戰(zhàn)術(shù)與戰(zhàn)略的區(qū)分在地點(diǎn)與空間、不可見(jiàn)性的關(guān)系性描述方面，仍然適用于算法社會(huì)。但是，規(guī)訓(xùn)社會(huì)受眾戰(zhàn)術(shù)最主要的特點(diǎn)——“可偏離性”——卻在控制社會(huì)發(fā)生了實(shí)質(zhì)性改變。規(guī)訓(xùn)時(shí)期，受眾抵抗戰(zhàn)術(shù)的可偏離性意味著戰(zhàn)術(shù)實(shí)踐者并不總是按照生產(chǎn)者的意圖進(jìn)行消費(fèi)，他們更像是戰(zhàn)略空間中的游牧人，在閱讀、購(gòu)物、烹飪、交通、居住等各領(lǐng)域中，公眾漸漸偏離了強(qiáng)者建立的秩序，通過(guò)自己的詭計(jì)與計(jì)謀進(jìn)行持久的抵抗，實(shí)現(xiàn)令人驚喜而富有詩(shī)意的新畫(huà)面。而算法社會(huì)，個(gè)體的抵抗戰(zhàn)術(shù)是控制社會(huì)背景下數(shù)字參與的一部分，沒(méi)有絕對(duì)的偏離，任何偏離都是一種新形式的參與，是另一種形式的鏈接。算法延展了個(gè)體社會(huì)參與的手段，并以這種參與作為提升算法預(yù)測(cè)力的依據(jù)，最終算法通過(guò)一種潛移默化的方式將用戶(hù)進(jìn)一步鎖定在平臺(tái)提供的服務(wù)與規(guī)則中，在參與的過(guò)程中，個(gè)體被技術(shù)征服、定義和重塑，算法通過(guò)授予參與者一定的主體性和能動(dòng)性將其綁定，并給予參與者一種更加社交的幻覺(jué)，用戶(hù)自以為聰明的抵抗實(shí)質(zhì)上變成了一種自我強(qiáng)化的不平等。

結(jié)語(yǔ)：作為實(shí)踐的算法代碼與人的技術(shù)存在

我們所在的時(shí)代是這樣一個(gè)時(shí)代——一個(gè)時(shí)代造就了我們，我們?cè)炀土藱C(jī)器，機(jī)器造就了我們的時(shí)代。算法受眾將隱私、行為數(shù)據(jù)、個(gè)人信息交付給了算法來(lái)?yè)Q取線(xiàn)上服務(wù)的享受，將如何定義我們身份的所有權(quán)讓渡給了算法。算法的控制體現(xiàn)在越來(lái)越多的個(gè)體被捕獲，并且由算法來(lái)決定分配給用戶(hù)的代碼以及用戶(hù)生成的代碼。對(duì)于算法的存在人們似乎越來(lái)越習(xí)以為常，人們不會(huì)去關(guān)注算法呈現(xiàn)的世界是否“真實(shí)”，而是更加關(guān)注算法推薦是否提高了性能。界面中的“技術(shù)友好”掩蓋了背后的代碼操作，同時(shí)使得各種事物在每天的城市生活中變得熟悉而固定，變得可見(jiàn)或被賦予可見(jiàn)性成為一場(chǎng)極具競(jìng)爭(zhēng)力的權(quán)力游戲，代碼不再是一種數(shù)字符號(hào)，而是通過(guò)一定的操作來(lái)實(shí)現(xiàn)特定目的的具體實(shí)踐，成了從屬于整個(gè)社會(huì)體系的文化對(duì)象。

算法在增加個(gè)體自我社會(huì)參與意愿的同時(shí)，加深了數(shù)字世界的不平等，個(gè)體參與得越多，產(chǎn)生的不平等和差異就會(huì)越深。算法如同幽靈一般，緊緊將人們捆綁在代碼編織的數(shù)字空間中，無(wú)法掙脫，并通過(guò)技術(shù)包容實(shí)施著一種“友好暴力”（friendly violence），受眾的抵抗只是一種無(wú)奈的妥協(xié)，偏離成為一種奢望。真正開(kāi)放性的算法應(yīng)打破既有的平臺(tái)規(guī)則，承載更多用戶(hù)自己的含義、理解與定義，不僅強(qiáng)調(diào)算法帶給人們什么，更強(qiáng)調(diào)用戶(hù)帶來(lái)了什么。