智媒時(shí)代“算法囚徒”的風(fēng)險(xiǎn)及其治理路徑研究

王寅輝 張晨

摘要：隨著人工智能的發(fā)展，大數(shù)據(jù)與算法已滲透到人們生活的各個方面，從便利性的角度而言，它為人們的生活創(chuàng)造了進(jìn)行信息篩選的便捷條件；但從另一個角度來說，算法使得大眾獲取信息質(zhì)量的差距變得越來越大，人對自身的社會定位與走向也會間接受到禁錮，面臨著成為“算法囚徒”的風(fēng)險(xiǎn)。對此，文章采用文獻(xiàn)資料法，從大眾的認(rèn)知、判斷與決策被圍困，勞動被操控，隱私被消解這三個方面展開論述，在正確認(rèn)識算法社會本質(zhì)的基礎(chǔ)上，分析算法社會存在的“囚徒”風(fēng)險(xiǎn)，得出規(guī)避算法風(fēng)險(xiǎn)的具體路徑。文章旨在更好地應(yīng)對算法社會中存在的挑戰(zhàn)，為人們認(rèn)識算法社會提供一個新的思路與視角，以此促進(jìn)數(shù)據(jù)算法向更好、更綠色的方向發(fā)展，為人們打造風(fēng)清氣朗的網(wǎng)絡(luò)空間，也使算法與數(shù)據(jù)為受眾提供更健康的系統(tǒng)服務(wù)。

關(guān)鍵詞：智媒時(shí)代；算法社會；“算法囚徒”；囚徒風(fēng)險(xiǎn)；算法治理路徑

中圖分類號：TP301.6 文獻(xiàn)標(biāo)志碼：A 文章編號：1674-8883（2022）17-0001-03

一、引言

互聯(lián)網(wǎng)作為一種新興技術(shù)，其出現(xiàn)使受眾在信息獲取層面發(fā)生了翻天覆地的變化；在生活層面，人們利用互聯(lián)網(wǎng)技術(shù)的直接鏈接性，產(chǎn)生了線上支付、網(wǎng)上購物等便捷的生活方式。這些借助算法與數(shù)據(jù)產(chǎn)生的新的生活方式，慢慢由影響受眾個體生活的表層轉(zhuǎn)變?yōu)橹鸩綕B透到社會運(yùn)作的方方面面，例如“信息繭房”、不同系統(tǒng)的手機(jī)上打車價(jià)錢不統(tǒng)一、大數(shù)據(jù)殺熟等現(xiàn)象，已經(jīng)屢次引起公眾注意。究其本質(zhì)而言，這些事件的背后無一不與算法的運(yùn)作直接掛鉤。數(shù)字化時(shí)代形成的算法系統(tǒng)已潛移默化地將觸角延伸到大眾生活的各個角落，因此深入了解算法社會本質(zhì)及其操作調(diào)控所形成的影響具有重要的意義。

當(dāng)前，算法已經(jīng)成為各項(xiàng)新興技術(shù)研發(fā)與成型的血脈，沒有算法的介入，智能技術(shù)便失去了發(fā)展的地基，與時(shí)代發(fā)展潮流相逆。英國文化研究學(xué)者西爾弗斯通認(rèn)為，對技術(shù)的使用是一種馴化的過程，人與技術(shù)兩者是相互建構(gòu)、相互塑造、再造以及相互改變的。數(shù)據(jù)與算法由人創(chuàng)造，給人的生產(chǎn)與生活帶來構(gòu)架上的變革，自然也能反向影響人們的生活規(guī)律，其中最為突出的表現(xiàn)便是帶來了人工智能時(shí)代深刻的“算法焦慮”，甚至對用戶進(jìn)行了更深層次的馴化[1]。大眾生活的各個領(lǐng)域已經(jīng)呈現(xiàn)出算法是其運(yùn)作的基礎(chǔ)，人們在享受算法帶來的便利的同時(shí)，也必須正視其帶來的風(fēng)險(xiǎn)與挑戰(zhàn)。算法是否會使人們對信息的思考與行動變得狹隘，是否會使人們陷入“囚徒”的陷阱，這都是目前需要正視的風(fēng)險(xiǎn)問題。基于此，本文試圖在現(xiàn)有研究成果的基礎(chǔ)上，探究智媒時(shí)代人們被算法圍困的風(fēng)險(xiǎn)，并提出相應(yīng)的對抗風(fēng)險(xiǎn)的基本建設(shè)建議。

二、“算法囚徒”帶來的風(fēng)險(xiǎn)

（一）認(rèn)知、判斷與決策的圍困風(fēng)險(xiǎn)

在互聯(lián)網(wǎng)提供的海量信息空間里，信息充斥在人們生活與工作的各個領(lǐng)域。面對由個體組成的大眾，滿足個人的個性化信息需求成為當(dāng)下各大信息提供者追求的目標(biāo)。針對現(xiàn)代信息社會這一典型特征，算法技術(shù)借助信息內(nèi)容個性化推送的形式呈現(xiàn)出來。這種個性化推送在滿足大眾信息需求、提供一對一服務(wù)的過程中，也逐步限制了大眾接收信息的范圍與種類，使大眾沉浸在自己所喜愛的信息海洋中，進(jìn)行自我麻醉，放任自我淹沒在表層信息和通俗化娛樂之中，把一些具有實(shí)際效用、繁雜、需要思考的信息拒之門外，從而生活在由自身與算法構(gòu)建的“信息繭房”中，降低人們對信息的敏銳度，容易使個人在認(rèn)知新事物的基礎(chǔ)階段受到阻礙，逐步弱化思考能力。對此，韓炳哲認(rèn)為，一個因熟悉事物組成的世界是一個再無新知可學(xué)的世界。個性化發(fā)展到極致，就可能會改變?nèi)藗儗κ澜绾妥约旱恼J(rèn)知。這也是數(shù)字化的全聯(lián)網(wǎng)和全交際并未使人們更容易遇見他者的原因[2]。

個性化推送看似為人們在超載的信息流中獲取有效信息提供過濾服務(wù)，進(jìn)一步提升了信息處理效率，但從另一方面來看，它在一定程度上也使人們被個性化服務(wù)“牽著鼻子走”，在已熟知的世界中不斷循環(huán)往復(fù)，無法注入新知。與此同時(shí)，大眾在不斷被單一化的、同性質(zhì)的場域中進(jìn)行談?wù)?，差異化的提議被視為異己，沉默于統(tǒng)一的個性化環(huán)境里，使得正確、系統(tǒng)的判斷難以形成?，F(xiàn)代信息環(huán)境所倡導(dǎo)的信息自由，無疑是希望通過信息的自由流動促成不同層次人群之間的信息連接，促進(jìn)各類型的場域之間進(jìn)行對話交流。因此，數(shù)據(jù)與算法的應(yīng)用不應(yīng)陷入某一層面的極端服務(wù)，要保持向個性化與社會整合的雙重目標(biāo)同時(shí)前進(jìn)的步調(diào)[3]。

算法技術(shù)的應(yīng)用不僅會影響大眾對信息的認(rèn)知與判斷，同時(shí)其影響也深刻地體現(xiàn)在一些行業(yè)的決策當(dāng)中。在內(nèi)容生產(chǎn)方面，算法通過計(jì)算得出的排行榜、熱搜榜等榜單在某種意義上決定了內(nèi)容生產(chǎn)者未來的生產(chǎn)方向和相關(guān)主題[4]。伴隨著算法技術(shù)的不斷發(fā)展，在就業(yè)、生產(chǎn)與消費(fèi)等領(lǐng)域的重要決策都可能會受到算法的影響。

從認(rèn)知、行為與判斷這三個層面來看，算法是一把“雙刃劍”，一方面，它能夠立足于過去，對現(xiàn)在以及未來的需求進(jìn)行數(shù)據(jù)性分析，提供最優(yōu)質(zhì)的服務(wù)；另一方面，算法能夠提供多大程度的便捷，便會促使大眾出現(xiàn)相應(yīng)程度的惰性與禁錮。由此，大眾便會逐步困于算法陷阱當(dāng)中，弱化自身思考的能動性，無法真正勘破存在于屏幕背后的算法規(guī)則，進(jìn)而淪為算法的“囚徒”。

（二）勞動的被操縱風(fēng)險(xiǎn)

數(shù)字經(jīng)濟(jì)的發(fā)展帶動經(jīng)濟(jì)社會發(fā)生了一系列的變化，伴隨數(shù)字技術(shù)在各個領(lǐng)域的廣泛應(yīng)用，數(shù)字勞動作為一種新型勞動形式應(yīng)運(yùn)而生。人們被日益量化的評價(jià)機(jī)制捆綁，如外賣平臺利用送餐時(shí)間、顧客滿意度等束縛外賣騎手逐漸陷入對自我的規(guī)訓(xùn)，收集與分析騎手?jǐn)?shù)據(jù)，并將結(jié)果反作用于騎手以形成勞動秩序[5]。由此可見，平臺算法在對數(shù)字勞動群體的影響中也扮演了重要的角色。算法不僅局限于勞動層面，平臺利用算法機(jī)制要求外賣員必須以良好的服務(wù)態(tài)度來凸顯消費(fèi)者的地位，并將評價(jià)決策權(quán)交到了消費(fèi)者手中，使外賣員隨時(shí)面臨被監(jiān)管、被投訴的可能，進(jìn)一步實(shí)現(xiàn)對其勞動的規(guī)訓(xùn)[6]。

消費(fèi)者看似擁有了至高無上的“權(quán)力”，實(shí)際上是將平臺與騎手之間的矛盾悄無聲息地轉(zhuǎn)嫁到用戶與騎手之間[7]，這一點(diǎn)從近些年頻頻出現(xiàn)的外賣員由于害怕超時(shí)被打差評而出現(xiàn)意外的各種案例中就可以看出，平臺挑起了矛盾卻躲在背后，讓外賣員與消費(fèi)者承擔(dān)后果。與傳統(tǒng)勞動相比，數(shù)字勞動的克扣更加隱蔽，它更傾向于在不施加任何外力壓迫的情況下實(shí)現(xiàn)勞動者自己對自我的不斷規(guī)訓(xùn)。

作為一種新型勞動形式，數(shù)字勞動不像傳統(tǒng)勞動那么具體，它沒有實(shí)際的形狀和感覺，因而不易察覺。在功績社會中，功績主體處于一種強(qiáng)制的自由狀態(tài)，自由與約束同時(shí)體現(xiàn)在他們身上。因此，數(shù)字勞動的異化在所難免。勞動異化的過程也就是勞動者實(shí)現(xiàn)對自我的規(guī)訓(xùn)、逐漸喪失主體地位的過程。如近些年常常聽到的一個熱詞“內(nèi)卷”，在超訓(xùn)社會中人們以一種過度積極的狀態(tài)投入歇斯底里的工作之中，勞動主體既是“主人”也是普通勞動者，因此，在沒有外界刺激的情況下，人們也能照常進(jìn)行規(guī)訓(xùn)。

在抖音、快手等短視頻平臺，算法通過點(diǎn)贊、轉(zhuǎn)發(fā)量來激勵用戶進(jìn)行內(nèi)容生產(chǎn)，并把這些數(shù)據(jù)納入量化評價(jià)體系，無形之中實(shí)現(xiàn)了對用戶的規(guī)訓(xùn)。最初用戶是在閑暇之余，在分享欲的推動下進(jìn)行內(nèi)容生產(chǎn)，而后在平臺算法的規(guī)訓(xùn)下，內(nèi)容生產(chǎn)者在各種榜單數(shù)據(jù)、流量的刺激下不斷進(jìn)行更新創(chuàng)作，娛樂時(shí)間與工作時(shí)間難以區(qū)分，這也是數(shù)字勞動的一個顯著特點(diǎn)。進(jìn)入超資本主義時(shí)代后，資本家不再通過強(qiáng)制手段剝削勞動者，而是采用一種更加隱蔽的方式讓他們主動將個人休閑時(shí)間異化為資本積累的時(shí)間。

由此可見，勞動者并沒有從過去的資本壓力中解放，算法只是將其隱藏在平臺背后，并且較之前的程度更甚。勞動者被算法制定的評價(jià)機(jī)制束縛，真正成為一個“勞動‘囚徒”。

（三）隱私的消解風(fēng)險(xiǎn)

大數(shù)據(jù)時(shí)代，人們生活的各個細(xì)節(jié)都處于平臺算法的計(jì)算之中，這帶來的一個重要影響便是個體喪失了主體判斷與選擇的權(quán)力和能力，逐步淪為數(shù)據(jù)算法的“奴隸”。隨著手機(jī)等移動終端設(shè)備的普及，人們可以隨時(shí)隨地分享個人觀點(diǎn)及日常生活，于是對個人隱私泄露問題的關(guān)注度日益上升。在人們追求個性化的需求之下，平臺算法不斷迭代更新，與此相關(guān)的竊取個人數(shù)據(jù)隱私的手段越來越隱蔽，個體在獲得個性化體驗(yàn)的同時(shí)也面臨一定的隱私消解風(fēng)險(xiǎn)。在央視3·15晚會上，大量有關(guān)網(wǎng)絡(luò)安全隱私的問題被曝光，如智聯(lián)招聘、獵聘等招聘平臺并未采取有效手段保護(hù)求職者的個人信息，導(dǎo)致大量簡歷流入不法分子手中，這些侵權(quán)問題的背后暴露出的是商業(yè)平臺運(yùn)行的霸權(quán)邏輯，而這套邏輯之所以成立，或許與現(xiàn)代人的全面數(shù)字化有關(guān)。

一般來說，平臺收集的“用戶數(shù)據(jù)”是指“人”產(chǎn)生的數(shù)據(jù)，但如今平臺的數(shù)據(jù)搜集手段已經(jīng)不再僅僅局限于“人”，與用戶相關(guān)的各種物體甚至環(huán)境都可以成為用戶畫像分析的重要依據(jù)。人們對健康生活的追求催生了智能體脂秤、智能手環(huán)等穿戴設(shè)備，這些設(shè)備通過傳感器貼身記錄人體的各項(xiàng)隱私數(shù)據(jù)，對個人數(shù)據(jù)的采集更加深入，一些人們不愿意暴露在外的身高、體重、疾病等隱私數(shù)據(jù)都可以被采集到。至此平臺對用戶的個人畫像數(shù)據(jù)更加豐富多元，對個人畫像的準(zhǔn)確度也大大提高，人們的個性化體驗(yàn)越來越好，但這也意味著個人隱私數(shù)據(jù)的保護(hù)面臨巨大的風(fēng)險(xiǎn)挑戰(zhàn)。

智媒時(shí)代，個體享受的數(shù)據(jù)便利與算法帶來的各種風(fēng)險(xiǎn)是協(xié)同而來的。人們要想獲得更加精確的個性化服務(wù)，就必須出讓自己的部分?jǐn)?shù)據(jù)，甚至需要將自己進(jìn)行一定程度的數(shù)據(jù)化。隨著對個體隱私權(quán)利的關(guān)注度不斷升高，有關(guān)個體隱私權(quán)和被遺忘權(quán)的討論也被提上日程。當(dāng)人們醉心于數(shù)據(jù)算法帶來的巨大便利的時(shí)候，往往會忽略其中隱藏的隱私泄露風(fēng)險(xiǎn)，很多用戶在數(shù)據(jù)隱私的保護(hù)方面越來越力不從心，權(quán)利的讓渡似乎是必然的選項(xiàng)。算法收集的海量數(shù)據(jù)確實(shí)為人們的日常生活提供了便利，但其背后蘊(yùn)藏的風(fēng)險(xiǎn)也悄無聲息地入侵了人們的生活，而個體可能感知不了這些風(fēng)險(xiǎn)的存在。大多數(shù)人對自身所擁有的各項(xiàng)數(shù)據(jù)權(quán)利并不清楚，即使他們認(rèn)識到數(shù)據(jù)的被遺忘權(quán)，也并不能阻攔數(shù)據(jù)最后的泄露，依靠個體的力量與算法平臺對抗無異于螳臂當(dāng)車。平臺運(yùn)用強(qiáng)制手段將個體數(shù)據(jù)化，以此來為個體提供個性化服務(wù)甚至成為當(dāng)今算法社會的普遍事實(shí)。

由此可見，算法已經(jīng)滲透到人們生活的各個方面，人們對外界事物的認(rèn)知都依賴于算法，人們已經(jīng)生活在一個由算法建構(gòu)的世界之中。算法決定了個人認(rèn)識世界的寬度與廣度。不斷優(yōu)化更新的算法在無形之中控制了人們的決策活動，并促使個體投入更深層的自我剝削。人的隱私也在算法的入侵下不斷消解。

三、對抗風(fēng)險(xiǎn)的基本建設(shè)

（一）加強(qiáng)數(shù)據(jù)建設(shè)，提升用戶素養(yǎng)

在現(xiàn)代化的信息數(shù)據(jù)建設(shè)與推送過程中，新媒體借此形成的個性化推送模式，為使用媒介的大眾量身定制了一套獨(dú)屬于個體的信息數(shù)據(jù)整合流程。其主要作用是在一定程度上提升大眾對信息獲取與處理的效率，因此也就對大眾自身所需要具備的數(shù)據(jù)素養(yǎng)提出了更高的要求。

如果作為獲取信息便利的受益者，在提高數(shù)據(jù)素養(yǎng)方面的意識較弱，便會過度沉溺于信息洪流的表面，將自身禁錮在單一個性化的信息牢籠里，對事物的綜合認(rèn)知與處理產(chǎn)生偏差。

因此，受眾在接收媒介傳播與推送信息的同時(shí)，要有對信息進(jìn)行深層梳理與思考的意識和習(xí)慣，不能僅僅停留于所接觸內(nèi)容的表面。此外，在個性化的信息數(shù)據(jù)推送模式下，受眾也要具備接觸多類型、多角度內(nèi)容的了解能力，保證自身對信息的了解是系統(tǒng)全面的。只有在此情況下，大眾才能真正發(fā)揮算法數(shù)據(jù)的正確效用，把握正確利用信息的方向，對數(shù)據(jù)進(jìn)行更深層次的挖掘。

（二）平臺遵守相關(guān)法律法規(guī)，完善隱私安全保護(hù)機(jī)制

面對全社會對數(shù)據(jù)安全保護(hù)的訴求，平臺作為控制算法運(yùn)行的主導(dǎo)者，應(yīng)主動承擔(dān)起社會責(zé)任，遵守相應(yīng)的網(wǎng)絡(luò)安全法與隱私保護(hù)條例?？梢匝埖谌桨踩u測機(jī)構(gòu)定期進(jìn)行檢查，查漏補(bǔ)缺，并重視對個人數(shù)據(jù)庫的維護(hù)。與此同時(shí)，平臺也要加強(qiáng)內(nèi)部管控，開展全平臺數(shù)據(jù)安全培訓(xùn)，對用戶敏感信息進(jìn)行加密處理，提高網(wǎng)絡(luò)安全防護(hù)能力。

（三）政府加大平臺監(jiān)管力度，加強(qiáng)信息倫理規(guī)范

在數(shù)字技術(shù)蓬勃發(fā)展的今天，人們的數(shù)據(jù)隱私安全問題日益凸顯，出讓隱私以換取便利的情況越來越普遍，因此制定適當(dāng)?shù)男畔惱硪?guī)范是很有必要的。信息科技時(shí)代，誰掌握了信息，誰就能主導(dǎo)發(fā)展，對數(shù)據(jù)安全的保護(hù)甚至比技術(shù)更加重要。政府應(yīng)當(dāng)制定并采取相應(yīng)的監(jiān)管措施，對平臺濫用、出賣用戶信息的行為進(jìn)行監(jiān)督，切實(shí)保護(hù)好人們的數(shù)據(jù)隱私。在新出臺的《中華人民共和國民法典》第六章“隱私權(quán)和個人信息保護(hù)”中，針對個人信息主體的權(quán)利和信息處理的安全與保密都給出了新的規(guī)定。通過法律手段來約束治理數(shù)據(jù)隱私泄露或?yàn)E用的問題是有效的。

四、結(jié)語

算法數(shù)據(jù)的廣泛應(yīng)用為各主體按照大眾的喜好進(jìn)行信息推送創(chuàng)造了極大的便利條件。在以后算法技術(shù)運(yùn)作的過程中，要正確認(rèn)識算法的獨(dú)特優(yōu)勢，更要認(rèn)清隱藏在算法背后的風(fēng)險(xiǎn)挑戰(zhàn)。對此，要從受眾、平臺與政府三個方面進(jìn)行適當(dāng)?shù)囊?guī)范與管制，才能充分發(fā)揮算法技術(shù)的效用，創(chuàng)造一個健康的算法社會。

參考文獻(xiàn)：

[1] 蔣曉麗，鐘棣冰.智能傳播時(shí)代人與算法技術(shù)的關(guān)系交迭[J].新聞界，2022（1）：118-126.

[2] 韓炳哲.他者的消失[M].北京：中信出版集團(tuán)，2019：4-5.

[3] 彭蘭.算法社會的“囚徒”風(fēng)險(xiǎn)[J].全球傳媒學(xué)刊，2021，8（1）：3-18.

[4] 黃淼，黃佩.算法馴化：個性化推薦平臺的自媒體內(nèi)容生產(chǎn)網(wǎng)絡(luò)及其運(yùn)作[J].新聞大學(xué)，2020（1）：15-28，125.

[5] 陳龍.“數(shù)字控制”下的勞動秩序：外賣騎手的勞動控制研究[J].社會學(xué)研究，2020，35（6）：113-135，244.

[6] 孫萍.“算法邏輯”下的數(shù)字勞動：一項(xiàng)對平臺經(jīng)濟(jì)下外賣送餐員的研究[J].思想戰(zhàn)線，2019，45（6）：50-57.

[7] 劉戰(zhàn)偉，李嬡嬡，劉蒙之.平臺化、數(shù)字靈工與短視頻創(chuàng)意勞動者：一項(xiàng)勞動控制研究[J].新聞與傳播研究，2021，28（7）：42-58，127.

作者簡介 王寅輝，碩士在讀，研究方向：媒介經(jīng)營與管理。張晨，碩士在讀，研究方向：媒介經(jīng)營與管理、戰(zhàn)略傳播。