數(shù)字平臺算法推薦的單向度現(xiàn)象探究及治理

賀亞東

(河南大學(xué) 馬克思主義學(xué)院，河南 開封 475000)

阿多諾在《文化工業(yè)：作為大眾欺騙的啟蒙》一文中提到：“文化給一切事物都貼上了同樣的標(biāo)簽。電影、廣播和雜志制造了一個(gè)系統(tǒng)。不僅各個(gè)部分之間能夠取得一致，各個(gè)部分在整體上也能夠取得一致?！盵1]文化成為一種工業(yè)體系，通過技術(shù)手段實(shí)現(xiàn)了標(biāo)準(zhǔn)化和大眾生產(chǎn)。此時(shí)的文化工業(yè)表現(xiàn)為一種新聞媒介，以一種公開的灌輸形式出現(xiàn)。馬爾庫塞指出：“單向度思想是由政策的制訂者及其新聞信息的提供者系統(tǒng)地推進(jìn)的。”[2]13大眾傳播技術(shù)在當(dāng)下更加發(fā)達(dá)，隨著互聯(lián)網(wǎng)信息技術(shù)的出現(xiàn)和數(shù)字平臺的崛起，文化工業(yè)也出現(xiàn)了個(gè)性化的趨勢和轉(zhuǎn)向，通過算法推薦來實(shí)現(xiàn)對用戶的個(gè)性化服務(wù)，精準(zhǔn)推送和信息定制似乎改變了傳統(tǒng)文化工業(yè)單向的信息輸出。

“個(gè)性化信息服務(wù)的出現(xiàn)，是信息過載時(shí)代的一個(gè)必然結(jié)果，也是尊重與滿足個(gè)體的信息權(quán)利的一種新手段?！盵3]但是，數(shù)字時(shí)代的個(gè)性化或許只是看似美好。如果人們只關(guān)注自己熟悉或感興趣的內(nèi)容，那么個(gè)體的視野將會被局限，失去對事件和信息的完整判斷，成為信息時(shí)代的井底之蛙。這一過程不能僅僅歸咎于個(gè)人，也要看到文化工業(yè)在其中扮演的角色。文化工業(yè)作為一種工業(yè)體系，本質(zhì)上是建立在大眾傳播技術(shù)之上的，在數(shù)字平臺中這一技術(shù)的核心表現(xiàn)為算法。以大數(shù)據(jù)為基礎(chǔ)的算法推薦能夠?qū)τ脩暨M(jìn)行精準(zhǔn)畫像，從而實(shí)現(xiàn)信息的定向推送。但這種所謂的個(gè)性化服務(wù)并沒有為人們帶來雙向度的生活方式，反而進(jìn)一步加強(qiáng)了單向度傾向。在數(shù)字平臺虛假的個(gè)性化掩蓋下，社會的單向度表現(xiàn)得更為隱蔽，主要體現(xiàn)為信息、價(jià)值和思想的單向度。

一、信息的單向度

算法推薦對用戶的精準(zhǔn)刻畫是依賴大數(shù)據(jù)得以實(shí)現(xiàn)的。互聯(lián)網(wǎng)的發(fā)展使人們獲得了前所未有的自由和便利：各種信息實(shí)現(xiàn)了跨越時(shí)空的流動和交換，數(shù)字支付使人們從現(xiàn)金支付的局限中解放，實(shí)時(shí)定位地圖使人們從紙質(zhì)地圖的局限中解放，線上購物、打車、訂餐軟件的興起更是為人們帶來了諸多便利。移動智能終端在滲透進(jìn)人類生活方方面面的同時(shí)，也將人們籠罩在數(shù)字資本的鐵幕之下，人們聯(lián)網(wǎng)的一舉一動都留下了抹不掉的“數(shù)字腳印”。數(shù)字平臺利用用戶數(shù)據(jù)進(jìn)行建模，誰擁有越多的用戶個(gè)人信息，誰就能搭建起越精準(zhǔn)的模型；而誰擁有了越精準(zhǔn)的模型，誰就能吸引到越多廣告商，獲得更大的利潤。為了使利潤能夠持續(xù)增長，數(shù)字平臺利用用戶模型進(jìn)行精準(zhǔn)的廣告投放和信息推送，這一過程看似尊重用戶的“個(gè)性”，實(shí)際上卻與傳統(tǒng)文化工業(yè)的單向度屬性如出一轍。

幾乎所有的社交平臺都是憑借這樣的模型來實(shí)現(xiàn)向用戶推薦“熟悉的人”或“感興趣的內(nèi)容”，將目標(biāo)用戶與其他用戶聯(lián)系起來，從而降低用戶脫離平臺的概率。短視頻平臺的運(yùn)作邏輯更是如此：平臺根據(jù)用戶觀看視頻的偏好動態(tài)調(diào)整接下來推送的內(nèi)容，讓用戶盡可能長時(shí)間地停留在平臺內(nèi)部，進(jìn)而達(dá)到流量變現(xiàn)和廣告推廣的目的。所有能做到“投用戶所好”的各類軟件，采用的都是同樣的算法推薦邏輯，利用源源不斷的針對性的內(nèi)容將用戶牢牢綁在系統(tǒng)之中，而“受眾面對智能算法推送來的產(chǎn)品信息時(shí)，往往不再將之視作令人厭煩的廣告，反而會覺得其恰到好處地‘讀懂了’自己的需求”[4]。這樣的運(yùn)轉(zhuǎn)邏輯似乎是技術(shù)進(jìn)步的生動體現(xiàn)，人們看似獲得了更豐富的見識，但很大程度上是算法刻意調(diào)度讓人們見識到的信息，是被規(guī)定的單向度的信息。在算法精準(zhǔn)排布的信息流中，受眾的視野不是變得更開闊而是更閉塞，人們甚至可能因此喪失獲取和接受不同信息的能力。美國學(xué)者桑斯坦提出了“信息繭房”一詞，形象地描繪了算法推薦大行其道的當(dāng)下人們遭遇的信息困境。在他看來，信息繭房即“我們只聽我們選擇的東西和愉悅我們的東西”[5]的狀態(tài)。“今天的某些大數(shù)據(jù)分析，在某種意義就是在分析甚至‘制造’人們的‘視角’，然后將符合視角的‘事實(shí)’推送給他們，雖然推送的‘事實(shí)’似乎是客觀的，但是，當(dāng)它們被放置在人們的‘視角’下時(shí)，就成為了影響主觀判斷和態(tài)度的重要手段?！盵3]人們對于熟悉和感興趣的信息的偏好將使人不自覺地投入正向的、肯定性的信息中，不愿接觸或被算法排除而無法接觸到否定性的另一種聲音。在這種封閉單向的環(huán)境中，人的視野被算法規(guī)定而越來越受限，長此以往，包裹用戶的信息繭房將會越來越密不透風(fēng)。

二、價(jià)值的單向度

值得警惕的是，算法推薦并不會止步于此，信息獲取的單向度必然帶來價(jià)值選擇的單向度。數(shù)字平臺價(jià)值的單向度一方面主要體現(xiàn)在平臺受眾自單向度的信息中逐漸形成的單向度的價(jià)值觀念，另一方面，由于算法邏輯的背后是人的思維邏輯和價(jià)值取向，因此算法邏輯也潛在地包含著價(jià)值選擇，內(nèi)在于算法中的價(jià)值取向潛移默化地影響受眾，從而形成一種外在于人但能夠深刻影響人的單向度性。

人的本質(zhì)是一切社會關(guān)系的總和，任何人都無法脫離所處的環(huán)境而獨(dú)立存在。網(wǎng)絡(luò)中同樣如此，互聯(lián)網(wǎng)作為虛擬的公共空間是現(xiàn)實(shí)社會的衍生物。如果社會中的大多數(shù)被單向度的信息繭房圍困，那么公共空間將變得支離破碎，“公共信息的傳播、社會意見的整合、社會共識的形成，也會變得日益困難”[6]。繭房效應(yīng)不可避免地會帶來“回聲室效應(yīng)”，即信息或想法在一個(gè)封閉的范圍里得到加強(qiáng)。2020年5月，加拿大政府將Incel(involuntary celibate的縮略語，意為“非自愿獨(dú)身者”)定義為恐怖組織。Incel社區(qū)最初是一個(gè)為在社交方面有困惑的年輕人提供建議和支持的網(wǎng)上論壇。但部分極端群體將在親密關(guān)系中的挫敗歸咎于女性，在一些另類右翼的匿名論壇上發(fā)泄不滿，最終升級到在現(xiàn)實(shí)中實(shí)施無差別襲擊，Incel社群逐漸發(fā)展成為暴力和厭女癥的溫床[7]?？植乐髁x研究中心將恐怖主義描述為：“恐怖分子甚至不認(rèn)為他們可能是錯(cuò)的，也不認(rèn)為其他人的觀點(diǎn)有可取之處……他們只把邪惡動機(jī)歸于他們?nèi)后w外的其他人。在心理上被激發(fā)的恐怖分子的……共有特征是宣稱需要?dú)w屬于一個(gè)群體，這些恐怖分子通過群體接納來界定自己的社會地位?！盵8]116《沙龍》雜志專欄作家安德魯·萊昂納德在《困于回聲室》一文提道：“我認(rèn)為真正令人擔(dān)憂的不是互聯(lián)網(wǎng)將隨時(shí)在谷歌里找到我需要的現(xiàn)成的事實(shí)這個(gè)過程變得無比簡單，而是它將隨時(shí)找到一種我需要的思維模式這個(gè)過程變得如此簡單?！盵9]由于個(gè)人總是傾向于接受協(xié)調(diào)性的信息而避免那些會帶來不協(xié)調(diào)認(rèn)知的信息，因此人們會不自覺地將自己封閉在全是與自己觀點(diǎn)一致的信息繭房中，只聽得到同一種聲音的回聲。在一個(gè)單向度的網(wǎng)絡(luò)環(huán)境中一呼百應(yīng)，人們會認(rèn)為自己的觀點(diǎn)代表主流，從而扭曲對一般共識的認(rèn)識。這是單向度的信息帶來的巨大危害，即價(jià)值觀的單向度。桑斯坦提出群體極化法則，他認(rèn)為群體時(shí)常陷入極端狀態(tài)?！翱植澜M織陷入誤解、懷疑、仇恨或暴力，常常就是由于群體極化”[8]115，在信息繭房和互聯(lián)網(wǎng)意見領(lǐng)袖的推動下，“回聲室效應(yīng)”不斷加劇，信息繭房就發(fā)展為“價(jià)值繭房”。這種價(jià)值觀上的偏見如果不加引導(dǎo)，將會在算法推薦的推波助瀾下愈演愈烈，進(jìn)而撕裂社會的核心價(jià)值共識，動搖主流意識形態(tài)的領(lǐng)導(dǎo)地位。

另一方面，算法內(nèi)在地包含著開發(fā)者的價(jià)值觀念，因此算法邏輯也潛在地具有價(jià)值取向，能夠潛移默化地影響受眾。齊格蒙特·鮑曼和大衛(wèi)·萊昂在《流體監(jiān)視》一書中提出：“代表個(gè)人的信息是由‘個(gè)人數(shù)據(jù)’組成的，也正是因?yàn)閿?shù)據(jù)來源于個(gè)人的身體，因此它可能會影響人的人生機(jī)會和選擇。零碎的數(shù)據(jù)往往比喜歡講自己故事的人更可信。軟件設(shè)計(jì)師說他們只是在‘處理數(shù)據(jù)’，所以他們的角色是‘道德中立的’，他們的評估和歧視也只是‘理性的’?！盵10]算法的價(jià)值歧視和霸權(quán)在反烏托邦題材電視劇《黑鏡》第3季第1集中有生動的體現(xiàn)：女主角生活的未來世界里的人際交往方式就是為他人評分，分?jǐn)?shù)越高的人，社會地位就越高。某天不斷遭遇意外的女主角疲于迎合他人，這導(dǎo)致她的評分急轉(zhuǎn)直下，最終被關(guān)進(jìn)了監(jiān)獄。劇中描繪的世界里，每個(gè)人的分?jǐn)?shù)決定了他們能夠得到什么樣的服務(wù)、達(dá)到哪一個(gè)社會層級以及過上怎樣的生活，幾乎所有人都被這樣一個(gè)評分系統(tǒng)綁架，不得不按照給定的社會規(guī)則單向度地生活。這種規(guī)則不僅僅是藝術(shù)創(chuàng)作，由于算法具有優(yōu)越的模擬和預(yù)測能力，許多行業(yè)將算法作為一種有效手段來指導(dǎo)決策。例如銀行會根據(jù)用戶的信用評級和消費(fèi)能力評估是否提供貸款及貸款額度，將被算法判定為有高風(fēng)險(xiǎn)傾向的用戶拒之門外。此外，我國的信息技術(shù)和互聯(lián)網(wǎng)產(chǎn)業(yè)已快速發(fā)展至世界領(lǐng)先水平，但鮮有數(shù)字平臺考慮到數(shù)字弱勢群體如老年人和殘疾人融入智能社會的困境并為他們進(jìn)行全面的無障礙輔助支持。算法對社會群體機(jī)械地分門別類，雖然一定程度上會給平臺和機(jī)構(gòu)降低風(fēng)險(xiǎn)，提高管理效率，但也會潛在地使不同群體的社會地位固化，讓人們只能在符合其身份地位和社會角色的范圍內(nèi)活動，處于優(yōu)勢地位的人能夠憑借已有的優(yōu)勢獲得更多的利益，弱勢群體則會因?yàn)槠淙鮿莸匚欢^續(xù)受到隱性的懲罰。因此有理由擔(dān)心，如果基于大數(shù)據(jù)的算法技術(shù)被不當(dāng)利用，將會對社會的一些群體帶來真實(shí)的歧視和傷害。

三、思想的單向度

在馬爾庫塞看來，單向度思想的形成是導(dǎo)致單向度的人出現(xiàn)的根本原因。人類對于實(shí)現(xiàn)效率最大化始終有著狂熱追求，技術(shù)進(jìn)步帶來了巨大的便利，個(gè)性化服務(wù)為每個(gè)人創(chuàng)造了一個(gè)獨(dú)屬于自己的美麗新世界，這使得讓渡部分隱私和個(gè)人信息來換取便利高效的生活方式變得可以接受。用戶的個(gè)人信息被匯總、分析、交換，在虛擬的網(wǎng)絡(luò)世界中每個(gè)人都有一個(gè)數(shù)字化的自己存在，在這個(gè)數(shù)字畫像周圍是算法精準(zhǔn)排布的信息，單向度的信息塑造單向度的價(jià)值，被單向度的價(jià)值取向指引，人的思想也將陷入單向的維度。也就是說，數(shù)字時(shí)代標(biāo)榜的個(gè)性也是被規(guī)定了的個(gè)性，“決定人類自由程度的決定性因素，不是可供個(gè)人選擇的范圍，而是個(gè)人能夠選擇的是什么和實(shí)際選擇的是什么?！杂蛇x擇主人并沒有使主人和奴隸歸于消失”[2]8。個(gè)人獨(dú)立判斷和選擇的能力被不斷消解，機(jī)器和算法以一種不易察覺的方式掌控了人的現(xiàn)實(shí)生活：迎合當(dāng)代人碎片化時(shí)間的社交媒體反過來強(qiáng)化了人碎片化的思維習(xí)慣，不是支持就是反對的極化選項(xiàng)潤物無聲地塑造了一種二元對立的思考方式。在算法邏輯中，人可以被一串二進(jìn)制數(shù)字代表，價(jià)值甚至是人本身都變成了可以被量化和評分的符號。在算法邏輯工具理性的引導(dǎo)下，人的思想變得被動、破碎和極端，喪失了主動、完整的反思和批判能力。

同時(shí)，技術(shù)的進(jìn)步一定程度上掩蓋了真正的矛盾和對立。工人和他的老板用同樣的手機(jī)、開一樣的汽車、游覽同樣的旅游勝地，更多的人得到了發(fā)展紅利，生活水平的提高成為社會保持現(xiàn)狀的有力辯護(hù)，于是“出現(xiàn)了一種單向度的思想和行為模式”[2]11，它使得對現(xiàn)狀的反抗和拒絕表現(xiàn)為對舒適生活和增長的勞動生產(chǎn)率的抵制和拒絕，這種束縛不表現(xiàn)為強(qiáng)制的和不合理的，反而表現(xiàn)為對社會現(xiàn)狀的拒絕和變革的訴求才是不合理?！霸诟辉：妥杂裳谏w下的統(tǒng)治就擴(kuò)展到私人生活和公共生活的一切領(lǐng)域，從而使一切真正的對立一體化，使一切不同的抉擇同化。”[2]16

正如許多學(xué)者對單向度的批判所指出的，人在面對機(jī)器和算法推薦的統(tǒng)治時(shí)不是完全被動無助的。但應(yīng)注意到，數(shù)字平臺掌握著海量的數(shù)字資本，用戶拒絕提供和交換個(gè)人信息就意味著與主流社會脫節(jié)，這是作為社會成員的每個(gè)個(gè)體難以承受的代價(jià)。人們不是沒有意識到算法推薦的操縱，但面對算法霸權(quán)時(shí)，人們能采取的抵抗措施非常有限，因此僅僅呼喚個(gè)人的覺醒和對現(xiàn)狀的拒絕是遠(yuǎn)遠(yuǎn)不夠的，更需要國家強(qiáng)力措施推動算法主動向善。機(jī)器和算法的邏輯歸根結(jié)底是人的邏輯，如何在開發(fā)程序伊始就克服單向度的邏輯，鼓勵(lì)開發(fā)雙向度的運(yùn)行模式，讓機(jī)器、技術(shù)和算法真正為人的全面發(fā)展服務(wù)，才是更值得我們思考的問題。

四、應(yīng)對算法推薦邏輯單向度傾向的策略

算法作為一種工具，誕生之初是為了服務(wù)于人的，但同時(shí)其底層架構(gòu)是開發(fā)者的邏輯，因此，看似客觀的工具實(shí)則包含著人的主觀態(tài)度。算法推薦的工具理性因而可能以客觀的形式造成主觀的偏見，導(dǎo)致出現(xiàn)算法歧視。正是由于算法的工具理性本質(zhì)會帶來意識形態(tài)后果，對整個(gè)社會有著重大影響，因此為算法技術(shù)加裝價(jià)值瞄準(zhǔn)鏡就顯得尤為重要，遏制算法推薦單向度的趨勢也成為一個(gè)社會性的議題，需要來自各方的共同努力。

數(shù)字平臺作為算法推薦技術(shù)的掌控者和最大獲利方，對于引導(dǎo)算法向善應(yīng)當(dāng)承擔(dān)更重大的社會責(zé)任。算法推薦服務(wù)的提供者應(yīng)當(dāng)以法律法規(guī)為最低限度，以社會公德和倫理為準(zhǔn)繩，堅(jiān)守主流價(jià)值導(dǎo)向，利用算法推薦技術(shù)積極傳播社會正能量，構(gòu)建一個(gè)清朗的網(wǎng)絡(luò)空間。具體而言，第一，在算法的建構(gòu)階段，開發(fā)者應(yīng)始終堅(jiān)持以人為本的原則，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，積極承擔(dān)社會責(zé)任。算法平臺在數(shù)據(jù)收集過程中應(yīng)加強(qiáng)自律，不收集超過算法需要的用戶個(gè)人數(shù)據(jù)。平臺有責(zé)任也有義務(wù)向用戶公開信息收集和使用的范圍，將主動權(quán)交回給用戶，保障用戶對個(gè)人隱私數(shù)據(jù)的使用情況享有充分的知情權(quán)，且平臺不得以用戶拒絕授權(quán)不必要的權(quán)限而限制用戶的正常使用，應(yīng)充分尊重并保障用戶的基本權(quán)益。第二，在算法的整合階段，平臺應(yīng)加強(qiáng)信息內(nèi)容管理，盡到審核和監(jiān)督的義務(wù)，及時(shí)標(biāo)記并報(bào)告違法信息，避免算法推薦邏輯由于自身固有的工具理性而出現(xiàn)對用戶的歧視性規(guī)定，避免出現(xiàn)刻意制造爭議和對立、誘導(dǎo)用戶沉迷、利用信息差侵犯用戶利益的邏輯。第三，在算法的分發(fā)階段，平臺應(yīng)充分尊重用戶的能動性，不應(yīng)針對用戶的個(gè)人習(xí)慣進(jìn)行計(jì)算和推送。此外，算法平臺應(yīng)當(dāng)強(qiáng)化自身的監(jiān)督責(zé)任，健全不良信息的特征庫，對平臺上出現(xiàn)的問題及時(shí)糾偏，建立完善的用戶協(xié)議和社區(qū)公約并及時(shí)處理用戶的投訴和舉報(bào)，引導(dǎo)算法推薦符合主流價(jià)值的導(dǎo)向。

用戶個(gè)人作為享受算法服務(wù)的主體，克服算法推薦帶來的不良影響的最直接的方式，就是提高自身的文化道德素養(yǎng)和批判思維能力。數(shù)字技術(shù)和算法推薦的迅速發(fā)展徹底改變了人們獲取信息的方式，各類信息被推薦到人們眼前而不是人們主動去獲取，信息來源變得多元化，主流價(jià)值導(dǎo)向的影響力被削弱。技術(shù)的進(jìn)步降低了人對工具理性的警惕和反思，算法何以成為擺布人們思想的工具，歸根結(jié)底，人固有的惰性思維難辭其咎。我們只有充分認(rèn)識到被數(shù)字技術(shù)宰制的狀況，才會促使自身的主體意識覺醒并主動改變現(xiàn)狀，進(jìn)而擺脫單向度的思維模式。當(dāng)前的互聯(lián)網(wǎng)生態(tài)中，無效信息遠(yuǎn)遠(yuǎn)多于有效信息，形成劣幣驅(qū)逐良幣的趨勢。面對過載的信息，用戶要克服思維上的懶惰，改變獲取信息的慣用方式，從權(quán)威性的消息來源處主動搜索想要了解的內(nèi)容并提高明辨信息來源、核實(shí)信息內(nèi)容的能力。此外，我們還可以關(guān)閉算法推薦的權(quán)限，主動走出舒適圈去傾聽不同的聲音，將主要精力投入到現(xiàn)實(shí)生活中，通過現(xiàn)實(shí)的人際交流來獲取新的信息和經(jīng)驗(yàn)，減輕繭房效應(yīng)對我們思維方式的消極影響。只有認(rèn)識到算法推薦的弊端并主動采取措施，我們才能破除算法推薦帶來的自我封閉性，塑造正確的價(jià)值觀并培養(yǎng)批判的思維能力。

我國對算法技術(shù)的治理已經(jīng)邁出了重要的第一步。2021年8月，國家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》公開向社會征求意見，一系列相關(guān)法規(guī)的頒布和實(shí)施將成為國家著力防范化解算法技術(shù)風(fēng)險(xiǎn)的重要舉措。從《互聯(lián)網(wǎng)信息服務(wù)管理辦法》到更細(xì)化的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》，我國立足實(shí)際，準(zhǔn)確把握當(dāng)前互聯(lián)網(wǎng)算法推薦亂象，不斷完善相關(guān)法規(guī)，做到源頭治理，在最大程度上降低算法無序發(fā)展帶來的不良影響。新冠疫情爆發(fā)后，依靠互聯(lián)網(wǎng)和大數(shù)據(jù)支持的健康碼和行程碼程序極大地提高了國家疫情防控的效率，為我國迅速控制疫情蔓延趨勢、保障人民生命健康權(quán)作出了重要貢獻(xiàn)。因此，算法不僅是一種工具，更是一種隱含在工具外表下的意識形態(tài)，算法技術(shù)的治理也關(guān)系著我國國家治理能力和治理體系的現(xiàn)代化建設(shè)。黨的十九屆四中全會以社會治理共同體為核心，對如何堅(jiān)持和完善中國特色社會主義制度、推進(jìn)國家治理體系和治理能力現(xiàn)代化的若干重大問題作了專題研究，強(qiáng)調(diào)“必須加強(qiáng)和創(chuàng)新社會治理，完善黨委領(lǐng)導(dǎo)、政府負(fù)責(zé)、民主協(xié)商、社會協(xié)同、公眾參與、法治保障、科技支撐的社會治理體系”[11]。其中的“科學(xué)支撐”即技術(shù)治理，具體而言，就是要將大數(shù)據(jù)和人工智能等數(shù)字技術(shù)與社會治理深度融合，推進(jìn)社會治理智能化、高效化，引導(dǎo)算法向善將成為提升社會效能并最終建成社會主義現(xiàn)代化強(qiáng)國的重要環(huán)節(jié)。