算法的意識(shí)形態(tài)風(fēng)險(xiǎn):屬性、機(jī)理與出路

鮑 金 黃 婧

(上海交通大學(xué) 馬克思主義學(xué)院,上海 200240)

算法作為當(dāng)前最具影響力的智能技術(shù)之一,已經(jīng)實(shí)現(xiàn)了對(duì)人類社會(huì)各個(gè)領(lǐng)域的無縫嵌入和全面裹挾,人類在享受智能算法帶來的巨大便利的同時(shí),也逐漸陷入算法引發(fā)的多重困境。在意識(shí)形態(tài)領(lǐng)域,算法的意識(shí)形態(tài)化與資本滲透,使其在一定程度上成為控制大眾社會(huì)意識(shí)和價(jià)值觀念的工具,進(jìn)而阻礙主流意識(shí)形態(tài)的建設(shè)與治理?？梢哉f,算法已然成為目前意識(shí)形態(tài)博弈的數(shù)字戰(zhàn)場與影響意識(shí)形態(tài)安全的最大變量。以當(dāng)前的生成式智能技術(shù)浪潮ChatGPT為例,它在技術(shù)價(jià)值中立的虛幻外衣下,通過語義輸出的方式,向使用者滲透著支配性的意識(shí)形態(tài),隱蔽地規(guī)訓(xùn)甚至壓制用戶的思想觀念,致使技術(shù)的工具理性和價(jià)值理性出現(xiàn)失衡與分裂。因此,面對(duì)算法所引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)表征,我們亟須從技術(shù)邏輯與社會(huì)邏輯的雙重視角深入把握算法的意識(shí)形態(tài)風(fēng)險(xiǎn)及其生成機(jī)理、對(duì)策路徑。只有如此,我們才有可能揭開催生算法的意識(shí)形態(tài)屬性的技術(shù)迷霧,解蔽算法與資本的深度合謀,進(jìn)而科學(xué)地應(yīng)對(duì)主流意識(shí)形態(tài)的技術(shù)挑戰(zhàn),推動(dòng)算法轉(zhuǎn)變?yōu)橹髁饕庾R(shí)形態(tài)建設(shè)的強(qiáng)大助力,從而更好地建設(shè)具有強(qiáng)大凝聚力和引領(lǐng)力的社會(huì)主義意識(shí)形態(tài)。

一、算法的意識(shí)形態(tài)屬性

要解蔽算法所引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)及其生成機(jī)理與治理路徑,首先要厘清算法與意識(shí)形態(tài)的內(nèi)在關(guān)系。從意識(shí)形態(tài)概念的外延來看,意識(shí)形態(tài)是社會(huì)意識(shí)形式中除去包括科學(xué)等非意識(shí)形態(tài)的部分,“社會(huì)意識(shí)形式從對(duì)經(jīng)濟(jì)基礎(chǔ)的不同關(guān)系可分為:社會(huì)意識(shí)形態(tài)和非意識(shí)形態(tài)的其他社會(huì)意識(shí)形式……社會(huì)意識(shí)的其他形式如自然科學(xué)、語言學(xué)、邏輯學(xué)等,是社會(huì)意識(shí)形式中的非意識(shí)形態(tài)部分”[1]。雖然科學(xué)技術(shù)與意識(shí)形態(tài)在內(nèi)涵上存在明顯差異,但這并不代表科學(xué)技術(shù)與意識(shí)形態(tài)是相互割裂、毫不相關(guān)的兩個(gè)部分,更不意味著科學(xué)技術(shù)是與意識(shí)形態(tài)無涉的價(jià)值真空地帶。

法蘭克福學(xué)派根據(jù)晚期資本主義發(fā)展的特點(diǎn)對(duì)科學(xué)技術(shù)與意識(shí)形態(tài)之間的勾連做了深刻論述,并指出了科學(xué)技術(shù)意識(shí)形態(tài)化的邏輯路徑。例如,馬爾庫塞在馬克思科學(xué)技術(shù)批判理論的基礎(chǔ)上否定了技術(shù)中立論。在馬爾庫塞看來,科學(xué)技術(shù)雖然促進(jìn)了資本主義社會(huì)生產(chǎn)力的提升,但是,它在介入資本主義政治體系運(yùn)作的過程中,已經(jīng)不可避免地“成了脫離群眾而使行政機(jī)關(guān)的暴行合法化的意識(shí)形態(tài)”[2]。具體而言,技術(shù)的意識(shí)形態(tài)化路徑表現(xiàn)為:在晚期資本主義社會(huì),科學(xué)技術(shù)充當(dāng)了為資本主義統(tǒng)治合理性辯護(hù)的工具,因此技術(shù)合理性已然轉(zhuǎn)變?yōu)榻y(tǒng)治性,而這種絕對(duì)的統(tǒng)治合理性就是一種意識(shí)形態(tài)。與此同時(shí),技術(shù)理性在非政治的假象下,實(shí)現(xiàn)了對(duì)整個(gè)社會(huì)的機(jī)械化整合,而這種整合憑借科學(xué)化和合理化的標(biāo)簽消除了政治系統(tǒng)內(nèi)的一切否定性因素,整個(gè)社會(huì)逐漸轉(zhuǎn)變?yōu)閱蜗蚨壬鐣?huì)。哈貝馬斯沿著馬爾庫塞的批判道路,直接闡明了作為第一生產(chǎn)力的科學(xué)技術(shù)實(shí)質(zhì)上就是一種意識(shí)形態(tài),一種掩蓋資本矛盾并為資本主義合法性辯護(hù)的工具。隨著科學(xué)技術(shù)無縫滲透到社會(huì)、政治、經(jīng)濟(jì)等各個(gè)領(lǐng)域之中,技術(shù)似乎成了理解資本主義社會(huì)一切問題的關(guān)鍵,這致使人們被裹挾在科學(xué)技術(shù)之中并產(chǎn)生對(duì)它的盲目信仰。與此同時(shí),科學(xué)技術(shù)具有不同于傳統(tǒng)意識(shí)形態(tài)的隱蔽性、中立性和難以抗拒性,“技術(shù)統(tǒng)治的意識(shí)同以往的一切意識(shí)形態(tài)相比較,‘意識(shí)形態(tài)性較少’,因?yàn)樗鼪]有那種看不見的迷惑人的力量……比之舊的意識(shí)形態(tài)更加難以抗拒,范圍更加廣泛”[3]。當(dāng)前,智能算法的迭代式發(fā)展對(duì)各領(lǐng)域所造成的顛覆式影響正在不斷深化技術(shù)的意識(shí)形態(tài)批判范式、更新意識(shí)形態(tài)批判的內(nèi)容,這就需要我們結(jié)合技術(shù)發(fā)展的當(dāng)代境遇,分析算法意識(shí)形態(tài)化的邏輯路徑。

算法意識(shí)形態(tài)屬性的生成邏輯表現(xiàn)為技術(shù)特性與技術(shù)內(nèi)嵌的價(jià)值相互耦合的過程。從機(jī)器技術(shù)的本質(zhì)與變革來看,傳統(tǒng)的機(jī)械技術(shù)只是在人體力的對(duì)象化基礎(chǔ)上延長了人的勞動(dòng)能力,還無法對(duì)人們在實(shí)踐過程中構(gòu)建的復(fù)雜多元狀況進(jìn)行獨(dú)立的邏輯推理和因果分析,因而不具備任何的自主性。相較之下,算法作為人“一般智力”的對(duì)象化產(chǎn)物,能通過對(duì)大數(shù)據(jù)的自動(dòng)化感知和高精度處理來模擬人的視覺、聽覺、語言、行為甚至是人的邏輯思維,進(jìn)而產(chǎn)生自主性和主體性。近年來,隨著大數(shù)據(jù)的井噴式增加以及神經(jīng)網(wǎng)絡(luò)模型的學(xué)習(xí)算法的發(fā)展,算法已經(jīng)不再局限于對(duì)人類知識(shí)的簡單復(fù)制,而是主動(dòng)從數(shù)據(jù)中學(xué)習(xí)并且根據(jù)數(shù)據(jù)處理的現(xiàn)實(shí)經(jīng)驗(yàn)對(duì)所定義的學(xué)習(xí)結(jié)構(gòu)進(jìn)行調(diào)整和完善。基于這種思路,算法“已經(jīng)不再是人的附庸,它將和人類在平等的起跑線上汲取和總結(jié)知識(shí),因而可能創(chuàng)造出比人類更巧妙的方法、生成比人類更高效的決策、探索人類從未發(fā)現(xiàn)過的知識(shí)空間”[4]。今天,算法在行為決策與自主學(xué)習(xí)的維度上已經(jīng)具備了前所未有的類人性和主體性,但是算法所形成的“‘主體性’是功能性的模仿而非基于有意識(shí)的能動(dòng)性(agency)、 自我意識(shí)與自由意志,故應(yīng)稱之為擬主體性”[5]。這種擬主體性能夠使算法在認(rèn)知和行為上與人實(shí)現(xiàn)一定程度的互動(dòng),從而具有影響人觀念和意識(shí)的可能性。也就是說,雖然算法無法基于自主意識(shí)對(duì)人產(chǎn)生影響,但是人卻可以對(duì)算法所驅(qū)動(dòng)的行為賦予價(jià)值和意義;同時(shí),算法也能夠作為意識(shí)和價(jià)值載體與人進(jìn)行思維和認(rèn)知層面的交互。值得進(jìn)一步討論的是:算法對(duì)人的意識(shí)的可能性影響是如何實(shí)現(xiàn)的?如果目前人工智能無法自發(fā)產(chǎn)生意識(shí)并以此影響使用者,那么人所受到的意識(shí)影響究竟源于何處?

需要明確的是,算法對(duì)意識(shí)的影響來源于復(fù)雜的人機(jī)關(guān)系中所內(nèi)嵌的多主體的價(jià)值觀念。目前,人工智能仍無法算法化人類全部的思維和認(rèn)知能力,也不能兼容人類生成自我意識(shí)的獨(dú)特機(jī)理,無法獨(dú)立施加意識(shí)層面的影響。因此,只有把人工智能置于其與人構(gòu)建的關(guān)系網(wǎng)絡(luò)之中,才能把握算法內(nèi)嵌的價(jià)值觀念對(duì)意識(shí)的影響作用。由于傳統(tǒng)機(jī)器技術(shù)的局限性,機(jī)器只能以工具這種客體形式參與構(gòu)建簡單的人機(jī)二元關(guān)系。然而,算法設(shè)計(jì)、開發(fā)和應(yīng)用的復(fù)雜性決定了這是一個(gè)多主體共同參與的過程。與此同時(shí),算法產(chǎn)生的類人特性以及對(duì)人勞動(dòng)能力的超越,使人工智能逐漸成為部分勞動(dòng)過程的主體,從而變革了傳統(tǒng)機(jī)器的主客體關(guān)系。在此意義上,算法消解了傳統(tǒng)機(jī)器的人機(jī)關(guān)系,在現(xiàn)實(shí)運(yùn)作過程中逐步形成了由算法的控制者和開發(fā)者、算法的目標(biāo)用戶共同構(gòu)成的復(fù)合關(guān)系。正因如此,算法成了一個(gè)摻雜多重主體價(jià)值觀念的產(chǎn)物,就像克里斯托弗·梅強(qiáng)調(diào)的,技術(shù)不可避免地“內(nèi)嵌特殊規(guī)則”[6]。這種價(jià)值內(nèi)嵌的過程表現(xiàn)為:其一,算法開發(fā)者將自己的觀念投射到算法系統(tǒng)上,從而導(dǎo)致算法夾雜著開發(fā)者的意志;其二,算法以用戶的價(jià)值和興趣為導(dǎo)向篩選和推送數(shù)據(jù),因此內(nèi)含使用者的價(jià)值需求;其三,算法被少數(shù)數(shù)字公司壟斷和操控,致使算法捆綁著控制者的特殊利益。與此同時(shí),在算法所形成的關(guān)系中,算法的使用者由于處于算法權(quán)力的不對(duì)等狀態(tài)而被迫承受著由算法研發(fā)者和控制者共同構(gòu)成的觀念的滲透與壓制。算法意識(shí)形態(tài)化的屬性轉(zhuǎn)向使算法具有生成與擴(kuò)大意識(shí)形態(tài)風(fēng)險(xiǎn)的可能性,算法已然成為觸動(dòng)網(wǎng)絡(luò)意識(shí)形態(tài)秩序的關(guān)鍵因素。據(jù)此,只有研判算法引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn),才能推動(dòng)算法“向善”發(fā)展。

二、算法的意識(shí)形態(tài)風(fēng)險(xiǎn)表征

算法的跨越式發(fā)展和全域式應(yīng)用給主流意識(shí)形態(tài)建設(shè)帶來了一體兩面的影響。與算法賦能相對(duì)應(yīng)的是,算法在意識(shí)形態(tài)領(lǐng)域引發(fā)了一系列不容忽視的風(fēng)險(xiǎn)。從表征上看,這種風(fēng)險(xiǎn)既具有傳統(tǒng)意識(shí)形態(tài)風(fēng)險(xiǎn)的特征,又延伸出算法的智能化、信息化和數(shù)字化特質(zhì)。大體來說,算法的意識(shí)形態(tài)風(fēng)險(xiǎn)主要表現(xiàn)為算法歧視、算法牢籠和算法黑箱對(duì)主流意識(shí)形態(tài)的認(rèn)同度、引領(lǐng)力和凝聚力的挑戰(zhàn)。

(一)算法歧視:主流意識(shí)形態(tài)認(rèn)同危機(jī)

主流意識(shí)形態(tài)認(rèn)同是人們對(duì)統(tǒng)合性思想觀念和價(jià)值體系的自愿接受和主動(dòng)遵從,其在根本上是一種政治與價(jià)值認(rèn)同。主流意識(shí)形態(tài)要發(fā)揮自身的凝聚力和引領(lǐng)力,就必須獲得民眾的廣泛認(rèn)同,否則將在某種程度上被邊緣化為非主流意識(shí)形態(tài)。可以說,認(rèn)同感是判斷主流意識(shí)形態(tài)是否安全的重要標(biāo)準(zhǔn)。

算法歧視是算法嵌入意識(shí)形態(tài)領(lǐng)域后影響主流意識(shí)形態(tài)認(rèn)同感的主要技術(shù)因素。算法歧視是指“在看似客觀中立、沒有惡意的程序設(shè)計(jì)中,卻帶著開發(fā)者的偏見,或者因所采用的數(shù)據(jù)存在傾向性,或者因設(shè)計(jì)技術(shù)局限,在實(shí)際應(yīng)用中導(dǎo)致了種族歧視、性別歧視、年齡歧視、階層歧視、區(qū)域歧視、仇外思想等嚴(yán)重的政治后果”[7]。以人工智能的底層算法“詞嵌入”為例,詞嵌入通過將詞轉(zhuǎn)換為數(shù)字,在自然語言處理模型中用作輸入。如果詞之間的意思相似,它們映射在數(shù)學(xué)上的意義上也是相近的,因此,詞嵌入通過評(píng)估單詞出現(xiàn)的上下文來編碼信息。然而,這種技術(shù)在現(xiàn)實(shí)運(yùn)作中常常隱藏著種種偏見,例如女性和護(hù)士、秘書和舞者的關(guān)聯(lián)更為緊密。算法出現(xiàn)歧視與偏見的原因是多元復(fù)雜的,但根源在于算法開發(fā)人員將固有的偏見有意或無意地編碼到機(jī)器學(xué)習(xí)模型之中,從而導(dǎo)致客觀事實(shí)出現(xiàn)價(jià)值偏差。當(dāng)前,智能算法正在以一種不可或缺的形式參與日常生活的建構(gòu)過程,起著維持社會(huì)生活正常運(yùn)轉(zhuǎn)的重要作用,而算法偏見的“特洛伊木馬”就隱藏在每行代碼、每條信息、每個(gè)界面中。然而,大部分算法用戶往往在技術(shù)中立的假象下忽視了算法潛藏的碎片化價(jià)值偏見,難以判斷算法背后多種社會(huì)觀念的輿論交鋒及其真實(shí)意圖。彌散在算法空間中的輿論偏見通過去中心化與扁平化的技術(shù)平臺(tái)快速擴(kuò)散與放大,潛在地影響著用戶的理想信念、思想觀念與價(jià)值認(rèn)知,甚至固定為與主流意識(shí)形態(tài)相對(duì)抗的輿論風(fēng)暴,進(jìn)而對(duì)主流意識(shí)形態(tài)認(rèn)同構(gòu)成了價(jià)值干預(yù)。一旦用戶默認(rèn)或主動(dòng)接受了算法的介入,就難以避免地落入其附帶的網(wǎng)絡(luò)價(jià)值偏見陷阱之中,進(jìn)而造成一定的價(jià)值分化。長此以往,當(dāng)這種價(jià)值分化達(dá)到一定程度時(shí),就可能出現(xiàn)挑戰(zhàn)政治權(quán)威、弱化民族身份認(rèn)同、否定核心價(jià)值體系與蠱惑負(fù)面情緒等問題,這對(duì)主流意識(shí)形態(tài)話語體系的政治、價(jià)值與情感認(rèn)同構(gòu)成了一定挑戰(zhàn)。

(二)算法牢籠:主流意識(shí)形態(tài)引領(lǐng)力弱化

主流意識(shí)形態(tài)的引領(lǐng)力是打破認(rèn)知差異、引領(lǐng)社會(huì)觀念的重要表現(xiàn),也是確保主流意識(shí)形態(tài)占據(jù)話語主導(dǎo)權(quán)的主要標(biāo)志。在算法牢籠的技術(shù)場域下,算法推薦的信息分發(fā)模式引發(fā)的價(jià)值分化和價(jià)值失序?qū)⒅饾u導(dǎo)致主流意識(shí)形態(tài)引領(lǐng)力的弱化。

算法牢籠指的是“算法+推薦”的信息分發(fā)模式將大眾禁錮在信息的牢籠之中,造成了公眾視野的偏狹與思想的封閉。目前,越來越多的頭部信息分發(fā)企業(yè)和信息分發(fā)類社交平臺(tái)加入算法推薦序列,不斷加大對(duì)算法的研發(fā)投入,算法推薦已經(jīng)成為中國移動(dòng)資訊的主要分發(fā)方式。算法推薦是指運(yùn)用算法對(duì)用戶的基本信息、瀏覽痕跡以及社交屬性等數(shù)據(jù)進(jìn)行精確采集與分析,構(gòu)建標(biāo)簽化的“用戶畫像”,進(jìn)而篩選并且推送迎合用戶興趣偏好數(shù)據(jù)的信息分發(fā)方式。就其技術(shù)本質(zhì)而言,算法推薦是大數(shù)據(jù)和算法構(gòu)建產(chǎn)生的用戶需求和信息供給的個(gè)性化適配關(guān)系。直觀上看,算法推薦作為一種去中心化的雙向信息分發(fā)機(jī)制,能夠快速滿足用戶的信息獲取需求以及提升平臺(tái)內(nèi)容的分發(fā)效率。然而,這種智能化、個(gè)性化和精確化的信息分發(fā)方式也在一定程度上弱化了主流意識(shí)形態(tài)的引領(lǐng)力。其一,算法推薦以用戶為導(dǎo)向的迎合式信息分發(fā)方式將造成信息繭房和過濾氣泡效應(yīng),即用戶更易于接受與自身的興趣和價(jià)值偏好相契合的同質(zhì)化信息,忽視與自己的關(guān)注視野存在偏差的異質(zhì)化信息。這種推薦方式雖然有助于增加用戶黏性,但也將加劇個(gè)體的價(jià)值分化和價(jià)值分隔。其二,在同質(zhì)化的社交圈層環(huán)境下,具有相似價(jià)值觀念的用戶往往會(huì)相互吸引,并通過網(wǎng)絡(luò)社交圈層展開交流互動(dòng)。在此過程中,價(jià)值觀念逐漸固化為特定社交圈層特有的意識(shí)形態(tài)立場。長此以往,隨著各種個(gè)性化意識(shí)形態(tài)在網(wǎng)絡(luò)交互中的發(fā)展,網(wǎng)絡(luò)社交圈層對(duì)主流意識(shí)形態(tài)的價(jià)值理解鴻溝也將逐漸深化。其三,部分網(wǎng)絡(luò)平臺(tái)在“流量至上”的利益導(dǎo)向下,意圖通過傳播暴力、低俗和虛假信息的形式來吸引用戶的注意力,這些不良信息的傳播在一定程度上擠壓了主流意識(shí)形態(tài)信息的覆蓋范圍,導(dǎo)致了網(wǎng)絡(luò)空間的價(jià)值失序問題,進(jìn)而消解了意識(shí)形態(tài)的價(jià)值理性?？傊?算法牢籠改變了主流意識(shí)形態(tài)傳播的中心地位,創(chuàng)造了社會(huì)圈層的價(jià)值分隔與價(jià)值對(duì)立,并擠壓了主流意識(shí)形態(tài)的覆蓋范圍,最終致使主流意識(shí)形態(tài)出現(xiàn)引領(lǐng)乏力的風(fēng)險(xiǎn)。

(三)算法黑箱:主流意識(shí)形態(tài)凝聚力消解

主流意識(shí)形態(tài)權(quán)威是其確立自身在國家和社會(huì)中的合法性和主導(dǎo)性地位、凝聚大眾共識(shí)的關(guān)鍵前提。算法的過程不透明性、操作復(fù)雜性和價(jià)值嵌入性使其成了部分非主流價(jià)值觀念藏身的空間,主流意識(shí)形態(tài)權(quán)威面臨著失落和消解的風(fēng)險(xiǎn)。

算法黑箱是關(guān)于算法不透明性的隱喻,即算法雖然成了鏈接現(xiàn)實(shí)世界和數(shù)字網(wǎng)絡(luò)的重要中介,但大部分被算法介入的用戶都只能觀察算法的輸入和輸出而無法了解其內(nèi)部的運(yùn)作過程。這種未知狀態(tài)直接導(dǎo)致了人們對(duì)算法的恐慌,一些人認(rèn)為在算法黑箱的遮蔽下,整個(gè)社會(huì)將成為被算法操控和支配的對(duì)象。從技術(shù)本質(zhì)上看,算法黑箱并不等同于暗箱操作,它實(shí)際上是技術(shù)保密性和復(fù)雜性所產(chǎn)生的結(jié)果。即便對(duì)于算法專家而言,要徹底了解算法收集的數(shù)據(jù)、數(shù)據(jù)分析的方式以及其所構(gòu)建的模型也較為困難。作為數(shù)字化時(shí)代的關(guān)鍵技術(shù),算法黑箱在實(shí)際運(yùn)作的過程中極有可能成為非主流意識(shí)形態(tài)滲透的藏身之處。在現(xiàn)實(shí)運(yùn)行過程中,由于技術(shù)手段和技術(shù)人員的限制,算法往往掌控在操縱算法的私人技術(shù)公司之中,而算法的實(shí)際需求者和使用者則逐漸被邊緣化,并失去了對(duì)算法的所有權(quán)和控制權(quán)?；谀撤N利益衡量,算法的控制者極有可能在算法黑箱的遮蔽下,蓄意將歷史虛無主義、新自由主義等社會(huì)思潮植入算法之中,以及對(duì)輿論事件進(jìn)行泛政治化改造并借此煽風(fēng)點(diǎn)火,影響和操控大眾的社會(huì)情緒與心理狀況,進(jìn)而對(duì)主流意識(shí)形態(tài)展開更加深度和隱蔽的滲透與圍堵。然而,由于算法操縱主要集中在后臺(tái)進(jìn)行,并且具有一定的復(fù)雜性和專業(yè)性,用戶在技術(shù)鴻溝和技術(shù)不透明性的雙重限制下,往往察覺不到算法所嵌入的錯(cuò)誤思潮。這些非主流的價(jià)值觀念極有可能在一定程度上歪曲與模糊主流意識(shí)形態(tài)的話語內(nèi)容與政治意涵,炮制與渲染“中國威脅論”等錯(cuò)誤論調(diào),甚至否定我國的制度體系與發(fā)展道路,進(jìn)而消減主流意識(shí)形態(tài)凝聚大眾價(jià)值觀念的能力。

三、算法意識(shí)形態(tài)風(fēng)險(xiǎn)的內(nèi)在機(jī)理

算法的意識(shí)形態(tài)屬性使其不可避免地嬗變?yōu)槔婕瘓F(tuán)操控意識(shí)形態(tài)的利器。在少數(shù)掌控甚至壟斷算法的資本的推動(dòng)下,數(shù)據(jù)崇拜和算法獨(dú)裁逐漸演化為數(shù)字社會(huì)的彌散性與隱蔽性癥候。在此基礎(chǔ)上,作為社會(huì)中介的大數(shù)據(jù)與具備權(quán)力屬性的算法的深度聯(lián)合,實(shí)現(xiàn)了對(duì)意識(shí)形態(tài)的智能操控,這正是算法的意識(shí)形態(tài)風(fēng)險(xiǎn)得以生成的重要機(jī)理。

(一)數(shù)據(jù)崇拜:大數(shù)據(jù)對(duì)社會(huì)建構(gòu)的中介性作用

在數(shù)字化時(shí)代,數(shù)據(jù)已經(jīng)成為社會(huì)生產(chǎn)和交往過程中不可或缺的基本要素。實(shí)際上,對(duì)數(shù)據(jù)的記錄和分析在數(shù)字化社會(huì)階段之前就已存在,探索世界的原初欲望一直推動(dòng)著人類對(duì)數(shù)據(jù)的利用,但儲(chǔ)存和分析數(shù)據(jù)的技術(shù)局限性致使數(shù)據(jù)運(yùn)用只能小范圍地存在。數(shù)據(jù)分析技術(shù)的狂飆猛進(jìn)實(shí)現(xiàn)了小數(shù)據(jù)時(shí)代向大數(shù)據(jù)時(shí)代的跨越,大數(shù)據(jù)的全域分析逐漸成為現(xiàn)實(shí)。這種方式極大地滿足了人們對(duì)數(shù)據(jù)細(xì)節(jié)的考察需求并提高了微觀層面的分析準(zhǔn)確性,更重要的是,它讓人們前所未有地認(rèn)識(shí)到了大數(shù)據(jù)的價(jià)值潛力。只要掌握足夠多的相關(guān)性數(shù)據(jù),就能夠在數(shù)據(jù)追蹤和數(shù)據(jù)測繪的基礎(chǔ)上,精準(zhǔn)地刻畫個(gè)體的生活方式與社會(huì)形象,進(jìn)而發(fā)揮出影響公眾觀點(diǎn)、左右公眾行為的意識(shí)形態(tài)效果。例如,Facebook就通過分析用戶的社交圖譜來獲知使用者的價(jià)值傾向和興趣范圍,從而通過推送內(nèi)含一定傾向的意識(shí)形態(tài)信息,輕而易舉地達(dá)到特定的政治目的。很顯然,大數(shù)據(jù)所驅(qū)動(dòng)的分析方式更加精確和高效。

時(shí)至今日,深度滲透的大數(shù)據(jù)正無縫嵌入人們的日常生活,甚至成了社會(huì)關(guān)系的數(shù)字化中介,并深刻地影響著意識(shí)形態(tài)的實(shí)現(xiàn)方式。在哈貝馬斯看來,技術(shù)始終是一種歷史與社會(huì)的設(shè)計(jì),這種設(shè)計(jì)在數(shù)字資本主義社會(huì)直接凸顯為資本對(duì)大數(shù)據(jù)技術(shù)的塑造。具體而言,大數(shù)據(jù)的潛藏價(jià)值成了資本錨定的對(duì)象,資本的逐利本性使其不斷開發(fā)大數(shù)據(jù),以搶占生產(chǎn)力的制高點(diǎn)。例如,當(dāng)前資本的競爭戰(zhàn)略正從對(duì)土地、人口和能源的爭奪轉(zhuǎn)向?qū)Υ髷?shù)據(jù)的搶奪,美國、日本和歐盟競相制定大數(shù)據(jù)戰(zhàn)略,試圖率先挖掘大數(shù)據(jù)的潛在價(jià)值并引領(lǐng)數(shù)字產(chǎn)業(yè)革命。無論是政治領(lǐng)域的公共政策評(píng)估與研究、經(jīng)濟(jì)領(lǐng)域的傳統(tǒng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型,還是文化領(lǐng)域網(wǎng)絡(luò)社交媒體的信息推送,它們的底層設(shè)計(jì)都建立在大數(shù)據(jù)分析的地基上。大數(shù)據(jù)已然變成了萬事萬物在數(shù)字社會(huì)的符號(hào)替身以及構(gòu)建社會(huì)關(guān)系的新型中介,數(shù)據(jù)化似乎成了數(shù)字時(shí)代萬事萬物難以逃脫的終極命運(yùn)。由此,在數(shù)據(jù)成為一種普遍性和絕對(duì)性存在的境遇下,人們就有可能形成一種以數(shù)據(jù)為中介要素來理解世界的意識(shí)形態(tài)方式。當(dāng)前,數(shù)據(jù)不僅成了數(shù)字時(shí)代度量萬物價(jià)值的尺度,也成了人們?nèi)找娉绨莺妥放醯膶?duì)象。這種由數(shù)據(jù)崇拜衍生出的最明顯的意識(shí)形態(tài)方式就是數(shù)據(jù)意識(shí)和量化思維。在量化思維者眼中,世界就是一堆信息的總和,從長度、重量、時(shí)空、文字到人的社會(huì)關(guān)系,生活的一切元素只要加以劃定、區(qū)分、篩選和量化之后,就能夠被人類馴服和利用。當(dāng)一切存在都可以被量化的時(shí)候,馬克思的預(yù)言“抽象統(tǒng)治一切”似乎已經(jīng)超越了其所處的時(shí)代,深刻地命中了當(dāng)今社會(huì)的意識(shí)形態(tài)癥候。

(二)算法統(tǒng)治:算法權(quán)力對(duì)數(shù)字權(quán)利的支配

算法統(tǒng)治是指人們對(duì)算法的過度依賴所導(dǎo)致的人的思想、行為和決策受到算法支配與主導(dǎo)的意識(shí)形態(tài)現(xiàn)象。從本質(zhì)上看,算法統(tǒng)治是由算法權(quán)力擴(kuò)張與越位導(dǎo)致的算法意識(shí)形態(tài)現(xiàn)象。算法并不是抽象的數(shù)字、符號(hào)和代碼的簡單集合,算法的操控與壟斷者憑借自身在算法設(shè)計(jì)與研發(fā)中的技術(shù)優(yōu)勢,不斷借助算法增強(qiáng)對(duì)政府、公民和整個(gè)社會(huì)的影響與控制,進(jìn)而導(dǎo)致了算法意識(shí)形態(tài)的產(chǎn)生與越位。直觀上看,算法統(tǒng)治是技術(shù)權(quán)力的操控與統(tǒng)治,但其背后潛在地關(guān)聯(lián)著資本意志的實(shí)現(xiàn),正如馬克思在分析由機(jī)器招致的社會(huì)矛盾時(shí)所敏銳指出的:“這些矛盾和對(duì)抗不是從機(jī)器本身產(chǎn)生的,而是從機(jī)器的資本主義應(yīng)用產(chǎn)生的?！盵8]具體而言,算法統(tǒng)治生成的主要原因包括:其一,在算法逐漸深入人們?nèi)粘Ｉ畹臄?shù)字技術(shù)秩序下,人們不得不被動(dòng)接受算法對(duì)各類決策行為的介入,并在享受高效、便捷的算法體驗(yàn)的過程中不斷增強(qiáng)對(duì)算法的依賴。其二,算法的私人占有、算法的復(fù)雜性以及算法研發(fā)的高度分工使得算法呈現(xiàn)出不透明化、難以整體把握的狀態(tài)。同時(shí),算法對(duì)缺乏專業(yè)數(shù)字素養(yǎng)用戶的高度排斥也在一定程度上加劇了算法的不透明性,而算法的不透明使我們無法透視算法意識(shí)形態(tài)影響的產(chǎn)生機(jī)理和可能性后果。其三,核心算法代碼的編寫權(quán)力始終被少數(shù)算法專家壟斷,這在一定程度上使得這部分技術(shù)人員能夠憑借技術(shù)優(yōu)勢,操控整個(gè)社會(huì)的意識(shí)形態(tài)信息的流向和分布,進(jìn)而影響大眾和政府的行為決策。

算法統(tǒng)治內(nèi)含數(shù)字權(quán)利的讓渡以及算法權(quán)力對(duì)數(shù)字權(quán)利的支配邏輯。數(shù)字權(quán)利是指數(shù)字主體在大數(shù)據(jù)與算法環(huán)境下?lián)碛械臄?shù)據(jù)訪問權(quán)、數(shù)據(jù)保護(hù)權(quán)、算法使用權(quán)等權(quán)利的集合。對(duì)越位數(shù)字權(quán)利的控制與對(duì)正當(dāng)數(shù)字權(quán)利的保護(hù)是實(shí)現(xiàn)數(shù)字正義的基礎(chǔ)。在當(dāng)前的數(shù)字時(shí)代,算法權(quán)力的無序擴(kuò)張直接導(dǎo)致了數(shù)字權(quán)利的喪失。在算法秩序中,算法的使用者為了獲取以算法為依托的服務(wù),必須將自己的數(shù)字權(quán)利讓渡給算法權(quán)力,而算法的控制者和研發(fā)者則處于不受任何限制的自由狀態(tài)。例如,算法秩序下較為普遍的服務(wù)與隱私的不對(duì)等交換,一旦用戶拒絕讓渡自己的隱私數(shù)據(jù),就無法使用平臺(tái)、瀏覽頁面和獲取信息。因此,大部分用戶為了避免被主流技術(shù)話語邊緣化,往往選擇忽視隱性強(qiáng)制的事實(shí),主動(dòng)出讓自己的信息。與此同時(shí),算法還直接控制著用戶接收的內(nèi)容,即算法的研發(fā)者直接決定著哪些內(nèi)容能夠進(jìn)入用戶的視野,哪些信息需要被隱藏到后臺(tái)之中。在這種由算法構(gòu)建的意識(shí)形態(tài)秩序下,處于弱勢地位的普通用戶不可避免地被拋入算法設(shè)置的監(jiān)控體系之中,卻無法通過行使數(shù)字主權(quán)制衡算法權(quán)力的統(tǒng)治。

(三)價(jià)值形塑:算法與大數(shù)據(jù)的深度聯(lián)合對(duì)意識(shí)形態(tài)的操控

在數(shù)字化時(shí)代,算法和大數(shù)據(jù)實(shí)現(xiàn)了前所未有的深度聯(lián)合。大數(shù)據(jù)常常被視為數(shù)字化時(shí)代的新石油,但如果沒有煉油的設(shè)備和工具,石油的存在并不能發(fā)揮出最大價(jià)值。因此,算法和大數(shù)據(jù)的互相支撐直接構(gòu)成了人工智能發(fā)展的底層邏輯。具體而言,算法與大數(shù)據(jù)相結(jié)合的必要性在于:其一,數(shù)據(jù)并不等同于信息。數(shù)據(jù)是數(shù)字、字母和符號(hào)的抽象集合,其本身是孤立、零散和雜亂的,因而數(shù)據(jù)只有經(jīng)過提取之后才能轉(zhuǎn)化為可直接使用的信息。也就是說,數(shù)據(jù)所具有的數(shù)字意義需要被動(dòng)態(tài)地建構(gòu)出來。其二,日常網(wǎng)絡(luò)平臺(tái)產(chǎn)生的數(shù)據(jù)是成千上萬的,但大部分?jǐn)?shù)據(jù)都因不具備使用價(jià)值而被淘汰為“剩余數(shù)據(jù)”。因此,對(duì)數(shù)據(jù)的利用必須經(jīng)過一定的結(jié)構(gòu)式轉(zhuǎn)換,而算法就是統(tǒng)攝、篩選、使用數(shù)據(jù)的外在結(jié)構(gòu)式,它不僅決定了數(shù)據(jù)在何種意義上可以成為信息,而且通過數(shù)字關(guān)聯(lián)賦予了單個(gè)數(shù)據(jù)外在的價(jià)值。其三,算法只有以大數(shù)據(jù)為支撐才能產(chǎn)生巨大的支配力和影響力,即只有建立在大數(shù)據(jù)喂養(yǎng)的基礎(chǔ)上,算法才能實(shí)現(xiàn)從傳統(tǒng)算法到深度學(xué)習(xí)算法的更新迭代,主動(dòng)地從數(shù)據(jù)中進(jìn)行學(xué)習(xí)。

“算法+大數(shù)據(jù)”的深度聯(lián)合與邏輯互動(dòng)實(shí)現(xiàn)了對(duì)意識(shí)形態(tài)的智能操控。從算法邏輯來看,由于算法本身是不透明的,因此,算法的掌控者和設(shè)計(jì)者常常會(huì)將特定的意識(shí)形態(tài)觀念植入到算法編碼的過程中,影響信息內(nèi)容的呈現(xiàn)與屏蔽。與此同時(shí),深度學(xué)習(xí)算法會(huì)根據(jù)現(xiàn)實(shí)的運(yùn)作體驗(yàn)不斷完善數(shù)據(jù)訓(xùn)練模型,而算法在與用戶的實(shí)際互動(dòng)過程中又不可避免地帶有使用者的意識(shí)形態(tài)傾向,因此,算法在自我優(yōu)化的過程中會(huì)逐漸帶入多元復(fù)雜的意識(shí)形態(tài)觀念。從數(shù)據(jù)邏輯來看,算法訓(xùn)練模型所接觸到的數(shù)據(jù)性質(zhì)也是決定算法是否帶有意識(shí)形態(tài)因素的重要方面。如果算法使用的數(shù)據(jù)本身是非中立的意識(shí)形態(tài)信息,那么其所喂養(yǎng)的算法模型也將帶有一定的意識(shí)形態(tài)傾向。例如,目前沖擊人工智能領(lǐng)域的ChatGPT在本質(zhì)上就是一種自然語言生成模型,其所依賴的數(shù)據(jù)主要依靠研發(fā)公司制定的規(guī)則,如果ChatGPT在訓(xùn)練模型時(shí)接觸的數(shù)據(jù)集具有特定的意識(shí)形態(tài)傾向,那么它在進(jìn)行語義輸出的過程中,就易于將這些意識(shí)形態(tài)傾向鏡像般地投射出來?？傊?算法與大數(shù)據(jù)的深度聯(lián)合對(duì)意識(shí)形態(tài)的掌控能夠延伸至數(shù)字社會(huì)的細(xì)微之處,并且致使算法與大數(shù)據(jù)原有的意識(shí)形態(tài)風(fēng)險(xiǎn)日益惡化和擴(kuò)張,即算法與大數(shù)據(jù)的一體式結(jié)構(gòu)已經(jīng)成為現(xiàn)代社會(huì)操控意識(shí)形態(tài)的數(shù)字利器。

四、算法的反向馴化與主流意識(shí)形態(tài)的引領(lǐng)

對(duì)算法的意識(shí)形態(tài)批判不應(yīng)直接導(dǎo)致對(duì)算法的“盧德主義”拒斥與反抗。必須承認(rèn)的是,算法仍然是當(dāng)前賦能意識(shí)形態(tài)生產(chǎn)、傳播、分發(fā)與反饋的關(guān)鍵技術(shù)工具。面對(duì)算法對(duì)意識(shí)形態(tài)建設(shè)帶來的風(fēng)險(xiǎn),必須加強(qiáng)主流意識(shí)形態(tài)的引領(lǐng)作用、矯正智能算法自身的技術(shù)漏洞、推動(dòng)算法成為社會(huì)主義意識(shí)形態(tài)建設(shè)的強(qiáng)大助力。

首先,要建構(gòu)價(jià)值理性,強(qiáng)化主流意識(shí)形態(tài)對(duì)算法的駕馭引領(lǐng)。價(jià)值理性是“價(jià)值合乎理性的,即通過有意識(shí)地對(duì)一個(gè)特定的舉止——倫理的、美學(xué)的、宗教的或作其他任何闡釋的——無條件的固有價(jià)值的純粹信仰,不管是否取得成就”[9]。由此可見,價(jià)值理性是人對(duì)自身生存價(jià)值以及存在意義的追求,它關(guān)注的是人本身的精神和意義世界。一旦價(jià)值理性徹底萎縮與衰落,人將喪失反思和否定的能力而成為遵循計(jì)算和實(shí)用規(guī)則的技術(shù)奴隸。正因如此,技術(shù)理性和價(jià)值理性應(yīng)該保持必要的張力。當(dāng)前,算法的應(yīng)用使得各種非主流意識(shí)形態(tài)話語更加廣泛和隱蔽地影響著大眾的價(jià)值觀念,如果離開了社會(huì)主義意識(shí)形態(tài)的價(jià)值引領(lǐng),算法將必然導(dǎo)致社會(huì)價(jià)值導(dǎo)向的偏移。因此,必須在算法的研發(fā)和應(yīng)用過程中發(fā)揮主流意識(shí)形態(tài)的引導(dǎo)和規(guī)制作用,不斷增強(qiáng)社會(huì)主義意識(shí)形態(tài)的輻射力和影響力。具體措施包括:其一,要建立系統(tǒng)完備的實(shí)踐方案,即將主流價(jià)值和觀念以代碼的形式融到算法之中,強(qiáng)化主流意識(shí)形態(tài)對(duì)算法開發(fā)和運(yùn)行方向的指引。其二,要提高算法對(duì)各種非主流意識(shí)形態(tài)的分辨,在主流意識(shí)形態(tài)的引導(dǎo)和規(guī)制下進(jìn)行信息分發(fā)與推送,并根據(jù)實(shí)踐中出現(xiàn)的新問題以及大眾對(duì)主流意識(shí)形態(tài)傳播的反饋,及時(shí)調(diào)整主流意識(shí)形態(tài)的傳播內(nèi)容和傳播路徑。其三,要提高算法研發(fā)人員的思想政治素養(yǎng)。算法開發(fā)人員作為算法的創(chuàng)造者,在很大程度上影響著算法的屬性和表征。因此,必須注重對(duì)開發(fā)者的思想政治引領(lǐng),讓算法開發(fā)者在具體的開發(fā)過程中遵循正確的意識(shí)形態(tài)導(dǎo)向,進(jìn)一步鞏固社會(huì)主義意識(shí)形態(tài)的建設(shè)。

其次,要規(guī)制工具理性,矯正算法的技術(shù)漏洞。算法所引發(fā)的意識(shí)形態(tài)風(fēng)險(xiǎn)問題,無法完全脫離技術(shù)載體而獨(dú)立解決,而是要回歸技術(shù)并依靠技術(shù)的完善加以治理。當(dāng)前,算法仍然是一項(xiàng)正在發(fā)展且尚未定型的技術(shù),它在發(fā)展的過程中難免出現(xiàn)技術(shù)漏洞和應(yīng)用水平層次不齊等問題。對(duì)此,我們必須及時(shí)介入算法的系統(tǒng)設(shè)計(jì),借助技術(shù)手段及時(shí)矯正并降低算法存在的技術(shù)缺陷和風(fēng)險(xiǎn),完善算法的技術(shù)表征和技術(shù)屬性,確保算法安全有效地運(yùn)行。比如,目前存在的算法歧視問題,在一定程度上是由訓(xùn)練數(shù)據(jù)集不完整或存在偏斜、機(jī)器學(xué)習(xí)建模技術(shù)不完善造成的。機(jī)器學(xué)習(xí)團(tuán)隊(duì)可以通過訓(xùn)練數(shù)據(jù)樣本的多樣性、確保算法開發(fā)者具有多元化的背景等方法減輕算法歧視帶來的負(fù)面影響;面對(duì)算法推薦可能導(dǎo)致的“透明人”問題,可以通過“編碼、加密、假名和匿名、防火墻、匿名通信技術(shù)等”[10]構(gòu)建起用戶隱私保護(hù)機(jī)制,減少信息竊取和泄露;而對(duì)于“信息繭房”問題,則可以在個(gè)性化信息推送的基礎(chǔ)上增強(qiáng)多元化和多樣性的信息分發(fā);對(duì)于算法黑箱問題,可以通過提高算法透明度來加以應(yīng)對(duì),即公開呈現(xiàn)算法設(shè)計(jì)和算法機(jī)制運(yùn)行過程中的每一個(gè)算法元素,同時(shí)也要注重形成一種以用戶為導(dǎo)向的算法交互方式,讓用戶了解算法給自己帶來的影響和改變?？傊?我們必須對(duì)算法進(jìn)行有效的治理與改造,控制它對(duì)意識(shí)形態(tài)建設(shè)的干擾與阻礙,構(gòu)建起社會(huì)主義意識(shí)形態(tài)主導(dǎo)下的算法系統(tǒng)。

最后,要深化技術(shù)賦能,推動(dòng)算法成為社會(huì)主義意識(shí)形態(tài)建設(shè)的強(qiáng)大助力。當(dāng)前,算法的發(fā)展不僅為社會(huì)主義意識(shí)形態(tài)的建設(shè)提供了智力支持,也塑造了有助于社會(huì)主義意識(shí)形態(tài)傳播的數(shù)字化方式與格局。算法能夠精確分析用戶的價(jià)值偏好和特征屬性,并在此基礎(chǔ)上實(shí)現(xiàn)信息的定向分發(fā)與投放,這在一定程度上為社會(huì)主義意識(shí)形態(tài)內(nèi)容的生產(chǎn)和傳播提供了新的機(jī)遇。如果說算法變革了傳統(tǒng)信息的單向度分發(fā)模式,迎合了傳播受眾的價(jià)值偏好的話,那么社會(huì)主義意識(shí)形態(tài)傳播完全可以通過算法分析、把握民眾的思想動(dòng)態(tài)和偏好,在深度研判民眾意識(shí)形態(tài)狀況的基礎(chǔ)上發(fā)揮核心價(jià)值觀的引領(lǐng)作用。算法實(shí)現(xiàn)了傳播權(quán)力的去中心化,并通過語音識(shí)別、語言理解、人臉識(shí)別、邏輯思維等方式打破了傳統(tǒng)的意識(shí)形態(tài)傳播渠道,為用戶創(chuàng)造了立體化和多元化的傳播體驗(yàn),這種傳播和呈現(xiàn)方式讓社會(huì)主義意識(shí)形態(tài)更易于被大眾接受。與此同時(shí),算法在數(shù)據(jù)分析和處理方面具有不可比擬的優(yōu)勢,能夠?qū)Y(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)進(jìn)行精確和綜合的分析,進(jìn)而繪制整個(gè)意識(shí)形態(tài)狀況的精確圖景,實(shí)現(xiàn)對(duì)意識(shí)形態(tài)狀況的精準(zhǔn)反饋。正因如此,社會(huì)主義意識(shí)形態(tài)的建設(shè)和傳播不能固守傳統(tǒng)形式,必須與時(shí)俱進(jìn),積極適應(yīng)算法發(fā)展新態(tài)勢,及時(shí)融入數(shù)字化和算法化傳播的發(fā)展浪潮。