算法安全:偽輿論的隱形機(jī)制與風(fēng)險(xiǎn)治理*

許加彪 王軍峰

一、問題提出:算法是洞穴寓言中的那束篝火嗎？

輿論作為一種人類社會(huì)的傳播現(xiàn)象,是多人合意的集合體。按照盧梭(Jean-Jacques Rousseau)的說法,眾意與公意之間經(jīng)常有很大的差別,公意只是著眼于公共的利益,而眾意則是著眼于私人的利益,眾意只是個(gè)別意志的總和。①在現(xiàn)代傳播技術(shù)的史前時(shí)期,輿論以口口相傳或演講聚會(huì)的形式產(chǎn)生,譬如古希臘時(shí)期雅典公民在廣場上的演說,春秋時(shí)期鄭人聚在鄉(xiāng)村對(duì)公共事務(wù)的議論等。當(dāng)現(xiàn)代傳播技術(shù)嵌入人類社會(huì)后,輿論就受到技術(shù)的形塑:印刷術(shù)使公眾輿論(pubic opinion)得以出現(xiàn),廣播、電視則催生了大眾輿論(mass opinion)。隨著互聯(lián)網(wǎng)的普及,媒介賦權(quán)后的網(wǎng)民表達(dá)在網(wǎng)絡(luò)虛擬空間里洶涌澎湃,網(wǎng)絡(luò)水軍和社交機(jī)器人在特定利益團(tuán)體的操縱下對(duì)特定議題推波助瀾。顯然,網(wǎng)絡(luò)輿論更接近于盧梭筆下的“眾意”,在特殊利益集團(tuán)的操縱下更是變成了虛擬空間中一種“偽輿論”的呈現(xiàn)形態(tài)。

一般而言,輿論的形成是基于公眾對(duì)社會(huì)事實(shí)的一定認(rèn)知和判斷。柏拉圖(Plato)在《理想國》中描述的洞穴寓言表明,囚徒依賴篝火之光看到的世界可能只是表象,這個(gè)困境成為人類認(rèn)知的永恒悖論。傳統(tǒng)媒體時(shí)代輿論的主導(dǎo)權(quán)在主流媒體手中,而算法時(shí)代傳統(tǒng)主流媒體的輿論掌控權(quán)逐漸向操控社交平臺(tái)的算法程序轉(zhuǎn)移。在人工智能時(shí)代,一種新的輿論形態(tài)——算法輿論從虛擬空間涉入了現(xiàn)實(shí)空間。在新聞傳播中,作為解決問題的方案或程序的算法與網(wǎng)絡(luò)技術(shù)、大數(shù)據(jù)技術(shù)等融合,界定著現(xiàn)實(shí)的建構(gòu),深度影響著人們對(duì)世界的認(rèn)知與態(tài)度,成為在社會(huì)知識(shí)生產(chǎn)、社會(huì)關(guān)系建構(gòu)和社會(huì)結(jié)構(gòu)維系中顯著或潛在的力量。作為一種全新的“機(jī)器讀心術(shù)”,算法對(duì)個(gè)人意見的型構(gòu)、社會(huì)輿論的匯流和國際輿論的博弈的作用力超越以往任何媒介技術(shù)。算法如同洞穴寓言中的篝火,這束光對(duì)輿論的作用機(jī)制為何？算法的應(yīng)用邊界在哪里？如何有效治理算法僭越導(dǎo)致的風(fēng)險(xiǎn)？換言之,如果算法推薦是洞穴寓言中的篝火,用戶是囚徒,那么,如何彌合眾意和公意之間的鴻溝？這些問題正是本文思考的方向。

輿論遠(yuǎn)非自發(fā)形態(tài)的社會(huì)產(chǎn)物,網(wǎng)絡(luò)生態(tài)中有水軍、社交機(jī)器人、算法推送等機(jī)制催生網(wǎng)絡(luò)輿論。就算法輿論而言,既往研究多聚焦于算法偏見、算法權(quán)力、算法焦慮、社交(政治)機(jī)器人、人工智能等議題,指出了算法對(duì)輿論的可能影響。隋巖等認(rèn)為,依托智能生成技術(shù)、算法推薦技術(shù)等生成和傳播的網(wǎng)絡(luò)敘事,實(shí)際上是一種形塑新話語權(quán)威的中介。②郭小平認(rèn)為算法可能引發(fā)公共輿論風(fēng)險(xiǎn)。③胡月星指出算法影響公眾輿論導(dǎo)向把控,并指出其負(fù)面影響難以避免。④段鵬以算法權(quán)力為考察對(duì)象,強(qiáng)調(diào)網(wǎng)絡(luò)空間中公眾合意的形成與發(fā)酵受到算法權(quán)力的影響。⑤張洪忠等聚焦于政治機(jī)器人對(duì)社交媒體上輿論的干預(yù)和影響。⑥而師文和陳昌鳳則研究了Twitter平臺(tái)上社交機(jī)器人對(duì)涉華議題的干預(yù)。⑦上述研究從理論與實(shí)證層面為算法干預(yù)輿論的研究提供了必要的借鑒,本文將更深入地剖析算法背后的隱形機(jī)制對(duì)網(wǎng)絡(luò)輿論的影響,以及對(duì)這種由算法生成的偽輿論的有效治理等。

二、可見性與智能適配:算法輿論的生成邏輯

從輿論的構(gòu)成要素而言,輿論的生成主體是公眾,輿論的客體是公共議題,輿論的本體是公共意見。算法顛覆了傳統(tǒng)輿論生成過程中“媒體—議題發(fā)布—公眾討論—意見融合—輿論生成”的基本邏輯,而是通過對(duì)輿論客體、輿論主體甚至輿論本體的直接動(dòng)態(tài)控制和干預(yù)來制造輿論,因而算法輿論是人工智能時(shí)代個(gè)性化和智能化傳播的產(chǎn)物。算法輿論是基于可見性的內(nèi)容呈現(xiàn)邏輯和智能適配的技術(shù)推薦邏輯而實(shí)現(xiàn)的,如果算法被特殊利益所操縱則算法輿論就成了偽輿論。

(一)“可見性”的呈現(xiàn)邏輯

傳播學(xué)者丹尼爾·戴揚(yáng)(Daniel Dayan)認(rèn)為可見性是探討個(gè)體能否被他人看見,能否獲得他人注意力的權(quán)力問題?？梢娦允侵改芊癖凰丝匆?、能否獲得他人的注意力,當(dāng)獲得的注意力達(dá)到了一定規(guī)模,即產(chǎn)生了可見性。⑧也有學(xué)者認(rèn)為可見性具有“看見”和“獲得他人注意”的雙重含義,即除了“被他人看見,獲得他人注意力”外,還包括“看見他人”的權(quán)利。⑨由此,可見性是主體之間的交互,具有主體間性,而非一個(gè)主體對(duì)另一個(gè)主體的單向凝視。在算法平臺(tái)上,作為主體的人、作為客體的信息和作為本體的觀點(diǎn)相互激蕩交織,因而在“可見性”的層面上就具有了用戶交互可見性、信息交互可見性、意見交互可見性三種形式。

第一,作為輿論主體的用戶交互可見性。與傳統(tǒng)被看作是一個(gè)整體性概念且指向社會(huì)上大多數(shù)具有理性思考的概化人不同,算法時(shí)代的“公眾”被大數(shù)據(jù)和算法技術(shù)解析為具體的個(gè)性人,甚至社交機(jī)器人也可能成為意見表達(dá)和輿論參與的主體。作為整體性的“公眾”被作為個(gè)性化的“用戶”甚至虛擬的“機(jī)器人”所取代,而公眾那種捉摸不定的特質(zhì)也被精準(zhǔn)的用戶畫像所錨定。平臺(tái)空間為用戶增強(qiáng)自身的可見性提供了可能,但另一方面,用戶的可見性受制于平臺(tái)算法本身的運(yùn)作邏輯,有時(shí)呈現(xiàn)出不可見性的特征,用戶搖擺于可見性與不可見性之間,或隱或顯,或沉或浮。就能否被他人看見而言,作為輿論主體的用戶多屬于沉默的大多數(shù),偶有發(fā)聲和顯形,哪些用戶能夠被平臺(tái)賦權(quán)而授予其可見性,哪些用戶被平臺(tái)漠視而其可見性被弱化,這種平臺(tái)把關(guān)狀況就能影響到社會(huì)公眾的認(rèn)知。就能否看見他人而言,表面上看是一種用戶主動(dòng)選擇權(quán)的體現(xiàn),但仍然有被算法裹挾的可能。比如,社交機(jī)器人賬戶作為一種新的“用戶”被創(chuàng)造出來充當(dāng)“公眾”以混淆視聽,這些機(jī)器人還通過關(guān)注人類用戶、模仿人類用戶行為、轉(zhuǎn)發(fā)或者提及人類用戶發(fā)布的信息等方式以增強(qiáng)自身的可見性甚至是可信性。由此,算法通過對(duì)其可見性的控制而達(dá)到干預(yù)輿論的目的。

第二,作為輿論客體的信息交互可見性。算法作為一種新的中介化技術(shù),掌控著信息的可見性。⑩信息的交互可見性包括作為傳播參與者的用戶發(fā)布的議題能否為他人所見,也包括一些其他公共議題能否為作為接收者的用戶所見。就前者而言,主要包括用戶發(fā)布的議題能否引發(fā)大量關(guān)注,而這也能夠通過算法程序進(jìn)行前置干預(yù),或者賦予其較大的權(quán)重而進(jìn)入到其他用戶的推薦列表中,或者降低其權(quán)重而弱化其可見性。就后者而言,議題的可見性程度決定了用戶能否看到以及如何看到該議題,而算法強(qiáng)大的把關(guān)能力可以實(shí)現(xiàn)直接影響信息呈現(xiàn)概率、搜索排序和新聞熱度值。在人工智能時(shí)代,平臺(tái)算法對(duì)信息可見性的控制在很大程度上決定了用戶的注意力資源分配,而注意力資源分配成為引發(fā)輿論合意的必要前提。

第三,作為輿論本體的意見交互可見性。個(gè)體不同意見之間的激蕩、交鋒和辯解,求同存異、求真去虛,進(jìn)而實(shí)現(xiàn)個(gè)體意見融合達(dá)到眾意或公意的形成。眾意輿論的母體不一定代表社會(huì)發(fā)展的進(jìn)步方向,在沉默的螺旋機(jī)制作用下,其更容易被民粹主義或極端主義所綁架,為社會(huì)善治埋下禍根。在算法時(shí)代,公眾作為一個(gè)群體概念被還原為一個(gè)個(gè)獨(dú)立和異質(zhì)的個(gè)體,這為算法直接參與“組織輿論”提供了某種技術(shù)上便捷的可能。如果算法通過對(duì)個(gè)體發(fā)布的意見的顯現(xiàn)和流向進(jìn)行控制,某種意見的可見性程度就決定了社會(huì)關(guān)注的熱度,乃至決定最終能否形成社會(huì)意見的大合流。對(duì)那些不符合某些集團(tuán)利益、不符合某些用戶立場的觀點(diǎn),算法能夠?qū)崿F(xiàn)自動(dòng)化操縱、遮蔽,以壓制其聲音能量。當(dāng)用戶無法感知真實(shí)的意見氣候時(shí),由算法營造的虛假意見氣候就會(huì)影響用戶的判斷。其吊詭之處在于,算法的邏輯給不同觀點(diǎn)之間的正常交流加裝了一道防護(hù)墻,算法投其所好的推薦系統(tǒng)決定了用戶難以接觸到與其立場不一致的信息和觀點(diǎn),所以所謂最終意見的合流多多少少帶有虛幻的色彩。

(二)智能適配的推薦邏輯

算法對(duì)輿論主體、客體和本體的“可見性”進(jìn)行控制的過程是通過智能適配的技術(shù)邏輯實(shí)現(xiàn)的。智能適配強(qiáng)調(diào)基于用戶特定場景為特定的用戶匹配特定的議題和觀點(diǎn),從而可能影響特定用戶的認(rèn)知、態(tài)度和行為。在算法的世界中,輿論的主體、客體和本體都只是一串串或一行行冷冰冰的數(shù)據(jù)代碼或符號(hào)標(biāo)簽,輿論的生成變成了基于輿論主體(用戶)數(shù)據(jù)對(duì)輿論客體(議題)和輿論本體(意見)的數(shù)據(jù)運(yùn)算。通過對(duì)用戶自身網(wǎng)絡(luò)和社交平臺(tái)使用行為習(xí)慣的數(shù)據(jù)進(jìn)行記錄、挖掘和分析,算法形成精準(zhǔn)的用戶畫像,在確定用戶畫像的基礎(chǔ)上,針對(duì)不同用戶個(gè)體為其匹配其感興趣的議題或者推薦與其具有相同立場的觀點(diǎn)、意見等。

智能適配的迎合式信息和觀點(diǎn)推薦,很容易實(shí)現(xiàn)對(duì)用戶個(gè)體意見表達(dá)的潛在影響。在群體層面,由于算法推薦存在信息繭房效應(yīng),用戶的觀點(diǎn)也可能被繭房化,其觀點(diǎn)之間的互動(dòng)缺少了不同立場之間的理性對(duì)話,而多了一些基于共同立場的觀點(diǎn)強(qiáng)化,很容易造成圈層化群體眾意的形成。商業(yè)平臺(tái)的智能適配邏輯是將“公眾”還原成“用戶”,又將用戶當(dāng)作“消費(fèi)者”來看待,它暗含了一種商業(yè)利益最大化的潛規(guī)則,因而導(dǎo)致商業(yè)平臺(tái)上算法眾意退化成為一種“偽公共性”的輿論。

如果存在繭房效應(yīng)的話,要看繭房的大小。一套平臺(tái)算法是一間繭房,但是一套社會(huì)機(jī)制可能是一間更大的繭房。在人類信息傳播的歷史中,普通受眾的自主選擇權(quán)是有限的,他所能選擇的范圍是被劃定的,或者說是信息菜單上的有限選擇權(quán)。從編輯的把關(guān)選擇到媒體的議程設(shè)置,甚至文本隱含的新聞框架,這些理論都揭示出普通受眾的信息近用權(quán)無時(shí)無刻不受到層層的隱性控制和顯性控制。在柏拉圖構(gòu)造的洞穴寓言中,篝火成為一套機(jī)制,限定了囚徒的信息接觸和認(rèn)知方式。如果社會(huì)是一張網(wǎng)或一間房,每個(gè)人都是在網(wǎng)上或房中生存的生物。

三、虛擬空間中“看不見的手”:算法偽輿論的生成路徑

傳統(tǒng)輿論的生成正如李普曼(Walter Lippmann)所揭示的,必須首先經(jīng)過社會(huì)進(jìn)步或精英力量的組織,然后再提供給新聞媒體去表達(dá)。但在人工智能時(shí)代,輿論的生成并未像李普曼所期望的那樣,相反,“組織”甚至“制造”輿論的力量從傳統(tǒng)媒體轉(zhuǎn)移到算法平臺(tái)。正如拉什(Scott Lash)所言：“在一個(gè)媒體和代碼無處不在的社會(huì),算法生成規(guī)則在后霸權(quán)秩序的社會(huì)和文化生活中越來越普遍,權(quán)力越來越存在于算法之中?！痹谛畔鞑サ慕侵饒錾?政治力量、資本力量和其他社會(huì)力量不可避免地附麗在人工智能的身上,這些力量的過度加載則會(huì)導(dǎo)致算法輿論遠(yuǎn)遠(yuǎn)偏離正常的社會(huì)軌道。在網(wǎng)絡(luò)的虛擬空間中,有許多“看不見的手”隱藏在網(wǎng)絡(luò)頁面的幕后,如影隨形,共同催生社會(huì)輿論的形成,人工智能和大數(shù)據(jù)作為其中重要的一支力量,把正常社會(huì)表達(dá)的“公意”輿論操縱為一種滿足特定需求的算法“眾意”的“偽輿論”。

(一)算法推薦的機(jī)器幽靈和社會(huì)議程的幻象

在用戶畫像和需求滿足驅(qū)動(dòng)下,算法推薦成為個(gè)體議程設(shè)置的隱性機(jī)制,它勾勒了用戶渴望看到的外部世界的圖景。大數(shù)據(jù)和算法技術(shù)的結(jié)合不僅能夠?qū)⑷祟愑幸庾R(shí)的行為進(jìn)行算法化,而且能夠?qū)o意識(shí)的行為進(jìn)行算法預(yù)測和把控。正是從可被計(jì)算、被操控的角度,算法實(shí)現(xiàn)了對(duì)個(gè)人的重新定義,并將人物化。在算法加持下,“人”變成了“用戶”,其注意力成為重要資源,算法推薦建構(gòu)的信息繭房成為用戶信息議程的判斷基礎(chǔ)和重要表征。正是基于被算法化的用戶形象,算法將不可描述的樣態(tài)紛呈的整體受眾轉(zhuǎn)化為可逐一標(biāo)注的個(gè)體用戶,從而實(shí)現(xiàn)社會(huì)議程設(shè)置效果從受眾整體到用戶個(gè)體的矢量遷移。但算法推薦背后可能有一雙雙“看不見的手”在操縱,貌似冷冰冰的機(jī)器語言可能存在偏見、誘導(dǎo)、信息窄化等問題,算法成為扭曲現(xiàn)實(shí)的凹凸鏡。

機(jī)器的算法推薦看似是沒有靈魂的自動(dòng)行為,沒有所謂的“機(jī)器幽靈”。實(shí)際上,算法背后總有一套程序規(guī)則、價(jià)值判斷、符號(hào)標(biāo)注、信息選擇等思想或靈魂的體系。這個(gè)思想體系是算法背后“看不見的手”,從社會(huì)運(yùn)行上無可厚非,但若被商業(yè)利益等特殊利益集團(tuán)所綁架,成為一種“幽靈”的存在,則會(huì)使算法偏離社會(huì)發(fā)展公平正義的方向。

媒體議程、平臺(tái)議程、公眾議程三者之間也許有交叉的部分,但并非完全是重疊的,三者之間的互動(dòng)有非常復(fù)雜的微妙之處,何者居于原初的推動(dòng)地位并非容易辨認(rèn)之事。在大數(shù)據(jù)和算法推薦的技術(shù)加持下,平臺(tái)議程深度影響了用戶議程,或者說平臺(tái)議程與用戶議程合流匯集成媒體議程和公眾議程。平臺(tái)利用算法推薦所建構(gòu)的媒體世界迎合了用戶口味,但難以吻合真實(shí)的客觀世界,淪為用戶需求投射平臺(tái)的現(xiàn)實(shí)幻象,由此生成的“眾意”就不可避免地存在算法的“誘導(dǎo)”。國內(nèi)的今日頭條注重對(duì)用戶、內(nèi)容和環(huán)境特征的提取,在“你關(guān)心的,才是頭條”的口號(hào)指導(dǎo)下,沒有兩個(gè)用戶收到完全相同的新聞推薦頁面。國外的劍橋分析公司通過技術(shù)手段分析不同用戶群體的人格特質(zhì)、潛在需求、性格和負(fù)面情感等特征,并根據(jù)社交媒體上的“點(diǎn)贊”傾向快速判斷用戶的性別、性取向和政治傾向,進(jìn)而對(duì)用戶進(jìn)行精準(zhǔn)的信息推送和議程設(shè)定,以影響和干預(yù)用戶的思想觀點(diǎn)和判斷選擇,控制輿論走向。

(二)社交機(jī)器人的帶風(fēng)向和網(wǎng)絡(luò)聲量的兌現(xiàn)

社交機(jī)器人是一種利用算法生成并承擔(dān)特定任務(wù)的社交媒體賬戶,其應(yīng)用已從早期的社交網(wǎng)絡(luò)商業(yè)營銷領(lǐng)域逐漸拓展到政治宣傳領(lǐng)域,成為影響公眾輿論和政治走向的手段。模仿人類用戶并執(zhí)行特定任務(wù)的社交機(jī)器人,能夠以自動(dòng)化算法程序建構(gòu)社交網(wǎng)絡(luò),如主動(dòng)關(guān)注人類用戶和機(jī)器人用戶以增加自身的粉絲數(shù)量,通過模仿人類用戶的社交行為來塑造虛擬的人格形象,以此提升其在人類用戶中的可見性甚至可信性,實(shí)現(xiàn)機(jī)器人網(wǎng)絡(luò)向人類社交網(wǎng)絡(luò)中的深度嵌入。這使由“人”完全主導(dǎo)的社交媒體生態(tài)轉(zhuǎn)向“人+社交機(jī)器人”的共生生態(tài),改變了社交媒體既有的信息交互結(jié)構(gòu),也使輿論生成面臨高度不確定性和復(fù)雜性。

既有研究發(fā)現(xiàn)少量社交機(jī)器人(占用戶總量的5%—10%)即足以引發(fā)沉默的螺旋,從而改變公眾輿論的走向。社交機(jī)器人參與網(wǎng)絡(luò)輿論帶風(fēng)向主要是通過推送重復(fù)內(nèi)容、轉(zhuǎn)發(fā)政客信息內(nèi)容、制造虛假信息和垃圾信息以轉(zhuǎn)移用戶輿論焦點(diǎn)等方式實(shí)現(xiàn)的。在新冠肺炎疫情期間,Twitter有上大量社交機(jī)器人擴(kuò)散“新冠病毒為中國政府在武漢病毒研究所人為制造的生化武器”的陰謀論,其中大量推文信息僅在一秒鐘或一分鐘內(nèi)就被諸如@sonlaiklik、@fatihyedek等社交機(jī)器人同時(shí)轉(zhuǎn)發(fā),實(shí)現(xiàn)了網(wǎng)絡(luò)聲量的增強(qiáng)和廣泛擴(kuò)散。同時(shí),社交機(jī)器人還通過設(shè)計(jì)話題標(biāo)簽、@媒體等方式擴(kuò)大自身信息的傳播力和影響力,增加特定信息的網(wǎng)絡(luò)聲量，實(shí)現(xiàn)干預(yù)輿論的目的。

(三)特殊利益集團(tuán)豢養(yǎng)水軍和網(wǎng)絡(luò)熱點(diǎn)置頂

由于網(wǎng)絡(luò)鍵盤俠的存在可以是匿名的,特殊利益集團(tuán)試圖通過豢養(yǎng)水軍的方式來實(shí)現(xiàn)對(duì)輿論走向的干預(yù)和控制,以實(shí)現(xiàn)特定意圖。早期的網(wǎng)絡(luò)水軍主要是受雇于特定利益集團(tuán)或組織的自然人,而在算法時(shí)代,“人+機(jī)器人”已經(jīng)成為網(wǎng)絡(luò)水軍發(fā)展的新特征,水軍的功能也從早期被動(dòng)“洗地”轉(zhuǎn)向主動(dòng)“控評(píng)”,改變了輿論形成的自發(fā)形態(tài)和自然狀態(tài)。

特殊利益集團(tuán)通過水軍制造熱點(diǎn)形成“偽公共意見氣候”,進(jìn)而隱性干預(yù)輿論。特殊的政治人物、政治團(tuán)體或組織等操縱輿論的方式既可能是直接部署算法,也可能通過將有關(guān)任務(wù)以項(xiàng)目形式外包給商業(yè)公司雇傭水軍來實(shí)現(xiàn)。在美國,從2012年奧巴馬的數(shù)據(jù)團(tuán)隊(duì)幫助其實(shí)現(xiàn)了連任后,西方政治集團(tuán)開始看到了數(shù)據(jù)分析的重要性,之后的候選人都將大量資源投入數(shù)據(jù)分析和操縱過程,如特朗普就直接招募劍橋分析師加入其競選團(tuán)隊(duì)。

特殊商業(yè)機(jī)構(gòu)通過水軍操縱社會(huì)信息流動(dòng),決定熱帖排序,沖擊了正常的信息秩序,干預(yù)了輿論走向。如2018年,某藝人微博轉(zhuǎn)發(fā)量過億引發(fā)圍觀,正是通過星援APP“人工干預(yù)+算法操縱”的結(jié)果。該APP允許用戶首先使用自己的新浪微博賬號(hào)登錄該客戶端,添加需要提高轉(zhuǎn)發(fā)、評(píng)論、點(diǎn)贊數(shù)據(jù)的微博鏈接,依次設(shè)置“內(nèi)容”“隨機(jī)表情”“轉(zhuǎn)發(fā)內(nèi)容”“周期時(shí)間間隔”“并發(fā)時(shí)間間隔”“轉(zhuǎn)發(fā)數(shù)量”“分組”等參數(shù),最后點(diǎn)擊“啟動(dòng)掄博”,即可自動(dòng)實(shí)現(xiàn)批量轉(zhuǎn)發(fā)博文,自動(dòng)提升微博相應(yīng)數(shù)據(jù)。2020年5月,廣州市某小學(xué)因?qū)W生被老師懲罰跑步,引發(fā)家長不滿,家長偽造證據(jù)自行發(fā)布微博，意圖誤導(dǎo)輿論卻效果不佳,遂通過網(wǎng)絡(luò)推手進(jìn)行微博擴(kuò)散,僅花760元就實(shí)現(xiàn)了短短數(shù)小時(shí)相關(guān)微博被轉(zhuǎn)發(fā)140萬余次、評(píng)論46.5萬余次、閱讀5.4億次的傳播目標(biāo),導(dǎo)致涉事老師被人肉搜索,引發(fā)輿論圍觀。但公安機(jī)關(guān)介入后發(fā)現(xiàn),這是由家長造假、資本助陣、算法助力的假事件。

四、算法霸權(quán):算法偽輿論的社會(huì)性風(fēng)險(xiǎn)

毋庸置疑,技術(shù)整體上推進(jìn)了現(xiàn)代社會(huì)的進(jìn)步和發(fā)展,但技術(shù)這把雙刃劍,在給人類帶來福祉的同時(shí),也不可避免地帶來了一些不容忽視的副作用。拉什認(rèn)為風(fēng)險(xiǎn)社會(huì)中始料未及的風(fēng)險(xiǎn)不再是由工業(yè)社會(huì)的物質(zhì)化生產(chǎn)過程中所產(chǎn)生的風(fēng)險(xiǎn)和危險(xiǎn),而是從信息領(lǐng)域、生物技術(shù)領(lǐng)域、通信和軟件領(lǐng)域所產(chǎn)生的新的風(fēng)險(xiǎn)和危險(xiǎn)。張濤甫則指出,輿論風(fēng)險(xiǎn)已經(jīng)成為媒介化社會(huì)中的“軟風(fēng)險(xiǎn)”。在技術(shù)的加持下,算法偽輿論的社會(huì)性風(fēng)險(xiǎn)的負(fù)面作用更廣泛、更深入且更隱蔽。

(一)鉗制輿論主體的理性表達(dá)

在算法全面介入人們?nèi)粘Ｐ畔@取的環(huán)境下,人對(duì)算法形成了高度依賴,算法對(duì)人形成了高度控制,出現(xiàn)算法替代人去思考、判斷和決策的“技術(shù)壟斷”局面。算法被凱西·奧尼爾(Cathy O′neal)稱之為“數(shù)學(xué)殺傷性武器”,正在逐漸衍生出另一種霸權(quán)——算法霸權(quán)。算法霸權(quán)造成了對(duì)人的權(quán)利的壓制,其中,最重要的就是涉及公共事務(wù)的知情權(quán)和表達(dá)權(quán)。一個(gè)議題,用戶能否知情、如何參與、如何思考進(jìn)而表達(dá)觀點(diǎn),都受制于算法的內(nèi)容呈現(xiàn)和智能匹配。正如荷蘭學(xué)者范·戴克(José van Dijck)所言,用戶需要平臺(tái)來發(fā)表他們的意見和創(chuàng)造性表達(dá),而平臺(tái)需要用戶按照預(yù)先設(shè)定的格式化來匯集其表達(dá)。內(nèi)容是自發(fā)形成的,卻受到控制,內(nèi)容是無中介的,卻受到操縱。算法輿論切入人類社會(huì)的正常輿論生態(tài)之中,甚至在算法的推薦下引發(fā)巨大的網(wǎng)絡(luò)聲量,容易導(dǎo)致人類正常輿論空間受到擠壓。

(二)挑戰(zhàn)主流媒體的輿論引導(dǎo)權(quán)

一個(gè)健康的社會(huì)離不開主流的意識(shí)形態(tài)表達(dá)和主流的輿論建構(gòu),傳統(tǒng)的輿論引導(dǎo)主要通過主流媒體的議程設(shè)置來實(shí)現(xiàn),而智能時(shí)代平臺(tái)算法推薦極大地消解了傳統(tǒng)主流媒體的議程設(shè)置功能。在傳播生態(tài)的迭代演進(jìn)中,傳統(tǒng)主流媒體守望社會(huì)主流價(jià)值,但面臨各類APP平臺(tái)對(duì)受眾市場的爭奪,報(bào)紙的傳閱率和電視的收視率日趨走低。算法作為社會(huì)信息流動(dòng)的基本技術(shù)邏輯,機(jī)器代替人力發(fā)揮著議程設(shè)置的作用和對(duì)信息的隱性把關(guān)作用。在國內(nèi),以今日頭條、一點(diǎn)資訊、抖音、快手等為代表的平臺(tái),通過強(qiáng)大的算法推薦機(jī)制使其深深獲得用戶黏性,甚至扮演著傳統(tǒng)主流媒體信息傳播者的角色,直接挑戰(zhàn)了傳統(tǒng)主流媒體的輿論引導(dǎo)權(quán)。在國外,新興社交媒體(諸如Facebook、Twitter、YouTube等)事實(shí)上成為建構(gòu)全球信息傳播流動(dòng)的主要力量。在平臺(tái)算法推薦中,由于平臺(tái)的價(jià)值訴求更多地考慮其自身的商業(yè)利益等,對(duì)社會(huì)公共利益關(guān)注過低,因此在社會(huì)主流的輿論導(dǎo)向中難免偏離公意訴求。如果一個(gè)社會(huì)沒有核心的意識(shí)形態(tài)共識(shí),或者說沒有一個(gè)主流媒體能夠維護(hù)核心意識(shí)形態(tài)合法化的功能,則這個(gè)社會(huì)作為一個(gè)系統(tǒng)的可持續(xù)發(fā)展就受到極大的挑戰(zhàn)。

(三)撕裂民眾的社會(huì)共識(shí)

社會(huì)成員結(jié)構(gòu)多元復(fù)雜,各成員之間需要彼此對(duì)話和協(xié)同融合,才能使社會(huì)可持續(xù)良性發(fā)展。德國學(xué)者諾依曼(Elisabeth Noelle-Neumann)提出“輿論是我們的社會(huì)皮膚”。正因?yàn)樽鳛槠つw的輿論,社會(huì)各機(jī)體得以交流和整合。算法具有“制造輿論”的特性,但使用不當(dāng)容易引發(fā)輿論場結(jié)構(gòu)性危機(jī),破壞公眾感知社會(huì)現(xiàn)實(shí)的正常判斷,如同灼傷民眾的皮膚。輿論場的正常狀態(tài)應(yīng)是民眾對(duì)社會(huì)事實(shí)的真實(shí)反映,但在算法“制造輿論”的情況下,輿論場為某些特定利益集團(tuán)所控制,哪些議題能夠?yàn)楣娝姴⒉皇怯涩F(xiàn)實(shí)社會(huì)中話題的重要程度來決定的,而是由其背后的資本推手決定的。在商業(yè)邏輯主導(dǎo)下,一些關(guān)系國計(jì)民生的硬新聞、關(guān)系公共利益的議題通常難以進(jìn)入公眾視野,反而一些娛樂八卦(如明星離婚、出軌、吸毒)等事件屢次沖上熱搜。在算法的干預(yù)下,一些看似引發(fā)公眾關(guān)注的輿論事件,實(shí)際上正是特定利益集團(tuán)通過“人工+算法”等方式進(jìn)行的針對(duì)性呈現(xiàn)和引導(dǎo),小事件通過資本與算法的推動(dòng)能成為大事件,假事件甚至由此變成萬眾矚目的真事件,并引發(fā)現(xiàn)實(shí)危機(jī)。輿論是社會(huì)共識(shí)得以形成的重要機(jī)制,這不僅是在個(gè)人意見的表達(dá)層面、個(gè)人與社會(huì)的關(guān)系層面,也是在輿論作為社會(huì)黏合劑層面的意義而言的,但算法偽輿論生態(tài)使社會(huì)“公眾”之間的理性對(duì)話和共識(shí)難以實(shí)現(xiàn),由此導(dǎo)致輿論場面臨撕裂風(fēng)險(xiǎn)。

(四)沖擊社會(huì)治理的基座

輿論是政府進(jìn)行社會(huì)治理的重要依據(jù)。新聞、信息或者廣告的推送主要基于對(duì)用戶數(shù)據(jù)的收集,算法通過推斷用戶的偏好來呈現(xiàn)其可能感興趣的內(nèi)容。越來越多的證據(jù)表明,算法被用于政治宣傳,從國家間的信息戰(zhàn)到國內(nèi)競選與公投,無一不試圖充分利用臉書和YouTube等主流社交媒體的算法程序發(fā)起攻勢。一些特定利益集團(tuán)的利益訴求,在算法的操控下形成社會(huì)的巨大輿論,并被當(dāng)作真實(shí)的民意,介入到現(xiàn)實(shí)政治中。2016年美國大選期間,特朗普、希拉里競選團(tuán)隊(duì)均借助“機(jī)器人水軍”在社交媒體中進(jìn)行政治宣傳,推特上19%的大選推文來自“機(jī)器人水軍”。相比希拉里,特朗普的“機(jī)器人水軍”有其五倍的數(shù)量優(yōu)勢,這在某種程度上也被認(rèn)為是特朗普最終贏得勝利的原因之一。當(dāng)算法輿論被用于一國的政治選舉時(shí),算法操控民眾投票意向就成為某些政治集團(tuán)攫取政治權(quán)力的手段,這時(shí)算法輿論就成為“陰謀政治的體現(xiàn)”。由此,政府治理賴以存在的基礎(chǔ)——輿論成為算法操縱的結(jié)果,在算法的加持下,盧梭所言的“眾意”和“公意”進(jìn)行了合流,而普通民眾根本無法甄別其真?zhèn)巍?/p>

五、建立多方協(xié)同的算法安全治理機(jī)制:算法偽輿論風(fēng)險(xiǎn)的社會(huì)治理

隨著算法濫用引發(fā)的潛在社會(huì)風(fēng)險(xiǎn)加劇,對(duì)算法偽輿論的治理既是黨的新聞輿論工作的內(nèi)在要求,也是保障國家算法安全、防范算法濫用帶來意識(shí)形態(tài)風(fēng)險(xiǎn)的有力舉措。這需要建立以政府為主導(dǎo)包括算法研發(fā)企業(yè)、新聞媒體和網(wǎng)民在內(nèi)的多方協(xié)同參與的算法安全治理機(jī)制,形成合力,確保算法安全和意識(shí)形態(tài)安全。

(一)政府:建立健全法律法規(guī)體系

算法促進(jìn)社會(huì)善治,但算法濫用也給社會(huì)治理帶來挑戰(zhàn),算法偽輿論更是對(duì)意識(shí)形態(tài)安全形成巨大挑戰(zhàn)。因此,政府應(yīng)增強(qiáng)頂層設(shè)計(jì),用完善的法律法規(guī)規(guī)制算法,積極引導(dǎo)多方利益主體參與治理算法,建立健全多方參與的算法安全治理機(jī)制。目前,已有國家通過法律形式對(duì)算法進(jìn)行規(guī)制。2019年4月,美國出臺(tái)了《2019年算法問責(zé)法案》,規(guī)定企業(yè)對(duì)其人工智能工具和系統(tǒng)的“準(zhǔn)確性、公平性、偏見、歧視、隱私和安全性”等問題進(jìn)行自我審查。2019年5月,新加坡通過了《防止網(wǎng)絡(luò)虛假信息和網(wǎng)絡(luò)操縱法案》,該法案明確了具有“政治目的趨向”和“危害公共利益”這兩種最關(guān)鍵的網(wǎng)絡(luò)操縱行為,并對(duì)其進(jìn)行了限制,提出了懲罰措施。我國相繼出臺(tái)了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》以及《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等,在不同層面涉及對(duì)算法的治理問題。2021年9月,國家互聯(lián)網(wǎng)信息辦公室等部委發(fā)布的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》,規(guī)定要防止利用算法干擾社會(huì)輿論,防范算法濫用帶來意識(shí)形態(tài)、經(jīng)濟(jì)發(fā)展和社會(huì)管理等方面的風(fēng)險(xiǎn)隱患。

(二)企業(yè):強(qiáng)化算法企業(yè)的科技倫理意識(shí)

商業(yè)公司是算法研發(fā)與推廣應(yīng)用的重要主體,其研發(fā)的算法技術(shù)逐漸滲透到新聞傳播領(lǐng)域,成為影響輿論生態(tài)的重要力量。但企業(yè)過度的商業(yè)利益追求也讓算法的應(yīng)用出現(xiàn)了偏差,甚至將算法導(dǎo)向異化的境地。為確保算法安全和意識(shí)形態(tài)安全,算法研發(fā)企業(yè)應(yīng)堅(jiān)持正確導(dǎo)向,強(qiáng)化科技倫理意識(shí)、安全意識(shí)和底線思維,堅(jiān)持科技向善理念。企業(yè)的算法研發(fā)需要正確處理短期商業(yè)利益與長期社會(huì)效益之間的沖突,堅(jiān)持社會(huì)效益第一的原則；要努力消除算法可能引發(fā)的偏見與歧視,堅(jiān)持算法研發(fā)的公平公正、透明可釋原則；要對(duì)算法可能帶來的負(fù)面效應(yīng)有相應(yīng)的校正機(jī)制和優(yōu)化方案,將算法潛在的負(fù)面影響降到最低,確保算法的自主、安全、可控。實(shí)際上,技術(shù)與產(chǎn)品服務(wù)的背后是人,人是衡量技術(shù)與產(chǎn)品的重要尺度。企業(yè)要認(rèn)識(shí)到算法只有與社會(huì)實(shí)現(xiàn)良性互動(dòng),才能發(fā)揮科技造福人類的最大價(jià)值,要認(rèn)識(shí)到算法應(yīng)該用于造福人和社會(huì),而不是讓算法成為操控人和社會(huì)的隱蔽工具。在中華民族偉大復(fù)興的征程上,要讓算法始終服務(wù)于黨和國家發(fā)展的戰(zhàn)略大局,服務(wù)于人民利益與社會(huì)進(jìn)步,要規(guī)避利用算法危害國家安全、操控政治和意識(shí)形態(tài)的風(fēng)險(xiǎn),不為利用算法推薦傳播負(fù)面信息、分裂社會(huì)共識(shí)提供可能。

(三)媒體:以主流價(jià)值導(dǎo)向駕馭算法

在全媒體時(shí)代,媒體肩負(fù)著維護(hù)主流價(jià)值觀和意識(shí)形態(tài)的重要職責(zé),作為算法推廣應(yīng)用的重要主體,媒體需要用主流價(jià)值導(dǎo)向駕馭算法推薦的新聞內(nèi)容,全面提高輿論引導(dǎo)能力。目前,在商業(yè)公司研發(fā)的算法之外,各類新聞媒體也自主研發(fā)了“黨媒算法”“主流算法”等各類算法,確保算法能夠傳播正能量、維護(hù)主流價(jià)值觀。其中,人民日?qǐng)?bào)新媒體推出的“黨媒算法”探索個(gè)性化推薦與主流價(jià)值結(jié)合的新路徑；央視頻打造的“總臺(tái)算法”則在傳播量、瀏覽量、點(diǎn)贊量等常規(guī)流量指標(biāo)外,加入價(jià)值傳播因子、動(dòng)態(tài)平衡網(wǎng)絡(luò)、社會(huì)網(wǎng)絡(luò)評(píng)價(jià)體系等與正能量傳播相關(guān)的指標(biāo),探索算法服務(wù)正能量傳播的可能性；川觀新聞8.0版客戶端則推出了“主流媒體算法”,通過把控內(nèi)容質(zhì)量、加深內(nèi)容認(rèn)識(shí)、優(yōu)化智能分發(fā)、追蹤傳播效果等措施,采用主流價(jià)值內(nèi)容采集和質(zhì)量審核系統(tǒng),確保優(yōu)質(zhì)熱點(diǎn)新聞入庫,實(shí)現(xiàn)了對(duì)主流價(jià)值觀的賦予。主流媒體作為黨和政府聯(lián)系群眾的橋梁和紐帶,不僅需要傳播正能量,還需要充分利用算法來聚合信息,讓網(wǎng)絡(luò)成為收集社情民意的新平臺(tái)和凝聚社會(huì)共識(shí)的新空間。在根本上,主流媒體要以算法為中介，實(shí)現(xiàn)黨、政府和人民群眾等不同主體之間的良性互動(dòng),找到“民意的最大公約數(shù)”,讓算法成為新時(shí)期引導(dǎo)輿論、凝聚共識(shí)、治國理政的技術(shù)基石。

(四)個(gè)體:提升網(wǎng)民的算法素養(yǎng)

人是輿論生成的主體,即使是社交機(jī)器人帶動(dòng)風(fēng)向也要依賴自然人的實(shí)際行動(dòng)才能產(chǎn)生相應(yīng)效應(yīng)。在算法將“公眾”化解成一個(gè)個(gè)“用戶”的過程中,“公眾”成為可以量化的測量指標(biāo)。從這個(gè)層面來看,要確保算法安全,抵御算法偽輿論帶來的意識(shí)形態(tài)風(fēng)險(xiǎn),還要提升網(wǎng)民的算法素養(yǎng)。算法素養(yǎng)脫胎于媒介素養(yǎng),它的主要目標(biāo)是培養(yǎng)人們與算法的共存能力。目前,算法與用戶呈現(xiàn)互動(dòng)共生、相互馴化的關(guān)系。算法需要依賴用戶的數(shù)據(jù)資源優(yōu)化自身推薦模型,而用戶需要依賴算法獲得個(gè)性化信息,因而呈現(xiàn)互動(dòng)共生狀態(tài)。算法的個(gè)性化智能推薦對(duì)用戶的信息獲取方式進(jìn)行了馴化,讓用戶依附于算法本身的邏輯,但同時(shí)用戶的使用行為又會(huì)影響算法推薦的效果,兩者呈現(xiàn)出相互馴化的過程。因此,網(wǎng)民的算法素養(yǎng)就包括認(rèn)識(shí)到算法的存在以及它對(duì)人類信息獲取的干預(yù)。具體包括認(rèn)識(shí)到算法已經(jīng)構(gòu)成了我們的基本環(huán)境,算法能夠?qū)ξ覀兪褂酶黝愃惴ㄆ脚_(tái)衍生的數(shù)據(jù)進(jìn)行收集并計(jì)算，對(duì)經(jīng)由計(jì)算而產(chǎn)生的算法傳播信息偏向性有足夠認(rèn)識(shí),對(duì)算法機(jī)器人能夠進(jìn)行感知和簡單識(shí)別,對(duì)算法可能干預(yù)輿論的風(fēng)險(xiǎn)進(jìn)行識(shí)別。算法在馴化人的同時(shí)也被人所馴化。因此,網(wǎng)民的算法素養(yǎng)還應(yīng)包括具備一定的馴化算法的能力,即在使用算法平臺(tái)中通過調(diào)整自身的行為,利用算法的實(shí)時(shí)優(yōu)化與調(diào)整特性,對(duì)算法進(jìn)行反向馴化。具體包括對(duì)算法平臺(tái)某類信息的忽視、減少點(diǎn)擊率、減少觀看時(shí)間等,以減少算法對(duì)此類信息的推送；還包括用戶通過算法平臺(tái)偶遇其他信息的能力,如增加對(duì)公共信息的關(guān)注度、對(duì)不同意見的接觸頻率等,減少算法同質(zhì)化信息推薦,增加信息推薦的多元性。網(wǎng)民算法素養(yǎng)的提升,能夠增強(qiáng)自身對(duì)算法平臺(tái)信息的辨別能力,而不至于讓算法主導(dǎo)甚至控制,這為確保算法安全和意識(shí)形態(tài)安全提供了前提。

六、結(jié)語

在洞穴寓言中,篝火作為一種工具,投射的是可感事物的影像,從而給“囚徒”帶來了認(rèn)知困境。人們只有走出洞穴的羈絆,才能獲得認(rèn)知上的突破。算法也許成為這個(gè)時(shí)代新的一堆篝火,其構(gòu)筑的信息環(huán)境成為新的事物影像,而成千上萬的網(wǎng)民正似“囚徒”深陷其中。如何認(rèn)識(shí)洞穴外的世界,讓自己參與到廣闊的社會(huì)活動(dòng)中,而不至于對(duì)世界進(jìn)行誤判,這有賴于人們不斷突破自身的局限和周圍環(huán)境的制約。

在以算法代碼為基本運(yùn)行邏輯的“算法社會(huì)”中,人們成為一串串?dāng)?shù)字表征的透明體,在大數(shù)據(jù)的海洋中無法逃脫被捕捉的境況。無論是對(duì)外部信息的獲取,還是自我意見的表達(dá),或是對(duì)周圍環(huán)境的感知與判斷,人們都被算法所捕獲。就輿論生成而言,算法通過對(duì)輿論三要素的“可見性”進(jìn)行控制,并在其與用戶之間進(jìn)行智能適配,進(jìn)而影響用戶認(rèn)知中的外部世界。當(dāng)算法技術(shù)為特殊利益集團(tuán)所操縱,社會(huì)輿論運(yùn)行就會(huì)偏離正常的生成軌道,從而淪落為一種“偽輿論”。對(duì)算法“偽輿論”進(jìn)行治理既是新時(shí)代黨的新聞輿論工作的內(nèi)在要求,也是保障國家算法安全、防范算法濫用帶來意識(shí)形態(tài)風(fēng)險(xiǎn)的必要工作。如何建立科學(xué)、合理的算法輿論引導(dǎo)機(jī)制,確保算法安全,避免算法濫用,讓算法為公眾利益服務(wù),成為算法時(shí)代的全新命題。

注釋:

① [法]讓-雅克·盧梭:《社會(huì)契約論》,何兆武譯,商務(wù)印書館2003年版,第35頁。

② 隋巖、唐忠敏:《網(wǎng)絡(luò)敘事的生成機(jī)制及其群體傳播的互文性》,《中國社會(huì)科學(xué)》,2020年第10期,第181頁。

③ 郭小平:《智能傳播的算法風(fēng)險(xiǎn)及其治理路徑》,《國家治理》,2020年第22期,第43頁。

④ 胡月星:《“算法焦慮”的生成機(jī)理及紓解之道》,《人民論壇》,2021年第Z1期,第23-24頁。

⑤ 段鵬:《平臺(tái)經(jīng)濟(jì)時(shí)代算法權(quán)力問題的治理路徑探索》,《東岳論叢》,2020年第5期,第111頁。

⑥ 張洪忠、段澤宇、楊慧蕓:《政治機(jī)器人在社交媒體空間的輿論干預(yù)分析》,《新聞界》,2019年第9期,第20-25頁。

⑦ 師文、陳昌鳳:《議題凸顯與關(guān)聯(lián)構(gòu)建:Twitter社交機(jī)器人對(duì)新冠疫情討論的建構(gòu)》,《現(xiàn)代傳播》,2020年第10期,第50-56頁。

⑧ Daniel DaYan.ConqueringVisibility，ConferringVisibility:VisibilitySeekersandMediaPerformance,International Journal of Communication,vol.1,no.7，2013.pp.137-153.

⑨ 姜紅、開薪悅:《“可見性”賦權(quán)——輿論是如何“可見”的？》,《蘇州大學(xué)學(xué)報(bào)》(哲學(xué)社會(huì)科學(xué)版),2017年第3期,第147頁。

⑩ 羅昕:《算法媒體的生產(chǎn)邏輯與治理機(jī)制》,《人民論壇·學(xué)術(shù)前沿》,2018年第24期,第25頁。