計(jì)算宣傳：人工智能時(shí)代的公共輿論新形態(tài)

羅昕

【摘要】計(jì)算宣傳是當(dāng)前一種最新的、普遍的、全球性的宣傳形式，是社交媒體平臺(tái)、自動(dòng)化機(jī)器人和大數(shù)據(jù)算法的集合體，旨在有組織地操縱公共輿論。計(jì)算宣傳帶來(lái)潛在的影響，通過(guò)偽造信息或活動(dòng)“制造同意”，產(chǎn)生“虛假民主”;通過(guò)“兩極分化”擾亂公共領(lǐng)域，撕裂社會(huì)共識(shí);通過(guò)“武器化”的意識(shí)形態(tài)宣傳改變?nèi)虻鼐壵胃窬?。?jì)算宣傳的治理，關(guān)乎世界信息傳播新秩序的推進(jìn)，需要多行為體的協(xié)同參與，以共建全球網(wǎng)絡(luò)空間命運(yùn)共同體。

【關(guān)鍵詞】計(jì)算宣傳? 公共輿論? 社交機(jī)器人? 制造同意

【中圖分類(lèi)號(hào)】G206? ? ? ? ? ? ? ? ? ? ? ? ? ?【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2020.15.003

計(jì)算宣傳是一種最新的、普遍的、全球性的宣傳形式，在很多國(guó)家得到了廣泛的應(yīng)用。我們將生活在一個(gè)有真正影響的人造揚(yáng)聲器的世界。計(jì)算宣傳的政治行動(dòng)者包括政黨、政治候選人、戰(zhàn)略傳播公司，甚至國(guó)家力量。這些強(qiáng)大的行動(dòng)者常與在思想上支持他們事業(yè)的私營(yíng)企業(yè)、民間社會(huì)組織、互聯(lián)網(wǎng)亞文化、青年團(tuán)體、黑客團(tuán)體、邊緣運(yùn)動(dòng)、社交媒體影響者和志愿者進(jìn)行協(xié)調(diào)合作。計(jì)算宣傳可以使強(qiáng)勢(shì)行動(dòng)者將公共話(huà)語(yǔ)框架置于有利于自身的顯著地位上，而那些沒(méi)有財(cái)政資源和人工智能機(jī)器人知識(shí)的弱勢(shì)行動(dòng)者并不能輕易地影響政治話(huà)語(yǔ)。計(jì)算宣傳在政策辯論、政治選舉、國(guó)家安全和政治危機(jī)中占有重要地位。計(jì)算宣傳日益與后真相政治交織在一起。在后真相政治時(shí)代，由于客觀事實(shí)在塑造輿論方面的影響力不如訴諸情感和個(gè)人信仰，計(jì)算宣傳可能會(huì)變得更加重要。

計(jì)算宣傳的概念

宣傳是一種傳播和說(shuō)服某種信仰或價(jià)值觀的藝術(shù)。宣傳有幾種類(lèi)型：白色宣傳是指公開(kāi)表明信息來(lái)源的宣傳;灰色宣傳是指不說(shuō)明信息來(lái)源的宣傳;黑色宣傳是指隱蔽真實(shí)信息來(lái)源的宣傳。宣傳媒介的歷史在某種程度上總是與空間和時(shí)間有關(guān)。從早期的傳單、小冊(cè)子到大眾傳播時(shí)代的報(bào)刊、廣播、影視，再到互聯(lián)網(wǎng)時(shí)代的網(wǎng)站、社交媒體，直至人工智能時(shí)代的算法媒體、社交機(jī)器人。宣傳方式從人工日益轉(zhuǎn)向自動(dòng)化、智能化，從公開(kāi)可見(jiàn)性日益轉(zhuǎn)向隱形不可見(jiàn)性。傳統(tǒng)上把宣傳理解為“通過(guò)操縱重要符號(hào)來(lái)管理集體態(tài)度”的思想仍然存在，但這種操縱隨著人工智能的到來(lái)而發(fā)生了變化?！盎ヂ?lián)網(wǎng)通過(guò)操縱算法管理在線(xiàn)信息以及通過(guò)大數(shù)據(jù)分析確定目標(biāo)受眾，為有效傳播宣傳提供了新的條件。宣傳性質(zhì)不斷變化帶來(lái)的社會(huì)影響才剛剛開(kāi)始被理解，而互聯(lián)網(wǎng)時(shí)代所帶來(lái)的社會(huì)和技術(shù)的空前結(jié)合，使這種理解的進(jìn)展變得復(fù)雜。”[1]由此，宣傳最初被用來(lái)中立地描述信息傳播，而在人工智能時(shí)代它越來(lái)越多地被認(rèn)為是貶義的，與操縱公共輿論有關(guān)。計(jì)算宣傳也越來(lái)越成為不同政治行動(dòng)者有目的地操縱公共輿論的重要策略。

計(jì)算宣傳的經(jīng)典定義可解釋為“社交媒體平臺(tái)、自動(dòng)化代理人和大數(shù)據(jù)的集合體，旨在有組織地操縱公共輿論”[2]。計(jì)算宣傳既是社會(huì)現(xiàn)象，也是技術(shù)現(xiàn)象。計(jì)算是技術(shù)手段，宣傳是操縱目的，計(jì)算宣傳是手段和目的的統(tǒng)一體，缺一不可。有計(jì)算無(wú)宣傳或者說(shuō)有宣傳無(wú)計(jì)算，都不是完整意義上的計(jì)算宣傳。

從技術(shù)層面講，計(jì)算宣傳是人工智能、大數(shù)據(jù)算法、社交機(jī)器人等技術(shù)的集合。新興的人工智能技術(shù)將從根本上增強(qiáng)計(jì)算宣傳的能力。人工智能聊天機(jī)器人、人工智能合成圖像語(yǔ)音、自動(dòng)化音視頻操作工具、深度偽造技術(shù)、機(jī)器深度學(xué)習(xí)、大數(shù)據(jù)可視化內(nèi)容生成、情感計(jì)算工具、心理測(cè)量分析等技術(shù)，將使廣泛、高效、精準(zhǔn)、自主的計(jì)算宣傳成為可能。大數(shù)據(jù)算法在產(chǎn)生和管理我們的傳播和共享文化方面起著至關(guān)重要的作用，不僅在決定我們應(yīng)該看什么，還影響著我們應(yīng)該想什么。社交媒體平臺(tái)的可供性（affordance）使它們成為傳播計(jì)算宣傳的強(qiáng)大基礎(chǔ)設(shè)施。機(jī)器人是計(jì)算宣傳不可或缺的自動(dòng)化程序，是一種用于執(zhí)行簡(jiǎn)單、重復(fù)任務(wù)的軟件。部署在社交媒體上的機(jī)器人（簡(jiǎn)稱(chēng)“社交機(jī)器人”）是一種計(jì)算機(jī)算法，能自動(dòng)生成內(nèi)容并在社交媒體上與人類(lèi)互動(dòng)，試圖模仿并可能改變?nèi)祟?lèi)的行為。當(dāng)社交機(jī)器人被用于政治操縱時(shí)就成為了政治機(jī)器人。政治機(jī)器人作為非人類(lèi)行動(dòng)者，充當(dāng)了政治行動(dòng)者擴(kuò)音器或代理人的角色，在政治對(duì)話(huà)中有著微小但戰(zhàn)略性的作用。目前政治機(jī)器人有三種[3]：（1）宣傳機(jī)器人：試圖通過(guò)大量傳播真實(shí)、半真半假和徹頭徹尾虛假的信息來(lái)說(shuō)服和影響;（2）跟隨者機(jī)器人：假裝某個(gè)想法或人物獲得廣泛的共識(shí)而成為趨勢(shì)話(huà)題或明星人物;（3）路障機(jī)器人：通過(guò)轉(zhuǎn)移視線(xiàn)或話(huà)題來(lái)破壞正在自然進(jìn)行的對(duì)話(huà)。

從社會(huì)層面講，計(jì)算宣傳源自宣傳的定義——有意操縱符號(hào)，訴諸情感和偏見(jiàn)并繞開(kāi)理性思維以實(shí)現(xiàn)其創(chuàng)建者的特定目標(biāo)。計(jì)算宣傳的操縱策略包括：（1）戰(zhàn)略部署政治機(jī)器人，在社交媒體上攻擊外國(guó)或政治對(duì)手，以遣散政治對(duì)手的追隨者使競(jìng)爭(zhēng)對(duì)手去動(dòng)員化，淹沒(méi)政治對(duì)手的議題/議程設(shè)置;（2）發(fā)布親政府或政黨或候選人的信息，夸大社交媒體追隨者名單，從多個(gè)機(jī)器人驅(qū)動(dòng)的帳戶(hù)發(fā)出大量推文“炸彈”，幫助產(chǎn)生虛假的受歡迎感或政治共識(shí);（3）混合使用算法分發(fā)、政治機(jī)器人、網(wǎng)絡(luò)釣魚(yú)和政治行動(dòng)者一起工作。具體來(lái)說(shuō)，政治機(jī)器人通過(guò)社交媒體來(lái)產(chǎn)生虛假信息、玩弄標(biāo)簽、制造趨勢(shì)、放大特定內(nèi)容，并同時(shí)啟動(dòng)“偽草根運(yùn)動(dòng)”（Astroturfing）。這種優(yōu)越但陰險(xiǎn)的計(jì)算宣傳混合手段通常掌握在有權(quán)勢(shì)且資源充足的政治行動(dòng)者手中。[4]這些所謂的“半機(jī)器人”被部署起來(lái)以幫助躲避檢測(cè)，并使交互感覺(jué)更真實(shí)。

計(jì)算宣傳的興起

在2016年美國(guó)總統(tǒng)競(jìng)選期間，機(jī)器人流量占所有在線(xiàn)流量的60%以上，比兩年前增加了近20%;[5]約有20%的機(jī)器人在Twitter上產(chǎn)生了約20%的政治辯論;[6]在選舉日，支持特朗普的社交機(jī)器人份額以5：1的比例超過(guò)希拉里，其中前100名的自動(dòng)賬戶(hù)每天發(fā)布大約500條推特，占所有與總統(tǒng)選舉有關(guān)推特流量的近18%;[7]在特朗普和希拉里的個(gè)人賬戶(hù)上運(yùn)行機(jī)器人檢測(cè)軟件時(shí)，分別檢測(cè)到約59%和50%的追隨者是機(jī)器人。[8]Twitter和Facebook上高度自動(dòng)化賬戶(hù)和虛假賬戶(hù)的大型網(wǎng)絡(luò)宣傳了對(duì)希拉里腐敗的指控，并推動(dòng)了諸如她與戀童癖或聯(lián)邦調(diào)查局特工神秘死亡之類(lèi)事件有關(guān)的大量垃圾新聞報(bào)道。[9]在有關(guān)中美貿(mào)易談判議題討論中也發(fā)現(xiàn)了計(jì)算宣傳，社交機(jī)器人占比13%，發(fā)布內(nèi)容占比接近20%;從話(huà)題傾向性上看，社交機(jī)器人中反對(duì)貿(mào)易談判的占了多數(shù)（55%），大部分內(nèi)容跟美國(guó)農(nóng)民有關(guān)。[10]

在2016年英國(guó)脫歐公投中，社交機(jī)器人被積極利用以支持英國(guó)應(yīng)該離開(kāi)歐盟的觀點(diǎn)。政治機(jī)器人在此次公民投票對(duì)話(huà)中有一個(gè)很小但是有戰(zhàn)略性的角色：與離開(kāi)歐盟論點(diǎn)相關(guān)的標(biāo)簽家族占主導(dǎo)地位，對(duì)這一問(wèn)題的不同觀點(diǎn)利用了不同層次的自動(dòng)化，少于1%的抽樣帳戶(hù)生成幾乎三分之一的消息;[11]在2016年6月，77，000名機(jī)器人“簽署”了第二次英國(guó)退歐公投的網(wǎng)上請(qǐng)?jiān)笗?shū);[12]有13，493個(gè)Twitter機(jī)器人組成了支持脫離歐盟的網(wǎng)絡(luò)運(yùn)動(dòng)。[13]

機(jī)器人推動(dòng)了法國(guó)“馬克龍泄密”的虛假信息運(yùn)動(dòng)，“與馬克龍泄密有關(guān)的用戶(hù)大多是對(duì)右翼話(huà)題和另類(lèi)媒體有預(yù)先興趣的外國(guó)用戶(hù)，而不是具有不同的政治觀點(diǎn)的法國(guó)用戶(hù)。反常的賬戶(hù)使用模式表明可能存在一個(gè)可重復(fù)使用的政治虛假信息機(jī)器人的黑市”。[14]在德國(guó)2017年競(jìng)選活動(dòng)中，2月到9月之間的“高度自動(dòng)化”推特從5.7%增至7.4%[15];機(jī)器人的比例從以前的7.1%上升到了9.9%。[16]

在恐怖主義宣傳活動(dòng)中發(fā)現(xiàn)了大量機(jī)器人的存在。從2012年到2016年，伊斯蘭國(guó)（ISIS）建立了一個(gè)虛擬的在線(xiàn)哈里發(fā)。他們把視頻傳到了YouTube，然后交叉發(fā)布到Facebook和Twitter進(jìn)行傳播。他們創(chuàng)建了數(shù)千個(gè)Twitter賬戶(hù)，包括人類(lèi)粉絲和機(jī)器人，利用這個(gè)平臺(tái)一對(duì)一招募同情者，制造關(guān)于恐怖襲擊的流行標(biāo)簽和幸災(zāi)樂(lè)禍的輿論情緒。反恐組織幽靈安全集團(tuán)（Ghost Security Group）過(guò)去曾指出，ISIS利用幾乎所有可以想象的社交應(yīng)用來(lái)交流和分享其宣傳，包括像臉譜和推特這樣的支柱平臺(tái)，加密聊天應(yīng)用程序。ISIS正在通過(guò)計(jì)算傳播以達(dá)到最大范圍的有效傳播。當(dāng)研究人員于2014年12月在Twitter上進(jìn)行活動(dòng)普查時(shí)，ISIS似乎是在46，000至70，000個(gè)Twitter賬戶(hù)之間運(yùn)行。[17]

值得關(guān)注的是，“沒(méi)有任何學(xué)術(shù)研究發(fā)現(xiàn)在中國(guó)使用機(jī)器人和算法進(jìn)行計(jì)算宣傳的證據(jù)”。[18]牛津大學(xué)互聯(lián)網(wǎng)研究所的計(jì)算宣傳研究項(xiàng)目經(jīng)過(guò)實(shí)證研究發(fā)現(xiàn)，中國(guó)并沒(méi)有發(fā)現(xiàn)計(jì)算宣傳現(xiàn)象。該項(xiàng)目研究人員基于中國(guó)新浪微博上有關(guān)官方政治信息帖子的150萬(wàn)條評(píng)論以及在Twitter上使用與中國(guó)和中國(guó)政治相關(guān)的標(biāo)簽的110萬(wàn)條帖子的分析，發(fā)現(xiàn)在國(guó)內(nèi)外社交媒體平臺(tái)上，幾乎沒(méi)有發(fā)現(xiàn)中國(guó)利用自動(dòng)化宣傳來(lái)影響話(huà)語(yǔ)流的證據(jù)，中國(guó)沒(méi)有將自動(dòng)化作為其國(guó)內(nèi)或國(guó)際宣傳戰(zhàn)略努力的一部分。相比之下，更令人驚訝的是，在關(guān)于中國(guó)和中國(guó)政治的Twitter標(biāo)簽上，發(fā)現(xiàn)了大量的反華自動(dòng)化宣傳。這些話(huà)題標(biāo)簽中幾乎30%的內(nèi)容是由機(jī)器人發(fā)布，以簡(jiǎn)體中文出版，專(zhuān)門(mén)針對(duì)散居海外的華人、出國(guó)留學(xué)生或從中國(guó)大陸翻墻使用Twitter的人。研究者認(rèn)為中國(guó)沒(méi)有發(fā)動(dòng)計(jì)算宣傳，可能有幾個(gè)原因：中國(guó)國(guó)際宣傳工作長(zhǎng)期以來(lái)一直由官方主流媒體主導(dǎo)，將機(jī)器人和自動(dòng)化宣傳納入這一國(guó)際宣傳戰(zhàn)略需要新的技術(shù)能力，而這些技術(shù)能力不屬于這些傳統(tǒng)媒體提供者的范疇;這些傳播反華觀點(diǎn)的機(jī)器人和自動(dòng)化宣傳實(shí)際上收效甚微;與中國(guó)的軟實(shí)力和外交政策有關(guān)。[19]

因此，對(duì)機(jī)器人和自動(dòng)化的關(guān)注不應(yīng)轉(zhuǎn)移人們的注意力，因?yàn)檫@些技術(shù)只是一個(gè)嵌入在底層社會(huì)結(jié)構(gòu)中的工具。計(jì)算宣傳的實(shí)施有賴(lài)于不同政治行動(dòng)者所處的政治、經(jīng)濟(jì)、社會(huì)、文化制度或條件。我們應(yīng)該進(jìn)一步努力把焦點(diǎn)從單純的計(jì)算和監(jiān)測(cè)，轉(zhuǎn)向?qū)ψ詣?dòng)化支持的信息內(nèi)容進(jìn)行定性考慮，以評(píng)估它是否是宣傳，而不僅僅是計(jì)算。我們更應(yīng)關(guān)注的是宣傳目的，而不是宣傳手段。

計(jì)算宣傳的潛在影響

雖然我們知道有大量活躍的計(jì)算宣傳存在，但計(jì)算宣傳的影響是復(fù)雜的，難以評(píng)估衡量。評(píng)估計(jì)算宣傳對(duì)公眾輿論的影響是一項(xiàng)艱巨的任務(wù)。網(wǎng)民在多大程度上受到了虛假政治信息的影響，這種宣傳是否真的改變了網(wǎng)民的行為，目前的研究知之甚少。此外，計(jì)算宣傳的效果“是由調(diào)動(dòng)的社會(huì)和技術(shù)因素的復(fù)雜相互作用決定的”。[20]政治行動(dòng)者要集中適當(dāng)?shù)目赡軙?huì)影響政治對(duì)話(huà)的資金預(yù)算、倫理道德、組織行為、能力建設(shè)和社交平臺(tái)等資源，這是非常困難的。事實(shí)上，有一些例子表明，計(jì)算宣傳也作出了積極貢獻(xiàn)。例如，一些復(fù)雜的算法和機(jī)器人程序試圖承擔(dān)建設(shè)性的公共服務(wù)，改進(jìn)新聞業(yè)，并產(chǎn)生公共知識(shí)。

不管怎樣，計(jì)算宣傳被惡意用于操作公共輿論時(shí)，仍然具有微小而顯著的作用，往往造成深刻的社會(huì)政治和道德問(wèn)題。計(jì)算宣傳正日益介入到“社會(huì)現(xiàn)實(shí)”的建構(gòu)過(guò)程中。計(jì)算宣傳可以通過(guò)賦予政治人物或政治觀點(diǎn)以政治份量（不管它的真實(shí)性），從而成為文化和政治討論的一部分來(lái)塑造“客觀現(xiàn)實(shí)”。當(dāng)這一建構(gòu)過(guò)程變得模糊不清時(shí)，“客觀現(xiàn)實(shí)”和“主觀現(xiàn)實(shí)”之間的距離進(jìn)一步縮小。應(yīng)該看到，計(jì)算宣傳的普遍性、多樣性對(duì)政治傳播的消極影響將會(huì)不斷增加。

通過(guò)偽造信息或活動(dòng)“制造同意”，產(chǎn)生“虛假民主”?；谌斯ぶ悄苄畔⒓夹g(shù)的政治和民主可能會(huì)出現(xiàn)以下問(wèn)題：不平等政治參與變得更加嚴(yán)重;公共議題的公開(kāi)辯論變得更加困難;表面政治盛行等。長(zhǎng)期以來(lái)，社會(huì)媒體對(duì)于深化公民參與和改善民主的理想主義觀點(diǎn)，現(xiàn)在受到與計(jì)算宣傳相關(guān)的陰險(xiǎn)和惡意活動(dòng)的嚴(yán)重挑戰(zhàn)。社交媒體平臺(tái)在公共生活中的敏感時(shí)刻提供了大量聳人聽(tīng)聞的、煽情的以及其他形式的虛假信息。虛假信息“依賴(lài)于一種操縱性風(fēng)格、偽造活動(dòng)、偏見(jiàn)、缺乏專(zhuān)業(yè)精神和足夠的可信度來(lái)進(jìn)行欺騙，它自由地利用社交媒體算法生成注意”。[21]同時(shí)，數(shù)字偽造技術(shù)進(jìn)一步催生了虛假信息的泛濫。隨著AI換臉技術(shù)、虛假音視頻制作能力的興起，深度偽造將變得更加復(fù)雜和有效，不斷降低人類(lèi)對(duì)“眼見(jiàn)為實(shí)”的認(rèn)知敏感性。如2018年由深度偽造合成的加蓬總統(tǒng)Ali Bongo新年致辭視頻曾引起了兵變，足以窺見(jiàn)這種技術(shù)的破壞潛力。深度偽造技術(shù)的結(jié)果是真相的“終結(jié)”。人工智能偽造技術(shù)、虛假新聞和計(jì)算宣傳同時(shí)興起，對(duì)民主治理構(gòu)成了巨大挑戰(zhàn)。

虛假信息被自動(dòng)化大量支持時(shí)，產(chǎn)生一種“偽草根運(yùn)動(dòng)”現(xiàn)象。網(wǎng)絡(luò)“偽草根運(yùn)動(dòng)”是“一種人造的、欺騙性的、戰(zhàn)略性的自上而下的互聯(lián)網(wǎng)活動(dòng)，由政治行動(dòng)者發(fā)起，模仿自主個(gè)體自下而上的活動(dòng)”。[22]這種偽裝成公共輿論的自發(fā)涌現(xiàn)的實(shí)踐，旨在試圖給人們留下一種草根廣泛支持或反對(duì)某政策或政治人物的深刻印象?！皞尾莞\(yùn)動(dòng)”孕育了一個(gè)龐大的“內(nèi)容農(nóng)場(chǎng)”（Content farms），即復(fù)制、拼湊別人的原創(chuàng)內(nèi)容，產(chǎn)生大量質(zhì)量低劣的垃圾內(nèi)容。政治機(jī)器人是一種相對(duì)粗糙的數(shù)字天體沖浪形式，具有高度自動(dòng)化、協(xié)調(diào)一致性、放大性和隱蔽性的性質(zhì)。與計(jì)算宣傳有關(guān)的“偽草根運(yùn)動(dòng)”，是民主政治中一個(gè)長(zhǎng)期焦慮的問(wèn)題。誰(shuí)是公眾的一部分，誰(shuí)代表公眾發(fā)言，都是令人擔(dān)憂(yōu)的民主問(wèn)題?，F(xiàn)在，公眾、政治家和記者不僅要辨別民意支持是來(lái)自草根自發(fā)的還是精心編造的，還要辨別發(fā)言主體是人類(lèi)還是機(jī)器人。機(jī)器人與人類(lèi)行為者的互動(dòng)使解決政治機(jī)器人在民主中作用的問(wèn)題更具挑戰(zhàn)性。[23]當(dāng)人們對(duì)主題或立場(chǎng)模棱兩可時(shí)一般會(huì)遵循“詳盡可能性模式”（Elaboration Likelihood Model）[24]。這種模式認(rèn)為，當(dāng)人們有很強(qiáng)的意愿來(lái)處理信息時(shí)，他們會(huì)仔細(xì)審查有說(shuō)服力的論證;當(dāng)人們沒(méi)有動(dòng)力時(shí)，他們往往依賴(lài)于信息中的簡(jiǎn)單暗示，如更可評(píng)估性和顯著性，發(fā)帖者傳遞的信念或激情。因此，人們的決定依賴(lài)于論點(diǎn)強(qiáng)度、外圍線(xiàn)索或兩者，很大程度上依賴(lài)于接收者的參與水平?；谠敱M可能性模式和信息社會(huì)影響理論的綜合考慮，“偽草根運(yùn)動(dòng)”的效果與四個(gè)重要機(jī)制有關(guān)：信息多源效應(yīng)、接收者不確定性、發(fā)送者和接收者之間的感知相似性（同伴壓力）以及接收者參與的動(dòng)機(jī)。[25]

“偽草根運(yùn)動(dòng)”的結(jié)果是“制造同意”，產(chǎn)生“虛假民主”。公關(guān)先驅(qū)愛(ài)德華·伯奈斯（Bernays）提出了著名的“同意工程化”（engineering of consent）的論點(diǎn)，認(rèn)為“同意工程化”的技術(shù)是價(jià)值中立的，既可以被煽動(dòng)者利用達(dá)到反民主的目的，也可以被善意者利用達(dá)到社會(huì)理想的目的。[26]在人工智能時(shí)代，大數(shù)據(jù)、新興計(jì)算方法、建模、行為科學(xué)、實(shí)時(shí)環(huán)境下的實(shí)驗(yàn)科學(xué)以及平臺(tái)和算法治理的力量這六個(gè)相互交織的動(dòng)力學(xué)，正在創(chuàng)造一個(gè)新的監(jiān)測(cè)和社會(huì)認(rèn)同工程化的環(huán)境。[27]“政治行動(dòng)者在未經(jīng)公民同意的情況下精心部署制造同意、破壞持不同政見(jiàn)者、威脅活動(dòng)家和收集信息。在線(xiàn)空間是有預(yù)謀地構(gòu)建共識(shí)和人工、算法地構(gòu)建同意的場(chǎng)所，而不是通過(guò)對(duì)話(huà)、參與和透明度加強(qiáng)民主的環(huán)境?！盵28]計(jì)算宣傳通過(guò)社交媒體和機(jī)器人“制造共識(shí)”和“實(shí)現(xiàn)在線(xiàn)宣傳的民主化”，試圖放大自身訴求點(diǎn)，努力創(chuàng)造流行趨勢(shì)的支持，并給人們以“大多數(shù)人認(rèn)同”的幻覺(jué)。人們常常關(guān)注什么樣的政治故事可能會(huì)在社會(huì)上得到廣泛傳播，而不會(huì)探究這些政治故事的真實(shí)合理性。當(dāng)“制造同意”取代事實(shí)真相作為政治辯論和決策形成的基礎(chǔ)時(shí)，民主處于后事實(shí)狀態(tài)。強(qiáng)大的民主需要來(lái)自高質(zhì)量新聞、多元的輿論氛圍，以及公眾共識(shí)商議的能力。但是強(qiáng)大的政治參與者越來(lái)越多地利用計(jì)算宣傳制造同意，當(dāng)公民不能夠批判性地評(píng)估消息的來(lái)源或論點(diǎn)的說(shuō)服力時(shí)，商議民主將處于風(fēng)險(xiǎn)中。媒體作為選擇、排序和框架的機(jī)制，使得媒體的可見(jiàn)性從來(lái)都不是中立的。自動(dòng)化算法所建構(gòu)的可見(jiàn)性機(jī)制對(duì)政治參與者施加了一個(gè)假想的“不可見(jiàn)性威脅”。公民可能把這種假想的“不可見(jiàn)性威脅”當(dāng)作“社會(huì)認(rèn)同”，從而產(chǎn)生“虛假民主”。

通過(guò)“兩極分化”擾亂公共領(lǐng)域，撕裂社會(huì)共識(shí)。公共領(lǐng)域往往意味著一個(gè)供所有人自由、平等、理性地辯論進(jìn)而產(chǎn)生公共輿論的公共空間。從理論上講，在一個(gè)運(yùn)作良好的理想的公共領(lǐng)域中，應(yīng)同時(shí)包括處于政治系統(tǒng)中心的行動(dòng)者和來(lái)自邊緣的行動(dòng)者，在新聞媒體的部分幫助下，強(qiáng)有力的公共話(huà)語(yǔ)將導(dǎo)致民主協(xié)商和社會(huì)共識(shí)。但要實(shí)現(xiàn)一個(gè)沒(méi)有操縱和調(diào)控的公共領(lǐng)域是不可能的。20世紀(jì)以來(lái)的媒體景觀給了媒體巨大的政治力量和操縱公眾的潛力。人工智能時(shí)代，算法支撐了許多目前致力于調(diào)解公共領(lǐng)域和政治話(huà)語(yǔ)的平臺(tái)（如搜索引擎、推薦系統(tǒng)和社交媒體網(wǎng)站）。當(dāng)自動(dòng)化、操縱性和利益驅(qū)動(dòng)的機(jī)器人進(jìn)入話(huà)語(yǔ)時(shí)，公共領(lǐng)域的多元化聲音尤其是弱勢(shì)、沉默的聲音將會(huì)顯得特別脆弱，而非理性的、非情緒化的辯論會(huì)變得更加強(qiáng)勢(shì)。政治機(jī)器人、大數(shù)據(jù)算法作為隱形的新型把關(guān)人，可以殖民、扭曲、工具化和操縱公共領(lǐng)域，對(duì)理想公共領(lǐng)域的建構(gòu)帶來(lái)潛在的影響。一些啟動(dòng)計(jì)算宣傳的政治行動(dòng)者幾乎不負(fù)責(zé)任地破壞作為公共領(lǐng)域的網(wǎng)絡(luò)空間，影響著脆弱的網(wǎng)絡(luò)信息生態(tài)系統(tǒng)。政治機(jī)器人被用來(lái)制造分裂的政治信息。這些行為可能包括協(xié)調(diào)一致的騷擾、造謠傳謠，發(fā)送垃圾郵件，傳播虛假的、誤導(dǎo)的、有偏見(jiàn)的、有陰謀的、煽動(dòng)性的、攻擊性的、極端的、聳人聽(tīng)聞的信息內(nèi)容，由此將導(dǎo)致兩極分化嚴(yán)重，社會(huì)共識(shí)撕裂。

自動(dòng)化機(jī)器人和算法傳播可以規(guī)避傳統(tǒng)媒體過(guò)濾器和意見(jiàn)信息守門(mén)人，強(qiáng)化政治行動(dòng)者的自我議題或議程設(shè)置，正在為政治議題屬性的顯著性而戰(zhàn)。在回聲室或過(guò)濾氣泡效應(yīng)和加強(qiáng)的確認(rèn)偏差作用下，虛假信息會(huì)比真相傳播得更快、更深、更廣泛、更有感情。在2016年美國(guó)總統(tǒng)大選期間，特朗普從參選開(kāi)始的目標(biāo)就是制定并控制媒體議程。他的競(jìng)選策略是在媒體和公眾面前大聲說(shuō)話(huà)，設(shè)置各種聳人聽(tīng)聞的、欺騙性的、煽動(dòng)性的議題，攻擊和誹謗競(jìng)爭(zhēng)對(duì)手，煽動(dòng)政治紛爭(zhēng)，扭曲公共對(duì)話(huà)，刺激一種狂熱的宣傳效果，通過(guò)自動(dòng)傳播標(biāo)簽來(lái)建立虛假的流行趨勢(shì)，讓事情迅速發(fā)酵擴(kuò)散發(fā)展，讓媒體無(wú)法抗拒報(bào)道他的議題。特朗普這種快節(jié)奏的修辭和“即興”說(shuō)話(huà)的意愿給人留下了一種“真實(shí)性”的假象，帶來(lái)選民投票意向上的“樂(lè)隊(duì)花車(chē)效應(yīng)”。當(dāng)公眾談?wù)撎乩势諘r(shí)，人們會(huì)聽(tīng)到更多的是“把她關(guān)起來(lái)”或“讓美國(guó)再一次偉大”的聲音，而不是“他不合格”或“他是瘋子”的聲音。

計(jì)算宣傳可能會(huì)使公民暴露在虛假新聞的影響下，削弱公眾對(duì)傳統(tǒng)機(jī)構(gòu)的信任，加劇社會(huì)分裂和政治兩極分化。對(duì)社會(huì)分裂來(lái)說(shuō)，計(jì)算宣傳最致命和最有害的目標(biāo)是煽動(dòng)社會(huì)情緒，鼓噪民粹主義，使公民接受政治行動(dòng)者不斷強(qiáng)化的偏激觀點(diǎn)。這些煽動(dòng)情緒的策略可能包括促進(jìn)兩極分化、回音室、過(guò)濾氣泡、極端黨派主義、誹謗、抹黑、攻擊、多元無(wú)知、旁觀者冷漠、級(jí)聯(lián)效應(yīng)、沉默或憤怒螺旋、恐懼、偏見(jiàn)、認(rèn)知失調(diào)。所有這些策略都有可能動(dòng)員公眾以某種方式發(fā)生思想搖擺。如仇恨言論，即基于種族、宗教、族裔出身、性取向、難民、殘疾或性別等屬性對(duì)個(gè)人或群體進(jìn)行網(wǎng)上虐待或威脅。又如煽動(dòng)恐懼，“無(wú)論是恐怖新聞戰(zhàn)術(shù)性、機(jī)會(huì)主義的放大，還是引發(fā)恐慌的災(zāi)難運(yùn)動(dòng)的持久的戰(zhàn)略性運(yùn)動(dòng)，恐懼的產(chǎn)生都削弱了目標(biāo)受眾正確評(píng)估信息來(lái)源的能力”。[29]情緒一直是政治和媒體中的關(guān)鍵因素?！昂笳嫦唷彼坪跻呀?jīng)在世界各地的傳播實(shí)踐中取得了一定的地位?！皟蓸O分化的政治陣營(yíng)之間從根本上講是在情感層面的分歧，而意見(jiàn)的差異則不那么顯著。這種情感上的分歧尤其受到社交媒體實(shí)踐和算法的助長(zhǎng)。”[30]人們對(duì)“后真相”和“真相”的普遍理解揭示了情感和政治之間的關(guān)系在過(guò)去的十年里是如何變成前沿和中心的。計(jì)算宣傳反映了情感設(shè)置或操縱的重要性。為了激怒未決定的投票者，動(dòng)搖希拉里的支持者投票特朗普，或確保希拉里的投票者宅在家，特朗普的競(jìng)選活動(dòng)使用了復(fù)雜的微靶向目標(biāo)，例如，在Facebook上將一些“暗帖”（非公共定向廣告），如“希拉里認(rèn)為黑人是超級(jí)掠奪者”提供給非裔美國(guó)人。[31]未來(lái)，情感、媒體和政治之間的問(wèn)題將是計(jì)算宣傳的重要研究命題。

通過(guò)“武器化”的意識(shí)形態(tài)宣傳改變?nèi)虻鼐壵胃窬?。世界?jīng)濟(jì)論壇2014年確定網(wǎng)上虛假信息的迅速傳播是社會(huì)面臨的十大危險(xiǎn)之一，認(rèn)為“大規(guī)模數(shù)字虛假信息的全球風(fēng)險(xiǎn)處于從恐怖主義到網(wǎng)絡(luò)攻擊和全球治理失敗等一系列技術(shù)和地緣政治風(fēng)險(xiǎn)的中心”;《慕尼黑安全報(bào)告2017：后真相，后西方，后秩序？》也指出，“用虛假信息來(lái)描述后事實(shí)時(shí)代的事態(tài)：偽造、泄露、傳播”。[32]當(dāng)前全球網(wǎng)絡(luò)空間彌漫著民粹主義、種族主義、右翼極端主義、左翼激進(jìn)主義、恐怖主義、民族主義、階級(jí)主義、性別主義、反共反社會(huì)主義、仇外心理和法西斯主義元素等意識(shí)形態(tài)氣氛。如網(wǎng)上法西斯主義在傳播仇恨、偏見(jiàn)、威權(quán)民粹主義、朋友/敵人關(guān)系和拜物教政治意識(shí)形態(tài)。右翼極端主義在網(wǎng)上言論中含有法西斯主義和仇恨的某些因素（如對(duì)移民和難民的仇恨、反猶太主義、反社會(huì)主義等）[33]。社交媒體民族主義通過(guò)社交媒體而不是現(xiàn)實(shí)世界的關(guān)系連接，可能極大地改變世界秩序，深刻影響信息地緣政治格局。社交媒體民族主義在許多方面與諸如競(jìng)選活動(dòng)、占領(lǐng)運(yùn)動(dòng)（街頭革命）、社會(huì)運(yùn)動(dòng)和更持久的黑客集團(tuán)重疊交織。在全球范圍內(nèi)，一些政治行動(dòng)者創(chuàng)造了一個(gè)有相當(dāng)規(guī)模的“社交機(jī)器人部隊(duì)”參與國(guó)外政治運(yùn)動(dòng)。

計(jì)算宣傳未來(lái)將被置于地緣政治沖突的中心。在地緣政治上，強(qiáng)國(guó)將部署和利用計(jì)算宣傳來(lái)影響外交政策的結(jié)果，以實(shí)現(xiàn)本國(guó)外交政策目標(biāo)。從更廣泛的地緣政治角度看，計(jì)算宣傳的行動(dòng)者正在實(shí)行政治宣傳的武器化，以掌控其在全球地緣政治中的話(huà)語(yǔ)權(quán)?！拔淦骰臄⑹鲈噲D通過(guò)產(chǎn)生復(fù)雜性、混亂、政治和社會(huì)分裂來(lái)破壞對(duì)手的文明、身份和意志力。它可以作為明確的軍事或地緣政治沖突的一部分在戰(zhàn)術(shù)上使用，也可以作為減少、中和和擊敗一個(gè)文明、國(guó)家或組織的一種戰(zhàn)略手段。如果做得好，它將限制甚至消除武裝部隊(duì)實(shí)現(xiàn)政治和軍事目標(biāo)的任何需要?！盵34]武器化的敘述傾向于使用視覺(jué)手段和小報(bào)化（簡(jiǎn)化，很少使用單詞，情感化、丑聞化、極化、平庸化、操縱、制造等）。如2020年初全球新冠肺炎疫情期間，美國(guó)總統(tǒng)特朗普、國(guó)務(wù)卿蓬佩奧和一些政客、媒體不斷鼓吹“中國(guó)病毒論”“中國(guó)責(zé)任論”等陰謀論，煽動(dòng)仇華情緒，為美國(guó)聯(lián)邦政府抗疫不力尋找借口，轉(zhuǎn)移國(guó)內(nèi)民眾的不滿(mǎn)情緒，實(shí)為特朗普競(jìng)選下一屆總統(tǒng)進(jìn)行的政治誣陷。

計(jì)算宣傳可能改變?nèi)虻鼐壵胃窬?。外?guó)干預(yù)國(guó)家事務(wù)已成為政治過(guò)程完整性和傳播一致性的明顯威脅。最近五年來(lái)，國(guó)際事務(wù)、國(guó)際關(guān)系因新媒體技術(shù)的介入而日益復(fù)雜化。一些國(guó)家政府利用社交媒體操縱輿論，分配專(zhuān)業(yè)人員和財(cái)政資源進(jìn)行網(wǎng)上虛假信息宣傳活動(dòng)，擾亂關(guān)于敏感安全問(wèn)題的國(guó)際辯論，破壞國(guó)家主權(quán)、國(guó)際外交、國(guó)際貿(mào)易、國(guó)際和平和其他重要國(guó)際進(jìn)程的努力。這些運(yùn)動(dòng)傾向于使用新聞框架和議程設(shè)置、意識(shí)形態(tài)霸權(quán)、符合象征力量或?qū)崿F(xiàn)預(yù)期結(jié)果的銳利力等策略。同時(shí)，“越來(lái)越多的政治行動(dòng)者使用算法來(lái)操縱國(guó)際輿論，有興趣塑造外交政策成果、實(shí)現(xiàn)國(guó)家安全目標(biāo)和干預(yù)其他國(guó)家治理”。[35]一些國(guó)家的計(jì)算宣傳運(yùn)動(dòng)在行動(dòng)者、能力水平、組織形式和影響目標(biāo)方面不斷提升計(jì)算宣傳的水平。“如果外國(guó)勢(shì)力成功地利用有針對(duì)性的數(shù)字宣傳來(lái)干預(yù)選舉活動(dòng)，對(duì)民主制度的信任就會(huì)折騰起來(lái)。當(dāng)外國(guó)勢(shì)力計(jì)劃放大有目標(biāo)的宗教、政治、文化或特殊利益集團(tuán)的聲音以煽動(dòng)分裂的“火焰”時(shí)，同胞可以反對(duì)同胞，暴力可以被煽動(dòng)，民間社會(huì)受到破壞?！盵36]需要警惕的是，計(jì)算宣傳驅(qū)動(dòng)的全球信息戰(zhàn)爭(zhēng)，可能引爆新一輪的網(wǎng)絡(luò)軍備競(jìng)賽。

計(jì)算宣傳的協(xié)同治理

由于計(jì)算宣傳在個(gè)人、社會(huì)、國(guó)家和國(guó)際層面引發(fā)的一系列潛在風(fēng)險(xiǎn)，計(jì)算宣傳的全球治理勢(shì)在必行，盡管治理過(guò)程錯(cuò)綜復(fù)雜。計(jì)算宣傳的治理，關(guān)乎世界信息傳播新秩序的推進(jìn)，“應(yīng)在聯(lián)合國(guó)框架內(nèi)，推進(jìn)多邊、民主、透明的國(guó)際互聯(lián)網(wǎng)治理體系，攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體”。[37]全球治理的一個(gè)重要特征是治理主體多元化，因此，在計(jì)算宣傳的全球治理過(guò)程中，要以人工智能、算法、大數(shù)據(jù)、社交媒體、虛假信息為重點(diǎn)治理對(duì)象，鼓勵(lì)企業(yè)、國(guó)家政府、國(guó)際組織、技術(shù)社群、公民等多行為體共建共治共享。

發(fā)揮聯(lián)合國(guó)力量，開(kāi)展國(guó)際合作。發(fā)揮以聯(lián)合國(guó)為主導(dǎo)的國(guó)際力量，將有助于促進(jìn)計(jì)算宣傳走向正軌發(fā)展，更好地應(yīng)對(duì)計(jì)算宣傳可能產(chǎn)生的國(guó)家民主、國(guó)家安全以及全球秩序等問(wèn)題。聯(lián)合國(guó)教科文組織（UNESCO）始終在指導(dǎo)人工智能技術(shù)發(fā)展的倫理標(biāo)準(zhǔn)和政策方面進(jìn)行全球性的倡議和反思。2018年11月，UNESCO與合作伙伴在其總部舉行的互聯(lián)網(wǎng)治理論壇（IGF）上，組織了一場(chǎng)關(guān)于“利用人工智能促進(jìn)知識(shí)社會(huì)和可持續(xù)發(fā)展”的公開(kāi)討論，重點(diǎn)關(guān)注如何跨越人工智能時(shí)代的世界數(shù)字鴻溝，如何促進(jìn)媒體生產(chǎn)、傳播和評(píng)估新聞、數(shù)據(jù)和信息，如何應(yīng)對(duì)技術(shù)發(fā)展以打擊暴力極端主義和其他不可見(jiàn)的威脅。在2018年舉行的聯(lián)合國(guó)互聯(lián)網(wǎng)治理論壇（IGF）上，來(lái)自各國(guó)政府、私營(yíng)部門(mén)和民間社會(huì)的利益攸關(guān)方就加強(qiáng)全球合作，打擊數(shù)字時(shí)代具有誤導(dǎo)性的危險(xiǎn)信息達(dá)成了共識(shí)。2019年6月，聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯正式推出“聯(lián)合國(guó)消除仇恨言論戰(zhàn)略和行動(dòng)計(jì)劃”，旨在加深聯(lián)合國(guó)所有實(shí)體對(duì)仇恨言論的有害影響以及如何在工作中更有效地應(yīng)對(duì)的理解，呼吁加強(qiáng)對(duì)會(huì)員國(guó)的支持，與私營(yíng)公司、民間社會(huì)和媒體進(jìn)行更多合作。

除了聯(lián)合國(guó)，還可以考慮發(fā)揮APEC、G20、金磚國(guó)家等國(guó)際性組織或區(qū)域性組織的角色，在區(qū)域或國(guó)家之間形成具有普遍共識(shí)的治理規(guī)則，實(shí)現(xiàn)從邊緣到中心的突破，最終獲得全球?qū)用娴囊?guī)則認(rèn)同。同時(shí)，也要重視全球行業(yè)組織的指導(dǎo)性專(zhuān)業(yè)倫理規(guī)范建設(shè)，如世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)（COMEST）發(fā)布關(guān)于機(jī)器人倫理的初步草案報(bào)告，提出應(yīng)當(dāng)在機(jī)器人及機(jī)器人技術(shù)的倫理與法律監(jiān)管中確立可追溯性，保證機(jī)器人的行為及決策全程處于監(jiān)管之下。但從歷史上分析國(guó)際宣傳的規(guī)制和國(guó)家防止外國(guó)傳播的義務(wù)，可以看出不同國(guó)家法律在保護(hù)自由表達(dá)方面存在相互沖突競(jìng)爭(zhēng)的歷史，如西方民主國(guó)家贊成的“思想自由市場(chǎng)”方針與發(fā)展中國(guó)家提議的社會(huì)安全秩序的沖突。國(guó)際法不僅要禁止顛覆性宣傳，也要禁止旨在和平改變政權(quán)的宣傳。但對(duì)美國(guó)來(lái)說(shuō)，對(duì)宣傳的任何規(guī)制都會(huì)與言論自由、傳播權(quán)和交流權(quán)相沖突。這種沖突對(duì)跨國(guó)計(jì)算宣傳的全球治理帶來(lái)挑戰(zhàn)，就私人宣傳的責(zé)任歸屬問(wèn)題達(dá)成共識(shí)則更具挑戰(zhàn)性。

完善各國(guó)有關(guān)新媒體技術(shù)的法律法規(guī)體系。計(jì)算宣傳引發(fā)的倫理法律問(wèn)題，引發(fā)了世界各國(guó)政府的高度重視，越來(lái)越多的政府行為者正通過(guò)制定完善具體的法律法規(guī)，進(jìn)一步加強(qiáng)與計(jì)算宣傳相關(guān)的治理，主要體現(xiàn)在保護(hù)數(shù)據(jù)隱私、限制數(shù)據(jù)收集、要求披露自動(dòng)帳戶(hù)、授權(quán)廣告透明度。但許多立法者對(duì)社交媒體、自動(dòng)化機(jī)器人、算法只有初步的了解。他們強(qiáng)加的規(guī)則可能會(huì)影響社交媒體平臺(tái)和用戶(hù)之間的生態(tài)均衡。政府在對(duì)抗社交媒體上的虛假信息和錯(cuò)誤信息方面處于劣勢(shì)。政府監(jiān)管必須要在維護(hù)政治安全、言論自由和市場(chǎng)可持續(xù)發(fā)展之間謹(jǐn)慎平衡。

社交媒體上虛假新聞擴(kuò)散日益增長(zhǎng)的威脅，已經(jīng)成為世界各國(guó)政府的一個(gè)重大關(guān)切。自2016年以來(lái)，超過(guò)30個(gè)國(guó)家出臺(tái)了相關(guān)法律，打擊互聯(lián)網(wǎng)上的假新聞。與此同時(shí)，一些國(guó)家建立了新的政府機(jī)構(gòu)或授權(quán)現(xiàn)有組織打擊假新聞及其對(duì)外影響力行動(dòng)。這種反應(yīng)通常包括生產(chǎn)和傳播反敘述或創(chuàng)建舉報(bào)、標(biāo)記和事實(shí)檢查來(lái)促進(jìn)公民意識(shí)和參與。在許多情況下，這些目標(biāo)任務(wù)經(jīng)常與媒體法律、監(jiān)測(cè)能力、計(jì)算宣傳運(yùn)動(dòng)、互聯(lián)網(wǎng)阻擋或過(guò)濾結(jié)合使用，以塑造在線(xiàn)公共對(duì)話(huà)。[38]歐洲防止虛假新聞傳播的方法在很大程度上依賴(lài)于數(shù)據(jù)保護(hù)法，如歐盟《歐盟更安全的社交網(wǎng)絡(luò)原則》（2009）和《通用數(shù)據(jù)保護(hù)法》（2018）。2018年3月，歐盟委員會(huì)虛假新聞和網(wǎng)絡(luò)謠言獨(dú)立高級(jí)專(zhuān)家組（HLEG）成立，2018年9月正式頒布《歐盟反虛假信息行為守則》。2019年10月底，歐盟委員會(huì)再次要求社交媒體必須采取更多措施來(lái)應(yīng)對(duì)虛假新聞或面臨監(jiān)管行動(dòng)。2016年美國(guó)大選后，美國(guó)國(guó)會(huì)2017年10月宣布了《誠(chéng)實(shí)廣告法》（the Honest Ads Act），要求Facebook和Google等在線(xiàn)平臺(tái)保留政治廣告副本，將其公開(kāi)并密切關(guān)注誰(shuí)在付款以及付款多少。2017年10月，德國(guó)通過(guò)《網(wǎng)絡(luò)強(qiáng)制法》，該法規(guī)定社交媒體要在24小時(shí)內(nèi)刪除網(wǎng)站上“明顯的非法內(nèi)容”，包括仇視性言論、誹謗、煽動(dòng)以及暴力言論等，否則將面臨最高5000萬(wàn)歐元的罰款。2018年1月，德國(guó)《社交媒體管理法》正式施行，該法案針對(duì)網(wǎng)絡(luò)上的仇恨、煽動(dòng)性言論、虛假新聞內(nèi)容，對(duì)在德國(guó)境內(nèi)提供內(nèi)容服務(wù)的社交媒體平臺(tái)提出了更為嚴(yán)格的監(jiān)管要求。2018年11月，法國(guó)通過(guò)了專(zhuān)門(mén)的“虛假新聞法”，賦予了法國(guó)法官在競(jìng)選期間即時(shí)（在通知后48小時(shí)內(nèi)采取行動(dòng)）從網(wǎng)站上刪除假新聞的權(quán)力，以確保國(guó)家選舉免受虛假信息的影響。

在社交機(jī)器人、人工智能算法方面，歐盟《數(shù)據(jù)保護(hù)條例》要求數(shù)據(jù)處理者與數(shù)據(jù)主體保持關(guān)系并在質(zhì)疑時(shí)能解釋自動(dòng)化決策的邏輯。意大利政府在2018年大選之前推出了一項(xiàng)旨在打擊計(jì)算宣傳的在線(xiàn)服務(wù)，人們可以通過(guò)網(wǎng)站上的“紅色按鈕”系統(tǒng)報(bào)告虛假新聞，同時(shí)使用專(zhuān)業(yè)軟件來(lái)確定信息是否受到了計(jì)算宣傳的操控。2017年1月，德國(guó)三個(gè)州重新啟動(dòng)了一項(xiàng)關(guān)于數(shù)字入侵的立法倡議，將社交機(jī)器人在Facebook上的使用定為犯罪。2019年7月1日，美國(guó)加利福尼亞州成為第一個(gè)試圖規(guī)范機(jī)器人程序使用的州，要求自動(dòng)披露旨在社交媒體上模擬或復(fù)制人類(lèi)活動(dòng)的賬戶(hù)，以防止社交媒體上的輿論操縱。歐盟于2019年4月發(fā)布“人工智能倫理準(zhǔn)則”，列出了“可信賴(lài)人工智能”的7個(gè)關(guān)鍵條件，以確保人工智能尊重基本人權(quán)、規(guī)章制度、核心原則及價(jià)值觀，同時(shí)在技術(shù)上安全可靠。

對(duì)于所有類(lèi)型的算法，審計(jì)是驗(yàn)證正確功能的必要前提，是實(shí)現(xiàn)透明度的一種可能機(jī)制。算法審計(jì)是研究算法決策的功能和影響的過(guò)程，理解算法決策背后的邏輯，幫助公民解釋決策是如何被描述的。[39]公民可以要求政治透明度權(quán)利來(lái)限制不透明內(nèi)容系統(tǒng)對(duì)政治對(duì)話(huà)的權(quán)力，但不管怎樣，算法的專(zhuān)利產(chǎn)權(quán)保密性、深度學(xué)習(xí)復(fù)雜性和決策不透明性對(duì)算法審計(jì)的實(shí)施提出了重大挑戰(zhàn)。算法決策的邏輯可能在認(rèn)識(shí)論上無(wú)法為人類(lèi)所理解。盡管存在許多障礙，但算法審計(jì)能最大程度地接近。算法審計(jì)的一種形式可能是建立監(jiān)管服務(wù)提供商的規(guī)制機(jī)構(gòu)，該機(jī)構(gòu)的工作就是通過(guò)對(duì)發(fā)布的內(nèi)容類(lèi)型進(jìn)行有偏見(jiàn)的結(jié)果檢測(cè)來(lái)預(yù)測(cè)對(duì)政治對(duì)話(huà)的影響，以確定必須規(guī)范的內(nèi)容，如要求公司在沒(méi)有揭示產(chǎn)權(quán)性的算法設(shè)計(jì)細(xì)節(jié)下提交有質(zhì)量的信息披露，包括算法是如何運(yùn)作的，它的效果如何，以及它最有可能造成哪些錯(cuò)誤。

強(qiáng)化社交媒體平臺(tái)的自律性措施。社交媒體平臺(tái)正在通過(guò)事實(shí)核查機(jī)制和標(biāo)記，要求用戶(hù)驗(yàn)證帳戶(hù)合法性，或者制定一些激勵(lì)政策，與第三方信息檢測(cè)和評(píng)級(jí)機(jī)構(gòu)合作，以減少自動(dòng)操縱在線(xiàn)話(huà)語(yǔ)的風(fēng)險(xiǎn)。與社交機(jī)器人有關(guān)的現(xiàn)有做法可歸結(jié)為披露、同意和尊重二次使用原則。披露原則指機(jī)器人賬戶(hù)應(yīng)清楚地被識(shí)別;同意原則指未經(jīng)用戶(hù)同意，機(jī)器人不應(yīng)主動(dòng)與其接觸，包括喜歡、偏愛(ài)等互動(dòng)或者轉(zhuǎn)發(fā);二次使用原則指機(jī)器人“所有者”不應(yīng)將收集到的關(guān)于用戶(hù)的信息用于其他無(wú)關(guān)的目的。[40]

2016年以來(lái)，F(xiàn)acebook陸續(xù)宣布打擊虛假信息的系列措施，如雇用了數(shù)千名事實(shí)檢查人員，依靠用戶(hù)舉報(bào)，發(fā)布內(nèi)容透明度報(bào)告等。Facebook正在與Fact-Check.org、ABC和美聯(lián)社這樣的事實(shí)核查機(jī)構(gòu)合作，將用戶(hù)報(bào)告的故事提交給這些機(jī)構(gòu)核實(shí)。這種努力是否會(huì)產(chǎn)生實(shí)際效果，或者反而會(huì)促使人們更多地散布虛假信息，我們目前還不知道。2019年4月，F(xiàn)acebook發(fā)布了一系列公告，旨在推廣更多值得信賴(lài)的新聞來(lái)源，打擊傳播虛假信息的團(tuán)體。Facebook于2019年9月宣布聯(lián)合微軟公司和多所高校，研究檢測(cè)Deepfake的方法。2019年12月，F(xiàn)acebook和Instagram宣布引入了一項(xiàng)人工智能過(guò)濾評(píng)論的新功能，可以在一定程度上防止社交機(jī)器人對(duì)虛假信息簡(jiǎn)單的復(fù)制粘貼。在2020年2月召開(kāi)的德國(guó)慕尼黑安全會(huì)議上，扎克伯格表示，F(xiàn)acebook已經(jīng)在致力于打擊虛假信息，改進(jìn)其對(duì)抗網(wǎng)絡(luò)選舉干擾的工作，每天都有100多萬(wàn)個(gè)虛假賬戶(hù)被吊銷(xiāo)。

Twitter對(duì)機(jī)器人的使用有著最明確的指導(dǎo)方針，在平臺(tái)幫助中心設(shè)置了一個(gè)專(zhuān)門(mén)用于“自動(dòng)化規(guī)則和最佳實(shí)踐”的頁(yè)面，禁止使用下列類(lèi)型的機(jī)器人：發(fā)布在最終內(nèi)容之前通過(guò)登陸或廣告頁(yè)面重新定向的自動(dòng)鏈接;未經(jīng)明確同意而分發(fā)用戶(hù)內(nèi)容;自動(dòng)推特成趨勢(shì)主題（也被稱(chēng)為#標(biāo)簽垃圾郵件）;未經(jīng)Twitter同意的自動(dòng)回復(fù)或提及;自動(dòng)轉(zhuǎn)發(fā)，除非Twitter認(rèn)為這項(xiàng)活動(dòng)是“社區(qū)福利”;自動(dòng)跟蹤和不跟蹤;自動(dòng)偏袒。Twitter通過(guò)與第三方合作來(lái)幫助檢測(cè)和關(guān)閉機(jī)器人運(yùn)行的帳戶(hù)來(lái)減少機(jī)器人驅(qū)動(dòng)的流量。2019年6月，Twitter宣布收購(gòu)了AI初創(chuàng)公司Fabula，以幫助其打擊在其平臺(tái)上傳播的虛假新聞。2019年11月，Twitter公布了關(guān)于打擊深度偽造草案的細(xì)節(jié)。

社交媒體平臺(tái)正努力區(qū)別宣傳、虛假信息和錯(cuò)誤信息之間的微妙差異，它們正努力保持平臺(tái)中立和遵守言論自由原則，謹(jǐn)慎決定內(nèi)容是否修正和如何修正，希望避免由于遵循通知?jiǎng)h除原則而最終帶來(lái)審查偏見(jiàn)的爭(zhēng)議和指控。盡管各大社交媒體平臺(tái)在打擊虛假新聞上采取了大量措施，但是相對(duì)于社交媒體用戶(hù)和機(jī)器人數(shù)據(jù)集的量級(jí)增長(zhǎng)，以及日益復(fù)雜的自動(dòng)化技術(shù)和人類(lèi)傳播行為，社交媒體機(jī)器人和虛假信息的檢測(cè)和評(píng)價(jià)會(huì)變得非常困難。同時(shí)，社交媒體平臺(tái)既要確保其用戶(hù)不受計(jì)算宣傳的影響，同時(shí)也面臨著跨境數(shù)據(jù)流的挑戰(zhàn)?！吧缃幻襟w平臺(tái)面臨著來(lái)自100多個(gè)國(guó)家的重疊法律和法規(guī)的困境。每個(gè)國(guó)家都要求社交媒體平臺(tái)提供不同的標(biāo)準(zhǔn)和披露信息，并強(qiáng)加了運(yùn)作成本。社交媒體平臺(tái)如何在檢測(cè)和破壞一系列計(jì)算宣傳活動(dòng)的同時(shí)，約束和取悅社交媒體國(guó)家？”[41]此外，社交媒體平臺(tái)沒(méi)有動(dòng)力為可能會(huì)出現(xiàn)的問(wèn)題而壓低利潤(rùn)。如果不是由行業(yè)集體承擔(dān)，自我監(jiān)管會(huì)使第一家自我監(jiān)管的公司處于顯著的劣勢(shì)。

提升公民網(wǎng)絡(luò)媒體素養(yǎng)水平。如果沒(méi)有足夠的相關(guān)知識(shí)儲(chǔ)備，一般互聯(lián)網(wǎng)用戶(hù)很容易被計(jì)算宣傳這種方法欺騙。大多數(shù)公民（包括學(xué)生和成年人）缺乏正確區(qū)分假新聞和經(jīng)過(guò)驗(yàn)證的內(nèi)容的能力。斯坦福大學(xué)研究人員特別關(guān)注了千禧一代是否能夠區(qū)分合法和非法的新聞來(lái)源和文章，答案顯然是否定的。在這項(xiàng)研究中，大約80%的千禧一代錯(cuò)誤地將一篇假文章認(rèn)定為真文章。[42]如果個(gè)人配備了識(shí)別和批評(píng)計(jì)算宣傳形式的工具和知識(shí)，計(jì)算宣傳的影響可能是有限的。因此，需要提升公民網(wǎng)絡(luò)媒體素養(yǎng)水平，教育人們?nèi)绾伪苊獬蔀橛?jì)算宣傳的受害者。媒體素養(yǎng)教育，就是要培養(yǎng)公民在面對(duì)媒體信息時(shí)所表現(xiàn)出的選擇能力、理解能力、質(zhì)疑能力、評(píng)估能力、創(chuàng)造能力、生產(chǎn)能力及思辨能力。

提升公民網(wǎng)絡(luò)媒體素養(yǎng)水平，需要政府部門(mén)、平臺(tái)提供商、公益組織、行業(yè)協(xié)會(huì)、學(xué)校、家庭等行動(dòng)者的共同合力。像Common Sense Media這樣的公共組織已經(jīng)開(kāi)發(fā)了“新聞素養(yǎng)101”課程，甚至開(kāi)發(fā)了解釋和打擊虛假信息的游戲。 一些積極活躍的社會(huì)團(tuán)體正在公開(kāi)地或私下地通過(guò)與算法工程師和決策者的反向?qū)υ?huà)來(lái)游說(shuō)各個(gè)平臺(tái)，以承擔(dān)減少虛假信息傳播的責(zé)任。谷歌新聞與谷歌旗下慈善機(jī)構(gòu)合作開(kāi)展了一項(xiàng)耗資1000萬(wàn)美元的媒體素養(yǎng)宣傳活動(dòng)，旨在幫助年輕人辨別真假新聞。學(xué)校在打擊虛假或誤導(dǎo)的故事和事實(shí)的擴(kuò)散方面應(yīng)發(fā)揮重要作用，要在媒體素養(yǎng)工具包和事實(shí)核查網(wǎng)站等方面探討一些媒體素養(yǎng)課程的教學(xué)技巧。一些國(guó)家還以法規(guī)政策形式來(lái)確保公民媒體素養(yǎng)的提高。2019年7月，英國(guó)教育與衛(wèi)生部宣布，學(xué)校課程中將增加新內(nèi)容，旨在教孩子們?nèi)绾伟l(fā)現(xiàn)在線(xiàn)錯(cuò)誤信息。

近年來(lái)，“算法素養(yǎng)”在國(guó)外也受到了廣泛關(guān)注?！八惴ㄋ仞B(yǎng)”（Algorithmic Literacy）是指用戶(hù)能夠意識(shí)到算法在他們生活中的存在，并且用批判性的思維理解算法帶來(lái)的影響，包括充分了解算法的生產(chǎn)邏輯、防范算法帶來(lái)的認(rèn)知偏見(jiàn)。[43]“算法素養(yǎng)”運(yùn)動(dòng)在國(guó)外已經(jīng)有了不少實(shí)踐。推特上曾有過(guò)專(zhuān)門(mén)針對(duì)算法素養(yǎng)而引發(fā)的話(huà)題，網(wǎng)民們討論了諸如“算法影響了我的搜索結(jié)果”等相關(guān)議題。德國(guó)之聲電視臺(tái)的“DW學(xué)院”在YouTube上發(fā)布了一則羅德島大學(xué)媒體教育實(shí)驗(yàn)室創(chuàng)始人蕾妮·霍布斯（Renee Hobbs）教授關(guān)于呼吁“我們需要算法素養(yǎng)”的視頻。在霍布斯教授看來(lái)，弄清楚我們所使用在媒體背后的算法是如何運(yùn)作的，是混亂而復(fù)雜的，但是對(duì)每個(gè)人來(lái)說(shuō)，我們都迫切地需要去更好地理解它們。[44]因此，算法素養(yǎng)可能包括至少知道算法在什么情況下表現(xiàn)出來(lái)，什么時(shí)候藏在幕后，越來(lái)越多地意識(shí)到自動(dòng)化算法和大數(shù)據(jù)是如何對(duì)我們的注意力進(jìn)行排序和塑造的，以及能夠?qū)λ惴ń酉聛?lái)的意圖作出正確推斷。

（本文系國(guó)家社科基金重點(diǎn)項(xiàng)目“全球互聯(lián)網(wǎng)治理的競(jìng)爭(zhēng)格局與中國(guó)進(jìn)路研究”的階段性成果，項(xiàng)目編號(hào)：18AXW008）

注釋

[1]Gillian Bolsover; Philip Howard，" Computational Propaganda and Political Big Data： Moving Toward a More Critical Research Agenda"， Big Data， 2017， 5（4）， PP. 273-276.

[2]Samuel C. Woolley and Philip N. Howard， " Political Communication， Computational Propaganda， and Autonomous? Agents Introduction"， International Journal of Communication， 2016， （10）， pp. 4886.

[3]Emiliano Treré， "From digital activism to algorithmic resistance"， The Routledge Companion to Media and Activism， Edited By Graham Meikle， London： Routledge， 2018， pp. 367-375.

[4]Shaomin Xu， "Computational propaganda poses challenge"， Global Times， September 12， 2017， http：//www.globaltimes.cn/content/1066077.shtml.

[5]J. Condliffe， "Over 60 Percent of Internet Traffic Is Now Driven By Bots"， http：//gizmodo.com/over-60-percent-of-internettraffic-is-now-driven-by-bo-1482537192.

[6]Bessi， A.， and Ferrara， E.， "Social Bots Distort the 2016 US Presidential Election Online Discussion"， First Monday， 2016， 21（11）， https：//firstmonday.org/article/view/7090/5653.

[7]Kollanyi B; Howard PN and Woolley SC， "Bots and automation over Twitter during the U.S.election"， Data Memo， 2016.4.， Oxford， UK： Project on Computational Propaganda.

[8]Anastasia Pyrinis， "Fake News is Real：The Rise of Computational Propaganda and Its Political Ramifications"， Berkeley Political Review， November 6， 2017， https：//bpr.berkeley.edu/2017/11/06/fake-news-is-real-the-rise-of-computational-propaganda-and-its-political-ramifications/.

[9]Philip N. Howard; Samuel Woolley and Ryan Calo， "Algorithms， bots， and political communication in the US 2016 election： The challenge of automated political communication for election law and Administration"， Journal of Information Technology & Politics， 2018， 15（2）， pp. 81-93.

[10]張洪忠、趙蓓、石韋穎：《社交機(jī)器人在Twitter參與中美貿(mào)易談判議題的行為分析》，《新聞界》，2020年第2期，第46頁(yè)。

[11]Philip N.Howard， and Bence Kollanyi， "Bots，#StrongerIn，and #Brexit： Computational? Propaganda during the UK-EU Referendum"， Working Paper， No.2016.1， Oxford， UK： Project on Computational Propaganda.

[12]BBC， "EU referendum petition hijacked by bots"， June 27， 2016， http：//www.bbc.com/news/technology-36640459.

[13]Marco T.Bastos and Dan Mercea， "The Brexit Botnet and User-Generated Hyperpartisan News"， Social Science Computer Review， 2019， 37（1）， pp. 38-54.

[14]Emilio Ferrara， "Disinformation and social bot operations in the run up to the 2017 French presidential election"， First Monday， 2017， 22（8）. https：//doi.org/10.5210/fm.v22i8.8005.

[15]Lisa-Maria Neudert; Bence Kollanyi and Philip N. Howard， "Junk News and Bots during the German Parliamentary Election： What are German Voters Sharing over Twitter？"， Data Memo， 2017. 7， Oxford， UK： Project on Computational Propaganda.

[16]Keller; Tobias R.; Klinger and Ulrike， "Social Bots in Election Campaigns： Theoretical， Empirical， and Methodological Implications"， Political Communication， 2019， 36（1）， pp. 171-189.

[17]Renee Diresta， "Computational propaganda：If You Make It Trend， You Make It True"， The Yale Review， 2018， 106（4）， pp. 12-29.

[18]Gillian Bolsover， "Computational Propaganda in China： An Alternative Model of a Widespread Practice"， Working Paper， No.2017.4， Oxford， UK： Project on Computational Propaganda.

[19]Gillian Bolsover and Philip Howard， "Chinese Computational Propaganda： Automation， Algorithms and the Manipulation of Information About Chinese Politics on Twitter and Weibo"， Information， Communication & Society， 2019， 24（12）， pp. 2063-2080.

[20]Dhiraj Murthy and Alison B.Powell etal.， "Bots and Political Influence： A Sociotechnical Investigation of Social Network Capital"， International Journal of Communication ， 2016， 10， pp. 4952–4971.

[21]Samantha Bradshaw and Philip N. Howard etal.， "Sourcing and Automation of Political News and Information over Social Media in the United States， 2016-2018"， Political Communication， 2020， 37（2）， pp. 173-193.

[22]Marko Kovic and Adrian Rauchfleisch etal.， "Digital Astroturfing in Politics： Definition， Typology， and Countermeasures"， Studies in Communication Sciences， 2018， 8（1）， pp. 69–85.

[23]Elizabeth Dubois and Fenwick McKelvey， "Political Bots： Disrupting Canada's Democracy"， Canadian Journal of Communication， 2019， 44 （2）， pp. 27-33.

[24]John T Cacioppo and Richard E Petty etal.， "Central and peripheral routes to persuasion： An individual difference perspective"， Journal of Personality and Social Psychology， 1986， 51（5）， pp. 1032.

[25]Jerry Zhang; Darrell Carpenter and Myung Ko， "Online Astroturfifing： A Theoretical Perspective"， Proceedings of the Nineteenth Americas Conference on Information Systems， Chicago， Illinois， August 15-17， 2013.

[26]Edward L.Bernays， "The Engineering of Consent"， The ANNALS of the American Academy of Political and Social Science， 1947， 250（1）， pp. 113-120.

[27]Zeynep Tufekci， "Engineering the Public： Big Data， Surveillance and Computational Politics"， First Monday， 2014， 19（7）， https：//firstmonday.org/ojs/index.php/fm/article/view/4901.

[28]Emiliano Treré， "The Dark Side of Digital Politics： Understanding the Algorithmic Manufacturing of Consent and the Hindering of Online Dissidence"， IDS bulletin， 2016， 47（1）， pp. 127-138.

[29]Clint Watts， "Advanced Persistent Manipulators and Social Media Nationalism ——National Security in a World of Audiences"， Aegis Series Paper No.1812， Hoover Institution， Stanford University.

[30]Megan Boler and Elizabeth Davis， "The afffective politics of the 'post-truth' era： Feeling rules and networked subjectivity"， motion， Space and Society， 2018， 27， pp. 75-85.

[31]Julia Angwin and Terry Parris Jr.， "Facebook Lets Advertisers Exclude Users by Race"， October 28， 2016， https：//www.propublica.org/article/facebook-lets-advertisers-exclude-users-by-race.

[32]OECD， "How to stop the slide from info-storms to post-factual democracy"， https：//www.oecd.org/governance/how-to-stop-the-slide-from-info-storms-to-post-factual-democracy.htm.

[33]Fuchs，C.，"Propaganda 2.0： Herman and Chomsky's Propaganda Model in the Age of the Internet， Big Data and Social Media"， In The Propaganda Model Today： Filtering Perception and Awareness， Edited by Joan Pedro-Cara?ana; Daniel Broudy and Jeffery Klaehn， London： University of Westminster Press， 2018，? pp. 71-92.

[34]Brad Allenby and Joel Garreau （2017）， "Weaponized Narrative is the New Battlespace"， January 3， 2017， https：//www.defenseone.com/ideas/2017/01/ weaponized-narrative-new-battlespace/134284/.

[35]Samantha Shorey and Philip N.Howard， "Automation， Big Data， and Politics： A Research Review"， International Journal of Communication， 2016， 10， pp. 5032-5055.

[36]W Lance Bennett and Steven Livingston， "The disinformation order： Disruptive communication and the decline of democratic Institutions"， European Journal of Communication ， 2018， 33（2）， pp. 122-139.

[37]羅昕：《世界信息傳播新秩序建構(gòu)的脈絡(luò)變遷與中國(guó)進(jìn)路》，《內(nèi)蒙古社會(huì)科學(xué)》（漢文版），2019年第1期，第160～166頁(yè)。

[38]Samantha Bradshaw and Philip N. Howard， "Challenging Truth and Trust： A Global Inventory of Organized Social Media Manipulation"， http：//comprop.oii.ox.ac.uk/wp-content/uploads/sites/93/2018/07/ct2018.pdf.

[39]Brent Mittelstadt， "Auditing for Transparency in Content Personalization Systems"， International Journal of Communication ， 2016， 10， pp. 4991-5002.

[40]Nathalie Marechal， "When Bots Tweet： Toward a Normative Framework for Bots on Social Networking Sites"， International Journal of Communication， 2016， 10，? pp. 5022-5031.

[41]Clint Watts， "Advanced Persistent Manipulators and Social Media Nationalism ——National Security in a World of Audiences"， Aegis Series Paper No.1812， Hoover Institution， Stanford University.

[42]Anastasia Pyrinis， "Fake News is Real： The Rise of Computational Propaganda and Its Political Ramifications"， Berkeley Political Review， November 6， 2017， https：//bpr.berkeley.edu/2017/11/06/fake-news-is-real-the-rise-of-computational-propaganda-and-its-political-ramifications/.

[43]羅昕：《算法媒體的生產(chǎn)邏輯與治理機(jī)制》，《人民論壇·學(xué)術(shù)前沿》，2018年12月下，第25～39頁(yè)。

[44]Katharina Zweig， "Algorithm Literacy"， March 6， 2016， https：//prezi.com/yev4rbaz2cxl/algorithm-literacy/.

責(zé) 編/張 曉