認(rèn)知、辨識(shí)、規(guī)訓(xùn)：構(gòu)建人機(jī)共存的社交輿論場(chǎng)

韋茜 陳鳳茹

【內(nèi)容提要】 智媒時(shí)代社交機(jī)器人開始活躍于網(wǎng)絡(luò)空間，成為社交輿論的新場(chǎng)景。面對(duì)人機(jī)共存的輿論生態(tài)環(huán)境，用戶必須有理性的認(rèn)知，才能避免社交機(jī)器人操控，形成相對(duì)良性的社交輿論場(chǎng)。本文從心理認(rèn)知層面分析了社交機(jī)器人存在的合理性，從技術(shù)邏輯層面闡釋了識(shí)別機(jī)器人的方法，最后從交互治理層面提出了重建社交媒體良性輿論場(chǎng)的建議。

【關(guān)鍵詞】社交機(jī)器人? 理性認(rèn)知? 算法辨識(shí)? 多方規(guī)訓(xùn)

智媒時(shí)代技術(shù)驅(qū)動(dòng)對(duì)話角色更新迭代，社交機(jī)器人與人類用戶共存于網(wǎng)絡(luò)空間已經(jīng)成為社交輿論的新場(chǎng)景。社交機(jī)器人主要指的是社交網(wǎng)絡(luò)中扮演人的身份，擁有不同人物屬性的虛擬AI形象。社交機(jī)器人多通過算法被運(yùn)用于計(jì)算宣傳。通俗來說，計(jì)算宣傳是通過算法和機(jī)器人的技術(shù)手段達(dá)到操縱輿論的目的。作為活躍于社交輿論場(chǎng)的“新人種”，社交機(jī)器人擁有自動(dòng)化、操縱性和利益驅(qū)動(dòng)的特性，它的加入使得社交輿論場(chǎng)陷于倒懸之危，在極端情況下甚至?xí)霈F(xiàn)兩級(jí)分化的結(jié)果：社會(huì)共識(shí)撕裂或是出現(xiàn)“被制造”的共識(shí)。

機(jī)器人軍隊(duì)的出現(xiàn)，使得背后操縱者可以通過無形，但具有殺傷力的意識(shí)形態(tài)“武器”，去改變世界政治格局。例如，在2016年美國(guó)總統(tǒng)大選前夕，一批拉丁裔的Twitter賬號(hào)重復(fù)發(fā)布支持特朗普政府的推文，低可信度的信源得到大量重復(fù)轉(zhuǎn)發(fā)。在大選期間，Twitter平臺(tái)上6%的政治機(jī)器人散布了31%的不實(shí)謠言，其中34%來自于低可信度信源。長(zhǎng)此以往，多元化的公共輿論被非理性的聲音裹挾，①長(zhǎng)期浸潤(rùn)在擬態(tài)環(huán)境下的公眾，很容易選擇相信可以滿足自身愛欲的“事實(shí)”，真相反而被漠視。由此可見，社交機(jī)器人已經(jīng)改變了傳統(tǒng)的對(duì)話形態(tài)。機(jī)器人操縱輿論已經(jīng)引發(fā)社會(huì)各界關(guān)注，如何構(gòu)建良性社交輿論格局成為了亟待解決的問題。

一、理性認(rèn)知：算法迭代重構(gòu)人機(jī)社交輿論格局

事實(shí)上，“入侵”“操縱”等偏向性詞匯一直伴隨著智能機(jī)器的成長(zhǎng)，在智能機(jī)器幻想出現(xiàn)在人們腦海的時(shí)候，人們就已經(jīng)對(duì)智能機(jī)器制定了預(yù)防性準(zhǔn)則。1940年，被譽(yù)為“機(jī)器人之父”的科幻小說家阿西莫夫提出了機(jī)器人三原則：不得傷害人類，或者坐視人類受到傷害;除非違反第一條原則，機(jī)器人必須服從人類指令;除非違反前兩條指令，否則機(jī)器人必須保護(hù)自己。②機(jī)器人三原則充分說明人類利益永遠(yuǎn)高于機(jī)器人利益，這也從側(cè)面闡明了科學(xué)家對(duì)于智能機(jī)器未來發(fā)展的憂思。在智媒時(shí)代，社交機(jī)器人已經(jīng)進(jìn)入社會(huì)公共議題領(lǐng)域，正確認(rèn)知人機(jī)關(guān)系是構(gòu)建社交媒體良性輿論格局的前提條件。

（一）存在即合理：正視人機(jī)共存的賽博輿論空間

一味抗拒智能機(jī)器是與科技發(fā)展趨勢(shì)相悖而行的。2014年，英國(guó)科學(xué)家宣布“尤金·古特曼”（Eugene Goostman）成功通過了圖靈測(cè)試（The Turing Test），它標(biāo)志著第一個(gè)“類人類”的智能設(shè)備誕生。此后，社交機(jī)器人所生產(chǎn)的內(nèi)容占據(jù)了各大媒體平臺(tái)。2017年，Pew Research Center以120萬條帶URL鏈接的推文為數(shù)據(jù)樣本，分析其中66%高度疑似為機(jī)器人賬號(hào)發(fā)布。③2018年，艾漫數(shù)據(jù)以隨機(jī)抽取的2000個(gè)娛樂話題為關(guān)鍵意見領(lǐng)袖（Key Opinion Leader）的微博數(shù)據(jù)為樣本，通過自然語言處理技術(shù)、人工智能算法等對(duì)社交機(jī)器人賬號(hào)進(jìn)行識(shí)別，KOL的社交機(jī)器人占比超過五成以上。④

相對(duì)于科幻小說中機(jī)器主宰人類的擔(dān)憂，正視社交機(jī)器人的存在是重構(gòu)社交輿論場(chǎng)的現(xiàn)實(shí)需要。

（二）謹(jǐn)防扭曲：人機(jī)關(guān)系由他異意向性轉(zhuǎn)為復(fù)合意向性

AI智能應(yīng)用在社交媒體平臺(tái)與人類的關(guān)系，會(huì)以他異意向性（alterity）出現(xiàn)，形成人→技術(shù)（—世界）的關(guān)系鏈。他異關(guān)系指社交機(jī)器人獨(dú)立于人類認(rèn)知之外成為準(zhǔn)它者，在他異關(guān)系中，AI可以按照自身發(fā)展規(guī)律運(yùn)行。荷蘭后現(xiàn)象學(xué)家費(fèi)爾貝克（Peter-Paul.Verbeek）提出，人機(jī)關(guān)系出現(xiàn)復(fù)合意向性的猜想，即人類存在意向性，人類所使用的技術(shù)也存在意向性，并且是所使用的技術(shù)占主導(dǎo)地位，形成人→（技術(shù)→世界）的關(guān)系鏈。⑤復(fù)合意向性的人機(jī)關(guān)系意味著智能機(jī)器人主宰人類的擔(dān)憂可能會(huì)成為現(xiàn)實(shí)。

值得警惕的是，高度人格化的社交機(jī)器人隱蔽于社交媒體之下，通過與真人用戶的轉(zhuǎn)發(fā)互動(dòng)取得用戶信任，用戶很難在短時(shí)間內(nèi)分辨真人與社交機(jī)器人的差別，偽裝成意見領(lǐng)袖的社交機(jī)器人利用輿論場(chǎng)上信息流的不對(duì)稱，制造“社會(huì)流瀑”效應(yīng)，謠言就有了存在的空間，輿論危機(jī)漸次顯現(xiàn)。錯(cuò)綜復(fù)雜的社交輿論環(huán)境致使人機(jī)關(guān)系出現(xiàn)他異意向性扭曲為復(fù)合意向性的可能。在正視社交機(jī)器人存在的同時(shí)，謹(jǐn)防人機(jī)復(fù)合關(guān)系扭曲，成為了不容小覷的社會(huì)性議題。

二、科學(xué)辨識(shí)：基于算法檢測(cè)的機(jī)器人識(shí)別

即便人類用戶已經(jīng)意識(shí)到機(jī)器人存在于社交輿論場(chǎng)，且知大多是以操縱輿論為目的而發(fā)布推文，社交機(jī)器人仍然會(huì)作為一種隱秘而強(qiáng)勢(shì)的角色影響話語流。在社交媒體中人類用戶和社交機(jī)器人交織甚密，人類用戶難以對(duì)機(jī)器人賬號(hào)進(jìn)行分辨。社交機(jī)器人憑借高效的傳播速度，在對(duì)低可信度信源的信息擴(kuò)散中更具優(yōu)勢(shì)。2016年，美國(guó)洛杉磯南加州大學(xué)Ferrara教授對(duì)機(jī)器人檢測(cè)提出了三種識(shí)別方案，⑥依靠算法實(shí)現(xiàn)對(duì)社交機(jī)器人的后臺(tái)檢測(cè)，給重構(gòu)社交輿論場(chǎng)提供了技術(shù)可能。

（一）基于圖論（Graph-based）的機(jī)器人識(shí)別

基于圖論的機(jī)器人識(shí)別方案，是將社交機(jī)器人與正常用戶的社交網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)進(jìn)行比較，根據(jù)不同連接結(jié)構(gòu)從而識(shí)別機(jī)器賬號(hào)。社交機(jī)器人通常通過發(fā)布特定話題標(biāo)簽來吸引用戶流量，而其他機(jī)器人通過轉(zhuǎn)評(píng)互動(dòng)進(jìn)行信息擴(kuò)散。由于社交機(jī)器人之間大多彼此并不認(rèn)識(shí)，互動(dòng)較少，所以機(jī)器人賬號(hào)的社交網(wǎng)絡(luò)結(jié)構(gòu)通常呈現(xiàn)中心化擴(kuò)散模式。而人類用戶大多在真實(shí)世界相識(shí)，在用戶發(fā)布內(nèi)容后好友相互評(píng)論，其社交網(wǎng)絡(luò)結(jié)構(gòu)分布更加均勻，明顯區(qū)別于機(jī)器人的社交網(wǎng)絡(luò)結(jié)構(gòu)。但缺陷是，基于圖論的識(shí)別方案的假設(shè)前提是，人類用戶只和人類用戶對(duì)話交流，并形成社交網(wǎng)絡(luò)關(guān)系。如果人類用戶和社交機(jī)器人之間的互動(dòng)交織密切，便難以進(jìn)行區(qū)隔。因此圖論算法對(duì)識(shí)別社交空間中的機(jī)器人收效甚微。

（二）基于眾包（Crowdsouring-based）的機(jī)器人識(shí)別

眾包策略本質(zhì)上使用的是人本計(jì)算，指公司或機(jī)構(gòu)將內(nèi)部業(yè)務(wù)以自由自愿的方式外包給非特定人員的生產(chǎn)模式。機(jī)構(gòu)將檢測(cè)任務(wù)分發(fā)至多個(gè)標(biāo)注人員，以投票決策的方式判斷社交機(jī)器人的存在。⑦將眾包策略應(yīng)用社交機(jī)器人賬號(hào)識(shí)別檢測(cè)中，保證了機(jī)器人賬號(hào)檢測(cè)的準(zhǔn)確率。與此同時(shí)，基于眾包的機(jī)器人識(shí)別算法也暴露了自身缺陷。一是出現(xiàn)作弊標(biāo)注者，由于網(wǎng)絡(luò)空間的隱蔽匿名性和眾包組織機(jī)構(gòu)的開放性，標(biāo)注人員的資質(zhì)無法得到有效審查，檢測(cè)結(jié)果的準(zhǔn)確性存疑。⑧二是用戶隱私泄漏，將用戶數(shù)據(jù)暴露給外部檢測(cè)人員可能會(huì)帶來隱私泄漏的隱患。三是檢測(cè)費(fèi)用高昂。眾多的標(biāo)注人員是檢測(cè)結(jié)果準(zhǔn)確性的來源，減少人力成本會(huì)直接導(dǎo)致精確度下降。

（三）基于特征（Feature-based）的機(jī)器人識(shí)別

目前流行的識(shí)別方案是基于特征算法的檢測(cè)，它是依賴社交機(jī)器人與人類用戶在使用社交媒體上行為模式等各方面的特征差異，來區(qū)分機(jī)器人用戶的存在?；谔卣魉惴ǖ腂otOrNot采用隨機(jī)森林模型對(duì)數(shù)據(jù)進(jìn)行分類，根據(jù)用戶、時(shí)間、情感、網(wǎng)絡(luò)、交友和內(nèi)容六個(gè)特征對(duì)賬號(hào)屬性進(jìn)行分析，以此判斷該賬號(hào)是否為機(jī)器人賬號(hào)。同樣基于特征算法分析的還有Botometer，它通過收集大量用戶數(shù)據(jù)作為樣本，根據(jù)用戶元數(shù)據(jù)、好友數(shù)據(jù)、時(shí)間特征和情感分析四個(gè)特征維度對(duì)機(jī)器人賬號(hào)進(jìn)行識(shí)別?；谔卣魉惴ǖ臋C(jī)器人辨識(shí)，目前在社交媒體平臺(tái)已經(jīng)成為主流檢測(cè)方案。美中不足的是，社交機(jī)器人對(duì)人類語言習(xí)慣模仿性愈來愈強(qiáng)，甚至可以通過與人類的情感交流隱蔽自身的機(jī)器屬性，并以此來躲避特征算法的檢測(cè)。因此，基于特征的機(jī)器人識(shí)別方案，也可以被看作是機(jī)器開發(fā)者與檢測(cè)者之間的“軍備競(jìng)賽”。

基于算法邏輯的機(jī)器識(shí)別系統(tǒng)，通常作用于社交機(jī)器人影響話語流之后，通過異常賬號(hào)行為抓取可疑賬號(hào)。但這并不能完美解決社交機(jī)器人操縱社交輿論生態(tài)的問題，構(gòu)建良性社交輿論體系需要全球多行為體的共同協(xié)作規(guī)訓(xùn)。

三、多方規(guī)訓(xùn)：全球政治地緣性多行為體的共同協(xié)作

技術(shù)迭代賦予公民擁有自由發(fā)聲的權(quán)利，同時(shí)也帶來了“偽民主”。一些別有用心者通過操控“機(jī)器人軍隊(duì)”煽動(dòng)不實(shí)言論，來達(dá)到分裂社會(huì)擾亂國(guó)家穩(wěn)定的目的。實(shí)現(xiàn)社交輿論場(chǎng)的良性運(yùn)作，需要全球多行為體共同協(xié)作。社交機(jī)器人的出現(xiàn)，意味著各行為主體扮演的角色將發(fā)生轉(zhuǎn)化。

（一）國(guó)際組織：從規(guī)則制定者轉(zhuǎn)向利益協(xié)調(diào)者

作為社交媒體中的新生武器，計(jì)算宣傳通常以左右政治選舉、干預(yù)國(guó)家內(nèi)政、攻擊他國(guó)外交等方式影響全球發(fā)展。目前，為應(yīng)對(duì)惡意機(jī)器人所帶來的危機(jī)輿論環(huán)境，以聯(lián)合國(guó)為代表的國(guó)際組織已經(jīng)付諸行動(dòng)。2019年6月18日，聯(lián)合國(guó)發(fā)起了“消除仇恨言論戰(zhàn)略和行動(dòng)計(jì)劃”。聯(lián)合國(guó)秘書長(zhǎng)古特雷斯表示，在國(guó)際輿論社會(huì)里，由于政治利益、種族抗?fàn)?、階級(jí)斗爭(zhēng)等各種因素交織影響，強(qiáng)勢(shì)的政治行動(dòng)者總是占據(jù)公共話語體系的絕對(duì)優(yōu)勢(shì)地位，而弱勢(shì)一方則喪失自由意志。國(guó)際組織需要協(xié)調(diào)各國(guó)利益，首先需要在區(qū)域國(guó)家形成普遍的治理共識(shí)，實(shí)現(xiàn)從邊緣到中心的突破，最終爭(zhēng)取國(guó)際范圍在輿論空間對(duì)計(jì)算宣傳的治理規(guī)則認(rèn)同。⑨

（二）政府部門：從行政立法者轉(zhuǎn)向輿論引導(dǎo)者

政府作為國(guó)家治理的強(qiáng)勢(shì)者，不僅可以通過制定法律倒逼平臺(tái)與惡意操縱者規(guī)范行為，而且可以借助社交媒體力量對(duì)用戶進(jìn)行輿論引導(dǎo)，提升用戶的識(shí)別監(jiān)測(cè)意識(shí)。惡意機(jī)器人引發(fā)的輿論危機(jī)引起了各國(guó)的重視，各國(guó)政府紛紛在國(guó)家層面提出對(duì)計(jì)算宣傳的治理方案。2016年美國(guó)提出了《反外國(guó)宣傳造謠法案》，該法案旨在幫助美國(guó)反制外國(guó)勢(shì)力的政治謠言，以防操縱輿論，并將此項(xiàng)工作納入了國(guó)家戰(zhàn)略。2018年白俄羅斯在國(guó)民議會(huì)上投票通過了《媒體修正案》，該法案指出在網(wǎng)絡(luò)空間散布謠言者將會(huì)面臨起訴，同時(shí)社交媒體平臺(tái)也會(huì)由于監(jiān)察不力遭到封鎖。

（三）社交平臺(tái)：從事后治理者轉(zhuǎn)向事前預(yù)防者

社交媒體平臺(tái)是人機(jī)共存的輿論空間治理中，最有力的行動(dòng)治理者。算法檢測(cè)后臺(tái)識(shí)別機(jī)器賬號(hào)，是平臺(tái)重點(diǎn)工作目標(biāo)及內(nèi)容。為了防止機(jī)器人的入侵，目前國(guó)外很多網(wǎng)站都采取了Google reCaptcha來識(shí)別機(jī)器賬號(hào)，reCaptcha雖然可以有效識(shí)別機(jī)器人用戶，但都是在賬號(hào)出現(xiàn)異常情況之后才能進(jìn)行判斷識(shí)別。在某種程度上，reCaptcha一直處于事后防備的治理模式。隨著平臺(tái)的完善發(fā)展，對(duì)機(jī)器賬號(hào)的識(shí)別也應(yīng)該從事后治理轉(zhuǎn)為事前預(yù)防，平臺(tái)可以在注冊(cè)賬號(hào)伊始要求用戶完善個(gè)人身份信息并進(jìn)行實(shí)名認(rèn)證。這一舉措不僅能夠提升機(jī)器賬號(hào)的識(shí)別精準(zhǔn)度，也規(guī)范了用戶在社交媒體輿論空間內(nèi)相對(duì)自由地發(fā)表言論。

（四）用戶：從被動(dòng)操縱者轉(zhuǎn)向隱形把關(guān)者

社交媒體空間的惡意機(jī)器人，主要通過散布虛假信息、煽動(dòng)極端情緒來操縱用戶，“制造共識(shí)”達(dá)成宣傳目的。在社交媒體空間活躍的人類用戶，是社交機(jī)器人操縱者的宣傳對(duì)象。因此培養(yǎng)用戶的算法素養(yǎng)，成為重塑良性輿論環(huán)境的根本之策。算法素養(yǎng)（Algorithmic Literacy）是指用戶可以在生活中意識(shí)到算法存在，以及算法在何時(shí)何地被呈現(xiàn)，并對(duì)算法所帶來的偏差性認(rèn)知有所防范。用戶首先需要正確認(rèn)知社交機(jī)器人在社交媒體中的存在，了解社交機(jī)器人背后的運(yùn)作邏輯以及行為特征。在社會(huì)公共輿情事件的信息處理中，算法素養(yǎng)可以幫助用戶精準(zhǔn)判斷機(jī)器賬號(hào)，用戶還可以通過社交平臺(tái)舉報(bào)虛假新聞和機(jī)器賬號(hào)，從而成為智媒社交中的隱形把關(guān)人。

四、結(jié)語

以社交媒體為平臺(tái)依托，依靠大數(shù)據(jù)信息流和社交機(jī)器人為技術(shù)手段的計(jì)算宣傳，已經(jīng)成為操控國(guó)際輿論場(chǎng)的新型武器。雖然還沒有證據(jù)顯示國(guó)內(nèi)輿論場(chǎng)存在社交機(jī)器人操縱輿論的事件，但計(jì)算宣傳無疑影響了中國(guó)對(duì)外的政治話語傳播。對(duì)國(guó)內(nèi)的計(jì)算宣傳，也應(yīng)當(dāng)早日防患于未然。國(guó)外應(yīng)對(duì)計(jì)算宣傳中的成功實(shí)例值得借鑒，在智能化進(jìn)程中正確認(rèn)知和規(guī)范社交機(jī)器人的惡意行為，最小限度降低輿論操縱風(fēng)險(xiǎn)，重塑相對(duì)真實(shí)的社交媒體輿論環(huán)境。

注釋：

①⑨羅昕.計(jì)算宣傳：人工智能時(shí)代的公共輿論新形態(tài)[J].人民論壇·學(xué)術(shù)前沿，2020（15）：25-37.

②杜鳴皓.“社交機(jī)器人”入侵[J].中國(guó)品牌，2017（02）：36-41.

③師文，陳昌鳳.分布與互動(dòng)模式：社交機(jī)器人操縱Twitter上的中國(guó)議題研究[J].國(guó)際新聞界，2020（05）：61-80.

④盧揚(yáng)，穆慕.艾漫公布部分KOL數(shù)據(jù) 水軍占比超五成.北京商報(bào)網(wǎng).https：//news.tom.com/201809/1894098808.html.

⑤牟怡.從詮釋到他異：AI媒體技術(shù)帶來的社交與認(rèn)知變革[J].上海師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2020，49（01）：92-101.

⑥Emilio Ferrara，Onur Varol，Clayton Davis，F(xiàn)ilippo Menczer，Alessandro Flammini. The rise of social bots[J]. Communications of the ACM，2016，59（7）：96-104.

⑦劉蓉，陳波，于泠，劉亞尚，陳思遠(yuǎn).惡意社交機(jī)器人檢測(cè)技術(shù)研究[J].通信學(xué)報(bào)，2017，38（S2）：197-210.

⑧陳霞，閔華清，宋恒杰.眾包平臺(tái)作弊用戶自動(dòng)識(shí)別[J].計(jì)算機(jī)工程，2016，42（08）：139-145+152.

作者簡(jiǎn)介：韋茜，安徽師范大學(xué)新聞與傳播學(xué)院新聞傳播學(xué)碩士研究生;陳鳳茹，安徽師范大學(xué)新聞與傳播學(xué)院新聞傳播學(xué)碩士研究生

編輯：王洪越