域外勢力操控社交媒體的手段路徑及應(yīng)對策略*

邵 雷 石 峰

(四川警察學(xué)院 瀘州 646000)

0 引 言

當(dāng)前，信息技術(shù)的發(fā)展改變了獲取信息、表達(dá)觀點(diǎn)或相互交流的方式。社交媒體的廉價、易用和受歡迎的特性使其成為一種強(qiáng)大的工具，但是也容易被域外勢力用來傳播錯誤信息或者進(jìn)行虛假宣傳活動[1]，通過使用算法、深度學(xué)習(xí)和人工智能等技術(shù)手段，擴(kuò)大虛假信息在網(wǎng)絡(luò)中的傳播范圍，提升傳播速度，以實現(xiàn)政治戰(zhàn)略和目標(biāo)，影響大眾思維，引導(dǎo)人們對事件的行為和觀點(diǎn)[2]。因此，網(wǎng)絡(luò)社交媒體被一些國家、政客和域外勢力所利用，通過操控政治機(jī)器人，傳播誘導(dǎo)性虛假信息，實現(xiàn)在政治范疇對公眾意識形態(tài)的誤導(dǎo)宣傳，達(dá)到影響他國政治生態(tài)，擾亂甚至顛覆他國政局的險惡目的。境內(nèi)網(wǎng)絡(luò)社交媒體平臺上也存在著大量虛假信息，嚴(yán)重影響我國國家形象和國家安全。

心理學(xué)家模擬利用網(wǎng)絡(luò)社交媒體開展虛假宣傳的實驗，實驗結(jié)束后告知被測試人員：剛才的事件是假的，以便幫被測試者從錯誤印象中擺脫出來。但事實卻顯示，這點(diǎn)極難完成。被測試者一旦確立了一個認(rèn)知，哪怕稍晚些時候就被證偽了，其影響仍會繼續(xù)存在。這種現(xiàn)象是幾種認(rèn)知過程共同作用的結(jié)果，人類的思維傾向于把新的信息放在既有印象的背景中去理解[3]。因此，即使把真相告訴了人們，但依舊抹不去既有印象。一些政府和非政府組織正是利用了人類思維定勢的這個特點(diǎn)，使用人工智能技術(shù)操縱聊天機(jī)器人和聊天軟件，廣泛傳播對其有利的視頻、圖片和文章，從而達(dá)到特定目的。因此，網(wǎng)絡(luò)社交媒體也被稱為“另一種大規(guī)模殺傷性武器”[4]，不僅成為傳播信息的有效路徑，也成為各國政府和社會組織爭相利用和爭奪的輿論宣傳陣地和思想意識戰(zhàn)場。

經(jīng)過查閱大量文獻(xiàn)資料發(fā)現(xiàn)，目前，學(xué)者在社交媒體輿論宣傳領(lǐng)域的研究主要集中在三個方面：一是分析社交媒體中虛假新聞產(chǎn)生和造成影響的原因。陶青[5]從產(chǎn)業(yè)鏈利益驅(qū)動、懲罰機(jī)制缺位、社交媒體平臺責(zé)任缺失角度分析虛假新聞的產(chǎn)生機(jī)理。趙鵬菲[6]從網(wǎng)絡(luò)媒介賦予普通人參與權(quán)、虛假新聞的高迷惑性和迎合性等五個方面，分析了虛假新聞廣泛傳播的原因。二是對社交媒體治理機(jī)制的研究。唐遠(yuǎn)清等[7]較為全面地論述了Facebook治理虛假新聞的創(chuàng)新舉措及對中國社交媒體虛假新聞治理的啟示。洪曉梅[8]提出實行網(wǎng)絡(luò)信息分類分級監(jiān)管,建立網(wǎng)絡(luò)信息監(jiān)管多方共治的依法依規(guī)的動態(tài)機(jī)制。三是研究人工智能技術(shù)在社交媒體中的應(yīng)用和治理方法。張洪忠等[9]從傳播學(xué)視角出發(fā)分析了應(yīng)如何認(rèn)識政治機(jī)器人對輿論的影響，并且提出需要引入跨學(xué)科的機(jī)器行為學(xué)新范式推動該領(lǐng)域的深度研究。樊嘉等[10]從社交機(jī)器人行為機(jī)制出發(fā)探討其與網(wǎng)絡(luò)治理的關(guān)系,提出人機(jī)交互下的社交機(jī)器人網(wǎng)絡(luò)治理方法。但是，基于開源情報對域外勢力操控社交媒體進(jìn)行虛假輿論宣傳方面的實證研究較少。本文利用開源情報搜集社交媒體數(shù)據(jù)信息，結(jié)合輿情事件發(fā)展過程進(jìn)行深度剖析，挖掘域外勢力實施虛假宣傳的方法和路徑，進(jìn)而有針對性地從人工智能、大數(shù)據(jù)建模等技術(shù)角度提出應(yīng)對策略。

1 域外勢力操控網(wǎng)絡(luò)社交媒體的表現(xiàn)形式

社交媒體，如博客、微信、Twitter、Facebook、GooglePlus、Instagram等，都是豐富的信息來源。由于全球有數(shù)十億社交網(wǎng)絡(luò)用戶，通過提取網(wǎng)絡(luò)社交媒體賬號注冊信息、發(fā)帖時間、發(fā)帖地點(diǎn)、發(fā)帖設(shè)備以及轉(zhuǎn)發(fā)、關(guān)注、點(diǎn)贊、回復(fù)、提及、超鏈接等元數(shù)據(jù)，能夠挖掘出重點(diǎn)賬號以及幕后的操縱者。例如，近期在某些地區(qū)發(fā)生的游行示威，這些游行示威甚至逐漸最終發(fā)展為暴亂活動[11]。仔細(xì)觀察分析此類事件能夠發(fā)現(xiàn)在多個國家和地區(qū)發(fā)生的示威場景都有著共同的特點(diǎn)：所有人員都有統(tǒng)一的服裝，免費(fèi)的防護(hù)用品和飲水、食品等，還有統(tǒng)一的手勢和招牌動作。利用開源情報工具分析后還發(fā)現(xiàn)：這些參與游行示威的人，表面上看起來似乎是無組織的自由組合，但都離不開網(wǎng)絡(luò)社交媒體和即時通訊工具，甚至是使用網(wǎng)絡(luò)加密通訊工具進(jìn)行聯(lián)系與組織的，重點(diǎn)人員還參加了相關(guān)培訓(xùn)。

華盛頓大學(xué)的通訊教授 Katy Pearce研究了Facebook 在阿塞拜疆的使用情況，認(rèn)為Facebook 恰恰是政府控制社會最有效的工具。Facebook和 Twitter 等社交媒體也正在“努力應(yīng)對”國家政府和其他組織對其平臺上重要資源的利用[12]。數(shù)以百萬計的假帳戶利用算法操縱用戶可以看到的東西，而位置欺騙等技術(shù)可以使集中控制的帳戶看起來像是位于不同地區(qū)的真人形成的網(wǎng)絡(luò)輿論大軍[13]。世界各國正在利用互聯(lián)網(wǎng)將信息技術(shù)作為權(quán)力整合和社會控制的手段，推動虛假信息操作，并且傳播和宣傳規(guī)模比以往更大。

為了應(yīng)對 Twitter 和 Facebook 上發(fā)起的各類革命和社會運(yùn)動，各國政府大多采取的是審查內(nèi)容、阻止訪問社交媒體、監(jiān)控等手段。但事實上，通過大量的虛假信息和匿名威脅來淹沒平臺反而更加“有效”，被稱為“信息污染”戰(zhàn)略，這是由網(wǎng)絡(luò)社交媒體迅速傳播的特性所導(dǎo)致的。牛津大學(xué)牛津因特網(wǎng)研究所進(jìn)行的一項“計算宣傳”研究項目，通過對七個不同社交媒體平臺上的數(shù)千萬個帖子的研究后發(fā)現(xiàn)，計算宣傳中有幾個明顯的全球性特征，比如，社交媒體是政治參與的重要平臺，也是傳播新聞內(nèi)容的重要渠道，成為年輕人發(fā)展其政治身份的主要媒體，而且被積極地用作操縱公眾輿論的工具[14]。

2 域外勢力操控網(wǎng)絡(luò)社交媒體的手段路徑

2.1利用虛假公司注冊網(wǎng)絡(luò)社交媒體賬號域外勢力除了使用Twitter、Facebook、Telegram等社交媒體在中國境內(nèi)開展反政府宣傳以外，中國境內(nèi)網(wǎng)絡(luò)社交媒體也被廣泛利用，傳播社會負(fù)面新聞，貌似支持某些弱勢群體，實則培養(yǎng)民眾消極情緒，進(jìn)行虛假宣傳。

經(jīng)開源情報分析發(fā)現(xiàn)，在國內(nèi)影響力非常高的某社交媒體平臺也常常被域外勢力利用。雖然，網(wǎng)絡(luò)社交媒體公司利用人工智能技術(shù)對發(fā)帖內(nèi)容進(jìn)行了審核，一些明顯的涉恐涉爆、違反法律法規(guī)的文章可以被機(jī)器算法屏蔽或刪除。但是，一些賬號采用了關(guān)鍵詞規(guī)避技術(shù)后仍然可以順利通過審核，圍繞社會負(fù)面新聞熱點(diǎn)，深挖和放大負(fù)面新聞。比如2020年7月，筆者發(fā)現(xiàn)某社交媒體群里曾有人大量轉(zhuǎn)發(fā)抨擊社會負(fù)面視頻，經(jīng)分析后發(fā)現(xiàn)，這是一個在2020年5月30日新注冊的某網(wǎng)絡(luò)社交媒體賬號，其使用“某某百貨商行”工商信息注冊賬號“****”，該賬號內(nèi)幾乎沒有原創(chuàng)文章，都是轉(zhuǎn)載的各類傳遞社會負(fù)面消息的視頻。通過企查查等開源情報工具查詢以現(xiàn)，“某某百貨商行”是2020年5月24日新注冊的公司，除了有注冊地址和法人名字外，無其他任何信息。進(jìn)一步檢索發(fā)現(xiàn)，從公司注冊后的短短5天時間，該公司地址上就注冊了十多家同類型的百貨商行，而且全部都是除了注冊地址和法人名字外，無其他任何登記信息。

類似利用購買“皮包公司”的注冊信息開設(shè)網(wǎng)絡(luò)社交媒體賬號的情況在境內(nèi)社交媒體上比比皆是。這種利用工商注冊信息開設(shè)網(wǎng)絡(luò)社交媒體賬號的手法，和電信網(wǎng)絡(luò)詐騙團(tuán)伙利用購買工商注冊信息開設(shè)對公銀行賬戶用于實施詐騙完全相同。

2.2利用AI技術(shù)操控政治機(jī)器人參與網(wǎng)絡(luò)傳播域外勢力為了提高虛假信息的傳播速度，快速提升社交媒體賬號的影響力，利用人工智能技術(shù)代替真人操作。社交機(jī)器人是在社交網(wǎng)絡(luò)中扮演人的身份，擁有不同程度人格屬性且與人進(jìn)行互動的虛擬AI形象[15]。其中，被域外勢力操控并在社交媒體中廣泛參與政治討論的機(jī)器人程序，被稱為“政治機(jī)器人”。在政治危機(jī)期間，政治機(jī)器人作為強(qiáng)有力的宣傳工具與人類行為者一同參與宣傳工作，并且政治機(jī)器人可以用來推動某些政治事件的發(fā)展，傳播帶有放大或者誤導(dǎo)性的消息和扭曲的政治言論[16]。政治機(jī)器人可以被反復(fù)使用，散布虛假信息干預(yù)選舉結(jié)果[17]，存在著可重復(fù)使用的政治機(jī)器人網(wǎng)絡(luò)黑市。

從全球范圍來看，政治機(jī)器人主要被用在政治選舉、社會動員、政治干擾三種應(yīng)用場景中。使用政治機(jī)器人可以將政治信息在短時間內(nèi)大范圍進(jìn)行廣泛傳播，對民眾的政治參與意愿也有一定的促進(jìn)意義。同時，政治機(jī)器人對網(wǎng)絡(luò)輿論的干預(yù)也會影響公眾正常的輿論表達(dá)。域外勢力通過利用政治機(jī)器人模仿人類用戶以混淆輿論視聽，對公民信息進(jìn)行自動化抓取和分析，操縱公共輿論，擾亂正常的組織信息交流。域外勢力通過將具有社交屬性、看似沒有宏大敘事、“人畜無害”的符號或圖案作為自己的標(biāo)簽，在社交媒體上利用話題標(biāo)簽帶節(jié)奏，建立有利于域外勢力特定政治意圖傳播的標(biāo)簽，污染別人的標(biāo)簽、甚至改寫熱門標(biāo)簽的成分，這其實跟當(dāng)年的“郁金香”一樣，是發(fā)動顏色革命[18]的新形態(tài)。

2.3操控網(wǎng)絡(luò)社交媒體的實施路徑和重點(diǎn)對象域外勢力操縱網(wǎng)絡(luò)社交媒體已經(jīng)有很成熟的套路。首先，為了規(guī)避國內(nèi)網(wǎng)絡(luò)社交媒體賬號需要實名注冊的問題，域外勢力通過灰黑產(chǎn)市場大量購買工商注冊信息或者個人身份信息，再用買來的信息注冊大量社交媒體賬號，有的是直接大量購買憑借他人信息注冊的社交媒體賬號，儲備待用。其次，在需要利用熱點(diǎn)新聞炒作某個事件時，域外勢力通過網(wǎng)絡(luò)水軍團(tuán)隊或者政治機(jī)器人團(tuán)隊，操控這些買來的以及新注冊的社交媒體賬號，大量集中轉(zhuǎn)發(fā)包含社會負(fù)面評價信息的文章、圖像、視頻。最后，再利用其運(yùn)營和掌控的非常有影響力的大號或者域外勢力所掌控的媒體和公知大V轉(zhuǎn)發(fā)這些文章、圖像、視頻或者消息，從而達(dá)到快速傳播、擴(kuò)大影響力，進(jìn)而煽動群體性事件發(fā)生，甚至演變成街頭暴力活動，引發(fā)社會動蕩。域外勢力操控網(wǎng)絡(luò)社交媒體的實施路徑如圖1所示。

圖1 域外勢力操控網(wǎng)絡(luò)社交媒體的實施路徑

此外，域外勢力還利用互聯(lián)網(wǎng)和青年亞文化對青少年進(jìn)行誤導(dǎo)和誘導(dǎo)，其采用的方式和手段主要有：a.選取青少年普遍感興趣的飲食、漫畫等作為切入點(diǎn)，進(jìn)行大量“二次元”式卡通漫畫風(fēng)格的宣傳創(chuàng)作，惡意迎合青少年群體的趣味和喜好。b.以符號化圖案在社交媒體中曬圖打卡，利用當(dāng)下眾多青少年文化圈層的基本心理，設(shè)計大量海報和插畫，以引誘大量不明真相的青少年關(guān)注并且參與到非法游行示威等政治活動中。c.利用全職專業(yè)攝影師，日夜捕捉堪比好萊塢大片式構(gòu)圖和光影的示威游行照片，美化暴力、破壞行為，進(jìn)一步誤導(dǎo)青少年。d.以跨媒介的方式，在動漫、游戲和網(wǎng)絡(luò)歌曲、網(wǎng)絡(luò)電臺等青少年聚集的媒介形態(tài)中進(jìn)行擴(kuò)散，并附帶支持同性戀等特殊圈層的青年亞文化[19]議題，以障眼法的方式渾水摸魚的同時進(jìn)一步綁架輿論。

3 網(wǎng)絡(luò)社交媒體中政治機(jī)器人的行為策略與識別

3.1政治機(jī)器人的行為策略政治機(jī)器人是一個自動賬戶，被編程為像用戶那樣交互，特別是在社交媒體上，機(jī)器人的運(yùn)營商借助算法注冊或者購買的形式掌控著大量社交媒體賬號，憑借虛假的個人身份向盡可能多的目標(biāo)群體傳播具有特定目的的政治訴求，在短時間內(nèi)引起廣泛的具有較大影響力的社會輿論[20]。政治機(jī)器人可以分為核心機(jī)器人和外圍機(jī)器人兩大類，核心機(jī)器人又被細(xì)分為三個類別：短命機(jī)器人，長存機(jī)器人和文章生成機(jī)器人。每類機(jī)器人的工作任務(wù)又有所不同，短命機(jī)器人主要用來大量轉(zhuǎn)發(fā)其他賬戶的文章，卻很少發(fā)布自己賬戶的推文，工作時間較短，一般持續(xù)5周左右的時間；長存機(jī)器人由于使用了規(guī)避網(wǎng)絡(luò)監(jiān)管的策略，賬號在線持續(xù)時間較長，一般在數(shù)十周以上，然后才被暫停賬號；文章生成機(jī)器人主要用來生成并發(fā)送推文，但很少轉(zhuǎn)發(fā)其他賬號的文章。外圍機(jī)器人是指參與傳播過程的機(jī)器賬戶，他們的任務(wù)是轉(zhuǎn)發(fā)核心機(jī)器人生成的一條或多條推文。

由于域外勢力的政治意圖不同，機(jī)器人的行為策略也不盡相同。因此，可以通過機(jī)器人的行為表現(xiàn)，分析其背后域外勢力的行動目的。政治機(jī)器人的行為策略主要有以下四種：a.制造虛假人氣。政治機(jī)器人冒充為政治領(lǐng)袖的支持者，營造粉絲數(shù)和點(diǎn)贊數(shù)飆升的假象，表面上制造政治人物在社交媒體上廣受歡迎的情景[21]，這是政治機(jī)器人的一項基本行為策略。b.推送大量政治消息。在西方國家常被用于大選和化解政治危機(jī)，機(jī)器人向潛在選民推送政治新聞資訊，鼓勵用戶將支持候選人的信息轉(zhuǎn)發(fā)給好友并完成投票[22]。c.傳播虛假或垃圾政治信息。政治機(jī)器人擴(kuò)散大量垃圾信息或虛假信息，對敏感的政治話題大肆夸張傳播，煽動線上網(wǎng)民和線下群眾參與其中[23]。同時，也發(fā)布大量無關(guān)政治的垃圾信息以持續(xù)提升人氣，吸引更多的人群關(guān)注。d.制造煙霧，混淆視聽。魔術(shù)師在表演時會使用的一種技巧，讓觀眾在觀看表演魔術(shù)時看向別處。政治機(jī)器人也會在網(wǎng)絡(luò)社交媒體上使用類似的策略，發(fā)布無關(guān)新聞，但這些垃圾新聞信息是與特定的政治話題標(biāo)簽綁定的，通過發(fā)布大量替代性的垃圾話題標(biāo)簽來扼殺和掩蓋現(xiàn)實討論，從而模糊輿論空間，干擾政治討論[24]。

3.2政治機(jī)器人的識別判斷近年來，某些域外勢力利用網(wǎng)絡(luò)社交媒體平臺發(fā)布大量虛假信息，編造政治事件，抹黑、造謠以擾亂他國國內(nèi)政局和鄰國間的政治交往關(guān)系，對他國國內(nèi)民眾政治輿論造成誤導(dǎo)，制造國家間緊張態(tài)勢。通過查閱相關(guān)新聞、網(wǎng)站、百科等信息，收集整理了與此類域外勢力有關(guān)的6個相關(guān)重點(diǎn)話題，利用爬蟲技術(shù)爬取了相關(guān)話題涉及的網(wǎng)絡(luò)社交媒體賬號，再利用可視化分析工具對搜集到的網(wǎng)絡(luò)社交媒體賬號數(shù)據(jù)進(jìn)行網(wǎng)絡(luò)拓?fù)浞治?、層級分析、中心性分析、交叉?jié)點(diǎn)分析和聚類分析，挖掘出在相關(guān)事件中處于關(guān)鍵傳播節(jié)點(diǎn)的數(shù)十個網(wǎng)絡(luò)社交媒體賬號，再對這些賬號的注冊時間、注冊地點(diǎn)、第一關(guān)注者、與其他賬號的點(diǎn)贊、留言、轉(zhuǎn)發(fā)和互動情況等內(nèi)容進(jìn)行結(jié)構(gòu)化特征分析，最終分析出這些網(wǎng)絡(luò)社交媒體賬號之間的關(guān)聯(lián)關(guān)系。通過對關(guān)鍵的26個個人網(wǎng)絡(luò)社交賬號和47個組織網(wǎng)絡(luò)社交媒體賬號進(jìn)行追蹤和梳理分析，發(fā)現(xiàn)一些共性特征：

a.有組織有預(yù)謀進(jìn)行周密策劃。如，某重點(diǎn)關(guān)注賬號2020年1月注冊，直到4月才發(fā)布第1條推文，即賬號注冊時間比啟動該賬號發(fā)布虛假信息推文的時間要早3個月，這一特征充分表明域外勢力是早有預(yù)謀和計劃的，在相關(guān)話題事件發(fā)酵前就提前注冊和話題密切相關(guān)的社交網(wǎng)絡(luò)賬號。而且，轉(zhuǎn)發(fā)該賬號推文最多的是一些經(jīng)常發(fā)布反政府言論的個人和非政府組織，甚至是某些極端思想政治組織和人物的活躍賬號，各種域外勢力間有著頻繁且密切的聯(lián)系。

b.統(tǒng)一操控網(wǎng)絡(luò)社交媒體賬號。首先，按照預(yù)謀計劃在關(guān)鍵時間節(jié)點(diǎn)由某一個網(wǎng)絡(luò)社交媒體賬號率先發(fā)帖，編造虛假信息，假借正義之名，號召成立一個同盟組織；然后，其中的另一個賬號表示積極響應(yīng)，給予支持并且大量轉(zhuǎn)發(fā)推文來擴(kuò)大宣傳；接下來，隨著同盟組織的影響力不斷提升，吸引更多不明真相的賬號加入并且大量轉(zhuǎn)發(fā)推文；最終，發(fā)展成為網(wǎng)絡(luò)社交媒體反政府同盟組織。通過對是否為同時期注冊賬號、是否長期停用后突然啟用、發(fā)帖時間是否有規(guī)律可循、是否只在電腦網(wǎng)頁端發(fā)帖、是否為多個賬號同時發(fā)送相同內(nèi)容、是否只發(fā)帖無互動等情況進(jìn)行深度分析后，發(fā)現(xiàn)其網(wǎng)絡(luò)行為具有明顯的規(guī)律性和一致性，表現(xiàn)出明顯的有組織、有計劃被統(tǒng)一操控的行為。

c.大量利用政治機(jī)器人賬號。通過對網(wǎng)絡(luò)社交媒體上大量賬號和發(fā)帖進(jìn)行機(jī)器自動掃描，能夠發(fā)現(xiàn)如下政治機(jī)器人特征(如表1所示)。

表1 重點(diǎn)賬號政治機(jī)器人操縱的特征表現(xiàn)及判斷

除此之外，政治機(jī)器人操縱的賬號還表現(xiàn)出一些明顯特征。如，有的賬號轉(zhuǎn)推和點(diǎn)贊很有規(guī)律；有的賬號會用多種語言發(fā)送推文，甚至包含人類用戶通常不會發(fā)布的字符；有的賬號沒有頭像、冒用他人頭像或者使用卡通、風(fēng)景、名人頭像，具有匿名化特征；還有的賬號使用的ID(指帶有@的名字)是由算法生成的數(shù)字字母組合等。

通過對上述網(wǎng)絡(luò)社交媒體賬號的分析可以發(fā)現(xiàn)，域外勢力通過網(wǎng)絡(luò)社交媒體平臺將各國“民主運(yùn)動人員”組群，利用政治機(jī)器人等科技手段，采用團(tuán)隊操控注冊新的網(wǎng)絡(luò)社交媒體賬號和啟用歷史僵尸賬號的方式，大量發(fā)送虛假造謠網(wǎng)帖，并通過其掌控的新聞媒體及有影響力的個人賬號進(jìn)行大量轉(zhuǎn)發(fā)，從而在互聯(lián)網(wǎng)上快速傳播，達(dá)到其特殊目的。

4 應(yīng)對域外勢力操控網(wǎng)絡(luò)社交媒體的技術(shù)策略

隨著計算機(jī)建模能力、仿真能力和推演能力的增強(qiáng)，以及人工智能技術(shù)的廣泛應(yīng)用，未來基于全域戰(zhàn)、多域戰(zhàn)的智能輿論戰(zhàn)將會成為常態(tài)。輿論戰(zhàn)行動和輿論戰(zhàn)力量不僅將突破人類體力、腦力和智力的生理極限，克服人類容易疲勞、無法持久作戰(zhàn)的弱點(diǎn)，并可以針對特定群體隨時開展輿論博弈[25]。針對域外勢力操控網(wǎng)絡(luò)社交媒體的方法和路徑，從技術(shù)角度提出兩點(diǎn)應(yīng)對策略。

4.1建立關(guān)鍵信息數(shù)據(jù)庫監(jiān)測管控高危賬號對域外勢力操控高危賬號的治理和管控可以通過建立關(guān)鍵信息數(shù)據(jù)庫，應(yīng)用數(shù)據(jù)碰撞、比對分析的方法，全面掌控域外勢力操控的社交賬號信息以及易被迷惑群體的社交賬號信息，有針對性地開展治理管控和教育宣傳工作。一是要求國內(nèi)網(wǎng)絡(luò)社交媒體和應(yīng)用軟件建立平臺舉報功能，政府職能部門根據(jù)舉報線索收集與域外勢力反政府宣傳相關(guān)的賬號信息，并且對賬號注冊信息開展大數(shù)據(jù)建模分析，挖掘同類可疑賬號，建立可疑網(wǎng)絡(luò)社交媒體賬號數(shù)據(jù)庫。二是分析可疑網(wǎng)絡(luò)社交媒體賬號的人員注冊信息及工商注冊信息中的注冊時間、注冊地址、實繳注冊資金、聯(lián)系電話、網(wǎng)址、郵箱等重要內(nèi)容，再利用大數(shù)據(jù)建模技術(shù)挖掘同類工商注冊信息，形成高危工商注冊數(shù)據(jù)庫。這種方法和打擊電信網(wǎng)絡(luò)詐騙案件中針對涉案對公賬戶的數(shù)據(jù)建模分析模式基本相同，并且已有較成功的案例。三是利用可疑網(wǎng)絡(luò)社交賬號數(shù)據(jù)庫和高危工商注冊數(shù)據(jù)庫開展數(shù)據(jù)交叉比對分析，形成高危網(wǎng)絡(luò)社交數(shù)據(jù)庫。同時，分析相關(guān)高危網(wǎng)絡(luò)社交賬號的資金流轉(zhuǎn)、注冊使用地址、關(guān)聯(lián)設(shè)備、關(guān)系人員和關(guān)聯(lián)社交賬號等信息，挖掘背后的操控勢力，形成域外勢力操控高危網(wǎng)絡(luò)社交賬號數(shù)據(jù)庫。同時，對關(guān)注和轉(zhuǎn)發(fā)高危網(wǎng)絡(luò)社交賬號信息的社交賬號進(jìn)行分析比對，建立易被迷惑群體社交賬號數(shù)據(jù)庫。針對易被迷惑群體編輯和制作符合其思維和文化水平及其感興趣的視頻、圖像、文章，有針對性開展正面宣傳和思想教育宣傳。

4.2利用人工智能技術(shù)有效識別和應(yīng)對政治機(jī)器人政治機(jī)器人通過大量轉(zhuǎn)發(fā)推文、參與話題進(jìn)行廣告發(fā)布或?qū)崿F(xiàn)輿論影響，體現(xiàn)形式主要是虛假信息的傳播。對于僵尸機(jī)器人按照共性特征可以將其推文內(nèi)容細(xì)分為新聞、意見、垃圾郵件或者釣魚郵件、證詞、對話、突發(fā)新聞、動員抵抗或者支持、動員援助、征求信息、信息提供、流行文化等12類，再根據(jù)這些特征就可以對僵尸機(jī)器人賬號與人類賬號進(jìn)行區(qū)分和識別。

網(wǎng)絡(luò)社交媒體中對政治機(jī)器人的檢測識別和治理管控主要包括兩項：

一是運(yùn)用人工智能和機(jī)器學(xué)習(xí)算法對共性特征集分析后，能夠精準(zhǔn)地對政治機(jī)器人進(jìn)行有效識別，然后將機(jī)器人賬號進(jìn)行封禁或者從網(wǎng)絡(luò)社交媒體平臺中移除。同時，平臺提供封禁賬號的申訴功能，支持被移除賬號提交恢復(fù)賬號使用權(quán)的申請?；谏缃粓D的檢測法、人工眾包檢測法、基于活動特征的檢測法是三類主要利用計算機(jī)學(xué)對機(jī)器人進(jìn)行檢測的方法[26]，再結(jié)合網(wǎng)絡(luò)取證和社會網(wǎng)絡(luò)分析技術(shù)能夠?qū)φ螜C(jī)器人進(jìn)行更加準(zhǔn)確的識別。其中，基于活動特征檢測法通過應(yīng)用社交機(jī)器人探測分類器能夠發(fā)現(xiàn)機(jī)器人和人類在網(wǎng)絡(luò)社交媒體上發(fā)文內(nèi)容以及行為上的差異，探測分類器主要由四個部分組成：熵組件用于檢測用戶推文的規(guī)律性和周期；機(jī)器學(xué)習(xí)組件用于檢測垃圾推文等機(jī)器人常用發(fā)文類型；賬戶屬性組件通過檢查推文中的外部URL比率或檢查發(fā)文設(shè)備(web、移動端或API)以幫助檢測和判斷機(jī)器人；決策生成器組件用來決定被識別為機(jī)器人賬戶的管控行為。

二是政府和社交媒體平臺共同建立服務(wù)于平臺治理的機(jī)器人管理員團(tuán)隊。但要注意的是，需要將管理員團(tuán)隊中的機(jī)器人賬號列為白名單，以免被人工智能檢測算法識別后誤移除網(wǎng)絡(luò)社交媒體平臺。該團(tuán)隊定期向網(wǎng)絡(luò)社交媒體賬戶群發(fā)平臺管理規(guī)范和約束性措施具體實施辦法等規(guī)章制度和相關(guān)宣傳資料，保證媒體平臺監(jiān)督部門與社交賬戶的強(qiáng)交互性以及媒體平臺發(fā)布信息及時有效的傳遞性；機(jī)器人管理員團(tuán)隊通過神經(jīng)網(wǎng)絡(luò)等機(jī)器自主學(xué)習(xí)方法，不斷迭代對政治機(jī)器人賬號的檢測識別算法，同時持續(xù)積累不同亞文化群體的語言形成語料知識庫，全面提高對虛假信息識別的準(zhǔn)確度；機(jī)器人管理員團(tuán)隊還能夠完成話題分類和內(nèi)容驗證，對社交網(wǎng)絡(luò)平臺實時監(jiān)督，在發(fā)現(xiàn)平臺中存在虛假信息傳播時，可以以相互關(guān)注、轉(zhuǎn)發(fā)、點(diǎn)贊和評論等群體性行為與域外勢力操控的政治機(jī)器人形成對抗；由于機(jī)器人管理員團(tuán)隊具有群體性進(jìn)化演變能力，因此可以培養(yǎng)團(tuán)隊核心領(lǐng)袖機(jī)器人，吸引大量真人粉絲與其建立相互信任的關(guān)系，在處理突發(fā)性事件時第一時間利用領(lǐng)袖機(jī)器人的影響力傳遞正能量信息，從而實現(xiàn)揭穿虛假事件，還原事件真相，引導(dǎo)網(wǎng)民理性立場和站位，提升應(yīng)對輿情事件的能力。

5 結(jié) 語

應(yīng)對域外勢力操縱網(wǎng)絡(luò)社交媒體進(jìn)行危害國家安全的行為，不是靠技術(shù)手段就能解決的，而是一個系統(tǒng)工程，涉及社會治理的諸多要素，受到方方面面的影響，不僅要強(qiáng)化對域外勢力操控的社交媒體賬號管控，全面治理網(wǎng)絡(luò)社交媒體平臺中利用政治機(jī)器人傳播反政府虛假輿論宣傳的行為；還要利用大數(shù)據(jù)建模和人工智能等技術(shù)堅決遏制境內(nèi)外各種域外勢力的反政府宣傳活動；不斷健全和完善法律體系，通過立法強(qiáng)化對網(wǎng)絡(luò)違法信息言論的法律監(jiān)管，尋求“網(wǎng)絡(luò)自由”和“法治監(jiān)管”之間的動態(tài)平衡。在總體國家安全觀的指導(dǎo)下，各利益相關(guān)者需協(xié)同一致，積極構(gòu)建政府、網(wǎng)絡(luò)媒體平臺和社會民眾共同參與、共同監(jiān)督、共同治理的多元共治新范式。