熱議新冠疫情的推特用戶，可能有一半是機(jī)器人

卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)系教授凱瑟琳·卡莉（來(lái)源：卡內(nèi)基梅隆大學(xué)）

社交平臺(tái)是熱點(diǎn)信息和重大新聞的關(guān)鍵獲取渠道之一，尤其是在當(dāng)下新冠肺炎疫情大流行時(shí)期。

一個(gè)公認(rèn)的事實(shí)是，出于各式各樣的目的，無(wú)論是國(guó)內(nèi)的微博，還是國(guó)外的推特，平臺(tái)上經(jīng)常會(huì)有機(jī)器人賬號(hào)，也就是所謂的 “僵尸” 賬號(hào)出沒(méi)。不過(guò)，這些偽裝成真人的虛假賬號(hào)通常不會(huì)占據(jù)太大比例。

以推特為例，卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)系教授凱瑟琳 · 卡莉帶領(lǐng)團(tuán)隊(duì)分析過(guò)，在美國(guó)出現(xiàn)值得關(guān)注的自然災(zāi)害和政治事件時(shí)，平臺(tái)上的互動(dòng)通常有 10%～20% 是機(jī)器人賬號(hào)參與的。

然而，另一項(xiàng)同樣來(lái)自卡莉教授的最新調(diào)查顯示，在與新冠病毒有關(guān)的話題討論中，虛假推特賬戶的參與比例可能高達(dá) 45%～60%，活躍程度是平時(shí)的3倍～5倍，而且有組織痕跡，行為模式更加復(fù)雜，隱藏得更深。

它們中的一大部分都是今年 2 月份創(chuàng)建的，非常熱衷于參與新冠疫情討論，包括傳播錯(cuò)誤醫(yī)療建議，夸大不實(shí)信息，轉(zhuǎn)發(fā)病毒起源的陰謀論，并且積極推動(dòng)居家令的終止和呼吁“重開(kāi)美國(guó)”。

研究人員認(rèn)為，他們雖然使用了老套的方法來(lái)增加影響力，但其策略已經(jīng)奏效：自美國(guó)疫情進(jìn)入暴發(fā)期以來(lái)，推特上的相關(guān)話題討論呈現(xiàn)出極大的兩極分化態(tài)勢(shì)。

有許多因素可以解釋這一變化。疫情在全球大規(guī)模流行，意味著更多人會(huì)受到更大的利益驅(qū)動(dòng)，轉(zhuǎn)而利用危機(jī)來(lái)賺取政治利益和資本。與此同時(shí)，越來(lái)越多的機(jī)構(gòu)正在開(kāi)展影響力運(yùn)動(dòng)，施加強(qiáng)大的力量來(lái)主導(dǎo)不實(shí)信息的傳播。

但是卡莉教授指出，最值得擔(dān)心的一點(diǎn)并非機(jī)器人賬號(hào)的數(shù)量，而是它們愈發(fā)復(fù)雜的行為模式，不僅使其更難被發(fā)現(xiàn)，還進(jìn)一步增強(qiáng)了破壞力。

在有意培養(yǎng)下，如今的“僵尸”賬號(hào)與其他賬號(hào)之間的聯(lián)系更加深入，交際網(wǎng)絡(luò)更廣，從而使假消息更容易廣泛傳播。它們還會(huì)采取更多策略針對(duì)美國(guó)的高風(fēng)險(xiǎn)群體，比如移民和少數(shù)群體，并且拉攏發(fā)表或參與討論仇恨言論的真實(shí)賬號(hào)，幫助他們組建和加入 Facebook Group 這樣的在線群體，有意引導(dǎo)他們的情緒。

在最新的調(diào)查分析中，研究團(tuán)隊(duì)收集了自2020年 1 月以來(lái)的 2 億多條推文，全都與冠狀病毒或 COVID-19 等關(guān)鍵詞有關(guān)。他們隨后使用機(jī)器學(xué)習(xí)和網(wǎng)絡(luò)分析技術(shù)，來(lái)確定哪些賬戶傳播了虛假信息，又有哪些存在機(jī)器人賬戶的嫌疑，其中也包括由人控制，但借助輔助工具，短時(shí)間內(nèi)實(shí)現(xiàn)大批量轉(zhuǎn)發(fā)、快速回復(fù)和超高頻率發(fā)文的賬戶——這種賬號(hào)又被稱為“cyborg（半機(jī)器人）”，行為通常帶有很強(qiáng)的目的性。

呼吁“重開(kāi)加州”的游行

研究人員所使用的系統(tǒng)可以尋找 16 種不同操作模式，都是虛假賬戶身上常見(jiàn)的行為習(xí)慣，包括 “橋接” 兩個(gè)在線社群，用集中關(guān)注的方式“支持”一個(gè)賬戶以提升影響力，以及“爆破”一個(gè)在線社群致其解散。

經(jīng)過(guò)分析，他們發(fā)現(xiàn)了 100 多種版本的新冠病毒“假故事”。憑借精心編織的假故事，機(jī)器人賬號(hào)不僅吸引了大量注意力和關(guān)注者，還在轉(zhuǎn)發(fā)推文中占據(jù)了極高的比例。在排名前 50 的轉(zhuǎn)推賬號(hào)中，有高達(dá) 82% 是機(jī)器人賬號(hào)。如果范圍擴(kuò)大到前 1000 名，這一比例下降到了 62%，但仍然超過(guò)半數(shù)，其影響力不可小覷。這些虛假信息對(duì)社交網(wǎng)絡(luò)環(huán)境的污染和破壞可想而知。

現(xiàn)在研究團(tuán)隊(duì)的工作重心已經(jīng)轉(zhuǎn)向 Facebook，Reddit 和 YouTube，以了解假信息如何在多個(gè)平臺(tái)之間傳播。這項(xiàng)工作仍處于初級(jí)階段，但一些令人意外的模式已經(jīng)顯現(xiàn)。首先，他們發(fā)現(xiàn)許多 “假故事” 最早起源于常規(guī)網(wǎng)站或博客，然后才被節(jié)選或轉(zhuǎn)載到社交平臺(tái)上加以放大。不同類型的故事也有不同的出處模式，比如聲稱病毒是生化武器的通常是那些以 “披露黑料” 或“炮制假新聞”著稱的網(wǎng)站，運(yùn)營(yíng)方大多來(lái)自美國(guó)境外。與之相反的是，類似于 “抵制居家令，重開(kāi)美國(guó)” 的言論主要來(lái)自美國(guó)境內(nèi)的博客和 Facebook 主頁(yè)。

其次，研究團(tuán)隊(duì)還意識(shí)到，不同平臺(tái)的用戶應(yīng)對(duì)此類內(nèi)容的方式非常不一樣。以 Reddit 論壇為例，管理者更傾向于戳破并禁止虛假信息。當(dāng) Facebook 上的 “重開(kāi)美國(guó)” 號(hào)召流傳到Reeddit論壇上時(shí)，有的用戶會(huì)主動(dòng)發(fā)言抵制其傳播。

在虛假信息中，關(guān)于治愈和預(yù)防病毒的迷惑資訊最為普遍，包括從注射漂白劑到服用類固醇在內(nèi)的一系列概念。值得注意是，像是 “注射漂白劑可以殺死病毒” 這樣一段說(shuō)辭，對(duì)不同人的作用也不一樣，甚至是截然相反的：有的人覺(jué)得很滑稽，為了諷刺而轉(zhuǎn)發(fā)，有的人卻會(huì)信以為真地轉(zhuǎn)發(fā)。因此，即使因?yàn)橹S刺和滑稽而傳播這種虛假信息，如果不明確說(shuō)明，也可能會(huì)造成意想不到的破壞性。

至于如何解決這一系列問(wèn)題背后的根源——虛假賬號(hào)泛濫，卡莉認(rèn)為“沒(méi)有簡(jiǎn)單的方法”。單純地禁用或刪除賬號(hào)是徒勞的，因?yàn)楸澈蟮娜藭?huì)創(chuàng)建更多賬號(hào)，禁用無(wú)法解決任何問(wèn)題。虛假信息在任何時(shí)刻都會(huì)出現(xiàn)，尤其是危機(jī)和災(zāi)難降臨時(shí)，幾乎無(wú)法避免。每個(gè)人在接收信息和網(wǎng)上互動(dòng)時(shí)，都應(yīng)該認(rèn)真思考互動(dòng)的內(nèi)容和方式。有時(shí)，直接點(diǎn)出這是虛假信息，或許就能阻止其進(jìn)一步傳播。

“很多虛假信息通過(guò)影射、暗示或不合邏輯的表述來(lái)完成，很難被發(fā)現(xiàn)?！?卡莉補(bǔ)充稱：“我們需要研究人員、企業(yè)和政府共同努力，進(jìn)行協(xié)調(diào)，以提出更有效的策略和措施。我認(rèn)為需要某種綜合監(jiān)督小組，因?yàn)闆](méi)有人可以獨(dú)自完成這一切。”

（摘自美《深科技》）（編輯/費(fèi)勒萌）