社交機器人的負面影響應引起重視

趙蓓

在社交媒體中，數(shù)以百萬的社交機器人“居住”其中，它們模仿著人類用戶行為習慣，遵循特定的算法規(guī)則，傳遞信息并與人類用戶進行交互。南加州大學報告顯示，推特中高達15%的活躍用戶是社交機器人。社交機器人通過制造輿論共識、傳播虛假信息、營逾虛假人氣與更多人建立連接等手段影響網(wǎng)絡輿論形成和發(fā)展，甚至可能左右人們選擇。在美國大選、英國脫歐、新冠肺炎疫情、俄烏沖突等國際重大事件中，社交機器人占比均在20%至30%,成為干預網(wǎng)絡輿論走向的重要變量。

第一，擴大信息規(guī)模，制造輿論共識。比如在推特中，不到1%的社交機囂人通過大量轉(zhuǎn)發(fā)支持脫歐的推文產(chǎn)生約33%的流量。還有約7.7萬個機器人“簽署”了關于英國脫歐第二次公投的在線請愿書，企圖營造支持脫歐的虛假跡象。這些社交機器人的行為，在很大程度上影響了公眾對議題的判斷

第二，傳播虛假信息，煽動極化情緒。社交機器人往往與虛假信息聯(lián)系在一起。牛津大學報告顯示，2020年有81個國家在利用社交媒體進行計算宣傳和傳播虛假信息，其中就包括社交機器人的使用。例如，在新冠肺炎疫情肆虐的背景下，社交機器人傳播新冠病毒來源、種族仇恨、政治陰謀論拿相關內(nèi)容,與人類用戶關注公共健康和福利形成鮮明對比。社交機器人還可以增加負面或煽動性內(nèi)容的曝光量。在2017年加泰羅尼亞公投期間，社交機器人生成并宣傳針對獨立主義者的暴力內(nèi)容，最終加劇了在線社區(qū)的極化。

第三，組織協(xié)調(diào)行動，加強網(wǎng)絡連接。“協(xié)調(diào)”指的是多個不真實的賬戶或角色一起工作以推動某個項目或主題。作為一種計算機程序，社交機器人群體之間具有超高的聯(lián)通性，在算法的統(tǒng)一指揮下可以執(zhí)行復雜的協(xié)調(diào)行動。北師大新媒體傳播研究中心研究顯示，在俄烏沖突相關推特討論中社交機器人占比在20%左右，產(chǎn)生近30%的內(nèi)容。大量社交機器人在短時間內(nèi)重復使用或轉(zhuǎn)發(fā)標簽內(nèi)容；通過部署批量意見領袖型賬號，確保社交機器人在網(wǎng)絡中的中心位置，加強與其他用戶的連接等來引導輿論。

社交機器人因其在社交網(wǎng)絡中的影響力引起越來越多的關注，但這并不是說它帶來的都是威脅，也有機會。例如，社交機器人可以幫助人們快速獲取信息、參與政治表達、推動公共議程的形成等。社交機器人是一把雙刃劍，一方面為人機傳播帶來新的可能，另一方面被惡意使用成為操縱輿論的工具。

面對惡意社交機器人的威脅，首先要建立科學的識別系統(tǒng)。現(xiàn)有社交機器人識別工具主要是針對推特，其他社交媒體平臺如Facebook、YouTube等尚未有成熟的工具。為有效應對國際輿論風險，需要建立多平臺社交桃器人識別系統(tǒng)。從用'戶基本信息、網(wǎng)絡結(jié)構(gòu)特征、推文內(nèi)容、時間線等多個維度建構(gòu)指標體系，打造基于機器學習、自然語言處理等技術的智能識別系統(tǒng)。

第二，制定完善的應用規(guī)范。政府作為國家治理者，需要針對社交機器人制定完善的應用現(xiàn)范，出臺相應政策或法律確保使用目的、程序開發(fā)、應用場景的正當性，從源頭上防止社交機器人被惡意使用。

第三，加強社交媒體平臺治理。社交媒體平臺是社交機器人得以存在和生長的基礎設施，同時也是掌握算法和用戶數(shù)據(jù)最為全面的責任主體。因此，社交媒體平臺在應對社交機器人威脅時發(fā)揮關鍵作用。一方面加大對異常行為賬號的管理和處頁力度，另一方面要在賬號創(chuàng)建時進行嚴格的人機審查，對于機器人創(chuàng)建的賬號進行后臺或前臺標注。

第四，培養(yǎng)公眾的算法素養(yǎng)。算法素養(yǎng)是指“用戶能夠意識到算法的存在，并用批判性思維來理解算法帶來的影響”。公眾是否能夠辨認出社交機器人的存在,對其持有什么樣的態(tài)度，是決定社交機器人產(chǎn)生多大影響的重要因素。北師大新媒體傳播研究中心調(diào)查顯示，67.8%的中國網(wǎng)民對社交機器人有所了解，但只有1.2%的人非常了解；并且與美國相比，40.7%的中國網(wǎng)民對社交機器人持積極態(tài)度。這說明我國網(wǎng)民雖然對社交機器人有一定認知，但還停留在初級階段，對社交機器人負面影響感知并不明顯。因此要重點培養(yǎng)公眾的算法素養(yǎng)，使公眾正確認識社交機器人的存在，警惕虛假信息與輿論操縱?！ㄗ髡呤潜本煼洞髮W藝術與傳媒學院博士后）