社交機(jī)器人：互聯(lián)網(wǎng)水軍治理的新挑戰(zhàn)

【內(nèi)容提要】社交機(jī)器人是一種能在網(wǎng)絡(luò)上進(jìn)行內(nèi)容生產(chǎn)的人工智能算法，其通過(guò)模仿人類(lèi)用戶行為逃避平臺(tái)風(fēng)控系統(tǒng)的識(shí)別，通過(guò)社交網(wǎng)絡(luò)互動(dòng)與內(nèi)容發(fā)布進(jìn)行輿論干預(yù)，使得資本與技術(shù)能夠通過(guò)更高效的方式掌握更大的傳播權(quán)力，嚴(yán)重危害網(wǎng)絡(luò)信息安全。因此需要增強(qiáng)技術(shù)識(shí)別、完善法律法規(guī)，保證互聯(lián)網(wǎng)健康發(fā)展。

【關(guān)鍵詞】互聯(lián)網(wǎng)治理? 水軍? 社交機(jī)器人

社交機(jī)器人（Socialbot）指的是一種寄生在社交媒體平臺(tái)上的無(wú)物質(zhì)實(shí)體的自動(dòng)程序型智能體，它是一種存在于虛擬的數(shù)字社交空間中的虛擬機(jī)器人。①作為一種算法，社交機(jī)器人在網(wǎng)絡(luò)上進(jìn)行原本只有人類(lèi)才能進(jìn)行的內(nèi)容生產(chǎn)活動(dòng)，可以作為一種全天候的數(shù)字勞工，甚至可以作為人類(lèi)的“交往對(duì)象”承擔(dān)一定的情感價(jià)值。但當(dāng)其被利用為“互聯(lián)網(wǎng)水軍”，就能讓操縱者以較低的成本進(jìn)行大量信息生產(chǎn)與傳播活動(dòng)，從而左右輿論、混淆視聽(tīng)。社交機(jī)器人的出現(xiàn)給互聯(lián)網(wǎng)水軍治理提出了巨大的挑戰(zhàn)，如何應(yīng)對(duì)社交機(jī)器人水軍，成為信息與網(wǎng)絡(luò)安全領(lǐng)域的重大問(wèn)題。

一、從人到社交機(jī)器人：互聯(lián)網(wǎng)水軍主體的演變

在社交網(wǎng)絡(luò)上，能夠進(jìn)行信息生產(chǎn)的機(jī)器其實(shí)早已有之。從國(guó)內(nèi)來(lái)看，早在2003年前后就有“發(fā)貼機(jī)”活躍于各大論壇網(wǎng)站。這些“發(fā)貼機(jī)”可以實(shí)現(xiàn)同一內(nèi)容的大量轉(zhuǎn)發(fā)，實(shí)現(xiàn)短時(shí)間內(nèi)的大規(guī)模內(nèi)容傳播。隨著網(wǎng)絡(luò)實(shí)名制推進(jìn)，發(fā)貼機(jī)后臺(tái)注冊(cè)多個(gè)賬號(hào)的行為不再行得通，平臺(tái)對(duì)這種簡(jiǎn)單轉(zhuǎn)發(fā)的“發(fā)貼機(jī)”識(shí)別也更加精準(zhǔn)，手機(jī)“群控”技術(shù)產(chǎn)生了?！叭嚎亍敝傅氖且慌_(tái)電腦通過(guò)算法控制多臺(tái)智能手機(jī)，并且運(yùn)用大數(shù)據(jù)編出適合不同平臺(tái)的內(nèi)容進(jìn)行發(fā)布，從而躲過(guò)平臺(tái)風(fēng)控系統(tǒng)。此后“群控”技術(shù)又與“云服務(wù)器”技術(shù)結(jié)合，使得電腦能通過(guò)云端遠(yuǎn)程控制上千臺(tái)設(shè)備。

不管是“發(fā)貼機(jī)”還是“群控”，其本質(zhì)都是技術(shù)人員通過(guò)算法進(jìn)行水軍行為。與人工水軍相比，算法水軍顯然具有成本低、易于管理、工作效率快的“優(yōu)點(diǎn)”。但由于其內(nèi)容相比人工來(lái)說(shuō)更加統(tǒng)一機(jī)械，一方面更容易被平臺(tái)識(shí)別、封禁，另一方面也更容易被社交媒體用戶識(shí)別從而拒絕接受其傳達(dá)的信息。因此，在這兩個(gè)階段，計(jì)算機(jī)水軍的影響力都比較小，人工水軍仍然是水軍治理面臨的頭號(hào)難題。

而當(dāng)計(jì)算機(jī)水軍發(fā)展成為了機(jī)器人水軍，局面就完全不同了。社交機(jī)器人是人工智能時(shí)代的產(chǎn)物，其算法開(kāi)始具備了某些人類(lèi)用戶的特征。他們能夠在社交平臺(tái)自如地轉(zhuǎn)發(fā)、關(guān)注、點(diǎn)贊，甚至可以通過(guò)社交賬號(hào)之間的關(guān)注與互動(dòng)形成一個(gè)“社交關(guān)系網(wǎng)”，并在每一次的水軍任務(wù)中靈活地利用關(guān)系網(wǎng)達(dá)到最佳傳播效果。平臺(tái)要想識(shí)別這樣偽裝成人類(lèi)用戶的機(jī)器人水軍，需要花費(fèi)大量精力，還要冒著誤傷普通用戶的風(fēng)險(xiǎn)。

通過(guò)模仿人類(lèi)用戶，社交機(jī)器人能夠躲過(guò)平臺(tái)風(fēng)控系統(tǒng)的監(jiān)測(cè)、利用社交平臺(tái)的關(guān)系網(wǎng)擴(kuò)大傳播范圍。而在另一些領(lǐng)域，社交機(jī)器人又能夠充分發(fā)揮其作為算法而優(yōu)于人類(lèi)用戶的特點(diǎn)。首先，算法能更高效地利用時(shí)間，在突發(fā)公共事件發(fā)生時(shí)能夠被及時(shí)動(dòng)員（人工水軍則需要一定的動(dòng)員時(shí)間）。并且算法還能同時(shí)發(fā)送上千條信息，這是人工遠(yuǎn)遠(yuǎn)達(dá)不到的水平。其次，算法能夠?qū)崿F(xiàn)更加精準(zhǔn)的推送。在進(jìn)行商業(yè)營(yíng)銷(xiāo)時(shí)，如何將內(nèi)容盡可能推送到潛在客戶面前，需要算法的計(jì)算，人工水軍則只能進(jìn)行無(wú)差別的消息推送。

二、社交機(jī)器人帶來(lái)的互聯(lián)網(wǎng)水軍新運(yùn)作模式

盡管作為水軍的本質(zhì)并沒(méi)有改變，但是社交機(jī)器人水軍的出現(xiàn)卻改寫(xiě)了人類(lèi)中心主義性質(zhì)的互聯(lián)網(wǎng)社交媒體傳播模式，使得互聯(lián)網(wǎng)水軍的運(yùn)作模式也出現(xiàn)了不同。在新的運(yùn)作模式下，操縱者可以更高效地管理水軍、更加靈活地使用不同信息傳輸方式，從而掌握更多的傳播權(quán)力，導(dǎo)致傳播權(quán)力的進(jìn)一步失衡。

社交媒體賬號(hào)的傳統(tǒng)驅(qū)動(dòng)方式是兩層結(jié)構(gòu)：人類(lèi)傳播主體與由其運(yùn)營(yíng)的社交媒體賬號(hào)。水軍的出現(xiàn)在社交媒體賬號(hào)和人類(lèi)傳播主體上增加了一個(gè)覆蓋層——水軍操縱主體。水軍操縱主體能夠操縱多個(gè)水軍成員運(yùn)營(yíng)社交媒體賬號(hào)。而社交機(jī)器人的出現(xiàn)，使得社交機(jī)器人的操縱主體不需要管理多個(gè)水軍成員，只需要同機(jī)器打交道。

這一全新的運(yùn)作模式相比傳統(tǒng)水軍運(yùn)作模式無(wú)疑是更高效的。水軍操縱主體只需要同機(jī)器打交道，節(jié)省了人工水軍模式下的大量溝通成本。只需要一個(gè)宏觀的行動(dòng)法則，社交機(jī)器人就能夠以自組織的方式自動(dòng)運(yùn)行，不像人類(lèi)水軍那樣需要花費(fèi)大量的精力培養(yǎng)與訓(xùn)練。

新模式下的互聯(lián)網(wǎng)水軍能夠更加靈活地運(yùn)用不同信息傳輸方式完成任務(wù)。人工水軍的工作流程包括三個(gè)環(huán)節(jié)：網(wǎng)絡(luò)公關(guān)公司發(fā)布任務(wù)，將任務(wù)下發(fā)給水軍包工頭;水軍包工頭將任務(wù)下發(fā)給網(wǎng)絡(luò)水軍;水軍再按照任務(wù)要求進(jìn)行發(fā)帖、刪帖等操作。②在這樣的流程中，一個(gè)任務(wù)的完成周期較長(zhǎng)，水軍只是機(jī)械地完成包工頭的任務(wù)。而社交機(jī)器人則直接被操縱者控制，可以根據(jù)具體的任務(wù)內(nèi)容決定信息傳輸方式。例如，當(dāng)任務(wù)是傳播信息（例如散布謠言）時(shí)，社交機(jī)器人會(huì)選擇大范圍地進(jìn)行信息發(fā)布與推送。當(dāng)任務(wù)是進(jìn)行觀點(diǎn)和態(tài)度上的輸出（例如進(jìn)行某事件的公關(guān)），社交機(jī)器人就通過(guò)關(guān)注、點(diǎn)贊行為與其他用戶形成連接，從而讓其反復(fù)接觸相關(guān)信息，并成為傳播網(wǎng)絡(luò)中的下一個(gè)有影響力的節(jié)點(diǎn)。

如此高效、靈活的互聯(lián)網(wǎng)水軍運(yùn)作模式都是為水軍的操縱者以及操縱者背后的買(mǎi)方服務(wù)的，因此這一模式下傳播權(quán)力并不平等。水軍操縱主體通過(guò)操縱水軍成員，間接實(shí)現(xiàn)了一人掌握多個(gè)社交媒體賬號(hào)的目的，導(dǎo)致其在傳播過(guò)程中掌握的話語(yǔ)權(quán)相當(dāng)于成百上千個(gè)普通網(wǎng)民。而社交機(jī)器人的出現(xiàn)，讓一個(gè)人能夠掌握的水軍數(shù)量增加了數(shù)倍，普通用戶和操縱主體的傳播能力嚴(yán)重失衡。③而操縱社交機(jī)器人是有門(mén)檻的，既有技術(shù)的門(mén)檻又有資本的門(mén)檻，這就進(jìn)一步導(dǎo)致傳播權(quán)力向技術(shù)、資本以及掌握了技術(shù)的資本傾斜。

三、社交機(jī)器人加深的信息環(huán)境污染問(wèn)題

1964年，哈貝馬斯提出了“公共領(lǐng)域”的概念，用以指代一個(gè)開(kāi)放公共空間，在這個(gè)公共空間中，市民能夠自由發(fā)表言論，不受外力干涉。④互聯(lián)網(wǎng)誕生之初，許多人相信其會(huì)成為一個(gè)理想的“公共領(lǐng)域”。然而后續(xù)的發(fā)展中卻出現(xiàn)了很多問(wèn)題，一方面，現(xiàn)實(shí)中互聯(lián)網(wǎng)空間的對(duì)話與討論免不了政府、資本等外力的干預(yù);另一方面，水軍的泛濫對(duì)輿論產(chǎn)生不小的干擾，從內(nèi)部危害了這一公共領(lǐng)域。社交機(jī)器人的出現(xiàn)讓互聯(lián)網(wǎng)水軍發(fā)展到新的階段，使得這種危害體現(xiàn)得更加明顯。

首先，社交機(jī)器人能夠影響互聯(lián)網(wǎng)平臺(tái)的信息傳播過(guò)程，在信息擴(kuò)散中扮演關(guān)鍵角色。在傳播初期，社交機(jī)器人通過(guò)發(fā)貼、轉(zhuǎn)發(fā)等手段積極放大內(nèi)容，隨后再通過(guò)回復(fù)、提及鎖定有影響力的用戶以使人類(lèi)受影響，最終實(shí)現(xiàn)低可信度消息滾雪球式的擴(kuò)散。⑤社交機(jī)器人對(duì)低可信度消息的擴(kuò)散能夠迅速炒熱一個(gè)事件，在事件中“捧紅”一些人、詆毀一些人、模糊輿論焦點(diǎn)，對(duì)信息安全構(gòu)成極大危害。

其次，社交機(jī)器人也會(huì)作用于互聯(lián)網(wǎng)的意見(jiàn)的形成過(guò)程，在一些情況下，會(huì)加大沉默的螺旋效應(yīng)。沉默的螺旋是德國(guó)學(xué)者諾埃勒·諾伊曼提出的一個(gè)理論，指的是大多數(shù)個(gè)人因?yàn)楹ε掠捎趩为?dú)持有某些態(tài)度和信念而被孤立，因而不太愿意把自己與自己認(rèn)為的主流意見(jiàn)不同的觀點(diǎn)說(shuō)出來(lái)。在特定話題中，如果社交機(jī)器人自動(dòng)生成的某種觀點(diǎn)占據(jù)足夠大的比重，就能造成許多人都持有這種觀點(diǎn)的印象，使其傳播的觀點(diǎn)被認(rèn)為是“主流觀點(diǎn)”，從而導(dǎo)致沉默的螺旋發(fā)生。⑥除此之外，社交機(jī)器人在爭(zhēng)議性事件中往往會(huì)作出力挺某一方的發(fā)言，導(dǎo)致網(wǎng)友的觀點(diǎn)隨之朝著更極端的方向發(fā)展。

最后，社交機(jī)器人水軍危害了大數(shù)據(jù)時(shí)代的數(shù)據(jù)準(zhǔn)確性。用社交機(jī)器人發(fā)布信息、提出觀點(diǎn)、對(duì)已有信息進(jìn)行轉(zhuǎn)發(fā)評(píng)論，就是給互聯(lián)網(wǎng)平臺(tái)的數(shù)據(jù)注水?！白⑺?dāng)?shù)據(jù)”好比是互聯(lián)網(wǎng)時(shí)代的“假賬”，給輿情監(jiān)測(cè)、社會(huì)現(xiàn)象分析都帶來(lái)了巨大的不確定性。

如何應(yīng)對(duì)這樣的一些危害，可以從兩個(gè)方面思考，一是技術(shù)上，二是法律上。

從技術(shù)上來(lái)看，雖然社交機(jī)器人能夠在很多方面模仿人類(lèi)用戶，但與人類(lèi)用戶還是有很大的區(qū)別。傳統(tǒng)的人工水軍賬號(hào)少有原創(chuàng)與互動(dòng)，機(jī)器人水軍則有太多的內(nèi)容生產(chǎn)與互動(dòng)。社交機(jī)器人不僅24小時(shí)無(wú)休，還能一分鐘進(jìn)行大量操作。通過(guò)對(duì)這些“戰(zhàn)斗力超強(qiáng)”的反常行為進(jìn)行監(jiān)控，平臺(tái)方可以更好地識(shí)別出機(jī)器人水軍。由于同一個(gè)操縱者手下的社交機(jī)器人往往遵從同一宏觀指導(dǎo)原則，因此在識(shí)別出一個(gè)機(jī)器人水軍之后，就能在平臺(tái)找到與其行為特征相似的其他社交機(jī)器人。找到這些社交機(jī)器人只是第一步，找到之后要進(jìn)行賬號(hào)的快速封禁與殺除，封禁速度必須大于操縱者的反應(yīng)速度。除此之外，對(duì)于社交機(jī)器人發(fā)布的有害信息要及時(shí)刪除，避免賬號(hào)影響力持續(xù)到封禁后。

從法律上來(lái)看，建立健全相關(guān)法律法規(guī)是必經(jīng)之路。網(wǎng)絡(luò)水軍一直屬于灰色產(chǎn)業(yè)，直至今日專(zhuān)門(mén)針對(duì)網(wǎng)絡(luò)水軍的法律法規(guī)仍是一片空白。⑦只有當(dāng)其涉嫌發(fā)布謠言、誹謗等，網(wǎng)絡(luò)水軍才會(huì)受到法律處罰。在處罰人工水軍時(shí)，由于涉事的人員數(shù)量龐大，水軍流動(dòng)性又大，往往阻力重重。而社交機(jī)器人水軍的出現(xiàn)則讓追責(zé)問(wèn)題更加清晰，機(jī)器人背后的操縱者需要對(duì)機(jī)器人水軍的行為負(fù)責(zé)。因此，專(zhuān)門(mén)針對(duì)網(wǎng)絡(luò)水軍的法律法規(guī)將在社交機(jī)器人的年代發(fā)揮更大的作用。

四、結(jié)語(yǔ)

社交機(jī)器人的出現(xiàn)讓水軍在互聯(lián)網(wǎng)上發(fā)揮著越來(lái)越大的影響，為了維護(hù)網(wǎng)絡(luò)信息安全、構(gòu)造有利于社會(huì)健康發(fā)展的網(wǎng)絡(luò)輿論環(huán)境，必須重視對(duì)機(jī)器人水軍的治理，平臺(tái)方要承擔(dān)起監(jiān)督、識(shí)別、處理的義務(wù)，國(guó)家相關(guān)部門(mén)也應(yīng)該完善相應(yīng)法律、加大處罰力度。在機(jī)器人水軍與網(wǎng)絡(luò)平臺(tái)風(fēng)控系統(tǒng)不斷的博弈過(guò)程中，風(fēng)控系統(tǒng)必須處于上風(fēng)，才能保證互聯(lián)網(wǎng)環(huán)境的健康。

注釋?zhuān)?/p>

①蔡潤(rùn)芳.人機(jī)社交傳播與自動(dòng)傳播技術(shù)的社會(huì)建構(gòu)——基于歐美學(xué)界對(duì)Socialbots的研究討論[J].當(dāng)代傳播，2017（06）：53-58.

②姜明.從傳播學(xué)角度看待新媒體時(shí)代下的網(wǎng)絡(luò)水軍[J].新聞研究導(dǎo)刊，2017，8（21）：69-70.

③鄭晨予，范紅.從社會(huì)傳染到社會(huì)擴(kuò)散：社交機(jī)器人的社會(huì)擴(kuò)散傳播機(jī)制研究[J].新聞界，2020（03）：51-62.

④周明睿.虛擬公共領(lǐng)域的把控：“網(wǎng)絡(luò)水軍”的作用機(jī)制與治理[J].聲屏世界，2020（06）：103-104.

⑤洪杰文，許琳惠.社交網(wǎng)絡(luò)中社交機(jī)器人行為及其影響研究——基于國(guó)外相 關(guān)文獻(xiàn)的綜述[J/OL].全球傳媒學(xué)刊.

⑥周鈺穎，閔勇，江婷君，吳曄，金小剛，蔡和.社交媒體機(jī)器人的研究現(xiàn)狀、 挑戰(zhàn)與展望.小型微型計(jì)算機(jī)系統(tǒng).

⑦陳昌鳳.商業(yè)性網(wǎng)絡(luò)水軍的全鏈條治理[J].人民論壇，2019（32）：120-122.

作者簡(jiǎn)介：王夏韻，中國(guó)人民大學(xué)新聞學(xué)院碩士研究生

（指導(dǎo)老師：彭? 蘭）

編輯：孟凌霄