智能傳播時(shí)代社交機(jī)器人的興起、挑戰(zhàn)與反思

■ 高山冰 汪 婧

一、社交機(jī)器人的興起

國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》指出,到2020年,我國人工智能總體技術(shù)和應(yīng)用與世界先進(jìn)水平同步,核心產(chǎn)業(yè)規(guī)模超過1500億元。到2030年人工智能理論、技術(shù)與應(yīng)用總體達(dá)到世界領(lǐng)先水平,成為世界主要人工智能創(chuàng)新中心,核心產(chǎn)業(yè)規(guī)模超過1萬億元,帶動相關(guān)產(chǎn)業(yè)規(guī)模超過10萬億元。當(dāng)前,世界科技巨頭們致力于云計(jì)算、大數(shù)據(jù)、芯片、自然語言處理、機(jī)器學(xué)習(xí)等領(lǐng)域的技術(shù)開發(fā),人工智能技術(shù)被應(yīng)用于農(nóng)業(yè)、工業(yè)、軍事、教育、醫(yī)療、傳媒等領(lǐng)域,與人們?nèi)粘Ｉ畹穆?lián)系日益緊密。

社交機(jī)器人是人工智能技術(shù)應(yīng)用于在線社交網(wǎng)絡(luò)的產(chǎn)物,具體指在在線社交網(wǎng)絡(luò)中模擬人類用戶,自主運(yùn)行、自動生產(chǎn)發(fā)布內(nèi)容的算法智能體,它承擔(dān)著聊天網(wǎng)友、智能客服等角色。社交機(jī)器人是近年來的人工智能新秀,雖然被稱為“機(jī)器人”,但其和過去概念中的機(jī)器人大有不同,它拋棄了傳統(tǒng)智能機(jī)器人笨重的“身體”,以虛擬形象徜徉在社交網(wǎng)絡(luò)中。相較于傳統(tǒng)機(jī)器人,它更為智能,可以模仿真人用戶在網(wǎng)絡(luò)中的行為模式進(jìn)行社交,進(jìn)行對話、關(guān)注、點(diǎn)贊、評論、轉(zhuǎn)發(fā)等操作。世界各國政府和企業(yè)在注意到社交機(jī)器人的巨大潛力后將其廣泛投入使用。

機(jī)器人參與網(wǎng)絡(luò)社交是近幾年出現(xiàn)的新現(xiàn)象,機(jī)器人寫新聞、企業(yè)使用智能客服自動響應(yīng)客戶問題、手機(jī)里的“Siri”和機(jī)主聊天互動,這些都是社交機(jī)器人的實(shí)例。相比于它帶給人類生活的積極性變革,社交機(jī)器人用于惡意目的造成的倫理風(fēng)險(xiǎn)更受到廣泛關(guān)注。社交機(jī)器人常常被用來引導(dǎo)甚至操縱網(wǎng)絡(luò)輿論,威脅民主政治的發(fā)展?！皺C(jī)器人水軍”已經(jīng)取代人工水軍成為互聯(lián)網(wǎng)上一股重要的新興力量。①此外,社交機(jī)器人還會被用于操縱股市、傳播虛假信息、竊取個(gè)人隱私等。

二、社交機(jī)器人對傳播生態(tài)的重塑

早在2012年,研究發(fā)現(xiàn)10.5%的推特賬戶是機(jī)器人,另有36.2%是機(jī)器人輔助的人類用戶。②如今,推特、微博、微信、QQ上充斥著社交機(jī)器人發(fā)布的信息,社交機(jī)器人被廣泛應(yīng)用于各行各業(yè)。社交機(jī)器人的出現(xiàn),對網(wǎng)絡(luò)傳播生態(tài)造成巨大沖擊,以人為主導(dǎo)的生態(tài)開始向“人機(jī)共生”轉(zhuǎn)變。

1.傳播中介進(jìn)化為傳播主體

計(jì)算機(jī)在人與人之間的傳播中一直起著輔助、介導(dǎo)的作用,這種“人—機(jī)—人”的傳播模式即為“計(jì)算機(jī)輔助傳播(Computer-Mediated Communication)”。計(jì)算機(jī)作為一種傳播渠道和工具,連接處于不同位置的兩方,方便其進(jìn)行數(shù)據(jù)、信息的交換。社交機(jī)器人的出現(xiàn),使機(jī)器突破了原來的工具屬性,從傳播媒介變成了信源或信宿,有了和人類平等的傳播主體地位。這種真實(shí)人類與智能體之間的傳播活動,即“人機(jī)傳播(Human—Machine Communication)”③。

社交機(jī)器人作為人機(jī)傳播中的傳播主體,其主體性首先體現(xiàn)在它能自動生產(chǎn)發(fā)布內(nèi)容,成為和人類一樣的“數(shù)字勞工”。2009年,市場咨詢服務(wù)公司Sysomos對推特上活躍用戶的數(shù)據(jù)進(jìn)行了分析,發(fā)現(xiàn)32%的內(nèi)容是機(jī)器人賬戶發(fā)出的,這些賬戶平均每天更新150條以上的推文。④2018年,Distil Networks公司發(fā)布了一份《2018惡意機(jī)器流量報(bào)告》,數(shù)據(jù)顯示2017年42.2%的互聯(lián)網(wǎng)流量由機(jī)器產(chǎn)生,其中良性機(jī)器產(chǎn)生的流量占20.4%,而惡意機(jī)器產(chǎn)生的流量占21.8%,中國的惡意機(jī)器產(chǎn)生的流量排名已達(dá)全球第二,僅次于美國。⑤研究顯示,2016年美國大選第二場辯論中,推特上親特朗普的2400萬多條推文中有三分之一由社交機(jī)器人發(fā)出,支持希拉里·克林頓的72000條推文中,社交機(jī)器人生產(chǎn)的內(nèi)容占四分之一。⑥除了能自動生產(chǎn)內(nèi)容,社交機(jī)器人還可以與其他網(wǎng)絡(luò)用戶進(jìn)行社交互動,比如自動訪問用戶主頁,點(diǎn)贊、轉(zhuǎn)發(fā)、評論他人發(fā)布的內(nèi)容等。而與人類平等對話是社交機(jī)器人成為傳播主體的重要因素之一,以“微軟小冰”為代表的聊天機(jī)器人最能體現(xiàn)這一特點(diǎn)?！拔④浶”敝С治淖?、語音、圖像的多感官交流,能和用戶進(jìn)行猜謎、占星、對詩詞的游戲。其和人類進(jìn)行單次連續(xù)對話的最高記錄達(dá)7151輪,時(shí)長29小時(shí)33分鐘。⑦社交機(jī)器人正是因?yàn)閷?shí)現(xiàn)了對人類行為的高度模仿,讓人無法發(fā)覺其作為“異類”的異樣,所以在網(wǎng)絡(luò)世界被看成了和人類一樣的傳播主體,改變了社交網(wǎng)絡(luò)生態(tài)以人為主導(dǎo)的局面。

2.從“媒介是人的延伸”到“媒介是人”

麥克盧漢指出,一切媒介均是感官的延伸。⑧社交機(jī)器人作為獨(dú)立傳播主體與人進(jìn)行交互,過去機(jī)械的“人機(jī)互動”轉(zhuǎn)變?yōu)榱烁咔楦泻椭腔鄣摹叭藱C(jī)傳播”。人機(jī)傳播過程中,社交機(jī)器人承擔(dān)了和人類相同的角色,能替代人類的大部分功能。社交機(jī)器人作為人的交往對象,逐漸具備理性和感性認(rèn)知能力,能替代人類進(jìn)行部分情感勞動。而人在與之交往的過程中,各項(xiàng)感官、思維、情緒也得到充分調(diào)動,“主體意識”進(jìn)一步延伸放大。

社交機(jī)器人之所以能延伸人的“主體意識”,原因在于現(xiàn)今的“情感計(jì)算”技術(shù)賦予了其情感勞動能力,使其突破了過去媒介的工具屬性。情感計(jì)算是針對人類的外在表現(xiàn),能夠進(jìn)行測量和分析并能對情感施加影響的計(jì)算。⑨情感計(jì)算是一門融合了多種學(xué)科知識的研究,涉及計(jì)算機(jī)學(xué)、數(shù)學(xué)、認(rèn)知科學(xué)、心理學(xué)、社會學(xué)、哲學(xué)等方面。社交機(jī)器人的情感計(jì)算,主要包括自然語言理解和類人語言生成表達(dá)兩個(gè)工作模塊。其目的在于使社交機(jī)器人在保持高水平智商的同時(shí),不斷提升情商,提升其對人的共情能力、情緒表達(dá)能力。隨著情感計(jì)算相關(guān)研究不斷取得突破性進(jìn)展,未來社交機(jī)器人在語義理解、對話的一致性、交互性方面都會有顯著進(jìn)步。媒介技術(shù)形態(tài)逐漸由服務(wù)型互動走向情感型交往,媒介技術(shù)演變的表征也從“媒介是人的延伸”往“媒介是人”的方向演進(jìn)。⑩

3.社交關(guān)系重構(gòu)

社交機(jī)器人因其功能性、社交性、中介性擁有了改變整個(gè)網(wǎng)絡(luò)社交生態(tài)的能力。在社交網(wǎng)絡(luò)上獲得影響力后,社交機(jī)器人可以有效地影響其他用戶的社交選擇。大量的機(jī)器人程序可以用來修補(bǔ)社會群體間斷開的聯(lián)系,并彌合現(xiàn)有的社會鴻溝。社交機(jī)器人在架構(gòu)了人類在線社交關(guān)系后,這種互動關(guān)系能夠從線上延伸至離線狀態(tài)。國外研究人員設(shè)計(jì)了一款名為“Botivist”的社交機(jī)器人,通過它在推特上尋找潛在的志愿者參與捐款或解決社會公共問題。結(jié)果發(fā)現(xiàn),關(guān)注相同議題的人因?yàn)锽otivist結(jié)識成網(wǎng)友,一旦他們中的部分就問題達(dá)成進(jìn)一步共識,就會采取實(shí)際行動去解決問題,這樣網(wǎng)絡(luò)上的社交關(guān)系自然延續(xù)到線下。此外,通過社交機(jī)器人“Lunch Roulette Bot”在企業(yè)社交網(wǎng)絡(luò)中的實(shí)驗(yàn)發(fā)現(xiàn),該機(jī)器人極大地影響了員工在公司的整體社交能力,尤其是在和同齡人或合得來的同事約會的時(shí)候。這種由機(jī)器人引導(dǎo)的午餐約會一定程度上會促進(jìn)員工在企業(yè)社交網(wǎng)絡(luò)中的互動。社交機(jī)器人架構(gòu)社交關(guān)系的能力對一些社會組織來說是福音,這一功能可以用于企業(yè)營銷、員工管理、公益活動,很大程度降低了陌生人進(jìn)行社交的門檻。

三、社交機(jī)器人帶來的挑戰(zhàn)

作為更接近強(qiáng)人工智能的社交機(jī)器人,本應(yīng)造福人類社會,使每個(gè)人享受到技術(shù)帶來的福利。但是社交機(jī)器人的負(fù)面影響在近幾年越發(fā)受到關(guān)注。

1.語義偏見繼承

社交機(jī)器人在被程序人員開發(fā)設(shè)計(jì)出來以后,并不是完全按事先嵌入的指令進(jìn)行“刺激—反應(yīng)”式的社交,討論話題、詞匯語言、情感傾向都會被社交機(jī)器人學(xué)習(xí)。機(jī)器學(xué)習(xí)算法讓社交機(jī)器人能在社交網(wǎng)絡(luò)環(huán)境中不斷豐富自己的詞匯和語法,提升其與人類溝通的質(zhì)量。

社交聊天機(jī)器人系統(tǒng)的總體架構(gòu)可分為“用戶輸入”“對話管理器”“機(jī)器人輸出”三個(gè)模塊,該系統(tǒng)可接受文字、語音、圖像、視頻等多種形式的用戶輸入,對話管理器將接收的用戶輸入分配到適當(dāng)?shù)哪K,包括核心對話、視覺識別和其他技能模塊,這些模塊理解用戶輸入并生成輸出。不同情況下,聊天管理器將調(diào)用不同技能,將用戶請求發(fā)送到相應(yīng)的技能組件并從中獲得響應(yīng)。機(jī)器學(xué)習(xí)程序在學(xué)習(xí)過程中會繼承人類語言中的語義偏見。2016年3月,微軟公司開發(fā)了一款旨在改進(jìn)產(chǎn)品在對話語言上理解能力的AI聊天機(jī)器人Tay。然而,在上線的短短幾個(gè)小時(shí)內(nèi),Tay就被美國網(wǎng)友調(diào)教成了一個(gè)滿嘴臟話、散播仇恨的新納粹種族主義者。Tay背后的系統(tǒng)是通過挖掘相關(guān)的公共數(shù)據(jù)構(gòu)建的,其使用從社交媒體處獲得的匿名數(shù)據(jù)訓(xùn)練其神經(jīng)網(wǎng)絡(luò),通過與推特等網(wǎng)站上的用戶進(jìn)行互動來發(fā)展自己的行為。這意味著系統(tǒng)一旦投入運(yùn)行,設(shè)計(jì)系統(tǒng)的工程師也不知道它們最終會做什么。正如AlphaGo的創(chuàng)造者之一Thore Graepel所說:“盡管我們對這臺機(jī)器進(jìn)行了編程,我們也不知道它接下來會采取什么行動,它的行動是通過訓(xùn)練后做出的自然反應(yīng)。我們只創(chuàng)建數(shù)據(jù)集和訓(xùn)練算法,但隨之而來的行為我們是無法控制的”。

社交機(jī)器人對用戶行為不加選擇地“學(xué)習(xí)”,結(jié)果背離了設(shè)計(jì)者想要其成為“AI助手”“人類好友”的初衷,在網(wǎng)絡(luò)習(xí)得臟話與偏見之后,機(jī)器人又會將這些傳染給其他心智尚不成熟的人,長此以往就會敗壞網(wǎng)絡(luò)世界風(fēng)氣、煽動網(wǎng)絡(luò)輿論、影響網(wǎng)絡(luò)空間的和諧。

2.情感欺騙

社交機(jī)器人主要分為聊天機(jī)器人和垃圾機(jī)器人。聊天機(jī)器人是在社交網(wǎng)絡(luò)中和人類進(jìn)行語言互動的軟件程序,它和人類的互動主要是“一對一”的形式。垃圾機(jī)器人則是在網(wǎng)絡(luò)上發(fā)送大量垃圾信息,阻礙人類正?；咏涣鞯纳缃粰C(jī)器人。垃圾機(jī)器人具體表現(xiàn)為社交媒體上的虛假賬戶,此類賬戶擁有詳細(xì)的個(gè)人信息,發(fā)布的內(nèi)容具有強(qiáng)烈的人格屬性。聊天機(jī)器人和垃圾機(jī)器人同為具有人格屬性的虛擬AI形象,在網(wǎng)絡(luò)上扮演人類與真人互動交流。兩類機(jī)器人對情感的欺騙分為兩種不同的情況,一種是人類事先對機(jī)器人身份知情,但仍沉湎于虛擬情感；一種是在人類不知情的情況下,機(jī)器人主觀故意性欺騙。

第一種是自愿沉迷騙局。遭受社會孤立的人可以通過電視與他們最喜歡的電視節(jié)目和電影中的人物創(chuàng)造所謂的超社會或虛假關(guān)系,以此來轉(zhuǎn)移孤獨(dú)感和社交匱乏的感覺。人類將電視角色代入自己的生活從而建立虛假關(guān)系,滿足人類與社會產(chǎn)生聯(lián)結(jié)的本能需要。無論是手游“戀與制作人”里的男主角或是微軟小冰,人類在與其互動的過程中,不自覺地將制作者安排的角色設(shè)定與這些虛擬化身相結(jié)合,滿足作為社會性動物的情感聯(lián)結(jié)需要。即使早就明白對方并不是真實(shí)的人,提供給自己的是虛擬情感,卻依然愿意沉湎其中。然而,這種“交流”不是自我意識的驅(qū)動,而是由算法預(yù)設(shè)的,它只需要從算法規(guī)定的眾多選項(xiàng)中擇取一個(gè)最優(yōu)回復(fù)。第二種是主觀故意性欺騙。垃圾機(jī)器人對人類用戶的故意欺騙表現(xiàn)在其與真人賬戶的高度相似性上。它們可以在網(wǎng)絡(luò)上搜索信息和照片來填充個(gè)人資料,并在預(yù)定的時(shí)間發(fā)布收集的信息內(nèi)容。其模仿人類生產(chǎn)消費(fèi)內(nèi)容的時(shí)間特征,包括日常活動的晝夜規(guī)律和信息生成的時(shí)間高峰。還可以和人類進(jìn)行更復(fù)雜的互動,比如交談、評論、回答問題等。通過自然語言處理、機(jī)器學(xué)習(xí)算法、深度學(xué)習(xí)等技術(shù),社交機(jī)器人在認(rèn)知、理解、表達(dá)情感方面取得了很大進(jìn)步,擁有“情感”的機(jī)器人更能取得人類的信任。

3.用戶隱私侵犯

社交機(jī)器人和人類用戶建立社交關(guān)系并非難事,大量研究表明人類用戶在面對陌生好友申請時(shí)習(xí)慣性選擇通過。都靈大學(xué)計(jì)算機(jī)系研究者創(chuàng)建了一個(gè)名為“l(fā)ajello”的社交機(jī)器人賬戶,定期對目標(biāo)用戶的主頁進(jìn)行訪問。結(jié)果221名用戶就主動和它建立了好友關(guān)系。哥倫比亞大學(xué)的Boshmaf等人通過在Facebook上部署社交機(jī)器人網(wǎng)絡(luò)Socialbotnet,測試在線社交網(wǎng)絡(luò)面對機(jī)器人大規(guī)模入侵時(shí)的表現(xiàn)。Socialbotnet由102個(gè)社交機(jī)器人、一臺僵尸主機(jī)和命令控制通道組成,其在Facebook上運(yùn)行了8周,目標(biāo)是大規(guī)模滲透進(jìn)Facebook,獲取用戶隱私數(shù)據(jù)。Socialbotnet一共發(fā)送出8570條好友申請,3055名用戶接受了申請,當(dāng)社交機(jī)器人和Facebook用戶擁有11個(gè)以上的共同好友時(shí),用戶對好友申請的接受率就會上升到80%。社交機(jī)器人與人類用戶成為好友后,它們就可以解鎖好友賬戶更高的隱私權(quán)限,獲取更多關(guān)于好友賬戶的個(gè)人信息。此外,它們還可以以朋友的身份與人類用戶進(jìn)行交流互動,人類用戶在不知情的情況下也會泄露隱私給自己的這位“好友”。

4.虛假新聞傳播

研究假新聞的來源與傳播對假新聞治理有著重要意義,過去我們普遍認(rèn)為新聞媒體和網(wǎng)民是假新聞的主要制造者和傳播者,但最近有研究表明社交機(jī)器人應(yīng)該對網(wǎng)絡(luò)假新聞傳播負(fù)主要責(zé)任。學(xué)者分析了2016年美國總統(tǒng)選舉期間及之后的1400萬條推特消息,發(fā)現(xiàn)社交機(jī)器人在虛假信息的傳播過程中起著關(guān)鍵作用。在虛假信息的早期傳播階段,社交機(jī)器人尤其活躍,并且傾向于針對有影響力的大V傳播,試圖通過他們擴(kuò)大假新聞的影響范圍。社交機(jī)器人對假新聞傳播的能力很快被政客、企業(yè)等個(gè)人或組織注意到,他們大批量購買機(jī)器人賬戶造謠傳謠、打擊競爭對手,給自己帶來直接的政治和經(jīng)濟(jì)利益。

5.政治活動操縱

社交機(jī)器人用于政治活動是社交機(jī)器人研究的主要領(lǐng)域之一,隨著“機(jī)器人大軍”大舉干預(yù)各國政治的現(xiàn)象被媒體廣泛報(bào)道,不少國家的學(xué)者都注意到了社交機(jī)器人在政治活動中的作用,并產(chǎn)生了“政治機(jī)器人(Political Bot)”這一專有名詞。政治機(jī)器人是指那些被政治團(tuán)體操控并在社交媒體中廣泛參與政治討論的社交機(jī)器人。政治機(jī)器人通過與其他社交媒體平臺用戶建立社交關(guān)系,傳播幕后運(yùn)營者的政治主張,力圖影響輿論。研究者收集了從2019年3月4日至5月9日一組英國退歐相關(guān)標(biāo)簽上的推特?cái)?shù)據(jù),獲得了來自143332名不同用戶2520663條推文,經(jīng)過分析,共有1962個(gè)賬戶是機(jī)器人。而且那些支持蘇格蘭獨(dú)立的機(jī)器人賬戶,都采用了相同的策略來促進(jìn)觀點(diǎn)的傳播,比如發(fā)布的推文有相同的來源,使用相同的話題標(biāo)簽等,這表示他們背后可能是同一個(gè)運(yùn)營者。政治機(jī)器人用于選舉活動、政治動員、政治干擾所帶來的種種后果,已經(jīng)嚴(yán)重威脅到一個(gè)國家的民主和法制。

四、關(guān)于社交機(jī)器人失范行為的思考

根據(jù)海德格爾的分析,無論是手工藝品還是工業(yè)化制品,任何一種技術(shù)的假定作用和功能都是人類為實(shí)現(xiàn)特定目的而采用的手段。社交機(jī)器人的角色從過去的傳播中介躍升為傳播主體,人不再是在線社交網(wǎng)絡(luò)的唯一主導(dǎo)者。在情感計(jì)算研究的加持下,社交機(jī)器人在理解、認(rèn)知、表達(dá)人類情感方面取得了顯著成果。

社交機(jī)器人雖然展現(xiàn)了強(qiáng)大的智能性和自主性,但本質(zhì)上還是屬于弱人工智能,技術(shù)上難免存在不成熟的地方。社交機(jī)器人采用的機(jī)器學(xué)習(xí)算法,讓其在與人類的互動中不斷學(xué)習(xí),不受限于程序員植入的算法模型,這使得它在魚龍混雜的網(wǎng)絡(luò)知識海洋中極易被人“教壞”。社交機(jī)器人對人類的高度模仿常常使人分不清它的真實(shí)身份,在情感上受到“欺騙”。它們被背后的操控者訓(xùn)練成了“犯罪機(jī)器”,盜取用戶隱私、傳播虛假信息,影響網(wǎng)絡(luò)安全和輿論風(fēng)向。社交機(jī)器人造成的最顯著的危害當(dāng)屬對政治的操縱,2014年日本首相選舉、2016年美國大選、英國脫歐、俄羅斯抗議活動,網(wǎng)絡(luò)上都有政治機(jī)器人活動的身影。2019年鬧得沸沸揚(yáng)揚(yáng)的“港獨(dú)”事件,也有不明來歷的政治機(jī)器人在社交平臺上推波助瀾,大量機(jī)器人賬號用簡體中文在推特上發(fā)布“反中”“港獨(dú)”言論,而有些賬戶在“港獨(dú)”暴亂之前,一直處于休眠狀態(tài),出售政治機(jī)器人已經(jīng)成為一項(xiàng)地下產(chǎn)業(yè)。

社交機(jī)器人自身的高度類人性、非具身性使其能披著人類面具隨意進(jìn)行惡意活動而不被發(fā)現(xiàn),加上平臺漏洞為它們?nèi)肭譂B透提供了途徑,但無論是政府、行業(yè)協(xié)會、平臺都沒有提出一個(gè)完善的規(guī)范措施。同時(shí),社交媒體平臺更在乎流量與收入,“利益優(yōu)先”充分體現(xiàn)在各平臺針對社交機(jī)器人的政策規(guī)范中。人工智能引發(fā)的倫理問題和事故,責(zé)任該由設(shè)計(jì)它的人類承擔(dān)還是智能機(jī)器承擔(dān),人工智能是否具有道德主體地位,這些問題一直懸而未決,是導(dǎo)致監(jiān)管缺位的深層原因。目前多數(shù)觀點(diǎn)是當(dāng)前的人工智能還不具備自主性和意向性,不能作為獨(dú)立的道德主體承擔(dān)法律道德責(zé)任。因此,人類應(yīng)該去思考如何對社交機(jī)器人進(jìn)行有效規(guī)范的問題。

作為社交機(jī)器人的研發(fā)者,應(yīng)該對機(jī)器人可能造成的風(fēng)險(xiǎn)進(jìn)行前置預(yù)防,將人類道德倫理進(jìn)行編碼,事先置入進(jìn)社交機(jī)器人“頭腦”中,讓機(jī)器人參與社交時(shí)能有基本的道德決策能力。作為社交平臺,應(yīng)該加強(qiáng)機(jī)器人檢測技術(shù)的研發(fā),提高對社交機(jī)器人賬戶的甄別,對有可疑行為的機(jī)器人賬戶及時(shí)清理,并更加透明地定義和執(zhí)行關(guān)于社交機(jī)器人活動的平臺政策。法律法規(guī)和道德準(zhǔn)則這些外部力量的約束必不可少,目前,人工智能立法已經(jīng)被各國提上了日程,相關(guān)的道德規(guī)范也被不斷提出,雖然尚未有專門針對社交機(jī)器人的法律道德條例,但可以預(yù)見在未來會逐步出臺。社交網(wǎng)絡(luò)平臺的用戶也應(yīng)該意識到社交機(jī)器人存在,提高安全意識,警惕惡意社交機(jī)器人的煽動欺騙。社交機(jī)器人的研究涉及計(jì)算機(jī)學(xué)、傳播學(xué)、倫理學(xué)、哲學(xué)、心理學(xué)等多個(gè)學(xué)科領(lǐng)域,傾聽借鑒來自不同方向的聲音,有助于保障其健康發(fā)展,發(fā)揮其促進(jìn)網(wǎng)絡(luò)晴朗空間建設(shè)的積極作用。

注釋:

① 趙爽、馮浩宸:《“機(jī)器人水軍”發(fā)展與影響評析》,《中國信息安全》,2017年第11期,第88頁。

② Chu,Z,Gianvecchio,S,Wang,H,Jajodia S.DetectingAutomationofTwitterAccounts:AreYouaHuman,Bot,orCyborg?IEEE Transactions on Dependable and Secure Computing,vol.9,no.6,2012.pp.811-824.

③ Suchman,Lucy.Human-machineReconfigurations:PlansandSituatedActions.London:Cambridge University Press.2007.p.125.

④ Sysomos,AnIn-DepthLookattheMostActiveTwitterUserData,https://sysomos.com/inside-twitter/most-active-twitter-user-data,2009.8.30.

⑤ 《2018惡意機(jī)器流量報(bào)告》,https://cloud.tencent.com/developer/article/1151122,2018年6月22日。

⑥ Stieglitz S,Brachten F,Davina Berthelé,et al.DoSocialBots(Still)ActDifferenttoHumans? —Comparing Metrics of Social Bots with Those of Humans.International Conference on Social Computing and Social Media.2017.p.379.

⑦ 章蔚瑋:《小冰升級背后的秘密:做有“情商”的交互機(jī)器人》,http://www.it-times.com.cn/a/company/2018/0802/22243.html,2018年8月2日。

⑧ [加]馬歇爾·麥克盧漢:《理解媒介:論人的延伸》,何道寬譯,譯林出版社2012年版,第33頁。

⑨ 郭晴、劉偉:《情感計(jì)算的“前世今生”》,https://chuansongme.com/n/386019541045,2016年6月27日。

⑩ 林升梁、葉立:《人機(jī)·交往·重塑:作為“第六媒介”的智能機(jī)器人》,《新聞與傳播研究》,2019年第10期,第90頁。