社交機器人治理：國際實踐與中國進(jìn)路

摘"要""惡意社交機器人的泛濫給個人權(quán)益、社會秩序乃至人類倫理都帶來了一定程度的威脅。社交機器人的治理議題被推上全球舞臺，各國相繼出臺了一系列措施來對其失范行為進(jìn)行約束。目前對社交機器人的治理并未形成體系，主要依賴人工智能、數(shù)據(jù)隱私、智能機器等領(lǐng)域的指導(dǎo)性、模糊性規(guī)范。在全球治理中，中國有必要關(guān)注境內(nèi)外媒體平臺上社交機器人營造的與中國議題相關(guān)的輿情，更有必要汲取先進(jìn)經(jīng)驗，完善本國社交機器人應(yīng)用和監(jiān)管相平衡的治理路徑。

關(guān)鍵詞""智能傳播"網(wǎng)絡(luò)空間治理"社交網(wǎng)絡(luò)"媒介倫理"媒介法規(guī)

作者簡介"：""高山冰，文學(xué)博士，南京師范大學(xué)新聞與傳播學(xué)院教授、博士研究生導(dǎo)師，紫金傳媒智庫研究員；孫振凌，南方報業(yè)傳媒集團(tuán)《南方都市報》記者。"基金項目"：""江蘇高校哲學(xué)社會科學(xué)研究一般項目“人工智能時代網(wǎng)絡(luò)意識形態(tài)綜合治理研究”（2022SJYB0240）。

一、引"言

作為人工智能技術(shù)應(yīng)用于網(wǎng)絡(luò)社交的產(chǎn)物，社交機器人是指在社交平臺中由算法程序所操縱的社交媒體賬戶，它可以模仿人類的行為，比如自動發(fā)布內(nèi)容、與其他用戶互動等。社交機器人已經(jīng)在無形中參與和影響著人類網(wǎng)絡(luò)社交活動，甚至包括線下的行為與決策。

基于社交機器人的意見控制屬于傳播控制造成的一種意見偏差"①，社交機器人等技術(shù)創(chuàng)造出高度擬真的“景觀社會”，偏離真實和客觀，并日益加劇了媒介擬態(tài)環(huán)境。"②隨著社交機器人的病毒式擴張，特別是受到政治、資本等因素的干擾，負(fù)面影響越來越引起各國的關(guān)注。社交機器人所產(chǎn)生的倫理風(fēng)險集中于欺騙人類感情、操縱政治活動、傳播虛假新聞和竊取隱私數(shù)據(jù)等方面。"③在2016年美國大選中，社交媒體平臺X（原稱Twitter，即推特）中的社交機器人生成了"1億4000萬條推文，包含400萬個相關(guān)話題；在Facebook中，社交機器人分享了3800萬條虛假新聞，這在一定程度上操縱了大選的結(jié)果。而2020年美國大選中，數(shù)千個被稱為機器人的自動賬戶發(fā)布了關(guān)于唐納德·特朗普和他的民主黨對手喬·拜登及其兩個競選活動的推文 Emilio Ferrara， Ho-Chun Herbert Chang， Emily Chen， et al，“Characterizing social media manipulation in the 2020 US presidential election”， First Monday，vol.25，no.11 （2020）.，對選舉結(jié)果造成了一定的影響。

為了避免境內(nèi)外勢力利用社交機器人操縱民意，影響政治決策，很多國家和地區(qū)開始對社交機器人的非法使用加以限制。雖然各國治理實踐層出不窮，但現(xiàn)實狀況是各國對社交機器人的治理都未形成體系，效果也不盡如人意，無法對日益復(fù)雜的社交機器人應(yīng)用形成有效的治理。當(dāng)前，全球社交機器人治理所面臨的主要問題在于條文規(guī)定分布零散、政策缺乏強制性、治理滯后、地區(qū)間治理態(tài)度差異大、協(xié)調(diào)合作性差等。

中國的網(wǎng)絡(luò)情境有別于國外，但是利用“機器人水軍”操縱輿論的行為已不鮮見。研究表明，微博等國內(nèi)社交平臺上存在數(shù)量龐大的網(wǎng)絡(luò)水軍，且有不少是機器水軍。謝忠紅、張穎、張琳：《基于邏輯回歸算法的微博水軍識別》，《微型機與應(yīng)用》，2017年第16期。與此同時，販賣機器人水軍的產(chǎn)業(yè)鏈條刺激盜竊個人信息的黑色產(chǎn)業(yè)，助長網(wǎng)絡(luò)空間暴力，機器流量打亂國內(nèi)娛樂生態(tài)并形成了操縱機制。何苑、趙蓓：《社交機器人對娛樂傳播生態(tài)的操縱機制研究》，《西南民族大學(xué)學(xué)報（人文社會科學(xué)版）》，2021年第5期。此外，社交機器人在境外社交平臺的傳播如何影響和建構(gòu)中國形象，日益受到各方關(guān)注。國外社交媒體平臺中涉及中國的議題常常被社交機器人等自動化算法賬戶所操縱。師文、陳昌鳳：《分布與互動模式：社交機器人操縱Twitter上的中國議題研究》，《國際新聞界》，2020年第5期。例如，在有關(guān)中美貿(mào)易談判議題討論中，社交機器人占比達(dá)13%，發(fā)布內(nèi)容占比接近20%。張洪忠、趙蓓、石韋穎：《社交機器人在Twitter參與中美貿(mào)易談判議題的行為分析》，《新聞界》，2020年第2期。

基于此，本文圍繞國際社交機器人的具體治理政策和實踐展開分析，梳理社交機器人的治理模式，總結(jié)其特征和規(guī)律，并提出構(gòu)建中國社交機器人治理的模式和路徑。

二、國際社交機器人的治理邏輯

社交機器人治理在動力與政策實踐之間有著特定的邏輯形塑，面對當(dāng)前社交機器人治理的困境與不足，分析治理實踐得以形成和發(fā)展的行動框架則顯得尤為重要。

（一）對外競爭與對內(nèi)治理并存的思維起點

社交機器人的輿論影響力在一定程度上甚至能夠直接改變意見氣候。對外、對內(nèi)兩種思維作為底層邏輯都是使得動力得以傳導(dǎo)的策源性因素，是治理方著眼于利益考量的決策動力。

1.對外：以國家利益維護(hù)為面向的治理起點

社交機器人治理政策的出臺很大程度上是由于社交機器人對輿論生態(tài)的影響日益加劇，各國都對其有所警惕。歐盟一項調(diào)查報告稱，俄羅斯利用“零和博弈”邏輯，結(jié)合了操弄假新聞的做法，通過機器賬戶散布虛假信息破壞對西方國家疫苗的信賴，以多種語言在線上夸大描述疫苗風(fēng)險、毫無根據(jù)地將歐洲接種與死亡事件聯(lián)系起來，并宣稱俄羅斯疫苗為上乘之選，試圖破壞對西方國家制造疫苗的信任。在俄烏沖突中，社交機器人在國際輿論場上掀起一場“看不見硝煙的戰(zhàn)爭”。通過對相關(guān)新聞報道的整理發(fā)現(xiàn)，俄烏沖突發(fā)生以來，雙方包括其背后勢力集團(tuán)都利用社交機器人進(jìn)行激烈的輿論戰(zhàn)，社交平臺儼然成為他們的“另一個戰(zhàn)場”。例如，俄羅斯機器人農(nóng)場創(chuàng)建了7000個賬戶，在Telegram、WhatsApp和Viber平臺上發(fā)布有關(guān)烏克蘭的虛假信息。烏克蘭組建“IT軍團(tuán)”編寫機器人程序，進(jìn)行批量化攻擊，每臺服務(wù)器每秒產(chǎn)生大約50000個請求，來破壞網(wǎng)站的正常流量以實現(xiàn)對俄羅斯的DDoS攻擊。此外，F(xiàn)acebook、X和YouTube在內(nèi)的多個社交媒體平臺宣稱摧毀了受到俄羅斯和白俄羅斯集中控制的虛假賬戶和由人工智能生成個人資料圖像傳播反烏克蘭虛假信息的協(xié)調(diào)賬戶網(wǎng)絡(luò)。

隨著信息技術(shù)的快速發(fā)展，世界各國的安全疆域和利益格局已經(jīng)從自然空間延展到網(wǎng)絡(luò)空間，網(wǎng)絡(luò)輿論戰(zhàn)已經(jīng)成為新一代戰(zhàn)爭的高級模式。從政府視角來看，進(jìn)行社交機器人治理涉及國際話語權(quán)競爭，其本質(zhì)上是維護(hù)本國的利益，這也是社交機器人治理政策得以踐行的思維起點之一。

2.對內(nèi)：以公民權(quán)利保護(hù)為導(dǎo)向的治理視角

社交機器人治理的另一起點在于以公民權(quán)利保護(hù)為導(dǎo)向，從維護(hù)公民權(quán)利角度實現(xiàn)國內(nèi)生態(tài)的穩(wěn)定。例如，在歐盟法律體系中，數(shù)據(jù)主體的權(quán)利被上升為基本權(quán)利，得到了憲法層面強有力的支持。單文華、鄧娜：《歐美跨境數(shù)據(jù)流動規(guī)制：沖突、協(xié)調(diào)與借鑒——基于歐盟法院“隱私盾”無效案的考察》，《西安交通大學(xué)學(xué)報（社會科學(xué)版）》，2021年第5期。社交機器人違法現(xiàn)象的治理規(guī)則繼承了這種“公民權(quán)利保護(hù)”的思想，對其進(jìn)行深度治理是剝離人機雙主體權(quán)利，維護(hù)人類用戶尊嚴(yán)的體現(xiàn)。

另外，從社交平臺行為來看，社交機器人治理是基于行業(yè)競爭和長遠(yuǎn)利益的必然選擇。積極進(jìn)行平臺內(nèi)負(fù)面機器流量的治理，在當(dāng)下能夠營造良性的互聯(lián)網(wǎng)生態(tài)，最大限度地滿足用戶需求。長期來看，積極進(jìn)行社交機器人治理是平臺主動承擔(dān)社會責(zé)任的體現(xiàn)，有利于其建設(shè)長期品牌與口碑，是鞏固市場地位的手段。

（二）“刺激-反映”與“預(yù)期-調(diào)適”的決策進(jìn)路

社交機器人治理過程中的反應(yīng)鏈條可以分為“刺激-反應(yīng)”與“預(yù)期-調(diào)適”兩種進(jìn)路。彭波、張權(quán)：《中國互聯(lián)網(wǎng)治理模式的形成及嬗變（1994—2019）》，《新聞與傳播研究》，2020年第8期。前者是一種被動式治理，后者更多的是主動式治理。

1.事后治理的反饋決策路徑

“刺激-反應(yīng)”模式對應(yīng)中短期治理視角。在負(fù)面事件發(fā)生后，治理結(jié)果自下而上地反饋到?jīng)Q策層，倒逼相關(guān)實踐的施策，偏向于技術(shù)治理模式。從長期來講，針對前期問題積累所作出的反饋以達(dá)到補救目的也遵循了這一路徑。例如，由于社交機器人對于大選的干預(yù)和侵?jǐn)_，美國社會對于社交機器人的負(fù)面情緒日益高漲。2018年9月，加利福尼亞州州長批準(zhǔn)了參議員羅伯特·赫茲伯格所提交的《BOT法案》，其要求所有試圖影響加州居民投票或購買行為的機器人必須聲明自己是機器人。該法案賦予州檢察長廣泛的執(zhí)法權(quán)力，可以對每次違規(guī)行為處以最高2500美元的罰款并要求違規(guī)者采取公平的補救措施。

2.事前治理的預(yù)期決策路徑

相較而言，“預(yù)期-調(diào)適”鏈路則更加注重自上而下的頂層設(shè)計，依據(jù)前瞻性視角設(shè)計發(fā)展戰(zhàn)略與倫理規(guī)范，從而指導(dǎo)社交機器人的平穩(wěn)發(fā)展。當(dāng)然，政策預(yù)期還會根據(jù)實際效果反饋進(jìn)行主動調(diào)整，及時修正與現(xiàn)實不符的規(guī)范倡議。因此，治理政策常常處于動態(tài)變化的過程之中。2024年5月21日，歐盟理事會正式批準(zhǔn)通過全球首部針對人工智能的專門性法律《人工智能法案》（簡稱《法案》）。該《法案》對人工智能系統(tǒng)的開發(fā)、投放及使用制定了統(tǒng)一的法律框架，側(cè)重于人工智能系統(tǒng)的具體利用和相關(guān)風(fēng)險，包括透明度相關(guān)的規(guī)則及某些禁令。根據(jù)該《法案》第5條，存在不可接受風(fēng)險的人工智能系統(tǒng)將被禁止在歐盟投放市場、投入服務(wù)或使用。從社交機器人的特征來看，其屬于存在“有限風(fēng)險”的人工智能系統(tǒng)，只需承擔(dān)很少的透明度義務(wù)。但如果社交機器人被“采用潛意識、操縱或欺騙技術(shù)，來扭曲行為，并損害知情決策，從而造成嚴(yán)重?fù)p害”，則構(gòu)成了“不可接受風(fēng)險的AI系統(tǒng)”，被禁止在歐盟投放。

（三）多手段協(xié)同與多主體參與的治理實踐

歐盟很早就注重對人工智能的倫理進(jìn)行規(guī)范。其認(rèn)為對于新技術(shù)帶來的風(fēng)險，需要不同主體在不同層面予以預(yù)防和應(yīng)對，需要倫理規(guī)范和技術(shù)方案之間的耦合。因此，需要政府、行業(yè)、公眾等主體在各自的層級聯(lián)動。也正是在一理念驅(qū)使下，歐盟已經(jīng)基本形成了多利益相關(guān)方協(xié)同治理。2019年起，歐盟先后發(fā)布了兩份重要文件《可信AI倫理指南》及《人工智能法（草案）》。在此基礎(chǔ)上，提出了“經(jīng)由設(shè)計的倫理”（ethics by design）。歐盟構(gòu)建了一套多方協(xié)同、多管齊下的包括社交機器人在內(nèi)的人工智能治理體系。

而美國奉行人工智能自由發(fā)展原則，重視技術(shù)的開發(fā)和利用。美國1996年《通信規(guī)范法》限制了互聯(lián)網(wǎng)平臺責(zé)任，并提出了兩個原則：一是互聯(lián)網(wǎng)行業(yè)應(yīng)當(dāng)主導(dǎo)其發(fā)展，二是政府應(yīng)當(dāng)避免對電子商務(wù)施加過度限制。此后，美國國會出臺了一系列法律，并且由于法院與國會之間相互牽制，最終形成了互聯(lián)網(wǎng)友好型的法律制度。曹建峰：《論互聯(lián)網(wǎng)創(chuàng)新與監(jiān)管之關(guān)系——基于美歐日韓對比的視角》，《信息安全與通信保密》，2017年第8期。美國較為寬松的模式有利于多元主體參與社交機器人的監(jiān)督和管理。政府、社交平臺、專家學(xué)者、普通民眾等都可以參與社交機器人的監(jiān)督和管理，政府部門依法對社交機器人的濫用予以懲戒，協(xié)會組織發(fā)布治理倡議輔助政府決策制定，平臺在商業(yè)考量、社會責(zé)任及法律框架內(nèi)設(shè)置社交機器人使用規(guī)范，學(xué)界以發(fā)布研究成果的方式揭示社交機器人的風(fēng)險行為。在日常實踐中，普通民眾通過監(jiān)督反饋、平臺舉報乃至提起訴訟等多種方式參與社交機器人的行為規(guī)范治理（參見圖1）。

三、國際社交機器人治理路徑

隨著社交機器人的影響擴大，世界各國都開始嘗試引導(dǎo)這一新興事物的有序發(fā)展。由于社會背景、國情差異以及治理責(zé)任主體的不同，各國在社交機器人治理的過程中也分化出了不同的治理模式。

（一）法律法規(guī)約束

1.舊法效力：既有傳統(tǒng)法條的延伸涵蓋

對于人工智能應(yīng)用后果的社會影響評估尚缺乏堅實的實踐經(jīng)驗和理論基礎(chǔ)，因此在很大程度上其治理仍要依靠現(xiàn)存治理框架或為其所塑造。鞏辰：《人工智能時代的全球治理：一般路徑與中國方案》，《人文雜志》，2019年第8期。社交機器人衍生的風(fēng)險牽扯范圍較廣，根據(jù)類型的不同可涉及政治、商業(yè)、文化、公民個人權(quán)利等多個層級，在針對社交機器人新問題的法律法規(guī)未出臺的情況下，歐盟在現(xiàn)實判例中常根據(jù)其涉及領(lǐng)域的不同而對應(yīng)不同的現(xiàn)有法律規(guī)制。如對于通過非法收集用戶信息侵犯隱私權(quán)的行為，依托《通用數(shù)據(jù)保護(hù)條例》等進(jìn)行治理；依托商業(yè)競爭法和廣告法治理“點擊機器人”的濫用；政治機器人的規(guī)制則參照選舉法及國際法中可參照的條例等。另如，在俄羅斯與烏克蘭局勢緊張的情況下，烏克蘭安全局依據(jù)《國家安全法》關(guān)閉了一個在社交媒體上擴散恐慌情緒的社交機器人組織，該組織管理超過18000個機器人賬戶。

2.宏觀指導(dǎo)：依托于上層法規(guī)框架下的約束

社交機器人作為較為細(xì)分的類別，隸屬于更為宏大的技術(shù)治理議題。相較于民法等傳統(tǒng)法條，其現(xiàn)實問題與前沿性立法適配性更強，能夠為社交機器人的治理提供方向上的把控。很多國家都已將人工智能、機器倫理等規(guī)范的宏觀建設(shè)提上日程，社交機器人作為人工智能的產(chǎn)物，其治理自然也被納入上層宏觀框架之中。例如，歐盟《通用數(shù)據(jù)保護(hù)條例》確立了個人數(shù)據(jù)處理中的自然人保護(hù)和個人數(shù)據(jù)自由流通的規(guī)范，尤其是個人數(shù)據(jù)保護(hù)的權(quán)利；《歐盟機器人民事法律規(guī)則》則對“高度自主機器人”民事責(zé)任的確定依據(jù)作出闡釋。當(dāng)社交機器人行為與現(xiàn)行機器倫理相悖時，相關(guān)法律法規(guī)則可以產(chǎn)生約束機制。

3.精細(xì)治理：針對社交機器人的直接規(guī)定

針對社交機器人所設(shè)立的法律法規(guī)，目前并不多見。其中，美國參議院于2016年12月14日頒布了《2016年機器人法案》，旨在對購票機器人進(jìn)行約束。2021年4月，歐盟委員會法案明確：人工智能系統(tǒng)擁有特定的透明度義務(wù)，使用聊天機器人等人工智能系統(tǒng)時，用戶能夠意識到正在與機器進(jìn)行交互，并由此可作出是否繼續(xù)進(jìn)行的相關(guān)決定。2019年7月1日正式生效的加利福尼亞州《支持在線透明度法案》，作為美國第一個直指社交機器人的法律規(guī)范，具有極大的進(jìn)步意義。它是政府層面為保護(hù)人類免受操縱所采取的實質(zhì)性措施，也提高了人們對在線機器人的普遍性認(rèn)知。同時，還為之后的社交機器人立法提供了基礎(chǔ)和參照。

（二）數(shù)字技術(shù)治理

數(shù)字技術(shù)驅(qū)動是指強調(diào)用技術(shù)手段監(jiān)測社交機器人并削減惡意社交機器人數(shù)量的手段。根據(jù)前中后三個時間節(jié)點的不同側(cè)重，目前已經(jīng)投入應(yīng)用的技術(shù)主導(dǎo)模式主要有以下三種手段。

1.設(shè)計時預(yù)設(shè)規(guī)范

目前，將倫理嵌入人工智能的路徑有“自上而下”和“自下而上”兩種?！白陨隙隆笔侵笇⑷祟惖牡赖聹?zhǔn)則轉(zhuǎn)化為機器可以理解的程序語言，并嵌入其底層算法中；“自下而上”則是讓機器學(xué)習(xí)道德情境中的人類行為，進(jìn)而主動學(xué)習(xí)和歸納行為規(guī)范?！白陨隙隆边M(jìn)行倫理植入在技術(shù)上存在一定難度：首先，一旦設(shè)計邏輯存在漏洞，容易在現(xiàn)實狀況中造成矛盾沖突；其次，僅指向基礎(chǔ)原則，對于更為復(fù)雜的情境未做出指導(dǎo)，將人類社會復(fù)雜的行為規(guī)范編寫為代碼存在現(xiàn)實意義上的難度；最后，隨著機器人智能化水平的提高，意識覺醒導(dǎo)致植入倫理被篡改也將成為風(fēng)險來源。而自下而上的設(shè)計，機器人可以在和人的交流中不斷學(xué)習(xí)，自動組織面對人類用戶的全新對話回答。例如，聊天機器人“微軟小冰”可以在和人的交流中不斷學(xué)習(xí)，自動組織面對人類用戶的全新對話回答，這時它不受設(shè)計它的程序員的控制。如果將其置于定期檢測并可控的良好環(huán)境中，它將能夠自動地總結(jié)出應(yīng)有的道德規(guī)范并在后期行為規(guī)范上受其約束，這將使得社交機器人的后期治理變得容易許多。當(dāng)然，自下而上的方式也存在著較大的風(fēng)險。聊天機器人Tay上線后，在網(wǎng)友的“惡意”調(diào)教下，成為鄙視女權(quán)主義者，并具有了嚴(yán)重的種族主義傾向，第二天就被微軟關(guān)閉了。隨著深度學(xué)習(xí)算法的發(fā)展，“混合型解決方法（hybrid resolution）”即綜合運用“自上而下”的演繹規(guī)約路徑和“自下而上”的歸納規(guī)約路徑來對人工智能倫理問題進(jìn)行設(shè)計應(yīng)用，越來越受到關(guān)注。

2.用戶端機器檢測

用戶端檢測指在社交媒體使用過程中社交平臺在登錄、互動等節(jié)點設(shè)置檢測門檻，借以實時組織機器賬戶互動。在社交媒體平臺X、Facebook及Google等互聯(lián)網(wǎng)平臺上都有這樣的技術(shù)運用。通常是檢測到大量重復(fù)登錄、異常操作或存疑域名地址后，登錄時會觸發(fā)一定的檢測機制，一般是通過一定的圖片識別、數(shù)字組合等需要人為計算和辨別的驗證碼方式來進(jìn)行檢測，如果通過即可正常訪問，而未通過測試的則被阻斷在防火墻之外。

但現(xiàn)存的平臺程序應(yīng)用接口（API）檢測機制還存在一定漏洞，計算程序可以模擬人類用戶行為或利用機器識別而通過檢測。社交媒體平臺X不斷更新Captcha驗證系統(tǒng)作為新的反機器人工具。例如，當(dāng)用戶輸入賬戶名稱或僅1個字符、跳過密碼、點擊登錄按鈕等情境之下將面臨登錄檢查，須選擇指令指定的所有圖像，例如山丘、山脈、公共汽車、汽車、店面等靠用戶肉眼識別來判定的圖形元素。

現(xiàn)今社交平臺基本上都通過設(shè)置“技術(shù)籬笆”來規(guī)避虛假機器人登錄，但為了用戶正常使用，防火墻閾值通常不會設(shè)置過高的難度系數(shù)。智能化的社交機器人可以輕松繞過平臺端的檢測，如果規(guī)則設(shè)計不夠合理還會對用戶的正常操作帶來困擾。隨著社交機器人的迷惑性逐步提升，如何在技術(shù)之間實現(xiàn)博弈且避免給用戶造成太過煩瑣的社交平臺使用體驗，對互聯(lián)網(wǎng)平臺來講是一個需要平衡的要點。

3.算法篩查機器程序

計算機領(lǐng)域已開發(fā)多種檢測社交機器人的方法，通過分析某些賬戶的社交網(wǎng)絡(luò)和社會關(guān)系，分析其發(fā)布頻次和內(nèi)容來檢測是否為社交機器人賬戶。機器人檢測平臺“Bot or Not”就是一種已經(jīng)投入實踐的社交機器人檢測平臺，它由美國印第安納大學(xué)的Clayton A. Davis等人開發(fā)。它可以通過分類算法從用戶賬號的元數(shù)據(jù)以及交互模式、發(fā)布內(nèi)容中提取信息并進(jìn)行數(shù)據(jù)分析，生成1000多種特征值，并將這些特征值分為6類：網(wǎng)絡(luò)特征、個人資料、好友關(guān)系、時間特征、文本內(nèi)容和情感特征。每一類的特征值會根據(jù)統(tǒng)計評估情況由計算機分類并計算得分，最后通過總得分相加判斷一個賬戶是機器人的可能性，并參照一定標(biāo)準(zhǔn)作出區(qū)分。

算法篩查更偏向事后治理，雖然對社交平臺上的對象運用技術(shù)手段進(jìn)行特征判定、對機器用戶進(jìn)行定點清除能在短期內(nèi)取得較好成效，但長期來看，治標(biāo)不治本，無法從根源上防止社交機器人的產(chǎn)生。特別是隨著以ChatGPT為代表的AI大語言模型的興起，原有的檢測技術(shù)已經(jīng)無法應(yīng)對社交機器人的“變異”。

總體而言，社交機器人本身就是技術(shù)的產(chǎn)物，使用檢測或清除技術(shù)對其進(jìn)行治理是最簡便有效的處理方式。目前仍然有很多計算機領(lǐng)域內(nèi)的專家和學(xué)者在開發(fā)利用針對社交機器人的檢測技術(shù)，但本質(zhì)上這是技術(shù)與技術(shù)之間的抗衡，總體上采取的辦法不是“疏”的策略而是“堵”的方案。

（三）協(xié)會組織推動

技術(shù)發(fā)展日新月異，新現(xiàn)象、新問題不斷涌現(xiàn)。以社會既定價值體系為基礎(chǔ)的法律更新速度往往跟不上變化的步伐。在此情況下，體現(xiàn)一定前瞻性的原則和倡議可以適當(dāng)填充空白，科技倫理觀念可以推動社交機器人的治理。

1.獨進(jìn)式國內(nèi)組織推進(jìn)

2016年，英國標(biāo)準(zhǔn)協(xié)議（BSI）發(fā)布了《機器人和機器人系統(tǒng)的倫理設(shè)計和應(yīng)用指南》，指出機器人不得傷害人類，需要對機器人行為負(fù)責(zé)的是背后負(fù)責(zé)任的人類。2017年，美國電氣與電子工程師協(xié)會（IEEE）宣布了三項新的人工智能倫理標(biāo)準(zhǔn)，同樣適用于對社交機器人的規(guī)范。此外，美國信息技術(shù)產(chǎn)業(yè)委員會頒布了人工智能的14條準(zhǔn)則，對人工智能系統(tǒng)的設(shè)計、部署與應(yīng)用等安全性提出了要求。在此框架下，依托人工智能技術(shù)的社交機器人的生產(chǎn)與設(shè)計得到相應(yīng)規(guī)范。2020年，新西蘭AI論壇的法律、社會和倫理工作組發(fā)布了一套“新西蘭值得信賴的人工智能”的指導(dǎo)原則，其中規(guī)定了多項原則，該原則旨在為在新西蘭設(shè)計、開發(fā)和使用人工智能的人提供高層次指導(dǎo)，有效彌補了法律空缺下的人工智能規(guī)制，這些原則和標(biāo)準(zhǔn)也為社交機器人的治理作出了一定貢獻(xiàn)。

2.聯(lián)合型國際組織促進(jìn)

國際性原則與倡議由于其區(qū)域間共同發(fā)布的聯(lián)合屬性，成為促進(jìn)社交機器人治理邁向協(xié)同化和全球化的重要動力。2019年，經(jīng)濟(jì)合作與發(fā)展組織成員國共同支持“負(fù)責(zé)任地管理可信AI的原則”，包括包容性增長、可持續(xù)發(fā)展和福祉原則，以人為本的價值觀和公平原則，透明和可解釋性原則，穩(wěn)健和安全可靠原則以及責(zé)任原則。在此框架下，聯(lián)合國舉辦了“AI向善國際峰會”并推動AI倫理國際對話，國際組織開始建立一套體系以推動包括社交機器人在內(nèi)的人工智能技術(shù)的治理體系。除此之外，G20峰會上也同樣提到了關(guān)于人工智能治理的相關(guān)議題，G20貿(mào)易和數(shù)字經(jīng)濟(jì)部長會議通過了“G20人工智能原則”，這一倫理原則強調(diào)透明度和問責(zé)制，對社交機器人治理起到宏觀指導(dǎo)作用。2024年3月21日，聯(lián)合國大會通過首個關(guān)于人工智能的全球決議《抓住安全，可靠和值得信賴的人工智能系統(tǒng)帶來的機遇，促進(jìn)可持續(xù)發(fā)展》，為控制包括社交機器人在內(nèi)的人工智能領(lǐng)域的風(fēng)險提供了全球共治的可能路徑。

（四）平臺自律自治

1.雙向互動下的被動治理

政府與平臺在社交機器人治理問題上的責(zé)任圈定存在著動態(tài)博弈，社交機器人的治理平臺方肩負(fù)著不可推卸的責(zé)任。但就目前的情況來說，平臺仍未采取強有力的實際行動?；ヂ?lián)網(wǎng)跨國公司基于自己的利益考量會與當(dāng)?shù)卣有?Maréchal N，“When bots tweet： Toward a normative framework for bots on social networking sites”， International Journal of Communication， vol.10，no.10（2016）.，以實現(xiàn)自己的利益最大化。政府與平臺在社交機器人治理問題上的責(zé)任分配常處于動態(tài)演變過程。

2020年12月，歐盟提交審議的《數(shù)字服務(wù)法》和《數(shù)字市場法》劍指互聯(lián)網(wǎng)巨頭。前者主要針對在歐洲用戶數(shù)超過4500萬的社交平臺。該法案在保障民主和言論自由的前提下極大地完善了刪除網(wǎng)上非法內(nèi)容和保護(hù)消費者網(wǎng)上基本權(quán)利的機制，為大型在線平臺提供了監(jiān)督、問責(zé)和透明的橫向框架。后者為大型平臺施加了一系列額外的具體義務(wù)。違反《數(shù)字服務(wù)法》最高可以處以全球年度營業(yè)額6%的罰款，違反《數(shù)字市場法》的最高罰款可達(dá)全球年度營業(yè)額的10%。正是在這樣強有力的外力驅(qū)使下，歐盟地區(qū)的社交平臺公司承擔(dān)起了更多的社交機器人治理職責(zé)，對機器人內(nèi)容進(jìn)行了更為嚴(yán)格的審查。

2.主動作為下的制度防范

各國的技術(shù)平臺看似中立自由，但實際上并非毫無傾向的表達(dá)空間，也受一定立場和政治傾向的影響。在俄烏沖突之際，俄國媒體在社交媒體平臺X上的賬戶被以西方勢力為主導(dǎo)的平臺方所封禁，并對支持俄國的相關(guān)言論進(jìn)行直接管制。除政治傾向影響以外，社交平臺通常利益為先。治理措施雖消耗成本，但社交平臺往往也會主動踐行社交機器人治理行為，一方面在涉政治議題上協(xié)助政府管控敵對勢力可以維持平臺與政府的關(guān)系而免受制裁；另一方面打造社交平臺的良好傳播生態(tài)可以改善用戶體驗，從而增加用戶黏性，有利于與競爭對手展開競爭。2018年9月，歐盟出臺了《反虛假信息行為準(zhǔn)則》，在此基礎(chǔ)上，各大網(wǎng)站、平臺主動承擔(dān)責(zé)任，共同抵制虛假信息的傳播。

此外，社交媒體平臺X通過推出機器人標(biāo)簽來增加推文發(fā)布流程的透明度。開發(fā)人員可以自愿添加標(biāo)簽，機器人賬號將在個人資料名稱旁邊顯示一個新的機器人圖標(biāo)以及一個表示該賬號是自動化運行的標(biāo)記。在實際檢驗過程中，社交媒體平臺X已經(jīng)有眾多的自動化機器賬戶在介紹頁顯示了“Automated”標(biāo)簽。但正如社交媒體平臺X聲明所言，使用自愿標(biāo)簽?zāi)壳笆亲鳛閹椭怀觥昂脵C器人”的一種手段，“為X上的人們提供有關(guān)該機器人及其用途的更多信息，以幫助他們決定關(guān)注、參與和信任哪些賬號”，而不是用于負(fù)面目的的機器人賬號。不過無論如何，這表明社交媒體平臺X正在采取更直接的步驟來解決其機器人問題，并幫助用戶避免潛在的操縱。

四、中國社交機器人治理的思考

創(chuàng)新與風(fēng)險是事物演進(jìn)的一體兩面。張樂、童星：《人工智能的發(fā)展動力與風(fēng)險生成：一個整合性邏輯框架》，《江西財經(jīng)大學(xué)學(xué)報》，2021年第5期。相比于旨在提高生產(chǎn)效率的工業(yè)革命，科技革命更與人直接關(guān)聯(lián)，具有高能化特征，因而新技術(shù)革命帶來的社會風(fēng)險也較高。 Elena P. Gopkova， Kantoro Gulzat， Technological Revolution in the 21st Century： Digital Society vs. Artificial Intelligence，Institute of Scientific Communications Conference. Springer， Cham，2019，p.341.社交機器人的出現(xiàn)以“實然”的形態(tài)連接和重塑了人與技術(shù)的關(guān)系，在拓展人工智能應(yīng)用形式，為技術(shù)發(fā)展注入強大動力的同時，也會帶來一定風(fēng)險。這種風(fēng)險若不經(jīng)及時規(guī)制，則極易轉(zhuǎn)化為社會矛盾，對國家機器的運行帶來負(fù)面影響。同時，過于嚴(yán)格的約束也會阻礙技術(shù)創(chuàng)新的活力，趨緩發(fā)展腳步。如何平衡創(chuàng)新與監(jiān)管二者之間的關(guān)系，是一個重要的時代命題，關(guān)乎技術(shù)發(fā)展體系構(gòu)建和戰(zhàn)略選擇。社交機器人作為新興的人工智能產(chǎn)物，如何治理好、利用好它，打造治理與創(chuàng)新并存的良性社交機器人發(fā)展體系，從而為人工智能技術(shù)的長足發(fā)展創(chuàng)造條件，可以從其他國家和地區(qū)的治理經(jīng)驗中獲得一定的啟示。

（一）全方位構(gòu)建協(xié)同治理框架

社交機器人作為新事物新問題，在治理探索實踐過程中，需要從頂層加以規(guī)劃和設(shè)計。我國一直把發(fā)展人工智能作為重要戰(zhàn)略，自2015年制定“互聯(lián)網(wǎng)+”計劃起，出臺了一系列人工智能支持政策和發(fā)展規(guī)劃，計劃到2030年將我國建設(shè)成“世界首屈一指的人工智能創(chuàng)新中心”。在取得顯著成績的同時，我國認(rèn)識到為人工智能建立法律道德框架的重要性。2017年國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，在保障措施中首先提到建立保障人工智能健康發(fā)展的法律法規(guī)框架。2021年8月，我國正式出臺了《中華人民共和國個人信息保護(hù)法》，標(biāo)志著我國以《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》三法為核心的網(wǎng)絡(luò)法律體系的建立，為數(shù)字時代的網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個人信息權(quán)益保護(hù)提供了基礎(chǔ)制度保障。2020年7月27日，國家標(biāo)準(zhǔn)化管理委員會等五部門印發(fā)了《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，明確指出在AI發(fā)展中要強調(diào)倫理、安全和隱私，AI服務(wù)不得沖擊傳統(tǒng)道德倫理和法律秩序。2021年11月16日，國家互聯(lián)網(wǎng)信息辦公室審議通過《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，其中規(guī)定“算法推薦服務(wù)提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉(zhuǎn)發(fā)”，這標(biāo)志著我國在社交機器人治理和算法數(shù)據(jù)治理的立法進(jìn)程上邁出了重要一步。2023年3月，國家人工智能標(biāo)準(zhǔn)化總體組、全國信標(biāo)委人工智能分委會發(fā)布《人工智能倫理治理標(biāo)準(zhǔn)化指南》，其中明確提出以人為本、可持續(xù)性、合作、隱私、公平、共享、外部安全，布局建設(shè)人工智能倫理標(biāo)準(zhǔn)體系。

未來，社交機器人治理需要進(jìn)一步圍繞內(nèi)外視域開展協(xié)同治理體系建構(gòu)。對外競爭更多著眼于中長期治理需要，積極面對技術(shù)變革，構(gòu)建社交機器人網(wǎng)絡(luò)輿情預(yù)警機制，設(shè)置社交機器人輿論操控分級預(yù)警體系，占據(jù)網(wǎng)絡(luò)輿論斗爭先機；對內(nèi)則更多著眼于短期考量，圍繞公民權(quán)利的保護(hù)，避免負(fù)面效應(yīng)的擴散。在實踐層面，具體對應(yīng)三種治理模式：政府部門從政策層面制定法律法規(guī)，進(jìn)一步明確實施細(xì)則；社會組織扮演民間領(lǐng)導(dǎo)者角色，積極參與社交機器人治理；社交平臺發(fā)揮主體職能，通過技術(shù)創(chuàng)新，自覺融入社交機器人治理體系中。當(dāng)然，各階段的治理路徑并不是完全平行而相互區(qū)隔的條線，而是綜合作用的復(fù)雜鏈接，共同促成協(xié)同治理的框架。

（二）分層辨析提升治理的有效性

近年來，隨著人工智能技術(shù)的發(fā)展，機器人“水軍”開始攪動輿論場，甚至借此進(jìn)行一定程度的輿論操縱。販賣機器人“水軍”的產(chǎn)業(yè)鏈條刺激盜竊個人信息的網(wǎng)絡(luò)黑產(chǎn)，助長網(wǎng)絡(luò)空間暴力的生成。研究發(fā)現(xiàn)，微博平臺上社交機器人參與熱點事件討論的行為也頻繁發(fā)生，機器人賬號使用者通過提高話題外圍微博的曝光量，從而吸引公眾注意力盧林艷、李媛媛等：《社交機器人驅(qū)動的計算宣傳：社交機器人識別及其行為特征分析》，《中國傳媒大學(xué)學(xué)報（自然科學(xué)版）》，2021年第2期。，相關(guān)話題頁下?；燠E著機器賬號，產(chǎn)生了大量的無效反饋。此外，社交機器人已成為境外勢力對中國進(jìn)行社會分裂的工具，中國社會網(wǎng)絡(luò)空間中的性別對立現(xiàn)象在短時間內(nèi)被塑造和激化，在此過程中明顯存在社交機器人參與挑動性別對立的現(xiàn)象。 李晟：《國家安全視角下社交機器人的法律規(guī)制》，《中外法學(xué)》，2022年第2期。2022年4月，國內(nèi)主要社交平臺相繼上線用戶IP歸屬地顯示功能，在一定程度打擊了部署于境外的社交機器人非法滲透行為。

基于此，社交機器人治理應(yīng)考慮對不同細(xì)分領(lǐng)域進(jìn)行針對性治理，例如政治、商業(yè)、金融、娛樂與個人權(quán)利等方面。針對其高仿真的擬態(tài)環(huán)境對現(xiàn)實的扭曲問題，警示平衡工具理性與價值理性，防范商業(yè)誘導(dǎo)，去偽存真，回歸社會實踐。在中國問題較為凸顯的機器人娛樂打榜以及機器人虛假營銷等問題，需要分層辨析加以針對性治理，并最終統(tǒng)合到中國社交機器人治理的大框架之中。這對社交機器人的監(jiān)管方式和監(jiān)管能力提出了更高的要求，不僅需要針對在背后惡意操縱社交機器人的真實用戶，也要對社交媒體平臺管理者進(jìn)行法律規(guī)范并制定明確的懲罰措施。

（三）重視社交機器人涉華輿論

社交媒體時的國際假新聞，其表現(xiàn)形式更加隱蔽，背后隱藏著國際關(guān)系中的霸權(quán)結(jié)構(gòu)與國家間的權(quán)力關(guān)系。趙永華、竇書棋：《信息戰(zhàn)視角下國際假新聞的歷史嬗變：技術(shù)與宣傳的合奏》，《現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報）》，2022年第3期。隨著中國的日益崛起，社交機器人參與、影響、操縱社交媒體涉華輿論日漸成為常態(tài)。研究發(fā)現(xiàn)，社交機器人通過放大爭議、制造政治沖突等方式將北京冬奧會引向負(fù)面討論，在一定程度上推動或加劇了奧運傳播的泛政治化。趙蓓、張洪忠：《有關(guān)北京冬奧會的社交機器人敘事與立場偏向——基于Twitter數(shù)據(jù)的結(jié)構(gòu)主題模型分析》，《新聞界》，2022年第5期。社交機器人涉華議題日益成為影響中國國際形象的重要因素。若對境外反華勢力運用社交機器人誣蔑、誹謗、污名化中國的行為熟視無睹，將造成中國國際話語權(quán)的旁落。因此，我們需要研究社交平臺的管理規(guī)定及其所在國的相關(guān)法律法規(guī)，要研究社交機器人的運行邏輯及行為特征，要加強社交機器人涉華輿論研究。一方面，通過行之有效的方式向境外社交媒體施壓以達(dá)到對涉中國議題虛假信息的規(guī)制；另一方面，適時、準(zhǔn)確地公開虛假信息傳播中的社交機器人行為及其背后的陰謀，進(jìn)行有針對性的回應(yīng)。

（四）積極融入全球共治體系

社交機器人風(fēng)險等議題已經(jīng)受到世界各國的高度關(guān)注。然而，當(dāng)前的社交機器人治理根據(jù)地區(qū)不同依然呈現(xiàn)較為明顯的條塊化分布特征，根據(jù)國情的不同，各國對社交機器人治理的側(cè)重點也有所不同，在此基礎(chǔ)上形成了多種手段雜糅的治理模式。歐盟在理論和體系構(gòu)建方面走在世界前列，美國在治理實踐上有所領(lǐng)先，中國立足貫徹“積極發(fā)展、加強管理、趨利避害、為我所用”的十六字方針，有效促進(jìn)互聯(lián)網(wǎng)持續(xù)、健康、穩(wěn)定發(fā)展，而人工智能發(fā)展較為落后的地區(qū)目前尚難以觸及社交機器人治理的議題。各自為政、失衡發(fā)展的局面不利于未來社交機器人全球共治體系的構(gòu)建。社交機器人的全球治理與區(qū)域治理是互動共進(jìn)的關(guān)系，融入全球治理潮流更有利于國家在社交機器人治理問題上不落伍不掉隊。因此，我國需要構(gòu)建面向未來的協(xié)同治理體系，積極實現(xiàn)全球共治是社交機器人得以良性發(fā)展的必由之路。

五、結(jié)"語

惡意社交機器人的泛濫給公民權(quán)益、社會秩序乃至人類倫理帶來了一定程度的威脅。各主體相繼出臺了一系列的政策規(guī)范，對包括社交機器人在內(nèi)的人工智能倫理失范行為進(jìn)行約束，如歐盟的《可信AI倫理指南》《數(shù)字服務(wù)法》、美國加州第1001號法案以及聯(lián)邦貿(mào)易委員會的報告與案例等。在企業(yè)層面，互聯(lián)網(wǎng)公司如谷歌、索尼、微軟等內(nèi)部也有倫理聲明。人工智能協(xié)會和各類組織也進(jìn)行了打造可信AI的嘗試。從而漸次形成了多元主體下多種不同手段為主導(dǎo)的社交機器人治理實踐。

但必須看到的是，目前全球?qū)ι缃粰C器人的治理并未形成體系，極少有專門法條直接對社交機器人進(jìn)行規(guī)范，而是對人工智能、數(shù)據(jù)隱私等領(lǐng)域進(jìn)行了指導(dǎo)性、模糊性的規(guī)范，且這些規(guī)范還有缺乏強制性、區(qū)域特征明顯等局限，未能觸及源頭治理和核心治理。究其原因，一是社交機器人的治理本身還存在一些有待解決的問題，如機器人權(quán)利分配、平臺履責(zé)、政治黑箱與技術(shù)黑箱等；二是當(dāng)前技術(shù)發(fā)展仍處于“弱人工智能”階段，社交機器人本身的嚴(yán)峻問題還未凸顯。因此，現(xiàn)階段的法律問題更多地體現(xiàn)在傳統(tǒng)法律適用，而不是創(chuàng)設(shè)新的人工智能法律制度。隨著社交機器人智能程度的不斷提升，其倫理問題會不斷凸顯，人類會更加在意社交機器人是否會帶來“情感欺騙”等深層次問題，未來的社交機器人的治理將被納入如何處理好“人機關(guān)系”的命題中去。

從維護(hù)國家信息安全的角度看，我們需要積極面對社交機器人這一新事物帶來的新風(fēng)險。首先，提高檢測篩查和追蹤的技術(shù)能力，建立平臺監(jiān)測預(yù)防機制。其次，提高公眾智能媒介素養(yǎng)。研究表明，中國網(wǎng)民對社交機器人的認(rèn)識還處于初級階段，對其持正面態(tài)度的比例較高。 張洪忠、何康、段澤寧等：《中美特定網(wǎng)民群體看待社交機器人的差異——基于技術(shù)接受視角的比較分析》，《西南民族大學(xué)學(xué)報（人文社會科學(xué)版） 》，2021年第5期。再次，數(shù)據(jù)治理、算法治理等與社交機器人應(yīng)用相關(guān)的領(lǐng)域需要進(jìn)一步加強規(guī)制。最后，有必要關(guān)注境外媒體平臺上社交機器人營造的與中國議題相關(guān)的輿情，更有必要汲取先進(jìn)經(jīng)驗，完善本國人工智能的發(fā)展和監(jiān)管相平衡的治理路徑。

“人機共生”在提供了文明與交流多樣性發(fā)展場域的同時，也會引發(fā)虛擬空間治理與個體沉迷等多種問題。社交機器人的研發(fā)致力于摒棄純粹的技術(shù)功利論，將社交機器人作為人類的伙伴而非冰冷的工具，將對人機關(guān)系的審思推向了大眾視野。在反對技術(shù)作為純粹的工具的同時，也應(yīng)當(dāng)警惕人類淪為技術(shù)的工具。作為多元文化與個體共融共通的棲息之所，人工智能有賴于全球的共同構(gòu)建與治理。全球應(yīng)開展多主體、多領(lǐng)域、多層次的共同合作，以前瞻性的眼光對人類與社交機器人分別進(jìn)行積極引導(dǎo)和監(jiān)督，避免媒介賦權(quán)帶來的個體異化，進(jìn)而推動構(gòu)建具有普適性的倫理價值體系，促進(jìn)虛擬世界的良性發(fā)展。

〔責(zé)任編輯：李海中〕

①"夢非、朱慶華：《社交網(wǎng)絡(luò)信息傳播中意見偏差的國外研究進(jìn)展》，《情報理論與實踐》，2021年第10期。

②"柯澤、譚詩妤：《人工智能媒介擬態(tài)環(huán)境的變化及其受眾影響》，《學(xué)術(shù)界》，2020年第7期。

③"高山冰、汪婧：《智能傳播時代社交機器人的興起、挑戰(zhàn)與反思》，《現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報）》 ，2020年第11期。