網(wǎng)上有害信息治理的國際經(jīng)驗(yàn)及啟示

梅鵬超 王鵬遠(yuǎn)

習(xí)近平總書記指出：“網(wǎng)絡(luò)空間是億萬民眾共同的精神家園。網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好，符合人民利益；網(wǎng)絡(luò)空間烏煙瘴氣、生態(tài)惡化，不符合人民利益?！被ヂ?lián)網(wǎng)的發(fā)展推動(dòng)了全球政治、經(jīng)濟(jì)與文化的交流和共享，改善了人們的生產(chǎn)生活方式，但同時(shí)也給有害信息的滋生和蔓延提供了條件。因此，加強(qiáng)網(wǎng)上有害信息治理，已然成為凈化網(wǎng)絡(luò)生態(tài)，維護(hù)國家網(wǎng)絡(luò)空間安全和政治穩(wěn)定，保障人民群眾切身利益的重要工作。近年來，以歐盟、美國等為代表的發(fā)達(dá)經(jīng)濟(jì)體在治理網(wǎng)上有害信息方面進(jìn)行了有益實(shí)踐。研究學(xué)習(xí)這些經(jīng)驗(yàn)做法，對(duì)于推動(dòng)我國網(wǎng)上有害信息治理工作的開展具有積極意義。

做法

1.加強(qiáng)網(wǎng)絡(luò)社交平臺(tái)監(jiān)管

2018年1月1日，德國《社交媒體管理法》正式實(shí)施，對(duì)包括臉書、推特等提供內(nèi)容服務(wù)的社交網(wǎng)絡(luò)平臺(tái)提出了嚴(yán)格的監(jiān)管要求。根據(jù)該法，在德國擁有200萬以上用戶的社交網(wǎng)絡(luò)平臺(tái)須自行承擔(dān)清理其平臺(tái)上涉及誹謗、詆毀和暴力煽動(dòng)內(nèi)容的責(zé)任，且必須在7天內(nèi)刪除用戶舉報(bào)的非法內(nèi)容，明顯的違法言論需在舉報(bào)后24小時(shí)內(nèi)刪除或屏蔽，爭議言論也必須在舉報(bào)后7日內(nèi)作出處理，否則將面臨最高達(dá)5000萬歐元的罰款[1]。2019年4月，英國發(fā)布了《在線社交媒體平臺(tái)行為準(zhǔn)則》和《網(wǎng)絡(luò)危害白皮書》（簡稱《白皮書》），要求強(qiáng)化社交網(wǎng)絡(luò)平臺(tái)的自我監(jiān)管，倡導(dǎo)社交媒體平臺(tái)承擔(dān)在其平臺(tái)上發(fā)布的不良言論的監(jiān)管責(zé)任。《白皮書》主要針對(duì)允許用戶自主創(chuàng)作并分享內(nèi)容的網(wǎng)絡(luò)平臺(tái)，包括推特、臉書、Instagram、論壇、網(wǎng)盤以及搜索引擎等，強(qiáng)制要求社交媒體網(wǎng)站刪除包含暴力、虛假信息及網(wǎng)絡(luò)欺凌等在內(nèi)的有害內(nèi)容。《白皮書》還指出，英國政府將立法規(guī)定社交媒體公司應(yīng)履行的法律義務(wù)，同時(shí)成立一個(gè)獨(dú)立的監(jiān)管機(jī)構(gòu)，負(fù)責(zé)監(jiān)管社交媒體，它將有權(quán)對(duì)違法的公司開出巨額罰單、要求其關(guān)閉網(wǎng)頁，甚至追究公司高管的個(gè)人責(zé)任[2]。

2.嚴(yán)厲打擊網(wǎng)上虛假信息

2018年7月，法國通過《反假新聞法》，旨在更有效地阻止假新聞的傳播。2018年9月26日，歐洲主要線上平臺(tái)、社交媒體巨頭、廣告主和廣告經(jīng)營者聯(lián)合發(fā)布?xì)W盟首份《反虛假信息行為守則》，以應(yīng)對(duì)假新聞和網(wǎng)絡(luò)虛假信息，其中將“虛假信息”定義為可驗(yàn)證的虛假或具有誤導(dǎo)性的信息，系出于謀取經(jīng)濟(jì)利益或故意欺騙公眾的目的，而被創(chuàng)造、展示和傳播的以及可對(duì)公眾造成損害、對(duì)民主政治和決策過程、公共利益（如歐盟公民的健康、環(huán)境或安全等）產(chǎn)生威脅的信息[3]。2018年12月，美國參議員提出《2018年惡意偽造禁令法案》，旨在規(guī)范制作并散布深度偽造內(nèi)容引發(fā)犯罪和侵權(quán)行為的個(gè)人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的平臺(tái)。2019年6月28日，美國參眾兩院提出一項(xiàng)名為《深度偽造報(bào)告法》（Deepfake Report Act）的兩黨合作法案，目的在于減少使用人工智能（AI）技術(shù)操縱原創(chuàng)視頻內(nèi)容的“深度偽造（Deepfake）”視頻的危害。根據(jù)該法案，“深度偽造”視頻是指利用人工智能技術(shù)對(duì)真實(shí)內(nèi)容進(jìn)行超現(xiàn)實(shí)的數(shù)字化篡改，使之成為并未真實(shí)發(fā)生的事情。2019年9月，美國通過名為《識(shí)別對(duì)抗生成網(wǎng)絡(luò)輸出法案》（IOGAN法案）的立法，要求國家科學(xué)基金會(huì)（NSF）和國家標(biāo)準(zhǔn)與技術(shù)研究所（NIST）加快對(duì)被操縱的具有破壞性的視頻進(jìn)行檢測(cè)，以打擊日益猖獗的深度偽造技術(shù)。

3.重點(diǎn)整治網(wǎng)上極端主義思想和內(nèi)容

2017年5月，七國集團(tuán)峰會(huì)（G7 Summit）在意大利陶爾米納舉行。七國集團(tuán)發(fā)表聲明，呼吁互聯(lián)網(wǎng)服務(wù)提供商和社交媒體巨頭采取行動(dòng)打擊極端分子的在線內(nèi)容，并鼓勵(lì)行業(yè)立即開發(fā)并分享新技術(shù)和工具，以提升自動(dòng)檢測(cè)暴力煽動(dòng)內(nèi)容的能力。2017年9月，原英國首相特蕾莎·梅在與臉書、微軟、推特及谷歌等公司的一次會(huì)議上敦促與會(huì)企業(yè)持續(xù)更新探測(cè)和消除有害信息的技術(shù)，并要求大型互聯(lián)網(wǎng)公司在2小時(shí)內(nèi)自動(dòng)刪除恐怖主義內(nèi)容。2019年4月，歐洲議會(huì)通過《關(guān)于解決在線傳播恐怖主義內(nèi)容的規(guī)則》，規(guī)定如果臉書、谷歌以及推特等網(wǎng)絡(luò)、社交公司不能在被監(jiān)管部門要求后的1小時(shí)內(nèi)移除極端主義內(nèi)容，可向它們征收多達(dá)全球營業(yè)收入4%的罰款[4]。2019年5月15日，多個(gè)國家政府首腦、部門主管以及科技企業(yè)代表在巴黎舉行特別會(huì)議，共同商討有關(guān)防止社交媒體傳播極端主義的議題。會(huì)議發(fā)布了“克賴斯特徹奇呼吁”，要求政府和在線服務(wù)提供商集體地且自愿地承諾消除恐怖主義、極端主義和暴力內(nèi)容，以防止互聯(lián)網(wǎng)被濫用。據(jù)悉，已有加拿大、澳大利亞、英國、新西蘭、德國、法國、歐盟委員會(huì)、印度尼西亞、印度、愛爾蘭、意大利、日本、約旦、荷蘭、挪威、塞內(nèi)加爾、西班牙和瑞典等國家及國際政府以及臉書、谷歌、推特、亞馬遜、微軟、Daily Motion、Qwant和YouTube8家科技公司在這份呼吁上簽字[5]。

特點(diǎn)和趨勢(shì)

1.技術(shù)過濾成為主流趨勢(shì)

近年來，西方國家主要社交媒體越來越重視運(yùn)用人工智能、語音識(shí)別及圖片視頻識(shí)別等新技術(shù)手段來過濾網(wǎng)上有害信息。2015年3月，推特推出一項(xiàng)名為“質(zhì)量過濾器”（Quality filter）的測(cè)試功能，聲稱能夠刪除限定時(shí)間內(nèi)所有包含威脅、攻擊性、虐待的信息或者從可疑賬號(hào)發(fā)送的信息[6]。2018年9月，谷歌發(fā)布人工智能工具“內(nèi)容安全應(yīng)用程序界面”（Content Safety API），用于識(shí)別網(wǎng)上兒童性侵圖片。據(jù)稱該技術(shù)能幫助審查人員識(shí)別出與無此技術(shù)相比多700%的兒童性侵犯內(nèi)容。同年10月，臉書宣稱公司借助自動(dòng)標(biāo)注識(shí)別圖片工具累計(jì)刪除870萬張兒童色情圖片，同時(shí)開發(fā)出了一款代號(hào)為“Rosetta”的新型人工智能系統(tǒng)，可用于檢測(cè)仇恨性言論。

2.設(shè)立專門機(jī)構(gòu)并強(qiáng)化跨國合作

2016年12月，德國宣布成立“假新聞防御中心”，該中心由聯(lián)邦新聞辦公室組建，專門打擊虛假新聞。2017年10月，英國撥款組建打擊網(wǎng)絡(luò)仇恨的專職部門，處理針對(duì)少數(shù)群體的網(wǎng)絡(luò)侮辱和謠言、謾罵。2017年4月，來自歐盟和北約的9個(gè)國家在芬蘭赫爾辛基聯(lián)合簽署成立“混合威脅”中心，以應(yīng)對(duì)網(wǎng)絡(luò)攻擊和其他新興領(lǐng)域威脅，如故意散布傳播的虛假消息等。美國、英國、法國、德國、瑞典、波蘭、芬蘭、拉脫維亞和立陶宛成為首批成員。2018年2月，美國國務(wù)院宣布已經(jīng)與國防部簽訂協(xié)議，將從國防部獲得4000萬美元以加強(qiáng)其所屬全球作戰(zhàn)中心打擊外國宣傳和虛假信息的工作。據(jù)了解，全球作戰(zhàn)中心成立于2016年4月，是奧巴馬任美國總統(tǒng)期間設(shè)立的揭露和反擊外國虛假宣傳的辦公室。

3.服務(wù)于政治目的

網(wǎng)上有害信息嚴(yán)重?fù)p害了國家領(lǐng)導(dǎo)人的政治形象，給選舉帶來重大威脅。法國2018年頒布的《反假新聞法》，旨在遏制選舉期間出現(xiàn)的虛假新聞，打擊境外勢(shì)力“操縱新聞”的企圖。2019年5月，加拿大出臺(tái)的《數(shù)字憲章》宣稱，加拿大的政府將捍衛(wèi)言論自由、防范旨在破壞選舉和民主制度完整性的網(wǎng)絡(luò)威脅和虛假信息[7]。2019年9月，美國加利福尼亞州通過一項(xiàng)舉措，禁止居民和各類組織在選舉后60天內(nèi)分享政治候選人的虛假視頻。美國國會(huì)公開表示將在2020大選之前對(duì)深度偽造技術(shù)進(jìn)行調(diào)查，并推進(jìn)立法行動(dòng)。

啟示和建議

網(wǎng)上有害信息治理已經(jīng)成為維護(hù)國家政治安全穩(wěn)定的重要工作。據(jù)《人民日?qǐng)?bào)》消息，2019年1月至6月12日，國家網(wǎng)信辦累計(jì)清理淫穢色情、賭博詐騙等有害信息1.1億余條，注銷各類平臺(tái)中傳播色情低俗、虛假謠言等信息的違法違規(guī)賬號(hào)118萬余個(gè)，關(guān)閉、取消備案網(wǎng)站4644家[8]，凸顯我國網(wǎng)上有害信息治理工作的嚴(yán)峻形勢(shì)。雖國情不同，但西方國家的一些做法和經(jīng)驗(yàn)或可為我們提供一些治理思路。

1.持續(xù)推進(jìn)網(wǎng)上有害信息法制體系的完善和健全

近年來，我國關(guān)于網(wǎng)上有害信息治理的法律法規(guī)密集出臺(tái)。僅2017年、2018年兩年間出臺(tái)的相關(guān)法律規(guī)定便有《互聯(lián)網(wǎng)跟帖評(píng)論服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)用戶公眾賬號(hào)信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)新聞信息服務(wù)單位內(nèi)容管理從業(yè)人員管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評(píng)估管理規(guī)定》《微博客信息服務(wù)管理規(guī)定》和《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等。2019年以來，國家互聯(lián)網(wǎng)信息辦公室又陸續(xù)印發(fā)《區(qū)塊鏈信息服務(wù)管理規(guī)定》《金融信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等文件，不斷推動(dòng)網(wǎng)上有害信息治理法制體系的健全完善。值得一提的是，2019年12月15日發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》明確提出，網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)應(yīng)堅(jiān)持主流價(jià)值導(dǎo)向，鼓勵(lì)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者制作、復(fù)制、發(fā)布含有“宣傳習(xí)近平新時(shí)代中國特色社會(huì)主義思想，全面準(zhǔn)確生動(dòng)解讀中國特色社會(huì)主義道路、理論、制度、文化”和“弘揚(yáng)社會(huì)主義核心價(jià)值觀，宣傳優(yōu)秀道德文化和時(shí)代精神，充分展現(xiàn)中華民族昂揚(yáng)向上精神風(fēng)貌”等內(nèi)容的正能量信息，同時(shí)列舉了網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者不得散布傳播的11類違法信息和9類不良信息[9]。2019年11月29日發(fā)布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》提出，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息[10]。以上法律規(guī)范共同構(gòu)建了我國網(wǎng)上有害信息治理的法制體系，為網(wǎng)上有害信息治理工作的開展提供了有力保障。未來，相關(guān)部門仍需緊密圍繞網(wǎng)信事業(yè)發(fā)展大局和互聯(lián)網(wǎng)新技術(shù)新應(yīng)用發(fā)展趨勢(shì)，持續(xù)推進(jìn)網(wǎng)上有害信息法制體系的完善和健全，不斷扎緊網(wǎng)上有害信息治理的制度籠子。

2.重點(diǎn)整治極端主義等威脅國家社會(huì)安全穩(wěn)定的有害信息

網(wǎng)上有害信息類目繁多，要抓住突出問題和主要矛盾，精準(zhǔn)發(fā)力、重點(diǎn)打擊，集中力量整治清理影響和危害最大的有害信息。從近年來國內(nèi)外安全形勢(shì)和國際網(wǎng)上有害信息治理運(yùn)動(dòng)發(fā)展情況來看，網(wǎng)上極端主義思潮和內(nèi)容的肆意傳播，已經(jīng)成為危害國家安全和人民群眾安全的關(guān)鍵問題。我國也必須未雨綢繆、居安思危、嚴(yán)陣以待，將網(wǎng)上極端主義思潮治理作為有害信息治理的重中之重，全面排查其在我國網(wǎng)上的傳播情況、傳播途徑及傳播手法。建立網(wǎng)上極端主義打擊機(jī)制，組建網(wǎng)上極端主義打擊力量，強(qiáng)化反極端主義教育宣傳。對(duì)散布傳播極端主義內(nèi)容的個(gè)人、組織，對(duì)刪除極端主義內(nèi)容不及時(shí)、不作為的平臺(tái)、企業(yè)，要施以嚴(yán)厲懲罰。

3.強(qiáng)化互聯(lián)網(wǎng)企業(yè)主體責(zé)任，推動(dòng)行業(yè)自律

互聯(lián)網(wǎng)平臺(tái)是有害信息產(chǎn)生、傳播的主要場(chǎng)所?；ヂ?lián)網(wǎng)平臺(tái)企業(yè)在網(wǎng)上有害信息治理工作中必須承擔(dān)起主體責(zé)任。一要加強(qiáng)互聯(lián)網(wǎng)企業(yè)的剛性約束。監(jiān)管部門要加快建立健全完善的監(jiān)管制度體系，明確互聯(lián)網(wǎng)企業(yè)的責(zé)任、義務(wù)，加大懲治力度，提高違規(guī)成本、“不作為”成本。二要鼓勵(lì)互聯(lián)網(wǎng)企業(yè)加強(qiáng)自身內(nèi)部責(zé)任建設(shè)，推動(dòng)其自覺參與網(wǎng)上有害信息治理工作，鼓勵(lì)互聯(lián)網(wǎng)企業(yè)加大技術(shù)探索和創(chuàng)新，充分運(yùn)用人工智能等新技術(shù)研發(fā)能夠有效提升網(wǎng)上有害信息治理效率的新工具新手段。對(duì)于在網(wǎng)上有害信息治理工作中表現(xiàn)優(yōu)秀的互聯(lián)網(wǎng)企業(yè)，政府應(yīng)給予表彰。三要推動(dòng)行業(yè)自律。網(wǎng)上有害信息的治理要靠整個(gè)社會(huì)的共同參與。要加快建立起網(wǎng)上有害信息治理的行業(yè)標(biāo)準(zhǔn)和規(guī)范，重視網(wǎng)上宣傳和引導(dǎo)，推動(dòng)網(wǎng)上有害信息治理工作從“單兵作戰(zhàn)”走向“協(xié)調(diào)治理”，從“被動(dòng)參與”走向“主動(dòng)作為”。

4.積極促進(jìn)跨國合作，提升網(wǎng)上有害信息的全球打擊能力

互聯(lián)網(wǎng)信息的流動(dòng)性、跨境性、開放性及煽動(dòng)性等特點(diǎn)大大加強(qiáng)了網(wǎng)上有害信息治理的難度，也加大了有害信息從境外向境內(nèi)倒灌傳播的風(fēng)險(xiǎn)。事實(shí)上，近年來網(wǎng)上有害信息的跨境傳播特點(diǎn)越來越明顯，建立跨國合作機(jī)制已是當(dāng)務(wù)之急。一是可以積極融入國際上已經(jīng)成立的網(wǎng)上有害信息治理組織。二是可以借助世界互聯(lián)網(wǎng)大會(huì)、“一帶一路”高峰論壇等國際性會(huì)議發(fā)起倡議，共同商討建立全球性網(wǎng)上有害信息的治理模式。三是可以和重點(diǎn)國家建立“1+1”的網(wǎng)上有害信息治理合作機(jī)制?？傊?，在網(wǎng)上有害信息威脅日趨嚴(yán)峻的態(tài)勢(shì)下，加強(qiáng)跨國合作，提升有害信息全球打擊能力，必定是一個(gè)互利共贏的選項(xiàng)。我國作為世界互聯(lián)網(wǎng)大國，應(yīng)當(dāng)主動(dòng)承擔(dān)起維護(hù)國際網(wǎng)絡(luò)空間生態(tài)秩序安全的責(zé)任，在推動(dòng)全球網(wǎng)上有害信息治理中發(fā)揮更加積極的作用。

■金龍彩鳳 陳寶林/攝