“規(guī)則+技術”：互聯(lián)網(wǎng)平臺針對“網(wǎng)絡暴力”現(xiàn)象的數(shù)字化治理

趙韞淏 劉晶

摘要：目前，網(wǎng)絡暴力事件仍時有發(fā)生。網(wǎng)暴信息的傳播線、跳轉(zhuǎn)線、暴力線，讓部分平臺成為滋生網(wǎng)絡暴力的“傳播溫床”。作為信息內(nèi)容管理的第一責任主體，平臺企業(yè)卻仍舊缺乏系統(tǒng)的、針對平臺的強力管制措施。當然，網(wǎng)絡暴力的治理并不是一蹴而就的，這是一個長期、綜合治理的過程。通過借鑒國內(nèi)外平臺治理網(wǎng)暴的成功經(jīng)驗，打造以主體責任為核心、以“規(guī)則之治+技術賦能”為理念的二元共同治理格局與全鏈條全景式治理模式。

關鍵詞： 平臺 網(wǎng)絡暴力 數(shù)字化治理 治理模式

近年來，因網(wǎng)暴而造成的悲劇性事件時有發(fā)生。①在各類反網(wǎng)暴措施不斷升級的同時，網(wǎng)暴的形態(tài)也在不斷更新，如何整治網(wǎng)暴引發(fā)全社會的高度關注。黨的二十大報告中明確指出，要“健全網(wǎng)絡綜合治理體系，推動形成良好網(wǎng)絡生態(tài)”。中央網(wǎng)信辦印發(fā)《關于切實加強網(wǎng)絡暴力治理的通知》，指出“網(wǎng)絡暴力針對個人集中發(fā)布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息，侵害他人合法權益，擾亂正常網(wǎng)絡秩序”，提出要建立健全網(wǎng)暴預警預防機制，強化網(wǎng)暴當事人保護，嚴防網(wǎng)暴信息傳播擴散，依法從嚴處置處罰等機制舉措。②

一、平臺治理網(wǎng)絡暴力的現(xiàn)狀分析

中央網(wǎng)信辦對網(wǎng)暴一直保持著高壓治理態(tài)勢。2022年4月，中央網(wǎng)信辦部署開展了“清朗·網(wǎng)絡暴力專項治理行動”，主要聚焦網(wǎng)絡暴力易發(fā)多發(fā)、社會影響力大的新浪微博、抖音等18家平臺，③通過建立系統(tǒng)的監(jiān)測識別、實時保護、干預處置等措施，使各平臺都積極探索嘗試了加強預防、網(wǎng)暴識別、事后規(guī)范等全面治理網(wǎng)暴的機制舉措。

（一）平臺對網(wǎng)絡暴力的判定尚處于起步階段

目前，根據(jù)中央網(wǎng)信辦的指導意見，各個平臺結(jié)合自身特征，基本完成了初步整改。在此，筆者匯總了互聯(lián)網(wǎng)平臺對網(wǎng)絡暴力表現(xiàn)形式判定的示例表格（見表1）。④例如，知乎會判定為網(wǎng)暴內(nèi)容和行為的，包括泄露他人隱私、煽動網(wǎng)友對他人進行無根據(jù)地扣帽子、貼負面標簽，使用包含臟話、蔑稱等言語對他人進行辱罵攻擊，無視對方意愿對他人進行惡意騷擾等。豆瓣的判定體系包括使用不雅粗俗的詞匯攻擊他人、諷刺挑釁他人、抬杠拱火、煽動眾人情緒、對個人或群體持歧視偏見的態(tài)度等。微博的判定體系覆蓋了粗俗冒犯類、諷刺內(nèi)容類、煽動情緒類、歧視偏見類、惡意貼標簽類、掛人引戰(zhàn)類、故意抬杠類等（見圖1）。抖音會嚴格處理詛咒、咒罵等突破底線的違反公序良俗的內(nèi)容，沒有真實依據(jù)、造謠、傳謠、污蔑他人的內(nèi)容，人肉搜索、違規(guī)曝光和傳播當事人隱私信息的內(nèi)容，以及對事件中當事人周邊無關人員、物品的曝光與無端指責。⑤不難發(fā)現(xiàn)，各個平臺總結(jié)的網(wǎng)絡暴力標準體系并不相同，許多內(nèi)容仍然需要伴隨相當程度的主觀判斷。

（二）網(wǎng)暴風險識別預警機制尚在嘗試搭建中

各平臺積極探索建立符合自身平臺特征的，對存在網(wǎng)暴風險的信息內(nèi)容進行識別和過濾的機制。如抖音平臺在內(nèi)容識別方面，①結(jié)合內(nèi)容生態(tài)分級標準，完善了平臺風險感知能力建設，根據(jù)相關內(nèi)容語境、評論、背景等進行綜合研判，研發(fā)智能識別模型，目前線上有100多個模型在運營，可做到提前攔截包含侮辱、辱罵等信息的內(nèi)容。微博健全網(wǎng)暴信息標準和樣本，搭建14個網(wǎng)暴相關模型，制定16個模型策略，日均可處置不友善內(nèi)容約50萬條。知乎則會根據(jù)內(nèi)容的違規(guī)程度，限制內(nèi)容的展示范圍，對于不友善的內(nèi)容，平臺會對其進行折疊，減少其在社區(qū)里曝光的機會，明顯帶有侮辱性質(zhì)的語言，會被平臺刪除。百度貼吧有巡查、吧主和吧務反饋、舉報、清理回溯等發(fā)現(xiàn)機制，可以有效優(yōu)化內(nèi)容審查策略，并針對貼吧網(wǎng)暴識別能力進行升級，據(jù)悉，其間，共擴充網(wǎng)暴關鍵詞近500組，新增圖片黑庫600余張。盡管各個平臺在關鍵詞策略等識別技術上都有相當?shù)耐度?，但在平臺看來，機器審核仍然只能承擔一部分工作，人工審核不能被替代；且各個平臺的網(wǎng)暴關鍵詞庫建設參差不齊，也缺乏有效的第三方獨立評估驗證。

（三）平臺主動強化網(wǎng)暴當事人保護

各平臺采取一系列措施強化對網(wǎng)暴當事人的保護，包括優(yōu)化私信規(guī)則，防范網(wǎng)暴內(nèi)容通過私信傳輸?shù)?。以斷網(wǎng)為例（見表2），調(diào)查的8家網(wǎng)站基本采取了“我的－設置－隱私設置－斷網(wǎng)”的操作模式，而新浪微博開啟“一鍵防護”只需點擊4次。許多網(wǎng)站平臺已經(jīng)對私信功能進行了更新，以豆瓣、微博、小紅書為例，未互相關注且24小時內(nèi)未有過私信往來的陌生人，在得到用戶回復前只能發(fā)出一條私信。而用戶，可以根據(jù)自身情況，設置接收私信的范圍，其中，包括所有人、自己關注的人、互相關注的人和禁止私信等選項。新浪微博上線“評論防火墻”和“一鍵防護”功能。在“一鍵防護”開啟期間，當事人將不接收陌生人通知。豆瓣上線 “應急防護模式 ”，用戶開啟該模式后，陌生人無法查看其主頁的內(nèi)容，也無法直接與其進行私信交流。知乎用戶，可以選擇“瓦力保鏢”功能，系統(tǒng)將自動識別不良評論及私信等，而后折疊、隱藏或刪除不良內(nèi)容，嚴重者甚至會被拉黑。抖音則針對施暴者的不良言論攻擊和不友善行為成立專項小組，對涉網(wǎng)暴重點環(huán)節(jié)加強監(jiān)看，已上線“發(fā)文警示”“負向內(nèi)容過濾”等8項預防網(wǎng)絡暴力的功能。

（四）嚴防網(wǎng)絡暴力信息傳播擴散

“用戶自主設置+平臺介入監(jiān)測”是事前階段主流的網(wǎng)暴防控模式。在新浪微博、抖音等平臺上，用戶能夠自主選擇互動關系，包括將“所有人、關注的人、我的粉絲及互相關注的人”列為互動對象，也能根據(jù)用戶實際情況關閉互動權限，實現(xiàn)防患于未然的目的。與“評論”相對，“私信”在互動場景中更易滋生“網(wǎng)暴行為”，依托于一對一的交互形式，“私信”具有隱蔽性、私密性的特征，因此，限制“未關注人私信”便成了各大平臺整治的重點。小紅書、知乎、豆瓣、B站均設置了與“陌生人私信箱”相類似的功能，陌生人在賬號主人回復前，最多只能發(fā)送一條消息，而這條私信，也會被系統(tǒng)收入上述信箱，以此保護賬號主人免受網(wǎng)曝困擾。在抖音、快手平臺上，用戶可以把賬號設置為“私密賬號”，一旦開啟此功能，則只有用戶、粉絲可以瀏覽、評論其發(fā)布的作品。此類賬號的粉絲關注功能，也將受到嚴格限制。換言之，只有獲得用戶批準，其他用戶才可實現(xiàn)關注。新浪微博，對私信接收功能進行了改良，用戶僅能看到1條陌生賬號發(fā)送的消息，也僅顯示為私信提醒，并不直接顯示內(nèi)容，只有在用戶點擊接收陌生人消息后，才可查看具體內(nèi)容，其間，私信接收的有效期僅為24小時。實測中，采取“明文式”“內(nèi)涵式”網(wǎng)暴語言模式，分別測試上述平臺，結(jié)果差別比較大（見表3），明文式測試中抖音等6個平臺被攔截，但微博、小紅書順利發(fā)出，內(nèi)涵式測試結(jié)果卻正相反，反映出平臺對網(wǎng)暴信息的攔截功能需要不斷改進。①

（五）平臺不斷加大對涉網(wǎng)暴賬號的處置處罰力度

當網(wǎng)暴信息仍然難以避免地傳達給了網(wǎng)暴當事人，舉報成了個人最后的選擇。據(jù)“網(wǎng)信中國”微信公眾號消息，2022年5月中央網(wǎng)信辦通報，過去4個月中，微博、抖音、百度、騰訊、知乎、嗶哩嗶哩、小紅書、快手、豆瓣、網(wǎng)易、新浪、搜狐等主要商業(yè)網(wǎng)站平臺重點受理泄露他人隱私、侮辱謾罵、造謠誹謗等網(wǎng)絡侵權舉報事件達43.96萬件。從具體分類來看，多個平臺都在舉報類型中添加了“網(wǎng)絡暴力”的選項及“一鍵取證”的功能，方便用戶快速搜集證據(jù)進行投訴。對于參與網(wǎng)暴的賬號，微博、抖音、豆瓣、知乎等各個平臺有類似的處罰機制，即根據(jù)行為程度的不同做出刪除言論、短暫禁言、永久禁言、封禁賬號等處理。統(tǒng)計數(shù)據(jù)顯示，抖音每天產(chǎn)生8億條評論，其中，被投訴、舉報并最終處理的不當評論中，“謾罵，人身攻擊”占比32.79%。2022年1月至6月，抖音共攔截不當信息9218萬條，封禁及禁言賬號1.1348萬個，累計處置網(wǎng)暴事件超100起，對于可能發(fā)出的網(wǎng)暴內(nèi)容，每天至少發(fā)出25萬次風險提示。百度貼吧自網(wǎng)暴專項開啟起以來，共清理網(wǎng)暴內(nèi)容約150萬次，處置網(wǎng)暴賬號1.5000萬余個，網(wǎng)暴投訴舉報率由13.27%降低至9.28%。但有媒體在“網(wǎng)暴起訴一事咨詢平臺”實測中暴露出，有平臺客服明確表示不會為個人用戶提供施暴者個人信息，但也有客服稱用戶可以提交司法機構(gòu)出具的協(xié)助調(diào)查函進行申請。此外，多家客服均表示平臺無法協(xié)助用戶保存私信等網(wǎng)暴證據(jù)，用戶需自行保存。①

二、網(wǎng)絡暴力治理中平臺責任落實存在的問題

從網(wǎng)絡治理實踐看，網(wǎng)絡暴力伴隨互聯(lián)網(wǎng)傳播服務發(fā)展的全過程，從最早的BBS時代，到社交媒體時代，再到現(xiàn)在的短視頻和直播時代，一直是嚴重侵害用戶權益、擾亂網(wǎng)絡傳播秩序的毒瘤。②網(wǎng)暴信息的傳播線、跳轉(zhuǎn)線、暴力線，讓部分平臺成為滋生網(wǎng)絡暴力的“傳播溫床”。雖然網(wǎng)絡暴力的成因是復雜、多樣的，但作為信息內(nèi)容管理的第一責任主體——平臺企業(yè)，仍舊缺乏系統(tǒng)性的監(jiān)管。③一些平臺企業(yè)本來可以通過技術手段，在網(wǎng)絡暴力早期實現(xiàn)有效管控，但現(xiàn)實中一些平臺企業(yè)受商業(yè)利益驅(qū)動，為獲取流量、廣告費等進行非正常輿論引導，為網(wǎng)絡暴力提供滋生土壤，④使得網(wǎng)絡暴力現(xiàn)象屢禁不止。

（一）平臺“屬地責任”泛化與主體責任不明并存

平臺作為網(wǎng)絡服務提供者的管理責任在不斷加重。近年來，針對不同平臺和業(yè)務的特點，有關部門陸續(xù)出臺了《互聯(lián)網(wǎng)信息群組信息服務管理規(guī)定》《微博客信息服務管理規(guī)定》《網(wǎng)絡音視頻信息服務管理規(guī)定》《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》等文件，更加細致地明確了不同情形下的責任主體及其具體義務。網(wǎng)絡服務提供者不再只是簡單對信息內(nèi)容進行管理，而是對信息生產(chǎn)發(fā)布進行全流程監(jiān)管和引導?？傮w上網(wǎng)絡服務提供者的管理責任越來越呈現(xiàn)出泛化的趨勢，針對平臺內(nèi)違法犯罪活動的“屬地責任”全面被施加于網(wǎng)絡服務提供者身上。但目前網(wǎng)絡暴力治理中的責任條款越來越多地呈現(xiàn)出原則性規(guī)定的特點，建立健全各種“機制”“制度”的要求頻繁出現(xiàn)，但這些抽象性概念的內(nèi)容缺乏細節(jié)支撐。盡管立法也規(guī)定了網(wǎng)絡服務提供者可以“刪除、屏蔽”網(wǎng)絡違法信息，“暫停使用”乃至“永久封禁”違規(guī)賬號，但這些處置措施同樣缺乏適用標準、正當程序的規(guī)定。

（二）平臺治理難點疊加與治理舉措風險加大并存

總體而言，我國信息分級保護尚處于起步階段，缺乏全面性、規(guī)范化的網(wǎng)絡信息分級審查的制度建設。⑤在分級范圍上，當前我國對于“網(wǎng)絡有害信息”的范圍明確與類型界定仍舊存在立法用語抽象、規(guī)范文件層級較低、側(cè)重點偏離等問題。其一內(nèi)容識別預警的準確性不夠。平臺內(nèi)容的海量性與網(wǎng)絡暴力行為自身的空間虛擬性、主體隱蔽性、群體參與性、內(nèi)容模糊性等特征，導致在判別尺度、界定治理等方面都存在一定難度，及時準確地識別網(wǎng)絡暴力事件難度較大。其二，信息審核的專業(yè)性不強。在履行對信息內(nèi)容審核處理責任的過程中，為了不損害公民的權利，網(wǎng)絡服務提供者需要非常謹慎地把握言論自由的平衡尺度，結(jié)合事件前后的完整信息進行專業(yè)的事后分析，但其在專業(yè)水準的把握上缺乏統(tǒng)一的尺度與標準。其三，審核人員的價值標準互異。不同審核人員的價值取向標準差異及統(tǒng)一標準的建構(gòu)，已成為網(wǎng)絡服務提供者面臨的難題。由于信息審核的專業(yè)性，短期內(nèi)無法實現(xiàn)技術識別，而人工審核短時間內(nèi)難以被取代，因而必然面臨不同個體的主觀判斷差異，導致出現(xiàn)“因人而異”的現(xiàn)象。其四，處罰措施適用的風險性大。標準上存在缺失，行業(yè)處置標準不統(tǒng)一，各平臺尺度不同，處置缺乏統(tǒng)一的依據(jù)，常被投訴，處罰措施適用的有效與否直接關系到網(wǎng)絡暴力行為的治理效果。當前，平臺負有較重的舉證說明義務及應訴成本，如果被處罰用戶在被認定為實施網(wǎng)絡暴力行為并受到處罰措施后起訴平臺，平臺就負有舉證說明義務，并需要承擔各類訴訟負擔與成本。

（三）平臺雙重身份下行業(yè)自律困境與網(wǎng)絡技術治理缺乏一體化標準

盡管互聯(lián)網(wǎng)平臺的自我監(jiān)管相較于政府監(jiān)管而言具有一定優(yōu)勢，但平臺監(jiān)管主體與市場主體的雙重身份，使其成為監(jiān)管路上的一把“雙刃劍”。在雙重身份的推動下，一旦互聯(lián)網(wǎng)平臺作為監(jiān)管主體的地位遭到濫用，①其在監(jiān)管規(guī)則、監(jiān)管程序、監(jiān)管結(jié)果方面的弊端就會顯現(xiàn)。②

平臺的監(jiān)管規(guī)則往往價值偏好突出，作為監(jiān)管主體所享有的權利也容易在規(guī)則制定時濫用。相對地，各個平臺的監(jiān)管程序目前都面臨著透明度不足的嚴重問題，在制訂規(guī)則環(huán)節(jié)，十分缺乏協(xié)商、表決和征求意見的程序。

自我監(jiān)管具有溢出效應，監(jiān)管結(jié)果的外部性特征明顯。③與此同時，技術設置對于網(wǎng)絡暴力的治理有一種事前治理措施，克服了法律治理模式的滯后性的弊端。④但是技術治理模式并不是“萬金油”，技術治理手段往往會服務于平臺獲利模式的需要。技術設置在內(nèi)容控制上本身沒有一個明確可視的標準，互聯(lián)網(wǎng)平臺缺乏預警預防機制、保護網(wǎng)暴當事人、嚴防網(wǎng)暴信息傳播擴散、依法從嚴處置處罰等“共治規(guī)則”，不僅缺乏網(wǎng)絡暴力信息與正常輿論監(jiān)督的內(nèi)容分類標準，也缺乏統(tǒng)一的警示性具體處置案例庫；不僅未構(gòu)建起綜合考慮事件類別、不同主體、參與人數(shù)、信息內(nèi)容、環(huán)節(jié)場景、舉報投訴等維度的網(wǎng)絡暴力技術識別機制和被害人一鍵保護模型，而且對于網(wǎng)絡暴力防范機制不健全、舉報受理處置不及時并造成不良影響的平臺，缺乏通報批評、限期整改、罰款、暫停信息更新、關閉網(wǎng)站等處置處罰措施的量化適用標準。

三、平臺治理網(wǎng)暴的“規(guī)則+技術”數(shù)字治理理念

網(wǎng)絡社會是“網(wǎng)”與“人”的結(jié)合，因而，網(wǎng)絡社會治理，重點在于治“網(wǎng)”，關鍵還在于治“人”。治“網(wǎng)”要靠技術，治“人”則要靠法律。⑤在經(jīng)濟社會數(shù)字化轉(zhuǎn)型的大趨勢下，亟需從多維視角探討互聯(lián)網(wǎng)平臺網(wǎng)暴治理之道，目標是基于網(wǎng)絡治理、⑥數(shù)字治理、平臺治理理論進行創(chuàng)新，借鑒國內(nèi)外平臺治理網(wǎng)暴的成功經(jīng)驗，打造以主體責任為核心、以“規(guī)則之治+技術賦能”為理念的二元共同治理格局與全鏈條全景式治理模式。

（一）平臺是網(wǎng)絡空間治理中的“數(shù)字守門人”

隨著信息技術的迅猛發(fā)展，平臺日益成為信息內(nèi)容生產(chǎn)傳播的重要渠道，為社會公眾和各類組織創(chuàng)造了新的社會空間——網(wǎng)絡空間，構(gòu)建起縱橫交錯的生態(tài)網(wǎng)絡。與此同時，平臺的出現(xiàn)也意味著新社會風險源的誕生，擴大了社會安全風險的可達范圍，實際上成為各類社會問題和安全問題的集散地，任何社會風險都可能通過平臺而被無限放大。隨著平臺主體責任理論的提出，結(jié)合當前立法的趨勢顯示，治理權逐漸下沉至互聯(lián)網(wǎng)平臺企業(yè)，由平臺承擔主要治理責任，網(wǎng)絡空間治理也成為這些“數(shù)字守門人”“網(wǎng)絡把關人”的重要義務。平臺兼具社會屬性和公共屬性，處于一種“網(wǎng)絡‘準政府”的角色定位，在網(wǎng)絡空間的管理上發(fā)揮著“準入”“監(jiān)管”“調(diào)控”的作用。由此，網(wǎng)絡暴力治理應加強“行業(yè)自律”。目前，各國均采取了組建行業(yè)組織及制定行業(yè)規(guī)范的方法，以平臺“行業(yè)自律”促進網(wǎng)絡言論及其他網(wǎng)絡暴力行為的早期預防與協(xié)同處置，如英國網(wǎng)絡觀察基金會與互聯(lián)網(wǎng)服務提供商協(xié)會共同發(fā)布《安全網(wǎng)絡：分級、檢舉、責任》文件，德國設立“國際性內(nèi)容自我規(guī)范網(wǎng)絡組織”以確保網(wǎng)絡內(nèi)容的健康，日本的互聯(lián)網(wǎng)行業(yè)則形成了以《網(wǎng)絡事業(yè)者倫理準則》為代表的行業(yè)規(guī)范。在我國，中國互聯(lián)網(wǎng)協(xié)會牽頭制定了《中國互聯(lián)網(wǎng)行業(yè)自律公約》《互聯(lián)網(wǎng)站禁止傳播淫穢色情等不良信息自律規(guī)范》等文件，相關平臺也開始嘗試制定本領域的聯(lián)合性行業(yè)標準與協(xié)議規(guī)范。但綜合來看，我國針對網(wǎng)絡暴力的專門性行業(yè)自律規(guī)范有待進一步完善，相關行業(yè)組織的信息統(tǒng)籌與審查能力有待進一步加強。為提升網(wǎng)絡暴力治理協(xié)同性，實現(xiàn)“共建共享共治”的社會治理格局，應圍繞“網(wǎng)絡暴力”分級標準制定、協(xié)同預防制度構(gòu)建等問題進一步完善行業(yè)自律機制，通過行業(yè)自律組織的組建與完善、相關行業(yè)規(guī)范的制定與發(fā)布、社會投訴處理機制完善等措施，發(fā)揮行業(yè)組織以及行業(yè)規(guī)范在網(wǎng)絡暴力治理層面的積極作用，監(jiān)督平臺承擔起信息傳播過程中“把關人”的角色。

（二）平臺應在網(wǎng)暴“規(guī)則之治”中承擔責任

以網(wǎng)絡通信技術和雙邊算法或多邊算法等系列技術為基礎的互聯(lián)網(wǎng)平臺，其價值是利益相關方各類交互行為的直接或間接表現(xiàn)。而“平臺”“治理”“平臺治理”等概念，都是利益相關方理性或者“有限理性”行為的產(chǎn)物。對網(wǎng)絡平臺的監(jiān)管是一個世界性難題，發(fā)達國家習慣將社交平臺的治理權交給平臺，這也符合“問題制造者就是問題解決者”的基本法理。①2018年，德國推出《網(wǎng)絡執(zhí)行法》，其加大了平臺的治理責任，要求平臺嚴格履行治理義務，以此整治網(wǎng)絡上的“仇恨、煽動性言論以及虛假的新聞內(nèi)容”。其提出，社交平臺必須為用戶提供詳細的在線舉報表單；在接到舉報后，必須于24小時內(nèi)刪除各類違法言論；受理舉報后，7日內(nèi)必須對有爭議的言論進行處理，避免引起不良影響；必須提交輿情治理季度報告等。當前我國《中華人民共和國網(wǎng)絡安全法》《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》等相關法律規(guī)定對網(wǎng)絡平臺的信息管理與審查義務做了初步規(guī)定，但平臺方的網(wǎng)暴治理工作仍存在一定完善空間。一方面，需進一步完善平臺方網(wǎng)絡暴力治理責任體系。與其他國家相比，我國法律法規(guī)對于“網(wǎng)絡暴力”平臺責任的相關規(guī)定比較粗放，仍處于起步階段。在網(wǎng)絡信息審查義務上，當前關于網(wǎng)絡信息審查的法定范圍和標準散見于各類以行政規(guī)范為代表的法律法規(guī)之中，對于網(wǎng)絡暴力領域的專門規(guī)定與具體義務設置更是處于近乎空白的狀態(tài)。在信息公開的報告義務上，當前網(wǎng)絡平臺作為“私主體”，實施平臺信息管理的主要路徑是依據(jù)與用戶簽訂的使用協(xié)議或用戶條款，對涉及網(wǎng)絡暴力的言論及其賬號主體采取刪帖、禁言、封停賬號等措施，但此過程中如何進行信息公開與報告的相關規(guī)定卻遠未成形，造成了平臺信息處理違法內(nèi)容的不透明。因此，有必要圍繞“信息審查”“信息公開”等義務完善網(wǎng)絡平臺責任體系，為平臺治理網(wǎng)暴提供保障與參考。

（三）“技術賦能”是實現(xiàn)數(shù)字治理網(wǎng)暴的關鍵

從技術理性視角，厘清平臺背后的技術支撐及其技術邏輯是實現(xiàn)技術賦能的重要基礎。

其一，支撐互聯(lián)網(wǎng)平臺的技術實質(zhì)上是一系列技術集合，包括各種類型的算法、數(shù)據(jù)采集技術和數(shù)據(jù)管理技術、算力技術等，互聯(lián)網(wǎng)平臺的技術處于持續(xù)演變的過程中，核心算法技術從最初期的信息查詢類算法，經(jīng)歷信息共享類算法、信息搜索引擎算法，直至現(xiàn)如今的信息匹配算法、信息推送算法等。

其二，互聯(lián)網(wǎng)平臺技術集合存在著多種技術邏輯，數(shù)據(jù)采集與再交換邏輯是平臺得以存在的基礎邏輯，技術分解與聚合帶來的技術體系性能綜合性提升是互聯(lián)網(wǎng)平臺獲得技術效率的永恒邏輯，互補性技術創(chuàng)新帶來了平臺技術創(chuàng)新和技術生態(tài)的整體躍遷。

其三，網(wǎng)暴治理離不開技術手段，比如網(wǎng)絡暴力技術識別主要包括簡單識別、文本識別+勸阻式干預、反諷識別+折疊式干預方式，涉及情緒解析、文本觀點提取、文本相似度判斷以及詞法分析等技術原理。②綜上，想要實現(xiàn)數(shù)字平臺的有效治理，需要與平臺技術相協(xié)同，進一步提升對網(wǎng)暴的信息監(jiān)測與處置技術。據(jù)《光明日報》報道，國務院新聞辦公室在舉行2022年“清朗”系列專項行動新聞發(fā)布會時提出，要“指導網(wǎng)站平臺建立網(wǎng)絡暴力行為監(jiān)測模型，通過分析用戶評論、彈幕等環(huán)節(jié)的異常行為，綜合舉報數(shù)量頻次，準確識別網(wǎng)暴苗頭”，但除了個別頭部網(wǎng)站已嘗試建立該類監(jiān)測模型外，多數(shù)網(wǎng)絡平臺商在輿情監(jiān)測與網(wǎng)絡暴力預防等方面的技術運用仍存在欠缺。因此，須進一步加強平臺方新技術的研發(fā)與應用，提升治理主動性、科學性與針對性。

四、平臺治理網(wǎng)暴的數(shù)字化全鏈條全景式示范模式

網(wǎng)絡暴力的治理不可能一蹴而就，這是一個長期監(jiān)督、治理的過程。平臺理應“守土有責、守土盡責”，不應因“眾怒難犯”而沉默，不當“推波助瀾”的“幫兇”，采取精準有效的措施從嚴整治，為用戶提供各種場景預防網(wǎng)暴功能的服務，爭創(chuàng)數(shù)字化全鏈條示范模式。

網(wǎng)絡暴力的全鏈條治理，即是伴隨網(wǎng)絡暴力及系列輿情發(fā)酵各個階段的治理。在網(wǎng)絡暴力的潛伏期，要建立健全識別預警預防機制；在網(wǎng)絡暴力的爆發(fā)期和持續(xù)期，要建立健全網(wǎng)絡暴力當事人實時保護機制，嚴防網(wǎng)絡暴力信息傳播擴散；在網(wǎng)絡暴力的消退期，要加大對違法違規(guī)賬號、機構(gòu)和網(wǎng)站平臺處置處罰力度，強化警示曝光和正向引導，及時做好復盤和反思，追蹤事件的長時間進展和多方面影響；在網(wǎng)絡暴力頻發(fā)的階段，要搭建長效化配套機制。

（一）平臺治理網(wǎng)暴的事前監(jiān)測預防機制：“平臺管用戶，政府管平臺”的雙層監(jiān)管模式

通過建構(gòu)“平臺管用戶，政府管平臺的雙層監(jiān)管模式”及網(wǎng)絡暴力識別預警機制，強化網(wǎng)民行為識別和輿情發(fā)現(xiàn)，及時預警網(wǎng)絡暴力，從而減少不法行為的發(fā)生。進一步完善網(wǎng)絡信息的全面分級審查機制，在分級標準上，結(jié)合域外治理經(jīng)驗，構(gòu)建并完善“信息內(nèi)容”與“受眾年齡”相結(jié)合的分級體制，設置相應指示標識。充分發(fā)揮平臺與行業(yè)組織的自治優(yōu)勢，由平臺自主進行網(wǎng)站初步定級、標注分級標識、設置身份認證系統(tǒng)等，政府則發(fā)揮后置性審核作用。①同時進一步健全網(wǎng)絡暴力的專門性識別與預警機制，網(wǎng)絡暴力的識別預警通過人工智能算法等網(wǎng)絡技術建構(gòu)的信息識別與輿情分析系統(tǒng)，識別機制具體包括投訴舉報、人工審核、第三方標記、自動過濾和綜合審計五種類型。②系統(tǒng)可以對網(wǎng)絡輿論進行實時監(jiān)測，并在發(fā)現(xiàn)疑似“網(wǎng)絡暴力”的行為時，通過“彈窗警告”等方法發(fā)出消息提示。首先，進一步明確識別預警的規(guī)范標準。其次，改進網(wǎng)絡暴力識別、審查的技術方法。面對多樣的“網(wǎng)絡暴力”形式，有必要通過建設“網(wǎng)暴”信息樣本庫、發(fā)展關鍵詞攔截策略、行為識別模型等方式，運用算法技術識別進一步增強“網(wǎng)暴”信息的自動化識別與過濾。此基礎上，還應通過平臺方內(nèi)設審核機構(gòu)及第三方組織等，進行疑難信息的二次識別與人工審核，避免遺漏新類型、疑難性網(wǎng)絡暴力信息。最后，建立網(wǎng)暴識別預警的解除機制。技術的有限性決定了網(wǎng)暴識別也存在相當多的誤判，故應在發(fā)生誤判的情形下保障用戶救濟渠道，設置審核異議程序與解除措施，完善相關投訴、舉報及訴訟機制。③

不斷完善雙層監(jiān)管的流程化辦理模式，第一層為內(nèi)容審核。平臺需要過濾顯而易見的違法信息，可通過大數(shù)據(jù)與人工智能分析，自動化發(fā)現(xiàn)網(wǎng)暴言論及其諧音變種，加強謾罵、血腥、恐怖類的文本、圖片的AI模型識別能力，且可提高特殊時間節(jié)點的審核效率，助力平臺建立完善的審核機制。第二層，輿情監(jiān)測。提升平臺輿情監(jiān)測能力，對社會大熱事件與突發(fā)事件能夠及時獲取，及時研判，及時制定方案。第三層，舉報受理。平臺要賦予用戶關閉私信、拉黑或舉報發(fā)布網(wǎng)暴言論者賬號的功能。平臺要提供舉報審核解決方案，靈活支持各場景舉報內(nèi)容提交，按風險程度快速審核判定舉報。第四層，賬號管理。平臺可對頻繁發(fā)布謾罵、四處引戰(zhàn)的賬號進行禁止發(fā)言或封號，允許被禁者經(jīng)過一定期限后，重新申請監(jiān)管下的賬號使用權，進而形成引導從善機制。創(chuàng)新提供用戶行為圖譜分析，多維度發(fā)現(xiàn)用戶的過界異常行為并統(tǒng)計反饋，有利于打擊黑灰產(chǎn)培育的“水軍”用戶，限制部分用戶的謾罵行為。其中，第三層、第四層的處理，涉及事中干預和事后救濟的問題。

（二）平臺治理網(wǎng)暴的事中干預處置機制

據(jù)中國網(wǎng)信網(wǎng)消息，中央網(wǎng)信辦發(fā)布的《關于切實加強網(wǎng)絡暴力治理的通知》中明確就建立健全網(wǎng)絡暴力當事人實時保護機制提出了要求，調(diào)整私信功能規(guī)則，及時過濾“網(wǎng)暴”內(nèi)容，強化“一鍵防護”等應急保護措施，建立快速取證和舉報通道，加大彈窗提醒警示力度，加強重點群體救助保護。因此，平臺要進一步完善網(wǎng)絡暴力當事人實時保護機制，通過屏蔽相關暴力言論、阻斷溝通渠道、隱藏被網(wǎng)暴者個人信息等措施，對網(wǎng)暴當事人進行保護。進一步完善信息公開和輿論引導機制，平臺及時利用信息整合、信息公開以及輿論引導方法，事發(fā)平臺要采取“強制彈窗方式”，將網(wǎng)暴事件基本情況采取登錄平臺、強制瀏覽一定次數(shù)、一定時長的方式予以通報澄清，充分聯(lián)動政務平臺、官方網(wǎng)站等多方主體，采取新聞發(fā)布、公眾號推文等方法，積極進行輿情治理與謠言澄清，制止網(wǎng)絡暴力擴大化。④比如，微博平臺已有相關舉措，在核實身份后，為當事人提供認證綠色通道，同時在相關話題頁關聯(lián)當事人賬號，置頂當事人發(fā)聲內(nèi)容，并對官方權威媒體的相關辟謠、澄清信息進行“前排”展示，以幫助公眾了解事件全貌。

（三）平臺治理網(wǎng)暴的事后懲治與救濟機制

一是依法從嚴處置處罰網(wǎng)絡暴力參與者。平臺需要判斷網(wǎng)暴的違法違規(guī)行為人是否屬于首發(fā)、煽動、跟風等類型，依據(jù)不同情形，設置刪除言論、封號、移交行政執(zhí)法或者司法機關等處罰標準。平臺應當嚴格執(zhí)行“禁言封號”的措施，限制違規(guī)賬號在一定時間內(nèi)的發(fā)言權、私信權等諸多權利，或者直接采取封號的嚴厲懲罰。平臺也可采取行業(yè)自律、加強聯(lián)系等方式，防止賬號持有者轉(zhuǎn)移平臺、持續(xù)進行網(wǎng)暴行為?？纱罱ㄒ惶仔兄行У目缟缃黄脚_的黑名單打擊協(xié)議，實現(xiàn)多平臺的協(xié)調(diào)同步。當然，需同步設立申訴機制，允許被禁言封號者向監(jiān)管部門投訴申請公平處理，同時設立禁言封號撤銷制度，允許被禁者經(jīng)過一定期限后重新申請監(jiān)管下的賬號使用權，進而形成引導從善機制。①

二是建立網(wǎng)暴典型案例庫。平臺要不斷加強案例庫作為網(wǎng)暴事件樣本庫的建設，首先要明確哪些網(wǎng)暴案例可以進入案例庫。案例選擇要以典型警示或者正面引導為綱，重點選擇在治理網(wǎng)絡暴力熱點事件中具有典型性、可借鑒、啟發(fā)性的案例。其次要對入選案例予以科學分類，按照適當方式編寫。案例可以從不同角度分類，如按案例層級可劃分為平臺治理角度的成功案例、用戶防網(wǎng)暴成功案例等。最后，加強入庫案例的示范使用，案例要納入平臺規(guī)范體系中，采取強制展示與選擇瀏覽結(jié)合的方式，對于有潛在網(wǎng)暴表現(xiàn)形式或初步行為的用戶，在識別的基礎上預警時可以強制對該用戶展示警示教育案例，并閱讀瀏覽完后強制勾選，才可進行下一步操作。

三是建設幫扶救濟體系與個性化疏導機制，降低“網(wǎng)絡暴力”后續(xù)影響。平臺要與社會組織加強共建，聯(lián)合社會力量，與被網(wǎng)暴當事人“一對一”對接，提供心理疏導、經(jīng)濟援助等，比如抖音“心情暖寶寶”、B站“能量加油站”等功能設置為因網(wǎng)暴而產(chǎn)生負面情緒的用戶提供心理疏導服務，有利于及時識別抑郁、輕生等相關信息。與此同時，還需通過網(wǎng)暴典型案例宣傳、虛假信息澄清等多種方式，糾正社會心理，盡量消弭網(wǎng)暴事件的后續(xù)影響。

四是加強平臺引導，堅持技術向善。平臺對用戶的個性化疏導機制，隨著個性化算法推薦等技術的普遍應用而逐步完善。網(wǎng)民基于選擇性心理，只會關注、查看自己認同的觀點輸出。在此基礎上，內(nèi)容的不斷重復，會加強用戶的固有意識，形成“回音室效應”，如此，便會加劇群體極化現(xiàn)象?！靶畔⒗O房”“回音室效應”是全球社會都在面臨的問題。②而互聯(lián)網(wǎng)平臺，在此挑戰(zhàn)下，更應堅持技術向善，以正確的價值觀為導向，為用戶提供免費的線上“心理輔導”。

（四）健全平臺治理網(wǎng)暴的常態(tài)化配套機制

一是實名制的嚴格落實。網(wǎng)絡實名制可有效提升網(wǎng)絡安全指數(shù)，也有利于增強網(wǎng)民的責任意識，在維護網(wǎng)絡秩序的同時更好地保護言論自由。③我們應當在多部門合作的框架機制下，積極推動網(wǎng)絡實名制的落實，并根據(jù)實際情況不斷調(diào)整網(wǎng)絡實名信息相關的系列標準，通過不同層次的可互操作的身份服務，可減少眾多網(wǎng)絡服務中用戶實名和個人信息的審核和存儲需求，降低用戶隱私信息泄露的風險，逐步建立起自主可控的網(wǎng)絡身份管理生態(tài)體系。④

二是社區(qū)共治：“數(shù)字社區(qū)”間的正向聯(lián)合。互聯(lián)網(wǎng)平臺的多樣化，促使網(wǎng)絡平臺出現(xiàn)了獨特的“社區(qū)文化屬性”。文化建設作為一只“無形的手”，將零散的用戶集中在一起，以此推動數(shù)字社區(qū)成員的身份認同，使用戶自覺自愿參與到數(shù)字社區(qū)的治理中；平臺可以通過與用戶的“共治”，進一步提升信息甄別的效率及準確性。在B站平臺，用戶可自愿加入“風紀委員會”，成為“眾議投票”的一分子，參與甄別不良內(nèi)容。這也成為目前互聯(lián)網(wǎng)平臺常用的治理手段。而以用戶反饋反哺社區(qū)策略的調(diào)整，有利于用戶在不同平臺生態(tài)體系之間的正向聯(lián)合與合力生成。

三是對平臺治理網(wǎng)暴開展專項法治評估。社會治理法治評估既可以激勵治理參與者積極加強法治化建設，也可以對社會治理法治建設進行監(jiān)督。⑤結(jié)合平臺推動治理網(wǎng)暴的實際行動與效果，對平臺打造以主體責任為核心、以“規(guī)則之治+技術賦能”為理念的二元共同治理格局與全鏈條全景式治理模式的進展情況，由網(wǎng)信監(jiān)管部門聘請第三方機構(gòu)，對各平臺企業(yè)開展專項法治評估，并形成專項報告，全面梳理平臺強化治理網(wǎng)暴的成效、經(jīng)驗、不足以及下一步整改重點，供監(jiān)管部門與平臺企業(yè)作為開展治理的決策參考依據(jù)。

作者：

趙韞淏，北京工商大學法學院本科生

劉晶，北京工商大學法學院黨委副書記、高級政工師

（責任編輯：谷儒楠）

Abstract： In many incidents of cyberviolence， the transmission line， the jump line and the violence line formed with the help of information make the platform a "hotbed" for cultivating the spread of cyberviolence. The lack of normalized supervision of platform enterprises as the first responsible subject of information content management is an significant cause of cyberviolence. Governing cyberviolence is not achieved overnight， but a long-term supervision and management process. Learn from the successful experience of domestic and foreign platforms in dealing with cyberviolence， and build a dualistic joint governance pattern and a full-chain panoramic governance model with subject responsibility as the core and the concept of "Rule of Provisions + Technical Enablement".

Keywords： Platform， Cyberviolence， Digital Governance， Governance Model