自媒體衍生網(wǎng)絡(luò)暴力問(wèn)題與治理路徑

【摘" "要】自媒體的興起在賦予個(gè)體表達(dá)自由的同時(shí)衍生出網(wǎng)絡(luò)暴力問(wèn)題。自媒體所衍生網(wǎng)絡(luò)暴力與扮演“意見(jiàn)領(lǐng)袖”角色的自媒體賬號(hào)所發(fā)揮的聚集作用有關(guān)。自媒體衍生的網(wǎng)絡(luò)暴力可歸因于網(wǎng)絡(luò)平臺(tái)監(jiān)管不力、法律規(guī)范預(yù)防性缺失以及算法透明度與平臺(tái)處理能力較弱。為應(yīng)對(duì)網(wǎng)絡(luò)暴力問(wèn)題，有必要健全平臺(tái)合規(guī)管理體系，落實(shí)平臺(tái)守門人責(zé)任，采取風(fēng)險(xiǎn)規(guī)制法模式，提高外部監(jiān)管質(zhì)量，引入情感計(jì)算技術(shù)，規(guī)避算法低透明度缺陷。

【關(guān)鍵詞】網(wǎng)絡(luò)暴力；自媒體；平臺(tái)監(jiān)管；技術(shù)規(guī)制

【基金項(xiàng)目】國(guó)家社會(huì)科學(xué)基金青年項(xiàng)目《我國(guó)預(yù)防刑法的法治限度研究》（編號(hào)：18CFX043）。

平易近人的交互方式、靈活便捷的生產(chǎn)機(jī)制、輕量簡(jiǎn)約的傳播方式為自媒體的興起與流行奠定了基礎(chǔ)。憑借著別樣的影音創(chuàng)作邏輯以及具有沖擊力的視聽(tīng)效果，自媒體的出現(xiàn)與發(fā)展開(kāi)啟了媒體的“哥白尼式革命”，開(kāi)創(chuàng)了信息傳播的個(gè)體化時(shí)代。傳統(tǒng)媒體時(shí)代沉默且有限的受眾被賦予最大程度的表達(dá)自由，一躍成為熱情且無(wú)限的信息傳播者。人們?cè)谛畔⒑Ｑ笾虚喿x、點(diǎn)贊、轉(zhuǎn)發(fā)或評(píng)論，無(wú)時(shí)無(wú)刻不享受著由新技術(shù)所引發(fā)的信息狂歡。然而，自媒體在賦予個(gè)體以表達(dá)自由的同時(shí)，也為社會(huì)越軌行為的滋生提供了溫床，引發(fā)了網(wǎng)絡(luò)暴力問(wèn)題。為了博取流量或達(dá)到惡意詆毀的目的，個(gè)體以普通公眾為侵害對(duì)象，故意捏造低俗等“吸睛”信息侮辱、誹謗陌生被害人的行為屢見(jiàn)不鮮，曝光個(gè)人信息意圖使他人遭受“人肉搜索”的現(xiàn)象層出不窮。網(wǎng)絡(luò)暴力在侵害個(gè)體合法權(quán)益的同時(shí)，嚴(yán)重破壞了網(wǎng)絡(luò)秩序。為此，有必要揭示自媒體衍生網(wǎng)絡(luò)暴力的內(nèi)在機(jī)理，剖析自媒體衍生網(wǎng)絡(luò)暴力的成因，有針對(duì)性地完善自媒體衍生網(wǎng)絡(luò)暴力的治理路徑。

一、自媒體衍生網(wǎng)絡(luò)暴力的內(nèi)在機(jī)理

（一）社會(huì)性是網(wǎng)絡(luò)暴力的主要特征

自媒體所衍生的網(wǎng)絡(luò)暴力并非歸于個(gè)體對(duì)個(gè)體的暴力，而是社會(huì)系統(tǒng)性力量對(duì)個(gè)體的壓制，這種壓制根源于社會(huì)系統(tǒng)性力量與其組成部分——社會(huì)各子系統(tǒng)——追求自身理性最大化的嘗試。德國(guó)社會(huì)學(xué)家馬克思·韋伯（Max Weber）曾提出“理性鐵籠”這一著名隱喻，暗含對(duì)人們追求理性而又被困在理性之中這一矛盾的擔(dān)憂。該理論指出，人們?yōu)榱藦淖诮踢@類非理性的社會(huì)規(guī)范中解放出來(lái)，創(chuàng)造以理性主義為支撐的科層官僚制和現(xiàn)代法治后反而又因其教條化的僵硬規(guī)則而被困在理性化的“鐵籠”之中。[1]聚焦網(wǎng)絡(luò)暴力這一現(xiàn)象，在虛擬網(wǎng)絡(luò)空間營(yíng)造出的巨大“封閉黑箱”中，海量用戶同時(shí)“在場(chǎng)”發(fā)表匿名性的言論，個(gè)體基于道德對(duì)當(dāng)事人所發(fā)表的評(píng)價(jià)、批評(píng)和指責(zé)實(shí)際上是社會(huì)子系統(tǒng)追求自身理性最大化的表現(xiàn)形式。然而，這一過(guò)程中易被忽略的是，社會(huì)子系統(tǒng)是系統(tǒng)的一部分且從屬于系統(tǒng)，這一追求過(guò)程本身就受系統(tǒng)性力量的支配，因而極易被系統(tǒng)理性所吞沒(méi)、陷入“理性鐵籠”，社會(huì)子系統(tǒng)中個(gè)體對(duì)當(dāng)事人的攻擊被符合全體社會(huì)成員道德評(píng)價(jià)的外衣所粉飾，這最終使個(gè)體性、私人化的問(wèn)題進(jìn)入社會(huì)評(píng)價(jià)的公共空間并遭受全體網(wǎng)民“集體暴政”般的道德審判和人格攻擊。

（二）作為推手的自媒體亦具社會(huì)性

當(dāng)代歐洲傳播政治經(jīng)濟(jì)學(xué)學(xué)者克里斯蒂安·?？怂梗–hristian Fuchs）認(rèn)為，社交媒體所具有的社會(huì)性主要體現(xiàn)在認(rèn)知、交流和協(xié)作這三個(gè)層次。[2]作為現(xiàn)代社交媒體典型代表的自媒體擁有極強(qiáng)的交互性，算法技術(shù)的加持使自媒體能夠打破物理空間的限制，在大大拓寬受眾群體范圍的同時(shí)亦增強(qiáng)了用戶黏性。一方面，自媒體在平臺(tái)向公眾發(fā)布的視頻、文章和討論帖可通過(guò)算法技術(shù)直接向用戶精準(zhǔn)推送，這顯然能影響用戶的認(rèn)知；另一方面，用戶與用戶之間相互分享以及在評(píng)論區(qū)的互動(dòng)能體現(xiàn)交流和協(xié)作。無(wú)論通過(guò)何種途徑，自媒體的存在使得網(wǎng)民的公開(kāi)集體討論變得輕而易舉，自媒體的社會(huì)性不言而喻。

然而，擁有社會(huì)性特征的自媒體加速了網(wǎng)絡(luò)暴力的聚集過(guò)程。不同于傳統(tǒng)社會(huì)中熟人之間的言語(yǔ)暴力，作為社會(huì)系統(tǒng)性力量的網(wǎng)絡(luò)暴力，其前身——侵犯?jìng)€(gè)人法益的單個(gè)行為——因自媒體的存在而在短時(shí)間內(nèi)呈海嘯般指數(shù)級(jí)傳播，并且這一過(guò)程中，侵犯人格權(quán)益的謾罵、侮辱等“量變”行為發(fā)展至侵犯網(wǎng)絡(luò)秩序“質(zhì)變”行為，所展現(xiàn)的“積聚性”是網(wǎng)絡(luò)暴力的典型特征，[3]沒(méi)有自媒體，單個(gè)侵犯人格權(quán)的行為就難以集聚成網(wǎng)絡(luò)暴力這一社會(huì)系統(tǒng)性力量。從正面看，自媒體所衍生的網(wǎng)絡(luò)暴力直接作用于當(dāng)事人的精神和心理并直指其“道德缺陷”或“人格缺陷”，攻擊這樣的“缺陷”常常能博人眼球且更具煽動(dòng)性，扮演“意見(jiàn)領(lǐng)袖”角色的自媒體賬號(hào)期待就這種符合全體社會(huì)成員道德評(píng)價(jià)且極具號(hào)召性的發(fā)言能聚集更多的群體。從反面看，個(gè)別的辱罵、人格攻擊言論雖然能侵犯人格權(quán)，但始終無(wú)法使當(dāng)事人陷入四面楚歌、暗無(wú)天日的“社會(huì)性死亡”局面，個(gè)別只是“量變”的侵犯人格權(quán)法益的侮辱行為，如果不達(dá)到“積聚性”便難以破壞網(wǎng)絡(luò)秩序法益?？傊?，未經(jīng)自媒體“聚集”的單個(gè)侵害人格權(quán)法益的行為無(wú)法與“社會(huì)系統(tǒng)性力量對(duì)個(gè)體施加的權(quán)利侵害”[4]同日而語(yǔ)，防范個(gè)別侵害人格權(quán)法益的行為經(jīng)自媒體聚集而形成網(wǎng)絡(luò)暴力，此為治理自媒體衍生網(wǎng)絡(luò)暴力問(wèn)題的關(guān)鍵。

（三）網(wǎng)民受自媒體煽動(dòng)陷入網(wǎng)暴漩渦

倘若自媒體想催生網(wǎng)絡(luò)暴力，煽動(dòng)網(wǎng)民是無(wú)法繞過(guò)的步驟，這一煽動(dòng)過(guò)程可以借助“沉默的螺旋”理論和群體極化理論來(lái)展開(kāi)。在20世紀(jì)70年代，德國(guó)傳播學(xué)家諾伊曼（Neumann）首次提出“沉默的螺旋”概念。該理論指出，人們?cè)谌后w討論中表達(dá)的意見(jiàn)若與他人不同，其為了避免承受被孤立的恐懼感會(huì)采取放棄繼續(xù)表達(dá)觀點(diǎn)或者直接不表達(dá)觀點(diǎn)的做法。與“沉默的螺旋”理論相對(duì)應(yīng)的群體極化理論折射出觀點(diǎn)和立場(chǎng)的極化。在匿名化的互聯(lián)網(wǎng)群體討論中，出于回避孤獨(dú)帶來(lái)的恐懼感，個(gè)體持續(xù)觀察他人的言論和觀點(diǎn)以望獲得接納的認(rèn)同感，最終形成與他人近似但又略微傾向極端的觀點(diǎn)，這些觀點(diǎn)在群體討論后往往比討論之前更加極端。[5]

在網(wǎng)絡(luò)暴力事件中，擁有眾多粉絲的自媒體賬號(hào)通常扮演“意見(jiàn)領(lǐng)袖”角色，其憑借大規(guī)模的粉絲、流量等優(yōu)勢(shì)引導(dǎo)討論者的立場(chǎng)和觀點(diǎn)，與其意見(jiàn)相左的討論者便極有可能放棄發(fā)表言論，陷入“沉默的螺旋”。為了獲得認(rèn)同，本就缺乏媒介素養(yǎng)、獨(dú)立思考能力弱的部分“非沉默網(wǎng)民”群體極易從眾投入所謂的“主流”群體，發(fā)表與煽動(dòng)者相似的極端言論，該言論聚集性不斷增強(qiáng)的同時(shí)越來(lái)越偏執(zhí)和極端。概言之，當(dāng)一部分由不特定多數(shù)人構(gòu)成的群體陷入“沉默的螺旋”從而不再表達(dá)觀點(diǎn)或立場(chǎng)的同時(shí)，匿名化的網(wǎng)絡(luò)言論空間加速了另外一部分由不特定多數(shù)人構(gòu)成的群體“極化”的過(guò)程，直至他們成為網(wǎng)絡(luò)暴力的施暴者并完成施暴，這意味著網(wǎng)絡(luò)用戶的關(guān)注點(diǎn)已偏離正常軌道。

二、自媒體衍生網(wǎng)絡(luò)暴力產(chǎn)生的原因分析

（一）網(wǎng)絡(luò)平臺(tái)監(jiān)管不力，內(nèi)部自我管理失效

自媒體平臺(tái)兼具市場(chǎng)主體與監(jiān)管主體的雙重身份。一方面，自媒體平臺(tái)以企業(yè)化的方式開(kāi)展經(jīng)營(yíng)逐利活動(dòng)，同其他市場(chǎng)主體一樣參與市場(chǎng)競(jìng)爭(zhēng)。另一方面，自媒體平臺(tái)能夠通過(guò)監(jiān)管規(guī)則的制定、發(fā)布與執(zhí)行，實(shí)現(xiàn)內(nèi)部市場(chǎng)主體行為的引導(dǎo)、規(guī)范與承接。然而，自媒體平臺(tái)的逐利本質(zhì)極易導(dǎo)致其對(duì)監(jiān)管主體身份的濫用，進(jìn)而導(dǎo)致內(nèi)部自我管理形同虛設(shè)。

自媒體平臺(tái)的利潤(rùn)大多來(lái)源于對(duì)平臺(tái)自媒體所獲得流量變現(xiàn)收益的分成，平臺(tái)自媒體能否有效吸引流量便成為自媒體平臺(tái)能否獲利的關(guān)鍵。出于提高平臺(tái)吸引力、強(qiáng)化用戶黏性的考量，自媒體平臺(tái)對(duì)于容易衍生網(wǎng)絡(luò)暴力、能夠戳中公眾“痛點(diǎn)”的輿論事件缺乏直接的監(jiān)管動(dòng)力，習(xí)慣于采取“主動(dòng)失明（willful blindness）”的放任態(tài)度。與此同時(shí)，自媒體平臺(tái)在規(guī)則的制定、解釋以及適用等環(huán)節(jié)具有較強(qiáng)的主觀性與單方性。為了有效控制監(jiān)管成本、防止懲戒行為降低用戶忠誠(chéng)度，自媒體平臺(tái)在規(guī)則制定上往往呈現(xiàn)出“不嚴(yán)不密”的特點(diǎn)，既未能履行主動(dòng)審查義務(wù)以有效規(guī)制網(wǎng)絡(luò)暴力及其前置行為，也未能充分賦予用戶自我防護(hù)能力與合理回?fù)裟芰Α?/p>

（二）法律規(guī)范預(yù)防性缺失，外部監(jiān)管未發(fā)揮效用

以公私法劃分的法律規(guī)范體系及其以事后救濟(jì)為主的私權(quán)利保護(hù)模式，預(yù)防性不足，這使得以法律規(guī)范為主要構(gòu)成的外部監(jiān)管機(jī)制難以發(fā)揮應(yīng)有效用。

當(dāng)前，我國(guó)的法律規(guī)范體系對(duì)網(wǎng)絡(luò)暴力的治理思路仍停留在治理傳統(tǒng)社會(huì)中熟人之間言語(yǔ)暴力的事后治理模式。這種治理模式以私力救濟(jì)為原則，以公力救濟(jì)為例外。十分重要的是，以民事侵權(quán)為代表的私力救濟(jì)以及以行政處罰和以刑事訴訟為代表的公力救濟(jì)關(guān)注的皆是如何恢復(fù)已然被侵犯之權(quán)利和如何懲罰已然發(fā)生之行為，這意味著其視角是回溯性的。然而，自媒體所衍生的網(wǎng)絡(luò)暴力具有的參與者不特定、傳播迅速且無(wú)邊際、社會(huì)性等特征直擊回溯性視角下事后治理模式的要害——缺乏預(yù)防性。很顯然，事前規(guī)制陣地的失守使法律規(guī)范體系無(wú)法在網(wǎng)絡(luò)暴力發(fā)生前發(fā)揮其應(yīng)有的指引作用，可問(wèn)題是，外部監(jiān)管的內(nèi)在要求恰恰是民眾的行為符合規(guī)范的指引并具有可預(yù)期性，從而最大程度削弱網(wǎng)絡(luò)暴力的“積聚性”基礎(chǔ)。因此，著眼于事后救濟(jì)的私權(quán)利保護(hù)模式使法律規(guī)范注定難以有效監(jiān)管自媒體衍生的網(wǎng)絡(luò)暴力。

（三）算法機(jī)制透明度低，平臺(tái)處理能力弱

一方面，低透明度的算法，會(huì)使普通用戶陷入“算法黑箱”和信息繭房，更易被網(wǎng)絡(luò)暴力信息侵蝕。[6]在日常生活中，不透明的算法系統(tǒng)會(huì)將“意見(jiàn)領(lǐng)袖”賬號(hào)發(fā)表的帶有網(wǎng)絡(luò)暴力信息的視頻、文章推送給用戶，一旦用戶沒(méi)有立刻停止接收，算法系統(tǒng)便會(huì)勾勒出用戶的“數(shù)字身份”，從而繼續(xù)給用戶推送相似內(nèi)容，即使該內(nèi)容明顯具有煽動(dòng)性。這會(huì)影響用戶的信息接收范圍，推動(dòng)用戶走向極化的邊緣，使用戶最終喪失個(gè)人自主性。另一方面，面對(duì)海量自媒體賬號(hào)發(fā)表的言論及所形成的輿情，平臺(tái)在審核上受技術(shù)掣肘，難以全面、準(zhǔn)確、細(xì)致審核網(wǎng)絡(luò)暴力相關(guān)言論。以餐飲行業(yè)為例，2023年年底，一則“江蘇常州顧客吃飯多加調(diào)料，顧客被店老板推搡謾罵”的新聞傳播度非常高，老板也因遭受網(wǎng)絡(luò)暴力暫關(guān)停小店。另根據(jù)艾普思輿情大數(shù)據(jù)監(jiān)測(cè)系統(tǒng)顯示，僅2024年3月餐飲行業(yè)就有輿情聲量66，376，529篇次，日均聲量2，141，178篇次。如此海量的輿情聲量，給各網(wǎng)絡(luò)平臺(tái)的監(jiān)測(cè)審核技術(shù)系統(tǒng)帶來(lái)了巨大的挑戰(zhàn)，即使同時(shí)使用四個(gè)頂級(jí)的人工智能系統(tǒng)也難以有效審核網(wǎng)絡(luò)暴力言論。[7]

三、自媒體衍生網(wǎng)絡(luò)暴力治理路徑的完善

（一）健全平臺(tái)合規(guī)管理體系，落實(shí)平臺(tái)守門人責(zé)任

網(wǎng)絡(luò)平臺(tái)要針對(duì)網(wǎng)絡(luò)暴力建立專項(xiàng)合規(guī)管理體系，以平臺(tái)“守門人責(zé)任”為內(nèi)在要求，確保合規(guī)計(jì)劃的切實(shí)執(zhí)行。以平臺(tái)“守門人責(zé)任”的反網(wǎng)絡(luò)暴力合規(guī)機(jī)制具體包括事前、事中和事后三個(gè)方面。在網(wǎng)絡(luò)暴力事發(fā)前，網(wǎng)絡(luò)平臺(tái)需要強(qiáng)化其違法內(nèi)容識(shí)別技術(shù)，建立網(wǎng)絡(luò)熱點(diǎn)事件預(yù)測(cè)、預(yù)警機(jī)制。對(duì)此，平臺(tái)可以重點(diǎn)關(guān)注內(nèi)容的識(shí)別預(yù)警、網(wǎng)暴技術(shù)識(shí)別模型和涉網(wǎng)暴輿情應(yīng)急處理機(jī)制三個(gè)方面；在網(wǎng)絡(luò)暴力發(fā)生過(guò)程中，平臺(tái)一方面要建立“一鍵防護(hù)”保護(hù)機(jī)制加強(qiáng)對(duì)當(dāng)事人的保護(hù)，另一方面要及時(shí)控制網(wǎng)暴信息傳播擴(kuò)散；在網(wǎng)絡(luò)暴力事發(fā)后，網(wǎng)絡(luò)平臺(tái)要保障投訴機(jī)制的通暢運(yùn)行，了解投訴者、舉報(bào)者的投訴舉報(bào)內(nèi)容和內(nèi)在訴求，在對(duì)內(nèi)容真實(shí)性進(jìn)行識(shí)別后，及時(shí)處置已經(jīng)識(shí)別網(wǎng)絡(luò)暴力等違法信息，具體措施包括但不限于理性發(fā)言提醒、警示教育、禁言和封號(hào)。對(duì)于涉及違法犯罪的網(wǎng)絡(luò)暴力信息，平臺(tái)應(yīng)該將該情況及時(shí)傳遞給警方，并及時(shí)儲(chǔ)存、保護(hù)自媒體賬號(hào)發(fā)布的違法信息，配合好執(zhí)法機(jī)關(guān)后續(xù)的偵查、取證工作。此外，平臺(tái)還需承擔(dān)定期接收第三方機(jī)構(gòu)評(píng)估上述合規(guī)計(jì)劃的義務(wù)。當(dāng)然，建立合規(guī)計(jì)劃的平臺(tái)可以適當(dāng)獲得包括減輕處罰在內(nèi)的激勵(lì)措施。這種事前預(yù)警、事后兜底的合規(guī)管理體系，實(shí)質(zhì)上將網(wǎng)絡(luò)平臺(tái)納入網(wǎng)絡(luò)治理的框架內(nèi)，并賦予其網(wǎng)絡(luò)暴力直接治理主體的身份，可最大程度糾正平臺(tái)盲目逐利的異化動(dòng)機(jī)。

（二）采取風(fēng)險(xiǎn)規(guī)制模式，提高外部監(jiān)管質(zhì)量

法律規(guī)范自媒體衍生網(wǎng)絡(luò)暴力的治理，要擺脫傳統(tǒng)私權(quán)利保護(hù)模式的桎梏，轉(zhuǎn)向以公力救濟(jì)為主導(dǎo)的風(fēng)險(xiǎn)規(guī)制模式。風(fēng)險(xiǎn)規(guī)制模式下的法律規(guī)范聚焦于事前預(yù)防，這種事前預(yù)防更加注重將預(yù)防機(jī)制貫穿于民事法、行政法和刑事法運(yùn)行的全過(guò)程。具言之，在民事法領(lǐng)域，適當(dāng)引入公法尤其是社會(huì)法、經(jīng)濟(jì)法對(duì)勞動(dòng)者、消費(fèi)者的保護(hù)路徑來(lái)實(shí)現(xiàn)國(guó)家對(duì)民眾積極保護(hù)義務(wù)的履行；在行政法領(lǐng)域，為平臺(tái)及用戶適當(dāng)施加言論尤其是仇恨言論注意義務(wù)，對(duì)于違反該義務(wù)的主體，行政機(jī)關(guān)可以依法對(duì)其行政處罰；在刑法領(lǐng)域，在立法論上，考慮增設(shè)“煽動(dòng)仇恨情緒罪”實(shí)現(xiàn)網(wǎng)絡(luò)暴力預(yù)備行為的實(shí)行行為化；在侮辱罪、誹謗罪的修正中，參照猥褻兒童罪，以明確列舉的方式增設(shè)網(wǎng)絡(luò)暴力行為的加重情節(jié)。

此外，如果以預(yù)防性風(fēng)險(xiǎn)規(guī)制模式在各個(gè)部門法中發(fā)揮良好作用并促進(jìn)部門法之間良好銜接為目標(biāo)，立法機(jī)關(guān)就有必要在考慮網(wǎng)絡(luò)暴力侵犯法益多層次的特性下起草制定《反網(wǎng)絡(luò)暴力法》?！斗淳W(wǎng)絡(luò)暴力法》的制定除了要著重關(guān)注網(wǎng)絡(luò)暴力、類網(wǎng)絡(luò)暴力和非網(wǎng)絡(luò)暴力三者的界限明晰、將網(wǎng)絡(luò)暴力行為做類型化區(qū)分、提供較為明確的網(wǎng)絡(luò)暴力行為認(rèn)定標(biāo)準(zhǔn)、規(guī)制路徑等方面，還要注重促進(jìn)其與《民法典》《刑法》《治安管理處罰法》等規(guī)范的合理銜接，從而達(dá)到整合碎片化立法、促進(jìn)法律規(guī)范體系銜接的效果。

（三）引入情感計(jì)算技術(shù)，規(guī)避算法低透明度缺陷

網(wǎng)絡(luò)平臺(tái)與其將精力消耗在網(wǎng)絡(luò)輿論與網(wǎng)絡(luò)暴力言論的區(qū)分上，不如重點(diǎn)關(guān)注如何識(shí)別帶有攻擊群體屬性的仇恨言論上。仇恨言論通常是對(duì)個(gè)人或者群體的負(fù)面評(píng)價(jià)，由于仇恨言論的對(duì)人屬性而非對(duì)事屬性，網(wǎng)絡(luò)平臺(tái)將其識(shí)別后進(jìn)行處置將會(huì)對(duì)網(wǎng)絡(luò)言論空間的限制最小化，避免出現(xiàn)“寒蟬效應(yīng)”的同時(shí)還有利于情感識(shí)別技術(shù)的運(yùn)行。

平臺(tái)面對(duì)仇恨言論時(shí)可運(yùn)用包括大語(yǔ)言模型、情感計(jì)算在內(nèi)的技術(shù)措施加以識(shí)別。一旦大語(yǔ)言模型技術(shù)檢測(cè)到了含有仇恨言論的網(wǎng)絡(luò)暴力信息后，便可對(duì)發(fā)表網(wǎng)絡(luò)暴力信息的賬號(hào)進(jìn)行風(fēng)險(xiǎn)等級(jí)評(píng)估，同時(shí)，情感計(jì)算可以以人工智能技術(shù)為依托，識(shí)別出信息文本用語(yǔ)、詞句的情感傾向和情感特征。[8]平臺(tái)因此通過(guò)情感計(jì)算技術(shù)將網(wǎng)絡(luò)暴力信息分為疑似網(wǎng)絡(luò)暴力信息、一般網(wǎng)絡(luò)暴力信息以及嚴(yán)重網(wǎng)絡(luò)暴力信息三個(gè)級(jí)別。對(duì)風(fēng)險(xiǎn)等級(jí)較高的自媒體賬戶，平臺(tái)需將其劃入“重點(diǎn)監(jiān)測(cè)區(qū)”，算法技術(shù)在識(shí)別到該區(qū)域內(nèi)的用戶后需立刻標(biāo)記并停止其推送涉及仇恨言論的內(nèi)容。然后，平臺(tái)需立刻采取解散群組話題、關(guān)停直播、賬號(hào)禁言等技術(shù)措施，阻斷網(wǎng)絡(luò)暴力信息的傳播。平臺(tái)利用算法技術(shù)對(duì)此類網(wǎng)絡(luò)暴力信息的阻斷應(yīng)該分為三個(gè)方面：其一是阻斷網(wǎng)絡(luò)暴力的煽動(dòng)者、組織者、發(fā)起者將網(wǎng)絡(luò)暴力信息傳至平臺(tái)；其二是阻斷一般用戶繼續(xù)傳播網(wǎng)絡(luò)暴力信息；其三是阻斷網(wǎng)絡(luò)暴力受害者對(duì)網(wǎng)絡(luò)暴力信息的接收。如此才能最大程度上防止網(wǎng)絡(luò)暴力施暴者的聚集，保護(hù)一般用戶不陷入“沉默的螺旋”，減少潛在的施暴者群體出現(xiàn)“極化”風(fēng)險(xiǎn)。不難發(fā)現(xiàn)，在這個(gè)過(guò)程中，算法與情感計(jì)算技術(shù)的結(jié)合，亦提高了算法本身的透明度。

注釋：

[1]馬劍銀.現(xiàn)代法治、科層官僚制與“理性鐵籠”——從韋伯的社會(huì)理論之法出發(fā)[J].清華法學(xué)，2008（02）：33-53.

[2]Christian Fuchs. Social Media：A Critical Introduction[M].Los Angeles：Sage，2017：44-48，44-48.

[3]陳羅蘭.網(wǎng)絡(luò)暴力的刑法治理與罪名增設(shè)[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2023，41（05）：115-123.

[4]勞東燕.網(wǎng)絡(luò)暴力刑法治理的基本立場(chǎng)[J].政法論壇，2024，42（03）：39-54.

[5]虞鑫，許弘智.意見(jiàn)領(lǐng)袖、沉默的螺旋與群體極化：基于社會(huì)網(wǎng)絡(luò)視角的仿真研究[J].國(guó)際新聞界，2019，41（05）：6-26.

[6]鄧克濤，張貴紅.算法透明度：從理論到實(shí)踐的探索與反思[J].科學(xué)學(xué)研究，2024，42（07）：1354-1360.

[7]Karen Hao. AI still sucks moderating hate speech， MIT Technology Review， https：//www.technologyreview.com/2021/06/

04/1025742/ai-hate-speech-moderation/， visited on Jun.25，

2024.

[8]王燃.論網(wǎng)絡(luò)暴力的平臺(tái)技術(shù)治理[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2024，42（02）：121-134.

（作者：華東理工大學(xué)法學(xué)院碩士研究生）

責(zé)編：姚少寶