從屠殺直播看“社交媒體之罪”

倪浩 王會(huì)聰

在新西蘭槍擊事件發(fā)生后，有媒體形容稱，整個(gè)襲擊案似乎就是為了社交網(wǎng)絡(luò)時(shí)代而策劃——槍手用相機(jī)拍攝作案過(guò)程，使用手機(jī)應(yīng)用進(jìn)行直播，其長(zhǎng)篇自白書(shū)刻意使用網(wǎng)絡(luò)用語(yǔ)。這讓幾大社交媒體連日來(lái)遭到各方激烈聲討。

社交媒體興起的時(shí)間并不長(zhǎng)，但它迅速改變?nèi)藗兘煌哪Ｊ剑沧尵W(wǎng)絡(luò)放大效應(yīng)得到前所未有的凸顯。新西蘭恐襲事件讓人們認(rèn)識(shí)到了社交媒體作用的另一面，這是一個(gè)代價(jià)沉重的提醒。不過(guò)，在一片議論聲中，被提醒的或許不應(yīng)只有社交媒體。

社交媒體當(dāng)“幫兇”有先例

2015年8月26日，美國(guó)弗吉尼亞州兩名電視記者在直播時(shí)突然遭槍擊身亡，槍手是一名一直心懷不滿的前同事。接著。槍手在推特及臉書(shū)賬號(hào)上發(fā)帖講述這么做的緣由，最后附上近距離射殺前同事的視頻。

槍手精心策劃了這場(chǎng)行動(dòng)，他在自己的社交媒體賬號(hào)廣為人知之后才發(fā)布了視頻。推特和臉書(shū)很快封掉這名槍手的賬號(hào)，但相關(guān)視頻已經(jīng)被廣泛傳播，被人們四處下載和重新上傳。

類似事件還有，2017年4月，美國(guó)俄亥俄州一名黑人男子在臉書(shū)上直播槍殺一名74歲的路人，視頻在上傳約三四個(gè)小時(shí)后被刪除。同年，芝加哥發(fā)生一名15歲女孩被強(qiáng)奸直播的事件；泰國(guó)一名父親在臉書(shū)上直播了自己殺死女兒的畫面，在視頻被刪除前，點(diǎn)擊量已經(jīng)達(dá)到37萬(wàn)次。

但要說(shuō)影響力。都比不上最新這起屠殺直播。有媒體稱，新西蘭槍擊案是“首超社交媒體直播的恐襲案”。在不少媒體看來(lái)，新西蘭的屠殺直播揭示了一個(gè)根本性問(wèn)題——在互聯(lián)網(wǎng)上，控制此類暴力視頻傳播是多么困難。全球目前不僅要防范宗教極端主義，也要防范極右翼分子，而互聯(lián)網(wǎng)好像正變得“激進(jìn)化”。

去除網(wǎng)絡(luò)“污垢”為什么難？

近年來(lái)，臉書(shū)、推特和YouTube等平臺(tái)都在努力管控涉暴力內(nèi)容，例如，臉書(shū)專門雇用了超過(guò)1.5萬(wàn)名審查員，去除互聯(lián)網(wǎng)上的“污垢”。美國(guó)科技新聞網(wǎng)站“臨界點(diǎn)”曾披露這個(gè)群體的工作狀態(tài)——薪酬低廉、要求苛刻。從入職起，他們就要整日面對(duì)極具視覺(jué)沖擊力的內(nèi)容，很多人因此出現(xiàn)心理問(wèn)題。但最頭痛的是“刪帖”標(biāo)準(zhǔn)難以統(tǒng)一。除了受到語(yǔ)言和文字過(guò)度復(fù)雜的限制，有網(wǎng)絡(luò)專家提到，各國(guó)法律對(duì)言論自由范疇的界定不同?！氨热绲聡?guó)和泰國(guó)對(duì)待‘大不敬問(wèn)題的態(tài)度就完全不一樣”。

為彌補(bǔ)內(nèi)容審查員的不足，臉書(shū)、推特等公司在人工智能系統(tǒng)上投入大量資金，但人工智能的使用卻鬧出不少笑話。2018年7月，在美國(guó)各界歡慶獨(dú)立日之際，臉書(shū)卻“誤刪”美國(guó)《獨(dú)立宣言》的內(nèi)容，相關(guān)語(yǔ)句“無(wú)情的印第安野蠻人”被判定為“仇恨言論”。此前，臉書(shū)人工智能把一家挪威媒體主頁(yè)上發(fā)布的著名越戰(zhàn)裸體少女照片，識(shí)別為“色情圖片”。

據(jù)美國(guó)《華盛頓郵報(bào)》報(bào)道，槍擊視頻被上傳到社交網(wǎng)站時(shí)，平臺(tái)的審查團(tuán)隊(duì)通常以該視頻創(chuàng)建黑名單，進(jìn)而阻攔其再次發(fā)布。這種算法已有多年歷史，最初是用來(lái)打擊兒童色情內(nèi)容傳播。但這樣的算法效果有限。上傳者可以通過(guò)添加水印、改變視頻大小等簡(jiǎn)單方法繞過(guò)攔截。在新西蘭槍擊案中，后續(xù)被轉(zhuǎn)發(fā)到Y(jié)ouTube上的槍擊視頻，很多似乎都有這些改動(dòng)。

即使主流平臺(tái)采取了行動(dòng)，令人不安的內(nèi)容也常常存在于網(wǎng)絡(luò)的黑暗角落。例如，3月15日案發(fā)日當(dāng)天晚些時(shí)候，新西蘭槍擊視頻還出現(xiàn)在4Ghan、Gab等網(wǎng)站上，這些網(wǎng)站深受右翼極端分子和強(qiáng)調(diào)言論絕對(duì)自由的用戶歡迎。此外，一些媒體為了點(diǎn)擊率無(wú)所不用其極。英國(guó)《每日郵報(bào)》遭指責(zé)公然提供自白書(shū)給讀者下載，《每日鏡報(bào)》也承認(rèn)不應(yīng)該發(fā)布相關(guān)視頻片段。

沒(méi)有真心想解決問(wèn)題？

困難雖然存在，但有分析認(rèn)為，社交媒體可能并沒(méi)有真心想解決問(wèn)題。美國(guó)《彭博商業(yè)周刊》稱，臉書(shū)本可以給“網(wǎng)管”們提高工資待遇，雇用更多人力，對(duì)用戶發(fā)帖設(shè)置更嚴(yán)格的限制。但所有這些都會(huì)影響公司收益，所以公司采取被動(dòng)反應(yīng)的模式，在事發(fā)后制定規(guī)則。

近年來(lái)，流媒體直播服務(wù)成為許多社交媒體增長(zhǎng)戰(zhàn)略的核心，但直播暴力內(nèi)容的現(xiàn)象也在增多。專家認(rèn)為，流媒體直播能帶來(lái)的潛在利潤(rùn)和名聲是天文數(shù)字，社交平臺(tái)幾乎沒(méi)有監(jiān)管內(nèi)容的動(dòng)機(jī)，因?yàn)榭旖莸姆窒碛兄谠黾佑脩簟g覽量和廣告收入。“臉書(shū)從一開(kāi)始就知道，它的流媒體直播服務(wù)有可能鼓勵(lì)和放大人性中最壞的一面，它必須面對(duì)自己手上沾滿鮮血的事實(shí)。”美國(guó)邁阿密大學(xué)法學(xué)教授瑪麗·弗蘭克斯稱。

問(wèn)題不止這些。有媒體發(fā)現(xiàn)，社交媒體的內(nèi)部審查體系具有較強(qiáng)的偏向性。據(jù)英國(guó)廣播公司（BBC）報(bào)道，英國(guó)薩里大學(xué)政治學(xué)教授夏蘭·吉萊斯皮經(jīng)常使用YouTube，他表示，在打擊伊斯蘭極端主義內(nèi)容方面，YouTube做得相當(dāng)好，但對(duì)極右主義思想的打擊力度則明顯不足。

不能只靠互聯(lián)網(wǎng)公司自律

去年1月，德國(guó)開(kāi)始執(zhí)行“網(wǎng)絡(luò)仇恨言論法”，網(wǎng)民可以在線填寫表格進(jìn)行投訴，司法部門可對(duì)平臺(tái)處以最高達(dá)5000萬(wàn)歐元的罰金。這項(xiàng)法律主要針對(duì)在德國(guó)至少有200萬(wàn)注冊(cè)用戶的社交網(wǎng)絡(luò)，如臉書(shū)、推特等。

英國(guó)也在努力解決“非法”傳播問(wèn)題。據(jù)BBC報(bào)道，英國(guó)政府將在未來(lái)幾周內(nèi)，公布一份已經(jīng)被延遲公布的關(guān)于“網(wǎng)絡(luò)危害”的白皮書(shū)。由于擔(dān)心社交網(wǎng)站淪為恐怖分子的平臺(tái)，英國(guó)在幾年前決定成立一支網(wǎng)絡(luò)部隊(duì)，眼下招募工作已經(jīng)展開(kāi)。

然而，社交媒體的麻煩遠(yuǎn)不止極端內(nèi)容審查問(wèn)題。從假新聞到卷入大選，再到信息泄露，特別是自去年3月劍橋分析事件以來(lái)，臉書(shū)就陷入“惹惱用戶——進(jìn)行道歉”的無(wú)休止循環(huán)中，以至于美國(guó)《彭博商業(yè)周刊》稱其為“道歉機(jī)器”。去年，歐盟《通用數(shù)據(jù)保護(hù)條例》生效，美國(guó)《加州消費(fèi)者隱私保護(hù)法》也將在2020年1月開(kāi)始生效。加州州長(zhǎng)甚至開(kāi)始起草“數(shù)據(jù)紅利”法案，讓臉書(shū)等公司付費(fèi)給用戶。

《華盛頓郵報(bào)》稱，多年來(lái)，臉書(shū)一直鼓勵(lì)用戶分享個(gè)人信息，但如今面對(duì)洶涌的批評(píng)浪潮，該公司正打算打造“私密交流”平臺(tái)，這一轉(zhuǎn)變凸顯其在用戶不信任及與各國(guó)監(jiān)管機(jī)構(gòu)的斗爭(zhēng)中，走向充滿不確定性的未來(lái)。

這些都是社交媒體帶來(lái)和面臨的問(wèn)題，總的來(lái)看，社交媒體確實(shí)需要加強(qiáng)管理。不過(guò)，有學(xué)者提醒說(shuō)，并非所有問(wèn)題都能簡(jiǎn)單歸咎于社交媒體，比如這次新西蘭槍擊事件。復(fù)旦大學(xué)網(wǎng)絡(luò)空間治理研究中心主任沈逸說(shuō)，西方對(duì)社交媒體的理解出現(xiàn)了偏差，社交媒體揭示出來(lái)的問(wèn)題，應(yīng)該起到提醒人們認(rèn)識(shí)和解決這些問(wèn)題的作用，現(xiàn)在不少人卻將媒介平臺(tái)本身當(dāng)作導(dǎo)致矛盾的原因，“這種思路就是西方經(jīng)常自己批評(píng)的‘殺死帶來(lái)壞消息的信使”。

摘編自《環(huán)球時(shí)報(bào)》2019年3月19日