從屠殺直播看“社交媒體之罪”

本報(bào)駐美國、德國、英國特派特約記者 鄭琪 青木 穆積山　本報(bào)記者 倪浩 ●王會(huì)聰

困難——面對(duì)不當(dāng)內(nèi)容，“刪帖”標(biāo)準(zhǔn)不統(tǒng)一讓上萬審查員頭痛；使用人工智能卻鬧出不少笑話。

爭議——因麻煩不斷，臉書被美國媒體稱作“道歉機(jī)器”；批評(píng)者稱，限制內(nèi)容與社交媒體的盈利模式相抵觸，互聯(lián)網(wǎng)公司沒有“盡力”負(fù)責(zé)。

解決——德國專家呼吁：社交媒體需要自律，各國也要有嚴(yán)厲法律；中國學(xué)者提醒：視社交媒體為矛盾之源，西方在“殺死帶來壞消息的信使”。

在新西蘭槍擊事件發(fā)生后，有媒體形容稱，整個(gè)襲擊案似乎就是為了社交網(wǎng)絡(luò)時(shí)代而策劃——槍手用相機(jī)拍攝作案過程，使用手機(jī)應(yīng)用進(jìn)行直播，其長篇自白書刻意使用網(wǎng)絡(luò)用語。這讓幾大社交媒體連日來遭到各方激烈聲討。對(duì)于槍擊視頻迅速傳播，這些“巨頭”真的無能為力？面對(duì)數(shù)十億用戶，社交媒體平臺(tái)確實(shí)難以保證沒有疏漏，但它們的商業(yè)模式、對(duì)流量和點(diǎn)擊率等的追逐，也導(dǎo)致其被懷疑沒有主動(dòng)盡力。社交媒體興起的時(shí)間并不長，但它迅速改變?nèi)藗兘煌哪Ｊ?，也讓網(wǎng)絡(luò)放大效應(yīng)得到前所未有的凸顯。新西蘭恐襲事件讓人們認(rèn)識(shí)到了社交媒體作用的另一面，這是一個(gè)代價(jià)沉重的提醒。不過，在一片議論聲中，被提醒的或許不應(yīng)只有社交媒體。

社交媒體當(dāng)“幫兇”有先例

2015年8月26日，美國弗吉尼亞州兩名電視記者在直播時(shí)突然遭槍擊身亡，槍手是一名一直心懷不滿的前同事。接著，槍手在推特及臉書賬號(hào)上發(fā)帖講述這么做的緣由，最后附上近距離射殺前同事的視頻。

槍手精心策劃了這場行動(dòng)，他在自己的社交媒體賬號(hào)廣為人知之后才發(fā)布了視頻。推特和臉書很快封掉這名槍手的賬號(hào)，但相關(guān)視頻已經(jīng)被廣泛傳播，被人們四處下載和重新上傳?！翱紤]到該事件成功獲得廣泛關(guān)注，它極有可能成為一個(gè)被其他人效仿的例子?！泵绹都~約時(shí)報(bào)》當(dāng)時(shí)報(bào)道稱。

類似事件還有，2017年4月，美國俄亥俄州一名黑人男子在臉書上直播槍殺一名74歲的路人，視頻在上傳約三四個(gè)小時(shí)后被刪除。同年，芝加哥發(fā)生一名15歲女孩被強(qiáng)奸直播的事件；泰國一名父親在臉書上直播了自己殺死女兒的畫面，在視頻被刪除前，點(diǎn)擊量已經(jīng)達(dá)到37萬次。

但要說影響力，都比不上最新這起屠殺直播。有媒體稱，新西蘭槍擊案是“首起社交媒體直播的恐襲案”?！熬W(wǎng)絡(luò)控制完全失敗”，德國《焦點(diǎn)》周刊稱，臉書只是在接到警方通知后作出反應(yīng)，從那時(shí)起刪除了150萬條相關(guān)視頻，YouTube則是“完全失敗”，“未來，社交媒體和網(wǎng)絡(luò)的重大挑戰(zhàn)將是如何控制極端思想的傳播”。

在不少媒體看來，新西蘭的屠殺直播揭示了一個(gè)根本性問題——在互聯(lián)網(wǎng)上，控制此類暴力視頻傳播是多么困難。全球目前不僅要防范宗教極端主義，也要防范極右翼分子，而互聯(lián)網(wǎng)好像正變得“激進(jìn)化”。

去除網(wǎng)絡(luò)“污垢”為什么難？

近年來，臉書、推特和YouTube等平臺(tái)都在努力管控涉暴力內(nèi)容，例如，臉書專門雇用了超過1.5萬名審查員，去除互聯(lián)網(wǎng)上的“污垢”。美國科技新聞網(wǎng)站“臨界點(diǎn)”曾披露這個(gè)群體的工作狀態(tài)——薪酬低廉、要求苛刻。從入職起，他們就要整日面對(duì)極具視覺沖擊力的內(nèi)容，很多人因此出現(xiàn)心理問題。但最頭痛的是“刪帖”標(biāo)準(zhǔn)難以統(tǒng)一。除了受到語言和文字過度復(fù)雜的限制，有網(wǎng)絡(luò)專家提到，各國法律對(duì)言論自由范疇的界定不同，“比如德國和泰國對(duì)待‘大不敬問題的態(tài)度就完全不一樣”。

為彌補(bǔ)內(nèi)容審查員的不足，臉書、推特等公司在人工智能系統(tǒng)上投入大量資金，但人工智能的使用卻鬧出不少笑話。去年7月，在美國各界歡慶獨(dú)立日之際，臉書卻“誤刪”美國《獨(dú)立宣言》的內(nèi)容，相關(guān)語句“無情的印第安野蠻人”被判定為“仇恨言論”。此前，臉書人工智能把一家挪威媒體主頁上發(fā)布的著名越戰(zhàn)裸體少女照片，識(shí)別為“色情圖片”。

據(jù)美國《華盛頓郵報(bào)》報(bào)道，槍擊視頻被上傳到社交網(wǎng)站時(shí)，平臺(tái)的審查團(tuán)隊(duì)通常以該視頻創(chuàng)建黑名單，進(jìn)而阻攔其再次發(fā)布。這種算法已有多年歷史，最初是用來打擊兒童色情內(nèi)容傳播。但這樣的算法效果有限。上傳者可以通過添加水印、改變視頻大小等簡單方法繞過攔截。在新西蘭槍擊案中，后續(xù)被轉(zhuǎn)發(fā)到Y(jié)ouTube上的槍擊視頻，很多似乎都有這些改動(dòng)。

人工智能專家表示，目前還沒有一種技術(shù)能夠確保對(duì)流媒體平臺(tái)上的暴力內(nèi)容進(jìn)行萬無一失的檢測。例如，識(shí)別揮舞槍支的人對(duì)機(jī)器來說就很困難，因?yàn)闃屩в性S多類型，握槍姿勢也有多種，電腦很難區(qū)分真實(shí)的暴力和虛構(gòu)的電影。

即使主流平臺(tái)采取了行動(dòng)，令人不安的內(nèi)容也常常存在于網(wǎng)絡(luò)的黑暗角落。例如，上周五晚些時(shí)候，新西蘭槍擊視頻還出現(xiàn)在4Chan、Gab等網(wǎng)站上，這些網(wǎng)站深受右翼極端分子和強(qiáng)調(diào)言論絕對(duì)自由的用戶歡迎。此外，一些媒體為了點(diǎn)擊率無所不用其極。英國《每日郵報(bào)》遭指責(zé)公然提供自白書給讀者下載，《每日鏡報(bào)》也承認(rèn)不應(yīng)該發(fā)布相關(guān)視頻片段。

沒有真心想解決問題？

困難雖然存在，但有分析認(rèn)為，社交媒體可能并沒有真心想解決問題。美國《彭博商業(yè)周刊》稱，臉書本可以給“網(wǎng)管”們提高工資待遇，雇用更多人力，對(duì)用戶發(fā)帖設(shè)置更嚴(yán)格的限制。但所有這些都會(huì)影響公司收益，所以公司采取被動(dòng)反應(yīng)的模式，在事發(fā)后制定規(guī)則。

報(bào)道稱，曾是臉書早期投資者之一的羅杰·麥克納米認(rèn)為，如今臉書面臨的問題，正是它建立的商業(yè)模式所造成的，臉書的獲利能力源自收集和處理的巨量用戶資料數(shù)據(jù)，然后提供個(gè)人化廣告投放，限制不當(dāng)內(nèi)容與它的模式是相抵觸的。

近年來，流媒體直播服務(wù)成為許多社交媒體增長戰(zhàn)略的核心，但直播暴力內(nèi)容的現(xiàn)象也在增多。專家認(rèn)為，流媒體直播能帶來的潛在利潤和名聲是天文數(shù)字，社交平臺(tái)幾乎沒有監(jiān)管內(nèi)容的動(dòng)機(jī)，因?yàn)榭旖莸姆窒碛兄谠黾佑脩?、瀏覽量和廣告收入。“臉書從一開始就知道，它的流媒體直播服務(wù)有可能鼓勵(lì)和放大人性中最壞的一面，它必須面對(duì)自己手上沾滿鮮血的事實(shí)?！泵绹~阿密大學(xué)法學(xué)教授瑪麗·弗蘭克斯稱。

問題不止這些。有媒體發(fā)現(xiàn)，社交媒體的內(nèi)部審查體系具有較強(qiáng)的偏向性。據(jù)英國廣播公司（BBC）報(bào)道，英國薩里大學(xué)政治學(xué)教授夏蘭·吉萊斯皮經(jīng)常使用YouTube，他表示，在打擊伊斯蘭極端主義內(nèi)容方面，YouTube做得相當(dāng)好，但對(duì)極右主義思想的打擊力度則明顯不足。

美國VOX新聞網(wǎng)也稱，盡管互聯(lián)網(wǎng)平臺(tái)制定了打擊“伊斯蘭國”（IS）傳播內(nèi)容的解決方案，但在管控白人至上主義相關(guān)內(nèi)容時(shí)卻手足無措。去年，美國“主板”網(wǎng)站發(fā)現(xiàn)，有宣傳新納粹主義的視頻在YouTube上流傳了數(shù)月甚至數(shù)年。

不能只靠互聯(lián)網(wǎng)公司自律

“新西蘭恐襲事件是全球網(wǎng)絡(luò)缺乏控制的新例證?！钡聡鴿h堡大學(xué)反恐專家澤格勒爾對(duì)《環(huán)球時(shí)報(bào)》記者說：“大型互聯(lián)網(wǎng)公司必須采取更多措施，這是責(zé)任?！彼J(rèn)為，社交媒體需更多地動(dòng)用人員和技術(shù)，不能只盯著點(diǎn)擊率、流量。他還表示，美國互聯(lián)網(wǎng)巨頭和政客常拿言論自由為借口，反對(duì)其他國家進(jìn)行管制，這恰恰被恐怖分子利用。“社交媒體需要自律，各國也要有嚴(yán)厲的法律?！?/p>

去年1月，德國開始執(zhí)行“網(wǎng)絡(luò)仇恨言論法”，網(wǎng)民可以在線填寫表格進(jìn)行投訴，司法部門可對(duì)平臺(tái)處以最高達(dá)5000萬歐元的罰金。這項(xiàng)法律主要針對(duì)在德國至少有200萬注冊(cè)用戶的社交網(wǎng)絡(luò)，如臉書、推特等。

英國也在努力解決“非法”傳播問題。據(jù)BBC報(bào)道，英國政府將在未來幾周內(nèi)，公布一份已經(jīng)被延遲公布的關(guān)于“網(wǎng)絡(luò)危害”的白皮書。由于擔(dān)心社交網(wǎng)站淪為恐怖分子的平臺(tái)，英國在幾年前決定成立一支網(wǎng)絡(luò)部隊(duì)，眼下招募工作已經(jīng)展開。

然而，社交媒體的麻煩遠(yuǎn)不止極端內(nèi)容審查問題。從假新聞到卷入大選，再到信息泄露，特別是自去年3月劍橋分析事件以來，臉書就陷入“惹惱用戶——進(jìn)行道歉”的無休止循環(huán)中，以至于美國《彭博商業(yè)周刊》稱其為“道歉機(jī)器”。去年，歐盟《通用數(shù)據(jù)保護(hù)條例》生效，美國《加州消費(fèi)者隱私保護(hù)法》也將在2020年1月開始生效。加州州長甚至開始起草“數(shù)據(jù)紅利”法案，讓臉書等公司付費(fèi)給用戶。

《華盛頓郵報(bào)》稱，多年來，臉書一直鼓勵(lì)用戶分享個(gè)人信息，但如今面對(duì)洶涌的批評(píng)浪潮，該公司正打算打造“私密交流”平臺(tái)，這一轉(zhuǎn)變凸顯其在用戶不信任及與各國監(jiān)管機(jī)構(gòu)的斗爭中，走向充滿不確定性的未來。

這些都是社交媒體帶來和面臨的問題，總的來看，社交媒體確實(shí)需要加強(qiáng)管理。不過，有學(xué)者提醒說，并非所有問題都能簡單歸咎于社交媒體，比如這次新西蘭槍擊事件。復(fù)旦大學(xué)網(wǎng)絡(luò)空間治理研究中心主任沈逸對(duì)《環(huán)球時(shí)報(bào)》記者說，西方對(duì)社交媒體的理解出現(xiàn)了偏差，社交媒體揭示出來的問題，應(yīng)該起到提醒人們認(rèn)識(shí)和解決這些問題的作用，現(xiàn)在不少人卻將媒介平臺(tái)本身當(dāng)做導(dǎo)致矛盾的原因，“這種思路就是西方經(jīng)常自己批評(píng)的‘殺死帶來壞消息的信使”?！?/p>