他們的身體和心靈是互聯(lián)網(wǎng)的垃圾過濾器

陳洋

美國加州大學(xué)洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨。圖/Stella Kalinina

作為商業(yè)性內(nèi)容審核員，梅琳達(dá)負(fù)責(zé)審核社交媒體平臺上用戶上傳的內(nèi)容。每當(dāng)遇到用戶舉報的不恰當(dāng)內(nèi)容，她就會依據(jù)平臺政策，判斷是否需要刪除并上報。

商業(yè)性內(nèi)容審核員的工作節(jié)奏很快，一天往往要審核成千上萬份圖片、視頻或文本，內(nèi)容通常會涉及暴力、色情、騷擾、仇恨言論等令人不適或潛在有害的內(nèi)容。這些圖文影像會成批出現(xiàn)在任務(wù)隊列中，且沒有固定的節(jié)奏和規(guī)律。

“可能一個暴力視頻后，會收到三個仇恨言論視頻，再收到一個騷擾視頻，緊跟著兩個暴力視頻。你會看到很多惡意，看到人類的陰暗面，而且要看一整天，”梅琳達(dá)一位曾在硅谷工作的同行這樣描述道。

“食罪者”是在威爾士和英格蘭廣為流傳的民間傳說形象。他們需要吃掉擺放在逝者身上的面包，喝掉麥芽酒，這些代表著逝者生前不可饒恕的罪惡。食罪者通常是社區(qū)里的窮人，他們通過這種方式替死者背負(fù)罪惡，從而獲得經(jīng)濟補償。

梅琳達(dá)在這個古老的傳說中找到了自己曾經(jīng)的職業(yè)的影子。

數(shù)字平臺的特點是有趣、迷人、容易訪問、永遠(yuǎn)在線，商業(yè)性內(nèi)容審核是讓這一切成立的前提之一。為此，這個隱身幕后的龐大群體不得不化身為以身心為濾芯的“食罪者”。只是數(shù)字世界的“面包和麥芽酒”愈發(fā)難以下咽。有人會因此對人性不再樂觀；也有人開始反思，或許正是社交媒體平臺本身導(dǎo)致了他們審核的這些負(fù)面內(nèi)容的產(chǎn)生，并對互聯(lián)網(wǎng)文化和政策背后復(fù)雜而病態(tài)的一面感到厭倦。

“這份工作損害你的大腦，讓你認(rèn)為暴力是正常的，殺戮他人、肆意轟炸是正常的，你會看到一個人被轟炸，四肢散落各處，頭和腿飛在空中……我可以跳過那些視頻，但如果質(zhì)檢部發(fā)現(xiàn)了，就會被記過。一個月我只被允許出現(xiàn)三次過失?！?2018年在圣丹斯電影節(jié)首映的紀(jì)錄片《The Cleaners（網(wǎng)絡(luò)審查員）》中，一位匿名的內(nèi)容審核員這樣自述。

莎拉·羅伯茨出任上述紀(jì)錄片的顧問，梅琳達(dá)也是她的訪談對象之一。羅伯茨是美國加州大學(xué)洛杉磯分校教育與信息研究院助理教授。2010年起，她開始研究這項“被刻意掩藏的數(shù)字勞動”，持續(xù)至今。通過訪談分布世界各地，有著不同年齡、學(xué)歷和專業(yè)背景的商業(yè)性內(nèi)容審核員，她希望能從陰影中拼湊出商業(yè)性內(nèi)容審核的輪廓，并以此為切入點，呼吁改善數(shù)字勞工的工作條件，提高公眾對商業(yè)性內(nèi)容審核所產(chǎn)生的社會成本和政治影響的關(guān)注，以及對信息環(huán)境和數(shù)字人文的反思。

跟其他技術(shù)挑戰(zhàn)不同，內(nèi)容審核這類問題很難通過投入大量工程師來解決。人工智能技術(shù)的進(jìn)步仍然無法滿足該領(lǐng)域的當(dāng)下需求。相反，隨著人們對數(shù)字技術(shù)的愈發(fā)依賴，反而催生了更多新生的勞動形式。全球以兼職或全職方式從事這項有償職業(yè)審核工作的人數(shù)有增無減。

羅伯茨將其多年研究成果寫進(jìn)了《幕后之人：社交媒體時代的內(nèi)容審核》，近期，該書中文版在國內(nèi)上市。南方人物周刊專訪了羅伯茨，與她就數(shù)字零工市場、信息商品化、社交媒體平臺影響力、言論自由邊界以及互聯(lián)網(wǎng)倫理等問題展開了討論。

人：人物周刊 羅：羅伯茨

技術(shù)無法解決內(nèi)生于經(jīng)濟體系的諸多問題

人：你在書中將內(nèi)容審核員的工作模式分為：在科技公司內(nèi)部工作、為小型專業(yè)公司工作、在呼叫中心工作，以及通過零工平臺工作。不同模式的從業(yè)者之間似乎存在著一條鄙視鏈？

羅：是的。企業(yè)通常會將薪酬和地位較低的工作外包出去，這既是出于成本考慮，也能幫大型公司規(guī)避很多責(zé)任。擁有全球用戶群的網(wǎng)站和平臺需要依靠這種混合用工策略來滿足他們大規(guī)模、全天候的內(nèi)容審核需求，同時節(jié)省審核開支，并由此引入一種復(fù)雜的分層組織結(jié)構(gòu)和匯報層級。

“鄙視鏈”確實存在，并與員工所處的地理位置、社會地位、性別、種族等因素相關(guān)。那些工作地點就在審核內(nèi)容最終流入平臺和公司的審核員，會覺得自身地位高于那些工作地點遠(yuǎn)離平臺和公司的外包人員。

然而，無論這些商業(yè)性內(nèi)容審核員身在加利福利亞的科技公司，還是菲律賓的呼叫中心，都會被當(dāng)?shù)毓芾碚吣脕砼c印度同行比較。管理者會催促員工加速完成更大量級的工作，否則他們的飯碗就會被印度人奪走。無論這種情況是否屬實，都起到了鞭策本地員工的效果。但問題是，印度本地的數(shù)字勞工也并未從這種格局中獲益。

人：全球數(shù)字零工市場的現(xiàn)狀如何？

羅：人們最初曾樂觀地設(shè)想，新型技術(shù)性知識工作能為參與其中的各類工作者提供更高質(zhì)量的工作和生活、更豐富的人生和更多的休閑時間，但事實并非如此。以商業(yè)性內(nèi)容審核為例，審核員們的工作環(huán)境并沒有人們想象中的美好，除了需要大量的勞動力，并不需要特別高的技能。這只是一份重復(fù)性很高的無聊工作。商業(yè)性內(nèi)容審核員不得不長年累月地處理包括色情、血腥暴力及包含仇恨言論等的有害內(nèi)容。

很多內(nèi)容審核員最初接受這份工作是希望能以此為敲門磚，進(jìn)入熱門的科技行業(yè)，給自己的簡歷加分，可這一邊緣性崗位無法幫助他們在大型科技公司獲得一份永久性職位。而且，隨著社交媒體公司在全球范圍內(nèi)招募那些愿意從事數(shù)字計件工作的勞動者，審核員的薪酬甚至進(jìn)一步降低了。在線內(nèi)容審核更像是經(jīng)歷了一種反烏托邦式的、由技術(shù)進(jìn)步導(dǎo)致的惡性競爭。全球性的數(shù)字零工市場沒有最低工資限制，這也使得勞動力的價值由全球出價最低的工作者決定。

新技術(shù)的出現(xiàn)以及后工業(yè)時代的新型網(wǎng)絡(luò)結(jié)構(gòu)，并不能神奇地消除那些內(nèi)生于世界經(jīng)濟體系中的諸多問題。恰恰相反，在讓一些人獲利的同時，它也將不平等強加給另一些人，甚至制造了新的不平等。

人：這個領(lǐng)域最近有哪些值得關(guān)注的案件？

羅：在美國，與內(nèi)容審核員相關(guān)的案件多為集體訴訟，且往往在訴訟前就達(dá)成了和解，并簽署了保密協(xié)議?？傮w來看，美國政府監(jiān)管科技公司的政治意愿非常低。國會面向科技公司舉辦的聽證會常常淪為政治表演，而非真正意義上的嚴(yán)肅探討。

前段時間公眾關(guān)注度較高的是國會眾議院能源和商業(yè)委員針對短視頻社交平臺TikTok的聽證會。我并不了解背后的具體曲折。但有一點是比較清楚的，如果議員們認(rèn)為，一家公司會因為擁有廣受歡迎的社交媒體工具而對其他國家構(gòu)成生存威脅，那他們恰恰給了其他國家抨擊Facebook及其他類型美國實體的論點。美國人會意識到，“哦，糟糕！我們也在做同樣的事情?！?/p>

我只是希望我們的政治家能夠提出更好的論點，并拷問其中的邏輯。遺憾的是，因為中美之間的緊張關(guān)系，人們并不關(guān)注其中的邏輯謬誤，也不會對自身做批判性審視。我們必須正視社交媒體在全球政治中扮演的角色。這也是我最初對內(nèi)容審核萌生興趣的原因之一。

社交媒體不只是暴力和辱罵內(nèi)容的清理者，更是招攬者

人：你對紀(jì)錄片《The Cleaners（網(wǎng)絡(luò)審查員）》中的內(nèi)容并不陌生，但在觀看時你還是落淚了。

羅：是的。我在過去的訪談過程中聽到過許多類似的故事，但講述者的面容和語調(diào)中流露出的痛苦，依然會刺痛我。我對他們的經(jīng)歷充滿同情。這也促使我反思，為了維系這種商業(yè)模式，就要把這些普通人置于如此境地，真的值得么？我們可以做出哪些改變？

人：你訪談的一位前商業(yè)性內(nèi)容審核員提到，為了能處理海量被舉報的暴力和色情內(nèi)容，他需要盡量克制自己的情緒反應(yīng)，冷漠應(yīng)對。這些心理策略真的能奏效么？

羅：有兩種可能。一種是人們認(rèn)為自己把情感抽離了，但實際并未做到。比如有訪談對象告訴我，他沒有因為這份工作而產(chǎn)生身心負(fù)擔(dān)。但幾分鐘后，他又不自覺地提到，從事這份工作期間，體重和酒精攝入量都增加了，也不太愿意和朋友談?wù)撟约旱墓ぷ?。這可不是超然的表現(xiàn)。當(dāng)然，也可能有人真的能做到情感抽離，但這意味著你對本應(yīng)令人震驚或不安的事情變得麻木了，你也因此失去了一部分人性。

人：內(nèi)容審核員能接觸大眾無法觀看到的互聯(lián)網(wǎng)的另一面。這會讓他們對網(wǎng)絡(luò)世界的理解更全面，還是走向另一種片面？

羅：一位訪談對象對我說，總體上他對人性非常敬畏，因為每當(dāng)他覺得人類沒法更邪惡的時候，總有人能做到；每當(dāng)覺得自己已經(jīng)看到了最黑暗的東西，第二天還會有更黑暗的東西出現(xiàn)。另一位女性審核員甚至在離職三年后都拒絕與人握手，因為她對他人失去了信任，會對他人抱有最壞的預(yù)設(shè)。內(nèi)容審核員的工作讓他們更多看到人類的陰暗面，這可能會導(dǎo)致他們對人性得出片面的結(jié)論。而如果涉及到跨文化內(nèi)容的審核，審核員既有的部分刻板印象可能會被強化。

人：您的研究是否影響了你對社交媒體的使用？

羅：我很喜歡使用社交媒體，在這里你可以結(jié)識新的朋友，看到豐富而精彩的人生經(jīng)歷，但互聯(lián)網(wǎng)也有另一面。當(dāng)這些網(wǎng)站的商業(yè)模式就是依靠源源不斷的用戶生成內(nèi)容來吸引其他用戶的眼球和關(guān)注時，就很難將那些展現(xiàn)人性之惡的東西擋在門外。所以我的一些訪談對象會認(rèn)為，社交媒體不只是暴力和辱罵等有害內(nèi)容的清理者，還是這些內(nèi)容最初的招攬者。

實際上，我們這些用戶并非網(wǎng)站服務(wù)的核心對象，他們真正的顧客是廣告主。平臺通過跟蹤和記錄用戶的瀏覽痕跡等隱私信息，建立相應(yīng)的用戶畫像，并推送給他們的品牌客戶，實現(xiàn)廣告的精準(zhǔn)投放。我們以為自己是在免費使用這些服務(wù)，實際上我們是在無償出售自己。

2023年是我使用互聯(lián)網(wǎng)的第30個年頭，我希望它能向更好的方向發(fā)展。這促使我去思考一系列問題，比如線上互動的本質(zhì)是什么？人類的自我表達(dá)是否應(yīng)該被出售？我們使用這類產(chǎn)品的代價是什么？有什么可以改進(jìn)的地方？我們?nèi)绾我砸环N更好的方式進(jìn)行線上互動？在線上空間花費如此多的時間，是否會犧牲其他類型的互動，這是否會導(dǎo)致公眾想象力的減弱？又會如何影響線下交流……

紀(jì)錄片《 The Cleaners（ 網(wǎng)絡(luò)審查員） 》

人：內(nèi)容審核員也會像普通人一樣沉浸于各類數(shù)字應(yīng)用嗎？

羅：這讓我想到了邱林川（注：香港中文大學(xué)新聞與傳播學(xué)院教授）的《信息時代的世界工廠》。他在調(diào)研中發(fā)現(xiàn)，很多在手機代工廠工作的年輕女工會將大部分薪水用于購買自己參與制造的最新款智能手機。我接觸的商業(yè)性內(nèi)容審核員大多有智能手機，我并不掌握他們每個人的數(shù)字應(yīng)用使用習(xí)慣，但和那些年輕的手機制造工人一樣，他們也渴望成為其參與塑造的文化的一部分。

人：一些社交媒體平臺會邀請部分用戶加入社區(qū)委員會，對有爭議的用戶投訴進(jìn)行判定，也是希望剝離一部分內(nèi)容審核責(zé)任。

羅：對。企業(yè)希望用戶能承擔(dān)一部分自我管理責(zé)任。在當(dāng)前以成本為中心的模式下，能被審核處理的內(nèi)容仍然只占很少一部分。舉個不恰當(dāng)?shù)睦?，美國實行判例法，法官判決遵循先例，但在網(wǎng)絡(luò)世界里，當(dāng)沒有足夠的人對不恰當(dāng)?shù)男袨檫M(jìn)行判定時，公司內(nèi)容審核的內(nèi)部“司法體系”無疑會漏洞百出。當(dāng)然，這些公司是否有權(quán)擁有內(nèi)部“司法體系”也值得探討。

數(shù)字時代對知識勞動力的依賴會增大

人：社交媒體平臺Meta公司CEO扎克伯格在2021年3月的國會聽證會上表示，該公司依靠人工智能可以清除95%以上的“仇恨言論內(nèi)容”。你對此持質(zhì)疑態(tài)度。

羅：雖然一些人工智能專家聲稱他們已經(jīng)可以借助先進(jìn)的技術(shù)解決大部分內(nèi)容審核問題，但即便是Facebook，它也承認(rèn)在全球仍雇傭著成千上萬名內(nèi)容審核員。輕率地表示內(nèi)容審核已經(jīng)可以被技術(shù)解決的說法是不負(fù)責(zé)任的，這掩蓋了大量人類內(nèi)容審核員的付出。

讓人不安的是，十多年前商業(yè)性內(nèi)容審核員們跟我提及的問題，仍然困擾著他們的后繼者。從當(dāng)前在柏林和愛爾蘭工作的訪談對象那里，我得知大公司在技術(shù)方面的投入真的很不足，除非有充分的財務(wù)激勵。平臺會一直尋求更便宜的人力，人類員工在成本和能力上仍然優(yōu)于機器。我不相信人性會發(fā)生什么改變，所以這項工作不會消失，會沿著全球化的軌跡，不斷向那些擁有大量廉價勞動力的地方轉(zhuǎn)移。

我也不認(rèn)為未來數(shù)年，計算機有可能接替人類完成所有的內(nèi)容審核工作。相反，我們正在看到平臺對該崗位的需求越來越大。這一現(xiàn)象不只表現(xiàn)在內(nèi)容審核行業(yè)，我們也將看到各種新的職業(yè)類型在數(shù)字鏈條的不同環(huán)節(jié)涌現(xiàn)。只要我們還在進(jìn)行人機交互，就會需要越來越多的人類勞動力以意想不到的方式嵌入數(shù)字系統(tǒng)中。

人：你在書中同時列舉了兩個觀點，一是“言論自由似乎總是讓侮辱他人的用戶比被侮辱的用戶擁有更大的權(quán)力”，二是“在商業(yè)網(wǎng)絡(luò)平臺上沒有真正的言論自由”。

羅：言論自由是指每個人都有權(quán)利在不被惡意攻擊的情況下發(fā)表自己的觀點。但在美國的政治體系下，言論自由的概念似乎更多地適用于一部分人。很多時候，人們并不是在行使言論自由，更像是在濫用權(quán)力來欺凌他人的自由。此外我們也會看到，雖然一些網(wǎng)絡(luò)平臺宣稱自己是言論自由的前哨，但當(dāng)平臺與大廣告主的關(guān)系受到威脅時，用戶便有可能被限制言論自由。

人：另一個不幸的事實是，保護(hù)自己的責(zé)任長期落在網(wǎng)絡(luò)暴力的受害者肩上。除了譴責(zé)和對施暴者依法懲處外，我們還應(yīng)該做些什么？

羅：人們需要對自己的線上行為負(fù)責(zé)。但令人沮喪的是，當(dāng)前的美國，人們在日常生活中容易大聲爭吵，甚至要拔槍相向?？稍诰€上，對于一些重要議題的有益的公共討論熱度又跌落到了歷史低點。除了每個人應(yīng)該承擔(dān)更多的個人責(zé)任外，平臺營造的環(huán)境也會讓人們不斷挑戰(zhàn)言論自由的邊界。平臺從它創(chuàng)造的網(wǎng)絡(luò)環(huán)境中獲利，卻可以免于承擔(dān)與之對應(yīng)的責(zé)任。它們會說，我們只是提供了一個大眾交流平臺，對他們要說什么，我們無法負(fù)責(zé)。但實際上，平臺有責(zé)任設(shè)定規(guī)則和基調(diào)，需要辨明什么才是可以獲得經(jīng)濟激勵的表達(dá)。平臺應(yīng)該反思，是什么導(dǎo)致你的用戶表達(dá)變得極端化？

人：面對這些難以改變的問題，會有無力感么？

羅：確實會有，但我也能獲得一些正向的反饋。我的書被翻譯成不同的語言，我可以跟不同國家和地區(qū)的人交流這些重要議題，他們也會繼續(xù)和周圍人分享。確實有太多我無法解決的現(xiàn)實問題，但我能做的是激發(fā)更多的批判性思考，更多擁有選票的人會向政治家發(fā)問，要求他們提出關(guān)鍵問題的解決方案。我經(jīng)常告訴我的年輕學(xué)生，雖然有些問題在上一代并未受到廣泛關(guān)注，但年輕一代可以用上一代人無法做到的方式促成改變。我們?nèi)魏稳硕紵o法獨自解決問題，需要一同努力。所以，我還在繼續(xù)研究，繼續(xù)籌備新書，雖然這些工作真的很累，但是我應(yīng)該去做的。

商業(yè)性網(wǎng)絡(luò)內(nèi)容審核員的四種工作模式