社交媒體遭遇AI審核危機(jī)

李恒宗

漏洞！合法新聞文章標(biāo)記為垃圾郵件

因?yàn)橘N紙被標(biāo)記為違反了垃圾郵件社區(qū)標(biāo)準(zhǔn)。網(wǎng)友發(fā)疑問(wèn)：湯姆·漢克斯怎么會(huì)是垃圾郵件，我只是分享新聞

全球性健康危機(jī)席卷全球，數(shù)以百萬(wàn)計(jì)的人被限制在家中，社交媒體平臺(tái)已成為人們共享信息和彼此進(jìn)行社交的最重要方式之一。為了保護(hù)其員工和商業(yè)客戶的健康，F(xiàn)acebook和其他科技公司也制定了內(nèi)容管理措施，但是他們的工作通常很難在家中完成，沒(méi)有專業(yè)團(tuán)隊(duì)的協(xié)作辦公，互聯(lián)網(wǎng)很多問(wèn)題無(wú)法及時(shí)解決。

加州大學(xué)洛杉磯分校信息研究教授、《屏幕背后：社交媒體陰影中的內(nèi)容審核》一書的作者莎拉·羅伯茨說(shuō)：“平時(shí)我們會(huì)看到許多人工干預(yù)網(wǎng)絡(luò)內(nèi)容的痕跡，這些痕跡往往會(huì)被隱藏?！痹?016年美國(guó)總統(tǒng)大選之后，F(xiàn)acebook大幅提高了其內(nèi)容審核的能力，截至2019年底，它擁有超過(guò)30000名從事安全和保安工作的人員，其中大約一半是內(nèi)容審核員。這些人大多數(shù)是合同工，在全球各地的辦公室中都被埃森哲或Cognizant（業(yè)務(wù)涉及管理咨詢、信息技術(shù)和業(yè)務(wù)流程外包）等公司雇用。他們的工作是讓Facebook免受暴力、兒童剝削、垃圾郵件以及其他不受歡迎的內(nèi)容的侵害。

因?yàn)橐咔樵诿绹?guó)的蔓延，為了填補(bǔ)內(nèi)容審核的空白，F(xiàn)acebook正在將更多工作轉(zhuǎn)移到人工智能上，首席執(zhí)行官馬克·扎克伯格多年來(lái)一直將其視為內(nèi)容審核的未來(lái)。扎克伯格在電話中對(duì)媒體說(shuō)，為了保障網(wǎng)站運(yùn)營(yíng)，最敏感的內(nèi)容還是要提供給全職員工審核，這些人將繼續(xù)在其辦公室工作。

扎克伯格說(shuō)：“我個(gè)人非常擔(dān)心與家人隔離可能會(huì)導(dǎo)致更多的抑郁癥或心理健康問(wèn)題?！睘榱藶闈撛诘奈C(jī)做準(zhǔn)備，F(xiàn)acebook正在增加致力于調(diào)解諸如自殺和自殘之類的內(nèi)容的人數(shù)。另一個(gè)擔(dān)憂是錯(cuò)誤信息的傳播，尤其是在公共衛(wèi)生危機(jī)期間。作為對(duì)Covid-19的更廣泛回應(yīng)，F(xiàn)acebook還宣布將在新聞源中部署冠狀病毒信息中心，使人們可以從權(quán)威來(lái)源獲得有關(guān)大流行的最新信息，而非被虛假信息所誤導(dǎo)。

機(jī)器學(xué)習(xí)露短板

隨著對(duì)垃圾郵件故障的投訴增加，F(xiàn)acebook員工懷疑它可能與公司最近的工作流程變更有關(guān)。Facebook前安全主管亞歷克斯·斯塔莫斯在推特上說(shuō)：“看起來(lái)，F(xiàn)B的反垃圾郵件規(guī)則變得混亂，由于公司做出的隱私承諾，內(nèi)容審核員無(wú)法正常工作，機(jī)器人的AI學(xué)習(xí)變得瘋狂起來(lái)?！?/p>

Facebook的副總裁蓋伊·羅森迅速做出澄清：“這是反垃圾郵件系統(tǒng)中的錯(cuò)誤，與內(nèi)容審核人員隊(duì)伍的任何變化無(wú)關(guān)。我們正在修復(fù)所有這些帖子，并將其重新發(fā)布?！?/p>

但是研究人員說(shuō)，如果沒(méi)有強(qiáng)大的人工審核團(tuán)隊(duì)，像星期二晚上這樣的問(wèn)題可能會(huì)變得更加普遍。YouTube和Twitter3月16日宣布，他們的員工也被要求居家辦公，會(huì)更加依賴自動(dòng)標(biāo)記工具和基于AI的審閱系統(tǒng)。

人工內(nèi)容審核員減少，對(duì)于如今依賴社交媒體與外界溝通的數(shù)百萬(wàn)人而言，可能會(huì)發(fā)生巨大變化。Facebook、YouTube、Twitter和其他站點(diǎn)使用的自動(dòng)化系統(tǒng)各不相同，但它們通常通過(guò)檢測(cè)關(guān)鍵字、自動(dòng)掃描圖像以及查找帖子違反規(guī)則的其他信號(hào)來(lái)起作用。

圣約翰大學(xué)法學(xué)院的教授、耶魯大學(xué)信息社會(huì)項(xiàng)目的研究員凱特·科洛尼克說(shuō)，科技巨頭可能需要過(guò)于寬泛地進(jìn)行審核，以減少自動(dòng)化系統(tǒng)錯(cuò)過(guò)重要違規(guī)的可能性。人工審稿很多時(shí)候都做得不好，但是自動(dòng)下線系統(tǒng)更加糟糕，將會(huì)有很多內(nèi)容被錯(cuò)誤地歸類。

YouTube在宣布更改措施的博客文章中指出：“用戶和創(chuàng)作者可能會(huì)看到視頻刪除量增加，包括一些可能不違反政策的視頻。”該網(wǎng)站的自動(dòng)化系統(tǒng)非常不精確，計(jì)算機(jī)在更大程度上負(fù)責(zé)審查上傳內(nèi)容。機(jī)器學(xué)習(xí)有助于檢測(cè)潛在有害的內(nèi)容，然后將其發(fā)送給人工審核者進(jìn)行評(píng)估。

辦公室變得冷清，人工智能正在代替人類做更多的工作

作為對(duì)Facebook計(jì)劃中的監(jiān)督委員會(huì)成員（該委員會(huì)將審查有爭(zhēng)議的內(nèi)容審核決定的獨(dú)立小組）的研究的一部分，科洛尼克審查了該公司的執(zhí)法報(bào)告，其中詳細(xì)說(shuō)明了其在Facebook和Instagram上監(jiān)管內(nèi)容的程度。科洛尼克說(shuō)，11月份的最新報(bào)告令她感到震驚，F(xiàn)acebook撤銷的大部分決定都來(lái)自其自動(dòng)標(biāo)記工具和技術(shù)：“錯(cuò)誤率很高，他們太容易受到過(guò)度審查?！?/p>

業(yè)內(nèi)人士指出，軟件是基于機(jī)器學(xué)習(xí)構(gòu)建的，可以根據(jù)違規(guī)類型和本地語(yǔ)言來(lái)識(shí)別模式，在某些情況下，我們的軟件還沒(méi)有經(jīng)過(guò)足夠的培訓(xùn)，無(wú)法自動(dòng)大規(guī)模檢測(cè)違規(guī)情況，因此還得要經(jīng)過(guò)訓(xùn)練有素的人工團(tuán)隊(duì)進(jìn)行審查。