我是抖音“守夜人”

文/常寧寧

在城中的老百姓幸福生活時(shí)，總要有人站在城墻上，眺望黑暗，及時(shí)扼殺逼近的危險(xiǎn)。

風(fēng)控，不就是一群封號(hào)的人嗎？

很長一段時(shí)間，互聯(lián)網(wǎng)企業(yè)的“安全人”都被外界冠以這樣的誤解。

他們最大的成績(jī)，就是平臺(tái)上沒有犯罪、沒有黑產(chǎn)、無大事發(fā)生。他們的努力，也和黑產(chǎn)一樣不被陽光所照射。

但沒有人知道的是，國內(nèi)的互聯(lián)網(wǎng)黑產(chǎn)已是千億規(guī)模的市場(chǎng)。虛假點(diǎn)擊、“羊毛黨”、“假靳東”、“寵粉詐騙”、“同城招嫖”，各種欺詐黑產(chǎn)層出不窮。用戶的信息無時(shí)無刻不被黑產(chǎn)竊取，一旦被盯上，等待他們的是精心布下的陷阱。

然而，同黑產(chǎn)對(duì)抗沒有捷徑可走，完全是一場(chǎng)人力和財(cái)力的比拼。幸運(yùn)的是，在這場(chǎng)戰(zhàn)爭(zhēng)中，有一支不計(jì)較財(cái)力、發(fā)誓要暗中保護(hù)大家的隊(duì)伍。就像是《冰與火》之歌里面的守夜人，永遠(yuǎn)眺望著森林幽暗的深處。這支守夜人隊(duì)伍，則24小時(shí)盯著互聯(lián)網(wǎng)黑產(chǎn)的深淵。

“看不見”的圍城

兩個(gè)男孩擁抱親吻，這正常嗎？

“這個(gè)賬號(hào)不太對(duì)勁”，2020年3月，一凡收到了審核員發(fā)來的一條特殊視頻。

視頻內(nèi)容的主人公是兩個(gè)小學(xué)生模樣的男孩在互相輕吻、擁抱?！斑@看起來一點(diǎn)都不像這個(gè)年紀(jì)的孩子會(huì)做的事情”，一凡的直覺告訴自己。她翻看了發(fā)布視頻的賬號(hào)，發(fā)現(xiàn)該賬號(hào)的歷史視頻里還有大量類似的內(nèi)容：男主角永遠(yuǎn)是這兩個(gè)男孩，除了輕吻、擁抱，還會(huì)彼此撫摸。更奇怪的是，有些視頻里還出現(xiàn)了一個(gè)成年男性，看起來似乎正在指揮這兩個(gè)男孩的動(dòng)作。

這顯然是一條違禁信息，涉嫌兒童性侵。按一凡以往的經(jīng)驗(yàn)，這種內(nèi)容的直接處理方式就是下架視頻、封賬號(hào)，確保平臺(tái)上的內(nèi)容正向、健康即可。

“但這樣就足夠了嗎？”一凡猶豫了起來。如果只是封鎖賬號(hào)，那兩個(gè)男孩真的遇到了危險(xiǎn)，誰來幫助他們？那個(gè)成年男性明顯存在問題，封鎖賬號(hào)并不會(huì)阻止他繼續(xù)傷害孩子。

這是一次和潛在犯罪分子搶時(shí)間的賽跑。當(dāng)時(shí)是夜里11點(diǎn)，一凡決定直接請(qǐng)示上級(jí)，如果對(duì)方?jīng)]看到信息，她就打電話過去說明情況。幸運(yùn)的是，領(lǐng)導(dǎo)馬上回復(fù)：“拉群，同步線下打擊組同學(xué)報(bào)警?！?/p>

“報(bào)警”對(duì)應(yīng)著最高風(fēng)險(xiǎn)等級(jí)——意味著高危內(nèi)容背后可能有犯罪行為，通常需要極強(qiáng)的證據(jù)，經(jīng)過法務(wù)和各方面研究判斷后，才能下達(dá)“報(bào)警”的指令。但面對(duì)一些比較極端的案例，抖音安全中心會(huì)直接評(píng)估是否需要立即報(bào)警?！熬€上封幾個(gè)號(hào)沒用，得讓這種渣滓現(xiàn)實(shí)中接受懲罰才行”，一凡的領(lǐng)導(dǎo)岳文峰當(dāng)機(jī)立斷地回復(fù)。

幾乎是同一時(shí)間，審核組的同事，經(jīng)過篩查賬號(hào)的歷史視頻，根據(jù)視頻中的一些建筑、廣告牌等場(chǎng)景信息，了解到了視頻拍攝者的所在地——嫌疑人住在四川的某個(gè)縣城里。

知道視頻拍攝者所在地區(qū)的信息后，一凡線下打擊組的同事就立刻動(dòng)身從北京出發(fā)了——這也是少有的沒有拿到研判結(jié)果就出發(fā)的情況。

拿不到研判結(jié)果，意味著證據(jù)不充分、或存在法律漏洞不予立案，很可能全員白跑一趟。此外，受新冠肺炎疫情影響，國內(nèi)北京到事發(fā)地沒有直飛航班，轉(zhuǎn)機(jī)也讓線下打擊組的人增加了滯留和隔離風(fēng)險(xiǎn)。但他們沒有遲疑，每個(gè)人心里都清楚，每耽擱一分鐘，視頻里的兩個(gè)小男孩就會(huì)遭受多一些傷害。在線下打擊組提供的線索和幫助下，該案件于2020年3月27日偵破，當(dāng)?shù)鼐桨l(fā)布通告稱嫌疑人被抓獲，兩個(gè)小男孩被安全解救。此時(shí)，距離一凡發(fā)現(xiàn)那條視頻僅過去一周。

后續(xù)調(diào)查結(jié)果顯示，這兩個(gè)男孩都是四川當(dāng)?shù)氐牧羰貎和?，父母長期在外打工。疫情期間，學(xué)校封禁，由于家中沒有W iFi無法上網(wǎng)課，兩個(gè)男孩前往犯罪嫌疑人家中使用網(wǎng)絡(luò)，被哄騙拍攝視頻并威脅不能告訴家長，嫌疑人還將視頻在多個(gè)社交軟件、其他短視頻平臺(tái)及網(wǎng)盤渠道發(fā)布兜售。在警察實(shí)施抓捕的時(shí)候，嫌疑人還計(jì)劃對(duì)兩個(gè)未成年男童進(jìn)行猥褻。

據(jù)《2019年性侵兒童案例統(tǒng)計(jì)及兒童防性侵教育調(diào)查報(bào)告》顯示，2019年共發(fā)生301起兒童性侵案件，熟人作案超七成，其中師生關(guān)系占比最高。

性侵兒童案往往發(fā)生在非常隱蔽的情況下，除了當(dāng)事人的陳述證言，很難有其他證據(jù)佐證。另外，還有受害人保存證據(jù)不及時(shí)導(dǎo)致證據(jù)遺失、當(dāng)前低齡兒童證據(jù)采信難等問題。

抖音安全中心的及時(shí)介入，配合協(xié)助警方獲取了重要線索和證據(jù)，鎖定了犯罪嫌疑人，才保證了兩個(gè)孩子沒有遭受更大的傷害。得知兩個(gè)孩子被成功解救以后，一凡焦灼的心才終于放下了。

“不想出成績(jī)、害怕被cue到”

在此之前，一凡一直定義自己所在的團(tuán)隊(duì)，是一支最怕被領(lǐng)導(dǎo)cue到、也“不想做出成績(jī)”的團(tuán)隊(duì)。

她所在的抖音安全中心，是抖音創(chuàng)辦之初就設(shè)立的部門。盡管目前團(tuán)隊(duì)擁有數(shù)千名成員，但每個(gè)成員都過得很“憋屈”。

“平臺(tái)沒事發(fā)生，才說明你的工作到位了”，一凡說，但平臺(tái)沒事發(fā)生，外界也感知不到團(tuán)隊(duì)做了哪些工作。

這個(gè)年輕的團(tuán)隊(duì)被稱為“抖音的安全護(hù)衛(wèi)隊(duì)”，目前團(tuán)隊(duì)平均年齡僅25歲。僅到2020年12月初，該團(tuán)隊(duì)就處理了超過730萬個(gè)違規(guī)賬號(hào)、1380多萬違規(guī)視頻。

在這里，忙碌是常態(tài)。他們每天要為平臺(tái)上6億用戶保駕護(hù)航，要關(guān)注平臺(tái)上每天所產(chǎn)生的數(shù)百億次行為，這其中，要關(guān)注和處理無數(shù)風(fēng)險(xiǎn)性內(nèi)容、違禁內(nèi)容，以及黑產(chǎn)行為。整個(gè)團(tuán)隊(duì)的下班打車記錄里，時(shí)常出現(xiàn)夜里11點(diǎn)至凌晨2點(diǎn)的情況。

一凡是在2020年年初剛加入團(tuán)隊(duì)，上司岳文峰在她入職的頭一天就給了個(gè)“下馬威”。

“抖音有4億用戶（一凡加入時(shí)），全國500萬黑產(chǎn)從業(yè)者對(duì)這4億用戶虎視眈眈，我們的責(zé)任就是和500萬黑產(chǎn)人做對(duì)抗，保護(hù)用戶的生命財(cái)產(chǎn)安全”。從沒有過“安全”經(jīng)驗(yàn)的一凡心里有些發(fā)虛。但想到這即將面臨的挑戰(zhàn)，她充滿了興奮，“這是誰都想嘗試的抖音??！”

但一凡沒想到，等待她的第一個(gè)任務(wù)，是當(dāng)一名“嫖客”。

當(dāng)時(shí)抖音正從4億用戶邁向6億用戶飛速增長。流量暴增的同時(shí)，背后帶來的黑產(chǎn)行為也成比例增長。

盡管抖音一直針對(duì)違規(guī)賬號(hào)進(jìn)行打擊，不斷升級(jí)風(fēng)控策略模型，但“道高一尺，魔高一丈”，狡猾的黑產(chǎn)人也通過各種方式逃避機(jī)器和算法的追捕——為此抖音不得不采用“無間道”的方式，通過異常賬號(hào)上留下的聯(lián)系方式，假扮“嫖客”，打入黑產(chǎn)內(nèi)部。

初接這個(gè)任務(wù)時(shí)，一凡有些為難，她壓根看不懂黑話——最開始她盯著后臺(tái)發(fā)現(xiàn)的“茶葉”、“邀請(qǐng)喝茶”的賬號(hào)們百思不得其解。

“茶葉招誰惹誰了？”在看到“上新”和一些美女視頻時(shí)，一凡才發(fā)現(xiàn)事有蹊蹺。

通過一段時(shí)間的臥底，一凡才知道“茶葉”相關(guān)的一整套引流術(shù)語是風(fēng)月行業(yè)的黑話：“上新”則是指有新人加入了，“歡迎喝茶”則是表明營業(yè)了。

光知道黑話還不夠，一凡必須找到證據(jù)證明賬號(hào)涉黃才能封號(hào)。同時(shí)，她必須研究和定義新犯罪行為的特征，輔助機(jī)器學(xué)會(huì)自動(dòng)識(shí)別。

然而，大部分犯罪行為會(huì)跨平臺(tái)進(jìn)行：通過抖音上引流、去別的平臺(tái)交流、再到第三方平臺(tái)實(shí)現(xiàn)付款交易，每個(gè)平臺(tái)的數(shù)據(jù)無法打通，很難跨平臺(tái)取證。

一開始，一凡“放不開”。

“我還是個(gè)未婚女性，哪兒知道怎么做‘嫖客’？”一凡說，常常是她一開口，對(duì)方就知道不是正經(jīng)“嫖客”，聊著聊著就不見了。

很長一段時(shí)間里，挫敗感包裹著一凡。那段時(shí)間，她常常全天苦于如何“更像”一個(gè)嫖客，每天都在質(zhì)疑自己是誰、從哪兒來、為什么要干這個(gè)。

和一凡有著類似困惑的，還有反欺詐項(xiàng)目的負(fù)責(zé)人王宸。他是個(gè)95后，也是因?yàn)椤白x書時(shí)就玩抖音、喜歡抖音濾鏡”而加入抖音。

但加入抖音后，他才發(fā)現(xiàn)這份工作并不如想象的有趣?！拔覠o時(shí)無刻不在懷疑人生。”王宸說。

王宸每天的工作都要審核大量賬號(hào)、總結(jié)欺詐賬號(hào)相關(guān)的特點(diǎn)供給機(jī)器學(xué)習(xí)?！懊刻煲闯砂偕锨€(gè)賬號(hào)，發(fā)現(xiàn)各種細(xì)小的特征來判斷黑產(chǎn)?！蓖蹂氛f。這種忙碌是永無止境的，在做重點(diǎn)專項(xiàng)打擊項(xiàng)目的時(shí)候，加班到凌晨都是常事。

尤其是2020年新冠肺炎疫情暴發(fā)，抖音的用戶也迎來飛躍式增長?！皬?020年4月以后，團(tuán)隊(duì)里的人幾乎就沒有個(gè)人生活”，王宸說，“同城招嫖”、“假靳東”、“雙十一”電商詐騙等各個(gè)事件層出不窮。最忙的時(shí)候，一凡和王宸要加班到凌晨3點(diǎn)，甚至直接在公司過夜。

但下班時(shí)，內(nèi)心的焦慮感依然沒有減輕，唯恐自己的休息、“沒有做到極致”，而讓平臺(tái)上的黑產(chǎn)多肆虐一天。

但也是在這樣無數(shù)次的自我懷疑、痛苦掙扎后，一凡和王宸感覺自己突破了，得到了一種全新的體驗(yàn)。通過和同事、警方的學(xué)習(xí)和總結(jié)，一凡摸索出來了和涉黃人員交流的話術(shù)。她開始直接詢問對(duì)方“多少錢、在哪里、安不安全”。

問完這三句話之后，對(duì)方會(huì)發(fā)來“菜單”（價(jià)格表），取證環(huán)節(jié)才算完成，緊接著再截圖舉報(bào)到對(duì)應(yīng)平臺(tái)，一個(gè)任務(wù)圓滿結(jié)束。

“后來組里都開玩笑說我是‘女流氓’了”，一凡說。

通過一凡她們堅(jiān)持跨平臺(tái)取證、舉報(bào)，加上團(tuán)隊(duì)的努力，已經(jīng)有其他互聯(lián)網(wǎng)平臺(tái)和抖音建立了合作。抖音提供取證完畢后的被舉報(bào)賬號(hào)，對(duì)方再通過這個(gè)賬號(hào)查詢IP，可以將相關(guān)的IP賬號(hào)全部封掉。

“封”還是“不封”

王宸則收到了一封感謝信，對(duì)方說因?yàn)槎兑舭踩行姆雌墼p小組的工作讓自己免于被騙。

王宸這才體會(huì)到這份工作的意義：審核是第一道關(guān)卡，看起來普通，但在審核基礎(chǔ)上，如何去用自己的力量幫助行業(yè)高效運(yùn)轉(zhuǎn)，這才是更重要的事情。

在2019年雙十一抖音成交額達(dá)到187億時(shí)，王宸更覺得自己在做一件有意義的事情。

通過他所在團(tuán)隊(duì)的努力，2020年雙十一他們總共阻止了幾十萬風(fēng)險(xiǎn)賬號(hào)、幾千萬次的惡意攻擊，在這背后，是無數(shù)羊毛黨和數(shù)以億計(jì)的止損額。

“我們?yōu)橛脩魟?chuàng)造更好的網(wǎng)絡(luò)環(huán)境，幫助他們獲得成功，這種成就感，不是隨便能得到的?！?/p>

確保安全，絕不是一刀切封號(hào)了事。

被誤解、自我懷疑……一凡和王宸的痛苦，岳文峰也一直看在眼里。

作為他們的直屬上司，岳文峰也有相似的疑惑。

他入職抖音時(shí)，抖音在7個(gè)月內(nèi)用戶新增兩億、安全中心的成員也成倍增長。但外界對(duì)團(tuán)隊(duì)一直存在誤解，大部分認(rèn)為安全團(tuán)隊(duì)最大的作用就是“封號(hào)”。

如果團(tuán)隊(duì)做得好，其達(dá)到的效果是外界根本不知道有該團(tuán)隊(duì)的存在，但這樣又如何讓團(tuán)隊(duì)實(shí)現(xiàn)自我價(jià)值感？這在他看來是極其荒謬的，“安全部門的工作不是簡(jiǎn)單封號(hào)就可以解決的。背后的問題往往比大家想得更復(fù)雜。”但這種誤會(huì)卻曾一度引發(fā)內(nèi)部產(chǎn)生巨大矛盾。

2020年5月，岳文峰被緊急拉進(jìn)一個(gè)群里。一個(gè)自稱家長的用戶稱兒子在看抖音時(shí)出現(xiàn)了早熟行為，要求封掉相應(yīng)賬號(hào)。對(duì)方表示，該賬號(hào)有大量涉黃裸露內(nèi)容。

但團(tuán)隊(duì)研判后發(fā)現(xiàn)該賬號(hào)是沖浪領(lǐng)域的垂直號(hào)，“裸露畫面”是穿泳衣的沖浪愛好者，并沒有達(dá)到封賬號(hào)標(biāo)準(zhǔn)。但家長不依不饒，聲稱如果不封賬號(hào)，就要找媒體曝光。

抖音安全中心內(nèi)部一下分成兩派：一方主張封號(hào)，免得家長去曝光；一方主張不封號(hào)，因?yàn)樵~號(hào)沒有任何問題，誰也說服不了誰。

在旁人看來，這無非就是一個(gè)簡(jiǎn)單的封號(hào)手續(xù)，但是在岳文峰看來是關(guān)乎底線的問題——不能因?yàn)橐淮尾环蠘?biāo)準(zhǔn)的舉報(bào)而誤殺。

岳文峰堅(jiān)持“不封”。但這個(gè)舉動(dòng)一度讓主張封號(hào)的團(tuán)隊(duì)成員不理解，甚至在雙月會(huì)后收集問題時(shí)，有人提問質(zhì)疑他：到底能不能帶好團(tuán)隊(duì)。

沒過幾天，此前被舉報(bào)的沖浪愛好者賬號(hào)突然發(fā)布了一條高危敏感的內(nèi)容，符合封號(hào)條件。

雖然如此，岳文峰卻覺得有哪里不對(duì)，一個(gè)沖浪領(lǐng)域的垂直號(hào)，突然發(fā)布一條明顯違規(guī)的內(nèi)容，有違常理。岳文峰還是選擇“不封”，僅下架相關(guān)內(nèi)容。

同時(shí)，他讓安全技術(shù)團(tuán)隊(duì)的同事查詢賬號(hào)是否存在異常，結(jié)果發(fā)現(xiàn)，這個(gè)賬號(hào)在發(fā)布違規(guī)視頻時(shí)候的登錄IP地址與以往不同，卻和“舉報(bào)家長”IP地址高度類似。

“會(huì)不會(huì)是舉報(bào)人黑了賬號(hào)”，岳文峰暗自猜想。但怕冤枉好人，團(tuán)隊(duì)迅速以“遭受攻擊”為名迅速報(bào)警。

警方出動(dòng)調(diào)查后回復(fù)，一切正如岳文峰所預(yù)判的那樣：舉報(bào)人因舉報(bào)不成而盜取賬號(hào)、發(fā)布高危內(nèi)容誘導(dǎo)抖音封號(hào)。

但岳文峰沒有想到的是，舉報(bào)家長根本就沒有兒子，該賬號(hào)在抖音的視頻搶了舉報(bào)人在三亞的沖浪生意，舉報(bào)人希望通過封對(duì)方的號(hào)來挽回生意損失。這也進(jìn)一步證明了岳文峰的設(shè)想，風(fēng)控絕不僅是封號(hào)而已。一旦簡(jiǎn)單粗暴地對(duì)待復(fù)雜問題，對(duì)抖音百害而無一利。

比如僅在與“騙”相關(guān)的案件上，就分為欺騙、詐騙、哄騙等等類型。其中，“欺騙”就分為騙錢的“寵粉案”和騙互動(dòng)數(shù)據(jù)（類似“假靳東案”）兩種。前者涉嫌違法犯罪，后者違規(guī)，處理方式完全不同，并不是僅靠封號(hào)能解決?！胺馓?hào)是最簡(jiǎn)單的，最偷懶的做法”，岳文峰說。

另一方面，早期干預(yù)也可以降低風(fēng)險(xiǎn)。比如，為了防止青少年沉迷抖音、受到超過其年齡的內(nèi)容影響，抖音推出了青少年模式，對(duì)視頻內(nèi)容、使用時(shí)長進(jìn)行了針對(duì)性設(shè)計(jì)?！昂诋a(chǎn)是不可能被消滅的，我們能做的就是不斷提高犯罪的成本，當(dāng)犯罪成本高了，自然數(shù)量就下降了?！?/p>

從早期干預(yù)，到合理預(yù)判，到線下打擊，通過岳文峰等人不計(jì)成本地建造這座“看不見”的圍墻，抖音才得以保留健康、安全的內(nèi)容生態(tài)。

做最忠于用戶的“守夜人”

在參與解救四川兩個(gè)被猥褻男孩之前，一凡一度認(rèn)為自己的工作“沒有實(shí)感”。

作為全線上化的風(fēng)險(xiǎn)防范團(tuán)隊(duì)，對(duì)于風(fēng)險(xiǎn)、犯罪內(nèi)容的審核和處理也大多是線上化進(jìn)行，即便是成員自身都很難評(píng)估自己對(duì)企業(yè)、社會(huì)所作出的價(jià)值。

“但真的看到兩個(gè)留守兒童因?yàn)槲覀兊膮⑴c而獲救，那一刻我覺得自己值了，這份工作非常實(shí)在”。

一凡說，“這個(gè)效果比我們?cè)诰€上封幾個(gè)賬號(hào)有效1萬倍”，必須采取手段從精神、肉體上對(duì)其進(jìn)行雙重打擊。在此之后，她再也沒有懷疑過自己加入抖音的目的和未來，“我每天敲的那些代碼是能夠?qū)嶋H上幫助到有需要的人的”。

曾做過10年“安全人”的岳文峰表示，抖音是他見過的、為數(shù)不多的在安全領(lǐng)域“不設(shè)上限”的公司，“在創(chuàng)辦抖音之初就建立安全團(tuán)隊(duì)，為安全擴(kuò)建進(jìn)千人員工……”

“長夜將至，我從今開始守望，至死方休。我將不娶妻、不封地、不生子。我將不戴寶冠，不爭(zhēng)榮寵。我將盡忠職守，生死於斯。我是黑暗中的利劍，長城上的守衛(wèi)。我是抵御寒冷的烈焰，破曉時(shí)分的光線，喚醒眠者的號(hào)角，守護(hù)王國的堅(jiān)盾。我將生命與榮耀獻(xiàn)給守夜人，今夜如此，夜夜皆然?！?/p>

這段來自《冰與火之歌》的守夜人誓言，也完美詮釋了這些守護(hù)著網(wǎng)絡(luò)暗處的“抖音守夜人”。

在城中的老百姓幸福生活時(shí)，總要有人站在城墻上，眺望黑暗，及時(shí)扼殺逼近的危險(xiǎn)。讓人慶幸的是，留下來的“守夜人”里，幾乎沒有選擇離開的。