互聯(lián)網(wǎng)“救生員”

仇廣宇

圖/視覺中國

“問你件事，怎樣死才不疼？”

8月1日晚上，阿里安全專家武綱和同事接到消息：山東一位16歲的女孩向淘寶商家咨詢購買商品，聊天中女孩說自己在線下藥店買了大量藥物，并問道怎樣死才不會疼。

武綱和同事們收到風險信息后，趕緊放下手頭工作，啟動緊急預案。

作為國內(nèi)最大的電商平臺，淘寶已成為感知社會情緒的一個觸角，加上各種App和網(wǎng)絡社區(qū)，不可避免地會留下人們的心情痕跡，開心的、悲傷的、無聊的、發(fā)泄的，當然也包括抑郁甚至自殺傾向的話語等等。

這使得一切都有跡象可查。而武綱和同事們隸屬的阿里安全的“守護生命”項目，正是希望借助于互聯(lián)網(wǎng)平臺，利用人工智能技術(shù)聯(lián)動商家、公安、第三方機構(gòu)建立自殺干預機制。這個項目在去年7月上線，至今已經(jīng)對2500余人進行了自殺干預。

大數(shù)據(jù)、人工智能自殺干預早已經(jīng)開始，但自殺干預的主體轉(zhuǎn)換為互聯(lián)網(wǎng)“大廠”，還是近年兩來的事情，眾多大型互聯(lián)網(wǎng)公司都紛紛成立了相似的部門。而處于水面之下的青少年自殺和相關(guān)的心理問題，也因此慢慢浮現(xiàn)出來。

自殺干預師

8月1日，山東女孩在淘寶店家下單后，商家從后續(xù)聊天中發(fā)現(xiàn)女孩不太正常，有自殺企圖。當即聯(lián)系了“守護生命”小組。

武綱的判斷是這可能是一名學生，由于高考失利導致的自殺傾向。直至晚上10點，小組成員多次撥打女孩電話，一直沒人接聽。

當晚，小組成員聯(lián)系了當?shù)嘏沙鏊鶊缶Ｅ⒋_實因為想不開有輕生的念頭，在警方上門前，家里人對此并不知情。

這是“守護生命”項目上線一年多以來自殺干預案例中的一個。項目由阿里安全七八位全職員工和兼職員工組成，每天早9點到晚10點，他們都在隨時待命處理此類風險，晚上10點后也會有人在線值班。全年365天都有人堅持在崗位上，春節(jié)和疫情期間項目組也安排人員正常值班，以備需要立即采取緊急預案干預。

武綱原本是藥學專業(yè)出身，工作中才發(fā)現(xiàn)很多正常售賣的商品都可能被消費者用于自殺。出于學藥時的習慣和情結(jié)，武綱對關(guān)乎人生命的事情很敏感。也正是由于自己曾經(jīng)的專業(yè)背景和當下工作所遇到的現(xiàn)實情形，2019年3月，武綱開始在阿里內(nèi)部試行“守護生命”項目。7月，項目正式上線。

這是一個心理危機干預機制。

當用戶在淘寶手機端搜索與自殺相關(guān)的內(nèi)容時，會自動跳出“守護生命”宣導頁面，在顯著位置提示12355青少年服務熱線及國家免費心理咨詢熱線。頁面還設(shè)置了心理健康知識板塊，引導有焦慮、失眠、情感障礙等特征的人士，通過自我學習，掌握科學應對的方法。更重要的是，這個機制還通過一套業(yè)務模型，對潛在自殺者進行人為干預。

一方面利用人工智能技術(shù)感知風險，另一方面對商家開展專業(yè)培訓。當商家發(fā)現(xiàn)風險，會及時安撫、勸阻，筑起第一道保護屏障，并通知阿里安全“自殺干預師”。緊急情況下，平臺聯(lián)動警方及時介入。

最開始，是通過商戶與消費者聊天內(nèi)容進行判斷，觸發(fā)預警機制，但這個方法準確度并不高。此后，阿里的工程師開始通過構(gòu)建多模態(tài)神經(jīng)網(wǎng)絡算法模型識別用戶是否真的存在自殺風險。為此，阿里的一位工程師特意收集了一萬多句關(guān)于自殺的文字，用以優(yōu)化算法。

項目上線后，先是對上千名淘寶商家進行了培訓，要求商家在遇到奇怪的訂單和買家溝通時主動多問一句購買用途，發(fā)現(xiàn)風險時就要求商家攔截訂單。剛開始的時候，大多數(shù)商家是不太主動參與這個項目的。有人計算過，為了攔截這樣一單訂單所花費的成本，相當于要付出該件商品兩天的營業(yè)額。

為了調(diào)動商戶在第一道防線的積極性，“守護生命”向客服團隊申請了2萬元的預算補償。后來，一些頭部商家在攔截了幾單網(wǎng)購商品，發(fā)現(xiàn)自己的行為確實能夠“救命”時，參與“守護生命”項目的商家越來越多了。陸續(xù)有商家告訴武綱，他們覺得這件事有意義，還有的商家在攔截訂單之后表示，不要補償。

水面下的風險? ?

“守護生命”干預安撫的案例以年輕人居多，其中“90后”和“00后”占比就達到六成以上。用戶為年輕人居多的B站提供的數(shù)據(jù)顯示，2020上半年自殺干預案例中，接入報警的有26例，但是流露出深度抑郁和自殺傾向的案例，僅僅5月就有714例。

除去阿里，活躍著年輕用戶的騰訊、B站等公司在發(fā)現(xiàn)此類信息時，也會啟動相關(guān)的幫助和服務。在美國，2019年9月10日“世界預防自殺日”前后，F(xiàn)acebook也開始分享有關(guān)用戶討論自殺的公開數(shù)據(jù)，以解決人們對其網(wǎng)站上出現(xiàn)的自殺和自我傷害內(nèi)容的擔憂，并開始聘請健康專家加入安全團隊。

B站頁面上有一個叫做“動態(tài)”的功能，類似于微博。如果有人在里面發(fā)布了嚴重負面情緒等信息，審核人員會介入判斷該用戶的心理情緒，如果涉及高度危險類內(nèi)容（重度抑郁、自殺傾向）等，審核人員會及時轉(zhuǎn)交給專業(yè)心理輔導客服介入，客服會聯(lián)系用戶進行安全確認，并進行情緒安撫。如涉及更嚴重的心理問題，客服還會轉(zhuǎn)接至專業(yè)心理咨詢機構(gòu)“青小聊”做進一步的心理輔導安撫，若是用戶處境不安全，客服會報警協(xié)助警方同步處理，確保用戶的生命安全。

在B站、百度搜索等地方輸入“安眠藥”“自殺”等關(guān)鍵詞，會跳出提示頁面、安撫話語、解決失眠等問題的科普視頻，心理咨詢機構(gòu)的聯(lián)系方式，便于有心理問題但還不是特別嚴重的網(wǎng)民隨時求助。淘寶提供的數(shù)據(jù)顯示，手機App端自從今年6月推出“守護生命”宣導頁面后，頁面上心理健康知識的視頻每日的播放量有2500次左右，前端工作人員感知到的自殺風險量下降近3成。

而騰訊的“微光行動”項目，主要覆蓋QQ用戶，起因是為了整治類似國外傳入的“藍鯨游戲”這樣的誘導自殺行為。該行動2018年7月上線，截至2019年1月，該行動一共封停QQ群組賬號2000多個，和警方一起救助了35名有自殺、自殘傾向的用戶。

2014年，世界衛(wèi)生組織（WHO）發(fā)布的首份預防自殺報告中曾提到，自殺是全球15～29歲年齡組中第二大死亡原因。該組織鼓勵全球各國家實施面向全人群的自殺干預策略，方式包括提高衛(wèi)生保健服務的可及性、促進心理健康、減少酒精的有害使用、限制自殺工具的方便易得性、促進媒體責任等。

在互聯(lián)網(wǎng)上，人工干預自殺早已不是新鮮事。2018年，武漢科技大學大數(shù)據(jù)研究院副主任、特聘教授黃智生創(chuàng)立了“樹洞救援團”，運用人工智能技術(shù)收集互聯(lián)網(wǎng)信息干預自殺行為，截至2019年底，該組織已經(jīng)阻止了1600多次自殺行為。而更早的2017年7月，中國科學院心理研究所研究員朱廷劭和團隊就開始為有自殺意念的新浪微博用戶提供心理危機干預。

朱廷劭團隊曾比較了新浪微博上自殺死亡用戶和無自殺傾向用戶在社交行為、語言使用上的差別，進而歸納出有自殺傾向用戶的可識別模式。他在一次演講中拿出3句不同的用戶言論舉例說明，這些言論根據(jù)程度可以分成1級、2級和3級，其中1級是有自殺意念，2級是有意念的同時有自殺計劃，3級是不僅有計劃，還有實施。

武綱是阿里安全自殺干預師團隊中的一員。圖/受訪者提供

在心理學研究中，處于“激情自殺”“沖動自殺”類的人內(nèi)心有很強的求生欲望，尚有傾訴欲和表達欲，屬于可干預的范疇，也就是上述所說的“2級”狀態(tài)?；ヂ?lián)網(wǎng)公司的自殺干預處理的有很多是這部分人群?！跋露Q心要‘走的人，不太可能會尋找我們這個平臺。物流是需要時間的，非常有決心的話，他可能希望立刻得到東西‘走掉，也可能會采取更激烈的方式。但如果是有意念、計劃，但還沒有去實施的那類，（這種情況下）就有一些時間可以讓我們?nèi)幦?。”武綱對《中國新聞周刊》表示。

對于互聯(lián)網(wǎng)公司的員工而言，處理此類生命安全的風險事件，僅僅是網(wǎng)絡“救生員”們每天繁忙工作之中的一項，無法算到KPI考核之中。當面對一些盡力卻無法挽回的案例，又會讓工作人員感到無力。武綱并不覺得團隊有多偉大，他們只是遇到那些有煩心事的人，并且恰好陪伴了他們。

“重要的是，結(jié)果是好的?！蔽渚V說。