AI攔截自殺：“生命是最大的倫理”

南方周末記者　李在磊 南方周末實習生　宋思靜　連紫嫣

農(nóng)健　?　插畫

社交網(wǎng)絡陌生化、虛擬化的時空特性，為悲觀厭世者提供了傾囊傾訴的場所，也讓救援行為意外獲得可貴的緩沖余地。

眼瞅著物流即將進入派送流程，店家通知了電商平臺的“自殺干預團隊”，啟動訂單攔截程序，幾個加急電話打過去，最終在小區(qū)門口截住快遞員。

黃智生困惑的地方在于，對自殺者的短期干預，消除的只是眼前危機，志愿者組織有沒有能力長期跟蹤、監(jiān)控他們的狀況？

2019年12月15日，南京女孩“走飯”最后一條微博關閉。7年前，她自殺離世，在隨后的日子里，不斷有被生活困住的網(wǎng)友云集于她的微博下吐露內心苦悶，評論區(qū)逐漸演變?yōu)橛凶詺A向者訴說秘密的“樹洞”。

與此同時，基于AI技術的自殺干預機制日趨成熟。國內數(shù)家研究團隊、公益機構殊途同歸，利用人工智能抓取關鍵詞，從茫茫數(shù)據(jù)中甄別出來高危自殺人群，想方設法將其從生死邊緣拉回。

AI工程師、心理咨詢師、電商商家客服、志愿者等，憑借各自的知識、經(jīng)驗，描摹出這些亟待挽救群體的特征，并歸納出系列應對措施，訓練AI機器人學習進化。他們有身居海外的理科教授、活躍在行動一線的年輕公益人，也有電商平臺的普通員工，有心或者無意，發(fā)覺了這片一度被外界忽略的傷痕空間。

AI攔截救助，雖然技術層面日益成型，但是組織機構框架并不完善，后期與社區(qū)的聯(lián)動仍然不夠暢通。而且，因為涉及生死大事，自殺干預游走在被誤解的邊緣，時刻接受著公眾關于技術與倫理邊界的拷問。

然而，“生命為大”是行動派遵循的基本原則。社交網(wǎng)絡陌生化、虛擬化的時空特性，為悲觀厭世者提供了傾囊傾訴的場所，也讓救援行為意外獲得可貴的緩沖余地。預防自殺AI機器人的開發(fā)者們，小心翼翼地搭建起外界進入這個封閉空間的橋梁。

一次不成功的人工救援

“我有抑郁癥，所以就去死一死，沒什么重要的原因，大家不必在意我的離開。拜拜啦?！?012年3月18日，“走飯”發(fā)出這條微博不久后，引發(fā)全網(wǎng)關注。大V們動用線上線下資源找人，微博接力救助，但為時已晚。

此后，這條“遺言”長期懸掛在不再更新的ID頁面頂部，有著同樣心理困擾的網(wǎng)友陸續(xù)蓋起百萬條評論的“高樓”。自然而然，這成為關注大眾心理健康問題的人士著重篩查的角落。

2018年4月底，人工智能專家黃智生在“走飯”的微博評論下，留意到一條扎眼的信息，一位女孩子說要在五一假期燒炭自殺。他心口為之一顫，隨手將信息轉發(fā)到了自己所在的“醫(yī)學人工智能”微信群里，先發(fā)動大家找到她，再想辦法救助。

黃智生是荷蘭阿姆斯特丹自由大學教授，因為機緣巧合，接觸到心理健康領域，并與相關醫(yī)療機構展開合作研究。他向南方周末記者回憶，循著評論，逐條翻看這名女孩的微博，找到了可能的自殺緣由，以及在現(xiàn)實中“人肉搜索”的蛛絲馬跡。

女孩“情緒往死胡同里鉆”早有征兆，很早之前便在微博上長篇累牘表述悲觀心態(tài)。中科院心理研究所研究員朱廷劭主持另外一個干預自殺的志愿組織，他向南方周末記者解釋，從心理學、病理學的角度來看，自殺傾向行為被視為精神層面的癥狀，這些人產(chǎn)生自殺念頭后，通常會伴隨“病恥感”，擔心遭到周圍人的“歧視”，所以并不太愿意與現(xiàn)實生活中的熟人講述遭際。

但是，他們往往又有很強烈的傾訴欲望，朱廷劭介紹，他們更傾向于向網(wǎng)絡“樹洞”或者陌生網(wǎng)友表達，把最后的話語留給網(wǎng)絡空間。這些語言殘片，或晦澀籠統(tǒng)或單刀直入，總能留下些許現(xiàn)實處境中容易被忽視的線索。

上文中黃智生發(fā)現(xiàn)異常的微博里，女生寫道，“從來沒有人真心愛我，也從來沒有人給我送過花”。大家初步分析得出，女孩子是為情所困，而且，從只言片語中還找出了那個男孩子的名字。

齊心協(xié)力檢索公開信息，意外找到了這名男生的學校名稱，與之取得電話聯(lián)系。對方回應十分冷漠，聲稱兩人已經(jīng)分手，不愿意介入對方現(xiàn)在的生活，不過，還是提供了女方的聯(lián)系方式，并且透露，女孩因為患有抑郁癥，已經(jīng)辦理休學回了老家。

拿到女孩電話號碼后，醫(yī)學人工智能群里的一位女性成員，以相同性別的口吻，發(fā)出去一則短信。第二天中午，女孩回復了信息：你好，我挺好的。你是誰？　你從哪里得到我的手機號？

密切關注進展的群友們得知小女孩在世的消息后，終于松了口氣。隨后，大家委托學校每周給其送一次鮮花，還在花束中插上愛心卡，鼓勵她積極生活，幾位救援人員與小女孩成了知心朋友。女孩會拍下鮮花上傳朋友圈，而且，表達了返校復課的意愿。

當時還缺乏網(wǎng)上救助經(jīng)驗的黃智生認為，事態(tài)在向著好轉的跡象發(fā)展。出人意料，一個多月后，小女孩還是吞藥自殺了?！胺浅Ｕ痼@，這件事對我們觸動非常大。”黃智生說，他們復盤整個事件，重新檢驗女孩留下來的微博內容，發(fā)現(xiàn)了一些沒有被重視的信息。

查明真相后，他們判斷，這些含義模糊的字句，隱含著女孩家庭內部一個重大秘密，而這才是女孩子痛苦的真正原因，失戀只不過是表象而已。這樣一則重要信息，此前竟然被不經(jīng)意間忽略了。

如何阻擊自殺

此后，黃智生又陸續(xù)參與了一些救助，情況千差萬別，但還是摸索出了規(guī)律。他們制定了一份救援指南，依據(jù)“自殺方式的確定性”和“時間緊迫性”等因素，進行自殺風險分級，例如，10級意味著自殺可能正在進行中，9級自殺方式已確定，近日內可能進行，以此類推。只要風險在6級以上，自殺傾向者的基本資料，就會發(fā)送到救援團群里。

朱廷劭總結出的規(guī)律與之大同小異。他說，有相當比例的自殺行為為臨時起意。緊要關頭，并非不想求助，只是不想麻煩別人，或者太在意別人的看法，對能否獲得幫助沒有信心。這個時候，自殺者在生與死的界線搖擺，如果傾訴渴求得到滿足，便很大程度上往生的方向靠近。

通常而言，身邊遇到情緒有較大波動的人，忽然間表露出熱衷討論人生意義、生命價值等表象，是較為明顯的反常信號。與他們交流，主要以傾聽為主，切忌講太多大道理，“大道理沒用，聽不進去”。不要刻意回避敏感字眼，盡量保護他們的隱私，“不要弄得人盡皆知，這樣會增加壓力”。

最讓朱廷劭觸動的一點在于，他們的精神狀態(tài)并非通常想象的那樣錯亂，表現(xiàn)得相對冷靜。

經(jīng)歷過微博“樹洞”傾訴后，沒有及時被發(fā)現(xiàn)的自殺傾向者，接下來進入實操階段，不少人選擇網(wǎng)購自殺工具。

2019年底，一位顧客在網(wǎng)店持續(xù)下單某款產(chǎn)品的行為，引起了店家注意。交流后客服才知道，年僅20歲的顧客剛剛經(jīng)歷母親去世、父親癱瘓的悲慘遭遇，一時無法承受打擊。眼瞅著物流即將進入派送流程，店家通知了電商平臺的“自殺干預團隊”，啟動訂單攔截程序，幾個加急電話打過去，最終在小區(qū)門口截住快遞員。

電商平臺的一名自殺干預師武綱介紹，醫(yī)院、學校周邊購買特殊商品的客戶，要多加注意。鄉(xiāng)鎮(zhèn)休息時間早，凡是在深夜購買一些商品類目的訂單，也要暫時列入危險情況。安眠藥屬于處方藥，網(wǎng)上早已禁售，但藥品電商的經(jīng)營者仍然經(jīng)常被咨詢到此類問題。

通過電商平臺購買各種商品尋求自殺的人，以年輕群體為主，女性居多，不乏一些高中生、初中生。武綱告訴南方周末記者，所購商品五花八門、難以歸類。

聽聞了武綱他們的“自殺干預計劃”后，線下賣了10年農(nóng)藥、自稱“從沒發(fā)生過意外”的一名商家，主動找來傳授“秘訣”。在這名商家的觀察中，只要在售賣過程中多問幾句“買來做什么”，對方便會暴露真實意圖，甚至忍不住主動傾訴。

武綱也反復強調了傾訴的重要性，他在給商家客服做培訓時，提到最多的詞匯是“耐心”。自殺者往往需要自己的痛苦被傾聽、被理解，客服經(jīng)過培訓后，可以先對有自殺傾向的人進行安撫，“激情自殺”的情緒節(jié)點過去，初級自殺者大多會放棄行動。

AI和電商兩種預防機制

微博抓取信息與電商平臺聯(lián)系客戶的兩套預防機制有所區(qū)別。黃智生介紹，他們的AI機器人已經(jīng)開發(fā)到第六代，最早的只在“走飯”微博評論區(qū)爬梳信息，后來，升級為可以監(jiān)控微博廣場上其它重點區(qū)域。之前一天只能巡視一次，現(xiàn)在每隔6個小時可以重新跑一次數(shù)據(jù)。

根據(jù)新情況，團隊不斷覆蓋新的知識面、核心詞條，以增加功能，提升準確率。據(jù)他們介紹，現(xiàn)在的準確率可以達到82%，甚至可以識別出目標對象的性別。

黃智生給這款AI取名為“樹洞行動機器人”，往AI知識庫添加時間、空間、自殺方式等數(shù)據(jù)，提高AI機器人檢索、對比、翻譯、識別功能。

2019年2月13日18時，樹洞行動機器人耗費1分鐘時間巡視、檢索，過濾掉百分之九十多的不相干信息，最后將目標鎖定在一名小男孩身上。這名男生在微博上描述了自殺未遂的過程，AI很快便識別出自殺時間、方式以及微博ID地址，發(fā)出警報。臨時救援小組的志愿者嘉儀線上線下幾經(jīng)周折，找到了小男孩。

這個案例中，風險級別超出了6級。黃智生介紹，當機器人同時識別出具體的自殺方式和較為接近的實施時間，會啟動高級別的“緊急預警”，值班志愿者迅速介入進行干預，“實際情況往往沒有這么緊急”。自殺當事人的性別、年齡與地理位置，需要在救援行動中，進一步核實準確性。

而在電商平臺，一家網(wǎng)店負責人告訴南方周末記者，行進至網(wǎng)購步驟，自殺傾向者想法接近成熟，所購物品的用途表達準確、清晰，很容易識別出異常者目標，“難度在于怎么攔截，以及后續(xù)的維護”。

這位店家說，一旦進入訂單攔截環(huán)節(jié)，消耗的人力、物力成本，單個商戶無法承擔，一些大型電商平臺開始接過職責。為了保障、鼓勵商家救人行動，平臺開通一鍵報警功能，凡是有關自殺攔截的訂單，損失將由平臺承擔。

2019年，經(jīng)過幾個月的籌劃，武綱和同事們構建了所在電商平臺一整套人工智能技術，并聯(lián)動商家、公安、第三方機構的干預機制，拉來幾十位同事，在本職工作外擔任“自殺干預師”。2020年1月，該平臺對外通報：“守護生命”項目運行半年來，已經(jīng)聯(lián)合社會各方力量勸阻上千人自殺。

當消費者購買商品，商家客服會咨詢其購買用途并指導使用，交流中若發(fā)現(xiàn)異常，客服會及時安撫、勸阻、不發(fā)貨，并通知平臺的“自殺干預師”，再視情況決定是否聯(lián)動警方快速干預勸阻。平臺的人工智能機器人也會反向操作，提醒自殺干預師聯(lián)動商家，予以關注。

不過，無論電子商務為主的商業(yè)機構，還是由AI工程師、心理咨詢師組成的志愿者小組，只能在技術層面設立基本預防機制，仍有許許多多待解難題，超出了他們能力范疇。

道德困境

“現(xiàn)在你是我的支柱?！庇幸淮危痪日呦蛑驹刚甙l(fā)來信息，重拾對生活的信心，這名心理咨詢師瞬間覺得救援過程中的誤解和情緒反噬，似乎可以忽略不計。被救助對象事后的反應也有所不同，有的與志愿者成了緊密的朋友，有的仍然自我封閉，不過他們的家屬多數(shù)持感謝態(tài)度。

“心理危機干預對自殺者而言幫助有限，因為太晚了?！痹谥焱③靠磥?，自殺干預的行為仍然力有不逮。他說，生活當中的際遇才是自殺之源。

同時，對于救援的時機、效果和對自殺傾向者的實際影響，以及平臺抓取用戶搜索關鍵詞，外界一直有不同看法。而對于志愿者在線下能否深度介入，這些救援團隊也在小心翼翼建立規(guī)則。

朱廷劭一直存在著困擾，一是作為個體的人，有沒有權利決定自己的生死，另外便是，現(xiàn)實處境中人們仍對自殺者存在偏見，即便緊急干預暫時取得效果，自殺者的生存環(huán)境沒有改善，仍然找不到人生的出口。

黃智生也進行過哲學層面的思考。不過，他后來還是認為，生命才是最大的倫理，于是，并不會對干預的道德正當性產(chǎn)生懷疑。他困惑的地方在于，對自殺者的短期干預，消除的只是眼前危機，而誘發(fā)自殺的因素非常復雜，獲救者依然可能是一個存在高自殺風險的人。志愿者組織有沒有能力長期跟蹤、監(jiān)控他們的狀況？

而且，除了沖動型自殺行為之外，還有少量人群赴死的決心更大，沒有在社交網(wǎng)絡上留下任何痕跡，連短期挽救的余地也沒有留下來?！坝行┤瞬粩喔嬖V我們他想自殺，有些人不會告訴我們他想去死，但卻悄無聲息死去了?！?/p>

武綱則認為，大型互聯(lián)網(wǎng)公司可以承擔起更多的公共服務責任，例如，他們此前與政府有關部門合作，開發(fā)了防拐騙和防詐騙系統(tǒng)，都有不錯的社會效應。不過，自殺預防計劃的實施仍讓他們倍感壓力，“捏一把汗”。

“因為涉及人命，很容易出問題?！彼f，自殺毫無疑問是社會問題，當互聯(lián)網(wǎng)和數(shù)字經(jīng)濟已經(jīng)貫通線上線下，社會問題的解決也要依靠線上線下一體的力量來解決。“我們在嘗試，用技術和發(fā)起社會共治，這樣的帶有數(shù)字經(jīng)濟治理特征的方式，去解決更多社會問題?！?/p>

嘉儀是一名心理咨詢師，她向南方周末記者提醒說，心理咨詢師也需要心理疏導，負面情緒極易傳染，心理咨詢師如果沒有很好的心理建設，會出現(xiàn)被救助對象“反噬”的現(xiàn)象，這在心理學上稱為“被卷人”。

為此，黃智生成立了樹洞救援快樂營群，他們分享美食美景，發(fā)搞笑的動圖，調節(jié)氣氛。黃智生經(jīng)常會發(fā)送一些荷蘭的美景和家中藏有近三萬冊圖書的照片，他想告訴大家，這個世界仍舊十分美好。