機器學習在網(wǎng)絡社交平臺自殺預測領(lǐng)域的研究進展

王焓驍 ，康艾嘉 ，趙玉寶 ，趙福容 ，蔣曉江 ，郝鳳儀 ，*，唐向東

（1.重慶兩江新區(qū)第一人民醫(yī)院，重慶 401120；2.中國人民大學，北京 100872；3.多倫多大學，加拿大多倫多 M5S 2E8；4.杭州安肯醫(yī)療科技有限公司，浙江 杭州 311121；5.陸軍特色醫(yī)學中心，重慶 400042；6.四川大學華西醫(yī)院睡眠醫(yī)學中心，四川 成都 610041*通信作者：郝鳳儀，E-mail：fengyihao@cqljrmyy.com）

自殺是個體蓄意或自愿采取各種手段結(jié)束自己生命的行為，自殺死亡占所有死亡人數(shù)的1.4%［1］。既往研究［2］闡述了潛在的自殺風險因素，包括心理健康狀況、經(jīng)濟社會地位、文化和道德因素等，為自殺風險評估提供了理論模型，但傳統(tǒng)統(tǒng)計分析方法處理復雜數(shù)據(jù)的能力有限，且研究同質(zhì)性強，導致模型僅在較狹窄的限定范圍內(nèi)有意義［3］。且由于自殺意念的隱蔽性，既往自殺預測方法難以對高危人群做出準確的、主動的識別［4-5］。

機器學習是人工智能（Artificial Intelligence，AI）學科的重要分支，它使用計算機模擬人類學習過程，并通過不斷適應新數(shù)據(jù)以優(yōu)化算法，從而提高模型的預測準確性［6］，是一類能從數(shù)據(jù)中自動分析并掌握規(guī)律，再利用規(guī)律對未知數(shù)據(jù)進行預測的方法。與傳統(tǒng)分析方法相比，機器學習能為給定數(shù)據(jù)集確定最有效的模型，并且更適合處理復雜數(shù)據(jù)［7］，但需要更大的數(shù)據(jù)集來構(gòu)建預測模型。目前在自殺預測領(lǐng)域常用的算法有隨機森林、支持向量機、神經(jīng)網(wǎng)絡、自然語言、深度學習等，均表現(xiàn)出良好潛力。近年來，自殺意念的表達不再局限于口頭形式，通過電子手段（包括論壇、博客、輕博客、即時消息、電子郵件、私信等）表達痛苦和自殺意念的情況逐漸增多。青年人是網(wǎng)絡平臺的主要用戶，也是自殺的高風險人群，網(wǎng)絡平臺的數(shù)據(jù)公開化為自殺預測的機器學習提供了數(shù)據(jù)來源。

1 資料與方法

1.1 資料來源與檢索策略

1.1.1 資料來源

于2021年4月-5月對PubMed、中國知網(wǎng)、萬方醫(yī)學網(wǎng)的相關(guān)文獻進行檢索。檢索時限為2016年1月1日-2020年12月31日。

1.1.2 檢索策略

中文檢索詞：“機器學習”“人工智能”“決策樹”“分類樹”“支持向量機”“隨機森林”“神經(jīng)網(wǎng)絡”“深度學習”“自然語言”和“自殺”；中文檢索式：（機器學習+人工智能+決策樹+分類樹+支持向量機+隨機森林+神經(jīng)網(wǎng)絡+深度學習+自然語言）*（自殺）；英 文 檢 索 詞 ：“Machine Learning”“Artificial Intelli?gence”“Decision Trees”“Classification Trees”“Support Vector Machines”“Random Forests”“Neural Network”“Deep Learning”“Natural Language”“Suicide”“Social media”“Social Network”“Facebook”“Twitter”“Reddit”“Instagram”“Snapchat”“YouTube”“Weibo”“Forums”；英文檢索式：（（Machine Learning OR Artificial Intelli?gence OR Decision Trees OR Classification Trees OR Support Vector Machines OR Random Forests OR Neural Networks OR Deep Learning OR Natural Language）AND（Suicide）AND（Social media OR Social Network OR Facebook OR Twitter OR Reddit OR Instagram OR Snapchat OR YouTube OR Weibo OR Forums））AND（（Machine Learning OR Artificial Intelligence OR Decision Trees OR Classification Trees OR Support Vector Machines OR Random Forests OR Neural Net?works OR Deep Learning OR Natural Language）AND（Suicide）AND（Social media OR Social Network OR Facebook OR Twitter OR Reddit OR Instagram OR Snapchat OR YouTube OR Weibo OR Forums））。

1.2 文獻納入與排除標準

由三位作者共同制定文獻的納入與排除標準。納入標準：①采用各類機器學習方法，從網(wǎng)絡社交平臺采集數(shù)據(jù)并預測自殺的研究；②具有代表性的關(guān)于基于機器學習的網(wǎng)絡社交平臺用戶自殺預測的重要綜述和原創(chuàng)研究性文獻。排除標準：①重復的文獻；②非中英文文獻；③無法獲取全文的文獻。

1.3 文獻篩選與質(zhì)量評估

由兩名研究者獨立進行文獻檢索，在剔除重復文獻后，由兩名研究者閱讀文獻標題、摘要和全文，進行人工交叉復審；嚴格按照納入和排除標準篩選文獻。

2 結(jié) 果

2.1 納入文獻基本情況

初步檢索共獲取文獻114篇，其中中文文獻44篇，英文文獻70篇。排除重復文獻18篇，剩余96篇。再通過閱讀文獻標題、摘要及全文，排除60篇，最終納入文獻36篇。見圖1。

圖1 文獻篩選流程圖

2.2 機器學習預測網(wǎng)絡用戶自殺行為

2.2.1 微博與輕博客是目前機器學習預測自殺的主戰(zhàn)場

微博與輕博客因用戶可自由匿名發(fā)言且信息公開，容易實現(xiàn)數(shù)據(jù)采集，為機器學習提供了海量訓練素材。在基于Twitter的研究中［8］，自殺預測的準確率為68%～92%，使用神經(jīng)網(wǎng)絡可探索與自殺相關(guān)的心理因素，包括負擔、壓力、孤獨、絕望、失眠、抑郁和焦慮，并預測自殺行為發(fā)生風險較高時間。

在中國，基于微博的“樹洞行動”以已故用戶的微博賬號下的留言為數(shù)據(jù)庫，篩查具有情緒低落甚至包含自殺意念的信息。楊芳等［9］研究顯示，留言用戶主要集中在16～26歲年齡段，跳樓、割腕、燒炭等是高風險人群表達的主要自殺方式。留言用戶在各時間段中負性情緒的表達均多于正性情緒，留言文本內(nèi)容可概括為情緒傾訴、人際關(guān)系和社會支持、睡眠、死亡等方面［10］。章宣等［11］提出混合架構(gòu)的神經(jīng)網(wǎng)絡模型，進一步提升了自殺風險的預測精度。莊婷婷等［12］研究表明，微博用戶自殺敏感信息的發(fā)布具有周期規(guī)律，約50%的信息發(fā)布于23∶00至次日05∶00。許立鵬等［13］提供了較為完備的中國互聯(lián)網(wǎng)用戶“自殺詞典”，以提高自殺意念模型的分類準確率。Cheng等［14］研究顯示，高自殺風險者代詞、前置詞、多功能詞的使用頻率高，而動詞使用頻率較低，總字數(shù)較多。然而，由于網(wǎng)絡信息的真實性問題，發(fā)言文本中信息的準確性仍需人工進一步甄別。

2.2.2 熟人社交平臺Facebook已啟動自殺審查與監(jiān)測系統(tǒng)

個體在熟人社交平臺暴露自殺意念可能意味著更迫切的求助與發(fā)泄需求。2017年，F(xiàn)acebook開始自動化監(jiān)測自殺相關(guān)內(nèi)容，利用網(wǎng)站即時消息界面與用戶交流情緒和認知，洞察用戶行為模式，此外，平臺還包括情緒追蹤、每日簽到和心理教育等功能。如果監(jiān)測到用戶存在自殺風險，則會啟動危機應對方案，包括向用戶提供心理支持資源和危機干預熱線，或提醒當?shù)貞比藛T。Facebook正在擴大自動監(jiān)測范圍，以監(jiān)視和刪除包含敏感視頻的帖子，防止自殺直播［15］。

在Facebook的自殺審查監(jiān)測系統(tǒng)中，使用隨機森林加上Deep Text（由Facebook發(fā)布，能夠準確識別聊天內(nèi)容）和線性回歸是最有效的，機器學習在自殺表達上得到了更加精確的訓練，使工作人員能夠更好地區(qū)分自殺意念的諷刺表達和嚴肅表達，從而使模型更加健全和準確［16］。

2.2.3 機器學習可識別討論論壇中的自殺內(nèi)容

自殺意念的表達有時兼具抒情、澄清、告別和遺囑的功能，這些內(nèi)容被用戶發(fā)表在相應的“社區(qū)”以引起共鳴。國外學者在討論論壇Reddit進行了調(diào)查［17-18］，結(jié)果表明，使用自然語言處理，可識別用戶的情緒困擾和自殺風險。Logistic回歸和支持向量機分類器算法顯示，在線帖子中的自殺內(nèi)容監(jiān)測準確率為80%～92%［19］。一些擔心被污名化者，例如阿片類藥物使用者也傾向于在論壇求助。過量使用阿片類藥物是其常見的自殺手段，然而機器學習對該類人群的自殺風險識別具有較多假陽性結(jié)果［20］。在線心理健康論壇可以為心理痛苦者提供支持性網(wǎng)絡環(huán)境，同時生成大量數(shù)據(jù)，可利用機器學習挖掘這些數(shù)據(jù)以預測其心理健康狀態(tài)［21］。在CO?VID-19流行期間，機器學習也被用來識別自殺相關(guān)的論壇發(fā)言，并發(fā)現(xiàn)其數(shù)量增加了1倍多，且邊緣型人格障礙患者和創(chuàng)傷后應激障礙患者存在較高的自殺傾向［22］。

2.2.4 圖片與視頻社交平臺數(shù)據(jù)具有潛力，但需更精準的圖像識別技術(shù)

Brown等［23］研究表明，Instagram上活躍程度和語言使用的差異與急性自殺無關(guān)。機器學習的其他機制（如識別圖片內(nèi)容）可能更有價值。Dagar等［24］分析了YouTube上有關(guān)青少年自殺預防和相關(guān)健康教育視頻的用戶留言，約7.5%的用戶坦率表達了自殺意念或留言尋求幫助。機器學習可監(jiān)視各類照片和視頻共享網(wǎng)站，例如Instagram、Snapchat和YouTube，以減少涉及自傷和自殺圖像的傳播［25-26］。隨著計算機視覺研究和深度學習技術(shù)的發(fā)展，AI圖像分類技術(shù)也許會從血腥、暴力或悲傷的圖片或視頻信息中識別出潛在的自殺風險。

2.2.5 機器學習結(jié)合臨床數(shù)據(jù)庫，用于群體篩查

機器學習可適用于各種臨床環(huán)境和人群，且可以勝任對疾病高危人群的初級篩查工作。2018年初，加拿大公共衛(wèi)生局與AI公司Advanced Symbolics合作，啟動了對區(qū)域自殺模式的研究。該公司從加拿大社交媒體帳戶中公開獲取匿名數(shù)據(jù)，以監(jiān)測自殺高危人群并預測自殺高峰［15］。Zheng等［27］通過開發(fā)基于人群的風險分層監(jiān)測系統(tǒng)，使用機器學習算法和深度神經(jīng)網(wǎng)絡建立具有電子健康記錄的模型，結(jié)合社會經(jīng)濟因素及人口學數(shù)據(jù)，預測未來12個月的自殺未遂概率。Walsh等［28］將機器學習算法應用于縱向臨床數(shù)據(jù)，以預測青少年的自殺未遂風險，將預測準確性提高了9倍。

目前機器學習已從大型數(shù)據(jù)庫中識別出的自殺相關(guān)危險指標包括臨床風險（精神疾病或軀體疾病史）與認知風險（生活滿意度、目標、絕望、自尊和自我感知能力等）［29-30］。群體縱向臨床數(shù)據(jù)的使用不僅提供了結(jié)合健康數(shù)據(jù)庫進行縱向預測的可能性，更有利于對高危者進行長期管理。

2.3 機器學習應用現(xiàn)狀的局限性

2.3.1 準確性和效率需進一步提升

機器學習的算法需不斷完善，以兼顧預測準確性和處理速度，這主要是由于：①關(guān)鍵信息難以識別。目前基于互聯(lián)網(wǎng)平臺的算法更多關(guān)注與自殺相關(guān)的關(guān)鍵詞，而忽略包含壓力、痛苦、抱怨等可能含有自殺風險的部分。②由于自殺死亡是低概率事件，機器學習算法需在精度和召回率之間尋找平衡。過多地將用戶判讀為高風險人群會增加非必要的人工篩選和救援工作量，反之，則可能遺漏需要被救援的用戶。由于存在自殺意念的人群比例相對較高，而自殺死亡率相對更低，大多數(shù)自殺預測模型會存在極低的陽性預測值［5］，且即使在自殺高風險人群中，該現(xiàn)象仍存在，這限制了機器學習的實際應用。自1990年以來，全球自殺死亡率大幅降低，其中中國下降幅度最大，達到64.1%［31］。大量人群在臨床和生活中表達過負性想法或存在自殺意念，但最終不會付諸行動。潛在的解決方法是，首先保證較高的召回率和偏低的精度，然后引入“觸發(fā)事件”機制，在識別到有自殺傾向的情況下，獲取可靠的觸發(fā)事件（例如用戶在線詢問如何購買自殺工具）有助于提高預測的精度。③不同人群有其特殊性，單一算法難以適配所有人群，例如，患有抑郁癥、雙相障礙、焦慮癥、物質(zhì)濫用、沖動控制障礙以及社會經(jīng)濟地位較低，都被認為是與自殺未遂事件相關(guān)的重要特征，至少患有一種精神障礙的個體自殺未遂風險是無精神障礙者的10倍以上［27］。因此，應建立針對特殊人群的自殺風險預測模型。

2.3.2 隱私泄露、污名化問題

首先，基于社交媒體的網(wǎng)絡平臺尚未受到隱私法規(guī)的管制。用戶自殺相關(guān)信息的收集可能侵犯隱私權(quán)，從而引發(fā)不信任感，并降低用戶尋求支持的可能性。同時，個體自殺意念與行為被泄露可能對其工作和生活造成困擾。例如，在軍事系統(tǒng)和校園中，單位對個人健康狀況有一定的知情權(quán)，這將影響其職業(yè)和學業(yè)生涯，導致當事人利益受損，尤其是自殺識別失誤，不僅未能提供幫助，還會給當事人帶來污名化［32］。

3 小結(jié)與展望

機器學習可以依據(jù)收集到的社交網(wǎng)絡文字、圖片和視頻等資料預測用戶的自殺風險。在現(xiàn)有自殺預測手段難以滿足大規(guī)模篩查需求、海量自殺相關(guān)數(shù)據(jù)真假難辨的情況下，機器學習有望成為突破口。機器學習在輕博客、Facebook、討論論壇、圖片與視頻社交平臺用戶自殺預測中的表現(xiàn)值得期待，然而，也需要進一步提升算法的準確性和效率，平衡精度與召回率之間的矛盾，建立不同人群的自殺預測模型，注重隱私保護與污名化問題，并解決后續(xù)自殺干預手段不足的問題。

目前，由于機器學習算法仍不夠成熟，由計算機進行海量數(shù)據(jù)的甄別，再由醫(yī)師做出臨床判斷的人機結(jié)合的預測方式可能是風險最低、效率最高的選擇。這需要制定安全處理高風險病例、假陽性或假陰性的預案以及在專家判斷和算法判斷有沖突時給出決策。在未來的研究中，應注重自殺預測模型的優(yōu)化。智能手機收集的用戶輸入信息及穿戴式設(shè)備收集的生理數(shù)據(jù)可能是自殺預測模型的重要補充［33］；結(jié)合臨床數(shù)據(jù)，如電子病歷、就診記錄［34］及靜息態(tài)功能磁共振數(shù)據(jù)［35］等也可能有助于提高預測準確率和效率；機器學習亦有望通過對自殺相關(guān)腦區(qū)的識別［36］，并與神經(jīng)調(diào)控技術(shù)相結(jié)合［37］，實現(xiàn)對自殺的實時監(jiān)測與干預。