數(shù)字化心理健康服務中的倫理問題

唐瑀蓁，張蕾，黃晶晶， 杜江

1 引言

近年來，互聯(lián)網(wǎng)發(fā)展使心理學相關(guān)領(lǐng)域有更多機會呈現(xiàn)在大眾眼前，心理健康問題逐漸引起社會各界重視，同時也面臨著嚴峻的挑戰(zhàn)。2019 年，一項橫斷面流行病學調(diào)查結(jié)果顯示，我國成年人中罹患除癡呆外各類精神疾病的加權(quán)終身患病率高達16.6%（Huang et al., 2019）。然而，這其中真正獲得專業(yè)心理援助的人卻甚少，究其原因，一方面在于人們對自身心理健康關(guān)注較少、就醫(yī)意愿不強，且社會存在對心理疾病的忽視、歧視和污名化現(xiàn)象（江光榮 等, 2021）；另一方面在于我國心理健康領(lǐng)域?qū)I(yè)人才較為匱乏，人們在受心理問題困擾時往往會陷入“求助途徑少，可靠性不一”的困境（栗克清，2018）。

中國互聯(lián)網(wǎng)絡(luò)信息中心于2021 年2 月發(fā)布的第47 次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展狀況統(tǒng)計報告》顯示，截至2020 年12 月，我國網(wǎng)民規(guī)模已達9.89億。新型冠狀病毒肺炎疫情暴發(fā)后，網(wǎng)民對在線醫(yī)療的需求量增長，促進了我國醫(yī)療行業(yè)的數(shù)字化轉(zhuǎn)型，在線醫(yī)療用戶達2.15 億，占整體網(wǎng)民的21.7%。數(shù)字醫(yī)療是一種把現(xiàn)代計算機技術(shù)和數(shù)字技術(shù)應用到整個醫(yī)療過程中的新興醫(yī)療方法或數(shù)字健康解決方案。在心理健康領(lǐng)域應用數(shù)字醫(yī)療，可以幫助人們獲取更多心理健康相關(guān)信息，學習并應用改善心理問題的技巧，遠程聯(lián)絡(luò)專家尋求心理援助（Marsch et al., 2020），并有助于加強對精神疾病的早期識別、預防、干預和康復等全過程防范。

享受數(shù)字醫(yī)療帶來便利的同時，還應警惕其可能存在的風險。例如，應用數(shù)字技術(shù)游戲干預注意缺陷與多動障礙兒童時，需照顧到家長因擔憂這類干預讓孩子患上游戲成癮而產(chǎn)生的焦慮情緒（Aboujaoude & Gega, 2020）。為應對這類潛在的不良后果，美國食品及藥物管理局（Food and Drug Administration，F(xiàn)DA）在2017 年啟動了一個專門測試、審查和創(chuàng)新數(shù)字醫(yī)療的項目；英國國家健康與臨床卓越研究所（National Institute for Health and Care Excellence，NICE）于2019 年3 月制定了《數(shù)字健康技術(shù)證據(jù)標準框架》等，以維護使用者的基本權(quán)益，為其提供醫(yī)學倫理上的保護。

本文針對數(shù)字醫(yī)療在心理健康服務中可能涉及到的倫理問題進行討論，并提出解決方案，以期引起業(yè)界關(guān)注，規(guī)范數(shù)字化心理健康的發(fā)展，更好地服務于患者。

2 數(shù)字化心理健康的應用情況

韓瑾（2019）按照數(shù)字技術(shù)在心理健康領(lǐng)域內(nèi)融合程度的高低，將數(shù)字化心理健康（digital mental health）分為了四類：（1）“ 利用網(wǎng)絡(luò)平臺進行心理科普、培訓或咨詢”，如壹心理、KnowYourself 等互聯(lián)網(wǎng)公司或公益平臺；（2）“利用計算機化心理治療程序進行自助式或半自助式 治 療”，如 實 時 自 適 應 機 制（real-time adaptive mechanisms）、計算機化的認知行為療法等；（3）“利用數(shù)字技術(shù)進行情緒或行為實時監(jiān)測、追蹤及干預”，包括社交媒體同伴交流（如微博“樹洞”）、主動或被動的生態(tài)瞬時評估（ecological momentary assessment，EMA）及數(shù)字表型（digital phenotyping）類產(chǎn)品；（4）“應用聊天機器人等其他新興網(wǎng)絡(luò)或數(shù)字技術(shù)”，如Woebot、Wysa 等模擬人工心理治療。

目前，國內(nèi)外已有多家公司推出診療精神疾病的數(shù)字醫(yī)療措施，并積極開展臨床試驗證明其有效性。例如Akili Interactive 公司開發(fā)的EndeavorRX，于2020年6 月15 日被FDA 批準為首個基于電子游戲治療8 ～12 歲注意缺陷與多動障礙（attention deficit and hyperactivity disorder，ADHD）兒童的數(shù)字處方（Canady,2020）。此外，數(shù)字醫(yī)療在心理健康領(lǐng)域還適用于物質(zhì)使用所致障礙、焦慮癥、抑郁癥、孤獨癥、精神分裂癥及創(chuàng)傷后應激障礙等（動脈網(wǎng)·蛋殼研究院,2021）。國內(nèi)的數(shù)字醫(yī)療監(jiān)管尚處于起步階段，目前多作為二類醫(yī)療器械證獲批，20 余張已獲批醫(yī)療器械證中還暫無一項涉及心理健康領(lǐng)域（國家藥品監(jiān)督管理局, 2022）。

數(shù)字醫(yī)療發(fā)展將有助于整合醫(yī)療健康服務線上和線下資源，同時也不可忽視潛在的倫理風險。尤其當人類作用越被智能化的數(shù)字產(chǎn)品替代時，倫理問題將愈加凸顯。

3 數(shù)字化心理健康面臨的倫理問題

學術(shù)界通常站在辯證角度，認為對科學技術(shù)過嚴或過松的監(jiān)管都不利于人類和社會的發(fā)展。無論在什么領(lǐng)域應用科學技術(shù)，遵守倫理規(guī)范都是保證其穩(wěn)定發(fā)展的必要因素。倫理指一系列指導行為的觀念，是從概念角度對道德現(xiàn)象的哲學思考，包含著人與人、人與社會、人與自然之間關(guān)系處理的行為規(guī)范。一篇采用德爾菲法（Delphi study）探討心理健康領(lǐng)域數(shù)字醫(yī)療應用的研究指出，目前需要重視的倫理問題主要有隱私、透明、公平、知情同意與問責（Martinez-Martin et al., 2021）。

3.1 隱私和數(shù)據(jù)安全問題

人們可以通過互聯(lián)網(wǎng)這個開放窗口獲取信息、分享經(jīng)驗、相互交流，但同時也承擔著隱私泄露的風險。在心理健康領(lǐng)域發(fā)展數(shù)字技術(shù)的過程中，隱私問題是最核心的倫理問題。除了企業(yè)可能變賣用戶個人信息外，在云網(wǎng)絡(luò)時代因系統(tǒng)遭受黑客攻擊導致信息被第三方獲取的事件也時有發(fā)生（Federal Trade Commission, 2016），這都讓用戶和數(shù)字醫(yī)療開發(fā)者不得不擔憂數(shù)字平臺的保密性和安全性。

各國都試圖立法保護數(shù)字醫(yī)療記錄和健康信息，以保護用戶隱私與數(shù)據(jù)安全。美國1996 年《健康保險可攜性和責任法案》（Health Insurance Portablity and Accountabililty Act of 1996，HIPAA）中的隱私規(guī)則，旨在保護醫(yī)療保健系統(tǒng)中收集到的健康信息；歐洲聯(lián)盟2018 年出臺的《通用數(shù)據(jù)保護條例》（General Data Protection Regulation，GDPR）中第5 條針對數(shù)據(jù)安全問題規(guī)定了目的限制、數(shù)據(jù)最小化與存儲限制原則；中國也在2021 年通過了《中華人民共和國個人信息保護法》，強調(diào)要在保障個人信息權(quán)益的基礎(chǔ)上，合法利用信息數(shù)據(jù)，推動數(shù)字經(jīng)濟健康發(fā)展。

3.2 其他倫理問題

除了最核心的隱私安全之外，還有以下四方面的倫理問題：

（1）透明性（transparency）方面：指目前一些數(shù)字醫(yī)療應用機器學習等存在算法黑盒，比如很難評估工具輸出的特定結(jié)果（Magrabi et al., 2019）。加上行業(yè)對知識產(chǎn)權(quán)的保護，監(jiān)管機構(gòu)難以檢測出產(chǎn)品的系統(tǒng)性誤差，且無法判斷其是否影響輸出結(jié)果（Obermeyer et al., 2019）。為實現(xiàn)對數(shù)字醫(yī)療算法更好的監(jiān)管，F(xiàn)DA 推出了數(shù)字軟件預認證項目（Digital Software Precertification Program），卻因沒有明確定義卓越標準（standards for excellence）等飽受爭議（Warren et al., 2018）。目前應更多關(guān)注機器學習的算法問題，亟需能夠提升機器學習安全性和有效性、解決透明性問題的監(jiān)管方式出現(xiàn)。

（2）公平性（fairness）方面：指在應用數(shù)字醫(yī)療時存在各種形式的誤差。比如開發(fā)過程收集的數(shù)據(jù)不能回答研究問題、不能充分代表目標用戶、工具在不同群體產(chǎn)生不同效果等（DeCamp & Lindvall, 2020）。根本層面還反映出與性別、種族、宗教等有關(guān)的社會不平等（Mittelstadt, 2019）。若公平性問題沒有得到解決，診斷和治療也會受到相應影響，帶有一定“算法歧視”意味的數(shù)字技術(shù)終將無法使老年人、偏遠地區(qū)或低收入人者等邊緣群體受益（Mittelstadt & Floridi,2016）。除了不斷改善技術(shù)解決數(shù)據(jù)集和算法中的誤差外，增加對這類群體使用數(shù)字醫(yī)療工具的指導或許能有助于緩解公平性問題帶來的影響。

（3）知情同意（consent）方面：主要表現(xiàn)在應用數(shù)字醫(yī)療時存在企業(yè)與用戶不對等的情況，如通知用戶數(shù)據(jù)處理方法復雜、處理過程涉及機密等而沒有充分告知潛在風險?！吨腥A人民共和國個人信息保護法》中多項條目強調(diào)數(shù)據(jù)使用的知情同意；歐洲《一般數(shù)據(jù)保護法》中第7 條與第12 條也包含同意原則與透明原則，并特別強調(diào)敏感處理來自兒童的任何信息。收集數(shù)據(jù)到產(chǎn)生結(jié)果的過程是復雜的，因此完全實現(xiàn)知情同意存在困難。有研究表明，將利益相關(guān)者納入?yún)f(xié)作設(shè)計數(shù)字醫(yī)療產(chǎn)品的過程，將有利于確定哪些信息應被納入知情同意和結(jié)果反饋（Martinez-Martin et al.,2021）。

（4）問責（accountability）方面：指在醫(yī)療領(lǐng)域應用具有自動數(shù)據(jù)挖掘和深度學習功能的數(shù)字技術(shù)，可能會破壞傳統(tǒng)的醫(yī)患關(guān)系。比如使用人工智能（artificial intelligence，AI）輔助診斷可能會擾亂，甚至取代治療師（Potier, 2020）。由于AI 方法給出的分析結(jié)果通常被視為是更加客觀的，而當這種自動建議與醫(yī)生或患者的判斷不一致時，責任歸屬的困境會出現(xiàn)。什么樣的情況可以交由AI 進行自主決策？若造成治療關(guān)系失衡或患者實際損傷時，應該追究哪一方主體的責任？目前仍需完備的責任分配體系，在明確約束所有主體責任的基礎(chǔ)上，保障數(shù)字醫(yī)療的健康發(fā)展。尤其當AI 技術(shù)應用于心理咨詢時，心理咨詢師從業(yè)須遵守的倫理規(guī)范就受到了挑戰(zhàn)。目前大多AI 輔助心理咨詢采用AI 與真人相結(jié)合的模式，而人類咨詢師在借助新興技術(shù)收集信息、建立咨訪關(guān)系、傾聽來訪和給予反饋之前，同樣應當思考（Fulmer et al., 2021）：AI是什么、能做什么、不能做什么？深度學習算法將如何分析來訪者提供的信息？自動輸出的結(jié)果信度和效度又如何？AI 對建立醫(yī)患同盟的利弊如何？心理咨詢最關(guān)鍵的療效因素之一是來訪者與咨詢師之間互動產(chǎn)生的信任關(guān)系，所以就算人工智能掌握了所有咨詢技術(shù)，來訪者的接受程度和體驗如何還有待探究。發(fā)展“智能化”心理咨詢時，需要及時對從業(yè)倫理規(guī)范進行更新，才能更好地保護來訪者權(quán)益。

4 現(xiàn)存?zhèn)惱韱栴}的解決方向

對于數(shù)字技術(shù)應用于心理健康領(lǐng)域存在的倫理問題，有以下應對方向：

（1）健全規(guī)章制度，完善具體倫理規(guī)范，給予數(shù)字技術(shù)使用者最基本的隱私保護。我國于2020 年出臺實施了《信息安全技術(shù)個人信息安全規(guī)范》，文件從法律角度構(gòu)建了較為完整的個人信息保護制度，并將健康生理信息和生物識別信息作為敏感個人信息進行特殊保護，只有在特定目的和充分必要的情況下才被允許處理。歐洲《一般數(shù)據(jù)保護法》規(guī)定，禁止處理能夠識別自然人生物性、健康、性取向等相關(guān)信息的數(shù)據(jù)。政策明確了數(shù)字平臺相關(guān)主體對隱私信息保護的法律責任，但更多強調(diào)的是保護數(shù)據(jù)安全，對于網(wǎng)絡(luò)服務提供者是否有權(quán)以及何種情境下有權(quán)挖掘什么類型的數(shù)據(jù)資料，還有待相應法規(guī)來界定和落實（謝晉 等, 2021）。

（2）對數(shù)字技術(shù)持辯證態(tài)度，明確其功能和使用范圍，保護人類的安全。在心理健康領(lǐng)域應用數(shù)字醫(yī)療時，應充分發(fā)揮其便捷性，同時要避免過度依賴。例如，可以利用AI 進行初步診斷，讓患者在就醫(yī)前就對自身情況有初步了解，節(jié)省時間的同時，也減小了醫(yī)生的工作量。最好僅借用數(shù)字技術(shù)做預判，最終的診斷、咨詢和治療仍應掌握在人類專家手中。有研究者指出，在按程序設(shè)計驅(qū)動的弱人工智能范疇內(nèi)，數(shù)字科技就是人類的盟友，而非敵人（劉榮, 2018）。另外，還需更多地關(guān)注多樣性和包容性，避免“算法歧視”帶來的傷害。國家藥品監(jiān)督管理局于2022 年3月9 日發(fā)布了修訂版《醫(yī)療器械軟件注冊審查指導原則》，各類單位在開發(fā)心理健康相關(guān)數(shù)字醫(yī)療工具時，可參考此通用指導原則進行調(diào)整、修改與完善。

（3）完善產(chǎn)生醫(yī)療相關(guān)損傷時的責任歸屬和賠償制度，保障各方主體的權(quán)益。再先進的技術(shù)在應用時都難免會出現(xiàn)問題，而事故責任劃分及后續(xù)賠償問題較為復雜，目前并沒有一個系統(tǒng)的問責與賠償標準供參考。這類標準應當明確在不同情況下各個主體的責任所在，從產(chǎn)品研發(fā)到應用的每個環(huán)節(jié)，都保證在消極影響出現(xiàn)時可以明確追溯到個人，而非將責任推脫到存在不確定性的技術(shù)原因上（段文萱, 石旭雯,2019）。問責標準越明確，越能有效避免違反倫理原則的產(chǎn)品被設(shè)計出來，從根源上向研發(fā)主體發(fā)出警告。

只有正確對待數(shù)字醫(yī)療中的倫理問題，建立針對數(shù)字醫(yī)療的倫理管理、審批體系，積極健全相關(guān)要求、規(guī)范，才能在保障個體權(quán)益的基礎(chǔ)上，共同推動數(shù)字技術(shù)在心理健康領(lǐng)域良性發(fā)展。