醫(yī)療AI技術(shù)研發(fā)中的倫理思考與探索

文/董楓

醫(yī)療AI技術(shù)為臨床診療注入了無限可能，但所面臨的倫理挑戰(zhàn)同樣值得深思。

醫(yī)療人工智能正在越來越多的醫(yī)療場景和院外場景中被使用，作為人類科技史上又一次生產(chǎn)力飛躍，醫(yī)療AI第一次將診療技術(shù)的載體從“人腦”擴展為“醫(yī)生+AI”，使得人類第一次擁有了將診療能力批量復(fù)制的可能；更高的閱片、診斷效率，更精準(zhǔn)、規(guī)范的診斷結(jié)果，更優(yōu)化的診療流程，以及與大數(shù)據(jù)、物聯(lián)網(wǎng)、5G技術(shù)所結(jié)合的空前廣闊的應(yīng)用場景令人心動，但由此而來的，對醫(yī)學(xué)倫理、信息安全、隱私保護、數(shù)據(jù)分享與利用等前沿領(lǐng)域也提出了更為嚴(yán)峻的思考與挑戰(zhàn)。

如何客觀評價醫(yī)療AI產(chǎn)品的實際價值？如何正確看待醫(yī)療AI技術(shù)臨床應(yīng)用所面臨的數(shù)據(jù)分享與利用、隱私保護等倫理問題？面對上述難題，臨床醫(yī)師及醫(yī)療機構(gòu)管理者又有哪些對策？

價值凸顯

在2019年的全球頂級放射學(xué)會議——北美放射學(xué)年會（RSNA）上，1400余場口頭報告中，中國學(xué)者的比例已經(jīng)超過15%；總的文章發(fā)表數(shù)中，與AI相關(guān)的文章也已超過100篇，遠超日韓總和。中國醫(yī)療AI的發(fā)展速度與水平可見一斑。

以復(fù)旦大學(xué)附屬腫瘤醫(yī)院為代表的頂級三甲醫(yī)院是醫(yī)療AI技術(shù)探索的主力軍，在門診流程優(yōu)化、智能輔助診斷、智能科研等領(lǐng)域均有諸多經(jīng)驗。從研發(fā)與試用經(jīng)驗來看，醫(yī)療人工智能技術(shù)的核心價值主要體現(xiàn)在以下三個方面。

第一，高效。醫(yī)療AI技術(shù)的出現(xiàn)使得醫(yī)生擺脫繁重的體力勞動，將部分重復(fù)的基礎(chǔ)性工作，如病灶檢出、結(jié)構(gòu)化報告撰寫等工作以AI的方式壓縮至數(shù)秒鐘完成，醫(yī)生能夠擁有更高的閱片效率，勞動力得到釋放。

第二，精準(zhǔn)。以乳腺X線鉬靶閱片為例，乳腺X線鉬靶閱片難度較高，需要豐富的臨床經(jīng)驗與高水平專家的教學(xué)指導(dǎo)，復(fù)旦大學(xué)附屬腫瘤醫(yī)院在該領(lǐng)域長期處于國內(nèi)領(lǐng)先水平，但培養(yǎng)成本高、培養(yǎng)周期長、閱片難度大、影像數(shù)量少等難題長期制約基層醫(yī)院相關(guān)人才的培養(yǎng)，閱片質(zhì)量難以提升。如何解決？能夠“學(xué)習(xí)”頂級醫(yī)院診療能力的AI應(yīng)用或可能帶來新的改變。

第三，一致性。AI系統(tǒng)在未來有望解決全國各個區(qū)域、不同層級醫(yī)療機構(gòu)之間對于乳腺X線鉬靶閱片的一致性難題，讓偏遠地區(qū)的乳腺癌患者也能夠享受“復(fù)旦水準(zhǔn)”的醫(yī)學(xué)影像診斷服務(wù)。

頂級醫(yī)療資源長期且必然處于極度緊缺狀態(tài)，不同層級醫(yī)療機構(gòu)之間診療能力難以短時間內(nèi)實現(xiàn)均質(zhì)。而人工智能則可能將診療能力工具化，通過深度學(xué)習(xí)技術(shù)復(fù)制頂級醫(yī)療機構(gòu)的診療能力，顯著提升基層醫(yī)療機構(gòu)診療能力，以技術(shù)手段實現(xiàn)診療能力的傳播，是人類社會未來解決優(yōu)質(zhì)醫(yī)療資源短缺，推動醫(yī)療資源供給側(cè)改革，實現(xiàn)社會公平，民眾醫(yī)療資源獲得感提升的重要工具。

倫理困境

AI技術(shù)在醫(yī)學(xué)領(lǐng)域的飛速發(fā)展，為臨床診療注入了無限可能，也帶來了新的諸如醫(yī)學(xué)倫理、信息安全、隱私保護、數(shù)據(jù)分享與利用等前沿領(lǐng)域的倫理問題。

一是安全性風(fēng)險。醫(yī)療AI在大幅提升診斷效率、精確度以及一致性的情況下，依然不可避免地存在一定的誤診漏診現(xiàn)象，未來的臨床應(yīng)用中必然面臨責(zé)任界定問題。目前，日本與歐盟的監(jiān)管機構(gòu)曾提出：應(yīng)將AI系統(tǒng)與“工具”等同，即由操作“工具”的醫(yī)生來承擔(dān)主體責(zé)任，而我國目前尚無相關(guān)法律明文規(guī)定，對AI的推廣應(yīng)用帶來一定的不確定性。

此外，安全性風(fēng)險還涉及醫(yī)療人工智能產(chǎn)品的臨床效能評定及質(zhì)量控制體系建設(shè)，醫(yī)療人工智能技術(shù)的應(yīng)用者需要結(jié)合病種特點及科室實際工作流建立新的工作模式及質(zhì)量控制體系，以確保醫(yī)療安全。

二是數(shù)據(jù)隱私保護風(fēng)險。醫(yī)療數(shù)據(jù)所包含的患者健康管理高度敏感，一旦泄露可能對患者造成重大的經(jīng)濟影響，甚至生命威脅。歐美等多個國家和地區(qū)均對醫(yī)療數(shù)據(jù)提出了嚴(yán)格的保護政策。以歐盟2018年頒布的《通用數(shù)據(jù)保護條例》（GDPR）為例，一方面，新法規(guī)使患者有更多權(quán)利控制其個人數(shù)據(jù)的收集及使用；另一方面，對相關(guān)數(shù)據(jù)的不合規(guī)行為可導(dǎo)致重罰。

而與此同時，我國雖然關(guān)于醫(yī)療大數(shù)據(jù)的總體性綱領(lǐng)不斷涌現(xiàn)，但對于醫(yī)療中的隱私及數(shù)據(jù)保護散見在一些法律法規(guī)中，如《民法總則》《中華人民共和國執(zhí)業(yè)醫(yī)師法》《醫(yī)療機構(gòu)病歷管理規(guī)定》《全國人民代表大會常務(wù)委員會關(guān)于加強網(wǎng)絡(luò)信息保護的決定》等，且對于侵犯醫(yī)療數(shù)據(jù)隱私的懲處條例相對寬松，以行政處罰和經(jīng)濟懲罰為主，相對較輕。

三是算法偏見問題?！八惴ㄆ姟笔侵冈诳此茮]有惡意的程序設(shè)計中帶著創(chuàng)建者的偏見，或者所采用的數(shù)據(jù)是帶有偏見的。這種偏見最初出現(xiàn)在人臉識別程序中對于部分人種的識別困難，但在醫(yī)療領(lǐng)域中，“算法偏見”并不罕見。

以乳腺X線AI的研發(fā)為例，不少企業(yè)及高校利用海外數(shù)據(jù)集進行原始模型構(gòu)建，但由于歐美女性多為脂肪型乳腺，而中國女性則為致密性乳腺，加之清晰度不足、標(biāo)注質(zhì)量低下等原因，依靠單一的公開數(shù)據(jù)集中公開的歐美女性乳腺影像所研發(fā)出來的AI產(chǎn)品無一例外，均在醫(yī)療機構(gòu)實地運行中出現(xiàn)“水土不服”，性能出現(xiàn)大幅跳水。這也對醫(yī)療人工智能產(chǎn)品研發(fā)過程中的數(shù)據(jù)質(zhì)量、數(shù)據(jù)來源多樣性提出了嚴(yán)峻挑戰(zhàn)。

同時，不同區(qū)域、不同醫(yī)療機構(gòu)對于同一疾病的認(rèn)知也可能存在差異，當(dāng)AI的“老師”意見不一致時，最終產(chǎn)出的醫(yī)療AI產(chǎn)品性能也會存在差異。

四是醫(yī)師培養(yǎng)體制進步。該種現(xiàn)象當(dāng)前并不明顯，但未來很有可能發(fā)生。以醫(yī)療AI技術(shù)影響最為深刻的放射科而言，隨著技術(shù)進步，越來越多的閱片工作與流程將實現(xiàn)自動化、智能化，放射醫(yī)師的主要工作將從體力勞動者化身醫(yī)療AI的訓(xùn)練者與監(jiān)督者，其日常工作重心及培養(yǎng)方式將不可避免地發(fā)生變化。正如馬車夫被汽車駕駛員淘汰一樣，未來放射醫(yī)師的學(xué)習(xí)重點也可能隨著醫(yī)療AI技術(shù)的進步而發(fā)生改變。探索路徑

醫(yī)療人工智能早已不是“新生事物”，醫(yī)療機構(gòu)醫(yī)教研管的每一個環(huán)節(jié)都已經(jīng)能看到醫(yī)療人工智能的身影。作為臨床醫(yī)務(wù)工作者和管理者，我們必須以開放且積極的態(tài)度擁抱醫(yī)療人工智能，正視醫(yī)療人工智能發(fā)展中所面臨的技術(shù)難題、倫理難題、法律難題，并尋求相關(guān)對策，推動醫(yī)學(xué)技術(shù)進步，以技術(shù)創(chuàng)新讓人人享有更好的醫(yī)療。

首先，嚴(yán)格院內(nèi)管理制度，建立院內(nèi)風(fēng)控體系。新技術(shù)的應(yīng)用必然對院內(nèi)醫(yī)療安全產(chǎn)生影響，隱私保護、醫(yī)療責(zé)任歸屬、產(chǎn)品風(fēng)險防范等問題必須在醫(yī)療AI產(chǎn)品落地之前即進行嚴(yán)格論證，建立產(chǎn)品性能及風(fēng)險評價體系，明確產(chǎn)品應(yīng)用范圍，遵守“數(shù)據(jù)不出院”等基礎(chǔ)原則，為醫(yī)療安全建立第一道屏障。

其次，加速監(jiān)管體制創(chuàng)新，明確法律責(zé)任。醫(yī)療AI產(chǎn)品的監(jiān)管難點之一在于其技術(shù)處于飛速進步之中，相較于傳統(tǒng)藥品及器械品種動輒3～5年，甚至5～10年的審批流程，醫(yī)療AI的技術(shù)進步以1年計，甚至每半年都會有新功能推出，行業(yè)組織及相關(guān)部委必須研究“高頻創(chuàng)新”時代的新監(jiān)管體系及理念，建立動態(tài)準(zhǔn)入及監(jiān)管機制，既鼓勵新技術(shù)研發(fā)的同時，也確保只有真正有用、有價值的醫(yī)療AI產(chǎn)品才能落地臨床。

同時，諸多倫理難題，尤其是醫(yī)療數(shù)據(jù)的歸屬、利用、開發(fā)、分享等細(xì)則必須進一步明確，以法律條文的形式為行業(yè)發(fā)展奠定基調(diào)，明確法律責(zé)任之后，必將大力推動相關(guān)行業(yè)進步，充分利用中國這個全球最大的醫(yī)療數(shù)據(jù)資源寶庫。

再次，發(fā)揮頂級三甲醫(yī)院的學(xué)術(shù)帶頭作用，加速行業(yè)標(biāo)準(zhǔn)、應(yīng)用規(guī)范的制定，形成行業(yè)標(biāo)準(zhǔn)或共識。當(dāng)前醫(yī)療AI產(chǎn)品開發(fā)中良莠不齊現(xiàn)象嚴(yán)重，水平差距較大，數(shù)量雖多但精品稀缺，頂級三甲醫(yī)院作為優(yōu)質(zhì)醫(yī)療資源高地及醫(yī)療AI應(yīng)用先行者，一方面能夠以頂級的數(shù)據(jù)基礎(chǔ)及診療水平成為醫(yī)療AI產(chǎn)品的高水平“導(dǎo)師”；另一方面，也有能力以區(qū)域組織或醫(yī)聯(lián)體為單位推動醫(yī)療AI產(chǎn)品的質(zhì)量評定、信息安全、倫理審查等體系建設(shè)，形成區(qū)域或行業(yè)標(biāo)準(zhǔn)并進行推廣。