醫(yī)療人工智能臨床應(yīng)用的法律挑戰(zhàn)及應(yīng)對

劉建利

內(nèi)容摘要：隨著人工智能技術(shù)的不斷發(fā)展與進(jìn)步，醫(yī)療AI的臨床應(yīng)用逐漸普及，在疾病診斷、治療、護(hù)理、健康管理等方面大顯身手，對于提高醫(yī)療效率、改善醫(yī)療資源配置、降低醫(yī)療成本等發(fā)揮著重要作用。但是，AI背后的“技術(shù)黑箱”和“自主學(xué)習(xí)”使得醫(yī)療AI的臨床應(yīng)用蘊(yùn)藏著巨大的風(fēng)險(xiǎn)，給現(xiàn)行法律規(guī)制提出了眾多挑戰(zhàn)，尤其是醫(yī)療損害發(fā)生后的法律責(zé)任承擔(dān)以及醫(yī)療數(shù)據(jù)的保護(hù)和利用等問題亟需探討解決。我國應(yīng)當(dāng)在明確醫(yī)療AI法律地位的基礎(chǔ)上，通過加強(qiáng)解釋和完善立法，建立醫(yī)療AI的技術(shù)準(zhǔn)入標(biāo)準(zhǔn)，完善醫(yī)療損害的法律歸責(zé)制度，平衡好患者、醫(yī)務(wù)人員、醫(yī)療機(jī)構(gòu)、醫(yī)療AI設(shè)計(jì)者和生產(chǎn)者的利益與責(zé)任。在數(shù)據(jù)保護(hù)上，出臺專門的醫(yī)療信息保護(hù)法，在保護(hù)好患者隱私的基礎(chǔ)上，充分發(fā)揮醫(yī)療大數(shù)據(jù)的價(jià)值，造福國民健康。

關(guān)鍵詞：醫(yī)療人工智能 法律地位 醫(yī)療損害 醫(yī)療數(shù)據(jù)

中國分類號：DF05? 文獻(xiàn)標(biāo)識碼：A? 文章編號：1674-4039-（2019）05-0133-139

隨著《“互聯(lián)網(wǎng)+”人工智能三年行動實(shí)施方案》《新一代人工智能產(chǎn)業(yè)發(fā)展規(guī)劃》和《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計(jì)劃（2018-2020年）》等文件的相繼出臺，人工智能發(fā)展迎來重大機(jī)遇。人工智能在疾病診斷、治療、護(hù)理、健康管理等醫(yī)療領(lǐng)域大顯身手，對于提高診斷效率和治療效果、改善醫(yī)療資源配置、降低醫(yī)療成本等發(fā)揮著重要作用。然而，人工智能背后的“技術(shù)黑箱”和“自主學(xué)習(xí)”使得醫(yī)療人工智能（以下簡稱：醫(yī)療AI）在臨床應(yīng)用上蘊(yùn)藏著巨大風(fēng)險(xiǎn)。醫(yī)療AI診斷失誤以及手術(shù)損害等不良事件的發(fā)生引發(fā)理論界和實(shí)務(wù)界對醫(yī)療AI的法律地位、醫(yī)療損害的責(zé)任承擔(dān)等法律問題展開激烈爭議。此外，醫(yī)療AI的“自主學(xué)習(xí)”離不開巨量醫(yī)療大數(shù)據(jù)的喂投，涉及醫(yī)療數(shù)據(jù)的保護(hù)和利用，但我國目前對醫(yī)療大數(shù)據(jù)的保護(hù)和利用等還未有明確的法律規(guī)范。基于此，筆者在歸納和提煉醫(yī)療AI在臨床應(yīng)用中所引發(fā)的法律問題基礎(chǔ)上，重點(diǎn)分析醫(yī)療AI的法律地位，探討其引發(fā)醫(yī)療損害時(shí)的法律責(zé)任，明確醫(yī)療AI背景下的醫(yī)療信息的保護(hù)和利用的邊界，為我國醫(yī)療AI的發(fā)展與完善提供建議。

一、醫(yī)療AI臨床應(yīng)用的現(xiàn)狀

（一）醫(yī)療AI診斷

目前，醫(yī)療AI在醫(yī)學(xué)診療、治療、護(hù)理以及健康管理等環(huán)節(jié)均已實(shí)現(xiàn)臨床應(yīng)用。利用AI影像輔助診斷，可以幫助醫(yī)生提高癌癥或心臟疾病的診斷準(zhǔn)確率。日本的CAD（電腦輔助診斷）系統(tǒng)，通過胸部CT照片分析，能以較高的準(zhǔn)確率檢查出肺結(jié)核等疾病。在日本2016年舉辦的一次轉(zhuǎn)移性乳腺癌診斷比賽中發(fā)現(xiàn)，病理醫(yī)生的誤診率為3.5%，但醫(yī)生借助此系統(tǒng)可以將誤診率降低至0.5%。〔1 〕AI影像診斷的升級就是輔助診斷。醫(yī)療AI通過學(xué)習(xí)海量的醫(yī)學(xué)數(shù)據(jù)和專業(yè)知識，模擬醫(yī)生的診斷方式，可在短時(shí)間內(nèi)提供出高效、精準(zhǔn)的診斷結(jié)果和個(gè)性化的治療方案。此領(lǐng)域最出名的為IBM的Watson for Oncology（沃森腫瘤學(xué)）系統(tǒng)。Watson通過對大量的癌癥臨床知識、基因組數(shù)據(jù)、癌癥病例信息的“學(xué)習(xí)”后，可以為臨床醫(yī)師提供治療方案，是AI輔助診斷的典范?！? 〕只要輸入患者的電子病歷等信息，Watson能夠快速挖掘醫(yī)學(xué)知識和患者的個(gè)人記錄，在不到3秒鐘的時(shí)間內(nèi)完成診斷，并根據(jù)病人的病歷提出有針對性的個(gè)性化治療。現(xiàn)在Watson已經(jīng)可以查出至少13種器官中的腫瘤。在日本，Watson曾經(jīng)只用10分鐘就將病人的基因變化信息與2000萬篇癌癥科研論文的數(shù)據(jù)進(jìn)行了比較，準(zhǔn)確鑒定了罕見白血病類型，成功挽救了一位60歲婦女的生命?！? 〕

（二）醫(yī)療AI治療

醫(yī)療AI不僅可以進(jìn)行診斷，還可參與手術(shù)等外科治療。當(dāng)下，外科醫(yī)生可以遠(yuǎn)離手術(shù)臺操縱AI對心臟和前列腺實(shí)施外科手術(shù)。手術(shù)AI的杰出代表是“達(dá)芬奇手術(shù)AI”?！斑_(dá)芬奇”是目前世界上最先進(jìn)的手術(shù)AI（內(nèi)窺鏡手術(shù)器械控制系統(tǒng)），可以在醫(yī)生的操作下，利用手術(shù)器械模擬醫(yī)生的手術(shù)過程，完成精細(xì)化的手術(shù)操作。“達(dá)芬奇”具有輔助成像系統(tǒng)，能將手術(shù)的視覺放大10倍至15倍，使手術(shù)畫面更清晰，操作精度更高。此外，“達(dá)芬奇”的手臂能進(jìn)行大角度自由旋轉(zhuǎn)，達(dá)到醫(yī)生手術(shù)刀達(dá)不到的位置，而且操作穩(wěn)當(dāng)，不會出現(xiàn)人工操作的顫抖等情況?！斑_(dá)芬奇”曾經(jīng)在一個(gè)玻璃瓶里給葡萄縫合葡萄皮，這是人手難以達(dá)到的境界?？傊?，“達(dá)芬奇”為外科醫(yī)生的手術(shù)精度提高了一個(gè)數(shù)量級，能減小傷口創(chuàng)傷面，減輕病人痛苦，加快術(shù)后恢復(fù)。數(shù)據(jù)顯示，“達(dá)芬奇”僅在2016年即完成11445例手術(shù)，〔4 〕截至2017年3月，國內(nèi)“達(dá)芬奇”已裝62臺，且全球機(jī)器人手術(shù)量以年均15%的速度增長?！? 〕

（三）醫(yī)療AI護(hù)理

隨著全球老齡化加速和慢性病患者的激增，AI護(hù)理存在巨大的市場需求。國外在臨床上已經(jīng)出現(xiàn)護(hù)理機(jī)器人。護(hù)理機(jī)器人是將傳統(tǒng)的護(hù)理工作與先進(jìn)的機(jī)器人技術(shù)相結(jié)合的體現(xiàn)，目前已有康復(fù)機(jī)器人和生活護(hù)理機(jī)器人?？祻?fù)機(jī)器人有外骨骼機(jī)器人和兒童上肢康復(fù)機(jī)器人?？祻?fù)機(jī)器人能有效提高需要康復(fù)訓(xùn)練患者的訓(xùn)練強(qiáng)度和效率，幫助殘障人（包括老年人、殘疾人、傷病人）提高生存質(zhì)量和社會生活參與能力?！? 〕日本研究機(jī)構(gòu)Riken開發(fā)的機(jī)器人Robear，能將病人從床上抬起，幫助行動不便的病人行走、站立等，能為老年及癱瘓患者提供喂飯等服務(wù)。還可以通過超聲波，實(shí)時(shí)掌握老年人及癱瘓患者膀胱內(nèi)的尿量變化，有效預(yù)測被護(hù)理者的排泄時(shí)間，即可保護(hù)這類人員的尊嚴(yán)，也可減輕看護(hù)者的負(fù)擔(dān)?！? 〕澳大利亞養(yǎng)老院用機(jī)器人做護(hù)工，通過給機(jī)器人輸入程序，可以使其與老年人一對一交流，消減老年人的苦悶?！? 〕

（四）醫(yī)療AI健康管理

醫(yī)療AI通過動態(tài)，可對個(gè)人健康進(jìn)行精準(zhǔn)把握，結(jié)合健康大數(shù)據(jù)給予用戶精準(zhǔn)指導(dǎo)，能有效降低疾病發(fā)病率和患病率。具體而言，AI通過可穿戴設(shè)備監(jiān)測患者的活動水平、藥房數(shù)據(jù)、服藥依從性、呼吸和脈搏率狀況、甚至是所處環(huán)境的污染程度等動態(tài)信息。結(jié)合使用者的年齡、病史、健康狀況、臨檢報(bào)告、醫(yī)學(xué)影像資料以及DNA基因編碼等醫(yī)療信息，通過計(jì)算機(jī)的超算和學(xué)習(xí)模型來篩選和解析患者數(shù)字化信息，從而為用戶提供健康預(yù)警，并在飲食、起居等各方面提供健康建議，幫助用戶規(guī)避患病風(fēng)險(xiǎn)。此外，通過區(qū)域健康管理可作，AI通過大量實(shí)時(shí)搜索分析某一區(qū)域內(nèi)人群的健康數(shù)據(jù)，對比歷史數(shù)據(jù)，深度分析，可跟蹤、預(yù)判傳染病在該區(qū)域中爆發(fā)及流行趨勢，為衛(wèi)生行政主管部門提供應(yīng)對決策預(yù)警。在臨床運(yùn)用上，Welltok公司與IBM沃森合作，已通過“Cafe Well健康優(yōu)化平臺”推出幫助用戶管理壓力、調(diào)節(jié)情緒、控制營養(yǎng)以及糖尿病護(hù)理，并且會在用戶保持健康生活習(xí)慣時(shí)給予獎勵。同時(shí)，為用戶提供靈活、全方位的健康促進(jìn)方案，包括階段性臨床護(hù)理、長期保持最佳健康狀態(tài)等多個(gè)方面的服務(wù)?！? 〕

二、醫(yī)療AI臨床應(yīng)用的法律挑戰(zhàn)

（一）醫(yī)療AI的法律地位問題

醫(yī)療AI在診斷、治療、看護(hù)以及健康管理領(lǐng)域的應(yīng)用呈逐漸擴(kuò)大和深入之趨勢，考慮其進(jìn)步潛力及醫(yī)學(xué)應(yīng)用前景，法律應(yīng)鼓勵這種創(chuàng)新技術(shù)的發(fā)展。隨著醫(yī)療AI在臨床上的不斷應(yīng)用，法律責(zé)任問題必然產(chǎn)生。首先，醫(yī)療AI診斷必須達(dá)到一定的標(biāo)準(zhǔn)，才能進(jìn)入臨床應(yīng)用環(huán)節(jié)。問題是，醫(yī)療AI在診斷、治療、護(hù)理環(huán)節(jié)中運(yùn)用時(shí)，行為主體是醫(yī)療器械還是醫(yī)生，這兩者的準(zhǔn)入標(biāo)準(zhǔn)并不相同，究竟達(dá)到何種標(biāo)準(zhǔn)才能進(jìn)入臨床使用？其次，大數(shù)據(jù)與AI技術(shù)本身帶有不確定性，技術(shù)自身的發(fā)展以及技術(shù)應(yīng)用的結(jié)果都可能產(chǎn)生無法控制或預(yù)測的風(fēng)險(xiǎn)?！?0 〕醫(yī)療AI誤診或誤操作等現(xiàn)象難以避免，當(dāng)對病人造成損害的，顯然需要追究法律責(zé)任。但是，追責(zé)對象究竟是AI本身，還是醫(yī)務(wù)人員和醫(yī)療機(jī)構(gòu)，還是醫(yī)療AI的生產(chǎn)者（包括軟件或硬件）？換言之，醫(yī)療AI在法律上是人還是物？這是探究醫(yī)療AI法律責(zé)任最基本也是最重要的問題。只有在法律上界定了醫(yī)療AI診斷的法律身份，其他的相關(guān)問題才能迎刃而解。

（二）醫(yī)療損害的法律責(zé)任問題

實(shí)踐證明，醫(yī)療AI誤診或誤操作等現(xiàn)象難以避免。由于Watson背后的“技術(shù)黑箱”和“自主學(xué)習(xí)”，它無法解釋它的決策理由，即為什么會為特定的患者推薦特定的治療方案，有時(shí)甚至是?？漆t(yī)生們也會疑惑Watson為何會提出他們不會提出的治療方案。〔11 〕此時(shí)，醫(yī)生對于究竟是否需要采納Watson的方案將陷入兩難的境地，如果因采納Watson的方案而導(dǎo)致誤診的，或者明明可以使患者獲得救助，卻因未采納Watson的方案而導(dǎo)致患者誤診受到損害的，是否需要承擔(dān)法律責(zé)任？再如，“達(dá)芬奇”這樣的手術(shù)AI雖然出色，但也仍然存在安全風(fēng)險(xiǎn)。在英國2015年首例“達(dá)芬奇”心瓣修復(fù)手術(shù)中，機(jī)械手臂亂動打到醫(yī)生的手，還把病人心臟放錯(cuò)位置，戳穿了患者的大動脈?！?2 〕由于手術(shù)AI沒有觸覺反饋，醫(yī)生無法感知到在手術(shù)過程中病人的身體反饋情況，難以根據(jù)臨床現(xiàn)狀及時(shí)調(diào)整手術(shù)方案，一旦碰上手術(shù)AI出現(xiàn)硬件故障或程序漏洞，很容易造成醫(yī)療事故。醫(yī)療AI在護(hù)理和健康管理中同樣存在因AI硬件故障或程序漏洞而導(dǎo)致患者遭受醫(yī)療損害的問題。那么，這類手術(shù)AI的安全標(biāo)準(zhǔn)是什么，一旦發(fā)生醫(yī)療事故，責(zé)任主體是誰，此類問題亟須法學(xué)界給出答案。

（三）醫(yī)療數(shù)據(jù)的保護(hù)和利用問題

發(fā)展醫(yī)療AI，特別是發(fā)展醫(yī)療AI健康管理，需要利用大量醫(yī)學(xué)數(shù)據(jù)。醫(yī)療AI的服務(wù)質(zhì)量取決于喂投給它的醫(yī)療數(shù)據(jù)的量，兩者成正比關(guān)系。為了更好地提供精準(zhǔn)化、個(gè)性化的健康管理服務(wù)，往往需要采集使用者全時(shí)段、全方位、長周期、海量的生理和生活數(shù)據(jù)，其中絕大部分屬于隱私數(shù)據(jù)，對這些數(shù)據(jù)進(jìn)行簡單地大數(shù)據(jù)分析就可得知使用者的敏感信息，一旦被有意或無意地泄露，會給使用者造成重大法益侵害。而且，醫(yī)療AI不同于醫(yī)生，系統(tǒng)收集到的患者信息保存于云端或存儲器，就算人工刪除也能被輕易恢復(fù)。而且，AI的“保密性”不像人那樣存在情感，任何人均可從中調(diào)取信息，加密措施也無法完全阻止黑客的信息調(diào)取。完全摒棄保護(hù)隱私，全部數(shù)據(jù)均用于發(fā)展AI，或者追求隱私的絕對保護(hù)，全面禁止AI使用醫(yī)療大數(shù)據(jù)，顯然均不可取。需要在這兩者之間尋找到平衡點(diǎn)。此外，通過對大量醫(yī)療數(shù)據(jù)的加工可以形成新的有用數(shù)據(jù)，此時(shí)不僅需要保護(hù)被搜集人的個(gè)人信息權(quán)，還要保護(hù)數(shù)據(jù)開發(fā)者、合法利用者的數(shù)據(jù)權(quán)，迄今為止，如何對數(shù)據(jù)進(jìn)行確權(quán)并且構(gòu)建起權(quán)利內(nèi)容和權(quán)利轉(zhuǎn)移制度尚未解決?！?3 〕這為法律對醫(yī)療數(shù)據(jù)的保護(hù)和利用提出了較高的要求。

三、醫(yī)療AI臨床應(yīng)用的法律對策

（一）醫(yī)療AI的法律地位

我國尚無法律法規(guī)用于界定AI的法律地位。但是，從外觀而言，醫(yī)療AI是具有特定物理形態(tài)的醫(yī)療工具，與其他手術(shù)器械相比，并無顛覆性的改變。從內(nèi)在而言，醫(yī)療AI是一套能夠按照內(nèi)設(shè)程序進(jìn)行操作的系統(tǒng)，該系統(tǒng)由人類設(shè)計(jì)，并受人類控制，并未做到完全獨(dú)立自主地從事醫(yī)療行為。而且，醫(yī)療AI無法像人類醫(yī)生那樣和病人進(jìn)行情感交流，或許永遠(yuǎn)無法超越專業(yè)人員對疾病和病人人生觀和價(jià)值觀的理解。從AI的發(fā)展階段來看，當(dāng)前醫(yī)療AI還缺乏自我意識，不會像人類一樣思考，仍然處于弱AI階段。當(dāng)下，最終做診斷結(jié)論和手術(shù)操作（或下達(dá)動作指令）的仍然是醫(yī)生。因此，此階段的醫(yī)療AI不應(yīng)具有法理主體地位，仍然屬于醫(yī)療器械。其不僅不具備產(chǎn)生民事法律關(guān)系的主體資格，更不能成為承擔(dān)刑事責(zé)任的主體，難以獨(dú)立承擔(dān)法律責(zé)任。

當(dāng)然，隨著AI技術(shù)不斷發(fā)展與進(jìn)步，真正到達(dá)強(qiáng)AI階段，人機(jī)界限模糊且人機(jī)共存狀態(tài)成為新的社會特征，出現(xiàn)具有法律人格或類法律人格的智能機(jī)器人，以人際社會關(guān)系作為調(diào)整對象的法律制度將出現(xiàn)顛覆性的變革?！?4 〕在將來醫(yī)療AI確實(shí)達(dá)到能夠獨(dú)立診斷或獨(dú)立手術(shù)的地步，通過立法賦予其一定的法律主體地位也未嘗不可。其實(shí)，早在2016年，歐盟委員會的法律事務(wù)委員就建議將最先進(jìn)的AI人的身份定位為“電子人”。如果醫(yī)療AI要作為獨(dú)立主體進(jìn)行診斷或治療等活動，為了保證醫(yī)療水準(zhǔn)以及醫(yī)療安全，就應(yīng)當(dāng)向人類醫(yī)生一樣，讓其必須要獲得相關(guān)的行醫(yī)資格。到那個(gè)階段，法律就不能將其簡單地定義為人或者物，而應(yīng)是一定條件下的物或一定條件下的人，即應(yīng)當(dāng)以醫(yī)療AI的具體應(yīng)用場景對其作出人或者物的定性。醫(yī)療AI不僅要滿足作為醫(yī)療設(shè)備的各項(xiàng)指標(biāo)，更要達(dá)到作為主體“醫(yī)生”的各項(xiàng)要求，在出現(xiàn)醫(yī)療損害時(shí)甚至成為承擔(dān)法律責(zé)任的主體。

（二）醫(yī)療AI引發(fā)醫(yī)療損害時(shí)的法律責(zé)任

“沒有責(zé)任就沒有刑罰”是現(xiàn)代刑法的一個(gè)基本原理?！?5 〕責(zé)任的本質(zhì)特征是非難可能性，只有在具有非難可能性的情況下，行為人才能對不法行為承擔(dān)責(zé)任?！?6 〕由于我國目前尚未出臺專門針對醫(yī)療AI的法律法規(guī)，有必要在既有的法律框架內(nèi)探討醫(yī)療AI在診斷和治療過程中引發(fā)醫(yī)療事故時(shí)的法律責(zé)任。如上述，醫(yī)療AI目前仍是輔助醫(yī)療工具，還不具有法律上的主體地位，因此，當(dāng)下醫(yī)療AI造成醫(yī)療事故時(shí)，責(zé)任主體仍是研發(fā)者、生產(chǎn)者以及使用者。法律責(zé)任通常包括民事責(zé)任和刑事責(zé)任。〔17 〕