醫(yī)療人工智能致人損害時(shí)的責(zé)任探析和法律規(guī)制

王超

關(guān)鍵字：醫(yī)療人工智能；醫(yī)療損害賠償；注意義務(wù)；法律挑戰(zhàn)

? 一、醫(yī)療人工智能的特征及其挑戰(zhàn)

人工智能是目前計(jì)算機(jī)學(xué)科領(lǐng)域的前沿部分，它是指通過改造機(jī)器，賦予機(jī)器和人類相同或者相似的行為模式和思考邏輯。通用人工智能（General Artificial Intelligence）“ChatGPT”在2023年出現(xiàn)后，迅速在網(wǎng)絡(luò)上走紅并為大眾所熟知。在其影響下，其他行業(yè)的專業(yè)人工智能得到迅猛發(fā)展，其中就包括醫(yī)療人工智能。醫(yī)療人工智能本身兼具人工智能和醫(yī)療雙重屬性，故在剖析我國(guó)面臨困境前需要分析其所具有的獨(dú)特屬性，目前來看，至少具有以下三方面特征：

第一，黑箱性。醫(yī)療人工智能利用機(jī)器的深度學(xué)習(xí)原理，可以快速自主學(xué)習(xí)、積累相關(guān)醫(yī)學(xué)知識(shí)，顯著提高準(zhǔn)確度、可靠性。但由于深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型是大量的隱藏層所形成的計(jì)算模型，即使是開發(fā)者也很難掌握其演算過程。故人工智能具有黑箱（balck box）性。

第二，動(dòng)態(tài)性。人工智能的應(yīng)用不能是靜態(tài)的，必須通過不斷地在輸入端更新大量資料，重復(fù)校驗(yàn)經(jīng)隱藏層分析后經(jīng)輸出端產(chǎn)出的結(jié)果，這個(gè)過程必須是持續(xù)的。例如：醫(yī)療人工智能影像診斷，需要在輸入端輔以大量的數(shù)據(jù)資料，如根據(jù)陰影密度判斷疾病的種類病變位置等，之后在輸出端便產(chǎn)出結(jié)果，醫(yī)務(wù)工作人員根據(jù)結(jié)果判斷之前的驗(yàn)證。

第三，情景偏差性。由于人工智慧醫(yī)療需要大量數(shù)據(jù)資料進(jìn)行維持，其做出結(jié)果的準(zhǔn)確程度是與數(shù)據(jù)資料的完善性成正比的，即數(shù)據(jù)庫越完善，該結(jié)果的準(zhǔn)確性就越高，由于經(jīng)濟(jì)水平差異，科技發(fā)展?fàn)顩r不一，故醫(yī)療人工智能的效能會(huì)有情景上的偏差。在美國(guó)醫(yī)療人工智能軟件開發(fā)多由醫(yī)療資源豐富的研究中心與人才濟(jì)濟(jì)大學(xué)或者醫(yī)院進(jìn)行合作，如IBM沃森腫瘤學(xué)系統(tǒng)的運(yùn)行是IBM公司與 Sloan Kettering癌癥醫(yī)院合作開發(fā)。出于技術(shù)、法規(guī)以及商業(yè)等方面的考慮，投資者會(huì)和大學(xué)醫(yī)院等合作。醫(yī)療人工智能的開發(fā)和使用是為了更好地節(jié)約醫(yī)療資源，促進(jìn)醫(yī)療專業(yè)知識(shí)的普及化，減少醫(yī)療資源差異。情景差異性使醫(yī)療人工智能是否具有這項(xiàng)功能面臨著挑戰(zhàn)。

由于醫(yī)療人工智能涉及普通群眾且具有高度專業(yè)性，所以說醫(yī)療人工智能更應(yīng)得到法律上的關(guān)注。歐盟2017年便出現(xiàn)了《機(jī)器人民法規(guī)范的建議》。美國(guó)自2016年實(shí)行21世紀(jì)健康法案（The 21st Century Cures Act）以后，美國(guó)藥品監(jiān)督管理局（FDA）對(duì)醫(yī)療人工智能的管制便逐漸明確。而我國(guó)法律目前基本仍處于空白狀態(tài)，急需對(duì)于醫(yī)療人工智能的實(shí)際應(yīng)用和致人損害責(zé)任劃分等問題予以回應(yīng)。

? 二、醫(yī)療人工智能致人損害責(zé)任探析

傳統(tǒng)醫(yī)療糾紛案件完全可以直接依據(jù)《民法典》侵權(quán)責(zé)任編、合同編有關(guān)規(guī)定或者雙方約定進(jìn)行處理。但隨著醫(yī)療人工智能的出現(xiàn)，法律關(guān)系日漸復(fù)雜，如何清晰劃分醫(yī)師在醫(yī)療人工智能參與過程中的損害責(zé)任便是我們要解決的首要任務(wù)。目前來看，醫(yī)療人工智能在臨床上的應(yīng)用是漸進(jìn)發(fā)展式的，目前仍主要是輔助醫(yī)師；之后可能會(huì)起到一定的實(shí)質(zhì)性作用；甚至發(fā)展到特定情形下完全取代醫(yī)師。目前我國(guó)主要是需要針對(duì)初級(jí)階段各方主體責(zé)任做出及時(shí)回應(yīng)，當(dāng)然也應(yīng)關(guān)注醫(yī)療人工智能的生命周期。

? 1.醫(yī)師責(zé)任

醫(yī)師責(zé)任是一個(gè)相對(duì)動(dòng)態(tài)發(fā)展的過程，會(huì)隨著醫(yī)療人工智能發(fā)展而呈現(xiàn)不同形態(tài)。我國(guó)醫(yī)療人工智能仍處于初級(jí)階段，目前其僅能輔助醫(yī)師，這種情況下的醫(yī)療人工智能一般用于處理比較簡(jiǎn)單且單調(diào)的任務(wù)，例如醫(yī)學(xué)影像篩查或者復(fù)核。此階段的醫(yī)療人工智能致人損害可能原因，通常包括醫(yī)療人工智能的選用不當(dāng)、操作人員失誤、醫(yī)療人工智能軟件本身存在缺陷三種。若因醫(yī)務(wù)人員事前過失選用人工智能不當(dāng)或醫(yī)生事后忽略人工智能報(bào)告致使患者出現(xiàn)損害，此時(shí)應(yīng)根據(jù)一般醫(yī)療糾紛案件處理。若醫(yī)師無任何過失，單純因醫(yī)療人工智能軟件自身錯(cuò)誤出現(xiàn)研判錯(cuò)誤，直接導(dǎo)致醫(yī)療糾紛，則需檢測(cè)醫(yī)療人工智能軟件是否具備缺陷，看是否可以構(gòu)成產(chǎn)品責(zé)任。

第二階段時(shí)，醫(yī)療人工智能可以實(shí)質(zhì)影響醫(yī)師決策，其主要是指某些高精準(zhǔn)度手術(shù)或者治療。一般來說，醫(yī)師只有在拒絕使用相符于常規(guī)標(biāo)準(zhǔn)的醫(yī)療人工智能建議治療標(biāo)準(zhǔn)或者接受明顯不符合常規(guī)標(biāo)準(zhǔn)的醫(yī)療人工智能建議治療標(biāo)準(zhǔn)等存在明顯過錯(cuò)時(shí)才承擔(dān)責(zé)任。此時(shí)法院判定責(zé)任范圍時(shí)需要根據(jù)醫(yī)療人工智能的影響程度、患者的病情、體質(zhì)的特征、診療方式的特殊性等進(jìn)行綜合的個(gè)案判斷。

第三種情況是醫(yī)療人工智能實(shí)質(zhì)上取代醫(yī)師進(jìn)行醫(yī)療決策。這個(gè)過程是醫(yī)療人工智能達(dá)到一個(gè)相對(duì)高的發(fā)達(dá)程度，其專業(yè)水平和臨床判斷超過頂尖的?？漆t(yī)師，此時(shí)人工智能完全取代醫(yī)師進(jìn)行醫(yī)療決策，這是醫(yī)學(xué)和科技進(jìn)步的必然趨勢(shì)。未來的醫(yī)療人工智能可能成為一般醫(yī)師處理類似病例時(shí)都會(huì)采用的工具，且使用醫(yī)療人工智能達(dá)到最佳的診療效果，如果醫(yī)師未采用此工具，很有可能會(huì)構(gòu)成違反注意義務(wù)而構(gòu)成過失。若未來人工智能具備?？漆t(yī)師的決策水平以及咨詢功能，而一般醫(yī)師使用醫(yī)療人工智能所做的決策雖有錯(cuò)誤，但是要分析該醫(yī)療人工智能所做決策錯(cuò)誤的原因，是否由其研發(fā)商的過錯(cuò)導(dǎo)致，醫(yī)師或者醫(yī)療機(jī)構(gòu)可以以此作為抗辯。雖然醫(yī)療人工智能所做的決策不正確，但是鑒于其做決策為新的醫(yī)療常規(guī)，客觀上認(rèn)為醫(yī)師對(duì)該決策有信賴，因此要分析其最終原因。

? 2.醫(yī)療機(jī)構(gòu)責(zé)任

第一，醫(yī)療機(jī)構(gòu)責(zé)任。根據(jù)《民法典》1218條規(guī)定，醫(yī)療機(jī)構(gòu)可能存在不以醫(yī)務(wù)人員過錯(cuò)為基礎(chǔ)的“獨(dú)立”過錯(cuò)。隨著“刺破人工智能面紗”的學(xué)說被提出，該學(xué)說認(rèn)為人工智能可以享有有限的法律人格并承擔(dān)有限的法律責(zé)任，其造成的損害賠償責(zé)任仍然由其研制者或者使用者承擔(dān)。如果醫(yī)療機(jī)構(gòu)參與醫(yī)療人工智能的設(shè)計(jì)研發(fā)制造等則與研制者地位相同，對(duì)于醫(yī)療人工智能軟件本身出現(xiàn)的問題所造成的損害，所有侵權(quán)人共同承擔(dān)連帶責(zé)任。若因其使用者即醫(yī)療機(jī)構(gòu)中的醫(yī)務(wù)人員的原因致使患者遭受人身損害，故醫(yī)療機(jī)構(gòu)屬于組織使用的主體，故應(yīng)承擔(dān)損害賠償責(zé)任。

? 3.醫(yī)療人工智能研發(fā)者責(zé)任

若使用醫(yī)療人工智能在診療中造成患者損害，患者除可以向醫(yī)療機(jī)構(gòu)主張請(qǐng)求損害賠償之外，還可以向研制者主張醫(yī)療產(chǎn)品責(zé)任。主要原因在于：一般來說，人工智能軟件存于芯片等載體中，或者與其他硬件結(jié)合成產(chǎn)品的一部分，該載體或者結(jié)合體為產(chǎn)品。但是單純的軟件算法是否可以成為產(chǎn)品，這個(gè)學(xué)界是存在爭(zhēng)議的。歐盟明確將人工智能列入產(chǎn)品責(zé)任。我國(guó)《產(chǎn)品質(zhì)量法》第2條同樣將軟件歸于產(chǎn)品的范疇。在泉州中級(jí)人民法院（2020）民終1496號(hào)民事判決書中也將軟件認(rèn)定為產(chǎn)品。有學(xué)者產(chǎn)品責(zé)任設(shè)置的目的分析，認(rèn)為軟件的無形性不能阻礙其適用產(chǎn)品責(zé)任。另外《醫(yī)療器械監(jiān)督管理?xiàng)l例》第130條規(guī)定也是將軟件歸于醫(yī)療器械中，由此可見將醫(yī)療人工智能軟件認(rèn)定為產(chǎn)品具有一定的根據(jù)。故若因其發(fā)生醫(yī)療糾紛，當(dāng)然應(yīng)該適用產(chǎn)品責(zé)任。

? 三、結(jié)語

人工智能正在影響著時(shí)代的各行各業(yè)發(fā)展，因其導(dǎo)致的醫(yī)療損害責(zé)任正面臨巨大挑戰(zhàn)。若損害賠償責(zé)任規(guī)范過度寬松，雖可促進(jìn)醫(yī)療人工智能的發(fā)展，但會(huì)使其品質(zhì)無法保證、導(dǎo)致病人權(quán)益難以保障；若損害賠償責(zé)任規(guī)范過度嚴(yán)格，將導(dǎo)致醫(yī)療人工智能的使用更為謹(jǐn)慎，阻礙醫(yī)療科技的發(fā)展。為此，我們應(yīng)保持醫(yī)學(xué)理論、法體系對(duì)于醫(yī)療人工智能實(shí)踐的關(guān)注，形成良性互動(dòng)，建立對(duì)醫(yī)療人工智能嚴(yán)格的監(jiān)督機(jī)制，努力尋找法律體系、醫(yī)療機(jī)構(gòu)與科技發(fā)展之間的均衡點(diǎn)。

參考文獻(xiàn)：

[1]張彩亮、林克亮等.人工智能在醫(yī)療的應(yīng)用及未來展望[J].臺(tái)灣醫(yī)檢雜志.2019（02）：3.

[2]Holzinger A，Biemann C，et al.What do we need to build explainable AI systems for the medical domain.arXiv preprint arXiv：1712.09923（2017）.

[3]何煉紅，王志雄.醫(yī)療人工智能影像診斷侵權(quán)損害賠償法律問題[J].政治與法律，2020（03）：27-37.

[4]W.Nicholson II Price，Regulating Black-Box Medicine，116 Mich.L.Rev.421（2017）.

[5]王旭玲，王旭霞.醫(yī)療損害責(zé)任的請(qǐng)求權(quán)基礎(chǔ)分析[J].甘肅理論學(xué)刊.2019（6）：101-106.

[6]王旭玲.醫(yī)療損害責(zé)任制度研究[M].北京，法律出版社，2022.

[7]A.Michael Froomkin， Ian Kerr & Joelle Pineau： When AIs Outperform Doctors： Confronting the Challenges of a Tort-Induced over-Reliance on Machine Learning， 61 Ariz.L.Rev. 33 （2019）.

[8]袁曾.人工智能有限法律人格審視[J].東方法學(xué).2017（05）：55-57.

[9]丁利明.軟件侵權(quán)的法律適用規(guī)則探究——以產(chǎn)品責(zé)任為視角的分析[J].大連理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2010（02）：85.

[10]鄭志峰.診療人工智能的醫(yī)療損害責(zé)任[J].中國(guó)法學(xué).2023（01）：203-221.

[11]周學(xué)峰.生成式人工智能侵權(quán)責(zé)任探析[J].比較法研究.2023（04）：117-131.

[12]吳振吉.人工智慧醫(yī)療傷害之損害賠償責(zé)任[J].臺(tái)大法學(xué)論叢.2022（02）：513.

[13]朱姝堯，劉建利.論醫(yī)療人工智能診療中醫(yī)師違反注意義務(wù)的損害責(zé)任[J].醫(yī)學(xué)與社會(huì).2023（10）：132-137.

[14]吳振吉.人工智慧醫(yī)療傷害之損害賠償責(zé)任[J].臺(tái)大法學(xué)論叢.2022（02）：521.

基金項(xiàng)目：1.山東大學(xué)法學(xué)院2021年度研究生科研創(chuàng)新碩士項(xiàng)目“數(shù)字經(jīng)濟(jì)下的企業(yè)數(shù)據(jù)法律保護(hù)模式研究”；2.山東大學(xué)2022年馬克思主義人權(quán)理論與中國(guó)特色社會(huì)主義法治項(xiàng)目“中國(guó)特色社會(huì)主義法治體系下數(shù)字人權(quán)法律保障研究”階段性成果（項(xiàng)目編號(hào)：61040062914001）。

（作者單位：山東大學(xué)）