李潤生,史 飚
(1.北京中醫(yī)藥大學(xué)人文學(xué)院,北京 100029;2.中國政法大學(xué)民商經(jīng)濟(jì)法學(xué)院,北京 100088)
人工智能(Artificial Intelligence,簡稱 AI)已不再只是科幻小說或電影里的橋段,而是正加速走進(jìn)我們的生活。醫(yī)療是人工智能落地最早、發(fā)展最快、結(jié)合最緊密、受影響最深的領(lǐng)域之一。普華永道在其發(fā)布的《全球AI 報(bào)告:探索人工智能革命》中提出了“AI 影響指數(shù)”的概念,對最容易受到AI影響的行業(yè)進(jìn)行了排名,其中醫(yī)療和汽車并列第一位[1]。人工智能在醫(yī)療領(lǐng)域的發(fā)展正不斷深化,尤其在診斷、治療等核心領(lǐng)域,如谷歌旗下DeepMind AI 通過3D 掃描可以識別50 種左右的眼科疾病,準(zhǔn)確率已達(dá)到94%;貝斯以色列女執(zhí)事醫(yī)療中心(BIDMC)與哈佛醫(yī)學(xué)院合作研發(fā)的人工智能系統(tǒng),對乳腺癌病理圖片中癌細(xì)胞的識別準(zhǔn)確率已達(dá)到92%[2]。
我國對醫(yī)療人工智能有著迫切的需求。我國醫(yī)療行業(yè)長期存在醫(yī)生資源供需缺口大、優(yōu)質(zhì)醫(yī)生資源分配不均、診斷誤診漏診率高、醫(yī)療費(fèi)用成本過高等問題,而且隨著人口老齡化加劇、慢性病患者群體增加,上述問題愈發(fā)嚴(yán)重。人工智能醫(yī)療則可在各環(huán)節(jié)助力解決前述問題。我國政府也非常重視人工智能醫(yī)療產(chǎn)業(yè)的發(fā)展,國務(wù)院2017年7月發(fā)布的《新一代人工智能發(fā)展規(guī)劃》就將智能醫(yī)療作為重點(diǎn)支持、率先突破的領(lǐng)域之一。
人工智能在賦能醫(yī)療行業(yè)的同時(shí),也不可避免地會引發(fā)各類人身或財(cái)產(chǎn)損害。由于醫(yī)療行業(yè)殊為不同,各國紛紛調(diào)整規(guī)則予以專門應(yīng)對。2016年10月,歐盟議會法律事務(wù)委員會(JURI)發(fā)布研究成果 《歐盟機(jī)器人民事法律規(guī)則》(European Civil Law Rules in Robotics),除提出關(guān)于人工智能的一般性調(diào)整規(guī)則外,還呼吁對特定類型機(jī)器人進(jìn)行專門立法、特別規(guī)制,其中就包括醫(yī)療機(jī)器人、護(hù)理機(jī)器人、人類修復(fù)和增強(qiáng)機(jī)器人等[3]。美國早在1996年便制定了 《健康保險(xiǎn)可攜性和責(zé)任法》(Health Insurance Portability and Accountability Act of 1996,HIPAA),通過界定患者隱私權(quán)的保護(hù)范圍和方式,厘定人工智能利用和分析醫(yī)療數(shù)據(jù)的合理空間[4]。德國于2015年通過了專門規(guī)范醫(yī)療衛(wèi)生數(shù)字化和人工智能的《電子衛(wèi)生法》(E-Health Law)。2018年7月,日本政府宣布將完善關(guān)于人工智能醫(yī)療設(shè)備的一系列規(guī)則,把人工智能醫(yī)療設(shè)備定位為輔助醫(yī)生進(jìn)行診療的設(shè)備,最終診療責(zé)任仍由醫(yī)生承擔(dān)[2]。
近幾年,我國民法學(xué)界對人工智能問題的研究熱度頗高,但研究視閾相對聚焦。就一般性民法問題而言,研究主要集中在民事主體資格和民事責(zé)任上。關(guān)于人工智能的民事法律地位,學(xué)者提出了完全法律人格說[5]、有限人格說[6]、電子人格說[7]等眾多學(xué)說;關(guān)于人工智能引發(fā)的民事責(zé)任,學(xué)者也提出了不同觀點(diǎn): 有學(xué)者認(rèn)為現(xiàn)行民法規(guī)則能夠解決人工智能問題,人工智能對現(xiàn)實(shí)造成的損害應(yīng)適用侵權(quán)責(zé)任法的產(chǎn)品責(zé)任規(guī)則[8];還有學(xué)者則認(rèn)為,面對人工智能帶來的可預(yù)測性、可解釋性及因果關(guān)系認(rèn)定等難題,傳統(tǒng)侵權(quán)法、合同法等民事規(guī)則的局限性凸顯,應(yīng)探索新的責(zé)任框架,更合理地分配風(fēng)險(xiǎn)和責(zé)任[9]等。就具體應(yīng)用領(lǐng)域的民法問題而言,研究主要集中在自動駕駛等領(lǐng)域,主要討論自動駕駛對于現(xiàn)行交通侵權(quán)規(guī)則的影響[10]。然而,關(guān)于醫(yī)療人工智能的相關(guān)研究則比較少見。應(yīng)當(dāng)說,醫(yī)療人工智能的發(fā)展確實(shí)在方方面面沖擊著傳統(tǒng)醫(yī)療損害責(zé)任規(guī)則,那么,現(xiàn)行規(guī)則①能否適應(yīng)人工智能時(shí)代的新發(fā)展?是否需要對現(xiàn)行規(guī)則進(jìn)行調(diào)整及如何調(diào)整?這些緊迫而重要的問題鮮有人涉及,這也是本文的寫作緣由及擬突破創(chuàng)新之處。
在人工智能時(shí)代,醫(yī)療產(chǎn)品更加深入地參與到醫(yī)療決策過程中,并微妙地改變著實(shí)際決策的過程甚至結(jié)果,這在某種意義上打破了《侵權(quán)責(zé)任法》所建構(gòu)的相對平衡的醫(yī)患規(guī)則體系;同時(shí),基于醫(yī)療人工智能的特點(diǎn),患者尋求救濟(jì)的難度也顯著增加。這一切都要求我們重新檢視現(xiàn)行醫(yī)療損害責(zé)任規(guī)則,正確認(rèn)知醫(yī)療人工智能。
無論在英美法系還是大陸法系,醫(yī)療侵權(quán)過錯歸責(zé)都是一直恪守的原則。在英美法系,有所謂“商品和服務(wù)的二分法”,即基于商品而致的損害,通常施以嚴(yán)格責(zé)任,如產(chǎn)品缺陷責(zé)任、貨物銷售中的默示擔(dān)保責(zé)任等;而基于服務(wù)而致的損害,則僅當(dāng)服務(wù)者未盡合理注意義務(wù)即有過錯時(shí)方負(fù)責(zé)任,如法律服務(wù)、會計(jì)服務(wù)等?!斑^失責(zé)任關(guān)注的是人,是人的行為,嚴(yán)格責(zé)任的關(guān)注點(diǎn)則轉(zhuǎn)向物,關(guān)注產(chǎn)品的狀況和安全性?!盵11]醫(yī)療不但是一種服務(wù),而且是一種充滿不確定性和危險(xiǎn)性、帶有鮮明公益性的特殊服務(wù),對醫(yī)生群體應(yīng)予以特殊關(guān)照,在過錯、因果關(guān)系認(rèn)定等方面應(yīng)更加嚴(yán)格謹(jǐn)慎。雖然在醫(yī)療服務(wù)過程中亦附帶有醫(yī)療產(chǎn)品的提供,但既往判例[11]多認(rèn)為醫(yī)生職業(yè)技能判斷仍居主導(dǎo)地位,產(chǎn)品提供僅是服務(wù)的一部分,整體的醫(yī)療交易屬“服務(wù)”而非“商品”。大陸法系在醫(yī)療侵權(quán)上亦堅(jiān)持過錯歸責(zé),認(rèn)為醫(yī)療侵權(quán)責(zé)任屬專家責(zé)任之一種,醫(yī)療過程依賴醫(yī)生的專業(yè)技能和判斷,只有當(dāng)醫(yī)生違背應(yīng)負(fù)之專家注意義務(wù)時(shí),方可課以責(zé)任。我國《侵權(quán)責(zé)任法》第54 條②醫(yī)療損害責(zé)任一般條款亦堅(jiān)持過錯歸責(zé)。
然而,在人工智能時(shí)代,醫(yī)療服務(wù)和產(chǎn)品的地位及醫(yī)療決策過程正發(fā)生微妙變化。一方面,人工智能因?yàn)榭稍谟邢迺r(shí)間內(nèi)分析處理幾乎所有相關(guān)信息和數(shù)據(jù),克服人類的局限性,在輔助診斷和治療方面的能力大大提升,準(zhǔn)確率已經(jīng)或即將超過人類醫(yī)生——這種優(yōu)勢在未來還將不斷擴(kuò)大,例如,據(jù)研究統(tǒng)計(jì)[2],在肺癌、乳腺癌、食管癌、腸癌、阿爾茲海默癥、糖尿病、視網(wǎng)膜病變等疾病的早期檢測上,人工智能算法已經(jīng)達(dá)到非常高的準(zhǔn)確率,有些甚至已超過普通人類醫(yī)生。人工智能醫(yī)療產(chǎn)品明顯不同于普通醫(yī)療產(chǎn)品,其對醫(yī)生診療的影響是巨大的,甚至具有主導(dǎo)性。另一方面,面對人工智能提供的“輔助性”意見,醫(yī)生的解釋工具十分有限,有時(shí)甚至無法解釋,“現(xiàn)代人工智能系統(tǒng)越來越成為一個‘黑箱’,所有決策都存在于這個‘黑箱’之中,即使學(xué)習(xí)算法是公開和透明的,但它產(chǎn)生的模型可能不是,因?yàn)闄C(jī)器學(xué)習(xí)模型的內(nèi)部決策邏輯并不總是可以被理解的,即使對于它的設(shè)計(jì)者也是如此”[9],阿爾法狗和圍棋世界冠軍的對弈棋譜甚至連圍棋專家都無法理解[12]。雖然各國均強(qiáng)調(diào)在醫(yī)療領(lǐng)域應(yīng)確保醫(yī)生的最終決策權(quán)③,但醫(yī)療的實(shí)際決策過程很可能轉(zhuǎn)變?yōu)椤叭斯ぶ悄軟Q策-醫(yī)生驗(yàn)證復(fù)查”的模式,這種“先入為主”的影響恐怕是巨大而難以阻擋的。
自改革開放以來,我國醫(yī)療損害責(zé)任規(guī)則經(jīng)歷了多次變更,每次變更背后都有深刻的形勢原因。以1987年國務(wù)院出臺的《醫(yī)療事故處理辦法》為標(biāo)志,我國進(jìn)入了限制受害患者民事權(quán)利、偏重保護(hù)醫(yī)療機(jī)構(gòu)的歷史階段,患者僅能獲得一次性經(jīng)濟(jì)補(bǔ)償而非等額賠償,且只得在醫(yī)療事故鑒定后或行政處理后方可起訴,這導(dǎo)致了醫(yī)患關(guān)系的失衡。2002年,以最高人民法院《關(guān)于民事訴訟證據(jù)的若干規(guī)定》和國務(wù)院《醫(yī)療事故處理?xiàng)l例》的出臺為標(biāo)志,我國進(jìn)入了以明確加重醫(yī)療機(jī)構(gòu)舉證責(zé)任為特征的第二個階段,醫(yī)療侵權(quán)實(shí)行過錯和因果關(guān)系雙倒置。這種制度設(shè)計(jì)有矯枉過正之嫌,不但未能有效緩解醫(yī)患之間的緊張關(guān)系,而且催生出“防御性醫(yī)療”、看病難、看病貴等新問題。為此,2009年出臺的《侵權(quán)責(zé)任法》以專章形式規(guī)定了“醫(yī)療損害責(zé)任”,取消了過錯和因果關(guān)系倒置的規(guī)定,同時(shí)又設(shè)置了若干過錯法定推定標(biāo)準(zhǔn),標(biāo)志著我國進(jìn)入了醫(yī)患平衡的第三個階段[13]。但是,隨著人工智能逐步進(jìn)入醫(yī)療領(lǐng)域,這種平衡很可能被再次打破。一方面,人工智能在各方面賦能醫(yī)生,醫(yī)生擁有了更多的輔助工具,效率和能力都大大提升。例如,最頂尖的人類醫(yī)生在識別結(jié)腸息肉中的癌細(xì)胞時(shí)錯誤率約為3.5%,而在人工智能的協(xié)助下,識別錯誤率可降至0.5%[2],醫(yī)生之于患者的優(yōu)勢更大;另一方面,人工智能很可能成為醫(yī)生新的保護(hù)傘和擋箭牌,患者索賠的難度將增大??傊?,醫(yī)患情勢的變更,要求我們重新檢視現(xiàn)行規(guī)則。
當(dāng)患者就醫(yī)而因人工智能醫(yī)療產(chǎn)品受到損害時(shí),可能會涉及兩類侵權(quán)責(zé)任,即過錯歸責(zé)的醫(yī)療侵權(quán)責(zé)任和無過錯歸責(zé)的醫(yī)療產(chǎn)品責(zé)任。但是,在人工智能時(shí)代,患者通過這兩類侵權(quán)責(zé)任規(guī)則尋求救濟(jì),都有相當(dāng)大的難度。
首先,過錯難以證明和認(rèn)定。在人工智能輔助診療的場景下,醫(yī)生作出判斷可能更多出于對人工智能的信賴,而且,當(dāng)人工智能普遍具有更高的準(zhǔn)確率時(shí),醫(yī)生的信賴應(yīng)當(dāng)說是有合理基礎(chǔ)的,很難要求醫(yī)生檢查出連智能機(jī)器都未能篩查出的問題,“醫(yī)療是一門不確定的藝術(shù)”[14],智能機(jī)器也會有一定的誤診率,但讓醫(yī)生替代智能機(jī)器承擔(dān)責(zé)任,可能是對醫(yī)生的過分苛責(zé)。而且,人工智能具有自主性,在實(shí)際運(yùn)作過程中有其獨(dú)特邏輯,可能偏離人類控制,這連機(jī)器的設(shè)計(jì)者都無法完全掌控,更不用說醫(yī)生了。總之,很難將損害的發(fā)生歸結(jié)為醫(yī)生的過錯。
其次,因果關(guān)系難以證明和認(rèn)定。醫(yī)療本身就有很多難以解釋的地方,至今仍有很多人類無法攻克、無法解釋的疾病。醫(yī)療過程充滿探索性,不僅具有科學(xué)屬性,而且有很多靈感、直覺等非理性因素的參與,醫(yī)療侵權(quán)中因果關(guān)系的確定通常需要專業(yè)機(jī)構(gòu)的介入。在人工智能時(shí)代,因果關(guān)系更加難以證明和認(rèn)定。人工智能自身也有很多難以解釋、難以預(yù)測的現(xiàn)象,即使代碼是透明公開的;人工智能的“后天經(jīng)歷”同樣可能具有重大影響,成為實(shí)質(zhì)上的原因,例如后天的訓(xùn)練數(shù)據(jù)和學(xué)習(xí)經(jīng)歷、無良人士的干預(yù)和誤導(dǎo)等,這會進(jìn)一步加劇歸因的困難。
最后,產(chǎn)品缺陷難以證明和認(rèn)定,免責(zé)事由容易被濫用。產(chǎn)品缺陷是產(chǎn)品責(zé)任的必備要件。根據(jù)《產(chǎn)品質(zhì)量法》 第46 條的規(guī)定,產(chǎn)品缺陷是一種“不合理”的危險(xiǎn),不符合保障人體健康和人身、財(cái)產(chǎn)安全的國家或行業(yè)標(biāo)準(zhǔn)。人工智能醫(yī)療產(chǎn)品尚未有明確的國家或行業(yè)標(biāo)準(zhǔn)[15]。根據(jù)學(xué)者的總結(jié),產(chǎn)品缺陷可分為4 類,即制造缺陷、設(shè)計(jì)缺陷、警示缺陷和跟蹤觀察缺陷[16]。在人工智能情境下,誠如前述,設(shè)計(jì)缺陷很難證明;在難以控制產(chǎn)品后續(xù)行為及預(yù)測后續(xù)具體危險(xiǎn)事項(xiàng)的情況下,警示缺陷和跟蹤觀察缺陷也難以認(rèn)定;制造缺陷的證明和適用相對容易,但人工智能產(chǎn)品的主要風(fēng)險(xiǎn)可能并不在此。另外,根據(jù)《產(chǎn)品質(zhì)量法》第41 條④的規(guī)定,產(chǎn)品責(zé)任的免責(zé)事由主要有3 項(xiàng),而其中后兩個免責(zé)事由極易被濫用: 人工智能產(chǎn)品的缺陷很可能是在后天訓(xùn)練和學(xué)習(xí)過程中形成的,而在投入流通時(shí),尚無缺陷;即使投入流通時(shí)存在缺陷,也很可能是當(dāng)時(shí)的科學(xué)技術(shù)水平尚無從發(fā)現(xiàn)的。
關(guān)于人工智能法律主體資格的討論已不鮮見,有不少學(xué)者建議未來可賦予人工智能以完全的法律人格、有限的法律人格或電子人格等。歐盟議會法律事務(wù)委員會也提出未來可考慮賦予復(fù)雜的人工智能機(jī)器人以“電子人”(electronic persons)地位[17],沙特甚至已經(jīng)于2016年3月賦予智能機(jī)器人索菲亞以公民身份。但無論其他領(lǐng)域未來如何發(fā)展,筆者認(rèn)為,有兩個領(lǐng)域永遠(yuǎn)不可能賦予人工智能與人類等同的法律地位,一是規(guī)則制定和適用領(lǐng)域如立法、執(zhí)法、司法等領(lǐng)域,二為醫(yī)療領(lǐng)域,因?yàn)檫@是人類保證對這個世界的主導(dǎo)權(quán)及自身安全的基礎(chǔ)。
此外,關(guān)于人工智能醫(yī)療的法律規(guī)制必須體現(xiàn)差別對待原則。首先,人工智能即使定位為“物”,仍與普通物有很大不同,尤其是醫(yī)療人工智能關(guān)乎人類健康,附帶較多的倫理和情感因素,如手術(shù)機(jī)器人、護(hù)理機(jī)器人、心理康復(fù)機(jī)器人等,需予以特別對待。正如學(xué)者所言,人有人格,物有物格,人格必須平等,但物格可有高低之別[18],人工智能醫(yī)療應(yīng)屬最高等級的“物”,在使用、處分等方面應(yīng)予以適當(dāng)限制(如不可虐待)和特別保護(hù);其次,強(qiáng)弱不同的醫(yī)療人工智能對醫(yī)療過程和結(jié)果的影響有較大不同,需區(qū)別對待。歐盟議會法律事務(wù)委員會也明確指出,“一旦確定了承擔(dān)最終責(zé)任的各方,他們的責(zé)任應(yīng)該與機(jī)器人的實(shí)際操作水平及其自主程度成比例,從而使機(jī)器人的學(xué)習(xí)能力或自主權(quán)越大,機(jī)器人的訓(xùn)練時(shí)間越長,其教練員的責(zé)任就越大。”[17]綜上,很有必要重新檢視現(xiàn)行醫(yī)療損害責(zé)任規(guī)則。
人工智能的強(qiáng)弱之分具有相對性,需綜合考量多種因素。就人工智能醫(yī)療而言,一般應(yīng)考量的因素包括:與人類智能的接近程度;自主性和風(fēng)險(xiǎn)程度;經(jīng)認(rèn)證的或既往的診療準(zhǔn)確率;對人類醫(yī)生的影響力或依賴度;參與醫(yī)療過程的廣度和深度等。為了保證必要的可操作性和預(yù)見性,可考慮將醫(yī)療人工智能的強(qiáng)弱認(rèn)定與現(xiàn)行的醫(yī)療器械分類管理制度相銜接。例如,根據(jù)《醫(yī)療器械監(jiān)督管理?xiàng)l例》和《醫(yī)療器械注冊管理辦法》的規(guī)定,我國將醫(yī)療器械按照風(fēng)險(xiǎn)大小分為三類,即第一類(風(fēng)險(xiǎn)程度低)、第二類(中度風(fēng)險(xiǎn))和第三類(較高風(fēng)險(xiǎn)),其中,第一類醫(yī)療器械實(shí)行備案管理,第二、三類醫(yī)療器械實(shí)行注冊管理。未來可考慮細(xì)化人工智能醫(yī)療產(chǎn)品的分類管理制度,并將一定等級如第三類以上的醫(yī)療器械認(rèn)定為強(qiáng)人工智能。
當(dāng)前我國獲批的主要是風(fēng)險(xiǎn)較小的醫(yī)療人工智能產(chǎn)品,基本可歸類為弱人工智能的范疇。據(jù)統(tǒng)計(jì),雖然目前我國有不少人工智能企業(yè)申報(bào)第三類醫(yī)療器械注冊,但均未獲得認(rèn)證,僅有部分產(chǎn)品獲得了第二類醫(yī)療器械認(rèn)證[15]。根據(jù)2017年發(fā)布的最新版《醫(yī)療器械分類目錄》的規(guī)定,第二類人工智能醫(yī)療產(chǎn)品僅可提供診斷建議,僅具有輔助診斷功能,不可直接給出明確的診斷提示或結(jié)論,否則即應(yīng)歸類為第三類醫(yī)療器械。不過在未來,風(fēng)險(xiǎn)更大的人工智能醫(yī)療產(chǎn)品應(yīng)該會逐步進(jìn)入臨床應(yīng)用。國家藥品監(jiān)督管理局(CNDA)已經(jīng)理清了AI審批全流程的思路,并已于2018年12月中旬開放了三類AI 器械的審批通道[2]。美國食品藥品監(jiān)督管理局(FDA)已于近期相繼批準(zhǔn)了IDx-DR、Osteo-Detect 等9 款風(fēng)險(xiǎn)較高的人工智能醫(yī)療產(chǎn)品[2]。
1.弱人工智能之于醫(yī)療損害責(zé)任規(guī)則的現(xiàn)實(shí)影響分析
總的來說,弱人工智能對醫(yī)療過程和結(jié)果的影響有限,和普通醫(yī)療產(chǎn)品區(qū)別不大,其提供的診斷建議僅具有參考作用,仍需醫(yī)生的推理判斷和其他診療證據(jù)的呼應(yīng)與支持。但是,弱人工智能醫(yī)療產(chǎn)品和普通醫(yī)療產(chǎn)品仍有不同,其對醫(yī)生診療會有更大影響力,有時(shí)甚至?xí)兄卮笥绊?,如在醫(yī)療影像識別領(lǐng)域,醫(yī)生基于時(shí)間、精力等方面的限制,對人工智能的建議會有較大依賴;過錯、因果關(guān)系、缺陷等事項(xiàng)的證明亦會存在一定障礙,因此仍需對醫(yī)療損害責(zé)任規(guī)則做必要調(diào)適。
2.醫(yī)療侵權(quán)責(zé)任規(guī)則的適應(yīng)性調(diào)整
(1)過錯的證明和認(rèn)定
為降低過錯的證明和認(rèn)定難度,筆者建議,應(yīng)增加法定過錯推定標(biāo)準(zhǔn)?!肚謾?quán)責(zé)任法》第58 條⑤已規(guī)定了3 項(xiàng)法定過錯推定標(biāo)準(zhǔn),可在此基礎(chǔ)上增加部分標(biāo)準(zhǔn),具體可包括:使用未經(jīng)國家注冊認(rèn)證的人工智能醫(yī)療產(chǎn)品,包括在已注冊的普通醫(yī)療器械中擅自加入人工智能程序;擅自在臨床上應(yīng)用禁止類人工智能醫(yī)療技術(shù),或未經(jīng)備案的限制類人工智能醫(yī)療技術(shù);僅依據(jù)人工智能醫(yī)療產(chǎn)品的建議直接進(jìn)行診斷和治療;拒絕或無法提供人工智能醫(yī)療產(chǎn)品的內(nèi)部代碼和訓(xùn)練數(shù)據(jù);拒絕或無法提供人工智能醫(yī)療產(chǎn)品的既往診療準(zhǔn)確率;擅自修改人工智能醫(yī)療產(chǎn)品代碼而無法說明正當(dāng)理由等。
上述標(biāo)準(zhǔn)可在一定程度上實(shí)現(xiàn)過錯證明的客觀化,且這種推定或認(rèn)定標(biāo)準(zhǔn)是不可反證的,可有效降低證明和認(rèn)定難度。
(2)因果關(guān)系的證明和認(rèn)定
為降低因果關(guān)系的證明和認(rèn)定難度,筆者建議,應(yīng)適當(dāng)降低證明標(biāo)準(zhǔn),采用優(yōu)勢證據(jù)標(biāo)準(zhǔn)。根據(jù)《最高人民法院關(guān)于民事訴訟證據(jù)的若干規(guī)定》第73 條第1 款的規(guī)定,我國在民事領(lǐng)域主要采用高度蓋然性證明標(biāo)準(zhǔn),只有當(dāng)一方的舉證證明力明顯大于另一方的舉證即案件事實(shí)的存在具有高度蓋然性時(shí),方可予以認(rèn)定;當(dāng)雙方舉證均未能達(dá)到高度蓋然性程度時(shí),由負(fù)有證明責(zé)任的一方承擔(dān)舉證不能的不利后果。在弱人工智能醫(yī)療情境下,應(yīng)采行優(yōu)勢證據(jù)標(biāo)準(zhǔn),即證明責(zé)任仍由受害患者承擔(dān),但只要患者的舉證優(yōu)于醫(yī)院的舉證,案件事實(shí)存在的可能性大于不存在的可能性時(shí),即可予以認(rèn)定。優(yōu)勢證據(jù)標(biāo)準(zhǔn)產(chǎn)生的初衷即是保護(hù)弱者,舉例來說,當(dāng)發(fā)生醫(yī)療損害時(shí),患者只需證明醫(yī)生僅依據(jù)人工智能的建議進(jìn)行診斷有較大可能引發(fā)特定損害時(shí) (如證明人工智能系統(tǒng)有較高的錯誤率),即可對過錯予以認(rèn)定,而無需證明這通常會引發(fā)此等損害。
3.醫(yī)療產(chǎn)品責(zé)任規(guī)則的適應(yīng)性調(diào)整
(1)責(zé)任主體的適當(dāng)調(diào)整
應(yīng)增加設(shè)計(jì)者為責(zé)任主體,由設(shè)計(jì)者、生產(chǎn)者和銷售者承擔(dān)不真正連帶責(zé)任,而且,在內(nèi)部責(zé)任承擔(dān)上,設(shè)計(jì)者承擔(dān)無過錯責(zé)任,生產(chǎn)者和銷售者承擔(dān)過錯責(zé)任。應(yīng)當(dāng)說,人工智能醫(yī)療產(chǎn)品的設(shè)計(jì)者和生產(chǎn)者并不總是統(tǒng)一的,例如,在大型互聯(lián)網(wǎng)公司介入人工智能醫(yī)療領(lǐng)域及代工盛行的背景下,互聯(lián)網(wǎng)公司可能只提供軟件設(shè)計(jì),硬件制造則交由代工企業(yè)完成?;ヂ?lián)網(wǎng)公司與傳統(tǒng)醫(yī)療器械公司的合作也在加深,同樣會導(dǎo)致生產(chǎn)和設(shè)計(jì)的分離。此外,在純軟件人工智能的情形下,可能只存在設(shè)計(jì)者。
之所以讓設(shè)計(jì)者承擔(dān)無過錯的最終責(zé)任,有三方面理由:其一,軟件設(shè)計(jì)在人工智能醫(yī)療產(chǎn)品中處于核心地位,也是風(fēng)險(xiǎn)的最大來源;其二,設(shè)計(jì)者是風(fēng)險(xiǎn)的最有利控制者,從源頭代碼防范風(fēng)險(xiǎn)是最有可能也最有效的;其三,設(shè)計(jì)者通常也是整個商業(yè)模式中獲利最豐厚的主體,風(fēng)險(xiǎn)須與收益相一致。
(2)缺陷的證明和認(rèn)定
為降低人工智能醫(yī)療產(chǎn)品缺陷的證明和認(rèn)定難度,應(yīng)作如下調(diào)整:首先,國家和行業(yè)組織應(yīng)盡快出臺人工智能醫(yī)療產(chǎn)品的國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn),尤其應(yīng)明確各類人工智能醫(yī)療產(chǎn)品在制造、設(shè)計(jì)、警示、跟蹤觀察等方面的具體標(biāo)準(zhǔn);其次,建議增加“缺陷”的法定推定標(biāo)準(zhǔn),如人工智能醫(yī)療產(chǎn)品具備以下任一情形即認(rèn)定為有缺陷:未經(jīng)國家注冊認(rèn)證而投入使用,包括擅自在已注冊的普通醫(yī)療器械中加入人工智能程序而投入使用;禁止類或未經(jīng)備案的限制類人工智能產(chǎn)品投入臨床應(yīng)用;拒絕或無法提供內(nèi)部代碼和訓(xùn)練數(shù)據(jù);經(jīng)測驗(yàn)無法達(dá)到宣稱或認(rèn)證的診療準(zhǔn)確率;經(jīng)測驗(yàn)在同一時(shí)期內(nèi)缺乏診療一致性;經(jīng)檢測發(fā)現(xiàn)有重大代碼錯誤或系統(tǒng)漏洞等。
(3)免責(zé)事由的調(diào)整
為適應(yīng)責(zé)任主體的調(diào)整及防止免責(zé)事由的濫用,應(yīng)對《產(chǎn)品質(zhì)量法》第41 條作如下調(diào)整:其一,將免責(zé)事由的適用主體調(diào)整為“設(shè)計(jì)者”,生產(chǎn)者不再適用該等免責(zé)事由;其二,將免責(zé)事由第一項(xiàng)調(diào)整為“設(shè)計(jì)者未將產(chǎn)品投入生產(chǎn)或流通”;其三,免責(zé)事由的第二、三項(xiàng)不再適用于設(shè)計(jì)者。
相較于弱人工智能,強(qiáng)人工智能對醫(yī)療過程和結(jié)果的影響大大加深,可直接提供診斷提示或結(jié)論,診療準(zhǔn)確率等各項(xiàng)指標(biāo)已達(dá)到相當(dāng)高的水平,醫(yī)生對人工智能的依賴度也明顯增加。雖然醫(yī)生名義上仍擁有最終決策權(quán),但人工智能在一定程度上具有“證據(jù)之王”(king of evidence)[19]的屬性,醫(yī)生基于時(shí)間、精力、知識等方面的局限,很難進(jìn)行充分有效的反駁,醫(yī)療過程和結(jié)果的實(shí)質(zhì)主導(dǎo)權(quán)已悄然發(fā)生變化。此外,強(qiáng)人工智能的自主性大大增加,過錯、因果關(guān)系、缺陷等重要事實(shí)的舉證難度進(jìn)一步加大??傊?,強(qiáng)人工智能醫(yī)療產(chǎn)品與普通醫(yī)療產(chǎn)品已經(jīng)有重大不同,醫(yī)患間的利益失衡加劇,有必要對醫(yī)療損害責(zé)任規(guī)則進(jìn)行較大幅度的調(diào)整。
1.過錯的證明和認(rèn)定
首先應(yīng)當(dāng)指出,無論何種情境下,醫(yī)療侵權(quán)都應(yīng)始終恪守過錯歸責(zé)的底線。即使在強(qiáng)人工智能情境,決策的最終決定權(quán)仍然掌握在醫(yī)生手中,不應(yīng)對醫(yī)生課以嚴(yán)格責(zé)任。筆者認(rèn)為,采用過錯推定規(guī)則更為合適。
首先,在強(qiáng)人工智能下,僅僅參照《侵權(quán)責(zé)任法》第58 條的規(guī)定增加推定證明標(biāo)準(zhǔn),在很多情況下已不可行。例如,強(qiáng)人工智能一般可直接給出診斷提示或結(jié)論,甚至可以直接作為醫(yī)生診斷的依據(jù);強(qiáng)人工智能普遍有較高的診療準(zhǔn)確率,甚至已超過人類醫(yī)生,且效率更高,醫(yī)生可適度信賴;強(qiáng)人工智能的原始代碼更加復(fù)雜,提供起來較為困難,尤其是后續(xù)自主生成的新代碼及自主選擇的訓(xùn)練數(shù)據(jù),甚至無法提供。
其次,采用過錯推定規(guī)則具有內(nèi)在正當(dāng)性。其一,過錯推定機(jī)制的目的在于保護(hù)弱者,在強(qiáng)人工智能下,受害患者更加弱勢,需特殊保護(hù);其二,就舉證及事實(shí)查明能力而言,設(shè)計(jì)者、生產(chǎn)者和銷售者顯然更具優(yōu)勢。
最后,醫(yī)療機(jī)構(gòu)及醫(yī)生若能證明自己無過錯,亦可免責(zé)。筆者認(rèn)為,在強(qiáng)人工智能下,若醫(yī)療機(jī)構(gòu)及醫(yī)生能舉證證明人工智能出具的診斷提示或結(jié)論具有合理基礎(chǔ)且可排除合理懷疑,即可證明自己無過錯。
2.因果關(guān)系的證明和認(rèn)定
在強(qiáng)人工智能下,很多時(shí)候根本無法找出損害發(fā)生的確定原因,更不用說達(dá)到優(yōu)勢證據(jù)的證明標(biāo)準(zhǔn),因此,僅僅降低證明標(biāo)準(zhǔn)可能已無法有效保護(hù)患者。筆者建議,采用因果關(guān)系推定制度,一來更有助于保護(hù)弱者,二來醫(yī)療機(jī)構(gòu)及醫(yī)生也更有能力進(jìn)行舉證。
3.醫(yī)療強(qiáng)制責(zé)任險(xiǎn)和賠償基金的建立
基于過錯和因果關(guān)系的雙重推定,醫(yī)療機(jī)構(gòu)承擔(dān)責(zé)任的風(fēng)險(xiǎn)大大增加,這種制度設(shè)計(jì)實(shí)質(zhì)上是將患者的風(fēng)險(xiǎn)部分轉(zhuǎn)移給了醫(yī)療機(jī)構(gòu),但長此以往并不利于醫(yī)療機(jī)構(gòu)的安全運(yùn)營。因此,有必要將此風(fēng)險(xiǎn)進(jìn)行分散,筆者建議建立強(qiáng)制醫(yī)療責(zé)任險(xiǎn)制度。設(shè)置強(qiáng)制險(xiǎn)需有充分的理由,滿足特定的條件,一般來說,包括兩大條件:其一,有廣泛的社會基礎(chǔ),處理的是普遍存在的多數(shù)人都會面臨的風(fēng)險(xiǎn);其二,關(guān)乎社會公共利益[20]。應(yīng)當(dāng)說,設(shè)置醫(yī)療侵權(quán)責(zé)任險(xiǎn)完全滿足上述條件。首先,國家一直在積極推廣自愿性的醫(yī)療責(zé)任險(xiǎn),《醫(yī)療糾紛預(yù)防和處理?xiàng)l例》⑥、《基本醫(yī)療衛(wèi)生與健康促進(jìn)法(草案)》⑦等法律文件均有體現(xiàn),但實(shí)際推廣情況并不理想,有明顯分化,診所、小醫(yī)院等有較大的購買動力,而大醫(yī)院尤其是三甲大醫(yī)院則購買動力不足。原因在于,大醫(yī)院和小醫(yī)院及診所的技術(shù)水平、管理能力等存在較大差異,大醫(yī)院的單位醫(yī)療侵權(quán)比例明顯低于小醫(yī)院及個體診所,由此導(dǎo)致大醫(yī)院繳納了較多的保費(fèi),實(shí)際理賠額卻較少,普遍低于其所繳保費(fèi);小醫(yī)院及個體診所承受了更大的風(fēng)險(xiǎn),卻繳納了較少的保費(fèi)[21]。但是,在強(qiáng)人工智能下,可以預(yù)見這一現(xiàn)象將有較大改觀,通常只有大醫(yī)院才有實(shí)力和動力采用人工智能等新技術(shù),從而在制度上面臨更大風(fēng)險(xiǎn),大醫(yī)院購買醫(yī)療責(zé)任險(xiǎn)的動力將會提升,醫(yī)療責(zé)任險(xiǎn)也將有更廣泛的社會基礎(chǔ);其次,醫(yī)療責(zé)任險(xiǎn)設(shè)立的主要目標(biāo)是對患者這一弱勢群體進(jìn)行及時(shí)、充分的賠償,而醫(yī)療是每個公民的基本需求,醫(yī)療風(fēng)險(xiǎn)天然的就有社會化的傾向,這本身就是公共利益的體現(xiàn)。總之,在強(qiáng)人工智能下,設(shè)置和推動醫(yī)療強(qiáng)制責(zé)任險(xiǎn)具有充足的理由。此外,應(yīng)設(shè)立賠償基金,作為醫(yī)療強(qiáng)制責(zé)任險(xiǎn)的補(bǔ)充,確保未被保險(xiǎn)覆蓋的群體在損害發(fā)生時(shí)獲得必要補(bǔ)償,基金經(jīng)費(fèi)可從稅收、處罰、捐贈、保費(fèi)等渠道籌措。
1.責(zé)任主體、免責(zé)事由的適當(dāng)調(diào)整及缺陷的證明和認(rèn)定
強(qiáng)人工智能下,責(zé)任主體、免責(zé)事由及缺陷證明和認(rèn)定方面的調(diào)整與弱人工智能下的情形相似,可直接參照弱人工智能部分的處理方案。
2.因果關(guān)系的證明和認(rèn)定
筆者認(rèn)為,應(yīng)采用因果關(guān)系推定制度。首先,誠如前述,在強(qiáng)人工智能下,產(chǎn)品缺陷和醫(yī)療損害之間的因果關(guān)系更難證明,甚至無法建立聯(lián)系,單純降低證明標(biāo)準(zhǔn)已無濟(jì)于事。其次,在醫(yī)患失衡加劇的背景下,因果關(guān)系推定制度更有利于保護(hù)作為弱者的患者,而且設(shè)計(jì)者、生產(chǎn)者等相對來說更有能力進(jìn)行因果關(guān)系舉證。
3.產(chǎn)品強(qiáng)制責(zé)任險(xiǎn)和賠償基金的建立
產(chǎn)品責(zé)任本身即為無過錯責(zé)任,加之因果關(guān)系推定規(guī)則的適用及免責(zé)事由的調(diào)整等,產(chǎn)品責(zé)任的風(fēng)險(xiǎn)顯著增加,為避免抑制創(chuàng)新,應(yīng)設(shè)置產(chǎn)品強(qiáng)制責(zé)任險(xiǎn),進(jìn)行風(fēng)險(xiǎn)的社會化分散,可考慮讓產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者、銷售者及所有者按照風(fēng)險(xiǎn)高低適當(dāng)分擔(dān)保費(fèi)。設(shè)置產(chǎn)品責(zé)任險(xiǎn)也具有內(nèi)在正當(dāng)性。其一,醫(yī)療產(chǎn)品責(zé)任是強(qiáng)人工智能下行業(yè)普遍面臨的風(fēng)險(xiǎn),設(shè)計(jì)者、生產(chǎn)者都無法完全控制風(fēng)險(xiǎn),因而有動力和意愿分散風(fēng)險(xiǎn),有較為廣泛的社會基礎(chǔ);其二,通過強(qiáng)制保險(xiǎn)對受害患者這一弱勢群體進(jìn)行充分、及時(shí)的賠償,本身即是對公共利益的維護(hù);強(qiáng)人工智能使整個社會受益,應(yīng)當(dāng)實(shí)現(xiàn)風(fēng)險(xiǎn)的社會化分散。此外,應(yīng)設(shè)立賠償基金,作為醫(yī)療產(chǎn)品強(qiáng)制責(zé)任險(xiǎn)的補(bǔ)充,確保未被保險(xiǎn)覆蓋的群體在損害發(fā)生時(shí)獲得必要的補(bǔ)償,基金經(jīng)費(fèi)可通過稅收、處罰、捐贈、保費(fèi)等渠道籌措?!毒蜋C(jī)器人民事法律規(guī)則向歐盟委員會提出立法建議的報(bào)告草案》亦指出:“基于對日益自動化的機(jī)器人造成的損害承擔(dān)責(zé)任的復(fù)雜性,有必要推動建立一項(xiàng)強(qiáng)制性的保險(xiǎn)計(jì)劃,就像在汽車行業(yè)已經(jīng)發(fā)生的那樣,不過,與道路交通強(qiáng)制保險(xiǎn)制度不同的是,交強(qiáng)險(xiǎn)涵蓋了人類的行為和失敗,而機(jī)器人的保險(xiǎn)系統(tǒng)應(yīng)該考慮到供應(yīng)鏈中的所有潛在責(zé)任人。此外,如同汽車行業(yè),這樣的保險(xiǎn)制度可以由一個基金來補(bǔ)充,以確保在沒有保險(xiǎn)覆蓋的情況下,可以對損失進(jìn)行賠償”[17]。
人類已逐步進(jìn)入人工智能時(shí)代。人工智能技術(shù)正在加速發(fā)展和落地,且已成為各國競爭的戰(zhàn)略制高點(diǎn)。當(dāng)然,人工智能在為人類帶來巨大利益的同時(shí),也帶來不少風(fēng)險(xiǎn)。醫(yī)療是受人工智能技術(shù)影響最廣泛最深刻的領(lǐng)域之一,人工智能正悄然改變著醫(yī)療決策的過程和結(jié)果,改變著醫(yī)患之間的實(shí)力對比,也改變著醫(yī)療損害賠償?shù)木葷?jì)方式和難度。為有效平衡各方利益及保障醫(yī)療人工智能技術(shù)的可持續(xù)發(fā)展和平穩(wěn)創(chuàng)新,我國有必要對現(xiàn)行醫(yī)療損害責(zé)任規(guī)則進(jìn)行適當(dāng)調(diào)整。在弱人工智能下,應(yīng)于《侵權(quán)責(zé)任法》第58 條增加過錯證明的法定推定事項(xiàng),降低因果關(guān)系的證明標(biāo)準(zhǔn),對醫(yī)療產(chǎn)品責(zé)任的主體進(jìn)行相應(yīng)調(diào)整,設(shè)置缺陷證明的法定推定事項(xiàng),并對免責(zé)事由進(jìn)行有針對性的調(diào)整;在強(qiáng)人工智能下,應(yīng)采行過錯和因果關(guān)系的推定制度,并通過設(shè)置醫(yī)療強(qiáng)制責(zé)任險(xiǎn)、醫(yī)療產(chǎn)品強(qiáng)制責(zé)任險(xiǎn)及賠償基金對受害患者進(jìn)行充分、及時(shí)的賠償,實(shí)現(xiàn)風(fēng)險(xiǎn)的社會化分散。
注:
①我國已在立法上統(tǒng)一使用“醫(yī)療損害責(zé)任”的概念,這一概念更加直觀、中性,容易被社會各界接受,能夠概括所有的醫(yī)療侵權(quán)行為,終止醫(yī)療侵權(quán)概念、案由和法律適用上不統(tǒng)一的局面。根據(jù)楊立新教授的研究,我國《侵權(quán)責(zé)任法》第七章“醫(yī)療損害責(zé)任”共包括4種類型,即醫(yī)療技術(shù)損害責(zé)任(第57、58 條)、醫(yī)療倫理損害責(zé)任(第55、62 條)、醫(yī)療管理損害責(zé)任(由一般條款第54 條派生)和醫(yī)療產(chǎn)品損害責(zé)任(第59 條)。其中,前三者為過錯歸責(zé),本文為論述方便,將此三者合稱為“醫(yī)療侵權(quán)責(zé)任”,并與無過錯歸責(zé)的“醫(yī)療產(chǎn)品責(zé)任”相對應(yīng)。相關(guān)論述可參見:楊立新.醫(yī)療損害責(zé)任概念研究[J].政治與法律,2009,(3):18-30;楊立新.醫(yī)療損害責(zé)任一般條款的理解與適用[J].法商研究,2012,(5):65-71.
②《侵權(quán)責(zé)任法》第54 條:“患者在診療活動中受到損害,醫(yī)療機(jī)構(gòu)及其醫(yī)務(wù)人員有過錯的,由醫(yī)療機(jī)構(gòu)承擔(dān)賠償責(zé)任?!?/p>
③例如,歐盟議會法律事務(wù)委員會發(fā)布的《就機(jī)器人民事法律規(guī)則向歐盟委員會提出立法建議的報(bào)告草案》第39 條規(guī)定:“考慮到尊重機(jī)器人的監(jiān)督自主原則是至關(guān)重要的,因此最初的治療計(jì)劃和關(guān)于執(zhí)行的最終決定將始終是人類外科醫(yī)生的決定?!蔽覈鴩倚l(wèi)計(jì)委發(fā)布的《人工智能輔助診斷技術(shù)管理規(guī)范(2017年版)》 第3 條規(guī)定:“人工智能輔助診斷技術(shù)為輔助診斷和臨床決策支持系統(tǒng),不能作為臨床最終診斷,僅作為臨床輔助診斷和參考,最終診斷必須由有資質(zhì)的臨床醫(yī)師確定?!薄度斯ぶ悄茌o助治療技術(shù)管理規(guī)范(2017年版)》第3 條亦規(guī)定:“人工智能輔助治療技術(shù)的臨床應(yīng)用應(yīng)當(dāng)由2 名以上具有人工智能輔助治療技術(shù)臨床應(yīng)用能力的副主任醫(yī)師及以上專業(yè)技術(shù)職務(wù)任職資格的本醫(yī)療機(jī)構(gòu)注冊醫(yī)師共同決定,制訂合理的治療與管理方案,術(shù)者由本醫(yī)療機(jī)構(gòu)注冊醫(yī)師擔(dān)任?!?/p>
④《產(chǎn)品質(zhì)量法》第41 條:“因產(chǎn)品存在缺陷造成人身、缺陷產(chǎn)品以外的其他財(cái)產(chǎn)(以下簡稱他人財(cái)產(chǎn))損害的,生產(chǎn)者應(yīng)當(dāng)承擔(dān)賠償責(zé)任。生產(chǎn)者能夠證明有下列情形之一的,不承擔(dān)賠償責(zé)任:(一)未將產(chǎn)品投入流通的;(二)產(chǎn)品投入流通時(shí),引起損害的缺陷尚不存在的;(三)將產(chǎn)品投入流通時(shí)的科學(xué)技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在的。”
⑤《侵權(quán)責(zé)任法》第58 條:“患者有損害,因下列情形之一的,推定醫(yī)療機(jī)構(gòu)有過錯:(一)違反法律、行政法規(guī)、規(guī)章以及其他有關(guān)診療規(guī)范的規(guī)定;(二)隱匿或者拒絕提供與糾紛有關(guān)的病歷資料;(三)偽造、篡改或者銷毀病歷資料?!?/p>
⑥《醫(yī)療糾紛預(yù)防和處理?xiàng)l例》第7 條:“國家建立完善醫(yī)療風(fēng)險(xiǎn)分擔(dān)機(jī)制,發(fā)揮保險(xiǎn)機(jī)制在醫(yī)療糾紛處理中的第三方賠付和醫(yī)療風(fēng)險(xiǎn)社會化分擔(dān)的作用,鼓勵醫(yī)療機(jī)構(gòu)參加醫(yī)療責(zé)任保險(xiǎn),鼓勵患者參加醫(yī)療意外保險(xiǎn)?!?/p>
⑦《基本醫(yī)療衛(wèi)生與健康促進(jìn)法(草案)》第44 條:“國家完善醫(yī)療風(fēng)險(xiǎn)分擔(dān)機(jī)制,鼓勵醫(yī)療機(jī)構(gòu)參加醫(yī)療責(zé)任保險(xiǎn)或者建立醫(yī)療風(fēng)險(xiǎn)基金,鼓勵患者參加醫(yī)療意外保險(xiǎn)。”