• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能視野下醫(yī)療損害責(zé)任規(guī)則的適用和嬗變

    2019-02-11 14:20:01李潤生
    關(guān)鍵詞:證明規(guī)則人工智能

    李潤生,史 飚

    (1.北京中醫(yī)藥大學(xué)人文學(xué)院,北京 100029;2.中國政法大學(xué)民商經(jīng)濟(jì)法學(xué)院,北京 100088)

    一、問題的提出

    人工智能(Artificial Intelligence,簡稱 AI)已不再只是科幻小說或電影里的橋段,而是正加速走進(jìn)我們的生活。醫(yī)療是人工智能落地最早、發(fā)展最快、結(jié)合最緊密、受影響最深的領(lǐng)域之一。普華永道在其發(fā)布的《全球AI 報(bào)告:探索人工智能革命》中提出了“AI 影響指數(shù)”的概念,對最容易受到AI影響的行業(yè)進(jìn)行了排名,其中醫(yī)療和汽車并列第一位[1]。人工智能在醫(yī)療領(lǐng)域的發(fā)展正不斷深化,尤其在診斷、治療等核心領(lǐng)域,如谷歌旗下DeepMind AI 通過3D 掃描可以識別50 種左右的眼科疾病,準(zhǔn)確率已達(dá)到94%;貝斯以色列女執(zhí)事醫(yī)療中心(BIDMC)與哈佛醫(yī)學(xué)院合作研發(fā)的人工智能系統(tǒng),對乳腺癌病理圖片中癌細(xì)胞的識別準(zhǔn)確率已達(dá)到92%[2]。

    我國對醫(yī)療人工智能有著迫切的需求。我國醫(yī)療行業(yè)長期存在醫(yī)生資源供需缺口大、優(yōu)質(zhì)醫(yī)生資源分配不均、診斷誤診漏診率高、醫(yī)療費(fèi)用成本過高等問題,而且隨著人口老齡化加劇、慢性病患者群體增加,上述問題愈發(fā)嚴(yán)重。人工智能醫(yī)療則可在各環(huán)節(jié)助力解決前述問題。我國政府也非常重視人工智能醫(yī)療產(chǎn)業(yè)的發(fā)展,國務(wù)院2017年7月發(fā)布的《新一代人工智能發(fā)展規(guī)劃》就將智能醫(yī)療作為重點(diǎn)支持、率先突破的領(lǐng)域之一。

    人工智能在賦能醫(yī)療行業(yè)的同時(shí),也不可避免地會引發(fā)各類人身或財(cái)產(chǎn)損害。由于醫(yī)療行業(yè)殊為不同,各國紛紛調(diào)整規(guī)則予以專門應(yīng)對。2016年10月,歐盟議會法律事務(wù)委員會(JURI)發(fā)布研究成果 《歐盟機(jī)器人民事法律規(guī)則》(European Civil Law Rules in Robotics),除提出關(guān)于人工智能的一般性調(diào)整規(guī)則外,還呼吁對特定類型機(jī)器人進(jìn)行專門立法、特別規(guī)制,其中就包括醫(yī)療機(jī)器人、護(hù)理機(jī)器人、人類修復(fù)和增強(qiáng)機(jī)器人等[3]。美國早在1996年便制定了 《健康保險(xiǎn)可攜性和責(zé)任法》(Health Insurance Portability and Accountability Act of 1996,HIPAA),通過界定患者隱私權(quán)的保護(hù)范圍和方式,厘定人工智能利用和分析醫(yī)療數(shù)據(jù)的合理空間[4]。德國于2015年通過了專門規(guī)范醫(yī)療衛(wèi)生數(shù)字化和人工智能的《電子衛(wèi)生法》(E-Health Law)。2018年7月,日本政府宣布將完善關(guān)于人工智能醫(yī)療設(shè)備的一系列規(guī)則,把人工智能醫(yī)療設(shè)備定位為輔助醫(yī)生進(jìn)行診療的設(shè)備,最終診療責(zé)任仍由醫(yī)生承擔(dān)[2]。

    近幾年,我國民法學(xué)界對人工智能問題的研究熱度頗高,但研究視閾相對聚焦。就一般性民法問題而言,研究主要集中在民事主體資格和民事責(zé)任上。關(guān)于人工智能的民事法律地位,學(xué)者提出了完全法律人格說[5]、有限人格說[6]、電子人格說[7]等眾多學(xué)說;關(guān)于人工智能引發(fā)的民事責(zé)任,學(xué)者也提出了不同觀點(diǎn): 有學(xué)者認(rèn)為現(xiàn)行民法規(guī)則能夠解決人工智能問題,人工智能對現(xiàn)實(shí)造成的損害應(yīng)適用侵權(quán)責(zé)任法的產(chǎn)品責(zé)任規(guī)則[8];還有學(xué)者則認(rèn)為,面對人工智能帶來的可預(yù)測性、可解釋性及因果關(guān)系認(rèn)定等難題,傳統(tǒng)侵權(quán)法、合同法等民事規(guī)則的局限性凸顯,應(yīng)探索新的責(zé)任框架,更合理地分配風(fēng)險(xiǎn)和責(zé)任[9]等。就具體應(yīng)用領(lǐng)域的民法問題而言,研究主要集中在自動駕駛等領(lǐng)域,主要討論自動駕駛對于現(xiàn)行交通侵權(quán)規(guī)則的影響[10]。然而,關(guān)于醫(yī)療人工智能的相關(guān)研究則比較少見。應(yīng)當(dāng)說,醫(yī)療人工智能的發(fā)展確實(shí)在方方面面沖擊著傳統(tǒng)醫(yī)療損害責(zé)任規(guī)則,那么,現(xiàn)行規(guī)則①能否適應(yīng)人工智能時(shí)代的新發(fā)展?是否需要對現(xiàn)行規(guī)則進(jìn)行調(diào)整及如何調(diào)整?這些緊迫而重要的問題鮮有人涉及,這也是本文的寫作緣由及擬突破創(chuàng)新之處。

    二、人工智能視野下重新檢視醫(yī)療損害責(zé)任規(guī)則的必要性分析

    在人工智能時(shí)代,醫(yī)療產(chǎn)品更加深入地參與到醫(yī)療決策過程中,并微妙地改變著實(shí)際決策的過程甚至結(jié)果,這在某種意義上打破了《侵權(quán)責(zé)任法》所建構(gòu)的相對平衡的醫(yī)患規(guī)則體系;同時(shí),基于醫(yī)療人工智能的特點(diǎn),患者尋求救濟(jì)的難度也顯著增加。這一切都要求我們重新檢視現(xiàn)行醫(yī)療損害責(zé)任規(guī)則,正確認(rèn)知醫(yī)療人工智能。

    (一)醫(yī)療服務(wù)與產(chǎn)品相對地位及醫(yī)療決策過程發(fā)生深刻變化

    無論在英美法系還是大陸法系,醫(yī)療侵權(quán)過錯歸責(zé)都是一直恪守的原則。在英美法系,有所謂“商品和服務(wù)的二分法”,即基于商品而致的損害,通常施以嚴(yán)格責(zé)任,如產(chǎn)品缺陷責(zé)任、貨物銷售中的默示擔(dān)保責(zé)任等;而基于服務(wù)而致的損害,則僅當(dāng)服務(wù)者未盡合理注意義務(wù)即有過錯時(shí)方負(fù)責(zé)任,如法律服務(wù)、會計(jì)服務(wù)等?!斑^失責(zé)任關(guān)注的是人,是人的行為,嚴(yán)格責(zé)任的關(guān)注點(diǎn)則轉(zhuǎn)向物,關(guān)注產(chǎn)品的狀況和安全性?!盵11]醫(yī)療不但是一種服務(wù),而且是一種充滿不確定性和危險(xiǎn)性、帶有鮮明公益性的特殊服務(wù),對醫(yī)生群體應(yīng)予以特殊關(guān)照,在過錯、因果關(guān)系認(rèn)定等方面應(yīng)更加嚴(yán)格謹(jǐn)慎。雖然在醫(yī)療服務(wù)過程中亦附帶有醫(yī)療產(chǎn)品的提供,但既往判例[11]多認(rèn)為醫(yī)生職業(yè)技能判斷仍居主導(dǎo)地位,產(chǎn)品提供僅是服務(wù)的一部分,整體的醫(yī)療交易屬“服務(wù)”而非“商品”。大陸法系在醫(yī)療侵權(quán)上亦堅(jiān)持過錯歸責(zé),認(rèn)為醫(yī)療侵權(quán)責(zé)任屬專家責(zé)任之一種,醫(yī)療過程依賴醫(yī)生的專業(yè)技能和判斷,只有當(dāng)醫(yī)生違背應(yīng)負(fù)之專家注意義務(wù)時(shí),方可課以責(zé)任。我國《侵權(quán)責(zé)任法》第54 條②醫(yī)療損害責(zé)任一般條款亦堅(jiān)持過錯歸責(zé)。

    然而,在人工智能時(shí)代,醫(yī)療服務(wù)和產(chǎn)品的地位及醫(yī)療決策過程正發(fā)生微妙變化。一方面,人工智能因?yàn)榭稍谟邢迺r(shí)間內(nèi)分析處理幾乎所有相關(guān)信息和數(shù)據(jù),克服人類的局限性,在輔助診斷和治療方面的能力大大提升,準(zhǔn)確率已經(jīng)或即將超過人類醫(yī)生——這種優(yōu)勢在未來還將不斷擴(kuò)大,例如,據(jù)研究統(tǒng)計(jì)[2],在肺癌、乳腺癌、食管癌、腸癌、阿爾茲海默癥、糖尿病、視網(wǎng)膜病變等疾病的早期檢測上,人工智能算法已經(jīng)達(dá)到非常高的準(zhǔn)確率,有些甚至已超過普通人類醫(yī)生。人工智能醫(yī)療產(chǎn)品明顯不同于普通醫(yī)療產(chǎn)品,其對醫(yī)生診療的影響是巨大的,甚至具有主導(dǎo)性。另一方面,面對人工智能提供的“輔助性”意見,醫(yī)生的解釋工具十分有限,有時(shí)甚至無法解釋,“現(xiàn)代人工智能系統(tǒng)越來越成為一個‘黑箱’,所有決策都存在于這個‘黑箱’之中,即使學(xué)習(xí)算法是公開和透明的,但它產(chǎn)生的模型可能不是,因?yàn)闄C(jī)器學(xué)習(xí)模型的內(nèi)部決策邏輯并不總是可以被理解的,即使對于它的設(shè)計(jì)者也是如此”[9],阿爾法狗和圍棋世界冠軍的對弈棋譜甚至連圍棋專家都無法理解[12]。雖然各國均強(qiáng)調(diào)在醫(yī)療領(lǐng)域應(yīng)確保醫(yī)生的最終決策權(quán)③,但醫(yī)療的實(shí)際決策過程很可能轉(zhuǎn)變?yōu)椤叭斯ぶ悄軟Q策-醫(yī)生驗(yàn)證復(fù)查”的模式,這種“先入為主”的影響恐怕是巨大而難以阻擋的。

    (二)醫(yī)患情勢出現(xiàn)明顯變更

    自改革開放以來,我國醫(yī)療損害責(zé)任規(guī)則經(jīng)歷了多次變更,每次變更背后都有深刻的形勢原因。以1987年國務(wù)院出臺的《醫(yī)療事故處理辦法》為標(biāo)志,我國進(jìn)入了限制受害患者民事權(quán)利、偏重保護(hù)醫(yī)療機(jī)構(gòu)的歷史階段,患者僅能獲得一次性經(jīng)濟(jì)補(bǔ)償而非等額賠償,且只得在醫(yī)療事故鑒定后或行政處理后方可起訴,這導(dǎo)致了醫(yī)患關(guān)系的失衡。2002年,以最高人民法院《關(guān)于民事訴訟證據(jù)的若干規(guī)定》和國務(wù)院《醫(yī)療事故處理?xiàng)l例》的出臺為標(biāo)志,我國進(jìn)入了以明確加重醫(yī)療機(jī)構(gòu)舉證責(zé)任為特征的第二個階段,醫(yī)療侵權(quán)實(shí)行過錯和因果關(guān)系雙倒置。這種制度設(shè)計(jì)有矯枉過正之嫌,不但未能有效緩解醫(yī)患之間的緊張關(guān)系,而且催生出“防御性醫(yī)療”、看病難、看病貴等新問題。為此,2009年出臺的《侵權(quán)責(zé)任法》以專章形式規(guī)定了“醫(yī)療損害責(zé)任”,取消了過錯和因果關(guān)系倒置的規(guī)定,同時(shí)又設(shè)置了若干過錯法定推定標(biāo)準(zhǔn),標(biāo)志著我國進(jìn)入了醫(yī)患平衡的第三個階段[13]。但是,隨著人工智能逐步進(jìn)入醫(yī)療領(lǐng)域,這種平衡很可能被再次打破。一方面,人工智能在各方面賦能醫(yī)生,醫(yī)生擁有了更多的輔助工具,效率和能力都大大提升。例如,最頂尖的人類醫(yī)生在識別結(jié)腸息肉中的癌細(xì)胞時(shí)錯誤率約為3.5%,而在人工智能的協(xié)助下,識別錯誤率可降至0.5%[2],醫(yī)生之于患者的優(yōu)勢更大;另一方面,人工智能很可能成為醫(yī)生新的保護(hù)傘和擋箭牌,患者索賠的難度將增大??傊?,醫(yī)患情勢的變更,要求我們重新檢視現(xiàn)行規(guī)則。

    (三)患者尋求救濟(jì)的難度顯著增加

    當(dāng)患者就醫(yī)而因人工智能醫(yī)療產(chǎn)品受到損害時(shí),可能會涉及兩類侵權(quán)責(zé)任,即過錯歸責(zé)的醫(yī)療侵權(quán)責(zé)任和無過錯歸責(zé)的醫(yī)療產(chǎn)品責(zé)任。但是,在人工智能時(shí)代,患者通過這兩類侵權(quán)責(zé)任規(guī)則尋求救濟(jì),都有相當(dāng)大的難度。

    首先,過錯難以證明和認(rèn)定。在人工智能輔助診療的場景下,醫(yī)生作出判斷可能更多出于對人工智能的信賴,而且,當(dāng)人工智能普遍具有更高的準(zhǔn)確率時(shí),醫(yī)生的信賴應(yīng)當(dāng)說是有合理基礎(chǔ)的,很難要求醫(yī)生檢查出連智能機(jī)器都未能篩查出的問題,“醫(yī)療是一門不確定的藝術(shù)”[14],智能機(jī)器也會有一定的誤診率,但讓醫(yī)生替代智能機(jī)器承擔(dān)責(zé)任,可能是對醫(yī)生的過分苛責(zé)。而且,人工智能具有自主性,在實(shí)際運(yùn)作過程中有其獨(dú)特邏輯,可能偏離人類控制,這連機(jī)器的設(shè)計(jì)者都無法完全掌控,更不用說醫(yī)生了。總之,很難將損害的發(fā)生歸結(jié)為醫(yī)生的過錯。

    其次,因果關(guān)系難以證明和認(rèn)定。醫(yī)療本身就有很多難以解釋的地方,至今仍有很多人類無法攻克、無法解釋的疾病。醫(yī)療過程充滿探索性,不僅具有科學(xué)屬性,而且有很多靈感、直覺等非理性因素的參與,醫(yī)療侵權(quán)中因果關(guān)系的確定通常需要專業(yè)機(jī)構(gòu)的介入。在人工智能時(shí)代,因果關(guān)系更加難以證明和認(rèn)定。人工智能自身也有很多難以解釋、難以預(yù)測的現(xiàn)象,即使代碼是透明公開的;人工智能的“后天經(jīng)歷”同樣可能具有重大影響,成為實(shí)質(zhì)上的原因,例如后天的訓(xùn)練數(shù)據(jù)和學(xué)習(xí)經(jīng)歷、無良人士的干預(yù)和誤導(dǎo)等,這會進(jìn)一步加劇歸因的困難。

    最后,產(chǎn)品缺陷難以證明和認(rèn)定,免責(zé)事由容易被濫用。產(chǎn)品缺陷是產(chǎn)品責(zé)任的必備要件。根據(jù)《產(chǎn)品質(zhì)量法》 第46 條的規(guī)定,產(chǎn)品缺陷是一種“不合理”的危險(xiǎn),不符合保障人體健康和人身、財(cái)產(chǎn)安全的國家或行業(yè)標(biāo)準(zhǔn)。人工智能醫(yī)療產(chǎn)品尚未有明確的國家或行業(yè)標(biāo)準(zhǔn)[15]。根據(jù)學(xué)者的總結(jié),產(chǎn)品缺陷可分為4 類,即制造缺陷、設(shè)計(jì)缺陷、警示缺陷和跟蹤觀察缺陷[16]。在人工智能情境下,誠如前述,設(shè)計(jì)缺陷很難證明;在難以控制產(chǎn)品后續(xù)行為及預(yù)測后續(xù)具體危險(xiǎn)事項(xiàng)的情況下,警示缺陷和跟蹤觀察缺陷也難以認(rèn)定;制造缺陷的證明和適用相對容易,但人工智能產(chǎn)品的主要風(fēng)險(xiǎn)可能并不在此。另外,根據(jù)《產(chǎn)品質(zhì)量法》第41 條④的規(guī)定,產(chǎn)品責(zé)任的免責(zé)事由主要有3 項(xiàng),而其中后兩個免責(zé)事由極易被濫用: 人工智能產(chǎn)品的缺陷很可能是在后天訓(xùn)練和學(xué)習(xí)過程中形成的,而在投入流通時(shí),尚無缺陷;即使投入流通時(shí)存在缺陷,也很可能是當(dāng)時(shí)的科學(xué)技術(shù)水平尚無從發(fā)現(xiàn)的。

    (四)醫(yī)療人工智能法律定位及差別對待原則的深刻影響

    關(guān)于人工智能法律主體資格的討論已不鮮見,有不少學(xué)者建議未來可賦予人工智能以完全的法律人格、有限的法律人格或電子人格等。歐盟議會法律事務(wù)委員會也提出未來可考慮賦予復(fù)雜的人工智能機(jī)器人以“電子人”(electronic persons)地位[17],沙特甚至已經(jīng)于2016年3月賦予智能機(jī)器人索菲亞以公民身份。但無論其他領(lǐng)域未來如何發(fā)展,筆者認(rèn)為,有兩個領(lǐng)域永遠(yuǎn)不可能賦予人工智能與人類等同的法律地位,一是規(guī)則制定和適用領(lǐng)域如立法、執(zhí)法、司法等領(lǐng)域,二為醫(yī)療領(lǐng)域,因?yàn)檫@是人類保證對這個世界的主導(dǎo)權(quán)及自身安全的基礎(chǔ)。

    此外,關(guān)于人工智能醫(yī)療的法律規(guī)制必須體現(xiàn)差別對待原則。首先,人工智能即使定位為“物”,仍與普通物有很大不同,尤其是醫(yī)療人工智能關(guān)乎人類健康,附帶較多的倫理和情感因素,如手術(shù)機(jī)器人、護(hù)理機(jī)器人、心理康復(fù)機(jī)器人等,需予以特別對待。正如學(xué)者所言,人有人格,物有物格,人格必須平等,但物格可有高低之別[18],人工智能醫(yī)療應(yīng)屬最高等級的“物”,在使用、處分等方面應(yīng)予以適當(dāng)限制(如不可虐待)和特別保護(hù);其次,強(qiáng)弱不同的醫(yī)療人工智能對醫(yī)療過程和結(jié)果的影響有較大不同,需區(qū)別對待。歐盟議會法律事務(wù)委員會也明確指出,“一旦確定了承擔(dān)最終責(zé)任的各方,他們的責(zé)任應(yīng)該與機(jī)器人的實(shí)際操作水平及其自主程度成比例,從而使機(jī)器人的學(xué)習(xí)能力或自主權(quán)越大,機(jī)器人的訓(xùn)練時(shí)間越長,其教練員的責(zé)任就越大。”[17]綜上,很有必要重新檢視現(xiàn)行醫(yī)療損害責(zé)任規(guī)則。

    三、弱人工智能下醫(yī)療損害責(zé)任規(guī)則之調(diào)適

    人工智能的強(qiáng)弱之分具有相對性,需綜合考量多種因素。就人工智能醫(yī)療而言,一般應(yīng)考量的因素包括:與人類智能的接近程度;自主性和風(fēng)險(xiǎn)程度;經(jīng)認(rèn)證的或既往的診療準(zhǔn)確率;對人類醫(yī)生的影響力或依賴度;參與醫(yī)療過程的廣度和深度等。為了保證必要的可操作性和預(yù)見性,可考慮將醫(yī)療人工智能的強(qiáng)弱認(rèn)定與現(xiàn)行的醫(yī)療器械分類管理制度相銜接。例如,根據(jù)《醫(yī)療器械監(jiān)督管理?xiàng)l例》和《醫(yī)療器械注冊管理辦法》的規(guī)定,我國將醫(yī)療器械按照風(fēng)險(xiǎn)大小分為三類,即第一類(風(fēng)險(xiǎn)程度低)、第二類(中度風(fēng)險(xiǎn))和第三類(較高風(fēng)險(xiǎn)),其中,第一類醫(yī)療器械實(shí)行備案管理,第二、三類醫(yī)療器械實(shí)行注冊管理。未來可考慮細(xì)化人工智能醫(yī)療產(chǎn)品的分類管理制度,并將一定等級如第三類以上的醫(yī)療器械認(rèn)定為強(qiáng)人工智能。

    (一)我國人工智能醫(yī)療產(chǎn)品的應(yīng)用現(xiàn)狀分析

    當(dāng)前我國獲批的主要是風(fēng)險(xiǎn)較小的醫(yī)療人工智能產(chǎn)品,基本可歸類為弱人工智能的范疇。據(jù)統(tǒng)計(jì),雖然目前我國有不少人工智能企業(yè)申報(bào)第三類醫(yī)療器械注冊,但均未獲得認(rèn)證,僅有部分產(chǎn)品獲得了第二類醫(yī)療器械認(rèn)證[15]。根據(jù)2017年發(fā)布的最新版《醫(yī)療器械分類目錄》的規(guī)定,第二類人工智能醫(yī)療產(chǎn)品僅可提供診斷建議,僅具有輔助診斷功能,不可直接給出明確的診斷提示或結(jié)論,否則即應(yīng)歸類為第三類醫(yī)療器械。不過在未來,風(fēng)險(xiǎn)更大的人工智能醫(yī)療產(chǎn)品應(yīng)該會逐步進(jìn)入臨床應(yīng)用。國家藥品監(jiān)督管理局(CNDA)已經(jīng)理清了AI審批全流程的思路,并已于2018年12月中旬開放了三類AI 器械的審批通道[2]。美國食品藥品監(jiān)督管理局(FDA)已于近期相繼批準(zhǔn)了IDx-DR、Osteo-Detect 等9 款風(fēng)險(xiǎn)較高的人工智能醫(yī)療產(chǎn)品[2]。

    (二)弱人工智能對醫(yī)療損害責(zé)任規(guī)則的現(xiàn)實(shí)影響及適應(yīng)性調(diào)整

    1.弱人工智能之于醫(yī)療損害責(zé)任規(guī)則的現(xiàn)實(shí)影響分析

    總的來說,弱人工智能對醫(yī)療過程和結(jié)果的影響有限,和普通醫(yī)療產(chǎn)品區(qū)別不大,其提供的診斷建議僅具有參考作用,仍需醫(yī)生的推理判斷和其他診療證據(jù)的呼應(yīng)與支持。但是,弱人工智能醫(yī)療產(chǎn)品和普通醫(yī)療產(chǎn)品仍有不同,其對醫(yī)生診療會有更大影響力,有時(shí)甚至?xí)兄卮笥绊?,如在醫(yī)療影像識別領(lǐng)域,醫(yī)生基于時(shí)間、精力等方面的限制,對人工智能的建議會有較大依賴;過錯、因果關(guān)系、缺陷等事項(xiàng)的證明亦會存在一定障礙,因此仍需對醫(yī)療損害責(zé)任規(guī)則做必要調(diào)適。

    2.醫(yī)療侵權(quán)責(zé)任規(guī)則的適應(yīng)性調(diào)整

    (1)過錯的證明和認(rèn)定

    為降低過錯的證明和認(rèn)定難度,筆者建議,應(yīng)增加法定過錯推定標(biāo)準(zhǔn)?!肚謾?quán)責(zé)任法》第58 條⑤已規(guī)定了3 項(xiàng)法定過錯推定標(biāo)準(zhǔn),可在此基礎(chǔ)上增加部分標(biāo)準(zhǔn),具體可包括:使用未經(jīng)國家注冊認(rèn)證的人工智能醫(yī)療產(chǎn)品,包括在已注冊的普通醫(yī)療器械中擅自加入人工智能程序;擅自在臨床上應(yīng)用禁止類人工智能醫(yī)療技術(shù),或未經(jīng)備案的限制類人工智能醫(yī)療技術(shù);僅依據(jù)人工智能醫(yī)療產(chǎn)品的建議直接進(jìn)行診斷和治療;拒絕或無法提供人工智能醫(yī)療產(chǎn)品的內(nèi)部代碼和訓(xùn)練數(shù)據(jù);拒絕或無法提供人工智能醫(yī)療產(chǎn)品的既往診療準(zhǔn)確率;擅自修改人工智能醫(yī)療產(chǎn)品代碼而無法說明正當(dāng)理由等。

    上述標(biāo)準(zhǔn)可在一定程度上實(shí)現(xiàn)過錯證明的客觀化,且這種推定或認(rèn)定標(biāo)準(zhǔn)是不可反證的,可有效降低證明和認(rèn)定難度。

    (2)因果關(guān)系的證明和認(rèn)定

    為降低因果關(guān)系的證明和認(rèn)定難度,筆者建議,應(yīng)適當(dāng)降低證明標(biāo)準(zhǔn),采用優(yōu)勢證據(jù)標(biāo)準(zhǔn)。根據(jù)《最高人民法院關(guān)于民事訴訟證據(jù)的若干規(guī)定》第73 條第1 款的規(guī)定,我國在民事領(lǐng)域主要采用高度蓋然性證明標(biāo)準(zhǔn),只有當(dāng)一方的舉證證明力明顯大于另一方的舉證即案件事實(shí)的存在具有高度蓋然性時(shí),方可予以認(rèn)定;當(dāng)雙方舉證均未能達(dá)到高度蓋然性程度時(shí),由負(fù)有證明責(zé)任的一方承擔(dān)舉證不能的不利后果。在弱人工智能醫(yī)療情境下,應(yīng)采行優(yōu)勢證據(jù)標(biāo)準(zhǔn),即證明責(zé)任仍由受害患者承擔(dān),但只要患者的舉證優(yōu)于醫(yī)院的舉證,案件事實(shí)存在的可能性大于不存在的可能性時(shí),即可予以認(rèn)定。優(yōu)勢證據(jù)標(biāo)準(zhǔn)產(chǎn)生的初衷即是保護(hù)弱者,舉例來說,當(dāng)發(fā)生醫(yī)療損害時(shí),患者只需證明醫(yī)生僅依據(jù)人工智能的建議進(jìn)行診斷有較大可能引發(fā)特定損害時(shí) (如證明人工智能系統(tǒng)有較高的錯誤率),即可對過錯予以認(rèn)定,而無需證明這通常會引發(fā)此等損害。

    3.醫(yī)療產(chǎn)品責(zé)任規(guī)則的適應(yīng)性調(diào)整

    (1)責(zé)任主體的適當(dāng)調(diào)整

    應(yīng)增加設(shè)計(jì)者為責(zé)任主體,由設(shè)計(jì)者、生產(chǎn)者和銷售者承擔(dān)不真正連帶責(zé)任,而且,在內(nèi)部責(zé)任承擔(dān)上,設(shè)計(jì)者承擔(dān)無過錯責(zé)任,生產(chǎn)者和銷售者承擔(dān)過錯責(zé)任。應(yīng)當(dāng)說,人工智能醫(yī)療產(chǎn)品的設(shè)計(jì)者和生產(chǎn)者并不總是統(tǒng)一的,例如,在大型互聯(lián)網(wǎng)公司介入人工智能醫(yī)療領(lǐng)域及代工盛行的背景下,互聯(lián)網(wǎng)公司可能只提供軟件設(shè)計(jì),硬件制造則交由代工企業(yè)完成?;ヂ?lián)網(wǎng)公司與傳統(tǒng)醫(yī)療器械公司的合作也在加深,同樣會導(dǎo)致生產(chǎn)和設(shè)計(jì)的分離。此外,在純軟件人工智能的情形下,可能只存在設(shè)計(jì)者。

    之所以讓設(shè)計(jì)者承擔(dān)無過錯的最終責(zé)任,有三方面理由:其一,軟件設(shè)計(jì)在人工智能醫(yī)療產(chǎn)品中處于核心地位,也是風(fēng)險(xiǎn)的最大來源;其二,設(shè)計(jì)者是風(fēng)險(xiǎn)的最有利控制者,從源頭代碼防范風(fēng)險(xiǎn)是最有可能也最有效的;其三,設(shè)計(jì)者通常也是整個商業(yè)模式中獲利最豐厚的主體,風(fēng)險(xiǎn)須與收益相一致。

    (2)缺陷的證明和認(rèn)定

    為降低人工智能醫(yī)療產(chǎn)品缺陷的證明和認(rèn)定難度,應(yīng)作如下調(diào)整:首先,國家和行業(yè)組織應(yīng)盡快出臺人工智能醫(yī)療產(chǎn)品的國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn),尤其應(yīng)明確各類人工智能醫(yī)療產(chǎn)品在制造、設(shè)計(jì)、警示、跟蹤觀察等方面的具體標(biāo)準(zhǔn);其次,建議增加“缺陷”的法定推定標(biāo)準(zhǔn),如人工智能醫(yī)療產(chǎn)品具備以下任一情形即認(rèn)定為有缺陷:未經(jīng)國家注冊認(rèn)證而投入使用,包括擅自在已注冊的普通醫(yī)療器械中加入人工智能程序而投入使用;禁止類或未經(jīng)備案的限制類人工智能產(chǎn)品投入臨床應(yīng)用;拒絕或無法提供內(nèi)部代碼和訓(xùn)練數(shù)據(jù);經(jīng)測驗(yàn)無法達(dá)到宣稱或認(rèn)證的診療準(zhǔn)確率;經(jīng)測驗(yàn)在同一時(shí)期內(nèi)缺乏診療一致性;經(jīng)檢測發(fā)現(xiàn)有重大代碼錯誤或系統(tǒng)漏洞等。

    (3)免責(zé)事由的調(diào)整

    為適應(yīng)責(zé)任主體的調(diào)整及防止免責(zé)事由的濫用,應(yīng)對《產(chǎn)品質(zhì)量法》第41 條作如下調(diào)整:其一,將免責(zé)事由的適用主體調(diào)整為“設(shè)計(jì)者”,生產(chǎn)者不再適用該等免責(zé)事由;其二,將免責(zé)事由第一項(xiàng)調(diào)整為“設(shè)計(jì)者未將產(chǎn)品投入生產(chǎn)或流通”;其三,免責(zé)事由的第二、三項(xiàng)不再適用于設(shè)計(jì)者。

    四、強(qiáng)人工智能下醫(yī)療損害責(zé)任規(guī)則之調(diào)適

    相較于弱人工智能,強(qiáng)人工智能對醫(yī)療過程和結(jié)果的影響大大加深,可直接提供診斷提示或結(jié)論,診療準(zhǔn)確率等各項(xiàng)指標(biāo)已達(dá)到相當(dāng)高的水平,醫(yī)生對人工智能的依賴度也明顯增加。雖然醫(yī)生名義上仍擁有最終決策權(quán),但人工智能在一定程度上具有“證據(jù)之王”(king of evidence)[19]的屬性,醫(yī)生基于時(shí)間、精力、知識等方面的局限,很難進(jìn)行充分有效的反駁,醫(yī)療過程和結(jié)果的實(shí)質(zhì)主導(dǎo)權(quán)已悄然發(fā)生變化。此外,強(qiáng)人工智能的自主性大大增加,過錯、因果關(guān)系、缺陷等重要事實(shí)的舉證難度進(jìn)一步加大??傊?,強(qiáng)人工智能醫(yī)療產(chǎn)品與普通醫(yī)療產(chǎn)品已經(jīng)有重大不同,醫(yī)患間的利益失衡加劇,有必要對醫(yī)療損害責(zé)任規(guī)則進(jìn)行較大幅度的調(diào)整。

    (一)醫(yī)療侵權(quán)責(zé)任規(guī)則的適應(yīng)性調(diào)整

    1.過錯的證明和認(rèn)定

    首先應(yīng)當(dāng)指出,無論何種情境下,醫(yī)療侵權(quán)都應(yīng)始終恪守過錯歸責(zé)的底線。即使在強(qiáng)人工智能情境,決策的最終決定權(quán)仍然掌握在醫(yī)生手中,不應(yīng)對醫(yī)生課以嚴(yán)格責(zé)任。筆者認(rèn)為,采用過錯推定規(guī)則更為合適。

    首先,在強(qiáng)人工智能下,僅僅參照《侵權(quán)責(zé)任法》第58 條的規(guī)定增加推定證明標(biāo)準(zhǔn),在很多情況下已不可行。例如,強(qiáng)人工智能一般可直接給出診斷提示或結(jié)論,甚至可以直接作為醫(yī)生診斷的依據(jù);強(qiáng)人工智能普遍有較高的診療準(zhǔn)確率,甚至已超過人類醫(yī)生,且效率更高,醫(yī)生可適度信賴;強(qiáng)人工智能的原始代碼更加復(fù)雜,提供起來較為困難,尤其是后續(xù)自主生成的新代碼及自主選擇的訓(xùn)練數(shù)據(jù),甚至無法提供。

    其次,采用過錯推定規(guī)則具有內(nèi)在正當(dāng)性。其一,過錯推定機(jī)制的目的在于保護(hù)弱者,在強(qiáng)人工智能下,受害患者更加弱勢,需特殊保護(hù);其二,就舉證及事實(shí)查明能力而言,設(shè)計(jì)者、生產(chǎn)者和銷售者顯然更具優(yōu)勢。

    最后,醫(yī)療機(jī)構(gòu)及醫(yī)生若能證明自己無過錯,亦可免責(zé)。筆者認(rèn)為,在強(qiáng)人工智能下,若醫(yī)療機(jī)構(gòu)及醫(yī)生能舉證證明人工智能出具的診斷提示或結(jié)論具有合理基礎(chǔ)且可排除合理懷疑,即可證明自己無過錯。

    2.因果關(guān)系的證明和認(rèn)定

    在強(qiáng)人工智能下,很多時(shí)候根本無法找出損害發(fā)生的確定原因,更不用說達(dá)到優(yōu)勢證據(jù)的證明標(biāo)準(zhǔn),因此,僅僅降低證明標(biāo)準(zhǔn)可能已無法有效保護(hù)患者。筆者建議,采用因果關(guān)系推定制度,一來更有助于保護(hù)弱者,二來醫(yī)療機(jī)構(gòu)及醫(yī)生也更有能力進(jìn)行舉證。

    3.醫(yī)療強(qiáng)制責(zé)任險(xiǎn)和賠償基金的建立

    基于過錯和因果關(guān)系的雙重推定,醫(yī)療機(jī)構(gòu)承擔(dān)責(zé)任的風(fēng)險(xiǎn)大大增加,這種制度設(shè)計(jì)實(shí)質(zhì)上是將患者的風(fēng)險(xiǎn)部分轉(zhuǎn)移給了醫(yī)療機(jī)構(gòu),但長此以往并不利于醫(yī)療機(jī)構(gòu)的安全運(yùn)營。因此,有必要將此風(fēng)險(xiǎn)進(jìn)行分散,筆者建議建立強(qiáng)制醫(yī)療責(zé)任險(xiǎn)制度。設(shè)置強(qiáng)制險(xiǎn)需有充分的理由,滿足特定的條件,一般來說,包括兩大條件:其一,有廣泛的社會基礎(chǔ),處理的是普遍存在的多數(shù)人都會面臨的風(fēng)險(xiǎn);其二,關(guān)乎社會公共利益[20]。應(yīng)當(dāng)說,設(shè)置醫(yī)療侵權(quán)責(zé)任險(xiǎn)完全滿足上述條件。首先,國家一直在積極推廣自愿性的醫(yī)療責(zé)任險(xiǎn),《醫(yī)療糾紛預(yù)防和處理?xiàng)l例》⑥、《基本醫(yī)療衛(wèi)生與健康促進(jìn)法(草案)》⑦等法律文件均有體現(xiàn),但實(shí)際推廣情況并不理想,有明顯分化,診所、小醫(yī)院等有較大的購買動力,而大醫(yī)院尤其是三甲大醫(yī)院則購買動力不足。原因在于,大醫(yī)院和小醫(yī)院及診所的技術(shù)水平、管理能力等存在較大差異,大醫(yī)院的單位醫(yī)療侵權(quán)比例明顯低于小醫(yī)院及個體診所,由此導(dǎo)致大醫(yī)院繳納了較多的保費(fèi),實(shí)際理賠額卻較少,普遍低于其所繳保費(fèi);小醫(yī)院及個體診所承受了更大的風(fēng)險(xiǎn),卻繳納了較少的保費(fèi)[21]。但是,在強(qiáng)人工智能下,可以預(yù)見這一現(xiàn)象將有較大改觀,通常只有大醫(yī)院才有實(shí)力和動力采用人工智能等新技術(shù),從而在制度上面臨更大風(fēng)險(xiǎn),大醫(yī)院購買醫(yī)療責(zé)任險(xiǎn)的動力將會提升,醫(yī)療責(zé)任險(xiǎn)也將有更廣泛的社會基礎(chǔ);其次,醫(yī)療責(zé)任險(xiǎn)設(shè)立的主要目標(biāo)是對患者這一弱勢群體進(jìn)行及時(shí)、充分的賠償,而醫(yī)療是每個公民的基本需求,醫(yī)療風(fēng)險(xiǎn)天然的就有社會化的傾向,這本身就是公共利益的體現(xiàn)。總之,在強(qiáng)人工智能下,設(shè)置和推動醫(yī)療強(qiáng)制責(zé)任險(xiǎn)具有充足的理由。此外,應(yīng)設(shè)立賠償基金,作為醫(yī)療強(qiáng)制責(zé)任險(xiǎn)的補(bǔ)充,確保未被保險(xiǎn)覆蓋的群體在損害發(fā)生時(shí)獲得必要補(bǔ)償,基金經(jīng)費(fèi)可從稅收、處罰、捐贈、保費(fèi)等渠道籌措。

    (二)醫(yī)療產(chǎn)品責(zé)任規(guī)則的適應(yīng)性調(diào)整

    1.責(zé)任主體、免責(zé)事由的適當(dāng)調(diào)整及缺陷的證明和認(rèn)定

    強(qiáng)人工智能下,責(zé)任主體、免責(zé)事由及缺陷證明和認(rèn)定方面的調(diào)整與弱人工智能下的情形相似,可直接參照弱人工智能部分的處理方案。

    2.因果關(guān)系的證明和認(rèn)定

    筆者認(rèn)為,應(yīng)采用因果關(guān)系推定制度。首先,誠如前述,在強(qiáng)人工智能下,產(chǎn)品缺陷和醫(yī)療損害之間的因果關(guān)系更難證明,甚至無法建立聯(lián)系,單純降低證明標(biāo)準(zhǔn)已無濟(jì)于事。其次,在醫(yī)患失衡加劇的背景下,因果關(guān)系推定制度更有利于保護(hù)作為弱者的患者,而且設(shè)計(jì)者、生產(chǎn)者等相對來說更有能力進(jìn)行因果關(guān)系舉證。

    3.產(chǎn)品強(qiáng)制責(zé)任險(xiǎn)和賠償基金的建立

    產(chǎn)品責(zé)任本身即為無過錯責(zé)任,加之因果關(guān)系推定規(guī)則的適用及免責(zé)事由的調(diào)整等,產(chǎn)品責(zé)任的風(fēng)險(xiǎn)顯著增加,為避免抑制創(chuàng)新,應(yīng)設(shè)置產(chǎn)品強(qiáng)制責(zé)任險(xiǎn),進(jìn)行風(fēng)險(xiǎn)的社會化分散,可考慮讓產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者、銷售者及所有者按照風(fēng)險(xiǎn)高低適當(dāng)分擔(dān)保費(fèi)。設(shè)置產(chǎn)品責(zé)任險(xiǎn)也具有內(nèi)在正當(dāng)性。其一,醫(yī)療產(chǎn)品責(zé)任是強(qiáng)人工智能下行業(yè)普遍面臨的風(fēng)險(xiǎn),設(shè)計(jì)者、生產(chǎn)者都無法完全控制風(fēng)險(xiǎn),因而有動力和意愿分散風(fēng)險(xiǎn),有較為廣泛的社會基礎(chǔ);其二,通過強(qiáng)制保險(xiǎn)對受害患者這一弱勢群體進(jìn)行充分、及時(shí)的賠償,本身即是對公共利益的維護(hù);強(qiáng)人工智能使整個社會受益,應(yīng)當(dāng)實(shí)現(xiàn)風(fēng)險(xiǎn)的社會化分散。此外,應(yīng)設(shè)立賠償基金,作為醫(yī)療產(chǎn)品強(qiáng)制責(zé)任險(xiǎn)的補(bǔ)充,確保未被保險(xiǎn)覆蓋的群體在損害發(fā)生時(shí)獲得必要的補(bǔ)償,基金經(jīng)費(fèi)可通過稅收、處罰、捐贈、保費(fèi)等渠道籌措?!毒蜋C(jī)器人民事法律規(guī)則向歐盟委員會提出立法建議的報(bào)告草案》亦指出:“基于對日益自動化的機(jī)器人造成的損害承擔(dān)責(zé)任的復(fù)雜性,有必要推動建立一項(xiàng)強(qiáng)制性的保險(xiǎn)計(jì)劃,就像在汽車行業(yè)已經(jīng)發(fā)生的那樣,不過,與道路交通強(qiáng)制保險(xiǎn)制度不同的是,交強(qiáng)險(xiǎn)涵蓋了人類的行為和失敗,而機(jī)器人的保險(xiǎn)系統(tǒng)應(yīng)該考慮到供應(yīng)鏈中的所有潛在責(zé)任人。此外,如同汽車行業(yè),這樣的保險(xiǎn)制度可以由一個基金來補(bǔ)充,以確保在沒有保險(xiǎn)覆蓋的情況下,可以對損失進(jìn)行賠償”[17]。

    五、結(jié) 語

    人類已逐步進(jìn)入人工智能時(shí)代。人工智能技術(shù)正在加速發(fā)展和落地,且已成為各國競爭的戰(zhàn)略制高點(diǎn)。當(dāng)然,人工智能在為人類帶來巨大利益的同時(shí),也帶來不少風(fēng)險(xiǎn)。醫(yī)療是受人工智能技術(shù)影響最廣泛最深刻的領(lǐng)域之一,人工智能正悄然改變著醫(yī)療決策的過程和結(jié)果,改變著醫(yī)患之間的實(shí)力對比,也改變著醫(yī)療損害賠償?shù)木葷?jì)方式和難度。為有效平衡各方利益及保障醫(yī)療人工智能技術(shù)的可持續(xù)發(fā)展和平穩(wěn)創(chuàng)新,我國有必要對現(xiàn)行醫(yī)療損害責(zé)任規(guī)則進(jìn)行適當(dāng)調(diào)整。在弱人工智能下,應(yīng)于《侵權(quán)責(zé)任法》第58 條增加過錯證明的法定推定事項(xiàng),降低因果關(guān)系的證明標(biāo)準(zhǔn),對醫(yī)療產(chǎn)品責(zé)任的主體進(jìn)行相應(yīng)調(diào)整,設(shè)置缺陷證明的法定推定事項(xiàng),并對免責(zé)事由進(jìn)行有針對性的調(diào)整;在強(qiáng)人工智能下,應(yīng)采行過錯和因果關(guān)系的推定制度,并通過設(shè)置醫(yī)療強(qiáng)制責(zé)任險(xiǎn)、醫(yī)療產(chǎn)品強(qiáng)制責(zé)任險(xiǎn)及賠償基金對受害患者進(jìn)行充分、及時(shí)的賠償,實(shí)現(xiàn)風(fēng)險(xiǎn)的社會化分散。

    注:

    ①我國已在立法上統(tǒng)一使用“醫(yī)療損害責(zé)任”的概念,這一概念更加直觀、中性,容易被社會各界接受,能夠概括所有的醫(yī)療侵權(quán)行為,終止醫(yī)療侵權(quán)概念、案由和法律適用上不統(tǒng)一的局面。根據(jù)楊立新教授的研究,我國《侵權(quán)責(zé)任法》第七章“醫(yī)療損害責(zé)任”共包括4種類型,即醫(yī)療技術(shù)損害責(zé)任(第57、58 條)、醫(yī)療倫理損害責(zé)任(第55、62 條)、醫(yī)療管理損害責(zé)任(由一般條款第54 條派生)和醫(yī)療產(chǎn)品損害責(zé)任(第59 條)。其中,前三者為過錯歸責(zé),本文為論述方便,將此三者合稱為“醫(yī)療侵權(quán)責(zé)任”,并與無過錯歸責(zé)的“醫(yī)療產(chǎn)品責(zé)任”相對應(yīng)。相關(guān)論述可參見:楊立新.醫(yī)療損害責(zé)任概念研究[J].政治與法律,2009,(3):18-30;楊立新.醫(yī)療損害責(zé)任一般條款的理解與適用[J].法商研究,2012,(5):65-71.

    ②《侵權(quán)責(zé)任法》第54 條:“患者在診療活動中受到損害,醫(yī)療機(jī)構(gòu)及其醫(yī)務(wù)人員有過錯的,由醫(yī)療機(jī)構(gòu)承擔(dān)賠償責(zé)任?!?/p>

    ③例如,歐盟議會法律事務(wù)委員會發(fā)布的《就機(jī)器人民事法律規(guī)則向歐盟委員會提出立法建議的報(bào)告草案》第39 條規(guī)定:“考慮到尊重機(jī)器人的監(jiān)督自主原則是至關(guān)重要的,因此最初的治療計(jì)劃和關(guān)于執(zhí)行的最終決定將始終是人類外科醫(yī)生的決定?!蔽覈鴩倚l(wèi)計(jì)委發(fā)布的《人工智能輔助診斷技術(shù)管理規(guī)范(2017年版)》 第3 條規(guī)定:“人工智能輔助診斷技術(shù)為輔助診斷和臨床決策支持系統(tǒng),不能作為臨床最終診斷,僅作為臨床輔助診斷和參考,最終診斷必須由有資質(zhì)的臨床醫(yī)師確定?!薄度斯ぶ悄茌o助治療技術(shù)管理規(guī)范(2017年版)》第3 條亦規(guī)定:“人工智能輔助治療技術(shù)的臨床應(yīng)用應(yīng)當(dāng)由2 名以上具有人工智能輔助治療技術(shù)臨床應(yīng)用能力的副主任醫(yī)師及以上專業(yè)技術(shù)職務(wù)任職資格的本醫(yī)療機(jī)構(gòu)注冊醫(yī)師共同決定,制訂合理的治療與管理方案,術(shù)者由本醫(yī)療機(jī)構(gòu)注冊醫(yī)師擔(dān)任?!?/p>

    ④《產(chǎn)品質(zhì)量法》第41 條:“因產(chǎn)品存在缺陷造成人身、缺陷產(chǎn)品以外的其他財(cái)產(chǎn)(以下簡稱他人財(cái)產(chǎn))損害的,生產(chǎn)者應(yīng)當(dāng)承擔(dān)賠償責(zé)任。生產(chǎn)者能夠證明有下列情形之一的,不承擔(dān)賠償責(zé)任:(一)未將產(chǎn)品投入流通的;(二)產(chǎn)品投入流通時(shí),引起損害的缺陷尚不存在的;(三)將產(chǎn)品投入流通時(shí)的科學(xué)技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在的。”

    ⑤《侵權(quán)責(zé)任法》第58 條:“患者有損害,因下列情形之一的,推定醫(yī)療機(jī)構(gòu)有過錯:(一)違反法律、行政法規(guī)、規(guī)章以及其他有關(guān)診療規(guī)范的規(guī)定;(二)隱匿或者拒絕提供與糾紛有關(guān)的病歷資料;(三)偽造、篡改或者銷毀病歷資料?!?/p>

    ⑥《醫(yī)療糾紛預(yù)防和處理?xiàng)l例》第7 條:“國家建立完善醫(yī)療風(fēng)險(xiǎn)分擔(dān)機(jī)制,發(fā)揮保險(xiǎn)機(jī)制在醫(yī)療糾紛處理中的第三方賠付和醫(yī)療風(fēng)險(xiǎn)社會化分擔(dān)的作用,鼓勵醫(yī)療機(jī)構(gòu)參加醫(yī)療責(zé)任保險(xiǎn),鼓勵患者參加醫(yī)療意外保險(xiǎn)?!?/p>

    ⑦《基本醫(yī)療衛(wèi)生與健康促進(jìn)法(草案)》第44 條:“國家完善醫(yī)療風(fēng)險(xiǎn)分擔(dān)機(jī)制,鼓勵醫(yī)療機(jī)構(gòu)參加醫(yī)療責(zé)任保險(xiǎn)或者建立醫(yī)療風(fēng)險(xiǎn)基金,鼓勵患者參加醫(yī)療意外保險(xiǎn)。”

    猜你喜歡
    證明規(guī)則人工智能
    撐竿跳規(guī)則的制定
    獲獎證明
    數(shù)獨(dú)的規(guī)則和演變
    判斷或證明等差數(shù)列、等比數(shù)列
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    讓規(guī)則不規(guī)則
    Coco薇(2017年11期)2018-01-03 20:59:57
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    TPP反腐敗規(guī)則對我國的啟示
    下一幕,人工智能!
    综合色av麻豆| 亚洲成人一二三区av| 国产av不卡久久| 七月丁香在线播放| 日韩成人av中文字幕在线观看| 美女xxoo啪啪120秒动态图| 六月丁香七月| 亚洲成人一二三区av| 可以在线观看毛片的网站| 午夜免费男女啪啪视频观看| 国产精品久久久久久久电影| 男人舔奶头视频| 男人舔女人下体高潮全视频| 777米奇影视久久| 最近视频中文字幕2019在线8| 国产av国产精品国产| 亚洲人与动物交配视频| 亚洲精品国产av成人精品| 精品久久久久久久久久久久久| 特大巨黑吊av在线直播| 亚洲av.av天堂| 国产免费福利视频在线观看| 一级毛片aaaaaa免费看小| 中文字幕亚洲精品专区| 亚洲无线观看免费| 欧美最新免费一区二区三区| 国产一区二区在线观看日韩| 国产成人福利小说| 插阴视频在线观看视频| 欧美成人午夜免费资源| 欧美人与善性xxx| 精品不卡国产一区二区三区| 日产精品乱码卡一卡2卡三| 国产成年人精品一区二区| 一个人免费在线观看电影| 午夜精品在线福利| 熟妇人妻不卡中文字幕| 亚洲无线观看免费| 男女边摸边吃奶| 菩萨蛮人人尽说江南好唐韦庄| 日本熟妇午夜| 日产精品乱码卡一卡2卡三| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 亚洲精品影视一区二区三区av| 日本一二三区视频观看| 伊人久久国产一区二区| 看免费成人av毛片| 久久久亚洲精品成人影院| 久久久久久伊人网av| 熟妇人妻不卡中文字幕| 91久久精品电影网| 国内精品一区二区在线观看| 丝袜喷水一区| 97精品久久久久久久久久精品| 嘟嘟电影网在线观看| 夜夜爽夜夜爽视频| 免费av不卡在线播放| av在线观看视频网站免费| 亚洲18禁久久av| 久久97久久精品| 午夜激情欧美在线| 80岁老熟妇乱子伦牲交| 欧美日韩一区二区视频在线观看视频在线 | 精品久久久久久电影网| 校园人妻丝袜中文字幕| 人妻系列 视频| 国产大屁股一区二区在线视频| 日韩成人伦理影院| 男女啪啪激烈高潮av片| 欧美精品国产亚洲| 好男人视频免费观看在线| 欧美3d第一页| 国产伦在线观看视频一区| 亚洲欧美精品自产自拍| 色综合亚洲欧美另类图片| 久久综合国产亚洲精品| 亚洲精品第二区| 亚洲在线自拍视频| 你懂的网址亚洲精品在线观看| 国产精品无大码| 久久综合国产亚洲精品| av女优亚洲男人天堂| 亚洲精品中文字幕在线视频 | 18禁在线无遮挡免费观看视频| 久久久午夜欧美精品| 男的添女的下面高潮视频| 国产精品一区二区在线观看99 | 久久久久性生活片| 大香蕉97超碰在线| 久久久久久伊人网av| 少妇高潮的动态图| 国产成人a区在线观看| 欧美成人一区二区免费高清观看| 内射极品少妇av片p| 美女cb高潮喷水在线观看| 少妇的逼好多水| 日韩一本色道免费dvd| 国产午夜精品一二区理论片| 男人狂女人下面高潮的视频| 在线免费观看的www视频| 亚洲欧洲日产国产| 日韩av在线免费看完整版不卡| 久久久精品免费免费高清| 极品少妇高潮喷水抽搐| 女的被弄到高潮叫床怎么办| 男女视频在线观看网站免费| 少妇被粗大猛烈的视频| 三级国产精品片| 少妇被粗大猛烈的视频| 国产女主播在线喷水免费视频网站 | 欧美性猛交╳xxx乱大交人| 国产老妇女一区| 亚洲无线观看免费| 国产女主播在线喷水免费视频网站 | 国内精品美女久久久久久| 亚洲电影在线观看av| 亚洲欧美精品专区久久| 国产成人福利小说| 午夜激情久久久久久久| 日韩亚洲欧美综合| 国产精品久久久久久精品电影小说 | 亚洲av免费在线观看| 免费观看性生交大片5| 美女xxoo啪啪120秒动态图| 婷婷色综合www| 免费在线观看成人毛片| 国产成人午夜福利电影在线观看| 亚洲激情五月婷婷啪啪| 激情五月婷婷亚洲| 51国产日韩欧美| 国产高清三级在线| 精品人妻一区二区三区麻豆| 九草在线视频观看| 黄片wwwwww| 久久久精品欧美日韩精品| 亚洲精品第二区| 精品国内亚洲2022精品成人| 九色成人免费人妻av| 人妻制服诱惑在线中文字幕| 熟妇人妻不卡中文字幕| 国产成人a∨麻豆精品| 国产永久视频网站| 国产精品一区二区三区四区免费观看| 久久99精品国语久久久| 一级二级三级毛片免费看| 欧美xxxx性猛交bbbb| 亚洲久久久久久中文字幕| 中文字幕人妻熟人妻熟丝袜美| 国产午夜精品一二区理论片| 黄色一级大片看看| 3wmmmm亚洲av在线观看| 国产精品一及| 一本一本综合久久| 午夜久久久久精精品| 尤物成人国产欧美一区二区三区| 亚洲国产精品专区欧美| 日本黄大片高清| 大又大粗又爽又黄少妇毛片口| 春色校园在线视频观看| 欧美另类一区| 一级av片app| 亚洲精品国产av成人精品| 一二三四中文在线观看免费高清| 丝瓜视频免费看黄片| 久久久久久久久久久免费av| 国产极品天堂在线| 视频中文字幕在线观看| 国产中年淑女户外野战色| 国产精品麻豆人妻色哟哟久久 | 午夜福利在线观看免费完整高清在| 少妇丰满av| 亚洲av男天堂| 97人妻精品一区二区三区麻豆| 青春草亚洲视频在线观看| 国内精品宾馆在线| 亚洲人成网站在线观看播放| 久久热精品热| 国产一区二区亚洲精品在线观看| 禁无遮挡网站| 蜜臀久久99精品久久宅男| 亚洲成人一二三区av| 国产乱来视频区| 亚洲一区高清亚洲精品| 精品亚洲乱码少妇综合久久| 久久精品熟女亚洲av麻豆精品 | 美女xxoo啪啪120秒动态图| 久久久色成人| 国产精品美女特级片免费视频播放器| 久久久久久久大尺度免费视频| 综合色av麻豆| 日韩强制内射视频| 日日摸夜夜添夜夜爱| 26uuu在线亚洲综合色| 2022亚洲国产成人精品| 1000部很黄的大片| 伊人久久精品亚洲午夜| 成人一区二区视频在线观看| 成人无遮挡网站| 久久久色成人| 亚洲国产精品成人综合色| 五月玫瑰六月丁香| av免费在线看不卡| 久久精品国产亚洲av涩爱| 色综合站精品国产| 人体艺术视频欧美日本| 男人狂女人下面高潮的视频| 少妇猛男粗大的猛烈进出视频 | 国产成年人精品一区二区| 久久精品夜夜夜夜夜久久蜜豆| 国产精品久久视频播放| 国产精品一区www在线观看| 国产欧美日韩精品一区二区| 欧美区成人在线视频| 亚洲av.av天堂| 国产精品综合久久久久久久免费| 欧美日韩视频高清一区二区三区二| 久久久久性生活片| 欧美潮喷喷水| 成人国产麻豆网| 在线观看免费高清a一片| 日韩欧美国产在线观看| 又黄又爽又刺激的免费视频.| 午夜福利在线在线| 91久久精品国产一区二区成人| 熟妇人妻不卡中文字幕| 久久久久性生活片| 黄色一级大片看看| eeuss影院久久| 丰满少妇做爰视频| 国产色婷婷99| av免费观看日本| 欧美zozozo另类| 高清在线视频一区二区三区| 午夜激情福利司机影院| freevideosex欧美| 蜜臀久久99精品久久宅男| 少妇丰满av| 色哟哟·www| 亚洲国产av新网站| 婷婷六月久久综合丁香| av播播在线观看一区| 日韩制服骚丝袜av| 精品人妻偷拍中文字幕| 黄片wwwwww| 国产成人91sexporn| 欧美bdsm另类| 日日撸夜夜添| 97在线视频观看| 欧美xxxx黑人xx丫x性爽| 日本一本二区三区精品| 国产免费一级a男人的天堂| 18禁在线播放成人免费| 欧美 日韩 精品 国产| 97超碰精品成人国产| 美女主播在线视频| videossex国产| 别揉我奶头 嗯啊视频| 亚洲av中文字字幕乱码综合| 免费观看a级毛片全部| 午夜激情久久久久久久| 天堂俺去俺来也www色官网 | 精品久久久噜噜| 蜜臀久久99精品久久宅男| 国产一区亚洲一区在线观看| 天堂俺去俺来也www色官网 | 久久久久久九九精品二区国产| 国产 亚洲一区二区三区 | 嫩草影院新地址| 成人鲁丝片一二三区免费| 国产男女超爽视频在线观看| 97超视频在线观看视频| 国产中年淑女户外野战色| 国产在线男女| 亚洲熟女精品中文字幕| 免费观看无遮挡的男女| 乱系列少妇在线播放| 国产欧美日韩精品一区二区| 久久久久精品久久久久真实原创| 国产精品久久久久久精品电影小说 | 建设人人有责人人尽责人人享有的 | 99热这里只有是精品50| 婷婷色麻豆天堂久久| 国产伦精品一区二区三区视频9| 韩国高清视频一区二区三区| 欧美激情国产日韩精品一区| 夫妻午夜视频| 在现免费观看毛片| 黄色一级大片看看| 国产一区亚洲一区在线观看| ponron亚洲| 超碰av人人做人人爽久久| 免费看美女性在线毛片视频| 51国产日韩欧美| 国产精品久久久久久久电影| 一级a做视频免费观看| 欧美丝袜亚洲另类| 色视频www国产| 亚洲欧美精品自产自拍| 国产综合精华液| 日日啪夜夜爽| 少妇丰满av| 国产黄色视频一区二区在线观看| 色网站视频免费| 免费看日本二区| 欧美日韩亚洲高清精品| 日韩国内少妇激情av| 国内揄拍国产精品人妻在线| 亚洲av男天堂| 免费看av在线观看网站| 精品少妇黑人巨大在线播放| 亚洲内射少妇av| 99热这里只有精品一区| 午夜福利高清视频| 偷拍熟女少妇极品色| 午夜精品一区二区三区免费看| 国产 一区精品| 嫩草影院精品99| 国产在视频线在精品| 美女高潮的动态| 国产永久视频网站| 国产黄色小视频在线观看| 天堂影院成人在线观看| 亚洲成人中文字幕在线播放| 男人爽女人下面视频在线观看| 国产淫语在线视频| 蜜臀久久99精品久久宅男| 亚洲av免费高清在线观看| 久久久精品免费免费高清| 三级经典国产精品| 亚洲自偷自拍三级| 成人亚洲精品av一区二区| 国内精品美女久久久久久| 日韩精品有码人妻一区| 欧美 日韩 精品 国产| 一级毛片黄色毛片免费观看视频| 国产高清国产精品国产三级 | 狂野欧美激情性xxxx在线观看| 最近中文字幕高清免费大全6| 国产中年淑女户外野战色| 国产亚洲av片在线观看秒播厂 | 在线 av 中文字幕| 99久久人妻综合| 日韩 亚洲 欧美在线| 极品教师在线视频| 久久久久久久大尺度免费视频| 国产精品嫩草影院av在线观看| 天堂俺去俺来也www色官网 | 一级毛片电影观看| 99热6这里只有精品| 亚洲欧美日韩无卡精品| 久久久久久九九精品二区国产| 老女人水多毛片| 老师上课跳d突然被开到最大视频| 男插女下体视频免费在线播放| 国产精品久久久久久精品电影小说 | 日本黄大片高清| 欧美激情国产日韩精品一区| 亚洲精品乱码久久久v下载方式| 午夜老司机福利剧场| 我要看日韩黄色一级片| 国产精品一区二区在线观看99 | 国产午夜精品一二区理论片| 日本与韩国留学比较| 人妻一区二区av| 性色avwww在线观看| 国产 一区精品| 国产成人精品福利久久| h日本视频在线播放| 欧美 日韩 精品 国产| 又大又黄又爽视频免费| 亚洲精品,欧美精品| 超碰97精品在线观看| 最近手机中文字幕大全| 亚洲欧美一区二区三区国产| 禁无遮挡网站| 禁无遮挡网站| 亚洲精品乱久久久久久| 国产片特级美女逼逼视频| 日韩av免费高清视频| 大话2 男鬼变身卡| 国内精品宾馆在线| 网址你懂的国产日韩在线| 三级毛片av免费| 精品一区二区免费观看| 色综合亚洲欧美另类图片| 亚洲,欧美,日韩| 看黄色毛片网站| 老女人水多毛片| 一级av片app| 国产又色又爽无遮挡免| 男女那种视频在线观看| 国产大屁股一区二区在线视频| 国产日韩欧美在线精品| 美女大奶头视频| 久久精品久久久久久久性| 亚洲成人av在线免费| 18禁在线无遮挡免费观看视频| 成人欧美大片| 久久99热这里只有精品18| 男人狂女人下面高潮的视频| 国产精品综合久久久久久久免费| 免费观看性生交大片5| 美女被艹到高潮喷水动态| 2021天堂中文幕一二区在线观| 国产 一区精品| 亚洲人与动物交配视频| 三级男女做爰猛烈吃奶摸视频| 亚洲国产av新网站| 美女国产视频在线观看| 夜夜看夜夜爽夜夜摸| 黄色欧美视频在线观看| 免费看av在线观看网站| 偷拍熟女少妇极品色| 精品国产露脸久久av麻豆 | 亚洲国产精品sss在线观看| 日韩不卡一区二区三区视频在线| 亚洲电影在线观看av| 女人久久www免费人成看片| 黄色欧美视频在线观看| 国产探花极品一区二区| 18+在线观看网站| 不卡视频在线观看欧美| 久久久久久久久久久免费av| 国产精品蜜桃在线观看| 人妻少妇偷人精品九色| 噜噜噜噜噜久久久久久91| or卡值多少钱| 99热全是精品| 成人午夜精彩视频在线观看| 成人鲁丝片一二三区免费| 精品久久久久久久久久久久久| 欧美精品一区二区大全| 亚洲精品国产av成人精品| 免费无遮挡裸体视频| 色播亚洲综合网| 亚洲精品一二三| 偷拍熟女少妇极品色| 特级一级黄色大片| 国国产精品蜜臀av免费| 欧美高清成人免费视频www| 国产精品国产三级国产av玫瑰| 亚洲人与动物交配视频| 亚洲国产精品sss在线观看| 精品午夜福利在线看| 午夜福利视频1000在线观看| 五月天丁香电影| 午夜爱爱视频在线播放| 亚洲精品国产av蜜桃| 夫妻性生交免费视频一级片| 国产一区二区三区综合在线观看 | 国产黄色视频一区二区在线观看| 欧美性猛交╳xxx乱大交人| 日韩av免费高清视频| videossex国产| 国产淫语在线视频| 国产女主播在线喷水免费视频网站 | 国产成人福利小说| 爱豆传媒免费全集在线观看| 国产91av在线免费观看| 亚洲欧美清纯卡通| 亚洲欧美一区二区三区国产| 非洲黑人性xxxx精品又粗又长| 我的女老师完整版在线观看| 午夜福利在线观看免费完整高清在| 亚洲精品乱码久久久久久按摩| 久久久久久九九精品二区国产| 国产男女超爽视频在线观看| 久久久久久国产a免费观看| 嘟嘟电影网在线观看| 国产高潮美女av| 欧美xxxx黑人xx丫x性爽| 精品亚洲乱码少妇综合久久| 精品少妇黑人巨大在线播放| 在线天堂最新版资源| 熟妇人妻久久中文字幕3abv| 亚洲经典国产精华液单| 人人妻人人澡人人爽人人夜夜 | 久久99蜜桃精品久久| 国产av在哪里看| 欧美日韩在线观看h| 91av网一区二区| 日韩不卡一区二区三区视频在线| 日韩一本色道免费dvd| 欧美激情久久久久久爽电影| 久久久久久久久久人人人人人人| 免费观看a级毛片全部| 校园人妻丝袜中文字幕| 亚洲人成网站在线播| 国产淫语在线视频| 在线播放无遮挡| 日韩av在线免费看完整版不卡| 欧美精品国产亚洲| videossex国产| 中文在线观看免费www的网站| 国产成人精品一,二区| 一个人看的www免费观看视频| 国产女主播在线喷水免费视频网站 | 七月丁香在线播放| 精品久久久久久久久av| 两个人视频免费观看高清| 欧美 日韩 精品 国产| 欧美高清性xxxxhd video| 少妇高潮的动态图| 最近中文字幕2019免费版| 婷婷色综合大香蕉| 亚洲最大成人av| 久久精品夜色国产| 极品少妇高潮喷水抽搐| 97超碰精品成人国产| 在线a可以看的网站| 亚洲精品成人久久久久久| 91在线精品国自产拍蜜月| 一个人观看的视频www高清免费观看| 国产亚洲精品久久久com| 麻豆成人午夜福利视频| 国产一区有黄有色的免费视频 | 成人性生交大片免费视频hd| 少妇熟女欧美另类| 久久这里有精品视频免费| 中文天堂在线官网| 99久久中文字幕三级久久日本| 欧美zozozo另类| 国产69精品久久久久777片| av专区在线播放| 久热久热在线精品观看| 久久久欧美国产精品| 欧美xxⅹ黑人| 免费av毛片视频| 中文精品一卡2卡3卡4更新| 久久久久九九精品影院| 女的被弄到高潮叫床怎么办| kizo精华| 亚洲成人精品中文字幕电影| 在现免费观看毛片| 亚洲精品日本国产第一区| 啦啦啦韩国在线观看视频| 亚洲欧美一区二区三区黑人 | 一级毛片 在线播放| 插阴视频在线观看视频| 国产成人精品一,二区| 亚洲欧美精品自产自拍| www.色视频.com| 男女视频在线观看网站免费| 国产精品一二三区在线看| 欧美日本视频| 少妇被粗大猛烈的视频| 国产成人福利小说| 国产淫片久久久久久久久| 又爽又黄a免费视频| 国内精品美女久久久久久| 91久久精品国产一区二区三区| 久久精品国产亚洲网站| 熟妇人妻久久中文字幕3abv| 亚洲欧美成人综合另类久久久| 国产黄a三级三级三级人| 欧美性猛交╳xxx乱大交人| 国产69精品久久久久777片| 亚洲成色77777| 爱豆传媒免费全集在线观看| 少妇裸体淫交视频免费看高清| 蜜桃亚洲精品一区二区三区| 免费av观看视频| 亚洲精品视频女| 亚洲精品国产成人久久av| 国产视频内射| av卡一久久| 国产老妇女一区| 久久人人爽人人爽人人片va| 狂野欧美白嫩少妇大欣赏| 亚洲色图av天堂| 久久久久久伊人网av| 禁无遮挡网站| 天堂俺去俺来也www色官网 | 国产亚洲最大av| 国产视频内射| 白带黄色成豆腐渣| 精品一区二区免费观看| av在线播放精品| 蜜桃久久精品国产亚洲av| 国产男女超爽视频在线观看| 日韩av免费高清视频| 亚洲精品日本国产第一区| 丝袜喷水一区| 亚洲精品日韩在线中文字幕| 精品一区在线观看国产| 色视频www国产| 色网站视频免费| 免费看a级黄色片| 久久99热这里只有精品18| 亚洲高清免费不卡视频| 国产日韩欧美在线精品| 22中文网久久字幕| 欧美另类一区| 蜜桃亚洲精品一区二区三区| 大陆偷拍与自拍| 久久人人爽人人爽人人片va| a级毛色黄片| 大陆偷拍与自拍| 黄片wwwwww| 亚洲熟妇中文字幕五十中出| 一级av片app| 久久热精品热| 插阴视频在线观看视频| 久久久久久久久中文| 免费不卡的大黄色大毛片视频在线观看 | 久久精品久久久久久噜噜老黄| 国产精品久久久久久精品电影小说 | 九九久久精品国产亚洲av麻豆| 免费黄色在线免费观看| 国产av码专区亚洲av| 我要看日韩黄色一级片| 亚洲在线自拍视频| 国产免费一级a男人的天堂| 日韩av在线大香蕉| 国产又色又爽无遮挡免|