• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智慧醫(yī)療民事責(zé)任的內(nèi)容革新與賠償優(yōu)化

    2024-01-01 00:22:48蔡大順
    江漢論壇 2023年12期

    摘要:智慧醫(yī)療是數(shù)字社會(huì)建設(shè)的重要組成部分,更是建設(shè)健康中國(guó)的助推器。然而智慧醫(yī)療使用中的算法錯(cuò)誤,會(huì)危及病患的生命權(quán)與健康權(quán),給當(dāng)事人造成難以恢復(fù)的損害結(jié)果。就其衍生的民事責(zé)任而言,可在《民法典》侵權(quán)責(zé)任編的框架內(nèi)借助法解釋工具予以處理:醫(yī)療倫理責(zé)任中的醫(yī)生的告知義務(wù)應(yīng)做適用性調(diào)整,基于智慧醫(yī)療的發(fā)展階段與社會(huì)大眾的接受度,動(dòng)態(tài)要求醫(yī)生履行不同標(biāo)準(zhǔn)的告知義務(wù);就醫(yī)療機(jī)構(gòu)的組織責(zé)任而言,應(yīng)肯定醫(yī)院負(fù)有更新醫(yī)療AI系統(tǒng)的義務(wù),醫(yī)院須證明自己盡到了完善、更新醫(yī)療AI的義務(wù)。未來(lái)隨著智慧醫(yī)療的進(jìn)階發(fā)展,應(yīng)優(yōu)化賠償模式,承認(rèn)醫(yī)療AI的獨(dú)立責(zé)任,以嚴(yán)格責(zé)任為歸責(zé)原則,在證明責(zé)任上,采危險(xiǎn)責(zé)任理論,要求生產(chǎn)者與使用者負(fù)擔(dān)舉證責(zé)任,而在醫(yī)療AI承擔(dān)責(zé)任的財(cái)產(chǎn)來(lái)源上,應(yīng)采多層次的強(qiáng)制醫(yī)療AI責(zé)任保險(xiǎn),確保受有損害的病患能獲得及時(shí)有效的賠償。

    關(guān)鍵詞:智慧醫(yī)療;醫(yī)療過(guò)失;責(zé)任承擔(dān);責(zé)任保險(xiǎn)

    基金項(xiàng)目:國(guó)家社會(huì)科學(xué)基金青年項(xiàng)目“民法典合同通則在保險(xiǎn)領(lǐng)域的法律適用研究”(項(xiàng)目編號(hào):21CFX033)

    中圖分類號(hào):D925.1文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1003-854X(2023)12-0121-06

    一、問(wèn)題的提出

    我國(guó)“十四五”規(guī)劃明確提出要在醫(yī)療領(lǐng)域開展數(shù)字化試點(diǎn)示范工作。從世界范圍來(lái)看,智慧醫(yī)療(或稱醫(yī)療AI)已在醫(yī)療放射(Radiology)與醫(yī)療影像 (Imaging)領(lǐng)域取得相當(dāng)優(yōu)異的成績(jī),其檢測(cè)疾病的準(zhǔn)確率和速率甚至超過(guò)了人類醫(yī)師(1)。就我國(guó)的現(xiàn)實(shí)情況來(lái)看,醫(yī)療行業(yè)存在基礎(chǔ)數(shù)據(jù)量大、優(yōu)質(zhì)醫(yī)療資源相對(duì)不足、民生需求迫切等客觀因素,智能問(wèn)診、“刷臉”就醫(yī)、醫(yī)療影像輔助診斷、疾病鑒定(2)技術(shù)等在我國(guó)已獲得廣泛運(yùn)用,但亟待人工智能賦能醫(yī)療行業(yè)的高質(zhì)量發(fā)展。

    智慧醫(yī)療(醫(yī)療AI)借助機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等算法技術(shù),使得我們可以在海量醫(yī)療數(shù)據(jù)中發(fā)掘出潛在的科學(xué)法則,進(jìn)而為評(píng)估預(yù)后、作成診斷、分析影像、選擇治療等方面作出醫(yī)療判斷(3) 。但必須承認(rèn)的是,目前的人工智能系統(tǒng)于使用上存在受制于算法與參數(shù)設(shè)計(jì)錯(cuò)誤、訓(xùn)練數(shù)據(jù)的非真實(shí)性、偏見以及代表性不足等問(wèn)題(4),AI算法仍存在不確定性,運(yùn)算準(zhǔn)確率并非百分之百。智慧醫(yī)療決策一旦有誤,便會(huì)危及病患的生命權(quán)、健康權(quán),給病患造成難以恢復(fù)的人身?yè)p害。未來(lái)隨著智慧醫(yī)療的發(fā)展與大規(guī)模運(yùn)用,醫(yī)患糾紛可能變得更加復(fù)雜,許多不同的利害關(guān)系人(例如軟件開發(fā)人、制造商、醫(yī)院和醫(yī)師)參與了醫(yī)療AI系統(tǒng)的建構(gòu)和使用,勢(shì)必會(huì)滋生新型法律糾紛:其一, 在智慧醫(yī)療輔助醫(yī)生進(jìn)行醫(yī)療決策時(shí),醫(yī)生應(yīng)如何踐行“告知同意”規(guī)則,應(yīng)以何種方式向病患釋清醫(yī)療AI的醫(yī)療建議,保障病患的自決權(quán)?其二,醫(yī)院如何善盡其管理責(zé)任,確保醫(yī)療AI的安全性,醫(yī)療機(jī)構(gòu)應(yīng)盡到何種程度的注意義務(wù),方能主張免責(zé)?其三,當(dāng)醫(yī)療AI獨(dú)立為醫(yī)療決策時(shí),若發(fā)生損害責(zé)任,病患應(yīng)向誰(shuí)主張損害賠償責(zé)任,病患如何就醫(yī)療AI的“過(guò)失”履行舉證責(zé)任?醫(yī)療AI獨(dú)立承擔(dān)責(zé)任的財(cái)產(chǎn)源于何處?這些棘手難題與智慧醫(yī)療的穩(wěn)健發(fā)展息息相關(guān),皆應(yīng)嚴(yán)肅對(duì)待,并求得妥當(dāng)解釋。

    二、責(zé)任法視角下智慧醫(yī)療責(zé)任認(rèn)定的困境成因

    在醫(yī)療健康產(chǎn)業(yè)數(shù)字化、智能化轉(zhuǎn)型的進(jìn)程中,我國(guó)將加速推動(dòng)醫(yī)療領(lǐng)域數(shù)智技術(shù)創(chuàng)新和應(yīng)用,提高百姓對(duì)優(yōu)質(zhì)高效健康服務(wù)的獲得感。醫(yī)療侵權(quán)中被害人損害賠償?shù)恼?qǐng)求權(quán)基礎(chǔ),立法上有契約責(zé)任與侵權(quán)責(zé)任兩種模式(5)?!吨腥A人民共和國(guó)民法典》(以下簡(jiǎn)稱《民法典》)處理醫(yī)療損害責(zé)任采英美法路徑,明確規(guī)定了醫(yī)療損害責(zé)任適用過(guò)錯(cuò)責(zé)任的一般規(guī)則(6),醫(yī)療AI責(zé)任理應(yīng)置于侵權(quán)責(zé)任法中過(guò)錯(cuò)責(zé)任框架下進(jìn)行討論。然而隨著智慧醫(yī)療的發(fā)展,不透明、不可測(cè)、非直觀的算法取代醫(yī)生的決策過(guò)程,將導(dǎo)致人工智能科技與醫(yī)療過(guò)失侵權(quán)責(zé)任的認(rèn)定出現(xiàn)緊張關(guān)系。

    (一)宏觀層面:醫(yī)療AI漸有替代醫(yī)生專業(yè)判斷之勢(shì)

    鑒于醫(yī)療行為具有高度專業(yè)性與不確定性,在國(guó)內(nèi)外實(shí)務(wù)中,醫(yī)療過(guò)失的認(rèn)定,皆采醫(yī)療常規(guī)的注意標(biāo)準(zhǔn),要求醫(yī)療機(jī)構(gòu)人員在其醫(yī)療活動(dòng)中負(fù)有與其專業(yè)能力相符的注意義務(wù)(7)。隨著醫(yī)療AI的發(fā)展與介入,傳統(tǒng)的醫(yī)療過(guò)失標(biāo)準(zhǔn)會(huì)隨時(shí)間推移而改變,若醫(yī)療AI被社會(huì)廣泛接受,且于醫(yī)療科學(xué)上并無(wú)質(zhì)疑,具有較少之危險(xiǎn)、較少之負(fù)擔(dān)或能提供較好的治療效果,則使用AI將會(huì)變成新的判斷標(biāo)準(zhǔn)。此時(shí),在醫(yī)療實(shí)務(wù)中,如若醫(yī)師并未使用醫(yī)療AI進(jìn)行診斷以提升醫(yī)療質(zhì)量而發(fā)生醫(yī)療事故時(shí),則會(huì)被認(rèn)為存在過(guò)失。有美國(guó)論者認(rèn)為,使用醫(yī)療AI 最終將成為整個(gè)美國(guó)醫(yī)療注意義務(wù)的新標(biāo)準(zhǔn)(8)。

    若將來(lái)醫(yī)療AI取代醫(yī)生專業(yè)的診療判斷,最終結(jié)果便是誘導(dǎo)醫(yī)師為了避免承擔(dān)責(zé)任,舍棄自身的專業(yè)判斷,傾向于遵循AI的建議,而這樣的選擇顯非妥當(dāng),且在目前的侵權(quán)法架構(gòu)下仍有責(zé)任風(fēng)險(xiǎn),即便醫(yī)師使用了AI并遵循其所提供的建議,卻不必然意味著醫(yī)師就可以免除過(guò)失責(zé)任,因?yàn)楝F(xiàn)階段AI多作為輔助醫(yī)師診斷和治療的工具,最終的診斷決策仍須由醫(yī)師作成。因此,若醫(yī)師完全遵循AI的建議,而最后因AI錯(cuò)誤造成病患的損害,法院便會(huì)要求醫(yī)生闡釋其遵循醫(yī)療AI建議之合理性,囿于醫(yī)療AI決策過(guò)程的不可解釋性,醫(yī)生無(wú)法釋明合理性,此時(shí)法院便會(huì)認(rèn)為醫(yī)師忽略審查 AI 意見的適當(dāng)與否,而判定醫(yī)師須對(duì)醫(yī)療事故承擔(dān)過(guò)失責(zé)任,如此判定便會(huì)讓醫(yī)生無(wú)所適從,阻礙醫(yī)療AI的接受度與推廣普及。

    (二)微觀層面:算法黑箱致過(guò)失認(rèn)定的可預(yù)見規(guī)則失效

    侵權(quán)法上,所謂過(guò)失即行為人對(duì)侵害他人民事權(quán)益結(jié)果的發(fā)生應(yīng)注意或能注意卻未注意的一種心理狀態(tài)(9)。由此可知,侵權(quán)法上的過(guò)失,重在評(píng)價(jià)行為人之決策是否合乎理性人之注意標(biāo)準(zhǔn),行為人須對(duì)損害之發(fā)生具有預(yù)見可能性及回避可能性,始需負(fù)損害賠償責(zé)任。

    人工智能的算法具有不可測(cè)性,學(xué)界稱之“算法黑箱”,其輸入和輸出雖是可見和可理解的,但從輸入到輸出的過(guò)程缺乏透明度,AI的計(jì)算過(guò)程是無(wú)法解釋和理解的。智慧醫(yī)療的不可預(yù)測(cè)性與醫(yī)療過(guò)失的可預(yù)見性之間遂產(chǎn)生矛盾:第一種情形,AI給出的建議錯(cuò)誤比較明顯,醫(yī)師只要施以同領(lǐng)域醫(yī)師應(yīng)有的注意即可發(fā)現(xiàn),而醫(yī)師卻遵從AI的診斷意見而使病患發(fā)生損害,則應(yīng)認(rèn)為該醫(yī)師未盡其專業(yè)醫(yī)生必要的注意義務(wù),存在過(guò)失。第二種情形,AI在給予醫(yī)療建議時(shí),醫(yī)師即使運(yùn)用自身醫(yī)學(xué)專業(yè)知識(shí)依然無(wú)法判斷 AI 建議或診斷正確與否,在此情況下,AI發(fā)生了不可理解的錯(cuò)誤而導(dǎo)致誤診,此時(shí)若堅(jiān)持認(rèn)為應(yīng)由醫(yī)生負(fù)責(zé),實(shí)非公平。因?yàn)锳I運(yùn)算的黑盒子特性,醫(yī)師無(wú)法及時(shí)或根本沒(méi)有能力驗(yàn)證AI的診斷正確與否,此時(shí)AI儼然是與人類醫(yī)師共同會(huì)診,AI出現(xiàn)誤診,要求醫(yī)師負(fù)擔(dān)AI全部的侵權(quán)責(zé)任并不合理。

    三、智慧醫(yī)療中醫(yī)療責(zé)任內(nèi)容的革新

    醫(yī)療責(zé)任有醫(yī)療倫理責(zé)任與醫(yī)療組織責(zé)任之分,在智慧醫(yī)療的背景下,這兩種醫(yī)療責(zé)任的具體內(nèi)容變革,還需進(jìn)一步討論。

    (一)醫(yī)療倫理責(zé)任:醫(yī)生告知義務(wù)履行方式的革新

    相較于冷冰冰的智慧系統(tǒng),醫(yī)患關(guān)系最為重要的是醫(yī)師與病人在溝通協(xié)調(diào)中達(dá)成共識(shí),以取得彼此的信任。醫(yī)生履行告知義務(wù)之重點(diǎn)不僅在于說(shuō)明之內(nèi)容,也在于說(shuō)明之過(guò)程,通過(guò)解釋說(shuō)明讓病人產(chǎn)生信任而作出符合其價(jià)值信念的醫(yī)療決定。在醫(yī)患共享決策的過(guò)程中,可培養(yǎng)出醫(yī)師與病人間良好的信任關(guān)系,且在信息適當(dāng)透明的情況下,病人以醫(yī)師未盡告知后同意規(guī)則而提起訴訟的可能性將會(huì)降低。當(dāng)醫(yī)生違反“告知同意”規(guī)則,便應(yīng)承擔(dān)醫(yī)療倫理責(zé)任(10) 。至于醫(yī)生如何踐行告知義務(wù),受英美法學(xué)說(shuō)的影響,我國(guó)過(guò)往實(shí)務(wù)對(duì)于告知義務(wù)的范圍多采理性醫(yī)師標(biāo)準(zhǔn),即醫(yī)生的告知內(nèi)容,應(yīng)以一個(gè)謹(jǐn)慎而理性的醫(yī)師在相同或類似情況下應(yīng)告知之內(nèi)容為標(biāo)準(zhǔn)。

    伴隨著醫(yī)療 AI 的介入,醫(yī)療決策中多了一層醫(yī)療 AI 算法不透明的中間環(huán)節(jié),醫(yī)師在履行說(shuō)明告知義務(wù)時(shí)會(huì)遇到“知識(shí)黑洞”和其他難以充分說(shuō)明的困難(11) ,此時(shí),系統(tǒng)使用者(醫(yī)師)勢(shì)必難以解釋為何系統(tǒng)會(huì)得出該診斷結(jié)果、診療建議。換言之,當(dāng)醫(yī)師使用人工智能系統(tǒng)進(jìn)行醫(yī)療決策,卻因系統(tǒng)本身的不透明性、不可解釋性而無(wú)法向病人解釋診療決策的原理時(shí),醫(yī)師該如何履行告知義務(wù)?對(duì)此,在履行告知義務(wù),采理性醫(yī)師標(biāo)準(zhǔn)時(shí),還應(yīng)該考量醫(yī)療實(shí)踐中人工智能適用的具體情形,斟酌醫(yī)師對(duì)于醫(yī)療人工智能的依賴程度、醫(yī)療人工智能技術(shù)成熟度以及社會(huì)大眾的接受度而動(dòng)態(tài)調(diào)整應(yīng)予說(shuō)明之內(nèi)容(12) ,詳細(xì)而言:

    階段一:于醫(yī)療人工智能之使用并不普遍時(shí),病人對(duì)于醫(yī)療人工智能的了解相對(duì)有限,若要做到全面揭露醫(yī)療人工智能的算法原理,病人可能會(huì)因接收到大量信息,滋生信息超載問(wèn)題(13) ,反而產(chǎn)生認(rèn)知混淆,影響病患的自我決策。在醫(yī)療人工智能發(fā)展的初期,可解釋性及透明性仍顯現(xiàn)不足,醫(yī)師固然不知醫(yī)療人工智能獲得某種結(jié)論之過(guò)程,在該階段,病患對(duì)醫(yī)師的信任遠(yuǎn)超醫(yī)療AI,病患仍比較依賴醫(yī)生,對(duì)醫(yī)師作出相應(yīng)的解釋仍有較高的合理期待。此時(shí),醫(yī)師應(yīng)依據(jù)醫(yī)療人工智能能夠被揭露之程度,立足自身專業(yè)能力,盡力向病人作出解釋,醫(yī)師專業(yè)決策與智能醫(yī)療決策之間屬主輔關(guān)系。

    階段二:于醫(yī)療人工智能之使用比較普遍后,接受了大量的臨床驗(yàn)證,醫(yī)師對(duì)于醫(yī)療人工智能之理解已較為豐富,醫(yī)療人工智能之透明性與可解釋性也有所改觀,病人對(duì)于醫(yī)療人工智能并不完全陌生,已較能了解醫(yī)療人工智能之運(yùn)作方式,此時(shí),可采用理性病人標(biāo)準(zhǔn)說(shuō)向病人說(shuō)明醫(yī)療人工智能之運(yùn)作機(jī)制,說(shuō)明之內(nèi)容可較階段一更為豐富、全面,也不會(huì)給病人造成過(guò)重之信息負(fù)擔(dān)(14) 。此時(shí),醫(yī)師必須考量醫(yī)療AI決策所涉之利益大小、決策邏輯利益沖突之程度,說(shuō)明使用或不使用醫(yī)療人工智能之利弊,與病人共同進(jìn)行決策,合理決定醫(yī)師與智能醫(yī)療之間的主輔關(guān)系。

    階段三:當(dāng)醫(yī)療人工智能已經(jīng)十分普遍,醫(yī)師已經(jīng)習(xí)慣于向病患解說(shuō)醫(yī)療人工智能事項(xiàng),輔助病人決策之工具已經(jīng)成為流行主流,可依據(jù)病人之個(gè)性化信息需求而動(dòng)態(tài)運(yùn)用說(shuō)明義務(wù)論滿足病患所期待之說(shuō)明內(nèi)容。因醫(yī)療人工智能之運(yùn)用已屬常規(guī)內(nèi)容且比較安全,則醫(yī)師與病人對(duì)于使用醫(yī)療人工智能具有高度信賴,理性病人此時(shí)不再需要醫(yī)師多加解釋;然而,當(dāng)病人提出具體詢問(wèn)、重大醫(yī)療決策、利益沖突可能性等醫(yī)療人工智能運(yùn)用所生之個(gè)性化問(wèn)題,醫(yī)師應(yīng)遵循理性病人標(biāo)準(zhǔn)履行說(shuō)明義務(wù)。

    (二)醫(yī)療機(jī)構(gòu)的組織責(zé)任:醫(yī)療AI數(shù)據(jù)更新義務(wù)的履行

    在醫(yī)療活動(dòng)中,醫(yī)師在第一線為病患實(shí)施檢查、診斷與治療等醫(yī)療行為,履行告知說(shuō)明義務(wù)、建立完整病歷與保管義務(wù)、保密義務(wù)。而隨著醫(yī)療專業(yè)分工日益精細(xì),醫(yī)療機(jī)構(gòu)內(nèi)所提供的醫(yī)療行為已不再限于個(gè)別醫(yī)護(hù)人員,而是結(jié)合不同領(lǐng)域的醫(yī)療人員、軟硬設(shè)施所提供的整體性醫(yī)療服務(wù),醫(yī)療損害事件并非必然系因個(gè)別醫(yī)護(hù)人員的疏失,而可能是醫(yī)療機(jī)構(gòu)的系統(tǒng)性錯(cuò)誤所致。因此,醫(yī)療機(jī)構(gòu)負(fù)有確保能提供適當(dāng)且對(duì)病患無(wú)危險(xiǎn)之醫(yī)療行為的義務(wù),此即學(xué)理上所謂之“企業(yè)所負(fù)的組織責(zé)任”。(15) 至于醫(yī)療機(jī)構(gòu)的組織責(zé)任,學(xué)界認(rèn)為醫(yī)療機(jī)構(gòu)在運(yùn)營(yíng)中,必須防止其受雇人員、機(jī)器設(shè)備或提供之服務(wù),對(duì)他人之生命或身體造成損害,否則即為交易安全義務(wù)之違反,應(yīng)負(fù)賠償責(zé)任(16) 。

    就醫(yī)療AI的技術(shù)演變歷程而言,醫(yī)療AI會(huì)從現(xiàn)階段多以輔助醫(yī)師為決策建議發(fā)展至未來(lái)可能于某專業(yè)科別完全取代醫(yī)師,彼時(shí)醫(yī)療AI遂會(huì)成為醫(yī)療機(jī)構(gòu)的系統(tǒng)組成部分,醫(yī)療AI的安全性自應(yīng)成為醫(yī)院所負(fù)組織義務(wù)的應(yīng)有之義。詳言之,因醫(yī)療AI系統(tǒng)的目的在于提供最新、最實(shí)時(shí)的醫(yī)學(xué)知識(shí)與技術(shù),以便臨床醫(yī)師能獲得最新的可能減緩病患手術(shù)副作用的替代性療法,保障民眾的身體健康與福祉。然而倘若醫(yī)療AI于系統(tǒng)運(yùn)算分析過(guò)程中使用錯(cuò)誤、不合適之算法模型、系統(tǒng)透過(guò)有錯(cuò)誤、偏差的病患數(shù)據(jù),又或是未關(guān)注到實(shí)務(wù)中出現(xiàn)的新型診斷與治療方法,便會(huì)有潛在的致?lián)p風(fēng)險(xiǎn)。醫(yī)學(xué)科學(xué)的發(fā)展間接或直接影響病患于日后接受診斷與治療照護(hù)之成效與質(zhì)量,未及時(shí)更新的醫(yī)療AI數(shù)據(jù)系統(tǒng)便構(gòu)成了組織瑕疵。因此,隨著醫(yī)療AI之應(yīng)用越趨普及且系統(tǒng)具備高穩(wěn)定性與準(zhǔn)確性而成為醫(yī)療常規(guī)、臨床指引時(shí),醫(yī)療機(jī)構(gòu)與醫(yī)師便應(yīng)確保醫(yī)療AI之安全、穩(wěn)定、正確及有效輸出之使用目的。鑒于醫(yī)療機(jī)構(gòu)相較醫(yī)師更有資金與風(fēng)險(xiǎn)控管能力,應(yīng)為整體醫(yī)療AI之建置、訓(xùn)練、驗(yàn)證、測(cè)試與監(jiān)測(cè)等管理與運(yùn)作事項(xiàng)負(fù)起主要責(zé)任,法律有必要明確賦予醫(yī)療機(jī)構(gòu)對(duì)于醫(yī)療AI所為之管理與更新系統(tǒng)之行為義務(wù),確保醫(yī)療AI之安全、穩(wěn)定、正確且有效運(yùn)作。

    基于醫(yī)療機(jī)構(gòu)所負(fù)之組織管理責(zé)任,當(dāng)病患受有損害時(shí),得先向醫(yī)療機(jī)構(gòu)提起訴訟,若醫(yī)療機(jī)構(gòu)認(rèn)為其并無(wú)違反管理與監(jiān)督醫(yī)療AI之注意義務(wù)時(shí),應(yīng)由醫(yī)療機(jī)構(gòu)舉證證明其已善盡定期更新、維護(hù)、監(jiān)測(cè)及適時(shí)培訓(xùn)醫(yī)師之行為義務(wù),若確實(shí)有履行前述相關(guān)行為義務(wù),醫(yī)療機(jī)構(gòu)始得免除責(zé)任。

    四、未來(lái)智慧醫(yī)療中AI獨(dú)立責(zé)任及其實(shí)現(xiàn)的可能性

    侵權(quán)責(zé)任法所建構(gòu)的醫(yī)療責(zé)任法體系,其損害賠償責(zé)任之成立系以行為人具有過(guò)失為前提,亦即醫(yī)師或醫(yī)療機(jī)構(gòu)對(duì)于醫(yī)療損害之發(fā)生具有預(yù)見可能性及回避可能性,始須負(fù)損害賠償責(zé)任。而以風(fēng)險(xiǎn)為基礎(chǔ)的治理是人工智能法研究的基礎(chǔ)(17),以風(fēng)險(xiǎn)而高階的醫(yī)療人工智能所衍生的醫(yī)療風(fēng)險(xiǎn),常非醫(yī)師及醫(yī)療機(jī)構(gòu)所能掌控,但若以醫(yī)師、醫(yī)療機(jī)構(gòu)及研發(fā)廠商無(wú)法預(yù)見或不具有回避可能性而否定其損害賠償責(zé)任之成立,于被害人而言誠(chéng)非公允。鑒于此,理應(yīng)于法責(zé)任體系上重新劃分智慧醫(yī)療中當(dāng)事人之責(zé)任歸屬,以為衡平。

    (一)醫(yī)療AI責(zé)任的成立及其證明

    1.醫(yī)療AI責(zé)任的產(chǎn)品責(zé)任底色

    診療過(guò)程中,獨(dú)立自主的醫(yī)療AI因自身疏忽致病患產(chǎn)生損害,自應(yīng)予以賠償。然何為醫(yī)療AI疏忽?其具體表現(xiàn)應(yīng)為醫(yī)療AI在制造或設(shè)計(jì)上存在缺陷,在此意義上,醫(yī)療AI的自身責(zé)任,其邏輯底色應(yīng)為產(chǎn)品的嚴(yán)格責(zé)任(18) ,可依據(jù)《民法典》第1223條之規(guī)定承擔(dān)醫(yī)療器械損害責(zé)任。該條之醫(yī)療產(chǎn)品責(zé)任,嚴(yán)格意義上不是醫(yī)療損害責(zé)任,而是產(chǎn)品責(zé)任(19) ,可轉(zhuǎn)引產(chǎn)品責(zé)任中的嚴(yán)格責(zé)任之規(guī)定。

    在域外,無(wú)論是歐盟的產(chǎn)品責(zé)任指令,還是美國(guó)法,產(chǎn)品責(zé)任皆以傳統(tǒng)、可觸碰、可移動(dòng)及大規(guī)模生產(chǎn)之產(chǎn)品為規(guī)范對(duì)象(20) 。依此觀點(diǎn),單純的人工智能軟件系統(tǒng)不屬于商品,病患或醫(yī)療機(jī)構(gòu)可能就難以向醫(yī)療AI制造商主張產(chǎn)品責(zé)任。但醫(yī)療AI是否屬于商品并非歸責(zé)問(wèn)題之癥結(jié)所在,醫(yī)療AI承擔(dān)責(zé)任的關(guān)鍵在于是否可以在醫(yī)療AI領(lǐng)域推行嚴(yán)格責(zé)任。

    首先,推行嚴(yán)格責(zé)任,符合“風(fēng)險(xiǎn)收益一體”理論。嚴(yán)格責(zé)任的合理性在于利益風(fēng)險(xiǎn)以及控制力的均衡分配,即行為人使他人暴露于其從中受益并受其控制的活動(dòng)風(fēng)險(xiǎn)中,行為人應(yīng)對(duì)此負(fù)責(zé)(21) 。另從法經(jīng)濟(jì)分析的角度來(lái)看,法經(jīng)濟(jì)學(xué)認(rèn)為責(zé)任應(yīng)分配給最小成本的避險(xiǎn)者(22) ,企業(yè)經(jīng)營(yíng)者盡管也難以控制與掌握AI系統(tǒng)的決策過(guò)程,然其地位相較于弱勢(shì)之消費(fèi)者甚至是更難以發(fā)現(xiàn)與檢視商品卻受到損害的第三人而言,企業(yè)經(jīng)營(yíng)者事前有機(jī)會(huì)檢視、驗(yàn)證人工智能之科學(xué)性與安全性,倘若制造商事前切實(shí)履行驗(yàn)證程序,勢(shì)必會(huì)對(duì)系統(tǒng)的損害、錯(cuò)誤發(fā)生有一定的預(yù)防效果,制造商客觀上得負(fù)擔(dān)較少之成本而盡可能規(guī)避損害結(jié)果之發(fā)生;其次,推行嚴(yán)格責(zé)任,意味著原告病患無(wú)需舉證證明制造商主觀上有故意與過(guò)失,降低了證明難度,有利于受害者第一時(shí)間獲得救濟(jì)賠償,且企業(yè)經(jīng)營(yíng)者能借由市場(chǎng)價(jià)格機(jī)制或是產(chǎn)品責(zé)任保險(xiǎn)分散損害風(fēng)險(xiǎn),因而課予制造商嚴(yán)格責(zé)任實(shí)屬妥當(dāng)。

    歐盟《人工智能和其他新興數(shù)字技術(shù)責(zé)任的報(bào)告》中也明確說(shuō)道,與已受嚴(yán)格責(zé)任規(guī)范的傳統(tǒng)風(fēng)險(xiǎn)相比,人工智能技術(shù)通常也會(huì)造成極為嚴(yán)重的重大損害,尤其是牽涉對(duì)象為不特定多數(shù)人時(shí)更應(yīng)被謹(jǐn)慎對(duì)待(23) ,醫(yī)療 AI 之使用牽涉人類個(gè)人之身體權(quán)、健康權(quán)及生命權(quán)等重大權(quán)益,理應(yīng)受到嚴(yán)格責(zé)任的規(guī)范。該研究報(bào)告倡導(dǎo),隨著人類專家監(jiān)督與介入之機(jī)會(huì)與能力越趨渺茫時(shí),未來(lái)強(qiáng)自主性的人工智能系統(tǒng),應(yīng)有更為嚴(yán)格之規(guī)范,約束較有機(jī)會(huì)控制與防范人工智能系統(tǒng)發(fā)生損害之制造商。

    2.醫(yī)療AI損害中證明責(zé)任之實(shí)現(xiàn)

    2020年修訂的《最高人民法院關(guān)于審理醫(yī)療損害責(zé)任糾紛案件適用法律若干問(wèn)題的解釋》第7條規(guī)定,患者主張醫(yī)療產(chǎn)品生產(chǎn)者承擔(dān)賠償責(zé)任的,應(yīng)當(dāng)提交使用醫(yī)療產(chǎn)品、受到損害的證據(jù);無(wú)法舉證因果關(guān)系時(shí),可依法申請(qǐng)鑒定,人民法院應(yīng)當(dāng)準(zhǔn)許。回到實(shí)踐中,在醫(yī)療AI系統(tǒng)算法出錯(cuò)而造成損害的狀況下,因?yàn)锳I學(xué)習(xí)算法高度復(fù)雜且欠缺透明,對(duì)其進(jìn)行回顧式因果鏈審查并不可能,要證明損害系因算法造成十分困難。舉證困難的結(jié)果便是導(dǎo)致負(fù)有舉證責(zé)任之受害人獨(dú)自承受了人工智能醫(yī)療產(chǎn)品之風(fēng)險(xiǎn)。為平衡雙方舉證能力的差異,轉(zhuǎn)換舉證責(zé)任或?qū)嵤┎扇∨e證責(zé)任減輕規(guī)則顯得尤為迫切。

    鑒于人工智能系統(tǒng)的黑盒子效應(yīng) (Blackbox-Effects)將會(huì)導(dǎo)致證明產(chǎn)品之瑕疵要件變得極為復(fù)雜與困難,對(duì)于科技設(shè)備并不熟悉,且處于制造企業(yè)領(lǐng)域之外的受害人而言幾乎是無(wú)法進(jìn)行證明的(24)。本文認(rèn)為,醫(yī)療人工智能之損害賠償責(zé)任應(yīng)適用危險(xiǎn)責(zé)任理論,即人工智能產(chǎn)品之瑕疵與責(zé)任成立因果關(guān)系均有舉證責(zé)任轉(zhuǎn)換之適用,應(yīng)由人工智能產(chǎn)品的制造人擔(dān)負(fù)舉證責(zé)任,且受害人對(duì)于產(chǎn)品之制造人享有信息提供請(qǐng)求權(quán)。

    危險(xiǎn)責(zé)任理論的思想基礎(chǔ)為特定人透過(guò)其產(chǎn)品開啟了危險(xiǎn)源,必須承擔(dān)因此項(xiàng)危險(xiǎn)實(shí)現(xiàn)造成他人損害的賠償責(zé)任(25)。危險(xiǎn)責(zé)任之認(rèn)定不再取決于行為人是否具有過(guò)失,原則上要求創(chuàng)設(shè)被容許的但無(wú)法完全控制危險(xiǎn)源之人擔(dān)負(fù)其應(yīng)負(fù)之責(zé)任,若損害原因系存在于加害人之領(lǐng)域,則加害者應(yīng)負(fù)舉證責(zé)任,該理論旨在克服證據(jù)困難及貫徹責(zé)任規(guī)范之預(yù)防目的(26)。醫(yī)療領(lǐng)域奉行該證明責(zé)任理論的典型立法為德國(guó)藥品法第84條所規(guī)定之藥企責(zé)任,該條具體要求由制藥企業(yè)提供免責(zé)證據(jù),如果事實(shí)證明造成上述損害的原因不在藥品的研發(fā)或制造過(guò)程中,制藥企業(yè)可免除賠償責(zé)任。(27)鑒于人工智能醫(yī)療產(chǎn)品與藥品具有相類似性,對(duì)于人工智能醫(yī)療產(chǎn)品采取危險(xiǎn)責(zé)任之合理性在于即使產(chǎn)品有高度之安全性,但仍然無(wú)法絕對(duì)排除損害之產(chǎn)生,即人工智能醫(yī)療產(chǎn)品流通于市場(chǎng)后,客觀上仍有可能發(fā)生不受控制的現(xiàn)象發(fā)生,針對(duì)此一危險(xiǎn)仍需為必要的規(guī)制。對(duì)此,宜借助我國(guó)民事訴訟法舉證責(zé)任緩和之規(guī)定,應(yīng)允許法官于將來(lái)的司法實(shí)務(wù)中臨機(jī)應(yīng)變借助種種方法對(duì)當(dāng)事人的舉證責(zé)任進(jìn)行調(diào)整。回到智慧醫(yī)療領(lǐng)域,人民法院可以根據(jù)公平原則和誠(chéng)信原則,綜合當(dāng)事人的舉證能力合理確定舉證責(zé)任的承擔(dān),可推定醫(yī)療AI責(zé)任因果關(guān)系的成立,并賦予受害人向AI制造商之產(chǎn)品信息提供請(qǐng)求權(quán)。

    (二)醫(yī)療AI責(zé)任之實(shí)現(xiàn):責(zé)任財(cái)產(chǎn)的構(gòu)建

    人工智能雖已初步具備模擬人類智慧行為的能力,而且能在沒(méi)有人類參與下依其自主決策完成所設(shè)定之任務(wù),但由于其本質(zhì)上僅系計(jì)算機(jī)軟件程序,故在現(xiàn)階段,其并非權(quán)利主體,無(wú)法享受權(quán)利負(fù)擔(dān)義務(wù),更無(wú)獨(dú)立的責(zé)任財(cái)產(chǎn)。

    當(dāng)醫(yī)療AI自主程度越高,未來(lái)甚至可能直接取代醫(yī)師為獨(dú)立診斷與治療,此時(shí),病患向醫(yī)療機(jī)構(gòu)與醫(yī)師主張醫(yī)療過(guò)失侵權(quán)責(zé)任確有現(xiàn)實(shí)困難,為避免病患求償無(wú)門,應(yīng)允許直接向醫(yī)療AI求償,可透過(guò)無(wú)過(guò)失補(bǔ)償制度,對(duì)病患損害進(jìn)行合理救濟(jì)。然醫(yī)療AI獨(dú)立承擔(dān)責(zé)任之財(cái)產(chǎn)源于何處?醫(yī)療AI得透過(guò)為自己投保責(zé)任保險(xiǎn)“取得”對(duì)外進(jìn)行賠償?shù)呢?zé)任財(cái)產(chǎn),此時(shí),如同將醫(yī)療AI視為醫(yī)師,透過(guò)投保醫(yī)療AI責(zé)任險(xiǎn)分散因侵權(quán)行為而生的索賠風(fēng)險(xiǎn),經(jīng)由移轉(zhuǎn)與分散責(zé)任風(fēng)險(xiǎn),由危險(xiǎn)共同體承擔(dān)及填補(bǔ)被保險(xiǎn)人損失;對(duì)于受害第三人而言,得藉由保險(xiǎn)制度及時(shí)獲得損害填補(bǔ)。在醫(yī)療AI領(lǐng)域運(yùn)用責(zé)任保險(xiǎn)模式化解風(fēng)險(xiǎn)雖有益處,但仍有如下兩大前置議題亟待說(shuō)明:

    1.當(dāng)前醫(yī)療AI責(zé)任保險(xiǎn)之主要形式:醫(yī)療AI強(qiáng)制責(zé)任保險(xiǎn)

    目前我國(guó)關(guān)于醫(yī)療責(zé)任保險(xiǎn)的參保模式采取的是任意商業(yè)險(xiǎn)模式,醫(yī)療機(jī)構(gòu)與醫(yī)師皆得自由選擇是否要參與投保醫(yī)療責(zé)任險(xiǎn)。實(shí)踐中,無(wú)論是醫(yī)療機(jī)構(gòu)或是醫(yī)師之責(zé)任險(xiǎn)由于保費(fèi)高、給付額度低,導(dǎo)致承保率低,并未取得良好實(shí)效,因此若以醫(yī)療任意責(zé)任險(xiǎn)分散醫(yī)療AI事故中的損害風(fēng)險(xiǎn),其實(shí)際效果可能得大打折扣。

    首先,任意責(zé)任險(xiǎn)是以承保過(guò)失損害賠償責(zé)任為基礎(chǔ),而強(qiáng)制責(zé)任險(xiǎn)作為典型的政策性保險(xiǎn),旨在化解特定領(lǐng)域嚴(yán)重影響公眾生活品質(zhì)的風(fēng)險(xiǎn)(28),是以無(wú)過(guò)失賠償責(zé)任為理論基礎(chǔ),無(wú)論被保險(xiǎn)人有無(wú)過(guò)失,保險(xiǎn)公司均應(yīng)對(duì)被害者所受之損害予以填補(bǔ),向受害者提供及時(shí)的補(bǔ)償?;诠舱咧枰梢?guī)則制定者傾向于通過(guò)立法的方式強(qiáng)制或鼓勵(lì)特定事業(yè)投保責(zé)任保險(xiǎn),以期保險(xiǎn)能真正起到社會(huì)“穩(wěn)壓器”的功能。若以任意醫(yī)療責(zé)任險(xiǎn)為參保模式,只有當(dāng)醫(yī)療機(jī)構(gòu)與醫(yī)師之醫(yī)療行為成立過(guò)失,保險(xiǎn)人方才提供保險(xiǎn)理賠;惟醫(yī)療 AI 之算法風(fēng)險(xiǎn)具有醫(yī)療機(jī)構(gòu)與醫(yī)師難以預(yù)見、難以避免之理論難題,因而,醫(yī)療過(guò)失之認(rèn)定便會(huì)存在現(xiàn)實(shí)困難,保險(xiǎn)給付條件難以成立,如此可能造成受害人無(wú)法順利地獲得保險(xiǎn)理賠。因此,醫(yī)療AI之固有風(fēng)險(xiǎn)恐無(wú)法透過(guò)任意醫(yī)療責(zé)任險(xiǎn)為分散與移轉(zhuǎn)。

    其次,醫(yī)療機(jī)構(gòu)、醫(yī)師于臨床上使用醫(yī)療AI并將潛在的致?lián)p風(fēng)險(xiǎn)投保時(shí),保險(xiǎn)公司還須先履行核保程序,精算醫(yī)療機(jī)構(gòu)與醫(yī)師于使用醫(yī)療AI可能誘發(fā)的責(zé)任大小,劃定承保范圍。然而鑒于醫(yī)療 AI 之不確定性,實(shí)難事前衡量責(zé)任風(fēng)險(xiǎn)范圍,核保程序恐難開展,故可能造成無(wú)法以任意險(xiǎn)的方式來(lái)分散醫(yī)療 AI 的固有風(fēng)險(xiǎn)。反觀強(qiáng)制險(xiǎn),該類保險(xiǎn)具有強(qiáng)政策性,保險(xiǎn)公司無(wú)需經(jīng)過(guò)嚴(yán)密的核保程序,且保險(xiǎn)公司不可拒保,基于強(qiáng)制險(xiǎn)具有的補(bǔ)償優(yōu)先屬性,站在被害人病患能獲得及時(shí)賠償?shù)牧?chǎng)上,應(yīng)立法強(qiáng)制擴(kuò)大生產(chǎn)者、醫(yī)療機(jī)構(gòu)投保責(zé)任保險(xiǎn)。另外,考慮到強(qiáng)制險(xiǎn)在進(jìn)行制度設(shè)計(jì)時(shí)多會(huì)設(shè)計(jì)特別補(bǔ)充基金作為損害救濟(jì)的配套措施,是以,被害人得向保險(xiǎn)人請(qǐng)求保險(xiǎn)給付,亦可選擇向醫(yī)療AI事故特別補(bǔ)償基金請(qǐng)求給予補(bǔ)償。相較于任意險(xiǎn),強(qiáng)制險(xiǎn)模式無(wú)疑給病患提供了雙重制度保障。

    2.多層次醫(yī)療AI強(qiáng)制責(zé)任保險(xiǎn)之保費(fèi)來(lái)源

    來(lái)源渠道之一:醫(yī)院之節(jié)省費(fèi)用。倘若未來(lái)當(dāng)醫(yī)療AI部分取代或完全取代人類醫(yī)師為獨(dú)立決策時(shí),此時(shí)醫(yī)療機(jī)構(gòu)即可相應(yīng)地減少醫(yī)師的人力成本支出,所節(jié)約之經(jīng)費(fèi)可作為參加醫(yī)療強(qiáng)制責(zé)任險(xiǎn)的經(jīng)費(fèi)來(lái)源。另外,隨著醫(yī)療 AI 之應(yīng)用越來(lái)越普及,傳統(tǒng)的醫(yī)療任意險(xiǎn)系以過(guò)失為理賠要件,多數(shù)醫(yī)療機(jī)構(gòu)勢(shì)必會(huì)舍棄投保相關(guān)任意險(xiǎn),由此節(jié)省下來(lái)的任意險(xiǎn)保費(fèi)也可以充作醫(yī)療AI強(qiáng)制險(xiǎn)之保費(fèi)。

    來(lái)源渠道之二:制造者與其他參與者之經(jīng)驗(yàn)收益。醫(yī)療AI因軟件故障、算法與程序設(shè)計(jì)上的瑕疵、網(wǎng)絡(luò)黑客侵入篡改數(shù)據(jù)等因素致醫(yī)療AI發(fā)生錯(cuò)誤,因其所滋生之賠償責(zé)任,究竟系因何一主體生產(chǎn)的零部件誘發(fā)的侵權(quán)責(zé)任往往難以認(rèn)定,因果關(guān)系的鏈條也難以確認(rèn),故傳統(tǒng)侵權(quán)責(zé)任所奉行之自己責(zé)任模式難以適用于智慧醫(yī)療AI責(zé)任歸屬上,域外有學(xué)者認(rèn)為應(yīng)以共同事業(yè)責(zé)任理論(Common Enterprise Liability)之變體——制造商企業(yè)責(zé)任理論(Manufacturer Enterprise Responsibility,簡(jiǎn)稱 “MER”)解決此一現(xiàn)實(shí)困境(29),即針對(duì)醫(yī)療機(jī)構(gòu)、醫(yī)師于使用醫(yī)療 AI 時(shí)遭遇之醫(yī)療損害,制造商及其他使用者應(yīng)與醫(yī)療機(jī)構(gòu)一同對(duì)外負(fù)擔(dān)賠償責(zé)任,各方主體成為對(duì)外賠償?shù)呢?zé)任共同體,在此賠償模式下,各方皆有移轉(zhuǎn)責(zé)任風(fēng)險(xiǎn)之需,遂對(duì)強(qiáng)制保險(xiǎn)皆有合法的保險(xiǎn)利益,理應(yīng)將其納入投保人范圍之內(nèi),企業(yè)經(jīng)營(yíng)者、銷售者以及使用者等,按其參與程度,分別繳納一定比例之保險(xiǎn)費(fèi)用,考慮搭配制造商相較醫(yī)療機(jī)構(gòu)、醫(yī)師更有機(jī)會(huì)與信息知識(shí)接近醫(yī)療 AI算法之建構(gòu)與參數(shù)之設(shè)定、修改,對(duì)其潛在的索賠風(fēng)險(xiǎn)因素最大。因此,制造商應(yīng)主要負(fù)擔(dān)醫(yī)療 AI 產(chǎn)品責(zé)任保險(xiǎn)之保險(xiǎn)費(fèi)用。

    注釋:

    (1) See Thomas Hoeren, Maurice Neuhoff, Artificial Intelligence in Medical Diagnoses and the Right to Explanation, European Data Protection Law Review, 2018, 4, p.308.

    (2) 王迎龍、宋業(yè)臻:《司法精神病鑒定的人工智能技術(shù)應(yīng)用》,《浙江工商大學(xué)學(xué)報(bào)》2022年第1期。

    (3) W. Nicholson Price Ⅲ, Artificial Intelligence in Health Care: Applications and Legal Issues, The SciTech Lawyer, 2017, 14(1), p.10.

    (4) Z. Obermeyer, E. J. Emanuel, Predicting the Future—Big Data, Machine Learning, and Clinical Medicine, The New England Journal of Medicine, 2016, 375, p.1216.

    (5) 陳聰富:《醫(yī)療責(zé)任的形成與展開》,臺(tái)灣臺(tái)大出版中心2020年版,第4頁(yè)。

    (6) 最高人民法院民法典貫徹實(shí)施工作領(lǐng)導(dǎo)小組:《中華人民共和國(guó)民法典侵權(quán)責(zé)任編理解與適用》,人民法院出版社2020年版,第410頁(yè)。

    (7) 鄒海林、朱廣新主編:《民法典評(píng)注·侵權(quán)責(zé)任編1》,中國(guó)法制出版社2020年版,第542頁(yè)。

    (8) A. Michael Froomkin& Ian R. Kerr & Joelle Pineau, When Ais Outperform Doctors: Confronting the Challenges of a Tort-Induced Over-Reliance on Machine Learning, Arizona Law Review, 2019, 61, p.33.

    (9) 程嘯:《侵權(quán)責(zé)任法》,法律出版社2021年版,第295頁(yè)。

    (10) 楊立新:《侵權(quán)責(zé)任法》,法律出版社2021年版,第477頁(yè)。

    (11) 皮勇:《論醫(yī)療人工智能的刑法問(wèn)題》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2021年第1期。

    (12) D. Comin & B. Hobijn, An Exploration of Technology Diffusion, American Economic Review, 2010, 100(5), pp.2031-2059.

    (13) O. Ben-Shahar, C. E. Schneider, The Failure of Mandated Disclosure. University of Pennsylvania Law Review, 2011, 159, pp.647-749.

    (14) 吳建昌、王昱涵:《醫(yī)師運(yùn)用醫(yī)療人工智能時(shí)之說(shuō)明義務(wù)──以病人自主、醫(yī)療決策及醫(yī)療人工智能發(fā)展為中心》,《月旦民商法雜志 》2021年第12期。

    (15) 朱巖:《論企業(yè)組織責(zé)任——企業(yè)責(zé)任的一個(gè)核心類型》,《法學(xué)家》2008年第3期。

    (16) 侯英泠:《醫(yī)療機(jī)構(gòu)之組織義務(wù)再建構(gòu)》,《月旦民商法雜志》2021年第12期。

    (17) 陳吉棟:《以風(fēng)險(xiǎn)為基礎(chǔ)的人工智能治理》,《法治研究》2023年第5期。

    (18) 鄭志峰:《診療人工智能的醫(yī)療損害責(zé)任》,《中國(guó)法學(xué)》2023年第1期。

    (19) 王利明主編:《民法典釋評(píng)侵權(quán)卷》,中國(guó)人民大學(xué)出版社2020年版,第314頁(yè)。

    (20) [美]詹姆斯·戈德雷、阿瑟·泰勒·馮·梅倫:《私法比較研究導(dǎo)論:閱讀、案例、材料》,張凇綸譯,中國(guó)法制出版社2021年版,第444頁(yè)。

    (21) [奧] 海爾姆特·庫(kù)齊奧:《侵權(quán)責(zé)任法基本問(wèn)題》 第1卷,朱巖譯,北京大學(xué)出版社2017年版,第234頁(yè)

    (22) Hans-Bernd Sch?fer, Claus Ott, The Economic Analysis of Civil Law, Edward Elgar Publishing, 2022, p.367.

    (23) Expert Group on Liability and New Technologies-New Technology Formation, Report on Liability for Artificial Intelligence and Other Emerging Digital Technologies, 2019, p.40.

    (24) 劉明生:《人工智能醫(yī)療產(chǎn)品瑕疵事件舉證責(zé)任分配與舉證減輕之研究──以醫(yī)院、醫(yī)師與產(chǎn)品制造人為中心》,《月旦民商法雜志》2021年第12期。

    (25) 李昊:《危險(xiǎn)責(zé)任的動(dòng)態(tài)體系論》,北京大學(xué)出版社2020年版,第47頁(yè)

    (26) 姜世明:《新民事證據(jù)法論》,廈門大學(xué)出版社2017年版,第124頁(yè)。

    (27) 佟樂(lè):《德國(guó)藥品損害賠償法律制度對(duì)我國(guó)的啟示》,《中國(guó)藥事》2012年第11期。

    (28) 江朝國(guó):《社會(huì)保險(xiǎn)、商業(yè)保險(xiǎn)在福利社會(huì)中的角色》,《月旦法學(xué)雜志》2010年第4期。

    (29) Kenneth S. Abrahama & Robert L. Rabin, Automated Vehicles and Manufacturer Responsibility for Accidents: A New Legal Regime for a New Era, Virginia Law Review, 2019, 105(1), pp.127-171.

    作者簡(jiǎn)介:蔡大順,湖北大學(xué)法學(xué)院講師,湖北武漢,430062。

    (責(zé)任編輯 李 濤)

    www.av在线官网国产| 麻豆精品久久久久久蜜桃| 黄网站色视频无遮挡免费观看| 午夜福利视频在线观看免费| 两个人免费观看高清视频| 精品人妻一区二区三区麻豆| 成人手机av| 美女中出高潮动态图| 久久久久久人妻| 丁香六月天网| 日韩制服丝袜自拍偷拍| 欧美成人午夜免费资源| 亚洲视频免费观看视频| 亚洲成人av在线免费| 美女大奶头黄色视频| 欧美日韩成人在线一区二区| 成人毛片60女人毛片免费| 日韩一本色道免费dvd| 欧美精品一区二区大全| 日本免费在线观看一区| 天堂中文最新版在线下载| 亚洲av日韩在线播放| 永久网站在线| freevideosex欧美| 亚洲天堂av无毛| 日本wwww免费看| 久久久久国产一级毛片高清牌| 91久久精品国产一区二区三区| 午夜免费鲁丝| 好男人视频免费观看在线| 婷婷色综合www| 侵犯人妻中文字幕一二三四区| 男人添女人高潮全过程视频| 电影成人av| 亚洲综合色惰| 国产片特级美女逼逼视频| 久久久国产欧美日韩av| 美女脱内裤让男人舔精品视频| 亚洲欧洲国产日韩| 日韩成人av中文字幕在线观看| 久久人人爽人人片av| 久久婷婷青草| 日产精品乱码卡一卡2卡三| 国产亚洲欧美精品永久| 国产日韩一区二区三区精品不卡| 男女边吃奶边做爰视频| 熟妇人妻不卡中文字幕| 国产精品国产三级国产专区5o| 老汉色∧v一级毛片| 精品亚洲成国产av| 亚洲欧美成人精品一区二区| 国产xxxxx性猛交| 亚洲色图综合在线观看| 美女午夜性视频免费| 日本欧美视频一区| 大香蕉久久网| 18在线观看网站| 亚洲国产av新网站| 欧美另类一区| 国产免费视频播放在线视频| 久久久久国产精品人妻一区二区| 91精品伊人久久大香线蕉| 夜夜骑夜夜射夜夜干| 在线免费观看不下载黄p国产| 精品99又大又爽又粗少妇毛片| 精品人妻在线不人妻| 午夜福利在线免费观看网站| 天天躁夜夜躁狠狠久久av| 精品人妻偷拍中文字幕| 91aial.com中文字幕在线观看| 可以免费在线观看a视频的电影网站 | 亚洲综合色惰| 国产精品免费大片| 国产精品三级大全| 成人漫画全彩无遮挡| 久久久精品94久久精品| 观看美女的网站| 99久久综合免费| 色播在线永久视频| av国产久精品久网站免费入址| 亚洲欧美中文字幕日韩二区| 在线亚洲精品国产二区图片欧美| 久久婷婷青草| 性高湖久久久久久久久免费观看| 黄频高清免费视频| 天堂中文最新版在线下载| 成人手机av| 最新中文字幕久久久久| 国产激情久久老熟女| 亚洲国产欧美网| 一边摸一边做爽爽视频免费| 一区二区三区激情视频| 成年av动漫网址| 日韩在线高清观看一区二区三区| 国产一区二区三区综合在线观看| 国产av码专区亚洲av| av在线观看视频网站免费| 成人国产av品久久久| 国产亚洲一区二区精品| 水蜜桃什么品种好| 女性被躁到高潮视频| 国产精品久久久久久精品电影小说| 亚洲成人一二三区av| 人妻系列 视频| 人妻少妇偷人精品九色| 性色av一级| 日本欧美视频一区| 十八禁网站网址无遮挡| 午夜日本视频在线| 日韩三级伦理在线观看| 91精品国产国语对白视频| 久久久精品区二区三区| 国产成人一区二区在线| 国产黄色免费在线视频| 最近最新中文字幕免费大全7| 久久99热这里只频精品6学生| 少妇人妻精品综合一区二区| 久热这里只有精品99| 丝袜美腿诱惑在线| 美女国产视频在线观看| 天堂8中文在线网| 亚洲欧美一区二区三区国产| 亚洲少妇的诱惑av| 日韩熟女老妇一区二区性免费视频| 免费人妻精品一区二区三区视频| 精品久久蜜臀av无| 美女xxoo啪啪120秒动态图| 嫩草影院入口| 三上悠亚av全集在线观看| 男人添女人高潮全过程视频| 亚洲久久久国产精品| 一级,二级,三级黄色视频| 极品人妻少妇av视频| 777米奇影视久久| 黄色毛片三级朝国网站| 久久人人爽人人片av| 三上悠亚av全集在线观看| 久久精品国产鲁丝片午夜精品| 国产成人精品一,二区| 欧美老熟妇乱子伦牲交| www.av在线官网国产| a级毛片在线看网站| 成人国语在线视频| 男女高潮啪啪啪动态图| 亚洲欧美清纯卡通| 婷婷成人精品国产| 日韩制服丝袜自拍偷拍| 赤兔流量卡办理| 成人免费观看视频高清| 亚洲一码二码三码区别大吗| 香蕉国产在线看| 一边亲一边摸免费视频| 国产成人a∨麻豆精品| 黄色 视频免费看| av在线老鸭窝| 国产精品av久久久久免费| 国产黄频视频在线观看| 天天躁夜夜躁狠狠久久av| 日韩中字成人| 欧美日韩亚洲国产一区二区在线观看 | 国产毛片在线视频| 丝袜美腿诱惑在线| 亚洲精品,欧美精品| 七月丁香在线播放| 人人澡人人妻人| 一本大道久久a久久精品| 精品亚洲成国产av| 大陆偷拍与自拍| 日本av免费视频播放| 久久人人爽av亚洲精品天堂| 咕卡用的链子| 波多野结衣av一区二区av| 伦理电影大哥的女人| 最黄视频免费看| xxxhd国产人妻xxx| 97精品久久久久久久久久精品| 亚洲精品一区蜜桃| 女性生殖器流出的白浆| 高清黄色对白视频在线免费看| 欧美精品一区二区免费开放| 国产成人精品婷婷| 久久午夜福利片| 纯流量卡能插随身wifi吗| 秋霞伦理黄片| 亚洲第一区二区三区不卡| 久久久亚洲精品成人影院| 精品国产一区二区久久| 亚洲精品国产一区二区精华液| 黄色毛片三级朝国网站| 最近的中文字幕免费完整| 亚洲国产成人一精品久久久| 天天躁狠狠躁夜夜躁狠狠躁| 午夜免费男女啪啪视频观看| 国产av精品麻豆| av福利片在线| 国产亚洲午夜精品一区二区久久| 99久久综合免费| 国产欧美日韩一区二区三区在线| 18禁国产床啪视频网站| 欧美xxⅹ黑人| 日韩一卡2卡3卡4卡2021年| av在线播放精品| 成人二区视频| 蜜桃在线观看..| 永久免费av网站大全| 国产精品亚洲av一区麻豆 | 在线观看免费高清a一片| 婷婷成人精品国产| 国产在线视频一区二区| 亚洲美女黄色视频免费看| 国产片内射在线| 下体分泌物呈黄色| 国产又爽黄色视频| 大话2 男鬼变身卡| 亚洲综合色网址| 老司机影院成人| 久久精品熟女亚洲av麻豆精品| 边亲边吃奶的免费视频| 日韩av免费高清视频| 国产成人aa在线观看| 成人午夜精彩视频在线观看| 最新的欧美精品一区二区| 日韩成人av中文字幕在线观看| 久久精品国产a三级三级三级| 99国产综合亚洲精品| av网站在线播放免费| 少妇人妻精品综合一区二区| 99国产精品免费福利视频| 婷婷色综合大香蕉| 丰满迷人的少妇在线观看| 丝袜美足系列| 最近2019中文字幕mv第一页| 国产精品久久久久久久久免| 亚洲精品一二三| 男女啪啪激烈高潮av片| 一级片'在线观看视频| av不卡在线播放| 在线观看一区二区三区激情| 午夜日本视频在线| 9色porny在线观看| 超碰97精品在线观看| 国产一区二区三区综合在线观看| 欧美日韩视频精品一区| 看免费av毛片| 丝袜在线中文字幕| 亚洲国产日韩一区二区| 日韩不卡一区二区三区视频在线| 嫩草影院入口| 丝袜喷水一区| 久久99一区二区三区| 亚洲内射少妇av| 国产 精品1| 国产成人一区二区在线| 一本大道久久a久久精品| 中文乱码字字幕精品一区二区三区| 午夜影院在线不卡| 交换朋友夫妻互换小说| 久久久久久久久免费视频了| 18禁动态无遮挡网站| 亚洲国产日韩一区二区| 日本vs欧美在线观看视频| 亚洲欧美中文字幕日韩二区| 久久久精品免费免费高清| 日韩一本色道免费dvd| 国产人伦9x9x在线观看 | av.在线天堂| 97在线视频观看| 水蜜桃什么品种好| 黄片小视频在线播放| 黄片无遮挡物在线观看| 人人妻人人添人人爽欧美一区卜| 老汉色∧v一级毛片| 久久久国产精品麻豆| 少妇的丰满在线观看| 中文字幕精品免费在线观看视频| 亚洲三级黄色毛片| 精品国产乱码久久久久久男人| 纯流量卡能插随身wifi吗| 国产高清不卡午夜福利| 一级毛片 在线播放| www日本在线高清视频| 欧美变态另类bdsm刘玥| 亚洲精品,欧美精品| 毛片一级片免费看久久久久| 精品亚洲成a人片在线观看| 亚洲国产精品一区二区三区在线| 色哟哟·www| 国产亚洲一区二区精品| 深夜精品福利| 成人国产麻豆网| 欧美 亚洲 国产 日韩一| 成人午夜精彩视频在线观看| 一区二区三区精品91| 国产高清国产精品国产三级| 人妻系列 视频| 亚洲国产日韩一区二区| 国产欧美日韩综合在线一区二区| 精品久久久精品久久久| 一区福利在线观看| 超色免费av| 一区二区三区四区激情视频| 黑人巨大精品欧美一区二区蜜桃| 成人亚洲欧美一区二区av| 中文精品一卡2卡3卡4更新| 久久精品夜色国产| 日韩,欧美,国产一区二区三区| 国产国语露脸激情在线看| 一本久久精品| 两个人免费观看高清视频| 哪个播放器可以免费观看大片| 国产精品久久久久久精品电影小说| 最近中文字幕2019免费版| 国产成人免费无遮挡视频| 精品人妻在线不人妻| 成年女人毛片免费观看观看9 | 午夜免费鲁丝| 十八禁网站网址无遮挡| 日本爱情动作片www.在线观看| 国产又色又爽无遮挡免| 男女高潮啪啪啪动态图| 午夜免费男女啪啪视频观看| 国产亚洲最大av| 亚洲国产看品久久| 免费久久久久久久精品成人欧美视频| 亚洲三级黄色毛片| 熟女少妇亚洲综合色aaa.| 亚洲国产毛片av蜜桃av| 日韩三级伦理在线观看| 国产又爽黄色视频| 在线观看三级黄色| 日本91视频免费播放| 一区在线观看完整版| 五月天丁香电影| 黄片小视频在线播放| 日本午夜av视频| 最近中文字幕高清免费大全6| 男人舔女人的私密视频| 永久免费av网站大全| 在线观看美女被高潮喷水网站| 亚洲美女搞黄在线观看| 成人亚洲精品一区在线观看| 日韩大片免费观看网站| 777久久人妻少妇嫩草av网站| 两个人免费观看高清视频| 街头女战士在线观看网站| 精品久久久精品久久久| 亚洲av在线观看美女高潮| 亚洲国产精品一区二区三区在线| 国产日韩一区二区三区精品不卡| 精品亚洲成a人片在线观看| 亚洲精品视频女| av卡一久久| 久久这里有精品视频免费| 亚洲天堂av无毛| 亚洲av免费高清在线观看| 亚洲第一青青草原| 国产精品秋霞免费鲁丝片| 丝袜脚勾引网站| 精品酒店卫生间| 国产男女内射视频| 中文字幕亚洲精品专区| 制服丝袜香蕉在线| 亚洲精品久久午夜乱码| 日韩视频在线欧美| av免费观看日本| 五月天丁香电影| 免费大片黄手机在线观看| 一级片'在线观看视频| 国产精品一二三区在线看| 国产精品一区二区在线观看99| 亚洲av福利一区| 蜜桃国产av成人99| 国产女主播在线喷水免费视频网站| 欧美日韩视频高清一区二区三区二| 午夜福利视频在线观看免费| 国产黄频视频在线观看| 不卡av一区二区三区| 亚洲久久久国产精品| 精品午夜福利在线看| 丝袜在线中文字幕| 午夜福利网站1000一区二区三区| 91精品国产国语对白视频| 亚洲精品久久成人aⅴ小说| 观看av在线不卡| a 毛片基地| 成人亚洲欧美一区二区av| 成人18禁高潮啪啪吃奶动态图| videos熟女内射| 一区二区三区精品91| 老司机亚洲免费影院| 成人亚洲精品一区在线观看| 国产片内射在线| 国产亚洲av片在线观看秒播厂| 国产精品成人在线| 日本欧美国产在线视频| 伦理电影大哥的女人| 精品第一国产精品| 久久国产精品男人的天堂亚洲| 中文字幕人妻熟女乱码| 国产精品99久久99久久久不卡 | 亚洲av日韩在线播放| 午夜福利视频精品| 国产精品不卡视频一区二区| 最近最新中文字幕免费大全7| 婷婷成人精品国产| 亚洲激情五月婷婷啪啪| 人妻人人澡人人爽人人| 国产伦理片在线播放av一区| av又黄又爽大尺度在线免费看| 999精品在线视频| 国产女主播在线喷水免费视频网站| 91精品伊人久久大香线蕉| 国产毛片在线视频| 啦啦啦在线观看免费高清www| 久久久久久久大尺度免费视频| 美女大奶头黄色视频| 色播在线永久视频| 人妻一区二区av| 国产激情久久老熟女| 日日啪夜夜爽| 69精品国产乱码久久久| 水蜜桃什么品种好| 在线天堂最新版资源| 久久人人爽av亚洲精品天堂| 九九爱精品视频在线观看| 人成视频在线观看免费观看| 大片免费播放器 马上看| 在线天堂中文资源库| 各种免费的搞黄视频| 女的被弄到高潮叫床怎么办| 亚洲精品自拍成人| 日日摸夜夜添夜夜爱| 黄频高清免费视频| 亚洲一级一片aⅴ在线观看| 久久精品人人爽人人爽视色| 国产麻豆69| 妹子高潮喷水视频| 国产一区二区三区综合在线观看| www.熟女人妻精品国产| 丝瓜视频免费看黄片| 精品福利永久在线观看| 日韩成人av中文字幕在线观看| 日韩欧美一区视频在线观看| 视频区图区小说| 一边摸一边做爽爽视频免费| 亚洲精品aⅴ在线观看| 夜夜骑夜夜射夜夜干| 国产精品一区二区在线观看99| 亚洲欧洲精品一区二区精品久久久 | 欧美人与性动交α欧美精品济南到 | 国精品久久久久久国模美| 精品一区二区三卡| 国产极品粉嫩免费观看在线| a 毛片基地| 国产男女超爽视频在线观看| 在线观看美女被高潮喷水网站| 午夜福利一区二区在线看| 国产精品亚洲av一区麻豆 | 精品亚洲成a人片在线观看| 亚洲国产av新网站| 少妇熟女欧美另类| 纵有疾风起免费观看全集完整版| videossex国产| 亚洲精品美女久久久久99蜜臀 | 99精国产麻豆久久婷婷| av国产精品久久久久影院| 亚洲,欧美精品.| 亚洲欧洲精品一区二区精品久久久 | 少妇人妻久久综合中文| 日韩中文字幕欧美一区二区 | 欧美日韩精品网址| 国产女主播在线喷水免费视频网站| 99久久精品国产国产毛片| 亚洲激情五月婷婷啪啪| 亚洲欧美成人精品一区二区| 七月丁香在线播放| 欧美日韩亚洲高清精品| 91国产中文字幕| 水蜜桃什么品种好| 天堂中文最新版在线下载| 日韩免费高清中文字幕av| 成人亚洲欧美一区二区av| 天美传媒精品一区二区| 亚洲第一青青草原| 国产片内射在线| 考比视频在线观看| 一本—道久久a久久精品蜜桃钙片| 黑人巨大精品欧美一区二区蜜桃| av免费观看日本| 亚洲精品成人av观看孕妇| 99精国产麻豆久久婷婷| 精品少妇内射三级| 中文字幕人妻丝袜一区二区 | 久久精品国产自在天天线| 免费看av在线观看网站| 男女边摸边吃奶| 欧美 亚洲 国产 日韩一| 肉色欧美久久久久久久蜜桃| 美国免费a级毛片| 久久久久久久久久人人人人人人| 免费观看无遮挡的男女| 国产探花极品一区二区| 精品午夜福利在线看| 丰满饥渴人妻一区二区三| 交换朋友夫妻互换小说| 国产老妇伦熟女老妇高清| 国产高清不卡午夜福利| 亚洲欧美一区二区三区久久| 国产毛片在线视频| 欧美日韩精品成人综合77777| 曰老女人黄片| 国产成人精品无人区| 亚洲 欧美一区二区三区| 一级爰片在线观看| 成年女人毛片免费观看观看9 | 中文字幕人妻丝袜一区二区 | av国产久精品久网站免费入址| 国产免费现黄频在线看| 亚洲精品av麻豆狂野| 高清视频免费观看一区二区| 9色porny在线观看| av一本久久久久| 另类亚洲欧美激情| 国产片内射在线| 宅男免费午夜| 欧美精品av麻豆av| 国产午夜精品一二区理论片| 激情五月婷婷亚洲| 午夜福利一区二区在线看| 丰满乱子伦码专区| 18+在线观看网站| 久久影院123| 深夜精品福利| 精品少妇久久久久久888优播| 亚洲在久久综合| 综合色丁香网| 十八禁网站网址无遮挡| 啦啦啦中文免费视频观看日本| 亚洲精品美女久久av网站| 一区二区三区四区激情视频| www.av在线官网国产| 国产1区2区3区精品| 亚洲av电影在线进入| 午夜日韩欧美国产| 久久久久久久久久人人人人人人| 亚洲欧美一区二区三区久久| 亚洲av电影在线进入| 美国免费a级毛片| 午夜福利在线观看免费完整高清在| 老司机亚洲免费影院| 亚洲av欧美aⅴ国产| 久久久久国产精品人妻一区二区| 亚洲激情五月婷婷啪啪| 国产乱来视频区| 制服诱惑二区| 亚洲精品国产av蜜桃| 少妇人妻 视频| 亚洲av在线观看美女高潮| 色吧在线观看| 国产成人精品一,二区| 亚洲内射少妇av| 国产又色又爽无遮挡免| 人人澡人人妻人| 黄色一级大片看看| 一本久久精品| 亚洲av欧美aⅴ国产| 亚洲欧美日韩另类电影网站| 两性夫妻黄色片| 欧美 日韩 精品 国产| 极品人妻少妇av视频| 午夜影院在线不卡| 丰满乱子伦码专区| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 欧美日韩av久久| 欧美亚洲 丝袜 人妻 在线| 美女视频免费永久观看网站| 亚洲欧洲国产日韩| 精品亚洲乱码少妇综合久久| av免费在线看不卡| 青春草视频在线免费观看| 国产亚洲最大av| 91精品三级在线观看| 91精品伊人久久大香线蕉| 精品国产乱码久久久久久男人| 亚洲精品日本国产第一区| 1024视频免费在线观看| 成人二区视频| 26uuu在线亚洲综合色| 亚洲精品一区蜜桃| 亚洲综合色网址| a级片在线免费高清观看视频| 色视频在线一区二区三区| 国产精品一区二区在线观看99| 99久国产av精品国产电影| 欧美精品人与动牲交sv欧美| 少妇熟女欧美另类| 五月伊人婷婷丁香| 丁香六月天网| 欧美国产精品一级二级三级| 免费在线观看完整版高清| 黄片播放在线免费| 亚洲经典国产精华液单| 热99国产精品久久久久久7| 天天躁夜夜躁狠狠久久av| 国产一级毛片在线| 色婷婷av一区二区三区视频| 日韩电影二区| 在线观看国产h片| 国产一区二区激情短视频 | 亚洲图色成人| 亚洲国产欧美在线一区| 国产精品国产av在线观看| 国产av国产精品国产| 国产高清不卡午夜福利| 欧美日韩av久久|