• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能醫(yī)療機(jī)器人侵權(quán)責(zé)任問題研究

    2022-03-14 10:27:44劉惠明張盛楠
    醫(yī)學(xué)與社會 2022年12期
    關(guān)鍵詞:主體機(jī)器人人工智能

    劉惠明,張盛楠

    河海大學(xué)法學(xué)院,江蘇南京,210000

    我國人口眾多,老齡化問題日益嚴(yán)重,就診患者數(shù)量多且呈現(xiàn)上升趨勢,導(dǎo)致醫(yī)療資源的數(shù)量和質(zhì)量與老百姓的需要之間存在一定的矛盾[1]。醫(yī)療機(jī)器人是用于醫(yī)院、診所、康復(fù)中心等醫(yī)療場景的醫(yī)療或輔助醫(yī)療的機(jī)器人[2]?,F(xiàn)階段,智能醫(yī)療機(jī)器人可基于算法設(shè)計(jì)能夠按照指令在醫(yī)護(hù)人員的操作下進(jìn)行輔助診療;當(dāng)智能醫(yī)療機(jī)器人可以改變或甚至完全脫離自然人為其設(shè)計(jì)好的初始算法而創(chuàng)制新的算法時,能夠進(jìn)行深度學(xué)習(xí)和獨(dú)立思考,通過對醫(yī)療數(shù)據(jù)和醫(yī)學(xué)知識的學(xué)習(xí)進(jìn)行自主決策和獨(dú)立診斷[3],其應(yīng)用將對醫(yī)療模式進(jìn)行顛覆性變革。智能醫(yī)療機(jī)器人的應(yīng)用可以極大提高診療的質(zhì)量和效率,進(jìn)一步滿足老百姓看病、治病的需要。但不容忽視的是,智能醫(yī)療機(jī)器人的準(zhǔn)確率并不能避免誤診、誤治情形的出現(xiàn)。近年來,智能醫(yī)療機(jī)器人診斷失誤以及手術(shù)損害等不良事件時常發(fā)生,產(chǎn)生的一系列侵權(quán)責(zé)任問題亟待解決[4-7]。

    目前,關(guān)于智能醫(yī)療機(jī)器人侵權(quán)責(zé)任問題的研究相對較少,主要集中在醫(yī)療人工智能(artificial intelligence,AI)侵害所涉及的法律主體地位、法律責(zé)任歸責(zé)問題等方面[8-9],其中,對于醫(yī)療AI侵權(quán)責(zé)任歸責(zé)路徑的結(jié)論主要分為兩類,一是將醫(yī)療AI作為法律責(zé)任的主體,這顯然是整體法秩序內(nèi)關(guān)于法律責(zé)任體系的全新架構(gòu);二是將醫(yī)療AI作為傳統(tǒng)自然人侵權(quán)行為的新型手段,就此而言,人工智能侵害責(zé)任仍要回歸傳統(tǒng)法律責(zé)任歸責(zé)路徑[10]。本文將醫(yī)療AI領(lǐng)域侵害責(zé)任問題進(jìn)一步細(xì)分為智能醫(yī)療機(jī)器人侵權(quán)責(zé)任問題,嘗試分階段對智能醫(yī)療機(jī)器人侵權(quán)所涉及的法律責(zé)任問題進(jìn)行歸責(zé)。旨在解決當(dāng)前實(shí)際問題,為未來人工智能侵權(quán)法律責(zé)任體系的構(gòu)建提供參考。

    1 智能醫(yī)療機(jī)器人在醫(yī)療領(lǐng)域的應(yīng)用

    1.1 智能醫(yī)療機(jī)器人的應(yīng)用現(xiàn)狀

    根據(jù)應(yīng)用場景,醫(yī)療機(jī)器人可分為診療機(jī)器人、手術(shù)機(jī)器人、服務(wù)機(jī)器人、輔助機(jī)器人 4 類[11]?,F(xiàn)階段,智能醫(yī)療機(jī)器人中比較聞名的是美國直覺外科公司的達(dá)芬奇外科手術(shù)機(jī)器人和國際商業(yè)機(jī)器公司的Watson輔助診斷系統(tǒng)。達(dá)芬奇手術(shù)機(jī)器人擁有世界微創(chuàng)外科領(lǐng)域的頂尖技術(shù),憑其帶有的內(nèi)窺鏡和可 540°旋轉(zhuǎn)的機(jī)械臂能夠在小瓶內(nèi)精巧縫合葡萄皮,遠(yuǎn)遠(yuǎn)超過人手所能達(dá)到的精度。目前,達(dá)芬奇手術(shù)機(jī)器人在全球的手術(shù)量已突破100萬例,自2006年引進(jìn)達(dá)芬奇手術(shù)機(jī)器人以來,已在我國完成上萬臺手術(shù)[12]。IBM 最為著名的便是 Watson腫瘤診斷系統(tǒng), 其可以查出至少 13 種器官中的腫瘤,能夠在10秒內(nèi)提出診療方案供醫(yī)生選擇,目前癌癥治療領(lǐng)域排名前三的醫(yī)院都在使用 Watson 系統(tǒng)[13]。外骨骼機(jī)器人是康復(fù)機(jī)器人的一種,可在對殘疾人進(jìn)行輔助的同時進(jìn)行后期的康復(fù)訓(xùn)練[14]。服務(wù)機(jī)器人在體溫監(jiān)測、巡控、消毒等方面發(fā)揮了重要作用。目前手術(shù)機(jī)器人在臨床應(yīng)用中規(guī)模最大,康復(fù)機(jī)器人發(fā)展增速最快,輔助機(jī)器人中的診斷機(jī)器人和遠(yuǎn)程醫(yī)療機(jī)器人因其實(shí)用性和高智能性具有廣闊的應(yīng)用前景[15]。

    1.2 智能醫(yī)療機(jī)器人的應(yīng)用前景

    醫(yī)療與健康領(lǐng)域無疑是關(guān)系國計(jì)民生的關(guān)鍵領(lǐng)域,尤其當(dāng)前整個世界處于新冠肺炎疫情反復(fù)的大環(huán)境下,更加需要智能醫(yī)療、精準(zhǔn)醫(yī)療的發(fā)展。人民對優(yōu)質(zhì)醫(yī)療的需求與醫(yī)療資源供給不足、質(zhì)量不佳之間的矛盾體現(xiàn)了大眾對醫(yī)療行業(yè)改革創(chuàng)新的迫切需求。對醫(yī)療領(lǐng)域的改革,核心在于以患者為中心,發(fā)現(xiàn)真正能夠?yàn)獒t(yī)療生態(tài)帶來創(chuàng)新活力的長期要素。

    2017年以來,智能醫(yī)療機(jī)器人從輔助診斷發(fā)展到可以進(jìn)行全科智能診斷,應(yīng)用的深度和廣度明顯提升。隨著技術(shù)的發(fā)展,智能醫(yī)療機(jī)器人的自主性會越來越強(qiáng)。在不久的將來,智能醫(yī)療機(jī)器人取代多數(shù)外科醫(yī)生的工作或成為現(xiàn)實(shí)[16]。智能醫(yī)療機(jī)器人具有廣闊的應(yīng)用前景,需要法律制度來調(diào)整其發(fā)展中遇到的問題。

    2 智能醫(yī)療機(jī)器人的侵權(quán)責(zé)任問題

    智能醫(yī)療機(jī)器人在應(yīng)用中產(chǎn)生醫(yī)療損害并非個例??傮w來說,不同類型的醫(yī)療機(jī)器人侵權(quán)在歸責(zé)原則上并無不同,主要基于其所具備的自主性程度,在診療活動中發(fā)揮的是輔助還是主導(dǎo)作用進(jìn)行歸責(zé)。手術(shù)機(jī)器人在臨床中應(yīng)用廣泛,以手術(shù)機(jī)器人為例,美國相關(guān)機(jī)構(gòu)曾發(fā)布其在 2000 年至 2013 年之間所做的統(tǒng)計(jì)數(shù)據(jù),機(jī)器人手術(shù)發(fā)生事故導(dǎo)致 144 位患者死亡[17]。在我國司法實(shí)踐中,據(jù)裁判文書網(wǎng)發(fā)布的文書顯示,自2015年至今,達(dá)芬奇手術(shù)機(jī)器人所涉及的侵權(quán)案件共計(jì)15例,所涉及的醫(yī)療損害糾紛共9例。手術(shù)機(jī)器人侵權(quán)的情形包括手術(shù)失誤導(dǎo)致術(shù)中大出血、術(shù)后感染產(chǎn)生并發(fā)癥以及機(jī)器本身因斷電、信號連接中斷、故障等問題影響手術(shù)進(jìn)程,對患者造成損害。在英國首例達(dá)芬奇機(jī)器人心臟瓣膜手術(shù)過程中,機(jī)器人失控“暴走”,刺穿患者的大動脈,并影響醫(yī)生操作,導(dǎo)致病人最終不治身亡[18]。本文將智能醫(yī)療機(jī)器人作為主體進(jìn)行歸責(zé)路徑探討,其產(chǎn)生的侵權(quán)責(zé)任問題主要涉及以下幾方面。

    2.1 智能醫(yī)療機(jī)器人的責(zé)任主體不明確

    智能醫(yī)療機(jī)器人侵權(quán)的主體責(zé)任尚不明確,一方面是由于其法律主體地位沒有明確,另一方面是在法律實(shí)踐中對責(zé)任主體認(rèn)定存在爭議。

    隨著人工智能愈發(fā)朝向高級化演進(jìn),近年來對人工智能的法律主體地位的討論愈發(fā)激烈。當(dāng)智能醫(yī)療機(jī)器人具備完全自主性,可進(jìn)行獨(dú)立診療、獨(dú)立操作,其可以像人一樣“思考”,此時可否賦予其法律主體地位?智能醫(yī)療機(jī)器人的法律地位影響著其侵權(quán)責(zé)任主體的認(rèn)定,需從法律上對其法律地位進(jìn)行明確。

    現(xiàn)階段,盡管智能醫(yī)療機(jī)器人具備一定推理和解決問題的能力,但其決策與操作沒有脫離專業(yè)人員的控制,其程序的設(shè)計(jì)和操作,還是在設(shè)計(jì)師和醫(yī)護(hù)人員的操作下進(jìn)行,因此其侵權(quán)所涉及的責(zé)任包括醫(yī)療責(zé)任和產(chǎn)品責(zé)任。法官在審理智能醫(yī)療機(jī)器人侵權(quán)案件時回避智能醫(yī)療機(jī)器人所涉及的責(zé)任認(rèn)定,承擔(dān)責(zé)任的主體局限于醫(yī)患雙方,架空產(chǎn)品責(zé)任的承擔(dān)者生產(chǎn)者、經(jīng)營者、設(shè)計(jì)者所需承擔(dān)的責(zé)任,導(dǎo)致雙方當(dāng)事人對裁判結(jié)果存在異議,責(zé)任主體不明確,加大醫(yī)療機(jī)構(gòu)的負(fù)擔(dān)和患者尋求救濟(jì)的難度,司法裁判無法起到定分止?fàn)幍淖饔谩?/p>

    2.2 智能醫(yī)療機(jī)器人的“技術(shù)黑箱”加重舉證難度

    由于致害原因的復(fù)雜性、技術(shù)性和專業(yè)性,傳統(tǒng)醫(yī)療舉證責(zé)任在認(rèn)定上便存在困難,智能醫(yī)療機(jī)器人不同于傳統(tǒng)的醫(yī)療器械產(chǎn)品,其算法設(shè)計(jì)的輸入和輸出均是可見的和可理解的,但算法從輸入到輸出的運(yùn)算過程是難以解釋和理解的[19]。“技術(shù)黑箱”所帶來的不透明性使舉證責(zé)任的認(rèn)定更加困難。如果按照傳統(tǒng)醫(yī)療歸責(zé)原則的舉證責(zé)任來認(rèn)定,將會導(dǎo)致患者尋求救濟(jì)的難度顯著增加。

    在陳寧慶與浙江省人民醫(yī)院醫(yī)療損害責(zé)任糾紛案件中,患者在進(jìn)行達(dá)芬奇手術(shù)機(jī)器人腹腔鏡右腎切除術(shù)后出現(xiàn)大量血尿?qū)е赂腥井a(chǎn)生嚴(yán)重并發(fā)癥,經(jīng)過調(diào)查發(fā)現(xiàn)是由于術(shù)中針線縫合過程中穿刺到血管導(dǎo)致血管破裂。法院根據(jù)《中華人民共和國侵權(quán)責(zé)任法》(以下簡稱《侵權(quán)責(zé)任法》)判決醫(yī)院承擔(dān)30%的賠償責(zé)任。本案存在的問題是,達(dá)芬奇手術(shù)機(jī)器人以高準(zhǔn)確度著稱,發(fā)生縫合錯誤,應(yīng)考慮到產(chǎn)品缺陷問題,進(jìn)行產(chǎn)品責(zé)任認(rèn)定。我國目前醫(yī)療損害的責(zé)任歸責(zé)體系仍沿用傳統(tǒng)的醫(yī)患關(guān)系模式,患者作為原告承擔(dān)證明醫(yī)療機(jī)構(gòu)存在過錯的舉證責(zé)任,在智能醫(yī)療機(jī)器人的參與下,產(chǎn)品責(zé)任與醫(yī)療責(zé)任相融合,患者此時不僅需要對醫(yī)療機(jī)構(gòu)的過錯進(jìn)行舉證,還要承擔(dān)智能醫(yī)療機(jī)器人存在故障或缺陷的舉證責(zé)任。智能醫(yī)療機(jī)器人的“技術(shù)黑箱”是目前難以破解的難題,這加重了患者的舉證難度。

    2.3 智能醫(yī)療機(jī)器人侵權(quán)責(zé)任規(guī)則體系存在不足

    在民法典施行以前(2021年1月1日起正式施行),我國對智能醫(yī)療機(jī)器人所涉及的醫(yī)療責(zé)任糾紛是依據(jù)《侵權(quán)責(zé)任法》關(guān)于醫(yī)療損害責(zé)任的部分以及《關(guān)于審理醫(yī)療損害責(zé)任糾紛案件適用法律若干問題的解釋》的相關(guān)規(guī)定。《中華人民共和國民法典》(以下簡稱《民法典》)出臺后,《侵權(quán)責(zé)任法》的相關(guān)內(nèi)容納入《民法典》的侵權(quán)責(zé)任編,侵權(quán)責(zé)任編雖對侵權(quán)責(zé)任形式規(guī)則作出了重大的修改與完善,但在醫(yī)療損害責(zé)任、產(chǎn)品責(zé)任的規(guī)定上與《侵權(quán)責(zé)任法》所規(guī)定的內(nèi)容差別不大[20]。

    傳統(tǒng)醫(yī)療活動雖也有醫(yī)療產(chǎn)品的參與,但主要依賴專家的專業(yè)技能和判斷,因此在醫(yī)療損害歸責(zé)中,司法裁判統(tǒng)一適用醫(yī)療損害責(zé)任。產(chǎn)品責(zé)任一般適用基于商品缺陷導(dǎo)致的損害。二者在司法實(shí)踐中分開適用。智能醫(yī)療機(jī)器人不同于傳統(tǒng)的醫(yī)療產(chǎn)品,其在醫(yī)療活動中發(fā)揮的作用影響醫(yī)生的操作和判斷,醫(yī)生在智能醫(yī)療機(jī)器人的輔助下,診療的速度和正確率顯著提升,在醫(yī)療活動中的優(yōu)勢大于患者,由于傳統(tǒng)醫(yī)療損害責(zé)任的單獨(dú)適用,可能會使智能醫(yī)療機(jī)器人成為醫(yī)生新的保護(hù)傘和擋箭牌,正如在上述陳寧慶與浙江省人民醫(yī)院醫(yī)療損害責(zé)任糾紛案件中,根據(jù)過錯認(rèn)定,醫(yī)院僅承擔(dān)30%的賠償責(zé)任,患者索賠的難度將增大,單獨(dú)適用醫(yī)療損害責(zé)任已無法對智能醫(yī)療機(jī)器人參與的醫(yī)療損害進(jìn)行合理的歸責(zé)。同時由于智能醫(yī)療機(jī)器人背后存在的“技術(shù)黑箱”,醫(yī)生也無法解釋其操作過程,導(dǎo)致對產(chǎn)品存在缺陷的舉證非常困難,適用產(chǎn)品缺陷責(zé)任會使患者舉證難度大大增加。在智能醫(yī)療機(jī)器人的參與下,兩種責(zé)任分開適用將增加患者舉證難度與訴訟成本,導(dǎo)致患者尋求救濟(jì)難度顯著增加。規(guī)則體系的不足導(dǎo)致責(zé)任分配出現(xiàn)失衡,這要求我們重新檢視現(xiàn)行侵權(quán)責(zé)任規(guī)則,對其進(jìn)路進(jìn)行探討。

    3 歸責(zé)路徑的選擇

    對于醫(yī)療AI侵權(quán)致害的法律責(zé)任問題上,目前理論界的爭議主要集中于是否應(yīng)賦予醫(yī)療AI以法律主體地位,誰來承擔(dān)侵權(quán)責(zé)任,是智能醫(yī)療機(jī)器人侵權(quán)責(zé)任規(guī)則體系中的核心問題。因此,不可避免的要討論智能醫(yī)療機(jī)器人的法律主體地位問題,這也是探尋合理路徑的必經(jīng)之路。

    3.1 智能醫(yī)療機(jī)器人的法律主體地位

    人工智能體的法律主體地位問題一直受到學(xué)界關(guān)注,爭議焦點(diǎn)主要在于當(dāng)人工智能體具備高度智能,其可以獨(dú)立自主完成工作,甚至在各個領(lǐng)域做的比人類更好時,此時是否賦予其法律主體地位?其實(shí)這討論的是在未來強(qiáng)人工智能時代將會出現(xiàn)的問題,目前人工智能并未具備如此高智能、高自主性。在醫(yī)療人工智能領(lǐng)域,目前各國對智能醫(yī)療機(jī)器人在弱人工智能階段不具法律主體地位已基本達(dá)成共識。即智能醫(yī)療機(jī)器人在將來很長一段時間內(nèi)還無法脫離產(chǎn)品屬性,雖具備一定的智能性,但其所進(jìn)行的診療活動仍在醫(yī)護(hù)人員的控制下進(jìn)行,不具備完全自主性。我國在2019年世界人工智能大會上公開表明,現(xiàn)階段,醫(yī)療AI不具法律主體地位,設(shè)計(jì)者、生產(chǎn)者、經(jīng)營者、使用者承擔(dān)法律責(zé)任[21]。加拿大在“加拿大衛(wèi)生專業(yè)上訴和審查委員會案”(案號19-crv-0475)中,法院判定手術(shù)機(jī)器人無法獨(dú)立享有醫(yī)師等資格[10]。

    強(qiáng)人工智能階段,學(xué)者對醫(yī)療人工智能是否具備法律地位存在分歧,有學(xué)者認(rèn)為賦予強(qiáng)人工智能以獨(dú)立主體地位未嘗不可[9]。有持反對態(tài)度的學(xué)者認(rèn)為智能醫(yī)療機(jī)器人始終是人類的輔助工具,不應(yīng)賦予其法律主體地位,并提出從倫理道德層面很難接受機(jī)器人醫(yī)生看診[22]。本文認(rèn)為,強(qiáng)人工智能階段可以賦予具備自主性的智能醫(yī)療機(jī)器人以法律主體地位。首先,法律主體是享有權(quán)利、負(fù)有義務(wù)并承擔(dān)責(zé)任的主體,包括人(自然人、法人)、機(jī)構(gòu)和組織、特殊情況下,國家也是法律的主體。因此賦予人工智能法律主體地位并不是承認(rèn)其為“人”,而是建構(gòu)良好、平衡的法律關(guān)系。其次,人工智能、大數(shù)據(jù)、云計(jì)算技術(shù)的發(fā)展給社會帶來巨大變革,人們的生活方式發(fā)生了巨大改變,起初從對智能設(shè)備的抵觸到逐漸享受到科技發(fā)展帶來的巨大便利,理念會改變技術(shù),技術(shù)也會改變理念[23],智能醫(yī)療機(jī)器人未來在精準(zhǔn)醫(yī)療領(lǐng)域?qū)o人類帶來巨大便利,當(dāng)高智能醫(yī)療機(jī)器人成為現(xiàn)實(shí),倫理要求會在社會機(jī)制中得到實(shí)現(xiàn),賦予其法律主體地位,并不違背法律倫理,此時有全方位的體系保障,只會帶來更大的便利。最后,人類中心地位在未來強(qiáng)人工智能時代不會改變。智能醫(yī)療機(jī)器人隨著人工智能技術(shù)的發(fā)展自主性逐漸增強(qiáng),其或許可具備情緒感知功能。無論智能醫(yī)療機(jī)器人的發(fā)展如何先進(jìn),也是為人類更好的服務(wù),這是科技賦能的基本遵循,賦予智能醫(yī)療機(jī)器人主體地位只是為了對法律責(zé)任進(jìn)行更好的歸責(zé)。

    3.2 人工智能不同階段的路徑選擇

    強(qiáng)弱人工智能階段的智能醫(yī)療機(jī)器人的應(yīng)用場景和侵權(quán)情形并無明顯不同,皆應(yīng)用于診斷、手術(shù)、康復(fù)、服務(wù)等醫(yī)療領(lǐng)域。強(qiáng)人工智能階段智能醫(yī)療機(jī)器人擁有自主學(xué)習(xí)能力,會使決策過程的不透明性和不可預(yù)測性的風(fēng)險增加。強(qiáng)弱人工智能醫(yī)療機(jī)器人在規(guī)則的適用上,存在侵權(quán)責(zé)任主體和責(zé)任承擔(dān)比例的不同。

    需要指出的是,強(qiáng)人工智能階段,不是不存在弱人工智能機(jī)器人,基于分工與應(yīng)用成本,弱人工智能醫(yī)療機(jī)器人也有其存在的必要性。因此這個階段是強(qiáng)弱人工智能醫(yī)療機(jī)器人共存的階段。這種情形下,侵權(quán)責(zé)任主體發(fā)生改變。用于輔助的弱人工智能醫(yī)療機(jī)器人在歸責(zé)上仍涉及傳統(tǒng)的三方主體。而具備完全自主性、可獨(dú)立完成診療工作的強(qiáng)人工智能醫(yī)療機(jī)器人,此時是作為一名“醫(yī)生”進(jìn)行診療活動,具備法律主體地位。當(dāng)其產(chǎn)生醫(yī)療損害侵權(quán),侵權(quán)責(zé)任不光涉及傳統(tǒng)的三方主體,還涉及強(qiáng)人工智能醫(yī)療機(jī)器人,其可以作為獨(dú)立法律主體承擔(dān)責(zé)任。另外,各方所承擔(dān)的責(zé)任比例也將發(fā)生一定的轉(zhuǎn)移,強(qiáng)人工智能的智能醫(yī)療機(jī)器人可獨(dú)立完成診療工作,這就意味著在診療過程中,醫(yī)護(hù)人員僅承擔(dān)輔助作用,這就要求設(shè)計(jì)者在研究過程中對其風(fēng)險管控使用前的培訓(xùn)責(zé)任加大,醫(yī)療機(jī)構(gòu)此時在強(qiáng)人工智能醫(yī)療機(jī)器人侵權(quán)層面所承擔(dān)責(zé)任較小甚至為零。由此可見,各方責(zé)任主體承擔(dān)的責(zé)任比例也存在差異。

    對其階段進(jìn)行區(qū)分是為了防止法學(xué)研究的虛無與泛化。目前對于智能醫(yī)療機(jī)器人的法學(xué)研究出現(xiàn)概念泛化和脫離實(shí)際進(jìn)行設(shè)想的情況。在概念上,對人工智能發(fā)展的形態(tài)的“自主性”特征認(rèn)識不清。部分學(xué)者直接跳過現(xiàn)階段智能醫(yī)療機(jī)器人臨床應(yīng)用的實(shí)際情況,討論具備完全自主性的強(qiáng)人工智能侵害責(zé)任,導(dǎo)致所進(jìn)行的制度構(gòu)建無法適用當(dāng)前出現(xiàn)的實(shí)際問題。當(dāng)下的法律責(zé)任體系與法律關(guān)系主體沒有發(fā)生變化,適當(dāng)調(diào)整便能夠解決當(dāng)前智能醫(yī)療機(jī)器人損害所產(chǎn)生的醫(yī)療責(zé)任糾紛,直接進(jìn)行立法為時尚早。在強(qiáng)人工智能階段,人工智能技術(shù)發(fā)展成熟,出現(xiàn)新的法律主體,產(chǎn)生新的社會關(guān)系,此時需建立一套人工智能法律體系來調(diào)整新型法律關(guān)系。分階段可實(shí)現(xiàn)法律實(shí)施效果的最大化,降低立法成本,解決實(shí)際問題的同時,為未來立法構(gòu)建提供參考。

    4 解決智能醫(yī)療機(jī)器人侵權(quán)責(zé)任問題的路徑

    4.1 弱人工智能階段侵權(quán)責(zé)任規(guī)則的調(diào)適

    現(xiàn)階段,智能醫(yī)療機(jī)器人的侵權(quán)責(zé)任問題可以通過侵權(quán)責(zé)任規(guī)則自身的張力和靈活的法律解釋予以解決[24]。導(dǎo)致智能醫(yī)療機(jī)器人造成醫(yī)療事故的原因有:生產(chǎn)者設(shè)計(jì)缺陷、醫(yī)療機(jī)構(gòu)存在過錯(如沒有操作經(jīng)驗(yàn)、不遵守診療規(guī)范等)、也可能是患者自身特異體質(zhì)。因此所涉及的責(zé)任主體有生產(chǎn)者、使用者和患者三方主體。對其責(zé)任進(jìn)行歸責(zé)涉及醫(yī)療過錯責(zé)任和產(chǎn)品責(zé)任。本文通過對兩種責(zé)任的歸責(zé)原則進(jìn)行適應(yīng)性調(diào)整,以平衡責(zé)任主體之間的責(zé)任分配。

    4.1.1 醫(yī)療損害責(zé)任歸責(zé)原則。醫(yī)療侵權(quán)過錯歸責(zé)是英美法系和大陸法系一直恪守的原則[4]。

    我國醫(yī)療責(zé)任的歸責(zé)原則分為過錯責(zé)任原則和過錯推定原則,一般情形下,患者在診療過程中受到損害,醫(yī)療機(jī)構(gòu)和醫(yī)護(hù)人員存在過錯的,醫(yī)療機(jī)構(gòu)承擔(dān)責(zé)任(《民法典》第一千二百一十八條)。另有3種特殊情形,患者在診療過程中受到損害,推定醫(yī)療機(jī)構(gòu)或醫(yī)護(hù)人員存在過錯,此時需要醫(yī)療機(jī)構(gòu)和醫(yī)護(hù)人員證明其不存在過錯方可免責(zé)(《民法典》第一千二百二十二條)。

    智能醫(yī)療機(jī)器人背后的“技術(shù)黑箱”加重了舉證難度,使致害原因以及行為人過錯更加難以認(rèn)定,致害原因的高技術(shù)性與專業(yè)性也使得鑒定成本過于高昂,加大患者的舉證難度。建議在過錯推定責(zé)任適用情形中增加智能醫(yī)療機(jī)器人醫(yī)療損害情形,即發(fā)生智能醫(yī)療機(jī)器人侵權(quán)案件時,推定醫(yī)療機(jī)構(gòu)存在過錯,若其能夠證明自身不存在過錯,則無需承擔(dān)責(zé)任。采取過錯推定原則能更好平衡醫(yī)患之間的關(guān)系。

    4.1.2 產(chǎn)品責(zé)任歸責(zé)原則的適用。產(chǎn)品責(zé)任歸責(zé)原則的適用前提是產(chǎn)品存在缺陷,醫(yī)院在診療過程中應(yīng)用存在缺陷的產(chǎn)品,與生產(chǎn)者一起承擔(dān)無過錯責(zé)任,適用的是無過錯責(zé)任原則。在智能醫(yī)療機(jī)器人的參與下,產(chǎn)品缺陷和機(jī)器人侵權(quán)造成的損害之間的因果關(guān)系難以證明。在智能醫(yī)療機(jī)器人產(chǎn)品責(zé)任的適用上,建議適用因果關(guān)系推定原則來調(diào)適。醫(yī)療機(jī)構(gòu)證明自身不存在過錯的情形下,由生產(chǎn)者、設(shè)計(jì)者對產(chǎn)品不存在缺陷進(jìn)行舉證。一方面因?yàn)樵O(shè)計(jì)者生產(chǎn)者相對更有能力進(jìn)行因果關(guān)系舉證,另一方面也可以保護(hù)處于弱勢一方的患者。

    4.2 強(qiáng)人工智能階段法律責(zé)任體系的構(gòu)建

    4.2.1 構(gòu)建人工智能民事法律體系。強(qiáng)人工智能階段,探討人工智能侵害的法律責(zé)任問題,不單單是侵權(quán)責(zé)任規(guī)則體系的重構(gòu),更是整個民事法律框架、整體法秩序的重新架構(gòu)。在立法上,建議成立專門人工智能民事法律規(guī)則。對人工智能領(lǐng)域相關(guān)法律問題進(jìn)行專門立法,可以借鑒歐盟2016年10月發(fā)布的《歐盟機(jī)器人民事法律規(guī)則》,在各國還在制定人工智能體發(fā)展戰(zhàn)略的階段,歐盟已經(jīng)制定法律草案和規(guī)則,并從法律倫理道德、法律責(zé)任與監(jiān)管等方面給予明確規(guī)定。在人工智能的法律主體地位上,歐盟通過對自主性機(jī)器人的概念進(jìn)行界定的情況下,賦予自主性機(jī)器人法律主體地位,為其設(shè)定“電子人格”[25]。我國可在結(jié)合人工智能實(shí)際發(fā)展的情況下,借鑒其中優(yōu)秀立法成果,可以自主性為界定,賦予強(qiáng)人工智能體以法律主體地位。

    4.2.2 完善法律責(zé)任的分配。強(qiáng)人工智能階段,在歸責(zé)原則上,仍需以過錯為要件進(jìn)行歸責(zé)。過錯責(zé)任原則的理論基礎(chǔ)是基于人格平等進(jìn)行的利益兼顧。在保護(hù)弱勢一方患者的同時,兼顧醫(yī)療機(jī)構(gòu)的利益。制度設(shè)計(jì)可以適度傾斜,保護(hù)弱勢一方,但不可明顯傾斜。不以過錯為要件將會加重生產(chǎn)者與使用者的負(fù)擔(dān),不利于人工智能的發(fā)展。同時,新責(zé)任主體的出現(xiàn)并不影響過錯的認(rèn)定,相反會明晰責(zé)任分配。因此強(qiáng)人工智能醫(yī)療機(jī)器人在醫(yī)療損害責(zé)任的歸責(zé)原則上依舊遵循過錯責(zé)任原則,能夠證明強(qiáng)人工智能醫(yī)療機(jī)器人自身不存在過錯便無需承擔(dān)責(zé)任。

    在具體的責(zé)任分配上,強(qiáng)人工智能醫(yī)療機(jī)器人的出現(xiàn),使醫(yī)療機(jī)構(gòu)和醫(yī)護(hù)人員在應(yīng)用過程中不再發(fā)揮主導(dǎo)作用,而是對智能醫(yī)療機(jī)器人引進(jìn)資質(zhì)的把關(guān)、對智能醫(yī)療機(jī)器人培訓(xùn)和設(shè)置應(yīng)用場景上。因此醫(yī)療機(jī)構(gòu)和醫(yī)護(hù)人員的責(zé)任應(yīng)在其沒有盡到相關(guān)義務(wù)和操作瑕疵所產(chǎn)生的損害上。生產(chǎn)者、設(shè)計(jì)者應(yīng)承擔(dān)責(zé)任的情形是,算法背后的操作者是否存在在設(shè)計(jì)上的算法錯誤和算法歧視,導(dǎo)致對患者身心健康的侵害,此為人類利用機(jī)器進(jìn)行的侵權(quán),實(shí)施此行為的設(shè)計(jì)者需要承擔(dān)責(zé)任。整體來看,強(qiáng)人工智能醫(yī)療機(jī)器人的歸責(zé)難題在于對其過錯的認(rèn)定,由于其背后的“技術(shù)黑箱”具有不透明性,產(chǎn)生更大的不可預(yù)測性增大證明難度。當(dāng)強(qiáng)人工智能醫(yī)療機(jī)器人在治療患者過程中出現(xiàn)損害,如何認(rèn)定是其由于自身存在缺陷或是其他問題導(dǎo)致。算法透明是提供算法可責(zé)性問題的解決工具,明確算法決策的主體性、因果性或相關(guān)性,是確定和分配算法責(zé)任的前提[26]。此時可借鑒“透明性原則”,即智能醫(yī)療機(jī)器人的背后運(yùn)作過程應(yīng)是可說明、可理解以及記錄義務(wù),記錄義務(wù)在技術(shù)上的表現(xiàn)形式便是“黑匣子”記錄[27]??蔀閺?qiáng)人工智能醫(yī)療機(jī)器人侵害產(chǎn)生的醫(yī)療事故糾紛在舉證方面提供專業(yè)的技術(shù)支撐,各方的責(zé)任也能得到平衡的分配。最后,自主性智能醫(yī)療機(jī)器人侵權(quán)后如何承擔(dān)責(zé)任,進(jìn)行責(zé)任賠償,需要一套機(jī)制的建立以保障其有能力承擔(dān)責(zé)任,可以借鑒國外相關(guān)立法,例如歐盟明確規(guī)定為其設(shè)立專門的責(zé)任險和賠償基金[28],以便其能夠真正承擔(dān)責(zé)任。

    總之,給智能醫(yī)療機(jī)器人侵權(quán)責(zé)任問題尋求一個好的歸責(zé)路徑并非紙上空談,在解決實(shí)際問題的同時,要以長期主義的視角,放大格局,看向未來,人工智能給我國甚至是世界帶來巨大貢獻(xiàn),使我國的醫(yī)療領(lǐng)域在創(chuàng)新中發(fā)展在革新中健全,因此我們要以促進(jìn)人工智能與人類和諧共處,平衡各方主體,讓人工智能創(chuàng)造更多的社會價值,給社會帶來更大的福祉。

    5 結(jié)論

    大數(shù)據(jù)、云計(jì)算、人工智能、區(qū)塊鏈技術(shù)的發(fā)展使得很多不可能得到實(shí)現(xiàn)。當(dāng)科技帶來的巨大便利成為現(xiàn)實(shí),在倫理道德與科學(xué)技術(shù)上的沖突與分歧,隨著時間的流逝變得不再尖銳。法學(xué)法律的發(fā)展要跟進(jìn)時代的進(jìn)步,新技術(shù)的出現(xiàn)需要法律進(jìn)行保駕護(hù)航。既要解決實(shí)際問題,又要看到未來,人工智能技術(shù)在醫(yī)學(xué)領(lǐng)域的創(chuàng)新滲透方面,幫助醫(yī)學(xué)創(chuàng)新成為改變?nèi)祟惷\(yùn)的基礎(chǔ)力量,使得我們可以探索醫(yī)學(xué)的種種可能。本文對其所涉及的侵權(quán)責(zé)任問題進(jìn)行深入的剖析,當(dāng)前弱人工智能階段,只需對侵權(quán)責(zé)任規(guī)則進(jìn)行適應(yīng)性調(diào)整,未來強(qiáng)人工智能時代,以人機(jī)和諧共處為基本原則,賦予人工智能體以法律主體地位,建立人工智能法律責(zé)任體系,對強(qiáng)弱人工智能機(jī)器人侵權(quán)進(jìn)行規(guī)制,更好的解決責(zé)任承擔(dān)問題。最終目的是希望讓中國患者有更多選擇,享受更好的醫(yī)療服務(wù),促進(jìn)醫(yī)療實(shí)踐與核心需要的融合,實(shí)現(xiàn)整個生態(tài)的共贏,讓醫(yī)療行業(yè)的發(fā)展惠及每一個人,對變化與不變的洞察,關(guān)注人類社會的長遠(yuǎn)發(fā)展。

    猜你喜歡
    主體機(jī)器人人工智能
    論自然人破產(chǎn)法的適用主體
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    機(jī)器人來幫你
    認(rèn)識機(jī)器人
    機(jī)器人來啦
    認(rèn)識機(jī)器人
    黄色成人免费大全| 国产av不卡久久| 香蕉丝袜av| 午夜精品久久久久久毛片777| 欧美黄色淫秽网站| 久久久久久久久中文| 黄色成人免费大全| 免费av毛片视频| 亚洲aⅴ乱码一区二区在线播放| 亚洲人与动物交配视频| 天堂网av新在线| 99久久九九国产精品国产免费| 午夜影院日韩av| 九九热线精品视视频播放| 俺也久久电影网| 日本在线视频免费播放| 又紧又爽又黄一区二区| 久久婷婷人人爽人人干人人爱| 日日干狠狠操夜夜爽| 欧美丝袜亚洲另类 | 久久久久精品国产欧美久久久| 伊人久久精品亚洲午夜| 一a级毛片在线观看| 黄色视频,在线免费观看| 国产美女午夜福利| 18+在线观看网站| 老熟妇仑乱视频hdxx| 亚洲国产欧洲综合997久久,| 欧美日韩一级在线毛片| 小蜜桃在线观看免费完整版高清| 亚洲 国产 在线| 天堂√8在线中文| 禁无遮挡网站| 脱女人内裤的视频| 一进一出抽搐gif免费好疼| 日韩欧美三级三区| 久久午夜亚洲精品久久| 精品一区二区三区av网在线观看| 两个人的视频大全免费| 久久久久久大精品| 国产69精品久久久久777片| 在线国产一区二区在线| 国产野战对白在线观看| 超碰av人人做人人爽久久 | 身体一侧抽搐| 床上黄色一级片| tocl精华| 成人精品一区二区免费| 人人妻,人人澡人人爽秒播| 国产精品日韩av在线免费观看| 久9热在线精品视频| 99热这里只有是精品50| 久久久久久人人人人人| 精品久久久久久久毛片微露脸| 热99re8久久精品国产| 真人做人爱边吃奶动态| 免费看a级黄色片| 黄色视频,在线免费观看| 国产亚洲欧美98| 亚洲国产日韩欧美精品在线观看 | 精品久久久久久成人av| 一区二区三区激情视频| 亚洲精品粉嫩美女一区| 无人区码免费观看不卡| 99国产精品一区二区三区| 少妇人妻一区二区三区视频| 99久久无色码亚洲精品果冻| 两个人看的免费小视频| 亚洲中文字幕一区二区三区有码在线看| 国产欧美日韩一区二区三| 亚洲五月天丁香| 日韩欧美在线二视频| 国语自产精品视频在线第100页| 久久这里只有精品中国| 中国美女看黄片| 国产av一区在线观看免费| 变态另类成人亚洲欧美熟女| 免费电影在线观看免费观看| 禁无遮挡网站| 天堂av国产一区二区熟女人妻| 精品人妻偷拍中文字幕| 免费看美女性在线毛片视频| 国产成人啪精品午夜网站| 国产黄片美女视频| 宅男免费午夜| 国产美女午夜福利| 欧美精品啪啪一区二区三区| 国产免费av片在线观看野外av| 中国美女看黄片| 久久人妻av系列| 国产一区二区三区视频了| 亚洲熟妇中文字幕五十中出| aaaaa片日本免费| 香蕉久久夜色| 午夜a级毛片| 久久精品91无色码中文字幕| 中文字幕久久专区| 好男人电影高清在线观看| 淫秽高清视频在线观看| 熟女少妇亚洲综合色aaa.| 国产精品1区2区在线观看.| 免费av毛片视频| 亚洲av免费高清在线观看| 免费人成在线观看视频色| 欧美一区二区精品小视频在线| 露出奶头的视频| 国产69精品久久久久777片| 欧美日韩瑟瑟在线播放| 久久久久久久久大av| 久久九九热精品免费| 免费在线观看日本一区| 亚洲成人精品中文字幕电影| 亚洲黑人精品在线| 国产激情欧美一区二区| 亚洲乱码一区二区免费版| 一夜夜www| 99热这里只有精品一区| 动漫黄色视频在线观看| 最近视频中文字幕2019在线8| 美女 人体艺术 gogo| 韩国av一区二区三区四区| 亚洲自拍偷在线| 91久久精品国产一区二区成人 | 搡老岳熟女国产| 天天躁日日操中文字幕| 久9热在线精品视频| 真人做人爱边吃奶动态| 国产一区二区在线观看日韩 | 内射极品少妇av片p| avwww免费| 午夜免费激情av| 99精品在免费线老司机午夜| 国产不卡一卡二| 亚洲精品久久国产高清桃花| 免费av观看视频| 亚洲国产精品sss在线观看| 免费人成视频x8x8入口观看| 国产在视频线在精品| av在线蜜桃| 亚洲内射少妇av| 免费在线观看成人毛片| 无限看片的www在线观看| 精品国产三级普通话版| 午夜精品久久久久久毛片777| 91在线观看av| 欧美在线黄色| 69人妻影院| 国产av一区在线观看免费| 12—13女人毛片做爰片一| 叶爱在线成人免费视频播放| 国产综合懂色| 村上凉子中文字幕在线| 美女cb高潮喷水在线观看| 天堂av国产一区二区熟女人妻| 国产真实伦视频高清在线观看 | 偷拍熟女少妇极品色| 亚洲av不卡在线观看| 国产精品久久久久久久电影 | 欧美日韩瑟瑟在线播放| 亚洲,欧美精品.| 成人性生交大片免费视频hd| 免费看光身美女| 宅男免费午夜| 欧美丝袜亚洲另类 | 国产精品乱码一区二三区的特点| 国产av不卡久久| 国产成人欧美在线观看| 小说图片视频综合网站| 麻豆国产97在线/欧美| 欧美丝袜亚洲另类 | 欧美日韩瑟瑟在线播放| 欧美黑人欧美精品刺激| 色综合欧美亚洲国产小说| 夜夜看夜夜爽夜夜摸| 久久久久久久午夜电影| 亚洲第一电影网av| 国产男靠女视频免费网站| 一个人观看的视频www高清免费观看| xxx96com| 久久国产乱子伦精品免费另类| 欧美成人一区二区免费高清观看| 免费人成在线观看视频色| 亚洲精品日韩av片在线观看 | 色老头精品视频在线观看| 他把我摸到了高潮在线观看| 国产亚洲欧美98| 精品不卡国产一区二区三区| 天美传媒精品一区二区| 亚洲人成网站高清观看| 一区福利在线观看| 在线看三级毛片| 国产乱人伦免费视频| 亚洲av成人av| 国产久久久一区二区三区| 国产免费一级a男人的天堂| 国产精品女同一区二区软件 | 亚洲av不卡在线观看| 国内精品美女久久久久久| 制服丝袜大香蕉在线| 国产在视频线在精品| 人人妻,人人澡人人爽秒播| 久久天躁狠狠躁夜夜2o2o| 日日摸夜夜添夜夜添小说| 搡老岳熟女国产| 国产精品嫩草影院av在线观看 | 成熟少妇高潮喷水视频| 婷婷精品国产亚洲av在线| 老鸭窝网址在线观看| 99精品在免费线老司机午夜| 久久精品国产自在天天线| 国产成人影院久久av| 欧美乱码精品一区二区三区| 国产精品久久久久久精品电影| 可以在线观看的亚洲视频| 亚洲av五月六月丁香网| 久久久久久大精品| 国产色婷婷99| 久久99热这里只有精品18| 无人区码免费观看不卡| 午夜两性在线视频| 最近最新中文字幕大全免费视频| av专区在线播放| 午夜a级毛片| 狂野欧美白嫩少妇大欣赏| 精品福利观看| 免费大片18禁| 看黄色毛片网站| 草草在线视频免费看| 女警被强在线播放| 亚洲中文字幕一区二区三区有码在线看| 18禁美女被吸乳视频| 日韩大尺度精品在线看网址| 99久久精品热视频| 免费在线观看亚洲国产| 国产精品综合久久久久久久免费| 十八禁人妻一区二区| 亚洲一区二区三区不卡视频| 国产三级黄色录像| 国产色爽女视频免费观看| 亚洲成人精品中文字幕电影| 热99re8久久精品国产| 又紧又爽又黄一区二区| 亚洲aⅴ乱码一区二区在线播放| 天堂av国产一区二区熟女人妻| 国产免费av片在线观看野外av| xxxwww97欧美| 久久久久久九九精品二区国产| 男女视频在线观看网站免费| 国产亚洲精品av在线| 国产私拍福利视频在线观看| 欧美极品一区二区三区四区| 男女午夜视频在线观看| 熟女人妻精品中文字幕| 身体一侧抽搐| 男插女下体视频免费在线播放| 欧美绝顶高潮抽搐喷水| 淫秽高清视频在线观看| 日日夜夜操网爽| 一进一出好大好爽视频| 欧美中文综合在线视频| 美女大奶头视频| 99在线视频只有这里精品首页| 国产精品国产高清国产av| 国产精品日韩av在线免费观看| 国产在视频线在精品| 搡老岳熟女国产| bbb黄色大片| 日韩中文字幕欧美一区二区| 母亲3免费完整高清在线观看| 国产亚洲精品综合一区在线观看| 哪里可以看免费的av片| 最近最新中文字幕大全电影3| 亚洲自拍偷在线| 久99久视频精品免费| 全区人妻精品视频| 日本 欧美在线| 国产黄片美女视频| 女人十人毛片免费观看3o分钟| 久久久久久久久中文| 亚洲精品色激情综合| 精品久久久久久成人av| 啦啦啦免费观看视频1| x7x7x7水蜜桃| 精品人妻偷拍中文字幕| 99精品久久久久人妻精品| 欧美区成人在线视频| 亚洲七黄色美女视频| 精品久久久久久久人妻蜜臀av| 18禁国产床啪视频网站| 国产久久久一区二区三区| 亚洲欧美日韩无卡精品| 国产成人aa在线观看| 日本黄色视频三级网站网址| 在线观看午夜福利视频| 欧美日韩精品网址| 亚洲欧美日韩卡通动漫| 欧美精品啪啪一区二区三区| 国产一区二区三区在线臀色熟女| 国产av麻豆久久久久久久| 宅男免费午夜| 最近最新中文字幕大全电影3| 国内揄拍国产精品人妻在线| 熟女少妇亚洲综合色aaa.| 免费看a级黄色片| 亚洲成人久久爱视频| 亚洲 欧美 日韩 在线 免费| 日本一二三区视频观看| 国产亚洲精品久久久久久毛片| 91在线精品国自产拍蜜月 | 久久亚洲真实| 欧美不卡视频在线免费观看| а√天堂www在线а√下载| 午夜免费男女啪啪视频观看 | 韩国av一区二区三区四区| 亚洲熟妇熟女久久| 中文字幕久久专区| 99在线人妻在线中文字幕| 亚洲天堂国产精品一区在线| 久久久成人免费电影| 欧美另类亚洲清纯唯美| 国内揄拍国产精品人妻在线| 欧美中文综合在线视频| 搡女人真爽免费视频火全软件 | 又粗又爽又猛毛片免费看| 日韩亚洲欧美综合| 日本黄大片高清| 亚洲五月婷婷丁香| 精品一区二区三区视频在线观看免费| 久久久久九九精品影院| 在线观看66精品国产| 欧美激情在线99| 搞女人的毛片| 亚洲国产欧美人成| 亚洲人成网站在线播| 欧美+亚洲+日韩+国产| 一区二区三区高清视频在线| 最新中文字幕久久久久| 狂野欧美白嫩少妇大欣赏| 欧美最新免费一区二区三区 | 身体一侧抽搐| 男女之事视频高清在线观看| 精品久久久久久久久久久久久| 日韩人妻高清精品专区| 一区二区三区免费毛片| 国产激情欧美一区二区| 国产伦精品一区二区三区视频9 | 亚洲在线观看片| 亚洲真实伦在线观看| 欧美黑人巨大hd| 亚洲欧美日韩高清在线视频| 欧美av亚洲av综合av国产av| 色精品久久人妻99蜜桃| 成人欧美大片| 久久精品国产自在天天线| 给我免费播放毛片高清在线观看| 午夜视频国产福利| 中文字幕人成人乱码亚洲影| 日韩亚洲欧美综合| 亚洲中文日韩欧美视频| 国产一区二区在线观看日韩 | 三级毛片av免费| 岛国在线观看网站| 亚洲国产精品sss在线观看| 天美传媒精品一区二区| 一级毛片女人18水好多| 国产成人系列免费观看| 嫁个100分男人电影在线观看| 黄色日韩在线| a在线观看视频网站| 在线a可以看的网站| 亚洲五月天丁香| 在线观看66精品国产| 一边摸一边抽搐一进一小说| 亚洲成人免费电影在线观看| 欧美色视频一区免费| 国产一区二区三区视频了| 欧美色视频一区免费| 成人av一区二区三区在线看| 精品无人区乱码1区二区| 国产精品久久久久久亚洲av鲁大| 亚洲成a人片在线一区二区| 97碰自拍视频| 日本黄色片子视频| 亚洲成人中文字幕在线播放| svipshipincom国产片| 搡女人真爽免费视频火全软件 | av欧美777| 亚洲国产精品久久男人天堂| 亚洲激情在线av| 级片在线观看| 十八禁网站免费在线| 欧美最黄视频在线播放免费| 九九热线精品视视频播放| 在线播放无遮挡| 免费大片18禁| 手机成人av网站| 免费搜索国产男女视频| 中文亚洲av片在线观看爽| 久久久久九九精品影院| 国产高潮美女av| 操出白浆在线播放| 日本与韩国留学比较| 又爽又黄无遮挡网站| 在线视频色国产色| 亚洲精品乱码久久久v下载方式 | 欧美日本视频| 男女之事视频高清在线观看| 欧美最新免费一区二区三区 | 日本黄色片子视频| 一a级毛片在线观看| 国产精品永久免费网站| 岛国视频午夜一区免费看| 一级毛片女人18水好多| 最近视频中文字幕2019在线8| 国产伦一二天堂av在线观看| 免费人成视频x8x8入口观看| 日本黄色视频三级网站网址| 国产麻豆成人av免费视频| 亚洲真实伦在线观看| 中出人妻视频一区二区| 日韩欧美一区二区三区在线观看| 99热这里只有是精品50| 90打野战视频偷拍视频| 欧美精品啪啪一区二区三区| 性色avwww在线观看| 亚洲专区国产一区二区| 麻豆成人午夜福利视频| 午夜福利在线在线| 国产精品久久久久久久久免 | 国产精品日韩av在线免费观看| 亚洲国产日韩欧美精品在线观看 | 亚洲精品在线美女| 午夜激情欧美在线| 日韩 欧美 亚洲 中文字幕| 亚洲不卡免费看| 亚洲av免费在线观看| 可以在线观看毛片的网站| 国产精品自产拍在线观看55亚洲| 99久久九九国产精品国产免费| 久久久久国内视频| 亚洲成人久久性| 国内精品久久久久久久电影| eeuss影院久久| 国产精品 欧美亚洲| 国产成年人精品一区二区| 波多野结衣巨乳人妻| 国产伦人伦偷精品视频| 亚洲专区国产一区二区| 中文字幕人妻丝袜一区二区| 18+在线观看网站| 91在线精品国自产拍蜜月 | 亚洲成人久久爱视频| 日本与韩国留学比较| 亚洲国产中文字幕在线视频| 美女高潮喷水抽搐中文字幕| 欧美高清成人免费视频www| 国产一区二区在线观看日韩 | 免费看a级黄色片| 欧美极品一区二区三区四区| 国产蜜桃级精品一区二区三区| 国产成人av激情在线播放| a级毛片a级免费在线| 天天一区二区日本电影三级| 十八禁人妻一区二区| 国内少妇人妻偷人精品xxx网站| 欧美黄色淫秽网站| 香蕉av资源在线| 一级毛片女人18水好多| 日韩欧美免费精品| 亚洲精品一卡2卡三卡4卡5卡| 精品欧美国产一区二区三| 波多野结衣高清无吗| 成熟少妇高潮喷水视频| 天堂动漫精品| 国产亚洲精品一区二区www| 色播亚洲综合网| 国产一区二区三区视频了| 日本撒尿小便嘘嘘汇集6| 久久精品夜夜夜夜夜久久蜜豆| 国产成人av激情在线播放| 最近视频中文字幕2019在线8| 免费无遮挡裸体视频| 国产亚洲av嫩草精品影院| 波多野结衣高清无吗| 精品99又大又爽又粗少妇毛片 | 国产私拍福利视频在线观看| 少妇的逼水好多| 国产高清有码在线观看视频| 国产一级毛片七仙女欲春2| 中文字幕精品亚洲无线码一区| 一级a爱片免费观看的视频| 观看免费一级毛片| 欧美性猛交╳xxx乱大交人| 国产乱人伦免费视频| 麻豆成人午夜福利视频| www日本黄色视频网| 国产综合懂色| 乱人视频在线观看| 免费av不卡在线播放| 别揉我奶头~嗯~啊~动态视频| 少妇人妻一区二区三区视频| 久久久久久久亚洲中文字幕 | 国产v大片淫在线免费观看| 丰满人妻一区二区三区视频av | 一二三四社区在线视频社区8| 久久精品国产综合久久久| 夜夜爽天天搞| 国产乱人视频| 中出人妻视频一区二区| 波多野结衣高清作品| 熟妇人妻久久中文字幕3abv| 亚洲五月婷婷丁香| 免费看a级黄色片| 精品人妻一区二区三区麻豆 | 丁香六月欧美| 亚洲黑人精品在线| 精品人妻偷拍中文字幕| 欧洲精品卡2卡3卡4卡5卡区| 九色成人免费人妻av| 又黄又粗又硬又大视频| 亚洲成av人片免费观看| 亚洲国产精品sss在线观看| 国产高清三级在线| 日韩欧美免费精品| 国产99白浆流出| 亚洲成a人片在线一区二区| 一进一出好大好爽视频| 中文资源天堂在线| 午夜免费激情av| 国产野战对白在线观看| 亚洲人成网站高清观看| 天美传媒精品一区二区| 人妻夜夜爽99麻豆av| 婷婷丁香在线五月| 国产黄a三级三级三级人| 免费看光身美女| 好男人在线观看高清免费视频| 美女大奶头视频| 久久久精品大字幕| 国产高清有码在线观看视频| 一区二区三区高清视频在线| 99热这里只有精品一区| 90打野战视频偷拍视频| 国产视频一区二区在线看| 国产视频内射| 免费电影在线观看免费观看| 国产精品99久久久久久久久| 1024手机看黄色片| 亚洲欧美日韩无卡精品| 国产色婷婷99| 亚洲黑人精品在线| 97碰自拍视频| 制服人妻中文乱码| a级毛片a级免费在线| 在线观看免费视频日本深夜| 日本撒尿小便嘘嘘汇集6| 精品乱码久久久久久99久播| 国产探花极品一区二区| 国产真实乱freesex| 国产主播在线观看一区二区| 9191精品国产免费久久| 国产成人影院久久av| 无遮挡黄片免费观看| 国产成人a区在线观看| 制服丝袜大香蕉在线| 1000部很黄的大片| 国产成人啪精品午夜网站| 亚洲av电影在线进入| 国产视频一区二区在线看| 性欧美人与动物交配| 国产av不卡久久| 国产精品99久久99久久久不卡| 三级毛片av免费| 色吧在线观看| 国产成+人综合+亚洲专区| 1024手机看黄色片| 国产高清激情床上av| 欧美日本视频| tocl精华| 国产精品av视频在线免费观看| 色综合婷婷激情| 国产亚洲精品久久久com| 国产一区二区在线观看日韩 | 十八禁网站免费在线| 亚洲色图av天堂| 亚洲人成伊人成综合网2020| 岛国视频午夜一区免费看| 国产毛片a区久久久久| 国产成人aa在线观看| 18禁国产床啪视频网站| 伊人久久精品亚洲午夜| 18禁黄网站禁片午夜丰满| 18禁国产床啪视频网站| 欧美日韩瑟瑟在线播放| 一进一出抽搐动态| 色吧在线观看| 国内精品一区二区在线观看| 非洲黑人性xxxx精品又粗又长| 国产精品久久久人人做人人爽| 无限看片的www在线观看| 在线观看免费午夜福利视频| 国产私拍福利视频在线观看| 欧美日韩瑟瑟在线播放| 很黄的视频免费| 深夜精品福利| 国产乱人伦免费视频| 欧美丝袜亚洲另类 | 日韩欧美一区二区三区在线观看| 国产成+人综合+亚洲专区| 日韩有码中文字幕| 国产精品久久久久久精品电影| 日韩国内少妇激情av| 国产美女午夜福利| 亚洲av美国av| 免费无遮挡裸体视频|