• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    我國(guó)智能醫(yī)療的發(fā)展困境與對(duì)策研究*

    2021-01-21 04:03:40衡敬之何琪鐘楠鵬徐容
    醫(yī)學(xué)與法學(xué) 2020年6期
    關(guān)鍵詞:人工智能醫(yī)療智能

    衡敬之 何琪 鐘楠鵬 徐容

    醫(yī)療是人工智能發(fā)力的一個(gè)重要領(lǐng)域;①由于傳統(tǒng)醫(yī)療模式存在醫(yī)療資源分配不均、醫(yī)療信息溝通不暢等問(wèn)題,導(dǎo)致其整體運(yùn)行呈現(xiàn)供給低、效率低、成本高、誤差高、風(fēng)險(xiǎn)高的“兩低三高”特征,[1]而智能醫(yī)療基于其自身特性恰好能夠滿足傳統(tǒng)醫(yī)療模式“提質(zhì)增效”②的目標(biāo)。但是,人工智能的算法隨機(jī)性增加了智能醫(yī)療臨床應(yīng)用的風(fēng)險(xiǎn)。[2]本文將通過(guò)文獻(xiàn)梳理和比較分析,回顧研究我國(guó)智能醫(yī)療的發(fā)展現(xiàn)狀及相關(guān)政策規(guī)范制定情況,剖析其發(fā)展所面臨的主要困境,提出相應(yīng)的法制建議。

    一、我國(guó)智能醫(yī)療發(fā)展現(xiàn)狀之分析

    (一)智能醫(yī)療的類型劃分

    根據(jù)不同的分類標(biāo)準(zhǔn),智能醫(yī)療可以劃分為不同的類型。依據(jù)智能醫(yī)療專用領(lǐng)域,可以劃分為智能醫(yī)療影像分析、手術(shù)機(jī)器人、健康管理、康復(fù)等;依據(jù)智能醫(yī)療所處醫(yī)療階段,可以劃分為臨床各個(gè)階段所應(yīng)用的智能醫(yī)療、醫(yī)療相關(guān)領(lǐng)域所應(yīng)用的智能醫(yī)療,前者涵蓋院前管理、院內(nèi)診療、院后康復(fù)[3],后者包括醫(yī)療行業(yè)監(jiān)管中所應(yīng)用的智能醫(yī)療、醫(yī)保基金監(jiān)管中所應(yīng)用的智能醫(yī)療、醫(yī)療科研與藥品研發(fā)中所應(yīng)用的智能醫(yī)療、醫(yī)療服務(wù)優(yōu)化中所應(yīng)用的智能醫(yī)療以及在醫(yī)院內(nèi)部管理中所應(yīng)用的智能醫(yī)療;根據(jù)智能醫(yī)療是否擁有實(shí)體形態(tài),則可以劃分為具有實(shí)體特征的智能醫(yī)療機(jī)器人和不具有實(shí)體特征的智能醫(yī)療系統(tǒng);根據(jù)是否接觸或侵入人體,可以將智能醫(yī)療劃分為接觸式、侵入式智能醫(yī)療,例如智能手術(shù)機(jī)器人、智能康復(fù)系統(tǒng)等,以及非接觸、侵入式智能醫(yī)療,例如智能醫(yī)學(xué)影像分析系統(tǒng)、智能科研數(shù)據(jù)和藥品數(shù)據(jù)分析系統(tǒng)。下文主要依據(jù)智能醫(yī)療所處醫(yī)療階段和適用領(lǐng)域,梳理我國(guó)智能醫(yī)療的具體應(yīng)用現(xiàn)狀。

    (二)智能醫(yī)療的具體應(yīng)用

    在智能醫(yī)療領(lǐng)域,相較于美國(guó)而言,中國(guó)起步雖然稍晚,但是目前在整體研發(fā)與應(yīng)用方面已經(jīng)領(lǐng)跑世界,與美國(guó)形成并駕齊驅(qū)之勢(shì)。[4]

    1.在臨床各個(gè)階段的應(yīng)用。

    院前階段,智能健康管理系統(tǒng)可借助智能穿戴設(shè)備和監(jiān)測(cè)反饋系統(tǒng)主動(dòng)采集服務(wù)人群的個(gè)人健康信息,并實(shí)時(shí)向醫(yī)療端和家屬端反饋。這種智能醫(yī)療系統(tǒng)適合工作時(shí)間長(zhǎng)且不方便就醫(yī)的上班族、行動(dòng)不便的獨(dú)居老人和孕婦等特殊人群,既可以實(shí)現(xiàn)健康問(wèn)題的早發(fā)現(xiàn),又可以實(shí)現(xiàn)對(duì)老年人群慢性病的管理,還能夠與家庭醫(yī)生簽約服務(wù)相配合。其代表性的產(chǎn)品,有由糖護(hù)科技公司研發(fā)的慢病管理系統(tǒng)、健康有益公司研發(fā)的母嬰管理系統(tǒng)。另外,還有一種基于物聯(lián)網(wǎng)的智能公共衛(wèi)生預(yù)警系統(tǒng),其主要通過(guò)智能化的數(shù)據(jù)收集與反饋系統(tǒng)實(shí)現(xiàn)公共衛(wèi)生監(jiān)測(cè)與預(yù)警。

    院中階段是人工智能最早融入的醫(yī)療領(lǐng)域,也是發(fā)展最為迅速的領(lǐng)域。目前,最被看好的是智能醫(yī)學(xué)影像識(shí)別。其通過(guò)運(yùn)用人工神經(jīng)網(wǎng)絡(luò)和自主學(xué)習(xí),智能醫(yī)學(xué)影像系統(tǒng)可以更快、更準(zhǔn)確地識(shí)別病灶和癌變組織,[5]被廣泛應(yīng)用于癌癥早篩、內(nèi)鏡檢查和病理學(xué)檢查。[6]其代表性產(chǎn)品有由阿里科技研發(fā)的“Doctor you”系統(tǒng)、騰訊科技研發(fā)的“覓影”系統(tǒng)、依圖科技研發(fā)的智能乳腺癌篩查系統(tǒng)、蘭丁公司研發(fā)的智能宮頸癌篩查系統(tǒng)。智能診斷系統(tǒng),又稱為“輔助診斷系統(tǒng)”,是依靠學(xué)習(xí)典型病例的方式獲得模擬醫(yī)生醫(yī)療思維能力的一種智能醫(yī)療系統(tǒng),[7]它能夠在一定程度上緩解專家數(shù)量不足和基層醫(yī)生診療水平總體偏低的困境。其代表性的產(chǎn)品有由零氪科技開(kāi)發(fā)的HUBBLE醫(yī)療大數(shù)據(jù)輔助決策系統(tǒng)。智能治療系統(tǒng)主要是指手術(shù)治療系統(tǒng),又被稱為是“手術(shù)機(jī)器人”,相較于前兩類系統(tǒng)其侵入性更強(qiáng)。手術(shù)機(jī)器人具有三維透視功能,其精準(zhǔn)的操作能夠達(dá)到醫(yī)生不能達(dá)到的效果,如北京積水潭醫(yī)院聯(lián)合多家機(jī)構(gòu)研發(fā)了首款骨全科機(jī)器人“天磯”,就是屬于手術(shù)機(jī)器人。

    院后階段所應(yīng)用的智能醫(yī)療主要是智能康復(fù)系統(tǒng)(機(jī)器人)、智能隨訪系統(tǒng)。這兩類智能醫(yī)療系統(tǒng)也主要通過(guò)智能信息采集、反饋,以實(shí)現(xiàn)病人與主管醫(yī)生的實(shí)時(shí)交互,以便為患者提供實(shí)時(shí)的個(gè)性化康復(fù)理療方案,且能有效保證及時(shí)實(shí)施。但是,目前這一智能醫(yī)療領(lǐng)域由于需求量較小,發(fā)展相對(duì)緩慢。比較有代表性的這類智能醫(yī)療產(chǎn)品,有2018年7月江蘇省人民醫(yī)院上線的“云隨訪”系統(tǒng)、由尖叫科技公司研發(fā)的智能康復(fù)外骨骼機(jī)器人。[8]

    2.在醫(yī)療相關(guān)領(lǐng)域的應(yīng)用。

    除在臨床醫(yī)療過(guò)程應(yīng)用以外,人工智能還廣泛參與到醫(yī)療管理、科研、藥品開(kāi)發(fā)以及醫(yī)保基金監(jiān)管等領(lǐng)域。智能醫(yī)療管理通過(guò)以電子病歷系統(tǒng)為核心的醫(yī)院信息化系統(tǒng)實(shí)現(xiàn)智能化的醫(yī)院管理,既可節(jié)省人力成本提高服務(wù)效率,也可便利民眾就醫(yī)。其代表性的產(chǎn)品有由科大訊飛公司研發(fā)的“曉醫(yī)”導(dǎo)診機(jī)器人、索聞博識(shí)研發(fā)的“博識(shí)醫(yī)療云”病歷專業(yè)平臺(tái)系統(tǒng)等。智能藥品研發(fā)系統(tǒng)和科研輔助平臺(tái)可以利用強(qiáng)大的模擬推演功能和計(jì)算功能縮短藥品研發(fā)和科研周期,其代表性的產(chǎn)品有由晶泰科技公司研發(fā)的“晶型預(yù)測(cè)”系統(tǒng)。在監(jiān)管方面,醫(yī)??刭M(fèi)系統(tǒng)已經(jīng)在部分地區(qū)試點(diǎn),例如云南省人民醫(yī)院、云南省中醫(yī)院等機(jī)構(gòu)在試點(diǎn)智能醫(yī)保監(jiān)管系統(tǒng)后違規(guī)總費(fèi)用顯著下降。成都數(shù)聯(lián)易康公司利用大數(shù)據(jù)手段為各地人社局、衛(wèi)健委、醫(yī)療機(jī)構(gòu)和商業(yè)保險(xiǎn)公司提供智能審核、政策制定輔助決策、醫(yī)療行為監(jiān)管等服務(wù)。此外,國(guó)內(nèi)智能醫(yī)療研發(fā)主體還在努力將人工智能應(yīng)用于食品藥品監(jiān)管、醫(yī)療事故技術(shù)鑒定等醫(yī)療相關(guān)領(lǐng)域。[9]

    (三)智能醫(yī)療相關(guān)政策規(guī)范

    智能醫(yī)療的廣泛應(yīng)用是一把雙刃劍,一方面它可以有效解決傳統(tǒng)醫(yī)療模式的“兩低三高”問(wèn)題,甚至可以助力分級(jí)診療強(qiáng)化基層診療服務(wù)能力;[10]另一方面智能醫(yī)療與生俱來(lái)的風(fēng)險(xiǎn),使我們不能忽視這種診療模式變革所引發(fā)的法律規(guī)范缺位。

    根據(jù)層級(jí)不同,我國(guó)的智能醫(yī)療政策分為國(guó)家、省級(jí)、市級(jí)三個(gè)體系,[11]其在內(nèi)容上以產(chǎn)業(yè)發(fā)展規(guī)劃和醫(yī)療人工智能應(yīng)用指導(dǎo)意見(jiàn)為主,同時(shí)包含了大數(shù)據(jù)、互聯(lián)網(wǎng)等人工智能相關(guān)技術(shù)領(lǐng)域的應(yīng)用與監(jiān)管規(guī)范(詳見(jiàn)表1)。

    表1 中國(guó)各層級(jí)政府的人工智能及智能醫(yī)療政策總表

    從表1中不難看出,我國(guó)智能醫(yī)療政策層層細(xì)化,并與自身情況緊密結(jié)合。其從另一個(gè)側(cè)面也折射出我國(guó)智能醫(yī)療發(fā)展的幾個(gè)特征:其一,經(jīng)濟(jì)水平?jīng)Q定發(fā)展速度和質(zhì)量,北京、上海、杭州、深圳等地經(jīng)濟(jì)發(fā)展迅速,其智能醫(yī)療水平處于第一梯隊(duì),其他地區(qū)則相去甚遠(yuǎn);其二,全國(guó)總體發(fā)展水平較低,政策多是總規(guī)劃性質(zhì)的,缺乏專門(mén)針對(duì)智能醫(yī)療的細(xì)化政策,致使其操作性不強(qiáng)。

    除此之外,目前國(guó)內(nèi)在人工智能和智能醫(yī)療應(yīng)用階段的安全監(jiān)管和法律責(zé)任制度方面尚處于空白,《新一代人工智能發(fā)展規(guī)劃》僅在部分章節(jié)提及針對(duì)人工智能盡早開(kāi)展法律和倫理規(guī)制研究等內(nèi)容,其唯一的成果,即原衛(wèi)生部辦公廳在2009年11月發(fā)布的《人工智能輔助治療技術(shù)管理規(guī)范(試行)》和《人工智能輔助診斷技術(shù)管理規(guī)范(試行)》,但卻在2017年2月被原國(guó)家衛(wèi)生與計(jì)劃生育委員會(huì)廢止。相反,在行業(yè)協(xié)會(huì)和社會(huì)組織層面則提出了眾多具有代表性的倫理規(guī)則和技術(shù)安全標(biāo)準(zhǔn)(詳見(jiàn)表2)。

    從表2不難發(fā)現(xiàn),我國(guó)有關(guān)人工智能的治理原則和規(guī)范的探索,主要集中于民間行業(yè)組織和專業(yè)智庫(kù),其所提出的安全監(jiān)管標(biāo)準(zhǔn)和治理理念為未來(lái)人工智能的監(jiān)管、治理政策和規(guī)范作了鋪墊。欣喜的是,國(guó)家衛(wèi)生健康委員會(huì)已于2019年1月成立了手術(shù)機(jī)器人臨床應(yīng)用管理專家委員會(huì),旨在對(duì)智能醫(yī)療機(jī)器人的臨床應(yīng)用及標(biāo)準(zhǔn)制定提供指導(dǎo)。

    表2 人工智能治理原則、安全標(biāo)準(zhǔn)與發(fā)展準(zhǔn)則時(shí)間分布表

    二、我國(guó)智能醫(yī)療發(fā)展所面臨的困境之分析

    如前所述,智能醫(yī)療是醫(yī)療領(lǐng)域的一次大變革,但是我們?cè)诳春弥悄茚t(yī)療的同時(shí)應(yīng)當(dāng)需要關(guān)注我國(guó)智能醫(yī)療發(fā)展面臨的一些困境,具體情況闡述如下:

    我國(guó)智能醫(yī)療發(fā)展中的主要障礙:

    (一)數(shù)據(jù)的共享程度低、質(zhì)量差

    智能醫(yī)療能否在臨床上得到廣泛應(yīng)用,關(guān)鍵在于大數(shù)據(jù)的基礎(chǔ)設(shè)施建設(shè),沒(méi)有龐大的醫(yī)療健康大數(shù)據(jù)基建投入,難以實(shí)現(xiàn)智能醫(yī)療的廣泛應(yīng)用和長(zhǎng)遠(yuǎn)發(fā)展。目前,全國(guó)絕大多數(shù)醫(yī)療機(jī)構(gòu)沒(méi)有運(yùn)行電子病歷系統(tǒng),在一些偏遠(yuǎn)地區(qū)連電腦也沒(méi)有配置。與此同時(shí),各個(gè)醫(yī)療機(jī)構(gòu)之間信息不能互通有無(wú),區(qū)域的醫(yī)療大數(shù)據(jù)中心、全國(guó)的大數(shù)據(jù)中心尚未建立,無(wú)力形成醫(yī)療數(shù)據(jù)傳輸?shù)幕ヂ?lián)互通與共享。整體上,我國(guó)的醫(yī)療健康大數(shù)據(jù)存在分散化、低質(zhì)化的特征,難以滿足快速發(fā)展的智能醫(yī)療產(chǎn)業(yè),現(xiàn)階段運(yùn)行于部分地區(qū)或機(jī)構(gòu)的智能醫(yī)療系統(tǒng)很難進(jìn)行廣泛推廣。[12]

    (二)智能醫(yī)療產(chǎn)業(yè)發(fā)展后勁不足

    智能醫(yī)療產(chǎn)品的研發(fā)需要長(zhǎng)期大量的資金、技術(shù)與人才投入。就人才儲(chǔ)備而言,據(jù)上海交通大學(xué)人工智能研究院等發(fā)布的《人工智能醫(yī)療白皮書(shū)》顯示:比較2017年世界各國(guó)AI人才數(shù)量,我國(guó)僅僅排在第7位,總?cè)藬?shù)為5萬(wàn)余人,占世界AI人才總數(shù)的比重為4%。這個(gè)水平與美國(guó)、印度、英國(guó)相比相形見(jiàn)絀。鑒于此,教育部于2018年4月2日發(fā)布了《教育部關(guān)于印發(fā)〈高等學(xué)校人工智能創(chuàng)新行動(dòng)計(jì)劃〉的通知》,力促我國(guó)高等教育與科研院所大力開(kāi)展人工智能研究,培養(yǎng)人工智能創(chuàng)新型人才。目前這一促進(jìn)性政策已經(jīng)初見(jiàn)成效,全國(guó)范圍內(nèi)已經(jīng)有35所高校新設(shè)置人工智能專業(yè),全國(guó)新增101所高校設(shè)置了機(jī)器人工程專業(yè)。

    三、智能醫(yī)療發(fā)展中所蘊(yùn)含的法律問(wèn)題

    (一)智能醫(yī)療法律屬性、地位不明

    智能醫(yī)療法律屬性、地位問(wèn)題是討論其他法律問(wèn)題的基礎(chǔ),直接影響智能醫(yī)療安全監(jiān)管制度的設(shè)計(jì)和智能醫(yī)療損害責(zé)任的劃分。針對(duì)該問(wèn)題,目前理論和實(shí)務(wù)界形成了兩種主要的觀點(diǎn):一種觀點(diǎn)認(rèn)為智能醫(yī)療在現(xiàn)階段仍然屬于診療領(lǐng)域的輔助性工具,可以歸屬于特殊醫(yī)療器材類進(jìn)行管理;另一種較為激進(jìn)的觀點(diǎn)則認(rèn)為人工智能和智能醫(yī)療在某些領(lǐng)域已經(jīng)可以通過(guò)所謂“圖靈測(cè)試”,即該人工智能和智能醫(yī)療產(chǎn)品、系統(tǒng)可以在不事先告知的情況下,使人類誤認(rèn)為是同類在進(jìn)行相關(guān)的操作活動(dòng),這就可以賦予其人格地位,乃至給與其公民地位,由其獨(dú)立承擔(dān)民事責(zé)任。[13]

    (二)智能醫(yī)療安全監(jiān)管制度闕如

    智能醫(yī)療安全監(jiān)管的制度設(shè)計(jì)與實(shí)施,直接關(guān)系到智能醫(yī)療產(chǎn)品臨床應(yīng)用的安全性保障和醫(yī)療風(fēng)險(xiǎn)防控,能有效預(yù)防智能醫(yī)療造成患者損害。如前文所述,目前我國(guó)沒(méi)有統(tǒng)一權(quán)威的智能醫(yī)療安全監(jiān)管?chē)?guó)家標(biāo)準(zhǔn),沒(méi)有專門(mén)的智能醫(yī)療設(shè)備上市審查機(jī)制和審查組織機(jī)構(gòu),也沒(méi)有專門(mén)針對(duì)智能醫(yī)療設(shè)備的上市后的風(fēng)險(xiǎn)監(jiān)測(cè)和評(píng)估制度。從現(xiàn)階段國(guó)家戰(zhàn)略長(zhǎng)遠(yuǎn)布局來(lái)看,既然要推動(dòng)智能醫(yī)療的臨床應(yīng)用,理應(yīng)保障這種“新技術(shù)”的安全性和可靠性。

    (三)智能醫(yī)療法律責(zé)任制度不健全

    智能醫(yī)療臨床應(yīng)用中可能引發(fā)三個(gè)方面的法律責(zé)任:其一是因其本身缺陷導(dǎo)致的產(chǎn)品侵權(quán)責(zé)任,或者在刑事上構(gòu)成生產(chǎn)、銷售不符合標(biāo)準(zhǔn)的醫(yī)用器材罪;其二是醫(yī)務(wù)人員與智能醫(yī)療共同造成醫(yī)療事故,可能構(gòu)成醫(yī)療損害賠償責(zé)任、醫(yī)療事故行政責(zé)任,情節(jié)嚴(yán)重的構(gòu)成醫(yī)療事故罪;其三是智能醫(yī)療系統(tǒng)在采集、存儲(chǔ)、傳輸數(shù)據(jù)時(shí)導(dǎo)致個(gè)人信息和個(gè)人隱私泄露的,可能侵犯?jìng)€(gè)人隱私權(quán)、個(gè)人信息權(quán)利或構(gòu)成侵犯公民個(gè)人信息罪。

    智能醫(yī)療存在操作失當(dāng)、誤診漏診的可能,因此在臨床應(yīng)用中可能造成醫(yī)療損害乃至構(gòu)成醫(yī)療事故罪。對(duì)此,有觀點(diǎn)認(rèn)為基于人工智能發(fā)展水平的限制,在不賦予其獨(dú)立的法律地位的前提下,判斷醫(yī)療過(guò)失的關(guān)鍵還是在于醫(yī)務(wù)人員自身,只要未超出其預(yù)期的行為,醫(yī)務(wù)人員原則上有責(zé)任舉證證明自己按照相應(yīng)診療操作規(guī)范實(shí)施了智能醫(yī)療輔助的診療行為,或證明本就不應(yīng)該采納智能醫(yī)療給出了相關(guān)建議。[14]對(duì)于產(chǎn)品責(zé)任,依據(jù)《產(chǎn)品質(zhì)量法》的相關(guān)規(guī)定,缺少判斷產(chǎn)品缺陷的標(biāo)準(zhǔn),也就是前文提到的國(guó)家標(biāo)準(zhǔn)是硬傷。對(duì)于智能醫(yī)療使用大數(shù)據(jù)時(shí)不規(guī)范導(dǎo)致的信息權(quán)、隱私權(quán)侵權(quán)行為,由于目前僅《民法總則》提出了“個(gè)人信息權(quán)”的概念,而個(gè)人信息保護(hù)法律制度尚不健全,主要的侵權(quán)行為需要依賴《治安管理處罰法》《刑法》中有關(guān)個(gè)人信息違法犯罪的規(guī)定予以處罰,對(duì)保障公民個(gè)人信息權(quán)十分不利。

    四、促進(jìn)我國(guó)智能醫(yī)療健康發(fā)展的法制對(duì)策

    (一)加快醫(yī)療健康大數(shù)據(jù)共享,加大基礎(chǔ)研發(fā)投入

    針對(duì)智能醫(yī)療發(fā)展對(duì)醫(yī)療健康大數(shù)據(jù)的依賴,應(yīng)當(dāng)加快醫(yī)療健康領(lǐng)域的數(shù)據(jù)共享機(jī)制的構(gòu)建,打破醫(yī)療機(jī)構(gòu)之間的數(shù)據(jù)孤島,形成高質(zhì)量的區(qū)域性乃至全國(guó)性的醫(yī)療健康大數(shù)據(jù)平臺(tái),統(tǒng)一醫(yī)療健康大數(shù)據(jù)收集、存儲(chǔ)、管理、轉(zhuǎn)化。制定國(guó)家健康大數(shù)據(jù)發(fā)展規(guī)劃(2020-2030),從頂層設(shè)計(jì)上將其納入新型產(chǎn)業(yè)發(fā)展戰(zhàn)略。具體可由國(guó)家衛(wèi)生健康行政主管部門(mén)聯(lián)合國(guó)家工業(yè)與信息化行政主管部門(mén)組成“健康醫(yī)療大數(shù)據(jù)”管理與應(yīng)用指導(dǎo)委員會(huì),督促正在全國(guó)范圍內(nèi)運(yùn)行的電子病歷系統(tǒng)的制造商和行業(yè)協(xié)會(huì)統(tǒng)一數(shù)據(jù)標(biāo)準(zhǔn),分層分步驟建成以區(qū)域醫(yī)療聯(lián)合體、區(qū)域醫(yī)療中心為主的區(qū)域內(nèi)醫(yī)療健康大數(shù)據(jù)平臺(tái),并逐步構(gòu)建全國(guó)性的健康大數(shù)據(jù)平臺(tái)。

    在智能醫(yī)療產(chǎn)業(yè)發(fā)展投入方面,除了在智能醫(yī)療融資、科技公司設(shè)置審批管理方面給與政策優(yōu)惠以外,還可由教育行政主管部門(mén)倡導(dǎo)成立全國(guó)性的人工智能或智能醫(yī)療教育聯(lián)盟,組織智能醫(yī)療成果競(jìng)賽與交流研討,甚至可以走出國(guó)門(mén),建立世界人工智能和智能醫(yī)療發(fā)展或教育聯(lián)盟,提升我國(guó)的智能醫(yī)療研發(fā)實(shí)力和人才儲(chǔ)備。此外,教育行政主管部門(mén)還應(yīng)當(dāng)鼓勵(lì)、支持人工智能和智能醫(yī)療相關(guān)學(xué)科的研究活動(dòng),例如人工智能和智能醫(yī)療法學(xué)研究、哲學(xué)研究、倫理學(xué)研究,為人工智能和智能醫(yī)療發(fā)展提供制度構(gòu)建與完善的智力支持。

    (二)正確定位智能醫(yī)療法律屬性,堅(jiān)持以人為本理念

    針對(duì)智能醫(yī)療的法律屬性言,現(xiàn)階段的人工智能和智能醫(yī)療產(chǎn)品總體上還處在初級(jí)階段,基本不可能實(shí)現(xiàn)所謂“自主思維”和獨(dú)立診療,因此賦予其“擬制”的法律人格沒(méi)有現(xiàn)實(shí)基礎(chǔ),盡管歐盟議會(huì)法律事務(wù)委員會(huì)在2016年5月和10月發(fā)布的《對(duì)歐盟機(jī)器人民事法律規(guī)則委員會(huì)的建議草案》與《歐盟機(jī)器人民事法律規(guī)則》中,已經(jīng)提出了賦予診療機(jī)器人以“電子人”身份。[15]將智能醫(yī)療歸屬于一種較為特殊的醫(yī)療器械或醫(yī)療輔助工具,是符合我國(guó)智能醫(yī)療的現(xiàn)狀和實(shí)情的。據(jù)此,可以依據(jù)我國(guó)現(xiàn)行的醫(yī)療器械劃分標(biāo)準(zhǔn),將其類比納入一類醫(yī)療器械進(jìn)行管理,并制定較為嚴(yán)格的安全標(biāo)準(zhǔn)。

    我們身處的互聯(lián)網(wǎng)時(shí)代,其技術(shù)發(fā)展和迭代不是以年為單位進(jìn)行計(jì)算的,而是以小時(shí)、分鐘甚至秒來(lái)計(jì)算的,智能醫(yī)療也許很快會(huì)達(dá)到或者接近自主判斷和自主診療的水平。但是,我們認(rèn)為無(wú)論人工智能技術(shù)發(fā)展到何種程度都必須恪守“機(jī)器人學(xué)三大定律”③,堅(jiān)持“以人為本”“服務(wù)人類”的基本價(jià)值理念,否則,技術(shù)的發(fā)展也將帶來(lái)人類的不幸與災(zāi)難。因此,在明確不同發(fā)展階段人工智能和智能醫(yī)療的法律屬性的同時(shí),有必要根據(jù)智能醫(yī)療不同階段發(fā)展變化的情況逐步完善我國(guó)的智能醫(yī)療安全監(jiān)管標(biāo)準(zhǔn)和智能醫(yī)療法律責(zé)任制度。

    (三)建立智能醫(yī)療安全監(jiān)管綜合機(jī)制,嚴(yán)防數(shù)據(jù)安全風(fēng)險(xiǎn)

    對(duì)于智能醫(yī)療產(chǎn)品和系統(tǒng)涉及的醫(yī)療健康數(shù)據(jù)違法犯罪行為,我們認(rèn)為可以從以下五個(gè)方面著手,健全我國(guó)智能醫(yī)療安全綜合監(jiān)管機(jī)制:其一,在建立區(qū)域、全國(guó)統(tǒng)一醫(yī)療健康數(shù)據(jù)平臺(tái)的過(guò)程中,可由衛(wèi)生健康行政主管部門(mén)與工業(yè)與信息化主管部門(mén)共同制定相關(guān)監(jiān)管制度,還可以委托專業(yè)第三方機(jī)構(gòu)設(shè)計(jì)專門(mén)的數(shù)據(jù)清洗流程系統(tǒng),盡可能使數(shù)據(jù)純化到能夠滿足智能醫(yī)療開(kāi)發(fā)應(yīng)用所需,并且該流程系統(tǒng)應(yīng)按照3至5年的周期進(jìn)行升級(jí)。其二,制定智能醫(yī)療產(chǎn)品、系統(tǒng)應(yīng)用健康大數(shù)據(jù)的國(guó)家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn),特別是要建立起智能醫(yī)療產(chǎn)品使用數(shù)據(jù)的安全檢測(cè)國(guó)家標(biāo)準(zhǔn),并建立與之相配套的缺陷產(chǎn)品召回制度。其三,當(dāng)智能醫(yī)療在臨床應(yīng)用過(guò)程中需要采集公民個(gè)人的敏感信息和隱私信息時(shí),應(yīng)當(dāng)由有操作資質(zhì)的醫(yī)務(wù)人員及時(shí)、充分告知患者方,并取得患者方的明確同意。其四,建立醫(yī)療健康數(shù)據(jù)核查矯正制度,對(duì)于存在明確錯(cuò)誤或疑問(wèn)的醫(yī)療健康數(shù)據(jù),應(yīng)當(dāng)由區(qū)域和國(guó)家健康大數(shù)據(jù)平臺(tái)負(fù)責(zé)及時(shí)組織清理,并通知各智能醫(yī)療產(chǎn)品、系統(tǒng)開(kāi)發(fā)機(jī)構(gòu)作出相應(yīng)的設(shè)計(jì)調(diào)整。其五,建立智能醫(yī)療健康大數(shù)據(jù)突發(fā)事件應(yīng)急預(yù)案機(jī)制。由國(guó)家衛(wèi)生健康行政部門(mén)和國(guó)家工業(yè)與信息化主管部門(mén)聯(lián)合制定應(yīng)急預(yù)防措施,并根據(jù)智能醫(yī)療發(fā)展和應(yīng)用情況及時(shí)進(jìn)行調(diào)整,以做到及時(shí)應(yīng)對(duì)智能醫(yī)療引發(fā)健康大數(shù)據(jù)泄露等突發(fā)事件,各省市亦可單獨(dú)制定各自的應(yīng)急預(yù)案。

    (四)完善我國(guó)智能醫(yī)療法律責(zé)任制度,降低潛在法律風(fēng)險(xiǎn)

    如前文所述,在現(xiàn)階段智能醫(yī)療的法律屬性尚不能賦予其“擬制”人格,關(guān)于智能醫(yī)療法律責(zé)任制度設(shè)計(jì),應(yīng)當(dāng)堅(jiān)持“與時(shí)俱進(jìn)”乃至“適度超前”的立法理念,樹(shù)立預(yù)防性立法思維,緊跟技術(shù)發(fā)展的腳步調(diào)整部分法律制度,以應(yīng)對(duì)尖端醫(yī)療技術(shù)產(chǎn)生的法律問(wèn)題。

    具體法律責(zé)任制度設(shè)計(jì)可以從以下三個(gè)方面予以構(gòu)建:其一,借鑒《中華人民共和國(guó)藥品管理法》修訂的基本理念,建立起全產(chǎn)業(yè)周期的智能醫(yī)療監(jiān)管預(yù)警機(jī)制。由國(guó)家衛(wèi)生健康行政主管部門(mén)、國(guó)家工業(yè)與信息化行政主管部門(mén)和國(guó)家市場(chǎng)監(jiān)督管理部門(mén)聯(lián)合組建專門(mén)的智能醫(yī)療臨床應(yīng)用專家審查委員會(huì)(由醫(yī)療專家、人工智能專家、倫理專家、法律專家共同組成),該委員會(huì)隸屬于于國(guó)家衛(wèi)生健康行政主管部門(mén),在智能醫(yī)療產(chǎn)品、系統(tǒng)上市前負(fù)責(zé)審查,合格的產(chǎn)品方能許可其上市并發(fā)給其上市許可證,上市后的產(chǎn)品風(fēng)險(xiǎn)監(jiān)測(cè)和不良后果報(bào)告責(zé)任由產(chǎn)品設(shè)計(jì)生產(chǎn)者承擔(dān)建立“智能醫(yī)療產(chǎn)品、系統(tǒng)上市許可持有人制度”。其二,對(duì)于因智能醫(yī)療引發(fā)的醫(yī)療侵權(quán)乃至醫(yī)療犯罪行為,無(wú)論是智能醫(yī)療產(chǎn)品、智能醫(yī)療系統(tǒng)還是與醫(yī)務(wù)人員共同導(dǎo)致的,應(yīng)當(dāng)主要審查人(使用者、生產(chǎn)設(shè)計(jì)者)的過(guò)失。對(duì)于明知智能醫(yī)療產(chǎn)品存在重大缺陷還進(jìn)行生產(chǎn)、銷售及使用的個(gè)人、機(jī)構(gòu),患者方可依據(jù)最高人民法院《醫(yī)療損害責(zé)任解釋》第二十三條請(qǐng)求賠償損失和兩倍以下的懲罰性賠償。在具體認(rèn)定責(zé)任時(shí),應(yīng)著重審查智能醫(yī)療產(chǎn)品生產(chǎn)者、醫(yī)療機(jī)構(gòu)的資質(zhì),對(duì)未獲得資質(zhì)的生產(chǎn)者、使用者可按照醫(yī)療產(chǎn)品侵權(quán)乃至生產(chǎn)銷售不符合標(biāo)準(zhǔn)的醫(yī)療器材罪、非法行醫(yī)罪進(jìn)行處理;對(duì)于已經(jīng)取得資質(zhì)的,繼續(xù)核查醫(yī)療機(jī)構(gòu)在臨床應(yīng)用智能醫(yī)療產(chǎn)品和相關(guān)系統(tǒng)時(shí)是否遵循了國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn),是否獲得患者或其近親屬的明確同意。此外,涉及智能醫(yī)療產(chǎn)品侵權(quán)乃至犯罪行為的鑒定,應(yīng)采用高于一般醫(yī)療產(chǎn)品侵權(quán)、犯罪行為的鑒定標(biāo)準(zhǔn)。其三,對(duì)于智能醫(yī)療產(chǎn)品和相關(guān)系統(tǒng)發(fā)生侵犯隱私權(quán)的,除進(jìn)一步完善《民法典·人格權(quán)編》有關(guān)隱私權(quán)和個(gè)人信息保護(hù)的規(guī)定外,還應(yīng)當(dāng)盡快制定《個(gè)人信息保護(hù)法》和《健康大數(shù)據(jù)應(yīng)用與管理規(guī)范》,規(guī)范健康大數(shù)據(jù)相關(guān)行為。其四,若否定智能醫(yī)療自身的責(zé)任主體資格,侵權(quán)責(zé)任完全由生產(chǎn)者和使用者承擔(dān),勢(shì)必加重其責(zé)任負(fù)擔(dān),從而影響人工智能的醫(yī)學(xué)臨床應(yīng)用。因此,有必要建立智能醫(yī)療生產(chǎn)者、銷售者、上市許可持有人及使用者強(qiáng)制醫(yī)療責(zé)任保險(xiǎn)制度,及時(shí)分擔(dān)損失,保障智能醫(yī)療產(chǎn)品的長(zhǎng)期、廣泛應(yīng)用。[16]

    注釋

    ①根據(jù)中國(guó)前瞻產(chǎn)業(yè)研究院發(fā)布的《2018—2023年中國(guó)人工智能行業(yè)市場(chǎng)前瞻與投資戰(zhàn)略規(guī)劃分析報(bào)告》顯示:自2016年至2018年中國(guó)醫(yī)療人工智能市場(chǎng)規(guī)模增幅達(dá)到近100億元。

    ②“提質(zhì)增效”是指智能醫(yī)療一方面通過(guò)大數(shù)據(jù)訓(xùn)練可以替代人類醫(yī)生對(duì)專業(yè)要求低的簡(jiǎn)單重新性醫(yī)療工作,另一方面還可以基于決策樹(shù)、人工神經(jīng)網(wǎng)、深度學(xué)習(xí)進(jìn)行具有一定程度乃至很高程度的醫(yī)療決策、治療活動(dòng)等。

    ③“第一定律:機(jī)器人不得傷害人類個(gè)體,或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管”、“第二定律:機(jī)器人必須服從人給予它的命令,當(dāng)該命令與第一定律沖突時(shí)例外”、“第三定律:機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存”。

    猜你喜歡
    人工智能醫(yī)療智能
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    智能前沿
    文苑(2018年23期)2018-12-14 01:06:06
    智能前沿
    文苑(2018年19期)2018-11-09 01:30:14
    智能前沿
    文苑(2018年17期)2018-11-09 01:29:26
    智能前沿
    文苑(2018年21期)2018-11-09 01:22:32
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    京張醫(yī)療聯(lián)合的成功之路
    我們?cè)鯓永斫忉t(yī)療創(chuàng)新
    下一幕,人工智能!
    精品一区二区三区四区五区乱码 | 最近中文字幕高清免费大全6| 亚洲成国产人片在线观看| 波野结衣二区三区在线| 日本黄色日本黄色录像| 亚洲国产精品999| 纯流量卡能插随身wifi吗| 热99国产精品久久久久久7| 中文字幕最新亚洲高清| 五月伊人婷婷丁香| 亚洲熟女精品中文字幕| 亚洲精品久久久久久婷婷小说| 国产黄色免费在线视频| 免费观看在线日韩| 精品福利永久在线观看| 亚洲欧美一区二区三区黑人 | 亚洲精华国产精华液的使用体验| 免费人成在线观看视频色| 18禁动态无遮挡网站| 狠狠精品人妻久久久久久综合| 三级国产精品片| 一级黄片播放器| 国产精品一二三区在线看| 妹子高潮喷水视频| 欧美日韩亚洲高清精品| 久热久热在线精品观看| 18禁动态无遮挡网站| 男人舔女人的私密视频| 纯流量卡能插随身wifi吗| 中文字幕亚洲精品专区| 亚洲精品国产av蜜桃| 18禁观看日本| 久久精品国产a三级三级三级| 国产亚洲av片在线观看秒播厂| 久久久久久久亚洲中文字幕| 亚洲欧美色中文字幕在线| 免费人成在线观看视频色| 亚洲精品久久成人aⅴ小说| 久热这里只有精品99| 亚洲精品一二三| 久久精品国产亚洲av涩爱| 国产高清不卡午夜福利| a级毛片在线看网站| av播播在线观看一区| 久久精品国产自在天天线| 亚洲国产欧美在线一区| 精品第一国产精品| 精品久久久精品久久久| 国产亚洲一区二区精品| 黑人巨大精品欧美一区二区蜜桃 | 欧美少妇被猛烈插入视频| 黄片播放在线免费| 国产免费一区二区三区四区乱码| 色婷婷久久久亚洲欧美| 99热6这里只有精品| 欧美3d第一页| 欧美精品高潮呻吟av久久| 另类亚洲欧美激情| 亚洲精品美女久久久久99蜜臀 | 成人手机av| 菩萨蛮人人尽说江南好唐韦庄| tube8黄色片| 久久久久久久大尺度免费视频| 久久久久久久大尺度免费视频| 夜夜爽夜夜爽视频| 大香蕉久久网| 精品熟女少妇av免费看| 欧美日韩一区二区视频在线观看视频在线| 日本-黄色视频高清免费观看| 亚洲精品日韩在线中文字幕| 国产熟女午夜一区二区三区| 日韩三级伦理在线观看| 欧美日韩视频高清一区二区三区二| 精品久久久精品久久久| 一二三四在线观看免费中文在 | 亚洲在久久综合| 亚洲第一区二区三区不卡| 一区二区三区精品91| 一级毛片 在线播放| 国产精品三级大全| 日日爽夜夜爽网站| 免费日韩欧美在线观看| 一边摸一边做爽爽视频免费| 日韩一区二区三区影片| 丝袜在线中文字幕| 91成人精品电影| 国产一区二区三区综合在线观看 | 高清欧美精品videossex| 熟女人妻精品中文字幕| 男人舔女人的私密视频| 国产色婷婷99| 亚洲成av片中文字幕在线观看 | 人妻一区二区av| 插逼视频在线观看| 日韩av不卡免费在线播放| 69精品国产乱码久久久| 亚洲av福利一区| 久久97久久精品| 亚洲四区av| 激情视频va一区二区三区| 毛片一级片免费看久久久久| 男男h啪啪无遮挡| 大香蕉97超碰在线| 久久精品久久久久久久性| 国产日韩欧美在线精品| 国产高清不卡午夜福利| 有码 亚洲区| 日本爱情动作片www.在线观看| 国语对白做爰xxxⅹ性视频网站| 欧美xxxx性猛交bbbb| av线在线观看网站| 久热这里只有精品99| 看十八女毛片水多多多| 男女下面插进去视频免费观看 | 水蜜桃什么品种好| 内地一区二区视频在线| 午夜福利乱码中文字幕| 久久精品熟女亚洲av麻豆精品| 欧美人与善性xxx| 天堂中文最新版在线下载| 亚洲精品乱码久久久久久按摩| 精品国产乱码久久久久久小说| 午夜激情久久久久久久| 国精品久久久久久国模美| 欧美人与性动交α欧美软件 | 国产精品无大码| 成人国语在线视频| 9色porny在线观看| 亚洲欧美成人综合另类久久久| 亚洲一码二码三码区别大吗| 2022亚洲国产成人精品| 少妇人妻久久综合中文| 久久午夜综合久久蜜桃| 一本久久精品| 黄色 视频免费看| 午夜福利视频在线观看免费| 亚洲欧洲日产国产| 一二三四中文在线观看免费高清| 久久久久精品性色| 日韩制服丝袜自拍偷拍| 亚洲久久久国产精品| 边亲边吃奶的免费视频| 美女主播在线视频| 国产欧美另类精品又又久久亚洲欧美| 日韩成人av中文字幕在线观看| 99久国产av精品国产电影| 美女视频免费永久观看网站| 精品视频人人做人人爽| 亚洲成色77777| 欧美日韩成人在线一区二区| 国产欧美另类精品又又久久亚洲欧美| 人人妻人人添人人爽欧美一区卜| 亚洲四区av| 久久精品国产亚洲av天美| 一级爰片在线观看| www.av在线官网国产| 亚洲第一区二区三区不卡| 国产麻豆69| 欧美性感艳星| av不卡在线播放| 久久99热6这里只有精品| 精品人妻一区二区三区麻豆| 91精品三级在线观看| 成人毛片a级毛片在线播放| 亚洲国产av新网站| 成人漫画全彩无遮挡| 欧美国产精品va在线观看不卡| 亚洲国产成人一精品久久久| 午夜视频国产福利| 成年美女黄网站色视频大全免费| 搡女人真爽免费视频火全软件| 亚洲av电影在线观看一区二区三区| 男人爽女人下面视频在线观看| 国产精品蜜桃在线观看| 蜜桃在线观看..| 亚洲精品aⅴ在线观看| 精品一区二区免费观看| 亚洲 欧美一区二区三区| 大香蕉97超碰在线| 自线自在国产av| 国产成人午夜福利电影在线观看| 插逼视频在线观看| 亚洲熟女精品中文字幕| 欧美精品av麻豆av| 亚洲精品日本国产第一区| 久久精品国产亚洲av天美| 欧美人与善性xxx| 国产极品天堂在线| 国产激情久久老熟女| 午夜老司机福利剧场| 久久久久久久大尺度免费视频| 青春草视频在线免费观看| 日本免费在线观看一区| 国产成人91sexporn| 免费观看无遮挡的男女| 韩国高清视频一区二区三区| 午夜福利乱码中文字幕| 日本-黄色视频高清免费观看| 一区在线观看完整版| 国产亚洲最大av| 亚洲四区av| 又黄又爽又刺激的免费视频.| 成人免费观看视频高清| 国产黄频视频在线观看| 亚洲综合色网址| 午夜老司机福利剧场| 亚洲精品中文字幕在线视频| 久久精品国产亚洲av天美| 久久精品aⅴ一区二区三区四区 | 国产激情久久老熟女| 国产成人av激情在线播放| 老司机亚洲免费影院| 午夜精品国产一区二区电影| 欧美激情 高清一区二区三区| 亚洲av日韩在线播放| 26uuu在线亚洲综合色| 欧美国产精品一级二级三级| 亚洲欧美清纯卡通| 国产深夜福利视频在线观看| 岛国毛片在线播放| 街头女战士在线观看网站| 国产亚洲欧美精品永久| 久久国产亚洲av麻豆专区| 少妇熟女欧美另类| 日韩电影二区| 国产精品久久久久久久电影| 一区二区av电影网| 黄片播放在线免费| 午夜激情av网站| 日本91视频免费播放| 免费大片黄手机在线观看| 亚洲av国产av综合av卡| 大片电影免费在线观看免费| 91精品伊人久久大香线蕉| 建设人人有责人人尽责人人享有的| av在线老鸭窝| 人人妻人人澡人人爽人人夜夜| 波多野结衣一区麻豆| 久久热在线av| 熟女人妻精品中文字幕| 成年动漫av网址| 欧美日韩一区二区视频在线观看视频在线| 成人国产麻豆网| 亚洲色图综合在线观看| 久久人人爽人人片av| 午夜视频国产福利| 好男人视频免费观看在线| 国产亚洲一区二区精品| 成年动漫av网址| 满18在线观看网站| 五月玫瑰六月丁香| 热99国产精品久久久久久7| 18禁观看日本| 伦理电影大哥的女人| 国产国语露脸激情在线看| av国产精品久久久久影院| 丝袜在线中文字幕| 在线精品无人区一区二区三| 天天躁夜夜躁狠狠久久av| 日本猛色少妇xxxxx猛交久久| 一本大道久久a久久精品| 九九爱精品视频在线观看| 国产午夜精品一二区理论片| 成年美女黄网站色视频大全免费| 色婷婷av一区二区三区视频| 在线观看免费高清a一片| 久热久热在线精品观看| 欧美激情国产日韩精品一区| 欧美亚洲 丝袜 人妻 在线| 亚洲欧洲精品一区二区精品久久久 | 久久久久久久精品精品| 18禁动态无遮挡网站| 欧美最新免费一区二区三区| av免费在线看不卡| 日本欧美国产在线视频| h视频一区二区三区| 久久久亚洲精品成人影院| 精品一区在线观看国产| 麻豆乱淫一区二区| 亚洲精品一二三| 婷婷色综合大香蕉| 久久午夜福利片| 午夜影院在线不卡| 免费av不卡在线播放| 亚洲精品色激情综合| 欧美日韩av久久| 亚洲精品久久成人aⅴ小说| 国产精品国产三级专区第一集| 日本av手机在线免费观看| 亚洲美女搞黄在线观看| 肉色欧美久久久久久久蜜桃| 一本—道久久a久久精品蜜桃钙片| 亚洲精品日本国产第一区| 精品人妻在线不人妻| 亚洲精品视频女| 久久精品久久精品一区二区三区| 三上悠亚av全集在线观看| 色网站视频免费| xxx大片免费视频| 在线免费观看不下载黄p国产| 80岁老熟妇乱子伦牲交| 18在线观看网站| 校园人妻丝袜中文字幕| 久久久久久人妻| 一级毛片黄色毛片免费观看视频| 一级a做视频免费观看| 国产亚洲一区二区精品| 久久久久精品人妻al黑| 国产国语露脸激情在线看| 春色校园在线视频观看| 成人午夜精彩视频在线观看| 久久99精品国语久久久| 免费观看无遮挡的男女| 99久久人妻综合| 插逼视频在线观看| 久久久国产一区二区| 天堂俺去俺来也www色官网| 日本黄色日本黄色录像| 日韩中字成人| 国产免费一区二区三区四区乱码| 国产精品麻豆人妻色哟哟久久| 最近最新中文字幕大全免费视频 | 久久久久精品性色| 中国美白少妇内射xxxbb| 精品国产乱码久久久久久小说| 日韩免费高清中文字幕av| 人妻 亚洲 视频| 婷婷色综合大香蕉| 我要看黄色一级片免费的| 精品人妻在线不人妻| 成人手机av| 久久午夜福利片| 免费看不卡的av| 国产 一区精品| 91精品伊人久久大香线蕉| 国产成人精品一,二区| 大香蕉久久成人网| 在线观看免费高清a一片| 夜夜爽夜夜爽视频| 最新的欧美精品一区二区| 91在线精品国自产拍蜜月| 国产日韩欧美亚洲二区| 亚洲精品乱码久久久久久按摩| 久久国产亚洲av麻豆专区| 国产日韩欧美在线精品| 丝袜人妻中文字幕| 国产又色又爽无遮挡免| 亚洲成人一二三区av| 国产在线视频一区二区| 各种免费的搞黄视频| 亚洲精品成人av观看孕妇| 岛国毛片在线播放| 亚洲精品色激情综合| 国产日韩欧美视频二区| 亚洲经典国产精华液单| 啦啦啦在线观看免费高清www| 建设人人有责人人尽责人人享有的| 波野结衣二区三区在线| 自拍欧美九色日韩亚洲蝌蚪91| 在线观看www视频免费| 久久久久久久久久人人人人人人| 日韩av免费高清视频| 国产精品一二三区在线看| 欧美最新免费一区二区三区| 国产精品欧美亚洲77777| 亚洲成人手机| 日本欧美视频一区| 91午夜精品亚洲一区二区三区| 亚洲,一卡二卡三卡| 日本91视频免费播放| 2022亚洲国产成人精品| 国产免费一区二区三区四区乱码| 久久精品aⅴ一区二区三区四区 | 久久精品国产a三级三级三级| 22中文网久久字幕| 黑人欧美特级aaaaaa片| av在线app专区| 这个男人来自地球电影免费观看 | 交换朋友夫妻互换小说| 免费观看性生交大片5| 国产亚洲av片在线观看秒播厂| 亚洲av国产av综合av卡| 亚洲成人手机| 国产av一区二区精品久久| 哪个播放器可以免费观看大片| 性色avwww在线观看| 午夜视频国产福利| 草草在线视频免费看| 亚洲精品日本国产第一区| 高清视频免费观看一区二区| 少妇的丰满在线观看| 秋霞在线观看毛片| 日韩熟女老妇一区二区性免费视频| 高清av免费在线| 久久久久久人人人人人| 寂寞人妻少妇视频99o| 视频中文字幕在线观看| 国产在线一区二区三区精| 亚洲精品,欧美精品| 性色avwww在线观看| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 高清视频免费观看一区二区| 一本—道久久a久久精品蜜桃钙片| 啦啦啦啦在线视频资源| 午夜福利网站1000一区二区三区| 黄色怎么调成土黄色| 久久久久久久亚洲中文字幕| 丝袜人妻中文字幕| 丰满少妇做爰视频| 国产伦理片在线播放av一区| 成人国产av品久久久| 亚洲国产成人一精品久久久| 交换朋友夫妻互换小说| 少妇猛男粗大的猛烈进出视频| 秋霞伦理黄片| 日韩不卡一区二区三区视频在线| 国产精品一区www在线观看| av有码第一页| 久久久精品94久久精品| 国产日韩欧美亚洲二区| 欧美日韩成人在线一区二区| 夜夜骑夜夜射夜夜干| 在线天堂中文资源库| 色哟哟·www| 亚洲国产精品国产精品| 日产精品乱码卡一卡2卡三| 春色校园在线视频观看| 欧美激情国产日韩精品一区| 啦啦啦在线观看免费高清www| 天天躁夜夜躁狠狠躁躁| 亚洲av中文av极速乱| 国产精品久久久久成人av| 国产一区二区三区综合在线观看 | 欧美精品高潮呻吟av久久| 国产亚洲最大av| 亚洲国产精品成人久久小说| 伦理电影大哥的女人| 男女高潮啪啪啪动态图| 老女人水多毛片| 如日韩欧美国产精品一区二区三区| 亚洲av免费高清在线观看| 亚洲成av片中文字幕在线观看 | 一级片免费观看大全| 国产在视频线精品| 黄色配什么色好看| 在线观看国产h片| 免费少妇av软件| 精品国产乱码久久久久久小说| 国产精品99久久99久久久不卡 | 免费黄色在线免费观看| 国产av精品麻豆| av在线播放精品| 日韩一区二区视频免费看| 制服诱惑二区| 人妻少妇偷人精品九色| videosex国产| 两个人看的免费小视频| 青春草视频在线免费观看| 亚洲伊人久久精品综合| 欧美3d第一页| 人成视频在线观看免费观看| 精品国产国语对白av| 十八禁网站网址无遮挡| 国产视频首页在线观看| 日日啪夜夜爽| av福利片在线| 国产精品国产三级国产专区5o| 永久免费av网站大全| 最后的刺客免费高清国语| 国产一区二区三区综合在线观看 | 秋霞伦理黄片| 少妇人妻 视频| 性色av一级| 一级,二级,三级黄色视频| 亚洲综合精品二区| videosex国产| 观看美女的网站| 宅男免费午夜| 激情五月婷婷亚洲| 国产成人精品一,二区| 亚洲国产av影院在线观看| 欧美丝袜亚洲另类| av网站免费在线观看视频| 99久久精品国产国产毛片| 久久国产精品大桥未久av| 久久97久久精品| 亚洲精华国产精华液的使用体验| 一级片'在线观看视频| 新久久久久国产一级毛片| 26uuu在线亚洲综合色| 妹子高潮喷水视频| 一级片免费观看大全| 在线 av 中文字幕| 亚洲av日韩在线播放| 免费观看性生交大片5| 久久久欧美国产精品| 一级片'在线观看视频| 亚洲少妇的诱惑av| 又大又黄又爽视频免费| 国产精品久久久久久精品古装| 男女啪啪激烈高潮av片| 国产精品久久久久成人av| 99国产综合亚洲精品| 最近中文字幕高清免费大全6| 欧美变态另类bdsm刘玥| 亚洲成国产人片在线观看| 伊人久久国产一区二区| 人人妻人人澡人人看| 亚洲国产欧美日韩在线播放| 两性夫妻黄色片 | h视频一区二区三区| 久久久国产一区二区| 午夜影院在线不卡| 国产欧美另类精品又又久久亚洲欧美| 亚洲国产精品国产精品| 日韩制服骚丝袜av| 成年av动漫网址| 少妇人妻 视频| 老熟女久久久| 菩萨蛮人人尽说江南好唐韦庄| 久久久久久久大尺度免费视频| 如日韩欧美国产精品一区二区三区| 麻豆精品久久久久久蜜桃| 这个男人来自地球电影免费观看 | 国产极品粉嫩免费观看在线| 美女视频免费永久观看网站| 大香蕉久久成人网| 欧美3d第一页| 国产精品一国产av| 热99国产精品久久久久久7| 91精品三级在线观看| 夫妻午夜视频| 免费人成在线观看视频色| 亚洲精品乱久久久久久| 国产精品麻豆人妻色哟哟久久| 少妇被粗大猛烈的视频| 高清欧美精品videossex| 国产成人精品在线电影| 高清不卡的av网站| 久久这里有精品视频免费| 亚洲国产精品专区欧美| 亚洲少妇的诱惑av| 色吧在线观看| tube8黄色片| av又黄又爽大尺度在线免费看| 国产一区有黄有色的免费视频| 亚洲精品乱久久久久久| 天天影视国产精品| 中文精品一卡2卡3卡4更新| 亚洲三级黄色毛片| 免费久久久久久久精品成人欧美视频 | 97精品久久久久久久久久精品| 寂寞人妻少妇视频99o| a 毛片基地| 午夜日本视频在线| 韩国高清视频一区二区三区| 欧美日韩成人在线一区二区| 天堂俺去俺来也www色官网| 黄片无遮挡物在线观看| 亚洲精品456在线播放app| 国产一区二区在线观看日韩| 18禁观看日本| 色婷婷av一区二区三区视频| 涩涩av久久男人的天堂| 日韩三级伦理在线观看| 国产淫语在线视频| 国国产精品蜜臀av免费| a级片在线免费高清观看视频| 久久综合国产亚洲精品| 国产探花极品一区二区| 国产av国产精品国产| 人人妻人人澡人人爽人人夜夜| 咕卡用的链子| 免费女性裸体啪啪无遮挡网站| 热99国产精品久久久久久7| 国产女主播在线喷水免费视频网站| a级毛片黄视频| 天天躁夜夜躁狠狠久久av| a级毛色黄片| 日韩伦理黄色片| 乱码一卡2卡4卡精品| 2018国产大陆天天弄谢| 久热这里只有精品99| 丰满迷人的少妇在线观看| 久久久久精品人妻al黑| 啦啦啦视频在线资源免费观看| 老司机影院毛片| 一本大道久久a久久精品| 交换朋友夫妻互换小说| 99热6这里只有精品| 街头女战士在线观看网站| 晚上一个人看的免费电影| 亚洲美女视频黄频| 在线观看一区二区三区激情| 少妇的逼好多水| 欧美激情 高清一区二区三区| 久久97久久精品| 99精国产麻豆久久婷婷| 亚洲欧美中文字幕日韩二区| 国产精品国产三级专区第一集| 欧美亚洲日本最大视频资源| 搡女人真爽免费视频火全软件| 亚洲国产毛片av蜜桃av| 高清av免费在线| 熟女av电影| 日日摸夜夜添夜夜爱| 全区人妻精品视频| 丝袜脚勾引网站| 亚洲精品久久久久久婷婷小说| 亚洲国产欧美日韩在线播放| www.色视频.com| 日韩视频在线欧美| 亚洲精品国产色婷婷电影| 国产毛片在线视频| 日日爽夜夜爽网站|