• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生物醫(yī)療場景下的隱私保護計算應(yīng)用*

    2022-06-01 05:57:40陳如梵王林郭蘭停鄭灝孫琪李幟王爽
    信息通信技術(shù)與政策 2022年5期
    關(guān)鍵詞:聯(lián)邦醫(yī)療模型

    陳如梵 王林 郭蘭停 鄭灝 孫琪 李幟 王爽,3

    (1.杭州锘崴信息科技有限公司,杭州 310053;2. 濟南大學(xué),濟南 250022;3. 四川大學(xué)華西醫(yī)院,成都 610041)

    0 引言

    在數(shù)字經(jīng)濟時代,不僅數(shù)據(jù)成為了新的生產(chǎn)要素,同時數(shù)據(jù)要素的市場化發(fā)展也帶動數(shù)據(jù)融入各行各業(yè),促使其他傳統(tǒng)生產(chǎn)要素和領(lǐng)域進行數(shù)字化轉(zhuǎn)型以更好地適應(yīng)時代的變化。以醫(yī)療為例,在醫(yī)療信息化的浪潮下,醫(yī)院信息系統(tǒng)(Hospital Information System,HIS)、電子病歷(Electronic Medical Records,EMR)、圖像存儲和傳輸系統(tǒng)以及實驗室信息系統(tǒng)等已經(jīng)迅速普及,成為各醫(yī)療機構(gòu)必不可少的一部分。我國的“電子病歷系統(tǒng)應(yīng)用水平分級評價”對醫(yī)院的電子病歷系統(tǒng)等級做出了分類,級別越高即電子病歷的滲透率越高,4級意味著全院信息共享,可實現(xiàn)初級醫(yī)療決策支持;8級則表示可整合跨機構(gòu)的醫(yī)療健康記錄[1]。

    盡管我國的大部分醫(yī)療機構(gòu)內(nèi)部已經(jīng)初步實現(xiàn)信息化,但是距離真正的信息化還有一定的距離且大部分醫(yī)院與醫(yī)院之間的數(shù)據(jù)仍然互相獨立,形成了眾多“數(shù)據(jù)孤島”。與此同時,在醫(yī)療領(lǐng)域中,從致病原因分析、疾病的早期篩查、臨床診斷輔助到藥物研發(fā)等幾乎都依賴數(shù)據(jù)和樣本量的積累?!皵?shù)據(jù)孤島”的存在很大程度上影響了精準(zhǔn)醫(yī)療、AI輔助診療等領(lǐng)域的發(fā)展,阻礙了我國邁入智慧醫(yī)療的步伐。只有打破這些“數(shù)據(jù)孤島”,將各個醫(yī)院之間的數(shù)據(jù),乃至醫(yī)院與其他不同數(shù)據(jù)源之間的數(shù)據(jù)連接起來,構(gòu)成多維度、多數(shù)據(jù)源的數(shù)據(jù)網(wǎng)絡(luò),才能充分發(fā)揮數(shù)據(jù)價值,使信息化行之有效。

    制約生物醫(yī)療數(shù)據(jù)互聯(lián)互通的問題諸多,其中最主要的包括數(shù)據(jù)流通的合規(guī)風(fēng)險、流轉(zhuǎn)過程中的隱私安全隱患,以及生物醫(yī)療數(shù)據(jù)種類繁多、處理難度大等。我國在數(shù)據(jù)隱私安全方面已隨著現(xiàn)行法律制度的完善進入強監(jiān)管時代。2021年正式實施的《中華人民共和國數(shù)據(jù)安全法》和《中華人民共和國個人信息保護法》不僅填補了我國法律法規(guī)在該領(lǐng)域的空白,更是目前全球范圍內(nèi)懲罰力度最強、監(jiān)管力度最大的數(shù)據(jù)隱私安全相關(guān)法律,其強度甚至超過號稱最嚴格的歐盟《通用數(shù)據(jù)保護條例》(General Data Protection Regulation,GDPR)。

    已經(jīng)有不少研究證明,傳統(tǒng)的隱私保護手段很難完全滿足現(xiàn)行法律所要求的“數(shù)據(jù)匿名化”,即無法通過處理后的數(shù)據(jù)重新識別出具體的個人身份信息。美國《健康保險便利和責(zé)任法案》(Health Insufance Portability and Accountability Act,HIPAA)中的安全港(Safe Harbor)策略是以往最常使用的數(shù)據(jù)脫敏手段之一。然而,即使按照其所要求的,剔除所有可用于識別、聯(lián)系、定位某一特定個體的18種標(biāo)識符,仍然有可能通過這些數(shù)據(jù)重新識別出特定個體的身份信息或者與該個體相關(guān)的敏感信息,稱其為重識別攻擊。對生物醫(yī)學(xué)數(shù)據(jù)來說,這樣的重識別攻擊所造成的危害遠大于其他類型的數(shù)據(jù)。有研究顯示[2],這樣的重識別風(fēng)險廣泛存在于中國的醫(yī)療衛(wèi)生系統(tǒng)中。該研究對橫跨33個省83 萬患者的生日、性別及郵編進行了調(diào)查,發(fā)現(xiàn)其中19.58%可以通過這些信息的三段求交進行唯一定位,也就是說能夠被識別出個人身份。盡管安全港策略能有效降低風(fēng)險,但其中仍然有601 人能夠被唯一識別[2]。

    因此,迫切地需要更完善、更有效的技術(shù)手段來解決這些醫(yī)療機構(gòu)的后顧之憂,保證數(shù)據(jù)能夠安全共享,讓隱私保護不再是“無用功”。隱私保護計算正是在這樣的大背景下迅速由幕后走向臺前,從理論發(fā)展到實踐。目前,隱私保護計算相關(guān)技術(shù)被認為是技術(shù)層面解決數(shù)據(jù)共享和隱私安全矛盾的“最優(yōu)解”。本文將對目前隱私保護計算技術(shù)體系下3種最主要的技術(shù)路線進行介紹,同時對這些技術(shù)在醫(yī)療領(lǐng)域的應(yīng)用及醫(yī)療場景下隱私保護計算未來的發(fā)展方向和可能遇到的挑戰(zhàn)進行分析和研究。

    1 隱私保護計算技術(shù)

    隱私保護計算(Privacy Preserving Computating)是以數(shù)據(jù)“可用不可見”為核心概念,在原始數(shù)據(jù)不外露的前提下實現(xiàn)多方數(shù)據(jù)協(xié)作、聯(lián)合計算的一門交叉學(xué)科。值得注意的是,隱私保護計算不是某種特定的技術(shù),而是一套完整的技術(shù)體系,主要通過聯(lián)邦學(xué)習(xí)、密碼學(xué)和可信硬件等多種技術(shù)的融合來實現(xiàn)。經(jīng)過近幾十年的發(fā)展,已發(fā)展出多種技術(shù)路線,其中以安全多方計算、聯(lián)邦學(xué)習(xí)、可信執(zhí)行環(huán)境為主流技術(shù),以下將具體介紹這3種隱私保護計算技術(shù)的特點及其優(yōu)劣。

    1.1 安全多方計算

    安全多方計算(Secure Multi-party Computation,MPC),目標(biāo)是使一組互相獨立互不信任的數(shù)據(jù)擁有方根據(jù)各自的私有數(shù)據(jù)聯(lián)合計算,并且每一方僅獲取自己的計算結(jié)果,無法通過計算過程中的交互數(shù)據(jù)推測出其他任意一方的輸入和輸出數(shù)據(jù)。安全多方計算最早于1982年由姚期智院士提出[3],描述了安全多方計算的一個通用場景,m個參與方聯(lián)合計算一個函數(shù)f(x1,x2,…,xm),xi表示第i個參與方的數(shù)據(jù)輸入。安全多方計算對協(xié)議的安全性有著精確的定義,一個合格的安全多方計算協(xié)議通常需要滿足以下安全性定義。

    (1)隱私:任何一方都不應(yīng)該了解到超過其規(guī)定輸出的內(nèi)容。

    (2)正確性:每一方都保證它收到的輸出是正確的。

    (3)輸入的獨立性:腐壞方須獨立于誠實的參與方的輸入來選擇他們的輸入。

    (4)保證輸出:腐壞方不應(yīng)阻止誠實方獲得其輸出。

    (5)公平性:每一方都應(yīng)得到他們應(yīng)得的輸出。

    安全多方計算拓展了傳統(tǒng)分布式計算以及信息安全范疇,為多中心協(xié)作計算提供了一種新的計算模式,對解決多中心環(huán)境下的信息安全具有重要價值。但由于底層繁復(fù)的密碼學(xué)理論基礎(chǔ),導(dǎo)致MPC在計算過程中的計算量和通信量非常龐大,對于網(wǎng)絡(luò)帶寬有限、算法復(fù)雜或數(shù)據(jù)量較大的任務(wù)場景有一定挑戰(zhàn)。

    1.2 可信執(zhí)行環(huán)境

    可信執(zhí)行環(huán)境(Trusted Execution Environment,TEE),通常指存在于CPU上的一塊特定區(qū)域,這塊區(qū)域可以給數(shù)據(jù)和代碼的執(zhí)行提供一個安全的空間,以保證它們的機密性和完整性。TEE最早是由Open Mobile Terminal Platform(OMTP)提出的概念,起初是針對移動設(shè)備開放環(huán)境的安全問題。TEE中具有代表性的有ARM的Trust Zone和Intel的SGX(Software Guard Extension)等。

    以SGX為例,它是一套擴展的x86指令集,通過使用“飛地(Enclaves)”來實現(xiàn)保護?!帮w地”是CPU內(nèi)置的隔離存儲區(qū)域,這種區(qū)域可以保護數(shù)據(jù)免受特權(quán)級別(如操作系統(tǒng)、BIOS)進程或模塊的影響[4]。即使攻擊者可以控制整個軟件執(zhí)行環(huán)境(如操作系統(tǒng)、管理程序、BIOS等),SGX仍然能夠有效地保護在飛地內(nèi)處理的數(shù)據(jù)。更具體地說,SGX并沒有將系統(tǒng)中的惡意部分作為傳統(tǒng)的安全沙箱進行隔離,而是使用“反向沙箱”設(shè)計將私有代碼、敏感數(shù)據(jù)和其他選定的需要保密的內(nèi)容密封到飛地中[5]。SGX提供的遠程驗證(RA)過程可以使用戶能夠驗證遠程控制的平臺是否真的具有可信硬件和相關(guān)軟件配置,這點在SGX環(huán)境由不受信任的機構(gòu)托管時至關(guān)重要[6]。圖1展示了TEE架構(gòu)的工作流程。

    TEE技術(shù)實現(xiàn)了安全性和可用性之間較好的平衡,在當(dāng)前傳統(tǒng)公鑰密碼學(xué)性能受限的情況下是一個可選擇的替代方案。然而,其安全性在一定程度上依賴于對硬件廠商的信任,同時攻擊面較多,安全邊界定義不清晰,而這些問題都在一定程度上阻礙了TEE技術(shù)的大規(guī)模應(yīng)用[5]。

    1.3 聯(lián)邦學(xué)習(xí)

    聯(lián)邦學(xué)習(xí)(Federated Learning,F(xiàn)L)是一種分布式機器學(xué)習(xí)技術(shù)。2013年,王爽教授團隊[7]提出以分布式系統(tǒng)解決隱私保護數(shù)據(jù)計算的初步概念和基本框架,著重探討了在線聯(lián)邦學(xué)習(xí)在醫(yī)療大數(shù)據(jù)方面的應(yīng)用。2016年,Google團隊將聯(lián)邦學(xué)習(xí)應(yīng)用在移動設(shè)備上進行聯(lián)邦式的多節(jié)點數(shù)據(jù)聯(lián)合建模。聯(lián)邦學(xué)習(xí)的核心思想是在多個數(shù)據(jù)源(如邊緣設(shè)備、數(shù)據(jù)中心、服務(wù)器等)之間協(xié)同訓(xùn)練模型,在這期間,各方的本地數(shù)據(jù)不會被其他方直接觀測,從而實現(xiàn)數(shù)據(jù)協(xié)作與隱私保護的平衡。

    聯(lián)邦學(xué)習(xí)按照參與方數(shù)據(jù)分布模式可以分為橫向聯(lián)邦學(xué)習(xí)和縱向聯(lián)邦學(xué)習(xí)。橫向聯(lián)邦學(xué)習(xí)主要是通過融合不同數(shù)據(jù)集中數(shù)據(jù)維度大致相同的數(shù)據(jù)來增加樣本量(見圖2)??v向聯(lián)邦學(xué)習(xí)是指不同數(shù)據(jù)源擁有同一個樣本的不同特征時,每個參與方對各自的特征數(shù)據(jù)進行處理,最后匯總中間結(jié)果得到最終模型的場景(見圖3)。

    盡管聯(lián)邦學(xué)習(xí)被認為能兼顧數(shù)據(jù)共享和隱私保護的雙重目標(biāo),但其仍然存在一定缺陷。一方面,聯(lián)邦學(xué)習(xí)雖然不直接暴露用戶數(shù)據(jù),但缺乏對中間統(tǒng)計信息、模型評估和最終輸出結(jié)果的保護;另一方面,聯(lián)邦學(xué)習(xí)不支持模型評估階段的隱私保護。在具體的實踐中,模型評估階段也包括許多敏感信息,如模型參數(shù)、模型輸入數(shù)據(jù)、模型結(jié)果(如診斷結(jié)果)等。

    安全聯(lián)邦學(xué)習(xí)(Security Federated Learning,SFL)是為了彌補聯(lián)邦學(xué)習(xí)中存在的不足而產(chǎn)生的進階技術(shù)。它是在原有技術(shù)的基礎(chǔ)上,通過軟硬件結(jié)合的方式,在保留聯(lián)邦學(xué)習(xí)分布式計算特點的同時,通過軟硬件結(jié)合的方式,僅分享經(jīng)過加密的中間統(tǒng)計值,不分享明文個體數(shù)據(jù),同時也對模型本身進行保護,保證生物醫(yī)療數(shù)據(jù)共享的全鏈路隱私安全。

    安全多方計算、可信執(zhí)行環(huán)境和聯(lián)邦學(xué)習(xí)作為隱私保護計算的三大主流技術(shù)在互聯(lián)網(wǎng)各產(chǎn)業(yè)發(fā)揮著重要的作用,可以涵蓋數(shù)據(jù)的生產(chǎn)、存儲、計算、應(yīng)用等信息流程。此外,差分隱私、零知識證明、同態(tài)加密、區(qū)塊鏈等技術(shù)也在隱私保護計算領(lǐng)域逐漸發(fā)力。這些技術(shù)通常情況下并不是替代關(guān)系,而是可以相互結(jié)合,為營造高效安全的隱私保護計算環(huán)境而發(fā)力。

    2 醫(yī)療場景下的隱私保護計算技術(shù)應(yīng)用

    2.1 基因組學(xué)分析

    基因組學(xué)分析,例如全基因組關(guān)聯(lián)研究、致病基因分析、癌癥早篩等,在疾病防治中起到至關(guān)重要的作用。以全基因組關(guān)聯(lián)研究(Genome-Wide Association Studies,GWAS)為例,GWAS是將患者全基因組范圍內(nèi)的單核苷酸多態(tài)性(Single Nucleotide Polymorphism,SNP)位點與對照組進行比較,找出所有變異的等位基因頻率,繼而排查出可能導(dǎo)致目標(biāo)性狀的變異基因位點。相比較于候選基因策略,GWAS不需要預(yù)設(shè)致病基因,很大程度上避免了研究過程中的“繞彎路”。同時,由于GWAS研究發(fā)現(xiàn)了許多此前未曾發(fā)現(xiàn)的基因和染色體區(qū)域,因此為復(fù)雜疾病(如脊柱炎、腫瘤、糖尿病等)發(fā)病機制、致病因素的探索以及發(fā)展新療法、開發(fā)新藥物提供了更多線索和思路。

    由于基因數(shù)據(jù)的高敏感度,首先要確保數(shù)據(jù)隱私的安全。數(shù)據(jù)一旦脫離醫(yī)療機構(gòu)的管理邊界就會失去控制,不論是在傳輸過程中還是在可信第三方中都有可能面臨泄露的風(fēng)險,因此在帶有隱私保護的基因組學(xué)研究中,可以利用安全聯(lián)邦學(xué)習(xí)等技術(shù)實現(xiàn)隱私建模。隱私建模是指在多中心數(shù)據(jù)聯(lián)合分析中,使患者級別的明文數(shù)據(jù)不出醫(yī)療機構(gòu)的管理邊界,即在數(shù)據(jù)可用不可見的情況下,通過交互加密的模型統(tǒng)計信息,實現(xiàn)數(shù)據(jù)虛擬融合,進而完成跨中心的聯(lián)合數(shù)據(jù)建模與分析。同時,基于聯(lián)邦學(xué)習(xí)的分布式計算特性,由于部分計算在本地完成,可以減少基因數(shù)據(jù)這樣的大體量數(shù)據(jù)帶來的通信負擔(dān)。

    Wu[8]提出了一個名為iPRIVATES的技術(shù)框架,用于支持強直性脊柱炎的GWAS分析。不同于以往的技術(shù)框架只注重單一技術(shù)的設(shè)計,該框架以聯(lián)邦學(xué)習(xí)為核心,融合了多種技術(shù)和算法,既利用了聯(lián)邦學(xué)習(xí)分布式計算的特性不交換明文數(shù)據(jù),又結(jié)合了其他技術(shù)彌補聯(lián)邦學(xué)習(xí)對中間統(tǒng)計信息、模型評估、輸出結(jié)果等階段信息保護缺失的不足,能夠更好地保護基因數(shù)據(jù)的安全。具體來說,數(shù)據(jù)共享時,不同數(shù)據(jù)源和全局服務(wù)提供商之間的通信鏈路是攻擊高發(fā)的環(huán)節(jié),典型的如對中間統(tǒng)計和/或聯(lián)合分析結(jié)果的竊聽或中間人攻擊。對于這種攻擊,研究團隊使用了基于安全套接字層消息驗證碼來降低風(fēng)險。同樣地,對于全局服務(wù)器來說,內(nèi)部攻擊是其所面臨的最大威脅之一,比如基于似然比檢驗(Likelyhood-ratio Test,LLR)攻擊可用于在基因組數(shù)據(jù)共享信標(biāo)網(wǎng)絡(luò)中重新識別個體。研究團隊在框架中融入了基于SGX的可信執(zhí)行環(huán)境以應(yīng)對這一類風(fēng)險。

    在研究過程中,研究人員利用模擬數(shù)據(jù)集和真實世界數(shù)據(jù)來評估iPRIVATES的性能。結(jié)果顯示,該框架能夠支持跨多家醫(yī)院和研究機構(gòu)的全基因組數(shù)據(jù)協(xié)作,且其結(jié)果和傳統(tǒng)的集中式計算等價,證明了該框架的可靠性[9]。

    2.2 罕見病研究

    罕見病研究中最常見的問題是樣本量不足。由于疾病的特殊性,單一機構(gòu)的數(shù)據(jù)量往往不足以支持一項結(jié)果可靠可信的研究,而跨機構(gòu)患者數(shù)據(jù)的不安全流動又受到嚴格限制。不僅如此,某些疾病由于極為罕見,甚至需要聯(lián)合多個國家的數(shù)據(jù)才能滿足一次研究所需的樣本量,而這又涉及到跨國數(shù)據(jù)流動合規(guī)性的問題。不同國家之間的隱私政策和法律監(jiān)管要求不同,同樣的隱私保護手段很難同時滿足多個國家的要求。

    Chen[10]分享了一個跨三國(美國、英國、新加坡)兒童川崎病研究的實踐案例。傳統(tǒng)的國際合作需要將個人級別的患者數(shù)據(jù)物理集中在一個站點。但該案例中應(yīng)用的技術(shù)框架——PRINCESS則不同,它使用分布式計算使原始數(shù)據(jù)不需物理流動。同時,利用隱私保護計算技術(shù)進行中間結(jié)果及其他數(shù)據(jù)的安全傳輸和分析,在這一過程中,不論是有意或無意,都不會泄露個人隱私數(shù)據(jù)及中間結(jié)果。這保證所有數(shù)據(jù)共享符合各國數(shù)據(jù)流動法規(guī)監(jiān)管要求,解決了醫(yī)療數(shù)據(jù)跨境流動難的問題。其次,該框架同時支持可信執(zhí)行環(huán)境、多方安全計算和同態(tài)加密等多種技術(shù),對于沒有可信硬件的參與方,也可以通過基于軟件的技術(shù)進行聯(lián)合安全合作,因此使得安全的大規(guī)??鐕z傳數(shù)據(jù)分析在實踐中可行。

    2.3 新藥輔助研發(fā)

    藥物研發(fā)要經(jīng)歷靶點的發(fā)現(xiàn)與驗證、先導(dǎo)化合物的發(fā)現(xiàn)與優(yōu)化、候選化合物的挑選及開發(fā)和臨床研究等多個階段。傳統(tǒng)的藥物研發(fā)耗時耗力,且周期長、成功率低。因此,越來越多的研究者希望能將人工智能等技術(shù)應(yīng)用于藥物研發(fā),提高研發(fā)效率,最重要的是能極大地縮短藥物研發(fā)時間。首先靶點發(fā)現(xiàn)與驗證階段,傳統(tǒng)的方式就是基于假設(shè)的驗證工作,通過不斷驗證找出正確的假設(shè)。要人為地從海量線索中找出關(guān)鍵點并推斷出這其中的邏輯關(guān)系,這一學(xué)習(xí)過程勢必漫長且效率低下,而人工智能的加入可以大大提高這個發(fā)現(xiàn)到驗證過程中的效率,而且能夠更深入、更全面。

    然而,人工智能是高度數(shù)據(jù)依賴和驅(qū)動的領(lǐng)域,完整的知識圖譜和邏輯的建立是大量數(shù)據(jù)訓(xùn)練的結(jié)果。眾多藥廠、研發(fā)機構(gòu)由于利益關(guān)系不希望其他方獲取自己的數(shù)據(jù),法律層面也不允許缺乏保護措施的數(shù)據(jù)流動,隱私保護計算則可以解決這些問題。在靶點發(fā)現(xiàn)與驗證階段,可以利用隱私求交找出患有同種疾病患者之間的共同點,根據(jù)結(jié)果排查出真正的靶點,由于不會暴露患者的隱私也無需擔(dān)心己方數(shù)據(jù)被竊取,因此可以打破數(shù)據(jù)孤島,聯(lián)合多個藥廠和研發(fā)機構(gòu)之間的多維度數(shù)據(jù)源,高效利用數(shù)據(jù)完成研發(fā)。

    此外,藥物研發(fā)的其他階段,例如藥物的效果評估等,也依賴大量數(shù)據(jù)的積累。Cox比例風(fēng)險回歸模型(Cox Proportional Hazards Model,簡稱“Cox模型”),是一種廣泛使用的生存分析方法,可用于評估藥物或干預(yù)方式的效果。為了提高分析結(jié)果的準(zhǔn)確性,通常需要大量的數(shù)據(jù)進行模型訓(xùn)練,跨機構(gòu)的數(shù)據(jù)共享能大幅提高樣本量以實現(xiàn)這一目標(biāo)。為了在共享數(shù)據(jù)的同時保護患者隱私,Lu[11]開發(fā)了一套基于分布式Cox模型的在線服務(wù)系統(tǒng):WebDISCO,該服務(wù)系統(tǒng)用于支持跨多個中心的帶有隱私保護的基于聯(lián)邦學(xué)習(xí)的生存分析。該服務(wù)系統(tǒng)在本地處理個體級的敏感數(shù)據(jù),只交互敏感度較低的中間統(tǒng)計值以構(gòu)建全局Cox模型。試驗結(jié)果顯示,聯(lián)邦式的Cox模型和集中式Cox模型的模型系數(shù)一致,其平均方差范圍在10~15到10~12之間,這證明了聯(lián)邦式的Cox模型這一概念的可行性和實際的應(yīng)用前景。

    2.4 醫(yī)學(xué)影像分析

    醫(yī)學(xué)影像學(xué)數(shù)據(jù)是生物醫(yī)療數(shù)據(jù)中一個非常重要的組成部分。與新藥研發(fā)相同,在醫(yī)學(xué)影像分析中也越來越多地應(yīng)用到人工智能等技術(shù),通過智能輔助診斷疾病、智能勾畫靶區(qū)、智能判斷病理切片等方式輔助醫(yī)生和研究人員完成臨床診斷和研究。然而,人工智能模型精度和效果往往是由訓(xùn)練樣本的數(shù)據(jù)量及其質(zhì)量決定。在實踐中,由于數(shù)據(jù)孤島問題、傳統(tǒng)數(shù)據(jù)脫敏的局限性帶來的隱私問題、數(shù)據(jù)監(jiān)管問題等,導(dǎo)致人工智能模型沒有足夠的數(shù)據(jù)支撐完成訓(xùn)練,也就限制了醫(yī)學(xué)影像人工智能的發(fā)展。

    一項研究針對2020年期間發(fā)表的,通過胸部X光檢查(CXR)和電子計算機斷層掃描(CT)圖像進行機器學(xué)習(xí)建模以檢測或預(yù)測新冠病毒的文獻進行了臨床應(yīng)用價值的調(diào)查[12]。研究團隊[12]從2212 篇文獻中最終篩選出了62篇質(zhì)量較高的文獻,然而最終發(fā)現(xiàn)這些文獻中所提到的模型都不具有臨床應(yīng)用價值,研究人員指出,這些模型所使用的數(shù)據(jù)集質(zhì)量和規(guī)模嚴重不足是導(dǎo)致這一問題的主要原因之一。其中,超過半數(shù)的模型使用了公共數(shù)據(jù)集,然而這些公共數(shù)據(jù)集往往不具有足夠的數(shù)據(jù)多樣性,因此可能導(dǎo)致嚴重的偏差風(fēng)向,使模型失去臨床應(yīng)用價值。

    隱私保護計算可以讓患者級明文數(shù)據(jù)在數(shù)據(jù)所有方管理邊界的前提下實現(xiàn)數(shù)據(jù)虛擬聚合,因此既可以保證患者的隱私安全,又能保證藥廠等數(shù)據(jù)源方的權(quán)益。在這一前提下,數(shù)據(jù)源有意愿參與數(shù)據(jù)共享,就可以打破數(shù)據(jù)孤島,聯(lián)合多維度大規(guī)模數(shù)據(jù)協(xié)作,提高模型精度和效果,解決上文所提到的模型缺乏臨床應(yīng)用價值的問題。

    在具體實踐中,這類數(shù)據(jù)的高效傳輸和儲存是一個難點。由于在這類場景下不僅需要保證數(shù)據(jù)隱私的安全,還需要盡可能地保證數(shù)據(jù)的完整性和可利用性,因此不論是直接壓縮加密的影像數(shù)據(jù)還是在加密之前壓縮數(shù)據(jù),都不適用這種場景。傳統(tǒng)的壓縮算法無法處理加密數(shù)據(jù),會破壞數(shù)據(jù)的完整性,使其失去可利用性,而在加密之前壓縮數(shù)據(jù)則無法在處理數(shù)據(jù)的同時保證其隱私安全。Wang及其團隊[13]開發(fā)了一個基于分布式源編碼(Distributed Source Coding,DSC)的安全隱私保護醫(yī)學(xué)圖像壓縮框架(SUPERMICRO)。該框架可以在不影響安全性和壓縮效率的情況下對加密數(shù)據(jù)進行壓縮,保證數(shù)據(jù)在帶有隱私保護的前提下進行傳輸和存儲以及服務(wù)于后期的數(shù)據(jù)分析。該團隊在兩個CT圖像序列上測試了這一框架,并將其與最先進的JPEG 2000無損壓縮進行了比較。試驗結(jié)果表明,SUPERMICRO框架提供了增強的安全性和隱私保護,以及較高的壓縮性能。

    3 未來方向及挑戰(zhàn)

    3.1 平臺兼容性問題

    隱私保護計算技術(shù)在精準(zhǔn)防疫、基因分析、臨床醫(yī)學(xué)研究等領(lǐng)域都在積極地實踐落地。然而,由于醫(yī)療領(lǐng)域的計算任務(wù)目標(biāo)紛繁復(fù)雜,精度和數(shù)據(jù)量要求也相對嚴苛,這就對隱私保護計算平臺的能力提出了更嚴格的要求。此外,不同機構(gòu)使用的隱私保護計算平臺也可能來自不同的技術(shù)提供商,從而使用不同的特有技術(shù),這就導(dǎo)致使用同一平臺的機構(gòu)與地區(qū)可以實現(xiàn)互聯(lián)互通,然而不同的平臺之間卻互相孤立,無法實現(xiàn)信息交互,數(shù)據(jù)孤島變成了數(shù)據(jù)群島。

    因此,制定不同平臺之間互聯(lián)互通的標(biāo)準(zhǔn)是破除數(shù)據(jù)群島現(xiàn)象,進一步釋放數(shù)據(jù)潛力的必經(jīng)之路。中國信息通信研究院等標(biāo)準(zhǔn)化組織也正在積極推動這一互聯(lián)互通的標(biāo)準(zhǔn)建設(shè)。具體來講,互聯(lián)互通指不同技術(shù)方案的隱私保護計算平臺之間協(xié)同完成某一項隱私保護計算任務(wù)的能力。鼓勵各平臺的技術(shù)百花齊放,各自發(fā)展,但在必要時可以使用標(biāo)準(zhǔn)接口協(xié)作完成隱私保護計算任務(wù)。

    隱私保護計算行業(yè)互通標(biāo)準(zhǔn)的制定落地,將有助于進一步發(fā)展基于數(shù)據(jù)驅(qū)動的醫(yī)療領(lǐng)域研究開展,以及發(fā)展新的經(jīng)濟和商業(yè)模式,反向刺激數(shù)據(jù)要素的生產(chǎn)推動數(shù)據(jù)的開放和應(yīng)用,完成醫(yī)療等行業(yè)數(shù)字化和智能化的數(shù)據(jù)新基建。

    3.2 落地部署面臨的挑戰(zhàn)

    首先是安全問題,與其他領(lǐng)域的數(shù)據(jù)不同,醫(yī)療數(shù)據(jù)的敏感度更高,也對安全的要求更高。以基因數(shù)據(jù)為例,僅僅通過基因數(shù)據(jù)很難回溯定位到個人,但如前文所提到的,當(dāng)多個“單一數(shù)據(jù)”被結(jié)合在一起時,就有可能推斷出身份信息或是患者不希望被公開的敏感信息。此外,由于每個個體和其血親之間的基因具有高度相似性,基因數(shù)據(jù)泄露所帶來的負面影響將不止局限于單個個體,還極有可能蔓延至其家族群體,使傷害擴大。由于很多研究中會將數(shù)據(jù)交由可信第三方進行計算,即使可信第三方真得可靠,一旦數(shù)據(jù)脫離醫(yī)療機構(gòu)掌控,就面臨數(shù)據(jù)泄露和篡改計算過程的風(fēng)險。因此,為了保證患者的隱私安全和生命安全,在進行此類研究時,隱私保護計算多使用惡意模型作為安全假設(shè),而非其他領(lǐng)域經(jīng)常使用的半誠實模型,以確保計算過程中出現(xiàn)可能導(dǎo)致風(fēng)險的篡改行為時,能夠被及時發(fā)現(xiàn)并阻止。這就要求隱私保護計算服務(wù)的提供商擁有較強的技術(shù)實力,因為在同樣的場景下,基于惡意模型的算法難度要高于基于半誠實或誠實模型的算法。

    其次是數(shù)據(jù)類型和處理難度方面的挑戰(zhàn)。醫(yī)療數(shù)據(jù)的類型豐富,除了常見的結(jié)構(gòu)化數(shù)據(jù),還有非結(jié)構(gòu)化數(shù)據(jù),包括醫(yī)囑、醫(yī)學(xué)影像數(shù)據(jù)、基因數(shù)據(jù)等,這些類型的數(shù)據(jù)是其他領(lǐng)域所沒有的。此外,醫(yī)療數(shù)據(jù)在處理難度上也更高。在非醫(yī)療領(lǐng)域,所需的方法論往往比較簡單,例如邏輯回歸或者是樹模型就可以滿足絕大多數(shù)場景的需求,但是在醫(yī)療領(lǐng)域,所需的方法論可能要增加幾十或幾百倍。例如,全基因組關(guān)聯(lián)分析中基因數(shù)據(jù)首先要進行對齊,然后才進入到致病基因的篩查和分析;對于影像學(xué)數(shù)據(jù)可能涉及到勾畫病灶;對于非結(jié)構(gòu)化數(shù)據(jù),比如醫(yī)生給患者的醫(yī)囑,需要對這些數(shù)據(jù)進行自然語義處理,提取關(guān)鍵信息,形成結(jié)構(gòu)化可用的數(shù)據(jù)才能進行后續(xù)工作。因此,市面上流行的開源框架很難直接用于醫(yī)療數(shù)據(jù)的處理,或許需要醫(yī)學(xué)領(lǐng)域的專業(yè)人員和隱私保護計算專家統(tǒng)一協(xié)作,結(jié)合醫(yī)療場景的特性研發(fā)出真正可用、適合醫(yī)學(xué)場景的技術(shù)框架。

    最后是對于計算精度的要求。在非醫(yī)療領(lǐng)域,比如征信、風(fēng)控等,大多只需要輸出一個數(shù)值用以評估,這個數(shù)值只要和傳統(tǒng)集中式計算的結(jié)果大致一樣就可以用來做實際的生產(chǎn)投入。但是在醫(yī)學(xué)領(lǐng)域,由于直接關(guān)系到患者的生命安全,計算過程中的誤差可能是致命的。如果這一誤差是由于加入了隱私保護計算而產(chǎn)生的,那么隱私保護計算的引入就不能夠被接受。因此,醫(yī)療領(lǐng)域的隱私保護計算需要做到?jīng)]有誤差,或者是將誤差控制在一個非常小的范圍內(nèi),這對技術(shù)研發(fā)人員同樣是一個非常大的考驗。

    4 結(jié)束語

    從技術(shù)層面來說,隱私保護計算確實是促進數(shù)據(jù)互聯(lián)互通的最優(yōu)解。在醫(yī)療領(lǐng)域,隱私保護計算也有了不少的實踐案例,然而由于醫(yī)療數(shù)據(jù)具有敏感度高、數(shù)據(jù)類型復(fù)雜、處理難度大等特點,相比于其他領(lǐng)域,隱私保護計算在醫(yī)療場景下的應(yīng)用難度更高。未來,除了融合多種技術(shù)以更好地保護生物醫(yī)療數(shù)據(jù)的安全之外,隱私保護計算的研究人員和從業(yè)者還應(yīng)當(dāng)增進和醫(yī)學(xué)領(lǐng)域?qū)W者專家的合作,以期開發(fā)出更適合醫(yī)療場景的技術(shù)框架和底層算法邏輯,避免出現(xiàn)閉門造車導(dǎo)致所開發(fā)的技術(shù)不具有實踐價值的問題。

    猜你喜歡
    聯(lián)邦醫(yī)療模型
    一半模型
    一“炮”而紅 音聯(lián)邦SVSound 2000 Pro品鑒會完滿舉行
    重要模型『一線三等角』
    重尾非線性自回歸模型自加權(quán)M-估計的漸近分布
    303A深圳市音聯(lián)邦電氣有限公司
    京張醫(yī)療聯(lián)合的成功之路
    我們怎樣理解醫(yī)療創(chuàng)新
    3D打印中的模型分割與打包
    醫(yī)療扶貧至關(guān)重要
    什么是醫(yī)療告知
    肉色欧美久久久久久久蜜桃| 男女无遮挡免费网站观看| 亚洲伊人久久精品综合| 一级爰片在线观看| 精品久久久久久久久av| 国产黄片美女视频| 超碰97精品在线观看| 69精品国产乱码久久久| 男女无遮挡免费网站观看| 久久精品久久精品一区二区三区| 精品国产露脸久久av麻豆| 曰老女人黄片| 99热国产这里只有精品6| 亚洲av成人精品一区久久| 视频中文字幕在线观看| 精品久久久久久久久av| 免费不卡的大黄色大毛片视频在线观看| 九九久久精品国产亚洲av麻豆| 免费高清在线观看视频在线观看| 纵有疾风起免费观看全集完整版| 欧美激情极品国产一区二区三区 | 天天操日日干夜夜撸| 不卡视频在线观看欧美| 日韩欧美一区视频在线观看 | 国产真实伦视频高清在线观看| 欧美亚洲 丝袜 人妻 在线| 天天躁夜夜躁狠狠久久av| 国产成人精品福利久久| 18+在线观看网站| 日韩视频在线欧美| 国产在线一区二区三区精| 丰满饥渴人妻一区二区三| 国产亚洲av片在线观看秒播厂| 成人综合一区亚洲| 国产淫语在线视频| 午夜影院在线不卡| 国产日韩欧美在线精品| 亚洲国产毛片av蜜桃av| 久久精品国产鲁丝片午夜精品| 在线观看人妻少妇| 91成人精品电影| 久久久国产欧美日韩av| 高清在线视频一区二区三区| 久久国产精品男人的天堂亚洲 | 亚洲欧洲日产国产| 丰满乱子伦码专区| 伦理电影免费视频| 久久影院123| 久久久久久久精品精品| 六月丁香七月| 91精品伊人久久大香线蕉| 大片免费播放器 马上看| 久久6这里有精品| 9色porny在线观看| 欧美日韩视频高清一区二区三区二| 精品一区在线观看国产| 搡老乐熟女国产| 观看美女的网站| 日本爱情动作片www.在线观看| 午夜免费鲁丝| 少妇猛男粗大的猛烈进出视频| 一级毛片我不卡| av不卡在线播放| 国产片特级美女逼逼视频| 国产老妇伦熟女老妇高清| 乱系列少妇在线播放| 麻豆乱淫一区二区| 三上悠亚av全集在线观看 | 日本与韩国留学比较| 91aial.com中文字幕在线观看| 日本午夜av视频| 草草在线视频免费看| 26uuu在线亚洲综合色| 成人午夜精彩视频在线观看| 老司机亚洲免费影院| 狂野欧美白嫩少妇大欣赏| 亚洲欧美日韩另类电影网站| 久久精品国产亚洲网站| 亚洲国产成人一精品久久久| 国产深夜福利视频在线观看| 高清在线视频一区二区三区| 久久这里有精品视频免费| 91精品一卡2卡3卡4卡| 国产在线视频一区二区| 国产高清不卡午夜福利| 欧美日韩综合久久久久久| 亚洲第一区二区三区不卡| 亚洲av日韩在线播放| 久久久亚洲精品成人影院| 亚洲精品,欧美精品| 69精品国产乱码久久久| 少妇人妻久久综合中文| 精品久久国产蜜桃| 国产综合精华液| 一区二区三区免费毛片| 毛片一级片免费看久久久久| av不卡在线播放| 三级国产精品片| 精品99又大又爽又粗少妇毛片| 国产色爽女视频免费观看| a级一级毛片免费在线观看| 日韩在线高清观看一区二区三区| 十八禁网站网址无遮挡 | 久久 成人 亚洲| 久久午夜福利片| 国产美女午夜福利| 嘟嘟电影网在线观看| 久久久久久人妻| 成年女人在线观看亚洲视频| 国产成人aa在线观看| 一级毛片 在线播放| 日韩,欧美,国产一区二区三区| 亚洲精品成人av观看孕妇| 日本vs欧美在线观看视频 | 成人毛片a级毛片在线播放| 超碰97精品在线观看| 啦啦啦视频在线资源免费观看| 26uuu在线亚洲综合色| 18禁裸乳无遮挡动漫免费视频| 久久久久视频综合| 久久久精品94久久精品| 视频中文字幕在线观看| 91久久精品电影网| 男人舔奶头视频| 国产欧美日韩综合在线一区二区 | 午夜福利视频精品| 午夜福利影视在线免费观看| 久久精品夜色国产| 建设人人有责人人尽责人人享有的| 嘟嘟电影网在线观看| 欧美精品高潮呻吟av久久| 亚洲精品乱码久久久v下载方式| 久久久久网色| 久久综合国产亚洲精品| 久久久久视频综合| 纵有疾风起免费观看全集完整版| 欧美老熟妇乱子伦牲交| 香蕉精品网在线| 99久久精品国产国产毛片| 精品久久国产蜜桃| 99久久精品热视频| 日日啪夜夜撸| h日本视频在线播放| 夜夜爽夜夜爽视频| 韩国av在线不卡| 久久国内精品自在自线图片| 色哟哟·www| 久久久久久久久大av| 亚洲天堂av无毛| 日韩大片免费观看网站| 亚洲国产欧美在线一区| 国产精品人妻久久久影院| 丰满乱子伦码专区| 亚洲成人手机| 老司机影院成人| 国产精品久久久久久久久免| 国产乱人偷精品视频| 午夜免费观看性视频| 免费看光身美女| 寂寞人妻少妇视频99o| 亚洲美女黄色视频免费看| 国产欧美另类精品又又久久亚洲欧美| 久久人人爽av亚洲精品天堂| 国产精品久久久久成人av| 韩国高清视频一区二区三区| 久久久a久久爽久久v久久| 内射极品少妇av片p| 免费观看av网站的网址| 免费高清在线观看视频在线观看| 国产精品福利在线免费观看| 国产有黄有色有爽视频| 国产永久视频网站| 国产伦精品一区二区三区视频9| av免费在线看不卡| 亚洲精品国产色婷婷电影| av卡一久久| 国产精品久久久久久精品电影小说| 纯流量卡能插随身wifi吗| 日韩精品免费视频一区二区三区 | 日韩av在线免费看完整版不卡| 国产精品偷伦视频观看了| 亚洲av.av天堂| 一级毛片电影观看| 日日爽夜夜爽网站| 一本久久精品| 国产片特级美女逼逼视频| 美女内射精品一级片tv| 在线观看国产h片| 精品久久久久久电影网| 国产高清不卡午夜福利| 九草在线视频观看| 日韩,欧美,国产一区二区三区| 黄色欧美视频在线观看| 熟妇人妻不卡中文字幕| 性色av一级| 亚洲精品国产av成人精品| 久久6这里有精品| 少妇裸体淫交视频免费看高清| 国产国拍精品亚洲av在线观看| 99久久中文字幕三级久久日本| 美女主播在线视频| 免费人妻精品一区二区三区视频| 中文字幕人妻丝袜制服| 欧美激情极品国产一区二区三区 | 日韩熟女老妇一区二区性免费视频| 国产日韩欧美亚洲二区| 免费看av在线观看网站| 丝袜在线中文字幕| 午夜视频国产福利| 美女脱内裤让男人舔精品视频| 亚洲精品日韩av片在线观看| 男女国产视频网站| 在线 av 中文字幕| 乱人伦中国视频| 一个人看视频在线观看www免费| 久久热精品热| 爱豆传媒免费全集在线观看| 大片免费播放器 马上看| 香蕉精品网在线| 国产又色又爽无遮挡免| 欧美xxⅹ黑人| 日韩伦理黄色片| 黄色怎么调成土黄色| 精品人妻熟女av久视频| 新久久久久国产一级毛片| 日韩,欧美,国产一区二区三区| 2022亚洲国产成人精品| 自拍欧美九色日韩亚洲蝌蚪91 | 成人午夜精彩视频在线观看| 99精国产麻豆久久婷婷| 最黄视频免费看| 久久综合国产亚洲精品| 少妇 在线观看| 中文字幕人妻熟人妻熟丝袜美| 亚洲在久久综合| 婷婷色麻豆天堂久久| 色吧在线观看| 久久青草综合色| 国产精品99久久99久久久不卡 | 高清不卡的av网站| 国产精品伦人一区二区| 精品一品国产午夜福利视频| 大陆偷拍与自拍| 国产极品粉嫩免费观看在线 | 午夜av观看不卡| 久久久久视频综合| 好男人视频免费观看在线| 久热久热在线精品观看| 少妇的逼水好多| 纵有疾风起免费观看全集完整版| 99热网站在线观看| 嫩草影院新地址| 亚洲人与动物交配视频| 少妇精品久久久久久久| 久久久国产精品麻豆| 国产 一区精品| 一级二级三级毛片免费看| 老司机亚洲免费影院| 欧美精品高潮呻吟av久久| 寂寞人妻少妇视频99o| 各种免费的搞黄视频| av国产久精品久网站免费入址| 丝瓜视频免费看黄片| 不卡视频在线观看欧美| 亚洲电影在线观看av| 日韩不卡一区二区三区视频在线| 人人澡人人妻人| 久久精品国产亚洲网站| 欧美变态另类bdsm刘玥| 久久久久久久久久久久大奶| 国产欧美另类精品又又久久亚洲欧美| 99九九在线精品视频 | 精品人妻熟女av久视频| 亚洲第一av免费看| 久久狼人影院| 一区二区av电影网| 亚洲精品国产色婷婷电影| 欧美日韩av久久| 99久久精品一区二区三区| 在线天堂最新版资源| 一级片'在线观看视频| 国产中年淑女户外野战色| 伊人久久精品亚洲午夜| 日韩大片免费观看网站| 最后的刺客免费高清国语| 国产日韩欧美在线精品| 色网站视频免费| 97在线视频观看| 啦啦啦啦在线视频资源| 日韩熟女老妇一区二区性免费视频| 亚洲国产精品专区欧美| 在线 av 中文字幕| 亚洲性久久影院| 我的女老师完整版在线观看| 我要看黄色一级片免费的| 久热这里只有精品99| 国产精品无大码| 好男人视频免费观看在线| 精品亚洲成国产av| 午夜日本视频在线| 黄色怎么调成土黄色| 一级av片app| 午夜免费男女啪啪视频观看| 国产av国产精品国产| 中文字幕制服av| 精品国产露脸久久av麻豆| 精品午夜福利在线看| 国产精品久久久久久精品电影小说| 尾随美女入室| 3wmmmm亚洲av在线观看| 我要看日韩黄色一级片| 最近2019中文字幕mv第一页| 中国美白少妇内射xxxbb| freevideosex欧美| 国产女主播在线喷水免费视频网站| 日本-黄色视频高清免费观看| 亚洲怡红院男人天堂| 91久久精品国产一区二区成人| 亚洲色图综合在线观看| 我要看日韩黄色一级片| 国产精品久久久久久精品古装| 亚洲欧美成人精品一区二区| 国产精品福利在线免费观看| 国产日韩欧美亚洲二区| 国产又色又爽无遮挡免| 亚洲熟女精品中文字幕| 国产高清有码在线观看视频| 女的被弄到高潮叫床怎么办| 国产黄片美女视频| 18禁裸乳无遮挡动漫免费视频| 五月天丁香电影| 国产色婷婷99| 你懂的网址亚洲精品在线观看| 精品午夜福利在线看| 国产黄色视频一区二区在线观看| 免费看不卡的av| 日韩中字成人| 久久青草综合色| 免费黄频网站在线观看国产| 我的老师免费观看完整版| 国国产精品蜜臀av免费| 国产精品女同一区二区软件| 麻豆成人午夜福利视频| 国产在线一区二区三区精| 免费大片18禁| 麻豆乱淫一区二区| 亚洲精品乱码久久久v下载方式| 国产熟女欧美一区二区| 少妇被粗大猛烈的视频| 亚洲国产最新在线播放| 亚洲精品乱码久久久v下载方式| 制服丝袜香蕉在线| 欧美bdsm另类| 国产免费一区二区三区四区乱码| 最近的中文字幕免费完整| 精品人妻一区二区三区麻豆| 国产成人精品无人区| 日韩伦理黄色片| 中文字幕精品免费在线观看视频 | 亚洲自偷自拍三级| 九色成人免费人妻av| 最近手机中文字幕大全| 日本黄色片子视频| 中国美白少妇内射xxxbb| 深夜a级毛片| 欧美性感艳星| 熟妇人妻不卡中文字幕| 国产精品一区二区在线观看99| 日韩av免费高清视频| 老司机影院成人| 国产成人午夜福利电影在线观看| 伊人亚洲综合成人网| 色视频在线一区二区三区| 国产一级毛片在线| 高清视频免费观看一区二区| 欧美精品一区二区免费开放| 搡老乐熟女国产| 蜜桃久久精品国产亚洲av| 高清视频免费观看一区二区| 精品国产一区二区久久| 久久99热这里只频精品6学生| 久久精品国产亚洲av天美| 久久女婷五月综合色啪小说| 国产 一区精品| 免费观看的影片在线观看| 日本91视频免费播放| 日日啪夜夜撸| 久久久久久久精品精品| 乱人伦中国视频| 免费大片黄手机在线观看| 最近最新中文字幕免费大全7| 欧美日韩av久久| 久久久国产欧美日韩av| av在线观看视频网站免费| 国产高清有码在线观看视频| 婷婷色av中文字幕| 亚洲真实伦在线观看| 一区二区三区乱码不卡18| 欧美xxxx性猛交bbbb| 中文乱码字字幕精品一区二区三区| 老司机影院成人| 中文字幕制服av| 嘟嘟电影网在线观看| 久久久久久久大尺度免费视频| 国产色爽女视频免费观看| 日韩精品免费视频一区二区三区 | 啦啦啦在线观看免费高清www| 国产黄片视频在线免费观看| 欧美日韩国产mv在线观看视频| 一级毛片我不卡| 亚洲av不卡在线观看| 丝瓜视频免费看黄片| 国产成人一区二区在线| 夜夜看夜夜爽夜夜摸| 人人妻人人澡人人看| 久久久精品94久久精品| av不卡在线播放| 伊人久久国产一区二区| 精品酒店卫生间| 精品久久久久久久久亚洲| 97在线视频观看| 老司机亚洲免费影院| 老女人水多毛片| 伊人久久精品亚洲午夜| 久久精品国产亚洲av天美| 高清午夜精品一区二区三区| 成人影院久久| 国产在线一区二区三区精| 成人黄色视频免费在线看| 午夜免费鲁丝| 又黄又爽又刺激的免费视频.| 日韩不卡一区二区三区视频在线| 啦啦啦啦在线视频资源| 人妻夜夜爽99麻豆av| 免费观看性生交大片5| av专区在线播放| 久久精品国产自在天天线| 免费看av在线观看网站| 国产精品久久久久久精品古装| 国产乱来视频区| 亚洲国产精品一区二区三区在线| 精品卡一卡二卡四卡免费| kizo精华| 欧美精品国产亚洲| 免费黄网站久久成人精品| 中文天堂在线官网| 久久综合国产亚洲精品| 久久这里有精品视频免费| 中文字幕人妻丝袜制服| 寂寞人妻少妇视频99o| 亚洲av综合色区一区| 日韩,欧美,国产一区二区三区| 精品国产乱码久久久久久小说| 亚洲激情五月婷婷啪啪| 国产亚洲午夜精品一区二区久久| 能在线免费看毛片的网站| 成人18禁高潮啪啪吃奶动态图 | 女的被弄到高潮叫床怎么办| 一个人看视频在线观看www免费| 日本色播在线视频| 99久久综合免费| 午夜影院在线不卡| 欧美日韩精品成人综合77777| 午夜福利影视在线免费观看| 麻豆成人av视频| 日韩伦理黄色片| 水蜜桃什么品种好| 欧美+日韩+精品| 天天操日日干夜夜撸| 男女国产视频网站| av女优亚洲男人天堂| 黄色一级大片看看| 国产一区二区在线观看av| 亚洲精品第二区| 不卡视频在线观看欧美| 人体艺术视频欧美日本| 日日撸夜夜添| 亚洲国产最新在线播放| 国产成人一区二区在线| 我的女老师完整版在线观看| 免费在线观看成人毛片| 精品酒店卫生间| 搡老乐熟女国产| av线在线观看网站| av在线观看视频网站免费| 国产91av在线免费观看| 久久久久久久精品精品| 成年av动漫网址| 国产白丝娇喘喷水9色精品| 日本av免费视频播放| 天堂8中文在线网| 美女内射精品一级片tv| 少妇被粗大猛烈的视频| 丰满迷人的少妇在线观看| 秋霞在线观看毛片| 99re6热这里在线精品视频| 少妇被粗大猛烈的视频| 卡戴珊不雅视频在线播放| 99久久人妻综合| 欧美xxⅹ黑人| 黑人猛操日本美女一级片| 在线观看www视频免费| 女人久久www免费人成看片| 亚洲欧美成人综合另类久久久| 卡戴珊不雅视频在线播放| 丝瓜视频免费看黄片| 日韩熟女老妇一区二区性免费视频| 日韩大片免费观看网站| 国产美女午夜福利| 欧美精品高潮呻吟av久久| 欧美bdsm另类| 99热全是精品| 国产免费一级a男人的天堂| 男男h啪啪无遮挡| 欧美+日韩+精品| 久久影院123| 国产成人午夜福利电影在线观看| 亚洲av福利一区| 中文在线观看免费www的网站| 日韩精品有码人妻一区| 亚洲综合精品二区| h日本视频在线播放| 如日韩欧美国产精品一区二区三区 | 亚洲电影在线观看av| 亚洲自偷自拍三级| 十八禁高潮呻吟视频 | 亚洲精品久久午夜乱码| 久久精品国产a三级三级三级| 亚洲熟女精品中文字幕| 国产淫片久久久久久久久| 色网站视频免费| 美女xxoo啪啪120秒动态图| 国产淫语在线视频| 精华霜和精华液先用哪个| 丰满饥渴人妻一区二区三| 一级毛片黄色毛片免费观看视频| 亚洲国产最新在线播放| 青春草视频在线免费观看| 丰满人妻一区二区三区视频av| 啦啦啦啦在线视频资源| 久久久午夜欧美精品| 国产av国产精品国产| 99国产精品免费福利视频| 国产极品粉嫩免费观看在线 | 国产黄色免费在线视频| 国产精品一区www在线观看| 亚洲国产日韩一区二区| 欧美性感艳星| 国产精品人妻久久久久久| 91午夜精品亚洲一区二区三区| 久久97久久精品| 综合色丁香网| 日韩成人av中文字幕在线观看| 欧美精品一区二区大全| 中文精品一卡2卡3卡4更新| 国产69精品久久久久777片| 街头女战士在线观看网站| av卡一久久| 国产黄片美女视频| 精品一区在线观看国产| 丝袜喷水一区| av免费在线看不卡| 国产无遮挡羞羞视频在线观看| 2022亚洲国产成人精品| 久久午夜福利片| 久久久久久久久久人人人人人人| 国产精品三级大全| 亚洲精品一区蜜桃| 老女人水多毛片| 日韩中字成人| 欧美日韩亚洲高清精品| 国产精品久久久久久久电影| av国产精品久久久久影院| a级一级毛片免费在线观看| 又粗又硬又长又爽又黄的视频| 男人狂女人下面高潮的视频| 天天操日日干夜夜撸| 国产免费福利视频在线观看| 亚洲欧美日韩卡通动漫| 精品亚洲成国产av| 如日韩欧美国产精品一区二区三区 | 少妇人妻精品综合一区二区| 亚洲成人av在线免费| 亚洲va在线va天堂va国产| 久久狼人影院| 九色成人免费人妻av| 丝瓜视频免费看黄片| 精品一区二区免费观看| 在线观看人妻少妇| 日韩精品有码人妻一区| 伊人久久国产一区二区| av播播在线观看一区| 亚洲av综合色区一区| 午夜福利网站1000一区二区三区| 中文乱码字字幕精品一区二区三区| 亚洲成人av在线免费| 中文字幕精品免费在线观看视频 | 亚洲内射少妇av| 亚洲av不卡在线观看| 亚洲欧美成人综合另类久久久| 国产亚洲一区二区精品| 成人黄色视频免费在线看| 国产深夜福利视频在线观看| 国产成人精品无人区| 久久久久精品性色| av.在线天堂| 国产片特级美女逼逼视频| 国产白丝娇喘喷水9色精品| 99九九在线精品视频 | 国产真实伦视频高清在线观看| 亚洲国产精品成人久久小说| 这个男人来自地球电影免费观看 | 国产精品一二三区在线看| 亚洲精品国产成人久久av| 久久狼人影院|