• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    隱私計(jì)算在大規(guī)模通信數(shù)據(jù)場(chǎng)景中的架構(gòu)研究及應(yīng)用

    2023-11-22 10:28:24倪高偉孫苑苑樊巧云
    江蘇通信 2023年5期
    關(guān)鍵詞:參與方密文建模

    倪高偉 孫苑苑 樊巧云

    中國(guó)移動(dòng)通信集團(tuán)江蘇有限公司

    0 引言

    隨著通信技術(shù)迅速發(fā)展,社會(huì)對(duì)數(shù)據(jù)安全保護(hù)的需求不斷增長(zhǎng)。近年來(lái),由于移動(dòng)通信技術(shù)的快速升級(jí),數(shù)據(jù)傳輸速度不斷提高,5G 時(shí)代的到來(lái)已使得更多數(shù)據(jù)通過各種渠道飛速傳播。在此過程中,運(yùn)營(yíng)商沉淀了客戶基本信息、行為數(shù)據(jù)、位置數(shù)據(jù)以及用戶終端信息等海量數(shù)據(jù)。這些數(shù)據(jù)具備準(zhǔn)確性、連續(xù)性、高保真性、豐富性等特點(diǎn),不僅在運(yùn)營(yíng)商領(lǐng)域內(nèi)的價(jià)值高,還能為金融、政務(wù)等行業(yè)發(fā)揮刻畫用戶畫像、挖掘潛客群體等可觀的應(yīng)用價(jià)值。然而,移動(dòng)通信大數(shù)據(jù)包含用戶基本信息及行為等隱私信息,具有高敏感性,若在應(yīng)用中的安全保護(hù)措施不當(dāng),極易造成用戶隱私泄露。在數(shù)據(jù)安全保護(hù)法律趨嚴(yán)的背景下,如何實(shí)現(xiàn)數(shù)據(jù)隱私保護(hù)和數(shù)據(jù)價(jià)值挖掘并重,成為運(yùn)營(yíng)商的重要挑戰(zhàn)。對(duì)此,隱私計(jì)算技術(shù)能夠?qū)⒏鞣綌?shù)據(jù)的明文信息和計(jì)算價(jià)值分離,保障數(shù)據(jù)的隱私安全和計(jì)算結(jié)果的準(zhǔn)確性。但行業(yè)實(shí)踐顯示,隱私計(jì)算涉及大量的密碼運(yùn)算和數(shù)據(jù)通信,在很多應(yīng)用場(chǎng)景中其性能與安全性難以得到有效兼顧(而安全性通常被作為數(shù)據(jù)流通和應(yīng)用的一種底線要求),再加上運(yùn)營(yíng)商數(shù)據(jù)體量大,系統(tǒng)穩(wěn)定性、實(shí)時(shí)性要求高,隱私計(jì)算在許多業(yè)務(wù)應(yīng)用中面臨極大挑戰(zhàn)。

    針對(duì)上述問題,本文結(jié)合移動(dòng)通信數(shù)據(jù)維度高、體量大、變化快等屬性,提出能夠兼顧數(shù)據(jù)安全性、結(jié)果準(zhǔn)確性、業(yè)務(wù)時(shí)效性和系統(tǒng)穩(wěn)定性的隱私計(jì)算技術(shù)架構(gòu)和解決方案,實(shí)現(xiàn)多方數(shù)據(jù)價(jià)值的高效利用,為移動(dòng)運(yùn)營(yíng)商及其合作伙伴的用戶提供更優(yōu)質(zhì)、更精準(zhǔn)的個(gè)性化服務(wù),同時(shí)幫助機(jī)構(gòu)提升數(shù)據(jù)使用合規(guī)能力,推動(dòng)全行業(yè)健康發(fā)展。

    1 隱私計(jì)算簡(jiǎn)介

    1.1 技術(shù)簡(jiǎn)介

    隱私保護(hù)計(jì)算(Privacy-preserving computation,本文簡(jiǎn)稱“隱私計(jì)算”)是指在保證數(shù)據(jù)提供方不泄露原始數(shù)據(jù)的前提下,對(duì)數(shù)據(jù)進(jìn)行分析計(jì)算的一系列信息技術(shù),實(shí)現(xiàn)數(shù)據(jù)在流通和融合過程中的“可用不可見”[1]。從技術(shù)原理來(lái)看,隱私計(jì)算主要包括基于密碼學(xué)的多方安全計(jì)算和同態(tài)加密,基于硬件隔離的可信執(zhí)行環(huán)境,以及源于機(jī)器學(xué)習(xí)領(lǐng)域的聯(lián)邦學(xué)習(xí)技術(shù)等。

    多方安全計(jì)算理論由Yao(1982)[2]通過提出并解答著名的“百萬(wàn)富翁問題”而創(chuàng)立。多方安全計(jì)算是一種基于多方數(shù)據(jù)協(xié)同完成計(jì)算目標(biāo),實(shí)現(xiàn)除計(jì)算結(jié)果及其可推導(dǎo)出的信息之外不泄露各方隱私數(shù)據(jù)的密碼技術(shù)[3]。其安全性和和準(zhǔn)確性有密碼學(xué)領(lǐng)域的嚴(yán)格證明,能夠讓多個(gè)參與方的數(shù)據(jù)通過密碼技術(shù)處理后(可以簡(jiǎn)單認(rèn)為是一種“密文”形式)進(jìn)行輸入并協(xié)同計(jì)算一個(gè)指定函數(shù),同時(shí)保證計(jì)算結(jié)果的正確性和輸入數(shù)據(jù)的隱私性。多方安全計(jì)算常采用的技術(shù)包括不經(jīng)意傳輸(Oblivious Transfer,OT)、混淆電路(Garbled Circuit,GC)、秘密分享(Secret Sharing,SS)、零知識(shí)證明(Zero-Knowledge Proof,ZKF)等。

    同態(tài)加密(Homomorphic Encryption,HE)由Rivest 等(1978)[4]提出,保證了數(shù)據(jù)在密文上運(yùn)算后解密的結(jié)果和在明文上進(jìn)行對(duì)應(yīng)運(yùn)算的結(jié)果一致。具體來(lái)說,通過使用公鑰pk對(duì)兩個(gè)數(shù)據(jù)x、y加密后產(chǎn)生密文[x]、[y],在密文上進(jìn)行運(yùn)算,比如[x]+[y],也就是求和,得到的密文結(jié)果進(jìn)行解密后與x+y的值保持一致。Goldwasser 和Micali(1982)[5]、Paillier(1999)[6]、Boneh 等(2005)[7]及Gentry(2009)[8]對(duì)同態(tài)加密方案進(jìn)行不斷探討,最終實(shí)現(xiàn)了支持無(wú)限次加法和乘法運(yùn)算的同態(tài)加密方法。后來(lái),一些同態(tài)加密技術(shù),如基于門限的全同態(tài)加密(Threshold Fully Homomorphic Encryption)、基于多比特全同態(tài)加密[9],被用于構(gòu)造多方安全計(jì)算協(xié)議(Asharov,2012)[10]。

    可信執(zhí)行環(huán)境的概念源自O(shè)pen Mobile Terminal Platform(OMTP)于2006 年提出的一種保護(hù)移動(dòng)設(shè)備上敏感信息安全的雙系統(tǒng)解決方案[11],在傳統(tǒng)系統(tǒng)運(yùn)行環(huán)境(Rich Execution Environment,REE)之外,提供一個(gè)隔離的安全系統(tǒng)用于處理敏感數(shù)據(jù)。2010 年7 月,Global Platform(致力于安全芯片的跨行業(yè)國(guó)際標(biāo)準(zhǔn)組織,簡(jiǎn)稱GP)起草制定了一整套可信執(zhí)行環(huán)境系統(tǒng)的體系標(biāo)準(zhǔn)[12],成為當(dāng)前許多商業(yè)或開源產(chǎn)品定義其各種功能接口的規(guī)范參考??尚艌?zhí)行環(huán)境的最本質(zhì)屬性是隔離,通過芯片等硬件技術(shù)并與上層軟件協(xié)同對(duì)數(shù)據(jù)進(jìn)行保護(hù),且同時(shí)保留與系統(tǒng)運(yùn)行環(huán)境之間的算力共享。目前,國(guó)際上可信執(zhí)行環(huán)境的代表性硬件產(chǎn)品主要有Intel SGX、ARM TrustZone 等,一些國(guó)內(nèi)廠家也在嘗試提供可信執(zhí)行環(huán)境硬件方案,如兆芯ZX-TCT、海光CSV(ChinaSecurity Virtualization)等。

    聯(lián)邦學(xué)習(xí)的本質(zhì)是分布式的機(jī)器學(xué)習(xí),旨在聯(lián)合多方數(shù)據(jù)實(shí)現(xiàn)共同建模,提升模型的效果。2016 年,針對(duì)手機(jī)終端的隱私問題,谷歌公司提出了“聯(lián)邦學(xué)習(xí)”(Federated Learning)算法框架[13]。楊強(qiáng)教授團(tuán)隊(duì)與微眾銀行隨后提出了基于“聯(lián)邦學(xué)習(xí)”的系統(tǒng)性的通用解決方案,可以解決個(gè)人(2C)和公司間(2B)聯(lián)合建模的問題[14]。根據(jù)數(shù)據(jù)集的不同類型,聯(lián)邦學(xué)習(xí)分為橫向聯(lián)邦學(xué)習(xí)(適用于兩個(gè)數(shù)據(jù)集的用戶特征重疊較多而用戶重疊較少的情況)、縱向聯(lián)邦學(xué)習(xí)(適用于兩個(gè)數(shù)據(jù)集用戶特征重疊較少,但用戶重疊較多的情況)與聯(lián)邦遷移學(xué)習(xí)(適用于兩個(gè)數(shù)據(jù)集的用戶特征和用戶都重疊較少的情況)等。聯(lián)邦學(xué)習(xí)通常需要結(jié)合多方安全計(jì)算[15]、同態(tài)加密[16]、可信執(zhí)行環(huán)境[17]、差分隱私[18]等安全技術(shù)來(lái)保護(hù)訓(xùn)練過程中被交互的模型信息。

    1.2 應(yīng)用價(jià)值

    許多數(shù)據(jù)密集型行業(yè)雖然有一定用戶數(shù)據(jù)基礎(chǔ),但僅依賴存量客戶數(shù)據(jù),面臨著數(shù)據(jù)量小、維度不全導(dǎo)致的業(yè)務(wù)精度低下的痛點(diǎn)。對(duì)此,諸多機(jī)構(gòu)近年來(lái)積極探索基于大數(shù)據(jù)、人工智能等的新興技術(shù)方案,希望依托運(yùn)營(yíng)商數(shù)據(jù)提升業(yè)務(wù)發(fā)展水平。然而,數(shù)據(jù)在傳統(tǒng)的明文流通模式中會(huì)暴露信息,易于被復(fù)制并進(jìn)行傳播,再加上數(shù)據(jù)權(quán)屬界定尚不清晰,導(dǎo)致其流通和使用過程難以有效管控。一直以來(lái),由于缺乏數(shù)據(jù)在計(jì)算過程中的隱私保護(hù)技術(shù),數(shù)據(jù)共享的參與機(jī)構(gòu)往往需要通過制定嚴(yán)格的數(shù)據(jù)共享規(guī)范來(lái)約束數(shù)據(jù)使用方式、落實(shí)數(shù)據(jù)保密責(zé)任。而僅依靠管理手段的數(shù)據(jù)安全保護(hù)實(shí)施成本和風(fēng)險(xiǎn)都較高,同時(shí)造成基于跨域數(shù)據(jù)的人工智能、機(jī)器學(xué)習(xí)應(yīng)用難以進(jìn)行,限制了運(yùn)營(yíng)商數(shù)據(jù)對(duì)外賦能的應(yīng)用落地。

    2022 年12 月《中共中央國(guó)務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》對(duì)外公布,提出“建立數(shù)據(jù)資源持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營(yíng)權(quán)等分置的產(chǎn)權(quán)運(yùn)行機(jī)制”,以建立基于數(shù)據(jù)價(jià)值流通的數(shù)據(jù)要素共享新模式。數(shù)據(jù)融合應(yīng)用的需求驅(qū)動(dòng)了隱私計(jì)算技術(shù)的創(chuàng)新應(yīng)用。這些技術(shù)基于密碼學(xué)、統(tǒng)計(jì)學(xué)及硬件安全等不同方法,能夠?qū)崿F(xiàn)不同程度上的數(shù)據(jù)“可用不可見”,解決其在流通過程中信息暴露的問題。以多方安全計(jì)算技術(shù)為例,從上述數(shù)據(jù)產(chǎn)權(quán)的角度看,該技術(shù)能夠有效分離數(shù)據(jù)要素的持有權(quán)和使用權(quán),即在數(shù)據(jù)要素持有權(quán)不變的情況下,對(duì)其在特定場(chǎng)景中的使用價(jià)值進(jìn)行流通(如圖1 所示)。這就規(guī)避了數(shù)據(jù)明文流通使用容易帶來(lái)的持有權(quán)變更問題。

    圖1 多方安全計(jì)算有效分離數(shù)據(jù)持有權(quán)和使用權(quán)

    一些隱私計(jì)算技術(shù)由于涉及數(shù)據(jù)加解密、數(shù)據(jù)密文計(jì)算和通信等過程,其計(jì)算效率有所下降。因此在實(shí)踐中,隱私計(jì)算技術(shù)的應(yīng)用需要綜合考慮隱私保護(hù)程度、數(shù)據(jù)處理量、時(shí)效性等實(shí)際業(yè)務(wù)需求,通過合理的系統(tǒng)架構(gòu)設(shè)計(jì)實(shí)現(xiàn)落地,在保障數(shù)據(jù)安全性和系統(tǒng)可靠性的同時(shí),滿足業(yè)務(wù)對(duì)海量數(shù)據(jù)計(jì)算的性能要求。

    2 通信數(shù)據(jù)隱私計(jì)算技術(shù)架構(gòu)

    數(shù)據(jù)是運(yùn)營(yíng)商的立身之本。江蘇移動(dòng)積累了PB 級(jí)的用戶數(shù)據(jù),包括身份、上網(wǎng)、位置、社交、支出、通信、終端、時(shí)序等多種類型,數(shù)據(jù)實(shí)時(shí)性強(qiáng),準(zhǔn)確性高,具有高保真性,能夠?yàn)榻鹑?、電商等領(lǐng)域相關(guān)業(yè)務(wù)帶來(lái)巨大價(jià)值賦能。

    2.1 隱私計(jì)算平臺(tái)功能架構(gòu)

    為實(shí)現(xiàn)海量用戶數(shù)據(jù)的安全高效利用,江蘇移動(dòng)深入研究并優(yōu)化隱私計(jì)算理論和應(yīng)用思路,開發(fā)建設(shè)了“AnDFusion安數(shù)聚”(簡(jiǎn)稱“安數(shù)聚”)隱私計(jì)算平臺(tái)。該平臺(tái)建立在企業(yè)的數(shù)據(jù)、網(wǎng)絡(luò)、存儲(chǔ)等基礎(chǔ)設(shè)施之上,向上提供保護(hù)用戶隱私的聯(lián)合營(yíng)銷、風(fēng)控、監(jiān)管等業(yè)務(wù)應(yīng)用,其架構(gòu)如圖2所示。平臺(tái)內(nèi)部主要功能模塊包括場(chǎng)景應(yīng)用、應(yīng)用服務(wù)、計(jì)算引擎、數(shù)據(jù)服務(wù)和系統(tǒng)管理,各模塊功能如下:

    圖2 安數(shù)聚隱私計(jì)算平臺(tái)功能架構(gòu)

    (1)場(chǎng)景應(yīng)用模塊將企業(yè)內(nèi)部以及外部業(yè)務(wù)合作方的多種類型數(shù)據(jù)進(jìn)行安全融合,面向金融、互聯(lián)網(wǎng)等行業(yè)客戶提供聯(lián)合風(fēng)控、聯(lián)合營(yíng)銷、集團(tuán)監(jiān)管等業(yè)務(wù);

    (2)應(yīng)用服務(wù)模塊涵蓋從多個(gè)業(yè)務(wù)中抽象出來(lái)的場(chǎng)景能力,包括基于多方數(shù)據(jù)的隱匿查詢、安全求交、聯(lián)合統(tǒng)計(jì)、聯(lián)合建模(聯(lián)邦學(xué)習(xí))等。隱匿查詢是指查詢方隱藏被查詢對(duì)象關(guān)鍵詞,數(shù)據(jù)提供方匹配查詢結(jié)果卻無(wú)法獲知具體對(duì)應(yīng)哪個(gè)查詢對(duì)象,同時(shí)保護(hù)查詢方的查詢意圖和數(shù)據(jù)提供方的數(shù)據(jù);隱私求交是在不泄漏參與方各自原始數(shù)據(jù)的前提下協(xié)同計(jì)算輸出集合的交集,一方或兩方能夠得到交集結(jié)果,但是雙方都無(wú)法獲知交集以外的對(duì)方集合數(shù)據(jù)的任何信息,實(shí)現(xiàn)保護(hù)隱私安全的數(shù)據(jù)求交;聯(lián)合統(tǒng)計(jì)是在保護(hù)各方數(shù)據(jù)的前提下,利用多方數(shù)據(jù)聯(lián)合統(tǒng)計(jì)分析,只向需求方輸出統(tǒng)計(jì)結(jié)果;聯(lián)合建模為參與方不直接交互原始數(shù)據(jù),但是能得到和明文數(shù)據(jù)匯聚建模相同效果的模型。

    (3)計(jì)算引擎模塊包括若干個(gè)通過網(wǎng)絡(luò)互連的計(jì)算節(jié)點(diǎn),各個(gè)計(jì)算節(jié)點(diǎn)之間通過安全通信方式實(shí)現(xiàn)互聯(lián)互通,對(duì)外提供密文計(jì)算接口,按照多方安全加密協(xié)議在計(jì)算節(jié)點(diǎn)之間實(shí)現(xiàn)密文計(jì)算。加密協(xié)議主要負(fù)責(zé)密文計(jì)算任務(wù)的執(zhí)行,提供多方安全計(jì)算協(xié)議,包括秘密分享、混淆電路、同態(tài)加密、不經(jīng)意傳輸?shù)?。同時(shí)平臺(tái)提供多方計(jì)算的密文函數(shù)庫(kù)和算法庫(kù),支持編寫類Python 代碼,實(shí)現(xiàn)類Python 的科學(xué)計(jì)算函數(shù)庫(kù)(Numpy),深度學(xué)習(xí)函數(shù)庫(kù)(Pytorch),機(jī)器學(xué)習(xí)算法庫(kù)(Pai)等函數(shù)庫(kù),上層應(yīng)用可基于多方計(jì)算密文函數(shù)庫(kù)和算法庫(kù)靈活定義應(yīng)用算法,滿足不同應(yīng)用場(chǎng)景的多方數(shù)據(jù)計(jì)算需求。

    (4)數(shù)據(jù)服務(wù)模塊負(fù)責(zé)對(duì)接用戶的數(shù)據(jù)源和明文計(jì)算服務(wù),支持接入多種數(shù)據(jù)源、多種數(shù)據(jù)類型,并與本地明文計(jì)算服務(wù)對(duì)接進(jìn)行預(yù)處理和本地計(jì)算。數(shù)據(jù)接入后形成數(shù)據(jù)目錄根據(jù)權(quán)限進(jìn)行發(fā)布管理和使用授權(quán),在計(jì)算過程中對(duì)提供的數(shù)據(jù)加密后發(fā)送給計(jì)算引擎進(jìn)行計(jì)算,計(jì)算完成后從計(jì)算引擎獲取密文結(jié)果進(jìn)行解密。

    (5)系統(tǒng)管理模塊包括任務(wù)管理、用戶管理、證書管理、配置管理、資源管理和日志管理等,為安數(shù)聚平臺(tái)提供基礎(chǔ)服務(wù)功能;負(fù)責(zé)整體計(jì)算資源的管理,計(jì)算任務(wù)管理和調(diào)度功能,驅(qū)動(dòng)數(shù)據(jù)接入和計(jì)算引擎進(jìn)行相應(yīng)工作;并根據(jù)數(shù)據(jù)的隱私性要求以及任務(wù)的實(shí)際情況靈活進(jìn)行明文計(jì)算以及密文計(jì)算,對(duì)計(jì)算任務(wù)和計(jì)算資源進(jìn)行有效組織、劃分和調(diào)度,在保證數(shù)據(jù)隱私性的前提下最大限度的提升計(jì)算效率。

    2.2 隱私計(jì)算平臺(tái)部署架構(gòu)

    安數(shù)聚平臺(tái)基于微服務(wù)技術(shù)架構(gòu),實(shí)現(xiàn)系統(tǒng)功能靈活組裝。通過數(shù)據(jù)、算法和算力的解耦,平臺(tái)能夠支持每個(gè)參與方在系統(tǒng)運(yùn)行過程中動(dòng)態(tài)地接入或退出平臺(tái),適配實(shí)時(shí)任務(wù)數(shù)量變化動(dòng)態(tài)擴(kuò)展,具有非常高的可伸縮性,滿足不同參與角色的價(jià)值需求。

    平臺(tái)根據(jù)參與方間的關(guān)系,如數(shù)據(jù)提供方和計(jì)算方是否重疊、是否有獨(dú)立的調(diào)度方,靈活提供點(diǎn)對(duì)點(diǎn)對(duì)等模式、統(tǒng)一控制模式和代理計(jì)算模式三種部署模式(如圖3 所示)。三種部署方式既可以獨(dú)立部署,又可以混合部署。參與方可以根據(jù)多方計(jì)算的實(shí)際運(yùn)營(yíng)要求進(jìn)行選擇或組合,以點(diǎn)對(duì)點(diǎn)部署模式為主實(shí)現(xiàn)去中心化運(yùn)營(yíng),以統(tǒng)一控制部署模式為主實(shí)現(xiàn)中心調(diào)度,以代理計(jì)算模式為主實(shí)現(xiàn)集中式運(yùn)營(yíng)。

    圖3 安數(shù)聚隱私計(jì)算平臺(tái)部署架構(gòu)

    (1)點(diǎn)對(duì)點(diǎn)模式一般適合兩方計(jì)算的場(chǎng)景,兩個(gè)參與方各自在本地部署一套對(duì)等的多方計(jì)算平臺(tái),各自有完整的控制面,任何一方都可以獨(dú)立運(yùn)行。該模式中,多方計(jì)算的兩方同時(shí)扮演任務(wù)調(diào)度方、數(shù)據(jù)提供方和計(jì)算方,并由其中一方發(fā)起多方計(jì)算任務(wù)。需要完成多方計(jì)算任務(wù)時(shí),通過控制面配置參與兩方為對(duì)等關(guān)系,協(xié)調(diào)調(diào)度兩方的計(jì)算資源以及數(shù)據(jù)資源,實(shí)現(xiàn)多方計(jì)算。

    (2)統(tǒng)一控制模式在點(diǎn)對(duì)點(diǎn)模式的基礎(chǔ)上增加一個(gè)統(tǒng)一控制面,一般存在一個(gè)主動(dòng)建設(shè)方部署該控制面,實(shí)現(xiàn)對(duì)所有參與方統(tǒng)一任務(wù)管理與調(diào)度。該模式中,多方計(jì)算的各實(shí)例都同時(shí)扮演任務(wù)數(shù)據(jù)提供方和計(jì)算方,而調(diào)度方則獨(dú)立部署,統(tǒng)一調(diào)度各方資源并發(fā)起多方計(jì)算任務(wù)。統(tǒng)一控制模式便于各個(gè)參與方的數(shù)據(jù)資源、計(jì)算資源的共享與發(fā)現(xiàn),以及多個(gè)參與方的任務(wù)管理與調(diào)度,因此其易于支持超過兩方的多方計(jì)算任務(wù),也可靈活的實(shí)現(xiàn)參與方的新增與移除。

    (3)代理計(jì)算模式將密文計(jì)算的資源從各個(gè)參與方的部署環(huán)境中獨(dú)立出來(lái),各參與方本地只進(jìn)行數(shù)據(jù)加解密,不直接參與密文計(jì)算。該模式中,多方計(jì)算的各實(shí)例扮演任務(wù)數(shù)據(jù)提供方,而計(jì)算方和調(diào)度方則獨(dú)立部署,發(fā)起多方計(jì)算任務(wù)并調(diào)度各方資源,同時(shí)執(zhí)行密文計(jì)算任務(wù)。這種將密文計(jì)算過程放到獨(dú)立資源池中進(jìn)行的模式,簡(jiǎn)化了對(duì)各個(gè)參與方的部署要求,并實(shí)現(xiàn)了密文計(jì)算資源的共享。此模式適合集團(tuán)公司部署場(chǎng)景,在集團(tuán)公司總部部署密文計(jì)算資源池以及統(tǒng)一的控制面,從而實(shí)現(xiàn)對(duì)整體平臺(tái)的管控,快速構(gòu)建共享的多方計(jì)算平臺(tái)。

    2.3 隱私計(jì)算平臺(tái)安全架構(gòu)

    安全是隱私計(jì)算平臺(tái)的根本,安數(shù)聚平臺(tái)遵照系統(tǒng)通用安全設(shè)計(jì)要求和行業(yè)隱私技術(shù)應(yīng)用規(guī)范,從通信安全、存儲(chǔ)安全、數(shù)據(jù)隱私安全、計(jì)算過程安全等多個(gè)方面,提供了可靠的安全技術(shù)方法,支撐整個(gè)平臺(tái)的應(yīng)用安全,如圖4 所示。

    圖4 安數(shù)聚隱私計(jì)算平臺(tái)安全架構(gòu)

    系統(tǒng)通用安全參考了網(wǎng)絡(luò)安全等級(jí)保護(hù)中的相關(guān)要求,這些安全要求在一般信息系統(tǒng)中都會(huì)使用,這里不做詳細(xì)展開(比如其中涉及大量的安全管理方面的內(nèi)容),僅對(duì)圖4 中抽取的計(jì)算環(huán)境安全中的重要部分進(jìn)行說明。

    (1)通信安全:平臺(tái)各參與方之間通信的安全協(xié)議參照SSL 協(xié)議進(jìn)行實(shí)現(xiàn),SSL 協(xié)議符合標(biāo)準(zhǔn)《GM/T 0024-2014 SSL VPN 技術(shù)規(guī)范》。各參與方都需要持有具有相同信任根的證書鏈,使用證書鏈建立SSL 安全通道,在建立安全通道前會(huì)進(jìn)行雙向認(rèn)證,確定對(duì)方身份。安全通道通過密鑰交換技術(shù)產(chǎn)生雙方共享的傳輸保護(hù)密鑰,對(duì)傳輸數(shù)據(jù)進(jìn)行機(jī)密性、完整性保護(hù)和驗(yàn)證,可以避免因傳輸協(xié)議受到攻擊而出現(xiàn)信息被竊取或篡改等風(fēng)險(xiǎn)。在出現(xiàn)通信延時(shí)、中斷等情況時(shí),采用超時(shí)重試機(jī)制完成安全通信通道的恢復(fù),當(dāng)檢測(cè)到數(shù)據(jù)完整性被破壞時(shí),會(huì)中斷此次通信,并重試。

    (2)存儲(chǔ)安全:平臺(tái)對(duì)一些重要、敏感數(shù)據(jù)(比如業(yè)務(wù)數(shù)據(jù)、個(gè)人信息相關(guān)的數(shù)據(jù)等)在存儲(chǔ)時(shí)進(jìn)行機(jī)密性和完整性保護(hù),防止被竊取和篡改。

    一些常見的技術(shù)類型,比如身份認(rèn)證、訪問控制、數(shù)據(jù)加密、數(shù)字簽名等,其中底層的標(biāo)準(zhǔn)密碼算法(如SM 系列)也會(huì)被這些技術(shù)所依賴。

    毫無(wú)疑問,系統(tǒng)通用安全是隱私計(jì)算過程安全和平臺(tái)應(yīng)用安全的重要保障。而隱私計(jì)算過程安全是整個(gè)隱私計(jì)算平臺(tái)的安全核心所在,其包括數(shù)據(jù)隱私安全和數(shù)據(jù)使用安全兩個(gè)重要方面。

    (3)數(shù)據(jù)隱私安全:包括原始輸入數(shù)據(jù)的隱私安全以及計(jì)算結(jié)果的隱私安全。平臺(tái)的每個(gè)數(shù)據(jù)提供方都在任務(wù)開始時(shí)將原始數(shù)據(jù)加密后發(fā)給計(jì)算引擎,在整個(gè)計(jì)算過程中都以加密的方式存在于計(jì)算引擎中,在計(jì)算結(jié)束后,結(jié)果以密文形式發(fā)送至結(jié)果接收方環(huán)境,結(jié)果接收方在本地進(jìn)行解密(其本地環(huán)境包含一個(gè)數(shù)據(jù)解密模塊),轉(zhuǎn)換為結(jié)果明文。結(jié)果解密機(jī)制能夠保證當(dāng)結(jié)果密文進(jìn)入接收方環(huán)境之后再進(jìn)行解密。結(jié)果僅能由指定的結(jié)果方取走。因此整個(gè)計(jì)算過程中,數(shù)據(jù)節(jié)點(diǎn)是看不到中間數(shù)據(jù)的,結(jié)束后也看不到其他參與方拿到的結(jié)果。獲取結(jié)果的參與方也無(wú)法獲得除結(jié)果外的其他信息。安數(shù)聚隱私計(jì)算平臺(tái)采用多方安全計(jì)算(MPC)協(xié)議,該協(xié)議具有嚴(yán)格的密碼學(xué)理論證明,能夠保證整個(gè)計(jì)算過程中數(shù)據(jù)的隱私安全。

    (4)數(shù)據(jù)使用安全:包括數(shù)據(jù)授權(quán)使用以及使用過程可追溯。數(shù)據(jù)提供方能夠?qū)ψ陨頂?shù)據(jù)的用法(即運(yùn)行在什么算法上)、用量(使用多少次、使用期限等)進(jìn)行授權(quán),只有經(jīng)過授權(quán)的數(shù)據(jù)才能被輸入運(yùn)行。由于隱私計(jì)算過程中“數(shù)據(jù)不可見”,因此需要對(duì)數(shù)據(jù)濫用、違規(guī)使用等情況具備過程追溯能力。安數(shù)聚隱私計(jì)算平臺(tái)通過計(jì)算合約技術(shù),將數(shù)據(jù)用法、用量記入合約,并通過相關(guān)方簽名生效,在計(jì)算過程中嚴(yán)格核驗(yàn),保證數(shù)據(jù)在授權(quán)范圍內(nèi)使用,并按月將相關(guān)信息上傳到業(yè)務(wù)存證平臺(tái),以備相關(guān)監(jiān)控審計(jì)使用。

    在系統(tǒng)通用安全和計(jì)算過程安全的雙重保重下,安數(shù)聚隱私計(jì)算平臺(tái)采用無(wú)安全漏洞、知識(shí)產(chǎn)權(quán)明確、自主可控的應(yīng)用類算法對(duì)外提供應(yīng)用服務(wù)。

    2.4 解決方案優(yōu)勢(shì)

    本方案采用密碼算法改進(jìn)、系統(tǒng)架構(gòu)優(yōu)化和軟硬件結(jié)合等理論和工程化創(chuàng)新手段,使得平臺(tái)在保障數(shù)據(jù)安全性的同時(shí),具備計(jì)算高性能、場(chǎng)景可通用、數(shù)據(jù)規(guī)模和算力易擴(kuò)展、平臺(tái)高可用等特點(diǎn),能夠支持跨機(jī)構(gòu)及跨行業(yè)的數(shù)據(jù)交換、聯(lián)合建模及聯(lián)合統(tǒng)計(jì)等通用功能。具體地,安數(shù)聚隱私計(jì)算平臺(tái)采用算法、算力和數(shù)據(jù)層層解耦合的部署架構(gòu),此架構(gòu)實(shí)現(xiàn)的平臺(tái)優(yōu)勢(shì)如下:

    (1)計(jì)算性能高:通過優(yōu)化應(yīng)用層面算法設(shè)計(jì),對(duì)消耗資源較多的密文模塊進(jìn)行分析,從而設(shè)計(jì)出針對(duì)密文算法有效的優(yōu)化方式;同時(shí),在計(jì)算引擎層面,通過算法邏輯分析解構(gòu)明文本地計(jì)算和密文交互計(jì)算,實(shí)現(xiàn)明密文混合計(jì)算,最大程度優(yōu)化計(jì)算效率;支持在數(shù)據(jù)標(biāo)簽保密的情況下達(dá)到亞秒級(jí)模型預(yù)測(cè);同時(shí)在接入端側(cè)使用專用半同態(tài)加速芯片,模冪性能達(dá)到9 萬(wàn)次/秒,約等于1000 核CPU;另外,通過優(yōu)化計(jì)算并行度,實(shí)現(xiàn)對(duì)CPU、網(wǎng)絡(luò)帶寬等計(jì)算資源的有效利用。例如,密碼學(xué)層面提高加解密模塊的并行度,使得CPU 達(dá)到最大使用率。算法層面實(shí)現(xiàn)任務(wù)并行,例如可以按數(shù)據(jù)集特征或樣本批次,將算法劃分為多個(gè)子任務(wù),以實(shí)現(xiàn)線程或進(jìn)程級(jí)別的并行。調(diào)度層面進(jìn)行優(yōu)化,以保證各個(gè)參與方都可以最大程度參與到任務(wù)中,減少因調(diào)度問題造成的資源閑置。

    (2)場(chǎng)景通用性強(qiáng):底層密文算法模塊綜合運(yùn)用同態(tài)加密、秘密分享、不經(jīng)意傳輸?shù)让艽a學(xué)協(xié)議,構(gòu)造通用密文計(jì)算;在此基礎(chǔ)上構(gòu)造高通用性密文算子庫(kù),包括400 余個(gè)函數(shù)和200 余個(gè)建模算法,實(shí)現(xiàn)隱匿查詢、安全求交、聯(lián)合統(tǒng)計(jì)、聯(lián)合建模等多種應(yīng)用服務(wù)功能,可面向客戶畫像、聯(lián)合風(fēng)控等通用性業(yè)務(wù)場(chǎng)景,在客戶現(xiàn)場(chǎng)定制開發(fā)業(yè)務(wù),縮短app 上線時(shí)間,獲得市場(chǎng)先發(fā)優(yōu)勢(shì)。

    (3)參與方易擴(kuò)展:平臺(tái)支持從兩方到任意數(shù)據(jù)參與方的動(dòng)態(tài)加入,支持多種部署方式,如計(jì)算引擎與數(shù)據(jù)接入既可一起部署或分開部署,系統(tǒng)管理可以部署在一方也可以部署在多方。靈活的部署方式和豐富的場(chǎng)景能力可以廣泛滿足多個(gè)參與方對(duì)于聯(lián)合統(tǒng)計(jì)、計(jì)算、AI 建模等業(yè)務(wù)場(chǎng)景需求。

    (4)支持海量數(shù)據(jù)集建模:最大可支持百億級(jí)建模(行數(shù)乘以列數(shù))。

    (5)安全性強(qiáng):平臺(tái)兼顧全方位、多維度的數(shù)據(jù)安全設(shè)計(jì);支持高安全等級(jí)建模,如基于多方安全計(jì)算技術(shù)進(jìn)行純密文建模和預(yù)測(cè),對(duì)算法、交集、模型、衍生變量、標(biāo)簽可提供高級(jí)別保護(hù),支持聯(lián)合預(yù)測(cè)時(shí)對(duì)ID 進(jìn)行隱匿等;

    (6)多種建模架構(gòu)可選:參與方可靈活選擇多方安全計(jì)算純密文建?;蚵?lián)邦建模(明密文混合計(jì)算);

    (7)平臺(tái)架構(gòu)高可用:支持系統(tǒng)級(jí)的兩地三中心部署架構(gòu);支持節(jié)點(diǎn)級(jí)的雙活和負(fù)載均衡。

    3 落地案例

    3.1 應(yīng)用背景

    電商行業(yè)近年來(lái)迫于新業(yè)務(wù)增長(zhǎng)壓力和客戶需求變化,亟待通過隱私計(jì)算技術(shù)實(shí)現(xiàn)與運(yùn)營(yíng)商數(shù)據(jù)的安全融合計(jì)算,根據(jù)運(yùn)營(yíng)商數(shù)據(jù)中的用戶通信及消費(fèi)特征補(bǔ)全自身用戶畫像,并進(jìn)一步進(jìn)行分析篩選,提升精準(zhǔn)獲客營(yíng)銷能力,同時(shí)降低新客拓展成本,實(shí)現(xiàn)運(yùn)營(yíng)商數(shù)據(jù)賦能業(yè)務(wù)提質(zhì)增效。

    電商平臺(tái)作為建模需求方,江蘇移動(dòng)作為數(shù)據(jù)提供方,共同基于安數(shù)聚隱私計(jì)算平臺(tái)進(jìn)行聯(lián)合建模,共享數(shù)據(jù)應(yīng)用價(jià)值。聯(lián)合模型充分利用江蘇移動(dòng)的大數(shù)據(jù)優(yōu)勢(shì)和電商平臺(tái)行業(yè)經(jīng)驗(yàn),有效識(shí)別潛在高價(jià)值用戶,定點(diǎn)投放,提升營(yíng)銷回報(bào)。

    3.2 建模過程

    江蘇移動(dòng)與電商平臺(tái)應(yīng)用安數(shù)聚隱私計(jì)算平臺(tái)的模型訓(xùn)練業(yè)務(wù)流程分五個(gè)階段。

    (1)算法準(zhǔn)備:電商平臺(tái)導(dǎo)入算法。

    (2)求交數(shù)據(jù)準(zhǔn)備:電商平臺(tái)和江蘇移動(dòng)準(zhǔn)備雙方的求交數(shù)據(jù)集,創(chuàng)建并且發(fā)布數(shù)據(jù)集。江蘇移動(dòng)提供7000 萬(wàn)條全量數(shù)據(jù),數(shù)據(jù)字段包括手機(jī)號(hào)MD5 值(ID 列),用于求交;電商平臺(tái)提供10 萬(wàn)條訓(xùn)練數(shù)據(jù),數(shù)據(jù)字段包括手機(jī)號(hào)MD5值(ID 列)、label(y 列)、用戶平臺(tái)訪問及消費(fèi)信息等195個(gè)特征列。

    (3)安全求交:電商平臺(tái)創(chuàng)建安全求交合約后提交審批;江蘇移動(dòng)審批后,電商平臺(tái)執(zhí)行求交任務(wù),得到交集手機(jī)號(hào)MD5 值、label(y 列)和195 個(gè)特征列;江蘇移動(dòng)得到交集手機(jī)號(hào)MD5 值。

    (4)訓(xùn)練數(shù)據(jù)準(zhǔn)備:電商平臺(tái)將求交結(jié)果文件發(fā)布為訓(xùn)練數(shù)據(jù)集,數(shù)據(jù)字段包含手機(jī)號(hào)MD5 值(ID 列)、label(y 列)、用戶平臺(tái)訪問及消費(fèi)信息等195 個(gè)特征列;同時(shí),江蘇移動(dòng)基于求交結(jié)果補(bǔ)充特征數(shù)據(jù)后在平臺(tái)發(fā)布訓(xùn)練數(shù)據(jù)集,數(shù)據(jù)字段包括手機(jī)號(hào)MD5 值(ID)、用戶通話及流量使用行為信息等271 個(gè)特征列。

    (5)模型訓(xùn)練:電商平臺(tái)作為建模發(fā)起方,創(chuàng)建縱向邏輯回歸算法訓(xùn)練合約,江蘇移動(dòng)審批通過后,電商平臺(tái)執(zhí)行模型訓(xùn)練任務(wù),進(jìn)行模型訓(xùn)練和模型評(píng)估,模型訓(xùn)練成功后發(fā)布在電商平臺(tái)和江蘇移動(dòng)兩方,存儲(chǔ)在雙方各自的服務(wù)器路徑中。

    3.3 建模效果

    經(jīng)驗(yàn)證,江蘇移動(dòng)與電商平臺(tái)聯(lián)合建立的模型AUC 值≥0.8,其準(zhǔn)確性較常規(guī)建模提高近40%,相關(guān)建模耗時(shí)如表1所示。

    表1 基于安數(shù)聚隱私計(jì)算平臺(tái)的聯(lián)合建模任務(wù)耗時(shí)

    4 結(jié)束語(yǔ)

    面對(duì)各行各業(yè)廣泛多樣的數(shù)據(jù)融合應(yīng)用需求,運(yùn)營(yíng)商數(shù)據(jù)在不同領(lǐng)域的業(yè)務(wù)場(chǎng)景均有廣闊應(yīng)用空間。在如供應(yīng)鏈金融等諸多體系內(nèi),通信運(yùn)營(yíng)商作為支持性機(jī)構(gòu),沉淀的企業(yè)、個(gè)人等不同主體的行為等數(shù)據(jù)能夠作為銀行評(píng)判客戶風(fēng)險(xiǎn)的補(bǔ)充信息,助力提升銀行信貸融資服務(wù)水平,對(duì)于促進(jìn)國(guó)家普惠金融健康發(fā)展、助推實(shí)體經(jīng)濟(jì)高質(zhì)量發(fā)展具有重要意義。

    展望未來(lái),大數(shù)據(jù)與實(shí)體產(chǎn)業(yè)深度融合將具有可觀的市場(chǎng)空間和前景。江蘇移動(dòng)基于多樣場(chǎng)景下的數(shù)據(jù)流通實(shí)踐,與合作伙伴協(xié)同建立數(shù)據(jù)生態(tài),進(jìn)一步支撐大數(shù)據(jù)和人工智能等新興技術(shù)應(yīng)用,形成廣泛的價(jià)值鏈閉環(huán),促進(jìn)從“內(nèi)部服務(wù)”向“外部鏈接、構(gòu)建生態(tài)”轉(zhuǎn)型,實(shí)現(xiàn)數(shù)據(jù)生態(tài)真正轉(zhuǎn)變?yōu)闃I(yè)務(wù)價(jià)值,推動(dòng)我國(guó)產(chǎn)業(yè)優(yōu)化升級(jí)、形成高質(zhì)量發(fā)展新格局。

    猜你喜歡
    參與方密文建模
    一種針對(duì)格基后量子密碼的能量側(cè)信道分析框架
    基于秘密分享的高效隱私保護(hù)四方機(jī)器學(xué)習(xí)方案
    一種支持動(dòng)態(tài)更新的可排名密文搜索方案
    基于模糊數(shù)學(xué)的通信網(wǎng)絡(luò)密文信息差錯(cuò)恢復(fù)
    聯(lián)想等效,拓展建模——以“帶電小球在等效場(chǎng)中做圓周運(yùn)動(dòng)”為例
    基于PSS/E的風(fēng)電場(chǎng)建模與動(dòng)態(tài)分析
    電子制作(2018年17期)2018-09-28 01:56:44
    不對(duì)稱半橋變換器的建模與仿真
    綠色農(nóng)房建設(shè)伙伴關(guān)系模式初探
    涉及多參與方的系統(tǒng)及方法權(quán)利要求的撰寫
    專利代理(2016年1期)2016-05-17 06:14:03
    基于IPD模式的項(xiàng)目參與方利益分配研究
    18禁国产床啪视频网站| 国产伦精品一区二区三区四那| 日本熟妇午夜| 国产真人三级小视频在线观看| 成在线人永久免费视频| 亚洲人与动物交配视频| 成人一区二区视频在线观看| 动漫黄色视频在线观看| 亚洲国产欧洲综合997久久,| 18禁裸乳无遮挡免费网站照片| 99久久综合精品五月天人人| 日韩精品中文字幕看吧| 欧美+亚洲+日韩+国产| 长腿黑丝高跟| 国产成人aa在线观看| 高潮久久久久久久久久久不卡| 小说图片视频综合网站| 免费高清视频大片| 国产美女午夜福利| 国产亚洲精品综合一区在线观看| 亚洲乱码一区二区免费版| 久久久久久久午夜电影| 欧美日韩福利视频一区二区| 日日夜夜操网爽| 国产午夜福利久久久久久| 亚洲片人在线观看| 岛国视频午夜一区免费看| 精品久久久久久久毛片微露脸| 久久久久久久午夜电影| 国产一级毛片七仙女欲春2| 亚洲国产精品sss在线观看| 国产精品av视频在线免费观看| 亚洲激情在线av| 舔av片在线| cao死你这个sao货| 两个人视频免费观看高清| av女优亚洲男人天堂 | 可以在线观看毛片的网站| 免费在线观看视频国产中文字幕亚洲| ponron亚洲| 18禁黄网站禁片免费观看直播| 久久久成人免费电影| 制服丝袜大香蕉在线| 岛国在线免费视频观看| 欧美成狂野欧美在线观看| 精品一区二区三区视频在线 | АⅤ资源中文在线天堂| 女生性感内裤真人,穿戴方法视频| 狠狠狠狠99中文字幕| 午夜福利在线观看吧| 国产伦精品一区二区三区视频9 | 久久欧美精品欧美久久欧美| 国产一区在线观看成人免费| 天堂动漫精品| 成年女人永久免费观看视频| 69av精品久久久久久| 欧美xxxx黑人xx丫x性爽| 国产成人影院久久av| 久久久国产成人免费| 首页视频小说图片口味搜索| 欧美黄色淫秽网站| 国产高清videossex| 一级毛片高清免费大全| 看免费av毛片| 欧美乱色亚洲激情| 国产精品乱码一区二三区的特点| 动漫黄色视频在线观看| 亚洲av成人不卡在线观看播放网| 无遮挡黄片免费观看| 亚洲专区中文字幕在线| 亚洲一区二区三区色噜噜| 此物有八面人人有两片| 2021天堂中文幕一二区在线观| 午夜免费成人在线视频| 国产av在哪里看| 国产av在哪里看| 色综合站精品国产| 亚洲色图 男人天堂 中文字幕| 国产精品永久免费网站| 日韩欧美国产在线观看| 在线十欧美十亚洲十日本专区| 午夜福利高清视频| 色在线成人网| 国产精品一区二区三区四区久久| 俄罗斯特黄特色一大片| 成年人黄色毛片网站| 免费在线观看成人毛片| 欧美3d第一页| 国产在线精品亚洲第一网站| 两个人看的免费小视频| 看片在线看免费视频| 欧美不卡视频在线免费观看| 又紧又爽又黄一区二区| 国产三级在线视频| 少妇人妻一区二区三区视频| www日本黄色视频网| 天堂动漫精品| 久久中文字幕一级| 母亲3免费完整高清在线观看| 免费搜索国产男女视频| 久久亚洲真实| 国产亚洲精品久久久com| 免费在线观看亚洲国产| 老司机福利观看| 久久伊人香网站| 日韩欧美国产在线观看| 成人精品一区二区免费| 又紧又爽又黄一区二区| 黄色 视频免费看| 亚洲av成人不卡在线观看播放网| 国产乱人视频| 美女午夜性视频免费| 国产伦精品一区二区三区视频9 | 亚洲人与动物交配视频| 国产美女午夜福利| 男女那种视频在线观看| 亚洲最大成人中文| 欧美+亚洲+日韩+国产| 亚洲美女视频黄频| 久久精品综合一区二区三区| 亚洲七黄色美女视频| 亚洲七黄色美女视频| 岛国在线免费视频观看| 精品欧美国产一区二区三| 国产成人啪精品午夜网站| 搞女人的毛片| 在线观看66精品国产| 女同久久另类99精品国产91| 少妇丰满av| 亚洲欧美日韩卡通动漫| 午夜精品久久久久久毛片777| 久久热在线av| 国内精品一区二区在线观看| 国产精品综合久久久久久久免费| 99在线人妻在线中文字幕| 麻豆成人午夜福利视频| 99热这里只有是精品50| 动漫黄色视频在线观看| 五月玫瑰六月丁香| 高清毛片免费观看视频网站| 高清在线国产一区| 久久久久久久久免费视频了| 美女被艹到高潮喷水动态| 国产精品99久久99久久久不卡| 男女午夜视频在线观看| 欧美黄色片欧美黄色片| 国产精品av久久久久免费| 亚洲五月婷婷丁香| 在线看三级毛片| 人妻久久中文字幕网| 中文字幕高清在线视频| 亚洲电影在线观看av| 黄色女人牲交| 亚洲七黄色美女视频| xxxwww97欧美| 亚洲天堂国产精品一区在线| 欧美日韩国产亚洲二区| 中文亚洲av片在线观看爽| 男人舔女人的私密视频| 国产三级中文精品| 欧美又色又爽又黄视频| 精品人妻1区二区| 搡老岳熟女国产| 婷婷六月久久综合丁香| 黄片小视频在线播放| 90打野战视频偷拍视频| 国内毛片毛片毛片毛片毛片| 制服丝袜大香蕉在线| 精品久久久久久久末码| 一级作爱视频免费观看| 亚洲一区高清亚洲精品| 99久久成人亚洲精品观看| 日日摸夜夜添夜夜添小说| 欧美日韩瑟瑟在线播放| 一区二区三区激情视频| 人人妻,人人澡人人爽秒播| 国产午夜精品久久久久久| 99久久无色码亚洲精品果冻| 久久午夜亚洲精品久久| 欧美成人免费av一区二区三区| 国产精品电影一区二区三区| 天天一区二区日本电影三级| 老汉色∧v一级毛片| 五月伊人婷婷丁香| 美女高潮喷水抽搐中文字幕| 舔av片在线| 久久久色成人| 欧美一级毛片孕妇| 日韩大尺度精品在线看网址| 亚洲精品一卡2卡三卡4卡5卡| 午夜免费成人在线视频| 99re在线观看精品视频| 国产精品,欧美在线| 欧美性猛交黑人性爽| 两个人视频免费观看高清| 性欧美人与动物交配| 级片在线观看| 韩国av一区二区三区四区| 国产精品久久久久久久电影 | 亚洲午夜精品一区,二区,三区| 国产99白浆流出| 婷婷精品国产亚洲av在线| 日韩欧美一区二区三区在线观看| 国产亚洲欧美在线一区二区| 嫩草影院入口| 一卡2卡三卡四卡精品乱码亚洲| 淫妇啪啪啪对白视频| 韩国av一区二区三区四区| av福利片在线观看| 精品电影一区二区在线| 国产欧美日韩一区二区三| 在线免费观看的www视频| 90打野战视频偷拍视频| 天天躁日日操中文字幕| 美女cb高潮喷水在线观看 | 亚洲精品在线观看二区| 在线观看一区二区三区| 哪里可以看免费的av片| 亚洲七黄色美女视频| 国产视频内射| 黑人操中国人逼视频| 亚洲最大成人中文| 亚洲 欧美 日韩 在线 免费| 国内精品美女久久久久久| 国产野战对白在线观看| 哪里可以看免费的av片| 免费观看人在逋| 亚洲五月婷婷丁香| 色视频www国产| 午夜日韩欧美国产| 欧美日韩瑟瑟在线播放| 国产av在哪里看| 国产精品影院久久| 欧美+亚洲+日韩+国产| 他把我摸到了高潮在线观看| 18禁美女被吸乳视频| 1024手机看黄色片| 级片在线观看| 老熟妇乱子伦视频在线观看| 成人av一区二区三区在线看| 欧美在线黄色| 久久久久久久午夜电影| 国产精品 国内视频| 国产精品永久免费网站| av天堂中文字幕网| 国产一区在线观看成人免费| 亚洲七黄色美女视频| 精品99又大又爽又粗少妇毛片 | 脱女人内裤的视频| 不卡av一区二区三区| svipshipincom国产片| 国产探花在线观看一区二区| 国产毛片a区久久久久| 最新中文字幕久久久久 | a在线观看视频网站| 婷婷丁香在线五月| 黑人操中国人逼视频| 国产一区二区三区视频了| 久久久久亚洲av毛片大全| 久久精品国产清高在天天线| 免费搜索国产男女视频| 97超级碰碰碰精品色视频在线观看| 国产精品 欧美亚洲| 变态另类成人亚洲欧美熟女| 成人三级黄色视频| 淫秽高清视频在线观看| 男插女下体视频免费在线播放| 老司机午夜福利在线观看视频| 一区二区三区国产精品乱码| 一区二区三区高清视频在线| 热99在线观看视频| 观看美女的网站| 男人和女人高潮做爰伦理| 午夜久久久久精精品| 一个人看视频在线观看www免费 | 亚洲成人免费电影在线观看| www日本黄色视频网| 性色av乱码一区二区三区2| 午夜激情福利司机影院| 看黄色毛片网站| 亚洲精品在线美女| 99热只有精品国产| 精品免费久久久久久久清纯| 老司机午夜十八禁免费视频| 国产精品电影一区二区三区| 国产亚洲av高清不卡| 18禁黄网站禁片免费观看直播| 90打野战视频偷拍视频| 久久久色成人| 精品久久久久久久人妻蜜臀av| 午夜视频精品福利| 19禁男女啪啪无遮挡网站| 亚洲一区高清亚洲精品| 亚洲欧美精品综合一区二区三区| 国产精品久久久久久精品电影| 亚洲国产欧美一区二区综合| 欧美极品一区二区三区四区| 在线观看舔阴道视频| 在线视频色国产色| 视频区欧美日本亚洲| 免费搜索国产男女视频| xxxwww97欧美| 国产亚洲精品一区二区www| av天堂在线播放| 我要搜黄色片| 国产又黄又爽又无遮挡在线| 女同久久另类99精品国产91| 久久99热这里只有精品18| 日本 欧美在线| www.精华液| 国产黄片美女视频| 国产免费av片在线观看野外av| а√天堂www在线а√下载| 国产日本99.免费观看| 可以在线观看毛片的网站| 日本五十路高清| 国内毛片毛片毛片毛片毛片| 亚洲成a人片在线一区二区| 99国产精品99久久久久| 亚洲国产精品sss在线观看| 舔av片在线| 在线免费观看不下载黄p国产 | 成人欧美大片| 国产精品综合久久久久久久免费| 亚洲,欧美精品.| 91久久精品国产一区二区成人 | 日本免费a在线| 操出白浆在线播放| 国产伦一二天堂av在线观看| 日韩 欧美 亚洲 中文字幕| 国产精品久久久久久人妻精品电影| 亚洲在线自拍视频| 亚洲 欧美 日韩 在线 免费| 波多野结衣高清作品| 久9热在线精品视频| 搡老熟女国产l中国老女人| 欧美av亚洲av综合av国产av| 亚洲av第一区精品v没综合| 夜夜夜夜夜久久久久| 一本综合久久免费| 一进一出好大好爽视频| 99在线视频只有这里精品首页| 久久久久久久久免费视频了| 禁无遮挡网站| 日本在线视频免费播放| 又黄又爽又免费观看的视频| 无遮挡黄片免费观看| 舔av片在线| 亚洲人成伊人成综合网2020| 9191精品国产免费久久| 黄色 视频免费看| 日本精品一区二区三区蜜桃| 欧美xxxx黑人xx丫x性爽| 国产激情久久老熟女| 欧美日韩瑟瑟在线播放| 国产真人三级小视频在线观看| 亚洲欧美一区二区三区黑人| 最新在线观看一区二区三区| 一本综合久久免费| 村上凉子中文字幕在线| 日韩欧美免费精品| 欧美一级毛片孕妇| 岛国在线观看网站| avwww免费| 夜夜爽天天搞| 精品99又大又爽又粗少妇毛片 | 一级毛片精品| 国产精品综合久久久久久久免费| 国产成人福利小说| 午夜精品久久久久久毛片777| 91九色精品人成在线观看| 久久国产乱子伦精品免费另类| 国产精品女同一区二区软件 | 免费观看精品视频网站| 国产精品综合久久久久久久免费| 69av精品久久久久久| 日日夜夜操网爽| 五月伊人婷婷丁香| 后天国语完整版免费观看| 在线观看舔阴道视频| 亚洲欧美日韩无卡精品| 日韩av在线大香蕉| 国产久久久一区二区三区| 黄色成人免费大全| 午夜免费观看网址| 美女cb高潮喷水在线观看 | 亚洲国产精品999在线| 偷拍熟女少妇极品色| 欧美黄色淫秽网站| 国产毛片a区久久久久| 久久精品aⅴ一区二区三区四区| 欧美黑人巨大hd| 午夜久久久久精精品| 精品电影一区二区在线| 黄频高清免费视频| 久久午夜综合久久蜜桃| 巨乳人妻的诱惑在线观看| cao死你这个sao货| 久久热在线av| 日本五十路高清| 欧美zozozo另类| 丰满人妻熟妇乱又伦精品不卡| 一区二区三区激情视频| 亚洲,欧美精品.| 亚洲一区高清亚洲精品| 日本成人三级电影网站| 亚洲九九香蕉| 狂野欧美激情性xxxx| 亚洲最大成人中文| av欧美777| 美女cb高潮喷水在线观看 | 97碰自拍视频| av视频在线观看入口| 日本三级黄在线观看| 亚洲美女黄片视频| 国产亚洲精品久久久com| 久久精品国产综合久久久| 精品国产三级普通话版| 99在线视频只有这里精品首页| 欧美激情久久久久久爽电影| 女生性感内裤真人,穿戴方法视频| 蜜桃久久精品国产亚洲av| 波多野结衣高清无吗| 美女大奶头视频| 久久亚洲真实| 看免费av毛片| 国产免费av片在线观看野外av| bbb黄色大片| 亚洲最大成人中文| 国产精品,欧美在线| 欧美3d第一页| 国产99白浆流出| a级毛片a级免费在线| 成人鲁丝片一二三区免费| 欧美不卡视频在线免费观看| 深夜精品福利| 无人区码免费观看不卡| 国产精品乱码一区二三区的特点| 丰满的人妻完整版| 国产精品美女特级片免费视频播放器 | 99热6这里只有精品| 日韩精品中文字幕看吧| 丰满人妻一区二区三区视频av | 90打野战视频偷拍视频| 国产精品久久电影中文字幕| 国产精品综合久久久久久久免费| 国产精品女同一区二区软件 | 麻豆一二三区av精品| 国产精品久久久av美女十八| 午夜激情福利司机影院| 99精品在免费线老司机午夜| 成年版毛片免费区| 亚洲精品美女久久av网站| bbb黄色大片| 黑人操中国人逼视频| 国产伦人伦偷精品视频| 两个人视频免费观看高清| 窝窝影院91人妻| 久久这里只有精品中国| bbb黄色大片| 婷婷精品国产亚洲av| 午夜福利免费观看在线| 国产成人av激情在线播放| 午夜福利在线在线| 中文字幕最新亚洲高清| 好男人电影高清在线观看| 少妇裸体淫交视频免费看高清| 久久人妻av系列| 欧美av亚洲av综合av国产av| 久久性视频一级片| 欧美乱色亚洲激情| 岛国视频午夜一区免费看| 亚洲一区高清亚洲精品| 国产精品久久久久久久电影 | 国产精品av视频在线免费观看| 国产成人av教育| 变态另类成人亚洲欧美熟女| 久久久久久大精品| www.熟女人妻精品国产| www.自偷自拍.com| 久久精品91无色码中文字幕| 在线国产一区二区在线| 国产蜜桃级精品一区二区三区| 亚洲成a人片在线一区二区| 两个人的视频大全免费| 青草久久国产| 免费av不卡在线播放| 久久中文字幕一级| 精品久久久久久久人妻蜜臀av| 岛国视频午夜一区免费看| 亚洲第一电影网av| 美女午夜性视频免费| av片东京热男人的天堂| 亚洲人成网站在线播放欧美日韩| 最近视频中文字幕2019在线8| 人妻久久中文字幕网| 女人高潮潮喷娇喘18禁视频| 丝袜人妻中文字幕| 久久精品亚洲精品国产色婷小说| 88av欧美| 亚洲av电影不卡..在线观看| 国产野战对白在线观看| 99在线视频只有这里精品首页| 老司机在亚洲福利影院| 久久久久久大精品| 久久人妻av系列| 美女免费视频网站| av片东京热男人的天堂| 亚洲中文字幕一区二区三区有码在线看 | 青草久久国产| 黄色 视频免费看| 午夜福利视频1000在线观看| 老熟妇乱子伦视频在线观看| 免费大片18禁| 欧美日本视频| 国产精品精品国产色婷婷| 欧美日本视频| 国产高清视频在线观看网站| 丰满人妻熟妇乱又伦精品不卡| 婷婷精品国产亚洲av在线| 欧美日韩一级在线毛片| 看黄色毛片网站| 亚洲熟妇中文字幕五十中出| 国产人伦9x9x在线观看| 精品人妻1区二区| 别揉我奶头~嗯~啊~动态视频| 国产99白浆流出| 日本一二三区视频观看| 老司机在亚洲福利影院| 国产成人精品无人区| 又黄又粗又硬又大视频| 19禁男女啪啪无遮挡网站| 亚洲午夜理论影院| 国产精品精品国产色婷婷| 无限看片的www在线观看| 亚洲av熟女| 国产伦一二天堂av在线观看| 国产高清有码在线观看视频| 国产毛片a区久久久久| 亚洲国产精品成人综合色| 香蕉久久夜色| 香蕉丝袜av| 黑人操中国人逼视频| 欧美一区二区国产精品久久精品| 淫妇啪啪啪对白视频| 欧美午夜高清在线| 成人亚洲精品av一区二区| 日韩成人在线观看一区二区三区| 99久久精品国产亚洲精品| 久久精品人妻少妇| www.www免费av| 国产视频一区二区在线看| 亚洲欧美日韩卡通动漫| 超碰成人久久| 成人午夜高清在线视频| 熟妇人妻久久中文字幕3abv| 成年女人永久免费观看视频| 夜夜躁狠狠躁天天躁| 国产精品一及| 欧美另类亚洲清纯唯美| 亚洲国产精品sss在线观看| 在线看三级毛片| 成人国产一区最新在线观看| 亚洲成a人片在线一区二区| 久久久久亚洲av毛片大全| 色视频www国产| 搡老岳熟女国产| e午夜精品久久久久久久| 国产三级中文精品| 国产美女午夜福利| 久久久久久九九精品二区国产| 欧美成狂野欧美在线观看| 999精品在线视频| 国产精品美女特级片免费视频播放器 | 成人永久免费在线观看视频| 舔av片在线| 欧美日本视频| 中文字幕熟女人妻在线| 中文字幕高清在线视频| 国产精品爽爽va在线观看网站| 久久久精品大字幕| 岛国视频午夜一区免费看| 最新美女视频免费是黄的| 久久精品国产清高在天天线| 亚洲国产精品久久男人天堂| 日韩欧美一区二区三区在线观看| 最新美女视频免费是黄的| 亚洲18禁久久av| 久久热在线av| 免费电影在线观看免费观看| 天堂影院成人在线观看| 久久这里只有精品中国| 亚洲精品乱码久久久v下载方式 | 精华霜和精华液先用哪个| 精品久久蜜臀av无| 美女免费视频网站| 亚洲av电影不卡..在线观看| 巨乳人妻的诱惑在线观看| 精品日产1卡2卡| 在线观看一区二区三区| 最近最新中文字幕大全电影3| 日韩三级视频一区二区三区| 成人永久免费在线观看视频| 91在线精品国自产拍蜜月 | 国产免费男女视频| а√天堂www在线а√下载| 又黄又爽又免费观看的视频| 色播亚洲综合网| av天堂中文字幕网| tocl精华| 免费看a级黄色片| 女人被狂操c到高潮| 美女大奶头视频| 熟女少妇亚洲综合色aaa.| avwww免费|