• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)安全高效搜索與隱私保護機制展望

    2016-09-23 03:08:50李尚周志剛張宏莉余翔湛
    網(wǎng)絡與信息安全學報 2016年4期
    關鍵詞:融合用戶信息

    李尚,周志剛,張宏莉,余翔湛

    (哈爾濱工業(yè)大學計算機科學與技術學院,黑龍江 哈爾濱 150001)

    大數(shù)據(jù)安全高效搜索與隱私保護機制展望

    李尚,周志剛,張宏莉,余翔湛

    (哈爾濱工業(yè)大學計算機科學與技術學院,黑龍江 哈爾濱 150001)

    隨著信息產(chǎn)業(yè)的飛速發(fā)展,圍繞大數(shù)據(jù)搜索展開的服務已滲透到人們生活的方方面面。相關技術領域也正在經(jīng)歷深刻變革,如數(shù)據(jù)融合的隱私保護、場景感知的搜索意圖理解、統(tǒng)計概率式的搜索模式等。結合國內(nèi)外最新研究進展,對大數(shù)據(jù)安全高效搜索與隱私保護問題進行了研究展望:首先,從多源數(shù)據(jù)發(fā)布、用戶搜索需求感知及隱私感知的智慧解答3個視角凝練了大數(shù)據(jù)安全搜索與隱私保護的科學問題;其次,提出了面向大數(shù)據(jù)的信息融合與知識萃取技術、粒度化的知識表示與推演技術、支持平臺與用戶互動的搜索任務表示模型、基于用戶體驗驅(qū)動的任務管理技術、效用與代價平衡的粒度化搜索技術和基于差分隱私的安全搜索機制等研究內(nèi)容;最后,對相關的技術路線進行了展望。

    大數(shù)據(jù);安全搜索;隱私保護;多源融合

    1 引言

    隨著國家“互聯(lián)網(wǎng)+”行動計劃的實施,信息技術與經(jīng)濟社會的交匯融合引發(fā)了數(shù)據(jù)的迅猛增長,大數(shù)據(jù)已成為國家基礎性戰(zhàn)略資源,并已滲透到全球人類生產(chǎn)、流通、分配、消費活動的各個環(huán)節(jié),正日益對經(jīng)濟運行機制、社會生活方式和國家治理能力產(chǎn)生重要影響。

    大數(shù)據(jù)中蘊含豐富的信息和知識:在政府決策方面,各地區(qū)、各行業(yè)、各領域的統(tǒng)計數(shù)據(jù),蘊含有政策法規(guī)成效與影響的宏觀態(tài)勢,經(jīng)科學利用后可極大提升政府決策效率和風險防范水平;在社會民生方面,交通、氣象、旅游等跨部門跨地域的數(shù)據(jù),能夠協(xié)同構成全方位的出行信息,從而方便公眾出行、促進旅游事業(yè)蓬勃發(fā)展;在經(jīng)濟生產(chǎn)方面,研發(fā)設計、生產(chǎn)制造、經(jīng)營管理、市場營銷、售后服務等產(chǎn)品全生命周期產(chǎn)生的數(shù)據(jù),綜合反映出產(chǎn)業(yè)鏈各環(huán)節(jié)存在的問題,可推動制造模式變革和工業(yè)轉(zhuǎn)型升級。然而,這些信息和知識并不會自然呈現(xiàn),而是需要用智慧的方法將其從海量的數(shù)據(jù)洪流中萃取出來,根據(jù)人們的現(xiàn)實需求進行多維度細粒度的高精度定制及演化,進而服務人們的工作和生活。

    從用戶的搜索需求看,隨著人們生活工作的節(jié)奏加快,用戶對搜索的期許發(fā)生巨大改變,相比枯燥漫長地等待精準解答,人們更期望得到滿足精度需求的快速搜索體驗。從搜索技術看,傳統(tǒng)的搜索引擎主要面向Web 1.0靜態(tài)網(wǎng)頁,是基于關鍵字的“存在性掃描搜索”,不能支持面向Web 2.0/3.0應用具有5V特性的大數(shù)據(jù)及其滿足用戶快速高精度的搜索需求。這些問題催生了研究者對新型大數(shù)據(jù)搜索技術的探索。本文研究的面向大數(shù)據(jù)的安全高效搜索技術,是在明確用戶搜索需求的基礎上,對大數(shù)據(jù)進行融合、萃取、推演等處理挖掘知識,進而快速地給出滿足用戶搜索需求及數(shù)據(jù)隱私保護的智慧解答。大數(shù)據(jù)搜索具有以下5個特點:1)多源融合,對多通道、多來源的異質(zhì)、異構數(shù)據(jù)和信息進行統(tǒng)一表示,在數(shù)據(jù)層面消除數(shù)據(jù)缺失、歧義、冗余等現(xiàn)象,在信息層面消除由數(shù)據(jù)屬性關聯(lián)帶來的融合隱私泄露風險;2)知識綜合,對規(guī)模龐大的數(shù)據(jù)屬性進行歸約,挖掘數(shù)據(jù)中蘊含的知識,建立統(tǒng)一的知識與關系表示模型,萃取多層次、粒度化且能夠隨數(shù)據(jù)的動態(tài)更新自我演化的知識聚合體;3)有限開放,是指針對多源聚合數(shù)據(jù)在安全需求等級、隱私保護粒度和管理者利益等方面的不同,具備自適應、可重組、動態(tài)可調(diào)整的搜索信任、安全、隱私保護機制,面向不同的用戶呈現(xiàn)差異化的搜索結果;4)智慧搜索,綜合考慮用戶搜索情境、歷史行為及數(shù)據(jù)訪問權限等要素,整合挖掘出的相關知識聚合體,提供滿足用戶多元需求的智慧搜索方案;5)快速響應,是指同時滿足用戶對搜索時效及搜索精度的訴求,能夠有效復用歷史同構搜索的粒度化結果視圖,給出快速甚至在線解答。

    在國家大數(shù)據(jù)戰(zhàn)略和“互聯(lián)網(wǎng)+”行動計劃深入推進的時代背景下,人們期望大數(shù)據(jù)搜索能夠達到“安全搜索隨意行、隱私知識兩相宜”的境界。為了盡快實現(xiàn)這一目標,需要對大數(shù)據(jù)搜索相關技術的國內(nèi)外研究現(xiàn)狀、發(fā)展態(tài)勢等進行綜合分析,進而凝練科學問題,并提出若干需要突破的關鍵技術。

    2 國內(nèi)外研究進展

    本節(jié)從大數(shù)據(jù)的多源融合發(fā)布、用戶搜索需求感知及隱私感知的智慧解答這3個方面分別介紹國內(nèi)外最新的研究進展。

    2.1面向大數(shù)據(jù)的多源融合發(fā)布

    對于傳統(tǒng)的單數(shù)據(jù)源信息發(fā)布的隱私保護研究,如 k-匿名[1](k-anonymity)、l-多樣化[2](l-diversity)、t-貼近性[3](t-closeness)已廣泛開展,Zhou等[4]對其進行了綜述,此處不做討論。針對多源融合信息的隱私保護,一個值得討論的問題是“多源融合信息的隱私保護方法能否繼承傳統(tǒng)的單數(shù)據(jù)源信息發(fā)布的隱私保護方法”,遺憾的是,答案是否定的。例如,圖1中的2個列表分別是數(shù)據(jù)源A和數(shù)據(jù)源B發(fā)布的數(shù)據(jù)(Name列為非公開屬性),假設敵手已知Alice的一些背景信息(年齡34),易知2個數(shù)據(jù)源發(fā)布的數(shù)據(jù)各自都滿足(3-anonymity、2-diversity)的隱私需求,然而當2個數(shù)據(jù)源的數(shù)據(jù)進行融合時,Alice患有胃炎的個人隱私信息被暴露。

    圖1 多源數(shù)據(jù)融合隱私泄露實例

    為此,Xiao等提出m-不變性[5](m-invariance),m-invariance方案是一種增量式的數(shù)據(jù)發(fā)布方案,要求每次發(fā)布的數(shù)據(jù)與前一次發(fā)布的數(shù)據(jù)相比,滿足下列的情況之一:1)新發(fā)布的數(shù)據(jù)與前一次發(fā)布的數(shù)據(jù)屬于同一個匿名組;2)為新發(fā)布的數(shù)據(jù)構建新的匿名組;3)當匿名組中的真實數(shù)據(jù)個數(shù)低于預設門限時,將發(fā)生匿名組間的融合,但融合后形成的匿名組必須同時滿足參與融合的各個匿名組的敏感屬性值多樣化需求。然而,該方案需要各個數(shù)據(jù)源的所有者明確知道彼此的真實數(shù)據(jù),因此,僅適用于單個數(shù)據(jù)源多次數(shù)據(jù)發(fā)布的場景。安全多方計算成為一個可行的方案,Clifton等[6]提出分布式 k-匿名算法(DkA,distributed k-anonymity),該算法假設在垂直劃分的數(shù)據(jù)環(huán)境下同一條記錄有唯一的全局標識,數(shù)據(jù)集成的各方都只擁有部分屬性的數(shù)據(jù),利用可交換加密在通信過程中隱藏原始信息,再構建完整的匿名表判斷是否滿足匿名門限來實現(xiàn)數(shù)據(jù)隱私保護。但該算法的時間開銷很大,文獻[6]中對defacto benchmark adult數(shù)據(jù)集匿名化需要12天。文獻[7]開發(fā)了一個針對關系數(shù)據(jù)計數(shù)、并、交、笛卡爾積4種典型操作的安全數(shù)據(jù)多方數(shù)據(jù)集成工具。Mohammed等[8,9]基于分類樹結構使用數(shù)據(jù)泛化技術實現(xiàn)數(shù)據(jù)集成各方的數(shù)據(jù)隱私保護,但集成后數(shù)據(jù)的信息損失較高,具體的信息損失度與數(shù)據(jù)集相關。文獻[10]提出了一種可追責計算框架,該框架可以實現(xiàn)數(shù)據(jù)集成的各方相互驗證。擴展研究[11~13]意在為不同的集成數(shù)據(jù)挖掘任務設計安全協(xié)議,然而這些方法的計算開銷過于昂貴,以至于難以在實際場景中應用。

    2.2用戶搜索需求感知

    用戶搜索需求的感知、理解和匹配,是實現(xiàn)智慧和高效大數(shù)據(jù)搜索的重要前提。文獻[14~16]分別根據(jù)信息需求類別、意圖涵蓋范圍和查詢內(nèi)容映射提出了用戶搜索意圖的分類體系,但這些方法均假定用戶查詢請求的信息表述是全面、準確的,且早期的查詢分類較為模糊,經(jīng)過多次交互過程才能逐漸清晰。文獻[17~19]分別研究了基于用戶行為分析、偽相關反饋信息和自然語言處理的用戶搜索意圖理解方法,針對用戶搜索請求進行語義識別,但是缺乏必要的結構化知識和深度理解能力,難以準確理解查詢中蘊含的真實搜索意圖,無法根據(jù)用戶所處的時空特征進行個性化意圖建模。

    在用戶搜索場景和上下文感知方面,研究人員已提出一些相關技術。Stankovic[20]提出物聯(lián)網(wǎng)查詢機制需要收集和感知大量持續(xù)變化的信息,個性化信息能產(chǎn)生可定制的更有效的查詢。Maekawa[21]提出一種新穎的Web查詢方法,根據(jù)用戶正在從事的日常活動自動檢索相關網(wǎng)頁,并在附近智能家電上顯示。ThingsNavi[22]是一種基于超圖的物體搜索方法,該方法通過構建統(tǒng)一的超圖來表示人—物交互中豐富的結構和情景信息,并將相關物體的搜索轉(zhuǎn)換為超圖上的排序問題。Ostermaier等[23]利用實體狀態(tài)屬性的歷史數(shù)據(jù)建立預測模型(APM、SPPM、MPPM),預測可能匹配搜索請求的物理實體的集合,而后訪問集合中的物理實體確認是否匹配。Christophe等[24]通過用戶的歷史記錄預測用戶的語境,根據(jù)用戶語境、物理實體數(shù)量和聚類的數(shù)量,決定采用哪種搜索算法。SMART[25]的搜索層采用了事件檢測和排序檢索模型,通過用戶的上下文信息(如用戶的位置或社會背景),可直接指定或者預測相關查詢。現(xiàn)有的研究工作利用預測等模型提高了搜索的效率,但準確度有待進一步提升。在大數(shù)據(jù)搜索場景下,語境決定了如何跨網(wǎng),不同網(wǎng)絡的異類信息需要不同的融合方法,綜合考慮諸如此類動態(tài)變化的因素,才能給出高效的智慧解答。

    用戶搜索需求還包括對求解精度、執(zhí)行效率、資源和成本消耗等多維因素的要求。文獻[26~28]所實現(xiàn)的各類大數(shù)據(jù)分析算法(如top-k、skyline、join等),在查詢精度方面取得了令人滿意的成果。但這些算法所采用的傳統(tǒng)數(shù)據(jù)處理模式,如構建索引、排序等,從原始的龐大數(shù)據(jù)集中生成一個新的“大”數(shù)據(jù),導致了一個漫長的計算過程,這在大數(shù)據(jù)搜索場景下是不可取的。為了實現(xiàn)較高的搜索效率,Chaudhuri[29]和 Doucet[30]等采用了一種叫做塊狀抽樣的高效抽樣方法,但塊狀抽樣無法保證抽樣一致性,在其基礎上產(chǎn)生的近似誤差取決于樣本數(shù)據(jù)在磁盤上的分布,因而當數(shù)據(jù)分布集中于個別屬性時會導致求解不準確。Hellerstein[31]和 Laptev[32]等分別基于關系數(shù)據(jù)庫和分布式文件系統(tǒng)提出了查詢近似結果的早期求解方法,但都沒有給出具備普遍性的精度評估策略,從而限制了該方法在通用數(shù)據(jù)集上的推廣能力。文獻[33]提出了一種基于語義分析的MapReduce程序執(zhí)行成本優(yōu)化方法,但該方法依賴于特定的編程語言,在開放式計算平臺環(huán)境中的適用性較差。文獻[34]基于MapReduce框架細致地分析了各類平臺參數(shù)對程序執(zhí)行效率的影響,進而提出了給定資源下MapReduce程序的執(zhí)行成本(時間)預估以及優(yōu)化算法,但該工作并沒有討論多任務并發(fā)情況下的全局優(yōu)化策略。通過總結可以發(fā)現(xiàn),已有的研究工作只側重于搜索精度、效率、能耗中的一個或兩個目標,而如何統(tǒng)一多維搜索需求、實現(xiàn)保障全局用戶體驗的任務管理技術,仍需要進一步地探索和研究。

    2.3隱私感知的智慧解答

    從安全搜索的角度看,文獻[35]不僅實現(xiàn)了細粒度的訪問控制,同時可以抵御如傳感器妥協(xié)和用戶勾結等攻擊。文獻[36]提出了一種分布式令牌重用檢測方案去防止惡意用戶對令牌的重用攻擊。文獻[37]提出了基于行為個性的訪問控制機制,利用提取的行為特征進行控制。文獻[38]提出了一種KP-ABE方法,將訪問控制策略嵌入用戶的私鑰中,實現(xiàn)了細粒度的訪問控制。Yang等[39]提出了一種可撤銷的多授權機構的CP-ABE結構,有效地解決了屬性的撤銷問題。文獻[40]提出了一種匿名的權限控制方法,在解決數(shù)據(jù)隱私性的基礎上解決了用戶身份隱私性問題。文獻[41]提出了一種簽名方式稱為基于屬性的簽名(ABS)。文獻[42]設計了聯(lián)合控制靈活細粒度的強制訪問控制方案。文獻[43]提出并實現(xiàn)了基于動態(tài)角色的訪問控制方案來實施最小特權原則。針對處理隱式訪問信息的訪問控制問題,Singh等[44]提出了適用于混雜移動應用的上下文感知權限控制方法。文獻[45]開發(fā)了被稱為 Auto-FBI的原型系統(tǒng),實現(xiàn)了敏感數(shù)據(jù)的自動隔離。文獻[46]提出了一種對多人共享的數(shù)據(jù)的保護方式,設計并實現(xiàn)了一個多機構訪問控制策略?,F(xiàn)有的訪問控制研究大多圍繞感知層訪問控制、基于屬性的訪問控制、面向身份隱私保護的訪問控制、移動操作系統(tǒng)中的訪問控制等技術展開。然而,針對大數(shù)據(jù)搜索用戶的開放性與海量性、節(jié)點動態(tài)性等特征,海量動態(tài)用戶訪問權限實時更新和撤銷的問題有待進一步研究與完善。

    從隱私保護的角度看,文獻[47]提出了基于差分隱私的查詢處理技術。文獻[48,49]將隱私數(shù)據(jù)拆分成若干個稱為“share”的碎片,根據(jù)實際的隱私需求,控制獲取 share數(shù)目來達到要求的精度。文獻[50,51]將隱私數(shù)據(jù)通過門限策略映射為N個無語義副本,當用戶提出數(shù)據(jù)檢索請求時,只需隨機地從這N個子數(shù)據(jù)源中任選K個副本數(shù)據(jù)在用戶端進行合成。文獻[52~54]提出多極的CP-ABE策略,將分權機制引入到搜索代理平臺,在搜索過程中搜索平臺無法準確獲知用戶的身份信息,進而保護用戶的搜索模式。Sankar等[55]提出了一個抽象模型以支持含有任意數(shù)量公共和私有變量的數(shù)據(jù)庫,使用了率失真理論來確定隱私保護和效用之間平衡的基本界限。Guo等[56]針對社交網(wǎng)絡中的用戶提出了一個平衡算法來確定用戶的隱私設置,以同時滿足用戶的隱私需求和效用偏好。Gu等[57]給出了關于隱私泄露和效用損失的概念,并且利用概率論中的散度距離來量化它們?,F(xiàn)有的隱私保護研究工作大多圍繞某一類特定的場景,根據(jù)其隱私需求,提出與之相應的隱私保護方案及其策略,目前,提出的有數(shù)據(jù)加密、匿名、分割、加噪等代表性的方法。然而,不同的應用環(huán)境和情景需要不同的隱私保護方案,隨著時間的推移,隱私保護具有復雜的時空場景特征,在這方面的研究還有待開展。

    3 科學問題與研究內(nèi)容

    3.1大數(shù)據(jù)安全高效搜索與隱私保護科學問題探究

    針對大數(shù)據(jù)安全高效搜索與隱私保護的迫切需求,本文從多源融合數(shù)據(jù)發(fā)布、用戶搜索需求感知及隱私感知的智慧解答的視角凝練3個具有挑戰(zhàn)性的科學問題。

    1)大數(shù)據(jù)中信息歸約與知識發(fā)掘

    大數(shù)據(jù)中蘊含了豐富的信息與知識,對這些信息的有效整合并萃取其中的知識是保障搜索質(zhì)量、提升用戶體驗的前提和基礎。與傳統(tǒng)的基于單一靜態(tài)數(shù)據(jù)庫的搜索不同,大數(shù)據(jù)具有體量巨大、渠道多源、持續(xù)生成等特點,如何整合來自于多源的數(shù)據(jù),消除數(shù)據(jù)間的沖突、過濾數(shù)據(jù)噪聲、消弭由數(shù)據(jù)融合誘發(fā)的隱私問題?如何從規(guī)模龐大的眾多融合屬性中理出其中的復雜關系?如何對復雜的關系進行歸約、推演及粒度化建模?挖掘的知識聚合體如何根據(jù)數(shù)據(jù)的持續(xù)生成及用戶的搜索導向進行自演化?這些都是急需解決的科學問題。

    2)用戶搜索需求感知的任務表示與管理

    在大數(shù)據(jù)搜索環(huán)境中,由于平臺運行狀態(tài)對用戶透明,導致用戶快速高精度的搜索需求與平臺的任務執(zhí)行能力產(chǎn)生矛盾。如何將用戶搜索需求轉(zhuǎn)化為對平臺屬性、狀態(tài)刻面的普適化表示,并以此構建任務計算代價預估模型?如何消除任務所需資源、執(zhí)行時間、搜索精度3個目標刻面的沖突?此外,各搜索任務對最大化占用計算資源的追求導致了對有限資源的競爭,如何設計能夠保障全局用戶體驗的動態(tài)優(yōu)先級刻畫方法和任務管理技術?如何實現(xiàn)以任務當前優(yōu)先級刻面為基準的搶占式資源動態(tài)配給機制?如何設計基于供需零和博弈的多目標優(yōu)化調(diào)度策略?這些都是需要解決的科學問題。

    3)隱私感知的快速高精度智慧解答

    從用戶和大數(shù)據(jù)的二元視角進行剖析,一方面,用戶渴望快速高精度的搜索體驗,另一方面,大數(shù)據(jù)自身不僅蘊含體量巨大、復雜關聯(lián)、時間演化的知識,而且對用戶的有限開放性,決定了其必須具備“千人千面”的搜索行為識別及控制能力。如何在保障數(shù)據(jù)隱私的前提下實現(xiàn)快速甚至在線的高精度搜索求解?如何構建精度測量與隱私保護評價統(tǒng)一融合的度量機制?如何在大數(shù)據(jù)持續(xù)量變沖擊下定量刻畫知識的可復用邊界,進而提供知識的柔性復用?如何維護數(shù)據(jù)更新演化與數(shù)據(jù)隱私保護粒度的動態(tài)平衡模型及隱私保護頑健穩(wěn)定性邊界?這些都是需要解決的挑戰(zhàn)性科學問題。

    圖2展示了3個科學問題間的關系。如圖2所示,該研究的核心可概括為三要素:“知識發(fā)掘與建?!?、“用戶需求感知的任務管理”、“隱私感知的智慧解答”。其中,“知識發(fā)掘與建?!笔菑暮A繑?shù)據(jù)中萃取知識的關鍵環(huán)節(jié),為大數(shù)據(jù)搜索提供了粒度化的底層數(shù)據(jù)支持;“用戶需求感知的任務管理”將用戶搜索需求與平臺運行狀態(tài)有機融合,是用戶搜索請求順利執(zhí)行和平臺高效運轉(zhuǎn)的有力保障;“隱私感知的智慧解答”是大數(shù)據(jù)搜索的核心環(huán)節(jié),提供效用、代價與隱私保護綜合考量的智慧解答。三要素之間相互關聯(lián)和依存?!爸R發(fā)掘與建模”與“用戶需求感知的任務管理”的協(xié)同運作為“隱私感知的智慧解答”提供從底層數(shù)據(jù)到上層任務的支撐。

    3.2研究內(nèi)容

    針對上述科學問題,可從6個方面展開研究,主要研究內(nèi)容與科學問題的對應關系如圖 3所示。主要研究內(nèi)容具體包括:面向大數(shù)據(jù)的信息融合與知識萃取技術、粒度化的知識表示與推演技術、支持平臺與用戶互動的搜索任務表示模型、基于用戶體驗驅(qū)動的任務管理技術、效用與代價平衡的粒度化搜索技術和基于差分隱私的安全搜索機制。

    圖2 科學問題及其相互關系

    圖3 主要研究內(nèi)容與科學問題的對應關系

    3.2.1面向大數(shù)據(jù)的信息融合與知識萃取技術

    針對大數(shù)據(jù)信息具有多維度和多粒度的特點以及用戶對大數(shù)據(jù)搜索需求的多樣性(和不可預測性),需要對信息進行預先融合與知識萃取,生成大數(shù)據(jù)知識聚合體,并進行有效組織,從而支持實時多維度多粒度的搜索請求。具體內(nèi)容如下。

    1)隱私感知的多源信息融合技術。針對大數(shù)據(jù)渠道多源化、信息多維度、知識多粒度的特點及大數(shù)據(jù)搜索服務對不同用戶的“有限開放”性,研究粒度化的、支持增量推演的信息融合隱私保護機制,為“千人千面”的搜索結果展現(xiàn)提供基礎。

    2)高維屬性空間的知識聚合計算技術。針對大數(shù)據(jù)知識隨信息層次、屬性維度增加呈指數(shù)增長的特點,基于粗糙集、熵計算等知識挖掘理論,研究大數(shù)據(jù)屬性約簡方法,并根據(jù)各粒度知識間的偏序關系,設計知識聚合計算方法。

    3)支持時空特性的知識更新演化技術。針對大數(shù)據(jù)自身動態(tài)更新及用戶搜索需求不斷變化的特點,研究知識聚合體的結構化緩存機制,以及知識聚合體自我演化與更新技術。

    3.2.2粒度化的知識表示與推演技術

    針對大數(shù)據(jù)的知識存在高維度、屬性依賴、時空演化等特點,構建大數(shù)據(jù)所蘊含知識的粒度化表示模型,研究面向時空屬性的知識推演方法及基于決策依賴的大規(guī)模屬性推理方法。具體內(nèi)容如下。

    1)大數(shù)據(jù)屬性間復雜關系的粒度化知識表示方法。針對大數(shù)據(jù)屬性規(guī)模大、關系巨復雜、知識粒度化且隨時間演化等特點,包括屬性間的關聯(lián)關系、映射關系、偏序關系、基于度的依賴關系等,分析各類關系的不同特點及其隨數(shù)據(jù)更新的演化規(guī)律,研究多層次、粒度化的知識表示模型。

    2)面向大數(shù)據(jù)知識時空屬性的推演方法。研究在用戶跨平臺(子網(wǎng))數(shù)據(jù)發(fā)布過程中對隱私信息泄露風險的評估預警方法。

    3)基于決策依賴的大規(guī)模屬性推理方法。針對大數(shù)據(jù)屬性規(guī)模大、服務用途多樣的特點,研究以用戶搜索為導向、“核屬性”為主體的屬性依賴關系挖掘、沖突消解及知識覆蓋、推理技術。

    3.2.3支持平臺與用戶互動的搜索任務表示模型

    針對現(xiàn)有平臺無法有效感知用戶個性化需求,且平臺特征參數(shù)及運行狀態(tài)對用戶透明的現(xiàn)實,以探求可行的用戶搜索請求為目標,構建與平臺無關的任務表示模型,研究基于平臺刻面的任務計算代價預估模型,化解用戶搜索需求中的沖突因子。具體內(nèi)容如下。

    1)跨平臺自適應的(與平臺無關的)任務模型表示方法:針對用戶搜索需求多樣及數(shù)據(jù)存儲平臺異質(zhì)的現(xiàn)實,通過對用戶搜索需求的抽象化表示及對平臺屬性、狀態(tài)刻面的泛化表示,構建搜索需求與平臺刻面統(tǒng)一融合的表示計算模型,為任務間定量可比的預估及計算提供基礎。

    2)基于平臺刻面的任務預估與沖突消解模型:針對平臺特征參數(shù)及運行狀態(tài)對用戶透明的現(xiàn)實及用戶不具備任務預估專業(yè)知識的既定假設,以任務需求與平臺刻面統(tǒng)一融合的表示模型為基礎,研究以平臺刻面為主體,任務所需資源、執(zhí)行時間、搜索精度3個目標預估及優(yōu)化模型,以及面向多目標刻面的沖突消解方法。

    3.2.4基于用戶體驗驅(qū)動的任務管理技術

    針對多用戶搜索任務的數(shù)據(jù)分布特征、對資源的時變需求以及任務間的覆蓋關系,研究任務類型感知的多隊列任務動態(tài)管理技術及基于氣球驅(qū)動機制的搶占式資源分配技術,實現(xiàn)用戶與平臺雙贏的資源動態(tài)管理機制。具體內(nèi)容如下。

    1)任務需求感知的多隊列任務動態(tài)管理技術。針對多用戶搜索任務對平臺優(yōu)先調(diào)度的普遍需求,通過分析搜索任務間覆蓋關系及數(shù)據(jù)分布特征,以最大化保障全局用戶體驗為愿景,研究優(yōu)先級刻畫方法與多隊列的任務管理技術。

    2)基于氣球驅(qū)動機制的搶占式資源分配技術。針對多用戶搜索任務對資源的時變需求,通過構建平臺資源的全局視圖,以任務當前優(yōu)先級刻面為基準,研究基于氣球驅(qū)動機制的搶占式動態(tài)資源分配技術。

    3)用戶與平臺雙贏的資源動態(tài)管理技術。針對同時滿足用戶搜索體驗與平臺資源利用率最大化的雙邊應用需求,以多隊列任務動態(tài)管理技術及搶占式資源分配技術為基礎,研究基于供需零和博弈的多目標優(yōu)化調(diào)度技術。

    3.2.5效用與代價平衡的粒度化搜索技術

    針對用戶對大數(shù)據(jù)搜索高精度、低成本的利益需求,基于統(tǒng)計抽樣理論和方法,實現(xiàn)滿足用戶求解精度需求的快速搜索技術,同時研究粒度化歷史結果復用機制以及與數(shù)據(jù)更新聯(lián)動的粒度化視圖維護機制。具體內(nèi)容如下。

    1)支持快速求解的高精度搜索技術。針對用戶對大數(shù)據(jù)搜索結果的高精度、快響應的現(xiàn)實需求,以伯努利、重采樣等統(tǒng)計抽樣理論為依據(jù),構建樣本容量與響應時間、求解精度聯(lián)動的可量化模型,實現(xiàn)同時滿足效用與代價約束的搜索技術。

    2)基于粒度化視圖的結果復用機制。針對用戶搜索請求普遍存在覆蓋、偏序、同構的特征,研究粒度化歷史結果視圖的緩存與復用機制,以進一步減小計算代價、提高響應速度為目標,設計以歷史結果視圖為基礎的增量求解模型。

    3)支持數(shù)據(jù)更新的粒度化視圖維護機制。針對大數(shù)據(jù)基數(shù)龐大、量變有限的特點,探求粒度化結果視圖的可復用邊界,研究具有強頑健性的粒度化視圖維護機制,從而為歷史結果的柔性復用機制提供理論支撐。

    3.2.6基于差分隱私的安全搜索機制

    針對大數(shù)據(jù)搜索生命周期的各個階段,包括數(shù)據(jù)發(fā)布、信息融合、數(shù)據(jù)檢索、數(shù)據(jù)更新與維護,著力研究面向多源隱私信息的融合理論,設計面向快速高精度搜索的柔性差分隱私保護機制,實現(xiàn)基于差異化隱私預算的訪問控制策略及支持數(shù)據(jù)增量發(fā)布的差分隱私預算分配機制。

    1)面向快速高精度搜索的差分隱私保護機制。針對差分隱私保護機制的嚴苛約束與快速高精度的搜索需求的不匹配問題,研究精度測量與隱私保護評價統(tǒng)一融合的度量機制,設計面向高精度快速搜索的柔性差分隱私保護策略。

    2)基于差異化隱私預算的訪問控制策略。針對大數(shù)據(jù)“有限開放”的搜索機制及“千人千面”視圖展現(xiàn)的現(xiàn)實需求,為防范以大數(shù)據(jù)“微”查詢?yōu)榇淼膫€體隱私泄露攻擊,研究基于交互式差異化隱私預算動態(tài)配給的訪問控制策略。

    3)數(shù)據(jù)增量發(fā)布感知的差分隱私預算分配機制。針對大數(shù)據(jù)持續(xù)生成、頻繁更新對既有數(shù)據(jù)隱私保護程度造成的沖擊,研究數(shù)據(jù)增量與數(shù)據(jù)隱私保護粒度的動態(tài)平衡模型及隱私保護頑健穩(wěn)定性邊界,設計支持數(shù)據(jù)增量發(fā)布的差分隱私預算分配機制。

    4 技術路線展望

    4.1融合統(tǒng)一的隱私度量標準

    與傳統(tǒng)的基于關鍵字的Web搜索不同,由于大數(shù)據(jù)具有體量巨大、內(nèi)涵知識豐富且有限開放的特點,導致用戶對大數(shù)據(jù)搜索的需求不再是單一維度的存在性解答,而是從搜索結果的精度、可用性以及搜索的時效性等多個維度進行評價,使傳統(tǒng)針對單一維度的搜索評價指標不再適用于對大數(shù)據(jù)搜索的評判。此外,從大數(shù)據(jù)搜索的生命周期看,期間包括多源數(shù)據(jù)融合隱私保護、用戶搜索行為隱私保護、搜索過程中數(shù)據(jù)擁有者對不同用戶設定的細粒度訪問控制等,這些隱私保護技術雖然都有各自的評價指標,但這些指標難以相互量化轉(zhuǎn)化。因此,需要構建一套集成多維隱私保護、搜索精度、時效三位一體的度量體系。

    首先,統(tǒng)一各隱私保護策略的度量指標。目前,主流的隱私保護方案可以分為兩類:基于k-匿名及其變種的隱私保護方案和基于差分隱私的保護方案,可通過對這兩類隱私保護方案對數(shù)據(jù)可用性的度量來對其進行融合。即基于k-匿名及其變種的隱私保護方案通過加噪、泛化等手段保護隱私,可以通過噪聲比,信息泛化樹來量化表示隱私保護粒度與信息可用性;而差分隱私保護方法可以直接通過隱私預算來確定加噪比,因此,可以構建k-匿名類隱私保護算法與差分隱私保護算法在信息可用性度量上的映射。

    其次,統(tǒng)一隱私保護度量與搜索精度的度量指標,擬通過擴展差分隱私的定義來實現(xiàn)。差分隱私假設這樣一個場景:設有2個幾乎完全相同的數(shù)據(jù)集(兩者的差別僅在于一個記錄不同),分別對這2個數(shù)據(jù)集進行查詢訪問,同一查詢在2個數(shù)據(jù)集上產(chǎn)生同一結果的概率比值接近于 1。而基于抽樣理論,搜索精度天然地可用(ε,δ)-原語來量化,其中,ε表示誤差邊界,δ表示抽樣誤差大于ε的概率。這里,可對差分隱私的定義增加一個松弛因子 δ,這樣不但增強了差分隱私保護方法在現(xiàn)實應用領域的適用性,而且與搜索精度的量化表示建立了一一映射。

    最后,統(tǒng)一搜索精度與搜索時效的度量指標。在現(xiàn)實的搜索應用場景中,由于搜索對象(數(shù)據(jù)集)、可用資源(內(nèi)存、帶寬等)受限,根據(jù)中心極限定理,當搜索精度確定時,可以確定抽樣樣本個數(shù),因此,抽樣與求解的時間可以預估,從而將搜索精度與搜索時效建立映射。

    4.2支持多源信息增量融合的隱私反推演技術

    針對面向多源信息發(fā)布下的隱私泄漏預判方法,可采用基于沖突圖的超圖消解算法,構造相容性規(guī)則,對已發(fā)布的數(shù)據(jù)進行等價類劃分。通過分析屬性間的覆蓋、偏序等關系,構建信息屬性辨識矩陣,基于粗糙集、熵計算等知識挖掘理論,在進行屬性約簡、構建粒度化的知識聚合體的同時,從中得出信息屬性與敏感屬性間的關聯(lián)沖突規(guī)則集,然后將每一個屬性視為超圖的一個頂點,每一個沖突規(guī)則視為超圖的一條超邊。最后通過最優(yōu)超邊消解原則,開發(fā)基于貪心策略的超邊消解啟發(fā)式算法,獲得可能引發(fā)隱私泄露的最小屬性集。

    針對多源信息融合過程的隱私保護,可采用基于輪詢迭代的加細信息匿名隱私保護策略,主要思想是:數(shù)據(jù)融合的各方就自己所擁有的本地數(shù)據(jù)計算各屬性的信息熵并公布最大的熵值進行比較,各方選出本輪全局熵值最大的屬性。該屬性的所有者基于上一輪的數(shù)據(jù)劃分結果對其進行加細劃分,若劃分結果不違背數(shù)據(jù)匿名約束,則公布劃分結果,否則直接進行下一輪,直至沒有屬性能在滿足匿名約束的前提下對數(shù)據(jù)加細劃分產(chǎn)生貢獻。數(shù)據(jù)的匿名性是由算法本身保證的?;谳喸兊募蛹毿畔⒛涿[私保護策略對數(shù)據(jù)實施自頂向下逐步細化,在交互過程中,每輪具有全局信息增益最大屬性的用戶嚴格遵照匿名門限細化數(shù)據(jù)集,第q輪細化的最終結果就是融合數(shù)據(jù)T,且易知前q-1輪的細化結果集都比T粗糙,即租戶在交互過程中不可能學到比集成數(shù)據(jù)表T更多的知識。

    針對增量數(shù)據(jù)發(fā)布可能誘發(fā)的隱私泄露風險,可通過整合4.1節(jié)提出的隱私保護強度與數(shù)據(jù)精度融合統(tǒng)一的度量機制,分析增量數(shù)據(jù)對既有數(shù)據(jù)隱私保護程度造成的沖擊,量化隱私保護頑健穩(wěn)定性邊界,基于差分隱私策略,設計一套隱私預算增量分配機制,以實現(xiàn)在滿足數(shù)據(jù)增量發(fā)布隱私保護的前提下最大化數(shù)據(jù)可用性的現(xiàn)實需求。

    4.3支持時空特性的多維細粒度訪問控制機制

    大數(shù)據(jù)搜索中用戶搜索需求多元化且動態(tài)多變,針對傳統(tǒng)的基于用戶靜態(tài)屬性的訪問控制模型(如CP-ABE)擴展性較差、難以繼續(xù)適用的問題,可采用如下方案進行解決:1)采用層次聚類法自動挖掘用戶靜態(tài)角色屬性,通過分析角色屬性構造概念格從而引導權限集的聚合,再引入基于場景驅(qū)動的方法分析具體業(yè)務場景,將需求信息以語義或者啟發(fā)式規(guī)則的方式對自底向上得到的結構進行優(yōu)化,增強屬性挖掘結果的準確性;2)基于屬性挖掘的結果,結合用戶搜索精度、時效、成本等動態(tài)需求,構建用戶的動態(tài)“畫像”并給出形式化描述;3)設計給定計算資源場景下搜索精度與時效的預估算法,基于計算資源與用戶“畫像”的聯(lián)動模型,粒度化地控制呈現(xiàn)給用戶的搜索結果視圖,從而建立適用場景廣、動態(tài)可擴展的多維細粒度訪問控制模型。

    大數(shù)據(jù)多源融合的特性,引入了多個授權機構的局部數(shù)據(jù)訪問控制規(guī)則,對于各訪問控制規(guī)則間的沖突消解機制,可按照以下方案展開研究:1)建立各授權機構訪問控制規(guī)則中數(shù)據(jù)、授權用戶、訪問權限等屬性的統(tǒng)一形式化表示模型,量化研究不同粒度訪問控制的安全風險與數(shù)據(jù)效用;2)在訪問規(guī)則屬性統(tǒng)一表示模型的基礎上,構建訪問控制屬性辨識矩陣,從中得出訪問控制沖突屬性集;3)采用基于沖突圖的超圖消解算法處理訪問控制沖突屬性集,從而統(tǒng)一融合各授權機構差異化的訪問控制規(guī)則。

    對支持時空特性的訪問控制演化機制的研究,可從以下方面展開:1)歸納和分析大數(shù)據(jù)搜索場景中各類具有時空特性的訪問控制要素,如數(shù)據(jù)擁有者的授權體系、用戶的動態(tài)訪問權限及數(shù)據(jù)隱私保護需求等,抽象出時空特性在訪問控制模型中的表達方法;2)基于對用戶搜索意圖的分析,研究授權及權限更新等操作對訪問者及數(shù)據(jù)等所帶來的風險,分析風險間的關聯(lián)關系,基于風險評估研究授權與權限的實時更新方法;3)在粒度化的訪問控制視圖的基礎上,進行時空相關的屬性約束擴展,包括角色時間屬性、用戶位置屬性、上下文時間屬性等;4)整合搜索周期中涉及的信任、安全、隱私保護機制,設計支持時空特性的風險計算方法及權限更新策略,進而實現(xiàn)自適應、可重組、動態(tài)可調(diào)整的訪問控制機制。

    4.4用戶搜索意圖保護的安全搜索技術

    在大數(shù)據(jù)搜索中,對用戶搜索意圖的準確理解是提供高質(zhì)量搜索結果的保障,但用戶表達其真實意圖的同時可能會暴露位置、行為等隱私。

    對于搜索意圖的表示方法與隱私檢測機理,可從以下2個方面展開研究:1)以個性化辨識屬性集為目標對用戶意圖進行建模,結合用戶的行為和語境信息,構建搜索目標“與/或樹”,圍繞這個主結構伸展意圖,實現(xiàn)用戶搜索意圖的顯式量化表示方法;2)從現(xiàn)實的大數(shù)據(jù)搜索應用出發(fā),基于抽取用戶搜索意圖中包含的各類實體,建立搜索意圖及位置、行為等隱私屬性的二元結構與用戶實體的映射關系,通過頻繁模式挖掘?qū)τ成潢P系進行關聯(lián)分析,從而檢測出隱含在用戶搜索意圖中的隱私信息,實時提供行為隱私、身份隱私及位置隱私的泄露預警。

    針對用戶對搜索質(zhì)量和隱私保護的二元需求,可按照以下方案研究用戶搜索意圖保護策略:1)基于語義樹設計搜索意圖的模糊及泛化方法,并量化分析該方法對搜索質(zhì)量的影響;2)基于擴展的差分隱私定義,根據(jù)搜索質(zhì)量與隱私保護預算的映射關系圖,得到對應于給定搜索質(zhì)量的隱私保護預算,并使用基于高斯分布的加噪機制替代差分隱私保護原有的拉普拉斯加噪方案;3)從搜索意圖中抽取出行為、身份、位置等隱私屬性,基于行為隱私、身份隱私及位置隱私聯(lián)動的保護機理,實現(xiàn)用戶與其搜索意圖解耦合的安全搜索模型。

    在大數(shù)據(jù)搜索中集成面向數(shù)據(jù)和用戶意圖的隱私保護技術,同時保證用戶對搜索精度、時效的需求,以實現(xiàn)高可用的大數(shù)據(jù)安全搜索架構。這部分的研究可從如下方面展開:1)基于隱私保護需求對搜索結果精度的刻畫機制,以伯努利、重采樣等統(tǒng)計抽樣理論為依據(jù)實現(xiàn)近似求解,通過構建樣本容量與精度、時效聯(lián)動的可量化模型,實現(xiàn)同時滿足隱私、精度、時效約束的搜索模型;2)針對存在覆蓋、偏序、同構關系的用戶搜索請求,設計粒度化歷史結果視圖的緩存與復用機制,建立以歷史結果視圖為基礎的增量求解模型,實現(xiàn)支持數(shù)據(jù)更新的歷史結果視圖維護機制;3)分析多用戶搜索任務的數(shù)據(jù)分布特征、對資源的時變需求以及任務間的覆蓋關系,實現(xiàn)優(yōu)先級刻畫方法與多隊列的任務管理技術,通過構建平臺資源的全局視圖,以任務當前優(yōu)先級刻面為基準,基于氣球驅(qū)動機制實現(xiàn)搶占式的動態(tài)資源配給技術。

    5 結束語

    大數(shù)據(jù)搜索以數(shù)據(jù)體量巨大、知識蘊含豐富為“形”,多粒度、高效智慧地滿足用戶需求體驗為“神”,這一理念的興起革新了以往對安全高效搜索與隱私保護的求解思路。一方面,用戶在精度、時效、能耗等方面對大數(shù)據(jù)搜索提出新的期許;另一方面,數(shù)據(jù)擁有者急需適用于大數(shù)據(jù)環(huán)境下的訪問控制機制及數(shù)據(jù)隱私保護方案。本文從大數(shù)據(jù)多源融合發(fā)布、用戶搜索需求感知及隱私感知的智慧解答3個方面綜述了國內(nèi)外最新的研究進展,并以此為基礎,從大數(shù)據(jù)安全高效搜索與隱私保護全局一體化的視角凝練了亟待解決的科學問題,提出了6個富有挑戰(zhàn)性的研究議題,最后展望了相關的技術路線,以期為該領域的研究提供借鑒價值。

    [1]SWEENEY L. K-anonymity: a model for protecting privacy[J]. International Journal on Uncertainty,F(xiàn)uzziness and Knowledge-Based Systems,2002,10(5): 557-570.

    [2]MACHANAVAJJHALA A,KIFER D,GEHRKE J,et al. L-diversity:privacy beyond k-anonymity[J]. ACM Transactions on Knowledge Discovery from Data,2007,1(1): 1-47.

    [3]LI N,LI T,VENKATASUBRAMANIAN S. Closeness: a new privacy measure for data publishing[J]. IEEE Transactions on Knowledge and Data Engineering,2010,22(7): 943-956.

    [4]周水庚,李豐,陶宇飛,等.面向數(shù)據(jù)庫應用的隱私保護研究綜述[J].計算機學報,2009,32(5): 847-861. ZHOU S G,LI F,TAO Y F,et al. Privacy preservation in database applications: a survey[J]. Chinese Journal of Computers,2009,32(5): 847-861.

    [5]XIAO X K,TAO Y F. M-invariance: towards privacy preserving republication of dynamic datasets[C]//International Conference on Sigmod,New York. c2007: 689-700.

    [6]JIANG W,CLIFTON C. A secure distributed framework for achieving anonymity[J]. The International Journal on Very Large Data Bases,2006,15(4): 316-333.

    [7]CLIFTON C,KANTARCIOGLU,VAIDYA J. Tools for privacy preserving distributed data mining[J]. ACM SigkddExplorations Newsletter,2010,4(2): 1-7.

    [8]MOHAMMED N,F(xiàn)UNG B C M,DEBBABI M. Anonymity meets game theory: secure data integration with malicious participants[J]. VLDB Journal,2011,20(4): 567-588.

    [9]MOHAMMED N,F(xiàn)UNG B C M,et al. Centralized and distributed anonymization for high-dimensional healthcare data[J]. ACM Transactions on Knowledge Discovery from Data,2010,4(4):885-900.

    [10]JIANG W,CLIFTON C,KANTARCIOGLU M. Transforming semi-honest protocols to ensure accountability[C]//IEEE International Conference on Data Mining Workshops(ICDM). c2006:524-529.

    [11]DU W,HAN Y S,CHEN S. Privacy-preserving multivariate statistical analysis: linear regression and classification[C]//The SIAM International Conference on Data Mining,F(xiàn)lorida. c2004:222-223.

    [12]PINKAS B. Cryptographic techniques for privacy-preserving data mining[J]. ACM Sigkdd Explorations Newsletter,2003,4(2):12-19.

    [13]VAIDYA J,CLIFTON C. Privacy-preserving k-means clustering over vertically partitioned data[C]//ACM Sigkdd International Conference on Knowledge Discovery & Data Mining. c2003:206-215.

    [14]BRODER A Z,F(xiàn)ONTOURA M,GABRILOVICH E,et al. Robust classification of rare queries using web knowledge[C]//The 30th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval. c2007: 231-238.

    [15]KOHLSCHüTTER C,CHIRITA P A,NEJDL W. Using link analysis to identify aspects in faceted web search[J]. Sigir Faceted Search Workshop. 2006.

    [16]SHEN D,PAN R,SUN J T,et al. Query enrichment for web-query classification[J]. ACM Transactions on Information Systems,2006,24(3): 320-352.

    [17]TEEVAN J,KARLSON A,AMINI S,et al. Understanding the importance of location,time,and people in mobile local search behavior[C]//International Conference on Human Computer Interaction with Mobile Devices & Services. c2011:77-80.

    [18]BRODER A,F(xiàn)ONTOURA M,JOSIFOVSKI V,et al. A semantic approach to contextual advertising[C]//The International ACM SIGIR Conference on Research and Development in Information Retrieval,Amsterdam,the Netherlands. c2007:559-566.

    [19]SARKAS N,PAPARIZOS S,TSAPARAS P. Structured annotations of Web queries[C]//ACM SIGMOD International Conference on Management of Data. c2010:771-782.

    [20]STANKOVIC J A. Research directions for the internet of things[J]. Internet of Things Journal,2014,1(1): 3-9.

    [21]MAEKAWA T,YANAGISAWA Y,SAKURAI Y,et al. Context-aware Web search in ubiquitous sensor environments[J]. ACM Transactions on Internet Technology,2012,11(3): 1-23.

    [22]YAO L,SHENG Q Z,F(xiàn)ALKNER N J G,et al. ThingsNavi: finding most-related things via multi-dimensional modeling of human-thing interactions[C]//The 11th International Conference on Mobile and Ubiquitous Systems: Computing,Networking and Services. c2014:20-29.

    [23]OSTERMAIER B,ROMER K,MATTERN F,et al. A real-time search engine for the web of things[C]//2010 Internet of Things(IOT). c2010: 1-8.

    [24]CHRISTOPHE B,VERDOT V,TOUBIANA V. Searching the ‘web of things'[C]//The 5th International Conference on Semantic Computing. c2011: 308-315.

    [25]Smart. Search engine for multimedia environment generated content[EB/OL]. http://www.smartfp7.eu/.

    [26]HAN X,LIU X,LI J,GAO H. TDEP: efficiently processing top-k dominating query on massive data[J]. Knowledge & Information Systems,2014,43(3): 689-718.

    [27]HAN X,LI J,GAO H,YANG C. SEPT: an efficient skyline join algorithm on massive data[J]. Knowledge & Information Systems,2015,43(2): 355-388.

    [28]HAN X,LI J,YANG D. PI-join: efficiently processing join queries on massive data[J]. Knowledge & Information Systems,2012,32(3): 527-557.

    [29]CHAUDHURI S,DAS G,SRIVASTAVA U. Effective use of block-level sampling in statistics estimation [C]//ACM SIGMOD International Conference on Management of Data,Paris. c2004:287-298.

    [30]DOUCET A,BRIERS M,SNCAL S. Efficient block sampling strategies for sequential monte carlo methods[J].Journal of Computational and Graphical Statistics,2006,15(3):693-711.

    [31]CONDIE T,CONWAY N,ALVARO P,et al. Online aggregation and continuous query support in MapReduce[C]//ACM SIGMOD International Conference on Management of Data. c2010: 1115-1118.

    [32]LAPTEV N,ZENG K and ZANIOLO C. Early accurate results for advanced analytics on MapReduce[J]. The VLDB Endowment,2012,5(10): 1028-1039.

    [33]HERODOTOU H,DONG F,and BABU S. MapReduce programming and cost-based optimization? crossing this chasm with starfish[J]. The VLDB Endowment,2011(4):1446-1449.

    [34]HERODOTOU H,BABU S. Profiling,what-if analysis,and cost-based optimization of mapreduce programs[J].The VLDB Endowment,2011(4): 111-1122.

    [35]YU S,REN K,LOU W. FDAC: toward fine-grained distributed data access control in wireless sensor networks[J]. IEEE Transactions on Parallel and Distributed Systems,2011,22(4): 673-686.

    [36]ZHANG R,ZHANG Y,et al. Distributed privacy-preserving access control in sensor networks[J]. IEEE Transactions on Parallel and Distributed Systems,2012,23(8): 1427-1438.

    [37]FRIAS-MARTINEZ V,SHERRICK J,STOLFO S J,et al. A network access control mechanism based on behavior profiles[C]//Annual Computer Security Applications Conference. c2009: 3-12.

    [38]GOYAL V,PANDEY O,SAHAI A,et al. Attribute-based encryption for fine-grained access control of encrypted data[C]//The 13th ACM CCS. c2006: 89-98.

    [39]YANG K,JIA X. Expressive,efficient,and revocable data access control for multi-authority cloud storage[J]. IEEE Transactions on Parallel and Distributed Systems,2014,25(7): 1735-1744.

    [40]CAMENISCH J,LEHMANN A,NEVEN G,et al. Privacy-preserving auditing for attribute-based credentials[C]//Computer Security-ESORICS. c2014: 109-127.

    [41]MAJI H. Attribute-based signatures: achieving attribute-privacy and collusion-resistance[J]. IACR Cryptology ePrint Archive,2008,(4): 1-23.

    [42]BUGIEL S,HEUSER S,SIT F. Flexible and fine-grained mandatory access control on android for diverse security and privacy policies[C]//Usenix Conference on Security. c2013:131-46.

    [43]ROHRER F,ZHANG Y,CHITKUSHEV L,et al. DR BACA:dynamic role based access control for android[C]//The 29th Annual Computer Security Applications Conference. c2013: 299-308.

    [44]SINGH K. Practical context-aware permission control for hybrid mobile applications[M]//Research in Attacks,Intrusions,and Defenses. Berlin Heidelberg: Springer,2013: 307-327.

    [45]AVE S. Auto-FBI: a user-friendly approach for secure access to sensitive content on the Web[C]//The 29th Annual Computer Security Applications Conference. c2015: 349-358.

    [46]HU H,AHN G,et al. Multiparty access control for online social networks: model and mechanisms[J]. IEEE Transactions on Knowledge and Data Engineering,2013,25(7): 1614-1627.

    [47]DWORK C,NAOR M,VADHAN S. The privacy of the analyst and the power of the state[C]//IEEE 53rd Annual Symposium on Foundations of Computer Science. c2012: 400-409.

    [48]MARIAS G F,DELAKOURIDIS C,KAZATZOPOULOS L,et al. Location privacy through secret sharing techniques[C]//The 6th IEEE International Symposium on a World of Wireless Mobile and Multimedia Networks. c2005: 614-620.

    [49]WERNKE M,DURR F. PShare: position sharing for location privacy based on multi-secret sharing[C]//IEEE International Conference on Pervasive Computing and Communications. c2012:153-161.

    [50]SANTOS V,BAI?O F,TANA A. An architecture to support information sources discovery through semantic search[C]//IEEE International Conference on Information Reuse&Integration. c2011:276-282.

    [51]ZHANG B,ROSS B,TRIPATHI S,et al. Network-aware data caching and prefetching for cloud-hosted metadata retrieval[C]//The Third International Workshop on Network-aware Data Management. c2013: 1-10.

    [52]SABRINA D C D V,F(xiàn)ORESTI S,JAJODIA S,et al. On information leakage by indexes over data fragments[C]//The 29th International Conference on Data Engineering Workshops,IEEE. c2013:94-98.

    [53]BETHENCOURT J,SAHAI A and WATERS B. Ciphertext-policy attribute-based encryption[C]//IEEE Symposium on Security and Privacy. c2007: 321-334.

    [54]YANG K,JIA X,REN K,ZHANG B. DAC-MACS: Effective data access control for multi-authority cloud storage systems[J].IEEE Transactions on Information Forensics & Security,2014,8(11):2895-2903.

    [55]SANKAR L,RAJAGOPALAN S R,POOR H V. A theory of utility and privacy of data sources[J]. IEEE International Symposium on Information Theory,2010,41(3): 2642-2646.

    [56]GUO S,CHEN K. Mining privacy settings to find optimal privacy-utility tradeoffs for social network services[C]//International Conference on Privacy,Security,Risk and Trust .c2012: 656-665.

    [57]GU Y,WU W. A quantifying method for trade-off between privacy and utility[C]//The International Conference on Information and Communications Technologies. c2013:270-273.

    Prospect of secure-efficient search and privacy-preserving mechanism on big data

    LI Shang,ZHOU Zhi-gang,ZHANG Hong-li,YU Xiang-zhan

    (School of Computer Science and Technology,Harbin Institute of Technology,Harbin 150001,China)

    With rapid development of information industry,services related to big data search have permeated into almost every aspect of human lives. Relevant technologies are undergoing profound changes,such as privacy preservation for data fusion,context-aware search intention comprehending and statistic search pattern. The issues of secure-efficient search and privacy-preserving for big data were studied and looked ahead. Firstly,three chief scientific problems were refined from the aspects of multi-source data publication,awareness of users' search requirements and privacy-aware wise solutions,respectively. Secondly,main research contents were proposed,including big data oriented information fusion and knowledge extraction,granular knowledge representation and inference,interactive representation of search task,user experience driven task management,granular search pattern balancing utility with cost,and secure search mechanism based on differential privacy. Lastly,several promising techniques in future were discussed.

    big data,secure search,privacy preservation,multi-source information fusion

    TP393

    A

    10.11959/j.issn.2096-109x.2016.00041

    2016-03-07;

    2016-04-02。通信作者:周志剛,zzgisgod@sina.com

    國家自然科學基金資助項目(No.61402137);國家重點基礎研究發(fā)展計劃(“973”計劃)基金資助項目(No.2013CB329602)

    Foundation Items: The National Natural Science Foundation of China(No.61402137),The National Basic Research Program of China(973 Program)(No.2013CB329602)

    李尚(1989-),男,山東濟寧人,哈爾濱工業(yè)大學博士生,主要研究方向為大數(shù)據(jù)安全搜索。

    周志剛(1986-),男,山西太原人,哈爾濱工業(yè)大學博士生,主要研究方向為云安全和隱私計算。

    張宏莉(1973-),女,吉林榆樹人,博士,哈爾濱工業(yè)大學教授、博士生導師,主要研究方向為網(wǎng)絡與信息安全、網(wǎng)絡測量與建模、網(wǎng)絡計算、并行處理等。

    余翔湛(1973-),男,黑龍江哈爾濱人,博士,哈爾濱工業(yè)大學研究員、博士生導師,主要研究方向為網(wǎng)絡容災、信息安全、物聯(lián)網(wǎng)安全等。

    猜你喜歡
    融合用戶信息
    村企黨建聯(lián)建融合共贏
    融合菜
    從創(chuàng)新出發(fā),與高考數(shù)列相遇、融合
    《融合》
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    關注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    關注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    如何獲取一億海外用戶
    展會信息
    中外會展(2014年4期)2014-11-27 07:46:46
    国产亚洲精品综合一区在线观看| 99在线视频只有这里精品首页| 天堂√8在线中文| 欧美性感艳星| 日本撒尿小便嘘嘘汇集6| 亚洲在线自拍视频| 国产极品精品免费视频能看的| 3wmmmm亚洲av在线观看| 国产高清有码在线观看视频| 一级av片app| 久久久久久久久中文| 亚洲第一区二区三区不卡| 午夜a级毛片| 亚洲av一区综合| 日本撒尿小便嘘嘘汇集6| 麻豆一二三区av精品| 男女边吃奶边做爰视频| 欧美成人一区二区免费高清观看| 亚洲国产精品久久男人天堂| 亚洲专区国产一区二区| 久久精品夜夜夜夜夜久久蜜豆| 听说在线观看完整版免费高清| 一级毛片我不卡| 亚洲欧美精品综合久久99| 中文资源天堂在线| 亚洲自拍偷在线| 狂野欧美激情性xxxx在线观看| 别揉我奶头~嗯~啊~动态视频| 真实男女啪啪啪动态图| av天堂中文字幕网| 日日撸夜夜添| 插阴视频在线观看视频| 久久精品国产亚洲av天美| 黄色配什么色好看| 男女下面进入的视频免费午夜| 天美传媒精品一区二区| 干丝袜人妻中文字幕| 亚洲av中文字字幕乱码综合| 亚洲av中文av极速乱| 成年女人永久免费观看视频| a级毛色黄片| 亚洲中文日韩欧美视频| 此物有八面人人有两片| 亚洲性夜色夜夜综合| 国产成人aa在线观看| 啦啦啦观看免费观看视频高清| 欧美日韩一区二区视频在线观看视频在线 | 国产精品不卡视频一区二区| 国产女主播在线喷水免费视频网站 | 毛片女人毛片| 99热精品在线国产| 中文字幕av成人在线电影| 99在线人妻在线中文字幕| 一本一本综合久久| 美女被艹到高潮喷水动态| av在线蜜桃| 国产男人的电影天堂91| 99在线视频只有这里精品首页| 人妻丰满熟妇av一区二区三区| 日本黄色视频三级网站网址| 国产av不卡久久| 亚洲欧美日韩高清专用| 小蜜桃在线观看免费完整版高清| 欧美日本亚洲视频在线播放| 日日摸夜夜添夜夜爱| 午夜福利成人在线免费观看| 又黄又爽又免费观看的视频| 久久婷婷人人爽人人干人人爱| 少妇猛男粗大的猛烈进出视频 | 少妇高潮的动态图| 菩萨蛮人人尽说江南好唐韦庄 | 五月玫瑰六月丁香| 国产成人aa在线观看| 久久久久久久久中文| av中文乱码字幕在线| 亚洲最大成人av| 热99re8久久精品国产| 国产色婷婷99| 亚洲人成网站高清观看| 校园人妻丝袜中文字幕| 亚洲高清免费不卡视频| 日本爱情动作片www.在线观看 | 高清毛片免费看| 尾随美女入室| 亚洲国产高清在线一区二区三| 日本-黄色视频高清免费观看| 美女免费视频网站| 丰满的人妻完整版| 综合色av麻豆| 乱系列少妇在线播放| 老司机午夜福利在线观看视频| 中出人妻视频一区二区| 国产在线男女| 一个人看视频在线观看www免费| 人人妻人人澡人人爽人人夜夜 | 你懂的网址亚洲精品在线观看 | 国产又黄又爽又无遮挡在线| 丝袜喷水一区| 日韩欧美在线乱码| 国产探花极品一区二区| 免费av不卡在线播放| 波多野结衣高清无吗| 亚洲av美国av| av免费在线看不卡| 欧美丝袜亚洲另类| 国产高清有码在线观看视频| 夜夜爽天天搞| 精品欧美国产一区二区三| 1024手机看黄色片| 一级黄片播放器| 男人狂女人下面高潮的视频| 亚洲人成网站在线播| 中文在线观看免费www的网站| 联通29元200g的流量卡| 国产伦在线观看视频一区| 国产精品综合久久久久久久免费| 国产成人91sexporn| 亚洲av免费高清在线观看| 99热精品在线国产| 精华霜和精华液先用哪个| 少妇猛男粗大的猛烈进出视频 | 欧美日韩国产亚洲二区| 免费在线观看成人毛片| 人妻少妇偷人精品九色| 欧美日本视频| www日本黄色视频网| 日韩高清综合在线| 久久久a久久爽久久v久久| 麻豆久久精品国产亚洲av| 国产一区二区激情短视频| 免费在线观看成人毛片| 三级男女做爰猛烈吃奶摸视频| 美女黄网站色视频| 午夜激情福利司机影院| 婷婷精品国产亚洲av| 国产高清视频在线观看网站| 干丝袜人妻中文字幕| 99久久九九国产精品国产免费| 色吧在线观看| 美女高潮的动态| 三级经典国产精品| 国产一区二区在线av高清观看| 99热6这里只有精品| 搞女人的毛片| 99热只有精品国产| 在线免费观看不下载黄p国产| 伦精品一区二区三区| 男女做爰动态图高潮gif福利片| 午夜免费激情av| 亚洲丝袜综合中文字幕| 搡女人真爽免费视频火全软件 | 国产精品国产高清国产av| 免费av毛片视频| 亚洲国产精品成人久久小说 | 美女免费视频网站| 一本久久中文字幕| 欧美人与善性xxx| 久久这里只有精品中国| 国产人妻一区二区三区在| 色5月婷婷丁香| 久久亚洲精品不卡| 高清毛片免费观看视频网站| 欧美潮喷喷水| 亚洲欧美日韩无卡精品| 亚洲最大成人手机在线| 人人妻人人看人人澡| 婷婷色综合大香蕉| 国产淫片久久久久久久久| 91在线观看av| 美女黄网站色视频| 91精品国产九色| 欧美区成人在线视频| 亚洲精品粉嫩美女一区| 直男gayav资源| 12—13女人毛片做爰片一| 听说在线观看完整版免费高清| 国产久久久一区二区三区| 成人av一区二区三区在线看| 一区二区三区四区激情视频 | 国内精品美女久久久久久| 噜噜噜噜噜久久久久久91| 色av中文字幕| 97碰自拍视频| 午夜老司机福利剧场| 波多野结衣巨乳人妻| 亚洲成人精品中文字幕电影| 一级毛片我不卡| 97超碰精品成人国产| 久久精品久久久久久噜噜老黄 | 欧美成人一区二区免费高清观看| av在线亚洲专区| 99久久中文字幕三级久久日本| 中文字幕精品亚洲无线码一区| 精品福利观看| 精品久久久久久久久av| 国产av一区在线观看免费| 久久精品人妻少妇| 国产精品久久视频播放| 色5月婷婷丁香| 国产精品免费一区二区三区在线| 欧美中文日本在线观看视频| 亚洲中文字幕日韩| 观看美女的网站| 国产精品一区二区免费欧美| 男女下面进入的视频免费午夜| 成人性生交大片免费视频hd| 免费av不卡在线播放| 一级毛片电影观看 | 中国美女看黄片| 真人做人爱边吃奶动态| av免费在线看不卡| 亚洲av电影不卡..在线观看| 亚洲精品亚洲一区二区| 国产精华一区二区三区| 国产成人freesex在线 | 国产免费男女视频| 变态另类丝袜制服| 久久精品国产鲁丝片午夜精品| 日韩一本色道免费dvd| 丝袜美腿在线中文| 人人妻人人看人人澡| 一进一出好大好爽视频| 人妻久久中文字幕网| 老熟妇仑乱视频hdxx| 亚洲欧美日韩卡通动漫| 成人欧美大片| 亚州av有码| 极品教师在线视频| 嫩草影视91久久| 性插视频无遮挡在线免费观看| a级一级毛片免费在线观看| 在线观看一区二区三区| 亚洲精品久久国产高清桃花| 免费黄网站久久成人精品| 久久人妻av系列| 亚洲国产日韩欧美精品在线观看| 男女啪啪激烈高潮av片| 色哟哟·www| 亚洲人与动物交配视频| 小蜜桃在线观看免费完整版高清| 神马国产精品三级电影在线观看| a级毛片免费高清观看在线播放| 久久精品国产亚洲网站| 日韩欧美在线乱码| 最好的美女福利视频网| 美女xxoo啪啪120秒动态图| 桃色一区二区三区在线观看| 尾随美女入室| 久久精品影院6| 高清毛片免费看| 亚洲真实伦在线观看| 午夜免费激情av| 日韩,欧美,国产一区二区三区 | 亚洲av免费在线观看| 亚洲一区高清亚洲精品| 久久久午夜欧美精品| 午夜免费激情av| 欧美+日韩+精品| 国产男人的电影天堂91| 观看免费一级毛片| 99热网站在线观看| 特大巨黑吊av在线直播| 最好的美女福利视频网| 国产中年淑女户外野战色| 国产精品1区2区在线观看.| 噜噜噜噜噜久久久久久91| 亚洲人成网站高清观看| 久久久久久久久大av| 97超级碰碰碰精品色视频在线观看| 免费观看在线日韩| 欧美xxxx黑人xx丫x性爽| 国产精品不卡视频一区二区| 久久精品综合一区二区三区| 啦啦啦韩国在线观看视频| 色综合亚洲欧美另类图片| 国产视频内射| 欧美一区二区精品小视频在线| 亚洲精品久久国产高清桃花| 人人妻人人澡人人爽人人夜夜 | 18+在线观看网站| 五月玫瑰六月丁香| 直男gayav资源| 午夜福利在线在线| av卡一久久| 99久久精品一区二区三区| 色噜噜av男人的天堂激情| 一区二区三区免费毛片| 中国美白少妇内射xxxbb| 欧美精品国产亚洲| 亚洲在线观看片| 国产精品久久久久久精品电影| 国产69精品久久久久777片| 国产精品综合久久久久久久免费| 日本欧美国产在线视频| 三级男女做爰猛烈吃奶摸视频| 69人妻影院| 精品久久久久久久人妻蜜臀av| 亚洲av免费在线观看| 别揉我奶头 嗯啊视频| 美女免费视频网站| 欧美成人精品欧美一级黄| 国产av在哪里看| 好男人在线观看高清免费视频| h日本视频在线播放| 深爱激情五月婷婷| 亚洲欧美成人精品一区二区| 国产一区二区三区在线臀色熟女| 99久久精品一区二区三区| 国产一区亚洲一区在线观看| 淫妇啪啪啪对白视频| 成人国产麻豆网| 中文字幕精品亚洲无线码一区| 国产免费一级a男人的天堂| 俺也久久电影网| 波野结衣二区三区在线| 免费人成视频x8x8入口观看| 日韩,欧美,国产一区二区三区 | 亚洲国产欧美人成| 天堂av国产一区二区熟女人妻| 亚洲av美国av| 天堂网av新在线| 亚洲一级一片aⅴ在线观看| 亚洲第一电影网av| 草草在线视频免费看| 成熟少妇高潮喷水视频| 男人舔女人下体高潮全视频| 国产精品久久电影中文字幕| 亚洲欧美成人综合另类久久久 | 99热全是精品| 男人舔奶头视频| 亚洲成人久久爱视频| 成人av一区二区三区在线看| 可以在线观看的亚洲视频| 在线a可以看的网站| 女人十人毛片免费观看3o分钟| 欧美人与善性xxx| av在线天堂中文字幕| 国产精品人妻久久久久久| 床上黄色一级片| 国产色爽女视频免费观看| 男女做爰动态图高潮gif福利片| 人妻久久中文字幕网| 精品人妻偷拍中文字幕| 国产美女午夜福利| 波多野结衣高清无吗| 欧美xxxx性猛交bbbb| 久久久久久九九精品二区国产| 最近在线观看免费完整版| 夜夜看夜夜爽夜夜摸| 国产精品久久视频播放| 成人亚洲欧美一区二区av| 亚洲高清免费不卡视频| 九九在线视频观看精品| 亚洲四区av| 免费观看在线日韩| 麻豆成人午夜福利视频| 午夜福利在线观看免费完整高清在 | 美女cb高潮喷水在线观看| 三级男女做爰猛烈吃奶摸视频| 亚洲五月天丁香| 亚洲精品一卡2卡三卡4卡5卡| 卡戴珊不雅视频在线播放| 久久久久国产网址| 亚洲国产精品成人综合色| 99久久九九国产精品国产免费| 亚洲欧美日韩卡通动漫| 免费av不卡在线播放| 国产精品久久视频播放| 成人亚洲欧美一区二区av| 97热精品久久久久久| 一个人看的www免费观看视频| 岛国在线免费视频观看| 色综合色国产| 最后的刺客免费高清国语| 三级男女做爰猛烈吃奶摸视频| 久久午夜福利片| 在线a可以看的网站| 久久久久国内视频| 亚洲一区二区三区色噜噜| 最近在线观看免费完整版| 日韩欧美 国产精品| 在线免费十八禁| 国产精品综合久久久久久久免费| 欧美xxxx性猛交bbbb| 久久久午夜欧美精品| 97超级碰碰碰精品色视频在线观看| 国产乱人视频| 在线看三级毛片| 村上凉子中文字幕在线| 国产91av在线免费观看| 国产精品一及| 欧美一级a爱片免费观看看| 免费电影在线观看免费观看| 老师上课跳d突然被开到最大视频| 日韩欧美一区二区三区在线观看| 久久人妻av系列| 五月玫瑰六月丁香| 亚洲人成网站在线观看播放| 99九九线精品视频在线观看视频| 一个人看视频在线观看www免费| 日日干狠狠操夜夜爽| 欧美绝顶高潮抽搐喷水| 嫩草影院新地址| 少妇熟女aⅴ在线视频| av在线播放精品| 国语自产精品视频在线第100页| 超碰av人人做人人爽久久| 看片在线看免费视频| 国产精品,欧美在线| av女优亚洲男人天堂| 在线国产一区二区在线| 久久久久久伊人网av| 免费看日本二区| 两个人的视频大全免费| 99久久无色码亚洲精品果冻| 亚洲欧美成人精品一区二区| 国产精品人妻久久久影院| 蜜桃久久精品国产亚洲av| 国产午夜精品久久久久久一区二区三区 | 麻豆国产av国片精品| 成人高潮视频无遮挡免费网站| 舔av片在线| 国产精品野战在线观看| 久久久成人免费电影| 中出人妻视频一区二区| 日韩精品青青久久久久久| 日本欧美国产在线视频| 人妻夜夜爽99麻豆av| 最近的中文字幕免费完整| 午夜影院日韩av| 极品教师在线视频| 国产精品一及| 精品久久久久久久人妻蜜臀av| 成人漫画全彩无遮挡| 黄色配什么色好看| 插阴视频在线观看视频| 大型黄色视频在线免费观看| 91精品国产九色| 久久99热这里只有精品18| 久久久久久久亚洲中文字幕| 变态另类丝袜制服| 国产伦在线观看视频一区| 免费搜索国产男女视频| 色哟哟哟哟哟哟| 秋霞在线观看毛片| 日韩中字成人| 国产又黄又爽又无遮挡在线| 久久久久久久午夜电影| 国产探花极品一区二区| 俺也久久电影网| 国内少妇人妻偷人精品xxx网站| 中文字幕精品亚洲无线码一区| 亚洲国产精品sss在线观看| 国产 一区精品| 亚洲av不卡在线观看| 婷婷六月久久综合丁香| 成人一区二区视频在线观看| 美女xxoo啪啪120秒动态图| 老熟妇乱子伦视频在线观看| 国产精华一区二区三区| 国产精品99久久久久久久久| 狠狠狠狠99中文字幕| 在线观看免费视频日本深夜| 亚洲人与动物交配视频| 欧美日韩精品成人综合77777| 日本在线视频免费播放| 国产一区二区在线av高清观看| 国产伦在线观看视频一区| 国产精品久久久久久av不卡| 亚洲成人久久性| 美女高潮的动态| 久久99热这里只有精品18| 青春草视频在线免费观看| 听说在线观看完整版免费高清| 欧美不卡视频在线免费观看| 国产欧美日韩一区二区精品| 国产一区二区三区av在线 | 99视频精品全部免费 在线| 午夜爱爱视频在线播放| 深夜a级毛片| 亚洲天堂国产精品一区在线| 国产精品三级大全| 国产探花极品一区二区| 久久国内精品自在自线图片| 日本与韩国留学比较| 久久精品国产鲁丝片午夜精品| 长腿黑丝高跟| 欧美人与善性xxx| 午夜老司机福利剧场| 日韩人妻高清精品专区| 亚洲欧美精品综合久久99| 久久久久久久久久黄片| 久久久久免费精品人妻一区二区| 嫩草影院入口| 一区二区三区高清视频在线| 精品日产1卡2卡| 美女黄网站色视频| 欧美高清成人免费视频www| 99久久无色码亚洲精品果冻| 久久久久久九九精品二区国产| 国产v大片淫在线免费观看| 丰满人妻一区二区三区视频av| 免费av观看视频| 亚洲国产精品成人综合色| 人妻夜夜爽99麻豆av| 一级av片app| 日韩欧美三级三区| 成人永久免费在线观看视频| 在线观看午夜福利视频| av天堂在线播放| 国产av一区在线观看免费| 久久久久久久午夜电影| 国产黄片美女视频| 人妻少妇偷人精品九色| 男女下面进入的视频免费午夜| 免费观看精品视频网站| 亚洲av熟女| 精品一区二区三区视频在线观看免费| 国产视频内射| 国产精品国产三级国产av玫瑰| 看黄色毛片网站| 性插视频无遮挡在线免费观看| 日本免费一区二区三区高清不卡| 亚洲久久久久久中文字幕| 国产一区二区在线av高清观看| 黄色一级大片看看| 欧美色视频一区免费| 亚洲成人中文字幕在线播放| 成人综合一区亚洲| 搡老妇女老女人老熟妇| 两个人的视频大全免费| 国产91av在线免费观看| 一级毛片电影观看 | 乱码一卡2卡4卡精品| 综合色av麻豆| 九九在线视频观看精品| 最新在线观看一区二区三区| 日韩三级伦理在线观看| 国产伦一二天堂av在线观看| 一本久久中文字幕| 最好的美女福利视频网| 国产在线精品亚洲第一网站| 免费看美女性在线毛片视频| 永久网站在线| 老司机福利观看| 国产一区二区在线av高清观看| 白带黄色成豆腐渣| 午夜激情欧美在线| 日日撸夜夜添| 熟妇人妻久久中文字幕3abv| 欧美色视频一区免费| 久久精品国产自在天天线| 成人综合一区亚洲| 亚洲国产精品成人综合色| 大型黄色视频在线免费观看| 尤物成人国产欧美一区二区三区| 欧美性感艳星| 国内精品美女久久久久久| 色av中文字幕| 久久久久久大精品| 一级黄色大片毛片| 麻豆乱淫一区二区| 黑人高潮一二区| 久久鲁丝午夜福利片| 最近在线观看免费完整版| 少妇丰满av| av专区在线播放| 一个人观看的视频www高清免费观看| 日韩欧美 国产精品| 久久精品国产亚洲av天美| 乱人视频在线观看| 不卡一级毛片| 亚洲久久久久久中文字幕| 狂野欧美激情性xxxx在线观看| 在线天堂最新版资源| 欧美3d第一页| 精品久久久久久久久av| 在线观看66精品国产| 欧美丝袜亚洲另类| 亚洲国产欧洲综合997久久,| 精品福利观看| 色视频www国产| 深夜精品福利| 少妇高潮的动态图| aaaaa片日本免费| 在线免费观看的www视频| 国产免费男女视频| 国产精品一区www在线观看| 久久这里只有精品中国| 欧美日韩国产亚洲二区| 亚洲国产色片| 国产精品av视频在线免费观看| 久久亚洲国产成人精品v| 日韩亚洲欧美综合| 久久婷婷人人爽人人干人人爱| 欧美日韩国产亚洲二区| 亚洲欧美中文字幕日韩二区| 色综合亚洲欧美另类图片| 国产免费男女视频| 国产成人aa在线观看| 精品一区二区免费观看| 国产免费男女视频| 一进一出抽搐动态| 国产成人91sexporn| 国产成人freesex在线 | 亚洲美女视频黄频| 亚洲精华国产精华液的使用体验 | 国产av麻豆久久久久久久| 日韩欧美精品免费久久| 亚洲精品成人久久久久久| 欧美高清成人免费视频www| 老司机影院成人| 搡女人真爽免费视频火全软件 | 久久久久久久午夜电影| 免费观看在线日韩|