• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    邊緣計(jì)算環(huán)境下安全協(xié)議綜述

    2022-04-06 08:06:00李曉偉陳本輝楊鄧奇伍高飛
    關(guān)鍵詞:計(jì)算環(huán)境密鑰協(xié)商

    李曉偉 陳本輝 楊鄧奇 伍高飛

    1(大理大學(xué)數(shù)學(xué)與計(jì)算機(jī)學(xué)院 云南大理 671003)

    2(廣西密碼學(xué)與信息安全重點(diǎn)實(shí)驗(yàn)室(桂林電子科技大學(xué)) 廣西桂林 541000)

    3(西安電子科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院 西安 710071)

    (lixiaowei_xidian@163.com)

    物聯(lián)網(wǎng)的快速發(fā)展和應(yīng)用使得終端數(shù)據(jù)呈現(xiàn)海量增長(zhǎng)趨勢(shì).數(shù)據(jù)集中傳輸?shù)皆贫颂幚淼姆绞街饾u產(chǎn)生弊端.一方面這樣的方式不能滿足需要快速實(shí)時(shí)處理數(shù)據(jù)的應(yīng)用場(chǎng)景,如當(dāng)出現(xiàn)緊急事故時(shí)應(yīng)該立即啟動(dòng)應(yīng)急響應(yīng)措施,而不是再經(jīng)過云中心處理;另一方面對(duì)于涉及用戶隱私的數(shù)據(jù)傳輸?shù)皆浦行奶幚頃?huì)存在隱私泄露的風(fēng)險(xiǎn),如攝像頭采集的用戶圖像數(shù)據(jù)必須傳輸?shù)皆浦行牟拍芴幚韯t有可能泄露用戶隱私.

    邊緣計(jì)算從某種程度上解決了上述問題[1].邊緣計(jì)算是指數(shù)據(jù)的計(jì)算、存儲(chǔ)以及應(yīng)用可以在數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣處完成,而無需傳輸?shù)皆浦行?邊緣計(jì)算大大減輕了云中心數(shù)據(jù)處理以及網(wǎng)絡(luò)傳輸瓶頸.在設(shè)備邊緣處理用戶隱私數(shù)據(jù)也避免了泄露[2].更為重要的是當(dāng)安全事故發(fā)生時(shí)可以使應(yīng)急響應(yīng)迅速執(zhí)行.在物聯(lián)網(wǎng)設(shè)備日漸趨于泛化的情況下,邊緣計(jì)算所帶來的云—邊協(xié)同效應(yīng)必將推動(dòng)物聯(lián)網(wǎng)行業(yè)快速變革.根據(jù)Grand View Research的最新報(bào)告,到2027年,全球邊緣計(jì)算市場(chǎng)規(guī)模預(yù)計(jì)將達(dá)到154億美元,預(yù)測(cè)期內(nèi)復(fù)合年增長(zhǎng)率為38.6%[3].

    邊緣計(jì)算環(huán)境下計(jì)算、存儲(chǔ)以及數(shù)據(jù)傳輸具有較強(qiáng)的分布式特點(diǎn),其業(yè)務(wù)協(xié)同需要安全支撐.然而失去云中心強(qiáng)大的安全保障,在設(shè)備邊緣進(jìn)行的數(shù)據(jù)存儲(chǔ)、傳輸以及應(yīng)用受到巨大的安全挑戰(zhàn).網(wǎng)絡(luò)安全協(xié)議可以解決邊緣計(jì)算中的上述安全問題。而隨著網(wǎng)絡(luò)架構(gòu)從云—端轉(zhuǎn)變到云—邊—端甚至邊—端,如何設(shè)計(jì)符合邊緣計(jì)算的網(wǎng)絡(luò)安全協(xié)議是邊緣計(jì)算發(fā)展過程中所必須要解決的問題.

    本文首先給出安全協(xié)議概念、邊緣計(jì)算環(huán)境下通信的特點(diǎn)及安全風(fēng)險(xiǎn)分析,然后綜述了近年來邊緣計(jì)算環(huán)境下認(rèn)證、密鑰協(xié)商、隱私保護(hù)以及數(shù)據(jù)共享4類安全協(xié)議的最新進(jìn)展,最后給出了邊緣計(jì)算環(huán)境下安全協(xié)議存在的問題以及研究方向建議.

    本文嘗試以簡(jiǎn)單的形式給出近年來邊緣計(jì)算環(huán)境下安全協(xié)議研究進(jìn)展.一方面以期實(shí)現(xiàn)對(duì)目前邊緣計(jì)算環(huán)境下安全協(xié)議研究進(jìn)展進(jìn)行總體把握的目的;另一方面通過對(duì)安全協(xié)議的表述、邊緣計(jì)算通信特點(diǎn)及風(fēng)險(xiǎn)的概括以期實(shí)現(xiàn)對(duì)邊緣計(jì)算尤其是其安全協(xié)議實(shí)現(xiàn)科普的目的.

    1 安全協(xié)議及邊緣計(jì)算概述

    1.1 安全協(xié)議概述

    安全協(xié)議是網(wǎng)絡(luò)通信中為實(shí)現(xiàn)某種安全目的,通信雙方或多方按照一定規(guī)則采用密碼學(xué)技術(shù)完成的一系列消息交互的過程.安全協(xié)議是網(wǎng)絡(luò)通信安全的基礎(chǔ),是網(wǎng)絡(luò)通信安全首先要考慮的問題.一般而言,安全協(xié)議按照功能不同主要分為認(rèn)證協(xié)議、密鑰協(xié)商協(xié)議、隱私保護(hù)協(xié)議以及數(shù)據(jù)共享協(xié)議4類協(xié)議,4類協(xié)議之間相互協(xié)同共同實(shí)現(xiàn)網(wǎng)絡(luò)通信安全.4類協(xié)議的概述為:

    1) 認(rèn)證協(xié)議(Authentication Protocol).認(rèn)證是指在網(wǎng)絡(luò)環(huán)境下證明實(shí)體擁有其聲稱的實(shí)體身份或證明發(fā)送的消息真實(shí)性,其包括身份認(rèn)證和消息認(rèn)證.身份認(rèn)證一般通過驗(yàn)證用戶擁有的秘密憑證如口令等來實(shí)現(xiàn).消息認(rèn)證一般通過數(shù)字簽名以及消息認(rèn)證碼來實(shí)現(xiàn).

    2) 密鑰協(xié)商協(xié)議(Key Exchange Protocol).密鑰協(xié)商是指通信雙方或多方借助密碼學(xué)手段實(shí)現(xiàn)密鑰共享,以此建立消息保密、消息完整性等安全需求所需的密鑰.密鑰協(xié)商一般分為對(duì)稱密鑰協(xié)商以及非對(duì)稱密鑰協(xié)商.

    3) 隱私保護(hù)協(xié)議(Privacy-preserving Protocol).隱私保護(hù)是指通信過程中或者業(yè)務(wù)流程中用戶的個(gè)人隱私不會(huì)被泄露.用戶隱私一般包括用戶數(shù)據(jù)隱私、位置隱私、身份隱私等.隱私保護(hù)可以通過傳統(tǒng)密碼學(xué)方式來實(shí)現(xiàn),如加密處理等,也可以采用非密碼方式如差分隱私的方式來實(shí)現(xiàn).

    4) 數(shù)據(jù)共享協(xié)議(Data Sharing Protocol).數(shù)據(jù)共享是指數(shù)據(jù)可以被授權(quán)的實(shí)體所安全的訪問、使用,數(shù)據(jù)共享權(quán)利不被非法地篡改或者剝奪.數(shù)據(jù)共享除使用傳統(tǒng)訪問控制實(shí)現(xiàn)外,更多的是通過密碼學(xué)方式實(shí)現(xiàn),如可以通過屬性加密、代理重加密等方法實(shí)現(xiàn).

    1.2 邊緣計(jì)算通信特點(diǎn)

    邊緣計(jì)算解決物聯(lián)網(wǎng)設(shè)備和云中心之間的通信效率、計(jì)算效率以及應(yīng)用服務(wù)擴(kuò)展等問題.其功能主要是通過邊緣計(jì)算節(jié)點(diǎn)來實(shí)現(xiàn)的.邊緣計(jì)算節(jié)點(diǎn)部署在物聯(lián)網(wǎng)終端和云服務(wù)商之間,可以看成是終端和云之間的中間組件.邊緣計(jì)算環(huán)境下的通信具體涉及終端設(shè)備和邊緣節(jié)點(diǎn)之間通信、邊緣節(jié)點(diǎn)和云中心之間通信以及終端設(shè)備和終端設(shè)備之間的通信,其往往具有5個(gè)特點(diǎn):

    1) 終端設(shè)備數(shù)量巨大.物聯(lián)網(wǎng)設(shè)備規(guī)模目前已達(dá)到百億級(jí),隨著邊緣計(jì)算應(yīng)用的不斷增加,物聯(lián)網(wǎng)邊緣終端設(shè)備數(shù)量仍將快速增長(zhǎng).

    2) 終端設(shè)備性能受限.雖然隨著計(jì)算及存儲(chǔ)技術(shù)的提升,物聯(lián)網(wǎng)設(shè)備已經(jīng)具有一定的通信及計(jì)算能力,但總體來講其性能仍有待提升.僅少部分終端可以具備較高的通信能力及計(jì)算能力.

    3) 邊緣設(shè)備需快速響應(yīng).與傳統(tǒng)的物聯(lián)網(wǎng)相比,邊緣計(jì)算的優(yōu)點(diǎn)是更加及時(shí)地處理終端數(shù)據(jù),其更加關(guān)注數(shù)據(jù)處理的效率.

    4) 設(shè)備來自不同異構(gòu)網(wǎng)絡(luò),形成不同信任域.邊緣計(jì)算節(jié)點(diǎn)往往將部署在其邊緣的設(shè)備劃分成一個(gè)可信域.該節(jié)點(diǎn)無法具有骨干網(wǎng)中服務(wù)器節(jié)點(diǎn)的覆蓋范圍,因此邊緣計(jì)算環(huán)境下通信往往會(huì)涉及到不同域間通信,即邊緣節(jié)點(diǎn)覆蓋下的跨域間的終端通信.

    5) 頻繁的數(shù)據(jù)共享.在設(shè)備邊緣處理數(shù)據(jù)使得數(shù)據(jù)不必傳輸?shù)皆浦行模@為數(shù)據(jù)在設(shè)備邊緣的快速共享提供可能,基于邊緣節(jié)點(diǎn)的數(shù)據(jù)共享應(yīng)用將大量出現(xiàn).

    邊緣計(jì)算下通信雖然具有物聯(lián)網(wǎng)的基本特點(diǎn),但也呈現(xiàn)出一些關(guān)鍵的區(qū)別,如邊緣計(jì)算節(jié)點(diǎn)劃分的跨域間通信以及頻繁的數(shù)據(jù)共享等.因此,邊緣計(jì)算環(huán)境下的通信需要新的安全協(xié)議來支撐.

    1.3 邊緣計(jì)算通信安全風(fēng)險(xiǎn)分析

    邊緣計(jì)算從云中心網(wǎng)絡(luò)架構(gòu)中衍生出來不可避免地具有普通云環(huán)境中的通信安全風(fēng)險(xiǎn).同時(shí),由于邊緣計(jì)算呈現(xiàn)分布式安全域且其通信主體更容易被攻陷(如邊緣節(jié)點(diǎn)、終端設(shè)備往往部署在用戶端,無法提供更強(qiáng)的安全保護(hù)),因此邊緣計(jì)算又有其自身的通信安全風(fēng)險(xiǎn).具體而言,邊緣計(jì)算通信存在4個(gè)安全風(fēng)險(xiǎn):

    1) 認(rèn)證授權(quán)風(fēng)險(xiǎn).邊緣計(jì)算網(wǎng)絡(luò)架構(gòu)中通信主體無論是邊緣節(jié)點(diǎn)還是終端設(shè)備往往部署在用戶端,從而起到快速數(shù)據(jù)收集及數(shù)據(jù)傳輸?shù)哪康?而用戶端的設(shè)備相比云中心更容易被竊取、中間人攻擊、假冒以及攻陷等攻擊,這就給邊緣計(jì)算終端設(shè)備認(rèn)證及授權(quán)提出了巨大的挑戰(zhàn).同時(shí),由于其自身的性能受限,不可能在其上部署較強(qiáng)的安全方案,進(jìn)一步對(duì)邊緣計(jì)算認(rèn)證協(xié)議提出了更高的要求.

    2) 基礎(chǔ)設(shè)施及用戶設(shè)備安全風(fēng)險(xiǎn).一方面邊緣計(jì)算基礎(chǔ)設(shè)施容易遭受拒絕服務(wù)攻擊、竊聽、無線干擾等威脅.例如攻擊者可以偽造網(wǎng)關(guān)等基礎(chǔ)設(shè)施,從而完成竊聽等攻擊.另一方面終端用戶可能有意或者無意(被控制)地向其他設(shè)備傳播惡意代碼.由于用戶設(shè)備間往往組成一個(gè)信任域,域內(nèi)設(shè)備往往是可信的,這樣導(dǎo)致一個(gè)設(shè)備被攻陷其他設(shè)備可能都將被攻陷.同時(shí),數(shù)據(jù)大都存儲(chǔ)在終端或者邊緣節(jié)點(diǎn),這樣的方式數(shù)據(jù)更容易被攻擊者損壞或者偽造.而沒有云中心的備份,一旦數(shù)據(jù)丟失較難恢復(fù).

    3) 分布式多安全域間通信風(fēng)險(xiǎn).邊緣計(jì)算節(jié)點(diǎn)將終端設(shè)備分成多個(gè)安全域,域與域之間往往需要協(xié)同工作.不同安全域間存在設(shè)備竊聽、假冒、中間人攻擊等風(fēng)險(xiǎn).同時(shí),由于不同安全域往往部署的安全憑證不同,域與域之間要建立安全通道也較為復(fù)雜.另一方面異構(gòu)網(wǎng)絡(luò)間通信中面臨網(wǎng)絡(luò)切換,在快速通信切換過程中也面臨異構(gòu)網(wǎng)絡(luò)通信認(rèn)證及授權(quán)等問題.

    4) 隱私泄露風(fēng)險(xiǎn).邊緣計(jì)算處理數(shù)據(jù)流程一般為終端將數(shù)據(jù)上傳到邊緣節(jié)點(diǎn),邊緣節(jié)點(diǎn)處理后(自身處理或和云中心協(xié)同處理)又將數(shù)據(jù)返回到終端.雖然邊緣計(jì)算數(shù)據(jù)不再由用戶直接遠(yuǎn)距離傳輸給云中心,避免了遠(yuǎn)距離通信帶來的隱私泄露風(fēng)險(xiǎn).但是邊緣計(jì)算通信中仍然涉及用戶上傳邊緣節(jié)點(diǎn)數(shù)據(jù)隱私、邊緣節(jié)點(diǎn)發(fā)送給終端數(shù)據(jù)隱私.同時(shí)還涉及邊緣節(jié)點(diǎn)在處理用戶數(shù)據(jù)時(shí)的計(jì)算隱私,即邊緣節(jié)點(diǎn)在處理用戶數(shù)據(jù)時(shí)會(huì)不會(huì)泄露用戶數(shù)據(jù).缺乏云中心強(qiáng)大的隱私保護(hù)措施,邊緣節(jié)點(diǎn)將面臨多目標(biāo)、多途徑、多形式的隱私泄露威脅.

    2 邊緣計(jì)算環(huán)境下安全協(xié)議進(jìn)展

    由于邊緣計(jì)算環(huán)境下通信存在諸多安全風(fēng)險(xiǎn),其需要新的適用于邊緣計(jì)算環(huán)境下的安全協(xié)議來支撐.本文不一一列舉邊緣計(jì)算安全協(xié)議的研究成果,而是在這些成果中選取近幾年一些有代表性的成果進(jìn)行分類總結(jié)(2018年以來成果),以期達(dá)到從總體上把握邊緣計(jì)算安全協(xié)議最新研究進(jìn)展的目的,為相關(guān)行業(yè)從業(yè)人員和科研人員快速掌握邊緣計(jì)算安全協(xié)議研究現(xiàn)狀提供幫助.

    2.1 邊緣計(jì)算環(huán)境下認(rèn)證協(xié)議

    認(rèn)證協(xié)議是網(wǎng)絡(luò)安全通信所需要進(jìn)行的基本協(xié)議.按照不同的認(rèn)證結(jié)構(gòu),本文將邊緣計(jì)算環(huán)境下認(rèn)證劃分為:固定邊緣計(jì)算節(jié)點(diǎn)認(rèn)證、非固定邊緣計(jì)算節(jié)點(diǎn)認(rèn)證以及分布式跨域認(rèn)證.

    1) 固定邊緣計(jì)算節(jié)點(diǎn)認(rèn)證.邊緣計(jì)算的引入使得原本云—端的網(wǎng)絡(luò)架構(gòu)變?yōu)樵啤叀说?層網(wǎng)絡(luò)架構(gòu),因此認(rèn)證模式也將隨之改變.終端要獲得邊緣服務(wù)器節(jié)點(diǎn)的服務(wù),彼此之間首先要進(jìn)行認(rèn)證.固定邊緣計(jì)算節(jié)點(diǎn)認(rèn)證是在物聯(lián)網(wǎng)中把性能相對(duì)較好的設(shè)備或者實(shí)體作為邊緣計(jì)算節(jié)點(diǎn),這個(gè)節(jié)點(diǎn)一直充當(dāng)邊緣計(jì)算節(jié)點(diǎn)的作用.固定邊緣計(jì)算節(jié)點(diǎn)認(rèn)證協(xié)議如表1所示:

    Table 1 Fixed Edge Computing Node Authentication Protocols in Edge Computing Environments表1 邊緣計(jì)算環(huán)境下固定邊緣計(jì)算節(jié)點(diǎn)認(rèn)證協(xié)議

    在這種模式下進(jìn)行認(rèn)證,一種直觀的方式就是終端和邊緣計(jì)算節(jié)點(diǎn)都在云中心注冊(cè),云中心充當(dāng)邊緣服務(wù)器節(jié)點(diǎn)和終端設(shè)備的可信模塊協(xié)助完成認(rèn)證.Dewanta等人[4]考慮的即是這種模式.終端設(shè)備(如手機(jī)、車輛等)如要接收邊緣服務(wù)器節(jié)點(diǎn)的服務(wù),先是提交認(rèn)證請(qǐng)求到云中心,在云中心的協(xié)助下完成終端和邊緣計(jì)算節(jié)點(diǎn)(如網(wǎng)關(guān)或者車聯(lián)網(wǎng)中的路邊單元)的相互認(rèn)證.這樣的方式相對(duì)便捷,同時(shí)認(rèn)證憑證存儲(chǔ)在云中心有一定的安全性.但這樣的方式仍沒有改變?cè)浦行囊幚泶罅空J(rèn)證請(qǐng)求的問題,所有信息依然需要云中心處理.Mishra等人[5]及Jia等人[6]分別提出邊—端的認(rèn)證方式,即認(rèn)證過程只有邊緣計(jì)算節(jié)點(diǎn)和終端,其本質(zhì)相當(dāng)于將云中心做離線處理.終端在和邊緣計(jì)算節(jié)點(diǎn)認(rèn)證前分別在云中心注冊(cè),獲取憑證(類似于一個(gè)對(duì)身份的簽名),然后通過交換認(rèn)證憑證完成認(rèn)證.該方法避免了云中心實(shí)時(shí)處理大量認(rèn)證請(qǐng)求的問題.Li等人[7]將身份隱私引入到上述類似架構(gòu)中,基于身份密碼學(xué)提出具有隱私保護(hù)的邊緣認(rèn)證方案.Zhang等人[8]提出具有批量認(rèn)證功能的智能車聯(lián)網(wǎng)認(rèn)證方案,其本質(zhì)也是路邊單元(road side unit, RSU)在收到終端的批量認(rèn)證請(qǐng)求時(shí)利用云中心頒發(fā)給終端的簽名憑證完成批量認(rèn)證.在云—邊—端的網(wǎng)絡(luò)架構(gòu)中,終端設(shè)備既要與云中心認(rèn)證又要與邊緣服務(wù)器認(rèn)證,考慮到這一點(diǎn),Lin等人[9]提出基于代理的云邊聯(lián)合認(rèn)證方案,即由一個(gè)可信第三方協(xié)助完成各設(shè)備的認(rèn)證.采用類似EAP-AKA(extensible authentication protocol-authentication and key agreement)的認(rèn)證框架,給出了低認(rèn)證時(shí)延的方案.

    2) 非固定邊緣計(jì)算節(jié)點(diǎn)認(rèn)證.非固定邊緣計(jì)算節(jié)點(diǎn)是指在邊緣計(jì)算環(huán)境中選取的邊緣計(jì)算節(jié)點(diǎn)可以失去其邊緣計(jì)算的作用,而其他之前沒有作為邊緣節(jié)點(diǎn)的設(shè)備可能被視為新的邊緣計(jì)算節(jié)點(diǎn).這樣的架構(gòu)中邊緣節(jié)點(diǎn)更加靈活,更能適應(yīng)復(fù)雜的認(rèn)證環(huán)境.具體方案如表2所示:

    Table 2 Unfixed Edge Computing Node Authentication Protocols in Edge Computing Environments表2 邊緣計(jì)算環(huán)境下不固定邊緣計(jì)算節(jié)點(diǎn)認(rèn)證協(xié)議

    Cui等人[10]首先提出非固定邊緣計(jì)算節(jié)點(diǎn)的認(rèn)證方案.考慮車聯(lián)網(wǎng)場(chǎng)景,將車輛分為邊緣計(jì)算車輛(edge computing vehicles, ECV)以及普通車輛(ordinary vehicles, OV),由性能較高的車輛動(dòng)態(tài)地作為邊緣計(jì)算節(jié)點(diǎn)完成高效認(rèn)證.認(rèn)證過程是通過頒發(fā)基于身份的簽名作為認(rèn)證憑證.其方案的顯著特點(diǎn)是在批量認(rèn)證的同時(shí)基于布谷過濾器消除重復(fù)認(rèn)證提高批量認(rèn)證效率.Zhang等人[11]提出了邊緣計(jì)算環(huán)境中基于5G的車聯(lián)網(wǎng)認(rèn)證與密鑰協(xié)商協(xié)議.認(rèn)證過程中不再由路邊單元RSU提供認(rèn)證服務(wù),而是由動(dòng)態(tài)形成的車輛作為邊緣計(jì)算節(jié)點(diǎn),由邊緣計(jì)算節(jié)點(diǎn)來完成認(rèn)證.通過采用云中心的簽名憑證作為認(rèn)證憑證實(shí)現(xiàn)批量認(rèn)證.為避免單一邊緣認(rèn)證中心節(jié)點(diǎn)負(fù)擔(dān)過重從而減輕邊緣計(jì)算節(jié)點(diǎn)的計(jì)算壓力,Liu等人[12]提出基于秘密共享的分布式認(rèn)證,通過秘密共享的方式將認(rèn)證過程卸載給多個(gè)邊緣設(shè)備.在RSU附近產(chǎn)生代理車輛節(jié)點(diǎn)用來輔助認(rèn)證.RSU將秘密通過拉格朗日差值多項(xiàng)式分布成n個(gè)份額,分發(fā)給n個(gè)車輛,車輛中有k個(gè)認(rèn)證通過才能完成認(rèn)證(k≤n).以往大多數(shù)邊緣計(jì)算認(rèn)證方案中都是將基站或者車輛網(wǎng)中的路邊設(shè)施單元RSU作為邊緣計(jì)算節(jié)點(diǎn).Zhong等人[13]考慮到在某些通信場(chǎng)景中,和相對(duì)性能較弱的終端設(shè)備比較,手機(jī)可以看作邊緣計(jì)算節(jié)點(diǎn),實(shí)現(xiàn)計(jì)算任務(wù)卸載到手機(jī)上從而保證快速靈活認(rèn)證.該思想為邊緣計(jì)算下認(rèn)證提供了一種新的方法,但是其認(rèn)證過程稍顯復(fù)雜.其采用的是通過手機(jī)端實(shí)現(xiàn)環(huán)簽名,其他終端通過驗(yàn)證環(huán)簽名實(shí)現(xiàn)認(rèn)證.Wang等人[14]考慮當(dāng)移動(dòng)設(shè)備作為邊緣計(jì)算節(jié)點(diǎn)時(shí),其需要從一個(gè)接入點(diǎn)(access point, AP)范圍離開進(jìn)入另一個(gè)AP范圍時(shí)的認(rèn)證問題.文獻(xiàn)[14]提出的認(rèn)證方案使用的方法是通過每個(gè)參與實(shí)體間共享對(duì)稱密鑰完成認(rèn)證.

    3) 邊緣計(jì)算分布式跨域認(rèn)證.總結(jié)而言,已有的跨域認(rèn)證協(xié)議大致可以分為2類:①基于一個(gè)可信中心作為中間點(diǎn),如云中心,由云中心為2個(gè)不同實(shí)體傳遞認(rèn)證憑證從而達(dá)成認(rèn)證共識(shí).這樣的方式相對(duì)簡(jiǎn)單,但需要可信中心實(shí)時(shí)參與運(yùn)行.②不需要可信中心參與,終端或者邊緣節(jié)點(diǎn)在云中心注冊(cè)得到認(rèn)證憑證后,通過認(rèn)證憑證自行跨域認(rèn)證.這樣的方式避免了可信中心因大量通信及計(jì)算消耗導(dǎo)致的時(shí)延,但往往終端之間需要額外的計(jì)算.具體方案如表3所示.

    Dewanta等人[4]提出了邊緣計(jì)算環(huán)境下基于云中心的跨域認(rèn)證協(xié)議可以看成是第1類跨域認(rèn)證協(xié)議.其方法是用戶在云中心注冊(cè)后得到一個(gè)對(duì)稱密鑰形成的認(rèn)證憑證,然后由云中心把相應(yīng)的憑證再發(fā)給其他邊緣計(jì)算節(jié)點(diǎn),其他節(jié)點(diǎn)用已有的對(duì)稱憑證對(duì)終端進(jìn)行認(rèn)證.Wang等人[15]的方案可以看出是第2類跨域認(rèn)證.Wang等人[15]提出終端設(shè)備組成群組情況下的無中心認(rèn)證.不同群組分配群公私鑰,通過類似群簽名的方式完成不同群成員之間的認(rèn)證.類似的跨域方案還有He等人[16]提出的移動(dòng)醫(yī)療網(wǎng)絡(luò)環(huán)境下跨域方案.文獻(xiàn)[16]對(duì)跨域下認(rèn)證方案給出了詳細(xì)的安全證明,為跨域認(rèn)證提供了更多理論支撐.分布式跨域認(rèn)證需要一種分布式的技術(shù)作為支撐.區(qū)塊鏈具有去中心化、分布式、不易篡改、可追溯等特點(diǎn),適合于分布式可信平臺(tái)的認(rèn)證需求.基于此,Zhang等人[17]考慮移動(dòng)邊緣計(jì)算環(huán)境中設(shè)備認(rèn)證與區(qū)塊鏈結(jié)合.將認(rèn)證中心頒發(fā)的臨時(shí)公鑰存于區(qū)塊鏈中實(shí)現(xiàn)跨域批量認(rèn)證.由于區(qū)塊鏈具有不可篡改的特點(diǎn),因此將臨時(shí)公鑰部署到區(qū)塊鏈上變相地實(shí)現(xiàn)了對(duì)臨時(shí)公鑰認(rèn)證的目的.Guo等人[18]采用類似的方法,將公鑰放到區(qū)塊鏈中實(shí)現(xiàn)有效性證明,同時(shí)將用戶登錄過程寫入智能合約,從而完成交易確認(rèn).跨域場(chǎng)景往往使用公鑰密碼作為底層認(rèn)證技術(shù),而使用公鑰證書時(shí)驗(yàn)證證書撤銷列表是非常耗時(shí)的,結(jié)合區(qū)塊鏈技術(shù)對(duì)證書進(jìn)行驗(yàn)證可以解決這個(gè)問題.Wang等人[19]提出將公鑰放到區(qū)塊鏈中,通過驗(yàn)證區(qū)塊鏈數(shù)據(jù)的有效性從而驗(yàn)證公鑰的有效性,避免查看證書吊銷列表.但是該方案沒討論引入?yún)^(qū)塊鏈進(jìn)行驗(yàn)證是否同樣會(huì)引發(fā)同證書撤銷列表同樣的時(shí)間消耗.

    Table 3 Distributed Cross-domain Authentication Protocols in Edge Computing Environments表3 邊緣計(jì)算環(huán)境下分布式跨域認(rèn)證協(xié)議

    4) 邊緣計(jì)算認(rèn)證協(xié)議總結(jié).已有邊緣計(jì)算認(rèn)證協(xié)議基本解決了認(rèn)證協(xié)議中的安全問題,同時(shí)考慮了多種場(chǎng)景下的認(rèn)證協(xié)議,如非固定邊緣節(jié)點(diǎn)認(rèn)證、手機(jī)等移動(dòng)設(shè)備作為邊緣節(jié)點(diǎn)認(rèn)證以及跨域認(rèn)證等.但邊緣計(jì)算認(rèn)證協(xié)議仍沒有從本質(zhì)上改變?cè)浦行淖鳛檎J(rèn)證核心的架構(gòu),仍大都采用云中心分發(fā)憑證的模式.這樣的模式仍然會(huì)造成單點(diǎn)失效以及通信時(shí)延等問題.雖然有靈活的邊緣計(jì)算節(jié)點(diǎn)如車輛手機(jī)等作為認(rèn)證過程中媒介,但從分布式認(rèn)證角度來看仍沒有完全脫離中心認(rèn)證.同時(shí),邊緣計(jì)算本身具有多信任域的特征,需要跨域認(rèn)證協(xié)議作為支撐.雖然有一些跨域認(rèn)證協(xié)議被提出,但目前仍沒有非常完善的邊緣計(jì)算環(huán)境下的跨域認(rèn)證協(xié)議.區(qū)塊鏈作為解決分布式問題的技術(shù)已有用來解決邊緣計(jì)算分布式認(rèn)證問題,但大都是在分布式認(rèn)證過程中的證書鑒別過程使用區(qū)塊鏈,即通過將證書上鏈來簡(jiǎn)化證書鑒別從而實(shí)現(xiàn)身份鑒別.目前仍需要探索更多方式的區(qū)塊鏈應(yīng)用來解決邊緣計(jì)算認(rèn)證問題.

    2.2 邊緣計(jì)算環(huán)境下密鑰協(xié)商協(xié)議

    認(rèn)證與密鑰協(xié)商往往是不可分割的部分,即認(rèn)證后往往需要協(xié)商一個(gè)共享的密鑰后才能進(jìn)行安全通信.已有的邊緣計(jì)算環(huán)境下密鑰協(xié)商協(xié)議從本質(zhì)上來說大致可以分為基于對(duì)稱密碼體制的密鑰協(xié)商和基于非對(duì)稱密碼體制的密鑰協(xié)商2類,具體如表4所示.

    1) 非對(duì)稱密鑰協(xié)商.這里不一一列舉邊緣計(jì)算環(huán)境下非對(duì)稱密鑰協(xié)商協(xié)議,而是總結(jié)非對(duì)稱密鑰協(xié)商協(xié)議本質(zhì)特征,給出通用的實(shí)現(xiàn)方法.非對(duì)稱密鑰協(xié)商也就是雙方采用公鑰的方式完成密鑰協(xié)商.典型方案有Jia等人[6]的方案,Zhang等人[11]的方案以及Wang等人[19]的方案.其核心是終端節(jié)點(diǎn)在云中心或者邊緣節(jié)點(diǎn)注冊(cè),云中心或邊緣節(jié)點(diǎn)會(huì)頒發(fā)一個(gè)ElGamal簽名憑證給終端,終端通過該簽名憑證完成密鑰協(xié)商.具體過程為:設(shè)在橢圓曲線密碼體制下(具體參數(shù)略),終端設(shè)備Vi的身份信息為IDVi,其向服務(wù)器S提出注冊(cè)請(qǐng)求后,服務(wù)器選擇一個(gè)隨機(jī)數(shù)rVi∈并計(jì)算Ri=riP,hi=H(IDVi‖Ri).服務(wù)器S利用自己的私鑰s(對(duì)應(yīng)公鑰為sP)計(jì)算出Vi的憑證sVi=ri+hi×s.本質(zhì)上相當(dāng)于頒發(fā)一個(gè)沒有證書的公鑰給終端,終端收到該憑證后再利用Diffie-Hellman密鑰協(xié)商算法完成密鑰協(xié)商(具體見文獻(xiàn)[6]).這樣的方式最為直觀,但每次驗(yàn)證時(shí)都需要服務(wù)器公鑰參與運(yùn)行.由于邊緣環(huán)境下存在多個(gè)不同的域,也就意味著進(jìn)行密鑰協(xié)商時(shí)需要驗(yàn)證多個(gè)邊緣服務(wù)器的公鑰,而這又涉及繁瑣的數(shù)字證書管理問題.

    Table 4 Key Agreement Protocols in Edge Computing Environments表4 邊緣計(jì)算環(huán)境下密鑰協(xié)商協(xié)議

    2) 對(duì)稱密鑰協(xié)商.對(duì)稱的密鑰協(xié)商本質(zhì)上是以密鑰分層方式來完成,即往往由主密鑰衍生出多個(gè)子密鑰給邊緣節(jié)點(diǎn)或者終端,設(shè)備之間通過共享的子密鑰完成密鑰協(xié)商.Wang等人[20]通過向用戶設(shè)備以及邊緣計(jì)算設(shè)備嵌入共享密鑰的方式來完成認(rèn)密鑰協(xié)商.由一個(gè)種子密鑰衍生出不同憑證分發(fā)給用戶終端以及邊緣節(jié)點(diǎn).密鑰協(xié)商過程使用抗泄露智能卡(攻擊者攻陷智能卡后不能獲得智能卡內(nèi)的秘密信息),因此在擁有共享密鑰的情況下可以使用對(duì)稱加密以及消息認(rèn)證碼的方式完成密鑰的協(xié)商.對(duì)稱的方式速度快效率高,較適合低性能的物聯(lián)網(wǎng)設(shè)備.但同一密鑰中心下基于該中心的密鑰可以完成密鑰共享,如何完成不同密鑰中心下的密鑰共享是一個(gè)問題,因?yàn)椴煌行南碌脑O(shè)備往往不能共享密鑰憑證.其他對(duì)稱方式完成的密鑰協(xié)商方案有Hsu等人[21]提出的多服務(wù)器場(chǎng)景的密鑰協(xié)商,Wazid等人[22]提出的僅使用Hash函數(shù)完成的密鑰協(xié)商.基于Hash的方式往往結(jié)合口令一起形成密鑰協(xié)商.具體方法是采用形如H(PW,…)的方式共享密鑰憑證,其中H為Hash函數(shù),PW為用戶口令.在進(jìn)行密鑰協(xié)商時(shí)可以采用密鑰憑證結(jié)合隨機(jī)數(shù)的方式,也可以采用密鑰憑證結(jié)合Diffie-Hellman密鑰協(xié)商的方式完成.2種方法的區(qū)別是后面一種方法通過增加少量指數(shù)運(yùn)算可以實(shí)現(xiàn)前向安全屬性(攻擊者獲得當(dāng)前用戶的長(zhǎng)期密鑰后也不能計(jì)算出在該節(jié)點(diǎn)之前用戶協(xié)商的會(huì)話密鑰).除此之外也有一些特殊的邊緣計(jì)算密鑰協(xié)商協(xié)議,如抗量子密鑰協(xié)商協(xié)議[23]以及使用物理不可克隆函數(shù)的密鑰協(xié)商協(xié)議[24].在邊緣計(jì)算環(huán)境下考慮這些特殊的密鑰協(xié)商協(xié)議有助于進(jìn)一步拓展邊緣計(jì)算的應(yīng)用場(chǎng)景.

    3) 邊緣計(jì)算密鑰協(xié)商協(xié)議總結(jié).邊緣計(jì)算密鑰協(xié)商協(xié)議目前仍大多數(shù)采用傳統(tǒng)的密鑰協(xié)商方式,無論是采用密鑰分層方式還是基于憑證的方式都沒有解決物聯(lián)網(wǎng)設(shè)備需要進(jìn)行頻繁的數(shù)據(jù)交換從而導(dǎo)致密鑰頻繁協(xié)商的問題.當(dāng)大規(guī)模邊緣節(jié)點(diǎn)和終端進(jìn)行密鑰協(xié)商時(shí),已有密鑰協(xié)商協(xié)議則可能出現(xiàn)效率上或者安全上的問題.因此,需要結(jié)合新的密鑰分發(fā)機(jī)制來解決,如邊緣計(jì)算群組密鑰協(xié)商或者基于可信計(jì)算的密鑰協(xié)商等.對(duì)于不同場(chǎng)景的邊緣計(jì)算密鑰協(xié)商也需進(jìn)一步完善,如需要頻繁密鑰交換時(shí)的密鑰協(xié)商或者只是需要偶然密鑰交換的密鑰協(xié)商等.

    2.3 邊緣計(jì)算環(huán)境下隱私保護(hù)協(xié)議

    隱私保護(hù)是網(wǎng)絡(luò)通信所需要考慮的重要安全問題之一.邊緣計(jì)算環(huán)境下需要對(duì)用戶以及終端隱私進(jìn)行保護(hù),保護(hù)身份、位置以及數(shù)據(jù)隱私[25].針對(duì)保護(hù)的信息不同,將邊緣計(jì)算隱私保護(hù)協(xié)議分為身份及位置等隱私保護(hù)以及數(shù)據(jù)隱私保護(hù)兩大類.表5及表6給出了不同隱私保護(hù)方案的分類、分析和總結(jié).

    Table 5 Privacy-Preserving Protocols for Identity and Location in Edge Computing Environments表5 邊緣計(jì)算環(huán)境下身份及位置隱私保護(hù)協(xié)議

    Table 6 Privacy-Preserving Protocols for Data in Edge Computing Environments表6 邊緣計(jì)算環(huán)境下數(shù)據(jù)隱私保護(hù)協(xié)議

    1) 身份及位置等隱私保護(hù).邊緣計(jì)算提供了本地化的資源和服務(wù),滿足了用戶和設(shè)備實(shí)時(shí)處理的需求.但邊緣計(jì)算環(huán)境下存在多個(gè)不同的安全域,用戶在不同安全域的邊緣計(jì)算網(wǎng)絡(luò)中訪問資源或請(qǐng)求服務(wù)時(shí)需要保證其身份、位置等隱私不被泄露.Liu等人[26]針對(duì)移動(dòng)邊緣云架構(gòu),提出了一種具有隱私保護(hù)的雙向認(rèn)證方案,并把該方案應(yīng)用在醫(yī)療健康領(lǐng)域.文獻(xiàn)[26]的方案在云—邊—端環(huán)境下使用雙重匿名將用戶身份信息隱藏,隱私保護(hù)方法可以看成是通過臨時(shí)公鑰產(chǎn)生共享密鑰后加密身份等隱私信息.Guo等人[27]提出了在車聯(lián)網(wǎng)和家庭網(wǎng)絡(luò)之間基于邊緣計(jì)算的匿名認(rèn)證方案.不同于以往的隱私保護(hù)方案,文獻(xiàn)[27]采用的是基于匿名憑證(anonymous credential)的方式實(shí)現(xiàn)身份及車輛位置隱私.匿名憑證的優(yōu)點(diǎn)是不僅不會(huì)泄露用戶隱私給攻擊者,同時(shí)對(duì)于驗(yàn)證者來說在保證其驗(yàn)證通過的情況下也不泄露隱私給驗(yàn)證者.這樣的方式相當(dāng)于實(shí)現(xiàn)了零知識(shí)證明的效果.然而匿名憑證的使用往往需要大量的雙線性對(duì)運(yùn)算,雖然其對(duì)于隱私保護(hù)起到重要作用,但仍需進(jìn)一步尋找更有效的匿名憑證方案.

    對(duì)于用戶身份保護(hù)常用的方式即是通過一個(gè)假名來代替某個(gè)用戶的真實(shí)身份,通過頻繁更換假名來實(shí)現(xiàn)用戶身份的隱私保護(hù).Ding等人[28]提出在醫(yī)療邊緣網(wǎng)絡(luò)環(huán)境中使用假名保護(hù)患者身份的方案.用戶的醫(yī)療數(shù)據(jù)通過傳感器發(fā)送給邊緣節(jié)點(diǎn),邊緣節(jié)點(diǎn)對(duì)數(shù)據(jù)進(jìn)行聚合后再發(fā)送給云中心,數(shù)據(jù)聚合后結(jié)合假名機(jī)制保護(hù)用戶隱私.但邊緣計(jì)算網(wǎng)絡(luò)是無中心的結(jié)構(gòu),同時(shí)存在不同的假名管理域(一個(gè)邊緣計(jì)算節(jié)點(diǎn)和其附近終端可以看成一個(gè)域).每個(gè)邊緣節(jié)點(diǎn)為其附近終端分配假名,而非由云中心分配假名.這樣不同域間的假名頻繁更換以及分發(fā),如何保證效率以及如何在隱私保護(hù)下進(jìn)行認(rèn)證也是一個(gè)問題.Kang等人[29]提出了邊緣車聯(lián)網(wǎng)計(jì)算環(huán)境下具有更多功能的假名方案.其優(yōu)點(diǎn)是可以通過上下文信息感知來更改假名,同時(shí)可以及時(shí)分發(fā)假名減少假名管理的開銷.

    2) 數(shù)據(jù)隱私保護(hù).邊緣計(jì)算環(huán)境下數(shù)據(jù)無論是傳輸?shù)竭吘壒?jié)點(diǎn)還是通過便于節(jié)點(diǎn)傳輸?shù)皆浦行亩夹枰獙?shí)現(xiàn)數(shù)據(jù)的隱私保護(hù).Wang等人[30]考慮云—邊—端環(huán)境下數(shù)據(jù)存儲(chǔ)隱私問題,即數(shù)據(jù)存儲(chǔ)在云中即使加密后處理也可能會(huì)遭受內(nèi)部攻擊.在里所編碼(Reed-Solomon)的基礎(chǔ)上設(shè)計(jì)了Hash-Solomon編碼,從而將用戶數(shù)據(jù)分成3個(gè)部分,即由云、邊以及終端各自存儲(chǔ)一部分?jǐn)?shù)據(jù).即使有任意一部分?jǐn)?shù)據(jù)被泄露攻擊者也不能恢復(fù)完整的數(shù)據(jù),從而保護(hù)數(shù)據(jù)隱私.Wang等人[31]同樣考慮數(shù)據(jù)存儲(chǔ)隱私問題,利用差分隱私的方法對(duì)數(shù)據(jù)進(jìn)行分離,將一部分?jǐn)?shù)據(jù)存儲(chǔ)在邊緣節(jié)點(diǎn)、一部分存儲(chǔ)在云中,從而保證數(shù)據(jù)一部分丟失攻擊者也不會(huì)恢復(fù)全部數(shù)據(jù).

    數(shù)據(jù)隱私保護(hù)最直接的方法就是對(duì)數(shù)據(jù)進(jìn)行加密后傳輸或存儲(chǔ).簡(jiǎn)單地對(duì)每個(gè)密文單獨(dú)處理會(huì)導(dǎo)致邊緣節(jié)點(diǎn)處理大量密文,因此需要在邊緣節(jié)點(diǎn)處對(duì)密文數(shù)據(jù)進(jìn)行聚合處理.同態(tài)加密(homomorphic encryption)具有密文同態(tài)性質(zhì)可以對(duì)數(shù)據(jù)進(jìn)行聚合處理從而實(shí)現(xiàn)數(shù)據(jù)隱私保護(hù).Zhao等人[32]基于同態(tài)加密提出了智能電網(wǎng)邊緣計(jì)算環(huán)境下的用戶數(shù)據(jù)隱私保護(hù)方案.通過在邊緣計(jì)算處進(jìn)行同態(tài)加密對(duì)數(shù)據(jù)進(jìn)行聚合處理,在保證效率的同時(shí)也保護(hù)了用戶用電隱私.Zhang等人[33]提出基于Paillier同態(tài)加密的輕量級(jí)同態(tài)加密方案,更適用于邊緣計(jì)算環(huán)境.同時(shí),通過一種離線/在線簽名方案使得大計(jì)算量的運(yùn)算被卸載到邊緣計(jì)算節(jié)點(diǎn),從而減輕物聯(lián)網(wǎng)設(shè)備負(fù)擔(dān).

    同態(tài)加密運(yùn)算量較大,學(xué)者探索不使用同態(tài)加密的數(shù)據(jù)隱私保護(hù)方案.為解決終端節(jié)點(diǎn)的頻繁流動(dòng)問題,Shen等人[34]提出了動(dòng)態(tài)的數(shù)據(jù)聚合方案.沒有使用傳統(tǒng)的同態(tài)加密方案,文獻(xiàn)[34]提出了一種可以進(jìn)行多種密文操作的加密方案.其基本思想是通過一個(gè)偽隨機(jī)函數(shù)生成一個(gè)和時(shí)間相關(guān)的偽隨機(jī)比特流,然后用該比特流加密數(shù)據(jù)再進(jìn)行聚合.考慮到終端節(jié)點(diǎn)對(duì)消息既要加密又要簽名,Rasheed等人[35]使用簽密方案對(duì)數(shù)據(jù)進(jìn)行處理,簽名后再進(jìn)行數(shù)據(jù)的聚合處理.

    隱私保護(hù)大都是通過密碼算法對(duì)身份信息進(jìn)行保護(hù)或者通過假名來實(shí)現(xiàn)隱私保護(hù),這樣的方式需要對(duì)數(shù)據(jù)進(jìn)行加密,且復(fù)雜度較高,可以采用差分隱私的方法實(shí)現(xiàn)隱私保護(hù).Qiao等人[36]指出邊緣計(jì)算的優(yōu)勢(shì)在于數(shù)據(jù)共享而非加密,應(yīng)考慮在數(shù)據(jù)以明文存在的情況下保護(hù)用戶隱私.其提出采用差分隱私的方法保護(hù)用戶隱私數(shù)據(jù).具體方法是采用基于貪心算法的分區(qū)算法來獲得更好的分區(qū)結(jié)構(gòu),然后使用小波變換增加噪音,從而實(shí)現(xiàn)數(shù)據(jù)的帶噪發(fā)布.Jing等人[37]基于差分隱私方法給出了當(dāng)邊緣計(jì)算節(jié)點(diǎn)被攻陷時(shí)如何保證數(shù)據(jù)隱私.為了避免使用差分隱私后造成的部分?jǐn)?shù)據(jù)丟失,其采用線性規(guī)劃實(shí)現(xiàn)最優(yōu)位置模糊矩陣的選擇,并采用數(shù)據(jù)丟失和重構(gòu)方法使數(shù)據(jù)不確定性最小化.邊緣節(jié)點(diǎn)靠近用戶終端,其會(huì)搜集大量用戶信息,因此在邊緣節(jié)點(diǎn)處利用機(jī)器學(xué)習(xí)等人工智能方法可以進(jìn)一步挖掘出數(shù)據(jù)背后的價(jià)值.然而使用機(jī)器學(xué)習(xí)對(duì)數(shù)據(jù)分析時(shí)可能會(huì)泄露用戶隱私.Du等人[38]考慮在機(jī)器學(xué)習(xí)環(huán)境下的用戶隱私方案,基于差分隱私方式保證了當(dāng)數(shù)據(jù)被用來學(xué)習(xí)時(shí)也不會(huì)泄露用戶隱私.

    3) 邊緣計(jì)算隱私保護(hù)協(xié)議總結(jié).已有邊緣計(jì)算隱私保護(hù)側(cè)重采用密碼學(xué)手段對(duì)數(shù)據(jù)進(jìn)行加密處理,基本解決了性能良好設(shè)備條件下的隱私保護(hù).但仍需考慮在終端及邊緣節(jié)點(diǎn)的計(jì)算能力有限的情況下如何進(jìn)行隱私保護(hù).一種解決方法是可以使用其他非傳統(tǒng)密碼手段實(shí)現(xiàn)隱私保護(hù),如差分隱私方法保護(hù)用戶隱私.差分隱私不需要復(fù)雜的密碼學(xué)運(yùn)算,這尤其適用于性能受限的物聯(lián)網(wǎng)設(shè)備.同時(shí)邊緣計(jì)算的優(yōu)勢(shì)在于數(shù)據(jù)的頻繁交互及共享,若每次都對(duì)數(shù)據(jù)進(jìn)行加密處理來保護(hù)隱私將大大削弱邊緣計(jì)算的優(yōu)勢(shì).差分隱私雖然可以實(shí)現(xiàn)數(shù)據(jù)半公開情況下的隱私保護(hù),但隨著機(jī)器學(xué)習(xí)等人工智能算法的出現(xiàn),當(dāng)大量樣本出現(xiàn)時(shí)能否仍能依賴差分隱私來實(shí)現(xiàn)邊緣計(jì)算網(wǎng)絡(luò)中用戶即終端設(shè)備隱私保護(hù)仍然是一個(gè)問題.

    2.4 邊緣計(jì)算環(huán)境下數(shù)據(jù)共享協(xié)議

    邊緣技術(shù)最大的優(yōu)點(diǎn)是提高數(shù)據(jù)的使用和處理效率,因此如何在邊緣計(jì)算中實(shí)現(xiàn)安全的數(shù)據(jù)共享是一個(gè)重要的研究?jī)?nèi)容.數(shù)據(jù)在什么情況下以什么形式共享是邊緣計(jì)算所要解決的重要問題.根據(jù)數(shù)據(jù)共享時(shí)使用的技術(shù)方法不同,將數(shù)據(jù)共享協(xié)議分為3類并進(jìn)行總結(jié).

    1) 基于屬性加密數(shù)據(jù)共享.數(shù)據(jù)共享權(quán)限往往通過訪問控制機(jī)制來實(shí)現(xiàn).而傳統(tǒng)的訪問控制不能抵抗邊緣服務(wù)器有意無意的泄露用戶數(shù)據(jù).在邊緣計(jì)算環(huán)境中引入屬性加密(attribute-based encryption)可以解決這個(gè)問題.根據(jù)不同用戶屬性,將密文同屬性相結(jié)合,只有滿足一定屬性的用戶才能共享數(shù)據(jù).

    基于此,Pan等人[39]在邊緣車聯(lián)網(wǎng)環(huán)境下設(shè)計(jì)了基于屬性加密的數(shù)據(jù)共享方法.由性能良好的車輛充當(dāng)邊緣節(jié)點(diǎn)的角色(可以看成不固定邊緣計(jì)算節(jié)點(diǎn)),共享數(shù)據(jù)由邊緣計(jì)算節(jié)點(diǎn)傳送給滿足密文屬性的請(qǐng)求者.這樣在保證數(shù)據(jù)快速共享的同時(shí)實(shí)現(xiàn)靈活的訪問控制.由于邊緣計(jì)算環(huán)境中設(shè)備往往存在不同域中,需要解決在不同域下的數(shù)據(jù)共享問題.Fan等人[40]基于密文策略屬性加密給出了跨域場(chǎng)景下的數(shù)據(jù)共享方案.基于傳統(tǒng)的屬性加密方案,利用云中心作為不同域的中間可信節(jié)點(diǎn)完成數(shù)據(jù)共享.但該方案仍沒有脫離云中心,需要云中心協(xié)助處理數(shù)據(jù)共享.同時(shí)在基于屬性加密方案中仍需考慮用戶不具備每個(gè)屬性后應(yīng)該采取一種有效的方法取消其解密資格.Pu等人[41]將區(qū)塊鏈引入邊緣計(jì)算數(shù)據(jù)共享中,利用屬性撤銷鏈將用戶身份和屬性的Hash值存儲(chǔ)到鏈中,利用區(qū)塊鏈的不可篡改性完成屬性撤銷鑒別.即當(dāng)用戶提出數(shù)據(jù)訪問請(qǐng)求時(shí),邊緣計(jì)算節(jié)點(diǎn)首先驗(yàn)證其是否在屬性撤銷鏈中,當(dāng)其信息在鏈中時(shí)拒絕數(shù)據(jù)請(qǐng)求.但其未考慮當(dāng)其他有權(quán)限的用戶請(qǐng)求數(shù)據(jù)時(shí),撤銷屬性的用戶是否可以通過某種方式獲得密文從而利用之前的密鑰順利解密,即用戶繞過屬性撤銷列表獲得密文時(shí)的情況.Vohra等人[42]考慮屬性加密的前向安全性,即新加入的成員不能解密之前密文的加密,同時(shí)考慮后向安全性,即成員退出時(shí)也不能解密后面的密文.利用屬性加密和代理重加密算法提出了邊緣計(jì)算環(huán)境下的數(shù)據(jù)安全共享方案.在基于屬性加密的數(shù)據(jù)共享時(shí),一些屬性往往跟時(shí)間有關(guān),如在上班時(shí)間某些員工可以訪問一些數(shù)據(jù),但是其他時(shí)間不可以訪問.因此,需要將時(shí)間屬性引入屬性加密中.基于此,Li等人[43]考慮邊緣計(jì)算環(huán)境下帶有時(shí)間域的數(shù)據(jù)共享方案.密文在邊緣計(jì)算節(jié)點(diǎn)中進(jìn)行預(yù)解密處理,然后交給終端節(jié)點(diǎn)進(jìn)行具體解密,在這個(gè)過程中加入時(shí)間屬性條件并考慮了時(shí)間屬性更新問題.

    2) 基于代理重加密數(shù)據(jù)共享.代理重加密(proxy re-encryption)可以實(shí)現(xiàn)將密文由代理節(jié)點(diǎn)通過代理密鑰轉(zhuǎn)換為另外一份密文從而由他人解密.Wang等人[44]提出通過基于身份的代理重加密方法實(shí)現(xiàn)安全的數(shù)據(jù)共享方案.邊緣計(jì)算節(jié)點(diǎn)通過代理重加密密鑰將密文重新加密后發(fā)送給終端,終端利用私鑰順利進(jìn)行解密.考慮分布式邊緣計(jì)算和環(huán)境中使用代理重加密需要驗(yàn)證多個(gè)終端公鑰的真實(shí)性問題,Gao等人[45]采用區(qū)塊鏈技術(shù)提出了基于區(qū)塊鏈的數(shù)據(jù)共享方案.將用戶公鑰證書放到區(qū)塊鏈中,結(jié)合區(qū)塊鏈不可篡改以及公開可驗(yàn)證的優(yōu)點(diǎn)完成公鑰真實(shí)性驗(yàn)證.為了解決數(shù)據(jù)共享時(shí)數(shù)據(jù)發(fā)布者的身份隱私問題,Cui等人[46]結(jié)合群簽名和代理重加密機(jī)制實(shí)現(xiàn)了邊緣計(jì)算環(huán)境下匿名的數(shù)據(jù)共享方案.數(shù)據(jù)發(fā)布者以群成員的身份加入群中,對(duì)數(shù)據(jù)進(jìn)行群簽名,然后再進(jìn)行加密后發(fā)給邊緣節(jié)點(diǎn).邊緣節(jié)點(diǎn)利用代理重加密密鑰對(duì)密文進(jìn)行重加密后發(fā)給數(shù)據(jù)請(qǐng)求者,數(shù)據(jù)請(qǐng)求者利用自己的私鑰順利解密.為了使由不同物聯(lián)網(wǎng)設(shè)備收集來的數(shù)據(jù)得以安全聚合,Huang等人[47]基于同態(tài)代理重加密(homomorphic proxy re-encryption)機(jī)制提出了具有隱私保護(hù)的數(shù)據(jù)聚合方案.為了解決邊緣計(jì)算節(jié)點(diǎn)因某些利益可能會(huì)僅聚合部分?jǐn)?shù)據(jù)的問題,文獻(xiàn)[47]利用隨機(jī)線性同態(tài)簽名算法使得邊緣計(jì)算節(jié)點(diǎn)不能隨意聚合數(shù)據(jù).但隨機(jī)線性同態(tài)簽名計(jì)算量較大,該算法能否部署在實(shí)際的邊緣計(jì)算節(jié)點(diǎn)仍有待進(jìn)一步考證.

    考慮邊緣計(jì)算節(jié)點(diǎn)在進(jìn)行代理重加密時(shí)使用公鑰密碼所導(dǎo)致的計(jì)算量大的問題,Khanshan[48]提出了對(duì)稱密碼和公鑰密碼相結(jié)合的混合代理重加密.終端利用對(duì)稱密鑰加密明文消息,然后利用代理加密機(jī)制加密對(duì)稱密鑰,邊緣計(jì)算節(jié)點(diǎn)根據(jù)代理重加密密鑰對(duì)加密后的對(duì)稱密鑰進(jìn)行轉(zhuǎn)換得到新的密文.數(shù)據(jù)請(qǐng)求者根據(jù)自己的私鑰對(duì)對(duì)稱密鑰密文進(jìn)行解密獲取對(duì)稱密鑰,最后對(duì)消息進(jìn)行解密.該過程類似數(shù)字信封過程.

    3) 基于機(jī)器學(xué)習(xí)數(shù)據(jù)共享. 隨著人工智能技術(shù)的發(fā)展,使用機(jī)器學(xué)習(xí)等方法對(duì)數(shù)據(jù)進(jìn)行處理分析從而得出更有效的信息是目前的主流方法之一.用戶把自己的數(shù)據(jù)共享出來從而被多個(gè)機(jī)構(gòu)去學(xué)習(xí)應(yīng)用.然而數(shù)據(jù)往往需要隱私保護(hù),如何保證用戶數(shù)據(jù)在密文的形態(tài)下實(shí)現(xiàn)數(shù)據(jù)的訓(xùn)練是數(shù)據(jù)共享要解決的關(guān)鍵問題.聯(lián)邦學(xué)習(xí)(federated learning)[49]的提出解決了上述問題.利用同態(tài)加密等方法可以實(shí)現(xiàn)對(duì)密文進(jìn)行學(xué)習(xí),其在保證用戶數(shù)據(jù)隱私的情況下達(dá)到和對(duì)明文學(xué)習(xí)相同的效果.在邊緣計(jì)算數(shù)據(jù)共享中更加需要聯(lián)邦學(xué)習(xí)機(jī)制,因?yàn)檫吘売?jì)算環(huán)境中邊緣設(shè)備往往屬于不同域,域與域之間是不可信的,不同域間共享數(shù)據(jù)更需要隱私保護(hù).同時(shí)與傳統(tǒng)機(jī)器學(xué)習(xí)方式不同,聯(lián)邦學(xué)習(xí)不需要集中所有數(shù)據(jù)后進(jìn)行學(xué)習(xí),這更適合分布式的邊緣計(jì)算環(huán)境.

    Lim等人[50]給出了移動(dòng)邊緣計(jì)算環(huán)境下聯(lián)邦學(xué)習(xí)綜述,介紹了邊緣計(jì)算與聯(lián)邦學(xué)習(xí)結(jié)合的優(yōu)勢(shì)、存在問題以及解決方法.Albaseer等人[51]考慮在城市邊緣計(jì)算環(huán)境下的數(shù)據(jù)共享學(xué)習(xí)問題.使用半監(jiān)督模型解決城市邊緣環(huán)境中有標(biāo)記數(shù)據(jù)少而未標(biāo)記數(shù)據(jù)多的問題.由于聯(lián)邦學(xué)習(xí)使用同態(tài)加密,在邊緣計(jì)算環(huán)境下進(jìn)行密文學(xué)習(xí)提升其學(xué)習(xí)效率是一個(gè)重要問題.利用區(qū)塊鏈技術(shù),Cui等人[52]將區(qū)塊鏈與聯(lián)邦學(xué)習(xí)結(jié)合提出基于區(qū)塊鏈的聯(lián)邦學(xué)習(xí)機(jī)制.利用區(qū)塊鏈的不可篡改特性存儲(chǔ)終端數(shù)據(jù)到區(qū)塊鏈中,邊緣計(jì)算節(jié)點(diǎn)利用聯(lián)邦學(xué)習(xí)模型對(duì)數(shù)據(jù)進(jìn)行學(xué)習(xí)后再上傳到云中心,最后由云中心繼續(xù)進(jìn)行學(xué)習(xí)得出有效信息(如用戶數(shù)據(jù)使用偏好等)后再分發(fā)到邊緣節(jié)點(diǎn),從而使得終端設(shè)備可以更加有效地共享數(shù)據(jù).為了進(jìn)一步提升聯(lián)邦學(xué)習(xí)過程中的通信效率,蘆效峰等人[53]通過調(diào)整參數(shù)對(duì)邊緣節(jié)點(diǎn)和終端之間的冗余通信進(jìn)行壓縮以此提升通信效率.Wu等人[54]和Osia等人[55]分別提出了分層的深度學(xué)習(xí)模型.即在云—邊—端的網(wǎng)絡(luò)架構(gòu)中,邊緣計(jì)算節(jié)點(diǎn)和云服務(wù)器分別對(duì)數(shù)據(jù)進(jìn)行學(xué)習(xí).由邊緣計(jì)算節(jié)點(diǎn)完成神經(jīng)網(wǎng)絡(luò)的第1層處理,然后由云服務(wù)器完成剩余層的處理,這樣的分布式處理進(jìn)一步提升了學(xué)習(xí)效率.

    4) 邊緣計(jì)算數(shù)據(jù)共享協(xié)議總結(jié).數(shù)據(jù)共享是邊緣計(jì)算環(huán)境中最為重要的問題.利用復(fù)雜的密碼學(xué)技術(shù)如屬性加密以及代理重加密等方法,已有數(shù)據(jù)共享協(xié)議基本實(shí)現(xiàn)了數(shù)據(jù)共享的功能.但其使用的密碼算法過于復(fù)雜,其適用于性能較好的邊緣節(jié)點(diǎn),但不適用于性能相對(duì)較低的終端節(jié)點(diǎn).一方面,需要進(jìn)一步提升使用的底層密碼算法的效率,或者在其基礎(chǔ)上進(jìn)行改進(jìn)使其更適用于邊緣環(huán)境性能相對(duì)低的終端節(jié)點(diǎn).具體來講可以探索采用更多對(duì)稱的方式完成數(shù)據(jù)共享,如代理重加密過程使用對(duì)稱的方式完成等.另一方面,需要探索更多在明文狀態(tài)下的數(shù)據(jù)共享方法.在什么情況下數(shù)據(jù)可以以明文狀態(tài)下進(jìn)行共享同時(shí)共享過程及共享結(jié)果仍是安全的,如何實(shí)現(xiàn)隱私保護(hù)等屬性,這些問題仍需要在邊緣計(jì)算環(huán)境中進(jìn)行進(jìn)一步的研究.

    以上按照屬性加密、代理重加密以及聯(lián)邦學(xué)習(xí)方法將邊緣計(jì)算數(shù)據(jù)共享協(xié)議進(jìn)行了分類及總結(jié),具體如表7~9所示.數(shù)據(jù)共享協(xié)議可以說是4類安全協(xié)議中最重要的協(xié)議,因?yàn)闊o論身份認(rèn)證及密鑰協(xié)商最終目標(biāo)都是為了進(jìn)行數(shù)據(jù)安全的傳輸及共享.而隱私保護(hù)則是數(shù)據(jù)共享時(shí)需要提供的一種安全屬性.邊緣計(jì)算環(huán)境下數(shù)據(jù)共享協(xié)議是邊緣計(jì)算環(huán)境下安全協(xié)議研究的出發(fā)點(diǎn)及落腳點(diǎn),需要進(jìn)一步深入研究.

    Table 7 Data Sharing Protocols Based on Attribute-based Encryption in Edge Computing Environments表7 邊緣計(jì)算環(huán)境下基于屬性加密的數(shù)據(jù)共享協(xié)議

    Table 8 Data Sharing Protocols Based on Proxy Re-encryption in Edge Computing Environments表8 邊緣計(jì)算環(huán)境下基于代理重加密的數(shù)據(jù)共享協(xié)議

    Table 9 Data Sharing Protocols Based on Federated Learning in Edge Computing Environments表9 邊緣計(jì)算環(huán)境下基于聯(lián)邦學(xué)習(xí)的數(shù)據(jù)共享協(xié)議

    3 安全協(xié)議存在的問題及研究方向

    3.1 存在的問題

    針對(duì)邊緣計(jì)算的安全需求,已有的安全協(xié)議解決了邊緣計(jì)算環(huán)境下認(rèn)證、密鑰協(xié)商、隱私保護(hù)以及數(shù)據(jù)共享的基本問題,但仍存在4個(gè)共性問題需要進(jìn)一步解決.

    1) 安全協(xié)議憑證存儲(chǔ)位置問題.邊緣計(jì)算不是否定云計(jì)算,而是作為云計(jì)算的輔助網(wǎng)絡(luò)結(jié)構(gòu)以及計(jì)算結(jié)構(gòu).在考慮邊緣計(jì)算場(chǎng)景下的安全協(xié)議時(shí),對(duì)于實(shí)現(xiàn)不同安全需求,什么樣的憑證保存在云端、什么樣的憑證保存在邊緣計(jì)算設(shè)備中目前沒有一個(gè)公認(rèn)的衡量標(biāo)準(zhǔn).

    2) 安全協(xié)議效率問題.已有的安全協(xié)議中數(shù)據(jù)及安全憑證以密文為主,通過復(fù)雜的密碼工具如同態(tài)加密以及代理重加密等方式共享數(shù)據(jù).但在邊緣計(jì)算環(huán)境中如此大的計(jì)算量對(duì)于實(shí)際運(yùn)行的終端及邊緣節(jié)點(diǎn)是否可行、是否具有普遍的通用性,仍需進(jìn)一步結(jié)合實(shí)際進(jìn)行分析.

    3) 安全協(xié)議計(jì)算任務(wù)卸載問題.邊緣計(jì)算突出的優(yōu)點(diǎn)是快速完成用戶對(duì)物聯(lián)網(wǎng)設(shè)備的應(yīng)用需求.已有安全協(xié)議大都是將計(jì)算及通信任務(wù)放到邊緣節(jié)點(diǎn)中完成.雖然邊緣節(jié)點(diǎn)在一定程度上性能優(yōu)于普通物聯(lián)網(wǎng)終端節(jié)點(diǎn),但其進(jìn)行大量計(jì)算時(shí)性能也將受限.需要進(jìn)一步探索如何安全高效地將計(jì)算任務(wù)卸載到其他邊緣節(jié)點(diǎn)或者終端[56].何種場(chǎng)景以何種方式將計(jì)算任務(wù)卸載給其他邊緣節(jié)點(diǎn)或者性能良好的終端也有待進(jìn)一步研究.

    4) 安全協(xié)議應(yīng)用場(chǎng)景問題.由于車聯(lián)網(wǎng)中設(shè)備相對(duì)具有較高的運(yùn)算及存儲(chǔ)效率,其上可以應(yīng)用很多密碼工具,因此已有的安全協(xié)議大部分集中在邊緣車聯(lián)網(wǎng)中.但邊緣計(jì)算應(yīng)用場(chǎng)景廣泛,車聯(lián)網(wǎng)只是邊緣計(jì)算的一個(gè)應(yīng)用場(chǎng)景,仍需進(jìn)一步研究在其他邊緣計(jì)算應(yīng)用場(chǎng)景中的安全協(xié)議.

    3.2 研究方向

    結(jié)合邊緣計(jì)算環(huán)境下安全協(xié)議存在的問題及已有的安全協(xié)議成果,給出4個(gè)研究方向建議:

    1) 探索采用分布式的安全憑證解決安全憑證的存儲(chǔ)問題.將核心憑證或者長(zhǎng)期保存的憑證仍存儲(chǔ)在云中心,將臨時(shí)憑證存儲(chǔ)在邊緣節(jié)點(diǎn)中,以此解決分布式認(rèn)證需求.針對(duì)不同的安全需求,研究以形式化的方法去定義安全目標(biāo),進(jìn)一步從理論上論證安全憑證的存儲(chǔ)及使用過程安全,從而推動(dòng)安全協(xié)議相關(guān)安全標(biāo)準(zhǔn)的制定.

    2) 探索采用輕量級(jí)密碼技術(shù)或者更多非密碼技術(shù)來解決邊緣計(jì)算安全協(xié)議效率問題.可以進(jìn)一步挖掘區(qū)塊鏈優(yōu)勢(shì),引入?yún)^(qū)塊鏈到安全協(xié)議中.將公鑰證書寫入?yún)^(qū)塊鏈減輕公鑰的驗(yàn)證僅僅是一個(gè)方向,仍可探索將更多的數(shù)據(jù)寫入?yún)^(qū)塊鏈從而解決安全協(xié)議運(yùn)行時(shí)各方的效率和信任問題.邊緣計(jì)算核心是數(shù)據(jù)的頻繁應(yīng)用,需要探索繞開復(fù)雜的密碼技術(shù)實(shí)現(xiàn)數(shù)據(jù)安全應(yīng)用,如采用可信模塊、抗機(jī)器學(xué)習(xí)差分隱私、信任管理等技術(shù)實(shí)現(xiàn)安全協(xié)議的需求.

    3) 探索采用多種途徑多種技術(shù)解決邊緣計(jì)算數(shù)據(jù)卸載問題.安全協(xié)議執(zhí)行過程中有些任務(wù)可以卸載到邊緣服務(wù)器節(jié)點(diǎn),有些任務(wù)也可以卸載到物聯(lián)網(wǎng)終端節(jié)點(diǎn).可以探索更多任務(wù)卸載到終端設(shè)備,如認(rèn)證過程的計(jì)算卸載以及數(shù)據(jù)共享過程的計(jì)算卸載,從而實(shí)現(xiàn)更靈活的計(jì)算.此外,為解決數(shù)據(jù)卸載時(shí)的公平性以及收益分配問題,可以進(jìn)一步結(jié)合智能合約技術(shù)使得數(shù)據(jù)卸載過程不可篡改并可溯源,避免卸載后矛盾的產(chǎn)生.

    4) 探索結(jié)合5G、人工智能等技術(shù)解決邊緣計(jì)算安全協(xié)議應(yīng)用場(chǎng)景擴(kuò)展問題.可進(jìn)一步探索結(jié)合5G的移動(dòng)邊緣計(jì)算場(chǎng)景下的安全協(xié)議,如智慧城市邊緣計(jì)算網(wǎng)絡(luò)安全協(xié)議、智慧醫(yī)療邊緣計(jì)算網(wǎng)絡(luò)安全協(xié)議以及智慧家庭及社區(qū)邊緣計(jì)算網(wǎng)絡(luò)安全協(xié)議.此外隨著人工智能深入到各個(gè)領(lǐng)域,將邊緣計(jì)算安全協(xié)議和人工智能結(jié)合可拓展邊緣計(jì)算的應(yīng)用范圍,推動(dòng)邊緣計(jì)算的進(jìn)一步發(fā)展.

    4 總 結(jié)

    綜述了邊緣計(jì)算環(huán)境下認(rèn)證協(xié)議、密鑰協(xié)商協(xié)議、隱私保護(hù)協(xié)議以及數(shù)據(jù)共享協(xié)議的最新進(jìn)展.對(duì)具有代表性的成果進(jìn)行了分類及分析.總結(jié)了已有邊緣計(jì)算環(huán)境下安全協(xié)議仍沒有解決的問題.針對(duì)存在的問題,給出了具體的研究方向及建議,為從整體上把握邊緣計(jì)算環(huán)境下安全協(xié)議給出了參考.

    作者貢獻(xiàn)聲明:李曉偉對(duì)論文進(jìn)行了總體的撰寫;陳本輝和楊鄧奇給出了邊緣計(jì)算隱私保護(hù)協(xié)議和數(shù)據(jù)共享協(xié)議撰寫方面的建議,并對(duì)論文進(jìn)行了修改;伍高飛對(duì)聯(lián)邦學(xué)習(xí)相關(guān)內(nèi)容給出撰寫建議并對(duì)論文的總體架構(gòu)給出了意見.

    猜你喜歡
    計(jì)算環(huán)境密鑰協(xié)商
    探索企業(yè)創(chuàng)新密鑰
    云計(jì)算環(huán)境下網(wǎng)絡(luò)安全等級(jí)保護(hù)的實(shí)現(xiàn)途徑
    密碼系統(tǒng)中密鑰的狀態(tài)與保護(hù)*
    一種對(duì)稱密鑰的密鑰管理方法及系統(tǒng)
    論協(xié)商實(shí)效與協(xié)商倫理、協(xié)商能力
    基于ECC的智能家居密鑰管理機(jī)制的實(shí)現(xiàn)
    Rheological Properties and Microstructure of Printed Circuit Boards Modifed Asphalt
    大數(shù)據(jù)云計(jì)算環(huán)境下的數(shù)據(jù)安全
    電子制作(2017年20期)2017-04-26 06:57:48
    以政協(xié)參與立法深化協(xié)商民主
    云計(jì)算環(huán)境中任務(wù)調(diào)度策略
    精品第一国产精品| 亚洲精品乱久久久久久| 久久性视频一级片| 精品国产露脸久久av麻豆| 亚洲国产精品999| 亚洲精品一二三| 精品人妻一区二区三区麻豆| 国产一级毛片在线| a级毛片黄视频| 人妻人人澡人人爽人人| 嫩草影院入口| 丁香六月欧美| 国产日韩一区二区三区精品不卡| 午夜日本视频在线| 午夜日本视频在线| 汤姆久久久久久久影院中文字幕| 色94色欧美一区二区| 国产精品香港三级国产av潘金莲 | 一本—道久久a久久精品蜜桃钙片| 亚洲av国产av综合av卡| 国产成人精品在线电影| 欧美黑人欧美精品刺激| av视频免费观看在线观看| 国产又色又爽无遮挡免| 韩国精品一区二区三区| 精品人妻一区二区三区麻豆| 丁香六月天网| 欧美黑人精品巨大| 国产精品久久久人人做人人爽| 午夜精品国产一区二区电影| 亚洲国产成人一精品久久久| 丝袜在线中文字幕| 在线亚洲精品国产二区图片欧美| 狂野欧美激情性bbbbbb| 丝袜脚勾引网站| a级毛片黄视频| 最近2019中文字幕mv第一页| 欧美成人午夜精品| 妹子高潮喷水视频| 日韩一区二区三区影片| 久久人人爽人人片av| 999精品在线视频| 国产爽快片一区二区三区| 丝瓜视频免费看黄片| 精品亚洲成国产av| av在线老鸭窝| 男人添女人高潮全过程视频| 亚洲伊人色综图| 久久精品国产a三级三级三级| 亚洲情色 制服丝袜| 伦理电影免费视频| 9色porny在线观看| av在线播放精品| 高清不卡的av网站| 欧美日韩国产mv在线观看视频| bbb黄色大片| 国产成人91sexporn| 久久久久精品久久久久真实原创| 久热这里只有精品99| 熟女av电影| 国产一区二区激情短视频 | av免费观看日本| 色精品久久人妻99蜜桃| 满18在线观看网站| 国产福利在线免费观看视频| 亚洲成人av在线免费| 成人毛片60女人毛片免费| 男女免费视频国产| 久久久久久久久久久久大奶| av网站免费在线观看视频| 久久天躁狠狠躁夜夜2o2o | 亚洲欧美中文字幕日韩二区| av不卡在线播放| 国产精品熟女久久久久浪| 欧美日韩精品网址| a 毛片基地| 久久精品久久久久久久性| www.自偷自拍.com| 亚洲第一av免费看| 少妇被粗大的猛进出69影院| 亚洲第一青青草原| 午夜福利在线免费观看网站| 最近最新中文字幕大全免费视频 | 日韩精品免费视频一区二区三区| 日韩精品免费视频一区二区三区| 亚洲成人国产一区在线观看 | 国产精品一二三区在线看| 在线观看www视频免费| 天天躁夜夜躁狠狠躁躁| 欧美精品高潮呻吟av久久| 两个人免费观看高清视频| 久久亚洲国产成人精品v| 91精品三级在线观看| 精品人妻熟女毛片av久久网站| 欧美变态另类bdsm刘玥| www.av在线官网国产| 51午夜福利影视在线观看| 国产精品偷伦视频观看了| 国产极品粉嫩免费观看在线| 爱豆传媒免费全集在线观看| 欧美日韩亚洲国产一区二区在线观看 | 天天操日日干夜夜撸| 美女主播在线视频| 中文字幕色久视频| 大片电影免费在线观看免费| 青春草亚洲视频在线观看| 黄色毛片三级朝国网站| 热99国产精品久久久久久7| 国产精品国产三级国产专区5o| 一级a爱视频在线免费观看| 国产成人欧美| 午夜福利乱码中文字幕| 捣出白浆h1v1| 免费观看av网站的网址| 又大又爽又粗| 日本午夜av视频| 国产精品秋霞免费鲁丝片| 中文字幕av电影在线播放| 亚洲国产最新在线播放| 狂野欧美激情性bbbbbb| 妹子高潮喷水视频| 精品亚洲成a人片在线观看| 欧美老熟妇乱子伦牲交| 夫妻性生交免费视频一级片| 婷婷色麻豆天堂久久| 亚洲欧洲国产日韩| 国产亚洲午夜精品一区二区久久| 国产男女内射视频| 日日爽夜夜爽网站| 9热在线视频观看99| 久久久精品区二区三区| 亚洲五月色婷婷综合| 一边摸一边抽搐一进一出视频| 美女扒开内裤让男人捅视频| 在线观看国产h片| 大片免费播放器 马上看| 亚洲综合精品二区| 欧美国产精品va在线观看不卡| 一边摸一边抽搐一进一出视频| 777久久人妻少妇嫩草av网站| 在线免费观看不下载黄p国产| 麻豆精品久久久久久蜜桃| 热re99久久精品国产66热6| 在线观看人妻少妇| a级片在线免费高清观看视频| 岛国毛片在线播放| 99精国产麻豆久久婷婷| 又大又爽又粗| 少妇人妻 视频| 成人三级做爰电影| 成人漫画全彩无遮挡| 亚洲综合精品二区| 一边摸一边做爽爽视频免费| 久久久久久久大尺度免费视频| 亚洲专区中文字幕在线 | 亚洲第一区二区三区不卡| 青草久久国产| 国产成人欧美在线观看 | 国产日韩欧美视频二区| 18禁观看日本| 国产精品麻豆人妻色哟哟久久| 亚洲国产看品久久| 1024香蕉在线观看| 国产成人精品在线电影| 永久免费av网站大全| 在线观看免费日韩欧美大片| 亚洲av成人精品一二三区| 大码成人一级视频| 啦啦啦在线免费观看视频4| 亚洲四区av| 久久精品久久久久久久性| 国产亚洲精品第一综合不卡| 亚洲人成网站在线观看播放| 九草在线视频观看| 国产成人精品无人区| 国产一区二区三区av在线| 亚洲精品乱久久久久久| 国产精品女同一区二区软件| 一本久久精品| 777久久人妻少妇嫩草av网站| 秋霞在线观看毛片| 国产野战对白在线观看| 久久久精品免费免费高清| 国产免费现黄频在线看| 制服丝袜香蕉在线| 免费观看a级毛片全部| 最黄视频免费看| 国产成人免费观看mmmm| 久久人人爽av亚洲精品天堂| 老司机亚洲免费影院| 亚洲精品国产av蜜桃| 热99久久久久精品小说推荐| 亚洲av日韩精品久久久久久密 | 又黄又粗又硬又大视频| 国产免费视频播放在线视频| 在线免费观看不下载黄p国产| 国产爽快片一区二区三区| 日韩视频在线欧美| 国产成人一区二区在线| 51午夜福利影视在线观看| 日韩av在线免费看完整版不卡| 亚洲精品视频女| 久久久精品国产亚洲av高清涩受| 又大又黄又爽视频免费| 青春草亚洲视频在线观看| 欧美人与性动交α欧美软件| 亚洲欧美一区二区三区国产| av在线老鸭窝| 成年人免费黄色播放视频| 国产免费福利视频在线观看| 亚洲精品,欧美精品| 最新在线观看一区二区三区 | 女人高潮潮喷娇喘18禁视频| 人妻 亚洲 视频| 女性生殖器流出的白浆| 亚洲激情五月婷婷啪啪| 午夜av观看不卡| 亚洲av男天堂| 在线观看国产h片| 亚洲色图综合在线观看| 日本欧美国产在线视频| 国产精品蜜桃在线观看| 精品国产一区二区三区四区第35| 日日啪夜夜爽| 国产xxxxx性猛交| 午夜福利,免费看| 久久女婷五月综合色啪小说| 日韩av在线免费看完整版不卡| 男的添女的下面高潮视频| 69精品国产乱码久久久| 一级毛片电影观看| 91老司机精品| 亚洲一区中文字幕在线| 麻豆乱淫一区二区| 亚洲欧美激情在线| 亚洲精品一区蜜桃| 欧美黑人精品巨大| 捣出白浆h1v1| 亚洲国产精品一区二区三区在线| 亚洲国产欧美一区二区综合| 少妇人妻 视频| 中文字幕最新亚洲高清| 国语对白做爰xxxⅹ性视频网站| 一本久久精品| 97人妻天天添夜夜摸| 超碰97精品在线观看| 久久久久久人妻| 熟女av电影| 国产av码专区亚洲av| 又大又爽又粗| 18禁裸乳无遮挡动漫免费视频| 中国三级夫妇交换| 欧美少妇被猛烈插入视频| 丰满少妇做爰视频| 蜜桃国产av成人99| 一区二区日韩欧美中文字幕| 亚洲av电影在线进入| 日本午夜av视频| 黄片播放在线免费| 丝袜脚勾引网站| 国产精品香港三级国产av潘金莲 | 最近中文字幕高清免费大全6| 午夜日韩欧美国产| 97人妻天天添夜夜摸| www.自偷自拍.com| 亚洲国产日韩一区二区| 汤姆久久久久久久影院中文字幕| 精品一区二区免费观看| 看免费av毛片| 国产亚洲一区二区精品| 高清在线视频一区二区三区| 国产成人一区二区在线| 麻豆av在线久日| 高清av免费在线| 美女国产高潮福利片在线看| 青春草视频在线免费观看| 午夜福利网站1000一区二区三区| 狠狠精品人妻久久久久久综合| 亚洲情色 制服丝袜| 秋霞在线观看毛片| 亚洲欧美色中文字幕在线| 亚洲成人av在线免费| 极品人妻少妇av视频| 精品卡一卡二卡四卡免费| 久久久久久久国产电影| 尾随美女入室| 在线观看免费日韩欧美大片| 成人漫画全彩无遮挡| 韩国高清视频一区二区三区| 亚洲精华国产精华液的使用体验| 男女床上黄色一级片免费看| 1024视频免费在线观看| 亚洲国产中文字幕在线视频| 国产 精品1| 国产av一区二区精品久久| 国产av码专区亚洲av| 国产精品秋霞免费鲁丝片| 卡戴珊不雅视频在线播放| 狠狠精品人妻久久久久久综合| 国产又爽黄色视频| 男女免费视频国产| 日本vs欧美在线观看视频| 男男h啪啪无遮挡| 中文字幕制服av| 国产有黄有色有爽视频| 国产成人欧美在线观看 | a级片在线免费高清观看视频| av.在线天堂| 日韩中文字幕视频在线看片| 女性被躁到高潮视频| 国产成人系列免费观看| av.在线天堂| 多毛熟女@视频| 黄网站色视频无遮挡免费观看| avwww免费| 日韩一本色道免费dvd| 丰满乱子伦码专区| 国产片特级美女逼逼视频| 亚洲人成网站在线观看播放| 汤姆久久久久久久影院中文字幕| 七月丁香在线播放| 国产在视频线精品| 欧美av亚洲av综合av国产av | 欧美国产精品一级二级三级| 97人妻天天添夜夜摸| 久久天堂一区二区三区四区| 男女边摸边吃奶| 国产视频首页在线观看| 日韩一区二区三区影片| 久久精品国产亚洲av涩爱| 国产欧美日韩综合在线一区二区| 各种免费的搞黄视频| av女优亚洲男人天堂| 热99久久久久精品小说推荐| 一区二区三区精品91| 日日爽夜夜爽网站| 精品一区二区三卡| 亚洲精品久久久久久婷婷小说| 成年女人毛片免费观看观看9 | av线在线观看网站| 色网站视频免费| 一级片'在线观看视频| a级毛片黄视频| 亚洲第一青青草原| 男人操女人黄网站| 热re99久久国产66热| 久久久久久人妻| 丝袜美腿诱惑在线| 精品午夜福利在线看| 丝袜脚勾引网站| 亚洲第一青青草原| 国产欧美日韩综合在线一区二区| 久久综合国产亚洲精品| 欧美成人精品欧美一级黄| 欧美激情 高清一区二区三区| 亚洲第一区二区三区不卡| 男女边吃奶边做爰视频| 性色av一级| 黄色视频不卡| 菩萨蛮人人尽说江南好唐韦庄| 少妇猛男粗大的猛烈进出视频| 伊人久久大香线蕉亚洲五| 欧美最新免费一区二区三区| 国产精品一国产av| 卡戴珊不雅视频在线播放| 久久国产精品男人的天堂亚洲| 制服丝袜香蕉在线| 成人漫画全彩无遮挡| 黑人巨大精品欧美一区二区蜜桃| 大香蕉久久网| 日韩一卡2卡3卡4卡2021年| 亚洲一区中文字幕在线| a级片在线免费高清观看视频| 亚洲熟女精品中文字幕| 亚洲,一卡二卡三卡| 丁香六月天网| 久久久亚洲精品成人影院| 中国国产av一级| 亚洲av综合色区一区| 少妇人妻 视频| 日韩欧美精品免费久久| 人妻 亚洲 视频| av福利片在线| 夜夜骑夜夜射夜夜干| h视频一区二区三区| 只有这里有精品99| 丝袜美足系列| 男人添女人高潮全过程视频| 国产精品偷伦视频观看了| 亚洲国产欧美网| 18禁国产床啪视频网站| bbb黄色大片| 午夜激情av网站| 大香蕉久久网| 亚洲成国产人片在线观看| 免费黄色在线免费观看| 女人久久www免费人成看片| 国产成人欧美在线观看 | 视频在线观看一区二区三区| 久久午夜综合久久蜜桃| 999久久久国产精品视频| 伊人亚洲综合成人网| 亚洲精品av麻豆狂野| 日韩精品免费视频一区二区三区| av网站免费在线观看视频| 一区二区三区四区激情视频| 少妇精品久久久久久久| 国产黄频视频在线观看| 午夜91福利影院| 午夜免费男女啪啪视频观看| 免费不卡黄色视频| a级毛片黄视频| 久久精品国产亚洲av涩爱| 啦啦啦在线观看免费高清www| 侵犯人妻中文字幕一二三四区| 看免费成人av毛片| 十分钟在线观看高清视频www| 五月天丁香电影| 人人妻人人爽人人添夜夜欢视频| 一区在线观看完整版| 又黄又粗又硬又大视频| 秋霞伦理黄片| 人人妻人人澡人人看| 97精品久久久久久久久久精品| 国产一区二区三区综合在线观看| bbb黄色大片| 日韩一区二区三区影片| 国产男女超爽视频在线观看| 国产亚洲最大av| 高清在线视频一区二区三区| 久久久亚洲精品成人影院| 中文字幕高清在线视频| 国产午夜精品一二区理论片| 一区二区av电影网| 水蜜桃什么品种好| 亚洲av电影在线进入| 亚洲av电影在线观看一区二区三区| 18禁动态无遮挡网站| 人体艺术视频欧美日本| 欧美久久黑人一区二区| 亚洲国产精品国产精品| 视频在线观看一区二区三区| 欧美乱码精品一区二区三区| 亚洲久久久国产精品| 啦啦啦在线观看免费高清www| 秋霞在线观看毛片| 国产av码专区亚洲av| av天堂久久9| 免费少妇av软件| 国产熟女午夜一区二区三区| 在现免费观看毛片| 亚洲精华国产精华液的使用体验| 免费观看a级毛片全部| 最近2019中文字幕mv第一页| 色网站视频免费| 两个人看的免费小视频| 亚洲av在线观看美女高潮| 欧美亚洲 丝袜 人妻 在线| 亚洲综合精品二区| a级片在线免费高清观看视频| 亚洲国产av影院在线观看| 99热全是精品| 欧美激情高清一区二区三区 | 亚洲第一av免费看| 日韩不卡一区二区三区视频在线| 五月天丁香电影| 日韩熟女老妇一区二区性免费视频| 亚洲国产成人一精品久久久| 人妻 亚洲 视频| 免费不卡黄色视频| 性色av一级| 日韩av不卡免费在线播放| 午夜91福利影院| www.av在线官网国产| av一本久久久久| 欧美av亚洲av综合av国产av | 下体分泌物呈黄色| 90打野战视频偷拍视频| 青春草亚洲视频在线观看| 国产色婷婷99| 成人国语在线视频| 自线自在国产av| 如日韩欧美国产精品一区二区三区| 国语对白做爰xxxⅹ性视频网站| 亚洲精品一二三| 午夜激情久久久久久久| av线在线观看网站| 亚洲精品,欧美精品| 曰老女人黄片| 欧美日韩一区二区视频在线观看视频在线| 一级毛片电影观看| av在线老鸭窝| 国产麻豆69| 热re99久久精品国产66热6| 欧美精品一区二区大全| 丰满少妇做爰视频| 十八禁网站网址无遮挡| 欧美中文综合在线视频| 久久久国产欧美日韩av| 69精品国产乱码久久久| 亚洲精品成人av观看孕妇| 亚洲七黄色美女视频| 午夜福利视频精品| 国产伦理片在线播放av一区| 欧美日韩亚洲国产一区二区在线观看 | 国产老妇伦熟女老妇高清| 日韩,欧美,国产一区二区三区| 中文字幕色久视频| 自线自在国产av| av免费观看日本| 久热爱精品视频在线9| 亚洲欧美一区二区三区黑人| 国语对白做爰xxxⅹ性视频网站| 人人妻人人爽人人添夜夜欢视频| 亚洲av福利一区| 啦啦啦视频在线资源免费观看| 热99久久久久精品小说推荐| av又黄又爽大尺度在线免费看| 女的被弄到高潮叫床怎么办| 欧美日韩成人在线一区二区| 国产老妇伦熟女老妇高清| 精品人妻熟女毛片av久久网站| 国产男女内射视频| 亚洲欧美色中文字幕在线| 少妇人妻久久综合中文| 免费黄网站久久成人精品| 91aial.com中文字幕在线观看| 欧美人与性动交α欧美软件| 久久女婷五月综合色啪小说| 精品少妇久久久久久888优播| 国产精品香港三级国产av潘金莲 | 只有这里有精品99| 一区二区三区乱码不卡18| 亚洲av日韩精品久久久久久密 | 久久久久久久久久久久大奶| 精品少妇内射三级| 国产成人一区二区在线| 一级毛片电影观看| 精品人妻在线不人妻| 国产一区亚洲一区在线观看| 午夜福利视频在线观看免费| 日韩不卡一区二区三区视频在线| 亚洲精品第二区| 国产女主播在线喷水免费视频网站| 热re99久久国产66热| 91精品三级在线观看| 欧美中文综合在线视频| 日韩制服丝袜自拍偷拍| 免费女性裸体啪啪无遮挡网站| 精品一区二区免费观看| av不卡在线播放| 亚洲视频免费观看视频| 大香蕉久久成人网| 久久国产亚洲av麻豆专区| 一个人免费看片子| 1024视频免费在线观看| 天天躁日日躁夜夜躁夜夜| 亚洲精品美女久久av网站| 精品少妇久久久久久888优播| 80岁老熟妇乱子伦牲交| 一级毛片电影观看| 热99久久久久精品小说推荐| 国产片内射在线| 亚洲欧美成人精品一区二区| 国产亚洲最大av| 久久天堂一区二区三区四区| 中文字幕最新亚洲高清| 亚洲第一青青草原| 久久人人爽av亚洲精品天堂| 亚洲成av片中文字幕在线观看| 日本猛色少妇xxxxx猛交久久| 丁香六月天网| av又黄又爽大尺度在线免费看| 韩国精品一区二区三区| 视频区图区小说| 十八禁高潮呻吟视频| 亚洲欧洲国产日韩| 久久人人97超碰香蕉20202| 婷婷色综合大香蕉| 国产欧美日韩一区二区三区在线| 看非洲黑人一级黄片| 欧美 日韩 精品 国产| 婷婷色综合大香蕉| 成年av动漫网址| 女人精品久久久久毛片| 欧美av亚洲av综合av国产av | 午夜精品国产一区二区电影| 一区二区av电影网| 97在线人人人人妻| 日韩中文字幕视频在线看片| 男人添女人高潮全过程视频| 国产成人啪精品午夜网站| 久久天堂一区二区三区四区| 欧美久久黑人一区二区| 久久鲁丝午夜福利片| 国产成人免费无遮挡视频| 国产男女超爽视频在线观看| 欧美人与性动交α欧美软件| 高清黄色对白视频在线免费看| 国产片特级美女逼逼视频| 亚洲国产欧美一区二区综合| 亚洲精品成人av观看孕妇| 亚洲精品,欧美精品| 国产精品蜜桃在线观看| 国产麻豆69| 天天影视国产精品| 美女扒开内裤让男人捅视频| 国产成人午夜福利电影在线观看| svipshipincom国产片| 欧美黄色片欧美黄色片| 久久精品久久精品一区二区三区| 久久鲁丝午夜福利片| 国产1区2区3区精品| 免费女性裸体啪啪无遮挡网站| 日韩欧美精品免费久久|