• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    傳感云中的信任評(píng)價(jià)機(jī)制研究進(jìn)展

    2018-07-30 09:45:10王田張廣學(xué)蔡紹濱賈維嘉王國(guó)軍
    通信學(xué)報(bào) 2018年6期
    關(guān)鍵詞:機(jī)制評(píng)價(jià)服務(wù)

    王田,張廣學(xué),蔡紹濱,賈維嘉,王國(guó)軍

    (1. 華僑大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,福建 廈門 361021;2. 澳門大學(xué)數(shù)據(jù)科學(xué)中心,澳門 999078;3. 上海交通大學(xué)電子信息與電氣工程學(xué)院,上海 200240;4. 廣州大學(xué)計(jì)算機(jī)科學(xué)與教育軟件學(xué)院,廣東 廣州 510006)

    1 引言

    傳感云系統(tǒng)是目前學(xué)術(shù)界的一個(gè)研究熱點(diǎn),它將無線傳感器網(wǎng)絡(luò)(WSN, wireless sensor network)和云計(jì)算無縫地連接起來[1-3]。傳感云的提出,可以使各種應(yīng)用服務(wù)不再單獨(dú)地占用物理傳感器,從而提高傳感器節(jié)點(diǎn)的利用率并能為用戶提供定制化服務(wù)[4-5]。WSN被譽(yù)為21世紀(jì)最重要的科技,主要分為陸地監(jiān)控、地下監(jiān)控、水下監(jiān)控、多媒體、移動(dòng)網(wǎng)絡(luò)等幾種形式[6-7]。云計(jì)算擁有大規(guī)模的硬件和軟件,而且具有強(qiáng)大的并行批量處理能力,這為傳感數(shù)據(jù)的存儲(chǔ)、處理以及分析提供了有力保障[8-9]。然而,許多WSN的建立并未執(zhí)行統(tǒng)一的標(biāo)準(zhǔn),使WSN的利用率和數(shù)據(jù)共享率較低,例如,單個(gè)WSN中的傳感器只應(yīng)用于特定應(yīng)用、不同WSN的數(shù)據(jù)存在格式轉(zhuǎn)換問題等[10]。針對(duì)WSN資源利用率低以及數(shù)據(jù)共享差等缺點(diǎn),一些研究者結(jié)合云計(jì)算的經(jīng)濟(jì)優(yōu)勢(shì)和技術(shù)優(yōu)勢(shì),提出傳感云的概念,并逐漸發(fā)展成為一個(gè)研究熱點(diǎn)[11-12]。傳感云可應(yīng)用于軍事探測(cè)、工業(yè)控制、醫(yī)療協(xié)助、環(huán)境監(jiān)測(cè)等領(lǐng)域,為人們的工作和生活帶來了很大便利[13-16]。

    隨著傳感云系統(tǒng)的快速發(fā)展和廣泛應(yīng)用,其安全問題也逐漸顯現(xiàn)[17-18]。傳感云所面臨的安全威脅有外部攻擊、內(nèi)部攻擊以及針對(duì)信任評(píng)價(jià)機(jī)制的攻擊[19-21]。傳統(tǒng)的加密、授權(quán)和認(rèn)證等安全方式能夠有效地應(yīng)對(duì)外部攻擊,但卻不能準(zhǔn)確地處理內(nèi)部攻擊問題[22-23]。此外,傳感器節(jié)點(diǎn)存在能量少、存儲(chǔ)能力和計(jì)算能力有限等缺陷,傳統(tǒng)的安全措施由于計(jì)算量較大并不太適用于WSN[24-26]。信任評(píng)價(jià)機(jī)制能夠有效應(yīng)對(duì)內(nèi)部攻擊,提高網(wǎng)絡(luò)的安全性能[27-28],并且更適用于資源受限的WSN。

    信任評(píng)價(jià)機(jī)制是傳感云安全的重要補(bǔ)充策略,廣泛存在于WSN、云計(jì)算、物聯(lián)網(wǎng)(IoT, Internet of things)、移動(dòng)自組織網(wǎng)絡(luò)(MANET, mobile ad-hoc network)等領(lǐng)域,并且在應(yīng)用上取得了較好的成果[29-31]。信任評(píng)價(jià)機(jī)制來源于人類社會(huì)生活經(jīng)驗(yàn),雖然學(xué)術(shù)界并沒有對(duì)其做出統(tǒng)一的定義,但一個(gè)共識(shí)是:信任評(píng)價(jià)機(jī)制相比于傳統(tǒng)安全機(jī)制更加輕量,能較好地解決網(wǎng)絡(luò)中的內(nèi)部攻擊問題,并具有保證網(wǎng)絡(luò)性能和提高網(wǎng)絡(luò)通信量等優(yōu)勢(shì),是傳統(tǒng)安全機(jī)制的有益補(bǔ)充[32-33]。傳感云是一個(gè)新型結(jié)構(gòu),其信任評(píng)價(jià)機(jī)制正在逐步完善[34]。本文對(duì)傳感云系統(tǒng)中的信任評(píng)價(jià)機(jī)制進(jìn)行了廣泛研究和對(duì)比,并設(shè)計(jì)了一些方案來填補(bǔ)傳感云系統(tǒng)在信任評(píng)價(jià)機(jī)制方面的一些不足之處。其中,基于霧計(jì)算的信任評(píng)價(jià)機(jī)制可以更好地管理傳感云底層結(jié)構(gòu)之間的信任關(guān)系。最后,本文也對(duì)傳感云信任評(píng)價(jià)機(jī)制的未來發(fā)展和研究方向進(jìn)行了探討。

    2 傳感云中信任評(píng)價(jià)機(jī)制的研究

    傳感云的基本結(jié)構(gòu)可分為3個(gè)部分:WSN層、云層、用戶層。這3個(gè)基本部分對(duì)應(yīng)于3個(gè)決策實(shí)體,分別是:WSN層中的傳感網(wǎng)服務(wù)提供商(SNSP,sensor network service provider)、云層中的云服務(wù)提供商(CSP, cloud service provider)、用戶層中的用戶。其中,SNSP主要提供傳感數(shù)據(jù)服務(wù),將其所擁有的傳感數(shù)據(jù)(交通監(jiān)測(cè)數(shù)據(jù)、環(huán)境監(jiān)測(cè)數(shù)據(jù)、工業(yè)監(jiān)測(cè)數(shù)據(jù)等)發(fā)送給CSP;CSP主要提供存儲(chǔ)服務(wù)和處理服務(wù),存儲(chǔ)服務(wù)將來自SNSP的數(shù)據(jù)存儲(chǔ)在云端,處理服務(wù)對(duì)傳感數(shù)據(jù)做進(jìn)一步處理來滿足一些應(yīng)用需求;用戶主要是使用CSP提供的數(shù)據(jù)處理服務(wù)。傳感云的信任評(píng)價(jià)機(jī)制研究總體上可分為2類:實(shí)體間信任和實(shí)體內(nèi)信任。實(shí)體間信任為3個(gè)決策實(shí)體間的信任關(guān)系,而實(shí)體內(nèi)信任多為WSN中節(jié)點(diǎn)間的信任關(guān)系。實(shí)體間的信任更多地涉及人與人之間信任關(guān)系的建立問題,而實(shí)體內(nèi)的信任則更多地關(guān)注于如何通過節(jié)點(diǎn)間的行為信息來構(gòu)建節(jié)點(diǎn)間的信任關(guān)系。其中,實(shí)體內(nèi)信任關(guān)系的建立需要考慮底層網(wǎng)絡(luò)性能穩(wěn)定、能耗較少、負(fù)載較低等一些急需解決的問題。

    2.1 實(shí)體間的信任

    實(shí)體間的關(guān)系可以定義為服務(wù)使用者與服務(wù)提供者之間的信任關(guān)系。

    實(shí)體間的信任關(guān)系又可以細(xì)分為3類:用戶和SNSP對(duì)CSP的信任、CSP對(duì)用戶的信任、CSP對(duì)SNSP的信任。就目前的研究狀況來說,根據(jù)實(shí)體間信任評(píng)價(jià)機(jī)制建立方式的不同,一般分為以下幾類[35],如表1所示。

    2.1.1 用戶和SNSP對(duì)CSP的信任

    在云中,CSP提供大量相似云服務(wù),并且其所提供的服務(wù)具有動(dòng)態(tài)性,服務(wù)質(zhì)量也會(huì)變化,這給服務(wù)使用者選擇合適的云服務(wù)造成了困擾[36]。就服務(wù)使用者來說,對(duì)云服務(wù)的信任是建立在其可靠性、安全性、友好性、可控性、私有性、穩(wěn)定性等特征的基礎(chǔ)上[37]。其中,用戶和SNSP對(duì)云服務(wù)的要求有些區(qū)別。用戶主要考慮其可靠性、穩(wěn)定性、友好性等一些特征。SNSP將更多的數(shù)據(jù)存儲(chǔ)在云中,對(duì)數(shù)據(jù)安全性、私密性和完整性的要求更加嚴(yán)格。

    文獻(xiàn)[38]提出了一種基于服務(wù)水平協(xié)議/隱私水平協(xié)議(SLA/PLA, service level agreement/privacy level agreement)的信任和聲譽(yù)管理系統(tǒng)。首先,信任中心(TCE, trust center entity)根據(jù)一些服務(wù)參數(shù)對(duì)CSP進(jìn)行信任計(jì)算以及聲譽(yù)管理。然后,用戶根據(jù)自身需求快速準(zhǔn)確地選擇合適的CSP。

    文獻(xiàn)[39]提出了基于服務(wù)質(zhì)量(QoS, qualityof service)的信任評(píng)價(jià)模型,該模型關(guān)注CSP所提供服務(wù)的可用性、可依賴性、周轉(zhuǎn)效率和數(shù)據(jù)完整性。然后,采用基于權(quán)重的方式綜合考慮CSP的信任狀況。

    表1 實(shí)體間的信任評(píng)價(jià)機(jī)制分類

    文獻(xiàn)[40]基于用戶的反饋評(píng)級(jí)提出了一種輕量型的聲譽(yù)測(cè)量方式,利用反饋評(píng)級(jí)為每一個(gè)云服務(wù)建立信任向量,并通過模糊集理論對(duì)信任向量中的期望值、熵值和超熵值進(jìn)行計(jì)算,最后得出其聲譽(yù)值。

    文獻(xiàn)[41]采用了混合的粒子群優(yōu)化—神經(jīng)網(wǎng)絡(luò)算法對(duì)云服務(wù)進(jìn)行信任預(yù)測(cè),使用粒子群優(yōu)化算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的初始參數(shù)設(shè)定,然后進(jìn)行全局最優(yōu)適應(yīng)值的計(jì)算并進(jìn)行信任預(yù)測(cè)。

    2.1.2 CSP對(duì)用戶的信任

    云服務(wù)具有開放性,任何用戶都可以連接到云服務(wù)平臺(tái)獲取服務(wù)。但是,也存在一些惡意用戶不合理地使用云服務(wù)、惡意占用資源、誹謗或提供虛假反饋信息等行為。解決這些問題的有效方式是對(duì)用戶進(jìn)行接入控制或?qū)⒂脩魴?quán)限進(jìn)行等級(jí)操作[42]。

    文獻(xiàn)[43]提出,在用戶和云平臺(tái)之間建立彼此信任的關(guān)系來實(shí)現(xiàn)云平臺(tái)的接入控制。通過用戶身份證明(ID, identification)和物理地址(MAC,medium access control)來確定用戶身份,并在CSP之間共享這些用戶信息。

    然而,一些攻擊者會(huì)通過一些惡意外部攻擊獲取用戶 ID等信息并控制用戶設(shè)備,并通過這些俘獲的用戶設(shè)備實(shí)施內(nèi)部攻擊。一般檢測(cè)機(jī)制檢測(cè)到的是已發(fā)生的攻擊事件,而事后的彌補(bǔ)措施并不能減少已有損失。文獻(xiàn)[44]根據(jù)入侵事件發(fā)生前會(huì)出現(xiàn)一些特殊信號(hào)這一特征,提出了一種基于用戶行為識(shí)別的概要管理系統(tǒng)來監(jiān)測(cè)可疑行為,并通過動(dòng)態(tài)觸發(fā)反映模塊來監(jiān)控可疑節(jié)點(diǎn)并收集必要的證據(jù)。

    文獻(xiàn)[45]通過用戶行為風(fēng)險(xiǎn)值、用戶信任等級(jí)和其他因素構(gòu)建了新的基于角色的接入控制模型,通過風(fēng)險(xiǎn)值和用戶信任水平的衡量,對(duì)不同用戶進(jìn)行動(dòng)態(tài)靈活的授權(quán)。

    2.1.3 CSP對(duì)SNSP的信任

    從CSP的角度來說,SNSP的數(shù)據(jù)必須是真實(shí)的,不能存在人為的編撰或篡改。傳感數(shù)據(jù)應(yīng)該具有時(shí)效性、完整性、精確性等一些特征,否則會(huì)對(duì)CSP的聲譽(yù)造成嚴(yán)重影響。就目前的研究狀況來看,科研人員對(duì)這方面的研究處于初步階段。

    文獻(xiàn)[38]提出通過一些基本信任計(jì)算(數(shù)據(jù)收集信任、網(wǎng)絡(luò)壽命信任、網(wǎng)絡(luò)響應(yīng)時(shí)間信任、數(shù)據(jù)傳輸信任)得出CSP對(duì)SNSP的信任值,并且根據(jù)歷史記錄計(jì)算SNSP的聲譽(yù)值。基于SNSP的信任值和聲譽(yù)值,CSP可根據(jù)自身需求快速準(zhǔn)確地選擇合適的SNSP。

    2.2 實(shí)體內(nèi)的信任

    實(shí)體內(nèi)的信任主要發(fā)生在傳感數(shù)據(jù)產(chǎn)生時(shí)和中間節(jié)點(diǎn)對(duì)數(shù)據(jù)處理時(shí)2個(gè)方面。數(shù)據(jù)產(chǎn)生過程中導(dǎo)致數(shù)據(jù)有誤的原因有2類,一類是由節(jié)點(diǎn)故障產(chǎn)生的,另一類是由被俘獲節(jié)點(diǎn)產(chǎn)生的[46]。對(duì)于內(nèi)部惡意節(jié)點(diǎn)攻擊或節(jié)點(diǎn)故障,信任評(píng)價(jià)機(jī)制可以很快檢測(cè)到并做出及時(shí)反應(yīng)來改善網(wǎng)絡(luò)環(huán)境。實(shí)體內(nèi)的信任評(píng)價(jià)機(jī)制已經(jīng)得到了廣泛的研究,一般信任評(píng)價(jià)機(jī)制的基本步驟如圖1所示。

    2.2.1 數(shù)據(jù)收集

    在信任評(píng)價(jià)機(jī)制中,很重要的一個(gè)環(huán)節(jié)就是有效、及時(shí)的信任數(shù)據(jù)收集。收集到的信任數(shù)據(jù)可用于一般信任公式計(jì)算,如直接信任、推薦信任、間接信任等,也可以應(yīng)用到一些綜合信任策略中,如仿生信任計(jì)算等。在網(wǎng)絡(luò)中可收集的信任數(shù)據(jù)很多,如節(jié)點(diǎn)剩余能量、網(wǎng)絡(luò)擁堵情況、接收數(shù)據(jù)的正確性、節(jié)點(diǎn)能量效率、節(jié)點(diǎn)之間的交互狀態(tài)、節(jié)點(diǎn)接收信號(hào)的能力等。

    圖1 實(shí)體內(nèi)信任評(píng)價(jià)機(jī)制框架

    表2為一些英文表達(dá)簡(jiǎn)化成大寫首字母后的形式,并給出了其所對(duì)應(yīng)的中文含義。

    表2 計(jì)算公式中英文縮寫對(duì)照

    2.2.2 基本信任計(jì)算

    1) 直接信任

    直接信任的一般定義為:在2個(gè)相鄰節(jié)點(diǎn)的直接交互過程中,一個(gè)節(jié)點(diǎn)通過所獲取的直接交互信息來評(píng)價(jià)另一個(gè)節(jié)點(diǎn)的行為。直接信任的簡(jiǎn)單模式如圖2所示。

    圖2 直接信任

    在節(jié)點(diǎn)間的直接交互過程中,很多觀測(cè)值可以用來檢測(cè)惡意節(jié)點(diǎn)。

    文獻(xiàn)[47]提出節(jié)點(diǎn)信任水平的衡量基于以下 2個(gè)方面,一個(gè)是對(duì)目的節(jié)點(diǎn)行為的觀測(cè),另一個(gè)是目的節(jié)點(diǎn)的剩余能量。在直接信任計(jì)算中,該文獻(xiàn)設(shè)定行為信任和能量信任占據(jù)相同的比重,并綜合考慮了歷史行為和現(xiàn)有行為因素,如式(1)所示。

    其中,TP(x,y)為y節(jié)點(diǎn)對(duì)x節(jié)點(diǎn)過去良好行為的信任值,TN(x,y)為y節(jié)點(diǎn)對(duì)x節(jié)點(diǎn)過去不良行為的信任值,TNow(x,y)為 y節(jié)點(diǎn)對(duì) x節(jié)點(diǎn)現(xiàn)有行為的信任值,TE為y節(jié)點(diǎn)對(duì)x節(jié)點(diǎn)的能量信任值。

    文獻(xiàn)[48]提出基于權(quán)重的方式來計(jì)算目的節(jié)點(diǎn)的信任值,綜合考慮了能量信任 TE、通信信任 TC和數(shù)據(jù)信任Tdata這3個(gè)因素,其計(jì)算式如式(2)所示。

    文獻(xiàn)[49]基于多個(gè)網(wǎng)絡(luò)活動(dòng),綜合歷史信任信息、積極行為、消極行為3個(gè)因素來計(jì)算目的節(jié)點(diǎn)的直接信任值,如式(3)所示。

    其中,直接信任是通過積極行為信任和消極行為的信任差值形式得出,并且對(duì)每一個(gè)不同的網(wǎng)絡(luò)活動(dòng)a,通過Pw(a)和Nw(a)賦予不同的權(quán)重。其中,TD(i, j)l?1為上一輪i節(jié)點(diǎn)對(duì)j節(jié)點(diǎn)的信任值,為對(duì)j節(jié)點(diǎn)現(xiàn)在積極/消極行為記錄。

    但是,考慮到WSN的用途、性能、所處環(huán)境、安全級(jí)別等實(shí)際情況,實(shí)體內(nèi)的直接信任通常僅僅考慮一些重要的觀測(cè)值,如數(shù)據(jù)分組丟失率、路由失敗率、能量消耗、數(shù)據(jù)分組錯(cuò)誤率、傳輸速率等。在系統(tǒng)設(shè)計(jì)時(shí),較少的觀測(cè)值可以達(dá)到減少節(jié)點(diǎn)能耗、降低計(jì)算和設(shè)計(jì)復(fù)雜度、保證網(wǎng)絡(luò)性能、增加系統(tǒng)可實(shí)現(xiàn)性等設(shè)計(jì)要求。

    在這里,本文列舉了一些經(jīng)常使用觀測(cè)值的信任計(jì)算,如下所示。

    ①通信因素

    在節(jié)點(diǎn)交互過程中,最容易觀測(cè)的是一段時(shí)間內(nèi)成功通信的次數(shù)。其信任計(jì)算一般采用Beta分布[50],如式(4)所示。其中,α為節(jié)點(diǎn)通信成功次數(shù)、β為節(jié)點(diǎn)通信失敗次數(shù)。在通信成功率的信任計(jì)算中,通常采用時(shí)間窗方式來綜合考慮節(jié)點(diǎn)的長(zhǎng)期行為變化[51]。

    然而,存在一些針對(duì)信任評(píng)價(jià)機(jī)制的攻擊方式,如On-Off攻擊等。為應(yīng)對(duì)這些攻擊,多數(shù)研究者在信任計(jì)算中加入了懲罰機(jī)制,如文獻(xiàn)[52]中加入懲罰因子、文獻(xiàn)[53]中加入懲罰因子、文獻(xiàn)[54]中針對(duì)節(jié)點(diǎn)行為波動(dòng)情況加入余弦函數(shù)等,當(dāng)節(jié)點(diǎn)表現(xiàn)出友好行為時(shí),信任會(huì)緩慢增加;反之,信任值則會(huì)急劇減少。

    ②能量因素

    通信過程中,正常節(jié)點(diǎn)的能量消耗總是有規(guī)律的,而惡意節(jié)點(diǎn)在進(jìn)行惡意攻擊時(shí)會(huì)產(chǎn)生不正常的能量消耗。如果環(huán)境變化較小,正常節(jié)點(diǎn)能量消耗率將維持在一個(gè)穩(wěn)定的區(qū)間。文獻(xiàn)[48]提出了一個(gè)能量預(yù)測(cè)模型來獲取節(jié)點(diǎn)在不同時(shí)期的能量消耗,然后依據(jù)能量預(yù)測(cè)模型來計(jì)算節(jié)點(diǎn)能量信任,如式(5)所示。

    其中,PE為能量消耗率,Eremain為剩余能量,θ為閾值。其中,PE是通過能量預(yù)測(cè)模型計(jì)算得出的。當(dāng)剩余能量大于閾值時(shí),通過計(jì)算能量消耗率來得到關(guān)于能量的信任值;反之,信任值為0。

    ③數(shù)據(jù)因素

    數(shù)據(jù)信任是指經(jīng)過中繼節(jié)點(diǎn)轉(zhuǎn)發(fā)的數(shù)據(jù)或從中繼節(jié)點(diǎn)接收的數(shù)據(jù)是否正確可信。文獻(xiàn)[55]提出了一種數(shù)據(jù)信任計(jì)算方式:通信過程中正確數(shù)據(jù)分組占整體數(shù)據(jù)分組的比率,如式 (6)所示。

    其中,Nerror為錯(cuò)誤數(shù)據(jù)分組數(shù)量,Ntotal為所傳輸?shù)臄?shù)據(jù)分組總數(shù)。

    數(shù)據(jù)分組具有一定的空間關(guān)聯(lián)性,即在相同的區(qū)域,節(jié)點(diǎn)向相鄰節(jié)點(diǎn)傳送的數(shù)據(jù)分組總是相似的。文獻(xiàn)[48]將這一特性抽象為正態(tài)分布,用一組數(shù)據(jù)的平均值來衡量數(shù)據(jù)的相似性。如果數(shù)據(jù)接近

    其中,f(x)為正態(tài)分布的密度函數(shù),積分區(qū)間為從平均值mean到數(shù)據(jù)的方差variance。

    另外,在一定的空間內(nèi),不同節(jié)點(diǎn)的監(jiān)測(cè)值存在相似性。也就是說,在同一段時(shí)間內(nèi),一定區(qū)域內(nèi)的節(jié)點(diǎn)對(duì)環(huán)境的監(jiān)測(cè)值差距不大或具有一定的關(guān)聯(lián)性。文獻(xiàn)[56]評(píng)估比較節(jié)點(diǎn)自身的監(jiān)測(cè)值與目的節(jié)點(diǎn)的監(jiān)測(cè)值,以此來預(yù)防惡意節(jié)點(diǎn)對(duì)數(shù)據(jù)的偽造,其計(jì)算如式(8)所示。平均值,則其信任值越高,反之,信任值越低,如式(7)所示。

    其中,Consistnumber為t時(shí)間內(nèi),2個(gè)節(jié)點(diǎn)具有相同/相似數(shù)據(jù)分組的數(shù)量;Inconsistnumber為t時(shí)間內(nèi),2個(gè)節(jié)點(diǎn)不具有相同/相似數(shù)據(jù)分組的數(shù)量。

    ④傳輸速率因素

    信任評(píng)價(jià)機(jī)制中,可以通過監(jiān)控節(jié)點(diǎn)的傳輸速率來監(jiān)測(cè)一些惡意行為,如當(dāng)節(jié)點(diǎn)傳輸速率低于最低閾值時(shí),很可能是自私節(jié)點(diǎn);當(dāng)節(jié)點(diǎn)的傳輸速率高于最高閾值時(shí),很可能是拒絕服務(wù)(DoS, denial of service)攻擊等。針對(duì)上述情況,文獻(xiàn)[56]提出當(dāng)節(jié)點(diǎn)傳輸速率和期望速率接近時(shí),節(jié)點(diǎn)擁有更高的信任值,如式(9)所示。

    其中,Expectingquantity為 t時(shí)刻的期望傳輸速率,Sendingquantity為 t時(shí)刻的真是傳輸速率,為最高/最低傳輸速率。

    2) 推薦信任

    推薦信任的一般定義為:當(dāng)源節(jié)點(diǎn)對(duì)目的節(jié)點(diǎn)的觀測(cè)值不足時(shí),源節(jié)點(diǎn)通過評(píng)估與其兩者互為鄰節(jié)點(diǎn)的節(jié)點(diǎn)推薦值得到對(duì)目的節(jié)點(diǎn)的信任值。推薦信任的簡(jiǎn)單模型如圖3所示。

    圖3 推薦信任

    推薦信任的基本計(jì)算如式(10)所示[57]。在多數(shù)研究工作中,一般選擇信任值超過一定閾值的節(jié)點(diǎn)參與推薦信任計(jì)算。

    其中,TD(i,k)為i節(jié)點(diǎn)對(duì)k節(jié)點(diǎn)的直接信任值,TD(k,j)為k節(jié)點(diǎn)對(duì)j節(jié)點(diǎn)的直接信任值,k為信任推薦節(jié)點(diǎn)。

    在推薦信任的計(jì)算中,來自鄰接節(jié)點(diǎn)的推薦值可能是不準(zhǔn)確的或惡意的。為了減少這些情況所造成的影響,文獻(xiàn)[53]使用基于權(quán)重的方式綜合考慮其不同鄰接節(jié)點(diǎn)的推薦值,如式(11)所示。權(quán)重值的計(jì)算與推薦節(jié)點(diǎn) m及剩余推薦信任列表中的信任節(jié)點(diǎn)相關(guān),即考慮推薦節(jié)點(diǎn)的信任值與其他節(jié)點(diǎn)信任值的偏離程度,如式(12)所示。

    其中,集合Set(j)中的節(jié)點(diǎn)與i節(jié)點(diǎn)和j節(jié)點(diǎn)都相鄰,并且是i節(jié)點(diǎn)的信任節(jié)點(diǎn);m為推薦節(jié)點(diǎn);Diff(i,m)為推薦節(jié)點(diǎn) m的推薦信任值與其他信任節(jié)點(diǎn)推薦信任值的偏離程度;TD(m,j)為m節(jié)點(diǎn)對(duì)j節(jié)點(diǎn)的直接信任,其他符號(hào)與此類似。

    在推薦信任計(jì)算過程中,對(duì)于推薦節(jié)點(diǎn)選擇和惡意節(jié)點(diǎn)推薦值排除這些問題,可以使用一些現(xiàn)有的檢測(cè)系統(tǒng)來解決。但是這些檢測(cè)系統(tǒng)不太適合一些資源有限的WSN。因此,文獻(xiàn)[48]提出了一種基于推薦可靠性和推薦熟悉度的檢測(cè)理論。推薦可靠性是 B節(jié)點(diǎn)將接收到 C節(jié)點(diǎn)的信任推薦值與接收到其他節(jié)點(diǎn)的平均推薦值進(jìn)行比較,然后通過差值進(jìn)行推薦可靠性計(jì)算,計(jì)算式為。推薦熟悉度是指長(zhǎng)期交互節(jié)點(diǎn)比短期交互節(jié)點(diǎn)擁有更高的權(quán)重值,推薦熟悉度計(jì)算式與節(jié)點(diǎn)之間成功通信次數(shù)相關(guān),其計(jì)算式為為推薦節(jié)點(diǎn)C與目的節(jié)點(diǎn)B成功通信的次數(shù);numberC為推薦節(jié)點(diǎn) C總的成功推薦次數(shù);α∈(0,1)為與通信次數(shù)相關(guān)的調(diào)節(jié)因子。綜合兩者的作用,文中給出推薦信任的計(jì)算式為

    3) 間接信任

    間接信任的一般定義為:源節(jié)點(diǎn)和目的節(jié)點(diǎn)不是相鄰節(jié)點(diǎn),源節(jié)點(diǎn)在向目的節(jié)點(diǎn)傳送數(shù)據(jù)之前,需要通過其他節(jié)點(diǎn)建立與目的節(jié)點(diǎn)的信任關(guān)系,間接信任的簡(jiǎn)單模型如圖4所示。

    圖4 間接信任

    源節(jié)點(diǎn)和目的節(jié)點(diǎn)之間沒有直接通信路徑,需要通過其他節(jié)點(diǎn)來建立節(jié)點(diǎn)間的信任關(guān)系。文獻(xiàn)[48]提出間接信任的建立分為 2個(gè)步驟:選擇源節(jié)點(diǎn)和目的節(jié)點(diǎn)之間可能存在的推薦節(jié)點(diǎn);以信任鏈的方式建立間接信任。從源節(jié)點(diǎn)到目的節(jié)點(diǎn)之間的路徑由信任推薦節(jié)點(diǎn)組成,這條路徑被稱為信任鏈。信任鏈的建立需要遵循3個(gè)機(jī)制:① 推薦節(jié)點(diǎn)應(yīng)盡可能接近目的節(jié)點(diǎn);② 推薦節(jié)點(diǎn)的選擇應(yīng)是信任值最高的,以保證信任鏈的可靠性;③ 最優(yōu)的信任鏈應(yīng)該兼顧距離和信任值這 2個(gè)因素。間接信任中信任鏈越長(zhǎng),其所面臨的環(huán)境因素越復(fù)雜。所以,間接信任更容易受到一些針對(duì)性攻擊,如slander攻擊、self-promoting攻擊、collusion攻擊等,這些攻擊都是基于信任鏈中源節(jié)點(diǎn)對(duì)中間節(jié)點(diǎn)信任的不確定性導(dǎo)致的。

    文獻(xiàn)[48]給出了間接信任的計(jì)算式,間接信任計(jì)算基于信任鏈,如式(14)所示。

    其中, TCi+1為對(duì)信任鏈上第 i+1個(gè)節(jié)點(diǎn)的信任值;為對(duì)信任鏈上前i個(gè)節(jié)點(diǎn)的信任值。

    2.2.3 信任積聚和更新

    1) 信任積聚

    信任積聚是指將節(jié)點(diǎn)自我觀測(cè)值或同級(jí)節(jié)點(diǎn)反饋的信任值進(jìn)行聚合[58],將聚合后的數(shù)據(jù)作為最終信任值或進(jìn)行信任預(yù)測(cè)等。

    目前,主要的信任積聚方式有基于權(quán)重、基于仿生、基于D-S證據(jù)理論等。在信任積聚的研究中,使用最多的是基于權(quán)重的信任積聚方式。

    基于權(quán)重的積聚方式具有計(jì)算量小、輕便等特點(diǎn),其計(jì)算式如式(15)所示[52,59]。

    信任積聚的計(jì)算式綜合考慮了直接信任 TD和間接信任TI(包括推薦信任),w1+w2=1,其中,直接信任占有更大權(quán)重。

    文獻(xiàn)[60]提出通過數(shù)據(jù)分組正確轉(zhuǎn)發(fā)信任、數(shù)據(jù)分組轉(zhuǎn)發(fā)時(shí)間信任、正確推薦信任和公平推薦信任 4個(gè)指標(biāo)可以預(yù)防數(shù)據(jù)篡改和針對(duì)信任評(píng)價(jià)模型的攻擊。文中也使用基于權(quán)重的方式進(jìn)行信任值的積聚。

    直接信任和間接信任的簡(jiǎn)單加權(quán)計(jì)算收斂較慢,對(duì)突發(fā)事件不敏感,不能及時(shí)檢測(cè)出突然變壞的節(jié)點(diǎn)。為預(yù)防On-Off這一類型的攻擊,文獻(xiàn)[53]在信任積聚中加入了基于熵理論的風(fēng)險(xiǎn)預(yù)測(cè)機(jī)制,這種方式能夠幫助模型及早地檢測(cè)出惡意節(jié)點(diǎn)。

    文獻(xiàn)[61]提出了改進(jìn)的仿生信任評(píng)價(jià)機(jī)制,在算法中設(shè)置一些人工螞蟻來尋找從源節(jié)點(diǎn)到目的節(jié)點(diǎn)的路徑,路徑中節(jié)點(diǎn)信息素的多少表示節(jié)點(diǎn)的信任值大小。其中,同級(jí)信任系統(tǒng)(PTS, peer trust system)是一個(gè)動(dòng)態(tài)的點(diǎn)對(duì)點(diǎn)信任評(píng)價(jià)機(jī)制模型,它權(quán)衡的因素有通信滿意度、鄰接節(jié)點(diǎn)的可信度、傳輸環(huán)境因素和社會(huì)環(huán)境因素。

    D-S理論是解決不確定問題的一類重要理論。文獻(xiàn)[62]使用D-S理論來解決信任評(píng)價(jià)機(jī)制中的隨機(jī)性和主觀不確定性問題,通過修正D-S理論來動(dòng)態(tài)計(jì)算推薦信任的權(quán)重。

    2) 信任更新

    在網(wǎng)絡(luò)中,信任關(guān)系不是一成不變的。在一些異常狀態(tài)下,交互節(jié)點(diǎn)的行為可能出現(xiàn)快速或不可預(yù)料的改變,如環(huán)境變化、節(jié)點(diǎn)被俘獲、節(jié)點(diǎn)故障、節(jié)點(diǎn)被移除、節(jié)點(diǎn)被更新等,這是信任關(guān)系具有動(dòng)態(tài)性的本質(zhì)。當(dāng)節(jié)點(diǎn)處于異常狀態(tài)時(shí),其信任值需要及時(shí)更新以維持網(wǎng)絡(luò)的信任環(huán)境。信任的更新包括部分信任更新,如直接信任、推薦信任和間接信任的更新,也包括整體信任值的更新。一般信任的更新采用值累積的方式進(jìn)行[57],如式(16)所示。

    其中,T(i,j)為i節(jié)點(diǎn)對(duì)j節(jié)點(diǎn)的歷史信任值,T(i,j)(t+Δt)為i節(jié)點(diǎn)對(duì)j節(jié)點(diǎn)在t+Δt時(shí)刻的信任值。

    另一種信任更新方式是基于權(quán)重的[63],如式(17)所示。

    其中,Told(x,y)為舊的信任值;Tnew(x,y)為新的信任值;為新/舊信任值的權(quán)重,w+w=1。oldnew

    考慮到一些休眠節(jié)點(diǎn)和不頻繁交互節(jié)點(diǎn),文獻(xiàn)[60]對(duì)新的信任值增加了與時(shí)間相關(guān)的指數(shù)因子Δt,Δt值越大,歷史信任值的權(quán)重越小。文獻(xiàn)[38]在更新信任值的過程中采用了忘記因子的方式來減少歷史信任對(duì)整體信任的影響。

    對(duì)于部分更新,節(jié)點(diǎn)在觀察過程中可直接更新直接信任值;推薦信任和間接信任則通過收集其他節(jié)點(diǎn)的推薦值來更新信任值。太過于頻繁的更新會(huì)占用太多的網(wǎng)絡(luò)資源,然而周期太長(zhǎng)的信任更新不能有效地反映節(jié)點(diǎn)的行為。

    針對(duì)此類問題,多數(shù)研究工作中采用滑動(dòng)時(shí)間窗機(jī)制[64]。更新方式為每過一個(gè)通信周期,時(shí)間窗向前滑動(dòng)一個(gè)時(shí)間槽,然后對(duì)時(shí)間窗內(nèi)的每一個(gè)時(shí)間槽賦予一定的權(quán)值并進(jìn)行信任更新。

    2.2.4 信任決策/預(yù)測(cè)

    信任決策/預(yù)測(cè)是根據(jù)歷史信任值和現(xiàn)有觀測(cè)值或單獨(dú)的現(xiàn)有觀測(cè)值對(duì)節(jié)點(diǎn)未來行為進(jìn)行決策/預(yù)測(cè),并確定是否與其建立合作關(guān)系。一般信任決策/預(yù)測(cè)方式如表3所示。

    文獻(xiàn)[65]提出進(jìn)化博弈論,通過將節(jié)點(diǎn)的信任度與激勵(lì)機(jī)制相結(jié)合的方式來高效地促使節(jié)點(diǎn)選擇具有信任行為的節(jié)點(diǎn)。在進(jìn)化過程中,該策略存在一定穩(wěn)定性。

    表3 信任決策/預(yù)測(cè)方式

    文獻(xiàn)[52]提出了基于模糊理論的信任預(yù)測(cè)模型。在模型中,輸入變量為直接信任值、鄰接節(jié)點(diǎn)信任值的變動(dòng)數(shù)量、推薦不一致性3個(gè)變量,通過模糊理論規(guī)則輸出對(duì)節(jié)點(diǎn)的預(yù)測(cè)信任水平。

    Beta分布是二項(xiàng)分布的先驗(yàn)分布,具有計(jì)算靈活簡(jiǎn)單的優(yōu)點(diǎn),可以用來預(yù)測(cè)節(jié)點(diǎn)的行為。文獻(xiàn)[66]中的信任計(jì)算考慮通信信任和數(shù)據(jù)信任2種情況,通過Beta分布來進(jìn)行節(jié)點(diǎn)行為的預(yù)測(cè)。

    節(jié)點(diǎn)間的交互通道存在不穩(wěn)定性和噪聲因素。文獻(xiàn)[67]提出使用輕量型的主觀邏輯來解決信任評(píng)價(jià)過程中存在的不確定性問題。

    3 基于霧計(jì)算的信任評(píng)價(jià)機(jī)制模型

    在傳感云系統(tǒng)中,信任評(píng)價(jià)機(jī)制的研究已有很大進(jìn)展。但是,對(duì)傳感云底層結(jié)構(gòu)的信任評(píng)價(jià)機(jī)制研究仍存在一些不足之處。

    1) 在底層無線傳感器網(wǎng)絡(luò)中,信任評(píng)價(jià)機(jī)制的建立需要消耗一些必要資源(能量、計(jì)算能力、通信資源等),這造成了WSN性能降低、壽命減少以及一些其他方面的問題。因此,信任評(píng)價(jià)機(jī)制的設(shè)計(jì)目標(biāo)應(yīng)為:盡量減少不必要的觀測(cè)值;盡量降低信任推薦次數(shù);盡量降低數(shù)據(jù)運(yùn)算量等。

    2) 有一些惡意節(jié)點(diǎn)表現(xiàn)出正常節(jié)點(diǎn)的行為,并且不影響網(wǎng)絡(luò)的性能,但會(huì)產(chǎn)生錯(cuò)誤數(shù)據(jù)來誤導(dǎo)用戶做出錯(cuò)誤決策。本文定義這類攻擊為隱藏?cái)?shù)據(jù)攻擊。WSN不具備針對(duì)這種類型攻擊的分析和辨別能力。

    3) 傳統(tǒng)方法采用云端可信中心作為 CSP和SNSP的信任第三方。但是,云端遠(yuǎn)離傳感網(wǎng)端,這就造成可信中心對(duì)WSN端的監(jiān)測(cè)實(shí)時(shí)性不強(qiáng),缺乏一定指標(biāo)(數(shù)據(jù)缺失率、檢測(cè)周期、底層網(wǎng)絡(luò)異常信息等)來建立CSP與SNSP的信任關(guān)系。從已有的研究?jī)?nèi)容來看,涉及CSP和SNSP之間信任關(guān)系的研究不多。

    只有CSP和SNSP之間相互信任,才能從源頭上保證為用戶提供真實(shí)、安全、高效的數(shù)據(jù)服務(wù)。CSP與SNSP之間是一種多對(duì)多的關(guān)系,并且他們之間的信任關(guān)系動(dòng)態(tài)變化。為解決這種復(fù)雜關(guān)系下的信任問題,可采用一種機(jī)制實(shí)時(shí)監(jiān)測(cè)雙方的信任變化情況,并提供及時(shí)可信的數(shù)據(jù)監(jiān)測(cè)指標(biāo)。

    針對(duì)這些問題,本文研究團(tuán)隊(duì)提出了基于霧計(jì)算(fog computing)的傳感云信任評(píng)價(jià)機(jī)制。在傳感云系統(tǒng)中,還沒有基于霧計(jì)算的信任評(píng)價(jià)模型,現(xiàn)在的研究更多的是在無線傳感器網(wǎng)絡(luò)層和云層。霧計(jì)算對(duì)于解決這類問題有獨(dú)特的優(yōu)勢(shì),并且能減輕雙方的計(jì)算和存儲(chǔ)負(fù)擔(dān)。

    3.1 霧計(jì)算

    霧計(jì)算由思科公司首次提出,它將云計(jì)算延伸到了網(wǎng)絡(luò)邊緣,應(yīng)用在IoT,如車聯(lián)網(wǎng)、智能電網(wǎng)、智慧城市、無線傳感網(wǎng)絡(luò)[68-70]。霧計(jì)算位于云計(jì)算和邊緣設(shè)備之間,具有低延時(shí)、位置感知、移動(dòng)性、實(shí)時(shí)性、支持異構(gòu)設(shè)備等特點(diǎn)。霧計(jì)算的定義[71]如下:“霧計(jì)算場(chǎng)景中,大量存在和分散的異構(gòu)(無線或自治)設(shè)備在沒有第三方介入的情況下,通過通信和相互協(xié)作方式來完成存儲(chǔ)和處理任務(wù)。這些任務(wù)能支持基本的網(wǎng)絡(luò)功能或運(yùn)行在沙盒環(huán)境下的新服務(wù)和應(yīng)用。用戶通過租用一些設(shè)備來獲取這些服務(wù)。”將霧計(jì)算作為宿主環(huán)境,可以普遍改善網(wǎng)絡(luò)性能以及更好地支持設(shè)備之間的合作。

    3.2 基于霧計(jì)算的信任評(píng)價(jià)機(jī)制

    霧計(jì)算具有一定的數(shù)據(jù)存儲(chǔ)和處理能力,與云計(jì)算相比,霧計(jì)算具有更強(qiáng)的實(shí)時(shí)性。霧計(jì)算能夠較為全面、充分地獲取底層網(wǎng)絡(luò)的狀況,作為連接傳感網(wǎng)端和云端的橋梁和紐帶,充當(dāng)云 CSP和SNSP的服務(wù)管理中心。此外,霧計(jì)算還有一個(gè)好處是:大量底層的數(shù)據(jù)處理任務(wù)不用提交到云端,可直接在霧層進(jìn)行處理,然后將處理結(jié)果傳送至云端,從而降低數(shù)據(jù)傳送量,節(jié)約能量。這種新的信任評(píng)價(jià)模型如圖5所示。

    針對(duì)第三方可信評(píng)估缺失的情況,霧計(jì)算提供了可選方案。霧層充當(dāng)云層和WSN層信任關(guān)系的緩沖地帶。在模型中,SNSP和CSP協(xié)商服務(wù)內(nèi)容以及一些服務(wù)參數(shù),這些內(nèi)容都由霧層進(jìn)行保存。在服務(wù)過程中,霧層接收來自 WSN層的傳感數(shù)據(jù)以及安全狀態(tài)信息,并進(jìn)行服務(wù)參數(shù)的監(jiān)測(cè)以及異常情況的分析和處理。霧層將在正常監(jiān)測(cè)范圍內(nèi)的數(shù)據(jù)以及異常報(bào)告?zhèn)魉徒o CSP。另外,為了實(shí)時(shí)監(jiān)測(cè)CSP的信任狀況,霧層會(huì)定期收集來自聲譽(yù)較好SNSP的推薦信任信息。霧層記錄收集到的推薦信任信息和對(duì)CSP服務(wù)的實(shí)時(shí)監(jiān)測(cè)信息,并綜合這2個(gè)方面的因素對(duì)CSP的信任值進(jìn)行實(shí)時(shí)更新。

    圖5 基于霧計(jì)算的傳感云信任評(píng)價(jià)模型

    3.3 實(shí)驗(yàn)設(shè)計(jì)

    霧層可以很好地進(jìn)行通信和服務(wù)參數(shù)的監(jiān)測(cè)。這里,本文主要設(shè)計(jì)霧層對(duì)WSN網(wǎng)絡(luò)信任狀態(tài)的監(jiān)測(cè),實(shí)現(xiàn)降低不必要的資源消耗、延長(zhǎng)網(wǎng)絡(luò)壽命、保證網(wǎng)絡(luò)通行能力、檢測(cè)隱藏?cái)?shù)據(jù)攻擊、發(fā)現(xiàn)針對(duì)信任評(píng)價(jià)機(jī)制的攻擊、恢復(fù)誤判節(jié)點(diǎn)等目標(biāo)。

    霧層是云層和WSN層的中間層,其組成為一些功能較普通傳感節(jié)點(diǎn)強(qiáng)的分布式設(shè)備(如移動(dòng)式節(jié)點(diǎn)),這些設(shè)備形成獨(dú)有的霧層網(wǎng)絡(luò)結(jié)構(gòu)。這些設(shè)備主要完成傳感數(shù)據(jù)的暫時(shí)性備份、WSN的網(wǎng)絡(luò)信任狀態(tài)監(jiān)測(cè)、向云端提供服務(wù)等功能。具體來

    實(shí)驗(yàn)環(huán)境及相關(guān)參數(shù)設(shè)置如表4所示。

    表4 實(shí)驗(yàn)環(huán)境及相關(guān)參數(shù)設(shè)置

    針對(duì)WSN層,本文采用了分層信任評(píng)價(jià)機(jī)制。3層機(jī)制分別為節(jié)點(diǎn)間基本信任層、節(jié)點(diǎn)間異常情況處理層和網(wǎng)絡(luò)整體安全層。

    3層機(jī)制具體的設(shè)計(jì)方案如下所示。

    1) 在節(jié)點(diǎn)間基本信任層,節(jié)點(diǎn)在通信或周期檢測(cè)過程中進(jìn)行相鄰節(jié)點(diǎn)間信任值的更新。在實(shí)驗(yàn)中,本文設(shè)定3個(gè)觀測(cè)值,分別為數(shù)據(jù)分組丟失率、路由失敗率和轉(zhuǎn)發(fā)時(shí)延。式(18)為直接信任更新。

    其中,Tpacket為數(shù)據(jù)分組信任值;Thistory為歷史信任值;Delayforwarding為轉(zhuǎn)發(fā)時(shí)延,值為 0或 1;w1和w2為權(quán)重因子,且w1+w2=1。

    另外,w2是與時(shí)間相關(guān)的權(quán)重因子,如式(19)所示。

    其中,real1和real2為2個(gè)可變實(shí)數(shù);Period為距離上一次節(jié)點(diǎn)信任更新的周期數(shù)。

    在一個(gè)檢測(cè)周期內(nèi),節(jié)點(diǎn)計(jì)算開銷為對(duì)其他節(jié)點(diǎn)的信任更新 Cupdate和權(quán)重值的計(jì)算 Cweight;節(jié)點(diǎn)的通信開銷為與相鄰節(jié)點(diǎn)的周期檢測(cè)開銷;節(jié)點(diǎn)的存儲(chǔ)開銷為信任值列表、監(jiān)測(cè)數(shù)據(jù)、權(quán)重值和其他參數(shù)。若節(jié)點(diǎn)間 1跳線路數(shù)為 n,鄰節(jié)點(diǎn)數(shù)為 L,則其在一個(gè)周期檢測(cè)內(nèi)的通信開銷小于 n(節(jié)點(diǎn)正常通信過程進(jìn)行觀測(cè)值監(jiān)測(cè)和信任更新),計(jì)算開銷小于Cindirect=n(Cupdate+Cweight),存儲(chǔ)開銷為常數(shù)級(jí)O(L)。

    2)在節(jié)點(diǎn)異常情況處理層,當(dāng)節(jié)點(diǎn)對(duì)其某一相鄰節(jié)點(diǎn)的觀測(cè)值(數(shù)據(jù)分組丟失率、路由失敗率、轉(zhuǎn)發(fā)時(shí)延、新舊信任值差值等)處于異常范圍時(shí),節(jié)點(diǎn)會(huì)將這一信息通過 AC(異常情況)數(shù)據(jù)分組傳遞給其他相鄰節(jié)點(diǎn),這些相鄰節(jié)點(diǎn)將自身對(duì)異常節(jié)點(diǎn)的信任值回復(fù)給發(fā)送者。同時(shí),節(jié)點(diǎn)也將這些推薦信息告知將信息發(fā)送給并請(qǐng)求異常情況判斷。當(dāng)確定異常節(jié)點(diǎn)確實(shí)是惡意節(jié)點(diǎn)時(shí),會(huì)在該區(qū)域內(nèi)進(jìn)行異常節(jié)點(diǎn)的隔離。當(dāng)該異常為誤判時(shí),進(jìn)行異常狀態(tài)解除,保證網(wǎng)絡(luò)性能不變。推薦信任計(jì)算如式(20)所示。

    其中,set(neighbor)中的節(jié)點(diǎn)與j節(jié)點(diǎn)和k節(jié)點(diǎn)均相鄰且為j節(jié)點(diǎn)的信任節(jié)點(diǎn);TD(i,k)為i節(jié)點(diǎn)對(duì)k節(jié)點(diǎn)的直接信任值;wi為i節(jié)點(diǎn)的權(quán)重值。

    權(quán)重值的計(jì)算如式(21)所示。

    其中,n為對(duì) set(neighbor)中所有節(jié)點(diǎn)信任值排序后 i節(jié)點(diǎn)所處隊(duì)列的位置。

    綜合信任計(jì)算如式(22)所示。

    其中,w3和w4為權(quán)重值,且w3+w4=1。

    若沒有異常情況發(fā)生,則沒有計(jì)算和通信方面的開銷。若出現(xiàn)異常情況,其計(jì)算開銷為Cabnormal=Crecommend+Cweight+Csynthesis;通信開銷為獲取推薦信任值和向霧層發(fā)送異常狀態(tài)信息,為常數(shù)級(jí)O(L);存儲(chǔ)開銷為權(quán)重值的存儲(chǔ)、排序的信任列表和其他參數(shù)。

    其中,Arrayi記錄某一時(shí)刻是否存在波峰/波谷;保存數(shù)值的增減度degree;

    在云層,本文從3個(gè)方面建立CSP對(duì)SNSP的信任關(guān)系,分別為WSN網(wǎng)絡(luò)狀態(tài)信息信任、服務(wù)監(jiān)測(cè)信任和推薦信任。根據(jù)一些CSP在霧層的歷史信息來獲得CSP的可信度,然后通過CSP可信度對(duì)其推薦信任進(jìn)行計(jì)算。就SNSP對(duì)CSP的信任關(guān)系建立,也需要通過霧層進(jìn)行。一方面是對(duì) CSP服務(wù)參數(shù)的監(jiān)測(cè),另一方面是可信SNSP的信任推薦。在可信SNSP的尋找方面,也需要通過霧層的SNSP服務(wù)記錄來分析獲取。

    3.4 實(shí)驗(yàn)分析

    3.4.1 WSN層信任狀態(tài)的監(jiān)測(cè)

    在信任評(píng)價(jià)機(jī)制的建立過程中,通信開銷是一個(gè)重要的方面。因此,本文將增強(qiáng)的多屬性信任協(xié)議(EMATP, enhanced multi-attribute trust protocol)[60]、輕量可靠的信任系統(tǒng)(LDTS, lightweight and dependable trust system)[52]、分層信任管理協(xié)議(HTMP,hierarchical trust management protocol)[72]和基于霧計(jì)算的分層信任機(jī)制(FHTM, fog-based hierarchical trust mechanism)幾種方案的通信開銷做了對(duì)比實(shí)驗(yàn),記錄一個(gè)簇內(nèi)節(jié)點(diǎn)進(jìn)行信任更新所需要的網(wǎng)絡(luò)通信開銷。在簇內(nèi),節(jié)點(diǎn)彼此鄰接,在不同節(jié)點(diǎn)數(shù)目情況下,各個(gè)方案的通信開銷如圖6所示。EMATP的通信開銷在直接信任、推薦信任檢測(cè)和簇頭信任更新3個(gè)方面。隨著鄰接節(jié)點(diǎn)數(shù)量的增加,其在推薦信任檢測(cè)方面的開銷很大。HTMP的通信開銷在直接信任、推薦信任、簇頭信任更新和簇頭之間信任更新4個(gè)方面。在實(shí)驗(yàn)中,本文沒有計(jì)算簇頭之間信任計(jì)算的開銷。LDTS的通信開銷為直接信任、簇頭信任更新、簇頭之間直接信任和基站信任更新4個(gè)方面。在實(shí)驗(yàn)中,本文沒有計(jì)算基站的通信開銷和多簇頭情況。FHTM的通信開銷為直接信任、異常觸發(fā)的推薦信任和霧層信任更新3個(gè)方面。

    圖6 不同數(shù)目鄰接節(jié)點(diǎn)的通信開銷

    由圖6可知,本文方案比EMATP和HTMP的通信開銷要少。由于LDTS沒有節(jié)點(diǎn)推薦信任這一環(huán)節(jié),節(jié)點(diǎn)通過簇頭獲取推薦信任信息,所以其通信開銷較其他方案更少。由于其沒有節(jié)點(diǎn)間的推薦信任,因此在應(yīng)對(duì)異常情況方面,LDTS比其他方案稍弱而且其簇頭節(jié)點(diǎn)在存儲(chǔ)、計(jì)算、通信方面的開銷相對(duì)較大。

    本文在3種不同攻擊類型場(chǎng)景下測(cè)試了幾種方案的惡意節(jié)點(diǎn)檢測(cè)速度,如圖7所示。對(duì)于共謀攻擊,HTMP和LDTS在這方面做得不太好,EMATP將這種攻擊的檢測(cè)放在了節(jié)點(diǎn)之間(基于惡意節(jié)點(diǎn)推薦不一致性),本文方案FHTM則將其放在了霧層(基于拓?fù)浣Y(jié)構(gòu)、節(jié)點(diǎn)信任列表和歷史傳感數(shù)據(jù)),這2種方案所花費(fèi)的時(shí)間差別不大。同樣地,HTMP和LDTS對(duì)偽造數(shù)據(jù)攻擊的檢測(cè)和確認(rèn)也不太擅長(zhǎng),EMATP的檢測(cè)和確認(rèn)所花時(shí)間較少(簇內(nèi)完成),本文方案FHTM應(yīng)對(duì)偽造數(shù)據(jù)攻擊所花費(fèi)時(shí)間較多(需要霧層的確認(rèn))。對(duì)于可以通過節(jié)點(diǎn)行為來進(jìn)行檢測(cè)的攻擊類型,HTMP花費(fèi)的時(shí)間最少,EMATP和FHTM需要進(jìn)行多種攻擊類型的檢測(cè)和確認(rèn),花費(fèi)的時(shí)間較長(zhǎng),但在可容忍范圍之內(nèi)。

    圖7 惡意節(jié)點(diǎn)的檢測(cè)和確認(rèn)

    針對(duì)隱藏?cái)?shù)據(jù)攻擊檢測(cè)和誤判節(jié)點(diǎn)恢復(fù)問題,本文也做了一些仿真實(shí)驗(yàn),如圖 8所示。圖中的#符號(hào)表示節(jié)點(diǎn)所處環(huán)境發(fā)生了較大變化,節(jié)點(diǎn)的行為出現(xiàn)了較大異動(dòng);&符號(hào)表示此處出現(xiàn)了隱藏?cái)?shù)據(jù)攻擊節(jié)點(diǎn),但是節(jié)點(diǎn)的行為表現(xiàn)正常;%符號(hào)表示一般內(nèi)部攻擊方式產(chǎn)生,節(jié)點(diǎn)出現(xiàn)了異常行為。每隔 20個(gè)周期,設(shè)定對(duì)網(wǎng)絡(luò)惡意節(jié)點(diǎn)進(jìn)行一次清理。對(duì)于隱藏?cái)?shù)據(jù)攻擊節(jié)點(diǎn)檢測(cè)和誤判節(jié)點(diǎn)恢復(fù)問題,會(huì)存在一定的時(shí)延問題。這個(gè)時(shí)延的產(chǎn)生原因是:需要對(duì)節(jié)點(diǎn)最近一段時(shí)間內(nèi)的傳感數(shù)據(jù)進(jìn)行特征的提取、對(duì)比和分析。

    圖8 隱藏?cái)?shù)據(jù)攻擊和誤判節(jié)點(diǎn)恢復(fù)

    3.4.2 CSP和SNSP之間信任的建立

    就SNSP對(duì)CSP的信任問題,對(duì)服務(wù)參數(shù)的監(jiān)測(cè)在霧層進(jìn)行。在這里,本文主要設(shè)計(jì)如何通過服務(wù)記錄獲得可信的SNSP。表5是SNSP的一些服務(wù)記錄信息。

    表5中有7個(gè)指標(biāo),其中,SNSP服務(wù)記錄是指 SNSP在使用服務(wù)過程中所出現(xiàn)異常情況的次數(shù);SNSP需求服務(wù)種類指的是SNSP對(duì)CSP的一些具體性能要求;交往過的CSP是指它接收過哪些CSP的服務(wù);交往過的SNSP是指它為哪些SNSP提供過推薦信任服務(wù);突變風(fēng)險(xiǎn)指的是選擇該SNSP的推薦信任值可能承擔(dān)的風(fēng)險(xiǎn);認(rèn)可次數(shù)/推薦次數(shù)是指該SNSP的推薦信任值是否對(duì)需求者有用;入駐時(shí)間是指該SNSP使用霧服務(wù)平臺(tái)的時(shí)間。

    表5 霧層SNSP的信息記錄

    推薦信任的計(jì)算分為2個(gè)部分,其一是一般推薦信任計(jì)算(通過權(quán)值綜合考慮所有使用過該CSP服務(wù)的SNSP評(píng)價(jià)),其二是專項(xiàng)推薦信任計(jì)算(查找所有與需求服務(wù)相似或相同的 SNSP,然后對(duì)這些SNSP的評(píng)價(jià)進(jìn)行綜合考慮)。CSP的排除原則是一般推薦信任計(jì)算值與專項(xiàng)信任推薦計(jì)算值差值較大的、風(fēng)險(xiǎn)代價(jià)較大的、入駐時(shí)間較短的、不良記錄高的。

    就CSP選擇SNSP來說,其信任評(píng)價(jià)分為3類:WSN網(wǎng)絡(luò)狀態(tài)信息信任、服務(wù)監(jiān)測(cè)信任和推薦信任。在霧層,可以進(jìn)行WSN網(wǎng)絡(luò)狀態(tài)信息和服務(wù)信息的監(jiān)測(cè),推薦信任的計(jì)算類似于前面所提到的推薦信任方式。

    4 未來研究方向

    4.1 不同傳感云平臺(tái)之間的信任

    就目前的研究進(jìn)展來看,傳感云信任評(píng)價(jià)機(jī)制的研究還處于初級(jí)階段。從傳感云的發(fā)展模式來說,有2種趨勢(shì)。1) 數(shù)據(jù)與服務(wù)是分開的,即CSP可接收多個(gè)SNSP提供的傳感數(shù)據(jù)服務(wù),然后對(duì)這些傳感數(shù)據(jù)進(jìn)行處理、分析和加工,最后為用戶提供服務(wù),這種模式下只需考慮傳感云平臺(tái)內(nèi)的信任評(píng)價(jià)機(jī)制。2) 數(shù)據(jù)與服務(wù)一體,即SNSP擁有數(shù)據(jù)的絕對(duì)控制權(quán),其兼顧C(jī)SP的職責(zé),SNSP可以從其他SNSP處獲取數(shù)據(jù),然后為用戶提供服務(wù),這種情況下就需要考慮平臺(tái)間的信任關(guān)系。第二種情況的是未來的一個(gè)研究方向。

    4.2 基于霧計(jì)算的信任評(píng)價(jià)模型

    霧計(jì)算具有幾個(gè)明顯的特征:低時(shí)延、位置感知、廣泛的地理分布、適應(yīng)移動(dòng)性的應(yīng)用、支持更多的邊緣節(jié)點(diǎn)[73-74]。將霧計(jì)算引入信任評(píng)價(jià)機(jī)制,能更好地應(yīng)對(duì)WSN拓?fù)浣Y(jié)構(gòu)的改變。當(dāng)節(jié)點(diǎn)被俘獲或失效時(shí),霧計(jì)算能夠及時(shí)發(fā)現(xiàn)并做出適當(dāng)決策,防止惡意節(jié)點(diǎn)對(duì)網(wǎng)絡(luò)的破壞或降低失效節(jié)點(diǎn)所造成的不必要的網(wǎng)絡(luò)能耗。在未來,霧層可以建立成一個(gè)具有公信力的第三方平臺(tái),保證數(shù)據(jù)來源的安全可靠,在管理無線傳感器網(wǎng)絡(luò)、橋接云計(jì)算、成為可信第三方等方面都具有一定的優(yōu)勢(shì)。

    4.3 傳感云中信任評(píng)價(jià)機(jī)制的未來研究

    在傳感云模型方面,信任評(píng)價(jià)機(jī)制未來研究?jī)?nèi)容應(yīng)該更多地基于全局?jǐn)?shù)據(jù)分析挖掘。傳感云模型的提出是為了提高WSN資源、數(shù)據(jù)的利用率和共享率,那么我們需要將復(fù)雜的信任評(píng)價(jià)數(shù)據(jù)運(yùn)算、消耗更多網(wǎng)絡(luò)資源的信任評(píng)價(jià)機(jī)制移出 WSN,在WSN之外進(jìn)行。在傳感器網(wǎng)絡(luò)等底層結(jié)構(gòu)中,應(yīng)關(guān)注惡意節(jié)點(diǎn)行為的監(jiān)測(cè),而在底層結(jié)構(gòu)之外則應(yīng)更多地關(guān)注惡意節(jié)點(diǎn)的檢測(cè)、確認(rèn)、處理、挖掘和預(yù)防。在未來研究中,信任評(píng)價(jià)機(jī)制應(yīng)該是基于可信平臺(tái)的。在平臺(tái)上,可以獲取更多的信息,擁有更好的計(jì)算、存儲(chǔ)等資源。特別地,隨著傳感云日益壯大,不可避免地要考慮跨域(不同傳感云或第三方霧計(jì)算平臺(tái))信任評(píng)價(jià)機(jī)制。跨域信任評(píng)價(jià)機(jī)制更多地基于推薦信任,更關(guān)注推薦者的可信程度。一般來說,推薦者評(píng)價(jià)具有隨意性、夸大性、局限性、以偏概全等問題。這些問題的解決方案可分為2個(gè)階段:第一階段為可信第三方收集用戶使用服務(wù)的記錄,排除不良用戶的推薦資格,針對(duì)不同的服務(wù)需求提供專項(xiàng)的信任推薦;第二階段為用戶評(píng)價(jià)行為的規(guī)范化、具體化,各個(gè)平臺(tái)服務(wù)情況差異對(duì)比標(biāo)準(zhǔn)化。

    4.4 對(duì)不可信事件的處理措施

    傳統(tǒng)的信任機(jī)制對(duì)不可信事件的處理措施是隔離或放棄。如在WSN層中,某些節(jié)點(diǎn)可能因?yàn)橐恍┳陨碓虍a(chǎn)生了異常數(shù)據(jù),有些信任評(píng)價(jià)機(jī)制會(huì)將該節(jié)點(diǎn)直接拋棄,這勢(shì)必會(huì)造成資源的浪費(fèi)。在選擇CSP時(shí),也不能因?yàn)閮H僅一次的不信任事件導(dǎo)致對(duì)該CSP的永久性不信任。當(dāng)然一些研究者也提出了信任恢復(fù)措施,但同時(shí)也為惡意節(jié)點(diǎn)的信任恢復(fù)提供了機(jī)會(huì)。在處理不可信源方面的研究還很少,需要一種機(jī)制進(jìn)行信任分類以及信任恢復(fù)。

    4.5 傳統(tǒng)安全機(jī)制與信任評(píng)價(jià)機(jī)制的權(quán)衡

    在安全領(lǐng)域,信任評(píng)價(jià)機(jī)制與傳統(tǒng)安全機(jī)制相輔相成。攻擊者可以通過外部攻擊獲取權(quán)限,以合法的身份對(duì)網(wǎng)絡(luò)進(jìn)行破壞。信任評(píng)價(jià)機(jī)制可以檢測(cè)惡意實(shí)體,對(duì)惡意實(shí)體進(jìn)行信任評(píng)價(jià),并聯(lián)結(jié)其他可信實(shí)體抵制信任值低的實(shí)體。但是信任評(píng)價(jià)機(jī)制并不能有效防止外部攻擊。在某些方面,需要統(tǒng)籌部署傳統(tǒng)安全機(jī)制和信任評(píng)價(jià)機(jī)制以達(dá)到合理應(yīng)用的目的。

    4.6 信任存儲(chǔ)

    在信任評(píng)價(jià)機(jī)制中,信任值的存儲(chǔ)是一個(gè)重要的部分。在很多信任評(píng)價(jià)機(jī)制中,研究重點(diǎn)在于信任評(píng)價(jià)機(jī)制算法的設(shè)計(jì),而對(duì)信任值的安全保護(hù)和存儲(chǔ)方面并未給予太多的研究。如在WSN中,信任值直接存儲(chǔ)在節(jié)點(diǎn)的存儲(chǔ)區(qū)域并沒有進(jìn)行加密等處理措施,信息容易被篡改;CSP、SNSP和用戶之間的信任數(shù)據(jù)庫更容易受到惡意攻擊等。在很多情況下,我們需要強(qiáng)化信任數(shù)據(jù)的安全存儲(chǔ)措施。

    4.7 信任評(píng)價(jià)機(jī)制標(biāo)準(zhǔn)的建立

    在對(duì)信任評(píng)價(jià)機(jī)制的研究過程中,本文發(fā)現(xiàn)信任評(píng)價(jià)機(jī)制的種類繁多,缺乏一種統(tǒng)一的標(biāo)準(zhǔn)來促進(jìn)該機(jī)制的長(zhǎng)久發(fā)展。另外,在用戶選擇或自己設(shè)計(jì)符合自身情況的信任評(píng)價(jià)機(jī)制時(shí),缺少相應(yīng)的參考標(biāo)準(zhǔn)來輔助設(shè)計(jì),這也是信任評(píng)價(jià)機(jī)制發(fā)展道路上的一個(gè)障礙。因此,在信任評(píng)價(jià)機(jī)制的研究中,需要設(shè)定一定的門類來區(qū)別不同的機(jī)制,并設(shè)定一些衡量參數(shù)來顯示該機(jī)制的適用范圍、能耗、性能、配置需求等。

    5 結(jié)束語

    WSN的廣泛應(yīng)用和云計(jì)算的快速發(fā)展促進(jìn)了傳感云技術(shù)的產(chǎn)生。傳感云繼承了WSN和云計(jì)算的很多優(yōu)點(diǎn),但也面臨著更多的安全問題。在安全領(lǐng)域的研究方法中,信任評(píng)價(jià)機(jī)制已是一個(gè)熱點(diǎn)領(lǐng)域。信任評(píng)價(jià)機(jī)制可以很好地應(yīng)對(duì)內(nèi)部攻擊,在提高服務(wù)質(zhì)量和輔助決策方面也有很大的優(yōu)勢(shì),可以應(yīng)用在安全定位、高效傳輸、數(shù)據(jù)保護(hù)等領(lǐng)域。在傳感云中,WSN和云計(jì)算中信任評(píng)價(jià)機(jī)制的研究已有一定規(guī)模,但是在用戶、CSP和SNSP實(shí)體間的信任評(píng)價(jià)機(jī)制還有待提高。本文總結(jié)了傳感云信任評(píng)價(jià)機(jī)制在最近幾年的發(fā)展?fàn)顩r,詳細(xì)介紹了傳感云結(jié)構(gòu)中實(shí)體間以及實(shí)體內(nèi)的信任評(píng)價(jià)機(jī)制,并對(duì)現(xiàn)有的信任評(píng)價(jià)機(jī)制進(jìn)行了分類和對(duì)比,探討了其未來的研究方向?;趯?duì)傳感云信任評(píng)價(jià)機(jī)制的研究,提出了一種基于霧計(jì)算模式的信任評(píng)價(jià)模型。通過仿真實(shí)驗(yàn),證明該模式可以保證傳感云底層結(jié)構(gòu)的安全、可信。而且,霧計(jì)算可以設(shè)計(jì)成可信第三方平臺(tái),作為SNSP和CSP之間信任的橋梁。

    猜你喜歡
    機(jī)制評(píng)價(jià)服務(wù)
    SBR改性瀝青的穩(wěn)定性評(píng)價(jià)
    石油瀝青(2021年4期)2021-10-14 08:50:44
    服務(wù)在身邊 健康每一天
    服務(wù)在身邊 健康每一天
    服務(wù)在身邊 健康每一天
    自制力是一種很好的篩選機(jī)制
    文苑(2018年21期)2018-11-09 01:23:06
    招行30年:從“滿意服務(wù)”到“感動(dòng)服務(wù)”
    商周刊(2017年9期)2017-08-22 02:57:56
    破除舊機(jī)制要分步推進(jìn)
    基于Moodle的學(xué)習(xí)評(píng)價(jià)
    注重機(jī)制的相互配合
    打基礎(chǔ) 抓機(jī)制 顯成效
    国产av精品麻豆| 99久久99久久久精品蜜桃| 夫妻午夜视频| av天堂久久9| 国产av国产精品国产| 99国产精品99久久久久| 午夜激情av网站| 一级黄色大片毛片| 精品亚洲成a人片在线观看| 大香蕉久久网| 国产一区二区在线观看av| 色视频在线一区二区三区| 下体分泌物呈黄色| 在线观看一区二区三区激情| 国产一区二区激情短视频 | 丰满少妇做爰视频| 嫩草影视91久久| 啦啦啦 在线观看视频| 免费人妻精品一区二区三区视频| 国产精品一区二区在线不卡| 韩国高清视频一区二区三区| 一区福利在线观看| 老鸭窝网址在线观看| 两人在一起打扑克的视频| 男男h啪啪无遮挡| 少妇粗大呻吟视频| 国产免费现黄频在线看| 国产97色在线日韩免费| 国产精品熟女久久久久浪| 十八禁高潮呻吟视频| 成人免费观看视频高清| 欧美激情久久久久久爽电影 | 美女中出高潮动态图| 欧美日韩中文字幕国产精品一区二区三区 | 精品人妻1区二区| 亚洲精品粉嫩美女一区| 精品国产一区二区久久| 91九色精品人成在线观看| 日韩制服丝袜自拍偷拍| 亚洲九九香蕉| 欧美日韩亚洲国产一区二区在线观看 | 国产精品 国内视频| 久久久国产一区二区| 欧美人与性动交α欧美软件| 美女中出高潮动态图| 日韩欧美免费精品| 国产精品 国内视频| tocl精华| bbb黄色大片| 欧美另类一区| 在线观看免费高清a一片| 亚洲va日本ⅴa欧美va伊人久久 | 国产精品久久久久久精品古装| 国产高清视频在线播放一区 | 操出白浆在线播放| 色综合欧美亚洲国产小说| 黄色怎么调成土黄色| av不卡在线播放| 国产麻豆69| 亚洲精品自拍成人| 色婷婷av一区二区三区视频| 高清av免费在线| 啦啦啦中文免费视频观看日本| netflix在线观看网站| 免费在线观看视频国产中文字幕亚洲 | netflix在线观看网站| a在线观看视频网站| 亚洲人成77777在线视频| 美女脱内裤让男人舔精品视频| 男女之事视频高清在线观看| 久久免费观看电影| 最黄视频免费看| 久久久国产一区二区| 久久青草综合色| 超碰成人久久| 精品国产超薄肉色丝袜足j| 老熟女久久久| 在线观看免费视频网站a站| 精品人妻熟女毛片av久久网站| 久久精品国产亚洲av高清一级| 国产黄频视频在线观看| 夜夜夜夜夜久久久久| 青青草视频在线视频观看| 90打野战视频偷拍视频| 99re6热这里在线精品视频| 久久久久精品人妻al黑| 性高湖久久久久久久久免费观看| 青草久久国产| 久久精品国产综合久久久| 精品亚洲成国产av| 中亚洲国语对白在线视频| svipshipincom国产片| 久久国产精品影院| 岛国毛片在线播放| 大码成人一级视频| 国产亚洲一区二区精品| 天天添夜夜摸| av又黄又爽大尺度在线免费看| 热99国产精品久久久久久7| 精品一区二区三卡| 成年人黄色毛片网站| 天堂8中文在线网| 999久久久国产精品视频| 国产一区二区三区综合在线观看| 国产精品亚洲av一区麻豆| 热99国产精品久久久久久7| 日韩精品免费视频一区二区三区| 亚洲精品日韩在线中文字幕| 中文字幕高清在线视频| 国产xxxxx性猛交| 伊人亚洲综合成人网| 高清在线国产一区| 成年av动漫网址| 国产一区二区三区在线臀色熟女 | 91字幕亚洲| 午夜福利在线免费观看网站| 午夜久久久在线观看| 国产亚洲av高清不卡| 男女床上黄色一级片免费看| 夜夜夜夜夜久久久久| 欧美激情久久久久久爽电影 | 国产精品成人在线| netflix在线观看网站| 啦啦啦免费观看视频1| 国产成人精品久久二区二区91| √禁漫天堂资源中文www| 777久久人妻少妇嫩草av网站| 久久久精品免费免费高清| 久久久久国内视频| 99九九在线精品视频| 欧美精品高潮呻吟av久久| 天天操日日干夜夜撸| 欧美大码av| 少妇粗大呻吟视频| 啪啪无遮挡十八禁网站| 窝窝影院91人妻| 午夜免费成人在线视频| 性色av乱码一区二区三区2| 国产亚洲欧美精品永久| 超碰97精品在线观看| 视频区欧美日本亚洲| 久久这里只有精品19| 精品少妇久久久久久888优播| 中文字幕制服av| 老司机影院毛片| 婷婷丁香在线五月| 欧美日韩av久久| 中文字幕人妻丝袜一区二区| 精品国产一区二区三区久久久樱花| 大码成人一级视频| 热re99久久精品国产66热6| 日韩,欧美,国产一区二区三区| 99久久国产精品久久久| 97精品久久久久久久久久精品| 黄片小视频在线播放| 69精品国产乱码久久久| 成年人午夜在线观看视频| 免费在线观看完整版高清| 国产国语露脸激情在线看| 亚洲欧美清纯卡通| 国产免费av片在线观看野外av| 欧美日韩视频精品一区| www日本在线高清视频| 热99久久久久精品小说推荐| 日本vs欧美在线观看视频| 一边摸一边抽搐一进一出视频| 日本精品一区二区三区蜜桃| 欧美黄色淫秽网站| 超碰97精品在线观看| 国产av精品麻豆| www.熟女人妻精品国产| 精品人妻一区二区三区麻豆| 丝袜人妻中文字幕| 亚洲专区字幕在线| 欧美激情极品国产一区二区三区| 婷婷丁香在线五月| www.自偷自拍.com| 色精品久久人妻99蜜桃| 精品久久久精品久久久| 亚洲久久久国产精品| 黄色片一级片一级黄色片| 在线 av 中文字幕| 女人久久www免费人成看片| 777米奇影视久久| 国产精品一二三区在线看| 久久国产精品大桥未久av| 一级毛片电影观看| tube8黄色片| 亚洲五月婷婷丁香| 欧美日韩国产mv在线观看视频| 在线永久观看黄色视频| 热99re8久久精品国产| 精品福利观看| 十八禁网站免费在线| 别揉我奶头~嗯~啊~动态视频 | 国产精品麻豆人妻色哟哟久久| 99久久99久久久精品蜜桃| 真人做人爱边吃奶动态| 日本vs欧美在线观看视频| 脱女人内裤的视频| 九色亚洲精品在线播放| 涩涩av久久男人的天堂| 国产在线视频一区二区| 亚洲精品自拍成人| 一本色道久久久久久精品综合| 夜夜骑夜夜射夜夜干| 国产一区有黄有色的免费视频| 90打野战视频偷拍视频| 99精品久久久久人妻精品| 天堂8中文在线网| 亚洲全国av大片| 精品亚洲成国产av| 欧美日韩成人在线一区二区| av不卡在线播放| 十八禁网站免费在线| 婷婷丁香在线五月| 极品少妇高潮喷水抽搐| 最黄视频免费看| 精品福利观看| 久久人妻熟女aⅴ| 午夜免费鲁丝| 考比视频在线观看| 日本wwww免费看| 一级黄色大片毛片| 国产福利在线免费观看视频| 亚洲av成人一区二区三| 久久久欧美国产精品| 日韩制服骚丝袜av| 婷婷色av中文字幕| 久久精品成人免费网站| 老司机深夜福利视频在线观看 | 伦理电影免费视频| 亚洲国产看品久久| 两人在一起打扑克的视频| 亚洲三区欧美一区| 色94色欧美一区二区| 久久久精品94久久精品| 欧美在线黄色| 在线av久久热| 嫩草影视91久久| 汤姆久久久久久久影院中文字幕| 一边摸一边抽搐一进一出视频| 女性生殖器流出的白浆| 正在播放国产对白刺激| 精品一区二区三卡| 爱豆传媒免费全集在线观看| 超碰97精品在线观看| 国产成人精品无人区| 国精品久久久久久国模美| 久热这里只有精品99| 亚洲伊人久久精品综合| 老熟妇仑乱视频hdxx| 亚洲av欧美aⅴ国产| 国产成人a∨麻豆精品| a级片在线免费高清观看视频| 亚洲免费av在线视频| 精品国产超薄肉色丝袜足j| 狠狠狠狠99中文字幕| 少妇猛男粗大的猛烈进出视频| 国产主播在线观看一区二区| 久久久久视频综合| 91成人精品电影| 亚洲一卡2卡3卡4卡5卡精品中文| 97精品久久久久久久久久精品| 欧美激情高清一区二区三区| 国产成人a∨麻豆精品| 亚洲第一青青草原| 正在播放国产对白刺激| 久热这里只有精品99| 成人国语在线视频| 久久国产精品大桥未久av| 黄色a级毛片大全视频| 久久狼人影院| av又黄又爽大尺度在线免费看| 男人舔女人的私密视频| 波多野结衣一区麻豆| 国产精品免费视频内射| 美女大奶头黄色视频| 一区二区三区乱码不卡18| www.999成人在线观看| 多毛熟女@视频| 欧美av亚洲av综合av国产av| 欧美日韩福利视频一区二区| 欧美亚洲日本最大视频资源| 日韩大码丰满熟妇| 女性被躁到高潮视频| 色94色欧美一区二区| 桃花免费在线播放| 国产精品国产三级国产专区5o| 性色av乱码一区二区三区2| 国产男女内射视频| 欧美 日韩 精品 国产| 亚洲人成电影观看| www日本在线高清视频| 一个人免费在线观看的高清视频 | 国产真人三级小视频在线观看| 人人妻人人澡人人看| 亚洲中文字幕日韩| 欧美日韩成人在线一区二区| 午夜两性在线视频| 日韩大码丰满熟妇| 黄色视频在线播放观看不卡| cao死你这个sao货| 老司机影院成人| 免费高清在线观看日韩| 精品卡一卡二卡四卡免费| 国产欧美日韩精品亚洲av| 欧美大码av| 一区二区日韩欧美中文字幕| 亚洲精品国产一区二区精华液| av在线app专区| 国产极品粉嫩免费观看在线| 亚洲专区中文字幕在线| 中文字幕人妻熟女乱码| 在线亚洲精品国产二区图片欧美| 亚洲天堂av无毛| 亚洲精品第二区| 亚洲黑人精品在线| 欧美精品亚洲一区二区| 国产精品久久久久久人妻精品电影 | 9191精品国产免费久久| 成人亚洲精品一区在线观看| 在线观看免费高清a一片| 欧美日本中文国产一区发布| av国产精品久久久久影院| 亚洲成人国产一区在线观看| 国产一区二区 视频在线| 日韩欧美一区二区三区在线观看 | 欧美老熟妇乱子伦牲交| 美女高潮喷水抽搐中文字幕| videosex国产| 国产国语露脸激情在线看| 在线 av 中文字幕| 国产福利在线免费观看视频| a级毛片黄视频| 亚洲欧美一区二区三区黑人| 一本久久精品| 亚洲,欧美精品.| 亚洲人成电影观看| 精品福利永久在线观看| 亚洲精品国产色婷婷电影| 黄网站色视频无遮挡免费观看| 亚洲成av片中文字幕在线观看| 制服诱惑二区| 99久久综合免费| 精品一区二区三卡| 亚洲色图 男人天堂 中文字幕| 色播在线永久视频| 啦啦啦免费观看视频1| 中文欧美无线码| av电影中文网址| 日韩欧美一区视频在线观看| 亚洲色图 男人天堂 中文字幕| 夜夜骑夜夜射夜夜干| 欧美黄色片欧美黄色片| 久久这里只有精品19| 亚洲欧美日韩另类电影网站| 色94色欧美一区二区| 欧美日韩亚洲国产一区二区在线观看 | 黄网站色视频无遮挡免费观看| 精品国产一区二区三区久久久樱花| 正在播放国产对白刺激| 一个人免费看片子| 亚洲美女黄色视频免费看| 欧美人与性动交α欧美软件| 最近最新中文字幕大全免费视频| 97人妻天天添夜夜摸| 伊人亚洲综合成人网| 五月天丁香电影| 永久免费av网站大全| 国产精品久久久久成人av| 免费女性裸体啪啪无遮挡网站| 又黄又粗又硬又大视频| 最近最新中文字幕大全免费视频| 亚洲精品一卡2卡三卡4卡5卡 | 精品国产国语对白av| 久久久国产精品麻豆| 99久久综合免费| 成在线人永久免费视频| 又黄又粗又硬又大视频| 精品福利永久在线观看| 欧美精品亚洲一区二区| 大香蕉久久成人网| 老熟妇仑乱视频hdxx| 视频区图区小说| 国产在线一区二区三区精| 日本撒尿小便嘘嘘汇集6| 亚洲伊人色综图| 国产97色在线日韩免费| 国产成人系列免费观看| 黑人猛操日本美女一级片| 国产又色又爽无遮挡免| 久久久久久久久免费视频了| 国产三级黄色录像| 国产在视频线精品| 在线看a的网站| 亚洲一区中文字幕在线| 18在线观看网站| 精品国产超薄肉色丝袜足j| 波多野结衣一区麻豆| 午夜精品国产一区二区电影| 色婷婷av一区二区三区视频| 精品一区二区三卡| 国产精品一区二区在线不卡| 人人妻人人爽人人添夜夜欢视频| 日日夜夜操网爽| 女人久久www免费人成看片| 国产免费一区二区三区四区乱码| 成年美女黄网站色视频大全免费| 亚洲午夜精品一区,二区,三区| 亚洲黑人精品在线| 久久人人爽人人片av| 如日韩欧美国产精品一区二区三区| 丝袜在线中文字幕| 精品一区二区三区四区五区乱码| 日本欧美视频一区| 久久ye,这里只有精品| 一区二区日韩欧美中文字幕| 天堂8中文在线网| 捣出白浆h1v1| 精品国产国语对白av| 男女之事视频高清在线观看| 97精品久久久久久久久久精品| 久久性视频一级片| 亚洲av成人不卡在线观看播放网 | 久久久精品免费免费高清| 成人18禁高潮啪啪吃奶动态图| 久久av网站| 日日摸夜夜添夜夜添小说| 午夜福利免费观看在线| 久久精品国产综合久久久| 久久中文字幕一级| 精品福利观看| 国产欧美日韩一区二区精品| 亚洲伊人色综图| 精品欧美一区二区三区在线| 他把我摸到了高潮在线观看 | 亚洲中文字幕日韩| 黄色片一级片一级黄色片| 丝袜喷水一区| 亚洲欧洲精品一区二区精品久久久| 久久av网站| 国产成人免费无遮挡视频| 久久人妻福利社区极品人妻图片| 女性被躁到高潮视频| 精品久久蜜臀av无| 国产真人三级小视频在线观看| 人妻久久中文字幕网| 国产精品久久久人人做人人爽| 日本猛色少妇xxxxx猛交久久| 久热这里只有精品99| 午夜精品久久久久久毛片777| 老司机亚洲免费影院| 久久天躁狠狠躁夜夜2o2o| 999久久久精品免费观看国产| 69精品国产乱码久久久| 国产日韩欧美亚洲二区| 欧美国产精品一级二级三级| 啦啦啦 在线观看视频| 国产亚洲精品一区二区www | 黄频高清免费视频| 亚洲专区国产一区二区| 精品国产乱码久久久久久小说| 无遮挡黄片免费观看| 日本猛色少妇xxxxx猛交久久| 美女高潮喷水抽搐中文字幕| 欧美日韩国产mv在线观看视频| 人成视频在线观看免费观看| 另类精品久久| av片东京热男人的天堂| 国产主播在线观看一区二区| 看免费av毛片| 久久女婷五月综合色啪小说| 午夜激情av网站| 一区在线观看完整版| 97在线人人人人妻| 男女国产视频网站| 美女高潮到喷水免费观看| 免费在线观看视频国产中文字幕亚洲 | 91九色精品人成在线观看| 亚洲av欧美aⅴ国产| 蜜桃国产av成人99| 国产区一区二久久| av视频免费观看在线观看| 窝窝影院91人妻| 免费观看av网站的网址| 99热全是精品| 99久久国产精品久久久| 久久亚洲精品不卡| 精品国内亚洲2022精品成人 | 国产xxxxx性猛交| 欧美久久黑人一区二区| 精品国产一区二区三区久久久樱花| 国产精品99久久99久久久不卡| 久久久国产成人免费| 波多野结衣av一区二区av| www.熟女人妻精品国产| 国产精品.久久久| 国产老妇伦熟女老妇高清| 亚洲美女黄色视频免费看| 男女午夜视频在线观看| 国产成人啪精品午夜网站| 日本黄色日本黄色录像| www日本在线高清视频| 欧美精品一区二区免费开放| 亚洲国产欧美日韩在线播放| 成年人黄色毛片网站| 悠悠久久av| 亚洲精品一区蜜桃| 汤姆久久久久久久影院中文字幕| 精品福利观看| 国产精品久久久久久人妻精品电影 | 免费在线观看日本一区| 在线看a的网站| 美女视频免费永久观看网站| 婷婷丁香在线五月| 国产一区二区三区综合在线观看| 五月天丁香电影| 亚洲熟女精品中文字幕| 亚洲国产毛片av蜜桃av| 久久热在线av| 丝袜美腿诱惑在线| 亚洲欧美日韩另类电影网站| 免费不卡黄色视频| 久久中文看片网| 搡老熟女国产l中国老女人| 丝袜人妻中文字幕| 亚洲少妇的诱惑av| 精品第一国产精品| 丝袜美腿诱惑在线| 超碰97精品在线观看| 久久久久视频综合| 国产在线视频一区二区| 一边摸一边抽搐一进一出视频| 99香蕉大伊视频| 国产xxxxx性猛交| 亚洲 欧美一区二区三区| 大型av网站在线播放| 中文字幕制服av| 老司机福利观看| 国产一区二区三区综合在线观看| 男人爽女人下面视频在线观看| 午夜精品久久久久久毛片777| 久久狼人影院| 男男h啪啪无遮挡| 午夜福利在线观看吧| 久久精品国产a三级三级三级| 亚洲精品国产色婷婷电影| 国产精品自产拍在线观看55亚洲 | 欧美日韩精品网址| 国产成人av教育| 国产又色又爽无遮挡免| 亚洲精品国产av成人精品| 国产成人影院久久av| 国产亚洲av片在线观看秒播厂| 青青草视频在线视频观看| 亚洲欧美精品自产自拍| 中文字幕制服av| 欧美另类一区| 久久中文字幕一级| 亚洲精品中文字幕在线视频| 欧美日韩亚洲国产一区二区在线观看 | 国产精品免费大片| 女性被躁到高潮视频| 99re6热这里在线精品视频| av国产精品久久久久影院| 少妇裸体淫交视频免费看高清 | 男女免费视频国产| 日韩 亚洲 欧美在线| 日韩人妻精品一区2区三区| 欧美精品亚洲一区二区| 亚洲熟女精品中文字幕| 国产精品影院久久| 777米奇影视久久| 亚洲成人国产一区在线观看| 欧美精品av麻豆av| 成人免费观看视频高清| 一边摸一边抽搐一进一出视频| 亚洲精华国产精华精| 九色亚洲精品在线播放| av网站免费在线观看视频| 精品国产超薄肉色丝袜足j| 免费不卡黄色视频| 人妻 亚洲 视频| 日日夜夜操网爽| 精品免费久久久久久久清纯 | 老司机午夜福利在线观看视频 | 国产精品麻豆人妻色哟哟久久| 自拍欧美九色日韩亚洲蝌蚪91| 美女中出高潮动态图| 男女高潮啪啪啪动态图| 精品少妇黑人巨大在线播放| 午夜福利视频精品| 日韩大码丰满熟妇| 日本欧美视频一区| 精品少妇内射三级| 国产精品偷伦视频观看了| 天天影视国产精品| 在线观看免费高清a一片| 桃红色精品国产亚洲av| 涩涩av久久男人的天堂| 高潮久久久久久久久久久不卡| 美女大奶头黄色视频| 丁香六月天网| 日日摸夜夜添夜夜添小说| a在线观看视频网站| 欧美精品高潮呻吟av久久| 国产1区2区3区精品| 在线观看免费日韩欧美大片| 男女无遮挡免费网站观看| 午夜91福利影院| 午夜精品久久久久久毛片777| 欧美午夜高清在线| 老司机深夜福利视频在线观看 | h视频一区二区三区|