• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    面向邊緣人工智能計(jì)算的區(qū)塊鏈技術(shù)綜述

    2020-01-17 03:07:28方俊杰
    關(guān)鍵詞:人工智能智能設(shè)備

    方俊杰 ,雷 凱

    1.北京大學(xué)信息工程學(xué)院深圳市內(nèi)容中心網(wǎng)絡(luò)與區(qū)塊鏈重點(diǎn)實(shí)驗(yàn)室,深圳518055

    2.北京大學(xué)互聯(lián)網(wǎng)研究院(深圳),深圳518055

    區(qū)塊鏈作為比特幣的底層支撐技術(shù),能在泛中心環(huán)境下以安全可驗(yàn)證的方式構(gòu)建分類賬,因而得到了廣泛關(guān)注.在區(qū)塊鏈中,網(wǎng)絡(luò)中的任何節(jié)點(diǎn)都可以進(jìn)行事務(wù)的驗(yàn)證和轉(zhuǎn)發(fā).所有節(jié)點(diǎn)共同維護(hù)包含事務(wù)的區(qū)塊有序鏈接的分類賬,從而構(gòu)建了一個(gè)無法篡改的、全網(wǎng)一致的狀態(tài)記錄[1].因此,除了應(yīng)用于數(shù)字貨幣領(lǐng)域外,區(qū)塊鏈技術(shù)也正在改變著各種無信任環(huán)境下的交易模式[2].區(qū)塊鏈可用于記錄交易、消息傳遞、身份認(rèn)證和訪問控制管理等,在建立更安全的系統(tǒng)上具有相當(dāng)大的潛力[2-3].雖然區(qū)塊鏈技術(shù)呈現(xiàn)出極具潛力的應(yīng)用需求,但考慮到區(qū)塊鏈本身的特性和限制因素,針對其實(shí)際應(yīng)用領(lǐng)域的探索工作也是學(xué)界的研究重點(diǎn).

    2017年出現(xiàn)的云-邊緣人工智能系統(tǒng)的概念[4],催生出邊緣人工智能計(jì)算的研究方向和發(fā)展.隨著物聯(lián)網(wǎng)和移動(dòng)計(jì)算的普及,分散的終端設(shè)備產(chǎn)生的海量數(shù)據(jù)存儲(chǔ)在大量的邊緣節(jié)點(diǎn)上,為人工智能應(yīng)用提供數(shù)據(jù)來源.然而,傳統(tǒng)的以云計(jì)算為主的架構(gòu)面臨著數(shù)據(jù)收集的成本問題、終端敏感數(shù)據(jù)的隱私保護(hù)問題、終端數(shù)據(jù)與云計(jì)算交互的時(shí)延問題等,越來越無法滿足當(dāng)前人工智能的數(shù)據(jù)需求.因此,將中心的計(jì)算和存儲(chǔ)下放到邊緣網(wǎng)絡(luò)的新型人工智能范式逐漸成為一個(gè)具有重要意義的研究方向[5-7].

    區(qū)塊鏈天然的泛中心分布式可信特性為設(shè)計(jì)邊緣人工智能計(jì)算的框架與范式提供了新的思路.在邊緣人工智能計(jì)算中,運(yùn)行人工智能算法的多個(gè)設(shè)備分散在邊緣網(wǎng)絡(luò)中.為了協(xié)作完成人工智能計(jì)算任務(wù)或聯(lián)合進(jìn)行智能群體決策,這些設(shè)備之間需要頻繁通信.然而,無論是設(shè)備本身還是設(shè)備間的通信都面臨著多種網(wǎng)絡(luò)安全攻擊的威脅,如設(shè)備有可能發(fā)生故障或存有惡意,在這種情況下傳輸?shù)男畔⒖赡苄孤痘虮淮鄹?區(qū)塊鏈作為一種由密碼學(xué)支撐的、可驗(yàn)證的、不可篡改的分類賬,可以通過事務(wù)記錄和對事務(wù)記錄有效性的分布式共識(shí)來保障分散不可信環(huán)境中的安全交互,正好可以在邊緣人工智能計(jì)算的場景下發(fā)揮作用.同時(shí),區(qū)塊鏈的共識(shí)機(jī)制與激勵(lì)機(jī)制配合智能合約天然適合構(gòu)建一個(gè)經(jīng)濟(jì)市場,可以有效激勵(lì)邊緣人工智能計(jì)算中信息的共享與交互.

    在現(xiàn)有的文獻(xiàn)中,有研究人員對區(qū)塊鏈、邊緣計(jì)算與人工智能分別進(jìn)行了綜述,也有研究人員著眼于區(qū)塊鏈與邊緣計(jì)算[8]的結(jié)合或區(qū)塊鏈與人工智能的結(jié)合[9].不過就區(qū)塊鏈在邊緣人工智能計(jì)算環(huán)境下的作用而言,到目前為止還缺乏探索性研究和綜述工作.為此,本文從區(qū)塊鏈技術(shù)的架構(gòu)出發(fā),概述了區(qū)塊鏈方向的相關(guān)研究成果;結(jié)合人工智能和邊緣計(jì)算的發(fā)展,介紹了邊緣人工智能計(jì)算的概念和發(fā)展需求;面向邊緣人工智能計(jì)算的需求,詳細(xì)分析并討論了區(qū)塊鏈技術(shù)與邊緣人工智能計(jì)算相結(jié)合的需求及其發(fā)展方向;總結(jié)出區(qū)塊鏈技術(shù)在邊緣人工智能計(jì)算領(lǐng)域的應(yīng)用優(yōu)勢和探索方向.

    1 區(qū)塊鏈及其研究概述

    1.1 區(qū)塊鏈技術(shù)背景

    自2008年中本聰發(fā)表比特幣白皮書[1]以來,區(qū)塊鏈作為比特幣的底層技術(shù)得到了廣泛的關(guān)注與討論[10].簡單來說,區(qū)塊鏈?zhǔn)且粋€(gè)開放的、分布式的數(shù)字賬本,以可驗(yàn)證且不可篡改的方式有效地記錄各方之間的交易.與傳統(tǒng)的中心化賬本系統(tǒng)相比,區(qū)塊鏈系統(tǒng)中的所有參與節(jié)點(diǎn)通過共識(shí)算法共同維護(hù)分布式分類賬.區(qū)塊鏈中的區(qū)塊對其數(shù)據(jù)結(jié)構(gòu)有嚴(yán)格的規(guī)范要求,其中所有的區(qū)塊頭都記錄其先前區(qū)塊的加密散列值,以確保歷史事務(wù)記錄的完整性與一致性.

    從更廣泛的意義上來說,區(qū)塊鏈也可以作為一種底層框架.區(qū)塊鏈框架可以細(xì)分為網(wǎng)絡(luò)層、數(shù)據(jù)層、應(yīng)用層[2],如圖1所示.數(shù)據(jù)層一般會(huì)給出區(qū)塊鏈的數(shù)據(jù)記錄類型和數(shù)據(jù)結(jié)構(gòu).數(shù)據(jù)記錄也被稱作事務(wù)(transaction),這些事務(wù)是特定時(shí)間發(fā)生的節(jié)點(diǎn)之間特定交互動(dòng)作的證據(jù),比如比特幣中事務(wù)記錄的是資金的轉(zhuǎn)移.從數(shù)據(jù)結(jié)構(gòu)的角度來看,以比特幣為代表的典型區(qū)塊鏈?zhǔn)且幌盗胁粩嘣鲩L的含有事務(wù)的區(qū)塊的鏈表.如圖2中的(a)所示,一個(gè)區(qū)塊通常由區(qū)塊頭和包含一系列事務(wù)的區(qū)塊體組成.每個(gè)區(qū)塊包含一組新的事務(wù),以及前一個(gè)塊的散列值,以便將當(dāng)前塊鏈接到前一個(gè)塊.散列值和時(shí)間戳的設(shè)計(jì)使得修改記錄變得困難,因?yàn)槊恳粋€(gè)區(qū)塊都依賴于前一個(gè)區(qū)塊和當(dāng)前時(shí)間.除了鏈?zhǔn)浇Y(jié)構(gòu)之外,近年來出現(xiàn)了基于有向無環(huán)圖(directed acyclic graph, DAG)的新型數(shù)據(jù)結(jié)構(gòu)[11].如圖2(b)所示,基于DAG 結(jié)構(gòu)的區(qū)塊鏈消除了區(qū)塊的概念,這樣每個(gè)交易都是分布式賬本中鏈接的單個(gè)節(jié)點(diǎn).這些節(jié)點(diǎn)不受單一主鏈的約束,它們之間的關(guān)系就像一張糾纏的網(wǎng).

    圖1 區(qū)塊鏈框架Figure 1 Blockchain framework

    圖2 區(qū)塊鏈數(shù)據(jù)結(jié)構(gòu)Figure 2 Blockchain data structure

    網(wǎng)絡(luò)層則泛指整個(gè)應(yīng)用區(qū)塊鏈的交互環(huán)境,除了包括分布式點(diǎn)對點(diǎn)網(wǎng)絡(luò)和在該網(wǎng)絡(luò)運(yùn)行的網(wǎng)絡(luò)協(xié)議(如常見的TCP/IP 協(xié)議)以及最重要的用于分布式網(wǎng)絡(luò)生成新區(qū)塊的共識(shí)機(jī)制外,還包括在用戶之間更新和分發(fā)區(qū)塊鏈的協(xié)議設(shè)計(jì).網(wǎng)絡(luò)協(xié)議并不僅僅局限于當(dāng)前的TCP/IP 協(xié)議.已有一些研究在未來新型網(wǎng)絡(luò)架構(gòu)的協(xié)議下部署區(qū)塊鏈,比如命名數(shù)據(jù)網(wǎng)絡(luò)(named data networking, NDN)[12].共識(shí)機(jī)制或共識(shí)算法是區(qū)塊鏈系統(tǒng)的關(guān)鍵組成部分,由于沒有中心節(jié)點(diǎn)來確保分布式節(jié)點(diǎn)上的賬本都是相同的,區(qū)塊鏈就需要一些協(xié)議來確保不同節(jié)點(diǎn)中的存儲(chǔ)副本是一致的[3].

    工作證明(proof of work, PoW)是在比特幣網(wǎng)絡(luò)[1]中使用的一種共識(shí)算法,該算法要求網(wǎng)絡(luò)中的每個(gè)節(jié)點(diǎn)都計(jì)算一串特定的哈希散列值.如果計(jì)算出的目標(biāo)散列值的正確性得到了其他所有節(jié)點(diǎn)的驗(yàn)證,則該節(jié)點(diǎn)將會(huì)獲得產(chǎn)生新區(qū)塊的權(quán)利.整個(gè)工作證明的過程被稱為挖礦,計(jì)算散列值的節(jié)點(diǎn)被稱為礦工.礦工們不得不進(jìn)行大量的計(jì)算,然而這些計(jì)算除了挑選出一個(gè)記錄事務(wù)的節(jié)點(diǎn)外,并沒有其他實(shí)際意義,因而這種共識(shí)因浪費(fèi)太多的資源而被批判.以太坊提出的股權(quán)證明(proof of stake, PoS)[13]是PoW 的改進(jìn),此時(shí)礦工改為證明貨幣數(shù)量的所有權(quán),而不是利用自己的算力計(jì)算沒有特定含義的哈希散列值.相比之下減少了資源浪費(fèi)的現(xiàn)象,因此選出下一個(gè)生成區(qū)塊節(jié)點(diǎn)的過程也更高效.文獻(xiàn)[14]使用的股權(quán)委托證明(delegated proof of stake, DPoS)是PoS 的改進(jìn)形式.DPoS 被認(rèn)為是一種代議制民主,由節(jié)點(diǎn)投票選擇出特定數(shù)目的代理節(jié)點(diǎn)來生成并驗(yàn)證區(qū)塊.因?yàn)轵?yàn)證塊的節(jié)點(diǎn)數(shù)明顯減少,所以加快了區(qū)塊的確認(rèn)速度,使事務(wù)得到了更快的確認(rèn).實(shí)用拜占庭容錯(cuò)算法(practical Byzantine fault tolerance, PBFT)是可以容忍拜占庭故障的算法,整個(gè)共識(shí)過程分為預(yù)準(zhǔn)備、準(zhǔn)備和響應(yīng)3 個(gè)階段.在每個(gè)階段,如果一個(gè)節(jié)點(diǎn)獲得了所有節(jié)點(diǎn)中2/3 以上的投票就可以進(jìn)入下一個(gè)階段.因?yàn)橐獮楣?jié)點(diǎn)投票,所以網(wǎng)絡(luò)中的節(jié)點(diǎn)被要求掌握其他所有節(jié)點(diǎn)的信息并與之進(jìn)行通信,可見該算法不太適用于網(wǎng)絡(luò)規(guī)模較大的情況.PBFT 更多地用于節(jié)點(diǎn)數(shù)量較少的聯(lián)盟鏈或者私有鏈,比如Hyperledger Fabric[15].表1比較了這4 種常見的共識(shí)算法,而最近又出現(xiàn)了許多改進(jìn)的共識(shí)算法和全新的共識(shí)算法.

    表1 4 種典型共識(shí)算法比較Table 1 Comparison of four typical consensus algorithms

    應(yīng)用層提供了各種應(yīng)用程序.區(qū)塊鏈最常見的應(yīng)用是以比特幣為代表的數(shù)字加密貨幣,而另一個(gè)廣泛的應(yīng)用是智能合約.智能合約的引入標(biāo)志著區(qū)塊鏈進(jìn)入了2.0 時(shí)代[16].智能合約依托區(qū)塊鏈的分散共識(shí)機(jī)制,允許相互不信任的用戶在不需要任何第3 方可信的授權(quán)和監(jiān)管下完成數(shù)據(jù)交換或交易.以太坊是目前使用最廣泛的支持智能合約的區(qū)塊鏈,多種多樣的智能合約應(yīng)用是基于以太坊進(jìn)行開發(fā)的[13].當(dāng)前,區(qū)塊鏈作為一種可行解決方案可用于增強(qiáng)系統(tǒng)的可信性和安全性[17-22],包括物聯(lián)網(wǎng)(Internet of Things, IoT)、金融經(jīng)濟(jì)、云計(jì)算和邊緣計(jì)算等.自從區(qū)塊鏈用于比特幣等加密貨幣以來,隨著工業(yè)界和學(xué)術(shù)界對其技術(shù)和應(yīng)用的不斷探索,人們對區(qū)塊鏈的興趣一直在增加[2-3].與此同時(shí),學(xué)術(shù)界也在不斷地改進(jìn)區(qū)塊鏈技術(shù)的數(shù)據(jù)層和網(wǎng)絡(luò)層,以獲得更好的性能為上層應(yīng)用提供服務(wù).

    1.2 區(qū)塊鏈技術(shù)研究簡述

    針對區(qū)塊鏈的研究可以簡單地分為兩類:一類是對區(qū)塊鏈自身加以改進(jìn),另一類則是將區(qū)塊鏈作為一種解決方案應(yīng)用于各種場景.

    1.2.1 區(qū)塊鏈自身改進(jìn)

    改進(jìn)區(qū)塊鏈自身的研究具體分為三部分:一是提出新的區(qū)塊鏈共識(shí)算法以改進(jìn)現(xiàn)有共識(shí)算法的不足,二是解決區(qū)塊鏈的可拓展性問題,三是針對區(qū)塊鏈系統(tǒng)的攻擊問題給出解決方案.

    在PoW 算法中,各節(jié)點(diǎn)所計(jì)算出的都是一串具有特殊前綴的散列值,這樣的計(jì)算不但沒有附加價(jià)值,而且浪費(fèi)了太多的資源.因此,文獻(xiàn)[23]提出將各節(jié)點(diǎn)計(jì)算無意義的哈希散列值改為計(jì)算額外的具有潛在科學(xué)價(jià)值的特殊素?cái)?shù),且使用這樣的特殊素?cái)?shù)可以保持PoW 的一些重要特性,如被其他節(jié)點(diǎn)有效驗(yàn)證、不可重用、難度可調(diào)整.在PoW 算法中,每個(gè)區(qū)塊的產(chǎn)生都要等待一個(gè)散列值的計(jì)算和驗(yàn)證,且一個(gè)區(qū)塊因大小限制而導(dǎo)致包含的事務(wù)有限,因此系統(tǒng)吞吐量并不太高.為了在保障區(qū)塊鏈系統(tǒng)安全性不受影響的前提下提升系統(tǒng)吞吐量,文獻(xiàn)[24]提出將共識(shí)過程解耦為兩個(gè)操作:一是選舉產(chǎn)生新區(qū)塊的領(lǐng)導(dǎo)者,二是將事務(wù)序列化添加到區(qū)塊鏈中.這種算法不太頻繁地隨機(jī)選出領(lǐng)導(dǎo)者,并由領(lǐng)導(dǎo)者單方面主導(dǎo)將該時(shí)期內(nèi)的事務(wù)添加到區(qū)塊鏈中.與此類似,文獻(xiàn)[25]引入可驗(yàn)證隨機(jī)函數(shù)(variable random function,VRF)來選舉產(chǎn)生新區(qū)塊的領(lǐng)導(dǎo)者.VRF 的特性保證了下一個(gè)領(lǐng)導(dǎo)者節(jié)點(diǎn)不可被預(yù)測,且隨機(jī)產(chǎn)生的領(lǐng)導(dǎo)者可以被其余節(jié)點(diǎn)所驗(yàn)證.

    區(qū)塊鏈可拓展性問題可以分為3 類:吞吐量問題、成本問題、容量問題[26].具體描述如下:1)比特幣作為一種交易系統(tǒng),目前每秒處理的事務(wù)大約是7 筆,遠(yuǎn)落后于Visa 系統(tǒng)每秒處理的上萬筆[27].由于塊大小的限制,區(qū)塊鏈存在等待事務(wù)被包含到塊中的問題.如果為此縮短生成區(qū)塊的間隔時(shí)間,就可能造成區(qū)塊鏈分叉的問題.2)根據(jù)比特幣和以太坊的現(xiàn)有機(jī)制,用戶創(chuàng)建一個(gè)事務(wù)需要向礦工付費(fèi),這是成本問題.3)節(jié)點(diǎn)需要存儲(chǔ)自創(chuàng)世區(qū)塊以來全部的區(qū)塊副本,如果所有的事務(wù)都存儲(chǔ)在一個(gè)鏈中,那么這個(gè)鏈的賬本容量就會(huì)變得太大而無法維護(hù),這是容量問題.目前以太坊的區(qū)塊存儲(chǔ)大小是444.06 GB,已經(jīng)是一個(gè)較大規(guī)模的體量[28].

    第1 種提高可拓展性方案的思路是更改比特幣區(qū)塊鏈的數(shù)據(jù)結(jié)構(gòu)或交易確認(rèn)方式.文獻(xiàn)[11]提出了基于有向無環(huán)圖的結(jié)構(gòu),并將其稱之為Tangle.鏈?zhǔn)浇Y(jié)構(gòu)的區(qū)塊鏈要求將新事務(wù)附加到主鏈之前對其進(jìn)行驗(yàn)證,以保證節(jié)點(diǎn)之間同步的一致性.與之不同的是,Tangle 采用了異步一致的方式,在提交新事務(wù)之前節(jié)點(diǎn)必須驗(yàn)證兩個(gè)以前的事務(wù).這兩個(gè)被驗(yàn)證的事務(wù)已附加到有向無環(huán)圖中但沒有得到網(wǎng)絡(luò)中其他節(jié)點(diǎn)規(guī)定次數(shù)的確認(rèn),之后節(jié)點(diǎn)運(yùn)行PoW 算法將這兩個(gè)新的事務(wù)捆綁在一起廣播到網(wǎng)絡(luò)中.每個(gè)新事務(wù)以后都將由其他更新的事務(wù)進(jìn)行驗(yàn)證.每個(gè)事務(wù)都有一個(gè)稱為權(quán)值的度量,它與事務(wù)的驗(yàn)證次數(shù)成正比,權(quán)值越大,交易越難被篡改.理論上,這樣的數(shù)據(jù)結(jié)構(gòu)設(shè)計(jì)和交易確認(rèn)機(jī)制可以提高網(wǎng)絡(luò)吞吐量和系統(tǒng)響應(yīng)時(shí)間.權(quán)益證明協(xié)議(proof of property)[29]的提出可以在新事務(wù)中添加與當(dāng)前系統(tǒng)狀態(tài)有關(guān)的部分,這樣其他節(jié)點(diǎn)無需存儲(chǔ)完整的區(qū)塊鏈也可以完成驗(yàn)證.

    不改變區(qū)塊鏈鏈?zhǔn)浇Y(jié)構(gòu)的性能提升方案進(jìn)一步細(xì)分為鏈上解決方案、鏈下解決方案和跨鏈解決方案.對于鏈上解決方案,最簡單的方法是調(diào)整區(qū)塊的大小和生成區(qū)塊的間隔時(shí)間[30],另外比較有代表性的是分片技術(shù)[31].分片技術(shù)可以類比于分布式數(shù)據(jù)庫,其關(guān)鍵思路是將一個(gè)大型網(wǎng)絡(luò)劃分成一些小的委員會(huì),每個(gè)委員會(huì)通過運(yùn)行PBFT這樣效率更高的共識(shí)算法來處理一組互不關(guān)聯(lián)的事務(wù).分成多組委員會(huì)處理不同的事務(wù)不僅可以減少每個(gè)節(jié)點(diǎn)的負(fù)擔(dān),而且可以通過并行處理來提高整個(gè)系統(tǒng)吞吐量.一個(gè)典型的鏈下解決方案是閃電網(wǎng)絡(luò)[32].閃電網(wǎng)絡(luò)主要用來提升比特幣等電子支付系統(tǒng)的可拓展性,它的核心思想:不是每一筆交易事務(wù)都有必要放到區(qū)塊中通過PoW 共識(shí)得到全網(wǎng)確認(rèn),而是允許將一部分交易的記錄和確認(rèn)放到鏈下完成.跨鏈解決方案提出可以通過多條相同類型或不同類型的區(qū)塊鏈之間的相互合作來提供更豐富的功能和更強(qiáng)的性能,目標(biāo)是將另一個(gè)區(qū)塊鏈的功能引入當(dāng)前的區(qū)塊鏈,主要關(guān)注的是如何在多個(gè)區(qū)塊鏈系統(tǒng)之間實(shí)現(xiàn)有效的通信和高效的數(shù)據(jù)傳輸[33-34].

    大多數(shù)區(qū)塊鏈面臨的特有安全攻擊是針對比特幣網(wǎng)絡(luò)的[10].51%攻擊是指具有全網(wǎng)一半以上的算力就可以操縱新區(qū)塊的生成.自私攻擊是指為了獲得不適當(dāng)?shù)莫?jiǎng)勵(lì)而浪費(fèi)誠實(shí)礦工的計(jì)算能力[35].攻擊者不廣播挖掘到的區(qū)塊而是私下持有,之后自私的攻擊者們會(huì)在這條私有鏈上繼續(xù)進(jìn)行挖礦,并試圖保持一條比公共鏈更長的私有分支.邊界網(wǎng)關(guān)協(xié)議(border gateway protocol, BGP)劫持攻擊[36]是一種劫持路由延遲網(wǎng)絡(luò)消息的攻擊,因?yàn)橐恍┍忍貛诺V池高度集中,所以BGP 劫持攻擊的攻擊者可以使比特幣網(wǎng)絡(luò)分叉,或者延遲塊傳播的速度.僵尸網(wǎng)絡(luò)攻擊[37]是由具有不同IP 地址范圍的機(jī)器人發(fā)起的,通過獨(dú)占受害者的輸入輸出信道將受害者節(jié)點(diǎn)與網(wǎng)絡(luò)其他節(jié)點(diǎn)隔離,從而使受害者節(jié)點(diǎn)接收不到區(qū)塊鏈的最新信息.活躍攻擊[38]則是針對以太坊網(wǎng)絡(luò)的,該攻擊能夠盡可能地延遲目標(biāo)事務(wù)的確認(rèn)時(shí)間.針對安全攻擊問題,現(xiàn)有的主要解決方案是提出新的礦池[39].

    1.2.2 典型區(qū)塊鏈應(yīng)用

    區(qū)塊鏈的應(yīng)用大致可以分為以下幾類:金融和市場領(lǐng)域應(yīng)用、聲譽(yù)系統(tǒng)、安全和隱私增強(qiáng)[3].區(qū)塊鏈在金融和市場領(lǐng)域最廣泛而知名的應(yīng)用就是以比特幣[1]、以太坊[13]等為代表的電子加密貨幣,除此之外在構(gòu)建點(diǎn)對點(diǎn)金融市場、跨域金融資產(chǎn)的清算結(jié)算、供應(yīng)鏈流程追溯管理[40]方面也有大量的應(yīng)用.對于構(gòu)建聲譽(yù)系統(tǒng)[41],區(qū)塊鏈可以解決電子商務(wù)聲譽(yù)方案中利用注冊大量的虛假客戶以獲得高聲譽(yù)的問題.聲譽(yù)信息因?yàn)榇鎯?chǔ)在區(qū)塊鏈上,所以無法篡改,且所有聲譽(yù)變化都很容易檢測.針對安全增強(qiáng)問題,區(qū)塊鏈可以解決重要的中心節(jié)點(diǎn)的單點(diǎn)故障問題.由于可以減小公私鑰分發(fā)設(shè)備受到攻擊的影響,區(qū)塊鏈甚至可以幫助構(gòu)建更加可靠的公私鑰基礎(chǔ)設(shè)施[42].針對隱私保護(hù),基于區(qū)塊鏈構(gòu)建的數(shù)據(jù)存儲(chǔ)系統(tǒng)可以在確保用戶擁有數(shù)據(jù)所有權(quán)的同時(shí)保障用戶的匿名性[43].

    將區(qū)塊鏈應(yīng)用到物聯(lián)網(wǎng)、車聯(lián)網(wǎng)、邊緣計(jì)算等場景時(shí),會(huì)面臨一個(gè)常見的問題:網(wǎng)絡(luò)中存在大量資源受限的設(shè)備.這些受限設(shè)備的存儲(chǔ)計(jì)算處理能力十分有限,很難存儲(chǔ)完整的區(qū)塊鏈賬本或運(yùn)行較耗費(fèi)計(jì)算資源的PoW 共識(shí)算法.因此,當(dāng)區(qū)塊鏈應(yīng)用在這些場景時(shí),通常會(huì)考慮將路由器、邊緣服務(wù)器等納入考慮范圍來設(shè)計(jì)系統(tǒng)框架.以邊緣計(jì)算為例,終端設(shè)備被認(rèn)為是資源受限的設(shè)備,其存儲(chǔ)計(jì)算處理能力十分有限,不適合部署區(qū)塊鏈.因此,只在邊緣服務(wù)器層和云服務(wù)器層部署區(qū)塊鏈,而終端設(shè)備通過與邊緣服務(wù)器通信連接獲取區(qū)塊鏈上的信息[44-45].文獻(xiàn)[46-47]則考慮讓終端設(shè)備和邊緣服務(wù)器都參與到區(qū)塊鏈中.文獻(xiàn)[48-49]定義了3 種類型的節(jié)點(diǎn):輕量級節(jié)點(diǎn)、標(biāo)準(zhǔn)節(jié)點(diǎn)和交換級節(jié)點(diǎn).其中:類似終端設(shè)備的輕量級節(jié)點(diǎn)保留一個(gè)帶有區(qū)塊鏈地址和余額的錢包,只執(zhí)行提出交易等任務(wù);標(biāo)準(zhǔn)節(jié)點(diǎn)保存部分區(qū)塊鏈的副本信息,主要是收集輕量級節(jié)點(diǎn)的交易或相應(yīng)輕量級節(jié)點(diǎn)的查詢;交換級節(jié)點(diǎn)則保存了區(qū)塊鏈的完整副本記錄并可以提供區(qū)塊鏈的分析服務(wù).文獻(xiàn)[46-47]均考慮使用聯(lián)盟鏈管理物聯(lián)網(wǎng)虛擬資源,并將物聯(lián)網(wǎng)虛擬資源(代碼或數(shù)據(jù)) 存儲(chǔ)在區(qū)塊中.與此同時(shí),在聯(lián)盟鏈中注冊的多個(gè)用戶可以定義和部署自己的虛擬系統(tǒng),并對區(qū)塊進(jìn)行讀寫.

    2 邊緣人工智能計(jì)算

    2.1 人工智能概要

    根據(jù)《人工智能—一種現(xiàn)代方法》[50]一書的定義,人工智能是一種被人類設(shè)計(jì)出來的可以將感知信息映射到行動(dòng)的智能體,它可以根據(jù)環(huán)境采取理性的行為并做出決策.人工智能一詞雖然在近些年來得到了社會(huì)各界的廣泛關(guān)注,但不是一個(gè)新的術(shù)語,而是經(jīng)過了數(shù)十年的起起落落發(fā)展的研究領(lǐng)域[51].人工智能之所以重新崛起,得益于硬件水平發(fā)展的支撐以及機(jī)器學(xué)習(xí)和深度學(xué)習(xí)方面取得的新突破[52].

    機(jī)器學(xué)習(xí)是一門不需要明確編程就能讓計(jì)算機(jī)運(yùn)行的技術(shù).在過去的十幾年里,機(jī)器學(xué)習(xí)使得物聯(lián)網(wǎng)、智慧城市、智慧醫(yī)療、自動(dòng)駕駛汽車、語音識(shí)別以及人類基因組等諸多方面得到了更深入的研究[53-58].許多研究人員認(rèn)為,機(jī)器學(xué)習(xí)技術(shù)是向高水平的人工智能發(fā)展的最佳途徑[51].然而,傳統(tǒng)的機(jī)器學(xué)習(xí)技術(shù)處理原始數(shù)據(jù)的能力有限,構(gòu)造一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)通常需要擁有豐富專業(yè)知識(shí)的專家?guī)椭O(shè)計(jì)一個(gè)特征提取器,以便將原始數(shù)據(jù)轉(zhuǎn)換成機(jī)器學(xué)習(xí)系統(tǒng)內(nèi)合適的表示方式或者特征向量[52].深度學(xué)習(xí)方法是一種具有多層表示的表示學(xué)習(xí)方法,允許向機(jī)器輸入原始數(shù)據(jù)并自動(dòng)學(xué)習(xí)出所需的表示.它通過組合簡單但非線性的模塊來完成這一任務(wù),其中每個(gè)模塊將一個(gè)級別的表示轉(zhuǎn)換為一個(gè)更高的、更抽象的表示[52].正因?yàn)檫@樣的特性,深度學(xué)習(xí)在發(fā)現(xiàn)高維數(shù)據(jù)中的復(fù)雜結(jié)構(gòu)方面表現(xiàn)得非常出色,在科學(xué)、商業(yè)和政府的許多應(yīng)用領(lǐng)域均取得了重大進(jìn)展.

    卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network, CNN)、循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)、長短期記憶(long short-term memory, LSTM)網(wǎng)絡(luò)和去噪自編碼器(de-noising auto encoder,DAE)是目前廣泛應(yīng)用的深度學(xué)習(xí)方法.其中,CNN 是最為常見的深度學(xué)習(xí)架構(gòu)之一,常用于圖像處理方面.它包含3 種不同的模塊(又可稱為層),分別為卷積層、池化層和全連接層.最常見的卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)有GoogLeNet[59]、VGGNet[60]、AlexNet[61]、ResNet[62]等.RNN 主要用來識(shí)別序列輸入,比如語音、文本等信息,它利用循環(huán)的連接結(jié)構(gòu)并根據(jù)循環(huán)計(jì)算處理輸入數(shù)據(jù).相較于CNN,RNN 會(huì)區(qū)分不同時(shí)間的輸入[63].隨著時(shí)間的推移,它的輸出會(huì)進(jìn)入下一個(gè)時(shí)間段,而不是在同一時(shí)間段內(nèi)進(jìn)入下一層,這樣之前的所有輸入數(shù)據(jù)就可以和當(dāng)前的輸入數(shù)據(jù)一起共同計(jì)算最后的輸出.LSTM 網(wǎng)絡(luò)可以被看成一種拓展的循環(huán)神經(jīng)網(wǎng)絡(luò),它通常包含輸入門、輸出門和遺忘門3 個(gè)核心模塊,可以控制何時(shí)讓輸入信息進(jìn)入神經(jīng)元并在多大程度上將前一個(gè)時(shí)間段中計(jì)算的內(nèi)容納入當(dāng)前計(jì)算的考慮范疇.LSTM 可用于文字、語音序列識(shí)別和圖像處理等[64],其主要優(yōu)點(diǎn)在于它的輸出是根據(jù)當(dāng)前時(shí)間的輸入來決定的.DAE[65]是一種用于從噪聲數(shù)據(jù)集中學(xué)習(xí)特征的非對稱神經(jīng)網(wǎng)絡(luò),主要由輸入層、編碼層和解碼層組成.

    2.2 邊緣計(jì)算興起

    邊緣計(jì)算是一個(gè)與云計(jì)算相對的概念.隨著用戶對服務(wù)質(zhì)量(quality of service, QoS)的要求不斷提升,為了解決從云到用戶中間長時(shí)間延遲的問題,文獻(xiàn)[66-67]提出云服務(wù)應(yīng)該被轉(zhuǎn)移到更靠近終端用戶的地方,即移動(dòng)網(wǎng)絡(luò)的邊緣節(jié)點(diǎn),這就是所謂的邊緣計(jì)算.邊緣計(jì)算的概念涵蓋了多種不同領(lǐng)域的技術(shù),包括軟件定義網(wǎng)絡(luò)(software-defined networking, SDN)、面向服務(wù)計(jì)算(service-oriented computing, SOC)、計(jì)算機(jī)體系結(jié)構(gòu)等,其核心思想是將計(jì)算和通信資源從云轉(zhuǎn)移到網(wǎng)絡(luò)的邊緣節(jié)點(diǎn)上,從而為邊緣的用戶提供更快的服務(wù)與計(jì)算響應(yīng),減少中間不必要的通信延遲和網(wǎng)絡(luò)擁塞.

    邊緣計(jì)算一詞常與移動(dòng)邊緣計(jì)算(mobile edge computing,MEC)、霧計(jì)算(fog computing,FC)等概念混淆.移動(dòng)邊緣計(jì)算的概念由歐洲電信標(biāo)準(zhǔn)協(xié)會(huì)于2014年提出[66],具體定義為“在無線接入網(wǎng)(radio access network, RAN)中向移動(dòng)用戶提供IT 服務(wù)環(huán)境和云計(jì)算能力”的新平臺(tái).霧計(jì)算則被認(rèn)為是邊緣計(jì)算更一般化的概念,由思科公司在2012年提出[67],是一種使得位于網(wǎng)絡(luò)邊緣的數(shù)十億連接設(shè)備運(yùn)行應(yīng)用程序成為可能的計(jì)算范式.值得注意的是:邊緣計(jì)算、霧計(jì)算和移動(dòng)邊緣計(jì)算的研究領(lǐng)域通常是重疊的,而且這幾個(gè)術(shù)語經(jīng)??梢曰Q使用.為了避免混淆,本文將統(tǒng)一使用邊緣計(jì)算這一術(shù)語.

    邊緣計(jì)算范式的建立基于網(wǎng)絡(luò)功能虛擬化(network function virtualization, NFV)、信息中心網(wǎng)絡(luò)(information-centric networking, ICN)和軟件定義網(wǎng)絡(luò)(software defined network,SDN)等方面研究的最新進(jìn)展[68-70].具體來說,網(wǎng)絡(luò)功能虛擬化使得單個(gè)邊緣設(shè)備能夠向多個(gè)移動(dòng)終端設(shè)備提供計(jì)算服務(wù),這樣單個(gè)的邊緣設(shè)備可以創(chuàng)建多個(gè)虛擬機(jī)來同時(shí)執(zhí)行不同的任務(wù)或操作不同的網(wǎng)絡(luò)功能.信息中心網(wǎng)絡(luò)則為邊緣計(jì)算提供了一個(gè)端到端的服務(wù)識(shí)別范式,從以主機(jī)為中心轉(zhuǎn)換為以信息為中心而實(shí)現(xiàn)可以感知內(nèi)容的計(jì)算.同時(shí),軟件定義網(wǎng)絡(luò)允許網(wǎng)絡(luò)管理員通過服務(wù)抽象來管理服務(wù),以實(shí)現(xiàn)動(dòng)態(tài)的可伸縮的計(jì)算.邊緣計(jì)算對于系統(tǒng)中的移動(dòng)運(yùn)營商、服務(wù)提供商和終端用戶都是有利的[71].移動(dòng)運(yùn)營商能夠以更加靈活便捷的方式部署它們的服務(wù),比如提供存儲(chǔ)資源、計(jì)算資源或者其他IT資源,同時(shí)根據(jù)所使用的服務(wù)進(jìn)行收費(fèi)而獲利.服務(wù)提供商們可以提供支持更高帶寬和更低時(shí)延的服務(wù)并從這種更好的服務(wù)中獲取利潤.對于終端用戶來說,由于與服務(wù)者的物理距離更短以及無線接入網(wǎng)更加密集,用戶體驗(yàn)可以得到有效提升,比如獲得更高吞吐量的瀏覽、更快的視頻緩存和更及時(shí)的域名系統(tǒng)相關(guān)服務(wù)等.

    2.3 邊緣人工智能計(jì)算(edge AI computing)

    2.3.1 人工智能與邊緣計(jì)算結(jié)合趨勢

    近年來,一種被稱作邊緣人工智能計(jì)算或邊緣智能(edge AI/edge intelligence)的研究正獲得越來越多的關(guān)注.2017年,美國加州大學(xué)伯克利分校發(fā)布的有關(guān)人工智能的白皮書中就提出云-邊緣人工智能系統(tǒng)是一個(gè)重要研究方向[4];2018年,知名調(diào)研機(jī)構(gòu)Gartner 將邊緣智能寫入新一版的人工智能曲線[72].一個(gè)公認(rèn)的事實(shí)是,人工智能與邊緣計(jì)算的融合是自然而不可避免的.邊緣計(jì)算利用人工智能的技術(shù)和方法可以更大規(guī)模地釋放其潛力,而人工智能借助邊緣計(jì)算的場景和平臺(tái)可以拓展更多的應(yīng)用和技術(shù)[5-7].

    一方面,隨著物聯(lián)網(wǎng)和移動(dòng)計(jì)算的普及,越來越多的數(shù)據(jù)并不像以往一樣生成和存儲(chǔ)在超大規(guī)模的數(shù)據(jù)中心中,而是分散地生成并存儲(chǔ)在大量的邊緣節(jié)點(diǎn)上.鑒于當(dāng)前人工智能技術(shù)還在極大程度上依賴大規(guī)模真實(shí)數(shù)據(jù)[73],為了在邊緣網(wǎng)絡(luò)中有效使用人工智能技術(shù)進(jìn)行數(shù)據(jù)的處理與分析,一種解決方案是將分散在網(wǎng)絡(luò)各處的數(shù)據(jù)重新收集到傳統(tǒng)的數(shù)據(jù)中心里,但是當(dāng)關(guān)注到性能、成本以及隱私問題的時(shí)候,這種方案的缺陷比較明顯[6].另外一種方案是在產(chǎn)生數(shù)據(jù)的本地運(yùn)行人工智能程序,但是考慮到大量物聯(lián)網(wǎng)設(shè)備和終端設(shè)備都是輕量級的,其運(yùn)算和存儲(chǔ)能力均十分有限,該方案目前的可行性較低.綜合來看,利用邊緣計(jì)算在邊緣服務(wù)器上運(yùn)行人工智能應(yīng)用是一種相比而言更為可行的解決方案.舉例來說,邊緣計(jì)算有一個(gè)十分具有代表性的人工智能應(yīng)用是實(shí)時(shí)視頻分析[74].該應(yīng)用需要不斷從監(jiān)控?cái)z像機(jī)中獲取高清視頻,且要求分析視頻同時(shí)滿足高計(jì)算量、高帶寬、低延遲以及高隱私性保護(hù)的要求,而邊緣計(jì)算正是能滿足這些要求的最合適的技術(shù).

    另一方面,人工智能技術(shù)也能優(yōu)化邊緣計(jì)算的服務(wù).在邊緣計(jì)算中,一直在討論各種各樣的資源分配問題.如何優(yōu)化資源分配以提高系統(tǒng)效率是邊緣計(jì)算系統(tǒng)設(shè)計(jì)的目標(biāo)之一,而人工智能技術(shù),包括統(tǒng)計(jì)方法、深度學(xué)習(xí)方法和強(qiáng)化學(xué)習(xí)方法在這個(gè)問題上都可以提供一定的幫助[75-77].

    2.3.2 邊緣人工智能計(jì)算的概念與框架

    許多研究者都給出了邊緣人工智能計(jì)算的定義.文獻(xiàn)[5]認(rèn)為邊緣人工智能計(jì)算即是在邊緣設(shè)備執(zhí)行人工智能的算法;文獻(xiàn)[6]則認(rèn)為這樣的定義縮小了邊緣人工智能計(jì)算的范圍,于是依據(jù)建模、模型訓(xùn)練、結(jié)果推導(dǎo)在云實(shí)現(xiàn)還是在邊緣實(shí)現(xiàn)將邊緣人工智能計(jì)算分為6 個(gè)等級;文獻(xiàn)[7]的劃分則相對簡單,將邊緣人工智能計(jì)算劃分為邊緣服務(wù)的人工智能(AI for edge)和在邊緣上的人工智能(AI on edge).

    本文將邊緣人工智能計(jì)算定義為在邊緣網(wǎng)絡(luò)上多個(gè)分布式設(shè)備協(xié)同共建的人工智能.

    1)本文并不考慮在使用專有硬件的單個(gè)邊緣設(shè)備上運(yùn)行人工智能算法[78]的情況,因?yàn)檫@種情況與目前在大規(guī)模數(shù)據(jù)中心運(yùn)行人工智能算法并沒有本質(zhì)上的區(qū)別.本文同意文獻(xiàn)[6]的觀點(diǎn):邊緣人工智能計(jì)算中協(xié)同計(jì)算的多個(gè)設(shè)備絕不僅僅局限于邊緣終端設(shè)備,相反地,邊緣人工智能計(jì)算將充分利用終端設(shè)備、邊緣服務(wù)器和云數(shù)據(jù)中心中的可用數(shù)據(jù)和資源.2)本文認(rèn)為的多個(gè)邊緣設(shè)備協(xié)同計(jì)算共建人工智能,既可以是一個(gè)同樣的人工智能算法通過多個(gè)設(shè)備協(xié)同完成計(jì)算以保護(hù)數(shù)據(jù)隱私或提升效率,也可以是一個(gè)單個(gè)設(shè)備或一個(gè)小型設(shè)備集群.這樣的一個(gè)單個(gè)設(shè)備或小型設(shè)備集群可以被抽象成一個(gè)自主化的智能體,它擁有可消耗的知識(shí),由自身利益的目標(biāo)驅(qū)動(dòng),為了實(shí)現(xiàn)群體目標(biāo)與其他智能體交互,如共享知識(shí)數(shù)據(jù)或聯(lián)合進(jìn)行決策.這樣的相互連接和組織在網(wǎng)絡(luò)中的松散耦合的多個(gè)智能體也被稱為群體智能[79].

    多個(gè)設(shè)備協(xié)同計(jì)算完成一個(gè)深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練的的優(yōu)勢在于:使用可用的空閑設(shè)備使小型邊緣設(shè)備集群,能夠運(yùn)行更大的模型或加速推理過程.文獻(xiàn)[80]將神經(jīng)網(wǎng)絡(luò)的每一層都并行化以加速整個(gè)模型的計(jì)算.文獻(xiàn)[81]提出的協(xié)同感知網(wǎng)絡(luò)將一個(gè)深度神經(jīng)網(wǎng)絡(luò)模型整體進(jìn)行劃分,并將劃分后的模型部分分配給多個(gè)邊緣設(shè)備來完成計(jì)算.目前,更多的框架設(shè)計(jì)會(huì)借用分布式深度神經(jīng)網(wǎng)絡(luò)的框架并對其進(jìn)行修改以滿足邊緣網(wǎng)絡(luò)的特殊需求.常見的分布式深度神經(jīng)網(wǎng)絡(luò)框架有聯(lián)邦學(xué)習(xí)(federated learning, FL)[82],它要求隨機(jī)客戶端從服務(wù)器下載可訓(xùn)練的模型,用自己的數(shù)據(jù)更新模型并將更新后的模型上傳到服務(wù)器,再由服務(wù)器聚合多個(gè)客戶端更新,這樣的過程將重復(fù)多次,直到服務(wù)器聚合后的人工智能模型收斂為止.將分布式深度神經(jīng)網(wǎng)絡(luò)框架應(yīng)用到邊緣計(jì)算場景遇到的挑戰(zhàn)是如何在資源受限的設(shè)備上提供足夠的計(jì)算能力.文獻(xiàn)[83]提供了一個(gè)解決思路,就是在邊緣設(shè)備中采用深度學(xué)習(xí)加速器(deep learning accelerator, DLA),通過將關(guān)鍵計(jì)算操作實(shí)現(xiàn)為硬件連接邏輯來提升效率.文獻(xiàn)[84]提供的解決思路則是對參與本次訓(xùn)練的設(shè)備進(jìn)行選擇,盡可能選擇更多的計(jì)算資源多且通信條件好的設(shè)備以滿足本次訓(xùn)練的需要.

    2.3.3 邊緣人工智能計(jì)算的發(fā)展趨勢

    安全與隱私問題是任何應(yīng)用和系統(tǒng)都會(huì)考慮的問題.邊緣人工智能計(jì)算的系統(tǒng)是在邊緣網(wǎng)絡(luò)上的一個(gè)分布式的系統(tǒng),具有自主性、分散控制、成員數(shù)量多等復(fù)雜異構(gòu)特征,面臨著諸多潛在安全風(fēng)險(xiǎn)[85].首先,如果不能保證參與者之間的安全通信,協(xié)作的任務(wù)就無法完成.其次,系統(tǒng)內(nèi)成員并不完全可信,它們可能懷有惡意或遭受到了攻擊,因此判斷其他成員傳輸?shù)男畔⒌目煽啃砸彩潜匾?

    網(wǎng)絡(luò)性能是邊緣人工智能計(jì)算的影響因素之一.文獻(xiàn)[86]模擬移動(dòng)設(shè)備和邊緣服務(wù)器運(yùn)行經(jīng)典神經(jīng)網(wǎng)絡(luò)AlexNet 的測試結(jié)果,如圖3所示.該結(jié)果表明:相比于移動(dòng)設(shè)備,邊緣服務(wù)器運(yùn)行人工智能程序需要的時(shí)間更少,但是其運(yùn)行時(shí)間對帶寬高度敏感,顯然受到了數(shù)據(jù)傳輸時(shí)間的影響.因此,考慮到現(xiàn)實(shí)網(wǎng)絡(luò)帶寬資源的稀缺性,邊緣人工智能計(jì)算的一個(gè)研究方向是優(yōu)化模型和框架以降低網(wǎng)絡(luò)對邊緣智能系統(tǒng)性能的影響.文獻(xiàn)[87]融合早期的卷積層并在多個(gè)設(shè)備中并行化這些層,從而降低了通信成本.文獻(xiàn)[78]則提出一種自適應(yīng)卷積網(wǎng)絡(luò),能將卷積層劃分給相應(yīng)的設(shè)備進(jìn)行并行計(jì)算,這是根據(jù)計(jì)算資源的可用性和網(wǎng)絡(luò)條件動(dòng)態(tài)選擇的.

    圖3 邊緣移動(dòng)設(shè)備和邊緣服務(wù)器運(yùn)行神經(jīng)網(wǎng)絡(luò)用時(shí)Figure 3 Time of edge mobile devices and edge servers running deep neural networks

    3 面向邊緣人工智能計(jì)算的區(qū)塊鏈研究

    3.1 當(dāng)前研究工作總結(jié)

    表2簡單總結(jié)了面向邊緣人工智能計(jì)算的區(qū)塊鏈研究工作,接下來將分類進(jìn)行詳細(xì)闡述.

    3.1.1 基于區(qū)塊鏈的邊緣人工智能計(jì)算框架

    在面向邊緣人工智能計(jì)算區(qū)塊鏈研究中,一個(gè)主要方向是引入?yún)^(qū)塊鏈來構(gòu)建邊緣人工智能計(jì)算框架,原因如下:1)邊緣人工智能計(jì)算中的節(jié)點(diǎn)本身及在相互通信的過程中都可能遭受網(wǎng)絡(luò)攻擊;2)參與邊緣智能的節(jié)點(diǎn)可能存在惡意行為或者缺乏足夠的激勵(lì)而為系統(tǒng)積極貢獻(xiàn),引入?yún)^(qū)塊鏈則可以成為有效的解決方案之一.

    文獻(xiàn)[88]討論了聯(lián)邦學(xué)習(xí)的安全問題,地理上分散的節(jié)點(diǎn)向集中的服務(wù)器發(fā)送更新參數(shù)時(shí)不僅容易受到網(wǎng)絡(luò)攻擊,而且存在著隱私泄露的問題.區(qū)塊鏈可以作為一種聯(lián)邦學(xué)習(xí)中交換學(xué)習(xí)模型參數(shù)的安全方法,節(jié)點(diǎn)可以將自己的參數(shù)上傳到區(qū)塊鏈,同時(shí)也可以從區(qū)塊鏈中獲取他人更新的參數(shù)結(jié)果.另外,區(qū)塊鏈還可以支持對任意時(shí)期的子模型審計(jì).

    文獻(xiàn)[89]指出:聯(lián)邦學(xué)習(xí)中負(fù)責(zé)模型初始化和聚合參數(shù)的主服務(wù)器存在單點(diǎn)故障問題,如果主服務(wù)器受到攻擊,那么其他參與節(jié)點(diǎn)將無法獲知全局模型,為此該文獻(xiàn)設(shè)計(jì)了一個(gè)基于區(qū)塊鏈網(wǎng)絡(luò)的聯(lián)邦學(xué)習(xí)架構(gòu),提出了全局模型狀態(tài)樹的概念,以便將一個(gè)全局模型安全地存儲(chǔ)為一個(gè)Merkle-Patricia 樹并放入?yún)^(qū)塊鏈.

    類似地,BlockFL[90]同樣認(rèn)為主服務(wù)器會(huì)受到單點(diǎn)故障的影響,因此他們關(guān)注的問題是如何在沒有任何中心協(xié)調(diào)之下聚合全局模型.BlockFL 將全局模型更新后放入每個(gè)設(shè)備本地并在區(qū)塊鏈網(wǎng)絡(luò)上傳其最終的更新結(jié)果,同時(shí)BlockFL 認(rèn)為在缺乏有效激勵(lì)措施的情況下有些設(shè)備可能有欺騙行為,即上傳假的模型更新結(jié)果.因此,它要求區(qū)塊鏈網(wǎng)絡(luò)在共識(shí)過程中驗(yàn)證節(jié)點(diǎn)上傳的結(jié)果并給節(jié)點(diǎn)提供相應(yīng)的獎(jiǎng)勵(lì).

    表2 面向邊緣人工智能計(jì)算的區(qū)塊鏈研究工作Table 2 Researches of blockchain in edge AI computing

    文獻(xiàn)[91]同樣認(rèn)為聯(lián)邦學(xué)習(xí)中節(jié)點(diǎn)可能是惡意的或者缺乏參與系統(tǒng)的動(dòng)機(jī),于是提出了DeepChain 以便在數(shù)據(jù)保密性、計(jì)算可審核性、激勵(lì)各方參與協(xié)同訓(xùn)練三方面提供支持.具體來說,DeepChain 可以啟動(dòng)事務(wù),從而將來自不可信節(jié)點(diǎn)的子模型參數(shù)安全地聚合在一起.密碼學(xué)技術(shù)保障了協(xié)同訓(xùn)練過程中的數(shù)據(jù)保密性和可審核性,并用一種被稱作DeepCoin 的資產(chǎn)獎(jiǎng)勵(lì)參與方對模型訓(xùn)練的貢獻(xiàn)以達(dá)到激勵(lì)效果.

    除此之外,還有一些工作只是針對具體的應(yīng)用場景而不是提出一個(gè)通用的框架.文獻(xiàn)[96]給出了針對醫(yī)療大數(shù)據(jù)的體系結(jié)構(gòu),其核心在于分布式數(shù)據(jù)管理、分布式數(shù)據(jù)共享和分布式計(jì)算分析.對于分布式數(shù)據(jù)管理和數(shù)據(jù)共享,該框架提出將區(qū)塊鏈智能合約技術(shù)和監(jiān)控節(jié)點(diǎn)用于建立安全私密的共享醫(yī)療記錄數(shù)據(jù)集.區(qū)塊鏈技術(shù)將有助于建立這樣一個(gè)大型核心初始數(shù)據(jù)集,并保障所有數(shù)據(jù)的透明度和完整性.監(jiān)控節(jié)點(diǎn)則用于監(jiān)視希望訪問數(shù)據(jù)集的所有相關(guān)智能合約事件以提供及時(shí)的響應(yīng).對于分布式計(jì)算分析,該框架則借鑒了聯(lián)邦學(xué)習(xí)和轉(zhuǎn)移學(xué)習(xí)的核心思想.

    值得一提的是,基于區(qū)塊鏈的聯(lián)邦學(xué)習(xí)的性能與獨(dú)立的聯(lián)邦學(xué)習(xí)的性能幾乎相當(dāng)[106],并沒有因?yàn)橐雲(yún)^(qū)塊鏈而對整體系統(tǒng)的性能造成顯著的影響.

    3.1.2 基于區(qū)塊鏈的多智能體協(xié)作與決策增強(qiáng)

    在邊緣人工智能計(jì)算中,多智能體達(dá)到有效協(xié)作的挑戰(zhàn)之一是設(shè)計(jì)恰當(dāng)?shù)娜蝿?wù)分配機(jī)制[107],這需要考慮不同類型任務(wù)的定義和分配、智能體的異構(gòu)性等.鑒于中心式的任務(wù)分配機(jī)制會(huì)受單點(diǎn)故障的影響,文獻(xiàn)[97]提出了一種動(dòng)態(tài)的基于市場的任務(wù)分配方法,由任務(wù)發(fā)布者向智能體提供任務(wù),且發(fā)布者與智能體在整個(gè)任務(wù)分配與完成的動(dòng)態(tài)過程中彼此共享信息.其中,發(fā)布者與智能體的通信、協(xié)調(diào)以及信息共享是基于聯(lián)盟鏈完成的.簡單地說,智能體可以通過區(qū)塊鏈控制器獲取執(zhí)行任務(wù),并計(jì)算這些任務(wù)的報(bào)價(jià).如果它決定執(zhí)行該任務(wù)便可以通過區(qū)塊鏈投標(biāo)并廣播給所有其他智能體,而其他投標(biāo)的智能體會(huì)檢查是否放棄并競標(biāo)下一個(gè)任務(wù)直至所有智能體都同意當(dāng)前分配方案.

    在一個(gè)典型的邊緣人工智能計(jì)算場景中,多智能體協(xié)作決策的應(yīng)用案例是無人機(jī)自主集群.多架無人機(jī)分別從多個(gè)視點(diǎn)感知信息,同時(shí)需要就群體的目標(biāo)達(dá)成一致的決策,比如前方要走的路如何避開障礙,收集到的信息究竟是什么等等.當(dāng)前,如何在大量智能體之間進(jìn)行分布式?jīng)Q策仍然是一個(gè)開放的問題,存在一些諸如決策速度與決策準(zhǔn)確性之間的兩難權(quán)衡問題[99,108].文獻(xiàn)[99]給出了一個(gè)簡單的如何使用區(qū)塊鏈技術(shù)輔助智能無人機(jī)集群的決策過程的例子.當(dāng)無人機(jī)集群需要商議一致的時(shí)候,一架無人機(jī)可以通過區(qū)塊鏈創(chuàng)建出一個(gè)特殊的事務(wù).這個(gè)事務(wù)包含了決策的不同選項(xiàng)所對應(yīng)的數(shù)字地址,當(dāng)該事務(wù)得到全網(wǎng)的節(jié)點(diǎn)確認(rèn)之后,其他集群成員可以對自己支持的選項(xiàng)進(jìn)行投票,方式是向該選項(xiàng)對應(yīng)的數(shù)字地址轉(zhuǎn)賬代幣.舉例說明,一架無人機(jī)觀察到了一幅圖片,需要判斷圖片內(nèi)容是杯子還是親吻的人臉,于是創(chuàng)建一筆特殊事務(wù).事務(wù)中指明杯子對應(yīng)SK343 開頭的地址,親吻的人臉對應(yīng)S0631 開頭的地址,之后其他無人機(jī)做出判斷并向這兩個(gè)地址開頭的賬戶轉(zhuǎn)入代幣,經(jīng)過一段時(shí)間后無人機(jī)比較兩個(gè)賬戶的代幣數(shù),發(fā)現(xiàn)SK343 開頭的地址收到的代幣較多,則做出圖片是無人機(jī)的決策.由于所有參與者都可以監(jiān)控整個(gè)投票過程,該群體決策是安全且可審核的.

    3.1.3 基于區(qū)塊鏈的邊緣人工智能計(jì)算可信增強(qiáng)

    在邊緣人工智能計(jì)算系統(tǒng)框架中,安全攻擊與安全威脅是該系統(tǒng)實(shí)際部署過程中必須考慮的問題.文獻(xiàn)[92]指出,在協(xié)作進(jìn)行模型更新的過程中,移動(dòng)設(shè)備可能面臨中毒攻擊(poisoning attack)或者信息泄漏攻擊(information leakage attack),于是提出將模型更新信息存儲(chǔ)在區(qū)塊鏈中并在區(qū)塊鏈平臺(tái)進(jìn)行聚合,同時(shí)利用拒絕負(fù)面影響(reject on negative impact, RONI)這一防御機(jī)制來刪除中毒的更新參數(shù).類似地,文獻(xiàn)[93]也使用區(qū)塊鏈存儲(chǔ)和驗(yàn)證設(shè)備的本地子模型,進(jìn)一步通過調(diào)整區(qū)塊生成速率來優(yōu)化端到端學(xué)習(xí)完成的延時(shí).文獻(xiàn)[94]則指出了另外一個(gè)安全威脅,一個(gè)或多個(gè)拜占庭故障的設(shè)備足以讓當(dāng)前的聯(lián)邦學(xué)習(xí)機(jī)制面臨不可預(yù)測或?yàn)?zāi)難性的結(jié)果,因此采用區(qū)塊鏈技術(shù)建立安全的協(xié)同訓(xùn)練機(jī)制并識(shí)別和排除拜占庭成員.

    邊緣人工智能計(jì)算面對的是多個(gè)異構(gòu)設(shè)備節(jié)點(diǎn)之間的相互協(xié)作,網(wǎng)絡(luò)中的單個(gè)節(jié)點(diǎn)很難決策如何選擇來自不同信息源的意見,因此設(shè)計(jì)一種衡量“可靠性”的機(jī)制是必要的.一種常見的衡量節(jié)點(diǎn)可靠性的機(jī)制是構(gòu)建信譽(yù)系統(tǒng),即基于之前的行為構(gòu)建對未來行為的感知和期望.文獻(xiàn)[95]關(guān)注的是在聯(lián)邦學(xué)習(xí)框架中如何挑選可靠訓(xùn)練節(jié)點(diǎn)和激勵(lì)的問題,參與的節(jié)點(diǎn)有可能因?yàn)槿狈?lì)而懈怠工作或者上傳偽造的模型更新參數(shù),因此引入?yún)^(qū)塊鏈實(shí)現(xiàn)分布式的不可篡改的信譽(yù)管理,并依據(jù)信譽(yù)衡量設(shè)備可靠性和可信度以選擇可靠的高質(zhì)量的聯(lián)邦學(xué)習(xí)參與節(jié)點(diǎn).邊緣服務(wù)器將成為主要的區(qū)塊鏈存儲(chǔ)節(jié)點(diǎn)和礦工,對于特定的移動(dòng)設(shè)備,任務(wù)發(fā)布者將其直接信譽(yù)意見與來自其他任務(wù)發(fā)布者的聲譽(yù)意見整合在一起,為設(shè)備產(chǎn)生綜合信譽(yù)價(jià)值,并將信譽(yù)值作為之后挑選可靠的參與節(jié)點(diǎn)的重要指標(biāo).文獻(xiàn)[98]基于Hyperledger Fabric 設(shè)計(jì)了一種多個(gè)智能體的任務(wù)協(xié)作系統(tǒng),智能體在區(qū)塊鏈發(fā)布自己可以提供的服務(wù)和選擇自己請求的服務(wù).由于受到不同利益的驅(qū)動(dòng),智能體可能會(huì)表現(xiàn)出惡意行為,可見對智能體進(jìn)行信譽(yù)管理是必要的,因此該文獻(xiàn)提出使用另外一個(gè)并行的區(qū)塊鏈賬本來存儲(chǔ)與服務(wù)提供者和請求服務(wù)的智能體之間相關(guān)評估的信息,并使用智能合約進(jìn)行信譽(yù)管理.

    另外一些工作關(guān)注的是:在特定應(yīng)用場景部署邊緣人工智能計(jì)算時(shí)如何增強(qiáng)整個(gè)系統(tǒng)的安全性與可信性.

    文獻(xiàn)[100]關(guān)注的是電動(dòng)汽車邊緣計(jì)算網(wǎng)絡(luò),該網(wǎng)絡(luò)中的電動(dòng)汽車配備著多種智能應(yīng)用,同時(shí)電動(dòng)汽車之間、電動(dòng)汽車和基礎(chǔ)設(shè)施之間存在著大量信息和能源的交互.引入?yún)^(qū)塊鏈可以增強(qiáng)安全性和隱私性,一是因?yàn)閰^(qū)塊鏈可以追溯交互數(shù)據(jù)以避免交互數(shù)據(jù)可能被惡意利用或篡改,二是因?yàn)閰^(qū)塊鏈可以在保護(hù)隱私的前提下實(shí)現(xiàn)匿名數(shù)據(jù)傳輸和批量認(rèn)證.

    文獻(xiàn)[101]關(guān)注的是物聯(lián)網(wǎng)中的智能物體(smart things).智能物體即物聯(lián)網(wǎng)中借助人工智能技術(shù)實(shí)時(shí)進(jìn)行自我推斷和自我監(jiān)控的設(shè)備,這些設(shè)備需要協(xié)同工作以進(jìn)行復(fù)雜的決策.為了確保智能物體之間的通信與決策的安全可靠,使通信避免網(wǎng)絡(luò)攻擊的影響,使決策不受惡意節(jié)點(diǎn)的影響,該文獻(xiàn)基于聯(lián)盟鏈的多鏈機(jī)制在多鏈上接收數(shù)據(jù)和存儲(chǔ)數(shù)據(jù),并將數(shù)據(jù)分發(fā)給集群中的所有節(jié)點(diǎn),使節(jié)點(diǎn)能夠?qū)崟r(shí)且安全地傳達(dá)決策的結(jié)果.

    文獻(xiàn)[103]關(guān)注的則是金融數(shù)據(jù).邊緣智能在該網(wǎng)絡(luò)中的功能是進(jìn)行實(shí)時(shí)數(shù)據(jù)監(jiān)測和動(dòng)態(tài)數(shù)據(jù)分析,而區(qū)塊鏈的引入有兩個(gè)作用:一是區(qū)塊鏈能支持加密密鑰分發(fā)和網(wǎng)絡(luò)權(quán)限管理,二是區(qū)塊鏈存儲(chǔ)的借款等歷史信息有助于信用評估,提高了應(yīng)用的安全性.

    文獻(xiàn)[104]則將目光聚焦于能源基礎(chǔ)設(shè)施建設(shè).人工智能使得在電網(wǎng)邊緣的自動(dòng)化監(jiān)控和審計(jì)成為可能,而區(qū)塊鏈可以提供一種無密鑰簽名的基礎(chǔ)設(shè)施,有助于保護(hù)這些關(guān)鍵的能源數(shù)據(jù).分布式數(shù)字賬本和對交易數(shù)據(jù)進(jìn)行密碼學(xué)簽名可以保障能源交易數(shù)據(jù)的完整性,另外采用智能合約的數(shù)據(jù)交換平臺(tái)也可以在電力生產(chǎn)價(jià)值鏈中實(shí)現(xiàn)合約的自動(dòng)交易和結(jié)算.

    針對提升系統(tǒng)中各種實(shí)體之間的信任水平,文獻(xiàn)[109]提出了一個(gè)基于區(qū)塊鏈的智能契約和專門設(shè)計(jì)的智能預(yù)言機(jī)(smart oracles)的信任管理架構(gòu).該架構(gòu)在以太坊上實(shí)現(xiàn),并基于攝像機(jī)信任管理、可信數(shù)據(jù)流和基于QoS 的計(jì)算節(jié)點(diǎn)選擇這3個(gè)場景,展示了在實(shí)體、服務(wù)之間建立信任關(guān)系的優(yōu)勢.從本質(zhì)上來說,區(qū)塊鏈消除了信任第3 方的必要性,為交互提供了透明度和可跟蹤性,而智能預(yù)言器的使用減少了在區(qū)塊鏈上進(jìn)行代價(jià)高昂的交易的必要性.

    3.1.4 基于區(qū)塊鏈的邊緣人工智能信息共享

    關(guān)于在邊緣計(jì)算場景中多個(gè)節(jié)點(diǎn)協(xié)同訓(xùn)練人工智能模型,現(xiàn)有的工作通常只專注于如何依據(jù)大量的數(shù)據(jù)信息更好地訓(xùn)練模型,而沒有將數(shù)據(jù)信息的產(chǎn)生、匯集與之后的交換納入考慮的范圍[102,105].

    文獻(xiàn)[102]提出:物聯(lián)網(wǎng)中自私的異構(gòu)的邊緣智能設(shè)備會(huì)產(chǎn)生孤立的、分布式的知識(shí)片,而物聯(lián)網(wǎng)智能應(yīng)用完成復(fù)雜的任務(wù)卻需要知識(shí)的協(xié)作與交換.一個(gè)有效激勵(lì)邊緣智能設(shè)備共享知識(shí)信息的辦法是實(shí)現(xiàn)知識(shí)的付費(fèi)共享,因此該文提出了一個(gè)基于聯(lián)盟鏈構(gòu)建的市場,可以提供安全而有效的知識(shí)管理和交易.該聯(lián)盟鏈的設(shè)計(jì)包括一個(gè)加密貨幣、智能合約和一個(gè)新的共識(shí)機(jī)制交易證明(proof of transaction, PoT).文獻(xiàn)[105]關(guān)注的則是在智慧城市中實(shí)現(xiàn)基于物聯(lián)網(wǎng)的可持續(xù)共享經(jīng)濟(jì).大量的物聯(lián)網(wǎng)數(shù)據(jù)在邊緣節(jié)點(diǎn)被生成和處理,人工智能會(huì)處理并提取其中重要的事件信息,生成語義數(shù)字分析后將結(jié)果保存在區(qū)塊鏈中.區(qū)塊鏈則提供一系列共享經(jīng)濟(jì)服務(wù),包括將哪些數(shù)據(jù)交給人工智能分析及其分析得出的重要信息的交易,從而使得有價(jià)值的互聯(lián)網(wǎng)信息得到充分的利用.

    3.2 區(qū)塊鏈為邊緣人工智能計(jì)算帶來的好處

    就現(xiàn)有的研究成果而言,本文認(rèn)為區(qū)塊鏈可以有效加速邊緣人工智能計(jì)算的落地.1)以區(qū)塊鏈作為底層支撐的邊緣人工智能計(jì)算架構(gòu)更適合于邊緣計(jì)算情況下的人工智能場景;2)區(qū)塊鏈可以有效提升邊緣人工智能計(jì)算系統(tǒng)中數(shù)據(jù)管理、存儲(chǔ)和傳輸?shù)陌踩裕?)為了促進(jìn)邊緣人工智能計(jì)算的發(fā)展,人工智能的核心——信息與數(shù)據(jù)是不可或缺的,而區(qū)塊鏈可以有效激勵(lì)邊緣智能場景中信息與數(shù)據(jù)的共享與交換.另外,也有研究指出區(qū)塊鏈可以提升對人工智能模型的信任并有利于優(yōu)化人工智能的模型.

    3.2.1 區(qū)塊鏈可增強(qiáng)邊緣人工智能計(jì)算框架的健壯性

    邊緣人工智能計(jì)算不再是基于云上的數(shù)據(jù)中心進(jìn)行人工智能應(yīng)用的處理,而是保持?jǐn)?shù)據(jù)在設(shè)備本地,同時(shí)將人工智能的部分工作轉(zhuǎn)移到設(shè)備上,此時(shí)邊緣人工智能計(jì)算所面對的是大量異構(gòu)的計(jì)算資源和大量存在著掉線或被劫持的可能性的節(jié)點(diǎn)[110].因此,傳統(tǒng)的適用于云的中心化人工智能的框架并不適合直接套用,而以區(qū)塊鏈作為支撐的新型架構(gòu)開始得到探討,比如一種基于區(qū)塊鏈的聯(lián)邦學(xué)習(xí)結(jié)構(gòu).在該結(jié)構(gòu)中,各節(jié)點(diǎn)利用本地?cái)?shù)據(jù)分散訓(xùn)練,依照區(qū)塊鏈的共識(shí)機(jī)制分散地進(jìn)行數(shù)據(jù)交換和子模型更新的驗(yàn)證,而無需任何集中的數(shù)據(jù)訓(xùn)練或協(xié)

    調(diào)[90,111].

    3.2.2 區(qū)塊鏈可增強(qiáng)邊緣人工智能計(jì)算數(shù)據(jù)管理、存儲(chǔ)和傳輸?shù)目煽啃?/p>

    首先,邊緣人工智能計(jì)算場景的網(wǎng)絡(luò)是典型的點(diǎn)對點(diǎn)網(wǎng)絡(luò),諸如多跳連接、缺少中心、缺乏明確防御機(jī)制等問題都使這個(gè)網(wǎng)絡(luò)不夠穩(wěn)定.許多常見網(wǎng)絡(luò)攻擊,包括重放攻擊、拒絕服務(wù)攻擊(denial of service, DoS)、竊聽、蟲洞攻擊、偽裝攻擊等都可能對這個(gè)網(wǎng)絡(luò)造成災(zāi)難性的后果[112-113].其次,對于邊緣人工智能計(jì)算場景來說,信息是非常重要的[114].由于大量由邊緣設(shè)備產(chǎn)生的信息可能是帶有隱私的敏感信息,防止用戶的隱私在邊緣人工智能計(jì)算的操作中泄露是必須考慮的設(shè)計(jì)目標(biāo),同時(shí)一些偽裝或劫持攻擊會(huì)導(dǎo)致虛假信息的傳播,影響邊緣人工智能計(jì)算應(yīng)用的效果[111].為了增強(qiáng)邊緣人工智能計(jì)算場景中數(shù)據(jù)存儲(chǔ)、傳輸和管理的安全性,區(qū)塊鏈可以被當(dāng)成一種潛在的解決方案[115-116],能夠利用多種加密算法在保障隱私的情況下建立多方之間的協(xié)作關(guān)系.在區(qū)塊鏈中添加新塊需要經(jīng)過共識(shí)機(jī)制確認(rèn),任何塊都記錄并存儲(chǔ)一個(gè)與前一個(gè)塊相連接的數(shù)據(jù),并且只有當(dāng)相應(yīng)的消息通過大多數(shù)參與者的驗(yàn)證時(shí),才會(huì)將一個(gè)新塊附加到分類賬上.這樣特殊的機(jī)制設(shè)計(jì)保障了在單點(diǎn)故障下很好的健壯性,并避免了數(shù)據(jù)的惡意篡改.

    3.2.3 區(qū)塊鏈可激勵(lì)邊緣人工智能計(jì)算中信息共享與交易

    在典型的邊緣計(jì)算場景(如物聯(lián)網(wǎng)場景)中,大量異構(gòu)的設(shè)備分散地產(chǎn)生孤立的信息,而復(fù)雜人工智能應(yīng)用任務(wù)的完成需要信息的交換與協(xié)作,因而如何促進(jìn)網(wǎng)絡(luò)中眾多“自私”的節(jié)點(diǎn)分享、交換與協(xié)作是要考慮的問題[102,105].區(qū)塊鏈可以成為促進(jìn)邊緣人工智能計(jì)算場景信息共享與交換的一種有效解決方案.首先,區(qū)塊鏈天然的點(diǎn)對點(diǎn)的網(wǎng)絡(luò)架構(gòu)符合邊緣智能場景下大量分散孤立節(jié)點(diǎn)的要求;其次,區(qū)塊鏈的加密貨幣可以成為一種促進(jìn)各節(jié)點(diǎn)信息共享的有效激勵(lì)手段[111],區(qū)塊鏈的智能合約有助于構(gòu)建信息相互分享交易的市場.更重要的是,依托區(qū)塊鏈技術(shù)建立起的信息共享交換市場是安全可靠的,每一筆交易都可以經(jīng)過共識(shí)機(jī)制的驗(yàn)證,也可以有效防止篡改和雙重支付問題.

    3.2.4 區(qū)塊鏈可以提升人工智能決策的可信任性

    人工智能受到大眾質(zhì)疑的一點(diǎn)是它就像一個(gè)黑匣子[117],其結(jié)果難以從理論上解釋,而區(qū)塊鏈正是以點(diǎn)對點(diǎn)分散場景中安全準(zhǔn)確無篡改的記錄交易而聞名.以區(qū)塊鏈記錄人工智能的中間結(jié)果和決策過程能夠增加其透明度,有利于公眾接受和信任決策,也便于相關(guān)人員的審計(jì)[9,99].同時(shí),在邊緣人工智能計(jì)算這種可能涉及多方智能共同決策的場景中,區(qū)塊鏈也可以幫助它們在不需要第3 方審核的情況下以分布式的方法實(shí)現(xiàn)統(tǒng)一的意見[118].

    另外,雖然還沒有成為學(xué)界廣泛的共識(shí),但已有研究著眼于利用區(qū)塊鏈改進(jìn)并提出更好的人工智能模型.文獻(xiàn)[119]提出了一種基于區(qū)塊鏈思想的邊緣智能算法,試圖利用區(qū)塊鏈和交易的思想在神經(jīng)網(wǎng)絡(luò)中更快速且更智能地尋找合適的模型權(quán)重.在他們的構(gòu)想中,一個(gè)交易是一個(gè)特定的需求,之后全網(wǎng)的“礦工”們都會(huì)訓(xùn)練出合適的模型并提交申請,同時(shí)執(zhí)行此任務(wù)的“礦工”們會(huì)比較結(jié)果并將最好的結(jié)果寫入塊,使該交易成為一個(gè)完成的任務(wù).

    4 未來研究方向

    之前的章節(jié)已經(jīng)綜述了目前面向邊緣人工智能計(jì)算的區(qū)塊鏈研究方向.經(jīng)相關(guān)論文總結(jié),本文認(rèn)為未來將有以下4 個(gè)研究方向.

    4.1 區(qū)塊鏈性能改進(jìn):提升面向資源受限計(jì)算環(huán)境的擴(kuò)展性

    盡管本文已經(jīng)探討了將區(qū)塊鏈技術(shù)引入邊緣人工智能計(jì)算的諸多優(yōu)勢,但是與區(qū)塊鏈本身相關(guān)的許多技術(shù)挑戰(zhàn)還需要進(jìn)一步研究.這些問題本身可能不會(huì)對基于區(qū)塊鏈技術(shù)的邊緣人工智能計(jì)算的解決方案的發(fā)展產(chǎn)生直接影響,但是會(huì)在一定程度上限制這些解決方案的實(shí)際應(yīng)用.與區(qū)塊鏈本身相關(guān)的技術(shù)挑戰(zhàn)大多聚焦于區(qū)塊鏈的性能問題,尤其是事務(wù)吞吐量、交易確認(rèn)時(shí)延、區(qū)塊容量等問題.比特幣區(qū)塊鏈目前每秒處理的事務(wù)大約是7 筆,一筆事務(wù)的確認(rèn)大約需要10 min[27],這樣的性能無法滿足邊緣人工智能計(jì)算中很多協(xié)調(diào)和共同決策場景的需求.以無人機(jī)集群為例,無人機(jī)之間應(yīng)快速地提供可靠信息并達(dá)成共識(shí)以協(xié)調(diào)整個(gè)群體的運(yùn)動(dòng),10 min 的時(shí)間足以使無人機(jī)撞上障礙,因此未來區(qū)塊鏈應(yīng)該探索針對邊緣人工智能計(jì)算的性能改進(jìn).目前,以太坊的區(qū)塊大小是444.06 GB[28],且隨著事務(wù)數(shù)量的增長該賬本大小也會(huì)隨之增長.然而,對于硬件能力十分有限的邊緣設(shè)備來說,它們很難在本地保存完整的區(qū)塊鏈賬本,因此未來應(yīng)該探索對資源有限設(shè)備更加友好的區(qū)塊鏈.

    4.2 區(qū)塊鏈應(yīng)用:構(gòu)建跨域/泛中心網(wǎng)絡(luò)中的分布式信任

    在邊緣智能計(jì)算的場景中,存在著更多設(shè)備與設(shè)備之間的合作.比如:多個(gè)擁有本地?cái)?shù)據(jù)的設(shè)備共同收斂全局人工智能模型;在智慧交通中,多個(gè)車輛共同協(xié)助反饋交通信息;多智能體之間聯(lián)合進(jìn)行決策等.合作的基礎(chǔ)是合作方之間存在信任,即對方提供的信息、做出的決策是真實(shí)可靠的.現(xiàn)有的信任構(gòu)建方式主要包括兩種:一種是基于身份管理和訪問控制的方式,一般是在一個(gè)域內(nèi)設(shè)立一個(gè)中心管理機(jī)構(gòu)來管理身份或以分布式的形式驗(yàn)證身份,如果身份被驗(yàn)證為可靠,則其受允許的行為便值得信任,但是如何進(jìn)行身份的相互驗(yàn)證是一個(gè)難點(diǎn).另一種是基于信譽(yù)反饋的方式,即相關(guān)方給出有關(guān)信任的評價(jià),綜合得出關(guān)于某節(jié)點(diǎn)值得信任的程度,但是相關(guān)評價(jià)是否可靠又成為了一個(gè)問題.區(qū)塊鏈以其不可篡改性保證記錄數(shù)據(jù)的真實(shí)性,以其可追溯性和共識(shí)機(jī)制有助于確認(rèn)記錄數(shù)據(jù)的可靠性,因而可以在跨域/開放網(wǎng)絡(luò)中更好地構(gòu)建信任,但這一方面研究的難點(diǎn)在于:如何通過模擬實(shí)驗(yàn)來驗(yàn)證所提方案的有效性,如何設(shè)定信任的衡量方式,以及如何模擬部分節(jié)點(diǎn)不同程度的“不可信”情況.

    4.3 區(qū)塊鏈應(yīng)用:群智計(jì)算與數(shù)據(jù)隱私的權(quán)衡

    在系統(tǒng)設(shè)計(jì)中,保護(hù)安全與隱私的目標(biāo)并不是一個(gè)新話題,而區(qū)塊鏈具有匿名性、分散性、安全性等關(guān)鍵特性,因而被認(rèn)為能夠方便、高效、可靠、安全地應(yīng)對系統(tǒng)中的安全和隱私問題.使用區(qū)塊鏈提升系統(tǒng)的隱私和安全性往往伴隨著相關(guān)的密碼學(xué)算法的使用與設(shè)計(jì),比如一種常見的用于保護(hù)隱私的密碼學(xué)手段是零知識(shí)證明.但是,這些密碼學(xué)中的算法還需要進(jìn)一步設(shè)計(jì)與研究,比如交互式的零知識(shí)通信協(xié)議過于復(fù)雜,以致容易受到惡意軟件的攻擊;若采用非交互式簡潔零知識(shí)證明技術(shù)(zero knowledge succinct non-interactive argument of knowledge, zk-SNARK),如Zcash[120],其證明過程需要大量的內(nèi)存,這意味著在受限設(shè)備上很難使用.

    5 結(jié) 語

    本文調(diào)研并回顧了目前較新的有關(guān)邊緣人工智能計(jì)算的區(qū)塊鏈研究.首先概述了區(qū)塊鏈的概念和區(qū)塊鏈的研究方向,同時(shí)介紹了邊緣人工智能計(jì)算的發(fā)展趨勢,總結(jié)了邊緣人工智能計(jì)算的概念、框架與發(fā)展需求;然后從基于區(qū)塊鏈的邊緣人工智能計(jì)算框架、基于區(qū)塊鏈的多智能體協(xié)作與決策增強(qiáng)、基于區(qū)塊鏈的邊緣人工智能計(jì)算安全性和可信性增強(qiáng),以及基于區(qū)塊鏈的邊緣人工智能計(jì)算信息共享等方面對面向邊緣人工智能計(jì)算的區(qū)塊鏈研究進(jìn)行了詳細(xì)的介紹,總結(jié)并討論了為邊緣人工智能計(jì)算引入?yún)^(qū)塊鏈的各種優(yōu)勢.文獻(xiàn)綜述表明:在邊緣人工智能計(jì)算中引入?yún)^(qū)塊鏈的研究還處于起步階段,未來仍需針對邊緣人工智能計(jì)算場景的需求和目標(biāo)對區(qū)塊鏈自身加以改進(jìn),還應(yīng)更多地探索結(jié)合邊緣人工智能計(jì)算與區(qū)塊鏈的優(yōu)勢.

    猜你喜歡
    人工智能智能設(shè)備
    諧響應(yīng)分析在設(shè)備減振中的應(yīng)用
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    智能前沿
    文苑(2018年23期)2018-12-14 01:06:06
    智能前沿
    文苑(2018年19期)2018-11-09 01:30:14
    智能前沿
    文苑(2018年17期)2018-11-09 01:29:26
    智能前沿
    文苑(2018年21期)2018-11-09 01:22:32
    人工智能與就業(yè)
    基于MPU6050簡單控制設(shè)備
    電子制作(2018年11期)2018-08-04 03:26:08
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    日韩精品青青久久久久久| 欧美日韩综合久久久久久 | 在线天堂最新版资源| 精品久久久久久,| 久久久久久久久久黄片| 99久久无色码亚洲精品果冻| 老司机午夜十八禁免费视频| 午夜精品一区二区三区免费看| 免费av不卡在线播放| 最好的美女福利视频网| 精品午夜福利在线看| 成人午夜高清在线视频| 亚洲精品乱码久久久v下载方式| 国产成+人综合+亚洲专区| 欧美+亚洲+日韩+国产| 国产精品一区二区三区四区久久| 一边摸一边抽搐一进一小说| 欧美成人免费av一区二区三区| 久久久久免费精品人妻一区二区| av在线观看视频网站免费| 欧美性猛交黑人性爽| 精品一区二区三区视频在线| 免费在线观看日本一区| 成人av一区二区三区在线看| 九九热线精品视视频播放| 简卡轻食公司| 色综合婷婷激情| 久久热精品热| 中文字幕熟女人妻在线| 日本撒尿小便嘘嘘汇集6| 脱女人内裤的视频| 老熟妇仑乱视频hdxx| 男女床上黄色一级片免费看| 欧美xxxx黑人xx丫x性爽| 午夜精品久久久久久毛片777| 精品无人区乱码1区二区| 特大巨黑吊av在线直播| 级片在线观看| 国产色婷婷99| 欧美日韩国产亚洲二区| 变态另类成人亚洲欧美熟女| 成人毛片a级毛片在线播放| 欧美日本亚洲视频在线播放| 黄色女人牲交| 长腿黑丝高跟| 久久久精品欧美日韩精品| 欧美在线一区亚洲| 高清毛片免费观看视频网站| 热99re8久久精品国产| 男人狂女人下面高潮的视频| 亚洲人成网站高清观看| 久久精品国产亚洲av涩爱 | 两个人的视频大全免费| 欧美又色又爽又黄视频| 亚洲自拍偷在线| 无遮挡黄片免费观看| 国产精品av视频在线免费观看| 成年女人永久免费观看视频| 超碰av人人做人人爽久久| 午夜福利视频1000在线观看| 首页视频小说图片口味搜索| 亚洲欧美日韩高清在线视频| 亚洲最大成人中文| 国产精品一区二区三区四区免费观看 | 亚洲欧美日韩东京热| 国产黄片美女视频| 三级国产精品欧美在线观看| 国产野战对白在线观看| 九九久久精品国产亚洲av麻豆| 国产欧美日韩精品亚洲av| 听说在线观看完整版免费高清| 亚洲黑人精品在线| 精品欧美国产一区二区三| 亚洲一区高清亚洲精品| 国产探花在线观看一区二区| 成人国产一区最新在线观看| 日本免费a在线| 亚洲av不卡在线观看| 国内精品一区二区在线观看| 搡老岳熟女国产| 日本a在线网址| 国产v大片淫在线免费观看| 欧美激情久久久久久爽电影| 美女黄网站色视频| 中文字幕精品亚洲无线码一区| 色综合婷婷激情| 日本与韩国留学比较| 制服丝袜大香蕉在线| 国产精品久久久久久久久免 | 国产一区二区在线av高清观看| 亚洲成人久久爱视频| 午夜免费男女啪啪视频观看 | 亚洲五月天丁香| 蜜桃久久精品国产亚洲av| 黄色日韩在线| 麻豆国产97在线/欧美| 精品无人区乱码1区二区| 国产伦一二天堂av在线观看| 精品一区二区免费观看| 国产成人aa在线观看| 在线播放无遮挡| 亚洲精品日韩av片在线观看| 高清毛片免费观看视频网站| 成人精品一区二区免费| www日本黄色视频网| 色播亚洲综合网| 亚洲第一电影网av| 不卡一级毛片| 听说在线观看完整版免费高清| 国产精品伦人一区二区| 一个人看的www免费观看视频| 欧美午夜高清在线| 少妇人妻精品综合一区二区 | 国产欧美日韩精品亚洲av| 日韩 亚洲 欧美在线| 亚洲国产日韩欧美精品在线观看| 91午夜精品亚洲一区二区三区 | 亚洲五月婷婷丁香| 成人亚洲精品av一区二区| 欧美潮喷喷水| 欧美区成人在线视频| 午夜福利18| 国产国拍精品亚洲av在线观看| 亚洲性夜色夜夜综合| 欧美一区二区亚洲| 国产精品爽爽va在线观看网站| 国产国拍精品亚洲av在线观看| www.999成人在线观看| 90打野战视频偷拍视频| 美女xxoo啪啪120秒动态图 | 亚洲av成人精品一区久久| 小蜜桃在线观看免费完整版高清| 日韩精品中文字幕看吧| 9191精品国产免费久久| 亚洲av成人精品一区久久| 真实男女啪啪啪动态图| 又爽又黄a免费视频| 久久伊人香网站| 黄色丝袜av网址大全| 男女那种视频在线观看| 欧美一级a爱片免费观看看| 亚洲在线观看片| 一本综合久久免费| 亚洲国产高清在线一区二区三| 亚洲欧美日韩无卡精品| 免费av毛片视频| 波多野结衣高清作品| а√天堂www在线а√下载| 免费在线观看亚洲国产| av在线老鸭窝| 国产成+人综合+亚洲专区| 999久久久精品免费观看国产| 18禁黄网站禁片免费观看直播| 久久久久久国产a免费观看| 搡老妇女老女人老熟妇| 亚洲人与动物交配视频| 国产 一区 欧美 日韩| 欧美激情久久久久久爽电影| 欧美又色又爽又黄视频| 88av欧美| 男女视频在线观看网站免费| 国产成人欧美在线观看| 国产亚洲精品综合一区在线观看| 香蕉av资源在线| 亚洲成人久久爱视频| 亚洲va日本ⅴa欧美va伊人久久| 国产欧美日韩一区二区三| 亚洲人成电影免费在线| 99热精品在线国产| 999久久久精品免费观看国产| 色综合亚洲欧美另类图片| 免费大片18禁| 欧美xxxx性猛交bbbb| 又黄又爽又刺激的免费视频.| 757午夜福利合集在线观看| 国产av在哪里看| 精品久久久久久久久av| 美女cb高潮喷水在线观看| 亚洲国产精品久久男人天堂| 欧美激情国产日韩精品一区| 日本黄大片高清| 久久精品国产亚洲av香蕉五月| 18禁在线播放成人免费| 麻豆av噜噜一区二区三区| netflix在线观看网站| 此物有八面人人有两片| 欧美性感艳星| 午夜精品一区二区三区免费看| 亚洲自拍偷在线| 一本久久中文字幕| 国产毛片a区久久久久| 五月玫瑰六月丁香| 亚洲不卡免费看| 亚洲成人久久性| 天美传媒精品一区二区| a级一级毛片免费在线观看| 五月伊人婷婷丁香| 别揉我奶头~嗯~啊~动态视频| 国产免费男女视频| 亚洲av日韩精品久久久久久密| 欧美成人免费av一区二区三区| 人妻夜夜爽99麻豆av| 午夜亚洲福利在线播放| 麻豆一二三区av精品| 一区福利在线观看| 国产69精品久久久久777片| 欧美日韩综合久久久久久 | 亚洲性夜色夜夜综合| 亚洲第一电影网av| 搡老岳熟女国产| 国产精品嫩草影院av在线观看 | 国产视频一区二区在线看| 亚洲狠狠婷婷综合久久图片| 亚洲三级黄色毛片| 欧美午夜高清在线| 欧美成人免费av一区二区三区| 日韩欧美 国产精品| 亚洲国产精品成人综合色| 脱女人内裤的视频| 免费电影在线观看免费观看| 亚洲男人的天堂狠狠| ponron亚洲| 嫩草影院入口| netflix在线观看网站| 宅男免费午夜| 国产精品亚洲av一区麻豆| 亚洲中文字幕日韩| 一级毛片久久久久久久久女| 波多野结衣巨乳人妻| 午夜福利欧美成人| 亚洲一区高清亚洲精品| 国内精品美女久久久久久| 99国产精品一区二区蜜桃av| 午夜日韩欧美国产| АⅤ资源中文在线天堂| av黄色大香蕉| 男女下面进入的视频免费午夜| 一进一出抽搐动态| 国产视频一区二区在线看| 亚洲av一区综合| 欧美一级a爱片免费观看看| 国产不卡一卡二| 可以在线观看的亚洲视频| 亚洲av二区三区四区| 国产精品自产拍在线观看55亚洲| 脱女人内裤的视频| 97超视频在线观看视频| 国产av一区在线观看免费| 欧美日本亚洲视频在线播放| 国产成人av教育| 欧美区成人在线视频| 观看美女的网站| 免费人成在线观看视频色| 久久99热这里只有精品18| 日本黄色片子视频| 又粗又爽又猛毛片免费看| 久久久久国内视频| 国产精品99久久久久久久久| 琪琪午夜伦伦电影理论片6080| 婷婷丁香在线五月| 国产真实伦视频高清在线观看 | 美女被艹到高潮喷水动态| 久久99热这里只有精品18| 又爽又黄无遮挡网站| 久久久久久九九精品二区国产| 天天躁日日操中文字幕| 日本熟妇午夜| 一个人免费在线观看电影| 日日夜夜操网爽| 丰满的人妻完整版| 校园春色视频在线观看| 深夜a级毛片| 国产成人aa在线观看| 国产精品久久久久久久电影| 国模一区二区三区四区视频| 激情在线观看视频在线高清| 国产高清有码在线观看视频| 色5月婷婷丁香| 免费高清视频大片| 国产在视频线在精品| 丁香欧美五月| 国产人妻一区二区三区在| 网址你懂的国产日韩在线| 久久久精品欧美日韩精品| 怎么达到女性高潮| 亚洲av.av天堂| 91麻豆av在线| 久久国产乱子免费精品| 欧美黄色淫秽网站| 欧美日本亚洲视频在线播放| 国产日本99.免费观看| 不卡一级毛片| 一本一本综合久久| 午夜两性在线视频| 亚洲国产精品成人综合色| 国产精品亚洲美女久久久| 国产精品三级大全| 国产成人a区在线观看| 久久精品国产亚洲av香蕉五月| 一级av片app| 亚洲精品在线观看二区| 少妇人妻精品综合一区二区 | 一区二区三区免费毛片| 波野结衣二区三区在线| 久久亚洲真实| 欧美不卡视频在线免费观看| 69av精品久久久久久| 亚洲,欧美,日韩| 色综合站精品国产| 亚洲中文日韩欧美视频| 国产精品免费一区二区三区在线| 国产在视频线在精品| 最新中文字幕久久久久| 中文字幕免费在线视频6| 狂野欧美白嫩少妇大欣赏| 婷婷精品国产亚洲av| 天美传媒精品一区二区| 伊人久久精品亚洲午夜| 观看美女的网站| netflix在线观看网站| 麻豆国产97在线/欧美| 欧美一级a爱片免费观看看| 高清日韩中文字幕在线| 国产大屁股一区二区在线视频| 热99在线观看视频| 国产久久久一区二区三区| 深夜a级毛片| 桃色一区二区三区在线观看| 最好的美女福利视频网| 国产精品亚洲av一区麻豆| 午夜免费成人在线视频| 亚洲人成伊人成综合网2020| av在线观看视频网站免费| 美女 人体艺术 gogo| 国内少妇人妻偷人精品xxx网站| 日本一二三区视频观看| 精品一区二区三区视频在线观看免费| 在现免费观看毛片| 国内精品美女久久久久久| 国产精华一区二区三区| 国内精品美女久久久久久| 毛片女人毛片| 国产一区二区三区视频了| 免费观看的影片在线观看| 麻豆成人av在线观看| 色播亚洲综合网| 成人国产综合亚洲| 男女视频在线观看网站免费| 精品不卡国产一区二区三区| 桃红色精品国产亚洲av| 日本黄大片高清| 欧美乱妇无乱码| 国产一区二区三区视频了| 青草久久国产| 身体一侧抽搐| 国产精品美女特级片免费视频播放器| 国产精品久久久久久亚洲av鲁大| 99热这里只有是精品在线观看 | 中文字幕免费在线视频6| 少妇被粗大猛烈的视频| 亚洲国产精品久久男人天堂| 亚洲激情在线av| 精品久久久久久久久久久久久| 国产伦精品一区二区三区视频9| 欧美高清性xxxxhd video| 国产不卡一卡二| 中文字幕免费在线视频6| 最新中文字幕久久久久| 99久久成人亚洲精品观看| 他把我摸到了高潮在线观看| 又黄又爽又刺激的免费视频.| 日韩欧美三级三区| 成人一区二区视频在线观看| 国产精品日韩av在线免费观看| 丁香六月欧美| 国产精品自产拍在线观看55亚洲| 老司机深夜福利视频在线观看| 精品免费久久久久久久清纯| 国产精品一区二区三区四区免费观看 | 午夜福利18| 又爽又黄无遮挡网站| 久久国产乱子免费精品| 蜜桃久久精品国产亚洲av| 热99在线观看视频| 真实男女啪啪啪动态图| 床上黄色一级片| 99热精品在线国产| 久久久久久国产a免费观看| 赤兔流量卡办理| a级毛片免费高清观看在线播放| 日韩欧美在线乱码| 搡老妇女老女人老熟妇| 亚洲av二区三区四区| 97热精品久久久久久| 熟女电影av网| 精品欧美国产一区二区三| 成人av一区二区三区在线看| 亚洲欧美激情综合另类| 亚洲国产精品sss在线观看| 精品午夜福利视频在线观看一区| 亚洲片人在线观看| 真实男女啪啪啪动态图| 国产三级黄色录像| 国产精品亚洲美女久久久| 69人妻影院| 久久久久国产精品人妻aⅴ院| 日韩av在线大香蕉| 欧美日韩综合久久久久久 | 在线免费观看不下载黄p国产 | 我要看日韩黄色一级片| 亚洲欧美日韩东京热| 亚洲七黄色美女视频| 成年版毛片免费区| 一本久久中文字幕| 成年女人看的毛片在线观看| 久9热在线精品视频| 精品人妻偷拍中文字幕| 欧美日韩福利视频一区二区| 国产三级中文精品| 91麻豆av在线| 国产私拍福利视频在线观看| 窝窝影院91人妻| 国产一区二区三区在线臀色熟女| 人妻制服诱惑在线中文字幕| 久久天躁狠狠躁夜夜2o2o| 在线天堂最新版资源| 精品一区二区三区视频在线| 国产男靠女视频免费网站| 色视频www国产| 午夜福利欧美成人| 十八禁国产超污无遮挡网站| 免费高清视频大片| 日韩欧美在线乱码| 国产黄色小视频在线观看| 91狼人影院| 国产黄色小视频在线观看| 91狼人影院| 免费搜索国产男女视频| 亚洲中文字幕日韩| 热99re8久久精品国产| 精品久久久久久,| 国产成人啪精品午夜网站| 黄片小视频在线播放| 国产av麻豆久久久久久久| 最近视频中文字幕2019在线8| 成人永久免费在线观看视频| 午夜福利在线观看吧| 成年女人看的毛片在线观看| 精品无人区乱码1区二区| 美女大奶头视频| 国内久久婷婷六月综合欲色啪| 精品乱码久久久久久99久播| 亚洲中文日韩欧美视频| 久久久久久久精品吃奶| 精品人妻偷拍中文字幕| 国产精品久久久久久人妻精品电影| 国产视频一区二区在线看| 最近在线观看免费完整版| 国内精品美女久久久久久| 热99re8久久精品国产| 久久国产乱子伦精品免费另类| 亚洲avbb在线观看| www.999成人在线观看| 午夜日韩欧美国产| 99久久无色码亚洲精品果冻| 亚洲第一区二区三区不卡| 热99re8久久精品国产| 亚洲成人中文字幕在线播放| 国产色爽女视频免费观看| a级毛片免费高清观看在线播放| 两性午夜刺激爽爽歪歪视频在线观看| 欧美xxxx黑人xx丫x性爽| 亚洲成人久久性| 美女高潮的动态| 久久久成人免费电影| 免费人成在线观看视频色| 国产精品女同一区二区软件 | 亚洲片人在线观看| 国产探花在线观看一区二区| 一个人免费在线观看电影| 女同久久另类99精品国产91| 亚洲人成电影免费在线| 亚洲精品成人久久久久久| 久久人妻av系列| a级毛片a级免费在线| 国产精品国产高清国产av| 成年人黄色毛片网站| av在线观看视频网站免费| 亚洲不卡免费看| 床上黄色一级片| 免费看光身美女| 桃红色精品国产亚洲av| 亚洲精品一区av在线观看| 亚洲美女搞黄在线观看 | 亚洲激情在线av| 麻豆一二三区av精品| 亚洲欧美日韩卡通动漫| 国产一级毛片七仙女欲春2| 久久99热6这里只有精品| 精品一区二区免费观看| 久久久久久久久中文| 色播亚洲综合网| 免费在线观看影片大全网站| 国产精品伦人一区二区| 久久久久久久久久黄片| 一本综合久久免费| 日本一二三区视频观看| 亚洲美女黄片视频| 午夜久久久久精精品| 午夜福利免费观看在线| 免费av不卡在线播放| 日韩 亚洲 欧美在线| 在线观看一区二区三区| 可以在线观看毛片的网站| 一个人免费在线观看电影| 亚洲中文字幕日韩| 日本黄色片子视频| 久久99热这里只有精品18| 精品久久久久久久久久久久久| 亚洲激情在线av| 波多野结衣巨乳人妻| 色播亚洲综合网| av天堂中文字幕网| 青草久久国产| 亚洲精品亚洲一区二区| 内地一区二区视频在线| 成人特级av手机在线观看| 精品福利观看| 精品人妻熟女av久视频| 男人舔女人下体高潮全视频| a级一级毛片免费在线观看| 国产精品久久久久久人妻精品电影| 91久久精品电影网| 亚洲久久久久久中文字幕| 国产一区二区激情短视频| 成年版毛片免费区| 51国产日韩欧美| 搡女人真爽免费视频火全软件 | 久久九九热精品免费| 日韩欧美精品v在线| 精品久久久久久久久久免费视频| 国产精品女同一区二区软件 | 十八禁网站免费在线| 少妇熟女aⅴ在线视频| 男人和女人高潮做爰伦理| 亚洲成人中文字幕在线播放| 欧美潮喷喷水| 亚洲精品影视一区二区三区av| 久久精品人妻少妇| 直男gayav资源| 中文字幕熟女人妻在线| 亚洲中文字幕日韩| 老司机午夜福利在线观看视频| 国产高清视频在线观看网站| 亚洲最大成人中文| 久99久视频精品免费| 婷婷六月久久综合丁香| 91在线观看av| 一本久久中文字幕| 深夜a级毛片| 脱女人内裤的视频| 性插视频无遮挡在线免费观看| 此物有八面人人有两片| 国产又黄又爽又无遮挡在线| 一夜夜www| 99久久久亚洲精品蜜臀av| 成人亚洲精品av一区二区| 国产精品日韩av在线免费观看| av福利片在线观看| 成年免费大片在线观看| 男女床上黄色一级片免费看| 久久久久国产精品人妻aⅴ院| 日韩 亚洲 欧美在线| 欧美午夜高清在线| 搞女人的毛片| 午夜精品久久久久久毛片777| 国产高清激情床上av| 91在线观看av| 一本一本综合久久| 亚洲片人在线观看| 中文资源天堂在线| 久久午夜亚洲精品久久| 少妇被粗大猛烈的视频| 在线国产一区二区在线| 男插女下体视频免费在线播放| 日韩欧美精品v在线| 免费人成在线观看视频色| 久久天躁狠狠躁夜夜2o2o| 久久人人精品亚洲av| 啦啦啦韩国在线观看视频| 久久天躁狠狠躁夜夜2o2o| 亚洲自拍偷在线| 可以在线观看毛片的网站| 欧美成人一区二区免费高清观看| 日韩欧美精品v在线| 国产欧美日韩精品一区二区| 成人无遮挡网站| 国产午夜精品久久久久久一区二区三区 | 国产精品爽爽va在线观看网站| 亚洲 欧美 日韩 在线 免费| 精品日产1卡2卡| 国产一区二区三区在线臀色熟女| 精品一区二区三区视频在线观看免费| 欧美另类亚洲清纯唯美| 乱人视频在线观看| 悠悠久久av| av黄色大香蕉| 欧美成人性av电影在线观看| 日韩欧美国产一区二区入口| 成人美女网站在线观看视频| 岛国在线免费视频观看| 久久欧美精品欧美久久欧美| 99热这里只有是精品50| 天天躁日日操中文字幕| 国产真实伦视频高清在线观看 |