• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    面向6G的智能物聯(lián)網關鍵技術

    2021-11-28 10:49:03WaiCHEN鮑媛媛
    中興通訊技術 2021年2期
    關鍵詞:智能設備模型

    Wai CHEN 鮑媛媛

    摘要:6G技術將提供更高的速率、更多的連接,以及更廣的網絡覆蓋,以滿足在高度動態(tài)環(huán)境中的各類應用需求。人工智能(AI)是推動6G不斷演進的核心技術,而6G也將會使能一系列需要超低時延、超高可靠的智能物聯(lián)網應用,如未來智能交通系統(tǒng)、智慧城市等。圍繞智能物聯(lián)網實際應用需求,梳理了智能物聯(lián)網面臨的技術挑戰(zhàn),提出智能物聯(lián)網涉及的重要技術領域,包括新型機器學習范式、物聯(lián)網知識圖譜技術、異構協(xié)同計算架構等,并對智能物聯(lián)網的未來發(fā)展進行了展望。

    關鍵詞:6G移動通信;智能物聯(lián)網;邊緣智能;機器學習;知識圖譜;邊緣計算

    Abstract: 6G is expected to bring networking technologies with higher throughput, massive connections, and pervasive coverage in highly-dynamic environments to fulfill diverse application requirements. It is believed that artificial intelligence (AI) will be a central driver in the evolution towards 6G, and 6G will enable a new generation of Internet-of-Intelligent-Things(IoIT) applications that require ultra-low delay and ultra-high reliability, such as future intelligent transport systems (ITS) and smart cities. The technical challenges faced by the IoIT are discussed, and the important technical fields involved in the IoIT are put forward, including the new machine learning paradigm, the knowledge map technology of the Internet of things, and the heterogeneous collaborative computing architecture. The future development of IoIT is also predicted.

    Keywords: 6G mobile communication; Internet-of-Intelligent-Things; edge intelligence; machine learning; knowledge map; edge computing

    和4G相比,5G通信系統(tǒng)的基于大規(guī)模多輸入多輸出(MIMO)、網絡切片等關鍵技術指標有了質的飛躍:理論峰值傳輸速度可以達到10~20 Gbit/s,空口時延低至1 ms。然而,這些性能指標仍無法完全滿足未來智慧城市的通信需求,如遠程醫(yī)療、增強現(xiàn)實等應用均要求空口時延小于0.1 ms。為了滿足未來智慧社會的智能管理、高等級無人駕駛等需求,世界各國競相開展6G研究。6G將會提供更高的速率、更多的連接、更廣闊的網絡覆蓋。

    在6G移動通信的眾多場景中,物聯(lián)網是最為核心的應用。根據(jù)全球移動通信系統(tǒng)聯(lián)盟(GSMA)預測,2025年全球網聯(lián)設備總量將達到250億臺,其中和智能制造、智慧辦公樓宇、精細規(guī)模農業(yè)等領域相關的設備量將達到138億臺,首次超過消費級物聯(lián)網的設備量。物聯(lián)網設備量將會保持持續(xù)增長趨勢。海量的物聯(lián)網設備量和巨大的系統(tǒng)規(guī)模都決定了未來智能物聯(lián)網應用的終極形態(tài)是完全自主化的。傳統(tǒng)物聯(lián)網應用形式大多都是狀態(tài)監(jiān)測、遠程控制類的具有單一功能的產品,應用范圍受限,智能程度低;而未來智能物聯(lián)網的應用形式應該會是多功能集成的物聯(lián)網平臺式產品,智能程度高,并可對物聯(lián)網系統(tǒng)進行實時監(jiān)測,能夠在開放的環(huán)境中持續(xù)學習、進化,不斷滿足用戶個性化的需求,提升服務質量,具體如圖1所示。也就是說,在連接的基礎上,未來物聯(lián)網將更強調網聯(lián)設備的智能,將會實現(xiàn)從傳統(tǒng)物聯(lián)網向智能物聯(lián)網的演進,極大地拓寬物聯(lián)網的應用范圍。

    智能物聯(lián)網具有智能化、自主化和共享化的特征。物聯(lián)網的智能化體現(xiàn)在:(1)節(jié)點有更強的感知能力;(2)能夠實時處理多種類型的數(shù)據(jù);(3)具有更快的處理速度和更高層次的理解能力;(4)通過節(jié)點交互創(chuàng)造出更多的應用場景。物聯(lián)網的自主化體現(xiàn)在:在無人值守的應用環(huán)境中,具備極強的環(huán)境適應能力和自我管理能力,可以依據(jù)現(xiàn)有環(huán)境進行自組織和自重構,主動處理環(huán)境中節(jié)點的故障、移動及迭代升級等動態(tài)變化,并學習服務對象的個性化特征。物聯(lián)網的共享化體現(xiàn)在:不僅能夠實現(xiàn)節(jié)點間綜合資源的共享,包括數(shù)據(jù)、知識、算力、通信、電力資源等,使物聯(lián)網能及時處理更大規(guī)模的數(shù)據(jù)和更加復雜的任務,還可以通過資源共享來增強物聯(lián)網的容錯性,使任務處理變得更加可靠。

    目前,云側智能是物聯(lián)網智能化的主要實現(xiàn)方式,但仍存在3個問題:(1)傳輸時延較長。云側智能將數(shù)據(jù)傳輸、匯總至集中式云計算中心以進行集群計算,這會造成較高的網絡延遲,因此難以滿足對實時性要求較高(10 ms以內)的計算任務和應用需求。(2)帶寬占用較多。大規(guī)模原始數(shù)據(jù)上傳至云計算中心需要占用大量帶寬資源,這給有限的傳輸帶寬帶來巨大壓力。(3)存在數(shù)據(jù)隱私風險和安全問題。在數(shù)據(jù)傳輸?shù)倪^程中,用戶隱私數(shù)據(jù)有可能會被泄露,同時云端服務器上隱私數(shù)據(jù)也存在安全隱患。云側智能方式并不適用于機會性、分布式、異構的未來物聯(lián)網環(huán)境,因此邊緣智能應運而生。

    邊緣智能是指將智能下沉至數(shù)據(jù)近端設備,在定制化硬件上而不是云計算中心部署人工智能算法。邊緣智能具有如下優(yōu)勢:(1)從根本上解決數(shù)據(jù)隱私問題。用戶隱私數(shù)據(jù)無須上傳至公用云服務器,上傳至邊緣智能節(jié)點即可,這從根本上保護了數(shù)據(jù)隱私和數(shù)據(jù)安全。(2)縮短響應時間,提升處理效率。專用的邊緣智能節(jié)點離數(shù)據(jù)產生端更近,極大地縮短數(shù)據(jù)的傳輸時延,同時個性化的算法能夠提升數(shù)據(jù)處理效率。因此,相對于云側智能,未來智能物聯(lián)網的實現(xiàn)方式將更多的智能下沉至邊緣側,依賴于邊緣智能技術來更好地推動智能物聯(lián)網的實現(xiàn)。

    1 智能物聯(lián)網的技術挑戰(zhàn)

    傳統(tǒng)機器學習范式不足以支撐智能物聯(lián)網應用的實現(xiàn)。目前的物聯(lián)網應用大多基于局限性較大的傳統(tǒng)機器學習范式,這存在如下問題:(1)在模型構建方面,通常需要大量的標注數(shù)據(jù)進行支撐,如果訓練數(shù)據(jù)數(shù)量不足模型就無法得到充分訓練,從而出現(xiàn)過擬合、泛化能力差的問題,嚴重影響準確率;(2)模型可解釋性差,未來設備代替人類做決策,難以解釋的推理過程容易產生不可預估的結果,且難以獲得用戶的信任;(3)在模型推理方面,深度學習需要進行大量的浮點運算,電能消耗量大,嚴重縮短受限設備的待機時間;(4)模型環(huán)境適應性差,封閉靜態(tài)環(huán)境下獲取的感知能力無法應對多樣復雜的實際環(huán)境,尤其在訓練假設未覆蓋的數(shù)據(jù)空間,原模型容易造成漏判和錯判,無法滿足應用要求。

    傳統(tǒng)知識圖譜技術不能滿足智能物聯(lián)網的要求。知識的完備性、先進性和準確性直接決定智能化水平,而智能物聯(lián)網目標是實現(xiàn)自主決策。知識圖譜在提高物聯(lián)網智能化方面發(fā)揮了重要作用,但傳統(tǒng)知識圖譜技術存在如下問題:(1)物聯(lián)網場景的個性化特征顯著,知識更新速度快,因此,目前基于知識和經驗的手工構建圖譜的方式無法滿足智能物聯(lián)網自主決策的需求;(2)現(xiàn)階段物聯(lián)網中的知識圖譜普遍為靜態(tài)知識圖譜,而物聯(lián)網場景是隨時間變化的,這就要求知識圖譜必須持續(xù)更新才能避免知識失效;(3)與互聯(lián)網中知識圖譜主要用于輔助檢索不同,物聯(lián)網知識圖譜最大的價值在于指導設備的智能交互,這對知識的準確性要求更高,需要建立一套可信性評價機制來過濾圖譜中的錯誤知識。

    傳統(tǒng)計算架構不能滿足智能物聯(lián)網的需求。以云計算為代表的傳統(tǒng)計算架構盡管可以滿足計算密集型的深度學習任務對算力和存儲資源的需求,但并不適用于對時延、可靠性、隱私等較為敏感的物聯(lián)網場景:(1)在計算模式方面,傳統(tǒng)計算架構和云計算需要用戶將大量數(shù)據(jù)傳輸至數(shù)據(jù)中心。這種集中式計算模式依賴于網絡連接,產生的時延較高,且存在安全隱患。而無人車、實時語音翻譯等對響應時間有極高要求的應用,更傾向于將計算能力部署在離數(shù)據(jù)源更近的位置。這樣可以產生更快的網絡響應,滿足行業(yè)在實時業(yè)務、應用智能、安全隱私等方面的需求。(2)在計算資源虛擬化方面,多設備的接入帶來了大量的計算資源和存儲資源,但接入物聯(lián)網的設備往往是異構的、空間相互獨立且處于動態(tài)變化中的。這會造成閑散資源不能被及時發(fā)現(xiàn)與利用,從而帶來資源使用效率較低、業(yè)務服務質量較差、設備運營維護成本較高等問題。(3)在計算任務分配方面,當前任務分配策略主要基于一些貪婪啟發(fā)式方法,存在任務切分粒度過大、不能自適應調整、難以與底層異構資源最優(yōu)匹配等問題,無法滿足應用任務豐富、動態(tài)變化的物聯(lián)網應用場景。

    2 智能物聯(lián)網重點研究領域

    在未來智能物聯(lián)網的場景中,物聯(lián)網設備需要智能地與外部環(huán)境進行交互,實時監(jiān)測外部環(huán)境變化,在開放的環(huán)境中持續(xù)學習、進化,以不斷滿足用戶個性化的需求,提升服務質量,從而對外部環(huán)境變化做出自主、智能地反饋。面對未來智能物聯(lián)網的挑戰(zhàn),學習引擎需要對感知到的實時數(shù)據(jù)進行分析,以完成對環(huán)境狀態(tài)的認知;決策引擎需要在已積累知識的基礎上實現(xiàn)推理、預測等。學習引擎和決策引擎的實現(xiàn)需要異構協(xié)同計算架構的支撐,具體如圖2所示。傳統(tǒng)機器學習范式、知識圖譜技術、計算架構不足以支撐智能物聯(lián)網場景中的應用服務,因此需要新型機器學習、物聯(lián)網知識圖譜、異構協(xié)同計算架構等核心技術的支撐。

    2.1 新型機器學習范式

    智能物聯(lián)網應用的實現(xiàn)需要基于新型學習范式,而新型學習范式需要滿足以下幾方面:(1)能夠在小樣本數(shù)據(jù)的情況下快速完成模型構建;(2)構建的模型具有可解釋性,能夠說明輸出的合理性和安全性;(3)能夠在計算資源、存儲資源、能量受限的物聯(lián)網設備上實現(xiàn)快速模型推理;(4)能夠在數(shù)據(jù)分布、數(shù)據(jù)類別、外部環(huán)境等發(fā)生變化時,快速適應環(huán)境并實現(xiàn)模型更新調整,維持穩(wěn)定的性能。

    2.1.1 模型構建

    (1)小樣本學習。借鑒人類從少量標簽數(shù)據(jù)、無標簽數(shù)據(jù)中快速學習的能力,小樣本學習能夠基于少量樣本建立較強泛化性模型。多倫多大學提出一種用于小樣本學習的原型網絡,利用淺層神經網絡學習特征空間到原型空間的非線性映射,并基于原型空間中的距離函數(shù)實現(xiàn)小樣本學習[1];文獻[2]提出基于元學習的小樣本學習方法,利用一個不依賴模型結構的元學習器,通過在多個相關任務上的迭代訓練得到泛化能力強的模型,實現(xiàn)小樣本學習;文獻[3]提出通過生成式對抗網絡生成新樣本,實現(xiàn)數(shù)據(jù)增強,解決小樣本的生成和分類問題。

    (2)協(xié)作學習。協(xié)作學習通過設備與設備間的知識遷移,實現(xiàn)任務模型在無人干預時的自主重建。根據(jù)傳遞知識的類型,協(xié)作學習方法分為基于模型參數(shù)遷移、特征表示遷移和標簽分布遷移3種機制。S. A. ROKNI等[4]基于模型參數(shù)遷移提出一種動態(tài)環(huán)境下的自動學習方法,通過對齊源領域和目標領域的輸入空間,使原來的協(xié)作模型可以被直接復用;A. AKBARI等[5]基于特征遷移提出一種表示特征提取方法,將源領域中優(yōu)秀的特征遷移到目標領域,從而省去特征學習過程;S. A. ROKNI等[6]提出基于標簽修正的標簽分布遷移方法,通過遷移學習方法實現(xiàn)自動化數(shù)據(jù)標注,但這種方法會存在源模型預測失誤、傳播機制缺陷等負傳播問題。隨后,樣本選擇[7]和蒸餾學習[8]等改進方法被相繼提出,以提升目標模型的準確率和訓練效率。目前在協(xié)作學習的研究中,參與協(xié)作的設備需要具有完全一致的任務目標,但實際物聯(lián)網中設備的任務可能部分重合或互相補充。這就需要更復雜的協(xié)作機制,使物聯(lián)網在獲取動態(tài)多樣化的設備信息后,能夠自主獲取高層次的感知能力,以提供穩(wěn)定可靠的應用服務。

    (3)知識驅動型學習。知識驅動型學習利用人類已掌握的先驗知識,如科學規(guī)律、領域常識、語義嵌入、知識圖譜、不確定性分析等,實現(xiàn)對數(shù)據(jù)驅動模型的特征空間、參數(shù)空間及輸出空間的約束,加快模型的訓練過程,降低訓練樣本需求,減少潛在違反常識的決策結果。S. RUSSELL等[9]提出利用自由落體公式、速度公式等物理定律,以及人為制定規(guī)則代替訓練數(shù)據(jù)的方法,直接約束監(jiān)督神經網絡的輸出空間;FANG Y.等提出一種基于知識圖譜的目標檢測方法[10],利用知識圖譜修正模型的損失函數(shù),結合圖像特征和語義一致性提升目標檢測準確率;WANG X.等提出一種基于語義嵌入和知識圖譜的零樣本學習方法[11],在不增加訓練樣本的情況下,基于知識圖譜和語義嵌入知識,以已知類別的模型實現(xiàn)對未知類別模型的表征,實現(xiàn)新任務模型構建。

    2.1.2 模型推理

    (1)模型壓縮。在模型準確率損失可接受的前提下,模型壓縮通過減少神經網絡中冗余參數(shù)、精簡網絡結構等方法,實現(xiàn)對模型尺寸的壓縮以及推理計算的加速,進而降低深度學習模型物聯(lián)網終端側部署的門檻。HE Y.等[12]尋找卷積核中若干的幾何中位數(shù)點,并以此為樣本中心修剪鄰域內的卷積核;WAN D. W.等[13]通過對權重的二值化與輸入的三值化處理,大幅壓縮模型尺寸,同時通過采用位運算進一步提高計算效率;TAN M. X.等[14]提出神經網絡架構搜索技術,通過優(yōu)化網絡架構空間,引入終端內存壓力、計算時延至模型優(yōu)化過程,實現(xiàn)自主輕量化神經網絡設計。未來的研究將會聚焦于整合已驗證的有效技術、將多種技術人工或自動地組合成一個整體,以實現(xiàn)更高效的模型壓縮結果?,F(xiàn)有的模型壓縮研究也會更快地下沉至生產過程中。另外,之后也會有更多針對特定場景、特定任務的模型壓縮研究成果。

    (2)持續(xù)學習。持續(xù)學習是一種能夠克服傳統(tǒng)機器學習中“災難性遺忘”的問題(指一旦使用新的數(shù)據(jù)集去訓練已有的模型,該模型將會失去對原數(shù)據(jù)集識別的能力),且在新環(huán)境中能夠不斷吸收新知識、保留舊知識的學習機制。2017年LI Z. Z.和D. HOIEM提出了一種不需要舊數(shù)據(jù)就能完成持續(xù)學習的方法[15]。該算法中,部分新類樣本首先利用舊模型打上舊類數(shù)據(jù)的偽標簽,然后和新樣本數(shù)據(jù)一起訓練以實現(xiàn)模型的持續(xù)更新。S. A. REBUFFI等[16]在同年提出了一種經典的iCaRL持續(xù)學習算法,將特征學習與分類器解耦,并借助樣本點集和知識蒸餾等方式完成模型的持續(xù)學習。多倫多大學提出了一種基于注意力機制的類增小樣本學習方法[17],在持續(xù)學習階段引入注意力機制,并設計了一種基于注意力吸引因子的網絡結構,利用元學習思想,在不需要舊類數(shù)據(jù)的前提下,實現(xiàn)了基于小樣本新類數(shù)據(jù)的持續(xù)學習。TAO X. Y.等[18]提出了一種基于小樣本的類增學習方法,基于神經氣體網絡和拓撲結構,實現(xiàn)無需大量樣本的新類學習。當前的持續(xù)學習技術大部分是指多任務類增學習,即通過使已學習的舊類樣本在新類訓練中不再出現(xiàn),來檢驗模型對抗遺忘的能力。在實際應用中,新、舊類別的樣本是交叉出現(xiàn)的,模型應在避免遺忘的基礎上,具有自我鞏固的能力。

    2.2 物聯(lián)網知識圖譜

    在智能物聯(lián)網中,設備將不再局限于被動接受控制,而是像人一樣能夠基于數(shù)據(jù)進行自動化的場景分析、數(shù)據(jù)處理和系統(tǒng)配置,依據(jù)掌握的知識智能地發(fā)起與其他設備的交互,通過彼此間的協(xié)作完成復雜的場景任務。為了實現(xiàn)這個要求,除了賦予設備自學習能力外,還需要設備能夠像人的大腦一樣對知識進行表達和存儲。知識圖譜作為推動人工智能發(fā)展的核心驅動技術之一,提供了一種從海量數(shù)據(jù)中抽取結構化知識并利用圖分析進行關系挖掘的手段[19]。知識圖譜可以對知識進行有效組織,為設備的智能協(xié)作提供一個共同的知識模型,從而實現(xiàn)設備之間知識共享和語義互通,最終支持設備的智能思考與自主決策。

    2.2.1 知識圖譜自動化構建

    針對現(xiàn)有知識圖譜構建技術普遍存在的效率低、限制多、拓展性差等問題,一些學者已經嘗試通過自然語言處理技術自動地從多模態(tài)的異構數(shù)據(jù)中提取出實體、屬性以及實體間的相互關系,在此基礎上形成網絡化的知識表達并完成知識圖譜的構建。碎片化的農業(yè)百科數(shù)據(jù)能夠自動識別農業(yè)領域實體,并抽取出城市與氣候的影響關系、氣候與植物的種植關系等三元組關系。CHEN Y. Z.等[20]構建面向智慧農業(yè)的知識圖譜及其應用系統(tǒng),支撐農業(yè)領域的信息檢索、智能問答、輔助決策等應用。LI L. F.等[21]以大規(guī)模電子病歷為數(shù)據(jù)源,利用命名實體識別、實體關系抽取和圖嵌入等技術自動化地構建醫(yī)療知識圖譜,將其應用于智能問診、病歷質量評估、醫(yī)生診療輔助等智慧醫(yī)療應用。該圖譜包含疾病、癥狀等9個類別的22 508個實體,以及579 094 條實體關系。劉瑞宏等[22]以結構化、半結構化的網絡數(shù)據(jù)和非結構化的產品文檔、故障案例文檔等為數(shù)據(jù)源,構建電信領域知識圖譜,將電信網絡領域零散的專家經驗及產品、案例知識和故障數(shù)據(jù)有效關聯(lián),并應用知識圖譜推理技術,進行網絡故障智能診斷,輔助解決網絡運維領域的故障問題。

    2.2.2 知識圖譜持續(xù)更新

    靜態(tài)知識圖譜缺乏持續(xù)更新能力,無法為動態(tài)改變的場景提供準確的知識推理。針對此問題,研究者嘗試將知識圖譜與時間信息關聯(lián),形成隨時間動態(tài)更新的語義網絡,以提升知識的先進性。YOU S. J.等[23]通過向知識圖譜的三元組中增加時間維度信息,將靜態(tài)知識圖譜升級為動態(tài)時序知識圖譜,并結合長短期記憶(LSTM)神經網絡學習智能家居中用戶動態(tài)變化的行為習慣,以進一步預測物聯(lián)網設備狀態(tài)的變化,指導設備的自主決策。基于電子病歷構建臨床領域時序知識圖譜,陳德華等[24]通過對實例和關系進行序列化擴展,得到一定時間段內按照時間排序的三元組列表,來表達病程發(fā)展隨時間變化的時序特性,還結合LSTM序列學習技術預測時序圖譜中實體之間的鏈接,以支撐疾病的診斷和并發(fā)癥的挖掘等應用。

    2.2.3 知識圖譜可信性驗證

    知識圖譜可信性驗證是對知識圖譜中每個三元組所表達知識的可信程度進行評估,以提高知識圖譜表達精度。以TransE[25]為代表的知識圖譜向量化表示模型的提出,為更多知識圖譜的研究和應用創(chuàng)造了條件。一些研究者嘗試將知識可信性評估嵌入知識圖譜實體和關系的向量學習過程中,以提升知識圖譜節(jié)點和關系向量表征精度,并在此基礎上獲得圖譜中每個三元組的置信度評分。XIE R. B.等[26]提出一種基于置信度的知識表示學習算法,該模型在TransE的目標函數(shù)中增加了三元組的置信度評分,并且在訓練的過程中利用實體與實體之間的所有路徑信息,動態(tài)地學習三元組的置信度以及實體和關系的向量表示,以進一步發(fā)現(xiàn)知識圖譜中潛在的錯誤知識。JIA S. B.等[27]提出了一種知識圖譜置信度評估模型,增加了基于實體初度、入度、路徑深度等信息計算的實體關聯(lián)強度,將實體關聯(lián)強度與基于路徑信息計算的可信度值聯(lián)合輸入至交叉熵的神經網絡中進行融合,得到三元組可信性的綜合評價值。ZHAO Y.等[28]利用知識圖譜中的實體類型信息以及實體描述信息分別計算三元組置信度值,通過對兩者進行加權,最終得到三元組整體的置信度。

    2.3 異構協(xié)同計算

    異構協(xié)同計算聚焦于利用邊緣側異構計算資源執(zhí)行深度學習任務,具體包含3個關鍵技術:異構協(xié)同計算架構模式、資源虛擬化技術,以及異構資源圖與任務圖智能匹配的資源分配機制。

    2.3.1 異構協(xié)同計算架構

    異構協(xié)同計算架構主要包括中心化架構、去中心化架構、混合模式。中心化架構即以邊服務器為中心執(zhí)行深度學習任務,將邊緣數(shù)據(jù)中心作為數(shù)據(jù)生產者和消費者的中繼。應用服務可以直接在邊緣完成響應,并返回終端設備[29]。去中心化架構即通過設備協(xié)作訓練模型自組網,借助區(qū)塊鏈技術為邊緣計算提供新的可信計算范式。區(qū)塊鏈技術一方面可以評估邊緣服務器平臺的安全,另一方面可以通過白名單、數(shù)字證書等進行服務安全性驗證,最終確保終端可從安全的去中心化邊緣服務端獲取安全的服務[30]?;旌夏J郊窗ǘ诉?、邊云、端邊云等在內的多種協(xié)作模式。該模式的網絡層級一般可以分為終端層、邊緣計算層、云計算層。其中,終端層主要完成各種物聯(lián)網設備原始數(shù)據(jù)收集及上報;邊緣計算層分布在終端設備與計算中心之間,可以是智能終端設備本身也可以被部署在網絡連接中;云計算層仍然是最強大的數(shù)據(jù)處理中心,它可以完成邊緣計算層無法處理分析的任務[31]。

    2.3.2 資源虛擬化

    單一設備上的有限資源不足以完成智能物聯(lián)網的計算密集型任務,因此需要充分利用多個設備上的閑散資源。物聯(lián)網端側設備往往具有異構特征,且處在動態(tài)變化中。為實現(xiàn)設備資源的充分利用及統(tǒng)一調度,需要對異構設備資源進行軟件定義及虛擬化抽象,構建邊緣資源池,以實現(xiàn)對底層設備資源的動態(tài)感知與協(xié)同。資源虛擬化技術主要用來解決異構設備資源服務能力描述的問題,其最終目標是打破異構硬件之間的界限,實現(xiàn)對多種多樣的物理設備的資源感知、抽象和虛擬化[32],并將其映射到可被平臺調度的邏輯設備上的虛擬資源節(jié)點中。軟件定義技術可以將設備虛擬和抽象成計算、存儲等服務能力節(jié)點,從而實現(xiàn)資源的統(tǒng)一管理和編排,促進跨異構物聯(lián)網設備的資源調度,提高物聯(lián)網設備端的整體服務能力[33]。

    2.3.3 計算任務智能分配

    計算任務智能分配的方式主要有兩種:數(shù)據(jù)并行方式和模型并行方式。數(shù)據(jù)并行方式是將訓練數(shù)據(jù)集進行切分,搭載完整模型的分布式設備,并利用不同數(shù)據(jù)子集進行訓練。以聯(lián)邦學習為例,其設計目標是在保障大數(shù)據(jù)交換時信息安全及數(shù)據(jù)安全隱私的前提下,多參與方或多計算節(jié)點之間只上傳各自數(shù)據(jù)子集訓練出的模型參數(shù)而非原始數(shù)據(jù),從而開展高效率的機器學習[34]。模型并行的方式是將模型進行切分,從而共享全部數(shù)據(jù)集[35]。這兩種方式在物聯(lián)網場景下均面臨任務切分粒度過大、難以與底層異構資源最優(yōu)匹配等問題,且任務劃分維度固定,難以滿足應用任務豐富、動態(tài)變化的物聯(lián)網應用場景。WU Q.等[36]提出一種基于圖卷積網絡的智能任務分配算法。該算法包含資源子圖構建、計算任務圖分解,以及基于圖匹配算法的系統(tǒng)性能預測等方面,對上實現(xiàn)深度學習任務的細粒度分解,對下實現(xiàn)異構邊緣計算資源的統(tǒng)一管理和任務的智能分配,實現(xiàn)深度學習模型的高效訓練和推理,提高資源利用率和整體系統(tǒng)性能。

    3 未來研究展望

    (1)重視強化學習理論。未來智能物聯(lián)網場景對模型可靠性、可解釋性要求很高。相對于可解釋性差的深度學習,具有強邏輯性和強可解釋性的強化學習更具優(yōu)勢。強化學習強調有機體如何在環(huán)境給予的獎勵或懲罰的刺激下,逐步形成對刺激的預期,產生能獲得最大利益的習慣性行為。不同于其他學習范式,強化學習不要求預先給定任何數(shù)據(jù),而是通過接收環(huán)境對動作的反饋獲得學習信息并更新模型參數(shù)。在未來的研究中,多智能體強化學習將是重點研究方向,同時強化學習與知識圖譜、遷移學習等相關技術的有機結合是構建快速學習能力的關鍵。

    (2)重視領域知識價值。數(shù)據(jù)是知識的外延和具象化,知識是數(shù)據(jù)的內涵和抽象化。數(shù)據(jù)驅動有助于對細節(jié)的把握,知識驅動更有助于對全局的認知,因此需要將數(shù)據(jù)驅動和知識驅動融合起來,探索由全局到局部的漸進式學習機制。

    (3)重視多設備資源協(xié)同。針對物聯(lián)網設備資源受限問題,目前業(yè)界利用模型壓縮、小樣本學習等方法在單一設備層面解決高效學習問題。但物聯(lián)網中有海量設備,而不同級別設備又具有不同的數(shù)據(jù)資源、計算能力、領域知識。因此,如何有效協(xié)同多設備資源完成計算任務是一個很有潛力的方向。在多設備協(xié)同學習中,設備之間可能存在合作、競爭等多種關系,因此需要考慮借助博弈論、多智能體等理論嘗試對多設備協(xié)同學習問題進行研究及建模,以便達到最優(yōu)組合。

    (4)重視人機增強智能。人是物聯(lián)網應用環(huán)境中的一部分,在設備學習過程中應該充分發(fā)揮人這一高級智能體的作用。人機交互的方式可以幫助設備構建反饋回路,實現(xiàn)智能水平的提升。另外,我們還需要借鑒人腦的學習機理,構建受腦啟發(fā)的學習范式和計算模型。

    4 結束語

    智能物聯(lián)網是6G最為核心的應用領域,它對處理時延、功耗、數(shù)據(jù)隱私保護等提出更高要求。智能物聯(lián)網的實現(xiàn)依賴于邊緣智能技術的進一步發(fā)展。本文首先對智能物聯(lián)網帶來的技術挑戰(zhàn)進行了討論,其次對智能物聯(lián)網涉及的重要技術領域進行了梳理與分析,包括新型機器學習范式、物聯(lián)網知識圖譜技術、異構協(xié)同計算等,最后對智能物聯(lián)網未來發(fā)展進行了展望和總結。

    參考文獻

    [1] JAKE S, SWERSKY K, ZEMEL R. Prototypical networks for few-shot learning [C]//Advances in Neural Information Processing Systems(NeurIPS). Long Beach, CA, USA: ACM, 2017: 4077-4087

    [2] FINN C, ABBEEL P, LEVINE S. Model-agnostic meta-learning for fast adaptation of deep networks [C]//ICML17: Proceedings of the 34th International Conference on Machine Learning. Sydney, Australia: ACM, 2017: 1126-1135

    [3] ALI-GOMBE A, ELYAN E, SAVOYE Y, et al. Few-shot classifier GAN [C]//2018 International Joint Conference on Neural Networks(IJCNN). Rio de Janeiro, Brazil: IEEE, 2018: 1-8. DOI:10.1109/IJCNN.2018.8489387

    [4] ROKNI S A, GHASEMZADEH H. Autonomous sensor-context learning in dynamic human-centered Internet-of-Things environments [C]. 2016 IEEE/ACM international conference on computer-aided design (ICCAD). Austin, TX, USA: IEEE, 2016: 1-6

    [5] AKBARI A, JAFARI R. Transferring activity recognition models for new wearable sensors with deep generative domain adaptation [C]//Proceedings of the 18th International Conference on Information Processing in Sensor Networks. New York, NY, USA: ACM, 2019: 85-96. DOI: 10.1145/3302506.3310391

    [6] ROKNI S A, GHASEMZADEH H. Synchronous dynamic view learning: A framework for autonomous training of activity recognition models using wearable sensors [C]//IPSN‘17: Proceedings of the 16th ACM/IEEE International Conference on Information Processing in Sensor Networks. New York, NY, USA: ACM, 2017: 79-90. DOI: 10.1145/3055031.3055087

    [7] BAO Y Y, MA L Q, CHEN W. SSL: synchronous self-paced learning for Internet-of-things devices [C]//Proceedings of the 1st ACM International Workshop on Smart Cities and Fog Computing. New York, NY, USA: ACM, 2018: 13-18. DOI: 10.1145/3277893.3277898

    [8] KONG D Q, BAO Y Y, CHEN W. Collaborative learning based on centroid-distance-vector for wearable devices [J]. Knowledge-based systems, 2020, 194: 105569. DOI: 10.1016/ j.knosys.2020.105569

    [9] STEWART R, ERMON S. Label-free supervision of neural networks with physics and domain knowledge [EB/OL]. (2016-09-18)[2021-02-10]. https://arxiv.org/abs/1609.05566

    [10] FANG Y, KUAN K, LIN J, et al. Object detection meets knowledge graphs [C]//Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence. Melbourne, Australia: International Joint Conferences on Artificial Intelligence Organization, 2017: 1661-1667. DOI: 10.24963/ ijcai.2017/230

    [11] WANG X L, YE Y F, GUPTA A. Zero-shot recognition via semantic embeddings and knowledge graphs [C]//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Salt Lake City, UT, USA: IEEE, 2018: 6857-6866. DOI: 10.1109/CVPR.2018.00717

    [12] HE Y, LIU P, WANG Z W, et al. Filter pruning via geometric Median for deep convolutional neural networks acceleration [C]//2019 IEEE/ CVF Conference on Computer Vision and Pattern Recognition (CVPR). Long Beach, CA, USA: IEEE, 2019: 4335-4344. DOI: 10.1109/ CVPR.2019.00447

    [13] WAN D W, SHEN F M, LIU L, et al. TBN: convolutional neural network with ternary inputs and binary weights [M]//Computer Vision-ECCV 2018. Cham, Switzerland: Springer International Publishing, 2018: 322-339. DOI: 10.1007/978-3-030-01216-8_20

    [14] TAN M X, CHEN B, PANG R M, et al. MnasNet: platform-aware neural architecture search for mobile [C]//2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Long Beach, CA, USA: IEEE, 2019: 2815-2823. DOI: 10.1109/ CVPR.2019.00293

    [15] LI Z Z, HOIEM D. Learning without forgetting[J]. IEEE transactions on pattern analysis and machine intelligence, 2018, 40(12): 2935-2947. DOI: 10.1109/TPAMI.2017.2773081

    [16] REBUFFI S A, KOLESNIKOV A, SPERL G, et al. iCaRL: incremental classifier and representation learning [C]//2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Honolulu, HI, USA: IEEE, 2017: 5533-5542. DOI: 10.1109/CVPR.2017.587

    [17] REN M, LIAL R, FETAYA E, et al. Incremental few-shot learning with attention attractor networks [C]//Proceedings of the Advances in Neural Information Processing Systems. USA: IEEE, 2019: 5276-5286

    [18] TAO X Y, HONG X P, CHANG X Y, et al. Fewshot class-incremental learning [C]//2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Seattle, WA, USA: IEEE, 2020: 12180-12189. DOI: 10.1109/CVPR42600.2020.01220

    [19] 符山, 呂艾臨, 閆樹. 知識圖譜的概念與應用 [J].信息通信技術與政策, 2019, (5): 10-13

    [20] CHEN Y Z, KUANG J, CHENG D, et al. AgriKG: an agricultural knowledge graph and its applications [C]//Proceedings of DASFAA. Chiang Mai, Thailand, 2019: 533-537

    [21] LI L F, WANG P, YAN J, et al. Real-world data medical knowledge graph: construction and applications [J]. Artificial intelligence in medicine, 2020, 103: 101817. DOI: 10.1016/ j.artmed.2020.101817

    [22] 劉瑞宏, 謝國強, 苑宗港, 等. 基于知識圖譜的智能故障診斷研究 [J]. 郵電設計技術, 2020,(10): 30-35

    [23] YOU S J, LI X T, CHEN W. Intelligent prediction for device status based on IoT temporal knowledge graph [C]//2020 IEEE/ CIC International Conference on Communications in China (ICCC). Chongqing, China: IEEE, 2020: 560-565. DOI: 10.1109/ ICCC49849.2020.9238860

    [24] 陳德華, 殷蘇娜, 樂嘉錦, 等. 一種面向臨床領域時序知識圖譜的鏈接預測模型 [J]. 計算機研究與發(fā)展, 2017, 54(12): 2687-2697

    [25] ANTOINE B, NICOLAS U. Translating embeddings for modeling multi-relational data [C]// Proceedings of Neural Information Processing Systems (NeurIPS). 2013: 2787-2795

    [26] XIE R B, LIU Z, LIU F, et al. Triple trustworthiness measurement for knowledge graph[EB/OL]. (2017-05-09)[2021-01-27]. https:// arxiv.org/abs/1705.03202

    [27] JIA S B, XIANG Y, CHEN X J, et al. Triple trustworthiness measurement for knowledge graph [C]//Proceedings of the 28th International Conference on World Wide Web, 2019: 2865-2871

    [28] ZHAO Y, FENG H L, GALLINARI P. Embedding learning with triple trustiness on noisy knowledge graph [J]. Entropy, 2019, 21(11): 1083. DOI: 10.3390/e21111083

    [29] 施巍松, 孫輝, 曹杰, 等. 邊緣計算: 萬物互聯(lián)時代新型計算模型 [J]. 計算機研究與發(fā)展, 2017, 54(5): 907-924

    [30] 張云勇, 程剛, 安崗, 等. 區(qū)塊鏈在電信運營商的應用[J]. 電信科學, 36(5): 1-7. DOI: 10.11959/j.issn.1000-0801.2020151

    [31] TALEB T, SAMDANIS K, MADA B, et al. On multi-access edge computing: A survey of the emerging 5G network edge cloud architecture and orchestration [J]. IEEE communications surveys & tutorials, 2017, 19(3): 1657-1681. DOI: 10.1109/ COMST.2017.2705720

    [32] FARACI G, LOMBARDO A. An NFV approach to share home multimedia devices [C]//2017 IEEE Conference on Network Softwarization(NetSoft). USA: IEEE, 2017: 1-6

    [33] HU P F, CHEN W, HE C M, et al. Soft- ware-defined edge computing (SDEC): principle, open IoT system architecture, applications, and challenges [J]. IEEE Internet of Things journal, 2020, 7(7): 5934-5945. DOI: 10.1109/JIOT.2019.2954528

    [34] LIM W Y B, LUONG N C, HOANG D T, et al. Federated learning in mobile edge networks: a comprehensive survey [J]. IEEE communications surveys & tutorials, 2020, 22(3): 2031-2063. DOI: 10.1109/COMST.2020.2986024

    [35] WANG X F, HAN Y W, LEUNG V C M, et al. Convergence of edge computing and deep learning: a comprehensive survey [J]. IEEE communications surveys & tutorials, 2020, 22(2): 869-904. DOI: 10.1109/ COMST.2020.2970550

    [36] QU W, DING X L, YANG K, et al. IDEC: intelligent distributed edge computing system architecture enabling deep learning across heterogeneous IoT devices [C]//2020 IEEE 6th International Conference on Computer and Communications (ICCC). Chengdu, China: IEEE, 2020: 926-933. DOI: 10.1109/ ICCC51575.2020.9345083

    作者簡介

    Wai CHEN,國家特聘專家,中國移動研究院首席科學家;擁有30多年前瞻技術研究經歷,主要研究領域為機器智能、邊緣計算、下一代車聯(lián)網及智能交通;在車路協(xié)同V2X、機器智能和邊緣計算等方面發(fā)表論文100余篇,并出版了1本關于車輛通信和網絡的著作,擁有36項美國專利。

    鮑媛媛,中國移動研究院高級研究員;主要研究領域為機器智能、邊緣計算;已發(fā)表論文40余篇。

    猜你喜歡
    智能設備模型
    一半模型
    諧響應分析在設備減振中的應用
    重要模型『一線三等角』
    重尾非線性自回歸模型自加權M-估計的漸近分布
    智能前沿
    文苑(2018年23期)2018-12-14 01:06:06
    智能前沿
    文苑(2018年19期)2018-11-09 01:30:14
    智能前沿
    文苑(2018年17期)2018-11-09 01:29:26
    智能前沿
    文苑(2018年21期)2018-11-09 01:22:32
    基于MPU6050簡單控制設備
    電子制作(2018年11期)2018-08-04 03:26:08
    3D打印中的模型分割與打包
    免费看av在线观看网站| 国产熟女午夜一区二区三区| 亚洲精品国产区一区二| 天堂俺去俺来也www色官网| 丝袜美足系列| 好男人视频免费观看在线| 一本久久精品| 国语对白做爰xxxⅹ性视频网站| 亚洲精品日本国产第一区| 亚洲欧美一区二区三区国产| 国产视频一区二区在线看| 国产高清视频在线播放一区 | 亚洲精品久久午夜乱码| 99久久综合免费| 老司机在亚洲福利影院| 亚洲av综合色区一区| 晚上一个人看的免费电影| 久久毛片免费看一区二区三区| 美女脱内裤让男人舔精品视频| 人人妻人人澡人人看| 中国国产av一级| 国产精品一区二区精品视频观看| 欧美变态另类bdsm刘玥| 一区二区三区精品91| 欧美日韩福利视频一区二区| 老司机午夜十八禁免费视频| 天天躁日日躁夜夜躁夜夜| 日韩制服丝袜自拍偷拍| 中文字幕人妻丝袜一区二区| 母亲3免费完整高清在线观看| 人体艺术视频欧美日本| 少妇猛男粗大的猛烈进出视频| 成年女人毛片免费观看观看9 | 亚洲精品一卡2卡三卡4卡5卡 | 久久国产亚洲av麻豆专区| 2021少妇久久久久久久久久久| 久热爱精品视频在线9| 久久久久久人人人人人| 女人高潮潮喷娇喘18禁视频| 国产精品久久久人人做人人爽| 亚洲中文av在线| 国产福利在线免费观看视频| 别揉我奶头~嗯~啊~动态视频 | 精品高清国产在线一区| 丝袜喷水一区| av网站免费在线观看视频| av片东京热男人的天堂| 亚洲五月婷婷丁香| 日韩一区二区三区影片| 少妇猛男粗大的猛烈进出视频| 婷婷色综合www| 亚洲精品一卡2卡三卡4卡5卡 | 美女大奶头黄色视频| 男女下面插进去视频免费观看| 国产色视频综合| 大码成人一级视频| 国产日韩欧美亚洲二区| 久久精品熟女亚洲av麻豆精品| 99精国产麻豆久久婷婷| 欧美日韩视频精品一区| 欧美日韩成人在线一区二区| 日本色播在线视频| 精品卡一卡二卡四卡免费| 国产爽快片一区二区三区| 亚洲中文av在线| av福利片在线| 91精品伊人久久大香线蕉| 麻豆乱淫一区二区| 欧美黑人欧美精品刺激| 亚洲美女黄色视频免费看| 黄片播放在线免费| 飞空精品影院首页| 成人亚洲精品一区在线观看| e午夜精品久久久久久久| 精品卡一卡二卡四卡免费| 精品亚洲乱码少妇综合久久| 亚洲欧美一区二区三区黑人| 久久ye,这里只有精品| 亚洲中文字幕日韩| 人人妻人人爽人人添夜夜欢视频| 操出白浆在线播放| 午夜福利视频精品| 国产xxxxx性猛交| 精品福利永久在线观看| 黑人欧美特级aaaaaa片| 亚洲 国产 在线| 女人久久www免费人成看片| 亚洲av成人精品一二三区| 好男人视频免费观看在线| 91成人精品电影| 亚洲九九香蕉| 亚洲欧洲日产国产| 美女视频免费永久观看网站| 中文字幕人妻丝袜制服| 午夜激情久久久久久久| 天堂俺去俺来也www色官网| 国产欧美日韩精品亚洲av| 观看av在线不卡| 国产97色在线日韩免费| 狂野欧美激情性bbbbbb| 黄色 视频免费看| 精品国产一区二区久久| 国产欧美亚洲国产| 亚洲中文av在线| 成人免费观看视频高清| 国产又色又爽无遮挡免| 日本欧美视频一区| 美女午夜性视频免费| 高清视频免费观看一区二区| 国产熟女欧美一区二区| 嫁个100分男人电影在线观看 | 国产精品一区二区精品视频观看| 乱人伦中国视频| 欧美黄色片欧美黄色片| 亚洲欧美精品自产自拍| 少妇人妻 视频| 伦理电影免费视频| 少妇猛男粗大的猛烈进出视频| 国产精品久久久久成人av| 中文字幕亚洲精品专区| 国产野战对白在线观看| 国产又色又爽无遮挡免| 国产欧美亚洲国产| 一级毛片黄色毛片免费观看视频| 国产色视频综合| 成人国语在线视频| 丰满人妻熟妇乱又伦精品不卡| 亚洲一区中文字幕在线| 国产免费又黄又爽又色| 久热这里只有精品99| 国产成人一区二区在线| 大陆偷拍与自拍| 久9热在线精品视频| 精品国产乱码久久久久久小说| 我的亚洲天堂| 久久人人爽人人片av| 晚上一个人看的免费电影| 巨乳人妻的诱惑在线观看| 中文字幕制服av| 国产91精品成人一区二区三区 | 久久久久国产精品人妻一区二区| 一区福利在线观看| 国产男女超爽视频在线观看| 亚洲av日韩在线播放| 免费观看a级毛片全部| 国产精品免费大片| 91九色精品人成在线观看| 下体分泌物呈黄色| 精品第一国产精品| 五月天丁香电影| 日韩一区二区三区影片| 熟女av电影| 日韩大码丰满熟妇| 男女高潮啪啪啪动态图| 9热在线视频观看99| 午夜免费观看性视频| 视频在线观看一区二区三区| 欧美中文综合在线视频| 日韩 亚洲 欧美在线| 日韩欧美一区视频在线观看| 大陆偷拍与自拍| 69精品国产乱码久久久| 黄片播放在线免费| 秋霞在线观看毛片| 大片免费播放器 马上看| 午夜福利视频在线观看免费| 成人免费观看视频高清| 免费人妻精品一区二区三区视频| 大片电影免费在线观看免费| 一本大道久久a久久精品| 欧美日韩黄片免| 在线观看人妻少妇| 天天添夜夜摸| 亚洲美女黄色视频免费看| √禁漫天堂资源中文www| 国产在视频线精品| 少妇粗大呻吟视频| 欧美黑人欧美精品刺激| 国产精品一国产av| 亚洲精品国产一区二区精华液| 人妻人人澡人人爽人人| www.自偷自拍.com| 亚洲,欧美,日韩| cao死你这个sao货| 首页视频小说图片口味搜索 | 亚洲精品成人av观看孕妇| 一区福利在线观看| 你懂的网址亚洲精品在线观看| 欧美精品一区二区免费开放| 男女边吃奶边做爰视频| 欧美 亚洲 国产 日韩一| 亚洲精品一区蜜桃| 久久精品人人爽人人爽视色| 欧美日韩视频精品一区| 久久ye,这里只有精品| a 毛片基地| 在线观看一区二区三区激情| 欧美激情 高清一区二区三区| 汤姆久久久久久久影院中文字幕| 国产亚洲欧美精品永久| av不卡在线播放| av天堂在线播放| 国产一卡二卡三卡精品| 久久99一区二区三区| 一本—道久久a久久精品蜜桃钙片| 亚洲精品久久午夜乱码| 国产精品久久久久久精品古装| 久久久精品免费免费高清| 最近最新中文字幕大全免费视频 | 精品福利观看| 18禁观看日本| 人妻一区二区av| 亚洲一区二区三区欧美精品| 中文精品一卡2卡3卡4更新| 看免费av毛片| 日韩 亚洲 欧美在线| 一二三四在线观看免费中文在| 丝袜喷水一区| 天天添夜夜摸| 电影成人av| 爱豆传媒免费全集在线观看| 精品少妇内射三级| 丰满饥渴人妻一区二区三| 精品国产一区二区三区四区第35| 亚洲人成77777在线视频| 一区在线观看完整版| 搡老乐熟女国产| 亚洲精品国产av成人精品| 少妇粗大呻吟视频| 尾随美女入室| 久久久久久久久久久久大奶| 亚洲国产欧美在线一区| 91精品伊人久久大香线蕉| 建设人人有责人人尽责人人享有的| 成人午夜精彩视频在线观看| 最近中文字幕2019免费版| 日本午夜av视频| 大片电影免费在线观看免费| 一本久久精品| 成人国产一区最新在线观看 | 亚洲av成人精品一二三区| 国产1区2区3区精品| 一区二区三区激情视频| 精品视频人人做人人爽| 精品久久久久久久毛片微露脸 | 深夜精品福利| 99精品久久久久人妻精品| 精品一区在线观看国产| 久久久久网色| 国产一区有黄有色的免费视频| 精品国产乱码久久久久久男人| 色婷婷av一区二区三区视频| 国产成人免费无遮挡视频| 欧美亚洲日本最大视频资源| 久久亚洲国产成人精品v| 男女边摸边吃奶| www.熟女人妻精品国产| 美女国产高潮福利片在线看| 波多野结衣av一区二区av| 亚洲成色77777| 观看av在线不卡| 欧美久久黑人一区二区| 国产精品一二三区在线看| 国产精品久久久人人做人人爽| 黄频高清免费视频| 老司机午夜十八禁免费视频| 美女福利国产在线| 中文字幕制服av| 91麻豆精品激情在线观看国产 | 国产精品久久久久成人av| 在线亚洲精品国产二区图片欧美| 亚洲男人天堂网一区| 国产精品国产三级专区第一集| www.精华液| 丝袜美足系列| 韩国精品一区二区三区| 人人妻人人澡人人爽人人夜夜| 一二三四在线观看免费中文在| 亚洲av成人不卡在线观看播放网 | 欧美黄色片欧美黄色片| 又大又爽又粗| 成人影院久久| 老司机亚洲免费影院| 女人精品久久久久毛片| 亚洲午夜精品一区,二区,三区| 黄片小视频在线播放| 日韩大片免费观看网站| 国产视频一区二区在线看| 国产高清不卡午夜福利| 一本色道久久久久久精品综合| 亚洲三区欧美一区| 老汉色av国产亚洲站长工具| 国产97色在线日韩免费| 精品少妇一区二区三区视频日本电影| 精品人妻熟女毛片av久久网站| 国产97色在线日韩免费| 久久国产精品影院| 国产欧美日韩精品亚洲av| 亚洲综合色网址| 亚洲精品在线美女| 精品久久久久久久毛片微露脸 | 交换朋友夫妻互换小说| 久久久久国产一级毛片高清牌| 真人做人爱边吃奶动态| 国产深夜福利视频在线观看| 人人妻人人澡人人爽人人夜夜| 两人在一起打扑克的视频| 欧美日韩av久久| 久久久国产精品麻豆| www.熟女人妻精品国产| 日本五十路高清| 久久中文字幕一级| 精品一区二区三区av网在线观看 | 亚洲国产欧美一区二区综合| 黄色a级毛片大全视频| 日本五十路高清| 欧美日韩综合久久久久久| 午夜久久久在线观看| 成人国产一区最新在线观看 | 一级黄色大片毛片| www.av在线官网国产| 操美女的视频在线观看| 亚洲精品av麻豆狂野| 亚洲 国产 在线| 亚洲欧美一区二区三区黑人| 久久热在线av| 日本五十路高清| 叶爱在线成人免费视频播放| √禁漫天堂资源中文www| 亚洲国产成人一精品久久久| 国产精品一区二区在线观看99| av片东京热男人的天堂| 亚洲欧美清纯卡通| 蜜桃在线观看..| 69精品国产乱码久久久| 亚洲国产最新在线播放| 久久久国产欧美日韩av| 满18在线观看网站| 大码成人一级视频| 国产精品99久久99久久久不卡| 巨乳人妻的诱惑在线观看| 免费观看av网站的网址| 操美女的视频在线观看| 色播在线永久视频| 黑人巨大精品欧美一区二区蜜桃| 欧美日韩亚洲综合一区二区三区_| 国产精品欧美亚洲77777| 97精品久久久久久久久久精品| h视频一区二区三区| 国产女主播在线喷水免费视频网站| 日韩大片免费观看网站| 欧美乱码精品一区二区三区| 乱人伦中国视频| 国产精品一区二区在线观看99| 免费在线观看黄色视频的| 中文字幕av电影在线播放| 亚洲精品一区蜜桃| 亚洲人成77777在线视频| 国产精品秋霞免费鲁丝片| 国产免费视频播放在线视频| 精品人妻1区二区| 大陆偷拍与自拍| 99久久精品国产亚洲精品| 丝袜美足系列| 精品人妻1区二区| 99国产综合亚洲精品| 国产成人91sexporn| 亚洲国产欧美网| 亚洲伊人色综图| 亚洲av日韩精品久久久久久密 | 欧美国产精品一级二级三级| 亚洲精品一卡2卡三卡4卡5卡 | 欧美 亚洲 国产 日韩一| 亚洲国产毛片av蜜桃av| 99国产精品一区二区蜜桃av | 成人国语在线视频| 美女国产高潮福利片在线看| 精品人妻在线不人妻| 中国美女看黄片| 亚洲欧洲精品一区二区精品久久久| 秋霞在线观看毛片| 亚洲国产精品999| 香蕉国产在线看| 国产99久久九九免费精品| 国产欧美日韩一区二区三区在线| 视频区欧美日本亚洲| 亚洲成国产人片在线观看| 一边摸一边抽搐一进一出视频| 国产av一区二区精品久久| 午夜av观看不卡| 亚洲人成网站在线观看播放| 香蕉丝袜av| 国产精品欧美亚洲77777| 亚洲av综合色区一区| 国产成人精品在线电影| 精品一区二区三区四区五区乱码 | av线在线观看网站| 欧美xxⅹ黑人| 亚洲欧洲精品一区二区精品久久久| 亚洲精品中文字幕在线视频| 欧美日韩综合久久久久久| 又粗又硬又长又爽又黄的视频| 热re99久久精品国产66热6| 国产精品.久久久| 久久久久视频综合| 国产精品一二三区在线看| 国产在线免费精品| 首页视频小说图片口味搜索 | 大话2 男鬼变身卡| 国产精品一区二区免费欧美 | 国产日韩欧美亚洲二区| 中国美女看黄片| 国产1区2区3区精品| 在线观看免费视频网站a站| 观看av在线不卡| 五月天丁香电影| 捣出白浆h1v1| 一本—道久久a久久精品蜜桃钙片| 国产精品免费视频内射| 亚洲精品美女久久av网站| 各种免费的搞黄视频| 亚洲av综合色区一区| 丝袜美腿诱惑在线| 男女国产视频网站| 狠狠精品人妻久久久久久综合| 免费观看人在逋| 精品一区在线观看国产| 嫩草影视91久久| 久久久久久久久久久久大奶| 啦啦啦视频在线资源免费观看| 青春草视频在线免费观看| 久久九九热精品免费| 一本久久精品| 1024香蕉在线观看| 操出白浆在线播放| 亚洲欧美中文字幕日韩二区| 九草在线视频观看| 婷婷丁香在线五月| 国产一级毛片在线| 亚洲av日韩在线播放| 黄色怎么调成土黄色| 波多野结衣av一区二区av| 十八禁人妻一区二区| 9191精品国产免费久久| 亚洲国产欧美日韩在线播放| 亚洲av日韩在线播放| 校园人妻丝袜中文字幕| 少妇精品久久久久久久| 亚洲美女黄色视频免费看| 女人爽到高潮嗷嗷叫在线视频| 久久毛片免费看一区二区三区| 黄色片一级片一级黄色片| a级毛片黄视频| 亚洲中文av在线| 亚洲欧洲日产国产| 亚洲 国产 在线| 欧美日韩成人在线一区二区| 午夜福利影视在线免费观看| 免费在线观看完整版高清| av片东京热男人的天堂| 国产日韩欧美视频二区| 欧美日韩亚洲综合一区二区三区_| 丰满迷人的少妇在线观看| 久久久国产欧美日韩av| 91国产中文字幕| 女性被躁到高潮视频| 亚洲国产日韩一区二区| 一级片'在线观看视频| 黄色 视频免费看| 国产精品 国内视频| 国产视频首页在线观看| 少妇 在线观看| 国产91精品成人一区二区三区 | 99九九在线精品视频| 亚洲人成网站在线观看播放| av又黄又爽大尺度在线免费看| 成人国产一区最新在线观看 | 精品福利观看| 欧美xxⅹ黑人| 国语对白做爰xxxⅹ性视频网站| 看免费成人av毛片| 国产高清国产精品国产三级| 日韩 欧美 亚洲 中文字幕| 国产成人av教育| 国产精品久久久久久精品古装| 亚洲av国产av综合av卡| 女性被躁到高潮视频| 美女脱内裤让男人舔精品视频| 日日摸夜夜添夜夜爱| 热99久久久久精品小说推荐| 大片电影免费在线观看免费| av在线app专区| 国产国语露脸激情在线看| 性色av一级| 亚洲一区二区三区欧美精品| 国产精品久久久久成人av| av有码第一页| 50天的宝宝边吃奶边哭怎么回事| 考比视频在线观看| 中文精品一卡2卡3卡4更新| 十八禁高潮呻吟视频| av福利片在线| 每晚都被弄得嗷嗷叫到高潮| 久久性视频一级片| 亚洲精品一卡2卡三卡4卡5卡 | 欧美av亚洲av综合av国产av| 一区二区av电影网| 另类精品久久| 只有这里有精品99| 狂野欧美激情性bbbbbb| 在线看a的网站| 欧美 亚洲 国产 日韩一| 亚洲成色77777| 日本av手机在线免费观看| 免费看不卡的av| 亚洲国产中文字幕在线视频| 国产在线观看jvid| 成人国产av品久久久| 国产一区二区激情短视频 | 中国国产av一级| 久久亚洲精品不卡| 高清av免费在线| 国产xxxxx性猛交| 久久久久网色| 亚洲国产日韩一区二区| 激情五月婷婷亚洲| 天天影视国产精品| e午夜精品久久久久久久| 每晚都被弄得嗷嗷叫到高潮| 久久免费观看电影| 亚洲欧美清纯卡通| 夫妻性生交免费视频一级片| 亚洲,一卡二卡三卡| 欧美日本中文国产一区发布| 欧美大码av| 考比视频在线观看| 伦理电影免费视频| 国产不卡av网站在线观看| www.精华液| 精品人妻在线不人妻| 成人国语在线视频| av在线app专区| 99久久精品国产亚洲精品| 亚洲av成人不卡在线观看播放网 | 嫁个100分男人电影在线观看 | 在线观看免费日韩欧美大片| 国产一级毛片在线| 久久99精品国语久久久| 啦啦啦在线观看免费高清www| 亚洲三区欧美一区| 免费观看a级毛片全部| 每晚都被弄得嗷嗷叫到高潮| 国产麻豆69| 国产在线观看jvid| 激情五月婷婷亚洲| 人人妻人人爽人人添夜夜欢视频| 黄片播放在线免费| www.av在线官网国产| 午夜91福利影院| av网站免费在线观看视频| 久久久久久免费高清国产稀缺| 国产成人一区二区三区免费视频网站 | 精品久久蜜臀av无| 男男h啪啪无遮挡| 精品国产乱码久久久久久男人| 午夜福利影视在线免费观看| 香蕉丝袜av| 9热在线视频观看99| 久久99精品国语久久久| 另类精品久久| 亚洲一卡2卡3卡4卡5卡精品中文| 三上悠亚av全集在线观看| 黄色片一级片一级黄色片| 国产在线一区二区三区精| 精品一区二区三区四区五区乱码 | 男人添女人高潮全过程视频| 午夜激情久久久久久久| 国产xxxxx性猛交| 美女扒开内裤让男人捅视频| 国产淫语在线视频| 一边亲一边摸免费视频| 国产精品香港三级国产av潘金莲 | 精品亚洲成国产av| 一级毛片 在线播放| 国产精品麻豆人妻色哟哟久久| 自拍欧美九色日韩亚洲蝌蚪91| 久久狼人影院| 国产成人啪精品午夜网站| 午夜免费观看性视频| svipshipincom国产片| 午夜福利一区二区在线看| 久久ye,这里只有精品| 国产欧美日韩精品亚洲av| 午夜日韩欧美国产| 国产熟女欧美一区二区| 午夜福利影视在线免费观看| 丝袜美腿诱惑在线| 最近手机中文字幕大全| 久久精品国产亚洲av高清一级| 免费日韩欧美在线观看| 男女之事视频高清在线观看 | 波多野结衣av一区二区av| 大码成人一级视频| 赤兔流量卡办理| 色视频在线一区二区三区| 久久精品国产亚洲av涩爱| 在线观看免费高清a一片| 久久中文字幕一级| 亚洲自偷自拍图片 自拍| 美女大奶头黄色视频| 亚洲专区国产一区二区| 国产精品一国产av| 十八禁高潮呻吟视频| 久久久国产一区二区| 91麻豆精品激情在线观看国产 |