• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    邊緣計(jì)算環(huán)境下智慧圖書館邊緣安全研究

    2023-11-17 13:33:11周杰
    新世紀(jì)圖書館 2023年9期
    關(guān)鍵詞:邊緣計(jì)算智慧圖書館

    摘 要 隨著圖書館智慧化轉(zhuǎn)型進(jìn)程的不斷深入,對智能設(shè)備的依賴,對服務(wù)效率的需要以及網(wǎng)絡(luò)壓力的增加,迫切需要利用邊緣計(jì)算在數(shù)據(jù)源一側(cè)更快處理數(shù)據(jù)。邊緣計(jì)算為智慧圖書館的服務(wù)需求提供應(yīng)用基礎(chǔ),但也增加邊緣安全風(fēng)險。論文從智慧圖書館實(shí)際應(yīng)用場景出發(fā)定性分析邊緣安全的風(fēng)險因素,確定智慧圖書館邊緣安全防護(hù)的重要對象及其防護(hù)范圍,并結(jié)合場景構(gòu)建邊緣學(xué)習(xí)隱私計(jì)算部署安全防護(hù)方案。論證其邊緣計(jì)算應(yīng)用的價值性及安全風(fēng)險防控的重要性,即邊緣計(jì)算的應(yīng)用需要邊緣安全為保障,也為智慧圖書館邊緣基礎(chǔ)設(shè)施、邊緣數(shù)據(jù)、邊緣網(wǎng)絡(luò)、邊緣服務(wù)發(fā)展提供了現(xiàn)實(shí)基礎(chǔ)和運(yùn)行場景,同時邊緣安全的防護(hù)也有利于邊緣計(jì)算更好地應(yīng)用于圖書館智慧化建設(shè)中,兩者相互支持,融合發(fā)展。

    關(guān)鍵詞 邊緣計(jì)算;智慧圖書館;邊緣安全

    分類號 G250.7

    DOI 10.16810/j.cnki.1672-514X.2023.09.007

    Research on Edge Security of Smart Library in Edge Computing Environment

    Zhou Jie

    Abstract With the deepening of library’s intelligent transformation process, the dependence on intelligent devices, the need for service efficiency and the increase of network pressure, it is urgent to use edge computing to process data faster at the data source side. Edge computing provides an application basis for the service needs of smart libraries, but it also increases the risk of edge security. This paper qualitatively analyzes the risk factors of the edge security from the practical application scenario of the smart library, and determines the important objects and protective ranges of the edge security protection of the smart library. In addition, the security protection scheme for the deployment of edge learning privacy computing is constructed in combination with the scenario. Demonstrating the value of its edge computing applications and the importance of security risk prevention and control, that is, the application of edge computing needs edge security as a guarantee, and also provides a realistic foundation and operational scenario for the development of the edge infrastructure, edge data, edge network, and edge services of smart libraries. At the same time, the protection of edge security is also conducive to the better application of edge computing in the intelligent construction of libraries. The two support each other and develop together.

    Keywords Edge computing. Smart library. Edge security.

    0 引言

    在過去,對云計(jì)算與人工智能的應(yīng)用在于從數(shù)據(jù)中獲取其中的價值信息屬性來加強(qiáng)創(chuàng)新服務(wù)。然而隨著互連智能設(shè)備的廣泛接入,直接導(dǎo)致龐大而又復(fù)雜的數(shù)據(jù)涌現(xiàn)在邊緣端?!斑吘墶笨梢栽谕ㄐ啪W(wǎng)中,也可在智能設(shè)備內(nèi)部。國際咨詢機(jī)構(gòu)(IDC)早前在《2019年數(shù)據(jù)及存儲發(fā)展研究報(bào)告》中指出,至2025年,全球?qū)⒂?75ZB的數(shù)據(jù)產(chǎn)生[1]。Gartner認(rèn)為,到2025年,邊緣端大約將處理75%的數(shù)據(jù)[2],這充分說明邊緣計(jì)算(Edgecomputing,EC)具有很強(qiáng)的發(fā)展?jié)摿?。邊緣?jì)算即為靠近數(shù)據(jù)源一側(cè)借助載體對數(shù)據(jù)進(jìn)行計(jì)算、存儲與傳輸。

    站在圖書館智慧轉(zhuǎn)型發(fā)展的角度,伴隨各交流要素中智能設(shè)備總量的增加,對智能設(shè)備的依賴,對處理速度的需要,對存儲能力的限制,云中心帶寬成本及網(wǎng)絡(luò)延遲的增加,更加迫切需要利用邊緣計(jì)算將計(jì)算能力和存儲遷移到更靠近數(shù)據(jù)源一側(cè),有效解決讀者在智能終端覆蓋與享受便利、即時、安全服務(wù)之間的不平衡問題。

    在面向圖書館智慧化發(fā)展新需求之際,國家圖書館提出“全國智慧圖書館體系”建設(shè)總體框架,圍繞“1+3+N”模式推進(jìn)體系實(shí)施[3],其中,在智慧圖書館云基礎(chǔ)設(shè)施中,如何保障靠近邊緣端的各智能設(shè)備彼此互聯(lián)、安全互通是其核心問題??梢哉f,在“全國智慧圖書館體系”總架構(gòu)視角下,邊緣計(jì)算不僅僅是一種簡單的計(jì)算平臺,更是承載著以邊緣服務(wù)為導(dǎo)向,集“大數(shù)據(jù)+云平臺+第三方接口”的協(xié)同智慧云邊系統(tǒng)。邊緣計(jì)算將以更靈活的方式為讀者和第三方提供應(yīng)用服務(wù),但也面臨著云模式下未發(fā)現(xiàn)的安全威脅。如何科學(xué)平衡邊緣計(jì)算應(yīng)用與邊緣安全(EdgeComputingSecurity,ECS)防護(hù)所帶動的多元利益,應(yīng)當(dāng)成為邊緣計(jì)算環(huán)境下圖書館智慧化建設(shè)中不得不考慮的問題,以便于邊緣計(jì)算更好地推進(jìn)智慧圖書館的融合發(fā)展,具有應(yīng)用與防護(hù)的雙重價值。

    1 智慧圖書館邊緣計(jì)算應(yīng)用及其優(yōu)勢

    在爆發(fā)式的智能設(shè)備增長及設(shè)備智能計(jì)算水平不斷提升的背景下,智慧圖書館邊緣計(jì)算載體常見的有具有簡單計(jì)算能力的邊緣智能網(wǎng)關(guān)或智能路由器等智能型網(wǎng)絡(luò)設(shè)備,也可以是具有很強(qiáng)運(yùn)行計(jì)算能力并部署于特定場景一側(cè)的邊緣服務(wù)器,亦或是具有獨(dú)立收集與分析能力的”云—邊—端”平臺。

    談到邊緣計(jì)算,云計(jì)算不可不提,以一張圖說明邊緣計(jì)算與云的關(guān)系(見圖1)。首先,邊緣計(jì)算是在網(wǎng)絡(luò)邊緣端處理數(shù)據(jù),而非數(shù)據(jù)中心處理數(shù)據(jù),其中云起總體調(diào)度作用。其次,云嵌入式應(yīng)用能夠給圖書館智慧化發(fā)展帶來服務(wù)多樣性的升級,如基于云平臺的智慧圖書館系統(tǒng)的構(gòu)建,實(shí)現(xiàn)圖書館跨域采集、事態(tài)感知、服務(wù)整合、數(shù)據(jù)可視的智慧升級[4],以及以云計(jì)算為基礎(chǔ),推進(jìn)智慧推薦系統(tǒng)、微媒體平臺等資源平臺的質(zhì)量升級[5]。雖然云計(jì)算是異構(gòu)數(shù)據(jù)、多樣數(shù)據(jù)、海量數(shù)據(jù)環(huán)境下圖書館智慧發(fā)展的不二選擇,但云計(jì)算是將數(shù)據(jù)從本地發(fā)送到云端處理后,再將結(jié)果下發(fā),這種方法雖解決了本地設(shè)備計(jì)算能力不足的問題,但同樣面臨傳輸安全、網(wǎng)絡(luò)延遲等不定因素。而邊緣計(jì)算是借助載體就近處理智能設(shè)備產(chǎn)生的源數(shù)據(jù),無需上傳至云中心。

    因此,應(yīng)用邊緣計(jì)算載體的技術(shù)特點(diǎn),智慧圖書館將在快速響應(yīng)、數(shù)據(jù)安全與控制、不間斷服務(wù)三方面帶來優(yōu)勢。(1)載體就近處理,減少數(shù)據(jù)量回傳以緩解帶寬壓力,降低傳輸時延以提高數(shù)據(jù)整合處理的實(shí)時性。(2)數(shù)據(jù)在邊緣端存儲,可減少傳輸量以縮小攻擊面,就近保存以提高數(shù)據(jù)隱私和安全性。(3)不間斷服務(wù)可在弱網(wǎng)環(huán)境下保障持續(xù)高可用服務(wù),離線環(huán)境下保障數(shù)據(jù)備份存儲。邊緣計(jì)算還能在分布性、外延性方面不斷強(qiáng)化智慧圖書館的服務(wù)內(nèi)容,如分布性將緩解智慧圖書館面臨的設(shè)備、數(shù)據(jù)、系統(tǒng)等異構(gòu)問題,外延性方面將連接第三方與圖書館的智慧化建設(shè)合作[6]。未來在5G、Alot等智能物聯(lián)的支持下,邊緣計(jì)算還將為圖書館提供擴(kuò)展智慧服務(wù)模式、協(xié)同服務(wù)資源、共建服務(wù)內(nèi)容的機(jī)會。

    2 智慧圖書館邊緣計(jì)算面臨的風(fēng)險

    根據(jù)國際咨詢機(jī)構(gòu)(IDC)的預(yù)測,到2025年智能終端數(shù)量將達(dá)到400億個,同時,隨著智能設(shè)備爆發(fā)式的增長,在2020年約有50%的數(shù)據(jù)在云或各層級數(shù)據(jù)中心之外被運(yùn)算處理[7]。為了利用這些數(shù)據(jù)源,企業(yè)、工業(yè)領(lǐng)域逐漸將視野移向邊緣端,但邊緣計(jì)算終究屬于新興產(chǎn)業(yè),更因其以節(jié)點(diǎn)分布式為主,必然導(dǎo)致其受網(wǎng)絡(luò)攻擊而波及網(wǎng)絡(luò)邊緣各模塊。隨著智慧圖書館關(guān)鍵基礎(chǔ)設(shè)施越來越偏向于Alot設(shè)備,防范邊緣計(jì)算風(fēng)險將成為圖書館平穩(wěn)發(fā)展的重要部分。在邊緣智能平臺遠(yuǎn)離云端易受攻擊中包含有圖書館私有IP及讀者個人數(shù)據(jù),這些數(shù)據(jù)可能被竊取,上傳至區(qū)塊鏈協(xié)同端被惡意共享,導(dǎo)致應(yīng)用程序透明化,或用于操縱圖書館關(guān)鍵系統(tǒng)。

    2.1 智慧圖書館邊緣計(jì)算各端點(diǎn)受到的安全威脅

    2.1.1 基礎(chǔ)設(shè)施端

    (1)軟件安全弱化。相比于其他邊緣計(jì)算場景,在智慧圖書館邊緣計(jì)算下,邊緣節(jié)點(diǎn)分布于各空間樓層中且采購設(shè)備OS系統(tǒng)較為多樣,很難實(shí)現(xiàn)系統(tǒng)間的協(xié)同隔離。(2)硬件木馬攻擊。木馬將對邊緣設(shè)備的集成電路進(jìn)行惡意修改,進(jìn)而獲取邊緣端數(shù)據(jù)或軟件,如對RFID的標(biāo)簽進(jìn)行包括復(fù)制、干擾阻塞、竊聽等攻擊。(3)惡意終端設(shè)備攻擊。在智慧圖書館邊緣計(jì)算場景下,受市場設(shè)備產(chǎn)品及企業(yè)智能化方向多樣性影響,攻擊者可能將偽裝的節(jié)點(diǎn)穿插入信任節(jié)點(diǎn)中,如偽裝過的邊緣路由器,攻擊者設(shè)置偽裝性路由協(xié)議,一旦加入邊緣通信中,便可觸發(fā)預(yù)定協(xié)議以竊取通信數(shù)據(jù)。

    2.1.2 網(wǎng)絡(luò)端

    (1)區(qū)域內(nèi)通信協(xié)議的不安全性。智慧圖書館多借助傳感器實(shí)現(xiàn)邊緣節(jié)點(diǎn)之間通信,分布式特點(diǎn)決定其通信協(xié)議的非一性。(2)網(wǎng)絡(luò)弱防護(hù)。以高校圖書館為例,校園在引入教育網(wǎng)后要確保圖書館網(wǎng)絡(luò)入口安全性,但由于圖書館與讀者端移動設(shè)備之間大多采用的是無線通信,并受限于室內(nèi)網(wǎng)絡(luò)信號不強(qiáng)的原因,多數(shù)會借助VPN轉(zhuǎn)換的方式與邊緣節(jié)點(diǎn)互傳,往往因數(shù)據(jù)賬號被泄露,缺少二次加密、認(rèn)證等措施,易于被截取篡改。

    2.1.3 數(shù)據(jù)端

    (1)邊緣節(jié)點(diǎn)數(shù)據(jù)重存儲輕備份。由于邊緣節(jié)點(diǎn)位于邊緣端,一旦遭受惡意攻擊或不可抗力導(dǎo)致數(shù)據(jù)丟失或損壞,在邊端雖有存儲但云端未備份情況下,數(shù)據(jù)難以恢復(fù)。(2)敏感數(shù)據(jù)易被劫持。邊緣計(jì)算靠近讀者側(cè)對數(shù)據(jù)進(jìn)行處理,源數(shù)據(jù)存儲豐富,且多為敏感數(shù)據(jù),其中如借閱證數(shù)據(jù)、畫像數(shù)據(jù)等單一數(shù)據(jù)、場景位置定位導(dǎo)航數(shù)據(jù)、虛擬尋書軌跡數(shù)據(jù)等行為數(shù)據(jù)具有風(fēng)險。(3)數(shù)據(jù)服務(wù)遷移。多樣設(shè)備與邊緣數(shù)據(jù)中心的交互作用以及跨網(wǎng)域范圍的服務(wù)遷移都有可能造成惡意行為發(fā)生。當(dāng)上傳數(shù)據(jù)涉及到多個邊緣節(jié)點(diǎn)時,數(shù)據(jù)被分開存儲容易造成丟失或誤用,也有可能會被篡改和濫用,由此會造成數(shù)據(jù)泄露和圖書館用戶行為數(shù)據(jù)隱私泄露問題。

    2.1.4 應(yīng)用服務(wù)端

    (1)第三方不安全性。智慧圖書館以新一代圖書館管理系統(tǒng)為主,而系統(tǒng)多以兼具開放接口為主要特色,這些接口需動態(tài)感知并防范惡意接入與意外輸出,尤其是防護(hù)APT攻擊。(2)運(yùn)行監(jiān)測不間斷。邊緣端分布式、海量、異構(gòu)設(shè)備實(shí)現(xiàn)互聯(lián),系統(tǒng)面臨多樣化的未知威脅,只有持續(xù)迭代的優(yōu)化方式方能實(shí)現(xiàn)圖書館邊緣生態(tài)安全。(3)管理員安全意識薄弱。智慧圖書館邊緣智能設(shè)備逐漸增多,如何管理龐大的邊緣設(shè)備,對管理員是一種挑戰(zhàn)。

    2.2 圖書館智慧化轉(zhuǎn)型發(fā)展中面臨的邊緣安全問題

    上述各端點(diǎn)風(fēng)險將使圖書館在智慧化的轉(zhuǎn)型發(fā)展中面臨智能設(shè)備廣泛接入而計(jì)算能力不斷下沉的情況,處于日益增多的安全威脅,其中面臨的邊緣安全問題主要有以下五點(diǎn)。

    (1)對圖書館邊緣核心業(yè)務(wù)的訪問,存在諸如關(guān)鍵數(shù)據(jù)(如資源數(shù)據(jù)、管理數(shù)據(jù)、空間數(shù)據(jù)、用戶數(shù)據(jù))、核心業(yè)務(wù)系統(tǒng)(如圖書借還系統(tǒng)、圖書館虛擬云平臺、知識產(chǎn)權(quán)一體化平臺)等安全問題。

    (2)館外經(jīng)網(wǎng)絡(luò)中心雖擁有最高級別的網(wǎng)絡(luò)安全防護(hù)措施,如web應(yīng)用防火墻、上網(wǎng)行為管理網(wǎng)關(guān)等防護(hù)軟件,但館內(nèi)邊緣終端設(shè)備接入尚處于透明狀態(tài),如何防止從內(nèi)部被非法接入是需要考慮的重要安全問題。

    (3)移動終端智能化、網(wǎng)絡(luò)化水平的提高,致使大量終端通過網(wǎng)絡(luò)接口接入,應(yīng)考慮如何保障邊緣終端的入網(wǎng)安全。

    (4)網(wǎng)絡(luò)打印機(jī)、自主借閱機(jī)、檢索機(jī)等網(wǎng)絡(luò)邊緣靜態(tài)設(shè)備的安全問題。

    (5)邊緣日志審計(jì)、數(shù)據(jù)備份等安全問題。

    3 智慧圖書館邊緣安全防護(hù)流程及范圍

    為有效保障智慧圖書館邊緣數(shù)據(jù)安全,縮小或化解對數(shù)據(jù)的潛在安全威脅,基于邊緣學(xué)習(xí)隱私計(jì)算技術(shù)部署智慧圖書館邊緣數(shù)據(jù)安全防護(hù)流程與范圍、架構(gòu),制定保護(hù)方案,才能較好地應(yīng)對潛在的邊緣安全風(fēng)險。

    邊緣安全的防護(hù)涉及面較廣,需從整體與局部共同治理。在整體層面上要完善邊緣安全法規(guī),明確保護(hù)對象、責(zé)任及范疇,細(xì)化安全分類標(biāo)準(zhǔn),制定邊緣安全的合理評估標(biāo)準(zhǔn)。局部層面上要以技術(shù)為依托,結(jié)合對象的制定不同的安全標(biāo)準(zhǔn)已適應(yīng)智慧圖書館邊緣計(jì)算的應(yīng)用。由此在將邊緣計(jì)算應(yīng)用于圖書館智慧化建設(shè)中時,需要根據(jù)智慧圖書館邊緣安全的防護(hù)流程(圖2),從邊緣基礎(chǔ)設(shè)施、邊緣網(wǎng)絡(luò)、邊緣數(shù)據(jù)、邊緣服務(wù)視角制定好防護(hù)措施。

    3.1 邊緣基礎(chǔ)設(shè)施安全

    邊緣基礎(chǔ)設(shè)施安全(EdgeInfrastructureSecurity,EIS)是邊緣計(jì)算載體的軟硬件基礎(chǔ),亦是智慧圖書館邊緣計(jì)算的重要保障,主要涉及到邊緣載體的安全性、分布式設(shè)備管理的安全性、AI模型保護(hù)等。對于邊緣基礎(chǔ)設(shè)施安全可借助完整性證實(shí)、身份識別、OS統(tǒng)一管理,保障系統(tǒng)的完整性與穩(wěn)定性。邊緣基礎(chǔ)設(shè)施可配備篡改檢測機(jī)制,建立在可信執(zhí)行環(huán)境之下,用于確?;A(chǔ)設(shè)施的整體防護(hù)。在邊緣載體的安全性上可給予硬件基礎(chǔ)軟件防護(hù)的技術(shù)保障,如采用安全引導(dǎo)技術(shù)保障OS系統(tǒng)的規(guī)范性,以便后期對OS系統(tǒng)接口及應(yīng)用程序加密證書的統(tǒng)一管理。可采用遠(yuǎn)程認(rèn)證技術(shù)保障圖書館VPN不被惡意利用的安全;以及驅(qū)動器加密技術(shù)對邊緣物理載體實(shí)施硬件上的密鑰防護(hù)。在分布式設(shè)備管理的安全性上對于使用AI模型進(jìn)行分析的智慧圖書館異構(gòu)終端系統(tǒng)來說,應(yīng)確保系統(tǒng)之間經(jīng)過身份驗(yàn)證和加密的雙重加密方式。

    3.2 邊緣網(wǎng)絡(luò)安全

    邊緣網(wǎng)絡(luò)安全(EdgeNetworkSecurity,ENS)是實(shí)現(xiàn)邊緣載體間通信的必要條件,是邊緣計(jì)算應(yīng)用于智慧圖書館的關(guān)鍵。在遠(yuǎn)離云端部署邊緣計(jì)算時要考慮網(wǎng)絡(luò)安全風(fēng)險,可從完善可信協(xié)議、網(wǎng)絡(luò)監(jiān)測、網(wǎng)絡(luò)防護(hù)層面確保其安全。圖書館網(wǎng)絡(luò)內(nèi)的所有通信協(xié)議都應(yīng)被作為潛在的威脅,意味著數(shù)據(jù)傳輸前限制每個讀者在獲取其所需資源下使用盡可能少的網(wǎng)絡(luò)資源,并進(jìn)行讀者的認(rèn)證登錄。一是能夠提供當(dāng)前登錄的有效憑證,并通過與網(wǎng)絡(luò)中心進(jìn)行身份驗(yàn)證,確保其已被授權(quán)訪問網(wǎng)絡(luò),當(dāng)完成此操作后,只需通過日志記錄檢查來不斷驗(yàn)證其網(wǎng)絡(luò)行為的安全性。二是通過在原有協(xié)議基礎(chǔ)上增加安全層,確保與網(wǎng)絡(luò)的安全連接,如將原有協(xié)議進(jìn)行組裝,通過VPN、SSL等安全通道進(jìn)行數(shù)據(jù)傳輸。網(wǎng)絡(luò)安全防護(hù)還可通過建立零信任網(wǎng)絡(luò)保障安全。零信任網(wǎng)絡(luò)建設(shè)沒有信任[8],任何讀者借助網(wǎng)絡(luò)訪問資源時,均需驗(yàn)證,當(dāng)讀者完成特定時間內(nèi)的特定任務(wù)時,讀者端在網(wǎng)絡(luò)上的任何接入點(diǎn)都將被分配一個信任策略,用于確定讀者的身份,并利用網(wǎng)絡(luò)監(jiān)測系統(tǒng)創(chuàng)建限制篡改或惡意行為的特定信任策略。

    3.3 邊緣數(shù)據(jù)安全

    邊緣數(shù)據(jù)安全(EdgeDataSecurity,EDS)保障邊緣載體在存儲、分布異構(gòu)的邊緣網(wǎng)絡(luò)環(huán)境下數(shù)據(jù)傳輸?shù)陌踩裕菆D書館邊緣計(jì)算應(yīng)用的核心。面向行業(yè)智能2.0的需求,圖書館需要通過邊緣計(jì)算在網(wǎng)絡(luò)邊緣側(cè)建立數(shù)據(jù)中心實(shí)現(xiàn)物的自主化,增強(qiáng)圖書館數(shù)據(jù)與知識分享的協(xié)作化,以及通過學(xué)習(xí)數(shù)據(jù)協(xié)作化增強(qiáng)圖書館邊緣智能設(shè)備的自主化,為讀者創(chuàng)造服務(wù)價值。在此過程中,邊緣數(shù)據(jù)中心大多需要進(jìn)行安全存儲、數(shù)據(jù)脫敏與監(jiān)測等防范。中心不是單一的部件,而是涉及到圖書館端到端的開放平臺,因此邊緣數(shù)據(jù)中心面臨一定的安全威脅。在傳感器和通信不可靠情況下,邊緣數(shù)據(jù)中心可通過利用多維參考數(shù)據(jù)源和歷史數(shù)據(jù)記錄,提供可靠服務(wù)。在安全存儲方面,邊緣計(jì)算+5G環(huán)境下的圖書館面臨著異構(gòu)設(shè)備間的相互協(xié)作,面臨著數(shù)據(jù)丟失風(fēng)險??山柚鷧^(qū)塊鏈技術(shù)能夠保護(hù)數(shù)據(jù)的可靠性和安全性,如一個或多個拜占庭故障的設(shè)備就能夠讓聯(lián)邦學(xué)習(xí)機(jī)制面臨危險,而采用區(qū)塊鏈技術(shù)就能夠建立安全的協(xié)同機(jī)制并排除可疑的拜占庭成員[9]。去中心化的區(qū)塊鏈能夠讓不信任邊緣異構(gòu)設(shè)備間建立共識機(jī)制,能夠解決圖書館各物聯(lián)設(shè)備間因智能合約而存在的基礎(chǔ)問題,保障圖書館各物聯(lián)設(shè)備間的數(shù)據(jù)安全。在數(shù)據(jù)脫敏與監(jiān)測方面,在邊緣數(shù)據(jù)中心5G高速率的支持下,通過邊緣服務(wù)器寄存終端用戶機(jī)構(gòu)知識庫隱私數(shù)據(jù)的上傳下達(dá),可減少中途被竊取的可能性,并借助區(qū)塊鏈保證隱私數(shù)據(jù)的安全及鏈上數(shù)據(jù)存儲,以便用戶能夠?qū)?shù)據(jù)進(jìn)行查詢與追溯。對于邊緣計(jì)算靠近圖書館源端,產(chǎn)生的大量敏感數(shù)據(jù),可基于差分隱私、數(shù)據(jù)溯源技術(shù)實(shí)現(xiàn)去中心化的隱私數(shù)據(jù)保護(hù),這樣既可避免第三方的惡意竊取,又能實(shí)現(xiàn)對各異構(gòu)設(shè)備的分布組件式管理。

    3.4 邊緣服務(wù)安全

    邊緣服務(wù)安全(EdgeServiceSecurity,ESS)是將安全要素融入到邊緣生態(tài)發(fā)展需求、測試等各個服務(wù)內(nèi)容中,不僅考慮基礎(chǔ)設(shè)施、網(wǎng)絡(luò)、數(shù)據(jù)的防護(hù),還應(yīng)結(jié)合云計(jì)算、大數(shù)據(jù)、AI等技術(shù)強(qiáng)化防護(hù)措施,通過安全態(tài)勢感知、安全運(yùn)行監(jiān)測及應(yīng)急響應(yīng),實(shí)現(xiàn)邊緣安全服務(wù)前、服務(wù)中、服務(wù)后的防御與響應(yīng)。態(tài)勢感知是指在一定時間和空間內(nèi)觀察并理解系統(tǒng)中的元素及其意義,形成對系統(tǒng)整體狀況的把握,以此預(yù)測未來系統(tǒng)狀態(tài)[10]。首先在邊緣計(jì)算環(huán)境下,通過云邊數(shù)據(jù)協(xié)同[11]、服務(wù)協(xié)同,支持云端對邊緣安全持續(xù)監(jiān)控,需要將實(shí)時態(tài)勢感知無縫嵌入到整個邊緣計(jì)算架構(gòu)中,實(shí)現(xiàn)對邊緣計(jì)算網(wǎng)絡(luò)的持續(xù)檢測與響應(yīng)。在邊緣計(jì)算的場景下,對于分布式的海量異構(gòu)設(shè)備需要通過健全安全監(jiān)管流程,匯聚常規(guī)安全監(jiān)測和防護(hù)行為信息,才能有效保障邊緣數(shù)據(jù)傳輸?shù)陌踩F浯卧趹?yīng)急實(shí)踐響應(yīng)方面,通過云計(jì)算技術(shù)、大數(shù)據(jù)技術(shù)、AI技術(shù),以及借助災(zāi)難恢復(fù)演練技術(shù)、快速恢復(fù)重建技術(shù)、異構(gòu)兼容技術(shù),將需要演練的主機(jī)業(yè)務(wù)快速重建到任意邊緣物理主機(jī)、虛擬機(jī)和云主機(jī),分鐘級完成演練且過程中不影響原主機(jī)業(yè)務(wù)的運(yùn)行,以此提供可視可見的備份—驗(yàn)證—演練—恢復(fù)的邊緣災(zāi)備全流程管理,讓邊緣端擁有自主的災(zāi)備系統(tǒng)運(yùn)營、管理和應(yīng)急能力。

    4 智慧圖書館邊緣安全架構(gòu)思路

    邊緣安全涉及到圖書館智慧化生態(tài)建設(shè)的安全穩(wěn)定,是跨越傳統(tǒng)數(shù)據(jù)中心和云的整體安全防護(hù)體系,因此增強(qiáng)智慧圖書館邊緣基礎(chǔ)設(shè)施、網(wǎng)絡(luò)、數(shù)據(jù)、應(yīng)用服務(wù)安全威脅的能力,是為智慧圖書館邊緣計(jì)算及協(xié)同智慧云邊系統(tǒng)構(gòu)建安全可信環(huán)境,加速并保障圖書館智慧化建設(shè)的健康發(fā)展。

    為了保障邊緣安全,邊緣計(jì)算聯(lián)盟(ECC)在《邊緣計(jì)算參考架構(gòu)2.0》《邊緣計(jì)算參考架構(gòu)3.0》的基礎(chǔ)上,聯(lián)合AII發(fā)布針對邊緣網(wǎng)絡(luò)架構(gòu)的變遷而面臨安全風(fēng)險,制定《邊緣計(jì)算安全白皮書》,提出五大需求特征及十二個最重要的安全挑戰(zhàn),包括海量、異構(gòu)、資源約束、分布式實(shí)時性五大需求特征,以及邊緣接入、邊緣服務(wù)器及邊緣管理等層面的十二大挑戰(zhàn)[12]?;谖宕笮枨筇卣髋c十二大挑戰(zhàn),筆者認(rèn)為應(yīng)從基礎(chǔ)設(shè)施端、網(wǎng)絡(luò)端、數(shù)據(jù)端、應(yīng)用服務(wù)端考慮智慧圖書館邊緣計(jì)算將要面臨的安全威脅,建立智慧圖書館邊緣安全架構(gòu)。

    從應(yīng)對智慧圖書館邊緣安全面臨的安全風(fēng)險考慮,幫助管理員識別和消除邊緣系統(tǒng)潛在的安全風(fēng)險,邊緣安全架構(gòu)需滿足如下功能:(1)滿足物理和數(shù)字圖書館的安全協(xié)作要求。對物理圖書館建立實(shí)時、系統(tǒng)的安全防護(hù)模型,在數(shù)字圖書館中模擬演示安全狀態(tài)、結(jié)果,進(jìn)而驅(qū)動物理圖書館優(yōu)化安全措施。系統(tǒng)運(yùn)行中能夠?qū)⑽锢淼娜】抵芷跀?shù)據(jù)與安全測試數(shù)據(jù)建立協(xié)同,實(shí)現(xiàn)動態(tài)過程協(xié)作。(2)能實(shí)現(xiàn)跨場景的風(fēng)險防范。通過在關(guān)鍵的邊緣智能設(shè)備實(shí)現(xiàn)可信執(zhí)行環(huán)境的封裝,以組對安全風(fēng)險進(jìn)行控制,避免攻擊由點(diǎn)到鏈。(3)具備安全監(jiān)測的持續(xù)性與響應(yīng)性。防護(hù)對象與對象之間、參與者與防護(hù)者之間、防護(hù)者與被防護(hù)者之間應(yīng)建立持續(xù)性的防護(hù)手段,要能夠持續(xù)的將安全檢測與修正嵌入到整個智慧圖書館邊緣計(jì)算安全架構(gòu)之中?;谏鲜隼砟睿岢鋈缦碌闹腔蹐D書館邊緣安全架構(gòu)(圖3)。

    在考慮邊緣安全風(fēng)險因素的情況下,確定智慧圖書館邊緣安全(ECS)的防護(hù)對象有邊緣基礎(chǔ)設(shè)施安全(EIS)、邊緣網(wǎng)絡(luò)安全(ENS)、邊緣數(shù)據(jù)安全(EDS)、邊緣服務(wù)安全(ESS)四個方面。其主要防范風(fēng)險的流程:邊緣端通過常規(guī)檢測及行為檢測時收集的檢測行為信息,邊緣安全服務(wù)器將采集的檢測行為信息上報(bào)圖書館云端(LibCloud),制定安全范圍;待LibCloud構(gòu)建安全范圍后,由終端發(fā)布安全范圍,并同步到所有適配的邊緣載體中形成邊緣安全范圍,之后根據(jù)EC安全范圍判斷異常信息,一并上報(bào)到邊緣計(jì)算安全管理中心(EdgeComputingSecurity ManagementCenter,ECSMC);終端通過設(shè)置告警策略,及時接收異常信息與漏洞信息時,漏洞信息在邊緣端進(jìn)行漏洞庫文件比對并備份至云端,終端管理員選擇云端下發(fā)的漏洞補(bǔ)丁進(jìn)行優(yōu)先級修復(fù)。日志文件存儲安全操作歷史記錄并備份至云端,方便管理員查看邊緣終端安全運(yùn)行軌跡。

    5 智慧圖書館邊緣安全部署及方案

    智慧圖書館應(yīng)用邊緣計(jì)算有助于解決服務(wù)與效率的不平衡問題,利用邊緣設(shè)備、網(wǎng)關(guān)和網(wǎng)絡(luò)的計(jì)算能力,在保留云計(jì)算固有的資源動態(tài)分配及持續(xù)交付的優(yōu)勢原則下,憑借邊緣計(jì)算技術(shù)優(yōu)勢,創(chuàng)造新的機(jī)會,將分析功能帶到數(shù)據(jù)最先創(chuàng)建和操作執(zhí)行的位置。但由于邊緣計(jì)算更靠近數(shù)據(jù)端處理數(shù)據(jù),其面對的未知風(fēng)險較云會更加突出。因此如何規(guī)避風(fēng)險,降低邊緣安全風(fēng)險率顯得尤為重要。為此,以智慧圖書館多空間并存、泛終端接入、邊數(shù)據(jù)產(chǎn)出為背景,分析和制定智慧圖書館邊緣數(shù)據(jù)安全的保障策略方案。

    5.1 數(shù)據(jù)類型及對應(yīng)的安全部署

    在圖書館智慧化建設(shè)中,總體包括四大類十小類數(shù)據(jù)類型,其數(shù)據(jù)安全級別亦不相同,其中資源數(shù)據(jù)下的元數(shù)據(jù)及用戶數(shù)據(jù)下的單一數(shù)據(jù)較其他數(shù)據(jù)屬于高防護(hù)數(shù)據(jù),涉及到敏感數(shù)據(jù)問題,應(yīng)當(dāng)應(yīng)用最高防護(hù)措施進(jìn)行安全部署,即“邊—端”部署,而資源數(shù)據(jù)、管理數(shù)據(jù)、空間數(shù)據(jù)、用戶數(shù)據(jù)的其他數(shù)據(jù)類型采用相對較低的防護(hù)措施,即“云—邊—端”部署方案?;诖烁鶕?jù)智慧圖書館可能存在的邊緣實(shí)際數(shù)據(jù)的防護(hù)要求,要結(jié)合邊緣學(xué)習(xí)隱私計(jì)算框架[13]“云—邊—端”(云為主節(jié)點(diǎn),針對隱私級別較高數(shù)據(jù),終端需具備一定計(jì)算和通信能力)及“邊—端”(邊緣中心為主節(jié)點(diǎn),針對隱私數(shù)據(jù)極高數(shù)據(jù),終端具有較強(qiáng)的保護(hù)需求,并具備一定的計(jì)算和通信能力)部署,對數(shù)據(jù)分配合理的部署模式,以實(shí)現(xiàn)源頭處數(shù)據(jù)保護(hù),如表1所示。

    5.2 智慧圖書館邊緣數(shù)據(jù)安全總體架構(gòu)

    該方案是以邊緣學(xué)習(xí)隱私計(jì)算框架為基礎(chǔ)構(gòu)建智慧圖書館邊緣數(shù)據(jù)安全的總體架構(gòu)。一方面基于“云—邊—端”與實(shí)際應(yīng)用場景的計(jì)算框架,在聯(lián)邦學(xué)習(xí)[14]的基礎(chǔ)上強(qiáng)調(diào)分布式學(xué)習(xí),使得數(shù)據(jù)能夠在邊緣載體端進(jìn)行模型訓(xùn)練和模型推理。然而,聯(lián)邦學(xué)習(xí)的分布式特點(diǎn)及安全聚合機(jī)制往往讓數(shù)據(jù)造假變得很容易,更難被發(fā)現(xiàn)和舉證,因此在模型訓(xùn)練中要注重保護(hù)各方數(shù)據(jù)的隱私性,模型推理時各方一方面可依據(jù)訓(xùn)練結(jié)果協(xié)作預(yù)測;另一方面,邊緣中心還可通過模型參數(shù)以密文的方式與云計(jì)算中心進(jìn)行信息交換,以實(shí)現(xiàn)模型更新。與此同時,邊緣中心和云中心通信必要的模型參數(shù)校對/驗(yàn)證過程中要減少對云中心的依賴,降低模型計(jì)算延遲,提高可延展性,以實(shí)現(xiàn)本地?cái)?shù)據(jù)的動態(tài)隱私保護(hù)。由此,在邊緣數(shù)據(jù)安全部署基礎(chǔ)上,應(yīng)針對各類模型的數(shù)據(jù)及實(shí)際應(yīng)用目的。構(gòu)建基于邊緣學(xué)習(xí)的數(shù)據(jù)安全融合與交換模型,如圖4所示。

    在智慧圖書館邊緣數(shù)據(jù)融合與交換平臺下,利用各自數(shù)據(jù)參數(shù)訓(xùn)練模型,以密文方式進(jìn)行交互。當(dāng)需要進(jìn)行風(fēng)險預(yù)測時,結(jié)合各自訓(xùn)練模型建立全局模型實(shí)現(xiàn)共同預(yù)測,保證數(shù)據(jù)和模型的安全性。此外,基于隱私保護(hù)的智慧圖書館邊緣數(shù)據(jù)安全部署方案,采用數(shù)據(jù)分類部署,并以融合交換平臺為中間結(jié)果統(tǒng)一管理,由云端及集中管理中心上傳核心數(shù)據(jù)至備份服務(wù)器,減小風(fēng)險隱患。如圖5所示,假設(shè)智慧圖書館存在A、B、C三個場景,空間數(shù)據(jù)依據(jù)具體場景分配部署方案,其中對于那些網(wǎng)絡(luò)連續(xù)性、安全性要求極高的場景下,以VPN/SSL/專線的通信方式保障。其優(yōu)點(diǎn)是避免因網(wǎng)絡(luò)通信而引發(fā)的泄露風(fēng)險,同時會影響最終的模型訓(xùn)練參數(shù)的準(zhǔn)確性,進(jìn)而由云端下發(fā)的非可信全局模型導(dǎo)致安全風(fēng)險的加大。并依據(jù)邊緣端數(shù)據(jù)隱私級別分配“云—邊—端”或“邊—端”部署方案,以應(yīng)對高隱私數(shù)據(jù)被攻擊風(fēng)險。

    此方案采用了聯(lián)邦學(xué)習(xí)的方式,已訓(xùn)練的學(xué)習(xí)模型可以部署在聯(lián)邦學(xué)習(xí)環(huán)境下的任一節(jié)點(diǎn),以達(dá)成協(xié)同訓(xùn)練的效果,實(shí)現(xiàn)協(xié)同共享(如區(qū)域內(nèi)圖書館對各自特有資源的價值性鑒別)。其中,基于邊緣載體管理中心集中管理模型訓(xùn)練與預(yù)測、長傳下達(dá),要實(shí)現(xiàn)分類部署、分域集中管理,滿足圖書館在不同場景下、不同網(wǎng)絡(luò)環(huán)境下對于數(shù)據(jù)分級分類、統(tǒng)一認(rèn)證的需求。為了提高認(rèn)證的安全性,必須以云端為中心節(jié)點(diǎn),采取終端互認(rèn)證方式,實(shí)現(xiàn)分級模型的全局學(xué)習(xí)。這樣,統(tǒng)一認(rèn)證不僅可在全局模型下把控終端共享訓(xùn)練結(jié)果,還可以使“云—邊—端”及“邊—端”邊緣計(jì)算部署能夠聯(lián)合異構(gòu)分布的終端計(jì)算設(shè)備協(xié)同訓(xùn)練模型。

    對于核心數(shù)據(jù)的安全保障,采取分級的部署方式來保護(hù)關(guān)鍵數(shù)據(jù)、核心業(yè)務(wù)服務(wù)器的訪問安全,可規(guī)范不同場景下的風(fēng)險預(yù)測流程,確保以核心數(shù)據(jù)為防護(hù)目的的管理要求。此外,對于網(wǎng)絡(luò)通道也要進(jìn)行分類管理。規(guī)定網(wǎng)絡(luò)接入與輸出的方式,以安全等級嚴(yán)格限制通道傳輸內(nèi)容,滿足不同網(wǎng)絡(luò)安全威脅,保障通信中的數(shù)據(jù)傳輸安全。

    參考文獻(xiàn):

    人民網(wǎng). IDC與浪潮聯(lián)合發(fā)布2019數(shù)據(jù)及存儲發(fā)展報(bào)告[EB/OL].(2019-10-18) [ 2022-10-20 ]. http://industry.people.com.cn/n1/2019/1018/c413883-31408639.html.

    Gartner. What Edge Computing Means for Infrastructure and Operations Leaders[EB/OL].(2018-10-03) [ 2022-10-20 ]. https://www.gartner.com/smarterwithgartner/what-edge-computing-means-for-infrastructure-and-operations-leaders.

    饒權(quán).全國智慧圖書館體系:開啟圖書館智慧化轉(zhuǎn)型新篇章[J].中國圖書館學(xué)報(bào),2021,47(1):4-14.

    王茜,張黎.基于云平臺的智慧圖書館系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[J].圖書館,2019(2):46-50.

    馬靜.云計(jì)算環(huán)境下高校圖書館智慧服務(wù)轉(zhuǎn)型路徑研究:以西安外國語大學(xué)圖書館為例[J].圖書館工作與研究,2021(9):69-75.

    周杰.基于邊緣計(jì)算的高校智慧圖書館建設(shè)研究[J].圖書館,2020(9):52-58.

    中國IDC圈. 2020 5G MEC IP網(wǎng)絡(luò)白皮書[EB/OL].(2020-09-02) [ 2022-10-20 ]. http://news.idcquan.com/news/180173.shtml.

    王群,袁泉,李馥娟,等.零信任網(wǎng)絡(luò)及其關(guān)鍵技術(shù)綜述[J].計(jì)算機(jī)應(yīng)用,2023,43(4):1142-1150.

    ZHU X, LI H, YU Y. Blockchain-based privacy preserving deep learning [C].International Conference on Information Security and Cryptology, 2018: 370-383.

    ENDSLEY M R.Design and evaluation for situation awareness enhancement[J].Proceedings of the Human Factors and Ergonomics Society Annual Meeting, 1988, 32(2) : 97-101.

    周杰,黃妍青,楊帆,等.邊云協(xié)同下移動信息交流信息棧的PKS研究[J].新世紀(jì)圖書館,2019(9):60-65.

    邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟.邊緣計(jì)算安全白皮書[EB/OL].[2019-11-20]. http://www.ecconsortium.org/Lists/show/id/374.html.

    ZHANG J, CHEN B, ZHAO Y, et al. Data security and privacy-preserving in edge computing paradigm: survey and open issues[J]. IEEE Access, 2018(6): 18209-18237.

    LIM W Y B, LUONG N C, HOANG D T, et al. Federated learning in mobile edge networks: a comprehensive survey[J]. IEEE Communications Surveys & Tutorials, 2020, 22(3): 2031-2063.

    周 杰 貴州大學(xué)圖書館館員。 貴州貴陽,550025。

    (收稿日期:2022-11-25 編校:劉 明,陳安琪)

    猜你喜歡
    邊緣計(jì)算智慧圖書館
    面向5G MEC邊緣云的CDN下沉方案
    移動通信(2019年1期)2019-03-13 13:18:30
    區(qū)塊鏈技術(shù)在物聯(lián)網(wǎng)中的應(yīng)用分析
    邊緣計(jì)算下移動智能終端隱私數(shù)據(jù)的保護(hù)方法
    工業(yè)物聯(lián)網(wǎng)智能邊緣計(jì)算應(yīng)用軟件的快捷開發(fā)與設(shè)計(jì)
    邊緣計(jì)算在農(nóng)業(yè)物聯(lián)網(wǎng)中的應(yīng)用
    從“邊緣計(jì)算”看未來企業(yè)辦公場景
    基于“互聯(lián)網(wǎng)+”視閾下的智慧圖書館用戶服務(wù)
    Beacon技術(shù)在圖書館信息服務(wù)中的應(yīng)用研究
    智慧圖書館項(xiàng)目建設(shè)的應(yīng)用實(shí)踐
    論智慧圖書館的三大特點(diǎn)
    欧美高清成人免费视频www| 国产美女午夜福利| 欧美高清性xxxxhd video| 亚洲成av人片在线播放无| 欧美最新免费一区二区三区| 日韩中字成人| 搡老妇女老女人老熟妇| 嘟嘟电影网在线观看| 人人妻人人看人人澡| 熟女电影av网| av国产免费在线观看| 久久久久久大精品| 久久久久性生活片| 日韩一区二区视频免费看| 岛国毛片在线播放| 亚洲欧美成人综合另类久久久 | 91在线精品国自产拍蜜月| 毛片女人毛片| 国产在视频线在精品| 大香蕉久久网| 国产伦精品一区二区三区视频9| 欧美日韩乱码在线| 麻豆av噜噜一区二区三区| 精品久久久久久成人av| 校园春色视频在线观看| 观看免费一级毛片| 成人美女网站在线观看视频| 啦啦啦观看免费观看视频高清| 尾随美女入室| 99久久精品国产国产毛片| 一本一本综合久久| 久久精品久久久久久久性| 别揉我奶头 嗯啊视频| 日本三级黄在线观看| 国产亚洲精品av在线| 国产乱人视频| 青春草亚洲视频在线观看| 最近2019中文字幕mv第一页| 亚洲欧美日韩高清在线视频| 国产一级毛片七仙女欲春2| 久久婷婷人人爽人人干人人爱| 哪里可以看免费的av片| a级毛片免费高清观看在线播放| 男人和女人高潮做爰伦理| 亚洲久久久久久中文字幕| 麻豆一二三区av精品| 国产乱人视频| 午夜亚洲福利在线播放| 国产片特级美女逼逼视频| 国产av一区在线观看免费| 日韩视频在线欧美| 99久久久亚洲精品蜜臀av| 免费电影在线观看免费观看| 一个人看视频在线观看www免费| 国产三级在线视频| 亚洲最大成人av| 狂野欧美白嫩少妇大欣赏| 午夜视频国产福利| 久久热精品热| 黄色视频,在线免费观看| 在线免费观看不下载黄p国产| 99精品在免费线老司机午夜| 白带黄色成豆腐渣| 婷婷六月久久综合丁香| 插阴视频在线观看视频| 久久久久久久亚洲中文字幕| ponron亚洲| 床上黄色一级片| 久久午夜亚洲精品久久| 九九爱精品视频在线观看| 日韩欧美在线乱码| 22中文网久久字幕| 嫩草影院精品99| 亚洲精品国产av成人精品| 中文字幕人妻熟人妻熟丝袜美| 天天一区二区日本电影三级| av国产免费在线观看| 最近中文字幕高清免费大全6| 久久精品国产99精品国产亚洲性色| 久久久久免费精品人妻一区二区| 五月伊人婷婷丁香| 日韩欧美精品免费久久| 国产日韩欧美在线精品| ponron亚洲| a级毛片免费高清观看在线播放| 日韩一区二区三区影片| 人妻制服诱惑在线中文字幕| 午夜a级毛片| 一个人免费在线观看电影| 亚洲一区高清亚洲精品| 久久久久国产网址| www.色视频.com| 国产高清有码在线观看视频| 蜜桃久久精品国产亚洲av| 婷婷精品国产亚洲av| 少妇丰满av| 性插视频无遮挡在线免费观看| 如何舔出高潮| 网址你懂的国产日韩在线| 日韩欧美一区二区三区在线观看| 性插视频无遮挡在线免费观看| 级片在线观看| av在线蜜桃| 国产成人福利小说| 久久人人爽人人片av| 久久久久久久久久成人| 26uuu在线亚洲综合色| 天天躁日日操中文字幕| 十八禁国产超污无遮挡网站| 麻豆久久精品国产亚洲av| 国产精品三级大全| 免费在线观看成人毛片| 国语自产精品视频在线第100页| 中国美白少妇内射xxxbb| 中文亚洲av片在线观看爽| 丰满人妻一区二区三区视频av| 国内精品宾馆在线| 亚洲欧美成人精品一区二区| 久久精品久久久久久噜噜老黄 | 成人鲁丝片一二三区免费| 欧美激情久久久久久爽电影| 国产精品免费一区二区三区在线| 日韩 亚洲 欧美在线| 国产伦精品一区二区三区四那| 久久久午夜欧美精品| а√天堂www在线а√下载| 亚洲久久久久久中文字幕| 亚洲人成网站在线播放欧美日韩| 国产国拍精品亚洲av在线观看| 51国产日韩欧美| 特级一级黄色大片| 久久久久久久久大av| 亚洲最大成人手机在线| 亚洲av中文字字幕乱码综合| 午夜a级毛片| 能在线免费看毛片的网站| 精品久久久噜噜| 国内精品美女久久久久久| 国产一区二区亚洲精品在线观看| 精品久久久久久成人av| 精品熟女少妇av免费看| 日韩强制内射视频| 内地一区二区视频在线| 不卡一级毛片| 国产精品精品国产色婷婷| 亚洲av电影不卡..在线观看| 欧美精品一区二区大全| 超碰av人人做人人爽久久| 日本黄色片子视频| 99精品在免费线老司机午夜| 小蜜桃在线观看免费完整版高清| 身体一侧抽搐| 97在线视频观看| 免费看日本二区| 三级经典国产精品| 国产一区二区亚洲精品在线观看| 精品久久久久久成人av| 欧美+亚洲+日韩+国产| 免费观看人在逋| 久久久久久久久久久丰满| 成年女人看的毛片在线观看| 亚洲无线在线观看| 免费一级毛片在线播放高清视频| 欧美bdsm另类| 可以在线观看的亚洲视频| 中国美白少妇内射xxxbb| 亚洲欧美成人综合另类久久久 | 欧洲精品卡2卡3卡4卡5卡区| 日韩精品青青久久久久久| 69人妻影院| 老师上课跳d突然被开到最大视频| 两个人的视频大全免费| 一级毛片久久久久久久久女| 直男gayav资源| 边亲边吃奶的免费视频| 欧美激情在线99| 亚洲在线自拍视频| 亚洲国产精品sss在线观看| 天天躁日日操中文字幕| 欧美日本视频| 国产成人91sexporn| 国产成人aa在线观看| 亚洲最大成人中文| 欧美一区二区国产精品久久精品| 内地一区二区视频在线| 国产极品天堂在线| 亚洲五月天丁香| 成人美女网站在线观看视频| 亚洲精品成人久久久久久| 欧美xxxx黑人xx丫x性爽| 亚洲三级黄色毛片| 久久精品国产亚洲av香蕉五月| 国产精品一区www在线观看| 国产探花极品一区二区| 99在线人妻在线中文字幕| 韩国av在线不卡| 国语自产精品视频在线第100页| 亚洲熟妇中文字幕五十中出| 国产v大片淫在线免费观看| 成年女人看的毛片在线观看| 国产精品女同一区二区软件| 亚洲人成网站高清观看| 热99在线观看视频| 免费在线观看成人毛片| 国产精品一区二区性色av| 一夜夜www| av在线老鸭窝| 久久精品夜夜夜夜夜久久蜜豆| 国产精品久久久久久精品电影小说 | 国产亚洲欧美98| 国产高清不卡午夜福利| 色哟哟·www| 亚洲人成网站在线播| 国内精品美女久久久久久| 一夜夜www| 午夜精品一区二区三区免费看| 深夜a级毛片| 97热精品久久久久久| 国产午夜精品一二区理论片| 在线免费观看的www视频| 成年免费大片在线观看| 全区人妻精品视频| 亚洲av第一区精品v没综合| 亚洲天堂国产精品一区在线| 国产不卡一卡二| 精品人妻熟女av久视频| 全区人妻精品视频| 校园人妻丝袜中文字幕| 天堂av国产一区二区熟女人妻| avwww免费| 欧美xxxx性猛交bbbb| 亚洲国产精品合色在线| 噜噜噜噜噜久久久久久91| 日韩欧美国产在线观看| 在线观看一区二区三区| 麻豆精品久久久久久蜜桃| 女同久久另类99精品国产91| 99国产精品一区二区蜜桃av| 国产伦在线观看视频一区| 亚洲一级一片aⅴ在线观看| 国产单亲对白刺激| 日韩人妻高清精品专区| 美女内射精品一级片tv| 人妻制服诱惑在线中文字幕| 中文字幕熟女人妻在线| 午夜精品一区二区三区免费看| 自拍偷自拍亚洲精品老妇| 午夜福利在线观看吧| 国产精品人妻久久久久久| 国产精品,欧美在线| 亚洲精品456在线播放app| 人妻夜夜爽99麻豆av| 岛国在线免费视频观看| 免费av观看视频| 黑人高潮一二区| 亚洲av电影不卡..在线观看| 国产精品久久久久久亚洲av鲁大| 高清毛片免费观看视频网站| 亚洲国产精品合色在线| 免费大片18禁| 久久久久久久久中文| 国产精品国产三级国产av玫瑰| 一级av片app| 成人毛片60女人毛片免费| 欧美激情在线99| 久久久欧美国产精品| 久久久久久久久久黄片| 内地一区二区视频在线| av国产免费在线观看| 最近的中文字幕免费完整| 成人亚洲欧美一区二区av| 午夜亚洲福利在线播放| 亚洲国产日韩欧美精品在线观看| 亚洲内射少妇av| 国产久久久一区二区三区| 日产精品乱码卡一卡2卡三| 国产成人影院久久av| 看免费成人av毛片| 国产黄色小视频在线观看| a级一级毛片免费在线观看| 99久久中文字幕三级久久日本| 欧美成人精品欧美一级黄| 日本黄色视频三级网站网址| 在线观看午夜福利视频| 国产免费男女视频| 床上黄色一级片| 一本精品99久久精品77| 3wmmmm亚洲av在线观看| 性欧美人与动物交配| 天天躁夜夜躁狠狠久久av| 97热精品久久久久久| av在线亚洲专区| 床上黄色一级片| 老女人水多毛片| av免费观看日本| 99热全是精品| 波多野结衣高清无吗| 麻豆国产av国片精品| 女同久久另类99精品国产91| 18禁在线无遮挡免费观看视频| 国产免费男女视频| 免费观看人在逋| 小蜜桃在线观看免费完整版高清| 久久精品综合一区二区三区| 免费人成在线观看视频色| 91麻豆精品激情在线观看国产| 成人亚洲精品av一区二区| 日本与韩国留学比较| 可以在线观看的亚洲视频| 国产成人精品久久久久久| 国模一区二区三区四区视频| 成人亚洲欧美一区二区av| 狠狠狠狠99中文字幕| 国产精品不卡视频一区二区| 97在线视频观看| 黄色欧美视频在线观看| 亚洲国产欧洲综合997久久,| 精品久久久噜噜| www.色视频.com| 成熟少妇高潮喷水视频| 亚洲成人精品中文字幕电影| 非洲黑人性xxxx精品又粗又长| 边亲边吃奶的免费视频| 成人av在线播放网站| 欧美三级亚洲精品| 一边摸一边抽搐一进一小说| 国产老妇女一区| 免费搜索国产男女视频| 亚洲欧美成人精品一区二区| 国产成人精品婷婷| 99热精品在线国产| 成年女人永久免费观看视频| 波多野结衣巨乳人妻| 国产精品一区二区三区四区久久| 黄色欧美视频在线观看| 国产成年人精品一区二区| 在线播放国产精品三级| 国产精品一及| 蜜桃久久精品国产亚洲av| 黄片wwwwww| 亚洲精品456在线播放app| 久久人人精品亚洲av| 久久精品国产亚洲网站| 身体一侧抽搐| 99久国产av精品国产电影| 熟女电影av网| 一级毛片我不卡| 三级男女做爰猛烈吃奶摸视频| 69人妻影院| 国产免费男女视频| 成人午夜高清在线视频| 伦理电影大哥的女人| 国产黄色小视频在线观看| 久久久久久久久久成人| 日韩成人av中文字幕在线观看| 亚洲无线观看免费| 噜噜噜噜噜久久久久久91| 亚洲人成网站在线观看播放| 97在线视频观看| 成人午夜精彩视频在线观看| 一级毛片电影观看 | 国产亚洲精品av在线| 久久久久久大精品| 国产精品电影一区二区三区| 国产av不卡久久| 联通29元200g的流量卡| 男女边吃奶边做爰视频| 99精品在免费线老司机午夜| 91久久精品国产一区二区三区| 国产激情偷乱视频一区二区| 国产一区二区在线av高清观看| 可以在线观看毛片的网站| 又粗又硬又长又爽又黄的视频 | 一区福利在线观看| 亚洲精品456在线播放app| 日本与韩国留学比较| 成年免费大片在线观看| 精品人妻视频免费看| 成人二区视频| 久久国产乱子免费精品| 亚洲久久久久久中文字幕| 精品国产三级普通话版| 中文字幕人妻熟人妻熟丝袜美| 久久久久久伊人网av| 国内久久婷婷六月综合欲色啪| 久久婷婷人人爽人人干人人爱| 国产精品永久免费网站| 亚州av有码| 成人综合一区亚洲| 国产一区二区亚洲精品在线观看| 亚洲精华国产精华液的使用体验 | 欧美激情久久久久久爽电影| 免费看美女性在线毛片视频| 人妻制服诱惑在线中文字幕| 性插视频无遮挡在线免费观看| 变态另类成人亚洲欧美熟女| 高清毛片免费观看视频网站| 日本-黄色视频高清免费观看| 在现免费观看毛片| 大型黄色视频在线免费观看| 狂野欧美白嫩少妇大欣赏| 亚洲精品自拍成人| 国产视频内射| 久久精品人妻少妇| 成人鲁丝片一二三区免费| 国产 一区精品| 欧美极品一区二区三区四区| 婷婷六月久久综合丁香| 中文字幕人妻熟人妻熟丝袜美| 97超视频在线观看视频| 成人一区二区视频在线观看| 最近视频中文字幕2019在线8| 午夜免费男女啪啪视频观看| 午夜亚洲福利在线播放| 国产精品一区二区三区四区免费观看| videossex国产| 久久精品91蜜桃| av女优亚洲男人天堂| 欧美+亚洲+日韩+国产| 国产精品一二三区在线看| 深夜a级毛片| 成人亚洲精品av一区二区| 久久婷婷人人爽人人干人人爱| 色尼玛亚洲综合影院| 日韩欧美三级三区| 成人午夜精彩视频在线观看| 中国国产av一级| 日韩国内少妇激情av| 国产成人a∨麻豆精品| 熟女电影av网| 久久久久网色| 男人舔奶头视频| 免费看av在线观看网站| 久久精品国产亚洲av香蕉五月| 一本精品99久久精品77| 国产男人的电影天堂91| 天堂av国产一区二区熟女人妻| or卡值多少钱| 一级毛片aaaaaa免费看小| 日韩强制内射视频| 久久久久免费精品人妻一区二区| 综合色丁香网| 麻豆成人av视频| 天美传媒精品一区二区| 国产精品一区二区三区四区免费观看| 偷拍熟女少妇极品色| 麻豆一二三区av精品| 国产视频首页在线观看| 亚洲无线观看免费| 免费人成视频x8x8入口观看| 国产亚洲精品久久久久久毛片| 国产精华一区二区三区| 1000部很黄的大片| 久久久久性生活片| 日韩中字成人| 丝袜喷水一区| 亚洲精品粉嫩美女一区| 久久久久久久久中文| 国产精品精品国产色婷婷| 不卡视频在线观看欧美| 久久午夜福利片| 欧美三级亚洲精品| 狂野欧美白嫩少妇大欣赏| 2021天堂中文幕一二区在线观| 久久草成人影院| 亚洲欧洲国产日韩| 国产亚洲av片在线观看秒播厂 | 免费人成在线观看视频色| 淫秽高清视频在线观看| 日日摸夜夜添夜夜添av毛片| 日日摸夜夜添夜夜爱| 全区人妻精品视频| 一进一出抽搐动态| 国产爱豆传媒在线观看| 国产亚洲精品久久久com| 亚洲av二区三区四区| 69av精品久久久久久| 国产伦精品一区二区三区四那| 免费看美女性在线毛片视频| 国产精品.久久久| 国产成人影院久久av| 国产女主播在线喷水免费视频网站 | 边亲边吃奶的免费视频| 成年免费大片在线观看| 精品国产三级普通话版| 国内精品久久久久精免费| 九九热线精品视视频播放| 内射极品少妇av片p| 午夜福利在线观看吧| av在线蜜桃| 韩国av在线不卡| 国产精品无大码| 九九爱精品视频在线观看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 在线播放无遮挡| 99国产精品一区二区蜜桃av| 欧美三级亚洲精品| 久久99热6这里只有精品| www日本黄色视频网| 国产又黄又爽又无遮挡在线| 男女边吃奶边做爰视频| 搞女人的毛片| 最后的刺客免费高清国语| 一区二区三区高清视频在线| 又爽又黄无遮挡网站| 日日撸夜夜添| 麻豆一二三区av精品| 日韩成人av中文字幕在线观看| 亚洲色图av天堂| 1024手机看黄色片| 国内少妇人妻偷人精品xxx网站| 欧美3d第一页| 精品一区二区免费观看| 日韩一区二区视频免费看| 日本免费a在线| 免费在线观看成人毛片| av免费观看日本| 亚洲欧美精品综合久久99| 日本色播在线视频| 晚上一个人看的免费电影| 国产私拍福利视频在线观看| 国产成人午夜福利电影在线观看| 久久韩国三级中文字幕| 国产精品一区二区性色av| 久久精品久久久久久久性| 菩萨蛮人人尽说江南好唐韦庄 | 久久精品国产鲁丝片午夜精品| 一边亲一边摸免费视频| 两性午夜刺激爽爽歪歪视频在线观看| 好男人视频免费观看在线| 1000部很黄的大片| 男人狂女人下面高潮的视频| 久久中文看片网| 免费av观看视频| 一边摸一边抽搐一进一小说| 日本五十路高清| 99久久人妻综合| a级毛片免费高清观看在线播放| 老熟妇乱子伦视频在线观看| 国产精品美女特级片免费视频播放器| 国产高清激情床上av| 青春草视频在线免费观看| 最近中文字幕高清免费大全6| 亚洲一区二区三区色噜噜| 男人狂女人下面高潮的视频| 欧美精品国产亚洲| 人人妻人人澡欧美一区二区| 国产91av在线免费观看| 亚洲熟妇中文字幕五十中出| 人妻制服诱惑在线中文字幕| 99在线视频只有这里精品首页| 精品久久久久久久久亚洲| 99热精品在线国产| av卡一久久| 国产精品久久久久久亚洲av鲁大| 尤物成人国产欧美一区二区三区| 舔av片在线| 夜夜看夜夜爽夜夜摸| 干丝袜人妻中文字幕| 精品午夜福利在线看| 亚洲最大成人中文| 可以在线观看的亚洲视频| 亚洲欧洲国产日韩| 18+在线观看网站| 亚洲国产精品成人综合色| 欧美+亚洲+日韩+国产| 高清在线视频一区二区三区 | 男女视频在线观看网站免费| 国产乱人视频| 中文字幕人妻熟人妻熟丝袜美| 欧美性感艳星| 不卡一级毛片| 亚洲久久久久久中文字幕| 欧美性猛交黑人性爽| av天堂中文字幕网| 日本黄色片子视频| 又粗又硬又长又爽又黄的视频 | 听说在线观看完整版免费高清| 变态另类成人亚洲欧美熟女| 夜夜夜夜夜久久久久| 亚洲国产欧美在线一区| 老熟妇乱子伦视频在线观看| 中文字幕精品亚洲无线码一区| 国产精品一及| 日韩国内少妇激情av| 简卡轻食公司| 国产精品久久久久久精品电影| 尾随美女入室| 国产老妇伦熟女老妇高清| 国产精品av视频在线免费观看| 97超碰精品成人国产| 久久九九热精品免费| 26uuu在线亚洲综合色| 免费av观看视频| 给我免费播放毛片高清在线观看| 18禁黄网站禁片免费观看直播| 国产激情偷乱视频一区二区| 最后的刺客免费高清国语| 国产 一区精品| 免费一级毛片在线播放高清视频| 18禁在线无遮挡免费观看视频| 村上凉子中文字幕在线| 欧美最黄视频在线播放免费| 亚洲婷婷狠狠爱综合网| 最好的美女福利视频网| 亚洲三级黄色毛片| 18禁在线无遮挡免费观看视频| 国产午夜精品久久久久久一区二区三区| 99热精品在线国产| 97热精品久久久久久| 日本色播在线视频| 国产在线男女| 毛片女人毛片| 热99在线观看视频| 国产伦一二天堂av在线观看|