• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    工業(yè)互聯(lián)網(wǎng)安全進(jìn)展與趨勢(shì)

    2019-10-11 00:57:22劉廉如2田志宏3吳云峰

    張 尼, 劉廉如2, 田志宏3, 吳云峰

    (1.中國(guó)電子信息產(chǎn)業(yè)集團(tuán)有限公司 第六研究所, 北京 100083; 2.宜通世紀(jì)物聯(lián)網(wǎng)研究院(廣州)有限公司, 廣東 廣州 510665; 3.廣州大學(xué) 網(wǎng)絡(luò)空間先進(jìn)技術(shù)研究院, 廣東 廣州 510006)

    自21世紀(jì)以來(lái),全球科技創(chuàng)新空前活躍,新一輪的科技革命和產(chǎn)業(yè)變革深刻影響技術(shù)版圖和經(jīng)濟(jì)格局.伴隨著新一代信息技術(shù)創(chuàng)新發(fā)展與制造業(yè)融合滲透,為制造業(yè)發(fā)展注入新活力,加速制造業(yè)進(jìn)入萬(wàn)物互聯(lián)、數(shù)據(jù)驅(qū)動(dòng)、軟件定義、平臺(tái)支撐、服務(wù)增值、智能主導(dǎo)、組織重構(gòu)的新時(shí)代.工業(yè)互聯(lián)網(wǎng)是新型工業(yè)化的超級(jí)引擎,新工業(yè)革命的強(qiáng)大支柱,和供給側(cè)結(jié)構(gòu)性改革的有力武器,成為各國(guó)搶占產(chǎn)業(yè)制高點(diǎn)的戰(zhàn)略選擇.《關(guān)于深化“互聯(lián)網(wǎng)+先進(jìn)制造業(yè)”發(fā)展工業(yè)互聯(lián)網(wǎng)的指導(dǎo)意見》的發(fā)布,確立了我國(guó)深入實(shí)施工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展戰(zhàn)略的決心[1-3].

    宏觀層面,發(fā)展工業(yè)互聯(lián)網(wǎng)有助于推進(jìn)新一代信息技術(shù)與實(shí)體經(jīng)濟(jì)深入融合,形成聚合效應(yīng)、疊加效應(yīng)和倍增效應(yīng),實(shí)現(xiàn)資源配置優(yōu)化從低級(jí)到高級(jí),從局部到全局.中觀層面,以信息化和智能化為契機(jī),依靠日益豐富的應(yīng)用場(chǎng)景,促進(jìn)行業(yè)發(fā)展新舊動(dòng)能轉(zhuǎn)換,搶占產(chǎn)業(yè)生態(tài)的主導(dǎo)權(quán).微觀層面,企業(yè)利用數(shù)據(jù)驅(qū)動(dòng)的新型能力,重構(gòu)研發(fā)創(chuàng)新體系,引領(lǐng)智能制造變革和提升智能服務(wù)能力,實(shí)現(xiàn)提質(zhì)增效,構(gòu)建核心市場(chǎng)競(jìng)爭(zhēng)力[4].

    工業(yè)互聯(lián)網(wǎng)打破了傳統(tǒng)工業(yè)相對(duì)封閉可信的環(huán)境,云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)、5G、人工智能等新興技術(shù)推動(dòng)工業(yè)發(fā)展變革的同時(shí),也將信息技術(shù)體系中的安全風(fēng)險(xiǎn)逐步引入工業(yè)體系,信息系統(tǒng)與工業(yè)系統(tǒng)安全邊界的日漸模糊導(dǎo)致攻擊面不斷加大.近年來(lái),工業(yè)互聯(lián)網(wǎng)安全事件頻發(fā),嚴(yán)重威脅工業(yè)企業(yè),漏洞高速增長(zhǎng)導(dǎo)致行業(yè)風(fēng)險(xiǎn)加劇,多元化攻擊方式加速傳統(tǒng)威脅向工業(yè)系統(tǒng)滲透,網(wǎng)絡(luò)邊界模糊化使得平臺(tái)和設(shè)備成為主要攻擊目標(biāo)[5-7].

    安全是工業(yè)互聯(lián)網(wǎng)發(fā)展的基礎(chǔ)和前提,工業(yè)互聯(lián)網(wǎng)安全是工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的重要組成.為了加快構(gòu)建工業(yè)互聯(lián)網(wǎng)安全保障體系,提升工業(yè)互聯(lián)網(wǎng)安全防護(hù)能力,促進(jìn)工業(yè)互聯(lián)網(wǎng)高質(zhì)量發(fā)展,工業(yè)和信息化部會(huì)同有關(guān)部門起草了《關(guān)于加強(qiáng)工業(yè)互聯(lián)網(wǎng)安全工作的指導(dǎo)意見(征求意見稿)》,提出“2020年底初步形成工業(yè)互聯(lián)網(wǎng)安全保障體系.2025年基本實(shí)現(xiàn)工業(yè)互聯(lián)網(wǎng)安全保障體系的完備可靠.”的總目標(biāo)[8].

    本文組織如下:第1節(jié)介紹了工業(yè)互聯(lián)網(wǎng)安全產(chǎn)業(yè);第2節(jié)給出了安全態(tài)勢(shì)分析;第3節(jié)討論了工業(yè)互聯(lián)網(wǎng)安全標(biāo)準(zhǔn)進(jìn)展;第4節(jié)介紹了工業(yè)互聯(lián)網(wǎng)安全要素;第5節(jié)對(duì)工業(yè)互聯(lián)網(wǎng)安全技術(shù)體系進(jìn)行了分類;第6節(jié)進(jìn)行了總結(jié)與展望.

    1 產(chǎn)業(yè)與市場(chǎng)現(xiàn)狀

    1.1 產(chǎn)業(yè)分析

    工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)是指工業(yè)企業(yè)在貫穿設(shè)計(jì)、生產(chǎn)、管理、銷售、服務(wù)等全流程環(huán)節(jié),以構(gòu)建互聯(lián)互通的全系統(tǒng)網(wǎng)絡(luò)化結(jié)構(gòu)、提升全價(jià)值鏈和全產(chǎn)業(yè)鏈智能化水平為目的,所采用的生產(chǎn)設(shè)備、通信技術(shù)、基礎(chǔ)平臺(tái)、軟件應(yīng)用以及安全方案[9].如圖1,工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)范疇涵蓋設(shè)備層、網(wǎng)絡(luò)層、平臺(tái)層、軟件層與應(yīng)用層五個(gè)層次以及工業(yè)安全體系.其中,設(shè)備層包括智能生產(chǎn)設(shè)備、生產(chǎn)現(xiàn)場(chǎng)智能終端、工業(yè)數(shù)據(jù)中心等;網(wǎng)絡(luò)層包括工廠內(nèi)部和外部的通信;平臺(tái)層包括協(xié)同設(shè)計(jì)、協(xié)同研發(fā)、協(xié)同制造、知識(shí)積累、資源管理和數(shù)據(jù)集成等工業(yè)互聯(lián)網(wǎng)平臺(tái);軟件層包括研發(fā)設(shè)計(jì)、企業(yè)管理、采購(gòu)及供應(yīng)鏈管理、生產(chǎn)管理、質(zhì)量管理、生產(chǎn)控制管理和售后管理軟件等,是面向特定工業(yè)場(chǎng)景實(shí)現(xiàn)經(jīng)驗(yàn)、知識(shí)和最佳實(shí)踐模型化、軟件化的核心環(huán)節(jié);應(yīng)用層包括垂直行業(yè)應(yīng)用、流程應(yīng)用以及基于數(shù)據(jù)分析的相關(guān)應(yīng)用等;工業(yè)安全層包括安全模型與政策,數(shù)據(jù)防護(hù),安全配置與管理、安全監(jiān)測(cè)與分析、通信與連接防護(hù)和終端防護(hù)等.

    圖1 工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)鏈全景圖[9]Fig.1 Panorama of industrial internet industry chain

    工業(yè)互聯(lián)網(wǎng)的安全體系分為三個(gè)維度:防護(hù)對(duì)象、防護(hù)措施和防護(hù)管理[10].

    防護(hù)對(duì)象維度,涵蓋現(xiàn)場(chǎng)設(shè)備、工業(yè)控制系統(tǒng)、工控網(wǎng)絡(luò)、工業(yè)應(yīng)用和工業(yè)數(shù)據(jù)五大安全要素.

    防護(hù)措施維度,包括事前安全防護(hù)、事中態(tài)勢(shì)感知和事后處置恢復(fù)三個(gè)環(huán)節(jié).

    防護(hù)管理維度,包括安全目標(biāo)、安全評(píng)估和安全策略三大流程.

    整個(gè)安全體系的運(yùn)行機(jī)制是面向界定的防護(hù)對(duì)象,通過(guò)采取一系列合理適當(dāng)?shù)陌踩胧?,并借助完備健全的防護(hù)管理流程實(shí)現(xiàn)最終的安全防護(hù).

    1.2 市場(chǎng)規(guī)模

    工業(yè)互聯(lián)網(wǎng)的出現(xiàn)打破了IT(信息技術(shù))系統(tǒng)和OT(運(yùn)行技術(shù))系統(tǒng)的邊界,需兼顧工業(yè)生產(chǎn)控制安全和網(wǎng)絡(luò)安全,涵蓋信息安全、物理安全和功能安全.

    工業(yè)互聯(lián)網(wǎng)應(yīng)用范圍和深度不斷擴(kuò)展,逐漸覆蓋能源、交通、電力、水利、石油、石化、金融、物流等領(lǐng)域.與此同時(shí),面向以上行業(yè)的安全威脅事件頻繁發(fā)生,工業(yè)互聯(lián)網(wǎng)安全的市場(chǎng)關(guān)注度隨之提升.據(jù)統(tǒng)計(jì)(圖2),2018年中國(guó)工業(yè)互聯(lián)網(wǎng)安全市場(chǎng)規(guī)模達(dá)到94.6億元[11].

    圖2 2016-2021中國(guó)工業(yè)互聯(lián)網(wǎng)安全市場(chǎng)規(guī)模(賽迪顧問(wèn))Fig.2 Industrial internet security market 2016-2021 in China

    2 安全形勢(shì)分析

    隨著IT和OT一體化的逐步推進(jìn),工廠內(nèi)部和外部實(shí)現(xiàn)互聯(lián)互通,形成了一個(gè)開放共享的網(wǎng)絡(luò)空間.工業(yè)互聯(lián)網(wǎng)技術(shù)的發(fā)展必然導(dǎo)致不確定性與入侵風(fēng)險(xiǎn)不斷增加,工業(yè)互聯(lián)網(wǎng)面臨的安全問(wèn)題也更加突出.

    2.1 工業(yè)互聯(lián)網(wǎng)安全威脅

    工業(yè)互聯(lián)網(wǎng)安全威脅不僅會(huì)為工業(yè)企業(yè)帶來(lái)經(jīng)濟(jì)損失,還有可能直接或間接對(duì)國(guó)民經(jīng)濟(jì)發(fā)展、社會(huì)穩(wěn)定和國(guó)家安全造成影響.典型攻擊手段包括植入木馬、傳播病毒、擺渡攻擊、拒絕服務(wù)攻擊、數(shù)據(jù)竊取篡改、無(wú)線網(wǎng)絡(luò)入侵和人為破壞等.

    從系統(tǒng)工程的視角,安全威脅可分為針對(duì)信息系統(tǒng)的安全威脅和針對(duì)控制系統(tǒng)的安全威脅.針對(duì)信息系統(tǒng)的安全威脅包括節(jié)點(diǎn)捕獲、被動(dòng)攻擊、時(shí)鐘同步攻擊、節(jié)點(diǎn)控制、路由攻擊、跨網(wǎng)攻擊、認(rèn)證攻擊、惡意代碼、拒絕服務(wù)攻擊、用戶隱私泄露和非授權(quán)訪問(wèn)等.針對(duì)控制系統(tǒng)的安全威脅包括控制命令偽造攻擊、感知數(shù)據(jù)篡改攻擊、控制網(wǎng)絡(luò)DOS攻擊和諧振攻擊等.

    從體系架構(gòu)的視角,安全威脅可分為設(shè)備層、網(wǎng)絡(luò)層、應(yīng)用層、數(shù)據(jù)層和控制層等[6-7,10].

    IT與OT網(wǎng)絡(luò)的互通和融合在拓展工業(yè)控制系統(tǒng)發(fā)展空間的同時(shí),也帶來(lái)了工業(yè)控制系統(tǒng)網(wǎng)絡(luò)安全問(wèn)題.

    工業(yè)互聯(lián)網(wǎng)安全面臨的主要威脅包括OT安全管理不到位、IT和OT安全邊界和責(zé)任模糊、IT安全控制在OT領(lǐng)域失效、缺乏OT資產(chǎn)和漏洞的可見性手段和IT以及OT網(wǎng)絡(luò)管理缺乏統(tǒng)一防護(hù)能力等.

    工控系統(tǒng)在互聯(lián)網(wǎng)上的暴露問(wèn)題和工業(yè)互聯(lián)網(wǎng)安全漏洞是工業(yè)互聯(lián)網(wǎng)安全的兩個(gè)典型問(wèn)題[12-14].

    2.2 工控系統(tǒng)暴露與漏洞分析

    文獻(xiàn)[12]研究數(shù)據(jù)顯示,全球工控系統(tǒng)聯(lián)網(wǎng)暴露組件總數(shù)量約為17.6萬(wàn)個(gè).從國(guó)家和地域分布來(lái)看,聯(lián)網(wǎng)的工控組件主要集中在美洲和歐洲國(guó)家,其中美洲占比達(dá)到40%以上.

    從具體國(guó)家來(lái)看(圖3),美國(guó)的工控系統(tǒng)組件聯(lián)網(wǎng)暴露情況最為嚴(yán)重,達(dá)到64 287個(gè);其次是德國(guó),達(dá)13 242個(gè);法國(guó)排名第三,達(dá)7 759個(gè);中國(guó)排名全球第五,為6 223個(gè).

    圖3 世界各國(guó)工控系統(tǒng)組件聯(lián)網(wǎng)暴露數(shù)量及比例分布(Positive Technologies)[14]

    Fig.3 Number and proportional distribution of connected industrial control system worldwide[14]

    安全漏洞問(wèn)題是工業(yè)互聯(lián)網(wǎng)面臨的一個(gè)重要難題.根據(jù)2018年的相關(guān)數(shù)據(jù)統(tǒng)計(jì),安全漏洞呈現(xiàn)出數(shù)量快速增長(zhǎng)、類型多樣化特征明顯、高危漏洞占比較高、涉及廠商以國(guó)際廠商為主和涉及行業(yè)廣泛,以制造業(yè)、能源行業(yè)為主等特點(diǎn).

    如圖4,在2018年工控系統(tǒng)漏洞中,漏洞成因多樣化特征明顯,技術(shù)類型多達(dá)30種以上.其中,拒絕服務(wù)漏洞、緩沖區(qū)溢出漏洞和訪問(wèn)控制漏洞數(shù)量最多、最為常見.

    圖4 工控系統(tǒng)新增漏洞類型分布[14]

    Fig.4 Distribution of new vulnerabilities in Industrial control system[14]

    在2018年工業(yè)控制系統(tǒng)安全漏洞中(圖5),多數(shù)分布在制造業(yè)、能源、水務(wù)、醫(yī)療、食品、石化、軌道交通、冶金、市政、信息技術(shù)等關(guān)鍵基礎(chǔ)設(shè)施行業(yè).制造業(yè)占比最高,涉及的相關(guān)漏洞數(shù)量占比達(dá)到30.6%,打破了能源行業(yè)穩(wěn)居第一的局面,能源行業(yè)涉及的相關(guān)漏洞數(shù)量為23.9%.

    圖5 工控新增漏洞行業(yè)分布[14]

    Fig.5 Industry distribution of new vulnerabilities in industrial control system[14]

    3 標(biāo)準(zhǔn)進(jìn)展

    工業(yè)互聯(lián)網(wǎng)健康發(fā)展必須以規(guī)范的綜合標(biāo)準(zhǔn)體系為基礎(chǔ)和保障.標(biāo)準(zhǔn)先行已經(jīng)成為各國(guó)發(fā)展工業(yè)互聯(lián)網(wǎng)的共識(shí)和發(fā)展趨勢(shì).與發(fā)達(dá)國(guó)家相比,我國(guó)工業(yè)互聯(lián)網(wǎng)標(biāo)準(zhǔn)體系還不夠完善,標(biāo)準(zhǔn)化水平還不高,在工業(yè)互聯(lián)網(wǎng)全球化的競(jìng)爭(zhēng)中處于劣勢(shì)地位,因此,從技術(shù)、產(chǎn)品、安全和服務(wù)等方面構(gòu)建科學(xué)成熟完備的綜合標(biāo)準(zhǔn)體系已迫在眉睫.

    目前,以國(guó)際電工委員會(huì)(IEC)、美國(guó)工業(yè)互聯(lián)網(wǎng)聯(lián)盟(IIC)、美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)、歐盟工業(yè)控制系統(tǒng)網(wǎng)絡(luò)應(yīng)急響應(yīng)小組(ICS-CERT)、德國(guó)電工電子與信息技術(shù)標(biāo)準(zhǔn)化委員會(huì)(DKE)、中國(guó)工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟(AII)和全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)為代表的相關(guān)組織,均在積極布局和推進(jìn)工業(yè)互聯(lián)網(wǎng)安全標(biāo)準(zhǔn)化工作.

    從全球工業(yè)互聯(lián)網(wǎng)標(biāo)準(zhǔn)化組織近年發(fā)展情況來(lái)看,工業(yè)互聯(lián)網(wǎng)安全標(biāo)準(zhǔn)化還處于起步階段,從業(yè)務(wù)、用戶和功能視角全面理解標(biāo)準(zhǔn)化需求,整體把握標(biāo)準(zhǔn)過(guò)程中的關(guān)注點(diǎn),推進(jìn)構(gòu)建安全標(biāo)準(zhǔn)體系建設(shè)是標(biāo)準(zhǔn)化工作重點(diǎn).

    3.1 國(guó)外標(biāo)準(zhǔn)進(jìn)展

    美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)于2015年發(fā)布了《工業(yè)控制系統(tǒng)安全指南》,主要從工控系統(tǒng)架構(gòu)、典型威脅和脆弱性分析、信息安全參考模型和安全措施等方面論述了工業(yè)控制系統(tǒng)安全的重要性及安全威脅的應(yīng)對(duì)策略.2016年11月,該院發(fā)布《制造業(yè)與工業(yè)控制系統(tǒng)安全保障能力評(píng)估》草案,包括行為異常檢測(cè)(如異常流量)、工控應(yīng)用系統(tǒng)白名單、惡意軟件檢測(cè)與應(yīng)對(duì)和工控?cái)?shù)據(jù)完整性等四個(gè)方面.2018年4月,該院發(fā)布《提升關(guān)鍵基礎(chǔ)設(shè)施網(wǎng)絡(luò)安全框架V1.1》,此框架包括框架核心(Core)、實(shí)施層(Implementation Ties)和概況(Profile)三大基本要素[15-16].

    歐盟成立工控安全應(yīng)急響應(yīng)組,負(fù)責(zé)信息收集與共享、各類工控安全事件響應(yīng)分析、行業(yè)安全態(tài)勢(shì)分析和協(xié)調(diào)實(shí)施關(guān)鍵基礎(chǔ)設(shè)施保護(hù)計(jì)劃等工作.其發(fā)布的安全標(biāo)準(zhǔn)及相關(guān)文件包括:《保護(hù)信息時(shí)代社會(huì)安全戰(zhàn)略》《國(guó)家網(wǎng)絡(luò)安全策略——為加強(qiáng)網(wǎng)絡(luò)空間安全的國(guó)家努力設(shè)定線路》《歐盟網(wǎng)絡(luò)安全戰(zhàn)略》《關(guān)鍵基礎(chǔ)設(shè)施保護(hù)計(jì)劃》《網(wǎng)絡(luò)和信息系統(tǒng)安全指令》和《通用數(shù)據(jù)保護(hù)條例》等.

    德國(guó)電氣電子和信息技術(shù)協(xié)會(huì)(DKE)于2013年12月發(fā)布了首個(gè)《德國(guó)工業(yè)4.0標(biāo)準(zhǔn)化路線圖》,完成了德國(guó)的工業(yè)4.0標(biāo)準(zhǔn)化工作的頂層設(shè)計(jì).德國(guó)工業(yè)4.0平臺(tái)也針對(duì)設(shè)備、系統(tǒng)安全的加固增強(qiáng)制定發(fā)布了《工業(yè)4.0中的IT安全》.

    2016年9月,美國(guó)工業(yè)互聯(lián)網(wǎng)聯(lián)盟(IIC)發(fā)布了《工業(yè)互聯(lián)網(wǎng)安全框架》,定義了工業(yè)互聯(lián)網(wǎng)的五大安全特性,為工業(yè)互聯(lián)網(wǎng)安全體系建設(shè)和部署實(shí)施提供最佳實(shí)踐指南[15].

    3.2 國(guó)內(nèi)標(biāo)準(zhǔn)進(jìn)展

    為推動(dòng)工業(yè)信息安全標(biāo)準(zhǔn)體系的健全,全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)相繼制定了《工業(yè)控制系統(tǒng)安全管理基本要求》《工業(yè)控制系統(tǒng)信息安全分級(jí)規(guī)范》《工業(yè)控制系統(tǒng)測(cè)控終端安全要求》和《工業(yè)控制系統(tǒng)信息安全檢查指南》等指導(dǎo)文件,界定了工控系統(tǒng)安全管理的基本原則、安全等級(jí)劃分、安全框架模型和關(guān)鍵行動(dòng),及安全評(píng)估方法和過(guò)程,為工控安全提供遵循依據(jù).

    2016年10月,國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)發(fā)布《工業(yè)自動(dòng)化和控制系統(tǒng)網(wǎng)絡(luò)安全》等6項(xiàng)推薦性國(guó)家標(biāo)準(zhǔn),包括建立工控系統(tǒng)安全程序、可編程控制器防護(hù)要求、集散控制系統(tǒng)的防護(hù)要求、管理要求、評(píng)估指南和風(fēng)險(xiǎn)與脆弱性檢測(cè)要求等.

    2016年2月,在工信部指導(dǎo)下,由中國(guó)信息通信研究院牽頭,聯(lián)合制造業(yè)、通信業(yè)和互聯(lián)網(wǎng)等相關(guān)企業(yè)成立了工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟(AII),下設(shè)總體組、需求組、技術(shù)與標(biāo)準(zhǔn)組、網(wǎng)絡(luò)連接組、平臺(tái)組、安全組、測(cè)試床組、產(chǎn)業(yè)發(fā)展組、國(guó)際合作與對(duì)外交流組、頻譜組、垂直行業(yè)組、政策法規(guī)與投融資組等12個(gè)工作組和9個(gè)特設(shè)組.安全組編寫并發(fā)布了《工業(yè)互聯(lián)網(wǎng)安全總體要求》《工業(yè)互聯(lián)網(wǎng)安全框架白皮書》《工業(yè)云安全防護(hù)參考方案》《工業(yè)互聯(lián)網(wǎng)平臺(tái)安全防護(hù)要求》《工業(yè)互聯(lián)網(wǎng)典型安全解決方案案例匯編》和《中國(guó)工業(yè)互聯(lián)網(wǎng)安全態(tài)勢(shì)報(bào)告(2016)》等文件[17-19].

    上述文件為中國(guó)工業(yè)互聯(lián)網(wǎng)相關(guān)企業(yè)構(gòu)建安全防護(hù)和保障體系提供了頂層框架指導(dǎo)和模型指南,為分析和識(shí)別安全威脅、制定安全防護(hù)對(duì)策、應(yīng)對(duì)安全風(fēng)險(xiǎn)和提升全方位安全防護(hù)能力提供基礎(chǔ)依據(jù)[19].

    2017年7月,為推動(dòng)工業(yè)互聯(lián)網(wǎng)領(lǐng)域標(biāo)準(zhǔn)化活動(dòng),中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)(CCSA)設(shè)立了“工業(yè)互聯(lián)網(wǎng)特設(shè)任務(wù)組(ST8)”,下設(shè)總體與應(yīng)用、網(wǎng)絡(luò)互聯(lián)、標(biāo)識(shí)解析、數(shù)據(jù)與平臺(tái)和安全等五個(gè)工作組.工業(yè)互聯(lián)網(wǎng)安全標(biāo)準(zhǔn)體系包括總體類標(biāo)準(zhǔn)、基礎(chǔ)共性類標(biāo)準(zhǔn)、安全防護(hù)類標(biāo)準(zhǔn)、安全管理與服務(wù)標(biāo)準(zhǔn)和垂直應(yīng)用領(lǐng)域類標(biāo)準(zhǔn)五大類.

    安全工作組已經(jīng)立項(xiàng)了九個(gè)“工業(yè)互聯(lián)網(wǎng)安全防護(hù)體系”系列標(biāo)準(zhǔn),包括《工業(yè)互聯(lián)網(wǎng)安全防護(hù)總體要求》《工業(yè)互聯(lián)網(wǎng)安全接入技術(shù)要求》《工業(yè)互聯(lián)網(wǎng)安全能力成熟度評(píng)估規(guī)范》《工業(yè)互聯(lián)網(wǎng)平臺(tái)安全防護(hù)要求》《工業(yè)互聯(lián)網(wǎng)平臺(tái)安全防護(hù)檢測(cè)要求》《工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)安全保護(hù)要求》《工業(yè)互聯(lián)網(wǎng)平臺(tái)安全風(fēng)險(xiǎn)評(píng)估規(guī)范》《工業(yè)互聯(lián)網(wǎng)安全服務(wù)能力認(rèn)定準(zhǔn)則》和《工業(yè)互聯(lián)網(wǎng)安全監(jiān)測(cè)與管理系統(tǒng)建設(shè)要求》等.

    《工業(yè)互聯(lián)網(wǎng)安全防護(hù)總體要求》描述了安全防護(hù)場(chǎng)景、范圍及內(nèi)容、確定定級(jí)對(duì)象和安全等級(jí),從設(shè)備、網(wǎng)絡(luò)、控制、應(yīng)用和數(shù)據(jù)等方面分別定義了四個(gè)等級(jí)的安全防護(hù)要求.

    《工業(yè)互聯(lián)網(wǎng)安全接入技術(shù)要求》根據(jù)接入場(chǎng)景和安全接入需求,從網(wǎng)絡(luò)安全、設(shè)備安全、應(yīng)用安全和數(shù)據(jù)安全四個(gè)維度定義了基本級(jí)和增強(qiáng)級(jí)安全技術(shù)要求.

    《工業(yè)互聯(lián)網(wǎng)平臺(tái)安全防護(hù)要求》針對(duì)工業(yè)互聯(lián)網(wǎng)平臺(tái)的安全防護(hù)需求,從基本級(jí)和增強(qiáng)級(jí)兩個(gè)角度,定義了涵蓋邊緣層、平臺(tái)IaaS層、平臺(tái)PaaS層和平臺(tái)SaaS層等的防護(hù)要求.

    《工業(yè)互聯(lián)網(wǎng)平臺(tái)安全防護(hù)檢測(cè)要求》定義了安全防護(hù)檢測(cè)對(duì)象、檢測(cè)范圍和檢測(cè)環(huán)境等.

    《工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)安全保護(hù)要求》將工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)分為設(shè)備數(shù)據(jù)、業(yè)務(wù)系統(tǒng)數(shù)據(jù)、知識(shí)庫(kù)數(shù)據(jù)和用戶個(gè)人數(shù)據(jù)等,針對(duì)不同數(shù)據(jù)敏感性等級(jí)(一般數(shù)據(jù)、重要數(shù)據(jù)和敏感數(shù)據(jù)),分別定義了安全保護(hù)要求.

    《工業(yè)互聯(lián)網(wǎng)平臺(tái)安全風(fēng)險(xiǎn)評(píng)估規(guī)范》分析了平臺(tái)安全需求,危險(xiǎn)引入點(diǎn)和傳播途徑,定義了風(fēng)險(xiǎn)評(píng)估的原則、流程、方式、準(zhǔn)備、實(shí)施活動(dòng)、文檔記錄和評(píng)估結(jié)論等.

    在《工業(yè)互聯(lián)網(wǎng)安全能力成熟度評(píng)估規(guī)范》中,標(biāo)準(zhǔn)從風(fēng)險(xiǎn)管理、身份與訪問(wèn)管理、事件響應(yīng)與業(yè)務(wù)連續(xù)性和安全程序管理等九個(gè)維度,定義了工業(yè)互聯(lián)網(wǎng)安全能力成熟度模型,包括無(wú)控制級(jí)、控制級(jí)、定量級(jí)和持續(xù)改進(jìn)級(jí)四個(gè)級(jí)別.

    《工業(yè)互聯(lián)網(wǎng)安全服務(wù)能力認(rèn)定準(zhǔn)則》定義風(fēng)險(xiǎn)評(píng)估和安全設(shè)計(jì)與集成兩類安全服務(wù)的能力要求.

    《工業(yè)互聯(lián)網(wǎng)安全監(jiān)測(cè)與管理系統(tǒng)建設(shè)要求》規(guī)定了工業(yè)互聯(lián)網(wǎng)安全監(jiān)測(cè)與管理系統(tǒng)建設(shè)過(guò)程中,流量實(shí)時(shí)采集、監(jiān)測(cè)、處置和集中管理等具體能力的指標(biāo)參數(shù).

    《工業(yè)互聯(lián)網(wǎng)安全態(tài)勢(shì)感知系統(tǒng)技術(shù)要求》定義了安全態(tài)勢(shì)評(píng)估體系,從資產(chǎn)、流量、運(yùn)行、風(fēng)險(xiǎn)、攻擊、脆弱性和安全事件等態(tài)勢(shì)量化評(píng)估綜合態(tài)勢(shì)信息.

    4 安全要素

    工控系統(tǒng)安全、平臺(tái)安全和數(shù)據(jù)安全是工業(yè)互聯(lián)網(wǎng)安全發(fā)展的核心要素(圖6).

    工業(yè)互聯(lián)網(wǎng)防護(hù)對(duì)象范圍大、安全場(chǎng)景豐富、威脅范圍廣、安全事件危害嚴(yán)重,圍繞安全威脅、防護(hù)措施與手段、發(fā)展趨勢(shì)等,對(duì)核心要素進(jìn)行分析尤為重要[19-27].

    圖6 工業(yè)互聯(lián)網(wǎng)安全要素[20]Fig.6 Security elements of industrial internet[20]

    4.1 工控系統(tǒng)安全

    工控系統(tǒng)是指在工業(yè)生產(chǎn)過(guò)程中,涉及到與控制功能相關(guān)的軟硬件的集合.其中,硬件包括生產(chǎn)設(shè)備、通信設(shè)備、主機(jī)設(shè)備和智能電子設(shè)備等.軟件包括分布式控制系統(tǒng)(DCS)、監(jiān)視控制與數(shù)據(jù)采集系統(tǒng)(SCADA)、運(yùn)動(dòng)控制系統(tǒng)(MC)、過(guò)程控制系統(tǒng)(PCS)和制造執(zhí)行系統(tǒng)(MES)等.工業(yè)控制系統(tǒng)的邏輯架構(gòu)通??煞譃楝F(xiàn)場(chǎng)設(shè)備層、現(xiàn)場(chǎng)控制層、過(guò)程監(jiān)控層、生產(chǎn)管理層和企業(yè)資源層等[28-35].

    工控系統(tǒng)安全是指工業(yè)控制系統(tǒng)中涉及的終端設(shè)備安全、控制協(xié)議、裝置和軟件安全、生產(chǎn)控制網(wǎng)、現(xiàn)場(chǎng)控制網(wǎng)和企業(yè)信息網(wǎng)等網(wǎng)絡(luò)安全等.

    工控系統(tǒng)安全面臨來(lái)自技術(shù)和管理兩個(gè)方面的問(wèn)題和挑戰(zhàn).從技術(shù)層面,安全隱患和問(wèn)題來(lái)自于網(wǎng)絡(luò)結(jié)構(gòu)、安全漏洞、操作行為和內(nèi)核安全(芯片、模塊、操作系統(tǒng)和應(yīng)用)等元素.從管理層面,安全隱患和問(wèn)題由管理體制機(jī)制、維護(hù)行為和標(biāo)準(zhǔn)體系等因素導(dǎo)致[36-42].

    隨著IT和OT快速融合,工控系統(tǒng)面臨的安全威脅也隨之發(fā)生演變進(jìn)化,如工控系統(tǒng)從傳統(tǒng)的內(nèi)網(wǎng)隔離到外網(wǎng)互聯(lián)互通、網(wǎng)絡(luò)攻擊的落腳點(diǎn)轉(zhuǎn)向破壞物理實(shí)體資產(chǎn)、拒絕服務(wù)型漏洞的危害將不斷增加,傳統(tǒng)病毒與工控病毒交織纏繞、工控設(shè)備0day漏洞問(wèn)題日益凸顯.

    工控系統(tǒng)安全產(chǎn)品大致可分為防護(hù)類(網(wǎng)絡(luò)防護(hù)、主機(jī)防護(hù))、隔離類(網(wǎng)閘類、正反向隔離裝置,工業(yè)隔離網(wǎng)關(guān))、監(jiān)測(cè)類(工控審計(jì)、工控入侵檢測(cè)、工業(yè)監(jiān)測(cè)預(yù)警)、檢測(cè)類(漏洞掃描、漏洞挖掘)和運(yùn)維管控類(工業(yè)堡壘機(jī)、移動(dòng)工業(yè)運(yùn)維審計(jì))等.

    工控系統(tǒng)安全防護(hù)應(yīng)充分考慮技術(shù)與管理并舉,采用分層分域分級(jí)隔離,從控制協(xié)議安全、控制軟件安全及控制功能安全角度,構(gòu)建管、控、防一體化的綜合防護(hù)防御體系,提升工業(yè)控制系統(tǒng)內(nèi)生安全水平.

    4.2 平臺(tái)安全

    平臺(tái)作為工業(yè)互聯(lián)網(wǎng)體系的核心,上承應(yīng)用下接設(shè)備,是各類工業(yè)數(shù)據(jù)與資源的載體,日漸成為安全攻擊的重要目標(biāo).平臺(tái)安全在工業(yè)互聯(lián)網(wǎng)安全防護(hù)中關(guān)注度日益提升,備受重視[22,36,39].

    相比傳統(tǒng)云平臺(tái),工業(yè)互聯(lián)網(wǎng)平臺(tái)具有跨行業(yè)跨企業(yè)的特點(diǎn):安全邊界難界定、連接協(xié)議差異性和復(fù)雜度大、覆蓋設(shè)備范圍廣數(shù)量大和安全隱患和風(fēng)險(xiǎn)威脅大.我國(guó)工業(yè)互聯(lián)網(wǎng)平臺(tái)存在的安全問(wèn)題,包括管理體系不完善且不健全、數(shù)據(jù)安全風(fēng)險(xiǎn)隱患日益顯現(xiàn)、平臺(tái)安全產(chǎn)業(yè)仍不成熟和安全保障制度亟待建立等[21].

    工業(yè)互聯(lián)網(wǎng)平臺(tái)安全需求可分為邊緣層、工業(yè)IaaS層、工業(yè)PaaS層和工業(yè)SaaS層等四個(gè)維度.邊緣層設(shè)備安全防護(hù)能力薄弱、安全水平不高;IaaS層面臨新型攻擊方式威脅,如鏡像篡改、跨虛擬機(jī)信道攻擊等;PaaS層的工業(yè)微服務(wù)和應(yīng)用開發(fā)工具存在漏洞,以及網(wǎng)絡(luò)入侵導(dǎo)致敏感信息泄露;SaaS層存在工業(yè)控制指令非法偽裝、APP惡意代碼注入、工業(yè)APP漏洞、API通信安全等.

    國(guó)內(nèi)平臺(tái)企業(yè)風(fēng)險(xiǎn)意識(shí)和安全認(rèn)知不斷提高,安全建設(shè)不斷加強(qiáng).如海爾COSMOPlat平臺(tái)從物理安全、基礎(chǔ)架構(gòu)安全、應(yīng)用安全、數(shù)據(jù)安全、賬號(hào)權(quán)限和訪問(wèn)、安全事件管理和安全運(yùn)維搭建了精準(zhǔn)安全防御體系.瀚云HanClouds平臺(tái)考慮人為因素和管理因素,通過(guò)體系化的鑒權(quán)和授權(quán)設(shè)計(jì),平衡易用性和安全性之間的關(guān)系.

    平臺(tái)安全應(yīng)從標(biāo)準(zhǔn)、技術(shù)、管理、防護(hù)和生態(tài)等方面統(tǒng)籌規(guī)劃,并行推進(jìn)部署多層次立體化安全防護(hù)體系,全方位提升工業(yè)互聯(lián)網(wǎng)平臺(tái)的安全水平,強(qiáng)化工業(yè)互聯(lián)網(wǎng)平臺(tái)的安全能力[43-49].

    4.3 數(shù)據(jù)安全

    根據(jù)數(shù)據(jù)屬性劃分,工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)包括設(shè)備數(shù)據(jù)(運(yùn)行狀態(tài)數(shù)據(jù)、控制指令數(shù)據(jù))、業(yè)務(wù)系統(tǒng)數(shù)據(jù)(生產(chǎn)控制系統(tǒng)數(shù)據(jù)、生產(chǎn)管理系統(tǒng)數(shù)據(jù)和供應(yīng)鏈管理系統(tǒng)數(shù)據(jù))、知識(shí)庫(kù)數(shù)據(jù)(標(biāo)準(zhǔn)文件數(shù)據(jù)、計(jì)算模型數(shù)據(jù)和環(huán)境數(shù)據(jù))和用戶個(gè)人數(shù)據(jù)(身份數(shù)據(jù)、鑒權(quán)數(shù)據(jù)、日志數(shù)據(jù)和內(nèi)容數(shù)據(jù)).

    隨著IT和OT的融合,工廠內(nèi)外部網(wǎng)絡(luò)的隔離被打破,傳統(tǒng)的單向數(shù)據(jù)流動(dòng)向雙向轉(zhuǎn)變,數(shù)據(jù)共享的需求引入了安全風(fēng)險(xiǎn),如數(shù)據(jù)丟失或泄露風(fēng)險(xiǎn)增大.海量異構(gòu)數(shù)據(jù)保護(hù)難度加大、價(jià)值保護(hù)因素引入數(shù)據(jù)保護(hù)體系以及非授權(quán)篡改使用或銷毀等.

    工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)安全需要貫穿數(shù)據(jù)的全生命周期,滿足數(shù)據(jù)采集和產(chǎn)生、數(shù)據(jù)傳輸、數(shù)據(jù)使用、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)遷移、數(shù)據(jù)銷毀和數(shù)據(jù)備份恢復(fù)等環(huán)節(jié)的安全要求.具體防護(hù)措施包括:數(shù)據(jù)加密、訪問(wèn)控制、計(jì)入認(rèn)證、數(shù)據(jù)脫敏、業(yè)務(wù)隔離和數(shù)據(jù)備份等[50-52].

    數(shù)據(jù)安全的防護(hù)應(yīng)分類分級(jí),建立并加強(qiáng)數(shù)據(jù)流動(dòng)管理機(jī)制,實(shí)現(xiàn)數(shù)據(jù)的可審計(jì)和可追溯,保障數(shù)據(jù)在全生命周期過(guò)程中的機(jī)密性、完整性、可靠性和可用性[53-56].

    5 安全技術(shù)分類

    工業(yè)互聯(lián)網(wǎng)安全技術(shù)體系,從信息安全管理維度,可分為分層技術(shù)保護(hù)體系、分域技術(shù)保護(hù)體系、內(nèi)生安全技術(shù)體系、等級(jí)技術(shù)保護(hù)體系和安全過(guò)程技術(shù)保護(hù)體系[40].

    工業(yè)互聯(lián)網(wǎng)安全技術(shù)體系也可以從解決方案的角度進(jìn)行分類.

    (1)以工控系統(tǒng)為出發(fā)點(diǎn)保障工業(yè)互聯(lián)網(wǎng)安全的解決方案,代表者是西門子、羅克韋爾、施耐德、和利時(shí)、浙江中控、電子六所等傳統(tǒng)工控企業(yè).工控廠商基本都遵循IEC62443標(biāo)準(zhǔn)對(duì)控制系統(tǒng),從控制器到編程組態(tài)軟件進(jìn)行信息安全功能設(shè)計(jì),在控制系統(tǒng)中內(nèi)置遠(yuǎn)程訪問(wèn)保護(hù)、高實(shí)時(shí)性通信加解密、完整性檢查、安全邏輯組態(tài)控制、抗重放攻擊與網(wǎng)絡(luò)風(fēng)暴、控制業(yè)務(wù)及網(wǎng)絡(luò)行為審計(jì)、安全事件可追溯等信息安全功能,且應(yīng)通過(guò)針對(duì)工業(yè)控制產(chǎn)品信息安全健壯性和漏洞測(cè)試的、國(guó)際權(quán)威的Achilles level2認(rèn)證.同時(shí),對(duì)于控制系統(tǒng)的邊界防護(hù),采用基于工業(yè)協(xié)議深度數(shù)據(jù)包檢測(cè) (DPI) 技術(shù)的工業(yè)防火墻,防止?jié)撛趷阂夤碳?、程序下載和非法操作.

    (2)以網(wǎng)絡(luò)安全為出發(fā)點(diǎn)保障工業(yè)互聯(lián)網(wǎng)安全的解決方案,代表者是啟明星辰、奇安信和威努特等安全企業(yè).安全廠商多采用多層縱深防御的思路.首先是采用工業(yè)防火墻、工業(yè)網(wǎng)閘等技術(shù)將工業(yè)生產(chǎn)控制網(wǎng)絡(luò)和管理信息網(wǎng)絡(luò)進(jìn)行有效地隔離.其次,重點(diǎn)加強(qiáng)工業(yè)主機(jī)防護(hù),利用諸如白名單技術(shù)應(yīng)對(duì)工業(yè)病毒威脅.再次,通過(guò)部署工業(yè)安全監(jiān)測(cè)系統(tǒng),助力工業(yè)企業(yè)全面掌握工業(yè)資產(chǎn)、工業(yè)網(wǎng)絡(luò)安全威脅、工業(yè)生產(chǎn)異常和故障,應(yīng)對(duì)工業(yè)資產(chǎn)數(shù)量、類型、分布不清楚,設(shè)備斷線、設(shè)備停機(jī)、異常操作難定位等安全管理問(wèn)題.

    (3)以測(cè)試評(píng)估為出發(fā)點(diǎn)保障工業(yè)互聯(lián)網(wǎng)安全,代表者如國(guó)家工業(yè)信息安全發(fā)展研究中心、中國(guó)信息安全測(cè)評(píng)中心、工業(yè)控制系統(tǒng)信息安全技術(shù)國(guó)家工程實(shí)驗(yàn)室等.工業(yè)控制系統(tǒng)信息安全技術(shù)國(guó)家工程實(shí)驗(yàn)室提出了包含自主產(chǎn)品體系、工控安全試驗(yàn)驗(yàn)證平臺(tái)、深度安全防護(hù)體系以及公共安全服務(wù)體系在內(nèi)的工業(yè)互聯(lián)網(wǎng)安全解決方案,構(gòu)建貫穿工業(yè)生產(chǎn)過(guò)程設(shè)計(jì)、運(yùn)行、服務(wù)等全生命周期,覆蓋工業(yè)傳感網(wǎng)、工業(yè)物聯(lián)網(wǎng)、工業(yè)信息網(wǎng)等多層次安全保障體系.

    6 總結(jié)與展望

    工業(yè)領(lǐng)域的社會(huì)生產(chǎn)力迅猛發(fā)展,技術(shù)進(jìn)步和創(chuàng)新穩(wěn)步推進(jìn),工業(yè)生產(chǎn)環(huán)境從封閉走向開放,生產(chǎn)過(guò)程從自動(dòng)化、電子化走向網(wǎng)絡(luò)化、智能化,資源配置優(yōu)化效率不斷提升,工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展勢(shì)頭良好.

    當(dāng)前,我國(guó)工業(yè)互聯(lián)網(wǎng)安全發(fā)展仍面臨安全標(biāo)準(zhǔn)缺失、技術(shù)儲(chǔ)備不足、人才教育短板、服務(wù)能力不足、安全意識(shí)薄弱等問(wèn)題,結(jié)合當(dāng)前工業(yè)互聯(lián)網(wǎng)安全工作實(shí)際,建議從國(guó)家政策發(fā)布、標(biāo)準(zhǔn)體系健全、基礎(chǔ)設(shè)施完善、關(guān)鍵技術(shù)攻關(guān)、產(chǎn)業(yè)支撐能力加強(qiáng)、專業(yè)人才培養(yǎng)、科技創(chuàng)新引領(lǐng)和公共服務(wù)能力提升等方面協(xié)調(diào)共進(jìn),推動(dòng)我國(guó)工業(yè)互聯(lián)網(wǎng)安全高質(zhì)量發(fā)展,為工業(yè)智能化發(fā)展提供安全、可信、可管、可控的環(huán)境保障.

    老司机福利观看| 久9热在线精品视频| 国产精品综合久久久久久久免费| av黄色大香蕉| 日日夜夜操网爽| 在线免费观看不下载黄p国产 | 久久久久精品国产欧美久久久| 一夜夜www| 长腿黑丝高跟| 亚洲,欧美精品.| 午夜福利欧美成人| 精品久久久久久,| 亚洲成人久久性| 窝窝影院91人妻| 亚洲国产中文字幕在线视频| 精品久久久久久久末码| 欧美成人性av电影在线观看| 久久久久久国产a免费观看| 日韩三级视频一区二区三区| 亚洲性夜色夜夜综合| 久久中文看片网| 色av中文字幕| 国产亚洲av高清不卡| 国产精品 国内视频| 国产一区二区激情短视频| 欧美午夜高清在线| 又粗又爽又猛毛片免费看| 曰老女人黄片| 国产午夜精品论理片| 九九在线视频观看精品| 午夜精品在线福利| 美女 人体艺术 gogo| 欧美一级毛片孕妇| 欧美xxxx黑人xx丫x性爽| 嫩草影院入口| 国产精品精品国产色婷婷| 国产精品久久久av美女十八| 日本成人三级电影网站| 精品久久久久久久人妻蜜臀av| 亚洲在线自拍视频| 亚洲欧美精品综合久久99| 国产日本99.免费观看| 男人的好看免费观看在线视频| 变态另类丝袜制服| 757午夜福利合集在线观看| 一区二区三区国产精品乱码| av黄色大香蕉| 日韩欧美在线二视频| 久久精品国产综合久久久| 一本精品99久久精品77| 日韩欧美国产在线观看| 国产成人精品久久二区二区免费| 国产亚洲av高清不卡| 免费看a级黄色片| 丰满人妻一区二区三区视频av | 日日摸夜夜添夜夜添小说| 无限看片的www在线观看| 一个人看的www免费观看视频| 999精品在线视频| 黄色成人免费大全| 黑人操中国人逼视频| 国产日本99.免费观看| 国模一区二区三区四区视频 | 色在线成人网| 午夜免费成人在线视频| 亚洲无线观看免费| 亚洲av中文字字幕乱码综合| 亚洲人成网站在线播放欧美日韩| 99热精品在线国产| 久久久久国产一级毛片高清牌| 麻豆国产av国片精品| 黄片大片在线免费观看| 18禁裸乳无遮挡免费网站照片| 天天躁日日操中文字幕| 这个男人来自地球电影免费观看| 久久久久久国产a免费观看| 国产黄色小视频在线观看| 天天添夜夜摸| 哪里可以看免费的av片| 亚洲18禁久久av| 草草在线视频免费看| 激情在线观看视频在线高清| 成年女人毛片免费观看观看9| 免费在线观看成人毛片| 国产淫片久久久久久久久 | 好男人在线观看高清免费视频| 免费看美女性在线毛片视频| 久久国产乱子伦精品免费另类| 成人国产一区最新在线观看| 午夜福利高清视频| 久久久久久九九精品二区国产| 一个人看的www免费观看视频| 日本黄大片高清| 国内揄拍国产精品人妻在线| 国产一区二区激情短视频| 亚洲精品久久国产高清桃花| 亚洲aⅴ乱码一区二区在线播放| 亚洲精品中文字幕一二三四区| 精品一区二区三区视频在线 | 久久久久国内视频| 国产久久久一区二区三区| 99久久99久久久精品蜜桃| 欧美激情久久久久久爽电影| 美女免费视频网站| 国产精品女同一区二区软件 | 精品久久蜜臀av无| 国产精品九九99| 男人舔奶头视频| 日本免费一区二区三区高清不卡| 99久久久亚洲精品蜜臀av| 不卡av一区二区三区| 成人特级黄色片久久久久久久| 男人舔女人的私密视频| 丁香欧美五月| 在线观看66精品国产| 999久久久国产精品视频| 91av网一区二区| 草草在线视频免费看| 午夜福利18| ponron亚洲| 熟妇人妻久久中文字幕3abv| 国产午夜精品论理片| 757午夜福利合集在线观看| 一个人看的www免费观看视频| 9191精品国产免费久久| 国产成+人综合+亚洲专区| 特级一级黄色大片| 一区二区三区国产精品乱码| 无限看片的www在线观看| 白带黄色成豆腐渣| 91九色精品人成在线观看| 国产精品亚洲一级av第二区| 国产av在哪里看| 国产一区二区激情短视频| 麻豆成人午夜福利视频| 啦啦啦韩国在线观看视频| 久久香蕉精品热| 亚洲欧美日韩无卡精品| 国产精品女同一区二区软件 | 欧美乱色亚洲激情| 久久久久久人人人人人| 亚洲专区中文字幕在线| 91九色精品人成在线观看| 免费在线观看影片大全网站| 久久天堂一区二区三区四区| 综合色av麻豆| 国产精品美女特级片免费视频播放器 | 国产高潮美女av| 每晚都被弄得嗷嗷叫到高潮| avwww免费| 丰满人妻一区二区三区视频av | 久久精品国产清高在天天线| 又大又爽又粗| 免费在线观看日本一区| 国产野战对白在线观看| 成人特级av手机在线观看| 好男人在线观看高清免费视频| 精品午夜福利视频在线观看一区| 全区人妻精品视频| 国产精品免费一区二区三区在线| 成年人黄色毛片网站| 亚洲av中文字字幕乱码综合| 97人妻精品一区二区三区麻豆| 日韩欧美免费精品| 欧美黄色淫秽网站| 日韩中文字幕欧美一区二区| 日韩欧美三级三区| 香蕉国产在线看| 好看av亚洲va欧美ⅴa在| 日韩人妻高清精品专区| 欧美黑人欧美精品刺激| 国产日本99.免费观看| 欧美日韩国产亚洲二区| 五月伊人婷婷丁香| 在线观看日韩欧美| 久久久久久久久中文| 国产高潮美女av| 免费看美女性在线毛片视频| 99热这里只有精品一区 | 琪琪午夜伦伦电影理论片6080| 午夜精品久久久久久毛片777| 精品国内亚洲2022精品成人| 中文字幕人成人乱码亚洲影| 日本 欧美在线| 国产伦精品一区二区三区四那| 欧美三级亚洲精品| 变态另类丝袜制服| 九九热线精品视视频播放| 性色avwww在线观看| 国产激情久久老熟女| 久久久久久久午夜电影| 国产亚洲av高清不卡| 嫩草影院精品99| 岛国在线观看网站| 久久人妻av系列| 桃色一区二区三区在线观看| 一进一出抽搐动态| 成人鲁丝片一二三区免费| 亚洲第一电影网av| 中文字幕久久专区| 国产av麻豆久久久久久久| 国内精品久久久久精免费| 国产熟女xx| 亚洲精品一卡2卡三卡4卡5卡| 欧美日韩综合久久久久久 | www.999成人在线观看| 男女午夜视频在线观看| 国产精品av视频在线免费观看| 亚洲精品美女久久久久99蜜臀| 国内毛片毛片毛片毛片毛片| 免费看十八禁软件| 精品熟女少妇八av免费久了| 一进一出抽搐动态| 国产久久久一区二区三区| 亚洲成av人片在线播放无| av福利片在线观看| 一个人看的www免费观看视频| 国产三级中文精品| 久久这里只有精品中国| cao死你这个sao货| 性色avwww在线观看| 精品久久久久久成人av| av福利片在线观看| 国产精品香港三级国产av潘金莲| 俺也久久电影网| 男人的好看免费观看在线视频| 久久久久久久久免费视频了| 久久久久久九九精品二区国产| 搡老岳熟女国产| 国产午夜精品久久久久久| 好男人电影高清在线观看| 女人被狂操c到高潮| 真人一进一出gif抽搐免费| 99久久无色码亚洲精品果冻| 色综合亚洲欧美另类图片| 欧美性猛交黑人性爽| 久久精品夜夜夜夜夜久久蜜豆| 欧美黑人欧美精品刺激| 哪里可以看免费的av片| 久久精品国产亚洲av香蕉五月| 欧美色欧美亚洲另类二区| 99久久无色码亚洲精品果冻| 国产主播在线观看一区二区| 亚洲色图av天堂| 九九在线视频观看精品| 国产精品99久久99久久久不卡| 欧美日韩国产亚洲二区| 亚洲国产欧美网| 国产精品99久久99久久久不卡| 午夜福利高清视频| 午夜福利欧美成人| 哪里可以看免费的av片| 丰满的人妻完整版| 亚洲狠狠婷婷综合久久图片| 天堂动漫精品| 色哟哟哟哟哟哟| www.精华液| 桃红色精品国产亚洲av| 高清毛片免费观看视频网站| 性色av乱码一区二区三区2| 亚洲熟妇熟女久久| 国产成年人精品一区二区| 亚洲欧美日韩无卡精品| 亚洲精品在线观看二区| 一本综合久久免费| 一进一出抽搐动态| 亚洲人与动物交配视频| 好男人在线观看高清免费视频| 又大又爽又粗| 午夜福利在线观看吧| 国产精品久久久久久人妻精品电影| 久久久国产欧美日韩av| 校园春色视频在线观看| 欧美一级毛片孕妇| 人妻久久中文字幕网| 久久草成人影院| x7x7x7水蜜桃| av女优亚洲男人天堂 | 久久久精品欧美日韩精品| 久久九九热精品免费| 麻豆国产av国片精品| 成人性生交大片免费视频hd| 欧美黑人巨大hd| av女优亚洲男人天堂 | 国产精品爽爽va在线观看网站| av女优亚洲男人天堂 | 日韩欧美一区二区三区在线观看| 国产亚洲精品久久久com| 丁香六月欧美| 亚洲专区中文字幕在线| 亚洲av第一区精品v没综合| 一本精品99久久精品77| 亚洲国产精品合色在线| 亚洲成人久久性| 少妇丰满av| 国内毛片毛片毛片毛片毛片| 精品熟女少妇八av免费久了| 黄色丝袜av网址大全| 成人一区二区视频在线观看| 中文字幕久久专区| 精品福利观看| 精品久久久久久,| 欧美性猛交黑人性爽| 国产美女午夜福利| 精品久久久久久久久久久久久| 小说图片视频综合网站| 97碰自拍视频| 国产av不卡久久| 一本久久中文字幕| 伦理电影免费视频| 国语自产精品视频在线第100页| 日韩成人在线观看一区二区三区| 亚洲国产欧美人成| 真人一进一出gif抽搐免费| 国内久久婷婷六月综合欲色啪| 亚洲午夜精品一区,二区,三区| 午夜影院日韩av| 国产精品爽爽va在线观看网站| 亚洲欧美日韩高清专用| 两个人看的免费小视频| av天堂中文字幕网| 热99在线观看视频| 性色av乱码一区二区三区2| 免费在线观看亚洲国产| 成人欧美大片| 999久久久精品免费观看国产| 久久久精品欧美日韩精品| 午夜激情福利司机影院| 看片在线看免费视频| 久久精品人妻少妇| 亚洲精品美女久久久久99蜜臀| 男人和女人高潮做爰伦理| 国产高清三级在线| 欧美精品啪啪一区二区三区| 大型黄色视频在线免费观看| 午夜亚洲福利在线播放| 国产单亲对白刺激| 亚洲国产日韩欧美精品在线观看 | 日韩精品中文字幕看吧| 少妇人妻一区二区三区视频| 久久久久久大精品| bbb黄色大片| 欧美大码av| 日韩国内少妇激情av| 男女午夜视频在线观看| 偷拍熟女少妇极品色| 欧美3d第一页| 99国产精品一区二区三区| 亚洲真实伦在线观看| 观看美女的网站| 又爽又黄无遮挡网站| 99国产精品一区二区三区| 嫩草影视91久久| 亚洲av美国av| 久久亚洲真实| 最新在线观看一区二区三区| 夜夜躁狠狠躁天天躁| 成年版毛片免费区| 国产精品久久久久久精品电影| а√天堂www在线а√下载| 美女高潮的动态| 在线国产一区二区在线| 欧美激情久久久久久爽电影| 99re在线观看精品视频| 制服丝袜大香蕉在线| 好男人在线观看高清免费视频| 99热这里只有是精品50| 全区人妻精品视频| 久久精品影院6| 成年人黄色毛片网站| 国产av麻豆久久久久久久| 99久久久亚洲精品蜜臀av| 变态另类丝袜制服| 在线观看日韩欧美| 少妇的逼水好多| 欧美日本亚洲视频在线播放| 中文字幕熟女人妻在线| av女优亚洲男人天堂 | 亚洲国产高清在线一区二区三| 在线免费观看的www视频| 丝袜人妻中文字幕| 成人欧美大片| 日韩精品青青久久久久久| 在线观看美女被高潮喷水网站 | 在线看三级毛片| 国产熟女xx| 亚洲片人在线观看| 亚洲av熟女| 国产伦人伦偷精品视频| 久久草成人影院| 激情在线观看视频在线高清| 国产成人系列免费观看| 99久久无色码亚洲精品果冻| 日本在线视频免费播放| 三级男女做爰猛烈吃奶摸视频| 一级a爱片免费观看的视频| 51午夜福利影视在线观看| 法律面前人人平等表现在哪些方面| 亚洲午夜精品一区,二区,三区| 99热这里只有是精品50| 国产精品野战在线观看| 黑人巨大精品欧美一区二区mp4| 亚洲午夜精品一区,二区,三区| 成人国产综合亚洲| 国产精品久久久久久精品电影| 亚洲成a人片在线一区二区| 天天一区二区日本电影三级| 1024香蕉在线观看| 亚洲成人久久爱视频| 搡老熟女国产l中国老女人| 少妇丰满av| 夜夜爽天天搞| 久久午夜综合久久蜜桃| 三级国产精品欧美在线观看 | 色播亚洲综合网| 高清在线国产一区| 午夜福利在线观看免费完整高清在 | 国产又色又爽无遮挡免费看| 国产成人av激情在线播放| 一级a爱片免费观看的视频| 欧美在线一区亚洲| 99国产精品99久久久久| 国产亚洲欧美在线一区二区| 首页视频小说图片口味搜索| 午夜福利18| 观看美女的网站| 啦啦啦韩国在线观看视频| 999久久久国产精品视频| 精品熟女少妇八av免费久了| 亚洲午夜精品一区,二区,三区| 亚洲av电影在线进入| 欧美中文综合在线视频| 12—13女人毛片做爰片一| 免费看十八禁软件| 日韩欧美在线乱码| 日本 av在线| 亚洲人成伊人成综合网2020| 精品国产超薄肉色丝袜足j| 最近最新中文字幕大全免费视频| 怎么达到女性高潮| 美女大奶头视频| 免费在线观看亚洲国产| 久久久久久九九精品二区国产| 在线观看美女被高潮喷水网站 | 成人三级做爰电影| 亚洲av五月六月丁香网| 深夜精品福利| e午夜精品久久久久久久| 亚洲国产精品合色在线| 深夜精品福利| 最新在线观看一区二区三区| 在线观看66精品国产| 国产午夜精品久久久久久| xxxwww97欧美| 一个人看视频在线观看www免费 | 国产男靠女视频免费网站| 夜夜爽天天搞| 熟妇人妻久久中文字幕3abv| 国产精品爽爽va在线观看网站| 国产精品电影一区二区三区| 成人国产一区最新在线观看| 久久久水蜜桃国产精品网| 国产淫片久久久久久久久 | 亚洲国产日韩欧美精品在线观看 | 高潮久久久久久久久久久不卡| 欧美另类亚洲清纯唯美| 99久久成人亚洲精品观看| 一区二区三区高清视频在线| 99久久精品热视频| 别揉我奶头~嗯~啊~动态视频| 黑人操中国人逼视频| 日韩欧美精品v在线| 久久精品91无色码中文字幕| 99精品在免费线老司机午夜| 久久久国产欧美日韩av| 久久久久久久午夜电影| 欧美成人免费av一区二区三区| 亚洲国产高清在线一区二区三| 在线观看美女被高潮喷水网站 | 嫩草影院入口| 亚洲av中文字字幕乱码综合| 国内少妇人妻偷人精品xxx网站 | 午夜福利成人在线免费观看| 日韩中文字幕欧美一区二区| 国产精品自产拍在线观看55亚洲| 久久久久国产一级毛片高清牌| 午夜免费激情av| 黄色丝袜av网址大全| 亚洲成人久久性| 久久中文字幕人妻熟女| 国产精品永久免费网站| 国产精品综合久久久久久久免费| 黄频高清免费视频| 最新美女视频免费是黄的| 成人国产一区最新在线观看| 一夜夜www| 国产又黄又爽又无遮挡在线| 久久精品人妻少妇| a级毛片在线看网站| 国产激情欧美一区二区| 国产成人系列免费观看| 桃红色精品国产亚洲av| 亚洲无线观看免费| 黄色视频,在线免费观看| 韩国av一区二区三区四区| 天天添夜夜摸| 国产精品亚洲美女久久久| 欧美黑人欧美精品刺激| 国产亚洲精品综合一区在线观看| 成在线人永久免费视频| 国产熟女xx| 亚洲狠狠婷婷综合久久图片| 老司机在亚洲福利影院| 久久久久国内视频| 国产亚洲精品久久久久久毛片| 在线观看日韩欧美| 国内少妇人妻偷人精品xxx网站 | 在线观看66精品国产| 国产黄色小视频在线观看| 成人特级黄色片久久久久久久| 亚洲五月婷婷丁香| 色哟哟哟哟哟哟| 首页视频小说图片口味搜索| 99re在线观看精品视频| 人妻久久中文字幕网| 国产高清视频在线观看网站| 99精品在免费线老司机午夜| 亚洲熟妇熟女久久| 99精品在免费线老司机午夜| а√天堂www在线а√下载| 国产精品亚洲美女久久久| 午夜亚洲福利在线播放| 一个人看视频在线观看www免费 | 男插女下体视频免费在线播放| 亚洲av五月六月丁香网| 国产精品 国内视频| 久久久久国产精品人妻aⅴ院| 亚洲熟妇中文字幕五十中出| 午夜精品一区二区三区免费看| 亚洲国产欧洲综合997久久,| 国产97色在线日韩免费| 九九在线视频观看精品| 色吧在线观看| bbb黄色大片| 亚洲人成网站在线播放欧美日韩| 欧美日韩乱码在线| 午夜精品一区二区三区免费看| 午夜福利欧美成人| 国产一级毛片七仙女欲春2| 日本 av在线| 中文字幕精品亚洲无线码一区| 三级男女做爰猛烈吃奶摸视频| 香蕉丝袜av| 99国产精品99久久久久| 噜噜噜噜噜久久久久久91| 国产aⅴ精品一区二区三区波| 日韩三级视频一区二区三区| 色综合婷婷激情| 天天添夜夜摸| 日韩中文字幕欧美一区二区| 99精品久久久久人妻精品| 国产一区二区三区视频了| 亚洲九九香蕉| 欧美日本视频| 丝袜人妻中文字幕| 悠悠久久av| 成年人黄色毛片网站| 在线观看66精品国产| bbb黄色大片| 亚洲成人精品中文字幕电影| 成熟少妇高潮喷水视频| 国产欧美日韩精品亚洲av| 一级毛片高清免费大全| 偷拍熟女少妇极品色| 亚洲专区字幕在线| 夜夜爽天天搞| 久久国产精品影院| 这个男人来自地球电影免费观看| 国产一区二区三区视频了| 别揉我奶头~嗯~啊~动态视频| 国产高清视频在线播放一区| 一卡2卡三卡四卡精品乱码亚洲| 黄色女人牲交| 夜夜躁狠狠躁天天躁| 日韩欧美三级三区| 搞女人的毛片| 中亚洲国语对白在线视频| 亚洲无线观看免费| 哪里可以看免费的av片| 亚洲美女黄片视频| 一个人免费在线观看电影 | 18禁裸乳无遮挡免费网站照片| 麻豆一二三区av精品| 亚洲av美国av| 精品国产乱子伦一区二区三区| 国产亚洲欧美在线一区二区| 久久久久免费精品人妻一区二区| 一个人免费在线观看电影 | 国产日本99.免费观看| 亚洲美女黄片视频| 国产激情久久老熟女| 免费电影在线观看免费观看| 成人欧美大片| 国内毛片毛片毛片毛片毛片| 亚洲欧美精品综合一区二区三区| 一本久久中文字幕| 久久精品人妻少妇| 午夜久久久久精精品| 免费看美女性在线毛片视频| 老熟妇仑乱视频hdxx| 丰满人妻熟妇乱又伦精品不卡| 香蕉丝袜av| 国产精品综合久久久久久久免费| 国产人伦9x9x在线观看| 两个人视频免费观看高清|