• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    工業(yè)控制系統(tǒng)網(wǎng)絡(luò)安全綜述

    2022-03-31 06:29:28冷昊李煒玥孫智權(quán)潘科羽劉燁
    電子技術(shù)與軟件工程 2022年24期
    關(guān)鍵詞:網(wǎng)絡(luò)安全設(shè)備系統(tǒng)

    冷昊 李煒玥 孫智權(quán) 潘科羽 劉燁

    (工業(yè)和信息化部電子第五研究所 廣東省廣州市 510370)

    隨著云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)、移動(dòng)互聯(lián)等新技術(shù)新應(yīng)用的發(fā)展進(jìn)步,網(wǎng)絡(luò)安全也迎來了新的機(jī)遇和挑戰(zhàn)。當(dāng)今國際形勢(shì)紛繁復(fù)雜,國際地緣政治的紛爭(zhēng)不斷,各國對(duì)于關(guān)鍵基礎(chǔ)設(shè)施的安全防護(hù)愈加重視,工業(yè)控制網(wǎng)絡(luò)作為關(guān)鍵基礎(chǔ)設(shè)施中能源和制造業(yè)的典型,其安全性愈發(fā)受到各方的關(guān)注,安全形勢(shì)愈發(fā)嚴(yán)峻。

    1 工控網(wǎng)絡(luò)安全形勢(shì)

    1.1 工控網(wǎng)絡(luò)安全事件及影響

    2020年4月24日至4月25日,黑客組織對(duì)以色列的關(guān)鍵基礎(chǔ)設(shè)施發(fā)起了攻擊,該國的水利行業(yè)的工控系統(tǒng)特別是SCADA 系統(tǒng)多次遭受了網(wǎng)絡(luò)攻擊,造成了巨額的經(jīng)濟(jì)損失,并嚴(yán)重影響了日常供水;2021年5月7日,黑客攻擊了美國最大的成品油管道運(yùn)營(yíng)商Colonial Pipeline,迫使其一度關(guān)閉整個(gè)能源供應(yīng)網(wǎng)絡(luò),這對(duì)美國東海岸的能源供應(yīng)造成了破壞性打擊,一度使得美國進(jìn)入國家緊急狀態(tài),迫使供應(yīng)商支付了近500 萬的贖金,本次攻擊是美國能源行業(yè)有史以來受到的最嚴(yán)重網(wǎng)絡(luò)襲擊;2022年8月20日希臘最大的天然氣分銷商的工控系統(tǒng)遭受網(wǎng)絡(luò)攻擊,導(dǎo)致多項(xiàng)服務(wù)被迫關(guān)閉,部分?jǐn)?shù)據(jù)遭到泄露,對(duì)歐洲越演越烈的能源危機(jī)雪上加霜。9月6日,GhostSec 組織控制了以色列國內(nèi)組織和平臺(tái)上55 個(gè)Berghof 可編程控制器(PLCs)。隨著俄羅斯與烏克蘭戰(zhàn)爭(zhēng)的進(jìn)一步升級(jí),針對(duì)對(duì)方工業(yè)控制系統(tǒng)等關(guān)鍵基礎(chǔ)設(shè)施的攻擊越發(fā)頻繁,2022年9月22日,俄羅斯對(duì)烏克蘭展開大面積的網(wǎng)絡(luò)攻擊,多地的電力系統(tǒng)收到破壞,40個(gè)變電站停電。美國CISA 發(fā)布了三份針對(duì)工控系統(tǒng)的公告,涉及ETIC 電信、諾基亞和Delta 工業(yè)自動(dòng)化軟件中存在多個(gè)漏洞,可能導(dǎo)致開啟后門權(quán)限、破壞設(shè)備,造成巨額經(jīng)濟(jì)損失。

    從上述事件可以看出,對(duì)于工控網(wǎng)絡(luò)的攻擊已經(jīng)從單打獨(dú)斗發(fā)展為越來越體現(xiàn)國家意志。而最常見的針對(duì)工控網(wǎng)絡(luò)的攻擊方式就是利用已知的系統(tǒng)漏洞,工控系統(tǒng)中的典型組件和系統(tǒng)如SCADA(數(shù)據(jù)采集與監(jiān)視控制系統(tǒng))、DCS(分布式控制系統(tǒng))、PLC(可編程邏輯控制器)等以及相關(guān)使用的配套工業(yè)軟件均被發(fā)現(xiàn)過存在信息安全漏洞。全球十大工控設(shè)備和系統(tǒng)供應(yīng)廠商如研華科技、Siemens 西門子、研祥EVOC、凌華、控創(chuàng)、康泰克、B&R 等工控系統(tǒng)廠商產(chǎn)品均被發(fā)現(xiàn)包含各種信息安全漏洞[1]。根據(jù)CNVD(國家信息安全漏洞共享平臺(tái))的數(shù)據(jù),2010-2021年工控漏洞走勢(shì)如圖1所示。

    從圖1 中可以看出,自2010年開始,工控漏洞不斷攀升,在2015 開始持續(xù)走高,這與2015年開始工控網(wǎng)絡(luò)快速發(fā)展,全球化進(jìn)程加快,工業(yè)互聯(lián)網(wǎng)開始發(fā)展存在一定的相關(guān)性。更多的設(shè)備和系統(tǒng)暴露于網(wǎng)絡(luò)上,而其所涉及的利益也導(dǎo)致了各大組織對(duì)工控漏洞的持續(xù)關(guān)注。但也可以看出2021年工控漏洞的數(shù)目明顯下降,是因?yàn)槭芤咔橛绊?,針?duì)全球大量工廠停工或遠(yuǎn)程運(yùn)維,因此攻擊產(chǎn)生的漏洞有所下降。

    圖1:工控漏洞走勢(shì)圖(數(shù)據(jù)來源CNVD)

    然而雖然漏洞數(shù)目下降了近2/3,但漏洞的威脅性并未降低,超高危漏洞的數(shù)量大幅躍升,據(jù)統(tǒng)計(jì),2021年國外四大漏洞平臺(tái)共收錄工控系統(tǒng)超高危漏洞16 個(gè),遠(yuǎn)超2020年的6 個(gè),且成上升趨勢(shì)[12]。

    1.2 近年來工控網(wǎng)絡(luò)安全發(fā)現(xiàn)的典型問題及隱患

    總結(jié)中國賽寶實(shí)驗(yàn)室近五年來對(duì)于各個(gè)類型的工控系統(tǒng)的風(fēng)險(xiǎn)評(píng)估、等保測(cè)評(píng)、入網(wǎng)安全測(cè)評(píng)的安全服務(wù),發(fā)現(xiàn)對(duì)于各行業(yè)的工控系統(tǒng)存在的典型問題如下。

    1.2.1 電力工控網(wǎng)絡(luò)

    管理形式化:執(zhí)行力不足:資產(chǎn)管理混亂,臺(tái)賬不清晰不明了,設(shè)備密碼缺失,設(shè)備所屬部門不清;電廠人員一般只關(guān)注業(yè)務(wù)系統(tǒng)如何使用,對(duì)安全防護(hù)不了解不熟知。

    安全計(jì)算環(huán)境自身防護(hù)能力不足:存在弱密碼、默認(rèn)密碼的現(xiàn)象,口令易猜測(cè)易暴破,存在系統(tǒng)被非授權(quán)訪問的風(fēng)險(xiǎn);設(shè)備老舊,升級(jí)困難,部分設(shè)備采用Windows CE、Windows 98 等較為老舊的系統(tǒng),部分系統(tǒng)未開啟安全審計(jì),會(huì)造成安全問題發(fā)生的時(shí)候溯源和定位問題的困難。

    網(wǎng)絡(luò)安全防護(hù)能力和安全預(yù)警能力不足:電廠增配了安全產(chǎn)品,例如堡壘機(jī)、日志審計(jì),但僅接入網(wǎng)絡(luò),未做配置,實(shí)際沒有使用生效,未定期對(duì)工控系統(tǒng)做漏洞掃描,及時(shí)發(fā)現(xiàn)并修補(bǔ)漏洞;防火墻、IDS 未及時(shí)更新病毒庫或特征庫。

    1.2.2 石化工控網(wǎng)絡(luò)

    控制設(shè)備漏洞:大部分石化場(chǎng)景搭建時(shí)間較早,使用的PLC 版本老舊,固件版本少有更新。

    傳輸協(xié)議落后漏洞:廣泛采用OPC Classic 協(xié)議,控制設(shè)備中的協(xié)議也存在大量漏洞。

    操作系統(tǒng)漏洞:石化場(chǎng)景管理體系缺少一體化的安全管理策略。

    管理操作漏洞:以Windows 操作系統(tǒng)居多,同時(shí)很少在工程師站、操作員站等位置部署殺毒軟件與補(bǔ)丁系統(tǒng)。

    1.2.3 冶金行業(yè)工控網(wǎng)絡(luò)

    技術(shù)方面:工業(yè)生產(chǎn)網(wǎng)絡(luò)與互聯(lián)網(wǎng)未有效隔離;主機(jī)和Web 應(yīng)用存在網(wǎng)絡(luò)安全漏洞;普遍存在默認(rèn)、簡(jiǎn)單賬號(hào)和弱口令;網(wǎng)絡(luò)健壯性保障能力不足;軟件、固件因版本未升級(jí)而存在大量安全漏洞;未執(zhí)行最小安裝、最小配置授權(quán)原則;網(wǎng)絡(luò)安全自主防護(hù)能力不足[2]。

    管理方面:在企業(yè)網(wǎng)絡(luò)安全建設(shè)方面,未開展風(fēng)險(xiǎn)評(píng)估、滲透測(cè)試、安全加固、等級(jí)保護(hù)測(cè)評(píng)等常態(tài)化的網(wǎng)絡(luò)安全建設(shè)工作;在網(wǎng)絡(luò)安全意識(shí)教育及技能培訓(xùn)方面,覆蓋內(nèi)容不全面、受教人員較少、開展頻率較低;在網(wǎng)絡(luò)安全管理制度體系建設(shè)及落實(shí)方面,覆蓋面及描述粒度有待提升(尤其是系統(tǒng)安全建設(shè)及系統(tǒng)運(yùn)維建設(shè)方面)、制度體系推行落實(shí)不力、網(wǎng)絡(luò)安全預(yù)算較少;在網(wǎng)絡(luò)安全管理機(jī)構(gòu)建立及人員配備方面,缺少職責(zé)明確的網(wǎng)絡(luò)安全管理機(jī)構(gòu)及網(wǎng)絡(luò)安全專員;在系統(tǒng)應(yīng)急響應(yīng)措施方面,未制定并實(shí)施業(yè)務(wù)連續(xù)性計(jì)劃、已有的應(yīng)急預(yù)案未涉及工業(yè)控制系統(tǒng)、應(yīng)急演練未有效開展、技術(shù)支撐及物資保障有待加強(qiáng)。

    1.2.4 高端制造工控網(wǎng)絡(luò)

    數(shù)控機(jī)床:數(shù)控機(jī)床使用的軟硬件多為老舊系統(tǒng),并且基本不進(jìn)行漏洞補(bǔ)丁升級(jí),且存在補(bǔ)丁兼容性問題,信息安全漏洞風(fēng)險(xiǎn)巨大;隨著智能制造、工業(yè)互聯(lián)網(wǎng)戰(zhàn)略規(guī)劃的推進(jìn)落實(shí),數(shù)控機(jī)床數(shù)字化、網(wǎng)絡(luò)化、智能化特征日益明顯,數(shù)控機(jī)床所處網(wǎng)絡(luò)環(huán)境原有的封閉性被打破,開放式架構(gòu)提供大量開放接口、被滲透風(fēng)險(xiǎn)提升,信息安全風(fēng)險(xiǎn)陡增[3];對(duì)國外依存度高,不可知、不可控,我國數(shù)控機(jī)床的市場(chǎng)進(jìn)口設(shè)備占比高,且在技術(shù)方面占據(jù)領(lǐng)先和主導(dǎo)地位,且核心技術(shù)不向我國公開,自2013年開始針對(duì)航空、航天、兵器、船舶、電子等領(lǐng)域的高檔進(jìn)口數(shù)控機(jī)床及相關(guān)網(wǎng)絡(luò)系統(tǒng)的安全檢查中多次發(fā)現(xiàn)國外的工控系統(tǒng)存在設(shè)計(jì)漏洞,并預(yù)置了后門,這蘊(yùn)含著巨大的安全隱患;數(shù)控設(shè)備審計(jì)功能缺陷,后臺(tái)數(shù)據(jù)不掌握在使用者手里,導(dǎo)致了網(wǎng)絡(luò)安全事件難以追蹤溯源,使得數(shù)控系統(tǒng)安全問題日益凸顯;加工數(shù)據(jù)詳細(xì)、豐富、數(shù)量多,存在專利信息泄露風(fēng)險(xiǎn),定位模塊無法卸載,GPS 地理位置信息泄露,機(jī)床日志審查發(fā)送給后臺(tái),泄露工件加工信息。

    汽車制造:工業(yè)網(wǎng)絡(luò)缺乏對(duì)臨時(shí)接入設(shè)備的管控措施,缺乏對(duì)臨時(shí)接入設(shè)備進(jìn)行病毒查殺的有效手段,安全軟件選擇與管理方面存在缺失;大件廠辦公設(shè)備、視頻監(jiān)控設(shè)備以及工業(yè)控制設(shè)備均位于同一網(wǎng)段,工業(yè)控制設(shè)備與其他設(shè)備未進(jìn)行區(qū)域劃分,PCU 終端存在大量高風(fēng)險(xiǎn)漏洞,存在提權(quán)、系統(tǒng)崩潰、感染勒索病毒等風(fēng)險(xiǎn),配置和補(bǔ)丁管理存在漏洞;工業(yè)網(wǎng)絡(luò)和企業(yè)網(wǎng)在車間層面未進(jìn)行隔離,車間內(nèi)辦公設(shè)備與工業(yè)生產(chǎn)設(shè)備可互訪,廠內(nèi)部部署有無線AP,設(shè)備可通過無線接入大件廠網(wǎng)絡(luò),無線開啟有DHCP,邊界安全防護(hù)不足;內(nèi)網(wǎng)缺乏網(wǎng)絡(luò)安全監(jiān)測(cè)設(shè)備,無法發(fā)現(xiàn)、報(bào)告并處理網(wǎng)絡(luò)攻擊或異常行為,安全監(jiān)測(cè)和監(jiān)測(cè)嚴(yán)重缺失。

    1.2.5 裝備制造業(yè)工控網(wǎng)絡(luò)

    安全軟件部署不充分:版本陳舊未更新,部分無正版授權(quán),安全策略未完全開啟;網(wǎng)絡(luò)內(nèi)大量終端設(shè)備所安裝的360 殺毒軟件均長(zhǎng)期未更新;部分PCU 終端未安裝殺毒軟件。

    數(shù)據(jù)傳輸未加密、數(shù)據(jù)測(cè)試未脫敏:測(cè)試機(jī)直接使用生產(chǎn)環(huán)境的副本進(jìn)行測(cè)試,生產(chǎn)環(huán)境中的數(shù)據(jù)未進(jìn)行加密、脫敏等控制保護(hù)措施。

    員工工控安全意識(shí)淡薄:安全管理職責(zé)都沒有到具體責(zé)任人,制度只是一個(gè)形式;未對(duì)每年員工進(jìn)行安全培訓(xùn)以提高網(wǎng)絡(luò)安全意識(shí)。

    1.3 新形勢(shì)下工控網(wǎng)絡(luò)安全面臨的新風(fēng)險(xiǎn)

    以上問題的存在是由于工控系統(tǒng)本身的特點(diǎn)以及管理不到位共同導(dǎo)致的,而隨著新基建、兩化融合、制造強(qiáng)國和網(wǎng)絡(luò)強(qiáng)國策略的不斷推進(jìn),工業(yè)一體化進(jìn)程的不斷推進(jìn),融合的不斷加深,越來越多的網(wǎng)絡(luò)安全問題和黑客組織的攻擊都聚焦了工控系統(tǒng)。其主要表現(xiàn)在:

    兩化融合使工控系統(tǒng)面臨的網(wǎng)絡(luò)安全風(fēng)險(xiǎn):兩化融合是指工業(yè)化與信息化過程的相互融合,將信息技術(shù)應(yīng)用到工控領(lǐng)域,兩化融合的推進(jìn)使得工控系統(tǒng)與信息網(wǎng)絡(luò)聯(lián)系愈加緊密,相較于傳統(tǒng)的處于封閉內(nèi)部網(wǎng)絡(luò)的工控部署,這在無形中增加擴(kuò)展了工控網(wǎng)絡(luò)攻擊的范圍,降低了攻擊者攻擊的成本,也增加了工控設(shè)備網(wǎng)絡(luò)攻擊的風(fēng)險(xiǎn)[1]。

    制造強(qiáng)國和網(wǎng)絡(luò)強(qiáng)國使工控系統(tǒng)面臨的網(wǎng)絡(luò)安全風(fēng)險(xiǎn):中國大陸的產(chǎn)業(yè)結(jié)構(gòu)不斷優(yōu)化升級(jí),裝備制造業(yè)得到快速發(fā)展。汽車制造、計(jì)算機(jī)通信和其他電子設(shè)備制造產(chǎn)值占比大幅上升。然而隨著工業(yè)的快速發(fā)展以及產(chǎn)業(yè)結(jié)構(gòu)的轉(zhuǎn)變,工業(yè)網(wǎng)絡(luò)的安全隱患也越來越多,暴露在網(wǎng)絡(luò)中的工控設(shè)備數(shù)量較多,工控系統(tǒng)面臨較大安全風(fēng)險(xiǎn)[4]。而網(wǎng)絡(luò)強(qiáng)國的不斷推進(jìn),工控協(xié)議暴露在網(wǎng)絡(luò)中不斷增多,這使得被攻擊的風(fēng)險(xiǎn)陡然擴(kuò)大,根據(jù)“諦聽”組織2022年發(fā)布的數(shù)據(jù),國內(nèi)工控協(xié)議暴露的數(shù)量和占比如圖2。

    圖2:國內(nèi)工控協(xié)議的暴露數(shù)量

    工業(yè)互聯(lián)網(wǎng)的推進(jìn)增加了新的安全風(fēng)險(xiǎn):工業(yè)互聯(lián)網(wǎng)打破了原有的相對(duì)清晰明確的責(zé)任邊界,使得網(wǎng)絡(luò)結(jié)構(gòu)更加復(fù)雜,邊界更加模糊,威脅也更加的多樣化[5]。而工控系統(tǒng)往往涉及國計(jì)民生的重要領(lǐng)域,攻擊可獲得的利益增加了,這促使得一大批的黑客在利益的驅(qū)動(dòng)下集中火力攻擊工控系統(tǒng),這也導(dǎo)致了工業(yè)互聯(lián)網(wǎng)平臺(tái)安全、數(shù)據(jù)安全、聯(lián)網(wǎng)智能設(shè)備安全等問題越發(fā)突出。

    1.4 廣東工控網(wǎng)絡(luò)安全形勢(shì)

    廣東省作為改革開放的先行者,制造業(yè)一直在全國獨(dú)占鰲頭,而對(duì)于數(shù)字經(jīng)濟(jì)發(fā)展也一直處于模范領(lǐng)跑的地位,電子信息制造就業(yè)、軟件和信息服務(wù)業(yè)規(guī)模、工業(yè)營(yíng)收和工業(yè)利潤(rùn)多年位居全國第一,產(chǎn)業(yè)數(shù)字化、工業(yè)數(shù)據(jù)存儲(chǔ)量全國領(lǐng)先水平等幾大優(yōu)勢(shì)特征。廣東在工業(yè)互聯(lián)網(wǎng)+深度布局、統(tǒng)籌規(guī)劃,相繼出臺(tái)實(shí)施了一系列涉及工業(yè)信息化產(chǎn)業(yè)融合、工控網(wǎng)絡(luò)與大數(shù)據(jù)和人工智能產(chǎn)業(yè)融合的發(fā)展規(guī)劃。廣東更是在《廣東省制造業(yè)“十四五”規(guī)劃》中明確指出“到2025年,制造業(yè)增加值占GDP 比重保持在30%以上,高技術(shù)制造業(yè)增加值占規(guī)模以上工業(yè)增加值的比重達(dá)到33%;”[6]。作為全國首個(gè)出臺(tái)的工業(yè)互聯(lián)網(wǎng)地方政策的省份,廣東明確了在全國工業(yè)互聯(lián)網(wǎng)實(shí)現(xiàn)率先發(fā)展、領(lǐng)先發(fā)展、爭(zhēng)當(dāng)全國示范的目標(biāo)。廣東省在行動(dòng)規(guī)劃和發(fā)展綱要中明確提出“到2025年要在全國率先建成具有國際競(jìng)爭(zhēng)力的工業(yè)互聯(lián)網(wǎng)網(wǎng)絡(luò)基礎(chǔ)設(shè)施和產(chǎn)業(yè)體系”。如圖3所示。

    圖3:廣東省工業(yè)互聯(lián)網(wǎng)投資規(guī)模預(yù)測(cè)

    工業(yè)互聯(lián)網(wǎng)對(duì)先進(jìn)制造業(yè)的發(fā)展和傳統(tǒng)產(chǎn)業(yè)的升級(jí)提供了重要的支持,根據(jù)廣東省歷年發(fā)布的國民經(jīng)濟(jì)和社會(huì)發(fā)展統(tǒng)計(jì)公報(bào),2022年工業(yè)互聯(lián)網(wǎng)核心產(chǎn)業(yè)規(guī)模將達(dá)到約1100億元,相關(guān)產(chǎn)業(yè)總規(guī)模將超過4000 億元,2025年工業(yè)互聯(lián)網(wǎng)核心產(chǎn)業(yè)規(guī)模將達(dá)到1500 億元,相關(guān)產(chǎn)業(yè)總規(guī)模將超過6000 億元。

    相應(yīng)的,廣東省的工控設(shè)備暴露數(shù)量一致名列前茅,2019年度甚至超過了臺(tái)灣、香港,成為暴露工控設(shè)備數(shù)量最多的省份。雖然經(jīng)過近幾年對(duì)工控安全的重視和相關(guān)舉措的發(fā)力,2021年度廣東省暴露工控設(shè)備數(shù)量為全國第六,但作為制造業(yè)大省安全形勢(shì)仍嚴(yán)峻,安全問題仍不容小覷,安全形勢(shì)研究如履薄冰。如圖4 和圖5所示。

    圖4:2019年各省工控設(shè)備暴露數(shù)量統(tǒng)計(jì)圖

    圖5:2022年各省工控設(shè)備暴露數(shù)量統(tǒng)計(jì)圖

    2 政策法規(guī)是解決當(dāng)前工控問題的基石

    2.1 工控網(wǎng)絡(luò)安全的特點(diǎn)

    相較于傳統(tǒng)IP 系統(tǒng),工業(yè)控制系統(tǒng)具有如下的特點(diǎn):實(shí)時(shí)通信性,即其對(duì)于通信的傳輸?shù)膶?shí)時(shí)性要求較高,部分工控系統(tǒng)全年的業(yè)務(wù)中斷時(shí)間累積不能超過8 個(gè)小時(shí),部分要求性更高的系統(tǒng)如涉及航空等領(lǐng)域的工業(yè)控制系統(tǒng)甚至要求全年不可宕機(jī)。這也引發(fā)了工控網(wǎng)絡(luò)相較于傳統(tǒng)IP 系統(tǒng)的另一差異,即在安全保護(hù)的優(yōu)先級(jí)方面的區(qū)別,對(duì)于傳統(tǒng)的IP 系統(tǒng)而言,安全的三個(gè)特性,可用性、完整性、保密性中,其優(yōu)先級(jí)的順序?yàn)楸C苄?完整性>可用性,但對(duì)于工控系統(tǒng)而言,可用性的優(yōu)先是毋容置疑的,其對(duì)于安全特性的排序變成了可用性>完整性>保密性。因此工控網(wǎng)絡(luò)更注重于功能性的安全[7]。除此之外,因工控系統(tǒng)其產(chǎn)品所使用的通信協(xié)議是各廠商自主定義的,所以其通信協(xié)議具有多樣性,這也導(dǎo)致了系統(tǒng)的異構(gòu)性。這一特性的存在就決定了對(duì)于工控網(wǎng)絡(luò)下的系統(tǒng)而言,防護(hù)技術(shù)存在著較大的差異,安全補(bǔ)丁和升級(jí)機(jī)制存在著明顯的差異,這與高可用性要求的疊加也導(dǎo)致了部署后的系統(tǒng)設(shè)備的更換困難、難以重啟,這對(duì)于安全的防護(hù)體系的構(gòu)建無異于難度進(jìn)一步加大。

    以上特性的存在就導(dǎo)致了工控網(wǎng)絡(luò)在技術(shù)和產(chǎn)業(yè)方便存在著顯著的痛點(diǎn)。首先在技術(shù)方面,工控網(wǎng)絡(luò)開放互聯(lián),攻擊面大,攻防嚴(yán)重不對(duì)稱,“易攻難守”;工控大量漏洞、后門,窮盡或徹底查殺軟硬件代碼威脅不可能;工控網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜,功能安全與信息安全深度融合下防護(hù)更難;工控重大工程大規(guī)模動(dòng)態(tài)連續(xù)運(yùn)行約束下,新技術(shù)試驗(yàn)驗(yàn)證難。其次在產(chǎn)業(yè)方面,工業(yè)控制系統(tǒng)80%關(guān)鍵裝備和產(chǎn)品被國外壟斷,安全威脅巨大;國內(nèi)研制的工控系統(tǒng)大量使用國外的元器件,自主可控能力弱;工控安全防護(hù)產(chǎn)品單一,功能弱,無法應(yīng)付跨越信息物理空間攻擊;工控系統(tǒng)安全測(cè)試與實(shí)驗(yàn)驗(yàn)證與現(xiàn)實(shí)擬合度不高,測(cè)試結(jié)果不可信。

    2.2 政策法規(guī)對(duì)于工控網(wǎng)絡(luò)安全的促進(jìn)與提升

    隨著《網(wǎng)絡(luò)安全法》、《GBT 22239-2019 信息安全技術(shù)網(wǎng)絡(luò)安全等級(jí)保護(hù)基本要求》、《關(guān)鍵基礎(chǔ)設(shè)施安全保護(hù)條例》、《GB/T 39204-2022 信息安全技術(shù)關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)要求》等法律法規(guī)的相繼發(fā)布頒布實(shí)施,我國對(duì)于關(guān)鍵基礎(chǔ)設(shè)施的網(wǎng)絡(luò)安全愈發(fā)重視,這在一定程度上促進(jìn)了行業(yè)重視程度的增加[8]。

    《網(wǎng)絡(luò)安全法》第二十一條和第三十一條明確規(guī)定了“國家實(shí)行網(wǎng)絡(luò)安全等級(jí)保護(hù)制度”、“國家對(duì)公共通信和信息服務(wù)、能源、交通、水利、金融、公共服務(wù)、電子政務(wù)等重要行業(yè)和領(lǐng)域,以及其他一旦遭到破壞、喪失功能或者數(shù)據(jù)泄露,可能嚴(yán)重危害國家安全、國計(jì)民生、公共利益的關(guān)鍵信息基礎(chǔ)設(shè)施,在網(wǎng)絡(luò)安全等級(jí)保護(hù)制度的基礎(chǔ)上,實(shí)行重點(diǎn)保護(hù)”[9]?!蛾P(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》中明確提出“優(yōu)先保障能源、電信等關(guān)鍵信息基礎(chǔ)設(shè)施安全運(yùn)行”[10]。這些政策法規(guī)的落地極大程度的提升了行業(yè)的重視程度,其主要體現(xiàn)在極大的促進(jìn)了嚴(yán)格落實(shí)相關(guān)政策的要求;相關(guān)監(jiān)管單位加強(qiáng)了日常監(jiān)管及檢查的粒度,業(yè)主單位和運(yùn)營(yíng)者在增強(qiáng)人員安全意識(shí)方面更加下功夫,在實(shí)際的系統(tǒng)上線前更加注重入網(wǎng)的安全測(cè)評(píng)。而政府部門也針對(duì)以工控行業(yè)為代表的關(guān)鍵基礎(chǔ)設(shè)施多次舉行了護(hù)網(wǎng)行動(dòng),希望以攻擊促進(jìn)防守,形成良性循環(huán)。

    而行業(yè)的重視程度的增加也使得工控網(wǎng)絡(luò)和系統(tǒng)的安全性取得了一定的進(jìn)步,以筆者所參與過的自2017年開始跨越了5年進(jìn)行的年度等級(jí)保護(hù)測(cè)評(píng)和年度安全檢查的情況為例,在網(wǎng)絡(luò)層面,針對(duì)傳統(tǒng)電力二次系統(tǒng)網(wǎng)絡(luò)層入侵檢測(cè)及安全審計(jì)等功能薄弱的問題,西部某發(fā)電廠近年來對(duì)計(jì)算機(jī)監(jiān)控系統(tǒng)進(jìn)行了加固升級(jí),采購了IDS、SAS 等安全設(shè)備,增強(qiáng)了網(wǎng)絡(luò)整體安全防護(hù)能力。如圖6所示。

    某電網(wǎng)近年來針對(duì)電力系統(tǒng)網(wǎng)絡(luò)監(jiān)測(cè)及預(yù)警能力薄弱問題,對(duì)所管轄的各電廠均安裝部署了態(tài)勢(shì)感知設(shè)備,網(wǎng)絡(luò)安全態(tài)勢(shì)及綜合預(yù)警能力大步提升。如圖7所示。

    圖7:某電網(wǎng)網(wǎng)絡(luò)拓?fù)鋱D

    而在設(shè)備安全方面,工控企業(yè)對(duì)于主機(jī)系統(tǒng)版本進(jìn)行了迭代升級(jí)及加固,結(jié)合護(hù)網(wǎng)行動(dòng)對(duì)工控系統(tǒng)工程師站及服務(wù)器等進(jìn)行安全升級(jí)和加固,Windows 系統(tǒng)升級(jí)為2012 以上版本,部分系統(tǒng)直接替換為較為安全的Linux 系統(tǒng);為遵循國家及行業(yè)相關(guān)規(guī)范要求,同時(shí)符合網(wǎng)絡(luò)安全等級(jí)保護(hù)相關(guān)要求,逐步改造實(shí)現(xiàn)國產(chǎn)化替代;針對(duì)應(yīng)用系統(tǒng)開展了安全加固,針對(duì)計(jì)算機(jī)監(jiān)控系統(tǒng)等應(yīng)用系統(tǒng)實(shí)現(xiàn)部分安全升級(jí)和加固,增強(qiáng)密碼復(fù)雜度要求,配置訪問控制及安全審計(jì)等功能。

    2.3 工控網(wǎng)絡(luò)安全需要各方的協(xié)同配合

    保障工控網(wǎng)絡(luò)安全,需要業(yè)主單位協(xié)同安全廠商、測(cè)評(píng)單位監(jiān)管機(jī)構(gòu)協(xié)同合作,綜合協(xié)調(diào)、分工負(fù)責(zé)、依法保護(hù)[8]。

    2.3.1 業(yè)主單位

    作為網(wǎng)絡(luò)安全的責(zé)任主體,業(yè)主單位在其中起到的作用主要體現(xiàn)在安全測(cè)評(píng)、安全加固、安全建設(shè)三個(gè)方面:

    (1)安全測(cè)評(píng):清查系統(tǒng)資產(chǎn),開展對(duì)系統(tǒng)資產(chǎn)的梳理和責(zé)任的劃分;對(duì)單位內(nèi)的重點(diǎn)系統(tǒng)進(jìn)行定級(jí)備案,三級(jí)系統(tǒng)每年開展等保測(cè)評(píng),二級(jí)系統(tǒng)建議兩年開展一次等保測(cè)評(píng)以確保合規(guī),并年度進(jìn)行自查。在確??捎眯酝{可接受的情況下,對(duì)問題項(xiàng)進(jìn)行安全整改。

    (2)安全加固:根據(jù)國家政策法規(guī)中對(duì)于網(wǎng)絡(luò)安全基本要求建立公司網(wǎng)絡(luò)安全管理體系,以網(wǎng)絡(luò)安全等級(jí)保護(hù)基本要求為基礎(chǔ)進(jìn)行建設(shè),加強(qiáng)安全產(chǎn)品的采購和選型。對(duì)入網(wǎng)安全產(chǎn)品做安全性測(cè)試;對(duì)網(wǎng)絡(luò)安全建立態(tài)勢(shì)感知,做全面的風(fēng)險(xiǎn)把控

    (3)安全建設(shè):提高人員的安全意識(shí)培訓(xùn),增強(qiáng)對(duì)政策和內(nèi)容的宣貫。以攻擊促防守建立主動(dòng)防御體系;加強(qiáng)與監(jiān)管機(jī)構(gòu)、設(shè)備廠商、測(cè)評(píng)單位、科研機(jī)構(gòu)的技術(shù)交流。定期組織開展知識(shí)技術(shù)培訓(xùn)和應(yīng)急演練。

    2.3.2 安全廠商

    作為提供建設(shè)支撐的主體,安全廠商在工控網(wǎng)絡(luò)安全的維護(hù)中,針對(duì)不同的對(duì)象應(yīng)起到不同的作用:

    (1)對(duì)于監(jiān)管部門,應(yīng)積極參與監(jiān)管部門定期組織的應(yīng)急和檢查工作;主動(dòng)上報(bào)安全產(chǎn)品監(jiān)測(cè)到的安全預(yù)警情態(tài);并積極參與各項(xiàng)標(biāo)準(zhǔn)的建設(shè)。

    (2)對(duì)測(cè)評(píng)機(jī)構(gòu)則需做到兩個(gè)同步,即同步對(duì)標(biāo)準(zhǔn)指標(biāo)的解讀,同步實(shí)踐建設(shè)經(jīng)驗(yàn),并及時(shí)通過論壇等方式加強(qiáng)雙方技術(shù)交流。

    (3)對(duì)于業(yè)主單位則需要對(duì)設(shè)備入網(wǎng)提供符合國家安全標(biāo)準(zhǔn)的檢測(cè)報(bào)告,提供工控系統(tǒng)合規(guī)專用安全加固解決方案;研發(fā)適用于工控安全的相關(guān)產(chǎn)品落地,對(duì)安全測(cè)評(píng)發(fā)現(xiàn)的問題提供整改支持。

    2.3.3 測(cè)評(píng)機(jī)構(gòu)

    作為效果評(píng)判的主體,提供等級(jí)保護(hù)、入網(wǎng)安評(píng)、風(fēng)險(xiǎn)評(píng)估、商用密碼評(píng)估、關(guān)鍵信息基礎(chǔ)設(shè)施安全檢查評(píng)估的測(cè)評(píng)機(jī)構(gòu),則需要做到協(xié)同、支撐、助力、共享,即協(xié)同安全廠商共建整體安全方案;支撐主管部門開展安全檢查;助力業(yè)主單位進(jìn)行安全加固整改,建立多方合作共享平臺(tái)。

    2.3.4 監(jiān)管機(jī)構(gòu)

    監(jiān)管機(jī)構(gòu)在整個(gè)協(xié)同循環(huán)中起到指導(dǎo)監(jiān)督的作用,其主要的著力點(diǎn)主要為:加大對(duì)工控系統(tǒng)安全相關(guān)法律法規(guī)和政策的宣傳,定期開展專項(xiàng)檢查,針對(duì)龍頭企業(yè)和各地市重點(diǎn)行業(yè),特別是列入到關(guān)保范圍內(nèi)的工控系統(tǒng)開展重點(diǎn)巡查;對(duì)一有問題的系統(tǒng)責(zé)令整改,并監(jiān)督其效果。

    3 新形勢(shì)下我國的工控網(wǎng)絡(luò)安全發(fā)展

    3.1 當(dāng)前已具有的基礎(chǔ)

    我國一直在不斷積極推動(dòng)工業(yè)信息安全保障能力建設(shè),2017年,國家工業(yè)信息安全發(fā)展研究中心組建完成,其主要從事工業(yè)和信息化領(lǐng)域政策研究及工業(yè)信息安全領(lǐng)域的技術(shù)研發(fā)、監(jiān)測(cè)預(yù)警、檢查評(píng)估等工作,持續(xù)加強(qiáng)工業(yè)信息安全保障能力。并相繼組建了由中國工業(yè)技術(shù)軟件化產(chǎn)業(yè)聯(lián)盟、工業(yè)信息安全產(chǎn)業(yè)發(fā)展聯(lián)盟、工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟、工業(yè)控制信息安全產(chǎn)業(yè)聯(lián)盟組成的工業(yè)安全聯(lián)盟。

    國家多個(gè)部委對(duì)工控安全工作布局指導(dǎo)。如工信部信軟司在工控系統(tǒng)信息安全檢查、工控系統(tǒng)信息安全保障、工業(yè)互聯(lián)網(wǎng)安全等方面開展多項(xiàng)工作;工信部科技司在車聯(lián)網(wǎng)、物聯(lián)網(wǎng)及人工智能等方面開展了相關(guān)的工作;工信部裝備司在高檔數(shù)控機(jī)床與基礎(chǔ)制造裝備、智能網(wǎng)聯(lián)汽車、智能醫(yī)療設(shè)備、工業(yè)機(jī)器人等方面做了大量工作;國家發(fā)改委在智能汽車、智能制造網(wǎng)絡(luò)信息安全等方面開展了相關(guān)的工作。

    大力發(fā)展產(chǎn)品安全機(jī)制檢測(cè)、漏洞挖掘與分析、后門檢測(cè)、芯片安全檢測(cè)、關(guān)鍵軟硬件自主可控度測(cè)評(píng)、安全通信協(xié)議分析、逆向分析等技術(shù)在內(nèi)的安全檢測(cè)分析技術(shù)、安全配置核查、漏洞掃描、滲透測(cè)試、安全風(fēng)險(xiǎn)評(píng)估等技術(shù)在內(nèi)的安全風(fēng)險(xiǎn)評(píng)估技術(shù)、安全監(jiān)測(cè)、態(tài)勢(shì)感知與預(yù)警、取證、安全審計(jì)等技術(shù)為代表的安全持續(xù)監(jiān)督技術(shù)。

    3.2 工業(yè)互聯(lián)網(wǎng)技術(shù)發(fā)展趨勢(shì)

    隨著“互聯(lián)網(wǎng)+”等新興業(yè)態(tài)的快速發(fā)展,工業(yè)互聯(lián)網(wǎng)、工業(yè)大數(shù)據(jù)、工業(yè)云平臺(tái)安全逐漸成為工業(yè)信息安全的重點(diǎn)和核心,工業(yè)信息安全從面向企業(yè)端的工控安全逐步延伸至工業(yè)互聯(lián)網(wǎng)安全、工業(yè)云安全、工業(yè)大數(shù)據(jù)安全等領(lǐng)域。

    數(shù)據(jù)商品化、流動(dòng)路徑復(fù)雜、實(shí)時(shí)性要求高、數(shù)據(jù)關(guān)聯(lián)性強(qiáng)、異構(gòu)多態(tài)化等特點(diǎn)決定了工業(yè)數(shù)據(jù)將成為重點(diǎn)管理和防御對(duì)象。工業(yè)系統(tǒng)的內(nèi)生安全將重新設(shè)計(jì)和規(guī)劃;終端狀態(tài)監(jiān)測(cè)與系統(tǒng)安全態(tài)勢(shì)感知成為安全決策與管理的重要根基。

    而相應(yīng)的工控網(wǎng)絡(luò)安全防護(hù)技術(shù)的發(fā)展將具備下列特點(diǎn):

    以隔離為手段的安全防護(hù),兩化融合初始階段,隔離是企業(yè)用戶、供應(yīng)商應(yīng)對(duì)安全的主要途徑。

    縱深防御的安全防護(hù)體系,信息安全領(lǐng)域自然延伸,自上而下部署縱深防御的產(chǎn)品集合。

    內(nèi)生安全的智能防御體系,符合工控特點(diǎn)的內(nèi)生安全防護(hù)技術(shù),持續(xù)監(jiān)測(cè)安全風(fēng)險(xiǎn),例如,擬態(tài)防御技術(shù)、基于可信根和可信芯片的科信計(jì)算技術(shù)。

    3.3 工控網(wǎng)絡(luò)安全未來工作重點(diǎn)

    3.3.1 工業(yè)安全檢測(cè)能力建設(shè)

    建立多種工業(yè)形態(tài)仿真運(yùn)行環(huán)境,研究分析檢測(cè)對(duì)象安全需求,開展安全檢測(cè)能力建設(shè),建設(shè)工業(yè)設(shè)備和網(wǎng)絡(luò)安全知識(shí)庫,建立和完善工業(yè)設(shè)備和網(wǎng)絡(luò)信息安全檢測(cè)平臺(tái)。

    3.3.2 工業(yè)網(wǎng)絡(luò)靶場(chǎng)建設(shè)

    網(wǎng)絡(luò)靶場(chǎng)是一個(gè)訓(xùn)練網(wǎng)絡(luò)安全人員的網(wǎng)絡(luò)環(huán)境,在這個(gè)環(huán)境中訓(xùn)練網(wǎng)絡(luò)戰(zhàn)士。其需要建立一個(gè)作為大腦的業(yè)務(wù)運(yùn)行平臺(tái),對(duì)關(guān)鍵基礎(chǔ)設(shè)備和網(wǎng)絡(luò)真實(shí)流量進(jìn)行仿真,從而對(duì)攻防態(tài)勢(shì)監(jiān)測(cè)、統(tǒng)計(jì)與分析。

    3.3.3 攻擊技術(shù)研究與工具集研發(fā)

    關(guān)鍵系統(tǒng)和產(chǎn)品漏洞挖掘技術(shù)研究:通過模糊測(cè)試、靜態(tài)分析、逆向工程等手段,挖掘數(shù)控機(jī)床、無人機(jī)、醫(yī)療設(shè)備、工業(yè)機(jī)器人等關(guān)鍵系統(tǒng)和產(chǎn)品通信協(xié)議、軟件、固件等存在的安全漏洞,研究漏洞挖掘的理論和實(shí)現(xiàn)方法。

    關(guān)鍵系統(tǒng)和產(chǎn)品漏洞攻擊利用技術(shù)研究 :研究關(guān)鍵系統(tǒng)和產(chǎn)品的漏洞攻擊利用技術(shù),包括攻擊策略制定、攻擊路徑選擇、漏洞滲透和APT 攻擊等。

    關(guān)鍵系統(tǒng)和產(chǎn)品安全攻擊工具集研發(fā):研發(fā)關(guān)鍵系統(tǒng)和產(chǎn)品的安全攻擊工具集,建立安全攻擊方案庫,開展攻防技術(shù)演練與方案驗(yàn)證。

    3.3.4 信息安全保障體系建設(shè)

    工業(yè)信息安全防護(hù)能力建設(shè),建立涵蓋設(shè)備安全、控制安全、網(wǎng)絡(luò)安全、平臺(tái)安全和數(shù)據(jù)安全的多層次安全保障技術(shù)體系。

    建立工業(yè)信息安全防護(hù)技術(shù)手段,打造工業(yè)控制系統(tǒng)安全靶場(chǎng)、工業(yè)互聯(lián)網(wǎng)安全監(jiān)測(cè)預(yù)警和防護(hù)處置平臺(tái)、工業(yè)互聯(lián)網(wǎng)惡意代碼檢測(cè)分析平臺(tái)、工業(yè)信息安全核心技術(shù)研發(fā)平臺(tái)等[11]。

    構(gòu)建工業(yè)信息安全評(píng)估認(rèn)證體系,開展工業(yè)設(shè)備、網(wǎng)絡(luò)和平臺(tái)的安全評(píng)估認(rèn)證工作

    3.3.5 新領(lǐng)域中的安全檢測(cè)評(píng)估能力建設(shè)

    在5G、智能醫(yī)療、人工智能、車聯(lián)網(wǎng)等新興領(lǐng)域中,數(shù)據(jù)傳感、網(wǎng)絡(luò)通信、云計(jì)算等多種技術(shù)融合應(yīng)用,給信息安全防護(hù)帶來了前所未有的嚴(yán)峻挑戰(zhàn)。針對(duì)以上領(lǐng)域建設(shè)信息安全檢測(cè)平臺(tái),形成覆蓋安全漏洞掃描、滲透測(cè)試、惡意代碼查驗(yàn)、數(shù)據(jù)安全檢測(cè)、網(wǎng)絡(luò)安全評(píng)估、平臺(tái)安全檢測(cè)、應(yīng)用安全檢測(cè)、密碼安全評(píng)估的全面安全檢測(cè)能力。

    4 總結(jié)

    本文針對(duì)工控網(wǎng)絡(luò)的安全形勢(shì)進(jìn)行了分析,對(duì)于政策法規(guī)和安全測(cè)評(píng)對(duì)工控安全的促進(jìn)與提升做了陳述,對(duì)于當(dāng)前新形勢(shì)下我國工控網(wǎng)絡(luò)安全的發(fā)展做出判斷與建議。

    猜你喜歡
    網(wǎng)絡(luò)安全設(shè)備系統(tǒng)
    諧響應(yīng)分析在設(shè)備減振中的應(yīng)用
    Smartflower POP 一體式光伏系統(tǒng)
    WJ-700無人機(jī)系統(tǒng)
    ZC系列無人機(jī)遙感系統(tǒng)
    網(wǎng)絡(luò)安全
    網(wǎng)絡(luò)安全人才培養(yǎng)應(yīng)“實(shí)戰(zhàn)化”
    基于MPU6050簡(jiǎn)單控制設(shè)備
    電子制作(2018年11期)2018-08-04 03:26:08
    上網(wǎng)時(shí)如何注意網(wǎng)絡(luò)安全?
    連通與提升系統(tǒng)的最后一塊拼圖 Audiolab 傲立 M-DAC mini
    500kV輸變電設(shè)備運(yùn)行維護(hù)探討
    ponron亚洲| 麻豆一二三区av精品| 国产亚洲一区二区精品| 日韩av在线大香蕉| 成年女人永久免费观看视频| 国产一区二区三区av在线| 国产女主播在线喷水免费视频网站 | 国产一级毛片七仙女欲春2| 久久亚洲国产成人精品v| 高清在线视频一区二区三区 | 国产色爽女视频免费观看| 午夜福利成人在线免费观看| 一级黄片播放器| 国内精品宾馆在线| 日韩欧美精品免费久久| 激情 狠狠 欧美| 激情 狠狠 欧美| 中文精品一卡2卡3卡4更新| 国产精品福利在线免费观看| 精品人妻偷拍中文字幕| 亚洲成人av在线免费| 国产又色又爽无遮挡免| 真实男女啪啪啪动态图| 久久精品国产亚洲av天美| 久久精品国产99精品国产亚洲性色| 国产亚洲av嫩草精品影院| 少妇猛男粗大的猛烈进出视频 | 亚洲精品一区蜜桃| 男人和女人高潮做爰伦理| 性插视频无遮挡在线免费观看| 国产亚洲最大av| 亚洲欧洲国产日韩| 亚洲成人中文字幕在线播放| 大话2 男鬼变身卡| 全区人妻精品视频| 九草在线视频观看| 久久久久免费精品人妻一区二区| 亚洲人成网站在线播| 国产人妻一区二区三区在| 亚洲国产色片| 精品久久久久久久末码| 18禁在线播放成人免费| 嫩草影院精品99| 欧美一区二区国产精品久久精品| 一级毛片久久久久久久久女| 国产高清国产精品国产三级 | 最近最新中文字幕大全电影3| 婷婷色av中文字幕| 成人鲁丝片一二三区免费| 人妻系列 视频| 亚洲国产精品成人久久小说| 久久国内精品自在自线图片| 国产精品久久视频播放| 久久99热这里只频精品6学生 | 欧美成人一区二区免费高清观看| 亚洲av电影在线观看一区二区三区 | 免费av毛片视频| 精华霜和精华液先用哪个| 国产三级中文精品| 国语自产精品视频在线第100页| 搞女人的毛片| 久久精品熟女亚洲av麻豆精品 | 免费不卡的大黄色大毛片视频在线观看 | 久久精品综合一区二区三区| 日韩制服骚丝袜av| 国产精品福利在线免费观看| 国产爱豆传媒在线观看| 人人妻人人澡人人爽人人夜夜 | 一级毛片电影观看 | 免费搜索国产男女视频| 久久综合国产亚洲精品| 五月玫瑰六月丁香| 国产成人免费观看mmmm| 自拍偷自拍亚洲精品老妇| 久久热精品热| 美女脱内裤让男人舔精品视频| 久久久久国产网址| 久久久久免费精品人妻一区二区| av专区在线播放| av黄色大香蕉| 亚洲精品一区蜜桃| 欧美成人精品欧美一级黄| 非洲黑人性xxxx精品又粗又长| 老司机影院成人| 麻豆成人午夜福利视频| 能在线免费观看的黄片| 国产真实乱freesex| 禁无遮挡网站| 2021少妇久久久久久久久久久| 男插女下体视频免费在线播放| 欧美成人a在线观看| 国产精品久久久久久av不卡| 亚洲av熟女| 校园人妻丝袜中文字幕| 听说在线观看完整版免费高清| 淫秽高清视频在线观看| 成年女人永久免费观看视频| 舔av片在线| 综合色丁香网| 日本爱情动作片www.在线观看| 我要搜黄色片| 我要搜黄色片| 一夜夜www| 日本免费a在线| 我要看日韩黄色一级片| 一区二区三区四区激情视频| 女人十人毛片免费观看3o分钟| 狠狠狠狠99中文字幕| 狠狠狠狠99中文字幕| 久久99热这里只频精品6学生 | 一区二区三区乱码不卡18| 亚洲精品国产av成人精品| 能在线免费看毛片的网站| 99国产精品一区二区蜜桃av| 91在线精品国自产拍蜜月| 18禁在线播放成人免费| 在线观看美女被高潮喷水网站| 免费观看人在逋| 两个人视频免费观看高清| 99久久无色码亚洲精品果冻| 97热精品久久久久久| 99久久无色码亚洲精品果冻| 最近手机中文字幕大全| 欧美成人一区二区免费高清观看| 久久午夜福利片| 最近中文字幕高清免费大全6| 校园人妻丝袜中文字幕| 欧美激情在线99| 天天躁日日操中文字幕| 我要搜黄色片| 91久久精品国产一区二区成人| 国产美女午夜福利| 国产91av在线免费观看| 如何舔出高潮| 国产色爽女视频免费观看| 亚洲久久久久久中文字幕| 精品久久久久久成人av| 18禁动态无遮挡网站| 亚洲国产成人一精品久久久| 中文字幕制服av| 啦啦啦观看免费观看视频高清| 99久久精品一区二区三区| 国产又色又爽无遮挡免| 欧美不卡视频在线免费观看| 国产精品一区二区在线观看99 | 国产精品久久电影中文字幕| 亚洲国产精品久久男人天堂| 国产色爽女视频免费观看| 日韩在线高清观看一区二区三区| 91精品一卡2卡3卡4卡| 日日摸夜夜添夜夜添av毛片| 亚洲色图av天堂| av在线蜜桃| 精华霜和精华液先用哪个| 亚洲av男天堂| 亚洲国产欧洲综合997久久,| 狂野欧美激情性xxxx在线观看| 天天一区二区日本电影三级| 亚洲在久久综合| 网址你懂的国产日韩在线| av.在线天堂| 1000部很黄的大片| 国产亚洲5aaaaa淫片| 91av网一区二区| 九九久久精品国产亚洲av麻豆| 国产av不卡久久| 久久精品综合一区二区三区| 国产黄色小视频在线观看| 一二三四中文在线观看免费高清| av国产久精品久网站免费入址| 水蜜桃什么品种好| 极品教师在线视频| 精品人妻一区二区三区麻豆| av专区在线播放| av在线亚洲专区| 国产高清不卡午夜福利| 1000部很黄的大片| 午夜日本视频在线| 亚洲欧洲国产日韩| 亚洲一级一片aⅴ在线观看| 成人特级av手机在线观看| 国产黄色小视频在线观看| 午夜老司机福利剧场| 欧美色视频一区免费| 免费在线观看成人毛片| 成年免费大片在线观看| 干丝袜人妻中文字幕| 国产日韩欧美在线精品| 色5月婷婷丁香| 波野结衣二区三区在线| 日韩一本色道免费dvd| 国产三级在线视频| 男女下面进入的视频免费午夜| 午夜a级毛片| 亚洲av福利一区| 淫秽高清视频在线观看| 免费观看性生交大片5| 男插女下体视频免费在线播放| 精品人妻熟女av久视频| 久久久国产成人精品二区| 99热精品在线国产| 国产精品国产高清国产av| 九九在线视频观看精品| 亚洲真实伦在线观看| 精品久久久久久电影网 | 亚洲久久久久久中文字幕| 联通29元200g的流量卡| 亚洲无线观看免费| 国产免费一级a男人的天堂| 婷婷色综合大香蕉| 中文字幕熟女人妻在线| 亚洲精品国产av成人精品| 久久久国产成人精品二区| 中文字幕久久专区| 亚洲最大成人中文| 国产免费一级a男人的天堂| 国产精品无大码| 在线免费观看的www视频| 一级毛片久久久久久久久女| 男插女下体视频免费在线播放| 日本欧美国产在线视频| 嘟嘟电影网在线观看| 秋霞伦理黄片| 在线观看66精品国产| 久久国产乱子免费精品| 国产亚洲91精品色在线| 毛片一级片免费看久久久久| 又爽又黄无遮挡网站| 欧美+日韩+精品| 国产精品1区2区在线观看.| 深夜a级毛片| 高清av免费在线| 男插女下体视频免费在线播放| 欧美另类亚洲清纯唯美| 国产成人一区二区在线| 久久热精品热| 亚洲欧洲日产国产| 国产真实乱freesex| 亚洲精品一区蜜桃| 九草在线视频观看| 国产精品无大码| 少妇裸体淫交视频免费看高清| 欧美色视频一区免费| 亚洲国产精品国产精品| 日韩国内少妇激情av| 波多野结衣高清无吗| 亚洲av.av天堂| 国产精品精品国产色婷婷| 国产麻豆成人av免费视频| 少妇的逼水好多| 91午夜精品亚洲一区二区三区| 五月玫瑰六月丁香| 毛片女人毛片| 中文字幕免费在线视频6| 国产亚洲精品av在线| 在线观看av片永久免费下载| 国产成人91sexporn| 国产精品女同一区二区软件| 99热6这里只有精品| 欧美97在线视频| 日本-黄色视频高清免费观看| 久久精品久久久久久噜噜老黄 | 亚洲av成人精品一区久久| 国产黄片美女视频| 日本色播在线视频| 国产亚洲午夜精品一区二区久久 | .国产精品久久| 黄片wwwwww| 日本爱情动作片www.在线观看| 免费在线观看成人毛片| 99久久精品一区二区三区| 国产v大片淫在线免费观看| 亚洲丝袜综合中文字幕| 在线天堂最新版资源| 看非洲黑人一级黄片| 18禁在线播放成人免费| 成年免费大片在线观看| 欧美潮喷喷水| 大话2 男鬼变身卡| 国产精品国产三级国产av玫瑰| 一个人观看的视频www高清免费观看| 成人鲁丝片一二三区免费| 国产欧美日韩精品一区二区| 国产一级毛片七仙女欲春2| 免费电影在线观看免费观看| 日韩av在线大香蕉| 韩国高清视频一区二区三区| 中文字幕av在线有码专区| 纵有疾风起免费观看全集完整版 | 全区人妻精品视频| 久久这里只有精品中国| 一区二区三区免费毛片| 99热这里只有精品一区| 伊人久久精品亚洲午夜| 日本与韩国留学比较| 97在线视频观看| 少妇熟女欧美另类| 欧美高清成人免费视频www| 成人毛片60女人毛片免费| 亚洲欧美成人综合另类久久久 | 波多野结衣巨乳人妻| 日日啪夜夜撸| 一区二区三区四区激情视频| 精品久久久久久久久久久久久| 国产乱人视频| 91精品伊人久久大香线蕉| 夜夜爽夜夜爽视频| 亚洲成人中文字幕在线播放| 精品一区二区三区视频在线| 看免费成人av毛片| 国产成人精品婷婷| 成人鲁丝片一二三区免费| 日本免费在线观看一区| 3wmmmm亚洲av在线观看| 自拍偷自拍亚洲精品老妇| 在线天堂最新版资源| 国产精品野战在线观看| 亚洲五月天丁香| eeuss影院久久| 国产精品人妻久久久影院| 日韩av在线大香蕉| 精品久久久久久成人av| 夫妻性生交免费视频一级片| 美女国产视频在线观看| 亚洲va在线va天堂va国产| 老女人水多毛片| 国产成人精品久久久久久| 精品午夜福利在线看| 国产黄色视频一区二区在线观看 | 亚洲av.av天堂| 国产精品嫩草影院av在线观看| 直男gayav资源| 你懂的网址亚洲精品在线观看 | 精品人妻一区二区三区麻豆| 熟女电影av网| 国产av不卡久久| 中文字幕精品亚洲无线码一区| 国产伦一二天堂av在线观看| 免费观看a级毛片全部| 卡戴珊不雅视频在线播放| 老师上课跳d突然被开到最大视频| 国产av码专区亚洲av| 97超视频在线观看视频| 一本一本综合久久| 久久久久久久亚洲中文字幕| av在线蜜桃| 国产亚洲最大av| 日本黄色片子视频| 国产成人freesex在线| 热99在线观看视频| 亚洲五月天丁香| 亚洲三级黄色毛片| 蜜臀久久99精品久久宅男| 少妇裸体淫交视频免费看高清| 亚洲欧美精品综合久久99| 国产精品国产高清国产av| 国产私拍福利视频在线观看| 简卡轻食公司| 中文资源天堂在线| 久久久久精品久久久久真实原创| 欧美zozozo另类| 国产又黄又爽又无遮挡在线| 麻豆久久精品国产亚洲av| 狂野欧美激情性xxxx在线观看| 亚洲不卡免费看| 在线观看av片永久免费下载| 激情 狠狠 欧美| 免费看av在线观看网站| 国产精品乱码一区二三区的特点| 在线观看一区二区三区| 老司机影院成人| 国产精品不卡视频一区二区| 亚洲欧洲国产日韩| 亚洲最大成人手机在线| 亚洲人成网站高清观看| 边亲边吃奶的免费视频| 欧美性猛交╳xxx乱大交人| 国产乱来视频区| 伦精品一区二区三区| 久久久成人免费电影| 乱系列少妇在线播放| 色5月婷婷丁香| 99久久精品热视频| 男人和女人高潮做爰伦理| 国产精品野战在线观看| 国产三级在线视频| videossex国产| 啦啦啦观看免费观看视频高清| 只有这里有精品99| 久久6这里有精品| 亚洲国产精品国产精品| 九九在线视频观看精品| 欧美一区二区国产精品久久精品| 久久久国产成人精品二区| 一级黄色大片毛片| 久久人人爽人人爽人人片va| 少妇熟女欧美另类| 网址你懂的国产日韩在线| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 三级国产精品片| 欧美成人a在线观看| 精品久久久久久成人av| 日本-黄色视频高清免费观看| 男女国产视频网站| 亚洲av电影不卡..在线观看| 精品熟女少妇av免费看| 日韩强制内射视频| 精品99又大又爽又粗少妇毛片| 在线a可以看的网站| 亚洲国产欧洲综合997久久,| 欧美3d第一页| 成人亚洲欧美一区二区av| 国产成年人精品一区二区| 非洲黑人性xxxx精品又粗又长| 亚洲色图av天堂| 国产精品一区二区三区四区久久| 99热全是精品| 久久鲁丝午夜福利片| 国产成年人精品一区二区| 久久精品国产亚洲网站| .国产精品久久| 97在线视频观看| 国产精品久久久久久久久免| 亚洲欧美成人精品一区二区| 神马国产精品三级电影在线观看| 欧美性猛交黑人性爽| 水蜜桃什么品种好| 大香蕉久久网| 日本猛色少妇xxxxx猛交久久| 中文字幕亚洲精品专区| 亚洲精品aⅴ在线观看| 岛国在线免费视频观看| 免费人成在线观看视频色| 最新中文字幕久久久久| 欧美xxxx性猛交bbbb| 国产精品一区二区在线观看99 | 久久久久久九九精品二区国产| 一个人观看的视频www高清免费观看| 国产探花在线观看一区二区| 久久精品久久久久久噜噜老黄 | 亚洲欧美精品自产自拍| 观看美女的网站| 久久这里有精品视频免费| 搡女人真爽免费视频火全软件| 乱系列少妇在线播放| 在线a可以看的网站| 免费大片18禁| 亚洲人成网站高清观看| 26uuu在线亚洲综合色| 非洲黑人性xxxx精品又粗又长| 在线a可以看的网站| 欧美性猛交╳xxx乱大交人| 一级爰片在线观看| 黄片无遮挡物在线观看| 日本wwww免费看| 中文字幕熟女人妻在线| 欧美成人午夜免费资源| 日韩欧美 国产精品| 天天躁日日操中文字幕| 欧美高清成人免费视频www| 精品久久久久久电影网 | 成人毛片a级毛片在线播放| 国产精品久久久久久av不卡| 国产精品电影一区二区三区| 九九久久精品国产亚洲av麻豆| 一级黄片播放器| 国产午夜福利久久久久久| 欧美激情在线99| 国产成人午夜福利电影在线观看| 免费av毛片视频| 日韩一区二区三区影片| 亚洲第一区二区三区不卡| 狠狠狠狠99中文字幕| 精品国内亚洲2022精品成人| 成人国产麻豆网| 精品无人区乱码1区二区| 久久精品91蜜桃| 亚洲欧美日韩卡通动漫| 久久久久久久久中文| 国产精品一及| 中文字幕亚洲精品专区| 22中文网久久字幕| 国语对白做爰xxxⅹ性视频网站| 国产精品人妻久久久久久| 丰满人妻一区二区三区视频av| 亚洲欧美精品综合久久99| 午夜日本视频在线| 亚洲欧美日韩高清专用| 女人久久www免费人成看片 | 日韩一区二区视频免费看| 国产精品一及| 极品教师在线视频| 亚洲真实伦在线观看| 亚洲国产精品成人久久小说| 国产精品1区2区在线观看.| 一级二级三级毛片免费看| 国产又色又爽无遮挡免| 搡女人真爽免费视频火全软件| 99久国产av精品国产电影| 岛国毛片在线播放| 九九热线精品视视频播放| 最近最新中文字幕大全电影3| 久久久久精品久久久久真实原创| 国产精品国产三级国产专区5o | 毛片一级片免费看久久久久| 看黄色毛片网站| 国产男人的电影天堂91| 中文字幕免费在线视频6| 国产极品天堂在线| 国产精品一区www在线观看| 欧美最新免费一区二区三区| 校园人妻丝袜中文字幕| 欧美高清成人免费视频www| 丰满人妻一区二区三区视频av| 午夜福利成人在线免费观看| 国产三级在线视频| 精品无人区乱码1区二区| 麻豆久久精品国产亚洲av| 久久午夜福利片| 亚洲最大成人中文| 99九九线精品视频在线观看视频| 国产探花在线观看一区二区| 亚洲美女视频黄频| 国产精品一二三区在线看| 日韩人妻高清精品专区| 国内精品宾馆在线| 免费av不卡在线播放| 亚洲av熟女| 欧美+日韩+精品| 91久久精品国产一区二区三区| 日韩视频在线欧美| 在线免费观看的www视频| 国产精品蜜桃在线观看| 国产精品无大码| 日韩一区二区三区影片| 国产三级中文精品| 国产淫片久久久久久久久| 人体艺术视频欧美日本| 能在线免费看毛片的网站| 欧美最新免费一区二区三区| 亚洲欧美日韩卡通动漫| 日韩,欧美,国产一区二区三区 | 人妻系列 视频| 久久精品91蜜桃| 亚洲高清免费不卡视频| 国内精品一区二区在线观看| 视频中文字幕在线观看| 免费av观看视频| 综合色av麻豆| 日韩欧美在线乱码| 九九热线精品视视频播放| 免费一级毛片在线播放高清视频| 亚洲精品色激情综合| 又爽又黄a免费视频| 亚洲av成人精品一二三区| 91精品国产九色| 日韩中字成人| 亚洲国产成人一精品久久久| 日本午夜av视频| 免费看日本二区| 成人三级黄色视频| 蜜桃亚洲精品一区二区三区| 亚洲成人精品中文字幕电影| a级毛色黄片| 蜜臀久久99精品久久宅男| 久久久久性生活片| 国内少妇人妻偷人精品xxx网站| 在现免费观看毛片| 身体一侧抽搐| 精品一区二区三区视频在线| 久久久久久九九精品二区国产| 久久久国产成人免费| 一区二区三区高清视频在线| 精品欧美国产一区二区三| 大话2 男鬼变身卡| 在现免费观看毛片| 欧美三级亚洲精品| 男插女下体视频免费在线播放| 人体艺术视频欧美日本| 国产在视频线精品| 国产免费福利视频在线观看| 国产老妇伦熟女老妇高清| 纵有疾风起免费观看全集完整版 | 亚洲国产欧洲综合997久久,| 青春草视频在线免费观看| 日本猛色少妇xxxxx猛交久久| 男女那种视频在线观看| 亚州av有码| 亚洲三级黄色毛片| 一边亲一边摸免费视频| 麻豆一二三区av精品| 狂野欧美激情性xxxx在线观看| 中文资源天堂在线| 日本爱情动作片www.在线观看| 少妇熟女aⅴ在线视频| 亚洲国产精品成人综合色| 国产精品一区二区三区四区免费观看| 亚洲av熟女| 国产精品国产高清国产av| 天天躁日日操中文字幕| 一级黄色大片毛片| 久久国内精品自在自线图片| 插逼视频在线观看| 在现免费观看毛片| 日韩av不卡免费在线播放| 99热全是精品| eeuss影院久久| 天堂影院成人在线观看| 国产男人的电影天堂91| 人人妻人人看人人澡| 18禁在线播放成人免费| 大香蕉久久网| 18禁裸乳无遮挡免费网站照片| 久久精品91蜜桃| 久久精品夜色国产|