• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    以CPS為核心的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)及監(jiān)管控制

    2021-04-29 00:00:00趙麗莉周彤

    〔摘要〕數(shù)字與傳統(tǒng)基建深度融合,工業(yè)互聯(lián)網(wǎng)成為新基建的重要戰(zhàn)場(chǎng),新基建產(chǎn)生新業(yè)態(tài)、新發(fā)展,也必將衍生出不同于傳統(tǒng)環(huán)境的風(fēng)險(xiǎn),因此工業(yè)互聯(lián)網(wǎng)在發(fā)展“新基建”的同時(shí)必須警惕新風(fēng)險(xiǎn)的降臨,預(yù)防與控制工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)愈發(fā)重要。工業(yè)互聯(lián)網(wǎng)以信息物理融合系統(tǒng)(Cyber physical systems,簡(jiǎn)稱CPS)為關(guān)鍵技術(shù),論文梳理以CPS為核心的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)特征,提出“新基建”建設(shè)背景下工業(yè)互聯(lián)網(wǎng)應(yīng)持續(xù)加強(qiáng)CPS標(biāo)準(zhǔn)體系建設(shè),推進(jìn)政府與社會(huì)多方主體協(xié)同共治,建設(shè)數(shù)據(jù)要素預(yù)警庫(kù),加強(qiáng)風(fēng)險(xiǎn)監(jiān)測(cè)、數(shù)據(jù)治理與應(yīng)急管理。

    〔關(guān)鍵詞〕新基建; 信息物理融合系統(tǒng); 工業(yè)互聯(lián)網(wǎng); 安全風(fēng)險(xiǎn); 預(yù)防與控制

    〔中圖分類號(hào)〕TN91507〔文獻(xiàn)標(biāo)識(shí)碼〕A〔文章編號(hào)〕1008-2689(2021)01-0048-08

    一、 問(wèn)題的提出

    當(dāng)前正處于新一輪產(chǎn)業(yè)變革和科技革命時(shí)期,網(wǎng)絡(luò)科技高速發(fā)展,大數(shù)據(jù)、人工智能等與社會(huì)生活的各個(gè)領(lǐng)域深度結(jié)合,2020年3月4日,中共中央政治局常務(wù)委員會(huì)召開(kāi)會(huì)議提出,加快數(shù)據(jù)中心、5G網(wǎng)絡(luò)、物聯(lián)網(wǎng)等新型基礎(chǔ)設(shè)施的建設(shè)進(jìn)度。工業(yè)互聯(lián)網(wǎng)是新基建的重要戰(zhàn)場(chǎng),由新基建衍生出的新型生產(chǎn)力正在催生新業(yè)態(tài)與新模式。

    信息物理融合系統(tǒng)(Cyber physical systems,簡(jiǎn)稱CPS)被認(rèn)為是工業(yè)互聯(lián)網(wǎng)中的關(guān)鍵核心技術(shù),將信息世界中的通信控制技術(shù)和物理世界中的實(shí)體設(shè)備高效集成,形成智能化體系,優(yōu)化配置資源。新一代工業(yè)以CPS為基礎(chǔ)推進(jìn)信息化與工業(yè)化深度融合[1],而工業(yè)互聯(lián)網(wǎng)借助CPS技術(shù)將網(wǎng)絡(luò)與實(shí)體連接起來(lái),實(shí)現(xiàn)智能化發(fā)展[2],諸如CPS應(yīng)用于電力行業(yè),可對(duì)配電網(wǎng)運(yùn)行產(chǎn)生影響影響[3];利用CPS、智能傳感等技術(shù)可建設(shè)智能船廠[4]。

    與此同時(shí),工業(yè)互聯(lián)網(wǎng)中數(shù)字技術(shù)與實(shí)體經(jīng)濟(jì)的深度融合亦伴隨不斷飆升的安全風(fēng)險(xiǎn):以CPS為核心的工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)隱蔽特性強(qiáng)、被攻擊路徑增多,且波及范圍廣泛、涉及多方主體,風(fēng)險(xiǎn)來(lái)源具有極大不確定性,易致風(fēng)險(xiǎn)鏈,危及工業(yè)互聯(lián)網(wǎng)基礎(chǔ)設(shè)施安全、工業(yè)數(shù)據(jù)安全,這對(duì)其風(fēng)險(xiǎn)監(jiān)管提出了新的訴求。工業(yè)互聯(lián)網(wǎng)發(fā)展需要更好的制度環(huán)境[5],尤其在新基建背景之下,關(guān)注以CPS為核心的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)及監(jiān)管控制問(wèn)題,形成風(fēng)險(xiǎn)鏈防范的安全理念,對(duì)保障工業(yè)互聯(lián)網(wǎng)安全具有重要現(xiàn)實(shí)價(jià)值,有助于探索拓展已有監(jiān)管機(jī)制的新業(yè)態(tài),及時(shí)推動(dòng)工業(yè)互聯(lián)網(wǎng)的安全運(yùn)營(yíng),構(gòu)建面向數(shù)字經(jīng)濟(jì)的安全保障體系。

    二、 以CPS為核心的工業(yè)互聯(lián)網(wǎng)應(yīng)用

    互聯(lián)網(wǎng)及新一代信息技術(shù)與工業(yè)系統(tǒng)全方位融合形成工業(yè)互聯(lián)網(wǎng)。工業(yè)互聯(lián)網(wǎng)相當(dāng)于工業(yè)領(lǐng)域的“操作系統(tǒng)”,以數(shù)據(jù)中心為重要支撐,以人工智能為關(guān)鍵技術(shù),并以新型工業(yè)生產(chǎn)環(huán)境CPS為核心,成為推動(dòng)工業(yè)領(lǐng)域新興發(fā)展的重要基礎(chǔ)。在該背景下,信息網(wǎng)絡(luò)融合于國(guó)家關(guān)鍵基礎(chǔ)行業(yè),電力、交通、石化、制造業(yè)等日益趨于智能化,各個(gè)行業(yè)的控制系統(tǒng)之間逐步實(shí)現(xiàn)遠(yuǎn)程控制及信息互聯(lián)互通。工業(yè)互聯(lián)網(wǎng)的廣泛應(yīng)用也能夠有效推動(dòng)人工智能、數(shù)據(jù)中心等新型基礎(chǔ)設(shè)施的發(fā)展,提升數(shù)字經(jīng)濟(jì)時(shí)代下“新基建”的建設(shè)成效[6]。

    (一) CPS界定

    CPS將信息世界與物理世界緊密融合,信息在異構(gòu)網(wǎng)絡(luò)間傳遞最終又反饋給物理空間,幫助工業(yè)互聯(lián)網(wǎng)構(gòu)建新時(shí)代應(yīng)用場(chǎng)景。論文所指CPS體系結(jié)構(gòu)包括物理層、數(shù)據(jù)傳輸層和應(yīng)用層三個(gè)層面(見(jiàn)圖1),三個(gè)層面相互協(xié)調(diào),相互配合,共同架構(gòu)CPS完整體系。物理層:主要包括傳感器和執(zhí)行器,傳感器主要負(fù)責(zé)感知物理信息,將物理世界中的信息融入到計(jì)算過(guò)程中,進(jìn)行協(xié)調(diào)溝通,物理層最大的特性便是實(shí)時(shí)性,需要實(shí)時(shí)感知外界信息,而執(zhí)行器負(fù)責(zé)執(zhí)行系統(tǒng)的控制命令,進(jìn)行動(dòng)態(tài)控制;數(shù)據(jù)傳輸層:信息物理系統(tǒng)具有異構(gòu)性,是由不同網(wǎng)絡(luò)架構(gòu)而成的,網(wǎng)絡(luò)之間信息互通,將數(shù)據(jù)實(shí)時(shí)傳輸,起到上傳下達(dá)的作用,同時(shí)進(jìn)行數(shù)據(jù)分析與數(shù)據(jù)處理,在該層面中將多種數(shù)據(jù)綜合計(jì)算,對(duì)數(shù)據(jù)準(zhǔn)確分析,選擇出最優(yōu)方案,為更好地服務(wù)于應(yīng)用層奠定基礎(chǔ);應(yīng)用層:在經(jīng)歷了物理層和數(shù)據(jù)傳輸層之后,到達(dá)了信息物理系統(tǒng)的最頂層——應(yīng)用層,通過(guò)前述對(duì)信息的感知、傳輸與處理之后,應(yīng)用層將信息進(jìn)行配置,通過(guò)任務(wù)的調(diào)度與執(zhí)行等,應(yīng)用于現(xiàn)實(shí)實(shí)踐中,服務(wù)于人們的生活。

    CPS是信息世界與物理世界深度融合的智能控制系統(tǒng)[7]。如圖1所示,它利用嵌入式軟件,從被控的對(duì)象和環(huán)境中感知信息,通過(guò)數(shù)據(jù)傳輸層的計(jì)算功能來(lái)處理分析被控對(duì)象的當(dāng)前狀況,最后再根據(jù)已建立的模型計(jì)算和控制規(guī)則形成決策結(jié)果,向執(zhí)行器發(fā)出操作指令。在具體的應(yīng)用中,以上過(guò)程是一個(gè)“感知-分析-決策-執(zhí)行”的循環(huán)往復(fù)過(guò)程,直到實(shí)現(xiàn)既定的控制目標(biāo)[8]。在實(shí)際運(yùn)行中,大量傳感設(shè)備利用無(wú)線通訊組成網(wǎng)絡(luò),協(xié)調(diào)完成對(duì)物理環(huán)境的檢測(cè),然后對(duì)相應(yīng)信息深入分析、融合處理,并將所得數(shù)據(jù)通過(guò)異構(gòu)網(wǎng)絡(luò)傳送給應(yīng)用層,最終和執(zhí)行設(shè)備共同調(diào)控,保證系統(tǒng)運(yùn)行的連貫有效性。

    (二) 以CPS為核心的工業(yè)互聯(lián)網(wǎng)應(yīng)用實(shí)踐

    全球工業(yè)領(lǐng)域正逐步實(shí)現(xiàn)信息化,德國(guó)提出工業(yè) 40計(jì)劃、美國(guó)發(fā)展工業(yè)互聯(lián)網(wǎng)、中國(guó)實(shí)施“互聯(lián)網(wǎng)+”戰(zhàn)略,工業(yè)生產(chǎn)從以往的設(shè)備自動(dòng)化模式逐漸轉(zhuǎn)向以網(wǎng)絡(luò)科技為基礎(chǔ)的智能化生產(chǎn)方式。工業(yè)互聯(lián)網(wǎng)以CPS為核心,將信息空間與物理空間緊密融合。至此,CPS在工業(yè)互聯(lián)網(wǎng)中得到廣泛應(yīng)用。諸如:將CPS 運(yùn)用到電力運(yùn)行過(guò)程中,可解決電能在生產(chǎn)服務(wù)過(guò)程中產(chǎn)生的復(fù)雜問(wèn)題,使智能電網(wǎng)能夠?qū)崟r(shí)檢測(cè)故障,快速隔離故障,避免損失,還可以實(shí)現(xiàn)對(duì)電價(jià)的實(shí)時(shí)調(diào)整以及電力的優(yōu)化調(diào)度,隨著大量新能源發(fā)電的應(yīng)用,CPS可以幫助智能電網(wǎng)了解用戶發(fā)電用電的信息并給出針對(duì)性服務(wù),通過(guò)采集到的信息對(duì)電網(wǎng)進(jìn)行建模分析,實(shí)現(xiàn)遠(yuǎn)程監(jiān)控;基于CPS的交通系統(tǒng)通過(guò)散布于道路、人和交通工具中的各種智能感應(yīng)裝置進(jìn)行行車信息的實(shí)時(shí)采集、傳遞和處理決策,可實(shí)現(xiàn)“人-車”以及“車-車”之間的自治與協(xié)調(diào),目前,汽車中應(yīng)用的ACC、ESP、自動(dòng)泊車系統(tǒng)等技術(shù)都屬于汽車CPS技術(shù)研究的新進(jìn)展,汽車CPS技術(shù)不但可以提高單輛汽車行駛的安全性、可靠性和節(jié)能性,而且還可以實(shí)現(xiàn)智能調(diào)度,有效減輕城市交通壓力,通過(guò)CPS技術(shù),可以實(shí)現(xiàn)交通信息的實(shí)時(shí)通信,對(duì)車輛流量進(jìn)行有效控制,促進(jìn)行車安全[9];CPS可應(yīng)用于船舶制造,利用CPS來(lái)采集存儲(chǔ)船廠實(shí)體空間包含的有關(guān)裝備、位置、時(shí)間、環(huán)境等數(shù)據(jù),以船舶制造的內(nèi)在機(jī)理為基礎(chǔ),進(jìn)行仿真建模;CPS還可應(yīng)用于鋼鐵制造過(guò)程,實(shí)現(xiàn)對(duì)產(chǎn)品的個(gè)性化定制、精準(zhǔn)管控產(chǎn)品質(zhì)量、提高鋼鐵的質(zhì)量及生產(chǎn)效率、降低生產(chǎn)成本,在鋼鐵制造過(guò)程中,CPS為其中每個(gè)環(huán)節(jié)建立端到端的工程數(shù)字化集成,采集每臺(tái)裝備的生產(chǎn)數(shù)據(jù)、質(zhì)量參數(shù)及設(shè)備健康指數(shù)等數(shù)據(jù),并且依照指令來(lái)實(shí)現(xiàn)智能化控制;CPS還能夠幫助工廠優(yōu)化生產(chǎn)流程、提高生產(chǎn)效率,傳統(tǒng)生產(chǎn)線上用人工檢測(cè)的方式進(jìn)行質(zhì)量檢測(cè),這種方式耗時(shí)長(zhǎng)且見(jiàn)效慢,現(xiàn)在很多工廠使用以CPS為基礎(chǔ)的視覺(jué)工具,從而自動(dòng)檢測(cè)出各種缺陷,優(yōu)化質(zhì)檢流程[10]。

    CPS技術(shù)一經(jīng)提出即被工業(yè)互聯(lián)網(wǎng)領(lǐng)域廣泛關(guān)注,其利用設(shè)備之間的互聯(lián)互通消除掉工業(yè)運(yùn)行環(huán)節(jié)中的信息孤島,有效監(jiān)控生產(chǎn)過(guò)程,優(yōu)化資源配置,解決工業(yè)進(jìn)程中的數(shù)據(jù)采集、信息集成、數(shù)據(jù)的分析和應(yīng)用等問(wèn)題,提高工業(yè)智能化水平[11]。工業(yè)互聯(lián)網(wǎng)利用CPS 把數(shù)據(jù)、人和機(jī)器聯(lián)系起來(lái),智能設(shè)備負(fù)責(zé)收集大數(shù)據(jù),智能系統(tǒng)挖掘數(shù)據(jù)并傳輸數(shù)據(jù),最后形成智能決策,實(shí)現(xiàn)工業(yè)系統(tǒng)的智能交互?,F(xiàn)如今許多工業(yè)工程是以CPS系統(tǒng)為基礎(chǔ)的,CPS在電力、汽車、工業(yè)自動(dòng)化、航空航天、健康醫(yī)療設(shè)備等國(guó)家關(guān)鍵行業(yè)將有廣泛應(yīng)用。

    三、 CPS應(yīng)用的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)的特殊性分析

    以CPS為核心的工業(yè)互聯(lián)網(wǎng)打通了工業(yè)系統(tǒng)與互聯(lián)網(wǎng),滲透到制造、能源、交通等關(guān)鍵領(lǐng)域,構(gòu)成了從廣度到深度前所未有的國(guó)家關(guān)鍵信息基礎(chǔ)設(shè)施,打破傳統(tǒng)工業(yè)相對(duì)封閉可信的制造環(huán)境。隨著CPS的廣泛應(yīng)用,一旦CPS產(chǎn)生危險(xiǎn),其安全風(fēng)險(xiǎn)可貫穿工業(yè)互聯(lián)網(wǎng)的整個(gè)過(guò)程。與其他互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)相比,以CPS為核心的工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)更易形成風(fēng)險(xiǎn)鏈,影響國(guó)家總體安全。具體而言,其安全風(fēng)險(xiǎn)呈現(xiàn)如下特性。

    (一) CPS攻擊體現(xiàn)信息物理耦合與攻擊隱蔽特性

    CPS攻擊過(guò)程包括利用CPS設(shè)計(jì)和業(yè)務(wù)流程實(shí)施攻擊, 篡改控制指令造成系統(tǒng)異常運(yùn)行, 阻斷系統(tǒng)量測(cè)數(shù)據(jù)以阻止控制系統(tǒng)的安全響應(yīng),體現(xiàn)出CPS攻擊的特殊性。因?yàn)槲锢硐到y(tǒng)的狀態(tài)變化有一定限制(如電力系統(tǒng)中發(fā)電機(jī)出力的提升有爬升約束限制),且物理系統(tǒng)都有安全應(yīng)急機(jī)制和保護(hù)措施,因此攻擊者往往結(jié)合物理系統(tǒng)的業(yè)務(wù)邏輯和保護(hù)機(jī)制,設(shè)計(jì)攻擊策略,一方面通過(guò)持續(xù)的攻擊使得系統(tǒng)達(dá)到特定狀態(tài);另一方面隱藏自身的攻擊行為,躲避系統(tǒng)的異常檢測(cè)和保護(hù)機(jī)制。CPS 安全事件都有信息物理耦合與攻擊隱蔽兩個(gè)特點(diǎn)[12]。

    1 信息物理耦合:CPS 具有緊密的耦合性,計(jì)算、通信及控制模塊既互相依賴又互相牽制,實(shí)現(xiàn)緊密融合。因此與其他攻擊行為相比,針對(duì)CPS的攻擊為了使攻擊效果最大化必須考慮物理約束和系統(tǒng)業(yè)務(wù)流程。網(wǎng)絡(luò)攻擊的構(gòu)建會(huì)受到物理系統(tǒng)的約束,同時(shí)攻擊又要依賴于這些條件實(shí)現(xiàn)其巨大破壞力。

    2 攻擊隱蔽:攻擊者經(jīng)常長(zhǎng)期潛伏,來(lái)獲取其所需的物理系統(tǒng)知識(shí)特別是信息控制權(quán)限,以便在攻擊時(shí)不會(huì)被安全監(jiān)控系統(tǒng)所察覺(jué)。從開(kāi)始接人探測(cè)到完成攻擊目標(biāo)都需要保持隱蔽。

    根據(jù)《2020年上半年工業(yè)互聯(lián)網(wǎng)安全態(tài)勢(shì)報(bào)告》顯示,2020年1月1日至2020年6月30日,據(jù)對(duì)工業(yè)互聯(lián)網(wǎng)平臺(tái)、工業(yè)企業(yè)和互聯(lián)網(wǎng)設(shè)備安全監(jiān)測(cè)結(jié)果顯示,累計(jì)監(jiān)測(cè)發(fā)現(xiàn)惡意網(wǎng)絡(luò)行為1 3563萬(wàn)次,涉及2 039家企業(yè)。其中,攻擊方式以異常流量、非法外聯(lián)和僵尸網(wǎng)絡(luò)三類為主,均超過(guò)300萬(wàn)次,累計(jì)占惡意行為總數(shù)的81%[13]。異常流量中包含大量掃描、嗅探行為,表明當(dāng)前針對(duì)工業(yè)互聯(lián)網(wǎng)的網(wǎng)絡(luò)攻擊大部分為實(shí)施攻擊前的信息搜集,安全隱患不容忽視。

    另外,針對(duì)CPS 的攻擊一般是針對(duì)CPS的保密性、完整性、可用性等特點(diǎn)。CPS對(duì)獲取信息的權(quán)限進(jìn)行嚴(yán)格規(guī)定,某些攻擊的目的就是為了獲取更大的信息權(quán)限,這樣就會(huì)導(dǎo)致CPS的保密性被破壞,造成巨大損失;在CPS中應(yīng)該嚴(yán)格保證信息的完整性以及數(shù)據(jù)的實(shí)時(shí)性,不得允許外界對(duì)CPS中的信息隨意改動(dòng),若數(shù)據(jù)的完整性遭到破壞,會(huì)導(dǎo)致決策失誤;CPS中,可用性最重要,一旦可用性被破壞,數(shù)據(jù)傳輸就會(huì)被中斷,并且影響到現(xiàn)實(shí)世界的正常運(yùn)轉(zhuǎn)。

    (二) 互聯(lián)互通導(dǎo)致網(wǎng)絡(luò)攻擊路徑增多

    傳統(tǒng)的物理系統(tǒng)運(yùn)行在相對(duì)隔離的環(huán)境中,攻擊者難以接入并實(shí)施攻擊。而CPS實(shí)現(xiàn)了系統(tǒng)的智能化和信息化,運(yùn)行環(huán)境由原來(lái)的相對(duì)封閉轉(zhuǎn)向互聯(lián)互通:CPS的網(wǎng)絡(luò)環(huán)境是開(kāi)放的、異構(gòu)的, 系統(tǒng)兼容各類終端的即插即用以及設(shè)備之間的互通互信;各種網(wǎng)絡(luò)采用不同的通信協(xié)議,能夠?qū)崿F(xiàn)不同網(wǎng)絡(luò)系統(tǒng)之間的高度集成和跨平臺(tái)互聯(lián);CPS中包含了許多子系統(tǒng),各個(gè)子系統(tǒng)之間利用有線或無(wú)線通訊方式來(lái)進(jìn)行協(xié)調(diào)運(yùn)作;并且,信息物理融合系統(tǒng)中有大量的網(wǎng)絡(luò)化嵌入式計(jì)算,是一種典型的分布式計(jì)算系統(tǒng)。CPS是一種具有開(kāi)放性特質(zhì)的智能系統(tǒng)。

    與其他風(fēng)險(xiǎn)不同,CPS的開(kāi)放性為攻擊者提供了更多的路徑進(jìn)行攻擊。如Stuxnet攻擊通過(guò)U盤(pán)擺渡侵人核設(shè)施控制系統(tǒng),WindShark則直接通過(guò)物理接入無(wú)人值守的風(fēng)電場(chǎng)控制系統(tǒng)。CPS 網(wǎng)絡(luò)攻擊大致可以分為 3 類: 拒絕服務(wù)攻擊、重放攻擊和欺騙攻擊。拒絕服務(wù)攻擊是指采用合法攻擊手段進(jìn)而導(dǎo)致服務(wù)器不能正常向用戶提供服務(wù),最常見(jiàn)的模式是攻擊者提出海量請(qǐng)求以占用服務(wù)器資源,此時(shí)合法用戶便無(wú)法得到及時(shí)響應(yīng),系統(tǒng)也無(wú)法提供正常的網(wǎng)絡(luò)服務(wù);欺騙攻擊是指攻擊者通過(guò)修改網(wǎng)絡(luò)傳送數(shù)據(jù)包來(lái)破壞數(shù)據(jù)的完整性,以獲取目標(biāo)的訪問(wèn)權(quán)或關(guān)鍵信息;重放攻擊是指攻擊者通過(guò)收集部分傳輸數(shù)據(jù)來(lái)重復(fù)發(fā)送或延遲發(fā)送其中的有效數(shù)據(jù),破壞系統(tǒng)的正常運(yùn)行[14]。

    CPS的多維異構(gòu)性決定了CPS 的互聯(lián)互通、網(wǎng)絡(luò)規(guī)模大、時(shí)空分布復(fù)雜等特點(diǎn),其作為一種典型的相互依存網(wǎng)絡(luò),實(shí)現(xiàn)了系統(tǒng)與設(shè)備間的交互操作。其信息側(cè)和物理側(cè)具有密切的相互依賴性,系統(tǒng)中網(wǎng)絡(luò)規(guī)模的大幅度增長(zhǎng)以及分布式的信息處理環(huán)境使得CPS比其他系統(tǒng)更容易受到網(wǎng)絡(luò)攻擊[15]。

    (三) 關(guān)鍵基礎(chǔ)設(shè)施網(wǎng)絡(luò)安全風(fēng)險(xiǎn)加劇

    以CPS為核心的工業(yè)互聯(lián)網(wǎng)平臺(tái)具有感知和處理外部環(huán)境巨大復(fù)雜性的能力,涉及政策、制度、經(jīng)濟(jì)要素、產(chǎn)業(yè)競(jìng)爭(zhēng)力、商業(yè)生態(tài)、平臺(tái)、商業(yè)模式創(chuàng)新等一系列問(wèn)題。信息網(wǎng)絡(luò)逐步融合于電力、航空、交通、醫(yī)療等國(guó)家關(guān)鍵基礎(chǔ)行業(yè),這些平臺(tái)涉及設(shè)計(jì)協(xié)同、供應(yīng)鏈協(xié)同、制造協(xié)同、服務(wù)協(xié)同、用戶全流程參與、產(chǎn)品服務(wù)延伸等方面,具有很強(qiáng)的事件驅(qū)動(dòng)性,這其中承載著大量重要的工業(yè)數(shù)據(jù),數(shù)據(jù)體量大、種類多、結(jié)構(gòu)復(fù)雜,并且平臺(tái)具備開(kāi)放共通、融合共享的特點(diǎn),一旦數(shù)據(jù)資源發(fā)生錯(cuò)誤,將會(huì)產(chǎn)生重大隱患[16]。至此,相對(duì)于其他風(fēng)險(xiǎn)而言,以CPS為核心的工業(yè)基礎(chǔ)設(shè)施平臺(tái)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)加劇,一旦某一層面發(fā)生危險(xiǎn),極有可能會(huì)影響整個(gè)產(chǎn)業(yè)鏈,嚴(yán)重威脅工業(yè)、經(jīng)濟(jì)安全乃至國(guó)家總體安全。

    據(jù)《2020年上半年工業(yè)互聯(lián)網(wǎng)安全態(tài)勢(shì)報(bào)告》顯示,工業(yè)控制系統(tǒng)的漏洞數(shù)量增長(zhǎng)趨勢(shì)非常明顯,針對(duì)工業(yè)互聯(lián)網(wǎng)的惡意網(wǎng)絡(luò)行為主要集中于制造業(yè)等基礎(chǔ)行業(yè)。2020年度上半年針對(duì)計(jì)算機(jī)、通信和其他電子設(shè)備制造業(yè)工業(yè)互聯(lián)網(wǎng)的惡意網(wǎng)絡(luò)行為遭受攻擊次數(shù)將近288萬(wàn)次[13]。

    2019年3月勒索軟件攻擊全球最大鋁制品生產(chǎn)商之一Norsk Hydro,該公司因此關(guān)閉了多條自動(dòng)化生產(chǎn)線。勒索病毒又于2019年6月攻擊世界最大飛機(jī)零件供應(yīng)商之一ASCO,位于四個(gè)國(guó)家的工廠停止生產(chǎn)。同年9月,黑客組織破壞印度 Kudankulam核電廠,竊取燃料產(chǎn)量等敏感數(shù)據(jù),該廠被迫停止。伊朗從2010年以來(lái)遭受多次大規(guī)模網(wǎng)絡(luò)攻擊:2010年9月伊朗核電站遭受“震網(wǎng)”病毒攻擊;2012年“火焰”病毒攻擊伊朗石油系統(tǒng)控制網(wǎng)絡(luò),竊取大量有關(guān)石油工業(yè)的機(jī)密數(shù)據(jù),嚴(yán)重威脅伊朗能源安全;2018年伊朗國(guó)家信息數(shù)據(jù)中心遭到攻擊,破壞了約3 500臺(tái)路由器交換機(jī),導(dǎo)致全國(guó)范圍內(nèi)的互聯(lián)網(wǎng)短時(shí)間癱瘓[17]。

    (四) 風(fēng)險(xiǎn)結(jié)果具有連鎖性、復(fù)雜性

    CPS中各個(gè)子系統(tǒng)緊密耦合,以分布式網(wǎng)絡(luò)呈現(xiàn),一旦一個(gè)節(jié)點(diǎn)發(fā)生故障,就會(huì)影響各部分網(wǎng)絡(luò),造成連鎖式風(fēng)險(xiǎn),產(chǎn)生不可估量的危害后果。因此,相較于其他風(fēng)險(xiǎn),以CPS為核心的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)顯示出連鎖性、復(fù)雜性特征,更易形成風(fēng)險(xiǎn)鏈。風(fēng)險(xiǎn)鏈由危險(xiǎn)源、隱患、危害因素、風(fēng)險(xiǎn)、事件等多要素共同構(gòu)成。危險(xiǎn)源為基礎(chǔ),危害因素與風(fēng)險(xiǎn)皆基于危險(xiǎn)源而存在,隱患貫穿始終,風(fēng)險(xiǎn)的結(jié)果發(fā)生便導(dǎo)致事故事件顯現(xiàn),由此形成一條完整鏈條——風(fēng)險(xiǎn)鏈。

    風(fēng)險(xiǎn)鏈中的各領(lǐng)域風(fēng)險(xiǎn)并非是被動(dòng)、孤立的,而是共同構(gòu)成了能夠相互觸發(fā)、疊加、共振的復(fù)雜運(yùn)動(dòng)系統(tǒng)。如圖2所示的攻擊過(guò)程,攻擊者在物理層對(duì)節(jié)點(diǎn)進(jìn)行攻擊時(shí),可以獲取到涉及加密密鑰的信息,使用加密密鑰威脅整個(gè)系統(tǒng)。攻擊者進(jìn)入數(shù)據(jù)傳輸層以后,對(duì)數(shù)據(jù)進(jìn)行竊聽(tīng)與觀測(cè),以捕獲的節(jié)點(diǎn)為跳板攻擊其他節(jié)點(diǎn),使受損節(jié)點(diǎn)只傳送被攻擊者選定的數(shù)據(jù),數(shù)據(jù)信息無(wú)法被完整傳遞到應(yīng)用層,攻擊者此時(shí)就可以利用數(shù)據(jù)漏洞來(lái)攻擊系統(tǒng),利用惡意代碼等破壞系統(tǒng)。進(jìn)入應(yīng)用層后,在應(yīng)用層中的一個(gè)網(wǎng)絡(luò)節(jié)點(diǎn)存在問(wèn)題,將直接影響到CPS資源與決策的配置,進(jìn)而影響到整個(gè)工業(yè)互聯(lián)網(wǎng)系統(tǒng),對(duì)工業(yè)體系造成極大危害。攻擊者在最初進(jìn)入信息物理系統(tǒng)時(shí)只針對(duì)部分節(jié)點(diǎn)進(jìn)行攻擊,產(chǎn)生隱蔽風(fēng)險(xiǎn),然而系統(tǒng)具有分布式網(wǎng)絡(luò)特征,攻擊者利用捕獲的節(jié)點(diǎn)一步步破壞CPS的運(yùn)行,形成風(fēng)險(xiǎn)鏈,最終造成CPS崩潰,從而產(chǎn)生重大危害。

    四、 基于全面風(fēng)險(xiǎn)管理防控理念的應(yīng)對(duì)措施

    應(yīng)對(duì)以CPS為核心的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)時(shí),應(yīng)確立基于CPS安全先行的全面風(fēng)險(xiǎn)管理理念。全面風(fēng)險(xiǎn)管理是指圍繞總體經(jīng)營(yíng)目標(biāo),在各個(gè)環(huán)節(jié)和經(jīng)營(yíng)過(guò)程中執(zhí)行風(fēng)險(xiǎn)管理的基本流程,進(jìn)而培育良好的風(fēng)險(xiǎn)管理文化,建立健全全面風(fēng)險(xiǎn)管理體系,實(shí)現(xiàn)風(fēng)險(xiǎn)管理。自1992年管理學(xué)教授Kent DMiller提出“整合風(fēng)險(xiǎn)管理”的概念至今,在COSO和金融監(jiān)管機(jī)構(gòu)的推動(dòng)下,全面風(fēng)險(xiǎn)管理已然成為風(fēng)險(xiǎn)內(nèi)部管理和外部監(jiān)管要求中不可或缺的一部分。全面風(fēng)險(xiǎn)管理由風(fēng)險(xiǎn)管理策略、風(fēng)險(xiǎn)管理的組織職能體系、風(fēng)險(xiǎn)管理措施、風(fēng)險(xiǎn)管理信息系統(tǒng)和內(nèi)部控制系統(tǒng)五個(gè)模塊組成[18]。因此,實(shí)施全面風(fēng)險(xiǎn)管理,可以適用統(tǒng)一的理論指導(dǎo)制定風(fēng)險(xiǎn)管理策略、建立風(fēng)險(xiǎn)管理組織、提出風(fēng)險(xiǎn)管理方案、開(kāi)展風(fēng)險(xiǎn)管理改進(jìn)、確保針對(duì)各項(xiàng)重大風(fēng)險(xiǎn)發(fā)生后的應(yīng)急處理計(jì)劃,將風(fēng)險(xiǎn)控制在與總體目標(biāo)相適應(yīng)并可承受的范圍內(nèi)。

    在應(yīng)對(duì)以CPS為核心的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)中,我們應(yīng)確立全面風(fēng)險(xiǎn)管理的防控理念,實(shí)現(xiàn)對(duì)CPS風(fēng)險(xiǎn)的全面防控,嚴(yán)防風(fēng)險(xiǎn)鏈的產(chǎn)生:加強(qiáng)CPS標(biāo)準(zhǔn)體系建設(shè),確立監(jiān)管CPS風(fēng)險(xiǎn)的指導(dǎo)方針,完善風(fēng)險(xiǎn)管理策略;推進(jìn)政府與社會(huì)多方主體協(xié)同共治,明確各方的監(jiān)管職能,健全風(fēng)險(xiǎn)管理的組織職能體系,其中注重強(qiáng)化企業(yè)內(nèi)部的風(fēng)險(xiǎn)管理能力,利用內(nèi)部控制系統(tǒng)有效防控工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn);明確“事前+事中+事后”各環(huán)節(jié)監(jiān)管重點(diǎn),細(xì)化風(fēng)險(xiǎn)管理措施,在該過(guò)程中充分利用數(shù)據(jù)要素優(yōu)化風(fēng)險(xiǎn)管理信息系統(tǒng),有的放矢進(jìn)行監(jiān)管。

    (一) 完善風(fēng)險(xiǎn)管理策略:持續(xù)加強(qiáng)CPS標(biāo)準(zhǔn)體系建設(shè)

    風(fēng)險(xiǎn)管理策略是指導(dǎo)風(fēng)險(xiǎn)管理活動(dòng)的指導(dǎo)方針和行動(dòng)綱領(lǐng)。工業(yè)互聯(lián)網(wǎng)以CPS為核心,CPS的標(biāo)準(zhǔn)制定能夠推動(dòng)工業(yè)互聯(lián)網(wǎng)的安全保障工作有序進(jìn)行。CPS標(biāo)準(zhǔn)應(yīng)從CPS發(fā)展的核心目標(biāo)出發(fā),關(guān)注CPS的建設(shè)、應(yīng)用、管理等方面,強(qiáng)調(diào)局部與整體相協(xié)調(diào),實(shí)現(xiàn)標(biāo)準(zhǔn)與應(yīng)用共同發(fā)展。CPS的標(biāo)準(zhǔn)體系應(yīng)涵蓋基礎(chǔ)共性、技術(shù)標(biāo)準(zhǔn)、安全標(biāo)準(zhǔn)、管理要求以及服務(wù)規(guī)范五個(gè)層面。

    在基礎(chǔ)共性方面,首先要關(guān)注CPS定義制定;CPS的架構(gòu)、技術(shù)、產(chǎn)品等術(shù)語(yǔ)描述,明確CPS中各級(jí)別之間的關(guān)系;制定評(píng)估和測(cè)試標(biāo)準(zhǔn),提出CPS的質(zhì)量評(píng)價(jià)要求、測(cè)試規(guī)范等。

    在技術(shù)標(biāo)準(zhǔn)方面,CPS中的關(guān)鍵技術(shù)主要有智能感知和自動(dòng)控制技術(shù)、網(wǎng)絡(luò)通信技術(shù)、邊緣計(jì)算、工業(yè)大數(shù)據(jù)技術(shù)等,因此在制定技術(shù)標(biāo)準(zhǔn)時(shí),需要關(guān)注工業(yè)數(shù)據(jù)的采集、存儲(chǔ)、處理及工業(yè)大數(shù)據(jù)管理的技術(shù)標(biāo)準(zhǔn);制定傳感器及執(zhí)行器應(yīng)用標(biāo)準(zhǔn);指導(dǎo)CPS 的邊緣計(jì)算技術(shù)、感知及存儲(chǔ)標(biāo)準(zhǔn),進(jìn)行邊緣數(shù)據(jù)規(guī)范,解決數(shù)據(jù)優(yōu)化方面的問(wèn)題;規(guī)范與平臺(tái)互聯(lián)有關(guān)的通信傳輸技術(shù),對(duì)網(wǎng)絡(luò)接口和協(xié)議進(jìn)行標(biāo)準(zhǔn)制定,統(tǒng)一協(xié)議兼容標(biāo)準(zhǔn)。

    在安全標(biāo)準(zhǔn)方面,在CPS的物理層,主要關(guān)注CPS的設(shè)備安全,規(guī)范CPS的設(shè)備、產(chǎn)品等在研發(fā)、生產(chǎn)及運(yùn)行中的安全標(biāo)準(zhǔn);在數(shù)據(jù)傳輸層,規(guī)范數(shù)據(jù)的傳輸、存儲(chǔ)和處理,還要制定有關(guān)的網(wǎng)絡(luò)安全標(biāo)準(zhǔn),包括協(xié)議安全、安全監(jiān)測(cè)等;在CPS的應(yīng)用層,應(yīng)提出有關(guān)的產(chǎn)品服務(wù)安全標(biāo)準(zhǔn),避免發(fā)生重大危險(xiǎn)。

    在管理要求方面,應(yīng)該結(jié)合CPS各層級(jí)相互協(xié)調(diào)、工業(yè)大數(shù)據(jù)的運(yùn)營(yíng)以及信息與物理緊密結(jié)合的特點(diǎn),提出CPS各層級(jí)的運(yùn)行安全管理、數(shù)據(jù)安全管理以及工業(yè)系統(tǒng)安全管理的相關(guān)標(biāo)準(zhǔn),形成科學(xué)合理的CPS標(biāo)準(zhǔn)體系,指導(dǎo)CPS的廣泛開(kāi)展。

    在服務(wù)規(guī)范方面,針對(duì)工業(yè)互聯(lián)網(wǎng)行業(yè)中的協(xié)同設(shè)計(jì)或協(xié)同制造場(chǎng)景,要制定建模仿真規(guī)范,完善協(xié)同制造標(biāo)準(zhǔn);規(guī)范數(shù)據(jù)資源、軟件資源等資源共享標(biāo)準(zhǔn);針對(duì)個(gè)性定制服務(wù)需求,應(yīng)提出個(gè)性化定制應(yīng)用標(biāo)準(zhǔn),對(duì)于不同的行業(yè)、客戶、應(yīng)用場(chǎng)景,需要制定不同的設(shè)計(jì)規(guī)范。

    通過(guò)制定CPS標(biāo)準(zhǔn)體系,以標(biāo)準(zhǔn)化為抓手,完善CPS風(fēng)險(xiǎn)管理策略,為工業(yè)互聯(lián)網(wǎng)營(yíng)造良好的產(chǎn)業(yè)生態(tài)環(huán)境,防范工業(yè)互聯(lián)網(wǎng)危險(xiǎn)的產(chǎn)生。有利于形成整體協(xié)調(diào)、科學(xué)合理的工業(yè)互聯(lián)網(wǎng)系統(tǒng),帶動(dòng)工業(yè)互聯(lián)網(wǎng)的技術(shù)、應(yīng)用、服務(wù)等全價(jià)值鏈共同發(fā)展。

    (二) 健全風(fēng)險(xiǎn)管理的組織職能體系:推進(jìn)政府與社會(huì)多方主體協(xié)同共治

    風(fēng)險(xiǎn)管理組織是風(fēng)險(xiǎn)管理的具體實(shí)施者,通過(guò)合理的組織結(jié)構(gòu)設(shè)計(jì)和職能安排,可以有效管理和控制風(fēng)險(xiǎn)。為防止基于CPS的工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)的產(chǎn)生,在對(duì)工業(yè)互聯(lián)網(wǎng)進(jìn)行合理監(jiān)管的同時(shí)要重點(diǎn)關(guān)注對(duì)CPS的監(jiān)管,保障工業(yè)互聯(lián)網(wǎng)安全。國(guó)家應(yīng)該確定政府與社會(huì)多方參與的監(jiān)管模式,引入更多的風(fēng)險(xiǎn)管理主體,實(shí)現(xiàn)內(nèi)部控制與外部監(jiān)管的多重效能,健全風(fēng)險(xiǎn)管理的組織職能體系,推進(jìn)協(xié)同共治。

    1 政府層面。政府在對(duì)工業(yè)互聯(lián)網(wǎng)安全進(jìn)行行政監(jiān)管時(shí),可實(shí)現(xiàn)以下監(jiān)管模式:(1)實(shí)現(xiàn)全面綜合監(jiān)管與分領(lǐng)域重點(diǎn)監(jiān)管相結(jié)合。工業(yè)互聯(lián)網(wǎng)以CPS為核心,在普遍監(jiān)管的前提之下,要針對(duì)CPS重點(diǎn)治理,實(shí)行特殊舉措:如在以CPS為核心的智能電網(wǎng)、智能醫(yī)療器械、無(wú)人汽車等領(lǐng)域中,采取非同一般的檢驗(yàn)和評(píng)估標(biāo)準(zhǔn),加大抽查頻率。(2)對(duì)CPS進(jìn)行監(jiān)管時(shí)實(shí)施法律與技術(shù)二元分類監(jiān)管模式。CPS的復(fù)雜性體現(xiàn)在其技術(shù)的多樣性上,CPS涉及工業(yè)以太網(wǎng)、智能感知、大數(shù)據(jù)、云計(jì)算、現(xiàn)場(chǎng)總線、嵌入式技術(shù)、網(wǎng)絡(luò)安全等多種專業(yè)技術(shù),因此若讓一般的政府部門進(jìn)行監(jiān)管,極有可能因?yàn)槿狈I(yè)技術(shù)人才以及行業(yè)經(jīng)驗(yàn)而大大降低監(jiān)管效率,負(fù)責(zé)監(jiān)管CPS的政府專業(yè)部門中應(yīng)該既有熟知CPS的專業(yè)人員,又有法律人士,CPS中的技術(shù)問(wèn)題由政府部門中的專業(yè)技術(shù)人員負(fù)責(zé),而在CPS運(yùn)行過(guò)程中所涉及的法律問(wèn)題則由部門中法律人士協(xié)調(diào)解決。(3)我國(guó)已于2018年設(shè)立工業(yè)互聯(lián)網(wǎng)專項(xiàng)工作組,主要負(fù)責(zé)統(tǒng)籌協(xié)調(diào)我國(guó)工業(yè)互聯(lián)網(wǎng)發(fā)展的全局性工作,指導(dǎo)各地區(qū)、各部門開(kāi)展工作,協(xié)調(diào)跨地區(qū)、跨部門重要事項(xiàng),加強(qiáng)對(duì)重要事項(xiàng)落實(shí)情況的監(jiān)督檢查。各地工業(yè)互聯(lián)網(wǎng)發(fā)展?fàn)顩r大相徑庭,所遇到的工業(yè)互聯(lián)網(wǎng)安全問(wèn)題也各不相同,中央專項(xiàng)工作組主要服務(wù)于工業(yè)互聯(lián)網(wǎng)重要事項(xiàng),無(wú)法全面掌握各地工業(yè)互聯(lián)網(wǎng)安全問(wèn)題。針對(duì)此專項(xiàng)組可定期統(tǒng)一組織經(jīng)驗(yàn)交流會(huì)及干部培訓(xùn),各地方可積極提出本地工業(yè)互聯(lián)網(wǎng)的特色發(fā)展?fàn)顩r及解決工業(yè)互聯(lián)網(wǎng)安全問(wèn)題的特色經(jīng)驗(yàn),加強(qiáng)中央與地方、地方與地方的信息交流,提升各地解決問(wèn)題的能力,為工業(yè)互聯(lián)網(wǎng)安全問(wèn)題的解決對(duì)策、預(yù)防措施提供依據(jù)。(4)加強(qiáng)政府與企業(yè)的聯(lián)動(dòng)對(duì)接。構(gòu)建公共服務(wù)平臺(tái),政府可借用該平臺(tái)征集企業(yè)運(yùn)行過(guò)程中遭遇的工業(yè)互聯(lián)網(wǎng)問(wèn)題,了解企業(yè)需求,提供專家咨詢和針對(duì)性解決方案。

    2行業(yè)自律層面。政府在對(duì)工業(yè)互聯(lián)網(wǎng)進(jìn)行宏觀監(jiān)管時(shí)無(wú)法及時(shí)發(fā)現(xiàn)和解決CPS運(yùn)行過(guò)程中產(chǎn)生的問(wèn)題,其措施極有可能產(chǎn)生滯后性。為實(shí)現(xiàn)高效監(jiān)管,應(yīng)同時(shí)鼓勵(lì)CPS行業(yè)協(xié)會(huì)強(qiáng)化自律監(jiān)管,完善行業(yè)自律規(guī)則,進(jìn)而建立起一套完善的行業(yè)自律制度及準(zhǔn)則,對(duì)CPS攻擊行為產(chǎn)生預(yù)警,進(jìn)行社會(huì)規(guī)范與引導(dǎo),為政府工業(yè)互聯(lián)網(wǎng)監(jiān)管部門提供專業(yè)性報(bào)告,協(xié)助行政機(jī)關(guān)實(shí)現(xiàn)有效監(jiān)管。

    3 企業(yè)層面。在企業(yè)中也應(yīng)該設(shè)立專門的工業(yè)互聯(lián)網(wǎng)安全管理部門,監(jiān)督企業(yè)中工業(yè)互聯(lián)網(wǎng)安全相關(guān)工作,強(qiáng)化內(nèi)部控制系統(tǒng)。該部門要結(jié)合企業(yè)自身的生產(chǎn)管理特點(diǎn)以及發(fā)展需求,對(duì)工業(yè)互聯(lián)網(wǎng)平臺(tái)進(jìn)行技術(shù)搭建,減少技術(shù)漏洞;日常檢查企業(yè)中的工業(yè)互聯(lián)網(wǎng)應(yīng)用安全情況,及時(shí)識(shí)別安全風(fēng)險(xiǎn),防止企業(yè)數(shù)據(jù)信息的泄漏,優(yōu)化工業(yè)互聯(lián)網(wǎng)的運(yùn)行環(huán)境;收集并分析工業(yè)互聯(lián)網(wǎng)平臺(tái)中的異常信息,主動(dòng)采取內(nèi)部風(fēng)險(xiǎn)預(yù)防措施,尤其關(guān)注CPS風(fēng)險(xiǎn),綜合評(píng)估CPS產(chǎn)品的質(zhì)量安全,在產(chǎn)品源頭上做好風(fēng)險(xiǎn)防控。

    (三) 細(xì)化風(fēng)險(xiǎn)管理措施:明確“事前+事中+事后”各環(huán)節(jié)監(jiān)管重點(diǎn)

    在風(fēng)險(xiǎn)防控過(guò)程中,風(fēng)險(xiǎn)管理主體應(yīng)明確事前、事中和事后監(jiān)管的重點(diǎn)所在,有的放矢地進(jìn)行監(jiān)管,提高監(jiān)管效率。

    1 事前重視數(shù)據(jù)要素預(yù)警庫(kù)建設(shè)

    隨著數(shù)字經(jīng)濟(jì)時(shí)代的發(fā)展,數(shù)據(jù)要素成為重要資源,并具有很高的流動(dòng)性,只有有效利用數(shù)據(jù)要素才能提高產(chǎn)業(yè)效率,優(yōu)化風(fēng)險(xiǎn)管理信息系統(tǒng)。中共中央、國(guó)務(wù)院印發(fā)了《關(guān)于構(gòu)建更加完善的要素市場(chǎng)化配置體制機(jī)制的意見(jiàn)》,首次將數(shù)據(jù)與勞動(dòng)力、技術(shù)、資本、土地等傳統(tǒng)要素并列為要素之一。新基建建設(shè)亦涉及數(shù)據(jù)要素的有效利用和發(fā)展問(wèn)題,這就需要推動(dòng)新基建數(shù)據(jù)要素與其他行業(yè)的融合,實(shí)現(xiàn)數(shù)據(jù)應(yīng)用,發(fā)展行業(yè)數(shù)字化。工業(yè)互聯(lián)網(wǎng)是新基建的重要戰(zhàn)場(chǎng),將數(shù)據(jù)要素融入到工業(yè)互聯(lián)網(wǎng)中能夠高效監(jiān)管以CPS為核心的工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)。

    首先,政府、行業(yè)協(xié)會(huì)跟企業(yè)要注重收集數(shù)據(jù)來(lái)分別構(gòu)建工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)中心,以點(diǎn)帶面,搭建完備的數(shù)據(jù)庫(kù),形成數(shù)據(jù)分析-協(xié)同-應(yīng)用的數(shù)據(jù)要素預(yù)警庫(kù)。建立數(shù)據(jù)要素預(yù)警庫(kù)以規(guī)范工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)評(píng)價(jià)體系為基礎(chǔ),在該評(píng)價(jià)體系中尤其要重視CPS風(fēng)險(xiǎn)評(píng)價(jià)體系的設(shè)計(jì),即將工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)評(píng)價(jià)體系輸入到預(yù)警庫(kù)中,預(yù)警庫(kù)從而可以自動(dòng)評(píng)審以CPS為核心的工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn),既提高了評(píng)審效率,又保證了評(píng)審的準(zhǔn)確性。其次,在數(shù)據(jù)要素預(yù)警庫(kù)中通過(guò)調(diào)整相關(guān)參數(shù)對(duì)數(shù)據(jù)進(jìn)行分析處理,設(shè)計(jì)出不同等級(jí)的預(yù)警與報(bào)警紅線,若發(fā)現(xiàn)CPS風(fēng)險(xiǎn)可根據(jù)情況將其確認(rèn)為較高等級(jí)隱患。再次,實(shí)施分級(jí)預(yù)警,如果某個(gè)監(jiān)控危險(xiǎn)點(diǎn)出現(xiàn)隱患預(yù)警,該隱患就會(huì)被列入處理清單中,如果企業(yè)沒(méi)有及時(shí)處理,那監(jiān)控平臺(tái)就會(huì)將預(yù)警信息報(bào)告給上級(jí)監(jiān)控平臺(tái),直到隱患被處理為止,這有助于監(jiān)管主體掌握隱患的處理情況。最后,設(shè)定與數(shù)據(jù)要素預(yù)警庫(kù)相連的監(jiān)管APP,使政府、行業(yè)協(xié)會(huì)及企業(yè)能夠?qū)崿F(xiàn)實(shí)時(shí)監(jiān)控,及時(shí)發(fā)現(xiàn)問(wèn)題、處理問(wèn)題。對(duì)以CPS為核心的工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)的監(jiān)管要避免“一刀切”,建立數(shù)據(jù)要素預(yù)警庫(kù)就是采用了創(chuàng)新型的監(jiān)管模式,利用風(fēng)險(xiǎn)管理信息系統(tǒng)對(duì)CPS風(fēng)險(xiǎn)進(jìn)行有效控制,防止工業(yè)互聯(lián)網(wǎng)風(fēng)險(xiǎn)的產(chǎn)生。

    2 事中重視風(fēng)險(xiǎn)檢測(cè)與數(shù)據(jù)治理

    首先,應(yīng)堅(jiān)持對(duì)工業(yè)互聯(lián)網(wǎng)產(chǎn)品進(jìn)行風(fēng)險(xiǎn)評(píng)估與抽查檢測(cè),建立起長(zhǎng)期的測(cè)評(píng)制度,尤其要加強(qiáng)對(duì)CPS產(chǎn)品的風(fēng)險(xiǎn)監(jiān)管,因?yàn)镃PS潛在風(fēng)險(xiǎn)是難以預(yù)見(jiàn)的,某些產(chǎn)品可能通過(guò)了市場(chǎng)準(zhǔn)入標(biāo)準(zhǔn),但在后期也極容易暴露風(fēng)險(xiǎn)。此外,在CPS運(yùn)行過(guò)程中,攻擊者會(huì)通過(guò)破壞數(shù)據(jù)、竊聽(tīng)信息、捕獲節(jié)點(diǎn)、惡意代碼、非授權(quán)訪問(wèn)等攻擊行為來(lái)破壞CPS系統(tǒng),產(chǎn)生風(fēng)險(xiǎn),形成風(fēng)險(xiǎn)鏈。因此,監(jiān)管部門應(yīng)以定期檢查與不定期抽查相結(jié)合的措施來(lái)監(jiān)管市場(chǎng)流通活動(dòng),持續(xù)進(jìn)行風(fēng)險(xiǎn)評(píng)估與抽查;對(duì)工業(yè)互聯(lián)網(wǎng)的運(yùn)行進(jìn)行跟蹤記錄,加強(qiáng)對(duì)節(jié)點(diǎn)的管理與保護(hù)從而遏制攻擊行為;建立起CPS安全檢查與評(píng)估常態(tài)化工作機(jī)制,及時(shí)發(fā)現(xiàn)工業(yè)互聯(lián)網(wǎng)平臺(tái)安全問(wèn)題。

    其次,大數(shù)據(jù)是工業(yè)互聯(lián)網(wǎng)的重要資產(chǎn),它承載著企業(yè)和國(guó)家的重要信息,工業(yè)互聯(lián)網(wǎng)中的數(shù)據(jù)安全更為重要。在CPS的數(shù)據(jù)傳輸層,攻擊者常常通過(guò)拒絕服務(wù)攻擊、選擇性轉(zhuǎn)發(fā)、方向誤導(dǎo)攻擊等破壞數(shù)據(jù)完整性,影響工業(yè)互聯(lián)網(wǎng)中的大數(shù)據(jù)傳輸。在CPS應(yīng)用層,一旦數(shù)據(jù)庫(kù)被攻擊者攻陷,便會(huì)導(dǎo)致用戶隱私被泄漏。監(jiān)管主體應(yīng)加強(qiáng)工業(yè)互聯(lián)網(wǎng)中的數(shù)據(jù)治理措施,完善數(shù)據(jù)治理機(jī)制:對(duì)數(shù)據(jù)進(jìn)行差異性保存和差異性加密,將平臺(tái)里的通用數(shù)據(jù)和重要數(shù)據(jù)放到不同位置,對(duì)其采取不同的加密措施,對(duì)通用數(shù)據(jù)可采取專用加密方法,而對(duì)重要數(shù)據(jù)則采取非對(duì)稱加密的方式,發(fā)送者和傳輸者需要采取不同的密鑰技術(shù)加密或解密,大大降低安全隱患,對(duì)數(shù)據(jù)進(jìn)行分散性存儲(chǔ)與加密,能夠提高數(shù)據(jù)安全性與實(shí)用性;另外,工業(yè)互聯(lián)網(wǎng)中的數(shù)據(jù)過(guò)于分散,可采用“聯(lián)邦學(xué)習(xí)”技術(shù)共建平臺(tái)來(lái)打破“數(shù)據(jù)孤島”,該種分布式機(jī)器學(xué)習(xí)技術(shù)通過(guò)在加密機(jī)制下進(jìn)行參數(shù)交換來(lái)共建一個(gè)虛擬模型,實(shí)現(xiàn)信息流通的同時(shí)保證各企業(yè)自有工業(yè)數(shù)據(jù)不出本地,因?yàn)閿?shù)據(jù)本身并不移動(dòng),在將數(shù)據(jù)資源融合到一起之時(shí)不會(huì)導(dǎo)致隱私泄露問(wèn)題。完善數(shù)據(jù)治理機(jī)制,既有利于共享工業(yè)互聯(lián)網(wǎng)信息,又有利于提升數(shù)據(jù)治理質(zhì)量。通過(guò)加強(qiáng)風(fēng)險(xiǎn)檢測(cè)與數(shù)據(jù)治理,有力維護(hù)工業(yè)互聯(lián)網(wǎng)安全,減少風(fēng)險(xiǎn)發(fā)生。

    3 事后重視市場(chǎng)退出機(jī)制建立和應(yīng)急處置機(jī)制完善

    鑒于以CPS為核心的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)的不可逆性,應(yīng)當(dāng)建立完備的市場(chǎng)退出機(jī)制來(lái)確保危險(xiǎn)不會(huì)發(fā)生。CPS應(yīng)用在電力、無(wú)人機(jī)、醫(yī)療設(shè)施、工業(yè)制造、機(jī)器人等方方面面,市場(chǎng)上有眾多CPS產(chǎn)品,針對(duì)工業(yè)互聯(lián)網(wǎng)中CPS產(chǎn)品的特點(diǎn)與性能,可由專門部門在其退出市場(chǎng)時(shí)分類登記,并且在其退出市場(chǎng)后規(guī)定一定的時(shí)間周期來(lái)進(jìn)行跟蹤監(jiān)管,確保其沒(méi)有潛在危險(xiǎn)性。

    另外,應(yīng)注重完善應(yīng)急處理機(jī)制,當(dāng)危險(xiǎn)確已發(fā)生時(shí)及時(shí)處置,將損害降到最低。如圖3所示,當(dāng)危險(xiǎn)發(fā)生時(shí)首先尋找風(fēng)險(xiǎn)點(diǎn)來(lái)實(shí)現(xiàn)風(fēng)險(xiǎn)有效控制,及時(shí)發(fā)動(dòng)應(yīng)急響應(yīng),同時(shí)收取攻擊證據(jù),從證據(jù)中分析攻擊因素及攻擊關(guān)聯(lián)性,利用調(diào)查結(jié)果進(jìn)行事后追責(zé),預(yù)防同類風(fēng)險(xiǎn)發(fā)生。實(shí)現(xiàn)實(shí)時(shí)收取證據(jù),能夠保證證據(jù)完整性,從而更具針對(duì)性地提出同類危險(xiǎn)解決措施。

    多主體要共同提升應(yīng)急處置能力。提高企業(yè)、地方和國(guó)家的應(yīng)急協(xié)同意識(shí),統(tǒng)籌工業(yè)互聯(lián)網(wǎng)在不同環(huán)境狀態(tài)下可能出現(xiàn)的安全問(wèn)題,確定應(yīng)急處理工作的安排程序,加強(qiáng)合作,定期開(kāi)展應(yīng)急處置演練,從而提高技術(shù)水平與保障能力。

    五、 結(jié) 語(yǔ)

    新基建與工業(yè)互聯(lián)網(wǎng)是實(shí)現(xiàn)科技發(fā)展的重要土壤,工業(yè)互聯(lián)網(wǎng)以CPS為關(guān)鍵技術(shù),決定了信息技術(shù)與工業(yè)生產(chǎn)的高度滲透融合。而工業(yè)互聯(lián)網(wǎng)作為新基建的主戰(zhàn)場(chǎng),進(jìn)一步促進(jìn)了網(wǎng)絡(luò)空間與物理空間的融合,安全風(fēng)險(xiǎn)驟增,容易形成風(fēng)險(xiǎn)鏈,且其涉及范圍多為能源、電力、交通、醫(yī)療、水利等攸關(guān)社會(huì)穩(wěn)定與人民安全的工業(yè)行業(yè),對(duì)人民生活、社會(huì)經(jīng)濟(jì)及國(guó)家安全產(chǎn)生重要影響。因此,針對(duì)以CPS為核心的工業(yè)互聯(lián)網(wǎng)安全風(fēng)險(xiǎn)進(jìn)行有效監(jiān)管控制格外重要。應(yīng)強(qiáng)化基于全面風(fēng)險(xiǎn)管理防控理念的應(yīng)對(duì)措施,首先要制定完善的CPS標(biāo)準(zhǔn)體系為CPS安全保駕護(hù)航,為工業(yè)互聯(lián)網(wǎng)安全提供保障;其次要協(xié)同政府與社會(huì)多方主體共同監(jiān)管,堅(jiān)持安全第一與權(quán)責(zé)一致原則;另外,要大力引入數(shù)據(jù)要素這一新興生產(chǎn)要素,建設(shè)數(shù)據(jù)要素預(yù)警庫(kù),加強(qiáng)風(fēng)險(xiǎn)監(jiān)測(cè)、數(shù)據(jù)治理與應(yīng)急管理,提高監(jiān)管效率。

    〔參考文獻(xiàn)〕

    [1]亦舒, 葉麗莎, 董小英, 等. CPS與未來(lái)制造業(yè)的發(fā)展: 中德美政策與能力構(gòu)建的比較研究[J]. 中國(guó)軟科學(xué), 2018(2): 1120.

    [2]史永樂(lè), 嚴(yán)良. 智能制造高質(zhì)量發(fā)展的“技術(shù)能力”: 框架及驗(yàn)證——基于CPS理論與實(shí)踐的二維視野[J]. 經(jīng)濟(jì)學(xué)家, 2019(9): 8392.

    [3]鄭佩祥. 配電網(wǎng)CPS理論架構(gòu)和典型場(chǎng)景應(yīng)用[J]. 中國(guó)電力, 2019, 52(1): 1016, 31.

    [4]楊思維, 黃雙喜, 尹作重. 基于CPS的船舶智能制造體系結(jié)構(gòu)研究[J]. 制造業(yè)自動(dòng)化, 2019, 41(12): 125128.

    [5]李燕. 工業(yè)互聯(lián)網(wǎng)平臺(tái)發(fā)展的制約因素與推進(jìn)策略[J]. 改革, 2019(10): 3544.

    [6]田杰棠, 閆德利. 新基建和產(chǎn)業(yè)互聯(lián)網(wǎng): 疫情后數(shù)字經(jīng)濟(jì)加速的“路與車”[J]. 山東大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版), 2020(3): 18.

    [7]VIJAYAKUMAR V, SUBRAMANIYASWAMY V, ABAWAJY J, "et al. Intelligent, smart and scalable cyberphysical systems[J]." Journal of Intelligent and Fuzzy Systems, 2019, 36(5): 39353943.

    [8]李馥娟, 王群, 錢煥延. 信息物理融合系統(tǒng)研究[J]. 電子技術(shù)應(yīng)用, 2018, 44(9): 2428.

    [9]景博, 周偉, 黃以鋒, 等. 信息物理融合系統(tǒng)及其應(yīng)用[J]. 空軍工程大學(xué)學(xué)報(bào)(自然科學(xué)版), 2014, 15(2): 16.

    [10]王一晨. 運(yùn)用工業(yè)互聯(lián)網(wǎng)推動(dòng)中國(guó)制造業(yè)轉(zhuǎn)型升級(jí)[J]. 中州學(xué)刊, 2019(4): 2630.

    [11]WASCHULL S, BOKHORST J A C, MOLLEMAN E," et al. Work design in future industrial production: transforming towards cyberphysical systems[J]. Computers amp; Industrial Engineering, 2020, 139: 111.

    [12]劉烴, 田決, 王稼舟, 等. 信息物理融合系統(tǒng)綜合安全威脅與防御研究[J]. 自動(dòng)化學(xué)報(bào), 2019, 45(1): 524.

    [13]中國(guó)信息通信研究院. 2020年上半年工業(yè)互聯(lián)網(wǎng)安全態(tài)勢(shì)報(bào)告[EBOL]. (20200919)[20201031]. http:m.caict.ac.cnyjcg202009t20200919_347069.html.

    [14]丁達(dá), 曹杰. 信息物理融合系統(tǒng)網(wǎng)絡(luò)安全綜述[J]. 信息與控制, 2019, 48(5): 513521, 527.

    [15]LUN Y Z, D INNOCENZO A, SMARRA F, et al. State of the art of cyberphysical systems security: an" automatic control perspective[J]." Journal of Systems and Software, 2019, 149: 174216.

    [16]杜霖, 陳詩(shī)洋, 姜宇澤, 等. 工業(yè)互聯(lián)網(wǎng)安全關(guān)鍵技術(shù)研究[J]. 信息通信技術(shù)與政策, 2018(10): 1013.

    [17]秦安. “震網(wǎng)”升級(jí)版襲擊伊朗, 網(wǎng)絡(luò)毀癱離我們有多遠(yuǎn)[J]. 網(wǎng)絡(luò)空間安全, 2018, 9(11): 4143.

    [18]崔亞. 全面風(fēng)險(xiǎn)管理的理論基礎(chǔ): 以主體為出發(fā)點(diǎn)[J]. 保險(xiǎn)研究, 2016(9): 2840.

    The Security Risks of the Industrial Internet with CPS as the Core

    and Its Regulatory Measures

    ZHAO Lili, ZHOU Tong

    (Institute of Intellectual Property, Shandong University of Science and Technology," Qingdao 266510, China)

    Abstract: Digital and traditional infrastructures are deeply integrated. The Industrial Internet has become an important battleground for new infrastructure. New infrastructure generates new development, it will also create risks that are different from traditional environments. Therefore, Industrial Internet must be vigilant against the emergence of new risks while developing “new infrastructure”." Preventing Industrial Internet risks is increasingly important. CPS is the key technology of Industrial Internet. This paper summarizes the characteristics of Industrial Internet security risks with CPS as the core and puts forward measures to prevent risks. Under the background of the construction of“new infrastructure”, Industrial Internet should continuously strengthen the construction of CPS standard system, promote the coordination and cogovernance between the government and various social entities, build the early warning database of data elements, strengthen risk monitoring, data governance and improve the accountability mechanism.

    Key words: new infrastructure; cyberphysical systems; Industrial Internet; safety risk; prevention and control

    亚洲一码二码三码区别大吗| av有码第一页| 精品亚洲成a人片在线观看| 女人被躁到高潮嗷嗷叫费观| 亚洲成av片中文字幕在线观看| 欧美在线一区亚洲| 亚洲欧洲日产国产| 国产老妇伦熟女老妇高清| 久久毛片免费看一区二区三区| 久久人妻福利社区极品人妻图片| 各种免费的搞黄视频| 久久国产亚洲av麻豆专区| 麻豆乱淫一区二区| 99精品欧美一区二区三区四区| 男女下面插进去视频免费观看| 免费不卡黄色视频| 我要看黄色一级片免费的| 丝瓜视频免费看黄片| 久久久久精品人妻al黑| 免费人妻精品一区二区三区视频| 午夜成年电影在线免费观看| 一二三四在线观看免费中文在| 啦啦啦免费观看视频1| 大陆偷拍与自拍| 人人妻人人澡人人看| 国精品久久久久久国模美| 天堂俺去俺来也www色官网| 日韩精品免费视频一区二区三区| 最近最新免费中文字幕在线| 91大片在线观看| 在线 av 中文字幕| 国产精品久久久久久精品古装| 欧美 日韩 精品 国产| 飞空精品影院首页| 啦啦啦视频在线资源免费观看| 极品人妻少妇av视频| 国产av又大| 狠狠狠狠99中文字幕| 久久99一区二区三区| 日韩大码丰满熟妇| 国产国语露脸激情在线看| 成年女人毛片免费观看观看9 | 天天躁日日躁夜夜躁夜夜| 亚洲国产欧美日韩在线播放| 免费高清在线观看日韩| 菩萨蛮人人尽说江南好唐韦庄| 日日摸夜夜添夜夜添小说| 老汉色∧v一级毛片| 国产91精品成人一区二区三区 | 国产成人啪精品午夜网站| 欧美精品啪啪一区二区三区 | 18禁黄网站禁片午夜丰满| 看免费av毛片| 亚洲伊人色综图| 女性生殖器流出的白浆| 日韩一卡2卡3卡4卡2021年| 99久久99久久久精品蜜桃| 成人国产一区最新在线观看| 亚洲av日韩精品久久久久久密| 中文字幕人妻熟女乱码| 久久精品国产综合久久久| 韩国精品一区二区三区| 国产三级黄色录像| 99久久精品国产亚洲精品| 9191精品国产免费久久| 啦啦啦免费观看视频1| 国产福利在线免费观看视频| 国产人伦9x9x在线观看| 少妇 在线观看| 国产免费av片在线观看野外av| 亚洲av国产av综合av卡| 亚洲欧美日韩高清在线视频 | 国产又爽黄色视频| 精品乱码久久久久久99久播| 久久久水蜜桃国产精品网| 男女无遮挡免费网站观看| 国产精品麻豆人妻色哟哟久久| 丝瓜视频免费看黄片| 精品亚洲成国产av| 午夜福利视频在线观看免费| 91成人精品电影| 美女高潮喷水抽搐中文字幕| 人人妻人人澡人人爽人人夜夜| 日韩人妻精品一区2区三区| 日本vs欧美在线观看视频| 黑人操中国人逼视频| 丁香六月天网| a级毛片在线看网站| 久久久久精品国产欧美久久久 | 国产免费现黄频在线看| 日韩中文字幕视频在线看片| 狂野欧美激情性bbbbbb| 亚洲精品一二三| 亚洲五月婷婷丁香| 亚洲欧美日韩高清在线视频 | 美女高潮到喷水免费观看| 日韩制服骚丝袜av| 成年人午夜在线观看视频| 韩国精品一区二区三区| 亚洲久久久国产精品| videosex国产| 亚洲av日韩精品久久久久久密| 黑人巨大精品欧美一区二区蜜桃| 亚洲精品国产av蜜桃| 人人妻,人人澡人人爽秒播| 国产日韩欧美在线精品| 高清视频免费观看一区二区| 男女之事视频高清在线观看| 91国产中文字幕| 成人国产av品久久久| 最新在线观看一区二区三区| 久久热在线av| 在线十欧美十亚洲十日本专区| 黑人巨大精品欧美一区二区蜜桃| 欧美在线黄色| 一区福利在线观看| 亚洲精品粉嫩美女一区| 黄色视频,在线免费观看| 视频在线观看一区二区三区| 桃花免费在线播放| 亚洲国产成人一精品久久久| 热99久久久久精品小说推荐| 日本一区二区免费在线视频| 亚洲自偷自拍图片 自拍| 欧美在线黄色| 一区在线观看完整版| 啦啦啦视频在线资源免费观看| 日本五十路高清| 中文字幕人妻丝袜制服| 搡老乐熟女国产| 国产成人欧美| 男女免费视频国产| 亚洲精品乱久久久久久| 下体分泌物呈黄色| 国产欧美亚洲国产| 欧美日韩亚洲国产一区二区在线观看 | 国产亚洲欧美在线一区二区| 亚洲熟女精品中文字幕| 午夜91福利影院| 亚洲第一av免费看| 日本av免费视频播放| 啦啦啦在线免费观看视频4| 国产精品影院久久| 男女边摸边吃奶| 青青草视频在线视频观看| 天天躁夜夜躁狠狠躁躁| 伊人亚洲综合成人网| 丰满迷人的少妇在线观看| 久久久久久久大尺度免费视频| 成在线人永久免费视频| 欧美另类一区| 久久精品国产a三级三级三级| 国产伦人伦偷精品视频| 我的亚洲天堂| 午夜影院在线不卡| 午夜精品久久久久久毛片777| 一区二区三区乱码不卡18| 少妇粗大呻吟视频| 久久精品aⅴ一区二区三区四区| 亚洲av日韩精品久久久久久密| 午夜福利免费观看在线| 80岁老熟妇乱子伦牲交| av欧美777| 久久中文看片网| 91av网站免费观看| 超色免费av| 国产欧美日韩综合在线一区二区| 正在播放国产对白刺激| 欧美人与性动交α欧美软件| 精品亚洲成国产av| 纵有疾风起免费观看全集完整版| 亚洲精品av麻豆狂野| 免费黄频网站在线观看国产| 桃红色精品国产亚洲av| 国产在视频线精品| 亚洲久久久国产精品| e午夜精品久久久久久久| 老熟妇乱子伦视频在线观看 | 成人国产av品久久久| 久久国产精品影院| 在线观看免费视频网站a站| 久久中文字幕一级| 久久天躁狠狠躁夜夜2o2o| 亚洲七黄色美女视频| a级毛片在线看网站| 亚洲av男天堂| 国产日韩一区二区三区精品不卡| 色老头精品视频在线观看| 国产精品一二三区在线看| 久久精品aⅴ一区二区三区四区| 国内毛片毛片毛片毛片毛片| 国产成人一区二区三区免费视频网站| 水蜜桃什么品种好| 日韩视频一区二区在线观看| 国产亚洲午夜精品一区二区久久| 99久久人妻综合| 99国产精品一区二区蜜桃av | 午夜精品久久久久久毛片777| 精品国产乱子伦一区二区三区 | 久久中文字幕一级| 国产免费现黄频在线看| 51午夜福利影视在线观看| 久久久久久久久久久久大奶| 人人妻人人澡人人看| 91大片在线观看| 国产成人免费无遮挡视频| 婷婷色av中文字幕| 人妻一区二区av| 国产黄色免费在线视频| 亚洲综合色网址| 人妻人人澡人人爽人人| 自线自在国产av| 亚洲国产精品一区二区三区在线| 精品一区二区三区av网在线观看 | 天天影视国产精品| 少妇裸体淫交视频免费看高清 | 正在播放国产对白刺激| 午夜91福利影院| 亚洲精品一区蜜桃| 女人久久www免费人成看片| 欧美成狂野欧美在线观看| 国产高清国产精品国产三级| 在线 av 中文字幕| 久热这里只有精品99| 天天操日日干夜夜撸| 久久ye,这里只有精品| 性色av一级| 成在线人永久免费视频| 国产亚洲午夜精品一区二区久久| 欧美日韩黄片免| 国产精品一二三区在线看| 亚洲欧美色中文字幕在线| 少妇裸体淫交视频免费看高清 | 狠狠精品人妻久久久久久综合| 亚洲av美国av| 操美女的视频在线观看| 色婷婷av一区二区三区视频| 国产欧美亚洲国产| 高清黄色对白视频在线免费看| 可以免费在线观看a视频的电影网站| 精品一区二区三区av网在线观看 | 女警被强在线播放| 啦啦啦视频在线资源免费观看| 日韩中文字幕欧美一区二区| 91精品三级在线观看| 中亚洲国语对白在线视频| 欧美日韩亚洲国产一区二区在线观看 | 国产成人av激情在线播放| av在线播放精品| 夜夜骑夜夜射夜夜干| 国产精品国产三级国产专区5o| 自线自在国产av| 午夜免费观看性视频| 亚洲精品美女久久av网站| 日本a在线网址| 中文欧美无线码| 一本—道久久a久久精品蜜桃钙片| 久久午夜综合久久蜜桃| 精品国产国语对白av| 秋霞在线观看毛片| 男人舔女人的私密视频| 日韩电影二区| 1024视频免费在线观看| 爱豆传媒免费全集在线观看| 亚洲av片天天在线观看| 国产深夜福利视频在线观看| 久久久水蜜桃国产精品网| 操出白浆在线播放| 啦啦啦在线免费观看视频4| 丝瓜视频免费看黄片| 久久人妻福利社区极品人妻图片| 窝窝影院91人妻| 久久毛片免费看一区二区三区| 在线av久久热| av线在线观看网站| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲精品成人av观看孕妇| 精品免费久久久久久久清纯 | 别揉我奶头~嗯~啊~动态视频 | 欧美在线一区亚洲| 亚洲avbb在线观看| 亚洲一区中文字幕在线| 中文字幕人妻丝袜一区二区| 性少妇av在线| 国产精品久久久久久精品电影小说| 宅男免费午夜| 黄色片一级片一级黄色片| 一区二区三区乱码不卡18| 在线亚洲精品国产二区图片欧美| 90打野战视频偷拍视频| 亚洲avbb在线观看| 999精品在线视频| 国产在线免费精品| 免费观看a级毛片全部| 青春草亚洲视频在线观看| 国产亚洲一区二区精品| 欧美老熟妇乱子伦牲交| 麻豆国产av国片精品| 午夜福利视频精品| 男女午夜视频在线观看| 久久人妻熟女aⅴ| 国产人伦9x9x在线观看| 亚洲精品国产区一区二| 色精品久久人妻99蜜桃| 日韩 亚洲 欧美在线| 免费观看人在逋| 亚洲成人手机| 久久女婷五月综合色啪小说| 热re99久久国产66热| 精品少妇黑人巨大在线播放| 久久久久精品国产欧美久久久 | 制服诱惑二区| 婷婷成人精品国产| 久久九九热精品免费| a 毛片基地| 欧美日韩亚洲综合一区二区三区_| 国产免费视频播放在线视频| 女人久久www免费人成看片| 亚洲情色 制服丝袜| 亚洲精品久久成人aⅴ小说| 女人精品久久久久毛片| 日本91视频免费播放| 久久这里只有精品19| 飞空精品影院首页| 别揉我奶头~嗯~啊~动态视频 | 女人精品久久久久毛片| 国产亚洲精品第一综合不卡| 午夜老司机福利片| 久久人人97超碰香蕉20202| 香蕉国产在线看| 又紧又爽又黄一区二区| 国产黄色免费在线视频| 国产精品国产三级国产专区5o| 一级片免费观看大全| 久久精品亚洲熟妇少妇任你| 欧美xxⅹ黑人| 欧美 亚洲 国产 日韩一| 亚洲人成77777在线视频| 一区二区三区四区激情视频| 欧美激情极品国产一区二区三区| 国产av国产精品国产| 欧美黄色片欧美黄色片| www.熟女人妻精品国产| 18禁国产床啪视频网站| 久久影院123| 热99久久久久精品小说推荐| 亚洲欧洲日产国产| 午夜福利乱码中文字幕| 一级片'在线观看视频| 十八禁高潮呻吟视频| 99香蕉大伊视频| 国产无遮挡羞羞视频在线观看| 在线观看免费日韩欧美大片| 国产视频一区二区在线看| 伊人亚洲综合成人网| 免费日韩欧美在线观看| 精品免费久久久久久久清纯 | av又黄又爽大尺度在线免费看| 日本91视频免费播放| 日本撒尿小便嘘嘘汇集6| 国产深夜福利视频在线观看| 两人在一起打扑克的视频| 国产欧美日韩一区二区三区在线| 国产极品粉嫩免费观看在线| 亚洲专区中文字幕在线| 亚洲国产av新网站| 在线观看人妻少妇| 婷婷丁香在线五月| 一区二区日韩欧美中文字幕| 久久午夜综合久久蜜桃| 国产欧美日韩精品亚洲av| 久久综合国产亚洲精品| 国产在线视频一区二区| 男男h啪啪无遮挡| videosex国产| 一本久久精品| 亚洲欧美精品自产自拍| 一本久久精品| cao死你这个sao货| 一级黄色大片毛片| 青草久久国产| a级毛片在线看网站| 精品福利观看| 麻豆av在线久日| 又紧又爽又黄一区二区| 香蕉国产在线看| 免费在线观看影片大全网站| 欧美日韩福利视频一区二区| 99国产极品粉嫩在线观看| 人人妻人人澡人人看| 亚洲av成人不卡在线观看播放网 | 丝袜喷水一区| 18禁裸乳无遮挡动漫免费视频| 国产亚洲av片在线观看秒播厂| 菩萨蛮人人尽说江南好唐韦庄| 精品人妻1区二区| 午夜精品久久久久久毛片777| 在线亚洲精品国产二区图片欧美| 亚洲伊人久久精品综合| 亚洲欧美色中文字幕在线| 午夜激情久久久久久久| 巨乳人妻的诱惑在线观看| 777米奇影视久久| 日韩精品免费视频一区二区三区| www.熟女人妻精品国产| 99国产精品免费福利视频| 黄片播放在线免费| 五月开心婷婷网| 色播在线永久视频| 国产免费福利视频在线观看| 黄色视频在线播放观看不卡| 欧美亚洲 丝袜 人妻 在线| 久久久久久免费高清国产稀缺| 免费观看a级毛片全部| 亚洲 国产 在线| av片东京热男人的天堂| 国产精品香港三级国产av潘金莲| 免费久久久久久久精品成人欧美视频| 宅男免费午夜| 日日爽夜夜爽网站| 丝袜美腿诱惑在线| 免费日韩欧美在线观看| 亚洲精品久久久久久婷婷小说| 热re99久久精品国产66热6| 99精品久久久久人妻精品| 乱人伦中国视频| 女人精品久久久久毛片| 午夜福利乱码中文字幕| 淫妇啪啪啪对白视频 | 久久久久精品国产欧美久久久 | √禁漫天堂资源中文www| 久久天堂一区二区三区四区| av在线播放精品| 亚洲人成77777在线视频| 高清欧美精品videossex| 国产精品久久久久久人妻精品电影 | 免费不卡黄色视频| 香蕉国产在线看| 色婷婷久久久亚洲欧美| 欧美激情极品国产一区二区三区| 男女高潮啪啪啪动态图| 久久久久久久大尺度免费视频| 曰老女人黄片| 亚洲av日韩精品久久久久久密| 欧美黄色片欧美黄色片| 日本vs欧美在线观看视频| 国产精品久久久久久精品古装| 亚洲一区二区三区欧美精品| 99久久综合免费| kizo精华| 人妻久久中文字幕网| 国产亚洲av片在线观看秒播厂| 黄色片一级片一级黄色片| 在线观看www视频免费| 中亚洲国语对白在线视频| 丰满少妇做爰视频| 精品少妇黑人巨大在线播放| 欧美中文综合在线视频| 精品亚洲成a人片在线观看| 国产一区二区在线观看av| 婷婷成人精品国产| 亚洲精品日韩在线中文字幕| 9热在线视频观看99| 满18在线观看网站| 99九九在线精品视频| 十八禁网站免费在线| 久久影院123| a 毛片基地| 亚洲专区中文字幕在线| 亚洲精华国产精华精| www日本在线高清视频| 在线天堂中文资源库| 国产精品一区二区免费欧美 | 国产极品粉嫩免费观看在线| 亚洲精品在线美女| 亚洲av国产av综合av卡| 下体分泌物呈黄色| 精品免费久久久久久久清纯 | √禁漫天堂资源中文www| 深夜精品福利| 99九九在线精品视频| 国产精品久久久久久人妻精品电影 | 狂野欧美激情性bbbbbb| av福利片在线| 欧美av亚洲av综合av国产av| 亚洲av电影在线观看一区二区三区| 性高湖久久久久久久久免费观看| 欧美性长视频在线观看| 久久久久国内视频| 老熟妇仑乱视频hdxx| 十分钟在线观看高清视频www| av视频免费观看在线观看| av在线播放精品| 久久人妻熟女aⅴ| 午夜两性在线视频| 性少妇av在线| 国产免费av片在线观看野外av| 日日爽夜夜爽网站| 黄频高清免费视频| 亚洲欧美激情在线| 操美女的视频在线观看| 他把我摸到了高潮在线观看 | 欧美 日韩 精品 国产| 国产成人欧美在线观看 | 免费少妇av软件| 国产精品一区二区免费欧美 | 一二三四在线观看免费中文在| 亚洲人成电影免费在线| 亚洲第一av免费看| 国产精品一区二区免费欧美 | 欧美激情久久久久久爽电影 | xxxhd国产人妻xxx| 中文字幕人妻丝袜制服| 性色av一级| 日韩大片免费观看网站| 久久中文看片网| 咕卡用的链子| 亚洲精品久久久久久婷婷小说| 久久精品国产a三级三级三级| √禁漫天堂资源中文www| 国产一区二区激情短视频 | 亚洲美女黄色视频免费看| 新久久久久国产一级毛片| 正在播放国产对白刺激| 国产精品自产拍在线观看55亚洲 | 大码成人一级视频| 老司机深夜福利视频在线观看 | 亚洲七黄色美女视频| 国产成人系列免费观看| 1024视频免费在线观看| 老司机影院成人| 香蕉丝袜av| 国产精品熟女久久久久浪| 丝袜美腿诱惑在线| 国产成+人综合+亚洲专区| 国产精品.久久久| 日日摸夜夜添夜夜添小说| 99精品欧美一区二区三区四区| 国产精品 欧美亚洲| 国产真人三级小视频在线观看| 成年女人毛片免费观看观看9 | 日韩欧美一区二区三区在线观看 | 免费在线观看影片大全网站| 777米奇影视久久| 精品人妻熟女毛片av久久网站| 日日爽夜夜爽网站| cao死你这个sao货| 成年av动漫网址| 丰满人妻熟妇乱又伦精品不卡| 午夜福利在线免费观看网站| 又紧又爽又黄一区二区| 欧美日韩福利视频一区二区| 一区福利在线观看| 国产成人a∨麻豆精品| 母亲3免费完整高清在线观看| 91字幕亚洲| 久久久久精品国产欧美久久久 | 欧美日韩亚洲国产一区二区在线观看 | 久久久欧美国产精品| 成人三级做爰电影| 涩涩av久久男人的天堂| 久久久久久亚洲精品国产蜜桃av| 午夜福利视频在线观看免费| 国产区一区二久久| 日本五十路高清| 成人国产av品久久久| 国产精品一区二区精品视频观看| 亚洲av国产av综合av卡| 热re99久久精品国产66热6| 天堂中文最新版在线下载| 国产区一区二久久| 精品亚洲成a人片在线观看| 亚洲成国产人片在线观看| 精品亚洲成国产av| 亚洲成国产人片在线观看| 男女无遮挡免费网站观看| 多毛熟女@视频| 欧美老熟妇乱子伦牲交| 亚洲 欧美一区二区三区| 国产一区二区三区在线臀色熟女 | 热re99久久精品国产66热6| 精品欧美一区二区三区在线| 国产三级黄色录像| 国产亚洲av高清不卡| 各种免费的搞黄视频| 宅男免费午夜| 在线观看免费高清a一片| 在线永久观看黄色视频| 大型av网站在线播放| 777久久人妻少妇嫩草av网站| 亚洲精品自拍成人| 亚洲熟女毛片儿| 99精品久久久久人妻精品| 国产精品影院久久| 日韩中文字幕视频在线看片| 美女午夜性视频免费| 欧美中文综合在线视频| 18禁国产床啪视频网站| 国产一区二区 视频在线| 男女床上黄色一级片免费看| 青青草视频在线视频观看| 女人久久www免费人成看片| 亚洲av片天天在线观看| 亚洲av日韩在线播放| 久久人人爽人人片av| 1024视频免费在线观看| 999精品在线视频| e午夜精品久久久久久久| 精品一品国产午夜福利视频| 国产日韩一区二区三区精品不卡| 19禁男女啪啪无遮挡网站| 日本猛色少妇xxxxx猛交久久| 丝袜脚勾引网站| 青草久久国产| av天堂在线播放|