• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    工業(yè)大數(shù)據(jù)安全研究

    2019-12-09 02:08:12余章馗劉京娟
    網(wǎng)絡(luò)空間安全 2019年5期
    關(guān)鍵詞:數(shù)據(jù)安全大數(shù)據(jù)

    余章馗 劉京娟

    摘? ?要:文章以工業(yè)大數(shù)據(jù)為研究對象,介紹了工業(yè)大數(shù)據(jù)概念、特征,分析了工業(yè)大數(shù)據(jù)面臨的安全形勢,總結(jié)了我國工業(yè)大數(shù)據(jù)安全保障現(xiàn)狀及面臨的問題,并提出了加強(qiáng)工業(yè)大數(shù)據(jù)安全防護(hù)的對策建議。

    關(guān)鍵詞:工業(yè)數(shù)據(jù);大數(shù)據(jù);數(shù)據(jù)安全

    中圖分類號:TP393? ? ? ? ? 文獻(xiàn)標(biāo)識碼:A

    Research of industrial big data security

    Yu Zhangkui, Liu Jingjuan

    (China Industrial Control Systems Cyber Emergency Response Team, Beijing 100040)

    Abstract: This paper takes industrial big data as the research object, introduces its concept and characteristics, analyzes the security situation it faces, summarizes the status quo and problems of the security of industrial big data in China, and finally puts forward some suggestions for strengthening the protection of security of industrial big data in China.

    Key words: industrial data; big data; data security

    1 引言

    黨中央、國務(wù)院高度重視數(shù)據(jù)安全。黨的十九大報告指出,“堅持總體國家安全觀”“堅決維護(hù)國家主權(quán)、安全、發(fā)展利益”。2017年12月,總書記在主持實施國家大數(shù)據(jù)戰(zhàn)略第二次集體學(xué)習(xí)時提出,要“推動實施國家大數(shù)據(jù)戰(zhàn)略”“切實保障國家數(shù)據(jù)安全”“強(qiáng)化國家關(guān)鍵數(shù)據(jù)資源保護(hù)能力,增強(qiáng)數(shù)據(jù)安全預(yù)警和溯源能力”。同時,近年來國家相繼出臺了《中華人民共和國網(wǎng)絡(luò)安全法》《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》《促進(jìn)大數(shù)據(jù)發(fā)展行動綱要》《深化“互聯(lián)網(wǎng)+先進(jìn)制造業(yè)”發(fā)展工業(yè)互聯(lián)網(wǎng)的指導(dǎo)意見》等法規(guī)、戰(zhàn)略、規(guī)劃文件,提出了一系列加強(qiáng)數(shù)據(jù)安全的相關(guān)舉措,為工業(yè)大數(shù)據(jù)安全工作提供了重要依據(jù)。

    工業(yè)大數(shù)據(jù)泛指工業(yè)領(lǐng)域產(chǎn)生、采集、傳輸、處理、使用的海量數(shù)據(jù),已成為提升制造業(yè)生產(chǎn)力、競爭力、創(chuàng)新力的關(guān)鍵要素,是驅(qū)動工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的引擎。隨著世界各國積極推動工業(yè)大數(shù)據(jù)發(fā)展,全球工業(yè)大數(shù)據(jù)相關(guān)技術(shù)產(chǎn)業(yè)得到快速發(fā)展。與此同時,工業(yè)大數(shù)據(jù)安全形勢十分嚴(yán)峻,我國工業(yè)大數(shù)據(jù)安全還存在頂層設(shè)計不完善、責(zé)任落實不到位、技術(shù)手段缺乏、產(chǎn)業(yè)支撐能力薄弱等突出問題,加快提升工業(yè)大數(shù)據(jù)安全保障能力迫在眉睫。

    2? 工業(yè)大數(shù)據(jù)的內(nèi)涵

    隨著工業(yè)互聯(lián)網(wǎng)、智能制造、物聯(lián)網(wǎng)等創(chuàng)新應(yīng)用的深入發(fā)展,以及云計算、大數(shù)據(jù)、人工智能等新一代信息技術(shù)的廣泛應(yīng)用,世界各國紛紛將推進(jìn)經(jīng)濟(jì)數(shù)字化作為實現(xiàn)創(chuàng)新發(fā)展的重要動能,大力推動制造業(yè)數(shù)字化、網(wǎng)絡(luò)化、智能化,工業(yè)領(lǐng)域的數(shù)據(jù)得到高速規(guī)?;鲩L。工業(yè)大數(shù)據(jù)驅(qū)動生產(chǎn)過程、產(chǎn)品、服務(wù)、業(yè)態(tài)等朝著智能化方向發(fā)展,為工業(yè)轉(zhuǎn)型升級和構(gòu)建智能制造產(chǎn)業(yè)生態(tài)提供重要支撐,對推動實施制造強(qiáng)國和網(wǎng)絡(luò)強(qiáng)國戰(zhàn)略具有重要意義。當(dāng)前,數(shù)據(jù)掌握的多寡和分析處理能力的高低,已成為國家軟實力和競爭力的重要標(biāo)志,誰主導(dǎo)了大數(shù)據(jù)資源和技術(shù),誰就掌握了主動權(quán)。工業(yè)互聯(lián)網(wǎng)作為新一代信息技術(shù)與工業(yè)深度融合的產(chǎn)物,正在構(gòu)建新的網(wǎng)絡(luò)架構(gòu)體系、技術(shù)體系和數(shù)據(jù)資源體系,而工業(yè)大數(shù)據(jù)是驅(qū)動工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的引擎,是工業(yè)智能化的關(guān)鍵,是建設(shè)現(xiàn)代化經(jīng)濟(jì)體系的重要基石。

    2.1 概念

    工業(yè)大數(shù)據(jù)主要指工業(yè)領(lǐng)域在業(yè)務(wù)活動和過程中所產(chǎn)生、采集、處理、存儲、傳輸和使用的海量數(shù)據(jù)的綜合。從來源上可粗略分為內(nèi)部數(shù)據(jù)和外部數(shù)據(jù)兩大類。內(nèi)部數(shù)據(jù)主要指來自工廠內(nèi)部的數(shù)據(jù),主要包括生產(chǎn)經(jīng)營業(yè)務(wù)數(shù)據(jù)和機(jī)器設(shè)備數(shù)據(jù)。其中,生產(chǎn)經(jīng)營業(yè)務(wù)數(shù)據(jù)是指工業(yè)企業(yè)在傳統(tǒng)信息化應(yīng)用過程中,包括傳統(tǒng)工業(yè)設(shè)計和制造類軟件、企業(yè)資源計劃(ERP)、產(chǎn)品生命周期管理(PLM)、供應(yīng)鏈管理(SCM)、客戶關(guān)系管理(CRM)和環(huán)境管理系統(tǒng)(EMS)等,所產(chǎn)生、采集、存儲的產(chǎn)品研發(fā)數(shù)據(jù)、生產(chǎn)性數(shù)據(jù)、經(jīng)營性數(shù)據(jù)、客戶信息數(shù)據(jù)、物流供應(yīng)數(shù)據(jù)及環(huán)境數(shù)據(jù)等。機(jī)器設(shè)備數(shù)據(jù)主要指工業(yè)生產(chǎn)設(shè)備、機(jī)器、控制系統(tǒng)等實時產(chǎn)生、采集的涵蓋操作和運行情況、工況狀態(tài)、環(huán)境參數(shù)等體現(xiàn)設(shè)備和產(chǎn)品運行狀態(tài)的數(shù)據(jù)。外部數(shù)據(jù)主要指來源于工廠外部的數(shù)據(jù),主要包括來自市場、客戶、政府、供應(yīng)鏈等外部環(huán)境的信息和數(shù)據(jù)。

    2.2 特征

    工業(yè)大數(shù)據(jù)除了擁有傳統(tǒng)大數(shù)據(jù)的“4V”特征,即規(guī)模性(Volume)、多樣性(Varity)、高速性(Velocity)和價值性(Value)外,還有六個典型特征。

    (1)多態(tài)性:工業(yè)大數(shù)據(jù)種類多樣,既包括概念設(shè)計、詳細(xì)設(shè)計、制造工藝、包裝運輸?shù)葮I(yè)務(wù)數(shù)據(jù),還涉及服務(wù)保障階段的運行狀態(tài)、維修計劃、服務(wù)評價等數(shù)據(jù)。

    (2)實時性:工業(yè)大數(shù)據(jù)主要來源于生產(chǎn)制造和產(chǎn)品運維等環(huán)節(jié),生產(chǎn)線、設(shè)備、儀器等均要求高速運轉(zhuǎn),在數(shù)據(jù)采集頻率、數(shù)據(jù)處理、數(shù)據(jù)分析、異常發(fā)現(xiàn)和應(yīng)對等方面均具有很高的實時性要求。

    (3)閉環(huán)性:既包括產(chǎn)品全生命周期橫向過程的數(shù)據(jù)鏈條,還包括智能制造縱向數(shù)據(jù)采集和處理過程中的所有數(shù)據(jù)。以此來支撐狀態(tài)感知、分析、反饋、控制等閉環(huán)場景下的動態(tài)持續(xù)調(diào)整和優(yōu)化。其中,橫向數(shù)據(jù)鏈條包括產(chǎn)品研發(fā)、生產(chǎn)、發(fā)布、使用、運維、更新、報廢等過程中的數(shù)據(jù);縱向數(shù)據(jù)鏈條包括生產(chǎn)管理層、過程監(jiān)控層、工業(yè)控制層、現(xiàn)場設(shè)備層等各層級采集和處理的數(shù)據(jù)。

    (4)級聯(lián)性:工業(yè)產(chǎn)品生命周期的設(shè)計、制造、服務(wù)等不同環(huán)節(jié)的數(shù)據(jù)之間需要進(jìn)行關(guān)聯(lián),一旦某一環(huán)節(jié)的數(shù)據(jù)泄露或被篡改,極有可能導(dǎo)致級聯(lián)破壞,造成大規(guī)模影響。

    (5)更具價值屬性:相比傳統(tǒng)大數(shù)據(jù),工業(yè)大數(shù)據(jù)更加強(qiáng)調(diào)用戶價值驅(qū)動和數(shù)據(jù)本身的可用性,利用工業(yè)大數(shù)據(jù)可以提升創(chuàng)新能力和生產(chǎn)經(jīng)營效率,以及促進(jìn)個性化定制、服務(wù)化轉(zhuǎn)型等智能制造新模式變革。

    (6)更具產(chǎn)權(quán)屬性:工業(yè)大數(shù)據(jù)產(chǎn)生于企業(yè)實際生產(chǎn)經(jīng)營過程,依附于企業(yè)的設(shè)備設(shè)施、資源物料、業(yè)務(wù)系統(tǒng)等載體。對企業(yè)而言,這些數(shù)據(jù)更具有明確的產(chǎn)權(quán)屬性,企業(yè)擁有對這些數(shù)據(jù)的掌控能力,能夠決定具體數(shù)據(jù)的具體使用方式,數(shù)據(jù)產(chǎn)權(quán)屬性明顯高于個人用戶。

    2.3 與傳統(tǒng)大數(shù)據(jù)的區(qū)別

    相較傳統(tǒng)大數(shù)據(jù),工業(yè)大數(shù)據(jù)在采集、存儲、處理、分析等數(shù)據(jù)全生命周期環(huán)節(jié)上主要存在的區(qū)別如表1所示。

    3 工業(yè)大數(shù)據(jù)面臨的安全形勢

    隨著工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、大數(shù)據(jù)等新型信息技術(shù)的發(fā)展和普及,IT技術(shù)與OT技術(shù)深度融合,工業(yè)體系正在由封閉走向開放,工業(yè)終端聯(lián)網(wǎng)程度不斷加深,大量工業(yè)控制系統(tǒng)和設(shè)備暴露在互聯(lián)網(wǎng)上,工業(yè)大數(shù)據(jù)面臨傳統(tǒng)網(wǎng)絡(luò)威脅和工業(yè)互聯(lián)網(wǎng)安全風(fēng)險“雙重壓力”,安全形勢愈發(fā)嚴(yán)峻復(fù)雜。

    3.1 工業(yè)大數(shù)據(jù)具有較高戰(zhàn)略價值,已成為黑客攻擊的重點目標(biāo)

    工業(yè)大數(shù)據(jù)涉及生產(chǎn)工藝、參數(shù)、流程等,依附于企業(yè)設(shè)備設(shè)施、工業(yè)軟件和信息系統(tǒng),是工業(yè)企業(yè)在長期生產(chǎn)實踐中形成的關(guān)鍵戰(zhàn)略資源,已成為企業(yè)的生命線,一旦被泄露、竊取、篡改或者損毀,將可能導(dǎo)致生產(chǎn)中斷、造成重大經(jīng)濟(jì)損失、威脅人員生命安全,甚至影響到企業(yè)的發(fā)展和存亡。正是由于工業(yè)大數(shù)據(jù)蘊(yùn)含巨大的商業(yè)價值,攻擊者將目標(biāo)瞄準(zhǔn)工業(yè)數(shù)據(jù),通過非法入侵、勒索病毒、網(wǎng)絡(luò)釣魚等方式,針對工業(yè)控制系統(tǒng)、工業(yè)軟件、工業(yè)主機(jī)、工業(yè)互聯(lián)網(wǎng)平臺發(fā)動攻擊,旨在對工業(yè)數(shù)據(jù)進(jìn)行加密或者非法控制以截取商業(yè)機(jī)密和巨額經(jīng)濟(jì)利益。

    裝備制造、冶金、化工、能源等關(guān)鍵行業(yè)領(lǐng)域的工業(yè)數(shù)據(jù)是國家工業(yè)化、信息化的重要積累,是關(guān)乎經(jīng)濟(jì)運行、社會穩(wěn)定和國家安全的基礎(chǔ)性戰(zhàn)略資源。工業(yè)大數(shù)據(jù)安全事件一旦發(fā)生,可能導(dǎo)致系統(tǒng)故障、設(shè)備損壞,生產(chǎn)停滯,使企業(yè)乃至行業(yè)蒙受巨額損失,甚至可能造成生態(tài)環(huán)境破壞,危及人民群眾生命財產(chǎn)安全,引發(fā)社會動蕩。一些具有國家或者軍方背景的黑客組織,可以通過對工業(yè)大數(shù)據(jù)進(jìn)行有針對性的非法訪問、權(quán)限控制、銷毀或者竊取等攻擊活動,達(dá)到控制或者破壞國民經(jīng)濟(jì)命脈的目的。

    3.2 工業(yè)大數(shù)據(jù)云端匯聚,局部風(fēng)險易演變成系統(tǒng)性風(fēng)險

    近年來,工業(yè)互聯(lián)網(wǎng)快速發(fā)展,工業(yè)企業(yè)加速上云。數(shù)據(jù)顯示,中國國內(nèi)至少涌現(xiàn)出269個工業(yè)互聯(lián)網(wǎng)平臺類產(chǎn)品,全國近20個省市出臺了推動企業(yè)上云的相關(guān)政策。隨著工業(yè)企業(yè)核心業(yè)務(wù)系統(tǒng)的不斷向云端遷移,工業(yè)企業(yè)內(nèi)部關(guān)鍵數(shù)據(jù)也在工業(yè)云平臺上高密度聚合。據(jù)統(tǒng)計,我國重點工業(yè)互聯(lián)網(wǎng)平臺平均工業(yè)設(shè)備連接數(shù)達(dá)到59萬臺,工業(yè)APP平均1500多個,注冊戶數(shù)平均超過50萬戶。工業(yè)數(shù)據(jù)從企業(yè)設(shè)備層到平臺運用層一體化貫通的過程中,有大量的各種API接口開放,加之云服務(wù)具有分布式、開放化的特性,極大地擴(kuò)大了工業(yè)數(shù)據(jù)的受攻擊面。當(dāng)前,工業(yè)云平臺曝出的漏洞日益增多,且大量集中在裝備制造、交通、能源等重要領(lǐng)域,單點數(shù)據(jù)風(fēng)險很可能演變成系統(tǒng)性風(fēng)險。一旦黑客攻擊事件發(fā)生,極易引發(fā)大規(guī)模工業(yè)數(shù)據(jù)泄露、篡改和銷毀等重大安全事件,甚至產(chǎn)生級聯(lián)性的嚴(yán)重后果。

    2018年1月,谷歌安全團(tuán)隊披露“熔斷”(Meltdown)和“幽靈”(Spectre)漏洞,漏洞利用CPU芯片硬件層面亂序執(zhí)行機(jī)制的缺陷,使得低權(quán)限的惡意訪問者可以突破內(nèi)存隔離,發(fā)動側(cè)信道攻擊。在未被許可的情況下讀取同一系統(tǒng)中的其它進(jìn)程或同一主機(jī)上其它虛擬機(jī)內(nèi)存中的敏感信息,包括密碼、賬戶信息、加密密鑰或理論上存儲在內(nèi)核內(nèi)存中的任何內(nèi)容,嚴(yán)重影響了英特爾、美國超微半導(dǎo)體公司等廠商生產(chǎn)的主流中央處理器;思科800系列集成多業(yè)務(wù)路由器和工業(yè)以太網(wǎng)4000系列交換機(jī)、西門子工業(yè)設(shè)備以及部分工業(yè)互聯(lián)網(wǎng)平臺和云服務(wù)平臺也受到影響,工業(yè)數(shù)據(jù)存在泄露風(fēng)險。2018年7月,加拿大汽車服務(wù)供應(yīng)商Level One的公共服務(wù)器發(fā)生數(shù)據(jù)泄露,大眾、克萊斯勒、福特、通用、特斯拉等100多家車企超過157GB、47000份文件遭到曝光,泄露內(nèi)容包含多家汽車制造商大量產(chǎn)品設(shè)計原理圖、裝配線原理圖、工廠平面圖、采購合同等工業(yè)數(shù)據(jù)。

    3.3 全球工業(yè)數(shù)據(jù)泄露事件頻發(fā),我國工業(yè)大數(shù)據(jù)安全問題日益凸顯

    據(jù)威瑞森公司統(tǒng)計,2018年,全球制造業(yè)數(shù)據(jù)泄露事件536起,行業(yè)排名第6,其中涉及大型企業(yè)事件375起。對這些事件及其泄露數(shù)據(jù)的深入分析發(fā)現(xiàn)兩方面問題。一方面,針對制造業(yè)的網(wǎng)絡(luò)攻擊針對性極強(qiáng),其中網(wǎng)絡(luò)間諜活動成為制造業(yè)數(shù)據(jù)泄露最大的威脅,有國家背景的攻擊占比較高。制造業(yè)領(lǐng)域的攻擊事件86%具有明確的針對性,遠(yuǎn)高于零售、金融、保險、住宿和食品等行業(yè),47%的網(wǎng)絡(luò)攻擊屬于間諜活動,而53%的攻擊背后存在著國家的支持。另一方面,泄露數(shù)據(jù)多為企業(yè)重要敏感數(shù)據(jù)。泄露數(shù)據(jù)中,有超過60%是重要工業(yè)數(shù)據(jù),包括商業(yè)秘密、身份數(shù)據(jù)、系統(tǒng)數(shù)據(jù)、數(shù)字憑證、財務(wù)收支等數(shù)據(jù)類型。

    我國工業(yè)數(shù)據(jù)也存在安全隱患。近年來,我國境內(nèi)工業(yè)互聯(lián)網(wǎng)平臺聯(lián)網(wǎng)設(shè)備頻繁遭受掃描探測和惡意程序監(jiān)測,重要敏感的工業(yè)數(shù)據(jù)時有泄露。據(jù)監(jiān)測發(fā)現(xiàn),2018年,某大型企業(yè)Web服務(wù)器存在目錄遍歷和Windows遠(yuǎn)程桌面漏洞,可被利用獲取企業(yè)內(nèi)網(wǎng)IP地址、訪問多臺數(shù)據(jù)服務(wù)器、造成大量敏感工業(yè)數(shù)據(jù)泄露;某大型工業(yè)企業(yè)多個數(shù)據(jù)庫存在未授權(quán)訪問漏洞,可被利用獲取數(shù)據(jù)庫控制權(quán)限,竊取、篡改、刪除關(guān)鍵數(shù)據(jù),影響企業(yè)正常生產(chǎn)秩序。

    4? 我國工業(yè)大數(shù)據(jù)安全保障存在的問題

    4.1 傳統(tǒng)安全防護(hù)措施難以滿足工業(yè)大數(shù)據(jù)發(fā)展需求

    工業(yè)大數(shù)據(jù)具有多態(tài)性、實時性等特征,數(shù)據(jù)種類和保護(hù)需求多樣,數(shù)據(jù)流動方向和路徑復(fù)雜,依托單點、離散的數(shù)據(jù)保護(hù)等安全防護(hù)措施難以有效保護(hù)工業(yè)大數(shù)據(jù)安全。

    從數(shù)據(jù)采集看,我國工業(yè)底層設(shè)備數(shù)字化水平不高,不同行業(yè)、企業(yè)的設(shè)備數(shù)據(jù)接口、通信協(xié)議不統(tǒng)一,在對工控系統(tǒng)等加裝數(shù)據(jù)采集設(shè)備時,難以實施有效的整體安全防護(hù)措施。

    從數(shù)據(jù)傳輸看,工業(yè)生產(chǎn)設(shè)備、傳感器、智能終端等設(shè)備產(chǎn)生的大量工業(yè)數(shù)據(jù)實時性要求高,傳統(tǒng)的高強(qiáng)度加密、同態(tài)加密等措施無法使用。以往分布式工業(yè)網(wǎng)絡(luò)數(shù)據(jù)節(jié)點之間、相關(guān)工業(yè)組件之間的數(shù)據(jù)傳輸協(xié)議封閉,缺乏加密等安全措施,難以適應(yīng)開放互聯(lián)的新形勢。

    從數(shù)據(jù)存儲看,工業(yè)各行業(yè)存在大量的本地分散式數(shù)據(jù)資源池,缺乏數(shù)據(jù)安全分類分級授權(quán)訪問機(jī)制,區(qū)域隔離措施實施難度較大。

    從數(shù)據(jù)使用看,工業(yè)大數(shù)據(jù)的源數(shù)據(jù)多維異構(gòu)、碎片化,傳統(tǒng)數(shù)據(jù)清洗與解析、真實性驗證、低擾化分析等措施難以適用。

    4.2 新技術(shù)新應(yīng)用對工業(yè)大數(shù)據(jù)安全防護(hù)提出新要求

    云計算、人工智能等新技術(shù)新應(yīng)用加速了工業(yè)大數(shù)據(jù)的流動性、復(fù)用性、迭代性,單點數(shù)據(jù)一旦被感染,就可能從局部性風(fēng)險演變成系統(tǒng)性風(fēng)險,大大提高了工業(yè)大數(shù)據(jù)安全防護(hù)難度。工業(yè)大數(shù)據(jù)平臺運用新技術(shù)開展數(shù)據(jù)集成應(yīng)用創(chuàng)新,而專門應(yīng)對新技術(shù)應(yīng)用安全風(fēng)險的解決方案還比較欠缺。平臺開發(fā)設(shè)計多采用第三方開源組件,存在漏洞等安全隱患,平臺的安全管理和認(rèn)證手段也不完備。

    4.3 企業(yè)工業(yè)大數(shù)據(jù)安全意識與防護(hù)能力薄弱

    安全意識方面,工業(yè)大數(shù)據(jù)屬于新生事物,多數(shù)工業(yè)企業(yè)既不清楚如何開展安全防護(hù)工作,也不清楚如何評估安全防護(hù)效果。同時,由于工業(yè)大數(shù)據(jù)產(chǎn)權(quán)不明晰,數(shù)據(jù)所有者和使用者分離情況普遍存在,出現(xiàn)數(shù)據(jù)安全事件后難以明確企業(yè)主體責(zé)任,客觀上也造成企業(yè)對數(shù)據(jù)安全不重視。防護(hù)能力方面,工業(yè)企業(yè)普遍缺乏數(shù)據(jù)安全管理制度,沒有專門的數(shù)據(jù)安全管理機(jī)構(gòu)和專人專崗,也不具備數(shù)據(jù)安全防護(hù)技術(shù)手段和能力,對保障數(shù)據(jù)安全力不從心。

    4.4 工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)支撐能力薄弱

    當(dāng)前,我國工業(yè)信息安全產(chǎn)業(yè)整體規(guī)模較小,工業(yè)大數(shù)據(jù)安全作為工業(yè)信息安全的重要領(lǐng)域,其安全防護(hù)、法規(guī)政策、標(biāo)準(zhǔn)等體系仍有待于進(jìn)一步完善,市場整體處于起步階段。一是工業(yè)大數(shù)據(jù)安全技術(shù)發(fā)展尚不成熟,工業(yè)敏感數(shù)據(jù)監(jiān)控與訪問控制、工業(yè)數(shù)據(jù)安全態(tài)勢感知和溯源等核心技術(shù)創(chuàng)新能力不足;二是針對工業(yè)領(lǐng)域數(shù)據(jù)安全防護(hù)需求理解不到位,尚未形成有市場競爭力的產(chǎn)品和解決方案;三是工業(yè)企業(yè)和工業(yè)互聯(lián)網(wǎng)平臺企業(yè)的工業(yè)大數(shù)據(jù)安全防護(hù)意識不足,市場需求沒有充分釋放;四是國內(nèi)專注工業(yè)大數(shù)據(jù)安全產(chǎn)品和解決方案的企業(yè)稀缺,只有極少數(shù)的數(shù)據(jù)安全企業(yè)在工業(yè)領(lǐng)域開展應(yīng)用。

    4.5 工業(yè)大數(shù)據(jù)安全頂層設(shè)計有待完善

    工業(yè)大數(shù)據(jù)安全法規(guī)政策亟需完善?!吨腥A人民共和國網(wǎng)絡(luò)安全法》雖然規(guī)定了數(shù)據(jù)保護(hù)的原則性法律要求,但缺乏配套法規(guī)和細(xì)則,在工業(yè)大數(shù)據(jù)安全防護(hù)工作中缺乏專門的法規(guī)和政策依據(jù)。同時,工業(yè)大數(shù)據(jù)需要實施分級監(jiān)管和差異化安全防護(hù),目前國家尚未制定統(tǒng)一的分級分類管理指南等規(guī)范性文件。

    工業(yè)大數(shù)據(jù)安全管理機(jī)制尚未建立。工業(yè)大數(shù)據(jù)安全監(jiān)管組織體系不健全,國家層面缺乏專門的工業(yè)大數(shù)據(jù)安全管理機(jī)構(gòu),上下聯(lián)動、協(xié)調(diào)配合的工業(yè)大數(shù)據(jù)安全監(jiān)管工作機(jī)制還未建立,安全保障力量亟待加強(qiáng)。

    5 加強(qiáng)工業(yè)大數(shù)據(jù)安全的對策建議

    5.1 加強(qiáng)頂層設(shè)計,落實工業(yè)大數(shù)據(jù)安全主體責(zé)任

    研究制定工業(yè)數(shù)據(jù)安全保護(hù)政策,明確工作原則、工作目標(biāo)、重點任務(wù)、實施路徑以及保障措施。出臺工業(yè)數(shù)據(jù)相關(guān)管理辦法,嚴(yán)格規(guī)范工業(yè)數(shù)據(jù)的收集、加工、使用、存儲、銷毀、交易、出境等行為,明確工業(yè)大數(shù)據(jù)管理者和運營者的責(zé)任和義務(wù)。以工業(yè)大數(shù)據(jù)生命周期各個環(huán)節(jié)安全需求為導(dǎo)向,建立并完善工業(yè)大數(shù)據(jù)安全標(biāo)準(zhǔn)體系。緊急先行,突出重點,建立工業(yè)大數(shù)據(jù)安全重點試點示范工程,大力推進(jìn)相關(guān)政策法規(guī)、標(biāo)準(zhǔn)規(guī)范的實施。

    5.2 堅持分類分級管理,持續(xù)推進(jìn)工業(yè)數(shù)據(jù)分類分級試點工作

    加強(qiáng)工業(yè)數(shù)據(jù)分類分級研究,出臺工業(yè)大數(shù)據(jù)分類分級指導(dǎo)性文件,建立數(shù)據(jù)差異化保護(hù)機(jī)制,進(jìn)一步明確工業(yè)大數(shù)據(jù)分類定級的原則和方法,理清各類各級數(shù)據(jù)的安全責(zé)任和監(jiān)管層級,規(guī)范不同級別工業(yè)數(shù)據(jù)的安全要求。制定工業(yè)數(shù)據(jù)分類分級試點工作計劃,建立政府和企業(yè)密切配合的工作機(jī)制,落實企業(yè)工業(yè)數(shù)據(jù)安全管理主體責(zé)任,充分發(fā)揮各方優(yōu)勢,持續(xù)做好工業(yè)數(shù)據(jù)分類分級試點工作。

    5.3 強(qiáng)化技術(shù)手段建設(shè),構(gòu)建工業(yè)大數(shù)據(jù)安全保障技術(shù)體系

    建設(shè)重要工業(yè)敏感數(shù)據(jù)監(jiān)測平臺,在企業(yè)互聯(lián)網(wǎng)出入口、企業(yè)內(nèi)部網(wǎng)絡(luò)重要節(jié)點等重要部位部署探針和數(shù)據(jù)檢測引擎,實現(xiàn)對工業(yè)大數(shù)據(jù)運行的實時監(jiān)測。建設(shè)工業(yè)數(shù)據(jù)跨境監(jiān)測平臺,在電信運營商、工業(yè)互聯(lián)網(wǎng)平臺的出入口等部位部署數(shù)據(jù)采集探針,對各類工業(yè)跨境數(shù)據(jù)實行監(jiān)控。完善風(fēng)險預(yù)警機(jī)制,建立統(tǒng)一高效、協(xié)同聯(lián)動的網(wǎng)絡(luò)安全風(fēng)險報告、情報共享和研判處置體系。制定安全事件應(yīng)急預(yù)案,加強(qiáng)重要信息系統(tǒng)災(zāi)備體系建設(shè),提升工業(yè)大數(shù)據(jù)應(yīng)急處置和災(zāi)備恢復(fù)能力。構(gòu)建工業(yè)大數(shù)據(jù)安全評估體系,做好平臺、應(yīng)用、服務(wù)的可靠性、安全性評測以及安全風(fēng)險評估。

    5.4 提升安全意識,完善企業(yè)工業(yè)大數(shù)據(jù)安全管理制度

    工業(yè)企業(yè)定期組織開展一線從業(yè)人員網(wǎng)絡(luò)安全培訓(xùn),增強(qiáng)全員網(wǎng)絡(luò)安全意識。強(qiáng)化對重要崗位、重要部位管理技術(shù)人員的技能培訓(xùn),提升網(wǎng)絡(luò)安全基礎(chǔ)知識和防護(hù)技能水平。根據(jù)單位和崗位的性質(zhì),成立相應(yīng)的工業(yè)數(shù)據(jù)安全管理部門或團(tuán)隊,建立并落實工業(yè)大數(shù)據(jù)安全管理責(zé)任制。根據(jù)工業(yè)數(shù)據(jù)的類別和級別,制定配套的安全制度、管理規(guī)范和操作規(guī)程,實施相應(yīng)的安全管理策略和措施。

    5.5 促進(jìn)產(chǎn)業(yè)發(fā)展,培育工業(yè)大數(shù)據(jù)安全龍頭骨干企業(yè)

    在國家新型工業(yè)化產(chǎn)業(yè)示范基地(工業(yè)信息安全)建設(shè)中,支持工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展,采取資金扶持、稅收優(yōu)惠、綠色通道等措施,支持工業(yè)大數(shù)據(jù)安全態(tài)勢感知、監(jiān)測預(yù)警、數(shù)據(jù)加密、數(shù)據(jù)留痕、數(shù)據(jù)溯源等新技術(shù)、新應(yīng)用、新產(chǎn)品、新服務(wù)的研發(fā)、測試、認(rèn)證和商業(yè)應(yīng)用,打造一批以工業(yè)大數(shù)據(jù)為核心業(yè)務(wù)的龍頭骨干企業(yè)。凝聚政府、企業(yè)、協(xié)會、科研院所等多方力量,充分整合行業(yè)優(yōu)質(zhì)資源,組建技術(shù)和市場聯(lián)盟,實現(xiàn)“抱團(tuán)發(fā)展”,打造協(xié)調(diào)發(fā)展的工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)生態(tài)系統(tǒng)。

    6 結(jié)束語

    工業(yè)大數(shù)據(jù)可簡略分為內(nèi)部數(shù)據(jù)和外部數(shù)據(jù)兩大類,其除了具有傳統(tǒng)大數(shù)據(jù)的特點外,還具有多態(tài)性、實時性、閉環(huán)性、級聯(lián)性、更具價值屬性以及更具產(chǎn)權(quán)屬性六大典型特征,在采集、存儲、處理、分析等數(shù)據(jù)全生命周期環(huán)節(jié)上都與傳統(tǒng)大數(shù)據(jù)有較大區(qū)別。當(dāng)前,工業(yè)大數(shù)據(jù)面臨嚴(yán)峻的安全形勢,工業(yè)大數(shù)據(jù)已成為網(wǎng)絡(luò)攻擊重點目標(biāo),極易引發(fā)系統(tǒng)性風(fēng)險。在全球工業(yè)數(shù)據(jù)泄漏事件頻發(fā)的背景下,我國傳統(tǒng)防護(hù)措施難以適用、新技術(shù)新應(yīng)用風(fēng)險難以應(yīng)對、安全意識和防護(hù)能力薄弱、安全產(chǎn)業(yè)支撐能力薄弱、安全頂層設(shè)計不完善等問題日益突出。對此,應(yīng)該從頂層設(shè)計完善、工業(yè)數(shù)據(jù)分類分級管理、技術(shù)手段建設(shè)、安全意識提升以及安全產(chǎn)業(yè)發(fā)展幾個方面發(fā)力,大力提升我國工業(yè)大數(shù)據(jù)安全防護(hù)水平。

    參考文獻(xiàn)

    [1] 陸泉,張良韜.處理流程視角下的大數(shù)據(jù)技術(shù)發(fā)展現(xiàn)狀與趨勢[J].信息資源管理學(xué)報,2017(4):19-30.

    [2] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院,全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)標(biāo)準(zhǔn)工作組,等.工業(yè)大數(shù)據(jù)白皮書[R].中國電子技術(shù)標(biāo)準(zhǔn)化研究院和全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)標(biāo)準(zhǔn)工作組,2019.

    [3] Verizon.2018 Data Breach Investigations Report[R].USA:Verizon,2018.

    [4] 國家工業(yè)信息安全發(fā)展研究中心.工信安全智庫研判系列報告:2018年度工業(yè)信息安全形勢分析[R].國家工業(yè)信息安全發(fā)展研究中心,2019.

    [5] 工業(yè)互聯(lián)網(wǎng)平臺“混戰(zhàn)”數(shù)據(jù)安全問題待破解[EB/OL].http://www.cinic.org.cn/xw/cjyj/487955.html,2019-04-15.

    [6] 59萬臺重點工業(yè)互聯(lián)網(wǎng)平臺平均設(shè)備連接數(shù)(數(shù)讀)[EB/OL]. http://finance.people.com.cn/bank/n1/2019/0403/c1004-31010208.html,2019-04-03.

    1 引言

    黨中央、國務(wù)院高度重視數(shù)據(jù)安全。黨的十九大報告指出,“堅持總體國家安全觀”“堅決維護(hù)國家主權(quán)、安全、發(fā)展利益”。2017年12月,總書記在主持實施國家大數(shù)據(jù)戰(zhàn)略第二次集體學(xué)習(xí)時提出,要“推動實施國家大數(shù)據(jù)戰(zhàn)略”“切實保障國家數(shù)據(jù)安全”“強(qiáng)化國家關(guān)鍵數(shù)據(jù)資源保護(hù)能力,增強(qiáng)數(shù)據(jù)安全預(yù)警和溯源能力”。同時,近年來國家相繼出臺了《中華人民共和國網(wǎng)絡(luò)安全法》《國家網(wǎng)絡(luò)空間安全戰(zhàn)略》《促進(jìn)大數(shù)據(jù)發(fā)展行動綱要》《深化“互聯(lián)網(wǎng)+先進(jìn)制造業(yè)”發(fā)展工業(yè)互聯(lián)網(wǎng)的指導(dǎo)意見》等法規(guī)、戰(zhàn)略、規(guī)劃文件,提出了一系列加強(qiáng)數(shù)據(jù)安全的相關(guān)舉措,為工業(yè)大數(shù)據(jù)安全工作提供了重要依據(jù)。

    工業(yè)大數(shù)據(jù)泛指工業(yè)領(lǐng)域產(chǎn)生、采集、傳輸、處理、使用的海量數(shù)據(jù),已成為提升制造業(yè)生產(chǎn)力、競爭力、創(chuàng)新力的關(guān)鍵要素,是驅(qū)動工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的引擎。隨著世界各國積極推動工業(yè)大數(shù)據(jù)發(fā)展,全球工業(yè)大數(shù)據(jù)相關(guān)技術(shù)產(chǎn)業(yè)得到快速發(fā)展。與此同時,工業(yè)大數(shù)據(jù)安全形勢十分嚴(yán)峻,我國工業(yè)大數(shù)據(jù)安全還存在頂層設(shè)計不完善、責(zé)任落實不到位、技術(shù)手段缺乏、產(chǎn)業(yè)支撐能力薄弱等突出問題,加快提升工業(yè)大數(shù)據(jù)安全保障能力迫在眉睫。

    2? 工業(yè)大數(shù)據(jù)的內(nèi)涵

    隨著工業(yè)互聯(lián)網(wǎng)、智能制造、物聯(lián)網(wǎng)等創(chuàng)新應(yīng)用的深入發(fā)展,以及云計算、大數(shù)據(jù)、人工智能等新一代信息技術(shù)的廣泛應(yīng)用,世界各國紛紛將推進(jìn)經(jīng)濟(jì)數(shù)字化作為實現(xiàn)創(chuàng)新發(fā)展的重要動能,大力推動制造業(yè)數(shù)字化、網(wǎng)絡(luò)化、智能化,工業(yè)領(lǐng)域的數(shù)據(jù)得到高速規(guī)?;鲩L。工業(yè)大數(shù)據(jù)驅(qū)動生產(chǎn)過程、產(chǎn)品、服務(wù)、業(yè)態(tài)等朝著智能化方向發(fā)展,為工業(yè)轉(zhuǎn)型升級和構(gòu)建智能制造產(chǎn)業(yè)生態(tài)提供重要支撐,對推動實施制造強(qiáng)國和網(wǎng)絡(luò)強(qiáng)國戰(zhàn)略具有重要意義。當(dāng)前,數(shù)據(jù)掌握的多寡和分析處理能力的高低,已成為國家軟實力和競爭力的重要標(biāo)志,誰主導(dǎo)了大數(shù)據(jù)資源和技術(shù),誰就掌握了主動權(quán)。工業(yè)互聯(lián)網(wǎng)作為新一代信息技術(shù)與工業(yè)深度融合的產(chǎn)物,正在構(gòu)建新的網(wǎng)絡(luò)架構(gòu)體系、技術(shù)體系和數(shù)據(jù)資源體系,而工業(yè)大數(shù)據(jù)是驅(qū)動工業(yè)互聯(lián)網(wǎng)創(chuàng)新發(fā)展的引擎,是工業(yè)智能化的關(guān)鍵,是建設(shè)現(xiàn)代化經(jīng)濟(jì)體系的重要基石。

    2.1 概念

    工業(yè)大數(shù)據(jù)主要指工業(yè)領(lǐng)域在業(yè)務(wù)活動和過程中所產(chǎn)生、采集、處理、存儲、傳輸和使用的海量數(shù)據(jù)的綜合。從來源上可粗略分為內(nèi)部數(shù)據(jù)和外部數(shù)據(jù)兩大類。內(nèi)部數(shù)據(jù)主要指來自工廠內(nèi)部的數(shù)據(jù),主要包括生產(chǎn)經(jīng)營業(yè)務(wù)數(shù)據(jù)和機(jī)器設(shè)備數(shù)據(jù)。其中,生產(chǎn)經(jīng)營業(yè)務(wù)數(shù)據(jù)是指工業(yè)企業(yè)在傳統(tǒng)信息化應(yīng)用過程中,包括傳統(tǒng)工業(yè)設(shè)計和制造類軟件、企業(yè)資源計劃(ERP)、產(chǎn)品生命周期管理(PLM)、供應(yīng)鏈管理(SCM)、客戶關(guān)系管理(CRM)和環(huán)境管理系統(tǒng)(EMS)等,所產(chǎn)生、采集、存儲的產(chǎn)品研發(fā)數(shù)據(jù)、生產(chǎn)性數(shù)據(jù)、經(jīng)營性數(shù)據(jù)、客戶信息數(shù)據(jù)、物流供應(yīng)數(shù)據(jù)及環(huán)境數(shù)據(jù)等。機(jī)器設(shè)備數(shù)據(jù)主要指工業(yè)生產(chǎn)設(shè)備、機(jī)器、控制系統(tǒng)等實時產(chǎn)生、采集的涵蓋操作和運行情況、工況狀態(tài)、環(huán)境參數(shù)等體現(xiàn)設(shè)備和產(chǎn)品運行狀態(tài)的數(shù)據(jù)。外部數(shù)據(jù)主要指來源于工廠外部的數(shù)據(jù),主要包括來自市場、客戶、政府、供應(yīng)鏈等外部環(huán)境的信息和數(shù)據(jù)。

    2.2 特征

    工業(yè)大數(shù)據(jù)除了擁有傳統(tǒng)大數(shù)據(jù)的“4V”特征,即規(guī)模性(Volume)、多樣性(Varity)、高速性(Velocity)和價值性(Value)外,還有六個典型特征。

    (1)多態(tài)性:工業(yè)大數(shù)據(jù)種類多樣,既包括概念設(shè)計、詳細(xì)設(shè)計、制造工藝、包裝運輸?shù)葮I(yè)務(wù)數(shù)據(jù),還涉及服務(wù)保障階段的運行狀態(tài)、維修計劃、服務(wù)評價等數(shù)據(jù)。

    (2)實時性:工業(yè)大數(shù)據(jù)主要來源于生產(chǎn)制造和產(chǎn)品運維等環(huán)節(jié),生產(chǎn)線、設(shè)備、儀器等均要求高速運轉(zhuǎn),在數(shù)據(jù)采集頻率、數(shù)據(jù)處理、數(shù)據(jù)分析、異常發(fā)現(xiàn)和應(yīng)對等方面均具有很高的實時性要求。

    (3)閉環(huán)性:既包括產(chǎn)品全生命周期橫向過程的數(shù)據(jù)鏈條,還包括智能制造縱向數(shù)據(jù)采集和處理過程中的所有數(shù)據(jù)。以此來支撐狀態(tài)感知、分析、反饋、控制等閉環(huán)場景下的動態(tài)持續(xù)調(diào)整和優(yōu)化。其中,橫向數(shù)據(jù)鏈條包括產(chǎn)品研發(fā)、生產(chǎn)、發(fā)布、使用、運維、更新、報廢等過程中的數(shù)據(jù);縱向數(shù)據(jù)鏈條包括生產(chǎn)管理層、過程監(jiān)控層、工業(yè)控制層、現(xiàn)場設(shè)備層等各層級采集和處理的數(shù)據(jù)。

    (4)級聯(lián)性:工業(yè)產(chǎn)品生命周期的設(shè)計、制造、服務(wù)等不同環(huán)節(jié)的數(shù)據(jù)之間需要進(jìn)行關(guān)聯(lián),一旦某一環(huán)節(jié)的數(shù)據(jù)泄露或被篡改,極有可能導(dǎo)致級聯(lián)破壞,造成大規(guī)模影響。

    (5)更具價值屬性:相比傳統(tǒng)大數(shù)據(jù),工業(yè)大數(shù)據(jù)更加強(qiáng)調(diào)用戶價值驅(qū)動和數(shù)據(jù)本身的可用性,利用工業(yè)大數(shù)據(jù)可以提升創(chuàng)新能力和生產(chǎn)經(jīng)營效率,以及促進(jìn)個性化定制、服務(wù)化轉(zhuǎn)型等智能制造新模式變革。

    (6)更具產(chǎn)權(quán)屬性:工業(yè)大數(shù)據(jù)產(chǎn)生于企業(yè)實際生產(chǎn)經(jīng)營過程,依附于企業(yè)的設(shè)備設(shè)施、資源物料、業(yè)務(wù)系統(tǒng)等載體。對企業(yè)而言,這些數(shù)據(jù)更具有明確的產(chǎn)權(quán)屬性,企業(yè)擁有對這些數(shù)據(jù)的掌控能力,能夠決定具體數(shù)據(jù)的具體使用方式,數(shù)據(jù)產(chǎn)權(quán)屬性明顯高于個人用戶。

    2.3 與傳統(tǒng)大數(shù)據(jù)的區(qū)別

    相較傳統(tǒng)大數(shù)據(jù),工業(yè)大數(shù)據(jù)在采集、存儲、處理、分析等數(shù)據(jù)全生命周期環(huán)節(jié)上主要存在的區(qū)別如表1所示。

    3 工業(yè)大數(shù)據(jù)面臨的安全形勢

    隨著工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、大數(shù)據(jù)等新型信息技術(shù)的發(fā)展和普及,IT技術(shù)與OT技術(shù)深度融合,工業(yè)體系正在由封閉走向開放,工業(yè)終端聯(lián)網(wǎng)程度不斷加深,大量工業(yè)控制系統(tǒng)和設(shè)備暴露在互聯(lián)網(wǎng)上,工業(yè)大數(shù)據(jù)面臨傳統(tǒng)網(wǎng)絡(luò)威脅和工業(yè)互聯(lián)網(wǎng)安全風(fēng)險“雙重壓力”,安全形勢愈發(fā)嚴(yán)峻復(fù)雜。

    3.1 工業(yè)大數(shù)據(jù)具有較高戰(zhàn)略價值,已成為黑客攻擊的重點目標(biāo)

    工業(yè)大數(shù)據(jù)涉及生產(chǎn)工藝、參數(shù)、流程等,依附于企業(yè)設(shè)備設(shè)施、工業(yè)軟件和信息系統(tǒng),是工業(yè)企業(yè)在長期生產(chǎn)實踐中形成的關(guān)鍵戰(zhàn)略資源,已成為企業(yè)的生命線,一旦被泄露、竊取、篡改或者損毀,將可能導(dǎo)致生產(chǎn)中斷、造成重大經(jīng)濟(jì)損失、威脅人員生命安全,甚至影響到企業(yè)的發(fā)展和存亡。正是由于工業(yè)大數(shù)據(jù)蘊(yùn)含巨大的商業(yè)價值,攻擊者將目標(biāo)瞄準(zhǔn)工業(yè)數(shù)據(jù),通過非法入侵、勒索病毒、網(wǎng)絡(luò)釣魚等方式,針對工業(yè)控制系統(tǒng)、工業(yè)軟件、工業(yè)主機(jī)、工業(yè)互聯(lián)網(wǎng)平臺發(fā)動攻擊,旨在對工業(yè)數(shù)據(jù)進(jìn)行加密或者非法控制以截取商業(yè)機(jī)密和巨額經(jīng)濟(jì)利益。

    裝備制造、冶金、化工、能源等關(guān)鍵行業(yè)領(lǐng)域的工業(yè)數(shù)據(jù)是國家工業(yè)化、信息化的重要積累,是關(guān)乎經(jīng)濟(jì)運行、社會穩(wěn)定和國家安全的基礎(chǔ)性戰(zhàn)略資源。工業(yè)大數(shù)據(jù)安全事件一旦發(fā)生,可能導(dǎo)致系統(tǒng)故障、設(shè)備損壞,生產(chǎn)停滯,使企業(yè)乃至行業(yè)蒙受巨額損失,甚至可能造成生態(tài)環(huán)境破壞,危及人民群眾生命財產(chǎn)安全,引發(fā)社會動蕩。一些具有國家或者軍方背景的黑客組織,可以通過對工業(yè)大數(shù)據(jù)進(jìn)行有針對性的非法訪問、權(quán)限控制、銷毀或者竊取等攻擊活動,達(dá)到控制或者破壞國民經(jīng)濟(jì)命脈的目的。

    3.2 工業(yè)大數(shù)據(jù)云端匯聚,局部風(fēng)險易演變成系統(tǒng)性風(fēng)險

    近年來,工業(yè)互聯(lián)網(wǎng)快速發(fā)展,工業(yè)企業(yè)加速上云。數(shù)據(jù)顯示,中國國內(nèi)至少涌現(xiàn)出269個工業(yè)互聯(lián)網(wǎng)平臺類產(chǎn)品,全國近20個省市出臺了推動企業(yè)上云的相關(guān)政策。隨著工業(yè)企業(yè)核心業(yè)務(wù)系統(tǒng)的不斷向云端遷移,工業(yè)企業(yè)內(nèi)部關(guān)鍵數(shù)據(jù)也在工業(yè)云平臺上高密度聚合。據(jù)統(tǒng)計,我國重點工業(yè)互聯(lián)網(wǎng)平臺平均工業(yè)設(shè)備連接數(shù)達(dá)到59萬臺,工業(yè)APP平均1500多個,注冊戶數(shù)平均超過50萬戶。工業(yè)數(shù)據(jù)從企業(yè)設(shè)備層到平臺運用層一體化貫通的過程中,有大量的各種API接口開放,加之云服務(wù)具有分布式、開放化的特性,極大地擴(kuò)大了工業(yè)數(shù)據(jù)的受攻擊面。當(dāng)前,工業(yè)云平臺曝出的漏洞日益增多,且大量集中在裝備制造、交通、能源等重要領(lǐng)域,單點數(shù)據(jù)風(fēng)險很可能演變成系統(tǒng)性風(fēng)險。一旦黑客攻擊事件發(fā)生,極易引發(fā)大規(guī)模工業(yè)數(shù)據(jù)泄露、篡改和銷毀等重大安全事件,甚至產(chǎn)生級聯(lián)性的嚴(yán)重后果。

    2018年1月,谷歌安全團(tuán)隊披露“熔斷”(Meltdown)和“幽靈”(Spectre)漏洞,漏洞利用CPU芯片硬件層面亂序執(zhí)行機(jī)制的缺陷,使得低權(quán)限的惡意訪問者可以突破內(nèi)存隔離,發(fā)動側(cè)信道攻擊。在未被許可的情況下讀取同一系統(tǒng)中的其它進(jìn)程或同一主機(jī)上其它虛擬機(jī)內(nèi)存中的敏感信息,包括密碼、賬戶信息、加密密鑰或理論上存儲在內(nèi)核內(nèi)存中的任何內(nèi)容,嚴(yán)重影響了英特爾、美國超微半導(dǎo)體公司等廠商生產(chǎn)的主流中央處理器;思科800系列集成多業(yè)務(wù)路由器和工業(yè)以太網(wǎng)4000系列交換機(jī)、西門子工業(yè)設(shè)備以及部分工業(yè)互聯(lián)網(wǎng)平臺和云服務(wù)平臺也受到影響,工業(yè)數(shù)據(jù)存在泄露風(fēng)險。2018年7月,加拿大汽車服務(wù)供應(yīng)商Level One的公共服務(wù)器發(fā)生數(shù)據(jù)泄露,大眾、克萊斯勒、福特、通用、特斯拉等100多家車企超過157GB、47000份文件遭到曝光,泄露內(nèi)容包含多家汽車制造商大量產(chǎn)品設(shè)計原理圖、裝配線原理圖、工廠平面圖、采購合同等工業(yè)數(shù)據(jù)。

    3.3 全球工業(yè)數(shù)據(jù)泄露事件頻發(fā),我國工業(yè)大數(shù)據(jù)安全問題日益凸顯

    據(jù)威瑞森公司統(tǒng)計,2018年,全球制造業(yè)數(shù)據(jù)泄露事件536起,行業(yè)排名第6,其中涉及大型企業(yè)事件375起。對這些事件及其泄露數(shù)據(jù)的深入分析發(fā)現(xiàn)兩方面問題。一方面,針對制造業(yè)的網(wǎng)絡(luò)攻擊針對性極強(qiáng),其中網(wǎng)絡(luò)間諜活動成為制造業(yè)數(shù)據(jù)泄露最大的威脅,有國家背景的攻擊占比較高。制造業(yè)領(lǐng)域的攻擊事件86%具有明確的針對性,遠(yuǎn)高于零售、金融、保險、住宿和食品等行業(yè),47%的網(wǎng)絡(luò)攻擊屬于間諜活動,而53%的攻擊背后存在著國家的支持。另一方面,泄露數(shù)據(jù)多為企業(yè)重要敏感數(shù)據(jù)。泄露數(shù)據(jù)中,有超過60%是重要工業(yè)數(shù)據(jù),包括商業(yè)秘密、身份數(shù)據(jù)、系統(tǒng)數(shù)據(jù)、數(shù)字憑證、財務(wù)收支等數(shù)據(jù)類型。

    我國工業(yè)數(shù)據(jù)也存在安全隱患。近年來,我國境內(nèi)工業(yè)互聯(lián)網(wǎng)平臺聯(lián)網(wǎng)設(shè)備頻繁遭受掃描探測和惡意程序監(jiān)測,重要敏感的工業(yè)數(shù)據(jù)時有泄露。據(jù)監(jiān)測發(fā)現(xiàn),2018年,某大型企業(yè)Web服務(wù)器存在目錄遍歷和Windows遠(yuǎn)程桌面漏洞,可被利用獲取企業(yè)內(nèi)網(wǎng)IP地址、訪問多臺數(shù)據(jù)服務(wù)器、造成大量敏感工業(yè)數(shù)據(jù)泄露;某大型工業(yè)企業(yè)多個數(shù)據(jù)庫存在未授權(quán)訪問漏洞,可被利用獲取數(shù)據(jù)庫控制權(quán)限,竊取、篡改、刪除關(guān)鍵數(shù)據(jù),影響企業(yè)正常生產(chǎn)秩序。

    4? 我國工業(yè)大數(shù)據(jù)安全保障存在的問題

    4.1 傳統(tǒng)安全防護(hù)措施難以滿足工業(yè)大數(shù)據(jù)發(fā)展需求

    工業(yè)大數(shù)據(jù)具有多態(tài)性、實時性等特征,數(shù)據(jù)種類和保護(hù)需求多樣,數(shù)據(jù)流動方向和路徑復(fù)雜,依托單點、離散的數(shù)據(jù)保護(hù)等安全防護(hù)措施難以有效保護(hù)工業(yè)大數(shù)據(jù)安全。

    從數(shù)據(jù)采集看,我國工業(yè)底層設(shè)備數(shù)字化水平不高,不同行業(yè)、企業(yè)的設(shè)備數(shù)據(jù)接口、通信協(xié)議不統(tǒng)一,在對工控系統(tǒng)等加裝數(shù)據(jù)采集設(shè)備時,難以實施有效的整體安全防護(hù)措施。

    從數(shù)據(jù)傳輸看,工業(yè)生產(chǎn)設(shè)備、傳感器、智能終端等設(shè)備產(chǎn)生的大量工業(yè)數(shù)據(jù)實時性要求高,傳統(tǒng)的高強(qiáng)度加密、同態(tài)加密等措施無法使用。以往分布式工業(yè)網(wǎng)絡(luò)數(shù)據(jù)節(jié)點之間、相關(guān)工業(yè)組件之間的數(shù)據(jù)傳輸協(xié)議封閉,缺乏加密等安全措施,難以適應(yīng)開放互聯(lián)的新形勢。

    從數(shù)據(jù)存儲看,工業(yè)各行業(yè)存在大量的本地分散式數(shù)據(jù)資源池,缺乏數(shù)據(jù)安全分類分級授權(quán)訪問機(jī)制,區(qū)域隔離措施實施難度較大。

    從數(shù)據(jù)使用看,工業(yè)大數(shù)據(jù)的源數(shù)據(jù)多維異構(gòu)、碎片化,傳統(tǒng)數(shù)據(jù)清洗與解析、真實性驗證、低擾化分析等措施難以適用。

    4.2 新技術(shù)新應(yīng)用對工業(yè)大數(shù)據(jù)安全防護(hù)提出新要求

    云計算、人工智能等新技術(shù)新應(yīng)用加速了工業(yè)大數(shù)據(jù)的流動性、復(fù)用性、迭代性,單點數(shù)據(jù)一旦被感染,就可能從局部性風(fēng)險演變成系統(tǒng)性風(fēng)險,大大提高了工業(yè)大數(shù)據(jù)安全防護(hù)難度。工業(yè)大數(shù)據(jù)平臺運用新技術(shù)開展數(shù)據(jù)集成應(yīng)用創(chuàng)新,而專門應(yīng)對新技術(shù)應(yīng)用安全風(fēng)險的解決方案還比較欠缺。平臺開發(fā)設(shè)計多采用第三方開源組件,存在漏洞等安全隱患,平臺的安全管理和認(rèn)證手段也不完備。

    4.3 企業(yè)工業(yè)大數(shù)據(jù)安全意識與防護(hù)能力薄弱

    安全意識方面,工業(yè)大數(shù)據(jù)屬于新生事物,多數(shù)工業(yè)企業(yè)既不清楚如何開展安全防護(hù)工作,也不清楚如何評估安全防護(hù)效果。同時,由于工業(yè)大數(shù)據(jù)產(chǎn)權(quán)不明晰,數(shù)據(jù)所有者和使用者分離情況普遍存在,出現(xiàn)數(shù)據(jù)安全事件后難以明確企業(yè)主體責(zé)任,客觀上也造成企業(yè)對數(shù)據(jù)安全不重視。防護(hù)能力方面,工業(yè)企業(yè)普遍缺乏數(shù)據(jù)安全管理制度,沒有專門的數(shù)據(jù)安全管理機(jī)構(gòu)和專人專崗,也不具備數(shù)據(jù)安全防護(hù)技術(shù)手段和能力,對保障數(shù)據(jù)安全力不從心。

    4.4 工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)支撐能力薄弱

    當(dāng)前,我國工業(yè)信息安全產(chǎn)業(yè)整體規(guī)模較小,工業(yè)大數(shù)據(jù)安全作為工業(yè)信息安全的重要領(lǐng)域,其安全防護(hù)、法規(guī)政策、標(biāo)準(zhǔn)等體系仍有待于進(jìn)一步完善,市場整體處于起步階段。一是工業(yè)大數(shù)據(jù)安全技術(shù)發(fā)展尚不成熟,工業(yè)敏感數(shù)據(jù)監(jiān)控與訪問控制、工業(yè)數(shù)據(jù)安全態(tài)勢感知和溯源等核心技術(shù)創(chuàng)新能力不足;二是針對工業(yè)領(lǐng)域數(shù)據(jù)安全防護(hù)需求理解不到位,尚未形成有市場競爭力的產(chǎn)品和解決方案;三是工業(yè)企業(yè)和工業(yè)互聯(lián)網(wǎng)平臺企業(yè)的工業(yè)大數(shù)據(jù)安全防護(hù)意識不足,市場需求沒有充分釋放;四是國內(nèi)專注工業(yè)大數(shù)據(jù)安全產(chǎn)品和解決方案的企業(yè)稀缺,只有極少數(shù)的數(shù)據(jù)安全企業(yè)在工業(yè)領(lǐng)域開展應(yīng)用。

    4.5 工業(yè)大數(shù)據(jù)安全頂層設(shè)計有待完善

    工業(yè)大數(shù)據(jù)安全法規(guī)政策亟需完善?!吨腥A人民共和國網(wǎng)絡(luò)安全法》雖然規(guī)定了數(shù)據(jù)保護(hù)的原則性法律要求,但缺乏配套法規(guī)和細(xì)則,在工業(yè)大數(shù)據(jù)安全防護(hù)工作中缺乏專門的法規(guī)和政策依據(jù)。同時,工業(yè)大數(shù)據(jù)需要實施分級監(jiān)管和差異化安全防護(hù),目前國家尚未制定統(tǒng)一的分級分類管理指南等規(guī)范性文件。

    工業(yè)大數(shù)據(jù)安全管理機(jī)制尚未建立。工業(yè)大數(shù)據(jù)安全監(jiān)管組織體系不健全,國家層面缺乏專門的工業(yè)大數(shù)據(jù)安全管理機(jī)構(gòu),上下聯(lián)動、協(xié)調(diào)配合的工業(yè)大數(shù)據(jù)安全監(jiān)管工作機(jī)制還未建立,安全保障力量亟待加強(qiáng)。

    5 加強(qiáng)工業(yè)大數(shù)據(jù)安全的對策建議

    5.1 加強(qiáng)頂層設(shè)計,落實工業(yè)大數(shù)據(jù)安全主體責(zé)任

    研究制定工業(yè)數(shù)據(jù)安全保護(hù)政策,明確工作原則、工作目標(biāo)、重點任務(wù)、實施路徑以及保障措施。出臺工業(yè)數(shù)據(jù)相關(guān)管理辦法,嚴(yán)格規(guī)范工業(yè)數(shù)據(jù)的收集、加工、使用、存儲、銷毀、交易、出境等行為,明確工業(yè)大數(shù)據(jù)管理者和運營者的責(zé)任和義務(wù)。以工業(yè)大數(shù)據(jù)生命周期各個環(huán)節(jié)安全需求為導(dǎo)向,建立并完善工業(yè)大數(shù)據(jù)安全標(biāo)準(zhǔn)體系。緊急先行,突出重點,建立工業(yè)大數(shù)據(jù)安全重點試點示范工程,大力推進(jìn)相關(guān)政策法規(guī)、標(biāo)準(zhǔn)規(guī)范的實施。

    5.2 堅持分類分級管理,持續(xù)推進(jìn)工業(yè)數(shù)據(jù)分類分級試點工作

    加強(qiáng)工業(yè)數(shù)據(jù)分類分級研究,出臺工業(yè)大數(shù)據(jù)分類分級指導(dǎo)性文件,建立數(shù)據(jù)差異化保護(hù)機(jī)制,進(jìn)一步明確工業(yè)大數(shù)據(jù)分類定級的原則和方法,理清各類各級數(shù)據(jù)的安全責(zé)任和監(jiān)管層級,規(guī)范不同級別工業(yè)數(shù)據(jù)的安全要求。制定工業(yè)數(shù)據(jù)分類分級試點工作計劃,建立政府和企業(yè)密切配合的工作機(jī)制,落實企業(yè)工業(yè)數(shù)據(jù)安全管理主體責(zé)任,充分發(fā)揮各方優(yōu)勢,持續(xù)做好工業(yè)數(shù)據(jù)分類分級試點工作。

    5.3 強(qiáng)化技術(shù)手段建設(shè),構(gòu)建工業(yè)大數(shù)據(jù)安全保障技術(shù)體系

    建設(shè)重要工業(yè)敏感數(shù)據(jù)監(jiān)測平臺,在企業(yè)互聯(lián)網(wǎng)出入口、企業(yè)內(nèi)部網(wǎng)絡(luò)重要節(jié)點等重要部位部署探針和數(shù)據(jù)檢測引擎,實現(xiàn)對工業(yè)大數(shù)據(jù)運行的實時監(jiān)測。建設(shè)工業(yè)數(shù)據(jù)跨境監(jiān)測平臺,在電信運營商、工業(yè)互聯(lián)網(wǎng)平臺的出入口等部位部署數(shù)據(jù)采集探針,對各類工業(yè)跨境數(shù)據(jù)實行監(jiān)控。完善風(fēng)險預(yù)警機(jī)制,建立統(tǒng)一高效、協(xié)同聯(lián)動的網(wǎng)絡(luò)安全風(fēng)險報告、情報共享和研判處置體系。制定安全事件應(yīng)急預(yù)案,加強(qiáng)重要信息系統(tǒng)災(zāi)備體系建設(shè),提升工業(yè)大數(shù)據(jù)應(yīng)急處置和災(zāi)備恢復(fù)能力。構(gòu)建工業(yè)大數(shù)據(jù)安全評估體系,做好平臺、應(yīng)用、服務(wù)的可靠性、安全性評測以及安全風(fēng)險評估。

    5.4 提升安全意識,完善企業(yè)工業(yè)大數(shù)據(jù)安全管理制度

    工業(yè)企業(yè)定期組織開展一線從業(yè)人員網(wǎng)絡(luò)安全培訓(xùn),增強(qiáng)全員網(wǎng)絡(luò)安全意識。強(qiáng)化對重要崗位、重要部位管理技術(shù)人員的技能培訓(xùn),提升網(wǎng)絡(luò)安全基礎(chǔ)知識和防護(hù)技能水平。根據(jù)單位和崗位的性質(zhì),成立相應(yīng)的工業(yè)數(shù)據(jù)安全管理部門或團(tuán)隊,建立并落實工業(yè)大數(shù)據(jù)安全管理責(zé)任制。根據(jù)工業(yè)數(shù)據(jù)的類別和級別,制定配套的安全制度、管理規(guī)范和操作規(guī)程,實施相應(yīng)的安全管理策略和措施。

    5.5 促進(jìn)產(chǎn)業(yè)發(fā)展,培育工業(yè)大數(shù)據(jù)安全龍頭骨干企業(yè)

    在國家新型工業(yè)化產(chǎn)業(yè)示范基地(工業(yè)信息安全)建設(shè)中,支持工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展,采取資金扶持、稅收優(yōu)惠、綠色通道等措施,支持工業(yè)大數(shù)據(jù)安全態(tài)勢感知、監(jiān)測預(yù)警、數(shù)據(jù)加密、數(shù)據(jù)留痕、數(shù)據(jù)溯源等新技術(shù)、新應(yīng)用、新產(chǎn)品、新服務(wù)的研發(fā)、測試、認(rèn)證和商業(yè)應(yīng)用,打造一批以工業(yè)大數(shù)據(jù)為核心業(yè)務(wù)的龍頭骨干企業(yè)。凝聚政府、企業(yè)、協(xié)會、科研院所等多方力量,充分整合行業(yè)優(yōu)質(zhì)資源,組建技術(shù)和市場聯(lián)盟,實現(xiàn)“抱團(tuán)發(fā)展”,打造協(xié)調(diào)發(fā)展的工業(yè)大數(shù)據(jù)安全產(chǎn)業(yè)生態(tài)系統(tǒng)。

    6 結(jié)束語

    工業(yè)大數(shù)據(jù)可簡略分為內(nèi)部數(shù)據(jù)和外部數(shù)據(jù)兩大類,其除了具有傳統(tǒng)大數(shù)據(jù)的特點外,還具有多態(tài)性、實時性、閉環(huán)性、級聯(lián)性、更具價值屬性以及更具產(chǎn)權(quán)屬性六大典型特征,在采集、存儲、處理、分析等數(shù)據(jù)全生命周期環(huán)節(jié)上都與傳統(tǒng)大數(shù)據(jù)有較大區(qū)別。當(dāng)前,工業(yè)大數(shù)據(jù)面臨嚴(yán)峻的安全形勢,工業(yè)大數(shù)據(jù)已成為網(wǎng)絡(luò)攻擊重點目標(biāo),極易引發(fā)系統(tǒng)性風(fēng)險。在全球工業(yè)數(shù)據(jù)泄漏事件頻發(fā)的背景下,我國傳統(tǒng)防護(hù)措施難以適用、新技術(shù)新應(yīng)用風(fēng)險難以應(yīng)對、安全意識和防護(hù)能力薄弱、安全產(chǎn)業(yè)支撐能力薄弱、安全頂層設(shè)計不完善等問題日益突出。對此,應(yīng)該從頂層設(shè)計完善、工業(yè)數(shù)據(jù)分類分級管理、技術(shù)手段建設(shè)、安全意識提升以及安全產(chǎn)業(yè)發(fā)展幾個方面發(fā)力,大力提升我國工業(yè)大數(shù)據(jù)安全防護(hù)水平。

    參考文獻(xiàn)

    [1] 陸泉,張良韜.處理流程視角下的大數(shù)據(jù)技術(shù)發(fā)展現(xiàn)狀與趨勢[J].信息資源管理學(xué)報,2017(4):19-30.

    [2] 中國電子技術(shù)標(biāo)準(zhǔn)化研究院,全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)標(biāo)準(zhǔn)工作組,等.工業(yè)大數(shù)據(jù)白皮書[R].中國電子技術(shù)標(biāo)準(zhǔn)化研究院和全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)標(biāo)準(zhǔn)工作組,2019.

    [3] Verizon.2018 Data Breach Investigations Report[R].USA:Verizon,2018.

    [4] 國家工業(yè)信息安全發(fā)展研究中心.工信安全智庫研判系列報告:2018年度工業(yè)信息安全形勢分析[R].國家工業(yè)信息安全發(fā)展研究中心,2019.

    [5] 工業(yè)互聯(lián)網(wǎng)平臺“混戰(zhàn)”數(shù)據(jù)安全問題待破解[EB/OL].http://www.cinic.org.cn/xw/cjyj/487955.html,2019-04-15.

    [6] 59萬臺重點工業(yè)互聯(lián)網(wǎng)平臺平均設(shè)備連接數(shù)(數(shù)讀)[EB/OL]. http://finance.people.com.cn/bank/n1/2019/0403/c1004-31010208.html,2019-04-03.

    作者簡介:

    余章馗(1992-),男,漢族,云南騰沖人,中國人民大學(xué),碩士研究生,國家工業(yè)信息安全發(fā)展研究中心,助理工程師;主要研究方向和關(guān)注領(lǐng)域:工業(yè)信息安全、工控安全、工業(yè)大數(shù)據(jù)安全。

    劉京娟(1987-),女,漢族,湖南衡陽人,北京大學(xué),碩士研究生,國家工業(yè)信息安全發(fā)展研究中心,高級工程師;主要研究方向和關(guān)注領(lǐng)域:網(wǎng)絡(luò)安全政策法規(guī)、大數(shù)據(jù)網(wǎng)絡(luò)安全、關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)、工業(yè)互聯(lián)網(wǎng)安全。

    猜你喜歡
    數(shù)據(jù)安全大數(shù)據(jù)
    云計算中基于用戶隱私的數(shù)據(jù)安全保護(hù)方法
    電子制作(2019年14期)2019-08-20 05:43:42
    建立激勵相容機(jī)制保護(hù)數(shù)據(jù)安全
    大數(shù)據(jù)云計算環(huán)境下的數(shù)據(jù)安全
    電子制作(2017年20期)2017-04-26 06:57:48
    大數(shù)據(jù)環(huán)境下基于移動客戶端的傳統(tǒng)媒體轉(zhuǎn)型思路
    新聞世界(2016年10期)2016-10-11 20:13:53
    基于大數(shù)據(jù)背景下的智慧城市建設(shè)研究
    科技視界(2016年20期)2016-09-29 10:53:22
    數(shù)據(jù)+輿情:南方報業(yè)創(chuàng)新轉(zhuǎn)型提高服務(wù)能力的探索
    中國記者(2016年6期)2016-08-26 12:36:20
    云環(huán)境中數(shù)據(jù)安全去重研究進(jìn)展
    大數(shù)據(jù)安全搜索與共享
    健全大數(shù)據(jù)安全保障體系研究
    噜噜噜噜噜久久久久久91| 人妻夜夜爽99麻豆av| 麻豆av噜噜一区二区三区| 久久九九热精品免费| 欧美日韩乱码在线| 他把我摸到了高潮在线观看| av中文乱码字幕在线| 两个人的视频大全免费| 国产乱人视频| 12—13女人毛片做爰片一| 国产免费一级a男人的天堂| 国产精品人妻久久久久久| 免费人成在线观看视频色| 啦啦啦韩国在线观看视频| 国产av麻豆久久久久久久| 美女被艹到高潮喷水动态| x7x7x7水蜜桃| 久久欧美精品欧美久久欧美| 激情在线观看视频在线高清| 欧美日韩国产亚洲二区| 小蜜桃在线观看免费完整版高清| 欧美最黄视频在线播放免费| 亚洲国产精品久久男人天堂| 欧美成人免费av一区二区三区| 男人狂女人下面高潮的视频| 欧美xxxx性猛交bbbb| 亚洲人与动物交配视频| 可以在线观看的亚洲视频| 97热精品久久久久久| 亚洲av免费高清在线观看| 午夜精品在线福利| 麻豆国产av国片精品| 好男人在线观看高清免费视频| 午夜精品久久久久久毛片777| 给我免费播放毛片高清在线观看| 亚洲欧美清纯卡通| 青草久久国产| 十八禁人妻一区二区| 亚洲七黄色美女视频| 国产精品自产拍在线观看55亚洲| 亚洲最大成人av| 99国产综合亚洲精品| 国内毛片毛片毛片毛片毛片| 精品人妻1区二区| 两个人视频免费观看高清| 国产成年人精品一区二区| 色综合站精品国产| 亚洲片人在线观看| 波多野结衣高清无吗| 国产伦人伦偷精品视频| 国产aⅴ精品一区二区三区波| 欧美激情在线99| 免费观看人在逋| 51午夜福利影视在线观看| 俄罗斯特黄特色一大片| 国产精品爽爽va在线观看网站| 男女之事视频高清在线观看| 日韩欧美免费精品| 色哟哟·www| 亚洲熟妇中文字幕五十中出| 国内揄拍国产精品人妻在线| 婷婷六月久久综合丁香| 久久精品国产亚洲av香蕉五月| 亚洲自偷自拍三级| 精品乱码久久久久久99久播| 亚洲精品粉嫩美女一区| 波多野结衣高清作品| 久久人人爽人人爽人人片va | 亚洲精品亚洲一区二区| 国产高清视频在线播放一区| 91字幕亚洲| 91九色精品人成在线观看| 国产午夜精品论理片| 国产精品99久久久久久久久| 伦理电影大哥的女人| 午夜两性在线视频| 亚洲中文字幕日韩| 日韩精品青青久久久久久| 精品人妻1区二区| 久久婷婷人人爽人人干人人爱| 久久精品国产清高在天天线| 亚洲自偷自拍三级| 国产精品日韩av在线免费观看| 嫩草影院精品99| 观看美女的网站| 国产伦人伦偷精品视频| 给我免费播放毛片高清在线观看| 国产真实乱freesex| 免费黄网站久久成人精品 | 欧美在线黄色| 亚洲美女视频黄频| 最新中文字幕久久久久| 美女黄网站色视频| www.999成人在线观看| 国产亚洲欧美在线一区二区| 欧美日韩乱码在线| 欧美成狂野欧美在线观看| 亚洲成a人片在线一区二区| 精品久久久久久成人av| 国产在线精品亚洲第一网站| 国产在线男女| 国产精品国产高清国产av| av天堂中文字幕网| 1000部很黄的大片| 午夜免费成人在线视频| 久久久久久久久大av| 十八禁网站免费在线| 综合色av麻豆| 69人妻影院| 精品一区二区三区视频在线| 国产麻豆成人av免费视频| 丰满的人妻完整版| 亚洲av二区三区四区| 国产亚洲精品久久久久久毛片| 又粗又爽又猛毛片免费看| 久久精品国产自在天天线| 丰满的人妻完整版| 国产一区二区三区在线臀色熟女| 男女之事视频高清在线观看| 日韩高清综合在线| 中文字幕精品亚洲无线码一区| 99久国产av精品| 国产精品一区二区免费欧美| 赤兔流量卡办理| 日韩精品中文字幕看吧| 亚洲av五月六月丁香网| 91字幕亚洲| 国产欧美日韩一区二区三| a级毛片a级免费在线| 欧美激情在线99| 99在线视频只有这里精品首页| 国产成人欧美在线观看| 午夜久久久久精精品| netflix在线观看网站| 变态另类成人亚洲欧美熟女| 每晚都被弄得嗷嗷叫到高潮| 中文字幕人成人乱码亚洲影| 色吧在线观看| 亚洲最大成人av| 高清毛片免费观看视频网站| 中文字幕精品亚洲无线码一区| 亚洲久久久久久中文字幕| 真人做人爱边吃奶动态| 伦理电影大哥的女人| 此物有八面人人有两片| 欧美黄色片欧美黄色片| 免费人成视频x8x8入口观看| 麻豆国产av国片精品| 久久伊人香网站| 伊人久久精品亚洲午夜| 又紧又爽又黄一区二区| av国产免费在线观看| 国产成人福利小说| 我的女老师完整版在线观看| 51午夜福利影视在线观看| 别揉我奶头~嗯~啊~动态视频| 欧美高清性xxxxhd video| 成人精品一区二区免费| 波野结衣二区三区在线| 99国产极品粉嫩在线观看| 国产精品免费一区二区三区在线| 制服丝袜大香蕉在线| 亚洲欧美日韩高清专用| 亚洲国产精品久久男人天堂| 伊人久久精品亚洲午夜| 久久热精品热| 国产成年人精品一区二区| 久久午夜福利片| 性欧美人与动物交配| av专区在线播放| 亚洲国产精品合色在线| 人人妻人人澡欧美一区二区| 久久中文看片网| 欧美黑人巨大hd| 欧美丝袜亚洲另类 | 国产 一区 欧美 日韩| 757午夜福利合集在线观看| 每晚都被弄得嗷嗷叫到高潮| 亚洲,欧美精品.| 亚洲欧美日韩卡通动漫| 首页视频小说图片口味搜索| 日日夜夜操网爽| 99视频精品全部免费 在线| 91av网一区二区| 国产黄色小视频在线观看| 简卡轻食公司| 可以在线观看毛片的网站| 精品一区二区三区视频在线观看免费| 国产高清激情床上av| 国产精品精品国产色婷婷| 午夜精品久久久久久毛片777| 尤物成人国产欧美一区二区三区| 亚洲成av人片在线播放无| 久久精品91蜜桃| 国产伦精品一区二区三区视频9| 九九热线精品视视频播放| 久久午夜亚洲精品久久| 尤物成人国产欧美一区二区三区| 亚洲最大成人中文| 自拍偷自拍亚洲精品老妇| or卡值多少钱| 真人一进一出gif抽搐免费| 91麻豆av在线| 可以在线观看毛片的网站| 12—13女人毛片做爰片一| 亚州av有码| 国产精华一区二区三区| 国产在视频线在精品| 久久久久久久久久成人| 国产午夜福利久久久久久| 日韩中字成人| 女人十人毛片免费观看3o分钟| 国产亚洲欧美98| 免费人成在线观看视频色| 欧美激情久久久久久爽电影| 波多野结衣高清无吗| 久久久久久国产a免费观看| 久久午夜亚洲精品久久| 亚洲在线自拍视频| 夜夜看夜夜爽夜夜摸| 一进一出好大好爽视频| 国产黄色小视频在线观看| 99热这里只有是精品在线观看 | 99热只有精品国产| 免费搜索国产男女视频| 日本在线视频免费播放| 内射极品少妇av片p| 久久久久亚洲av毛片大全| 村上凉子中文字幕在线| 国产精品爽爽va在线观看网站| 狂野欧美白嫩少妇大欣赏| 亚洲中文日韩欧美视频| 国产一区二区三区视频了| 久久精品国产亚洲av香蕉五月| 嫩草影院精品99| 亚洲成a人片在线一区二区| 日日夜夜操网爽| 国产爱豆传媒在线观看| 变态另类丝袜制服| 亚洲成av人片免费观看| 国产大屁股一区二区在线视频| 中文亚洲av片在线观看爽| 亚洲美女视频黄频| 日本 欧美在线| 日本在线视频免费播放| 免费av不卡在线播放| 九九久久精品国产亚洲av麻豆| 夜夜爽天天搞| 直男gayav资源| 看十八女毛片水多多多| 日韩人妻高清精品专区| 99在线人妻在线中文字幕| x7x7x7水蜜桃| 赤兔流量卡办理| 男人舔奶头视频| 亚洲无线在线观看| 简卡轻食公司| 成熟少妇高潮喷水视频| 免费看光身美女| 国产伦精品一区二区三区视频9| 久久亚洲真实| 别揉我奶头 嗯啊视频| 在线观看66精品国产| 男女做爰动态图高潮gif福利片| 夜夜爽天天搞| 午夜久久久久精精品| 国产精品1区2区在线观看.| 男女下面进入的视频免费午夜| 色播亚洲综合网| 久久精品国产亚洲av天美| 一级黄色大片毛片| 美女黄网站色视频| 琪琪午夜伦伦电影理论片6080| 日本一二三区视频观看| 日韩大尺度精品在线看网址| 亚洲精品在线美女| 深夜a级毛片| 国产一区二区激情短视频| 国产亚洲av嫩草精品影院| 亚洲欧美激情综合另类| 国产午夜精品论理片| 男人舔女人下体高潮全视频| 免费av观看视频| av天堂在线播放| 欧美一区二区亚洲| 色视频www国产| 伦理电影大哥的女人| 草草在线视频免费看| 欧美三级亚洲精品| 国产欧美日韩一区二区三| 久久午夜亚洲精品久久| 九色国产91popny在线| 99热这里只有是精品50| 精品一区二区三区视频在线| 天堂网av新在线| 此物有八面人人有两片| 国产黄色小视频在线观看| 又爽又黄无遮挡网站| 国产精品乱码一区二三区的特点| 色噜噜av男人的天堂激情| 日本 欧美在线| 午夜久久久久精精品| 1000部很黄的大片| 露出奶头的视频| 国产v大片淫在线免费观看| 亚洲,欧美,日韩| 欧美bdsm另类| 18禁裸乳无遮挡免费网站照片| 看免费av毛片| 久久欧美精品欧美久久欧美| 性色av乱码一区二区三区2| 亚洲欧美精品综合久久99| 亚洲av五月六月丁香网| 少妇丰满av| 禁无遮挡网站| 人妻丰满熟妇av一区二区三区| 亚洲精品在线观看二区| 国产一区二区三区在线臀色熟女| 成年女人毛片免费观看观看9| 熟妇人妻久久中文字幕3abv| 精品国产三级普通话版| 男人和女人高潮做爰伦理| 精品一区二区三区av网在线观看| 午夜福利高清视频| 欧美日韩中文字幕国产精品一区二区三区| 久久久久性生活片| 成人精品一区二区免费| 97人妻精品一区二区三区麻豆| 97热精品久久久久久| 日日夜夜操网爽| 99国产极品粉嫩在线观看| 亚洲国产精品成人综合色| 十八禁国产超污无遮挡网站| 99视频精品全部免费 在线| 麻豆国产97在线/欧美| 日本撒尿小便嘘嘘汇集6| 国产毛片a区久久久久| 深夜精品福利| 国产人妻一区二区三区在| 亚洲午夜理论影院| 嫩草影视91久久| 亚洲av第一区精品v没综合| 久久久久精品国产欧美久久久| 国产午夜福利久久久久久| 舔av片在线| 色av中文字幕| 国产一区二区三区视频了| 国产精品三级大全| 国产单亲对白刺激| 日本成人三级电影网站| АⅤ资源中文在线天堂| 99热6这里只有精品| 色5月婷婷丁香| 99久久精品热视频| 狂野欧美白嫩少妇大欣赏| 成年版毛片免费区| 深夜精品福利| 日本黄色片子视频| av天堂中文字幕网| 三级国产精品欧美在线观看| 久久久久亚洲av毛片大全| 最近中文字幕高清免费大全6 | a级毛片a级免费在线| 欧美丝袜亚洲另类 | 国产精品国产高清国产av| 五月玫瑰六月丁香| 在线看三级毛片| 又紧又爽又黄一区二区| 哪里可以看免费的av片| 午夜精品在线福利| 亚洲国产日韩欧美精品在线观看| 久久久成人免费电影| 老司机午夜十八禁免费视频| av天堂中文字幕网| 亚洲性夜色夜夜综合| 中文字幕人妻熟人妻熟丝袜美| 国内少妇人妻偷人精品xxx网站| 欧美日韩乱码在线| 又黄又爽又刺激的免费视频.| 日韩免费av在线播放| 嫩草影院新地址| 国产精品一区二区免费欧美| 午夜福利在线在线| 欧美激情在线99| 国产av麻豆久久久久久久| 日本 av在线| 简卡轻食公司| 亚洲国产精品合色在线| 长腿黑丝高跟| 国产精品久久电影中文字幕| 12—13女人毛片做爰片一| 天天躁日日操中文字幕| 亚洲av中文字字幕乱码综合| 久久这里只有精品中国| 精品熟女少妇八av免费久了| 99久久九九国产精品国产免费| 免费高清视频大片| 亚洲精品456在线播放app | 亚洲成人免费电影在线观看| 波多野结衣高清作品| 亚洲第一欧美日韩一区二区三区| av在线蜜桃| 欧美日韩乱码在线| 亚洲欧美日韩高清在线视频| 美女免费视频网站| 最近最新免费中文字幕在线| 国产精品人妻久久久久久| 婷婷精品国产亚洲av在线| 久久人人爽人人爽人人片va | 久久人妻av系列| 波多野结衣高清无吗| 免费观看的影片在线观看| 两性午夜刺激爽爽歪歪视频在线观看| 亚洲精品成人久久久久久| 成人性生交大片免费视频hd| 久久久久久久久中文| 亚洲美女视频黄频| 国产亚洲欧美98| 色哟哟哟哟哟哟| 丝袜美腿在线中文| 在线播放无遮挡| 亚州av有码| 别揉我奶头 嗯啊视频| 午夜福利18| 精品人妻熟女av久视频| 网址你懂的国产日韩在线| 超碰av人人做人人爽久久| 丰满人妻熟妇乱又伦精品不卡| 国产三级在线视频| 最近在线观看免费完整版| 在线十欧美十亚洲十日本专区| 国产欧美日韩精品亚洲av| 亚洲精品乱码久久久v下载方式| 自拍偷自拍亚洲精品老妇| 久久久国产成人免费| 三级男女做爰猛烈吃奶摸视频| 一个人免费在线观看电影| 久久久精品大字幕| 丰满的人妻完整版| 亚洲第一欧美日韩一区二区三区| 成人毛片a级毛片在线播放| 午夜亚洲福利在线播放| 国产av麻豆久久久久久久| 免费av毛片视频| 成人鲁丝片一二三区免费| 在线观看av片永久免费下载| 男人的好看免费观看在线视频| 成人高潮视频无遮挡免费网站| 麻豆国产97在线/欧美| 亚洲在线自拍视频| 九九久久精品国产亚洲av麻豆| 久久精品国产99精品国产亚洲性色| 日本黄大片高清| 天天躁日日操中文字幕| 在线观看舔阴道视频| 变态另类丝袜制服| 国产精品一区二区免费欧美| 国内揄拍国产精品人妻在线| 亚洲人与动物交配视频| 色哟哟哟哟哟哟| 亚洲国产精品成人综合色| 国产伦一二天堂av在线观看| www.999成人在线观看| 夜夜夜夜夜久久久久| 国产精品久久视频播放| 国产成人啪精品午夜网站| 色在线成人网| 国产麻豆成人av免费视频| 麻豆成人av在线观看| 国产精品久久久久久人妻精品电影| 赤兔流量卡办理| 美女黄网站色视频| 99热这里只有精品一区| 国内精品美女久久久久久| 国产精品久久久久久人妻精品电影| 欧美最黄视频在线播放免费| 国产主播在线观看一区二区| 99热这里只有是精品在线观看 | 午夜福利视频1000在线观看| 国内精品一区二区在线观看| 亚洲无线在线观看| 夜夜躁狠狠躁天天躁| 丰满的人妻完整版| 亚洲美女搞黄在线观看 | 别揉我奶头~嗯~啊~动态视频| 久久国产精品影院| 嫁个100分男人电影在线观看| 91九色精品人成在线观看| www.999成人在线观看| 国产高清三级在线| 丰满的人妻完整版| 校园春色视频在线观看| 午夜福利在线在线| 成人性生交大片免费视频hd| 国产一区二区三区视频了| 99riav亚洲国产免费| 欧美不卡视频在线免费观看| 51午夜福利影视在线观看| 国产精品99久久久久久久久| 黄色视频,在线免费观看| 99久久精品一区二区三区| av国产免费在线观看| 一级av片app| 91av网一区二区| 免费看日本二区| 无遮挡黄片免费观看| 国产亚洲欧美98| 2021天堂中文幕一二区在线观| 欧美日韩福利视频一区二区| 日本黄大片高清| 亚洲精品久久国产高清桃花| 亚洲经典国产精华液单 | 亚洲一区二区三区不卡视频| 黄色视频,在线免费观看| 国产亚洲精品综合一区在线观看| 亚洲国产欧美人成| 日日夜夜操网爽| 99在线人妻在线中文字幕| 国产精品一区二区免费欧美| 黄片小视频在线播放| 亚洲人与动物交配视频| 国内少妇人妻偷人精品xxx网站| 久久久国产成人免费| 成人av一区二区三区在线看| 日韩亚洲欧美综合| av天堂中文字幕网| 成人无遮挡网站| 婷婷亚洲欧美| 国产黄色小视频在线观看| 特级一级黄色大片| 偷拍熟女少妇极品色| 亚洲国产日韩欧美精品在线观看| 嫩草影院精品99| 日日摸夜夜添夜夜添av毛片 | 男女床上黄色一级片免费看| 精品一区二区三区av网在线观看| 亚州av有码| 国产色爽女视频免费观看| 99热只有精品国产| 亚洲在线自拍视频| 国产高清视频在线观看网站| 免费在线观看日本一区| 久久人人爽人人爽人人片va | 老熟妇仑乱视频hdxx| 久久性视频一级片| 永久网站在线| 久9热在线精品视频| 不卡一级毛片| 十八禁人妻一区二区| 国内精品一区二区在线观看| 老鸭窝网址在线观看| .国产精品久久| 一边摸一边抽搐一进一小说| 小蜜桃在线观看免费完整版高清| 在线免费观看的www视频| 99热这里只有是精品在线观看 | 亚州av有码| 内地一区二区视频在线| ponron亚洲| 亚洲精品影视一区二区三区av| 免费人成在线观看视频色| 国产精品久久久久久亚洲av鲁大| 51午夜福利影视在线观看| 成人欧美大片| 少妇被粗大猛烈的视频| 午夜激情欧美在线| 99视频精品全部免费 在线| 搡老妇女老女人老熟妇| 人人妻人人看人人澡| www.色视频.com| 精品久久久久久成人av| 亚洲 国产 在线| 免费在线观看亚洲国产| 亚洲av成人不卡在线观看播放网| 国产日本99.免费观看| 好男人电影高清在线观看| 三级毛片av免费| 久久人人精品亚洲av| 欧美中文日本在线观看视频| 精品人妻视频免费看| 国产69精品久久久久777片| 婷婷色综合大香蕉| 国产成人欧美在线观看| 日韩成人在线观看一区二区三区| 99久国产av精品| 草草在线视频免费看| 男女那种视频在线观看| 国产欧美日韩精品亚洲av| 看片在线看免费视频| 日本免费a在线| 久久久久国产精品人妻aⅴ院| 中亚洲国语对白在线视频| 欧美最新免费一区二区三区 | 亚洲精品乱码久久久v下载方式| 国产精品一及| 国内精品久久久久精免费| 淫秽高清视频在线观看| 国产成+人综合+亚洲专区| 搡老妇女老女人老熟妇| 一个人看的www免费观看视频| 久久九九热精品免费| 大型黄色视频在线免费观看| 亚洲人与动物交配视频| 91av网一区二区| 99久久成人亚洲精品观看| 国产国拍精品亚洲av在线观看| 怎么达到女性高潮| 亚洲狠狠婷婷综合久久图片| 人人妻人人看人人澡| 两个人视频免费观看高清| 成人国产综合亚洲| 亚洲五月天丁香| 久久香蕉精品热| 日韩 亚洲 欧美在线| 亚洲美女黄片视频|