• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    核電廠數(shù)字化儀表控制系統(tǒng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法綜述

    2022-06-24 09:30:56黃曉津田宇琨李江海
    自動(dòng)化儀表 2022年5期
    關(guān)鍵詞:控系統(tǒng)分析方法網(wǎng)絡(luò)安全

    黃曉津,田宇琨,李江海

    (1.清華大學(xué)核能與新能源技術(shù)研究院,北京 100084;2.先進(jìn)反應(yīng)堆工程與安全教育部重點(diǎn)實(shí)驗(yàn)室,北京 100084)

    0 引言

    核電廠儀表和控制系統(tǒng)(簡(jiǎn)稱“儀控系統(tǒng)”)與核電站操作人員共同構(gòu)成了核電廠的“中樞神經(jīng)系統(tǒng)”。通過各種組成要素(如設(shè)備、模塊、子系統(tǒng)、冗余系統(tǒng)等)。儀控系統(tǒng)可感知基本參數(shù)、監(jiān)控性能、整合信息,并根據(jù)需要對(duì)電廠運(yùn)行進(jìn)行自動(dòng)調(diào)整。隨著信息時(shí)代的到來,計(jì)算機(jī)技術(shù)、網(wǎng)絡(luò)通信技術(shù)等信息技術(shù)與核電廠數(shù)字化儀控系統(tǒng)相結(jié)合[1],使得基于計(jì)算機(jī)和聯(lián)網(wǎng)技術(shù)的數(shù)字化儀控系統(tǒng)逐步被采用。國(guó)內(nèi)首個(gè)核電數(shù)字化儀控系統(tǒng)投用于江蘇田灣核電站。嶺澳二期核電站也使用了該技術(shù)[2]。數(shù)字化儀控系統(tǒng)的使用提高了核電廠的可靠性、降低了運(yùn)營(yíng)和維護(hù)成本,使核電廠的運(yùn)行更加高效。但是,由于數(shù)字化儀控系統(tǒng)基于計(jì)算機(jī)和網(wǎng)絡(luò)技術(shù),可能存在漏洞,特別是通用協(xié)議、軟件和設(shè)備對(duì)原有專用系統(tǒng)的取代[3],使得系統(tǒng)和網(wǎng)絡(luò)更容易遭受黑客、病毒、蠕蟲等偶然或惡意的網(wǎng)絡(luò)攻擊。這將對(duì)核電廠系統(tǒng)及設(shè)備的可用性、信息和數(shù)據(jù)的保密性和完整性造成損害,并由此產(chǎn)生新的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)[2]。因此,需要對(duì)核電廠數(shù)字化儀控系統(tǒng)進(jìn)行風(fēng)險(xiǎn)管理。風(fēng)險(xiǎn)管理是分析、評(píng)估和處理風(fēng)險(xiǎn)的實(shí)踐標(biāo)準(zhǔn),通過適用的網(wǎng)絡(luò)風(fēng)險(xiǎn)分析方法,對(duì)惡意網(wǎng)絡(luò)攻擊行為進(jìn)行有效的識(shí)別和監(jiān)測(cè),從而保證核電廠系統(tǒng)的可用性,以及信息和數(shù)據(jù)的完整性和保密性,降低由攻擊事件導(dǎo)致的危害。

    網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法最初產(chǎn)生于信息技術(shù)(information technology,IT)領(lǐng)域。當(dāng)信息系統(tǒng)與物理系統(tǒng)相結(jié)合后,人們開始關(guān)心信息物理系統(tǒng)(cyber physical system,CPS)中基于網(wǎng)絡(luò)和軟件而產(chǎn)生的網(wǎng)絡(luò)安全問題,由此產(chǎn)生了眾多相關(guān)風(fēng)險(xiǎn)分析方法。核電數(shù)字化儀控系統(tǒng)對(duì)于遭受網(wǎng)絡(luò)攻擊而產(chǎn)生的網(wǎng)絡(luò)安全問題的研究尚處于起步階段,相關(guān)文獻(xiàn)較少,風(fēng)險(xiǎn)分析方法體系尚不完善。因此,本文對(duì)CPS的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法進(jìn)行綜述。所列網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法不僅包含核電領(lǐng)域,還包含電網(wǎng)、運(yùn)輸系統(tǒng)等多個(gè)領(lǐng)域。通過文獻(xiàn)綜述,本文提出核電數(shù)字化儀控系統(tǒng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法的參考建議。文獻(xiàn)選擇范圍為2011—2021年間發(fā)表的、能夠獲取全文的研究成果,且至少涵蓋一種不同的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法。本文主要涉及網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法中風(fēng)險(xiǎn)的場(chǎng)景、可能性及后果等問題,但風(fēng)險(xiǎn)緩解技術(shù)并不包含在本文綜述范圍內(nèi)。

    1 網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析的基礎(chǔ)

    1.1 風(fēng)險(xiǎn)理論

    傳統(tǒng)意義上的風(fēng)險(xiǎn)是不確定性和損害的結(jié)合。風(fēng)險(xiǎn)分析過程可以看作對(duì)三個(gè)問題的回答,即:①會(huì)發(fā)生什么;②有多大可能性;③如果真的發(fā)生了,其后果是什么[4]。

    隨著信息技術(shù)的發(fā)展,對(duì)CPS的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的研究進(jìn)一步深入。在網(wǎng)絡(luò)安全風(fēng)險(xiǎn)管理指南ISO/IEC 27005:2011中,定義網(wǎng)絡(luò)安全風(fēng)險(xiǎn)涉及三個(gè)要素,即資產(chǎn)、威脅和漏洞。在CPS中,網(wǎng)絡(luò)安全風(fēng)險(xiǎn)既指物理層面的功能安全風(fēng)險(xiǎn)(Safety),又指網(wǎng)絡(luò)層面的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)(Security),即系統(tǒng)正常運(yùn)行時(shí)安全目標(biāo)遭受網(wǎng)絡(luò)攻擊所造成的不利影響。風(fēng)險(xiǎn)分析過程的總體目標(biāo)是識(shí)別風(fēng)險(xiǎn)及其對(duì)系統(tǒng)關(guān)鍵資產(chǎn)的影響。分析的目標(biāo)是基于威脅/漏洞識(shí)別關(guān)鍵資產(chǎn)的安全風(fēng)險(xiǎn)。

    R=f[h(V,T),A]

    (1)

    式中:R為風(fēng)險(xiǎn)值;f為風(fēng)險(xiǎn)模型;h為威脅與漏洞的關(guān)系;V、T分別為漏洞被利用的可能性和威脅利用漏洞的可能性;A為資產(chǎn)價(jià)值。

    根據(jù)GB/T 36466—2018,風(fēng)險(xiǎn)分析流程如下。

    ①評(píng)估風(fēng)險(xiǎn)要素。風(fēng)險(xiǎn)要素評(píng)估包括關(guān)鍵數(shù)字資產(chǎn)評(píng)估、威脅評(píng)估、脆弱性評(píng)估以及保障能力評(píng)估。資產(chǎn)評(píng)估包括識(shí)別資產(chǎn)和評(píng)估資產(chǎn)價(jià)值兩個(gè)方面:首先,識(shí)別出系統(tǒng)中的關(guān)鍵系統(tǒng)和關(guān)鍵系統(tǒng)中的關(guān)鍵數(shù)字資產(chǎn);然后,評(píng)估資產(chǎn)價(jià)值,得到資產(chǎn)的重要度權(quán)重。威脅評(píng)估考慮可能對(duì)系統(tǒng)造成破壞的攻擊行為:首先,識(shí)別出威脅源、威脅途徑和可能性,以及威脅所造成的影響;然后,對(duì)威脅進(jìn)行賦值。脆弱性評(píng)估考慮重要資產(chǎn)本身的脆弱性,識(shí)別脆弱性并對(duì)脆弱性進(jìn)行分析賦值。保障能力評(píng)估則是對(duì)系統(tǒng)管理、運(yùn)行、人員和技術(shù)等方面提供保障措施和對(duì)策的能力進(jìn)行評(píng)估。

    ②計(jì)算風(fēng)險(xiǎn)。風(fēng)險(xiǎn)值通過風(fēng)險(xiǎn)要素得出。通過計(jì)算得到的風(fēng)險(xiǎn)值可劃分為幾個(gè)等級(jí),以表示相應(yīng)的風(fēng)險(xiǎn)嚴(yán)重程度。

    ③控制風(fēng)險(xiǎn)殘留。如風(fēng)險(xiǎn)不可接受,則需制定風(fēng)險(xiǎn)控制措施并實(shí)施相應(yīng)的控制行為,以降低相關(guān)風(fēng)險(xiǎn)。

    1.2 核電廠數(shù)字化儀控系統(tǒng)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)

    針對(duì)核電行業(yè)如何有效進(jìn)行網(wǎng)絡(luò)安全防護(hù),可參照國(guó)內(nèi)外制定的一系列網(wǎng)絡(luò)安全標(biāo)準(zhǔn)。

    國(guó)內(nèi)外數(shù)字化儀控系統(tǒng)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)如表1所示。

    總體而言,我國(guó)核電數(shù)字化儀控網(wǎng)絡(luò)安全領(lǐng)域相關(guān)標(biāo)準(zhǔn)與國(guó)外尚存在一定的差距,目前國(guó)內(nèi)還沒有針對(duì)核電廠數(shù)字化儀控系統(tǒng)網(wǎng)絡(luò)安全的特定標(biāo)準(zhǔn)。相比之下,由美國(guó)核管會(huì)發(fā)布的RG 5.71導(dǎo)則為之提供了一套切實(shí)可行的方案,可以系統(tǒng)解決核電數(shù)字化儀控系統(tǒng)的網(wǎng)絡(luò)安全問題。因此,可參考RG 5.71導(dǎo)則,將其與我國(guó)國(guó)情相結(jié)合,作出適應(yīng)性修改,從而制定我國(guó)針對(duì)核電廠數(shù)字化儀控系統(tǒng)的網(wǎng)絡(luò)安全標(biāo)準(zhǔn)。

    2 網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法

    網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法一般分為兩類[5]。一類是基于公式的方法,即使用一套計(jì)算風(fēng)險(xiǎn)或影響的公式。該方法不使用任何模型進(jìn)行風(fēng)險(xiǎn)評(píng)估,而是以表格或文本的形式表示。另一類是基于模型的方法,即首先建立所研究系統(tǒng)或過程的模型,然后通過模型進(jìn)行定性或定量分析。

    2.1 基于公式的方法

    基于公式的方法使用公式對(duì)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)進(jìn)行量化,包括平均故障成本法、加權(quán)風(fēng)險(xiǎn)評(píng)分等方法。

    平均故障成本(mean failure cost,MFC)[6]作為單位時(shí)間的故障成本的函數(shù),從經(jīng)濟(jì)角度對(duì)故障進(jìn)行量化。式(1)為MFC計(jì)算公式。

    M=S×D×I×P

    (2)

    式中:M為MFC的值;S為網(wǎng)絡(luò)安全需求與所需成本的關(guān)系矩陣,其中網(wǎng)絡(luò)安全需求一般包括可用性、完整性、保密性;D為組件與組件對(duì)每個(gè)網(wǎng)絡(luò)安全需求所作貢獻(xiàn)之間的矩陣,由系統(tǒng)架構(gòu)師填寫;I為各威脅對(duì)各組件影響情況的矩陣,由分析人員填寫;P為一個(gè)列向量,代表每個(gè)條目的出現(xiàn)概率,通過對(duì)模擬系統(tǒng)或真實(shí)系統(tǒng)進(jìn)行操作,評(píng)估該段時(shí)間內(nèi)出現(xiàn)的威脅數(shù)量生成,并隨著系統(tǒng)的發(fā)展作相應(yīng)改進(jìn)。

    MFC以價(jià)格/時(shí)間為單位,提供了單位時(shí)間內(nèi)的平均損失估計(jì)。通過定量分析結(jié)果,可以使用MFC方法,采取相應(yīng)的安全措施以減少損失。

    加權(quán)風(fēng)險(xiǎn)評(píng)分(risk score,RS)[7]方法關(guān)注系統(tǒng)的可用性,采用加權(quán)計(jì)算對(duì)風(fēng)險(xiǎn)水平進(jìn)行量化。式(3)為RS計(jì)算公式。

    R=A×L0+B×C0

    (3)

    式中:R為風(fēng)險(xiǎn)值;C0為初始發(fā)生可用性損失事件的后果;L0為損失事件發(fā)生的可能性;A、B為權(quán)重因子,兩者之和為1。

    C0基于可用性損失及其影響,分為很低、低、中等、高、很高五級(jí),根據(jù)級(jí)別高低賦予定量數(shù)值。L0獨(dú)立于C0,與攻擊成本成反比。攻擊成本包括經(jīng)濟(jì)成本與實(shí)施攻擊所需技能與知識(shí)的組合成本,分為很低、低、中等、高、很高五級(jí),根據(jù)級(jí)別高低賦予定量數(shù)值。

    根據(jù)式(3)計(jì)算所得的風(fēng)險(xiǎn)值越高,則表示該損失事件的風(fēng)險(xiǎn)水平越高,即系統(tǒng)需要更多的保護(hù)機(jī)制。

    基于公式的方法通常是定量的,所采用的數(shù)值可以清晰地展現(xiàn)系統(tǒng)的風(fēng)險(xiǎn)水平。而CPS通常有著復(fù)雜的結(jié)構(gòu),基于公式的方法無法對(duì)復(fù)雜結(jié)構(gòu)進(jìn)行表示與深入分析。因此,研究者一般首先對(duì)系統(tǒng)進(jìn)行建模,然后使用基于模型的方法進(jìn)行風(fēng)險(xiǎn)分析。

    2.2 基于模型的方法

    基于模型的方法通過是否可用邏輯圖形來表示所建立的模型進(jìn)行區(qū)分,包括非圖形模型法和圖形模型法。

    2.2.1 非圖形模型方法

    對(duì)于復(fù)雜的系統(tǒng)而言,一般可以通過建立系統(tǒng)模型對(duì)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)進(jìn)行分析。CPS的網(wǎng)絡(luò)結(jié)構(gòu)、功能、任務(wù)通常是相對(duì)固定的,且一般情況下不需要頻繁地更新和修改,以便對(duì)系統(tǒng)進(jìn)行建模。因此,基于模型的風(fēng)險(xiǎn)分析方法適用于CPS。本節(jié)描述非圖形模型方法,包括風(fēng)險(xiǎn)矩陣(risk matrix,RM)法、層次分析(analytic hierarchy process,AHP)法、博弈論(game theory,GT)法等。

    RM法[8]是一種將危險(xiǎn)發(fā)生的可能性和危害的嚴(yán)重程度綜合評(píng)估風(fēng)險(xiǎn)大小的風(fēng)險(xiǎn)評(píng)估方法。RM結(jié)構(gòu)如圖1所示。RM法將風(fēng)險(xiǎn)需要采取的對(duì)策分為風(fēng)險(xiǎn)轉(zhuǎn)移、風(fēng)險(xiǎn)規(guī)避、風(fēng)險(xiǎn)接受和風(fēng)險(xiǎn)緩解這四類。四類對(duì)策對(duì)應(yīng)不同高低的風(fēng)險(xiǎn)概率和風(fēng)險(xiǎn)影響,通過賦值計(jì)算出各風(fēng)險(xiǎn)因素的風(fēng)險(xiǎn)值并進(jìn)行分析。

    圖1 RM結(jié)構(gòu)示意圖

    AHP法將決策有關(guān)元素分解成目標(biāo)、準(zhǔn)則、方案等多個(gè)層次,并在此基礎(chǔ)上進(jìn)行定性和定量分析。各層因子受下層因子的影響,同時(shí)影響上層因子。AHP法適用于具有分層交錯(cuò)的評(píng)價(jià)指標(biāo),而目標(biāo)值又難以定量描述的決策問題。文獻(xiàn)[9]首先將風(fēng)險(xiǎn)指標(biāo)體系分為網(wǎng)絡(luò)安全和主機(jī)安全兩個(gè)維度,并以惡意代碼防范、結(jié)構(gòu)安全、安全訪問控制、網(wǎng)絡(luò)訪問控制、入侵檢測(cè)、架構(gòu)安全、登錄安全、主機(jī)安全監(jiān)控和備份恢復(fù)為指標(biāo)級(jí)別,分級(jí)建立矩陣;然后采用秩和比的方法對(duì)系統(tǒng)風(fēng)險(xiǎn)水平進(jìn)行綜合評(píng)估。

    GT法提供了一個(gè)分析框架,考慮攻擊者和防御者之間的交互,并對(duì)這種交互過程進(jìn)行建模。攻擊者可能是單個(gè)黑客、黑客團(tuán)體、恐怖組織等。防御者發(fā)揮優(yōu)化博弈過程作用,使攻擊行為對(duì)系統(tǒng)的損害最小化。對(duì)于攻擊者而言,系統(tǒng)中的任何漏洞或弱點(diǎn)都可以被利用。對(duì)于防御者而言,任何可以用來組織、最小化或減輕攻擊的動(dòng)作都可被視為防御動(dòng)作。在該分析框架中,攻擊者和系統(tǒng)之間的互動(dòng)被視為一種兩玩家游戲。在這種游戲中,每個(gè)玩家都試圖從游戲中增加自己的收益。因此,每個(gè)玩家都對(duì)對(duì)手的策略作出相應(yīng)的反應(yīng)。在這種方法中,攻擊者的長(zhǎng)期策略被視為風(fēng)險(xiǎn)的可能性,通過定義效用函數(shù)來定量管理風(fēng)險(xiǎn)。文獻(xiàn)[10]利用GT法,分析出攻擊者可能的攻擊方向,提出網(wǎng)絡(luò)安全臨界數(shù)作為網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的評(píng)估標(biāo)準(zhǔn),并與系統(tǒng)的風(fēng)險(xiǎn)偏好進(jìn)行比較。文獻(xiàn)[11]將機(jī)器學(xué)習(xí)引入GT法中,運(yùn)用該方法制定攻擊和防御策略,并采用Q學(xué)習(xí)算法制定最優(yōu)策略。

    2.2.2 圖形模型方法

    與非圖形模型方法相比,將模型用圖形表示的方法相對(duì)更為直觀,且可對(duì)復(fù)雜系統(tǒng)內(nèi)部的邏輯關(guān)系進(jìn)行更細(xì)致的表述,并從不同角度對(duì)系統(tǒng)進(jìn)行建模。因此,基于圖形模型的方法對(duì)CPS的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)進(jìn)行分析的研究得較多?;趫D形模型方法包括基于故障樹的方法、基于攻擊樹(attack tree,AT)的方法、基于Petri網(wǎng)(Petri net,PN)的方法、基于貝葉斯網(wǎng)絡(luò)(Bayesian networks,BN)的方法、基于系統(tǒng)理論過程分析(systems-theoretic process analysis,STPA)的方法等。

    故障樹是一個(gè)非循環(huán)圖,標(biāo)識(shí)可能導(dǎo)致事故或故障的所有事件分支,以及這些事件發(fā)生的概率。故障樹分析(fault tree analysis,FTA)是一種自頂向下的、演繹的故障分析方法,使用布爾邏輯和異常事件來分析不同期望的系統(tǒng)狀態(tài)。文獻(xiàn)[12]提出了一種基于故障樹的網(wǎng)絡(luò)攻擊場(chǎng)景公式,詳細(xì)列出了導(dǎo)致系統(tǒng)故障的關(guān)鍵攻擊路徑。然而,傳統(tǒng)故障樹無法表示序列,即不能表示基本事件之間的任何依賴關(guān)系。布爾邏輯驅(qū)動(dòng)馬爾可夫過程(Boolean logic driven Markov processes,BDMP)是一種圖形建模方法,最初是為安全性和可靠性評(píng)估而設(shè)計(jì)的。BDMP形式上是傳統(tǒng)故障樹與馬爾可夫過程的結(jié)合。BDMP可以極大地減少操作應(yīng)用中的組合問題。與故障樹相比,BDMP可對(duì)動(dòng)態(tài)特性進(jìn)行建模,對(duì)于諸如核電數(shù)字化儀控系統(tǒng)的復(fù)雜CPS更加適用。文獻(xiàn)[13]基于BDMP對(duì)Stuxnet攻擊進(jìn)行建模,并給出了每種可能的攻擊序列的量化結(jié)果。

    AT是對(duì)系統(tǒng)的攻擊的樹形結(jié)構(gòu)圖。在該結(jié)構(gòu)圖中,攻擊的目標(biāo)是樹的根,實(shí)現(xiàn)它的不同方法表示為葉節(jié)點(diǎn)。AT中,除根節(jié)點(diǎn)外的不同節(jié)點(diǎn)是攻擊的目標(biāo)。通過自底向上的邏輯過程對(duì)AT進(jìn)行安全評(píng)估,并進(jìn)行網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析。考慮到AT不涉及防御者對(duì)策和行動(dòng),文獻(xiàn)[14]引入防御行為作為攻擊對(duì)策,提出一種利用攻擊防御樹(ADTree)進(jìn)行風(fēng)險(xiǎn)評(píng)估的方法。該方法不僅可以考慮攻擊者和防御者之間的攻擊場(chǎng)景并進(jìn)行迭代對(duì)抗,還可以估計(jì)所需成本和投資回報(bào)??紤]到功能安全與網(wǎng)絡(luò)安全的相互依賴性,文獻(xiàn)[15]將適用于功能安全性(Safety)的蝴蝶結(jié)方法與適用于網(wǎng)絡(luò)安全性(Security)的攻擊樹方法相結(jié)合,提出適用于工業(yè)控制系統(tǒng)安全的風(fēng)險(xiǎn)分析方法。該方法首先對(duì)風(fēng)險(xiǎn)場(chǎng)景進(jìn)行建模,然后根據(jù)事件發(fā)生的可能性設(shè)計(jì)風(fēng)險(xiǎn)場(chǎng)景的評(píng)估方法,從而得到某一危險(xiǎn)場(chǎng)景的安全等級(jí)。

    故障樹與AT方法可構(gòu)建邏輯關(guān)系,并給出定量的概率風(fēng)險(xiǎn)分析結(jié)果,形式結(jié)構(gòu)簡(jiǎn)便。該類方法只考慮組件故障,而無法表示組件間的故障及非線性邏輯關(guān)系。

    PN由圓形節(jié)點(diǎn)庫(kù)所、方形節(jié)點(diǎn)變遷、庫(kù)所與變遷之間的有向弧以及庫(kù)所中的定態(tài)對(duì)象令牌組成。PN作為分布式、并行和實(shí)時(shí)系統(tǒng)建模、分析的重要形式化工具,為CPS建模奠定了堅(jiān)實(shí)的基礎(chǔ)。文獻(xiàn)[16]提出的廣義隨機(jī)PN模型增加了及時(shí)轉(zhuǎn)換與定時(shí)轉(zhuǎn)換,運(yùn)用該模型可定量評(píng)價(jià)入侵概率。文獻(xiàn)[17]利用有限隨機(jī)Petri網(wǎng)(limited stochastic Petri net,LSPN)方法建立防火墻保護(hù)模型,從而得到給定入侵場(chǎng)景下的穩(wěn)定入侵概率。在LSPN中,每個(gè)變遷都有一個(gè)初始速率,即在有效條件下某一時(shí)刻的平均變遷事件開始數(shù)。變遷分為瞬時(shí)變遷和延遲變遷。當(dāng)時(shí)間無限大時(shí),系統(tǒng)達(dá)到動(dòng)態(tài)平衡,從而得到穩(wěn)定變遷速率。LSPN用于對(duì)具有并發(fā)、異步、分布式、并行、不確定性或隨機(jī)信息的CPS進(jìn)行建模,通過分析系統(tǒng)結(jié)構(gòu)的動(dòng)態(tài)行為信息,對(duì)系統(tǒng)進(jìn)行評(píng)估和改進(jìn)。PN法可以對(duì)各種事件之間的邏輯關(guān)系建模,以便對(duì)諸如核電數(shù)字化儀控系統(tǒng)等CPS進(jìn)行分析。但所建立的PN可能很大,以致無法生成系統(tǒng)的所有狀態(tài)。

    BN是一種概率圖形模型,通過有向無環(huán)圖表示隨機(jī)變量及其條件依賴關(guān)系。BN有向無環(huán)圖中的節(jié)點(diǎn)表示隨機(jī)變量,有向邊描述隨機(jī)變量之間的相關(guān)關(guān)系,相關(guān)的程度用條件概率表達(dá)。BN將多元圖解可視化,適用于描述節(jié)點(diǎn)的因果關(guān)系及條件相關(guān)關(guān)系,可用于核電數(shù)字化儀控系統(tǒng)的CPS建模,從而進(jìn)行風(fēng)險(xiǎn)分析。文獻(xiàn)[18]提出了一種包含攻擊模型、函數(shù)模型和事件模型的有針對(duì)性的多級(jí)BN,通過一次貝葉斯推理可計(jì)算出所有潛在威脅時(shí)間的發(fā)生概率。該模型還可對(duì)未知攻擊造成的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)進(jìn)行分析。文獻(xiàn)[19]將BN與PN相結(jié)合,首先利用PN建立系統(tǒng)模型,然后利用BN絡(luò)建立網(wǎng)絡(luò)攻擊模型。該模型可根據(jù)攻擊行為的變化實(shí)時(shí)更新攻擊概率并定量計(jì)算攻擊后果,從而實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)攻擊的風(fēng)險(xiǎn)分析。由于節(jié)點(diǎn)的條件概率依賴于歷史數(shù)據(jù),而網(wǎng)絡(luò)攻擊的歷史數(shù)據(jù)量過少,因此文獻(xiàn)[20]提出一種基于模糊概率貝葉斯網(wǎng)絡(luò)(fuzzy probabilistic Bayesian network,FPBN)的動(dòng)態(tài)風(fēng)險(xiǎn)評(píng)估方法,用模糊概率代替條件概率,而后通過近似動(dòng)態(tài)推理算法對(duì)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)進(jìn)行動(dòng)態(tài)評(píng)估。BN可以將相對(duì)復(fù)雜的聯(lián)合概率分布分解為一系列相對(duì)簡(jiǎn)單的節(jié)點(diǎn),降低了知識(shí)獲取的難度和概率推理的復(fù)雜性,從而解決了概率推理中聯(lián)合分布太大的問題。然而,BN只考慮網(wǎng)絡(luò)層面上的安全性,并未對(duì)網(wǎng)絡(luò)問題所造成的物理層面上的功能安全性進(jìn)行研究。

    STPA是一種基于系統(tǒng)思維的新的危險(xiǎn)分析技術(shù),由文獻(xiàn)[21]提出,并應(yīng)用于系統(tǒng)安全(Safety)領(lǐng)域。系統(tǒng)理論事故模型與過程(system theoretic accident model and processes,STAMP)是一種基于系統(tǒng)理論而非可靠性理論的新的事故原因分析模型,將傳統(tǒng)因果關(guān)系模型擴(kuò)展到直接相關(guān)的故障事件鏈或組件故障之外。基于STAMP提出的STPA方法,將安全問題視為一個(gè)動(dòng)態(tài)控制問題而非故障預(yù)防或可靠性問題。而故障是由于系統(tǒng)的不充分控制產(chǎn)生的。STPA方法步驟如下:①定義分析目的;②建立控制結(jié)構(gòu)的系統(tǒng)模型;③通過分析控制結(jié)構(gòu)中的控制動(dòng)作,研究控制動(dòng)作與第一步定義的損失之間的關(guān)系;④查明不安全控制發(fā)生原因。STPA-Sec[22]通過增加網(wǎng)絡(luò)安全控制約束,將STPA擴(kuò)展到網(wǎng)絡(luò)安全領(lǐng)域。STPA-SafeSec[23]將抽象的系統(tǒng)控制層擴(kuò)展到具體可視化的組件層,并細(xì)化了通用分析過程,最終得到損失場(chǎng)景的樹形結(jié)構(gòu)文本?;赟TPA的方法關(guān)注組件間的交互,除了技術(shù)問題還可以考慮人的因素,包括個(gè)人知識(shí)、操作人員網(wǎng)絡(luò)安全意識(shí)、組織網(wǎng)絡(luò)安全文化及業(yè)務(wù)流程等。但該方法并未給出定量結(jié)果。而在復(fù)雜環(huán)境中,識(shí)別控制器和系統(tǒng)組件之間的所有交互是極為復(fù)雜且耗費(fèi)資源的。

    3 適用性分析

    目前,針對(duì)核電數(shù)字化儀控系統(tǒng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法仍然不成熟,還需進(jìn)行更加深入的研究。本節(jié)將針對(duì)上述CPS的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法,從動(dòng)態(tài)分析、風(fēng)險(xiǎn)評(píng)價(jià)、數(shù)據(jù)來源、核安全與網(wǎng)絡(luò)安全等方面進(jìn)行適用性分析,為選用核電數(shù)字化儀控系統(tǒng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法提供參考建議。

    3.1 動(dòng)態(tài)分析

    在對(duì)CPS進(jìn)行風(fēng)險(xiǎn)分析時(shí),基于公式的方法無法清晰顯示系統(tǒng)內(nèi)邏輯關(guān)系,因此大多采用基于模型的方法。無論是基于非圖形模型的方法還是基于圖形模型的方法,大多是基于威脅或漏洞對(duì)所要研究的系統(tǒng)進(jìn)行建模。對(duì)于核電數(shù)字化儀控系統(tǒng)而言,所遭受的攻擊很可能是未知的,并且在核電數(shù)字化儀控系統(tǒng)的全生命周期中可能需要對(duì)系統(tǒng)進(jìn)行部分升級(jí)。因此,若要選擇適用于核電數(shù)字化儀控系統(tǒng)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法,以動(dòng)態(tài)分析方法為宜。

    由于歷史數(shù)據(jù)的稀少及攻擊方式的不可預(yù)見性,文獻(xiàn)[18]采用多級(jí)BN對(duì)系統(tǒng)進(jìn)行建模,利用攻擊和系統(tǒng)狀態(tài)預(yù)測(cè)潛在危險(xiǎn)事件的發(fā)生,動(dòng)態(tài)生成網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。該概率方法可以較好地處理未知風(fēng)險(xiǎn)。

    在調(diào)研的文獻(xiàn)中,所建立的模型大多適用于確定系統(tǒng),在系統(tǒng)發(fā)生變化時(shí)大多需要對(duì)方法進(jìn)行調(diào)整。因此,可針對(duì)性地設(shè)計(jì)一種動(dòng)態(tài)分析方法,以應(yīng)對(duì)系統(tǒng)發(fā)生變化后的風(fēng)險(xiǎn)分析。如文獻(xiàn)[13]所采用的BDMP方法使用一種特殊類型的鏈接對(duì)系統(tǒng)的動(dòng)態(tài)特性進(jìn)行建模。當(dāng)然,還應(yīng)考慮采用這樣一種適應(yīng)系統(tǒng)變化情況的風(fēng)險(xiǎn)動(dòng)態(tài)分析方法,與在系統(tǒng)發(fā)生變化后重新使用靜態(tài)風(fēng)險(xiǎn)分析方法進(jìn)行成本問題的分析評(píng)估,針對(duì)不同系統(tǒng)采用不同的建模方法。

    3.2 風(fēng)險(xiǎn)評(píng)價(jià)

    在選擇適用的風(fēng)險(xiǎn)分析方法時(shí),一項(xiàng)重要的內(nèi)容就是如何對(duì)風(fēng)險(xiǎn)進(jìn)行評(píng)價(jià)。風(fēng)險(xiǎn)評(píng)價(jià)的意義是將系統(tǒng)內(nèi)各個(gè)風(fēng)險(xiǎn)進(jìn)行排序,在有限資源的情況下選擇較大的風(fēng)險(xiǎn)并實(shí)施相應(yīng)防范措施,從而更大限度地降低系統(tǒng)風(fēng)險(xiǎn)。

    對(duì)于核電數(shù)字化儀控系統(tǒng)而言,評(píng)價(jià)標(biāo)準(zhǔn)首先考慮系統(tǒng)的可用性。系統(tǒng)可用性通常通過損失情況來表示。文獻(xiàn)[6]所采用的平均故障成本法,通過評(píng)估每個(gè)涉眾所承受的損失來評(píng)估系統(tǒng)的可用性。文獻(xiàn)[7]利用風(fēng)險(xiǎn)矩陣計(jì)算風(fēng)險(xiǎn)評(píng)分后得到的五個(gè)信任級(jí)別來表示系統(tǒng)可用性的受損程度。此外,還可以采用一些評(píng)價(jià)指標(biāo)對(duì)風(fēng)險(xiǎn)進(jìn)行評(píng)價(jià)。這些指標(biāo)可表示系統(tǒng)的風(fēng)險(xiǎn)水平。文獻(xiàn)[10]通過由嚴(yán)重程度和可能性兩個(gè)因素共同決定的網(wǎng)絡(luò)安全臨界數(shù)來評(píng)價(jià)風(fēng)險(xiǎn)。GB/T 36466—2018規(guī)定:風(fēng)險(xiǎn)是由安全事件發(fā)生的可能性及安全事件造成的損失共同決定的。

    3.3 數(shù)據(jù)來源

    在對(duì)核電數(shù)字化儀控系統(tǒng)網(wǎng)絡(luò)安全進(jìn)行風(fēng)險(xiǎn)評(píng)估時(shí),需要對(duì)一定的數(shù)據(jù)進(jìn)行計(jì)算,以實(shí)現(xiàn)風(fēng)險(xiǎn)評(píng)級(jí)或給出風(fēng)險(xiǎn)分?jǐn)?shù)。所采用的數(shù)據(jù)來源包括歷史數(shù)據(jù)、實(shí)際數(shù)據(jù)和專家意見。

    采用歷史和實(shí)際數(shù)據(jù)通??蛇M(jìn)行定量分析,比如在使用概率進(jìn)行分析的方法中,方法的準(zhǔn)確度依賴于概率的質(zhì)量。而在理想狀態(tài)下,概率應(yīng)來自客觀的經(jīng)驗(yàn)數(shù)據(jù)。核電儀控領(lǐng)域遭受網(wǎng)絡(luò)攻擊數(shù)據(jù)極少,且復(fù)雜系統(tǒng)可遭受攻擊的薄弱環(huán)節(jié)可能存在于系統(tǒng)的方方面面,因此威脅很可能是未知的。這使得該類數(shù)據(jù)無法對(duì)某些風(fēng)險(xiǎn)進(jìn)行準(zhǔn)確分析。

    采用專家意見進(jìn)行風(fēng)險(xiǎn)評(píng)級(jí)可實(shí)現(xiàn)定性分析,但這又使得風(fēng)險(xiǎn)分析結(jié)果變得相對(duì)主觀,且相應(yīng)方法中缺少專家評(píng)定的細(xì)節(jié)。這會(huì)對(duì)風(fēng)險(xiǎn)評(píng)價(jià)的準(zhǔn)確性造成影響,導(dǎo)致無法反映風(fēng)險(xiǎn)的真實(shí)情況。

    因此,對(duì)于核電數(shù)字化儀控系統(tǒng)而言,將歷史和實(shí)際數(shù)據(jù)與專家意見相結(jié)合的方法可以在一定程度上克服兩種數(shù)據(jù)來源各自的局限性,有利于對(duì)網(wǎng)絡(luò)攻擊所造成的真實(shí)風(fēng)險(xiǎn)水平進(jìn)行分析。

    3.4 核安全與網(wǎng)絡(luò)安全

    對(duì)于核電數(shù)字化儀控系統(tǒng)而言,核安全與網(wǎng)絡(luò)安全是相互依賴的,無論是突發(fā)事故還是惡意攻擊,最終都可能對(duì)系統(tǒng)資產(chǎn)(包括人員、財(cái)產(chǎn)、環(huán)境及服務(wù))造成損害。核安全與網(wǎng)絡(luò)安全的主要區(qū)別在于風(fēng)險(xiǎn)的來源,因此需采用不同的風(fēng)險(xiǎn)分析方法及標(biāo)準(zhǔn)。對(duì)于核安全而言,考慮由系統(tǒng)故障或某些意外條件的組合而導(dǎo)致的損害,損害情況通常是已知的、可以預(yù)測(cè)的。對(duì)于網(wǎng)絡(luò)安全而言,考慮由于系統(tǒng)存在薄弱環(huán)節(jié),網(wǎng)絡(luò)攻擊對(duì)系統(tǒng)的重要資產(chǎn)及操作產(chǎn)生的影響、威脅很可能是未知的、難以預(yù)測(cè)的。

    在選擇針對(duì)兩種安全性的風(fēng)險(xiǎn)分析方法時(shí),需要考慮兩種安全性之間的交互關(guān)系。文獻(xiàn)[24]將其歸納為四種。①條件依賴:滿足其中一種安全要求即滿足另一種安全要求。②相互強(qiáng)化:其中一種安全要求的實(shí)現(xiàn)有助于另一種安全要求的實(shí)現(xiàn)。③對(duì)抗:同時(shí)考慮兩種安全性要求時(shí),兩種安全要求會(huì)發(fā)生沖突。④相互獨(dú)立:兩種安全要求沒有相關(guān)性。

    在對(duì)核電數(shù)字化儀控系統(tǒng)安全性進(jìn)行風(fēng)險(xiǎn)分析時(shí),為了減輕系統(tǒng)所承受的風(fēng)險(xiǎn),應(yīng)該將核安全與網(wǎng)絡(luò)安全相結(jié)合進(jìn)行風(fēng)險(xiǎn)分析。在此,有兩種方法可以考慮。其一是從威脅出發(fā),對(duì)風(fēng)險(xiǎn)場(chǎng)景進(jìn)行建模,然后設(shè)計(jì)風(fēng)險(xiǎn)場(chǎng)景評(píng)估方法。例如,文獻(xiàn)[17]將適用于核安全的蝴蝶結(jié)方法與適用于網(wǎng)絡(luò)安全的AT方法相結(jié)合,建模風(fēng)險(xiǎn)場(chǎng)景,然后對(duì)風(fēng)險(xiǎn)進(jìn)行評(píng)級(jí)。其二是從薄弱環(huán)節(jié)出發(fā),對(duì)系統(tǒng)進(jìn)行建模,以識(shí)別不安全的控制行為,對(duì)不安全的控制行為進(jìn)行風(fēng)險(xiǎn)分析,例如基于STPA的方法。其中:前者關(guān)注組件故障,建模方法及形式簡(jiǎn)單,所考慮的威脅通常為已知威脅;后者建模過程相對(duì)復(fù)雜,建模相對(duì)困難,除了組件故障還考慮組件間的相互影響,除了已知威脅還可考慮未知威脅。

    4 結(jié)論

    計(jì)算機(jī)和網(wǎng)絡(luò)的核電數(shù)字化儀控系統(tǒng)在提高核電廠可靠性、降低使用和維護(hù)成本、便于運(yùn)行操作的同時(shí),也存在遭受網(wǎng)絡(luò)攻擊的風(fēng)險(xiǎn)。因此,需要使用合適的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法對(duì)其進(jìn)行風(fēng)險(xiǎn)分析。針對(duì)核電數(shù)字化儀控系統(tǒng)的網(wǎng)絡(luò)安全問題,國(guó)內(nèi)外發(fā)布了一系列標(biāo)準(zhǔn)和指南,作為有效開展網(wǎng)絡(luò)安全防護(hù)的要求和基礎(chǔ)。

    本文將網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法分為基于公式方法和基于模型方法(包括非圖形模型和圖形模型)這兩類進(jìn)行文獻(xiàn)綜述,并從動(dòng)態(tài)分析、風(fēng)險(xiǎn)評(píng)價(jià)、數(shù)據(jù)來源、核安全與網(wǎng)絡(luò)安全四個(gè)方面對(duì)核電數(shù)字化儀控系統(tǒng)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法進(jìn)行了適用性分析,為核電數(shù)字化儀控系統(tǒng)選用適當(dāng)?shù)木W(wǎng)絡(luò)安全風(fēng)險(xiǎn)分析方法提供了參考。

    猜你喜歡
    控系統(tǒng)分析方法網(wǎng)絡(luò)安全
    基于EMD的MEMS陀螺儀隨機(jī)漂移分析方法
    關(guān)于DALI燈控系統(tǒng)的問答精選
    聯(lián)調(diào)聯(lián)試中列控系統(tǒng)兼容性問題探討
    一種角接觸球軸承靜特性分析方法
    中國(guó)設(shè)立PSSA的可行性及其分析方法
    網(wǎng)絡(luò)安全
    網(wǎng)絡(luò)安全人才培養(yǎng)應(yīng)“實(shí)戰(zhàn)化”
    上網(wǎng)時(shí)如何注意網(wǎng)絡(luò)安全?
    一種新型列控系統(tǒng)方案探討
    我國(guó)擬制定網(wǎng)絡(luò)安全法
    聲屏世界(2015年7期)2015-02-28 15:20:13
    国产成人啪精品午夜网站| 精品欧美一区二区三区在线| xxxhd国产人妻xxx| 国产片特级美女逼逼视频| 又紧又爽又黄一区二区| 另类亚洲欧美激情| 黄色 视频免费看| 精品视频人人做人人爽| 国产成人精品无人区| 色婷婷av一区二区三区视频| 大片免费播放器 马上看| 又紧又爽又黄一区二区| 欧美老熟妇乱子伦牲交| 最新的欧美精品一区二区| 又粗又硬又长又爽又黄的视频| 国产成人av激情在线播放| 侵犯人妻中文字幕一二三四区| 999久久久国产精品视频| 欧美人与善性xxx| 嫁个100分男人电影在线观看 | 天天影视国产精品| 大话2 男鬼变身卡| xxx大片免费视频| 最新在线观看一区二区三区 | 国产一级毛片在线| 十八禁高潮呻吟视频| 国产精品.久久久| 国产精品偷伦视频观看了| 国产精品欧美亚洲77777| 亚洲精品日本国产第一区| 午夜免费成人在线视频| 午夜福利免费观看在线| 成人国语在线视频| av不卡在线播放| 精品亚洲成a人片在线观看| 国产男女超爽视频在线观看| 中文字幕人妻熟女乱码| 好男人视频免费观看在线| 国产精品久久久久久精品古装| 免费少妇av软件| 免费高清在线观看日韩| 国产精品人妻久久久影院| 一区二区三区乱码不卡18| 天天躁夜夜躁狠狠躁躁| 亚洲九九香蕉| 免费久久久久久久精品成人欧美视频| 一边摸一边抽搐一进一出视频| videos熟女内射| 性高湖久久久久久久久免费观看| 欧美成狂野欧美在线观看| 精品第一国产精品| 每晚都被弄得嗷嗷叫到高潮| 岛国毛片在线播放| 亚洲av成人精品一二三区| 黄色怎么调成土黄色| 超碰97精品在线观看| 午夜免费观看性视频| 免费观看av网站的网址| 国产男人的电影天堂91| 国产黄色视频一区二区在线观看| 久久毛片免费看一区二区三区| 日本a在线网址| 大码成人一级视频| 一级黄色大片毛片| 日本黄色日本黄色录像| 欧美日韩一级在线毛片| 亚洲欧美一区二区三区久久| 国产亚洲av片在线观看秒播厂| 精品少妇黑人巨大在线播放| 久久九九热精品免费| 天堂8中文在线网| 蜜桃国产av成人99| 大陆偷拍与自拍| 久久精品久久久久久噜噜老黄| 亚洲精品久久午夜乱码| 国产深夜福利视频在线观看| 欧美xxⅹ黑人| 婷婷丁香在线五月| 欧美成人午夜精品| 日韩熟女老妇一区二区性免费视频| 青草久久国产| 色播在线永久视频| 亚洲欧美色中文字幕在线| 肉色欧美久久久久久久蜜桃| 在线av久久热| 亚洲精品一卡2卡三卡4卡5卡 | 午夜免费观看性视频| av网站免费在线观看视频| 午夜久久久在线观看| 下体分泌物呈黄色| 精品人妻熟女毛片av久久网站| 久久精品成人免费网站| 国产精品免费大片| 一区二区三区激情视频| 女人久久www免费人成看片| cao死你这个sao货| 黄片播放在线免费| 日本五十路高清| 中文字幕人妻丝袜制服| 中文精品一卡2卡3卡4更新| 亚洲 欧美一区二区三区| 亚洲国产成人一精品久久久| 亚洲中文av在线| 老司机午夜十八禁免费视频| 黄色怎么调成土黄色| a 毛片基地| 9热在线视频观看99| 午夜91福利影院| 夜夜骑夜夜射夜夜干| 亚洲专区国产一区二区| www.自偷自拍.com| 另类亚洲欧美激情| 国产男女超爽视频在线观看| 免费观看人在逋| 十八禁人妻一区二区| 18禁黄网站禁片午夜丰满| 国产男女内射视频| 亚洲 欧美一区二区三区| 午夜激情av网站| 亚洲av在线观看美女高潮| av在线app专区| 国产精品久久久人人做人人爽| 99国产精品免费福利视频| 天天操日日干夜夜撸| 久久久久精品国产欧美久久久 | 婷婷成人精品国产| 免费观看av网站的网址| 啦啦啦在线观看免费高清www| 午夜91福利影院| 亚洲第一av免费看| 亚洲第一青青草原| 精品国产一区二区久久| 一级a爱视频在线免费观看| 黄片小视频在线播放| 日韩伦理黄色片| 亚洲成人手机| av在线老鸭窝| 久久99精品国语久久久| 精品少妇久久久久久888优播| 欧美亚洲日本最大视频资源| 国产精品.久久久| 99久久精品国产亚洲精品| 老司机影院成人| 日本91视频免费播放| 久久久久久久久久久久大奶| 脱女人内裤的视频| 国产一区有黄有色的免费视频| 男女免费视频国产| 亚洲精品av麻豆狂野| 好男人电影高清在线观看| 国产熟女欧美一区二区| 少妇的丰满在线观看| 亚洲 欧美一区二区三区| av在线app专区| 国产伦理片在线播放av一区| 大型av网站在线播放| 中文字幕最新亚洲高清| 乱人伦中国视频| 国产成人精品久久久久久| 欧美黄色淫秽网站| 在线观看www视频免费| 夫妻性生交免费视频一级片| 熟女少妇亚洲综合色aaa.| 在线观看www视频免费| 视频区欧美日本亚洲| 少妇的丰满在线观看| 侵犯人妻中文字幕一二三四区| 中文字幕人妻丝袜一区二区| 又粗又硬又长又爽又黄的视频| 下体分泌物呈黄色| 日韩熟女老妇一区二区性免费视频| 在线观看免费午夜福利视频| 水蜜桃什么品种好| 午夜福利,免费看| 日本av免费视频播放| 午夜福利视频精品| 国产免费又黄又爽又色| 国产免费福利视频在线观看| 国产亚洲午夜精品一区二区久久| 超碰97精品在线观看| 欧美日本中文国产一区发布| 精品一区二区三区四区五区乱码 | 亚洲国产精品999| 日韩一卡2卡3卡4卡2021年| 高清欧美精品videossex| av欧美777| 99香蕉大伊视频| 国产在视频线精品| 丁香六月天网| 免费人妻精品一区二区三区视频| 亚洲精品av麻豆狂野| 亚洲精品在线美女| 日本五十路高清| 一级片免费观看大全| 精品第一国产精品| 国产一区有黄有色的免费视频| 男女免费视频国产| 国产免费视频播放在线视频| 午夜福利一区二区在线看| 伊人亚洲综合成人网| 国产99久久九九免费精品| 亚洲第一av免费看| 免费在线观看黄色视频的| 成年人午夜在线观看视频| 中文字幕人妻丝袜一区二区| 精品久久蜜臀av无| 好男人电影高清在线观看| 天天躁夜夜躁狠狠久久av| 高潮久久久久久久久久久不卡| av天堂在线播放| 婷婷色麻豆天堂久久| 啦啦啦在线免费观看视频4| 在线观看一区二区三区激情| 国产欧美日韩综合在线一区二区| 久久久久国产精品人妻一区二区| 久久久久精品人妻al黑| 中文精品一卡2卡3卡4更新| 精品福利观看| 久久人妻熟女aⅴ| 校园人妻丝袜中文字幕| 国产免费又黄又爽又色| 视频区图区小说| 欧美精品亚洲一区二区| 51午夜福利影视在线观看| xxxhd国产人妻xxx| 宅男免费午夜| 欧美中文综合在线视频| 久久久国产欧美日韩av| 在线观看免费午夜福利视频| 在线观看www视频免费| 香蕉丝袜av| 黄色怎么调成土黄色| 美女中出高潮动态图| 操出白浆在线播放| 精品国产超薄肉色丝袜足j| 免费女性裸体啪啪无遮挡网站| 欧美中文综合在线视频| 搡老岳熟女国产| 亚洲天堂av无毛| 亚洲午夜精品一区,二区,三区| www.999成人在线观看| 一边亲一边摸免费视频| 欧美 日韩 精品 国产| 男女免费视频国产| 午夜福利影视在线免费观看| 亚洲成色77777| 少妇的丰满在线观看| 少妇粗大呻吟视频| 欧美亚洲 丝袜 人妻 在线| 老司机深夜福利视频在线观看 | 亚洲七黄色美女视频| 亚洲 欧美一区二区三区| 久久精品aⅴ一区二区三区四区| 岛国毛片在线播放| 一边亲一边摸免费视频| 999久久久国产精品视频| 男的添女的下面高潮视频| 国产激情久久老熟女| 欧美 日韩 精品 国产| 亚洲成av片中文字幕在线观看| 菩萨蛮人人尽说江南好唐韦庄| 一边摸一边抽搐一进一出视频| 18禁国产床啪视频网站| 日本猛色少妇xxxxx猛交久久| 男人爽女人下面视频在线观看| 欧美黄色片欧美黄色片| 多毛熟女@视频| 人人妻,人人澡人人爽秒播 | 国精品久久久久久国模美| 精品亚洲乱码少妇综合久久| 电影成人av| 中文字幕高清在线视频| 亚洲成av片中文字幕在线观看| 精品国产一区二区久久| 婷婷色av中文字幕| 精品一区二区三卡| 日韩精品免费视频一区二区三区| 精品一区二区三卡| av网站在线播放免费| 午夜福利影视在线免费观看| 亚洲第一av免费看| 婷婷色麻豆天堂久久| 日韩一卡2卡3卡4卡2021年| 黄色毛片三级朝国网站| 国产精品麻豆人妻色哟哟久久| 丝袜在线中文字幕| 成在线人永久免费视频| 日韩一卡2卡3卡4卡2021年| 亚洲自偷自拍图片 自拍| 青春草视频在线免费观看| 亚洲久久久国产精品| 视频区图区小说| 一本久久精品| 亚洲国产成人一精品久久久| 99国产精品免费福利视频| 国产欧美日韩综合在线一区二区| 国产精品一区二区免费欧美 | 我要看黄色一级片免费的| 午夜福利视频在线观看免费| 夫妻性生交免费视频一级片| 国产免费现黄频在线看| 日本wwww免费看| 丰满人妻熟妇乱又伦精品不卡| 免费一级毛片在线播放高清视频 | 最近最新中文字幕大全免费视频 | 久久人人爽人人片av| 久久久欧美国产精品| 两人在一起打扑克的视频| 超碰97精品在线观看| 丝袜在线中文字幕| 久9热在线精品视频| 亚洲精品成人av观看孕妇| 捣出白浆h1v1| 亚洲欧美日韩高清在线视频 | 国产爽快片一区二区三区| 久久精品亚洲av国产电影网| 成年人午夜在线观看视频| 久久人妻福利社区极品人妻图片 | 久久女婷五月综合色啪小说| av一本久久久久| 男人舔女人的私密视频| 欧美日韩成人在线一区二区| 亚洲精品日本国产第一区| 亚洲人成77777在线视频| 脱女人内裤的视频| 19禁男女啪啪无遮挡网站| 精品一区二区三区av网在线观看 | 国产精品免费视频内射| 一级片免费观看大全| 国产老妇伦熟女老妇高清| 人人妻人人澡人人爽人人夜夜| 亚洲国产精品一区三区| 亚洲成人国产一区在线观看 | 欧美人与善性xxx| 国产高清国产精品国产三级| 久久精品熟女亚洲av麻豆精品| 老司机午夜十八禁免费视频| 精品人妻一区二区三区麻豆| 国产一区二区在线观看av| 欧美日韩亚洲高清精品| 两性夫妻黄色片| 日韩中文字幕欧美一区二区 | 女人被躁到高潮嗷嗷叫费观| 欧美人与性动交α欧美精品济南到| 亚洲精品一卡2卡三卡4卡5卡 | 亚洲av国产av综合av卡| 曰老女人黄片| 麻豆av在线久日| 手机成人av网站| 男女免费视频国产| a级毛片黄视频| 亚洲av日韩在线播放| 午夜91福利影院| 亚洲av电影在线进入| 久久 成人 亚洲| 看免费成人av毛片| 男男h啪啪无遮挡| 看免费成人av毛片| 美女福利国产在线| 色94色欧美一区二区| 少妇猛男粗大的猛烈进出视频| 亚洲国产精品999| 国产日韩一区二区三区精品不卡| 1024香蕉在线观看| av一本久久久久| av欧美777| 欧美中文综合在线视频| 国产不卡av网站在线观看| 久久久精品94久久精品| 日本欧美视频一区| 国产精品三级大全| 午夜福利乱码中文字幕| 多毛熟女@视频| 80岁老熟妇乱子伦牲交| 久久久国产一区二区| 日本91视频免费播放| 一本色道久久久久久精品综合| av天堂在线播放| 亚洲av男天堂| 免费黄频网站在线观看国产| 一本色道久久久久久精品综合| 97在线人人人人妻| 亚洲精品乱久久久久久| 天天影视国产精品| 国产精品欧美亚洲77777| 国产av一区二区精品久久| 亚洲欧洲日产国产| 亚洲精品久久成人aⅴ小说| 高清av免费在线| 欧美精品高潮呻吟av久久| 可以免费在线观看a视频的电影网站| av天堂在线播放| 女人精品久久久久毛片| 午夜影院在线不卡| 国产精品免费大片| 黄片小视频在线播放| 青青草视频在线视频观看| 亚洲男人天堂网一区| 久久久久久久精品精品| 国产一区二区激情短视频 | 免费在线观看影片大全网站 | 精品少妇一区二区三区视频日本电影| 日韩一本色道免费dvd| 一边摸一边做爽爽视频免费| 久久九九热精品免费| 国产精品久久久久久精品古装| 纵有疾风起免费观看全集完整版| av不卡在线播放| 国产女主播在线喷水免费视频网站| 亚洲国产最新在线播放| 亚洲av电影在线进入| 日韩免费高清中文字幕av| 精品国产乱码久久久久久男人| 欧美日韩国产mv在线观看视频| 免费在线观看完整版高清| 国产一区二区 视频在线| 国产精品二区激情视频| 中文字幕高清在线视频| 亚洲欧美一区二区三区黑人| 侵犯人妻中文字幕一二三四区| 日韩人妻精品一区2区三区| 国产精品久久久久久精品电影小说| 成年美女黄网站色视频大全免费| 欧美性长视频在线观看| 中文字幕人妻丝袜制服| 狂野欧美激情性bbbbbb| 一区在线观看完整版| 午夜精品国产一区二区电影| 99热网站在线观看| 男女无遮挡免费网站观看| 激情五月婷婷亚洲| 亚洲精品国产av蜜桃| 色精品久久人妻99蜜桃| 国产99久久九九免费精品| 午夜福利视频在线观看免费| 男人舔女人的私密视频| 中文字幕另类日韩欧美亚洲嫩草| 啦啦啦在线观看免费高清www| 9热在线视频观看99| av有码第一页| 国产精品免费大片| 97在线人人人人妻| 大香蕉久久成人网| 不卡av一区二区三区| 精品人妻熟女毛片av久久网站| 一区二区av电影网| 一边摸一边抽搐一进一出视频| 国产欧美亚洲国产| 搡老乐熟女国产| 亚洲图色成人| 亚洲精品久久久久久婷婷小说| 一区二区三区乱码不卡18| 久久久精品免费免费高清| 国产极品粉嫩免费观看在线| 黄网站色视频无遮挡免费观看| 亚洲一码二码三码区别大吗| 热99国产精品久久久久久7| 日韩av在线免费看完整版不卡| 下体分泌物呈黄色| 欧美精品一区二区免费开放| av线在线观看网站| 一本—道久久a久久精品蜜桃钙片| 国产精品久久久av美女十八| 精品一区在线观看国产| 精品少妇黑人巨大在线播放| 国产成人精品久久二区二区免费| 欧美日韩亚洲综合一区二区三区_| 高清欧美精品videossex| 日本a在线网址| 亚洲精品第二区| 亚洲美女黄色视频免费看| 亚洲av成人不卡在线观看播放网 | 黄色毛片三级朝国网站| 51午夜福利影视在线观看| 一级黄片播放器| 观看av在线不卡| 精品亚洲成a人片在线观看| 欧美中文综合在线视频| 成年人免费黄色播放视频| 好男人视频免费观看在线| 成在线人永久免费视频| 97人妻天天添夜夜摸| 国产黄频视频在线观看| 国产成人欧美| 欧美黄色淫秽网站| 18禁国产床啪视频网站| av国产久精品久网站免费入址| 日本a在线网址| 建设人人有责人人尽责人人享有的| 日本午夜av视频| 十八禁高潮呻吟视频| √禁漫天堂资源中文www| 亚洲精品美女久久av网站| 女人爽到高潮嗷嗷叫在线视频| 免费观看av网站的网址| 欧美性长视频在线观看| 欧美成狂野欧美在线观看| 极品少妇高潮喷水抽搐| 精品久久蜜臀av无| 国产精品二区激情视频| 高清欧美精品videossex| 国产精品 国内视频| 午夜视频精品福利| 大码成人一级视频| 久久精品国产亚洲av涩爱| 亚洲国产欧美网| 亚洲黑人精品在线| 欧美 日韩 精品 国产| 国产成人免费观看mmmm| 国产精品香港三级国产av潘金莲 | 成年人免费黄色播放视频| 欧美人与性动交α欧美软件| 久久精品亚洲av国产电影网| 亚洲成人免费av在线播放| av一本久久久久| 亚洲国产日韩一区二区| 久久久久网色| 日本av免费视频播放| 无遮挡黄片免费观看| 久久ye,这里只有精品| 性高湖久久久久久久久免费观看| 在现免费观看毛片| 国产一区二区三区av在线| 丝瓜视频免费看黄片| 亚洲国产欧美在线一区| 免费在线观看完整版高清| 国语对白做爰xxxⅹ性视频网站| 欧美在线一区亚洲| 18禁观看日本| 国产男女内射视频| 亚洲av日韩精品久久久久久密 | 老司机影院毛片| 手机成人av网站| 操出白浆在线播放| 精品人妻在线不人妻| 日日摸夜夜添夜夜爱| 少妇裸体淫交视频免费看高清 | 亚洲av成人不卡在线观看播放网 | 一二三四在线观看免费中文在| 欧美成狂野欧美在线观看| 少妇精品久久久久久久| 两个人看的免费小视频| 久久人妻福利社区极品人妻图片 | 亚洲欧美成人综合另类久久久| 欧美在线黄色| 日日摸夜夜添夜夜爱| 在线看a的网站| 欧美日韩亚洲高清精品| 久久久精品国产亚洲av高清涩受| 丝袜喷水一区| 国产视频首页在线观看| 日韩熟女老妇一区二区性免费视频| 欧美性长视频在线观看| 99香蕉大伊视频| 男女无遮挡免费网站观看| 色视频在线一区二区三区| 免费观看av网站的网址| 久久精品久久久久久久性| 老司机午夜十八禁免费视频| 亚洲第一青青草原| 欧美 亚洲 国产 日韩一| 日本av免费视频播放| 欧美97在线视频| 制服人妻中文乱码| 肉色欧美久久久久久久蜜桃| 丝袜在线中文字幕| 日韩av免费高清视频| 在线天堂中文资源库| 手机成人av网站| 久久这里只有精品19| 午夜福利一区二区在线看| 欧美日韩国产mv在线观看视频| 肉色欧美久久久久久久蜜桃| 蜜桃国产av成人99| 婷婷丁香在线五月| 岛国毛片在线播放| 老司机在亚洲福利影院| 精品一区二区三区四区五区乱码 | 一区二区三区精品91| 搡老岳熟女国产| 久久 成人 亚洲| 这个男人来自地球电影免费观看| 男人舔女人的私密视频| 久久ye,这里只有精品| 免费女性裸体啪啪无遮挡网站| 国产视频一区二区在线看| 国产97色在线日韩免费| 国产一区二区三区综合在线观看| 2021少妇久久久久久久久久久| 只有这里有精品99| av在线老鸭窝| 啦啦啦视频在线资源免费观看| cao死你这个sao货| 午夜免费成人在线视频| 50天的宝宝边吃奶边哭怎么回事| 中文字幕另类日韩欧美亚洲嫩草| 啦啦啦啦在线视频资源| 亚洲精品国产一区二区精华液| 国产一区二区激情短视频 | 一区福利在线观看| 国产免费一区二区三区四区乱码| 亚洲精品久久久久久婷婷小说| 精品亚洲成a人片在线观看| 日本av手机在线免费观看| 99国产综合亚洲精品| 国产无遮挡羞羞视频在线观看| 大码成人一级视频| 90打野战视频偷拍视频| 久久久久久免费高清国产稀缺| 大码成人一级视频| 人人妻人人澡人人爽人人夜夜| 99热全是精品| av片东京热男人的天堂| 看免费成人av毛片| 日韩一区二区三区影片|