• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于博弈論計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題研究*

    2015-06-15 17:37:51王長春陳志杰
    火力與指揮控制 2015年3期
    關(guān)鍵詞:博弈論復(fù)雜性攻擊者

    王長春,陳志杰

    (空軍裝備研究院雷達(dá)所,北京 100085)

    基于博弈論計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題研究*

    王長春,陳志杰

    (空軍裝備研究院雷達(dá)所,北京 100085)

    針對(duì)日益普遍和多樣的網(wǎng)絡(luò)攻擊行為,如何對(duì)網(wǎng)絡(luò)各種攻防過程進(jìn)行分析已逐漸成為熱點(diǎn)研究方向。在對(duì)計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題復(fù)雜性表現(xiàn)和產(chǎn)生根源進(jìn)行探討基礎(chǔ)上,從完全信息靜態(tài)博弈、完全信息動(dòng)態(tài)博弈、不完全信息靜態(tài)博弈、不完全信息動(dòng)態(tài)博弈4個(gè)視角,對(duì)計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題進(jìn)行分類論述,對(duì)各解決方法進(jìn)行了綜合比較,并對(duì)今后的研究進(jìn)行了展望。

    計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗,復(fù)雜性,博弈論,人為因素

    0 引言

    隨著計(jì)算機(jī)技術(shù)的迅猛發(fā)展,社會(huì)活動(dòng)和人類生活在各種計(jì)算機(jī)設(shè)備、網(wǎng)絡(luò)的支撐下步入了信息化時(shí)代。隨著各國軍隊(duì)大量信息化武器裝備的研制、使用,作為信息產(chǎn)生、傳輸、控制、處理主體的網(wǎng)絡(luò)也已經(jīng)成為軍事信息系統(tǒng)的神經(jīng)中樞,網(wǎng)絡(luò)的性能、狀態(tài)直接關(guān)系到軍隊(duì)的戰(zhàn)斗力,影響到整個(gè)戰(zhàn)爭機(jī)器。作為信息對(duì)抗的一個(gè)重要組成部分,計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗已經(jīng)成為了繼陸、海、空、天、電之外的第六維敵我交戰(zhàn)的主戰(zhàn)場[1]。

    目前關(guān)于計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗主要存在3種觀點(diǎn)。①“爭奪說”,認(rèn)為計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗是在信息網(wǎng)絡(luò)環(huán)境中,以網(wǎng)絡(luò)為目標(biāo),圍繞信息偵察、信息欺騙、信息攻擊,為爭奪網(wǎng)絡(luò)信息優(yōu)勢(shì)而進(jìn)行活動(dòng)的總稱;②“程序說”,認(rèn)為計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗是利用網(wǎng)絡(luò)病毒武器為主的程序攻擊活動(dòng)的總稱;③“攻防說”,認(rèn)為計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗是研究如何防御敵方攻擊破壞己方網(wǎng)絡(luò)系統(tǒng)和如何攻擊破壞敵方網(wǎng)絡(luò)系統(tǒng)的理論與技術(shù)的一門科學(xué)。概括起來,計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗可以描述為:在網(wǎng)絡(luò)空間中,利用敵方網(wǎng)絡(luò)系統(tǒng)的安全缺陷,侵入敵方網(wǎng)絡(luò),竊聽、偽造或破壞敵方信息,降低、破壞敵方網(wǎng)絡(luò)的使用效能,同時(shí)保護(hù)己方網(wǎng)絡(luò)的安全,使其可以正常發(fā)揮效能而采取的各種措施的總和。計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗的焦點(diǎn)是網(wǎng)絡(luò)信息資源的機(jī)密性、完整性、可用性和可控性,對(duì)抗的目標(biāo)是奪取制網(wǎng)絡(luò)信息權(quán)。

    網(wǎng)絡(luò)攻擊是一種人為行為,它形成的根本原因與人的利益驅(qū)動(dòng)具有很大的關(guān)系,博弈論可以較好地描述網(wǎng)絡(luò)攻防中“人”的因素對(duì)事態(tài)發(fā)展的影響。因此,基于博弈論網(wǎng)絡(luò)攻防分析技術(shù)將是一個(gè)充滿前景的研究方向。然而,目前這方面研究還沒有完整的綜述見諸報(bào)道。

    1 計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗復(fù)雜性分析

    1.1 計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗復(fù)雜性表現(xiàn)

    系統(tǒng)的復(fù)雜性來源于我們對(duì)系統(tǒng)的不認(rèn)識(shí),計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗顯示出不為我們認(rèn)識(shí)的諸多方面,本文將從不確定性、適應(yīng)性和非線性來討論其復(fù)雜性。

    1.1.1 不確定性

    一方面,隨著網(wǎng)絡(luò)技術(shù)的廣泛使用,眾多作戰(zhàn)單元通過無線電臺(tái)、光纖光纜、衛(wèi)星通信等媒體,進(jìn)行著有線連接和無線連接,計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗是真正意義上的全天候、全時(shí)辰連續(xù)作戰(zhàn),它幾乎不受任何外界自然條件的制約。另一方面,對(duì)任何一個(gè)主權(quán)國家來說,領(lǐng)土、領(lǐng)空、領(lǐng)海都可以通過一定的邊界進(jìn)行確定,但網(wǎng)絡(luò)空間與有形的物理空間不同,它是一個(gè)開放系統(tǒng),幾乎不受地域的任何限制,只要是網(wǎng)絡(luò)所能覆蓋的地方都是計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗可及空間。

    1.1.2 適應(yīng)性

    網(wǎng)絡(luò)攻擊者可以運(yùn)用網(wǎng)絡(luò)偵查手段探測攻擊目標(biāo)的突破口,然后利用信息收集手段分析、挖掘攻擊目標(biāo)的脆弱點(diǎn),并利用滲透入侵手段,實(shí)施多種攻擊,直到實(shí)現(xiàn)對(duì)對(duì)方網(wǎng)絡(luò)的破壞與控制。同時(shí),網(wǎng)絡(luò)防御者會(huì)利用各種網(wǎng)絡(luò)安全預(yù)警技術(shù),動(dòng)態(tài)監(jiān)測分析各種攻擊事件,并對(duì)已受到的攻擊能快速作出響應(yīng),在最短的時(shí)間內(nèi)修復(fù)系統(tǒng),最大限度地減少對(duì)己方網(wǎng)絡(luò)的影響。

    1.1.3 非線性

    涌現(xiàn)是有層次的,不同層次將產(chǎn)生不同的涌現(xiàn)效果,上一層次的涌現(xiàn)必由下面層次的涌現(xiàn)產(chǎn)生。在計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗過程中,網(wǎng)絡(luò)內(nèi)局部的一個(gè)微小擾動(dòng),例如有人釋放一個(gè)病毒,要是沒有相應(yīng)的預(yù)防機(jī)制,就會(huì)出現(xiàn)大面積的病毒感染現(xiàn)象,甚至人在網(wǎng)上的一次誤操作都會(huì)涌現(xiàn)為雪崩式的災(zāi)難。

    1.2 計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗復(fù)雜性產(chǎn)生根源

    復(fù)雜性產(chǎn)生的根源多種多樣,任何單一因素都不能產(chǎn)生真正的復(fù)雜性,多種因素交織在一起才有可能形成真正的復(fù)雜性。本文將從技術(shù)和人兩個(gè)視角來挖掘計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗復(fù)雜性產(chǎn)生的根源。

    1.2.1 技術(shù)因素

    一方面,從網(wǎng)絡(luò)通信平臺(tái)、網(wǎng)絡(luò)協(xié)議到網(wǎng)絡(luò)應(yīng)用服務(wù),從操作系統(tǒng)、系統(tǒng)軟件、程序設(shè)計(jì)語言到應(yīng)用軟件,從系統(tǒng)安全配置、用戶操作到安全管理等,“先天”都存在這樣或那樣的安全漏洞,只不過發(fā)現(xiàn)時(shí)間的早晚不同,對(duì)系統(tǒng)造成的危害程度不同而已。例如,操作系統(tǒng)、數(shù)據(jù)庫或應(yīng)用程序往往由幾萬行、幾十萬行程序代碼編寫而成,IBM的研究人員根據(jù)統(tǒng)計(jì)調(diào)查指出,這些程序平均每一千行代碼中就可能存在一個(gè)Bug。

    1.2.2 人為因素

    在計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗領(lǐng)域里,人、網(wǎng)、環(huán)境相結(jié)合,形成了一個(gè)系統(tǒng)。在這個(gè)系統(tǒng)中,人以資源使用者的身份出現(xiàn),是系統(tǒng)的主體,處于主導(dǎo)地位,系統(tǒng)的資源(包括軟硬件、通訊網(wǎng)、數(shù)據(jù)、信息內(nèi)容等)則是客體,而計(jì)算機(jī)網(wǎng)絡(luò)作為“神經(jīng)系統(tǒng)”通過反饋環(huán)路中把機(jī)器和人結(jié)合了起來。在計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗過程中,攻擊者會(huì)采取多種攻擊技術(shù)和手段,探測發(fā)現(xiàn)系統(tǒng)脆弱性和漏洞,不斷加以利用,以達(dá)到增大網(wǎng)絡(luò)系統(tǒng)安全風(fēng)險(xiǎn)的目的。同時(shí),防御者也會(huì)采取多種防御技術(shù)和手段,掃描發(fā)現(xiàn)網(wǎng)絡(luò)系統(tǒng)中漏洞,并及時(shí)修補(bǔ)漏洞,降低己方網(wǎng)絡(luò)系統(tǒng)的脆弱性。攻防雙方的相互依賴關(guān)系如同兩股相互糾纏的繩索,看起來有跡可循,實(shí)則難以準(zhǔn)確把握。計(jì)算網(wǎng)絡(luò)對(duì)抗過程中攻防雙方的決策相互依賴關(guān)系如圖1所示。

    圖1 計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗行動(dòng)的相互依賴關(guān)系

    計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗的本質(zhì)是網(wǎng)絡(luò)背后人與人之間的對(duì)抗。而經(jīng)過幾十萬年的進(jìn)化與演變,人的心理、行為、思維都表現(xiàn)出極為復(fù)雜的運(yùn)動(dòng)形態(tài),已遠(yuǎn)非一般的機(jī)械、物理、化學(xué)甚至生物的相互作用所能表達(dá),同其他無“人”系統(tǒng)相比,“人”在環(huán)路的系統(tǒng)是一個(gè)典型的復(fù)雜適應(yīng)系統(tǒng)。

    從上文分析可知,由于技術(shù)因素和人的因素使得計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗行動(dòng)的演化充滿了不確定性、適應(yīng)性和非線性等復(fù)雜系統(tǒng)特征。從整體上看,筆者認(rèn)為,技術(shù)因素是計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗復(fù)雜性的基礎(chǔ),而人的因素才是計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗復(fù)雜性的核心。

    2 計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗博弈模型研究

    計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗是一個(gè)復(fù)雜而具有挑戰(zhàn)性的問題,然而相互依賴的網(wǎng)絡(luò)攻擊者與防御者與進(jìn)行博弈的雙方之間存在異曲同工之處,這一屬性激發(fā)了許多研究人員致力于將博弈論引入到計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗領(lǐng)域?;诓┺挠?jì)算機(jī)網(wǎng)絡(luò)對(duì)抗建模思想是將網(wǎng)絡(luò)攻防雙方作為局中人,雙方所采取的攻防手段作為策略集合,網(wǎng)絡(luò)所處狀態(tài)為博弈狀態(tài),各個(gè)狀態(tài)采取行動(dòng)所獲得的利益為局中人的收益值。下面,首先從博弈論視角來對(duì)相關(guān)研究進(jìn)行總結(jié),接著進(jìn)一步對(duì)4類計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗博弈模型進(jìn)行綜合分析。

    2.1 基于完全信息靜態(tài)博弈的計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗

    Jormokka等人運(yùn)用博弈論對(duì)信息戰(zhàn)進(jìn)行建模[2],并針對(duì)恐怖分子博弈、為惡者博弈、故意破壞者博弈、背叛博弈4種計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗情景進(jìn)行研究,分析得到大膽對(duì)抗策略如何獲得優(yōu)勢(shì)?混合博弈策略如何減少優(yōu)勢(shì)?過度占優(yōu)策略可能導(dǎo)致對(duì)抗結(jié)果反彈等結(jié)論。Basar采用一個(gè)方差扭曲變量R(γ,δ,μ)來描述網(wǎng)絡(luò)干擾過程的效用函數(shù)[3],其中,γ,δ,μ分別表示轉(zhuǎn)發(fā)策略、接受者策略和干擾者策略。由于接受者、轉(zhuǎn)發(fā)者和干擾者目標(biāo)函數(shù)之間的沖突關(guān)系,最后得到一個(gè)鞍點(diǎn)(γ*,δ*,μ*)作為最優(yōu)策略。具體來說,干擾者最優(yōu)策略是選擇一個(gè)泄露信號(hào)線性函數(shù)的干擾信號(hào),或者根據(jù)區(qū)域參數(shù)選擇一個(gè)獨(dú)立高斯噪聲信號(hào)。轉(zhuǎn)發(fā)者最優(yōu)策略是通過線性轉(zhuǎn)換將輸入信號(hào)進(jìn)行放大,接受者最優(yōu)策略是利用Bayes進(jìn)行估計(jì)。Kashyap運(yùn)用零和交互信息博弈對(duì)MIMO高斯信號(hào)衰退進(jìn)行研究[4],發(fā)現(xiàn)譯碼器鞍點(diǎn)策略是循環(huán)轉(zhuǎn)發(fā)一些對(duì)稱的復(fù)雜高斯信號(hào),干擾者最優(yōu)策略是注入一個(gè)對(duì)稱循環(huán)高斯信號(hào),且不管干擾者是否有權(quán)使用信道輸入都能對(duì)通信網(wǎng)絡(luò)造成很大損失。Carin等人針對(duì)關(guān)鍵私人信息基礎(chǔ)設(shè)施和公共基礎(chǔ)設(shè)施防御問題[5],運(yùn)用博弈框架提出一種計(jì)算機(jī)安全最優(yōu)投資策略定量風(fēng)險(xiǎn)評(píng)估方法。Bistareli等人提出了一種定性與定量相結(jié)合的信息安全投資評(píng)估方法[6],分別計(jì)算攻擊者和防護(hù)者的投資回報(bào)率,進(jìn)而為管理員進(jìn)行安全投資提供依據(jù)。

    2.2 基于不完全信息靜態(tài)博弈的計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗

    Saad等人運(yùn)用聯(lián)合博弈模型對(duì)無線網(wǎng)絡(luò)物理層安全性問題進(jìn)行建模,考慮在限定安全費(fèi)用基礎(chǔ)上,使其安全容量最大化[7]。研究發(fā)現(xiàn)如果物理層安全的聯(lián)合博弈問題存在最優(yōu)策略,那么其最優(yōu)穩(wěn)定分割策略為Dc,否則,其最優(yōu)穩(wěn)定分割策略為Dhp。王浩云提出一種不完全信息條件下P2P網(wǎng)絡(luò)節(jié)點(diǎn)行為策略模型[8],分析網(wǎng)絡(luò)中各類型節(jié)點(diǎn)自身策略調(diào)整算法以及采取背叛策略的條件,并模擬節(jié)點(diǎn)行為的演化過程。Liu等人[9]為推斷攻擊者意圖、目標(biāo)和策略,采取經(jīng)濟(jì)學(xué)激勵(lì)概念建立分布式拒絕服務(wù)攻擊與網(wǎng)絡(luò)管理者之間的博弈模型,并運(yùn)用網(wǎng)絡(luò)寬帶參數(shù)來對(duì)攻擊和防御策略效果進(jìn)行測度。接著,針對(duì)64臺(tái)主機(jī)組成的網(wǎng)絡(luò),運(yùn)用NS-2仿真平臺(tái)對(duì)計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗Bayesian博弈模型進(jìn)行驗(yàn)證,得到攻防策略與所采用入侵檢測系統(tǒng)精確性有關(guān),也與攻擊者行動(dòng)的關(guān)聯(lián)性有關(guān)。Huseyiin等學(xué)者提出了一種基于博弈論的經(jīng)濟(jì)優(yōu)化模型[10],將組織和攻擊者看作博弈雙方,且博弈雙方所獲支付是關(guān)于IDS和防火墻系統(tǒng)的性能參數(shù)、組織特征參數(shù)以及攻擊者特征參數(shù)的函數(shù)。Liu等人針對(duì)移動(dòng)自組織網(wǎng)絡(luò)的入侵檢測問題,運(yùn)用Bayesian博弈模型對(duì)攻防雙方進(jìn)行建模[11],分析靜態(tài)情境下的納什均衡策略,得到一些有管理意義的結(jié)論。

    2.3 基于完全信息動(dòng)態(tài)博弈的計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗

    2.4 基于不完全信息動(dòng)態(tài)博弈的計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗

    Alpcan等人從優(yōu)化和控制兩個(gè)視角研究網(wǎng)絡(luò)堵塞、無線傳感器能量控制策略設(shè)計(jì)問題,發(fā)現(xiàn)在博弈問題求解過程中得到庸俗策略和混亂策略是不可避免的,認(rèn)為通過設(shè)計(jì)一個(gè)價(jià)格反饋控制系統(tǒng)可以使控制策略更加具有魯棒性,進(jìn)而使系統(tǒng)演化過程更加具有可控性[20]。Alpcan和Basar運(yùn)用一個(gè)零和馬爾可夫安全博弈模型對(duì)網(wǎng)絡(luò)惡意攻擊和入侵檢測系統(tǒng)進(jìn)行建模[21]。文中假設(shè)對(duì)攻擊者策略只有部分信息或者間接信息,并且運(yùn)用馬爾可夫決策過程的價(jià)值迭代、minmax-Q、樸實(shí)Q-學(xué)習(xí)算法對(duì)問題進(jìn)行了數(shù)值實(shí)驗(yàn)。Bloem等人假設(shè)響應(yīng)函數(shù)是關(guān)于費(fèi)用的嚴(yán)格單調(diào)凸函數(shù),運(yùn)用連續(xù)博弈對(duì)入侵檢測問題進(jìn)行建模[22],通過將攻防策略離散化后原問題就變成了一個(gè)具有約束條件的整數(shù)規(guī)劃問題。針對(duì)網(wǎng)絡(luò)病毒傳播問題,Chen建立了一個(gè)最小-最大零和博弈模型,分析得到防御者最優(yōu)策略是在整個(gè)IP空間內(nèi)和整個(gè)計(jì)算網(wǎng)絡(luò)空間內(nèi)均勻地分配防御力量,攻擊者最優(yōu)策略是均勻地進(jìn)行掃描[23]。Patcha等人將移動(dòng)自組織網(wǎng)絡(luò)中攻擊節(jié)點(diǎn)和入侵檢測系統(tǒng)之間的相互關(guān)系視為一種對(duì)抗博弈關(guān)系[24],建立一個(gè)多階段動(dòng)態(tài)非合作博弈模型。在Bohme和Moore研究中[25],作者從經(jīng)濟(jì)學(xué)視角建立了一個(gè)網(wǎng)絡(luò)安全投資問題的動(dòng)態(tài)交互模型,這個(gè)模型可以反映防御者和攻擊者之間交互關(guān)系,并且攻擊者總是試圖對(duì)最薄弱的地方進(jìn)行攻擊。北京理工大學(xué)胡光俊將入侵者與誘騙系統(tǒng)視為博弈模型中的局中人,結(jié)合不完全信息動(dòng)態(tài)博弈理論[26],探討計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗環(huán)境下誘騙系統(tǒng)各階段信息獲取策略的特點(diǎn)。中國科學(xué)技術(shù)大學(xué)賈春福針對(duì)網(wǎng)絡(luò)攻防中的不確定性和動(dòng)態(tài)性,提出一種基于不完全信息的動(dòng)態(tài)博弈網(wǎng)絡(luò)攻防模型,證明其均衡策略的存在性[27]。哈爾濱工業(yè)大學(xué)姜偉博士在對(duì)網(wǎng)絡(luò)攻防策略分類及其成本量化基礎(chǔ)上[28],提出網(wǎng)絡(luò)主動(dòng)對(duì)抗的靜態(tài)和隨機(jī)博弈模型,并給出各種模型的求解算法。

    2.5 計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗模型綜合比較

    筆者認(rèn)為在對(duì)計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題進(jìn)行建模時(shí),所選擇模型與以下兩個(gè)因素有關(guān):①信息量。防御者對(duì)攻擊行為特征所掌握信息量越多,那么模型中的不確定性就越少,所建立的模型就可以越簡單;②響應(yīng)速度。當(dāng)防御者發(fā)現(xiàn)網(wǎng)絡(luò)中存在攻擊行為時(shí),如果防御者采取響應(yīng)策略的反應(yīng)時(shí)間很長,那么網(wǎng)絡(luò)狀態(tài)可能已經(jīng)發(fā)生變化,甚至已經(jīng)造成了無可挽回的后果。根據(jù)這兩個(gè)因素,將基于博弈論的計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗行動(dòng)模型劃分9個(gè)區(qū)域,如圖2所示。

    圖2 計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗博弈模型選擇依據(jù)

    在第9個(gè)區(qū)域,防御者對(duì)攻擊者行為具有完全信息,并且可以及時(shí)地對(duì)攻擊行動(dòng)做出響應(yīng),這個(gè)時(shí)候防御者應(yīng)該采取主動(dòng)防御策略對(duì)系統(tǒng)進(jìn)行加固,并且可以選擇完全信息動(dòng)態(tài)博弈模型對(duì)問題進(jìn)行建模。在第1區(qū)域,防御者對(duì)攻擊行為特征所掌握的信息很少,并且防御者的響應(yīng)速度很慢,對(duì)于這種情景可以選擇不完全信息靜態(tài)博弈模型對(duì)問題進(jìn)行建模。因?yàn)樵撃P筒恍枰莆站W(wǎng)絡(luò)攻擊行動(dòng)準(zhǔn)確信息,并且可以幫助我們尋找得到最優(yōu)的被動(dòng)防御策略。在區(qū)域7,防御者對(duì)攻擊者行為具有完全信息,但是由于防御策略的延時(shí)性,使得選擇完全信息靜態(tài)博弈模型對(duì)問題進(jìn)行建模,這樣既可以克服防御延時(shí)問題,又可以充分利用對(duì)防御行動(dòng)所掌握的信息,從而制定出比區(qū)域1更優(yōu)的被動(dòng)防御策略。在區(qū)域3,由于防御者響應(yīng)時(shí)間很短,因此,可以運(yùn)用不完全信息動(dòng)態(tài)博弈模型對(duì)問題進(jìn)行建模。最后在灰色區(qū)域2,4~6和8,如果在這些區(qū)域需要運(yùn)用博弈論對(duì)計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題進(jìn)行建模,那么需要根據(jù)實(shí)際問題綜合考慮各個(gè)模型的優(yōu)劣。例如,在區(qū)域4,需要綜合比較區(qū)域7中完全信息靜態(tài)博弈模型和區(qū)域1中不完全信息靜態(tài)博弈模型,這種綜合比較的過程與許多因素有關(guān),如不確定性、精確性、敏感性等。

    3 總結(jié)與展望

    在計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗中,人以資源使用者的身份出現(xiàn),是系統(tǒng)的主體,處于主導(dǎo)地位,網(wǎng)絡(luò)資源則是客體,計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗系統(tǒng)是一個(gè)開放的復(fù)雜系統(tǒng)。本文在對(duì)計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題復(fù)雜性表現(xiàn)和產(chǎn)生根源進(jìn)行探討基礎(chǔ)上,按照博弈模型的4種類型對(duì)計(jì)算計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題進(jìn)行了分類梳理,并對(duì)模型特點(diǎn)進(jìn)行綜合比較?;诓┺恼撚?jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題研究是一個(gè)年輕而又迅速發(fā)展的領(lǐng)域,目前的研究工作還限于局部范圍,沒有形成一套系統(tǒng)的理論和方法??傮w來說,下一步發(fā)展應(yīng)包括以下幾個(gè)方面:

    (1)攻擊者模型的建立。攻擊和破壞行為是有意圖的行為,因此,人為因素的隨機(jī)分析是一個(gè)關(guān)鍵問題,特別是攻擊者學(xué)習(xí)能力和決策模型將很有意義。攻擊模型的建立主要存在兩個(gè)困難:一方面網(wǎng)絡(luò)攻擊是攻擊者發(fā)起的有意圖的破壞行為,人們很難精確刻畫這些攻擊行為的人為意圖;另一方面網(wǎng)絡(luò)的巨大規(guī)模和復(fù)雜結(jié)構(gòu)使得建立網(wǎng)絡(luò)攻擊模型異常的困難。

    (2)攻防博弈策略模型。目前大多數(shù)基于博弈論計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗問題研究模型存在以下局限性[29-31]:①只考慮完美信息情況,并且假設(shè)防御者總是能夠發(fā)現(xiàn)攻擊者,這與現(xiàn)實(shí)不符;②假設(shè)狀態(tài)轉(zhuǎn)移的概率是固定的,并且這些轉(zhuǎn)移概率是由專家過去經(jīng)驗(yàn)判斷得到;③目前博弈論模型都是假設(shè)局中人是同時(shí)做決策的;④大多數(shù)模型不能隨著研究問題規(guī)模和復(fù)雜性的增大而進(jìn)行升級(jí)。

    (3)定義計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗評(píng)價(jià)指標(biāo)。計(jì)算機(jī)網(wǎng)絡(luò)對(duì)抗行動(dòng)策略的收益量化標(biāo)準(zhǔn)始終是一個(gè)公認(rèn)難題,不同網(wǎng)絡(luò)應(yīng)用背景有著不同的量化方法和標(biāo)準(zhǔn),如何給出一個(gè)科學(xué)合理的量化評(píng)估標(biāo)準(zhǔn)將是今后研究的一個(gè)重點(diǎn)。

    [1]Major G,William T.Cyberspace Operations:Air Force Space Command Takes the Lead[J].High Frontier,2009,5(3):3-5.

    [2]Jormakka J,Molsa J V E.Modeling Information Warfare as a Game[J].Journal of Information Warfare,2005,4(2): 112-25.

    [3]Basar T.The Gaussian Test Channel with an Intelligent Jammer[J].IEEE Transactions on Information Theory,1983,29(1):152-157.

    [4]Kashyap A,Basar T,Srikant R.Correlated Jamming on MIMO Gaussian Fading Channels[J].IEEE Transactions on Information Theory,2004,50(9):2119-2123.

    [5]Carin L,Cybenko G,Hughes J.Quantitaitve Evaluation of Risk for Invenstment Efficient Strategies in Cybersecurity: the Queries Methodology[J].IEEE Computer,2008,41(8),21-26.

    [6]Bistareli S,F(xiàn)ioravanti F,Peretti P.Defense Tree for Economic Evaluation of Security Investments[C]//Proceedings of the First International Conference OU Availabifity,Reliability and Security,2006.

    [7]Saad W,Han Z,Basar T.Physical Layer Security:Coalitional Game for Distributed Cooperation[C]//International Symposium on Modeling and Optimization in Mobile,Ad Hoc,and Wireless Network,Seoul,USA,2009.

    [8]王浩云,張順頤,趙振東.基于不完全信息博弈的P2P網(wǎng)絡(luò)節(jié)點(diǎn)行為策略模型 [J].應(yīng)用科學(xué)學(xué)報(bào),2008,26(5): 448-454.

    [9]Liu P,Wang Z.Incentive Based Modeling and Inferecne of Attacker Intent,Objectives and Strategies[C]//Proceedings of the 10th ACM Coputer and Communcations Security Conference.Washington,DC,2003.

    [10]Cavusoglu H,Mishra B,Raghunathan S.The Value of IDS in IT Security Architecture[J].Information Systems Research,2005,19(1):28-46.

    [11]Liu Y,Comaniciu C,Man H.A Bayesian Game Approach for Intrusion Detection in Wireless and Hoc Networks[C]// ACM Internatinal Conference Proceeding Series,Pisa Italy,2006.

    [12]Zhu Q,Tembine H,Basar T.Network Security Conguration: A Nonzero Sum Stochastic Game Approach[C]//IEEE Proceedings of American Control Conference,Baltimore,MD,2010.

    [13]Lye K W,Jeannette W.Game Strategies in Network Security[J].International Journal of Information Security,2005,4(1):71-86.

    [14]Chen X L,Tan X B,Zhang Y.A Markov Game Theory Based Risk Assessment Model for Network Information Systems[C]//International Conference on Computer Science and Software Engineering,HuBei,China,2008.

    [15]Nguyue K C,Alpcan T,Basar T.Stochastic Games for Security in Networks with Interdependent Nodes[C]//Proceedings of International Conference on Game Theory for Network,Istanbul,USA,2009.

    [16]Arora A,Telang T,Xu H.Timing Disclosure of Software Vulnerability for Optimial Social Welfare[R].Carnegie Mellon University,2004,67-98.

    [17]王元卓,林闖,程學(xué)旗.基于隨機(jī)博弈模型的網(wǎng)絡(luò)攻防量化分析方法[J].計(jì)算機(jī)學(xué)報(bào),2010,33(9):1-15.

    [18]蔡紅柳,田磊,高朦.多Agent的網(wǎng)絡(luò)對(duì)抗系統(tǒng)仿真建模[J].四川兵工學(xué)報(bào),2012,33(12):90-93.

    [19]林闖,王元卓,楊揚(yáng).基于Petri網(wǎng)的網(wǎng)絡(luò)可信賴性分析方法研究[J].電子學(xué)報(bào),2006,34(2),322-332.

    [20]Alpcan T,Pavel L.Nash Equilibrium Design and Optimization[C]//International Conference on Game Theory for Networks,Game Nets,USA,2009.

    [21]Alpcan T,Baser T.An Intrusion Detection Game with Limited Observations[C]//Proceedings of the 12th InternationalSymposium on Dynamic Games and Applications,Sophia Antipolis,F(xiàn)rance,2006.

    [22]Bloem M,Alpcan T,Basar T.Intrusion Response as a Resource Allocation Problem[C]//IEEE Conference on Descision and Control,USA,2006.

    [23]Chen Z.Modeling and Defending Against Internet Worm Attacks[D].Georgia Institute of Technology,2007.

    [24]Patcha A,Park J.A Game Theoretic Approach to Modeling Intrusion Detection in Mobile Ad Hoc Network[C]//Proceeding of the IEEE Workshop on Information Assurance and Security,USA,2004.

    [25]Bohme R,Moore T.The Iterated Weakest Link:A Model of Adaptive Security Investment[C]//In Workshop on the E-conomics of Information Security,2009.

    [26]胡光俊,閆懷志.基于動(dòng)態(tài)博弈的網(wǎng)絡(luò)誘騙信息獲取策略研究[J].科技導(dǎo)報(bào),2005,23(1):32-34.

    [27]賈春福,鐘安鳴,張煒.網(wǎng)絡(luò)安全不完全信息動(dòng)態(tài)博弈模型[J].計(jì)算機(jī)研究與發(fā)展,2006,43(2):530-533.

    [28]姜偉,方濱興,田志宏.基于攻防隨機(jī)博弈模型的網(wǎng)絡(luò)安全測評(píng)和最優(yōu)主動(dòng)防御 [J].計(jì)算機(jī)學(xué)報(bào),2009,32(4): 817-827.

    [29]Borkovsky R N,Doraszelski U,Kryukov Y.A User’s Guide to Solving Dynamic Stochastic Games Using the Homotopy Method[J].Operation Research,2010,58(4):1116-1132.

    [30]Horner J,Rosenberg D,Solan E.On a Markov Game with One Sided Information[J].Operation Research,2010,58(4):1107-1115.

    [31]Delage E,Mannor S.Percentile Optimization for Markov Decision Processes with Parameter Uncertainty[J].Operation Research,2010,58(1):203-213.

    Survey on Computer Network Operation Based on Game Theory

    WANG Chang-chun,CHEN Zhi-jie
    (Radar Institute,Air Force Equipment Academy,Beijing 100085,China)

    In order to deal with prevalent and various network attack,it has attracted much attention how to analyze the network operation.According to describe the complex phenomena and explore the cause,this article surveys the state of the art in computer network operation from four dimensions.We also present the challenges which are still worth to further research in the area.

    network operation,complexity,game theory,human factor

    TP393

    A

    1002-0640(2015)03-0001-05

    2014-01-08

    2014-03-17

    國家自然科學(xué)基金(71031007);國家“八六三”基金資助項(xiàng)目(2011AA7114019;2012AA7114059)

    王長春(1983- ),男,江西吉安人,博士。研究方向:網(wǎng)絡(luò)安全、體系對(duì)抗。

    猜你喜歡
    博弈論復(fù)雜性攻擊者
    基于微分博弈的追逃問題最優(yōu)策略設(shè)計(jì)
    PFNA與DHS治療股骨近端復(fù)雜性骨折的效果對(duì)比
    簡單性與復(fù)雜性的統(tǒng)一
    科學(xué)(2020年1期)2020-08-24 08:07:56
    正面迎接批判
    愛你(2018年16期)2018-06-21 03:28:44
    應(yīng)充分考慮醫(yī)院管理的復(fù)雜性
    博弈論視角下的自首行為分析
    無知之幕與博弈:從“黃燈規(guī)則”看博弈論的一種實(shí)踐方案
    直腸腔內(nèi)超聲和MRI在復(fù)雜性肛瘺診斷中的對(duì)比分析
    有限次重復(fù)博弈下的網(wǎng)絡(luò)攻擊行為研究
    樊畿不等式及其在博弈論中的應(yīng)用
    只有这里有精品99| 成人漫画全彩无遮挡| 热re99久久国产66热| 亚洲精品日本国产第一区| 亚洲精品中文字幕在线视频| 80岁老熟妇乱子伦牲交| 国产精品 国内视频| 久久久精品国产亚洲av高清涩受| 国产精品亚洲av一区麻豆 | 少妇人妻 视频| 高清av免费在线| 久久精品久久精品一区二区三区| 丝袜脚勾引网站| 十八禁高潮呻吟视频| 岛国毛片在线播放| 午夜日本视频在线| 2018国产大陆天天弄谢| 91在线精品国自产拍蜜月| 人妻人人澡人人爽人人| 男男h啪啪无遮挡| 亚洲精品日韩在线中文字幕| 成人手机av| 交换朋友夫妻互换小说| 国产有黄有色有爽视频| 边亲边吃奶的免费视频| 国产有黄有色有爽视频| 午夜日本视频在线| 色婷婷av一区二区三区视频| 亚洲欧洲日产国产| 亚洲 欧美一区二区三区| 在现免费观看毛片| 侵犯人妻中文字幕一二三四区| 黄色 视频免费看| 久久久久久久亚洲中文字幕| 午夜福利,免费看| 国产av精品麻豆| 日韩av在线免费看完整版不卡| 街头女战士在线观看网站| 精品一区二区免费观看| 日韩中文字幕视频在线看片| 综合色丁香网| 一级a爱视频在线免费观看| 国产免费又黄又爽又色| 满18在线观看网站| √禁漫天堂资源中文www| 男人爽女人下面视频在线观看| 精品亚洲成国产av| 熟女电影av网| 国产精品人妻久久久影院| 又黄又粗又硬又大视频| 国产一区有黄有色的免费视频| 久久久国产精品麻豆| 婷婷色综合大香蕉| 王馨瑶露胸无遮挡在线观看| 精品亚洲成国产av| 欧美精品一区二区大全| 日韩三级伦理在线观看| av不卡在线播放| 国产亚洲精品第一综合不卡| 大话2 男鬼变身卡| 欧美少妇被猛烈插入视频| av女优亚洲男人天堂| 巨乳人妻的诱惑在线观看| 国产av精品麻豆| 七月丁香在线播放| 亚洲精品日本国产第一区| 国产色婷婷99| 国产极品天堂在线| 97在线视频观看| 一二三四在线观看免费中文在| 在线观看免费视频网站a站| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 两个人看的免费小视频| 久热久热在线精品观看| 夫妻性生交免费视频一级片| 国产麻豆69| 国产成人免费无遮挡视频| 久久久久久人人人人人| 国产精品.久久久| 人人妻人人澡人人看| 卡戴珊不雅视频在线播放| 国产欧美日韩一区二区三区在线| 黑丝袜美女国产一区| 成人国产av品久久久| 日韩 亚洲 欧美在线| 精品国产一区二区三区四区第35| freevideosex欧美| 日本爱情动作片www.在线观看| 晚上一个人看的免费电影| 五月开心婷婷网| 精品国产一区二区久久| 综合色丁香网| 久久久国产欧美日韩av| 最近中文字幕2019免费版| 国产极品粉嫩免费观看在线| 午夜福利影视在线免费观看| 国产淫语在线视频| 日产精品乱码卡一卡2卡三| 美女xxoo啪啪120秒动态图| 免费在线观看完整版高清| 日韩一本色道免费dvd| 丰满乱子伦码专区| 日韩中文字幕欧美一区二区 | 欧美在线黄色| 中文欧美无线码| 9色porny在线观看| 下体分泌物呈黄色| 国产一区有黄有色的免费视频| 国产成人精品在线电影| 日本av免费视频播放| 美女xxoo啪啪120秒动态图| 亚洲五月色婷婷综合| 国产野战对白在线观看| 女性生殖器流出的白浆| 婷婷色综合大香蕉| 久久ye,这里只有精品| 老司机影院成人| 中文字幕制服av| 国产精品麻豆人妻色哟哟久久| 国产不卡av网站在线观看| av.在线天堂| 久久这里只有精品19| 黄色怎么调成土黄色| 一二三四在线观看免费中文在| 国产日韩欧美亚洲二区| 国产成人精品福利久久| 亚洲精品日韩在线中文字幕| 亚洲精品乱久久久久久| 亚洲,一卡二卡三卡| 在线免费观看不下载黄p国产| av在线老鸭窝| 国产欧美亚洲国产| av在线观看视频网站免费| 一边亲一边摸免费视频| 亚洲av综合色区一区| 精品酒店卫生间| 七月丁香在线播放| 亚洲精品第二区| 国产在线视频一区二区| 汤姆久久久久久久影院中文字幕| 一本—道久久a久久精品蜜桃钙片| 十分钟在线观看高清视频www| 日韩av免费高清视频| 久久国产亚洲av麻豆专区| 另类精品久久| 热99久久久久精品小说推荐| 亚洲一码二码三码区别大吗| 日本vs欧美在线观看视频| 天堂8中文在线网| 欧美日韩av久久| 老女人水多毛片| 亚洲成色77777| 少妇被粗大猛烈的视频| 观看美女的网站| 日韩中文字幕欧美一区二区 | 丰满少妇做爰视频| 丝袜喷水一区| av在线观看视频网站免费| 男人爽女人下面视频在线观看| 赤兔流量卡办理| 午夜av观看不卡| 丰满少妇做爰视频| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 曰老女人黄片| 午夜福利,免费看| 亚洲国产av影院在线观看| 国产精品熟女久久久久浪| 国产精品国产av在线观看| 国产 一区精品| 精品卡一卡二卡四卡免费| 欧美97在线视频| 欧美日韩成人在线一区二区| 午夜老司机福利剧场| 两个人免费观看高清视频| 街头女战士在线观看网站| 久久精品国产综合久久久| 亚洲精品久久成人aⅴ小说| 两性夫妻黄色片| 日韩欧美精品免费久久| 精品人妻在线不人妻| 高清黄色对白视频在线免费看| 国产一区二区 视频在线| 久热久热在线精品观看| 天天操日日干夜夜撸| 精品少妇久久久久久888优播| 新久久久久国产一级毛片| 亚洲激情五月婷婷啪啪| 一二三四中文在线观看免费高清| 久久国产精品男人的天堂亚洲| 最新的欧美精品一区二区| 日日爽夜夜爽网站| 亚洲精华国产精华液的使用体验| av免费在线看不卡| 国产一级毛片在线| 寂寞人妻少妇视频99o| 久久午夜综合久久蜜桃| 丝袜喷水一区| 街头女战士在线观看网站| 咕卡用的链子| 国产探花极品一区二区| 欧美中文综合在线视频| 日韩制服丝袜自拍偷拍| 国产黄频视频在线观看| 欧美日韩国产mv在线观看视频| 考比视频在线观看| 亚洲欧洲国产日韩| 另类精品久久| 午夜福利网站1000一区二区三区| 高清不卡的av网站| 熟女av电影| 成人国产av品久久久| 久久久国产欧美日韩av| 五月伊人婷婷丁香| 日韩 亚洲 欧美在线| 女性生殖器流出的白浆| 精品第一国产精品| 精品一区二区三卡| 少妇人妻 视频| 侵犯人妻中文字幕一二三四区| 国产精品一区二区在线观看99| 熟女少妇亚洲综合色aaa.| 麻豆乱淫一区二区| 最近最新中文字幕大全免费视频 | 亚洲欧洲国产日韩| 国产熟女欧美一区二区| av福利片在线| 免费在线观看视频国产中文字幕亚洲 | 麻豆av在线久日| 黄色怎么调成土黄色| 久久精品国产a三级三级三级| 精品国产露脸久久av麻豆| 18禁裸乳无遮挡动漫免费视频| 成人漫画全彩无遮挡| 精品亚洲乱码少妇综合久久| 久久免费观看电影| 久久ye,这里只有精品| 久久精品国产亚洲av天美| 男女下面插进去视频免费观看| 国产亚洲午夜精品一区二区久久| 亚洲欧美日韩另类电影网站| 久久久久精品人妻al黑| 欧美日韩一级在线毛片| 国产精品熟女久久久久浪| 精品国产一区二区三区四区第35| av在线观看视频网站免费| 久久青草综合色| 久久精品国产亚洲av天美| 国产成人精品久久二区二区91 | 精品一区二区免费观看| 日本欧美国产在线视频| 秋霞伦理黄片| 亚洲一区二区三区欧美精品| 9色porny在线观看| 欧美成人午夜免费资源| 大话2 男鬼变身卡| 久久影院123| 久久精品国产亚洲av天美| 成年美女黄网站色视频大全免费| 国产男女内射视频| 欧美日韩av久久| 午夜福利,免费看| 99香蕉大伊视频| 国产1区2区3区精品| 99久久人妻综合| 亚洲欧美精品自产自拍| 午夜激情久久久久久久| 一级a爱视频在线免费观看| 人人妻人人爽人人添夜夜欢视频| 美女主播在线视频| 嫩草影院入口| 亚洲国产毛片av蜜桃av| 精品人妻偷拍中文字幕| 亚洲精品国产色婷婷电影| 性色av一级| 岛国毛片在线播放| 国产精品亚洲av一区麻豆 | 最近2019中文字幕mv第一页| 国产成人午夜福利电影在线观看| 如日韩欧美国产精品一区二区三区| av在线播放精品| 丁香六月天网| 亚洲精品aⅴ在线观看| 久久久精品94久久精品| 久久久精品94久久精品| 黑人猛操日本美女一级片| 国产精品久久久久久精品古装| 亚洲中文av在线| 色婷婷av一区二区三区视频| 男人爽女人下面视频在线观看| 亚洲第一青青草原| 免费播放大片免费观看视频在线观看| 国产精品久久久久成人av| 美女中出高潮动态图| 午夜日本视频在线| 男男h啪啪无遮挡| 久久久a久久爽久久v久久| 欧美精品一区二区大全| 日韩成人av中文字幕在线观看| 久久精品国产亚洲av天美| 国产女主播在线喷水免费视频网站| 亚洲欧洲精品一区二区精品久久久 | 国产精品国产三级专区第一集| 91精品国产国语对白视频| 少妇精品久久久久久久| 免费观看在线日韩| 免费观看性生交大片5| 亚洲三级黄色毛片| av网站在线播放免费| 91成人精品电影| 五月伊人婷婷丁香| 女人被躁到高潮嗷嗷叫费观| 国产精品国产三级专区第一集| 亚洲国产精品成人久久小说| 在线看a的网站| 最近手机中文字幕大全| 精品国产乱码久久久久久男人| 啦啦啦在线免费观看视频4| 欧美黄色片欧美黄色片| 久久综合国产亚洲精品| 久久毛片免费看一区二区三区| 一本色道久久久久久精品综合| 18禁观看日本| 成人国产麻豆网| 日韩中文字幕欧美一区二区 | 在线天堂最新版资源| 一二三四中文在线观看免费高清| 久久久久精品人妻al黑| 久久97久久精品| 99re6热这里在线精品视频| www.熟女人妻精品国产| 成年动漫av网址| 日韩中文字幕视频在线看片| 免费少妇av软件| 精品一区二区免费观看| 涩涩av久久男人的天堂| 少妇人妻久久综合中文| 日韩中文字幕欧美一区二区 | 免费观看在线日韩| 日本欧美国产在线视频| 国产成人精品无人区| av不卡在线播放| 看十八女毛片水多多多| 午夜福利视频精品| 午夜福利在线免费观看网站| 亚洲国产最新在线播放| 午夜福利在线免费观看网站| 天天躁日日躁夜夜躁夜夜| 亚洲精品美女久久av网站| 精品午夜福利在线看| 日韩一区二区三区影片| 午夜免费观看性视频| 亚洲精品一二三| 观看av在线不卡| 中文字幕精品免费在线观看视频| h视频一区二区三区| 国产国语露脸激情在线看| 国产成人aa在线观看| 久久精品人人爽人人爽视色| 国产精品欧美亚洲77777| 国产在线一区二区三区精| 天天操日日干夜夜撸| 嫩草影院入口| 欧美人与善性xxx| 99热网站在线观看| 国产精品99久久99久久久不卡 | 日韩视频在线欧美| 又大又黄又爽视频免费| 国产精品一二三区在线看| 国产熟女欧美一区二区| 午夜日本视频在线| 欧美日韩亚洲国产一区二区在线观看 | 1024视频免费在线观看| 99久久综合免费| 午夜免费观看性视频| 精品久久久久久电影网| 少妇熟女欧美另类| 99精国产麻豆久久婷婷| 久久人人爽av亚洲精品天堂| 精品亚洲成国产av| 美女主播在线视频| 麻豆精品久久久久久蜜桃| 肉色欧美久久久久久久蜜桃| 丰满迷人的少妇在线观看| 波多野结衣av一区二区av| 中文字幕人妻熟女乱码| 少妇 在线观看| 狠狠婷婷综合久久久久久88av| 国产精品一区二区在线不卡| 国产一区有黄有色的免费视频| 少妇被粗大猛烈的视频| 久久久久久免费高清国产稀缺| 男女免费视频国产| 中文字幕av电影在线播放| 亚洲欧美成人精品一区二区| 可以免费在线观看a视频的电影网站 | 爱豆传媒免费全集在线观看| 蜜桃国产av成人99| 最近最新中文字幕大全免费视频 | 天天躁夜夜躁狠狠久久av| av网站在线播放免费| 国产一级毛片在线| 人妻一区二区av| 成人影院久久| 国产爽快片一区二区三区| 国产精品一区二区在线观看99| 欧美中文综合在线视频| 女人高潮潮喷娇喘18禁视频| 国产av码专区亚洲av| 国产高清国产精品国产三级| 国产野战对白在线观看| 欧美日韩精品成人综合77777| 亚洲欧美一区二区三区国产| 香蕉丝袜av| 国产综合精华液| 久热这里只有精品99| 成人国语在线视频| 伊人久久大香线蕉亚洲五| 欧美精品人与动牲交sv欧美| 久久韩国三级中文字幕| 久久久欧美国产精品| 免费不卡的大黄色大毛片视频在线观看| 天堂俺去俺来也www色官网| 日韩,欧美,国产一区二区三区| 亚洲精品乱久久久久久| 99久国产av精品国产电影| 亚洲第一青青草原| 大片免费播放器 马上看| 精品国产超薄肉色丝袜足j| 国产黄色视频一区二区在线观看| 九色亚洲精品在线播放| 亚洲国产毛片av蜜桃av| 亚洲精品视频女| 黄色视频在线播放观看不卡| 国产成人精品在线电影| 校园人妻丝袜中文字幕| 久久久久精品人妻al黑| 久久青草综合色| 亚洲精品一二三| 久久久久久久久免费视频了| 国产在线免费精品| 国产av国产精品国产| 免费大片黄手机在线观看| 国产成人av激情在线播放| 在线精品无人区一区二区三| 搡老乐熟女国产| 午夜福利一区二区在线看| 成人影院久久| 亚洲国产日韩一区二区| 一区二区三区四区激情视频| 国产成人精品福利久久| 成年动漫av网址| 色视频在线一区二区三区| av线在线观看网站| 母亲3免费完整高清在线观看 | 婷婷色av中文字幕| 中文字幕另类日韩欧美亚洲嫩草| 日韩一本色道免费dvd| 欧美少妇被猛烈插入视频| tube8黄色片| 视频区图区小说| 狂野欧美激情性bbbbbb| 国产在线免费精品| 中文字幕最新亚洲高清| 亚洲精品中文字幕在线视频| 黄色配什么色好看| 欧美日韩亚洲国产一区二区在线观看 | 免费大片黄手机在线观看| 99热网站在线观看| 亚洲欧美精品综合一区二区三区 | 免费在线观看黄色视频的| 欧美日韩国产mv在线观看视频| 亚洲第一青青草原| 日本vs欧美在线观看视频| 777久久人妻少妇嫩草av网站| 欧美+日韩+精品| 久久久久视频综合| 亚洲精品第二区| 国产一区二区三区综合在线观看| 亚洲欧美成人综合另类久久久| 国产精品久久久久久精品电影小说| 欧美+日韩+精品| 成年女人毛片免费观看观看9 | 欧美国产精品va在线观看不卡| 尾随美女入室| av免费在线看不卡| 成年av动漫网址| 亚洲一区二区三区欧美精品| 高清欧美精品videossex| 中文字幕人妻丝袜一区二区 | www.精华液| 另类精品久久| 天天躁夜夜躁狠狠久久av| 中文字幕精品免费在线观看视频| 在线天堂中文资源库| 亚洲综合色网址| 一级黄片播放器| 天堂中文最新版在线下载| 搡老乐熟女国产| 精品人妻一区二区三区麻豆| 乱人伦中国视频| 久久狼人影院| 波多野结衣一区麻豆| 色婷婷久久久亚洲欧美| 国产欧美亚洲国产| 精品一区二区免费观看| 久久久精品区二区三区| 边亲边吃奶的免费视频| 久久国产亚洲av麻豆专区| 久久久欧美国产精品| 久久这里只有精品19| 亚洲欧美中文字幕日韩二区| 不卡视频在线观看欧美| 国产一区二区 视频在线| 久久亚洲国产成人精品v| 国产欧美日韩综合在线一区二区| av国产久精品久网站免费入址| 秋霞伦理黄片| 国产精品三级大全| 男女无遮挡免费网站观看| 亚洲综合色惰| 国产亚洲精品第一综合不卡| 久久精品久久久久久噜噜老黄| 久久久久久久大尺度免费视频| 91国产中文字幕| 又黄又粗又硬又大视频| 最近最新中文字幕大全免费视频 | 黄片小视频在线播放| 亚洲国产欧美在线一区| 伊人久久大香线蕉亚洲五| 亚洲熟女精品中文字幕| 曰老女人黄片| 三级国产精品片| 午夜精品国产一区二区电影| 久久久亚洲精品成人影院| 亚洲精品日本国产第一区| 中文天堂在线官网| 欧美成人午夜精品| 在线观看免费日韩欧美大片| 超碰97精品在线观看| 男的添女的下面高潮视频| 国产片特级美女逼逼视频| 满18在线观看网站| 亚洲欧美一区二区三区久久| 久久鲁丝午夜福利片| 高清不卡的av网站| 伦精品一区二区三区| 亚洲精品国产一区二区精华液| 乱人伦中国视频| 一区二区三区精品91| 色婷婷久久久亚洲欧美| 老司机影院毛片| 日韩欧美精品免费久久| 国产免费现黄频在线看| 国产高清国产精品国产三级| 亚洲国产精品999| 中文字幕色久视频| 亚洲欧美色中文字幕在线| 性少妇av在线| 久久国产亚洲av麻豆专区| 水蜜桃什么品种好| h视频一区二区三区| 中文精品一卡2卡3卡4更新| 亚洲精品成人av观看孕妇| 永久网站在线| 我要看黄色一级片免费的| 久热这里只有精品99| 男女高潮啪啪啪动态图| 亚洲精品一二三| 亚洲色图综合在线观看| 久久精品人人爽人人爽视色| 亚洲精品av麻豆狂野| 女性生殖器流出的白浆| 亚洲国产欧美网| 免费高清在线观看日韩| 久久国内精品自在自线图片| 天堂中文最新版在线下载| 久久久久国产精品人妻一区二区| 青草久久国产| 精品99又大又爽又粗少妇毛片| 日日撸夜夜添| 国产xxxxx性猛交| 亚洲成国产人片在线观看| 国产深夜福利视频在线观看| 天天躁夜夜躁狠狠久久av| 色婷婷久久久亚洲欧美| 久久99一区二区三区| 欧美国产精品va在线观看不卡| 久久精品国产亚洲av高清一级| 亚洲国产最新在线播放| 一级毛片黄色毛片免费观看视频| 天堂8中文在线网| 亚洲男人天堂网一区| 激情五月婷婷亚洲| 久久毛片免费看一区二区三区| 制服人妻中文乱码| 久久亚洲国产成人精品v| xxxhd国产人妻xxx| 精品酒店卫生间| 91在线精品国自产拍蜜月| 欧美日韩综合久久久久久| 9色porny在线观看| 日本黄色日本黄色录像| 国产成人免费无遮挡视频| 国产熟女欧美一区二区| 热99国产精品久久久久久7| 国产在线免费精品| 国产免费一区二区三区四区乱码| 免费高清在线观看日韩| 久久久久精品性色| 精品福利永久在线观看| 曰老女人黄片| 久久精品亚洲av国产电影网| 欧美日韩亚洲高清精品| 精品国产乱码久久久久久小说| 国产精品蜜桃在线观看|