• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于風(fēng)險點知識庫的銀行業(yè)務(wù)安全測試方法研究

    2021-10-30 05:19:20劉沅斌
    關(guān)鍵詞:安全漏洞測試用例知識庫

    ◆劉沅斌

    基于風(fēng)險點知識庫的銀行業(yè)務(wù)安全測試方法研究

    ◆劉沅斌

    (中國農(nóng)業(yè)銀行研發(fā)中心 北京 100161)

    結(jié)合當(dāng)前業(yè)務(wù)安全漏洞攻擊日益增多,商業(yè)銀行內(nèi)部逐漸重視系統(tǒng)業(yè)務(wù)安全測試的現(xiàn)狀,本文提出一種基于風(fēng)險點知識庫的業(yè)務(wù)安全測試方法。該方法通過設(shè)計業(yè)務(wù)安全測試流程,規(guī)范風(fēng)險點知識庫的形式化描述,基于規(guī)則的實體識別構(gòu)建風(fēng)險點知識庫,實現(xiàn)業(yè)務(wù)安全測試流程的標(biāo)準(zhǔn)化和業(yè)務(wù)安全測試用例設(shè)計的自動化。

    安全測試;業(yè)務(wù)安全;風(fēng)險點知識庫;測試用例

    1 引言

    隨著互聯(lián)網(wǎng)的飛速發(fā)展,銀行信息系統(tǒng)受到的安全攻擊逐年增加。安全測試作為一種評估銀行信息系統(tǒng)安全性的手段,逐步受到重視。而銀行系統(tǒng)對于傳統(tǒng)安全漏洞防護的技術(shù)和設(shè)備日趨成熟,基于傳統(tǒng)安全漏洞攻擊也變得日益困難,增加了黑客的攻擊成本,使得基于業(yè)務(wù)安全漏洞的攻擊日益增加,業(yè)務(wù)安全測試重要性凸顯。安全測試作為一項專業(yè)性強的工作,其測試效果取決于安全測試人員的專業(yè)知識、技能和經(jīng)驗,缺乏成熟的方法和模型。如何充分利用內(nèi)外部已有知識,構(gòu)建組織級資產(chǎn),降低安全測試的準(zhǔn)入門檻?

    攻擊圖是目前較常用的安全評估方法,文獻(xiàn)[1]基于對系統(tǒng)業(yè)務(wù)數(shù)據(jù)流,攻擊流和安全措施要素統(tǒng)一建模分析的結(jié)果構(gòu)建節(jié)點間脆弱性利用圖,基于攻擊成功率識別出攻擊者獲取某種可能危害到業(yè)務(wù)系統(tǒng)安全屬性的攻擊能力節(jié)點的最短攻擊路徑。該方法主要目的是評估信息系統(tǒng)安全措施的效用。文獻(xiàn)[2]利用基于邏輯表達(dá)式和條件偏好網(wǎng)絡(luò)的推理機制,提出一套靜態(tài)分析攻擊圖的系統(tǒng)方法。文獻(xiàn)[3]提出一種基于AEGM的網(wǎng)絡(luò)攻擊滲透測試預(yù)案生成系統(tǒng),文獻(xiàn)[4]提出一種基于設(shè)計級別的攻擊場景生成安全測試的方法,文獻(xiàn)[5]提出一種基于攻擊圖的安全威脅識別和分析方法,文獻(xiàn)[6]設(shè)計網(wǎng)絡(luò)滲透測試的實施流程,提出可復(fù)用的滲透測試用例管理框架。上述方法均是覆蓋傳統(tǒng)安全漏洞,沒有關(guān)注系統(tǒng)業(yè)務(wù)安全層面的測試方案,且存在工作量大,人力成本高,耗時較長的問題。本文提出一種基于風(fēng)險點知識庫的銀行業(yè)務(wù)安全測試方法,制定規(guī)范化的業(yè)務(wù)安全測試流程,同時基于以業(yè)務(wù)風(fēng)險點知識庫為核心的組織級資產(chǎn),達(dá)到知識共享的目的,使測試用例設(shè)計自動化,降低了設(shè)計門檻,有效提升業(yè)務(wù)安全測試質(zhì)量和效率。

    2 業(yè)務(wù)安全測試現(xiàn)狀

    當(dāng)前銀行信息科技的安全測試主要分為兩類:行內(nèi)安全測試和行外安全測試。行內(nèi)安全測試又可分為投產(chǎn)前安全測試和已投產(chǎn)系統(tǒng)安全測試。而行外安全測試一般是采用專業(yè)安全機構(gòu)安全測試服務(wù)和安全眾測兩種類型的測試。

    本文研究內(nèi)容主要針對行內(nèi)安全測試部分,行內(nèi)安全測試部分可劃分為源代碼掃描,自動化漏洞掃描、人工測試三種類型。源代碼掃描采用的靜態(tài)應(yīng)用程序安全測試(Static Application Security Testing)技術(shù),通常在編碼階段分析應(yīng)用程序的源代碼或二進制文件的語法、結(jié)構(gòu)、過程、接口等來發(fā)現(xiàn)程序代碼存在的安全漏洞。自動化漏洞掃描一般采用動態(tài)應(yīng)用程序安全測試(Dynamic Application Security Testing)技術(shù),模擬黑客行為對應(yīng)用程序進行動態(tài)攻擊,分析應(yīng)用程序的反應(yīng),從而確定該應(yīng)用是否易受攻擊。2012年Gartner公司新提出了交互式應(yīng)用程序安全測試(Interactive Application Security Testing)方案。

    上述自動化掃描方案均只能發(fā)現(xiàn)傳統(tǒng)安全漏洞,不能或極少能發(fā)現(xiàn)業(yè)務(wù)安全漏洞,業(yè)務(wù)安全漏洞主要依靠人工進行業(yè)務(wù)安全測試來檢測。但業(yè)務(wù)安全測試由于缺乏通用的規(guī)則,其測試對象和測試內(nèi)容取決于系統(tǒng)提供的業(yè)務(wù)功能,在實際測試過程中,可能存在如下問題:

    (1)缺乏統(tǒng)一的標(biāo)準(zhǔn),安全測試過程不受控,測試效率和質(zhì)量難以度量。

    (2)測試人員的技能水平不一,技能和經(jīng)驗無法有效地共享,無法成為組織的公共資源,當(dāng)相應(yīng)人員流失時,也意味著組織技能的缺失。

    (3)測試人員的業(yè)務(wù)領(lǐng)域知識缺乏,無法對不同業(yè)務(wù)領(lǐng)域的系統(tǒng)進行有效的測試。

    (4)安全測試人員在測試過程中,過分依賴自動化測試工具,自動化測試工具通常只能覆蓋傳統(tǒng)通用型漏洞諸如sql注入,跨站腳本攻擊等,不能覆蓋系統(tǒng)業(yè)務(wù)邏輯相關(guān)漏洞如越權(quán)類,篡改類漏洞。

    上述問題的存在,導(dǎo)致安全測試的測試效率和結(jié)果難以保證。業(yè)務(wù)安全測試亟需一套有效的行之有效的測試方法,既能規(guī)范測試過程,又實現(xiàn)知識共享和復(fù)用。

    3 業(yè)務(wù)安全測試流程

    PTES(Penetration Testing Execution Standard)標(biāo)準(zhǔn)是一個旨在為企業(yè)和安全服務(wù)提供商提供的執(zhí)行滲透測試的通用語言和范圍的標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)定義的滲透測試過程環(huán)節(jié)包含7個階段:前期交互階段、情報搜集階段、威脅建模階段、漏洞分析階段、滲透攻擊階段、滲透測試階段、撰寫報告階段。但企業(yè)內(nèi)部的業(yè)務(wù)安全測試與滲透測試存在區(qū)別的,體現(xiàn)在三個方面:

    滲透測試假定測試人員是在對目標(biāo)系統(tǒng)一無所知的狀態(tài)下進行測試工作,除知道目標(biāo)的基本范圍外,所有的信息都依賴測試人員自行發(fā)掘。主要是模擬來自互聯(lián)網(wǎng)的攻擊者,讓用戶了解自己系統(tǒng)對外來攻擊者的真實安全情況。而企業(yè)內(nèi)部的業(yè)務(wù)安全測試假定測試人員是對目標(biāo)系統(tǒng)的比較了解的情況下進行測試工作,如測試范圍、業(yè)務(wù)功能,測試相關(guān)的信息都可在前期與系統(tǒng)開發(fā)維護人員溝通獲取,主要目的是為檢測系統(tǒng)功能在實現(xiàn)過程中是否由于邏輯不嚴(yán)謹(jǐn)而引入安全漏洞。

    滲透測試的目的除發(fā)現(xiàn)目標(biāo)系統(tǒng)存在的漏洞外,還需利用目標(biāo)系統(tǒng)安全漏洞,真正入侵系統(tǒng)當(dāng)中,獲得訪問控制權(quán)。而企業(yè)內(nèi)部的業(yè)務(wù)安全測試只需發(fā)現(xiàn)業(yè)務(wù)漏洞,通過一定的手段證明漏洞存在,并不需要利用漏洞入侵系統(tǒng)。

    攻擊者對于目標(biāo)所進行的滲透測試一般是沒有時間限制的,而企業(yè)內(nèi)部的業(yè)務(wù)安全測試一般是遵循著項目管理的原則,有明確的起始時間。

    業(yè)務(wù)安全測試和滲透測試的差異,使得業(yè)務(wù)安全測試無法復(fù)用滲透測試的流程。本文將業(yè)務(wù)安全測試過程劃分為測試計劃、測試設(shè)計、測試執(zhí)行、測試總結(jié)四個階段,每個測試階段對應(yīng)著不同的子任務(wù)。在這四個階段的測試過程中組織級的資產(chǎn):業(yè)務(wù)風(fēng)險點知識庫、漏洞分類標(biāo)準(zhǔn)、漏洞管理系統(tǒng)、漏洞分級標(biāo)準(zhǔn)提供基礎(chǔ)支撐。

    圖1 業(yè)務(wù)安全測試流程

    3.1 業(yè)務(wù)安全測試計劃

    在業(yè)務(wù)安全測試實施前,需要進行嚴(yán)謹(jǐn)?shù)挠媱?,包括:明確業(yè)務(wù)安全測試的范圍,評估測試工作量,測試的方法、測試的工具、測試人員和測試時間計劃、測試通過的標(biāo)準(zhǔn)、測試過程中可能存在的風(fēng)險和應(yīng)對措施。

    3.2 業(yè)務(wù)安全測試設(shè)計

    業(yè)務(wù)安全測試設(shè)計階段,其核心的工作就是業(yè)務(wù)安全測試用例設(shè)計,業(yè)務(wù)安全測試用例設(shè)計的質(zhì)量關(guān)系到業(yè)務(wù)安全測試執(zhí)行的效果。本文第四章提出了一種基于業(yè)務(wù)風(fēng)險點分析的業(yè)務(wù)安全測試方法,通過在構(gòu)建業(yè)務(wù)風(fēng)險點知識庫的基礎(chǔ)上,對被測系統(tǒng)需求采用分而治之的結(jié)構(gòu)化分析方法,按照界面要素、業(yè)務(wù)規(guī)則、業(yè)務(wù)流程這三種類型細(xì)化每個功能的具體組成部分,然后對每個部分在風(fēng)險點知識庫中按圖索驥,形成業(yè)務(wù)安全測試用例。

    當(dāng)然業(yè)務(wù)風(fēng)險知識庫的搭建和維護應(yīng)該是一項常規(guī)的工作,同時業(yè)務(wù)安全測試實施的結(jié)果又會對業(yè)務(wù)風(fēng)險點知識庫的效果進行一個反饋,促進業(yè)務(wù)風(fēng)險點知識庫的優(yōu)化。

    3.3 業(yè)務(wù)安全測試執(zhí)行

    業(yè)務(wù)安全測試執(zhí)行階段,就是按照業(yè)務(wù)安全測試設(shè)計階段編寫的測試用例,逐條進行執(zhí)行,如果發(fā)現(xiàn)漏洞,則提交到漏洞管理系統(tǒng)進行管理,并對漏洞的修復(fù)情況進行跟蹤,在漏洞修復(fù)后進行復(fù)測。漏洞應(yīng)該有明確的分類標(biāo)準(zhǔn)和分級標(biāo)準(zhǔn)。漏洞的分類標(biāo)準(zhǔn)在本文3.1中進行了說明。

    漏洞分級即明確漏洞嚴(yán)重程度劃分的標(biāo)準(zhǔn),為判斷修復(fù)漏洞的優(yōu)先級提供依據(jù)。目前業(yè)界常用的三個漏洞等級劃分模型Common Vulnerability Scoring System(簡稱CVSS)和微軟提出的DREAD模型的思路均是制定業(yè)務(wù)安全漏洞分級相關(guān)的指標(biāo),并對每個指標(biāo)賦值標(biāo)準(zhǔn)的定義和賦予一定的權(quán)重,通過加權(quán)求和計算得分,不同得分區(qū)間對應(yīng)相應(yīng)漏洞級別。

    3.4 業(yè)務(wù)安全測試總結(jié)

    在測試完成后,應(yīng)該及時整理業(yè)務(wù)安全測試數(shù)據(jù),編撰業(yè)務(wù)安全測試總結(jié)報告,重點是識別存在的風(fēng)險,給出明確的結(jié)論。

    4 基于風(fēng)險點知識庫的業(yè)務(wù)安全測試方法

    4.1 安全風(fēng)險點知識庫要素規(guī)范

    安全風(fēng)險點知識庫是業(yè)務(wù)安全測試的核心,它基于具體漏洞,從漏洞的角度闡述風(fēng)險。業(yè)務(wù)安全測試風(fēng)險點可以分成風(fēng)險點關(guān)鍵部分和輔助部分,在風(fēng)險點關(guān)鍵部分主要包含風(fēng)險點ID,業(yè)務(wù)安全漏洞類型、漏洞對應(yīng)的具體元素類型,元素類型賦值有三類:界面要素、業(yè)務(wù)規(guī)則、業(yè)務(wù)流程,元素、該風(fēng)險點的來源,也分為三種來源:漏洞知識庫、企業(yè)內(nèi)部的歷史漏洞、專家經(jīng)驗。在風(fēng)險點輔助部分主要包含針對該漏洞的測試方法、測試工具、以及漏洞修復(fù)建議。

    對于安全風(fēng)險點知識庫的形式化描述如下,其表現(xiàn)形式為Ri={RIi,VTi,ETi,Ei,Ri,Di,Mi,Ti,Si},其中,RI為風(fēng)險點ID,是業(yè)務(wù)風(fēng)險點的唯一標(biāo)識;VT為業(yè)務(wù)安全漏洞類型,ET為元素類型三元組,其值為界面要素、業(yè)務(wù)規(guī)則和業(yè)務(wù)流程。E為元素,諸如登錄用戶名,R為安全測試風(fēng)險點來源,D為風(fēng)險點描述,M為針對該風(fēng)險點的測試方法,T為測試工具,S為漏洞修復(fù)建議。

    表1 風(fēng)險點知識庫結(jié)構(gòu)表

    其中業(yè)務(wù)安全漏洞類型需進行標(biāo)準(zhǔn)化的定義。目前《GB∕T 33561-2017 信息安全技術(shù)安全漏洞分類》[6]提供了三種類型的漏洞分類方法,第一種是按成因分類;第二種是按空間分類;第三種是按照時間分類。不論采取哪種分類方法,業(yè)務(wù)安全漏洞分類都應(yīng)遵循唯一性原則,即按照分類標(biāo)準(zhǔn),安全漏洞可明確歸屬到某一類,不能同時屬于兩個或以上類別。

    綜合分析風(fēng)險點知識庫的來源之一的外部漏洞庫的分類方法,同時考慮元素類型與漏洞類型的適配,本文提出一種新的漏洞類型劃分方法,首先按照表1中的元素類型劃分為界面要素類型、業(yè)務(wù)規(guī)則類型、業(yè)務(wù)流程類型三類,然后針對每個類型按照漏洞影響劃分,如信息泄露漏洞、水平越權(quán)漏洞,如無法按照漏洞影響劃分,則繼續(xù)按照漏洞檢測方法劃分,如暴力破解,如無法按照漏洞檢測方法劃分,則繼續(xù)按照成因劃分,如萬能密碼。漏洞類型劃分示例如圖2所示。

    4.2 安全風(fēng)險點知識庫構(gòu)建

    安全風(fēng)險點知識庫的來源主要有三類,一是CNNVD、CNVD、CVE、CWE等漏洞知識庫;二是企業(yè)內(nèi)部的歷史漏洞;三是專家經(jīng)驗。由于內(nèi)部漏洞集和專家經(jīng)驗的成果可以從管理上規(guī)范格式化的描述,統(tǒng)一口徑,并以結(jié)構(gòu)化的形式進行存儲管理。本文重點闡述以外部漏洞庫為來源的安全風(fēng)險點知識庫的構(gòu)建。通過對外部公開漏洞庫進行網(wǎng)絡(luò)爬取、頁面解析、信息抽取等過程獲取多個數(shù)據(jù)源的漏洞庫數(shù)據(jù),再通過特征提取,制定實體識別的規(guī)則,基于規(guī)則進行實體識別,在同一框架規(guī)范下進行異構(gòu)數(shù)據(jù)整合加工,生成風(fēng)險點知識庫。圖3展示了該過程。

    圖2 業(yè)務(wù)安全漏洞分類示例

    圖3 安全風(fēng)險點知識庫構(gòu)建流程

    由于外部漏洞庫的信息既有結(jié)構(gòu)化的信息,如編號、漏洞類型等,又有非結(jié)構(gòu)化的文本信息,如漏洞簡介中的文字描述,因此需要從大量信息中識別出在4.1中規(guī)范的風(fēng)險點知識庫的實體。實體識別方法常用的有基于條件隨機場(Conditional Random Field, CRF)的方法、基于規(guī)則的方法,基于統(tǒng)計的方法,文獻(xiàn)[8]提出了基于條件隨機場的漢語詞匯特征研究,文獻(xiàn)[9] 提出一種集規(guī)則方法與統(tǒng)計方法于一體的漢語連動句識別方法。通過對CNNVD、CNVD等漏洞庫中的安全漏洞描述形式的分析,發(fā)現(xiàn)漏洞名稱和漏洞簡介/漏洞描述均遵循一定的規(guī)則,因此采用基于規(guī)則的實體識別方法,同時由于漏洞類型劃分的不一致,并且部分字段無法通過漏洞庫獲取的情況,通過建立實體的字典來進行字段的匹配。圖4為安全風(fēng)險點知識庫構(gòu)建過程中的基于規(guī)則的實體識別子流程。

    圖4 安全風(fēng)險點知識庫構(gòu)建-實體識別子流程

    4.3 業(yè)務(wù)安全風(fēng)險點知識庫的應(yīng)用

    安全風(fēng)險點知識庫以系統(tǒng)的形式對組織內(nèi)部進行展現(xiàn),可以提供知識的檢索和更新等功能,并提供實時可視化交互接口便于在測試用例設(shè)計過程中進行測試用例的自動化生成。基于安全風(fēng)險點知識庫的測試用例設(shè)計包含兩大步驟:業(yè)務(wù)需求結(jié)構(gòu)化分析和安全測試用例自動生成兩個步驟。

    業(yè)務(wù)需求結(jié)構(gòu)化分析基于各系統(tǒng)需求文檔完整規(guī)范的假設(shè)。采用自頂向下逐層分解的方式,最終將系統(tǒng)劃分成各個功能/交易。完成功能/交易的拆分后,將功能/交易作為基本分析單位。將基本分析單位的被測內(nèi)容劃分為界面要素、業(yè)務(wù)規(guī)則、業(yè)務(wù)流程三種類型,然后針對這三種類型再細(xì)分到原子級,即分到不可再劃分的程度。該劃分是基于安全領(lǐng)域的“所有用戶輸入不可信”的原則,用戶可控的輸入都是可以篡改的,而業(yè)務(wù)安全漏洞的發(fā)生則是由于篡改而導(dǎo)致的。

    表2以一個簡單的登錄功能為例,展示了需求結(jié)構(gòu)化分析的過程示例,表中的元素類型和元素值與本文4.1業(yè)務(wù)測試風(fēng)險點知識庫中的元素類型和元素值含義一致。

    表2 需求結(jié)構(gòu)化分析示例

    圖5即運用需求結(jié)構(gòu)化分析得到的元素類型和元素值,逐個在業(yè)務(wù)安全風(fēng)險點知識庫中查找對應(yīng)風(fēng)險點,生成測試用例的過程。

    圖5 業(yè)務(wù)安全測試用例生成過程

    安全測試用例生成基于兩部分的內(nèi)容:需求結(jié)構(gòu)化分析的結(jié)果和安全風(fēng)險點知識庫。

    表3 業(yè)務(wù)安全測試用例示例

    生成的業(yè)務(wù)安全測試用例就作為業(yè)務(wù)安全測試執(zhí)行的指南,在執(zhí)行結(jié)算若發(fā)現(xiàn)安全漏洞,還可以參考安全風(fēng)險點知識庫中漏洞對應(yīng)的修復(fù)建議。

    5 結(jié)束語

    針對當(dāng)前銀行業(yè)務(wù)系統(tǒng)面臨業(yè)務(wù)安全漏洞攻擊日益增加,內(nèi)部安全測試技能無法有效應(yīng)對的現(xiàn)狀,本文提出一種基于業(yè)務(wù)安全風(fēng)險點的銀行業(yè)務(wù)安全測試方法。對業(yè)務(wù)安全測試流程進行了標(biāo)準(zhǔn)化,同時通過搭建業(yè)務(wù)安全風(fēng)險點知識庫為核心的組織級資產(chǎn),結(jié)合結(jié)構(gòu)化需求分析方法,實現(xiàn)測試用例設(shè)計的自動化。

    該方法在某國有大型商業(yè)銀行進行了實踐,搭建包含459個風(fēng)險點的風(fēng)險點知識庫,在3個測試系統(tǒng)中進行試點和使用,生成287個業(yè)務(wù)安全測試用例,發(fā)現(xiàn)安全漏洞19個,其中高危3個,中危7個,低危9個。有效提升業(yè)務(wù)安全測試的效率,降低業(yè)務(wù)安全測試的準(zhǔn)入門檻,同時實現(xiàn)組織級資產(chǎn)的知識共享和復(fù)用。

    本研究仍存在待改進的地方:一是業(yè)務(wù)安全漏洞分級模型;二是業(yè)務(wù)安全測試執(zhí)行自動化。這也是后續(xù)進一步研究方向。

    [1]吳迪,馮登國,連一峰,陳愷. 一種給定脆弱性環(huán)境下的安全措施效用評估模型[J]. 軟件學(xué)報,2012,23(7).

    [2]Kijsanayot hin P,Hewett R. Analytical approach to attack graph analysis for network security//Proceedings of the 2010 International Conference on Availability,Reliability and Security. Krakow,Poland,2010. Washington,DC,USA: IEEE Computer Society Press,2010:25232.

    [3]章麗娟,崔穎,王清賢. 基于AEGM的網(wǎng)絡(luò)攻擊滲透測試預(yù)案生成系統(tǒng)[J]. 計算機工程與設(shè)計,2011,32(4):1254-1259.

    [4]何可,李曉紅,馮志勇,AARON Marback. 基于攻擊場景的安全測試生成方法[J]. 天津大學(xué)學(xué)報,2011,44(4):344-352.

    [5]吳迪,連一峰,陳愷,劉玉嶺. 一種基于攻擊圖的安全威脅識別和分析方法[J]. 計算機學(xué)報,2012,35(9):1938-1950.

    [6]李亮,樓芳. 網(wǎng)絡(luò)滲透測試流程、用例管理和風(fēng)險控制研究[J]. 煤炭技術(shù),2010,29(11):175-176.

    [7]GB∕T 33561-2017,信息安全技術(shù)安全漏洞分類[S].

    [8]黃定琦,史晟輝. 基于條件隨機場的漢語詞匯特征研究[J]. 計算機應(yīng)用研究,2020,37(6):1724-1728,1754.

    [9]劉雯旻,張曉如. 一種基于規(guī)則和統(tǒng)計的連動句識別方法[J]. 電子設(shè)計工程,2017,25(22):18-22.

    猜你喜歡
    安全漏洞測試用例知識庫
    基于SmartUnit的安全通信系統(tǒng)單元測試用例自動生成
    基于TRIZ與知識庫的創(chuàng)新模型構(gòu)建及在注塑機設(shè)計中的應(yīng)用
    安全漏洞太大亞馬遜、沃爾瑪和Target緊急下架這種玩具
    玩具世界(2018年6期)2018-08-31 02:36:26
    基于混合遺傳算法的回歸測試用例集最小化研究
    基于安全漏洞掃描的校園網(wǎng)告警系統(tǒng)的開發(fā)與設(shè)計
    高速公路信息系統(tǒng)維護知識庫的建立和應(yīng)用
    基于Drupal發(fā)布學(xué)者知識庫關(guān)聯(lián)數(shù)據(jù)的研究
    圖書館研究(2015年5期)2015-12-07 04:05:48
    基于依賴結(jié)構(gòu)的測試用例優(yōu)先級技術(shù)
    安全漏洞Shellshock簡介
    河南科技(2014年11期)2014-02-27 14:16:49
    軟件回歸測試用例選取方法研究
    国产精华一区二区三区| 成人18禁在线播放| 日本黄色片子视频| svipshipincom国产片| 亚洲国产精品久久男人天堂| 观看免费一级毛片| 男女那种视频在线观看| 日日夜夜操网爽| 欧美一级a爱片免费观看看| 99精品在免费线老司机午夜| 中文在线观看免费www的网站| 观看免费一级毛片| 亚洲最大成人中文| 午夜精品一区二区三区免费看| 国产精品 欧美亚洲| 校园春色视频在线观看| 两人在一起打扑克的视频| 亚洲欧美日韩高清专用| 老司机午夜十八禁免费视频| 一级黄片播放器| 免费在线观看亚洲国产| 午夜激情欧美在线| 国产中年淑女户外野战色| 国产成人aa在线观看| 亚洲成a人片在线一区二区| 两个人的视频大全免费| 亚洲一区二区三区色噜噜| ponron亚洲| 成人av一区二区三区在线看| 五月伊人婷婷丁香| 亚洲美女视频黄频| 美女高潮喷水抽搐中文字幕| 69人妻影院| 成人亚洲精品av一区二区| 亚洲av美国av| 少妇裸体淫交视频免费看高清| 好男人在线观看高清免费视频| 在线播放国产精品三级| 国产熟女xx| 国产一区二区三区视频了| 人人妻人人澡欧美一区二区| 亚洲国产欧洲综合997久久,| 欧美色视频一区免费| 最新在线观看一区二区三区| 好看av亚洲va欧美ⅴa在| 久久精品91蜜桃| 美女大奶头视频| 一个人免费在线观看的高清视频| 日韩亚洲欧美综合| 日韩欧美国产在线观看| 香蕉久久夜色| 亚洲成人久久性| 亚洲成人中文字幕在线播放| 观看美女的网站| 免费在线观看亚洲国产| 波多野结衣巨乳人妻| 日本黄色视频三级网站网址| 久久中文看片网| 两个人视频免费观看高清| 别揉我奶头~嗯~啊~动态视频| 亚洲av电影不卡..在线观看| 人人妻人人看人人澡| 在线观看66精品国产| 午夜福利在线在线| 色综合站精品国产| 国内精品久久久久久久电影| 天堂av国产一区二区熟女人妻| 动漫黄色视频在线观看| 变态另类丝袜制服| 成年人黄色毛片网站| 久久久久精品国产欧美久久久| 欧美精品啪啪一区二区三区| 亚洲成人中文字幕在线播放| 国产精品 国内视频| 亚洲人成电影免费在线| 免费人成在线观看视频色| 麻豆成人av在线观看| 手机成人av网站| 97碰自拍视频| 亚洲av日韩精品久久久久久密| 久久久久国内视频| 国产aⅴ精品一区二区三区波| 欧美激情久久久久久爽电影| 精品国产美女av久久久久小说| 亚洲欧美一区二区三区黑人| 欧美黄色淫秽网站| 国产乱人伦免费视频| 国产男靠女视频免费网站| 91麻豆精品激情在线观看国产| 国产黄色小视频在线观看| 免费在线观看亚洲国产| 人人妻人人看人人澡| 大型黄色视频在线免费观看| 床上黄色一级片| 天天躁日日操中文字幕| 亚洲五月婷婷丁香| 一个人免费在线观看的高清视频| 老司机福利观看| 天堂影院成人在线观看| 色综合婷婷激情| 激情在线观看视频在线高清| 亚洲真实伦在线观看| 免费av毛片视频| 午夜a级毛片| 美女大奶头视频| 国产精品一及| 免费观看人在逋| 少妇人妻精品综合一区二区 | 亚洲自拍偷在线| 国产欧美日韩一区二区三| 日韩欧美三级三区| 97人妻精品一区二区三区麻豆| 久久久久久久久大av| 女人十人毛片免费观看3o分钟| 欧美中文日本在线观看视频| 欧美乱色亚洲激情| 啦啦啦免费观看视频1| 性色av乱码一区二区三区2| 国产亚洲欧美98| 99久久99久久久精品蜜桃| 精品人妻1区二区| 国产精品精品国产色婷婷| xxxwww97欧美| 手机成人av网站| 丰满的人妻完整版| 成年人黄色毛片网站| 国产综合懂色| 亚洲精品在线美女| 国产精品日韩av在线免费观看| 99精品久久久久人妻精品| 天堂av国产一区二区熟女人妻| 午夜免费成人在线视频| 亚洲欧美一区二区三区黑人| 级片在线观看| 亚洲 国产 在线| 国产激情欧美一区二区| 国产亚洲精品久久久久久毛片| 精品国产三级普通话版| 嫁个100分男人电影在线观看| 久久人妻av系列| 亚洲人成网站在线播放欧美日韩| 床上黄色一级片| 精品熟女少妇八av免费久了| 成人精品一区二区免费| 18禁黄网站禁片免费观看直播| 成人午夜高清在线视频| 亚洲欧美日韩高清在线视频| ponron亚洲| 99国产综合亚洲精品| e午夜精品久久久久久久| 内射极品少妇av片p| 日本与韩国留学比较| 一个人免费在线观看电影| 国产精品久久电影中文字幕| 悠悠久久av| 成年女人永久免费观看视频| 亚洲国产中文字幕在线视频| 色哟哟哟哟哟哟| 中文字幕人妻丝袜一区二区| 久久久国产成人精品二区| 99久久九九国产精品国产免费| www.色视频.com| 男插女下体视频免费在线播放| 免费人成在线观看视频色| 波多野结衣高清无吗| 有码 亚洲区| 久99久视频精品免费| a级一级毛片免费在线观看| 97碰自拍视频| 色播亚洲综合网| 欧美一级毛片孕妇| 国产免费一级a男人的天堂| 久久久久久大精品| 性欧美人与动物交配| 国产免费男女视频| 国内揄拍国产精品人妻在线| 亚洲欧美日韩高清专用| 岛国在线观看网站| 美女黄网站色视频| 免费在线观看成人毛片| 黄色日韩在线| 一个人免费在线观看的高清视频| 国产精品久久久久久久久免 | 天堂av国产一区二区熟女人妻| 欧美又色又爽又黄视频| а√天堂www在线а√下载| 特大巨黑吊av在线直播| 国产一区二区三区视频了| 国产精品精品国产色婷婷| www国产在线视频色| 亚洲国产精品合色在线| 99热只有精品国产| 国内精品久久久久久久电影| 久久香蕉精品热| 日本精品一区二区三区蜜桃| 国产精品久久电影中文字幕| 老汉色∧v一级毛片| 色综合站精品国产| 亚洲国产精品久久男人天堂| 好男人电影高清在线观看| 午夜亚洲福利在线播放| 精品久久久久久久久久免费视频| 欧美+亚洲+日韩+国产| 我要搜黄色片| 国产高清videossex| 欧美+亚洲+日韩+国产| 日日干狠狠操夜夜爽| 国产高清videossex| 精品人妻偷拍中文字幕| 亚洲欧美日韩卡通动漫| 国产成人a区在线观看| 亚洲真实伦在线观看| 中亚洲国语对白在线视频| 天堂av国产一区二区熟女人妻| 男女下面进入的视频免费午夜| 午夜精品在线福利| 亚洲午夜理论影院| 国产欧美日韩一区二区三| 可以在线观看的亚洲视频| 韩国av一区二区三区四区| 亚洲精品日韩av片在线观看 | 特级一级黄色大片| 国产高清视频在线观看网站| 成人亚洲精品av一区二区| 亚洲国产高清在线一区二区三| 亚洲精品粉嫩美女一区| 两人在一起打扑克的视频| h日本视频在线播放| 国产私拍福利视频在线观看| 久久久国产成人免费| 免费人成在线观看视频色| 亚洲国产精品999在线| 久久精品91无色码中文字幕| 国产精品野战在线观看| 午夜福利欧美成人| 在线观看日韩欧美| 老司机在亚洲福利影院| 99在线人妻在线中文字幕| xxxwww97欧美| 国产精品一区二区三区四区免费观看 | 18禁美女被吸乳视频| 亚洲国产精品久久男人天堂| 国产爱豆传媒在线观看| 日韩av在线大香蕉| 99热这里只有是精品50| 亚洲自拍偷在线| 久久久久国内视频| 欧美+日韩+精品| 国产精品一及| 色av中文字幕| 波野结衣二区三区在线 | 亚洲在线自拍视频| 久久精品夜夜夜夜夜久久蜜豆| 午夜精品在线福利| 在线播放无遮挡| 男女下面进入的视频免费午夜| 在线观看日韩欧美| 又紧又爽又黄一区二区| 中文字幕熟女人妻在线| 亚洲欧美日韩高清在线视频| 亚洲片人在线观看| 国产精品美女特级片免费视频播放器| 免费无遮挡裸体视频| 中文字幕人妻丝袜一区二区| 久久草成人影院| 欧美区成人在线视频| 中文字幕熟女人妻在线| 脱女人内裤的视频| 婷婷六月久久综合丁香| 亚洲一区高清亚洲精品| 成人特级黄色片久久久久久久| 亚洲无线在线观看| 国产色爽女视频免费观看| 波多野结衣高清无吗| 欧美成人一区二区免费高清观看| 18+在线观看网站| 午夜免费观看网址| 精品无人区乱码1区二区| av福利片在线观看| 亚洲av一区综合| 久久久精品大字幕| 88av欧美| 老司机午夜福利在线观看视频| 国产视频一区二区在线看| 女生性感内裤真人,穿戴方法视频| www国产在线视频色| 日韩中文字幕欧美一区二区| av视频在线观看入口| 国产激情偷乱视频一区二区| 草草在线视频免费看| 97超级碰碰碰精品色视频在线观看| 亚洲精品一卡2卡三卡4卡5卡| 免费高清视频大片| 精品99又大又爽又粗少妇毛片 | 变态另类成人亚洲欧美熟女| 综合色av麻豆| 亚洲在线观看片| 午夜a级毛片| 操出白浆在线播放| 国产精品亚洲一级av第二区| 我要搜黄色片| 啦啦啦观看免费观看视频高清| 国产一区二区在线观看日韩 | 日韩中文字幕欧美一区二区| 日本 欧美在线| 香蕉久久夜色| 精品国产美女av久久久久小说| 一级黄片播放器| 少妇高潮的动态图| 制服丝袜大香蕉在线| 日韩大尺度精品在线看网址| 他把我摸到了高潮在线观看| 国产97色在线日韩免费| 黄色日韩在线| 制服丝袜大香蕉在线| 中文在线观看免费www的网站| 色在线成人网| 日韩高清综合在线| 手机成人av网站| 免费看美女性在线毛片视频| 亚洲av成人精品一区久久| 精华霜和精华液先用哪个| 麻豆成人午夜福利视频| 欧美区成人在线视频| 久久久久久久精品吃奶| 成人永久免费在线观看视频| 亚洲av成人av| 国内久久婷婷六月综合欲色啪| 日本免费一区二区三区高清不卡| 久久亚洲真实| 日韩国内少妇激情av| 国产av不卡久久| 亚洲男人的天堂狠狠| 每晚都被弄得嗷嗷叫到高潮| 天天躁日日操中文字幕| 国产精品国产高清国产av| 国产一区二区三区在线臀色熟女| 中文字幕久久专区| 久久久久久久久久黄片| 国产精品永久免费网站| 精品久久久久久,| 日韩亚洲欧美综合| 不卡一级毛片| 日韩亚洲欧美综合| 精品国产亚洲在线| 桃红色精品国产亚洲av| 在线观看66精品国产| 俄罗斯特黄特色一大片| 亚洲在线观看片| 国产三级中文精品| 日本 欧美在线| www日本在线高清视频| 亚洲真实伦在线观看| 国产高清有码在线观看视频| 欧美3d第一页| 无限看片的www在线观看| 欧美av亚洲av综合av国产av| 嫩草影院入口| 91在线观看av| 久久久久久久久大av| 九九热线精品视视频播放| 国产精品免费一区二区三区在线| 一边摸一边抽搐一进一小说| 精品日产1卡2卡| 亚洲成人免费电影在线观看| 嫩草影院精品99| 国产高清videossex| 午夜福利18| 一边摸一边抽搐一进一小说| 日日摸夜夜添夜夜添小说| 国产男靠女视频免费网站| 欧美黑人巨大hd| 看黄色毛片网站| 99久久精品热视频| 亚洲成a人片在线一区二区| 波野结衣二区三区在线 | 国产黄色小视频在线观看| 亚洲乱码一区二区免费版| 国产亚洲欧美在线一区二区| 亚洲人与动物交配视频| 在线观看舔阴道视频| 一级a爱片免费观看的视频| 日本 欧美在线| 婷婷丁香在线五月| 麻豆成人av在线观看| 国产一区在线观看成人免费| 国产淫片久久久久久久久 | 欧美xxxx黑人xx丫x性爽| 久久久久精品国产欧美久久久| 欧美最黄视频在线播放免费| 亚洲一区二区三区色噜噜| 亚洲av日韩精品久久久久久密| 欧美色欧美亚洲另类二区| 在线十欧美十亚洲十日本专区| 国产91精品成人一区二区三区| 一级黄片播放器| 亚洲中文字幕日韩| 亚洲av一区综合| 日韩欧美在线乱码| 男女下面进入的视频免费午夜| 亚洲最大成人手机在线| 老司机深夜福利视频在线观看| 变态另类丝袜制服| 精品久久久久久成人av| 此物有八面人人有两片| 一区二区三区免费毛片| 亚洲天堂国产精品一区在线| 美女免费视频网站| 成人av在线播放网站| 国产探花极品一区二区| 亚洲熟妇熟女久久| 国产欧美日韩精品一区二区| 精品久久久久久久毛片微露脸| 18+在线观看网站| 日韩欧美免费精品| 欧美日韩精品网址| 国产亚洲精品久久久com| 精品一区二区三区视频在线观看免费| 精品一区二区三区视频在线 | 最新在线观看一区二区三区| 少妇丰满av| 亚洲av电影不卡..在线观看| 日本 av在线| 亚洲天堂国产精品一区在线| 十八禁网站免费在线| 脱女人内裤的视频| 极品教师在线免费播放| 少妇熟女aⅴ在线视频| 国产精品 国内视频| 久久香蕉精品热| 久9热在线精品视频| 精品人妻偷拍中文字幕| 欧美中文日本在线观看视频| 国产蜜桃级精品一区二区三区| 最新美女视频免费是黄的| 天堂√8在线中文| 亚洲国产欧美网| 搡老妇女老女人老熟妇| 国产色爽女视频免费观看| 国产精品久久久久久精品电影| 亚洲人成网站高清观看| a级毛片a级免费在线| 久久精品国产亚洲av涩爱 | www国产在线视频色| 一区福利在线观看| xxx96com| 丰满人妻一区二区三区视频av | 成人国产综合亚洲| 欧美黑人欧美精品刺激| 国产日本99.免费观看| 国产一级毛片七仙女欲春2| www.www免费av| 亚洲精品一卡2卡三卡4卡5卡| 国产高清有码在线观看视频| 亚洲最大成人中文| 亚洲性夜色夜夜综合| 真实男女啪啪啪动态图| 草草在线视频免费看| 亚洲av电影不卡..在线观看| 最好的美女福利视频网| 久久性视频一级片| 91在线观看av| 亚洲av成人av| 亚洲在线自拍视频| 亚洲精品色激情综合| 在线播放国产精品三级| 中文字幕人成人乱码亚洲影| 成年人黄色毛片网站| 国产视频一区二区在线看| 欧美成人一区二区免费高清观看| 少妇被粗大猛烈的视频| 嫩草影院入口| 大香蕉久久网| 亚洲av一区综合| 亚洲无线观看免费| 免费av毛片视频| 国产v大片淫在线免费观看| 免费观看在线日韩| 五月天丁香电影| 日韩一本色道免费dvd| 毛片一级片免费看久久久久| 亚洲欧美成人精品一区二区| 国产精品福利在线免费观看| 最近手机中文字幕大全| 插逼视频在线观看| 久久久久久国产a免费观看| 老女人水多毛片| 街头女战士在线观看网站| 综合色av麻豆| 午夜免费观看性视频| 精品人妻视频免费看| 国产亚洲av嫩草精品影院| 大香蕉久久网| 舔av片在线| 高清在线视频一区二区三区| av国产免费在线观看| 久久人人爽人人片av| 九九在线视频观看精品| av卡一久久| 久久久久久久久久人人人人人人| 亚洲av成人av| 成人一区二区视频在线观看| 又大又黄又爽视频免费| 婷婷色av中文字幕| 久久久午夜欧美精品| 非洲黑人性xxxx精品又粗又长| 在线观看av片永久免费下载| av卡一久久| 伦理电影大哥的女人| 日韩欧美精品免费久久| 人妻制服诱惑在线中文字幕| 一级a做视频免费观看| 欧美成人午夜免费资源| 男女啪啪激烈高潮av片| 一本一本综合久久| 日本-黄色视频高清免费观看| 欧美激情在线99| 亚洲,欧美,日韩| 色综合站精品国产| 可以在线观看毛片的网站| 麻豆国产97在线/欧美| 欧美潮喷喷水| 精品一区在线观看国产| 国产在线男女| 亚洲国产欧美人成| 精品久久久噜噜| 国产亚洲91精品色在线| 秋霞伦理黄片| 美女黄网站色视频| 成人美女网站在线观看视频| 一级毛片 在线播放| 日韩视频在线欧美| 最近最新中文字幕免费大全7| av线在线观看网站| 精品国产三级普通话版| 女的被弄到高潮叫床怎么办| 久久99精品国语久久久| 中文字幕制服av| 亚洲欧美日韩无卡精品| 国产精品久久久久久久久免| 久久精品久久久久久噜噜老黄| av黄色大香蕉| 美女国产视频在线观看| 日韩欧美国产在线观看| 亚洲伊人久久精品综合| 丝瓜视频免费看黄片| 久久久久久久久久黄片| 日韩欧美一区视频在线观看 | 国产成人免费观看mmmm| 久久精品国产亚洲av天美| 久久99热这里只有精品18| 亚洲人成网站在线播| 亚洲精品日韩在线中文字幕| 国产视频内射| 国产乱人视频| 99久国产av精品国产电影| 肉色欧美久久久久久久蜜桃 | 成人av在线播放网站| 男的添女的下面高潮视频| 在线免费观看不下载黄p国产| 国产av在哪里看| 啦啦啦啦在线视频资源| 日韩中字成人| 极品少妇高潮喷水抽搐| 亚洲国产欧美在线一区| 成人欧美大片| or卡值多少钱| 久久久久国产网址| av卡一久久| 九九在线视频观看精品| 日韩亚洲欧美综合| 久久久久久九九精品二区国产| 午夜激情欧美在线| 亚洲精品,欧美精品| 女人被狂操c到高潮| 又大又黄又爽视频免费| 免费黄频网站在线观看国产| 国产 亚洲一区二区三区 | 久久精品国产鲁丝片午夜精品| 美女黄网站色视频| 99久久精品一区二区三区| 亚洲最大成人av| 精品酒店卫生间| 婷婷色综合www| 日韩一本色道免费dvd| 午夜亚洲福利在线播放| a级一级毛片免费在线观看| 国产精品无大码| 欧美精品一区二区大全| 国产伦精品一区二区三区视频9| 极品少妇高潮喷水抽搐| 一级a做视频免费观看| 高清视频免费观看一区二区 | 人妻一区二区av| 嫩草影院入口| 日韩av不卡免费在线播放| 午夜福利成人在线免费观看| 亚洲欧美成人综合另类久久久| 99久久人妻综合| 亚洲av男天堂| 中文字幕av在线有码专区| 国产黄色小视频在线观看| 人体艺术视频欧美日本| 在线免费观看不下载黄p国产| 91aial.com中文字幕在线观看| 日韩欧美国产在线观看| 舔av片在线| 亚洲成色77777| 国产亚洲av嫩草精品影院| 亚洲欧美精品专区久久| 最近2019中文字幕mv第一页| 日韩精品有码人妻一区| 成人一区二区视频在线观看| 久久6这里有精品| av网站免费在线观看视频 |