• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于沙箱回避的 APT 研究*

    2015-08-02 03:58:43增,勇,質(zhì)
    信息安全與通信保密 2015年3期
    關(guān)鍵詞:沙箱對話框鼠標

    孫 增, 施 勇, 薛 質(zhì)

    (上海交通大學(xué)信息安全工程學(xué)院,上海 200240)

    基于沙箱回避的 APT 研究*

    孫 增, 施 勇, 薛 質(zhì)

    (上海交通大學(xué)信息安全工程學(xué)院,上海 200240)

    通過對日益復(fù)雜化的 APT(Advanced Persistent Threat,高級持續(xù)性威脅) 生命周期中危險階段的認識,簡要介紹 APT檢測手段的演變過程,詳細分析新型 APT 利用技術(shù)手段逃避沙箱檢測的細節(jié)。 針對現(xiàn)有的 APT 沙箱檢測不足以應(yīng)對這種新型 APT 的問題,從 APT 逃避沙箱的方式角度出發(fā),有針對地提出新型沙箱檢測技術(shù)策略。 對于未來不斷進化的 APT,可能會出現(xiàn)許多新的伎倆,探索建立統(tǒng)一的大數(shù)據(jù)分析跟蹤網(wǎng)絡(luò)或許是盡早發(fā)現(xiàn) APT 的有效途徑。

    APT;危險階段;檢測手段;沙箱回避;人機交互;特殊設(shè)置

    0 引言

    隨著 APT(Advanced Persistent Threat,高級持續(xù)性威脅) 發(fā)生事件的日益增多,人們已經(jīng)認識到已知的 APT 攻擊的許多攻擊細節(jié),以及常見的攻擊步驟。 不同的安全廠商和安全機構(gòu)從各自的特長出發(fā)提出多種檢測 APT 的策略,方法和工具。 目前利用沙箱檢測惡意代碼的行為已經(jīng)成為 APT 檢測的主流手段。 同時,APT 的進化還在持續(xù),利用新技術(shù)逃避沙箱檢測的 APT 案例經(jīng)常出現(xiàn)。 因此,需要分析這些逃避沙箱的技術(shù),找出現(xiàn)有 APT檢測沙箱的不足,提出有針對的改進措施。

    沙箱檢測技術(shù)是一種應(yīng)對 APT 通過零日漏洞發(fā)動攻擊的有效方式。 利用沙箱接管調(diào)用接口或函數(shù)行為,通過重定向技術(shù)把程序生成和修改的文件定向到自身的文件夾中,并會在確認病毒行為后實行“回滾”機制讓系統(tǒng)復(fù)原。 通常使用沙箱檢測技術(shù)模擬一系列應(yīng)用程序行為和網(wǎng)絡(luò)行為所產(chǎn)生的后果,再通過大數(shù)據(jù)分析來判定其是不是 APT攻擊。

    1 APT 的危險階段分析

    已知的 APT 生命生命周期可大致分為:準備階段,初始化攻擊,實施攻擊,清理痕跡。 它們的具體活動特征可以概括出四個危險攻擊階段[1]:準備,入侵,交互,竊取。 通過對每個階段的 特征和動作分析可以發(fā)現(xiàn) APT 在攻擊者暴露的幾率,實施攻擊的代價,被檢測出可能性,實時補救的代價,防御手段的多少,取證調(diào)查的可能性等方面在不同階段有著不同的等級(如表1所示)。

    表 1 APT 危險節(jié)點分析

    對于以上 APT 危險階段的認識經(jīng)歷了較長一段時間,人們通過大量的安全事件分析,逐漸的揭開 APT 攻擊的神秘面紗,同時又有針對和側(cè)重的提出相應(yīng)的檢測手段。 隨著認識 APT 的過程不斷完善的,相應(yīng)的檢測手段也在不斷演進。

    2 APT 檢測手段的演變

    最早的 APT 檢測是在傳遞和 C&C 階段進行內(nèi)容過濾,在傳遞和提升權(quán)限階段進行反惡意軟件,在利用和 C&C 階段進行入侵檢測。 這種傳統(tǒng)的真對特定階段的檢測,往往可以發(fā)現(xiàn)些單一入侵跡象,但是單一跡象很難說明整個攻擊事件的影響范圍,也很容易混淆視聽。隨后發(fā)展到對于整個攻擊鏈的調(diào)查取證和對傳遞階段的著重偵查發(fā)現(xiàn)。這種花費大量時間收集去證明攻擊發(fā)生的方法很難對攻擊造成實質(zhì)性的打擊,避免不了類似的攻擊造成的損失,同時在調(diào)查取證過程中如果失去捕獲其中一個階段的證據(jù)就意味著失去全部。

    到目前為止,基于 APT 的檢測的手段有很多,側(cè)重點也五花八門涵蓋了APT攻擊生命周 期[2]的各個階段。 沙 箱 技術(shù)也在下一代 APT 檢測中扮演核心角色,利用沙箱對主機中運行加載類似 PDF、 OFFICE、 EXE、 DLL、 ZIP、 FLASH、 JavaS-cript、HTML 對象等的負載后的行為進行分析, 并標記出可以行為。 目前基于沙箱技術(shù)的 APT 檢測技術(shù)越來越被重視,同時逃避沙箱檢測[3]的 APT 的樣本也逐漸增多,新型 APT 的沙箱回避技術(shù)正在被廣泛研究。

    3 新型 APT 的沙箱回避技術(shù)

    通常的,沙箱系統(tǒng)被看作處理許多的惡意代碼樣本和分析檢測攻擊案例的起始。 由于許多人會把沙箱和虛擬機混淆,可能使得許多公司將虛擬機當作沙箱使用,在個人用戶終端這種想象更加普遍。

    越來越多的 APT 攻擊案例表明,黑客們正在編寫新的惡意代碼,這種惡意代碼可以通過尋找沙箱在系統(tǒng)內(nèi)存、正在運行是的程序、注冊表和文件系統(tǒng)中留下的典型特征來判斷是否有沙箱正在運行,從而采取相應(yīng)的手段逃避沙箱的檢測,這種行為成為沙箱回避。

    新型的 APT 設(shè)計越來越精巧,利用沙箱系統(tǒng)工作原理和本身的缺陷和沙箱在檢測 APT 中惡意代碼行為中的普遍應(yīng)用,想方設(shè)法逃避沙箱技術(shù)的檢測。 常用的沙箱回避手段有:人際交互[4],特殊配置,特殊環(huán)境,典型的虛擬機系統(tǒng)等。 甚至,有些惡意代碼經(jīng)常利用注入到其他的程序中的手段來避免被沙箱系統(tǒng)發(fā)現(xiàn)( 例如 iexplore.exe)。 同時, 它們還通過創(chuàng)建一些用于達到其它目的的子進程來逃避檢測。

    3.1 人機交互

    通常在沙箱系統(tǒng)環(huán)境沒有鼠標移動和對話框彈出關(guān)閉等人為操作,APT 通過判斷入侵系統(tǒng)中的有無鼠標的點擊和對話框的彈出判斷自身是否出去沙箱的環(huán)境中。 這種 APT 在入侵到目標系統(tǒng)之后就會一直處于潛伏狀態(tài),直到它們檢測到目標系統(tǒng)中有鼠標移動、點擊以及對話框的智能反應(yīng)等人機交互的情況時,它們才開始執(zhí)行惡意代碼。

    3.1.1 鼠標點擊

    惡意代碼是利用 0x0E 作為參數(shù)值,去調(diào)用安裝在掛鉤程序WH-MOUSE-LL 中的 SetWinodwsHookExA() 函數(shù),從而實現(xiàn)對低級別的鼠標輸入的監(jiān)控。 當鼠標被單擊時,會通過關(guān)聯(lián)指針 fn調(diào)用 UnhookWindowsHookEx()函數(shù)停止對鼠標的監(jiān)控,然后調(diào)用sub-401170()函數(shù)執(zhí)行惡意代碼(如圖 1 所示)。

    圖1 惡意代碼監(jiān)視鼠標動作后執(zhí)行流程圖

    一些與 APT 相關(guān)的惡意代碼,利用這種技術(shù)不斷進化出其它更高級的逃避沙箱技術(shù)[5],例如通過設(shè)置鼠標點擊后的延時在察覺到有鼠標點擊之后的一段時間內(nèi)才會執(zhí)行惡意代碼或者增加循環(huán)計數(shù)功能在檢測到鼠標若干次單擊后才會執(zhí)行惡意代碼。甚至有些惡意代碼會檢測鼠標的移動方向,只有在鼠標向特定的方向移動后才會執(zhí)行。 有些惡意 PDF 文件只有在用戶鼠標向下滾動到特殊的頁面是才會被觸發(fā)執(zhí)行惡意行為。這些惡意代碼的隱蔽性更高,更不容易被察覺,從而很容易的逃避沙箱系統(tǒng)的監(jiān)控。

    3.1.2 對話框

    APT 惡意代碼會在應(yīng)用程序和動態(tài)鏈接庫中利用 MessageBox()和 MessageBoxEx()這兩個應(yīng)用程序接口創(chuàng)建對話框。 惡意代碼只有在用戶點擊按鈕之后才會執(zhí)行。通常彈出的對話框是警示性的對話框,只有當用戶點擊彈出對話框上的“確定”按鍵時,說明惡意代碼已經(jīng)在真實的目標系統(tǒng)中,這時惡意代碼被激活和執(zhí)行。

    圖2 開啟對話框的 JavaScript惡意代碼

    例如,惡意代碼使用 JavaScript 的 app.alert()來開啟 Adobe Acrobat PDF 文檔內(nèi)的對話框( 如圖2所示),當使用者點擊“ 確定”時,惡意代碼會使用 app.launchURL()方法開啟惡意的 URL。

    3.2 特殊設(shè)定

    越來越多的網(wǎng)絡(luò)攻擊者已經(jīng)開始關(guān)注有關(guān)沙箱系統(tǒng)的配置[6],并利用這些配置參數(shù)運用一些手段有針對的逃避檢測。

    3.2.1 睡眠呼叫

    由于沙箱要檢測大量的加載文件,因此在對單一文件的檢測時間是有限的,郵箱惡意代碼會設(shè)置睡眠時間,延時執(zhí)行惡意行為從而避免沙箱的檢測。 研究發(fā)現(xiàn)惡意代碼 Trojan Nap 可以延長睡眠時鐘[7],等待沙箱檢測完之后再執(zhí)行代碼。 代碼利用超時變量參數(shù) 0x0927C0(600 秒,10 分鐘)調(diào)用 SleepEx()使得在 10分鐘之后惡意代碼才可以被執(zhí)行。 10分鐘的時間大于大多數(shù)沙箱檢測文件樣本所需的時間,這樣惡意代碼的行為就不會被沙箱發(fā)現(xiàn)(如圖3 所示)。

    圖3 Trojan Nap 調(diào)用 SleepEx() 的方法

    3.2.2 時間觸發(fā)器

    同理,為充分利用沙箱檢測個體文件時間的有限性。 很多情況下,惡意代碼就像一顆“定時炸彈”,它會利用時間觸發(fā)器功能和睡眠喚醒功能共同作用,使得在時間沒有到達預(yù)置的時間時,惡意代碼將不會被執(zhí)行,從而避開沙箱的監(jiān)控。

    例如惡意代碼 Trojan Hastati 利 用 GetLocalTime()應(yīng)用程序接口獲得系統(tǒng)的當前時間,如果獲取到的當前時間沒有到達惡意代碼設(shè)置的時間,惡意代碼將會睡眠等待一段時間之后再檢測時間,如此往復(fù)循環(huán)下去,直到到達設(shè)定的時間為止(如圖 4所示)。

    圖4 觸上條件沒到惡意代碼繼續(xù)睡眠

    3.2.3 執(zhí)行路徑

    通常沙箱是將文件拷貝到根目錄下并在根目錄下執(zhí)行相關(guān)的操作,這點和實際工作環(huán)境下[8]有所不同,在實際工作環(huán)境下是根據(jù)用戶選擇的目錄下進行操作,很少在根目錄下執(zhí)行。 這時惡意代碼就會利用 mmioOpen() 和 GetCommadLineA() 這兩種方式(如圖 5 所示)在 Windows 應(yīng)用程序接口中辨別代碼是否在根目錄下運行。

    圖5 惡意軟件運用 mmioOpen()功能檢查執(zhí)行路徑

    相比 mmioOpen() 而言,GetCommadLineA()的使用更加容易理解,這種方法是通過檢索當前命令行字符串[9]實現(xiàn)的。 當命令行的字符串只出現(xiàn)一個反斜杠時就可以認定文件是在根目錄下被執(zhí)行的,例如:“C: /filename.exe.”這時惡意代碼就終止或不執(zhí)行,從而逃避沙箱的檢測。

    3.2.4 隱藏進程

    基于文件的沙箱是通過監(jiān)控所有正在系統(tǒng)中運行的進程來識別出可以的惡意行為。它是通過微軟提供的一個名叫PsSetCreateProcessNotifyRoutine 內(nèi)核指針完成的。 隨著這個內(nèi)核程序的運行,Windows 上包含一個用來接收已經(jīng)注冊的反饋的數(shù)組。

    惡意代碼 Pushdo 運用拆解工具從內(nèi)核中提取出 PsSet-CreateProcessNotifyRoutine 指針,通過這個指針就很容易的移除數(shù)組中的所有安全軟件的反饋,一旦這些反饋被移除,惡意代碼就可以 創(chuàng)建和終止進程而不會被發(fā)現(xiàn)(如圖 6 所示)。這樣,那些運用沙箱的殺毒軟件就不會得到惡意軟件運行時產(chǎn)生的警告通知。

    圖6 惡意代碼檢索 PsSetCreateProcessNotifyRoutine 指針

    3.3 特殊環(huán)境

    許多惡意代碼都是在特定版本的應(yīng)用或操作系統(tǒng)中利用特定漏洞執(zhí)行的,而所有的沙箱系統(tǒng)都有預(yù)先設(shè)定的配置環(huán)境,如果沙箱沒有特定版本的安裝應(yīng)用,那么有些惡意的 Flash 文件和PDF 文件就不會下載,這時沙箱就檢測不到惡意代碼。

    同時,這些惡意的 Flash 和 PDF 文件就是惡意代碼通過編碼手段嵌入到 PDF 和 Flash 文件中,進一步逃避沙箱檢測,甚至有些惡意代碼為了逃避沙箱還會做 DLL 加載檢測,通過計算負載的 Hash 值來判斷是否需要加載。

    3.4 經(jīng)典的虛擬機系統(tǒng)

    沙箱是一種虛擬環(huán)境,利用對典型虛擬機環(huán)境的檢測,惡意代碼可以從操作系統(tǒng)枚舉注冊表鍵值中的所有磁盤名稱。如果注冊表鍵值中的磁盤名稱存在于系統(tǒng)磁盤名稱中,惡意代碼就可以判定自己運行在虛擬環(huán)境中,從而不會執(zhí)行惡意行為。

    另外,惡意代碼[10]還通過對經(jīng)典虛擬機的系統(tǒng)服務(wù)、自帶的特殊文件、VMX 通信端口等一些指標判斷自己是否在虛擬的環(huán)境中,從而盡可能的躲避沙箱的檢測。

    基于 Andriod 的惡意代碼通過函數(shù)調(diào)用來判斷所處的環(huán)境是否是虛擬環(huán)境。 例如通過調(diào)用 isEmulator 函數(shù)檢查設(shè)備的MODEL 值(谷歌 ADTbundle 模擬器的 MODEL 變量會含有字符串“ SDK”)來判斷是否正在 Android QEMU 模擬器下運行 ( 如圖7所示)。

    圖7 isEmulator 函數(shù)的相關(guān)代碼

    3.5 循環(huán)運用多種逃避技術(shù)

    新型的 APT 綜合運用多種沙箱回避技術(shù),既保證自己的行蹤不會被沙箱檢測到,又保證已經(jīng)加載在系統(tǒng)中的惡意代碼盡快發(fā)揮作用,避免因長期駐留系統(tǒng)中而被反惡意代碼軟件發(fā)現(xiàn)。這種綜合的手段是以感知到的外部情況(虛擬機環(huán)境,人機交互,執(zhí)行路徑等)為條件,循環(huán)調(diào)用“睡眠回叫”技術(shù),最終在滿足以上條件后以隱藏進程的方式實施惡意行為(如圖 8所示)。

    圖8 循環(huán)運用多種逃避技術(shù)流程圖

    4 現(xiàn)有 APT 檢測沙箱的不足

    越來越多的惡意代碼具有交互性、耗時性和智能性。 交互性使得它們在遇到特定的人機交互操作后才能執(zhí)行;耗時性有助于逃脫自動化分析系統(tǒng)的控制;智能性可以感知所處的環(huán)境從而隱藏自己的惡意行為。 利用惡意代碼進行攻擊的 APT案例越發(fā)頻繁,暴露出現(xiàn)有的基于沙箱的 APT 檢測存在一些不足:

    第一,現(xiàn)有的 APT 檢測沙箱對加載的負載檢測時間是有限的,做不到長時間的跟蹤檢測。

    第二,現(xiàn)有的沙箱技術(shù)不能有效應(yīng)對惡意代碼對目標系統(tǒng)和應(yīng)用的版本檢測,也無法檢測出嵌入文件式的逃避和動態(tài)鏈接庫DLL 加載檢測逃避技術(shù)。

    第三,針對利用系統(tǒng)特殊的 API和函數(shù)的沙箱逃避技術(shù),有些的 APT 沙箱檢測解決方案中對調(diào)用類似這些特殊 API或者特殊系統(tǒng)函數(shù)的程序定義為惡意代碼,這種處理方式會導(dǎo)致誤報,因為相關(guān)的 API和系統(tǒng)函數(shù)也會被運用在正常的程序中。

    第四,現(xiàn)有的 APT 同時具備很多種沙箱逃避技術(shù)并進行有效的綜合利用,而現(xiàn)有的沙箱還不具備發(fā)現(xiàn)這些所有逃避的能力。 對于大多數(shù)的沙箱通常只具有個別的手段可以預(yù)防 APT 逃避沙箱檢測。

    5 新型 APT 檢測沙箱

    一款較好的沙箱應(yīng)同時兼具更好的可視性和隱蔽性。也就是說,理想化的沙箱能最大限度的看清楚的惡意代碼的執(zhí)行步驟,同時又能不被惡意代碼發(fā)現(xiàn)。 最初的沙箱采用的是用戶模式的掛鉤,之后分別向可視性和隱蔽性進化:第一,采用重視隱蔽性的內(nèi)核模式的掛鉤,這種傳統(tǒng)的沙箱隱蔽性很好但可視性不足,用戶不能夠清楚的發(fā)現(xiàn)惡意代碼的執(zhí)行過程。 第二,采用調(diào)試運行的方式,形成了可視性很好但隱蔽性不足的虛擬運行環(huán)境。 惡意代碼正是利用傳統(tǒng)沙箱和虛擬環(huán)境的不足,逃避沙箱的檢測。

    云計算環(huán)境下的沙箱技術(shù)是通過擁有大量數(shù)據(jù)的云平臺對計算機軟件和移動端應(yīng)用做深度分析,先讓它們在云沙箱中執(zhí)行一次,獲取其真實細致的行為信息,從而在短時間內(nèi)全面檢測一款完全未知的計算機軟件和移動端應(yīng)用的可疑行為和安全性,而任何行為或者病毒攻擊都將被局限于云沙箱中,保障用戶使用的系統(tǒng)本身是完全安全的。 結(jié)合對逃避沙箱的技術(shù)手段的剖析,提出基于系統(tǒng)仿真的新型云沙箱。 這類沙箱具有長期檢測分析、目標仿真、彈性的云計算環(huán)境部署和強大的攻擊樣本庫等特性。

    首先,設(shè)置多次返回檢測的方式有效的解決惡意代碼通過設(shè)置睡眠逃過檢測的問題;同時配合響應(yīng)的出發(fā)機制,保證惡意代碼在剛執(zhí)行的第一時間就能被沙箱發(fā)現(xiàn),從而達到檢測分析的效果。 其次,具有仿真人機交互能力,并通過定制設(shè)置在系統(tǒng)中加入移動鼠標、點擊鼠標、點擊對話框等程序模塊;使得惡意代碼察覺不出運行的環(huán)境是虛擬環(huán)境。 再次,根據(jù)不同網(wǎng)絡(luò)環(huán)境的需要,設(shè)置不同的功能和檢查粒度,從而更加有效的部署在云計算環(huán)境下的云沙箱檢測平臺。 最后,以集中存儲分發(fā)共享的方式處理攻擊樣本,形成強大的樣本特征庫,有助于更加精確快速的檢測。

    6 結(jié)語

    目前基于沙箱的 APT 檢測技術(shù)越來越成熟,已經(jīng)被很多安全產(chǎn)品集成。 同時,APT 針對沙箱逃避技術(shù)的認識和探索遠沒停止,隨著 APT 檢測技術(shù)的進步,越來越多的攻擊案例將會出現(xiàn),基于沙箱逃避技術(shù)的惡意代碼更加多樣。 只有認識現(xiàn)有的逃避沙箱的細節(jié),發(fā)現(xiàn)未來可能發(fā)展的趨勢,同時對現(xiàn)有的沙箱檢測技術(shù)不斷的更新和完善才能更有效的應(yīng)對類似 APT 的各種攻擊。 另外,針對沙 箱檢測如何提高檢測的準確率,減少誤報也是沙箱檢測 APT 系統(tǒng)的研究方向,整合大數(shù)據(jù)平臺[11]構(gòu)建關(guān)鍵證據(jù)鏈式的檢測技術(shù)是應(yīng)對未來不確定的持續(xù)性威脅的較好出路。

    [1]HBGary.The New Battle Field Fighting and Defeating APT Attackers in the Enterprise[EB/OL] .[2014-01-15] .https: // hbgary.com/community-whitepapers.

    [2]黃達理,薛質(zhì).進階持續(xù)性滲透攻擊的特征分析研究[J].信息安全與通信保密,2012(05):87-89.

    [3]Gartner.Gartner:“ 五種類型的先進威脅防御(ATD) ” 助企業(yè)防御針對性的攻擊[EB/OL].[2013-11-01] .http: //security.cnw.com.cn/htm2013/20131101-285578.shtml.

    [4]AhnLab.Invasion of Malware Evading the Behavior-based A-nalysis[R] .America:AhnLab, 2014:2-7.

    [5]Lastline, Labs.The Threat of Evasive Malware[R] .America:Lastline Labs, 2013:1-8.

    [6]Abhishek, Singh, Zheng.Hot Knives through Butter:Evading File-based Sandboxes[R] .America:FireEye, 2013:3-14.

    [7]Seculert.Advanced Threat Protection Solution[R] .America:Seculert,2013.

    [8]Counter, Threat, Unit.Lifecycle of an Advanced Persistent Threat[R].USA: DELL,2012.

    [9]Jon, Oltsik.APT Protection: Sourcefire FireAMP May Be the Right Product at the Right Time[R] .USA: Enterprise Strategy Group, Inc,2012.

    [10]IMPERVA.Advanced Persistent Threat:[R] .USA: IMPERVA,2012.

    [11]周濤.大數(shù)據(jù)與 APT 研究檢測[J].信息安全與通信保密,2012(07):29.

    APT based on Sandbox Avoiding

    SUN Zeng,SHI Yong ,XUE Zhi
    (Institute of Information Security Engineering, Shanghai Jiaotong University, ShangHai 200240, China)

    Based on the cognition of the dangerous phase in the life cycle of gradually complex APT(Advanced Persistent Threat) ,the evolution process of APT detection means is described,the techinical details to escape the sandbox testing by ADT are analyzed. The existing APT sandbox test is not enough to deal with the new APT question, and in light of this and from the angle of APT sandbox avoiding, a new sandbox detection technology strategy is proposed in this paper.For the future evolution of APT, there may be a lot of new tricks, thus exploration and establishment of unified big-data analysis tracking network may be an effective way to find APT as early as possible.

    advanced persistent threat;dangerous phase;detection means;sandbox avoiding;human-computer interaction;special setup

    TP309.5

    A

    1009-8054(2015)01-0092-05

    孫 增(1987—),男,碩士,主要研究方向為網(wǎng)絡(luò)攻擊防御、高級持續(xù)性攻擊(APT);

    2014-10-27

    高級XXXX 技術(shù)研究( 秘密級)(No.CNITSEC-KY-2013-009/2)

    施 勇(1979—),男,博士,講師,主要研究方向為計算機網(wǎng)絡(luò)、信息安全;

    薛 質(zhì)(1971—),男,博士,教授,主要研究方向為網(wǎng)絡(luò)攻擊與防御。■

    猜你喜歡
    沙箱對話框鼠標
    Progress in Neural NLP: Modeling, Learning, and Reasoning
    Engineering(2020年3期)2020-09-14 03:42:00
    正常恢復(fù)虛擬機
    Bootlace Worms’Secret etc.
    巧用沙箱檢測文件安全
    基于函數(shù)注入的沙箱攔截識別方法
    基于多安全機制的 Linux 應(yīng)用沙箱的設(shè)計與實現(xiàn)
    快速抓取對話框中的完整信息
    電腦迷(2012年22期)2012-04-29 20:30:54
    巧用“沙箱” 看片兒不中毒
    45歲的鼠標
    超能力鼠標
    IM家庭電子(2008年11期)2008-12-05 09:49:20
    国产区一区二久久| 一本综合久久免费| 高清毛片免费观看视频网站 | cao死你这个sao货| 成在线人永久免费视频| 中文字幕人妻丝袜一区二区| 国产免费av片在线观看野外av| 欧美av亚洲av综合av国产av| 女人被躁到高潮嗷嗷叫费观| 亚洲自偷自拍图片 自拍| 黄色成人免费大全| 亚洲中文字幕日韩| 亚洲专区国产一区二区| 亚洲精品中文字幕一二三四区 | 欧美久久黑人一区二区| 色综合婷婷激情| 岛国在线观看网站| 久久精品国产a三级三级三级| 国产欧美日韩一区二区三区在线| 他把我摸到了高潮在线观看 | 亚洲精品中文字幕一二三四区 | 国产成人欧美| 欧美av亚洲av综合av国产av| 亚洲av电影在线进入| 免费看十八禁软件| 老司机午夜福利在线观看视频 | av在线播放免费不卡| 大香蕉久久网| 国产成人精品在线电影| 国产亚洲欧美在线一区二区| 国产男女超爽视频在线观看| 一夜夜www| 又大又爽又粗| 亚洲国产av新网站| 久久热在线av| 欧美乱码精品一区二区三区| 国产成+人综合+亚洲专区| 热99国产精品久久久久久7| 国产在线视频一区二区| 欧美老熟妇乱子伦牲交| 深夜精品福利| 国产三级黄色录像| 女性生殖器流出的白浆| 欧美激情极品国产一区二区三区| 最新的欧美精品一区二区| 汤姆久久久久久久影院中文字幕| 久久久久精品人妻al黑| 国产高清国产精品国产三级| 精品国产一区二区三区久久久樱花| 日韩欧美三级三区| 国产主播在线观看一区二区| 日韩欧美一区二区三区在线观看 | 久久人人97超碰香蕉20202| 亚洲熟女毛片儿| 久久久久网色| 国产老妇伦熟女老妇高清| 一二三四在线观看免费中文在| 下体分泌物呈黄色| 欧美精品啪啪一区二区三区| a级毛片黄视频| 亚洲精品成人av观看孕妇| 久久久精品区二区三区| 亚洲五月色婷婷综合| 亚洲国产欧美网| 91九色精品人成在线观看| 国产精品久久久久成人av| 757午夜福利合集在线观看| 精品少妇内射三级| 男男h啪啪无遮挡| 午夜91福利影院| 男女高潮啪啪啪动态图| 国产精品秋霞免费鲁丝片| av福利片在线| 99久久国产精品久久久| 色婷婷av一区二区三区视频| 国产成人欧美在线观看 | 欧美日韩视频精品一区| 99香蕉大伊视频| 一进一出抽搐动态| 国产精品美女特级片免费视频播放器 | 国产精品国产av在线观看| 欧美午夜高清在线| 亚洲,欧美精品.| 日本黄色日本黄色录像| 国产精品一区二区在线观看99| 日本a在线网址| 99久久国产精品久久久| 多毛熟女@视频| 黄色毛片三级朝国网站| www日本在线高清视频| 成年人午夜在线观看视频| 国产精品98久久久久久宅男小说| 国产精品免费视频内射| 黄网站色视频无遮挡免费观看| 另类精品久久| 亚洲av成人不卡在线观看播放网| 十八禁高潮呻吟视频| 精品国产一区二区三区四区第35| 91成人精品电影| 男女无遮挡免费网站观看| 久久av网站| 老司机影院毛片| 男女之事视频高清在线观看| cao死你这个sao货| 99riav亚洲国产免费| 欧美日韩福利视频一区二区| 亚洲人成伊人成综合网2020| 欧美另类亚洲清纯唯美| 欧美精品av麻豆av| 精品国内亚洲2022精品成人 | 亚洲一码二码三码区别大吗| 亚洲中文av在线| 国产精品自产拍在线观看55亚洲 | 亚洲人成77777在线视频| 国产有黄有色有爽视频| 1024视频免费在线观看| 视频区图区小说| 精品欧美一区二区三区在线| 色尼玛亚洲综合影院| 日日摸夜夜添夜夜添小说| 一本大道久久a久久精品| 亚洲欧美激情在线| 男人舔女人的私密视频| 精品国产一区二区三区四区第35| 国产精品国产av在线观看| 人人妻人人爽人人添夜夜欢视频| 岛国毛片在线播放| 亚洲欧美一区二区三区黑人| 视频在线观看一区二区三区| 99精品久久久久人妻精品| svipshipincom国产片| 一本久久精品| 亚洲av成人不卡在线观看播放网| 人妻 亚洲 视频| 久久中文看片网| 免费高清在线观看日韩| 久久亚洲真实| 久久免费观看电影| 美女主播在线视频| 老司机午夜福利在线观看视频 | 亚洲午夜精品一区,二区,三区| 国产精品亚洲一级av第二区| 国产欧美日韩一区二区三区在线| 精品一品国产午夜福利视频| 成人手机av| 久久精品亚洲av国产电影网| 久久午夜亚洲精品久久| 黄色片一级片一级黄色片| 久久久国产一区二区| 91老司机精品| 亚洲午夜理论影院| 欧美精品啪啪一区二区三区| 欧美 日韩 精品 国产| 国产淫语在线视频| 19禁男女啪啪无遮挡网站| 久久免费观看电影| 亚洲伊人久久精品综合| 亚洲欧洲日产国产| 国产精品电影一区二区三区 | 老司机亚洲免费影院| 每晚都被弄得嗷嗷叫到高潮| 亚洲欧美色中文字幕在线| 十八禁网站免费在线| av超薄肉色丝袜交足视频| 精品久久久久久电影网| 最新美女视频免费是黄的| 午夜91福利影院| 精品国产亚洲在线| 亚洲欧美色中文字幕在线| 亚洲中文av在线| 久久免费观看电影| 99热国产这里只有精品6| 2018国产大陆天天弄谢| 一区二区三区国产精品乱码| 又紧又爽又黄一区二区| 国产精品影院久久| 久久中文看片网| 狠狠婷婷综合久久久久久88av| 丝袜人妻中文字幕| 成人国产av品久久久| 搡老熟女国产l中国老女人| 男女高潮啪啪啪动态图| 9191精品国产免费久久| 黄网站色视频无遮挡免费观看| 新久久久久国产一级毛片| 蜜桃在线观看..| 国产一区二区三区在线臀色熟女 | 久久久久久久大尺度免费视频| a级片在线免费高清观看视频| 亚洲男人天堂网一区| 日韩一区二区三区影片| 欧美乱码精品一区二区三区| 亚洲国产毛片av蜜桃av| 亚洲国产欧美一区二区综合| 成人18禁高潮啪啪吃奶动态图| 亚洲va日本ⅴa欧美va伊人久久| 久久狼人影院| a级毛片在线看网站| 午夜久久久在线观看| 午夜两性在线视频| 欧美日本中文国产一区发布| 日本vs欧美在线观看视频| 国产精品久久久久久精品电影小说| 精品乱码久久久久久99久播| 欧美日韩视频精品一区| 国产成人精品久久二区二区免费| 日韩成人在线观看一区二区三区| 最新的欧美精品一区二区| 国产1区2区3区精品| 色在线成人网| av超薄肉色丝袜交足视频| 两个人看的免费小视频| 亚洲欧美激情在线| 91精品三级在线观看| 热99re8久久精品国产| av不卡在线播放| 日韩欧美一区视频在线观看| 母亲3免费完整高清在线观看| 成人影院久久| 精品国产超薄肉色丝袜足j| 宅男免费午夜| 日本一区二区免费在线视频| 欧美乱码精品一区二区三区| 欧美黑人精品巨大| 男人操女人黄网站| 丝袜美足系列| 亚洲专区字幕在线| 日本欧美视频一区| 一级,二级,三级黄色视频| 国产高清国产精品国产三级| 不卡一级毛片| 欧美老熟妇乱子伦牲交| 国产一区二区激情短视频| 亚洲黑人精品在线| 天堂中文最新版在线下载| 露出奶头的视频| 俄罗斯特黄特色一大片| 一夜夜www| 日韩大码丰满熟妇| 操美女的视频在线观看| av网站在线播放免费| 成人黄色视频免费在线看| 日韩免费av在线播放| 老熟女久久久| 在线观看人妻少妇| 亚洲美女黄片视频| 精品国产一区二区三区四区第35| 成年动漫av网址| 考比视频在线观看| 亚洲男人天堂网一区| 91精品三级在线观看| 深夜精品福利| 19禁男女啪啪无遮挡网站| 欧美日本中文国产一区发布| 国产精品一区二区在线观看99| 高清在线国产一区| 国产精品免费大片| 女人爽到高潮嗷嗷叫在线视频| 亚洲伊人色综图| 亚洲人成77777在线视频| 亚洲av欧美aⅴ国产| 一级片'在线观看视频| 国产精品1区2区在线观看. | 精品国产一区二区久久| 两个人看的免费小视频| 黄色成人免费大全| 涩涩av久久男人的天堂| 亚洲精品美女久久久久99蜜臀| 久久久久久久久久久久大奶| 国产亚洲欧美精品永久| 美女国产高潮福利片在线看| 美女午夜性视频免费| 人成视频在线观看免费观看| 午夜久久久在线观看| 国产精品98久久久久久宅男小说| 日韩精品免费视频一区二区三区| 免费观看av网站的网址| 菩萨蛮人人尽说江南好唐韦庄| 色播在线永久视频| 精品人妻1区二区| 久久国产精品大桥未久av| 热99re8久久精品国产| 精品少妇内射三级| 91字幕亚洲| 视频区欧美日本亚洲| 三级毛片av免费| 国产成人精品久久二区二区免费| 人人妻,人人澡人人爽秒播| 叶爱在线成人免费视频播放| 性少妇av在线| 久久精品亚洲精品国产色婷小说| 97在线人人人人妻| 国产男女超爽视频在线观看| 无人区码免费观看不卡 | 日韩欧美一区二区三区在线观看 | 99国产精品免费福利视频| 91国产中文字幕| 怎么达到女性高潮| 精品国产超薄肉色丝袜足j| 久久天堂一区二区三区四区| 中亚洲国语对白在线视频| 午夜老司机福利片| 9191精品国产免费久久| 亚洲少妇的诱惑av| 中文字幕另类日韩欧美亚洲嫩草| 成人国产av品久久久| 国产在线一区二区三区精| 五月开心婷婷网| 免费不卡黄色视频| 我要看黄色一级片免费的| h视频一区二区三区| 最近最新免费中文字幕在线| 欧美日韩亚洲国产一区二区在线观看 | 日韩制服丝袜自拍偷拍| 国产在线免费精品| 亚洲一卡2卡3卡4卡5卡精品中文| 日日爽夜夜爽网站| 飞空精品影院首页| 亚洲久久久国产精品| 国产精品久久久人人做人人爽| 80岁老熟妇乱子伦牲交| 久久天躁狠狠躁夜夜2o2o| 亚洲第一欧美日韩一区二区三区 | 91精品国产国语对白视频| 在线观看免费高清a一片| 久久精品国产综合久久久| 欧美国产精品va在线观看不卡| 在线观看www视频免费| 在线观看人妻少妇| 亚洲精品一二三| 91成年电影在线观看| 中国美女看黄片| 亚洲国产av新网站| 国产精品免费大片| 在线播放国产精品三级| 黄色毛片三级朝国网站| 国产精品98久久久久久宅男小说| 日韩欧美国产一区二区入口| 国产主播在线观看一区二区| 日韩视频一区二区在线观看| 午夜福利在线观看吧| 国产片内射在线| 精品国产超薄肉色丝袜足j| 成人亚洲精品一区在线观看| 免费不卡黄色视频| 精品福利观看| 国产欧美日韩精品亚洲av| 久久这里只有精品19| 久久精品亚洲熟妇少妇任你| 另类亚洲欧美激情| 桃红色精品国产亚洲av| 久久99热这里只频精品6学生| 在线亚洲精品国产二区图片欧美| 俄罗斯特黄特色一大片| 午夜成年电影在线免费观看| 欧美日韩黄片免| 国产成人精品在线电影| 夫妻午夜视频| 一级黄色大片毛片| 悠悠久久av| 欧美黑人精品巨大| 两性夫妻黄色片| 一本大道久久a久久精品| 91麻豆精品激情在线观看国产 | 亚洲少妇的诱惑av| 一级片免费观看大全| av国产精品久久久久影院| 日本五十路高清| 又大又爽又粗| 免费久久久久久久精品成人欧美视频| 岛国在线观看网站| 视频区欧美日本亚洲| 操出白浆在线播放| 99国产精品一区二区三区| 欧美变态另类bdsm刘玥| 国产极品粉嫩免费观看在线| 免费在线观看视频国产中文字幕亚洲| 国产xxxxx性猛交| 国产色视频综合| 中文字幕高清在线视频| 久久精品aⅴ一区二区三区四区| 最黄视频免费看| 免费在线观看视频国产中文字幕亚洲| 日本精品一区二区三区蜜桃| 最新在线观看一区二区三区| 国产日韩欧美视频二区| 老汉色av国产亚洲站长工具| 一区二区av电影网| 一二三四在线观看免费中文在| 亚洲av日韩精品久久久久久密| 欧美国产精品一级二级三级| 大型黄色视频在线免费观看| 国产男女超爽视频在线观看| 夫妻午夜视频| 大型黄色视频在线免费观看| 国产精品 国内视频| 亚洲精品av麻豆狂野| 国产又色又爽无遮挡免费看| 香蕉国产在线看| 无限看片的www在线观看| 在线永久观看黄色视频| 成年人黄色毛片网站| 免费在线观看视频国产中文字幕亚洲| 91麻豆精品激情在线观看国产 | 亚洲美女黄片视频| 超色免费av| 99九九在线精品视频| av在线播放免费不卡| 欧美乱妇无乱码| 久久精品亚洲熟妇少妇任你| 亚洲成人国产一区在线观看| 最新在线观看一区二区三区| 亚洲熟女毛片儿| 成在线人永久免费视频| 91大片在线观看| 久久精品国产a三级三级三级| 男女边摸边吃奶| 在线观看免费高清a一片| 亚洲精品久久成人aⅴ小说| 999精品在线视频| 国产在线视频一区二区| 婷婷丁香在线五月| 中文亚洲av片在线观看爽 | 考比视频在线观看| 嫁个100分男人电影在线观看| 色婷婷久久久亚洲欧美| 日本精品一区二区三区蜜桃| 久久久国产一区二区| 三上悠亚av全集在线观看| 欧美在线一区亚洲| 少妇猛男粗大的猛烈进出视频| 一区二区日韩欧美中文字幕| 一区二区av电影网| 国产精品免费视频内射| 久久精品人人爽人人爽视色| 黑人猛操日本美女一级片| 嫩草影视91久久| 久久九九热精品免费| 天天躁日日躁夜夜躁夜夜| 99国产精品免费福利视频| 中文字幕人妻熟女乱码| 亚洲色图av天堂| 91成年电影在线观看| 中文字幕最新亚洲高清| 少妇精品久久久久久久| tocl精华| 亚洲专区国产一区二区| 久久精品人人爽人人爽视色| av一本久久久久| 精品亚洲乱码少妇综合久久| 在线观看免费视频日本深夜| a级毛片黄视频| 黄色视频,在线免费观看| 啦啦啦在线免费观看视频4| 一区二区日韩欧美中文字幕| 免费在线观看黄色视频的| 亚洲精品成人av观看孕妇| 叶爱在线成人免费视频播放| 一级毛片电影观看| 女同久久另类99精品国产91| 精品国产乱码久久久久久男人| 久久人妻av系列| 国产又色又爽无遮挡免费看| 欧美精品人与动牲交sv欧美| 伦理电影免费视频| 新久久久久国产一级毛片| 俄罗斯特黄特色一大片| av一本久久久久| 欧美av亚洲av综合av国产av| tocl精华| av免费在线观看网站| 天天添夜夜摸| 丁香六月欧美| 日韩欧美一区视频在线观看| 三级毛片av免费| 国产成人欧美| 18在线观看网站| 欧美日韩av久久| 免费观看人在逋| 脱女人内裤的视频| 涩涩av久久男人的天堂| 欧美精品一区二区免费开放| 亚洲专区国产一区二区| 大型av网站在线播放| 搡老熟女国产l中国老女人| 一二三四社区在线视频社区8| 亚洲欧洲日产国产| 国产在线一区二区三区精| 亚洲九九香蕉| 欧美久久黑人一区二区| 国产淫语在线视频| 日本一区二区免费在线视频| 在线观看www视频免费| 亚洲七黄色美女视频| 超碰成人久久| 日本黄色日本黄色录像| 丰满人妻熟妇乱又伦精品不卡| 亚洲第一av免费看| 首页视频小说图片口味搜索| 丝瓜视频免费看黄片| 国产熟女午夜一区二区三区| 在线观看66精品国产| 肉色欧美久久久久久久蜜桃| 夫妻午夜视频| 久久婷婷成人综合色麻豆| 一级片免费观看大全| 一本大道久久a久久精品| 啦啦啦 在线观看视频| 伦理电影免费视频| 免费黄频网站在线观看国产| 日本撒尿小便嘘嘘汇集6| 自线自在国产av| 亚洲人成电影免费在线| 999久久久精品免费观看国产| 亚洲人成电影观看| 少妇 在线观看| 欧美在线一区亚洲| 欧美人与性动交α欧美软件| 免费观看人在逋| 99九九在线精品视频| 性高湖久久久久久久久免费观看| 狂野欧美激情性xxxx| 波多野结衣av一区二区av| 国产麻豆69| 欧美 日韩 精品 国产| 欧美精品一区二区大全| 香蕉久久夜色| 日韩视频一区二区在线观看| 亚洲午夜理论影院| videosex国产| 亚洲精品久久午夜乱码| 天堂动漫精品| 久久影院123| 亚洲第一青青草原| 黄片播放在线免费| 天堂动漫精品| 99精品在免费线老司机午夜| 成人亚洲精品一区在线观看| 咕卡用的链子| 丝袜美腿诱惑在线| 日韩免费高清中文字幕av| 成在线人永久免费视频| 亚洲午夜理论影院| 亚洲av电影在线进入| 精品卡一卡二卡四卡免费| 国产一区二区三区在线臀色熟女 | 国产成人精品在线电影| 久久国产亚洲av麻豆专区| 欧美日本中文国产一区发布| 脱女人内裤的视频| 亚洲成av片中文字幕在线观看| 伦理电影免费视频| 免费在线观看完整版高清| 最新美女视频免费是黄的| 热99久久久久精品小说推荐| av一本久久久久| 亚洲成人国产一区在线观看| 制服人妻中文乱码| 黄片小视频在线播放| 怎么达到女性高潮| 99在线人妻在线中文字幕 | 一区二区三区国产精品乱码| 成人免费观看视频高清| 亚洲中文日韩欧美视频| 亚洲性夜色夜夜综合| 中文字幕精品免费在线观看视频| 天堂中文最新版在线下载| 精品国产国语对白av| 午夜福利在线免费观看网站| 精品久久久精品久久久| 精品国产乱码久久久久久男人| 热99国产精品久久久久久7| 欧美日韩亚洲综合一区二区三区_| 亚洲欧美一区二区三区久久| 岛国毛片在线播放| 色播在线永久视频| 狠狠婷婷综合久久久久久88av| 亚洲自偷自拍图片 自拍| 高清黄色对白视频在线免费看| 久热爱精品视频在线9| 麻豆av在线久日| 中文亚洲av片在线观看爽 | 亚洲人成电影观看| 黄色 视频免费看| 精品熟女少妇八av免费久了| 久久久久久免费高清国产稀缺| 久9热在线精品视频| 黄色 视频免费看| 国产欧美日韩综合在线一区二区| 欧美日韩黄片免| 久久香蕉激情| av线在线观看网站| 少妇的丰满在线观看| 欧美在线黄色| 国产单亲对白刺激| 亚洲精品在线观看二区| 精品久久蜜臀av无| 一进一出好大好爽视频| 怎么达到女性高潮| 日韩熟女老妇一区二区性免费视频| 亚洲av片天天在线观看| 亚洲欧美一区二区三区黑人| 水蜜桃什么品种好| 欧美精品一区二区免费开放| 亚洲成人免费电影在线观看| 黄片大片在线免费观看| 嫩草影视91久久| 亚洲精品乱久久久久久| 人妻 亚洲 视频| 亚洲色图综合在线观看| 国产一区二区三区在线臀色熟女 | 人人妻人人爽人人添夜夜欢视频| 国产精品一区二区在线不卡| 天堂动漫精品| 亚洲av成人一区二区三|