• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于Simics的系統(tǒng)級(jí)故障注入平臺(tái)

    2015-01-06 08:20:39王海霞汪東升
    計(jì)算機(jī)工程 2015年2期
    關(guān)鍵詞:指令程序故障

    胡 倩,王 超,王海霞,汪東升

    (清華大學(xué)信息科學(xué)與技術(shù)國(guó)家實(shí)驗(yàn)室,北京100084)

    基于Simics的系統(tǒng)級(jí)故障注入平臺(tái)

    胡 倩,王 超,王海霞,汪東升

    (清華大學(xué)信息科學(xué)與技術(shù)國(guó)家實(shí)驗(yàn)室,北京100084)

    故障注入技術(shù)是評(píng)價(jià)系統(tǒng)可靠性的有效方法?,F(xiàn)有基于仿真的故障注入平臺(tái)大多基于現(xiàn)場(chǎng)可編程門(mén)陣列或超高速集成電路硬件描述語(yǔ)言實(shí)現(xiàn),對(duì)故障模型的支持非常有限。為此,基于Simics結(jié)構(gòu)級(jí)模擬器,設(shè)計(jì)并實(shí)現(xiàn)系統(tǒng)級(jí)硬件故障注入平臺(tái)。該平臺(tái)上層支持不同固件、操作系統(tǒng)以及應(yīng)用程序,底層支持對(duì)處理器典型流水部件的故障注入,同時(shí)實(shí)現(xiàn)瞬時(shí)故障、永久故障和間歇故障模型以及其他較全面的故障類型,并將一組系統(tǒng)級(jí)故障檢測(cè)機(jī)制集成入平臺(tái)中。實(shí)驗(yàn)通過(guò)監(jiān)測(cè)硬件故障在系統(tǒng)級(jí)的傳播,對(duì)比分析了故障對(duì)不同部件造成的系統(tǒng)級(jí)影響,結(jié)果表明,瞬時(shí)故障對(duì)系統(tǒng)影響較小,永久故障容易引起系統(tǒng)失效,間歇故障對(duì)各部件有不同程度的干擾作用。

    故障注入;系統(tǒng)可靠性;故障模型;故障檢測(cè);結(jié)構(gòu)級(jí)模擬器

    1 概述

    隨著集成電路工藝的提高和處理器技術(shù)在多核領(lǐng)域的發(fā)展,處理器性能有了很大提高。與此同時(shí),硬件故障不斷增加,計(jì)算機(jī)系統(tǒng)的可靠性受到嚴(yán)峻挑戰(zhàn)。特別是在航空、航天等領(lǐng)域,系統(tǒng)可靠性成為第一要素。系統(tǒng)可靠性的評(píng)價(jià)是一個(gè)非常關(guān)鍵的技術(shù)環(huán)節(jié)。常見(jiàn)方法如測(cè)量、解析模型,都不能很好地解決評(píng)估可靠性的問(wèn)題。理想方法是將系統(tǒng)置于實(shí)際環(huán)境中進(jìn)行測(cè)試,但通常會(huì)受到場(chǎng)景、可測(cè)性、可監(jiān)視性等因素限制。而故障注入類方法靈活有效,具有高可控性和可測(cè)性,是非常有效的可靠性評(píng)估手段。

    故障注入由IBM實(shí)驗(yàn)室于20世紀(jì)70年代提出[1],經(jīng)過(guò)不斷的研究和應(yīng)用逐漸走向成熟。通過(guò)加速系統(tǒng)中故障的產(chǎn)生來(lái)觀察和驗(yàn)證故障對(duì)系統(tǒng)的影響,進(jìn)而指導(dǎo)容錯(cuò)系統(tǒng)的設(shè)計(jì)。目前已經(jīng)有許多成熟的故障注入技術(shù),已被廣泛應(yīng)用到工業(yè)領(lǐng)域。本文基于Simics模擬器,設(shè)計(jì)并實(shí)現(xiàn)系統(tǒng)級(jí)故障注入平臺(tái)。在大量實(shí)驗(yàn)的基礎(chǔ)上,總結(jié)故障在系統(tǒng)中的行為表現(xiàn),分析不同類型的故障對(duì)系統(tǒng)造成的影響。

    2 故障注入技術(shù)研究現(xiàn)狀

    為研究實(shí)際場(chǎng)景中的故障,首先必須建立理論模型。故障模型包括瞬時(shí)故障、永久故障和間歇故障。瞬時(shí)故障是由電磁干擾、粒子輻射等原因引起的短暫功能失效,并且是一次有效性[2]。永久故障通常是硬件的永久性損傷引起的,故障一直持續(xù)到部件被替換或者隔離。間歇故障是由硬件不穩(wěn)定引起的多次重復(fù)爆發(fā)的瞬時(shí)故障,但爆發(fā)時(shí)間不具有周期性。由于間歇故障爆發(fā)的不確定性,其時(shí)間模型支持均勻分布、指數(shù)分布和Weibull分布。故障類型具體可以分為單比特翻轉(zhuǎn)、多比特翻轉(zhuǎn)、恒0或恒1、橋接以及延遲等。

    目前,國(guó)內(nèi)外有許多有關(guān)故障注入工具的研究。根據(jù)實(shí)現(xiàn)方法,故障注入可以分為3類[3]:基于硬件實(shí)現(xiàn)的故障注入,基于軟件實(shí)現(xiàn)的故障注入和基于仿真的故障注入。

    2.1 基于硬件實(shí)現(xiàn)的故障注入

    基于硬件實(shí)現(xiàn)的故障注入是指直接將故障引入到硬件電路中,一般要修改硬件邏輯來(lái)實(shí)現(xiàn)。硬件故障注入技術(shù)可以將故障注入到系統(tǒng)任意位置,比較精確,但由于是硬件實(shí)現(xiàn)的原因,不容易控制,缺乏靈活性,而且容易因?yàn)轭~外硬件損壞系統(tǒng)。

    代表性的系統(tǒng)包括AFIT[4],通過(guò)硬件實(shí)現(xiàn)的管腳級(jí)故障注入平臺(tái),支持多種故障模型,故障部件、時(shí)間均可控;MESSALINE[5],由法國(guó)圖盧茲LAASCNRS大學(xué)開(kāi)發(fā)的管腳級(jí)故障注入工具,支持stuckat、斷路、橋接等復(fù)雜模型;RIFLE[6],故障從處理器管腳注入,支持不同特性故障,適用范圍廣,故障注入可重現(xiàn),并且可以檢測(cè)成功與否;FIST[7],實(shí)現(xiàn)接觸式和非接觸式故障注入,直接將故障注入到芯片中,主要支持瞬時(shí)故障模型;MARS[8],由奧地利維也納大學(xué)開(kāi)發(fā),非接觸式故障注入,分布式容錯(cuò)系統(tǒng),采用多個(gè)fail-silent節(jié)點(diǎn)結(jié)成,具有硬件和軟件冗余能力。

    2.2 基于軟件實(shí)現(xiàn)的故障注入

    軟件實(shí)現(xiàn)的故障注入是指在編譯或者運(yùn)行時(shí)修改程序或者現(xiàn)場(chǎng)某些值來(lái)引入故障。軟件故障注入的方法比較靈活、易于控制、成本較低,也可以用于應(yīng)用程序和操作系統(tǒng),但不能將故障注入到軟件訪問(wèn)不到的位置,同時(shí)軟件故障注入的精度只能達(dá)到指令級(jí)。

    比較有代表性的系統(tǒng)包括:Ftap[9],由美國(guó)UIUC開(kāi)發(fā)的軟件故障注入平臺(tái),支持故障注入部件包括寄存器、內(nèi)存和磁盤(pán),故障類型包括位翻轉(zhuǎn)、置位或者復(fù)位,其中磁盤(pán)故障是由驅(qū)動(dòng)程序?qū)崿F(xiàn)的因此沒(méi)有額外開(kāi)銷(xiāo);FERRARI[10],由德克薩奧斯丁分校開(kāi)發(fā),通過(guò)計(jì)數(shù)器或計(jì)時(shí)器觸發(fā)軟件陷阱,由陷阱處理程序注入故障,支持部件包括CPU、內(nèi)存和總線,故障類型有瞬時(shí)故障和永久故障;DOCTOR[11],由美國(guó)Michigan大學(xué)開(kāi)發(fā),相比于僅修改內(nèi)存的故障注入辦法,它使用復(fù)雜機(jī)制(內(nèi)存重寫(xiě)、軟件陷阱和編譯時(shí)修改)模擬對(duì)CPU、內(nèi)存和網(wǎng)絡(luò)通信的故障注入;XCEPTION[12],利用處理器提供的調(diào)試功能進(jìn)行故障注入,故障注入功能由中斷處理程序完成,中斷由訪問(wèn)特殊地址觸發(fā),系統(tǒng)不需要對(duì)應(yīng)用程序作任何修改。

    2.3 基于仿真實(shí)現(xiàn)的故障注入

    基于仿真的故障注入主要是通過(guò)修改仿真器來(lái)達(dá)到故障注入的效果。由于仿真器的高度可控,仿真實(shí)現(xiàn)的故障注入更加靈活、易于控制、模擬精度較高。

    比較有代表性的工作包括FuSE[13],基于FPGA的可靠性評(píng)估平臺(tái),仿真速度較快;VFIT[14],基于VHDL的故障注入平臺(tái),支持瞬時(shí)、間歇和永久故障,故障時(shí)間支持多種分布函數(shù);INJECT[15],基于Verilog模型的故障注入平臺(tái),支持開(kāi)關(guān)級(jí)、門(mén)級(jí)、RTL級(jí)和結(jié)構(gòu)級(jí)故障模型;VERIFY[16],擴(kuò)展了VHDL語(yǔ)言,允許最大化的利用硬件故障知識(shí),使用了多線程故障注入來(lái)加速仿真過(guò)程;HEARTLESS[17], C++開(kāi)發(fā)的針對(duì)瞬時(shí)故障和永久故障的模擬器,故障類型有stuck-at、翻轉(zhuǎn)和延遲,支持以結(jié)構(gòu)化VHDL和ISCAS作為輸入。文獻(xiàn)[18]提供了一種ISA級(jí)別的故障注入思路,使用Bus Resolution Function來(lái)破壞信號(hào)賦值,提升仿真性能,但僅限于處理器故障注入。

    基于硬件或者軟件實(shí)現(xiàn)的故障注入,或者在使用上容易干擾原系統(tǒng),或者不能很好地從系統(tǒng)層模擬故障場(chǎng)景?;诜抡娴墓收献⑷肫脚_(tái)多數(shù)由VHDL或FPGA實(shí)現(xiàn)。在多核場(chǎng)景下,由于內(nèi)核增多以及片上網(wǎng)絡(luò)的影響,故障發(fā)生場(chǎng)景更加復(fù)雜。本文基于體系結(jié)構(gòu)研究中廣泛使用的Simics模擬器,實(shí)現(xiàn)了一個(gè)結(jié)構(gòu)級(jí)多核故障注入系統(tǒng),支持瞬時(shí)故障、永久故障和間歇故障的模擬,并實(shí)現(xiàn)了單比特翻轉(zhuǎn)、stuck-at-0/1、橋接及延遲等多種故障類型,為后續(xù)故障診斷、故障恢復(fù)研究建立基礎(chǔ)。

    3 基于Simics的故障注入平臺(tái)

    3.1 Simics系統(tǒng)

    Simics是一款高性能的系統(tǒng)級(jí)模擬器,支持模擬計(jì)算機(jī)系統(tǒng)各個(gè)部件。Simics模擬的最小粒度是指令,其高效性體現(xiàn)在模擬指令的同時(shí),還具有較高的性能。Simics可以模擬整個(gè)目標(biāo)機(jī)器,包括多核系統(tǒng)、存儲(chǔ)系統(tǒng)、網(wǎng)絡(luò)等。

    在計(jì)算機(jī)體系結(jié)構(gòu)研究中,可以很方便地模擬系統(tǒng)中的某個(gè)部件并觀察和統(tǒng)計(jì)系統(tǒng)內(nèi)部狀態(tài)。此外,Simics可以跨平臺(tái)運(yùn)行,并且支持模擬多個(gè)平臺(tái)。正因?yàn)檫@些特點(diǎn),Simics廣泛用于系統(tǒng)研究中。

    Simics提供了一整套開(kāi)放的API實(shí)現(xiàn)用戶對(duì)系統(tǒng)狀態(tài)的訪問(wèn),同時(shí),用戶可以添加自己的功能模塊,實(shí)現(xiàn)特定需求。通過(guò)這些API,用戶不僅可以訪問(wèn)到系統(tǒng)運(yùn)行時(shí)的各個(gè)內(nèi)部狀態(tài),還可以對(duì)系統(tǒng)部件、結(jié)構(gòu)和功能等進(jìn)行修改。

    3.2 平臺(tái)設(shè)計(jì)

    3.2.1 故障注入系統(tǒng)

    圖1是給出多核處理器中單個(gè)核的流水線結(jié)構(gòu)。故障注入系統(tǒng)中支持的流水線部件有譯碼單元、地址生成單元、算術(shù)邏輯單元(Arithmetic Logical Unit,ALU)和寄存器堆。由于Simics對(duì)部件的模擬粒度的限制,系統(tǒng)采用功能上的近似來(lái)模擬4種部件。除了寄存器堆是直接注入到對(duì)應(yīng)寄存器中外,其他均有不同程度的近似(見(jiàn)圖1中灰色部件)。地址生成單元故障是通過(guò)注入到PC寄存器實(shí)現(xiàn),而譯碼單元是通過(guò)指令寄存器實(shí)現(xiàn),類似地,ALU故障注入也是通過(guò)其結(jié)果寄存器實(shí)現(xiàn)。

    圖1 故障注入系統(tǒng)

    系統(tǒng)硬件平臺(tái)是由Simics仿真出來(lái)的,在底層添加了故障注入單元和故障檢測(cè)單元。故障注入單元定義了故障模型和故障參數(shù),并注入到相應(yīng)部件中。故障檢測(cè)單元負(fù)責(zé)收集操作系統(tǒng)癥狀,并檢測(cè)系統(tǒng)是否遇到異常。為控制系統(tǒng)運(yùn)行,在Simics外還添加了控制單元和分析單元。仿真平臺(tái)也可以支持不同的操作系統(tǒng)。最上層是應(yīng)用程序?qū)?用來(lái)測(cè)試不同應(yīng)用場(chǎng)景,觀察故障注入后效果。

    3.2.2 控制單元

    控制單元負(fù)責(zé)整個(gè)實(shí)驗(yàn)系統(tǒng)的執(zhí)行,根據(jù)給定的故障模型、部件、類型,配置系統(tǒng)運(yùn)行一定次數(shù)的實(shí)驗(yàn)。實(shí)驗(yàn)完成后,實(shí)驗(yàn)數(shù)據(jù)的分析也由控制單元完成。

    3.2.3 分析單元

    分析單元負(fù)責(zé)數(shù)據(jù)分析功能,即根據(jù)程序運(yùn)行結(jié)果、監(jiān)測(cè)單元收集到的癥狀信息來(lái)分析故障注入的影響。同時(shí),給故障檢測(cè)及故障診斷提供信息。

    3.2.4 故障注入單元

    故障注入單元負(fù)責(zé)在結(jié)構(gòu)級(jí)完成對(duì)部件的故障注入。針對(duì)流水線中的4個(gè)重要部件,即譯碼單元、地址生成單元、ALU和寄存器堆,從功能上模擬了故障發(fā)生的情形。譯碼單元關(guān)系到指令解碼的正常與否,地址生成單元決定了下一條指令位置,ALU和寄存器堆都是和運(yùn)算結(jié)果相關(guān)的部件。

    Simics是功能級(jí)的模擬器,最小粒度是指令。在執(zhí)行每條指令前,可以觸發(fā)一次自定義事件。在該事件中,可以根據(jù)Simics提供的API修改系統(tǒng)數(shù)據(jù),進(jìn)而實(shí)現(xiàn)故障注入的功能。

    對(duì)譯碼單元的故障注入體現(xiàn)在指令寄存器中,每次取指完成后,給指令寄存器注入一個(gè)故障,從功能上模擬譯碼出現(xiàn)問(wèn)題。

    對(duì)ALU單元的故障體現(xiàn)在其結(jié)果寄存器上, ALU完成后,給結(jié)果寄存器注入一個(gè)故障,功能上模擬了運(yùn)算過(guò)程出錯(cuò)。

    類似地,對(duì)地址生成單元的故障則體現(xiàn)在PC寄存器上。寄存器堆的注入工作是通過(guò)直接在隨機(jī)選擇的通用寄存器中注入故障實(shí)現(xiàn)。

    對(duì)瞬時(shí)故障,其持續(xù)時(shí)間僅為一個(gè)時(shí)鐘;對(duì)永久故障,程序從開(kāi)始運(yùn)行到結(jié)束過(guò)程中一直保持;而對(duì)間歇故障,故障爆發(fā)次數(shù)服從一定的分布規(guī)律,且每次爆發(fā)持續(xù)時(shí)間、2次爆發(fā)之間相隔時(shí)間,支持不同的分布函數(shù)。

    為模擬故障發(fā)生的隨機(jī)性,故障注入的起始點(diǎn)是隨機(jī)的。此外,無(wú)論是單比特還是多比特,故障位也是隨機(jī)選擇。故障位的翻轉(zhuǎn)、stuck-at及橋接均通過(guò)位操作實(shí)現(xiàn),延遲類型的實(shí)現(xiàn)略微復(fù)雜,需要在模擬過(guò)程中以歷史變量值有規(guī)律地替換當(dāng)前變量值。

    3.2.5 監(jiān)測(cè)單元

    監(jiān)測(cè)單元功能主要是收集系統(tǒng)癥狀。為觀測(cè)故障注入后的系統(tǒng)狀態(tài),添加了該模塊來(lái)實(shí)時(shí)監(jiān)測(cè)系統(tǒng)各指標(biāo)。目前,監(jiān)測(cè)指標(biāo)包括關(guān)鍵陷入、掛起和高發(fā)活動(dòng),這些癥狀信息是反映系統(tǒng)狀態(tài)的關(guān)鍵指標(biāo)。SWAT項(xiàng)目[19]利用這些高層級(jí)癥狀實(shí)現(xiàn)了永久故障的檢測(cè)。

    關(guān)鍵陷入一般是非功能性陷入,在系統(tǒng)遇到除零、非法指令等緊急情況時(shí)發(fā)生,可以用來(lái)作為判斷系統(tǒng)異常的一個(gè)條件。在正常情況下,應(yīng)用程序運(yùn)行在用戶態(tài),只有在系統(tǒng)調(diào)用及中斷處理等情況下才需要運(yùn)行在特權(quán)模式。如果系統(tǒng)持續(xù)處于特權(quán)模式的指令數(shù)超過(guò)一定閾值,可以認(rèn)為系統(tǒng)出現(xiàn)問(wèn)題,該問(wèn)題稱為高發(fā)活動(dòng)[20]。掛起[20]是指系統(tǒng)陷入死循環(huán),程序不能結(jié)束而且又沒(méi)有結(jié)果。

    與故障注入單元類似,監(jiān)測(cè)單元是通過(guò)自定義的時(shí)鐘事件來(lái)完成系統(tǒng)狀態(tài)收集的功能。

    陷入信息和系統(tǒng)架構(gòu)密切相關(guān)。例如在Sparc架構(gòu)下,共有5個(gè)陷入寄存器。對(duì)于每個(gè)時(shí)鐘,癥狀收集單元均訪問(wèn)一次寄存器,并保存陷入信息、地址及指令。Solaris下還有一個(gè)關(guān)鍵陷入列表,通過(guò)比對(duì),可以找到所有的關(guān)鍵陷入,檢測(cè)系統(tǒng)是否正常運(yùn)行。

    高發(fā)活動(dòng)的檢測(cè)是通過(guò)統(tǒng)計(jì)系統(tǒng)連續(xù)處于特權(quán)模式或超特權(quán)模式的時(shí)鐘數(shù)來(lái)實(shí)現(xiàn)。類似地,掛起的檢測(cè)需要統(tǒng)計(jì)系統(tǒng)在每次跳轉(zhuǎn)指令處的地址并進(jìn)行計(jì)數(shù)。

    當(dāng)系統(tǒng)遇到關(guān)鍵陷入、高發(fā)活動(dòng)及掛起時(shí),即認(rèn)為系統(tǒng)出現(xiàn)異常。此時(shí),系統(tǒng)應(yīng)該啟動(dòng)故障診斷、故障恢復(fù)等過(guò)程。

    此外,在系統(tǒng)執(zhí)行過(guò)程中,監(jiān)測(cè)單元還需要收集應(yīng)用程序執(zhí)行成功與否,系統(tǒng)是否異常退出等信息。這些數(shù)據(jù)除了反映故障注入的結(jié)果外,還可以用于后續(xù)的故障檢測(cè)、故障診斷等。

    4 故障注入實(shí)驗(yàn)

    4.1 實(shí)驗(yàn)環(huán)境

    本文實(shí)驗(yàn)?zāi)M了Sun Fire 6800機(jī)器,單核150 MHz,內(nèi)存256 MB,Solaris10系統(tǒng),測(cè)試程序是Splash2。由于Splash2是用于性能測(cè)試的程序集,在本文實(shí)驗(yàn)中,為了比較程序運(yùn)行結(jié)果,只選擇了其中一部分。針對(duì)多個(gè)流水部件、不同故障模型及不同故障類型下故障傳播和影響進(jìn)行實(shí)驗(yàn)研究。

    4.2 實(shí)驗(yàn)過(guò)程

    實(shí)驗(yàn)針對(duì)4種部件、3種故障模型及多種故障類型均進(jìn)行了研究。每種配置進(jìn)行1000次注入實(shí)驗(yàn),收集癥狀和程序運(yùn)行結(jié)果。

    瞬時(shí)故障分別采用單比特翻轉(zhuǎn)、stuck-at-0/1、橋接及延遲的故障類型,從故障注入點(diǎn)開(kāi)始收集2×106個(gè)時(shí)鐘信息,最后運(yùn)行到程序結(jié)束,檢測(cè)程序運(yùn)行結(jié)果。

    永久故障采用stuck-at-0/1、橋接及延遲的故障類型,從故障注入點(diǎn)開(kāi)始持續(xù)注入2×106個(gè)時(shí)鐘,最后運(yùn)行至程序結(jié)束,判斷執(zhí)行結(jié)果。

    間歇故障的故障類型包括stuck-at-0/1、橋接及延遲,每次注入實(shí)驗(yàn)的爆發(fā)次數(shù)分別服從均勻分布。每次爆發(fā)持續(xù)時(shí)間和2次爆發(fā)之間的時(shí)間間隔分別服從均勻分布、指數(shù)分布和Weibull分布。故障注入完成后,同樣有一段時(shí)間的癥狀收集過(guò)程,最后檢測(cè)運(yùn)行結(jié)果。

    3種故障模型的參數(shù)配置見(jiàn)表1,對(duì)于間歇故障3種分布函數(shù)的參數(shù)配置[21]見(jiàn)表2,Splash2測(cè)試程序的運(yùn)行參數(shù)見(jiàn)表3。

    表1 3種故障模型的參數(shù)配置

    表2 間歇故障的3種分布函數(shù)參數(shù)配置

    表3 Splash2測(cè)試程序及執(zhí)行參數(shù)

    4.3 實(shí)驗(yàn)結(jié)果

    根據(jù)實(shí)驗(yàn)統(tǒng)計(jì),故障注入的結(jié)果有以下6種: (1)程序執(zhí)行正常,即故障注入后在執(zhí)行過(guò)程中被系統(tǒng)屏蔽,沒(méi)有對(duì)程序結(jié)果造成影響。(2)程序運(yùn)行結(jié)束,但結(jié)果不對(duì)。(3)程序陷入死循環(huán)或者遇到高發(fā)活動(dòng)。(4)程序因?yàn)榉欠ㄖ噶?、段錯(cuò)誤等原因?qū)е潞藖G棄(core dump)。(5)程序因?yàn)榉欠ㄔL問(wèn)地址空間、地址不對(duì)齊、MMU缺失等原因進(jìn)入調(diào)試模式(debugger)。(6)程序進(jìn)入RED(Recover Error and Debug)STATE模式,導(dǎo)致Simics直接崩潰。

    圖2描述了不同部件在不同故障模型下的歸一化實(shí)驗(yàn)結(jié)果,對(duì)不同故障類型(單比特翻轉(zhuǎn)、stuck-at-0/1、橋接和延遲)下的結(jié)果取了平均值,對(duì)于間歇故障的3種分布(均勻分布、指數(shù)分布和Weibull分布)、Splash2的不同測(cè)試集也作了類似處理。其中, T表示瞬時(shí)故障;P表示永久故障;I表示間歇故障。

    圖2 故障注入實(shí)驗(yàn)結(jié)果

    4.3.1 部件分析

    譯碼單元對(duì)永久故障和間歇故障比較敏感,其中,Simics崩潰、程序進(jìn)入調(diào)試狀態(tài)占到80%以上;永久故障和間歇故障下實(shí)驗(yàn)結(jié)果正確的比例分別占到14%和9%,相對(duì)地,瞬時(shí)故障這一比例達(dá)到70%。

    地址生成單元3種故障注入后的程序結(jié)果仍然正確的比例分別為63%,30%和19%。地址生成單元對(duì)瞬時(shí)故障屏蔽能力較強(qiáng),永久故障次之,間歇故障最差。

    譯碼單元和地址生成單元對(duì)瞬時(shí)故障都有很好的屏蔽能力,永久故障次之,間歇故障最差。從故障持續(xù)時(shí)間上看,瞬時(shí)故障最短,永久故障最長(zhǎng),間歇故障處于兩者之間。但這2個(gè)部件對(duì)間歇故障是最敏感的,主要體現(xiàn)為間歇故障導(dǎo)致系統(tǒng)進(jìn)入調(diào)試模式,最終程序均以失敗結(jié)束。

    ALU單元對(duì)瞬時(shí)故障有很好的屏蔽能力,屏蔽比例達(dá)到99%;對(duì)間歇故障的屏蔽能力稍差,比例降至53%。對(duì)永久故障最敏感,屏蔽比例僅為16%。在程序?qū)嶋H執(zhí)行過(guò)程中,ALU指令只占所有指令的一部分。根據(jù)統(tǒng)計(jì),測(cè)試程序在故障注入點(diǎn)碰到ALU指令的平均比例僅為53.8%,有大量的故障注入因?yàn)榉茿LU指令的原因沒(méi)有產(chǎn)生效果,所以,ALU表現(xiàn)出了較好的容錯(cuò)能力。

    寄存器對(duì)3種故障注入的屏蔽比例分別為93%,9%和33%。與ALU類似,寄存器對(duì)永久故障最敏感,對(duì)瞬時(shí)故障容忍能力最好,間歇故障則處于兩者之間。這同3種故障持續(xù)時(shí)間相對(duì)應(yīng)。

    從上述部件分析可以發(fā)現(xiàn),所有部件對(duì)瞬時(shí)故障均有最好的屏蔽能力,對(duì)永久故障和間歇故障容忍能力較差。瞬時(shí)故障只是暫時(shí)性的功能故障,影響局限在一定時(shí)間和空間范圍內(nèi)。永久故障是功能部件永久失效,對(duì)系統(tǒng)有致命影響。間歇故障持續(xù)時(shí)間處于兩者之間,但由于多次重復(fù)爆發(fā)的特點(diǎn),仍然對(duì)系統(tǒng)功能造成不同程度的損壞。

    4.3.2 故障模型分析

    從故障模型來(lái)看,瞬時(shí)故障對(duì)系統(tǒng)影響最小。譯碼器和地址生成單元的屏蔽比例不超過(guò)70%,而ALU和寄存器的屏蔽比例均超過(guò)90%。前者有很大一部分是核丟棄或者系統(tǒng)進(jìn)入調(diào)試狀態(tài)。這是因?yàn)樽g碼器故障容易造成指令解碼異常,地址生成單元容易破壞下一條指令地址,造成非法指令、非法地址訪問(wèn)、段錯(cuò)誤、地址不對(duì)齊等異常,進(jìn)而引起核丟棄或者系統(tǒng)進(jìn)入調(diào)試狀態(tài)。相對(duì)地,ALU和通用寄存器的數(shù)據(jù)是計(jì)算結(jié)果,一般不會(huì)引起系統(tǒng)資源類異常。此外,Sparc架構(gòu)有32個(gè)通用寄存器,注入故障的寄存器結(jié)果容易被其他指令結(jié)果所覆蓋,并不會(huì)將故障傳播到程序中。

    永久故障對(duì)系統(tǒng)影響比較嚴(yán)重,4種部件均出現(xiàn)了大量的Simics崩潰癥狀,也有部分系統(tǒng)進(jìn)入調(diào)試模式出現(xiàn)。ALU和寄存器還出現(xiàn)了超時(shí)運(yùn)行及程序陷入死循環(huán)的狀態(tài)。

    間歇故障對(duì)不同部件表現(xiàn)出不同的影響。與瞬時(shí)故障相比,4種部件的屏蔽比例均有較大幅度的下降。譯碼單元和地址生成單元屏蔽比例要低于永久故障,而ALU和寄存器堆屏蔽故障的比例則高于永久故障。從圖2還可以看出,永久故障引起系統(tǒng)崩潰的比例要高于(或不低于)間歇故障,只是間歇故障引起了部分程序進(jìn)入調(diào)試狀態(tài),提高了系統(tǒng)失效的比例。間歇故障的重復(fù)性對(duì)系統(tǒng)可靠性造成了一定影響,使得系統(tǒng)故障可能性明顯高于瞬時(shí)故障。

    4.3.3 程序行為分析

    從癥狀上分析,程序結(jié)果是Error的實(shí)驗(yàn)占很少的比例,大多數(shù)結(jié)果是程序崩潰、系統(tǒng)進(jìn)入調(diào)試狀態(tài)、死循環(huán)或者Simics直接崩潰。其中,程序崩潰是由于段錯(cuò)誤、非法指令等原因造成的,這一部分的比例較低;程序進(jìn)入調(diào)試狀態(tài)是由于非法地址訪問(wèn)、地址不對(duì)齊、MMU缺失等異常造成的,當(dāng)上述故障更嚴(yán)重時(shí),則直接演變?yōu)镾imics崩潰或死循環(huán)。從4個(gè)部件的效果上可以看出,在瞬時(shí)故障時(shí),有部分或較少的調(diào)試模式出現(xiàn);在間歇故障時(shí),譯碼器和地址生成單元出現(xiàn)較多的調(diào)試模式,并伴有大量的Simics崩潰癥狀出現(xiàn);永久故障時(shí),譯碼器和地址生成單元癥狀主要表現(xiàn)為Simics崩潰,ALU和寄存器也出現(xiàn)了較多的Simics崩潰癥狀,同時(shí)伴有較多的超時(shí)及死循環(huán)癥狀出現(xiàn)。

    5 結(jié)束語(yǔ)

    基于系統(tǒng)模擬器設(shè)計(jì)的故障注入平臺(tái),不僅可以模擬各部件的故障場(chǎng)景,同時(shí)也有利于進(jìn)一步研究容錯(cuò)系統(tǒng)。本文從Simics模擬器出發(fā),設(shè)計(jì)并開(kāi)發(fā)一套支持流水線部件、多種故障模型、故障類型及參數(shù)的故障注入平臺(tái)。從功能上模擬處理器流水線級(jí)別的故障情形,并提供故障檢測(cè)工具收集系統(tǒng)信息,用于下一步的故障診斷和恢復(fù)工作。實(shí)驗(yàn)結(jié)果表明,瞬時(shí)故障對(duì)系統(tǒng)的影響較小,永久故障影響較大,而間歇故障在不同部件上表現(xiàn)出不同效果,對(duì)系統(tǒng)也有較嚴(yán)重影響。譯碼器、地址生成單元對(duì)故障更敏感,較容易造成程序或系統(tǒng)崩潰,ALU和寄存器對(duì)故障的屏蔽能力稍強(qiáng)。在發(fā)生永久故障時(shí),4種部件均出現(xiàn)大量的失效情形。下一步研究?jī)?nèi)容包括將故障注入部件擴(kuò)展到存儲(chǔ)、總線及網(wǎng)絡(luò),搭建一個(gè)功能全面的故障注入平臺(tái),并且使故障注入平臺(tái)為容錯(cuò)系統(tǒng)服務(wù)進(jìn)行故障診斷及恢復(fù)。

    [1] 李 娟.基于故障注入的軟件安全測(cè)試技術(shù)研究[D].合肥:中國(guó)科學(xué)技術(shù)大學(xué),2009.

    [2] Gil D,Gracia J,Baraza J C,et al.A Study of the Effects of Transient Fault Injection into the VHDL Model of a Fault-tolerant Microcomputer System[C]//Proceedings of the 6th IEEE International On-line Testing Workshop. Palma de Mallorca,Spain:IEEE Press,2000:73-79.

    [3] Amendola A M,Benso A,Corno F,et al.Fault Behavior Observation on a Microprocessor System Through a VHDLSimulation-basedFaultInjectionExperiment[C]//Proceedings of EuroDAC’96.[S.l.]: ACM Press,1996:536-539.

    [4] Martínez J R,Gil P J,Martín G,et al.Experimental Validation of High-speed Fault-tolerant Systems Using PhysicalFaultInjection[C]//Proceedingsof InternationalWorkingConferenceonDependable Computing for Critical Applications.Washington D.C., USA:IEEE Computer Society,1999:233-249.

    [5] Arlat J,Crouzet Y,Laprie J C.Fault Injection for Dependability ValidationofFault-tolerantComputer Systems[C]//Proceedingsofthe19thAnnual International Symposium.Los Alamitos,USA:IEEE Press,1989:348-355.

    [6] Madeira H,Rela M,Moreira F,et al.RIFLE:A General Purpose Pin-level Fault Injector[C]//Proceedings of the 1stEuropeanDependableComputingConference. Berlin,Germany:Springer-Verlag,1994:199-216.

    [7] Gunnetlo O,Karlsson J,Tonn J.Evaluation of Error Detection Schemes Using Fault Injection by Heavy-ion Radiation[C]//Proceedings of the19th International SymposiumonFault-tolerantComputing.Chicago, USA:IEEE Press,1989:340-347.

    [8] Karlsson J,Arlat J,Leber G.Application of Three Physical Fault Injection Techniques to the Experimental AssessmentoftheMARSArchitecture[C]// Proceedings of DCCA’95.Los Alamitos,USA:IEEE Press,1995:150-161.

    [9] Tsai T K,Iyer R K.An Approach to Benchmarking of Fault-tolerant Commercial Systems[C]//Proceedings of International Symposium on Fault-tolerant Computing. Sendai,Japan:IEEE Press,1996:314-323.

    [10] Kanawati G A,KanawatiNA,AbrahamJA. FERRARI:AToolfortheValidationofSystem Dependability Properties[C]//Proceedings of the 22nd AnnualInternationalSymposiumFault-tolerant Computing.Los Alamitos,USA:IEEE Press,1992: 336-344.

    [11] Han S,Rosenberg H,Shin K.DOCTOR:An Integrated Software Fault Injection Environment[R].University of Michigan,Technical Report:CSE-TR-192-93,1993.

    [12] Carreira J,Madeira H,Silva J.Xception:A Technique for the Experimental Evaluation of Dependability in Modern Computers[J].IEEE Transactions on Software Engineering,1998,24(2):125-136.

    [13] Jeitler M,Delvai M,Reich S.FuSE——A Hardware Accelerated HDL Fault Injection Tool[C]//Proceedings ofSouthernConferenceonProgrammableLogic. Sao Carlos,Brazil:IEEE Press,2009:89-94.

    [14] Baraza J C,Gracia J,Gil D,et al.A Prototype of a VHDL-basedFaultInjectionTool:Descriptionand Application[J].Journal of Systems Architecture,2002, 47(10):847-867.

    [15] Zarandi H R,Miremadi G,Ejlali A R.Fault Injection into Verilog Models for Dependability Evaluation of Digital Systems[C]//Proceedings of the International Symposium on Parallel and Distributed Computing. [S.l.]:IEEE Press,2003:281-287.

    [16] Sieh V,Tschche O,Balbach F.VERIFY:Evaluation of Reliability Using VHDL——Models with Embedded FaultDescriptions[C]//Proceedingsofthe27th International Symposium on Fault-tolerant Computing. Seattle,USA:IEEE Press,1997:32-36.

    [17] Rousselle C,Pflanz M,Behling A,et al.A Registertransfer-levelFaultSimulatorforPermanentand TransientFaultsinEmbeddedProcessors[C]// Proceedings of DATE’01.Munich,Germany:IEEE Press,2001:1530-1591.

    [18] Delong T A,Johnson B W,Profetan J A.A Fault InjectionTechniqueforVHDLBehavioral-level Models[J].IEEE Design&Test of Computers,1996, 5(3):24-33.

    [19] Li M L.SWAT:DesigningResilientHardwareby Treating Software Anomalies[M].Chicago,USA:UMI Dissertation Publishing,2009.

    [20] Li M L.Understanding the Propagation of Hard Errors to SoftwareandImplicationsforResilientSystems Design[C]//Proceedingsofthe13thInternational Conference on Architectural Support for Programming Languages and Operating Systems.New York,USA: ACM Press,2008.

    [21] Siewiorek D P,Swarz R S.Reliable Computer Systems: Design and Evaluation[M].New York,USA:Digital Press,1992.

    編輯 陸燕菲

    Simics-based System Level Fault Injection Platform

    HU Qian,WANG Chao,WANG Haixia,WANG Dongsheng
    (National Laboratory for Information Science and Technology,Tsinghua University,Beijing100084,China)

    Fault injection provides an effective method to evaluate the reliability of system,which is a complex topic in multicore situation.There are many simulation-based fault injection tools now,most of which are implemented by Field Programmable Gate Array(FPGA)and Very High Speed Integrated Circuits Hardware Description Language(VHDL), with limited fault models.Based on the widely used system simulator Simics in computer architecture,this paper designs and implements a system level fault injection platform,supporting different firmware,OS and applications.It can inject faults into several components,with different fault models(including transient faults,permanent and intermittent faults) and most fault types.Further more,it integrates fault detection module into the system.After observing of the propagation of hardware faults in system,it analyzes the effect of different components,fault models on system level,inspiring fault detection,and finds that transient faults have a little impact on system,while permanent faults seriously interrupt the running and intermittent faults performs differently on different components.

    fault injection;system reliability;fault model;fault detection;structure level simulator

    胡 倩,王 超,王海霞,等.基于Simics的系統(tǒng)級(jí)故障注入平臺(tái)[J].計(jì)算機(jī)工程,2015,41(2):57-62,75.

    英文引用格式:Hu Qian,Wang Chao,Wang Haixia,et al.Simics-based System Level Fault Injection Platform[J]. Computer Engineering,2015,41(2):57-62,75.

    1000-3428(2015)02-0057-06

    :A

    :TP302.8

    10.3969/j.issn.1000-3428.2015.02.012

    國(guó)家自然科學(xué)基金資助項(xiàng)目(61373025,61303002);國(guó)家“863”計(jì)劃基金資助項(xiàng)目(2012AA0100905);高等學(xué)校博士學(xué)科點(diǎn)專項(xiàng)科研基金資助項(xiàng)目(20120002110032)。

    胡 倩(1988-),男,碩士研究生,主研方向:多核體系結(jié)構(gòu),系統(tǒng)容錯(cuò)技術(shù);王 超,助理研究員、博士后;王海霞,副教授;汪東升,教授、博士生導(dǎo)師。

    2014-03-28

    :2014-05-04E-mail:qianhu2011@gmail.com

    猜你喜歡
    指令程序故障
    聽(tīng)我指令:大催眠術(shù)
    故障一點(diǎn)通
    試論我國(guó)未決羈押程序的立法完善
    ARINC661顯控指令快速驗(yàn)證方法
    LED照明產(chǎn)品歐盟ErP指令要求解讀
    “程序猿”的生活什么樣
    英國(guó)與歐盟正式啟動(dòng)“離婚”程序程序
    奔馳R320車(chē)ABS、ESP故障燈異常點(diǎn)亮
    創(chuàng)衛(wèi)暗訪程序有待改進(jìn)
    故障一點(diǎn)通
    久久精品成人免费网站| 久久久久国产一级毛片高清牌| 两个人免费观看高清视频| 国产免费视频播放在线视频| av又黄又爽大尺度在线免费看| 青草久久国产| a级毛片在线看网站| 国产免费福利视频在线观看| 成人亚洲欧美一区二区av| 国产精品.久久久| 国产一卡二卡三卡精品| 一区福利在线观看| avwww免费| av视频免费观看在线观看| 久久狼人影院| 亚洲人成网站在线观看播放| av在线老鸭窝| 国产精品久久久av美女十八| 在线观看免费视频网站a站| 1024香蕉在线观看| 在线天堂中文资源库| 亚洲中文av在线| 精品久久久久久久毛片微露脸 | 精品人妻1区二区| 国产亚洲av片在线观看秒播厂| 精品亚洲成a人片在线观看| 少妇粗大呻吟视频| 国产亚洲一区二区精品| 麻豆乱淫一区二区| 亚洲欧美日韩另类电影网站| 又紧又爽又黄一区二区| 国产视频一区二区在线看| 国产成人欧美| av在线app专区| 精品国产一区二区三区四区第35| 国产免费又黄又爽又色| 国产免费又黄又爽又色| 久热这里只有精品99| avwww免费| 久久亚洲国产成人精品v| 国产伦理片在线播放av一区| 亚洲精品美女久久av网站| 久久久久国产精品人妻一区二区| 肉色欧美久久久久久久蜜桃| 亚洲av电影在线进入| 视频区欧美日本亚洲| 99国产综合亚洲精品| 国产成人精品在线电影| 视频区欧美日本亚洲| 女人久久www免费人成看片| videosex国产| 亚洲一码二码三码区别大吗| 亚洲欧美一区二区三区黑人| 青草久久国产| 汤姆久久久久久久影院中文字幕| 免费看十八禁软件| 亚洲激情五月婷婷啪啪| 嫁个100分男人电影在线观看 | 日日摸夜夜添夜夜爱| 激情五月婷婷亚洲| 久久国产亚洲av麻豆专区| 丰满迷人的少妇在线观看| 成年人午夜在线观看视频| 中文字幕av电影在线播放| 男女国产视频网站| 欧美少妇被猛烈插入视频| 欧美国产精品一级二级三级| 在线观看国产h片| 啦啦啦中文免费视频观看日本| 一本大道久久a久久精品| 黄网站色视频无遮挡免费观看| 三上悠亚av全集在线观看| 晚上一个人看的免费电影| 搡老乐熟女国产| 亚洲国产欧美网| 欧美人与性动交α欧美软件| 亚洲欧美一区二区三区国产| 999精品在线视频| 亚洲 国产 在线| 日韩视频在线欧美| 亚洲精品美女久久av网站| 国产伦人伦偷精品视频| av网站免费在线观看视频| 亚洲精品日韩在线中文字幕| 亚洲七黄色美女视频| 亚洲欧美精品自产自拍| av网站免费在线观看视频| 亚洲一码二码三码区别大吗| 九草在线视频观看| videosex国产| 久久国产精品大桥未久av| 国产熟女欧美一区二区| 天天添夜夜摸| 人体艺术视频欧美日本| 亚洲九九香蕉| 国产男女超爽视频在线观看| 亚洲人成77777在线视频| 五月开心婷婷网| 午夜福利,免费看| www.999成人在线观看| 黄色视频不卡| 看十八女毛片水多多多| 成人亚洲精品一区在线观看| 久久精品人人爽人人爽视色| 亚洲中文av在线| 午夜福利免费观看在线| 精品亚洲乱码少妇综合久久| 久久狼人影院| 久久久欧美国产精品| 欧美老熟妇乱子伦牲交| 青春草视频在线免费观看| 国产又爽黄色视频| 日韩精品免费视频一区二区三区| 日韩 欧美 亚洲 中文字幕| 久久毛片免费看一区二区三区| 一本一本久久a久久精品综合妖精| 大香蕉久久网| 黄频高清免费视频| 伊人亚洲综合成人网| 亚洲精品久久久久久婷婷小说| 69精品国产乱码久久久| 精品国产一区二区久久| 亚洲国产av新网站| 久久久久视频综合| 国产成人啪精品午夜网站| 国产亚洲欧美精品永久| 亚洲欧洲精品一区二区精品久久久| 久久青草综合色| 超碰成人久久| 亚洲一区二区三区色噜噜| 久久欧美精品欧美久久欧美| avwww免费| 老汉色av国产亚洲站长工具| 51午夜福利影视在线观看| 国产成人精品无人区| 欧美成狂野欧美在线观看| 成年免费大片在线观看| 国产激情久久老熟女| 中文字幕久久专区| 亚洲自偷自拍图片 自拍| 白带黄色成豆腐渣| 亚洲 欧美 日韩 在线 免费| 亚洲全国av大片| 丁香欧美五月| 免费电影在线观看免费观看| av在线天堂中文字幕| 午夜福利在线观看吧| 99热6这里只有精品| 亚洲第一电影网av| 精品一区二区三区av网在线观看| 久久久久免费精品人妻一区二区 | 少妇 在线观看| 日韩精品青青久久久久久| 国产三级在线视频| 久久中文看片网| 国产高清有码在线观看视频 | 一二三四社区在线视频社区8| 两个人视频免费观看高清| 成人手机av| 午夜福利成人在线免费观看| 两个人看的免费小视频| 一级毛片女人18水好多| 熟妇人妻久久中文字幕3abv| 给我免费播放毛片高清在线观看| www国产在线视频色| 中文字幕最新亚洲高清| 黄色毛片三级朝国网站| 国产黄片美女视频| 色哟哟哟哟哟哟| 女人高潮潮喷娇喘18禁视频| 啦啦啦免费观看视频1| 亚洲男人天堂网一区| 欧美日韩乱码在线| 国产精品美女特级片免费视频播放器 | 成人午夜高清在线视频 | 国产亚洲av高清不卡| 国产男靠女视频免费网站| 91麻豆精品激情在线观看国产| 欧美激情极品国产一区二区三区| 成人午夜高清在线视频 | 一级a爱视频在线免费观看| 国产精品综合久久久久久久免费| 国产在线观看jvid| 久久久久久久久久黄片| 91av网站免费观看| 夜夜夜夜夜久久久久| 99国产精品99久久久久| 欧美三级亚洲精品| 国产真人三级小视频在线观看| 国产午夜精品久久久久久| 老鸭窝网址在线观看| 成年免费大片在线观看| 成人欧美大片| 变态另类成人亚洲欧美熟女| av天堂在线播放| 长腿黑丝高跟| 欧美黑人巨大hd| 国产亚洲欧美98| 亚洲av中文字字幕乱码综合 | 国产高清有码在线观看视频 | 欧美在线一区亚洲| 午夜老司机福利片| 国产在线精品亚洲第一网站| 亚洲专区字幕在线| 久久久久国产精品人妻aⅴ院| 精品人妻1区二区| АⅤ资源中文在线天堂| a级毛片在线看网站| 久久久国产成人精品二区| 久久热在线av| 手机成人av网站| 午夜影院日韩av| av在线天堂中文字幕| 很黄的视频免费| 亚洲 欧美一区二区三区| 欧美三级亚洲精品| 一进一出好大好爽视频| 黑丝袜美女国产一区| 99精品久久久久人妻精品| 一本精品99久久精品77| 欧美精品啪啪一区二区三区| 亚洲av成人不卡在线观看播放网| 久久中文看片网| 色播亚洲综合网| 国产97色在线日韩免费| 国产99久久九九免费精品| 在线观看免费视频日本深夜| 久久亚洲精品不卡| 中文字幕另类日韩欧美亚洲嫩草| 人人妻人人澡人人看| 亚洲 欧美一区二区三区| 久久精品91蜜桃| 亚洲片人在线观看| 性色av乱码一区二区三区2| 在线av久久热| 国产激情偷乱视频一区二区| 亚洲五月色婷婷综合| 一区福利在线观看| 狠狠狠狠99中文字幕| 久久久国产成人精品二区| 国产亚洲精品综合一区在线观看 | 欧美又色又爽又黄视频| 国产三级黄色录像| 国产色视频综合| 国产高清videossex| 黄色成人免费大全| 日韩精品免费视频一区二区三区| 一夜夜www| 99久久综合精品五月天人人| 成人欧美大片| ponron亚洲| 天堂动漫精品| 嫁个100分男人电影在线观看| 国内久久婷婷六月综合欲色啪| 亚洲一区中文字幕在线| 最好的美女福利视频网| 亚洲性夜色夜夜综合| 日韩一卡2卡3卡4卡2021年| 成人一区二区视频在线观看| 亚洲国产高清在线一区二区三 | 18禁美女被吸乳视频| 国产97色在线日韩免费| 国产熟女xx| 午夜福利在线在线| 国产一区二区三区在线臀色熟女| 精品无人区乱码1区二区| 国产激情偷乱视频一区二区| 12—13女人毛片做爰片一| 国产欧美日韩一区二区三| 亚洲国产精品成人综合色| 日本撒尿小便嘘嘘汇集6| 成人精品一区二区免费| 亚洲 欧美 日韩 在线 免费| 婷婷六月久久综合丁香| 国产精品 国内视频| 在线播放国产精品三级| 老司机在亚洲福利影院| 亚洲国产看品久久| 国产人伦9x9x在线观看| 国产精品1区2区在线观看.| 成人三级黄色视频| 叶爱在线成人免费视频播放| 欧美丝袜亚洲另类 | 777久久人妻少妇嫩草av网站| 国产一区在线观看成人免费| 久久精品国产亚洲av高清一级| 国产激情久久老熟女| 两性午夜刺激爽爽歪歪视频在线观看 | xxx96com| 国产午夜福利久久久久久| 在线天堂中文资源库| 黄色片一级片一级黄色片| 亚洲一区二区三区不卡视频| 天天躁狠狠躁夜夜躁狠狠躁| 久久精品国产亚洲av高清一级| 91麻豆av在线| 国产成+人综合+亚洲专区| 欧美在线黄色| 久久久久久久精品吃奶| 国产av一区在线观看免费| 国产视频一区二区在线看| 亚洲av成人av| 给我免费播放毛片高清在线观看| 一级毛片精品| 亚洲国产毛片av蜜桃av| 国产成人精品无人区| 午夜成年电影在线免费观看| 老司机在亚洲福利影院| 免费电影在线观看免费观看| 在线观看免费日韩欧美大片| 高潮久久久久久久久久久不卡| 国产99白浆流出| 欧美激情极品国产一区二区三区| 久久这里只有精品19| 日日爽夜夜爽网站| 欧美亚洲日本最大视频资源| 国产精品九九99| 国产成人一区二区三区免费视频网站| 麻豆一二三区av精品| 久久久久亚洲av毛片大全| 俄罗斯特黄特色一大片| 人妻久久中文字幕网| 精品不卡国产一区二区三区| 天堂√8在线中文| 国产成人一区二区三区免费视频网站| 亚洲av片天天在线观看| 国产av在哪里看| 91麻豆精品激情在线观看国产| 免费人成视频x8x8入口观看| 色综合欧美亚洲国产小说| 啦啦啦韩国在线观看视频| 日韩精品青青久久久久久| 亚洲av第一区精品v没综合| 在线播放国产精品三级| 12—13女人毛片做爰片一| 国产精品av久久久久免费| 久久久久国产一级毛片高清牌| 国语自产精品视频在线第100页| 深夜精品福利| 午夜老司机福利片| 亚洲国产精品合色在线| 深夜精品福利| 久久这里只有精品19| 免费无遮挡裸体视频| 国产私拍福利视频在线观看| 黄片大片在线免费观看| 免费观看精品视频网站| 午夜福利18| 国产成人精品无人区| 国产成人av激情在线播放| 欧美又色又爽又黄视频| 亚洲一码二码三码区别大吗| 久久国产精品人妻蜜桃| 精品人妻1区二区| 99久久无色码亚洲精品果冻| 国内久久婷婷六月综合欲色啪| 国产一区二区三区视频了| 91成年电影在线观看| 婷婷丁香在线五月| 亚洲三区欧美一区| 免费高清在线观看日韩| 国产精品永久免费网站| 老熟妇仑乱视频hdxx| 啪啪无遮挡十八禁网站| 精品国产国语对白av| 国产精品香港三级国产av潘金莲| 中文字幕人妻熟女乱码| 无限看片的www在线观看| 亚洲精品久久成人aⅴ小说| 男人操女人黄网站| 搞女人的毛片| 丰满的人妻完整版| 中国美女看黄片| 在线观看舔阴道视频| 国产精品久久久人人做人人爽| 制服诱惑二区| 一区二区三区国产精品乱码| 久久亚洲精品不卡| 亚洲色图 男人天堂 中文字幕| 精品国产国语对白av| 午夜福利欧美成人| 久久久精品国产亚洲av高清涩受| 国产伦一二天堂av在线观看| 久久99热这里只有精品18| 国产欧美日韩一区二区精品| 不卡av一区二区三区| 国产精品一区二区三区四区久久 | 啦啦啦韩国在线观看视频| 国产主播在线观看一区二区| 在线观看日韩欧美| 亚洲午夜精品一区,二区,三区| 亚洲熟妇中文字幕五十中出| 国产成人欧美在线观看| 精品国产亚洲在线| 国内毛片毛片毛片毛片毛片| 国产在线精品亚洲第一网站| 成人三级黄色视频| 后天国语完整版免费观看| 国产精品国产高清国产av| 国产欧美日韩精品亚洲av| 十分钟在线观看高清视频www| 亚洲三区欧美一区| 叶爱在线成人免费视频播放| 黄色丝袜av网址大全| 好男人电影高清在线观看| 母亲3免费完整高清在线观看| 亚洲av中文字字幕乱码综合 | 在线观看日韩欧美| 国产1区2区3区精品| 国内揄拍国产精品人妻在线 | 观看免费一级毛片| 日韩精品青青久久久久久| 亚洲精品在线美女| 天天添夜夜摸| 国产片内射在线| 精品人妻1区二区| 久久九九热精品免费| 久久精品国产综合久久久| 黄片小视频在线播放| 亚洲人成伊人成综合网2020| 国产精品一区二区精品视频观看| 亚洲精品美女久久av网站| 国产v大片淫在线免费观看| 亚洲精品国产区一区二| 两个人视频免费观看高清| 高潮久久久久久久久久久不卡| 亚洲国产毛片av蜜桃av| 麻豆成人午夜福利视频| 日韩精品中文字幕看吧| 88av欧美| 性欧美人与动物交配| 黄色 视频免费看| 国产成人精品无人区| 日日夜夜操网爽| 欧美av亚洲av综合av国产av| 精品欧美国产一区二区三| 欧美 亚洲 国产 日韩一| 国产精品一区二区三区四区久久 | 日韩国内少妇激情av| www.999成人在线观看| 精品欧美一区二区三区在线| 老汉色∧v一级毛片| a级毛片在线看网站| 在线国产一区二区在线| 国产蜜桃级精品一区二区三区| 成年免费大片在线观看| 熟女电影av网| 香蕉丝袜av| 欧美最黄视频在线播放免费| av欧美777| 99久久精品国产亚洲精品| 999精品在线视频| 中亚洲国语对白在线视频| 国产成人精品久久二区二区免费| 两人在一起打扑克的视频| 欧美一级毛片孕妇| 欧美一区二区精品小视频在线| 啪啪无遮挡十八禁网站| 中文资源天堂在线| 老汉色av国产亚洲站长工具| 午夜久久久久精精品| 国产在线观看jvid| 免费在线观看亚洲国产| 99久久久亚洲精品蜜臀av| 久久久久国内视频| 亚洲av五月六月丁香网| 午夜亚洲福利在线播放| 精品国内亚洲2022精品成人| 国产精品久久久人人做人人爽| 久久精品国产99精品国产亚洲性色| 久久久久久人人人人人| 这个男人来自地球电影免费观看| 久久精品亚洲精品国产色婷小说| 视频区欧美日本亚洲| 一级毛片女人18水好多| 国产私拍福利视频在线观看| 日韩欧美在线二视频| 国产真人三级小视频在线观看| 午夜激情福利司机影院| 国产99白浆流出| 十八禁人妻一区二区| 老熟妇乱子伦视频在线观看| 免费观看人在逋| 国产熟女xx| 女性生殖器流出的白浆| 高潮久久久久久久久久久不卡| 国产蜜桃级精品一区二区三区| 熟女少妇亚洲综合色aaa.| 美女大奶头视频| 在线av久久热| 日本五十路高清| 黄色片一级片一级黄色片| 色哟哟哟哟哟哟| 国产色视频综合| 亚洲人成网站在线播放欧美日韩| 亚洲国产精品成人综合色| 国产免费男女视频| 日韩视频一区二区在线观看| 真人做人爱边吃奶动态| 亚洲av成人av| 最新美女视频免费是黄的| 国产91精品成人一区二区三区| 国产片内射在线| 精品国产美女av久久久久小说| 亚洲国产精品久久男人天堂| 男女下面进入的视频免费午夜 | 欧美国产精品va在线观看不卡| 国产黄色小视频在线观看| 久久久久免费精品人妻一区二区 | 日本撒尿小便嘘嘘汇集6| 男人舔女人的私密视频| 欧美日韩福利视频一区二区| 国产爱豆传媒在线观看 | 首页视频小说图片口味搜索| 人人妻人人澡欧美一区二区| 国产精品美女特级片免费视频播放器 | 免费高清视频大片| 淫妇啪啪啪对白视频| 国产精品免费一区二区三区在线| 亚洲精品国产一区二区精华液| 国产又色又爽无遮挡免费看| 午夜福利成人在线免费观看| 欧美在线黄色| 色综合欧美亚洲国产小说| 成人三级黄色视频| 久久草成人影院| 99re在线观看精品视频| 人妻久久中文字幕网| 国产在线观看jvid| 性欧美人与动物交配| 波多野结衣av一区二区av| 精品久久蜜臀av无| 一级a爱片免费观看的视频| 久久草成人影院| 中文字幕人成人乱码亚洲影| 精品久久蜜臀av无| 97人妻精品一区二区三区麻豆 | 手机成人av网站| 一个人观看的视频www高清免费观看 | 午夜福利在线在线| av片东京热男人的天堂| 无遮挡黄片免费观看| 人妻久久中文字幕网| 欧美黑人精品巨大| 久久午夜综合久久蜜桃| 美女高潮喷水抽搐中文字幕| 精品国产乱子伦一区二区三区| 中文字幕人妻丝袜一区二区| 黄片播放在线免费| 亚洲熟妇熟女久久| 亚洲欧美日韩高清在线视频| 男女做爰动态图高潮gif福利片| 精品久久久久久成人av| 久久精品国产亚洲av香蕉五月| 日本在线视频免费播放| 久久婷婷人人爽人人干人人爱| 在线播放国产精品三级| 亚洲第一青青草原| 啦啦啦观看免费观看视频高清| 少妇熟女aⅴ在线视频| 99久久无色码亚洲精品果冻| 亚洲欧美精品综合一区二区三区| 麻豆av在线久日| 亚洲熟女毛片儿| 麻豆成人午夜福利视频| 自线自在国产av| 十分钟在线观看高清视频www| 亚洲欧美日韩无卡精品| 国产精品久久电影中文字幕| 午夜免费观看网址| 淫妇啪啪啪对白视频| 丰满的人妻完整版| 法律面前人人平等表现在哪些方面| 啦啦啦免费观看视频1| 精品欧美一区二区三区在线| av中文乱码字幕在线| aaaaa片日本免费| 精品人妻1区二区| 很黄的视频免费| 国内少妇人妻偷人精品xxx网站 | 日本免费一区二区三区高清不卡| 一区二区三区精品91| 在线观看免费视频日本深夜| 丝袜人妻中文字幕| 亚洲精品一卡2卡三卡4卡5卡| 久久天躁狠狠躁夜夜2o2o| 又黄又粗又硬又大视频| 欧美日韩乱码在线| 亚洲自偷自拍图片 自拍| 欧美性猛交╳xxx乱大交人| 色播在线永久视频| 精品久久久久久久毛片微露脸| 99国产精品99久久久久| 欧美日韩乱码在线| 欧美精品亚洲一区二区| 制服诱惑二区| 日韩精品青青久久久久久| 欧美黄色淫秽网站| 国产精品香港三级国产av潘金莲| 国产av一区在线观看免费| 国产精品二区激情视频| 国产1区2区3区精品| 99国产综合亚洲精品| www日本在线高清视频| 免费看十八禁软件| 国产一区二区三区视频了| 国产成人一区二区三区免费视频网站| 免费看a级黄色片| 色av中文字幕| 国产精品免费一区二区三区在线| 丁香六月欧美| 中文字幕另类日韩欧美亚洲嫩草| 国产精品国产高清国产av| 一区二区三区精品91| 亚洲专区中文字幕在线|