• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    面向適航標(biāo)準(zhǔn)的機(jī)載軟件測試驗證工具綜述

    2021-06-11 10:15:40劉友林譚莉娟楊豐玉
    計算機(jī)工程與應(yīng)用 2021年11期
    關(guān)鍵詞:分析方法模型

    劉友林,鄭 巍,譚莉娟,樊 鑫,楊豐玉

    1.南昌航空大學(xué) 軟件學(xué)院,南昌330063 2.南昌航空大學(xué) 軟件測評中心,南昌330063

    機(jī)載軟件是安裝在航空設(shè)備中作為核心控制作用的計算機(jī)軟件,是一種典型的嵌入式軟件。隨著嵌入式技術(shù)在航空航天領(lǐng)域的廣泛應(yīng)用,軟件所實現(xiàn)的功能比例也越來越高,航電系統(tǒng)80%的功能都依賴于機(jī)載軟件實現(xiàn),機(jī)載軟件已經(jīng)成為機(jī)載設(shè)備系統(tǒng)的核心[1],而因軟件故障引起的事故時有發(fā)生。2018年印尼獅航因為飛機(jī)搭載的自動防失速系統(tǒng)做出錯誤判斷導(dǎo)致空難。機(jī)載軟件具有安全攸關(guān)(safety-critical)的特性,因此所有機(jī)載設(shè)備軟件以及飛機(jī)交聯(lián)的軟件系統(tǒng)進(jìn)行安全認(rèn)證才能投入使用[2]。航空領(lǐng)域廣泛采用的是美國航空無線電委員會(Radio Technical Commission for Aeronautics,RTCA)提出的航空適航認(rèn)證標(biāo)準(zhǔn)DO-178C[3]及其增補(bǔ)標(biāo)準(zhǔn)。

    基于適航認(rèn)證標(biāo)準(zhǔn)的軟件驗證能最大程度上發(fā)現(xiàn)軟件中的錯誤,保障軟件安全與質(zhì)量,滿足適航審定的要求。機(jī)載嵌入式軟件因其實時性、高安全可靠性和軟硬件高耦合度等特點,驗證的工作量和難度大大提升。如何對日漸復(fù)雜的機(jī)載軟件系統(tǒng)進(jìn)行高效的驗證成為了研究熱點,對機(jī)載嵌入式驗證工具的研究同樣也變得十分迫切。

    DO-178C中軟件驗證的方法包括了審查(review)、測試和分析。而當(dāng)前,國內(nèi)外不少學(xué)者主要側(cè)重于軟件測試及其工具的研究。Sneha K等[4]按照功能導(dǎo)向?qū)y試工具劃分為功能測試工具、測試管理工具、負(fù)載測試工具三類;Mustafa K M等[5]根據(jù)測試工具的適用范圍將其劃分為web應(yīng)用、嵌入式軟件、數(shù)據(jù)庫、網(wǎng)絡(luò)協(xié)議等八類,但僅給出兩種適用于嵌入式軟件測試的工具。上述研究從不同角度對軟件測試及其工具進(jìn)行了研究,但是其主要研究對象并不是機(jī)載嵌入式軟件,而且覆蓋的工具也較少。因此本文在系列適航標(biāo)準(zhǔn)的基礎(chǔ)上對機(jī)載軟件的驗證工具進(jìn)行全面的研究綜述。

    DO-178C及其增補(bǔ)標(biāo)準(zhǔn)包括了工具鑒定(DO-330)、基于模型的開發(fā)和驗證(DO-331)、面對對象技術(shù)(DO-332)、形式化方法(DO-333)、常溫問題的問答(DO-248)等,如圖1所示。面對對象技術(shù)(DO-332)到目前還沒廣泛應(yīng)用到航空業(yè)中,工具鑒定(DO-330)是機(jī)載軟件生命周期中所使用工具的適航審定標(biāo)準(zhǔn),因此本文從DO-178C、模型驅(qū)動、形式化方法三個方面,介紹機(jī)載軟件測試驗證工具。

    圖1 適航認(rèn)證標(biāo)準(zhǔn)

    1 面向DO-178C的測試驗證工具

    DO-178C是民用航空機(jī)載軟件研制和審定的指南標(biāo)準(zhǔn),確保研制的軟件實現(xiàn)預(yù)期的功能和滿足適航的要求。DO-178C將軟件生命周期分為軟件計劃過程、軟件開發(fā)過程和軟件綜合過程,如圖2。針對每個過程,DO-178C規(guī)定了一些系列的指南,包括過程的目標(biāo)、達(dá)到目標(biāo)所需要的活動和設(shè)計考慮、證明目的已經(jīng)達(dá)到的證據(jù)。

    圖2 DO-178C軟件生命周期

    軟件計劃過程定義了軟件計劃和軟件標(biāo)準(zhǔn),用來指導(dǎo)軟件開發(fā)和軟件綜合過程。軟件開發(fā)過程實現(xiàn)了軟件產(chǎn)品自上而下的生成。軟件綜合過程包含了驗證軟件產(chǎn)品、管理軟件產(chǎn)品和監(jiān)控軟件產(chǎn)品,以保證軟件產(chǎn)品及其生成過程的正確、受控和可信。軟件綜合過程中的軟件驗證過程不僅包含對軟件開發(fā)過程的驗證,還包括對軟件驗證過程輸出結(jié)果的驗證即對驗證的驗證。驗證是對軟件開發(fā)過程和軟件驗證過程結(jié)果的技術(shù)評估[3]。軟件驗證包括了評審(review)、分析、測試等方法,并通過不同的方法對不同的軟件過程進(jìn)行驗證。DO-178C將測試作為軟件驗證的一部分考慮,主要是對開發(fā)出的源代碼進(jìn)行評估,執(zhí)行測試用例以驗證代碼是否滿足了需求。在軟件需求不能用測試用例測試時,可以采用分析的方法驗證。

    1.1 評審

    評審?fù)ㄟ^檢查單或類似的方法進(jìn)行人工定性檢查,是早期發(fā)現(xiàn)問題的有效手段,通過評審可以發(fā)現(xiàn)其他方法難以發(fā)現(xiàn)的錯誤評。評審貫穿了軟件研發(fā)的生命周期,包括軟件需求、設(shè)計、代碼、測試用例、配置項管理等過程。評審工具主要包括各階段的評審檢查單和生命周期數(shù)據(jù)等文檔,設(shè)計合理充分的審查文檔是保證評審質(zhì)量的關(guān)鍵。

    1.2 分析

    軟件分析可用于檢查軟件部件的功能、性能、安全性等,是可重復(fù)、可自動化的。軟件分析的對象不僅僅是程序,還包括文檔等其他形態(tài)的軟件制品,如追蹤性分析、源代碼與目標(biāo)代碼的對應(yīng)分析等。程序分析與形式化方法聯(lián)系緊密,因此本文將其放在形式方法部分中歸納。

    追蹤性分析即在系統(tǒng)需求、高層需求、底層需求、代碼、測試用例之間建立追蹤關(guān)系,并對追蹤關(guān)系進(jìn)行分析。追蹤性分析是為了確保需求測試的完整性,是軟件驗證活動的一部分,追蹤關(guān)系和分析結(jié)果均需保存在驗證報告中。軟件需求階段建立系統(tǒng)需求和軟件高層需求間的鏈接,軟件設(shè)計階段建立高層需求和底層需求間的鏈接,軟件編碼階段建立底層需求和代碼間的鏈接,集成過程建立測試和需求、設(shè)計間的鏈接。工業(yè)界常使用IBM Engineering Requirements Management DOORS等需求管理工具,手動創(chuàng)建和維護(hù)追蹤關(guān)系。該方法耗時長、成本高、維護(hù)較為困難。此外機(jī)載軟件規(guī)模大、復(fù)雜度高,人工的追蹤性分析不可避免地會存在問題。學(xué)術(shù)界對可追蹤性的研究主要集中在追蹤建立方法的研究上,并且大多數(shù)研究是在理論層面,基于相關(guān)理論的需求追蹤工具的設(shè)計與實現(xiàn)是追蹤性研究未來的主要工作之一[6]。

    DO-178C(A7-9)指出機(jī)載軟件需要進(jìn)行源代碼到目標(biāo)代碼的追溯分析,以確保源代碼與目標(biāo)代碼的對應(yīng)關(guān)系,保證編譯器不會引入錯誤。源代碼和目標(biāo)代碼對應(yīng)分析最直接的方式是將源代碼與目標(biāo)碼逐步對比分析,檢測編譯過程是否引入錯誤。但是該方法受軟件研制過程影響大、分析成本高、工作量大。針對這種情況,上海愛韋訊提出了基于MISRA-2004的SCK-178語言安全子集,對安全子集內(nèi)符合編碼標(biāo)準(zhǔn)的參考代碼進(jìn)行了源代碼與目標(biāo)碼的追溯分析,確保子集內(nèi)的編碼標(biāo)準(zhǔn)在編譯環(huán)境不變的情況下不會引入錯誤。但是SCK-178安全子集尚無應(yīng)用實例,其有效性存疑。

    1.3 測試

    DO-178C基于需求提出了三種測試方法:低層需求測試、軟件集成測試、軟件/硬件集成測試。低層需求測試主要測試軟件是否滿足底層需求。軟件集成測試主要測試軟件組件間的內(nèi)部關(guān)系和軟件體系結(jié)構(gòu)。軟件/硬件集成測試檢查運行在目標(biāo)機(jī)硬件上的軟件是否滿足需求,并排查目標(biāo)硬件環(huán)境下可能出現(xiàn)的問題。DO-178C中的三種測試方法并不是自底向上、層層遞進(jìn)的關(guān)系,而是并列可選的關(guān)系即根據(jù)需求選擇某種方法進(jìn)行某項功能的測試。當(dāng)系統(tǒng)需求比較簡單,軟件/硬件集成測試或者軟件集成測試已經(jīng)覆蓋高層測試需求時,就沒必要進(jìn)行低層需求測試。

    DO-178C還對測試的覆蓋性也提出了要求,包括需求覆蓋、軟件結(jié)構(gòu)覆蓋。需求覆蓋包括了高級測試需求和低級測試需求,軟件結(jié)構(gòu)覆蓋包括了語句覆蓋、判斷覆蓋、MC/DC覆蓋、數(shù)據(jù)耦合和控制耦合,測試流程如圖3所示。

    圖3 測試流程圖

    1.3.1 需求覆蓋

    需求覆蓋最重要的部分是根據(jù)需求編寫的測試用例。測試用例自動生成、測試用例復(fù)用、測試用例優(yōu)化策略等技術(shù)一直在發(fā)展。文獻(xiàn)[7]基于馬爾可夫鏈定義系統(tǒng)模型并根據(jù)系統(tǒng)間狀態(tài)轉(zhuǎn)換的概率生成測試用例,系統(tǒng)間狀態(tài)轉(zhuǎn)換的概率會根據(jù)導(dǎo)致內(nèi)存泄露的測試路徑而迭代更新;文獻(xiàn)[8]提出基于線性融合的用戶協(xié)同過濾算法,有效地提高了測試用例推薦的精度,但是存在成本過高、泛化性等問題;文獻(xiàn)[9]提出基于測試用例錯誤傳播概率的測試用例優(yōu)先級度量,根據(jù)該度量選擇出的測試用例與Bug發(fā)現(xiàn)能力存在高相關(guān)性。但是根據(jù)軟件需求人工編寫測試用例仍是主要手段,相關(guān)技術(shù)與工具僅僅作為輔助。

    1.3.2 結(jié)構(gòu)覆蓋

    結(jié)構(gòu)覆蓋中的語句覆蓋、判斷覆蓋、MC/DC覆蓋是軟件測試中自動化程度較高的部分,是軟件測試工具主要的功能之一。本文結(jié)合DO-178C結(jié)構(gòu)覆蓋要求,選擇了市場上主流且具有實際項目支撐的測試工具,包括了Testbed、Cantata等,并對其進(jìn)行對比分析,如表1所示。

    表1 測試覆蓋工具

    LDRA(Liverpool Data Research Associates)公司推出以Testbed為核心的測試套件,適用于軟件開發(fā)、測試和維護(hù)等各個階段。目前,國內(nèi)各大航天航空企業(yè)、相關(guān)研究機(jī)構(gòu)均已引進(jìn)LDRA Testbed測試套件,作為主要的測試工具。北京航天自動控制研究所通過測試實例闡述Testbed在航空航天機(jī)載軟件測試中的應(yīng)用方案[10];中航工業(yè)第一飛機(jī)設(shè)計研究院基于Testbed實現(xiàn)了機(jī)載航電系統(tǒng)綜合數(shù)據(jù)記錄系統(tǒng)的單元測試[11]。LDRA Testbed是第一個被用來證明空地系統(tǒng)符合DO-178B的工具,在機(jī)載軟件測試領(lǐng)域擁有深厚的經(jīng)驗,且已占據(jù)我國機(jī)載軟件測試工具主流市場,實際應(yīng)用項目較多,工具可信度高。LDRA還可提供資質(zhì)支持包來幫助客戶通過DO-178B/C的認(rèn)證。

    Cantata[12]是QA SYSTEM公司研發(fā)的CC++代碼的單元與集成測試工具,除了常規(guī)的代碼覆蓋率分析等功能外,還有健壯性測試、測試驅(qū)動開發(fā)等其他工具很少采用的測試方法和覆蓋的功能。文獻(xiàn)[13]以DO-178C為依據(jù),通過規(guī)格化的用例設(shè)計方法生成測試用例,借助Cantata批量自動執(zhí)行,發(fā)現(xiàn)的缺陷由13個增長至97個。

    除此之外,還有Parasoft C/C++test[14]、VectorCAST[15]、Rapita Verification Suite[16]等測試工具,其綜合性較強(qiáng),其功能基本滿足了DO-178C結(jié)構(gòu)覆蓋的要求,還涵蓋了一些如時間性能分析、結(jié)構(gòu)化分析等功能。但這些工具實際支撐項目較少,可信度未知。

    1.3.3 耦合覆蓋

    耦合分析包括了數(shù)據(jù)耦合和控制耦合,DO-248C給出了數(shù)據(jù)耦合和控制耦合的示例[17],以便理解,如圖4所示。主函數(shù)調(diào)用了計算空速和空速顯示子程序,計算出的空速作為全局變量在兩個子程序間傳遞。主程序與子程序間存在控制耦合,子程序間存在數(shù)據(jù)耦合。耦合覆蓋是結(jié)構(gòu)覆蓋中特殊的一項。DO-178B中明確提出了耦合覆蓋的要求,DO-178C進(jìn)一步強(qiáng)調(diào)了耦合覆蓋的適航要求。但是適航標(biāo)準(zhǔn)中并沒有給出明確的覆蓋準(zhǔn)則,甚至沒有給出覆蓋準(zhǔn)則的指導(dǎo)思想。這使得耦合分析的開展比較困難,很難直接使用測試工具滿足覆蓋要求,需要綜合評審、分析和測試的方法,流程如圖5。

    圖4 數(shù)據(jù)耦合和控制耦合示例

    LDRA Testbed提供了控制流和數(shù)據(jù)流分析的功能,也可用于耦合分析。SA-Covalyzer[18]是針對耦合覆蓋分析研發(fā)的工具,自動識別部件間的耦合關(guān)系,推薦適用的覆蓋準(zhǔn)則,針對覆蓋點進(jìn)行低膨脹率的插樁,在測試過程中收集和統(tǒng)計覆蓋情況,對未覆蓋到的情形進(jìn)行輔助分析,并自動生成覆蓋分析報告。SA-Covalyzer是愛韋訊基于自身機(jī)載軟件驗證經(jīng)驗研制的工具,主觀性較大,尚未實例,其可信度與實用性存疑。

    圖5 耦合分析流程

    1.4 小結(jié)

    國外嵌入式軟件測試驗證工具的研發(fā)起步早,一方面通過內(nèi)部版本的迭代優(yōu)化軟件的功能,另一方面通過收購、合并其他公司和產(chǎn)品壯大自身,如開發(fā)CodeTest的AMC(Applied Microsystems Corporation)最后被并入恩智浦公司;研發(fā)Logicscope的Telelogic公司被IBM收購,其產(chǎn)品逐漸成熟,占據(jù)了主要市場甚至達(dá)到了壟斷的地步。機(jī)載軟件的測試驗證工具作為一種工業(yè)軟件,其研發(fā)在國內(nèi)起步較晚,與國外仍有較大差距,發(fā)展水平與中國航空工業(yè)的發(fā)展速度不匹配。很多測試驗證工具的實驗性開發(fā)只能小范圍落地使用甚至止步于實驗室,缺乏用戶的使用反饋數(shù)據(jù),不利于相關(guān)的經(jīng)驗積累和技術(shù)積淀,無法對軟件進(jìn)行更好的優(yōu)化,提高其綜合競爭力。國產(chǎn)機(jī)載軟件測試工具的發(fā)展落后存在多方面的原因。一是因為沒有明確的政策導(dǎo)向,缺乏扶持和資金支持;二是國外主流的測試工具基本壟斷了國內(nèi)市場,國產(chǎn)的軟件生存發(fā)展空間被壓縮;三是國內(nèi)工業(yè)軟件相應(yīng)的生態(tài)環(huán)境不成熟,用戶沒有使用國產(chǎn)機(jī)載測試工具的習(xí)慣。

    2 面向模型驅(qū)動的測試驗證工具

    2011年RTCA發(fā)布的DO-178C,正式將模型驅(qū)動的概念引入航空航天領(lǐng)域,并增補(bǔ)標(biāo)準(zhǔn)DO-331[19]對基于模型的機(jī)載軟件研發(fā)進(jìn)行規(guī)范和指導(dǎo)。DO-331基于DO-178C,僅對采用模型的開發(fā)和驗證的部分進(jìn)行增加和修改?;谀P偷尿炞C方式主要是測試,因此本章側(cè)重于基于模型的測試(Model-Based Testing,MBT)(圖6)及其相應(yīng)工具的研究。

    圖6 基于模型測試的流程

    隨著基于模型和以測試為中心的開發(fā)方法變得成熟,基于模型的測試也不斷在發(fā)展。文獻(xiàn)[20]梳理了近年來與MBT方法相關(guān)的文獻(xiàn),重點選取了78篇論文,詳細(xì)分析了MBT方法的應(yīng)用領(lǐng)域、特點和局限性等,比較的標(biāo)準(zhǔn)包括表示模型、支持工具、測試覆蓋準(zhǔn)則等。

    基于模型的測試是測試的一種變體,其依賴于明確的行為模型,該行為模型可以對被測系統(tǒng)的預(yù)期行為或者其環(huán)境進(jìn)行編碼[21]。MBT提供一種使用從軟件開發(fā)中提取的模型來自動生成測試用例的技術(shù),以降低成本控制軟件質(zhì)量。大部分現(xiàn)有的MBT工具主要支持測試用例自動生成,可用于功能測試、性能測試和安全性測試等。借鑒文獻(xiàn)[22]提出的分類方法,從建模方法的維度將MBT工具分為基于狀態(tài)的建模、基于遷移的建模、基于統(tǒng)計概率的建模、基于數(shù)據(jù)流的建模。

    2.1 基于狀態(tài)的建模

    基于狀態(tài)建模的方法使用一組變量構(gòu)建模型,該變量表示系統(tǒng)執(zhí)行到特定點處的狀態(tài),包括了前置條件和后置條件。前置條件定義了初始狀態(tài)集合,后置條件指定了最終可保證狀態(tài)的集合。每個操作都指定為前置或者后置關(guān)系。狀態(tài)建模的工具有Spec Explorer和基于Z語言的工具等。

    Spec Explorer是微軟研發(fā)的基于模型測試的工具,常使用Spec#或者C#作為描述系統(tǒng)模型的語言。Spec#在C#的基礎(chǔ)上引入方法前置和后置條件、框架條件,對象不變式等形式化機(jī)制,并拓展了異常安全性、非空類型等用于提高程序可靠性的特性[23]。Spec Explorer對一個軟件系統(tǒng)的期望行為進(jìn)行建模,然后通過模型自動生成測試用例。模型可以用C#進(jìn)行開發(fā),然后通過Cord語言腳本對模型進(jìn)行配置和裁剪,選擇測試中需要的場景,因此Spec Explorer能有效解決狀態(tài)爆炸的問題。文獻(xiàn)[24]使用Spec Explorer工具進(jìn)行測試,相較于手動測試,測試效率提高了42%。

    Z語言是基于一階謂詞邏輯和集合論的形式規(guī)格說明語言[25]。Z語言具有一種特殊的圖形方式(Scheme),主要由兩部分組成:一是聲明部分,定義各種變量的類型;另一個是謂詞表達(dá)式。謂詞表達(dá)式可以推理出所描述軟件的所有狀態(tài)行為。文獻(xiàn)[26]給出了基于Z規(guī)格說明的測試用例自動生成的方法和框架。文獻(xiàn)[27]研究了從Object-Z規(guī)格說明中產(chǎn)生測試用例的自動化過程,并在此基礎(chǔ)上設(shè)計實現(xiàn)了相應(yīng)的測試工具。Object-Z是在Z語言基礎(chǔ)上增加了面對對象的封裝和繼承的描述能力。

    2.2 基于遷移的建模

    基于遷移建模的方法假設(shè)系統(tǒng)在某個時刻總處于某個狀態(tài)并且當(dāng)前的狀態(tài)決定了系統(tǒng)可能的輸入,而且從該狀態(tài)遷移到其他狀態(tài)的遷移決定于當(dāng)前的輸入。遷移建模對應(yīng)的工具有TestMaster和基于統(tǒng)一建模語言(United Modeling Language,UML)的工具等。

    TestMaster[28]基于擴(kuò)展有限狀態(tài)機(jī)來建立系統(tǒng)模型,并基于識別可遷移的輸入序列來生成測試用例。每個生成的輸入序列代表被測系統(tǒng)的一個測試用例,并且該工具還可以根據(jù)用戶指定的路徑覆蓋方案生成測試用例。TestMaster使用基本圖遍歷算法的組合,如深度優(yōu)先搜索、寬度優(yōu)先搜索和最小生成樹等,來導(dǎo)出EFSM的路徑。

    想想佛羅倫薩、巴黎、倫敦、紐約。第一次去這些城市的人也不會覺得它們陌生,因為他已經(jīng)在繪畫、小說、歷史書和電影中去過這些地方了……格拉斯哥對我們多數(shù)人來說是什么?一所房子、工作的地方、足球或高爾夫球場、幾家酒吧和縱橫的街道。就這些。不,我錯了,還有電影院和圖書館?!窭垢缭谌藗兊挠∠笾兄皇且魳窂d里的一首歌和幾本糟糕的小說。(Gray 2002:243;以下此書引用僅標(biāo)注頁碼)格拉斯哥已經(jīng)一無是處,等待它的只能是“死亡”。

    基于UML的軟件測試已經(jīng)取得一定成果,包括基于UML各種圖元的軟件測試研究[29-31]、基于UML的軟件可靠性測試與評估[32-33]等。文獻(xiàn)[34]研制了基于UML的軟件測試的工具Cow-Suite,該工具首先根據(jù)UIT(Use Interaction Testing)方法生成測試用例,再從生成的測試用例中選擇合適的用例執(zhí)行;文獻(xiàn)[35]開發(fā)的驗證性測試用例工具UMLTest,實現(xiàn)了對Rational Rose模型文件的解析,生成狀態(tài)圖并根據(jù)相應(yīng)的測試準(zhǔn)則產(chǎn)生測試用例;文獻(xiàn)[36-37]定義了加入統(tǒng)計測試約束的UML用例圖、序列圖以及用例執(zhí)行順序關(guān)系的形式化描述,并在其基礎(chǔ)上給出從UML模型構(gòu)造馬爾可夫鏈模型的算法,還設(shè)計實現(xiàn)了相關(guān)工具。

    UML具有很好的面向?qū)ο笮院拓S富的建模表達(dá)能力,但是UML在非功能屬性的表達(dá)上比較欠缺?;赨ML的測試相關(guān)研究已經(jīng)比較成熟,但是大多數(shù)集中于理論方面,對其相關(guān)工具的研發(fā)大幅度滯后,導(dǎo)致其使用門檻也居高不下,無法規(guī)?;赝茝V使用。

    2.3 基于統(tǒng)計概率的建模

    基于統(tǒng)計概率的建模對應(yīng)的工具有MaTeLo Testing Tool(MTT),該工具使用馬爾可夫鏈建模。馬爾可夫鏈?zhǔn)且环N以統(tǒng)計理論為基礎(chǔ)的統(tǒng)計模型,其本質(zhì)是一種具有概率特征的有限狀態(tài)機(jī),不僅可以根據(jù)狀態(tài)間遷移概率自動產(chǎn)生測試用例,還可以分析測試結(jié)果,對軟件性能指標(biāo)和可靠性指標(biāo)等進(jìn)行度量。文獻(xiàn)[38]利用缺陷關(guān)聯(lián)信息擴(kuò)展受控Markov鏈模型,以缺陷的三種屬性作為決策選取權(quán)值,將測試過程看做帶權(quán)最優(yōu)路徑求解問題,優(yōu)化測試策略。

    MTT是在MaTeLo[39](Markov Test Logic)項目中開發(fā)的工具。該工具使用馬爾可夫鏈建模,從被測軟件的預(yù)期使用中生成測試用例。MTT關(guān)注的不是需求覆蓋,而是覆蓋被測軟件的所有使用路徑,以便檢測使用中可能出現(xiàn)的關(guān)鍵故障。

    2.4 基于數(shù)據(jù)流的建模

    在基于模型的設(shè)計使用中,數(shù)據(jù)流模型是嵌入式系統(tǒng)中軟件開發(fā)與測試中常用的模型?;跀?shù)據(jù)流模型的模型有Simulink Verification and Validation(SVAV)[40]和GAtel[41]。

    SVAV提供包括IEC 61508等在內(nèi)的行業(yè)規(guī)范的檢查,還可以創(chuàng)建自定義檢查標(biāo)準(zhǔn)。SVAV還可用于模型和代碼覆蓋率分析,以衡量模型和生成的代碼的測試完整度。GAtel主要目的是根據(jù)以Luster語言編寫的規(guī)范自動生成測試用例,Lustre是應(yīng)用于關(guān)鍵應(yīng)用程序的同步語言,具有語義形式化和模塊化的特點。

    2.5 小結(jié)

    在對MBT的認(rèn)知上,學(xué)術(shù)界與業(yè)界脫節(jié)較為嚴(yán)重。學(xué)術(shù)界對MBT研究比較廣且深入,認(rèn)為MBT已經(jīng)成熟到可以較大規(guī)模應(yīng)用,也開發(fā)了不少的原型工具投入使用,但是工業(yè)界不少測試從業(yè)者不了解MBT,MBT的商業(yè)化工具也僅有少量的研發(fā),MBT在業(yè)界的應(yīng)用仍處于起步狀態(tài)。一是因為測試模型的選擇、構(gòu)建大多還是以經(jīng)驗為基礎(chǔ),且要求使用者具備建模語言、形式化方法等相關(guān)知識,知識儲備要求高,建模自動化程度低,工具開發(fā)難度大,使用門檻高;二是MBT不支持安全性、可靠性以及性能等方面的測試,功能比較單一;三是MBT通常不能與軟件開發(fā)環(huán)境集成,還缺少版本控制、模型試調(diào)等上下游工具鏈的支持。上述都是MBT科研成果向工業(yè)化、商業(yè)化產(chǎn)品轉(zhuǎn)化過程中亟待克服的難題。

    3 面向形式化方法的測試驗證工具

    形式化方法是一種建立在嚴(yán)格數(shù)學(xué)基礎(chǔ)上的用于設(shè)計、規(guī)范和驗證的方法,廣泛地應(yīng)用在軟硬件、通信協(xié)議、嵌入式控制系統(tǒng)等方面[42]。DO-178C及其增補(bǔ)的DO-333首次正式將形式化方法引入到航空機(jī)載軟件開發(fā)領(lǐng)域并確定了其有效性。文獻(xiàn)[43]采用形式化方法對機(jī)載安全等級依賴的合法性進(jìn)行了分析,文獻(xiàn)[44]面向適航標(biāo)準(zhǔn)采用形式化方法對機(jī)載襟縫翼控制單元進(jìn)行安全性分析。

    形式化方法是由形式化語言、形式化規(guī)約、形式化驗證等形成的整體[45],其中形式驗證的方法主要有模型檢測、定理證明等。

    3.1 模型檢測

    模型檢測的基本思想是將一個過程或者系統(tǒng)抽象成有窮的狀態(tài)模型,加以分析驗證[46]。模型檢測的自動化驗證依賴于有效的軟件工具的支持,本文選取了部分典型的模型檢測工具SPIN[47]、UPPAAL[48]、CMBC[49]進(jìn)行了對比,如表2所示。美國噴氣推進(jìn)實驗室設(shè)計了SPIN模型檢查器,對火星探測器的控制系統(tǒng)進(jìn)行了驗證[50];文獻(xiàn)[51]使用UPPAAL的衍生品UPPAAL-TRON對實時嵌入式系統(tǒng)進(jìn)行黑盒一致性測試;文獻(xiàn)[52]使用CBMC工具自動化驗證程序覆蓋率并應(yīng)用在鐵路系統(tǒng)中。除此之外還有很多模型檢測工具被廣泛地應(yīng)用在軟硬件的驗證上,如SMV[53]、SLAM[54]等。

    表2 模型檢測工具

    模型檢測因為自動化程度相對較高,被廣泛地應(yīng)用在航空航天、軌道交通等領(lǐng)域。但是當(dāng)模型檢測在驗證一些狀態(tài)比較復(fù)雜的系統(tǒng)時,會出現(xiàn)空間爆炸的問題。目前,模型檢測的主要研究方向就是如何減輕空間爆炸帶來的影響。

    3.2 定理證明

    定理證明的基本思想是選定某個公理化系統(tǒng),將驗證的代碼進(jìn)行形式化描述為該系統(tǒng)的邏輯表述,利用公理與推理規(guī)則構(gòu)造對程序的證明。本文選取了ACL2[55]和PVS[56]兩個定理證明器進(jìn)行了對比研究,如表3所示。

    表3 定理證明工具

    ACL2已被用來驗證各種系統(tǒng),如Sum公司的JAVA虛擬機(jī)系統(tǒng),浮點單元、全真模擬系統(tǒng)等[57];PVS被用于證明AAMP5處理器的正確性,該處理器被航空公司用于飛行控制[58]。定理證明工具還有Isabelle[59]、COQ[60]等。

    定理證明可以有效地避免空間爆炸問題,但是因其自動化程度較低,對使用者的邏輯及數(shù)學(xué)知識儲備要求較高,限制了定理證明在工業(yè)界的應(yīng)用。目前,定理證明的研究方向主要是提高定理證明的自動化程度和自動化效率。

    形式化驗證還有抽象解釋[61]、約束求解[62]、符號執(zhí)行[63]等。

    3.3 程序分析

    軟件分析是對軟件進(jìn)行自動化分析,以驗證、確認(rèn)或發(fā)現(xiàn)軟件的某種性質(zhì)、規(guī)約或者約束[64]。軟件分析的對象不僅僅包括代碼,還包括文檔等其他形態(tài)的軟件制品,本節(jié)軟件分析所涉及的對象主要是程序。程序分析需要給出正確的程序不變性,而形式化驗證只需要檢查給定的程序不變性是否正確[65]。兩者有嚴(yán)格的定義,但是在實際場景中混用比較多,文獻(xiàn)[66]便將部分形式化驗證方法作為程序分析的理論基礎(chǔ),如圖7所示。

    圖7 主要程序分析技術(shù)

    程序分析可分為靜態(tài)分析技術(shù)和動態(tài)分析技術(shù),而靜態(tài)分析又包括基本分析技術(shù)、基于形式化的分析技術(shù)和其他分析技術(shù)[67]。

    基本分析技術(shù)包括語法分析、類型分析、數(shù)據(jù)流分析、控制流分析等?;痉治黾夹g(shù)發(fā)展比較成熟,應(yīng)用也比較廣泛。基于詞法分析的ITS4、Rats,基于語義分析的PC-lint[68],基于規(guī)則檢查的Helix QACC++、Metal[69],基于數(shù)據(jù)流分析的CppCheck、騰訊Tscancode,基于控制流分析和結(jié)構(gòu)分析的Klocwork,基于規(guī)則檢查和語義分析的北京關(guān)鍵科技EagleEye、Splint[70],基于數(shù)據(jù)流分析和字節(jié)流分析的findbugs,基于數(shù)據(jù)流、控制流分析和代碼結(jié)構(gòu)分析的Fortify SCA等。

    融合多技術(shù)進(jìn)行代碼驗證是近年來的發(fā)展趨勢之一,其中CPAchecker[71]是影響最為廣泛的工具,該工具將模型檢測與抽象解釋進(jìn)行結(jié)合。主流的軟件安全分析與檢測工具,如PolySpace、Coverity Prevent、CodeSonar等,基本都是多技術(shù)融合的產(chǎn)物。

    具有獨立自主知識產(chǎn)權(quán)的國產(chǎn)商業(yè)安全分析與缺陷檢測工具的發(fā)展逐漸成熟,填補(bǔ)了我國缺陷檢測、安全漏洞檢測工具上的空白。CoBOT是北京大學(xué)軟件工程中心研發(fā)團(tuán)隊打造的國內(nèi)首款具有獨立自主產(chǎn)權(quán)的代碼安全類檢測工具,打破了國外產(chǎn)品在軟件缺陷檢測和安全漏洞分析領(lǐng)域的壟斷。SpecCheck是北京軒宇開發(fā)的缺陷檢測工具,支持安全編碼標(biāo)準(zhǔn)符合性檢查、運行時缺陷檢測和代碼質(zhì)量度量等。源傘科技的Pinpoint[72-73]是由香港科技大學(xué)孵化的一款商業(yè)化程度較高的靜態(tài)缺陷分析工具,其服務(wù)對象覆蓋了互聯(lián)網(wǎng)、航天軍工、通訊等行業(yè)。本文對上述軟件安全分析與缺陷檢測工具進(jìn)行簡要介紹與對比,如表4所示。

    表4 安全分析與缺陷檢測工具

    3.4 小結(jié)

    機(jī)載軟件安全關(guān)鍵的特性要求從設(shè)計、需求到軟件開發(fā)的每個階段都要為機(jī)載軟件的安全性與可靠性提供保證,測試與驗證是其中的重要方法。當(dāng)前測試仍是保證軟件可靠性的主要且有效的手段,但是隨著可靠性的增長,通過測試發(fā)現(xiàn)下一個bug的時間越來越長即可靠性增長相對于測試時間和代價是數(shù)量級。而在公理系統(tǒng)、驗證工具正確的前提下,形式化方法能夠嚴(yán)格保證軟件符合其形式化規(guī)約。如果其形式化規(guī)約足夠全面,則代碼具有很高的可靠性。實際上,測試與驗證往往是交錯進(jìn)行的。形式化方法對于提高軟件質(zhì)量的作用已經(jīng)形成了共識,但是形式化方法的發(fā)展與應(yīng)用同樣存在困難。一是缺乏明確的規(guī)約或規(guī)格說明。大部分需求是非形式化描述的,并且分布在代碼的各處。二是驗證的粗粒度問題。粗粒度的驗證會導(dǎo)致代碼中仍存在bug,可靠性不高,細(xì)粒度的驗證工作量大、成本高,并且非形式化的規(guī)約不好細(xì)化。

    4 總結(jié)

    本文按照適航標(biāo)準(zhǔn)系列文檔,從DO-178C、基于模型的開發(fā)與驗證、形式化方法的角度對工具的功能、特性及應(yīng)用進(jìn)行了詳細(xì)介紹并對其發(fā)展現(xiàn)狀進(jìn)行小結(jié)。在對機(jī)載軟件的測試與驗證工具研究過程中,發(fā)現(xiàn)了以下問題并給出相應(yīng)的建議。

    (1)國產(chǎn)軟件測試工具的競爭力弱,軟件生命周期各個階段的配套測試工具比較匱乏。具有獨立知識產(chǎn)權(quán)且競爭力較強(qiáng)的測試工具,基本上是技術(shù)含量較低的缺陷管理工具、測試管理工具。國產(chǎn)自主化的功能性、安全性等方面的測試工具研發(fā)還處于起步狀態(tài),大部分市場份額被一些國外主流工具占據(jù)。縮小我國在工具研發(fā)等方面與國外之間差距,關(guān)鍵是加快建設(shè)國內(nèi)科研-工業(yè)-商業(yè)的轉(zhuǎn)化體系,在得到大量使用反饋之后優(yōu)化測試驗證工具,進(jìn)一步提高國產(chǎn)測試驗證工具的競爭力。

    (2)大多數(shù)適用于機(jī)載軟件測試的工具均支持國際民用航空適航標(biāo)準(zhǔn)DO-178B/C的驗證,但是很少支持國內(nèi)的標(biāo)準(zhǔn),如GJB 2786A—2009(軍用軟件開發(fā)通用要求)、SJ 21141.1—2016(軍用軟件C/C++編程要求)、中國民航總局(CCAC)的CCAR 25.1309(民航設(shè)備、系統(tǒng)、安裝方面的安全性要求)等。隨著我國航空工業(yè)的發(fā)展,軍用機(jī)載軟件適航要求的提出和民用航空行業(yè)的開放,探索國際適航標(biāo)準(zhǔn)與我國軍用、民用機(jī)載軟件標(biāo)準(zhǔn)體系融合的方法、研發(fā)支持國際適航標(biāo)準(zhǔn)和國內(nèi)標(biāo)準(zhǔn)的測試工具勢在必行。

    在對機(jī)載軟件的測試驗證工具研究過程中,還總結(jié)了一些關(guān)于機(jī)載軟件測試驗證及其工具研發(fā)的發(fā)展趨勢。

    (1)測試工具的集成化與一體化。單一化功能的測試工具以插件的形式集成到大型的測試工具中,一些市場上主流的測試工具被收購后集成到開發(fā)測試驗證一體化的工具中,還有諸如DevOps、云測試等集成概念的提出以及實踐,都反映了工具集一體化的趨勢。不僅僅是測試工具,基本上所有的軟件工具的研發(fā)都呈現(xiàn)集成化、一體化的趨勢。

    (2)人工智能與軟件測試的融合發(fā)展更加緊密,智能化測試技術(shù)快速發(fā)展。基于深度神經(jīng)網(wǎng)絡(luò)的測試用例生成、軟件缺陷預(yù)測與修復(fù)和基于知識圖譜的測試用例推薦等都是智能化測試研究的熱點。而人機(jī)交互智能的進(jìn)一步發(fā)展,可能幫助計算機(jī)提高認(rèn)知,實現(xiàn)從感知向認(rèn)知演化,實現(xiàn)真正意義上的智能化自動測試。

    (3)對適航標(biāo)準(zhǔn)中新增的形式方法和模型驅(qū)動技術(shù)的進(jìn)一步研究。一方面,形式化方法與模型驅(qū)動工程的自動化研究及工具研發(fā),能降低其使用門檻,提高易用性和擴(kuò)展性,能夠更好應(yīng)用于保障機(jī)載軟件的安全性與可靠性分析中;另一方面,人工智能技術(shù)與形式化方法交叉研究也是重要的課題,如基于神經(jīng)網(wǎng)絡(luò)的分析與驗證、大數(shù)據(jù)程序的錯誤分析等。

    (4)隨著工具在機(jī)載軟件研發(fā)過程中更加廣泛的使用,為保障機(jī)載軟件的安全性,針對工具的鑒定也會更加細(xì)化和嚴(yán)格。DO-178B僅將工具進(jìn)行簡單劃分,并沒有對工具鑒定有特定的要求。而DO-178C中不僅修訂了工具類的劃分,還給出了嚴(yán)格的審定認(rèn)證條件,使得工具的鑒定更加客觀。機(jī)載軟件的不斷演化和測試驗證的實踐中的反饋,使得工具鑒定的審定條件也不斷在調(diào)整、更新。

    猜你喜歡
    分析方法模型
    一半模型
    隱蔽失效適航要求符合性驗證分析
    重要模型『一線三等角』
    重尾非線性自回歸模型自加權(quán)M-估計的漸近分布
    電力系統(tǒng)不平衡分析
    電子制作(2018年18期)2018-11-14 01:48:24
    電力系統(tǒng)及其自動化發(fā)展趨勢分析
    可能是方法不對
    3D打印中的模型分割與打包
    用對方法才能瘦
    Coco薇(2016年2期)2016-03-22 02:42:52
    四大方法 教你不再“坐以待病”!
    Coco薇(2015年1期)2015-08-13 02:47:34
    91精品国产九色| 高清av免费在线| 又大又黄又爽视频免费| 国产 一区精品| 欧美亚洲 丝袜 人妻 在线| a级毛片在线看网站| a级毛片在线看网站| 免费人妻精品一区二区三区视频| 久久久午夜欧美精品| 日韩一本色道免费dvd| 我的老师免费观看完整版| 亚洲精品亚洲一区二区| 日韩av在线免费看完整版不卡| 美女大奶头黄色视频| a级毛片在线看网站| 国产精品国产三级专区第一集| 欧美精品一区二区免费开放| 日本色播在线视频| 少妇被粗大猛烈的视频| 免费播放大片免费观看视频在线观看| 男人操女人黄网站| 国产伦精品一区二区三区视频9| 视频区图区小说| 国产成人91sexporn| 最近最新中文字幕免费大全7| 国产一区亚洲一区在线观看| 黑人猛操日本美女一级片| 欧美性感艳星| 欧美日韩视频高清一区二区三区二| 久久精品久久精品一区二区三区| 亚洲婷婷狠狠爱综合网| 欧美日韩av久久| 亚洲国产欧美日韩在线播放| 中文字幕免费在线视频6| 日日啪夜夜爽| 亚洲丝袜综合中文字幕| 亚洲欧美成人精品一区二区| 91精品三级在线观看| 国产精品一区二区三区四区免费观看| 人人妻人人澡人人爽人人夜夜| 欧美日韩综合久久久久久| 亚洲人成77777在线视频| 天天操日日干夜夜撸| freevideosex欧美| 亚洲色图 男人天堂 中文字幕 | 久久精品久久久久久久性| 妹子高潮喷水视频| 如何舔出高潮| 久久久a久久爽久久v久久| 免费看不卡的av| 国产一区二区三区综合在线观看 | 人人妻人人澡人人爽人人夜夜| 亚洲欧美一区二区三区黑人 | 99热6这里只有精品| 如何舔出高潮| 一级爰片在线观看| 久久毛片免费看一区二区三区| 熟女av电影| 国产免费现黄频在线看| 国产成人精品在线电影| 你懂的网址亚洲精品在线观看| 99视频精品全部免费 在线| 两个人的视频大全免费| 最新的欧美精品一区二区| 成人黄色视频免费在线看| 一级毛片 在线播放| 国产高清国产精品国产三级| 在线观看免费高清a一片| 午夜福利影视在线免费观看| 国产黄色视频一区二区在线观看| 欧美xxxx性猛交bbbb| 亚洲高清免费不卡视频| av不卡在线播放| a级片在线免费高清观看视频| a级片在线免费高清观看视频| 国产精品一区二区三区四区免费观看| 伊人亚洲综合成人网| 午夜日本视频在线| 视频区图区小说| 精品久久蜜臀av无| 久久韩国三级中文字幕| 九色亚洲精品在线播放| 中文字幕制服av| 午夜免费观看性视频| 欧美+日韩+精品| 免费高清在线观看日韩| 一级,二级,三级黄色视频| 男人操女人黄网站| 午夜激情久久久久久久| 精品少妇久久久久久888优播| 久久国内精品自在自线图片| 国产乱来视频区| 97在线人人人人妻| 国产精品国产av在线观看| 黄色配什么色好看| 国产成人精品久久久久久| 亚洲精品自拍成人| 桃花免费在线播放| 成人影院久久| videossex国产| 人妻少妇偷人精品九色| 超碰97精品在线观看| 老女人水多毛片| 久久久欧美国产精品| 精品人妻熟女毛片av久久网站| 高清午夜精品一区二区三区| 街头女战士在线观看网站| 99热网站在线观看| 国国产精品蜜臀av免费| 久久精品久久精品一区二区三区| 国产片特级美女逼逼视频| 91精品国产九色| 国产高清三级在线| 精品人妻熟女毛片av久久网站| 日本-黄色视频高清免费观看| 国产精品国产三级专区第一集| 26uuu在线亚洲综合色| 日韩三级伦理在线观看| 综合色丁香网| 我要看黄色一级片免费的| 韩国高清视频一区二区三区| 国产日韩欧美在线精品| 精品少妇黑人巨大在线播放| 午夜福利在线观看免费完整高清在| 男女边摸边吃奶| www.色视频.com| a级毛片免费高清观看在线播放| 日日爽夜夜爽网站| 成年人午夜在线观看视频| 嘟嘟电影网在线观看| 99久久精品一区二区三区| videosex国产| 日韩人妻高清精品专区| 国产国语露脸激情在线看| 男女高潮啪啪啪动态图| 国内精品宾馆在线| 超碰97精品在线观看| 午夜福利视频在线观看免费| 亚洲,欧美,日韩| 天天躁夜夜躁狠狠久久av| 精品午夜福利在线看| 男男h啪啪无遮挡| 999精品在线视频| 久久婷婷青草| 日本-黄色视频高清免费观看| 最新中文字幕久久久久| 成人影院久久| 国产老妇伦熟女老妇高清| 高清在线视频一区二区三区| 亚洲,欧美,日韩| 久久99蜜桃精品久久| 国产精品人妻久久久影院| 精品少妇内射三级| 亚洲人与动物交配视频| 日韩电影二区| 亚洲成人av在线免费| 69精品国产乱码久久久| 99九九线精品视频在线观看视频| 2021少妇久久久久久久久久久| 18禁动态无遮挡网站| 亚洲,欧美,日韩| 母亲3免费完整高清在线观看 | 秋霞在线观看毛片| 在线观看一区二区三区激情| 成人免费观看视频高清| 18在线观看网站| 九色成人免费人妻av| 欧美 亚洲 国产 日韩一| av黄色大香蕉| 性高湖久久久久久久久免费观看| av免费观看日本| 男女国产视频网站| 少妇熟女欧美另类| 美女中出高潮动态图| 九草在线视频观看| 日本色播在线视频| 搡老乐熟女国产| 黄色视频在线播放观看不卡| 日本91视频免费播放| 夫妻性生交免费视频一级片| 亚洲天堂av无毛| 成人18禁高潮啪啪吃奶动态图 | 久久婷婷青草| 在线看a的网站| av网站免费在线观看视频| 国产欧美日韩综合在线一区二区| 精品一区二区免费观看| 亚洲国产精品一区三区| 午夜福利在线观看免费完整高清在| 又大又黄又爽视频免费| 视频中文字幕在线观看| 亚洲精品第二区| 国产淫语在线视频| 免费观看av网站的网址| 国产伦精品一区二区三区视频9| 大片免费播放器 马上看| 亚洲国产欧美日韩在线播放| 国产午夜精品一二区理论片| 精品国产露脸久久av麻豆| 最新中文字幕久久久久| 观看美女的网站| 99热6这里只有精品| 国产午夜精品一二区理论片| 亚洲精品aⅴ在线观看| 国产男人的电影天堂91| 亚洲欧美清纯卡通| 亚洲av在线观看美女高潮| 亚洲精品美女久久av网站| 欧美精品一区二区免费开放| 久久ye,这里只有精品| 狂野欧美激情性bbbbbb| 欧美97在线视频| 国产av精品麻豆| 亚洲av男天堂| 国模一区二区三区四区视频| 老熟女久久久| 人体艺术视频欧美日本| 少妇丰满av| 欧美日韩视频高清一区二区三区二| 国产精品国产三级国产专区5o| 考比视频在线观看| 午夜福利网站1000一区二区三区| 亚州av有码| 美女内射精品一级片tv| 国产深夜福利视频在线观看| 国产精品.久久久| av福利片在线| 91久久精品国产一区二区成人| 欧美3d第一页| 国产欧美亚洲国产| 婷婷色综合大香蕉| 视频中文字幕在线观看| 婷婷成人精品国产| 国产在线视频一区二区| 国产一区二区三区av在线| 久久99热这里只频精品6学生| a级毛色黄片| 日韩成人伦理影院| 汤姆久久久久久久影院中文字幕| 精品久久蜜臀av无| a级毛片黄视频| 久久狼人影院| 大话2 男鬼变身卡| 亚洲国产欧美在线一区| 一本久久精品| 极品少妇高潮喷水抽搐| 99视频精品全部免费 在线| 亚洲国产精品专区欧美| 在线观看免费高清a一片| 欧美日韩亚洲高清精品| 日韩熟女老妇一区二区性免费视频| 日本av免费视频播放| 国精品久久久久久国模美| 九九爱精品视频在线观看| videosex国产| 亚洲国产av新网站| 人妻人人澡人人爽人人| 又黄又爽又刺激的免费视频.| 交换朋友夫妻互换小说| 午夜久久久在线观看| 欧美日韩av久久| 日韩在线高清观看一区二区三区| 国产极品天堂在线| 色哟哟·www| 99热6这里只有精品| 午夜福利,免费看| 制服诱惑二区| 国产精品久久久久久av不卡| 亚洲精品乱码久久久v下载方式| 人体艺术视频欧美日本| 午夜激情久久久久久久| 久久精品夜色国产| 尾随美女入室| 亚洲美女黄色视频免费看| 久久 成人 亚洲| 国产在线一区二区三区精| 国产av精品麻豆| 久久人人爽人人爽人人片va| 精品人妻熟女av久视频| av视频免费观看在线观看| 街头女战士在线观看网站| 日韩成人av中文字幕在线观看| 丰满饥渴人妻一区二区三| 国产在线视频一区二区| 99热网站在线观看| 夜夜骑夜夜射夜夜干| 国产一区有黄有色的免费视频| 免费观看av网站的网址| 五月玫瑰六月丁香| 美女国产高潮福利片在线看| 日韩欧美一区视频在线观看| 18在线观看网站| 亚洲色图综合在线观看| 高清毛片免费看| 日本免费在线观看一区| 亚洲美女视频黄频| 一本久久精品| 成人午夜精彩视频在线观看| av在线观看视频网站免费| 日本爱情动作片www.在线观看| 亚洲国产欧美日韩在线播放| 国产高清不卡午夜福利| 大片电影免费在线观看免费| 自拍欧美九色日韩亚洲蝌蚪91| 国内精品宾馆在线| 考比视频在线观看| 哪个播放器可以免费观看大片| 丰满少妇做爰视频| 国产色婷婷99| 91午夜精品亚洲一区二区三区| 观看美女的网站| 内地一区二区视频在线| 欧美xxⅹ黑人| 在线观看国产h片| 国产爽快片一区二区三区| 欧美日韩视频精品一区| 激情五月婷婷亚洲| 啦啦啦啦在线视频资源| 九九在线视频观看精品| 欧美少妇被猛烈插入视频| 性色av一级| 插逼视频在线观看| 丰满乱子伦码专区| 妹子高潮喷水视频| videosex国产| 大片电影免费在线观看免费| 亚洲欧美日韩另类电影网站| 日日摸夜夜添夜夜添av毛片| 一区二区av电影网| 高清欧美精品videossex| 亚洲人成网站在线观看播放| 看非洲黑人一级黄片| 亚洲av免费高清在线观看| 久久av网站| 日韩中字成人| 一本一本综合久久| 亚洲精品美女久久av网站| 精品一区二区免费观看| 国产精品99久久99久久久不卡 | 久久99一区二区三区| 国精品久久久久久国模美| 日本91视频免费播放| 18在线观看网站| 91久久精品国产一区二区成人| 久久狼人影院| 婷婷色综合大香蕉| 亚洲四区av| 人妻一区二区av| 日韩制服骚丝袜av| 日韩一区二区三区影片| 五月开心婷婷网| 欧美另类一区| 国产欧美日韩一区二区三区在线 | 国产亚洲精品久久久com| 80岁老熟妇乱子伦牲交| 3wmmmm亚洲av在线观看| 男人爽女人下面视频在线观看| 人妻一区二区av| 中文精品一卡2卡3卡4更新| 午夜精品国产一区二区电影| 亚洲精品aⅴ在线观看| 在线观看免费高清a一片| 在线观看免费视频网站a站| 制服诱惑二区| 免费日韩欧美在线观看| 日本黄色日本黄色录像| 我的女老师完整版在线观看| 三级国产精品片| 精品国产露脸久久av麻豆| 亚洲av福利一区| 久热久热在线精品观看| 免费观看在线日韩| 国产成人av激情在线播放 | 永久网站在线| 人人澡人人妻人| videos熟女内射| 只有这里有精品99| 国产精品久久久久成人av| 日日摸夜夜添夜夜添av毛片| 国产精品久久久久久久电影| 久久99蜜桃精品久久| 国产高清有码在线观看视频| 成人综合一区亚洲| 哪个播放器可以免费观看大片| 久久久久网色| 欧美激情极品国产一区二区三区 | 一级毛片电影观看| 日本黄色片子视频| 中文字幕人妻丝袜制服| 国产成人aa在线观看| 日韩成人伦理影院| 少妇人妻久久综合中文| 欧美日韩av久久| 亚洲人成77777在线视频| 国产视频首页在线观看| 老熟女久久久| 国产极品天堂在线| 欧美成人午夜免费资源| 日韩人妻高清精品专区| 91精品伊人久久大香线蕉| 少妇被粗大的猛进出69影院 | 免费看光身美女| 免费av中文字幕在线| 日本黄色片子视频| 国产免费福利视频在线观看| 91久久精品国产一区二区成人| av视频免费观看在线观看| 欧美bdsm另类| 亚洲欧美日韩另类电影网站| 久久久久久久久久人人人人人人| 日韩强制内射视频| 精品亚洲成国产av| 亚洲精品,欧美精品| 免费观看的影片在线观看| 精品人妻熟女毛片av久久网站| 精品久久国产蜜桃| 乱人伦中国视频| 一区二区三区精品91| 日本欧美国产在线视频| 免费大片黄手机在线观看| 九色成人免费人妻av| 自线自在国产av| 91午夜精品亚洲一区二区三区| 精品久久久精品久久久| 人人妻人人爽人人添夜夜欢视频| 精品午夜福利在线看| 久久久久久久国产电影| 国产永久视频网站| 久久午夜福利片| 亚洲在久久综合| 国产一区亚洲一区在线观看| 欧美日韩亚洲高清精品| 纵有疾风起免费观看全集完整版| 黄色毛片三级朝国网站| 午夜免费男女啪啪视频观看| 女人精品久久久久毛片| 欧美亚洲日本最大视频资源| 交换朋友夫妻互换小说| 美女内射精品一级片tv| 91精品一卡2卡3卡4卡| 一本—道久久a久久精品蜜桃钙片| a级毛色黄片| 欧美精品人与动牲交sv欧美| 精品少妇内射三级| kizo精华| 一级片'在线观看视频| 狠狠精品人妻久久久久久综合| 最新的欧美精品一区二区| 日韩免费高清中文字幕av| 精品人妻熟女毛片av久久网站| 午夜久久久在线观看| 高清在线视频一区二区三区| 日本与韩国留学比较| 简卡轻食公司| 插逼视频在线观看| 久久久久久久精品精品| 久热这里只有精品99| 日韩大片免费观看网站| 内地一区二区视频在线| 只有这里有精品99| 亚洲欧美中文字幕日韩二区| 色网站视频免费| av卡一久久| 国产一区二区三区综合在线观看 | 黑人欧美特级aaaaaa片| 精品一品国产午夜福利视频| 七月丁香在线播放| 高清毛片免费看| 成人黄色视频免费在线看| 99热6这里只有精品| 久久免费观看电影| a级毛片黄视频| 成年美女黄网站色视频大全免费 | 狠狠婷婷综合久久久久久88av| 王馨瑶露胸无遮挡在线观看| 岛国毛片在线播放| 欧美少妇被猛烈插入视频| 久久久久久久国产电影| 大香蕉久久成人网| 国产黄色视频一区二区在线观看| 一级毛片黄色毛片免费观看视频| 男男h啪啪无遮挡| 五月开心婷婷网| 国产av国产精品国产| 99国产精品免费福利视频| 国产日韩一区二区三区精品不卡 | 欧美精品人与动牲交sv欧美| 日本欧美国产在线视频| 插逼视频在线观看| 王馨瑶露胸无遮挡在线观看| 伦理电影大哥的女人| 一区二区三区四区激情视频| 在线精品无人区一区二区三| 伦理电影免费视频| 国产午夜精品一二区理论片| 精品久久久久久久久av| 欧美97在线视频| 国产欧美另类精品又又久久亚洲欧美| 久久精品国产a三级三级三级| 五月伊人婷婷丁香| 啦啦啦啦在线视频资源| 国产精品国产三级专区第一集| 亚洲人与动物交配视频| 成人毛片60女人毛片免费| 免费观看的影片在线观看| 欧美日韩一区二区视频在线观看视频在线| 黄色毛片三级朝国网站| 麻豆成人av视频| 久久99热这里只频精品6学生| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 亚洲精品中文字幕在线视频| 久久久午夜欧美精品| 欧美精品亚洲一区二区| 高清黄色对白视频在线免费看| 国产精品久久久久成人av| 成年美女黄网站色视频大全免费 | 插逼视频在线观看| 精品久久久精品久久久| 欧美日韩综合久久久久久| 国产av国产精品国产| 亚洲精品美女久久av网站| 91在线精品国自产拍蜜月| 国产毛片在线视频| 天美传媒精品一区二区| 国产在线视频一区二区| 亚洲精品国产色婷婷电影| 亚洲精品久久成人aⅴ小说 | 大片免费播放器 马上看| 久久精品人人爽人人爽视色| 18禁在线无遮挡免费观看视频| 成人亚洲精品一区在线观看| 啦啦啦视频在线资源免费观看| 精品人妻熟女毛片av久久网站| 9色porny在线观看| 精品人妻熟女毛片av久久网站| 免费观看性生交大片5| 九草在线视频观看| 毛片一级片免费看久久久久| 看免费成人av毛片| 在线观看免费高清a一片| 亚洲经典国产精华液单| 卡戴珊不雅视频在线播放| 女性生殖器流出的白浆| 大片免费播放器 马上看| 九九在线视频观看精品| 热re99久久国产66热| 国产成人精品在线电影| 王馨瑶露胸无遮挡在线观看| 亚洲经典国产精华液单| a级毛色黄片| 日韩人妻高清精品专区| 99热6这里只有精品| 日本av免费视频播放| 婷婷成人精品国产| 又大又黄又爽视频免费| 最近2019中文字幕mv第一页| www.av在线官网国产| 一本色道久久久久久精品综合| 人妻少妇偷人精品九色| kizo精华| 少妇丰满av| 在线观看免费高清a一片| 免费黄网站久久成人精品| 岛国毛片在线播放| 欧美人与性动交α欧美精品济南到 | 国产乱人偷精品视频| 亚洲精品,欧美精品| 亚洲人与动物交配视频| 亚洲精品日韩在线中文字幕| 欧美3d第一页| 久久久久精品久久久久真实原创| 18禁观看日本| 最黄视频免费看| 内地一区二区视频在线| 女人精品久久久久毛片| 国产色婷婷99| 黑人高潮一二区| 美女中出高潮动态图| 精品久久国产蜜桃| 久久av网站| 久久99热这里只频精品6学生| 国产精品一区二区三区四区免费观看| 久久韩国三级中文字幕| .国产精品久久| 国产在视频线精品| 精品熟女少妇av免费看| a级毛片黄视频| 免费高清在线观看视频在线观看| 久久精品国产亚洲网站| 大香蕉久久成人网| 久久久久久久国产电影| 精品国产一区二区久久| 国产日韩欧美亚洲二区| 日韩三级伦理在线观看| 美女中出高潮动态图| 一级二级三级毛片免费看| www.av在线官网国产| av电影中文网址| 精品人妻偷拍中文字幕| 丰满饥渴人妻一区二区三| 国产一区二区在线观看日韩| 亚洲精品一区蜜桃| 一本—道久久a久久精品蜜桃钙片| 精品视频人人做人人爽| 亚洲精品国产色婷婷电影| 不卡视频在线观看欧美| av国产久精品久网站免费入址| 成年美女黄网站色视频大全免费 | 亚洲精品aⅴ在线观看| 麻豆乱淫一区二区| 欧美人与性动交α欧美精品济南到 | 国产成人午夜福利电影在线观看| 一区二区三区四区激情视频| 全区人妻精品视频| 免费黄色在线免费观看|