• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    軟件測(cè)試用例執(zhí)行優(yōu)化研究

    2013-11-30 05:29:34王吉茂張慧穎
    關(guān)鍵詞:測(cè)試用例排序調(diào)整

    王吉茂,尹 平,張慧穎

    (北京跟蹤與通信技術(shù)研究所,北京100094)

    0 引 言

    測(cè)試用例執(zhí)行優(yōu)化的研究內(nèi)容主要分兩方面:一是在一組測(cè)試用例執(zhí)行前調(diào)整測(cè)試用例的執(zhí)行順序;二是在測(cè)試用例執(zhí)行過程中動(dòng)態(tài)調(diào)整未執(zhí)行測(cè)試用例的順序。執(zhí)行前調(diào)整測(cè)試用例的執(zhí)行順序是為了達(dá)到一定的測(cè)試性能指標(biāo),目前測(cè)試領(lǐng)域研究的測(cè)試性能指標(biāo)主要包括需求的覆蓋能力、代碼的覆蓋能力、錯(cuò)誤探測(cè)能力、已發(fā)現(xiàn)錯(cuò)誤的等級(jí)、測(cè)試耗費(fèi)等,然而卻缺少對(duì)多個(gè)測(cè)試用例的執(zhí)行條件和期望結(jié)果之間聯(lián)系的研究,導(dǎo)致測(cè)試執(zhí)行時(shí)冗余操作增多;另外,按照測(cè)試?yán)碚摰腜areto原則,80%的軟件問題很可能集中在20%的程序模塊中,在測(cè)試過程中提前執(zhí)行與存在缺陷的軟件模塊相關(guān)的測(cè)試用例能夠更加全面、集中地暴露軟件問題,但目前缺少度量測(cè)試用例之間聯(lián)系的方法以及基于這種度量的動(dòng)態(tài)調(diào)整算法。因此,本文從測(cè)試用例執(zhí)行條件和期望結(jié)果的關(guān)系入手設(shè)計(jì)了測(cè)試用例執(zhí)行前優(yōu)化算法,定義了測(cè)試用例距離的概念和計(jì)算方法并基于測(cè)試用例距離設(shè)計(jì)了執(zhí)行中動(dòng)態(tài)調(diào)整算法。

    1 相關(guān)概念及工作

    測(cè)試用例的執(zhí)行優(yōu)化是對(duì)已有測(cè)試用例按照某種特定的順序執(zhí)行,從而達(dá)到某些性能指標(biāo)的調(diào)度過程[1],其具體的定義為[2]:對(duì)于某些測(cè)試套T,PT表示對(duì)T中元素所有可能的排列的集合;f表示應(yīng)用于PT中每種排序的評(píng)價(jià)函數(shù),輸出的是每種排序的判定值,值越高效果越好。測(cè)試用例執(zhí)行優(yōu)化就是尋找一個(gè)T'∈PT,使得對(duì)于任意T'∈PT,都有f(T')≥f(T')。

    1.1 測(cè)試用例執(zhí)行前的優(yōu)化算法概述

    Rothermel等研究人員首先將測(cè)試用例集按照對(duì)代碼的覆蓋能力進(jìn)行排序[3],然后分別使用排序前后的測(cè)試用例進(jìn)行實(shí)際測(cè)試,對(duì)比測(cè)試效果,實(shí)驗(yàn)結(jié)果證明為測(cè)試用例設(shè)置優(yōu)先級(jí)并排序能夠提高測(cè)試中錯(cuò)誤檢測(cè)的速度和效率[4]。

    在考慮代碼覆蓋能力方面,最著名的是基于MC/DC(modified condition/decision coverage)覆蓋準(zhǔn)則的排序研究。關(guān)于MC/DC的定義及基于MC/DC提出的測(cè)試用例優(yōu)先級(jí)算法可以參見文獻(xiàn)[5]。

    對(duì)于該方法,Elbaum等認(rèn)為其只考慮了覆蓋因素和出現(xiàn)頻率,而忽略了工程實(shí)踐中的測(cè)試耗費(fèi)問題[6]。在這個(gè)基礎(chǔ)上,他們提出了綜合考慮測(cè)試耗費(fèi)和錯(cuò)誤嚴(yán)重程度的測(cè)試用例優(yōu)先級(jí)排序方法[7],在之前覆蓋率標(biāo)準(zhǔn)上增加了對(duì)測(cè)試開銷的考慮,優(yōu)先級(jí)比較的標(biāo)準(zhǔn)改為單位覆蓋消耗比率,同時(shí)結(jié)合錯(cuò)誤嚴(yán)重程度重新評(píng)估測(cè)試用例的潛在探錯(cuò)能力。

    測(cè)試用例執(zhí)行前的排序還可以依據(jù)其錯(cuò)誤探測(cè)能力來排序,可以將錯(cuò)誤探測(cè)能力定義為發(fā)現(xiàn)錯(cuò)誤的數(shù)量。采用基本貪心算法將測(cè)試用例按照錯(cuò)誤探測(cè)能力從大到小排序,然后依次執(zhí)行直到所有的錯(cuò)誤都被探測(cè)出來。額外貪心算法則是在每次取用測(cè)試用例的時(shí)候,根據(jù)剩下的未被探測(cè)出來的錯(cuò)誤動(dòng)態(tài)更新測(cè)試用例的探錯(cuò)能力,再采用貪心策略選用測(cè)試用例。之所以要設(shè)計(jì)額外貪心策略,是由于基本貪心策略會(huì)選擇到不必要的測(cè)試用例,但額外貪心策略容易陷入局部最優(yōu)。

    依據(jù)錯(cuò)誤探測(cè)能力,還可以利用啟發(fā)式方法來對(duì)測(cè)試用例進(jìn)行排序。較典型的有爬山算法。作為深度優(yōu)先搜索的一種改進(jìn),爬山算法利用反饋信息幫助生成解的決策,是一種局部搜索算法。該算法的優(yōu)點(diǎn)在于不必進(jìn)行遍歷,通過只選擇部分節(jié)點(diǎn)來提高效率,缺點(diǎn)在于不能全局搜索,容易陷入局部最優(yōu)。

    北京系統(tǒng)工程研究所的楊廣華、包陽等人研究了基于需求的測(cè)試用例優(yōu)先級(jí)排序算法,包括對(duì)首次測(cè)試和回歸測(cè)試的測(cè)試用例的優(yōu)先級(jí)排序。

    首次測(cè)試的優(yōu)先級(jí)排序可以分為根據(jù)需求的優(yōu)先級(jí)RP(requirement priority)排序、需求變更情況RM (requirement modify)排序、實(shí)現(xiàn)復(fù)雜度 (implementation complexity)排序。其中根據(jù)需求的優(yōu)先級(jí)排序是由于按這種方式排序可以提高測(cè)試的效益,因?yàn)閾?jù)統(tǒng)計(jì),用戶經(jīng)常使用的軟件功能只占該軟件所有功能的40%左右;按照需求變更情況來排序是由于需求的變更是引入軟件缺陷的一個(gè)重要原因,而在軟件完成之前平均有25%的需求會(huì)發(fā)生變更;另外,復(fù)雜程度較高的軟件模塊通常存在較多的缺陷,因此重點(diǎn)測(cè)試復(fù)雜程度較高的軟件模塊能提高發(fā)現(xiàn)軟件缺陷的效率。

    回歸測(cè)試用例優(yōu)先級(jí)排序考慮之前測(cè)試發(fā)現(xiàn)軟件缺陷的情況,根據(jù)檢測(cè)到不同缺陷嚴(yán)重性等級(jí)對(duì)測(cè)試用例的錯(cuò)誤探測(cè)能力進(jìn)行賦值,然后根據(jù)賦值情況提高缺陷探測(cè)能力較高的測(cè)試用例的優(yōu)先級(jí)。

    1.2 測(cè)試用例執(zhí)行中的優(yōu)化算法概述

    除了可以在測(cè)試用例執(zhí)行之前對(duì)其進(jìn)行優(yōu)化排序,還可以在測(cè)試用例執(zhí)行中對(duì)未執(zhí)行測(cè)試用例的執(zhí)行順序進(jìn)行動(dòng)態(tài)調(diào)整,以達(dá)到在短時(shí)間內(nèi)高效測(cè)試的目的。

    戴如昕、顧春華研究了通過調(diào)整測(cè)試用例的執(zhí)行順序的測(cè)試用例優(yōu)先級(jí)方法[8]。這種方法首先根據(jù)測(cè)試用例可能暴露的錯(cuò)誤類型建立一個(gè)關(guān)系矩陣R。根據(jù)矩陣R,測(cè)試用例被其可能暴露的錯(cuò)誤類型分成不同的組,然后該方法調(diào)用Escalate(提高算法)和Deescalate(降低算法)來調(diào)整用例的優(yōu)先級(jí)。在這兩種算法中都有一個(gè)輸入?yún)?shù)a來確定優(yōu)先級(jí)的調(diào)整幅度。在實(shí)際執(zhí)行中,如果某個(gè)測(cè)試用例暴露了軟件問題,說明軟件在這方面存在隱患,提前執(zhí)行同組的同類型測(cè)試用例,從而有助于更高效地發(fā)現(xiàn)此問題的各個(gè)方面。

    在測(cè)試用例執(zhí)行過程中,根據(jù)實(shí)時(shí)反饋的信息 (主要是未完成的測(cè)試目的或未覆蓋的測(cè)試需求),將剩余的測(cè)試用例不斷地進(jìn)行順序調(diào)整。當(dāng)返回多個(gè)反饋信息時(shí),這種調(diào)整還可以不是單隊(duì)列的,而是在并行的情況下進(jìn)行多個(gè)測(cè)試用例隊(duì)列同時(shí)調(diào)整[9]。并行調(diào)整可以增加調(diào)整系統(tǒng)對(duì)反饋信息的容納能力,避免了單隊(duì)列出現(xiàn)反復(fù)調(diào)整的情況,但多隊(duì)列增加了算法的復(fù)雜度。

    2 測(cè)試路徑控制陣列

    為了能夠兼顧測(cè)試用例執(zhí)行前和執(zhí)行中的優(yōu)化算法,本文首先提出測(cè)試用例的組織模型:測(cè)試路徑控制陣列(test path control array,TPCA)。下面對(duì)該模型進(jìn)行說明

    式 (1)可簡寫為

    C、V、R、O均是m×n的陣列 (并非矩陣),表示針對(duì)同一個(gè)被測(cè)功能項(xiàng)的m個(gè)測(cè)試用例的數(shù)據(jù)。

    C為輸入控制陣列,其每一行表示一個(gè)測(cè)試用例的輸入控制量,輸入可以包括軟件當(dāng)前狀態(tài)、將要發(fā)生的事件和參數(shù)取值。C中的元素cij表示第i個(gè)測(cè)試用例的第j個(gè)輸入控制量,取值為0或1。cij取值為0表示V中的輸入vij狀態(tài)值無效、事件不發(fā)生或參數(shù)取值無效,取值為1表示V中的輸入vij狀態(tài)值有效、事件發(fā)生或參數(shù)取值有效。

    V為輸入陣列,其每一行表示一個(gè)測(cè)試用例的輸入值,每個(gè)測(cè)試用例最多有n個(gè)輸入值。vij可以表示一個(gè)狀態(tài)值、事件 (0為不發(fā)生、1為發(fā)生)、輸入?yún)?shù)的具體取值。

    R為期望結(jié)果控制陣列 (或輸出控制陣列),其每一行表示一個(gè)測(cè)試用例的輸出控制量,輸出可以包括測(cè)試用例執(zhí)行后軟件預(yù)期狀態(tài)、預(yù)期發(fā)生的事件和參數(shù)取值。R中的元素rij表示第i個(gè)測(cè)試用例的第j個(gè)輸出控制量,取值為0或1。rij取值為0表示O中的輸出oij狀態(tài)值無效、事件不發(fā)生或參數(shù)值無效,取值為1表示O中的輸出oij狀態(tài)值有效、事件發(fā)生或參數(shù)取值有效。

    O為輸出陣列,其每一行表示一個(gè)測(cè)試用例的輸出值,每個(gè)測(cè)試用例最多有n個(gè)輸出值。當(dāng)R中的rij=1且rij表示輸出參數(shù)控制量時(shí),oij為第i個(gè)測(cè)試用例的第j個(gè)輸出參數(shù)的取值。vij可以表示一個(gè)狀態(tài)值、事件 (0為不發(fā)生、1為發(fā)生)、輸出參數(shù)的具體取值。

    3 測(cè)試用例執(zhí)行前優(yōu)化算法

    3.1 算法說明

    在執(zhí)行一個(gè)測(cè)試用例前通常要對(duì)軟件的運(yùn)行環(huán)境、狀態(tài)、參數(shù)等進(jìn)行初始化設(shè)置,而測(cè)試用例執(zhí)行結(jié)束后會(huì)產(chǎn)生執(zhí)行結(jié)果。兩個(gè)測(cè)試用例,其輸入條件和輸出結(jié)果之間可能存在下面定義的情況。

    定義1 設(shè)A、B為兩個(gè)測(cè)試用例,A.Conditions表示A執(zhí)行前的輸入條件,A.Results表示A執(zhí)行后的輸出和軟件狀 態(tài)的變化,B同理。若存在{A.Results}∩{B.Conditions}≠ ,則稱為創(chuàng)造場(chǎng)景條件{A.Results}∩{B.Conditions}而進(jìn)行的操作為重復(fù)操作。

    定義2 N{A.Results}∩{B.Conditions}為執(zhí)行測(cè)試用例B所需的輸入條件中,測(cè)試用例A在執(zhí)行后能為其產(chǎn)生的、測(cè)試人員無須進(jìn)行重復(fù)輸入的操作步驟數(shù),稱為操作重復(fù)度。

    操作重復(fù)度定量描述了測(cè)試用例之間的聯(lián)系。操作重復(fù)度不為零的兩個(gè)測(cè)試用例在執(zhí)行順序上應(yīng)該被安排在相鄰的位置。尤其是針對(duì)運(yùn)行狀態(tài)眾多,各狀態(tài)轉(zhuǎn)換關(guān)系復(fù)雜的軟件,需要設(shè)計(jì)一種算法來尋找操作重復(fù)度之和最大的測(cè)試用例執(zhí)行順序,該問題建模如下:

    設(shè)X={Xi|i=1……n}是測(cè)試用例的集合,且對(duì)于任意測(cè)試用例Xi、Xj,二者之間的操作重復(fù)度N{Xi.Results}∩{Xj.Conditions}已知,求 X中測(cè)試用例的一個(gè)排序,該排序滿足操作重復(fù)度之和最大,即

    這個(gè)排序問題可以轉(zhuǎn)化為圖論中尋找?guī)?quán)有向圖G(X,E)遍歷所有節(jié)點(diǎn)的最大路徑問題,其中X中的測(cè)試用例是有向圖中的節(jié)點(diǎn),E是權(quán)值為N{Xi.Results}∩{Xj.Conditions}的邊的集合。如果某個(gè)測(cè)試用例執(zhí)行條件或期望結(jié)果與其他測(cè)試用例沒有聯(lián)系,則設(shè)其對(duì)應(yīng)邊權(quán)值為0,但仍認(rèn)為該邊存在。因此G (X,E)可以視為一個(gè)有向完全圖。

    圖論中解決有向圖節(jié)點(diǎn)排序 (即有向圖活動(dòng)規(guī)劃)的方法有AOV網(wǎng)絡(luò)和AOE網(wǎng)絡(luò)。但AOV網(wǎng)絡(luò)的活動(dòng)在節(jié)點(diǎn)上,拓?fù)渑判騼H能確定圖中是否有環(huán),不涉及邊權(quán)值的問題;AOE網(wǎng)絡(luò)的活動(dòng)在邊上,可以求解出活動(dòng)節(jié)點(diǎn)的關(guān)鍵路徑,但并不能做到對(duì)節(jié)點(diǎn)的完全覆蓋[10]。因此兩種算法都不適用于測(cè)試用例排序。

    雖然目前沒有現(xiàn)成的解法適用于這個(gè)問題。但實(shí)際測(cè)試中,一個(gè)測(cè)試用例執(zhí)行完成只對(duì)其他測(cè)試用例特定輸入條 件 提 供 便 利。例 如,A.Conditions={a,b,c},B.Results={b,c},C.Results={c},當(dāng)B執(zhí)行后,執(zhí)行測(cè)試用例A只需要?jiǎng)?chuàng)造條件a即可,此時(shí)再執(zhí)行C不會(huì)給A提供任何便利。這說明一個(gè)測(cè)試用例執(zhí)行后就會(huì)給其他測(cè)試用例帶來影響,而且影響具體到某一個(gè)特定的軟件狀態(tài),而不僅僅是狀態(tài)數(shù)量的概念。

    因此,從減少操作步驟這個(gè)目的出發(fā),以貪心策略為指導(dǎo)思想,借鑒AOV網(wǎng)絡(luò)拓?fù)渑判蛑兄饌€(gè)取節(jié)點(diǎn)的方法,設(shè)計(jì)出如下有向圖節(jié)點(diǎn)排序算法:

    首先定義數(shù)據(jù)結(jié)構(gòu)

    節(jié)點(diǎn) (代表測(cè)試用例):

    算法流程如圖1所示。

    圖1 測(cè)試用例執(zhí)行前優(yōu)化算法

    3.2 應(yīng)用驗(yàn)證

    以航天測(cè)控系統(tǒng)實(shí)時(shí)系統(tǒng)軟件主副機(jī)切換功能的32個(gè)測(cè)試用例為優(yōu)化排序的對(duì)象。

    在經(jīng)3.1節(jié)算法優(yōu)化前,測(cè)試用例按照編號(hào)從小到大的順序執(zhí)行。經(jīng)3.1節(jié)優(yōu)化后,測(cè)試用例執(zhí)行順序?yàn)?、16、2、8、14、0、18、24、30、19、25、31、3、9、15、1、7、13、17、23、29、5、11、21、27、10、6、20、12、26、22、28。優(yōu)化排序使當(dāng)前測(cè)試用例期望結(jié)果中軟件的狀態(tài)與下一個(gè)測(cè)試用例執(zhí)行所需的輸入條件十分接近,冗余操作明顯減少。

    在假設(shè)32個(gè)測(cè)試用例全部執(zhí)行通過的情況下,本文統(tǒng)計(jì)了所有測(cè)試用例的總步驟數(shù)、測(cè)試用例按0到31順序執(zhí)行省去的步驟數(shù)以及經(jīng)優(yōu)化排序后省去的步驟數(shù),優(yōu)化效果見表1。

    表1 優(yōu)化效果

    4 測(cè)試用例執(zhí)行中動(dòng)態(tài)調(diào)整算法

    4.1 算法說明

    本算法基于測(cè)試用例距離,因此首先給出測(cè)試用例距離的定義,用以衡量測(cè)試用例的相似程度。

    定義3 測(cè)試用例距離dij

    其中,λk表示第k個(gè)參數(shù)賦值的權(quán)重系數(shù),視測(cè)試結(jié)果對(duì)該輸入的敏感程度由測(cè)試人員來確定。沒有賦值操作或者該參數(shù)值對(duì)測(cè)試結(jié)果沒有影響的測(cè)試用例,該值為0。

    cij和vij來源于測(cè)試路徑控制陣列中的C陣列和V陣列;v'ij是通過對(duì)輸入?yún)?shù)vij歸一化得到的,歸一化方法為:由于輸入?yún)?shù)vij的取值范圍可以被劃分成若干個(gè)等價(jià)類,一個(gè)等價(jià)類的數(shù)值范圍可能很大,例如,如果在等價(jià)類[1,10000]中vij=2或vij=9999時(shí)軟件的執(zhí)行結(jié)果沒有差異,則定義當(dāng)vij取值來自于同一個(gè)有效類的時(shí)候,v'ij取值為同一個(gè)正整數(shù)q;同理,當(dāng)vij取值來自于同一個(gè)無效類的時(shí)候,v'ij取值為同一個(gè)負(fù)整數(shù)p;當(dāng)vij取值為邊界值時(shí),v'ij取值為0。

    當(dāng)測(cè)試用例i檢測(cè)到軟件問題時(shí),定義測(cè)試用例i為目標(biāo)測(cè)試用例。給定測(cè)試用例距離d,如果dij<d,則認(rèn)為測(cè)試用例j與i屬于相關(guān)測(cè)試用例,測(cè)試用例j應(yīng)被提前執(zhí)行。d通常由經(jīng)驗(yàn)值給出。

    對(duì)于一個(gè)給定的d,可能存在多個(gè)測(cè)試用例與目標(biāo)測(cè)試用例是相關(guān)測(cè)試用例,但這些測(cè)試用例與目標(biāo)測(cè)試用例的測(cè)試用例距離可能不同。相關(guān)性較強(qiáng)的測(cè)試用例應(yīng)當(dāng)優(yōu)先執(zhí)行,即按照測(cè)試用例距離遞增的順序調(diào)整,其具體實(shí)現(xiàn)流程如圖2所示。

    4.2 應(yīng)用驗(yàn)證

    這里仍以實(shí)時(shí)系統(tǒng)軟件的主副機(jī)切換功能的測(cè)試用例來驗(yàn)證上節(jié)的算法對(duì)測(cè)試用例執(zhí)行順序的動(dòng)態(tài)調(diào)整效果。

    在API請(qǐng)求切換程序模塊中設(shè)置一個(gè)軟件缺陷,使API請(qǐng)求不能成功切換主副機(jī)。與缺陷有關(guān)的測(cè)試用例集合為{0,2,4,6,8,16,18,20,22}。

    圖2 基于距離的動(dòng)態(tài)調(diào)整算法流程

    按照3.2節(jié)優(yōu)化后的測(cè)試用例執(zhí)行順序執(zhí)行32個(gè)測(cè)試用例。在執(zhí)行測(cè)試用例4時(shí),該測(cè)試用例不通過,現(xiàn)象為:在自動(dòng)模式、主副機(jī)均運(yùn)行的情況下,被測(cè)軟件不能實(shí)現(xiàn)通過API請(qǐng)求將運(yùn)行機(jī)從主機(jī)切換到副機(jī)。

    用基于測(cè)試用例距離的動(dòng)態(tài)調(diào)整算法對(duì)未執(zhí)行測(cè)試用例排序。現(xiàn)在,目標(biāo)測(cè)試用例為測(cè)試用例4,按照式 (3)給定測(cè)試用例距離閾值d=1.8,自動(dòng)模式、API請(qǐng)求的權(quán)重為3,其他輸入的權(quán)重為0.25,通過程序?qū)ふ遗c目標(biāo)測(cè)試用例的測(cè)試用例距離小于1.8的測(cè)試用例。

    算法程序找到了10個(gè)測(cè)試用例{4,8,6,0,2,20,24,22,16,18},雖然多出一個(gè)測(cè)試用例24,但包含了與缺陷相關(guān)的測(cè)試用例,并且優(yōu)化算法把與缺陷相關(guān)的測(cè)試用例6、20、22提前到前10位執(zhí)行。

    5 結(jié)束語

    本文在研究現(xiàn)有的測(cè)試用例執(zhí)行優(yōu)化方法的基礎(chǔ)上,首先提出測(cè)試路徑控制陣列模型來組織測(cè)試用例;然后從圖論角度出發(fā)提出測(cè)試用例執(zhí)行前的優(yōu)化排序算法;最后提出了測(cè)試用例距離的概念和計(jì)算方法,并基于測(cè)試用例距離提出測(cè)試用例執(zhí)行中動(dòng)態(tài)調(diào)整算法。將以上兩個(gè)算法應(yīng)用于實(shí)時(shí)系統(tǒng)軟件主副機(jī)切換功能的測(cè)試用例中,優(yōu)化結(jié)果表明,執(zhí)行前優(yōu)化排序算法能夠減少一組測(cè)試用例的冗余操作,執(zhí)行中動(dòng)態(tài)調(diào)整算法能夠找到與軟件缺陷相關(guān)的測(cè)試用例并將其執(zhí)行順序提前。

    [1]JIANG Shanshan,ZHAO Zhonghua,WANG Qiming,et al.A requirement-based approach to system-level black-box test case prioritization[J].Computer and Digital Engineering,2010,38(5):68-73 (in Chinese).[姜姍姍,趙中華,王啟明,等.基于需求的系統(tǒng)級(jí)黑盒測(cè)試用例優(yōu)先化方法[J].計(jì)算機(jī)與數(shù)字工程,2010,38 (5):68-73.]

    [2]Moisiadis F.Prioritizing test cases and scenarios[C]//37th International Conference on Technology of OO Languages and Systems,2000:108-119.

    [3]Wong We,Horgan JR,London S,et al.A study of effective regression testing in practice[C]//Proceedings of the 8th IEEE International Symposium on Software Reliability Engineering.Washington IEEE Computer Society,1997:264-274.

    [4]Rothermel G,Untch H R,Chu C,et al.Test case prioritization:An empirical study[C]//Proceedings of the International Conference on Software Maintnance.Washington:IEEE Computer Society,2001:179-188.

    [5]LU Dezhong.Research for modified condition/design test case priorty algorithm[J].Science and Engineer,2009,9 (14):4040-4044 (in Chinese).[盧德忠.基于 MC/DC的測(cè)試用例優(yōu)先級(jí) 算 法 研 究[J].科 學(xué) 技 術(shù) 與 工 程,2009,9 (14):4040-4044.]

    [6]Elbaum S,Malishevsky G,Rothermel G.Incorporating varying test costs and faults verities into test case prioritization[C]//Proceedings of the International Conference on Software Engineering,2001:329-338.

    [7]QU Bo,NIE Changhai,XU Baowen.Survey of test case priori tization for regression testing[J].Journal of Frontiers of Computer Science and Technology,2009,3 (1):225-233 (in Chinese).[屈波,聶長海,徐寶文.回歸測(cè)試中測(cè)試用例優(yōu)先級(jí)技術(shù)綜述[J].計(jì)算機(jī)科學(xué)與探索,2009,3 (1):225-233.]

    [8]DAI Ruxin,GU Chunhua.Advanced test case prioritization for black box testing[J].Computer Engineering and Design,2010,31 (20):4343-4346 (in Chinese).[戴如昕,顧春華.用于黑盒測(cè)試的測(cè)試用例優(yōu)先級(jí)改進(jìn)算法[J].計(jì)算機(jī)工程與設(shè)計(jì),2010,31 (20):4343-4346.]

    [9]QU Bo,XU Baowen,NIE Changhai.A dynamic prioritization method for supplemental test cases[J].Journal of Shandong University,2009,39 (2):137-140 (in Chinese).[屈波,徐寶文,聶長海.補(bǔ)充生成測(cè)試用例的優(yōu)先級(jí)設(shè)定與動(dòng)態(tài)調(diào)整算法[J].山東大學(xué)學(xué)報(bào),2009,39 (2):137-140.]

    [10]WANG Guiping,WANG Yan,REN Jiachen.Algorithm,implementation and application of graph theories[M].Beijing:Press of Peking University,2011:63-82 (in Chinese).[王桂平,王衍,任嘉辰.圖論算法理論、實(shí)現(xiàn)及應(yīng)用[M].北京:北京大學(xué)出版社,2011:63-82.]

    猜你喜歡
    測(cè)試用例排序調(diào)整
    排序不等式
    夏季午睡越睡越困該如何調(diào)整
    基于SmartUnit的安全通信系統(tǒng)單元測(cè)試用例自動(dòng)生成
    工位大調(diào)整
    意林(2020年10期)2020-06-01 07:26:37
    恐怖排序
    節(jié)日排序
    基于混合遺傳算法的回歸測(cè)試用例集最小化研究
    滬指快速回落 調(diào)整中可增持白馬
    刻舟求劍
    兒童繪本(2018年5期)2018-04-12 16:45:32
    基于依賴結(jié)構(gòu)的測(cè)試用例優(yōu)先級(jí)技術(shù)
    国产国语露脸激情在线看| av不卡在线播放| 午夜日韩欧美国产| 亚洲国产精品一区三区| 亚洲一卡2卡3卡4卡5卡精品中文| 久久99一区二区三区| 亚洲欧美一区二区三区黑人| 另类亚洲欧美激情| 成年av动漫网址| 成年av动漫网址| 中文字幕制服av| 亚洲精品第二区| 国产精品久久久久成人av| 亚洲成人免费电影在线观看| 久久亚洲国产成人精品v| 男女免费视频国产| 人妻久久中文字幕网| 美国免费a级毛片| www.自偷自拍.com| 亚洲av电影在线进入| 99香蕉大伊视频| 久久人人爽av亚洲精品天堂| 每晚都被弄得嗷嗷叫到高潮| 国产在线视频一区二区| 黄色片一级片一级黄色片| 我的亚洲天堂| 少妇粗大呻吟视频| 国产免费现黄频在线看| 最新在线观看一区二区三区| 在线观看舔阴道视频| 嫩草影视91久久| 国产在线免费精品| 女警被强在线播放| 国产免费一区二区三区四区乱码| av在线app专区| 女性生殖器流出的白浆| 国产精品秋霞免费鲁丝片| 一级毛片精品| 日韩制服丝袜自拍偷拍| 99国产综合亚洲精品| 亚洲欧美成人综合另类久久久| 国产99久久九九免费精品| 热re99久久精品国产66热6| 宅男免费午夜| 操出白浆在线播放| 日韩免费高清中文字幕av| 99国产极品粉嫩在线观看| 亚洲av日韩精品久久久久久密| 国产熟女午夜一区二区三区| 人人妻人人添人人爽欧美一区卜| 狠狠精品人妻久久久久久综合| 在线精品无人区一区二区三| 国产av又大| 天堂8中文在线网| 性色av一级| 久久亚洲国产成人精品v| a在线观看视频网站| 久久ye,这里只有精品| 亚洲精品一卡2卡三卡4卡5卡 | 最近最新免费中文字幕在线| 久久久久久久久免费视频了| 成人国产一区最新在线观看| 黑丝袜美女国产一区| 精品久久久久久电影网| 欧美国产精品va在线观看不卡| 一个人免费看片子| 亚洲av日韩在线播放| 欧美一级毛片孕妇| 国产精品免费视频内射| 久久久水蜜桃国产精品网| 欧美日韩视频精品一区| 国产成人免费无遮挡视频| 久久久久久久国产电影| 久久中文字幕一级| 日本猛色少妇xxxxx猛交久久| 国产精品99久久99久久久不卡| 一区二区日韩欧美中文字幕| 亚洲五月婷婷丁香| 国产成人免费无遮挡视频| 日韩制服丝袜自拍偷拍| 久久精品国产亚洲av高清一级| 人妻久久中文字幕网| 亚洲国产精品成人久久小说| 久久中文看片网| 91国产中文字幕| 黄色a级毛片大全视频| 999精品在线视频| 久久久水蜜桃国产精品网| 欧美日韩一级在线毛片| 中文字幕高清在线视频| 亚洲欧美色中文字幕在线| 国产福利在线免费观看视频| 黑人欧美特级aaaaaa片| 亚洲精品国产av蜜桃| 91成年电影在线观看| 菩萨蛮人人尽说江南好唐韦庄| netflix在线观看网站| 久久精品国产a三级三级三级| 欧美另类亚洲清纯唯美| 日韩一区二区三区影片| 女人久久www免费人成看片| 亚洲国产av影院在线观看| 搡老熟女国产l中国老女人| 欧美av亚洲av综合av国产av| 亚洲精品自拍成人| xxxhd国产人妻xxx| 久久久国产欧美日韩av| 国产成人精品久久二区二区91| 亚洲精品国产一区二区精华液| 国产精品久久久久久精品电影小说| 午夜福利乱码中文字幕| 欧美日韩视频精品一区| 亚洲欧美清纯卡通| 亚洲视频免费观看视频| 日韩有码中文字幕| 中文字幕精品免费在线观看视频| 国产91精品成人一区二区三区 | 我的亚洲天堂| 日韩制服丝袜自拍偷拍| av超薄肉色丝袜交足视频| 搡老乐熟女国产| 不卡一级毛片| 国产亚洲精品久久久久5区| 大片电影免费在线观看免费| 婷婷成人精品国产| 亚洲欧美精品自产自拍| 精品一区二区三区av网在线观看 | 亚洲国产毛片av蜜桃av| 丝袜人妻中文字幕| 午夜91福利影院| 搡老岳熟女国产| 这个男人来自地球电影免费观看| 亚洲av成人一区二区三| 国产精品国产av在线观看| 亚洲五月婷婷丁香| 一区二区三区乱码不卡18| 成人国产一区最新在线观看| 欧美激情极品国产一区二区三区| 免费人妻精品一区二区三区视频| e午夜精品久久久久久久| 国产精品欧美亚洲77777| 精品第一国产精品| 国产成+人综合+亚洲专区| 又黄又粗又硬又大视频| 国产无遮挡羞羞视频在线观看| 在线观看一区二区三区激情| 91麻豆精品激情在线观看国产 | e午夜精品久久久久久久| 国产成人欧美在线观看 | av有码第一页| 亚洲黑人精品在线| 最新在线观看一区二区三区| 99国产精品99久久久久| 婷婷成人精品国产| 亚洲av成人不卡在线观看播放网 | 大码成人一级视频| 亚洲国产av新网站| 制服人妻中文乱码| 啦啦啦中文免费视频观看日本| 国精品久久久久久国模美| 欧美人与性动交α欧美软件| 成人国产一区最新在线观看| 免费黄频网站在线观看国产| 欧美黑人精品巨大| 亚洲九九香蕉| √禁漫天堂资源中文www| 亚洲欧美精品综合一区二区三区| 午夜福利免费观看在线| 中国国产av一级| 伊人久久大香线蕉亚洲五| 最近最新中文字幕大全免费视频| 啦啦啦中文免费视频观看日本| 丝袜喷水一区| 国产欧美日韩一区二区精品| 手机成人av网站| 男女床上黄色一级片免费看| 91麻豆av在线| 三上悠亚av全集在线观看| 狠狠婷婷综合久久久久久88av| svipshipincom国产片| 老熟妇仑乱视频hdxx| 男女之事视频高清在线观看| 国产av国产精品国产| videos熟女内射| 久久免费观看电影| 亚洲中文日韩欧美视频| 91麻豆精品激情在线观看国产 | 两个人免费观看高清视频| 亚洲天堂av无毛| 午夜福利影视在线免费观看| 亚洲国产精品999| 日本vs欧美在线观看视频| 欧美日韩av久久| 亚洲精品国产精品久久久不卡| 精品欧美一区二区三区在线| 久久久久久久国产电影| 一区二区三区精品91| 亚洲国产欧美网| 久久精品熟女亚洲av麻豆精品| 亚洲色图 男人天堂 中文字幕| 国产成+人综合+亚洲专区| 黄片小视频在线播放| 免费不卡黄色视频| 亚洲精品第二区| 精品久久久久久久毛片微露脸 | 丝袜喷水一区| 国产黄频视频在线观看| 亚洲精品国产av成人精品| 他把我摸到了高潮在线观看 | 91麻豆av在线| 国产精品免费视频内射| 色94色欧美一区二区| 一区在线观看完整版| 中文字幕精品免费在线观看视频| 十八禁网站网址无遮挡| av一本久久久久| 亚洲伊人色综图| 亚洲一区二区三区欧美精品| 欧美国产精品va在线观看不卡| 精品人妻熟女毛片av久久网站| 成年女人毛片免费观看观看9 | xxxhd国产人妻xxx| 久久精品熟女亚洲av麻豆精品| 一进一出抽搐动态| 老司机在亚洲福利影院| 精品国产乱码久久久久久男人| 9色porny在线观看| 亚洲国产日韩一区二区| 国产成人啪精品午夜网站| 自线自在国产av| 麻豆av在线久日| 精品国产国语对白av| 宅男免费午夜| 国产成人啪精品午夜网站| 丝瓜视频免费看黄片| 国产成人影院久久av| 女人爽到高潮嗷嗷叫在线视频| 久久av网站| 亚洲成国产人片在线观看| 欧美日韩黄片免| 国产福利在线免费观看视频| 一本综合久久免费| 国产精品.久久久| www.熟女人妻精品国产| 日本欧美视频一区| 亚洲av男天堂| 亚洲精品国产区一区二| 18在线观看网站| 不卡av一区二区三区| 久久久水蜜桃国产精品网| 午夜成年电影在线免费观看| 国产又爽黄色视频| 99久久精品国产亚洲精品| 建设人人有责人人尽责人人享有的| 黄频高清免费视频| 亚洲国产欧美网| 高清视频免费观看一区二区| 欧美精品av麻豆av| 免费黄频网站在线观看国产| 老司机午夜十八禁免费视频| 国产高清视频在线播放一区 | 女人被躁到高潮嗷嗷叫费观| 亚洲五月婷婷丁香| 久久久久国产精品人妻一区二区| 亚洲精品中文字幕一二三四区 | 老熟女久久久| 亚洲人成电影免费在线| 久久久精品区二区三区| 国产成人精品在线电影| 亚洲avbb在线观看| 色播在线永久视频| 成年av动漫网址| 亚洲国产日韩一区二区| 免费观看a级毛片全部| 精品一区在线观看国产| 免费在线观看视频国产中文字幕亚洲 | 国产91精品成人一区二区三区 | 亚洲国产av新网站| av电影中文网址| av天堂在线播放| 国产亚洲欧美在线一区二区| 在线观看免费午夜福利视频| 黑人欧美特级aaaaaa片| 黄色 视频免费看| 午夜福利乱码中文字幕| 一区二区三区精品91| 青春草亚洲视频在线观看| 亚洲欧美激情在线| 他把我摸到了高潮在线观看 | 日本av免费视频播放| 两个人看的免费小视频| 久久精品亚洲熟妇少妇任你| 国产成人系列免费观看| 大型av网站在线播放| 黑人操中国人逼视频| 99国产精品免费福利视频| 亚洲国产中文字幕在线视频| 男女无遮挡免费网站观看| e午夜精品久久久久久久| 在线亚洲精品国产二区图片欧美| 一区在线观看完整版| 国产亚洲av高清不卡| 亚洲精品中文字幕一二三四区 | 91成人精品电影| 国产国语露脸激情在线看| 蜜桃国产av成人99| 免费高清在线观看视频在线观看| 一边摸一边做爽爽视频免费| 午夜福利在线观看吧| 在线十欧美十亚洲十日本专区| 日韩视频一区二区在线观看| 精品少妇内射三级| 久久女婷五月综合色啪小说| 美女福利国产在线| 性高湖久久久久久久久免费观看| 啦啦啦视频在线资源免费观看| 久久亚洲国产成人精品v| 亚洲欧洲日产国产| 午夜福利一区二区在线看| 老司机福利观看| 涩涩av久久男人的天堂| 夜夜夜夜夜久久久久| 成人国产一区最新在线观看| 热99re8久久精品国产| 不卡一级毛片| 青草久久国产| 欧美日韩黄片免| 亚洲人成电影观看| 久久人人爽人人片av| 国产精品久久久久久人妻精品电影 | 国产亚洲精品一区二区www | 国产亚洲欧美在线一区二区| 午夜福利视频精品| 啦啦啦 在线观看视频| 国产人伦9x9x在线观看| a级片在线免费高清观看视频| 国产男女内射视频| 国产主播在线观看一区二区| 丰满人妻熟妇乱又伦精品不卡| 青春草视频在线免费观看| 亚洲第一欧美日韩一区二区三区 | 欧美老熟妇乱子伦牲交| 欧美大码av| 午夜免费观看性视频| av网站在线播放免费| 搡老岳熟女国产| 一本—道久久a久久精品蜜桃钙片| 亚洲专区中文字幕在线| 久久这里只有精品19| 久久人人97超碰香蕉20202| 久9热在线精品视频| 妹子高潮喷水视频| 一区在线观看完整版| 蜜桃国产av成人99| 在线观看免费午夜福利视频| 国产深夜福利视频在线观看| 国产成人免费观看mmmm| 午夜福利视频在线观看免费| 狂野欧美激情性xxxx| 国产亚洲av片在线观看秒播厂| 操美女的视频在线观看| av在线老鸭窝| 亚洲综合色网址| 巨乳人妻的诱惑在线观看| 精品久久蜜臀av无| 在线观看一区二区三区激情| 亚洲精品国产一区二区精华液| 久久狼人影院| 免费av中文字幕在线| h视频一区二区三区| 日本猛色少妇xxxxx猛交久久| 日韩精品免费视频一区二区三区| 欧美国产精品一级二级三级| 久久中文看片网| 欧美久久黑人一区二区| 精品少妇黑人巨大在线播放| 中文字幕av电影在线播放| 大香蕉久久网| 天天躁日日躁夜夜躁夜夜| 丝袜美腿诱惑在线| 成年人午夜在线观看视频| 大型av网站在线播放| 男人爽女人下面视频在线观看| 国产成人精品无人区| 岛国在线观看网站| 久久精品成人免费网站| 欧美日韩黄片免| 国产欧美日韩一区二区精品| 自线自在国产av| 菩萨蛮人人尽说江南好唐韦庄| av在线app专区| 国产精品亚洲av一区麻豆| 亚洲少妇的诱惑av| 爱豆传媒免费全集在线观看| 日韩中文字幕欧美一区二区| 国产黄频视频在线观看| 久久久久久人人人人人| 操美女的视频在线观看| 亚洲国产看品久久| 正在播放国产对白刺激| 精品少妇黑人巨大在线播放| 精品少妇内射三级| 51午夜福利影视在线观看| 老司机影院成人| cao死你这个sao货| 亚洲精品第二区| 青草久久国产| 成年av动漫网址| 精品久久久久久电影网| 免费少妇av软件| 午夜久久久在线观看| 他把我摸到了高潮在线观看 | 国产一级毛片在线| 久久这里只有精品19| 在线观看人妻少妇| 亚洲精品国产一区二区精华液| 午夜福利一区二区在线看| 亚洲av电影在线观看一区二区三区| 美女高潮喷水抽搐中文字幕| 99国产精品99久久久久| 国产伦人伦偷精品视频| 久久久久国产精品人妻一区二区| 男人操女人黄网站| 精品亚洲乱码少妇综合久久| 大片电影免费在线观看免费| 久久中文看片网| 精品国内亚洲2022精品成人 | 十八禁高潮呻吟视频| 一本色道久久久久久精品综合| 人人妻人人爽人人添夜夜欢视频| 欧美大码av| 精品少妇黑人巨大在线播放| 亚洲av成人一区二区三| 满18在线观看网站| 亚洲欧美激情在线| 一进一出抽搐动态| 日本欧美视频一区| 成人18禁高潮啪啪吃奶动态图| 在线精品无人区一区二区三| 亚洲av成人一区二区三| 永久免费av网站大全| 亚洲专区国产一区二区| 亚洲一卡2卡3卡4卡5卡精品中文| 国产亚洲av片在线观看秒播厂| 亚洲精品国产一区二区精华液| 蜜桃在线观看..| 久久99热这里只频精品6学生| 国产免费现黄频在线看| 色老头精品视频在线观看| 18在线观看网站| 欧美日韩亚洲高清精品| 成人国语在线视频| 欧美变态另类bdsm刘玥| 免费在线观看日本一区| 欧美激情高清一区二区三区| 亚洲欧美精品综合一区二区三区| 久久久国产成人免费| 精品人妻1区二区| 一级片'在线观看视频| 国产不卡av网站在线观看| xxxhd国产人妻xxx| 久久中文字幕一级| 久久国产精品影院| 久久精品久久久久久噜噜老黄| 一个人免费看片子| 成人影院久久| 亚洲中文av在线| 一本久久精品| 丝袜人妻中文字幕| 韩国精品一区二区三区| 美女扒开内裤让男人捅视频| 亚洲久久久国产精品| 久久精品国产综合久久久| 男女下面插进去视频免费观看| 黄网站色视频无遮挡免费观看| 免费在线观看黄色视频的| 亚洲国产毛片av蜜桃av| 国产日韩一区二区三区精品不卡| 久久女婷五月综合色啪小说| 欧美日韩精品网址| 99精品久久久久人妻精品| 日本91视频免费播放| av一本久久久久| 19禁男女啪啪无遮挡网站| 夜夜骑夜夜射夜夜干| 亚洲一区二区三区欧美精品| 91字幕亚洲| 亚洲综合色网址| 人妻一区二区av| 亚洲国产欧美网| 欧美精品一区二区大全| 女人被躁到高潮嗷嗷叫费观| 91麻豆av在线| 99re6热这里在线精品视频| 亚洲av片天天在线观看| 电影成人av| 欧美日韩亚洲高清精品| 婷婷丁香在线五月| 午夜福利,免费看| 国产免费一区二区三区四区乱码| 久久免费观看电影| 亚洲 国产 在线| 国产亚洲欧美精品永久| 91精品三级在线观看| 日韩免费高清中文字幕av| 久久精品成人免费网站| av线在线观看网站| svipshipincom国产片| 国产精品九九99| 热99国产精品久久久久久7| 桃红色精品国产亚洲av| 国产野战对白在线观看| 亚洲av电影在线观看一区二区三区| 国产精品一区二区在线观看99| 久久久久网色| 亚洲人成电影免费在线| 日韩电影二区| 日日摸夜夜添夜夜添小说| 国产福利在线免费观看视频| 飞空精品影院首页| 一级片'在线观看视频| www.999成人在线观看| 又黄又粗又硬又大视频| 欧美成狂野欧美在线观看| 国产野战对白在线观看| 精品第一国产精品| 中文字幕人妻丝袜制服| 性色av一级| 一本色道久久久久久精品综合| 精品乱码久久久久久99久播| 亚洲精品国产av成人精品| 黄片大片在线免费观看| 在线观看人妻少妇| 亚洲情色 制服丝袜| 少妇裸体淫交视频免费看高清 | 国产精品 国内视频| 国产高清视频在线播放一区 | 国产在线视频一区二区| 久久久久网色| 女警被强在线播放| 国产免费av片在线观看野外av| 中文字幕高清在线视频| 免费看十八禁软件| 男女午夜视频在线观看| 欧美另类一区| 亚洲性夜色夜夜综合| 亚洲中文字幕日韩| 18禁裸乳无遮挡动漫免费视频| 欧美黄色片欧美黄色片| 超碰成人久久| 欧美人与性动交α欧美精品济南到| 日韩视频在线欧美| 亚洲精品av麻豆狂野| 美女大奶头黄色视频| 天天躁夜夜躁狠狠躁躁| 精品一区在线观看国产| 亚洲九九香蕉| 999精品在线视频| 一级片'在线观看视频| 大香蕉久久网| 亚洲欧美日韩另类电影网站| 久久久久久亚洲精品国产蜜桃av| 亚洲成av片中文字幕在线观看| 国产成人a∨麻豆精品| 欧美日韩亚洲综合一区二区三区_| 9191精品国产免费久久| 精品高清国产在线一区| 90打野战视频偷拍视频| 精品高清国产在线一区| 国产精品九九99| 99久久综合免费| 国产精品一区二区在线观看99| 欧美乱码精品一区二区三区| 国产亚洲精品久久久久5区| 一本大道久久a久久精品| 老司机影院毛片| 国产在视频线精品| 日韩欧美一区二区三区在线观看 | 999久久久国产精品视频| 热99re8久久精品国产| 亚洲少妇的诱惑av| 中文字幕色久视频| 一区二区日韩欧美中文字幕| 91老司机精品| 一个人免费在线观看的高清视频 | 国产av一区二区精品久久| 国产精品一区二区免费欧美 | 大片免费播放器 马上看| 亚洲精品中文字幕一二三四区 | 日韩视频在线欧美| 热re99久久国产66热| 在线观看免费日韩欧美大片| 日韩 欧美 亚洲 中文字幕| 男男h啪啪无遮挡| 18在线观看网站| 日本欧美视频一区| 亚洲中文日韩欧美视频| 成人手机av| 午夜福利乱码中文字幕| 人妻人人澡人人爽人人| 99香蕉大伊视频| 国产不卡av网站在线观看| 老司机亚洲免费影院| 国产精品秋霞免费鲁丝片| 欧美黑人欧美精品刺激| 欧美日韩精品网址| 国产成人免费观看mmmm| 啦啦啦 在线观看视频| 亚洲成人免费av在线播放| 高潮久久久久久久久久久不卡| 永久免费av网站大全| 女人高潮潮喷娇喘18禁视频| 精品国内亚洲2022精品成人 | 欧美黄色片欧美黄色片| 国产精品久久久久久精品电影小说|