,,,,,*
(1. 中國民用航空華東地區(qū)空中交通管理局,上海200335;2. 南開大學(xué)網(wǎng)絡(luò)空間安全學(xué)院,天津300350;3. 國家計(jì)算機(jī)病毒應(yīng)急處理中心,天津300457)
根據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的研究報(bào)告[1],截止2018年5月,我國監(jiān)測到的移動應(yīng)用程序在架數(shù)量為415萬款,其中基于Android平臺開發(fā)的應(yīng)用更是占據(jù)了大部分市場。由于開源性和高占有率,Android操作系統(tǒng)成為惡意攻擊者針對移動平臺的首要攻擊目標(biāo)。同時(shí),由于用戶的盲目授權(quán)使攻擊者可以輕易繞過系統(tǒng)自帶的安全屏障,如權(quán)限聲明機(jī)制、訪問控制機(jī)制等。利用機(jī)器學(xué)習(xí)算法進(jìn)行惡意應(yīng)用檢測是目前常用的靜態(tài)檢測手段。
惡意應(yīng)用檢測方法實(shí)際上是二分類問題,指從大量的Android應(yīng)用中區(qū)分出哪些應(yīng)用是惡意應(yīng)用。一般分為以下2個(gè)步驟:第一步,通過對應(yīng)用的解析,能夠得到應(yīng)用的各種描述信息,再從描述信息中提出多種用于分類的特征;第二步,利用數(shù)據(jù)挖掘技術(shù),再根據(jù)提取的特征構(gòu)造分類器。相比于以往的人工分析,利用機(jī)器學(xué)習(xí)檢測可以降低成本、提升效率。
但這種檢測技術(shù)也存在一定的問題,一方面大多數(shù)檢測方法的特征空間是公開的,并且僅僅依賴于單模型。黑客可以根據(jù)特征的權(quán)重,修改惡意代碼的部分內(nèi)容,使得惡意樣本能夠規(guī)避單模型的分類,從而使模型的準(zhǔn)確度下降。另一方面,惡意代碼變異和進(jìn)化速度快、結(jié)構(gòu)復(fù)雜,每一次惡意代碼變種的出現(xiàn)和大規(guī)模繁殖都是經(jīng)濟(jì)效益驅(qū)動的結(jié)果,嚴(yán)重阻礙著數(shù)據(jù)挖掘技術(shù)的有效應(yīng)用。為了有效緩解模型退化帶來的預(yù)測效果下降的問題,本文提出基于可信度的多模型協(xié)同檢測方法。
惡意代碼檢測技術(shù)主要分為2種:基于簽名的檢測方法和基于行為的檢測方法?;诤灻臋z測方法比較傳統(tǒng),由于Android手機(jī)的計(jì)算能力、存儲能力有限,因此基于簽名的檢測方法無法應(yīng)用在手機(jī)上。而基于行為的檢測技術(shù)不需要依賴簽名,是當(dāng)前主流的惡意代碼檢測方法。依據(jù)是否需要實(shí)際運(yùn)行程序,可以將基于行為的檢測技術(shù)分為以下3種。
1.1.1 靜態(tài)分析方法
靜態(tài)分析方法是當(dāng)前應(yīng)用最廣泛的惡意代碼檢測方法。超過一半的檢測方法是基于靜態(tài)分析方法或靜態(tài)分析方法和其他方法相結(jié)合的方式設(shè)計(jì)的。其優(yōu)勢是在應(yīng)用安裝前進(jìn)行分析,不必在監(jiān)測環(huán)境下運(yùn)行代碼。Ma等[2]提出了一種組合檢測惡意代碼的方法。該方法從應(yīng)用的控制流圖中提取API調(diào)用、API使用頻率、API調(diào)用序列這3種靜態(tài)特征,并分別使用C4.5、DNN、LSTM分類算法訓(xùn)練模型,最終采用投票的方法確定測試樣本的標(biāo)簽。Vinod等[3]從隨機(jī)輸入和人工交互輸入中提取系統(tǒng)調(diào)用,使用2種特征選擇方法得到2個(gè)系統(tǒng)調(diào)用集合并構(gòu)建特征矩陣,最后輸入到RandomForest、RotationForest、AdaBoost這3個(gè)訓(xùn)練模型。
1.1.2 動態(tài)分析方法
動態(tài)分析要求在沙箱或隔離的環(huán)境中安裝、執(zhí)行應(yīng)用,這樣做的目的是為了能夠盡可能準(zhǔn)確地記錄應(yīng)用運(yùn)行時(shí)的行為。網(wǎng)絡(luò)流量分析是動態(tài)分析的實(shí)例,分析過程中的所有網(wǎng)絡(luò)數(shù)據(jù)包均會被捕獲分析。動態(tài)分析方法能夠監(jiān)控應(yīng)用執(zhí)行過程中應(yīng)用的行為,并檢測應(yīng)用中是否存在惡意行為。該方法能提供更高的安全性,在分析正確的前提下,可以檢測出使用混淆技術(shù)的惡意代碼。缺點(diǎn)是需要在安裝完成后執(zhí)行檢測操作。
1.1.3 混合分析方法
混合分析方法能夠結(jié)合動態(tài)和靜態(tài)的優(yōu)勢,能夠提高檢測的準(zhǔn)確程度。DroidCat使用方法調(diào)用和組件間通信調(diào)用(ICC)2種動態(tài)特征進(jìn)行惡意代碼分類,能夠?qū)崿F(xiàn)比靜態(tài)方法和基于系統(tǒng)調(diào)用的動態(tài)分析更好的魯棒性[4]。MalDAE研究靜態(tài)和動態(tài)API調(diào)用之間的聯(lián)系,基于語義將它們合并為混合序列,并定義了多種惡意代碼的行為類型,且提供可解釋的檢測結(jié)果,最終實(shí)現(xiàn)了97.89%的檢測精度和94.39%的分類精度[5]。MADAM利用4個(gè)級別(內(nèi)核、用戶、應(yīng)用、包)的特征實(shí)現(xiàn)了惡意代碼檢測和實(shí)時(shí)阻斷惡意行為的功能,并能檢測到來自125種惡意家族的惡意行為[6]?;旌戏治龅娜秉c(diǎn)在于檢測系統(tǒng)的設(shè)計(jì)十分復(fù)雜。
基礎(chǔ)的靜態(tài)檢測方法因?yàn)槟P屯嘶?,預(yù)測效果隨之下降,可以從多方面改進(jìn)檢測模型。一種思路是對提取的特征進(jìn)一步提純,選擇其中更具有代表性的特征,在提高運(yùn)算效率的同時(shí)也能夠提升模型預(yù)測的準(zhǔn)確度[7]。Chen等[8]提出將二元特征矩陣通過數(shù)學(xué)分析改為連續(xù)計(jì)數(shù)的向量元素,連續(xù)計(jì)數(shù)取值區(qū)間為0到1。相比于二元矩陣,連續(xù)計(jì)數(shù)會更加精確。王全民等[9]也提出一種協(xié)同訓(xùn)練惡意代碼的檢測方法,具體做法是選取權(quán)限特征、API調(diào)用序列特征和Opcode特征形成3類非重疊的子視圖,針對每一種特征選擇最優(yōu)的分類算法生成3個(gè)分類器,預(yù)測得到3個(gè)結(jié)果。當(dāng)出現(xiàn)不一致情況時(shí),根據(jù)少數(shù)服從多數(shù)的規(guī)則作出最終的決策。
Conformal prediction算法可以用于分類或回歸分析的點(diǎn)預(yù)測,如SVM分類方法、決策樹、boosting提高弱分類算法和神經(jīng)網(wǎng)絡(luò)等等[10]。利用該算法能夠得到預(yù)測結(jié)果的可信程度。
不一致程度測量的關(guān)鍵是一個(gè)實(shí)值函數(shù)A(B,z),該實(shí)值函數(shù)得到項(xiàng)z與集合B的不一致程度,以具體數(shù)值的形式表現(xiàn)出來。在一般情況下,z與z′(z′B)的距離可以表征這個(gè)程度,距離越大時(shí),二者越不相似,故函數(shù)A的定義如下:
A(B,z):=d(z′(B),z)。
(1)
在分類算法中,假設(shè)B={z1,z2,…,zn-1},其中zi=(xi,yi),yi是xi的標(biāo)簽,那么不一致函數(shù)可以表示為:
(2)
另外,一致性程度與不一致程度是一組相對概念,取決于實(shí)值函數(shù)A(B,z)的定義。不論是利用一致性得分還是不一致性得分,對p-value的計(jì)算結(jié)果都不會產(chǎn)生影響。
Conformal prediction算法的關(guān)鍵是計(jì)算p-value,該值體現(xiàn)了待預(yù)測項(xiàng)的不一致性得分在所有項(xiàng)中的排名情況。計(jì)算所有訓(xùn)練集樣本和測試集樣本的不一致性得分,每計(jì)算一個(gè)訓(xùn)練集樣本i的不一致性得分,需要利用其他樣本訓(xùn)練一個(gè)新模型,用該模型預(yù)測i的標(biāo)簽并得到i的不一致性得分。循環(huán)得到所有樣本的不一致性得分。
給定初始數(shù)據(jù)集{z1(x1,y1),z2(x2,y2),…,zn-1(xn-1,yn-1)},待預(yù)測zn(xn,yn)。Conformal prediction算法通過觀察(z1,z2,…,zn-1,xn)預(yù)測yn,結(jié)合前文不一致程度測量函數(shù)A,Conformal prediction算法計(jì)算p-value的具體過程如下:
①假設(shè)yn=y,即zn:=(xn,y);
②i=1,2,…,n時(shí),計(jì)算αi=A({z1,z2,…,zn}
p-value統(tǒng)計(jì)比αn大的αi的數(shù)量在總體n中的占比,p值越大,說明αn與原數(shù)據(jù)集越相似,yn=y的可能性越大。
該算法引入2個(gè)概念,分別是Vcredibility和Vconfidence[11]。若有n種標(biāo)簽時(shí),則循環(huán)假設(shè)y=yi(i= 1, 2,…,n),可以得到n個(gè)p-value值,記為P1,P2,…,Pn。那么:
Vcredibility=max(Pi),i=1, 2, …,n,
(3)
Vconfidence=1-max(PiVcredibility),i=1, 2, …,n。
(4)
當(dāng)有4種標(biāo)簽時(shí),Vcredibility與Vconfidence的說明如圖1所示。
圖1 Vcredibility與Vconfidence說明Fig.1 Instructions of Vcredibility and Vconfidence
Vcredibility越大,說明預(yù)測的準(zhǔn)確度越高,但僅有這一項(xiàng)評價(jià)指標(biāo)是片面的,Vcredibility較高并不能肯定預(yù)測項(xiàng)屬于該類別,因?yàn)槠渌膒-value值可能也很高,所以引入Vconfidence這個(gè)概念,它計(jì)算的是待測樣本與其他類別的不一致性,Vconfidence越大,說明待測樣本與其他集合越不相似。
圖2 系統(tǒng)的設(shè)計(jì)框架Fig.2 Framework of system
多模型協(xié)同檢測系統(tǒng)的設(shè)計(jì)框架可分為如圖2所示的5個(gè)部分:第一部分是Android應(yīng)用的數(shù)據(jù)集,包括良性與惡意的訓(xùn)練集樣本以及測試集樣本;第二部分是特征提取,包括所選特征的相關(guān)信息和特征統(tǒng)計(jì)技術(shù)(TF-IDF)等;第三部分是根據(jù)機(jī)器學(xué)習(xí)算法建立2個(gè)模型,分別是SVM模型和隨機(jī)森林模型;第四部分是利用Conformal prediction算法計(jì)算2種模型預(yù)測結(jié)果的可信程度;最后一部分介紹多模型協(xié)同分析方法,即最終協(xié)同系統(tǒng)的決策方法。
本文參照DREBIN[12]算法中提出8種特征進(jìn)行選擇。從Android應(yīng)用的manifest文件和字節(jié)碼文件中各提取4種。然后將樣本中涉及到的8類特征存儲在后綴為data的文件中,樣本與其特征文件一一對應(yīng)。提取的特征信息如表1所示。
表1 Android應(yīng)用提取的特征
前四類特征分別與硬件組件請求、權(quán)限信息、系統(tǒng)接口以及進(jìn)程間交互的介質(zhì)有關(guān)。惡意代碼通過獲得這些權(quán)限達(dá)成控制或入侵的目的。后四類特征從字節(jié)碼文件中提取,由于dex文件是安裝時(shí)生成的二進(jìn)制文件,所以可以從中獲得許多有用的信息。
以上選擇的是字符串形式的特征,而機(jī)器學(xué)習(xí)算法輸入的是數(shù)值向量。因此,需要利用統(tǒng)計(jì)方面的技術(shù)將字符串特征轉(zhuǎn)化為數(shù)值向量。TF-IDF是一種詞頻統(tǒng)計(jì)技術(shù),常用于信息檢索和數(shù)據(jù)挖掘等方面。該技術(shù)的主要思想是:特征串i在Android應(yīng)用j中出現(xiàn)的次數(shù)多,則它的詞頻(TF)就大,而在其他應(yīng)用中出現(xiàn)的次數(shù)較少或甚至不出現(xiàn),則認(rèn)為特征串可以用來區(qū)分應(yīng)用。同理,若包含特征串i的文件很少,特征串i的逆向文檔頻率(IDF)很大,也表明特征串i也有區(qū)分應(yīng)用的能力。利用該技術(shù)可以保留重要的語料,完成字符串到向量的轉(zhuǎn)化。
根據(jù)特征提取部分,使用相同的特征構(gòu)建SVM模型和隨機(jī)森林模型。
SVM算法建立二分類模型,主要思想是在空間中尋找一個(gè)能將所有數(shù)據(jù)劃開的超平面,使得點(diǎn)到超平面的間隔最大。針對惡意代碼檢測,SVM根據(jù)輸入樣本得到能夠區(qū)分良性與惡意應(yīng)用的超平面,并根據(jù)未知應(yīng)用的特征向量預(yù)測其所屬類別。
隨機(jī)森林算法是集成學(xué)習(xí)思維的應(yīng)用。該算法建立多棵決策樹,通過投票表決得到最終結(jié)果,具有分類效果好,不容易產(chǎn)生過擬合等優(yōu)勢。
2種算法在不同場景下各有優(yōu)勢。隨機(jī)森林算法可以處理缺失屬性的樣本以及樣本特征關(guān)聯(lián)性不強(qiáng)的情形。SVM算法能夠應(yīng)對特征量巨大的情況,同時(shí)不需要依賴全部數(shù)據(jù)[13]。正是因?yàn)閮烧咭罁?jù)完全不同的分類方法,各有優(yōu)劣,所以本文利用2種算法協(xié)同檢測,選擇可信度更高的結(jié)果,能夠在一定程度上提高預(yù)測的準(zhǔn)確度。
傳統(tǒng)學(xué)習(xí)模型的分類結(jié)果只說明未知應(yīng)用“是”或者“不是”惡意應(yīng)用,不能給出預(yù)測結(jié)果的可信度,更無從得知模型是否存在退化的問題,所以我們將一致性評估方法應(yīng)用于協(xié)同檢測系統(tǒng)中,用于計(jì)算每一個(gè)單模型預(yù)測結(jié)果,得到其可信程度。
3.3.1 計(jì)算未知應(yīng)用xi的一致性得分
分類問題依賴于評分函數(shù),而評分函數(shù)是用來測量一個(gè)樣本與一組舊樣本之間的差異性。對于不同的算法,測試樣本的一致性得分就等于算法評分函數(shù)的輸出值。因?yàn)橐恢滦栽u估和算法本身無關(guān),所以可以在多種機(jī)器學(xué)習(xí)算法的頂層利用預(yù)測結(jié)果的可信度進(jìn)行惡意代碼檢測。本文利用SVM和隨機(jī)森林分類模型實(shí)現(xiàn)協(xié)同分析,使用2種模型分別預(yù)測未知應(yīng)用xi的標(biāo)簽,而后計(jì)算每個(gè)模型對未知應(yīng)用的評分。由于惡意代碼檢測是二分類問題,故只有惡意與良性2種標(biāo)簽,且每一類標(biāo)簽都有對應(yīng)的評分(衡量未知應(yīng)用xi與其他應(yīng)用之間的差異性程度)。對于未知應(yīng)用xi,每個(gè)模型都輸出2個(gè)評分,總共可以得到4個(gè)一致性得分:
(5)
3.3.2 計(jì)算未知應(yīng)用xi的p-value
p-value是表示一個(gè)新應(yīng)用與已知應(yīng)用集合之間一致性的統(tǒng)計(jì)量,反映了新應(yīng)用在已知集合中的顯著程度。計(jì)算一致性得分是計(jì)算p-value的基礎(chǔ)。根據(jù)一致性得分與標(biāo)簽數(shù)量的關(guān)系,并且協(xié)同分析系統(tǒng)是在2個(gè)模型的基礎(chǔ)上實(shí)現(xiàn)的,所以未知應(yīng)用xi對應(yīng)4個(gè)一致性得分。同樣地,可以計(jì)算出xi的4個(gè)p-value值:
(6)
3.3.3 計(jì)算未知應(yīng)用xi的Vcredibility與Vconfidence
對于未知應(yīng)用xi,可以從每個(gè)模型的預(yù)測結(jié)果中得到1組Vcredibility和Vconfidence。根據(jù)本文中使用的SVM和隨機(jī)森林分類模型,可以得到2組Vcredibility和Vconfidence:
(7)
3.3.4 計(jì)算未知應(yīng)用xi的Vquality
本文定義一個(gè)綜合評價(jià)模型預(yù)測指標(biāo)Vquality,即預(yù)測結(jié)果的可信程度。Vquality的計(jì)算表達(dá)式如(8)所示。
Vquality=Vcredibility×Vconfidence。
(8)
Vcredibility越大,說明待測樣本與預(yù)測集合越相似,Vconfidence越大,待測樣本與其他集合的相似程度越小,所以將二者相乘得到的Vquality可以更加全面地、放大地考慮某一模型預(yù)測結(jié)果的可信程度。
協(xié)同檢測系統(tǒng)的預(yù)測結(jié)果從2個(gè)單模型的預(yù)測結(jié)果中選擇。
①當(dāng)2個(gè)單模型預(yù)測結(jié)果一致時(shí),可以相互印證,協(xié)同檢測系統(tǒng)的結(jié)果與二者相同。
②當(dāng)2個(gè)單模型預(yù)測結(jié)果相異時(shí),比較2個(gè)單模型的Vquality,選擇Vquality更大的模型預(yù)測結(jié)果作為最終預(yù)測結(jié)果。
AndroZoo是一個(gè)從多種渠道收集Android應(yīng)用的平臺,并以APK的形式呈現(xiàn)給使用者。本次實(shí)驗(yàn)的數(shù)據(jù)全部來源這個(gè)網(wǎng)站。
取2015年1月到10月的部分應(yīng)用作為本次實(shí)驗(yàn)數(shù)據(jù),其中1月、2月為訓(xùn)練集,3月至10月為測試集,每月取良性樣本與惡意樣本的比例為1∶1,共獲得訓(xùn)練集樣本13 028個(gè),測試集樣本66 972個(gè),訓(xùn)練集樣本分布見表2,測試集樣本分布見表3。
表2 訓(xùn)練集樣本分布
表3 測試集樣本分布
在機(jī)器學(xué)習(xí)算法中,需要用不同的指標(biāo)對算法的預(yù)測情況作出評價(jià),在本次系統(tǒng)設(shè)計(jì)中,選擇精確率(Precision)、召回率(Recall)和綜合評價(jià)指標(biāo)(F1)三者作為衡量其預(yù)測優(yōu)劣的依據(jù)。精確率體現(xiàn)的是預(yù)測正確的數(shù)據(jù)占全部數(shù)據(jù)的比值;召回率體現(xiàn)的是所有預(yù)測為正類的數(shù)據(jù)中預(yù)測正確的數(shù)據(jù)占比;而綜合評價(jià)指標(biāo)F1則是綜合考慮精確率、召回率后給出的計(jì)算公式,其中TP代表將正類預(yù)測為正類的數(shù)量,TN代表將負(fù)類預(yù)測為負(fù)類的數(shù)量,TFP代表將負(fù)類預(yù)測為正類的數(shù)量,ηP代表精確率,ηR代表召回率。評價(jià)指標(biāo)的公式見表4。
表4 評價(jià)指標(biāo)公式
用訓(xùn)練集數(shù)據(jù)分別訓(xùn)練SVM、隨機(jī)森林和協(xié)同檢測的模型,得到3個(gè)模型SModel、RModel、HModel。利用3種模型分別預(yù)測3月至10月的測試數(shù)據(jù),計(jì)算其準(zhǔn)確率、召回率和F1,觀察協(xié)同檢測系統(tǒng)的預(yù)測效果。
4.4.1 SVM模型測試結(jié)果
利用SVM模型預(yù)測3月至10月的惡意樣本與良性樣本的結(jié)果詳見表5。
表5 SVM模型預(yù)測結(jié)果
4.4.2 隨機(jī)森林模型測試結(jié)果
利用隨機(jī)森林模型預(yù)測3月至10月的惡意樣本與良性樣本的結(jié)果詳見表6。
表6 隨機(jī)森林模型預(yù)測結(jié)果
4.4.3 協(xié)同檢測模型測試結(jié)果
協(xié)同檢測模型預(yù)測惡意樣本與良性樣本的結(jié)果詳見表7。
表7 協(xié)同檢測模型系統(tǒng)預(yù)測結(jié)果
4.4.4 3種模型測試結(jié)果對比
F1能夠綜合反映預(yù)測效果,3種模型預(yù)測結(jié)果的F1平均值詳見表8。
表8 F1平均值比較
預(yù)測惡意樣本時(shí),2種單模型相比較,SVM預(yù)測的準(zhǔn)確度低、召回率高。協(xié)同檢測系統(tǒng)的效果最好:與SVM相比,F(xiàn)1值平均提升了0.875%。通過預(yù)測準(zhǔn)確度計(jì)算,在33 468個(gè)惡意測試樣本中有1 004個(gè)錯(cuò)誤預(yù)測的樣本被修正。與隨機(jī)森林相比,F(xiàn)1值平均提升了1.625%,召回率也由單模型的0.87上升至0.91。
預(yù)測良性樣本時(shí),2種單模型中,SVM的預(yù)測準(zhǔn)確度高,但召回率低。協(xié)同檢測系統(tǒng)仍然具有最好的效果:與SVM相比,F(xiàn)1值平均提升了1.375%,召回率由原來的0.80提升至0.83。與隨機(jī)森林相比,F(xiàn)1值平均提升了1.125%,通過預(yù)測準(zhǔn)確度計(jì)算有1 339個(gè)良性樣本被修正。
結(jié)果顯示,SVM和隨機(jī)森林的預(yù)測效果在不同場景下各有優(yōu)劣,兩種模型的結(jié)合能夠優(yōu)勢互補(bǔ)從而有效提高協(xié)同檢測系統(tǒng)預(yù)測的準(zhǔn)確程度。
F1值能夠綜合反映預(yù)測結(jié)果,比較三者的F1值,惡意樣本與良性樣本的結(jié)果分別如圖3、圖4所示。因?yàn)閻阂獯a繁殖速度快、變形多,隨著時(shí)間推移,模型退化也會影響預(yù)測效果,故3月到10月的預(yù)測結(jié)果總體呈下降趨勢。其中7月F1值明顯低于其他月份,初步分析是由于該月份測試數(shù)據(jù)中的應(yīng)用特征在訓(xùn)練集中涵蓋較少。協(xié)同檢測系統(tǒng)在個(gè)別月份與單個(gè)模型的F1值相同,提升效果不明顯。分析實(shí)驗(yàn)的不足,一方面是實(shí)驗(yàn)樣本的訓(xùn)練集規(guī)模較小,這會影響p-value,即測試樣本排名的計(jì)算。另一方面,在根據(jù)Vquality對2種模型預(yù)測結(jié)果相異進(jìn)行取舍時(shí),沒有找到更好的方法對實(shí)際上正確的模型預(yù)測結(jié)果進(jìn)行有效放大。但總體來說,協(xié)同檢測系統(tǒng)能夠保證在不低于每一種單模型的基礎(chǔ)上有所提升。
圖4 良性測試樣本的比較Fig.4 Comparison of benign samples
模型退化將會使攻擊者更容易躲避檢測,為了緩解這個(gè)問題,本文提出基于可信度的多模型協(xié)同檢測方法,用SVM和隨機(jī)森林分類算法各訓(xùn)練一個(gè)模型,對待測樣本進(jìn)行預(yù)測會得到2個(gè)結(jié)果。利用Comformal prediction算法分別計(jì)算預(yù)測結(jié)果的可信程度,當(dāng)2個(gè)模型的預(yù)測結(jié)果不一致時(shí)選擇更為可信的結(jié)果作為協(xié)同檢測系統(tǒng)的結(jié)果。