• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于權(quán)限的Android應(yīng)用風(fēng)險(xiǎn)評(píng)估方法

    2019-08-01 01:35卜同同曹天杰
    計(jì)算機(jī)應(yīng)用 2019年1期
    關(guān)鍵詞:風(fēng)險(xiǎn)評(píng)估

    卜同同 曹天杰

    摘 要:針對(duì)Android權(quán)限機(jī)制存在的問題以及傳統(tǒng)的應(yīng)用風(fēng)險(xiǎn)等級(jí)評(píng)估方法的不足,提出了一種基于權(quán)限的Android應(yīng)用風(fēng)險(xiǎn)評(píng)估方法。首先,通過對(duì)應(yīng)用程序進(jìn)行逆向工程分析,提取出應(yīng)用程序聲明的系統(tǒng)權(quán)限、靜態(tài)分析的權(quán)限以及自定義的權(quán)限,和通過動(dòng)態(tài)檢測(cè)獲取應(yīng)用程序執(zhí)行使用到的權(quán)限;然后,從具有惡意傾向的組合權(quán)限、“溢權(quán)”問題和自定義權(quán)限三個(gè)方面對(duì)應(yīng)用程序進(jìn)行量性風(fēng)險(xiǎn)評(píng)估;最后,采用層次分析法(AHP)計(jì)算上述三個(gè)方面的權(quán)重,評(píng)估應(yīng)用的風(fēng)險(xiǎn)值。對(duì)6245個(gè)軟件樣本進(jìn)行訓(xùn)練,構(gòu)建自定義權(quán)限數(shù)據(jù)集和具有惡意傾向的權(quán)限組合數(shù)據(jù)集。實(shí)驗(yàn)結(jié)果表明,與Androguard相比,所提方法能更精確地評(píng)估應(yīng)用軟件的風(fēng)險(xiǎn)值。

    關(guān)鍵詞:Android安全;風(fēng)險(xiǎn)評(píng)估;應(yīng)用權(quán)限;量性評(píng)估;靜態(tài)分析;動(dòng)態(tài)檢測(cè)

    中圖分類號(hào): TP309.2

    文獻(xiàn)標(biāo)志碼:A

    Abstract: Focusing on the problems existing in Android permission mechanism and poor capability of traditional measurement methods of Android software security, a risk assessment method of Android APP based on permission was proposed. Firstly, the system permissions declared by application, the permissions obtained through static analysis and custom permissions were extracted by reverse-engineering analysis of application. At the same time, the permissions used by executing application were extracted through dynamic detection. Secondly, quantitative risk assessment of applications was performed from three aspects: permission combination of hiding malicious intent, “over-privilege” problem and custom permission vulnerability. Finally, the Analytic Hierarchy Process (AHP) evaluation model was adopted to calculate the weights of three aspects above for estimating risk value of application. In addition, custom permission data set and permissions combination dataset with hiding malicious intent were built by training 6245 software samples collected from application store and VirusShare. The experimental results show that the proposed method can assess risk value of application software more accurately compared with Androguard.

    Key words: Android security; risk assessment; application permission; quantitative assessment; static analysis; dynamic detection

    0 引言

    隨著移動(dòng)互聯(lián)網(wǎng)的快速發(fā)展,手機(jī)逐漸成為用戶連接網(wǎng)絡(luò)和存儲(chǔ)個(gè)人信息最重要的設(shè)備,在人們生活中處于越來越重要的地位。根據(jù)國(guó)際數(shù)據(jù)公司(International Data Corporation, IDC)的統(tǒng)計(jì)[1],智能手機(jī)公司在2017年的出貨量為14.6億部,其中約85%的設(shè)備運(yùn)行Android平臺(tái)。與此同時(shí),Android系統(tǒng)的開放性吸引了更多的應(yīng)用程序開發(fā)者;而Android應(yīng)用程序的多樣性同樣吸引了越來越多的用戶開始嘗試并使用Android系統(tǒng)的智能手機(jī),但是這也是信息科技(Information Technology, IT)專家的焦慮之源。由于智能手機(jī)中存放著大量高度隱私的個(gè)人數(shù)據(jù),故智能手機(jī)比PC掌握用戶更多的敏感數(shù)據(jù),吸引了更多的黑客注意,這對(duì)于Android生態(tài)系統(tǒng)以及用戶個(gè)人數(shù)據(jù)的安全性提出了更高的安全要求。

    為了保證護(hù)用戶數(shù)據(jù)的安全隱私及系統(tǒng)資源,Android操作系統(tǒng)采用了沙盒機(jī)制,在默認(rèn)情況下,Android應(yīng)用只能訪問有限的系統(tǒng)資源,除此之外,Android OS還采用了權(quán)限機(jī)制來限制對(duì)敏感資源的訪問。雖然自Android 6.0以來,Android平臺(tái)采用了動(dòng)態(tài)權(quán)限授予機(jī)制,允許用戶在安裝應(yīng)用程序以后,可以撤銷或授予應(yīng)用程序敏感權(quán)限進(jìn)行敏感操作,以保證用戶數(shù)據(jù)的安全和隱私;但是,動(dòng)態(tài)權(quán)限授予機(jī)制依賴于用戶對(duì)于Android權(quán)限有充分的認(rèn)識(shí),并能妥善地管理應(yīng)用權(quán)限這個(gè)前提。然而Bagheri等[2]學(xué)者的研究表明只有極少的用戶關(guān)注并熟悉Android動(dòng)態(tài)運(yùn)行時(shí)權(quán)限。此外,非專業(yè)用戶并不知道,在危險(xiǎn)權(quán)限組的第一個(gè)權(quán)限使用提醒時(shí)授予該應(yīng)用此權(quán)限并不再主動(dòng)撤銷授權(quán)。該應(yīng)用在擁有此項(xiàng)權(quán)限的狀態(tài)下,再申請(qǐng)使用此危險(xiǎn)權(quán)限組的其他權(quán)限時(shí),Android系統(tǒng)會(huì)在不與用戶交互的情況下直接授權(quán)。Android粗粒度的權(quán)限授予機(jī)制、Android應(yīng)用開發(fā)者的過度申請(qǐng)權(quán)限、多個(gè)應(yīng)用利用自定義權(quán)限漏洞而提升權(quán)限和第三方應(yīng)用市場(chǎng)不完善的審核機(jī)制等,使得Android軟件大量存在“溢權(quán)(over-privilege)”和權(quán)限泄露等問題,從而導(dǎo)致Android應(yīng)用的質(zhì)量良莠不齊。由此可見,Android采用的權(quán)限機(jī)制對(duì)用戶數(shù)據(jù)安全性進(jìn)行保護(hù)的方法并不能夠達(dá)到理想的安全防御效果。為了保護(hù)用戶,Android應(yīng)用市場(chǎng)非常需要更好的風(fēng)險(xiǎn)評(píng)估方法來定量評(píng)估應(yīng)用程序可能帶來的威脅。

    1 相關(guān)工作

    權(quán)限是Android系統(tǒng)安全模型的第一道防線,能保證應(yīng)用安全地訪問敏感數(shù)據(jù)以及跨應(yīng)用交互。Google[3]提供了關(guān)于正確使用Android權(quán)限模型的建議和最佳做法,但最終依靠應(yīng)用程序開發(fā)人員將其正確用于產(chǎn)品中。

    近年來Android權(quán)限機(jī)制存在的問題被越來越多的研究學(xué)者所關(guān)注。Felt等[4]提出了Android應(yīng)用程序存在“溢權(quán)”現(xiàn)象:很多Android應(yīng)用程序開發(fā)人員為了后續(xù)再開發(fā)或收集用戶偏好信息等原因,在軟件開發(fā)中突破了“最小權(quán)限原則”,在應(yīng)用程序清單文件中申請(qǐng)過多的權(quán)限,使得多達(dá)三分之一的應(yīng)用程序存在“溢權(quán)”問題。

    張銳等[5]提出了采用卡方檢驗(yàn)計(jì)算各權(quán)限屬性對(duì)于分類結(jié)果的影響大小,利用權(quán)限之間以及權(quán)限和惡意傾向的相關(guān)性,去除冗余權(quán)限特征、對(duì)權(quán)限屬性聚類,提取具有代表性的權(quán)限特征,并進(jìn)一步減少冗余后,利用基于不同權(quán)限特征權(quán)重的改進(jìn)樸素貝葉斯算法進(jìn)行軟件分類,能夠初步檢測(cè)Android應(yīng)用軟件是否有惡意傾向。實(shí)驗(yàn)表明,應(yīng)用的權(quán)限組合才是決定應(yīng)用威脅性的關(guān)鍵。

    Google驗(yàn)證了文獻(xiàn)[6]中提出的嚴(yán)重的自定義權(quán)限漏洞,惡意軟件開發(fā)者可以利用這些漏洞來開發(fā)應(yīng)用來獲得對(duì)關(guān)鍵平臺(tái)和應(yīng)用程序資源的未經(jīng)授權(quán)的訪問。利用這些漏洞,應(yīng)用軟件可以繞過請(qǐng)求用戶授予/拒絕權(quán)限的交互界面而直接獲取高風(fēng)險(xiǎn)的系統(tǒng)資源,并且還可以未經(jīng)授權(quán)訪問其他應(yīng)用程序的受保護(hù)組件。這嚴(yán)重違反了Android運(yùn)行時(shí)權(quán)限模型中應(yīng)始終保持的一個(gè)關(guān)鍵安全原則:沒有用戶交互授權(quán),不應(yīng)授予應(yīng)用任何危險(xiǎn)的運(yùn)行時(shí)權(quán)限。Android上自定義的兩種權(quán)限漏洞攻擊為自定義權(quán)提升攻擊和混淆代理攻擊。

    權(quán)限信息是檢測(cè)Android軟件的關(guān)鍵因素之一。大量研究學(xué)者針對(duì)權(quán)限存在的問題來評(píng)估應(yīng)用程序的隱私風(fēng)險(xiǎn)或安全等級(jí)。Hamed等[7]提出了一種主動(dòng)的面向用戶的方法,讓用戶意識(shí)到授予Android應(yīng)用程序權(quán)限所涉及的隱私風(fēng)險(xiǎn)。該模型的參數(shù)是權(quán)限及其相互作用的嚴(yán)重性和相對(duì)重要性。徐君鋒等[8]通過對(duì)Android軟件逆向分析,根據(jù)不同系統(tǒng)權(quán)限安全等級(jí)劃分,給定安全范圍內(nèi)的安全系數(shù),并對(duì)Android軟件進(jìn)行初步安全評(píng)分;同時(shí)結(jié)合Android軟件的認(rèn)證強(qiáng)度和第三方應(yīng)用市場(chǎng)上的違規(guī)記錄,再綜合度量軟件的最終安全信用指數(shù)。文獻(xiàn)[9]中提出使用靜態(tài)代碼指標(biāo)作為預(yù)測(cè)器,首先對(duì)靜態(tài)代碼度量進(jìn)行初步風(fēng)險(xiǎn)評(píng)分,在進(jìn)一步作數(shù)據(jù)處理確定各個(gè)靜態(tài)代碼度量的風(fēng)險(xiǎn)等級(jí),最后選擇合適的靜態(tài)代碼度量來預(yù)測(cè)和評(píng)估與Android應(yīng)用程序相關(guān)的安全和隱私風(fēng)險(xiǎn)。Android多準(zhǔn)則應(yīng)用程序信任評(píng)估器(Multi-criteria App Evaluator of TRust for AndrOID, MAETROID)[10]是一個(gè)用來評(píng)估Android應(yīng)用程序的可信度的框架,可以評(píng)估應(yīng)用程序?qū)τ脩粼斐娠L(fēng)險(xiǎn)的概率。在部署時(shí)對(duì)應(yīng)用程序進(jìn)行多準(zhǔn)則分析,返回一個(gè)簡(jiǎn)單易懂的應(yīng)用程序風(fēng)險(xiǎn)等級(jí)評(píng)估,即判斷應(yīng)用程序是可信還是中等風(fēng)險(xiǎn)或高風(fēng)險(xiǎn),旨在幫助用戶決定是否要安裝新的應(yīng)用程序。該框架以應(yīng)用程序所申請(qǐng)的權(quán)限集合、從市場(chǎng)收集到的應(yīng)用程序質(zhì)量和受歡迎程度作為一組元數(shù)據(jù)。

    2 評(píng)估方法

    目前的研究主要是針對(duì)應(yīng)用程序本身的代碼元數(shù)據(jù)數(shù)量進(jìn)行統(tǒng)計(jì)分析,并沒有將自定義權(quán)限漏洞放入應(yīng)用風(fēng)險(xiǎn)評(píng)估中。本文針對(duì)Android權(quán)限機(jī)制存在的問題,提出一種由具有惡意傾向的系統(tǒng)權(quán)限組合檢測(cè)評(píng)估模塊、系統(tǒng)權(quán)限的“溢權(quán)”的檢測(cè)評(píng)估模塊和自定義權(quán)限漏洞的檢測(cè)評(píng)估模塊構(gòu)成的定量應(yīng)用風(fēng)險(xiǎn)評(píng)估方法。

    2.1 具有惡意傾向的權(quán)限組合檢測(cè)評(píng)估

    應(yīng)用程序可以通過申請(qǐng)組合的權(quán)限來實(shí)現(xiàn)對(duì)用戶隱私信息的竊取和傳播。例如,APP_M申請(qǐng)了連接網(wǎng)絡(luò)和讀取聯(lián)系人這組權(quán)限,就存在未經(jīng)用戶同意而收集用戶通信錄信息,為進(jìn)一步的廣告推廣、甚至電話或者短信詐騙助力。文獻(xiàn)[11]的實(shí)驗(yàn)結(jié)果證明,應(yīng)用程序的權(quán)限組合能夠檢測(cè)Android應(yīng)用軟件是否有惡意傾向,是判定應(yīng)用程序威脅性的重要因素,但它并沒考慮應(yīng)用本身的用途,只考慮了權(quán)限本身。例如,位置定位權(quán)限對(duì)于導(dǎo)航和地圖類應(yīng)用程序是必要權(quán)限,對(duì)于健身運(yùn)動(dòng)類應(yīng)用是非必要權(quán)限,對(duì)于主題壁紙類應(yīng)用是非需權(quán)限。通過對(duì)收集的良性應(yīng)用程序進(jìn)行逆向工程,提取權(quán)限信息樣本,根據(jù)各類應(yīng)用程序的使用概率,將每類單個(gè)應(yīng)用權(quán)限分為三個(gè)威脅級(jí)別。

    定義1 根據(jù)單個(gè)權(quán)限pi在該類應(yīng)用程序的必要性,其威脅值取為1,3,5中的一個(gè):

    T(pi)=1, pi對(duì)該類應(yīng)用程序有明顯的必要性3, pi對(duì)該類應(yīng)用程序有一定的必要性5, pi對(duì)該類應(yīng)用程序有很弱的必要性

    在影音播放類中:網(wǎng)絡(luò)連接、訪問網(wǎng)絡(luò)狀態(tài)和寫入外部存儲(chǔ)等權(quán)限明顯很必要;而讀取短信和發(fā)送短信在用戶登錄過程中有一定的必要性;寫短信和使用指紋硬件等權(quán)限在該類應(yīng)用的必要性很弱。在各類應(yīng)用中,權(quán)限的必要性越強(qiáng),其威脅性越小。采用層次分析法(Analytic Hierarchy Process, AHP)計(jì)算單個(gè)權(quán)限的威脅值T(pi)。

    不同的權(quán)限組合有不同的安全威脅值,根據(jù)有惡意傾向的組合權(quán)限不同的收集來源定義組合權(quán)限的威脅級(jí)別。

    定義2 權(quán)限組合pci的威脅性級(jí)別值為:

    T(pci)=1, pci來自相關(guān)文獻(xiàn)的實(shí)驗(yàn)結(jié)果3, pci來自Mal_Per_group5, pci來自典型的利用權(quán)限組合的攻擊

    其中,Mal_Per_group的收集在3.1.2節(jié)中詳述。具有惡意傾向的權(quán)限組合檢測(cè)算法如下所示。

    RRper_group為從應(yīng)用程序請(qǐng)求的權(quán)限組中去除待評(píng)估App所屬類常用權(quán)限組的非空真子集的剩余權(quán)限組。該方法根據(jù)式(1)計(jì)算該應(yīng)用程序由于使用的權(quán)限的組合帶來的風(fēng)險(xiǎn)。

    其中:T(pci)為Mal_Per_group中具有惡意傾向的權(quán)限組和的威脅值,λm代表具有惡意傾向的權(quán)限組合在應(yīng)用風(fēng)險(xiǎn)評(píng)估中的權(quán)重。

    2.2 “溢權(quán)”檢測(cè)評(píng)估

    手機(jī)應(yīng)用軟件管理著大量的用戶個(gè)人信息,例如:身份證、地址、通信記錄、短信、郵箱等,這為通過不同方法來分析用戶和操縱這些數(shù)據(jù)獲得利益提供了新的契機(jī)。不僅惡意軟件,甚至有些合法軟件也濫用這些信息。例如:Twitter手機(jī)軟件在沒得到用戶同意的情況下,將用戶的個(gè)人信息公之于眾。在應(yīng)用被允許執(zhí)行敏感操作時(shí),用戶數(shù)據(jù)有可能被修改甚至丟失。

    Android應(yīng)用軟件普遍存在著“溢權(quán)”問題。例如,38.5%的學(xué)習(xí)幫助類應(yīng)用程序?yàn)榱硕ㄏ蛲茝V自己的應(yīng)用軟件,而申請(qǐng)危險(xiǎn)權(quán)限組PHONE中的READ_PHONE_STATE來讀取用戶手機(jī)狀態(tài)。若應(yīng)用程序在清單文件中申請(qǐng)的權(quán)限,不存在于靜態(tài)分析得到的權(quán)限列表中,則該應(yīng)用程序就擁有過度權(quán)限。此時(shí),過度權(quán)限集是申請(qǐng)的權(quán)限集與靜態(tài)分析得到的權(quán)限集的差集;反之,若一個(gè)權(quán)限存在靜態(tài)分析得到的權(quán)限中,而不存在應(yīng)用程序在清單文件中申請(qǐng)的權(quán)限時(shí),則稱該權(quán)限為提升權(quán)限;然后,將其與從動(dòng)態(tài)執(zhí)行獲取的日志文件中提取的動(dòng)態(tài)權(quán)限列表相比較,兩者的差集記為靜默權(quán)限。

    該方法將應(yīng)用程序申請(qǐng)的系統(tǒng)權(quán)限列表記為Rper_list,將靜態(tài)分析的系統(tǒng)權(quán)限列表記為Sper_list,將動(dòng)態(tài)分析得到的系統(tǒng)權(quán)限列表記為Dper_list。系統(tǒng)權(quán)限的“溢權(quán)”檢測(cè)的詳細(xì)步驟如算法2所述。

    本文提出的風(fēng)險(xiǎn)評(píng)估方法根據(jù)式(2)計(jì)算由系統(tǒng)權(quán)限的“溢權(quán)”帶來的風(fēng)險(xiǎn):

    其中:T(opi)代表Oper_list中的系統(tǒng)權(quán)限對(duì)應(yīng)的保護(hù)等級(jí)的權(quán)重,λo表示了“溢權(quán)”問題評(píng)估應(yīng)用程序安全時(shí)的權(quán)重。

    2.3 自定義權(quán)限的風(fēng)險(xiǎn)評(píng)估

    Android提供一組權(quán)限標(biāo)簽來保護(hù)系統(tǒng)和用戶資源。與此同時(shí),Android平臺(tái)允許不受信任的第三方應(yīng)用聲明自己的自定義權(quán)限,來限制其他應(yīng)用程序?qū)υ搼?yīng)用程序組件的訪問。簡(jiǎn)而言之,Android的權(quán)限模型是通過使用一組名為權(quán)限的安全標(biāo)簽,規(guī)范對(duì)平臺(tái)和應(yīng)用程序資源的訪問。為了保護(hù)平臺(tái)資源(例如,麥克風(fēng)、互聯(lián)網(wǎng)等),平臺(tái)使用由系統(tǒng)本身引入的預(yù)定義權(quán)限集。權(quán)限模型還為平臺(tái)提供更細(xì)粒度的安全性,以此保護(hù)不同應(yīng)用程序或系統(tǒng)組件之間的進(jìn)程間通信(Inter-Process Communication, IPC),為此Android引入了自定義權(quán)限:這些是應(yīng)用程序定義的權(quán)限,允許開發(fā)人員通過其他應(yīng)用程序控制對(duì)其應(yīng)用程序組件的訪問。實(shí)際上,在第三方應(yīng)用程序中使用自定義權(quán)限非常常見。根據(jù)本文對(duì)各個(gè)應(yīng)用市場(chǎng)頂級(jí)免費(fèi)應(yīng)用程序的研究,約72%的應(yīng)用程序定義了自定義權(quán)限。其中30%的自定義權(quán)限的保護(hù)等級(jí)為Normal,即只要申請(qǐng)了就可以使用,如表1所示。

    從表1可以看出,應(yīng)用程序自定義保護(hù)等級(jí)為Dangerous的權(quán)限較少,而絕大多數(shù)的自定義權(quán)限的保護(hù)等級(jí)為Signature和Normal。自定義權(quán)限提升攻擊通過在清單文件中聲明保護(hù)級(jí)別為Signature或Normal的自定義權(quán)限,并將此自定義權(quán)限設(shè)置為系統(tǒng)權(quán)限組的一部分,而Android系統(tǒng)允許第三方開發(fā)者將自定義權(quán)限聲明為系統(tǒng)權(quán)限組的一部分,使應(yīng)用程序可以繞過用戶權(quán)限授予界面,并自動(dòng)獲取任何危險(xiǎn)的系統(tǒng)權(quán)限。故該方法中自定義權(quán)限的保護(hù)級(jí)別為Signature或Normal的權(quán)重比保護(hù)級(jí)別為Dangerous和SignatureorSystem大,而在混淆代理攻擊中,攻擊者利用缺乏Android自定義權(quán)限的命名約定,來對(duì)一個(gè)使用自定義權(quán)限保護(hù)組件的受害者應(yīng)用程序發(fā)起攻擊。故該方法對(duì)從各大官網(wǎng)收集到應(yīng)用程序的分析,提取應(yīng)用程序的自定義權(quán)限存入自定義權(quán)限數(shù)據(jù)集CPer_set中,對(duì)待測(cè)試的APP的自定義權(quán)限進(jìn)行檢查并對(duì)CPer_set進(jìn)行補(bǔ)充。

    自定義權(quán)限通過為IPC提供安全性,在支持Android平臺(tái)的可重用性方面發(fā)揮了重要作用;因此,對(duì)其正確操作的任何威脅都可能導(dǎo)致應(yīng)用程序和平臺(tái)本身的安全性受到損害。該模塊主要針對(duì)由重名的自定義權(quán)限帶來的混淆代理的可能性進(jìn)行評(píng)估。利用這個(gè)自定義權(quán)限漏洞,應(yīng)用可以繞過用戶同意屏幕來授予/拒絕權(quán)限以獲取高風(fēng)險(xiǎn)系統(tǒng)資源,并且還可以未經(jīng)授權(quán)訪問其他應(yīng)用的受保護(hù)組件。由于現(xiàn)在Android規(guī)定在同一個(gè)物理設(shè)備上,不允許存在兩個(gè)應(yīng)用程序定義相同名稱的權(quán)限。為了完成這個(gè)攻擊,惡意應(yīng)用程序開發(fā)者需要開發(fā)至少兩個(gè)應(yīng)用:

    1)定義者攻擊應(yīng)用程序。通過重新使用相同的權(quán)限名稱來欺騙受害者應(yīng)用程序的自定義權(quán)限,并將保護(hù)級(jí)別更改為危險(xiǎn)。

    2)用戶攻擊應(yīng)用程序。它只在其清單文件中請(qǐng)求此權(quán)限。

    編寫Python腳本cusPermission.py提取收集到的應(yīng)用程序自定義的權(quán)限,存儲(chǔ)為cusPer.set,其存儲(chǔ)結(jié)構(gòu)為[權(quán)限,權(quán)限組,權(quán)限定義應(yīng)用包名稱(權(quán)限等級(jí)),申請(qǐng)?jiān)摍?quán)限的應(yīng)用包名稱];編寫getCusPermission.py,提取待檢測(cè)應(yīng)用程序在AndroidManifest.xml文件中定義的權(quán)限列表cusPlist,該部分檢測(cè)分為兩個(gè)模塊:數(shù)據(jù)集獲取模塊和分析評(píng)估模塊。

    根據(jù)式(3)計(jì)算由自定義權(quán)限漏洞問題帶來的風(fēng)險(xiǎn):

    其中:T(cpi)代表自定義權(quán)限的定義的保護(hù)級(jí)別的權(quán)重,λc代表自定義權(quán)限問題在評(píng)估應(yīng)用程序風(fēng)險(xiǎn)時(shí)的權(quán)重。

    3 方法實(shí)現(xiàn)與結(jié)果分析

    3.1 數(shù)據(jù)集收集

    本文通過檢測(cè)分析806個(gè)應(yīng)用市場(chǎng)可下載的安卓應(yīng)用、5439個(gè)惡意樣本和Android官方網(wǎng)站發(fā)布的權(quán)限文檔,構(gòu)建各類應(yīng)用程序常用的組合權(quán)限數(shù)據(jù)集、具有惡意傾向的權(quán)限組合數(shù)據(jù)集和Android原生權(quán)限數(shù)據(jù)集。

    3.1.1 多類應(yīng)用程序常用的組合權(quán)限數(shù)據(jù)集

    編寫Python腳本從百度手機(jī)助手、小米應(yīng)用商店和華為應(yīng)用市場(chǎng)爬取下載量較高、獲得官方版認(rèn)證的、安全優(yōu)質(zhì)的Android應(yīng)用軟件。相對(duì)于官方應(yīng)用市場(chǎng)沒有任何說明的評(píng)分,高下載量更能代表用戶使用的滿意度較高、權(quán)限使用在用戶的接受范圍之內(nèi)。

    該方法共收集了806個(gè)不同的安卓應(yīng)用,主要分為以下類別:影音播放(95)、社交通信(76)、學(xué)習(xí)幫助(39)、新聞閱讀(43)、運(yùn)動(dòng)健康(36)、金融理財(cái)(80)、游戲娛樂(139)、網(wǎng)上購(gòu)物(48)、辦公工具(36)、拍攝美化(57)、主題壁紙(52)、地圖導(dǎo)航(24)、旅游購(gòu)票(22)、生活實(shí)用(59)。例如,影音視聽類應(yīng)用常用的權(quán)限組如表2所示。

    由于權(quán)限組的存在,若授予了權(quán)限組中任一權(quán)限,該應(yīng)用若申請(qǐng)同一權(quán)限組中的其他權(quán)限,系統(tǒng)不再與用戶交互而直接為該應(yīng)用授予其申請(qǐng)?jiān)摻M內(nèi)的權(quán)限。故該類別的權(quán)限組還需添加STORAGE組中的READ_EXTERNAL_STORAGE危險(xiǎn)權(quán)限。

    3.1.2 具有惡意傾向的權(quán)限組合數(shù)據(jù)集

    本文從VirusShare[12]中獲得的5439個(gè)惡意樣本,對(duì)其中50個(gè)家族成員數(shù)大于10的5048個(gè)樣本進(jìn)行反編譯字節(jié)碼操作,并從其清單文件中提取權(quán)限,將其家族成員都使用的權(quán)限作為權(quán)限集的一個(gè)權(quán)限組合。該方法會(huì)對(duì)數(shù)據(jù)集進(jìn)行進(jìn)一步去除冗余、計(jì)算權(quán)限組合的權(quán)重,將其存入惡意軟件家族常用權(quán)限組合的數(shù)據(jù)集Mal_Per_group。例如:從相關(guān)安全網(wǎng)站收集相關(guān)的最新的權(quán)限攻擊實(shí)例,將其加入到數(shù)據(jù)集Mal_Per_group。例如,Android版本在7.1.2及以下都會(huì)受到Cloak&Dagger攻擊的影響,而該攻擊是一種利用權(quán)限不匹配問題來訪問Android設(shè)備的攻擊方法,主要通過獲取SYSTEM_ALERT_WINDOW和BIND_ACCE-SSIBILITY_SERVICE權(quán)限來實(shí)施攻擊。故Cloak&Dagger惡意軟件家族的常用權(quán)限組為[SYSTEM_ALERT_WINDOW,BIND_ACCESSIBILITY_SERVICE]。

    3.1.3 Android原生權(quán)限

    編寫Python腳本對(duì)Android官方網(wǎng)站的上發(fā)布的權(quán)限文檔進(jìn)行分析,統(tǒng)計(jì)文檔中的權(quán)限及其級(jí)別。目前共有152個(gè)原生權(quán)限,包括:38個(gè)保護(hù)等級(jí)為normal的權(quán)限,27個(gè)保護(hù)等級(jí)為dangerous的權(quán)限,10個(gè)等級(jí)為signature的特殊權(quán)限,19個(gè)等級(jí)為signature|privileged(同API≤23,signatureOr-System)的權(quán)限,44個(gè)不提供給第三方應(yīng)用使用的權(quán)限,此外還有14個(gè)權(quán)限在版本更新中不再建議使用的權(quán)限。

    3.2 權(quán)限提取

    通過靜態(tài)分析,對(duì)Android安裝包(Android Package, APK)文件的逆向分析,從清單文件中提取應(yīng)用程序申請(qǐng)的系統(tǒng)權(quán)限Rper_list;靜態(tài)分析smali代碼提取敏感應(yīng)用程序編程接口(Application Programming Interface, API),通過收集的map-ping映射得到對(duì)應(yīng)的靜態(tài)權(quán)限列表Sper_list;通過自動(dòng)運(yùn)行注入了1000個(gè)不同的基于Android的Monkey測(cè)試套件的事件,以提取包括被調(diào)用的方法在內(nèi)的運(yùn)行信息的日志,然后通過分析日志信息,提取動(dòng)態(tài)權(quán)限列表Dper_list。其具體過程如圖1所示。

    3.3 權(quán)重計(jì)算

    本文采用了層次分析法來計(jì)算同一層次影響評(píng)估結(jié)果的各因素的權(quán)重。AHP是定性和定量相結(jié)合的分析方法。該方法將復(fù)雜的問題層次化,對(duì)影響決策目標(biāo)的判斷因素進(jìn)行量化分析,是一種層次權(quán)重決策分析方法。

    將該方法使用作為指標(biāo)層的評(píng)估因素有:具有惡意傾向的權(quán)限組、系統(tǒng)權(quán)限的“溢權(quán)”、自定義權(quán)限漏洞。

    構(gòu)建判斷矩陣,并使用Matlab程序?qū)崿F(xiàn)層次分析方法,計(jì)算出具有惡意傾向的權(quán)限組權(quán)重為:λm=0.3255,系統(tǒng)權(quán)限的“溢權(quán)”權(quán)重為:λo=0.2772,自定義權(quán)限漏洞權(quán)重為:λc=0.3973。

    3.4 實(shí)驗(yàn)結(jié)果分析

    本文所提方法的實(shí)驗(yàn)結(jié)果表明,應(yīng)用程序所需的權(quán)限數(shù)量和自定義的權(quán)限數(shù)量并不是影響風(fēng)險(xiǎn)值分?jǐn)?shù)的主要因素。從表3可以看出,應(yīng)用com.xiaoyu.rightone申請(qǐng)的權(quán)限數(shù)量少于com.imjingjing.jingjing,但是其風(fēng)險(xiǎn)評(píng)分明顯高于com.imjingjing.jingjing。

    此外,統(tǒng)計(jì)數(shù)據(jù)表明,現(xiàn)存的應(yīng)用都申請(qǐng)了允許訪問網(wǎng)絡(luò)的權(quán)限和訪問網(wǎng)絡(luò)狀態(tài)這兩個(gè)權(quán)限。拍攝美化類應(yīng)用除了申請(qǐng)必要的拍攝和讀寫存儲(chǔ)器權(quán)限外,通常還會(huì)申請(qǐng)定位和讀取聯(lián)系人權(quán)限;社交通信類的自定義權(quán)限最多,主題壁紙類的自定義權(quán)限與其他應(yīng)用程序自定義權(quán)限重名的最多,且主題壁紙類申請(qǐng)的權(quán)限數(shù)較多故風(fēng)險(xiǎn)值平均較高;直播類應(yīng)用申請(qǐng)的權(quán)限最多,平均風(fēng)險(xiǎn)值最高。

    Androguard[13]主要用來進(jìn)行靜態(tài)分析,提供了很多模塊供分析人員使用,有很多靜態(tài)分析工具都是基于它,其中Androrisk.py模塊用于評(píng)估APK文件中潛在的風(fēng)險(xiǎn)。該模塊主要是利用權(quán)限和DEX文件對(duì)APK文件進(jìn)行風(fēng)險(xiǎn)評(píng)估,其中將權(quán)限按功能分為:隱私權(quán)限、普通權(quán)限、與收費(fèi)有關(guān)的權(quán)限、聯(lián)網(wǎng)類的權(quán)限、信息類的權(quán)限、危險(xiǎn)權(quán)限、簽名或系統(tǒng)權(quán)限、通話類的權(quán)限、簽名權(quán)限和全球定位系統(tǒng)(Global Positioning System, GPS)權(quán)限,通過Fuzzy算法對(duì)應(yīng)用程序風(fēng)險(xiǎn)進(jìn)行評(píng)估。表4展示了兩種方法評(píng)估的主要因素及最終評(píng)估的風(fēng)險(xiǎn)值,其各列名為應(yīng)用程序在清單文件中申請(qǐng)的系統(tǒng)權(quán)限數(shù)(Number of system Permissions declared in the Manifest file, NPM)、自定義權(quán)限數(shù)(Number of Custom Permissions, NCP)、與別的應(yīng)用程序定義的權(quán)限同名的自定義權(quán)限個(gè)數(shù)(Number of Custom permissions with the Same name as those defined by other APPs, NCS這個(gè)的縮寫是對(duì)應(yīng)表4中的“NSC”嗎?為何表示C的Custom,卻在S的前面?英文全稱正確嗎?請(qǐng)明確??s寫是對(duì)應(yīng)表4中的“NSC”,這兩處都確定為“NCS”。)、使用Androrisk.py模塊得到的風(fēng)險(xiǎn)評(píng)估分?jǐn)?shù)(Risk Assessment Scores using Androrisk.py module, RASA)、本文方法對(duì)測(cè)試應(yīng)用程序風(fēng)險(xiǎn)評(píng)估分?jǐn)?shù)(Risk assessment Scores using this Quantitative Evaluation method, RSQE)。

    Androrisk.py模塊是靜態(tài)檢測(cè)中的常用方法,從實(shí)驗(yàn)結(jié)果上看有靜態(tài)檢測(cè)本身的局限性,從表4可以看出,其實(shí)驗(yàn)結(jié)果會(huì)有較大的誤差;而本文方法相對(duì)于Androrisk增加了自定義權(quán)限風(fēng)險(xiǎn)評(píng)估和系統(tǒng)“溢權(quán)”風(fēng)險(xiǎn)評(píng)估,能夠更精確地評(píng)估應(yīng)用程序的風(fēng)險(xiǎn)。

    根據(jù)實(shí)驗(yàn)結(jié)果和三個(gè)方面潛在的威脅,為了進(jìn)一步方便用戶理解由于權(quán)限機(jī)制造成的風(fēng)險(xiǎn),可將應(yīng)用程序潛在的風(fēng)險(xiǎn)值劃分為四三個(gè)風(fēng)險(xiǎn)等級(jí):待測(cè)應(yīng)用程序的風(fēng)險(xiǎn)值為[0,30)區(qū)間,則認(rèn)為應(yīng)用程序的風(fēng)險(xiǎn)等級(jí)為低風(fēng)險(xiǎn);待測(cè)應(yīng)用程序的風(fēng)險(xiǎn)值為[30,70)區(qū)間,則認(rèn)為應(yīng)用程序的風(fēng)險(xiǎn)等級(jí)為中等風(fēng)險(xiǎn);待測(cè)應(yīng)用程序的風(fēng)險(xiǎn)值大于70,則認(rèn)為應(yīng)用程序的風(fēng)險(xiǎn)等級(jí)為高風(fēng)險(xiǎn)。

    4 結(jié)語

    本文通過提取權(quán)限信息,提出了一種新的基于權(quán)限的Android應(yīng)用程序風(fēng)險(xiǎn)評(píng)估方法。針對(duì)應(yīng)用市場(chǎng)提供的應(yīng)用程序質(zhì)量參差不齊和風(fēng)險(xiǎn)等級(jí)評(píng)估的不透明等問題,該方法通過靜態(tài)分析和動(dòng)態(tài)檢測(cè)權(quán)限的使用情況,從系統(tǒng)權(quán)限和自定義權(quán)限帶來的威脅,來定量評(píng)估應(yīng)用程序的潛在風(fēng)險(xiǎn)值。實(shí)驗(yàn)驗(yàn)證,本文的風(fēng)險(xiǎn)評(píng)估方法能有效地度量應(yīng)用程序的風(fēng)險(xiǎn),為進(jìn)一步分析應(yīng)用程序的安全性提供了參考,但自定義權(quán)限數(shù)據(jù)集還不充分,需要進(jìn)一步補(bǔ)充完善。

    參考文獻(xiàn) (References)

    [1] IDC. Smartphone market share [EB/OL]. (2018-02-20)[2018-03-29]. https://www.idc.com/promo/smartphone-market-share/os.

    [2] BAGHERI H, KANG E, MALEK S, et al. A formal approach for detection of security flaws in the Android permission system [J]. Formal Aspects of Computing, 2017, 9: 1-20.

    [3] Google. Permissions best practices [EB/OL]. (2018-01-20)[2018-03-26]. https://developer.android.google.cn/training/permissions/best-practice.

    [4] FELT A P, CHLN E, HANNA S, et al. Android permissions demystified[C]// CCA2011: Proceedings of the 18th ACM Conference on Computer and Communications Security. New York: ACM, 2011:627-638.

    [5] 張銳,楊吉云.基于權(quán)限相關(guān)性的Android惡意軟件檢測(cè)[J].計(jì)算機(jī)應(yīng)用,2014,34(5):1322-1325.(ZHANG R, YANG J Y. Android malware detection based on permission correlation[J]. Journal of Computer Applications,2014, 34(5):1322-1325.)

    [6] TUNCAY G S, DEMETRIOU S, GANJU K, et al. Resolving the predicament of Android custom permissions[C]// NDSS 2018: Proceedings of the 2018 Network and Distributed System Security Symposium. Piscataway, NJ: IEEE, 2018:1-16.

    [7] HAMED A, AYED H K B. Privacy risk assessment and users awareness for mobile APPs permissions[C]// Proceedings of the 2017 International Symposium on Computer Systems and Applications. Piscataway, NJ: IEEE, 2017:1-8.

    [8] 徐君鋒,王嘉捷,朱克雷,等.基于AHP的安卓應(yīng)用安全信用指數(shù)度量方法[J].清華大學(xué)學(xué)報(bào)(自然科學(xué)版),2018,58(2):131-136.(XU J F, WANG J J, ZHU K L, et al. Credit index measurement method for Android application security based on AHP[J]. Journal of Tsinghua University (Science and Technology), 2018,58(2):131-136.)

    [9] RAHMAN A, PRADHAN P, PARTHO A, et al. Predicting Android application security and privacy risk with static code metrics[C]// Proceedings of the 2017 IEEE/ACM International Conference on Mobile Software Engineering and Systems. Piscataway, NJ: IEEE, 2017:149-153.

    [10] DINI G, MARTINELLI F, MATTEUCCI I, et al. Risk analysis of Android applications: a user-centric solution [J]. Future Generation Computer Systems, 2018, 80: 505-518.

    [11] TANG W, JIN G, HE J, et al. Extending Android security enforcement with a security distance model[C]// Proceedings of the 2011 International Conference on Internet Technology and Applications. Piscataway, NJ: IEEE, 2011: 1-4.

    [12] VXShare. VirusShare[EB/OL]. [2017-10-09]. https://vir-usshare.com.

    [13] DESNOS A, GUEGUEN G, BACHMANN S. Androguard package[EB/OL]. [2017-12-29]. http://androguard.readthedocs.io/en/latest/api/androguard.html.

    猜你喜歡
    風(fēng)險(xiǎn)評(píng)估
    創(chuàng)業(yè)公司及項(xiàng)目風(fēng)險(xiǎn)投資的風(fēng)險(xiǎn)評(píng)估方法研究
    供電企業(yè)內(nèi)部控制風(fēng)險(xiǎn)評(píng)估
    基于模糊層次分析的四川小額信貸公司風(fēng)險(xiǎn)評(píng)估
    H銀行企業(yè)信貸項(xiàng)目風(fēng)險(xiǎn)評(píng)估分析
    鉛銻冶煉污染場(chǎng)地周邊土壤鉛污染特征及潛在生態(tài)危害評(píng)價(jià)
    城市燃?xì)夤芫W(wǎng)的安全隱患及應(yīng)對(duì)措施
    我國(guó)養(yǎng)老保險(xiǎn)基金投資運(yùn)營(yíng)的風(fēng)險(xiǎn)評(píng)估
    現(xiàn)代風(fēng)險(xiǎn)導(dǎo)向?qū)徲?jì)局限性及其對(duì)策研究
    中小企業(yè)財(cái)務(wù)管理問題研究
    aaaaa片日本免费| 国产野战对白在线观看| 人成视频在线观看免费观看| 午夜a级毛片| 岛国在线观看网站| 91九色精品人成在线观看| 午夜免费成人在线视频| 国产在线精品亚洲第一网站| 久久影院123| 老司机午夜福利在线观看视频| 精品一区二区三区四区五区乱码| 视频在线观看一区二区三区| 91国产中文字幕| 99香蕉大伊视频| 日韩有码中文字幕| 99久久精品国产亚洲精品| 久久精品国产99精品国产亚洲性色 | 国内精品久久久久精免费| 成人三级做爰电影| or卡值多少钱| 午夜精品国产一区二区电影| 美女国产高潮福利片在线看| 一进一出抽搐动态| 精品欧美国产一区二区三| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲欧美日韩另类电影网站| 午夜久久久在线观看| 国内精品久久久久久久电影| 夜夜爽天天搞| 美女高潮喷水抽搐中文字幕| 国产aⅴ精品一区二区三区波| 国产野战对白在线观看| 欧美日韩亚洲国产一区二区在线观看| 亚洲成人精品中文字幕电影| 制服诱惑二区| 亚洲片人在线观看| 天天躁夜夜躁狠狠躁躁| 亚洲av成人一区二区三| 女人精品久久久久毛片| 国内精品久久久久久久电影| 久久久国产成人精品二区| 国产精华一区二区三区| 成人免费观看视频高清| 欧美黑人欧美精品刺激| 少妇被粗大的猛进出69影院| 老熟妇仑乱视频hdxx| 看片在线看免费视频| 国产精品秋霞免费鲁丝片| 国产精品久久视频播放| 亚洲精品美女久久久久99蜜臀| 国产野战对白在线观看| 香蕉久久夜色| 国产高清videossex| 99精品久久久久人妻精品| 亚洲国产看品久久| 日韩欧美国产一区二区入口| 国产亚洲精品一区二区www| 欧美成人免费av一区二区三区| 视频在线观看一区二区三区| 国产高清视频在线播放一区| 色尼玛亚洲综合影院| 黄频高清免费视频| 国产黄a三级三级三级人| 他把我摸到了高潮在线观看| 国产高清视频在线播放一区| 久久婷婷成人综合色麻豆| 免费在线观看影片大全网站| 久久人人97超碰香蕉20202| 成人三级黄色视频| 男女下面进入的视频免费午夜 | 欧美日韩福利视频一区二区| 欧美黑人欧美精品刺激| 久久精品国产清高在天天线| 不卡一级毛片| 国产精品电影一区二区三区| 男女之事视频高清在线观看| 波多野结衣av一区二区av| 看黄色毛片网站| 十八禁人妻一区二区| 国产免费av片在线观看野外av| 免费在线观看视频国产中文字幕亚洲| 国产熟女午夜一区二区三区| 色综合亚洲欧美另类图片| 色老头精品视频在线观看| 欧美日韩亚洲国产一区二区在线观看| 这个男人来自地球电影免费观看| 露出奶头的视频| 欧美+亚洲+日韩+国产| 一本综合久久免费| 精品国产国语对白av| 精品久久久久久久久久免费视频| 女人被狂操c到高潮| 欧美人与性动交α欧美精品济南到| 夜夜爽天天搞| 国产精品自产拍在线观看55亚洲| 色综合站精品国产| 亚洲第一青青草原| 嫩草影院精品99| 老鸭窝网址在线观看| 午夜福利在线观看吧| 欧美在线一区亚洲| 一本久久中文字幕| 久久午夜亚洲精品久久| 在线观看免费日韩欧美大片| 久久久国产精品麻豆| 日本免费一区二区三区高清不卡 | 男男h啪啪无遮挡| 99久久国产精品久久久| 波多野结衣av一区二区av| 久久人妻av系列| 少妇裸体淫交视频免费看高清 | av福利片在线| 国产一区在线观看成人免费| 女性被躁到高潮视频| 免费搜索国产男女视频| 黄片小视频在线播放| 久久久久国产精品人妻aⅴ院| 亚洲第一欧美日韩一区二区三区| 99久久精品国产亚洲精品| 精品熟女少妇八av免费久了| 后天国语完整版免费观看| 国产精品av久久久久免费| 中文字幕人妻丝袜一区二区| 欧美黑人精品巨大| 日韩精品免费视频一区二区三区| 国产不卡一卡二| 99精品欧美一区二区三区四区| 久久久国产精品麻豆| 亚洲中文av在线| 深夜精品福利| 国产不卡一卡二| 精品国产美女av久久久久小说| 亚洲精品美女久久久久99蜜臀| 涩涩av久久男人的天堂| 18禁观看日本| 亚洲中文日韩欧美视频| 午夜福利成人在线免费观看| 午夜精品在线福利| 久久精品成人免费网站| 国产亚洲欧美在线一区二区| 一区二区日韩欧美中文字幕| 国产99久久九九免费精品| 国产私拍福利视频在线观看| 99久久久亚洲精品蜜臀av| www日本在线高清视频| 日韩欧美国产在线观看| 亚洲欧美精品综合久久99| 三级毛片av免费| 亚洲人成电影免费在线| 电影成人av| 欧美日本中文国产一区发布| 天堂√8在线中文| 国产精品久久久久久精品电影 | 欧美色欧美亚洲另类二区 | 狂野欧美激情性xxxx| 亚洲一区高清亚洲精品| 国产麻豆69| 国产精品亚洲av一区麻豆| www.精华液| 两个人看的免费小视频| 精品高清国产在线一区| 少妇熟女aⅴ在线视频| 老司机靠b影院| 美女免费视频网站| 丰满的人妻完整版| 19禁男女啪啪无遮挡网站| 制服丝袜大香蕉在线| 岛国视频午夜一区免费看| 国产主播在线观看一区二区| 国产xxxxx性猛交| 日韩精品青青久久久久久| 色在线成人网| 国产精品久久久久久精品电影 | 在线观看免费视频网站a站| 午夜福利免费观看在线| 中文字幕人妻熟女乱码| 女警被强在线播放| 久久中文字幕人妻熟女| 亚洲七黄色美女视频| 日韩高清综合在线| 免费高清在线观看日韩| 天天添夜夜摸| 精品一品国产午夜福利视频| 久久欧美精品欧美久久欧美| av免费在线观看网站| 亚洲国产欧美网| 女人被狂操c到高潮| 中亚洲国语对白在线视频| 久99久视频精品免费| 老司机午夜福利在线观看视频| 老司机午夜福利在线观看视频| 日韩一卡2卡3卡4卡2021年| 精品熟女少妇八av免费久了| 18禁黄网站禁片午夜丰满| 日本vs欧美在线观看视频| 高潮久久久久久久久久久不卡| 国产精品亚洲美女久久久| 在线播放国产精品三级| 成人三级做爰电影| 最近最新中文字幕大全免费视频| 国产蜜桃级精品一区二区三区| 亚洲欧美日韩无卡精品| 国产高清视频在线播放一区| 日本五十路高清| 久久人人97超碰香蕉20202| 国产成+人综合+亚洲专区| 国产成人精品久久二区二区免费| 好看av亚洲va欧美ⅴa在| 国产成人一区二区三区免费视频网站| 搡老妇女老女人老熟妇| 亚洲电影在线观看av| 黑人巨大精品欧美一区二区mp4| 黄网站色视频无遮挡免费观看| 免费看a级黄色片| 麻豆久久精品国产亚洲av| 亚洲中文字幕一区二区三区有码在线看 | 妹子高潮喷水视频| 午夜精品国产一区二区电影| 777久久人妻少妇嫩草av网站| 精品久久久精品久久久| 正在播放国产对白刺激| 中出人妻视频一区二区| 法律面前人人平等表现在哪些方面| 欧美黄色淫秽网站| 欧美黄色淫秽网站| 午夜福利成人在线免费观看| 国产精品日韩av在线免费观看 | 国产精品美女特级片免费视频播放器 | 男女床上黄色一级片免费看| 国产男靠女视频免费网站| av天堂在线播放| 伊人久久大香线蕉亚洲五| 亚洲欧美日韩另类电影网站| 国产av一区在线观看免费| 国产成人啪精品午夜网站| 99久久精品国产亚洲精品| 操美女的视频在线观看| 免费不卡黄色视频| 亚洲欧美激情综合另类| 日本三级黄在线观看| 一级a爱视频在线免费观看| 纯流量卡能插随身wifi吗| 亚洲,欧美精品.| 亚洲成av人片免费观看| 99久久综合精品五月天人人| 真人做人爱边吃奶动态| svipshipincom国产片| 少妇的丰满在线观看| 亚洲成a人片在线一区二区| 亚洲精品国产一区二区精华液| 丁香六月欧美| 99国产精品一区二区三区| 大型黄色视频在线免费观看| 丰满的人妻完整版| 亚洲欧美一区二区三区黑人| 日本vs欧美在线观看视频| 日韩大尺度精品在线看网址 | 亚洲视频免费观看视频| 长腿黑丝高跟| 欧美在线一区亚洲| 免费在线观看亚洲国产| 国产免费男女视频| 97碰自拍视频| 亚洲专区中文字幕在线| 亚洲久久久国产精品| 国产精华一区二区三区| 一边摸一边抽搐一进一小说| 国产av又大| 男人操女人黄网站| 老司机午夜福利在线观看视频| 制服人妻中文乱码| 中文字幕久久专区| 日韩欧美国产一区二区入口| 免费观看精品视频网站| 别揉我奶头~嗯~啊~动态视频| 欧美日韩一级在线毛片| 国产激情久久老熟女| 亚洲中文日韩欧美视频| 亚洲色图综合在线观看| 国产免费男女视频| 神马国产精品三级电影在线观看 | 亚洲一码二码三码区别大吗| 欧美老熟妇乱子伦牲交| 人妻久久中文字幕网| svipshipincom国产片| 在线观看免费日韩欧美大片| 亚洲av熟女| 亚洲国产精品999在线| 亚洲精品国产色婷婷电影| 满18在线观看网站| 久久婷婷成人综合色麻豆| 午夜久久久久精精品| 亚洲av电影不卡..在线观看| 亚洲国产中文字幕在线视频| 亚洲aⅴ乱码一区二区在线播放 | 国产麻豆69| 男女做爰动态图高潮gif福利片 | 国产高清videossex| 精品日产1卡2卡| 国产亚洲欧美98| 欧美成人一区二区免费高清观看 | 九色国产91popny在线| 成人三级做爰电影| 亚洲精品美女久久av网站| 精品电影一区二区在线| 看黄色毛片网站| 亚洲成国产人片在线观看| 久久久久久国产a免费观看| 精品人妻1区二区| 熟妇人妻久久中文字幕3abv| 成熟少妇高潮喷水视频| 国产伦人伦偷精品视频| 国产精品国产高清国产av| 制服诱惑二区| 长腿黑丝高跟| 亚洲精品中文字幕在线视频| 9热在线视频观看99| 色尼玛亚洲综合影院| 18禁裸乳无遮挡免费网站照片 | 久久精品人人爽人人爽视色| 少妇 在线观看| 国内精品久久久久精免费| 久久久国产成人免费| 1024视频免费在线观看| 在线观看66精品国产| cao死你这个sao货| 黄色视频不卡| 欧美黑人欧美精品刺激| 精品久久久久久久久久免费视频| 国产精品综合久久久久久久免费 | 欧美成人免费av一区二区三区| 日韩免费av在线播放| 亚洲五月婷婷丁香| 成年人黄色毛片网站| 国产一区在线观看成人免费| 午夜福利高清视频| 成人av一区二区三区在线看| 国产男靠女视频免费网站| 国产一区在线观看成人免费| 日韩精品中文字幕看吧| 国产熟女午夜一区二区三区| 韩国av一区二区三区四区| 母亲3免费完整高清在线观看| 99国产精品免费福利视频| 国产主播在线观看一区二区| 成人av一区二区三区在线看| 国产激情欧美一区二区| 亚洲成人精品中文字幕电影| 亚洲精品中文字幕一二三四区| 国产熟女午夜一区二区三区| 午夜免费激情av| 免费在线观看黄色视频的| 国产区一区二久久| 国产极品粉嫩免费观看在线| 在线观看免费午夜福利视频| 夜夜夜夜夜久久久久| 国产xxxxx性猛交| 欧美成人午夜精品| 可以免费在线观看a视频的电影网站| 两个人视频免费观看高清| 日韩欧美三级三区| 变态另类丝袜制服| 一边摸一边抽搐一进一小说| 一本大道久久a久久精品| 国产亚洲精品久久久久久毛片| 99国产精品一区二区三区| 日韩国内少妇激情av| 黄片播放在线免费| 老司机福利观看| 非洲黑人性xxxx精品又粗又长| 露出奶头的视频| 日韩精品中文字幕看吧| 人妻久久中文字幕网| 国产欧美日韩一区二区精品| 狂野欧美激情性xxxx| 性少妇av在线| 在线十欧美十亚洲十日本专区| 91国产中文字幕| 午夜精品在线福利| 国产精品一区二区精品视频观看| 国产精品久久久人人做人人爽| 黑人欧美特级aaaaaa片| 久久精品成人免费网站| 大型av网站在线播放| 99国产精品一区二区蜜桃av| 成年人黄色毛片网站| 可以在线观看的亚洲视频| 亚洲av熟女| 在线观看日韩欧美| 日本精品一区二区三区蜜桃| 亚洲成人国产一区在线观看| 精品国产乱码久久久久久男人| 深夜精品福利| 亚洲五月天丁香| 国产亚洲欧美在线一区二区| 禁无遮挡网站| 国产精品亚洲av一区麻豆| 亚洲欧美激情综合另类| 亚洲精品av麻豆狂野| 亚洲一区中文字幕在线| 欧美亚洲日本最大视频资源| 欧美黑人精品巨大| 不卡一级毛片| 亚洲美女黄片视频| 99国产精品免费福利视频| 法律面前人人平等表现在哪些方面| 给我免费播放毛片高清在线观看| 日本撒尿小便嘘嘘汇集6| 亚洲 欧美一区二区三区| 中文字幕高清在线视频| 伊人久久大香线蕉亚洲五| 女性生殖器流出的白浆| 别揉我奶头~嗯~啊~动态视频| 亚洲欧洲精品一区二区精品久久久| 可以在线观看毛片的网站| 欧美日韩黄片免| 他把我摸到了高潮在线观看| 91av网站免费观看| 99国产综合亚洲精品| 女警被强在线播放| 天堂影院成人在线观看| 97人妻精品一区二区三区麻豆 | 日韩欧美在线二视频| 国产成年人精品一区二区| 欧美日韩乱码在线| 国产精华一区二区三区| 女人被狂操c到高潮| 亚洲最大成人中文| 国产免费av片在线观看野外av| 黑人巨大精品欧美一区二区蜜桃| 欧美 亚洲 国产 日韩一| 丰满的人妻完整版| 精品熟女少妇八av免费久了| 国产日韩一区二区三区精品不卡| 女人高潮潮喷娇喘18禁视频| 黄片大片在线免费观看| 精品国产国语对白av| ponron亚洲| а√天堂www在线а√下载| 亚洲五月天丁香| 九色国产91popny在线| 精品久久久久久,| 女性生殖器流出的白浆| 多毛熟女@视频| 亚洲伊人色综图| 久久亚洲真实| 精品国产一区二区久久| 热re99久久国产66热| 午夜免费成人在线视频| 色综合站精品国产| 最新在线观看一区二区三区| 国产国语露脸激情在线看| 亚洲五月色婷婷综合| 国产精品爽爽va在线观看网站 | 日本免费一区二区三区高清不卡 | 精品一区二区三区av网在线观看| 啦啦啦免费观看视频1| 给我免费播放毛片高清在线观看| 精品卡一卡二卡四卡免费| 久久精品影院6| 久久午夜综合久久蜜桃| 搡老岳熟女国产| 在线观看日韩欧美| 一级黄色大片毛片| 久久国产精品男人的天堂亚洲| 国产高清有码在线观看视频 | 天天躁夜夜躁狠狠躁躁| 88av欧美| 国产亚洲av嫩草精品影院| 日韩一卡2卡3卡4卡2021年| 亚洲熟妇熟女久久| 成在线人永久免费视频| 夜夜爽天天搞| 久久久久国产一级毛片高清牌| 丝袜美足系列| 久久婷婷成人综合色麻豆| 热99在线观看视频| 国产精品女同一区二区软件 | 国产成人a区在线观看| 如何舔出高潮| 一区二区三区激情视频| 色哟哟·www| 免费看日本二区| 在线观看66精品国产| 搡女人真爽免费视频火全软件 | 老女人水多毛片| 欧美三级亚洲精品| 国产男人的电影天堂91| 99热6这里只有精品| 国产伦在线观看视频一区| 欧美性猛交黑人性爽| 国产在视频线在精品| 一a级毛片在线观看| 久9热在线精品视频| 国产视频一区二区在线看| 亚洲国产精品成人综合色| 久久精品国产鲁丝片午夜精品 | 男人的好看免费观看在线视频| 精品福利观看| 亚洲av熟女| 亚洲成av人片在线播放无| 长腿黑丝高跟| 级片在线观看| 亚洲精品日韩av片在线观看| 男插女下体视频免费在线播放| 赤兔流量卡办理| 久久精品国产亚洲av香蕉五月| a在线观看视频网站| 天堂av国产一区二区熟女人妻| 亚洲avbb在线观看| 成人高潮视频无遮挡免费网站| 国产毛片a区久久久久| 乱人视频在线观看| 日韩一区二区视频免费看| 日本精品一区二区三区蜜桃| 亚洲久久久久久中文字幕| 亚洲成人中文字幕在线播放| 国产麻豆成人av免费视频| 麻豆久久精品国产亚洲av| 亚洲七黄色美女视频| 精品国内亚洲2022精品成人| 午夜a级毛片| 国产真实乱freesex| h日本视频在线播放| 日本免费a在线| 欧美最黄视频在线播放免费| 神马国产精品三级电影在线观看| videossex国产| 成人高潮视频无遮挡免费网站| 亚洲熟妇熟女久久| 尤物成人国产欧美一区二区三区| 久久人人精品亚洲av| 99久久精品国产国产毛片| 色综合色国产| 色哟哟·www| 亚洲人成网站高清观看| 黄片wwwwww| 国产视频内射| 亚洲经典国产精华液单| 国产精品自产拍在线观看55亚洲| av专区在线播放| 少妇丰满av| 国产麻豆成人av免费视频| 国产一区二区三区视频了| 国产精品久久久久久av不卡| 国产精品电影一区二区三区| 精品人妻视频免费看| 久久久久九九精品影院| 亚洲va日本ⅴa欧美va伊人久久| 精品久久久久久久久av| 最近最新中文字幕大全电影3| av中文乱码字幕在线| 99九九线精品视频在线观看视频| 麻豆精品久久久久久蜜桃| 国产毛片a区久久久久| 亚洲精品成人久久久久久| 91久久精品国产一区二区成人| 国产视频内射| 成人欧美大片| 91久久精品电影网| 香蕉av资源在线| 亚洲欧美日韩卡通动漫| 干丝袜人妻中文字幕| 亚洲,欧美,日韩| 成人三级黄色视频| 一区二区三区四区激情视频 | 亚洲国产欧洲综合997久久,| 狠狠狠狠99中文字幕| 亚洲黑人精品在线| 欧美性猛交黑人性爽| 欧美人与善性xxx| 久久热精品热| 国产91精品成人一区二区三区| 狠狠狠狠99中文字幕| 亚洲精品粉嫩美女一区| 我的女老师完整版在线观看| 久久精品国产亚洲网站| 午夜福利高清视频| 久99久视频精品免费| 日韩一本色道免费dvd| 中文字幕精品亚洲无线码一区| 国产免费一级a男人的天堂| 桃红色精品国产亚洲av| 成年版毛片免费区| 亚洲精品久久国产高清桃花| 免费av不卡在线播放| 欧美黑人巨大hd| 99视频精品全部免费 在线| 午夜福利在线观看吧| 亚洲精品一卡2卡三卡4卡5卡| videossex国产| 日本黄色视频三级网站网址| 一边摸一边抽搐一进一小说| 日本熟妇午夜| 久久久久久大精品| 伦精品一区二区三区| av视频在线观看入口| .国产精品久久| 久久九九热精品免费| 免费观看在线日韩| 1024手机看黄色片| 亚洲成人久久性| 精品欧美国产一区二区三| 特大巨黑吊av在线直播| 不卡一级毛片| 狂野欧美白嫩少妇大欣赏| 欧美日本亚洲视频在线播放| 91麻豆av在线| 99热网站在线观看| 亚洲在线自拍视频| 免费高清视频大片| 十八禁国产超污无遮挡网站| 少妇高潮的动态图| 亚洲一级一片aⅴ在线观看| 国产精品一区二区免费欧美|