• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    Android應(yīng)用程序第三方庫(kù)的惡意行為隔離技術(shù)綜述

    2017-11-01 17:14:42湛家偉左奇?zhèn)?/span>?,撴?/span>王躍武
    關(guān)鍵詞:訪問控制內(nèi)核開發(fā)者

    湛家偉 左奇?zhèn)??,撴?王躍武

    1(中國(guó)科學(xué)院數(shù)據(jù)與通信保護(hù)研究教育中心 北京 100093)

    2(中國(guó)科學(xué)院信息工程研究所 北京 100093)

    3(中國(guó)科學(xué)院大學(xué) 北京 100049)

    4(工業(yè)和信息化部產(chǎn)業(yè)發(fā)展促進(jìn)中心 北京 100846)

    Android應(yīng)用程序第三方庫(kù)的惡意行為隔離技術(shù)綜述

    湛家偉1,2,3左奇?zhèn)?牛瑩姣1,2王躍武1,2

    1(中國(guó)科學(xué)院數(shù)據(jù)與通信保護(hù)研究教育中心 北京 100093)

    2(中國(guó)科學(xué)院信息工程研究所 北京 100093)

    3(中國(guó)科學(xué)院大學(xué) 北京 100049)

    4(工業(yè)和信息化部產(chǎn)業(yè)發(fā)展促進(jìn)中心 北京 100846)

    Android應(yīng)用程序第三方庫(kù)的大量使用,提高了移動(dòng)軟件的開發(fā)效率,同時(shí)也帶來了新的安全問題。目前的Android系統(tǒng)只提供一種粗粒度的權(quán)限控制機(jī)制,第三方庫(kù)會(huì)與其所在主應(yīng)用具有相同的權(quán)限,導(dǎo)致第三方庫(kù)權(quán)限過大,對(duì)用戶隱私造成嚴(yán)重威脅。目前,越來越多的學(xué)者開始對(duì)第三方庫(kù)的惡意行為進(jìn)行研究,取得了一定的成果。通過對(duì)惡意第三方庫(kù)隔離技術(shù)的相關(guān)背景和已有方案進(jìn)行綜述,分析出現(xiàn)有研究工作中存在的問題,并對(duì)未來研究方向進(jìn)行展望。

    Android 第三方庫(kù) 隔離 惡意行為

    0 引 言

    Android作為目前市場(chǎng)占有率最高的移動(dòng)終端操作系統(tǒng),其開放性策略吸引了大量的用戶和研究人員,但同時(shí)也帶來了許多安全問題。據(jù)TrendForce公司發(fā)布的2015年全球智能手機(jī)市場(chǎng)情況報(bào)告顯示,2015年全球智能手機(jī)銷量高達(dá)12.92億部[1],同比增長(zhǎng)10.3%,其中使用Android系統(tǒng)的手機(jī)占比高達(dá)80%以上。Google Play商店應(yīng)用程序數(shù)量在2014年就超過了Apple store,達(dá)到143萬(wàn),2015年Google Play應(yīng)用程序下載量破500億,是Apple store下載量的兩倍。

    Android應(yīng)用開發(fā)者通過使用不同功能特性的第三方庫(kù),能顯著節(jié)省開發(fā)成本,因此,開發(fā)者越來越多地依賴于第三方庫(kù)的使用。Android系統(tǒng)只提供了一種粗粒度的權(quán)限控制機(jī)制,第三方庫(kù)與其所在的主應(yīng)用程序具有相同的權(quán)限。每個(gè)第三方庫(kù)通常只需要一小部分權(quán)限即可完成相應(yīng)的功能,而開發(fā)者往往會(huì)申請(qǐng)大量權(quán)限,導(dǎo)致第三方庫(kù)權(quán)限過大,對(duì)用戶隱私造成嚴(yán)重威脅。目前,越來越多的學(xué)者開始研究第三方庫(kù)相關(guān)的惡意行為,并提出了很多解決方案。本文將介紹Android應(yīng)用程序第三方庫(kù)相關(guān)背景,對(duì)已有的隔離技術(shù)進(jìn)行總結(jié),最后對(duì)未來的研究工作進(jìn)行展望。

    1 背 景

    本節(jié)將對(duì)Android平臺(tái)相關(guān)安全機(jī)制進(jìn)行介紹,包括:隔離沙箱、Permission機(jī)制、常見隔離技術(shù)。

    1.1 Android隔離沙箱

    Android為了保障每個(gè)應(yīng)用的運(yùn)行過程不受其他應(yīng)用的影響,為每個(gè)應(yīng)用提供了一個(gè)隔離沙箱,如圖1所示。應(yīng)用程序在安裝時(shí)會(huì)被分配了唯一的UID,借助Linux平臺(tái)基于UID的自主訪問控制機(jī)制(DAC),可以對(duì)應(yīng)用的資源進(jìn)行有效保護(hù)。每個(gè)應(yīng)用程序都運(yùn)行在獨(dú)立的進(jìn)程空間,不能直接訪問其他應(yīng)用的資源,應(yīng)用間的交互需要借助進(jìn)程間通信技術(shù)(IPC)。

    圖1 Android隔離沙箱示意圖

    1.2 Permission機(jī)制

    在Android平臺(tái)上,受保護(hù)的系統(tǒng)資源一般分為兩類:用戶空間資源和內(nèi)核空間資源。用戶空間資源主要包括:四大組件(Activity、Service、Broadcast Receiver、ContentProvider),短信、聯(lián)系人、地理位置等,一般由Framework層的系統(tǒng)服務(wù)提供權(quán)限控制。內(nèi)核空間資源主要包括:網(wǎng)絡(luò)、NFC、藍(lán)牙等,一般由Linux內(nèi)核通過UGO(U代表用戶,G代表組,O代表其他)來提供權(quán)限控制。

    圖2為Permission機(jī)制的整體框架圖,主要包括三個(gè)步驟:開發(fā)者進(jìn)行權(quán)限申請(qǐng),安裝時(shí)用戶授權(quán)以及運(yùn)行時(shí)系統(tǒng)檢查。無論應(yīng)用程序想訪問哪種類型的資源,都需要在AndroidManifest.xml文件里申請(qǐng)相應(yīng)的權(quán)限。在應(yīng)用安裝時(shí),由用戶手動(dòng)選擇是否授予其所申請(qǐng)的權(quán)限。PackageManagerService(PMS)是Android系統(tǒng)的一個(gè)核心服務(wù),位于system_server進(jìn)程,負(fù)責(zé)系統(tǒng)中Package的管理,應(yīng)用程序的安裝、卸載、信息查詢等。在上述安裝過程中,PMS會(huì)對(duì)AndroidManifest.xml文件進(jìn)行解析,同時(shí)將每個(gè)應(yīng)用的權(quán)限信息進(jìn)行存儲(chǔ)。

    圖2 Permission機(jī)制架構(gòu)圖

    運(yùn)行時(shí)的權(quán)限檢查針對(duì)不同類型的資源也分為用戶空間和內(nèi)核空間兩類。當(dāng)應(yīng)用訪問用戶空間資源時(shí),會(huì)首先與ServiceManager進(jìn)程進(jìn)行通信,找到提供相應(yīng)資源的系統(tǒng)服務(wù)并向其發(fā)出請(qǐng)求。隨后,該服務(wù)向system_server進(jìn)程發(fā)起檢查,查詢應(yīng)用是否被授予了相應(yīng)的權(quán)限。當(dāng)應(yīng)用啟動(dòng)時(shí),由system_server進(jìn)程負(fù)責(zé)將權(quán)限轉(zhuǎn)換為L(zhǎng)inux組發(fā)送給zygote進(jìn)程用于進(jìn)程創(chuàng)建。zygote在收到請(qǐng)求后創(chuàng)建一個(gè)新的子進(jìn)程并將其設(shè)置到相應(yīng)的組。此后,該進(jìn)程訪問內(nèi)核資源時(shí),就會(huì)由Linux UGO負(fù)責(zé)權(quán)限控制。

    Permission機(jī)制是一種粗粒度的權(quán)限控制機(jī)制,使得第三方庫(kù)權(quán)限過大,引發(fā)用戶隱私竊取等安全問題。由于Permission機(jī)制在權(quán)限申請(qǐng)和檢查時(shí)都是以UID(一個(gè)應(yīng)用程序?qū)?yīng)一個(gè)唯一UID)作為最小控制單元,因此使得第三方庫(kù)具有和整個(gè)應(yīng)用一樣的權(quán)限。另外,由于權(quán)限不會(huì)在運(yùn)行時(shí)被更改,一旦被授予,第三方庫(kù)會(huì)一直擁有相應(yīng)的權(quán)限,直到應(yīng)用程序被卸載。即使第三方庫(kù)原本是善意的,但攻擊者依然可以對(duì)其進(jìn)行篡改,重新編譯后偽裝成原先的庫(kù),導(dǎo)致開發(fā)者誤用惡意的第三方庫(kù)。

    1.3 應(yīng)用程序隔離技術(shù)

    利用應(yīng)用程序隔離技術(shù),可以有效地保護(hù)用戶隱私,提高數(shù)據(jù)安全性。文獻(xiàn)[14]對(duì)Android平臺(tái)上常用的應(yīng)用隔離技術(shù)進(jìn)行了分類,如圖3所示,主要分為:應(yīng)用層隔離[14]、系統(tǒng)層隔離[15]、虛擬機(jī)隔離[16-17],下面將對(duì)這三種技術(shù)分別進(jìn)行介紹:

    (1) 應(yīng)用層隔離

    應(yīng)用層的隔離主要通過擴(kuò)充中間件和內(nèi)核,對(duì)應(yīng)用間的通信方式進(jìn)行強(qiáng)制訪問控制(MAC),以達(dá)到隔離的目的。例如,TrustDroid[14]提供了一種實(shí)用的輕量級(jí)的Android隔離框架,通過對(duì)中間件層和內(nèi)核進(jìn)行擴(kuò)展,實(shí)現(xiàn)不同信任等級(jí)間應(yīng)用和數(shù)據(jù)的隔離。此類方案對(duì)系統(tǒng)性能影響小,但可信計(jì)算基礎(chǔ)(TCB)較大,隔離性較差。

    (2) 系統(tǒng)層的隔離

    系統(tǒng)層的隔離主要通過構(gòu)建一個(gè)特殊的中間件層來達(dá)到隔離的目的。例如,AirBag[15]構(gòu)建了一個(gè)額外的中間層運(yùn)行環(huán)境,能有效地隔離惡意應(yīng)用。

    (3) 虛擬機(jī)隔離

    虛擬機(jī)層的隔離通常表現(xiàn)為在一個(gè)設(shè)備上運(yùn)行兩個(gè)操作系統(tǒng)。例如,L4Android[16]和Cells[17]提出了類似的解決方案,能在一個(gè)物理設(shè)備上運(yùn)行多個(gè)虛擬設(shè)備。此類方案TCB最小,隔離性最好,但對(duì)手機(jī)性能影響最大。

    圖3 Android平臺(tái)上常用的隔離技術(shù)分類

    2 Android應(yīng)用程序第三方庫(kù)

    2.1 第三方庫(kù)的分類

    按照運(yùn)行環(huán)境,第三方庫(kù)可以分發(fā)Java庫(kù)和Native庫(kù)[7]。Android應(yīng)用程序運(yùn)行時(shí)結(jié)構(gòu)如圖4所示。由圖可知,Native庫(kù)直接運(yùn)行在Linux內(nèi)核上,Java庫(kù)運(yùn)行在虛擬機(jī)上,都可以被應(yīng)用程序使用。

    圖4 Android應(yīng)用程序運(yùn)行時(shí)結(jié)構(gòu)圖

    Java庫(kù)存在的形式多種多樣,最終都以字節(jié)碼的形式被虛擬機(jī)加載運(yùn)行,訪問內(nèi)存空間時(shí)需要受到虛擬機(jī)的管控。Native庫(kù)通常采用C/C++編寫,以so庫(kù)的形式存在,不能單獨(dú)執(zhí)行,需要先加載到內(nèi)存再通過JNI(Java Native Interface)供上層調(diào)用,訪問內(nèi)存空間時(shí)不受虛擬機(jī)的限制。相比于Java庫(kù),Native庫(kù)運(yùn)行速度快,逆向難度大,能有效地與操作系統(tǒng)底層進(jìn)行交互,也被應(yīng)用開發(fā)者廣泛使用。

    2.2 第三方庫(kù)的惡意行為

    隨著Android應(yīng)用程序第三方庫(kù)的大量使用,其權(quán)限濫用現(xiàn)象也越來越嚴(yán)重,帶來許多安全問題。廣告庫(kù)是最常見的第三方庫(kù),文獻(xiàn)[3]的研究表明,幾乎50%的免費(fèi)應(yīng)用內(nèi)嵌有第三方公司提供的廣告庫(kù)。許多學(xué)者對(duì)廣告庫(kù)的潛在安全風(fēng)險(xiǎn)進(jìn)行了研究[2-3],發(fā)現(xiàn)很多廣告庫(kù)訪問用戶敏感信息時(shí),并沒有對(duì)用戶進(jìn)行提示,同時(shí)也沒有在開發(fā)者文檔里進(jìn)行注明。除廣告庫(kù)外,開發(fā)者還會(huì)大量使用一些具有其他功能特征的第三方庫(kù),例如,用戶界面、游戲引擎、網(wǎng)絡(luò)通信、數(shù)據(jù)分析等,也會(huì)對(duì)用戶隱私造成嚴(yán)重威脅。文獻(xiàn)[2]對(duì)100 000個(gè)應(yīng)用程序進(jìn)行了分析,發(fā)現(xiàn)所有類型的第三方庫(kù),在開發(fā)者指南里沒有明確指出的情況下,大多都會(huì)秘密地使用系統(tǒng)API來訪問用戶的隱私信息,包括:賬戶信息、電話狀態(tài)、地理位置等。

    3 Android惡意第三方庫(kù)隔離技術(shù)

    根據(jù)第三方庫(kù)與主應(yīng)用的運(yùn)行環(huán)境的不同,可以將第三方庫(kù)相關(guān)的隔離技術(shù)分為兩類:進(jìn)程間隔離和組件間隔離,下面分別對(duì)其進(jìn)行介紹。

    3.1 進(jìn)程間隔離技術(shù)

    進(jìn)程間隔離技術(shù)的一般架構(gòu)如圖5所示,通過將第三方庫(kù)遷移到單獨(dú)進(jìn)程里,實(shí)現(xiàn)對(duì)第三方庫(kù)的權(quán)限隔離。

    圖5 進(jìn)程間隔離技術(shù)架構(gòu)圖

    AdSplit[8]和AFrame[9]將廣告庫(kù)作為一個(gè)單獨(dú)的應(yīng)用程序來運(yùn)行,使得應(yīng)用開發(fā)者不需要為廣告庫(kù)申請(qǐng)任何權(quán)限,能有效地限制廣告庫(kù)的惡意行為。NativeGuard[10]采用了類似的方法,但主要是針對(duì)Native庫(kù)。AdDroid[11]構(gòu)建了一個(gè)新的Android系統(tǒng)服務(wù),將應(yīng)用的廣告功能進(jìn)行統(tǒng)一管理,實(shí)現(xiàn)兩者間的進(jìn)程間隔離。LayerCake[12]將用戶界面相關(guān)的庫(kù)與主應(yīng)用分離,為Android應(yīng)用提供安全的第三方可嵌入用戶界面庫(kù)。上述方案中,第三方庫(kù)與主應(yīng)用運(yùn)行在不同進(jìn)程,因此所有交互都需要使用進(jìn)程間通信。

    3.2 組件間隔離技術(shù)

    組件間隔離技術(shù)在不遷移第三方庫(kù)的前提下,也能實(shí)現(xiàn)應(yīng)用內(nèi)的權(quán)限隔離。FLEXDROID[2]和Compac[13]主要針對(duì)Permission機(jī)制的粗粒度控制缺陷進(jìn)行改進(jìn),從而提供組件間的權(quán)限隔離。相比于Compac,F(xiàn)LEXDROID針對(duì)某些依賴JNI和動(dòng)態(tài)代碼執(zhí)行的第三方庫(kù)進(jìn)行了處理。圖6為組件間隔離技術(shù)的一般架構(gòu)圖,實(shí)線框表示已有模塊,虛線框表示新添加的模塊。

    圖6 組件間隔離技術(shù)架構(gòu)圖

    下面針對(duì)這些模塊進(jìn)行介紹:

    (1) 策略配置模塊

    策略接口模塊主要負(fù)責(zé)為開發(fā)者提供針對(duì)第三方庫(kù)進(jìn)行細(xì)粒度權(quán)限控制的接口。開發(fā)者對(duì)第三方庫(kù)的功能有著清晰的認(rèn)識(shí),因此,由開發(fā)者制定第三方庫(kù)的權(quán)限策略能準(zhǔn)確的對(duì)其行為進(jìn)行管控。每個(gè)運(yùn)行在Android平臺(tái)上的應(yīng)用程序,其權(quán)限信息由開發(fā)者在AndroidManifest.xml文件里面去配置申請(qǐng)。為了更好地與Android原生Permission機(jī)制兼容,多數(shù)方案選擇通過在該文件里加入特殊的標(biāo)簽,來給開發(fā)者提供第三方庫(kù)的權(quán)限控制接口。

    (2) 信息提取模塊

    信息提取模塊主要負(fù)責(zé)在應(yīng)用訪問敏感資源時(shí),實(shí)時(shí)獲取相關(guān)信息。Android原有的Permission機(jī)制僅僅需要UID來作為權(quán)限檢查的依據(jù),為了能夠?qū)崿F(xiàn)細(xì)粒度的權(quán)限控制,組件權(quán)限檢查模塊需要得到更多的應(yīng)用程序運(yùn)行時(shí)信息。要針對(duì)第三方庫(kù)進(jìn)行權(quán)限控制,權(quán)限檢查模塊首先需要識(shí)別出當(dāng)前請(qǐng)求來至于哪個(gè)第三方庫(kù)。另外,由于庫(kù)與庫(kù)之間經(jīng)常會(huì)存在相互調(diào)用,因此函數(shù)庫(kù)的調(diào)用序列對(duì)于組件權(quán)限檢查模塊是必不可少的信息。信息提取模塊通過HOOK虛擬機(jī),修改進(jìn)程間通信等方式,可以實(shí)時(shí)獲取目標(biāo)線程的運(yùn)行時(shí)信息,為組件權(quán)限檢查提供判斷依據(jù)。

    (3) 權(quán)限檢查模塊

    權(quán)限控制模塊負(fù)責(zé)接收并處理運(yùn)行時(shí)信息,同時(shí)根據(jù)開發(fā)者配置的策略進(jìn)行細(xì)粒度檢查。該模塊同時(shí)還負(fù)責(zé)安裝應(yīng)用時(shí)對(duì)第三方庫(kù)的權(quán)限信息進(jìn)行存儲(chǔ),主要針對(duì)用戶空間的資源,一般通過擴(kuò)展已有的Android系統(tǒng)服務(wù)實(shí)現(xiàn)。

    (4) ACL檢查模塊

    針對(duì)內(nèi)核空間的資源,需要ACL[5](訪問控制列表)來進(jìn)行細(xì)粒度控制。ACL是一個(gè)文件/目錄的訪問控制列表,可以針對(duì)任意指定的用戶/組分配RWX權(quán)限。通過移植并修改ACL,使其支持組件級(jí)的權(quán)限控制,可以在運(yùn)行時(shí)保護(hù)內(nèi)核空間資源不被惡意第三方庫(kù)的非法使用。

    3.3 其他相關(guān)技術(shù)

    (1) 隱私泄露檢測(cè)技術(shù)

    此類方案主要目的是保護(hù)用戶隱私數(shù)據(jù),防止數(shù)據(jù)被非法訪問。例如,TainDroid[18]通過在Dalvik虛擬機(jī)中的數(shù)據(jù)加入污點(diǎn)傳播機(jī)制,能對(duì)敏感數(shù)據(jù)流進(jìn)行實(shí)時(shí)監(jiān)控,有效防止敏感數(shù)據(jù)的泄露,但此方案對(duì)系統(tǒng)性能影響較大。Brahmastra[31]提供了針對(duì)一種自動(dòng)化測(cè)試工具,用于檢測(cè)第三方庫(kù)的潛在威脅。MAdFraud[32]采用了動(dòng)態(tài)分析技術(shù)來檢測(cè)主應(yīng)用程序惡意點(diǎn)擊廣告庫(kù)的行為。

    (2) 細(xì)粒度權(quán)限控制技術(shù)

    此類方案主要針對(duì)Permission機(jī)制存在的問題,采用細(xì)粒度權(quán)限控制方案,來對(duì)應(yīng)用程序進(jìn)行管控。Apex[19]和Kirin[20]允許用戶只授予應(yīng)用部分權(quán)限,并在安裝時(shí)執(zhí)行用戶選擇的策略,Saint[21]在此基礎(chǔ)上,為用戶提供了運(yùn)行時(shí)的細(xì)粒度權(quán)限控制接口。文獻(xiàn)[22-23]采用自適應(yīng)的方式,根據(jù)上下文環(huán)境來動(dòng)態(tài)的配置應(yīng)用的權(quán)限。AppCage[33]采用軟隔離技術(shù)來限制JNI的內(nèi)存訪問區(qū)域,增強(qiáng)虛擬機(jī)的安全性。

    (3) 強(qiáng)制訪問控制技術(shù)

    此類方案主要通過將強(qiáng)制訪問控制引入Android平臺(tái),來加強(qiáng)系統(tǒng)的安全性。文獻(xiàn)[24-26]利用強(qiáng)制訪問控制機(jī)制,對(duì)應(yīng)用程序間的權(quán)限提升問題進(jìn)行處理。SEAndroid[27]將SELinux擴(kuò)展到Android系統(tǒng),對(duì)內(nèi)核層和框架層實(shí)施強(qiáng)制訪問控制,在Android 4.3版本中被引進(jìn)。FlaskDroid[28-29]和SEDalvik[30]分別針對(duì)Android組件和Dalvik虛擬機(jī)實(shí)現(xiàn)了強(qiáng)制訪問控制。

    4 現(xiàn)有工作中存在的問題

    4.1 進(jìn)程間隔離技術(shù)存在的問題

    進(jìn)程間隔離技術(shù)能有效地將第三方庫(kù)與主應(yīng)用進(jìn)行隔離,實(shí)現(xiàn)細(xì)粒度的權(quán)限訪問控制,但也存在著一些不足。

    (1) 對(duì)系統(tǒng)性能影響大

    廣告庫(kù)與主應(yīng)用交互較少,不需要太頻繁的進(jìn)程間通信,因此采用進(jìn)程間隔離的方案對(duì)系統(tǒng)性能影響較小。當(dāng)該類方案擴(kuò)展到其他第三方庫(kù)時(shí),由于存在像網(wǎng)絡(luò)通信、游戲引擎這類需要與主應(yīng)用大量交互的第三方庫(kù),此時(shí)會(huì)導(dǎo)致大量額外的進(jìn)程間通信,嚴(yán)重影響系統(tǒng)性能。

    (2) Java庫(kù)的處理不完善

    Java庫(kù)具有大量動(dòng)態(tài)特性,包括:類繼承、多線程、反射、JNI調(diào)用、動(dòng)態(tài)代碼加載等,使得第三方庫(kù)與主應(yīng)用的交互方式變得復(fù)雜,進(jìn)程間隔離相關(guān)的方案難以對(duì)其界限進(jìn)行區(qū)分。

    4.2 組件間隔離技術(shù)存在的問題

    組件間隔離技術(shù)能有效彌補(bǔ)Permission機(jī)制的不足,實(shí)現(xiàn)組件間的權(quán)限訪問控制,但也在著一些限制。

    (1) 無法應(yīng)對(duì)混淆技術(shù)

    目前的應(yīng)用程序都會(huì)采用混淆技術(shù)對(duì)自身的代碼進(jìn)行壓縮、優(yōu)化和混淆,增加逆向攻擊難度,保護(hù)應(yīng)用安全。由于策略信息由開發(fā)者提供,混淆技術(shù)會(huì)使得隔離系統(tǒng)不能有效地識(shí)別出第三方庫(kù),無法提供預(yù)先的功能。此種情況下,只能依靠開發(fā)者將需要隔離的第三庫(kù)進(jìn)特殊處理。

    (2) Native庫(kù)的處理不完善

    Java庫(kù)在運(yùn)行時(shí)有著非常清晰的棧信息,可以有效地識(shí)別出第三方庫(kù)的調(diào)用序列,在權(quán)限檢查時(shí)利用最小權(quán)限原則對(duì)調(diào)用者的權(quán)限進(jìn)行檢查,而Native庫(kù)的棧信息可讀性相對(duì)較差,需要額外的處理。另外,使用ACL來限制內(nèi)核空間資源時(shí),會(huì)使得每次文件訪問時(shí),都需要對(duì)請(qǐng)求者的棧信息進(jìn)行提取,分析出相應(yīng)的第三方庫(kù)信息,并進(jìn)行權(quán)限檢查,如此會(huì)導(dǎo)致系統(tǒng)效率低下。

    (3) 存在潛在威脅

    由于組件間隔離技術(shù)并沒有對(duì)第三方庫(kù)的內(nèi)存空間進(jìn)行隔離,使得惡意第三方庫(kù)有機(jī)會(huì)利用Native代碼對(duì)主應(yīng)用的內(nèi)存空間進(jìn)行篡改,影響其他庫(kù)的運(yùn)行。

    5 惡意第三方庫(kù)隔離技術(shù)的展望

    隨著第三方庫(kù)在Android平臺(tái)的大量使用,其惡意行為導(dǎo)致的隱私安全問題受到了廣泛關(guān)注,許多學(xué)者都提出了各自的解決方案,能在一定程序上隔離第三方庫(kù)的惡意行為,但也存在一些不足,本節(jié)將對(duì)第三方庫(kù)隔離技術(shù)的未來方向進(jìn)行展望。

    (1) 將第三方庫(kù)進(jìn)行分類處理

    由于每種技術(shù)方案都有其優(yōu)劣,可以針對(duì)不同特性的第三方庫(kù)采取不同的隔離方案。例如,針對(duì)Java庫(kù)可以采用組件間隔離技術(shù),對(duì)其動(dòng)態(tài)特性采取相應(yīng)的措施,就能對(duì)其權(quán)限進(jìn)行有效的控制。針對(duì)與主應(yīng)用交互較少的第三方庫(kù),可以采用進(jìn)程隔離技術(shù),實(shí)現(xiàn)內(nèi)存空間的隔離,更大限度地對(duì)惡意行為進(jìn)行限制。

    (2) 引入針對(duì)惡意應(yīng)用的隔離技術(shù)

    目前攻擊者的手段層出不窮,已有的方案大多只是針對(duì)第三方庫(kù)的權(quán)限進(jìn)行隔離,通過引入惡意應(yīng)用隔離技術(shù),可以進(jìn)一步防止數(shù)據(jù)免于惡意第三方庫(kù)的危害。例如,Cgroup[7]技術(shù)可以有效地限制并隔離進(jìn)程組所使用的CPU、內(nèi)存、IO等物理資源;利用創(chuàng)建和掛載文件系統(tǒng),可以實(shí)現(xiàn)第三方庫(kù)的文件級(jí)隔離;利用設(shè)備虛擬化技術(shù),將驅(qū)動(dòng)等底層系統(tǒng)資源進(jìn)行隔離。上述方案都可以借鑒參考,引入到針對(duì)第三方庫(kù)的惡意行為隔離方案中。

    6 結(jié) 語(yǔ)

    本文對(duì)Android應(yīng)用程序第三方惡意行為的隔離技術(shù)進(jìn)行了綜述。首先介紹第三方庫(kù)的相關(guān)背景知識(shí),Permission機(jī)制的原理及其存在的缺陷。然后對(duì)目前Android惡意應(yīng)用的隔離技術(shù)進(jìn)行了描述,接著詳細(xì)介紹了惡意第三方庫(kù)的隔離技術(shù),并對(duì)其優(yōu)缺點(diǎn)進(jìn)行分析。最后根據(jù)現(xiàn)有研究工作中存在的問題,對(duì)未來的研究工作進(jìn)行展望。

    [1] TrendForce Reports Steady Smartphone Shipments Resulted in Just 1% Drop in Global Mobile DRAM Revenue for 4Q15 [EB/OL].2016.http://press.trendforce.com/node/view/2336.html.

    [2] Jaebaek Seo, Daehyeok Kim, Donghyun Cho, et al. FLEXDROID:Enforcing In-App Privilege Separation in Android[C]//Proceedings of the Network and Distributed System Security Symposium (NDSS), 2016.

    [3] Grace M C, Zhou W, Jiang X, et al. Unsafe exposure analysis of mobile in-app advertisements[C]//ACM Conference on Security and Privacy in Wireless and Mobile Networks. ACM, 2012:101-112.

    [4] Stevens R, Gibler C, Crussell J, et al. Investigating user privacy in android ad libraries[C]//Workshop on Mobile Security Technologies (MoST), 2012.

    [5] acl[EB/OL]. Linux man page. http://linux.die.net/man/5/acl.

    [6] CGROUPS[EB/OL].http://www.kernel.org/doc/Documentation/cgroups/cgroups.txt.

    [7] Android ndk[EB/OL]. http://developer.android.com/tools/ sdk/ ndk /index.html.

    [8] Shekhar S, Dietz M, Wallach D S. AdSplit: separating smartphone advertising from applications[J]. Dissertations & Theses-Gradworks, 2012, 54(1):99.

    [9] Zhang X, Ahlawat A, Du W. AFrame: isolating advertisements from mobile applications in Android[C]//Computer Security Applications Conference. ACM, 2013:9-18.

    [10] Sun M, Tan G. NativeGuard:protecting android applications from third-party native libraries[C]//Proceedings of the 2014 ACM conference on Security and privacy in wireless & mobile networks. ACM, 2014:165-176.

    [11] Pearce P, Felt A P, Nunez G, et al. Addroid: Privilege separation for applications and advertisers in android[C]//Proceedings of the 7th ACM Symposium on Information, Computer and Communications Security, 2012.

    [12] Roesner F, Kohno T. Securing embedded user interfaces: Android and beyond[C]//Presented as part of the 22nd USENIX Security Symposium, 2013.

    [13] Wang Y, Hariharan S, Zhao C, et al. Compac: enforce component-level access control in android[C]//ACM Conference on Data and Application Security and Privacy. ACM, 2014:25-36.

    [14] Bugiel S, Davi L, Dmitrienko A, et al. Practical and lightweight domain isolation on Android[C]//ACM Workshop on Security and Privacy in Smartphones and Mobile Devices. ACM, 2011:51-62.

    [15] Wu C, Zhou Y, Patel K, et al. AirBag: Boosting Smartphone Resistance to Malware Infection[C]//Proceedings of the Network and Distributed System Security Symposium (NDSS), 2014.

    [16] Lange M, Liebergeld S, Lackorzynski A, et al. L4Android: a generic operating system framework for secure smartphones[C]//ACM Workshop on Security and Privacy in Smartphones and Mobile Devices. ACM, 2011:39-50.

    [17] Andrus J, Dall C, Hof A V, et al. Cells: A Virtual Mobile Smartphone Architecture[C]//Proceedings of the Twenty-Third ACM Symposium on Operating Systems Principles, 2011.

    [18] Enck W, Gilbert P, Chun B-G, et al. Taintdroid: An information-flow tracking system for realtime privacy monitoring on smartphones[C]//Proceedings of the 9th USENIX Conference on Operating Systems Design and Implementation, 2010.

    [19] Nauman M, Khan S, Zhang X. Apex:extending android permission model and enforcement with user-defined runtime constraints[C]//Proceedings of the 5th ACM Symposium on Information, Computer and Communications Security(AsiaCCS), 2010.

    [20] Enck W, Ongtang M, McDaniel P. On lightweight mobile phone application certification[C]//Proceedings of the 16th ACM Conference on Computer and Communications Security(CCS), 2009.

    [21] Ongtang M, McLaughlin S, Enck W, et al. Semantically rich application-centric security in android[C]//Proceedings of the 2009 Annual Computer Security Applications Conference(ACSA), 2009.

    [22] Roesner F, Kohno T, Moshchuk A, et al. User-driven access control: Rethinking permission granting in modern operating systems[C]//Proceedings of the 2012 IEEE Symposium on Security and Privacy(SP) , 2012.

    [23] Conti M, Nguyen V T N, Crispo B. CRePE: Context-Related Policy Enforcement for Android[C]//Information Security-, International Conference, ISC 2010, Boca Raton, Fl, Usa, October 25-28, 2010, Revised Selected Papers. DBLP, 2011:331-345.

    [24] Bugiel S, Davi L, Dmitrienko A, et al. XManDroid: A New Android Evolution to Mitigate Privilege Escalation Attacks[R]. Technische Universit?t Darmstadt, Technical Report,2011:1-18.

    [25] Bugiel S, Davi L, Dmitrienko A, et al. Towards Taming Privilege-Escalation Attacks on Android[J].Proceedings of Annual Network & Distributed System Security Symposium, 2012, 130(130):346-360.

    [26] Dietz M, Shekhar S, Pisetsky Y, et al. Quire: lightweight provenance for smart phone operating systems[C]//Proceedings of the 20th USENIX Conference on Security Symposium, 2011.

    [27] Smalley S, Craig R. Security enhanced (SE) android: Bringing flexible mac to android[C]//Proceedings of 20th Annual Network & Distributed System Security Symposium (NDSS), 2013.

    [28] Bugiel S, Heuser S, Sadeghi A. Towards a framework for android security modules: Extending se android type enforcement to android middleware. Tech. Rep. TUD-CS-2012-0231[R]. Center for Advanced Security Research Darmstadt, Nov. 2012.

    [29] Bugiel S, Heuser S, Sadeghi A. Flexible and fine-grained mandatory access control on Android for diverse security and privacy policies[C]//Proceedings of the 22nd USENIX conference on Security symposium, 2013.

    [30] Bousquet A, Briffaut J, Clévy L, et al. Mandatory Access Control for the Android Dalvik Virtual Machine[C]//The Workshop on Usenix Federated Conferences. 2013.

    [31] Bhoraskar R, Han S, Jeon J, et al. Brahmastra: Driving Apps to Test the Security of Third-Party Components[C]//The 23rdUsenix Security Symposium,2014:1021-1036.

    [32] Crussell J, Stevens R, Chen H. MAdFraud: investigating ad fraud in android applications[C]//Proceedings of the 12th Annual International Conference on Mobile Systems, Applications, and Services, 2014.

    [33] Zhou Y, Patel K, Wu L, et al. Hybrid User-level Sandboxing of Third-party Android Apps[C]//ACM Symposium on Information, Computer and Communications Security. ACM, 2015:19-30.

    ASURVEYONISOLATIONTECHNOLOGYAGAINSTMALICIOUSBEHAVIOROFTHIRDPARTYLIBRARIESOFANDROIDAPPLICATION

    Zhan Jiawei1,2,3Zuo Qiwei4Niu Yingjiao1,2Wang Yuewu1,2

    1(DataAssuranceandCommunicationSecurityResearchCenter,ChineseAcademyofSciences,Beijing100093,China)2(InstituteofInformationEngineering,ChineseAcademyofSciences,Beijing100093,China)3(UniversityofChineseAcademyofSciences,Beijing100049,China)4(IndustryDevelopmentandPromotionCenter,MinistryofIndustryandInformationTechnologyofthePeople’sRepublicofChina,Beijing100846,China)

    The extensive use of third party libraries in Android applications improves the efficiency of mobile software development and brings new security issues. The current Android system only provides a coarse grained permission control mechanism. The third party libraries with its host application have the same permissions, resulting in third party libraries permissions are too large, serious threats to user privacy. At present, more and more scholars began to study the malicious behavior of the third party libraries, and achieved some results. We reviewed the background and existing schemes of malicious third party libraries isolation technology, analyzed the existing problems in the research work, and looked forward to the future research direction.

    Android Third party library Isolation Malicious behavior

    TP3

    A

    10.3969/j.issn.1000-386x.2017.10.054

    2016-12-16。十三五網(wǎng)絡(luò)空間安全專項(xiàng)項(xiàng)目(2016YFB0800102)。湛家偉,碩士生,主研領(lǐng)域:系統(tǒng)安全。左奇?zhèn)?,高工。?,撴硌芯繂T。王躍武,副研究員。

    猜你喜歡
    訪問控制內(nèi)核開發(fā)者
    萬(wàn)物皆可IP的時(shí)代,我們當(dāng)夯實(shí)的IP內(nèi)核是什么?
    強(qiáng)化『高新』內(nèi)核 打造農(nóng)業(yè)『硅谷』
    基于嵌入式Linux內(nèi)核的自恢復(fù)設(shè)計(jì)
    Linux內(nèi)核mmap保護(hù)機(jī)制研究
    ONVIF的全新主張:一致性及最訪問控制的Profile A
    動(dòng)態(tài)自適應(yīng)訪問控制模型
    淺析云計(jì)算環(huán)境下等級(jí)保護(hù)訪問控制測(cè)評(píng)技術(shù)
    16%游戲開發(fā)者看好VR
    CHIP新電腦(2016年3期)2016-03-10 13:06:42
    大數(shù)據(jù)平臺(tái)訪問控制方法的設(shè)計(jì)與實(shí)現(xiàn)
    iOS開發(fā)者調(diào)查
    電腦迷(2015年8期)2015-05-30 12:27:10
    99热6这里只有精品| 国内精品美女久久久久久| 精品久久久噜噜| 丝袜喷水一区| 亚洲天堂国产精品一区在线| 亚洲成a人片在线一区二区| 一个人观看的视频www高清免费观看| 久久久久久大精品| 精品午夜福利在线看| 亚洲精品日韩av片在线观看| 亚洲人成网站在线播放欧美日韩| 99热这里只有是精品50| 一卡2卡三卡四卡精品乱码亚洲| 午夜激情福利司机影院| 一本久久中文字幕| 午夜亚洲福利在线播放| 97超视频在线观看视频| 在线观看av片永久免费下载| 99视频精品全部免费 在线| 岛国毛片在线播放| 波多野结衣巨乳人妻| 中文字幕久久专区| 国产一级毛片在线| 久久久色成人| 99久久无色码亚洲精品果冻| 91久久精品国产一区二区三区| 国产真实伦视频高清在线观看| 成人亚洲欧美一区二区av| 国产精品电影一区二区三区| 免费看日本二区| 亚洲最大成人手机在线| 日本av手机在线免费观看| 亚洲国产欧洲综合997久久,| 一区二区三区高清视频在线| 看免费成人av毛片| 啦啦啦观看免费观看视频高清| 国产精品久久电影中文字幕| 国产69精品久久久久777片| 美女cb高潮喷水在线观看| 99久久无色码亚洲精品果冻| 女人十人毛片免费观看3o分钟| 国产一区亚洲一区在线观看| 大型黄色视频在线免费观看| 国产亚洲精品久久久久久毛片| 亚洲av二区三区四区| 色5月婷婷丁香| 亚洲三级黄色毛片| 亚洲久久久久久中文字幕| 欧美成人精品欧美一级黄| 欧美丝袜亚洲另类| 国产精品嫩草影院av在线观看| videossex国产| 欧美在线一区亚洲| 成人午夜高清在线视频| 一夜夜www| 嫩草影院新地址| 深爱激情五月婷婷| a级毛片a级免费在线| 国国产精品蜜臀av免费| 变态另类丝袜制服| 久久精品影院6| av免费在线看不卡| 婷婷六月久久综合丁香| 日韩精品有码人妻一区| 亚洲成人中文字幕在线播放| 国产成人freesex在线| 免费搜索国产男女视频| 久久久久久久午夜电影| 亚洲欧美日韩无卡精品| 亚洲精品456在线播放app| 1024手机看黄色片| 91久久精品国产一区二区成人| 久久久久久伊人网av| 哪个播放器可以免费观看大片| 三级国产精品欧美在线观看| 中文字幕免费在线视频6| 国产美女午夜福利| 亚洲五月天丁香| 搡老妇女老女人老熟妇| 久久人人爽人人爽人人片va| 看非洲黑人一级黄片| 亚洲成人av在线免费| 可以在线观看毛片的网站| 国产成人a区在线观看| 熟女人妻精品中文字幕| 18禁在线播放成人免费| 高清日韩中文字幕在线| 午夜福利在线在线| av福利片在线观看| 国产亚洲精品av在线| 黄色欧美视频在线观看| 成人性生交大片免费视频hd| 91在线精品国自产拍蜜月| 搡女人真爽免费视频火全软件| 我的老师免费观看完整版| 久久久久免费精品人妻一区二区| 亚洲国产精品久久男人天堂| 国产69精品久久久久777片| 美女国产视频在线观看| 亚洲精品久久久久久婷婷小说 | 国产在线精品亚洲第一网站| 亚洲欧美清纯卡通| 综合色av麻豆| 大型黄色视频在线免费观看| 久久久久国产网址| 精品国内亚洲2022精品成人| 亚洲久久久久久中文字幕| 久久久久网色| 日本免费a在线| 欧美精品国产亚洲| 午夜a级毛片| av在线蜜桃| 国产免费男女视频| 亚洲图色成人| 成年免费大片在线观看| 国产淫片久久久久久久久| 久久6这里有精品| 成人特级av手机在线观看| 免费电影在线观看免费观看| 亚洲成人精品中文字幕电影| 女人被狂操c到高潮| 亚洲av免费高清在线观看| 国国产精品蜜臀av免费| 男人舔奶头视频| 欧美日韩综合久久久久久| 国产伦在线观看视频一区| 免费人成在线观看视频色| 高清毛片免费看| av视频在线观看入口| 色哟哟·www| 国产成年人精品一区二区| 亚洲综合色惰| 精品人妻偷拍中文字幕| 国产黄片美女视频| 国内精品一区二区在线观看| 久久久久久久久中文| 尤物成人国产欧美一区二区三区| 一级av片app| 最后的刺客免费高清国语| 成人特级av手机在线观看| 国产av不卡久久| 99国产极品粉嫩在线观看| 永久网站在线| 国产精品一区二区在线观看99 | 啦啦啦啦在线视频资源| 国产精品嫩草影院av在线观看| 亚洲aⅴ乱码一区二区在线播放| 国产一区二区在线av高清观看| 亚洲成人中文字幕在线播放| 天天躁夜夜躁狠狠久久av| 成人永久免费在线观看视频| 中文字幕免费在线视频6| 国产日本99.免费观看| 午夜福利视频1000在线观看| 欧美成人a在线观看| 亚洲七黄色美女视频| 国产视频首页在线观看| 波多野结衣高清作品| 亚洲成人久久性| 国产精品久久久久久久电影| 天堂av国产一区二区熟女人妻| 久久久久久久亚洲中文字幕| 别揉我奶头 嗯啊视频| 成人二区视频| 能在线免费观看的黄片| 欧美成人a在线观看| 六月丁香七月| 国产一区二区激情短视频| 婷婷六月久久综合丁香| 日日撸夜夜添| 免费电影在线观看免费观看| 国产精品免费一区二区三区在线| 在线观看一区二区三区| 男女下面进入的视频免费午夜| 久久婷婷人人爽人人干人人爱| 2022亚洲国产成人精品| 日本黄大片高清| 在线天堂最新版资源| 国产精品久久久久久久电影| 国产黄片美女视频| 老熟妇乱子伦视频在线观看| 欧美激情久久久久久爽电影| 久久久欧美国产精品| 免费人成在线观看视频色| 国产色婷婷99| 久久久国产成人精品二区| 成人二区视频| 桃色一区二区三区在线观看| 久久精品国产亚洲网站| 国产精品美女特级片免费视频播放器| 男插女下体视频免费在线播放| 天天躁日日操中文字幕| 国产成人a∨麻豆精品| 日日干狠狠操夜夜爽| 日韩强制内射视频| 男女边吃奶边做爰视频| 99在线人妻在线中文字幕| 久久久成人免费电影| 久久精品国产亚洲av香蕉五月| 久久精品久久久久久噜噜老黄 | 午夜激情福利司机影院| 欧美xxxx性猛交bbbb| 国产麻豆成人av免费视频| 老司机影院成人| 久久九九热精品免费| 久久午夜福利片| 18禁在线无遮挡免费观看视频| 一区二区三区四区激情视频 | videossex国产| 欧美在线一区亚洲| 嫩草影院精品99| 亚洲最大成人av| a级毛片免费高清观看在线播放| 中文字幕熟女人妻在线| 免费看美女性在线毛片视频| 亚洲婷婷狠狠爱综合网| av在线播放精品| 嫩草影院新地址| 亚洲七黄色美女视频| 一本久久中文字幕| 日韩亚洲欧美综合| 好男人在线观看高清免费视频| 亚洲va在线va天堂va国产| 女人十人毛片免费观看3o分钟| 卡戴珊不雅视频在线播放| 狠狠狠狠99中文字幕| 男女视频在线观看网站免费| 18禁裸乳无遮挡免费网站照片| 久久久色成人| 日本黄色片子视频| 老司机福利观看| 性插视频无遮挡在线免费观看| 一本久久精品| 1024手机看黄色片| 免费在线观看成人毛片| 又爽又黄无遮挡网站| 蜜桃久久精品国产亚洲av| 观看免费一级毛片| av黄色大香蕉| 日韩视频在线欧美| 午夜免费男女啪啪视频观看| 久久久久国产网址| 国产熟女欧美一区二区| 精品人妻偷拍中文字幕| 禁无遮挡网站| 国产在线精品亚洲第一网站| 国产成人精品一,二区 | 亚洲丝袜综合中文字幕| 成人午夜精彩视频在线观看| 日本熟妇午夜| 男女啪啪激烈高潮av片| 日日撸夜夜添| 两个人视频免费观看高清| 午夜激情福利司机影院| 欧美最黄视频在线播放免费| 国产成年人精品一区二区| 日韩欧美精品v在线| 99久久精品热视频| 一边亲一边摸免费视频| 国产av不卡久久| 国产亚洲精品久久久com| 内地一区二区视频在线| 欧美变态另类bdsm刘玥| 国产极品精品免费视频能看的| 18禁黄网站禁片免费观看直播| 成年女人永久免费观看视频| 给我免费播放毛片高清在线观看| 校园春色视频在线观看| 直男gayav资源| 伊人久久精品亚洲午夜| 夜夜看夜夜爽夜夜摸| 91av网一区二区| 国产高清激情床上av| 床上黄色一级片| avwww免费| 日韩制服骚丝袜av| 久久久精品94久久精品| 男插女下体视频免费在线播放| 中文字幕制服av| 亚洲最大成人中文| 黄片无遮挡物在线观看| 九九热线精品视视频播放| 国产亚洲精品久久久com| 国产av一区在线观看免费| 国产精品一区二区三区四区免费观看| 自拍偷自拍亚洲精品老妇| 国产成人精品婷婷| 欧美成人一区二区免费高清观看| 极品教师在线视频| 亚洲欧美成人精品一区二区| 欧美一区二区精品小视频在线| 亚洲av成人av| 毛片女人毛片| 国产精品永久免费网站| 欧美日韩国产亚洲二区| av天堂在线播放| 亚洲精品国产成人久久av| 禁无遮挡网站| 国产片特级美女逼逼视频| 日本在线视频免费播放| 免费无遮挡裸体视频| 日产精品乱码卡一卡2卡三| 国产成人91sexporn| 久久韩国三级中文字幕| 插阴视频在线观看视频| 麻豆乱淫一区二区| 嫩草影院精品99| 丝袜美腿在线中文| 能在线免费观看的黄片| 国产av一区在线观看免费| 日韩大尺度精品在线看网址| 国产av一区在线观看免费| 免费人成在线观看视频色| 久久精品国产亚洲av涩爱 | 成人一区二区视频在线观看| 91狼人影院| 人人妻人人澡人人爽人人夜夜 | 毛片女人毛片| av在线天堂中文字幕| 18禁在线无遮挡免费观看视频| 给我免费播放毛片高清在线观看| 婷婷色av中文字幕| 国产精品伦人一区二区| 老女人水多毛片| 亚洲在久久综合| 国语自产精品视频在线第100页| 大型黄色视频在线免费观看| 在线观看一区二区三区| 99热只有精品国产| 国产精品女同一区二区软件| 国产片特级美女逼逼视频| 久久精品国产亚洲av天美| 联通29元200g的流量卡| 国产成人freesex在线| 少妇熟女aⅴ在线视频| 午夜福利在线观看免费完整高清在 | 欧美一区二区亚洲| 中国美女看黄片| 麻豆av噜噜一区二区三区| 午夜精品国产一区二区电影 | 国产精品蜜桃在线观看 | 亚洲欧美日韩卡通动漫| av卡一久久| 免费在线观看成人毛片| 国产亚洲av片在线观看秒播厂 | 又爽又黄a免费视频| 亚洲欧美清纯卡通| 乱系列少妇在线播放| 女的被弄到高潮叫床怎么办| 丝袜喷水一区| 婷婷亚洲欧美| 国产精品1区2区在线观看.| 国产精品福利在线免费观看| 国产精品一区二区三区四区久久| 99在线人妻在线中文字幕| 成年女人永久免费观看视频| 一本久久中文字幕| 99久久成人亚洲精品观看| 波野结衣二区三区在线| 青青草视频在线视频观看| 麻豆精品久久久久久蜜桃| 不卡视频在线观看欧美| 色哟哟·www| 嘟嘟电影网在线观看| 在线观看av片永久免费下载| 舔av片在线| 春色校园在线视频观看| 老女人水多毛片| 成人高潮视频无遮挡免费网站| 久久精品91蜜桃| 欧美高清成人免费视频www| 在线观看av片永久免费下载| 日本色播在线视频| 99九九线精品视频在线观看视频| 国产精品一二三区在线看| 欧洲精品卡2卡3卡4卡5卡区| 又黄又爽又刺激的免费视频.| 1000部很黄的大片| 丰满的人妻完整版| 一级二级三级毛片免费看| 91精品国产九色| 午夜免费男女啪啪视频观看| 身体一侧抽搐| 又粗又爽又猛毛片免费看| 激情 狠狠 欧美| 99riav亚洲国产免费| 亚洲第一电影网av| 国产午夜福利久久久久久| 精品一区二区免费观看| 国产精品人妻久久久影院| 夜夜爽天天搞| or卡值多少钱| 精品久久国产蜜桃| 97热精品久久久久久| 久久精品久久久久久久性| 亚洲丝袜综合中文字幕| 亚洲国产高清在线一区二区三| 国产高潮美女av| 精品久久久久久久久亚洲| 国产成人福利小说| 最后的刺客免费高清国语| 91精品国产九色| 亚洲欧美成人精品一区二区| 我的老师免费观看完整版| 色综合亚洲欧美另类图片| 日日摸夜夜添夜夜爱| 国产精品一二三区在线看| 成人一区二区视频在线观看| 亚洲第一区二区三区不卡| 久久久成人免费电影| 久久久精品欧美日韩精品| 成人性生交大片免费视频hd| 内地一区二区视频在线| 婷婷亚洲欧美| 精品人妻视频免费看| or卡值多少钱| 男插女下体视频免费在线播放| 亚洲人成网站在线播| 看免费成人av毛片| 免费看a级黄色片| 成人无遮挡网站| 国产精品电影一区二区三区| 国产成人a区在线观看| 国产大屁股一区二区在线视频| 国产精品1区2区在线观看.| 亚洲成人精品中文字幕电影| 亚洲熟妇中文字幕五十中出| 18禁裸乳无遮挡免费网站照片| 国产精品永久免费网站| .国产精品久久| 日韩人妻高清精品专区| 国产国拍精品亚洲av在线观看| 精品一区二区三区视频在线| 尤物成人国产欧美一区二区三区| 婷婷亚洲欧美| 婷婷六月久久综合丁香| 97热精品久久久久久| 成人二区视频| 高清在线视频一区二区三区 | 天堂网av新在线| 一级毛片电影观看 | 非洲黑人性xxxx精品又粗又长| 成人一区二区视频在线观看| 波野结衣二区三区在线| 18禁黄网站禁片免费观看直播| 天美传媒精品一区二区| 久久精品夜色国产| 中文字幕精品亚洲无线码一区| 高清毛片免费看| av在线老鸭窝| 国内精品美女久久久久久| 成人三级黄色视频| 成人特级av手机在线观看| 非洲黑人性xxxx精品又粗又长| 亚洲人成网站在线观看播放| 国产成人freesex在线| 给我免费播放毛片高清在线观看| 欧美成人免费av一区二区三区| 国内少妇人妻偷人精品xxx网站| 丝袜美腿在线中文| 午夜精品国产一区二区电影 | 久久久精品欧美日韩精品| 麻豆av噜噜一区二区三区| 99精品在免费线老司机午夜| 国产免费一级a男人的天堂| 99在线人妻在线中文字幕| 亚洲欧美中文字幕日韩二区| 99热精品在线国产| 男的添女的下面高潮视频| 亚洲av免费在线观看| 最近中文字幕高清免费大全6| 毛片女人毛片| 中文字幕久久专区| 精品久久久噜噜| 小说图片视频综合网站| 欧美日本亚洲视频在线播放| 超碰av人人做人人爽久久| 少妇熟女欧美另类| 国产精品电影一区二区三区| 精品熟女少妇av免费看| 长腿黑丝高跟| 欧美成人a在线观看| 久久久久久久久久久丰满| 黄色配什么色好看| 久久这里只有精品中国| 国产精品久久久久久av不卡| 九九爱精品视频在线观看| 美女被艹到高潮喷水动态| 国产爱豆传媒在线观看| 日韩三级伦理在线观看| 日日摸夜夜添夜夜爱| 国产在视频线在精品| 午夜福利在线观看免费完整高清在 | 午夜精品在线福利| 国产高清三级在线| 一区二区三区高清视频在线| 国产成人精品婷婷| 一进一出抽搐动态| 一级毛片aaaaaa免费看小| 欧美一区二区精品小视频在线| 国产视频首页在线观看| 国产精品一二三区在线看| 国产伦一二天堂av在线观看| 亚洲真实伦在线观看| 激情 狠狠 欧美| 亚洲av一区综合| 国产91av在线免费观看| 欧美一级a爱片免费观看看| 欧美区成人在线视频| www.色视频.com| 国产亚洲精品久久久com| 午夜精品一区二区三区免费看| 三级经典国产精品| 波多野结衣高清作品| 国产中年淑女户外野战色| 欧美+日韩+精品| 黄片无遮挡物在线观看| 免费搜索国产男女视频| 欧美极品一区二区三区四区| 日本成人三级电影网站| 2021天堂中文幕一二区在线观| 淫秽高清视频在线观看| 久99久视频精品免费| 亚洲国产精品国产精品| 波野结衣二区三区在线| 中文精品一卡2卡3卡4更新| 国产淫片久久久久久久久| 国产午夜精品一二区理论片| 国产极品天堂在线| 色哟哟·www| 久久草成人影院| 看十八女毛片水多多多| 热99在线观看视频| 欧美激情在线99| 真实男女啪啪啪动态图| 国产午夜精品一二区理论片| 91午夜精品亚洲一区二区三区| 国内揄拍国产精品人妻在线| 91在线精品国自产拍蜜月| 亚洲精品乱码久久久v下载方式| 亚洲中文字幕一区二区三区有码在线看| 国产精品爽爽va在线观看网站| 国产精品野战在线观看| 日韩精品有码人妻一区| 久久久色成人| 网址你懂的国产日韩在线| 成年女人永久免费观看视频| 久久精品国产鲁丝片午夜精品| 亚洲第一区二区三区不卡| 我要看日韩黄色一级片| 欧美成人精品欧美一级黄| 在线观看免费视频日本深夜| 午夜福利高清视频| 日韩成人av中文字幕在线观看| 99久久人妻综合| 欧美+亚洲+日韩+国产| 丝袜美腿在线中文| 可以在线观看毛片的网站| 自拍偷自拍亚洲精品老妇| 亚洲aⅴ乱码一区二区在线播放| 亚洲在线自拍视频| 精品人妻偷拍中文字幕| 69人妻影院| 国产日韩欧美在线精品| 最好的美女福利视频网| 99热全是精品| 亚洲精品乱码久久久v下载方式| 中文字幕熟女人妻在线| 国产真实乱freesex| 中文在线观看免费www的网站| 国产精品一及| 联通29元200g的流量卡| 久久中文看片网| 国产 一区 欧美 日韩| 久久久久久久久久黄片| 日韩视频在线欧美| 色哟哟·www| 亚洲人成网站在线观看播放| 狂野欧美激情性xxxx在线观看| 中文字幕av在线有码专区| 成人漫画全彩无遮挡| 国内精品一区二区在线观看| 久久韩国三级中文字幕| 欧美最新免费一区二区三区| 成人无遮挡网站| 九九在线视频观看精品| 春色校园在线视频观看| 边亲边吃奶的免费视频| 亚洲成人久久爱视频| 国产乱人视频| 国产中年淑女户外野战色| 99国产极品粉嫩在线观看| 久久草成人影院| 草草在线视频免费看| 亚洲国产精品久久男人天堂| 日韩欧美一区二区三区在线观看| 国产综合懂色| 国产一区亚洲一区在线观看| 国产探花在线观看一区二区| 九九热线精品视视频播放| 日韩在线高清观看一区二区三区| 免费观看人在逋| h日本视频在线播放| 成人无遮挡网站| 三级国产精品欧美在线观看| 美女 人体艺术 gogo| av在线观看视频网站免费| 麻豆av噜噜一区二区三区| 久久精品久久久久久噜噜老黄 | 一级毛片我不卡| 全区人妻精品视频| 精品欧美国产一区二区三| 日韩av不卡免费在线播放| 国产日本99.免费观看| 亚洲精品日韩av片在线观看|