• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    移動APP隱私條款可獲得性及內(nèi)容分析研究

    2020-07-09 03:40:48徐雷徐潤婕
    現(xiàn)代情報 2020年7期

    徐雷 徐潤婕

    摘 要:[目的/意義]互聯(lián)網(wǎng)企業(yè)收集與使用大量用戶信息,用戶隱私泄露與信息侵權(quán)的現(xiàn)象頻頻發(fā)生。分析移動APP的隱私條款,從政府、企業(yè)、用戶層面提出建議,將進(jìn)一步保障個人信息安全。[方法/過程]本文以國內(nèi)熱門APP的隱私條款為研究對象,通過內(nèi)容分析法,從隱私條款的可獲得性及內(nèi)容兩個維度進(jìn)行研究。[結(jié)果/結(jié)論]目前移動APP隱私條款在可獲得性以及內(nèi)容制定上仍存在不足,政府應(yīng)持續(xù)保障相關(guān)法律的有效實施,企業(yè)要提升保護(hù)用戶隱私的主動性,規(guī)范與創(chuàng)新隱私保護(hù)方法,用戶要善用謀求其合法權(quán)益的反饋途徑。

    關(guān)鍵詞:移動APP;隱私條款;可獲得性;內(nèi)容分析

    DOI:10.3969/j.issn.1008-0821.2020.07.009

    〔中圖分類號〕G202 〔文獻(xiàn)標(biāo)識碼〕A 〔文章編號〕1008-0821(2020)07-0082-10

    Research on Accessibility and Content Analysis of

    Privacy Policies of Chinese Mobile Apps

    Xu Lei Xu Runjie

    (School of Information Management,Wuhan University,Wuhan 430072,China)

    Abstract:[Purpose/Significance]Internet companies collect and use amounts of user information,and the leakage of user privacy and the infringement of information occur frequently.Analyzing the privacy policies of mobile apps and making recommendations from the government,enterprise,and user levels will further protect the security of personal information.[Method/Process]This paper took the privacy policies of domestic popular Apps as research object.Through content analysis,the availability and content dimensions of privacy policies were explored.[Result/Conclusion]The accessibility and content completeness of Apps were still not perfect.Government should continue to ensure the effective implementation of relevant laws.Enterprises should improve their initiative to protect user privacy,standardize and innovate the methods of privacy protection.Users should make good use of feedback channels and actively seek for legitimate rights and interests.

    Key words:mobile APP;privacy policy;accessibility;content analysis

    中國互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)發(fā)布的第44次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》指出,截至2019年6月,我國網(wǎng)民規(guī)模達(dá)8.54億,其中手機(jī)網(wǎng)民規(guī)模達(dá)8.47億,網(wǎng)民使用手機(jī)上網(wǎng)的比例達(dá)99.1%,手機(jī)上網(wǎng)已成為人們最常用的上網(wǎng)渠道[1]。移動APP的使用頻率迅速增長,在帶來便利的同時,也給用戶隱私保護(hù)帶來挑戰(zhàn)。艾媒咨詢發(fā)布的《2018中國手機(jī)APP隱私權(quán)限測評報告》表示,網(wǎng)購、社交、理財類APP涉及用戶日常生活各方面,對部分信息的讀取涉及疑似越界的行為,在讀取聯(lián)系人信息方面較嚴(yán)重[2]。南都智庫發(fā)布的《2018年度常用APP隱私政策透明度排行榜》中表示,逾7成的APP隱私政策透明度不合格,甚至有盜用別家隱私政策的現(xiàn)象[3]。隱私泄露普遍存在,2018年中國消費(fèi)者協(xié)會發(fā)布的《APP個人信息泄露情況調(diào)查報告》顯示,受訪者中曾因信息泄露而被騷擾或侵害的人數(shù)占比高達(dá)85.2%,隱私安全受到廣泛關(guān)注[4]?;ヂ?lián)網(wǎng)企業(yè)通常通過制定和發(fā)布隱私條款等政策文件來規(guī)范其對用戶信息獲取的合法性,以及保障用戶的相關(guān)信息權(quán)益。

    本文通過收集社交、電商、金融理財、健康醫(yī)療4類和大眾生活密切聯(lián)系的移動APP隱私條款,綜合運(yùn)用數(shù)據(jù)和內(nèi)容分析法,分析這些隱私條款的可獲得性及條款內(nèi)容,梳理目前移動APP隱私條款的內(nèi)容類型、不同領(lǐng)域APP隱私條款的差異以及目前隱私條款在使用和保護(hù)用戶隱私方面存在的問題,并針對性地提出建議。

    1 相關(guān)研究

    隨著移動互聯(lián)網(wǎng)中隱私安全問題的大量出現(xiàn),移動APP隱私問題逐漸被學(xué)者關(guān)注。用戶隱私是指用戶不愿為他人公開或悉知的個人信息,包括個人日記、照相簿、財產(chǎn)狀況、生活及通訊秘密等[5]。目前,保護(hù)用戶隱私的法規(guī),主要分布在《民法總則》《侵權(quán)責(zé)任法》《網(wǎng)絡(luò)安全法》等法律法規(guī)文件中,這些文件明確規(guī)定了企業(yè)保障用戶信息及網(wǎng)絡(luò)數(shù)據(jù)免遭非授權(quán)訪問、使用、篡改、毀壞等的安全保護(hù)義務(wù),以及用戶依照自身意愿管理個人信息的隱私權(quán)益。

    具體到移動APP上,其隱私保護(hù)存在較大困難。一方面,互聯(lián)網(wǎng)企業(yè)掌握的用戶信息越多,越能深入了解用戶需求以挖掘巨大的經(jīng)濟(jì)價值和社會價值。然而,用戶尚未充分認(rèn)識隱私的價值,缺乏足夠的隱私保護(hù)意識;另一方面,技術(shù)漏洞使隱私安全面臨巨大威脅[6]。個人隱私缺乏有效保護(hù),導(dǎo)致數(shù)據(jù)濫用、盜用等問題更加突出[7]。為了消除隱私安全擔(dān)憂,互聯(lián)網(wǎng)企業(yè)常制定相關(guān)隱私條款(或稱隱私保護(hù)協(xié)議、隱私聲明)[8],隱私條款是指網(wǎng)絡(luò)運(yùn)營者對其所開展的收集、保存、使用、共享、轉(zhuǎn)讓等個人信息處理行為的說明[9]。對企業(yè)而言,隱私條款既能履行告知義務(wù),又能約束自身行為和配合監(jiān)督管理[10];對用戶而言,隱私條款是隱私保護(hù)的重要途徑和法律維權(quán)的重要保障[11]。然而,徐敬宏[12]發(fā)現(xiàn),部分隱私條款成為了“引誘”網(wǎng)民“主動”提供個人信息的“誘餌”。任怡林[13]、秦克飛[14]、付少雄等[15]學(xué)者發(fā)現(xiàn),多數(shù)隱私條款的細(xì)節(jié)存在缺陷,閱讀和理解難度大,未成年人信息保護(hù)環(huán)節(jié)薄弱,甚至還存在霸王條款。孟霞等[10]也認(rèn)為,隱私保護(hù)雖有條款約束,但規(guī)范程度仍需提升,實施效果并不理想。唐遠(yuǎn)清等[16]、范昊等[17]學(xué)者對比國內(nèi)外典型的社交媒體發(fā)現(xiàn),二者均存在隱私漏洞,國內(nèi)大量社交媒體隱私條款雖覆蓋面廣,但未突出自身產(chǎn)品與服務(wù)特點(diǎn)。劉嬌等[18]通過分析55個中文和20個英文移動APP隱私條款認(rèn)為,從總體上看,國內(nèi)隱私保護(hù)在執(zhí)行、監(jiān)管和效果評估等方面都與發(fā)達(dá)國家存在差距。

    通過對目前研究內(nèi)容的梳理發(fā)現(xiàn),用戶對隱私信息的感知力度仍不夠,隱私信息的協(xié)商處理機(jī)制單一已是基本共識。在研究層面,大多數(shù)研究聚焦于同類別APP之間的對比,在研究內(nèi)容上主要分析隱私條款所涉主題,深入文本內(nèi)部的內(nèi)容分析以及文本外部的可獲得性研究較少。本文通過收集國內(nèi)熱門APP的隱私條款,進(jìn)行了關(guān)于隱私條款文本的內(nèi)容分析及其可獲得性的研究。

    2 數(shù)據(jù)收集

    熱門的APP在一定程度上可以反映國民的移動APP使用習(xí)慣,本文根據(jù)《互聯(lián)網(wǎng)周刊》、eNet研究院共同評選的《2018年度APP分類排行榜》[19]、艾媒咨詢發(fā)布的《2018中國APP年度指數(shù)榜單》[20]和《2019年中國移動社交行業(yè)研究報告》[21],篩選出綜合熱度排名靠前并屬于社交、電商、金融理財、健康醫(yī)療4種類型的APP共計71個,其中社交應(yīng)用33個、移動電商13個、金融理財15個、健康醫(yī)療10個。具體隱私條款情況如表1所示,其中具有獨(dú)立隱私條款的APP共計55個,隱私條款內(nèi)容包含在其他協(xié)議條款中的APP共計16個。隱私條款通??梢詮腁PP的不同入口獲取,其名稱常含有“隱私”字樣,具體命名以“隱私政策”“隱私條款”“隱私保護(hù)政策”等較為常見。

    在移動設(shè)備上.載安裝每一個APP,注冊并登錄,在APP的登錄界面或“設(shè)置”功能等位置點(diǎn)擊或搜索以獲取隱私條款內(nèi)容,同時記錄此過程中的用戶操作,如點(diǎn)擊次數(shù)、勾選、點(diǎn)擊路徑、隱私條款所在界面截圖等。若APP存在多個應(yīng)用條款,則只獲取隱私條款。本文根據(jù)《個人信息安全規(guī)范》[22]中標(biāo)準(zhǔn)化隱私條款的規(guī)定,對隱私條款內(nèi)容進(jìn)行了類型標(biāo)注。

    3 隱私條款可獲得性

    隱私條款的可獲得性是指用戶獲得、查看、理解有效的隱私條款的便利程度,是用戶閱讀、理解和評價隱私條款內(nèi)容的前提和基礎(chǔ),反映隱私條款的外部特征。本文從隱私條款的獲取途徑、可讀性、更新3個方面,來衡量隱私條款的可獲得性。隱私條款的獲取途徑反映獲取的難易程度,可讀性反映用戶對文本的理解程度,更新頻率反映用戶獲得內(nèi)容的時效性。

    3.1 隱私條款的獲取途徑

    具有獨(dú)立隱私條款的55個APP中,條款內(nèi)容均可直接在APP中查看,但文本內(nèi)容的復(fù)制、.載與保存卻存在差異。一般而言,互聯(lián)網(wǎng)上的文本要比文本圖片更容易被檢索到,具有分享鏈接的文本更容易傳播,具備這些特性的隱私條款一般更能反映企業(yè)對用戶信息權(quán)益的重視。旺信、唯品會、餓了么、360借條、同花順、東方財富、京東金融、美柚、薄荷健康可查看隱私條款內(nèi)容但不能直接復(fù)制文本文字,唯品會、蘇寧易購、美團(tuán)提供隱私條款文本的直接.載功能,餓了么可將隱私條款文本分享給他人。

    隱私條款的位置主要在APP的登錄或注冊界面以及“設(shè)置”等相關(guān)功能里。表2通過獲取隱私條款內(nèi)容所需點(diǎn)擊次數(shù)、條款內(nèi)容是否自動顯示、是否有默認(rèn)同意條款內(nèi)容的選項幾個方面來衡量隱私條款文本的獲取難易程度。

    隱私條款獲取界面和獲取途徑的便捷性與多樣性,影響用戶對隱私條款的關(guān)注度。根據(jù)統(tǒng)計,絕大部分APP都提供在登錄界面(72.7%)以及“設(shè)置”等相關(guān)功能界面(83.6%)顯示隱私條款的獲取路徑。67.3%獲取隱私條款內(nèi)容的用戶點(diǎn)擊次數(shù)為4步,大致路徑為:“首頁—個人中心—設(shè)置—關(guān)于—隱私條款”。該路徑包含的內(nèi)容充實、層次清晰,但點(diǎn)擊入口往往需要滑動至界面底部。3步是最低點(diǎn)擊次數(shù),如唯品會、中國工商銀行等,5步是最高點(diǎn)擊次數(shù),如小紅書、美團(tuán)等,但后兩種情況的APP較少。安裝APP時自動彈出并顯示隱私條款內(nèi)容,是為用戶呈現(xiàn)隱私條款的高效方式,但首次打開時自動顯示條款內(nèi)容的方式的采納率僅為38.2%,其中移動電商類的采納率最高,占該類別的66.7%,社交應(yīng)用類最低,占該類別的20%。由于目前互聯(lián)網(wǎng)產(chǎn)品更加注重用戶體驗,提升用戶在圖形操作界面以及使用過程中的體驗一定程度上可以吸引更多的用戶,并為企業(yè)帶來可觀的流量,因此采用自動顯示條款的呈現(xiàn)方式可能并不是一種好的用戶體驗方式,尤其在需要頻繁互動的社交應(yīng)用中這種呈現(xiàn)方式更少。而在電商APP中,企業(yè)利用用戶網(wǎng)絡(luò)行為數(shù)據(jù)進(jìn)行智能化功能設(shè)計的場景更多,這類數(shù)據(jù)的合理收集與使用涉及的條款約束相應(yīng)就多,且涉及更多敏感的財物信息,因此有必要通過自動顯示條款的方式來吸引用戶關(guān)注。用戶能否決定是否同意(勾選)隱私條款可反映該APP隱私保護(hù)的用戶參與度。為了優(yōu)化用戶體驗,減少用戶操作,一些APP采用了“登錄/注冊即表示同意”的方式,但這無形之中讓用戶忽視了隱私條款的存在,具有存在霸王條款的嫌疑,主要為社交應(yīng)用和健康醫(yī)療類APP。采取“默認(rèn)選擇同意”的方式相對上一種方式而言,提供了用戶選擇是否同意隱私條款的機(jī)會,默認(rèn)為用戶同意狀態(tài),但若選擇不同意,則一般不能繼續(xù)使用該APP。而“默認(rèn)未選擇”的方式,相對上一種方式而言,用戶需要自主點(diǎn)擊“同意”方可進(jìn)行.一步操作,這強(qiáng)化了用戶對存在隱私條款的感知,反映這類APP對用戶隱私的重視,主要為移動電商和金融理財類APP。

    3.2 隱私條款的可讀性

    一般而言,不同類別APP隱私條款的字?jǐn)?shù)能在一定程度上反映該類APP涉及的隱私數(shù)據(jù)量,字?jǐn)?shù)越多,則涉及的隱私數(shù)據(jù)量可能越大。同類型APP隱私條款的字?jǐn)?shù)差異能夠體現(xiàn)該條款內(nèi)容全面性和詳細(xì)程度,字?jǐn)?shù)越多則隱私條款的約束就越詳盡,內(nèi)容的可操作性就越強(qiáng),但這也會影響用戶對條款內(nèi)容的閱讀興趣。目前收集的全部隱私條款內(nèi)容的平均字?jǐn)?shù)為11 002字,移動電商類平均字?jǐn)?shù)最多,為15 464字,金融理財類平均字?jǐn)?shù)為8 795字,健康醫(yī)療類平均字?jǐn)?shù)為8 705字,社交應(yīng)用類平均字?jǐn)?shù)最少,為7 176字。從上面的數(shù)字可知,移動電商場景.,涉及的用戶隱私數(shù)據(jù)更多,這類APP的功能一般更為綜合。金融理財和健康醫(yī)療類的各個APP的服務(wù)界限更清晰,涉及的隱私數(shù)據(jù)較集中,如主打保險服務(wù)的太平洋保險和主打孕育服務(wù)的媽媽網(wǎng)孕育。社交應(yīng)用注重核心的社交功能,隱私數(shù)據(jù)更集中,因此在隱私條款字?jǐn)?shù)上存在上述差異。在同類型的隱私條款中,愛奇藝泡泡的字?jǐn)?shù)達(dá)20 470字,內(nèi)容詳盡,但不易快速理解;秘蜂的字?jǐn)?shù)僅1 057字,條款僅包含信息公開披露問題,表述過于簡略。

    隱私條款是否有目錄、是否標(biāo)注重點(diǎn)內(nèi)容等特殊化處理影響用戶對隱私條款的閱讀效率。統(tǒng)計發(fā)現(xiàn),健康醫(yī)療類的隱私信息類型和處理方式較單一,條款內(nèi)容分類較少,多數(shù)條款無目錄,其余類別有目錄的隱私條款均超過60%。目錄多由一級標(biāo)題組成,采用列舉方式呈現(xiàn)在具體內(nèi)容之前。55個隱私條款內(nèi)容均有重點(diǎn)標(biāo)注,標(biāo)注內(nèi)容多為條款中涉及的重要隱私數(shù)據(jù)和主要信息處理行為,以及部分內(nèi)容標(biāo)題,標(biāo)注形式多采用加粗、.劃線等方式,其中對標(biāo)題和具體內(nèi)容都進(jìn)行標(biāo)注的有74.5%,移動電商類APP全部采用了這種標(biāo)注方式。

    隱私條款中包含眾多專業(yè)術(shù)語,諸如應(yīng)用數(shù)據(jù)緩存、服務(wù)器日志、IMEI信息等,但其閱讀群體多為非專業(yè)的用戶,因此專業(yè)名詞解釋能極大地減少閱讀障礙。根據(jù)分析,僅8%的社交應(yīng)用有此內(nèi)容,金融理財類有名詞解釋的隱私條款占比最大,也僅為30%。社交應(yīng)用的用戶使用門檻低,不需要太多的專門知識,而金融理財類APP中,則涉及較多專業(yè)詞匯,諸如身份要素、匿名化等術(shù)語。

    3.3 隱私條款的更新

    隱私條款會隨時間和用戶需求變化等因素進(jìn)行調(diào)整和更新。從條款更新時間和生效時間的先后順序看,57.2%的隱私條款的生效時間未處于更新時間之后,即閱讀者無法在發(fā)布的新版本條款生效前提出意見和建議。健康醫(yī)療類和社交應(yīng)用類未說明更新與生效時間的、未在生效前發(fā)布的隱私條款占比分別為75%和68%,但僅有社交應(yīng)用中的易信、豆瓣、知乎這3個APP中提供了歷史版本隱私條款,對用戶理解條款變化具有一定作用。

    隱私條款的更新與生效時間直接體現(xiàn)其內(nèi)容是否順應(yīng)時間變化。根據(jù)統(tǒng)計,各類APP中均存在不公布更新與生效時間的條款,健康醫(yī)療類未公布的高達(dá)50%。在顯示更新時間的隱私條款中,大部分更新時間為2018年,在2019年的占比也較大。僅4%的社交應(yīng)用隱私條款更新時間在2017年,為統(tǒng)計數(shù)據(jù)中的最早時間。絕大部分隱私條款的更新時間在近一兩年,符合當(dāng)前互聯(lián)網(wǎng)快速發(fā)展的現(xiàn)實情況。

    用戶是隱私條款的直接利益主體,需要對條款內(nèi)容及其更新保持關(guān)注,條款更新提醒對用戶關(guān)注條款具有明顯的促進(jìn)作用。值得一提,僅少量隱私條款未說明是否有提醒,主要為社交應(yīng)用和移動電商類APP,均不超過其類別的20%,絕大多數(shù)隱私條款更新將通知到用戶,健康醫(yī)療類比例高達(dá)100%。

    4 隱私條款內(nèi)容分析

    隱私條款的可獲得性越強(qiáng),用戶就越能感知到隱私條款的存在,在此基礎(chǔ)上,用戶查看、理解和評價隱私條款內(nèi)容,才能充分發(fā)揮隱私條款的作用。同時,綜合分析隱私條款的外部特征和隱私條款內(nèi)容的全面性、完整性和規(guī)范性等內(nèi)部特征,是客觀評價互聯(lián)網(wǎng)企業(yè)對用戶隱私保護(hù)態(tài)度和行為的必要依據(jù)。

    以現(xiàn)有隱私條款為研究對象,本文根據(jù)《個人信息安全規(guī)范》[22]中關(guān)于標(biāo)準(zhǔn)化隱私條款的規(guī)定,對隱私條款內(nèi)容進(jìn)行標(biāo)注,并以此確定內(nèi)容分析的維度。根據(jù)統(tǒng)計數(shù)據(jù)對不同類型的隱私條款內(nèi)容進(jìn)行分類與比較,總結(jié)各類隱私條款制定的思維邏輯及差異,關(guān)注和闡釋隱私條款中的特殊措辭與表達(dá)。重點(diǎn)關(guān)注隱私條款的內(nèi)容全面性、用戶隱私數(shù)據(jù)類型及隱私信息處理手段。

    4.1 隱私條款內(nèi)容分類

    《個人信息安全規(guī)范》[22]明確強(qiáng)調(diào)隱私條款在開展收集、保存、使用、共享、轉(zhuǎn)讓、公開披露六方面的信息處理規(guī)范,規(guī)定隱私條款應(yīng)包含如.內(nèi)容:①如何收集和使用個人信息;②如何使用Cookie和同類技術(shù);③如何共享、轉(zhuǎn)讓、公開披露個人信息;④如何保護(hù)個人信息;⑤用戶權(quán)利;⑥如何處理兒童個人信息;⑦個人信息如何在全球范圍轉(zhuǎn)移;⑧政策如何更新;⑨如何聯(lián)系我們。將以上規(guī)定的隱私條款大綱與各類型APP隱私條款內(nèi)容進(jìn)行對比,計算出符合相應(yīng)規(guī)范的隱私條款占所在類型的比例,結(jié)果如圖1所示。

    由圖1可知,包含“如何使用Cookie和同類技術(shù)”內(nèi)容的隱私條款較少,大部分為移動電商類APP,這類APP通過使用這類技術(shù),可豐富用戶畫像,以提供個性化商品推薦等服務(wù);有“個人信息如何在全球范圍轉(zhuǎn)移”內(nèi)容的隱私條款明顯

    較少,除移動電商類占所在類別比例超過50%,其余均在40%以.,統(tǒng)計發(fā)現(xiàn),涉及此類條款內(nèi)容的APP一般都具有海外市場;“如何收集和使用個人信息”“政策如何更新”“如何聯(lián)系我們”的擁有比例超過80%,且在各類別分布平均,說明該類信息在各類APP中普遍存在。

    從各類型的隱私條款內(nèi)容來看,移動電商類除“個人信息如何在全球范圍轉(zhuǎn)移”和“政策如何更新”,其余內(nèi)容均全部包含,好于其他類別。健康醫(yī)療類的內(nèi)容分布較分散,“如何收集和使用信息”“如何處理兒童個人信息”和“政策如何更新”擁有量為100%,但“如何使用Cookie和同類技術(shù)”及“用戶權(quán)利”擁有量較其他類別最少。社交應(yīng)用和金融理財類的各內(nèi)容種類擁有量相似,總體上不及前兩種類別。此外,Blued的用戶和服務(wù)私密度高,因此其隱私條款中包含“全公司對你隱私的承諾”,以提升產(chǎn)品和服務(wù)的可信度。美柚收集的某些個人信息因其特殊性可能被認(rèn)為是個人敏感信息,例如種族、個人健康和醫(yī)療信息等,在其隱私條款中重點(diǎn)提示了個人敏感信息問題。

    4.2 隱私數(shù)據(jù)類型及用途

    《個人信息安全規(guī)范》中對個人敏感信息進(jìn)行了明確定義:一旦泄露、非法提供或濫用可能危害人身和財產(chǎn)安全,極易導(dǎo)致個人名譽(yù)、身心健康受到損害或歧視性待遇等的個人信息[22]。主要包括財產(chǎn)信息、健康生理信息、生物識別信息和網(wǎng)絡(luò)身份標(biāo)識信息等。本文將隱私條款中涉及的個人信息分為如.類別:①個人信息(姓名、生日、性別、住址、電話號碼等基本信息,及身份證、護(hù)照等身份信息);②個人常用設(shè)備信息(包括硬件型號、設(shè)備MAC地址、操作系統(tǒng)類型、軟件列表唯一設(shè)備識別碼等);③位置信息(行程信息、精準(zhǔn)定位信息、住宿信息、經(jīng)緯度等);④個人上網(wǎng)記錄(網(wǎng)站瀏覽記錄、搜索記錄、軟件使用記錄、點(diǎn)擊記錄等);⑤網(wǎng)絡(luò)身份標(biāo)識信息(系統(tǒng)賬號、IP地址、郵箱地址等);⑥通訊錄;⑦生物識別信息(指紋、人臉、語音數(shù)據(jù)等);⑧財產(chǎn)信息(支付賬號、交易和消費(fèi)記錄等);⑨征信信息(還款信息、貸款信息、消費(fèi)信息等);⑩健康生理信息(心率、血壓、步數(shù)等)。圖2給出了各類型APP的隱私數(shù)據(jù)收集情況。

    在55個APP中,賬號注冊時用戶提供的個人信息,成為最多APP收集的數(shù)據(jù)類型,其中常見手機(jī)號碼、電子郵箱等。設(shè)備信息與優(yōu)化產(chǎn)品體驗息息相關(guān),成為各類APP收集的又一重點(diǎn)。位置信息、個人上網(wǎng)記錄、網(wǎng)絡(luò)身份標(biāo)識信息、通訊錄是掌握用戶習(xí)慣的重要信息,被大量APP收集。其中,社交應(yīng)用類重點(diǎn)收集個人上網(wǎng)記錄,移動電商重點(diǎn)收集網(wǎng)絡(luò)身份標(biāo)識信息,金融理財則偏向收集財產(chǎn)信息、生物識別信息和征信信息,健康醫(yī)療類偏向收集健康生理信息,可見,個人敏感信息也被大量收集。各類APP收集用戶的隱私數(shù)據(jù),一般出于以.目的:1)實名制等規(guī)定的強(qiáng)制性要求。各類APP目前基本都需要實名制,用戶必須提供如手機(jī)號甚至身份證號等信息,如果不提供則不能使用該APP;2)為了滿足某些功能的需要。

    比如,收集財產(chǎn)信息和征信信息,以便提供可靠的借貸及保險服務(wù),收集健康生理信息,以通過分析健康數(shù)據(jù)給用戶提供健康服務(wù),收集設(shè)備信息以提供優(yōu)化網(wǎng)絡(luò)的服務(wù),收集語音數(shù)據(jù)以提供語音交互服務(wù),收集用戶搜索、購買等數(shù)據(jù)以提供個性化推薦服務(wù),收集銀行賬號信息以完成支付功能等。如果不收集或用戶不同意收集則用戶可能不能使用相應(yīng)功能;3)保障賬戶安全。這類信息主要是設(shè)備信息、位置信息和生物識別信息,用于檢測APP異常登錄和賬號風(fēng)險,提高賬號的安全性;4)在特殊情況.,收集和使用可不經(jīng)過用戶同意的信息。比如,該信息與國家安全和重大公共利益直接相關(guān)的,或出于維護(hù)用戶重大合法權(quán)益但又很難得到本人同意的,以及從合法公開渠道獲取的信息。

    4.3 隱私信息的處理

    4.3.1 信息存儲

    通過分析,各類APP在信息存儲的規(guī)范上差異不大。有45個(81.8%)隱私條款說明了數(shù)據(jù)存儲的地點(diǎn),其中的72.7%明確說明數(shù)據(jù)存儲地點(diǎn)為中國境內(nèi),其余表示會在境外設(shè)備上存儲或存儲在公司服務(wù)器上。43個(78.2%)隱私條款中說明了數(shù)據(jù)存儲的期限,豆瓣、網(wǎng)易考拉、360借條明確說明數(shù)據(jù)保存的具體時限,其中,360借條表示將永久保存用戶個人信息和業(yè)務(wù)數(shù)據(jù)。20%表示存儲期限符合法律規(guī)定的期限,這其中常見有“合理必要期限內(nèi)”“為實現(xiàn)目的所必需的時間”“保留一段時間”等模糊性表述。47.3%的APP在數(shù)據(jù)轉(zhuǎn)移時會確保接收方有充足的保護(hù)能力或采取保密措施,其中,領(lǐng)英指出接收方所在地可能因法律而出現(xiàn)保護(hù)力度不足的情形,但并未說明有相關(guān)措施。27.27%的APP在進(jìn)行數(shù)據(jù)跨境傳輸時會征求用戶同意,這其中社交應(yīng)用占比最低,為24%。

    4.3.2 信息共享、轉(zhuǎn)讓和公開披露

    有44個(80%)隱私條款對信息的共享進(jìn)行了說明,微信和丁香園明確表示未經(jīng)用戶同意不會與集團(tuán)或協(xié)議以外的第三方共享。其余APP均列舉了例外情況,常見有:1)共享行為符合法律法規(guī)規(guī)定,或行政、司法機(jī)關(guān)的合法要求;2)與關(guān)聯(lián)公司或授權(quán)合作伙伴共享必要信息以提供相關(guān)商品和服務(wù);3)協(xié)助爭端處理和維護(hù)用戶、公司和社會的合法權(quán)益免遭損害。49.1%的APP明確說明,只與接收方共享與特定目的有關(guān)的信息,且接收方無權(quán)將個人信息用于其他用途。60%的APP表示在與第三方共享信息時會簽訂保密協(xié)議或采取保密和安全措施。25.5%的APP規(guī)定第三方會對個人敏感信息加密或匿名處理。

    有41個(74.5%)隱私條款對信息的轉(zhuǎn)讓和出售進(jìn)行了說明,社交應(yīng)用占比最低。其中70.7%列舉說明了可能轉(zhuǎn)讓或出售的情形,主要有:1)獲得用戶明確同意;2)根據(jù)法律法規(guī)、法律程序要求或行政、司法要求的必要提供;3)公司進(jìn)行合并、收購、破產(chǎn)清算和類似的交易時,個人信息作為交易的一部分而被轉(zhuǎn)移。16.4%表示在涉及合并、收購或破產(chǎn)清算時轉(zhuǎn)讓信息會告知用戶。65.5%表示會要求新持有者繼續(xù)受原規(guī)定或不低于原規(guī)定的要求來保護(hù)信息,若保護(hù)規(guī)定變化,14.5%會再次征求用戶同意。

    有45個(81.8%)隱私條款對信息的公開披露進(jìn)行了說明,社交應(yīng)用占72%,位居末位。公開披露目的常見有:1)獲得用戶明確同意或用戶主動公開;2)與國家與社會安全、公眾利益等有關(guān)的披露;3)從合法公開的披露信息中收集的個人信息的披露。僅東方財富、隨手記、螞蟻財富3個APP對委托處理個人信息進(jìn)行了說明,并表示會對受托公司采取保密措施,且對此承諾負(fù)責(zé)。信息共享、轉(zhuǎn)讓和公開披露的第三方可能并非位于用戶所在法域,但僅10.9%對此進(jìn)行了說明。

    4.3.3 信息保護(hù)

    對個人信息保護(hù)進(jìn)行闡述的隱私條款達(dá)53個(96.4%),信息保護(hù)是信息處理的重要環(huán)節(jié)。信息保護(hù)主要從1)技術(shù);2)制度規(guī)范;3)對相關(guān)人員的保密義務(wù)、培訓(xùn)與懲罰規(guī)定等;4)存儲載體安全和安全存儲措施;5)權(quán)威機(jī)構(gòu)頒發(fā)或認(rèn)可的信息保護(hù)資質(zhì)認(rèn)證;6)對互聯(lián)網(wǎng)環(huán)境的正確認(rèn)識和說明;7)信息泄露事件的應(yīng)急預(yù)案制定與具體措施;8)安全事件責(zé)任8個方面進(jìn)行規(guī)范。

    85.5%的APP會通過網(wǎng)絡(luò)安全行為的技術(shù)措施提供信息安全保障,63.6%設(shè)立了數(shù)據(jù)安全管理與保護(hù)機(jī)制來規(guī)范行為,如訪問控制機(jī)制、數(shù)據(jù)分類分級制度、數(shù)據(jù)安全管理規(guī)范等。67.3%會對相關(guān)人員進(jìn)行培訓(xùn)、考核或賦予保密義務(wù),其中有16.4%表示若相關(guān)人員違反保密義務(wù),將獲得處罰。僅米聊、蘑菇街提到了信息存儲的載體安全保護(hù)。為了證明信息保護(hù)有效性,23.6%提供了所獲的權(quán)威認(rèn)證,其中有14.5%獲得了ISO認(rèn)證,20%獲得了公安部安全等級認(rèn)證,獲得認(rèn)證最多的是微信和釘釘。然而,互聯(lián)網(wǎng)的安全性并不能完全通過這些手段予以保證,69.1%強(qiáng)調(diào)了非絕對安全的互聯(lián)網(wǎng)環(huán)境,移動電商最為突出。72.7%說明了發(fā)生信息安全事件后的應(yīng)急預(yù)案。若因物理、技術(shù)、或管理防護(hù)設(shè)施遭到破壞而引起安全事件,38.2%對其責(zé)任進(jìn)行了規(guī)定,其中除糗事百科、珍愛網(wǎng)、趣約會有免責(zé)要求外,其余均表示會承擔(dān)相關(guān)的法律責(zé)任。從信息保護(hù)的內(nèi)容全面性看,僅移動電商類全部有信息保護(hù)的全面表述,明顯多于其他類別。

    4.3.4 對未成年人使用的說明

    用戶主體特性,尤其是用戶是否為未成年人必須引起重視。僅秘蜂、領(lǐng)英、360借條、中國銀行手機(jī)銀行、同花順5個APP的隱私條款未對未成年人進(jìn)行特別規(guī)定。但其余(90.9%)對未成年人的年齡規(guī)定不一,其中有38.2%僅稱為“未成年人”,41.8%規(guī)定為未滿18歲的未成年人,百度貼吧把年齡界限視為14歲,豆瓣界定為16歲,Blued、玩吧、Keep則會“考慮適用的法律以及各國家和地區(qū)的文化慣例”。Blued、世紀(jì)佳緣、趣約會、珍愛網(wǎng)表示“未成年人不得使用本服務(wù)”,其余并未說明。若未能識別未成年人身份而因此受到損害的,趣約會和珍愛網(wǎng)表示不承擔(dān)任何責(zé)任。其中,僅有Blued啟用AI人臉識別用戶注冊系統(tǒng),以實際行動防止未成年人注冊和使用。這也意味著,目前大部分APP存在被未成年使用的風(fēng)險。

    4.3.5 用戶權(quán)利

    用戶權(quán)利是反映用戶對信息控制程度的重要因素。48個(87.3%)隱私條款對用戶權(quán)利進(jìn)行了描述,多數(shù)APP說明了用戶改變授權(quán)范圍、注銷賬號、訪問、修改、刪除個人信息等權(quán)利。33個(60%)隱私條款說明了用戶注銷賬號后數(shù)據(jù)的處理方式,僅45.5%的用戶明確表示會立即或經(jīng)過一段時間后刪除或匿名化個人信息,其中的領(lǐng)英、愛奇藝泡泡分別規(guī)定了刪除數(shù)據(jù)的期限為30天、60天,360借條的時間長達(dá)5年,Keep采用的“過一段時間”則具有不確定性。易信、東方財富、太平洋保險、隨手記、螞蟻財富、丁香園僅表示會在“合法時間內(nèi)”繼續(xù)保存。其余APP對具體處理方式并無說明。

    4.3.6 用戶反饋

    聯(lián)系方式的提供和反饋處理人員的設(shè)立體現(xiàn)用戶反饋的便捷性和有效性。但只有16個(29.1%)隱私條款公布了公司所在地址,15個(27.3%)隱私條款設(shè)立了個人信息保護(hù)專職人員或部門。旺信、秘蜂、玩吧、中國銀行手機(jī)銀行、咕咚5個隱私條款中未提供聯(lián)系方式,其余均提供了公司聯(lián)系方式,多為電話號碼、電子郵箱。從數(shù)量上看,四類隱私條款提供的聯(lián)系方式平均數(shù)量均不低于2種。從效率上看,有65.5%的戶用說明了回復(fù)時限,轉(zhuǎn)轉(zhuǎn)在“合理時間內(nèi)回復(fù)”,其余平均回復(fù)時長最長為健康醫(yī)療類27天,最短為金融理財類20天。此外,大多數(shù)APP的用戶可通過“設(shè)置”中的“反饋”功能提交反饋,但仍無法得到即時回復(fù)。從整體回復(fù)時長上看,雖然目前大部分APP都提供了便于用戶反饋的渠道,但得到及時回復(fù)的效率并不高。

    5 結(jié)論與建議

    5.1 結(jié) 論

    5.1.1 政策發(fā)揮了指引性作用,信息的收集與處理手段仍需規(guī)范完善

    直接對隱私條款起規(guī)制作用的《個人信息安全規(guī)范》于2017年12月29日正式發(fā)布,2018年5月1日實施。自該規(guī)范實施以來,尤其在2018年,許多互聯(lián)網(wǎng)企業(yè)對隱私條款進(jìn)行了更新,如《微信隱私保護(hù)指引》。與其他未更新的隱私條款相比較,這些條款內(nèi)容更加規(guī)范和完整。移動APP的隱私條款基本遵循規(guī)范,突出標(biāo)記重點(diǎn)內(nèi)容并圍繞內(nèi)容的收集、保存、使用、共享、轉(zhuǎn)讓、公開披露等方面展開。但仍存在一些APP的隱私條款內(nèi)容在全面性,及在條款細(xì)節(jié)上不完善,比如信息收集的方式、信息的保存時限、信息安全事故的責(zé)任劃分等規(guī)范比較缺乏,同時存在模糊表述的情況。另外,一些APP,如Blued、咕咚,存在盲目追求內(nèi)容框架的條款而忽略對其實質(zhì)內(nèi)容的描述。

    5.1.2 隱私條款的可獲得性不強(qiáng),缺乏提高用戶參與度的主動性

    用戶的“霍布森選擇”情況嚴(yán)重,使用網(wǎng)絡(luò)產(chǎn)品即表示同意其隱私政策,即便用戶認(rèn)識到自己在隱私協(xié)議中被動地位,也不得不妥協(xié)于產(chǎn)品服務(wù)的需求,選擇同意隱私條款[10]。查看隱私條款大多需要注冊并登錄帳號,獲取路徑較復(fù)雜,條款的可獲得性不足。大量條款文本有目錄和重要標(biāo)識,有助于用戶快速了解條款內(nèi)容,形成初步認(rèn)識。但是條款中包含大量專業(yè)術(shù)語,僅少量條款進(jìn)行了解釋,不利于用戶深入理解條款內(nèi)容,內(nèi)容可獲得性較缺乏。隱私條款的更新時間集中在近兩年,順應(yīng)了互聯(lián)網(wǎng)快速發(fā)展的時代趨勢,但仍有不少APP并未提供條款更新時間。絕大部分條款的更新信息會通過郵件、公告等多種方式通知到用戶,以維護(hù)用戶知情權(quán),但多數(shù)新版本條款的更新時間和發(fā)布時間相同,即用戶無法在新條款生效前提出意見和建議,新條款無法充分體現(xiàn)用戶訴求,且普遍缺乏即時反饋用戶信息訴求的途徑,用戶參與程度有待提高。

    5.1.3 存在數(shù)據(jù)處理以及未成年人使用的風(fēng)險

    基本所有APP都明確規(guī)定了其獲取的隱私數(shù)據(jù)類型,但對這些數(shù)據(jù)的用途仍有不少APP并未明確,用戶個人對隱私數(shù)據(jù)的處理方式和方法存在說明不足的現(xiàn)象,同時絕大部分APP并不具備經(jīng)認(rèn)證的保護(hù)用戶數(shù)據(jù)的技術(shù)手段,存在一定的數(shù)據(jù)濫用和數(shù)據(jù)處理風(fēng)險。隱私條款中大多將未成年人的年齡界定為18歲以.,大部分APP對未成年人使用產(chǎn)品或服務(wù)進(jìn)行條款約束,符合我國當(dāng)前的法律精神,但這并不意味著排除了未成年人的使用風(fēng)險,實踐中仍然缺乏防止未成年人注冊和使用產(chǎn)品和服務(wù)手段。

    5.2 建 議

    5.2.1 企業(yè)提升條款質(zhì)量,增強(qiáng)條款可獲得性與可讀性,重視用戶參與

    隱私條款的質(zhì)量可反映企業(yè)服務(wù)質(zhì)量,企業(yè)要秉承用戶至上的服務(wù)理念,讓用戶便捷地獲取隱私條款,并主動了解和參與條款設(shè)計及隱私保護(hù)。在條款內(nèi)容上,基于政策提供的基本框架,制定和完善符合企業(yè)定位、產(chǎn)品特點(diǎn)、用戶特征等的條款內(nèi)容;在條款表達(dá)上,減少復(fù)雜語句和不必要的專業(yè)術(shù)語,避免模糊性表述,必要時提供名詞解釋;在執(zhí)行上,完善信息安全審查工作,杜絕額外搜集隱私數(shù)據(jù)、數(shù)據(jù)使用目的不明等情形,及時告知用戶條款變更、措施執(zhí)行等情況;在用戶參與上,與用戶建立協(xié)調(diào)機(jī)制,提高隱私條款透明度,采取授權(quán)與可使用功能分級對應(yīng)的方式為用戶提供服務(wù),通過技術(shù)手段解決未成年人不合理使用APP以及隱私信息濫用等問題。

    5.2.2 用戶提升信息安全素養(yǎng),善用反饋途徑

    用戶是隱私條款最直接的利害相關(guān)者,而在2018年學(xué)者鄒曉艷的調(diào)查報告中指出,近一半的社交應(yīng)用用戶從未閱讀過隱私條款,大量用戶未對其進(jìn)行深度解讀,表明用戶缺乏對隱私安全保護(hù)的關(guān)注和重視[23]。企業(yè)對用戶信息的處理的合法化以“授權(quán)”為前提,而隱私條款正是對授權(quán)的條件和后果的說明。用戶要密切關(guān)注隱私條款的內(nèi)容,提升個人信息安全意識,警惕使用APP過程中涉及隱私數(shù)據(jù)的操作,降低信息泄露風(fēng)險;針對企業(yè)的不合理行為,用戶要善用合法的反饋渠道,主動保護(hù)個人信息安全。

    5.2.3 引入審查和效果評估機(jī)制,加強(qiáng)法律法規(guī)規(guī)制

    針對隱私范圍逐漸擴(kuò)展的現(xiàn)狀,將應(yīng)用程序安全性納入審核范圍,將合格的隱私條款作為APP發(fā)行的必要條件。法律是保護(hù)用戶權(quán)利的有力武器,國家要結(jié)合《網(wǎng)絡(luò)安全法》《民法總則》等現(xiàn)有法律,及時彌補(bǔ)網(wǎng)絡(luò)環(huán)境.隱私保護(hù)的法律缺口,進(jìn)一步明確違規(guī)使用隱私數(shù)據(jù)的情況,并設(shè)立行業(yè)組織和相關(guān)機(jī)構(gòu)作為保障,為隱私保護(hù)提供充分的法律依據(jù)。實踐中,企業(yè)對隱私條款有更多的執(zhí)行權(quán)力,應(yīng)設(shè)立隱私條款規(guī)范的執(zhí)行與監(jiān)督機(jī)制,最大可能地杜絕出現(xiàn)各類隱私信息風(fēng)險。

    參考文獻(xiàn)

    [1]CNNIC.第44次中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告[EB/OL].http://www.cnnic.net.cn/hlwfzyj/hlwxzbg/hlwtjbg/201908/t20190830_70800.htm,2019-08.

    [2]艾媒前沿科技產(chǎn)業(yè)研究中心.2018中國手機(jī)APP隱私權(quán)限測評報告[EB/OL].https://www.iimedia.cn/c400/61251.html,2018-04-28.

    [3]南都智庫.2018 年度常用APP隱私政策透明度排行榜[EB/OL].http://www.cnki.com.cn/Article/CJFDTotal-CINS201901042.htm,2018-12.

    [4]中國消費(fèi)者協(xié)會.APP個人信息泄露情況調(diào)查報告[EB/OL].http://www.cca.org.cn/jmxf/detail/28180.html,2018-08-29.

    [5]彭萬林.民法學(xué)[M].北京:中國政法大學(xué)出版社,1997:201.

    [6]張夢秋.從APP使用角度對用戶隱私安全的思考[J].電子世界,2019,(11):82-83.

    [7]姚前.數(shù)據(jù)隱私保護(hù)新思路:從依賴他方到自主可控[J].中國信息安全,2019,(1):104-107.

    [8]申琦.我國網(wǎng)站隱私保護(hù)政策研究:基于49家網(wǎng)站的內(nèi)容分析[J].新聞大學(xué),2015,(4):43-50,85.

    [9]洪延青.網(wǎng)絡(luò)運(yùn)營者隱私條款的多角色平衡和創(chuàng)新[J].中國信息安全,2017,(9):46-49.

    [10]孟霞,岳鵬宇.移動終端APP隱私政策內(nèi)容分析[J].山西師大學(xué)報:社會科學(xué)版,2018,45(6):47-54.

    [11]劉百靈,萬璐璐,李延暉.網(wǎng)絡(luò)環(huán)境.基于隱私政策的隱私保護(hù)研究綜述[J].情報理論與實踐,2016,39(9):134-139.

    [12]徐敬宏.網(wǎng)站隱私聲明的真實功能考察——對五家網(wǎng)站隱私聲明的文本分析[J].當(dāng)代傳播,2008,(6):67-70.

    [13]任怡林.移動App隱私保護(hù)政策分析與對策研究[J].青年記者,2019,(20):93-94.

    [14]秦克飛.手機(jī)APP隱私政策的可讀性研究[J].情報探索,2019,(1):18-23.

    [15]付少雄,趙安琪.健康A(chǔ)PP用戶隱私保護(hù)政策調(diào)查分析——以《信息安全技術(shù) 個人信息安全規(guī)范》為框架[J].圖書館論壇,2019,39(12):109-118.

    [16]唐遠(yuǎn)清,賴星星.社交媒體隱私政策文本研究——基于Facebook與微信的對比分析[J].新聞與寫作,2018,(8):31-37.

    [17]范昊,王賀,付少雄,等.國內(nèi)外社交媒體個人信息保護(hù)政策研究及啟示[J].現(xiàn)代情報,2019,39(10):136-144.

    [18]劉嬌,白凈.中外移動APP用戶隱私保護(hù)文本比較研究[J].汕頭大學(xué)學(xué)報:人文社會科學(xué)版,2017,33(3):82-87.

    [19]互聯(lián)網(wǎng)周刊,eNet研究院.2018年度APP分類排行榜[EB/OL].http://enet.com.cn/article/2019/0108/A20190108058883.html,2019-01.

    [20]艾媒前沿科技產(chǎn)業(yè)研究中心.2018中國APP年度指數(shù)榜單[EB/OL].https://www.iimedia.cn/c900/62883.html,2018-11.

    [21]艾媒前沿科技產(chǎn)業(yè)研究中心.2019年中國移動社交行業(yè)研究報告[EB/OL].https://www.iimedia.cn/c400/63737.html,2019-03-01.

    [22]全國信息安全標(biāo)委會.國家標(biāo)準(zhǔn)GB /T 35273-2017《信息安全技術(shù) 個人信息安全規(guī)范》[EB/OL].https://www.tc260.org.cn /front /postDetail.html?id=20180124211617,2018-12-11.

    [23]鄒曉艷.用戶社交媒體的使用與隱私保護(hù)研究[D].濟(jì)南:山東師范大學(xué),2018.

    (責(zé)任編輯:孫國雷)

    一区二区三区乱码不卡18| 午夜精品国产一区二区电影| 国产国拍精品亚洲av在线观看| 各种免费的搞黄视频| 最黄视频免费看| 黄片无遮挡物在线观看| 男女啪啪激烈高潮av片| 三级国产精品欧美在线观看| 亚洲精品aⅴ在线观看| 插逼视频在线观看| 欧美日韩一区二区视频在线观看视频在线| 国产男女超爽视频在线观看| 欧美日韩综合久久久久久| 高清午夜精品一区二区三区| 精品人妻熟女毛片av久久网站| 一个人看视频在线观看www免费| 亚洲性久久影院| 18+在线观看网站| 欧美高清成人免费视频www| 欧美+日韩+精品| 午夜影院在线不卡| 亚洲三级黄色毛片| 国产一区有黄有色的免费视频| videos熟女内射| 三上悠亚av全集在线观看 | 国产伦理片在线播放av一区| 亚洲人成网站在线观看播放| 中国美白少妇内射xxxbb| 欧美老熟妇乱子伦牲交| 国产成人一区二区在线| 国产在线免费精品| 黄色一级大片看看| 色94色欧美一区二区| 欧美日韩综合久久久久久| 亚洲电影在线观看av| 永久免费av网站大全| 欧美精品一区二区大全| 寂寞人妻少妇视频99o| 伊人亚洲综合成人网| 免费观看av网站的网址| 亚洲av日韩在线播放| 精品人妻偷拍中文字幕| 国产精品国产三级专区第一集| 美女主播在线视频| 亚洲美女视频黄频| 99久久精品热视频| 国产欧美另类精品又又久久亚洲欧美| 丰满人妻一区二区三区视频av| 国产成人91sexporn| 各种免费的搞黄视频| 国产亚洲91精品色在线| 免费av中文字幕在线| 国产日韩一区二区三区精品不卡 | 欧美激情极品国产一区二区三区 | 日本爱情动作片www.在线观看| 国精品久久久久久国模美| 国产av国产精品国产| 日日爽夜夜爽网站| 啦啦啦视频在线资源免费观看| 成人无遮挡网站| 亚洲av免费高清在线观看| 亚洲欧美中文字幕日韩二区| 免费黄色在线免费观看| 免费在线观看成人毛片| 狠狠精品人妻久久久久久综合| 欧美日韩亚洲高清精品| 国产日韩欧美亚洲二区| 久久婷婷青草| 亚洲人成网站在线观看播放| 十八禁网站网址无遮挡 | 国产精品久久久久久av不卡| 狂野欧美白嫩少妇大欣赏| 亚洲精品中文字幕在线视频 | 亚洲一级一片aⅴ在线观看| 大片电影免费在线观看免费| 大片电影免费在线观看免费| 成人特级av手机在线观看| av国产久精品久网站免费入址| 99九九在线精品视频 | 看免费成人av毛片| 色94色欧美一区二区| 国产精品一区二区性色av| 欧美精品人与动牲交sv欧美| 亚洲真实伦在线观看| 观看av在线不卡| 亚洲美女视频黄频| 一级片'在线观看视频| 欧美另类一区| 偷拍熟女少妇极品色| 18禁在线无遮挡免费观看视频| 久久国内精品自在自线图片| 午夜激情福利司机影院| 欧美日韩亚洲高清精品| 又黄又爽又刺激的免费视频.| 国产在线男女| 人人妻人人爽人人添夜夜欢视频 | 亚洲真实伦在线观看| 亚洲欧洲国产日韩| 久久免费观看电影| 日韩欧美一区视频在线观看 | 看非洲黑人一级黄片| 日韩精品有码人妻一区| 免费不卡的大黄色大毛片视频在线观看| 国产精品欧美亚洲77777| 18禁在线播放成人免费| 午夜老司机福利剧场| 熟女人妻精品中文字幕| 国产精品伦人一区二区| 精品人妻一区二区三区麻豆| 亚洲丝袜综合中文字幕| 伊人久久精品亚洲午夜| 欧美xxⅹ黑人| 亚洲精品乱码久久久久久按摩| 久久精品国产自在天天线| 免费不卡的大黄色大毛片视频在线观看| 91久久精品国产一区二区三区| 国精品久久久久久国模美| 乱系列少妇在线播放| 国产欧美日韩一区二区三区在线 | 亚洲第一av免费看| 国产午夜精品一二区理论片| 亚洲欧美日韩东京热| 国产精品一区二区性色av| 免费人妻精品一区二区三区视频| 国产欧美日韩综合在线一区二区 | 男人爽女人下面视频在线观看| 曰老女人黄片| 另类精品久久| 欧美精品高潮呻吟av久久| 在线播放无遮挡| av天堂中文字幕网| 自拍偷自拍亚洲精品老妇| 亚洲美女视频黄频| 纵有疾风起免费观看全集完整版| 人妻制服诱惑在线中文字幕| 插逼视频在线观看| 国产精品偷伦视频观看了| 777米奇影视久久| 婷婷色综合大香蕉| 免费看av在线观看网站| 寂寞人妻少妇视频99o| 久久精品夜色国产| 久久久久久久久久成人| 精品国产乱码久久久久久小说| 欧美精品一区二区大全| 人人妻人人澡人人看| 欧美少妇被猛烈插入视频| 日日爽夜夜爽网站| a 毛片基地| 免费黄网站久久成人精品| 少妇被粗大的猛进出69影院 | 久久人人爽av亚洲精品天堂| 中文字幕精品免费在线观看视频 | 五月玫瑰六月丁香| 国精品久久久久久国模美| 熟女人妻精品中文字幕| 久久精品国产a三级三级三级| 熟女av电影| 国产免费福利视频在线观看| 黄片无遮挡物在线观看| 少妇的逼好多水| 一二三四中文在线观看免费高清| 亚洲精品第二区| 国产色爽女视频免费观看| 国产一区二区三区综合在线观看 | 香蕉精品网在线| 久久婷婷青草| 国产精品一区二区在线观看99| 中文欧美无线码| 一级片'在线观看视频| 国产免费一区二区三区四区乱码| 另类精品久久| 成人午夜精彩视频在线观看| 99视频精品全部免费 在线| 日本午夜av视频| 一级片'在线观看视频| 六月丁香七月| 日韩一区二区三区影片| 久久婷婷青草| 亚洲电影在线观看av| 国内揄拍国产精品人妻在线| 国产高清国产精品国产三级| av不卡在线播放| 自线自在国产av| 一个人看视频在线观看www免费| 在线观看av片永久免费下载| 亚洲一级一片aⅴ在线观看| 六月丁香七月| 国产精品久久久久久精品古装| 少妇的逼水好多| 国产av码专区亚洲av| 美女主播在线视频| 偷拍熟女少妇极品色| 国产中年淑女户外野战色| 亚洲国产毛片av蜜桃av| 看十八女毛片水多多多| 欧美精品一区二区免费开放| 又粗又硬又长又爽又黄的视频| 啦啦啦视频在线资源免费观看| 一级黄片播放器| tube8黄色片| 亚洲经典国产精华液单| 久久99精品国语久久久| 日本猛色少妇xxxxx猛交久久| 亚洲色图综合在线观看| 亚洲精品第二区| 国产精品麻豆人妻色哟哟久久| 精品人妻熟女毛片av久久网站| 日本黄大片高清| 极品人妻少妇av视频| 久久ye,这里只有精品| 午夜91福利影院| 国产亚洲一区二区精品| av在线老鸭窝| av福利片在线观看| 汤姆久久久久久久影院中文字幕| 久久久久视频综合| 高清不卡的av网站| 性色av一级| 久久久精品免费免费高清| 一级毛片黄色毛片免费观看视频| 91aial.com中文字幕在线观看| 精品午夜福利在线看| 精品卡一卡二卡四卡免费| 国产精品久久久久久精品古装| 久久这里有精品视频免费| av天堂中文字幕网| 观看av在线不卡| 久久午夜综合久久蜜桃| 亚洲国产色片| 又爽又黄a免费视频| 岛国毛片在线播放| 亚洲真实伦在线观看| 成人特级av手机在线观看| 久久久久网色| 又黄又爽又刺激的免费视频.| 国产欧美亚洲国产| 亚洲激情五月婷婷啪啪| 久久久久视频综合| 午夜福利视频精品| 欧美成人精品欧美一级黄| 亚洲人成网站在线观看播放| 永久免费av网站大全| 国国产精品蜜臀av免费| 国产有黄有色有爽视频| 这个男人来自地球电影免费观看 | 午夜视频国产福利| 美女脱内裤让男人舔精品视频| 精品国产乱码久久久久久小说| 少妇裸体淫交视频免费看高清| 97精品久久久久久久久久精品| 久久国产精品男人的天堂亚洲 | 五月天丁香电影| 日本91视频免费播放| 免费av不卡在线播放| 最新中文字幕久久久久| 人人澡人人妻人| 99热6这里只有精品| av视频免费观看在线观看| 成人毛片60女人毛片免费| 一本色道久久久久久精品综合| 一区二区三区乱码不卡18| 亚洲不卡免费看| 波野结衣二区三区在线| 日本wwww免费看| 啦啦啦中文免费视频观看日本| 日本黄色片子视频| 不卡视频在线观看欧美| 深夜a级毛片| 久久人人爽av亚洲精品天堂| 韩国高清视频一区二区三区| 国产精品人妻久久久久久| 天天躁夜夜躁狠狠久久av| 中文精品一卡2卡3卡4更新| 在现免费观看毛片| 日本91视频免费播放| 国产熟女欧美一区二区| 女人精品久久久久毛片| 高清欧美精品videossex| 久久久a久久爽久久v久久| 精品国产一区二区三区久久久樱花| 国产成人免费观看mmmm| 精品卡一卡二卡四卡免费| av黄色大香蕉| 九九在线视频观看精品| 国产一区亚洲一区在线观看| 色婷婷久久久亚洲欧美| 精品一品国产午夜福利视频| 成人毛片60女人毛片免费| 国产亚洲欧美精品永久| 日韩 亚洲 欧美在线| 18+在线观看网站| 一区二区三区精品91| 日本av手机在线免费观看| 男人狂女人下面高潮的视频| 久久鲁丝午夜福利片| 久久久久精品久久久久真实原创| 亚洲成人手机| 亚洲精品一区蜜桃| 国产男女超爽视频在线观看| 女人精品久久久久毛片| 免费观看的影片在线观看| 黄色欧美视频在线观看| 伊人亚洲综合成人网| 一级毛片电影观看| 青春草国产在线视频| 九草在线视频观看| 国产伦精品一区二区三区视频9| 18禁在线无遮挡免费观看视频| 精品人妻一区二区三区麻豆| 高清黄色对白视频在线免费看 | 国产亚洲av片在线观看秒播厂| 少妇高潮的动态图| 草草在线视频免费看| 成人无遮挡网站| 亚洲国产毛片av蜜桃av| 成人毛片60女人毛片免费| 亚洲欧洲精品一区二区精品久久久 | 黄色毛片三级朝国网站 | 男女啪啪激烈高潮av片| 久久久久人妻精品一区果冻| 丰满饥渴人妻一区二区三| 国产在线免费精品| 久久精品久久久久久噜噜老黄| 91精品伊人久久大香线蕉| 久久精品国产亚洲av天美| 一级毛片黄色毛片免费观看视频| 精品午夜福利在线看| 麻豆乱淫一区二区| 免费看不卡的av| 午夜av观看不卡| av卡一久久| videos熟女内射| 欧美+日韩+精品| 亚洲精品,欧美精品| 91精品国产国语对白视频| 极品少妇高潮喷水抽搐| 国产伦在线观看视频一区| 国产精品偷伦视频观看了| 日日爽夜夜爽网站| 高清在线视频一区二区三区| 免费av不卡在线播放| 啦啦啦在线观看免费高清www| 下体分泌物呈黄色| 日韩电影二区| 欧美亚洲 丝袜 人妻 在线| 午夜免费鲁丝| 久久久国产欧美日韩av| 22中文网久久字幕| 男女边吃奶边做爰视频| 天堂俺去俺来也www色官网| 亚洲国产日韩一区二区| 最新中文字幕久久久久| av不卡在线播放| 久久毛片免费看一区二区三区| 国产精品无大码| 一区二区三区免费毛片| 在线观看一区二区三区激情| 欧美精品一区二区大全| 天堂8中文在线网| 国产在线一区二区三区精| 日本免费在线观看一区| 又粗又硬又长又爽又黄的视频| 少妇熟女欧美另类| 国产精品一区二区三区四区免费观看| 美女主播在线视频| 亚洲情色 制服丝袜| 高清毛片免费看| 亚洲欧美一区二区三区黑人 | 亚洲精品久久久久久婷婷小说| 91久久精品国产一区二区三区| 嘟嘟电影网在线观看| 国产av精品麻豆| √禁漫天堂资源中文www| 国产精品久久久久久精品古装| 久久久国产精品麻豆| 一边亲一边摸免费视频| 热re99久久精品国产66热6| 在线天堂最新版资源| 丰满乱子伦码专区| 国产精品蜜桃在线观看| 全区人妻精品视频| 国产高清国产精品国产三级| 亚洲美女搞黄在线观看| 国产成人精品久久久久久| 亚洲欧洲精品一区二区精品久久久 | 又黄又爽又刺激的免费视频.| 91久久精品电影网| 成人18禁高潮啪啪吃奶动态图 | 能在线免费看毛片的网站| 成年女人在线观看亚洲视频| 五月伊人婷婷丁香| 久久国内精品自在自线图片| 人妻制服诱惑在线中文字幕| 18禁裸乳无遮挡动漫免费视频| 秋霞在线观看毛片| 亚洲成色77777| av一本久久久久| av线在线观看网站| 久久免费观看电影| 男男h啪啪无遮挡| 国产又色又爽无遮挡免| 国产伦精品一区二区三区视频9| 国产 精品1| 成人亚洲精品一区在线观看| 国产精品三级大全| 国产欧美日韩一区二区三区在线 | 精品人妻偷拍中文字幕| 一二三四中文在线观看免费高清| 欧美97在线视频| 精品久久久久久久久亚洲| 国产亚洲精品久久久com| 国产成人一区二区在线| 亚洲一级一片aⅴ在线观看| 日本黄色片子视频| 免费观看在线日韩| 观看美女的网站| 国产一区有黄有色的免费视频| 蜜臀久久99精品久久宅男| 久久97久久精品| 精品视频人人做人人爽| 少妇被粗大猛烈的视频| 亚洲国产色片| 国产成人精品福利久久| 久久久久视频综合| 亚洲国产欧美日韩在线播放 | 成人无遮挡网站| 80岁老熟妇乱子伦牲交| 少妇丰满av| 亚洲欧美中文字幕日韩二区| 国产成人一区二区在线| 免费不卡的大黄色大毛片视频在线观看| 亚洲av国产av综合av卡| 久久久久久久久大av| 一级黄片播放器| 日本黄色日本黄色录像| 亚洲精品乱久久久久久| 狂野欧美激情性bbbbbb| 色94色欧美一区二区| 亚洲欧洲日产国产| 中文字幕免费在线视频6| 欧美精品一区二区大全| 亚洲,一卡二卡三卡| 久热这里只有精品99| 久久国产乱子免费精品| 丰满少妇做爰视频| h视频一区二区三区| 最黄视频免费看| 国产淫片久久久久久久久| 伦精品一区二区三区| 97超视频在线观看视频| 男人狂女人下面高潮的视频| 亚洲欧美精品自产自拍| 久久久久久久精品精品| 一级爰片在线观看| 国产熟女午夜一区二区三区 | videossex国产| 赤兔流量卡办理| 极品人妻少妇av视频| 久久精品夜色国产| 国产白丝娇喘喷水9色精品| 91久久精品国产一区二区三区| 国产乱人偷精品视频| 国产黄色免费在线视频| 毛片一级片免费看久久久久| 赤兔流量卡办理| 一区二区av电影网| 人妻系列 视频| 插逼视频在线观看| 一级片'在线观看视频| 中文字幕亚洲精品专区| 亚洲av国产av综合av卡| av不卡在线播放| 大香蕉久久网| 成人18禁高潮啪啪吃奶动态图 | 精品久久久精品久久久| 免费看不卡的av| 国产国拍精品亚洲av在线观看| 狠狠精品人妻久久久久久综合| 一级毛片黄色毛片免费观看视频| 在线观看美女被高潮喷水网站| 一级爰片在线观看| 精品国产乱码久久久久久小说| 国产中年淑女户外野战色| 日本免费在线观看一区| 人人澡人人妻人| 国产午夜精品一二区理论片| 亚洲精品乱久久久久久| 国产爽快片一区二区三区| 午夜日本视频在线| 美女福利国产在线| 人人妻人人看人人澡| 亚洲一级一片aⅴ在线观看| 青青草视频在线视频观看| av线在线观看网站| 免费人妻精品一区二区三区视频| 插阴视频在线观看视频| 国产成人精品福利久久| 丰满乱子伦码专区| 一个人免费看片子| 草草在线视频免费看| 亚洲精品456在线播放app| 日韩av不卡免费在线播放| 热99国产精品久久久久久7| 少妇高潮的动态图| 综合色丁香网| 人人妻人人看人人澡| 日韩三级伦理在线观看| 女的被弄到高潮叫床怎么办| 国产极品天堂在线| 国产黄色视频一区二区在线观看| 人体艺术视频欧美日本| 国产黄片视频在线免费观看| 久久婷婷青草| 各种免费的搞黄视频| 丝瓜视频免费看黄片| 欧美日韩在线观看h| 久久久久国产精品人妻一区二区| 国产免费一级a男人的天堂| 丰满少妇做爰视频| www.av在线官网国产| 成人18禁高潮啪啪吃奶动态图 | 免费观看的影片在线观看| 国产精品一区二区在线观看99| 国产免费视频播放在线视频| 不卡视频在线观看欧美| 国产日韩一区二区三区精品不卡 | 国产黄色视频一区二区在线观看| 永久免费av网站大全| 国产精品久久久久成人av| 精品国产一区二区三区久久久樱花| 亚洲,一卡二卡三卡| 一个人看视频在线观看www免费| 欧美性感艳星| 国产精品不卡视频一区二区| 精品久久国产蜜桃| 国产一区有黄有色的免费视频| 菩萨蛮人人尽说江南好唐韦庄| 自线自在国产av| 国产极品粉嫩免费观看在线 | 免费大片18禁| 久久亚洲国产成人精品v| 日韩强制内射视频| 国产精品不卡视频一区二区| 伦理电影免费视频| 成人午夜精彩视频在线观看| 国产亚洲91精品色在线| 成人美女网站在线观看视频| 亚洲国产欧美在线一区| 国产一区有黄有色的免费视频| 女人精品久久久久毛片| av在线老鸭窝| 黑人高潮一二区| 又黄又爽又刺激的免费视频.| 色吧在线观看| 亚洲精品一区蜜桃| 草草在线视频免费看| 国产在线一区二区三区精| 日韩制服骚丝袜av| av黄色大香蕉| 一级毛片 在线播放| 久久久a久久爽久久v久久| 亚州av有码| 国产色婷婷99| 亚洲内射少妇av| 欧美变态另类bdsm刘玥| 欧美少妇被猛烈插入视频| 日韩欧美一区视频在线观看 | 国产免费又黄又爽又色| 日韩av免费高清视频| 秋霞伦理黄片| 男女国产视频网站| 国产精品人妻久久久久久| 一级二级三级毛片免费看| 99国产精品免费福利视频| 综合色丁香网| 国产成人freesex在线| 午夜免费鲁丝| 精品酒店卫生间| 亚洲婷婷狠狠爱综合网| 老司机影院毛片| 日韩免费高清中文字幕av| 欧美三级亚洲精品| 人妻少妇偷人精品九色| 日韩av不卡免费在线播放| 久久99热6这里只有精品| av免费观看日本| 久久精品国产a三级三级三级| 一级毛片 在线播放| 夜夜爽夜夜爽视频| 91久久精品国产一区二区三区| 人妻一区二区av| 亚洲,一卡二卡三卡| 国产精品一区二区三区四区免费观看| 久久国产亚洲av麻豆专区| 日韩熟女老妇一区二区性免费视频| 六月丁香七月| 高清午夜精品一区二区三区| 一本一本综合久久| 男女啪啪激烈高潮av片| 韩国高清视频一区二区三区| 国产熟女午夜一区二区三区 | 乱人伦中国视频| 日韩三级伦理在线观看| 精品一品国产午夜福利视频| 国产精品三级大全| 亚洲精华国产精华液的使用体验| 久久ye,这里只有精品| av视频免费观看在线观看| av又黄又爽大尺度在线免费看| 99热这里只有精品一区| 国产亚洲5aaaaa淫片| 99久国产av精品国产电影| 成人亚洲精品一区在线观看| 国产视频首页在线观看|