• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    App位置數(shù)據(jù)保護(hù)的困境及其應(yīng)對(duì)

    2021-03-07 13:18:58劉友華王彬彬
    武陵學(xué)刊 2021年4期
    關(guān)鍵詞:數(shù)據(jù)保護(hù)個(gè)人信息用戶

    劉友華,王彬彬

    (湘潭大學(xué) 法學(xué)院/知識(shí)產(chǎn)權(quán)學(xué)院,湖南 湘潭411105)

    自新型冠狀病毒肺炎疫情爆發(fā)以來(lái),多國(guó)推出了防疫App,這些基于不同技術(shù)原理的App會(huì)追蹤感染者和記錄使用人的位置,收集不同精度的位置數(shù)據(jù)[1]。個(gè)人位置數(shù)據(jù)通過(guò)大數(shù)據(jù)分析之后能得出個(gè)人的軌跡信息。疫情期間披露患者的軌跡信息關(guān)乎公眾切身利益,但與此同時(shí)個(gè)人的隱私也需要保護(hù),如成都一女孩在感染病毒前的活動(dòng)軌跡被披露后,遭遇公眾人肉搜索、語(yǔ)言攻擊等網(wǎng)絡(luò)暴力[2],就體現(xiàn)了位置數(shù)據(jù)保護(hù)的重要性和緊迫性。對(duì)于此類數(shù)據(jù),人們關(guān)注其何時(shí)被收集、何時(shí)被刪除,希望尋求防疫和保護(hù)隱私之間的最優(yōu)解[3]。除此以外,在商業(yè)環(huán)境中App收集的位置數(shù)據(jù)也同樣值得關(guān)注,其隱私政策的合規(guī)性越來(lái)越受到人們的重視。

    一、個(gè)人位置數(shù)據(jù)及其保護(hù)的必要性

    個(gè)人位置數(shù)據(jù)是指未經(jīng)過(guò)數(shù)據(jù)脫敏①,能關(guān)聯(lián)到特定個(gè)人,顯示其所在特定位置的數(shù)據(jù)。個(gè)人位置數(shù)據(jù)會(huì)指向位置隱私,阿拉斯泰爾·貝雷斯福德(Alastair Beresford)和弗蘭克·斯塔賈諾(Frank Stajano)認(rèn)為擁有位置隱私的一方可以防止他人了解其目前或者過(guò)去所處的位置[4],艾倫·弗曼·威斯?。ˋlan Furman Westin)認(rèn)為位置隱私是信息隱私中的一種特殊類型,擁有位置隱私的主體可以決定隱私透露的時(shí)間、地點(diǎn)、方式、程度等[5]。位置隱私關(guān)注的是個(gè)人隱私,強(qiáng)調(diào)個(gè)人對(duì)位置數(shù)據(jù)的自主決定權(quán)。

    位置隱私的定義解釋了其特殊性,即直接指向個(gè)人,通過(guò)這些數(shù)據(jù)能直接追蹤到現(xiàn)實(shí)中的人:數(shù)據(jù)主體夜晚的長(zhǎng)期靜止?fàn)顟B(tài)顯示其已進(jìn)入休息狀態(tài),長(zhǎng)期在固定場(chǎng)所則顯示該場(chǎng)所為數(shù)據(jù)主體的穩(wěn)定住所。此外,還能通過(guò)位置數(shù)據(jù)分析出其他個(gè)人敏感信息,如長(zhǎng)期往返某宗教場(chǎng)所,就能推出某人的宗教信仰。如果數(shù)據(jù)不被保護(hù),每個(gè)人每時(shí)每刻都可能被記錄,任何人都可能獲知自己目前的位置,犯罪分子還會(huì)據(jù)此針對(duì)特定的個(gè)人在特定的時(shí)間和空間實(shí)施犯罪行為[6]。私人生活不受打擾是每個(gè)公民幸福生活的前提,沒(méi)人希望其家庭住址等信息未經(jīng)許可為他人所知[7]。位置數(shù)據(jù)的特殊性決定了對(duì)其保護(hù)的必要性。

    據(jù)《紐約時(shí)報(bào)》報(bào)道,許多流行的應(yīng)用程序不僅僅是收集用戶的位置數(shù)據(jù),還在用戶不知情的情況下與運(yùn)營(yíng)商分享數(shù)據(jù)甚至是將其銷售給第三方[8]。中國(guó)消費(fèi)者協(xié)會(huì)2018年發(fā)布的調(diào)研報(bào)告顯示,國(guó)內(nèi)應(yīng)用程序過(guò)度收集個(gè)人地理位置的行為十分普遍,各類App幾乎都要求位置權(quán)限[9]。南都個(gè)人信息保護(hù)研究中心發(fā)布的《2019個(gè)人信息安全年度報(bào)告》披露,在其調(diào)研的100款熱門App中,有22款要求強(qiáng)制定位,用戶不同意則不能使用該軟件;定位權(quán)限也被頻繁調(diào)用,共有44款A(yù)pp調(diào)用頻率超過(guò)50次/分鐘,其中“拍拍貸借款”調(diào)用頻率高達(dá)1 468次/分鐘,調(diào)用頻率在500次以上的有7款A(yù)pp,包括“捷信金融”“匯中網(wǎng)”等應(yīng)用程序[10]。隨著5G時(shí)代的來(lái)臨,個(gè)人位置數(shù)據(jù)愈發(fā)可能被調(diào)用并流入公共領(lǐng)域,隱含于個(gè)人位置數(shù)據(jù)之下的個(gè)人隱私更難得到保護(hù),因此位置數(shù)據(jù)保護(hù)具有緊迫性。

    二、App的隱私政策與位置數(shù)據(jù)收集考察

    為考察常用App在收集、利用位置數(shù)據(jù)中的問(wèn)題,本文根據(jù)艾媒北極星網(wǎng)站軟件分類和下載次數(shù)排名選取App樣本,一共涉及16個(gè)種類②,選擇每個(gè)種類中近兩年來(lái)下載次數(shù)排名靠前的共160個(gè)App進(jìn)行調(diào)研,分析這些App的隱私政策,對(duì)其服務(wù)類型、位置權(quán)限獲取方式進(jìn)行統(tǒng)計(jì),發(fā)現(xiàn)存在如下較突出的問(wèn)題。

    (一)各類軟件普遍要求位置權(quán)限

    對(duì)160個(gè)App進(jìn)行統(tǒng)計(jì)分析,最終發(fā)現(xiàn)有148個(gè)App要求擁有位置權(quán)限,占比93%;沒(méi)有位置權(quán)限要求的僅有12個(gè),占比7%。在這12個(gè)App中,考試學(xué)習(xí)類App有3個(gè)(有道詞典、作業(yè)盒子學(xué)習(xí)端、有道翻譯),金融理財(cái)類2個(gè)(天天基金、用錢寶),資訊閱讀類7個(gè)(騰訊體育、掌閱、咪咕閱讀、書旗小說(shuō)、宜搜小說(shuō)、快看漫畫、騰訊動(dòng)漫),除此以外,其他種類的App均要求位置權(quán)限。

    (二)隱私政策對(duì)位置數(shù)據(jù)的規(guī)定過(guò)于粗略

    首先是對(duì)應(yīng)用場(chǎng)景并未充分說(shuō)明?!缎畔踩夹g(shù) 個(gè)人信息安全規(guī)范》(GB/T 35273-2020)、《App違法違規(guī)收集使用個(gè)人信息自評(píng)估指南》均規(guī)定收集某一類數(shù)據(jù)時(shí)須說(shuō)明收集數(shù)據(jù)的目的及用途,即這類數(shù)據(jù)的應(yīng)用場(chǎng)景究竟是什么③。這也是App貫徹“知情同意原則”的必要措施,列明位置數(shù)據(jù)應(yīng)用場(chǎng)景才能讓用戶更清楚地知悉數(shù)據(jù)使用情況,進(jìn)而決定是否授予App以位置權(quán)限。

    在160個(gè)樣本中剔除12個(gè)沒(méi)有位置權(quán)限要求的樣本,統(tǒng)計(jì)余下148個(gè)樣本的位置數(shù)據(jù)應(yīng)用場(chǎng)景,我們發(fā)現(xiàn):對(duì)位置數(shù)據(jù)的應(yīng)用場(chǎng)景有簡(jiǎn)單說(shuō)明的有 94個(gè) App,占比 64%;有 54個(gè) App(占比36%)的說(shuō)明不符合相關(guān)規(guī)定,即要么對(duì)位置數(shù)據(jù)的應(yīng)用場(chǎng)景未作出說(shuō)明(14個(gè)App,占比9%),要么僅概括說(shuō)明(40個(gè)App,占比27%),如標(biāo)示的“個(gè)性化服務(wù)”“基于位置的服務(wù)”等文字無(wú)法讓用戶清楚應(yīng)用位置數(shù)據(jù)究竟提供何種服務(wù)。

    其次是對(duì)位置數(shù)據(jù)的列舉和分類不正確?!缎畔踩夹g(shù)個(gè)人信息安全規(guī)范》(GB/T 35273-2020)已明確了位置數(shù)據(jù)的類型,且將其外延列舉為“包括行蹤軌跡、精準(zhǔn)定位信息、住宿信息、經(jīng)緯度等”。而從148個(gè)要求位置權(quán)限的App樣本看,對(duì)位置數(shù)據(jù)進(jìn)行正確分類和例舉的僅有71個(gè),占比48%,還有 77個(gè)App(占比52%)的歸類和說(shuō)明不符合規(guī)定要求,其中有46個(gè)App將位置數(shù)據(jù)歸到其他數(shù)據(jù)種類,占31%;18個(gè)App(占比12%)在隱私政策中未對(duì)位置數(shù)據(jù)進(jìn)行例舉和定義;13個(gè)App(占比9%)的隱私政策未對(duì)這類數(shù)據(jù)進(jìn)行任何說(shuō)明。

    (三)獲取位置數(shù)據(jù)的程序公平并未滿足

    首先,部分App默認(rèn)獲取位置權(quán)限,即未經(jīng)用戶同意,下載App之后其位置權(quán)限自行打開。有10個(gè)App在下載之后其位置權(quán)限是打開的,并不需要用戶手動(dòng)授權(quán),具體包括:百度地圖、一起作業(yè)學(xué)習(xí)端、WPS、魔秀桌面、酷劃、魔秀壁紙、珍愛網(wǎng)、約會(huì)吧、多點(diǎn)、Wifi萬(wàn)能鑰匙。盡管這些App樣本占比并不大,但用戶常用的百度地圖、WPS、珍愛網(wǎng)等赫然在列,值得關(guān)注。

    其次,超范圍獲取位置數(shù)據(jù)的情況突出。此處所定義的超范圍獲取位置數(shù)據(jù),是指App完全沒(méi)有基于位置的服務(wù)卻要求獲取位置權(quán)限。對(duì)擁有位置權(quán)限的148個(gè)App進(jìn)行下載體驗(yàn),發(fā)現(xiàn)有69個(gè)App是在用戶使用相關(guān)服務(wù)時(shí)要求位置權(quán)限,收集位置數(shù)據(jù);18個(gè)App沒(méi)有相關(guān)服務(wù),也一直未獲取數(shù)據(jù);還有61個(gè)App在用戶還未開始使用相關(guān)服務(wù)時(shí)就要求獲取數(shù)據(jù)。在這61個(gè)App中,有31個(gè)存在沒(méi)有相關(guān)服務(wù)卻收集位置數(shù)據(jù),即明顯超過(guò)業(yè)務(wù)范圍收集位置數(shù)據(jù)的情形,其中有13個(gè)在隱私政策中沒(méi)有說(shuō)明要收集位置數(shù)據(jù),但下載運(yùn)行時(shí)卻索要位置權(quán)限。這些App為:美圖秀秀、智聯(lián)招聘、交警12123、金山詞霸、升學(xué)e網(wǎng)通、翼支付、小米金融、平安金管家、魔秀桌面、珍愛網(wǎng)、貝貝、約會(huì)吧、汽車之家,均為人們?nèi)粘I钪械某S密浖?/p>

    最后,幾乎所有App都要求收集更為精準(zhǔn)的位置數(shù)據(jù)。在148個(gè)要求位置權(quán)限的App樣本中,有144個(gè)App(占比97%)都要求收集精確或粗略的位置數(shù)據(jù),僅收集精確位置數(shù)據(jù)的只有3個(gè)(一起作業(yè)學(xué)習(xí)端、WPS、小米天氣),只收集粗略位置數(shù)據(jù)的只有1個(gè)(喜馬拉雅)。但在這16類樣本App中,一些影音播放類、應(yīng)用分發(fā)類、系統(tǒng)工具類的App,從其提供服務(wù)的需求看,明顯不需要針對(duì)用戶十分精確的位置來(lái)提供服務(wù),即用戶的精準(zhǔn)位置并非其提供有效服務(wù)的前提(如美柚、魔秀壁紙),而僅需要所在城市的數(shù)據(jù)即可,收集過(guò)于精確的位置數(shù)據(jù)明顯超出了服務(wù)的必要需求。

    從以上調(diào)研結(jié)果可知,絕大多數(shù)App提出了索要位置權(quán)限的要求,且隱私政策中對(duì)于位置數(shù)據(jù)的內(nèi)容規(guī)定并不明晰,位置數(shù)據(jù)所對(duì)應(yīng)的服務(wù)并未清楚說(shuō)明,位置數(shù)據(jù)的定義和種類混亂,獲取位置數(shù)據(jù)時(shí)存在默認(rèn)開啟位置權(quán)限、超范圍獲取數(shù)據(jù)、獲取過(guò)于精準(zhǔn)的位置數(shù)據(jù)等程序不公平問(wèn)題。

    三、App個(gè)人位置數(shù)據(jù)保護(hù)困境的成因

    (一)法律對(duì)個(gè)人數(shù)據(jù)的保護(hù)力度不足

    1.相關(guān)立法不完善。我國(guó)目前并沒(méi)有對(duì)位置數(shù)據(jù)進(jìn)行直接保護(hù)的法律規(guī)定,與其相關(guān)的概念只有“行蹤軌跡信息”“個(gè)人行蹤信息”等,相應(yīng)數(shù)據(jù)保護(hù)的條文散見于《個(gè)人信息保護(hù)法(草案)》《民法典》《網(wǎng)絡(luò)安全法》《刑法》等法律法規(guī)中,且存在很多不完善之處,無(wú)法為個(gè)人位置數(shù)據(jù)保護(hù)提供明確的指引。

    《網(wǎng)絡(luò)安全法》第41條規(guī)定了網(wǎng)絡(luò)服務(wù)者在收集和使用個(gè)人數(shù)據(jù)時(shí),應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,公開收集使用規(guī)則,明示收集、使用信息的目的、方式、范圍,并獲取被收集者同意,但并未對(duì)個(gè)人敏感數(shù)據(jù)予以界定和特殊保護(hù)[11]?!缎谭ā芳捌渌痉ń忉尯苤匾晫?duì)“行蹤軌跡信息”的保護(hù)?!蹲罡呷嗣穹ㄔ?、最高人民檢察院關(guān)于辦理侵犯公民個(gè)人信息刑事案件適用法律若干問(wèn)題的解釋》第五條規(guī)定,“非法獲取、出售或者提供行蹤軌跡信息、通信內(nèi)容、征信信息、財(cái)產(chǎn)信息五十條以上的”即構(gòu)成刑法二百五十三條“侵犯公民個(gè)人信息罪”,且屬于情節(jié)嚴(yán)重之列,而其他非法處置“住宿信息、通信記錄、健康生理信息、交易信息”的需要達(dá)到五百條以上才構(gòu)成犯罪?!蹲罡呷嗣穹ㄔ骸⒆罡呷嗣駲z察院關(guān)于辦理非法利用信息網(wǎng)絡(luò)、幫助信息網(wǎng)絡(luò)犯罪活動(dòng)等刑事案件適用法律若干問(wèn)題的解釋》第四條規(guī)定,泄露行蹤軌跡信息達(dá)到500條以上的,構(gòu)成《刑法》第二百八十六條之一的“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”。但《刑法》具有謙抑性,在個(gè)人權(quán)益受到嚴(yán)重?fù)p害時(shí)才啟動(dòng)保護(hù),對(duì)App過(guò)度收集和濫用公民個(gè)人位置數(shù)據(jù)的行為無(wú)法起到有效預(yù)防和及時(shí)救濟(jì)作用。

    2017年修訂的《測(cè)繪法》明確將地理信息納入法律保護(hù)范圍,其第47條指出:“地理信息生產(chǎn)、利用單位和互聯(lián)網(wǎng)地圖服務(wù)提供者收集、使用用戶個(gè)人信息的,應(yīng)當(dāng)遵守法律、行政法規(guī)關(guān)于個(gè)人信息保護(hù)的規(guī)定?!比黄涓嗍且?guī)制傳統(tǒng)的測(cè)繪行業(yè),對(duì)App收集和利用行為沒(méi)有直接對(duì)應(yīng)條款,僅在第47條列明。所以,該法雖明確了對(duì)位置數(shù)據(jù)的保護(hù)以及加強(qiáng)了與其他立法的銜接,卻沒(méi)有提供可操作性的規(guī)制。

    《信息安全技術(shù)個(gè)人信息安全規(guī)范》(GB/T 35273-2020)附錄B中將“精準(zhǔn)的位置信息”和“行蹤軌跡信息歸類”列舉為個(gè)人敏感信息。根據(jù)精確度的不同判斷信息是否需要特殊嚴(yán)格保護(hù)不失為一種好辦法,但該規(guī)定對(duì)于“精確”并無(wú)相應(yīng)的界定,所以無(wú)實(shí)際性的指導(dǎo)意義。另外對(duì)個(gè)人信息的定義仍然采用識(shí)別性的標(biāo)準(zhǔn),其實(shí),不具有識(shí)別性的位置數(shù)據(jù)即使沒(méi)有達(dá)到足夠的精確度,但當(dāng)其能夠與其他智能設(shè)備數(shù)據(jù)結(jié)合識(shí)別特定個(gè)人時(shí),同樣值得注意。

    《民法典》人格權(quán)編中,規(guī)定了個(gè)人信息的定義④,并特別指出個(gè)人信息中的私密信息適用隱私權(quán)保護(hù)相關(guān)規(guī)定,自然人的住址、行蹤信息屬于個(gè)人信息,受到法律保護(hù)。《民法典》對(duì)個(gè)人信息采取的是“間接識(shí)別”⑤的定義方式,為位置數(shù)據(jù)的保護(hù)提供了例舉式的原則性規(guī)定,但也有所缺漏,如只是例舉了“自然人的住址”“行蹤信息”而忽略了更多的位置數(shù)據(jù)種類。

    《個(gè)人信息保護(hù)法(草案)》中與位置數(shù)據(jù)相關(guān)的概念為“個(gè)人行蹤信息”,遵循個(gè)人敏感信息的處理規(guī)定,但不足之處在于,實(shí)時(shí)定位、住址等位置數(shù)據(jù)并未被囊括?!皞€(gè)人行蹤信息”是將個(gè)人不同時(shí)刻所處位置進(jìn)行大數(shù)據(jù)分析而得到的一類“信息”,而App收集的位置數(shù)據(jù)并不是“個(gè)人行蹤信息”這一靜態(tài)數(shù)據(jù)的分析結(jié)果,如果僅規(guī)定不能收集“個(gè)人行蹤信息”,App收集用戶實(shí)時(shí)位置數(shù)據(jù)的情形則不受限制。

    總體而言,對(duì)于個(gè)人位置數(shù)據(jù)立法,仍需在《個(gè)人信息保護(hù)法》等法規(guī)中予以體系性回應(yīng),全面協(xié)調(diào)現(xiàn)有規(guī)定;且還需進(jìn)一步細(xì)化,結(jié)合App收集位置數(shù)據(jù)的原理,完整列舉位置數(shù)據(jù)的類型,注意其與“行蹤軌跡信息”“個(gè)人行蹤信息”的區(qū)別。

    2.監(jiān)管存在盲區(qū)。就監(jiān)管而言,近年來(lái),中央網(wǎng)信辦、工信部、公安部、市場(chǎng)監(jiān)管總局等相關(guān)監(jiān)管部門聯(lián)合開展了一系列App專項(xiàng)治理行動(dòng),對(duì)App的隱私政策和在權(quán)限索取過(guò)程中常見的違法違規(guī)行為予以檢查、整改,這在一定程度上提升了個(gè)人數(shù)據(jù)的保護(hù)水平。但值得反思的是,我國(guó)數(shù)據(jù)保護(hù)與治理呈現(xiàn)“九龍治水”的局面,網(wǎng)信、工信、公安、市場(chǎng)監(jiān)管等相關(guān)管理部門繁多,卻沒(méi)有對(duì)數(shù)據(jù)收集、使用權(quán)限予以綜合監(jiān)管的部門;再者此種運(yùn)動(dòng)式的執(zhí)法無(wú)法真正解決問(wèn)題,消費(fèi)者能夠接觸到的App數(shù)量眾多,對(duì)其收集位置數(shù)據(jù)的必要性和合法合規(guī)情況的排查需投入大量人力財(cái)力,客觀上難以對(duì)這些行為做到實(shí)時(shí)、全方位監(jiān)管。

    (二)App運(yùn)營(yíng)者缺乏保護(hù)用戶位置數(shù)據(jù)意識(shí)

    App通過(guò)隱私政策讓用戶決定是否授予權(quán)限,然后對(duì)收集到的位置數(shù)據(jù)進(jìn)行存儲(chǔ)或處理。但位置數(shù)據(jù)是極具商業(yè)價(jià)值的資源,在監(jiān)管不力和懲罰機(jī)制不健全的情形下,App運(yùn)營(yíng)商缺乏數(shù)據(jù)合規(guī)使用的動(dòng)力。

    第一,隱私政策過(guò)于粗略,違反數(shù)據(jù)收集知情同意原則。知情同意原則要求數(shù)據(jù)收集方充分告知數(shù)據(jù)主體收集、處理和利用數(shù)據(jù)的具體細(xì)節(jié),在征得數(shù)據(jù)主體明確同意后才開展數(shù)據(jù)收集工作[12]。App隱私政策是運(yùn)營(yíng)方提供的作為其與用戶就個(gè)人數(shù)據(jù)的收集、使用、共享行為達(dá)成一致的格式合同,需要法律規(guī)范、國(guó)家標(biāo)準(zhǔn)對(duì)具體條款予以規(guī)范和引導(dǎo)。從上文調(diào)研數(shù)據(jù)可知,有36%的App的隱私政策僅用少量文字對(duì)位置數(shù)據(jù)進(jìn)行了說(shuō)明,或簡(jiǎn)單概述,或僅通知用戶將收集位置數(shù)據(jù),而對(duì)此類數(shù)據(jù)所涉的服務(wù)、用途以及如何存儲(chǔ)、共享等均未提及或未清晰表達(dá)。從調(diào)查看,絕大多數(shù)App的隱私政策極其冗長(zhǎng),且未以加粗字體等方式特別提示位置數(shù)據(jù)的相關(guān)內(nèi)容,語(yǔ)言表達(dá)也晦澀難懂,易造成用戶閱讀疲勞。用戶只是迫于使用App的必要而點(diǎn)擊“我同意”隱私政策,無(wú)法真正實(shí)現(xiàn)自由選擇的同意權(quán)。

    第二,普遍要求位置權(quán)限違反數(shù)據(jù)收集的最小必要原則。根據(jù)《網(wǎng)絡(luò)安全法》第41條規(guī)定,數(shù)據(jù)收集應(yīng)當(dāng)滿足最小必要的原則⑥。從前述調(diào)研數(shù)據(jù)看,有87%的App均要求位置權(quán)限,而有些App提供的服務(wù)根本無(wú)需位置數(shù)據(jù),要求位置權(quán)限并不合理。此時(shí)即使用戶察覺(jué)到App有超出范圍收集、利用數(shù)據(jù)的條款,也會(huì)基于App運(yùn)營(yíng)方“要么接受,要么退出”的“硬權(quán)力”而不得不選擇接受,這就造就了App服務(wù)提供商強(qiáng)行收集、利用數(shù)據(jù)的“特權(quán)”。

    第三,不公平程序收集數(shù)據(jù)忽略用戶的隱私需求。庫(kù)爾南(Culnan)和阿姆斯特朗(Armstrong)在1999年提出了隱私計(jì)算理論(Privacy Calculus Theory),該理論認(rèn)為,用戶在提供自己的信息時(shí),會(huì)進(jìn)行基本的衡量,會(huì)考量提供信息可能帶來(lái)的便利和好處(即感知收益),以及由此帶來(lái)的損失和風(fēng)險(xiǎn)(即感知風(fēng)險(xiǎn)),從而做出是否提供信息的行為選擇[13]。根據(jù)前文調(diào)研,App收集位置數(shù)據(jù)時(shí)仍然存在不經(jīng)過(guò)用戶的明確同意、超范圍收集位置數(shù)據(jù)等行為,這類行為將增加用戶的感知風(fēng)險(xiǎn),且不利于用戶感知收益,這說(shuō)明App從根本上忽略了用戶的隱私需求。

    綜上,App運(yùn)營(yíng)者缺乏對(duì)位置數(shù)據(jù)的保護(hù)意識(shí),具體體現(xiàn)在:有相關(guān)法律法規(guī)卻不遵循,而是利用隱私政策來(lái)規(guī)避風(fēng)險(xiǎn),強(qiáng)制用戶同意提供位置數(shù)據(jù),但最終又不能對(duì)用戶的位置數(shù)據(jù)予以保護(hù),其原因在于違法的成本過(guò)低,監(jiān)管部門監(jiān)管核查不全面。

    四、位置數(shù)據(jù)隱私保護(hù)的域外經(jīng)驗(yàn)

    (一)美國(guó)相關(guān)法律及其實(shí)踐

    目前,美國(guó)對(duì)位置數(shù)據(jù)保護(hù)并沒(méi)有全國(guó)適用的法律,但其立法較早注意到了位置信息這一特殊數(shù)據(jù),并采取“分散立法”方式對(duì)位置數(shù)據(jù)的收集和使用行為進(jìn)行了規(guī)制。1934年《通信法案》(Communications Act)、1986年《電子通信隱私法》(Electronic Communications Privacy Act)涉及相關(guān)內(nèi)容,但注重的是電信運(yùn)營(yíng)商獲取位置數(shù)據(jù)的注意事項(xiàng),其規(guī)制對(duì)象十分有限。

    2013年,經(jīng)過(guò)修改的《兒童在線隱私保護(hù)法》(COPPA)正式生效,規(guī)制對(duì)象為針對(duì)兒童的在線網(wǎng)站和在線服務(wù),對(duì)兒童的位置數(shù)據(jù)作了特別規(guī)定,如果運(yùn)營(yíng)商能夠確定收集的是粗略位置數(shù)據(jù)(即不能轉(zhuǎn)換為經(jīng)度緯度坐標(biāo)成為地圖上的精確位置的數(shù)據(jù)),則不需要通知父母并征得同意,但是對(duì)精確位置數(shù)據(jù)的收集、使用或披露都要求通知家長(zhǎng)并征得其同意。

    2015年《線上通信與地理位置保護(hù)法案(草案 )》(Online Communications and Geolocation Protection Act)、2017年《地理位置隱私和監(jiān)視法案(草案)》(Geolocational Privacy and Surveillance Act)主要圍繞對(duì)政府執(zhí)法人員獲取民眾位置數(shù)據(jù)的不信任展開,但對(duì)App獲取用戶位置數(shù)據(jù)的行為并未涉及。

    加利福利亞州在2018年通過(guò)的《消費(fèi)者隱私法案》(California Consumer Privacy Act,即 CCPA)涉及到位置數(shù)據(jù),在這部被評(píng)價(jià)為“最嚴(yán)格的隱私保護(hù)法”中,明確將地理位置數(shù)據(jù)列為個(gè)人數(shù)據(jù)的一種,這說(shuō)明立法機(jī)構(gòu)已注意到企業(yè)收集用戶居住地址、精確定位數(shù)據(jù)的行為,從而為監(jiān)管機(jī)構(gòu)規(guī)制App收集、利用位置數(shù)據(jù)的行為提供了明確依據(jù)。

    2019年《消費(fèi)者在線隱私權(quán)法案(草案)》(Consumer Online Privacy Rights Act,即 COPRA)為消費(fèi)者提供了強(qiáng)有力的隱私保護(hù),擴(kuò)大了對(duì)敏感數(shù)據(jù)的定義,其外延包括具有生物特征的詳細(xì)信息(如面部識(shí)別數(shù)據(jù)),以及在個(gè)人日常生活中收集的地理位置數(shù)據(jù)。

    相對(duì)清晰的立法支持賦予了美國(guó)聯(lián)邦貿(mào)易委員會(huì)(以下簡(jiǎn)稱FTC)明確的執(zhí)法依據(jù),該部門負(fù)責(zé)監(jiān)管應(yīng)用程序收集、處理位置數(shù)據(jù)的行為。首先,F(xiàn)TC提供了隱私指南,強(qiáng)調(diào)隱私政策要簡(jiǎn)化透明,讓消費(fèi)者選擇。如2013年《移動(dòng)隱私披露:通過(guò)透明度建立信任》[14]認(rèn)為App提供平臺(tái)是用戶隱私安全的“守門人”,應(yīng)當(dāng)要求App提供隱私政策,收集用戶敏感數(shù)據(jù)要獲得明確同意等。這份指南也對(duì)App開發(fā)者提出了保護(hù)位置數(shù)據(jù)的意見,強(qiáng)調(diào)要讓位置數(shù)據(jù)處理的規(guī)則易于被用戶發(fā)現(xiàn)和理解,加強(qiáng)用戶的感知和控制,當(dāng)用戶在使用位置數(shù)據(jù)的時(shí)候,使用界面上要顯示圖標(biāo)提醒正在收集位置數(shù)據(jù);要求智能手機(jī)供應(yīng)商在手機(jī)系統(tǒng)中提供DNT選項(xiàng)(即“禁止跟蹤選項(xiàng)”)⑦,讓用戶可以批量選擇手機(jī)上的App收集數(shù)據(jù)權(quán)限是否開放。其次,F(xiàn)TC還根據(jù)其《聯(lián)邦貿(mào)易委員會(huì)法》第5條的權(quán)限,對(duì)程序開發(fā)商實(shí)施了嚴(yán)厲的追訴和處罰。FTC曾對(duì)一款手電筒應(yīng)用軟件Goldenshores進(jìn)行追訴,因該款A(yù)pp跟蹤用戶,獲取實(shí)時(shí)的位置數(shù)據(jù),并將其共享至第三方,但沒(méi)有讓用戶知情[15]。

    美國(guó)對(duì)位置數(shù)據(jù)的保護(hù)更傾向于隱私保護(hù),立法機(jī)構(gòu)注意到此類數(shù)據(jù),關(guān)注企業(yè)獲取用戶位置數(shù)據(jù)的合法性問(wèn)題,對(duì)相關(guān)商業(yè)行為的限制較為嚴(yán)格。在此過(guò)程中,監(jiān)管機(jī)構(gòu)發(fā)揮了較大作用。

    (二)歐盟相關(guān)立法及其實(shí)踐

    歐盟各成員國(guó)為維護(hù)人權(quán)和基本自由,簽訂了《歐洲人權(quán)公約》,其第八條規(guī)定:人人有權(quán)享有使自己的私人和家庭生活、家庭和通信得到尊重的權(quán)利。歐盟將隱私利益上升到個(gè)人權(quán)利的高度,更加注重位置數(shù)據(jù)保護(hù),相關(guān)立法也更具體嚴(yán)格。

    1.《隱私與電子通訊指令》(Directive 2002/58/EC)。該指令超前地注意到位置數(shù)據(jù)這一特殊數(shù)據(jù),規(guī)定了一些位置服務(wù)提供商應(yīng)當(dāng)遵循的規(guī)則。

    首先,該指令要求厘清“位置數(shù)據(jù)”和“交通數(shù)據(jù)”,從定義上將兩者進(jìn)行了區(qū)分:“交通數(shù)據(jù)”是指為在電子通信網(wǎng)絡(luò)上傳送通信或?yàn)槠涫召M(fèi)而處理的數(shù)據(jù),而“位置數(shù)據(jù)”指向用戶終端設(shè)備的地理位置,包括終端設(shè)備所處位置的經(jīng)度、緯度或者海拔高度、行進(jìn)的方向、終端設(shè)備在某一時(shí)刻所處網(wǎng)絡(luò)單元、記錄位置信息的時(shí)間等數(shù)據(jù)。

    其次,為進(jìn)行更清晰地指引,該指令對(duì)使用位置數(shù)據(jù)的增值服務(wù)進(jìn)行了例舉:如最便宜的資費(fèi)套餐、路線指導(dǎo)、交通出行信息、天氣預(yù)報(bào)和旅游信息。增值服務(wù)處理個(gè)人位置數(shù)據(jù)應(yīng)當(dāng)基于用戶的同意,用戶也可以拒絕對(duì)位置數(shù)據(jù)的處理,并不需要額外付費(fèi)。

    再次,例舉了基于位置的服務(wù)后,該指令又明確了地理位置服務(wù)提供商的告知義務(wù)。告知正在處理的位置數(shù)據(jù)類型、處理目的和持續(xù)時(shí)間,提供服務(wù)以后,相應(yīng)的數(shù)據(jù)應(yīng)該刪除或者進(jìn)行匿名化處理。如有位置數(shù)據(jù)轉(zhuǎn)移或共享,服務(wù)提供商應(yīng)當(dāng)保證數(shù)據(jù)的后續(xù)處理也符合指令的要求,并且要征得用戶的同意。當(dāng)然,在緊急情況下也有必要限制用戶的隱私權(quán),未經(jīng)用戶的事先同意可以訪問(wèn)位置數(shù)據(jù)。

    但全文僅說(shuō)明了電子通訊服務(wù)中位置數(shù)據(jù)保護(hù)問(wèn)題,從文本上看僅對(duì)公共電子通信服務(wù)和網(wǎng)絡(luò)(電信運(yùn)營(yíng)商)具有約束力,其適用范圍頗有爭(zhēng)議,但不可否認(rèn)該法令為位置數(shù)據(jù)保護(hù)提供了較好的規(guī)范和引導(dǎo),對(duì)規(guī)制位置服務(wù)提供者(如App運(yùn)營(yíng)商)收集處理位置數(shù)據(jù)的行為也有重要的啟示意義。

    2.《2011年 29條工作組意見》(Opinion 13/2011 on Geolocation Services on Smart Mobile Devices,以下簡(jiǎn)稱《意見》)。為彌補(bǔ)現(xiàn)有法律的缺陷并澄清模糊之處,2011年歐盟的WP29條工作組(TheArticle 29 Working Party,歐盟數(shù)據(jù)保護(hù)權(quán)威機(jī)構(gòu),下文同)發(fā)布了關(guān)于地理位置服務(wù)的具體建議?!兑庖姟氛J(rèn)為,個(gè)人位置數(shù)據(jù)之所以能識(shí)別到特定個(gè)體,是由于產(chǎn)生這類數(shù)據(jù)的智能設(shè)備與自然人密不可分,通過(guò)智能設(shè)備、WIFI接入點(diǎn)就能識(shí)別到特定個(gè)人。在這樣的背景下,個(gè)人的位置數(shù)據(jù)被應(yīng)用程序廣泛收集后,通過(guò)大數(shù)據(jù)技術(shù)分析出具體的個(gè)人信息變得毫不費(fèi)力。

    《意見》認(rèn)為,在現(xiàn)有法律框架下,App的提供方作為位置數(shù)據(jù)的控制者,具有保護(hù)位置數(shù)據(jù)的責(zé)任,同時(shí),操作系統(tǒng)開發(fā)人員作為處理位置數(shù)據(jù)的設(shè)計(jì)者,在設(shè)計(jì)操作系統(tǒng)時(shí)須堅(jiān)持保護(hù)用戶位置隱私的原則,防止使用操作系統(tǒng)的設(shè)備(如手機(jī))和App秘密收集位置數(shù)據(jù)。App運(yùn)營(yíng)商和操作系統(tǒng)開發(fā)人員可以協(xié)作,對(duì)收集處理位置數(shù)據(jù)的行為進(jìn)行提醒,如在進(jìn)行位置服務(wù)時(shí),創(chuàng)建“位置數(shù)據(jù)正在處理”的永久可見提醒。

    另外,位置數(shù)據(jù)收集處理要獲取更加謹(jǐn)慎而特殊的同意。不能通過(guò)一般的條款和條件,處理目的要十分具體,當(dāng)目的發(fā)生改變時(shí)要獲取進(jìn)一步的同意,為數(shù)據(jù)主體提供信息時(shí)要從數(shù)據(jù)主體的角度出發(fā),提供信息的方式要根據(jù)數(shù)據(jù)主體的認(rèn)知水平進(jìn)行調(diào)整,以確保有效的同意。默認(rèn)情況下,位置服務(wù)必須關(guān)閉,不能用退出機(jī)制倒逼用戶同意;在存儲(chǔ)和處理位置數(shù)據(jù)的時(shí)間和精度上提供用戶選擇同意的機(jī)會(huì)。

    《意見》還強(qiáng)調(diào)數(shù)據(jù)主體的權(quán)利,如應(yīng)通過(guò)普通人可讀的方式訪問(wèn)位置數(shù)據(jù)及配置文件。當(dāng)存儲(chǔ)位置數(shù)據(jù)時(shí),App運(yùn)營(yíng)方應(yīng)允許數(shù)據(jù)主體更新、糾正或刪除該數(shù)據(jù);應(yīng)在不要求提供額外個(gè)人資料的情況下,允許用戶以在線訪問(wèn)等安全方式查閱這些數(shù)據(jù)。

    同時(shí),《意見》特別強(qiáng)調(diào)位置數(shù)據(jù)的儲(chǔ)存時(shí)間,即不超過(guò)為收集數(shù)據(jù)和進(jìn)一步處理必須的保留期限,確保這些數(shù)據(jù)或者其配置文件在合理的時(shí)間內(nèi)被刪除。

    《意見》指出了App對(duì)智能設(shè)備持有人進(jìn)行持續(xù)跟蹤的隱私風(fēng)險(xiǎn),強(qiáng)調(diào)保護(hù)位置數(shù)據(jù)的重要意義,但有些地方有矯枉過(guò)正之嫌,如過(guò)分強(qiáng)調(diào)以用戶的同意來(lái)保護(hù)用戶權(quán)益,未免太過(guò)機(jī)械,可能造成用戶對(duì)同意的疲憊心理。

    3.《隱 私 與 電 子 通 信 條 例》(“e-Privacy Regulation”,簡(jiǎn)稱e-PR)。2017年公布的e-PR提案是對(duì)2002年指令的補(bǔ)充。為了增進(jìn)數(shù)字市場(chǎng)的安全,該法案擴(kuò)大了規(guī)制對(duì)象的范圍,使之包括在線服務(wù)提供商,故從此以后,App提供商也屬于法律的規(guī)制對(duì)象。

    4.《一般數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation,簡(jiǎn)稱 GDPR)。GDPR并沒(méi)有為位置數(shù)據(jù)單列保護(hù)規(guī)則,沒(méi)有重新明確位置數(shù)據(jù)的定義,甚至都沒(méi)有將其列為特殊種類數(shù)據(jù),而將其視為個(gè)人數(shù)據(jù)的一種,置于個(gè)人數(shù)據(jù)整體保護(hù)框架下。GDPR對(duì)個(gè)人數(shù)據(jù)的定義采用“識(shí)別”標(biāo)準(zhǔn),在對(duì)“可識(shí)別的自然人”這一概念進(jìn)行解釋時(shí)將位置數(shù)據(jù)例舉其中,其數(shù)據(jù)保護(hù)的一般原則直接適用于地理位置數(shù)據(jù),如數(shù)據(jù)收集的最小化原則要求僅能收集基于服務(wù)所必須的位置數(shù)據(jù),其數(shù)量和精確度不能超過(guò)其服務(wù)范圍[16]。WP29條工作組在2011年的建議并未演變成GDPR中的具體規(guī)定,而是演變成了對(duì)位置數(shù)據(jù)保護(hù)的原則。該法案從宏觀角度提供了位置數(shù)據(jù)保護(hù)的規(guī)則環(huán)境,盡管位置數(shù)據(jù)與所例舉的特殊種類數(shù)據(jù)一樣具有強(qiáng)烈的隱私敏感性,出于發(fā)展數(shù)據(jù)經(jīng)濟(jì)的考量,GDPR并未將其列為特殊種類數(shù)據(jù)進(jìn)行更嚴(yán)格的保護(hù),這并非是歐盟不重視位置數(shù)據(jù)的保護(hù),而是其各成員國(guó)已成立了數(shù)據(jù)保護(hù)局并嚴(yán)格執(zhí)行GDPR的規(guī)定,其嚴(yán)格的數(shù)據(jù)保護(hù)框架已能對(duì)位置數(shù)據(jù)保護(hù)提供有效指導(dǎo),如谷歌公司就因?yàn)檫^(guò)度收集位置數(shù)據(jù)引起了很大的爭(zhēng)議[17]。另外29條工作組仍然沒(méi)有放棄對(duì)數(shù)據(jù)保護(hù)框架的深入研究,歐盟出版辦公室也發(fā)布了《關(guān)于位置隱私的公共管理指南》指導(dǎo)各方主體保護(hù)位置數(shù)據(jù)[18],只不過(guò)其對(duì)App運(yùn)營(yíng)方不具有強(qiáng)制性而已。

    綜上所述,歐盟要求App提供商遵循GDPR的一般規(guī)定和原則收集、處理位置信息,雖未將位置數(shù)據(jù)作為敏感數(shù)據(jù),但歐盟成員國(guó)的數(shù)據(jù)保護(hù)局作為違規(guī)處罰的專門監(jiān)管主體,可以出于均衡商業(yè)發(fā)展和數(shù)據(jù)權(quán)利保護(hù)的考量,對(duì)違法違規(guī)行為進(jìn)行有力監(jiān)管??梢?,歐美對(duì)于個(gè)人位置數(shù)據(jù)的范圍進(jìn)行了明確界定,強(qiáng)有力的執(zhí)法確保了其不被恣意獲取、流轉(zhuǎn),營(yíng)造了尊重和保護(hù)位置數(shù)據(jù)的氛圍,間接降低了App運(yùn)營(yíng)商的合規(guī)成本。

    五、我國(guó)App個(gè)人位置數(shù)據(jù)保護(hù)制度完善建議

    (一)完善位置數(shù)據(jù)定義和種類規(guī)定

    從表面上看,一向主張市場(chǎng)自由和技術(shù)、數(shù)據(jù)經(jīng)濟(jì)發(fā)展的美國(guó)將位置數(shù)據(jù)列為敏感數(shù)據(jù)進(jìn)行嚴(yán)格而特殊的保護(hù),而主張個(gè)人權(quán)利保護(hù)、嚴(yán)格保護(hù)個(gè)人數(shù)據(jù)的歐盟卻并未采取此種做法在立法中對(duì)其單獨(dú)保護(hù),遵循的是一般數(shù)據(jù)的保護(hù)規(guī)則,通過(guò)各種指導(dǎo)性的意見和指南來(lái)指導(dǎo)基于位置服務(wù)行業(yè)的發(fā)展。不過(guò)在實(shí)踐中,我們可以看到,GDPR生效不到一年的時(shí)間,谷歌已因?yàn)閷?duì)位置數(shù)據(jù)保護(hù)不力在歐盟成員國(guó)頻頻受挫。

    我國(guó)面對(duì)國(guó)際社會(huì)數(shù)據(jù)保護(hù)的一般局勢(shì),應(yīng)當(dāng)有自己的選擇。我國(guó)目前對(duì)位置數(shù)據(jù)規(guī)定得最為完善的為《個(gè)人信息安全規(guī)范》(GB/T 35273-2020),其在附錄A中采取例舉的方式規(guī)定了個(gè)人位置數(shù)據(jù)包括行蹤軌跡、精準(zhǔn)定位信息、住宿信息、經(jīng)緯度[19]等,但并未界定位置數(shù)據(jù)的定義,并且將IP地址作為“網(wǎng)絡(luò)身份標(biāo)識(shí)信息”,而對(duì)位置數(shù)據(jù)的定義和分類并不明確。鑒于此,個(gè)人位置數(shù)據(jù)的種類和定義應(yīng)在更高階次的法律規(guī)范中予以體現(xiàn),如在作為強(qiáng)制要求的行政規(guī)章中予以闡釋,將能精確反映個(gè)人所處位置的數(shù)據(jù)列為個(gè)人敏感數(shù)據(jù),且對(duì)位置數(shù)據(jù)的概念進(jìn)行界定,以引導(dǎo)程序運(yùn)營(yíng)方正確收集、處理位置數(shù)據(jù),而不是將位置數(shù)據(jù)和“日志信息”進(jìn)行相同的處理。另外,對(duì)于位置數(shù)據(jù)這一特殊類型數(shù)據(jù),要關(guān)注其多元性,可以詳細(xì)例舉不同種類的位置數(shù)據(jù),如精確定位數(shù)據(jù)、經(jīng)緯度、WIFI定位數(shù)據(jù)等,以使位置數(shù)據(jù)的信息更為精準(zhǔn)。

    (二)合理適用數(shù)據(jù)收集最小必要原則

    2019年10月24日發(fā)布的《信息安全技術(shù)移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序(App)收集個(gè)人信息基本規(guī)范(草案)》附錄A中列舉了21類應(yīng)用程序常提供的服務(wù)類型[20],對(duì)于各類應(yīng)用程序所收集的最小必要數(shù)據(jù)和最小必要權(quán)限都進(jìn)行了規(guī)定,但是其中的部分規(guī)定顯得過(guò)于機(jī)械化。規(guī)范指出,只有8類App可以收集位置數(shù)據(jù),且嚴(yán)格規(guī)定使用用途:地圖導(dǎo)航可以收集精確的位置數(shù)據(jù)進(jìn)行地圖搜索展示和導(dǎo)航服務(wù),網(wǎng)絡(luò)約車可以收集位置數(shù)據(jù)(包括精準(zhǔn)的定位數(shù)據(jù)、用戶出發(fā)地和用戶到達(dá)地)用于推薦最近上車點(diǎn)和搜索附近車輛信息,快遞配送只能收集寄件人地址和收件人地址用于快遞寄件和收件,網(wǎng)上購(gòu)物類可以收集收貨人的地址用于送達(dá)貨物和聯(lián)系收貨人,餐飲外賣類可以收集位置數(shù)據(jù)用于用戶查看周圍的外賣信息和選擇收貨地址,交通票務(wù)類可以收集旅客的出發(fā)地、目的地位置以提供交通票務(wù)和運(yùn)輸服務(wù),婚戀相親類可以收集城市位置進(jìn)行婚戀相親服務(wù),運(yùn)動(dòng)健身類可以收集精準(zhǔn)的定位數(shù)據(jù)以實(shí)時(shí)確定用戶位置和展示用戶運(yùn)動(dòng)的軌跡。

    對(duì)最小權(quán)限的規(guī)定更是如此,只有地圖導(dǎo)航、網(wǎng)絡(luò)約車、餐飲外賣、運(yùn)動(dòng)健身這四類應(yīng)用程序擁有位置權(quán)限,其他類別的則不擁有該權(quán)限。

    實(shí)際上有些種類的應(yīng)用并不僅僅限于市場(chǎng)分類的服務(wù)范圍,很多軟件拓展了自身服務(wù),如QQ軟件的面對(duì)面建群服務(wù),QQ運(yùn)動(dòng)服務(wù)。該標(biāo)準(zhǔn)有一定的參考意義,但并不能較好地引導(dǎo)各種類型的應(yīng)用程序提供基于位置的服務(wù),甚至可能產(chǎn)生阻礙作用。即使是在數(shù)據(jù)保護(hù)相當(dāng)嚴(yán)格的歐盟,也并未對(duì)位置數(shù)據(jù)的使用場(chǎng)景進(jìn)行特別限制,而僅在一般的數(shù)據(jù)保護(hù)規(guī)則中考慮位置數(shù)據(jù)保護(hù),且為位置數(shù)據(jù)使用制定了指南,進(jìn)行引導(dǎo)而非絕對(duì)限制,我國(guó)也應(yīng)兼顧位置數(shù)據(jù)的市場(chǎng)應(yīng)用需求,避免過(guò)分限制App對(duì)位置數(shù)據(jù)的利用。

    2020年11月26日電信終端產(chǎn)業(yè)協(xié)會(huì)發(fā)布了《APP收集使用個(gè)人信息最小必要評(píng)估規(guī)范位置信息》,該標(biāo)準(zhǔn)是針對(duì)位置數(shù)據(jù)單獨(dú)制定的行業(yè)標(biāo)準(zhǔn),它對(duì)此類數(shù)據(jù)提供了使用規(guī)則,規(guī)定了12類App收集位置數(shù)據(jù)的范圍、精確度、調(diào)用方式、調(diào)用頻次[21]等。該標(biāo)準(zhǔn)兼顧了App實(shí)際提供的功能和服務(wù),值得監(jiān)管部門、立法部門關(guān)注,可考慮擴(kuò)展應(yīng)用于其他類型的App。

    數(shù)據(jù)收集的最小原則強(qiáng)調(diào)的應(yīng)當(dāng)是收集該程序提供的功能和服務(wù)所需的“最少信息”,而不是僅僅以應(yīng)用種類來(lái)判斷其是否該擁有位置權(quán)限,否則可能會(huì)限制位置數(shù)據(jù)商業(yè)價(jià)值的實(shí)現(xiàn)。我國(guó)應(yīng)根據(jù)App提供的實(shí)際服務(wù)進(jìn)行更精細(xì)化的考量,不能僅僅針對(duì)App的固有市場(chǎng)進(jìn)行分類。

    (三)監(jiān)管部門應(yīng)對(duì)App位置權(quán)限進(jìn)行備案審查

    App過(guò)度收集數(shù)據(jù)現(xiàn)象屢禁不止的部分原因是監(jiān)管不力。監(jiān)管部門目前采取的是“逐個(gè)突破”的方法,對(duì)市場(chǎng)上常用的、問(wèn)題較為突出的App逐個(gè)篩查。但市面上的App數(shù)量眾多,這種方式無(wú)法窮盡所有的App,不如采取“事先防范”的方式要求App主動(dòng)備案[22]。也即,監(jiān)管部門對(duì)于索要位置權(quán)限的App進(jìn)行常規(guī)備案審查,App將自己提供的功能和服務(wù)及要求的位置權(quán)限、位置數(shù)據(jù)精確度向監(jiān)管部門備案,監(jiān)管部門進(jìn)行事先審查而非事后救濟(jì)。在實(shí)踐中,監(jiān)管部門應(yīng)根據(jù)具體的隱私政策文本,并結(jié)合App的服務(wù)和功能審查該程序是否該擁有位置權(quán)限,以及是否該收集過(guò)于精確的位置數(shù)據(jù)。此外,對(duì)被舉報(bào)的App過(guò)度收集位置數(shù)據(jù)的情形進(jìn)行核實(shí),并對(duì)涉案App進(jìn)行懲戒。

    (四)應(yīng)用程序方應(yīng)確保程序的公平

    App是通過(guò)應(yīng)用程序提供平臺(tái)(如手機(jī)應(yīng)用商店)下載的,平臺(tái)有一款A(yù)pp是否上線的決定權(quán),可以要求App運(yùn)營(yíng)方按照法律規(guī)定標(biāo)明產(chǎn)品的位置獲取權(quán)限和位置數(shù)據(jù)精度,程序的開發(fā)者也會(huì)依此設(shè)計(jì)展示位置權(quán)限的方式(如彈窗的時(shí)間、次數(shù)和顯示內(nèi)容),從而以用戶視角考量位置隱私需求,減少用戶擔(dān)憂,確保隱私政策的公開透明。

    其一,完善隱私政策中位置數(shù)據(jù)的相關(guān)約定。根據(jù)前文調(diào)研顯示,36%的App的隱私政策留給位置數(shù)據(jù)的條款很少;有一些僅作簡(jiǎn)單概述,或者僅通知用戶會(huì)收集他們的位置數(shù)據(jù),而對(duì)此類數(shù)據(jù)的應(yīng)用場(chǎng)景或者數(shù)據(jù)用途鮮有涉及。應(yīng)用程序方應(yīng)在隱私政策中對(duì)位置數(shù)據(jù)的收集、處理規(guī)則進(jìn)行清楚的說(shuō)明,以便讓用戶清楚感知提供位置數(shù)據(jù)所獲取的服務(wù)和可能帶來(lái)的風(fēng)險(xiǎn),讓用戶基于此做出是否授予位置權(quán)限的決定。

    其二,設(shè)置便于用戶管理位置權(quán)限的界面。應(yīng)用程序方可以在軟件內(nèi)設(shè)置更多便于用戶控制位置權(quán)限的界面,在獲取位置權(quán)限時(shí),需要單獨(dú)彈窗,在彈出的窗口中,對(duì)收集位置數(shù)據(jù)所提供的功能或者服務(wù)進(jìn)行說(shuō)明,方便用戶進(jìn)行選擇;或者,在軟件中單獨(dú)設(shè)置界面,說(shuō)明位置數(shù)據(jù)的應(yīng)用場(chǎng)景,便于用戶直接設(shè)置和管理。

    其三,收集位置數(shù)據(jù)要符合最小必要原則。當(dāng)軟件沒(méi)有相關(guān)服務(wù)或者功能時(shí),不能向用戶索要位置權(quán)限,如提供股票行情信息的軟件、提供美圖功能的軟件等;同時(shí),要根據(jù)服務(wù)或者功能的需要獲取適當(dāng)精度的位置數(shù)據(jù),例如同城交友就不必收集過(guò)于精確的位置數(shù)據(jù),僅需知道用戶在哪座城市即可;此外,不能在用戶沒(méi)有使用軟件時(shí)持續(xù)收集用戶的位置數(shù)據(jù),擁有位置權(quán)限并不代表可以持續(xù)不斷地收集用戶的位置數(shù)據(jù),不能在用戶未開啟應(yīng)用時(shí)隱秘收集數(shù)據(jù)。

    最后,應(yīng)用程序收集位置數(shù)據(jù)后,要及時(shí)進(jìn)行匿名化,防止識(shí)別到特定的個(gè)人;對(duì)于精確的位置數(shù)據(jù)和個(gè)人行蹤軌跡要遵循敏感數(shù)據(jù)的處理規(guī)則;到達(dá)必要的保存期限后要及時(shí)刪除,并遵循其他數(shù)據(jù)保護(hù)的一般原則。

    (五)App下載平臺(tái)應(yīng)明晰相應(yīng)責(zé)任

    App下載平臺(tái)也即應(yīng)用程序提供商,如蘋果商店、安卓市場(chǎng)等應(yīng)用商店。這些應(yīng)用商店為手機(jī)用戶提供軟件下載的平臺(tái),也依靠用戶下載軟件行為獲利。應(yīng)用商店向用戶提供App,是App接觸用戶的源頭。其實(shí)對(duì)程序應(yīng)用商而言,相應(yīng)的隱私規(guī)定已經(jīng)存在:如《移動(dòng)智能終端應(yīng)用軟件預(yù)置和分發(fā)管理暫行規(guī)定》第八條規(guī)定,應(yīng)用軟件提供者在提交應(yīng)用軟件時(shí)要聲明其獲取的用戶終端權(quán)限及用途,并將上述信息向軟件下載用戶明示。App提供平臺(tái)應(yīng)將所有App位置權(quán)限的有無(wú)、位置數(shù)據(jù)精確程度等信息在下載頁(yè)面呈現(xiàn),另外對(duì)于收集、處理位置數(shù)據(jù)信譽(yù)度不好的App應(yīng)予以下架處理。

    目前不同的App提供平臺(tái)對(duì)于位置權(quán)限的說(shuō)明情況并不統(tǒng)一。安卓市場(chǎng)在此方面有一些進(jìn)展,雖然將App要獲取的權(quán)限列明,但沒(méi)有列明收集的位置數(shù)據(jù)的精確度。而華為應(yīng)用商城的做法值得借鑒,華為應(yīng)用商城中的軟件必須符合《華為終端質(zhì)量檢測(cè)和安全審查標(biāo)準(zhǔn)》。同時(shí),通過(guò)其他途徑(如網(wǎng)頁(yè)或者其他應(yīng)用商城)下載的軟件,會(huì)提醒用戶該軟件需要獲取哪些權(quán)限、哪種精度的位置數(shù)據(jù)。App平臺(tái)對(duì)相關(guān)App進(jìn)行審查也是對(duì)用戶負(fù)責(zé)的表現(xiàn),數(shù)據(jù)的利用和權(quán)益保護(hù)是兩個(gè)不同方面,相互制衡,但并不互相沖突[23]。App正當(dāng)?shù)氖占屠眯袨闊o(wú)可厚非,然而一旦超過(guò)合理界限,此類具有強(qiáng)烈隱私意義的數(shù)據(jù)容易被泄漏,導(dǎo)致用戶權(quán)益的損害。因此,要完善相關(guān)法律規(guī)定,明晰App及平臺(tái)責(zé)任,確保位置數(shù)據(jù)收集、使用合規(guī)。

    注 釋:

    ①數(shù)據(jù)脫敏的內(nèi)涵是指采取技術(shù)措施對(duì)數(shù)據(jù)中的敏感數(shù)據(jù)進(jìn)行隱藏,并保留其原始數(shù)據(jù)格式和屬性。參見劉明輝、張尼、張?jiān)朴碌戎对骗h(huán)境下的敏感數(shù)據(jù)保護(hù)技術(shù)研究》,載《電信科學(xué)》2014年第11期。

    ②調(diào)研的軟件類型包括:辦公商務(wù)類、健康運(yùn)動(dòng)類、金融理財(cái)類、考試學(xué)習(xí)類、旅游出行類、求職招聘類、攝影圖像類、生活休閑類、手機(jī)美化類、通訊社交類、網(wǎng)上購(gòu)物類、系統(tǒng)工具類、應(yīng)用分發(fā)類、影音播放類、育兒親子類、資訊閱讀類。

    ③《信息安全技術(shù) 個(gè)人信息安全規(guī)范》(GB/T 35273-2020)附錄D中提供了個(gè)人信息保護(hù)隱私政策模板,其中要求詳細(xì)例舉收集和使用個(gè)人信息的業(yè)務(wù)功能,明確描述不同類型數(shù)據(jù)用于哪項(xiàng)業(yè)務(wù);《App違法違規(guī)收集使用個(gè)人信息自評(píng)估指南》評(píng)估項(xiàng)2中也要求App應(yīng)當(dāng)逐項(xiàng)例舉收集個(gè)人信息的業(yè)務(wù)功能,應(yīng)明示各項(xiàng)業(yè)務(wù)功能所收集的個(gè)人信息,要求兩者一一對(duì)應(yīng)。

    ④參見《民法典》第1034條規(guī)定:個(gè)人信息是以電子或者與其他信息結(jié)合識(shí)別特定自然人的各種信息。個(gè)人信息中的私密信息,適用有關(guān)隱私權(quán)的規(guī)定,沒(méi)有規(guī)定的,適用有關(guān)個(gè)人信息保護(hù)的規(guī)定。

    ⑤間接識(shí)別是指,數(shù)據(jù)(信息)本身不能直接識(shí)別特定個(gè)人,需要和其他數(shù)據(jù)(信息)或者知識(shí)結(jié)合才能識(shí)別到特定個(gè)人。參見郭瑜著《個(gè)人數(shù)據(jù)保護(hù)法研究》,北京大學(xué)出版社2012年版。

    ⑥參見《網(wǎng)絡(luò)安全法》第41條規(guī)定:網(wǎng)絡(luò)運(yùn)營(yíng)者收集、使用個(gè)人信息,應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,公開收集、使用規(guī)則,明示收集、使用信息的目的、方式和范圍,并經(jīng)被收集者同意。網(wǎng)絡(luò)運(yùn)營(yíng)者不得收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息,不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集、使用個(gè)人信息,并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定和與用戶的約定,處理其保存的個(gè)人信息。

    ⑦DNT選項(xiàng)即“Do Not Track”選項(xiàng)、“防追蹤”選項(xiàng),此處的“防追蹤”選項(xiàng)是指智能手機(jī)系統(tǒng)中設(shè)立的隱私控制選項(xiàng),便于用戶集中管理手機(jī)上所有App的權(quán)限,而不用分別就每個(gè)應(yīng)用設(shè)置權(quán)限,用戶可以用這個(gè)選項(xiàng)控制所有App的位置權(quán)限,一次性選擇可收集自身位置數(shù)據(jù)的App。

    猜你喜歡
    數(shù)據(jù)保護(hù)個(gè)人信息用戶
    如何保護(hù)勞動(dòng)者的個(gè)人信息?
    個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
    警惕個(gè)人信息泄露
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    TPP生物藥品數(shù)據(jù)保護(hù)條款研究
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    歐盟數(shù)據(jù)保護(hù)立法改革之發(fā)展趨勢(shì)分析
    歐盟《一般數(shù)據(jù)保護(hù)條例》新規(guī)則評(píng)析
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    藥品試驗(yàn)數(shù)據(jù)保護(hù)對(duì)完善中藥品種保護(hù)制度的啟示
    亚洲激情在线av| 51国产日韩欧美| 精品人妻熟女av久视频| 成人一区二区视频在线观看| 精品国产亚洲在线| 深夜精品福利| 久久午夜亚洲精品久久| 成人美女网站在线观看视频| 亚洲中文字幕一区二区三区有码在线看| 婷婷六月久久综合丁香| 51午夜福利影视在线观看| 国产精品美女特级片免费视频播放器| 中文字幕久久专区| 国产爱豆传媒在线观看| or卡值多少钱| 日韩高清综合在线| 色精品久久人妻99蜜桃| 欧美一区二区精品小视频在线| 免费av不卡在线播放| 一级黄色大片毛片| 久久热精品热| 午夜久久久久精精品| 欧美成人免费av一区二区三区| 97超级碰碰碰精品色视频在线观看| 18禁黄网站禁片午夜丰满| 免费在线观看成人毛片| 国产精品亚洲av一区麻豆| 丰满人妻熟妇乱又伦精品不卡| 免费在线观看日本一区| 欧美乱色亚洲激情| 国产精品98久久久久久宅男小说| 12—13女人毛片做爰片一| 精品久久久久久,| 亚洲成人中文字幕在线播放| 一夜夜www| 99热这里只有是精品在线观看 | 亚州av有码| 亚洲av第一区精品v没综合| 一夜夜www| av黄色大香蕉| 国产精品不卡视频一区二区 | 欧美性感艳星| 欧美色视频一区免费| 人妻久久中文字幕网| 日本免费a在线| 欧美日韩乱码在线| 国产真实乱freesex| 高清在线国产一区| 看片在线看免费视频| 国产伦一二天堂av在线观看| 色哟哟哟哟哟哟| 搡女人真爽免费视频火全软件 | 人妻丰满熟妇av一区二区三区| 免费人成在线观看视频色| av福利片在线观看| 久久国产乱子伦精品免费另类| 国产不卡一卡二| 免费高清视频大片| 性色av乱码一区二区三区2| 俺也久久电影网| 首页视频小说图片口味搜索| 日本在线视频免费播放| 国产欧美日韩精品一区二区| 黄色配什么色好看| 每晚都被弄得嗷嗷叫到高潮| 少妇被粗大猛烈的视频| 亚洲内射少妇av| av视频在线观看入口| 麻豆成人午夜福利视频| 日韩欧美在线二视频| 国产精品人妻久久久久久| 看十八女毛片水多多多| 国产伦精品一区二区三区视频9| 国产精品久久久久久人妻精品电影| 亚洲第一欧美日韩一区二区三区| 搞女人的毛片| 日本 av在线| 18美女黄网站色大片免费观看| 高清在线国产一区| 久久久久久九九精品二区国产| 一二三四社区在线视频社区8| 免费观看的影片在线观看| 精品久久久久久久久久免费视频| 国产高潮美女av| 少妇的逼好多水| 可以在线观看的亚洲视频| 成人精品一区二区免费| 欧美在线黄色| 亚洲精品久久国产高清桃花| 美女被艹到高潮喷水动态| 91午夜精品亚洲一区二区三区 | 免费在线观看亚洲国产| 内射极品少妇av片p| 午夜福利欧美成人| www.www免费av| 天堂网av新在线| 午夜福利高清视频| 午夜亚洲福利在线播放| 乱码一卡2卡4卡精品| 国产午夜福利久久久久久| 少妇的逼好多水| 国产中年淑女户外野战色| 中文资源天堂在线| www日本黄色视频网| 欧美黑人巨大hd| 高清在线国产一区| 成人国产一区最新在线观看| 丝袜美腿在线中文| 国产高清三级在线| 午夜免费成人在线视频| 国产黄色小视频在线观看| 中文字幕免费在线视频6| 亚洲av二区三区四区| 久久中文看片网| 99在线视频只有这里精品首页| 天堂av国产一区二区熟女人妻| 免费看a级黄色片| 69人妻影院| 直男gayav资源| 久久精品91蜜桃| 99在线人妻在线中文字幕| 亚洲人与动物交配视频| 亚洲色图av天堂| 99热只有精品国产| 日本黄色片子视频| 中文亚洲av片在线观看爽| 亚洲av成人av| 亚洲精品456在线播放app | 精品一区二区免费观看| 可以在线观看的亚洲视频| 国产伦在线观看视频一区| 男人舔女人下体高潮全视频| 熟女人妻精品中文字幕| 激情在线观看视频在线高清| 女生性感内裤真人,穿戴方法视频| 狂野欧美白嫩少妇大欣赏| 国产精品99久久久久久久久| 男女床上黄色一级片免费看| 男人狂女人下面高潮的视频| 久久国产精品影院| 嫩草影院精品99| 成熟少妇高潮喷水视频| 精品一区二区三区人妻视频| 国产高清有码在线观看视频| 欧美潮喷喷水| 婷婷六月久久综合丁香| 免费在线观看亚洲国产| 国产精品乱码一区二三区的特点| 国内精品一区二区在线观看| 一卡2卡三卡四卡精品乱码亚洲| 三级毛片av免费| 日日夜夜操网爽| 日韩中文字幕欧美一区二区| 一区二区三区高清视频在线| 亚洲美女黄片视频| 亚洲,欧美精品.| 男女之事视频高清在线观看| 精品无人区乱码1区二区| 久久久久久久亚洲中文字幕 | 变态另类丝袜制服| 久久午夜福利片| 婷婷丁香在线五月| 欧美乱色亚洲激情| av天堂在线播放| 国产成人福利小说| 毛片女人毛片| 精品久久久久久,| 淫秽高清视频在线观看| 日本一二三区视频观看| 中文字幕免费在线视频6| 亚洲最大成人中文| 久久久成人免费电影| 成人av在线播放网站| 一本综合久久免费| 天堂动漫精品| 麻豆av噜噜一区二区三区| 在线a可以看的网站| 变态另类丝袜制服| 色尼玛亚洲综合影院| 国产爱豆传媒在线观看| 97热精品久久久久久| a级一级毛片免费在线观看| 3wmmmm亚洲av在线观看| 1024手机看黄色片| 网址你懂的国产日韩在线| 亚洲熟妇中文字幕五十中出| 欧洲精品卡2卡3卡4卡5卡区| 亚洲精品一区av在线观看| 18美女黄网站色大片免费观看| 国产激情偷乱视频一区二区| 亚洲美女视频黄频| 可以在线观看的亚洲视频| 欧美激情久久久久久爽电影| 淫秽高清视频在线观看| 亚洲在线自拍视频| 久久精品夜夜夜夜夜久久蜜豆| 精品欧美国产一区二区三| 91狼人影院| 国产精品,欧美在线| x7x7x7水蜜桃| 国产一区二区三区视频了| 免费看美女性在线毛片视频| 精品国内亚洲2022精品成人| 香蕉av资源在线| 很黄的视频免费| 久久国产精品影院| 最近中文字幕高清免费大全6 | 9191精品国产免费久久| 十八禁网站免费在线| 如何舔出高潮| 国产av在哪里看| 俺也久久电影网| 亚洲一区二区三区不卡视频| 久久久久久国产a免费观看| 精品久久久久久成人av| 最好的美女福利视频网| 99精品久久久久人妻精品| 亚洲最大成人中文| 黄色视频,在线免费观看| 国产 一区 欧美 日韩| 亚洲精品在线观看二区| 99在线视频只有这里精品首页| 757午夜福利合集在线观看| 床上黄色一级片| 蜜桃久久精品国产亚洲av| 精品人妻偷拍中文字幕| 桃红色精品国产亚洲av| 婷婷亚洲欧美| 亚洲av一区综合| 人妻丰满熟妇av一区二区三区| 精品久久久久久久久亚洲 | 午夜视频国产福利| 亚洲自偷自拍三级| 在线播放国产精品三级| www日本黄色视频网| 日韩有码中文字幕| 精品一区二区三区视频在线观看免费| 夜夜爽天天搞| 在线十欧美十亚洲十日本专区| 国产高清视频在线观看网站| 国产在视频线在精品| 色在线成人网| 国产美女午夜福利| 精品一区二区三区人妻视频| 97热精品久久久久久| 国产伦在线观看视频一区| 欧美精品国产亚洲| 级片在线观看| 婷婷六月久久综合丁香| 女人被狂操c到高潮| 国产精品一区二区性色av| 国产精品久久久久久人妻精品电影| 中文字幕av在线有码专区| 黄色女人牲交| 亚洲av不卡在线观看| 此物有八面人人有两片| 国产淫片久久久久久久久 | 男女之事视频高清在线观看| 亚洲国产日韩欧美精品在线观看| 变态另类丝袜制服| 夜夜躁狠狠躁天天躁| 亚洲五月天丁香| 亚洲第一欧美日韩一区二区三区| 亚洲精品456在线播放app | 级片在线观看| 麻豆久久精品国产亚洲av| 在线观看美女被高潮喷水网站 | 日本成人三级电影网站| 我的女老师完整版在线观看| 一级黄片播放器| 女同久久另类99精品国产91| 乱人视频在线观看| 99久久成人亚洲精品观看| 国产精品影院久久| 一区二区三区免费毛片| 国产亚洲精品av在线| 国产精品一及| 老司机午夜十八禁免费视频| 波野结衣二区三区在线| 久久久久久久午夜电影| 色综合欧美亚洲国产小说| 黄色配什么色好看| 久久国产乱子免费精品| 麻豆国产av国片精品| 在线十欧美十亚洲十日本专区| 亚洲自偷自拍三级| 亚洲欧美精品综合久久99| 在线天堂最新版资源| 国产一区二区三区在线臀色熟女| 国产久久久一区二区三区| 欧美三级亚洲精品| 一级毛片久久久久久久久女| 色综合欧美亚洲国产小说| 精品一区二区三区人妻视频| 亚洲性夜色夜夜综合| 精品久久久久久成人av| 日韩欧美 国产精品| 毛片一级片免费看久久久久 | 97超级碰碰碰精品色视频在线观看| 久久精品国产亚洲av涩爱 | 国产一区二区亚洲精品在线观看| 国产成人av教育| 熟妇人妻久久中文字幕3abv| 日韩欧美一区二区三区在线观看| 毛片女人毛片| 亚洲国产日韩欧美精品在线观看| 日韩中字成人| 久久九九热精品免费| 看黄色毛片网站| 深夜a级毛片| 97热精品久久久久久| 99久久精品一区二区三区| 成人三级黄色视频| 欧美成人一区二区免费高清观看| 午夜福利成人在线免费观看| 免费无遮挡裸体视频| 亚洲精品粉嫩美女一区| 成年免费大片在线观看| 国产午夜福利久久久久久| 一边摸一边抽搐一进一小说| 麻豆成人av在线观看| 亚洲av第一区精品v没综合| netflix在线观看网站| 亚洲国产欧美人成| 真人做人爱边吃奶动态| 国产欧美日韩精品亚洲av| 久久人妻av系列| 九九久久精品国产亚洲av麻豆| 婷婷丁香在线五月| 国产一区二区在线观看日韩| 亚洲人成网站在线播| 国产真实伦视频高清在线观看 | 一本综合久久免费| 日本免费a在线| 日日摸夜夜添夜夜添av毛片 | 免费在线观看亚洲国产| 99国产极品粉嫩在线观看| 一进一出抽搐动态| 成人国产一区最新在线观看| 老司机午夜十八禁免费视频| 国产三级在线视频| 国产精品亚洲av一区麻豆| 国产男靠女视频免费网站| 精品无人区乱码1区二区| 又粗又爽又猛毛片免费看| 一级作爱视频免费观看| 好男人电影高清在线观看| 亚洲人成电影免费在线| 亚洲精品亚洲一区二区| 亚洲人成伊人成综合网2020| 久久人人精品亚洲av| 午夜激情欧美在线| 最好的美女福利视频网| 免费看日本二区| 日韩成人在线观看一区二区三区| 婷婷丁香在线五月| 国产高清激情床上av| 中文字幕免费在线视频6| 久久精品国产自在天天线| 亚洲一区高清亚洲精品| 婷婷色综合大香蕉| 蜜桃亚洲精品一区二区三区| 国产不卡一卡二| 一卡2卡三卡四卡精品乱码亚洲| 国产一区二区在线观看日韩| 久久伊人香网站| 久久精品国产亚洲av香蕉五月| 亚洲国产精品久久男人天堂| 亚洲激情在线av| 国产综合懂色| АⅤ资源中文在线天堂| 看片在线看免费视频| 色综合站精品国产| 在线观看舔阴道视频| av在线天堂中文字幕| 国产亚洲精品av在线| 18禁在线播放成人免费| 在线播放无遮挡| 国产一区二区三区在线臀色熟女| 91在线观看av| 搡老妇女老女人老熟妇| 网址你懂的国产日韩在线| 亚洲精品影视一区二区三区av| 黄色日韩在线| 美女cb高潮喷水在线观看| 全区人妻精品视频| 好男人在线观看高清免费视频| 免费在线观看影片大全网站| 欧美xxxx性猛交bbbb| 亚洲av成人不卡在线观看播放网| 欧美黄色淫秽网站| 最新中文字幕久久久久| 天堂影院成人在线观看| 国产av不卡久久| 看片在线看免费视频| a级毛片免费高清观看在线播放| 久久久久久久久中文| 天堂动漫精品| 小蜜桃在线观看免费完整版高清| 亚洲av一区综合| 欧美日韩瑟瑟在线播放| 亚洲精品久久国产高清桃花| 身体一侧抽搐| 免费在线观看亚洲国产| 国产午夜精品久久久久久一区二区三区 | 欧美最新免费一区二区三区 | 日韩精品中文字幕看吧| 一区二区三区免费毛片| 麻豆久久精品国产亚洲av| 亚洲成人久久爱视频| 国产三级中文精品| 久久久国产成人精品二区| 一区二区三区高清视频在线| 亚洲成a人片在线一区二区| 最好的美女福利视频网| 日本撒尿小便嘘嘘汇集6| 国产高清视频在线播放一区| 一边摸一边抽搐一进一小说| 国产精品99久久久久久久久| 少妇的逼好多水| 精品99又大又爽又粗少妇毛片 | 日韩欧美 国产精品| 超碰av人人做人人爽久久| 中文字幕免费在线视频6| 亚洲一区二区三区色噜噜| 欧美成人a在线观看| 亚洲一区二区三区不卡视频| 麻豆国产97在线/欧美| 久久人妻av系列| 亚洲片人在线观看| 久久久国产成人精品二区| 成人国产一区最新在线观看| 麻豆国产av国片精品| 国产老妇女一区| 91久久精品国产一区二区成人| 一本综合久久免费| 久久久久久国产a免费观看| av在线老鸭窝| 男女下面进入的视频免费午夜| 夜夜夜夜夜久久久久| 精品人妻偷拍中文字幕| 最近中文字幕高清免费大全6 | 欧美日韩瑟瑟在线播放| 高清毛片免费观看视频网站| 好男人电影高清在线观看| 成人鲁丝片一二三区免费| eeuss影院久久| 直男gayav资源| 亚洲国产欧洲综合997久久,| 在线观看舔阴道视频| 亚洲欧美日韩卡通动漫| 动漫黄色视频在线观看| 日韩有码中文字幕| 一级a爱片免费观看的视频| 亚洲国产精品久久男人天堂| 十八禁网站免费在线| 亚洲成av人片在线播放无| 91在线精品国自产拍蜜月| 激情在线观看视频在线高清| 久99久视频精品免费| 国产精品久久久久久久电影| 国产麻豆成人av免费视频| 深夜a级毛片| 在线播放国产精品三级| 精品久久国产蜜桃| 日本熟妇午夜| 青草久久国产| 欧美又色又爽又黄视频| 欧美高清性xxxxhd video| 男女床上黄色一级片免费看| 久久久久免费精品人妻一区二区| 久久天躁狠狠躁夜夜2o2o| 三级国产精品欧美在线观看| 欧美黄色淫秽网站| 亚洲激情在线av| 免费一级毛片在线播放高清视频| 嫩草影院新地址| 一级黄色大片毛片| 51国产日韩欧美| eeuss影院久久| 日本一本二区三区精品| a级毛片a级免费在线| 人妻制服诱惑在线中文字幕| 亚洲欧美清纯卡通| av中文乱码字幕在线| 亚洲不卡免费看| 99在线人妻在线中文字幕| 亚洲一区二区三区不卡视频| 亚洲七黄色美女视频| 女同久久另类99精品国产91| 三级毛片av免费| 一a级毛片在线观看| 精品一区二区三区av网在线观看| 欧美一区二区亚洲| 变态另类成人亚洲欧美熟女| 欧美xxxx性猛交bbbb| 欧美bdsm另类| 日日夜夜操网爽| 日本a在线网址| 亚洲中文字幕日韩| 亚洲人与动物交配视频| 午夜a级毛片| 免费在线观看日本一区| 91在线精品国自产拍蜜月| 精品国产亚洲在线| aaaaa片日本免费| 97碰自拍视频| 国产亚洲欧美98| 搡女人真爽免费视频火全软件 | 成人特级av手机在线观看| 黄色配什么色好看| 一级作爱视频免费观看| 国产一区二区在线观看日韩| 精品国内亚洲2022精品成人| av视频在线观看入口| 日本黄大片高清| 国产精品亚洲av一区麻豆| 国产精品免费一区二区三区在线| 日日摸夜夜添夜夜添av毛片 | 男女那种视频在线观看| 免费大片18禁| 999久久久精品免费观看国产| 国产精品亚洲av一区麻豆| 亚洲,欧美精品.| 一本综合久久免费| 国产亚洲av嫩草精品影院| 久久热精品热| 日本三级黄在线观看| 琪琪午夜伦伦电影理论片6080| 欧美不卡视频在线免费观看| 可以在线观看的亚洲视频| 久久精品夜夜夜夜夜久久蜜豆| 国产av麻豆久久久久久久| 亚洲国产精品成人综合色| 午夜福利高清视频| 亚洲国产精品久久男人天堂| 国产精品爽爽va在线观看网站| 在线观看66精品国产| 日韩有码中文字幕| 男女做爰动态图高潮gif福利片| 成人精品一区二区免费| 欧美成人一区二区免费高清观看| 精品人妻1区二区| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 欧美日韩亚洲国产一区二区在线观看| 色吧在线观看| 国产精品亚洲美女久久久| 久久性视频一级片| 亚洲成人中文字幕在线播放| 成人一区二区视频在线观看| 免费人成视频x8x8入口观看| 嫩草影视91久久| 又爽又黄a免费视频| 欧美性猛交╳xxx乱大交人| 亚洲中文字幕日韩| 免费看日本二区| 国产av不卡久久| 白带黄色成豆腐渣| bbb黄色大片| 国产蜜桃级精品一区二区三区| 9191精品国产免费久久| 午夜福利视频1000在线观看| 午夜影院日韩av| 久久人妻av系列| 一夜夜www| 国产精品综合久久久久久久免费| 一卡2卡三卡四卡精品乱码亚洲| 麻豆国产97在线/欧美| 婷婷精品国产亚洲av| 国产中年淑女户外野战色| 我的女老师完整版在线观看| 老司机深夜福利视频在线观看| 一级作爱视频免费观看| 99久久精品热视频| 中文资源天堂在线| 男人和女人高潮做爰伦理| 男人舔女人下体高潮全视频| 日日摸夜夜添夜夜添小说| 亚洲av熟女| 91午夜精品亚洲一区二区三区 | 999久久久精品免费观看国产| 特大巨黑吊av在线直播| 欧美一区二区国产精品久久精品| 国产视频一区二区在线看| 国产日本99.免费观看| 日韩欧美三级三区| 国内精品一区二区在线观看| 热99re8久久精品国产| 国产精品免费一区二区三区在线| 国产精品乱码一区二三区的特点| 亚洲av免费高清在线观看| 男人舔女人下体高潮全视频| 99久久99久久久精品蜜桃| 日日干狠狠操夜夜爽| 亚洲 国产 在线| 国产又黄又爽又无遮挡在线| 一区二区三区四区激情视频 | 亚洲国产精品久久男人天堂| 乱人视频在线观看| 国产精品一区二区性色av| 久久精品国产亚洲av天美| 免费看美女性在线毛片视频| 成人av一区二区三区在线看| 国产精品永久免费网站| 免费大片18禁| 亚洲专区中文字幕在线| 观看免费一级毛片| 成人午夜高清在线视频| 男人舔奶头视频| 欧美一级a爱片免费观看看| 啪啪无遮挡十八禁网站| 国产男靠女视频免费网站| 啦啦啦韩国在线观看视频| 欧美成人一区二区免费高清观看| 91av网一区二区|