• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    個性化推薦場景下信息自決權(quán)研究

    2021-02-10 12:34:24榮予暢吳才毓
    關(guān)鍵詞:信息處理隱私權(quán)個人信息

    榮予暢, 吳才毓

    (中國人民公安大學(xué) 法學(xué)院,北京 100038)

    《個人信息保護(hù)法(草案)》第二次審議稿與一審稿相比,進(jìn)一步提升了對于個人信息自決權(quán)益的保護(hù),除了在第16條中完善了“撤回同意”相關(guān)要求之外,第25條也關(guān)注到了用戶在基于算法自動化決策的個性化推薦服務(wù)中的拒絕權(quán)。這說明個性化推薦場景下個人信息自決權(quán)的保護(hù)問題已經(jīng)受到關(guān)注。從目前個人信息保護(hù)的相關(guān)研究來看,除了“權(quán)利說”與“權(quán)益說”之爭,另一條主線就是以“知情同意規(guī)則”為核心的個人信息自主控制模式研究。在大數(shù)據(jù)分析和算法決策的沖擊下,個人信息的利用和流動不僅可以滿足個人的需求,同時也具有重要的商業(yè)價(jià)值和社會公共價(jià)值。傳統(tǒng)的個人信息控制理論并沒有考慮多種價(jià)值和利益的平衡,因而在實(shí)踐中已陷入困境[1]。個性化推薦是算法決策最主要的利用場景,同時也是用戶、信息控制者以及信息使用者之間權(quán)益沖突較明顯的場景。因此,如何在個性化推薦場景下平衡信息保護(hù)與信息利用的關(guān)系是互聯(lián)網(wǎng)經(jīng)濟(jì)時代亟待解決的難題。

    一、 個性化推薦威脅個人意思自治

    數(shù)字經(jīng)濟(jì)時代,網(wǎng)絡(luò)應(yīng)用成為極其重要的信息渠道。與此同時,網(wǎng)絡(luò)應(yīng)用的市場競爭愈發(fā)激烈。為了加強(qiáng)用戶粘性,為用戶提供交互式服務(wù)成為各應(yīng)用研發(fā)的主要目標(biāo)之一。尤其是對于購物、視頻等平臺來說,為了促進(jìn)消費(fèi),如何為用戶推薦令其滿意的服務(wù)、商品或內(nèi)容,更是重中之重。雖然個性化推薦能夠幫助人們從海量的信息中快速鎖定自己需要的內(nèi)容,然而其背后的代價(jià)是大量的個人信息被收集,以及個體基于自由意志的自我決定逐漸被算法決策所取代,算法自動決策引發(fā)了人們對意思自治遭受破壞的擔(dān)憂。

    (一) 網(wǎng)絡(luò)用戶畫像鎖定“個性”

    一個典型的個性化推薦過程主要包括三個主體:用戶、被推薦對象和計(jì)算機(jī)信息系統(tǒng)。其中,用戶的個性化需求,既可以由用戶主動地提供給計(jì)算機(jī)信息系統(tǒng),也可以由計(jì)算機(jī)系統(tǒng)根據(jù)用戶的使用記錄和一定的規(guī)則推測用戶的興趣偏好產(chǎn)生出來[2]。計(jì)算機(jī)系統(tǒng)按照一定規(guī)則生成的就是“網(wǎng)絡(luò)用戶畫像”,構(gòu)建用戶畫像這一過程是個性化推薦的關(guān)鍵過程,正是用戶畫像幫助計(jì)算機(jī)系統(tǒng)鎖定了用戶的“個性”。用戶畫像是產(chǎn)品開發(fā)、行業(yè)分析和精準(zhǔn)營銷的重要基礎(chǔ)。為了構(gòu)建完整的用戶畫像,企業(yè)需要匯集多方碎片信息,如交易記錄、賬戶基本信息、出行記錄、瀏覽記錄以及社交記錄等。一般來說,只有超大型互聯(lián)網(wǎng)企業(yè)才能收集到足夠多的數(shù)據(jù)碎片來拼湊用戶畫像,但這并不妨礙中小企業(yè)和初創(chuàng)企業(yè)利用超大型企業(yè)描繪的用戶畫像開展業(yè)務(wù)。

    雖然網(wǎng)絡(luò)用戶畫像能夠幫助個人更加高效地尋找心儀的產(chǎn)品或服務(wù),然而用戶畫像與個性化推薦也對用戶相關(guān)權(quán)益的保護(hù)提出了挑戰(zhàn)。很多專家指出,個人消費(fèi)行為信息屬于個人信息范疇,在未經(jīng)用戶明確同意與授權(quán)情形下,對于此類個人信息的收集與利用侵犯了用戶的相關(guān)隱私權(quán)益[3]。也有學(xué)者提出,如果不對個性化推薦算法加以限制,那么每一個推薦行為都可能被認(rèn)為是在窺探用戶的過去,這樣的挖掘如果未經(jīng)用戶同意,就是“被窺探的人格圖像”[4]。目前我國法律關(guān)于網(wǎng)絡(luò)用戶畫像并未有直接規(guī)定,因此也沒有禁止網(wǎng)站收集用戶行為偏好信息進(jìn)行個性化推薦的行為。在司法實(shí)踐中,法院事實(shí)上支持了網(wǎng)站構(gòu)建用戶畫像這一行為。如在我國“cookie隱私第一案”——朱某訴百度公司隱私權(quán)糾紛案中(1)江蘇省南京市鼓樓區(qū)人民法院(2013)鼓民初字第3031號民事判決書,江蘇省南京市中級人民法院(2014)寧民終字第5028號民事判決書。,雖然一審法院認(rèn)為百度公司對其消費(fèi)信息的收集和利用侵犯了用戶的隱私權(quán),然而二審法院認(rèn)為百度公司收集的是不能識別用戶個人身份的信息,且沒有打擾用戶或?qū)τ脩粼斐蓪?shí)質(zhì)性損害,因而并未侵犯隱私權(quán)。法院認(rèn)定該案未侵犯隱私權(quán),但其他權(quán)益是否被侵犯,值得深入探討。

    (二) 個人信息采集“被自愿”

    在朱某訴百度公司隱私權(quán)糾紛案中,朱某并不同意自己的瀏覽記錄及行為偏好被收集和分析,因此朱某認(rèn)為百度公司侵犯了自己的信息自主權(quán)。然而由于當(dāng)時我國多將個人信息置于隱私權(quán)的框架中進(jìn)行討論,因此法院并未支持朱某的主張。個性化推薦離不開對個人信息的收集,但在很多情況下,個人信息收集都是“被自愿”或者“被同意”的。當(dāng)人們在某一個網(wǎng)頁或者移動端App注冊成為一個新用戶時,往往會被要求勾選“是否同意”該網(wǎng)頁或者App的用戶協(xié)議和隱私政策,如果不同意則往往無法注冊為用戶,也就無法享受相關(guān)服務(wù);而勾選了“同意”,就意味著接受了用戶協(xié)議和隱私政策里面的相關(guān)條款,也就意味著同意個人信息被收集,進(jìn)而才能享受個性化推薦服務(wù)。這一過程對于想要注冊的個人用戶而言毫無自主選擇性,因?yàn)楂@取該網(wǎng)站或App服務(wù)的前提往往是同意其隱私政策,而隱私政策繁冗的文字、專業(yè)的術(shù)語會使大多數(shù)人認(rèn)為其有較高的閱讀門檻而放棄閱讀,更不會仔細(xì)研究里面的條款。基于此,用戶勾選“同意”這一行為是否屬于明確且真實(shí)的同意?

    雖然我國法律已經(jīng)明確了個人信息保護(hù)中的“知情同意規(guī)則”,然而在實(shí)際操作中,該規(guī)則卻流于形式,因此學(xué)界也開始質(zhì)疑該項(xiàng)規(guī)則的合理性。學(xué)界對于“知情同意規(guī)則”的詬病主要集中于三個方面:一是網(wǎng)絡(luò)平臺往往將注冊與同意綁定在一起,用戶往往沒有仔細(xì)閱讀隱私協(xié)議便直接點(diǎn)擊“同意”,導(dǎo)致知情同意失去原先的保護(hù)作用[5];二是信息主體的“有限理性”限制了其記憶和處理信息能力,因此數(shù)據(jù)控制者獲取用戶的同意往往很容易,同時“理性人”理論將信息風(fēng)險(xiǎn)結(jié)構(gòu)性地配置給信息主體[6];三是從經(jīng)濟(jì)發(fā)展角度考慮,認(rèn)為獲取用戶信息一定要得到用戶同意這一觀點(diǎn)會給互聯(lián)網(wǎng)企業(yè)帶來巨大成本,對用戶來說也是一種負(fù)擔(dān),這會阻礙數(shù)據(jù)流通及共享[5]。“知情同意規(guī)則”雖然在實(shí)際操作中確實(shí)存在一些問題,但筆者認(rèn)為“知情同意”依然應(yīng)當(dāng)是個人信息自決權(quán)的重要內(nèi)容,只是有必要對其進(jìn)行一些修正。雖然個性化推薦服務(wù)有其優(yōu)點(diǎn),但所有的互聯(lián)網(wǎng)應(yīng)用似乎默認(rèn)每個人都愿意接受這一項(xiàng)服務(wù),這是對民法中意思自治原則的漠視。個性化推薦需要收集個人在互聯(lián)網(wǎng)上的各種信息碎片,這一行為對個人隱私存在一定威脅。部分用戶認(rèn)為個人隱私比獲得個性化推薦服務(wù)更重要,因此應(yīng)當(dāng)尊重這部分人拒絕個性化推薦服務(wù)的權(quán)利。

    (三)個人需求被算法“控制”

    盡管個性化推薦有很多優(yōu)點(diǎn),但人們普遍擔(dān)心它可能帶來的負(fù)面影響。相關(guān)研究也表明,用戶面對個性化推薦時甚至?xí)a(chǎn)生自己被時刻“窺探”的恐慌感,從而用戶的點(diǎn)擊意愿也因此有所下降[7]。個性化推薦算法被用來積極地影響個人的行為和選擇。信息是如何被呈現(xiàn)給個人的,他們被給予了哪些選擇,哪些信息被隱瞞,以及這些信息與他人所接收到的信息有何不同等,這些因素極大地影響甚至決定了人們的選擇和信任[8]45?!霸陔娚唐脚_上,對搜索算法和推薦商品算法的設(shè)計(jì)開發(fā)、部署應(yīng)用兩個步驟,決定了用戶可以收到怎樣的商品推薦結(jié)果?!盵9]算法通過對瀏覽內(nèi)容的個性化篩選進(jìn)一步“控制”著人們的需求。

    有關(guān)個性化推薦和個人意思自治的另一個擔(dān)憂就是個人最終會陷入“過濾泡沫”[10]?!斑^濾泡沫”亦即“信息繭房”或“回音室”。在這個由有限信息組成的世界中,個人被孤立,而這些信息總是證實(shí)他們的信念和觀點(diǎn),使人們不會暴露在不同的信息和觀點(diǎn)中。在這種情況下,人們以為自己作出了獨(dú)立的選擇,自主形成了觀點(diǎn),但實(shí)際上他們已經(jīng)受到了被提供的、有限的、定制化信息的影響,其對世界的認(rèn)知也被不同程度限縮。個性化正迅速變得無處不在,正影響著人們在線上和線下的決策及生活。一個發(fā)人深省的例子就是社交網(wǎng)絡(luò)“情緒傳染”實(shí)驗(yàn)。在這個實(shí)驗(yàn)中,研究人員通過決定什么內(nèi)容出現(xiàn)在他們的Facebook時間軸上來影響人們的情緒[11]。個性化推薦以及觀點(diǎn)如何在大背景下被引導(dǎo)可能對個人的影響微不足道,但反過來說,對個人自治的影響也并不需要巨大的、迫在眉睫的影響,這種潛在的、累積的威脅從長遠(yuǎn)來看可能更加危險(xiǎn)。

    基于算法自動化決策的個性化推薦服務(wù)雖然改變了人們的生活,卻也存在著潛在的負(fù)面影響。種種跡象表明,個人雖然可以“免費(fèi)”獲得個性化推薦服務(wù),但需要以向服務(wù)商提供個人信息和瀏覽記錄等為代價(jià)。由于通過這些信息可以識別到個人,這就導(dǎo)致了人們在接受被推送的相關(guān)服務(wù)時會感到恐慌。個性化推薦并沒有體現(xiàn)真正的“個性”,只是互聯(lián)網(wǎng)經(jīng)濟(jì)平臺為了刺激消費(fèi)而采取的的一種營銷手段。無論互聯(lián)網(wǎng)收集、分析了多少用戶信息,也無論算法設(shè)計(jì)得如何復(fù)雜、精巧,個性化推薦總是只能有限地反映用戶需求。隨著對用戶偏好分析的深入,社會人的身份越來越多地由外部力量構(gòu)成,而在這些外部力量中,大多只關(guān)心個人信息以及行為能為其帶來多少資本收益。無處不在的個性化推薦和自由選擇的減少已經(jīng)威脅到個人自治,進(jìn)而最終威脅到人們自主成就自我的可能性。確保用戶對個人信息的自決利益成為個性化推薦場景下個人信息保護(hù)的根本目的。為了平衡互聯(lián)網(wǎng)經(jīng)濟(jì)發(fā)展需要與個人自治之間的關(guān)系,有必要在強(qiáng)調(diào)“信息自決權(quán)”的同時對其加以調(diào)整,使其更好滿足個性化推薦發(fā)展的需求并更好保障個人自由選擇的權(quán)利。

    二、 信息自決權(quán)之概念厘清

    “信息自決權(quán)”的概念最早源于德國的“人口普查案”。1983年德國制定人口普查法,準(zhǔn)備開展全面人口資料性普查,這引發(fā)整個社會各階層的抗議運(yùn)動。聯(lián)邦憲法法院確認(rèn)該普查法違反了憲法,確立了個人信息自主(自決)權(quán),并提出兩項(xiàng)重要原則:一是在自動化數(shù)據(jù)處理的現(xiàn)代化條件下,人格的自由發(fā)展取決于個人有權(quán)對抗個人資料被無限制搜集、儲存、使用和傳送的行為;二是個人對其切身資料并無所謂絕對不受限制的支配,個人的信息自主權(quán)必須忍受重大公益的限制[12]。不過“人口普查案”確立的“信息自決權(quán)”屬于憲法中的基本權(quán)利,在計(jì)算機(jī)技術(shù)高速發(fā)展的今天,信息自決權(quán)的內(nèi)容也被進(jìn)一步延伸、調(diào)整,已然成為個人信息保護(hù)法律體系中的核心權(quán)利,并被納入民法保護(hù)體系。因此,有必要考察“信息自決權(quán)”的理論沿革并對其概念進(jìn)行厘清。另外,由于信息自決權(quán)最早是在隱私權(quán)框架背景下提出的,因而有必要明確信息自決權(quán)與隱私權(quán)的關(guān)系。

    (一) 信息自決權(quán)的理論沿革

    學(xué)界關(guān)于信息自決權(quán)的討論自計(jì)算機(jī)可以大量集中處理個人信息后便已開始,相關(guān)理論發(fā)展到現(xiàn)在經(jīng)歷了三個階段。第一階段為信息利用早期。此時,個人信息利用重“量”,個人信息權(quán)益缺乏法律保護(hù),因此學(xué)者普遍強(qiáng)調(diào)對個人信息的保護(hù),強(qiáng)調(diào)加強(qiáng)個人對個人信息的控制,雖然已意識到信息與隱私的不同,卻依然受傳統(tǒng)隱私權(quán)理論影響,也未能統(tǒng)一“信息自決權(quán)”這一名稱。如學(xué)者彭禮堂、饒傳平等提出“資訊自決權(quán)”意味著每個人都有權(quán)自行決定是否將個人資料交付和供給他人使用,法律應(yīng)當(dāng)進(jìn)一步賦予信息主體將個人信息視為個人財(cái)富而與欲獲取信息者進(jìn)行談判的能力[13];周佳念討論“資訊自決權(quán)”時的邏輯起點(diǎn)是“隱私權(quán)中應(yīng)有的對自身信息的控制權(quán)”[14]。第二階段為信息利用升級時期。此階段對于個人信息的利用不僅求“量”且更注重“質(zhì)”。學(xué)界不僅關(guān)注到了信息利用的重要性,也關(guān)注到了用戶與企業(yè)之間的利益沖突并試圖對其進(jìn)行協(xié)調(diào),信息自決權(quán)的內(nèi)涵得以進(jìn)一步豐富。如學(xué)者張新寶提出“兩頭強(qiáng)化,三方平衡”理論,認(rèn)為個人信息保護(hù)和利用需要平衡用戶、信息從業(yè)者以及國家公共利益的三方需求[15];謝遠(yuǎn)揚(yáng)通過對個人信息自主價(jià)值、使用價(jià)值以及利用價(jià)值的討論,反思了現(xiàn)有隱私權(quán)保護(hù)模式的局限[16]。第三階段為信息利用規(guī)范開始陸續(xù)出臺至今。隨著個人信息保護(hù)相關(guān)立法進(jìn)程被不斷推進(jìn),學(xué)界針對信息自決權(quán)中的具體內(nèi)容以及權(quán)利的具體實(shí)現(xiàn)方式展開了熱烈討論,但至今并無統(tǒng)一觀點(diǎn)。商希雪認(rèn)為,“個人信息自決體系涵蓋知情同意權(quán)、反對權(quán)、訪問權(quán)、更正權(quán)、刪除權(quán)、限制處理權(quán)、被遺忘權(quán)、數(shù)據(jù)可攜權(quán)等子權(quán)利”[17];萬方主張應(yīng)當(dāng)引入“同意撤回權(quán)”,以彌補(bǔ)“告知同意規(guī)則”中的缺陷[18]。鑒于學(xué)界普遍認(rèn)為“知情同意”是個人信息權(quán)的重要內(nèi)容,因此也有學(xué)者重新思考了“知情同意規(guī)則”與個人信息自決權(quán)的關(guān)系,認(rèn)為“知情同意規(guī)則”應(yīng)當(dāng)與個人信息自決權(quán)解綁[19]。

    學(xué)界關(guān)于信息自決權(quán)相關(guān)理論的發(fā)展變化,以及對權(quán)利具體內(nèi)容和實(shí)現(xiàn)方式的討論已經(jīng)非常深入,不過依然存在些許不足。一方面,學(xué)界的討論缺乏一個立足于我國國情的體系化視野,導(dǎo)致信息自決權(quán)的邊界不甚明晰;另一方面,忽略了當(dāng)前信息利用階段的特點(diǎn),只關(guān)注法律規(guī)范本身,這樣的討論勢必脫離實(shí)際、沒有意義。通過考察信息處理的全生命周期可發(fā)現(xiàn),各個階段各主體的需求并不相同,因此信息自決權(quán)的具體子權(quán)利要結(jié)合具體場景動態(tài)地看。當(dāng)然,其基本含義和價(jià)值是沒有變化的,都是為了保護(hù)個人的自由人格、利益和尊嚴(yán)。

    (二) 信息自決權(quán)的界定

    結(jié)合信息自決權(quán)理論的發(fā)展沿革,筆者立足當(dāng)下信息處理特點(diǎn)對“信息自決權(quán)”中的關(guān)鍵詞逐一進(jìn)行解釋,以期確定“信息自決權(quán)”的內(nèi)涵以及邊界。

    1.何為“信息”

    信息自決權(quán)屬于個人信息保護(hù)體系中的核心權(quán)利,因此這里的“信息”乃指“個人信息”?!吨腥A人民共和國民法典》(下稱《民法典》)第1034條將“個人信息”定義為“以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識別特定自然人的各種信息,包括自然人的姓名、出生日期、身份證件號碼、生物識別信息、住址、電話號碼、電子郵箱、健康信息、行蹤信息等”?!秱€人信息保護(hù)法(草案)》二審稿和一審稿關(guān)于個人信息的定義并無不同,均“是以電子或者其他方式記錄的與已識別或者可識別的自然人有關(guān)的各種信息,不包括匿名化處理后的信息”。與《民法典》相比,《個人信息保護(hù)法(草案)》的表述更加簡潔而全面,雖沒有詳細(xì)列舉,但采取了反向排除的方式,指出匿名化處理后的信息不屬于個人信息。

    個人信息有兩個特點(diǎn),分別是“關(guān)聯(lián)性”和“可識別性”?!瓣P(guān)聯(lián)性”指個人信息都是與特定自然人有關(guān)的,區(qū)別于其他與非自然人相關(guān)的信息,如死者及胎兒信息便不屬于這里所提到的個人信息,然而法律有必要對其人格利益進(jìn)行特殊保護(hù),本文在此不作深入展開。“可識別性”指通過個人信息可以識別到特定個人,與其他信息結(jié)合后可識別到自然人的信息也屬于個人信息。關(guān)于“可識別性”,在現(xiàn)今的大數(shù)據(jù)處理能力下,自然人在網(wǎng)絡(luò)上均有跡可循,只要掌握足夠多的信息便可識別出個人,那么這些信息都算個人信息嗎?筆者認(rèn)為,在通過許多信息碎片識別自然人時,有必要區(qū)分“關(guān)鍵信息”和“其他信息”,只有“關(guān)鍵信息”才能成為信息自決權(quán)的保護(hù)對象。對于“關(guān)鍵信息”的把握需要根據(jù)具體場景進(jìn)行判定,可從其與自然人身份的緊密程度、獲取難易度、識別難易度等角度考慮。若是不加以“關(guān)鍵信息”這樣的限制,僅依靠“可識別性”界定個人信息,則會使其范圍過于廣泛,難以確定信息自決權(quán)的邊界。

    2. 何謂“自決”

    簡單來說,“自決”即“自由地自主決定”“私人自治”,可以被描述為“成就自我的能力、基于個人自主選擇的理由與動機(jī)開展生活,而非操縱或扭曲的外部力量使然”[8]8?!白詻Q”對個人自治的保護(hù)貫穿于整個民法體系。對個人信息的保護(hù)而言,它意味著個人可以依據(jù)自己獨(dú)立的意志決定個人信息的使用及處理行為,不受他人不當(dāng)干涉地行使自決權(quán)。人格的自由發(fā)展包括自己決定如何實(shí)現(xiàn)人格發(fā)展的自由[16],所以信息自決權(quán)有兩層含義,即個人不僅有決定是否使用個人信息的自由,也有決定以何種方式使用個人信息的自由。這進(jìn)一步表現(xiàn)在個人是否有能力控制自己的信息。然而與互聯(lián)網(wǎng)企業(yè)相比,個人對信息的控制和處理能力明顯不足,因此法律試圖通過“知情同意”來調(diào)節(jié)二者的失衡,“知情同意”規(guī)則作為信息自決權(quán)的核心規(guī)則一直為人們所強(qiáng)調(diào)。實(shí)際上,“知情同意”在平衡二者關(guān)系方面的作用十分有限,甚至逐漸流于形式,因此有必要對其進(jìn)行修正。

    “知情同意”規(guī)則的立法初衷是為了讓處于弱勢地位的個人擁有與數(shù)據(jù)企業(yè)相同的地位,以制約處于強(qiáng)者地位的數(shù)據(jù)企業(yè),這也是賦權(quán)的主要目的。然而用戶的知情同意權(quán)也逐漸被數(shù)據(jù)收集企業(yè)所控制,這就悖離了設(shè)置規(guī)則的初衷。用戶往往按照設(shè)置好的步驟最后只能勾選“同意”,沒有拒絕的權(quán)利。《個人信息保護(hù)法(草案)》第二次審議稿的第25條與一審稿相比,已經(jīng)關(guān)注到了用戶拒絕的權(quán)利,將原先“通過自動化決策方式進(jìn)行商業(yè)營銷、信息推送,應(yīng)當(dāng)同時提供不針對其個人特征的選項(xiàng)”改為“通過自動化決策方式進(jìn)行商業(yè)營銷、信息推送,應(yīng)當(dāng)同時提供不針對其個人特征的選項(xiàng),或者向個人提供拒絕的方式”。這體現(xiàn)了對個人自決權(quán)的尊重。另外,過分強(qiáng)調(diào)用戶對個人信息的控制不利于數(shù)據(jù)價(jià)值的實(shí)現(xiàn),因此應(yīng)當(dāng)配合個人信息的合理使用,并對這種絕對的控制進(jìn)行調(diào)整,以平衡信息保護(hù)與信息利用之間的關(guān)系?!睹穹ǖ洹返?036條就對個人信息使用的免責(zé)事由進(jìn)行了規(guī)定。這便是對個人信息權(quán)益的合理限制[20]。

    3. 何以為“權(quán)”

    信息自決權(quán)也被稱為個人信息權(quán)[21],因?yàn)閭€人信息權(quán)中的核心利益便是人的自決利益。并非所有人都認(rèn)為應(yīng)當(dāng)設(shè)立個人信息權(quán),個人信息保護(hù)中的“權(quán)利”與“權(quán)益”之爭也是由來已久,因此對于信息自主權(quán)是否應(yīng)當(dāng)有權(quán)利地位也頗具爭議。然而,無論是《民法典》還是《個人信息保護(hù)法(草案)》,都未將個人信息上升為民事權(quán)利,《個人信息保護(hù)法(草案)》在第四章“個人在個人信息處理活動中的權(quán)利”中規(guī)定了包括知情、決定、限制、拒絕、更正、補(bǔ)充、刪除等精細(xì)化個人信息內(nèi)容的權(quán)利,這意味著立法者并未設(shè)立專門的個人信息權(quán),而是將學(xué)界討論的個人信息權(quán)項(xiàng)下的子權(quán)利作為個人信息處理活動中的權(quán)利,因此也有學(xué)者認(rèn)為個人信息保護(hù)法的規(guī)范對象是個人信息處理行為[22]。雖然信息自決權(quán)在立法上未被承認(rèn),但將個人信息處理中體現(xiàn)個人自決利益的權(quán)利統(tǒng)一于信息自決權(quán)項(xiàng)下有其合理性和必要性。

    首先,信息自決權(quán)保護(hù)的個人自決利益具有正當(dāng)性?!秱€人信息保護(hù)法(草案)》中規(guī)定的知情權(quán)、決定權(quán)、更正權(quán)、刪除權(quán)等均是為實(shí)現(xiàn)自然人的自決利益而設(shè)定的,這是一種普泛設(shè)定。在個人信息自決利益與公共利益相沖突時,個人并不是完全沒有優(yōu)先性,這種優(yōu)先性可能是相對的,但也體現(xiàn)了保護(hù)個人選擇的重要性[23]。在面對個性化推薦算法對個人自決權(quán)的侵害時,目前的立法對個人信息權(quán)益的保護(hù)力度顯得捉襟見肘。

    其次,信息自決權(quán)可以被現(xiàn)有的法律體系所容納?!睹穹ǖ洹返?10條和第1034條都明確表示“自然人的個人信息受法律保護(hù)”,第1038條也規(guī)定了個人信息主體的一些權(quán)利。另外,隨著《個人信息保護(hù)法》的出臺,信息主體的權(quán)利在法律上都能找到依據(jù)。

    最后,確立信息自決權(quán)實(shí)際是用體系化視野去調(diào)整信息處理行為中個人享有的權(quán)利??紤]到協(xié)調(diào)個人信息保護(hù)與利用的必要性,個人享有的權(quán)利也有其界限,因而對界限的劃分需要從整體視角來把握,個人信息權(quán)項(xiàng)下的子權(quán)利存在的一些共性內(nèi)容可通過信息自決權(quán)來統(tǒng)一規(guī)定,并應(yīng)同時進(jìn)行體系化的權(quán)利構(gòu)建。

    (三) 信息自決權(quán)與隱私權(quán)

    信息自決權(quán)常常與隱私權(quán)一起被提起,因?yàn)殡[私權(quán)中也包含對個人自主決定權(quán)的保護(hù),二者都體現(xiàn)了個人對其私人生活的自主決定[21]。尤其是隨著公共網(wǎng)絡(luò)平臺的崛起,公眾的隱私界限在網(wǎng)絡(luò)空間中變得更加模糊。對此,國外有學(xué)者提出了一種新的隱私保護(hù)觀點(diǎn),即“在可以接觸到別人的前提下,人們依然擁有尋求他人保密以及個人隱匿和獨(dú)處的權(quán)利”[24]。這種觀點(diǎn)其實(shí)是強(qiáng)調(diào)個人對信息的自主控制,隱私并不僅僅是個人的相關(guān)信息,還包括人們對信息的自主控制。然而目前通過隱私權(quán)來保護(hù)個人信息還存在困難,這導(dǎo)致信息自決權(quán)無法得到有效保障,因此有必要將隱私權(quán)與信息自決權(quán)進(jìn)行區(qū)分。

    隱私權(quán)與信息自決權(quán)的主要不同在于二者的實(shí)現(xiàn)方式。隱私權(quán)是一種防御性權(quán)利,人們往往不愿意他人干擾到自己的生活,人們對于隱私的保護(hù)表現(xiàn)為避免他人侵入的防御性姿態(tài);而信息自決權(quán)強(qiáng)調(diào)個人的選擇控制,這是一種積極、主動的權(quán)利,人們對于個人信息的控制顯得更加主動。學(xué)界認(rèn)為個人信息與隱私的概念有所交叉,重合的部分在于個人敏感信息,但這并不妨礙法律上將信息自決權(quán)與隱私權(quán)進(jìn)行區(qū)分。在涉及個人敏感信息侵權(quán)時,自然人可以根據(jù)具體侵權(quán)場景選擇隱私權(quán)救濟(jì)路徑或者信息自決權(quán)救濟(jì)路徑。在朱某訴百度隱私侵權(quán)一案中,二審法院認(rèn)定百度并沒有侵犯其隱私權(quán),然而面對百度的個性化推薦,朱某并不愿意接受這項(xiàng)服務(wù)。如此說來,百度確實(shí)侵害了朱某的信息自決權(quán),但傳統(tǒng)隱私權(quán)理論無法解釋朱某的何種權(quán)益受到了侵犯。由于立法并沒有明確信息自決權(quán),因此朱某由于個人信息被收集并被用于提供個性化推薦服務(wù)而受到的損失無法得到救濟(jì)。

    三、 “三方一環(huán)”——個性化推薦場景下的個人信息自決權(quán)及其實(shí)現(xiàn)

    結(jié)合當(dāng)前個性化推薦應(yīng)用的背景以及數(shù)字經(jīng)濟(jì)的發(fā)展趨勢,用戶對個人信息的控制以及互聯(lián)網(wǎng)企業(yè)對信息的利用都要有所顧及,即在強(qiáng)調(diào)個人信息被“保護(hù)”的同時需要關(guān)注信息的有序“利用”。筆者在信息自決權(quán)體系化構(gòu)建前提下,采取動態(tài)的權(quán)利視角,提出“三方一環(huán)”理論,以期解釋信息自決權(quán)在個性化推薦場景中具體權(quán)利的實(shí)現(xiàn)方式,從而實(shí)現(xiàn)用戶與互聯(lián)網(wǎng)企業(yè)的良性互動。“三方一環(huán)”權(quán)利流動如圖1所示。

    圖1 “三方一環(huán)”示意

    (一) “三方”——三方主體構(gòu)成個性化推薦場景

    “三方”就是指個性化推薦場景下涉及的法律主體有三方,分別是用戶、一級信息處理者以及二級信息處理者。一級信息處理者是對直接收集用戶信息的互聯(lián)網(wǎng)企業(yè)的統(tǒng)稱。本文所指的個性化推薦是大數(shù)據(jù)意義上的個性化推薦,因此法律關(guān)系還涉及二級信息處理者,而二級信息處理者是對所有通過數(shù)據(jù)共享獲得一級信息處理者處理后信息的互聯(lián)網(wǎng)企業(yè)的統(tǒng)稱。人們在淘寶購買了某件商品之后,可能在打開其他網(wǎng)頁時會收到類似商品的廣告,這就是由于一級信息處理者與二級信息處理者之間的數(shù)據(jù)共享。雖然有時二級信息處理者也會成為一級信息處理者,但二者的基本法律關(guān)系不會變化。筆者在此不考慮具體互聯(lián)網(wǎng)企業(yè)的雙重身份,僅用最基本的模型予以說明。

    學(xué)界在討論信息自決權(quán)的實(shí)現(xiàn)路徑時,往往會忽略處于二級信息處理者地位的互聯(lián)網(wǎng)企業(yè),并且由于個人用戶并沒有與二級信息處理者直接發(fā)生關(guān)聯(lián),用戶也總是會忽略這些利用其他企業(yè)收集到的信息進(jìn)行個性化推薦的數(shù)據(jù)處理者。但鑒于數(shù)據(jù)處理活動的紛繁復(fù)雜,尤其是在個性化推薦場景中,為了構(gòu)建準(zhǔn)確的用戶畫像,個人信息的二次利用依然存在風(fēng)險(xiǎn)。為了明確二級信息處理者的權(quán)利和義務(wù),有必要強(qiáng)調(diào)二級信息處理者獨(dú)立的法律地位[5]。因此,用戶、一級信息處理者以及二級信息處理者都是個性化推薦場景中的法律主體,以信息自決權(quán)為核心的個人信息保護(hù)機(jī)制正是圍繞這三方展開的。

    (二) “一環(huán)”——信息自決權(quán)絕對效力環(huán)形減弱

    如圖1所示,個人信息以用戶為起點(diǎn),按照環(huán)形箭頭方向流動,經(jīng)過一系列信息處理,最終反饋給用戶的是符合用戶偏好的商品或者服務(wù)。在這一過程中,三方之間的權(quán)利義務(wù)關(guān)系也有所不同,信息自決權(quán)的絕對效力會隨著個人信息不斷被加工而逐漸減弱直至消失。不同場景下的風(fēng)險(xiǎn)不同,個人擁有的信息自決權(quán)體系下的子權(quán)利也不同,這是參照“情境脈絡(luò)完整性”理論得出的結(jié)論。紐約大學(xué)媒介、文化與傳播研究所的海倫·尼森鮑姆(Helen Nissenbaum)教授提出了“情境脈絡(luò)完整性”這一新型隱私理論,由于美國并未對隱私權(quán)和信息自決權(quán)作出區(qū)分,因此美國對于隱私權(quán)和個人信息權(quán)的研究往往混同。尼森鮑姆的這一理論將“保護(hù)個人信息”與“個人信息在特定情境脈絡(luò)下具有不同規(guī)范”聯(lián)系起來,當(dāng)個人信息在不同的信息主體間流轉(zhuǎn)時,不同的“情境脈絡(luò)”應(yīng)該適配于特定的信息規(guī)范,相同的信息在不同的語境中有不同的規(guī)范,人們會視具體的語境認(rèn)定信息的流動是否適合[25]。

    將“情境脈絡(luò)完整性”理論應(yīng)用到個性化推薦場景中,就會導(dǎo)致用戶信息自決權(quán)的絕對效力逐漸減弱。因?yàn)殡S著信息不斷被加工和處理,其與個人的關(guān)聯(lián)程度會逐漸降低,因而也無需強(qiáng)調(diào)個人對這一類信息的控制權(quán)。在用戶與一級信息處理者的法律關(guān)系中,用戶個人信息自決權(quán)的絕對效力最強(qiáng),因?yàn)榇藭r的個人信息未經(jīng)任何處理,與自然人聯(lián)系非常緊密,這時個人擁有信息自決權(quán)項(xiàng)下的所有子權(quán)利,除知情同意權(quán)、拒絕權(quán)、訪問權(quán)、更正權(quán)、刪除權(quán)、限制處理權(quán)、數(shù)據(jù)可攜權(quán)等權(quán)利之外,還應(yīng)當(dāng)擁有同意撤回權(quán),這里的撤回同意并不是違反誠實(shí)信用原則,而依然是個人應(yīng)有的對個人信息的處分權(quán)[18]。另外,被遺忘權(quán)和同意撤回權(quán)應(yīng)當(dāng)并舉,當(dāng)用戶撤回同意后,還擁有對已被收集信息的被遺忘權(quán)。相較于用戶而言,一級信息處理者更多的是義務(wù),比如釋明信息收集處理相關(guān)原理的義務(wù),在用戶撤回同意后刪除用戶之前授權(quán)同意而獲取的所有個人信息的義務(wù)以及用戶信息安全保障義務(wù)等。二級信息處理者可以通過數(shù)據(jù)共享獲得一級信息處理者從用戶處獲取的經(jīng)匿名處理的信息,此時雙方的權(quán)利和義務(wù)關(guān)系可通過合同自主約定。對于用戶來說,信息自決權(quán)的絕對效力有所減弱,雖然用戶無法約束二級信息處理者,但其可以通過知情同意權(quán)對這一共享行為進(jìn)行約束。但是,此時用戶已失去了同意撤回權(quán)、被遺忘權(quán)等子權(quán)利,因?yàn)榇藭r信息處理已經(jīng)開始,且被遺忘權(quán)實(shí)施成本過于巨大,難以達(dá)到預(yù)期效果。在個性化推薦場景的最后階段,二級信息處理者利用一級信息處理者提供的信息再對用戶進(jìn)行個性化推薦服務(wù)?!秱€人信息保護(hù)法(草案)》明確將匿名信息排除在個人信息范圍之外,因此用戶對于這部分信息沒有信息自決權(quán),但用戶有相應(yīng)的信息權(quán)益,表現(xiàn)為用戶有權(quán)得知信息來源,二級信息處理者有義務(wù)闡明其信息來源。二級信息處理者之所以對用戶進(jìn)行個性化推薦,也是希望收集用戶信息以生成新的偏好數(shù)據(jù),進(jìn)而成為一級信息處理者。當(dāng)二級信息處理者詢問用戶是否同意個性化推薦服務(wù)時,信息自決權(quán)的下一個環(huán)形流轉(zhuǎn)便開始了。

    (三) “三方一環(huán)”的實(shí)現(xiàn)——修正知情同意規(guī)則,強(qiáng)化算法釋明義務(wù)

    在“三方一環(huán)”權(quán)利流轉(zhuǎn)體系中,想要真正保障信息自決權(quán)的實(shí)現(xiàn),除需要修正知情同意規(guī)則以外,還要強(qiáng)化互聯(lián)網(wǎng)企業(yè)的算法釋明義務(wù)。因?yàn)樗械男畔⑻幚砗蛡€性化推薦服務(wù)都依靠算法實(shí)現(xiàn),而算法對于一般自然人來說并不容易理解。個性化推薦為人們帶來便捷,卻也讓人們產(chǎn)生被算法支配的恐慌,“如果人們都被封閉在數(shù)據(jù)空間的過濾氣泡里,那就逃不出既有代碼架構(gòu)的如來佛掌心”[26]。

    一方面,應(yīng)通過修正知情同意規(guī)則賦予個人拒絕權(quán)。要將用戶注冊與知情同意解綁,必須保障用戶拒絕授權(quán)但能獲取最基本的服務(wù)(不包括個性化推薦)的權(quán)利,使知情同意規(guī)則成為用戶控制個人信息的真正途徑,而非形式規(guī)定。另一方面,強(qiáng)化互聯(lián)網(wǎng)企業(yè)的算法釋明義務(wù)。算法的不透明性是用戶與企業(yè)之間良性互動的主要障礙,有學(xué)者提出制定算法解釋權(quán)制度,旨在確定風(fēng)險(xiǎn)發(fā)生后的責(zé)任分配。當(dāng)自動化決策的具體決定對相對人有法律上或者經(jīng)濟(jì)上的顯著影響時,相對人有權(quán)向算法使用人提出異議,有權(quán)要求使用人提供對具體決策的解釋,同時有權(quán)要求使用人更新數(shù)據(jù)或更正錯誤[9]。筆者認(rèn)為,除了事后追責(zé),更重要的是事前預(yù)防,即應(yīng)在用戶授權(quán)之前對所使用的算法基本原理進(jìn)行釋明,同時可以讓用戶通過試運(yùn)行來理解算法運(yùn)行規(guī)則,以保障信息自決權(quán)的行使。

    四、 結(jié)語

    從現(xiàn)有立法來看,雖然立法者并未支持個人信息權(quán)的主張,而是支持了“權(quán)益說”,但從加強(qiáng)個人信息保護(hù)的角度來看,仍然有必要明確信息自決權(quán)。信息自決權(quán)是對個人信息處理中個人權(quán)利的體系化構(gòu)建,可以統(tǒng)一個人信息的保護(hù)邊界。個性化推薦雖然給個人自治帶來挑戰(zhàn),但從互聯(lián)網(wǎng)經(jīng)濟(jì)長遠(yuǎn)發(fā)展的角度來看,強(qiáng)調(diào)個人自由選擇并不需要以取締個性化推薦的方式來實(shí)現(xiàn)。筆者基于當(dāng)下我國互聯(lián)網(wǎng)發(fā)展階段以及信息處理特點(diǎn)提出的“三方一環(huán)”理論,立足體系化、整體性、動態(tài)化的視角,對個性化推薦場景中各方權(quán)利義務(wù)關(guān)系進(jìn)行了調(diào)整,以期充分保障用戶的個人自決利益,實(shí)現(xiàn)設(shè)立信息自決權(quán)的初衷,為個人信息保護(hù)立法提供新思路。

    猜你喜歡
    信息處理隱私權(quán)個人信息
    如何保護(hù)勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護(hù)進(jìn)入“法時代”
    東營市智能信息處理實(shí)驗(yàn)室
    基于Revit和Dynamo的施工BIM信息處理
    納稅人隱私權(quán)的確立、限制與保護(hù)
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    媽媽,請把隱私權(quán)還給我
    地震烈度信息處理平臺研究
    谷歌尊重雕像“隱私權(quán)”的啟示
    華人時刊(2018年17期)2018-11-19 00:41:21
    CTCS-3級列控系統(tǒng)RBC與ATP結(jié)合部異常信息處理
    视频区图区小说| 国产亚洲av片在线观看秒播厂| 亚洲婷婷狠狠爱综合网| 久久久久精品人妻al黑| 最近中文字幕高清免费大全6| 久久鲁丝午夜福利片| 久久久久久人人人人人| 18禁动态无遮挡网站| 国产精品 国内视频| 国产午夜精品一二区理论片| 观看av在线不卡| 一二三四在线观看免费中文在| 黄色怎么调成土黄色| 天堂8中文在线网| 黄色配什么色好看| 熟女电影av网| av在线观看视频网站免费| 久久久久精品性色| 亚洲国产av影院在线观看| 男人添女人高潮全过程视频| 一区在线观看完整版| freevideosex欧美| 成人午夜精彩视频在线观看| www.精华液| 国产免费一区二区三区四区乱码| 日本av免费视频播放| 一级a爱视频在线免费观看| 久久久久精品久久久久真实原创| 成人影院久久| 啦啦啦啦在线视频资源| www.自偷自拍.com| 欧美日韩一级在线毛片| 久久人人97超碰香蕉20202| 久久精品国产自在天天线| 国产亚洲一区二区精品| 91精品三级在线观看| 精品久久久久久电影网| 久久婷婷青草| 一区二区日韩欧美中文字幕| 制服人妻中文乱码| 91久久精品国产一区二区三区| 免费在线观看完整版高清| 亚洲综合色网址| 看免费成人av毛片| 久久韩国三级中文字幕| 免费在线观看黄色视频的| 久久久亚洲精品成人影院| 少妇人妻 视频| 亚洲国产最新在线播放| 大香蕉久久网| 亚洲欧洲精品一区二区精品久久久 | 国产一区二区在线观看av| 亚洲婷婷狠狠爱综合网| 麻豆乱淫一区二区| 黄色视频在线播放观看不卡| 亚洲国产精品999| 在线观看免费日韩欧美大片| 欧美人与性动交α欧美软件| 亚洲精品国产av蜜桃| 久久久久久久大尺度免费视频| 丝瓜视频免费看黄片| 新久久久久国产一级毛片| 五月天丁香电影| 热re99久久国产66热| 青春草国产在线视频| 香蕉丝袜av| 日韩中文字幕视频在线看片| √禁漫天堂资源中文www| 国产乱人偷精品视频| 亚洲国产欧美在线一区| 欧美精品国产亚洲| 日韩三级伦理在线观看| 国产日韩一区二区三区精品不卡| 久久久久精品人妻al黑| 又黄又粗又硬又大视频| 免费女性裸体啪啪无遮挡网站| 一级,二级,三级黄色视频| 赤兔流量卡办理| 久久久精品免费免费高清| 欧美 亚洲 国产 日韩一| 国产一级毛片在线| 免费大片黄手机在线观看| 美女脱内裤让男人舔精品视频| 国产精品成人在线| 久久久久久人人人人人| 巨乳人妻的诱惑在线观看| 天堂中文最新版在线下载| 最新的欧美精品一区二区| 欧美日韩av久久| 国产极品天堂在线| 色婷婷av一区二区三区视频| 日韩欧美精品免费久久| 十八禁网站网址无遮挡| 777久久人妻少妇嫩草av网站| 精品亚洲乱码少妇综合久久| 18禁动态无遮挡网站| 日韩欧美精品免费久久| 久久久久国产网址| 99热全是精品| 久久精品国产亚洲av高清一级| 久久久久久免费高清国产稀缺| 多毛熟女@视频| 久久99蜜桃精品久久| 亚洲欧美色中文字幕在线| 欧美日韩亚洲高清精品| 亚洲人成网站在线观看播放| 在线 av 中文字幕| 成人国语在线视频| 搡女人真爽免费视频火全软件| kizo精华| 老鸭窝网址在线观看| 成人毛片60女人毛片免费| 伊人久久大香线蕉亚洲五| 在线观看免费高清a一片| 天天操日日干夜夜撸| 成人漫画全彩无遮挡| 欧美精品亚洲一区二区| 欧美亚洲 丝袜 人妻 在线| 国产成人aa在线观看| 久久狼人影院| 18禁裸乳无遮挡动漫免费视频| 一区二区av电影网| 国产白丝娇喘喷水9色精品| 国产免费视频播放在线视频| 亚洲精品乱久久久久久| 老熟女久久久| 久久国产亚洲av麻豆专区| 99国产综合亚洲精品| 午夜老司机福利剧场| 在线观看免费日韩欧美大片| 少妇精品久久久久久久| 蜜桃在线观看..| 欧美人与善性xxx| 国产精品熟女久久久久浪| 欧美精品亚洲一区二区| 亚洲精品第二区| 18+在线观看网站| 国产在线免费精品| 久久影院123| 国产免费又黄又爽又色| 制服丝袜香蕉在线| 久久精品国产亚洲av天美| 国产欧美日韩综合在线一区二区| 韩国高清视频一区二区三区| 天天影视国产精品| 青春草视频在线免费观看| 肉色欧美久久久久久久蜜桃| 久久久精品免费免费高清| 97在线人人人人妻| 久久久久久久久久人人人人人人| 日韩伦理黄色片| 欧美最新免费一区二区三区| 亚洲欧美一区二区三区国产| 精品少妇久久久久久888优播| 亚洲人成电影观看| 在线亚洲精品国产二区图片欧美| 美女国产高潮福利片在线看| 久久国内精品自在自线图片| 黄色视频在线播放观看不卡| 亚洲精品日韩在线中文字幕| 日本-黄色视频高清免费观看| 成年av动漫网址| 日韩一区二区三区影片| 波多野结衣av一区二区av| 在线精品无人区一区二区三| 一区二区日韩欧美中文字幕| 日韩制服丝袜自拍偷拍| 99国产精品免费福利视频| 欧美日韩成人在线一区二区| 成人毛片a级毛片在线播放| 久久久久精品人妻al黑| 赤兔流量卡办理| 最近最新中文字幕大全免费视频 | 国产精品 欧美亚洲| 日韩av免费高清视频| 国产精品三级大全| 国产1区2区3区精品| 日本爱情动作片www.在线观看| 一级a爱视频在线免费观看| 国产日韩一区二区三区精品不卡| 久久久国产一区二区| 亚洲,一卡二卡三卡| 亚洲av福利一区| 亚洲国产欧美在线一区| 日韩av免费高清视频| 色播在线永久视频| xxxhd国产人妻xxx| 观看美女的网站| 久久久久网色| 婷婷色综合www| 最新中文字幕久久久久| 永久网站在线| 午夜福利,免费看| 欧美成人午夜免费资源| 老汉色∧v一级毛片| √禁漫天堂资源中文www| 少妇人妻 视频| 久久精品夜色国产| 日韩大片免费观看网站| 精品卡一卡二卡四卡免费| 国产成人av激情在线播放| 在线看a的网站| 日韩,欧美,国产一区二区三区| 自线自在国产av| 国产高清国产精品国产三级| 丝袜人妻中文字幕| 国产毛片在线视频| 久久久a久久爽久久v久久| freevideosex欧美| 亚洲,欧美精品.| 国产xxxxx性猛交| 中文字幕另类日韩欧美亚洲嫩草| 免费看不卡的av| 久久婷婷青草| 精品99又大又爽又粗少妇毛片| 999久久久国产精品视频| 99久久人妻综合| 亚洲成色77777| 久久久国产一区二区| 亚洲国产最新在线播放| 精品第一国产精品| 尾随美女入室| 国产一区二区三区综合在线观看| 日本-黄色视频高清免费观看| 99热网站在线观看| 黑人欧美特级aaaaaa片| 高清黄色对白视频在线免费看| 亚洲美女视频黄频| 久久亚洲国产成人精品v| 亚洲美女搞黄在线观看| 王馨瑶露胸无遮挡在线观看| 亚洲av免费高清在线观看| 欧美日韩一区二区视频在线观看视频在线| 国产爽快片一区二区三区| 亚洲精品,欧美精品| 久久久久国产网址| 女性被躁到高潮视频| 欧美日韩亚洲国产一区二区在线观看 | 亚洲精品第二区| 久久人妻熟女aⅴ| 久久精品国产鲁丝片午夜精品| 国产精品久久久久久av不卡| 啦啦啦中文免费视频观看日本| 可以免费在线观看a视频的电影网站 | 亚洲男人天堂网一区| videossex国产| 精品少妇黑人巨大在线播放| 国产精品香港三级国产av潘金莲 | kizo精华| 好男人视频免费观看在线| 日本猛色少妇xxxxx猛交久久| 免费不卡的大黄色大毛片视频在线观看| 精品酒店卫生间| 少妇 在线观看| 人人妻人人添人人爽欧美一区卜| 亚洲久久久国产精品| 免费黄频网站在线观看国产| 99久久精品国产国产毛片| 国产亚洲av片在线观看秒播厂| 亚洲欧美一区二区三区久久| 人妻 亚洲 视频| 一区二区三区激情视频| 久久人人爽人人片av| xxx大片免费视频| www.精华液| 啦啦啦在线观看免费高清www| 黑人巨大精品欧美一区二区蜜桃| 大香蕉久久成人网| 欧美亚洲 丝袜 人妻 在线| 天天躁狠狠躁夜夜躁狠狠躁| 国产高清不卡午夜福利| 国语对白做爰xxxⅹ性视频网站| 日韩熟女老妇一区二区性免费视频| 亚洲美女搞黄在线观看| 国产精品久久久久久精品电影小说| 午夜91福利影院| 久久久久久人人人人人| 久久国产精品大桥未久av| 少妇被粗大猛烈的视频| 你懂的网址亚洲精品在线观看| 亚洲三区欧美一区| 热99久久久久精品小说推荐| 99九九在线精品视频| 久久久久久久久久久免费av| 满18在线观看网站| 高清在线视频一区二区三区| 国产成人免费观看mmmm| 久热这里只有精品99| 久久韩国三级中文字幕| 纯流量卡能插随身wifi吗| 亚洲情色 制服丝袜| 高清av免费在线| 精品国产乱码久久久久久男人| 日韩三级伦理在线观看| 美女xxoo啪啪120秒动态图| 男人爽女人下面视频在线观看| 99热网站在线观看| 国产一区亚洲一区在线观看| 男人舔女人的私密视频| 亚洲av福利一区| 久久久久精品久久久久真实原创| 欧美激情高清一区二区三区 | 欧美国产精品va在线观看不卡| 久久久久国产一级毛片高清牌| 在线天堂最新版资源| 国产一区二区激情短视频 | a级毛片黄视频| 天天躁夜夜躁狠狠躁躁| 亚洲成人手机| 日本爱情动作片www.在线观看| 高清av免费在线| 黄色一级大片看看| 久久久久久人人人人人| 中文字幕制服av| 精品少妇内射三级| 亚洲一级一片aⅴ在线观看| 午夜日本视频在线| 母亲3免费完整高清在线观看 | 亚洲精华国产精华液的使用体验| 18禁动态无遮挡网站| 在现免费观看毛片| 国产不卡av网站在线观看| 国产老妇伦熟女老妇高清| 日本av手机在线免费观看| 亚洲精品中文字幕在线视频| 欧美av亚洲av综合av国产av | 成年人免费黄色播放视频| 日韩伦理黄色片| 欧美人与性动交α欧美软件| 日韩成人av中文字幕在线观看| 亚洲欧洲精品一区二区精品久久久 | 久热这里只有精品99| 91精品伊人久久大香线蕉| 午夜福利在线免费观看网站| 中文字幕制服av| 涩涩av久久男人的天堂| 嫩草影院入口| 99热网站在线观看| 少妇被粗大的猛进出69影院| 久久久久视频综合| 久久久精品国产亚洲av高清涩受| 亚洲欧美成人精品一区二区| 黄色毛片三级朝国网站| 成人二区视频| 亚洲国产欧美网| 日韩不卡一区二区三区视频在线| 寂寞人妻少妇视频99o| 如何舔出高潮| 亚洲精品国产av蜜桃| 丁香六月天网| 日日摸夜夜添夜夜爱| 男的添女的下面高潮视频| 黑人巨大精品欧美一区二区蜜桃| 狠狠婷婷综合久久久久久88av| 日韩中文字幕欧美一区二区 | 亚洲精品乱久久久久久| 寂寞人妻少妇视频99o| www.av在线官网国产| 久久久久久人人人人人| 国产精品久久久久久精品古装| 亚洲精品国产av成人精品| 国产黄频视频在线观看| 国产伦理片在线播放av一区| 乱人伦中国视频| 亚洲精品日本国产第一区| 99久久综合免费| 极品人妻少妇av视频| 成人午夜精彩视频在线观看| 午夜日韩欧美国产| 少妇被粗大猛烈的视频| 亚洲av欧美aⅴ国产| 久久毛片免费看一区二区三区| 十八禁高潮呻吟视频| 热re99久久国产66热| 美女福利国产在线| a级毛片在线看网站| 久久国产亚洲av麻豆专区| 久久综合国产亚洲精品| 午夜福利网站1000一区二区三区| 精品一区二区三卡| 丰满少妇做爰视频| 好男人视频免费观看在线| 咕卡用的链子| 桃花免费在线播放| 街头女战士在线观看网站| 90打野战视频偷拍视频| 国产深夜福利视频在线观看| 午夜日韩欧美国产| av免费观看日本| 日本黄色日本黄色录像| 亚洲图色成人| 色婷婷av一区二区三区视频| 一二三四中文在线观看免费高清| 菩萨蛮人人尽说江南好唐韦庄| 亚洲精品久久成人aⅴ小说| 午夜日韩欧美国产| 只有这里有精品99| 天堂中文最新版在线下载| 啦啦啦视频在线资源免费观看| 国产精品欧美亚洲77777| 久久99一区二区三区| 午夜福利一区二区在线看| 啦啦啦中文免费视频观看日本| 日本vs欧美在线观看视频| 在线看a的网站| 亚洲精品国产av蜜桃| 久久久久久久国产电影| 中文字幕av电影在线播放| 少妇人妻 视频| 午夜福利视频在线观看免费| 免费av中文字幕在线| 欧美黄色片欧美黄色片| 熟妇人妻不卡中文字幕| 国产精品欧美亚洲77777| 久久久久精品久久久久真实原创| 人体艺术视频欧美日本| 国产精品不卡视频一区二区| 嫩草影院入口| 精品卡一卡二卡四卡免费| 一区二区av电影网| 久久久久久久亚洲中文字幕| 日韩 亚洲 欧美在线| av一本久久久久| 国产一区二区 视频在线| 久久久精品免费免费高清| 人人妻人人澡人人爽人人夜夜| 亚洲av欧美aⅴ国产| 一本—道久久a久久精品蜜桃钙片| 男女啪啪激烈高潮av片| 国产黄频视频在线观看| 在线看a的网站| 午夜福利一区二区在线看| 久久国内精品自在自线图片| 少妇猛男粗大的猛烈进出视频| 欧美亚洲日本最大视频资源| 少妇精品久久久久久久| 亚洲国产最新在线播放| 精品卡一卡二卡四卡免费| 热re99久久精品国产66热6| 国产精品久久久av美女十八| 欧美精品一区二区免费开放| 亚洲欧美一区二区三区久久| 最近的中文字幕免费完整| 国产熟女午夜一区二区三区| 国产成人精品久久久久久| 久久精品aⅴ一区二区三区四区 | 欧美黄色片欧美黄色片| 亚洲男人天堂网一区| 97人妻天天添夜夜摸| 亚洲精品久久午夜乱码| 亚洲欧美一区二区三区黑人 | 美女xxoo啪啪120秒动态图| 亚洲成人av在线免费| 91精品三级在线观看| 五月伊人婷婷丁香| 亚洲欧美成人精品一区二区| 亚洲视频免费观看视频| 蜜桃在线观看..| 国产精品嫩草影院av在线观看| 久久精品国产综合久久久| 这个男人来自地球电影免费观看 | 国产一区二区激情短视频 | 久久国内精品自在自线图片| 国产精品免费大片| 国产成人av激情在线播放| 久久韩国三级中文字幕| 欧美亚洲日本最大视频资源| 欧美精品亚洲一区二区| 亚洲av免费高清在线观看| 亚洲色图综合在线观看| 一区二区三区激情视频| 亚洲四区av| 久久精品国产综合久久久| 高清不卡的av网站| 国产精品国产av在线观看| 久久久久久人人人人人| 晚上一个人看的免费电影| 国产爽快片一区二区三区| av在线观看视频网站免费| 满18在线观看网站| 欧美激情高清一区二区三区 | 久久精品国产自在天天线| 免费高清在线观看视频在线观看| 少妇猛男粗大的猛烈进出视频| 亚洲精品第二区| 777久久人妻少妇嫩草av网站| 成年动漫av网址| 中文乱码字字幕精品一区二区三区| 午夜福利视频精品| 婷婷色av中文字幕| 男女啪啪激烈高潮av片| 下体分泌物呈黄色| 国产亚洲精品第一综合不卡| 大陆偷拍与自拍| 国产黄频视频在线观看| 久久久久国产精品人妻一区二区| a级片在线免费高清观看视频| 国产精品亚洲av一区麻豆 | 午夜福利影视在线免费观看| 国产免费现黄频在线看| 亚洲色图综合在线观看| 亚洲欧美日韩另类电影网站| 精品人妻在线不人妻| 桃花免费在线播放| 又大又黄又爽视频免费| 久久精品久久久久久噜噜老黄| 超色免费av| 精品人妻偷拍中文字幕| 国产男人的电影天堂91| 久久精品国产鲁丝片午夜精品| 亚洲美女视频黄频| 久久午夜综合久久蜜桃| 欧美 亚洲 国产 日韩一| 成年美女黄网站色视频大全免费| 五月天丁香电影| 中文字幕亚洲精品专区| 男人添女人高潮全过程视频| 国产在线视频一区二区| 纵有疾风起免费观看全集完整版| 久久av网站| 欧美日韩综合久久久久久| 久久亚洲国产成人精品v| 91精品三级在线观看| 精品少妇黑人巨大在线播放| 久久国产精品大桥未久av| 18在线观看网站| 久久午夜福利片| 人人妻人人添人人爽欧美一区卜| 免费av中文字幕在线| 国产麻豆69| 有码 亚洲区| 亚洲国产av新网站| 亚洲,一卡二卡三卡| 在线观看免费高清a一片| 国产精品免费视频内射| 久久久久久久大尺度免费视频| 午夜精品国产一区二区电影| 狂野欧美激情性bbbbbb| 毛片一级片免费看久久久久| 久久久久久久精品精品| 久久精品亚洲av国产电影网| 欧美xxⅹ黑人| 亚洲精品美女久久av网站| 亚洲精品久久成人aⅴ小说| 成人免费观看视频高清| 波野结衣二区三区在线| 视频区图区小说| 91在线精品国自产拍蜜月| 亚洲五月色婷婷综合| 国产1区2区3区精品| 久久97久久精品| 大片免费播放器 马上看| 超色免费av| 男女啪啪激烈高潮av片| 毛片一级片免费看久久久久| 91成人精品电影| 久久99精品国语久久久| 欧美人与性动交α欧美精品济南到 | 我要看黄色一级片免费的| 日韩中字成人| 交换朋友夫妻互换小说| 精品一区二区三卡| 巨乳人妻的诱惑在线观看| 啦啦啦啦在线视频资源| 男女午夜视频在线观看| 777久久人妻少妇嫩草av网站| 热99国产精品久久久久久7| 丰满迷人的少妇在线观看| 精品久久久久久电影网| 69精品国产乱码久久久| 在线观看免费高清a一片| 天美传媒精品一区二区| 国产激情久久老熟女| 日韩三级伦理在线观看| 久久精品国产综合久久久| 亚洲图色成人| 18禁动态无遮挡网站| 国产精品.久久久| 国产精品久久久久久精品古装| 一本大道久久a久久精品| 高清欧美精品videossex| videossex国产| 亚洲,一卡二卡三卡| 各种免费的搞黄视频| 婷婷色综合大香蕉| 欧美精品人与动牲交sv欧美| 亚洲国产av新网站| 日日撸夜夜添| 一本大道久久a久久精品| 可以免费在线观看a视频的电影网站 | xxx大片免费视频| 国产亚洲午夜精品一区二区久久| 亚洲欧美清纯卡通| 国产精品不卡视频一区二区| 亚洲精品美女久久av网站| 亚洲视频免费观看视频| 女人久久www免费人成看片| 精品少妇黑人巨大在线播放| 五月开心婷婷网| 黄片播放在线免费| 青青草视频在线视频观看| 亚洲国产欧美日韩在线播放| 一级黄片播放器| 乱人伦中国视频| 人妻 亚洲 视频| videosex国产| 国产精品一区二区在线观看99| 久久人妻熟女aⅴ| 国产片内射在线| 亚洲av电影在线观看一区二区三区| 国产精品免费视频内射| 亚洲成人一二三区av| 久久久久久久大尺度免费视频| 精品少妇黑人巨大在线播放| 免费女性裸体啪啪无遮挡网站|