• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論數(shù)據(jù)使用:個人信息保護與數(shù)據(jù)利用的銜接點

    2023-05-30 10:48:04李曉陽
    電子知識產(chǎn)權 2023年2期
    關鍵詞:個人信息保護

    李曉陽

    摘要:個人信息與數(shù)據(jù)利用在法律保護的價值取向和規(guī)則設計上存在著天然的矛盾。個人信息保護法將個人信息處理作為規(guī)范對象,實際上是對數(shù)據(jù)使用行為加以規(guī)制。對數(shù)據(jù)使用的理解成為二者有效銜接的關鍵。解析不同時代技術背景下的數(shù)據(jù)使用后發(fā)現(xiàn),其法律內涵與具體規(guī)則是相互影響變化的。相較于信息的數(shù)字化,大數(shù)據(jù)時代的數(shù)據(jù)使用以實現(xiàn)信息的增量和再創(chuàng)造為目的,呈現(xiàn)出新的核心特征。我國個人信息保護體系的完善,需對增量信息的數(shù)據(jù)使用行為加以判斷,建議在現(xiàn)有規(guī)則下增加用戶感知標準。

    關鍵詞:個人信息保護;數(shù)據(jù)使用;信息增量;用戶感知標準

    2021年6月《數(shù)據(jù)安全法》正式頒布,同年8月《個人信息保護法》正式通過。2022 年 3 月,國務院發(fā)布《政府工作報告》中強調,要“完善數(shù)字經(jīng)濟治理,釋放數(shù)據(jù)要素潛力,更好賦能經(jīng)濟發(fā)展、豐富人民生活”。我國正步入全面依法治理數(shù)據(jù)的新時期,一個新的數(shù)字文明時代已經(jīng)開啟。新時代下,作為生產(chǎn)要素的數(shù)據(jù),如何在安全可控的前提下充分發(fā)揮其效用,是對我國數(shù)據(jù)治理能力的考驗,也是我國建設全球數(shù)字經(jīng)濟新高地必須面臨的挑戰(zhàn)。

    “數(shù)據(jù)使用”是數(shù)據(jù)治理的難點,它聯(lián)結著個體、企業(yè)與政府,承載著最廣泛的數(shù)據(jù)利益和最大范圍的公共安全。在數(shù)據(jù)和個人信息保護的討論中,吸引更多關注的是個人信息的權利設立,希冀以此謀求數(shù)據(jù)使用的治理之道,如數(shù)據(jù)權利的性質與分配問題、數(shù)據(jù)保護中各主體的權利義務,甚至是數(shù)據(jù)使用的合法性判斷標準。然而,數(shù)據(jù)使用的本身卻被忽略了。究竟對數(shù)據(jù)何種程度、何種方式以及何種效果的使用,會使得這一行為落入個人信息保護框架的規(guī)制尚不得而知。大數(shù)據(jù)時代的特殊技術背景,數(shù)據(jù)要素化的使用需求又將賦予數(shù)據(jù)使用何種新的特征?

    故而,本文將從數(shù)據(jù)使用的理論困惑著手,探尋數(shù)據(jù)使用的歷史演進脈絡,解析數(shù)據(jù)使用的核心特征,以紓解數(shù)據(jù)使用的理解與判斷之難。

    一、理解數(shù)據(jù)使用的必要性

    權利抑或法益,是個人信息保護的學術迷思。已有研究試圖對民法典進行教義學分析的努力,但沒有得出唯一解,這部分反映出數(shù)據(jù)要素的市場化配置與傳統(tǒng)民法權利理論體系的割裂。很多學者使用“公地悲劇”刻畫信息(或數(shù)據(jù))權利化的迫切性,但這或許不是一個恰當?shù)谋扔鳌?shù)據(jù)并非土地,其高度聚合可提高解決不確定性的能力,而非削減要素的附加值,造成濫用的,是數(shù)據(jù)使用的方式,而非數(shù)據(jù)被使用的事實。

    為此,《個人信息保護法》第44-50條,以個人信息處理活動為前提,以“知情-同意”、刪除、可攜帶等方式,賦予數(shù)據(jù)主體“用腳投票”的能力,以抵御不恰當?shù)臄?shù)據(jù)使用方式?!稊?shù)據(jù)安全法》更是以“規(guī)范數(shù)據(jù)處理活動”為基本出發(fā)點,要求建立自律機制,以防范數(shù)據(jù)濫用。總體上,《個人信息保護法》與《數(shù)據(jù)安全法》,分別從個人權益保護層面和宏觀數(shù)據(jù)安全層面,共同為個人信息保護構建了一個基本框架,以數(shù)據(jù)使用行為為節(jié)點,調節(jié)著數(shù)據(jù)在保護和利用之間的矛盾。對數(shù)據(jù)使用的理解達成有效共識,可有效銜接數(shù)據(jù)的保護和利用,使之成為法律良好適用的關鍵。

    (一)明確個人信息的“處理”范圍

    兩部法律都采用了“處理”一詞,用以指代數(shù)據(jù)處理者對數(shù)據(jù)做出的各種利用行為?!秱€人信息保護法》中個人信息的“處理”包括“個人信息的收集、存儲、使用、加工、傳輸、提供、公開、刪除等”,《數(shù)據(jù)安全法》中數(shù)據(jù)“處理”包括“數(shù)據(jù)的收集、存儲、使用、加工、傳輸、提供、公開等”,二者在“處理”一詞的定義上相差無幾。但是,對“處理”的含義明定,僅僅描述了數(shù)據(jù)處理的基本操作單元,卻無法反映數(shù)據(jù)使用的價值流轉方式。然而,個人信息處理卻在個人信息保護法中,被賦予了界定規(guī)范對象和邊界的雙重價值。在大數(shù)據(jù)技術背景下,互聯(lián)網(wǎng)對日常生活的全面介入,意味著海量數(shù)據(jù)每時每刻都在不同互聯(lián)網(wǎng)平臺、數(shù)據(jù)經(jīng)營者之間流轉,更多的數(shù)據(jù)利用場景因價值鏈的重塑而被創(chuàng)造。個人信息以及個人信息處理行為,均處于內涵與外延高速變化的狀態(tài),這也是為何需要通過專門的個人信息保護法來規(guī)范個人信息處理。

    這一規(guī)則要得以適用,哪些信息屬于個人信息,是首要面對的問題。為此,部分國家和地區(qū)引入了“可識別性”標準,用以判定部分數(shù)據(jù)使用行為是否屬于對個人信息的使用,為個人信息保護提供了落地的接口。我國《民法典》第1034條第2款、第1038條和《個人信息保護法》第4條第1款,均以“可識別性”為標準,判斷納入個人信息保護之范疇,只不過《民法典》第1034條還列舉了具體信息類型。但在當前的數(shù)據(jù)處理技術條件下,大量碎片信息的重新組合,可再次發(fā)揮“可識別性”功能。這極大地模糊了個人信息概念的外觀,因為“可識別性”主要是用以評價數(shù)據(jù)匿名化處理的結果,而非個人信息的特征與屬性。有學者也注意到這一問題,提出因為可識別性的嵌入,令學界始終難以說明,何種人格權益受個人信息法律保護。

    然而,概念的模糊,不會令數(shù)據(jù)使用活動陷入停滯,也不會讓個人和數(shù)據(jù)處理者的數(shù)據(jù)使用需求消失。真正令人困惑的是,將模糊的概念作為利益分配的依據(jù)是否恰當,它是否可以恰如其分地安排:哪些數(shù)據(jù)使用活動需停止,哪些數(shù)據(jù)使用需求又可得到滿足。這是問題的關鍵。如果沒有信心界定一個清晰的概念,那么,哪些信息屬于個人信息的問題,事實上將會轉換為,哪些使用行為將納入個人信息保護的范疇。也就是說,判斷的關鍵點,從個人信息這一客體,轉變?yōu)榱藢?shù)據(jù)使用行為的判斷。如果說個人信息權利的內涵,決定了個人的何種權利在個人信息處理活動中能夠得到保護,其外延則決定了個人對其個人信息的支配能力能夠延伸到何處。由此,“數(shù)據(jù)使用”的內涵更是從行為判斷上直接決定了這一支配能力的實際邊界。

    這種暗度陳倉的做法,已然體現(xiàn)了我國個人信息保護的現(xiàn)實。盡管個人信息保護在“處理”的內涵與外延上,盡力列舉了信息使用的各類技術環(huán)節(jié),但對個人信息的保護,更多還是關注數(shù)據(jù)使用的場景和方式,如數(shù)據(jù)使用應遵循最小必要原則(《個人信息保護法》第6條)、要求公開數(shù)據(jù)使用的方式(《個人信息保護法》第7條、第17條、第48條)、數(shù)據(jù)使用方式的變更需重新取得個人同意(《個人信息保護法》第14條、第15條)、限制或拒絕針對個人信息的特定數(shù)據(jù)使用情形(《個人信息保護法》第44條、第46條)。換言之,個人信息保護的重點,不在于靜態(tài)地判斷某一信息屬于或不屬于個人信息,而是聚焦于不同情境之下數(shù)據(jù)使用的動態(tài)規(guī)范,即追問:何種數(shù)據(jù)使用行為需要被個人信息保護法所調整?它需要被制止、限制抑或進行利益再分配?而回答這一問題的首要障礙是何謂數(shù)據(jù)使用,這也是本文試圖回答的問題。

    (二)利益沖突的調和

    關于個人信息保護的理論闡釋,通常會忽略一個事實:數(shù)據(jù)主體往往沒有能力對數(shù)據(jù)進行儲存、處理、開發(fā)、利用,而數(shù)據(jù)使用往往又需要投入相當?shù)某杀?。人力、服務器、算力等資源被不斷投入至數(shù)據(jù)的收集、存儲、使用、加工、傳輸?shù)拳h(huán)節(jié)。以供需為支點,個人與個人信息處理者如同銜尾蛇一般,共同編織著浩瀚無垠的賽博空間。《個人信息保護法》的介入,打開了銜尾蛇自我咬合的閉環(huán),前者允許個人以拒絕、修改、刪除等方式,選擇退出卷入數(shù)據(jù)處理的洪流。

    這是一個新的治理格局,數(shù)據(jù)主體重新掌握部分自主權,打開了價值雙向流動的通路,也帶來了新的利益沖突。在理想狀態(tài)下,受制于數(shù)據(jù)主體的知情權與控制權,數(shù)據(jù)濫用行為將因用戶的退出而難以為繼,監(jiān)管主動性增強,數(shù)據(jù)要素在市場主體之間合規(guī)、有序、健康地流動。可一旦利益調和失序,權利的界限會變得模糊。一方面,這將使得部分數(shù)據(jù)主體受天然的隱私需求驅使,本能地拒絕來自數(shù)據(jù)處理者的使用請求(即使數(shù)據(jù)使用達到完全的合規(guī)標準,拒絕數(shù)據(jù)處理者對數(shù)據(jù)的收集、利用請求也將成為數(shù)據(jù)主體的首選)。數(shù)據(jù)要素化所需的數(shù)據(jù)聚合成本增高,導致更多的數(shù)據(jù)孤島出現(xiàn)。另一方面,這也可能變相推動部分數(shù)據(jù)主體維權套利,各地法院、主管部門因濫訴而加重負擔,加強合規(guī)監(jiān)管,又將推高數(shù)據(jù)要素的流動成本,中小企業(yè)因合規(guī)成本高企,難以開展數(shù)據(jù)服務,反而加劇了數(shù)據(jù)壟斷。

    因實施時間尚短,《個人信息保護法》的實際影響眼下還沒有足夠的實證材料得以探尋,又因法律配套細則尚在制定,當前仍有較大的制度空間,以規(guī)避治理失序情形的出現(xiàn)。罔顧任何一方利益,都無異于將特洛伊木馬放置于數(shù)字經(jīng)濟的中心,平衡各方利益的支點成為各方著力尋找的目標,即:關于數(shù)據(jù)使用,應在何種價值立場之上,予以支持或拒絕,方可調和兩者潛在利益沖突。

    事實上,不同立法在不同價值取向的選擇上,存在著變化與區(qū)別的同時也在探索利益調和的不同路徑。一方面,圍繞個人信息的收集、處理,《個人信息保護法》呈現(xiàn)出一種向內回收的價值導向,其建立了完整的處理規(guī)則與明晰的權利義務,甚至在該法第58條加強、壓實互聯(lián)網(wǎng)平臺企業(yè)的主體責任,但也在該法第13條首次增加了除“同意”之外的合法性基礎,且第20條至第23條還明確了個人信息的共享規(guī)則。另一方面,《數(shù)據(jù)安全法》更加審慎看待數(shù)據(jù)在開發(fā)利用與安全保障之間的相互促進關系,以數(shù)據(jù)安全保護義務為核心,通過數(shù)據(jù)安全的測評、認證進行監(jiān)管,把握個人信息流轉的總體安全,除數(shù)據(jù)跨境之外,未對更多數(shù)據(jù)使用場景做出特別規(guī)定,希冀達到引導數(shù)據(jù)價值外放的效果,呈現(xiàn)出審慎包容的價值特點。以保護個人權利和數(shù)據(jù)安全為共同目標,二者努力調和著數(shù)據(jù)使用內收與外放的價值矛盾,共同構建起數(shù)據(jù)治理的基本框架。

    作為全球數(shù)字治理的中國方案,個人信息保護法的出臺只是起步。當前,全球已有137個國家通過立法保護個人信息和隱私,數(shù)據(jù)要不要使用、能不能使用的問題,已見真章。下一步,能否妥善解決如何使用以及利益歸屬等問題,將成為新一輪全球數(shù)字經(jīng)濟發(fā)展的關鍵。對數(shù)據(jù)使用的理解,是銜接發(fā)展與規(guī)范的橋梁。為此,需要更進一步梳理數(shù)據(jù)使用的法律內涵變遷,找準利益調和的平衡支點。

    二、數(shù)據(jù)使用的法律內涵變遷

    信息之所以為信息的本質訴求,需要通過對信息的充分利用才能得以實現(xiàn)。換言之,信息技術手段的改變,將影響數(shù)據(jù)使用的內涵變遷,從前數(shù)據(jù)時代、數(shù)據(jù)時代再到大數(shù)據(jù)時代,技術手段的轉變,對法律如何看待數(shù)據(jù)使用的行為性質,起到?jīng)Q定性的作用。長期以來,歐洲的數(shù)字產(chǎn)業(yè)并不發(fā)達,這也使得歐洲立法者更多站在受眾的視角,觀察數(shù)據(jù)使用的實際效果與社會影響,這是一個理想的分析樣本。通過厘清歐洲各國在不同時代技術背景之下對數(shù)據(jù)使用的不同認識,可以看到:(1)一旦數(shù)據(jù)使用產(chǎn)生新的信息增量,圍繞著增量部分,法律需要對其重新進行調整;(2)大數(shù)據(jù)時代需要什么樣的法律規(guī)則,探索的路還很長,對數(shù)據(jù)使用的解釋與限制,是研究的諸多起點之一。

    (一)前數(shù)據(jù)時代

    二十世紀五十年代,借助二進位制和程序存貯,第一代計算機把個人信息轉化為電子數(shù)據(jù),它完成了信息的數(shù)字化過程。但這僅限于改變了信息的儲存形式,并未改變數(shù)據(jù)與信息一體兩面的關系,故本文將其稱為前數(shù)據(jù)時代。這一時期,以歐盟為代表的數(shù)據(jù)政策與立法,將數(shù)據(jù)保護的重點,放在防止公權力對個人信息的濫用,因為個人在戶籍登記的各類信息是最易被泄露的,而獨立、完整的數(shù)據(jù)使用概念尚未孕育,其法律適用規(guī)則還完全依托于隱私保護。

    由于信息技術尚未普及至人們的日常生活,個人信息的收集和擴散規(guī)模都相當有限,即使發(fā)生個人信息泄露,其產(chǎn)生的損害也是有限的,通過傳統(tǒng)的侵權責任規(guī)則即可解決。立法上則分散體現(xiàn)于歐盟條約(EU Treaty)第6條、歐共體條約(EC Treaty)第286條、歐盟基本權利憲章(Charter of Fundamental Rights)第8條之中。最早可以追溯到“人權與基本自由歐洲公約”(ECHR)第8條,其規(guī)定了“個人享有私人和家庭生活得以被尊重的權利”,以及能夠對這一權利進行限制的條件。其中,“私人和家庭生活的權利”為發(fā)生在當時的個人信息泄露案件,提供了尋求法律保護的依據(jù)。

    在此階段,對于普羅大眾而言,信息技術的出現(xiàn)并沒有改變信息產(chǎn)生方式,數(shù)據(jù)只是個人信息手寫記錄的直接映射,對數(shù)據(jù)所承載的個人信息的非法利用,是當時法律對數(shù)據(jù)使用最常見的關切。判斷是否屬于非法利用的標準,亦是對于數(shù)據(jù)主體私人生活安寧的非法干擾和私人秘密的非法收集、刺探和公開,這也符合傳統(tǒng)隱私權的定義。 法院通過對“私人和家庭生活”的擴大解釋,使當時由個人數(shù)據(jù)泄露引起的糾紛得以平息。這一時期的數(shù)據(jù)使用與傳統(tǒng)的信息使用并無二致,電子數(shù)據(jù)的使用僅僅是為信息提供了一種新的儲存方式,因而當時的立法也未對數(shù)據(jù)使用做出特殊的安排。

    (二)數(shù)據(jù)時代

    1971年世界上第一臺微處理器在美國硅谷誕生,開創(chuàng)了微型計算機的新時代,應用領域從科學計算、工業(yè)生產(chǎn)逐步走向家庭與個人,數(shù)字化的信息處理技術使得個人信息搖身一變?yōu)閭€人數(shù)據(jù),數(shù)據(jù)時代由此正式開啟。

    數(shù)據(jù)使用的場景逐漸豐富,衍生出大量的新信息。社交軟件、電子郵件、網(wǎng)絡購物等依托于網(wǎng)絡的新型信息互動形式的出現(xiàn),產(chǎn)生了一系列從未見諸過紙面的關于個人的信息記載。起初,人們興奮于高效便捷的新體驗,但很快,人類對關于自身的信息逐漸失去掌控能力,這種控制力的減弱帶給人們以不安。精準營銷、垃圾郵件、騷擾電話等數(shù)據(jù)不當利用現(xiàn)象愈演愈烈??茖W技術逐漸成為現(xiàn)代文明的神,它帶給人們以愉悅的同時也讓人們感到恐懼。伴隨技術發(fā)展而來的是權力上的越位,亟待法律對它予以回應。

    歐洲敏感的立法者們很快意識到,信息技術的迅猛發(fā)展、新的信息類型的出現(xiàn),使得過去對數(shù)據(jù)使用的理解變得捉襟見肘。正如隱私權的產(chǎn)生,源于文明的進展給人們帶來了緊張的智力生活和情感生活,并增強人們對此的感受能力,這讓人們清楚認識到生活中只有小部分的苦痛、愉悅和受益來自于物質世界。 互聯(lián)網(wǎng)與新型計算機技術的出現(xiàn),更是極大地增強了人們對精神生活的敏銳感受。此外,ECRH第8條所規(guī)定“私人和家庭生活”的內涵存在嚴重的不確定性,這種不確定性使得隱私權內容,在面對社交軟件、電子郵件等新場景時,表現(xiàn)出極大的局限性。具體而言,對數(shù)據(jù)使用的判斷,將不再限于隱私權框架下私人生活安寧的非法干擾和私人秘密的非法收集、刺探和公開。

    如何在日益廣泛的數(shù)據(jù)使用行為中保護個人權利,成為問題。一項單獨的數(shù)據(jù)保護公約于1981年在斯特拉斯堡通過,即《個人數(shù)據(jù)自動化處理中的個人保護公約》(也被稱為“第108號公約”)。這是第一個有關個人數(shù)據(jù)保護的國際公約。第108號公約在第一條中就表明“數(shù)據(jù)保護,即在處理與其有關的個人數(shù)據(jù)方面保護個人的基本權利和自由,特別是其隱私權。”這表明,當時的立法者已經(jīng)認識到“數(shù)據(jù)保護”比“隱私保護”更廣泛,因為它所涉及的內容不僅限于隱私權的范圍,還涉及個人的其他基本權利和自由;同時也更具體,因為隱私權的內涵十分廣闊,而數(shù)據(jù)保護則專注于個人數(shù)據(jù)的使用。數(shù)據(jù)使用,正式成為了一項單獨被法律考察的行為。

    (三)大數(shù)據(jù)時代

    如果說互聯(lián)網(wǎng)的出現(xiàn),令無以計數(shù)的數(shù)據(jù)不斷拓展著賽博空間的邊界,那么,數(shù)據(jù)處理技術的成熟與發(fā)展,令數(shù)據(jù)使用的規(guī)模邁向一個新的階段——信息發(fā)現(xiàn)。信息作為一種依賴于物質本身的客觀存在,人的挖掘發(fā)現(xiàn)能力越強,其被發(fā)現(xiàn)的可能性也就更大。當承擔發(fā)現(xiàn)任務的主體從人變?yōu)闄C器時,這種發(fā)現(xiàn)行為造成的影響也將產(chǎn)生質變。試舉一例,A某連續(xù)數(shù)日手持紙筆站在一個路口,將經(jīng)過該路口的每一個行人的性別、衣著、年齡以及通行方向等可觀察現(xiàn)象加以記錄,并統(tǒng)計成冊。這種田野調查的方式在生活中十分常見,行人對他的記錄行為未置可否,但也鮮少會引起特別關注而被加以阻止。但是,如果將這一行為置于互聯(lián)網(wǎng)環(huán)境中,由自動化計算資源來完成這一任務,面對的問題就截然不同了。如果此時A某作為一個互聯(lián)網(wǎng)運營商,其運營管理的網(wǎng)絡平臺成為了被觀察的路口,通過處理其收集的數(shù)據(jù),可進一步加工成為某種數(shù)據(jù)產(chǎn)品,這樣的行為天然就很容易引起用戶反感。

    究其原因,是人類在未知的力量面前所展現(xiàn)出的恐懼。數(shù)據(jù)使用,因量變引起質變。在數(shù)據(jù)時代,人們尚知曉(只是難以控制)因應用場景豐富而衍生的信息內容,但在大數(shù)據(jù)時代,人們對于自身被何種程度地獲取了信息,以及信息利用對自身可造成的影響一無所知。在技術面前,人類的力量似乎太過弱小。在對原因無知的情況下,人類會感到自己好像是在黑暗中一樣,恐懼始終伴隨著人類。這也是為何當數(shù)據(jù)主體獲得選擇權利的時候,拒絕數(shù)據(jù)被使用會成為首選。人對隱私的需求是天然的、已知的,而數(shù)據(jù)使用的后果卻是未知的,同時充滿無限可能,人類對負面影響的想象成為限制數(shù)據(jù)使用強有力的內在驅動。

    一方面,自互聯(lián)網(wǎng)技術誕生以來,這樣一種疑惑從未停止:人們是否具備相應能力,駕馭信息技術日新月異的發(fā)展。這種疑惑的產(chǎn)物之一是,不少學者提出,在數(shù)據(jù)使用方面,存在不少“道德上可疑的并可能被視為違法”的技術。 另一方面,在人們尚未能觸及的范圍內,數(shù)據(jù)的規(guī)模和價值正在經(jīng)歷爆炸式增長。新的數(shù)據(jù)使用行為,擴展了信息消除隨機不確定性的方式,它正在改變信息的生產(chǎn)模式。

    因此,一系列旨在規(guī)范數(shù)據(jù)使用行為的法律法規(guī)連續(xù)出臺。1995年10月,歐盟委員會頒布了《關于涉及個人數(shù)據(jù)處理的個人保護以及此類數(shù)據(jù)自由流動的指令》(即“95數(shù)據(jù)保護指令”),并以此為核心接連頒布了《關于與歐共體機構和組織的個人數(shù)據(jù)處理相關的個人保護以及關于此種數(shù)據(jù)自由流動的規(guī)章》[Regulation (EC) 45/2001]、《關于隱私和電子通信指令》(2002/58/EC)等關于網(wǎng)絡電子數(shù)據(jù)的系列歐洲條約。一直到被稱為史上最嚴格的數(shù)據(jù)保護立法《通用數(shù)據(jù)保護條例》(GDPR)于2016年在歐盟議會批準通過,2018年正式實施。

    至此,關于數(shù)據(jù)使用,已經(jīng)形成了一個具有強大影響力的數(shù)據(jù)保護框架。如何有效控制數(shù)據(jù)處理者對個人數(shù)據(jù)的使用,成為這個數(shù)據(jù)保護框架的核心。而早前也有學者指出,數(shù)據(jù)保護應聚焦于“生成的過程”,更關注于預防性的救濟方式,更關注于個人信息保護的團體價值,超越了個體訴訟的救濟面向,更關注于構建公、私法結合的多元治理框架。就影響力而言,GDPR的出臺成為個人信息保護的里程碑事件,各國立法者愈發(fā)著迷于對數(shù)據(jù)處理者的限制,強調對數(shù)據(jù)主體的保護,卻忽略了作為利益平衡支點的數(shù)據(jù)使用。而就實施效果而言,GDPR廣受爭議,盡管歐盟議會在該法實施兩年發(fā)布評估報告,贊揚數(shù)據(jù)主體的權利意識增強,但也坦言投訴門檻過低導致監(jiān)管機構已不堪重負,中小企業(yè)特殊豁免未落實處,且在新技術運用的問題上態(tài)度搖擺。此外,雖然歐盟議會的評估報告并未摘錄對數(shù)字產(chǎn)業(yè)的影響評估,但更早前的報告指出,GDPR對歐洲科技創(chuàng)業(yè)投資者帶來不利影響,降低融資總額、交易數(shù)量和每筆融資交易金額。

    從歐洲的立法經(jīng)驗來看,法律對于數(shù)據(jù)使用的理解總是受制于當下技術背景和社會發(fā)展。為此,照搬已有的域外經(jīng)驗顯然很難滿足當下我國數(shù)字經(jīng)濟發(fā)展對數(shù)據(jù)使用的需求。大數(shù)據(jù)時代,我國數(shù)據(jù)治理需要什么樣的法律規(guī)則,更要求抓住數(shù)據(jù)使用的本質特征從而形成新的理解。

    三、重談數(shù)據(jù)使用的理解

    相較于其他法律制度,數(shù)據(jù)保護在幾十年里飛速發(fā)展變革。一方面是“數(shù)據(jù)”本身通過規(guī)模、質量、多樣性等完成了蛻變,另一方面“數(shù)據(jù)使用”所涉及的法律領域也得以擴展。在這雙重的巨變之下,相較于傳統(tǒng)的信息使用,數(shù)據(jù)使用實現(xiàn)了信息總量的突破。換言之,在大數(shù)據(jù)時代,數(shù)據(jù)使用的本質特征,是以對數(shù)據(jù)信息的發(fā)現(xiàn)與再創(chuàng)造為目的。

    (一)傳統(tǒng)信息使用:保持信息總量不變

    傳統(tǒng)信息使用具有極高的穩(wěn)定性,無論如何改變使用形式都保持信息總量不變。由通訊工程師克勞德·香農(nóng)(Claude Shannon)建立的“現(xiàn)代信息論”認為,人類通信的目的是消除知識上的“不確定性”。因此,在信息傳遞中用以消除不確定性的東西就是信息。為了達到這一目的,通信工作的任務就是將信息原原本本地從信源傳遞到信宿。換句話說,信息傳遞后接收者獲取的信息,在數(shù)量上應等于傳遞前后“不確定性”的消除量。

    傳遞過程中,為了將信息傳遞到不同的設備或環(huán)境,產(chǎn)生了各種信息加工的動作,也導致了多種形式的信息形態(tài),例如符號、文字、電波或電子數(shù)據(jù)等。從香農(nóng)信息論的數(shù)學原理來看,他賦予信息以數(shù)學的形式,將通信過程中的信息加工變?yōu)閲栏竦臄?shù)學運算:如果一個信源的實際信息熵小于其占用的編碼空間,那么,就可以對信源參數(shù)做一種編碼壓縮的數(shù)學變換,使新編碼所占用的空間,可以壓縮到接近甚至等于原始信源的信息熵。這樣,就可以用較少的信道容量完成通信而不丟失信息。如信道中有干擾,則增加相應的監(jiān)督碼量來糾錯而保證信息的無損傳輸,最后在接收端,還要做一種譯碼的數(shù)學反變換,以完整地恢復原始信號。在此過程中產(chǎn)生的信息加工行為,從最終結果來看,并未使得信息在數(shù)量或質量上發(fā)生改變。前數(shù)據(jù)時代和數(shù)據(jù)時代中,大多數(shù)的數(shù)據(jù)使用行為,均符合前述特征。

    不產(chǎn)生新的信息增量,是傳統(tǒng)信息使用的特點。為完成消除不確定性這一目的而發(fā)起的信息傳輸,不論信息形態(tài)因信息加工或信息利用方式發(fā)生何種改變,未曾改變的是信息的“同型結構”。信息同型結構的穩(wěn)定性,使得任何形態(tài)的信息都能夠精確消除其對應的不確定性。因此,也有觀點認為這一意義上的信息利用都是以對信息的復制為目的的。根據(jù)這一理解,無論以何種形式進行傳輸?shù)男盘枺瓌t上都是依賴于同型結構以維持其穩(wěn)定性。也就是說,人們通過對話、歌曲、書信、繪畫等各種方式所進行的交流,從信息交換的角度來說,不過是同型結構所依賴的傳輸介質不同而已。

    (二)大數(shù)據(jù)時代數(shù)據(jù)使用:實現(xiàn)信息總量突破

    隨著數(shù)據(jù)科學的出現(xiàn)與發(fā)展,數(shù)據(jù)從信息的消費品成為了信息的生產(chǎn)資料。至此,才出現(xiàn)了大數(shù)據(jù)時代的“數(shù)據(jù)使用”。經(jīng)過大數(shù)據(jù)、人工智能等新型信息技術處理之后,數(shù)據(jù)的價值和利用方式發(fā)生了巨大變化。信息傳遞的目的不僅限于對特定“不確定性”的回應,新型信息技術對于信息的利用也不再局限于信息本身所涵蓋的內容。當信息熵的數(shù)量突破一定規(guī)模,香農(nóng)信息論中的 “不確定性”“概率”等關鍵要素就可能被打破。

    在大數(shù)據(jù)時代,“數(shù)據(jù)使用”以對數(shù)據(jù)所承載信息的挖掘與再創(chuàng)造為目的。這是數(shù)據(jù)使用區(qū)別于傳統(tǒng)信息使用的核心特征。此前,數(shù)據(jù)是一個一個毫無關聯(lián)的符號,它們彼此孤立而無法被加工解釋,隨著人類探索客觀世界運行規(guī)律的需求逐漸強烈,這些記錄了各類信息的數(shù)據(jù),成為了人們開展分析的原料。大數(shù)據(jù)技術通過不斷增大原始數(shù)據(jù)的規(guī)模、增長速度和多樣性來實現(xiàn)數(shù)據(jù)的跨界集成。不同領域產(chǎn)生的多個數(shù)據(jù)集指向不同的現(xiàn)實,這些看似毫無關聯(lián)的數(shù)據(jù)達到一定規(guī)模時,就可能產(chǎn)生隱含關聯(lián)性的融合數(shù)據(jù)。這些不同領域的數(shù)據(jù)在進行處理時,不是簡單地通過模式映射和實體識別進行集成,而是在經(jīng)過數(shù)據(jù)清洗、數(shù)據(jù)解析之后,進入到全新的數(shù)據(jù)管理系統(tǒng)之中。人工智能技術的發(fā)展,又使得數(shù)據(jù)分析、挖掘、處理的能力愈發(fā)強大,看似不相關的數(shù)據(jù)被有機的聯(lián)系起來,形成超越數(shù)據(jù)本身承載的新信息。原始數(shù)據(jù)所依賴的信息結構,在這個過程中發(fā)生根本變化,形成新的信息增量。通過挖掘與分析,人們可以建立數(shù)據(jù)之間的關聯(lián),總結出規(guī)律性的結論,并用于回答某些問題。

    從個人信息到個人數(shù)據(jù),是相同信息同型結構下不同的外在表現(xiàn)形式,若繼續(xù)將個人數(shù)據(jù)加工成為數(shù)據(jù)產(chǎn)品,將會經(jīng)歷相同表現(xiàn)形式下,信息同型結構的改變。這導致的結果是,不同載體下信息產(chǎn)生、傳遞、處理的速率,三者共同造就了數(shù)據(jù)信息容量的變化。如果說經(jīng)由電子輸入,將個人信息轉化為個人數(shù)據(jù)的處理容量為“1”,那么,經(jīng)過數(shù)據(jù)使用,將個人數(shù)據(jù)轉化為數(shù)據(jù)產(chǎn)品的處理容量則為“100”。這是數(shù)據(jù)科學發(fā)展產(chǎn)生的現(xiàn)實后果。數(shù)據(jù)使用的效果不再局限于提供原始數(shù)據(jù)的某個個人存在或具體行為,而是能夠反映出某些事物的內在邏輯與規(guī)律。

    因此,在大數(shù)據(jù)時代,對個人數(shù)據(jù)進行處理的結果(即實現(xiàn)信息總量突破的部分),成為了一種完整、獨立的存在,它不再納入個人信息保護的規(guī)制范圍。個人信息保護法律的規(guī)制對象,實際上是針對個人信息發(fā)起的數(shù)據(jù)使用行為,其需要調整的,是數(shù)據(jù)使用過程中權利義務的分配沖突。如何在此過程中,規(guī)范個人信息處理活動、促進個人信息合理利用,將成為個人信息利益保護的直接映射。同時,在數(shù)據(jù)治理問題上造成巨大困擾的是,由數(shù)據(jù)使用產(chǎn)生的增量信息的保護。當下數(shù)字經(jīng)濟發(fā)展,數(shù)據(jù)要素市場建構中,希冀通過數(shù)據(jù)使用來實現(xiàn)數(shù)據(jù)要素生產(chǎn)力作用的,正是這些“增量信息”:它們既不符合個人信息的定義與功能,無法落入個人信息保護的框架;又是經(jīng)過個人信息的處理而來,無法當然屬于數(shù)據(jù)的處理與使用者;還因為數(shù)據(jù)技術的發(fā)展具有使用后果上的無限可能,引起數(shù)據(jù)主體的警覺與反感。當下個人信息保護框架要為其提供規(guī)制,可以在現(xiàn)有體系下引入新的數(shù)據(jù)使用的判斷方法。

    四、增量信息的數(shù)據(jù)使用判斷

    在數(shù)據(jù)生產(chǎn)過程中,被描述者和記錄者的分離,是導致數(shù)據(jù)權利分配沖突的根本原因。數(shù)據(jù)使用過程中,信息總量的突破,產(chǎn)生了增量信息,導致數(shù)據(jù)主體和數(shù)據(jù)處理者的控制邊界模糊。從現(xiàn)有對個人數(shù)據(jù)的定義來看,對數(shù)據(jù)使用行為的規(guī)制,多采用一種類型化的思維,通過區(qū)分個人數(shù)據(jù)與非個人數(shù)據(jù),判斷具體數(shù)據(jù)使用行為應受到的限制。在數(shù)據(jù)使用產(chǎn)生的增量信息出現(xiàn)后,這一判斷標準的局限性愈發(fā)明晰,需加入用戶感知作為新的判斷要件。

    (一)現(xiàn)有標準及其局限性

    從現(xiàn)有立法來看,無論是《個人信息保護法》還是GDPR,都將調整對象鎖定在個人數(shù)據(jù),從而對個人數(shù)據(jù)與非個人數(shù)據(jù)做出區(qū)分。區(qū)分二者的標準是,被使用的用戶數(shù)據(jù),是否可以識別用戶身份,或者結合其他信息后是否能達到身份識別的功能。換言之,在個人數(shù)據(jù)與非個人數(shù)據(jù)二元劃分體系下,數(shù)據(jù)使用的判斷標準完全依賴于數(shù)據(jù)的內容功能。早前已有學者認識到,這種建立在數(shù)據(jù)與個人的關聯(lián)程度之上的分類方式,更多是通過當事人間的合意來消弭諸多的潛在法律風險。大數(shù)據(jù)時代,新的利益主體和角色的出現(xiàn),代表著社會對個人信息的利用訴求,數(shù)據(jù)使用對現(xiàn)有標準提出了巨大挑戰(zhàn)。

    “數(shù)據(jù)使用”針對數(shù)據(jù)所承載信息的挖掘和再創(chuàng)造,決定了存在著數(shù)據(jù)的內容功能與數(shù)據(jù)使用的實際效果并不一致的情形。數(shù)據(jù)處理者通過“隱私條款”“用戶協(xié)議”等方式與數(shù)據(jù)主體達成合意,對個人數(shù)據(jù)進行收集和加工。用戶同意范圍內被收集的數(shù)據(jù),經(jīng)過技術處理之后,往往會產(chǎn)生數(shù)據(jù)內容本身所沒有的信息。這種數(shù)據(jù)使用所能產(chǎn)生的實際效果,早已超出了用戶的控制范圍,甚至連數(shù)據(jù)處理者自身在收集數(shù)據(jù)時都無法準確預判。這一方面是數(shù)據(jù)立法中透明性原則想要解決的問題,另一方面也證明了控制數(shù)據(jù)的來源類型無法達到對數(shù)據(jù)使用的實際控制。甚至,連闡明個人信息保護的是何種法益,都成為學界長期爭議的焦點。在實然層面,與物理世界中數(shù)據(jù)的產(chǎn)生需要特別加以記錄的行為不同,網(wǎng)絡空間本身即是數(shù)據(jù)構成,任何行為、事件都會導致數(shù)據(jù)的產(chǎn)生。與個人相關的數(shù)據(jù)枚不勝數(shù),即使個人信息保護的特定法益,被清楚地闡釋,也很難推定個人對其數(shù)據(jù)的支配范圍。因為在特定損益結果發(fā)生之前,幾乎無法證成可支配數(shù)據(jù)與特定法益之間的因果關聯(lián)。當然,可以預先假定,某一類型數(shù)據(jù)與個人法益損害存在高度相關性,而這一假定的結果,正造就了可識別性標準的提出,以及個人數(shù)據(jù)與非個人數(shù)據(jù)的區(qū)分。因此,可識別性標準,并非某種特定法益的外化表達,而是銜接數(shù)據(jù)使用與損益結果的橋梁,以減少個人對其數(shù)據(jù)可支配范圍的模糊性。

    而各國法律在面對數(shù)據(jù)使用的實際效果時,都向后退了一步。我國《個人信息保護法》明確將“匿名化處理后的信息”排除在外,GDPR以“匿名化信息”(Pseudonymisation)的定義,提出“如果沒有額外信息就不能識別數(shù)據(jù)主體的處理方式”(GDPR第4條),美國加州隱私法也提出近似的概念(加州民法典第1798.140條),匿名化、假名化、去標識化,成為數(shù)據(jù)處理者的有力盾牌。但是,一個容易被觀察到的經(jīng)驗事實是,只要數(shù)據(jù)的規(guī)模越大,信息碎片之間的聯(lián)系被發(fā)現(xiàn)的可能性就越高,結合額外信息的技術路徑并不隱蔽。雖然GDPR仍將匿名化信息納入調整范圍,但適用更寬松的處理規(guī)則,而加州隱私法則要求“附加信息應單獨保存……確保不能再被關聯(lián)到已識別或可識別的消費者”,總體上,邊界非常模糊。這是數(shù)據(jù)使用行為造成隱私顧慮的原因之一,也是個人信息保護系統(tǒng)邏輯下“科技系統(tǒng)”與“法律系統(tǒng)”彼此區(qū)隔的表現(xiàn)。然而,無法預先洞見技術能力的邊界,是數(shù)據(jù)立法的常態(tài),而實際的問題是,在充滿著變化與可能的數(shù)據(jù)使用的實際效果中,如何能精確地尋找其中的不利因素,進行動態(tài)、彈性的治理。

    (二)用戶感知標準的引入

    重塑個人數(shù)據(jù)的分類基礎,或者擴大解釋身份識別功能,可能造成已經(jīng)取得的共識(分類基礎)模糊化,且動搖個人數(shù)據(jù)原有的權利體系構造,因而并非解決以上問題的可取之道。然而,對數(shù)據(jù)使用行為的規(guī)制不應就此卻步,而應當在以識別用戶身份的適用規(guī)則外,加入新的判定標準。

    1.用戶感知標準的作用

    用戶如何認識數(shù)據(jù)使用行為的影響,是設立新的判斷標準的關鍵。這是一項主觀標準,即:在特定場景下普通用戶明確感知自身的個人信息被使用,且這一使用行為超出約定的使用目的和使用范圍,一旦判定成立,即應納入個人信息的保護范圍。這一標準,可作為可識別性的補充。在功能上,用戶感知標準并不能直接厘清個人對其數(shù)據(jù)的可支配范圍,只是因支配范圍模糊而產(chǎn)生利益沖突時,提供可判定的錨點,并且,該標準提供了評價數(shù)據(jù)使用實際效果的視角,突破了僅以數(shù)據(jù)內容功能評價“可識別性”的局限性。在法律適用上,用戶感知標準的適用,無需通過改寫個人信息的定義(如《個人信息保護法》第4條)以明晰其內涵,而是作為個人信息侵權(如《個人信息保護法》第69條)的判定要件之一,紓解因果關系證明之困境,適用該標準后,只要侵害結果與個人信息利用存在高度蓋然性,過錯推定原則將啟動,以彌補事先未能預見侵害情境的補充保護。在實施效果上,用戶感知標準很容易被誤認為是人本主義在個人信息保護領域的泛化,但實際上,該標準是一個前瞻性的認定標準,它站在人文與科技交錯的路口,通過擬制理性人的方式,提供動態(tài)、過程治理的接入口,為此,這一標準不宜用于個人信息定義的改寫,并且,數(shù)據(jù)使用如未對用戶產(chǎn)生可感知之結果,大量站內數(shù)據(jù)使用行為,即存在合法性抗辯。

    知識產(chǎn)權法領域曾有過相關的經(jīng)驗實踐。對于網(wǎng)絡版權作品的保護,判斷網(wǎng)絡服務商是否侵犯信息網(wǎng)絡傳播權時,存在“服務器標準”和“用戶感知標準”兩種標準。這兩種標準分別圍繞信息的原始提供與控制,與信息向用戶實際呈現(xiàn)的比較與討論,在對數(shù)據(jù)使用的判斷標準上具有很高的借鑒性。其中,判定行為是否屬于信息網(wǎng)絡傳播權的內容,關鍵在于對“以信息網(wǎng)絡向公眾提供作品和鄰接權制品”中“提供”的理解。網(wǎng)絡環(huán)境下,對于作品傳播的控制也面臨著技術擴張和變化的問題。例如,加框鏈接和內鏈接等深層鏈接技術的應用,就使得作品傳播和作品復制之間的關系難以界定。但無論互聯(lián)網(wǎng)技術如何發(fā)展,提供作品的行為本質不會改變,該權利設置模式亦可適用,它因而具有極強的技術適應性,能夠包容不斷更新的互聯(lián)網(wǎng)技術。同理,無論數(shù)據(jù)使用行為的演進,是否已突破了匿名化、去標識化的桎梏,用戶感知是不變的錨點。

    2.以場所隱私論為理論支撐

    要有效解決數(shù)據(jù)使用行為僅從數(shù)據(jù)內容上難以判斷是否具有身份識別性的問題,用戶感知標準的適用,需要重點關注數(shù)據(jù)使用的情景。事實上,由于過于主觀化和無法“確??陀^事實認定的確定性”等原因,用戶感知標準在版權領域內一直未被廣泛接受。但是,用戶感知標準的適用困境,在個人信息保護領域有了新的解法。按照美國學者Helen Nissenbaum的觀點,只要在與信息來源不同的環(huán)境下去使用信息,就會出現(xiàn)隱私問題。由于信息的使用方式與不同場景下的價值判斷息息相關,隱私的內涵也就無法獨立于信息使用場景相關規(guī)范(Context-relative Information Norms) 進行解讀。不同的使用場景具有不同的信息規(guī)范(Information Norms),不同的信息規(guī)范又規(guī)制著信息的使用方式與適當性標準。因此,隱私取決于信息規(guī)范,而信息規(guī)范又源自數(shù)據(jù)主體的合理期望?!笆褂脠鼍啊焙汀昂侠砥诖狈謩e著眼于“信息”和“隱私”兩種領域的特征,成為了信息隱私的關鍵要素。當前,我國已關注到信息與隱私的高度關聯(lián),于2021年5月施行《常見類型移動互聯(lián)網(wǎng)應用程序必要個人信息范圍規(guī)定》,針對39類服務場景明確必要個人信息,要求App不得因為用戶不同意提供非必要個人信息,而拒絕用戶使用其基本功能服務。可以認為,在大數(shù)據(jù)時代,場所隱私論下的“使用場景”,為個人信息保護提供了立法的邏輯起點。

    用戶的感知是主觀的,但不同使用場景的信息規(guī)范,是存在客觀基礎的。那么,推定不符合信息規(guī)范的數(shù)據(jù)使用行為,會使得特定場景下普通用戶更容易感知到個人信息被不當使用,存在現(xiàn)實意義。此時,在信息隱私框架下,通過對信息規(guī)范的建設來完善數(shù)據(jù)使用規(guī)則,將成為現(xiàn)實目標。數(shù)據(jù)保護內在的隱私權邏輯,可以消化用戶感知標準的主觀性缺陷,在具體場景和信息關系中重新勾勒和確定個人信息保護的明確邊界和內涵。反過來,用戶感知標準的使用,也為信息規(guī)范找到一個能夠平衡信息使用與隱私保護的連結點。按照場所隱私論的觀點,不同場景下人們對隱私的合理期待不同,因此,很難針對隱私保護制定一個統(tǒng)一的標準。但在信息規(guī)范的建設過程中,合理期待正是平衡數(shù)據(jù)主體與數(shù)據(jù)使用者之間的關鍵,而使用場景在數(shù)據(jù)主體對數(shù)據(jù)隱私合理期待的形成中又扮演著重要的角色。

    通常,判斷數(shù)據(jù)使用行為的困難,是因為大數(shù)據(jù)技術改變了數(shù)據(jù)使用的后果,產(chǎn)生了突破現(xiàn)有分類的增量信息。這相當于在個人與數(shù)據(jù)處理者的權利柵欄中間種下了一棵蘋果樹,對個人數(shù)據(jù)進行數(shù)據(jù)使用產(chǎn)生的增量信息是該蘋果樹結出的蘋果,判斷蘋果歸屬于誰是困難的,但無可置疑的是,不應該就蘋果的獲取與使用對另一方造成不當?shù)呢摀M瑫r,數(shù)據(jù)處理者作為數(shù)據(jù)的實際控制者可以通過提供相應服務(精準投放廣告、用戶畫像等),內化第三人對個人數(shù)據(jù)的使用。因此,判斷數(shù)據(jù)處理者的行為是否屬于對用戶個人數(shù)據(jù)的使用,應結合數(shù)據(jù)使用場景以及數(shù)據(jù)主體的主觀感受。通過主觀要素規(guī)制個人數(shù)據(jù)的使用行為,一方面可以解決個人數(shù)據(jù)與非個人數(shù)據(jù)二元劃分框架的僵化,另一方面也為用戶與網(wǎng)絡經(jīng)營者構建了一道溝通的橋梁。

    Data Use: the Junction of Personal Information and Data

    Abstract: There is a natural contradiction between personal information and data utilization in terms of value orientation and rule design of legal protection. The personal information protection law takes the processing of personal information as the object of regulation. But the truth is it regulates the act of data use. The understanding of data use becomes the key to the effective connection between the two. After analyzing the data use in the context of different technologies historically, it is found that the legal connotation and specific rules are changing with each other. Compared with the digitization of information, the use of data in the era of big data is aimed at achieving the increment and re-creation of information and presents new core features. The improvement of personal information protection system in China needs to evaluate the data use behavior of incremental information, and it is suggested to increase the user perception standard under the existing rules.

    Keywords: Personal Information; Data Use; Incremental Information; User Perception Standard

    猜你喜歡
    個人信息保護
    互聯(lián)網(wǎng)+大數(shù)據(jù)模式下的個人信息保護
    智富時代(2017年8期)2017-10-18 08:07:06
    論網(wǎng)購環(huán)境下消費者的個人信息保護
    山東青年(2017年5期)2017-10-09 12:45:42
    大數(shù)據(jù)時代的網(wǎng)絡搜索與個人信息保護研究
    魅力中國(2017年21期)2017-06-16 16:25:46
    謹防電信詐騙的研究
    從徐玉玉案反思我國的個人信息保護問題
    如何做好法律領域的個人信息保護
    東方教育(2016年3期)2016-12-14 20:18:10
    我國大數(shù)據(jù)時代個人信息保護研究綜述
    個人信息保護中的自律與監(jiān)督
    移動互聯(lián)環(huán)境中個人信息保護的調查與分析—以大學生為例
    大數(shù)據(jù)時代個人信息管理與保護
    軟件導刊(2015年8期)2015-09-18 12:33:28
    中文字幕人妻丝袜一区二区| 九色亚洲精品在线播放| av国产精品久久久久影院| 欧美中文综合在线视频| 国产麻豆69| 亚洲五月婷婷丁香| 男女下面插进去视频免费观看| 成年av动漫网址| 亚洲国产精品一区三区| 大码成人一级视频| 国产精品二区激情视频| a 毛片基地| 日日夜夜操网爽| 久久久久久久精品精品| 伦理电影免费视频| 性色av一级| 少妇精品久久久久久久| 亚洲一卡2卡3卡4卡5卡精品中文| 国产欧美日韩一区二区三 | 日韩 亚洲 欧美在线| 热re99久久国产66热| 午夜久久久在线观看| 99久久精品国产亚洲精品| 可以免费在线观看a视频的电影网站| 狂野欧美激情性xxxx| 中文字幕色久视频| 天堂8中文在线网| 99国产精品99久久久久| 老司机深夜福利视频在线观看 | 天天添夜夜摸| 精品国产乱码久久久久久男人| 99久久人妻综合| 黑人操中国人逼视频| 最近中文字幕2019免费版| 欧美日韩成人在线一区二区| 各种免费的搞黄视频| 国产精品一区二区免费欧美 | www.自偷自拍.com| 午夜福利视频在线观看免费| 一二三四社区在线视频社区8| 国产不卡av网站在线观看| 亚洲国产欧美一区二区综合| 最近最新中文字幕大全免费视频| 母亲3免费完整高清在线观看| 黄片大片在线免费观看| 精品久久蜜臀av无| 日日夜夜操网爽| 老司机影院成人| 欧美 日韩 精品 国产| 国产高清视频在线播放一区 | 国产激情久久老熟女| 午夜91福利影院| 欧美性长视频在线观看| 亚洲三区欧美一区| 飞空精品影院首页| 高清av免费在线| 夫妻午夜视频| 老司机深夜福利视频在线观看 | 国产三级黄色录像| 男女之事视频高清在线观看| 后天国语完整版免费观看| 老司机午夜十八禁免费视频| 免费在线观看黄色视频的| 嫁个100分男人电影在线观看| 亚洲av日韩在线播放| 青草久久国产| 国产精品1区2区在线观看. | 中文字幕人妻丝袜一区二区| 19禁男女啪啪无遮挡网站| 99精国产麻豆久久婷婷| 国产福利在线免费观看视频| 亚洲黑人精品在线| 91国产中文字幕| 免费在线观看黄色视频的| 成人三级做爰电影| 国产精品一区二区免费欧美 | 国产在线观看jvid| 成年av动漫网址| 成年av动漫网址| 青春草视频在线免费观看| 老汉色av国产亚洲站长工具| 久久久久国内视频| 国产熟女午夜一区二区三区| 亚洲色图 男人天堂 中文字幕| 欧美日韩一级在线毛片| 99热网站在线观看| 男女高潮啪啪啪动态图| 精品少妇久久久久久888优播| 国产免费视频播放在线视频| 热re99久久国产66热| 一本大道久久a久久精品| 亚洲国产精品成人久久小说| 国产av国产精品国产| 丰满人妻熟妇乱又伦精品不卡| 国产成人一区二区三区免费视频网站| 午夜老司机福利片| 久久午夜综合久久蜜桃| 两人在一起打扑克的视频| 欧美日韩视频精品一区| 亚洲九九香蕉| 国产精品二区激情视频| 欧美日韩中文字幕国产精品一区二区三区 | 在线观看免费日韩欧美大片| av在线播放精品| 亚洲九九香蕉| 十八禁网站免费在线| 老司机影院毛片| 欧美激情 高清一区二区三区| 久久精品aⅴ一区二区三区四区| 久久久久久久大尺度免费视频| 国产日韩欧美亚洲二区| 国产成人欧美| 亚洲精品成人av观看孕妇| 波多野结衣av一区二区av| 欧美黑人精品巨大| 99re6热这里在线精品视频| 日本a在线网址| 中文字幕人妻丝袜制服| 亚洲欧美成人综合另类久久久| 2018国产大陆天天弄谢| 午夜久久久在线观看| 精品少妇久久久久久888优播| av电影中文网址| 午夜激情av网站| 黄色视频在线播放观看不卡| 亚洲欧美激情在线| 日韩一区二区三区影片| 老司机靠b影院| 亚洲国产成人一精品久久久| 亚洲专区中文字幕在线| 新久久久久国产一级毛片| av在线app专区| 国产成人系列免费观看| 人妻 亚洲 视频| 80岁老熟妇乱子伦牲交| 久久中文看片网| 亚洲成av片中文字幕在线观看| av有码第一页| 黄色视频,在线免费观看| 国产精品av久久久久免费| 精品国产乱码久久久久久男人| 成年美女黄网站色视频大全免费| 免费观看人在逋| 亚洲七黄色美女视频| 欧美精品一区二区大全| 一区二区三区精品91| 国产精品秋霞免费鲁丝片| 亚洲人成电影免费在线| 亚洲一卡2卡3卡4卡5卡精品中文| 精品熟女少妇八av免费久了| 国产熟女午夜一区二区三区| 日韩制服骚丝袜av| 色婷婷av一区二区三区视频| 一本色道久久久久久精品综合| 久久影院123| 久久 成人 亚洲| 国产精品99久久99久久久不卡| 亚洲午夜精品一区,二区,三区| 在线观看www视频免费| 黑人巨大精品欧美一区二区蜜桃| 99久久人妻综合| 午夜影院在线不卡| 高清视频免费观看一区二区| 99国产精品一区二区蜜桃av | 国产精品 欧美亚洲| 中文字幕色久视频| 桃花免费在线播放| 午夜老司机福利片| 操出白浆在线播放| 欧美日韩亚洲国产一区二区在线观看 | 国产成人欧美在线观看 | av线在线观看网站| 精品视频人人做人人爽| 好男人电影高清在线观看| 精品亚洲成a人片在线观看| 欧美变态另类bdsm刘玥| 久久久久精品人妻al黑| 国产免费现黄频在线看| 日韩人妻精品一区2区三区| 午夜精品久久久久久毛片777| 正在播放国产对白刺激| 久久 成人 亚洲| 又紧又爽又黄一区二区| 亚洲成人免费av在线播放| 日韩欧美一区二区三区在线观看 | 青春草视频在线免费观看| 免费黄频网站在线观看国产| 极品少妇高潮喷水抽搐| 涩涩av久久男人的天堂| 天天影视国产精品| 精品一品国产午夜福利视频| 国产精品久久久久久精品古装| 亚洲五月色婷婷综合| 丝袜脚勾引网站| 欧美久久黑人一区二区| 国产99久久九九免费精品| 亚洲人成电影观看| 1024视频免费在线观看| 男女边摸边吃奶| 精品免费久久久久久久清纯 | 黄色片一级片一级黄色片| 国产色视频综合| 色婷婷av一区二区三区视频| 成人国语在线视频| 9色porny在线观看| 高清欧美精品videossex| 男人舔女人的私密视频| 少妇被粗大的猛进出69影院| 国产一区二区三区在线臀色熟女 | 天天操日日干夜夜撸| 精品久久久久久电影网| 中文字幕人妻熟女乱码| 久久久精品国产亚洲av高清涩受| 一区二区av电影网| 一区二区av电影网| 成人三级做爰电影| 成人18禁高潮啪啪吃奶动态图| 日日夜夜操网爽| 人妻人人澡人人爽人人| 97精品久久久久久久久久精品| 欧美成人午夜精品| 嫩草影视91久久| 国产精品香港三级国产av潘金莲| 青春草视频在线免费观看| 欧美老熟妇乱子伦牲交| 欧美黑人精品巨大| 午夜福利在线免费观看网站| 亚洲黑人精品在线| 大陆偷拍与自拍| 黄频高清免费视频| 又大又爽又粗| bbb黄色大片| 亚洲国产欧美在线一区| 久久精品国产综合久久久| 成年人午夜在线观看视频| 女人被躁到高潮嗷嗷叫费观| 日韩电影二区| 午夜福利免费观看在线| 欧美日韩成人在线一区二区| 性少妇av在线| 丰满迷人的少妇在线观看| 中文字幕av电影在线播放| 高清欧美精品videossex| 啦啦啦啦在线视频资源| 国产日韩欧美在线精品| 精品人妻熟女毛片av久久网站| 香蕉丝袜av| 欧美日韩成人在线一区二区| 久久久久国产一级毛片高清牌| 精品少妇久久久久久888优播| 我要看黄色一级片免费的| 天堂俺去俺来也www色官网| 国产精品麻豆人妻色哟哟久久| 99re6热这里在线精品视频| 黄频高清免费视频| 成人黄色视频免费在线看| 亚洲第一欧美日韩一区二区三区 | 国内毛片毛片毛片毛片毛片| 18在线观看网站| 久久这里只有精品19| 欧美少妇被猛烈插入视频| 99国产精品99久久久久| 999精品在线视频| 深夜精品福利| 亚洲欧美一区二区三区黑人| 两人在一起打扑克的视频| 两性午夜刺激爽爽歪歪视频在线观看 | 久久天堂一区二区三区四区| 天天操日日干夜夜撸| 亚洲精品乱久久久久久| 一本大道久久a久久精品| 国产野战对白在线观看| 国产精品.久久久| 成人手机av| 久久99热这里只频精品6学生| 亚洲精品一卡2卡三卡4卡5卡 | 欧美日韩中文字幕国产精品一区二区三区 | 秋霞在线观看毛片| 美女午夜性视频免费| 久久久水蜜桃国产精品网| 一级片免费观看大全| 国产成人欧美在线观看 | 18禁观看日本| 日本黄色日本黄色录像| 18在线观看网站| 国产日韩一区二区三区精品不卡| 国产亚洲一区二区精品| 巨乳人妻的诱惑在线观看| 欧美午夜高清在线| 天天添夜夜摸| 99久久国产精品久久久| 看免费av毛片| 新久久久久国产一级毛片| 黄频高清免费视频| 国产成人啪精品午夜网站| 久久久久网色| 精品国产一区二区三区四区第35| 美女脱内裤让男人舔精品视频| 如日韩欧美国产精品一区二区三区| 国产成人av激情在线播放| 少妇 在线观看| 亚洲少妇的诱惑av| 日韩欧美免费精品| 大片电影免费在线观看免费| 夜夜骑夜夜射夜夜干| 老熟妇仑乱视频hdxx| 中文字幕人妻丝袜一区二区| 成人手机av| 91老司机精品| 悠悠久久av| 亚洲,欧美精品.| 制服诱惑二区| av天堂久久9| 在线亚洲精品国产二区图片欧美| 欧美日韩中文字幕国产精品一区二区三区 | 国产福利在线免费观看视频| 国产精品 欧美亚洲| 欧美日韩精品网址| 成年人免费黄色播放视频| 三级毛片av免费| 午夜免费鲁丝| 一区二区三区激情视频| 亚洲男人天堂网一区| 一区在线观看完整版| 精品国产国语对白av| av在线老鸭窝| 叶爱在线成人免费视频播放| 亚洲综合色网址| 亚洲中文字幕日韩| 叶爱在线成人免费视频播放| 精品欧美一区二区三区在线| 国产在视频线精品| 人人妻,人人澡人人爽秒播| 美女高潮喷水抽搐中文字幕| 老鸭窝网址在线观看| 两人在一起打扑克的视频| 搡老熟女国产l中国老女人| 不卡一级毛片| 另类亚洲欧美激情| 在线看a的网站| 人妻久久中文字幕网| 妹子高潮喷水视频| 免费高清在线观看日韩| 久久久久久亚洲精品国产蜜桃av| 国产日韩欧美视频二区| 欧美激情 高清一区二区三区| 又大又爽又粗| 国产成人免费无遮挡视频| 亚洲av片天天在线观看| 99国产极品粉嫩在线观看| 国产欧美日韩一区二区三 | 国产精品亚洲av一区麻豆| 亚洲自偷自拍图片 自拍| 欧美av亚洲av综合av国产av| 亚洲一区二区三区欧美精品| 国产高清videossex| 亚洲国产欧美日韩在线播放| 少妇裸体淫交视频免费看高清 | 国产xxxxx性猛交| 国产欧美日韩一区二区精品| 美国免费a级毛片| 久热这里只有精品99| 最黄视频免费看| 中文字幕精品免费在线观看视频| 久久毛片免费看一区二区三区| 欧美日韩一级在线毛片| 超碰成人久久| 人人妻人人爽人人添夜夜欢视频| 丝袜人妻中文字幕| 日日爽夜夜爽网站| 亚洲av成人不卡在线观看播放网 | 久久人人爽av亚洲精品天堂| 激情视频va一区二区三区| 国产欧美日韩精品亚洲av| 日本一区二区免费在线视频| 久久精品国产综合久久久| 久久精品国产亚洲av香蕉五月 | 老汉色∧v一级毛片| 美女高潮到喷水免费观看| 可以免费在线观看a视频的电影网站| 美女视频免费永久观看网站| 1024香蕉在线观看| 国产麻豆69| 老司机影院成人| 国产亚洲欧美在线一区二区| 成人三级做爰电影| 欧美日韩av久久| 亚洲视频免费观看视频| 菩萨蛮人人尽说江南好唐韦庄| 淫妇啪啪啪对白视频 | 99国产精品免费福利视频| 菩萨蛮人人尽说江南好唐韦庄| 少妇 在线观看| 久久精品人人爽人人爽视色| 亚洲欧洲日产国产| 国产xxxxx性猛交| 国产精品成人在线| 黑人操中国人逼视频| 午夜免费观看性视频| 99久久国产精品久久久| 亚洲欧美精品综合一区二区三区| 黄色视频不卡| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品第二区| 国产精品av久久久久免费| 多毛熟女@视频| 一级a爱视频在线免费观看| 日本黄色日本黄色录像| 在线av久久热| 国产视频一区二区在线看| 国产成人精品在线电影| 免费av中文字幕在线| 国产亚洲精品第一综合不卡| 亚洲精品久久久久久婷婷小说| 成人三级做爰电影| 少妇 在线观看| www.999成人在线观看| 老司机午夜十八禁免费视频| 亚洲国产精品成人久久小说| 国产一区二区三区综合在线观看| 国产麻豆69| 欧美精品亚洲一区二区| 国产欧美亚洲国产| √禁漫天堂资源中文www| 涩涩av久久男人的天堂| 欧美精品一区二区免费开放| 精品少妇内射三级| 午夜福利一区二区在线看| 菩萨蛮人人尽说江南好唐韦庄| 一区二区三区乱码不卡18| 男女午夜视频在线观看| 最近最新免费中文字幕在线| 久久久久久久精品精品| 少妇精品久久久久久久| 日韩大码丰满熟妇| 国产成人a∨麻豆精品| 精品视频人人做人人爽| 国产黄频视频在线观看| 9191精品国产免费久久| 国产淫语在线视频| 亚洲色图 男人天堂 中文字幕| 王馨瑶露胸无遮挡在线观看| 国产一卡二卡三卡精品| 亚洲免费av在线视频| 蜜桃国产av成人99| 成年美女黄网站色视频大全免费| 日日爽夜夜爽网站| 1024香蕉在线观看| 99热网站在线观看| 999精品在线视频| 精品福利永久在线观看| 精品少妇久久久久久888优播| 天天躁狠狠躁夜夜躁狠狠躁| 在线观看免费午夜福利视频| 97人妻天天添夜夜摸| 91成年电影在线观看| 亚洲情色 制服丝袜| e午夜精品久久久久久久| 制服诱惑二区| 女人爽到高潮嗷嗷叫在线视频| 午夜福利视频在线观看免费| bbb黄色大片| 亚洲精品在线美女| 精品免费久久久久久久清纯 | 欧美av亚洲av综合av国产av| 麻豆av在线久日| xxxhd国产人妻xxx| 亚洲第一av免费看| 操美女的视频在线观看| a级毛片黄视频| 国产精品久久久人人做人人爽| 日韩一卡2卡3卡4卡2021年| 国产精品久久久久久精品古装| 亚洲av欧美aⅴ国产| 亚洲欧美一区二区三区久久| 精品少妇黑人巨大在线播放| 午夜久久久在线观看| 精品人妻1区二区| tocl精华| 国产精品99久久99久久久不卡| 少妇裸体淫交视频免费看高清 | av天堂在线播放| 18在线观看网站| 色婷婷久久久亚洲欧美| 国产精品九九99| 国产男女内射视频| 精品人妻一区二区三区麻豆| 超色免费av| 免费日韩欧美在线观看| 日韩三级视频一区二区三区| 夫妻午夜视频| 搡老岳熟女国产| 成人黄色视频免费在线看| 亚洲自偷自拍图片 自拍| 一二三四社区在线视频社区8| 欧美亚洲 丝袜 人妻 在线| 日日夜夜操网爽| 亚洲视频免费观看视频| 少妇的丰满在线观看| 久久人人97超碰香蕉20202| 欧美精品一区二区大全| 免费一级毛片在线播放高清视频 | 精品一品国产午夜福利视频| 国产免费福利视频在线观看| 欧美精品av麻豆av| 日韩欧美国产一区二区入口| 青草久久国产| 制服人妻中文乱码| 激情视频va一区二区三区| 91av网站免费观看| 国产激情久久老熟女| 一边摸一边抽搐一进一出视频| 91麻豆精品激情在线观看国产 | 欧美 日韩 精品 国产| 亚洲黑人精品在线| 搡老熟女国产l中国老女人| 午夜福利,免费看| 亚洲免费av在线视频| 国产无遮挡羞羞视频在线观看| 狠狠狠狠99中文字幕| 在线观看免费高清a一片| 欧美黑人欧美精品刺激| 亚洲精品乱久久久久久| 国产深夜福利视频在线观看| 国产精品成人在线| av免费在线观看网站| 久久国产精品大桥未久av| 久久久久久久精品精品| 亚洲成人国产一区在线观看| 熟女少妇亚洲综合色aaa.| 人人妻,人人澡人人爽秒播| 亚洲一卡2卡3卡4卡5卡精品中文| 秋霞在线观看毛片| 51午夜福利影视在线观看| 日日夜夜操网爽| 午夜福利一区二区在线看| 久久久久国产一级毛片高清牌| 久久精品国产a三级三级三级| 亚洲色图 男人天堂 中文字幕| 国产视频一区二区在线看| 免费人妻精品一区二区三区视频| 91九色精品人成在线观看| 久久中文字幕一级| 欧美 亚洲 国产 日韩一| 午夜视频精品福利| 国产欧美日韩一区二区精品| 亚洲五月色婷婷综合| 性色av乱码一区二区三区2| 搡老熟女国产l中国老女人| 亚洲精品粉嫩美女一区| 亚洲精品久久午夜乱码| 亚洲av美国av| 亚洲情色 制服丝袜| a级片在线免费高清观看视频| 中文字幕色久视频| 亚洲少妇的诱惑av| 亚洲国产av新网站| 国产欧美日韩一区二区三区在线| 91国产中文字幕| 精品少妇一区二区三区视频日本电影| 亚洲av日韩在线播放| 不卡av一区二区三区| 亚洲精品中文字幕一二三四区 | 亚洲欧美日韩高清在线视频 | 久热这里只有精品99| 狂野欧美激情性xxxx| 欧美精品高潮呻吟av久久| 日韩中文字幕视频在线看片| 精品亚洲成a人片在线观看| 国产成人av教育| 国产高清视频在线播放一区 | 日韩 亚洲 欧美在线| 最近最新免费中文字幕在线| 精品福利观看| a级毛片在线看网站| 又紧又爽又黄一区二区| 国产精品 国内视频| 欧美日韩av久久| 国产福利在线免费观看视频| 日韩免费高清中文字幕av| 国产有黄有色有爽视频| 午夜91福利影院| 久久女婷五月综合色啪小说| 99久久99久久久精品蜜桃| av有码第一页| 国产免费视频播放在线视频| 视频区欧美日本亚洲| 王馨瑶露胸无遮挡在线观看| 亚洲九九香蕉| 欧美国产精品va在线观看不卡| 亚洲欧美一区二区三区黑人| 丝袜脚勾引网站| 国产精品 国内视频| 一二三四在线观看免费中文在| 高清黄色对白视频在线免费看| 亚洲精品国产av成人精品| 99精国产麻豆久久婷婷| 女性被躁到高潮视频| 亚洲一码二码三码区别大吗| 手机成人av网站| 视频在线观看一区二区三区| 韩国高清视频一区二区三区| 欧美日韩视频精品一区| 18禁观看日本| 操美女的视频在线观看| 国产成人系列免费观看| 午夜激情久久久久久久| 考比视频在线观看| 中国国产av一级| 国产一区二区三区综合在线观看| 在线观看免费高清a一片| 大陆偷拍与自拍| 国产精品熟女久久久久浪| 国产精品久久久久久人妻精品电影 | 十八禁人妻一区二区|