• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)據(jù)權(quán)力的興起、異化及規(guī)制

    2022-06-20 14:26尹華容,王惠民
    湖南大學學報(社會科學版) 2022年3期
    關鍵詞:法律規(guī)制大數(shù)據(jù)

    尹華容,王惠民

    [摘要]隨著大數(shù)據(jù)技術(shù)的發(fā)展,海量數(shù)據(jù)普適記錄能力和數(shù)據(jù)處理能力空前強大,形成足以支配社會資源、引導公眾行為的新興社會權(quán)力。數(shù)據(jù)權(quán)力以對海量數(shù)據(jù)的控制優(yōu)勢和處理優(yōu)勢為基礎,一方面,數(shù)據(jù)價值成為促進經(jīng)濟發(fā)展、社會管理、科技創(chuàng)新的重要因素。另一方面,數(shù)據(jù)權(quán)力所具有的擴張性、廣泛性、不透明性、排他性和軟權(quán)力性特征,使之產(chǎn)生了數(shù)據(jù)監(jiān)視、數(shù)據(jù)欺騙、數(shù)據(jù)壟斷、公權(quán)力私有化等異化風險。規(guī)范數(shù)據(jù)權(quán)力,應當以公私法賦予數(shù)據(jù)權(quán)利、健全程序機制、強化行政監(jiān)管、減少訴訟障礙,實現(xiàn)數(shù)據(jù)價值應用與數(shù)據(jù)權(quán)益保護的平衡。

    [關鍵詞]大數(shù)據(jù);數(shù)據(jù)權(quán)力;法律規(guī)制

    [中圖分類號]D912[文獻標識碼]A[文章編號]1008—1763(2022)03—0124—09

    TheRise,AlienationandRegulationofDataPower

    YINHuarong,WANGHuimin

    (LawSchool,XiangtanUniversity,Xiangtan411105,China)

    Abstract:Withthedevelopmentofbigdatatechnology,theabilitytorecordandprocessmassivedataisunprecedentedlypowerful,forminganemergingsocialpowerthatcandominatesocialresourcesandguidepublicbehavior.Datapowerisbasedontheadvantagesofcontrollingandprocessingmassivedata.Ontheonehand,thevalueofdatahasbecomeanimportantfactorinpromotingeconomicdevelopment,socialmanagement,andtechnologicalinnovation.Ontheotherhand,thecharacteristicsofdatapowerexpansion,extensiveness,opacity,exclusivityandsoftpower,aswellasthelackofeffectivelegalregulation,haveresultedintherisksofdatasurveillance,datadeception,datamarketmonopoly,privatizationofpublicpower.Toregulatedatapower,thepublicprivatecombinationpathofgivingcitizensdatarights,improvingproceduralmechanisms,strengtheningadministrativesupervision,andreducinglitigationbarriersshouldbeappliedtoachieveabalancebetweentheapplicationofdatavalueandtheprotectionofdatarightsandinterests.

    Keywords:bigdata;datapower;legalregulation

    一引言

    數(shù)據(jù)已與土地、勞動力、資本、技術(shù)等傳統(tǒng)要素并列為生產(chǎn)要素。2020年,中國以大數(shù)據(jù)為代表的數(shù)字經(jīng)濟規(guī)模達到39.2萬億元,占GDP比重的38.6%,數(shù)據(jù)成為經(jīng)濟發(fā)展、社會管理、科技創(chuàng)新中的重要力量。[1]然而,數(shù)據(jù)權(quán)力的濫用,如攜程、滴滴的“大數(shù)據(jù)殺熟”事件、百度魏則西事件、棱鏡門事件等引起軒然大波,數(shù)據(jù)價值的運用超出了其本身的中立界限,產(chǎn)生令人談“大數(shù)據(jù)”色變的異化風險。數(shù)據(jù)權(quán)力濫用所產(chǎn)生的問題引起學界的研究熱潮,但現(xiàn)有研究未深層次揭示數(shù)據(jù)權(quán)力的生成機理與蘊含的風險,未能緊密聯(lián)系我國實際問題,深入研究數(shù)據(jù)權(quán)力的治理優(yōu)先路徑,而是重在論證我國現(xiàn)階段數(shù)據(jù)權(quán)力治理的必要性和介紹歐美做法,針對性不強等問題,

    主要探究數(shù)據(jù)權(quán)力生成機理的論著,如林奇富、賀競超:《大數(shù)據(jù)權(quán)力:一種現(xiàn)代權(quán)力邏輯及其經(jīng)驗反思》載《東北大學學報(社會科學版)》2016第5期;呂正兵:《傳播權(quán)力理論視角下的數(shù)據(jù)權(quán)力分析》載《編輯之友》2018年第10期;李齊:《數(shù)字時代的權(quán)力生產(chǎn)與政府責任》載《中國行政管理》2019年第11期;周尚君:《數(shù)字社會對權(quán)力機制的重新構(gòu)造》載《華東政法大學學報》2021年第5期。主要研究數(shù)據(jù)治理必要性的論著,如王志鵬、張祥建、涂景一:《平臺權(quán)力的擴張與異化》載《江西社會科學》2016年第5期;肖冬梅、陳晰:《硬規(guī)則時代的數(shù)據(jù)自由與隱私邊界》載《湘潭大學學報(哲學社會科學版)》2019年第3期;郭漸強:《網(wǎng)絡平臺權(quán)力治理:法治困境與現(xiàn)實出路》載《理論探索》2019年第4期;丁曉東:《大數(shù)據(jù)時代數(shù)據(jù)到底屬于誰?——從網(wǎng)絡爬蟲看平臺數(shù)據(jù)權(quán)屬與數(shù)據(jù)保護》載《華東政法大學學報(社會科學版)》2019年第5期;張莉主編:《數(shù)據(jù)治理與數(shù)據(jù)安全》,人民郵電出版社2019年版;趙艷紅:《大數(shù)據(jù)監(jiān)控措施的法律規(guī)制研究——以隱私權(quán)為中心的探討》載《交大法學》2020第4期;肖夢黎:《平臺型企業(yè)的權(quán)力生成與規(guī)制選擇研究》載《河北法學》2020年第10期;崔淑潔、張弘:《數(shù)據(jù)挖掘?qū)€人信息的侵害與保護路徑》載《西南交通大學學報(社會科學版)》2020年第6期;廖建凱:《“大數(shù)據(jù)殺熟”法律規(guī)制的困境與出路——從消費者的權(quán)利保護到經(jīng)營者算法權(quán)力治理》載《西南政法大學學報》2020年第1期;吳理財、王為:《大數(shù)據(jù)治理:基于權(quán)力與權(quán)利的雙向度理解》載《學術(shù)界》2020年第10期;楊東、臧俊恒:《數(shù)字平臺的反壟斷規(guī)制》載《武漢大學學報(哲學社會科學版)》2021年第6期。主要研究歐美數(shù)據(jù)治理方式的論著,如王春暉:《GDPR個人數(shù)據(jù)權(quán)與〈網(wǎng)絡安全法〉個人信息權(quán)之比較》載《中國信息安全》2018年第7期;肖冬梅、譚禮格:《歐盟數(shù)據(jù)保護影響評估制度及其啟示》載《中國圖書館學報》2018年第5期;張金平:《歐盟個人數(shù)據(jù)權(quán)的演進及其啟示》載《法商研究》2019年第5期;何淵主編:《數(shù)據(jù)法學》,北京大學出版社2020年版。專門研究數(shù)據(jù)權(quán)力的生成、異化及規(guī)制問題,進行較為全面梳理的論著較少,如佟林杰、郭誠誠:《大數(shù)據(jù)權(quán)力擴張、異化及規(guī)制路徑》載《商業(yè)經(jīng)濟研究》2019第4期;葉娟麗:《移動互聯(lián)網(wǎng)·大數(shù)據(jù)·智能化:人工智能時代權(quán)力的規(guī)訓路徑》載《蘭州大學學報(社會科學版)》2020第1期;陳鵬:《數(shù)據(jù)的權(quán)力:應用與規(guī)制》載《安徽師范大學學報(人文社會科學版)》2021年第5期。實際上應當重點探究我國數(shù)據(jù)權(quán)力生成路徑,在此基礎上找到異化風險并設定相應的規(guī)制措施,才能實現(xiàn)我國數(shù)據(jù)經(jīng)濟發(fā)展與數(shù)據(jù)權(quán)益保護的平衡。

    二數(shù)據(jù)權(quán)力的興起

    大數(shù)據(jù)時代,社會數(shù)字化,數(shù)據(jù)成為信息與社會利益的載體,通過收集海量數(shù)據(jù),并利用大數(shù)據(jù)技術(shù)進行處理與使用,可以對信息所指向的主體形成引導作用、對社會資源形成調(diào)配力量,但收集與處理數(shù)據(jù)具有較高的技術(shù)門檻和資金門檻,迫使數(shù)據(jù)資源掌握在個別數(shù)據(jù)控制者和數(shù)據(jù)處理者手中并由其進行分配。從法律角度對這類少數(shù)人擁有的新興社會力量進行定義,探明其生成機制與運行機理,成為研究規(guī)制路徑的前提。

    (一)數(shù)據(jù)的本質(zhì)與權(quán)力化趨勢

    根據(jù)《中華人民共和國數(shù)據(jù)安全法》(以下簡稱《數(shù)據(jù)安全法》)規(guī)定,數(shù)據(jù)是指任何以電子或者其他方式對信息的記錄。傳統(tǒng)的數(shù)據(jù)處理限于技術(shù)原因只能處理范圍窄、數(shù)量小的“小數(shù)據(jù)”,隨著計算機云技術(shù)的發(fā)展,人類對數(shù)據(jù)的處理能力獲得突破,逐漸掌握整合“大數(shù)據(jù)”(規(guī)模大到在獲取、存儲、管理、分析方面遠超傳統(tǒng)數(shù)據(jù)庫軟件工具能力范圍的數(shù)據(jù)集合)的能力。

    麥肯錫全球研究將大數(shù)據(jù)定義為一種規(guī)模大到在獲取、存儲、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫軟件工具能力范圍的數(shù)據(jù)集合,具有volume(大量)、velocity(高速)、variety(多樣)、value(低價值密度)、veracity(真實性)五大特征。相對于之前的數(shù)據(jù)處理技術(shù),大數(shù)據(jù)技術(shù)對數(shù)據(jù)整合的規(guī)模、種類、速度、精準度達到前所未有的程度,進一步促成數(shù)據(jù)效力發(fā)揮達到新層次。網(wǎng)絡的普及使社會各領域信息逐漸數(shù)據(jù)化,而數(shù)據(jù)與數(shù)據(jù)處理技術(shù)的廣泛運用,促使數(shù)據(jù)所含有的信息愈加豐富,被開發(fā)與利用程度更高,對社會與個人產(chǎn)生的調(diào)配力也愈發(fā)強,成了一種新興的社會力量。其主要體現(xiàn)為數(shù)據(jù)普適記錄能力和數(shù)據(jù)處理能力兩個方面。

    一方面是數(shù)據(jù)普適記錄能力,記錄對抗人性的幽暗面并對人的行為產(chǎn)生約束力。我國自古便有專門記錄君王言行的制度——“起居注”,以記錄的方式對統(tǒng)治者形成制約和威懾作用,達到“以史制君”的目的。西方宗教強調(diào)全知、全能的上帝會對人類生活進行事無巨細的監(jiān)視與記錄,若信徒拒絕承認事實將導致內(nèi)心終日惶恐并受到懲罰,“上帝視角”的普適記錄機制,客觀上達到震懾信徒、引導信徒從善之目的?;貧w當下,記錄工具更加繁多,文字記錄升級為數(shù)據(jù)記錄,相較而言數(shù)據(jù)不僅更為精準,傳播速度更快,保存時間更為長久,所載信息量也更全面。同時,記錄的技術(shù)也更加普及,隨著記錄工具的普遍化,比如手機逐漸人手一部,攝像頭早已在各大城市形成“天網(wǎng)”,通過遍布千家萬戶的網(wǎng)絡,公民隨時可能被記錄,也隨時可以記錄他人,被數(shù)據(jù)記錄成為人類繼死亡、稅收之外第三件無法避免的事情。全方位、多領域、全天候的普適記錄正在形成,虛構(gòu)的“上帝”角色開始顯像于現(xiàn)實。而普適記錄能力一旦被集中控制,則極易走向平權(quán)社會的對立面,形成由數(shù)據(jù)“上帝”統(tǒng)管的極權(quán)社會。[2]190-195

    另一方面是數(shù)據(jù)處理能力,即對數(shù)據(jù)進行處理以獲得支配數(shù)據(jù)信息資源能力。數(shù)據(jù)本身是對客觀事物的記錄,是信息的載體,數(shù)據(jù)處理的目的則是通過對數(shù)據(jù)的挖掘、分析等處理行為獲得數(shù)據(jù)所載有的信息。信息資源掌握的多少日漸成為戰(zhàn)爭、商業(yè)中話語權(quán)大小的重要基礎,如遼沈戰(zhàn)役期間,東北野戰(zhàn)軍通過繳獲比、俘虜比的不同判斷出廖耀湘部指揮所,從而在短時間內(nèi)直搗黃龍。[3]可以說,知道得越多,進行預測的能力就越強。這種現(xiàn)象在大數(shù)據(jù)時代側(cè)重表現(xiàn)為對個人隱私的窺探和構(gòu)建個人畫像

    參見《深圳經(jīng)濟特區(qū)數(shù)據(jù)條例》第二條第八款規(guī)定:“用戶畫像,是指為了評估自然人的某些條件而對個人數(shù)據(jù)進行自動化處理的活動,包括為了評估自然人的工作表現(xiàn)、經(jīng)濟狀況、健康狀況、個人偏好、興趣、可靠性、行為方式、位置、行蹤等進行的自動化處理。”,數(shù)據(jù)控制者與數(shù)據(jù)處理者憑借收集個人數(shù)據(jù)進行分析進而獲取其內(nèi)含的隱私信息,甚至與數(shù)據(jù)主體形成信息不對稱地位以掌握話語權(quán),比如“千人千價”的大數(shù)據(jù)殺熟。如約瑟夫·奈所言,權(quán)力正在從“擁有雄厚的資本”轉(zhuǎn)向“擁有豐富的信息”[5]105,信息資源劣勢一方因缺少有效信息支撐判斷與決策而受制于信息資源優(yōu)勢一方,產(chǎn)生不平等的引導、支配關系。

    凡是在不對等地位場域之中,權(quán)力這一社會關系必然呈現(xiàn)。哲學、社會學、政治學等對權(quán)力的定義不盡相同,但都體現(xiàn)了一個共同點,即“權(quán)力是影響與被影響、支配與被支配的關系?!?/p>

    如哲學上,羅素說權(quán)力的含義與物理學的基本概念“能量”相同;尼采說權(quán)力是“一種意志力”“一種本能”。政治學上,達爾說權(quán)力如同控制、權(quán)威、影響力一樣都是模棱兩可的,不妨都稱為影響力術(shù)語。社會學上,馬克斯·韋伯認為“權(quán)力是某種社會關系中一個行動者將處于不顧反對而貫徹自己意志的地位的概率,不管這種概率所依據(jù)的基礎是什么”。[6]80而對數(shù)據(jù)普適記錄能力以及數(shù)據(jù)處理能力掌控程度不對等的主體之間,也逐漸形成了影響與被影響、支配與被支配的關系,呈現(xiàn)出權(quán)力化趨勢。

    (二)數(shù)據(jù)權(quán)力的基礎和特征

    基于傳統(tǒng)“權(quán)力中心化”觀點,權(quán)力被認為是由國家機構(gòu)獨有。隨著“小政府、大社會”的發(fā)展,社會力量逐漸發(fā)展壯大,成為調(diào)整社會資源的重要主體。在此背景下,有觀點認為:“社會主體通過擁有自己的社會資源和獨立的經(jīng)濟、社會地位而形成對國家和社會的影響力、支配力?!盵7]即相對于國家權(quán)力而言的社會權(quán)力,其突破了權(quán)力由國家機構(gòu)獨自享有的界限。??碌臋?quán)力論也認為,現(xiàn)代社會背景下權(quán)力是“非中心化”的,而國家機構(gòu)只是權(quán)力的一個有限領域。[8]26在大數(shù)據(jù)領域,這種權(quán)力多元化的現(xiàn)象更為直觀,網(wǎng)絡平臺逐漸憑借對大量數(shù)據(jù)資源的控制能力去影響、支配其他主體,權(quán)力不再由國家機構(gòu)專屬,權(quán)力主體逐漸“去中心化”。同時,有的學者認為權(quán)力并不都是建立在強制力或暴力的基礎上,有些權(quán)力是軟性的,即非強制性或強制性較弱的“軟權(quán)力”。而“社會權(quán)力的強制性一般較弱,是軟性的,多采取權(quán)益相協(xié)調(diào),利害施影響,輿論加壓力,誘導、促使、迫使而非直接使對方遵從”。[9]61數(shù)據(jù)權(quán)力正是這樣一種基于對海量數(shù)據(jù)的控制優(yōu)勢或?qū)A繑?shù)據(jù)的處理優(yōu)勢而獲得的全新社會權(quán)力。

    1.數(shù)據(jù)權(quán)力的基礎

    數(shù)據(jù)權(quán)力的基礎之一是數(shù)據(jù)控制優(yōu)勢??刂苾?yōu)勢是指能單獨或聯(lián)合決定個人數(shù)據(jù)處理目的和處理方式的優(yōu)勢。

    參見GDPR(《通用數(shù)據(jù)保護條例》)第四條第七款,其將數(shù)據(jù)控制者定義為“能單獨或聯(lián)合決定個人數(shù)據(jù)處理目的和處理方式的自然人、法人、公共機構(gòu)、行政機關或其他非法人組織”。我國《數(shù)據(jù)安全法》并沒有“數(shù)據(jù)控制者”的概念,而是將數(shù)據(jù)控制與數(shù)據(jù)處理統(tǒng)稱為數(shù)據(jù)處理者,為便于區(qū)分并闡述數(shù)據(jù)權(quán)力生產(chǎn)機理,此處使用“數(shù)據(jù)控制者”的定義?;诖耍瑪?shù)據(jù)控制者可以自行或者委托數(shù)據(jù)處理者開發(fā)海量數(shù)據(jù),為自己或他人獲取數(shù)據(jù)普適記錄能力和數(shù)據(jù)處理能力產(chǎn)生的信息資源并進行運用,與數(shù)據(jù)控制能力處于劣勢地位的主體之間形成影響與被影響、控制與被控制的不平等關系。

    數(shù)據(jù)權(quán)力的基礎之二是數(shù)據(jù)處理優(yōu)勢。

    參見《數(shù)據(jù)安全法》第三條規(guī)定:“數(shù)據(jù)處理,包括數(shù)據(jù)的收集、存儲、使用、加工、傳輸、提供、公開等。”數(shù)據(jù)處理優(yōu)勢可以認定為通過搭建處理平臺處理數(shù)據(jù)而獲得對數(shù)據(jù)信息資源進行支配的優(yōu)勢。優(yōu)勢主體通過對海量數(shù)據(jù)的處理,率先獲得數(shù)據(jù)所蘊含的信息,以此發(fā)掘、提取并掌握數(shù)據(jù)的信息資源與知識資源,依靠對資源的支配與運用優(yōu)勢形成數(shù)據(jù)權(quán)力。

    總而言之,數(shù)據(jù)權(quán)力主體通過數(shù)據(jù)控制優(yōu)勢爭奪數(shù)據(jù)資源控制權(quán),通過數(shù)據(jù)處理優(yōu)勢獲得數(shù)據(jù)資源,以此對其他主體產(chǎn)生引導乃至支配作用,形成不平等的權(quán)力關系,即數(shù)據(jù)權(quán)力關系。應當說明的是,雖然數(shù)據(jù)權(quán)力與算法權(quán)力都是基于對數(shù)據(jù)的使用,但二者存在本質(zhì)上的區(qū)別:算法權(quán)力是“算法基于海量數(shù)據(jù)運算形成配置社會資源的力量”[10]。首先,二者構(gòu)成基礎不同,數(shù)據(jù)權(quán)力是基于對數(shù)據(jù)的掌控優(yōu)勢,其重點在于對數(shù)據(jù)這一資源的支配能力,而算法權(quán)力是基于對算法技術(shù)的掌控優(yōu)勢,本質(zhì)上是一種技術(shù)性權(quán)力,其重在對技術(shù)的操縱能力;其次,二者運行的方式不同,算法權(quán)力首先需要人類對算法技術(shù)進行設計,之后便依靠算法技術(shù)運用海量數(shù)據(jù)進行深度自主學習,在運行過程中形成決策以配置社會資源,數(shù)據(jù)是算法權(quán)力發(fā)生效力的基礎。而數(shù)據(jù)權(quán)力的運行方式有兩種,其一是依靠數(shù)據(jù)普適記錄能力運行,其二是通過算法等技術(shù)進行數(shù)據(jù)處理的方式運行,甚至可以說,算法是數(shù)據(jù)權(quán)力運行的方式之一。

    2.數(shù)據(jù)權(quán)力的特征

    基于數(shù)據(jù)控制優(yōu)勢和數(shù)據(jù)處理優(yōu)勢而形成的基礎及權(quán)力的特性,讓數(shù)據(jù)權(quán)力形成了五大特性:擴張性,即具有擴大、越權(quán)甚至侵犯其他主體的特性;廣泛性,即海量數(shù)據(jù)來源于廣泛主體,反之,數(shù)據(jù)處理使用所影響的主體也相對廣泛;不透明性,即由于數(shù)據(jù)黑箱與算法黑箱,數(shù)據(jù)權(quán)力主體對數(shù)據(jù)收集利用的數(shù)量、范圍、深度均居于運行不透明狀態(tài);排他性,即控制并運用數(shù)據(jù)、獲取數(shù)據(jù)價值,又通過所得的數(shù)據(jù)信息反制數(shù)據(jù)主體,最終達到壟斷;軟權(quán)力性,即數(shù)據(jù)權(quán)力多采用協(xié)調(diào)、誘導、輿論等軟性力量促使他人“自愿”行事,以達到影響、支配他人之目的。數(shù)據(jù)權(quán)力的不透明性和軟權(quán)力性使得數(shù)據(jù)權(quán)力的支配行為變得難以識別與監(jiān)管,廣泛性則使數(shù)據(jù)權(quán)力的效應呈指數(shù)級放大,擴張性、排他性則為其壟斷權(quán)力、濫用權(quán)力埋下伏筆。數(shù)據(jù)權(quán)力一旦濫用,其涉及廣度、危害力度、監(jiān)管難度、規(guī)制難度絕非傳統(tǒng)權(quán)力侵權(quán)可比。而數(shù)據(jù)主體的分散、弱勢與法律規(guī)制措施的不足,間接導致權(quán)力濫用更加猖獗。

    三數(shù)據(jù)權(quán)力的異化

    權(quán)力從實質(zhì)上而言僅是一種帶有工具性的客觀力量,其本身并不具有善惡之分。[11]而“異化(entfremdung或entfemden)有脫離、對抗、受異己力量統(tǒng)治之意”。[12]即主體出于服務自我目的創(chuàng)建出對象,但對象反其道而行之去束縛、吞噬甚至取代主體。[13]數(shù)據(jù)是數(shù)據(jù)權(quán)力形成之前提,公眾是數(shù)據(jù)之源泉,具有公共性的數(shù)據(jù)所繁殖之利益被數(shù)據(jù)權(quán)力主體所占有并反過來支配公眾,數(shù)據(jù)權(quán)力被集中壟斷形成新的極權(quán)主義,公共利益、公共權(quán)力的私有是數(shù)據(jù)權(quán)力異化的本質(zhì)原因。而數(shù)據(jù)權(quán)力主體多為政府機關或網(wǎng)絡平臺,具有追求管理目的或營利目的之原始需要,極易濫用數(shù)據(jù)權(quán)力導致其產(chǎn)生異化風險。根據(jù)異化的原因可以分為數(shù)據(jù)普適記錄能力的異化和數(shù)據(jù)處理能力的異化。

    (一)數(shù)據(jù)普適記錄能力的異化

    1.數(shù)據(jù)監(jiān)控

    數(shù)據(jù)監(jiān)控是指通過對數(shù)據(jù)的收集、分析達到對數(shù)據(jù)主體實施難以辨別的單向監(jiān)視,最具代表性的數(shù)據(jù)監(jiān)控便是美國“棱鏡門事件”?;貧w我國當下,2021年“3·15晚會”曝光了科勒衛(wèi)浴人臉數(shù)據(jù)收集事件,科勒衛(wèi)浴在上千家門店安裝人臉識別攝像頭,對來往顧客的人臉生物數(shù)據(jù)進行記錄,由此掌握顧客所去門店的位置、時間、頻次等信息,作為各家門店對顧客摸底、報價的關鍵輔助資料。又如網(wǎng)絡平臺通過用戶搜索關鍵詞向用戶推薦產(chǎn)品,外賣平臺通過獲得手機錄音權(quán)限,當用戶在現(xiàn)實中談及某種食物后,頁面隨即出現(xiàn)相關產(chǎn)品推薦。此外,我國上千萬個攝像頭組成的“天網(wǎng)”遍布各處,成為數(shù)據(jù)監(jiān)控的巨大隱患。數(shù)據(jù)監(jiān)控并不鮮見,自古便有的情報系統(tǒng)便與其是同一原理,但在大數(shù)據(jù)時代,對數(shù)據(jù)收集的深度、速度、準確度前所未有,面對無處不在、無時無刻不在的數(shù)據(jù)監(jiān)控,每個數(shù)據(jù)主體都成為在“超級全景監(jiān)獄”[14]97+128-129中穿著皇帝新衣的“透明人”,自由度被極大壓縮,甚至成為受數(shù)據(jù)權(quán)力操縱的“楚門”(Trueman)。

    2.數(shù)據(jù)欺騙

    數(shù)據(jù)欺騙根據(jù)其對事實發(fā)展方向的引導力度不同可以分為兩個層次,第一個層次是數(shù)據(jù)權(quán)力主體基于立場利用所掌握的海量數(shù)據(jù)引導受眾對事實的認識。如全球社交平臺巨頭Instagram在將時任委內(nèi)瑞拉總統(tǒng)馬杜羅賬號的官方認證取消后,直接將反對派領袖瓜伊多官方認證為總統(tǒng),并將該消息推送至全球幾十億用戶,引導全球輿論,為反對派獲得政治認同做推手。第二個層次是利用數(shù)據(jù)制造“事實”。當下,數(shù)據(jù)記錄工具的多樣性導致數(shù)據(jù)不單純是對文字的記錄,聲音、畫面等都可以被記錄成數(shù)據(jù),因此,數(shù)據(jù)可以看作是對環(huán)境的記錄,這也意味著可以通過數(shù)據(jù)“制造”環(huán)境。數(shù)據(jù)權(quán)力主體通過所掌握的數(shù)據(jù)堆砌想要展示的“事實”,并以經(jīng)過精心編排的“事實”引導公眾的思維與行為。

    (二)數(shù)據(jù)處理能力的異化

    數(shù)據(jù)處理能力的異化主要表現(xiàn)在商業(yè)領域和公權(quán)力領域,并逐漸成為數(shù)據(jù)權(quán)力異化的主要原因和引發(fā)社會問題的關鍵因素。

    1.商業(yè)領域的異化

    典型商業(yè)領域異化有兩種,即侵害個人信息和隱私、搬運或掠奪數(shù)據(jù)資源導致的市場壟斷。前者具體表現(xiàn)形式為非法攫取或過度獲取數(shù)據(jù)。數(shù)據(jù)權(quán)力的擴張性導致對數(shù)據(jù)資源形成攫取意識。非法攫取數(shù)據(jù)常表現(xiàn)為未經(jīng)用戶同意奪取數(shù)據(jù);過度獲取數(shù)據(jù)表現(xiàn)為不授權(quán)給平臺獲取個人數(shù)據(jù)便無法使用平臺、超范圍收集和過度索權(quán)。2019年,國家App專項治理工作組分六批次對常用的上千款App進行合規(guī)性檢測發(fā)現(xiàn),違法違規(guī)收集個人信息數(shù)據(jù)成為問題之首,多達6976個,參見中央網(wǎng)信辦、工業(yè)和信息化部、公安部、市場監(jiān)管總局四部門聯(lián)合發(fā)布《APP違法違規(guī)收集使用個人信息專項治理報告(2019)》。足見非法收集、過度收集數(shù)據(jù)問題之嚴重。

    大數(shù)據(jù)殺熟的步驟為“信息收集——用戶畫像——區(qū)別定價”,數(shù)據(jù)主體通過數(shù)據(jù)處理提取消費者的性別、年齡、消費習慣、支付能力等有效信息,再運用特定的算法對消費者進行高精準、高隱蔽、全面的“畫像”,達到知根知底,并以此形成“千人千價”的商業(yè)模式。其一是“數(shù)據(jù)+人工”半自動模式,如前文所述科勒衛(wèi)浴將掌握的信息作為與客戶接觸、定價的重要基礎。其二是“數(shù)據(jù)+算法”自動模式,如攜程、滴滴等公司通過對客戶所用機型、消費習慣、熟悉程度等數(shù)據(jù)進行算法分析,對熟客的報價高于新客,蘋果手機用戶的報價高于安卓手機用戶,以此在無聲息中獲得對客戶進行影響甚至支配的地位,影響用戶消費行為以謀取高額利潤。

    搬運或掠奪數(shù)據(jù)資源導致的市場壟斷具體表現(xiàn)為:數(shù)據(jù)權(quán)力主體利用數(shù)據(jù)權(quán)力攫取市場份額,破壞正常的市場秩序從而形成惡性壟斷。全球市值前十的公司中有七個是以大數(shù)據(jù)利用為代表性技術(shù)的互聯(lián)網(wǎng)公司,數(shù)據(jù)權(quán)力具有排他性,這些“獨角獸”掌握了海量數(shù)據(jù),達到對數(shù)據(jù)權(quán)力的占有,并通過壟斷形成新的寡頭。具體途徑主要可以歸納為三種:其一是數(shù)據(jù)權(quán)力主體之間運用數(shù)據(jù)和算法達成并鞏固壟斷協(xié)議。各個企業(yè)通過自有的海量數(shù)據(jù)信息、算法技術(shù)對用戶、競爭者、市場進行實時的數(shù)據(jù)分析,以此達到監(jiān)控的效果,并在此基礎上通過壟斷協(xié)議進行合作以獲得壟斷地位;其二是基于數(shù)據(jù)優(yōu)勢濫用市場地位,最為直接的表現(xiàn)是菜鳥與順豐互相關閉數(shù)據(jù)接口

    2017年6月1日,使用騰訊云數(shù)據(jù)平臺的順豐突然宣布,關閉與使用阿里云數(shù)據(jù)平臺的菜鳥(阿里巴巴旗下公司)之間的數(shù)據(jù)接口,導致淘寶平臺的上億個用戶無法收到順豐物流信息,而順豐解釋,采取這一措施的原因是菜鳥以信息安全為由主動下線與順豐的信息接口,其旨在逼迫順豐從騰訊云切換至阿里云。這實質(zhì)上是阿里系與順豐對用戶數(shù)據(jù)控制權(quán)的爭奪。,拒絕競爭對手獲得數(shù)據(jù)資源,以達到維持壟斷優(yōu)勢的目的;其三是因經(jīng)營者集中而引發(fā)排斥競爭的“數(shù)據(jù)集中”,即掌控數(shù)據(jù)權(quán)力的主體通過合并、控股或簽訂協(xié)議等行為獲得更為完整的數(shù)據(jù)資源,催生出數(shù)據(jù)寡頭,形成市場支配地位。處理這類異化現(xiàn)象最大的難題是數(shù)據(jù)權(quán)力的不透明性導致監(jiān)管難、訴訟難,極大地侵犯了消費者合法權(quán)益,破壞市場秩序。

    2.公權(quán)力領域的異化

    公權(quán)力是社會治理體系的主體,根據(jù)數(shù)據(jù)權(quán)力的嵌入程度不同,數(shù)據(jù)權(quán)力在公權(quán)力領域的異化一方面表現(xiàn)為在協(xié)同公權(quán)力進行社會治理的領域,另一方面則表現(xiàn)為在部分領域替代公權(quán)力。首先,數(shù)據(jù)權(quán)力的技術(shù)壁壘和資金壁壘導致數(shù)據(jù)權(quán)力主要集中在國家公權(quán)力機關和私主體網(wǎng)絡平臺中,基于數(shù)字政府的時代需求,部分公權(quán)力的行使,比如智慧城市依賴大數(shù)據(jù)處理技術(shù),而網(wǎng)絡平臺的數(shù)據(jù)處理優(yōu)勢一定程度上大于國家公權(quán)力機關,這使得國家公權(quán)力機關將部分大數(shù)據(jù)處理工作以委托合作的形式“外包”于網(wǎng)絡平臺。網(wǎng)絡平臺基于委托獲得國家機關掌握的數(shù)據(jù),形成新的數(shù)據(jù)掌控優(yōu)勢。其次,基于信息能力特別是算法的技術(shù)優(yōu)勢和不透明性,可以將自身的主觀意志嵌入算法中。比如阿里巴巴與浙江省高級人民法院達成合作,運用阿里巴巴的海量數(shù)據(jù)和算法技術(shù)對涉訴人員“畫像”,以此協(xié)助法院進行查詢、送達、凍結(jié)資產(chǎn)等程序。[15]最后,互聯(lián)網(wǎng)法院的區(qū)塊鏈取證也廣泛采用大型平臺企業(yè)的技術(shù)協(xié)助。[16]本應由司法機關行使的公權(quán)力被網(wǎng)絡平臺所“篡取”。網(wǎng)絡平臺在自身具有數(shù)據(jù)權(quán)力的同時,又獲得“代為行使”部分公權(quán)力的機會,公權(quán)力專屬原則被打破,甚至形成公權(quán)力私有化的濫用現(xiàn)象。由國家機關所有的權(quán)力隨著網(wǎng)絡空間主體支配關系的變化生成了由網(wǎng)絡平臺所有、以數(shù)字平臺為其權(quán)力作用場域的私權(quán)力,形成從“公權(quán)力私權(quán)利”到“公權(quán)力私權(quán)力私權(quán)利”的三元轉(zhuǎn)變。[17]22-24

    四數(shù)據(jù)權(quán)力的法律規(guī)制

    基于數(shù)據(jù)權(quán)力產(chǎn)生的數(shù)據(jù)監(jiān)控、數(shù)據(jù)欺騙、大數(shù)據(jù)殺熟、利用數(shù)據(jù)優(yōu)勢進行市場壟斷、公權(quán)力私有化的異化問題,亟須法律從私法和公法路徑進行規(guī)制:私法路徑以賦予相應數(shù)據(jù)權(quán)利以稀釋數(shù)據(jù)權(quán)力為主要措施,公法路徑主要以行政監(jiān)管、訴訟救濟等措施制約數(shù)據(jù)權(quán)力。但現(xiàn)有法律制度存在權(quán)利配置缺位、程序機制缺失、監(jiān)管職責不明、訴訟保障失力等法律規(guī)制障礙,對此,可通過賦予公民數(shù)據(jù)權(quán)利、健全正當程序機制、優(yōu)化行政監(jiān)管制度、減少司法訴訟障礙等公私整體治理的措施以提高規(guī)制效果。

    (一)現(xiàn)有法律規(guī)制的不足

    1.權(quán)利配置缺位

    以“權(quán)力—權(quán)利”為范式,賦予公民充分的數(shù)據(jù)權(quán)利是限制數(shù)據(jù)權(quán)力異化、保障公民合法權(quán)益的基礎,[18]但我國現(xiàn)有法律并未明確規(guī)定“數(shù)據(jù)權(quán)利”。

    《數(shù)據(jù)安全法》并未直接明確數(shù)據(jù)權(quán)利,只通過第八條、第三十二條、第三十八條規(guī)定,數(shù)據(jù)處理行為應當合法、合理,不得危害國家、公共利益,不得損害個人、組織合法權(quán)益。盡管《中華人民共和國個人信息保護法》(以下簡稱《個人信息保護法》)第四章規(guī)定個人在個人信息處理活動中具有知情權(quán)、決定權(quán)、查閱權(quán)、復制權(quán)、可攜帶權(quán)、修改權(quán)、被遺忘權(quán)、解釋權(quán)等權(quán)益。但此處賦予公民的權(quán)益保護對象是“個人信息”,而數(shù)據(jù)絕不等同于個人信息,對比《個人信息保護法》第四條規(guī)定和《數(shù)據(jù)安全法》第三條規(guī)定可知,通過對數(shù)據(jù)進行處理分析后產(chǎn)生信息,而在信息范圍中,與已識別或可識別的自然人有關的部分才能稱為個人信息。因此,數(shù)據(jù)的權(quán)利和信息的權(quán)利在主體、客體、性質(zhì)、內(nèi)容上均存在區(qū)別。數(shù)據(jù)權(quán)利建構(gòu)路徑面臨“兩座大山”。其一是統(tǒng)合性難題,即無論學界還是實務界都未能就權(quán)屬的界定和權(quán)利屬性達成一致?,F(xiàn)有觀點主要有兩類:一是以賦權(quán)模式為代表的“形式主義”范式,如物權(quán)說、財產(chǎn)權(quán)說、知識產(chǎn)權(quán)說等;二是以行為規(guī)制為代表的“實質(zhì)主義”范式,如場景化和類型化治理說、數(shù)據(jù)信托說、行為控制說等,兩種范式之間互為頡頏。其二是實效性難題,“形式主義”范式陷入“因數(shù)據(jù)無形而無法適用物權(quán)法,因數(shù)據(jù)有體而無法適用知識產(chǎn)權(quán)法”的困境。而“實質(zhì)主義”范式則囿于“引發(fā)的問題近似于所解決的問題”之隅。[19]

    2.程序機制缺失

    數(shù)據(jù)權(quán)力主體協(xié)助公權(quán)力甚至在部分領域替代某些公權(quán)力作用,其本意是利用私主體的數(shù)據(jù)優(yōu)勢和技術(shù)優(yōu)勢,但這種做法無疑與公權(quán)力專屬、正當程序等法律原則形成一定的沖突。一方面,在我國公權(quán)力專屬的法律原則的背景下,相關部門沒有對數(shù)據(jù)權(quán)力嵌入公權(quán)力領域的范圍作出規(guī)定,不僅導致公權(quán)力過度私有化而難以預防,也極易造成公眾的不信任感。另一方面,數(shù)據(jù)權(quán)力的不透明性與程序正當原則之間存在張力。一是現(xiàn)有法律要求對公權(quán)力活動進行公開以接受監(jiān)督,但數(shù)據(jù)權(quán)力嵌入后,這些活動直接通過技術(shù)在“黑箱”中自動完成,與公開原則相左。二是數(shù)據(jù)權(quán)力主體的稀少性導致嵌入公權(quán)力的活動僅能由少部分平臺“壟斷”,有悖于公眾參與原則。我國法律制度針對數(shù)據(jù)權(quán)力運行程序的機制性缺失,亟須相應的頂層設計。

    3.監(jiān)管權(quán)責不明

    強化行政監(jiān)管部門數(shù)據(jù)監(jiān)管是制約數(shù)據(jù)權(quán)力異化的重要途徑,規(guī)制數(shù)據(jù)權(quán)力對個人領域、商業(yè)領域、公權(quán)力領域產(chǎn)生的異化風險均存在一個重點、難點問題——“監(jiān)管難”,究其原因是監(jiān)管權(quán)責不明。歐盟的GDPR規(guī)定對數(shù)據(jù)安全監(jiān)管采取設立獨立機構(gòu)統(tǒng)一管理的模式,注重監(jiān)管的獨立性和統(tǒng)一性。美國則對數(shù)據(jù)進行分類立法,實施分類監(jiān)管,注重監(jiān)管的專業(yè)性和靈活性。

    如GLBA旨在保護非個人信息和規(guī)制金融機構(gòu),具體由美國消費金融保護局、美國聯(lián)邦貿(mào)易委員會及美國聯(lián)邦儲備銀行監(jiān)管。HIPPA旨在保護健康信息,具體由美國衛(wèi)生部進行監(jiān)管。我國《數(shù)據(jù)安全法》試圖在歐盟模式與美國模式之間走一條“中國特色”道路,即以國家網(wǎng)信辦作為統(tǒng)籌協(xié)調(diào)機關確立統(tǒng)一性,而以各部門負責本行業(yè)、本領域監(jiān)管以保障靈活性、專業(yè)性。

    參見《數(shù)據(jù)安全法》第五條規(guī)定,工業(yè)、電信、交通等主管部門承擔各自行業(yè)的監(jiān)管職責,公安、國安在職責范圍內(nèi)承擔監(jiān)管職責,國家網(wǎng)信辦則負責統(tǒng)籌協(xié)調(diào)。但《數(shù)據(jù)安全法》對各單位之間的監(jiān)管權(quán)責分配尚存在規(guī)定不明確的問題,容易造成監(jiān)管缺位、監(jiān)管不規(guī)范的現(xiàn)象。同時,數(shù)據(jù)本身具有復雜多樣性,其所承載的信息難免會涉及多個行業(yè)領域,簡單將數(shù)據(jù)劃歸某一個行業(yè)監(jiān)管存在不合理之處。

    4.訴訟保障失力

    目前,我國的數(shù)據(jù)侵權(quán)糾紛仍適用民事訴訟,該救濟制度中存在舉證責任不平衡、證明標準過大、訴訟激勵效應較弱的困境。一方面,面對數(shù)據(jù)處理行為的極度隱蔽性與高度專業(yè)性,公民的非專業(yè)性使得其侵權(quán)難以被發(fā)現(xiàn),證據(jù)難以固定。而根據(jù)“誰主張誰舉證”原則,數(shù)據(jù)主體需要對侵權(quán)行為、損害結(jié)果、主觀過錯、因果關系進行舉證。以大數(shù)據(jù)殺熟為例,此類侵權(quán)行為一般存在于網(wǎng)絡場域,通過算法制定“千人千價”,其動態(tài)化的價格形式使公民很難及時對損害結(jié)果進行知悉與保留,同時,因算法黑箱的壁壘,公民難以獲知具體的算法,更加難以證明主觀過錯和因果關系。雖然《個人信息保護法》第六十九條規(guī)定對“侵害個人信息權(quán)益損害”適用過錯推定原則,[20]但該條規(guī)定所適用的范圍僅限于“個人信息”,對于其他數(shù)據(jù)侵權(quán)的行為仍適用傳統(tǒng)的舉證責任制度,“誰主張誰舉證”的傳統(tǒng)舉證模式難以維持法律天平應有的平衡。另一方面,數(shù)據(jù)侵權(quán)常表現(xiàn)為對個體危害較小但受害群體廣的特性,在這種情況下,個體提出訴訟的成本與所獲得的收益不成正比,所形成的激勵困境讓訴訟救濟淪為下策。

    (二)數(shù)據(jù)權(quán)力的規(guī)制措施

    1.賦予公民數(shù)據(jù)權(quán)利

    “法則的命令是人類專斷制定的,是因時、因人和因勢的變化而變化的、偶然的和人為的安排?!盵21]6大數(shù)據(jù)時代發(fā)展的現(xiàn)實呼喚,要求建立一種全新的、不受制于傳統(tǒng)權(quán)利類型的數(shù)據(jù)權(quán)利體系。設定數(shù)據(jù)權(quán)利不僅是對抗數(shù)據(jù)權(quán)力異化的必要手段,亦是社會發(fā)展的必然產(chǎn)物。構(gòu)建數(shù)據(jù)權(quán)利體系應當緊緊圍繞其所保護的法益為中心,從數(shù)據(jù)本身所具有的人格特性和財產(chǎn)特性而言,數(shù)據(jù)權(quán)利同時具備人格權(quán)和財產(chǎn)權(quán)兩種屬性,應當發(fā)揮人格權(quán)益保護和財產(chǎn)利益保護的作用,因此可以設定以數(shù)據(jù)人格權(quán)和數(shù)據(jù)財產(chǎn)權(quán)為主體并下分多種權(quán)利的體系:首先,將數(shù)據(jù)權(quán)利體系劃分為數(shù)據(jù)人格權(quán)、數(shù)據(jù)財產(chǎn)權(quán)兩個大類,以此兼顧人格權(quán)益保障與財產(chǎn)權(quán)益保護;其次,數(shù)據(jù)人格權(quán)又可以細分為知情同意權(quán)、數(shù)據(jù)修改權(quán)、數(shù)據(jù)被遺忘權(quán),以便數(shù)據(jù)權(quán)利主體實現(xiàn)隱私安全;最后,數(shù)據(jù)財產(chǎn)權(quán)可以細分為數(shù)據(jù)采集權(quán)、數(shù)據(jù)可攜權(quán)、數(shù)據(jù)使用權(quán)、數(shù)據(jù)收益權(quán),以促進數(shù)據(jù)資源利用與數(shù)據(jù)價值共享[22],給予數(shù)據(jù)主體較為全面的權(quán)利,達到有效的保護作用。

    2.健全程序正當機制

    針對數(shù)據(jù)權(quán)力與公權(quán)力專屬原則之間的張力,應當對數(shù)據(jù)權(quán)力的適用范圍作出規(guī)定,對于涉及公眾廣泛利益、公民重大的人身權(quán)利的領域應當嚴格限制數(shù)據(jù)權(quán)力的過度嵌入,并及時對參與的數(shù)據(jù)權(quán)力主體信息、參與事項進行公開,確定適用范圍后,再健全數(shù)據(jù)權(quán)力運行的正當程序機制:首先,要求數(shù)據(jù)權(quán)力主體保證運行過程的可見性,并參照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》對數(shù)據(jù)權(quán)力參與公權(quán)力活動所運用的具體技術(shù)進行備案,并主動公布備案情況,接受社會監(jiān)督;其次,由于獲取數(shù)據(jù)權(quán)力具有技術(shù)壁壘和資本壁壘,強行讓所有公眾參與公權(quán)力活動會陷入平均主義誤區(qū),但應當保證公眾在立項、采購、使用等階段的公眾參與權(quán),形成公權(quán)力機關、數(shù)據(jù)權(quán)力主體、公眾對話機制;最后,對公眾作出不利決定前,相關部門應當明確告知并解釋原因,同時充分聽取數(shù)據(jù)主體的陳述、申辯。

    3.優(yōu)化行政監(jiān)管制度

    對于監(jiān)管權(quán)責不明的問題,相關部門應當建立“統(tǒng)管-協(xié)調(diào)”式監(jiān)管制度。對此,可參考歐盟模式,由國家網(wǎng)信辦或者新設獨立數(shù)據(jù)監(jiān)管機構(gòu)統(tǒng)一負責數(shù)據(jù)監(jiān)管工作,其他部門設立專門的協(xié)調(diào)監(jiān)管機構(gòu),負責將涉及本行業(yè)的數(shù)據(jù)安全隱患向國家網(wǎng)信辦進行反饋并對后續(xù)的監(jiān)管工作予以專業(yè)性協(xié)助,未及時反饋的應當承擔相應責任,以此倒逼各部門積極協(xié)調(diào)監(jiān)管,實現(xiàn)監(jiān)管規(guī)范化、權(quán)威化。監(jiān)管權(quán)集中行使,能保證監(jiān)管力度和監(jiān)管落實,然后從立法層面明確各部門的工作職責,這不僅可以保持監(jiān)管的獨立性,亦能解決“九龍治水”的問題,實現(xiàn)“集中力量辦大事”,同時,應當提高監(jiān)管技術(shù)水平,構(gòu)建多元監(jiān)管模式。數(shù)據(jù)權(quán)力具有極強的技術(shù)性,治理數(shù)據(jù)權(quán)力很重要的一個方向是從大數(shù)據(jù)技術(shù)開始治理,而公權(quán)力機關對大數(shù)據(jù)技術(shù)缺乏相應的敏感性、專業(yè)性,有必要提高在收集個人信息、市場壟斷等方面的監(jiān)管能力,提升工作人員監(jiān)管能力。此外,企業(yè)自檢和行業(yè)自律組織協(xié)助監(jiān)管的多元監(jiān)管模式能有效提高數(shù)據(jù)權(quán)力治理效能,應當積極引導企業(yè)自檢,保護數(shù)據(jù)權(quán)利的同時也不宜對數(shù)據(jù)權(quán)力進行過多規(guī)制,企業(yè)在合法狀態(tài)下是否選擇透明技術(shù)應當由企業(yè)自行決定,但政府部門可以積極引導企業(yè)參與,培養(yǎng)定期進行透明公布的良好氛圍。企業(yè)自檢作為自發(fā)性行為缺乏強制力度,但政府可以積極引導非營利性行業(yè)自治組織協(xié)調(diào)監(jiān)管。

    4.減少司法訴訟障礙

    對于舉證責任不平衡、證明標準過大等問題,可以適當加大數(shù)據(jù)權(quán)力主體的舉證責任,如可借鑒行政訴訟舉證模式,由數(shù)據(jù)權(quán)力主體對其行為的合法性進行舉證,以此保障救濟制度發(fā)揮應有的作用。此外,針對訴訟激勵效應較弱的困境,一般性的數(shù)據(jù)權(quán)力侵權(quán)仍舊通過私法路徑進行救濟,而對于影響范圍廣、涉及利益重大的侵權(quán),原本通過私力救濟的途徑已經(jīng)無法滿足權(quán)利保障的有效實現(xiàn),公益訴訟的制度優(yōu)勢與現(xiàn)實有效性更符合對公共利益保護的特殊要求和現(xiàn)實需要。我們建議將該部分案件適當納入公益訴訟的范圍內(nèi),如河北、廣西兩地省人大常委會以“決定”的方式明確將“大數(shù)據(jù)安全”納入公益司法保護中,

    參見《河北省人大常委會關于加強檢察公益訴訟工作的決定》第三條規(guī)定:“檢察機關依法辦理生態(tài)環(huán)境和資源保護、食品藥品安全、國有土地使用權(quán)出讓、國有財產(chǎn)保護、英雄烈士保護等領域公益訴訟案件;辦理安全生產(chǎn)、防災減災、應急救援、文物和文化遺產(chǎn)保護、個人信息保護、大數(shù)據(jù)安全、互聯(lián)網(wǎng)侵害公益、弘揚社會主義核心價值觀等領域公益訴訟案件;辦理法律規(guī)定的其他公益訴訟案件?!薄稄V西壯族自治區(qū)人大常委會關于加強檢察公益訴訟工作的決定》第三條規(guī)定:“三、檢察機關應當積極穩(wěn)妥拓展檢察公益訴訟范圍,探索辦理安全生產(chǎn)、歷史文化古跡和文物保護、互聯(lián)網(wǎng)侵害公益、眾多公民信息保護、大數(shù)據(jù)安全、損害國家尊嚴或者民族情感等領域公益訴訟案件?!奔聪啾扔诿袷戮葷谋Wo路徑,通過強調(diào)國家保護義務及其落實,更有利于權(quán)利保護的目標實現(xiàn)。[23]

    五結(jié)語

    數(shù)據(jù)權(quán)力作為新興的社會權(quán)力,是數(shù)字社會進程“去中心化”的必然產(chǎn)物,也是引領數(shù)據(jù)技術(shù)創(chuàng)新、促進數(shù)據(jù)產(chǎn)業(yè)發(fā)展的重要推手。但數(shù)據(jù)權(quán)力異化形成的數(shù)據(jù)極權(quán)主義給現(xiàn)行法律制度帶來了諸多挑戰(zhàn),數(shù)據(jù)權(quán)力主要借助計算機技術(shù)在網(wǎng)絡場域形成異化風險,其責任主體、行為模式和作用場景等均有異于傳統(tǒng)國家公權(quán)力侵權(quán),若不進行合理規(guī)制,不僅使個人、商業(yè)、公權(quán)力等面臨極大風險,還可能形成以數(shù)據(jù)權(quán)力主體為中心的新型極權(quán)社會。對此,我們一方面應當發(fā)揮現(xiàn)有法律的規(guī)制作用,引導數(shù)據(jù)權(quán)力回歸服務本位;另一方面也應當及時意識到數(shù)據(jù)權(quán)力的異化風險,賦予公民充分的數(shù)據(jù)權(quán)利,健全程序機制,強化監(jiān)管,減少訴訟障礙,形成立法、執(zhí)法、司法、守法相聯(lián)動的規(guī)制體系。

    [參考文獻]

    [1]中國信息通信研究院.中國數(shù)字經(jīng)濟發(fā)展白皮書[R/OL].(2021-04-23)[2021-10-11].http://www.caict.ac.cn/kxyj/qwfb/bps/202104/t20210423_374626.htm.

    [2]涂子沛.數(shù)文明[M].北京:中信出版社,2018.

    [3]毛寧尚.決定遼沈戰(zhàn)役成敗的一個細節(jié)[J].中外文摘,2012(24):56-57.

    [4]蘇世民.蘇世民:我的經(jīng)驗與教訓[M].趙燦,譯.北京:中信出版社,2020.

    [5]約瑟夫·奈.硬權(quán)力與軟權(quán)力[M].門洪華,譯.北京:北京大學出版社,2005.

    [6]邁克爾·曼.社會權(quán)力的來源:第四卷[M].郭忠華等,譯.上海:上海人民出版社,2015.

    [7]郭道暉.論社會權(quán)力的存在形態(tài)[J].河南省政法管理干部學院學報,2009(4):1-8.

    [8]米歇爾·???必需保衛(wèi)社會[M].錢瀚,譯.上海:上海人民出版社,1999.

    [9]郭道暉.社會權(quán)力與公民社會[M].南京:譯林出版社,2009.

    [10]張凌寒.算法權(quán)力的興起、異化及法律規(guī)制[J].法商研究,2019(4):63-75.

    [11]吳建華.公共權(quán)力異化成因解析[J].理論導刊,2005(1):25-27.

    [12]趙一丁、陳亮.算法權(quán)力異化及法律規(guī)制[J].云南社會科學,2021(5):123-132.

    [13]郭富青.論法權(quán)形態(tài)異化的本質(zhì)及其法律矯治[J].河北法學,2007(11):54-59.

    [14]馬克·波斯特.第二媒介時代[M]范靜曄,譯.南京:南京大學出版社,2000.

    [15]余建華,孟煥良.浙江高院聯(lián)手阿里巴巴打造“智慧法院”?[N/OL].(2015-11-25)[2022-02-25].http://rmfyb.chinacourt.org/paper/html/2015-11/25/content_105165.htm?div=-1.

    [16]余建華,吳巍,張名揚.杭州互聯(lián)網(wǎng)法院上線運行全國首個司法區(qū)塊鏈[EB/OL].(2019-10-25)[2022-02-25].https:

    //www.chinacourt.org/article/detail/2019/10/id/4591024.shtml.

    [17]周輝.變革與選擇:私權(quán)力視角下的網(wǎng)絡治理[M].北京:北京大學出版社,2016.

    [18]SchwartzP,SoloveDJ.Reconcilingpersonalinformationintheunitedstatesandeuropeanunion[J].CaliforniaLawReview,2014(2):877-916.

    [19]許可.數(shù)據(jù)權(quán)利:范式統(tǒng)合與規(guī)范分殊[J].政法論壇,2021(4):86-96.

    [20]楊立新.侵害個人信息權(quán)益損害賠償?shù)囊?guī)則與適用——《個人信息保護法》第69條的關鍵詞釋評[J].上海政法學院學報(法治論叢),2022(1):1-15.

    [21]E·博登海默.法理學:法律哲學與法律方法[M].北京:中國政法大學出版社,1998.

    [22]肖冬梅,文禹衡.數(shù)據(jù)權(quán)譜系論綱[J].湘潭大學學報(哲學社會科學版),2015(6):69-75.

    [23]王錫鋅.個人信息國家保護義務及展開[J].中國法學,2021(1):145-166.

    [收稿日期]2021-02-27

    [基金項目]國家社會科學基金重點項目:總體國家安全觀下產(chǎn)業(yè)知識產(chǎn)權(quán)風險治理現(xiàn)代化研究(21&ZD204)

    [作者簡介]尹華容(1973—),男,湖南洞口人,湘潭大學法學院副教授,法學博士,研究方向:憲法與行政法學研究。

    猜你喜歡
    法律規(guī)制大數(shù)據(jù)
    共享經(jīng)濟環(huán)境下空間共享的定性及法律規(guī)制
    探析網(wǎng)絡預約車類共享經(jīng)濟平臺的法律保護
    商業(yè)預付卡經(jīng)營行為的法律規(guī)制
    我國網(wǎng)絡經(jīng)濟中不正當競爭行為的法律規(guī)制
    我國著作權(quán)集體管理組織壟斷行為的法律規(guī)制
    論企業(yè)社會責任的法律規(guī)制
    大數(shù)據(jù)環(huán)境下基于移動客戶端的傳統(tǒng)媒體轉(zhuǎn)型思路
    基于大數(shù)據(jù)背景下的智慧城市建設研究
    數(shù)據(jù)+輿情:南方報業(yè)創(chuàng)新轉(zhuǎn)型提高服務能力的探索
    一本久久精品| 久久久久视频综合| 噜噜噜噜噜久久久久久91| 我要看日韩黄色一级片| 成人漫画全彩无遮挡| 亚洲,一卡二卡三卡| 一边亲一边摸免费视频| av一本久久久久| 国产高清有码在线观看视频| 大香蕉97超碰在线| 日本黄色片子视频| 国产在线一区二区三区精| 成年女人在线观看亚洲视频| 欧美日本中文国产一区发布| 制服丝袜香蕉在线| 中文欧美无线码| 国产欧美另类精品又又久久亚洲欧美| 中国国产av一级| 一级毛片我不卡| 人妻系列 视频| 日本91视频免费播放| 午夜福利,免费看| 插逼视频在线观看| 这个男人来自地球电影免费观看 | 新久久久久国产一级毛片| 国产欧美日韩精品一区二区| 国产在线免费精品| 国产在线免费精品| 日韩人妻高清精品专区| 免费观看在线日韩| av网站免费在线观看视频| 国产成人精品久久久久久| 欧美精品人与动牲交sv欧美| 又大又黄又爽视频免费| √禁漫天堂资源中文www| 日日摸夜夜添夜夜爱| 熟女人妻精品中文字幕| 久久精品国产亚洲av天美| 国产在线男女| 波野结衣二区三区在线| 免费高清在线观看视频在线观看| 极品人妻少妇av视频| 亚洲av电影在线观看一区二区三区| 一本久久精品| 亚洲国产欧美日韩在线播放 | a级毛片免费高清观看在线播放| 亚洲成人手机| 天堂俺去俺来也www色官网| 欧美精品高潮呻吟av久久| 欧美日本中文国产一区发布| 久久久久久久久久久久大奶| 日韩制服骚丝袜av| 我要看日韩黄色一级片| 大香蕉97超碰在线| 久久久久久久国产电影| 午夜视频国产福利| 大陆偷拍与自拍| 深夜a级毛片| 中文精品一卡2卡3卡4更新| 中文字幕av电影在线播放| 久久久久国产精品人妻一区二区| av黄色大香蕉| 高清视频免费观看一区二区| 久久99一区二区三区| 精品国产一区二区久久| 久久ye,这里只有精品| 高清欧美精品videossex| 女的被弄到高潮叫床怎么办| 国产av一区二区精品久久| 欧美日韩综合久久久久久| 亚洲美女黄色视频免费看| 丰满人妻一区二区三区视频av| 少妇裸体淫交视频免费看高清| 国产片特级美女逼逼视频| 自线自在国产av| 日韩成人伦理影院| 国产免费福利视频在线观看| 26uuu在线亚洲综合色| 亚洲精品国产成人久久av| 亚洲综合精品二区| 亚洲国产欧美日韩在线播放 | 国产精品一区二区在线不卡| 亚洲va在线va天堂va国产| 美女视频免费永久观看网站| 亚洲三级黄色毛片| 99精国产麻豆久久婷婷| 国产熟女午夜一区二区三区 | 欧美日韩国产mv在线观看视频| 热re99久久精品国产66热6| 成人综合一区亚洲| 波野结衣二区三区在线| 少妇人妻一区二区三区视频| √禁漫天堂资源中文www| 免费观看的影片在线观看| 狠狠精品人妻久久久久久综合| 亚洲精华国产精华液的使用体验| 中文字幕人妻丝袜制服| 人人妻人人澡人人看| 偷拍熟女少妇极品色| 国产淫片久久久久久久久| 99久久人妻综合| kizo精华| 欧美精品一区二区大全| 女人精品久久久久毛片| 精品少妇久久久久久888优播| 久久久久精品性色| 亚洲不卡免费看| 97超碰精品成人国产| 永久网站在线| 精品一区二区免费观看| 亚洲色图综合在线观看| 亚洲精品成人av观看孕妇| 一级毛片aaaaaa免费看小| 国产有黄有色有爽视频| 国产伦精品一区二区三区视频9| 人人澡人人妻人| 在线免费观看不下载黄p国产| 日韩视频在线欧美| 99精国产麻豆久久婷婷| 五月伊人婷婷丁香| 成人漫画全彩无遮挡| 日韩 亚洲 欧美在线| av线在线观看网站| 亚洲成色77777| 五月伊人婷婷丁香| 久久久久久久精品精品| 国产视频内射| 丁香六月天网| 久久久精品免费免费高清| 日本黄大片高清| 一级毛片 在线播放| 少妇猛男粗大的猛烈进出视频| 国产精品一二三区在线看| 国产在线男女| 永久网站在线| 亚洲自偷自拍三级| 插阴视频在线观看视频| 亚洲精品国产av蜜桃| 免费看光身美女| 自拍偷自拍亚洲精品老妇| 精品一区在线观看国产| 午夜av观看不卡| 国产综合精华液| 最近的中文字幕免费完整| 国产精品麻豆人妻色哟哟久久| 久久女婷五月综合色啪小说| 欧美bdsm另类| 午夜免费鲁丝| 在线免费观看不下载黄p国产| 美女中出高潮动态图| 九九在线视频观看精品| 亚洲伊人久久精品综合| 久久97久久精品| 国产乱来视频区| 80岁老熟妇乱子伦牲交| 亚洲国产精品一区二区三区在线| 亚洲国产av新网站| 亚洲婷婷狠狠爱综合网| 免费黄网站久久成人精品| 国产探花极品一区二区| 久久99精品国语久久久| 国产亚洲最大av| av女优亚洲男人天堂| 精品人妻一区二区三区麻豆| 女人久久www免费人成看片| 久久国产乱子免费精品| 久久99热这里只频精品6学生| 日韩一区二区三区影片| 欧美高清成人免费视频www| 欧美精品一区二区大全| 精品久久国产蜜桃| 国产精品嫩草影院av在线观看| 国产色爽女视频免费观看| 黑丝袜美女国产一区| 最新中文字幕久久久久| 国精品久久久久久国模美| 91精品国产九色| 国产精品99久久久久久久久| 久久人妻熟女aⅴ| 亚洲av.av天堂| 插阴视频在线观看视频| 亚洲精品一区蜜桃| 色94色欧美一区二区| 精品国产一区二区久久| 嫩草影院入口| 久久久久久久久久久丰满| av有码第一页| 日韩中字成人| 久久国产亚洲av麻豆专区| 国产69精品久久久久777片| 午夜福利,免费看| 欧美精品一区二区免费开放| 久久午夜综合久久蜜桃| 日韩一区二区三区影片| 国产伦在线观看视频一区| 美女大奶头黄色视频| 黑人高潮一二区| 日韩免费高清中文字幕av| av在线老鸭窝| 国产成人精品久久久久久| 久久人人爽人人爽人人片va| 中文字幕精品免费在线观看视频 | 六月丁香七月| 老熟女久久久| 久久久久久久久久人人人人人人| 亚洲美女视频黄频| 一级毛片我不卡| tube8黄色片| 亚洲欧美精品自产自拍| 一本—道久久a久久精品蜜桃钙片| 午夜福利影视在线免费观看| 国产精品麻豆人妻色哟哟久久| av.在线天堂| av又黄又爽大尺度在线免费看| 2021少妇久久久久久久久久久| 99热这里只有是精品50| 日本黄大片高清| 九色成人免费人妻av| 男人爽女人下面视频在线观看| a级一级毛片免费在线观看| 91午夜精品亚洲一区二区三区| 亚洲精品国产成人久久av| a级毛色黄片| 亚洲在久久综合| 免费播放大片免费观看视频在线观看| 在线观看免费高清a一片| 亚洲美女搞黄在线观看| 伦理电影大哥的女人| av免费在线看不卡| 日韩亚洲欧美综合| h视频一区二区三区| 这个男人来自地球电影免费观看 | 成人18禁高潮啪啪吃奶动态图 | 99热6这里只有精品| 国产成人freesex在线| 菩萨蛮人人尽说江南好唐韦庄| videossex国产| 在线观看一区二区三区激情| 夜夜看夜夜爽夜夜摸| 777米奇影视久久| 精品一区二区三区视频在线| 中文字幕久久专区| 一级,二级,三级黄色视频| 国产亚洲午夜精品一区二区久久| 一级黄片播放器| 久久狼人影院| 美女脱内裤让男人舔精品视频| 自拍欧美九色日韩亚洲蝌蚪91 | 交换朋友夫妻互换小说| 欧美少妇被猛烈插入视频| 少妇熟女欧美另类| 91精品一卡2卡3卡4卡| 午夜av观看不卡| 毛片一级片免费看久久久久| 黑人巨大精品欧美一区二区蜜桃 | 欧美 日韩 精品 国产| 黄色一级大片看看| 99久久精品热视频| 2021少妇久久久久久久久久久| 两个人免费观看高清视频 | 国产一级毛片在线| 国产欧美亚洲国产| 久久精品久久久久久噜噜老黄| 大片免费播放器 马上看| 亚洲国产毛片av蜜桃av| 天天操日日干夜夜撸| 老熟女久久久| 国产免费福利视频在线观看| 亚洲伊人久久精品综合| 男人和女人高潮做爰伦理| 中文字幕久久专区| 亚洲精品视频女| 免费不卡的大黄色大毛片视频在线观看| 乱系列少妇在线播放| 91精品一卡2卡3卡4卡| 如日韩欧美国产精品一区二区三区 | 精品99又大又爽又粗少妇毛片| 日本黄色日本黄色录像| 在线观看免费日韩欧美大片 | 女性被躁到高潮视频| 另类亚洲欧美激情| 一区在线观看完整版| 91精品伊人久久大香线蕉| 久久精品国产a三级三级三级| 高清黄色对白视频在线免费看 | 国产精品国产av在线观看| 亚洲精品视频女| 少妇猛男粗大的猛烈进出视频| 又黄又爽又刺激的免费视频.| 在线观看av片永久免费下载| 日韩成人av中文字幕在线观看| 亚洲人成网站在线播| 久久久久国产网址| 99热网站在线观看| 乱系列少妇在线播放| 亚洲欧美日韩东京热| 亚洲精品乱久久久久久| 精品久久久精品久久久| 免费人成在线观看视频色| 一区二区三区精品91| 男男h啪啪无遮挡| 中文字幕久久专区| 成人黄色视频免费在线看| 99久久综合免费| 观看免费一级毛片| 国产欧美日韩精品一区二区| 亚洲性久久影院| 人人妻人人澡人人看| 中文字幕精品免费在线观看视频 | 国产精品99久久99久久久不卡 | 亚洲欧美成人精品一区二区| 亚洲精品亚洲一区二区| 天美传媒精品一区二区| 久久精品国产a三级三级三级| 永久免费av网站大全| 亚洲情色 制服丝袜| 自线自在国产av| 两个人的视频大全免费| 日韩成人av中文字幕在线观看| av在线app专区| 2022亚洲国产成人精品| av在线播放精品| 国产高清三级在线| 亚洲av国产av综合av卡| 男男h啪啪无遮挡| 人妻 亚洲 视频| 精品国产乱码久久久久久小说| 女性被躁到高潮视频| 一个人看视频在线观看www免费| 色吧在线观看| 麻豆精品久久久久久蜜桃| 欧美最新免费一区二区三区| 一边亲一边摸免费视频| 中文字幕免费在线视频6| 欧美精品一区二区大全| 久久国产亚洲av麻豆专区| 国产在线男女| 日本vs欧美在线观看视频 | 国产一区二区三区av在线| 夜夜骑夜夜射夜夜干| 欧美人与善性xxx| 啦啦啦在线观看免费高清www| 免费看日本二区| 大话2 男鬼变身卡| 日韩成人av中文字幕在线观看| 在线观看一区二区三区激情| 国产 一区精品| 久久久久网色| 精品少妇黑人巨大在线播放| 丰满人妻一区二区三区视频av| 亚洲av综合色区一区| 欧美三级亚洲精品| 国产高清有码在线观看视频| h视频一区二区三区| 亚洲伊人久久精品综合| 国产淫片久久久久久久久| 欧美激情极品国产一区二区三区 | 午夜福利网站1000一区二区三区| 丰满乱子伦码专区| 国产深夜福利视频在线观看| 我的老师免费观看完整版| 卡戴珊不雅视频在线播放| 日韩欧美一区视频在线观看 | 精品人妻一区二区三区麻豆| 日产精品乱码卡一卡2卡三| 国模一区二区三区四区视频| 国产又色又爽无遮挡免| 亚洲精品色激情综合| 女的被弄到高潮叫床怎么办| 91久久精品电影网| 美女福利国产在线| 91精品一卡2卡3卡4卡| 在线观看三级黄色| 免费黄网站久久成人精品| 国产精品成人在线| 丝袜脚勾引网站| .国产精品久久| 免费大片18禁| 亚洲丝袜综合中文字幕| 亚洲伊人久久精品综合| 亚洲精品中文字幕在线视频 | 综合色丁香网| 成年女人在线观看亚洲视频| 国产伦精品一区二区三区视频9| 韩国高清视频一区二区三区| 日本黄大片高清| 亚洲成人手机| 亚洲久久久国产精品| 成年美女黄网站色视频大全免费 | 免费观看无遮挡的男女| 欧美老熟妇乱子伦牲交| 亚州av有码| 国产精品久久久久久精品古装| 三级国产精品欧美在线观看| 国产黄片视频在线免费观看| 80岁老熟妇乱子伦牲交| 亚洲精品色激情综合| 熟妇人妻不卡中文字幕| 亚洲欧美精品专区久久| 亚洲欧美一区二区三区国产| 欧美三级亚洲精品| av卡一久久| 不卡视频在线观看欧美| 国产高清国产精品国产三级| 中文字幕久久专区| 久久久久精品久久久久真实原创| 免费黄色在线免费观看| 日本黄大片高清| 最后的刺客免费高清国语| 亚洲欧美日韩东京热| 偷拍熟女少妇极品色| 国产av一区二区精品久久| 在线观看三级黄色| 丁香六月天网| 国产精品秋霞免费鲁丝片| 成人二区视频| 自拍偷自拍亚洲精品老妇| 国产精品99久久99久久久不卡 | 免费观看av网站的网址| 久久人人爽av亚洲精品天堂| 国产av一区二区精品久久| 国产成人精品婷婷| 新久久久久国产一级毛片| 搡女人真爽免费视频火全软件| 国产69精品久久久久777片| 天天操日日干夜夜撸| 我要看黄色一级片免费的| 国产高清不卡午夜福利| 日日摸夜夜添夜夜爱| 久久久欧美国产精品| 一级a做视频免费观看| 国产高清三级在线| 七月丁香在线播放| 高清在线视频一区二区三区| 美女主播在线视频| 一级av片app| 男女边摸边吃奶| 亚洲国产色片| 亚洲国产精品一区二区三区在线| 婷婷色综合www| 精品国产一区二区三区久久久樱花| 久久6这里有精品| 不卡视频在线观看欧美| 免费大片18禁| 午夜福利,免费看| 亚洲av电影在线观看一区二区三区| av视频免费观看在线观看| 一边亲一边摸免费视频| 国产免费又黄又爽又色| 七月丁香在线播放| 又爽又黄a免费视频| 久久久久精品久久久久真实原创| 欧美成人精品欧美一级黄| 国产一区二区三区av在线| 性色av一级| 2022亚洲国产成人精品| 久久精品夜色国产| 91久久精品电影网| 亚洲国产精品成人久久小说| 人妻夜夜爽99麻豆av| 国产精品熟女久久久久浪| 制服丝袜香蕉在线| 国产亚洲精品久久久com| 久久人妻熟女aⅴ| 国产高清有码在线观看视频| 欧美日本中文国产一区发布| 国产高清有码在线观看视频| 欧美+日韩+精品| 人人澡人人妻人| 国产精品99久久久久久久久| 青青草视频在线视频观看| 91精品一卡2卡3卡4卡| 一边亲一边摸免费视频| 美女中出高潮动态图| 久久久久视频综合| 久久久国产欧美日韩av| 爱豆传媒免费全集在线观看| 99热这里只有是精品50| 自拍欧美九色日韩亚洲蝌蚪91 | 免费av中文字幕在线| 美女中出高潮动态图| 日本猛色少妇xxxxx猛交久久| 男女无遮挡免费网站观看| 国产男人的电影天堂91| 夜夜爽夜夜爽视频| 2018国产大陆天天弄谢| 一级毛片aaaaaa免费看小| 亚洲欧洲日产国产| 精品一品国产午夜福利视频| 色哟哟·www| 久久婷婷青草| 欧美国产精品一级二级三级 | 成人漫画全彩无遮挡| 人妻一区二区av| 日韩成人av中文字幕在线观看| 国产成人freesex在线| 国产av国产精品国产| 九草在线视频观看| 男男h啪啪无遮挡| 成人亚洲欧美一区二区av| 婷婷色综合www| 男女免费视频国产| 色婷婷久久久亚洲欧美| 中文天堂在线官网| 在线免费观看不下载黄p国产| 日产精品乱码卡一卡2卡三| 亚洲av综合色区一区| 欧美bdsm另类| 蜜桃久久精品国产亚洲av| 日本wwww免费看| 精品亚洲成a人片在线观看| 各种免费的搞黄视频| 日韩电影二区| 精品久久国产蜜桃| 免费看不卡的av| 美女xxoo啪啪120秒动态图| 国产在线视频一区二区| 91在线精品国自产拍蜜月| 国产白丝娇喘喷水9色精品| 男男h啪啪无遮挡| 熟女电影av网| 国产片特级美女逼逼视频| a级毛片在线看网站| 国产乱来视频区| 观看av在线不卡| 99热这里只有精品一区| 国产成人91sexporn| 午夜影院在线不卡| 有码 亚洲区| 熟女av电影| 午夜免费鲁丝| 色94色欧美一区二区| 最近手机中文字幕大全| 国产熟女欧美一区二区| 国产片特级美女逼逼视频| 日日啪夜夜撸| 婷婷色av中文字幕| 国产极品粉嫩免费观看在线 | 女的被弄到高潮叫床怎么办| www.色视频.com| 国产色婷婷99| 欧美国产精品一级二级三级 | 一二三四中文在线观看免费高清| av天堂中文字幕网| 国内精品宾馆在线| 午夜日本视频在线| 91精品国产九色| 亚洲伊人久久精品综合| 欧美97在线视频| 在线观看国产h片| 日本黄色日本黄色录像| 99九九在线精品视频 | 亚洲欧美日韩另类电影网站| 亚洲真实伦在线观看| 狠狠精品人妻久久久久久综合| 最近最新中文字幕免费大全7| 日韩视频在线欧美| 精品一区二区三区视频在线| a级毛片在线看网站| 亚洲精品456在线播放app| 色婷婷av一区二区三区视频| 国产免费又黄又爽又色| 成人影院久久| 黄色配什么色好看| 一本久久精品| 男女边摸边吃奶| 久久精品国产亚洲网站| 婷婷色综合大香蕉| av在线app专区| 18禁裸乳无遮挡动漫免费视频| av线在线观看网站| 精品一区二区免费观看| 亚洲不卡免费看| 3wmmmm亚洲av在线观看| 内地一区二区视频在线| 亚洲精品色激情综合| 97超碰精品成人国产| av在线播放精品| 中文字幕人妻丝袜制服| 国产美女午夜福利| 婷婷色综合大香蕉| 亚洲国产毛片av蜜桃av| 亚洲精品国产成人久久av| 性高湖久久久久久久久免费观看| 一区二区三区乱码不卡18| 亚洲精品乱码久久久久久按摩| 国产无遮挡羞羞视频在线观看| 少妇人妻久久综合中文| 99久久精品一区二区三区| 久久青草综合色| 永久网站在线| 国产精品国产三级国产专区5o| 亚洲欧美成人综合另类久久久| 亚洲第一av免费看| 青春草亚洲视频在线观看| 亚洲成色77777| 精品一区二区三区视频在线| 国产精品无大码| 精品亚洲成a人片在线观看| 欧美少妇被猛烈插入视频| 黄色配什么色好看| 女性被躁到高潮视频| 久久国产乱子免费精品| 久久久久久久亚洲中文字幕| 丰满迷人的少妇在线观看| 99精国产麻豆久久婷婷| 国产中年淑女户外野战色| 成人国产麻豆网| 在线观看免费视频网站a站| 久久精品久久精品一区二区三区| 日本-黄色视频高清免费观看| 人妻系列 视频| 七月丁香在线播放| 久久亚洲国产成人精品v| 成人无遮挡网站|