• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    從規(guī)制數(shù)據(jù)獲取到規(guī)制數(shù)據(jù)使用

    2022-12-07 08:30:20姚歡慶周巡
    信息通信技術(shù)與政策 2022年6期
    關(guān)鍵詞:知情規(guī)制框架

    姚歡慶 周巡

    (1.中國(guó)人民大學(xué)民商事法律科學(xué)研究中心,北京100872;2.中國(guó)政法大學(xué)法治與可持續(xù)發(fā)展研究中心,北京100088)

    0 引言

    數(shù)據(jù)規(guī)制指的是公權(quán)力機(jī)關(guān)對(duì)企業(yè)或個(gè)人收集、對(duì)外提供、使用數(shù)據(jù)等全生命周期的限制性措施。數(shù)據(jù)規(guī)制也常被稱為數(shù)據(jù)保護(hù)或數(shù)據(jù)治理,尤其自歐盟《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation,GDPR)出臺(tái)后,數(shù)據(jù)保護(hù)其實(shí)在中文語(yǔ)境下是指代這一語(yǔ)義的更為普遍的用法。但實(shí)際上,數(shù)據(jù)保護(hù)與數(shù)據(jù)規(guī)制之間存在微妙的差別,數(shù)據(jù)保護(hù)具有預(yù)設(shè)的立場(chǎng),即保護(hù)“數(shù)據(jù)主體的數(shù)據(jù)主權(quán)”,而數(shù)據(jù)規(guī)制則更多注重從監(jiān)管者的視角探析如何更好地實(shí)現(xiàn)數(shù)據(jù)主體利益、數(shù)據(jù)收集者利益、數(shù)據(jù)使用者利益以及社會(huì)利益的平衡。

    在數(shù)據(jù)與人工智能算法飛速發(fā)展的當(dāng)下,數(shù)據(jù)規(guī)制是否仍應(yīng)堅(jiān)守“知情同意”的基本框架,是否應(yīng)以保護(hù)“數(shù)據(jù)主體的數(shù)據(jù)主權(quán)”為最重要的目標(biāo),本文將以數(shù)據(jù)規(guī)制的現(xiàn)狀為起點(diǎn),著眼于數(shù)據(jù)規(guī)制的時(shí)代特殊性,剖析當(dāng)前數(shù)據(jù)規(guī)制中存在的問(wèn)題,探究下一階段數(shù)據(jù)使用規(guī)制的可能誤區(qū)與具體進(jìn)路。

    1 數(shù)據(jù)規(guī)制的兩個(gè)側(cè)面:數(shù)據(jù)獲取中的“知情同意”框架與數(shù)據(jù)使用中“數(shù)據(jù)主體本位”視角

    當(dāng)前,世界范圍內(nèi)數(shù)據(jù)規(guī)制對(duì)數(shù)據(jù)區(qū)分為個(gè)人信息與非個(gè)人信息進(jìn)行探討,但其二元?jiǎng)澐值囊?guī)制方式已經(jīng)引起了學(xué)術(shù)界與實(shí)務(wù)界的反思。限于篇幅,本文不做過(guò)多探討,主要探析數(shù)據(jù)規(guī)制中的共性問(wèn)題。

    數(shù)據(jù)規(guī)制的具體重心大概可以分為數(shù)據(jù)獲取、數(shù)據(jù)使用與數(shù)據(jù)安全3個(gè)方面。當(dāng)前的數(shù)據(jù)規(guī)制中,包括我國(guó)在內(nèi)的世界主要國(guó)家,都將重心主要放在數(shù)據(jù)獲取與數(shù)據(jù)安全中,對(duì)數(shù)據(jù)使用的規(guī)制總體上屬于起步階段。事實(shí)上,數(shù)據(jù)安全的規(guī)制進(jìn)路爭(zhēng)議最小,而數(shù)據(jù)獲取與數(shù)據(jù)使用的規(guī)制進(jìn)路爭(zhēng)議相對(duì)較大。本文側(cè)重從數(shù)據(jù)獲取與數(shù)據(jù)使用兩個(gè)側(cè)面展開(kāi)論述。

    1.1 “知情同意”框架是數(shù)據(jù)獲取規(guī)制的傳統(tǒng)方向

    “知情同意”框架指的是獲取數(shù)據(jù)主要以征得數(shù)據(jù)主體同意為必要條件的規(guī)制框架,包括了明示同意、明示目的、最少夠用、公開(kāi)透明等子集,并且通常針對(duì)的是個(gè)人信息的獲取。2012年,全國(guó)人大常委會(huì)通過(guò)的《全國(guó)人民代表大會(huì)常務(wù)委員會(huì)關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》是數(shù)據(jù)獲取規(guī)制“知情同意”框架在國(guó)內(nèi)的開(kāi)端,在《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》《信息安全技術(shù)個(gè)人信息安全規(guī)范》等法律或標(biāo)準(zhǔn)中均有體現(xiàn)。《中華人民共和國(guó)個(gè)人信息保護(hù)法》第13條規(guī)定,除特定情形以外,取得個(gè)人的同意,個(gè)人信息處理者方可處理個(gè)人信息。從全球視角看,上述原則被歐盟《通用數(shù)據(jù)保護(hù)條例》所正式確立,而美國(guó)雖然沒(méi)有聯(lián)邦層面統(tǒng)一的數(shù)據(jù)立法,但通過(guò)1974年《隱私法》、2015年《消費(fèi)者隱私權(quán)利法案(草案)》等進(jìn)行了類似的規(guī)定。

    1.2 數(shù)據(jù)使用規(guī)制中的“數(shù)據(jù)主體本位”視角

    所謂“數(shù)據(jù)主體本位”視角,指的是將“數(shù)據(jù)權(quán)利”視為數(shù)據(jù)主體的一項(xiàng)“主權(quán)”,以數(shù)據(jù)主體的利益為“本位”,通過(guò)信息透明權(quán)、更正權(quán)等可行使的權(quán)利,來(lái)限制他人對(duì)數(shù)據(jù)的使用。其法理起點(diǎn)在于數(shù)據(jù)權(quán)利總體上屬于一種新型的“基本權(quán)利”或“類基本權(quán)利”,進(jìn)而以“防御”的基本范式來(lái)阻止作為基本權(quán)利的數(shù)據(jù)權(quán)利受到侵犯[1]。而“數(shù)據(jù)主體本位”視角的集大成者是歐盟《通用數(shù)據(jù)保護(hù)條例》,其為數(shù)據(jù)主體設(shè)置了多項(xiàng)得以向數(shù)據(jù)使用者主張的權(quán)利,包括信息透明權(quán)、訪問(wèn)權(quán)、更正權(quán)、被遺忘權(quán)、限制處理權(quán)、可攜帶權(quán)、拒絕權(quán)、不受自動(dòng)化處理約束權(quán)等。我國(guó)在數(shù)據(jù)使用的規(guī)制上目前也一定程度采取了上述視角,優(yōu)先把一些具有一定共識(shí)性的數(shù)據(jù)主體“權(quán)利”通過(guò)法律法規(guī)或“軟法”的形式固定,并在金融等特殊領(lǐng)域進(jìn)行進(jìn)一步強(qiáng)化。相比之下,美國(guó)對(duì)這種“數(shù)據(jù)主體本位”視角非常謹(jǐn)慎,聯(lián)邦層面并無(wú)總體性的立法,僅在加州等地賦予了作為數(shù)據(jù)主體的“消費(fèi)者”一定程度的刪除、反對(duì)數(shù)據(jù)歧視等權(quán)利[2]等??傮w而言,歐盟、中國(guó)、美國(guó)恰恰可從左至右排成一列,歐盟主張數(shù)據(jù)使用中的“數(shù)據(jù)主體本位”視角,美國(guó)更傾向數(shù)據(jù)使用中的“底線監(jiān)管”視角,中國(guó)則暫介于兩者之間。

    1.3 傳統(tǒng)時(shí)代的3個(gè)特征:“知情同意”框架與“數(shù)據(jù)主體本位”視角的邏輯起點(diǎn)

    數(shù)據(jù)獲取中的“知情同意”框架與數(shù)據(jù)使用中的“數(shù)據(jù)主體本位”視角共同構(gòu)成了當(dāng)前數(shù)據(jù)規(guī)制中的兩個(gè)重要側(cè)面。這兩項(xiàng)制度設(shè)計(jì)的邏輯起點(diǎn)其實(shí)都根植于傳統(tǒng)時(shí)代的數(shù)據(jù)獲取、使用與監(jiān)管的特征。

    1.3.1 數(shù)據(jù)主體有足夠的能力和動(dòng)力掌握自身數(shù)據(jù)

    權(quán)利主體對(duì)維護(hù)自己的權(quán)利有著充分的動(dòng)力與能力。這是傳統(tǒng)時(shí)代一切權(quán)利與維權(quán)行動(dòng)的重要邏輯起點(diǎn),數(shù)據(jù)權(quán)利也不例外:首先,數(shù)據(jù)主要掌握在數(shù)據(jù)主體手中;其次,數(shù)據(jù)主體也能大體知悉數(shù)據(jù)的流轉(zhuǎn)動(dòng)向;最后,數(shù)據(jù)主體有足夠的動(dòng)力去限制他人對(duì)數(shù)據(jù)的獲取。事實(shí)上,因?yàn)閿?shù)據(jù)主要掌握在數(shù)據(jù)主體手中,數(shù)據(jù)主體的“同意”才有足夠價(jià)值;數(shù)據(jù)的流轉(zhuǎn)動(dòng)向能夠被數(shù)據(jù)主體大體知悉,數(shù)據(jù)主體的“行權(quán)”才能有的放矢;只有數(shù)據(jù)主體有足夠的動(dòng)力限制他人的數(shù)據(jù)獲取,數(shù)據(jù)主體才有意愿“行權(quán)”。

    1.3.2 數(shù)據(jù)流轉(zhuǎn)的目的通常主要是數(shù)據(jù)主體自身利益的實(shí)現(xiàn)

    傳統(tǒng)時(shí)代,數(shù)據(jù)收集和使用的目標(biāo)較為單一,數(shù)據(jù)主體能夠一定程度針對(duì)特定的目的對(duì)提供自身數(shù)據(jù)的行為“討價(jià)還價(jià)”。概言之,本特征也可以概括為兩層含義:第一,數(shù)據(jù)流轉(zhuǎn)通常存在特定的目的;第二,該目的通常主要是數(shù)據(jù)主體自身利益的實(shí)現(xiàn)。

    換言之,只有收集、購(gòu)買數(shù)據(jù)的目的通常是特定目的,且該特定目的通常包含數(shù)據(jù)主體的利益實(shí)現(xiàn),數(shù)據(jù)獲取中“知情同意”框架內(nèi)才有必要設(shè)計(jì)“合目的原則”,數(shù)據(jù)主體才有必要為了自身利益的實(shí)現(xiàn)向數(shù)據(jù)使用者主張權(quán)利。

    1.3.3 對(duì)“數(shù)據(jù)使用”監(jiān)管的難度遠(yuǎn)大于“數(shù)據(jù)獲取”

    在傳統(tǒng)時(shí)代,“數(shù)據(jù)使用”本質(zhì)上是一個(gè)“決策”過(guò)程,但決策過(guò)程往往是由人腦“黑箱”完成的,不容易進(jìn)行監(jiān)管。但“數(shù)據(jù)獲取”往往是更為明確且具象的行為,相比之下監(jiān)管難度更低。因此數(shù)據(jù)獲取行為“是否經(jīng)過(guò)數(shù)據(jù)主體的同意”“是否合目的”“是否最小必要”成為監(jiān)管者天然也是必然的抓手。

    數(shù)據(jù)獲取的“知情同意”框架與數(shù)據(jù)使用的“數(shù)據(jù)主體本位”視角發(fā)軔于傳統(tǒng)時(shí)代,成為數(shù)據(jù)科技爆發(fā)前夜的“最不壞選擇”,也成為數(shù)據(jù)規(guī)制問(wèn)題探討不可繞過(guò)的起點(diǎn)。

    2 技術(shù)變遷下數(shù)據(jù)規(guī)制進(jìn)路的進(jìn)化

    由于技術(shù)的變遷,根植于大數(shù)據(jù)與算法時(shí)代的數(shù)據(jù)特征與傳統(tǒng)時(shí)代相比已發(fā)生顛覆性變化,以“知情同意”與“數(shù)據(jù)主體本位”的數(shù)據(jù)規(guī)制面臨著現(xiàn)實(shí)困境,數(shù)據(jù)規(guī)制的進(jìn)路也應(yīng)當(dāng)適應(yīng)時(shí)代不斷進(jìn)化。

    2.1 傳統(tǒng)時(shí)代的3個(gè)特征在當(dāng)下趨于瓦解

    大數(shù)據(jù)與算法的發(fā)展使得數(shù)據(jù)規(guī)制所依賴的3個(gè)特征趨于瓦解,并呈現(xiàn)3個(gè)新的發(fā)展趨勢(shì):數(shù)據(jù)主體不再有足夠的能力掌握自身數(shù)據(jù);數(shù)據(jù)流轉(zhuǎn)的目的不再明確也不主要局限于數(shù)據(jù)主體自身利益;對(duì)“數(shù)據(jù)獲取”的監(jiān)管難度相對(duì)增加且對(duì)“數(shù)據(jù)使用”的監(jiān)管難度相對(duì)降低。

    (1)數(shù)據(jù)主體不再有足夠的能力和動(dòng)力掌握自身數(shù)據(jù)

    這一新特征是指數(shù)據(jù)不再主要掌握在數(shù)據(jù)主體手中,數(shù)據(jù)主體也不再能大體知悉數(shù)據(jù)的流轉(zhuǎn)動(dòng)向,數(shù)據(jù)主體限制數(shù)據(jù)流轉(zhuǎn)的能力客觀上影響數(shù)據(jù)主體限制數(shù)據(jù)的動(dòng)力。

    首先,當(dāng)前大大小小的科技企業(yè)與逐步實(shí)現(xiàn)數(shù)字化的傳統(tǒng)企業(yè)緊隨數(shù)據(jù)主體與政府,成為又一主要的數(shù)據(jù)掌握者??梢哉f(shuō),傳統(tǒng)的數(shù)據(jù)主體在當(dāng)下已經(jīng)不再是數(shù)據(jù)的唯一主要掌握者[3]。

    其次,數(shù)據(jù)量的急劇膨脹已經(jīng)使得數(shù)據(jù)主體不再能大體知悉數(shù)據(jù)的流轉(zhuǎn)動(dòng)向。傳統(tǒng)時(shí)代,數(shù)據(jù)的獲取及流轉(zhuǎn)往往是單線程的,因此數(shù)據(jù)主體能夠把握自己的數(shù)據(jù)流向。但在互聯(lián)網(wǎng)和大數(shù)據(jù)時(shí)代,數(shù)據(jù)流入網(wǎng)絡(luò)往往是多線程的,如企業(yè)對(duì)于員工信息的收集,往往這些數(shù)據(jù)同時(shí)被存儲(chǔ)在第三方開(kāi)發(fā)的軟件中,并上傳到專門的“云”上,理論上多個(gè)經(jīng)營(yíng)者同時(shí)獲得了相關(guān)數(shù)據(jù),這就使得數(shù)據(jù)主體控制數(shù)據(jù)流向的能力大大下降。當(dāng)然數(shù)據(jù)量的增加也使得個(gè)體在無(wú)限量的數(shù)據(jù)中發(fā)現(xiàn)自己知悉數(shù)據(jù)流向的能力逐步減弱。據(jù)英特爾測(cè)算,全球數(shù)據(jù)總量在2020年達(dá)到44 ZB(1 ZB=10億TB=1萬(wàn)億GB),單單中國(guó)產(chǎn)生的數(shù)據(jù)量達(dá)到8 ZB[4],數(shù)據(jù)總量的增長(zhǎng)每年超過(guò)50%[5],也就是說(shuō)每個(gè)數(shù)據(jù)主體面對(duì)每年50%的數(shù)據(jù)增量,傳統(tǒng)的數(shù)據(jù)主體很難再有能力去大體知悉數(shù)據(jù)的流轉(zhuǎn)動(dòng)向。

    最后,也是最重要的一點(diǎn),數(shù)據(jù)主體限制數(shù)據(jù)流轉(zhuǎn)的動(dòng)力發(fā)生了變化。其一,數(shù)據(jù)主體對(duì)自身數(shù)據(jù)權(quán)利的“讓渡”能夠獲得更大的便捷,甚至是獲取便捷的必要條件。其二,數(shù)據(jù)的前期泄露使得數(shù)據(jù)主體普遍存在“破罐子破摔”的心態(tài)。其三,數(shù)據(jù)主體已經(jīng)對(duì)數(shù)據(jù)流轉(zhuǎn)“司空見(jiàn)慣”,不再有動(dòng)力去謹(jǐn)慎對(duì)待每次數(shù)據(jù)流轉(zhuǎn)。與傳統(tǒng)時(shí)代不同,隨著數(shù)據(jù)收集技術(shù)的普及,作為主要數(shù)據(jù)主體的自然人每天會(huì)面臨無(wú)數(shù)的數(shù)據(jù)收集場(chǎng)景,即便最注重?cái)?shù)據(jù)保護(hù)的數(shù)據(jù)主體,也很難有精力像傳統(tǒng)時(shí)代一樣審慎對(duì)待外界每一次的數(shù)據(jù)獲取行為。2018年《中國(guó)網(wǎng)民個(gè)人隱私狀況調(diào)查報(bào)告》的內(nèi)容顯示,僅有16.1%的受訪者會(huì)仔細(xì)閱讀APP的協(xié)議條款,41.5%的受訪者會(huì)大體瀏覽一下,而42.5%的受訪者則表示壓根不看協(xié)議“直接勾選同意”[6]。

    數(shù)據(jù)主體不再有足夠的能力和動(dòng)力掌握自身數(shù)據(jù)的發(fā)展趨勢(shì),實(shí)際上架空了數(shù)據(jù)獲取規(guī)制“知情同意”框架的基本內(nèi)核。數(shù)據(jù)收集者的“告知”很容易被數(shù)據(jù)主體無(wú)視,數(shù)據(jù)主體的“同意”變成“走個(gè)流程”。其背后的邏輯根源在于這個(gè)時(shí)代算法與數(shù)據(jù)行業(yè)變化的速度與專業(yè)化的速度遠(yuǎn)超普通人的智識(shí)提升速度,面對(duì)無(wú)法理解又不會(huì)給自身帶來(lái)太多直接困擾的問(wèn)題,多數(shù)人會(huì)選擇“繳械投降”。

    (2)數(shù)據(jù)流轉(zhuǎn)的目的不再明確也不主要局限于數(shù)據(jù)主體自身利益

    首先,數(shù)據(jù)流轉(zhuǎn)的目的變得不再必然明確。當(dāng)代,數(shù)據(jù)的流轉(zhuǎn)不再如傳統(tǒng)時(shí)代一般,必然追求存在特定的目的。相當(dāng)一部分?jǐn)?shù)據(jù)在獲取時(shí)實(shí)際目的未必明確,但是卻能在不斷的運(yùn)用中使數(shù)據(jù)發(fā)揮意想不到的價(jià)值,其背后的原因在于大數(shù)據(jù)追求的不再是因果性而是相關(guān)性、不再是抽樣數(shù)據(jù)而是全量數(shù)據(jù)[7]。追求數(shù)據(jù)與結(jié)論因果性可以根據(jù)因果指引依特定目的收集特定數(shù)據(jù)與抽樣數(shù)據(jù),其中的數(shù)據(jù)收集行為是目的導(dǎo)向的。但是相關(guān)性需求通過(guò)獲取盡可能全的數(shù)據(jù),再通過(guò)機(jī)器學(xué)習(xí)產(chǎn)生高效率的成果,其中的數(shù)據(jù)收集行為不需具有特定的目的。片面追求數(shù)據(jù)的獲取需遵循特定的目的,已經(jīng)不再完全符合時(shí)代的特征。

    其次,數(shù)據(jù)流轉(zhuǎn)的目的不再主要直接作用于數(shù)據(jù)主體自身的利益,而展現(xiàn)出社會(huì)本位的特征。充分的數(shù)據(jù)流轉(zhuǎn)實(shí)際受益人未必是數(shù)據(jù)主體,而更多體現(xiàn)為對(duì)社會(huì)整體利益的促進(jìn)作用。數(shù)據(jù)流轉(zhuǎn)對(duì)個(gè)人意義愈發(fā)展現(xiàn)出“間接化”的特征,數(shù)據(jù)流轉(zhuǎn)促進(jìn)社會(huì)進(jìn)步再反作用于個(gè)人利益。2018年我國(guó)數(shù)字經(jīng)濟(jì)規(guī)模達(dá)到31.3萬(wàn)億元,占GDP的比重為34.8%,創(chuàng)造就業(yè)崗位1.91億個(gè)[8]。除了直接的經(jīng)濟(jì)效益,數(shù)據(jù)流轉(zhuǎn)在公共服務(wù)領(lǐng)域的廣泛覆蓋,也能夠增強(qiáng)社會(huì)公眾幸福指數(shù)。世界經(jīng)濟(jì)論壇對(duì)經(jīng)合組織成員國(guó)的調(diào)查表明,數(shù)字化程度每增長(zhǎng)10%,經(jīng)合組織幸福指數(shù)上浮約1.3%[9]。

    上述趨勢(shì)動(dòng)搖了“知情同意”框架與“數(shù)據(jù)主體本位”視角的設(shè)計(jì)基礎(chǔ)。數(shù)據(jù)獲取不再必然存在特定目的意味著“知情同意”框架子集中的“合目的原則”逐步歸于落空。數(shù)據(jù)流轉(zhuǎn)不再主要作用于數(shù)據(jù)主體自身的利益,通過(guò)數(shù)據(jù)主體“直接”行權(quán)的方式保護(hù)數(shù)據(jù)利益將不必然意味著社會(huì)總體利益的最大化。這也是數(shù)據(jù)不同于“財(cái)產(chǎn)權(quán)”的重要特征。

    (3)對(duì)“獲取”的監(jiān)管難度相對(duì)增加,對(duì)“使用”的監(jiān)管難度相對(duì)降低

    首先,“數(shù)據(jù)獲取”監(jiān)管的難度相對(duì)增加。隨著社會(huì)生活的總體數(shù)字化,數(shù)據(jù)收集的主體由傳統(tǒng)的少數(shù)行業(yè)拓展到全行業(yè),數(shù)據(jù)收集的場(chǎng)景從最初的“填表”到后來(lái)的“網(wǎng)絡(luò)”再到當(dāng)前及未來(lái)的“全場(chǎng)景”。數(shù)據(jù)獲取邊界模糊與同意權(quán)行使形式化等都是“數(shù)據(jù)獲取”監(jiān)管難度提升的體現(xiàn)。誠(chéng)然數(shù)據(jù)獲取者的“頭部化”將一定程度中和這種監(jiān)管難度的提升,但是監(jiān)管難度的相對(duì)上升仍然是總的趨勢(shì),畢竟沒(méi)有人愿意數(shù)十年僅生活在少數(shù)“熟悉面孔”科技巨頭的影響之下。

    其次,算法的發(fā)展反而使得監(jiān)管“數(shù)據(jù)使用”變得相對(duì)容易。當(dāng)前不少學(xué)者對(duì)于“算法黑箱”投以了較高的警惕,誠(chéng)然這種警惕是殊為必要的,但事實(shí)上,監(jiān)管作為“表面黑箱”的算法要遠(yuǎn)比作為“實(shí)質(zhì)黑箱”的人腦要容易。代碼編寫可能涉及程序共享代碼的團(tuán)隊(duì)以及不同的人審閱和調(diào)試代碼,計(jì)算機(jī)算法的編寫過(guò)程與最終成果總會(huì)留下一定痕跡,因此更有可能被揭露[10]。并且,伴隨著監(jiān)管科技的不斷發(fā)展,也為監(jiān)管“數(shù)據(jù)使用”提供了愈發(fā)廣闊的空間。諸如,監(jiān)管機(jī)構(gòu)使用云計(jì)算、數(shù)據(jù)湖、數(shù)據(jù)處理引擎等大數(shù)據(jù)技術(shù),使監(jiān)管者能夠更加高效地收集、索引、存儲(chǔ)、處理復(fù)雜的數(shù)據(jù),并捕捉傳統(tǒng)分析方法無(wú)法獲取的信息。

    “數(shù)據(jù)獲取”與 “數(shù)據(jù)使用”的監(jiān)管相對(duì)難度此消彼長(zhǎng),下一階段,將規(guī)制的重心置于“數(shù)據(jù)使用”之上的實(shí)際操作困難已經(jīng)相對(duì)降低。

    2.2 數(shù)據(jù)規(guī)制適應(yīng)時(shí)代的發(fā)展方向

    如前所述,大數(shù)據(jù)與算法的發(fā)展使得數(shù)據(jù)規(guī)制所依賴的傳統(tǒng)時(shí)代三特征趨于瓦解,當(dāng)前數(shù)據(jù)規(guī)制除了“知情同意”框架與“數(shù)據(jù)主體本位”視角的應(yīng)用,也應(yīng)當(dāng)考慮新的理論基礎(chǔ),探究新的發(fā)展方向。

    (1)對(duì)“數(shù)據(jù)獲取”的規(guī)制不宜繼續(xù)對(duì)“知情同意”框架進(jìn)行再擴(kuò)張

    隨著2018年《信息安全技術(shù)個(gè)人信息安全規(guī)范》的出臺(tái)及其在2020年的進(jìn)一步完善,數(shù)據(jù)獲取規(guī)制中的“知情同意”框架又進(jìn)行了新一輪的擴(kuò)張。然而,“知情同意”框架的擴(kuò)張可能導(dǎo)致兩項(xiàng)突出的難題,一是無(wú)法解決個(gè)人對(duì)自身權(quán)利的漠視,二是可能加劇傳統(tǒng)巨頭的“先發(fā)優(yōu)勢(shì)”。

    2020年7月30日,北京互聯(lián)網(wǎng)法院對(duì)兩個(gè)獨(dú)立案件(微信讀書(shū)案與抖音通訊錄案)分別作出一審宣判,認(rèn)定抖音、微信讀書(shū)兩款A(yù)PP均有侵害用戶個(gè)人信息的情形,引發(fā)了學(xué)界和實(shí)務(wù)界的熱烈討論。微信讀書(shū)案中,法官的核心論點(diǎn)在于“互聯(lián)網(wǎng)時(shí)代,用戶應(yīng)享有自主建立或拒絕建立信息化人設(shè)的自由”,數(shù)據(jù)處理者“應(yīng)就信息處理方式向用戶顯著告知并征得同意”[11]。抖音通訊錄案中,法官的核心論點(diǎn)在于:“對(duì)于難以獲取的雙重同意,應(yīng)當(dāng)從其是否構(gòu)成合理使用判斷是否侵權(quán)”[12]。概言之,法官總體遵循了當(dāng)前法律秩序下“告知同意”的分析框架。但是除卻規(guī)范意義的爭(zhēng)議,兩案件未能解決的核心問(wèn)題是:如果權(quán)利人完全漠視自身的數(shù)據(jù)權(quán)利,法律是否無(wú)需對(duì)數(shù)據(jù)處理者的行為進(jìn)行評(píng)價(jià)?這是否意味著,即便個(gè)人僅對(duì)其短期收益與喜好進(jìn)行權(quán)衡后就對(duì)其數(shù)據(jù)權(quán)利進(jìn)行讓渡,就能完全免除對(duì)數(shù)據(jù)處理者法律上的不利評(píng)價(jià)?需知,抖音案的原告是法學(xué)博士,而全國(guó)本科人口比例僅約4%,6億人月均收入僅為1 000元左右[13]。“知情同意”框架的解決范式,是將解決問(wèn)題的權(quán)能完全交付于個(gè)人,在我國(guó)當(dāng)下的情境下,很有可能淪為一種數(shù)據(jù)主體的“虛幻的權(quán)利”而非“真正的權(quán)利”。

    從競(jìng)爭(zhēng)角度看,由于早期數(shù)據(jù)的規(guī)制相對(duì)寬松,先入場(chǎng)的傳統(tǒng)巨頭在數(shù)據(jù)保有量上已經(jīng)具備了存量?jī)?yōu)勢(shì)。競(jìng)爭(zhēng)態(tài)勢(shì)對(duì)未來(lái)的初創(chuàng)企業(yè)殊為不利,把打破“數(shù)據(jù)壟斷”作為重要目標(biāo)的“知情同意”規(guī)制框架反而可能加劇這一趨勢(shì)[14]。盡管數(shù)據(jù)規(guī)制未必把競(jìng)爭(zhēng)作為首要的考量目標(biāo),但是基于數(shù)據(jù)規(guī)制在當(dāng)代的基礎(chǔ)屬性,其已經(jīng)遠(yuǎn)遠(yuǎn)超越一般部門法涉及社會(huì)生活的方方面面,因此有必要從多角度權(quán)衡數(shù)據(jù)規(guī)制方案可能帶來(lái)的外部性特征。

    我們需要認(rèn)識(shí)到,從數(shù)據(jù)主體權(quán)利意識(shí)提升、降低數(shù)據(jù)安全風(fēng)險(xiǎn)、避免欺詐等角度出發(fā),數(shù)據(jù)獲取規(guī)制中“知情同意”框架的存在是非常必要的。但是對(duì)“知情同意”框架的繼續(xù)擴(kuò)張應(yīng)用則需要非常謹(jǐn)慎,需要盡力避免數(shù)據(jù)權(quán)利爭(zhēng)端層面的“表面的平靜”而忽略公民基本權(quán)利可能受損卻缺乏有效主張的“暗涌的波濤”?!爸橥狻笨蚣苣撤N意義上非常類似于美國(guó)當(dāng)前“自由持槍權(quán)”的尷尬境地。美國(guó)的“自由持槍權(quán)”發(fā)軔于18世紀(jì)的美國(guó)獨(dú)立戰(zhàn)爭(zhēng),“自由持槍”成為了美國(guó)反抗暴政的制度武器與自由主義傳統(tǒng)的精神象征。然而在當(dāng)前國(guó)家機(jī)器實(shí)力與個(gè)人武力愈發(fā)不成正比的今天,“自由持槍”不僅成為了一種“虛幻的權(quán)利”,而且成為美國(guó)警察暴力執(zhí)法比例居高不下的重要誘因。當(dāng)前,公民個(gè)體還能通過(guò)“知情同意”框架對(duì)科技巨頭為代表的數(shù)據(jù)處理者的“暴政”進(jìn)行一定的程度“反抗”,隨著算法科技的發(fā)展,這種來(lái)自個(gè)體的“反抗”顯而易見(jiàn)將變得無(wú)力,“知情同意”框架,在未來(lái)更多地只能成為一種自由主義精神的象征。

    考慮到可能的危機(jī),需要未雨綢繆,不宜再對(duì)“知情同意”框架進(jìn)行過(guò)度擴(kuò)張。

    (2)對(duì)“數(shù)據(jù)使用”的規(guī)制應(yīng)當(dāng)向“社會(huì)本位”視角傾斜

    所謂“社會(huì)本位”視角指的是在對(duì)數(shù)據(jù)使用的規(guī)制應(yīng)當(dāng)主要以社會(huì)利益最大化的角度考慮,與“數(shù)據(jù)主體本位”視角相對(duì)應(yīng)。數(shù)據(jù)作為一種資源,以現(xiàn)代產(chǎn)權(quán)理論來(lái)看,其產(chǎn)權(quán)屬性基本上是排列在整個(gè)光譜不同的范圍內(nèi),即一端是純粹公共品,另一端是私人品,及兩者之間是準(zhǔn)公共品[15]。當(dāng)前,對(duì)“數(shù)據(jù)使用”規(guī)制過(guò)分?jǐn)U張了其“私人品”的屬性,無(wú)形中在不斷擠占其作為“準(zhǔn)公共品”與“純粹公共品”的空間?!皵?shù)據(jù)主體本位”視角忽略了數(shù)據(jù)作為一種新型生產(chǎn)要素的特殊性,“數(shù)據(jù)使用”規(guī)制應(yīng)當(dāng)向“社會(huì)本位”視角傾斜,逐步部分代替“數(shù)據(jù)主體本位”視角。

    需要注意的是,“社會(huì)本位”視角的應(yīng)用不是完全覆蓋“數(shù)據(jù)主體本位”視角,兩種視角需要長(zhǎng)期共存,并在具體場(chǎng)景下進(jìn)行調(diào)和。重視“社會(huì)本位”視角更不是不注重?cái)?shù)據(jù)主體權(quán)利的維護(hù),而是一切維護(hù)數(shù)據(jù)主體權(quán)利的規(guī)制措施,必須在長(zhǎng)期上、總體上對(duì)社會(huì)利益目標(biāo)是有益的。這使得以保證數(shù)據(jù)主體權(quán)利為目的的規(guī)制措施的正當(dāng)性,不再是不證自明的。

    更需注意的是,不宜對(duì)“社會(huì)本位”進(jìn)行誤讀,“社會(huì)本位”并非忽視“個(gè)人權(quán)利”,而是從可能被個(gè)人忽視的個(gè)人權(quán)利角度,藉由“社會(huì)”角度的長(zhǎng)期效率的權(quán)衡,輔助此類被忽視的“個(gè)人權(quán)利”的實(shí)現(xiàn)。

    (3)數(shù)據(jù)規(guī)制重心應(yīng)當(dāng)從前端的“數(shù)據(jù)獲取”向后端的“數(shù)據(jù)使用”過(guò)渡

    如前所述科技的進(jìn)步,正逐步為規(guī)制“數(shù)據(jù)使用”創(chuàng)造條件。從操作層面上看,數(shù)據(jù)規(guī)制的重心從“數(shù)據(jù)獲取”向“數(shù)據(jù)使用”過(guò)渡有著諸多好處。

    首先,不必再糾結(jié)于“知情同意”框架。當(dāng)前法律法規(guī)對(duì)“知情同意”框架的不斷加強(qiáng)根植于對(duì)前端數(shù)據(jù)獲取規(guī)制的重視,跳出片面的對(duì)數(shù)據(jù)獲取的規(guī)制,能夠從新的維度解決“知情同意”框架的固有問(wèn)題。其次,為“社會(huì)本位”視角的實(shí)現(xiàn)提供機(jī)會(huì)。數(shù)據(jù)獲取行為作為前端階段,事實(shí)上非常難以對(duì)其是否有利于社會(huì)層面的、整體的、長(zhǎng)期的利益作出判斷,而數(shù)據(jù)使用行為作為后端,將數(shù)據(jù)主體、數(shù)據(jù)使用者與數(shù)據(jù)使用后的受益者聯(lián)系在一起,有助于監(jiān)管者綜合多項(xiàng)因素進(jìn)行權(quán)衡。最后,對(duì)后端數(shù)據(jù)使用的規(guī)制有更為廣闊的“騰挪”空間。對(duì)前端數(shù)據(jù)獲取的管控更容易出現(xiàn)“一刀切”[16]的情況,而后端數(shù)據(jù)使用的規(guī)制則更可能通過(guò)具體的場(chǎng)景、具體的技術(shù)發(fā)展情況進(jìn)行相應(yīng)的靈活調(diào)整,而且更易于通過(guò)司法系統(tǒng)進(jìn)行個(gè)案分析。

    需要明確的是,數(shù)據(jù)規(guī)制的重心從前端的“數(shù)據(jù)獲取”向后端的“數(shù)據(jù)使用”過(guò)渡不意味著放棄對(duì)“數(shù)據(jù)使用”的規(guī)制,而是一定程度扭轉(zhuǎn)當(dāng)前“嚴(yán)進(jìn)寬出”的數(shù)據(jù)獲取與使用規(guī)制現(xiàn)狀。

    3 結(jié)束語(yǔ)

    技術(shù)的發(fā)展不斷給人們的生活帶來(lái)便利,同時(shí)也在改變著人們的談判能力。傳統(tǒng)數(shù)據(jù)獲取規(guī)制中的“知情同意”框架有其存在的必要,但隨著算法科技的發(fā)展,有必要限制“知情同意”框架的繼續(xù)擴(kuò)張,避免個(gè)體的“反抗”成為一個(gè)象征。法律應(yīng)當(dāng)從“社會(huì)本位”出發(fā),進(jìn)一步加強(qiáng)對(duì)數(shù)據(jù)使用的規(guī)制,不僅讓數(shù)據(jù)的利用最大化,也真正落實(shí)個(gè)人權(quán)利的保護(hù)。

    猜你喜歡
    知情規(guī)制框架
    框架
    主動(dòng)退市規(guī)制的德國(guó)經(jīng)驗(yàn)與啟示
    廣義框架的不相交性
    保護(hù)與規(guī)制:關(guān)于文學(xué)的刑法
    刑法論叢(2018年4期)2018-05-21 00:44:30
    WTO框架下
    法大研究生(2017年1期)2017-04-10 08:55:06
    論《反不正當(dāng)競(jìng)爭(zhēng)法》的規(guī)制范疇
    法治研究(2016年4期)2016-12-01 03:41:40
    知情圖報(bào)
    小演奏家(2016年5期)2016-05-14 15:11:12
    淺析知情同意在藥物臨床試驗(yàn)中的實(shí)施
    靜??h人大常委會(huì)組織知情觀察
    天津人大(2015年9期)2015-11-24 03:26:13
    一種基于OpenStack的云應(yīng)用開(kāi)發(fā)框架
    69人妻影院| 26uuu在线亚洲综合色| 91午夜精品亚洲一区二区三区| 不卡视频在线观看欧美| 看免费成人av毛片| 九草在线视频观看| 亚洲一区二区三区色噜噜| 婷婷精品国产亚洲av| 欧美区成人在线视频| 亚洲性久久影院| 精品久久久噜噜| 国产精品一区www在线观看| 久久九九热精品免费| 午夜激情福利司机影院| 一级av片app| 亚洲精品456在线播放app| 成熟少妇高潮喷水视频| 亚洲欧美日韩高清在线视频| 国产伦一二天堂av在线观看| av.在线天堂| 国产女主播在线喷水免费视频网站 | 青青草视频在线视频观看| 国产一区二区三区在线臀色熟女| 两个人视频免费观看高清| 国产亚洲精品久久久com| 亚洲婷婷狠狠爱综合网| 美女cb高潮喷水在线观看| 夜夜夜夜夜久久久久| 亚洲不卡免费看| 久久人妻av系列| 国产欧美日韩精品一区二区| 成人永久免费在线观看视频| 国产毛片a区久久久久| 悠悠久久av| 日本色播在线视频| 国产精品福利在线免费观看| 国产极品天堂在线| 亚洲第一区二区三区不卡| 99久久中文字幕三级久久日本| 九九久久精品国产亚洲av麻豆| 嫩草影院精品99| 国模一区二区三区四区视频| 久久人人爽人人片av| 高清在线视频一区二区三区 | 午夜福利在线观看吧| 欧美色视频一区免费| 美女 人体艺术 gogo| 精品日产1卡2卡| 国产综合懂色| 亚洲人成网站在线观看播放| 欧美日本视频| 乱码一卡2卡4卡精品| 成人午夜精彩视频在线观看| 看免费成人av毛片| 在线观看av片永久免费下载| 亚洲精品日韩av片在线观看| 日韩精品有码人妻一区| 波多野结衣高清无吗| 美女脱内裤让男人舔精品视频 | 夜夜爽天天搞| 十八禁国产超污无遮挡网站| 亚洲中文字幕一区二区三区有码在线看| 深夜a级毛片| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 成年女人看的毛片在线观看| 日韩av不卡免费在线播放| 国产一区二区在线观看日韩| 国产亚洲5aaaaa淫片| 国产成人精品婷婷| 久久人人爽人人片av| 中文资源天堂在线| 成年女人看的毛片在线观看| 村上凉子中文字幕在线| 国产精品久久久久久精品电影| 男女做爰动态图高潮gif福利片| 日韩欧美三级三区| 国产精品一区二区三区四区久久| 在线观看一区二区三区| 亚洲综合色惰| 亚洲欧美日韩高清专用| 亚洲成av人片在线播放无| 99国产极品粉嫩在线观看| 欧美性猛交黑人性爽| 国产黄色视频一区二区在线观看 | av天堂中文字幕网| 九九久久精品国产亚洲av麻豆| 能在线免费看毛片的网站| 99久久人妻综合| 伦理电影大哥的女人| 精品国产三级普通话版| 亚洲av免费高清在线观看| 国产探花在线观看一区二区| 国产精品1区2区在线观看.| 一进一出抽搐gif免费好疼| 亚洲国产高清在线一区二区三| 成年女人看的毛片在线观看| 亚洲精品亚洲一区二区| 成人午夜高清在线视频| 亚洲av电影不卡..在线观看| 精品熟女少妇av免费看| 激情 狠狠 欧美| 国产亚洲精品久久久com| 日韩欧美精品免费久久| 日日干狠狠操夜夜爽| 少妇猛男粗大的猛烈进出视频 | 97超碰精品成人国产| 成人毛片60女人毛片免费| 91av网一区二区| 国产视频首页在线观看| 日韩av在线大香蕉| 秋霞在线观看毛片| 99热这里只有精品一区| 国产大屁股一区二区在线视频| 日韩,欧美,国产一区二区三区 | 村上凉子中文字幕在线| 久久久久久久久大av| 天美传媒精品一区二区| 亚洲欧美中文字幕日韩二区| 又爽又黄a免费视频| 国产成人精品一,二区 | 九色成人免费人妻av| 久久精品综合一区二区三区| 激情 狠狠 欧美| 日本黄色视频三级网站网址| 大型黄色视频在线免费观看| avwww免费| 中文字幕熟女人妻在线| 久久韩国三级中文字幕| 国产精品久久久久久av不卡| 久久九九热精品免费| 国产美女午夜福利| 中文字幕久久专区| 村上凉子中文字幕在线| 日韩欧美精品免费久久| 国产精品电影一区二区三区| 日本五十路高清| 黄色视频,在线免费观看| 国产69精品久久久久777片| 欧美+日韩+精品| 亚洲一区二区三区色噜噜| 亚洲精品日韩在线中文字幕 | 成人一区二区视频在线观看| 免费大片18禁| 久久久色成人| 国产精品日韩av在线免费观看| 国产成人91sexporn| 久久精品影院6| 亚洲激情五月婷婷啪啪| 女的被弄到高潮叫床怎么办| av在线老鸭窝| 欧美日本视频| 中文亚洲av片在线观看爽| 91av网一区二区| 99热只有精品国产| 岛国在线免费视频观看| 最近的中文字幕免费完整| 免费观看精品视频网站| 婷婷亚洲欧美| 在线观看av片永久免费下载| 久久久成人免费电影| 青春草亚洲视频在线观看| 天天躁日日操中文字幕| 久久久国产成人精品二区| 午夜精品一区二区三区免费看| 国产成人一区二区在线| 中文字幕av成人在线电影| 99在线人妻在线中文字幕| 亚洲欧美清纯卡通| 麻豆乱淫一区二区| 久久久久网色| 中文在线观看免费www的网站| 亚洲经典国产精华液单| 淫秽高清视频在线观看| 国产精品麻豆人妻色哟哟久久 | 嫩草影院精品99| 久久欧美精品欧美久久欧美| 亚洲欧洲国产日韩| 国产一区二区亚洲精品在线观看| 成人午夜高清在线视频| 免费在线观看成人毛片| 国内精品一区二区在线观看| 99热网站在线观看| 美女高潮的动态| 国产亚洲精品久久久久久毛片| 色综合站精品国产| 九九爱精品视频在线观看| 国产高潮美女av| 一区二区三区四区激情视频 | 高清日韩中文字幕在线| 国产精品久久久久久久久免| 欧美三级亚洲精品| 卡戴珊不雅视频在线播放| 十八禁国产超污无遮挡网站| 天堂中文最新版在线下载 | 26uuu在线亚洲综合色| 免费av毛片视频| 淫秽高清视频在线观看| 国产亚洲av嫩草精品影院| 看黄色毛片网站| 男人舔女人下体高潮全视频| 能在线免费观看的黄片| 亚洲无线观看免费| 久久人人精品亚洲av| 久久久久久国产a免费观看| 中国美女看黄片| 麻豆精品久久久久久蜜桃| 真实男女啪啪啪动态图| 亚洲欧美成人精品一区二区| 国产真实伦视频高清在线观看| 91麻豆精品激情在线观看国产| 丝袜美腿在线中文| 亚洲av免费高清在线观看| 国产一级毛片在线| 日韩大尺度精品在线看网址| 97热精品久久久久久| 午夜爱爱视频在线播放| 校园春色视频在线观看| 国产伦在线观看视频一区| 亚洲av二区三区四区| 欧美日韩在线观看h| 国产精品爽爽va在线观看网站| 日本三级黄在线观看| 又粗又爽又猛毛片免费看| 天天躁日日操中文字幕| 亚洲国产日韩欧美精品在线观看| 九色成人免费人妻av| 蜜桃久久精品国产亚洲av| 久久热精品热| 久久久色成人| 国产老妇女一区| 一级毛片久久久久久久久女| 午夜视频国产福利| 亚洲av成人av| 久久人妻av系列| 91av网一区二区| 99久国产av精品国产电影| 最近最新中文字幕大全电影3| 精品不卡国产一区二区三区| 免费看a级黄色片| 成人三级黄色视频| 免费看美女性在线毛片视频| 国产精品电影一区二区三区| 国产伦精品一区二区三区视频9| 在线免费观看不下载黄p国产| h日本视频在线播放| 中文字幕熟女人妻在线| 欧美高清性xxxxhd video| 国产精品一区二区在线观看99 | 午夜福利成人在线免费观看| 久久欧美精品欧美久久欧美| 成人性生交大片免费视频hd| 国产精品国产高清国产av| 成人特级av手机在线观看| 亚洲第一电影网av| 日韩中字成人| 女人被狂操c到高潮| 亚洲一区二区三区色噜噜| 卡戴珊不雅视频在线播放| 97超碰精品成人国产| av又黄又爽大尺度在线免费看 | 99热这里只有是精品50| 久久久久久伊人网av| 国产亚洲欧美98| 悠悠久久av| 午夜精品在线福利| 99久久九九国产精品国产免费| 日韩强制内射视频| 精品久久久久久久久久免费视频| 久久这里只有精品中国| 亚洲欧美中文字幕日韩二区| 精品久久久久久久久久免费视频| 日韩 亚洲 欧美在线| 亚洲在线观看片| 黄色一级大片看看| 日韩精品青青久久久久久| 亚洲国产欧美人成| 亚洲欧美清纯卡通| 国产精品野战在线观看| 18禁黄网站禁片免费观看直播| 岛国在线免费视频观看| 国产乱人偷精品视频| 国产精品一区二区性色av| 91久久精品国产一区二区三区| 给我免费播放毛片高清在线观看| 亚洲图色成人| 两性午夜刺激爽爽歪歪视频在线观看| 精品国产三级普通话版| 精品欧美国产一区二区三| 一区福利在线观看| 亚洲av熟女| 极品教师在线视频| 成人亚洲欧美一区二区av| 亚洲国产欧美在线一区| 国产精品久久久久久av不卡| 亚洲图色成人| 亚洲自拍偷在线| 51国产日韩欧美| 夜夜看夜夜爽夜夜摸| 免费搜索国产男女视频| 中国美白少妇内射xxxbb| 黄片wwwwww| 色播亚洲综合网| 精品久久久久久成人av| 婷婷亚洲欧美| 国产三级在线视频| 亚洲婷婷狠狠爱综合网| 联通29元200g的流量卡| 亚洲精品自拍成人| 精品久久国产蜜桃| 人妻少妇偷人精品九色| 久久久久久久久中文| 久久99热这里只有精品18| 极品教师在线视频| 黄片wwwwww| 最近的中文字幕免费完整| 色综合色国产| 在线免费观看的www视频| 日韩欧美精品免费久久| 精品人妻一区二区三区麻豆| 久久久久免费精品人妻一区二区| 亚洲成人中文字幕在线播放| 亚洲va在线va天堂va国产| 精品国内亚洲2022精品成人| 寂寞人妻少妇视频99o| 久久人人精品亚洲av| 久久6这里有精品| 青春草视频在线免费观看| 久久99蜜桃精品久久| 国产亚洲精品久久久com| 伊人久久精品亚洲午夜| 日韩中字成人| 91久久精品国产一区二区成人| 99热这里只有是精品50| 国产女主播在线喷水免费视频网站 | 国产高清激情床上av| 97热精品久久久久久| 日韩大尺度精品在线看网址| 日本五十路高清| 欧美性猛交黑人性爽| 久久精品夜色国产| 夫妻性生交免费视频一级片| 97在线视频观看| av女优亚洲男人天堂| 亚洲,欧美,日韩| 深夜精品福利| 亚洲一区高清亚洲精品| 国产精品一区二区在线观看99 | 午夜精品在线福利| 亚洲在线自拍视频| 九草在线视频观看| 高清日韩中文字幕在线| 啦啦啦啦在线视频资源| 亚洲欧美日韩无卡精品| 成熟少妇高潮喷水视频| 国产精品av视频在线免费观看| 欧美极品一区二区三区四区| 在线观看av片永久免费下载| 色播亚洲综合网| 啦啦啦观看免费观看视频高清| 成人综合一区亚洲| 成年女人看的毛片在线观看| 久久久久久久午夜电影| 国产精品永久免费网站| 两个人的视频大全免费| 听说在线观看完整版免费高清| 国产中年淑女户外野战色| 一个人看视频在线观看www免费| 国产成人福利小说| 看黄色毛片网站| 亚洲精品国产成人久久av| 国产午夜精品一二区理论片| 听说在线观看完整版免费高清| kizo精华| 亚洲av第一区精品v没综合| 欧美+日韩+精品| 欧美日韩乱码在线| 国产精品.久久久| 毛片一级片免费看久久久久| 全区人妻精品视频| 日本欧美国产在线视频| 99久久久亚洲精品蜜臀av| 人妻少妇偷人精品九色| 亚洲真实伦在线观看| 国产69精品久久久久777片| 久久人人精品亚洲av| 又爽又黄无遮挡网站| 亚洲成人中文字幕在线播放| 别揉我奶头 嗯啊视频| 亚洲综合色惰| 啦啦啦观看免费观看视频高清| 亚洲av成人av| 国产精品人妻久久久久久| 听说在线观看完整版免费高清| 国产伦一二天堂av在线观看| 日日摸夜夜添夜夜爱| 婷婷精品国产亚洲av| 一级毛片我不卡| av.在线天堂| 麻豆国产av国片精品| 一进一出抽搐gif免费好疼| 欧美xxxx性猛交bbbb| 亚洲精品乱码久久久久久按摩| 秋霞在线观看毛片| 18禁黄网站禁片免费观看直播| 国产91av在线免费观看| 国产精品免费一区二区三区在线| 国产av麻豆久久久久久久| 国产视频首页在线观看| 国产精品乱码一区二三区的特点| 99久久无色码亚洲精品果冻| 亚洲经典国产精华液单| 一本一本综合久久| 久久久午夜欧美精品| 国产视频内射| 日韩中字成人| 国产又黄又爽又无遮挡在线| 亚洲欧洲日产国产| 国产在线精品亚洲第一网站| 亚洲欧洲国产日韩| 精品一区二区三区人妻视频| 日韩欧美一区二区三区在线观看| 亚洲国产色片| 国产精品国产高清国产av| 欧美性猛交黑人性爽| 久久精品国产鲁丝片午夜精品| 12—13女人毛片做爰片一| 亚洲五月天丁香| 亚洲国产日韩欧美精品在线观看| 国产国拍精品亚洲av在线观看| 精品久久久噜噜| 国产亚洲91精品色在线| 黄色欧美视频在线观看| 国产高清视频在线观看网站| 国产又黄又爽又无遮挡在线| 日韩精品有码人妻一区| 国产v大片淫在线免费观看| 国产乱人视频| 欧美成人a在线观看| 内射极品少妇av片p| www.色视频.com| 简卡轻食公司| 国产高清不卡午夜福利| 国产精品爽爽va在线观看网站| 中文在线观看免费www的网站| 热99在线观看视频| 日本在线视频免费播放| 国产成人91sexporn| 日韩视频在线欧美| 欧美一区二区亚洲| 黄色日韩在线| 在现免费观看毛片| 蜜臀久久99精品久久宅男| 成熟少妇高潮喷水视频| 深夜精品福利| 尾随美女入室| 精品久久久久久久末码| 欧美精品一区二区大全| 亚洲在线观看片| av免费观看日本| 高清在线视频一区二区三区 | 亚洲av免费在线观看| 美女被艹到高潮喷水动态| 18禁在线播放成人免费| 夫妻性生交免费视频一级片| 能在线免费观看的黄片| 亚洲精品成人久久久久久| 亚洲国产精品国产精品| 男女边吃奶边做爰视频| 久久久久国产网址| 亚洲精品国产av成人精品| 中文字幕av成人在线电影| 免费看日本二区| 久久精品国产清高在天天线| 国产在线男女| 色播亚洲综合网| 国内精品美女久久久久久| 欧美色欧美亚洲另类二区| 黄片wwwwww| 国产色爽女视频免费观看| 91久久精品国产一区二区三区| 精品少妇黑人巨大在线播放 | 亚洲第一电影网av| 久久久久久国产a免费观看| 伊人久久精品亚洲午夜| 给我免费播放毛片高清在线观看| 只有这里有精品99| 亚洲国产精品国产精品| a级毛片免费高清观看在线播放| 亚洲最大成人中文| 亚洲av免费高清在线观看| 最好的美女福利视频网| 国产久久久一区二区三区| 99在线人妻在线中文字幕| 国产午夜精品论理片| 97热精品久久久久久| 日韩av不卡免费在线播放| 午夜福利成人在线免费观看| 久久精品影院6| 搞女人的毛片| 日本欧美国产在线视频| 日韩欧美精品v在线| 一本精品99久久精品77| 国产视频首页在线观看| 亚洲最大成人中文| 春色校园在线视频观看| av在线观看视频网站免费| 色尼玛亚洲综合影院| АⅤ资源中文在线天堂| 人妻制服诱惑在线中文字幕| 亚洲四区av| 村上凉子中文字幕在线| 国产色爽女视频免费观看| 听说在线观看完整版免费高清| av福利片在线观看| 99热6这里只有精品| 久久精品久久久久久噜噜老黄 | 国产老妇女一区| 国产精品美女特级片免费视频播放器| avwww免费| 黄色欧美视频在线观看| 中文字幕熟女人妻在线| h日本视频在线播放| 亚洲成人久久爱视频| 国内揄拍国产精品人妻在线| 一级毛片aaaaaa免费看小| 在线观看美女被高潮喷水网站| 插逼视频在线观看| 亚洲成a人片在线一区二区| 亚洲av男天堂| 91狼人影院| 一级毛片我不卡| 免费看a级黄色片| 中文字幕人妻熟人妻熟丝袜美| 国国产精品蜜臀av免费| 国产毛片a区久久久久| 成人性生交大片免费视频hd| 久久亚洲精品不卡| 中文字幕av在线有码专区| 18禁在线无遮挡免费观看视频| 亚洲精品亚洲一区二区| 日韩欧美国产在线观看| 偷拍熟女少妇极品色| 亚洲第一区二区三区不卡| 成人二区视频| 五月玫瑰六月丁香| 国内精品一区二区在线观看| 精品人妻熟女av久视频| 九九久久精品国产亚洲av麻豆| 午夜免费男女啪啪视频观看| 97热精品久久久久久| 自拍偷自拍亚洲精品老妇| 又黄又爽又刺激的免费视频.| 国产精品女同一区二区软件| 不卡一级毛片| 欧美另类亚洲清纯唯美| 欧美性猛交黑人性爽| 精品不卡国产一区二区三区| 美女高潮的动态| 国产精品一区二区三区四区久久| 久久久久国产网址| 最近2019中文字幕mv第一页| 久久久久久伊人网av| 国产午夜精品论理片| 日本欧美国产在线视频| 26uuu在线亚洲综合色| 午夜视频国产福利| 一级毛片我不卡| 欧美日韩在线观看h| 青春草视频在线免费观看| 免费搜索国产男女视频| 欧美又色又爽又黄视频| 又黄又爽又刺激的免费视频.| 最近中文字幕高清免费大全6| 欧美精品一区二区大全| 久久精品国产鲁丝片午夜精品| 一级二级三级毛片免费看| 夜夜看夜夜爽夜夜摸| 欧美成人精品欧美一级黄| 国产一区二区亚洲精品在线观看| 成人亚洲欧美一区二区av| 美女高潮的动态| 国产国拍精品亚洲av在线观看| h日本视频在线播放| 亚洲成a人片在线一区二区| 亚洲18禁久久av| 99久久九九国产精品国产免费| 非洲黑人性xxxx精品又粗又长| 丰满人妻一区二区三区视频av| 麻豆成人av视频| 成人av在线播放网站| 色综合亚洲欧美另类图片| 特级一级黄色大片| 乱系列少妇在线播放| 99热网站在线观看| 日韩国内少妇激情av| 一进一出抽搐动态| 美女黄网站色视频| 不卡视频在线观看欧美| 最近的中文字幕免费完整| 日韩欧美三级三区| 少妇高潮的动态图| 人妻系列 视频| 长腿黑丝高跟| 国产高清不卡午夜福利| 又爽又黄无遮挡网站| 成年女人永久免费观看视频| 中文亚洲av片在线观看爽| 精品日产1卡2卡| 舔av片在线| 亚洲成人久久性| 亚洲天堂国产精品一区在线| 两个人视频免费观看高清| av天堂在线播放| 精品久久久噜噜| videossex国产|