• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    互聯(lián)網(wǎng)企業(yè)數(shù)據(jù)識(shí)別反壟斷法律監(jiān)管規(guī)制

    2019-04-08 01:33國瀚文

    國瀚文

    摘?要:人們在互聯(lián)網(wǎng)上留下的消費(fèi)記錄、瀏覽歷史、健康數(shù)據(jù)等,有可能成為互聯(lián)網(wǎng)企業(yè)進(jìn)行數(shù)據(jù)識(shí)別的原材料,以分析人們未來的消費(fèi)趨向。通過梳理我國部分互聯(lián)網(wǎng)企業(yè)在線的隱私政策發(fā)現(xiàn),互聯(lián)網(wǎng)企業(yè)從注冊環(huán)節(jié)開始就在收集、識(shí)別人們的數(shù)據(jù)信息,這將使其個(gè)人經(jīng)濟(jì)能力等隱私變得更加透明。該行為實(shí)質(zhì)是侵犯消費(fèi)者個(gè)人數(shù)據(jù)的經(jīng)濟(jì)屬性以獲取經(jīng)濟(jì)利益的侵權(quán)行為。以反壟斷法對(duì)數(shù)據(jù)識(shí)別行為進(jìn)行監(jiān)管規(guī)制的正當(dāng)性,可在數(shù)據(jù)識(shí)別算法管控、確定數(shù)據(jù)權(quán)屬規(guī)則、明確數(shù)據(jù)授權(quán)邊界等層面得到有效證成。其內(nèi)在構(gòu)成應(yīng)是在維護(hù)互聯(lián)網(wǎng)市場有序競爭、兼顧科技發(fā)展與個(gè)人數(shù)據(jù)利益保護(hù)的目的下進(jìn)行構(gòu)建。

    關(guān)鍵詞:數(shù)據(jù)識(shí)別;隱私政策;反壟斷法監(jiān)管

    中圖分類號(hào):DF414

    文獻(xiàn)標(biāo)識(shí)碼:A

    文章編號(hào):1673-8268(2019)02-0037-10

    互聯(lián)網(wǎng)已嵌入現(xiàn)代社會(huì)生活,只要使用互聯(lián)網(wǎng),就會(huì)產(chǎn)生關(guān)于個(gè)人行為的數(shù)據(jù),并被記錄在互聯(lián)網(wǎng)中。而互聯(lián)網(wǎng)企業(yè)對(duì)于消費(fèi)者數(shù)據(jù)收集的顆?;潭确浅<?xì),由于它們充分利用了消費(fèi)者的信任(因缺乏具體算法知識(shí)和數(shù)據(jù)風(fēng)險(xiǎn)意識(shí)而產(chǎn)生的個(gè)人權(quán)利被保障的信任),對(duì)相關(guān)個(gè)人數(shù)據(jù)有選擇性地實(shí)施了濫用行為。通過收集數(shù)據(jù)、進(jìn)行數(shù)據(jù)識(shí)別,用來預(yù)測消費(fèi)者未來的網(wǎng)上行為。例如,通過步數(shù)計(jì)算、睡眠質(zhì)量測算和體重管理等涉及健康的數(shù)據(jù),可以預(yù)測該消費(fèi)者的人壽保險(xiǎn)費(fèi)率,甚至可以揭示其個(gè)人偏好、家庭情況或者特定的經(jīng)濟(jì)狀況。這種行為實(shí)質(zhì)上是互聯(lián)網(wǎng)企業(yè)利用大數(shù)據(jù)和復(fù)雜的算法榨取“消費(fèi)者剩余”的經(jīng)濟(jì)利益,侵犯消費(fèi)者個(gè)人數(shù)據(jù)權(quán)益的侵權(quán)行為,需要受到反壟斷法律規(guī)制。

    一、互聯(lián)網(wǎng)企業(yè)數(shù)據(jù)識(shí)別行為違法性認(rèn)定

    (一)數(shù)據(jù)識(shí)別行為界定

    數(shù)據(jù)的生成是傳感器在人類活動(dòng)(照片、聲音、文本、手機(jī)觸摸屏活動(dòng)等)、自然事件(溫度、風(fēng))或工業(yè)生產(chǎn)(物理、生物、化學(xué)變化過程等)中,通過感知輸入將二進(jìn)制代碼翻譯成人類可觀察的輸出的一種信息方式。此文所討論的數(shù)據(jù)僅為人們在互聯(lián)網(wǎng)上的活動(dòng)軌跡,包括文字輸入、消費(fèi)記錄、瀏覽歷史等信息。對(duì)這些信息進(jìn)行有目的的分析過程就是數(shù)據(jù)識(shí)別行為。這是通過算法實(shí)現(xiàn)的,即通過一種明確的簡單操作列表,機(jī)械地、系統(tǒng)地應(yīng)用于一套令牌(tokens)或?qū)ο笾校ɡ缙遄印?shù)字、蛋糕成分的配置等)令牌是計(jì)算機(jī)術(shù)語,是一種能夠控制站點(diǎn)占有媒體的特殊幀,以區(qū)別數(shù)據(jù)幀及其他控制幀,代表執(zhí)行某些操作權(quán)利的對(duì)象。令牌可以理解為暗號(hào),在一些數(shù)據(jù)傳輸之前,要先進(jìn)行暗號(hào)的核對(duì),不同的暗號(hào)被授權(quán)不同的數(shù)據(jù)操作。。也就是說,令牌最初的狀態(tài)是輸入,最終的狀態(tài)是輸出[1]。隨著認(rèn)知無線電技術(shù)的發(fā)展,數(shù)據(jù)識(shí)別已經(jīng)發(fā)展到了一個(gè)新的水平,使計(jì)算機(jī)能夠比人類更有效地解決復(fù)雜問題,從而做出有效預(yù)測[2]。各互聯(lián)網(wǎng)企業(yè)依據(jù)數(shù)據(jù)識(shí)別技術(shù)在互聯(lián)網(wǎng)市場上進(jìn)行激烈競爭,數(shù)字識(shí)別技術(shù)被廣泛應(yīng)用于商務(wù)、教育、就業(yè)、醫(yī)療、保險(xiǎn)等領(lǐng)域。但是,它的發(fā)展并未為人類社會(huì)各種事務(wù)和決策工作帶來人類所期望的客觀性。現(xiàn)實(shí)是效率雖然被提高了,但我們在網(wǎng)絡(luò)中的所行所為已無時(shí)無刻地不被算法所分析,即便是基于數(shù)學(xué)原理進(jìn)行識(shí)別算法的計(jì)算也不例外。但是算法畢竟是由研發(fā)人員進(jìn)行開發(fā)的,如何將“人類”所具有的判斷和選擇不偏不倚地進(jìn)行程序算法的編寫,是值得深究的。數(shù)據(jù)識(shí)別所帶來的不透明、不公平、不追責(zé)等問題,以及缺乏法律保護(hù)、倫理監(jiān)督等規(guī)范的現(xiàn)狀,使得個(gè)人的任何數(shù)據(jù)行為都成為了算法進(jìn)行自動(dòng)化決策的原料。

    在互聯(lián)網(wǎng)市場中,數(shù)據(jù)識(shí)別對(duì)消費(fèi)者所表現(xiàn)出來的主要影響就是價(jià)格歧視、數(shù)據(jù)畫像由交互設(shè)計(jì)之父Alan Cooper最早提出的概念,通過一系列真實(shí)數(shù)據(jù)分析,得出目標(biāo)用戶模型。例如,根據(jù)在線用戶的喜好購買的品牌、價(jià)格帶、購買方式、購買時(shí)間等推斷該用戶的消費(fèi)偏好。根據(jù)歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)的規(guī)定,數(shù)據(jù)畫像是指對(duì)個(gè)人數(shù)據(jù)進(jìn)行的任何自動(dòng)化處理,包括利用個(gè)人數(shù)據(jù)評(píng)估與自然人有關(guān)的特定方面,特別是針對(duì)與自然人的工作表現(xiàn)、經(jīng)濟(jì)狀況、健康狀況、個(gè)人偏好、興趣、信譽(yù)、行為習(xí)慣、位置或行蹤有關(guān)的分析和預(yù)測(參見GDPR第4條第4款)。、廣告定向投放等行為?;ヂ?lián)網(wǎng)企業(yè)以前所未有的方式了解他們的客戶,通過數(shù)據(jù)識(shí)別,掌握每一位消費(fèi)者可以為產(chǎn)品支付的最高價(jià)格,并利用算法去改善市場定價(jià)模型、完善客戶服務(wù)以及預(yù)測潛在客戶來源。2017年6月,經(jīng)濟(jì)合作與發(fā)展組織(OECD)歸納了四種可以作為合謀工具的算法,主要包括監(jiān)督算法、平行算法、信號(hào)算法以及自我學(xué)習(xí)算法監(jiān)督算法意在發(fā)現(xiàn)其他合謀者的背叛行為,從而啟動(dòng)對(duì)其的懲罰,即通過監(jiān)督算法檢測對(duì)手的定價(jià)行為,一旦發(fā)現(xiàn)其違約,就自動(dòng)啟動(dòng)價(jià)格戰(zhàn),主要是為了保障合謀戰(zhàn)線的統(tǒng)一;平行算法意在自動(dòng)為所有合謀企業(yè)設(shè)定最優(yōu)價(jià)格,合謀企業(yè)采用一種動(dòng)態(tài)定價(jià)算法,幫助提供同類產(chǎn)品或服務(wù)的企業(yè)在動(dòng)態(tài)市場上進(jìn)行平行定價(jià);信號(hào)算法指為合謀者設(shè)置信號(hào),借助先進(jìn)的信息網(wǎng)絡(luò)技術(shù)手段,向其他合謀者不斷發(fā)出瞬時(shí)的、極其復(fù)雜的定價(jià)信號(hào),只有使用了同類算法的合謀者才能接受和解讀;自我學(xué)習(xí)算法意在為企業(yè)選擇一個(gè)市場最優(yōu)的價(jià)格,企業(yè)可能利用人工智能創(chuàng)造利潤最大化的定價(jià)算法,通過深度學(xué)習(xí)后,達(dá)成其他企業(yè)的默契共謀。[3]。以美國Topkins一案為例,2015年,美國司法部指控Topkins違反《謝爾曼法》,其通過算法協(xié)調(diào)價(jià)格變動(dòng)的行為構(gòu)成犯罪,包括撰寫定價(jià)算法代碼,采用特定定價(jià)算法與其他同行進(jìn)行協(xié)商定價(jià),以維持和穩(wěn)定特定海報(bào)商品的銷售價(jià)格,并且協(xié)調(diào)各自的價(jià)格調(diào)整;隨時(shí)與合謀者搜集、交換、監(jiān)督和討論相關(guān)定價(jià)與銷售信息,落實(shí)價(jià)格協(xié)議和監(jiān)督定價(jià)算法的效力,收取價(jià)款[4]。該案是第一起因利用識(shí)別算法行為違反反壟斷法并遭到處罰的案件。該案成為全球?qū)?shù)據(jù)識(shí)別算法行為進(jìn)行反壟斷管制的風(fēng)向標(biāo)。

    1.數(shù)據(jù)識(shí)別政策比較

    數(shù)據(jù)識(shí)別的精確度意味著科技的發(fā)展程度。一方面,精確的個(gè)性化服務(wù)或許會(huì)提高工作效率,但也在另一方面損害了消費(fèi)者的利益。消費(fèi)者的利益一旦受損程度過大,又會(huì)反過來降低工作效率。所以,數(shù)據(jù)識(shí)別算法技術(shù)并不是一種完全價(jià)值中立的科學(xué)活動(dòng)或數(shù)學(xué)活動(dòng)[5],相反,其總是蘊(yùn)含著價(jià)值判斷。我國目前大多數(shù)在線平臺(tái)的數(shù)據(jù)識(shí)別算法設(shè)計(jì)都隱含了歧視和不公,有的更是隱藏了利益集團(tuán)的操控[6]。在此,以BATBAT,即百度公司、阿里巴巴集團(tuán)、騰訊公司三大互聯(lián)網(wǎng)公司首字母的縮寫。BAT已經(jīng)成為中國最大的三家互聯(lián)網(wǎng)公司。中國互聯(lián)網(wǎng)發(fā)展了20年,現(xiàn)在形成了三足鼎立的格局,三家巨頭各自形成自己的體系和戰(zhàn)略規(guī)劃,分別掌握著中國的信息型數(shù)據(jù)、交易型數(shù)據(jù)、關(guān)系型數(shù)據(jù),然后利用與大眾的通道不斷兼并后起的創(chuàng)新企業(yè)?;诂F(xiàn)有業(yè)務(wù)的競爭優(yōu)勢在移動(dòng)互聯(lián)網(wǎng)領(lǐng)域構(gòu)建完整的生態(tài)體系已經(jīng)成為BAT的布局核心,但在這個(gè)過程中,三巨頭的側(cè)重點(diǎn)各不相同。百度以搜索引擎為支撐,在探索新業(yè)務(wù)方面主要以戰(zhàn)略投資為主,形式多為收購和控股;阿里側(cè)重于構(gòu)筑完善的電子商務(wù)生態(tài)鏈,覆蓋物流、數(shù)據(jù)服務(wù)、電商的交易支付、供應(yīng)鏈金融等領(lǐng)域;騰訊更多地是采用開放平臺(tái)戰(zhàn)略,游戲領(lǐng)域一直是騰訊投資的重點(diǎn)。公司的隱私政策為例(見表1)。

    (二)數(shù)據(jù)識(shí)別算法透明度模糊化

    當(dāng)法律監(jiān)管進(jìn)入大數(shù)據(jù)領(lǐng)域時(shí),互聯(lián)網(wǎng)企業(yè)對(duì)其商業(yè)行為的保密性越來越強(qiáng),以至于這些企業(yè)對(duì)個(gè)人的量化程度也越來越高。從數(shù)據(jù)收集到數(shù)據(jù)處理的完成方式是不透明的?;ヂ?lián)網(wǎng)企業(yè)與第三方共享代碼和模型有以下三個(gè)缺點(diǎn):首先,數(shù)據(jù)挖掘的復(fù)雜性算法通常是該行業(yè)最寶貴的資源,因此,透明度要求不僅會(huì)威脅互聯(lián)網(wǎng)企業(yè)的商業(yè)模式,還可能會(huì)阻礙該行業(yè)的技術(shù)創(chuàng)新;其次,高級(jí)算法的復(fù)雜性非常高,以至于他們的架構(gòu)設(shè)計(jì)通常難以完全理解;最后,讓更廣泛的公眾理解算法將是一件非常難的事情。另外一個(gè)關(guān)鍵問題是,為了發(fā)揮隱私政策的作用,需要有足夠多的個(gè)人用戶閱讀、理解隱私政策。然而,并不是所有的消費(fèi)者都會(huì)仔細(xì)閱讀在線平臺(tái)的隱私政策,這也導(dǎo)致了對(duì)披露系統(tǒng)的忽視。

    (三)數(shù)據(jù)權(quán)屬確立規(guī)制缺失

    我國現(xiàn)行立法中對(duì)于個(gè)人數(shù)據(jù)的權(quán)屬?zèng)]有明確規(guī)定,加之互聯(lián)網(wǎng)市場存在眾多灰色地帶,使得數(shù)據(jù)的權(quán)屬問題成為數(shù)據(jù)保護(hù)的核心之重。目前較為流行的一種觀點(diǎn)認(rèn)為,數(shù)據(jù)沒有所有權(quán),因?yàn)閿?shù)據(jù)是存在于網(wǎng)絡(luò)之中的,是具有流動(dòng)性和非排他性的,而獲取數(shù)據(jù)的過程應(yīng)當(dāng)符合法律規(guī)定。另外一種觀點(diǎn)認(rèn)為,應(yīng)對(duì)數(shù)據(jù)賦予財(cái)產(chǎn)權(quán)性質(zhì)。來自于個(gè)人用戶的數(shù)據(jù),個(gè)人對(duì)其擁有絕對(duì)的所有權(quán),如表2中所列的數(shù)據(jù)種類。個(gè)人在日常生活中形成的數(shù)據(jù)曲線,可以反映出其個(gè)人生活方式等方面的信息,無論數(shù)據(jù)如何流轉(zhuǎn),其所有權(quán)均應(yīng)歸個(gè)人所有。還有一種觀點(diǎn)認(rèn)為,數(shù)據(jù)只有通過在線平臺(tái)的提煉才能產(chǎn)生價(jià)值,所以數(shù)據(jù)的所有權(quán)應(yīng)該歸在線平臺(tái)?;跀?shù)據(jù)的特殊性質(zhì)與互聯(lián)網(wǎng)市場的特殊存在,我們可以考慮使用經(jīng)濟(jì)學(xué)的價(jià)值理論對(duì)數(shù)據(jù)進(jìn)行價(jià)值定性,以法律規(guī)范對(duì)其所屬價(jià)值進(jìn)行等級(jí)上的區(qū)分,或許更符合現(xiàn)在的趨勢。

    (四)數(shù)據(jù)權(quán)屬授權(quán)形同虛設(shè)

    通過對(duì)表1、表2中在線平臺(tái)運(yùn)營的隱私政策比較分析可以看出,數(shù)據(jù)從個(gè)人手中流轉(zhuǎn)到互聯(lián)網(wǎng)企業(yè),在合法條件下主要是用戶行使授權(quán)行為的結(jié)果,即同意文中的“同意”為廣義的同意,其具體意義包括:同意;選擇性同意;推定同意;明確同意或特別許可同意。在線平臺(tái)收集個(gè)人相關(guān)數(shù)據(jù)。而目前精準(zhǔn)廣告的投放多是互聯(lián)網(wǎng)企業(yè)追蹤用戶網(wǎng)上行為軌跡,通過Cookie等類似技術(shù)所得,以便于其進(jìn)行精準(zhǔn)營銷。業(yè)界通行的用戶授權(quán)模式是通過用戶“默認(rèn)同意”,再選擇“退出”方式實(shí)現(xiàn),但這卻是GDPR明令禁止的行為。

    因?yàn)槿魏稳说膫€(gè)人數(shù)據(jù)都可以保存并用于未知領(lǐng)域,況且此種數(shù)據(jù)積累越多價(jià)值越大。而個(gè)人用戶除選擇“同意”以外,只能放棄在線平臺(tái)提供的服務(wù),即個(gè)人用戶喪失了選擇的權(quán)利。

    還有,不只是個(gè)人用戶的授權(quán)選擇權(quán)受到損害,與在線用戶相關(guān)的在線平臺(tái)的權(quán)利也會(huì)受到損害威脅。例如,在新浪微博訴脈脈案中,脈脈未經(jīng)許可就抓取了新浪微博用戶的職業(yè)信息、學(xué)歷信息經(jīng)營自身業(yè)務(wù);2017年,今日頭條也通過用戶的設(shè)備授權(quán)將新浪微博的內(nèi)容自動(dòng)轉(zhuǎn)移到自身業(yè)務(wù)中;華為與微信之爭,華為也是通過用戶的授權(quán),取得了微信中的數(shù)據(jù)。這就是數(shù)據(jù)識(shí)別行為帶來的惡性競爭結(jié)果之一,如不加以規(guī)制,市場必將扭曲。

    三、數(shù)據(jù)保護(hù)回應(yīng)與監(jiān)管規(guī)制構(gòu)建

    簡單禁止數(shù)據(jù)收集是行不通的,為了追逐利益,在線平臺(tái)會(huì)違反市場競爭秩序,這顯然不符合我國現(xiàn)階段經(jīng)濟(jì)快速發(fā)展的現(xiàn)狀。數(shù)據(jù)收集和處理所帶來的巨大利潤會(huì)形成監(jiān)管較少的黑市。所以,旨在最大限度地減少數(shù)據(jù)識(shí)別使用的危害,并通過合法的數(shù)據(jù)收集和處理,提高個(gè)人用戶平等性的監(jiān)管規(guī)制是我們必須考慮的制度規(guī)劃。

    (一)監(jiān)管規(guī)制構(gòu)建,法律保障公平

    監(jiān)管規(guī)制的構(gòu)建“應(yīng)以‘習(xí)近平網(wǎng)絡(luò)強(qiáng)國戰(zhàn)略思想為指引,加強(qiáng)頂層設(shè)計(jì)”[13],一方面,將競爭規(guī)制引入個(gè)人數(shù)據(jù)保護(hù);另一方面,推動(dòng)其他法律的立法進(jìn)程,完善個(gè)人數(shù)據(jù)安全法律保障體系。

    首先,在認(rèn)知上優(yōu)化隱私政策。改變目前無須閱讀隱私政策即可在在線平臺(tái)注冊等方式,并對(duì)隱私政策中涉及到的關(guān)鍵詞匯進(jìn)行顏色標(biāo)識(shí)和解釋說明,以增強(qiáng)個(gè)人用戶的理解度,確保披露的有效性。

    其次,為了對(duì)抗在線平臺(tái)對(duì)數(shù)據(jù)挖掘固有的密封技術(shù)發(fā)展趨勢,可以通過數(shù)據(jù)挖掘技術(shù)在算法決策和交互式建模方面提高透明度,即采取“智能”披露的方式。以表1中各在線平臺(tái)的隱私政策為例:隱私政策應(yīng)易于訪問且清晰易懂,對(duì)各在線平臺(tái)使用包括文本在內(nèi)的多層格式進(jìn)行說明,如圖形說明等[14],以簡化對(duì)算法的復(fù)雜理解,在線平臺(tái)采集數(shù)據(jù)時(shí)應(yīng)對(duì)用戶進(jìn)行提醒說明。

    最后,以法律作為監(jiān)管工具,將數(shù)據(jù)識(shí)別算法管控引入《反壟斷法》。算法可以強(qiáng)化在位者的力量,進(jìn)而提高市場集中度,如谷歌在歐洲經(jīng)濟(jì)區(qū)范圍內(nèi)以專用算法即X算法(保密信息)與Panda降級(jí)算法。的競爭性比較購物,給其他比較購物服務(wù)之間的競爭帶來了不利影響,增加了谷歌的流量,減少了歐洲經(jīng)濟(jì)區(qū)的流量,最終損害了歐盟境內(nèi)消費(fèi)者的利益。所以我國新的《反壟斷法》應(yīng)盡快修訂出臺(tái),制定適應(yīng)互聯(lián)網(wǎng)行業(yè)發(fā)展的配套規(guī)則,將典型的互聯(lián)網(wǎng)壟斷行為納入其中。在傳統(tǒng)構(gòu)成要件的基礎(chǔ)上,將后果要件也作為關(guān)鍵性指標(biāo)來判定數(shù)據(jù)識(shí)別算法的違法性。即從損害后果影響的深度進(jìn)行考察,如果行為造成的損害后果無法依賴市場進(jìn)行自我調(diào)節(jié)和恢復(fù)即市場優(yōu)先原則,指為了維護(hù)市場的競爭秩序,法律需要加以干預(yù)、進(jìn)行外部矯正。在這種情況下,市場本身無法發(fā)揮作用進(jìn)行自我恢復(fù)。[15],就說明該行為是違法的[16]。

    為確保監(jiān)管的有效實(shí)現(xiàn),應(yīng)建立跨部門的聯(lián)合審查、評(píng)估與處理機(jī)制。同時(shí),對(duì)數(shù)據(jù)識(shí)別進(jìn)行刑事追責(zé)也是國際上的立法趨勢,如美國《謝爾曼法》就對(duì)違反了該法的公司和個(gè)人設(shè)定了刑事處罰。法國、瑞士、加拿大等國也對(duì)實(shí)施壟斷行為的刑事責(zé)任做了規(guī)定[17]。我國在進(jìn)行《反壟斷法》修訂時(shí),可以首先引入網(wǎng)絡(luò)“透明問責(zé)制”,明確在線平臺(tái)所應(yīng)承擔(dān)的法律責(zé)任,才能起到有效的預(yù)防和震懾作用。如美國計(jì)算機(jī)力學(xué)協(xié)會(huì)(USACM)發(fā)布聲明,就算法透明度與問責(zé)制確立了相應(yīng)原則;歐盟競爭委員Vestager提出,企業(yè)有義務(wù)遵守?cái)?shù)據(jù)保護(hù)與反壟斷方面的法律規(guī)則來設(shè)計(jì)算法 參見GDPR第13條第2款。。而該項(xiàng)制度的實(shí)施只能由消費(fèi)團(tuán)體、學(xué)術(shù)界、監(jiān)管機(jī)構(gòu)來引領(lǐng),政府機(jī)關(guān)作為幕后保障。

    (二)識(shí)別算法管控,披露認(rèn)知優(yōu)化

    基于技術(shù)的發(fā)展趨勢,應(yīng)對(duì)數(shù)據(jù)識(shí)別算法即對(duì)數(shù)據(jù)使用自動(dòng)化決策進(jìn)行嚴(yán)格管控。根據(jù)GDPR對(duì)人權(quán)的保護(hù)理念,一方面,應(yīng)對(duì)在線用戶的個(gè)人數(shù)據(jù)權(quán)利賦予更多的自主決策權(quán);另一方面,對(duì)企業(yè)的識(shí)別算法進(jìn)行嚴(yán)格管控,主要有以下幾點(diǎn):(1)在線平臺(tái)如需要使用算法自動(dòng)化決策,應(yīng)向在線用戶告知決策機(jī)制,包括數(shù)字畫像,并說明需要使用該算法進(jìn)行決策的原因,以及將會(huì)在法律上對(duì)用戶造成哪些不利影響,且上述信息用戶有權(quán)訪問 參見GDPR第35條第1款。,除例外規(guī)定外,用戶有權(quán)不受企業(yè)算法自動(dòng)化決策的約束 參見GDPR第2條第1款。;(2)用戶數(shù)據(jù)的算法識(shí)別自動(dòng)化處理程序作為高風(fēng)險(xiǎn)的數(shù)據(jù)處理業(yè)務(wù),要求對(duì)數(shù)據(jù)主體個(gè)人開展系統(tǒng)和廣泛的評(píng)估,且評(píng)估對(duì)用戶個(gè)人能產(chǎn)生法律效力或類似重大的影響參見GDPR第35條第3款。;(3)除非在線平臺(tái)能表明其有可供披露的正當(dāng)事由,該正當(dāng)事由大于用戶的個(gè)人利益,或者大于法律規(guī)定,基于其特定的情況,用戶有權(quán)在任何時(shí)候反對(duì)基于公共利益和在線平臺(tái)或第三方正當(dāng)利益處理其個(gè)人數(shù)據(jù)參見GDPR第21條第1款。;(4)嚴(yán)控將對(duì)自然人產(chǎn)生法律后果或者造成嚴(yán)重影響的算法和對(duì)用戶的評(píng)估,作為高風(fēng)險(xiǎn)的數(shù)據(jù)處理行為參見GDPR第35條第3款。;(5)對(duì)企業(yè)進(jìn)行強(qiáng)制要求,并對(duì)其算法進(jìn)行系統(tǒng)化監(jiān)控,根據(jù)企業(yè)規(guī)模設(shè)立用戶數(shù)據(jù)保護(hù)崗位參見GDPR第31條第1款。;(6)對(duì)企業(yè)不承擔(dān)自動(dòng)決策不利后果的例外保持審慎的立法態(tài)度,發(fā)布行為規(guī)范 參見GDPR第70條。?;ヂ?lián)網(wǎng)企業(yè)基于嚴(yán)格的識(shí)別算法程序管控,增加了企業(yè)處理消費(fèi)者個(gè)人數(shù)據(jù)的成本,對(duì)于各項(xiàng)程序中的審查和排除,需要大量的人力和新程序的開發(fā)才可實(shí)現(xiàn)。否則,企業(yè)將會(huì)面臨大量的投訴和違規(guī)責(zé)罰,這就說明對(duì)企業(yè)的管控還是要依靠法律的威懾力才可實(shí)現(xiàn)。隨著我國大數(shù)據(jù)業(yè)務(wù)的發(fā)展和應(yīng)用,對(duì)人權(quán)保護(hù)周嚴(yán)的規(guī)則將逐漸隨著世界局勢的變換而得到發(fā)展。通過借鑒歐盟的人權(quán)保護(hù)規(guī)則,制定適合我國社會(huì)主義市場經(jīng)濟(jì)特色的識(shí)別算法監(jiān)管機(jī)制具有十分重要的意義。

    互聯(lián)網(wǎng)企業(yè)識(shí)別算法管控的對(duì)應(yīng)面則為對(duì)算法程序的透明度要求。早在1995年,加拿大隱私專員Ann Cavoukian就率先引入PbD理念,旨在產(chǎn)品或服務(wù)設(shè)計(jì)之初,融入隱私保護(hù)的理念,主張將隱私理念植入技術(shù)架構(gòu)設(shè)計(jì),以用戶為中心,提升透明度并給予用戶更多的對(duì)其個(gè)人信息的控制權(quán)[18]。

    (三)數(shù)據(jù)類別細(xì)化,確定權(quán)屬規(guī)則

    依據(jù)現(xiàn)有數(shù)據(jù)類別進(jìn)行性質(zhì)分類,即進(jìn)行基礎(chǔ)數(shù)據(jù)與增值數(shù)據(jù)的區(qū)分?;A(chǔ)數(shù)據(jù)是指能夠識(shí)別消費(fèi)者本人的數(shù)據(jù),如表2中所列出的個(gè)人直接數(shù)據(jù)等,這些數(shù)據(jù)信息為實(shí)施數(shù)據(jù)驅(qū)動(dòng)技術(shù)的本源數(shù)據(jù)。消費(fèi)者作為此類數(shù)據(jù)的提供者,應(yīng)該具有絕對(duì)的所有權(quán),這是數(shù)據(jù)確權(quán)規(guī)則的基本原則。在線平臺(tái)通過消費(fèi)者在線的行為活動(dòng),利用數(shù)據(jù)驅(qū)動(dòng)技術(shù)搜集整理出的數(shù)據(jù)為增值數(shù)據(jù),如表2中的行為數(shù)據(jù)、位置數(shù)據(jù)等。因?yàn)楦郊恿藬?shù)據(jù)處理者的勞動(dòng),因此在消費(fèi)者明確授權(quán)的情況下,在線平臺(tái)可以對(duì)增值數(shù)據(jù)擁有所有權(quán)。如在大眾點(diǎn)評(píng)網(wǎng)訴愛幫網(wǎng)案中,法院認(rèn)為愛幫公司對(duì)其經(jīng)營業(yè)務(wù)并未付出勞動(dòng),而是直接利用技術(shù)手段在愛幫網(wǎng)上展示大眾點(diǎn)評(píng)網(wǎng)的商戶簡介和用戶點(diǎn)評(píng),并以此獲取商業(yè)利益的行為是不正當(dāng)競爭行為。大眾點(diǎn)評(píng)網(wǎng)搜集、整理的商戶簡介和用戶點(diǎn)評(píng),應(yīng)受法律保護(hù),因?yàn)槠渲邪写蟊婞c(diǎn)評(píng)網(wǎng)的附加勞動(dòng)。

    另外,充分考慮到數(shù)據(jù)類型的多樣性,應(yīng)采用需求的多樣性和計(jì)算框架的多樣性方式,以開放架構(gòu)實(shí)現(xiàn)在線平臺(tái)系統(tǒng)的按需擴(kuò)展和動(dòng)態(tài)演進(jìn)[19]。一方面,對(duì)數(shù)據(jù)識(shí)別算法的設(shè)計(jì)者而言,應(yīng)更嚴(yán)格地篩選算法,避免算法對(duì)數(shù)據(jù)歧視行為進(jìn)行深度學(xué)習(xí),而跳進(jìn)無意識(shí)的侵權(quán)循環(huán)之中[20];另一方面,對(duì)數(shù)據(jù)類別的細(xì)化管理,可以最大限度地提高科技發(fā)展的速度與能力。因此,在法律授權(quán)下的數(shù)據(jù)采集、存儲(chǔ)、分析、發(fā)布與關(guān)聯(lián)融合、歸檔等全域管理,有利于數(shù)據(jù)按需快速流動(dòng)和各種類型數(shù)據(jù)流水線的動(dòng)態(tài)集成與調(diào)度。

    (四)明確授權(quán)邊界,確立授權(quán)規(guī)則

    賦予個(gè)人用戶選擇權(quán),而不是在“隱私政策”上籠統(tǒng)地進(jìn)行陳述 。隱私政策是否實(shí)施了有效的通知,取決于該通知的長度和功效之間的內(nèi)在張力。傳統(tǒng)意義上的通知一直面向個(gè)人,個(gè)人用戶在閱讀并充分理解“通知”的條款和條件后,通過選擇同意或拒絕平臺(tái)的同意使其采取相應(yīng)的行動(dòng)。并且,對(duì)于與個(gè)人有關(guān)的其他平臺(tái),也是通過消費(fèi)者的授權(quán)而實(shí)施了不正當(dāng)競爭行為。

    應(yīng)該強(qiáng)化用戶對(duì)個(gè)人數(shù)據(jù)的自決權(quán),增加同意規(guī)則的授權(quán)難度。GDPR對(duì)同意作了要求。一是默認(rèn)同意被視為無效。GDPR已明令禁止“默認(rèn)同意”的用戶信息處理規(guī)則參見GDPR第4條第11項(xiàng)。,要求用戶依照自己的意愿做出明確的指示。同意須以聲明或清晰肯定的行為表示,表明其同意處理與其相關(guān)的個(gè)人數(shù)據(jù),默示、預(yù)選方框或者不作為不構(gòu)成同意。GDPR將歐盟境內(nèi)的互聯(lián)網(wǎng)企業(yè)的監(jiān)控確定為其管轄范圍 參見GDPR第3條第2款。。當(dāng)算法是基于直接的市場營銷目的而針對(duì)個(gè)人進(jìn)行精準(zhǔn)廣告投放行為時(shí),用戶有權(quán)拒絕。所以,GDPR要求基于同意陌生的數(shù)據(jù)處理須使用明示授權(quán)的方式進(jìn)行。W8數(shù)據(jù)公司的一份報(bào)告顯示,按照GDPR的要求,英國市場營銷所使用的現(xiàn)有用戶數(shù)據(jù)有75%都是不合規(guī)的[21]。企業(yè)除非選擇遵守,否則只能采用新的技術(shù)來進(jìn)行規(guī)避。Google已于2018年3月22日向客戶和合作者公告宣布其廣告政策的調(diào)整,廣告發(fā)布者需要添加額外的環(huán)節(jié)以滿足GDPR的同意政策。Google還將與包括IAB(Interactive Advertising Bureau)(歐洲)在內(nèi)的廣告行業(yè)協(xié)會(huì)協(xié)作,溝通實(shí)現(xiàn)最佳的同意解決方案[22]。二是需經(jīng)用戶同意才能與第三方共享數(shù)據(jù)。GDPR的同意規(guī)則意味著企業(yè)與第三方或者關(guān)聯(lián)公司如要共享用戶數(shù)據(jù),需征得用戶的明確同意 參見GDPR第6條。。Google和YouTube之間是通過共用隱私政策進(jìn)行數(shù)據(jù)共享的。2012年,因兩個(gè)產(chǎn)品合并隱私政策未告知用戶并征得用戶同意,Google于2013年被荷蘭的個(gè)人數(shù)據(jù)保護(hù)機(jī)構(gòu)Dutch Data Protection Authority(DPA)認(rèn)定為違法,并被歐洲各國個(gè)人信息保護(hù)機(jī)構(gòu)調(diào)查[23]。Facebook也在隱私政策中規(guī)定,為了用于推廣、支持和整合活動(dòng)及改進(jìn)服務(wù),會(huì)與其旗下公司分享擁有的用戶信息[24]。但根據(jù)GDPR的要求,F(xiàn)acebook同Google一樣,正在調(diào)整其隱私政策。

    另外,在線平臺(tái)、用戶和第三方之間的關(guān)系,影響到數(shù)據(jù)市場的正常運(yùn)營。對(duì)用戶的授權(quán)原則進(jìn)行嚴(yán)格管控,也是為了市場秩序的有序進(jìn)行。所以,在線平臺(tái)可以引入“數(shù)據(jù)授權(quán)+平臺(tái)授權(quán)+用戶授權(quán)”的三重授權(quán)原則。如在脈脈非法抓取新浪微博用戶信息案中,法院明確,第三方應(yīng)用應(yīng)通過開放平臺(tái)獲取相應(yīng)信息。以O(shè)PEN-API模式獲取用戶信息時(shí)應(yīng)堅(jiān)持三重授權(quán)原則,以保護(hù)消費(fèi)者的隱私權(quán)、知情權(quán)和選擇權(quán)為底線,以公平誠信為行為準(zhǔn)則,維護(hù)互聯(lián)網(wǎng)市場的公平競爭秩序,實(shí)現(xiàn)數(shù)據(jù)經(jīng)濟(jì)的合作共贏。

    四、結(jié)?語

    全球已進(jìn)入“數(shù)據(jù)識(shí)別”時(shí)代,算法社會(huì)只是數(shù)字化生活的一個(gè)簡單縮影。在使用數(shù)據(jù)識(shí)別算法創(chuàng)造價(jià)值的同時(shí),也會(huì)伴隨很多風(fēng)險(xiǎn),過度的數(shù)據(jù)收集、高度復(fù)雜的算法自動(dòng)化決策行為給個(gè)人、社會(huì)乃至國家安全都帶來了巨大的挑戰(zhàn)。在數(shù)字經(jīng)濟(jì)時(shí)代,誰首先實(shí)現(xiàn)了數(shù)據(jù)的有效治理,誰就掌握了信息全球化的主動(dòng)權(quán)和話語權(quán)。因?yàn)槲覈⒎ㄒ?guī)制的現(xiàn)狀趕不上科學(xué)技術(shù)進(jìn)步的步伐,所以,如何通過科學(xué)的立法與制度設(shè)計(jì),改善現(xiàn)行法律與產(chǎn)業(yè)發(fā)展的關(guān)系,是我國對(duì)算法識(shí)別進(jìn)行法律規(guī)制面臨的巨大挑戰(zhàn)。根據(jù)其他先進(jìn)國家的立法現(xiàn)實(shí)與國內(nèi)外的新型案例,我們需要用前瞻性的眼光對(duì)現(xiàn)在和未來做出有預(yù)期的規(guī)劃,既不能一味地照搬國外的法律規(guī)范,也不能任由數(shù)據(jù)識(shí)別算法為所欲為。對(duì)待異域制度,要看到條文背后所隱藏的作用機(jī)理,結(jié)合我國社會(huì)主義市場經(jīng)濟(jì)的現(xiàn)實(shí)情況構(gòu)建監(jiān)管規(guī)制。對(duì)待數(shù)據(jù)識(shí)別行為,既要以監(jiān)管來進(jìn)行規(guī)制,又要發(fā)揮其積極作用。將數(shù)據(jù)識(shí)別對(duì)個(gè)人的損害引入《反壟斷法》的規(guī)制中,以明確數(shù)據(jù)保護(hù)規(guī)則的適用范圍,并且讓監(jiān)管規(guī)制涉入消費(fèi)者個(gè)人數(shù)據(jù)利益保護(hù)機(jī)制。只有建立合理的互聯(lián)網(wǎng)企業(yè)監(jiān)管機(jī)制,才能使互聯(lián)網(wǎng)市場的競爭實(shí)現(xiàn)良性循環(huán),既促進(jìn)科技的發(fā)展,又使個(gè)人的既得利益得到有效保障,形成國家、社會(huì)、企業(yè)和個(gè)人對(duì)數(shù)據(jù)共同治理的美好愿景。

    參考文獻(xiàn):

    [1]?WILSON R A, KEIL F C. The MIT Encyclopedia of the Cognitive Sciences[M].Cambridge,MA:MIT Press,1999:629-632.

    [2]?韓偉.算法合謀反壟斷初探——OECD《算法與合謀》報(bào)告介評(píng):上[J].競爭與政策研究,2017(5):112-121.

    [3]?EZRACHI A,STUCKE M E.人工智能與合謀:當(dāng)計(jì)算機(jī)抑制了競爭[M]//焦海濤,譯.韓偉.數(shù)字市場競爭政策研究.北京:法律出版社,2017:340-364.

    [4]?錢大力,黃凱.算法與定價(jià)——數(shù)字時(shí)代的反壟斷合規(guī)問題初探[EB/OL].[2018-07-23].http://news.tuxi.com.cn/newshtml/newsj/206466975fnews740476.html.

    [5]?KRAEMER F, OVERVELD K, PETERSON M. Supra Note2[M]//PASQUALE F. The Black Box Society: The Secret Algorithms That Control Money. Cambridge,MA:Harvard University Press,2016:251-260.

    [6]?丁曉東.算法與歧視——從美國教育平權(quán)案看算法倫理與法律解釋[J].中外法學(xué),2017(6):1609-1623.

    [7]?騰訊集團(tuán)數(shù)據(jù)及隱私保護(hù)中心.2017個(gè)人信息隱私保護(hù)十大事件(國際版)[EB/OL].(2018-01-18)[2018-07-23].http://www.tisi.org/4992.

    [8]?Gartner權(quán)威發(fā)布:全球網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模發(fā)展情況及趨勢預(yù)測[EB/OL].(2018-04-02)[2018-07-23].http://www.freebuf,com/articles/paper/167137.html.

    [9]?許光耀.價(jià)格歧視行為的反壟斷法分析[J].法學(xué)雜志,2011(11):21-24.

    [10]JONES A, SUFRIN B. EC Competition Law,Text,Cases,and Materials[M].3rd.Oxford:Oxford University Press,2017:441.

    [11]張新寶.從隱私到個(gè)人信息:利益再衡量的理論與制度安排[J].中國法學(xué),2015(3):38-59.

    [12]凱文.技術(shù)元素[M].凱利,張行舟,譯.北京:電子工業(yè)出版社,2012:56.

    [13]張歡,文銘,汪友海.從 Facebook 數(shù)據(jù)濫用事件談個(gè)人信息法律保護(hù)[J].重慶郵電大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2018(6):62.

    [14]BEN-SHAHAR O, CHILTON A S. Simplification of ?Privacy Disclosures:An Experimental Test[J]. Journal of Legal Studies, 2016(45):S41.

    [15]吳偉達(dá).反壟斷法視野中的價(jià)格競爭[M].杭州:浙江大學(xué)出版社,2005:45.

    [16]葉高芬.認(rèn)定違法價(jià)格歧視行為的既定框架及其思考[J].法商研究,2013(6):113-121.

    [17]鐘曉玲.完善反壟斷法中價(jià)格歧視行為法律規(guī)制建議[J].中北大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2016(3):52-60.

    [18]CAVOUKIAN A. The 7 Foundational Principles Implementation and Mapping of Fair Information Practices[EB/OL].(2016-06-07)[2018-08-10].https://gpsbydesign.org/the-7-foundational-princides-implementation-and-ma-pping-of-fair-information-practices/.

    [19]黎建輝,沈志宏,孟小峰.科學(xué)大數(shù)據(jù)管理:概念、技術(shù)與系統(tǒng)[J].計(jì)算機(jī)研究與發(fā)展,2017(2):235-247.

    [20]張玉宏,秦志光,肖樂.大數(shù)據(jù)算法的歧視本質(zhì)[J].自然辯證法研究,2017(5):81-86.

    [21]75% of data will be “unusable” following [EB/OL].(2017-08-14)[2018-07-23].http://www.research-live.com/article/news/75-of-data-will-be-unusable-following-gdpr/id/5026352.

    [22]Changes to our ad policies to comply with the GDPR[EB/OL].[2018-07-23].http://adwords.googleblog.com/2018/03/changes-to-our-ad-policies-to-comply-wi-th-the-GDPR.html.

    [23]Dutch DPA privacy policy Google in breach of data protection law[EB/OL].(2013-11-28)[2018-07-23].http://autoriteitpersoonsgegevens.nl/en/new/dutch-dpa-privacy-policy-google-breach-data-protection-law.

    [24]Facebook最新版隱私政策[EB/OL].[2018-07-23].http://www.facebook.com/privacy/explanation.

    中文欧美无线码| 久久精品久久久久久噜噜老黄| 亚洲五月婷婷丁香| 国产熟女午夜一区二区三区| 99久久国产精品久久久| 欧美黄色淫秽网站| 婷婷丁香在线五月| 亚洲性夜色夜夜综合| 日本精品一区二区三区蜜桃| 日韩三级视频一区二区三区| 亚洲av日韩精品久久久久久密| 国产精品自产拍在线观看55亚洲 | 国产精品久久久久成人av| 成年人午夜在线观看视频| 国产视频一区二区在线看| 麻豆乱淫一区二区| 每晚都被弄得嗷嗷叫到高潮| 丝瓜视频免费看黄片| 一个人免费看片子| 午夜福利一区二区在线看| 91精品三级在线观看| 国产免费福利视频在线观看| 麻豆av在线久日| 后天国语完整版免费观看| 久久香蕉激情| 最黄视频免费看| 如日韩欧美国产精品一区二区三区| 欧美精品人与动牲交sv欧美| 国产精品av久久久久免费| av福利片在线| 丝袜美足系列| www.自偷自拍.com| 美女脱内裤让男人舔精品视频| 国产极品粉嫩免费观看在线| 91精品国产国语对白视频| 蜜桃国产av成人99| www.av在线官网国产| 中文欧美无线码| 国产一区二区 视频在线| 欧美成人午夜精品| 99re6热这里在线精品视频| 汤姆久久久久久久影院中文字幕| 亚洲欧美日韩高清在线视频 | 国产又色又爽无遮挡免| 亚洲精品日韩在线中文字幕| 我的亚洲天堂| 嫩草影视91久久| 午夜福利免费观看在线| 亚洲国产av影院在线观看| 欧美中文综合在线视频| 啦啦啦视频在线资源免费观看| 久久久久国产精品人妻一区二区| 午夜精品国产一区二区电影| 欧美激情极品国产一区二区三区| 免费在线观看黄色视频的| 国产av国产精品国产| 99热全是精品| 日本欧美视频一区| avwww免费| 亚洲综合色网址| 一本—道久久a久久精品蜜桃钙片| 一本色道久久久久久精品综合| 亚洲成国产人片在线观看| 国产精品秋霞免费鲁丝片| 各种免费的搞黄视频| 美国免费a级毛片| av天堂在线播放| 精品国产一区二区三区久久久樱花| 99久久国产精品久久久| 王馨瑶露胸无遮挡在线观看| 99久久人妻综合| 大香蕉久久网| 首页视频小说图片口味搜索| 丝袜脚勾引网站| h视频一区二区三区| 久久99一区二区三区| 亚洲国产欧美在线一区| 99热全是精品| 19禁男女啪啪无遮挡网站| 欧美人与性动交α欧美精品济南到| 精品国内亚洲2022精品成人 | 高清av免费在线| a级毛片黄视频| 两个人免费观看高清视频| 最近最新免费中文字幕在线| 亚洲情色 制服丝袜| 下体分泌物呈黄色| 99国产极品粉嫩在线观看| 日本五十路高清| 亚洲三区欧美一区| 亚洲精品国产av蜜桃| 99久久人妻综合| 天天影视国产精品| 久久久欧美国产精品| 日韩三级视频一区二区三区| 久久99一区二区三区| 国产成人欧美在线观看 | 少妇猛男粗大的猛烈进出视频| 国产高清视频在线播放一区 | 热re99久久国产66热| 国产亚洲av高清不卡| 亚洲熟女毛片儿| 日韩一卡2卡3卡4卡2021年| 91麻豆av在线| 搡老熟女国产l中国老女人| 免费在线观看影片大全网站| 国产又色又爽无遮挡免| 亚洲一码二码三码区别大吗| 99精品久久久久人妻精品| 中国国产av一级| 亚洲va日本ⅴa欧美va伊人久久 | 丝袜在线中文字幕| 日本五十路高清| 欧美午夜高清在线| 一个人免费在线观看的高清视频 | 老熟妇乱子伦视频在线观看 | 欧美另类亚洲清纯唯美| 新久久久久国产一级毛片| 大陆偷拍与自拍| 亚洲精品乱久久久久久| 精品国产超薄肉色丝袜足j| 日本黄色日本黄色录像| 一本—道久久a久久精品蜜桃钙片| 久久久久网色| a级片在线免费高清观看视频| 亚洲美女黄色视频免费看| 男男h啪啪无遮挡| 少妇精品久久久久久久| 亚洲精品久久久久久婷婷小说| 黄色a级毛片大全视频| 老熟妇仑乱视频hdxx| 99精国产麻豆久久婷婷| 高清在线国产一区| 成人av一区二区三区在线看 | 一边摸一边抽搐一进一出视频| 80岁老熟妇乱子伦牲交| 国产精品秋霞免费鲁丝片| 亚洲va日本ⅴa欧美va伊人久久 | 中文字幕最新亚洲高清| 999久久久国产精品视频| 国产av精品麻豆| 国产精品免费大片| 丝袜在线中文字幕| 免费女性裸体啪啪无遮挡网站| 免费久久久久久久精品成人欧美视频| 韩国高清视频一区二区三区| 香蕉丝袜av| 国产精品免费大片| 欧美+亚洲+日韩+国产| 日韩视频一区二区在线观看| 69av精品久久久久久 | 欧美日韩精品网址| 99久久人妻综合| 国产一卡二卡三卡精品| 美女脱内裤让男人舔精品视频| 国产精品.久久久| 一级毛片精品| 黑人巨大精品欧美一区二区mp4| 亚洲精品中文字幕在线视频| 精品人妻一区二区三区麻豆| 性高湖久久久久久久久免费观看| 最黄视频免费看| 一级毛片女人18水好多| 日韩一区二区三区影片| 亚洲,欧美精品.| 亚洲色图 男人天堂 中文字幕| 国产片内射在线| 色播在线永久视频| 热re99久久精品国产66热6| 男人添女人高潮全过程视频| 国产一区二区三区综合在线观看| 大陆偷拍与自拍| 国产黄频视频在线观看| 亚洲免费av在线视频| 看免费av毛片| 欧美在线黄色| 国产精品成人在线| 高潮久久久久久久久久久不卡| 精品第一国产精品| 亚洲一码二码三码区别大吗| 亚洲精品日韩在线中文字幕| 香蕉国产在线看| 在线av久久热| 我的亚洲天堂| 国产一区有黄有色的免费视频| 汤姆久久久久久久影院中文字幕| 在线观看舔阴道视频| 日韩欧美一区二区三区在线观看 | 久久精品aⅴ一区二区三区四区| 国产色视频综合| 在线观看免费高清a一片| 免费少妇av软件| 黄片大片在线免费观看| 欧美性长视频在线观看| 亚洲第一青青草原| 2018国产大陆天天弄谢| 国产精品影院久久| 国产av又大| 亚洲专区字幕在线| 欧美日本中文国产一区发布| www.熟女人妻精品国产| 少妇精品久久久久久久| 精品熟女少妇八av免费久了| 国产精品一区二区精品视频观看| 日韩熟女老妇一区二区性免费视频| 久久久国产一区二区| 久久久久久久大尺度免费视频| 久久人妻熟女aⅴ| 青青草视频在线视频观看| 日本91视频免费播放| 又大又爽又粗| 欧美精品啪啪一区二区三区 | 男女国产视频网站| 日韩制服丝袜自拍偷拍| 国产精品偷伦视频观看了| av天堂久久9| 亚洲精品成人av观看孕妇| 国产男女超爽视频在线观看| 亚洲国产精品一区三区| 波多野结衣av一区二区av| 久久精品国产亚洲av高清一级| 50天的宝宝边吃奶边哭怎么回事| 午夜福利一区二区在线看| 精品一区二区三区四区五区乱码| 侵犯人妻中文字幕一二三四区| 日韩熟女老妇一区二区性免费视频| √禁漫天堂资源中文www| 男人舔女人的私密视频| 如日韩欧美国产精品一区二区三区| 不卡av一区二区三区| 精品人妻熟女毛片av久久网站| 久久久久视频综合| 亚洲精品国产av蜜桃| 久久免费观看电影| 日韩免费高清中文字幕av| 亚洲,欧美精品.| 久久久久视频综合| 日本五十路高清| 中亚洲国语对白在线视频| 精品欧美一区二区三区在线| 91大片在线观看| 久久久久网色| 国产xxxxx性猛交| 日韩欧美免费精品| 国产精品秋霞免费鲁丝片| 窝窝影院91人妻| 亚洲国产欧美日韩在线播放| 亚洲,欧美精品.| 男人操女人黄网站| 99久久综合免费| 黄片小视频在线播放| 亚洲成国产人片在线观看| 在线观看一区二区三区激情| 国产精品成人在线| 99热全是精品| 最近最新免费中文字幕在线| 久久久久网色| 免费女性裸体啪啪无遮挡网站| av国产精品久久久久影院| 久久狼人影院| 狂野欧美激情性xxxx| 美女视频免费永久观看网站| 汤姆久久久久久久影院中文字幕| 欧美精品亚洲一区二区| 性色av乱码一区二区三区2| 看免费av毛片| 80岁老熟妇乱子伦牲交| 久久久国产一区二区| 免费在线观看影片大全网站| 青草久久国产| 国产精品熟女久久久久浪| 久久久国产精品麻豆| 国产一区二区 视频在线| 亚洲国产看品久久| 国产成人免费观看mmmm| 伊人久久大香线蕉亚洲五| 丝袜人妻中文字幕| 九色亚洲精品在线播放| 51午夜福利影视在线观看| 午夜福利视频精品| 国产欧美日韩精品亚洲av| www.精华液| 波多野结衣av一区二区av| 国产欧美日韩综合在线一区二区| 悠悠久久av| 一级,二级,三级黄色视频| 国产在视频线精品| 欧美激情极品国产一区二区三区| 高潮久久久久久久久久久不卡| 久久精品国产亚洲av香蕉五月 | 大香蕉久久成人网| 又紧又爽又黄一区二区| 精品福利永久在线观看| 亚洲一区中文字幕在线| 老司机影院毛片| av国产精品久久久久影院| 国产91精品成人一区二区三区 | 国产精品99久久99久久久不卡| 香蕉丝袜av| 国产成人a∨麻豆精品| 99国产精品免费福利视频| 欧美中文综合在线视频| 成年动漫av网址| 99热网站在线观看| 男女午夜视频在线观看| 国产成人免费观看mmmm| videos熟女内射| bbb黄色大片| 亚洲三区欧美一区| 大香蕉久久成人网| 动漫黄色视频在线观看| 国产色视频综合| 亚洲欧美日韩另类电影网站| 中国美女看黄片| 免费日韩欧美在线观看| 成年美女黄网站色视频大全免费| 两性午夜刺激爽爽歪歪视频在线观看 | 国产精品成人在线| 久久久精品区二区三区| 欧美日韩成人在线一区二区| 天堂俺去俺来也www色官网| 男女边摸边吃奶| 亚洲国产精品成人久久小说| 大型av网站在线播放| 高清欧美精品videossex| 啦啦啦 在线观看视频| 亚洲综合色网址| 午夜激情av网站| 久久久久久久精品精品| 十八禁高潮呻吟视频| 伊人亚洲综合成人网| 午夜免费鲁丝| 日本91视频免费播放| 国产精品成人在线| 亚洲专区字幕在线| 久久中文看片网| 亚洲国产欧美在线一区| 老熟女久久久| 免费看十八禁软件| 国产亚洲精品一区二区www | 两个人看的免费小视频| 国产xxxxx性猛交| 欧美日韩视频精品一区| 老司机深夜福利视频在线观看 | 高清av免费在线| 999精品在线视频| 欧美亚洲 丝袜 人妻 在线| 老司机在亚洲福利影院| 男女边摸边吃奶| 欧美精品亚洲一区二区| 亚洲av国产av综合av卡| 亚洲熟女毛片儿| 这个男人来自地球电影免费观看| 黄网站色视频无遮挡免费观看| 啪啪无遮挡十八禁网站| 一级a爱视频在线免费观看| 亚洲av欧美aⅴ国产| 老熟妇乱子伦视频在线观看 | av电影中文网址| 成人亚洲精品一区在线观看| 久久精品国产综合久久久| 国产亚洲欧美在线一区二区| 午夜福利视频精品| 大陆偷拍与自拍| 亚洲欧美一区二区三区久久| 狠狠婷婷综合久久久久久88av| 黑人操中国人逼视频| 90打野战视频偷拍视频| 午夜福利影视在线免费观看| 国产免费福利视频在线观看| 在线观看免费高清a一片| 久久久久视频综合| 1024视频免费在线观看| 亚洲色图综合在线观看| av欧美777| 麻豆av在线久日| 亚洲自偷自拍图片 自拍| 宅男免费午夜| 亚洲国产欧美在线一区| 男女午夜视频在线观看| 色视频在线一区二区三区| 日日爽夜夜爽网站| 人妻 亚洲 视频| 老司机福利观看| 国产日韩欧美亚洲二区| 中文字幕人妻熟女乱码| 国产精品国产三级国产专区5o| 纵有疾风起免费观看全集完整版| netflix在线观看网站| 亚洲中文av在线| 精品一区二区三区av网在线观看 | 亚洲欧美激情在线| 交换朋友夫妻互换小说| 欧美性长视频在线观看| 老司机影院毛片| 91精品伊人久久大香线蕉| 在线天堂中文资源库| 精品第一国产精品| 久久毛片免费看一区二区三区| 热99re8久久精品国产| 国产老妇伦熟女老妇高清| 美女高潮到喷水免费观看| 老司机福利观看| 男人舔女人的私密视频| 亚洲天堂av无毛| 久热爱精品视频在线9| 精品国产一区二区三区久久久樱花| xxxhd国产人妻xxx| 人妻 亚洲 视频| 亚洲国产中文字幕在线视频| 国产野战对白在线观看| 国产精品秋霞免费鲁丝片| 热re99久久精品国产66热6| 黑丝袜美女国产一区| 久久 成人 亚洲| 国产欧美日韩精品亚洲av| 一本色道久久久久久精品综合| 女性被躁到高潮视频| 免费在线观看完整版高清| 性少妇av在线| 亚洲成人免费电影在线观看| 一级片免费观看大全| 亚洲欧美清纯卡通| 人人妻人人爽人人添夜夜欢视频| 中文字幕色久视频| 丝袜在线中文字幕| 亚洲黑人精品在线| 国产免费一区二区三区四区乱码| 亚洲国产精品999| 成人国语在线视频| 久久久久久人人人人人| 美女大奶头黄色视频| 国产老妇伦熟女老妇高清| 日韩人妻精品一区2区三区| 久久国产精品影院| 亚洲熟女精品中文字幕| 国产深夜福利视频在线观看| 国产男人的电影天堂91| 日韩欧美一区二区三区在线观看 | 汤姆久久久久久久影院中文字幕| 久久久久久人人人人人| 久久久久久亚洲精品国产蜜桃av| 国产淫语在线视频| 搡老乐熟女国产| kizo精华| 国产成人免费无遮挡视频| 国产一区二区三区在线臀色熟女 | 性色av乱码一区二区三区2| 女性被躁到高潮视频| 永久免费av网站大全| 国产亚洲午夜精品一区二区久久| 在线观看一区二区三区激情| 国产人伦9x9x在线观看| 深夜精品福利| 久久国产亚洲av麻豆专区| 91av网站免费观看| 亚洲精品第二区| 别揉我奶头~嗯~啊~动态视频 | 多毛熟女@视频| 亚洲av美国av| 午夜91福利影院| 亚洲国产精品一区二区三区在线| 侵犯人妻中文字幕一二三四区| 后天国语完整版免费观看| 亚洲伊人色综图| 欧美另类亚洲清纯唯美| 中文字幕人妻丝袜一区二区| 咕卡用的链子| 中亚洲国语对白在线视频| 国产成人欧美| 国产成人免费观看mmmm| 国产免费av片在线观看野外av| 看免费av毛片| 黄频高清免费视频| 国产精品国产三级国产专区5o| 国产欧美日韩综合在线一区二区| 巨乳人妻的诱惑在线观看| 久久影院123| 日韩三级视频一区二区三区| 不卡av一区二区三区| 丝袜人妻中文字幕| 黑人巨大精品欧美一区二区蜜桃| 免费久久久久久久精品成人欧美视频| 十八禁网站网址无遮挡| 我要看黄色一级片免费的| 国产黄色免费在线视频| www.自偷自拍.com| 国产亚洲午夜精品一区二区久久| 欧美日本中文国产一区发布| 国产精品熟女久久久久浪| 黄片大片在线免费观看| 极品少妇高潮喷水抽搐| 亚洲精品国产色婷婷电影| av有码第一页| 9热在线视频观看99| 亚洲色图 男人天堂 中文字幕| 国产日韩欧美亚洲二区| 欧美精品av麻豆av| 国产男女超爽视频在线观看| 欧美日韩精品网址| 国产欧美日韩综合在线一区二区| 日韩 欧美 亚洲 中文字幕| 91老司机精品| 黄色视频,在线免费观看| 一二三四在线观看免费中文在| 波多野结衣一区麻豆| 亚洲国产毛片av蜜桃av| 淫妇啪啪啪对白视频 | 脱女人内裤的视频| 国产免费福利视频在线观看| 婷婷成人精品国产| 啦啦啦啦在线视频资源| 亚洲精品乱久久久久久| 人人妻人人爽人人添夜夜欢视频| 一本久久精品| 国产色视频综合| 丁香六月天网| 国产高清国产精品国产三级| 成在线人永久免费视频| 麻豆乱淫一区二区| 女人精品久久久久毛片| 国产伦理片在线播放av一区| 一区二区三区乱码不卡18| 最新的欧美精品一区二区| 国产在线一区二区三区精| 久久中文字幕一级| 亚洲中文字幕日韩| 成人国语在线视频| 日本精品一区二区三区蜜桃| av不卡在线播放| 久久天躁狠狠躁夜夜2o2o| 狠狠精品人妻久久久久久综合| 亚洲avbb在线观看| 捣出白浆h1v1| 手机成人av网站| 欧美人与性动交α欧美精品济南到| 搡老岳熟女国产| 精品国产乱子伦一区二区三区 | 亚洲专区国产一区二区| 国产麻豆69| 国产又色又爽无遮挡免| 天天躁日日躁夜夜躁夜夜| 欧美日韩成人在线一区二区| 免费黄频网站在线观看国产| 高清在线国产一区| 99精国产麻豆久久婷婷| 激情视频va一区二区三区| 各种免费的搞黄视频| 精品少妇黑人巨大在线播放| 亚洲自偷自拍图片 自拍| 国产一区二区三区av在线| 久久国产精品男人的天堂亚洲| 久久青草综合色| 国产成人精品久久二区二区91| 成人av一区二区三区在线看 | 国产欧美亚洲国产| 水蜜桃什么品种好| 性少妇av在线| 一本一本久久a久久精品综合妖精| 老司机深夜福利视频在线观看 | 国产在线观看jvid| 日日夜夜操网爽| 老鸭窝网址在线观看| 99久久人妻综合| 丰满迷人的少妇在线观看| 狠狠婷婷综合久久久久久88av| 999精品在线视频| 欧美另类亚洲清纯唯美| 90打野战视频偷拍视频| 亚洲成人免费电影在线观看| av又黄又爽大尺度在线免费看| 成年人免费黄色播放视频| 国产精品一区二区精品视频观看| 日本vs欧美在线观看视频| 国产一卡二卡三卡精品| 超碰成人久久| 操出白浆在线播放| 国产又色又爽无遮挡免| 夜夜骑夜夜射夜夜干| 国产一区二区三区av在线| 国产淫语在线视频| 亚洲成人手机| 汤姆久久久久久久影院中文字幕| 波多野结衣av一区二区av| 亚洲 欧美一区二区三区| 最近最新免费中文字幕在线| 男女午夜视频在线观看| 久久久久久久精品精品| av超薄肉色丝袜交足视频| 久久精品国产a三级三级三级| 欧美久久黑人一区二区| 99国产精品一区二区蜜桃av | 亚洲成人免费电影在线观看| 亚洲第一欧美日韩一区二区三区 | 狠狠狠狠99中文字幕| 午夜视频精品福利| 亚洲精品国产色婷婷电影| 肉色欧美久久久久久久蜜桃| 纯流量卡能插随身wifi吗| 中文字幕最新亚洲高清| 亚洲欧美精品自产自拍| 好男人电影高清在线观看| 亚洲国产精品一区三区| 亚洲一码二码三码区别大吗| 久久精品国产a三级三级三级| 久久久久久久久免费视频了| 精品福利永久在线观看| 新久久久久国产一级毛片| 脱女人内裤的视频| 亚洲精品日韩在线中文字幕| 国产在线观看jvid| 亚洲成人手机| 欧美日韩视频精品一区| 欧美变态另类bdsm刘玥| av不卡在线播放|