• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論我國大數(shù)據(jù)殺熟立法模式選擇

    2022-05-31 22:59:26吳涵栩薛前強(qiáng)
    理論觀察 2022年4期

    吳涵栩 薛前強(qiáng)

    關(guān)鍵詞:大數(shù)據(jù)殺熟;披露式立法;算法披露;禁止式立法

    中圖分類號(hào):D922.16 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1009 — 2234(2022)04 — 0115 — 06

    近年來,我國互聯(lián)網(wǎng)經(jīng)濟(jì)和電子商務(wù)實(shí)現(xiàn)了飛速發(fā)展,帶來許多便利的同時(shí)也產(chǎn)生諸多現(xiàn)實(shí)問題。大數(shù)據(jù)殺熟作為其中較為典型的問題,很早就已進(jìn)入公眾視野。北京市消費(fèi)者協(xié)會(huì)2019年3月公布的一項(xiàng)調(diào)查報(bào)告表明,56.92%的被調(diào)查者認(rèn)為自己有過被大數(shù)據(jù)殺熟的經(jīng)歷。①短短幾年內(nèi),美團(tuán)、餓了么、攜程、滴滴等平臺(tái)就被消費(fèi)者屢次發(fā)現(xiàn)存在大數(shù)據(jù)殺熟情況。從1元的外賣配送費(fèi)②到1500余元的酒店房費(fèi)③,大數(shù)據(jù)殺熟儼然已經(jīng)成為侵害平臺(tái)消費(fèi)者的一支無處不在的“暗箭”。隨后跟進(jìn)的《個(gè)人信息保護(hù)法》《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》等法律法規(guī),均以一種禁止式的立法模式涉及大數(shù)據(jù)殺熟問題。2022年1月《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下稱《算法推薦規(guī)定》)發(fā)布,成為針對(duì)性規(guī)制大數(shù)據(jù)殺熟的重要法律依據(jù)。其中展現(xiàn)出的新興“披露式”立法模式,給我國大數(shù)據(jù)殺熟的規(guī)制路徑和體系構(gòu)建,帶來了全新思路。

    大數(shù)據(jù)殺熟,是指商家利用算法分析用戶的個(gè)人信息數(shù)據(jù)、制定商業(yè)策略,以此針對(duì)不同用戶實(shí)施差別定價(jià)的行為。這種行為之所以被冠以“殺熟”之名,是因?yàn)槔嫌脩粢蚱湎M(fèi)信息的積累和平臺(tái)用戶黏性,在大多數(shù)情況下往往更容易成為這種差別定價(jià)針對(duì)的對(duì)象。

    對(duì)于大數(shù)據(jù)殺熟的本質(zhì),目前學(xué)界存在爭議,部分學(xué)者認(rèn)為大數(shù)據(jù)殺熟是一種違背公平交易原則和侵害消費(fèi)者知情權(quán)的價(jià)格欺詐行為④,但更多學(xué)者仍采經(jīng)濟(jì)學(xué)上的概念,認(rèn)為它是一種基于信息與算法實(shí)現(xiàn)的價(jià)格歧視,即就同樣的商品或服務(wù)以不同的價(jià)格出售給不同消費(fèi)者。相較于傳統(tǒng)商業(yè)模式下的價(jià)格歧視,大數(shù)據(jù)殺熟具有以下特征:一、精密化。大數(shù)據(jù)殺熟借助平臺(tái)算法強(qiáng)大的計(jì)算能力,能夠產(chǎn)生針對(duì)每個(gè)消費(fèi)者“點(diǎn)對(duì)點(diǎn)”的定價(jià)策略,從而實(shí)現(xiàn)傳統(tǒng)商業(yè)模式下難以達(dá)成的“一級(jí)價(jià)格歧視”,最大化地攫取消費(fèi)者剩余。二、封閉化。傳統(tǒng)的商業(yè)模式下,消費(fèi)者可以就不同的經(jīng)營者進(jìn)行貨比三家,此時(shí)是消費(fèi)者選擇商品,消費(fèi)者占據(jù)主動(dòng)權(quán)。平臺(tái)經(jīng)濟(jì)下,基于用戶黏性,一次消費(fèi)行為往往不會(huì)橫跨諸多的平臺(tái)或軟件,且此時(shí)其實(shí)是平臺(tái)在選擇呈現(xiàn)給消費(fèi)者的商品,消費(fèi)者被封閉在平臺(tái)構(gòu)筑的信息壁壘中,喪失主動(dòng)權(quán)。三、集成化。平臺(tái)通過一套完整的算法體系,自動(dòng)且緊密地進(jìn)行“獲取數(shù)據(jù)——繪制畫像——實(shí)施定價(jià)”這一價(jià)格策略流程,可以實(shí)時(shí)獲得來自市場的信息并做出反饋,決策效率遠(yuǎn)高于傳統(tǒng)商業(yè)模式下類似的上述流程。

    然而需注意的是,盡管沿用了價(jià)格歧視這一概念,經(jīng)濟(jì)學(xué)和法學(xué)對(duì)這一行為的觀察視角并不相同,由此也產(chǎn)生了一定的價(jià)值判斷上的差異。經(jīng)濟(jì)學(xué)傾向于從動(dòng)態(tài)的、宏觀的視角,觀察價(jià)格歧視對(duì)于社會(huì)整體福利的影響,由于相比單一定價(jià),價(jià)格歧視解決了支付意愿低于壟斷定價(jià)的消費(fèi)者的最后一絲顧慮,從而提高了商品銷量,促進(jìn)商品流動(dòng),能夠同時(shí)提高企業(yè)利潤和整體消費(fèi)者的滿意程度,從而具有了一定的積極意義①。法學(xué)傾向于從靜態(tài)的、微觀的視角,觀察價(jià)格歧視對(duì)于消費(fèi)者平等和市場競爭平等的影響,因其差別定價(jià)打破了消費(fèi)者間和市場競爭者之間的平等地位,而被認(rèn)為是一種損害性行為。當(dāng)然,對(duì)于這種差別顯然不能作過于狹窄的解釋,否則對(duì)于大數(shù)據(jù)殺熟這種價(jià)格歧視的認(rèn)定將過于寬泛。從法學(xué)的視角出發(fā),應(yīng)當(dāng)認(rèn)為這種差別是以最大程度地攫取消費(fèi)者剩余為目的,并超出了公平的合理限度。對(duì)此有的學(xué)者提出,大數(shù)據(jù)殺熟的不公平就在于供應(yīng)商使用的個(gè)人信息量和所提供的產(chǎn)品與服務(wù)之間難以達(dá)成對(duì)等性和比例性②。故需明晰的是,大數(shù)據(jù)殺熟固然有其損害性,但損害性認(rèn)定處于一種社會(huì)效益和消費(fèi)者個(gè)人效益的平衡之中。

    本文從法律規(guī)制的角度觀察,重點(diǎn)著眼于法律所禁止,超出了公平合理限度的大數(shù)據(jù)殺熟行為,即法學(xué)意義下的損害性大數(shù)據(jù)殺熟。針對(duì)這種損害性大數(shù)據(jù)殺熟的法律規(guī)制,目前存在兩種思路。一種是傳統(tǒng)的禁止式立法,伴隨著各國互聯(lián)網(wǎng)經(jīng)濟(jì)的蓬勃發(fā)展,包括大數(shù)據(jù)殺熟在內(nèi)的行業(yè)亂象叢生,作為行為的直接規(guī)制,禁止式立法自然而然地在立法實(shí)踐中被采用。而另一種是新興的披露式立法,近幾年來在部分國家的立法實(shí)踐中與禁止式立法被并行采用。

    顧名思義,大數(shù)據(jù)殺熟禁止式立法指的是在立法中明確禁止大數(shù)據(jù)殺熟的模式。這一模式設(shè)立禁止性規(guī)范并設(shè)置罰則,利用經(jīng)營者對(duì)于處罰后果的規(guī)避以達(dá)到規(guī)制的效果,是最傳統(tǒng)、最直接也是最普遍的行為規(guī)制思路,為世界各國大數(shù)據(jù)殺熟的相關(guān)立法構(gòu)建所廣泛采用。截至《算法規(guī)定》發(fā)布前,我國大數(shù)據(jù)殺熟的相關(guān)立法也都是采取這種模式。其中《反壟斷法》第十七條禁止具備市場支配地位的經(jīng)營者“沒有正當(dāng)理由,對(duì)條件相同的交易相對(duì)人在交易價(jià)格等交易條件上實(shí)行差別待遇”?!秲r(jià)格法》第十四條禁止經(jīng)營者“提供相同商品或者服務(wù),對(duì)具有同等交易條件的其他經(jīng)營者實(shí)行價(jià)格歧視”?!秱€(gè)人信息保護(hù)法》第二十四條和第七十三條要求個(gè)人信息處理者利用信息進(jìn)行算法分析的“自動(dòng)化決策”時(shí),不得“對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇”。

    禁止式立法的優(yōu)勢是十分明顯的。作為一種傳統(tǒng)而廣泛的行為規(guī)制模式,其“禁止——違反——處罰”的內(nèi)在邏輯簡單明了,有利于發(fā)揮法律的指引作用和預(yù)測作用。同時(shí),禁止式立法通過罰則的威懾力,能夠主動(dòng)而直接地指向立法所要求的結(jié)果,也有利于法律的執(zhí)行。然而,經(jīng)過長期實(shí)踐,禁止式立法在大數(shù)據(jù)殺熟的規(guī)制中也逐漸暴露出了一些問題。

    一方面,禁止式立法由于大數(shù)據(jù)殺熟本身價(jià)值的模糊性,在規(guī)制過程中容易產(chǎn)生紕漏。正如前面所提到的,大數(shù)據(jù)殺熟損害性認(rèn)定處于一種個(gè)人利益和社會(huì)利益的平衡之中,實(shí)踐中并非一律禁止。這種平衡在現(xiàn)有法律文件中表現(xiàn)為原因和程度上的免責(zé)條件,如《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》第十七條第三款就規(guī)定了經(jīng)營者可以實(shí)施差別待遇行為的正當(dāng)理由,《價(jià)格法》《個(gè)人信息保護(hù)法》等均以“正當(dāng)營銷策略”“不合理的差別待遇”等詞對(duì)大數(shù)據(jù)殺熟的認(rèn)定范圍進(jìn)行了限縮。另外司法實(shí)踐中對(duì)于大數(shù)據(jù)殺熟的價(jià)值判斷也存在法官對(duì)于“合理商業(yè)行為”的自由考量。如“劉某訴北京三快科技有限公司侵權(quán)責(zé)任糾紛案”中,被告的配送費(fèi)動(dòng)態(tài)調(diào)整這一理由也得到了法院的支持。那么,如何認(rèn)定這種基于大數(shù)據(jù)殺熟價(jià)值平衡而設(shè)置的“合理性”?這顯然存在很大的模糊性,將給立法和司法工作帶來挑戰(zhàn)。

    另一方面,禁止式立法并沒有改變平臺(tái)經(jīng)濟(jì)下消費(fèi)者的被動(dòng)地位。隱匿的算法邏輯中,消費(fèi)者很難知道選擇將如何影響自身利益,只能被動(dòng)地接受經(jīng)營者的商業(yè)策略。此時(shí)消費(fèi)者往往難以知道自身合法權(quán)益是否受損,權(quán)益保護(hù)更無從談起,即使消費(fèi)者有所察覺,進(jìn)行舉證也極為困難。在不知道算法內(nèi)部邏輯的情況下,消費(fèi)者唯一能夠證明經(jīng)營者大數(shù)據(jù)殺熟的方法在于通過控制變量說明其他交易條件相同的情況下自身受到了明顯不利的差別定價(jià)。但顯而易見的是,這種相同條件的認(rèn)定要求對(duì)于消費(fèi)者來說過于嚴(yán)格。成交時(shí)間、地點(diǎn)等各種現(xiàn)實(shí)因素都能成為經(jīng)營者對(duì)于算法輸出差別的理由。甚至實(shí)踐中美團(tuán)、攜程等平臺(tái)還曾以“定位緩存”“系統(tǒng)故障”等更加難以控制的因素為借口擺脫大數(shù)據(jù)殺熟的嫌疑,給消費(fèi)者的舉證帶來了更大的困難??偠灾?,大數(shù)據(jù)殺熟的這種算法隱秘性帶來的信息差正是其得以侵害消費(fèi)者合法權(quán)益的重要技術(shù)基礎(chǔ),而單純的禁止式立法并不能解決算法的隱秘性問題。

    1.披露式立法的理路梳理

    基于禁止式立法的這種缺陷,部分國家開始將視線放到了一種新興的披露式立法上。而伴隨著我國大數(shù)據(jù)殺熟法制體系的逐步構(gòu)建,這一思路也開始在我國的實(shí)踐中生根發(fā)芽。2022年1月工信部等四部門聯(lián)合發(fā)布的《算法推薦規(guī)定》,內(nèi)容涵蓋算法應(yīng)用的基本原則和近年來算法推薦服務(wù)在實(shí)踐中出現(xiàn)的各種熱點(diǎn)問題。其中第十六條在我國現(xiàn)有大數(shù)據(jù)殺熟規(guī)制的法律體系中首次要求算法推薦服務(wù)提供者“應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況,并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等”。

    詳言之,披露式立法指針對(duì)平臺(tái)對(duì)消費(fèi)者采用的區(qū)別性算法,要求相關(guān)平臺(tái)在利用算法處理用戶信息、制定個(gè)性化交易策略的同時(shí),必須將相關(guān)算法的內(nèi)容對(duì)公眾予以披露。該最早見于歐盟于2016年通過的《通用數(shù)據(jù)保護(hù)條例》(GDPR)。其第13條第1款(c)規(guī)定,控制者有義務(wù)披露個(gè)人數(shù)據(jù)擬用于的處理目的以及處理的法律依據(jù)①。第13條第2款(f)規(guī)定,控制者應(yīng)當(dāng)在獲取個(gè)人數(shù)據(jù)的同時(shí)為數(shù)據(jù)主體提供確保合理與透明處理所必要的進(jìn)一步信息,其中就包括是否存在自動(dòng)化決策和用戶畫像,以及相關(guān)邏輯、數(shù)據(jù)處理對(duì)數(shù)據(jù)主體的預(yù)期后果的有效信息②。此后,該條款所蘊(yùn)含的披露式的立法思路開始被其他的大數(shù)據(jù)殺熟立法所效仿采納。如美國加利福尼亞州2018年出臺(tái)的《加州消費(fèi)者隱私法》(CCPA)規(guī)定,收集消費(fèi)者個(gè)人信息的企業(yè)應(yīng)當(dāng)在收集時(shí)或收集前告知消費(fèi)者其所要收集的個(gè)人信息的類型以及收集此類型個(gè)人信息的用途,企業(yè)在未向消費(fèi)者提供符合規(guī)定的通知的情況下,不得收集額外的個(gè)人信息或?qū)⑹占膫€(gè)人信息用于額外的用途③。再如美國弗吉尼亞州于2021年1月29日通過的《弗吉尼亞消費(fèi)者數(shù)據(jù)保護(hù)法》(CDPA)同樣規(guī)定,個(gè)人數(shù)據(jù)控制者應(yīng)當(dāng)按照其向消費(fèi)者所披露的數(shù)據(jù)范圍收集個(gè)人數(shù)據(jù),同時(shí)應(yīng)當(dāng)向消費(fèi)者提供可以合理訪問、清晰的和有實(shí)際意義的隱私政策,其中包括處理的數(shù)據(jù)類型以及處理數(shù)據(jù)的目的④。歐盟內(nèi)部市場和消費(fèi)者委員會(huì)(IMCP)在2020年4月向歐盟委員會(huì)提出的有關(guān)《數(shù)字服務(wù)法》(DSA)出臺(tái)的報(bào)告草案中,也要求數(shù)字服務(wù)提供商在合同條款和通用條款中向用戶提供“人工智能系統(tǒng)的確切參數(shù),以及它們?nèi)绾斡绊懹脩舻倪x擇或行為,以及這些參數(shù)相對(duì)于其他參數(shù)的原因和重要性”。

    2.披露式立法的運(yùn)作原理與披露程度

    披露式大數(shù)據(jù)殺熟規(guī)制模式的運(yùn)作原理在于,并非由法律通過設(shè)置禁止性規(guī)定主動(dòng)出擊,規(guī)制利用算法進(jìn)行的不合理的大數(shù)據(jù)殺熟行為,而是通過為經(jīng)營者設(shè)置算法披露義務(wù)打破算法黑箱,將其算法邏輯置于公眾的視野之下,通過保障公眾知情權(quán),使得消費(fèi)者重新掌握交易的主導(dǎo)地位,能夠依照完整的商品或服務(wù)信息自主選擇經(jīng)營者,從而促使經(jīng)營者檢查和修正自身所使用算法,或者由市場中的消費(fèi)者通過選擇去淘汰那些實(shí)施不合理大數(shù)據(jù)殺熟行為的經(jīng)營者。

    構(gòu)建披露式立法的一個(gè)關(guān)鍵問題在于對(duì)算法披露程度的確定。歐盟以GDPR為中心的消費(fèi)者數(shù)據(jù)保護(hù)立法與美國以加利福尼亞州、弗吉尼亞州和科羅拉多州三州為代表的消費(fèi)者隱私法州立法呈現(xiàn)出不同的選擇。以GDPR為中心的歐盟在立法時(shí)對(duì)于算法披露程度的要求更高,除了基本的數(shù)據(jù)范圍和處理目的之外還包括了算法邏輯和數(shù)據(jù)處理預(yù)期后果的有效信息。相比之下美國的披露程度要求較低,各州在立法時(shí)都只要求數(shù)據(jù)控制者公布收集的數(shù)據(jù)范圍和使用目的。

    除此之外,對(duì)于披露式立法的披露程度還存在一種理論上的構(gòu)想,即對(duì)算法程序語言的披露。這種披露相對(duì)于前述的兩種披露而言,能夠更加清晰直接地反映出消費(fèi)者的信息將在何種程度上影響平臺(tái)的策略,從而對(duì)其合理性進(jìn)行判斷。但這種披露對(duì)于絕大部分不具有算法閱讀能力的公眾來說是沒有意義的,如果向社會(huì)公開反而會(huì)侵害平臺(tái)所使用的服務(wù)算法這一具有商業(yè)價(jià)值和經(jīng)濟(jì)利益的智力成果。因此針對(duì)這種程度的算法披露有觀點(diǎn)提出,可能的路徑是將算法的源代碼向市場監(jiān)管機(jī)構(gòu)披露。①在這種設(shè)想下,可以通過向政府專門機(jī)構(gòu)披露算法代碼,借助技術(shù)人員(如“外部程序員”②)對(duì)經(jīng)營者算法的合規(guī)性分析,實(shí)施專業(yè)化的監(jiān)督,并將分析結(jié)果以合理的方式向社會(huì)公示。值得注意的是,公示是披露式立法的關(guān)鍵步驟。假如缺少了向消費(fèi)者公示這一環(huán)節(jié),而完全依賴公權(quán)力對(duì)算法進(jìn)行規(guī)制,還是無法保障消費(fèi)者知情權(quán)和選擇經(jīng)營者的能力,其實(shí)質(zhì)不過是傳統(tǒng)禁止式立法的一種變式。如果這種算法程序語言的監(jiān)督在技術(shù)層面被證明可行,這也可能成為未來大數(shù)據(jù)殺熟披露式立法規(guī)制發(fā)展的方向之一。

    需指出的是,盡管期待披露式立法的透明度可以帶來平臺(tái)經(jīng)濟(jì)下消費(fèi)者知情權(quán)和主動(dòng)權(quán)的回歸,但這并不意味著披露的程度越高越好。因?yàn)橥该鞫仁窍鄬?duì)于披露對(duì)象的理解和判斷能力而言的。隨著披露程度的不斷升高,公眾對(duì)于自身消費(fèi)行為和數(shù)據(jù)與受到交易策略間的關(guān)系有更加清晰的認(rèn)識(shí),能夠依據(jù)對(duì)算法邏輯的理解和判斷主動(dòng)做出選擇。此時(shí)消費(fèi)者基于透明度的提高,對(duì)平臺(tái)的信賴程度也將不斷升高。但當(dāng)披露程度繼續(xù)升高,復(fù)雜度或?qū)I(yè)度超過公眾能夠理解并據(jù)以進(jìn)行判斷的某個(gè)臨界值時(shí),此時(shí)所披露的內(nèi)容無法再產(chǎn)生消費(fèi)者信賴,公眾基于對(duì)經(jīng)營者的普遍不信任可能反而會(huì)促使其放棄,從而造成盡管平臺(tái)披露程度提高但消費(fèi)者信賴程度更低的情況,反而不利于平臺(tái)的發(fā)展。這也是前述構(gòu)想中對(duì)算法程序語言的完全披露,必須是面向具備相應(yīng)知識(shí)的專門機(jī)構(gòu)的重要原因。

    相比傳統(tǒng)禁止式立法“禁止--違反--處罰”的模式,披露式立法在行為規(guī)制邏輯上可謂另辟蹊徑。單純的披露式立法并不直接針對(duì)算法邏輯及其預(yù)期結(jié)果設(shè)置禁止性規(guī)定和配套的罰則,而僅為經(jīng)營者設(shè)置了將算法向公眾披露的義務(wù)和違反這種披露義務(wù)的罰則。具體來講,披露式立法在以下幾個(gè)方面能夠回應(yīng)傳統(tǒng)的禁止式立法存在的缺陷。

    首先,披露式立法通過借助消費(fèi)者自我決策的靈活性和市場適應(yīng)性,能夠在最大程度上避免禁止式立法可能出現(xiàn)的紕漏。如前所述,禁止式立法將給立法和司法帶來挑戰(zhàn),其根源在于法律法規(guī)或是司法人員必須利用有限的法律資源對(duì)行為實(shí)際合理性和算法邏輯存在“雙重模糊”的大數(shù)據(jù)殺熟行為進(jìn)行價(jià)值判斷。而披露式立法繞過了公權(quán)力直接進(jìn)行價(jià)值判斷這一難點(diǎn)所在,僅僅要求經(jīng)營者公開算法,相當(dāng)于只是利用強(qiáng)制性披露規(guī)定撥開算法邏輯的迷霧,并將后續(xù)的價(jià)值判斷交由消費(fèi)者自身。消費(fèi)者作為平臺(tái)經(jīng)濟(jì)的直接參與者,對(duì)于平臺(tái)的交易策略是否合理,是否損害自身利益擁有最直接的體驗(yàn)。通過要求平臺(tái)向消費(fèi)者披露算法,使得每一消費(fèi)者能夠提前或者在使用過程中了解自身的消費(fèi)行為產(chǎn)生的影響,如果消費(fèi)者認(rèn)為這種影響是不利于自身的,就可以進(jìn)一步作出更換平臺(tái)、改變消費(fèi)習(xí)慣等決策。

    其次,披露式立法保障社會(huì)對(duì)經(jīng)營者算法的知情權(quán)。禁止式立法并不能打破算法的黑箱,給交易過程中的消費(fèi)者決策和損害后的救濟(jì)都帶來了困難。交易過程中,消費(fèi)者由于平臺(tái)經(jīng)濟(jì)的封閉性和算法的隱秘性,缺乏進(jìn)行價(jià)格比較的能力,對(duì)可能存在的損害也難以預(yù)知。而損害發(fā)生后,由于算法不公開,救濟(jì)在技術(shù)層面幾乎成為經(jīng)營者“一言堂”,為經(jīng)營者尋求開脫創(chuàng)造很大便利。披露式立法模式下,通過強(qiáng)制要求經(jīng)營者向社會(huì)披露所使用的算法,讓算法邏輯接受社會(huì)監(jiān)督,能夠保障消費(fèi)者的知情權(quán),杜絕平臺(tái)“放暗箭”的情況,從而重新釋放消費(fèi)者自主選擇的能力,同時(shí)也有利于后續(xù)一系列救濟(jì)的跟進(jìn)。

    當(dāng)然,與禁止式立法相比,披露式立法也存在一定局限性。最為明顯的是,禁止式立法由公權(quán)力主動(dòng)進(jìn)行識(shí)別和干預(yù),而披露式立法將識(shí)別與選擇權(quán)交給消費(fèi)者,在這一過程中同時(shí)增加消費(fèi)者的認(rèn)識(shí)義務(wù)。老年人等信息邊緣人群和缺乏主動(dòng)權(quán)意識(shí)的消費(fèi)者,可能不能或是不愿去了解自己所使用平臺(tái)的算法邏輯,從而使披露式立法無法對(duì)這類人群發(fā)揮作用。其次,與禁止式立法相比,單純理論化的披露式立法缺乏救濟(jì)措施,威懾力不足。披露式立法利用的是經(jīng)營者對(duì)不合理算法公開導(dǎo)致商譽(yù)下降的擔(dān)憂,以及消費(fèi)者自主選擇所形成宏觀上的市場淘汰機(jī)制,國家強(qiáng)制力僅僅體現(xiàn)在事前對(duì)于經(jīng)營者履行披露義務(wù)的監(jiān)督,而缺少事后的救濟(jì)。為了應(yīng)對(duì)現(xiàn)實(shí)中各種復(fù)雜的情況(如經(jīng)營者虛假披露),還是有必要借助禁止式立法的“事后”救濟(jì),為消費(fèi)者權(quán)利保護(hù)設(shè)置最后一道防線。

    雖然引入披露式立法思路可實(shí)現(xiàn)我國大數(shù)據(jù)殺熟規(guī)制體系的優(yōu)化,但我國目前大數(shù)據(jù)殺熟規(guī)制仍有一些先決問題需要重視。

    第一, 立法繁雜,法律適用重疊。目前我國有大量的法律法規(guī)涉及大數(shù)據(jù)殺熟問題,然而各自對(duì)大數(shù)據(jù)殺熟的認(rèn)定并不完全相同。2022年1月發(fā)布的《算法推薦規(guī)定》專門針對(duì)互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng),明確算法推薦的種類、規(guī)范、服務(wù)提供者的各種義務(wù),與大數(shù)據(jù)殺熟聯(lián)系最為緊密。其中大數(shù)據(jù)殺熟的構(gòu)成要件為算法推薦服務(wù)提供者根據(jù)消費(fèi)者的各種特征信息在交易條件上實(shí)施不合理的差別待遇。作為法律責(zé)任,第三十二條規(guī)定按照有關(guān)法律、行政法規(guī)和部門規(guī)章的規(guī)定予以處理。該規(guī)定由此條連接各個(gè)法律法規(guī)、規(guī)章,針對(duì)大數(shù)據(jù)殺熟問題形成了專門化的文件。《消費(fèi)者權(quán)益保護(hù)法》雖未直接規(guī)定大數(shù)據(jù)殺熟行為,但因?yàn)槠涑橄蟮南M(fèi)者權(quán)利立法,在實(shí)踐中常常被人們用以概括地評(píng)價(jià)大數(shù)據(jù)殺熟行為,認(rèn)為大數(shù)據(jù)殺熟主要侵犯了消費(fèi)者的知情權(quán)和公平交易權(quán)?!斗磯艛喾ā分械拇髷?shù)據(jù)殺熟屬于濫用市場支配地位的差別待遇行為,其構(gòu)成要件為具備市場支配地位的經(jīng)營者沒有正當(dāng)理由對(duì)條件相同的交易相對(duì)人實(shí)行差別待遇。同樣屬于反壟斷領(lǐng)域的《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》聚焦于平臺(tái)經(jīng)濟(jì)視角,其中涉及大數(shù)據(jù)殺熟的差別待遇行為其構(gòu)成要件與《反壟斷法》中基本相同,只是展開了“差別待遇”“條件相同”和“正當(dāng)理由”三個(gè)要件的概念或可能情況?!秲r(jià)格法》中的大數(shù)據(jù)殺熟行為屬于不正當(dāng)價(jià)格行為,其構(gòu)成要件是在相同的產(chǎn)品或服務(wù)中對(duì)同等交易條件的其他經(jīng)營者實(shí)行價(jià)格歧視。與反壟斷法視域下的構(gòu)成要件相比,不再要求實(shí)施者具備市場支配地位,但對(duì)象限定于其他經(jīng)營者而排除了消費(fèi)者,也沒有涉及“正當(dāng)理由”等免責(zé)情況?!秱€(gè)人信息保護(hù)法》下大數(shù)據(jù)殺熟行為屬于“自動(dòng)化決策”,構(gòu)成要件為利用計(jì)算機(jī)程序自動(dòng)分析、評(píng)估個(gè)人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等,以此進(jìn)行決策并利用這種決策對(duì)個(gè)人實(shí)施不合理的差別待遇。《電子商務(wù)法》并未直接定義大數(shù)據(jù)殺熟行為,只是要求經(jīng)營者提供不針對(duì)消費(fèi)者個(gè)人特征的選項(xiàng),以保護(hù)消費(fèi)者選擇權(quán)?!对诰€旅游經(jīng)營服務(wù)管理暫行規(guī)定》禁止互聯(lián)網(wǎng)旅游服務(wù)經(jīng)營活動(dòng)的大數(shù)據(jù)殺熟,其構(gòu)成要件為經(jīng)營者濫用大數(shù)據(jù)分析等技術(shù)手段,基于消費(fèi)者信息給予不公平的交易條件,侵犯了消費(fèi)者合法權(quán)益。作為法規(guī),相比前述法律在適用領(lǐng)域和適用場景上都更加細(xì)化,最為直接具體地指向大數(shù)據(jù)殺熟行為。

    由此可見,我國目前的大數(shù)據(jù)殺熟法律規(guī)制體系存在高度競合卻又混亂的特點(diǎn)。一方面大量的法律法規(guī)可以同時(shí)適用于大數(shù)據(jù)殺熟行為的規(guī)制,但另一方面各自在細(xì)節(jié)處又參差不齊,在規(guī)定的具體程度不同、側(cè)重點(diǎn)不同,在大數(shù)據(jù)殺熟行為的構(gòu)成要件有差異、是否適用免責(zé)條件沒有統(tǒng)一,同時(shí)所規(guī)定的大數(shù)據(jù)殺熟法律責(zé)任也存在很大差異。

    第二,“相同條件”認(rèn)定標(biāo)準(zhǔn)不清。《反壟斷法》《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》《價(jià)格法》《禁止網(wǎng)絡(luò)不正當(dāng)行為規(guī)定(公開征求意見稿)》等法律法規(guī)在認(rèn)定大數(shù)據(jù)殺熟行為時(shí)要求交易對(duì)象具有“相同條件”,但目前只有《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》對(duì)“相同條件”這一概念在第十七條中進(jìn)行了釋明①。然而仔細(xì)分析該條所列舉的具體條件,還是會(huì)發(fā)現(xiàn)存在問題。首先,認(rèn)定構(gòu)成相同條件的因素主要體現(xiàn)在大體量、長期且穩(wěn)定的交易關(guān)系中,交易的相對(duì)人往往是另一經(jīng)營者而非最終的消費(fèi)者。而不影響認(rèn)定條件相同的因素,尤其是“個(gè)體偏好”“消費(fèi)習(xí)慣”等,卻具有非常鮮明的個(gè)體消費(fèi)者性質(zhì)。然而事實(shí)是,大數(shù)據(jù)殺熟行為往往是利用了個(gè)體消費(fèi)者與平臺(tái)之間的信息差,實(shí)踐中絕大多數(shù)情況下大數(shù)據(jù)殺熟都是針對(duì)個(gè)體消費(fèi)者的。該指南對(duì)于“相同條件”做出這樣的認(rèn)定,似乎有違實(shí)際情況。而至于上述其他的法律法規(guī),雖然以“相同條件”為要件,卻完全沒有對(duì)“相同條件”進(jìn)行解釋,這將給具體的認(rèn)定帶來很大阻礙。

    第三,反壟斷法視域下市場支配地位要件的適配性。《反壟斷法》及《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》均以實(shí)施大數(shù)據(jù)殺熟的經(jīng)營者具備市場支配地位為前提。目前實(shí)踐中對(duì)于市場支配地位要件的認(rèn)定主要還是依靠經(jīng)營者的市場份額,但這與大數(shù)據(jù)殺熟的運(yùn)作模式并不相同。大數(shù)據(jù)殺熟得以運(yùn)作的關(guān)鍵在于經(jīng)營者所掌握的海量數(shù)據(jù)和算法分析能力,這呈現(xiàn)出一種區(qū)別于傳統(tǒng)認(rèn)定要件的新興控制力。這種算法控制力難以像市場份額、控制上下游市場能力等因素一樣,通過明顯的外在形式表現(xiàn)出來,而是隱藏在算法邏輯和數(shù)據(jù)庫中,給認(rèn)定帶來了很大困難。而這種算法控制力的影響卻是巨大的,以抖音為代表的眾多互聯(lián)網(wǎng)平臺(tái)近年來能夠異軍突起并迅速吸收大量用戶,其首要因素就在于掌握了強(qiáng)大的算法。

    前文對(duì)大數(shù)據(jù)殺熟禁止式和披露式立法各自的利弊作了非常具體的羅列。披露式立法具有靈活性和市場適應(yīng)性,通過釋放消費(fèi)者的主動(dòng)權(quán),彌補(bǔ)了禁止式立法可能產(chǎn)生的紕漏。同時(shí)披露式立法直接保障了社會(huì)對(duì)于算法的知情權(quán),打破了禁止式立法下算法黑箱內(nèi)外信息不平等的狀態(tài),有利于公眾預(yù)知交易情況并針對(duì)算法作出合理決策,也利于后續(xù)的救濟(jì)和執(zhí)法。而禁止式立法作為傳統(tǒng)的行為規(guī)制模式,以罰則直接產(chǎn)生威懾力,相對(duì)披露式立法具有事后性,能夠彌補(bǔ)單純的披露式立法缺乏保障性救濟(jì)的缺陷,同時(shí)作為基本保護(hù)依舊適用于少數(shù)難以借助算法公開掌握主動(dòng)權(quán)的人群??梢哉f,這兩者就各自的制度優(yōu)勢可以互相形成補(bǔ)充,作為大數(shù)據(jù)殺熟立法規(guī)制的“車之雙輪,鳥之雙翼”。以《算法推薦規(guī)定》所展示出的披露式立法為導(dǎo)向,我國在未來的大數(shù)據(jù)殺熟立法規(guī)制中可以兼采兩種模式,在法律體系的構(gòu)建上通過兩種模式的互補(bǔ)形成對(duì)大數(shù)據(jù)殺熟行為事前事后的雙重規(guī)制,從而有利于更加完善和有效地保障平臺(tái)經(jīng)濟(jì)下消費(fèi)者的利益。

    如前所述,我國目前大數(shù)據(jù)殺熟法律規(guī)制體系存在高度競合卻又混亂的特點(diǎn)。在未來的立法和修法工作中,有必要對(duì)這些法律法規(guī)各自的適用場域進(jìn)行區(qū)分,從而使《算法推薦規(guī)定》更好地發(fā)揮其綱領(lǐng)性的作用,根據(jù)既有立法體系,可以根據(jù)以下思路進(jìn)行整理:

    第一,《反壟斷法》中對(duì)于涉及大數(shù)據(jù)殺熟的差別待遇行為,其懲罰力度在現(xiàn)有法律框架中最高,同時(shí)其構(gòu)成要件相比其他法律法規(guī)也額外地需要經(jīng)營者具備市場支配地位。因此我們不妨將反壟斷法視域下的大數(shù)據(jù)殺熟行為視作一種濫用壟斷地位和攫取消費(fèi)者利益的復(fù)合行為。對(duì)于這種復(fù)合行為,由于需要認(rèn)定額外的要件,具備更大的損害性,因此也就輔以額外的法律責(zé)任。而且《反壟斷法》本身就有著預(yù)防和制止壟斷,保護(hù)市場公平競爭的目的,假如行為沒有對(duì)競爭產(chǎn)生損害,就應(yīng)當(dāng)通過其他法律而不是競爭法加以規(guī)制①。基于這種邏輯,利用反壟斷法規(guī)制大數(shù)據(jù)殺熟行為時(shí),需要特別注意其壟斷地位認(rèn)定和大數(shù)據(jù)殺熟行為認(rèn)定是并駕齊驅(qū),同等重要的。

    第二,《價(jià)格法》是除《反壟斷法》外唯一同樣的以上一年度銷售總額的一定比例的罰款作為法律責(zé)任的法律,懲罰模式相同但規(guī)定的比例相對(duì)較小,在懲罰力度上要小于后者。同時(shí)《價(jià)格法》與《反壟斷法》在涉及大數(shù)據(jù)殺熟行為的認(rèn)定要件上也基本相同,只是前者相比于作為反壟斷立法的后者并不需要額外認(rèn)定經(jīng)營者的市場支配地位,這在邏輯上也是通順的。針對(duì)大數(shù)據(jù)殺熟行為的規(guī)制,可以將《價(jià)格法》看作是剝離了壟斷地位認(rèn)定的《反壟斷法》。因此實(shí)踐中對(duì)于《價(jià)格法》的定位可以視作對(duì)不構(gòu)成壟斷的經(jīng)營者實(shí)施的大數(shù)據(jù)殺熟行為進(jìn)行的規(guī)制。同時(shí),基于絕大部分大數(shù)據(jù)殺熟是針對(duì)個(gè)體消費(fèi)者這一現(xiàn)實(shí)情況,建議擴(kuò)大保護(hù)范圍,增加消費(fèi)者為大數(shù)據(jù)殺熟的行為對(duì)象,以發(fā)揮《價(jià)格法》立法目的中同時(shí)保護(hù)消費(fèi)者和經(jīng)營者合法權(quán)益的宗旨。

    第三,《個(gè)人信息保護(hù)法》就本身的立法目的而言應(yīng)更加側(cè)重大數(shù)據(jù)殺熟的技術(shù)層面,即個(gè)人信息控制者對(duì)個(gè)人信息的處理和利用。同時(shí)就罰則而言,按照其規(guī)定除非構(gòu)成情節(jié)嚴(yán)重,否則以法定數(shù)額而非經(jīng)營者的收入作為處罰標(biāo)準(zhǔn)。因此在實(shí)踐中,《個(gè)人信息保護(hù)法》除了一般造成實(shí)際損害的大數(shù)據(jù)殺熟行為,還可以適用于技術(shù)層面用戶認(rèn)為算法不合規(guī)但尚未對(duì)自身造成損害的場合。

    第四,《消費(fèi)者權(quán)益保護(hù)法》通過設(shè)置消費(fèi)者權(quán)利,以類似于原則性的規(guī)定對(duì)消費(fèi)者進(jìn)行抽象的保護(hù)。因此針對(duì)大數(shù)據(jù)殺熟,其與具體法律法規(guī)的關(guān)系可以類比民法典誠實(shí)信用原則和其中的具體條款,在有更具體的法律法規(guī)的適用情況下,不宜直接適用《消費(fèi)者權(quán)益保護(hù)法》。

    平臺(tái)經(jīng)濟(jì)存在各種類型,算法使用中涉及的策略影響因素也不盡相同,因此在認(rèn)定大數(shù)據(jù)殺熟行為的“相同條件”時(shí)主要還是應(yīng)當(dāng)根據(jù)個(gè)案進(jìn)行判斷。此時(shí)披露式立法就其靈活性和公開性可以起到顯著作用?;谇笆黾娌纱髷?shù)據(jù)殺熟披露式立法和禁止式立法的構(gòu)想,一種可行的思路是將平臺(tái)所披露的內(nèi)容作為個(gè)案中認(rèn)定相同條件的標(biāo)準(zhǔn)。披露式立法下,作為一項(xiàng)法定義務(wù),平臺(tái)已經(jīng)承諾將算法邏輯及可能影響交易策略的全部因素向社會(huì)如實(shí)披露。假設(shè)基于這種法定義務(wù)的披露是真實(shí)的,個(gè)案中消費(fèi)者的這些內(nèi)容就將充分且必要地對(duì)應(yīng)他們的待遇,因此我們可以說就這些內(nèi)容表現(xiàn)為相同的消費(fèi)者是處于“相同條件”的。消費(fèi)者根據(jù)這種披露得以預(yù)測受到的待遇,這也正是披露式立法的基本原理所在。此時(shí)假如消費(fèi)者發(fā)現(xiàn)自身因這些披露內(nèi)容之外的因素,即超出“相同條件”的因素,而受到了不相等的待遇,那么經(jīng)營者就將因構(gòu)成禁止式立法下“相同條件”的差別待遇或披露式立法下的違反如實(shí)披露義務(wù)而承擔(dān)法律責(zé)任。同時(shí)因?yàn)槠脚_(tái)是算法和數(shù)據(jù)的控制者,作為與披露式立法下“相同條件”認(rèn)定標(biāo)準(zhǔn)配套的制度還應(yīng)實(shí)行舉證責(zé)任倒置,由平臺(tái)提供在這些披露內(nèi)容相同或相近的情況下該消費(fèi)者沒有遭受不合理差別待遇的信息。②假如平臺(tái)不能加以證明,則說明其所披露的算法邏輯和影響因素并不能使得消費(fèi)者據(jù)以預(yù)測自己所受到的交易條件,那么平臺(tái)基于上述標(biāo)準(zhǔn)就將承擔(dān)對(duì)應(yīng)的法律責(zé)任。

    〔責(zé)任編輯:包 闊〕

    收稿日期:2022 — 04 — 12

    基金項(xiàng)目:本文為司法部2021年度法治建設(shè)與法學(xué)理論研究部級(jí)科研項(xiàng)目“后疫情時(shí)代公司應(yīng)急治理法律問題研究”(21SFB4050)的階段性成果。

    熟女少妇亚洲综合色aaa.| 国内精品久久久久久久电影| 黑人欧美特级aaaaaa片| av福利片在线观看| 一a级毛片在线观看| 久久久久久大精品| 欧美成狂野欧美在线观看| 成人18禁在线播放| 色老头精品视频在线观看| 好男人电影高清在线观看| 日本精品一区二区三区蜜桃| 欧美成人一区二区免费高清观看| 欧美另类亚洲清纯唯美| 少妇高潮的动态图| 国产高清激情床上av| 男女之事视频高清在线观看| 久久草成人影院| 亚洲国产日韩欧美精品在线观看 | 69av精品久久久久久| 国产亚洲欧美98| 中文字幕高清在线视频| 波多野结衣高清无吗| 床上黄色一级片| 国产亚洲精品久久久com| 91麻豆av在线| 免费看光身美女| 2021天堂中文幕一二区在线观| 久久香蕉国产精品| 非洲黑人性xxxx精品又粗又长| 一级毛片女人18水好多| 精品一区二区三区人妻视频| 欧美黄色片欧美黄色片| 精品一区二区三区视频在线 | 亚洲av电影在线进入| 欧美日韩一级在线毛片| 窝窝影院91人妻| 我的老师免费观看完整版| 在线免费观看的www视频| 日日干狠狠操夜夜爽| 高清毛片免费观看视频网站| 99视频精品全部免费 在线| 婷婷精品国产亚洲av| 97碰自拍视频| 搡女人真爽免费视频火全软件 | 久久国产乱子伦精品免费另类| 最好的美女福利视频网| 高清日韩中文字幕在线| 亚洲最大成人手机在线| 日日夜夜操网爽| 1000部很黄的大片| 露出奶头的视频| 国产成人av教育| 国产伦精品一区二区三区四那| 亚洲成人久久性| 亚洲国产欧洲综合997久久,| 成人av在线播放网站| 看免费av毛片| 亚洲中文字幕日韩| 亚洲中文字幕日韩| 麻豆成人午夜福利视频| 午夜免费激情av| 亚洲成av人片免费观看| av片东京热男人的天堂| 久久草成人影院| 久久精品国产99精品国产亚洲性色| 国产单亲对白刺激| 老司机在亚洲福利影院| 99久久精品热视频| 亚洲av免费高清在线观看| 亚洲av成人精品一区久久| 国产精品亚洲一级av第二区| 国产欧美日韩一区二区三| 国模一区二区三区四区视频| 人妻丰满熟妇av一区二区三区| 欧美日韩黄片免| 国产精品一区二区三区四区久久| 一进一出抽搐动态| 国产探花极品一区二区| 久久婷婷人人爽人人干人人爱| 嫩草影院入口| 夜夜躁狠狠躁天天躁| 我的老师免费观看完整版| 国产黄a三级三级三级人| 亚洲人成电影免费在线| 国产精品亚洲美女久久久| 亚洲国产精品999在线| 天美传媒精品一区二区| 天堂影院成人在线观看| 亚洲中文字幕一区二区三区有码在线看| 国产成人欧美在线观看| 老司机深夜福利视频在线观看| 女人高潮潮喷娇喘18禁视频| 观看美女的网站| 国产v大片淫在线免费观看| 欧美精品啪啪一区二区三区| 国产一区二区在线观看日韩 | 亚洲男人的天堂狠狠| 免费av不卡在线播放| 18禁国产床啪视频网站| 日韩亚洲欧美综合| 国产精品亚洲美女久久久| 亚洲精品日韩av片在线观看 | 在线播放无遮挡| 欧美av亚洲av综合av国产av| 一本久久中文字幕| 一级毛片高清免费大全| 亚洲成人精品中文字幕电影| 99久久无色码亚洲精品果冻| 两个人看的免费小视频| 久久欧美精品欧美久久欧美| 国内毛片毛片毛片毛片毛片| 成人亚洲精品av一区二区| 三级男女做爰猛烈吃奶摸视频| 亚洲成人久久性| 日韩欧美国产一区二区入口| 在线观看一区二区三区| 亚洲熟妇熟女久久| 日韩av在线大香蕉| 免费观看的影片在线观看| 无人区码免费观看不卡| 国产色爽女视频免费观看| h日本视频在线播放| 亚洲激情在线av| 成年人黄色毛片网站| 小蜜桃在线观看免费完整版高清| 美女免费视频网站| 国产亚洲av嫩草精品影院| 国产探花在线观看一区二区| 亚洲av成人不卡在线观看播放网| 欧美激情在线99| 尤物成人国产欧美一区二区三区| 久久久久久九九精品二区国产| 最近视频中文字幕2019在线8| 国产精品亚洲av一区麻豆| 成人国产综合亚洲| 97超视频在线观看视频| 亚洲人成电影免费在线| 一本综合久久免费| 一进一出好大好爽视频| or卡值多少钱| 国内精品久久久久久久电影| 一个人看的www免费观看视频| 97超视频在线观看视频| 女人被狂操c到高潮| 手机成人av网站| 精品乱码久久久久久99久播| 女人被狂操c到高潮| 老司机深夜福利视频在线观看| 国产爱豆传媒在线观看| 亚洲精品久久国产高清桃花| 叶爱在线成人免费视频播放| 午夜福利在线观看吧| 热99re8久久精品国产| 亚洲第一电影网av| 看黄色毛片网站| 黄色成人免费大全| 12—13女人毛片做爰片一| 色噜噜av男人的天堂激情| 2021天堂中文幕一二区在线观| 一级a爱片免费观看的视频| 神马国产精品三级电影在线观看| 久久精品夜夜夜夜夜久久蜜豆| 亚洲熟妇中文字幕五十中出| 欧美激情在线99| 99热6这里只有精品| 天堂影院成人在线观看| 色综合欧美亚洲国产小说| 国产精品一区二区免费欧美| 日日摸夜夜添夜夜添小说| 国产精品国产高清国产av| 每晚都被弄得嗷嗷叫到高潮| 色综合亚洲欧美另类图片| 免费电影在线观看免费观看| a级毛片a级免费在线| 欧美一区二区亚洲| 一本久久中文字幕| 亚洲欧美激情综合另类| 午夜精品一区二区三区免费看| 91九色精品人成在线观看| 国内久久婷婷六月综合欲色啪| 欧美日本视频| 国产免费男女视频| 免费在线观看影片大全网站| 精品国产美女av久久久久小说| 欧美性感艳星| 三级毛片av免费| 亚洲av成人精品一区久久| 亚洲中文字幕一区二区三区有码在线看| 精品乱码久久久久久99久播| 欧美成人a在线观看| 免费在线观看亚洲国产| 老司机午夜福利在线观看视频| 丰满人妻熟妇乱又伦精品不卡| 久久精品国产亚洲av涩爱 | 给我免费播放毛片高清在线观看| 97超级碰碰碰精品色视频在线观看| 精品国内亚洲2022精品成人| 变态另类成人亚洲欧美熟女| 97碰自拍视频| 一区福利在线观看| 国产亚洲欧美在线一区二区| tocl精华| 亚洲天堂国产精品一区在线| 久久国产精品影院| 宅男免费午夜| 最近视频中文字幕2019在线8| 国产黄色小视频在线观看| 亚洲国产色片| 成人欧美大片| 91字幕亚洲| 国产精品,欧美在线| 国产美女午夜福利| 搡老熟女国产l中国老女人| 亚洲国产精品999在线| 露出奶头的视频| 久久久国产成人免费| 久久久久久久亚洲中文字幕 | 少妇熟女aⅴ在线视频| 最好的美女福利视频网| 欧美一区二区国产精品久久精品| 禁无遮挡网站| 一本精品99久久精品77| 国产亚洲精品一区二区www| 国产精品久久久久久亚洲av鲁大| 精品久久久久久久毛片微露脸| 欧美成人一区二区免费高清观看| 偷拍熟女少妇极品色| 国产成人av教育| 国产在线精品亚洲第一网站| 国内精品一区二区在线观看| 91av网一区二区| 99在线人妻在线中文字幕| 熟女人妻精品中文字幕| 最新在线观看一区二区三区| 中文字幕av在线有码专区| 一区二区三区高清视频在线| 90打野战视频偷拍视频| 婷婷丁香在线五月| 免费在线观看日本一区| 色哟哟哟哟哟哟| 亚洲性夜色夜夜综合| 无人区码免费观看不卡| 国产精品一区二区免费欧美| 国产高潮美女av| 露出奶头的视频| 久久久久性生活片| 九色国产91popny在线| 亚洲人成网站在线播放欧美日韩| 久久精品国产清高在天天线| 狠狠狠狠99中文字幕| 午夜福利成人在线免费观看| 亚洲va日本ⅴa欧美va伊人久久| 日韩成人在线观看一区二区三区| 超碰av人人做人人爽久久 | 精品人妻一区二区三区麻豆 | 欧美日韩综合久久久久久 | 亚洲国产精品成人综合色| 久久久国产成人精品二区| 中文在线观看免费www的网站| 在线十欧美十亚洲十日本专区| 欧美+亚洲+日韩+国产| 午夜福利免费观看在线| 亚洲一区高清亚洲精品| 欧美区成人在线视频| 中文字幕人成人乱码亚洲影| 两个人视频免费观看高清| 最新美女视频免费是黄的| 白带黄色成豆腐渣| 亚洲精品成人久久久久久| 叶爱在线成人免费视频播放| 免费在线观看成人毛片| 国内精品一区二区在线观看| 精品国产三级普通话版| 狠狠狠狠99中文字幕| 特大巨黑吊av在线直播| 在线天堂最新版资源| 国产91精品成人一区二区三区| 欧美黑人巨大hd| 亚洲不卡免费看| 欧美三级亚洲精品| 女生性感内裤真人,穿戴方法视频| 在线观看免费午夜福利视频| 国产亚洲精品av在线| 国产野战对白在线观看| 成人特级av手机在线观看| 很黄的视频免费| 成人永久免费在线观看视频| eeuss影院久久| 俺也久久电影网| 国产又黄又爽又无遮挡在线| 成年女人看的毛片在线观看| 天堂√8在线中文| 国产精品久久久久久久久免 | 国产单亲对白刺激| 亚洲国产精品合色在线| 91麻豆精品激情在线观看国产| 亚洲国产精品成人综合色| 欧美成人免费av一区二区三区| 亚洲精品一卡2卡三卡4卡5卡| 国产一区二区激情短视频| 精品熟女少妇八av免费久了| 国产伦精品一区二区三区四那| 伊人久久大香线蕉亚洲五| 十八禁网站免费在线| 国产精华一区二区三区| 一级毛片高清免费大全| 国产精品三级大全| 丁香六月欧美| 亚洲熟妇熟女久久| 免费人成在线观看视频色| 91麻豆精品激情在线观看国产| 午夜福利成人在线免费观看| 国产一区在线观看成人免费| 成年免费大片在线观看| 国产精品影院久久| 热99re8久久精品国产| 麻豆久久精品国产亚洲av| 在线观看午夜福利视频| 变态另类成人亚洲欧美熟女| 国产精品久久视频播放| 日本成人三级电影网站| 日韩欧美精品免费久久 | 国内揄拍国产精品人妻在线| 欧美另类亚洲清纯唯美| 男女下面进入的视频免费午夜| 一级黄片播放器| 欧美不卡视频在线免费观看| 亚洲色图av天堂| 中文字幕av在线有码专区| 国产视频一区二区在线看| 人人妻,人人澡人人爽秒播| or卡值多少钱| 欧美色欧美亚洲另类二区| 成年女人看的毛片在线观看| 久久九九热精品免费| 国产伦一二天堂av在线观看| 3wmmmm亚洲av在线观看| 国产精品精品国产色婷婷| 久久久色成人| 久久国产精品人妻蜜桃| 午夜福利18| 99在线视频只有这里精品首页| 白带黄色成豆腐渣| 美女黄网站色视频| 久久精品国产99精品国产亚洲性色| 在线天堂最新版资源| 国产精品自产拍在线观看55亚洲| 在线免费观看不下载黄p国产 | 无人区码免费观看不卡| 男人舔奶头视频| 亚洲成人久久爱视频| 国产免费一级a男人的天堂| 国产精华一区二区三区| 国产极品精品免费视频能看的| 99久久无色码亚洲精品果冻| 白带黄色成豆腐渣| 午夜福利在线观看吧| 国产乱人伦免费视频| 免费人成视频x8x8入口观看| 欧美不卡视频在线免费观看| 中亚洲国语对白在线视频| 激情在线观看视频在线高清| 国产精品 国内视频| 白带黄色成豆腐渣| 亚洲精品影视一区二区三区av| 亚洲av五月六月丁香网| 国模一区二区三区四区视频| 夜夜看夜夜爽夜夜摸| 日韩高清综合在线| 欧美日韩黄片免| 亚洲成av人片免费观看| 欧美一区二区精品小视频在线| 亚洲国产色片| 国产精品久久久久久亚洲av鲁大| 色视频www国产| 日本与韩国留学比较| 国产亚洲欧美98| 国产三级在线视频| 色综合欧美亚洲国产小说| 久久精品国产自在天天线| 色av中文字幕| 他把我摸到了高潮在线观看| xxx96com| 亚洲精品国产精品久久久不卡| 成人亚洲精品av一区二区| 国产一级毛片七仙女欲春2| 久久久久久国产a免费观看| 亚洲国产精品久久男人天堂| 亚洲av成人不卡在线观看播放网| 99riav亚洲国产免费| 小说图片视频综合网站| 桃红色精品国产亚洲av| 麻豆久久精品国产亚洲av| 国产真实乱freesex| 日韩人妻高清精品专区| 99久久精品国产亚洲精品| 国产男靠女视频免费网站| 两人在一起打扑克的视频| 免费看a级黄色片| 欧美丝袜亚洲另类 | 不卡一级毛片| 国产美女午夜福利| 亚洲美女黄片视频| 精品99又大又爽又粗少妇毛片 | 亚洲乱码一区二区免费版| 成年免费大片在线观看| 午夜福利欧美成人| 高清在线国产一区| 天堂动漫精品| 成人精品一区二区免费| 制服丝袜大香蕉在线| 日韩精品中文字幕看吧| 亚洲精品久久国产高清桃花| av在线蜜桃| 欧美日韩福利视频一区二区| 人人妻人人澡欧美一区二区| 色综合欧美亚洲国产小说| 国产精品av视频在线免费观看| 国产精品 欧美亚洲| 宅男免费午夜| 国产av麻豆久久久久久久| 99在线人妻在线中文字幕| 国产av一区在线观看免费| 午夜免费成人在线视频| 天天躁日日操中文字幕| 国产色婷婷99| 亚洲国产精品sss在线观看| 国产日本99.免费观看| 悠悠久久av| 欧美成人一区二区免费高清观看| 久久精品亚洲精品国产色婷小说| 国产一区二区三区在线臀色熟女| 欧美乱码精品一区二区三区| 欧美成人性av电影在线观看| 又紧又爽又黄一区二区| 日韩亚洲欧美综合| 亚洲精品在线观看二区| 午夜福利成人在线免费观看| 美女黄网站色视频| 中文字幕av在线有码专区| 在线观看美女被高潮喷水网站 | 久久香蕉精品热| 午夜精品久久久久久毛片777| 神马国产精品三级电影在线观看| 精品日产1卡2卡| 国产高清激情床上av| 九色国产91popny在线| 女生性感内裤真人,穿戴方法视频| 9191精品国产免费久久| 欧美zozozo另类| 又紧又爽又黄一区二区| av女优亚洲男人天堂| av天堂在线播放| 午夜福利成人在线免费观看| 岛国视频午夜一区免费看| 国产av麻豆久久久久久久| 俄罗斯特黄特色一大片| 国产精品98久久久久久宅男小说| 国产欧美日韩一区二区精品| 精品人妻1区二区| 亚洲av不卡在线观看| 久久99热这里只有精品18| 国产成人a区在线观看| 国产精品日韩av在线免费观看| 亚洲无线观看免费| 欧美xxxx黑人xx丫x性爽| 两个人的视频大全免费| 性欧美人与动物交配| 久久99热这里只有精品18| 免费观看精品视频网站| 18禁在线播放成人免费| 在线观看66精品国产| 国产淫片久久久久久久久 | 日本 av在线| 精品一区二区三区av网在线观看| 国产精品爽爽va在线观看网站| 757午夜福利合集在线观看| www.www免费av| 国产乱人视频| 欧美极品一区二区三区四区| 99热只有精品国产| 18+在线观看网站| 丝袜美腿在线中文| 老汉色∧v一级毛片| 日本撒尿小便嘘嘘汇集6| 男人舔女人下体高潮全视频| 国内精品久久久久精免费| 黄色视频,在线免费观看| 国产乱人伦免费视频| 精品一区二区三区视频在线 | av黄色大香蕉| 午夜福利免费观看在线| 国语自产精品视频在线第100页| 亚洲欧美日韩高清专用| 亚洲国产精品999在线| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 国产精品三级大全| www日本在线高清视频| 一本久久中文字幕| 日本五十路高清| 久久伊人香网站| 国产一区二区在线av高清观看| 99国产精品一区二区三区| 十八禁人妻一区二区| 此物有八面人人有两片| 日本在线视频免费播放| 色综合站精品国产| 亚洲av二区三区四区| 欧美日韩福利视频一区二区| 中文字幕人成人乱码亚洲影| 怎么达到女性高潮| 狠狠狠狠99中文字幕| 午夜福利在线观看免费完整高清在 | 亚洲aⅴ乱码一区二区在线播放| 亚洲一区二区三区色噜噜| 亚洲一区高清亚洲精品| 亚洲欧美日韩东京热| 亚洲无线在线观看| 色综合婷婷激情| 最新中文字幕久久久久| 69人妻影院| 免费人成在线观看视频色| 国产精品免费一区二区三区在线| 一本精品99久久精品77| 午夜免费观看网址| 日本在线视频免费播放| 色噜噜av男人的天堂激情| 一卡2卡三卡四卡精品乱码亚洲| eeuss影院久久| 日韩大尺度精品在线看网址| 亚洲av第一区精品v没综合| 999久久久精品免费观看国产| 成年免费大片在线观看| 欧美黄色片欧美黄色片| 老司机深夜福利视频在线观看| 国模一区二区三区四区视频| av天堂在线播放| 精品人妻一区二区三区麻豆 | 首页视频小说图片口味搜索| 免费电影在线观看免费观看| 一本综合久久免费| 亚洲成av人片免费观看| 精华霜和精华液先用哪个| 啦啦啦观看免费观看视频高清| 亚洲欧美一区二区三区黑人| 99久久久亚洲精品蜜臀av| 精品午夜福利视频在线观看一区| 中文字幕人妻丝袜一区二区| 伊人久久精品亚洲午夜| 好男人在线观看高清免费视频| av国产免费在线观看| 啦啦啦韩国在线观看视频| 亚洲aⅴ乱码一区二区在线播放| 久久久久久九九精品二区国产| 亚洲男人的天堂狠狠| 丰满乱子伦码专区| 在线观看免费视频日本深夜| 欧美丝袜亚洲另类 | av欧美777| 国产激情偷乱视频一区二区| 色精品久久人妻99蜜桃| 亚洲精品一区av在线观看| 九色国产91popny在线| 18禁美女被吸乳视频| 亚洲成人久久性| 内地一区二区视频在线| 国产一区二区三区在线臀色熟女| 熟女电影av网| 首页视频小说图片口味搜索| 长腿黑丝高跟| 欧美不卡视频在线免费观看| 少妇人妻精品综合一区二区 | 国产精品自产拍在线观看55亚洲| 一区二区三区激情视频| www国产在线视频色| 哪里可以看免费的av片| 老熟妇乱子伦视频在线观看| 少妇人妻精品综合一区二区 | 国产三级黄色录像| 小说图片视频综合网站| 少妇的丰满在线观看| АⅤ资源中文在线天堂| 婷婷精品国产亚洲av| 两人在一起打扑克的视频| 国产精品一区二区三区四区久久| 激情在线观看视频在线高清| 老司机午夜十八禁免费视频| 岛国视频午夜一区免费看| 欧美激情久久久久久爽电影| 女警被强在线播放| 国产精品一及| 国产精品乱码一区二三区的特点| 18禁黄网站禁片午夜丰满| 久久精品国产清高在天天线| 两性午夜刺激爽爽歪歪视频在线观看| 欧美日韩福利视频一区二区| 香蕉av资源在线| 天天一区二区日本电影三级| 亚洲人与动物交配视频| 欧美午夜高清在线| 一个人看视频在线观看www免费 | 午夜福利欧美成人| 欧美高清成人免费视频www| 毛片女人毛片| 国产av在哪里看| 精品久久久久久成人av| 亚洲熟妇中文字幕五十中出| 国产探花极品一区二区| 国产精品美女特级片免费视频播放器| 他把我摸到了高潮在线观看| 99国产精品一区二区三区| 国产成人av教育| 亚洲av美国av| 国产黄片美女视频| 国产69精品久久久久777片|