• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)時(shí)代算法價(jià)格歧視的法律規(guī)制

    2023-01-09 08:36:01邱詩(shī)鈺湛凱敏陳遠(yuǎn)茵劉可佳
    經(jīng)濟(jì)師 2022年12期
    關(guān)鍵詞:經(jīng)營(yíng)者規(guī)制個(gè)人信息

    ●毛 鈺 邱詩(shī)鈺 湛凱敏 陳遠(yuǎn)茵 劉可佳 宋 敏

    隨著現(xiàn)代信息技術(shù)飛速發(fā)展邁向大數(shù)據(jù)時(shí)代,人們收集、掌握并加以利用的數(shù)據(jù)規(guī)模呈幾何數(shù)級(jí)增長(zhǎng),智能算法成為處理、利用數(shù)據(jù)資產(chǎn)的最優(yōu)解。從商品個(gè)性化推薦到動(dòng)態(tài)化定價(jià)、從定向招聘到公司決策,算法技術(shù)的發(fā)展深化了市場(chǎng)競(jìng)爭(zhēng),為民眾帶來(lái)諸多便利[1],但是與此同時(shí),基于算法系統(tǒng)固有的不透明性,缺乏問(wèn)責(zé)機(jī)制、監(jiān)測(cè)制度以及正當(dāng)程序約束,為歧視和操縱創(chuàng)造了機(jī)會(huì)[2]。

    近年來(lái),關(guān)于“算法歧視”“算法偏見(jiàn)”的社會(huì)問(wèn)題頻頻出現(xiàn),其中算法價(jià)格歧視作為算法歧視的典型表現(xiàn),無(wú)論是對(duì)個(gè)人權(quán)益、行業(yè)發(fā)展還是市場(chǎng)秩序都存在不可忽視的負(fù)面影響,亟需從法律的層面進(jìn)行規(guī)制。本文將在了解算法價(jià)格歧視的運(yùn)作原理,打破“算法黑箱”的基礎(chǔ)上,分析我國(guó)對(duì)于算法價(jià)格歧視的三條現(xiàn)有路徑的不足之處,并圍繞“風(fēng)險(xiǎn)預(yù)防—運(yùn)作防范—事后救濟(jì)”全過(guò)程,在法律設(shè)立、完善方面進(jìn)行規(guī)制,以提高算法透明度,落實(shí)消費(fèi)者權(quán)益保護(hù),建立健全市場(chǎng)監(jiān)管制度。

    一、算法價(jià)格歧視的概念及運(yùn)作原理

    (一)算法價(jià)格歧視的概念

    算法價(jià)格歧視是指經(jīng)營(yíng)者在預(yù)設(shè)算法時(shí)將消費(fèi)者的地理位置信息、消費(fèi)行為習(xí)慣、歷史瀏覽記錄和其他個(gè)人數(shù)據(jù)嵌入算法編程要件,在進(jìn)行多維度綜合判斷的基礎(chǔ)上,基于相同產(chǎn)品或者服務(wù),針對(duì)不同消費(fèi)者制定不同價(jià)格的行為,經(jīng)濟(jì)學(xué)中稱(chēng)之為“一級(jí)價(jià)格歧視”。價(jià)格歧視一向被認(rèn)為是一種壟斷價(jià)格且能對(duì)消費(fèi)者造成效用損失的行為,其本身不是一個(gè)新問(wèn)題[3],但是在互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能快速發(fā)展的今天,價(jià)格歧視又有了新的機(jī)制,形成了新的特點(diǎn)。在大數(shù)據(jù)背景下,依托算法進(jìn)行的價(jià)格歧視變得更具隱蔽性和普遍性[4],這不僅使用戶(hù)更難發(fā)現(xiàn)這一現(xiàn)象,使取證變得更加困難。此外,也對(duì)國(guó)家的市場(chǎng)監(jiān)管帶來(lái)了挑戰(zhàn)。因此,探索算法價(jià)格歧視的法律規(guī)制是十分必要的。

    (二)算法價(jià)格歧視的運(yùn)作原理

    從計(jì)算機(jī)科學(xué)角度進(jìn)行分析,算法價(jià)格歧視主要體現(xiàn)為以下五條路徑:

    2.商家針對(duì)多次瀏覽類(lèi)似商品,或者多次消費(fèi)類(lèi)似商品的用戶(hù)制定不同的價(jià)格。商家使用協(xié)同過(guò)濾算法,基于用戶(hù)歷史行為數(shù)據(jù)發(fā)掘用戶(hù)的喜好偏向,預(yù)測(cè)并推薦用戶(hù)可能喜好的產(chǎn)品,將同類(lèi)偏好產(chǎn)品的價(jià)格進(jìn)行排序,對(duì)其中價(jià)格偏高的商品優(yōu)先進(jìn)行推薦。該算法分為基于用戶(hù)的協(xié)調(diào)過(guò)濾算法和基于物品的協(xié)同過(guò)濾算法。

    3.商家根據(jù)用戶(hù)相對(duì)于商品購(gòu)買(mǎi)點(diǎn)的距離遠(yuǎn)近制定不同的價(jià)格。商家通過(guò)GPS獲取用戶(hù)位置信息,使用最短路算法計(jì)算出用戶(hù)所在點(diǎn)與商品購(gòu)買(mǎi)點(diǎn)之間的距離,根據(jù)距離的大小差距制定不同的價(jià)格。

    4.商家針對(duì)在一定時(shí)間內(nèi)頻繁購(gòu)買(mǎi)同一商品的用戶(hù)制定更高的價(jià)格。商家利用算法將當(dāng)前時(shí)間減去一定時(shí)間獲得的一個(gè)數(shù)值作為左區(qū)間,當(dāng)前時(shí)間作為右區(qū)間,將該用戶(hù)在這一時(shí)間區(qū)間內(nèi)的所有訂單數(shù)據(jù)提取出來(lái),統(tǒng)計(jì)相同商品的所有訂單量。判斷這個(gè)數(shù)量是否大于某一數(shù)值,若大于,則將該種商品的價(jià)格針對(duì)該用戶(hù)進(jìn)行一定程度的上漲。

    5.商家根據(jù)不同用戶(hù)消費(fèi)水平的不同,制定不同的價(jià)格。商家利用算法將當(dāng)前時(shí)間減去一定時(shí)間獲得的一個(gè)數(shù)值作為左區(qū)間,當(dāng)前時(shí)間作為右區(qū)間,對(duì)該用戶(hù)在這個(gè)時(shí)間區(qū)間內(nèi)的所有訂單的消費(fèi)額進(jìn)行求和,根據(jù)這個(gè)數(shù)值的不同,制定不同的價(jià)格。

    我們可以歸納出算法價(jià)格歧視共同會(huì)經(jīng)歷的三個(gè)階段,分別是收集信息、處理信息以及價(jià)格歧視?!靶畔ⅰ敝饕赶M(fèi)者的個(gè)人信息,其中可以分為個(gè)人屬性信息和個(gè)人行為信息。個(gè)人屬性信息指的是能夠刻畫(huà)出消費(fèi)者形象的信息,例如,性別、年齡、職業(yè)、住址、消費(fèi)偏好等;個(gè)人行為信息是消費(fèi)者的行為偏好信息,例如,購(gòu)物頻率、搜索偏好、信用等信息[5]。信息處理者在獲取了消費(fèi)者的這些信息后,再用協(xié)同過(guò)濾算法、分類(lèi)算法等對(duì)用戶(hù)進(jìn)行“畫(huà)像”,把用戶(hù)分為“三六九等”后,最后實(shí)施價(jià)格歧視,由此整個(gè)算法價(jià)格歧視的過(guò)程也就結(jié)束了。

    二、算法價(jià)格歧視的規(guī)制路徑分析

    (一)從個(gè)人信息保護(hù)角度進(jìn)行規(guī)制

    算法價(jià)格歧視的運(yùn)行主要分為三個(gè)部分,收集信息、處理信息以及價(jià)格歧視,無(wú)論運(yùn)行至哪一部分,“信息”都是其作用的基礎(chǔ)。而在現(xiàn)實(shí)生活中,經(jīng)營(yíng)者存在著對(duì)消費(fèi)者個(gè)人信息進(jìn)行私自收集、濫用或泄露的行為?,F(xiàn)行法律對(duì)個(gè)人信息保護(hù)已經(jīng)有所規(guī)定,但在實(shí)施中存在一些問(wèn)題:

    1.“告知—同意”規(guī)則被架空,個(gè)人信息易被泄露。“告知—同意”規(guī)則指的是信息處理者獲取個(gè)人信息要得到用戶(hù)的同意,且要告知用戶(hù)其獲取信息的用途。經(jīng)營(yíng)者為了使其行為符合“告知—同意”規(guī)則的要求,會(huì)讓消費(fèi)者在使用前簽訂《用戶(hù)服務(wù)協(xié)議》,不過(guò)通常情況下《用戶(hù)服務(wù)協(xié)議》為點(diǎn)擊合同。大多消費(fèi)者對(duì)于《用戶(hù)服務(wù)協(xié)議》通常是直接點(diǎn)擊同意,因?yàn)橹挥型鈪f(xié)議才能使用平臺(tái)服務(wù)。又因大多消費(fèi)者本身法律知識(shí)有限,且合同字?jǐn)?shù)常常多達(dá)千字乃至萬(wàn)字,消費(fèi)者們沒(méi)有耐心審閱合同,在此情況下很可能會(huì)忽視《用戶(hù)服務(wù)協(xié)議》中的“漏洞條款”,例如在隱私條款中規(guī)定可將獲得的用戶(hù)信息許可給第三方平臺(tái)。這相當(dāng)于讓用戶(hù)放棄了對(duì)自己個(gè)人信息的保護(hù),也是對(duì)“告知—同意”規(guī)則的架空,使個(gè)人信息泄露的可能性大大增強(qiáng)[6],從而使消費(fèi)者更容易受到來(lái)自不同商家的算法價(jià)格歧視的威脅。

    我的這篇文章將要提到的十六首鋼琴曲,以及李樹(shù)化的其他許多音樂(lè)作品,都是他在杭州“國(guó)立”藝術(shù)院工作期間完成的,這些作品都是藝術(shù)院的重要學(xué)術(shù)成果,也是藝術(shù)院的驕傲,是杭州音樂(lè)史上的光榮。

    2.算法運(yùn)行不透明,個(gè)人信息易被過(guò)度收集。算法的運(yùn)行規(guī)律掌握在算法制造者和運(yùn)行者手中。算法究竟如何運(yùn)行,對(duì)信息的處理有無(wú)過(guò)度使用,用戶(hù)并不知曉。對(duì)于經(jīng)營(yíng)者處理信息的限度問(wèn)題,《民法典》和《個(gè)人信息保護(hù)法》都規(guī)定了最小限度原則,即處理個(gè)人信息要具有明確合理的目的,且與目的直接相關(guān),采取對(duì)個(gè)人利益影響最小的方法,但如何判斷目的的相關(guān)性和是否對(duì)個(gè)人利益影響最小則沒(méi)有規(guī)定。經(jīng)營(yíng)者具有夸大處理信息目的借此獲取更多的個(gè)人信息的可能性,例如導(dǎo)航應(yīng)用平臺(tái)的使用,原本僅需要收集定位信息,但在實(shí)際使用中還要求獲取用戶(hù)通訊信息。

    (二)從公平定價(jià)角度進(jìn)行規(guī)制

    正如前文對(duì)于算法價(jià)格歧視原理的分析,其過(guò)程不僅包括個(gè)人信息數(shù)據(jù)的收集,更包括對(duì)于這些信息的處理和運(yùn)用。因此,在立法上不僅需從個(gè)人信息保障角度來(lái)規(guī)范經(jīng)營(yíng)者的信息收集行為,更需要對(duì)經(jīng)營(yíng)者在算法的選擇、設(shè)計(jì)以及將算法應(yīng)用于對(duì)消費(fèi)者的價(jià)格歧視行為進(jìn)行規(guī)制。

    1.《價(jià)格法》主體不適格。我國(guó)立法機(jī)關(guān)在上個(gè)世紀(jì)末期就注意到了市場(chǎng)中存在價(jià)格歧視的現(xiàn)象,并進(jìn)行了相關(guān)的立法活動(dòng)。例如,《價(jià)格法》第十四條第五款規(guī)定:“禁止經(jīng)營(yíng)者在提供相同商品或者服務(wù)時(shí)對(duì)具有同等交易條件的其他經(jīng)營(yíng)者實(shí)行價(jià)格歧視。”但是此法實(shí)施時(shí)間為1998年,鑒于科學(xué)技術(shù)水平的限制,當(dāng)時(shí)并沒(méi)有算法價(jià)格歧視現(xiàn)象的出現(xiàn),顯然該法出臺(tái)并不是為了規(guī)制這一現(xiàn)象。事實(shí)上這一條款是為了禁止經(jīng)營(yíng)者之間的不正當(dāng)價(jià)格行為(即一個(gè)經(jīng)營(yíng)者在向兩個(gè)及以上具有同等交易條件的其他經(jīng)營(yíng)者供貨時(shí)采取不同價(jià)格的行為),而算法價(jià)格歧視是經(jīng)營(yíng)者對(duì)數(shù)個(gè)消費(fèi)者的價(jià)格歧視,規(guī)范的主體不同,因此,《價(jià)格法》不能適用于算法價(jià)格歧視現(xiàn)象。

    2.《消費(fèi)者權(quán)益保護(hù)法》公平交易原則效用式微?!断M(fèi)者權(quán)益保護(hù)法》第十條第一款規(guī)定:“消費(fèi)者享有公平交易的權(quán)利?!彼惴▋r(jià)格歧視是經(jīng)營(yíng)者對(duì)同一商品或服務(wù),針對(duì)不同的消費(fèi)者實(shí)施不同定價(jià),這本身就是一種不公平,違反了《消費(fèi)者權(quán)益保護(hù)法》的公平交易精神。但是實(shí)際上消費(fèi)者想基于消法為自己提供救濟(jì)存在較大難度,因?yàn)椤肮秸x條款”作為一個(gè)原則性規(guī)定,其概念比較模糊,且消費(fèi)者對(duì)于“公平”與否存在著較大的證明難度,難以直接運(yùn)用于司法實(shí)踐。

    3.最新立法對(duì)“差別待遇”條款有待解釋。僅從價(jià)格歧視這一層面立法已經(jīng)不能很好地規(guī)制商家日益精進(jìn)的“算法定價(jià)技術(shù)”。事實(shí)上,價(jià)格上的差異是價(jià)格歧視的外在表現(xiàn),隨著法學(xué)界越來(lái)越關(guān)注算法技術(shù)的進(jìn)步對(duì)于當(dāng)下社會(huì)生活的影響,立法者也將目光投向了“算法”這一更為深刻揭示價(jià)格歧視本質(zhì)的概念。例如,2021年8月20日全國(guó)人大常委會(huì)通過(guò)了《個(gè)人信息保護(hù)法》,立法者在其中就引入了“自動(dòng)化決策”這一表述,來(lái)刻畫(huà)利用計(jì)算機(jī)技術(shù)處理個(gè)人信息并進(jìn)行決策的活動(dòng),并規(guī)定自動(dòng)化決策不得導(dǎo)致個(gè)人在交易價(jià)格上遭受不合理的差別待遇。而我國(guó)對(duì)于算法價(jià)格歧視的最新規(guī)定——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下稱(chēng)《規(guī)定》)則進(jìn)一步細(xì)分了算法的推薦服務(wù)的不同類(lèi)型,并在《個(gè)人信息保護(hù)法》和《消費(fèi)者權(quán)益保護(hù)法》的基礎(chǔ)上,規(guī)定算法推薦服務(wù)提供者不得根據(jù)消費(fèi)者的交易偏好、習(xí)慣等特征,利用算法在交易價(jià)格上實(shí)施不合理的差別待遇行為,可以視為對(duì)《個(gè)人信息保護(hù)法》在算法層面的進(jìn)一步規(guī)定。但是無(wú)論是《個(gè)人信息保護(hù)法》還是《規(guī)定》,對(duì)于什么是“差別待遇”,以及怎樣的差別待遇是“不合理”的都未做出詳細(xì)規(guī)定,為消費(fèi)者的取證和司法機(jī)關(guān)的適用仍然造成了一定困難。

    (三)從反壟斷角度進(jìn)行規(guī)制

    平臺(tái)經(jīng)營(yíng)者利用算法實(shí)施價(jià)格歧視行為,可能構(gòu)成《反壟斷法》所規(guī)定的“利用市場(chǎng)支配地位實(shí)施差別待遇”的行為。占據(jù)市場(chǎng)支配地位的企業(yè)平臺(tái)掌握先天數(shù)據(jù)優(yōu)勢(shì),占領(lǐng)定價(jià)高地,將引發(fā)少數(shù)經(jīng)營(yíng)者濫用算法排擠競(jìng)爭(zhēng)對(duì)手的行為[7]。平臺(tái)間通過(guò)代碼即時(shí)互動(dòng)、交換個(gè)人數(shù)據(jù)等方式,達(dá)成固定價(jià)格、分割市場(chǎng)、限制銷(xiāo)量的目的,以此形成壟斷。算法價(jià)格歧視使得市場(chǎng)偏離以供需關(guān)系定價(jià),最終將引發(fā)不正當(dāng)競(jìng)爭(zhēng),嚴(yán)重?cái)_亂市場(chǎng)經(jīng)濟(jì)秩序?;谝陨戏治觯鳛槊髁罱菇?jīng)營(yíng)者利用算法對(duì)消費(fèi)者實(shí)施價(jià)格歧視行為的法律,利用《反壟斷法》規(guī)制算法價(jià)格歧視是一個(gè)很好的選擇。但是《反壟斷法》在實(shí)際實(shí)施的過(guò)程中也存在一些困難:

    1.《反壟斷法》的適用主體范圍過(guò)窄。上述條文中關(guān)于禁止實(shí)施算法價(jià)格歧視行為的主體,僅限于具有市場(chǎng)支配地位的經(jīng)營(yíng)者,據(jù)此規(guī)定,不具有市場(chǎng)支配地位的平臺(tái)經(jīng)營(yíng)者利用算法實(shí)施的價(jià)格歧視行為不受《反壟斷法》的限制,這使法律對(duì)價(jià)格歧視的規(guī)制范圍變得十分狹窄。平臺(tái)經(jīng)營(yíng)者利用算法實(shí)施價(jià)格歧視的前提是其能夠獲得大量用戶(hù)數(shù)據(jù)和信息,以此進(jìn)行差別定價(jià)。然而,在當(dāng)前信息技術(shù)高速發(fā)展的環(huán)境下,利用算法實(shí)施價(jià)格歧視行為并不以平臺(tái)經(jīng)營(yíng)者具有市場(chǎng)支配地位為前提。由于目前個(gè)人信息保護(hù)制度的不完善,平臺(tái)經(jīng)營(yíng)者甚至無(wú)需自己收集消費(fèi)者信息,借助網(wǎng)絡(luò)、中介機(jī)構(gòu)等媒介,不具有市場(chǎng)支配地位的平臺(tái)經(jīng)營(yíng)者也可以輕易獲取大量消費(fèi)者的個(gè)人信息[8]。

    2.算法價(jià)格歧視行為取證難度大。算法價(jià)格歧視作為一種大數(shù)據(jù)時(shí)代下的產(chǎn)物,其具有一定的特殊性,對(duì)于取證者的技術(shù)有一定的要求。而作為被差別定價(jià)的對(duì)象,消費(fèi)者往往難以意識(shí)到平臺(tái)經(jīng)營(yíng)者正在對(duì)其實(shí)施差別待遇,即使發(fā)現(xiàn)了這一行為,消費(fèi)者常常難以舉證[9]。同時(shí),不僅是消費(fèi)者,在實(shí)踐中反壟斷執(zhí)法機(jī)構(gòu)也存在取證難的問(wèn)題。執(zhí)法人員不僅需要法律知識(shí),還需要具有一定的經(jīng)濟(jì)學(xué)和計(jì)算機(jī)科學(xué)知識(shí),對(duì)平臺(tái)經(jīng)營(yíng)者利用算法實(shí)施價(jià)格歧視的行為進(jìn)行分析,綜合判斷平臺(tái)經(jīng)營(yíng)者的行為。然而實(shí)踐中具備足夠知識(shí)儲(chǔ)備的執(zhí)法人員較少,導(dǎo)致反壟斷機(jī)構(gòu)面對(duì)平臺(tái)經(jīng)營(yíng)者的算法價(jià)格歧視行為,也存在取證難的問(wèn)題。

    3.利用《反壟斷法》進(jìn)行個(gè)人訴訟效果不佳。《反壟斷法》中沒(méi)有對(duì)訴訟主體進(jìn)行規(guī)定,根據(jù)《民事訴訟法》,訴訟當(dāng)事人是與案件有法律上直接利害關(guān)系的公民、法人和其他組織。而在算法價(jià)格歧視的案件中,這類(lèi)主體往往是消費(fèi)者。但是這些消費(fèi)者往往分布較為分散,個(gè)人的損失量也較小,面對(duì)程序復(fù)雜、成本較高、耗時(shí)較長(zhǎng)的訴訟程序,消費(fèi)者提起訴訟的意愿不高;而且在遭受同一經(jīng)營(yíng)者的差別對(duì)待的消費(fèi)者中,由于彼此互不相識(shí),聯(lián)合起訴的可能性也不大。

    三、算法價(jià)格歧視法律規(guī)制

    (一)風(fēng)險(xiǎn)預(yù)防

    1.算法公開(kāi)。因?yàn)椤八惴ê谙洹钡拇嬖?,用?hù)不知道算法的具體流程、步驟以及計(jì)算方式,只能知道他們的輸入所對(duì)應(yīng)的輸出(如使用打車(chē)軟件在選定目的地后彈出價(jià)格)。因此,打破“算法黑箱”對(duì)于算法的透明化以及對(duì)于算法價(jià)格歧視的預(yù)防具有重大意義。為此,我們需要公開(kāi)算法,使用戶(hù)能夠像“白盒測(cè)試”一樣,了解算法“背后的秘密”,降低被其價(jià)格歧視的可能性。例如歐盟于2018年5月25日出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation,簡(jiǎn)稱(chēng)GDPR)就規(guī)定當(dāng)數(shù)據(jù)控制者實(shí)施自動(dòng)化決策時(shí),應(yīng)當(dāng)向用戶(hù)公開(kāi)算法邏輯并提示有可能對(duì)用戶(hù)造成的后果。近年來(lái),我國(guó)也在算法主動(dòng)公開(kāi)方面做出了許多有益的嘗試,但鑒于算法的復(fù)雜性,為了更好地預(yù)防算法價(jià)格歧視現(xiàn)象,商家不僅僅應(yīng)當(dāng)公開(kāi)代碼,更應(yīng)當(dāng)以便于用戶(hù)理解的方式,解釋其價(jià)格生成的算法決策原理,并明確告知其對(duì)消費(fèi)者的利益影響;如沒(méi)有告知且利用算法進(jìn)行價(jià)格歧視,應(yīng)當(dāng)受到處罰。

    2.個(gè)人數(shù)據(jù)賦權(quán)。個(gè)人數(shù)據(jù)賦權(quán)是指提高個(gè)人對(duì)于自身數(shù)據(jù)的控制,其與算法公開(kāi)密不可分。因?yàn)樗惴ü_(kāi)保障了消費(fèi)者對(duì)于算法的知情權(quán),在此基礎(chǔ)上,如果使“告知—同意”機(jī)制落在實(shí)處,消費(fèi)者就能更好地做出有關(guān)其個(gè)人信息的決策,增強(qiáng)其對(duì)個(gè)人數(shù)據(jù)的控制權(quán),從而從源頭上預(yù)防算法價(jià)格歧視。例如在《用戶(hù)服務(wù)協(xié)議》中,以醒目的方式(如字體加粗、標(biāo)紅)對(duì)與用戶(hù)利益有重大關(guān)聯(lián)的數(shù)據(jù)信息條款、算法解釋說(shuō)明條款進(jìn)行著重提醒,或設(shè)置用戶(hù)需閱讀滿(mǎn)一定時(shí)間后,才能進(jìn)行下一步的操作。這樣的方式雖在一定程度上降低了用戶(hù)體驗(yàn),但是卻可以從源頭上降低用戶(hù)受到算法價(jià)格歧視的風(fēng)險(xiǎn),從長(zhǎng)遠(yuǎn)的角度來(lái)看,這樣更有利于建立用戶(hù)與平臺(tái)間的信任。

    3.完善立法。(1)將消費(fèi)者保護(hù)引入《價(jià)格法》的不正當(dāng)價(jià)格行為條款。隨著經(jīng)濟(jì)社會(huì)不斷發(fā)展,不正當(dāng)價(jià)格行為不再僅僅局限于經(jīng)營(yíng)者之間,《價(jià)格法》應(yīng)當(dāng)與時(shí)俱進(jìn),將商家對(duì)于消費(fèi)者的算法價(jià)格歧視行為也列入不正當(dāng)價(jià)格行為條款。(2)完善《個(gè)人信息保護(hù)法》和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》有關(guān)“差別待遇”的認(rèn)定標(biāo)準(zhǔn)。明確“差別待遇”和價(jià)格因價(jià)值規(guī)律上下浮動(dòng)的邊界,并詳細(xì)拆分其證明標(biāo)準(zhǔn),使“差別待遇”條款更容易被司法實(shí)踐所接受。(3)修改《反壟斷法》的算法價(jià)格歧視行為主體范圍。其范圍不應(yīng)僅限于具有市場(chǎng)支配地位的經(jīng)營(yíng)者,也應(yīng)包括利用算法價(jià)格歧視擾亂市場(chǎng)秩序,進(jìn)行不正當(dāng)競(jìng)爭(zhēng)的中小企業(yè)。

    (二)運(yùn)作規(guī)范

    1.算法運(yùn)行需遵守公平性、保護(hù)性和非歧視性原則。(1)公平性原則。平臺(tái)經(jīng)營(yíng)者在使用算法時(shí),應(yīng)當(dāng)遵守市場(chǎng)交易規(guī)則,給予每一位消費(fèi)者公平合理的待遇。不能利用算法賦予自己特權(quán),也不應(yīng)當(dāng)利用算法為消費(fèi)者打上不合理的標(biāo)簽,同時(shí)應(yīng)當(dāng)避免不公平的偏見(jiàn),對(duì)每一個(gè)消費(fèi)者平等開(kāi)放平臺(tái)信息。(2)保護(hù)性原則。平臺(tái)應(yīng)承諾妥善處理消費(fèi)者的個(gè)人信息,對(duì)收集的信息進(jìn)行充分保護(hù),不隨意使用消費(fèi)者的個(gè)人信息或者將個(gè)人信息出售給他人。(3)非歧視性原則。算法在運(yùn)行過(guò)程中不得具有歧視性或者偏向性。算法應(yīng)當(dāng)以為人們的生活帶來(lái)便利為目的,而非為了使經(jīng)營(yíng)者獲得更高的經(jīng)濟(jì)利益。基于此,算法的設(shè)計(jì)者應(yīng)當(dāng)平等地對(duì)待消費(fèi)者,不得設(shè)置帶有歧視性的算法。

    2.加強(qiáng)市場(chǎng)監(jiān)管,規(guī)范經(jīng)營(yíng)者在商業(yè)活動(dòng)中的行為。與線(xiàn)下的交易活動(dòng)相比,網(wǎng)絡(luò)交易活動(dòng)具有復(fù)雜性、多樣性的特點(diǎn),為有效實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)交易市場(chǎng)的監(jiān)管,應(yīng)當(dāng)建立完備的監(jiān)管機(jī)制。面對(duì)網(wǎng)絡(luò)交易活動(dòng)的特殊性,應(yīng)當(dāng)由多部門(mén)配合,共同實(shí)現(xiàn)對(duì)平臺(tái)經(jīng)營(yíng)者市場(chǎng)交易行為的監(jiān)管。(1)改進(jìn)算法的監(jiān)管機(jī)制。市場(chǎng)監(jiān)管部門(mén)作為監(jiān)管經(jīng)營(yíng)者的交易活動(dòng)的主要部門(mén),在對(duì)網(wǎng)絡(luò)交易活動(dòng)的監(jiān)管過(guò)程中,應(yīng)當(dāng)充分發(fā)揮其監(jiān)管職能,對(duì)平臺(tái)經(jīng)營(yíng)者的行為進(jìn)行管理和監(jiān)督;同時(shí)設(shè)立大數(shù)據(jù)管理機(jī)構(gòu)以及大數(shù)據(jù)監(jiān)管平臺(tái),整合數(shù)據(jù)并對(duì)數(shù)據(jù)經(jīng)濟(jì)的發(fā)展進(jìn)行管理和引導(dǎo),彌補(bǔ)市場(chǎng)監(jiān)管部門(mén)在人才、技術(shù)上的不足。(2)創(chuàng)新監(jiān)管方式,加強(qiáng)監(jiān)管力度。面對(duì)大數(shù)據(jù)對(duì)市場(chǎng)監(jiān)管提出的新要求,市場(chǎng)監(jiān)管部門(mén)應(yīng)當(dāng)創(chuàng)新監(jiān)管模式,加強(qiáng)相關(guān)部門(mén)之間的溝通與配合,發(fā)揮各部門(mén)在平臺(tái)算法的識(shí)別、審查、分析和監(jiān)督過(guò)程中的作用,加強(qiáng)對(duì)網(wǎng)絡(luò)交易平臺(tái)的關(guān)注,明確交易活動(dòng)中大數(shù)據(jù)和算法的合理使用邊界,引導(dǎo)平臺(tái)經(jīng)營(yíng)者合理使用算法,規(guī)范其網(wǎng)絡(luò)交易行為。(3)注意算法的風(fēng)險(xiǎn)控制。如美國(guó)的《算法問(wèn)責(zé)法(草案)》于2019年進(jìn)入?yún)⒈妰稍旱牧⒎ǔ绦?,其中就?guī)定了要求大型互聯(lián)網(wǎng)企業(yè)評(píng)估其自動(dòng)化決策行為并消除該行為對(duì)用戶(hù)的負(fù)面影響,我國(guó)的市場(chǎng)監(jiān)管部門(mén)也應(yīng)當(dāng)按時(shí)審查我國(guó)企業(yè)的算法風(fēng)險(xiǎn)評(píng)估報(bào)告,督促企業(yè)整改非法的算法歧視行為。

    3.經(jīng)營(yíng)者自律。平臺(tái)經(jīng)營(yíng)者利用算法實(shí)施價(jià)格歧視,其目的在于榨取更多的消費(fèi)者剩余,據(jù)此,在明確算法運(yùn)行原則、加強(qiáng)市場(chǎng)監(jiān)管之外,還應(yīng)當(dāng)從經(jīng)營(yíng)者本身入手,加強(qiáng)對(duì)經(jīng)營(yíng)者約束,促使經(jīng)營(yíng)者提高社會(huì)責(zé)任感,使大數(shù)據(jù)企業(yè)間形成良性競(jìng)爭(zhēng)。(1)發(fā)揮行業(yè)協(xié)會(huì)組織在規(guī)范本行業(yè)經(jīng)營(yíng)活動(dòng)中的作用。行業(yè)協(xié)會(huì)應(yīng)當(dāng)結(jié)合自身對(duì)行業(yè)內(nèi)具體情況的認(rèn)識(shí),根據(jù)本行業(yè)的特點(diǎn),有針對(duì)性地提出對(duì)經(jīng)營(yíng)者的要求,并制定本行業(yè)的算法使用規(guī)范,約束其在交易活動(dòng)中使用算法的程度和邊界。同時(shí),行業(yè)協(xié)會(huì)作為政府與企業(yè)間的橋梁和紐帶,可以向政府傳達(dá)企業(yè)的共同需求,并與政府共同實(shí)現(xiàn)對(duì)行業(yè)內(nèi)經(jīng)營(yíng)者的監(jiān)督和管理。(2)發(fā)揮大型企業(yè)的帶頭作用。大型企業(yè)的行為在一定程度上可以影響行業(yè)中的其他經(jīng)營(yíng)者,激勵(lì)其他經(jīng)營(yíng)者實(shí)施相同的行為。因此,大型企業(yè)應(yīng)當(dāng)重視自身的影響力,自覺(jué)承擔(dān)社會(huì)責(zé)任,帶頭學(xué)習(xí)和遵守法律法規(guī)和行業(yè)規(guī)范中規(guī)定的算法使用準(zhǔn)則,從而影響行業(yè)的中小企業(yè)和其他經(jīng)營(yíng)者,促進(jìn)整個(gè)行業(yè)共同實(shí)現(xiàn)正確使用算法的目標(biāo),從源頭阻止算法價(jià)格歧視現(xiàn)象的出現(xiàn)。

    (三)事后救濟(jì)

    1.完善消費(fèi)者用戶(hù)“刪除權(quán)”的范圍。我國(guó)《個(gè)人信息保護(hù)法》規(guī)定了消費(fèi)者用戶(hù)具有刪除權(quán),在一定程度上可以保護(hù)個(gè)人信息以及規(guī)制個(gè)人信息的濫用,減少算法價(jià)格歧視現(xiàn)象。但我國(guó)“刪除權(quán)”對(duì)刪除信息范圍的規(guī)定不包括已進(jìn)行處理或公開(kāi)并擴(kuò)散的數(shù)據(jù)信息,例如鏈接、副本和復(fù)制件,這會(huì)造成相關(guān)的風(fēng)險(xiǎn)隱患[6]。而且沒(méi)有對(duì)信息處理者何時(shí)刪除信息進(jìn)行規(guī)定,這有可能導(dǎo)致經(jīng)營(yíng)者拖延時(shí)間,不刪除用戶(hù)信息。而歐盟GDPR對(duì)刪除的范圍規(guī)定更加詳細(xì),其規(guī)定了可刪除已被信息處理者公開(kāi)的個(gè)人信息數(shù)據(jù),以及與個(gè)人信息有關(guān)的任何數(shù)據(jù),包括鏈接、副本和復(fù)制件。以及規(guī)定了數(shù)據(jù)主體有權(quán)要求控制者毫不延遲地進(jìn)行數(shù)據(jù)刪除,數(shù)據(jù)控制者不得對(duì)刪除數(shù)據(jù)進(jìn)行拖延。對(duì)此,我們可以參考?xì)W盟GDPR對(duì)刪除權(quán)、被遺忘權(quán)的規(guī)定,完善我國(guó)消費(fèi)者用戶(hù)刪除權(quán)的內(nèi)容范圍,更好地保障消費(fèi)者權(quán)益。

    2.構(gòu)建有效且完善的救濟(jì)體系。我國(guó)《民事訴訟法》第五十八條第一款規(guī)定了公益訴訟條款,侵害社會(huì)公共利益,法律規(guī)定機(jī)關(guān)和相關(guān)組織可以向人民法院提起訴訟。此外,最高人民法院發(fā)布的《關(guān)于審理消費(fèi)民事公益訴訟案件適用法律若干問(wèn)題的解釋》中規(guī)定:“對(duì)于消費(fèi)類(lèi)民事訴訟案件,消費(fèi)者協(xié)會(huì)可以向法院提起公益訴訟,維護(hù)社會(huì)公共利益?!彼惴▋r(jià)格歧視現(xiàn)象是對(duì)社會(huì)公共利益的侵害,代表公共利益的相關(guān)組織,如消費(fèi)者委員會(huì),可以向法院提起公益訴訟,向?yàn)E用算法的運(yùn)行者追究民事責(zé)任。這有利于解決消費(fèi)者個(gè)人訴訟維權(quán)難成本高的問(wèn)題[10]。

    3.加大對(duì)算法價(jià)格歧視經(jīng)營(yíng)者的懲罰力度?;ヂ?lián)網(wǎng)的商業(yè)利益巨大,相比于巨大的財(cái)產(chǎn)利益,若違法運(yùn)行算法所需的懲罰經(jīng)濟(jì)成本太低,則無(wú)法阻擋經(jīng)營(yíng)者進(jìn)行算法價(jià)格歧視。我國(guó)《電子商務(wù)法》第77條規(guī)定,違反規(guī)定提供個(gè)性化搜索結(jié)果的電子商務(wù)經(jīng)營(yíng)者,最高罰款是50萬(wàn)元。50萬(wàn)元的罰款數(shù)額無(wú)法阻擋經(jīng)營(yíng)者繼續(xù)進(jìn)行算法價(jià)格歧視?!秱€(gè)人信息保護(hù)法》增加了懲罰力度,其第66條規(guī)定,違反規(guī)定處理個(gè)人信息,可罰100萬(wàn)以下罰款;情節(jié)嚴(yán)重,可沒(méi)收違法所得以及處5000萬(wàn)元以下或者上一年度營(yíng)業(yè)額5%以下罰款,可吊銷(xiāo)營(yíng)業(yè)執(zhí)照。對(duì)于實(shí)施算法價(jià)格歧視的經(jīng)營(yíng)者的懲罰力度,可以依照《個(gè)人信息保護(hù)法》的懲罰力度,只有懲罰力度增強(qiáng),規(guī)制力度加大,經(jīng)營(yíng)者才會(huì)有所顧忌。

    四、結(jié)論

    面對(duì)日新月異的智能算法發(fā)展,法律規(guī)制為技術(shù)創(chuàng)造與運(yùn)用更完備、完美地服務(wù)人們的生存、發(fā)展利益提供保障,對(duì)于經(jīng)濟(jì)社會(huì)的健康發(fā)展有著深遠(yuǎn)的現(xiàn)實(shí)意義。對(duì)算法價(jià)格歧視進(jìn)行法律規(guī)制不應(yīng)當(dāng)僅僅關(guān)注“價(jià)格歧視”本身,更應(yīng)當(dāng)透過(guò)現(xiàn)象看本質(zhì),打破“算法黑箱”,從算法運(yùn)行的各環(huán)節(jié)對(duì)算法價(jià)格歧視行為進(jìn)行規(guī)制。為此,我們應(yīng)當(dāng)構(gòu)造算法價(jià)格歧視的全環(huán)節(jié)、全方位的法律規(guī)制制度,完善我國(guó)相關(guān)立法、執(zhí)法、司法、守法、監(jiān)督規(guī)定,規(guī)范算法適用的界限,以求在保護(hù)用戶(hù)合法權(quán)益的前提下,使算法的潛在價(jià)值得到充分發(fā)揮。這不僅是符合市場(chǎng)競(jìng)爭(zhēng)的現(xiàn)實(shí)需求,也符合法律維持社會(huì)穩(wěn)定,維護(hù)人們合法權(quán)益的價(jià)值目標(biāo)。

    猜你喜歡
    經(jīng)營(yíng)者規(guī)制個(gè)人信息
    明清珠江三角洲基塘區(qū)的田場(chǎng)與經(jīng)營(yíng)者
    廣州文博(2023年0期)2023-12-21 07:24:30
    如何保護(hù)勞動(dòng)者的個(gè)人信息?
    個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
    《經(jīng)營(yíng)者》征稿啟事
    主動(dòng)退市規(guī)制的德國(guó)經(jīng)驗(yàn)與啟示
    警惕個(gè)人信息泄露
    保護(hù)與規(guī)制:關(guān)于文學(xué)的刑法
    刑法論叢(2018年4期)2018-05-21 00:44:30
    論《反不正當(dāng)競(jìng)爭(zhēng)法》的規(guī)制范疇
    法治研究(2016年4期)2016-12-01 03:41:40
    做一名聰明的集團(tuán)醫(yī)院經(jīng)營(yíng)者
    內(nèi)容規(guī)制
    欧美黄色淫秽网站| 成人国产一区最新在线观看| 日韩欧美精品免费久久 | 免费大片18禁| 91九色精品人成在线观看| 亚洲在线观看片| 婷婷丁香在线五月| 丝袜美腿在线中文| 亚洲狠狠婷婷综合久久图片| 日韩成人在线观看一区二区三区| 婷婷精品国产亚洲av| 真实男女啪啪啪动态图| 久久久久性生活片| 欧美在线一区亚洲| a级毛片a级免费在线| 欧美在线黄色| 久久欧美精品欧美久久欧美| 国产精品亚洲一级av第二区| 日日摸夜夜添夜夜添小说| 乱码一卡2卡4卡精品| 久久6这里有精品| АⅤ资源中文在线天堂| 高清日韩中文字幕在线| 亚洲精品日韩av片在线观看| 大型黄色视频在线免费观看| 18+在线观看网站| 亚洲天堂国产精品一区在线| 18禁黄网站禁片午夜丰满| 欧美黑人巨大hd| 99国产精品一区二区蜜桃av| 久久精品综合一区二区三区| 我的女老师完整版在线观看| 国内揄拍国产精品人妻在线| 五月伊人婷婷丁香| 18禁黄网站禁片免费观看直播| 久久热精品热| 亚洲国产高清在线一区二区三| 天天一区二区日本电影三级| 色综合婷婷激情| 亚洲人成网站高清观看| 成熟少妇高潮喷水视频| 久久久国产成人精品二区| 欧美xxxx黑人xx丫x性爽| 俄罗斯特黄特色一大片| 久久久精品欧美日韩精品| 黄片小视频在线播放| 深夜a级毛片| 人人妻,人人澡人人爽秒播| 永久网站在线| 欧美最新免费一区二区三区 | 一区二区三区激情视频| 国产午夜精品论理片| 欧美一级a爱片免费观看看| 女人被狂操c到高潮| 国产麻豆成人av免费视频| 午夜激情欧美在线| 午夜精品久久久久久毛片777| 一本一本综合久久| 最近中文字幕高清免费大全6 | 熟女电影av网| 欧美最新免费一区二区三区 | 精品人妻1区二区| 免费av不卡在线播放| 国产白丝娇喘喷水9色精品| 日本熟妇午夜| 国产精品野战在线观看| 可以在线观看毛片的网站| 国产成人啪精品午夜网站| 国产成人欧美在线观看| 国产成人av教育| 亚洲人成电影免费在线| 国产亚洲精品久久久com| 日本免费a在线| 亚洲熟妇熟女久久| 亚州av有码| 亚洲精品色激情综合| 国产蜜桃级精品一区二区三区| 国产免费一级a男人的天堂| h日本视频在线播放| 在线十欧美十亚洲十日本专区| 精品久久久久久久久久免费视频| 国产精品永久免费网站| 亚洲精品乱码久久久v下载方式| 天堂影院成人在线观看| 99久久成人亚洲精品观看| 欧美另类亚洲清纯唯美| 亚洲av不卡在线观看| 精品无人区乱码1区二区| 日韩亚洲欧美综合| 少妇裸体淫交视频免费看高清| 免费av毛片视频| 黄色女人牲交| 久久久精品欧美日韩精品| 欧美xxxx黑人xx丫x性爽| 99在线视频只有这里精品首页| 一级作爱视频免费观看| 亚洲avbb在线观看| 成人欧美大片| 又紧又爽又黄一区二区| 亚洲av成人不卡在线观看播放网| 少妇被粗大猛烈的视频| 香蕉av资源在线| 欧美黄色片欧美黄色片| 久久久久久久午夜电影| 美女xxoo啪啪120秒动态图 | 亚洲欧美日韩高清在线视频| 在线播放国产精品三级| 亚洲第一欧美日韩一区二区三区| 99久国产av精品| 亚洲一区高清亚洲精品| 国产精品久久电影中文字幕| 97热精品久久久久久| 丰满的人妻完整版| 久久人人爽人人爽人人片va | 禁无遮挡网站| 国产淫片久久久久久久久 | 国产精品亚洲av一区麻豆| 国产日本99.免费观看| 亚洲成a人片在线一区二区| 91久久精品国产一区二区成人| 日韩欧美精品免费久久 | a级一级毛片免费在线观看| 国产伦精品一区二区三区四那| 日日摸夜夜添夜夜添小说| 国内精品一区二区在线观看| 欧美一区二区精品小视频在线| 亚洲成人精品中文字幕电影| 欧美bdsm另类| 色吧在线观看| 亚洲自偷自拍三级| 91麻豆精品激情在线观看国产| 一进一出抽搐动态| 两人在一起打扑克的视频| 亚洲avbb在线观看| av专区在线播放| 久久久久国产精品人妻aⅴ院| 天堂av国产一区二区熟女人妻| 在线播放无遮挡| 99久久99久久久精品蜜桃| 黄色一级大片看看| 日本成人三级电影网站| 亚洲一区二区三区色噜噜| 国产精品影院久久| 午夜影院日韩av| 国产三级黄色录像| 亚洲国产欧洲综合997久久,| 久久精品影院6| 日韩欧美精品免费久久 | 久久久久久久亚洲中文字幕 | 深夜精品福利| 国产三级黄色录像| 狠狠狠狠99中文字幕| 99riav亚洲国产免费| 国产亚洲av嫩草精品影院| 精品日产1卡2卡| 欧美一级a爱片免费观看看| 亚洲,欧美,日韩| 亚洲第一区二区三区不卡| 久久精品人妻少妇| 国产伦精品一区二区三区视频9| 精品午夜福利在线看| 国产一区二区三区在线臀色熟女| 男插女下体视频免费在线播放| 99热6这里只有精品| 亚洲人成网站在线播| 亚洲人成网站高清观看| 国产毛片a区久久久久| 丁香六月欧美| 国产精品不卡视频一区二区 | 淫秽高清视频在线观看| 免费搜索国产男女视频| 成人无遮挡网站| 无人区码免费观看不卡| 欧美国产日韩亚洲一区| 日日夜夜操网爽| 久久精品国产亚洲av涩爱 | 国产男靠女视频免费网站| 黄片小视频在线播放| 国产黄色小视频在线观看| 日韩亚洲欧美综合| 精品日产1卡2卡| 中文字幕av在线有码专区| 国产亚洲精品久久久久久毛片| 日韩精品青青久久久久久| 色噜噜av男人的天堂激情| 一二三四社区在线视频社区8| 一级毛片久久久久久久久女| 亚洲最大成人手机在线| 国产欧美日韩一区二区三| 成年女人看的毛片在线观看| 亚洲精品在线观看二区| 国产欧美日韩一区二区三| 午夜亚洲福利在线播放| 国产美女午夜福利| 日韩欧美国产在线观看| 老司机深夜福利视频在线观看| 日本黄大片高清| 美女大奶头视频| 丰满乱子伦码专区| 一本久久中文字幕| 首页视频小说图片口味搜索| 日日夜夜操网爽| 国产精品久久久久久久电影| av国产免费在线观看| 国产欧美日韩一区二区三| 免费大片18禁| 又爽又黄无遮挡网站| 中文字幕人妻熟人妻熟丝袜美| 成人欧美大片| 国产黄片美女视频| 美女大奶头视频| 国产一区二区在线av高清观看| 搡老妇女老女人老熟妇| 日韩 亚洲 欧美在线| 国产在线精品亚洲第一网站| 黄色一级大片看看| 97人妻精品一区二区三区麻豆| 亚洲,欧美精品.| 国产一区二区三区在线臀色熟女| 男人和女人高潮做爰伦理| 一卡2卡三卡四卡精品乱码亚洲| 美女被艹到高潮喷水动态| 国产午夜福利久久久久久| 男人舔女人下体高潮全视频| 久久久精品欧美日韩精品| 日本 欧美在线| 直男gayav资源| 少妇熟女aⅴ在线视频| 欧美+亚洲+日韩+国产| 99在线人妻在线中文字幕| 最后的刺客免费高清国语| 亚洲精品乱码久久久v下载方式| 午夜日韩欧美国产| 国产亚洲精品久久久久久毛片| 亚洲精品成人久久久久久| 国产精品免费一区二区三区在线| 性色av乱码一区二区三区2| bbb黄色大片| 亚洲天堂国产精品一区在线| 国产探花极品一区二区| 亚洲精品在线观看二区| 精品午夜福利在线看| 日日干狠狠操夜夜爽| 狂野欧美白嫩少妇大欣赏| 国产高清三级在线| 欧美不卡视频在线免费观看| 国产三级中文精品| 久久精品影院6| 在现免费观看毛片| 国产高清三级在线| 黄色配什么色好看| 久久国产乱子免费精品| 国产一区二区三区在线臀色熟女| 亚洲精品久久国产高清桃花| 91麻豆av在线| 91在线观看av| 亚洲一区二区三区色噜噜| 久久精品国产亚洲av香蕉五月| 露出奶头的视频| 久久午夜亚洲精品久久| 中文在线观看免费www的网站| 天天一区二区日本电影三级| 亚洲精品一区av在线观看| 欧美性猛交黑人性爽| 简卡轻食公司| 欧美高清性xxxxhd video| 成人欧美大片| av在线蜜桃| 日本精品一区二区三区蜜桃| 精品人妻熟女av久视频| 在线国产一区二区在线| 日韩欧美国产一区二区入口| 免费高清视频大片| 欧美bdsm另类| 俺也久久电影网| 精品久久久久久久人妻蜜臀av| 欧美bdsm另类| 国产亚洲av嫩草精品影院| 国产精品不卡视频一区二区 | 成人无遮挡网站| 国产大屁股一区二区在线视频| 国产乱人视频| 长腿黑丝高跟| 亚洲人成伊人成综合网2020| 757午夜福利合集在线观看| 香蕉av资源在线| 久9热在线精品视频| 欧美+日韩+精品| 久久久久久久久大av| 亚洲熟妇熟女久久| 成人鲁丝片一二三区免费| h日本视频在线播放| 国产精品三级大全| 婷婷丁香在线五月| 在线a可以看的网站| eeuss影院久久| 亚洲国产精品成人综合色| 国产色爽女视频免费观看| 91久久精品电影网| 男女那种视频在线观看| 久久久久久久久久成人| 男人舔女人下体高潮全视频| 欧美成人a在线观看| 国产精品永久免费网站| av天堂中文字幕网| 亚洲av.av天堂| 日韩欧美精品免费久久 | 精品一区二区三区人妻视频| 亚洲精品色激情综合| 日韩亚洲欧美综合| 啦啦啦韩国在线观看视频| xxxwww97欧美| 日日摸夜夜添夜夜添小说| 91久久精品电影网| 亚洲精品粉嫩美女一区| 国产人妻一区二区三区在| 精品久久久久久久人妻蜜臀av| 深夜a级毛片| 免费搜索国产男女视频| 国产在视频线在精品| 欧美一区二区精品小视频在线| 美女xxoo啪啪120秒动态图 | 国产av在哪里看| 久久久精品欧美日韩精品| 亚洲一区高清亚洲精品| 国产精品98久久久久久宅男小说| 国产免费av片在线观看野外av| 国模一区二区三区四区视频| 久久久久久久亚洲中文字幕 | 久久久久性生活片| 国产精品不卡视频一区二区 | 真人一进一出gif抽搐免费| 99久久99久久久精品蜜桃| 精品久久久久久久久亚洲 | 真人一进一出gif抽搐免费| 波多野结衣巨乳人妻| 99久久九九国产精品国产免费| 九九久久精品国产亚洲av麻豆| 久久久久九九精品影院| 国产欧美日韩精品一区二区| 村上凉子中文字幕在线| 国内毛片毛片毛片毛片毛片| 观看免费一级毛片| 在线a可以看的网站| 亚洲av.av天堂| 日韩 亚洲 欧美在线| 久久精品国产亚洲av涩爱 | 色哟哟哟哟哟哟| 国产三级黄色录像| 99久久精品国产亚洲精品| 亚洲一区二区三区不卡视频| 亚洲乱码一区二区免费版| 亚洲国产精品成人综合色| www.熟女人妻精品国产| 白带黄色成豆腐渣| 长腿黑丝高跟| 麻豆av噜噜一区二区三区| 韩国av一区二区三区四区| 日韩中字成人| 亚洲五月婷婷丁香| 亚洲欧美日韩高清在线视频| 色哟哟哟哟哟哟| 少妇丰满av| 在线观看美女被高潮喷水网站 | 黄色一级大片看看| 波多野结衣高清作品| 夜夜夜夜夜久久久久| av天堂中文字幕网| 亚洲,欧美精品.| 首页视频小说图片口味搜索| 免费av不卡在线播放| 床上黄色一级片| 亚洲欧美激情综合另类| 91九色精品人成在线观看| 国产伦精品一区二区三区视频9| 99精品久久久久人妻精品| 一个人看视频在线观看www免费| 国产免费av片在线观看野外av| 国产人妻一区二区三区在| 亚洲最大成人中文| 美女高潮喷水抽搐中文字幕| 两人在一起打扑克的视频| 亚洲国产精品合色在线| 我的女老师完整版在线观看| 麻豆av噜噜一区二区三区| 日本黄色视频三级网站网址| 久久久精品欧美日韩精品| 级片在线观看| 精品人妻1区二区| 日韩欧美精品免费久久 | 十八禁网站免费在线| 如何舔出高潮| av福利片在线观看| 国产一区二区亚洲精品在线观看| 免费看日本二区| 精品一区二区三区人妻视频| 制服丝袜大香蕉在线| 欧美日韩亚洲国产一区二区在线观看| 欧美日韩综合久久久久久 | 少妇人妻一区二区三区视频| 午夜免费激情av| 亚洲一区二区三区不卡视频| 99久久精品热视频| 国产成人av教育| av福利片在线观看| 国产三级黄色录像| 内地一区二区视频在线| 精品一区二区三区视频在线观看免费| 国产精品爽爽va在线观看网站| 黄色丝袜av网址大全| 精品人妻偷拍中文字幕| 欧美在线一区亚洲| 欧美一级a爱片免费观看看| 精品人妻视频免费看| 国模一区二区三区四区视频| 日韩欧美在线乱码| 国产免费av片在线观看野外av| 在线免费观看不下载黄p国产 | 亚洲片人在线观看| 亚洲欧美日韩无卡精品| 久久午夜福利片| 小蜜桃在线观看免费完整版高清| 国产免费av片在线观看野外av| 99热6这里只有精品| 亚洲最大成人中文| 成人特级av手机在线观看| 校园春色视频在线观看| 日韩欧美 国产精品| 精品久久久久久久末码| 亚洲av中文字字幕乱码综合| 国产伦精品一区二区三区视频9| 美女cb高潮喷水在线观看| 日韩国内少妇激情av| 琪琪午夜伦伦电影理论片6080| 亚洲不卡免费看| 大型黄色视频在线免费观看| 老鸭窝网址在线观看| 欧美日本视频| 亚洲18禁久久av| 色av中文字幕| 久久热精品热| 成人无遮挡网站| 99国产精品一区二区三区| 国产精品三级大全| 成熟少妇高潮喷水视频| 久久久久久九九精品二区国产| 亚洲精华国产精华精| 韩国av一区二区三区四区| 九色成人免费人妻av| 亚洲久久久久久中文字幕| 91久久精品电影网| 精品久久久久久久末码| 老熟妇仑乱视频hdxx| 99久久久亚洲精品蜜臀av| 国产精品自产拍在线观看55亚洲| 日韩欧美国产在线观看| 深夜a级毛片| 最近在线观看免费完整版| 内射极品少妇av片p| 婷婷色综合大香蕉| 欧美成人a在线观看| 国产大屁股一区二区在线视频| 久久香蕉精品热| 久久亚洲精品不卡| 欧美成人一区二区免费高清观看| 国产又黄又爽又无遮挡在线| 中文亚洲av片在线观看爽| 十八禁网站免费在线| 51国产日韩欧美| 在线观看舔阴道视频| 一级a爱片免费观看的视频| 欧美性猛交黑人性爽| 欧美xxxx性猛交bbbb| 老司机深夜福利视频在线观看| 久久精品夜夜夜夜夜久久蜜豆| 99久久无色码亚洲精品果冻| 中文在线观看免费www的网站| 久久精品国产亚洲av涩爱 | 天天一区二区日本电影三级| 99久久精品热视频| 一级av片app| 91字幕亚洲| www.www免费av| 天天一区二区日本电影三级| 嫩草影院精品99| 亚洲三级黄色毛片| 男女做爰动态图高潮gif福利片| 一级av片app| 欧美日本亚洲视频在线播放| 在现免费观看毛片| h日本视频在线播放| 成人午夜高清在线视频| 亚洲国产日韩欧美精品在线观看| 有码 亚洲区| 高清在线国产一区| 丁香欧美五月| 热99re8久久精品国产| 中文字幕久久专区| 欧美在线黄色| 欧美色欧美亚洲另类二区| 国产爱豆传媒在线观看| 亚洲欧美日韩高清专用| 日本黄大片高清| 毛片女人毛片| 亚洲成人免费电影在线观看| 中国美女看黄片| 三级男女做爰猛烈吃奶摸视频| 久久亚洲真实| 久久久久国产精品人妻aⅴ院| 嫩草影院精品99| 在线观看舔阴道视频| 国产一区二区三区在线臀色熟女| 国产探花在线观看一区二区| 色吧在线观看| 天堂影院成人在线观看| av欧美777| 老司机午夜福利在线观看视频| 久久人人精品亚洲av| 亚洲人成伊人成综合网2020| 日韩人妻高清精品专区| 一级作爱视频免费观看| 色哟哟哟哟哟哟| 国产亚洲精品久久久com| 日本黄色视频三级网站网址| 十八禁人妻一区二区| 国产成+人综合+亚洲专区| 国产精品爽爽va在线观看网站| 少妇的逼水好多| 亚洲精品粉嫩美女一区| 免费人成在线观看视频色| 97超视频在线观看视频| 国内久久婷婷六月综合欲色啪| 一级a爱片免费观看的视频| 首页视频小说图片口味搜索| 日本五十路高清| 成年免费大片在线观看| 神马国产精品三级电影在线观看| 很黄的视频免费| 好男人电影高清在线观看| 麻豆成人午夜福利视频| 精品一区二区三区视频在线观看免费| 99riav亚洲国产免费| 亚洲成人免费电影在线观看| 亚洲五月婷婷丁香| 精品一区二区三区视频在线观看免费| 欧美成人性av电影在线观看| 亚洲,欧美,日韩| 乱人视频在线观看| 91狼人影院| 淫秽高清视频在线观看| 看黄色毛片网站| 亚洲无线在线观看| 国产精品不卡视频一区二区 | 国产精品电影一区二区三区| www.999成人在线观看| 久久人妻av系列| 丰满人妻一区二区三区视频av| 成人美女网站在线观看视频| 国产精品一区二区三区四区久久| 免费人成在线观看视频色| 色综合站精品国产| 国产伦精品一区二区三区四那| 国产一区二区在线av高清观看| 窝窝影院91人妻| 国产亚洲欧美在线一区二区| 国产精品人妻久久久久久| 99国产综合亚洲精品| 在线播放无遮挡| 超碰av人人做人人爽久久| 搞女人的毛片| 夜夜爽天天搞| 亚洲精品一卡2卡三卡4卡5卡| 高清毛片免费观看视频网站| 国产一级毛片七仙女欲春2| 在现免费观看毛片| 国产乱人视频| 欧美色欧美亚洲另类二区| 婷婷色综合大香蕉| 国产精品永久免费网站| 亚洲,欧美精品.| 亚洲成a人片在线一区二区| 韩国av一区二区三区四区| 欧美性猛交╳xxx乱大交人| 国产精品国产高清国产av| 亚洲成av人片免费观看| 伊人久久精品亚洲午夜| 中亚洲国语对白在线视频| 国产乱人伦免费视频| 亚洲av熟女| 精品一区二区三区视频在线观看免费| 十八禁人妻一区二区| 又粗又爽又猛毛片免费看| 成年免费大片在线观看| 2021天堂中文幕一二区在线观| 国内精品久久久久久久电影| 91字幕亚洲| 一级毛片久久久久久久久女| 成年版毛片免费区| 亚洲精品久久国产高清桃花| 日韩免费av在线播放| 男人狂女人下面高潮的视频| 亚洲成人久久性| 国产视频内射| av国产免费在线观看| 国产高清三级在线| 色哟哟·www| 欧美日韩瑟瑟在线播放| 精品免费久久久久久久清纯| 小蜜桃在线观看免费完整版高清| 极品教师在线免费播放| 亚洲色图av天堂| 桃红色精品国产亚洲av| 亚洲真实伦在线观看| 欧美日韩亚洲国产一区二区在线观看| 我的女老师完整版在线观看|