• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)字經(jīng)濟(jì)下算法價格歧視的法律規(guī)制困境與完善進(jìn)路

    2022-04-07 06:43:16蔡志瑩
    關(guān)鍵詞:經(jīng)營者個人信息價格

    蔡志瑩

    (香港中文大學(xué) 政治系,香港 510630)

    自農(nóng)業(yè)經(jīng)濟(jì)、工業(yè)經(jīng)濟(jì)后,我國迎來了新的重要經(jīng)濟(jì)形態(tài)——數(shù)字經(jīng)濟(jì),數(shù)字經(jīng)濟(jì)以數(shù)據(jù)作載體,推動了經(jīng)濟(jì)結(jié)構(gòu)的轉(zhuǎn)變。隨著技術(shù)水平不斷提升,以數(shù)據(jù)為基礎(chǔ)的算法在社會各領(lǐng)域中廣泛使用,數(shù)據(jù)算法在打破時空阻隔促進(jìn)經(jīng)濟(jì)繁榮發(fā)展的同時也帶來了數(shù)據(jù)泄露、濫用等現(xiàn)象,其中比較常見的是算法價格歧視。算法價格歧視是數(shù)字經(jīng)濟(jì)新產(chǎn)物。2018年3月以來,網(wǎng)約車、在線旅游等服務(wù)平臺都相繼爆出濫用APP用戶消費信息進(jìn)行差異化定價,被指責(zé)為“大數(shù)據(jù)殺熟”,具體表現(xiàn)為使用平臺的老用戶比新用戶價格高,會員比普通用戶價格高。[1]商家通過收集消費者個人信息、消費喜好、消費價格等數(shù)據(jù)進(jìn)行分析與設(shè)定,并對消費者精準(zhǔn)定價,以“千人千價”的方式盡可能多地攫取消費者剩余,從而使商家能實現(xiàn)利益最大化,這種方式在經(jīng)濟(jì)學(xué)中是稱作“價格歧視”,通俗稱作“大數(shù)據(jù)殺熟”。事實上,價格歧視有三種表現(xiàn)形式,一級價格歧視可以理解為根據(jù)人進(jìn)行定價,不同人不同價格;二級價格歧視根據(jù)數(shù)量進(jìn)行定價,購買商品數(shù)量越多價格越便宜;三級價格歧視根據(jù)人群進(jìn)行定價,學(xué)生、老人、特定職業(yè)等群體給予優(yōu)惠政策。算法價格歧視就是數(shù)字經(jīng)濟(jì)時代的一級價格歧視。[2]

    算法價格歧視行為涉嫌侵犯消費者隱私權(quán)、公平交易權(quán),嚴(yán)重的甚至?xí)嫦訕?gòu)成詐騙罪。當(dāng)具有市場支配地位的經(jīng)營者實行差別定價時,還會涉嫌構(gòu)成壟斷行為。有學(xué)者基于維護(hù)消費者利益的目的,主張此類剝削型濫用行為應(yīng)被納入反壟斷法的規(guī)制范圍內(nèi)。[3]有學(xué)者從經(jīng)濟(jì)學(xué)和博弈論角度出發(fā),其認(rèn)為大數(shù)據(jù)殺熟是經(jīng)濟(jì)學(xué)完全價格歧視行為的表象,體現(xiàn)了新制度經(jīng)濟(jì)學(xué)中買賣雙方對信息產(chǎn)權(quán)的訴求,消費者應(yīng)主動利用市場提供的機(jī)會為自身爭取權(quán)益。[4]也有學(xué)者認(rèn)為大數(shù)據(jù)殺熟本質(zhì)上應(yīng)定性為價格欺詐行為,應(yīng)通過立法明確價格欺詐行為的內(nèi)涵及其構(gòu)成要件,以消除法條競合之亂象。[5]不難發(fā)現(xiàn),價格歧視行為存在規(guī)制的必要性,但學(xué)者們的看法比較側(cè)重于某一方面,缺乏部門法銜接思維以及監(jiān)管層面的考量。而且,現(xiàn)行法律中《中華人民共和國消費者權(quán)益保護(hù)法》(以下簡稱《消費者權(quán)益保護(hù)法》)、《中華人民共和國價格法》(以下簡稱《價格法》)、《中華人民共和國反壟斷法》(以下簡稱《反壟斷法》)均有法律條文對算法價格歧視進(jìn)行規(guī)制,但上述條文較為原則與模糊,無法為規(guī)制算法價格歧視提供有效指引?;诖耍疚臄M梳理算法價格歧視的技術(shù)邏輯與危害,剖析各部門法規(guī)制算法價格歧視的困境,從而構(gòu)建可行的因應(yīng)之策,以期對維護(hù)市場秩序以及消費者權(quán)益有所裨益。

    一、算法價格歧視的形成與危害

    人工智能時代下,大數(shù)據(jù)已然成為一項新興、核心、高價值的資產(chǎn)。在交易消費領(lǐng)域,大數(shù)據(jù)與算法的結(jié)合使精準(zhǔn)營銷和個性化服務(wù)成為可能的同時也為經(jīng)營者侵蝕消費者福利提供了機(jī)會,算法價格歧視便是這一問題的真實寫照。

    (一)算法價格歧視的原理分析

    算法價格歧視是平臺通過收集、整合消費者個人信息進(jìn)行差別定價的行為,包括有價格歧視、性別歧視、種族歧視等,其中按照行為機(jī)制,利用算法技術(shù)實施價格定價的行為可以分為信息采集、信息推送、個性化定價三個階段。[6]信息采集主要是收集消費者個人信息數(shù)據(jù),在數(shù)字經(jīng)濟(jì)時代之下經(jīng)營者平臺可以在消費者授權(quán)之下獲取支付意愿、地理位置、資產(chǎn)狀況、興趣愛好、價格敏感程度等信息,而且平臺可以通過后臺追蹤收集同一個電子設(shè)備或者同一個賬戶在不同APP平臺的登錄信息、瀏覽記錄,使得數(shù)據(jù)的獲取具有實時性和多元性,通過平臺的數(shù)據(jù)采集為后續(xù)的推送、定價提供計算基礎(chǔ)。信息推送是在對消費者個人信息采集基礎(chǔ)之上,進(jìn)行信息識別計算分析出消費者的偏好后向目標(biāo)群體推送不同價格的產(chǎn)品或者同一產(chǎn)品的不同組合搭配。例如:網(wǎng)購平臺的首頁界面是根據(jù)用戶購買記錄或瀏覽記錄推送類似產(chǎn)品,如果用戶對推送產(chǎn)品不滿,可以自行對該產(chǎn)品選擇“不感興趣”“不想看這類產(chǎn)品”“已經(jīng)買了”等選擇,用戶的選擇為平臺提供了再次數(shù)據(jù)采集的機(jī)會。平臺通過多次信息收集逐漸完善數(shù)據(jù)庫,從而提高推送的精準(zhǔn)度。個性化定價則是針對目標(biāo)群體推送后進(jìn)行不同的價格呈現(xiàn),給予價格敏感度低的用戶高價、價格敏感度高的用戶低價;給予消費水平高的用戶高價,消費水平低的用戶低價。據(jù)北京市消費者協(xié)會進(jìn)行互聯(lián)網(wǎng)大數(shù)據(jù)殺熟問卷調(diào)查結(jié)果顯示,有85.38%被調(diào)查者認(rèn)為大數(shù)據(jù)殺熟體現(xiàn)在同一時間不同用戶購買相同商品或服務(wù)的價格不同,并且82.37%被調(diào)查者人認(rèn)為大數(shù)據(jù)殺熟現(xiàn)象非常普遍并且都曾經(jīng)有過“被殺熟”的經(jīng)歷。[7]

    在傳統(tǒng)交易場景中,由于經(jīng)營者對消費者的數(shù)據(jù)采集面比較窄,通常以線下消費方式為主,經(jīng)營者商品服務(wù)定價主要依據(jù)成本定價和市場供求狀況。而在數(shù)字經(jīng)濟(jì)時代,伴隨著消費者線上消費的轉(zhuǎn)型,經(jīng)營者不僅擁有海量的數(shù)據(jù)庫,還有后臺的算法技術(shù)支撐。大數(shù)據(jù)、算法等數(shù)字技術(shù)的廣泛應(yīng)用,算法價格歧視使經(jīng)營者可以將潛在的消費者群體在個體“微?!睂用嫔线M(jìn)行解構(gòu)、分析和預(yù)測,即每個個體都被匹配了差異性價格。[8]相較于傳統(tǒng)殺熟,數(shù)字經(jīng)濟(jì)時代下的價格歧視準(zhǔn)確度更高、隱蔽性更強(qiáng)、涉及面更廣、規(guī)制難度更大。[9]隨著技術(shù)以及數(shù)字經(jīng)濟(jì)的發(fā)展,數(shù)據(jù)和算法成為經(jīng)營者能否在市場競爭中脫穎而出的關(guān)鍵一環(huán)。

    (二)算法價格歧視的危害

    數(shù)字經(jīng)濟(jì)之下,數(shù)據(jù)成為重要資源之一,定價算法的出現(xiàn)將經(jīng)營者與消費者之間的關(guān)系逐漸轉(zhuǎn)變?yōu)閿?shù)據(jù)與數(shù)據(jù)之間的關(guān)系,其危害性也逐漸顯露。[10]

    1.違背價格適用的平等性。2022年北京市消費者協(xié)會調(diào)查報告顯示,有84.64%消費者認(rèn)為大數(shù)據(jù)殺熟會透支消費者信任,降低企業(yè)信譽,導(dǎo)致消費者成為交易過程中的被支配者。[7]比如:在網(wǎng)購平臺交易中買賣雙方都是以自愿平等原則進(jìn)行,形式上是公平的,但實質(zhì)過程中可能存在不公平,賣家給買家呈現(xiàn)的價格是利用信息優(yōu)勢進(jìn)行一系列數(shù)據(jù)計算分析所得出的最大利潤成交價,本質(zhì)上違背了社會公眾關(guān)于“明碼標(biāo)價”的常識性定義,不應(yīng)當(dāng)認(rèn)定為“明碼標(biāo)價”。[11]原因在于《價格法》中要求明碼標(biāo)價是需要注明商品的品名、產(chǎn)地、規(guī)格、等級、計價單位、價格或者服務(wù)的項目、收費標(biāo)準(zhǔn)等有關(guān)情況,社會上消費者認(rèn)知的明碼標(biāo)價是公平公開標(biāo)注商品價格,不因人而異。平臺算法定價在不同手機(jī)設(shè)備、對應(yīng)人群、登錄賬戶都設(shè)定了不同的呈現(xiàn)價格,既違反了價格法中明碼標(biāo)價的要求,也違背了價格適用對象的平等性,形成了不公平的差別對待。

    2.個人信息濫用風(fēng)險。不當(dāng)?shù)臄?shù)據(jù)收集一方面會加劇信息不對稱狀況,另一方面會導(dǎo)致個人信息遭到濫用。平臺通過對消費者的行蹤、生理特征、婚姻狀況等隱私數(shù)據(jù)的收集,并對消費者進(jìn)行群體劃分,逐漸由個體隱私層面向集體隱私層面滲透。[12]在平臺獲得海量消費者個人信息進(jìn)行使用過程中不可避免地侵害消費者的合法權(quán)益,導(dǎo)致信息泄露、信息濫用、信息共享等情況發(fā)生。典型表現(xiàn)是是商家在獲取消費者手機(jī)號碼后,未經(jīng)消費者授權(quán)向其手機(jī)發(fā)送商品廣告信息,甚至嚴(yán)重困擾消費者生活工作;又或者擅自把手機(jī)號碼等信息共享給其他商家,侵犯了消費者隱私權(quán),存在違反《個人信息保護(hù)法》的可能。

    3.攫取消費者剩余。算法價格歧視同樣存在攫取消費者剩余價值的可能。市場上每一位消費者的消費觀價值觀都存在不同,比如:同一部手機(jī),A可以接受的最高價位是5000元購買,B是4000元,若手機(jī)售價4500,則A購買手機(jī)后剩余500元,B可能會放棄購買,此時商家利潤收入為4500元。但在算法價格歧視之下,商家可以通過數(shù)據(jù)計算,給A呈現(xiàn)價格是5000元,B呈現(xiàn)價格是4000元,則此時A和B剩余為0,商家利潤收入為8000元,此時商家不僅可以實現(xiàn)利潤最大化,還可以最大程度攫取消費者剩余,長期來看這種方式會在無形中改變了消費者的消費習(xí)慣,看似優(yōu)惠的交易之下其實是增加了消費者的支出,致使消費者利益受損。

    4.破壞公平競爭市場。價格歧視行為帶來危害后果之一是破壞了公平競爭市場,公平的競爭市場才有助于推動創(chuàng)新,創(chuàng)新能帶來高質(zhì)量的經(jīng)營水平,從而帶動經(jīng)濟(jì)高質(zhì)量地發(fā)展,其中價格機(jī)制是影響市場機(jī)制的關(guān)鍵性因素,處于核心地位。[13]經(jīng)營者擁有自主定價權(quán),但經(jīng)營者擁有該權(quán)利并不意味著定價不受法律的約束,價格本質(zhì)應(yīng)由有供求關(guān)系決定。實際上,在算法、網(wǎng)絡(luò)數(shù)據(jù)、平臺技術(shù)交織下差異定價、價格歧視擁有各式各樣的表現(xiàn)形式,準(zhǔn)確認(rèn)定存在價格歧視的行為面臨著很大挑戰(zhàn),法律認(rèn)定、實際操作中都有待深入探索。

    不難發(fā)現(xiàn),“價格”由供求關(guān)系到數(shù)據(jù)算法決定的轉(zhuǎn)向使得經(jīng)營者不斷攫取消費者剩余,實現(xiàn)了自身的利益最大化,甚至擾亂市場秩序,加劇壟斷,對其進(jìn)行規(guī)制迫在眉睫。

    二、算法價格歧視的部門法規(guī)制困境

    如前所述,算法價格歧視的個體損害因為消費者基數(shù)的影響而被無限放大,這就意味著對其法律規(guī)范與行政監(jiān)管亟待回應(yīng)。遺憾的是,當(dāng)前我國《反壟斷法》《價格法》《消費者權(quán)益保護(hù)法》《中華人民共和國民法典》等部門法無法妥善應(yīng)對算法價格歧視,具體表現(xiàn)在行為違法性認(rèn)定困難、法律責(zé)任模糊、監(jiān)管機(jī)制缺失等方面。

    (一)《反壟斷法》中濫用市場支配地位的適用存在爭議

    新修訂《反壟斷法》針對數(shù)據(jù)濫用、算法技術(shù)進(jìn)行了限制,增加第九條規(guī)定經(jīng)營者不得利用數(shù)據(jù)和算法、技術(shù)、資本優(yōu)勢以及平臺規(guī)則等從事本法禁止的壟斷行為;第二十二條規(guī)定具有市場支配地位的經(jīng)營者不得利用數(shù)據(jù)和算法、技術(shù)以及平臺規(guī)則等從事前款規(guī)定的濫用市場支配地位的行為。隨著現(xiàn)代數(shù)字科技發(fā)展衍生出利用數(shù)據(jù)、算法、技術(shù)等方式進(jìn)行壟斷,反壟斷法也在法律層面上針對數(shù)據(jù)領(lǐng)域壟斷行為進(jìn)行限制。算法價格歧視與差別待遇行為關(guān)系密切,但兩者存在本質(zhì)區(qū)別。

    首先,《反壟斷法》第三條規(guī)定的壟斷行為針對的是經(jīng)營者,第二十二條第六款規(guī)定“沒有正當(dāng)理由,對條件相同的交易相對人在交易價格等交易條件上實行差別待遇?!痹摗敖灰紫鄬θ恕笔欠癜跋M者群體”國內(nèi)學(xué)者存在不同見解。[14]一方面,反壟斷法設(shè)立的初衷是規(guī)制經(jīng)營者之間的不正當(dāng)壟斷行為,因此,交易相對人范圍不包含消費者群體。另一方面,《反壟斷法》第一條明確了制定本法為了維護(hù)消費者利益,消費者保護(hù)是圍繞的目的,交易相對人范圍應(yīng)當(dāng)包含經(jīng)營者和消費者。價格歧視、不公平定價、算法壟斷等行為其涉及的主體既可能是經(jīng)營者,也有可能是消費者,實際中也還是需要結(jié)合具體行為和案情進(jìn)行分析。其次,在《反壟斷法》第二十二條第二款明確了實行價格歧視的經(jīng)營者需要具有市場支配地位,因此若引用該條款進(jìn)行控訴還需證明經(jīng)營者符合具有市場支配地位,指控經(jīng)營者實施差別待遇行為的前提是該經(jīng)營者具有市場支配地位。一方面,自動化定價往往發(fā)生在生活消費領(lǐng)域,中小型企業(yè)與商家占絕大部分比例,無論參考市場份額還是其他市場要素,上述經(jīng)營者均不具備市場支配地位,因而無法被認(rèn)定為差別待遇。另一方面,如何界定“市場支配地位”難度也很大,互聯(lián)網(wǎng)的環(huán)境容量以及消費者信息不對稱使得界定互聯(lián)網(wǎng)中的“相關(guān)市場”和認(rèn)定“市場份額”顯得更加艱巨,很難清晰判斷互聯(lián)網(wǎng)公司的相關(guān)市場以及市場份額。[15]在不同市場認(rèn)定企業(yè)市場份額也有所不同,而目前很多數(shù)字平臺巨頭在諸多領(lǐng)域處于強(qiáng)勢地位,比如美團(tuán)在市場中占領(lǐng)的份額不僅有外賣市場,還有酒店市場,在認(rèn)定市場份額中單獨計算還是分開計算都會影響最終市場支配地位的認(rèn)定。[16]再有,《反壟斷法》第二十二條第六款規(guī)定,差別待遇的前提是經(jīng)營者無“無正當(dāng)理由”,但在法條中沒有對“無正當(dāng)理由”進(jìn)行解釋,導(dǎo)致認(rèn)定過程難度陡增。而且,面對消費者的指控,經(jīng)營者往往以定價算法測試、優(yōu)惠活動、程序錯誤以及商業(yè)秘密等理由進(jìn)行抗辯,尤其是以涉及商業(yè)秘密為由進(jìn)行抗辯屢試不爽,普通消費者的權(quán)益依舊得不到有效保障。因此,依據(jù)《反壟斷法》認(rèn)定算法價格歧視的難度較大,適用主體、市場地位認(rèn)定、理由認(rèn)定都存在明顯的爭議和困境。

    (二)《個人信息保護(hù)法》難以規(guī)制個人信息處理者

    在個人信息保護(hù)層面上,我國于2021年11月頒布《個人信息保護(hù)法》,將個人信息安全問題通過專門的立法進(jìn)行保護(hù)。其中第二十四條規(guī)定個人信息處理者利用個人信息進(jìn)行自動化決策,應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正,不得對個人在交易價格等交易條件上實行不合理的差別待遇。該條款對通過自動化決策方式進(jìn)行價格歧視做出規(guī)定,從個人信息層面上提供保護(hù)路徑,通過對個人信息處理者活動的約束來解決殺熟問題。此外,第六十六條明確了違反規(guī)定的,將對違法應(yīng)用程序、直接負(fù)責(zé)的主管人員和其他直接負(fù)責(zé)人員進(jìn)行處罰,以及第六十九條設(shè)置了過錯推定、舉證責(zé)任倒置規(guī)則,但該法在約束價格歧視上也存在不足,比如在二十四條中約束行為限定在“自動化決策”,所謂自動化決策是通過計算機(jī)程序進(jìn)行決策的方式,人工決策進(jìn)行價格歧視是否屬于規(guī)制的范圍存在爭議。若“人工決策”不屬于規(guī)范的對象,平臺明面上采取人工決策方式,暗地里采取自動化決策方式,給認(rèn)定違法行為增添了難度,以及該法規(guī)定應(yīng)當(dāng)保證自動化決策的透明度,但沒有明確信息透明的適用范圍,經(jīng)營者同樣可以以商業(yè)秘密保護(hù)為由逃避責(zé)任。

    在技術(shù)層面上,我國對個人信息保護(hù)領(lǐng)域偏向于靜態(tài)的存儲保護(hù),對個人信息流通過程中的保護(hù)存在漏洞。在數(shù)字經(jīng)濟(jì)時代,數(shù)據(jù)需要在無形世界中進(jìn)行交換、流動才能實現(xiàn)其價值;并且在智能技術(shù)的支持下,數(shù)據(jù)流動速度非???。上述情形給個人信息處理者的認(rèn)定帶來了很大的挑戰(zhàn),即便《個人信息保護(hù)法》的出臺對個人信息處理者行為進(jìn)行了限制,但像黑客入侵、內(nèi)部員工買賣客戶個人信息的現(xiàn)象仍然常見。公安部2022年發(fā)布的2021年侵犯公民個人信息犯罪十大典型案例中,有通過暗網(wǎng)操作出售個人信息謀取不法利益、利用空殼公司與電信運營商簽訂合同非法獲取數(shù)據(jù)、誘騙電商平臺點擊木馬鏈接、技術(shù)支撐下突破公司驗證機(jī)制非法獲取、非法搭建虛假網(wǎng)站、利用快遞公司整理包裹偷拍快遞單等非法方式竊取公民個人信息進(jìn)行牟利。[17]不法分子或者平臺竊取個人信息方式非常多樣且變化莫測,對普通公民而言是防不勝防,也正是因為有太多個人信息遭到泄露才給商家提供了精準(zhǔn)推送、價格歧視的機(jī)會。

    (三)《消費者權(quán)益保護(hù)法》的救濟(jì)有限

    算法技術(shù)高深且具有隱蔽性和復(fù)雜性,行為認(rèn)定難度大,消費者舉證成本高。對于消費者而言適用《消費者權(quán)益保護(hù)法》分析大數(shù)據(jù)價格歧視行為認(rèn)定問題更為貼切。[18]《消費者權(quán)益保護(hù)法》第十條規(guī)定“消費者享有公平交易的權(quán)利”,即消費者在交易中有權(quán)獲得價格合理的公平交易條件,算法價格歧視給予不同消費者不同價格是違背了公平交易條件,但消費者作為弱勢一方在信息不對稱情況之下難以去判斷和證明消費的價格是否合理公平。一方面,消費者需要主觀去判定價格是否合理,但礙于消費者價格鑒定能力有限,難以衡量價格尺度,甚至對于經(jīng)濟(jì)收入水平較高消費者,其在消費過程中對價格敏感度較低,難以察覺價格是否合理公平。另一方面,消費者需要結(jié)合客觀與其他消費主體進(jìn)行對比才能得出價格是否合理,然而,絕大部分消費者不會關(guān)注別人的價格,也沒有太多時間、條件去關(guān)注。通常認(rèn)定價格歧視行為需要同時滿足商品相同、消費者條件相同、價格不同,但在算法背景下的交易活動中,要清晰判定出“相同產(chǎn)品”“相同條件”成本極高。[19]綜上,《消費者權(quán)益保護(hù)法》是維護(hù)消費者權(quán)利的核心法律,但其在規(guī)制算法價格歧視方面仍存在不敷適用之處。

    (四)監(jiān)管機(jī)關(guān)難以對算法價格歧視有效監(jiān)管

    監(jiān)管機(jī)關(guān)對算法價格歧視的有效監(jiān)管問題同樣存在不足。首先,法律層面《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第八條規(guī)定算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估、驗證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等,但實際監(jiān)管中如何能保證算法推薦服務(wù)者進(jìn)行了定期審核以及審核的深度、廣度值得考量。其次,算法技術(shù)具有長期性,經(jīng)過長期數(shù)據(jù)收集整合而來,而算法過程復(fù)雜且技術(shù)逐漸提升,對于監(jiān)管一方來說在技術(shù)層面也是一個挑戰(zhàn)。再者,算法作為一種技術(shù)手段本身具有合理性,算法技術(shù)日益成熟直接改變了企業(yè)經(jīng)營方式和消費者消費方式,合理的算法技術(shù)可以提高企業(yè)的經(jīng)營效率,不會損害消費者權(quán)益也不擾亂市場正常競爭,這就要求監(jiān)管過程中需要明確區(qū)分合理算法行為與不合理算法行為以及避免經(jīng)營者以合理算法行為掩蓋不正當(dāng)經(jīng)營行為??梢?,算法技術(shù)復(fù)雜性決定了算法機(jī)制監(jiān)管難度大,監(jiān)管難度的增加導(dǎo)致價格歧視的法律認(rèn)定困難重重。

    三、算法價格歧視法律規(guī)制的完善進(jìn)路

    上述法律困境是數(shù)字經(jīng)濟(jì)時代體系帶來的挑戰(zhàn)和機(jī)遇,積極應(yīng)對能有效規(guī)制算法價格歧視行為,需要在法律表達(dá)和行政監(jiān)管兩個層面形成合力。如此,方能實現(xiàn)對算法價格歧視的有效治理。

    (一)加強(qiáng)對《電子商務(wù)法》條文的檢視與完善

    《電子商務(wù)法》順應(yīng)了電商行業(yè)快速發(fā)展過程出現(xiàn)的法律問題,出發(fā)點是為了規(guī)范電子商務(wù)行為,對《電子商務(wù)法》相關(guān)條文的檢視與完善有助于促進(jìn)電子商務(wù)健康發(fā)展。算法行為涉及方方面面,絕非單獨一個法律可以解決,現(xiàn)行的法律法規(guī)規(guī)范中有相關(guān)法條是對算法價格歧視進(jìn)行規(guī)制,《消費者權(quán)益保護(hù)法》《反壟斷法》《價格法》條文表達(dá)存在模糊、主體不適用等困境。隨著經(jīng)濟(jì)和技術(shù)的發(fā)展,現(xiàn)有的法律法規(guī)規(guī)章確實不足以規(guī)范價格歧視,法律本身有滯后性,法律的發(fā)展難以跟上技術(shù)的調(diào)整,適當(dāng)調(diào)整法律規(guī)定將有利于提高對價格歧視的規(guī)制。算法價格歧視行為屬于互聯(lián)網(wǎng)電商行業(yè)的經(jīng)濟(jì)行為,適用的場所比較貼合,可以作為認(rèn)定數(shù)據(jù)算法價格歧視的參考法律。

    《電子商務(wù)法》第十八條描述了數(shù)據(jù)殺熟的行為,但在具體適用中存在模糊性和爭議性,主要存在爭議該條第一款“價格”是否屬于該條款中“搜索結(jié)果”的范圍,消費者在使用平臺過程中通過搜索,目的是想找到相關(guān)的產(chǎn)品、服務(wù),其中也應(yīng)當(dāng)包括價格,產(chǎn)品質(zhì)量和價格是消費者重點關(guān)注對象,從消費者角度出發(fā)“價格”應(yīng)當(dāng)屬于“搜索結(jié)果”范圍。另外,以購物平臺為例,在搜索欄輸入關(guān)鍵詞后可以在“篩選欄”進(jìn)行設(shè)置,設(shè)置包括了發(fā)貨地、是否包郵、價格區(qū)間,可以看出“價格”是關(guān)鍵因素之一,從平臺角度來看“價格”也應(yīng)當(dāng)屬于“搜索結(jié)果”范圍。法律解釋的最終目的是探究法律在法秩序的標(biāo)準(zhǔn)意義,通過法律解釋明確消費者的搜索結(jié)果包含商品的價格,價格歧視行為就可以歸入《電子商務(wù)法》第十八條規(guī)制范圍內(nèi),將為規(guī)制算法價格歧視行為提供最優(yōu)法律解決路徑,提高司法效率。[20]

    (二)舉證責(zé)任的優(yōu)化

    妥善處理消費糾紛才能更好地維護(hù)消費者合法權(quán)益,在我國現(xiàn)行法律制度下適用舉證責(zé)任倒置主要有特殊侵權(quán)訴訟和勞動爭議訴訟兩大類,考慮到這類案件原告作為被害方地位處于弱勢地位,存在舉證困難的處境,被害方訴訟請求難以實現(xiàn),如果嚴(yán)格按照原告方承擔(dān)舉證責(zé)任可能會引起裁判結(jié)果與正義相抵觸,將有悖于實現(xiàn)公平正義的問題,因此有了舉證責(zé)任調(diào)整的必要性。

    算法價格歧視行為背后是平臺算法技術(shù)和數(shù)據(jù)整合的驅(qū)動,在平臺和消費者互動中,平臺掌握了主動權(quán),消費者處于被動一方,雙方處于非平衡的地位,算法價格歧視主要利用了平臺與消費者之間不對稱的信息壁壘,若適用“誰主張誰舉證”舉證原則,將由消費者承擔(dān)舉證責(zé)任,而重要的算法技術(shù)和數(shù)據(jù)信息均在平臺方手上,消費者需要面對舉證難、維權(quán)成本高的現(xiàn)實問題,一旦平臺以新用戶優(yōu)惠、平臺實行促銷活動、產(chǎn)品存在差異性等進(jìn)行抗辯,將置消費者于無力反駁的處境。若適用舉證責(zé)任倒置,消費者僅需對價格歧視受到的損害承擔(dān)舉證責(zé)任,平臺對是否存在價格歧視行為、因果關(guān)系、主觀意圖是否故意承擔(dān)舉證責(zé)任,將有利于增加消費者維權(quán)意識,打擊價格歧視行為。為了鼓勵消費者積極維權(quán),降低維權(quán)成本,需要解決消費者和平臺地位失衡的困境,對消費者和平臺舉證責(zé)任進(jìn)行調(diào)整具有重要現(xiàn)實意義。

    在算法價格歧視案件中,應(yīng)當(dāng)根據(jù)案件實際情況重新分配舉證責(zé)任,考慮平臺掌握了算法技術(shù)和數(shù)據(jù)信息,參考《消費者權(quán)益保護(hù)法》第二十三條規(guī)定,應(yīng)當(dāng)要求平臺對用戶數(shù)據(jù)信息和定價依據(jù)負(fù)有一定期限的保存義務(wù),在該期限內(nèi)將由平臺承擔(dān)舉證責(zé)任。此外,參考《個人信息保護(hù)法》第六十九條規(guī)定,平臺對消費者造成損害的,平臺不能證明自己沒有過錯的,將承擔(dān)損害賠償?shù)惹謾?quán)責(zé)任,采用過錯推定原則在實踐中可以減輕消費者對違法行為的證據(jù)收集難度和舉證難度。

    (三)細(xì)化個人算法解釋權(quán)規(guī)則

    算法自動化決策運用誘發(fā)了價格歧視行為,關(guān)鍵在于算法自動化決策透明度缺失導(dǎo)致算法決策難以追責(zé)。2021年11月1日生效的《個人信息保護(hù)法》第二十四條第三款正式提出個人算法解釋權(quán),賦予個人要求個人信息處理者解釋的權(quán)利,旨在提高算法透明度,對規(guī)制算法價格歧視行為有積極作用,但在適用上存在模糊性。第一,根據(jù)《個人信息保護(hù)法》第二十四條第三款規(guī)定,個人算法解釋權(quán)適用前提是“自動化決策方式做出的決定”,模糊點在于算法解釋權(quán)能否適用于人工決策方式做出的決定。歐盟最早創(chuàng)設(shè)算法解釋權(quán),其明確限定該權(quán)利適用須由自動化決策做出。如果在算法過程中出現(xiàn)了人工干預(yù)的決策行為,原則上不適用該條款,或者同時出現(xiàn)算法決策和人工決策行為,則難以認(rèn)定是否屬于算法決策。第二,算法解釋權(quán)的解釋主體是在平臺一方,作為算法技術(shù)的控制者一方面會以涉及商業(yè)秘密或個人信息保護(hù)為由拒絕解釋;另一方面,其作為解釋主體可能會做出有利于己方的解釋,最終會讓算法解釋失去本身的意義。因此,對算法解釋權(quán)進(jìn)行完善可以從適用范圍和解釋范圍入手。

    首先,放寬算法解釋權(quán)的適用范圍。算法解釋權(quán)設(shè)立的初衷為了提高可追責(zé)性,隨著算法技術(shù)的發(fā)展,其涉及的范圍越來越廣,使用的算法技術(shù)越來越高超,在決策方式不應(yīng)僅限定在自動決策,只要對決策進(jìn)行了干預(yù)并造成了實質(zhì)性影響,即便是人工手段,也應(yīng)納入算法解釋權(quán)的適用范圍內(nèi)。其次,給予平臺解釋保留權(quán)。提高算法技術(shù)的透明性不需要平臺做到完全的透明,而是適當(dāng)?shù)耐该鳎惴ń忉寵?quán)設(shè)立是為了保障個人的知情權(quán),個人信息控制者只需要對涉及定價的關(guān)鍵信息進(jìn)行解釋。例如:呈現(xiàn)給消費者的價格是如何計算的、優(yōu)惠折扣是從何而來,在涉及核心算法技術(shù)上給予平臺解釋保留權(quán)。算法解釋權(quán)作為一種新興權(quán)利形態(tài),可以通過解釋來提高算法透明性,最終達(dá)到規(guī)制算法權(quán)力的目的。[21]

    (四)完善算法審查委員會監(jiān)管

    算法技術(shù)日益提高和普及,日后必將會影響到生活中的各個方面,完善算法審查委員會監(jiān)管具有很大的必要性。算法審查委員會不同于一般的相關(guān)部門審查,其具有比較高的技術(shù)性,并且需要結(jié)合現(xiàn)行的監(jiān)管規(guī)則判斷是否合規(guī)合法。因此,首要的算法委員會成員需要具有復(fù)合背景的專業(yè)人員組成,既熟知計算機(jī)算法技術(shù),也需要法律、代碼編程等專業(yè)人員,全面的人才組合可以幫助委員會對算法行為開展高水平的指導(dǎo)調(diào)查。

    要完善算法審查的標(biāo)準(zhǔn)和流程,確立事前、事中、事后的審查流程。事前監(jiān)管以平臺自我審查為主,審查委員會為輔,主要是為了督促平臺自律行為,以現(xiàn)行的法律法規(guī)要求、行業(yè)要求、平臺要求進(jìn)行自我檢測;算法審查委員在事前可根據(jù)數(shù)據(jù)模型、計算機(jī)編程、算法方式的特點制定相關(guān)的行業(yè)準(zhǔn)則,除了定期要求平臺開展自我督促活動,還應(yīng)定期抽查平臺算法方式的測評,一旦發(fā)現(xiàn)有漏洞或者不合規(guī)的地方,要求平臺及時整改并根據(jù)問題嚴(yán)重程度決定是否進(jìn)行通報。除此之外,算法委員會還可定期公布不合規(guī)的平臺和算法技術(shù),以供消費者參考防止權(quán)益受損。事中監(jiān)管則要求平臺委員會對平臺正在進(jìn)行的算法方式進(jìn)行實時的追蹤監(jiān)管,監(jiān)管平臺搜集的數(shù)據(jù)是否過度、搜集的數(shù)據(jù)是否有超出使用范圍、一旦發(fā)現(xiàn)濫用算法技術(shù)損害消費者權(quán)益的要及時阻斷避免損害擴(kuò)大,保證平臺在法律法規(guī)范圍內(nèi)正常使用數(shù)據(jù),為消費者保駕護(hù)航。事后監(jiān)管則可由相關(guān)部門賦予算法委員會相關(guān)的執(zhí)法權(quán),對不合規(guī)、不合法的平臺給予相應(yīng)的行政處罰。數(shù)字經(jīng)濟(jì)時代,互聯(lián)網(wǎng)平臺數(shù)量越來越大,算法技術(shù)普及率高,賦予算法委員會相關(guān)執(zhí)法權(quán)有利于提高行政執(zhí)法效率,快速打擊不合規(guī)平臺。同時,事后監(jiān)管還要求算法委員會對權(quán)益受害的消費者進(jìn)行處理,處理一波不合規(guī)的平臺,勢必會有一波權(quán)益受損的消費者,除了打擊平臺之外,算法委員會還應(yīng)及時告知消費者執(zhí)法情況,為消費者開具平臺不合規(guī)告知書等相關(guān)證明材料以供消費者舉證所用。完善算法委員會監(jiān)管既可以提供專業(yè)的監(jiān)管工作,又能保證執(zhí)法的獨立性,有利于保障消費者權(quán)益,營造健康互聯(lián)網(wǎng)環(huán)境,打擊不良算法行為。

    數(shù)字經(jīng)濟(jì)時代改變了我們的生活方式,帶來高科技的優(yōu)勢同時也顯露了一些弊端。數(shù)據(jù)的使用影響著用戶個人隱私、公平、權(quán)益等法律問題,算法的普及催生了很多商業(yè)機(jī)會。如何平衡好電子商務(wù)的發(fā)展和消費者的保護(hù)是需要監(jiān)管部門、平臺、消費者共同努力,法律存在滯后性,需要順應(yīng)社會時代的發(fā)展,放寬適用主體、重新分配舉證責(zé)任、清晰解釋法律條文可以更好地發(fā)揮法律的規(guī)范指導(dǎo)作用,引領(lǐng)市場競爭趨向良好發(fā)展,化解經(jīng)營者和消費者主體之間的矛盾,保證在數(shù)字經(jīng)濟(jì)時代之下市場經(jīng)濟(jì)活動能在法律制度框架內(nèi)有序正常的發(fā)展。

    猜你喜歡
    經(jīng)營者個人信息價格
    明清珠江三角洲基塘區(qū)的田場與經(jīng)營者
    廣州文博(2023年0期)2023-12-21 07:24:30
    如何保護(hù)勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護(hù)進(jìn)入“法時代”
    《經(jīng)營者》征稿啟事
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    價格
    汽車之友(2016年18期)2016-09-20 14:10:22
    價格
    汽車之友(2016年10期)2016-05-16 14:18:45
    價格
    汽車之友(2016年6期)2016-04-18 18:29:21
    做一名聰明的集團(tuán)醫(yī)院經(jīng)營者
    價格
    汽車之友(2014年8期)2014-04-16 17:47:39
    成人亚洲精品av一区二区| 欧美另类亚洲清纯唯美| 欧美日韩福利视频一区二区| 亚洲性夜色夜夜综合| 亚洲激情在线av| 国产一区二区在线av高清观看| 99riav亚洲国产免费| 内地一区二区视频在线| 小蜜桃在线观看免费完整版高清| 国产精品野战在线观看| 嫩草影视91久久| 久久精品国产亚洲av涩爱 | 国产精华一区二区三区| 久久久久九九精品影院| 午夜激情欧美在线| 啪啪无遮挡十八禁网站| 一个人免费在线观看的高清视频| 午夜a级毛片| 观看美女的网站| 很黄的视频免费| 少妇的逼水好多| 国产高潮美女av| 在线观看一区二区三区| 午夜福利在线观看吧| 人妻久久中文字幕网| 特级一级黄色大片| 色噜噜av男人的天堂激情| 日本免费a在线| 国产精品美女特级片免费视频播放器| 怎么达到女性高潮| 老熟妇仑乱视频hdxx| 哪里可以看免费的av片| 久99久视频精品免费| 免费观看精品视频网站| 高清在线国产一区| 欧美绝顶高潮抽搐喷水| 国产不卡一卡二| 一夜夜www| 性欧美人与动物交配| 久久久久免费精品人妻一区二区| 中文字幕人成人乱码亚洲影| 一区二区三区免费毛片| 久久久久久国产a免费观看| 国产精品精品国产色婷婷| 亚洲精品粉嫩美女一区| 国产中年淑女户外野战色| 免费看十八禁软件| 久久午夜亚洲精品久久| 午夜久久久久精精品| 老熟妇乱子伦视频在线观看| 日韩欧美一区二区三区在线观看| 欧美乱妇无乱码| 夜夜躁狠狠躁天天躁| 欧美日韩黄片免| 99热只有精品国产| 日本a在线网址| 91久久精品国产一区二区成人 | 两个人视频免费观看高清| 在线免费观看不下载黄p国产 | 色尼玛亚洲综合影院| 手机成人av网站| 男女下面进入的视频免费午夜| а√天堂www在线а√下载| 三级毛片av免费| 亚洲avbb在线观看| 国产综合懂色| 亚洲国产中文字幕在线视频| 成人精品一区二区免费| 国产探花极品一区二区| www.色视频.com| 午夜老司机福利剧场| 国产av一区在线观看免费| 黄色日韩在线| 国产精品一区二区三区四区久久| 在线看三级毛片| 亚洲av中文字字幕乱码综合| 国产乱人伦免费视频| 午夜福利在线观看免费完整高清在 | 麻豆成人午夜福利视频| 亚洲国产欧美网| 日韩欧美国产一区二区入口| 亚洲狠狠婷婷综合久久图片| 一卡2卡三卡四卡精品乱码亚洲| 国产精品一区二区三区四区免费观看 | 18禁裸乳无遮挡免费网站照片| 高清毛片免费观看视频网站| 午夜福利在线观看吧| 一本久久中文字幕| 色综合婷婷激情| 国产男靠女视频免费网站| 欧美性猛交╳xxx乱大交人| 午夜福利在线观看吧| 免费在线观看亚洲国产| 香蕉久久夜色| 国产一区在线观看成人免费| 久久精品91无色码中文字幕| 国产精品电影一区二区三区| 日韩成人在线观看一区二区三区| 亚洲av熟女| 欧洲精品卡2卡3卡4卡5卡区| 国产99白浆流出| 天堂√8在线中文| 十八禁人妻一区二区| 亚洲欧美日韩高清专用| 午夜激情福利司机影院| 午夜福利成人在线免费观看| 精品福利观看| 亚洲av成人av| 首页视频小说图片口味搜索| av福利片在线观看| 97超视频在线观看视频| 99热6这里只有精品| 亚洲无线观看免费| 国产91精品成人一区二区三区| 亚洲成av人片免费观看| 欧美乱码精品一区二区三区| 他把我摸到了高潮在线观看| 国产麻豆成人av免费视频| 国产亚洲精品综合一区在线观看| 亚洲精品成人久久久久久| 天天躁日日操中文字幕| av专区在线播放| 久久久久亚洲av毛片大全| 亚洲av一区综合| 老司机福利观看| 精品不卡国产一区二区三区| 露出奶头的视频| 欧美中文日本在线观看视频| 亚洲 欧美 日韩 在线 免费| 黄色视频,在线免费观看| 少妇的丰满在线观看| 国产毛片a区久久久久| 午夜福利欧美成人| 成人av在线播放网站| 亚洲国产欧美网| 波多野结衣高清无吗| 国产国拍精品亚洲av在线观看 | 一区二区三区免费毛片| 中文字幕高清在线视频| 五月伊人婷婷丁香| 99在线视频只有这里精品首页| 看片在线看免费视频| 日韩欧美精品v在线| 亚洲国产精品成人综合色| 成熟少妇高潮喷水视频| netflix在线观看网站| a级一级毛片免费在线观看| 亚洲中文字幕一区二区三区有码在线看| 国产三级黄色录像| 性欧美人与动物交配| 久久国产精品影院| 最近视频中文字幕2019在线8| 色综合欧美亚洲国产小说| 一进一出抽搐gif免费好疼| 精品久久久久久久毛片微露脸| 少妇的丰满在线观看| 一级黄色大片毛片| or卡值多少钱| 在线播放国产精品三级| 国内少妇人妻偷人精品xxx网站| 国产精品精品国产色婷婷| 欧美中文综合在线视频| 1000部很黄的大片| 99国产精品一区二区蜜桃av| 窝窝影院91人妻| 亚洲成人精品中文字幕电影| 国产欧美日韩一区二区精品| 韩国av一区二区三区四区| 在线观看一区二区三区| x7x7x7水蜜桃| 99久久九九国产精品国产免费| 亚洲av美国av| 亚洲第一欧美日韩一区二区三区| 国产老妇女一区| 色综合站精品国产| 尤物成人国产欧美一区二区三区| 久久久久亚洲av毛片大全| 色播亚洲综合网| 欧美最黄视频在线播放免费| av欧美777| 1024手机看黄色片| 国产乱人伦免费视频| 亚洲内射少妇av| 又爽又黄无遮挡网站| 在线天堂最新版资源| 色综合站精品国产| 国产 一区 欧美 日韩| 久久精品人妻少妇| 最后的刺客免费高清国语| 午夜视频国产福利| 午夜影院日韩av| 国产精品爽爽va在线观看网站| 久久天躁狠狠躁夜夜2o2o| 欧美日韩福利视频一区二区| 日韩欧美在线乱码| 国产免费av片在线观看野外av| 午夜精品久久久久久毛片777| 欧美+日韩+精品| 国产91精品成人一区二区三区| 欧美色欧美亚洲另类二区| 日本成人三级电影网站| а√天堂www在线а√下载| 亚洲在线自拍视频| 草草在线视频免费看| 国产美女午夜福利| 亚洲人成网站在线播放欧美日韩| а√天堂www在线а√下载| 国产成人av激情在线播放| 久久人人精品亚洲av| 免费观看的影片在线观看| 欧美日本视频| 少妇的逼好多水| 特大巨黑吊av在线直播| 亚洲专区中文字幕在线| 嫁个100分男人电影在线观看| 91在线观看av| 国产av不卡久久| 中出人妻视频一区二区| 91字幕亚洲| 免费搜索国产男女视频| 91九色精品人成在线观看| 久久久久久久久大av| 免费在线观看成人毛片| 免费在线观看影片大全网站| 欧美成人一区二区免费高清观看| 一个人看视频在线观看www免费 | 久久久久久久久中文| 草草在线视频免费看| 国内精品久久久久久久电影| 老司机在亚洲福利影院| 日韩欧美免费精品| 欧美一级a爱片免费观看看| 亚洲成人中文字幕在线播放| 在线看三级毛片| 日韩中文字幕欧美一区二区| 久久亚洲真实| 亚洲一区二区三区不卡视频| 国产一区二区在线av高清观看| 亚洲国产精品久久男人天堂| 国产成人系列免费观看| 欧美色欧美亚洲另类二区| 动漫黄色视频在线观看| 一区二区三区免费毛片| 手机成人av网站| 露出奶头的视频| 男女那种视频在线观看| 黄色女人牲交| 免费在线观看亚洲国产| 亚洲专区中文字幕在线| 欧美色视频一区免费| 成年版毛片免费区| 日本免费a在线| 99精品在免费线老司机午夜| 美女高潮喷水抽搐中文字幕| 国产久久久一区二区三区| 人人妻,人人澡人人爽秒播| 18禁裸乳无遮挡免费网站照片| 久久精品国产亚洲av涩爱 | 少妇人妻精品综合一区二区 | 欧美日本亚洲视频在线播放| 亚洲人成电影免费在线| 老汉色∧v一级毛片| 丝袜美腿在线中文| 国产精品99久久久久久久久| 淫秽高清视频在线观看| 夜夜躁狠狠躁天天躁| 日本 av在线| 亚洲成a人片在线一区二区| 日本黄色视频三级网站网址| 亚洲精品影视一区二区三区av| 韩国av一区二区三区四区| 国产精品一区二区三区四区久久| 久久人妻av系列| 最新中文字幕久久久久| 亚洲av不卡在线观看| 久久精品人妻少妇| 熟女人妻精品中文字幕| 色哟哟哟哟哟哟| 99久久无色码亚洲精品果冻| 两性午夜刺激爽爽歪歪视频在线观看| 国产一区二区激情短视频| 国产精品永久免费网站| avwww免费| 亚洲成a人片在线一区二区| 亚洲成人久久性| 久久天躁狠狠躁夜夜2o2o| 99国产精品一区二区三区| 午夜福利免费观看在线| 成人一区二区视频在线观看| 老汉色av国产亚洲站长工具| 国产av一区在线观看免费| 一级a爱片免费观看的视频| 女警被强在线播放| 不卡一级毛片| 真人一进一出gif抽搐免费| h日本视频在线播放| 搡老妇女老女人老熟妇| 搞女人的毛片| 色综合站精品国产| 波多野结衣巨乳人妻| 亚洲av免费在线观看| 成人18禁在线播放| 99久久精品热视频| 国内久久婷婷六月综合欲色啪| 亚洲精品日韩av片在线观看 | 欧美日韩黄片免| 中国美女看黄片| 亚洲中文日韩欧美视频| 啦啦啦免费观看视频1| 日日干狠狠操夜夜爽| 久久草成人影院| 无限看片的www在线观看| 国产成人影院久久av| 日韩欧美在线二视频| 国产精品亚洲一级av第二区| 亚洲熟妇熟女久久| 夜夜躁狠狠躁天天躁| 他把我摸到了高潮在线观看| 国产高清videossex| 日韩 欧美 亚洲 中文字幕| 亚洲成a人片在线一区二区| 在线观看av片永久免费下载| bbb黄色大片| 日本黄大片高清| 高清毛片免费观看视频网站| 亚洲专区国产一区二区| 国模一区二区三区四区视频| 亚洲专区国产一区二区| 日韩欧美精品免费久久 | 热99在线观看视频| 国产精品 欧美亚洲| 国产真人三级小视频在线观看| 美女高潮的动态| 波多野结衣高清无吗| 亚洲成人久久爱视频| 我的老师免费观看完整版| 十八禁人妻一区二区| 国产乱人伦免费视频| 两个人视频免费观看高清| 特级一级黄色大片| 91在线精品国自产拍蜜月 | 午夜免费激情av| 婷婷精品国产亚洲av| 狠狠狠狠99中文字幕| netflix在线观看网站| 亚洲无线在线观看| 亚洲午夜理论影院| 乱人视频在线观看| netflix在线观看网站| 午夜福利免费观看在线| 午夜日韩欧美国产| 舔av片在线| 18+在线观看网站| 久久香蕉国产精品| 真人做人爱边吃奶动态| 欧美性猛交黑人性爽| 99久久精品一区二区三区| 十八禁网站免费在线| 九色国产91popny在线| 色综合亚洲欧美另类图片| 日本三级黄在线观看| 国内揄拍国产精品人妻在线| 欧洲精品卡2卡3卡4卡5卡区| 久久亚洲精品不卡| 亚洲av电影不卡..在线观看| 99久久精品热视频| 国产 一区 欧美 日韩| 免费电影在线观看免费观看| 久久久久久久亚洲中文字幕 | 久久九九热精品免费| 在线天堂最新版资源| 十八禁人妻一区二区| 老司机在亚洲福利影院| 99riav亚洲国产免费| 在线天堂最新版资源| 男插女下体视频免费在线播放| 精品不卡国产一区二区三区| 欧美乱妇无乱码| 色哟哟哟哟哟哟| 最近在线观看免费完整版| 国产极品精品免费视频能看的| 黄片大片在线免费观看| 身体一侧抽搐| 亚洲人成电影免费在线| 日本五十路高清| 最新在线观看一区二区三区| 国产不卡一卡二| 亚洲国产精品久久男人天堂| 久久久久久久久久黄片| 免费观看精品视频网站| 露出奶头的视频| 亚洲无线观看免费| 亚洲av熟女| 国语自产精品视频在线第100页| 亚洲国产精品成人综合色| 网址你懂的国产日韩在线| 夜夜爽天天搞| 九九在线视频观看精品| 亚洲欧美日韩高清专用| 亚洲av成人不卡在线观看播放网| 首页视频小说图片口味搜索| 亚洲片人在线观看| 国产综合懂色| 国产一区二区在线av高清观看| 少妇的逼水好多| 黄色视频,在线免费观看| 内射极品少妇av片p| 51午夜福利影视在线观看| 激情在线观看视频在线高清| 免费看十八禁软件| 99久久久亚洲精品蜜臀av| 欧美日韩福利视频一区二区| 最好的美女福利视频网| 亚洲人成网站在线播| 亚洲美女视频黄频| 九色国产91popny在线| 哪里可以看免费的av片| 中文资源天堂在线| 岛国在线免费视频观看| 中文亚洲av片在线观看爽| 午夜精品在线福利| 人人妻,人人澡人人爽秒播| 首页视频小说图片口味搜索| 久久这里只有精品中国| 真实男女啪啪啪动态图| 亚洲国产欧洲综合997久久,| 午夜日韩欧美国产| 欧美激情在线99| 小说图片视频综合网站| 在线观看日韩欧美| 亚洲精品一区av在线观看| 国产v大片淫在线免费观看| 男人舔女人下体高潮全视频| 两个人看的免费小视频| 亚洲av日韩精品久久久久久密| 香蕉久久夜色| 日本 欧美在线| 国产99白浆流出| 51国产日韩欧美| 久久国产乱子伦精品免费另类| 亚洲人成网站在线播| 色吧在线观看| 真人做人爱边吃奶动态| 亚洲七黄色美女视频| av福利片在线观看| 午夜精品久久久久久毛片777| av天堂在线播放| 中出人妻视频一区二区| 免费电影在线观看免费观看| 看片在线看免费视频| 少妇裸体淫交视频免费看高清| 手机成人av网站| 禁无遮挡网站| 此物有八面人人有两片| 熟女少妇亚洲综合色aaa.| 高清日韩中文字幕在线| 波多野结衣巨乳人妻| 精品免费久久久久久久清纯| 中文亚洲av片在线观看爽| 欧美日韩福利视频一区二区| 一级a爱片免费观看的视频| 国产在视频线在精品| 亚洲av成人av| 欧美+日韩+精品| 最近最新免费中文字幕在线| 不卡一级毛片| 最新在线观看一区二区三区| 色综合亚洲欧美另类图片| 精品国内亚洲2022精品成人| 日本免费a在线| 在线a可以看的网站| 亚洲国产色片| 91av网一区二区| 中文在线观看免费www的网站| 久久精品影院6| 欧美日韩国产亚洲二区| 最后的刺客免费高清国语| 午夜福利高清视频| 欧美一级毛片孕妇| 亚洲精品久久国产高清桃花| 国产午夜福利久久久久久| 国内精品久久久久久久电影| 国产精品av视频在线免费观看| 天堂网av新在线| 欧美性感艳星| 黄色日韩在线| 可以在线观看的亚洲视频| 搡老岳熟女国产| 国产在视频线在精品| 欧美日韩中文字幕国产精品一区二区三区| 免费看光身美女| 禁无遮挡网站| 午夜福利18| 一本精品99久久精品77| 19禁男女啪啪无遮挡网站| 国产探花极品一区二区| 青草久久国产| 无遮挡黄片免费观看| 亚洲国产精品久久男人天堂| 久久香蕉国产精品| 激情在线观看视频在线高清| 午夜精品久久久久久毛片777| 亚洲国产精品999在线| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 极品教师在线免费播放| 精品不卡国产一区二区三区| 国内精品久久久久久久电影| 色综合亚洲欧美另类图片| 成人精品一区二区免费| 欧美成人a在线观看| 国产高清视频在线播放一区| 欧美成人免费av一区二区三区| 男女床上黄色一级片免费看| 精品不卡国产一区二区三区| 久久久久性生活片| 香蕉av资源在线| 亚洲国产欧美网| 午夜福利在线观看吧| 嫩草影视91久久| 日本在线视频免费播放| 国产精品日韩av在线免费观看| 亚洲最大成人中文| 久久久国产成人免费| 亚洲国产精品sss在线观看| 国产又黄又爽又无遮挡在线| 亚洲av电影在线进入| h日本视频在线播放| 日韩有码中文字幕| 男女下面进入的视频免费午夜| 欧美最黄视频在线播放免费| 亚洲aⅴ乱码一区二区在线播放| 亚洲成人久久性| 人妻久久中文字幕网| 变态另类丝袜制服| 亚洲av五月六月丁香网| 黄色片一级片一级黄色片| 男人舔女人下体高潮全视频| 国产伦精品一区二区三区四那| 91久久精品国产一区二区成人 | 黄片大片在线免费观看| 日韩欧美精品v在线| 精品久久久久久久久久免费视频| 一个人免费在线观看电影| 成年女人看的毛片在线观看| 欧美中文日本在线观看视频| 免费高清视频大片| 伊人久久精品亚洲午夜| 亚洲国产色片| 国产高清激情床上av| 99久久精品一区二区三区| 欧美黑人巨大hd| 此物有八面人人有两片| 一本精品99久久精品77| 少妇裸体淫交视频免费看高清| 欧美日韩黄片免| 特大巨黑吊av在线直播| 女生性感内裤真人,穿戴方法视频| 免费无遮挡裸体视频| 熟女人妻精品中文字幕| 九九久久精品国产亚洲av麻豆| 人人妻人人看人人澡| 中亚洲国语对白在线视频| 欧美+亚洲+日韩+国产| 国产高清videossex| 噜噜噜噜噜久久久久久91| 国产午夜精品论理片| 日韩av在线大香蕉| 中文字幕av在线有码专区| 精品久久久久久,| 国产精品久久久久久久久免 | 好男人电影高清在线观看| 中出人妻视频一区二区| 久久99热这里只有精品18| 日日夜夜操网爽| 成人午夜高清在线视频| 亚洲精品在线美女| 日韩欧美三级三区| 人妻久久中文字幕网| 国产精品久久久人人做人人爽| 成人欧美大片| 51午夜福利影视在线观看| 精品一区二区三区视频在线观看免费| 99久久精品国产亚洲精品| 少妇丰满av| 欧美大码av| 久久久久久国产a免费观看| 国产免费男女视频| 桃红色精品国产亚洲av| 91字幕亚洲| 成人亚洲精品av一区二区| 亚洲国产欧洲综合997久久,| 91在线观看av| 久久久久国内视频| 亚洲专区中文字幕在线| 欧美色欧美亚洲另类二区| 精品国产三级普通话版| 两个人看的免费小视频| 听说在线观看完整版免费高清| 亚洲专区国产一区二区| 在线观看免费午夜福利视频| 国产不卡一卡二| 真实男女啪啪啪动态图| 久久久精品欧美日韩精品| 欧美日韩精品网址| 日韩有码中文字幕| 男女下面进入的视频免费午夜| 免费观看精品视频网站| 久久久精品欧美日韩精品| 国产黄片美女视频| 在线观看免费午夜福利视频| 国产一区二区在线观看日韩 | 黄色成人免费大全| 在线观看日韩欧美| 久久精品夜夜夜夜夜久久蜜豆| 丁香六月欧美|