• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    平臺經(jīng)濟(jì)領(lǐng)域自治算法濫用與反壟斷規(guī)制*

    2021-12-31 13:06:36程增雯
    南方金融 2021年10期
    關(guān)鍵詞:反壟斷規(guī)制算法

    程增雯

    (對外經(jīng)濟(jì)貿(mào)易大學(xué),北京 100029)

    一、引言

    在世界范圍內(nèi),加強(qiáng)平臺經(jīng)濟(jì)領(lǐng)域反壟斷和反不正當(dāng)競爭已經(jīng)達(dá)成共識。2019年,德國聯(lián)邦反壟斷局(聯(lián)邦卡特爾局)指出,F(xiàn)acebook在社交市場中具有很強(qiáng)的市場支配地位,應(yīng)當(dāng)適用《反限制競爭法》第19條的剝削性濫用條款予以規(guī)制(H?ppner,2019)。2020年12月,歐盟委員會執(zhí)行副主席韋斯塔格宣布,亞馬遜憑借平臺優(yōu)勢訪問其他商家的非公開敏感數(shù)據(jù)并服務(wù)于自身業(yè)務(wù),構(gòu)成不公平競爭①資料來源:Investigation of competition in digital markets[EB/OL].美國眾議院網(wǎng)站, https://judiciary.house.gov。。2020年10月,美國眾議院發(fā)布針對谷歌、蘋果、亞馬遜和Facebook的反壟斷調(diào)查報告,認(rèn)定四大科技巨頭濫用市場支配地位。與此同時,我國相關(guān)部門也開始行動。2019年8月,國務(wù)院印發(fā)《關(guān)于促進(jìn)平臺經(jīng)濟(jì)規(guī)范健康發(fā)展的指導(dǎo)意見》,對互聯(lián)網(wǎng)領(lǐng)域的濫用市場支配地位行為進(jìn)行限制。2020年1月,國家市場監(jiān)督管理總局發(fā)布《〈反壟斷法〉修訂草案(公開征求意見稿)》,其中第21條第2款將平臺和數(shù)據(jù)等因素納入分析框架。2021年2月,國務(wù)院反壟斷委員會印發(fā)《關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》(以下簡稱《反壟斷指南》),其中反復(fù)提到平臺利用技術(shù)手段和算法實施壟斷的行為。2021年,國家市場監(jiān)督管理總局相繼對國內(nèi)電子商務(wù)平臺領(lǐng)域巨頭進(jìn)行反壟斷審查。

    當(dāng)前算法被廣泛運用于社會治理之中,必須積極應(yīng)對算法崛起對法律帶來的挑戰(zhàn)(丁曉東,2020)。相較于其他算法,平臺自治算法的應(yīng)用目的具有特殊性。一旦被平臺濫用,便會和雙邊市場的網(wǎng)絡(luò)效應(yīng)、鎖定效應(yīng)疊加,引發(fā)復(fù)雜、隱蔽、多樣的反競爭效果。對自治算法濫用進(jìn)行反壟斷規(guī)制,具有必要性和現(xiàn)實意義,契合當(dāng)下加強(qiáng)平臺經(jīng)濟(jì)領(lǐng)域反壟斷監(jiān)管的政策要求,適應(yīng)平臺經(jīng)濟(jì)領(lǐng)域的數(shù)字特征。

    二、平臺經(jīng)濟(jì)領(lǐng)域的自治算法與算法濫用

    (一)自治算法的正當(dāng)性

    如果運用得當(dāng),以數(shù)據(jù)和算法為代表的人工智能不僅能比人類決策做出更準(zhǔn)確的預(yù)測,而且能提供更高的透明度和公平性。平臺經(jīng)濟(jì)作為數(shù)字驅(qū)動經(jīng)濟(jì)模式,在商業(yè)應(yīng)用、內(nèi)部治理和業(yè)態(tài)創(chuàng)新中大量應(yīng)用算法。自治算法是電子商務(wù)平臺(以下簡稱平臺)利用大數(shù)據(jù)設(shè)定算法模型,識別用戶違法違規(guī)行為、引導(dǎo)激勵用戶遵循內(nèi)部規(guī)則的數(shù)據(jù)處理過程。平臺作為雙邊或者多邊市場的組織者、管理者,既服務(wù)市場也治理或規(guī)制市場。自治算法通過快速收集用戶大數(shù)據(jù)、進(jìn)行數(shù)據(jù)處理,可高效識別、懲處違法違規(guī)行為,引導(dǎo)激勵合規(guī)行為,以此促進(jìn)平臺行為規(guī)范的落實(Just,2017)。

    1.自治算法的權(quán)利來源

    平臺作為雙邊市場的管理者,更像是公共部門與私營部門的混合體。在雙邊市場中管理和被管理的二分框架被消解,平臺參與社會治理具有正當(dāng)性(莫旻丹,2019)。在電子商務(wù)領(lǐng)域,平臺自治權(quán)來源于網(wǎng)絡(luò)服務(wù)合同,兼具強(qiáng)制性和事實上的支配力(劉權(quán),2020),具有雙重屬性。一方面,平臺自治權(quán)是一種管理權(quán)利。自締約開始,平臺通過與用戶達(dá)成協(xié)議取得授權(quán),用戶享受平臺網(wǎng)絡(luò)服務(wù),同時讓渡部分自由,接受平臺排查管理。另一方面,法律明確規(guī)定平臺有權(quán)制定規(guī)則并利用技術(shù)手段進(jìn)行自治②《電子商務(wù)法》第32條明確規(guī)定電子商務(wù)平臺經(jīng)營者制定平臺規(guī)則應(yīng)遵循公開、公平、公正的原則。2014年國家市場監(jiān)督管理總局制定的《網(wǎng)絡(luò)交易監(jiān)督管理辦法》第25條規(guī)定,平臺應(yīng)采取必要的技術(shù)手段和管理措施維護(hù)網(wǎng)絡(luò)交易秩序。,平臺自治權(quán)可以對用戶進(jìn)行管理。用戶一旦違反平臺規(guī)則,就會受到平臺“準(zhǔn)公權(quán)力”的處罰,如屏蔽鏈接、商品下架、關(guān)閉店鋪等。而這些自治權(quán)和處罰權(quán)的行使,大部分由自治算法在后臺完成。

    2.自治算法的平臺實踐

    自治算法廣泛應(yīng)用于平臺領(lǐng)域,有助于提升管理效率,符合平臺經(jīng)濟(jì)運行規(guī)律。算法自治是平臺的理性選擇,也是必然選擇。在平臺的實踐中,算法以服務(wù)協(xié)議與平臺規(guī)則的形式得到授權(quán),廣泛運用于平臺自治。根據(jù)平臺規(guī)則,平臺的自治算法分為兩類:一是通過大數(shù)據(jù)排查對用戶不合規(guī)行為進(jìn)行監(jiān)控、審查和自動化決策,對違法違規(guī)進(jìn)行處罰;二是運用引導(dǎo)激勵算法對用戶進(jìn)行評價、分級,激勵用戶進(jìn)行合規(guī)經(jīng)營。

    以淘寶平臺規(guī)則為例,《淘寶平臺服務(wù)協(xié)議》(2019年5月版本)中規(guī)定,淘寶依據(jù)用戶數(shù)據(jù)與海量用戶數(shù)據(jù)的關(guān)系來判斷用戶是否構(gòu)成違約。《淘寶規(guī)則》中還對濫用會員權(quán)利、假貨等算法模型進(jìn)行規(guī)定。國家知識產(chǎn)權(quán)局發(fā)布的《中國電子商務(wù)知識產(chǎn)權(quán)發(fā)展研究報告(2019)》,將“技術(shù)賦能+多元共治”的假貨治理阿里模式作為中國經(jīng)驗在全社會推廣。該報告指出,阿里“知產(chǎn)保護(hù)科技大腦”的數(shù)據(jù)應(yīng)用已覆蓋阿里平臺經(jīng)濟(jì)運行的各個商業(yè)環(huán)節(jié),擁有百余個算法模型,進(jìn)行數(shù)據(jù)分析預(yù)測,預(yù)警用戶異常行為。除了對違規(guī)違法行為進(jìn)行處罰的排查類算法之外,各電商平臺還使用了大量的正向激勵性算法,引導(dǎo)規(guī)范用戶行為,如淘寶店鋪的信用評分算法、“京東開放平臺風(fēng)向標(biāo)”規(guī)則等?!熬〇|開放平臺風(fēng)向標(biāo)”明確釋明了“京東好店”的算法模型,以激勵店鋪規(guī)范營銷、交易行為,提升店鋪綜合服務(wù)能力。

    3.自治算法的競爭效果

    競爭有助于提升分配效率,督促生產(chǎn)者和經(jīng)營者提供消費者愿意購買的產(chǎn)品或服務(wù);有助于提高生產(chǎn)效率,促使經(jīng)營主體減少成本,激勵創(chuàng)新,從而促進(jìn)消費者福利最大化、社會財富最大化(Gellhorn等,2009)。自治算法的競爭效果,一方面,體現(xiàn)在自治算法以創(chuàng)新促競爭。自治算法進(jìn)行自動化決策,有效創(chuàng)新平臺內(nèi)部管理模式。面對平臺海量用戶和交易,自治算法能夠精準(zhǔn)地對不合規(guī)行為進(jìn)行監(jiān)控、處罰,規(guī)范用戶的經(jīng)營行為和交易行為,助力平臺有序、高效運行。與此同時,平臺設(shè)立信用評價機(jī)制,以銷售者的服務(wù)態(tài)度、物流速度和商品描述相符程度等為評價指標(biāo),對店鋪進(jìn)行分級。由平臺進(jìn)行信用背書,彌補(bǔ)電子商務(wù)虛擬性和跨地域性帶來的信用問題,有效規(guī)范銷售者經(jīng)營、保障消費者權(quán)益。很多自治算法具有分析預(yù)測功能,可利用過去的數(shù)據(jù)預(yù)測未來的可能(丁宇翔,2019)。如利用大數(shù)據(jù)分析消費者偏好,進(jìn)行個性化推薦,降低消費者的搜尋成本;或者利用排查算法進(jìn)行風(fēng)險預(yù)測,預(yù)警用戶的異常交易、經(jīng)營行為。

    另一方面,自治算法助力平臺擴(kuò)張市場力量。算法高度滲透于平臺經(jīng)濟(jì)的運行,全方位支撐平臺經(jīng)濟(jì)的發(fā)展,成為平臺核心競爭力。根據(jù)算法本身不同的設(shè)立目的和內(nèi)部代碼設(shè)計,算法服務(wù)于商業(yè)運營、廣告投放、精準(zhǔn)營銷以及內(nèi)部管理,成為推動平臺經(jīng)濟(jì)發(fā)展的重要技術(shù)力量。芝加哥大學(xué)全球市場研究(IGM)論壇針對科技巨頭的反壟斷監(jiān)管進(jìn)行討論,參會的絕大多數(shù)知名經(jīng)濟(jì)學(xué)家均持有一種觀點,即網(wǎng)絡(luò)效應(yīng)和高質(zhì)量算法助力谷歌等科技巨頭問鼎平臺市場③資料來源:IGM Forum. Antitrust in the Digital Economy[EB/OL], https://www.igmchicago.org。。從某種意義上說,平臺之間的商業(yè)競爭是由技術(shù)實力來支撐的(孫益武,2021),而算法所體現(xiàn)的數(shù)據(jù)處理能力成為平臺最為重要的技術(shù)能力。

    近年來,平臺經(jīng)濟(jì)迅猛發(fā)展、超級平臺不斷形成。根據(jù)美國眾議院反壟斷調(diào)查報告《數(shù)字市場競爭的調(diào)查》,美國在線購物平臺亞馬遜擁有230萬活躍的第三方銷售商,其中約37%的經(jīng)銷商依賴亞馬遜作為他們的銷售渠道,沒有其他替代渠道。淘寶平臺2019年就擁有超過1千萬店家和6.5億用戶,依托巨大的市場力量,平臺生態(tài)系統(tǒng)生成。面對龐大的平臺生態(tài)系統(tǒng),自治算法成為平臺運行不可或缺的技術(shù)支撐,既支撐平臺運轉(zhuǎn),又推動平臺市場力量擴(kuò)張。

    (二)算法濫用的反競爭性

    競爭與壟斷的界限并不像法律文本所規(guī)定的那般清晰,有時可能會相互轉(zhuǎn)化(金善明,2018)。與傳統(tǒng)經(jīng)濟(jì)相比,平臺經(jīng)濟(jì)領(lǐng)域的數(shù)字特征導(dǎo)致這個領(lǐng)域存在明顯壟斷趨勢(王曉曄,2021)。自治算法作為技術(shù)手段,本身不會產(chǎn)生法律上的價值判斷,但這并不表明引入算法對競爭的影響始終是中性的(周圍,2020)。自治算法一旦被濫用,原本中立性的技術(shù)手段,就會成為平臺侵害競爭秩序和消費者權(quán)利的工具。需要明確的是,只要市場上有競爭,就會出現(xiàn)限制競爭問題,就得運用反壟斷法保護(hù)和推動市場競爭(王曉曄,2021),平臺經(jīng)濟(jì)領(lǐng)域亦如是。自治算法濫用已經(jīng)成為探討平臺壟斷不可回避的話題?;ヂ?lián)網(wǎng)經(jīng)濟(jì)的虛擬性,使得平臺行為必須以數(shù)字技術(shù)為支撐。平臺濫用自治算法(以下簡稱算法濫用)行為,是平臺壟斷的重要表現(xiàn)形式。所以,對算法濫用進(jìn)行反壟斷規(guī)制,不是否定自治算法的競爭效果和創(chuàng)新效應(yīng),而是直面平臺壟斷的結(jié)構(gòu)特征和數(shù)字特征,厘清算法濫用對平臺壟斷起到的作用,有效規(guī)制算法濫用排除、限制競爭的壟斷行為。

    1.算法濫用排除、限制競爭

    平臺作為經(jīng)營主體并不完全中立,為追逐自身商業(yè)利益最大化,濫用自治算法進(jìn)行不正當(dāng)競爭的情形并不鮮見。例如,平臺濫用自治算法對銷售商進(jìn)行嚴(yán)厲控制、打壓甚至剝削;利用優(yōu)勢地位,對商家進(jìn)行不合理處罰,實現(xiàn)銷售渠道和流量控制。算法濫用成為平臺實現(xiàn)縱向控制和剝奪性濫用的技術(shù)手段,平臺的市場控制在與銷售商以及許多供應(yīng)商的關(guān)系中達(dá)到了頂峰。國家市場監(jiān)督管理總局在《行政處罰決定書(國市監(jiān)處〔2021〕28號)》(以下簡稱28號處罰決定書)中披露:平臺通過技術(shù)手段監(jiān)控等方式,監(jiān)測經(jīng)營者在其他競爭性平臺的經(jīng)營情況;利用自治算法對不符合“二選一”要求的經(jīng)營者實施處罰,取消活動資格、搜索降權(quán)、控制流量和銷售機(jī)會。在外賣平臺,除了“二選一”爭議外,“高傭金”的正當(dāng)性也一直備受關(guān)注。2020年4月,廣東省餐飲服務(wù)行業(yè)協(xié)會官微發(fā)文,要求某大型外賣平臺立即取消獨家合作限制等其他壟斷條款,控訴平臺在疫情期間的高傭金④資料來源:美團(tuán)高傭金引“眾怒”各地餐飲協(xié)會輪番打擂臺[EB/OL].新浪網(wǎng), 2020-04-12。。還有消息稱,該外賣平臺濫用自治算法對傭金進(jìn)行核算,壓縮送餐時間、危及騎手安全,“被困在算法的騎手”成為網(wǎng)絡(luò)熱議話題⑤資料來源:外賣騎手困在算法,美團(tuán)困在了利益中[EB/OL].大力財經(jīng),2020-09-12。。

    2.算法濫用侵害消費者權(quán)益

    自治算法通常在后臺運行,具有隱蔽性。用戶會更專注于平臺的功能性運用,很少感知其存在(Rader等,2018)。這給平臺濫用自治算法侵害用戶權(quán)益可趁之機(jī)。在當(dāng)前平臺經(jīng)濟(jì)領(lǐng)域,平臺自治權(quán)呈現(xiàn)不斷擴(kuò)張的趨勢,平臺也不斷加強(qiáng)內(nèi)部管理、控制。一是過度收集消費者數(shù)據(jù)信息、侵犯消費者隱私權(quán)。2018年11月,中國消費者協(xié)會發(fā)布針對常用App的測評報告,報告指出測評的10類App普遍存在涉嫌過度收集個人信息、侵犯個人隱私權(quán)的情形⑥資料來源:100款A(yù)pp個人信息收集與隱私政策測評報告[EB/OL].中國消費者協(xié)會官網(wǎng),2018-11-18。。二是通過收集消費者數(shù)據(jù)信息,利用算法進(jìn)行差別定價,進(jìn)行“大數(shù)據(jù)殺熟”,這種差別定價行為屬于《反壟斷法》規(guī)定的價格歧視行為(朱程程,2020)。三是平臺濫用算法,制定價格策略或進(jìn)行隱蔽的算法共謀,產(chǎn)生價格協(xié)同行為,侵害消費者利益。

    三、算法濫用引發(fā)的平臺壟斷風(fēng)險

    在互聯(lián)網(wǎng)時代,掌握了數(shù)據(jù),就意味著掌握了資本和財富;掌握了算法,就意味著掌握了話語權(quán)和規(guī)制權(quán)(馬長山,2018)。根據(jù)經(jīng)濟(jì)與合作組織(OECD)預(yù)測,數(shù)據(jù)驅(qū)動型市場會導(dǎo)致“贏者通吃”的結(jié)果(殷繼國,2019)。自治算法作為平臺自治的技術(shù)手段,體現(xiàn)平臺與用戶之間的縱向關(guān)系。無論是作為網(wǎng)絡(luò)服務(wù)合同的權(quán)利義務(wù)內(nèi)容,還是平臺自上而下的支配和控制,自治算法濫用會導(dǎo)致平臺對消費者和銷售者的權(quán)利侵害。濫用自治算法帶來的數(shù)據(jù)壟斷和算法權(quán)力異化,還會擴(kuò)大破壞競爭效果,加劇壟斷風(fēng)險出現(xiàn)。

    (一)算法權(quán)力濫用

    算法從物質(zhì)世界的運行中總結(jié)規(guī)律,將規(guī)律模型化、模型算法化、算法代碼化、代碼軟件化,軟件不斷優(yōu)化物質(zhì)世界運行⑦王俊.阿里巴巴副總裁俞思瑛:算法創(chuàng)新已成為全球創(chuàng)新的高地[N].新京報,2019-10-20。。伴隨著科技發(fā)展,基礎(chǔ)數(shù)據(jù)規(guī)模持續(xù)擴(kuò)大、機(jī)器學(xué)習(xí)能力不斷提高,自治算法作為線上自動化執(zhí)行的手段日臻完善(戴昕和申欣旺,2016),“算法之治”形成,進(jìn)一步促進(jìn)了市場集中(陳兵,2020)。在算法黑箱與算法歧視的加持下加劇平臺“準(zhǔn)公權(quán)力”異化。算法權(quán)力異化主要有三方面原因:

    第一,算法黑箱客觀存在。排查算法內(nèi)部具有非線性、多層次結(jié)構(gòu)的復(fù)雜模型,如同神經(jīng)網(wǎng)絡(luò)具有外部可見層和內(nèi)部隱藏層(Bishop,2006),在數(shù)據(jù)輸入和輸出間形成一片灰色地帶(陳兵,2020),這就是“算法黑箱”。電商平臺的自治算法以及數(shù)據(jù)收集、模型設(shè)計和自動化決策過程,具有很強(qiáng)的專業(yè)性,很難為一般用戶所理解,算法權(quán)力監(jiān)督不足。以國內(nèi)某大型平臺為例,自治算法覆蓋濫用會員權(quán)利、虛假交易、違禁品買賣、虛假宣傳和售假侵權(quán)等多種違法違規(guī)行為。無論是哪種排查模型,其數(shù)據(jù)收集、模型設(shè)計和自動化決策過程都具有較高的專業(yè)性。

    第二,算法偏見不可避免。設(shè)計算法的工程師受到現(xiàn)存的社會、文化、經(jīng)濟(jì)和政治力量的影響,數(shù)據(jù)輸入和模型設(shè)計時會帶有主觀偏見(Just,2017)。更有甚者,設(shè)計者在模型設(shè)計之初將不中立的個人觀點輸入到程序代碼之中,產(chǎn)生算法操縱。2020年12月10日,歐盟委員會執(zhí)行副主席韋斯塔格(Vestager)宣布,歐盟委員會發(fā)現(xiàn)亞馬遜公司憑借平臺優(yōu)勢訪問其他賣家非公開的敏感數(shù)據(jù),運用算法工具對數(shù)據(jù)進(jìn)行處理為自身的業(yè)務(wù)決策服務(wù),構(gòu)成不公平競爭。由此可見,算法濫用會限制和破壞競爭,是平臺實施壟斷行為的重要手段。

    第三,自主學(xué)習(xí)能力加深數(shù)據(jù)鴻溝。算法擁有某種程度的自主權(quán),造成算法輸出結(jié)果難以預(yù)測和解釋(劉培和池忠軍,2016)。算法黑箱及自主學(xué)習(xí)能力,進(jìn)一步導(dǎo)致算法決策機(jī)理越來越難以為用戶所理解,平臺借由技術(shù)屏障達(dá)成了平臺內(nèi)部技術(shù)化統(tǒng)治(張凌寒,2019)。

    (二)數(shù)據(jù)資源壟斷

    目前,平臺作為數(shù)據(jù)驅(qū)動經(jīng)濟(jì)的頭部,通過向用戶捆綁、低價獲取甚至侵犯隱私權(quán)等手段實現(xiàn)數(shù)據(jù)資源的占有。沒有這些數(shù)據(jù),新興平臺幾乎沒有機(jī)會進(jìn)入相關(guān)領(lǐng)域,即使進(jìn)入也無力與超級平臺抗衡。平臺濫用自治算法對數(shù)據(jù)進(jìn)行壟斷的表現(xiàn)有:

    第一,通過算法濫用過度收集原始數(shù)據(jù)。在算法系統(tǒng)中算法只有與數(shù)據(jù)結(jié)合起來才能運行(劉培和池忠軍,2019),因此自治算法為實現(xiàn)對用戶行為有效監(jiān)控和識別,需要收集用戶數(shù)據(jù)和個人信息。國內(nèi)某大型平臺服務(wù)協(xié)議明確規(guī)定,平臺將收集海量用戶數(shù)據(jù),進(jìn)行大數(shù)據(jù)排查。一般情況下,平臺通過簽訂隱私聲明,獲取用戶授權(quán),再通過算法濫用過度收集用戶數(shù)據(jù)信息。

    第二,通過算法濫用進(jìn)行激進(jìn)的行為預(yù)測。通過精密系統(tǒng)的預(yù)測,比過去更具價值的未來極易被人掌握(Barabási,2012)。平臺應(yīng)用自治算法,對數(shù)據(jù)進(jìn)行分析產(chǎn)生預(yù)測型數(shù)據(jù),其預(yù)測和風(fēng)險識別功能具有重要價值。但在實踐中,算法濫用僅根據(jù)預(yù)測結(jié)果就對銷售者進(jìn)行實際處罰,無論違法違規(guī)行為是否作出,這依然強(qiáng)化了平臺實際控制能力。

    第三,數(shù)據(jù)交易進(jìn)一步擴(kuò)大數(shù)據(jù)優(yōu)勢。當(dāng)前,電子商務(wù)平臺利用數(shù)據(jù)規(guī)模優(yōu)勢和技術(shù)優(yōu)勢,開展數(shù)據(jù)交易大戰(zhàn),由電商平臺派生出的數(shù)據(jù)交易平臺,對平臺經(jīng)濟(jì)領(lǐng)域的競爭產(chǎn)生深刻影響。平臺通過算法濫用占有數(shù)據(jù)、利用數(shù)據(jù)甚至壟斷數(shù)據(jù)的現(xiàn)象逐漸顯現(xiàn),數(shù)據(jù)爭奪早已成為平臺競爭的新領(lǐng)域。順豐和菜鳥數(shù)據(jù)之爭、淘寶公司訴美景公司不正當(dāng)競爭案等,體現(xiàn)互聯(lián)網(wǎng)經(jīng)濟(jì)領(lǐng)域中數(shù)據(jù)資源的重要性,數(shù)據(jù)爭奪儼然成為了重要的競爭手段。雖然數(shù)據(jù)權(quán)屬在法律中名分未定,但是對數(shù)據(jù)資源的壟斷會危害競爭秩序,成為未來反壟斷法不可回避的重大議題。

    (三)平臺自治權(quán)異化

    用戶入駐平臺需要與平臺締結(jié)網(wǎng)絡(luò)服務(wù)合同,一旦行為違反平臺規(guī)則,用戶就要承擔(dān)違約責(zé)任,受到平臺的評價、處罰。平臺通過合同對用戶產(chǎn)生實際控制,隨著平臺市場力量擴(kuò)大,獲得市場支配地位,此種控制異化風(fēng)險隨之增加。而意思自治原則和合同嚴(yán)守原則,成為平臺加強(qiáng)控制的“免責(zé)金牌”。2018年愛夏公司訴天貓案中,原告愛夏公司因未獲繼續(xù)入駐天貓平臺資格,不服天貓2018年度各類目續(xù)簽考核標(biāo)準(zhǔn)一覽表并訴至法院。愛夏公司在上訴中對天貓平臺2018年新增續(xù)簽考核DSR動態(tài)評分系統(tǒng)提出質(zhì)疑,指出天貓平臺單方面制訂考核標(biāo)準(zhǔn),未經(jīng)相關(guān)部門審批或者邀請各界代表聽證,違反《反壟斷法》,濫用市場支配地位。法院認(rèn)為,天貓平臺并非唯一的網(wǎng)絡(luò)交易平臺,愛夏公司若認(rèn)為相關(guān)規(guī)則不合理,可自由選擇其他網(wǎng)絡(luò)交易平臺或者其他經(jīng)營方式經(jīng)營⑧上海市長寧區(qū)人民法院(2017)滬0105民初11642號民事判決書。。2019年的中國互聯(lián)網(wǎng)司法十大典型案例中,福州九農(nóng)貿(mào)易公司訴上海尋夢信息技術(shù)公司一案,法院認(rèn)為電商平臺并非壟斷行業(yè),商家和消費者有完全的意思自治,均有選擇交易平臺的自由⑨上海市長寧區(qū)人民法院(2017)滬0105民初20204號民事判決書。。由兩案可見,法院對用戶與平臺因壟斷產(chǎn)生的民事糾紛一般不予支持。法院會基于用戶的選擇自由和完全意思自治,判定平臺不構(gòu)成壟斷。但是,平臺規(guī)則作為格式條款具有不可磋商性,屬于對用戶具有實質(zhì)影響的義務(wù)條款,從制定到修改均由平臺一方?jīng)Q定。雖然格式合同的特征并不必然導(dǎo)致壟斷,但是平臺對用戶的合同約束已經(jīng)形成實質(zhì)控制,伴隨著平臺力量擴(kuò)大,存在壟斷風(fēng)險。2021年10月8日,國家市場監(jiān)督管理總局對某外賣平臺巨頭做出《行政處罰決定書(國市監(jiān)處罰〔2021〕74號)》(以下簡稱74號處罰決定書),認(rèn)為該平臺通過簽訂獨家協(xié)議等方式強(qiáng)化對代理商、合作商的管控。

    四、平臺經(jīng)濟(jì)領(lǐng)域算法濫用的反壟斷規(guī)制路徑

    自治算法濫用的反壟斷規(guī)制,應(yīng)納入到平臺反壟斷的范疇。自治算法既服務(wù)于平臺內(nèi)部治理,也是平臺打造技術(shù)創(chuàng)新優(yōu)勢、保持競爭力的重要工具。無論是大數(shù)據(jù)排查類的打假算法,還是引導(dǎo)激勵類的評價排名算法,都兼具內(nèi)部管理和商業(yè)策略的雙重特征。當(dāng)前平臺經(jīng)濟(jì)領(lǐng)域反壟斷規(guī)制處于變革期,無論是立法還是執(zhí)法都開始發(fā)力。2020年12月,中央經(jīng)濟(jì)工作會議將強(qiáng)化反壟斷和防止資本無序擴(kuò)張作為2021年經(jīng)濟(jì)工作的八項重點任務(wù)之一。會議要求健全數(shù)字規(guī)則,完善平臺企業(yè)壟斷認(rèn)定等方面的法律規(guī)范,提升監(jiān)管能力,加強(qiáng)平臺規(guī)制,堅決反對壟斷行為。市場監(jiān)督管理部門應(yīng)聲而動,對平臺經(jīng)濟(jì)領(lǐng)域的兩大科技巨頭進(jìn)行反壟斷審查。在反壟斷審查中,數(shù)據(jù)、算法被反復(fù)提及,數(shù)字經(jīng)濟(jì)的反競爭效果受到監(jiān)管機(jī)構(gòu)的重視。28號處罰決定書詳細(xì)論述了自治算法產(chǎn)生的流量控制和行為監(jiān)控,佐證平臺強(qiáng)大的技術(shù)能力和市場控制能力,作為支撐判斷涉案公司在網(wǎng)絡(luò)零售平臺服務(wù)市場具有支配地位的理由,并且認(rèn)為平臺濫用算法,監(jiān)測、處罰和激勵經(jīng)營者執(zhí)行“二選一”,有力地證明了算法濫用對經(jīng)營者產(chǎn)生的威懾效果和不利影響。由此可見,平臺經(jīng)濟(jì)的數(shù)字特征,是反壟斷監(jiān)管必須直面的新問題、新特征。只有準(zhǔn)確號準(zhǔn)數(shù)字經(jīng)濟(jì)脈動,才能實現(xiàn)精準(zhǔn)監(jiān)管,推動平臺經(jīng)濟(jì)高效有序、創(chuàng)新發(fā)展。

    需要指出的是,我國《反壟斷法》于2008年實施,距今已經(jīng)十余年,在應(yīng)對迅速崛起的平臺經(jīng)濟(jì)方面較為吃力。當(dāng)前反壟斷規(guī)制體系存在滯后性和局限性:第一,傳統(tǒng)反壟斷理論滯后,對大數(shù)據(jù)、算法等數(shù)字特征引發(fā)的壟斷風(fēng)險存在空白。由28號處罰決定書和74號處罰決定書可見,依據(jù)當(dāng)前的反壟斷規(guī)制體系,數(shù)據(jù)、算法因素在平臺經(jīng)濟(jì)領(lǐng)域反壟斷分析中僅起到輔助工具的作用。對算法濫用的限制競爭效果、算法濫用是否可以納入反壟斷法的獨立評價,現(xiàn)行的法律法規(guī)還存在空白。第二,現(xiàn)有反壟斷分析忽略平臺經(jīng)濟(jì)的結(jié)構(gòu)特征,濫用自治算法產(chǎn)生的縱向控制。平臺經(jīng)濟(jì)的發(fā)展,改變了傳統(tǒng)企業(yè)單一通道的經(jīng)濟(jì)結(jié)構(gòu),雙邊(多邊)市場開始形成。平臺企業(yè)已經(jīng)突破私營主體特征,擁有準(zhǔn)公權(quán)力。但是,無論是在當(dāng)前反壟斷框架內(nèi),還是司法實踐中,銷售者主張平臺濫用市場支配地位的訴求一般不會得到支持。法院會認(rèn)定平臺與銷售者之間的關(guān)系為商事合同關(guān)系,判定用戶有完全意思自治,平臺不構(gòu)成壟斷。第三,現(xiàn)有反壟斷框架針對算法濫用實施排除、限制競爭的壟斷行為尚無具體、詳細(xì)的認(rèn)定標(biāo)準(zhǔn)。如利用大數(shù)據(jù)殺熟進(jìn)行差別化定價、利用算法共謀進(jìn)行價格協(xié)同等。雖然《反壟斷指南》體現(xiàn)出平臺特征和數(shù)字特征,但是相關(guān)規(guī)定較為原則、模糊,欠缺操作性。法律位階僅為部門規(guī)范性文件,層級較低。

    進(jìn)一步平臺經(jīng)濟(jì)領(lǐng)域算法濫用的反壟斷規(guī)制,可從以下三方面著手:

    (一)完善反壟斷法規(guī)體系,引入數(shù)字條款

    自治算法濫用引發(fā)的壟斷風(fēng)險,充分體現(xiàn)了平臺的市場結(jié)構(gòu)和數(shù)字特征。雖有學(xué)者主張,算法對于壟斷行為的認(rèn)定僅具有工具性特征,依托既有反壟斷框架能夠有效規(guī)制算法(Iacovides等,2017)。但是,在反壟斷執(zhí)法實踐中,平臺經(jīng)濟(jì)領(lǐng)域的算法濫用和數(shù)據(jù)壟斷行為已經(jīng)超越當(dāng)前反壟斷法框架,算法濫用對平臺壟斷行為產(chǎn)生實質(zhì)影響。市場監(jiān)督管理總局2021年9月發(fā)布《中國反壟斷執(zhí)法年度報告(2020)》,專章論述應(yīng)固本強(qiáng)基、馳而不息,不斷完善反壟斷法治體系。

    隨著《民法典》《數(shù)據(jù)安全法》《個人信息保護(hù)法》的出臺,數(shù)據(jù)、虛擬財產(chǎn)和個人信息等新型網(wǎng)絡(luò)權(quán)益成為法律保護(hù)對象。《民法典》第127條明確法律對數(shù)據(jù)進(jìn)行保護(hù)?!稊?shù)據(jù)安全法》第51條確認(rèn)應(yīng)對排除、限制競爭的數(shù)據(jù)處理活動,進(jìn)行監(jiān)管、處罰?!秱€人信息法》第24條要求自動化決策應(yīng)保證決策的透明度和結(jié)果公平、公正。由此可見,人工智能等數(shù)字技術(shù)的發(fā)展深刻影響著當(dāng)前經(jīng)濟(jì)形態(tài),數(shù)據(jù)、算法和自動化決策開始影響基礎(chǔ)法律關(guān)系的形成、變更和消滅,法律應(yīng)該對此及時作出回應(yīng)。所以,在《反壟斷法》中設(shè)置單獨的數(shù)字條款具有可行性和必要性。

    2021年10月,《反壟斷法(修正草案)》(以下簡稱草案)正式公布。草案中引入“數(shù)字條款”。草案新增的第10條規(guī)定,“經(jīng)營者不得濫用數(shù)據(jù)和算法、技術(shù)、資本優(yōu)勢以及平臺規(guī)則等排除、限制競爭”。第22條新增“具有市場支配地位的經(jīng)營者利用數(shù)據(jù)和算法、技術(shù)以及平臺規(guī)則設(shè)置障礙,對其他經(jīng)營者進(jìn)行不合理限制的,屬于前款規(guī)定的濫用市場支配地位的行為”。需要注意的是,反壟斷法律法規(guī)中引入數(shù)字條款,不能一蹴而就。從社會基礎(chǔ)層面,需要人工智能技術(shù)對社會結(jié)構(gòu)和經(jīng)濟(jì)關(guān)系產(chǎn)生深刻的影響,產(chǎn)生新的法律關(guān)系。從法律理論層面,引入數(shù)字條款需要法律基礎(chǔ)的完備。如,數(shù)據(jù)權(quán)屬的規(guī)定為數(shù)據(jù)壟斷的確立邊界;算法解釋權(quán)的確立有助于限制平臺算法濫用。而且,當(dāng)前草案中的“數(shù)字條款”,不夠具體,應(yīng)該對數(shù)據(jù)、算法引發(fā)壟斷行為的特殊性進(jìn)行釋明,并且規(guī)定具體、詳細(xì)的認(rèn)定標(biāo)準(zhǔn),捋順數(shù)字條款和其他壟斷行為的關(guān)系,形成邏輯一致的反壟斷理論框架。

    (二)厘清平臺自治界限,落實平臺責(zé)任

    近幾年,在海外反壟斷規(guī)制中,平臺對銷售商的優(yōu)勢濫用成為監(jiān)管機(jī)構(gòu)反壟斷審查的重點。2018年11月,德國聯(lián)邦反壟斷局針對亞馬遜發(fā)起濫用支配地位的調(diào)查,審查平臺是否設(shè)定非法合同條款、妨礙公平競爭,如條款的透明度和合同的修訂、法律和管轄權(quán)的選擇、責(zé)任和免責(zé)規(guī)則、終止和凍結(jié)賬戶、產(chǎn)品信息的使用權(quán)和對等要求。由于亞馬遜當(dāng)即表示愿意與德國聯(lián)邦反壟斷局合作,相關(guān)機(jī)構(gòu)并未深入開展市場支配地位和濫用行為的調(diào)查,也沒有公布最終相關(guān)的法律評估。但是,德國聯(lián)邦反壟斷局進(jìn)行初步的相關(guān)市場界定,傾向于認(rèn)為相關(guān)的產(chǎn)品市場是在線市場服務(wù)且為雙邊市場,指出亞馬遜成為用戶訪問的“守門人”,擁有龐大的用戶群和用戶粘性(張江莉,2020)。美國《反壟斷調(diào)查報告》中對亞馬遜平臺的壟斷行為進(jìn)行相似的論述,給出大量的事實和證據(jù)表明平臺龐大的市場力量和“守門人”的地位,并著重分析平臺對銷售商的各種控制策略。該調(diào)查報告列舉大量證據(jù)和事實,論述亞馬遜利用不對稱的權(quán)力狀態(tài),對銷售商進(jìn)行控制、欺凌和剝削。

    海外反壟斷規(guī)制的實踐經(jīng)驗表明,“監(jiān)管機(jī)構(gòu)—平臺—用戶”的線性監(jiān)管路徑具有平臺責(zé)任邊界不清的風(fēng)險(丁道勤,2018)。監(jiān)管機(jī)構(gòu)在進(jìn)行反壟斷審查時,要厘清平臺自治的界限,加強(qiáng)對平臺濫用自治權(quán)行為的審查,即對平臺縱向控制用戶行為進(jìn)行審查。平臺自治權(quán)來源于網(wǎng)絡(luò)服務(wù)合同,應(yīng)借助市場競爭機(jī)制和傳統(tǒng)私法規(guī)范約束平臺私權(quán)力,與此同時對平臺私權(quán)力進(jìn)行適度干預(yù)也至關(guān)重要。對算法濫用進(jìn)行反壟斷規(guī)制,是約束平臺濫用私權(quán)、有效預(yù)防壟斷的重要手段。

    依據(jù)《反壟斷指南》第4條,平臺經(jīng)濟(jì)領(lǐng)域開展反壟斷監(jiān)管應(yīng)維護(hù)各方合法利益。該條強(qiáng)調(diào),平臺經(jīng)濟(jì)發(fā)展涉及多方主體,反壟斷監(jiān)管應(yīng)該著力維護(hù)平臺內(nèi)經(jīng)營者、消費者和從業(yè)人員等各方主體的合法權(quán)益。自治算法作為平臺自治的技術(shù)手段,如果濫用會加劇主體間利益失衡,尤其對處于被管理、被控制的銷售者不利。有效規(guī)制自治算法,是防止平臺對銷售者進(jìn)行剝奪性濫用的有力措施,可以實現(xiàn)平臺生態(tài)系統(tǒng)內(nèi)部的利益平衡、維護(hù)平臺生態(tài)系統(tǒng)良性運轉(zhuǎn)。依據(jù)《反壟斷指南》第11條,自治算法的反壟斷規(guī)制應(yīng)重視濫用市場支配地位分析中的數(shù)據(jù)和算法因素。一方面,在市場支配地位的認(rèn)定因素中,自治算法直接體現(xiàn)平臺支配、控制市場的能力,包括平臺的財力和技術(shù)條件。平臺通過算法濫用加強(qiáng)內(nèi)部控制,形成用戶對平臺的依賴,實現(xiàn)鎖定效應(yīng)。另一方面,算法濫用支撐平臺濫用市場支配地位。根據(jù)《反壟斷指南》規(guī)定,算法濫用是平臺濫用市場支配地位的重要技術(shù)手段。在具體的濫用行為中,平臺通過算法濫用拒絕交易、限定交易、搭售或者附加不合理交易條件、差別待遇等具有必然性,符合數(shù)字經(jīng)濟(jì)特征。平臺通過算法濫用,剝奪上下游企業(yè)或終端消費者的利益獲取獨占利潤,進(jìn)行不同產(chǎn)業(yè)鏈層次間的利潤掠取行為(詹馥靜,2020)在數(shù)字技術(shù)的加持下,平臺濫用自治權(quán)的行為更加隱蔽。所以在平臺經(jīng)濟(jì)領(lǐng)域,厘清平臺自治界限、落實平臺責(zé)任,也是規(guī)制平臺壟斷行為的有效路徑之一。

    (三)規(guī)制算法濫用,警惕算法合謀

    自治算法作為平臺對經(jīng)營者的直接控制手段,體現(xiàn)合同約束和私權(quán)控制。很多苛刻的自治條款和自治算法,短期來看,確實讓消費者取得了一定的利益。資本運作的新平臺爭奪市場份額時,“補(bǔ)貼大戰(zhàn)”也成為消費者享受低價的狂歡。消費者似乎“薅得羊毛”,但是建立在平臺對內(nèi)部經(jīng)營者壓榨基礎(chǔ)之上的消費者福利,并不長久。隨著網(wǎng)絡(luò)效應(yīng)和鎖定效應(yīng)的出現(xiàn),平臺利用與消費者之間信息不對稱,進(jìn)行算法濫用,侵害消費者權(quán)益。當(dāng)前,電商平臺商品和服務(wù)的價格逐漸趨同,消費者比價和自由選擇權(quán)受到限制。平臺通過算法濫用實現(xiàn)縱向控制引發(fā)橫向算法合謀,導(dǎo)致價格協(xié)同行為出現(xiàn)。2015年,美國網(wǎng)約車平臺Uber的用戶向法院起訴,指控平臺要求司機(jī)和用戶使用一致的價格算法,形成平臺內(nèi)部經(jīng)營者之間價格競爭限制,從而由縱向控制引發(fā)橫向價格協(xié)同(柳欣玥,2019)。2017年OECD發(fā)布的《算法與合謀》報告指出,算法濫用引發(fā)壟斷擔(dān)憂,平臺之間即使沒有任何正式協(xié)議或人類互動,也可以借由算法實現(xiàn)和維持共謀,而競爭對手之間的合謀可能損害消費者利益(韓偉,2017)。一旦披上算法的外衣,算法黑箱產(chǎn)生的隱蔽性會進(jìn)一步加劇反競爭效果。

    值得慶幸的是,我國《反壟斷指南》對算法合謀進(jìn)行了規(guī)定。根據(jù)《反壟斷指南》第5條,通過數(shù)據(jù)、算法、平臺規(guī)則或者其他方式實質(zhì)上存在協(xié)調(diào)一致的行為構(gòu)成協(xié)同行為。但是算法黑箱和算法偏見加大了監(jiān)管算法共謀的難度,這要求在反壟斷規(guī)制體系中,繼續(xù)歸納總結(jié)算法共謀的特征,并且梳理算法濫用對價格協(xié)同行為、價格歧視行為產(chǎn)生的具體影響以及判斷要素,增強(qiáng)對算法濫用進(jìn)行反壟斷規(guī)制的可操作性和可預(yù)期性。

    猜你喜歡
    反壟斷規(guī)制算法
    主動退市規(guī)制的德國經(jīng)驗與啟示
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    進(jìn)位加法的兩種算法
    保護(hù)與規(guī)制:關(guān)于文學(xué)的刑法
    刑法論叢(2018年4期)2018-05-21 00:44:30
    論《反不正當(dāng)競爭法》的規(guī)制范疇
    法治研究(2016年4期)2016-12-01 03:41:40
    一種改進(jìn)的整周模糊度去相關(guān)算法
    內(nèi)容規(guī)制
    淺議“區(qū)域”的反壟斷問題
    反壟斷亮劍
    中國連鎖(2013年9期)2013-04-29 00:44:03
    欧美乱色亚洲激情| 亚洲自偷自拍图片 自拍| 国产精品一区二区精品视频观看| 午夜影院日韩av| 国产一区二区在线av高清观看| 天天躁日日操中文字幕| 很黄的视频免费| 夜夜躁狠狠躁天天躁| 国产精品98久久久久久宅男小说| 国产精品久久久久久精品电影| 国产高清有码在线观看视频| 熟女少妇亚洲综合色aaa.| 真人做人爱边吃奶动态| 亚洲成人久久性| 97超视频在线观看视频| 香蕉国产在线看| 亚洲欧洲精品一区二区精品久久久| 99国产精品一区二区三区| 99国产极品粉嫩在线观看| 国产精品九九99| 欧美成狂野欧美在线观看| 99久久成人亚洲精品观看| 国产精品一区二区三区四区免费观看 | 国产 一区 欧美 日韩| 色老头精品视频在线观看| 女人高潮潮喷娇喘18禁视频| 国产精品九九99| 久久天躁狠狠躁夜夜2o2o| 久久久国产成人免费| 久久人妻av系列| av天堂中文字幕网| 国产成年人精品一区二区| 这个男人来自地球电影免费观看| 亚洲男人的天堂狠狠| 在线观看舔阴道视频| 国产99白浆流出| 国产精品,欧美在线| 中国美女看黄片| 99热这里只有精品一区 | 久久中文看片网| 亚洲aⅴ乱码一区二区在线播放| 少妇的丰满在线观看| 亚洲国产日韩欧美精品在线观看 | 露出奶头的视频| 日韩有码中文字幕| 中文资源天堂在线| 国产一区在线观看成人免费| 中亚洲国语对白在线视频| 校园春色视频在线观看| 国产视频一区二区在线看| 久久精品国产亚洲av香蕉五月| 啪啪无遮挡十八禁网站| 观看免费一级毛片| 九九在线视频观看精品| 床上黄色一级片| 99在线视频只有这里精品首页| 国产精品一区二区免费欧美| 日本黄色视频三级网站网址| 色吧在线观看| 熟女人妻精品中文字幕| 波多野结衣巨乳人妻| 亚洲专区中文字幕在线| a级毛片a级免费在线| 国产成人av教育| 波多野结衣巨乳人妻| 日本五十路高清| 久久精品综合一区二区三区| 国产精品亚洲av一区麻豆| 香蕉久久夜色| 热99在线观看视频| 1024手机看黄色片| 91在线观看av| avwww免费| 天天躁日日操中文字幕| 免费观看精品视频网站| 亚洲真实伦在线观看| 亚洲狠狠婷婷综合久久图片| 熟女少妇亚洲综合色aaa.| 亚洲精品一卡2卡三卡4卡5卡| 久久亚洲精品不卡| 久久九九热精品免费| 成人18禁在线播放| 1000部很黄的大片| 国产一区二区在线av高清观看| 黄色片一级片一级黄色片| 亚洲av成人一区二区三| 中文字幕人成人乱码亚洲影| 免费人成视频x8x8入口观看| 成年女人毛片免费观看观看9| 99国产精品一区二区三区| 午夜福利欧美成人| 母亲3免费完整高清在线观看| 国内久久婷婷六月综合欲色啪| 99视频精品全部免费 在线 | 岛国在线观看网站| 1024香蕉在线观看| 女警被强在线播放| 老熟妇乱子伦视频在线观看| 免费高清视频大片| 欧美3d第一页| 免费av不卡在线播放| 国产真人三级小视频在线观看| 美女黄网站色视频| 国产av不卡久久| 琪琪午夜伦伦电影理论片6080| 国产精品av久久久久免费| 禁无遮挡网站| 久久久久国产一级毛片高清牌| 国产在线精品亚洲第一网站| 老司机深夜福利视频在线观看| av在线蜜桃| 国产精品香港三级国产av潘金莲| 色综合站精品国产| 青草久久国产| 校园春色视频在线观看| 欧美日韩国产亚洲二区| 国内少妇人妻偷人精品xxx网站 | 亚洲国产精品久久男人天堂| 亚洲专区字幕在线| 波多野结衣高清无吗| 搡老妇女老女人老熟妇| xxx96com| 99国产极品粉嫩在线观看| 亚洲av第一区精品v没综合| 久久伊人香网站| 精品一区二区三区视频在线观看免费| 国产精品精品国产色婷婷| 又爽又黄无遮挡网站| 国语自产精品视频在线第100页| 国产欧美日韩一区二区三| 亚洲成av人片免费观看| 香蕉久久夜色| 又粗又爽又猛毛片免费看| 国产伦精品一区二区三区视频9 | 亚洲成a人片在线一区二区| 免费看光身美女| 婷婷六月久久综合丁香| 亚洲人与动物交配视频| 国产乱人伦免费视频| 美女黄网站色视频| 首页视频小说图片口味搜索| 亚洲 欧美 日韩 在线 免费| 久久香蕉国产精品| 一卡2卡三卡四卡精品乱码亚洲| 又紧又爽又黄一区二区| 久久久精品欧美日韩精品| 亚洲av电影不卡..在线观看| 麻豆久久精品国产亚洲av| 露出奶头的视频| 成熟少妇高潮喷水视频| 每晚都被弄得嗷嗷叫到高潮| 欧美zozozo另类| 国产又黄又爽又无遮挡在线| 欧美日本亚洲视频在线播放| 免费观看的影片在线观看| 一区二区三区国产精品乱码| 五月伊人婷婷丁香| 一级作爱视频免费观看| 亚洲色图av天堂| 18禁美女被吸乳视频| 国产成人啪精品午夜网站| 色哟哟哟哟哟哟| 亚洲性夜色夜夜综合| 国产精品久久电影中文字幕| 999久久久国产精品视频| 性色av乱码一区二区三区2| 精品久久久久久久久久久久久| 一进一出抽搐gif免费好疼| 91av网站免费观看| 欧美一级a爱片免费观看看| 亚洲av成人不卡在线观看播放网| 成人无遮挡网站| 看片在线看免费视频| av国产免费在线观看| 成年人黄色毛片网站| 日韩欧美在线乱码| 宅男免费午夜| 人妻久久中文字幕网| 亚洲 欧美 日韩 在线 免费| 精品久久久久久久毛片微露脸| 人妻久久中文字幕网| 不卡一级毛片| 欧美在线一区亚洲| 亚洲成av人片在线播放无| 亚洲美女视频黄频| 桃色一区二区三区在线观看| 999久久久精品免费观看国产| 国产精品av久久久久免费| 国产高清videossex| 午夜福利在线在线| tocl精华| 亚洲专区国产一区二区| 我要搜黄色片| 国产精品电影一区二区三区| 亚洲激情在线av| 三级毛片av免费| 国产黄片美女视频| 国产伦人伦偷精品视频| xxx96com| 国产伦精品一区二区三区视频9 | 久久伊人香网站| 男人舔女人的私密视频| 青草久久国产| 免费av不卡在线播放| 一个人免费在线观看的高清视频| 两个人看的免费小视频| 一a级毛片在线观看| 最近在线观看免费完整版| 搞女人的毛片| 久久精品综合一区二区三区| xxx96com| 国产免费av片在线观看野外av| 非洲黑人性xxxx精品又粗又长| 黄色日韩在线| 两个人视频免费观看高清| 看免费av毛片| 久久婷婷人人爽人人干人人爱| 日韩有码中文字幕| 国产午夜福利久久久久久| 偷拍熟女少妇极品色| 久久国产精品人妻蜜桃| 国产又色又爽无遮挡免费看| 97超级碰碰碰精品色视频在线观看| 亚洲中文字幕日韩| 亚洲欧美日韩卡通动漫| 亚洲一区二区三区不卡视频| 国产成人福利小说| 99热这里只有是精品50| 男人舔女人下体高潮全视频| 久久这里只有精品19| 亚洲专区国产一区二区| 噜噜噜噜噜久久久久久91| 两性夫妻黄色片| 欧美高清成人免费视频www| 啪啪无遮挡十八禁网站| 国产精品,欧美在线| 久久中文字幕一级| 热99re8久久精品国产| 亚洲在线自拍视频| 熟女电影av网| 天堂动漫精品| 操出白浆在线播放| 小蜜桃在线观看免费完整版高清| 亚洲中文字幕一区二区三区有码在线看 | 亚洲18禁久久av| 国产真实乱freesex| 91在线观看av| 亚洲专区字幕在线| 淫妇啪啪啪对白视频| 国产黄片美女视频| 天天躁狠狠躁夜夜躁狠狠躁| 最近视频中文字幕2019在线8| 香蕉国产在线看| 成人一区二区视频在线观看| 91字幕亚洲| 最近视频中文字幕2019在线8| 欧美中文日本在线观看视频| 亚洲va日本ⅴa欧美va伊人久久| av欧美777| 久久亚洲真实| 黑人欧美特级aaaaaa片| 99久久久亚洲精品蜜臀av| 国产精品日韩av在线免费观看| 欧美色欧美亚洲另类二区| 香蕉久久夜色| 日韩 欧美 亚洲 中文字幕| a级毛片在线看网站| 制服人妻中文乱码| av在线蜜桃| 视频区欧美日本亚洲| 国产av一区在线观看免费| 男女午夜视频在线观看| 国产精品美女特级片免费视频播放器 | 一区福利在线观看| 狂野欧美激情性xxxx| 国内少妇人妻偷人精品xxx网站 | 国产成人系列免费观看| 国内精品久久久久久久电影| 欧美一区二区精品小视频在线| 亚洲国产欧美一区二区综合| 白带黄色成豆腐渣| 日韩av在线大香蕉| 亚洲最大成人中文| 亚洲av电影在线进入| 天堂网av新在线| 亚洲美女视频黄频| 亚洲国产精品久久男人天堂| 在线观看一区二区三区| 成人三级做爰电影| 亚洲成人中文字幕在线播放| 成人鲁丝片一二三区免费| 国产高清视频在线播放一区| 一级作爱视频免费观看| 国产高清视频在线播放一区| 国产真实乱freesex| 日韩中文字幕欧美一区二区| 精品久久久久久久末码| 又黄又爽又免费观看的视频| 亚洲欧美日韩卡通动漫| 国产精品国产高清国产av| 免费看美女性在线毛片视频| 黑人操中国人逼视频| 亚洲熟妇熟女久久| 啦啦啦韩国在线观看视频| 国产91精品成人一区二区三区| 精品日产1卡2卡| 久久久久亚洲av毛片大全| 麻豆成人午夜福利视频| 悠悠久久av| 一本久久中文字幕| 中文亚洲av片在线观看爽| 91久久精品国产一区二区成人 | 日本精品一区二区三区蜜桃| 99热这里只有是精品50| 97超视频在线观看视频| 亚洲在线自拍视频| 国产欧美日韩精品亚洲av| 国产 一区 欧美 日韩| 草草在线视频免费看| 国产单亲对白刺激| 免费看a级黄色片| 国产成人一区二区三区免费视频网站| 久久精品人妻少妇| 狂野欧美白嫩少妇大欣赏| 国产极品精品免费视频能看的| 久久久久国内视频| 日本成人三级电影网站| www.www免费av| 亚洲专区国产一区二区| 中国美女看黄片| h日本视频在线播放| 69av精品久久久久久| 搞女人的毛片| 亚洲av熟女| 国产成+人综合+亚洲专区| 色综合站精品国产| 久久精品国产综合久久久| 欧美一区二区国产精品久久精品| 天堂av国产一区二区熟女人妻| 哪里可以看免费的av片| 日日摸夜夜添夜夜添小说| 国产欧美日韩精品亚洲av| 亚洲在线观看片| 宅男免费午夜| 欧美一级a爱片免费观看看| 美女高潮喷水抽搐中文字幕| 午夜精品一区二区三区免费看| 久久久久久久久久黄片| 淫妇啪啪啪对白视频| 亚洲av免费在线观看| 久久热在线av| 男女床上黄色一级片免费看| 99热精品在线国产| 成年女人永久免费观看视频| 看黄色毛片网站| 久久精品综合一区二区三区| 欧美日本视频| 日本a在线网址| 免费在线观看视频国产中文字幕亚洲| 性色av乱码一区二区三区2| 熟妇人妻久久中文字幕3abv| 最近最新中文字幕大全免费视频| 激情在线观看视频在线高清| 麻豆av在线久日| 婷婷精品国产亚洲av| 啪啪无遮挡十八禁网站| 欧美日韩综合久久久久久 | 欧美精品啪啪一区二区三区| 亚洲aⅴ乱码一区二区在线播放| 国产毛片a区久久久久| 亚洲七黄色美女视频| 亚洲va日本ⅴa欧美va伊人久久| 国产黄色小视频在线观看| 熟妇人妻久久中文字幕3abv| 99国产精品一区二区蜜桃av| 亚洲欧美精品综合一区二区三区| 嫁个100分男人电影在线观看| 成人特级黄色片久久久久久久| 丝袜人妻中文字幕| 999久久久精品免费观看国产| 男人和女人高潮做爰伦理| 黄色 视频免费看| 后天国语完整版免费观看| 国内精品美女久久久久久| 真人一进一出gif抽搐免费| 国内精品美女久久久久久| av女优亚洲男人天堂 | 精品久久蜜臀av无| 草草在线视频免费看| www.熟女人妻精品国产| 国产精品一区二区三区四区久久| 真人做人爱边吃奶动态| 我要搜黄色片| 国产黄片美女视频| 毛片女人毛片| ponron亚洲| 中文字幕精品亚洲无线码一区| 欧美又色又爽又黄视频| 国产精品亚洲av一区麻豆| 美女免费视频网站| 法律面前人人平等表现在哪些方面| 精品国产三级普通话版| 国产精品一区二区免费欧美| 国产精品日韩av在线免费观看| 99久久99久久久精品蜜桃| 天天添夜夜摸| 手机成人av网站| 午夜福利在线观看吧| 99视频精品全部免费 在线 | 啦啦啦免费观看视频1| 国产激情久久老熟女| 色综合亚洲欧美另类图片| 观看免费一级毛片| 欧美一区二区国产精品久久精品| 欧美乱色亚洲激情| 日本 欧美在线| 麻豆成人av在线观看| 青草久久国产| 国内少妇人妻偷人精品xxx网站 | av福利片在线观看| 757午夜福利合集在线观看| 日本 av在线| 操出白浆在线播放| 国产精品久久久久久久电影 | 女警被强在线播放| 亚洲国产精品sss在线观看| 校园春色视频在线观看| 亚洲av免费在线观看| 国产欧美日韩精品一区二区| a级毛片a级免费在线| 国产免费男女视频| 一边摸一边抽搐一进一小说| 久久久久久人人人人人| 欧美丝袜亚洲另类 | 日本三级黄在线观看| 国产91精品成人一区二区三区| 一级毛片女人18水好多| 国产一区二区三区在线臀色熟女| 激情在线观看视频在线高清| 两性夫妻黄色片| 日韩精品青青久久久久久| 老司机午夜福利在线观看视频| 国产精品香港三级国产av潘金莲| 91老司机精品| 国产三级黄色录像| 一个人看视频在线观看www免费 | 高潮久久久久久久久久久不卡| 国产精品日韩av在线免费观看| 欧美日韩国产亚洲二区| 麻豆av在线久日| 免费在线观看影片大全网站| 日本撒尿小便嘘嘘汇集6| 国产精品久久久av美女十八| 国产精品亚洲美女久久久| 久久中文字幕一级| 在线观看66精品国产| 毛片女人毛片| 一区二区三区激情视频| 久久亚洲真实| 亚洲精品一卡2卡三卡4卡5卡| 大型黄色视频在线免费观看| 嫩草影院入口| 欧美激情久久久久久爽电影| 18禁美女被吸乳视频| 国产免费男女视频| 最近最新中文字幕大全免费视频| 又黄又爽又免费观看的视频| 精品国产乱码久久久久久男人| 国产又黄又爽又无遮挡在线| 日本 av在线| 亚洲avbb在线观看| 亚洲国产看品久久| 亚洲国产中文字幕在线视频| 波多野结衣高清无吗| 欧美乱妇无乱码| 国产一区二区三区视频了| 久9热在线精品视频| 欧美+亚洲+日韩+国产| 欧美色欧美亚洲另类二区| 欧美激情久久久久久爽电影| 国产精品久久久久久人妻精品电影| 国内精品一区二区在线观看| 热99在线观看视频| 蜜桃久久精品国产亚洲av| av国产免费在线观看| 99精品久久久久人妻精品| 黑人巨大精品欧美一区二区mp4| 夜夜爽天天搞| 757午夜福利合集在线观看| 亚洲欧美一区二区三区黑人| 欧美乱色亚洲激情| 91av网站免费观看| 搞女人的毛片| 国产黄色小视频在线观看| 国产成+人综合+亚洲专区| 偷拍熟女少妇极品色| 国产精品亚洲美女久久久| 偷拍熟女少妇极品色| 国产伦一二天堂av在线观看| 欧美性猛交╳xxx乱大交人| 亚洲无线观看免费| 观看美女的网站| 欧美日韩瑟瑟在线播放| 91久久精品国产一区二区成人 | 精品久久久久久久久久久久久| 亚洲国产欧美人成| 成人国产综合亚洲| 好男人在线观看高清免费视频| 天天躁狠狠躁夜夜躁狠狠躁| 男女那种视频在线观看| 免费观看人在逋| 亚洲熟女毛片儿| 久久这里只有精品19| 久久精品国产亚洲av香蕉五月| 国产激情偷乱视频一区二区| а√天堂www在线а√下载| 亚洲中文字幕一区二区三区有码在线看 | 日韩中文字幕欧美一区二区| 两人在一起打扑克的视频| 亚洲激情在线av| 亚洲成av人片在线播放无| 18美女黄网站色大片免费观看| 日韩免费av在线播放| 成人亚洲精品av一区二区| 日韩三级视频一区二区三区| 少妇熟女aⅴ在线视频| 欧美成狂野欧美在线观看| 亚洲国产精品999在线| 国产成人av激情在线播放| 男女之事视频高清在线观看| 黄色 视频免费看| 成人三级做爰电影| 国产一区二区激情短视频| 又黄又爽又免费观看的视频| 在线观看免费午夜福利视频| 国产精品av视频在线免费观看| 国产精品电影一区二区三区| 国产精品久久久久久人妻精品电影| ponron亚洲| 亚洲精品乱码久久久v下载方式 | 美女高潮的动态| 日韩欧美三级三区| 亚洲自偷自拍图片 自拍| 真人一进一出gif抽搐免费| www日本黄色视频网| 成人一区二区视频在线观看| 欧美激情在线99| 午夜福利高清视频| svipshipincom国产片| 精品久久久久久久毛片微露脸| 女同久久另类99精品国产91| 欧美黄色淫秽网站| 深夜精品福利| 岛国在线观看网站| 亚洲人与动物交配视频| 国产欧美日韩一区二区三| 好看av亚洲va欧美ⅴa在| 欧美乱妇无乱码| 欧美在线黄色| 中文字幕久久专区| 99国产综合亚洲精品| 变态另类成人亚洲欧美熟女| 日本黄色片子视频| 国产欧美日韩精品亚洲av| 曰老女人黄片| 免费在线观看成人毛片| 久久婷婷人人爽人人干人人爱| 亚洲午夜理论影院| 欧美乱妇无乱码| 一a级毛片在线观看| 亚洲av中文字字幕乱码综合| 国产精品久久视频播放| 亚洲美女黄片视频| 怎么达到女性高潮| 99久久无色码亚洲精品果冻| 999久久久精品免费观看国产| 欧美丝袜亚洲另类 | 亚洲 欧美一区二区三区| 国产精品日韩av在线免费观看| 国产精品乱码一区二三区的特点| 国产精品久久视频播放| 国产99白浆流出| 精品午夜福利视频在线观看一区| 国产精品免费一区二区三区在线| 国产亚洲精品一区二区www| 亚洲成av人片免费观看| 男女下面进入的视频免费午夜| 小蜜桃在线观看免费完整版高清| 嫁个100分男人电影在线观看| 五月伊人婷婷丁香| 久久久久久久久中文| 国产精华一区二区三区| 色噜噜av男人的天堂激情| 欧美高清成人免费视频www| 久久九九热精品免费| avwww免费| 欧美乱码精品一区二区三区| 亚洲五月婷婷丁香| 久久久国产欧美日韩av| 国产高清三级在线| 免费搜索国产男女视频| 欧美又色又爽又黄视频| 亚洲在线观看片| 最近最新免费中文字幕在线| 亚洲自拍偷在线| 国产精品野战在线观看| 一本久久中文字幕| 午夜a级毛片| 在线观看舔阴道视频| 精品一区二区三区视频在线 | 在线观看午夜福利视频| 18禁黄网站禁片免费观看直播| 国产伦精品一区二区三区四那| 国产精品久久视频播放| 亚洲av成人不卡在线观看播放网|