• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    平臺經(jīng)濟(jì)領(lǐng)域自治算法濫用與反壟斷規(guī)制*

    2021-12-31 13:06:36程增雯
    南方金融 2021年10期
    關(guān)鍵詞:反壟斷規(guī)制算法

    程增雯

    (對外經(jīng)濟(jì)貿(mào)易大學(xué),北京 100029)

    一、引言

    在世界范圍內(nèi),加強(qiáng)平臺經(jīng)濟(jì)領(lǐng)域反壟斷和反不正當(dāng)競爭已經(jīng)達(dá)成共識。2019年,德國聯(lián)邦反壟斷局(聯(lián)邦卡特爾局)指出,F(xiàn)acebook在社交市場中具有很強(qiáng)的市場支配地位,應(yīng)當(dāng)適用《反限制競爭法》第19條的剝削性濫用條款予以規(guī)制(H?ppner,2019)。2020年12月,歐盟委員會執(zhí)行副主席韋斯塔格宣布,亞馬遜憑借平臺優(yōu)勢訪問其他商家的非公開敏感數(shù)據(jù)并服務(wù)于自身業(yè)務(wù),構(gòu)成不公平競爭①資料來源:Investigation of competition in digital markets[EB/OL].美國眾議院網(wǎng)站, https://judiciary.house.gov。。2020年10月,美國眾議院發(fā)布針對谷歌、蘋果、亞馬遜和Facebook的反壟斷調(diào)查報告,認(rèn)定四大科技巨頭濫用市場支配地位。與此同時,我國相關(guān)部門也開始行動。2019年8月,國務(wù)院印發(fā)《關(guān)于促進(jìn)平臺經(jīng)濟(jì)規(guī)范健康發(fā)展的指導(dǎo)意見》,對互聯(lián)網(wǎng)領(lǐng)域的濫用市場支配地位行為進(jìn)行限制。2020年1月,國家市場監(jiān)督管理總局發(fā)布《〈反壟斷法〉修訂草案(公開征求意見稿)》,其中第21條第2款將平臺和數(shù)據(jù)等因素納入分析框架。2021年2月,國務(wù)院反壟斷委員會印發(fā)《關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》(以下簡稱《反壟斷指南》),其中反復(fù)提到平臺利用技術(shù)手段和算法實施壟斷的行為。2021年,國家市場監(jiān)督管理總局相繼對國內(nèi)電子商務(wù)平臺領(lǐng)域巨頭進(jìn)行反壟斷審查。

    當(dāng)前算法被廣泛運用于社會治理之中,必須積極應(yīng)對算法崛起對法律帶來的挑戰(zhàn)(丁曉東,2020)。相較于其他算法,平臺自治算法的應(yīng)用目的具有特殊性。一旦被平臺濫用,便會和雙邊市場的網(wǎng)絡(luò)效應(yīng)、鎖定效應(yīng)疊加,引發(fā)復(fù)雜、隱蔽、多樣的反競爭效果。對自治算法濫用進(jìn)行反壟斷規(guī)制,具有必要性和現(xiàn)實意義,契合當(dāng)下加強(qiáng)平臺經(jīng)濟(jì)領(lǐng)域反壟斷監(jiān)管的政策要求,適應(yīng)平臺經(jīng)濟(jì)領(lǐng)域的數(shù)字特征。

    二、平臺經(jīng)濟(jì)領(lǐng)域的自治算法與算法濫用

    (一)自治算法的正當(dāng)性

    如果運用得當(dāng),以數(shù)據(jù)和算法為代表的人工智能不僅能比人類決策做出更準(zhǔn)確的預(yù)測,而且能提供更高的透明度和公平性。平臺經(jīng)濟(jì)作為數(shù)字驅(qū)動經(jīng)濟(jì)模式,在商業(yè)應(yīng)用、內(nèi)部治理和業(yè)態(tài)創(chuàng)新中大量應(yīng)用算法。自治算法是電子商務(wù)平臺(以下簡稱平臺)利用大數(shù)據(jù)設(shè)定算法模型,識別用戶違法違規(guī)行為、引導(dǎo)激勵用戶遵循內(nèi)部規(guī)則的數(shù)據(jù)處理過程。平臺作為雙邊或者多邊市場的組織者、管理者,既服務(wù)市場也治理或規(guī)制市場。自治算法通過快速收集用戶大數(shù)據(jù)、進(jìn)行數(shù)據(jù)處理,可高效識別、懲處違法違規(guī)行為,引導(dǎo)激勵合規(guī)行為,以此促進(jìn)平臺行為規(guī)范的落實(Just,2017)。

    1.自治算法的權(quán)利來源

    平臺作為雙邊市場的管理者,更像是公共部門與私營部門的混合體。在雙邊市場中管理和被管理的二分框架被消解,平臺參與社會治理具有正當(dāng)性(莫旻丹,2019)。在電子商務(wù)領(lǐng)域,平臺自治權(quán)來源于網(wǎng)絡(luò)服務(wù)合同,兼具強(qiáng)制性和事實上的支配力(劉權(quán),2020),具有雙重屬性。一方面,平臺自治權(quán)是一種管理權(quán)利。自締約開始,平臺通過與用戶達(dá)成協(xié)議取得授權(quán),用戶享受平臺網(wǎng)絡(luò)服務(wù),同時讓渡部分自由,接受平臺排查管理。另一方面,法律明確規(guī)定平臺有權(quán)制定規(guī)則并利用技術(shù)手段進(jìn)行自治②《電子商務(wù)法》第32條明確規(guī)定電子商務(wù)平臺經(jīng)營者制定平臺規(guī)則應(yīng)遵循公開、公平、公正的原則。2014年國家市場監(jiān)督管理總局制定的《網(wǎng)絡(luò)交易監(jiān)督管理辦法》第25條規(guī)定,平臺應(yīng)采取必要的技術(shù)手段和管理措施維護(hù)網(wǎng)絡(luò)交易秩序。,平臺自治權(quán)可以對用戶進(jìn)行管理。用戶一旦違反平臺規(guī)則,就會受到平臺“準(zhǔn)公權(quán)力”的處罰,如屏蔽鏈接、商品下架、關(guān)閉店鋪等。而這些自治權(quán)和處罰權(quán)的行使,大部分由自治算法在后臺完成。

    2.自治算法的平臺實踐

    自治算法廣泛應(yīng)用于平臺領(lǐng)域,有助于提升管理效率,符合平臺經(jīng)濟(jì)運行規(guī)律。算法自治是平臺的理性選擇,也是必然選擇。在平臺的實踐中,算法以服務(wù)協(xié)議與平臺規(guī)則的形式得到授權(quán),廣泛運用于平臺自治。根據(jù)平臺規(guī)則,平臺的自治算法分為兩類:一是通過大數(shù)據(jù)排查對用戶不合規(guī)行為進(jìn)行監(jiān)控、審查和自動化決策,對違法違規(guī)進(jìn)行處罰;二是運用引導(dǎo)激勵算法對用戶進(jìn)行評價、分級,激勵用戶進(jìn)行合規(guī)經(jīng)營。

    以淘寶平臺規(guī)則為例,《淘寶平臺服務(wù)協(xié)議》(2019年5月版本)中規(guī)定,淘寶依據(jù)用戶數(shù)據(jù)與海量用戶數(shù)據(jù)的關(guān)系來判斷用戶是否構(gòu)成違約。《淘寶規(guī)則》中還對濫用會員權(quán)利、假貨等算法模型進(jìn)行規(guī)定。國家知識產(chǎn)權(quán)局發(fā)布的《中國電子商務(wù)知識產(chǎn)權(quán)發(fā)展研究報告(2019)》,將“技術(shù)賦能+多元共治”的假貨治理阿里模式作為中國經(jīng)驗在全社會推廣。該報告指出,阿里“知產(chǎn)保護(hù)科技大腦”的數(shù)據(jù)應(yīng)用已覆蓋阿里平臺經(jīng)濟(jì)運行的各個商業(yè)環(huán)節(jié),擁有百余個算法模型,進(jìn)行數(shù)據(jù)分析預(yù)測,預(yù)警用戶異常行為。除了對違規(guī)違法行為進(jìn)行處罰的排查類算法之外,各電商平臺還使用了大量的正向激勵性算法,引導(dǎo)規(guī)范用戶行為,如淘寶店鋪的信用評分算法、“京東開放平臺風(fēng)向標(biāo)”規(guī)則等?!熬〇|開放平臺風(fēng)向標(biāo)”明確釋明了“京東好店”的算法模型,以激勵店鋪規(guī)范營銷、交易行為,提升店鋪綜合服務(wù)能力。

    3.自治算法的競爭效果

    競爭有助于提升分配效率,督促生產(chǎn)者和經(jīng)營者提供消費者愿意購買的產(chǎn)品或服務(wù);有助于提高生產(chǎn)效率,促使經(jīng)營主體減少成本,激勵創(chuàng)新,從而促進(jìn)消費者福利最大化、社會財富最大化(Gellhorn等,2009)。自治算法的競爭效果,一方面,體現(xiàn)在自治算法以創(chuàng)新促競爭。自治算法進(jìn)行自動化決策,有效創(chuàng)新平臺內(nèi)部管理模式。面對平臺海量用戶和交易,自治算法能夠精準(zhǔn)地對不合規(guī)行為進(jìn)行監(jiān)控、處罰,規(guī)范用戶的經(jīng)營行為和交易行為,助力平臺有序、高效運行。與此同時,平臺設(shè)立信用評價機(jī)制,以銷售者的服務(wù)態(tài)度、物流速度和商品描述相符程度等為評價指標(biāo),對店鋪進(jìn)行分級。由平臺進(jìn)行信用背書,彌補(bǔ)電子商務(wù)虛擬性和跨地域性帶來的信用問題,有效規(guī)范銷售者經(jīng)營、保障消費者權(quán)益。很多自治算法具有分析預(yù)測功能,可利用過去的數(shù)據(jù)預(yù)測未來的可能(丁宇翔,2019)。如利用大數(shù)據(jù)分析消費者偏好,進(jìn)行個性化推薦,降低消費者的搜尋成本;或者利用排查算法進(jìn)行風(fēng)險預(yù)測,預(yù)警用戶的異常交易、經(jīng)營行為。

    另一方面,自治算法助力平臺擴(kuò)張市場力量。算法高度滲透于平臺經(jīng)濟(jì)的運行,全方位支撐平臺經(jīng)濟(jì)的發(fā)展,成為平臺核心競爭力。根據(jù)算法本身不同的設(shè)立目的和內(nèi)部代碼設(shè)計,算法服務(wù)于商業(yè)運營、廣告投放、精準(zhǔn)營銷以及內(nèi)部管理,成為推動平臺經(jīng)濟(jì)發(fā)展的重要技術(shù)力量。芝加哥大學(xué)全球市場研究(IGM)論壇針對科技巨頭的反壟斷監(jiān)管進(jìn)行討論,參會的絕大多數(shù)知名經(jīng)濟(jì)學(xué)家均持有一種觀點,即網(wǎng)絡(luò)效應(yīng)和高質(zhì)量算法助力谷歌等科技巨頭問鼎平臺市場③資料來源:IGM Forum. Antitrust in the Digital Economy[EB/OL], https://www.igmchicago.org。。從某種意義上說,平臺之間的商業(yè)競爭是由技術(shù)實力來支撐的(孫益武,2021),而算法所體現(xiàn)的數(shù)據(jù)處理能力成為平臺最為重要的技術(shù)能力。

    近年來,平臺經(jīng)濟(jì)迅猛發(fā)展、超級平臺不斷形成。根據(jù)美國眾議院反壟斷調(diào)查報告《數(shù)字市場競爭的調(diào)查》,美國在線購物平臺亞馬遜擁有230萬活躍的第三方銷售商,其中約37%的經(jīng)銷商依賴亞馬遜作為他們的銷售渠道,沒有其他替代渠道。淘寶平臺2019年就擁有超過1千萬店家和6.5億用戶,依托巨大的市場力量,平臺生態(tài)系統(tǒng)生成。面對龐大的平臺生態(tài)系統(tǒng),自治算法成為平臺運行不可或缺的技術(shù)支撐,既支撐平臺運轉(zhuǎn),又推動平臺市場力量擴(kuò)張。

    (二)算法濫用的反競爭性

    競爭與壟斷的界限并不像法律文本所規(guī)定的那般清晰,有時可能會相互轉(zhuǎn)化(金善明,2018)。與傳統(tǒng)經(jīng)濟(jì)相比,平臺經(jīng)濟(jì)領(lǐng)域的數(shù)字特征導(dǎo)致這個領(lǐng)域存在明顯壟斷趨勢(王曉曄,2021)。自治算法作為技術(shù)手段,本身不會產(chǎn)生法律上的價值判斷,但這并不表明引入算法對競爭的影響始終是中性的(周圍,2020)。自治算法一旦被濫用,原本中立性的技術(shù)手段,就會成為平臺侵害競爭秩序和消費者權(quán)利的工具。需要明確的是,只要市場上有競爭,就會出現(xiàn)限制競爭問題,就得運用反壟斷法保護(hù)和推動市場競爭(王曉曄,2021),平臺經(jīng)濟(jì)領(lǐng)域亦如是。自治算法濫用已經(jīng)成為探討平臺壟斷不可回避的話題?;ヂ?lián)網(wǎng)經(jīng)濟(jì)的虛擬性,使得平臺行為必須以數(shù)字技術(shù)為支撐。平臺濫用自治算法(以下簡稱算法濫用)行為,是平臺壟斷的重要表現(xiàn)形式。所以,對算法濫用進(jìn)行反壟斷規(guī)制,不是否定自治算法的競爭效果和創(chuàng)新效應(yīng),而是直面平臺壟斷的結(jié)構(gòu)特征和數(shù)字特征,厘清算法濫用對平臺壟斷起到的作用,有效規(guī)制算法濫用排除、限制競爭的壟斷行為。

    1.算法濫用排除、限制競爭

    平臺作為經(jīng)營主體并不完全中立,為追逐自身商業(yè)利益最大化,濫用自治算法進(jìn)行不正當(dāng)競爭的情形并不鮮見。例如,平臺濫用自治算法對銷售商進(jìn)行嚴(yán)厲控制、打壓甚至剝削;利用優(yōu)勢地位,對商家進(jìn)行不合理處罰,實現(xiàn)銷售渠道和流量控制。算法濫用成為平臺實現(xiàn)縱向控制和剝奪性濫用的技術(shù)手段,平臺的市場控制在與銷售商以及許多供應(yīng)商的關(guān)系中達(dá)到了頂峰。國家市場監(jiān)督管理總局在《行政處罰決定書(國市監(jiān)處〔2021〕28號)》(以下簡稱28號處罰決定書)中披露:平臺通過技術(shù)手段監(jiān)控等方式,監(jiān)測經(jīng)營者在其他競爭性平臺的經(jīng)營情況;利用自治算法對不符合“二選一”要求的經(jīng)營者實施處罰,取消活動資格、搜索降權(quán)、控制流量和銷售機(jī)會。在外賣平臺,除了“二選一”爭議外,“高傭金”的正當(dāng)性也一直備受關(guān)注。2020年4月,廣東省餐飲服務(wù)行業(yè)協(xié)會官微發(fā)文,要求某大型外賣平臺立即取消獨家合作限制等其他壟斷條款,控訴平臺在疫情期間的高傭金④資料來源:美團(tuán)高傭金引“眾怒”各地餐飲協(xié)會輪番打擂臺[EB/OL].新浪網(wǎng), 2020-04-12。。還有消息稱,該外賣平臺濫用自治算法對傭金進(jìn)行核算,壓縮送餐時間、危及騎手安全,“被困在算法的騎手”成為網(wǎng)絡(luò)熱議話題⑤資料來源:外賣騎手困在算法,美團(tuán)困在了利益中[EB/OL].大力財經(jīng),2020-09-12。。

    2.算法濫用侵害消費者權(quán)益

    自治算法通常在后臺運行,具有隱蔽性。用戶會更專注于平臺的功能性運用,很少感知其存在(Rader等,2018)。這給平臺濫用自治算法侵害用戶權(quán)益可趁之機(jī)。在當(dāng)前平臺經(jīng)濟(jì)領(lǐng)域,平臺自治權(quán)呈現(xiàn)不斷擴(kuò)張的趨勢,平臺也不斷加強(qiáng)內(nèi)部管理、控制。一是過度收集消費者數(shù)據(jù)信息、侵犯消費者隱私權(quán)。2018年11月,中國消費者協(xié)會發(fā)布針對常用App的測評報告,報告指出測評的10類App普遍存在涉嫌過度收集個人信息、侵犯個人隱私權(quán)的情形⑥資料來源:100款A(yù)pp個人信息收集與隱私政策測評報告[EB/OL].中國消費者協(xié)會官網(wǎng),2018-11-18。。二是通過收集消費者數(shù)據(jù)信息,利用算法進(jìn)行差別定價,進(jìn)行“大數(shù)據(jù)殺熟”,這種差別定價行為屬于《反壟斷法》規(guī)定的價格歧視行為(朱程程,2020)。三是平臺濫用算法,制定價格策略或進(jìn)行隱蔽的算法共謀,產(chǎn)生價格協(xié)同行為,侵害消費者利益。

    三、算法濫用引發(fā)的平臺壟斷風(fēng)險

    在互聯(lián)網(wǎng)時代,掌握了數(shù)據(jù),就意味著掌握了資本和財富;掌握了算法,就意味著掌握了話語權(quán)和規(guī)制權(quán)(馬長山,2018)。根據(jù)經(jīng)濟(jì)與合作組織(OECD)預(yù)測,數(shù)據(jù)驅(qū)動型市場會導(dǎo)致“贏者通吃”的結(jié)果(殷繼國,2019)。自治算法作為平臺自治的技術(shù)手段,體現(xiàn)平臺與用戶之間的縱向關(guān)系。無論是作為網(wǎng)絡(luò)服務(wù)合同的權(quán)利義務(wù)內(nèi)容,還是平臺自上而下的支配和控制,自治算法濫用會導(dǎo)致平臺對消費者和銷售者的權(quán)利侵害。濫用自治算法帶來的數(shù)據(jù)壟斷和算法權(quán)力異化,還會擴(kuò)大破壞競爭效果,加劇壟斷風(fēng)險出現(xiàn)。

    (一)算法權(quán)力濫用

    算法從物質(zhì)世界的運行中總結(jié)規(guī)律,將規(guī)律模型化、模型算法化、算法代碼化、代碼軟件化,軟件不斷優(yōu)化物質(zhì)世界運行⑦王俊.阿里巴巴副總裁俞思瑛:算法創(chuàng)新已成為全球創(chuàng)新的高地[N].新京報,2019-10-20。。伴隨著科技發(fā)展,基礎(chǔ)數(shù)據(jù)規(guī)模持續(xù)擴(kuò)大、機(jī)器學(xué)習(xí)能力不斷提高,自治算法作為線上自動化執(zhí)行的手段日臻完善(戴昕和申欣旺,2016),“算法之治”形成,進(jìn)一步促進(jìn)了市場集中(陳兵,2020)。在算法黑箱與算法歧視的加持下加劇平臺“準(zhǔn)公權(quán)力”異化。算法權(quán)力異化主要有三方面原因:

    第一,算法黑箱客觀存在。排查算法內(nèi)部具有非線性、多層次結(jié)構(gòu)的復(fù)雜模型,如同神經(jīng)網(wǎng)絡(luò)具有外部可見層和內(nèi)部隱藏層(Bishop,2006),在數(shù)據(jù)輸入和輸出間形成一片灰色地帶(陳兵,2020),這就是“算法黑箱”。電商平臺的自治算法以及數(shù)據(jù)收集、模型設(shè)計和自動化決策過程,具有很強(qiáng)的專業(yè)性,很難為一般用戶所理解,算法權(quán)力監(jiān)督不足。以國內(nèi)某大型平臺為例,自治算法覆蓋濫用會員權(quán)利、虛假交易、違禁品買賣、虛假宣傳和售假侵權(quán)等多種違法違規(guī)行為。無論是哪種排查模型,其數(shù)據(jù)收集、模型設(shè)計和自動化決策過程都具有較高的專業(yè)性。

    第二,算法偏見不可避免。設(shè)計算法的工程師受到現(xiàn)存的社會、文化、經(jīng)濟(jì)和政治力量的影響,數(shù)據(jù)輸入和模型設(shè)計時會帶有主觀偏見(Just,2017)。更有甚者,設(shè)計者在模型設(shè)計之初將不中立的個人觀點輸入到程序代碼之中,產(chǎn)生算法操縱。2020年12月10日,歐盟委員會執(zhí)行副主席韋斯塔格(Vestager)宣布,歐盟委員會發(fā)現(xiàn)亞馬遜公司憑借平臺優(yōu)勢訪問其他賣家非公開的敏感數(shù)據(jù),運用算法工具對數(shù)據(jù)進(jìn)行處理為自身的業(yè)務(wù)決策服務(wù),構(gòu)成不公平競爭。由此可見,算法濫用會限制和破壞競爭,是平臺實施壟斷行為的重要手段。

    第三,自主學(xué)習(xí)能力加深數(shù)據(jù)鴻溝。算法擁有某種程度的自主權(quán),造成算法輸出結(jié)果難以預(yù)測和解釋(劉培和池忠軍,2016)。算法黑箱及自主學(xué)習(xí)能力,進(jìn)一步導(dǎo)致算法決策機(jī)理越來越難以為用戶所理解,平臺借由技術(shù)屏障達(dá)成了平臺內(nèi)部技術(shù)化統(tǒng)治(張凌寒,2019)。

    (二)數(shù)據(jù)資源壟斷

    目前,平臺作為數(shù)據(jù)驅(qū)動經(jīng)濟(jì)的頭部,通過向用戶捆綁、低價獲取甚至侵犯隱私權(quán)等手段實現(xiàn)數(shù)據(jù)資源的占有。沒有這些數(shù)據(jù),新興平臺幾乎沒有機(jī)會進(jìn)入相關(guān)領(lǐng)域,即使進(jìn)入也無力與超級平臺抗衡。平臺濫用自治算法對數(shù)據(jù)進(jìn)行壟斷的表現(xiàn)有:

    第一,通過算法濫用過度收集原始數(shù)據(jù)。在算法系統(tǒng)中算法只有與數(shù)據(jù)結(jié)合起來才能運行(劉培和池忠軍,2019),因此自治算法為實現(xiàn)對用戶行為有效監(jiān)控和識別,需要收集用戶數(shù)據(jù)和個人信息。國內(nèi)某大型平臺服務(wù)協(xié)議明確規(guī)定,平臺將收集海量用戶數(shù)據(jù),進(jìn)行大數(shù)據(jù)排查。一般情況下,平臺通過簽訂隱私聲明,獲取用戶授權(quán),再通過算法濫用過度收集用戶數(shù)據(jù)信息。

    第二,通過算法濫用進(jìn)行激進(jìn)的行為預(yù)測。通過精密系統(tǒng)的預(yù)測,比過去更具價值的未來極易被人掌握(Barabási,2012)。平臺應(yīng)用自治算法,對數(shù)據(jù)進(jìn)行分析產(chǎn)生預(yù)測型數(shù)據(jù),其預(yù)測和風(fēng)險識別功能具有重要價值。但在實踐中,算法濫用僅根據(jù)預(yù)測結(jié)果就對銷售者進(jìn)行實際處罰,無論違法違規(guī)行為是否作出,這依然強(qiáng)化了平臺實際控制能力。

    第三,數(shù)據(jù)交易進(jìn)一步擴(kuò)大數(shù)據(jù)優(yōu)勢。當(dāng)前,電子商務(wù)平臺利用數(shù)據(jù)規(guī)模優(yōu)勢和技術(shù)優(yōu)勢,開展數(shù)據(jù)交易大戰(zhàn),由電商平臺派生出的數(shù)據(jù)交易平臺,對平臺經(jīng)濟(jì)領(lǐng)域的競爭產(chǎn)生深刻影響。平臺通過算法濫用占有數(shù)據(jù)、利用數(shù)據(jù)甚至壟斷數(shù)據(jù)的現(xiàn)象逐漸顯現(xiàn),數(shù)據(jù)爭奪早已成為平臺競爭的新領(lǐng)域。順豐和菜鳥數(shù)據(jù)之爭、淘寶公司訴美景公司不正當(dāng)競爭案等,體現(xiàn)互聯(lián)網(wǎng)經(jīng)濟(jì)領(lǐng)域中數(shù)據(jù)資源的重要性,數(shù)據(jù)爭奪儼然成為了重要的競爭手段。雖然數(shù)據(jù)權(quán)屬在法律中名分未定,但是對數(shù)據(jù)資源的壟斷會危害競爭秩序,成為未來反壟斷法不可回避的重大議題。

    (三)平臺自治權(quán)異化

    用戶入駐平臺需要與平臺締結(jié)網(wǎng)絡(luò)服務(wù)合同,一旦行為違反平臺規(guī)則,用戶就要承擔(dān)違約責(zé)任,受到平臺的評價、處罰。平臺通過合同對用戶產(chǎn)生實際控制,隨著平臺市場力量擴(kuò)大,獲得市場支配地位,此種控制異化風(fēng)險隨之增加。而意思自治原則和合同嚴(yán)守原則,成為平臺加強(qiáng)控制的“免責(zé)金牌”。2018年愛夏公司訴天貓案中,原告愛夏公司因未獲繼續(xù)入駐天貓平臺資格,不服天貓2018年度各類目續(xù)簽考核標(biāo)準(zhǔn)一覽表并訴至法院。愛夏公司在上訴中對天貓平臺2018年新增續(xù)簽考核DSR動態(tài)評分系統(tǒng)提出質(zhì)疑,指出天貓平臺單方面制訂考核標(biāo)準(zhǔn),未經(jīng)相關(guān)部門審批或者邀請各界代表聽證,違反《反壟斷法》,濫用市場支配地位。法院認(rèn)為,天貓平臺并非唯一的網(wǎng)絡(luò)交易平臺,愛夏公司若認(rèn)為相關(guān)規(guī)則不合理,可自由選擇其他網(wǎng)絡(luò)交易平臺或者其他經(jīng)營方式經(jīng)營⑧上海市長寧區(qū)人民法院(2017)滬0105民初11642號民事判決書。。2019年的中國互聯(lián)網(wǎng)司法十大典型案例中,福州九農(nóng)貿(mào)易公司訴上海尋夢信息技術(shù)公司一案,法院認(rèn)為電商平臺并非壟斷行業(yè),商家和消費者有完全的意思自治,均有選擇交易平臺的自由⑨上海市長寧區(qū)人民法院(2017)滬0105民初20204號民事判決書。。由兩案可見,法院對用戶與平臺因壟斷產(chǎn)生的民事糾紛一般不予支持。法院會基于用戶的選擇自由和完全意思自治,判定平臺不構(gòu)成壟斷。但是,平臺規(guī)則作為格式條款具有不可磋商性,屬于對用戶具有實質(zhì)影響的義務(wù)條款,從制定到修改均由平臺一方?jīng)Q定。雖然格式合同的特征并不必然導(dǎo)致壟斷,但是平臺對用戶的合同約束已經(jīng)形成實質(zhì)控制,伴隨著平臺力量擴(kuò)大,存在壟斷風(fēng)險。2021年10月8日,國家市場監(jiān)督管理總局對某外賣平臺巨頭做出《行政處罰決定書(國市監(jiān)處罰〔2021〕74號)》(以下簡稱74號處罰決定書),認(rèn)為該平臺通過簽訂獨家協(xié)議等方式強(qiáng)化對代理商、合作商的管控。

    四、平臺經(jīng)濟(jì)領(lǐng)域算法濫用的反壟斷規(guī)制路徑

    自治算法濫用的反壟斷規(guī)制,應(yīng)納入到平臺反壟斷的范疇。自治算法既服務(wù)于平臺內(nèi)部治理,也是平臺打造技術(shù)創(chuàng)新優(yōu)勢、保持競爭力的重要工具。無論是大數(shù)據(jù)排查類的打假算法,還是引導(dǎo)激勵類的評價排名算法,都兼具內(nèi)部管理和商業(yè)策略的雙重特征。當(dāng)前平臺經(jīng)濟(jì)領(lǐng)域反壟斷規(guī)制處于變革期,無論是立法還是執(zhí)法都開始發(fā)力。2020年12月,中央經(jīng)濟(jì)工作會議將強(qiáng)化反壟斷和防止資本無序擴(kuò)張作為2021年經(jīng)濟(jì)工作的八項重點任務(wù)之一。會議要求健全數(shù)字規(guī)則,完善平臺企業(yè)壟斷認(rèn)定等方面的法律規(guī)范,提升監(jiān)管能力,加強(qiáng)平臺規(guī)制,堅決反對壟斷行為。市場監(jiān)督管理部門應(yīng)聲而動,對平臺經(jīng)濟(jì)領(lǐng)域的兩大科技巨頭進(jìn)行反壟斷審查。在反壟斷審查中,數(shù)據(jù)、算法被反復(fù)提及,數(shù)字經(jīng)濟(jì)的反競爭效果受到監(jiān)管機(jī)構(gòu)的重視。28號處罰決定書詳細(xì)論述了自治算法產(chǎn)生的流量控制和行為監(jiān)控,佐證平臺強(qiáng)大的技術(shù)能力和市場控制能力,作為支撐判斷涉案公司在網(wǎng)絡(luò)零售平臺服務(wù)市場具有支配地位的理由,并且認(rèn)為平臺濫用算法,監(jiān)測、處罰和激勵經(jīng)營者執(zhí)行“二選一”,有力地證明了算法濫用對經(jīng)營者產(chǎn)生的威懾效果和不利影響。由此可見,平臺經(jīng)濟(jì)的數(shù)字特征,是反壟斷監(jiān)管必須直面的新問題、新特征。只有準(zhǔn)確號準(zhǔn)數(shù)字經(jīng)濟(jì)脈動,才能實現(xiàn)精準(zhǔn)監(jiān)管,推動平臺經(jīng)濟(jì)高效有序、創(chuàng)新發(fā)展。

    需要指出的是,我國《反壟斷法》于2008年實施,距今已經(jīng)十余年,在應(yīng)對迅速崛起的平臺經(jīng)濟(jì)方面較為吃力。當(dāng)前反壟斷規(guī)制體系存在滯后性和局限性:第一,傳統(tǒng)反壟斷理論滯后,對大數(shù)據(jù)、算法等數(shù)字特征引發(fā)的壟斷風(fēng)險存在空白。由28號處罰決定書和74號處罰決定書可見,依據(jù)當(dāng)前的反壟斷規(guī)制體系,數(shù)據(jù)、算法因素在平臺經(jīng)濟(jì)領(lǐng)域反壟斷分析中僅起到輔助工具的作用。對算法濫用的限制競爭效果、算法濫用是否可以納入反壟斷法的獨立評價,現(xiàn)行的法律法規(guī)還存在空白。第二,現(xiàn)有反壟斷分析忽略平臺經(jīng)濟(jì)的結(jié)構(gòu)特征,濫用自治算法產(chǎn)生的縱向控制。平臺經(jīng)濟(jì)的發(fā)展,改變了傳統(tǒng)企業(yè)單一通道的經(jīng)濟(jì)結(jié)構(gòu),雙邊(多邊)市場開始形成。平臺企業(yè)已經(jīng)突破私營主體特征,擁有準(zhǔn)公權(quán)力。但是,無論是在當(dāng)前反壟斷框架內(nèi),還是司法實踐中,銷售者主張平臺濫用市場支配地位的訴求一般不會得到支持。法院會認(rèn)定平臺與銷售者之間的關(guān)系為商事合同關(guān)系,判定用戶有完全意思自治,平臺不構(gòu)成壟斷。第三,現(xiàn)有反壟斷框架針對算法濫用實施排除、限制競爭的壟斷行為尚無具體、詳細(xì)的認(rèn)定標(biāo)準(zhǔn)。如利用大數(shù)據(jù)殺熟進(jìn)行差別化定價、利用算法共謀進(jìn)行價格協(xié)同等。雖然《反壟斷指南》體現(xiàn)出平臺特征和數(shù)字特征,但是相關(guān)規(guī)定較為原則、模糊,欠缺操作性。法律位階僅為部門規(guī)范性文件,層級較低。

    進(jìn)一步平臺經(jīng)濟(jì)領(lǐng)域算法濫用的反壟斷規(guī)制,可從以下三方面著手:

    (一)完善反壟斷法規(guī)體系,引入數(shù)字條款

    自治算法濫用引發(fā)的壟斷風(fēng)險,充分體現(xiàn)了平臺的市場結(jié)構(gòu)和數(shù)字特征。雖有學(xué)者主張,算法對于壟斷行為的認(rèn)定僅具有工具性特征,依托既有反壟斷框架能夠有效規(guī)制算法(Iacovides等,2017)。但是,在反壟斷執(zhí)法實踐中,平臺經(jīng)濟(jì)領(lǐng)域的算法濫用和數(shù)據(jù)壟斷行為已經(jīng)超越當(dāng)前反壟斷法框架,算法濫用對平臺壟斷行為產(chǎn)生實質(zhì)影響。市場監(jiān)督管理總局2021年9月發(fā)布《中國反壟斷執(zhí)法年度報告(2020)》,專章論述應(yīng)固本強(qiáng)基、馳而不息,不斷完善反壟斷法治體系。

    隨著《民法典》《數(shù)據(jù)安全法》《個人信息保護(hù)法》的出臺,數(shù)據(jù)、虛擬財產(chǎn)和個人信息等新型網(wǎng)絡(luò)權(quán)益成為法律保護(hù)對象。《民法典》第127條明確法律對數(shù)據(jù)進(jìn)行保護(hù)?!稊?shù)據(jù)安全法》第51條確認(rèn)應(yīng)對排除、限制競爭的數(shù)據(jù)處理活動,進(jìn)行監(jiān)管、處罰?!秱€人信息法》第24條要求自動化決策應(yīng)保證決策的透明度和結(jié)果公平、公正。由此可見,人工智能等數(shù)字技術(shù)的發(fā)展深刻影響著當(dāng)前經(jīng)濟(jì)形態(tài),數(shù)據(jù)、算法和自動化決策開始影響基礎(chǔ)法律關(guān)系的形成、變更和消滅,法律應(yīng)該對此及時作出回應(yīng)。所以,在《反壟斷法》中設(shè)置單獨的數(shù)字條款具有可行性和必要性。

    2021年10月,《反壟斷法(修正草案)》(以下簡稱草案)正式公布。草案中引入“數(shù)字條款”。草案新增的第10條規(guī)定,“經(jīng)營者不得濫用數(shù)據(jù)和算法、技術(shù)、資本優(yōu)勢以及平臺規(guī)則等排除、限制競爭”。第22條新增“具有市場支配地位的經(jīng)營者利用數(shù)據(jù)和算法、技術(shù)以及平臺規(guī)則設(shè)置障礙,對其他經(jīng)營者進(jìn)行不合理限制的,屬于前款規(guī)定的濫用市場支配地位的行為”。需要注意的是,反壟斷法律法規(guī)中引入數(shù)字條款,不能一蹴而就。從社會基礎(chǔ)層面,需要人工智能技術(shù)對社會結(jié)構(gòu)和經(jīng)濟(jì)關(guān)系產(chǎn)生深刻的影響,產(chǎn)生新的法律關(guān)系。從法律理論層面,引入數(shù)字條款需要法律基礎(chǔ)的完備。如,數(shù)據(jù)權(quán)屬的規(guī)定為數(shù)據(jù)壟斷的確立邊界;算法解釋權(quán)的確立有助于限制平臺算法濫用。而且,當(dāng)前草案中的“數(shù)字條款”,不夠具體,應(yīng)該對數(shù)據(jù)、算法引發(fā)壟斷行為的特殊性進(jìn)行釋明,并且規(guī)定具體、詳細(xì)的認(rèn)定標(biāo)準(zhǔn),捋順數(shù)字條款和其他壟斷行為的關(guān)系,形成邏輯一致的反壟斷理論框架。

    (二)厘清平臺自治界限,落實平臺責(zé)任

    近幾年,在海外反壟斷規(guī)制中,平臺對銷售商的優(yōu)勢濫用成為監(jiān)管機(jī)構(gòu)反壟斷審查的重點。2018年11月,德國聯(lián)邦反壟斷局針對亞馬遜發(fā)起濫用支配地位的調(diào)查,審查平臺是否設(shè)定非法合同條款、妨礙公平競爭,如條款的透明度和合同的修訂、法律和管轄權(quán)的選擇、責(zé)任和免責(zé)規(guī)則、終止和凍結(jié)賬戶、產(chǎn)品信息的使用權(quán)和對等要求。由于亞馬遜當(dāng)即表示愿意與德國聯(lián)邦反壟斷局合作,相關(guān)機(jī)構(gòu)并未深入開展市場支配地位和濫用行為的調(diào)查,也沒有公布最終相關(guān)的法律評估。但是,德國聯(lián)邦反壟斷局進(jìn)行初步的相關(guān)市場界定,傾向于認(rèn)為相關(guān)的產(chǎn)品市場是在線市場服務(wù)且為雙邊市場,指出亞馬遜成為用戶訪問的“守門人”,擁有龐大的用戶群和用戶粘性(張江莉,2020)。美國《反壟斷調(diào)查報告》中對亞馬遜平臺的壟斷行為進(jìn)行相似的論述,給出大量的事實和證據(jù)表明平臺龐大的市場力量和“守門人”的地位,并著重分析平臺對銷售商的各種控制策略。該調(diào)查報告列舉大量證據(jù)和事實,論述亞馬遜利用不對稱的權(quán)力狀態(tài),對銷售商進(jìn)行控制、欺凌和剝削。

    海外反壟斷規(guī)制的實踐經(jīng)驗表明,“監(jiān)管機(jī)構(gòu)—平臺—用戶”的線性監(jiān)管路徑具有平臺責(zé)任邊界不清的風(fēng)險(丁道勤,2018)。監(jiān)管機(jī)構(gòu)在進(jìn)行反壟斷審查時,要厘清平臺自治的界限,加強(qiáng)對平臺濫用自治權(quán)行為的審查,即對平臺縱向控制用戶行為進(jìn)行審查。平臺自治權(quán)來源于網(wǎng)絡(luò)服務(wù)合同,應(yīng)借助市場競爭機(jī)制和傳統(tǒng)私法規(guī)范約束平臺私權(quán)力,與此同時對平臺私權(quán)力進(jìn)行適度干預(yù)也至關(guān)重要。對算法濫用進(jìn)行反壟斷規(guī)制,是約束平臺濫用私權(quán)、有效預(yù)防壟斷的重要手段。

    依據(jù)《反壟斷指南》第4條,平臺經(jīng)濟(jì)領(lǐng)域開展反壟斷監(jiān)管應(yīng)維護(hù)各方合法利益。該條強(qiáng)調(diào),平臺經(jīng)濟(jì)發(fā)展涉及多方主體,反壟斷監(jiān)管應(yīng)該著力維護(hù)平臺內(nèi)經(jīng)營者、消費者和從業(yè)人員等各方主體的合法權(quán)益。自治算法作為平臺自治的技術(shù)手段,如果濫用會加劇主體間利益失衡,尤其對處于被管理、被控制的銷售者不利。有效規(guī)制自治算法,是防止平臺對銷售者進(jìn)行剝奪性濫用的有力措施,可以實現(xiàn)平臺生態(tài)系統(tǒng)內(nèi)部的利益平衡、維護(hù)平臺生態(tài)系統(tǒng)良性運轉(zhuǎn)。依據(jù)《反壟斷指南》第11條,自治算法的反壟斷規(guī)制應(yīng)重視濫用市場支配地位分析中的數(shù)據(jù)和算法因素。一方面,在市場支配地位的認(rèn)定因素中,自治算法直接體現(xiàn)平臺支配、控制市場的能力,包括平臺的財力和技術(shù)條件。平臺通過算法濫用加強(qiáng)內(nèi)部控制,形成用戶對平臺的依賴,實現(xiàn)鎖定效應(yīng)。另一方面,算法濫用支撐平臺濫用市場支配地位。根據(jù)《反壟斷指南》規(guī)定,算法濫用是平臺濫用市場支配地位的重要技術(shù)手段。在具體的濫用行為中,平臺通過算法濫用拒絕交易、限定交易、搭售或者附加不合理交易條件、差別待遇等具有必然性,符合數(shù)字經(jīng)濟(jì)特征。平臺通過算法濫用,剝奪上下游企業(yè)或終端消費者的利益獲取獨占利潤,進(jìn)行不同產(chǎn)業(yè)鏈層次間的利潤掠取行為(詹馥靜,2020)在數(shù)字技術(shù)的加持下,平臺濫用自治權(quán)的行為更加隱蔽。所以在平臺經(jīng)濟(jì)領(lǐng)域,厘清平臺自治界限、落實平臺責(zé)任,也是規(guī)制平臺壟斷行為的有效路徑之一。

    (三)規(guī)制算法濫用,警惕算法合謀

    自治算法作為平臺對經(jīng)營者的直接控制手段,體現(xiàn)合同約束和私權(quán)控制。很多苛刻的自治條款和自治算法,短期來看,確實讓消費者取得了一定的利益。資本運作的新平臺爭奪市場份額時,“補(bǔ)貼大戰(zhàn)”也成為消費者享受低價的狂歡。消費者似乎“薅得羊毛”,但是建立在平臺對內(nèi)部經(jīng)營者壓榨基礎(chǔ)之上的消費者福利,并不長久。隨著網(wǎng)絡(luò)效應(yīng)和鎖定效應(yīng)的出現(xiàn),平臺利用與消費者之間信息不對稱,進(jìn)行算法濫用,侵害消費者權(quán)益。當(dāng)前,電商平臺商品和服務(wù)的價格逐漸趨同,消費者比價和自由選擇權(quán)受到限制。平臺通過算法濫用實現(xiàn)縱向控制引發(fā)橫向算法合謀,導(dǎo)致價格協(xié)同行為出現(xiàn)。2015年,美國網(wǎng)約車平臺Uber的用戶向法院起訴,指控平臺要求司機(jī)和用戶使用一致的價格算法,形成平臺內(nèi)部經(jīng)營者之間價格競爭限制,從而由縱向控制引發(fā)橫向價格協(xié)同(柳欣玥,2019)。2017年OECD發(fā)布的《算法與合謀》報告指出,算法濫用引發(fā)壟斷擔(dān)憂,平臺之間即使沒有任何正式協(xié)議或人類互動,也可以借由算法實現(xiàn)和維持共謀,而競爭對手之間的合謀可能損害消費者利益(韓偉,2017)。一旦披上算法的外衣,算法黑箱產(chǎn)生的隱蔽性會進(jìn)一步加劇反競爭效果。

    值得慶幸的是,我國《反壟斷指南》對算法合謀進(jìn)行了規(guī)定。根據(jù)《反壟斷指南》第5條,通過數(shù)據(jù)、算法、平臺規(guī)則或者其他方式實質(zhì)上存在協(xié)調(diào)一致的行為構(gòu)成協(xié)同行為。但是算法黑箱和算法偏見加大了監(jiān)管算法共謀的難度,這要求在反壟斷規(guī)制體系中,繼續(xù)歸納總結(jié)算法共謀的特征,并且梳理算法濫用對價格協(xié)同行為、價格歧視行為產(chǎn)生的具體影響以及判斷要素,增強(qiáng)對算法濫用進(jìn)行反壟斷規(guī)制的可操作性和可預(yù)期性。

    猜你喜歡
    反壟斷規(guī)制算法
    主動退市規(guī)制的德國經(jīng)驗與啟示
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    進(jìn)位加法的兩種算法
    保護(hù)與規(guī)制:關(guān)于文學(xué)的刑法
    刑法論叢(2018年4期)2018-05-21 00:44:30
    論《反不正當(dāng)競爭法》的規(guī)制范疇
    法治研究(2016年4期)2016-12-01 03:41:40
    一種改進(jìn)的整周模糊度去相關(guān)算法
    內(nèi)容規(guī)制
    淺議“區(qū)域”的反壟斷問題
    反壟斷亮劍
    中國連鎖(2013年9期)2013-04-29 00:44:03
    精品亚洲成a人片在线观看| 欧美成狂野欧美在线观看| 桃花免费在线播放| 一本综合久久免费| av在线app专区| 亚洲成av片中文字幕在线观看| 在线看a的网站| 国产成人免费观看mmmm| 一本大道久久a久久精品| 久久精品国产a三级三级三级| 久久中文看片网| 母亲3免费完整高清在线观看| 操美女的视频在线观看| 91九色精品人成在线观看| 悠悠久久av| a级片在线免费高清观看视频| 亚洲欧美精品自产自拍| 欧美日韩一级在线毛片| 亚洲成人手机| 一区二区三区激情视频| 乱人伦中国视频| 老汉色av国产亚洲站长工具| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲精品av麻豆狂野| 啦啦啦啦在线视频资源| www.av在线官网国产| 香蕉国产在线看| 欧美大码av| 一二三四在线观看免费中文在| 国产精品麻豆人妻色哟哟久久| 国产精品自产拍在线观看55亚洲 | 最近最新中文字幕大全免费视频| 高清av免费在线| 国产在视频线精品| 精品人妻一区二区三区麻豆| 美女脱内裤让男人舔精品视频| 久久精品久久久久久噜噜老黄| 亚洲精品久久午夜乱码| 在线亚洲精品国产二区图片欧美| 日韩三级视频一区二区三区| 一区二区av电影网| 国产亚洲精品一区二区www | 12—13女人毛片做爰片一| kizo精华| 99香蕉大伊视频| 男女高潮啪啪啪动态图| 又紧又爽又黄一区二区| 中文字幕人妻丝袜一区二区| 午夜精品久久久久久毛片777| 人人澡人人妻人| 国产精品国产三级国产专区5o| 日韩欧美一区二区三区在线观看 | 午夜免费观看性视频| 狠狠狠狠99中文字幕| 可以免费在线观看a视频的电影网站| 在线观看舔阴道视频| 女人高潮潮喷娇喘18禁视频| 男女之事视频高清在线观看| 法律面前人人平等表现在哪些方面 | 欧美黑人精品巨大| 亚洲精品日韩在线中文字幕| 高清av免费在线| 亚洲国产精品成人久久小说| 欧美变态另类bdsm刘玥| 又大又爽又粗| 精品一区二区三区av网在线观看 | 国产高清视频在线播放一区 | 欧美日韩国产mv在线观看视频| 韩国精品一区二区三区| 国产精品一区二区在线观看99| 亚洲欧美成人综合另类久久久| 国产亚洲av高清不卡| 久久狼人影院| 欧美日韩成人在线一区二区| 高潮久久久久久久久久久不卡| 丰满饥渴人妻一区二区三| 黄片小视频在线播放| 汤姆久久久久久久影院中文字幕| 亚洲精品久久午夜乱码| 在线观看人妻少妇| 男女边摸边吃奶| 欧美精品av麻豆av| 亚洲国产欧美日韩在线播放| 精品人妻熟女毛片av久久网站| 波多野结衣一区麻豆| 啦啦啦中文免费视频观看日本| 纯流量卡能插随身wifi吗| 日本精品一区二区三区蜜桃| 波多野结衣一区麻豆| 国精品久久久久久国模美| 午夜精品国产一区二区电影| 久久中文字幕一级| 欧美国产精品一级二级三级| 国产高清视频在线播放一区 | 免费在线观看视频国产中文字幕亚洲 | a在线观看视频网站| 91大片在线观看| 性色av一级| 久久天堂一区二区三区四区| 日本av免费视频播放| 亚洲精品久久午夜乱码| 国产在线一区二区三区精| 女性生殖器流出的白浆| 日本wwww免费看| 一区二区三区乱码不卡18| 国产亚洲精品第一综合不卡| 免费观看人在逋| 国产精品亚洲av一区麻豆| 99国产精品99久久久久| av在线app专区| 国产伦人伦偷精品视频| 久久久久精品国产欧美久久久 | 日韩欧美免费精品| 法律面前人人平等表现在哪些方面 | 色94色欧美一区二区| 日本vs欧美在线观看视频| 在线观看舔阴道视频| 巨乳人妻的诱惑在线观看| 最近最新中文字幕大全免费视频| 男女高潮啪啪啪动态图| 少妇粗大呻吟视频| 国内毛片毛片毛片毛片毛片| 国产人伦9x9x在线观看| 好男人电影高清在线观看| 最近中文字幕2019免费版| 国产成人免费观看mmmm| 欧美精品啪啪一区二区三区 | 国产精品亚洲av一区麻豆| www日本在线高清视频| 久久久精品免费免费高清| 18在线观看网站| 亚洲欧美日韩高清在线视频 | 一边摸一边做爽爽视频免费| av在线老鸭窝| 蜜桃在线观看..| 亚洲九九香蕉| 汤姆久久久久久久影院中文字幕| av国产精品久久久久影院| 亚洲精品国产av蜜桃| 久久精品人人爽人人爽视色| 国产成人欧美在线观看 | 日本av手机在线免费观看| 亚洲国产成人一精品久久久| 色综合欧美亚洲国产小说| 一本久久精品| 久久亚洲精品不卡| 成人黄色视频免费在线看| 一级毛片女人18水好多| 亚洲国产成人一精品久久久| 丝袜美腿诱惑在线| 中文字幕最新亚洲高清| 亚洲国产欧美日韩在线播放| 狠狠婷婷综合久久久久久88av| 久久久久视频综合| 一二三四在线观看免费中文在| 十八禁网站网址无遮挡| 99热网站在线观看| 777久久人妻少妇嫩草av网站| 精品视频人人做人人爽| 欧美日韩一级在线毛片| 色婷婷久久久亚洲欧美| 亚洲久久久国产精品| 日韩有码中文字幕| 午夜福利影视在线免费观看| 国产xxxxx性猛交| a级毛片在线看网站| 欧美大码av| 女人被躁到高潮嗷嗷叫费观| 日韩视频一区二区在线观看| 中文精品一卡2卡3卡4更新| 男人爽女人下面视频在线观看| 考比视频在线观看| 亚洲伊人久久精品综合| 秋霞在线观看毛片| 视频区欧美日本亚洲| 中文字幕色久视频| 超碰97精品在线观看| 日韩熟女老妇一区二区性免费视频| 欧美黄色淫秽网站| 999久久久精品免费观看国产| 岛国毛片在线播放| 老司机福利观看| 久久久久久免费高清国产稀缺| www.999成人在线观看| 最黄视频免费看| 大片免费播放器 马上看| 搡老岳熟女国产| 日韩大码丰满熟妇| 99九九在线精品视频| 久久精品熟女亚洲av麻豆精品| 亚洲五月婷婷丁香| 中文字幕精品免费在线观看视频| 国产精品二区激情视频| 大片电影免费在线观看免费| 好男人电影高清在线观看| 性色av乱码一区二区三区2| 国产成人免费观看mmmm| 亚洲熟女毛片儿| 日韩,欧美,国产一区二区三区| 一本色道久久久久久精品综合| 老司机亚洲免费影院| 久热这里只有精品99| 最新的欧美精品一区二区| 国产av国产精品国产| 国产亚洲精品第一综合不卡| 桃红色精品国产亚洲av| 91精品国产国语对白视频| 黄频高清免费视频| 亚洲国产精品一区三区| 97在线人人人人妻| 青草久久国产| 美国免费a级毛片| 精品人妻一区二区三区麻豆| 桃红色精品国产亚洲av| 欧美精品啪啪一区二区三区 | 午夜激情久久久久久久| 另类精品久久| 男女免费视频国产| 王馨瑶露胸无遮挡在线观看| 欧美黑人精品巨大| 久9热在线精品视频| 无限看片的www在线观看| 国产伦理片在线播放av一区| 99热网站在线观看| 少妇粗大呻吟视频| 黄片大片在线免费观看| 亚洲va日本ⅴa欧美va伊人久久 | 伦理电影免费视频| 日本91视频免费播放| 青草久久国产| 老司机在亚洲福利影院| 老司机影院毛片| 国产精品 欧美亚洲| 三上悠亚av全集在线观看| 日韩,欧美,国产一区二区三区| 欧美日韩一级在线毛片| 中文字幕色久视频| 久久香蕉激情| 免费在线观看日本一区| 老汉色∧v一级毛片| 一二三四社区在线视频社区8| 男人操女人黄网站| 午夜91福利影院| 免费少妇av软件| 肉色欧美久久久久久久蜜桃| 日本wwww免费看| 欧美日韩国产mv在线观看视频| 免费黄频网站在线观看国产| 精品免费久久久久久久清纯 | 好男人电影高清在线观看| 日韩熟女老妇一区二区性免费视频| 中文字幕人妻熟女乱码| 人人妻人人添人人爽欧美一区卜| 久久久精品区二区三区| 1024香蕉在线观看| 欧美成狂野欧美在线观看| 久久久久久久精品精品| 欧美 日韩 精品 国产| 国产一区二区激情短视频 | 成年av动漫网址| 视频区欧美日本亚洲| 精品国产一区二区久久| 美女福利国产在线| 精品亚洲乱码少妇综合久久| 久久中文字幕一级| 欧美中文综合在线视频| 热99国产精品久久久久久7| 精品乱码久久久久久99久播| 国产男女内射视频| 黑人巨大精品欧美一区二区蜜桃| 成人黄色视频免费在线看| 在线 av 中文字幕| 国产有黄有色有爽视频| 午夜91福利影院| 欧美黑人欧美精品刺激| 国产精品欧美亚洲77777| 十八禁高潮呻吟视频| 欧美成狂野欧美在线观看| 男人爽女人下面视频在线观看| 一个人免费在线观看的高清视频 | av欧美777| 日本vs欧美在线观看视频| 久久久精品区二区三区| 麻豆av在线久日| 欧美 亚洲 国产 日韩一| 19禁男女啪啪无遮挡网站| 搡老乐熟女国产| 午夜影院在线不卡| 亚洲av男天堂| 99久久人妻综合| 亚洲美女黄色视频免费看| 岛国在线观看网站| 99re6热这里在线精品视频| 99热国产这里只有精品6| 亚洲欧美日韩另类电影网站| 久久精品人人爽人人爽视色| bbb黄色大片| av福利片在线| 欧美大码av| 亚洲va日本ⅴa欧美va伊人久久 | 精品一区二区三区四区五区乱码| 久热爱精品视频在线9| 精品国产乱码久久久久久男人| 国产成人免费无遮挡视频| 欧美老熟妇乱子伦牲交| 欧美大码av| 精品国产一区二区三区四区第35| 各种免费的搞黄视频| www.自偷自拍.com| 免费在线观看黄色视频的| 999久久久精品免费观看国产| 精品福利永久在线观看| 岛国在线观看网站| 精品免费久久久久久久清纯 | 看免费av毛片| 精品乱码久久久久久99久播| 国产人伦9x9x在线观看| av视频免费观看在线观看| 午夜激情久久久久久久| 天天影视国产精品| 亚洲综合色网址| av在线app专区| 精品熟女少妇八av免费久了| 国产欧美日韩一区二区三区在线| 欧美成狂野欧美在线观看| 黑人巨大精品欧美一区二区mp4| 日本a在线网址| 精品高清国产在线一区| 亚洲人成77777在线视频| 啦啦啦视频在线资源免费观看| 亚洲av美国av| 黄色怎么调成土黄色| 欧美午夜高清在线| 国产激情久久老熟女| 国产在线观看jvid| 色综合欧美亚洲国产小说| 97在线人人人人妻| 99久久精品国产亚洲精品| 好男人电影高清在线观看| tocl精华| 老熟妇仑乱视频hdxx| 国产精品成人在线| 久久久久久免费高清国产稀缺| 亚洲精品久久久久久婷婷小说| 手机成人av网站| 叶爱在线成人免费视频播放| 无限看片的www在线观看| 久久女婷五月综合色啪小说| 丝袜美足系列| 亚洲视频免费观看视频| 久久久精品94久久精品| 国产精品国产av在线观看| 熟女少妇亚洲综合色aaa.| 亚洲第一av免费看| 久久久久国产一级毛片高清牌| 99国产极品粉嫩在线观看| 午夜老司机福利片| 成人国产一区最新在线观看| 黄色片一级片一级黄色片| 每晚都被弄得嗷嗷叫到高潮| av福利片在线| av线在线观看网站| 日韩制服骚丝袜av| 黄色视频不卡| 国产成人免费无遮挡视频| 十八禁网站网址无遮挡| 国产1区2区3区精品| 十八禁网站免费在线| 国产成人av激情在线播放| 精品乱码久久久久久99久播| 欧美另类亚洲清纯唯美| 两个人免费观看高清视频| 成人三级做爰电影| 欧美黑人精品巨大| 中国国产av一级| av视频免费观看在线观看| 男女国产视频网站| 亚洲第一青青草原| 久久久久久久久免费视频了| 成年人免费黄色播放视频| 国产成人av激情在线播放| 91麻豆精品激情在线观看国产 | 五月开心婷婷网| 久久人人爽av亚洲精品天堂| 99re6热这里在线精品视频| www.熟女人妻精品国产| 18禁国产床啪视频网站| 精品一区二区三区av网在线观看 | 成在线人永久免费视频| 亚洲av片天天在线观看| 国产精品av久久久久免费| 久久精品国产综合久久久| 免费高清在线观看日韩| 亚洲专区字幕在线| 久久99一区二区三区| 五月天丁香电影| 久久99一区二区三区| 欧美日韩精品网址| 久久天躁狠狠躁夜夜2o2o| 欧美成人午夜精品| 久久九九热精品免费| 丰满饥渴人妻一区二区三| 制服诱惑二区| 男人舔女人的私密视频| 一区二区av电影网| 午夜福利视频在线观看免费| 久久久久国产一级毛片高清牌| 亚洲国产看品久久| 日本猛色少妇xxxxx猛交久久| 久久精品国产亚洲av香蕉五月 | 久久久久视频综合| 久久狼人影院| 国产高清videossex| a级片在线免费高清观看视频| 亚洲国产精品一区三区| 欧美激情极品国产一区二区三区| 午夜日韩欧美国产| 成年美女黄网站色视频大全免费| 男人爽女人下面视频在线观看| 亚洲黑人精品在线| 久久久精品区二区三区| 亚洲人成电影免费在线| 在线观看人妻少妇| 国产亚洲欧美精品永久| 两个人免费观看高清视频| 高清在线国产一区| 中文字幕人妻丝袜一区二区| 丝袜美足系列| 性色av乱码一区二区三区2| 手机成人av网站| 一级片免费观看大全| 在线 av 中文字幕| 黄色视频,在线免费观看| 50天的宝宝边吃奶边哭怎么回事| 久久久精品免费免费高清| 亚洲综合色网址| 韩国精品一区二区三区| 中文欧美无线码| 老熟妇乱子伦视频在线观看 | netflix在线观看网站| 亚洲国产av新网站| www.自偷自拍.com| 可以免费在线观看a视频的电影网站| av在线老鸭窝| 欧美国产精品一级二级三级| 在线精品无人区一区二区三| 中文字幕高清在线视频| 少妇裸体淫交视频免费看高清 | 久久久久久久国产电影| 国产成人免费观看mmmm| 日韩 欧美 亚洲 中文字幕| 欧美少妇被猛烈插入视频| 男女床上黄色一级片免费看| 亚洲成人手机| 交换朋友夫妻互换小说| 国产精品国产三级国产专区5o| 最黄视频免费看| 国产在线一区二区三区精| 婷婷丁香在线五月| av视频免费观看在线观看| 亚洲欧美日韩高清在线视频 | 99久久国产精品久久久| 亚洲自偷自拍图片 自拍| 美女脱内裤让男人舔精品视频| 在线十欧美十亚洲十日本专区| 天天操日日干夜夜撸| 国产亚洲av高清不卡| 汤姆久久久久久久影院中文字幕| 99久久99久久久精品蜜桃| 国产男女超爽视频在线观看| 91精品国产国语对白视频| 成年人免费黄色播放视频| 伦理电影免费视频| 在线永久观看黄色视频| 精品久久蜜臀av无| 老熟女久久久| 麻豆国产av国片精品| 每晚都被弄得嗷嗷叫到高潮| 欧美亚洲 丝袜 人妻 在线| 久热爱精品视频在线9| 丝袜人妻中文字幕| 女人被躁到高潮嗷嗷叫费观| 亚洲第一欧美日韩一区二区三区 | 亚洲国产看品久久| 9色porny在线观看| 亚洲性夜色夜夜综合| 色老头精品视频在线观看| 国产色视频综合| 韩国精品一区二区三区| 午夜激情久久久久久久| 十八禁网站免费在线| 99九九在线精品视频| 一级片免费观看大全| 欧美亚洲日本最大视频资源| 爱豆传媒免费全集在线观看| 国产不卡av网站在线观看| 在线观看免费高清a一片| 欧美xxⅹ黑人| 亚洲中文字幕日韩| 免费不卡黄色视频| 欧美黑人精品巨大| 国产1区2区3区精品| 久久人妻熟女aⅴ| 日韩中文字幕欧美一区二区| 三级毛片av免费| 在线观看免费视频网站a站| 两个人看的免费小视频| 精品国产一区二区三区久久久樱花| 国产精品久久久久久精品电影小说| 国产黄频视频在线观看| 亚洲成人免费av在线播放| 久久久精品94久久精品| 90打野战视频偷拍视频| 精品福利观看| 99久久国产精品久久久| avwww免费| 看免费av毛片| 性色av乱码一区二区三区2| 韩国高清视频一区二区三区| 日本撒尿小便嘘嘘汇集6| h视频一区二区三区| 啦啦啦在线免费观看视频4| 国内毛片毛片毛片毛片毛片| 99热全是精品| 国产成人av教育| 日韩精品免费视频一区二区三区| 丰满迷人的少妇在线观看| 国产男女超爽视频在线观看| 黑人巨大精品欧美一区二区mp4| 一进一出抽搐动态| 久久精品国产亚洲av香蕉五月 | 制服人妻中文乱码| 90打野战视频偷拍视频| 亚洲欧美日韩另类电影网站| 国产精品秋霞免费鲁丝片| 两个人免费观看高清视频| 一级毛片精品| 欧美精品一区二区大全| 成人av一区二区三区在线看 | 精品人妻熟女毛片av久久网站| 女人爽到高潮嗷嗷叫在线视频| av超薄肉色丝袜交足视频| 午夜视频精品福利| 欧美中文综合在线视频| 国产在线免费精品| 午夜激情av网站| 日韩有码中文字幕| 久久热在线av| 19禁男女啪啪无遮挡网站| 亚洲午夜精品一区,二区,三区| 在线观看免费午夜福利视频| 久热这里只有精品99| 91精品国产国语对白视频| 亚洲精华国产精华精| 久久人人97超碰香蕉20202| 亚洲精品乱久久久久久| 欧美黑人欧美精品刺激| 超碰成人久久| 99香蕉大伊视频| 精品国产一区二区三区四区第35| 啦啦啦中文免费视频观看日本| 成年美女黄网站色视频大全免费| 国产成人欧美| 国产成人欧美在线观看 | 国产av一区二区精品久久| 美女福利国产在线| 男女免费视频国产| 每晚都被弄得嗷嗷叫到高潮| 亚洲欧洲日产国产| 女性生殖器流出的白浆| 亚洲精品成人av观看孕妇| 免费不卡黄色视频| 高清视频免费观看一区二区| 夜夜骑夜夜射夜夜干| 欧美成狂野欧美在线观看| 午夜影院在线不卡| 免费一级毛片在线播放高清视频 | 男女高潮啪啪啪动态图| 国产精品一区二区在线观看99| 亚洲中文字幕日韩| 亚洲成国产人片在线观看| 99国产精品免费福利视频| 欧美人与性动交α欧美软件| 99香蕉大伊视频| 国产精品香港三级国产av潘金莲| 91精品伊人久久大香线蕉| 欧美在线一区亚洲| 久久人人97超碰香蕉20202| 成人影院久久| 香蕉丝袜av| 亚洲国产欧美日韩在线播放| 法律面前人人平等表现在哪些方面 | 日韩中文字幕视频在线看片| 在线精品无人区一区二区三| 丝袜脚勾引网站| 国产麻豆69| 国产精品二区激情视频| 欧美激情久久久久久爽电影 | 国产免费一区二区三区四区乱码| a在线观看视频网站| 国产精品麻豆人妻色哟哟久久| 中文字幕av电影在线播放| 色精品久久人妻99蜜桃| 91成人精品电影| 黄色怎么调成土黄色| 国产精品 国内视频| 精品人妻一区二区三区麻豆| 亚洲精品久久午夜乱码| 亚洲黑人精品在线| 精品亚洲成a人片在线观看| 色视频在线一区二区三区| 电影成人av| 精品亚洲成a人片在线观看| 亚洲色图综合在线观看| av超薄肉色丝袜交足视频|