• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    算法共謀中經(jīng)營者責(zé)任的認(rèn)定:基于意思聯(lián)絡(luò)的解讀與分析

    2022-03-17 08:42:26剌森
    關(guān)鍵詞:經(jīng)營者

    剌森

    (北京工商大學(xué) 法學(xué)院,北京 100048)

    一、引言

    數(shù)據(jù)和算法的使用便利了經(jīng)營者之間達(dá)成壟斷協(xié)議,由此產(chǎn)生算法共謀的問題。按照算法在共謀中所發(fā)揮的作用,可以將當(dāng)前的算法共謀案件分為兩類,一類是經(jīng)營者事先已經(jīng)達(dá)成共謀,算法僅構(gòu)成執(zhí)行一致定價(jià)的工具。典型案件諸如美國的“Topkins”案和英國在線海報(bào)案,兩者均涉及在線海報(bào)銷售商使用定價(jià)算法,執(zhí)行一致的價(jià)格。另外一類案件包括美國的Meyer v.Uber Technologies, Inc.案與歐盟的Eturas案,兩者均表現(xiàn)為軸輻協(xié)議的形式,即平臺處于軸輻協(xié)議的軸心位置,其通過算法組織輻條位置的企業(yè)達(dá)成壟斷協(xié)議。第一類算法共謀案件與傳統(tǒng)的共謀案件并無本質(zhì)區(qū)別,在認(rèn)定經(jīng)營者責(zé)任時(shí)基本可以適用反壟斷法對壟斷協(xié)議的分析路徑。但是,在第二類案件中,經(jīng)營者并非直接達(dá)成意思聯(lián)絡(luò),而是通過算法組織、達(dá)成并且實(shí)施間接的意思聯(lián)絡(luò)。

    目前我國規(guī)制算法共謀的制度依據(jù)主要包括《反壟斷法》第13條、國家市場監(jiān)管總局的《禁止壟斷協(xié)議暫行規(guī)定》(以下簡稱《暫行規(guī)定》)第5條、第6條以及《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》(以下簡稱《指南》)。其中《暫行規(guī)定》第6條明確了認(rèn)定協(xié)同行為所要考量的因素,包括一致行為、意思聯(lián)絡(luò)、經(jīng)營者對一致行為的合理解釋以及相關(guān)市場的情況?!吨改稀吩凇皦艛鄥f(xié)議”一章粗略列舉了算法共謀的表現(xiàn)形式,并肯定了反壟斷執(zhí)法機(jī)構(gòu)可以依據(jù)間接證據(jù)對算法共謀進(jìn)行認(rèn)定。當(dāng)前對算法共謀的研究普遍認(rèn)可,算法共謀中經(jīng)營者之間缺乏直接的意思聯(lián)絡(luò),甚或不存在傳統(tǒng)意義上的意思聯(lián)絡(luò),這種意思聯(lián)絡(luò)的隱蔽化或者缺位,導(dǎo)致由算法所實(shí)施的一致行為難以被認(rèn)定為壟斷協(xié)議,使協(xié)同行為與“寡頭一致定價(jià)”(即平行行為)難以被區(qū)分,進(jìn)而產(chǎn)生對現(xiàn)行壟斷協(xié)議理論是否仍能有效調(diào)整算法共謀的質(zhì)疑。此外,算法在共謀達(dá)成中具有雙重屬性——工具性與自主性,算法的自主性使壟斷行為與責(zé)任脫節(jié),現(xiàn)有研究中出現(xiàn)脫離行為認(rèn)定責(zé)任的觀點(diǎn)。但這一觀點(diǎn)與壟斷協(xié)議的分析方法相背離,對于產(chǎn)業(yè)創(chuàng)新也可能導(dǎo)致抑制效果。

    因此,本文從算法共謀中的核心概念——意思聯(lián)絡(luò)這一視角出發(fā),主要探討在算法軸輻協(xié)議的場景下,經(jīng)營者的責(zé)任認(rèn)定問題。包括:(1)意思聯(lián)絡(luò)的表現(xiàn)形式在算法共謀的場景中發(fā)生了何種變化,當(dāng)前反壟斷法理論中意思聯(lián)絡(luò)的概念能否適用,考量到間接意思聯(lián)絡(luò)的存在,應(yīng)當(dāng)如何意思聯(lián)絡(luò)這一概念進(jìn)行解釋;(2)在算法共謀中的平行行為是否應(yīng)當(dāng)被認(rèn)定為違法,如何在不同場景下區(qū)分平行行為與協(xié)同行為;(3)在算法工具性與自主性的影響下,如何認(rèn)定經(jīng)營者的責(zé)任。從理論上來說,基于算法共謀給傳統(tǒng)的共謀理論帶來的挑戰(zhàn),在借鑒現(xiàn)有判例與理論的基礎(chǔ)上,探討算法共謀中(尤其是軸輻協(xié)議中)的間接意思聯(lián)絡(luò)的認(rèn)定標(biāo)準(zhǔn),傳統(tǒng)共謀理論中諸如意思聯(lián)絡(luò)的概念、經(jīng)營者責(zé)任認(rèn)定的分析路徑是否能夠適用于算法共謀的各種場景中。在此基礎(chǔ)上分析算法平行行為與協(xié)同行為劃分的標(biāo)準(zhǔn),以及對涉及自主學(xué)習(xí)定價(jià)的經(jīng)營者責(zé)任與第三方責(zé)任進(jìn)行分類討論。從現(xiàn)實(shí)意義角度來看,隨著算法自主性的不斷發(fā)展,算法共謀已經(jīng)不再單純是一個理論假想。本文在理論研究的基礎(chǔ)上,對未來立法執(zhí)法中明晰算法共謀中意思聯(lián)絡(luò)的認(rèn)定與經(jīng)營者責(zé)任的認(rèn)定具有一定的參考價(jià)值。

    二、算法共謀的研究現(xiàn)狀

    目前,關(guān)于算法共謀的相關(guān)研究主要集中于算法定價(jià)對市場競爭的影響、算法平行行為的法律認(rèn)定以及自我學(xué)習(xí)算法下經(jīng)營者責(zé)任的認(rèn)定。

    (一)算法定價(jià)對市場競爭的影響問題

    算法定價(jià)對市場競爭的積極影響主要體現(xiàn)在提高市場透明度上,Jeanine Miklós-Thal和Catherine Tucker(2018)[1]通過模型分析,提出算法可以更準(zhǔn)確地預(yù)測消費(fèi)者需求,從而增強(qiáng)企業(yè)降價(jià)的動機(jī)并提升消費(fèi)者福利。Michal S Gal和Niva Elkin-Koren(2017)[2]研究了消費(fèi)者在算法的協(xié)助下可以作出更高效的決策,決策速度更快,交易成本更低,并提出“算法消費(fèi)者”的概念?!八惴ㄏM(fèi)者”的市場力量在一定程度上構(gòu)成對供應(yīng)商的對抗力量。但是定價(jià)算法也可能便利企業(yè)達(dá)成共謀,從而妨礙市場競爭。依據(jù)定價(jià)算法在共謀中所發(fā)揮的作用,Ariel Ezrachi和Maurice E Stucke(2016)[3]將算法共謀劃分為“信使模式”(Messenger)、“軸輻模式”(Hub-and-Spoke)、“可預(yù)測代理人模式”(Predictable Agent)以及“電子眼模式”(Digital Eye),提出算法定價(jià)可能促進(jìn)在“可預(yù)測代理人”與“電子眼模式”下市場透明度的提高,也可能導(dǎo)致企業(yè)操縱市場定價(jià)。Lea Bernhardt和Ralf Dewenter(2020)[4]認(rèn)為在涉及共謀時(shí),市場透明度具有雙重效果。一方面,透明度提高有利于消費(fèi)者決策;另一方面,算法所導(dǎo)致的高市場透明度更容易引發(fā)共謀問題,向企業(yè)實(shí)時(shí)提供競爭對手的數(shù)據(jù),有利于共謀維持穩(wěn)定。Paolo Siciliani(2018)[5]提出數(shù)字商業(yè)模式的高固定成本、低邊際成本與對于消費(fèi)者的低搜索成本特性,使企業(yè)有動機(jī)通過算法實(shí)施一致定價(jià),以避免割喉式的價(jià)格競爭??偨Y(jié)上述文獻(xiàn),可以發(fā)現(xiàn)當(dāng)前討論主要集中于算法定價(jià)對市場透明度的影響,從積極效應(yīng)來看,算法所提升的市場透明度可以增強(qiáng)買方力量,避免買方被價(jià)格歧視;從消極影響來看,市場透明度的提高有助于企業(yè)收集競爭對手信息,實(shí)現(xiàn)算法一致定價(jià)。

    (二)算法平行行為的法律認(rèn)定問題

    針對涉及算法的“寡頭一致定價(jià)”問題,Ariel Ezrachi和Maurice E Stucke(2020)[6]提出即使缺乏意思聯(lián)絡(luò),算法共謀也可以維持穩(wěn)定,并且相關(guān)研究已經(jīng)證明算法平行行為是可能實(shí)現(xiàn)的,因此需要對此加強(qiáng)監(jiān)管。Vaclav Smejkal(2017)[7]提出算法可能導(dǎo)致有意識但非協(xié)同的平行行為,歐美等國普遍對這類行為缺乏有效規(guī)制,建議針對此類行為,對設(shè)計(jì)和使用算法的主體適用一個類似于嚴(yán)格責(zé)任的認(rèn)定標(biāo)準(zhǔn)。時(shí)建中(2020)[8]提出針對“預(yù)測”“自主”類算法共謀的場景或樣態(tài),由于經(jīng)營者之間意思聯(lián)絡(luò)的缺乏,難以適用當(dāng)前壟斷協(xié)議制度進(jìn)行調(diào)整,建議將共同支配地位制度進(jìn)行拓展,通過企業(yè)的協(xié)調(diào)動機(jī)、反復(fù)的互相作用或高頻互動以及高程度的市場透明度對算法默示共謀進(jìn)行認(rèn)定。上述文獻(xiàn)基本都肯定了傳統(tǒng)共謀理論無法用于規(guī)制算法定價(jià)這一問題,其主要原因在于“意思聯(lián)絡(luò)”這一概念出現(xiàn)適用障礙,并分別提出通過確立嚴(yán)格責(zé)任、拓展共同支配地位制度等方式加以解決。

    (三)自我學(xué)習(xí)算法下經(jīng)營者責(zé)任認(rèn)定問題

    針對算法是否可以通過自我學(xué)習(xí)實(shí)現(xiàn)共謀,目前仍缺乏實(shí)證,在理論研究中存在兩種截然不同的觀點(diǎn),反對的觀點(diǎn)諸如Ulrich Schwalb(2019)[9],其認(rèn)為目前不存在理論和實(shí)驗(yàn)證據(jù)表明,在市場條件變化的情況下,基于深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)交互下的自我學(xué)習(xí)算法能夠?qū)е滤惴ü仓\。支持的觀點(diǎn)包括Joseph E Harrington(2019)[10],其研究了由定價(jià)算法和學(xué)習(xí)算法所組成的“人工代理”(artificial agent),當(dāng)兩家企業(yè)使用不同的人工代理,可以通過設(shè)定其預(yù)期利潤與懲罰以促進(jìn)其協(xié)同定價(jià);當(dāng)兩個人工代理達(dá)成一致定價(jià),所獲取的利潤就達(dá)到最大值,但如果有人工代理背離一致定價(jià),其就會受到懲罰。

    針對經(jīng)營者是否應(yīng)對自我學(xué)習(xí)算法達(dá)成共謀承擔(dān)責(zé)任的問題,Vaclav Smejkal(2017)[7]、Niccolò Colombo(2018)[11]建議在反壟斷法中構(gòu)建類似于侵權(quán)法中的嚴(yán)格責(zé)任和替代責(zé)任。Salil K Mehra(2016)[12]分析了處理由機(jī)器導(dǎo)致反競爭責(zé)任的三種路徑:歸咎于機(jī)器本身、歸咎于操作機(jī)器的人以及不歸咎于任何人。其中不歸咎于任何人不符合效率和錯誤成本,而將責(zé)任歸咎于機(jī)器就需要針對機(jī)器的特性,對當(dāng)前壟斷協(xié)議認(rèn)定中的目的分析路徑進(jìn)行調(diào)整。Guan Zheng和Hong Wu(2019)[13]提出隨著算法自主性的加強(qiáng),有必要考量其在法律上的主體資格問題,認(rèn)為算法的理性挑戰(zhàn)了斯蒂格勒所定義的共謀達(dá)成的四項(xiàng)前提條件,同時(shí)算法的自主性和不可控性使其定價(jià)結(jié)果難以被歸結(jié)于企業(yè)的理性選擇。在涉及自我學(xué)習(xí)算法場景中的經(jīng)營者責(zé)任認(rèn)定問題,現(xiàn)有觀點(diǎn)普遍提出了參考侵權(quán)法中的嚴(yán)格責(zé)任與替代責(zé)任,來認(rèn)定算法提供者、操作者的責(zé)任,但是針對上述兩項(xiàng)責(zé)任制度適用于壟斷協(xié)議分析框架是否具有合理性,缺乏相關(guān)研究。

    從研究現(xiàn)狀可以看出,學(xué)者普遍認(rèn)為,雖然定價(jià)算法可能會對市場透明度提升帶來一定的積極效應(yīng),但是算法共謀問題應(yīng)當(dāng)受到反壟斷法的重視。特別是在算法默示共謀中,會出現(xiàn)意思聯(lián)絡(luò)難以認(rèn)定、平行行為與協(xié)同行為難以區(qū)分以及在自我學(xué)習(xí)算法中如何界定經(jīng)營者的責(zé)任等問題。但是,當(dāng)前的研究大多是集中于探討,在技術(shù)上算法共謀是否具有現(xiàn)實(shí)性,在經(jīng)濟(jì)學(xué)視角下算法如何便利共謀、算法平行行為在認(rèn)定中的困難,缺乏對現(xiàn)實(shí)案例的關(guān)注。在上述研究的基礎(chǔ)上,本文從算法共謀的主要特征之一——“間接意思聯(lián)絡(luò)”這一概念出發(fā),總結(jié)分析現(xiàn)有理論與判例,探討以下三個問題:一是算法共謀中的間接意思聯(lián)絡(luò)應(yīng)當(dāng)如何認(rèn)定,傳統(tǒng)的意思聯(lián)絡(luò)概念是否仍能夠解釋間接意思聯(lián)絡(luò)這一現(xiàn)象;二是算法共謀中,普遍存在經(jīng)營者之間缺乏意思聯(lián)絡(luò),或者意思聯(lián)絡(luò)不明顯的現(xiàn)象,導(dǎo)致協(xié)同行為與平行行為難以區(qū)別,需要重新審視兩者的邊界;三是在上述兩個問題的研究基礎(chǔ)上,對算法共謀場景進(jìn)行分類討論,探討算法提供者、操作者之間的責(zé)任劃分問題。

    三、算法共謀中經(jīng)營者責(zé)任認(rèn)定的法律困境與現(xiàn)實(shí)挑戰(zhàn)

    (一)協(xié)同行為的認(rèn)定要件問題

    理論上,算法共謀可能表現(xiàn)為明示的協(xié)議,或者默示的協(xié)同行為。因此,在認(rèn)定協(xié)同行為時(shí),應(yīng)當(dāng)依據(jù)我國《反壟斷法》第13條和第15條?!稌盒幸?guī)定》中列舉了協(xié)同行為的構(gòu)成要件,包括“一致行為”“意思聯(lián)絡(luò)或信息交流”“缺乏合理解釋”以及“相關(guān)市場的情況”。其中,需要由反壟斷執(zhí)法機(jī)構(gòu)予以證明的要件包括“一致行為”“意思聯(lián)絡(luò)或信息交流”以及“相關(guān)市場的情況”,而涉嫌違法的經(jīng)營者負(fù)有對其一致行為存在“合理解釋”進(jìn)行舉證。在“上海?;鶚I(yè)高科技有限公司等與安徽省工商行政管理局等行政訴訟”案中,二審法院提出,主觀上經(jīng)營者之間的意思聯(lián)絡(luò)或者信息交流是認(rèn)定協(xié)同行為的必備要件。

    大多數(shù)國家的反壟斷法中都有“協(xié)同行為”或類似概念,《歐盟運(yùn)行條約》第101條使用的是“concerted practice”這一表述,歐盟成員國大多都采取這一表述,例如德國《反對限制競爭法》所稱的“Abgestimmte Verhaltensweisen”也是同義。與此相對應(yīng)的是美國與澳大利亞等國家使用“facilitating practice”“concerted actions”等術(shù)語來指代“協(xié)同行為”。在Dyestuffs案中,歐盟法院將協(xié)同行為定義為:“企業(yè)之間的一種協(xié)調(diào)形式,還未到協(xié)議達(dá)成的階段,企業(yè)故意以行為上的合作來代替競爭的風(fēng)險(xiǎn)?!币虼?,在歐盟競爭法中界定協(xié)同行為,需要滿足:(1)存在某種形式的協(xié)調(diào)或?qū)嵺`上的合作;(2)這種合作是通過直接或間接的聯(lián)絡(luò)達(dá)成的;(3)企業(yè)之間的聯(lián)絡(luò)與合作具有因果關(guān)系。在歐盟競爭法中,協(xié)議與協(xié)同行為之間并不具有一個明確的邊界,兩者“都是某種形式的共謀,擁有同樣的性質(zhì),僅在強(qiáng)度和表現(xiàn)形式上有所區(qū)別”。與之相對應(yīng)地是美國反托拉斯法傳統(tǒng)上缺乏“協(xié)同行為”的概念,美國《謝爾曼法》第1條針對“共謀”的表述包括協(xié)議(“contract”“agreement”)、聯(lián)合(“combination”)、共謀(“conspiracy”)。美國法院在早期判例中不會單獨(dú)認(rèn)定協(xié)同行為違法,而是將協(xié)同行為作為認(rèn)定協(xié)議的“輔助因素”(“plus factor”),允許原告或執(zhí)法機(jī)構(gòu)援引協(xié)同行為作為間接證據(jù)來推導(dǎo)協(xié)議的存在。

    (二)算法共謀的損害認(rèn)定問題

    經(jīng)濟(jì)學(xué)理論普遍認(rèn)為交換信息在改善市場透明度方面存在積極效果,有助于提升效率并最終使消費(fèi)者受益。市場透明度的提高有助于企業(yè)了解供需情況并且制定最佳策略。同時(shí),交換技術(shù)信息,對創(chuàng)新存在著顯著的積極效果。市場透明度的提高可以降低搜索成本,使消費(fèi)者作出更明智的選擇。從消極效果來說,協(xié)同行為除了可能導(dǎo)致限制產(chǎn)出、抬高價(jià)格以外,意思聯(lián)絡(luò)還可能對市場中未參與交換信息的競爭者產(chǎn)生排擠效果,使其處于競爭劣勢。因此,在分析交換信息對市場產(chǎn)生的效果時(shí),應(yīng)當(dāng)注意交換信息是使所有市場參加者受益,還是僅限于參與交換信息的企業(yè)受益。因?yàn)楹笳哌_(dá)成共謀的風(fēng)險(xiǎn)更高,對市場透明度的提升也相對有限。

    使用算法進(jìn)行定價(jià),本身具有一定的積極效果。一是算法定價(jià)極大地提高了企業(yè)的定價(jià)效率,節(jié)約定價(jià)成本。同時(shí)算法定價(jià)有助于企業(yè)及時(shí)地調(diào)整商品價(jià)格,甚至進(jìn)行動態(tài)定價(jià)、個性化定價(jià),以及時(shí)回應(yīng)市場的供需變化。數(shù)據(jù)和算法的使用有助于企業(yè)為用戶提供更精準(zhǔn)的服務(wù),激發(fā)創(chuàng)新。二是算法提升了定價(jià)透明度,依靠算法,消費(fèi)者可以做出更加理性的決策,比價(jià)網(wǎng)站就是一個典型的例子。

    達(dá)成共謀需要具備三項(xiàng)主要因素,一是共謀必須擁有提高價(jià)格的能力;二是共謀所帶來的預(yù)期收益要高于預(yù)期懲罰;三是達(dá)成及執(zhí)行共謀的成本低于其預(yù)期收益[14]。在靜態(tài)市場中,提高市場價(jià)格的能力一定程度上取決于市場競爭特性,包括商品的需求彈性、潛在競爭者商品的替代性等。基于上述三個因素,使用算法進(jìn)行定價(jià)可能會便利企業(yè)達(dá)成共謀。一方面,企業(yè)通過算法收集競爭者的定價(jià)數(shù)據(jù)更加容易,同時(shí)能夠更準(zhǔn)確地評估市場競爭狀況,包括需求彈性和潛在競爭者商品的替代性;另一方面,算法提高了對顧客需求的準(zhǔn)確預(yù)測,使不同企業(yè)之間提供的商品或服務(wù)差異化程度提高,替代性降低。當(dāng)然,也有相反的觀點(diǎn)提出,算法所帶來的完全價(jià)格歧視會降低企業(yè)達(dá)成共謀的動機(jī),因?yàn)橥耆珒r(jià)格已經(jīng)可以最大程度地掠奪消費(fèi)者剩余,企業(yè)無需再通過實(shí)施共謀獲利[15]。此外,算法定價(jià)可以便利企業(yè)監(jiān)控共謀的履行,并對協(xié)議成員的背離行為實(shí)施嚴(yán)格的懲罰。一方面,由算法統(tǒng)一執(zhí)行的定價(jià)策略,具有明顯的隱蔽性和低成本性,能夠降低執(zhí)法機(jī)構(gòu)發(fā)現(xiàn)共謀存在的可能性,從而使企業(yè)降低對其未來可能受到懲罰的預(yù)期;另一方面,算法可以用于監(jiān)控成員執(zhí)行協(xié)議,防止背離或欺騙行為。

    (三)算法共謀所引發(fā)的經(jīng)營者責(zé)任認(rèn)定問題

    認(rèn)定經(jīng)營者的責(zé)任需要考量算法在不同共謀場景中所發(fā)揮的功能。當(dāng)算法僅構(gòu)成經(jīng)營者達(dá)成或?qū)嵤┕仓\的一項(xiàng)工具時(shí),經(jīng)營者的責(zé)任認(rèn)定較為容易。在Topkins案中,算法定價(jià)軟件只是執(zhí)行橫向固定價(jià)格協(xié)議的工具,在使用算法一致定價(jià)之前,協(xié)議成員就已經(jīng)實(shí)施了私下的意思聯(lián)絡(luò)。在這種情況下,算法并未實(shí)質(zhì)上影響經(jīng)營者責(zé)任的認(rèn)定。美國聯(lián)邦貿(mào)易委員會委員Maureen Ohlhausen曾經(jīng)將此類情況下的算法比喻成“一個叫Bob的人”,提出只要“算法”一詞能夠被“一個叫Bob的人”所替換,那么現(xiàn)行的認(rèn)定方法就可以適用[16]。

    但是,算法共謀可能在以下三個方面對反壟斷法理論提出挑戰(zhàn):一是使用算法實(shí)施一致定價(jià)時(shí),經(jīng)營者可能不再需要面對面地進(jìn)行意思聯(lián)絡(luò)。在算法一致定價(jià)中往往出現(xiàn)意思聯(lián)絡(luò)缺位的情況,因此需要檢視當(dāng)前反壟斷法中“意思聯(lián)絡(luò)”這一概念是否可以適用于算法共謀的場景中。算法共謀的隱蔽性表現(xiàn)為經(jīng)營者之間意思聯(lián)絡(luò)認(rèn)定的困難,特別是在軸輻協(xié)議的情況下。軸輻協(xié)議是一種中心輻射型的壟斷協(xié)議,由多個處于“輻條”位置的競爭者與一個處于“軸心”位置的企業(yè)或平臺組成,競爭者之間可以通過位于軸心的企業(yè)實(shí)施間接的信息交換,從而達(dá)成壟斷協(xié)議[17]。在德法兩國發(fā)布的《算法與競爭》報(bào)告中提出了經(jīng)營者通過使用算法達(dá)成軸輻協(xié)議的兩種情形,一是兩個或多個經(jīng)營者在知情的情況下使用同一第三方提供的算法,并通過算法實(shí)施了一致行為;二是經(jīng)營者在不知情的情況下使用了第三方提供的同一算法,最后出現(xiàn)了一致定價(jià)的情況[18]。其次,有必要重新考量算法所導(dǎo)致的平行行為與協(xié)同行為之間的邊界。在當(dāng)前反壟斷法中,兩者的區(qū)別在于經(jīng)營者之間是否存在意思聯(lián)絡(luò)。但是在算法共謀中,由于意思聯(lián)絡(luò)的缺位,導(dǎo)致需要重新審視兩者的劃分標(biāo)準(zhǔn)。第三,考量算法的工具性和自主性對經(jīng)營者責(zé)任認(rèn)定的影響,尤其在不同場景下經(jīng)營者、第三方與算法之間的關(guān)系。

    四、算法共謀中經(jīng)營者責(zé)任認(rèn)定:判例借鑒與理論分析

    (一)間接意思聯(lián)絡(luò)概念適用于算法共謀的認(rèn)定與證明

    在協(xié)同行為的認(rèn)定中,意思聯(lián)絡(luò)是一個核心要件。依據(jù)我國《反壟斷法》對“協(xié)同行為”的定義,經(jīng)營者之間的一致行為只有在存在意思聯(lián)絡(luò)的前提下,才可能構(gòu)成協(xié)同行為。而算法共謀的特殊性在于,算法極大地便利了競爭者之間實(shí)施間接意思聯(lián)絡(luò),特別是以軸輻協(xié)議的形式。由此產(chǎn)生關(guān)于間接意思聯(lián)絡(luò)應(yīng)如何認(rèn)定的問題。

    在間接意思聯(lián)絡(luò)的認(rèn)定上,歐盟“VM Remonts”案是一個經(jīng)典案例。該案涉及參與同一招投標(biāo)程序的三家企業(yè),在收到同一顧問公司提供的相似報(bào)價(jià)后,提出了一致的投標(biāo)價(jià)格,該行為是否構(gòu)成反壟斷法意義上的協(xié)同行為(串通投標(biāo))。其中判定三家企業(yè)承擔(dān)責(zé)任的前提是,他們在顧問公司的組織下達(dá)成軸輻協(xié)議,即存在間接的意思聯(lián)絡(luò)。歐盟法院在初步裁決程序中提出,在這種情況下,判斷企業(yè)是否應(yīng)承擔(dān)責(zé)任的三項(xiàng)標(biāo)準(zhǔn)是:首先,服務(wù)提供者(顧問公司)是否事實(shí)上受到其中一家企業(yè)的指導(dǎo)或控制。其次,企業(yè)是否意識到競爭者擁有反競爭目的,并且意圖通過其自身行為促使該目的實(shí)現(xiàn)。最后,企業(yè)是否能夠合理預(yù)見競爭者的反競爭行為并且準(zhǔn)備好接受該反競爭行為所導(dǎo)致的風(fēng)險(xiǎn)。在歐盟法院提出的三項(xiàng)標(biāo)準(zhǔn)中,第一項(xiàng)意在判定經(jīng)營者之間是否存在直接的隸屬關(guān)系。如果服務(wù)提供者受控于參與投標(biāo)的企業(yè),就可以將兩者視為一體,該案就符合典型的橫向壟斷協(xié)議結(jié)構(gòu)。而第二、三項(xiàng)標(biāo)準(zhǔn)旨在判定經(jīng)營者之間是否存在間接的意思聯(lián)絡(luò),即一定程度上擴(kuò)張解釋了“意思聯(lián)絡(luò)”這一概念,將“知情默許”與“合理預(yù)見”也視為意思聯(lián)絡(luò)的形式。同時(shí),第二、三項(xiàng)標(biāo)準(zhǔn)事實(shí)上提高了經(jīng)營者的注意義務(wù)與背離義務(wù),涉及到間接意思聯(lián)絡(luò)時(shí),消極應(yīng)對共謀并不能免除經(jīng)營者自身責(zé)任,經(jīng)營者必須采取更積極有效地手段避免違法后果的發(fā)生。

    在算法軸輻協(xié)議中,間接意思聯(lián)絡(luò)往往表現(xiàn)為一種單向的信息傳遞,而非雙向的信息共享。信息接收者對于收到的信息往往保持沉默,不做任何回應(yīng),卻在之后采取了一致行為。因此,在認(rèn)定單向信息傳遞構(gòu)成共謀時(shí),往往缺乏信息接收者對信息傳遞知情的直接證據(jù)。這一現(xiàn)象在Eturas和VM Remonts兩個案件中均有所體現(xiàn)。在Eturas案中。這種單向信息傳遞表現(xiàn)為Eturas平臺統(tǒng)一通過系統(tǒng)郵箱向平臺內(nèi)旅行社發(fā)送限制折扣的信息,后續(xù)通過系統(tǒng)定價(jià)實(shí)施了統(tǒng)一限制折扣的行為。其中一部分旅行社辯稱他們之間并不存在意思聯(lián)絡(luò),因?yàn)樗麄儾]有收到或者注意到平臺所發(fā)送的爭議信息,也沒有意識到系統(tǒng)統(tǒng)一對折扣進(jìn)行了限制,因此其不應(yīng)承擔(dān)責(zé)任。VM Remonts案中三家企業(yè)同樣否認(rèn)通過顧問公司實(shí)施了意思聯(lián)絡(luò)。

    因此,在認(rèn)定間接意思聯(lián)絡(luò)時(shí),需要考量證明責(zé)任分配的問題,不合理地設(shè)定證明責(zé)任可能導(dǎo)致執(zhí)法出現(xiàn)假陰性或假陽性錯誤。歐盟法院在Etruas案的裁決中,對間接意思聯(lián)絡(luò)的證明設(shè)定了一個可反駁推定,即只要經(jīng)營者對一致行為知情,就可以推定間接意思聯(lián)絡(luò)的存在,除非經(jīng)營者能夠提出相反的證據(jù)。在VM Remonts案中,法律顧問Wathelet提出了一個具傾向性的證明責(zé)任,只要信息接收者對收到的信息沒有表示明確的反對,即構(gòu)成一種默示的共謀。這相當(dāng)于提高了經(jīng)營者公開背離的義務(wù),類似觀點(diǎn)也存在于Eturas案中。歐盟法院確認(rèn),如果旅行社對平臺限制折扣的行為知情,那么可以推定旅行社參與了協(xié)同行為,除非他們能夠證明自己公開地實(shí)施了背離行為(例如事實(shí)上未實(shí)施一致行為或者曾經(jīng)主動地向競爭執(zhí)法機(jī)構(gòu)進(jìn)行舉報(bào))。在背離行為的證明上,經(jīng)營者負(fù)有舉證責(zé)任,其需要提出有效的證據(jù)證明其實(shí)施了背離行為。

    由此可見,間接意思聯(lián)絡(luò)的認(rèn)定與證明具有一定的復(fù)雜性和特殊性,往往缺乏直接證據(jù)證明經(jīng)營者之間發(fā)生了直接的接觸,因此需要合理地設(shè)定證明責(zé)任。我國《指南》中雖然允許在直接證據(jù)難以獲取時(shí),反壟斷執(zhí)法機(jī)構(gòu)可以采用間接證據(jù)來證明協(xié)同行為的存在,但是需要注意的是,孤立的間接證據(jù)不具有證明力,間接證據(jù)需要形成證明鎖鏈,以排除合理懷疑??剂康剿惴ü仓\的隱蔽性,適用間接證據(jù)的證明難度可能仍然是高的。而通過合理分配證明責(zé)任,適當(dāng)提高涉嫌違法經(jīng)營者的注意義務(wù),可能是更加符合執(zhí)法效率的一種方式,同時(shí)也符合間接意思聯(lián)絡(luò)這一現(xiàn)象的特殊性。一方面,合理分配證明責(zé)任是基于算法共謀的隱蔽性,經(jīng)營者與執(zhí)法機(jī)構(gòu)往往存在嚴(yán)重的信息不對稱問題。對于共謀是否發(fā)生,經(jīng)營者掌握更多更準(zhǔn)確的證據(jù),適當(dāng)設(shè)定一個基于一致行為知情與意思聯(lián)絡(luò)存在的可反駁推定,能夠極大緩解證據(jù)上的信息不對稱,同時(shí)提高執(zhí)法的準(zhǔn)確性。另一方面,適當(dāng)提高涉嫌違法經(jīng)營者的注意義務(wù),是與降低執(zhí)法成本、提高執(zhí)法效率相一致的,要求經(jīng)營者事先主動避免共謀的發(fā)生,加強(qiáng)合規(guī)審查,而不僅僅依賴于事后的執(zhí)法。提高注意義務(wù)之后,不再允許經(jīng)營者對單向信息傳遞采取默許態(tài)度。經(jīng)營者可以通過明確拒絕參與共謀或者向執(zhí)法機(jī)構(gòu)舉報(bào)等背離的行為,避免違法后果的發(fā)生。

    因此,建議在涉及算法共謀認(rèn)定與證明中,對意思聯(lián)絡(luò)的表現(xiàn)形式進(jìn)行擴(kuò)展,將知情默許與合理預(yù)見納入。在經(jīng)營者對一致行為知情,或者可以合理預(yù)見一致行為存在的情況下,推定經(jīng)營者之間存在意思聯(lián)絡(luò),除非該經(jīng)營者能夠作出合理解釋。與現(xiàn)行《暫行規(guī)定》中對協(xié)同行為的認(rèn)定相比,以上建議緩解了執(zhí)法機(jī)構(gòu)證明意思聯(lián)絡(luò)的困難,同時(shí)加強(qiáng)了經(jīng)營者作出合理解釋的義務(wù),從而實(shí)現(xiàn)對雙方舉證負(fù)擔(dān)的平衡,提高執(zhí)法效率。

    (二)重新審視平行行為與協(xié)同行為的劃分標(biāo)準(zhǔn)

    在寡頭壟斷的市場中,當(dāng)算法依據(jù)競爭者的定價(jià)信息,作出一致定價(jià)的決策時(shí),就可能出現(xiàn)平行行為的問題。傳統(tǒng)反壟斷法理論對平行行為與協(xié)同行為的劃分是基于經(jīng)營者之間是否存在意思聯(lián)絡(luò)。一般來說,有意識的一致行為被認(rèn)定為協(xié)同行為,而無意識的一致行為被認(rèn)定為平行行為。在算法一致定價(jià)的場景中,協(xié)同行為與平行行為之間的邊界變得模糊,其原因在于意思聯(lián)絡(luò)在認(rèn)定共謀中的重要性被減弱,因此需要重新審視兩者的邊界。在算法共謀中,算法在某種程度上替代了人的角色,組織實(shí)施意思聯(lián)絡(luò),或者在缺乏直接意思聯(lián)絡(luò)的情況下,通過不斷博弈最終實(shí)現(xiàn)一致定價(jià)。傳統(tǒng)意思聯(lián)絡(luò)的概念是基于對經(jīng)營者參與壟斷協(xié)議的意思表示的描述,因此“意思聯(lián)絡(luò)”又可以被解釋為“意見一致”(meeting of minds)、“一致的意愿”(concurrence of wills)以及“有意識的承諾”(conscious commitment)等。而由算法組織實(shí)施一致行為時(shí),經(jīng)營者的意思表示被弱化,依據(jù)直接意思聯(lián)絡(luò)這一指標(biāo)對兩者進(jìn)行劃分就可能會導(dǎo)致錯誤。

    首先,針對平行行為是否應(yīng)當(dāng)受到反壟斷法規(guī)制的問題,理論研究中存在Posner/Kaplow與Turner之爭。Posner(1969)[19]認(rèn)為寡頭之間因相互依賴而一致定價(jià)的行為與壟斷協(xié)議并無區(qū)別,應(yīng)當(dāng)適用壟斷協(xié)議的規(guī)則來進(jìn)行調(diào)整,Kaplow(2011)[20-21]認(rèn)為意思聯(lián)絡(luò)并非認(rèn)定協(xié)同行為的核心要件,提出判斷共謀的標(biāo)準(zhǔn)應(yīng)當(dāng)是寡頭企業(yè)是否在互相依賴的情況下設(shè)定非競爭價(jià)格,意思聯(lián)絡(luò)僅構(gòu)成實(shí)現(xiàn)此類非競爭協(xié)同的便利因素或機(jī)制。這一類觀點(diǎn)的依據(jù)是在寡頭壟斷市場中,競爭者之間的一致漲價(jià)是博弈的必然結(jié)果,無需進(jìn)行明示或默示的意思聯(lián)絡(luò)就能實(shí)現(xiàn)[22]。在這種市場結(jié)構(gòu)中,雖然一方競爭者的降價(jià)行為在短期內(nèi)可以獲得更多的銷量,但是降價(jià)行為會導(dǎo)致競爭者之間的相繼降價(jià),長期來說不符合企業(yè)利益。與共謀相比,這種寡頭之間因相互依賴而一致漲價(jià)的平行行為,同樣會對消費(fèi)者福利產(chǎn)生損害。相反的觀點(diǎn)諸如Turner(1962)[23]認(rèn)為,平行漲價(jià)的行為是寡頭企業(yè)正常的市場反應(yīng),寡頭企業(yè)在定價(jià)時(shí)總是會參考其競爭對手的定價(jià)情況,因此不應(yīng)適用反壟斷法進(jìn)行處罰。Posner和Kaplow的觀點(diǎn)事實(shí)上擴(kuò)展了反壟斷法對壟斷協(xié)議的定義,即無論企業(yè)之間是否進(jìn)行意思聯(lián)絡(luò),只要其最終制定出一致的價(jià)格,即構(gòu)成違法。

    針對算法共謀中出現(xiàn)的間接意思聯(lián)絡(luò)這一現(xiàn)象,事實(shí)上可以對上述兩種觀點(diǎn)進(jìn)行折衷。以意思聯(lián)絡(luò)的存在與否作為劃分平行行為與協(xié)同行為的標(biāo)準(zhǔn)仍然是適用的。但是在認(rèn)定意思聯(lián)絡(luò)時(shí),不應(yīng)固守于傳統(tǒng)的意思聯(lián)絡(luò)達(dá)成與維持的方式,應(yīng)適當(dāng)對現(xiàn)行意思聯(lián)絡(luò)的概念進(jìn)行擴(kuò)張解釋。一方面,通過算法達(dá)成一致定價(jià),可能源于算法所分析的數(shù)據(jù)是相同或類似的,這種情形難以用傳統(tǒng)的“意思聯(lián)絡(luò)”概念進(jìn)行解釋;另一方面,算法共謀更容易保持穩(wěn)定,使用算法進(jìn)行交換信息更加隱蔽、及時(shí),也更不容易受到諸如寬大制度、和解制度等外部因素影響。

    因此,在認(rèn)定時(shí),消極的知情默許與合理預(yù)見也應(yīng)構(gòu)成意思聯(lián)絡(luò)的表現(xiàn)形式。這一點(diǎn)也應(yīng)同樣適用于Ariel Ezrachi和Maurice E Stucke所界定的“可預(yù)測代理人”模式。在該模式下,經(jīng)營者之間并未實(shí)際實(shí)施意思聯(lián)絡(luò),而是通過算法快速偵測和處罰競爭對手的削價(jià)競爭行為,或者由算法自行實(shí)施平行行為。在這種情況下,經(jīng)營者雖然沒有親自實(shí)施意思聯(lián)絡(luò),但是如果可以證明經(jīng)營者意識到使用該算法可能導(dǎo)致一致定價(jià)的后果,或者能夠合理預(yù)見這一后果的發(fā)生,卻采取放任態(tài)度,就可以認(rèn)定經(jīng)營者之間存在某種程度的意思聯(lián)絡(luò)。此時(shí),經(jīng)營者在主觀意圖上類似于侵權(quán)法中的間接故意。此外,在“電子眼模式”中,即算法通過自我學(xué)習(xí)達(dá)成并維持一致定價(jià),短期來說,經(jīng)營者可能會對算法行為的不知情或難以預(yù)見。但長期來說,在寡頭市場中競爭者之間對其一致定價(jià)行為不知情明顯是不符合常理的。因此,在這兩種模式下,都應(yīng)適當(dāng)提高經(jīng)營者的注意義務(wù)與背離義務(wù),積極預(yù)防算法定價(jià)可能導(dǎo)致的競爭損害。

    其次,在實(shí)踐中準(zhǔn)確證明意思聯(lián)絡(luò)的存在也是一個難題,傳統(tǒng)執(zhí)法手段必須進(jìn)行革新。部分研究提出一些新的調(diào)查手段,諸如Avigdor Gal(2017)[24]認(rèn)為對算法監(jiān)管的準(zhǔn)確性取決于監(jiān)管機(jī)構(gòu)能夠在多大程度上訪問算法,并提出了“黑箱訪問”與“白箱訪問”的概念。其中黑箱訪問是指監(jiān)管機(jī)構(gòu)能夠執(zhí)行算法的代碼,并獲得輸出結(jié)果,但是無法訪問代碼本身,而白箱訪問意味著監(jiān)管機(jī)構(gòu)可以訪問、分析代碼本身。德法兩國在《算法與競爭》報(bào)告中提出了一個針對算法的分析路徑,包括分析代碼、比較真實(shí)過去的輸入/輸出、在預(yù)先定義的輸入上測試算法行為、將算法與另一個可解釋的算法進(jìn)行比較[18]。在證明方面,執(zhí)法機(jī)構(gòu)可能面臨兩個難題,一是執(zhí)法機(jī)構(gòu)與經(jīng)營者之間存在相當(dāng)程度的信息不對稱,執(zhí)法機(jī)構(gòu)需要具備對算法的分析、監(jiān)管能力;二是從算法定價(jià)過程中所提取的信息是否準(zhǔn)確,能否作為證據(jù)使用需要從技術(shù)上和制度上予以回應(yīng)。

    綜上,在反壟斷法中,認(rèn)定平行行為合法具有一定的合理性,對經(jīng)營者的平行行為進(jìn)行處罰可能導(dǎo)致法律適用上的威懾過度問題(即假陽性錯誤)。在算法共謀場景下,傳統(tǒng)的意思聯(lián)絡(luò)仍然可以作為一個區(qū)分平行行為與協(xié)同行為的標(biāo)準(zhǔn),但是對意思聯(lián)絡(luò)的表現(xiàn)形式應(yīng)當(dāng)進(jìn)行適當(dāng)擴(kuò)展,經(jīng)營者對算法一致定價(jià)的知情默許或合理預(yù)見也應(yīng)構(gòu)成意思聯(lián)絡(luò)的表現(xiàn)形式之一,并且應(yīng)當(dāng)適當(dāng)提高經(jīng)營者的注意義務(wù)與背離義務(wù)。此外,在具體的證明中,執(zhí)法機(jī)構(gòu)應(yīng)當(dāng)改進(jìn)執(zhí)法手段,引入新的執(zhí)法工具,并從制度上明確相關(guān)證據(jù)的證明力,以應(yīng)對意思聯(lián)絡(luò)的隱蔽性。

    (三)需要科學(xué)劃分經(jīng)營者與第三方的責(zé)任

    1.算法的工具性與自主性對經(jīng)營者責(zé)任認(rèn)定的影響

    在目前大多數(shù)算法共謀的案件中,算法僅作為工具發(fā)揮了協(xié)助經(jīng)營者進(jìn)行意思聯(lián)絡(luò)或者實(shí)施、監(jiān)控一致定價(jià)的功能。但是,近年來的研究也關(guān)注到自我學(xué)習(xí)算法導(dǎo)致共謀的問題。自我學(xué)習(xí)算法是指算法通過機(jī)器學(xué)習(xí)從而獲取新的知識,并運(yùn)用這些知識作出決策。因此,自我學(xué)習(xí)算法在一定程度上能夠脫離算法操作者的設(shè)定,具有一定的自主性。當(dāng)算法操作者完全無法預(yù)見或控制算法定價(jià)行為所帶來的后果時(shí),算法發(fā)揮了主體的作用,主導(dǎo)意思聯(lián)絡(luò)與一致行為的實(shí)施。算法的自主性導(dǎo)致在認(rèn)定責(zé)任時(shí)有必要區(qū)分人的行為后果與算法的行為后果。在算法共謀的場景下,具體表現(xiàn)為對提供算法的經(jīng)營者、使用算法的經(jīng)營者的責(zé)任進(jìn)行認(rèn)定與劃分。

    理論研究中針對算法的自主性提出了“去人類中心化”(De-humanizing)概念,傳統(tǒng)立法是將人作為主體,其基礎(chǔ)是人類理性與決策能力的有限性。但是算法明顯超越了人在決策中的理性,算法依靠數(shù)據(jù)分析能夠快速、低成本且準(zhǔn)確地作出決策。自我學(xué)習(xí)可以使算法一定程度偏離用戶控制,自主采取行動,因此傳統(tǒng)的“算法僅構(gòu)成工具”的觀點(diǎn)必然會受到挑戰(zhàn)。關(guān)于算法的工具性和自主性的討論,Samir Chopra和Laurence F White(2011)[25]在其“A Legal Theory for Autonomous Artificial Agent”(《自主人工代理的法律理論》)一書中探討了“人工代理”是否應(yīng)當(dāng)被賦予法律人格,其中最主要的障礙是在法律人格中如何界定“人”這一概念。該書提出推動人工代理具有法律人格并不需要其在各方面均表現(xiàn)地像是一個“人”,而是它們可以在特定目的或特定交易中被視為一個“人”。Salil K Mehra(2014)[26]提出了“機(jī)器人賣家”的概念,機(jī)器人賣家缺乏可識別的共謀意圖,并且傳統(tǒng)意思聯(lián)絡(luò)的概念是基于合同法中對人類心理狀態(tài)的認(rèn)定,即雙向的合意,難以適用在機(jī)器共謀的場景上。因此在責(zé)任認(rèn)定時(shí),需要對行為的意圖進(jìn)行深入考察,而不是簡單地將機(jī)器人賣家的行為歸咎于其雇主。Guan Zheng和Hong Wu(2019)[13]研究了算法的超級工具性與法律人格,超級工具意味著算法超越人類理性,即使在非寡頭壟斷市場中也可能出現(xiàn)算法共謀的情況,當(dāng)共謀是源于算法的自主學(xué)習(xí),目前法律缺乏對這一問題的規(guī)定。

    僅就算法共謀來說,算法的自主性使反壟斷法中對經(jīng)營者責(zé)任的認(rèn)定問題變得復(fù)雜。如果算法僅構(gòu)成工具的話,算法共謀的責(zé)任應(yīng)該歸于使用算法的經(jīng)營者或者提供算法的經(jīng)營者。通過法律對個體責(zé)任進(jìn)行準(zhǔn)確認(rèn)定是預(yù)防未來可能發(fā)生違法行為的關(guān)鍵,而確定經(jīng)營者對違法后果的出現(xiàn)能夠識別或預(yù)測是追責(zé)的前提條件,但是在自我學(xué)習(xí)算法共謀場景下,這一目標(biāo)明顯是難以實(shí)現(xiàn)的。對于自我學(xué)習(xí)算法,無論是提供算法的經(jīng)營者,還是操作算法的經(jīng)營者可能都無法完全預(yù)測算法的行為后果,這就提高了經(jīng)營者責(zé)任認(rèn)定的復(fù)雜性。另外,法律完全承認(rèn)或者完全否定算法的自主性可能都是存在問題的。首先,完全承認(rèn)算法的自主性本身存在諸多障礙。一方面,算法在現(xiàn)階段無法獲得一個獨(dú)立的法律人格,其難以具有獨(dú)立的行為能力以承擔(dān)法律責(zé)任,對算法進(jìn)行追責(zé)不具有任何意義,無法對未來可能發(fā)生的違法行為產(chǎn)生威懾效果;另一方面,算法是由人來創(chuàng)造和使用的,目的是為了人的生產(chǎn)和生活需要而提供服務(wù),其行為最終的后果也是由人來承擔(dān)的,脫離人與算法之間的關(guān)系來討論算法責(zé)任是缺乏客觀事實(shí)依據(jù)的。其次,完全否認(rèn)算法的自主性,一方面不符合當(dāng)前人工智能的發(fā)展趨勢;另一方面由經(jīng)營者承擔(dān)其不可預(yù)測的損害的合理性是存在爭議的,同時(shí)也會提高法律的不確定性。

    2.經(jīng)營者與第三方的關(guān)系分析

    當(dāng)涉及到算法共謀時(shí),通常會出現(xiàn)經(jīng)營者(算法使用者)與第三方(算法提供者)責(zé)任劃分問題,按照協(xié)議成員對一致行為是否知情以及算法自主性的程度,可以將相關(guān)場景劃分為三種情形。

    一是在算法共謀中,雖然算法由一個看似獨(dú)立的第三方提供,但該第三方與協(xié)議成員存在直接的控制與被控制的關(guān)系,即兩者可以視為一個整體。此時(shí)并未形成一個真正的軸輻協(xié)議,而是一個典型的橫向壟斷協(xié)議,所有協(xié)議成員均需要對算法共謀承擔(dān)責(zé)任,第三方與其具有隸屬關(guān)系的協(xié)議成員共同承擔(dān)責(zé)任,不對第三方進(jìn)行單獨(dú)處罰。如何判斷兩家企業(yè)在反壟斷法上能夠構(gòu)成一個整體,即“同一經(jīng)營者”,需要對經(jīng)營者這一概念進(jìn)行回顧。我國《反壟斷法》相對缺乏對上述問題的明確規(guī)定與討論。歐盟競爭法在認(rèn)定“經(jīng)營者”(undertaking)概念時(shí),適用的是“單一經(jīng)濟(jì)實(shí)體原則”(single economic entity doctrine)?!皢我唤?jīng)濟(jì)實(shí)體原則”的實(shí)質(zhì)標(biāo)準(zhǔn)是一家企業(yè)能否對另一家企業(yè)控制或施加決定性影響。在Viho Europe BV案中,歐盟法院確認(rèn)了Paker公司與其分支機(jī)構(gòu)構(gòu)成一個單一經(jīng)濟(jì)實(shí)體,Paker作為母公司100%控股其分支機(jī)構(gòu),并控制銷售目標(biāo)、利潤總額、銷售成本、現(xiàn)金流等。歐盟法院認(rèn)定分支機(jī)構(gòu)沒有真正的自治權(quán),完全受母公司控制。在Akzo Nobel NV案中,歐盟法院確認(rèn),如果母公司對分支機(jī)構(gòu)產(chǎn)生決定性影響,就可以認(rèn)定兩者是同一經(jīng)濟(jì)實(shí)體。該原則對代理關(guān)系也同樣適用,如果第三方通過代理關(guān)系,協(xié)助競爭者實(shí)施壟斷協(xié)議,諸如VM Remonts案的情形,判斷第三方責(zé)任的標(biāo)準(zhǔn)是第三方是否是獨(dú)立承擔(dān)風(fēng)險(xiǎn)的,特別是獨(dú)立承擔(dān)財(cái)務(wù)或經(jīng)濟(jì)風(fēng)險(xiǎn)。

    二是算法由一個獨(dú)立的第三方提供,即構(gòu)成軸輻協(xié)議的結(jié)構(gòu),此時(shí)需要考量處于輻條位置的經(jīng)營者是否對一致行為知情。如果經(jīng)營者對一致行為知情,即可推定其參與了由第三方組織的算法共謀。這里基于第三方是否營利,可以將第三方責(zé)任類比于組織協(xié)議的經(jīng)營者或行業(yè)協(xié)會。反之,處于軸心位置的第三方在未通知經(jīng)營者的情況下實(shí)施了一致行為,經(jīng)營者之間不存在意思聯(lián)絡(luò),也并未意識到一致行為的發(fā)生,或者在意識到的情況下,經(jīng)營者采取積極措施公開背離該一致行為,上述情況可能出現(xiàn)在平臺經(jīng)營者與平臺內(nèi)經(jīng)營者之間,如Eturas案。在《反壟斷法》的現(xiàn)行框架下,缺乏意思聯(lián)絡(luò)的一致行為不能被認(rèn)定為壟斷協(xié)議,只能通過禁止濫用市場支配地位進(jìn)行規(guī)制。

    三是涉及自我學(xué)習(xí)算法的情形,競爭者使用了不同的算法,算法最終通過自我學(xué)習(xí)實(shí)現(xiàn)一致定價(jià)。自我學(xué)習(xí)算法具有較強(qiáng)的自主性,當(dāng)算法自主實(shí)施了共謀,這一行為是否構(gòu)成反壟斷法中的壟斷協(xié)議,以及如何認(rèn)定算法提供者與算法操作者的責(zé)任都是理論難點(diǎn)。目前關(guān)于自我學(xué)習(xí)算法共謀還僅存在于假想和實(shí)驗(yàn)階段,尚不存在真實(shí)案例,但是從現(xiàn)存研究來看并不能完全排除這種場景的發(fā)生。這種場景下,初期經(jīng)營者可能對一致定價(jià)行為完全不知情,此時(shí)就構(gòu)成一種純粹的平行行為,從目前反壟斷法的定義來看,這種純粹的平行行為應(yīng)當(dāng)是合法的。

    從侵權(quán)的視角來說,針對算法行為的不可控性也存在不同的觀點(diǎn),諸如Andreas Matthias(2004)[27]針對機(jī)器行為與機(jī)器制造者、操作者責(zé)任之間的錯位,提出“責(zé)任鴻溝”(The responsibility gap)的概念。機(jī)器通過與操作環(huán)境的互動進(jìn)行決策,而非依據(jù)固定的程序,并且機(jī)器相比人具有信息優(yōu)勢,因此要求制造者、操作者完全預(yù)見機(jī)器的行為是不合理的。張凌寒(2021)[28]建議對算法操作者適用過錯責(zé)任。相反的觀點(diǎn)諸如Paulius Cerka等(2015)[29]基于“深口袋理論”,考量到機(jī)器行為的最終受益者所獲利益可以被用于賠償對社會造成的損害,建議參照高度危險(xiǎn)作業(yè),對制造者、操作者適用替代責(zé)任和無過錯責(zé)任。出于對壟斷協(xié)議所造成的社會損害進(jìn)行補(bǔ)償?shù)慕嵌龋笏惴ǖ奶峁┱?、操作者對因算法自主行為而造成的損害承擔(dān)一定責(zé)任,是具有一定合理性的。這種合理性可能表現(xiàn)為,一方面對獲益方與受損方之間進(jìn)行利益平衡,使獲益方在制造、使用算法時(shí)采取更審慎的態(tài)度,積極避免算法可能導(dǎo)致的違法行為。但是,這種脫離行為主體來認(rèn)定責(zé)任的方式,可能會對市場創(chuàng)新帶來不利影響。人工智能領(lǐng)域的開發(fā)者、使用者可能會因此面臨過度的法律風(fēng)險(xiǎn)。因此,即使采取這種補(bǔ)償性賠償,其法律依據(jù)也并非是反壟斷違法,而是基于對“收益—補(bǔ)償”進(jìn)行平衡的目的。另一方面,適用替代責(zé)任意味著,將人工智能與其制造者、操作者的關(guān)系類比于工作人員與用人單位之間的關(guān)系。工作人員因職務(wù)行為造成他人損害的,用人單位應(yīng)當(dāng)承擔(dān)責(zé)任。雖然這一點(diǎn)在反壟斷法中也是同樣適用的,但是一旦該行為被反壟斷法認(rèn)定為合法,那么就不存在可處罰或可賠償?shù)囊罁?jù),因此替代責(zé)任僅能在一項(xiàng)協(xié)議被認(rèn)定為違法的壟斷協(xié)議時(shí)才可適用。

    五、結(jié)論與政策建議

    本文分析了算法共謀可能導(dǎo)致傳統(tǒng)反壟斷法理論面臨的三個挑戰(zhàn),一是算法共謀往往表現(xiàn)為一種間接的意思聯(lián)絡(luò),尤其表現(xiàn)在涉及算法的軸輻協(xié)議中,即一種單向的信息傳遞。因此需要擴(kuò)展意思聯(lián)絡(luò)的表現(xiàn)形式,將“知情默許”與“合理預(yù)見”納入。同時(shí)建議在算法共謀的認(rèn)定中,設(shè)置一個合理的可反駁推定,當(dāng)經(jīng)營者對一致行為知情,即推定其實(shí)施了意思聯(lián)絡(luò),除非其提出合理解釋。一方面,緩解了執(zhí)法機(jī)構(gòu)證明意思聯(lián)絡(luò)的困難;另一方面,加強(qiáng)了經(jīng)營者的注意義務(wù)與背離義務(wù),實(shí)現(xiàn)雙方舉證責(zé)任上的平衡。

    二是算法共謀場景中,平行行為與協(xié)同行為之間的邊界變得模糊,傳統(tǒng)理論認(rèn)為兩者之間的區(qū)別在于是否存在意思聯(lián)絡(luò),這一標(biāo)準(zhǔn)在算法共謀的各類場景中仍可適用。但是,在具體區(qū)分時(shí),需要考量到算法共謀中意思聯(lián)絡(luò)的特殊表現(xiàn)形式,以經(jīng)營者是否對一致行為“知情默許”或“合理預(yù)見”作為判斷標(biāo)準(zhǔn),并同時(shí)考量到短期與長期經(jīng)營者“知情”與“預(yù)見”的可能性。

    三是在涉及第三方的算法共謀中,需要依據(jù)協(xié)議成員對一致行為是否知情以及算法自主性程度,對經(jīng)營者責(zé)任認(rèn)定進(jìn)行分類討論。當(dāng)?shù)谌脚c協(xié)議成員能夠構(gòu)成一個實(shí)體,兩者需共同承擔(dān)責(zé)任,不將第三方作為一個單獨(dú)個體進(jìn)行處罰。當(dāng)?shù)谌脚c協(xié)議成員構(gòu)成不同實(shí)體,可以依據(jù)協(xié)議成員是否知情、第三方是否營利進(jìn)行分類討論。當(dāng)涉及自我學(xué)習(xí)算法時(shí),一旦行為構(gòu)成純粹的平行行為,在反壟斷法上沒有可歸責(zé)性,缺乏適用行政處罰的依據(jù)。即使采取類似無過錯責(zé)任的方式進(jìn)行認(rèn)定,也僅能依據(jù)對算法提供者、使用者收益與社會損害之間進(jìn)行平衡的目的,進(jìn)行適當(dāng)?shù)难a(bǔ)償性賠償,通過類似公益訴訟的方式加以解決。

    猜你喜歡
    經(jīng)營者
    明清珠江三角洲基塘區(qū)的田場與經(jīng)營者
    廣州文博(2023年0期)2023-12-21 07:24:30
    《經(jīng)營者》征稿啟事
    論經(jīng)營者集中反壟斷審查期限的立法完善——兼評《〈反壟斷法〉修訂草案(公開征求意見稿)》第30條
    高速公路服務(wù)區(qū)經(jīng)營者誠信考核評價(jià)體構(gòu)建
    試論對經(jīng)營者集中的審查規(guī)制
    法制博覽(2018年32期)2018-01-22 13:47:04
    經(jīng)營者集中申報(bào)若干問題探析
    做一名聰明的集團(tuán)醫(yī)院經(jīng)營者
    計(jì)算營業(yè)額
    從經(jīng)營者到協(xié)調(diào)人:集體林權(quán)改革中政府角色的轉(zhuǎn)換
    江漢論壇(2014年12期)2014-03-11 16:44:09
    阿特拉斯·科普柯空壓機(jī)——精明采石場經(jīng)營者的不二選擇
    亚洲成人av在线免费| 国产视频内射| 国产视频内射| 免费看光身美女| 国产熟女欧美一区二区| 亚洲综合色惰| 亚洲高清免费不卡视频| 国产精品久久久久久久久免| 国产av一区二区精品久久 | 亚洲精品自拍成人| 久久久久视频综合| 天天躁日日操中文字幕| 国产爽快片一区二区三区| 国产午夜精品一二区理论片| 亚洲成色77777| 亚洲精品久久久久久婷婷小说| 中国三级夫妇交换| 欧美日韩国产mv在线观看视频 | 久久99热这里只有精品18| 青青草视频在线视频观看| 嫩草影院入口| 日日啪夜夜爽| 亚洲电影在线观看av| 亚洲成人中文字幕在线播放| 久久97久久精品| 性色av一级| 少妇的逼水好多| 三级国产精品欧美在线观看| 亚洲国产欧美人成| 韩国av在线不卡| 99久久精品一区二区三区| 亚洲电影在线观看av| 色吧在线观看| 亚洲av免费高清在线观看| 久久精品国产鲁丝片午夜精品| a 毛片基地| 国产精品一区二区性色av| 女性生殖器流出的白浆| 免费人成在线观看视频色| 精品视频人人做人人爽| 国产精品人妻久久久久久| 欧美激情国产日韩精品一区| 亚洲欧美日韩东京热| 亚洲精品,欧美精品| av一本久久久久| 乱系列少妇在线播放| 联通29元200g的流量卡| 亚洲av中文av极速乱| 爱豆传媒免费全集在线观看| 在线观看美女被高潮喷水网站| 99九九线精品视频在线观看视频| 国产成人精品婷婷| 激情五月婷婷亚洲| 我要看日韩黄色一级片| 多毛熟女@视频| 欧美性感艳星| 舔av片在线| 视频中文字幕在线观看| 中文字幕亚洲精品专区| 色网站视频免费| 国产精品av视频在线免费观看| 国产高清有码在线观看视频| 久久久久久人妻| 人妻 亚洲 视频| 亚洲自偷自拍三级| av国产免费在线观看| 99视频精品全部免费 在线| 老司机影院毛片| 人人妻人人澡人人爽人人夜夜| 人妻 亚洲 视频| 高清视频免费观看一区二区| 免费大片黄手机在线观看| 肉色欧美久久久久久久蜜桃| 亚洲美女黄色视频免费看| 丰满乱子伦码专区| 国产精品久久久久久久久免| 人体艺术视频欧美日本| 少妇的逼好多水| 亚洲精品日本国产第一区| 国产 一区 欧美 日韩| 亚洲国产高清在线一区二区三| 亚洲自偷自拍三级| 天堂俺去俺来也www色官网| 国产高清三级在线| 国产黄片美女视频| 精品久久久久久久久av| 天堂俺去俺来也www色官网| 在线精品无人区一区二区三 | 少妇人妻精品综合一区二区| 亚洲无线观看免费| 少妇丰满av| 国产免费视频播放在线视频| 国产欧美日韩一区二区三区在线 | 直男gayav资源| 国产男女超爽视频在线观看| 少妇的逼好多水| 免费黄色在线免费观看| 欧美高清成人免费视频www| 国产高潮美女av| 亚洲自偷自拍三级| 天堂俺去俺来也www色官网| 熟女av电影| 黄片无遮挡物在线观看| 国模一区二区三区四区视频| 秋霞伦理黄片| 日产精品乱码卡一卡2卡三| 在线观看美女被高潮喷水网站| 亚洲国产成人一精品久久久| 熟女电影av网| 爱豆传媒免费全集在线观看| 精品人妻熟女av久视频| 成人高潮视频无遮挡免费网站| 3wmmmm亚洲av在线观看| 毛片女人毛片| 精品一品国产午夜福利视频| 免费人妻精品一区二区三区视频| 亚洲aⅴ乱码一区二区在线播放| 尤物成人国产欧美一区二区三区| 最近中文字幕2019免费版| 各种免费的搞黄视频| 黄色视频在线播放观看不卡| 亚洲最大成人中文| 一本—道久久a久久精品蜜桃钙片| 久久久色成人| 国产成人午夜福利电影在线观看| 成人黄色视频免费在线看| 日韩强制内射视频| 国产精品一区二区在线不卡| 高清毛片免费看| 国产 一区 欧美 日韩| 女人久久www免费人成看片| 精品人妻偷拍中文字幕| 久久人妻熟女aⅴ| 国产爱豆传媒在线观看| 亚洲精品日韩av片在线观看| 日韩中文字幕视频在线看片 | 99久国产av精品国产电影| 国产在视频线精品| 看非洲黑人一级黄片| 亚洲一级一片aⅴ在线观看| 久久韩国三级中文字幕| 最近2019中文字幕mv第一页| 久久 成人 亚洲| 久久久久人妻精品一区果冻| 高清日韩中文字幕在线| 久久人人爽人人爽人人片va| 91久久精品国产一区二区成人| 亚洲人与动物交配视频| 一个人免费看片子| 久久热精品热| 观看美女的网站| 亚洲精品久久午夜乱码| 国产爽快片一区二区三区| 在线观看免费视频网站a站| 国产精品不卡视频一区二区| 亚洲第一区二区三区不卡| av国产免费在线观看| 国产亚洲欧美精品永久| a级毛片免费高清观看在线播放| 日韩免费高清中文字幕av| 老师上课跳d突然被开到最大视频| 天堂中文最新版在线下载| 大码成人一级视频| 久久久久性生活片| 在线天堂最新版资源| 有码 亚洲区| 成年免费大片在线观看| 国产高清不卡午夜福利| 青青草视频在线视频观看| 亚洲图色成人| 亚洲欧美精品自产自拍| 日本av手机在线免费观看| 国产爽快片一区二区三区| 高清黄色对白视频在线免费看 | 性色avwww在线观看| av视频免费观看在线观看| 婷婷色综合大香蕉| 国产精品嫩草影院av在线观看| 国产毛片在线视频| 色婷婷av一区二区三区视频| 国产中年淑女户外野战色| 在线播放无遮挡| av免费观看日本| 精品久久久久久久末码| 熟女av电影| 国产成人91sexporn| 久久久久网色| 久久久久久久久久久免费av| 99九九线精品视频在线观看视频| 久久国产精品男人的天堂亚洲 | tube8黄色片| 男人舔奶头视频| 六月丁香七月| 一个人看视频在线观看www免费| 久久久久久伊人网av| 亚洲精品第二区| 老司机影院毛片| 亚洲精品国产色婷婷电影| 久久精品国产a三级三级三级| 亚洲精品aⅴ在线观看| 久久人人爽av亚洲精品天堂 | 国产国拍精品亚洲av在线观看| 人妻系列 视频| .国产精品久久| 精品久久久久久久久av| 国产 一区 欧美 日韩| 国产精品偷伦视频观看了| 美女福利国产在线 | 亚洲怡红院男人天堂| 中国国产av一级| 亚洲成人手机| 日韩欧美精品免费久久| 久久久久性生活片| 国产精品一二三区在线看| 亚洲第一av免费看| 联通29元200g的流量卡| 在线观看免费日韩欧美大片 | kizo精华| av免费观看日本| 国产高清有码在线观看视频| 伊人久久国产一区二区| 日本黄大片高清| 久久久久人妻精品一区果冻| 极品教师在线视频| 性高湖久久久久久久久免费观看| av在线观看视频网站免费| 亚洲精品国产成人久久av| 国产精品国产三级国产专区5o| 日韩成人伦理影院| 22中文网久久字幕| 国产在线免费精品| 我的女老师完整版在线观看| 亚洲成人手机| 国产色婷婷99| 91久久精品电影网| 天堂8中文在线网| 久久精品久久久久久久性| 久久av网站| 汤姆久久久久久久影院中文字幕| 有码 亚洲区| 人妻少妇偷人精品九色| 在线观看免费视频网站a站| 亚洲av日韩在线播放| 久久人人爽人人爽人人片va| 香蕉精品网在线| 国产精品国产av在线观看| 国产男女超爽视频在线观看| 亚洲欧美日韩无卡精品| 深爱激情五月婷婷| 人妻系列 视频| 亚洲国产精品999| 亚洲精品久久久久久婷婷小说| 中文精品一卡2卡3卡4更新| 丝袜脚勾引网站| 久久婷婷青草| 22中文网久久字幕| 国产黄片视频在线免费观看| 内地一区二区视频在线| 97超碰精品成人国产| 一区二区三区精品91| 久久久久久九九精品二区国产| 草草在线视频免费看| 国产成人91sexporn| 在线观看国产h片| 性色av一级| 亚洲国产毛片av蜜桃av| 91久久精品电影网| 色哟哟·www| 成人18禁高潮啪啪吃奶动态图 | 免费人妻精品一区二区三区视频| 国产成人免费观看mmmm| 深夜a级毛片| 黄片wwwwww| 亚洲av不卡在线观看| 婷婷色av中文字幕| 99久久人妻综合| 女性生殖器流出的白浆| 国产一区二区三区av在线| 麻豆国产97在线/欧美| 黄色视频在线播放观看不卡| av专区在线播放| 国产精品福利在线免费观看| 久久 成人 亚洲| 国产乱来视频区| 亚洲欧美日韩东京热| 麻豆乱淫一区二区| 久久久久精品性色| 中文字幕制服av| 亚洲在久久综合| 黄片wwwwww| 黄色怎么调成土黄色| 国产一区亚洲一区在线观看| 日韩亚洲欧美综合| 丰满人妻一区二区三区视频av| 国产伦在线观看视频一区| 一个人看视频在线观看www免费| 成人黄色视频免费在线看| 成人18禁高潮啪啪吃奶动态图 | 亚洲国产精品国产精品| 一级毛片黄色毛片免费观看视频| 亚洲国产欧美人成| 狂野欧美激情性bbbbbb| 免费看不卡的av| 我的老师免费观看完整版| 我的女老师完整版在线观看| 国内精品宾馆在线| 亚洲av成人精品一区久久| 午夜福利网站1000一区二区三区| 噜噜噜噜噜久久久久久91| 欧美成人精品欧美一级黄| 国产精品99久久久久久久久| 日产精品乱码卡一卡2卡三| 亚洲,一卡二卡三卡| 国产乱来视频区| 亚洲,欧美,日韩| 亚洲国产av新网站| 99久国产av精品国产电影| 国产伦理片在线播放av一区| 精品久久久久久久久亚洲| 一区二区三区乱码不卡18| 内射极品少妇av片p| 久久久成人免费电影| 精品一区二区三区视频在线| 国产精品国产av在线观看| 久久久午夜欧美精品| 久久韩国三级中文字幕| 人妻 亚洲 视频| 婷婷色综合大香蕉| 欧美日韩国产mv在线观看视频 | 精品午夜福利在线看| 嘟嘟电影网在线观看| 午夜福利在线观看免费完整高清在| 男女国产视频网站| 欧美 日韩 精品 国产| 黑丝袜美女国产一区| 十分钟在线观看高清视频www | 搡老乐熟女国产| 久久精品国产亚洲网站| 亚洲国产日韩一区二区| 亚洲av.av天堂| 日韩免费高清中文字幕av| 人妻 亚洲 视频| 久久99蜜桃精品久久| 久久6这里有精品| 男女无遮挡免费网站观看| 久久久午夜欧美精品| 国产av国产精品国产| 精品人妻一区二区三区麻豆| 汤姆久久久久久久影院中文字幕| 一区二区三区免费毛片| 91精品一卡2卡3卡4卡| av国产免费在线观看| 久久人人爽人人片av| 免费观看av网站的网址| 超碰av人人做人人爽久久| 中文在线观看免费www的网站| 亚洲精品自拍成人| 91精品伊人久久大香线蕉| 国产日韩欧美亚洲二区| 日韩av不卡免费在线播放| 国产免费视频播放在线视频| 一级毛片aaaaaa免费看小| 国产亚洲5aaaaa淫片| 国产精品精品国产色婷婷| 中文字幕制服av| 亚洲av中文av极速乱| 日本爱情动作片www.在线观看| 精品亚洲乱码少妇综合久久| h日本视频在线播放| 免费少妇av软件| 伊人久久精品亚洲午夜| 草草在线视频免费看| 在现免费观看毛片| 午夜视频国产福利| 我的老师免费观看完整版| 国产av精品麻豆| 国产成人精品婷婷| 18禁动态无遮挡网站| 免费观看av网站的网址| 黄色怎么调成土黄色| av黄色大香蕉| 国产精品福利在线免费观看| 日本一二三区视频观看| 免费看光身美女| 我的女老师完整版在线观看| 亚洲欧美日韩另类电影网站 | 国产精品无大码| 国产成人aa在线观看| 看十八女毛片水多多多| 国产亚洲午夜精品一区二区久久| 麻豆乱淫一区二区| 国产精品久久久久久久电影| 深爱激情五月婷婷| 免费黄频网站在线观看国产| 欧美精品一区二区免费开放| 国产精品久久久久久av不卡| 亚洲精华国产精华液的使用体验| 精品久久久久久久久av| 国产在线一区二区三区精| 边亲边吃奶的免费视频| 免费观看性生交大片5| 夜夜爽夜夜爽视频| 国产白丝娇喘喷水9色精品| 人人妻人人添人人爽欧美一区卜 | 亚洲欧美日韩无卡精品| 亚洲综合精品二区| 精品视频人人做人人爽| 亚洲综合色惰| 久久久久久人妻| 99热国产这里只有精品6| 极品教师在线视频| 免费观看a级毛片全部| 国产精品伦人一区二区| 久久99精品国语久久久| 狂野欧美白嫩少妇大欣赏| 成人免费观看视频高清| 2018国产大陆天天弄谢| 国产爽快片一区二区三区| av网站免费在线观看视频| 99久久精品国产国产毛片| 不卡视频在线观看欧美| xxx大片免费视频| 国产乱人偷精品视频| 亚洲美女视频黄频| 亚洲精品第二区| av福利片在线观看| av国产精品久久久久影院| 免费看不卡的av| 国产亚洲欧美精品永久| 精品99又大又爽又粗少妇毛片| 精品人妻视频免费看| 成年免费大片在线观看| 午夜福利网站1000一区二区三区| 美女福利国产在线 | 久久99蜜桃精品久久| a级毛色黄片| 久久精品人妻少妇| 狂野欧美白嫩少妇大欣赏| 免费观看av网站的网址| 国产精品久久久久久av不卡| 国产白丝娇喘喷水9色精品| 91精品伊人久久大香线蕉| 中国美白少妇内射xxxbb| 久久久精品94久久精品| 日韩电影二区| 精品午夜福利在线看| 亚洲精品一区蜜桃| 亚洲成人中文字幕在线播放| 美女高潮的动态| 欧美日韩在线观看h| 在现免费观看毛片| 色网站视频免费| 大片免费播放器 马上看| 亚洲色图av天堂| 亚洲高清免费不卡视频| 黄色一级大片看看| 麻豆国产97在线/欧美| 国产 一区 欧美 日韩| 26uuu在线亚洲综合色| a级毛色黄片| 人妻夜夜爽99麻豆av| av国产久精品久网站免费入址| 欧美人与善性xxx| 高清av免费在线| 日韩视频在线欧美| 五月玫瑰六月丁香| 日日啪夜夜爽| 欧美bdsm另类| 成年av动漫网址| 少妇人妻一区二区三区视频| 人妻少妇偷人精品九色| 制服丝袜香蕉在线| 亚洲高清免费不卡视频| 国产在线免费精品| 亚洲aⅴ乱码一区二区在线播放| 一级毛片aaaaaa免费看小| 久久久久视频综合| 国产深夜福利视频在线观看| 五月伊人婷婷丁香| 热re99久久精品国产66热6| 亚洲精品自拍成人| 欧美xxxx性猛交bbbb| 日本免费在线观看一区| 国产成人a∨麻豆精品| 亚洲,欧美,日韩| 视频中文字幕在线观看| 国产伦在线观看视频一区| 亚洲精品久久午夜乱码| 香蕉精品网在线| 九九在线视频观看精品| 91在线精品国自产拍蜜月| 免费人成在线观看视频色| 亚洲国产av新网站| 麻豆精品久久久久久蜜桃| 久久久亚洲精品成人影院| 久久久久国产精品人妻一区二区| 身体一侧抽搐| 亚洲国产色片| 欧美日韩一区二区视频在线观看视频在线| 六月丁香七月| 五月开心婷婷网| 国产精品女同一区二区软件| 国产又色又爽无遮挡免| 丰满人妻一区二区三区视频av| 丝瓜视频免费看黄片| 日本vs欧美在线观看视频 | 又爽又黄a免费视频| 草草在线视频免费看| 精品99又大又爽又粗少妇毛片| 91午夜精品亚洲一区二区三区| 黄色视频在线播放观看不卡| freevideosex欧美| 久久久久国产精品人妻一区二区| 国产极品天堂在线| 国产精品久久久久久精品古装| 在线观看av片永久免费下载| 乱系列少妇在线播放| av网站免费在线观看视频| 青春草国产在线视频| 国产午夜精品久久久久久一区二区三区| 国产老妇伦熟女老妇高清| 国产高潮美女av| a 毛片基地| 亚洲精品aⅴ在线观看| 成人无遮挡网站| 国产伦理片在线播放av一区| 久久久久人妻精品一区果冻| 高清视频免费观看一区二区| 观看美女的网站| 国产精品国产av在线观看| 日韩av免费高清视频| 国产免费又黄又爽又色| 亚洲内射少妇av| 欧美高清成人免费视频www| 精品一区在线观看国产| 亚洲精品一二三| 午夜激情久久久久久久| 久久精品国产a三级三级三级| 免费观看a级毛片全部| 国产 精品1| 国产精品成人在线| 一级av片app| 亚洲美女黄色视频免费看| 久久精品久久久久久久性| 只有这里有精品99| 久久久久国产精品人妻一区二区| 插逼视频在线观看| 久久久精品94久久精品| 久久这里有精品视频免费| 国产伦精品一区二区三区视频9| 99热这里只有精品一区| 天天躁夜夜躁狠狠久久av| 狂野欧美激情性bbbbbb| 国产永久视频网站| 成年免费大片在线观看| 看非洲黑人一级黄片| av在线app专区| 爱豆传媒免费全集在线观看| 在线观看免费视频网站a站| 国产亚洲最大av| 欧美老熟妇乱子伦牲交| 国产亚洲最大av| 中文资源天堂在线| 最近中文字幕高清免费大全6| 亚洲色图av天堂| 久久久久网色| 大陆偷拍与自拍| 亚洲四区av| 亚洲一区二区三区欧美精品| 建设人人有责人人尽责人人享有的 | 美女高潮的动态| 日韩中字成人| 亚洲国产精品国产精品| 男女下面进入的视频免费午夜| 亚洲美女搞黄在线观看| 中文精品一卡2卡3卡4更新| 久久亚洲国产成人精品v| 人人妻人人添人人爽欧美一区卜 | 一边亲一边摸免费视频| 91精品一卡2卡3卡4卡| 久久 成人 亚洲| 精品国产一区二区三区久久久樱花 | 国产精品一二三区在线看| 一区二区av电影网| 亚洲av成人精品一区久久| 亚洲欧洲日产国产| 亚洲无线观看免费| 免费观看无遮挡的男女| 最近中文字幕2019免费版| 亚洲av免费高清在线观看| 欧美精品一区二区大全| 久久99热6这里只有精品| 黄片wwwwww| 老师上课跳d突然被开到最大视频| 精品久久国产蜜桃| 91狼人影院| 国产av国产精品国产| 最近中文字幕2019免费版| 色婷婷久久久亚洲欧美| 日本与韩国留学比较| 免费看日本二区| 国产精品人妻久久久影院| 国产成人午夜福利电影在线观看| 亚洲,一卡二卡三卡| 日本免费在线观看一区| 最近的中文字幕免费完整| 亚洲熟女精品中文字幕| 老熟女久久久| 色哟哟·www| 伦理电影大哥的女人| 老司机影院成人| 永久免费av网站大全| a级毛色黄片| 少妇人妻 视频| 国产午夜精品一二区理论片|