• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能時(shí)代算法合謀反壟斷的適法困境與邏輯依歸

    2022-11-22 23:04:57學(xué)
    關(guān)鍵詞:經(jīng)營者

    劉 學(xué)

    (中國政法大學(xué) 民商經(jīng)濟(jì)法學(xué)院,北京 100088)

    科技進(jìn)步在推動(dòng)人工智能發(fā)展的同時(shí),數(shù)字經(jīng)濟(jì)也在不斷創(chuàng)新演進(jìn),借助互聯(lián)網(wǎng)技術(shù)而快速發(fā)展的數(shù)字經(jīng)濟(jì)逐漸成為社會(huì)主流,人工智能也成為學(xué)界的研究重點(diǎn)。在面臨巨大智能技術(shù)風(fēng)暴式發(fā)展的同時(shí),法律卻顯得較為保守,難以對(duì)新型技術(shù)帶來的挑戰(zhàn)作出有效應(yīng)對(duì)[1]。算法被逐步應(yīng)用到市場(chǎng)交易中使企業(yè)經(jīng)營效益得到提升,商品交易質(zhì)量也隨之提高,但由此也帶來了算法合謀對(duì)傳統(tǒng)反壟斷法的挑戰(zhàn)。反壟斷的傳統(tǒng)理念無法涵射新型智能技術(shù)變革帶來的算法合謀的狡黠,算法合謀改變了傳統(tǒng)合謀形成的市場(chǎng)結(jié)構(gòu),使合謀形式新穎多變、波譎云詭,傳統(tǒng)反壟斷面對(duì)新型算法合謀顯得僵化無力。學(xué)界對(duì)此有兩種不同觀點(diǎn),Ariel Ezrachi和Maurice E.Stucke最先提出“算法商業(yè)”的概念,即利用算法協(xié)助企業(yè)作出決策,促進(jìn)經(jīng)營者之間相互依賴和默契的合謀,這種動(dòng)態(tài)也被稱為有意識(shí)的平行主義,其本身并不違法。在一個(gè)集中的市場(chǎng)中,企業(yè)實(shí)際上可以分享壟斷權(quán)力,通過認(rèn)識(shí)他們共同的經(jīng)濟(jì)利益以及在價(jià)格和產(chǎn)出決策方面的相互依賴,將他們的價(jià)格設(shè)定在利潤最大化的超競(jìng)爭(zhēng)水平上,隨后單方面將他們的價(jià)格設(shè)定在競(jìng)爭(zhēng)水平之上[2]。OECD持同樣觀點(diǎn),認(rèn)可算法對(duì)促進(jìn)企業(yè)競(jìng)爭(zhēng)、推動(dòng)市場(chǎng)良性發(fā)展的作用[3]。但也有學(xué)者認(rèn)為,無論在現(xiàn)實(shí)中還是互聯(lián)網(wǎng)中,限制競(jìng)爭(zhēng)行為都是不容許的[4]。合謀是一種市場(chǎng)結(jié)果,通過價(jià)格或數(shù)量等形式的協(xié)調(diào)使低收入者可獲得更高的利潤,由于它給消費(fèi)者帶來的不利影響以及其可能對(duì)創(chuàng)新和經(jīng)濟(jì)增長產(chǎn)生的負(fù)面影響務(wù)必予以規(guī)制[5]。我國算法反壟斷尚處于萌芽階段,反壟斷法應(yīng)當(dāng)保持克制、沉著應(yīng)對(duì),了解現(xiàn)實(shí)情況并重視理論研究[6]。

    一、現(xiàn)實(shí)積弊:技術(shù)革命下的算法合謀

    從理論上講,市場(chǎng)是社會(huì)資源配置的最佳方式,市場(chǎng)可根據(jù)價(jià)格引導(dǎo)供需關(guān)系,公平的市場(chǎng)可以鼓勵(lì)創(chuàng)新和競(jìng)爭(zhēng),并及時(shí)反饋市場(chǎng)需求[7]。算法合謀擾亂了市場(chǎng)競(jìng)爭(zhēng)秩序,損害市場(chǎng)的正常運(yùn)行。

    (一)算法默示合謀的吊詭

    算法是解決某些問題的程序代碼形式的指令,在數(shù)字經(jīng)濟(jì)中用于分析、使用和處理大量數(shù)據(jù)。算法交互速度快、預(yù)測(cè)能力強(qiáng),可以進(jìn)行快速交互并提高交互頻率,使公司業(yè)務(wù)快速增長成為可能。定價(jià)算法可以提高企業(yè)間相互依賴的效率,促進(jìn)許多市場(chǎng)中的默契共謀。企業(yè)可以與其價(jià)格相匹配,并保持超競(jìng)爭(zhēng)水平的價(jià)格穩(wěn)定。算法使數(shù)據(jù)處理分析更加智能,對(duì)新狀況的應(yīng)對(duì)能力更強(qiáng),在數(shù)字經(jīng)濟(jì)和算法驅(qū)動(dòng)的商業(yè)社會(huì)中,預(yù)測(cè)分析和算法優(yōu)化并不鮮見,算法上的默示合謀不會(huì)影響每一個(gè)甚至大多數(shù)市場(chǎng)。隨著虛擬競(jìng)爭(zhēng)的發(fā)展,當(dāng)幾個(gè)重要的條件存在時(shí),人們會(huì)期望在不久的將來在市場(chǎng)中出現(xiàn)算法默契的共謀。第一,在涉及同質(zhì)產(chǎn)品的集中市場(chǎng)中,可能會(huì)出現(xiàn)算法默示共謀,在這種情況下算法可以充分監(jiān)控定價(jià)和其他關(guān)鍵銷售條款。許多行業(yè)轉(zhuǎn)向在線定價(jià)將促進(jìn)和穩(wěn)定有意識(shí)的共同行為,因?yàn)橘u家可以更容易地監(jiān)控競(jìng)爭(zhēng)對(duì)手的定價(jià)、關(guān)鍵銷售條款以及任何偏離當(dāng)前均衡的情況,在這種環(huán)境下算法定價(jià)提供了一個(gè)穩(wěn)定、可預(yù)測(cè)的工具,能以降價(jià)的形式實(shí)施可信而有效的報(bào)復(fù)。面對(duì)價(jià)格偏差時(shí),可以使用特殊的軟件進(jìn)行報(bào)告并采取行動(dòng)。第二,一旦檢測(cè)到偏差(例如折扣)就可以激活一個(gè)可信的懲戒機(jī)制。算法環(huán)境的獨(dú)特之處在于報(bào)復(fù)的速度,計(jì)算機(jī)可以快速監(jiān)控偏差,并計(jì)算出無數(shù)次行動(dòng)和反行動(dòng)的利潤影響,懲罰價(jià)格差異。計(jì)算機(jī)的反應(yīng)速度實(shí)際上剝奪了折扣對(duì)手的任何重大銷售,這種速度也意味著共謀可以在幾秒鐘內(nèi)發(fā)出信號(hào),先行者從折扣中獲益的可能性越大,暗中勾結(jié)的可能性也就越大。隨著競(jìng)爭(zhēng)對(duì)手的價(jià)格在網(wǎng)上轉(zhuǎn)移,即使是針對(duì)特定時(shí)間的特定個(gè)人和數(shù)千種產(chǎn)品,他們的算法也可以在幾毫秒內(nèi)評(píng)估和調(diào)整價(jià)格,每種算法都能迅速匹配競(jìng)爭(zhēng)對(duì)手的折扣,并在第一時(shí)間消除其折扣激勵(lì)。

    伴隨算法產(chǎn)生的默示合謀,不可避免會(huì)產(chǎn)生企業(yè)之間的暗中勾結(jié)與惡意競(jìng)爭(zhēng),競(jìng)爭(zhēng)政策和法律可能沒有設(shè)計(jì)或準(zhǔn)備好應(yīng)對(duì)與算法業(yè)務(wù)相關(guān)的所有挑戰(zhàn),但人工智能和自主學(xué)習(xí)算法并不會(huì)等待法律與制度的革新,而是在不斷進(jìn)行升級(jí)與發(fā)展。經(jīng)濟(jì)學(xué)理論認(rèn)為,算法存在相當(dāng)大的風(fēng)險(xiǎn),即通過提高市場(chǎng)交易效率實(shí)現(xiàn)高頻交易,增加了傳統(tǒng)上以激烈競(jìng)爭(zhēng)為特征的市場(chǎng)結(jié)構(gòu)中合謀的可能性[8]。特別是在定價(jià)的背景下,智能系統(tǒng)有能力從周圍環(huán)境中學(xué)習(xí)并制定應(yīng)對(duì)策略,以不可預(yù)測(cè)的方式實(shí)現(xiàn)目標(biāo)。這些類型的算法是深度學(xué)習(xí)或第二代定價(jià)算法[9]155-171,競(jìng)爭(zhēng)者之間并沒有形成任何非法的協(xié)議,也沒有進(jìn)行任何實(shí)質(zhì)交流和接觸,每個(gè)競(jìng)爭(zhēng)者都會(huì)根據(jù)競(jìng)爭(zhēng)對(duì)手的行為作出反應(yīng),將價(jià)格提升到具有競(jìng)爭(zhēng)力的水平。該種行為對(duì)反壟斷提出的挑戰(zhàn)在于傳統(tǒng)的反壟斷要求企業(yè)之間要存在直接或間接的接觸或協(xié)議的證據(jù),以表明企業(yè)之間沒有合謀,而新型算法合謀促進(jìn)了競(jìng)爭(zhēng)對(duì)手的共同行為,增加了達(dá)成合謀結(jié)果的風(fēng)險(xiǎn),并不會(huì)受到目前競(jìng)爭(zhēng)規(guī)則的影響[10]。

    (二)責(zé)任主體歸責(zé)的隱憂

    在傳統(tǒng)壟斷協(xié)議框架中,主體一般為自然人、法人或其他組織,具備完全的權(quán)利能力和行為能力,可以對(duì)其行為承擔(dān)相應(yīng)的責(zé)任。在算法合謀中,算法是默示合謀的主要參與者之一,本質(zhì)上屬于網(wǎng)絡(luò)編程。《中華人民共和國反壟斷法》(以下簡(jiǎn)稱《反壟斷法》)對(duì)壟斷行為規(guī)制的前提是主體具備承擔(dān)責(zé)任的能力,對(duì)于算法而言一部分是基于自然人設(shè)計(jì)者的意圖而進(jìn)行設(shè)計(jì)的,另一部分則來自于算法自主學(xué)習(xí)而實(shí)施的壟斷行為。在數(shù)字眼自主學(xué)習(xí)類別的算法合謀下,如何界定人類與機(jī)器之間的關(guān)系都關(guān)乎倫理與政策,需要考量的因素包括但不限于機(jī)器的程序、安全措施、獎(jiǎng)勵(lì)結(jié)構(gòu)、活動(dòng)范圍等[11]。人類設(shè)計(jì)了自動(dòng)學(xué)習(xí)算法的程序,并且由人類決定使用、暫?;蚪K止程序。

    算法合謀的法律規(guī)則有三種選擇:一由機(jī)器(編程)承擔(dān);二由設(shè)計(jì)人員承擔(dān)責(zé)任;三由企業(yè)擔(dān)責(zé)或者誰也不承擔(dān)責(zé)任。如果企業(yè)設(shè)計(jì)算法并且推動(dòng)算法達(dá)到企業(yè)的不正當(dāng)目的,公司設(shè)計(jì)使用算法并且從中獲利,那么此時(shí)界定責(zé)任是相對(duì)容易的。但如果機(jī)器不按照公司意圖行動(dòng),當(dāng)計(jì)算機(jī)算法變成沒有基于企業(yè)的命令而工作時(shí),如何評(píng)價(jià)該行為就變得困難。在確定算法合謀的責(zé)任分配時(shí),不可忽視企業(yè)的主觀意圖,從根本上看算法均為人設(shè)計(jì),人對(duì)算法作出的決定應(yīng)承擔(dān)相應(yīng)的責(zé)任。但伴隨算法自主學(xué)習(xí)能力的深入,算法與人之間的聯(lián)系逐漸弱化模糊,在面對(duì)不需要人為干預(yù)的高層次算法時(shí)責(zé)任如何劃分便顯得尤為棘手。有學(xué)者提議可以從算法的獲益者來判斷,誰獲益誰擔(dān)責(zé)。此外,在設(shè)計(jì)和運(yùn)用算法的過程中,將消費(fèi)者的意圖受侵害作為判斷的一個(gè)因素也存在爭(zhēng)論。

    (三)現(xiàn)有反壟斷框架的缺憾

    我國目前《反壟斷法》規(guī)定了明示的合謀,對(duì)于非明示合謀即默示合謀尚未作出規(guī)定?!斗磯艛喾ā匪?guī)定的合謀是通過經(jīng)營者間協(xié)商達(dá)成協(xié)議的合謀,但算法機(jī)制發(fā)出信號(hào)或者動(dòng)態(tài)調(diào)整價(jià)格的行為均難以認(rèn)定為《反壟斷法》所規(guī)定的合謀行為。以數(shù)據(jù)眼自主學(xué)習(xí)合謀為例,算法可以自主學(xué)習(xí)排除人類干預(yù),對(duì)市場(chǎng)和行業(yè)價(jià)格進(jìn)行實(shí)時(shí)監(jiān)測(cè)并實(shí)時(shí)更新政策以獲取最大競(jìng)爭(zhēng)優(yōu)勢(shì),該種類型是傳統(tǒng)的反壟斷法無法涵射且認(rèn)定的。另外,傳統(tǒng)的合謀發(fā)生在壟斷市場(chǎng),合謀對(duì)于競(jìng)爭(zhēng)秩序危害極大。算法時(shí)代,算法改變了傳統(tǒng)合謀所需的條件,合謀對(duì)于市場(chǎng)的依賴性降低。以當(dāng)前的電子商務(wù)平臺(tái)為例,經(jīng)營者數(shù)量多,市場(chǎng)份額分散,經(jīng)營者也可以形成橫向的價(jià)格合謀。默示合謀僅能在經(jīng)營者所占市場(chǎng)份額大時(shí)才會(huì)造成損害,因此不可以概括認(rèn)定算法合謀的負(fù)面作用,以免擾亂市場(chǎng)秩序。

    (四)算法合謀協(xié)議概念的局限

    協(xié)議是合謀達(dá)成的條件之一,明示合謀行為需要經(jīng)營者通過明確的協(xié)議完成,對(duì)協(xié)議的精準(zhǔn)識(shí)別是對(duì)合謀進(jìn)行規(guī)制的前提,確定協(xié)議的內(nèi)容后才可以進(jìn)一步去分析合謀。我國《反壟斷法》對(duì)于協(xié)議的概念付之闕如,我國立法采用了“壟斷協(xié)議”的概念。合謀協(xié)議的概念需要經(jīng)營者合意、協(xié)商方式、限制競(jìng)爭(zhēng)內(nèi)容三個(gè)要素。傳統(tǒng)合謀協(xié)議無論形式還是內(nèi)容都相對(duì)單一,如通過協(xié)商達(dá)成價(jià)格確定、數(shù)量限制、劃分市場(chǎng)等,在實(shí)施合謀過程中不斷進(jìn)行交流磋商,實(shí)現(xiàn)限制競(jìng)爭(zhēng)的效果。傳統(tǒng)反壟斷法對(duì)于壟斷協(xié)議的劃分模式極為簡(jiǎn)易,算法在合謀過程中使合謀的構(gòu)成復(fù)雜化、經(jīng)營者之間的聯(lián)系方式多樣化。以中心輻軸類合謀為例,不同層級(jí)的經(jīng)營者共同參與其中,企業(yè)以中心為媒介,不同企業(yè)之間形成一種縱向的壟斷協(xié)議來規(guī)避反壟斷法律規(guī)范的監(jiān)管。在數(shù)字眼自主學(xué)習(xí)合謀中,企業(yè)完全抽離于算法之外,由機(jī)器自主學(xué)習(xí)算法,結(jié)合市場(chǎng)條件、市場(chǎng)價(jià)格等因素進(jìn)行一系列的定價(jià)行為,在此過程中無法監(jiān)測(cè)到企業(yè)之間達(dá)成了合謀。在默示合謀中,經(jīng)營者達(dá)成合謀時(shí)并未進(jìn)行客觀交流,而是通過特定行為無法受到反壟斷的規(guī)制,因此有必要對(duì)“協(xié)議”的概念進(jìn)行重新解釋,擴(kuò)大算法合謀的形式滿足其特定要求。

    二、基本范疇:對(duì)算法合謀的理論追問

    (一)算法合謀的內(nèi)涵厘定

    算法一詞來源于數(shù)學(xué)概念,原是一種古老的運(yùn)算法則,其本質(zhì)是一種解決問題的方式。在現(xiàn)代是指解決問題的一系列明確的指令,經(jīng)過一定規(guī)范的輸入,在有限時(shí)間內(nèi)獲得所要求的輸出,其可以通過語言、代碼等多種方式表示。在商業(yè)領(lǐng)域便是企業(yè)通過對(duì)數(shù)據(jù)的收集分析,最終設(shè)計(jì)出適合自己的經(jīng)營方案。合謀是指競(jìng)爭(zhēng)對(duì)手之間共同實(shí)施的一種策略行為,該行為極有可能侵害消費(fèi)者合法權(quán)益以維護(hù)經(jīng)營者的利益最大化[12]。合謀通常存在兩個(gè)或兩個(gè)以上的獨(dú)立經(jīng)營者,其共同通過協(xié)議或決定等形式對(duì)產(chǎn)品或服務(wù)的價(jià)格、數(shù)量進(jìn)行限制,從而達(dá)到排除限制競(jìng)爭(zhēng)的效果[13]。合謀行為可以分為明示的合謀與默示的合謀,明示合謀通常以書面或口頭的明確方式體現(xiàn)維持合謀的反競(jìng)爭(zhēng)行為,而默示的合謀也稱為有意識(shí)的平性行為,通常是指不通過協(xié)議等明確形式,競(jìng)爭(zhēng)對(duì)手通過一致行動(dòng)來維持合謀以達(dá)到合謀的效果。

    (二)算法合謀的本質(zhì)特征

    1.合謀達(dá)成隱秘性強(qiáng)

    傳統(tǒng)的合謀方式離不開人的主觀意志,主要通過個(gè)人明示或暗示來達(dá)成合謀。在互聯(lián)網(wǎng)大數(shù)據(jù)背景下,競(jìng)爭(zhēng)者拋棄原始的人為合謀,市場(chǎng)競(jìng)爭(zhēng)中諸多經(jīng)營者共同行動(dòng)達(dá)成合謀,利用算法巧妙地避開《反壟斷法》所規(guī)制的行為,使合謀對(duì)市場(chǎng)的依賴性大大降低,即使監(jiān)管人員發(fā)現(xiàn)異常,也難以取證證明經(jīng)營者達(dá)成了合謀。數(shù)字算法技術(shù)通過一套完善的機(jī)制達(dá)成合謀,對(duì)市場(chǎng)情況、競(jìng)爭(zhēng)者顯存條件、消費(fèi)者購買力等諸多因素進(jìn)行計(jì)算從而確定商品價(jià)格,在此過程中人為因素被極大程度弱化,算法隱秘性加大了反壟斷規(guī)制的難度,在此過程中的合謀形式由傳統(tǒng)的明示合謀變?yōu)槟竞现\。由于算法得以有效運(yùn)作的重要基礎(chǔ)是龐大的數(shù)據(jù)體系,經(jīng)過一系列計(jì)算得出結(jié)果,數(shù)據(jù)信息的交流與互動(dòng)要求提升市場(chǎng)透明度,但市場(chǎng)透明度的提升也意味著信息傳遞交互的迅捷,當(dāng)市場(chǎng)某個(gè)競(jìng)爭(zhēng)者的價(jià)格等因素變化時(shí),其他競(jìng)爭(zhēng)者便快速獲知該信息,獲取咨詢的便捷直接促使數(shù)據(jù)獲取成本下降??梢?,數(shù)據(jù)技術(shù)的發(fā)展使經(jīng)營者采取競(jìng)爭(zhēng)策略所獲得的營利空間壓縮,在此情形下競(jìng)爭(zhēng)者之間更傾向采取協(xié)同行為以獲取更高額的利潤。

    2.算法參與主體眾多

    傳統(tǒng)商業(yè)模式下,合謀行為通常由經(jīng)營者進(jìn)行磋商最終達(dá)成壟斷協(xié)議,對(duì)于此種行為法律進(jìn)行規(guī)制較為原始簡(jiǎn)單。在數(shù)字時(shí)代,算法的應(yīng)用不斷提高智能化水平與隱秘性優(yōu)勢(shì),算法作為重要的主體參與到算法合謀中。在信使類合謀中,算法以一種工具的形式成為合謀的一方參與者,其發(fā)揮作用的驅(qū)動(dòng)力在于使用者的驅(qū)使,單純作為一項(xiàng)工具被利用在算法合謀中。在較為高級(jí)的數(shù)字眼自主學(xué)習(xí)合謀中,算法已經(jīng)不僅僅作為一項(xiàng)工具存在,而是成為了具備自主學(xué)習(xí)、自主研發(fā)、自主升級(jí)的強(qiáng)勢(shì)主體。智能算法在此類合謀中已經(jīng)超越工具的價(jià)值,最大程度弱化人為因素的參與程度,可以依據(jù)市場(chǎng)情況與智能應(yīng)用進(jìn)行自主學(xué)習(xí)與自主研發(fā),主動(dòng)實(shí)施并主導(dǎo)定價(jià)行為。

    3.算法智能化程度高

    人工智能的發(fā)展催生新型經(jīng)濟(jì)關(guān)系與社會(huì)關(guān)系的同時(shí),也帶來智能的算法時(shí)代,這意味著一切事物皆可計(jì)算。智能算法已成為壟斷協(xié)議的直接參與者,通過機(jī)器智能自主深度學(xué)習(xí)從而幫助經(jīng)營者進(jìn)行商業(yè)決策。算法具有極強(qiáng)的智能預(yù)測(cè)能力,通過對(duì)市場(chǎng)諸多因素的分析后得出最佳經(jīng)營策略[14]。當(dāng)算法判斷合謀有利于競(jìng)爭(zhēng)者時(shí),那么算法便會(huì)選擇合謀,在此過程中相關(guān)經(jīng)營者也沒有達(dá)成協(xié)議,甚至沒有合謀意圖,此時(shí)傳統(tǒng)反壟斷法律規(guī)范便無法對(duì)其進(jìn)行規(guī)制,此種合謀危害更大。目前算法智能尚處于依賴數(shù)據(jù)進(jìn)行總結(jié)的階段,但未來的發(fā)展將變得難以預(yù)測(cè),人工智能具備自主學(xué)習(xí)甚至自我編程升級(jí)的能力后,人類便無法預(yù)知其可能發(fā)展的水平,規(guī)制也將無從下手。

    (三)算法合謀的類別

    算法在合謀過程中扮演著不同的角色,對(duì)合謀的影響也不同,算法合謀的主要形式有四種。第一,算法協(xié)助合謀。算法通過自動(dòng)定位競(jìng)爭(zhēng)對(duì)手的價(jià)格數(shù)據(jù),將自身經(jīng)營者的價(jià)格調(diào)至與其相同價(jià)位,經(jīng)營者達(dá)成合謀之后便可以充分利用算法來實(shí)現(xiàn)合謀,靈活設(shè)置價(jià)格,與合謀對(duì)象保持價(jià)格一致,此時(shí)算法在合謀過程中扮演著協(xié)助者的角色。同時(shí),經(jīng)營者可通過算法來實(shí)時(shí)跟蹤價(jià)格,減少傳統(tǒng)價(jià)格跟蹤的時(shí)間差。第二,算法合謀動(dòng)態(tài)定價(jià)。算法通過對(duì)市場(chǎng)數(shù)據(jù)的分析,根據(jù)市場(chǎng)變化來適時(shí)調(diào)整價(jià)格,價(jià)格的高低與市場(chǎng)需求多寡相關(guān)聯(lián)。第三,算法信號(hào)合謀。算法信號(hào)合謀是指經(jīng)營者發(fā)出特定的信號(hào)和相關(guān)信息捕捉其經(jīng)營者消息,依據(jù)對(duì)方的回應(yīng)作出反應(yīng)。第四,人工智能合謀。智能算法可以通過機(jī)器學(xué)習(xí)及深度學(xué)習(xí)的技術(shù)幫助經(jīng)營者作出決策,甚至可以獨(dú)自作出決策。

    算法合謀理論由Ariel Ezrachi教授提出,該理論的四種場(chǎng)景對(duì)于發(fā)現(xiàn)合謀以及創(chuàng)建相應(yīng)的機(jī)制至關(guān)重要。

    1.信使類合謀

    信使類合謀指的是計(jì)算機(jī)或算法扮演信使角色,其行為依據(jù)人的計(jì)劃進(jìn)行。人類共謀的目的在于自愿達(dá)成卡特爾,利用計(jì)算機(jī)實(shí)施監(jiān)督并管理卡特爾,代替人類執(zhí)行其任務(wù)[15]。經(jīng)營者首先對(duì)價(jià)格進(jìn)行商定明確達(dá)成協(xié)議,而后通過智能手段設(shè)計(jì)算法程序,共謀者之間達(dá)成協(xié)議后一旦有背叛者出現(xiàn),通過大數(shù)據(jù)的抓捕即可識(shí)別出違背協(xié)議者,從而對(duì)其進(jìn)行處罰。在信使類合謀中,先達(dá)成共謀,而后經(jīng)營者進(jìn)行選擇,算法僅僅起到協(xié)助人類的作用,人才是該類合謀的操縱者,算法僅作為被操縱的工具存在。在此場(chǎng)景中算法有三種作用:一是算法可以監(jiān)控其他合謀者的數(shù)據(jù),對(duì)數(shù)據(jù)作出反饋后生成具有競(jìng)爭(zhēng)性的新價(jià)格;二是該種算法通過向企業(yè)發(fā)送信號(hào)的方式便利其他合謀者采取相同立場(chǎng);三是算法的設(shè)計(jì)具有懲戒作用,如果企業(yè)的設(shè)定偏離協(xié)議,那么算法就會(huì)懲罰背叛者,如除了背叛者之外都可以降低價(jià)格,使背叛者退出市場(chǎng)[16]。信使類的合謀顯然涉及企業(yè)之間的合謀協(xié)議,信使定價(jià)的方案在本質(zhì)上是卡特爾協(xié)議,相關(guān)方應(yīng)被認(rèn)定為操縱價(jià)格共謀并擔(dān)責(zé)。

    2.中心輻軸類合謀

    軸輻協(xié)議也被稱為中心輻射型壟斷協(xié)議,該種協(xié)議的特點(diǎn)是在同一條產(chǎn)業(yè)鏈條上,參與者并非同級(jí)經(jīng)營者,而是不同層級(jí)經(jīng)營者共同參與,企業(yè)并非與水平競(jìng)爭(zhēng)者達(dá)成合謀協(xié)議,而是利用中心作為合謀的間接媒介,協(xié)議由不同層級(jí)的參與者們共同達(dá)成,其特點(diǎn)是一種復(fù)雜的縱向壟斷協(xié)議,但卻產(chǎn)生排除或限制競(jìng)爭(zhēng)的效果[17],是一種更為間接的方式。在同一市場(chǎng)上的經(jīng)營者們對(duì)使用同一定價(jià)算法達(dá)成一致意見,該定價(jià)算法所定價(jià)格為市場(chǎng)公認(rèn)價(jià)格,假設(shè)輻軸范圍足夠廣,加之研發(fā)者的協(xié)助,非常容易達(dá)成合謀使價(jià)格飛漲并限制競(jìng)爭(zhēng)。在該類合謀中,算法的開發(fā)者與使用者之間并不是橫向的競(jìng)爭(zhēng)關(guān)系,橫向競(jìng)爭(zhēng)者們通過選擇相同或相近似的價(jià)格制定算法,企業(yè)繞過溝通環(huán)節(jié)進(jìn)而作出具有競(jìng)爭(zhēng)力的定價(jià),不同層級(jí)的企業(yè)之間構(gòu)建了一套復(fù)雜的關(guān)系網(wǎng)絡(luò),在企業(yè)之間通過樞紐共享信息進(jìn)而達(dá)成合謀,他們之間的契約關(guān)系為縱向協(xié)議的性質(zhì)。統(tǒng)一算法在不同企業(yè)間平行使用,對(duì)傳統(tǒng)反壟斷理念和制度造成極大困境。

    3.可預(yù)測(cè)類合謀

    該類合謀需通過信號(hào)算法方可達(dá)成,在此過程中計(jì)算機(jī)算法雖由不同企業(yè)研發(fā),但設(shè)計(jì)程序類似,可以進(jìn)行價(jià)格跟蹤。定價(jià)算法扮演經(jīng)營者的代理人,不僅可以監(jiān)控競(jìng)爭(zhēng)者定價(jià),也可以在被代理人的價(jià)格范疇內(nèi)適時(shí)調(diào)整定價(jià)。在可預(yù)測(cè)類合謀中,企業(yè)自己開發(fā)定價(jià)算法,當(dāng)相關(guān)市場(chǎng)的企業(yè)遵守這個(gè)價(jià)格策略時(shí),可以對(duì)市場(chǎng)價(jià)格作出一個(gè)適當(dāng)?shù)淖罴逊磻?yīng)以實(shí)現(xiàn)合謀,然而實(shí)際卻沒有進(jìn)行任何合謀的行為,企業(yè)的實(shí)質(zhì)目的是為了達(dá)成這種不可言說的合謀形式。在此合謀場(chǎng)域下,其實(shí)是一種“信號(hào)發(fā)送-企業(yè)反映”的模型,企業(yè)制定的算法確定價(jià)格后向其他競(jìng)爭(zhēng)者發(fā)送信號(hào),假設(shè)該企業(yè)發(fā)送高于價(jià)格水平的價(jià)格信號(hào),其他企業(yè)收到信號(hào)后可以選擇與其價(jià)格匹配,或者選擇不提高價(jià)格并向發(fā)出者反饋消息,終止達(dá)成合謀,收到信號(hào)后的發(fā)送者也可以重新降低價(jià)格[16]。在可預(yù)測(cè)合謀模式下,企業(yè)聯(lián)系默契,雖然沒有書面或口頭協(xié)議,但實(shí)質(zhì)上存在默示的共謀,造成了實(shí)質(zhì)競(jìng)爭(zhēng)效果。

    4.數(shù)字眼自主類合謀

    隨著企業(yè)與用戶雙方的數(shù)據(jù)不斷增長,企業(yè)更愿意選擇自主學(xué)習(xí)算法類型[9]164。自主類算法合謀中,可以自主進(jìn)行深度學(xué)習(xí)并選擇最優(yōu)方式執(zhí)行任務(wù),憑借自身判斷進(jìn)行價(jià)格調(diào)整,尋找提高利潤的方法,不需要聽從研發(fā)者或經(jīng)營者的指令。在有監(jiān)督的學(xué)習(xí)中,數(shù)據(jù)點(diǎn)的結(jié)構(gòu)可以按照相關(guān)市場(chǎng)的適當(dāng)條件進(jìn)行分配,因此該算法將告訴企業(yè)在瞬時(shí)市場(chǎng)條件下實(shí)現(xiàn)利潤最大化的最佳價(jià)格水平[9]164。算法雖然無法給出通行的科學(xué)釋義,但其運(yùn)行條件均是在數(shù)據(jù)統(tǒng)合之上進(jìn)行的。企業(yè)間數(shù)據(jù)的流動(dòng)可以使算法進(jìn)行實(shí)時(shí)更新,不斷提出新的決策來適應(yīng)現(xiàn)實(shí)情況。算法智能化的特點(diǎn)明顯,其可以根據(jù)市場(chǎng)的變化而作出重新判斷,甚至其行為也可能與研發(fā)者不同,人類在此定價(jià)類型中介入程度極其有限。自主合謀算法依據(jù)自己的思維邏輯判斷時(shí),其依據(jù)已知的數(shù)據(jù)得出最佳方案,人類主體介入算法程序受限后,其合謀的能力才會(huì)得到最大程度應(yīng)用。數(shù)字眼自主學(xué)習(xí)算法并不需要去體現(xiàn)制造者的意圖,其真正的功能體現(xiàn)在如何在價(jià)格給定的情況下使其利潤最大化。傳統(tǒng)算法模式下,算法的內(nèi)部結(jié)構(gòu)可以通過編碼進(jìn)行觀察,而自主算法的不同在于其不可觀測(cè)性,不可觀測(cè)性模糊了責(zé)任的概念與界限,這也給反壟斷規(guī)制提出了新挑戰(zhàn)。

    三、修正路徑:算法合謀的邏輯依歸

    (一)協(xié)議內(nèi)涵外延的重新解讀

    經(jīng)營者通過一系列行為構(gòu)成合謀,在對(duì)其進(jìn)行規(guī)制時(shí)必須闡明協(xié)議的內(nèi)容與性質(zhì),厘清合謀的合法與非法之界限,明確協(xié)議的內(nèi)涵與外延?!稓W盟運(yùn)行條約》第101條第1款規(guī)定了企業(yè)之間所有的協(xié)議、企業(yè)協(xié)會(huì)的決定以及可能影響成員國之間貿(mào)易的協(xié)同行為,如果其目的或效果是阻止、限制或扭曲內(nèi)部市場(chǎng)競(jìng)爭(zhēng),則因與內(nèi)部市場(chǎng)不相容而被禁止。其立法目的在于禁止競(jìng)爭(zhēng)者之間的一切惡意串通行為,對(duì)于“協(xié)議”“企業(yè)協(xié)會(huì)的決定”“一致行動(dòng)”等詞匯的定義,目的在于獲取全部具有實(shí)質(zhì)相同意義的合謀行為。第101條所禁止的行為直接或間接侵犯了潛在競(jìng)爭(zhēng),而最終卻需要消費(fèi)者為其買單,合謀的主要目的就在于將其他競(jìng)爭(zhēng)者趕出市場(chǎng),從而提升價(jià)格獲取利潤。

    《反壟斷法》所定義的協(xié)議,需要經(jīng)營者通過共同協(xié)商達(dá)成相同的意志,其內(nèi)容必須是有限制競(jìng)爭(zhēng)可能性的因素。對(duì)于明示合謀外的算法合謀大致可以分為兩類,一類是對(duì)于有合意的算法合謀,其可能通過性質(zhì)模糊的其他約定方式進(jìn)行。該種形式并沒有對(duì)價(jià)格進(jìn)行限制,僅僅是算法的共享,即便動(dòng)態(tài)定價(jià)算法所致的結(jié)果一致,依據(jù)當(dāng)前的協(xié)議概念,依然很難將共享算法的約定納入《反壟斷法》的協(xié)議,因此有必要對(duì)合謀協(xié)議的概念進(jìn)行擴(kuò)大解釋,只要證明經(jīng)營者間存在合謀合意,且算法與行為具有因果關(guān)系,便可以將其認(rèn)定為《反壟斷法》意義上的協(xié)議。第二類是對(duì)于有合意但沒有協(xié)商的算法合謀,可能通過人工智能的手段進(jìn)行。經(jīng)營者僅通過常見的依存關(guān)系等因素不約而同地實(shí)施特定行為,鑒于該種行為會(huì)損害市場(chǎng)競(jìng)爭(zhēng),甚至可能造成非常嚴(yán)重的危害,因此對(duì)于協(xié)議的形式不應(yīng)設(shè)限,可將上述行為推定為合謀協(xié)議。

    (二)積極干預(yù)政策的切實(shí)保障

    基于以上分析,立法者應(yīng)當(dāng)積極應(yīng)對(duì)算法時(shí)代所帶來的挑戰(zhàn),制定明確且可執(zhí)行的強(qiáng)制性干預(yù)方案以防止惡意競(jìng)爭(zhēng)。第一,可以增設(shè)事前階段,在特定市場(chǎng)條件下,公司必須要報(bào)告特定算法的使用情況,這種監(jiān)管機(jī)制可能會(huì)給機(jī)構(gòu)或公司造成成本的增加,也可能被證明事前監(jiān)督難以實(shí)施,特別是在涉及數(shù)字眼自主學(xué)習(xí)的情況下。第二,可以增設(shè)事后調(diào)查,如英國競(jìng)爭(zhēng)與市場(chǎng)管理局就有權(quán)進(jìn)行市場(chǎng)調(diào)查,搜集證據(jù)并進(jìn)行評(píng)估,在必要時(shí)提供相應(yīng)的補(bǔ)救。立法者可以授權(quán)執(zhí)法者進(jìn)行調(diào)查的權(quán)利,如針對(duì)算法的性質(zhì)、意圖、邏輯等,事后監(jiān)管模式具有一定的調(diào)和性和偶然性,可以選擇干預(yù)或不干預(yù)算法。在算法時(shí)代,企業(yè)通過大數(shù)據(jù)算法對(duì)消費(fèi)者或整個(gè)社會(huì)作出評(píng)估與選擇,我們沒有理由限制政府作為主體對(duì)市場(chǎng)進(jìn)行監(jiān)管,即便企業(yè)通過復(fù)雜算法分析市場(chǎng)并確定了價(jià)格,政府抑或是法律也無法對(duì)其進(jìn)行有效監(jiān)管,因此需要?jiǎng)?chuàng)設(shè)一種嚴(yán)謹(jǐn)?shù)募夹g(shù)手段進(jìn)行干預(yù)。

    (三)違法認(rèn)定理念的理性轉(zhuǎn)向

    我國對(duì)于壟斷的二分法標(biāo)準(zhǔn)具有簡(jiǎn)易的形式化特征,面對(duì)反壟斷案件時(shí)執(zhí)法效率高,但卻無法擺脫僵化死板的特質(zhì)。簡(jiǎn)單的二分法標(biāo)準(zhǔn)在面臨數(shù)字時(shí)代的反壟斷案時(shí)表現(xiàn)出明顯的疲軟之態(tài),完全無法涵射新型的合謀方式,但數(shù)字科技的應(yīng)用并不會(huì)因反壟斷的僵化而停滯不前。傳統(tǒng)二分法糾結(jié)于橫向或縱向的區(qū)分而忽視了協(xié)議是否造成了限制競(jìng)爭(zhēng)的現(xiàn)實(shí)結(jié)果,面對(duì)數(shù)字時(shí)代的反壟斷,傳統(tǒng)的二分法根本無法解決復(fù)雜的壟斷協(xié)議,這也是為什么商業(yè)制度從不是法學(xué)家或者立法者驅(qū)動(dòng)的,而是狡黠的商人驅(qū)動(dòng)的,人人皆為經(jīng)濟(jì)人,商人自不例外。精于計(jì)算、利己至上,具有“經(jīng)濟(jì)人”本性的商人必定會(huì)對(duì)壟斷事宜進(jìn)行反復(fù)利益衡量。反壟斷違法認(rèn)定的理念應(yīng)當(dāng)從原始的形式化認(rèn)定轉(zhuǎn)向?qū)嵸|(zhì)的理論依歸,制定明確的實(shí)質(zhì)性違法認(rèn)定條款,確保執(zhí)法用法有法可依,嚴(yán)格將法定原則作為制度建構(gòu)的基本遵循。對(duì)于反壟斷案件而言,實(shí)踐中體現(xiàn)為較高的智能化與數(shù)字化特征,一概而論的標(biāo)準(zhǔn)過于粗放,面對(duì)新型智能化違法行為要基于具體案件進(jìn)行個(gè)案審查,結(jié)合案件的手段、原因、結(jié)果、社會(huì)影響等因素綜合判斷。我國在司法實(shí)踐中過于強(qiáng)調(diào)違法的形式認(rèn)定而忽視實(shí)質(zhì)認(rèn)定,實(shí)質(zhì)認(rèn)定束之高閣的問題在面對(duì)新型算法合謀的境遇時(shí)應(yīng)當(dāng)予以重視[18]。

    (四)政府與市場(chǎng)的辨證施治

    在市場(chǎng)與政府之間作出選擇是極其復(fù)雜的,二者之間的關(guān)系并非二選一,而是在政府與市場(chǎng)之間進(jìn)行有機(jī)結(jié)合,在配置資源模式的不同程度間進(jìn)行合理調(diào)試,體現(xiàn)在二者發(fā)揮作用的程度上[19]114。市場(chǎng)因其不可避免的失靈與廣泛屬性,若傾向選擇市場(chǎng),就要遭受市場(chǎng)失靈帶來的廣泛性危害;若選擇政府,也極易陷入非市場(chǎng)導(dǎo)向下的陷阱。市場(chǎng)與非市場(chǎng)均存在不同的缺陷,市場(chǎng)體制下即便強(qiáng)調(diào)公平正義,也無法避免官僚體制下政治決策過程中武斷傲慢的存在,與市場(chǎng)相比也不會(huì)更好。非市場(chǎng)在有意識(shí)糾正市場(chǎng)不公平的同時(shí),自身常常又涉及不同類型和范圍的不公平[19]117-118。對(duì)于無約束的市場(chǎng)力量而言,適度有效的非市場(chǎng)因素干預(yù)是有效且必要的,二者在經(jīng)濟(jì)發(fā)展進(jìn)程中互相制約共同發(fā)揮作用??萍贾悄鼙尘跋碌姆磯艛嗨鶐淼奶魬?zhàn)不能僅靠一方進(jìn)行規(guī)制,應(yīng)在政府與市場(chǎng)之間尋求共同的治理方案,規(guī)制算法壟斷的違法行為。政府與市場(chǎng)本就是社會(huì)發(fā)展的一體兩翼,科技時(shí)代的算法合謀更離不開政府與市場(chǎng)的雙重規(guī)制,不能否定一方推崇另一方,一定是在二者之間尋求共同治理算法合謀的平衡點(diǎn)。實(shí)踐經(jīng)驗(yàn)驗(yàn)證了市場(chǎng)是資源配置的最有效手段,可以有效提高社會(huì)資源的配置率,但市場(chǎng)的決定作用并非意味著其可以擺脫政府的“有形之手”成為唯一。市場(chǎng)的完美無瑕是市場(chǎng)發(fā)揮決定作用的假設(shè)前提,但是市場(chǎng)并不會(huì)完美無缺,僅僅是經(jīng)濟(jì)學(xué)概念上的假設(shè),因此市場(chǎng)與政府也不是完全排除的二元論,而是處于相互依存的狀態(tài)[20],某種程度上處于一種不可分離的共生關(guān)系[21]。不同的歷史階段、不同的國家,政府與市場(chǎng)的關(guān)系都是不同的,二者的關(guān)系因國家的不同、市場(chǎng)經(jīng)濟(jì)的不同、發(fā)展時(shí)期的不同而各有差別[22]。政府與市場(chǎng)既相互區(qū)分,同時(shí)也相互滲透,但絕不可對(duì)立,這也是處理二者邊界問題的重心[23]。算法合謀不僅是時(shí)代發(fā)展的產(chǎn)物,更是商業(yè)社會(huì)市場(chǎng)經(jīng)濟(jì)發(fā)展過程中的新事物,由市場(chǎng)產(chǎn)生,順應(yīng)市場(chǎng)發(fā)展同時(shí)也受市場(chǎng)的約束,但單一的市場(chǎng)約束無法馴服算法合謀這一猛獸,實(shí)踐經(jīng)驗(yàn)也表明算法合謀帶來的危害與未知,需要政府與市場(chǎng)共同干預(yù)辨證施治。

    數(shù)字時(shí)代,新技術(shù)的影響仍是未知,但政策制定與法律選擇不能因此停擺。算法滲透現(xiàn)代生活的每個(gè)角落,時(shí)刻影響著商品經(jīng)濟(jì)的參與者,伴隨技術(shù)的進(jìn)步,算法在未來交易中會(huì)帶來更大的影響。近代社會(huì)的諸多法律制度,許多法律制度的設(shè)計(jì)均源自立法者的刻意為之[24]。功利色彩濃厚的制度設(shè)計(jì),不顧與傳統(tǒng)社會(huì)、文化等諸多因素是否和諧,生搬硬套的“拿來主義”早已破壞了法律應(yīng)有的體系與規(guī)范的屬性[25]。立法活動(dòng)“應(yīng)立足智能互聯(lián)網(wǎng)時(shí)代的客觀要求,確立新型正義觀,構(gòu)架新型權(quán)利義務(wù)關(guān)系,促進(jìn)權(quán)益的平衡共享發(fā)展,推動(dòng)法律制度與規(guī)則秩序的轉(zhuǎn)型升級(jí)。”[26]“法律的重要作用之一乃是調(diào)整和調(diào)和種種相互沖突的利益。”[27]人工智能算法發(fā)展的終極可能會(huì)取代人為的企業(yè)決策,《反壟斷法》勢(shì)必緊跟算法的發(fā)展,充分認(rèn)識(shí)新技術(shù)帶來的風(fēng)險(xiǎn),切實(shí)保護(hù)交易、競(jìng)爭(zhēng)與市場(chǎng)的和平。在人工智能的數(shù)字發(fā)展時(shí)代,尋求與科技的和諧共生是人類的共同議題。

    猜你喜歡
    經(jīng)營者
    明清珠江三角洲基塘區(qū)的田場(chǎng)與經(jīng)營者
    廣州文博(2023年0期)2023-12-21 07:24:30
    《經(jīng)營者》征稿啟事
    論經(jīng)營者集中反壟斷審查期限的立法完善——兼評(píng)《〈反壟斷法〉修訂草案(公開征求意見稿)》第30條
    高速公路服務(wù)區(qū)經(jīng)營者誠信考核評(píng)價(jià)體構(gòu)建
    試論對(duì)經(jīng)營者集中的審查規(guī)制
    法制博覽(2018年32期)2018-01-22 13:47:04
    經(jīng)營者集中申報(bào)若干問題探析
    做一名聰明的集團(tuán)醫(yī)院經(jīng)營者
    計(jì)算營業(yè)額
    從經(jīng)營者到協(xié)調(diào)人:集體林權(quán)改革中政府角色的轉(zhuǎn)換
    江漢論壇(2014年12期)2014-03-11 16:44:09
    阿特拉斯·科普柯空壓機(jī)——精明采石場(chǎng)經(jīng)營者的不二選擇
    丝袜喷水一区| 欧美日本亚洲视频在线播放| 成人特级av手机在线观看| 国产精品久久视频播放| 亚洲国产精品国产精品| 婷婷精品国产亚洲av| 人人妻人人澡欧美一区二区| 国产av不卡久久| 久久久午夜欧美精品| 欧美精品国产亚洲| 在现免费观看毛片| 久久久久久久久久久丰满| 欧美潮喷喷水| 免费观看精品视频网站| 国产精品一区二区免费欧美| 亚洲不卡免费看| 国内久久婷婷六月综合欲色啪| 天堂网av新在线| 天堂av国产一区二区熟女人妻| 亚洲成av人片在线播放无| 亚洲欧美成人精品一区二区| 人妻制服诱惑在线中文字幕| 国产黄片美女视频| 免费在线观看影片大全网站| 日本与韩国留学比较| avwww免费| 成人特级av手机在线观看| 美女内射精品一级片tv| 亚洲欧美日韩高清专用| 免费一级毛片在线播放高清视频| 亚洲精品亚洲一区二区| 听说在线观看完整版免费高清| 久99久视频精品免费| 久久久精品大字幕| 国产乱人视频| 女生性感内裤真人,穿戴方法视频| 麻豆国产av国片精品| 亚洲在线观看片| 九九在线视频观看精品| 国产蜜桃级精品一区二区三区| 69av精品久久久久久| 精品午夜福利视频在线观看一区| 一个人看的www免费观看视频| 精品人妻视频免费看| 偷拍熟女少妇极品色| 精品无人区乱码1区二区| 看片在线看免费视频| 免费在线观看影片大全网站| 丰满乱子伦码专区| 久久精品国产99精品国产亚洲性色| 亚洲无线观看免费| 成人国产麻豆网| 亚洲aⅴ乱码一区二区在线播放| 99久国产av精品| 国产探花极品一区二区| 九九久久精品国产亚洲av麻豆| 69av精品久久久久久| 精品99又大又爽又粗少妇毛片| 伦理电影大哥的女人| 久久亚洲精品不卡| 99久国产av精品国产电影| 真实男女啪啪啪动态图| 精品人妻偷拍中文字幕| 日本免费a在线| 男人狂女人下面高潮的视频| 免费av不卡在线播放| 日韩欧美一区二区三区在线观看| 男人和女人高潮做爰伦理| 久久久久久久亚洲中文字幕| 成人av一区二区三区在线看| 免费大片18禁| 国内久久婷婷六月综合欲色啪| 免费av不卡在线播放| 久久久久久久久大av| 午夜老司机福利剧场| 亚洲不卡免费看| 小说图片视频综合网站| 97在线视频观看| 最近2019中文字幕mv第一页| 国产成人freesex在线 | 国产久久久一区二区三区| 国产黄片美女视频| 天堂动漫精品| 亚洲一区高清亚洲精品| h日本视频在线播放| 久久精品国产亚洲av香蕉五月| 亚洲五月天丁香| 国产精品久久电影中文字幕| 精品熟女少妇av免费看| 九九热线精品视视频播放| 韩国av在线不卡| av在线亚洲专区| 18禁黄网站禁片免费观看直播| 91久久精品国产一区二区成人| 内地一区二区视频在线| 寂寞人妻少妇视频99o| 精品久久久久久久久av| 久久99热6这里只有精品| 国产免费男女视频| 久久精品国产清高在天天线| av女优亚洲男人天堂| 天堂av国产一区二区熟女人妻| 日本五十路高清| 男女之事视频高清在线观看| 尤物成人国产欧美一区二区三区| 国产高清视频在线播放一区| 中国国产av一级| 干丝袜人妻中文字幕| 天天一区二区日本电影三级| 少妇被粗大猛烈的视频| 午夜福利视频1000在线观看| 日韩在线高清观看一区二区三区| 日本色播在线视频| 久久九九热精品免费| 啦啦啦观看免费观看视频高清| ponron亚洲| 亚洲最大成人av| 国产v大片淫在线免费观看| av天堂中文字幕网| 97在线视频观看| 干丝袜人妻中文字幕| 成年版毛片免费区| 国产av不卡久久| 麻豆乱淫一区二区| 国产高清不卡午夜福利| 色综合站精品国产| 国产91av在线免费观看| 寂寞人妻少妇视频99o| a级毛片免费高清观看在线播放| 麻豆av噜噜一区二区三区| 日韩,欧美,国产一区二区三区 | av中文乱码字幕在线| 国产高清有码在线观看视频| 成人美女网站在线观看视频| 人人妻,人人澡人人爽秒播| 日日干狠狠操夜夜爽| 久久久久精品国产欧美久久久| 免费在线观看影片大全网站| 两个人视频免费观看高清| 国产在视频线在精品| 国产女主播在线喷水免费视频网站 | 亚洲精品乱码久久久v下载方式| 日本成人三级电影网站| 欧美性猛交黑人性爽| 91精品国产九色| 三级男女做爰猛烈吃奶摸视频| 国产高清视频在线观看网站| 韩国av在线不卡| 看十八女毛片水多多多| 久久久精品94久久精品| 天堂影院成人在线观看| 国产av在哪里看| 色播亚洲综合网| 观看免费一级毛片| 午夜影院日韩av| 亚洲精品影视一区二区三区av| 又黄又爽又刺激的免费视频.| 国产三级中文精品| 国模一区二区三区四区视频| 在线播放无遮挡| 久久精品久久久久久噜噜老黄 | 男女视频在线观看网站免费| 国产伦精品一区二区三区四那| 亚洲自拍偷在线| 一级毛片我不卡| 成人精品一区二区免费| 丰满的人妻完整版| 成人二区视频| 99久久久亚洲精品蜜臀av| 我要搜黄色片| 又黄又爽又刺激的免费视频.| 国产三级中文精品| 亚洲五月天丁香| 国产av麻豆久久久久久久| 91av网一区二区| 99久久精品国产国产毛片| 欧美高清成人免费视频www| 日韩精品有码人妻一区| 久久人人爽人人片av| 久久久久国产精品人妻aⅴ院| 亚洲精品色激情综合| 99热这里只有是精品在线观看| 黄色日韩在线| 偷拍熟女少妇极品色| 尤物成人国产欧美一区二区三区| 色在线成人网| 欧美色视频一区免费| 欧美激情国产日韩精品一区| 日韩三级伦理在线观看| 欧美成人精品欧美一级黄| 亚洲电影在线观看av| 欧美性感艳星| 国产色婷婷99| 国产精品av视频在线免费观看| 1024手机看黄色片| 精品福利观看| 听说在线观看完整版免费高清| 国产精品永久免费网站| 亚洲自拍偷在线| 久久久久九九精品影院| 成人永久免费在线观看视频| 亚洲一级一片aⅴ在线观看| 97超级碰碰碰精品色视频在线观看| 国产黄片美女视频| 欧美日韩乱码在线| 中文字幕av在线有码专区| 亚洲美女视频黄频| 欧美丝袜亚洲另类| 成人av一区二区三区在线看| 日韩欧美精品免费久久| 黄色配什么色好看| 俄罗斯特黄特色一大片| 黄色欧美视频在线观看| 国产伦精品一区二区三区视频9| 亚洲欧美中文字幕日韩二区| 日韩国内少妇激情av| 亚洲精品色激情综合| 欧美中文日本在线观看视频| 嫩草影视91久久| 18禁在线无遮挡免费观看视频 | 99国产精品一区二区蜜桃av| 久久亚洲国产成人精品v| 亚洲综合色惰| 久久久久性生活片| 人妻夜夜爽99麻豆av| 两个人视频免费观看高清| 欧美最黄视频在线播放免费| 91麻豆精品激情在线观看国产| 国产日本99.免费观看| 三级男女做爰猛烈吃奶摸视频| 久久久久久大精品| 国内精品久久久久精免费| 3wmmmm亚洲av在线观看| 亚洲国产色片| av天堂中文字幕网| 99国产精品一区二区蜜桃av| 国产伦在线观看视频一区| 黑人高潮一二区| 如何舔出高潮| 午夜福利18| 麻豆国产av国片精品| h日本视频在线播放| 最近视频中文字幕2019在线8| 尤物成人国产欧美一区二区三区| 日本与韩国留学比较| 久久午夜亚洲精品久久| 国产精品1区2区在线观看.| a级毛片a级免费在线| 丝袜喷水一区| 国产成人91sexporn| 干丝袜人妻中文字幕| 成人av一区二区三区在线看| 久久九九热精品免费| 又黄又爽又免费观看的视频| 我要搜黄色片| 亚洲丝袜综合中文字幕| 久久精品国产亚洲av香蕉五月| 国产精品一二三区在线看| 色哟哟哟哟哟哟| 卡戴珊不雅视频在线播放| 赤兔流量卡办理| av免费在线看不卡| 中出人妻视频一区二区| 国产三级在线视频| 非洲黑人性xxxx精品又粗又长| 你懂的网址亚洲精品在线观看 | 狂野欧美激情性xxxx在线观看| 国产大屁股一区二区在线视频| 国产午夜精品久久久久久一区二区三区 | 精品人妻一区二区三区麻豆 | 三级毛片av免费| 高清午夜精品一区二区三区 | 亚洲美女搞黄在线观看 | av黄色大香蕉| 美女大奶头视频| 乱系列少妇在线播放| 在线观看免费视频日本深夜| 色播亚洲综合网| 欧美日韩国产亚洲二区| 乱人视频在线观看| 国产在线男女| 亚洲熟妇熟女久久| 国产在线精品亚洲第一网站| 草草在线视频免费看| 久久99热6这里只有精品| 国产女主播在线喷水免费视频网站 | av在线亚洲专区| 有码 亚洲区| 久久久a久久爽久久v久久| 精品久久久久久久久亚洲| 国产日本99.免费观看| 国产免费一级a男人的天堂| 一边摸一边抽搐一进一小说| 国产白丝娇喘喷水9色精品| 亚洲av一区综合| 成人欧美大片| 夜夜爽天天搞| 久久久久国产网址| 激情 狠狠 欧美| 99热精品在线国产| АⅤ资源中文在线天堂| 亚洲av成人精品一区久久| 国内揄拍国产精品人妻在线| 午夜福利成人在线免费观看| 久久精品国产自在天天线| 国产69精品久久久久777片| 在线观看av片永久免费下载| 美女cb高潮喷水在线观看| 成年版毛片免费区| 毛片一级片免费看久久久久| 中文字幕av在线有码专区| 十八禁网站免费在线| 中文字幕人妻熟人妻熟丝袜美| 3wmmmm亚洲av在线观看| 久久草成人影院| 2021天堂中文幕一二区在线观| 能在线免费观看的黄片| 日韩人妻高清精品专区| 免费观看的影片在线观看| 黄色日韩在线| 成人无遮挡网站| 伦理电影大哥的女人| 69人妻影院| 欧美日韩国产亚洲二区| 18禁在线播放成人免费| 小蜜桃在线观看免费完整版高清| 一级毛片电影观看 | 久久精品夜色国产| 亚洲精品日韩在线中文字幕 | 日韩在线高清观看一区二区三区| 国产精品日韩av在线免费观看| 男女那种视频在线观看| 亚洲综合色惰| 久久人妻av系列| 婷婷六月久久综合丁香| 精品99又大又爽又粗少妇毛片| 97人妻精品一区二区三区麻豆| 久久99热6这里只有精品| 此物有八面人人有两片| 少妇熟女欧美另类| 日产精品乱码卡一卡2卡三| 最近2019中文字幕mv第一页| 欧美又色又爽又黄视频| 久久99热6这里只有精品| 神马国产精品三级电影在线观看| 亚洲成a人片在线一区二区| 国产三级中文精品| 中文字幕精品亚洲无线码一区| 12—13女人毛片做爰片一| 久久久色成人| 国内少妇人妻偷人精品xxx网站| 国产片特级美女逼逼视频| 寂寞人妻少妇视频99o| 禁无遮挡网站| 国产精品一区二区性色av| 免费观看的影片在线观看| 成人特级黄色片久久久久久久| 亚洲va在线va天堂va国产| 欧美区成人在线视频| 亚洲精品久久国产高清桃花| 熟女电影av网| 国产欧美日韩一区二区精品| 精品人妻偷拍中文字幕| 在线看三级毛片| 国产男靠女视频免费网站| 秋霞在线观看毛片| 国产男靠女视频免费网站| 国产精品一二三区在线看| 免费看a级黄色片| 久久99热6这里只有精品| 免费看a级黄色片| 夜夜夜夜夜久久久久| 2021天堂中文幕一二区在线观| 色视频www国产| 国产午夜精品久久久久久一区二区三区 | av在线亚洲专区| 欧美性感艳星| 久久久久国产网址| 最近中文字幕高清免费大全6| 成人一区二区视频在线观看| 国产黄片美女视频| 国内精品一区二区在线观看| 国产伦精品一区二区三区视频9| 午夜免费激情av| 中文在线观看免费www的网站| av天堂在线播放| 女人十人毛片免费观看3o分钟| 欧洲精品卡2卡3卡4卡5卡区| 亚洲真实伦在线观看| 99久久精品国产国产毛片| 搞女人的毛片| 久久久久久久久久黄片| 午夜福利成人在线免费观看| 国产精品久久久久久亚洲av鲁大| 精品久久久久久久末码| 精品少妇黑人巨大在线播放 | 欧美色欧美亚洲另类二区| 欧美区成人在线视频| 99九九线精品视频在线观看视频| 久久久精品大字幕| 男女下面进入的视频免费午夜| 三级毛片av免费| 全区人妻精品视频| 一级毛片久久久久久久久女| 国产高清三级在线| 亚洲国产精品sss在线观看| 午夜福利视频1000在线观看| 亚洲,欧美,日韩| 亚洲av成人av| 少妇熟女欧美另类| 夜夜看夜夜爽夜夜摸| 男女之事视频高清在线观看| 国产av麻豆久久久久久久| 91麻豆精品激情在线观看国产| 如何舔出高潮| 欧美又色又爽又黄视频| 99久国产av精品国产电影| 亚洲经典国产精华液单| 欧美性感艳星| 国产精品野战在线观看| 高清日韩中文字幕在线| 特大巨黑吊av在线直播| 又粗又爽又猛毛片免费看| 国产亚洲av嫩草精品影院| 国产毛片a区久久久久| 我要看日韩黄色一级片| 大又大粗又爽又黄少妇毛片口| 91麻豆精品激情在线观看国产| 中文字幕免费在线视频6| 欧美日韩在线观看h| 麻豆成人午夜福利视频| 国产精品一区二区性色av| 51国产日韩欧美| 人人妻人人澡欧美一区二区| 高清毛片免费看| 99热只有精品国产| 午夜日韩欧美国产| 最近中文字幕高清免费大全6| 黄色日韩在线| av女优亚洲男人天堂| 午夜福利在线在线| 精品99又大又爽又粗少妇毛片| 99久久中文字幕三级久久日本| 免费人成在线观看视频色| 噜噜噜噜噜久久久久久91| 国产精品乱码一区二三区的特点| 日日啪夜夜撸| 老司机午夜福利在线观看视频| 精品国产三级普通话版| 精品一区二区三区av网在线观看| 91久久精品国产一区二区三区| 欧美绝顶高潮抽搐喷水| 最后的刺客免费高清国语| 国产免费一级a男人的天堂| 久久久久性生活片| 亚洲欧美成人综合另类久久久 | 亚洲人成网站在线播| 日日撸夜夜添| 少妇的逼水好多| 午夜亚洲福利在线播放| 精品不卡国产一区二区三区| 成人av在线播放网站| av中文乱码字幕在线| 中文字幕免费在线视频6| 99热只有精品国产| 在线播放无遮挡| 亚洲国产精品成人综合色| 精品熟女少妇av免费看| 亚洲成a人片在线一区二区| 两个人视频免费观看高清| 插逼视频在线观看| 国产中年淑女户外野战色| 欧美日韩精品成人综合77777| 中文在线观看免费www的网站| 色哟哟·www| 久久精品国产亚洲av涩爱 | 久久久a久久爽久久v久久| 久久久久久久午夜电影| 亚洲欧美日韩东京热| 日韩欧美精品免费久久| 日韩精品青青久久久久久| 中出人妻视频一区二区| 国产成年人精品一区二区| 18+在线观看网站| 欧美在线一区亚洲| 12—13女人毛片做爰片一| 久久久国产成人精品二区| 久久99热这里只有精品18| 美女被艹到高潮喷水动态| 一夜夜www| 99视频精品全部免费 在线| 国产精品一区www在线观看| 97人妻精品一区二区三区麻豆| 老师上课跳d突然被开到最大视频| 久久精品综合一区二区三区| 看免费成人av毛片| 亚洲四区av| 日本五十路高清| 欧美国产日韩亚洲一区| 欧美一区二区国产精品久久精品| 成年版毛片免费区| 亚洲成人久久爱视频| 日韩中字成人| 欧美最黄视频在线播放免费| 日日干狠狠操夜夜爽| 国产一级毛片七仙女欲春2| 成年免费大片在线观看| 国产精品免费一区二区三区在线| 欧美日本视频| 久久久久国内视频| 国产av在哪里看| 精品久久久久久久久久久久久| 成人特级av手机在线观看| 免费无遮挡裸体视频| 人妻少妇偷人精品九色| 一区福利在线观看| 麻豆一二三区av精品| 亚洲欧美日韩卡通动漫| 99久久久亚洲精品蜜臀av| 美女 人体艺术 gogo| 午夜影院日韩av| 国产精品久久久久久久久免| www日本黄色视频网| 亚洲av电影不卡..在线观看| 久久这里只有精品中国| 亚洲第一电影网av| 国产蜜桃级精品一区二区三区| 精品午夜福利视频在线观看一区| 亚洲精品日韩av片在线观看| 99久国产av精品| 美女免费视频网站| 欧美成人精品欧美一级黄| 婷婷色综合大香蕉| 精品99又大又爽又粗少妇毛片| 精品国产三级普通话版| 国产在视频线在精品| 亚洲一级一片aⅴ在线观看| 亚洲在线观看片| 国产一区二区在线av高清观看| a级一级毛片免费在线观看| 久久久精品欧美日韩精品| 欧美人与善性xxx| 卡戴珊不雅视频在线播放| 一级黄色大片毛片| 亚洲精品久久国产高清桃花| 在线a可以看的网站| 久久午夜福利片| 黄色日韩在线| 久久久久九九精品影院| 亚洲中文字幕日韩| 麻豆国产av国片精品| 午夜福利高清视频| 热99re8久久精品国产| 亚洲美女黄片视频| 特大巨黑吊av在线直播| 久久精品国产亚洲av香蕉五月| 99久久成人亚洲精品观看| 丰满人妻一区二区三区视频av| 久久久久久久亚洲中文字幕| 亚洲av成人av| 午夜免费男女啪啪视频观看 | 国产亚洲精品综合一区在线观看| 亚洲av一区综合| 黄色一级大片看看| 俺也久久电影网| 麻豆久久精品国产亚洲av| 在线免费观看不下载黄p国产| 国产精品无大码| 日本三级黄在线观看| 亚州av有码| 国产精品电影一区二区三区| 久久久精品94久久精品| 在线播放无遮挡| av视频在线观看入口| 国产黄片美女视频| 日本欧美国产在线视频| 久久欧美精品欧美久久欧美| 直男gayav资源| 偷拍熟女少妇极品色| 女同久久另类99精品国产91| 成人性生交大片免费视频hd| 欧美日韩在线观看h| 亚洲在线自拍视频| 免费人成视频x8x8入口观看| 婷婷精品国产亚洲av在线| 男女那种视频在线观看| 99国产精品一区二区蜜桃av| 久久欧美精品欧美久久欧美| 亚洲人成网站高清观看| 国产高清有码在线观看视频| 亚洲精品亚洲一区二区| av在线老鸭窝| 69av精品久久久久久| 99国产极品粉嫩在线观看| 淫妇啪啪啪对白视频| 免费人成视频x8x8入口观看| av在线观看视频网站免费| 日韩大尺度精品在线看网址| 色播亚洲综合网| 人人妻人人澡欧美一区二区| 大又大粗又爽又黄少妇毛片口| 久久午夜福利片| 亚洲国产精品sss在线观看| 天堂av国产一区二区熟女人妻| 久久久久九九精品影院| 国产一区二区在线观看日韩| 亚洲成av人片在线播放无| 欧美色视频一区免费| 丰满的人妻完整版| 日本熟妇午夜| 一进一出抽搐动态| 美女黄网站色视频| 日韩,欧美,国产一区二区三区 | 欧美色视频一区免费| 精品一区二区免费观看|