• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    算法共謀壟斷及其法律規(guī)制

    2023-06-03 22:41:46蔡哲亮孫占利
    荊楚學(xué)刊 2023年2期
    關(guān)鍵詞:法律規(guī)制

    蔡哲亮 孫占利

    摘要:Uber案引發(fā)公眾對(duì)算法共謀壟斷的關(guān)注,算法共謀壟斷的影響及規(guī)制逐漸成為討論熱點(diǎn)。算法共謀壟斷具有損害市場競爭價(jià)值、強(qiáng)化市場主體不平等地位、逃避反壟斷法規(guī)制等危害,因此,有必要從算法共謀壟斷的不同表現(xiàn)形式出發(fā)對(duì)其予以規(guī)制。在研究算法共謀壟斷各類表現(xiàn)形式的規(guī)制理論的基礎(chǔ)上,可從理念和模式兩個(gè)層面出發(fā)完善對(duì)算法共謀壟斷的法律體系規(guī)制。規(guī)制理念包括反壟斷的克制適用、多元聯(lián)動(dòng)治理。具體模式則包括構(gòu)建影響評(píng)估制度和備案審查制度的預(yù)防性模式,創(chuàng)新經(jīng)營者、消費(fèi)者、政府的協(xié)同問責(zé)模式,完善共謀協(xié)議認(rèn)定和責(zé)任分配的救濟(jì)模式。

    關(guān)鍵詞:算法共謀壟斷;壟斷協(xié)議;法律規(guī)制

    中圖分類號(hào):DF59? ? ?文獻(xiàn)標(biāo)志碼:A? ? ? 文章編號(hào):1672-0768(2023)02-0056-06

    自2015年Uber網(wǎng)約車算法共謀壟斷案件出世后,算法共謀壟斷對(duì)市場的影響、算法共謀壟斷的分類及規(guī)制逐漸成為討論熱點(diǎn)。其中,算法共謀壟斷發(fā)展對(duì)傳統(tǒng)反壟斷法的最大挑戰(zhàn)即造成主觀要件認(rèn)定的困境和歸責(zé)問題,學(xué)者們提出可拓展適用市場支配地位、適當(dāng)拓展意思聯(lián)絡(luò)要件、增強(qiáng)競爭者的背離義務(wù)等措施以應(yīng)對(duì)算法共謀壟斷帶來的挑戰(zhàn)。其次,為預(yù)防算法共謀壟斷發(fā)展帶來人機(jī)責(zé)任邊界模糊的問題,學(xué)者們提出了賦予算法法律主體、經(jīng)營者的嚴(yán)格責(zé)任、區(qū)分責(zé)任等解決路徑。總體而言,現(xiàn)有研究主要從算法的分類及構(gòu)成要件(尤其是主觀要件)切入,針對(duì)性地解決不同算法共謀壟斷類型認(rèn)定的難題以完成對(duì)算法共謀的規(guī)制。遺憾的是,目前對(duì)算法共謀壟斷規(guī)制的研究仍較為扁平,缺乏對(duì)算法共謀壟斷的體系研究。以大數(shù)據(jù)和算法為代表的信息技術(shù)正改變著市場競爭的格局,私有經(jīng)營者算法權(quán)力可能逐漸形成,算法共謀風(fēng)險(xiǎn)對(duì)市場秩序的風(fēng)險(xiǎn)將不斷加大。為此,本文將在算法共謀壟斷成因和表現(xiàn)形式的理論基礎(chǔ)上,探討算法共謀壟斷的理論規(guī)制建議,進(jìn)而構(gòu)建適合中國發(fā)展的算法共謀壟斷的法律規(guī)制理念和模式。

    一、算法共謀壟斷及其危害性

    (一)Uber案與算法共謀壟斷

    2015年美國居民Spencer? ?Meyer起訴Uber案被認(rèn)為是研究算法共謀壟斷的第一案。該案中,Spencer? ?Meyer認(rèn)為打車應(yīng)用開發(fā)商Uber和使用Uber程序的司機(jī),以及司機(jī)相互間構(gòu)成了共謀。此外,原告指出Uber曾組織過司機(jī)聚集設(shè)置更高費(fèi)率的會(huì)議,正是這些行為使得司機(jī)間避免了價(jià)格競爭,并從中獲利。被告辯稱Uber與司機(jī)簽訂的數(shù)十萬的協(xié)議都是獨(dú)立簽訂的,構(gòu)成共謀是不可思議且難以實(shí)現(xiàn)的。

    法院認(rèn)為,在客觀方面,基于Uber公司在移動(dòng)應(yīng)用生成的共享乘車服務(wù)市場中占有接近80%的市場份額,在出租車、雇車服務(wù)以及移動(dòng)應(yīng)用所生成的共享乘車服務(wù)構(gòu)成的混合市場中,Uber也擁有50%~70%的商務(wù)乘客的市場份額等事實(shí),能夠證明Uber具有市場支配地位。此外,Uber公司通過定價(jià)算法人為地為司機(jī)合作伙伴向乘客設(shè)定了票價(jià),損害了乘客的利益。在主觀方面,使用Uber算法程序的每個(gè)司機(jī)在與Uber就車費(fèi)收取達(dá)成協(xié)議時(shí),能夠清晰地認(rèn)識(shí)到其他司機(jī)也達(dá)成了同樣的協(xié)議和價(jià)格的情況,存在“一致的共謀動(dòng)機(jī)”。因此,Uber和司機(jī)間不僅構(gòu)成縱向共謀,也構(gòu)成橫向共謀,是典型的“軸輻型共謀”。在Uber案中,Uber的市場支配地位以及顯著的品牌認(rèn)可度,排除了其他不遵循Uber算法的司機(jī)的競爭且使得潛在競爭者很難進(jìn)入該市場[ 1 ]。由于Uber的定價(jià)算法,每個(gè)司機(jī)都清楚地明白自己可以通過使用Uber算法而獲得更高的利益,也不用擔(dān)心因?yàn)槠渌緳C(jī)的降價(jià)而搶占客源的問題,因?yàn)閁ber決定了價(jià)格[ 2 ]。

    在該案中,問題的核心在于Uber公司與司機(jī)是否達(dá)成共謀,難點(diǎn)則在于算法程序的應(yīng)用帶來了共謀協(xié)議認(rèn)定的困境。傳統(tǒng)的反壟斷法若要規(guī)制共謀壟斷,應(yīng)證明存在共謀壟斷協(xié)議,需要證明有共謀意圖,并實(shí)施了共謀行為。算法定價(jià)程序的應(yīng)用簡化了Uber公司與司機(jī)間的意思聯(lián)絡(luò)形式,甚至完全掩蓋了司機(jī)間的意思聯(lián)絡(luò)痕跡,對(duì)共謀協(xié)議存在的主觀要件認(rèn)定提出了挑戰(zhàn)。在Uber案中,原告提交了被告組織線下聚會(huì)討論提高費(fèi)率的證據(jù)直接證明了雙方主觀意思聯(lián)絡(luò)的存在。然而相較于Uber案中仍有協(xié)議形式的共謀,算法的發(fā)展正朝向更加隱秘化和自主化的方向前進(jìn),這種進(jìn)步則可能對(duì)現(xiàn)有的反壟斷法提出挑戰(zhàn)。

    (二)算法共謀壟斷的危害

    算法共謀壟斷的危害主要體現(xiàn)在對(duì)市場秩序價(jià)值的破壞,具體包括損害市場競爭、強(qiáng)化市場主體間的不平等地位、逃避反壟斷法的規(guī)制等。

    算法實(shí)質(zhì)性地推動(dòng)了更高的市場透明度和更高的經(jīng)營者間的互動(dòng)頻率,被認(rèn)為在更低信號(hào)代價(jià)、更高監(jiān)督水平、更高背離成本等層面促成算法共謀壟斷的完成,直接沖擊了市場公平競爭的核心價(jià)值[ 3 ]。在傳統(tǒng)反壟斷場景下,共謀者往往需要在某個(gè)特定的場合或借助特定的工具進(jìn)行共謀,其主觀惡性較為明顯、共謀證據(jù)也較為充足,使得傳統(tǒng)場景下共謀成本較高、失敗風(fēng)險(xiǎn)較大。算法的運(yùn)用提高了共謀所需的市場透明度和交流頻率,極大程度上解決了共謀難題。由于算法強(qiáng)大的收集和分析信息的能力,算法具有對(duì)市場無與倫比的掌控力和反應(yīng)力。通過運(yùn)用算法程序,算法能夠?qū)r(jià)格進(jìn)行實(shí)時(shí)監(jiān)測和匯報(bào),有助于共謀者傳遞共謀信號(hào),算法程序捕捉動(dòng)態(tài)價(jià)格和響應(yīng)價(jià)格變化的速度也決定了共謀企業(yè)可以對(duì)背離者的行為做出快速反應(yīng)和報(bào)復(fù),實(shí)質(zhì)性剝奪潛在背離者的背離企圖。

    其次,算法發(fā)展加劇了經(jīng)營者與消費(fèi)者間的數(shù)據(jù)鴻溝。市場透明度增加并沒有使消費(fèi)者顯著受益,算法權(quán)力的形成反而限縮信息資源向消費(fèi)者流通,造成大數(shù)據(jù)殺熟、價(jià)格歧視、搜索降序等壟斷問題。與此同時(shí),在實(shí)踐中,經(jīng)營者在互聯(lián)網(wǎng)生態(tài)中位于事實(shí)上組織者的角色,利用算法設(shè)置價(jià)格、交易和競爭機(jī)制并進(jìn)行干預(yù),能夠更便利地實(shí)現(xiàn)以自身為軸心的算法共謀壟斷。

    最后,即使被立案調(diào)查,執(zhí)法機(jī)構(gòu)調(diào)查取證及認(rèn)定其違法的難度較大。算法共謀以信號(hào)傳輸和網(wǎng)絡(luò)通訊等方式幫助經(jīng)營者迅速、高頻地交換市場相關(guān)信息,并對(duì)共謀者的行為和履約情況進(jìn)行監(jiān)督。與傳統(tǒng)會(huì)面、電話、傳真等傳統(tǒng)溝通方式相比,合謀成本低,不易為監(jiān)管機(jī)構(gòu)發(fā)現(xiàn),即使被立案調(diào)查,執(zhí)法機(jī)構(gòu)調(diào)查取證及認(rèn)定其違法的難度較大。因此,算法共謀壟斷危害的廣泛性、便捷性和隱蔽性等特征,會(huì)加劇市場的不平衡,損害秩序價(jià)值,并阻卻司法救濟(jì),較之傳統(tǒng)共謀壟斷具有更大的危害性。

    二、算法共謀壟斷的表現(xiàn)形式與規(guī)制理論

    (一)算法共謀壟斷的表現(xiàn)形式

    算法共謀壟斷分為三個(gè)階段:一是利用算法執(zhí)行明示共謀協(xié)議;二是同時(shí)使用第三方提供的算法程序形成的共謀壟斷;三是單方使用自主學(xué)習(xí)型算法導(dǎo)致的有意識(shí)的平行行為或串通[ 4 ]。具體而言,算法共謀可分為四種類型:信使型共謀、軸輻型共謀、預(yù)測代理型共謀和數(shù)字眼型共謀[ 5 ]。其中,預(yù)測代理型共謀和數(shù)字眼型共謀屬于自主學(xué)習(xí)型共謀。

    根據(jù)共謀形態(tài),算法共謀壟斷還分為明示共謀壟斷和默示共謀壟斷,明示共謀壟斷是指通過協(xié)議、口頭協(xié)議或協(xié)同一致的行動(dòng)來達(dá)成的共謀壟斷[ 6 ]。默示共謀壟斷是指每個(gè)競爭對(duì)手單方面采取行動(dòng)以回應(yīng)競爭對(duì)手,從而將價(jià)格提高至超競爭水平的算法壟斷行為(也被稱為有意識(shí)的平行行為)。在默示共謀壟斷情形下,算法將使得共謀壟斷更容易達(dá)成和更容易維持,可能使得完全無共同目的的共謀壟斷實(shí)現(xiàn),造成司法判斷主觀意圖困難或不能,排斥競爭的行為可能無法被追訴[ 7 ]。一般認(rèn)為,信使型和軸輻型算法的共謀仍屬于明示共謀,預(yù)測代理型和數(shù)字眼型共謀則屬于默示共謀。

    目前,算法共謀壟斷主要是通過定價(jià)算法來實(shí)現(xiàn)的,通過使用同一算法定價(jià)程序以達(dá)成和維持共謀。由于目前的算法程序仍處于學(xué)習(xí)規(guī)律的“監(jiān)督學(xué)習(xí)”階段,同一算法對(duì)同一樣本僅會(huì)輸出一個(gè)穩(wěn)定的符合預(yù)期的結(jié)果,經(jīng)營者間便可以通過使用同一算法程序完成共謀。如Uber案即是如此,共謀者間通過設(shè)定好的算法,基于算法軟件來協(xié)調(diào)并統(tǒng)一定價(jià)。自主型算法技術(shù)的發(fā)展會(huì)帶來更為隱蔽的算法共謀形式,機(jī)器學(xué)習(xí)系統(tǒng)能夠通過啟發(fā)式推斷結(jié)構(gòu)和重組輸出非特定的結(jié)果。這將改變共謀行為的性質(zhì),使得明示共謀向默示共謀轉(zhuǎn)變。概括而言,自主學(xué)習(xí)算法形成的共謀壟斷可能僅需經(jīng)營者的一個(gè)指示,甚至無需指示,僅憑其趨利避害的算法智慧自動(dòng)完成對(duì)外的共謀,使得算法共謀壟斷可能無法被簡單認(rèn)定。

    (二)算法共謀壟斷的規(guī)制理論

    信使型共謀壟斷是指共謀者利用算法程序來尋求串通信號(hào),執(zhí)行限制競爭協(xié)議的情形。在此情形下,共謀者需要通過算法達(dá)成明確的共謀協(xié)議,并使用算法實(shí)施或協(xié)助實(shí)施、監(jiān)測和維持共謀。軸輻型共謀壟斷同時(shí)涉及橫向共謀和縱向共謀,是指眾多競爭者同時(shí)使用同一算法而將價(jià)格提高至反競爭水平的情形。在此情形下,多個(gè)競爭者會(huì)與算法設(shè)計(jì)者簽訂同一的縱向協(xié)議(往往表現(xiàn)為在使用程序時(shí)同意該算法程序?qū)r(jià)格做出的修改)。縱向協(xié)議本身不一定產(chǎn)生反競爭效應(yīng),也不一定反映扭曲市場價(jià)格的企圖,然而,開發(fā)商與這一行業(yè)的眾多競爭對(duì)手達(dá)成的一系列的縱向協(xié)議可能實(shí)質(zhì)上起到了協(xié)調(diào)整個(gè)行業(yè)串通的效果,由開發(fā)商算法確定的超競爭價(jià)格實(shí)質(zhì)上幫助眾多簽署了該協(xié)議的主體獲得了更多的機(jī)會(huì)和超額利潤。上述兩種算法共謀壟斷屬于較為簡單的算法壟斷類型,現(xiàn)行的反壟斷法完全能夠予以適用。我國《反壟斷法》第13條即禁止具有競爭關(guān)系的經(jīng)營者達(dá)成壟斷協(xié)議,其中也包含排除、限制競爭的協(xié)議協(xié)同行為,因此,通過直接證明經(jīng)營者間存在利用算法進(jìn)行算法共謀壟斷的主客觀要件就可以適用反壟斷法對(duì)其予以規(guī)制。

    預(yù)測代理型共謀壟斷是各競爭者利用算法實(shí)施平行行為或由算法自行實(shí)施平行行為而形成的共謀壟斷。在此情形中,依托于算法對(duì)市場動(dòng)態(tài)的捕捉和快速反應(yīng),一方競爭者價(jià)格的行為能夠被其他競爭者的算法程序響應(yīng)。這種對(duì)市場變化和競爭者價(jià)格變化的價(jià)格調(diào)整是依靠算法技術(shù)不約而同默契勾結(jié)的情況,因而難以直接證明反競爭的壟斷協(xié)議的存在。對(duì)預(yù)測代理型算法共謀壟斷的規(guī)制而言,難點(diǎn)有二:一是算法已經(jīng)改變了共謀協(xié)議的溝通形式,模糊了協(xié)同一致的行為和平行行為間的邊界,削弱了意思聯(lián)絡(luò)對(duì)認(rèn)定共謀的重要性[ 8 ];二是基于算法信息分配不對(duì)稱和算法黑箱等情景,證明難度的提高可能造成反壟斷法執(zhí)法的失靈。針對(duì)預(yù)測代理型共謀壟斷的挑戰(zhàn),可采取如下措施:一方面,預(yù)測代理型共謀壟斷中仍然存在人為因素,可通過適當(dāng)拓寬意思聯(lián)絡(luò)的主觀要件實(shí)現(xiàn)規(guī)制,如將經(jīng)營者對(duì)共謀壟斷行為知情并默認(rèn)、明知共謀壟斷已經(jīng)形成卻不采取補(bǔ)救措施、維持共謀的懲戒機(jī)制等情形視為共謀,若經(jīng)營者不能提高反駁證據(jù),則視為具有共謀意圖;另一方面,可通過加強(qiáng)算法經(jīng)營者的注意義務(wù)和證明責(zé)任,實(shí)現(xiàn)舉證負(fù)擔(dān)平衡,并倒逼算法經(jīng)營者從共謀壟斷的主導(dǎo)者向共謀壟斷治理的參與者轉(zhuǎn)變。

    由于算法已經(jīng)獨(dú)立于經(jīng)營者而自行實(shí)施共謀壟斷行為,規(guī)制數(shù)字眼型共謀壟斷的最大難題即在于該類共謀壟斷的責(zé)任承擔(dān)問題。對(duì)此,需要從人工智能算法的倫理層面進(jìn)行回應(yīng)?,F(xiàn)有理論下對(duì)賦予人工智能算法法律主體地位的爭論,反對(duì)者指出賦予人工智能算法主體地位存在諸多障礙,讓機(jī)器人承擔(dān)法律責(zé)任是荒謬和無意義的。但應(yīng)當(dāng)看到,人工智能的發(fā)展已經(jīng)超乎人類的想象,算法完全超越人類并非無稽之談,可加強(qiáng)分階段賦予人工智能法律主體地位的考量。此外,對(duì)該類算法共謀壟斷應(yīng)著重事先的預(yù)防和矯正,可考慮從設(shè)計(jì)、開發(fā)和部署階段入手限制算法技術(shù)權(quán)力的擴(kuò)張,建立預(yù)警和糾錯(cuò)機(jī)制,也可通過加強(qiáng)算法透明和算法問責(zé)等方式加強(qiáng)監(jiān)管。

    三、算法共謀壟斷的法律規(guī)制理念和模式

    (一)算法共謀壟斷的法律規(guī)制理念

    1.算法共謀壟斷規(guī)制中應(yīng)謹(jǐn)慎適用反壟斷法

    反壟斷法介入的目的本是維護(hù)市場競爭,扭轉(zhuǎn)和恢復(fù)市場生態(tài)格局。應(yīng)充分尊重市場的調(diào)節(jié)作用,謹(jǐn)慎地適用反壟斷法。

    算法在市場中的運(yùn)用有其自身規(guī)律,應(yīng)充分尊重市場自身的調(diào)節(jié)作用。以供需因素對(duì)算法共謀的影響為例,在市場經(jīng)濟(jì)中,供給和需求的變化對(duì)算法共謀的發(fā)生具有一定影響。OCED報(bào)告提及,在既定行業(yè)中,需求降低以及商業(yè)周期導(dǎo)致的市場不景氣,可能阻止共謀的發(fā)生。這是因?yàn)楣仓\者在高需求時(shí)背離會(huì)獲得巨大的利潤,且商業(yè)周期由高到低的變化會(huì)降低來自其他共謀者的報(bào)復(fù),即降低共謀者的背離成本,這對(duì)于共謀的發(fā)生與維持具有不確定性。相較于需求因素對(duì)共謀的影響,供給因素對(duì)共謀協(xié)議的可持續(xù)性方面產(chǎn)生著更為重要的影響,其中,創(chuàng)新因素可以直接降低共謀存在的價(jià)值,以及創(chuàng)新能力較弱企業(yè)的報(bào)復(fù)能力[ 9 ]。

    此外,在處理算法共謀壟斷的實(shí)踐中,執(zhí)法可能不自覺地走向保護(hù)某一方權(quán)益的誤區(qū)。算法共謀壟斷的發(fā)展使得共謀行為和經(jīng)營者的正常市場反應(yīng)難以區(qū)分,若過度關(guān)注對(duì)受損方權(quán)益的救濟(jì),會(huì)導(dǎo)致大量正常的市場行為被無辜地套上共謀的嫌疑,市場與技術(shù)的關(guān)系將失衡,并增加大量不必要的執(zhí)法成本。因此,在算法共謀情形尚沒有對(duì)競爭構(gòu)成破壞時(shí),就不應(yīng)用反壟斷法來規(guī)制。

    2.算法共謀壟斷規(guī)制中應(yīng)強(qiáng)調(diào)多元聯(lián)動(dòng)治理

    算法共謀壟斷的危害性、發(fā)展規(guī)律和技術(shù)特征決定了多元主體聯(lián)動(dòng)治理是必要的。隨著明示算法共謀壟斷向默示算法共謀壟斷發(fā)展,算法共謀壟斷將更難以被察覺和追責(zé),僅憑執(zhí)法機(jī)構(gòu)的監(jiān)督和救濟(jì)將于事無補(bǔ)。為應(yīng)對(duì)算法共謀壟斷的普遍危害性,應(yīng)擴(kuò)大算法共謀壟斷的治理主體范圍,并將規(guī)制過程貫徹算法共謀壟斷發(fā)生的全階段。

    算法共謀壟斷的多元治理理念是應(yīng)對(duì)算法共謀威脅而團(tuán)結(jié)各方也是對(duì)受算法共謀壟斷影響的各方利益的共同關(guān)切,算法共謀壟斷的多元聯(lián)動(dòng)治理需要關(guān)注影響算法共謀的因素,以及普遍受其影響的市場主體。在設(shè)計(jì)算法共謀壟斷的多元聯(lián)動(dòng)治理時(shí),至少應(yīng)考慮行業(yè)自律、政府管控和公眾參與等三方面的主體。

    大型算法部署者和經(jīng)營者是推動(dòng)算法發(fā)展的中堅(jiān)力量,也是滋生算法共謀壟斷風(fēng)險(xiǎn)的主體。因此,提高部署者和經(jīng)營者內(nèi)部部門的責(zé)任感和專業(yè)性,通過內(nèi)部規(guī)章規(guī)范算法應(yīng)用流程,加強(qiáng)算法共謀風(fēng)險(xiǎn)監(jiān)控,完善算法共謀造成損害的救濟(jì)渠道具有優(yōu)先性和緊迫性。但也應(yīng)看到,算法共謀壟斷在目前往往內(nèi)生自經(jīng)營企業(yè),往往是企業(yè)為了達(dá)成壟斷有意識(shí)地使用算法完成共謀,因此,需要外部政府和公眾參與監(jiān)督和治理。政府參與算法的聯(lián)動(dòng)治理主要應(yīng)通過對(duì)算法定價(jià)工具進(jìn)行審查,對(duì)相關(guān)算法經(jīng)營者進(jìn)行指引、管控和問責(zé)。面對(duì)算法共謀壟斷,加強(qiáng)公眾參與應(yīng)著重強(qiáng)調(diào)公眾對(duì)技術(shù)層面的理解和參與,除了傳統(tǒng)上賦予消費(fèi)者反饋、舉報(bào)、訴訟等方式以應(yīng)對(duì)壟斷行為外,還需提高公眾對(duì)算法的認(rèn)知和對(duì)共謀風(fēng)險(xiǎn)意識(shí),創(chuàng)新公眾參與企業(yè)部署算法流程的途徑。

    (二)算法共謀壟斷法律規(guī)制的模式

    1.構(gòu)建算法共謀壟斷法律規(guī)制的預(yù)防性模式

    算法共謀壟斷的預(yù)防性制度是對(duì)算法共謀壟斷的事先調(diào)控和糾偏,減少算法共謀壟斷發(fā)生的可能性。在算法共謀壟斷的預(yù)防性制度中主要包括算法影響評(píng)估制度和備案審查制度。

    算法影響評(píng)估制度指“在算法設(shè)計(jì)、部署與運(yùn)用期間,算法治理的相關(guān)利益主體如政府、平臺(tái)、社會(huì)公眾與第三方力量,對(duì)算法可能造成的風(fēng)險(xiǎn)及其對(duì)社會(huì)的影響進(jìn)行充分的評(píng)估”的制度[ 10 ]。簡單來說,影響評(píng)估可定義為識(shí)別當(dāng)前或擬議行動(dòng)未來后果的過程。算法設(shè)計(jì)者和經(jīng)營者在對(duì)擬使用或使用中的算法進(jìn)行評(píng)估后,應(yīng)及時(shí)向相關(guān)部門予以備案和審查,這對(duì)預(yù)防、管控算法共謀壟斷及對(duì)其問責(zé)都具有重要意義。

    算法共謀壟斷影響評(píng)估和備案審查的關(guān)鍵作用是能夠影響經(jīng)營者的內(nèi)部組織行為,通過外部施壓要求其進(jìn)行內(nèi)部檢查,打消其實(shí)施算法共謀的意圖,或敦促運(yùn)用該算法的經(jīng)營者進(jìn)行更深入的分析,研究發(fā)生共謀壟斷的可能性,并實(shí)施必要的步驟來糾正這些影響。另一方面,影響評(píng)估制度和備案審查制度具有靈活性,能夠起到將受監(jiān)管實(shí)體的重點(diǎn)從單純的合規(guī)向解決問題和改進(jìn)轉(zhuǎn)變[ 11 ]。

    為加強(qiáng)算法共謀規(guī)制的針對(duì)性,減少執(zhí)法成本,可通過對(duì)經(jīng)營者的商業(yè)算法進(jìn)行評(píng)估和等級(jí)劃分并備案。根據(jù)備案對(duì)使用不同風(fēng)險(xiǎn)級(jí)別算法的經(jīng)營者區(qū)別監(jiān)督。鑒于算法共謀多發(fā)生于高度集中的市場,可進(jìn)一步將監(jiān)管范圍縮小,主要監(jiān)管大型經(jīng)營者使用算法的情形。

    2.建立算法共謀壟斷法律規(guī)制的問責(zé)模式

    建立算法共謀壟斷的問責(zé)制度是在算法逐漸主導(dǎo)市場的背景下,為加強(qiáng)公眾對(duì)使用算法的經(jīng)營者行為的可理解性,要求算法經(jīng)營者向公眾解釋其行為并為此負(fù)責(zé)的相關(guān)制度。通過建立算法共謀壟斷的問責(zé)制度,能夠避免算法運(yùn)行危害的外化和彌散,降低算法共謀壟斷風(fēng)險(xiǎn)?;谒惴ü仓\壟斷多元治理的規(guī)制理念,可將算法共謀壟斷的問責(zé)主體擴(kuò)大至經(jīng)營者、消費(fèi)者和政府,實(shí)現(xiàn)算法共謀壟斷的協(xié)作治理。

    行業(yè)自律與共識(shí)標(biāo)準(zhǔn)是阻攔算法共謀壟斷發(fā)生的一道關(guān)卡,相關(guān)經(jīng)營者在自我約束時(shí)應(yīng)考慮如下幾點(diǎn),一是在算法應(yīng)用設(shè)計(jì)、開發(fā)、部署和操作全流程中的安全問題,實(shí)驗(yàn)并評(píng)估算法投入市場時(shí)的完整性、可用性和穩(wěn)定性;二是在算法的商業(yè)運(yùn)用中,要強(qiáng)調(diào)在真實(shí)的場景中測試算法共謀壟斷發(fā)生的風(fēng)險(xiǎn);三是在開發(fā)與使用具有自主型算法時(shí),要特別注意嵌入糾錯(cuò)機(jī)制與人工強(qiáng)制中止程序,防范此類算法共謀壟斷超脫于現(xiàn)有的法律框架。

    消費(fèi)者是算法共謀壟斷的受害者,也是對(duì)市場變化最敏感的群體,通過加強(qiáng)公眾在算法共謀壟斷治理全流程中的參與,能夠提高提高執(zhí)法效率,降低執(zhí)法成本。具體而言,可考慮舉行聽證會(huì)、吸納公眾參與算法開發(fā)、通過計(jì)算機(jī)提供專門的檢查程序或系統(tǒng)以實(shí)現(xiàn)公眾對(duì)算法的監(jiān)督等。

    政府在算法共謀壟斷的反競爭監(jiān)管意義重大。一是可以建立備案審查制,要求經(jīng)營者必須報(bào)告某些算法的使用,這將對(duì)算法的商業(yè)運(yùn)用起到一定程度的規(guī)制作用,有利于政府把握經(jīng)營者運(yùn)用算法的活動(dòng)軌跡,及時(shí)對(duì)實(shí)施算法共謀壟斷的經(jīng)營者出手。二是政府可以考慮使用定價(jià)算法來確定具有競爭力的價(jià)格,即面對(duì)強(qiáng)大算法共謀壟斷帶來的規(guī)制資源匱乏的窘境,將算法作為規(guī)制工具,以確定相關(guān)共謀壟斷違法。

    3.完善算法共謀壟斷法律規(guī)制的救濟(jì)模式

    隨著算法共謀壟斷表現(xiàn)形式向自主型發(fā)展,證明意思聯(lián)絡(luò)的存在變得困難,違法責(zé)任的歸屬也將走向不明,這使得因遭受算法共謀壟斷的損害將無法被救濟(jì)。因此,應(yīng)當(dāng)就目前反壟斷法的不足進(jìn)行完善,以適應(yīng)算法技術(shù)發(fā)展對(duì)反壟斷救濟(jì)的挑戰(zhàn)。

    目前,我國反壟斷法在認(rèn)定壟斷存在時(shí)要求證明“共謀協(xié)議存在”,這也就意味著面對(duì)算法共謀壟斷的發(fā)展,執(zhí)法機(jī)構(gòu)可能無法做到“一致行動(dòng)的客觀行動(dòng)+意思聯(lián)絡(luò)的主觀要件”的證明要求。對(duì)此,在現(xiàn)有反壟斷法相關(guān)規(guī)定的歸責(zé)基礎(chǔ)上,應(yīng)加強(qiáng)共謀協(xié)議認(rèn)定方面的補(bǔ)充。具體而言,一方面,可加強(qiáng)經(jīng)營者的注意義務(wù),使經(jīng)營者放任算法共謀壟斷形成的行為具有可責(zé)性。另一方面,應(yīng)適當(dāng)拓寬意思聯(lián)絡(luò)的證明標(biāo)準(zhǔn),將未切實(shí)履行注意的行為視同存在意思聯(lián)絡(luò),當(dāng)間接意思聯(lián)絡(luò)能夠構(gòu)成證據(jù)鏈并符合相應(yīng)的證明標(biāo)準(zhǔn)時(shí),即視共謀協(xié)議存在。

    算法共謀壟斷的不同類型對(duì)現(xiàn)行的權(quán)責(zé)分配制度提出了巨大的挑戰(zhàn),由誰擔(dān)責(zé)是急需解決的問題。在面對(duì)信使類和軸輻類算法共謀壟斷時(shí),由于其完全受控于經(jīng)營者,因此,這類算法共謀壟斷造成的損害應(yīng)直接歸責(zé)于經(jīng)營者。對(duì)于預(yù)測代理型算法共謀和數(shù)字眼型算法共謀的責(zé)任分配問題,上文在理論規(guī)制的層面已有相關(guān)闡述。從實(shí)然層面出發(fā),若能夠證明人為因素存在,即讓背后的經(jīng)營者擔(dān)責(zé)。若無法證明壟斷協(xié)議的存在,考慮到算法的巨大風(fēng)險(xiǎn)、現(xiàn)行相關(guān)的算法治理理念、算法法律主體地位可能不被接受等因素,通過公平公正原則和細(xì)分原則讓相關(guān)經(jīng)營者共同分配此類算法共謀導(dǎo)致的損害可能是符合我國國情的選擇。歐盟于2020年通過的《人工智能民事責(zé)任制度》附件中提到:由人工智能系統(tǒng)驅(qū)動(dòng)的所有物理或虛擬活動(dòng)、設(shè)備或進(jìn)程在技術(shù)層面可能是造成損害或損害的直接或間接原因,但這些損害的原因幾乎都涉及到人為部署或干擾系統(tǒng);盡管人工智能系統(tǒng)的不透明度、連通性和自主性實(shí)際上可能很難甚至不可能追溯到人工智能系統(tǒng)的具體有害行為,但人們能夠通過使整個(gè)價(jià)值鏈中創(chuàng)建、維持或控制與人工智能系統(tǒng)相關(guān)的風(fēng)險(xiǎn)的不同人員承擔(dān)責(zé)任來規(guī)避這一障礙。

    隨著算法的不斷發(fā)展,算法共謀壟斷的形式會(huì)更隱蔽,損害的結(jié)果也會(huì)更大,從價(jià)值鏈的源頭出發(fā)進(jìn)行規(guī)制具有可行性、合理性。通過個(gè)案認(rèn)定的方式明確不同算法主體在算法共謀壟斷中的地位,再分配不同的責(zé)任,既能起到司法救濟(jì)的作用,符合司法保障公平公正的目標(biāo),也最容易被立法和司法所接受。

    四、結(jié)語

    基于我國數(shù)字經(jīng)濟(jì)發(fā)展的現(xiàn)狀和算法的發(fā)展態(tài)勢,算法共謀壟斷可能發(fā)生,應(yīng)未雨綢繆,構(gòu)建具有中國特色的算法共謀壟斷的法律規(guī)制體系。算法共謀壟斷嚴(yán)重?fù)p害市場秩序,并向反壟斷法提出了挑戰(zhàn),應(yīng)從算法共謀壟斷的不同發(fā)展形態(tài)出發(fā),針對(duì)性地予以規(guī)制。構(gòu)建具有中國特色的算法共謀壟斷的法律規(guī)制理念和模式應(yīng)從治理理念和具體模式兩方面出發(fā)。在運(yùn)用反壟斷法規(guī)制壟斷的基礎(chǔ)上,應(yīng)綜合考量算法共謀和市場的關(guān)系,強(qiáng)調(diào)反壟斷法的謹(jǐn)慎適用、以保護(hù)競爭為核心、多元聯(lián)動(dòng)治理的治理理念。也應(yīng)注重規(guī)制算法共謀壟斷的整體性,通過構(gòu)建影響評(píng)估制度和備案審查制度的預(yù)防性模式,創(chuàng)新經(jīng)營者、消費(fèi)者、政府的協(xié)同問責(zé)模式,完善共謀協(xié)議認(rèn)定和責(zé)任分配的救濟(jì)模式實(shí)現(xiàn)對(duì)算法共謀壟斷歸責(zé)的全覆蓋。

    參考文獻(xiàn):

    [1]韓偉,胡鐵. 美國Uber反壟斷案爭點(diǎn):算法共謀[EB/OL].(2018-01-25)[2022-03-03]. http://longduan.blogchina.com/927028794.html.

    [2]MAURICE? ? STUCKE.? Pricing? ? Algorithms? ?&? ?Collusion[J].? The Tennessee? Journal? of? ?Business? ?Law,2019(20):1118.

    [3]OECD. Algorithms And Collusion Competition Policy in the Digital? Age[EB/OL].(2017-09-14)[2022-03-04] http://www.oecd.org/daf/competition/Algorithms-and-colllusion-competition-policy-in-the-digital-age.pdf.

    [4]SHENG LI, CLAIRE CHUNYING XIE. Automated Pricing Algorithms And Collusion: A Brave New World Or Old Wine In New Bottles[J/OL]. (2018-12)[2022-04-04].https://www.nera.com/content/dam/nera/publications/2019/Algorithmic%20Collusion%20-%20Li%20and%20Xie.pdf.

    [5]ARIEL EZRACHI,MAURICE E. STUCKE. Artificial Intelligence Collusion: When? Computers? Inhibit? Competition[J].University? Of? ?Illinois? Law? Review,2017(2017):1807.

    [6]GONZALEZ VERDUGO,C.. Horizontal Restraint Regulations in the EU and the US in the Era of Algorithmic Tacit Collusion[J].Journal? of? ?Law? and? ?Jurisprudence,2018(1):116.

    [7]周圍.算法共謀的反壟斷法規(guī)制[J].法學(xué),2020(1): 45.

    [8]剌森.算法共謀中經(jīng)營者責(zé)任的認(rèn)定:基于意思聯(lián)絡(luò)的解讀與分析[J]. 現(xiàn)代財(cái)經(jīng),2022(3):107.

    [9]韓偉.算法共謀反壟斷初探—OECD〈算法與共謀〉報(bào)告介評(píng)(上)[J]. 競爭政策研究,2017(5):116.

    [10]張凌寒.算法評(píng)估制度如何在平臺(tái)問責(zé)中發(fā)揮作用[J].上海政法學(xué)院學(xué)報(bào),2021(3):48.

    [11]YIFAT NAHMIAS. The Oversight of Content Moderation by AI: Impact? ?Assessments? ?and? ? Their? ? Limitations[J].? Harvard Journal? ?on? ?Legislation,2021(1):175.

    [責(zé)任編輯:馬好義]

    收稿日期:2022-04-12

    基金項(xiàng)目:2020年國家社科基金一般項(xiàng)目“人工智能算法的法律規(guī)制”(20BFX017)

    作者簡介:蔡哲亮(1998-),男,湖南岳陽人,廣東財(cái)經(jīng)大學(xué)法學(xué)院碩士研究生,主要從事國際法、電子商務(wù)法研究。

    孫占利(1970-),男,寧夏固原人,廣東財(cái)經(jīng)大學(xué)法學(xué)院教授,法學(xué)博士,主要從事國際法、電子商務(wù)法研究。

    猜你喜歡
    法律規(guī)制
    預(yù)付卡消費(fèi)法律問題研究
    農(nóng)村土地承包經(jīng)營權(quán)抵押的現(xiàn)狀及法律規(guī)制探究
    我國企業(yè)年金投資運(yùn)營現(xiàn)狀及監(jiān)管研究
    我國混淆行為的界定和法律規(guī)制完善
    試析互聯(lián)網(wǎng)彈出式廣告的法律規(guī)制
    商(2016年33期)2016-11-24 23:28:07
    試論“村改居”的法律規(guī)制
    共享經(jīng)濟(jì)環(huán)境下空間共享的定性及法律規(guī)制
    探析網(wǎng)絡(luò)預(yù)約車類共享經(jīng)濟(jì)平臺(tái)的法律保護(hù)
    商業(yè)預(yù)付卡經(jīng)營行為的法律規(guī)制
    我國網(wǎng)絡(luò)經(jīng)濟(jì)中不正當(dāng)競爭行為的法律規(guī)制
    xxxwww97欧美| 99久久久亚洲精品蜜臀av| 亚洲国产高清在线一区二区三| 91九色精品人成在线观看| 啦啦啦观看免费观看视频高清| 中文字幕久久专区| 国产精品电影一区二区三区| 成人一区二区视频在线观看| 夜夜躁狠狠躁天天躁| 可以在线观看毛片的网站| 久久久久久久久中文| 女同久久另类99精品国产91| 少妇被粗大的猛进出69影院| 人成视频在线观看免费观看| 精品欧美一区二区三区在线| 不卡av一区二区三区| 波多野结衣高清无吗| 亚洲熟妇中文字幕五十中出| 91国产中文字幕| 亚洲第一电影网av| 曰老女人黄片| 他把我摸到了高潮在线观看| 黄片大片在线免费观看| 欧美一级a爱片免费观看看 | 黄片小视频在线播放| 少妇裸体淫交视频免费看高清 | 两个人看的免费小视频| 国产午夜福利久久久久久| 国产免费av片在线观看野外av| 亚洲精品中文字幕一二三四区| 欧美色欧美亚洲另类二区| 丁香六月欧美| 久久久久久人人人人人| 久久久国产精品麻豆| 最近在线观看免费完整版| 国产aⅴ精品一区二区三区波| 国语自产精品视频在线第100页| 99re在线观看精品视频| 啪啪无遮挡十八禁网站| 久久久久精品国产欧美久久久| 老熟妇乱子伦视频在线观看| 他把我摸到了高潮在线观看| 真人一进一出gif抽搐免费| 亚洲欧洲精品一区二区精品久久久| 日韩精品中文字幕看吧| av国产免费在线观看| 搡老妇女老女人老熟妇| 国产成人欧美在线观看| 香蕉久久夜色| 午夜福利欧美成人| 1024视频免费在线观看| 伦理电影免费视频| 三级国产精品欧美在线观看 | 一本一本综合久久| 日日摸夜夜添夜夜添小说| 三级国产精品欧美在线观看 | 可以在线观看的亚洲视频| 日日夜夜操网爽| 日韩欧美 国产精品| 在线免费观看的www视频| 亚洲五月天丁香| 亚洲男人的天堂狠狠| 99国产精品一区二区三区| 欧美av亚洲av综合av国产av| 俄罗斯特黄特色一大片| 一卡2卡三卡四卡精品乱码亚洲| 两性午夜刺激爽爽歪歪视频在线观看 | 女生性感内裤真人,穿戴方法视频| 欧美乱妇无乱码| 久久热在线av| 亚洲中文字幕一区二区三区有码在线看 | 国产高清视频在线观看网站| 好男人在线观看高清免费视频| 国产在线精品亚洲第一网站| 久久久久久九九精品二区国产 | 欧美 亚洲 国产 日韩一| 色在线成人网| 99国产精品一区二区蜜桃av| 国产精品永久免费网站| 夜夜看夜夜爽夜夜摸| 黄片小视频在线播放| tocl精华| 亚洲中文日韩欧美视频| 少妇人妻一区二区三区视频| 亚洲五月天丁香| 中文字幕最新亚洲高清| 成人av一区二区三区在线看| 黄色视频,在线免费观看| 亚洲成av人片免费观看| 桃色一区二区三区在线观看| 黄频高清免费视频| 夜夜夜夜夜久久久久| 精品久久蜜臀av无| 99热这里只有是精品50| 国产乱人伦免费视频| 神马国产精品三级电影在线观看 | 麻豆av在线久日| 桃色一区二区三区在线观看| 中文字幕高清在线视频| 一进一出抽搐gif免费好疼| 久久婷婷人人爽人人干人人爱| 两个人视频免费观看高清| 两人在一起打扑克的视频| 啦啦啦韩国在线观看视频| 一区二区三区激情视频| 少妇被粗大的猛进出69影院| 性色av乱码一区二区三区2| 国产真实乱freesex| 欧美极品一区二区三区四区| 日本三级黄在线观看| 人妻丰满熟妇av一区二区三区| 天堂av国产一区二区熟女人妻 | 日韩 欧美 亚洲 中文字幕| 久久久久久久久久黄片| 亚洲性夜色夜夜综合| 18禁裸乳无遮挡免费网站照片| e午夜精品久久久久久久| 亚洲天堂国产精品一区在线| 免费一级毛片在线播放高清视频| 天天一区二区日本电影三级| 我的老师免费观看完整版| 日韩精品免费视频一区二区三区| 国内毛片毛片毛片毛片毛片| 国产av又大| 两人在一起打扑克的视频| 日韩 欧美 亚洲 中文字幕| 在线观看一区二区三区| 哪里可以看免费的av片| 午夜亚洲福利在线播放| 午夜精品久久久久久毛片777| 成年女人毛片免费观看观看9| 久久人妻av系列| 国产亚洲精品av在线| 在线观看免费视频日本深夜| 亚洲av成人不卡在线观看播放网| 亚洲精品久久成人aⅴ小说| АⅤ资源中文在线天堂| 精品免费久久久久久久清纯| 97超级碰碰碰精品色视频在线观看| 韩国av一区二区三区四区| 国产又色又爽无遮挡免费看| 亚洲欧美日韩高清专用| 搞女人的毛片| 美女黄网站色视频| www国产在线视频色| 亚洲专区国产一区二区| 琪琪午夜伦伦电影理论片6080| 久久久国产成人精品二区| 亚洲色图av天堂| 久久中文看片网| 国产成人av教育| 一本大道久久a久久精品| 国产精品香港三级国产av潘金莲| 在线观看日韩欧美| 色老头精品视频在线观看| 一进一出好大好爽视频| 国产成人av教育| 欧美日韩瑟瑟在线播放| 宅男免费午夜| 最新在线观看一区二区三区| 日韩中文字幕欧美一区二区| 香蕉丝袜av| √禁漫天堂资源中文www| 人妻夜夜爽99麻豆av| 视频区欧美日本亚洲| 可以免费在线观看a视频的电影网站| 久热爱精品视频在线9| 国产精品一区二区三区四区久久| 欧美色欧美亚洲另类二区| 成年版毛片免费区| 久久久久久久午夜电影| 成人18禁在线播放| 每晚都被弄得嗷嗷叫到高潮| 免费观看人在逋| 中文在线观看免费www的网站 | 99在线视频只有这里精品首页| 香蕉久久夜色| 亚洲av成人av| 成人18禁在线播放| 男人舔奶头视频| 黄频高清免费视频| 久久 成人 亚洲| 美女免费视频网站| 黄色片一级片一级黄色片| 天天一区二区日本电影三级| 欧美一区二区国产精品久久精品 | 婷婷精品国产亚洲av在线| 亚洲aⅴ乱码一区二区在线播放 | 日韩av在线大香蕉| 中文字幕高清在线视频| 99热只有精品国产| 国产v大片淫在线免费观看| 午夜两性在线视频| 国产成人精品无人区| 亚洲人成网站高清观看| 亚洲成人中文字幕在线播放| 亚洲人成电影免费在线| 中文亚洲av片在线观看爽| videosex国产| 亚洲av成人精品一区久久| 日本五十路高清| 最近最新免费中文字幕在线| 日日摸夜夜添夜夜添小说| 一a级毛片在线观看| 1024手机看黄色片| 婷婷精品国产亚洲av| 久久香蕉国产精品| 国产高清videossex| 久久精品人妻少妇| 午夜免费激情av| netflix在线观看网站| 99久久精品热视频| 亚洲第一欧美日韩一区二区三区| 日韩免费av在线播放| 免费人成视频x8x8入口观看| 久久精品国产综合久久久| 国产精品一及| 91麻豆av在线| 女人高潮潮喷娇喘18禁视频| 久久精品成人免费网站| 老司机深夜福利视频在线观看| 五月玫瑰六月丁香| √禁漫天堂资源中文www| 欧美+亚洲+日韩+国产| 欧美黑人巨大hd| 日日爽夜夜爽网站| 深夜精品福利| 久久久久久人人人人人| 亚洲五月天丁香| 9191精品国产免费久久| 国产午夜精品久久久久久| 色av中文字幕| 国产av在哪里看| 男人的好看免费观看在线视频 | 久久精品成人免费网站| 国产午夜精品论理片| 88av欧美| 精品日产1卡2卡| 一进一出抽搐gif免费好疼| 免费搜索国产男女视频| 国产午夜精品论理片| 亚洲熟妇中文字幕五十中出| 天堂影院成人在线观看| 美女午夜性视频免费| 麻豆成人午夜福利视频| 国产视频一区二区在线看| 91av网站免费观看| 99久久99久久久精品蜜桃| 久久精品国产清高在天天线| 久久久久国产一级毛片高清牌| 人妻夜夜爽99麻豆av| 母亲3免费完整高清在线观看| 看片在线看免费视频| 五月伊人婷婷丁香| 啪啪无遮挡十八禁网站| 国产精品 欧美亚洲| av福利片在线观看| 在线观看一区二区三区| 桃红色精品国产亚洲av| 人妻丰满熟妇av一区二区三区| 日韩免费av在线播放| 国产精品日韩av在线免费观看| 亚洲欧美日韩高清专用| 久久 成人 亚洲| 国产男靠女视频免费网站| 日日干狠狠操夜夜爽| 亚洲国产精品久久男人天堂| 一区二区三区激情视频| 变态另类丝袜制服| 国产麻豆成人av免费视频| 国产亚洲精品av在线| 中文字幕人成人乱码亚洲影| 久久精品成人免费网站| 久久久精品大字幕| 日韩精品青青久久久久久| 午夜亚洲福利在线播放| 久久久久精品国产欧美久久久| 精品一区二区三区视频在线观看免费| 久久香蕉国产精品| 国产区一区二久久| 亚洲午夜精品一区,二区,三区| 中文字幕人妻丝袜一区二区| 在线永久观看黄色视频| 国产蜜桃级精品一区二区三区| 99久久无色码亚洲精品果冻| 精品午夜福利视频在线观看一区| 色老头精品视频在线观看| 午夜免费观看网址| 国产97色在线日韩免费| 三级男女做爰猛烈吃奶摸视频| av中文乱码字幕在线| 桃红色精品国产亚洲av| 免费在线观看视频国产中文字幕亚洲| 一a级毛片在线观看| 国产亚洲av嫩草精品影院| 9191精品国产免费久久| 欧美黑人精品巨大| 午夜福利视频1000在线观看| 一卡2卡三卡四卡精品乱码亚洲| 好男人电影高清在线观看| 久久人妻福利社区极品人妻图片| 两人在一起打扑克的视频| 特级一级黄色大片| 99热只有精品国产| 欧美成人免费av一区二区三区| 小说图片视频综合网站| 日韩 欧美 亚洲 中文字幕| 免费在线观看黄色视频的| 亚洲国产欧美网| 亚洲精品在线观看二区| 一个人免费在线观看的高清视频| 美女 人体艺术 gogo| 国产精品亚洲美女久久久| 两个人免费观看高清视频| a在线观看视频网站| 国产99久久九九免费精品| av中文乱码字幕在线| 老鸭窝网址在线观看| 脱女人内裤的视频| 女人高潮潮喷娇喘18禁视频| 99久久无色码亚洲精品果冻| 国产成人av激情在线播放| 久久人人精品亚洲av| 国模一区二区三区四区视频 | 欧美色视频一区免费| 日韩大尺度精品在线看网址| 欧美成人午夜精品| 国产精品自产拍在线观看55亚洲| 国产精品亚洲av一区麻豆| 老司机深夜福利视频在线观看| 午夜福利欧美成人| 国产亚洲av嫩草精品影院| 久久久精品大字幕| 久久精品人妻少妇| 最近最新中文字幕大全免费视频| 国产又黄又爽又无遮挡在线| 国内少妇人妻偷人精品xxx网站 | 一边摸一边抽搐一进一小说| 中文字幕高清在线视频| 日韩精品免费视频一区二区三区| 后天国语完整版免费观看| 国产午夜精品论理片| 日韩欧美三级三区| 亚洲一区高清亚洲精品| 亚洲 欧美 日韩 在线 免费| 国产一区二区在线av高清观看| 高潮久久久久久久久久久不卡| 99热只有精品国产| 啦啦啦观看免费观看视频高清| 美女高潮喷水抽搐中文字幕| 啦啦啦观看免费观看视频高清| 88av欧美| 成人欧美大片| 久久香蕉国产精品| 色综合婷婷激情| 国产一区二区在线av高清观看| 怎么达到女性高潮| 亚洲中文av在线| 久久 成人 亚洲| 亚洲精品国产精品久久久不卡| 啦啦啦韩国在线观看视频| 免费高清视频大片| 99精品在免费线老司机午夜| 久久久久久大精品| 欧美日本视频| 我要搜黄色片| 两性午夜刺激爽爽歪歪视频在线观看 | 精品久久久久久久久久久久久| 久久99热这里只有精品18| 校园春色视频在线观看| 亚洲精品久久成人aⅴ小说| 国产激情久久老熟女| 亚洲乱码一区二区免费版| 国产69精品久久久久777片 | 啪啪无遮挡十八禁网站| 日本成人三级电影网站| 亚洲成av人片免费观看| 色哟哟哟哟哟哟| 好男人在线观看高清免费视频| 亚洲精品中文字幕在线视频| 国产私拍福利视频在线观看| 50天的宝宝边吃奶边哭怎么回事| 老汉色av国产亚洲站长工具| 中文字幕av在线有码专区| 女生性感内裤真人,穿戴方法视频| 亚洲精品av麻豆狂野| 哪里可以看免费的av片| 欧美高清成人免费视频www| 久久久国产精品麻豆| 亚洲午夜理论影院| 91av网站免费观看| 亚洲av五月六月丁香网| 1024视频免费在线观看| 亚洲中文字幕一区二区三区有码在线看 | 在线观看免费午夜福利视频| 婷婷精品国产亚洲av在线| e午夜精品久久久久久久| 午夜福利18| 99久久综合精品五月天人人| 一区福利在线观看| www.熟女人妻精品国产| 一进一出好大好爽视频| 中文字幕久久专区| 中文字幕熟女人妻在线| 国产精品亚洲美女久久久| 51午夜福利影视在线观看| 亚洲一区中文字幕在线| 麻豆av在线久日| 成人特级黄色片久久久久久久| tocl精华| 99久久久亚洲精品蜜臀av| 一边摸一边抽搐一进一小说| 日本一本二区三区精品| 最新美女视频免费是黄的| 午夜视频精品福利| 1024视频免费在线观看| www日本在线高清视频| videosex国产| 久久久久免费精品人妻一区二区| 狠狠狠狠99中文字幕| 婷婷亚洲欧美| 久久天躁狠狠躁夜夜2o2o| 久久国产精品影院| 丝袜人妻中文字幕| 不卡一级毛片| 女警被强在线播放| 国产成人系列免费观看| 高清在线国产一区| 哪里可以看免费的av片| 欧美日韩国产亚洲二区| 少妇人妻一区二区三区视频| 最新在线观看一区二区三区| 久久精品aⅴ一区二区三区四区| www.熟女人妻精品国产| 哪里可以看免费的av片| 久久久久免费精品人妻一区二区| 免费人成视频x8x8入口观看| 精品国产超薄肉色丝袜足j| 久99久视频精品免费| 男人舔奶头视频| 可以免费在线观看a视频的电影网站| 国产精品香港三级国产av潘金莲| 男女那种视频在线观看| 久久久久久国产a免费观看| 国产亚洲精品一区二区www| 国产成人精品无人区| 小说图片视频综合网站| 日韩有码中文字幕| 国产成人系列免费观看| 亚洲天堂国产精品一区在线| 琪琪午夜伦伦电影理论片6080| 成人永久免费在线观看视频| 啪啪无遮挡十八禁网站| 色哟哟哟哟哟哟| 亚洲人成伊人成综合网2020| 一a级毛片在线观看| 制服人妻中文乱码| 国产午夜精品久久久久久| 一级毛片高清免费大全| 亚洲一码二码三码区别大吗| 夜夜看夜夜爽夜夜摸| 18禁黄网站禁片午夜丰满| 国产三级在线视频| 丰满人妻熟妇乱又伦精品不卡| 一二三四社区在线视频社区8| 9191精品国产免费久久| 一级片免费观看大全| 日韩中文字幕欧美一区二区| 久久这里只有精品19| 精华霜和精华液先用哪个| 久久伊人香网站| 欧美黑人欧美精品刺激| 99国产精品99久久久久| 69av精品久久久久久| 午夜两性在线视频| 很黄的视频免费| 美女免费视频网站| 两个人看的免费小视频| 欧美性猛交╳xxx乱大交人| 欧美精品啪啪一区二区三区| 久久久久九九精品影院| 波多野结衣高清无吗| 欧美另类亚洲清纯唯美| 国产av不卡久久| 欧美日韩国产亚洲二区| www.www免费av| 午夜视频精品福利| 特大巨黑吊av在线直播| 天堂动漫精品| 熟妇人妻久久中文字幕3abv| 桃红色精品国产亚洲av| 免费看a级黄色片| 日本在线视频免费播放| 国产精品日韩av在线免费观看| 亚洲欧美日韩东京热| 91国产中文字幕| 国产av在哪里看| 日本三级黄在线观看| 床上黄色一级片| 不卡av一区二区三区| 久久久久国内视频| 亚洲全国av大片| 精品欧美一区二区三区在线| 五月玫瑰六月丁香| 国产免费男女视频| 18禁裸乳无遮挡免费网站照片| 国产三级中文精品| 国产精品永久免费网站| 久久久久久大精品| 亚洲专区国产一区二区| 美女 人体艺术 gogo| 久久亚洲精品不卡| 国产1区2区3区精品| 亚洲七黄色美女视频| 国产精品久久久久久久电影 | 舔av片在线| 手机成人av网站| 国产熟女午夜一区二区三区| www日本黄色视频网| 50天的宝宝边吃奶边哭怎么回事| 黄频高清免费视频| 亚洲一区二区三区色噜噜| 女人被狂操c到高潮| 久久天堂一区二区三区四区| 久久精品国产综合久久久| 麻豆av在线久日| 此物有八面人人有两片| www.熟女人妻精品国产| 亚洲狠狠婷婷综合久久图片| 国产精品98久久久久久宅男小说| 午夜老司机福利片| 免费av毛片视频| 亚洲午夜理论影院| 高清毛片免费观看视频网站| 亚洲乱码一区二区免费版| 最近最新中文字幕大全电影3| 90打野战视频偷拍视频| 黑人巨大精品欧美一区二区mp4| 免费在线观看亚洲国产| 国产精品,欧美在线| 欧美日韩国产亚洲二区| 成年人黄色毛片网站| 美女大奶头视频| 人妻丰满熟妇av一区二区三区| 亚洲七黄色美女视频| 麻豆久久精品国产亚洲av| www国产在线视频色| 亚洲精品美女久久久久99蜜臀| 一本大道久久a久久精品| 一本一本综合久久| 中文字幕人成人乱码亚洲影| 免费一级毛片在线播放高清视频| 久久天躁狠狠躁夜夜2o2o| 人人妻,人人澡人人爽秒播| 高清在线国产一区| 俄罗斯特黄特色一大片| 久久久久久免费高清国产稀缺| 可以免费在线观看a视频的电影网站| 十八禁网站免费在线| 欧美日韩国产亚洲二区| 国产成人精品久久二区二区91| 亚洲专区国产一区二区| 久久久国产成人免费| 亚洲精品一区av在线观看| 婷婷丁香在线五月| 久久中文看片网| 日日夜夜操网爽| 亚洲狠狠婷婷综合久久图片| 欧美乱色亚洲激情| 精品免费久久久久久久清纯| 国语自产精品视频在线第100页| 亚洲五月婷婷丁香| 久久久久久九九精品二区国产 | 欧美日本亚洲视频在线播放| 又爽又黄无遮挡网站| 国产精品av视频在线免费观看| 伦理电影免费视频| 久久久水蜜桃国产精品网| 看黄色毛片网站| 91av网站免费观看| 国产精品一区二区精品视频观看| 午夜福利视频1000在线观看| 精品电影一区二区在线| 成人国语在线视频| av欧美777| 观看免费一级毛片| 国产精品九九99| 91九色精品人成在线观看| 美女午夜性视频免费| 真人做人爱边吃奶动态| 国产精品久久视频播放| 色在线成人网| 精品国内亚洲2022精品成人| 久久天躁狠狠躁夜夜2o2o| 亚洲自拍偷在线| 窝窝影院91人妻| 在线观看午夜福利视频| 国产在线观看jvid| 成人精品一区二区免费| 丝袜人妻中文字幕| 五月伊人婷婷丁香| 看黄色毛片网站| 成年人黄色毛片网站| 国产主播在线观看一区二区| 国产亚洲精品一区二区www| 欧美人与性动交α欧美精品济南到| 久久精品国产亚洲av香蕉五月| 亚洲成av人片在线播放无| 一本一本综合久久| 久久这里只有精品中国| 国产伦在线观看视频一区| 欧美日韩福利视频一区二区| 两个人免费观看高清视频| 特级一级黄色大片| bbb黄色大片|