• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據時代下算法共謀行為的法律規(guī)制

    2021-05-31 01:57:36丁國峰
    社會科學輯刊 2021年3期
    關鍵詞:共謀經營者算法

    丁國峰

    一、問題的提出

    自2005年至2019年,全球互聯(lián)網用戶比例從16.8%增長至53.6%,97%以上的人口生活在移動網絡下,為電子商務的迅猛發(fā)展提供了歷史空前的先決條件?!?〕47個國家的數(shù)字經濟增加值達31.8萬億美元,占GDP41.5%,其中美國數(shù)字經濟規(guī)模達13.1萬億美元,占國內GDP61%,我國為5.2萬億美元,占GDP比重超30%?!?〕同年,我國電子商務交易規(guī)模為34.81萬億元人民幣;其中網上零售額超10.63萬億元人民幣,同比增長16.5%,實物商品網上零售額超8.52萬億元人民幣,占社會消費品零售總額的20.7%。〔3〕從起初對互聯(lián)網平臺的陌生畏懼,到如今電子商務平臺的不可或缺,廣大消費者已經充分融入數(shù)字力量驅動下的互聯(lián)網世界。消費行為痕跡成就了人工智能的本體——算法的成長,為其提供了海量訓練分析數(shù)據。同時,算法也讓消費者感受到了前所未有的便捷,并日益成為更懂得用戶需求的存在。監(jiān)管者們看到了這個市場的“高度透明”、信息的高速傳遞、行業(yè)壁壘的“不復存在”、提振經濟的良好成效。在平臺經濟發(fā)展的同時,限制市場競爭的行為也在悄然發(fā)生著。經營者看到了算法的巨大潛力,其無須公開達成壟斷協(xié)議,就可以合法手段實現(xiàn)限制競爭行為的目的。在此類限制競爭行為的背后,算法共謀成為一種主要手段或間接目的。

    2017年,世界經濟合作與發(fā)展組織(OECD)在眾多科學家、學者的提議下,開展了以“算法與共謀”為主題的研討,并發(fā)布了題為《算法與共謀:數(shù)字時代的競爭政策》(Algorithms andCol?lusion:Competition Policy in the Digital Age) 的報告,就算法在促進社會經濟發(fā)展的同時,是否也為壟斷提供了便利的問題進行了詳細論述。〔4〕由此,數(shù)字時代平臺經濟的壟斷問題逐漸成為國內外學者關注的重點,相關司法案例也逐漸進入公眾視野。在國內,淘寶公司與安徽美景公司不正當競爭糾紛案①淘寶(中國)軟件有限公司與安徽美景信息科技有限公司不正當競爭糾紛案一審民事判決書,杭州鐵路運輸法院民事判決書〔2017〕浙8601民初4034號。、浙江天貓濫用市場支配地位糾紛案②浙江天貓網絡有限公司、浙江天貓技術有限公司濫用市場支配地位糾紛二審民事裁定書,最高人民法院民事裁定書〔2019〕最高民轄終130號。等案件的發(fā)生,國務院《禁止濫用市場支配地位暫行規(guī)定》《禁止壟斷協(xié)議暫行規(guī)定》《國務院關于促進平臺經濟規(guī)范健康發(fā)展的指導意見》的公布實施以及2021年2月國務院反壟斷委員會發(fā)布的《關于平臺經濟領域的反壟斷指南》正式實施,在不同程度上體現(xiàn)出我國平臺經濟的發(fā)展出現(xiàn)了倒逼傳統(tǒng)競爭政策更新的新特點。而此類新情勢的出現(xiàn),與算法、算力和大數(shù)據的發(fā)展密不可分。國內外各類有關數(shù)字經濟平臺競爭事件的發(fā)生和基于此類平臺發(fā)展的報告指引,反映了數(shù)字經濟時代背景下的反壟斷執(zhí)法工作在觀念、技術和政策上面臨著多重挑戰(zhàn)。

    在算法支撐的數(shù)字經濟時代,消費者至少對以下幾個方面有所體會:被個性化推薦或被限制交易、被歧視定價或被“殺熟”、被信用評分或被市場排除、被鼓勵消費或被申請信貸、被劃入特定市場等等。而相對弱勢的平臺競爭者會認為:壟斷大數(shù)據資源的行業(yè)領先者無時無刻不在利用大數(shù)據資源“排除異己”;看似非相關市場主體的合并實際上隱藏著巨大陰謀,即收購方正極力整合目標公司的大數(shù)據資源;擁有大數(shù)據市場絕對優(yōu)勢資源的市場主體,正通過包括訴訟方式在內的多種手段,實現(xiàn)其濫用市場支配地位的目的。本文將基于學者們對數(shù)字經濟時代算法共謀問題的研究成果,考量不同利益主體生存發(fā)展的必要需求,以研究算法共謀與壟斷協(xié)議的關系為主。同時,嘗試挖掘算法共謀與濫用市場支配地位以及實施經營者集中的內在邏輯,探討上述與平臺經營者利用算法進行共謀的限制競爭行為,厘清其與傳統(tǒng)意義上壟斷行為的關系,提出有關監(jiān)管、法律適用和立法完善等方面的相關建議。

    二、算法共謀限制競爭的研究現(xiàn)狀及趨向

    在算法共謀的形式方面,根據算法作用方式的不同對算法共謀進行了不同的形式或類型的劃分。2017年,扎拉奇(Ariel Ezrachi)和斯圖克(Maurice E.Stuck)首次劃分了四種算法共謀形式,即信使場景(messenger scenario)、中心輻射式場景(hub and spoke scenario)、預測型代理人場景(the predictable agent scenario)以及電子眼(digital eye),第一次提出算法的默示共謀?!?〕2017年,經濟與合作發(fā)展組織(OECD)專門舉辦了以算法與共謀對數(shù)字時代競爭政策的影響為主題的論壇,將算法在共謀中的角色劃分為監(jiān)督算法(monitor?ing algorithms)、平行算法(parallel algorithms)、信號算法(signalling algorithms)和自主學習算法(self-learning algorithms)四種。同時,報告還就反壟斷法在應對默示共謀及壟斷協(xié)議認定上的挑戰(zhàn),提出了市場研究和行業(yè)調查、事前合并審查、承諾和其他可能的救濟措施?!?〕自此算法共謀引起的反壟斷規(guī)制問題成為各國學術焦點。

    在算法共謀違法性認定方面,2016年,薩利勒·K.梅拉(Salil K.Mehra)以優(yōu)步激增定價案為背景,規(guī)范性描述了算法驅動的動態(tài)定價對反壟斷法適用的影響,認為反壟斷法在確定壟斷者意圖、明示共謀競爭者間的背離、壟斷協(xié)議和有意識的交流等問題上面臨著新挑戰(zhàn)?!?〕2017年,曾雄認為算法是執(zhí)行管理和共謀的工具,本身不能構成新的違法行為,對其背后的行為主體責任認定存在困難?!?〕2020年,王健等基于自主學習型算法共謀的特殊性,單獨就事前預防和監(jiān)管問題進行了研究,認為非自主學習型算法共謀仍處于傳統(tǒng)反壟斷規(guī)制圈。而在自主學習型算法共謀中,設計者、使用者等主體的意志無法直接參與共謀過程,所以需要事前對該類算法進行管控。

    在算法共謀的反壟斷規(guī)制方面,2018年,鐘原基于類型化規(guī)制的思路,認為要秉持包容性的規(guī)制思路,從共謀行為的本質和外化綜合對壟斷行為主體要件、主觀要件以及壟斷協(xié)議進行認定。2019年,李婕認為應當公開算法源代碼,根據是否受脅迫劃定法律上算法壟斷的范圍。柳欣玥也在分類研究算法共謀的基礎上,提出重塑壟斷協(xié)議的概念,將算法共謀作為壟斷協(xié)議的一種表現(xiàn)形式,同時對算法共謀帶來的市場效率和創(chuàng)新性的提升進行豁免的闡述。〔9〕2020年,周圍提出,盡管各方要約和承諾都是通過行為和默許,但仍足以滿足客觀性要求;盡管承諾的信用程度較低,但模糊的默契仍可以成為反壟斷法意義上的協(xié)議,繼而自主學習算法形成的共謀可能被納入反壟斷法的規(guī)制范圍?!?0〕唐要家等也認為通過企業(yè)間的協(xié)議證據、附加因素或算法審查,證明現(xiàn)有的反壟斷政策足以應對明示共謀中的信息傳遞者、軸輻協(xié)議和默示共謀中的預測代理人所實施的這三種類型的有意識平行行為,在應對自主學習算法共謀上,協(xié)議要件認定、主體責任確定等均有較大的規(guī)制缺口,認為應擴展壟斷協(xié)議的界定?!?1〕時建中認為,對預測類算法共謀、自主學習類算法共謀的壟斷行為認定存在困難的情況下,可以利用共同市場支配地位制度調整算法默示共謀?!?2〕譚書卿認為可以采用消費者算法以平衡市場主體間的信息不對稱,以此削弱算法共謀。〔13〕

    總體上,學者們大都是通過對各類共謀類型的情景化分析,檢視當前反壟斷制度適用上可能遇到的問題,繼而給出反壟斷法的適用建議或立法建議。擴大解釋“壟斷協(xié)議”以延展其外延的觀點居多,豐富壟斷行為證明方式的也不少。將算法共謀與壟斷協(xié)議綁定研究是以往研究的主要思路①從《關于平臺經濟領域的反壟斷指南(征求意見稿)》第5條關于壟斷協(xié)議形式的規(guī)定可見,算法共謀可以被認為屬于“其他協(xié)同行為”,而其他協(xié)同行為又屬于壟斷協(xié)議的表現(xiàn)形式。2021年2月7日,國務院反壟斷委員會印發(fā)的《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》第5條把“數(shù)據、算法、平臺規(guī)則或者其他方式實質上存在協(xié)調一致的行為”直接認定為“其他協(xié)同行為”,還進一步明確規(guī)定了非協(xié)同行為的范疇,如價格跟隨的平行行為等。,在算法共謀與濫用市場支配地位以及違法實施經營者集中的邏輯關系上少有論及。在應對數(shù)字化經濟的挑戰(zhàn)中,需要持續(xù)摸索競爭行為之間的內在聯(lián)系,不斷考量各種合理應對措施。市場若能自適自洽,或者當價格熔斷、限制高價、消費者算法這些市場化手段能夠削減算法共謀引起的消費者利益減損時,法律還是應以防守的姿態(tài)出現(xiàn),但豐富和拓展傳統(tǒng)反壟斷法中相關要素的外延實屬必要。

    三、平臺經濟下算法共謀的運行機制

    信息不對稱或信息偏在是導致市場失靈的重要原因之一。因此,誰控制信息的不對稱,誰就可以掌握交易的主導權?!?4〕而在數(shù)字經濟時代,作為信息本源的大數(shù)據,使得信息偏在的影響凸顯得更加深刻和嚴重,這也正是市場經營主體大力占有大數(shù)據資源的原因所在。基于用戶貢獻的大數(shù)據所產生的巨大網絡效應,已經成為數(shù)字經濟時代市場競爭的一個顯著特點?!?5〕在看似價格極度公開透明的電子商務平臺,消費者似乎可以在極短的時間內,比對出同一商品在平臺內外的不同價格,同時為自己掌握了目標商品的全部信息而沾沾自喜。然而,事實上是消費者接收到的信息通常是平臺經營者希望其看到的信息,并非完全競爭市場下商品的均衡價格。通過運用精妙的算法模型,平臺經營者得以具備數(shù)據挖掘與交易、模式識別、需求預測、價格優(yōu)化的能力?!?6〕在此基礎上,平臺經營者還可實施完美的價格歧視,不明所以的消費者對此卻“欣然接受”??梢栽O想,當一切商品銷售均由線下轉向線上平臺進行時,便意味著所有商品均具備被提前共謀定價的可能,在這樣的市場中,自由競爭很難存在,除非期待眾多背離者的出現(xiàn)。因此,分析算法共謀運行的基礎、存在的環(huán)節(jié)、扮演的角色、實現(xiàn)的方式和產生的結果,是厘清算法共謀與濫用市場支配地位以及違法實施經營者集中的邏輯關系的重要前提。以下將綜合算法模式和對算法共謀場景的分類,分析算法共謀行為可能存在的模式樣態(tài)與運行機理。

    (一)信使場景下的算法共謀

    在信使場景中,算法僅是傳遞、執(zhí)行經營者共謀合意的中介或工具。在此種場景中,經營者可以采取以下兩種方式實現(xiàn)共謀壟斷。一種是通過事前合意,確定算法將要實現(xiàn)的共謀策略即壟斷協(xié)議,再將其轉化成計算機語言融入算法,使其能夠自動在電子商務平臺運行。此種共謀與傳統(tǒng)共謀壟斷幾乎完全相同,只是增加了一個實現(xiàn)共謀壟斷的工具而已,將以往由人完成的工作轉交給機器開展。同時,機器執(zhí)行壟斷協(xié)議的方式,方便了共謀者間的互相監(jiān)督,使得他們能在第一時間發(fā)現(xiàn)壟斷協(xié)議的背離者,并通過價格戰(zhàn)等方式對其進行懲罰,此種共謀行為強化了共謀者之間的一致性。對于監(jiān)管者來說,增加了一條搜尋共謀壟斷證據的路徑,此項工作在算法邏輯語言的識別上對監(jiān)管人員的相關技術水平提出了更高的要求。①這對數(shù)字經濟時代反壟斷執(zhí)法隊伍的建設提出了新的課題,是采取自主培養(yǎng)針對平臺經濟的專業(yè)執(zhí)法人員的模式,還是依托于第三方專業(yè)鑒定評估機構開展,將是當下需要面臨的問題。此種共謀方式在平臺經濟發(fā)展早期會被大量使用,一旦監(jiān)管者對此種情形表示關切后,其將淡出共謀者的視野,因為這是一種雖然方便但是隱蔽性不高的壟斷方式。另一種是事前無合意,壟斷預謀者基于對算法運作機理的認識,自發(fā)形成了共謀的默契。此時,平行算法發(fā)揮著重要作用。平行算法將在壟斷高價和市場均衡價格之間尋找確保共謀者利益最大化的價格。此種情形中,經營者間雖然沒有形式上的共謀溝通,但是存有共謀壟斷的主觀故意。通過對算法源代碼邏輯和市場反饋結果的綜合分析,在很大程度上可以尋找到共謀的證據。需要說明的是,如果各經營者追求最大利潤所采用的定價策略,結果上造成了壟斷,便不應苛責于該類經營者。因為追求最優(yōu)的定價策略,繼而得到最大利潤是經營者的核心目標,但這并不意味著該類經營者對其無意造成的壟斷可以放任不管。

    信使場景下的算法共謀是最基礎的,僅多了一個非人的“壟斷協(xié)議執(zhí)行人”。學者們一直認為此種行為可以直接受到反壟斷法的規(guī)制,信使場景下的算法不過是平臺經營者的意志在技術上的延伸,但是對監(jiān)管工作提出了新的要求。

    (二)中心輻射式場景下的算法共謀②中心輻射式場景下的算法共謀,其實質表現(xiàn)為實現(xiàn)算法共謀的軸幅協(xié)議,其也被稱為軸輻射場景下的算法共謀。

    自從人工智能出現(xiàn)后,經營者不再需要每天研究市場供給、價格水平、成本庫存等這些傳統(tǒng)經濟下必須提前考慮的周期性經營指標。算法實現(xiàn)了經營數(shù)據自動更新,并自主優(yōu)化資源配置,實現(xiàn)利潤最大化。已經初具規(guī)模的平臺經營者會投資研發(fā)一套適合自己的算法,而市場上更多的普通經營者便是有心無力了。于是云平臺服務商或算法系統(tǒng)服務商發(fā)現(xiàn)了新的盈利模式——提供電子商務平臺算法服務。當越來越多的平臺內經營者接受此項服務后,這種趨于一致的算法便得以普及,電子商務市場的定價策略和運行模式也就出人意料又符合情理地達成了一致。

    以某電子商務平臺A為例,其愿景是為中小經營者提供一個互聯(lián)網零售平臺,如何為平臺內的經營者提供更加便捷高效的服務是A平臺近幾年的工作重心之一。按照傳統(tǒng)的商品定價框架,平臺內的經營者需要綜合考量諸多因素。但是大多數(shù)經營者不具備這樣的能力或精力。A平臺基于自身在大數(shù)據運營與智能算法方面積累的資源和能力,為本平臺內的經營者提供了有償?shù)乃惴ǚ?。此種算法或算法程序能夠即時抓取同類市場此類商品的價格、存量、供需等相關數(shù)據,根據經營者的預期收益率、庫存率、產品基本信息、成本及費用等基本經營信息,自動科學定價,提供進出貨建議,即提供由傳統(tǒng)經營單元會計、采購等部門從事的工作。試問,有多少中小平臺內經營者會拒絕這種服務費用不高的服務提供者呢?于是,由此算法確定的商品價格成為同類賣家欣然接受的市場價格。

    在此案例中,A平臺與其平臺內接受其算法服務的經營者們達成了數(shù)個縱向協(xié)議,此類協(xié)議在外觀上以服務合同的形式存在。就單獨的縱向協(xié)議來說,似乎和限制競爭沒有任何關聯(lián);若是數(shù)以萬計的此種縱向協(xié)議出現(xiàn)時,監(jiān)管機構就有必要關注了。各個縱向協(xié)議之間看似無關聯(lián),但他們有一個實質的連接點——趨于一致的算法,例如Uber案就具有此類特征。在此算法的運作下,盡管各個商家有權自主更改定價,但是他們的定價多數(shù)情況下會趨于一致,這就是中心輻射下的算法共謀。此種場景下,各個商家沒有協(xié)同定價的事前通謀,但因使用了統(tǒng)一算法導致了協(xié)議定價的結果。對此,監(jiān)管機構需要具體問題具體分析。市場信息的高度透明與定價方法的相對確定,這些都是既存的事實,即使不用算法,平臺內經營者也能實現(xiàn)精準定價;如今,算法只是節(jié)省了平臺內經營者們的勞力,所以,對此種共謀不應過度苛責,畢竟也是提升了市場運行的效率。但是,當此種集聚定價對消費者權益產生侵害時,特別是在定價已經偏離商品價值時,監(jiān)管機構便應該介入了。在這樣一個中心輻射場景下,A平臺是否構成壟斷,取決于A的市場體量和算法的邏輯,算法的邏輯可通過其實現(xiàn)結果逆向推斷。任何市場定價結果都應當具備社會相當性,若是突破了這個大多數(shù)能夠接受的程度,反壟斷調查應當被激活。根據前文所述,算法能夠發(fā)揮作用的前提是已經存儲了海量的靜態(tài)大數(shù)據,具備即時抓取互聯(lián)網動態(tài)數(shù)據的權利和能力。大數(shù)據的來源和使用規(guī)則將決定相關平臺經營者能否提供算法服務或實現(xiàn)算法共謀。

    若是A平臺內的經營者欲與A平臺的競爭者B平臺建立類似的合作關系,同時A平臺和B平臺的算法存在不同,或者B平臺暫時不提供定價算法服務,那么A平臺會對平臺內經營者的動向有何看法?存在以下幾個問題:平臺間同一商品價格的不同;商業(yè)秘密、技術成果或商品定價的剽竊等。這也是電子商務平臺“二選一”的原因之一。在格蘭仕訴天貓濫用市場支配地位糾紛中,若在雙方已經簽訂算法服務協(xié)議的情況下,格蘭仕擬和京東建立類似合作關系,那么天貓便會擔心:格蘭仕可能會在京東平臺上,以不易查證的方式,利用其長期以來從天貓獲得服務信息,參與整個電商平臺的競爭,從而獲得競爭優(yōu)勢;京東可能會從格蘭仕以往的定價上挖掘天貓的定價策略;在兩平臺間價格信息不完全共享的情況下,會出現(xiàn)同類產品在不同平臺間存在較大價格差異的情形,極易引起消費者和監(jiān)管者的注意。

    由此,中心輻射式場景下的算法共謀已然是當前一個較為復雜的樣態(tài)。在《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》中,不僅對橫向壟斷協(xié)議和縱向壟斷協(xié)議進行了界定,還明確規(guī)定了對軸輻協(xié)議即中心輻射場景下的共謀協(xié)議。①參見《國務院反壟斷委員會關于平臺經濟領域的反壟斷指南》第8條規(guī)定。中心輻射式場景下的算法共謀涉及平臺經營者與平臺內經營者、平臺經營者與平臺經營者、平臺內經營者與平臺內經營者三組關系,使得原有壟斷協(xié)議中的單向聯(lián)系,變?yōu)榄h(huán)向交錯聯(lián)系。在此場景下,壟斷大數(shù)據資源的平臺經營者,為了鞏固其在大數(shù)據市場的領先地位,將采取各種措施防止既得數(shù)據的流失與被復制。LinkedIn訴HiQ非法爬取用戶數(shù)據案就是一個例證。②HiQ是一家通過收集職場人士在社交平臺(主要是領英)的動態(tài)信息,分析總結雇員職業(yè)發(fā)展規(guī)劃和技能水平等,為客戶公司的人力資源部門提供此類分析產品。LinkedIn(領英)2016年被微軟收購,全球知名專業(yè)網絡社交平臺,用戶數(shù)量達數(shù)億。即使HiQ爬取LinkedIn用戶公開數(shù)據的行為,不會直接損害LinkedIn的利益,但出于對既得數(shù)據資源的絕對占有,LinkedIn這類大數(shù)據市場領先者,會竭力保持自己的數(shù)據壟斷地位。在這一點上,大數(shù)據市場的領先者涉嫌以合法手段設置數(shù)據共享壁壘形成壟斷態(tài)勢,繼而便于實施算法共謀。同時,也存在數(shù)據企業(yè)通過企業(yè)兼并等手段,在較短時間內實現(xiàn)大數(shù)據增量,這類經營者集中也存在限制競爭的可能,歐盟對谷歌收購Fitbit的反壟斷審查也體現(xiàn)了此種擔憂?!?7〕

    (三)預測型代理人場景下的共謀

    預測型代理人場景下的共謀,可以被認為是中心輻射式場景下共謀發(fā)展的下一階段。電子商務平臺內的經營者們,從被動接受算法服務商的積極推介,到如今開始主動尋求算法服務的供給,正如當初電子商務市場從不被看好到如今卻炙手可熱一樣。以往平臺逐一找尋潛在算法服務需求商、訂立縱向服務協(xié)議的情形,演變成如今電子商務經營者們積極主動地自主開發(fā)或定制算法服務的熱潮。算法的功能也經歷了1.0時代到2.0時代的蛻變,算法服務開始成為一種可以在市場上流通的產品,大數(shù)據市場的數(shù)字化水平和公開程度得以進一步提升,最終形成以“數(shù)據為王”的態(tài)勢。③數(shù)據已經成為一種新的生產要素,在社會經濟發(fā)展過程中與勞動力、土地、資本、企業(yè)家一樣,發(fā)揮著重要作用。平臺經濟的經營者開始使用自己的定價算法,其之間沒有任何的意思聯(lián)絡,更沒有壟斷定價的具體行為。最終的結果是大部分經營者的定價符合一般商品的定價規(guī)則,這種利用算法定價的行為只是提升了市場效率,對消費者沒有影響;大部分經營者的定價遠高于商品的實際價值,便產生了壟斷定價的結果。第二種結果多出現(xiàn)在競爭者較少的寡頭市場,人們所說的寡頭價格協(xié)調(oligopolistic price coordination)或有意識的平行行為(Conscious Parallelism)多在此情形下出現(xiàn)。若按照平臺劃分,當前我國的電子商務市場有寡頭壟斷的特點,每一個平臺經營者與其平臺內的經營者以合同的形式,形成了一個龐大的組織體,其利益相關并運用趨于一致的法則,同其他組織體進行競爭。而大數(shù)據壟斷、限制數(shù)據流量、不合理關閉數(shù)據接入通道等濫用市場支配地位的行為,無疑加劇了壟斷定價的風險。

    監(jiān)督算法、平行算法、信號算法均能在此場景下得到運用。監(jiān)督算法的運用使得經營者可以即時掌握全部商品信息。行業(yè)領先者若是制定了過分高于商品價值的價格,其他同類經營者的算法會根據預先設置的規(guī)則,按照一定比例進行提價。當整個同類商品市場均遵循這種算法運行時,也就意味著該類商品的價格在一定期間內,將由行業(yè)領導者決定。又鑒于監(jiān)督算法的存在,若部分經營者擬采取降價措施,則他們不僅要擔心消費者是否敢于購買同類個別的低價商品,還要擔心被業(yè)內同行懲罰。這樣一來,除行業(yè)絕對領導者以外的其他經營者,將主動或被動地參與共謀壟斷。因此,在預測性代理人場景下,各經營者們起初并無共謀的故意,但其將在算法運行過程中,注意到自身正在參與壟斷并造成壟斷情形。如果對此種情況視而不見,那么其就是從無意共謀到縱容共謀,再到參與共謀。

    (四)電子眼場景下的共謀

    當整個行業(yè)都開始采用定價算法,具備自主學習能力的算法將有效預測競爭對手算法的行動,并對其主動作出回應。通過利用動態(tài)的、差別化的定價策略,同樣可以在電子商務平臺對市場進行分割,進而呈現(xiàn)壟斷形態(tài)。①參見《中華人民共和國反壟斷法》第13條第3項規(guī)定:禁止競爭者分割銷售市場。電子眼場景下的共謀行為實際上已經排除了人類行為,所有市場操作策略均由算法決定,自認為是“監(jiān)督者”的人類,在事實上并不明白在算法的黑箱中正在上演著怎樣的劇情。毋庸置疑,在由極度理性的算法制定市場策略的情況下,那些在大數(shù)據上絕對領先的經營者所運用的算法,極易將整個市場引領成為壟斷市場,因為其可以實現(xiàn)壟斷利潤,而其他市場競爭者只是陪跑者的角色。

    歸根到底,自主學習型算法歸根到底還是使用者的工具,所有的收益與損失最終還是要由算法使用者承擔。使用人有義務監(jiān)督算法的運行,而不能以不知曉為由,歸因于算法。當然,鑒于人類與人工智能在智能水平上的差距,對已經履行必要監(jiān)督義務的使用者提出過高要求則是有失公平的。因此,就需要設定使用者履行義務的標準或制度,如異常價格報告。只要使用者合理履行了相應的義務,則不具有對其苛責的法律依據。

    四、算法共謀下限制競爭行為法律規(guī)制的完善路徑

    通過算法共謀,平臺經營者可以達成壟斷協(xié)議以攫取壟斷利潤;通過限制大數(shù)據共享可以形成大數(shù)據市場支配地位,為寡頭壟斷經營者實現(xiàn)算法共謀營造必要條件;數(shù)據企業(yè)的合并,為算法共謀積累了數(shù)據池,是合并企業(yè)快速實現(xiàn)大數(shù)據市場支配地位的有效途徑。算法共謀行為并不一定會產生限制或者排除競爭行為的效果,比如中心輻射場景下平臺內經營者使用同一算法導致價格趨同,只要未損害消費者的合法權益,就不應當被認定為壟斷定價行為。算法的應用為經營者間的共謀行為提供了便利條件,也對傳統(tǒng)反壟斷法中壟斷行為的認定提出了挑戰(zhàn),可以從主體、主觀、客體、客觀四個層面出發(fā)對算法共謀行為進行違法性認定。人工智能技術日新月異的發(fā)展,不斷給監(jiān)管者制造新的難題。從對新型壟斷樣態(tài)的覺察、鎖定與研究,到定性與規(guī)制,每一個環(huán)節(jié)都對監(jiān)管者的洞察力、專業(yè)力、持續(xù)力與公允力等提出了更高的要求。監(jiān)管者不能唯客觀結果論,而要考量技術本身超出市場主體主觀預期的因素,將算法審查作為互聯(lián)網壟斷審查的一項重要工作。

    (一)確定算法共謀壟斷的主體及歸責原則

    算法明示共謀壟斷的主體及歸責原則與傳統(tǒng)反壟斷法的要求并無二致。當壟斷協(xié)議是由機器,而不是人做出時,反壟斷法將如何被適用?〔18〕算法設計者、執(zhí)行者在多大程度上負有責任?〔19〕信使共謀中的主體,即經營者承擔限制競爭責任,基本無爭議。其主觀動機與具體行為,完全符合反壟斷法的規(guī)制目的。信使場景下算法僅作為執(zhí)行經營者共謀合意的工具,主體及歸責原則的確定沒有特殊之處,經營者是算法共謀壟斷行為的主體,且需要其從事該行為時具有通謀的故意。中心輻射場景下的算法共謀涉及多方主體,當某一算法的運行造成了排除或者限制市場競爭行為的后果,在對其進行認定時應結合該主體的主觀方面進行認定。中心輻射共謀下的算法共謀涉及的利害行為人包括算法服務的提供者與算法服務的使用者,即平臺經營者與平臺內經營者,平臺內經營者一般僅是出于方便定價的目的,才使用了算法,因而沒有對其苛責的理由。但是,當其意識到自身正在參與共謀的壟斷行為時,而又放任該共謀的進行,則其具有主觀惡意,符合反壟斷法上的歸責原則,當其造成排除、限制市場競爭行為的后果時,就應當承擔反壟斷法律責任。對于平臺經營者,要綜合其市場地位、推廣算法服務的目的、算法本身的合理性等因素考量,若其在設計并執(zhí)行算法時具有主觀上的故意,則其就應當受到反壟斷法的規(guī)制。不能否認,算法的合理利用可以極大地降低市場運行成本,促進經濟發(fā)展。監(jiān)管者要做的不是取締一切存在風險的社會經濟發(fā)展手段,而是將其放到制度的牢籠中運行。

    在傳統(tǒng)反壟斷法規(guī)制思路中,機器不能成為承擔責任的主體,意思聯(lián)絡是構成壟斷協(xié)議的必要條件。在算法默示共謀中,傳統(tǒng)反壟斷法所確定的主體和歸責原則必須進行適當?shù)淖兺ㄟm用,通過事前監(jiān)管的程序設計賦予參與主體的相應責任,降低對意思聯(lián)絡的證明標準。在預測型代理人場景下的共謀,各經營者起初沒有限制競爭的意圖,盡管在結果上可能造成了限制競爭的結果。經營者具有逐利性,不能要求其不切實際地考量自己正常的經營行為將給社會帶來何種不利后果,即使在我們更加強調企業(yè)社會責任的今天,這種要求也顯得苛刻。在此種情形中,監(jiān)管者應主動監(jiān)管,通過要求算法適用前預先報備審查,建立互聯(lián)算法孵化平臺等方式評估算法的影響。在適度增加經營者義務的情況下,可以建立異常價格報告制度。在電子眼共謀中,共謀的發(fā)生完全是在機器自主行為下實現(xiàn)的。機器不能成為承擔責任的主體,若非要追究經營者的監(jiān)督或使用責任,不免有些苛刻。監(jiān)管者、算法設計者與使用者需要按照自身職責與能力范圍,以道德倫理為基礎對算法的編程方式、安全措施、作用范圍等進行評估監(jiān)督,在責權明確的情況下追究各方責任。若算法的設計者、使用者在評估過程中未盡到合理的注意義務,則可以將算法的設計者、使用者納入壟斷行為的主體要件之中。對于嚴重損害市場競爭的算法默示共謀行為,應當降低意思聯(lián)絡的證明標準。除了溝通證據之外,行為證據和經濟證據同樣可以證明默示合謀。〔20〕

    (二)考慮壟斷行為定性的相關因素

    寡頭市場較易發(fā)生默示共謀行為,法學家一般常將寡頭壟斷視作為是有意識的平行行為?!?1〕寡頭壟斷公司可以清楚地認識到:市場上其他公司對其實施的任何價格調整,都將基于價格調整的潛在影響做出反應,這種反應是合理的市場應對機制?!?2〕既然寡頭壟斷存在合理,那么默示共謀就不應被過度苛責,即前文所述四種共謀中的后三項。如果不存在確切證據證明達成壟斷協(xié)議、決定或明示的協(xié)同行為的必要條件和認定構成壟斷的附加因素,不應被認定為壟斷行為。平臺經濟的經營者通過數(shù)據爬取進行大數(shù)據分析最終確定價格的過程,是在價格公開后的行為,而非在價格公開前的行為,各經營者沒有進行價格公開前的協(xié)議行為,也即算法使用者通常是基于經營理性,采取的一般經營者認可的價格策略。因此,對多數(shù)算法使用者進行壟斷行為認定時,最主要還是需要依據實質性的壟斷行為、形式上可能促成壟斷的行為,除非有明顯證據,否則不應當也沒必要進行壟斷的認定。但是,對于大數(shù)據市場上的行業(yè)領先者,監(jiān)管者應保持主動審查的態(tài)度。如前文所述,在算法時代,行業(yè)領先者的定價會自動地被行業(yè)追隨者所跟隨。行業(yè)追隨者被動地加入行業(yè)領先者主導的算法共謀中,表面上呈現(xiàn)出市場協(xié)同行為。此種行為也是行業(yè)領先者濫用市場支配地位行為的變種。算法時代“利用平臺收集或者交換價格、銷量等敏感信息”是常規(guī)操作,這也是平臺經濟相比于傳統(tǒng)經濟效率提升的重要原因。生產經營信息的共享具有提升競爭效率的作用,盡管其也存在為達成壟斷協(xié)議提供基礎資料和有利條件的風險,但是總體上還是利大于弊。國務院反壟斷委員會于2021年2月7日發(fā)布的《關于平臺經濟領域的反壟斷指南》第6條關于“橫向壟斷協(xié)議”的規(guī)定予以細化,使該條第1款的表述更加嚴謹,調整后的壟斷協(xié)議范圍明確嚴苛,不僅強調“利用平臺收集”相關敏感信息,還需同時滿足“交換”諸多敏感信息,協(xié)同行為的壟斷協(xié)議不僅強調數(shù)據、算法等方式,還增加了“平臺規(guī)則”的實施方式,協(xié)同行為的范圍進一步擴大。

    (三)完善大數(shù)據獲取和利用的規(guī)則體系

    算法共謀的實現(xiàn)依賴于算法,而算法的基礎是大數(shù)據,規(guī)制算法共謀就需要厘清大數(shù)據法律屬性的有關問題。對于大數(shù)據、大數(shù)據產品的法律屬性,學界尚無定論,法律屬性的不明確直接導致對其保護依據的欠缺。盡管對大數(shù)據已經進行去標識化處理,似乎從形式上脫離了曾經生成它的數(shù)據主體,但在平臺經營過程中,用戶這一數(shù)據主體的貢獻始終是不可否認的。同時,用戶從未明確表示將自身產生的數(shù)據無償永久地交予平臺經營者等數(shù)據處理者。盡管有人認為用戶通過貢獻自己的行為數(shù)據,平臺經營者得以利用大數(shù)據建立用戶的“意識數(shù)據庫”,繼而為用戶提供目標商品或服務的搜索、推薦功能,雙方實現(xiàn)了公平交換。但是,從這場交易的源頭看,貢獻用戶數(shù)據一開始并不是用戶義務,平臺經營者正是看到了平臺經濟相較于傳統(tǒng)線下經濟模式能夠實現(xiàn)更高收益,從而轉戰(zhàn)線上經濟。方便用戶搜索、智能推薦是平臺經營者實現(xiàn)更高收益的手段,并非單純?yōu)樘岣哂脩趔w驗。因此,用戶始終是被利用者,稱此為公平交易有失妥當。再有,用戶個人數(shù)據包含人格因素,其權利的讓與更應審慎為之。正如無論個體的權利能力、行為能力多么獨立,也難以阻斷與其親生父母的法律聯(lián)系一樣。因此,占有大數(shù)據的經營者不能獨享大數(shù)據權益,至少不能獨享大數(shù)據完整的財產權利,即經營者占有的大數(shù)據應當允許被其他充分考量公眾利益的市場主體所合理獲取和使用。

    如此一來,作為數(shù)據獲取的基本手段,數(shù)據爬取就具備合理合法的基礎。數(shù)據爬取本身是一項中立技術,但加入人的因素后,其功用必然出現(xiàn)分化。一方面,數(shù)據爬取促進了信息共享,提升了信息獲取效率,繼而產生促進競爭的效果。監(jiān)控算法、平行算法的實現(xiàn),也多基于數(shù)據爬取技術,因而,合理的數(shù)據爬取是必要的互聯(lián)網技術手段。限制大數(shù)據合理共享或者以訴訟形式完全阻斷數(shù)據爬取可能是濫用市場支配地位、排除競爭行為的表現(xiàn)。另一方面,強行爬取數(shù)據行為的存在,使得商業(yè)秘密存在被侵犯的風險。平衡兩方面矛盾的有效措施之一,是建立健全有關數(shù)據共享的制度規(guī)則,即以社會整體利益為根本出發(fā)點,以數(shù)據權益享有者利益為平衡點,區(qū)分數(shù)據類別、完善數(shù)據目錄、制定完善數(shù)字經濟下的行業(yè)數(shù)據共享規(guī)則與配套監(jiān)管執(zhí)法舉措。在保障數(shù)據安全的前提下,多維立體構建數(shù)據爬取規(guī)則,搭建起數(shù)據共享生態(tài)圈,促進基礎大數(shù)據共生共享,繼而阻斷算法共謀限制競爭的生態(tài)鏈。

    (四)重視算法共謀規(guī)制成本效益分析法的適用

    借用卡爾多—??怂寡a償原則的視角,可以通過比較運用不規(guī)制算法的經濟效益(UA)和規(guī)制算法壟斷效益(UB)的大小,決定是否對其規(guī)制以及采取何種程度的規(guī)制(用WTP表示用A、B兩種行為的效益差)。

    若WTP2-WTP1>0,即通過效益補償后,仍有剩余,可以執(zhí)行。具體而言,當充分運用算法技術產生的效益高于規(guī)制算法的使用所產生的效益時,若是監(jiān)管者從無監(jiān)管、弱監(jiān)管轉向有監(jiān)管、強監(jiān)管時,社會總體效益呈現(xiàn)損失;當充分運用算法技術產生的效益低于規(guī)制算法使用產生的效益時,若是監(jiān)管者從無監(jiān)管、弱監(jiān)管轉向有監(jiān)管、強監(jiān)管時,社會總體效益將增加。反壟斷執(zhí)法也應堅持比例原則,即堅持適當性、必要性、均衡性三者的統(tǒng)一,綜合考量執(zhí)法行為是否有助于實現(xiàn)社會利益、最小侵害以及上文所闡述的社會效益最大化。

    算法規(guī)制的效益分析表

    作為對可能的算法默示共謀進行規(guī)制的替代手段,消費者算法的運用可以成為削減經營者利用算法實施共謀的風險。既然經營者可能通過使價格過分偏離于價值的方式侵害消費者權益,那么只要有一種算法可以較客觀向消費者展現(xiàn)應然價格,經營者算法共謀作用的余地將會大大被削減,甚至算法共謀的嫌疑也會消失。作為社會主義市場經濟體制的國家,我國有著宏觀調控的優(yōu)勢手段,政府認可的第三方算法服務機構能夠設計出一套服務于消費者、與經營者算法勢均力敵的消費者算法。如此通過市場化的手段,便可解決經營者算法共謀帶來的困擾,從而保持社會整體效益的穩(wěn)步提升。

    (五)加快人工智能相關的立法進程

    當市場化的手段不足以解決現(xiàn)實面臨的困難時,便需要通過設計新規(guī)則,調整新出現(xiàn)的復雜關系。2017年7月,《新一代人工智能發(fā)展規(guī)劃》的公布①關于《新一代人工智能發(fā)展規(guī)劃》的具體內容,參見國發(fā)〔2017〕35號文件,http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm,2020年1月23日。,為我國人工智能的發(fā)展指明了方向,但直至今日,相關立法還未持續(xù)推進。2017年12月,美國國會提出兩黨法案《人工智能未來法案》(Future of Artificial Intelligence Act of 2017),要求重視有關人工智能的倫理研究、數(shù)據和研究的共享與開源、違法的責任認定和國際規(guī)則的適用、偏離核心文化和社會準則的算法歧視等負面后果、對隱私的侵犯以及對消費者的影響等?!?3〕2019年4月,國會通過《算法問責法案》(Algorithmic Ac?countability Act of 2019),授權聯(lián)邦貿易委員會要求有關主體對算法系統(tǒng)進行影響和數(shù)據保護評估,對消費者信息的利用和保護以及監(jiān)管執(zhí)法等作出了相應的規(guī)定。〔24〕作為全球第一大電子商務市場,我國有必要開始著手人工智能立法。在不斷推進人工智能發(fā)展的同時,更應重視規(guī)則的制定和實施,及早確立人工智能發(fā)展的法治化思維,使其成為促進社會經濟蛻變的中堅力量。雖然,目前監(jiān)管部門掌握的問題還不太明朗,針對現(xiàn)狀也很難提出明確的規(guī)制措施,但可以考慮在相關立法和決策機構下,設置由不同部門、不同領域、不同地域的代表組成的專門性研究機構,對人工智能發(fā)展可能帶來的倫理、法律及社會問題進行前瞻性研究,為后續(xù)的法律法規(guī)及相關政策的出臺做好準備,并對大數(shù)據算法決策存在的風險進行評估并制定相關的規(guī)則和制度。研究機構的相關研究成果將為政府決策及后續(xù)的立法工作提供智力支持,為人工智能的創(chuàng)新和發(fā)展創(chuàng)造有利基礎。

    五、結語

    人工智能的發(fā)展、算法技術的精進、大數(shù)據算法決策將會得到更廣泛的應用和發(fā)展,在潛移默化地影響著人們的生活。人工智能技術具有雙面性,為生產生活帶來了極大便利的同時也為法治經濟帶來了巨大的挑戰(zhàn),尤其是給反壟斷帶來了新的問題。要區(qū)分出這些問題是市場能夠自洽的,還是需要外部干預的。對于市場能夠自適自洽的問題,無須通過立法解決;對于需要新規(guī)則介入的,要進行充分利益衡量,不能因噎廢食。

    在當今世界,數(shù)字經濟競爭已拉開帷幕,政府需要對人工智能特別是算法共謀的反壟斷法規(guī)制進行前瞻性思考,開展市場調研,聚焦算法規(guī)則,加強算法歸責問題的研究,遵循“誰決策誰負責”“誰主管誰負責”的原則,在此基礎上確定算法共謀者的相關法律責任。還需結合公眾、社會團體、產業(yè)界、政府機構等可能受人工智能影響群體的權益保護問題,謹慎出臺規(guī)制措施。同時,我國政府可以在成本效益分析的基礎上,運用比例原則,綜合考慮對消費者利益的保護,削弱經營者算法共謀的作用,通過加強市場化手段的實施達到謙抑監(jiān)管的目的,從整體上提升社會效益,實現(xiàn)經濟發(fā)展、市場競爭和消費者保護三者之間的動態(tài)平衡。在此基礎上,借鑒國外相關案例的處理手段和立法經驗,并結合我國相關市場的具體發(fā)展狀況,考慮設置專門性的研究機構,加強人工智能發(fā)展的相關立法研究,為完善算法共謀反壟斷舉措、促進社會的和諧發(fā)展注入活力和動能。

    猜你喜歡
    共謀經營者算法
    明清珠江三角洲基塘區(qū)的田場與經營者
    廣州文博(2023年0期)2023-12-21 07:24:30
    《經營者》征稿啟事
    經營者(2021年12期)2021-07-26 07:20:34
    監(jiān)督中的共謀與縱容
    活力(2019年19期)2020-01-06 07:34:42
    基于MapReduce的改進Eclat算法
    因地制宜惠民生 共謀福祉穩(wěn)發(fā)展
    中華建設(2019年8期)2019-09-25 08:26:02
    Travellng thg World Full—time for Rree
    進位加法的兩種算法
    一種改進的整周模糊度去相關算法
    做一名聰明的集團醫(yī)院經營者
    共謀共同正犯否定論
    政治與法律(2015年5期)2015-03-01 02:21:11
    天堂√8在线中文| 国产亚洲av嫩草精品影院| 国产成人a区在线观看| 亚洲精品久久国产高清桃花| 深夜精品福利| 黄片小视频在线播放| 99久久九九国产精品国产免费| 欧美中文综合在线视频| 老鸭窝网址在线观看| 岛国在线免费视频观看| 波多野结衣高清无吗| 亚洲精品一区av在线观看| www日本黄色视频网| 日韩 欧美 亚洲 中文字幕| 欧美bdsm另类| 神马国产精品三级电影在线观看| 国产亚洲精品久久久久久毛片| av天堂中文字幕网| 三级男女做爰猛烈吃奶摸视频| 999久久久精品免费观看国产| 欧美三级亚洲精品| 午夜福利高清视频| 亚洲精品成人久久久久久| 国产高清视频在线播放一区| 午夜影院日韩av| 国产蜜桃级精品一区二区三区| 国产精品一及| 亚洲av电影在线进入| 亚洲五月天丁香| 18禁裸乳无遮挡免费网站照片| 99在线视频只有这里精品首页| av片东京热男人的天堂| 少妇的丰满在线观看| 久99久视频精品免费| 国产视频内射| 精品无人区乱码1区二区| 欧美日韩福利视频一区二区| 亚洲国产色片| 欧美3d第一页| 国产精品久久电影中文字幕| 亚洲天堂国产精品一区在线| 国产色婷婷99| 91在线观看av| 看黄色毛片网站| 国内精品一区二区在线观看| 亚洲中文字幕一区二区三区有码在线看| 老熟妇仑乱视频hdxx| 日韩精品青青久久久久久| 色噜噜av男人的天堂激情| 欧美午夜高清在线| a级毛片a级免费在线| 久久精品夜夜夜夜夜久久蜜豆| 亚洲国产精品久久男人天堂| 桃色一区二区三区在线观看| 狂野欧美激情性xxxx| 最近最新中文字幕大全电影3| 日日夜夜操网爽| 日韩国内少妇激情av| 香蕉久久夜色| 日日夜夜操网爽| 免费在线观看成人毛片| 美女 人体艺术 gogo| 超碰av人人做人人爽久久 | 国产精品日韩av在线免费观看| 88av欧美| 免费在线观看影片大全网站| 亚洲精品一区av在线观看| 国产精品av视频在线免费观看| 黄色女人牲交| 成年女人永久免费观看视频| 午夜福利在线观看吧| 最后的刺客免费高清国语| 狂野欧美白嫩少妇大欣赏| 法律面前人人平等表现在哪些方面| 成熟少妇高潮喷水视频| 五月伊人婷婷丁香| 国产乱人视频| 精品电影一区二区在线| 欧美三级亚洲精品| 久久精品国产自在天天线| 国产一区二区亚洲精品在线观看| 精品免费久久久久久久清纯| av女优亚洲男人天堂| 亚洲久久久久久中文字幕| 国产高清videossex| 好看av亚洲va欧美ⅴa在| 一区二区三区免费毛片| 日韩人妻高清精品专区| 好男人电影高清在线观看| 草草在线视频免费看| 深夜精品福利| 天天添夜夜摸| 一区二区三区免费毛片| 免费看日本二区| 女人被狂操c到高潮| 高清在线国产一区| 日韩欧美在线乱码| 国产精品1区2区在线观看.| 成人高潮视频无遮挡免费网站| 少妇的逼水好多| 舔av片在线| 国产免费av片在线观看野外av| 久久久久久久久大av| 男女之事视频高清在线观看| 欧美日韩福利视频一区二区| 亚洲人成网站在线播| 黄色丝袜av网址大全| 亚洲无线观看免费| 熟妇人妻久久中文字幕3abv| 看黄色毛片网站| 亚洲一区二区三区色噜噜| 国产午夜精品久久久久久一区二区三区 | 精品久久久久久,| 日韩人妻高清精品专区| 日韩精品青青久久久久久| 欧美av亚洲av综合av国产av| h日本视频在线播放| 啦啦啦韩国在线观看视频| 99国产精品一区二区三区| 波多野结衣巨乳人妻| 欧美3d第一页| 亚洲成a人片在线一区二区| 精品熟女少妇八av免费久了| 尤物成人国产欧美一区二区三区| 波多野结衣巨乳人妻| 变态另类成人亚洲欧美熟女| av天堂在线播放| 精品国产美女av久久久久小说| 日本精品一区二区三区蜜桃| 亚洲七黄色美女视频| 日韩亚洲欧美综合| 亚洲精品乱码久久久v下载方式 | 哪里可以看免费的av片| av在线天堂中文字幕| 久久午夜亚洲精品久久| 亚洲第一欧美日韩一区二区三区| 欧美3d第一页| av专区在线播放| 中文亚洲av片在线观看爽| 欧美在线黄色| 丰满人妻一区二区三区视频av | 可以在线观看的亚洲视频| 成年女人毛片免费观看观看9| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 国产真实乱freesex| 欧美一级毛片孕妇| 天堂网av新在线| 中文字幕高清在线视频| 日韩国内少妇激情av| 亚洲精品亚洲一区二区| 久久99热这里只有精品18| 丰满乱子伦码专区| 国产精品自产拍在线观看55亚洲| 最后的刺客免费高清国语| 亚洲久久久久久中文字幕| 国产精品一区二区免费欧美| 99久久精品一区二区三区| 国产视频一区二区在线看| av欧美777| 最近最新中文字幕大全免费视频| 欧美日韩福利视频一区二区| 国产色婷婷99| 脱女人内裤的视频| 中文字幕久久专区| 在线a可以看的网站| 此物有八面人人有两片| 色综合站精品国产| tocl精华| 天堂网av新在线| 动漫黄色视频在线观看| 午夜免费观看网址| 99在线人妻在线中文字幕| 一个人观看的视频www高清免费观看| tocl精华| 黄色丝袜av网址大全| 免费av不卡在线播放| 97人妻精品一区二区三区麻豆| 色噜噜av男人的天堂激情| 19禁男女啪啪无遮挡网站| 一区二区三区免费毛片| 高清在线国产一区| 天天一区二区日本电影三级| 少妇人妻一区二区三区视频| 国产黄a三级三级三级人| 1024手机看黄色片| 亚洲欧美激情综合另类| 亚洲天堂国产精品一区在线| 精品国产亚洲在线| 97超视频在线观看视频| 丝袜美腿在线中文| 精品无人区乱码1区二区| 免费av观看视频| 欧美日韩黄片免| 2021天堂中文幕一二区在线观| 19禁男女啪啪无遮挡网站| 亚洲欧美日韩高清专用| 国产成人啪精品午夜网站| 搞女人的毛片| 亚洲av成人不卡在线观看播放网| 成人特级黄色片久久久久久久| 少妇丰满av| а√天堂www在线а√下载| 三级毛片av免费| 高清在线国产一区| 黄色成人免费大全| 亚洲自拍偷在线| 18禁美女被吸乳视频| 久久亚洲真实| 校园春色视频在线观看| 日韩大尺度精品在线看网址| 日本成人三级电影网站| 日韩 欧美 亚洲 中文字幕| 最近最新免费中文字幕在线| 久久伊人香网站| 三级男女做爰猛烈吃奶摸视频| 免费av毛片视频| 免费看十八禁软件| 一本精品99久久精品77| av专区在线播放| 悠悠久久av| 国产高清视频在线观看网站| 亚洲最大成人手机在线| 九色国产91popny在线| 成人特级黄色片久久久久久久| 亚洲激情在线av| 啪啪无遮挡十八禁网站| 少妇的丰满在线观看| 特级一级黄色大片| 国产乱人视频| 亚洲熟妇熟女久久| 麻豆成人午夜福利视频| 欧美一级a爱片免费观看看| 99久久久亚洲精品蜜臀av| 国产亚洲欧美在线一区二区| 桃红色精品国产亚洲av| 精品人妻一区二区三区麻豆 | 少妇熟女aⅴ在线视频| 男女做爰动态图高潮gif福利片| 欧美黑人巨大hd| www国产在线视频色| 久久精品亚洲精品国产色婷小说| 99久久久亚洲精品蜜臀av| 丰满乱子伦码专区| 又爽又黄无遮挡网站| 免费av不卡在线播放| 亚洲国产欧洲综合997久久,| 精品一区二区三区视频在线 | 国产精品三级大全| 热99re8久久精品国产| 国产高清三级在线| 1000部很黄的大片| av在线天堂中文字幕| 欧美一级毛片孕妇| 欧美日韩瑟瑟在线播放| 日韩成人在线观看一区二区三区| 母亲3免费完整高清在线观看| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 久久伊人香网站| 国产一区二区三区视频了| 天堂√8在线中文| 给我免费播放毛片高清在线观看| 亚洲欧美日韩高清在线视频| 老司机深夜福利视频在线观看| 18禁黄网站禁片免费观看直播| 免费大片18禁| 一卡2卡三卡四卡精品乱码亚洲| 国产视频一区二区在线看| 99精品欧美一区二区三区四区| 男插女下体视频免费在线播放| 成人欧美大片| 女人高潮潮喷娇喘18禁视频| 午夜亚洲福利在线播放| 精品人妻一区二区三区麻豆 | 中文亚洲av片在线观看爽| 精品国产美女av久久久久小说| 久久性视频一级片| 国产 一区 欧美 日韩| 熟女电影av网| 午夜a级毛片| 最近最新免费中文字幕在线| 国产高清三级在线| 国产高潮美女av| 亚洲国产欧美人成| 日本黄色视频三级网站网址| 91久久精品电影网| 亚洲狠狠婷婷综合久久图片| 最新在线观看一区二区三区| h日本视频在线播放| 中文字幕人妻丝袜一区二区| 可以在线观看的亚洲视频| 亚洲成av人片在线播放无| 欧美又色又爽又黄视频| 亚洲欧美日韩卡通动漫| 日本在线视频免费播放| 每晚都被弄得嗷嗷叫到高潮| 亚洲国产欧美人成| 欧美极品一区二区三区四区| 又黄又爽又免费观看的视频| 精品乱码久久久久久99久播| 麻豆国产av国片精品| 欧美+日韩+精品| 一区福利在线观看| 嫩草影院入口| 夜夜躁狠狠躁天天躁| 国产爱豆传媒在线观看| 免费看美女性在线毛片视频| 精品99又大又爽又粗少妇毛片 | 午夜激情欧美在线| 婷婷亚洲欧美| 欧美午夜高清在线| 精品欧美国产一区二区三| 亚洲无线观看免费| 国产91精品成人一区二区三区| 99riav亚洲国产免费| 欧美最黄视频在线播放免费| ponron亚洲| 欧美zozozo另类| 看免费av毛片| 午夜福利欧美成人| 日韩高清综合在线| 精品一区二区三区av网在线观看| 午夜福利在线在线| 亚洲国产精品成人综合色| 国产在视频线在精品| 成人av一区二区三区在线看| 国产蜜桃级精品一区二区三区| 日韩亚洲欧美综合| 欧美日韩国产亚洲二区| 日韩人妻高清精品专区| 日韩av在线大香蕉| 最近最新中文字幕大全电影3| 亚洲av成人不卡在线观看播放网| 精品久久久久久久末码| 麻豆一二三区av精品| 国产主播在线观看一区二区| tocl精华| 免费看光身美女| 天堂√8在线中文| 成年女人毛片免费观看观看9| 国产精品亚洲美女久久久| 日本 av在线| 成人性生交大片免费视频hd| 两性午夜刺激爽爽歪歪视频在线观看| 免费av毛片视频| xxxwww97欧美| 手机成人av网站| 麻豆国产97在线/欧美| 久久草成人影院| 成人特级黄色片久久久久久久| 乱人视频在线观看| 美女高潮的动态| 精品国产亚洲在线| 日本免费a在线| 国产成人a区在线观看| 女人高潮潮喷娇喘18禁视频| 久久久久九九精品影院| 99精品在免费线老司机午夜| 国产真实伦视频高清在线观看 | 不卡一级毛片| 叶爱在线成人免费视频播放| 亚洲成a人片在线一区二区| 18+在线观看网站| av欧美777| 欧美乱妇无乱码| 中文资源天堂在线| 日本五十路高清| 九九热线精品视视频播放| 亚洲第一欧美日韩一区二区三区| 波多野结衣巨乳人妻| 亚洲真实伦在线观看| 男人的好看免费观看在线视频| 怎么达到女性高潮| 搡老岳熟女国产| av女优亚洲男人天堂| 搞女人的毛片| АⅤ资源中文在线天堂| 亚洲av不卡在线观看| 九九在线视频观看精品| 天美传媒精品一区二区| 可以在线观看毛片的网站| 一区福利在线观看| 国产中年淑女户外野战色| 99视频精品全部免费 在线| 久久久久久久久大av| 最新在线观看一区二区三区| 全区人妻精品视频| 九色成人免费人妻av| 成人18禁在线播放| 人人妻,人人澡人人爽秒播| 一边摸一边抽搐一进一小说| 国产亚洲精品av在线| 亚洲美女视频黄频| 午夜激情福利司机影院| 在线天堂最新版资源| 久久久久久大精品| 中出人妻视频一区二区| 人妻夜夜爽99麻豆av| 少妇裸体淫交视频免费看高清| 国产在视频线在精品| 亚洲精品一区av在线观看| 久久午夜亚洲精品久久| 99久久九九国产精品国产免费| 欧美性猛交黑人性爽| 黑人欧美特级aaaaaa片| 欧美在线黄色| 久久九九热精品免费| 成人高潮视频无遮挡免费网站| 99精品欧美一区二区三区四区| 欧美另类亚洲清纯唯美| 熟女电影av网| 欧美日韩乱码在线| 丁香六月欧美| 91麻豆精品激情在线观看国产| 欧美一级毛片孕妇| 午夜福利高清视频| 少妇裸体淫交视频免费看高清| 精品人妻一区二区三区麻豆 | 亚洲真实伦在线观看| 久久久国产成人免费| 国产老妇女一区| 在线观看美女被高潮喷水网站 | 成熟少妇高潮喷水视频| 国产爱豆传媒在线观看| 欧美成人性av电影在线观看| 国产精品 欧美亚洲| 神马国产精品三级电影在线观看| 观看免费一级毛片| 怎么达到女性高潮| 久久精品夜夜夜夜夜久久蜜豆| 1024手机看黄色片| 久久国产精品影院| 性色av乱码一区二区三区2| 国产精品电影一区二区三区| 在线观看一区二区三区| 色视频www国产| 老熟妇仑乱视频hdxx| 黄片大片在线免费观看| 老司机在亚洲福利影院| 欧美性感艳星| 午夜视频国产福利| 97人妻精品一区二区三区麻豆| 女警被强在线播放| 久久香蕉精品热| 欧美黑人巨大hd| 香蕉久久夜色| 欧美黑人欧美精品刺激| 一卡2卡三卡四卡精品乱码亚洲| 人人妻人人澡欧美一区二区| 美女cb高潮喷水在线观看| 亚洲一区二区三区不卡视频| 99精品欧美一区二区三区四区| 国产av一区在线观看免费| 精华霜和精华液先用哪个| 在线观看日韩欧美| 亚洲专区国产一区二区| 18禁美女被吸乳视频| 无限看片的www在线观看| 亚洲熟妇中文字幕五十中出| 亚洲久久久久久中文字幕| 在线免费观看不下载黄p国产 | 亚洲精品成人久久久久久| 热99re8久久精品国产| 757午夜福利合集在线观看| 久久精品夜夜夜夜夜久久蜜豆| 欧美3d第一页| 男人舔奶头视频| 好男人在线观看高清免费视频| 国产午夜福利久久久久久| 欧美在线一区亚洲| 在线观看舔阴道视频| 免费高清视频大片| 黑人欧美特级aaaaaa片| 日韩欧美一区二区三区在线观看| 熟女少妇亚洲综合色aaa.| 色在线成人网| 国产视频内射| 精品一区二区三区人妻视频| 最后的刺客免费高清国语| 全区人妻精品视频| 国模一区二区三区四区视频| 一个人看的www免费观看视频| 两个人视频免费观看高清| 一本综合久久免费| 午夜福利免费观看在线| 最近最新中文字幕大全电影3| 国产精品久久久久久精品电影| 国产视频内射| 日韩精品青青久久久久久| 亚洲成人久久爱视频| 精品一区二区三区视频在线观看免费| 18美女黄网站色大片免费观看| 老司机在亚洲福利影院| 免费搜索国产男女视频| 国产精品乱码一区二三区的特点| 在线观看美女被高潮喷水网站 | 精品久久久久久久久久免费视频| 欧美午夜高清在线| 国产综合懂色| 国产成年人精品一区二区| 精品久久久久久久久久免费视频| 岛国视频午夜一区免费看| 天堂网av新在线| 天堂√8在线中文| 国产欧美日韩精品一区二区| 国产精品久久久人人做人人爽| 成人18禁在线播放| 国产91精品成人一区二区三区| 天堂影院成人在线观看| 国产91精品成人一区二区三区| 日韩欧美国产在线观看| 在线观看一区二区三区| 一卡2卡三卡四卡精品乱码亚洲| 精品国产三级普通话版| 亚洲男人的天堂狠狠| 久久欧美精品欧美久久欧美| 很黄的视频免费| 日本五十路高清| 国产精品亚洲av一区麻豆| 亚洲精品日韩av片在线观看 | 欧美日韩瑟瑟在线播放| 天天躁日日操中文字幕| 在线a可以看的网站| 午夜福利视频1000在线观看| 国产精品久久久久久久电影 | 亚洲精品在线美女| 欧美黑人巨大hd| 国产视频一区二区在线看| 午夜免费激情av| 国内精品美女久久久久久| 国产真实乱freesex| av天堂在线播放| 少妇的丰满在线观看| 亚洲成人中文字幕在线播放| 欧美日韩亚洲国产一区二区在线观看| 亚洲精品成人久久久久久| 亚洲av电影不卡..在线观看| 久久亚洲精品不卡| 亚洲国产中文字幕在线视频| 九九久久精品国产亚洲av麻豆| 国产色爽女视频免费观看| 十八禁网站免费在线| 欧美一级a爱片免费观看看| 久久久久久国产a免费观看| 香蕉久久夜色| 国产高清有码在线观看视频| 成人高潮视频无遮挡免费网站| 啪啪无遮挡十八禁网站| 在线观看66精品国产| 18禁美女被吸乳视频| 免费无遮挡裸体视频| 久久久久国内视频| 精品一区二区三区人妻视频| 操出白浆在线播放| 国产野战对白在线观看| 夜夜夜夜夜久久久久| 日韩欧美精品v在线| 亚洲人成网站在线播| 香蕉av资源在线| 午夜精品一区二区三区免费看| 19禁男女啪啪无遮挡网站| 91九色精品人成在线观看| 岛国在线免费视频观看| 一级黄色大片毛片| 欧美色视频一区免费| 在线观看av片永久免费下载| 欧美日韩福利视频一区二区| 亚洲精品在线观看二区| 久久精品国产99精品国产亚洲性色| 九九在线视频观看精品| 一本久久中文字幕| 99久久久亚洲精品蜜臀av| x7x7x7水蜜桃| 国产av在哪里看| 亚洲av不卡在线观看| 美女黄网站色视频| 免费一级毛片在线播放高清视频| 国产精品女同一区二区软件 | 久久久国产成人免费| 亚洲精品在线观看二区| 熟女少妇亚洲综合色aaa.| 亚洲av美国av| 色综合婷婷激情| 丝袜美腿在线中文| 女同久久另类99精品国产91| 亚洲五月婷婷丁香| 欧美+亚洲+日韩+国产| 99久国产av精品| 99热只有精品国产| 人人妻人人看人人澡| 亚洲国产精品成人综合色| 欧美三级亚洲精品| 国内精品久久久久久久电影| 3wmmmm亚洲av在线观看| 国产麻豆成人av免费视频| av国产免费在线观看| 真实男女啪啪啪动态图| 亚洲av日韩精品久久久久久密| 亚洲国产日韩欧美精品在线观看 | 国产亚洲精品一区二区www| 嫩草影院入口| 老熟妇仑乱视频hdxx| 又爽又黄无遮挡网站| 国产精品久久久久久精品电影| 99精品在免费线老司机午夜| 天美传媒精品一区二区| 熟女电影av网| 很黄的视频免费| 国产精品av视频在线免费观看| 两个人看的免费小视频| 琪琪午夜伦伦电影理论片6080| 伊人久久精品亚洲午夜| 国产亚洲精品久久久com| 神马国产精品三级电影在线观看| 精品日产1卡2卡| 十八禁网站免费在线|