• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    從二元到三角:網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)重構(gòu)及其對(duì)規(guī)制路徑的影響

    2020-04-12 07:46:26
    廣西社會(huì)科學(xué) 2020年5期
    關(guān)鍵詞:網(wǎng)絡(luò)空間規(guī)制權(quán)力

    (中國(guó)傳媒大學(xué) 法律系,北京 100024)

    計(jì)算機(jī)及網(wǎng)絡(luò)的發(fā)明、普及以及應(yīng)用被稱為人類歷史上的第五次信息技術(shù)革命。網(wǎng)絡(luò)平臺(tái)“私權(quán)力”的崛起使得網(wǎng)絡(luò)空間由原來(lái)的“公權(quán)力-私權(quán)利”的二元結(jié)構(gòu)轉(zhuǎn)變成“公權(quán)力-私權(quán)力-私權(quán)利”的三角結(jié)構(gòu)。平臺(tái)“私權(quán)力”由此成為網(wǎng)絡(luò)治理的中心,如何合理利用其規(guī)制優(yōu)勢(shì)并盡量避免其規(guī)制的弊端成為新權(quán)力結(jié)構(gòu)下規(guī)制路徑選擇的基本出發(fā)點(diǎn)。

    一、從二元到三角:網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)的重構(gòu)

    網(wǎng)絡(luò)信息技術(shù)自20世紀(jì)80年代由軍用轉(zhuǎn)為民用以來(lái),不斷更新著人類社會(huì)的生產(chǎn)方式與生活方式。迄今,互聯(lián)網(wǎng)的發(fā)展已經(jīng)歷了web1.0的門戶網(wǎng)站時(shí)代,web2.0的社交媒體時(shí)代,并即將進(jìn)入web3.0的萬(wàn)物互聯(lián)時(shí)代。web2.0的互動(dòng)技術(shù)與移動(dòng)互聯(lián)網(wǎng)的碰撞與結(jié)合,不斷催生出一類新的經(jīng)濟(jì)形式(商業(yè)模式)——平臺(tái)經(jīng)濟(jì)。平臺(tái)本身并不生產(chǎn)內(nèi)容或不以生產(chǎn)內(nèi)容為主業(yè),平臺(tái)的主要功能是為各類信息和服務(wù)提供線上互動(dòng)交流的機(jī)會(huì)和渠道,是連接供給方和需求方的中間媒介(intermediary)①國(guó)外學(xué)界通常將國(guó)內(nèi)所稱的網(wǎng)絡(luò)平臺(tái)稱作“網(wǎng)絡(luò)中介”(internet intermediary)。。目前,平臺(tái)型企業(yè)已經(jīng)成為互聯(lián)網(wǎng)行業(yè)中的主流,占據(jù)著從搜索引擎到社交媒體、電子商務(wù)、金融支付,再到交通出行、訂餐團(tuán)購(gòu)等互聯(lián)網(wǎng)應(yīng)用的各個(gè)領(lǐng)域。面對(duì)即將到來(lái)的web3.0時(shí)代,已有平臺(tái)企業(yè)正不遺余力通過(guò)將其獲得的海量數(shù)據(jù)轉(zhuǎn)變?yōu)樾碌哪芰縼?lái)源,試圖繼續(xù)鞏固其平臺(tái)地位,擴(kuò)大平臺(tái)規(guī)模。

    平臺(tái)經(jīng)濟(jì)具有自然壟斷的特點(diǎn)②自然壟斷的存在未必會(huì)對(duì)網(wǎng)絡(luò)用戶的利益產(chǎn)生損害,相反,越是統(tǒng)一的網(wǎng)絡(luò)基礎(chǔ)應(yīng)用平臺(tái)越能給網(wǎng)絡(luò)用戶帶來(lái)便利的網(wǎng)絡(luò)應(yīng)用服務(wù)體驗(yàn)。參見(jiàn)周輝《技術(shù)、平臺(tái)與信息:網(wǎng)絡(luò)空間中私權(quán)力的崛起》,載《網(wǎng)絡(luò)信息法學(xué)研究》,2017年第2期。,可以較低的成本迅速聚集起大量用戶,從而不斷塑造出互聯(lián)網(wǎng)領(lǐng)域的巨無(wú)霸企業(yè)。正如有學(xué)者觀察到的,互聯(lián)網(wǎng)行業(yè)中“存在著一種新型的寡頭競(jìng)爭(zhēng)現(xiàn)象:少數(shù)幾個(gè)企業(yè)占據(jù)了絕大部分的市場(chǎng)份額,而且往往其中最大的企業(yè)會(huì)占據(jù)半數(shù)以上的市場(chǎng)份額,超過(guò)第二、第三的企業(yè)數(shù)倍”[1]。如美國(guó)的FAMGA(臉書、蘋果、微軟、谷歌、亞馬遜)和中國(guó)的BAT(百度、阿里、騰訊)就是其中的代表。正是憑借所積累的大量資源與財(cái)富,超級(jí)平臺(tái)在國(guó)家諸多領(lǐng)域中的地位都舉足輕重,“其中許多公司在財(cái)富和權(quán)力方面讓世界上多數(shù)國(guó)家相形見(jiàn)絀”[2]。

    超級(jí)平臺(tái)正在成為一種網(wǎng)絡(luò)空間結(jié)構(gòu)中的新權(quán)力——“私權(quán)力”①國(guó)內(nèi)學(xué)者周輝對(duì)網(wǎng)絡(luò)空間中的“私權(quán)力”現(xiàn)象作了比較詳盡的闡述,具體參見(jiàn)周輝《變革與選擇:私權(quán)力視角下的網(wǎng)絡(luò)治理》,北京大學(xué)出版社2016版。。權(quán)力的本質(zhì)是“支配”,即一方影響和支配另一方的能力,如馬克斯·韋伯所言:“權(quán)力意味著在一定社會(huì)關(guān)系里哪怕是遇到反對(duì)也能貫徹自己意志的任何機(jī)會(huì),不管這種機(jī)會(huì)是建立在什么基礎(chǔ)之上的”[3]。從這個(gè)意義上說(shuō),權(quán)力并非為國(guó)家這種正式的政治體所獨(dú)享,社會(huì)生活中處處表現(xiàn)出權(quán)力關(guān)系。平臺(tái)的“私權(quán)力”主要是指網(wǎng)絡(luò)平臺(tái)經(jīng)營(yíng)者對(duì)其平臺(tái)上提供商品或服務(wù)的一般經(jīng)營(yíng)者以及用戶進(jìn)行影響與支配的能力。除了如同傳統(tǒng)企業(yè)一樣擁有經(jīng)濟(jì)資源、市場(chǎng)地位這些優(yōu)勢(shì)外,網(wǎng)絡(luò)巨頭還具有新的權(quán)力基礎(chǔ),這就是技術(shù)、信息和平臺(tái)。技術(shù)的優(yōu)勢(shì)以平臺(tái)對(duì)代碼的控制為代表,控制了代碼就控制了用戶的網(wǎng)絡(luò)應(yīng)用行為[4]。同時(shí),平臺(tái)還掌握著海量“信息”和“數(shù)據(jù)”,網(wǎng)絡(luò)空間信息資源的鴻溝使得強(qiáng)勢(shì)的一方具備了影響弱勢(shì)一方的能力[5]。

    不但如此,人工智能時(shí)代的到來(lái),平臺(tái)企業(yè)還依靠所獲得的大數(shù)據(jù)及智能算法重構(gòu)著人們的生活方式甚至是整個(gè)社會(huì)結(jié)構(gòu)。平臺(tái)通過(guò)算法分配著重要的社會(huì)資源、機(jī)會(huì)與權(quán)力,決定著誰(shuí)可以被雇傭,誰(shuí)可以獲得貸款,一個(gè)人可以接觸到什么樣的信息,住什么地方,和什么人相處,接受什么樣的教育,獲得什么樣的福利或懲罰等,這些都是私權(quán)力的新體現(xiàn)②如淘寶制定有《營(yíng)銷活動(dòng)規(guī)范》《行業(yè)管理規(guī)范》等各種非常詳細(xì)的交易與行為規(guī)范;騰訊微信制定有《微信公眾平臺(tái)服務(wù)協(xié)議》《微信公眾平臺(tái)運(yùn)營(yíng)規(guī)范》等各種平臺(tái)規(guī)范。。

    網(wǎng)絡(luò)“私權(quán)力”的崛起重構(gòu)了網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu),使得網(wǎng)絡(luò)空間由原來(lái)的“公權(quán)力-私權(quán)利”的二元結(jié)構(gòu)轉(zhuǎn)變成“公權(quán)力-私權(quán)力-私權(quán)利”的三角結(jié)構(gòu)。近代政治與法律體系建立起“公權(quán)力-私權(quán)利”的兩分法,政府憑借憲法與法律的授權(quán)成為公權(quán)力主體,私人則是權(quán)利主體,政府的職責(zé)就是通過(guò)行使權(quán)力提供秩序、福利等公共服務(wù)保證廣大私人主體權(quán)利的實(shí)現(xiàn)。傳統(tǒng)的網(wǎng)絡(luò)空間權(quán)力關(guān)系也是典型的二元關(guān)系,無(wú)論是網(wǎng)絡(luò)服務(wù)提供者還是企業(yè)、用戶都屬于平等的私主體,擁有公權(quán)力的政府及執(zhí)法部門,對(duì)網(wǎng)絡(luò)空間中的違法犯罪行為與有害內(nèi)容進(jìn)行監(jiān)督與管理,保護(hù)網(wǎng)絡(luò)空間中私主體的各項(xiàng)權(quán)利。但網(wǎng)絡(luò)平臺(tái)私權(quán)力的崛起打破了這一二元結(jié)構(gòu),使之轉(zhuǎn)變?yōu)椤肮珯?quán)力-私權(quán)力-私權(quán)利”的三角結(jié)構(gòu)。如上所述,網(wǎng)絡(luò)平臺(tái)憑借對(duì)技術(shù)、信息和資源的掌握,取得了相對(duì)于網(wǎng)絡(luò)用戶的優(yōu)勢(shì)地位,成為一種新的權(quán)力形式,擁有支配和影響平臺(tái)用戶的巨大能力,并以與用戶簽訂契約的方式使其支配權(quán)力得以正當(dāng)化。因此,對(duì)平臺(tái)上的普通經(jīng)營(yíng)者以及廣大用戶來(lái)說(shuō),不僅政府在進(jìn)行支配與控制,平臺(tái)這一私主體也在行使控制權(quán)(圖1)。

    圖1 從“二元”到“三角”的網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)

    二、網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)的重構(gòu)對(duì)網(wǎng)絡(luò)規(guī)制的影響

    如前所述,在“公權(quán)力-私權(quán)利”二元網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)之下,政府主導(dǎo)網(wǎng)絡(luò)規(guī)制。當(dāng)平臺(tái)經(jīng)濟(jì)的崛起推動(dòng)網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)轉(zhuǎn)變?yōu)椤肮珯?quán)力-私權(quán)力-私權(quán)利”的三角結(jié)構(gòu)之后,私權(quán)力主體加入規(guī)制中來(lái),并開(kāi)始在網(wǎng)絡(luò)規(guī)制中占據(jù)主導(dǎo)地位。平臺(tái)主導(dǎo)網(wǎng)絡(luò)規(guī)制既有許多優(yōu)勢(shì),也存在一些弊端。

    (一)平臺(tái)主導(dǎo)網(wǎng)絡(luò)規(guī)制的體現(xiàn)

    首先,平臺(tái)通過(guò)制定、實(shí)施平臺(tái)規(guī)范以及基于規(guī)范進(jìn)行糾紛裁決等主導(dǎo)著網(wǎng)絡(luò)規(guī)制。目前,平臺(tái)已經(jīng)制定了大量交易規(guī)則與行為規(guī)范②,并通過(guò)簽訂用戶協(xié)議的方式將這些規(guī)范或規(guī)則施加給用戶。平臺(tái)制定的規(guī)范、規(guī)則數(shù)量之多、內(nèi)容之詳盡、結(jié)構(gòu)之完整,在某種程度上可類比國(guó)家“立法”文件,而平臺(tái)似在行使一種“準(zhǔn)立法權(quán)”。進(jìn)而,平臺(tái)依據(jù)這些規(guī)范對(duì)平臺(tái)內(nèi)容進(jìn)行審查,對(duì)平臺(tái)行為進(jìn)行管理,并對(duì)違反者施以信息刪除、封禁賬號(hào)、降級(jí)、功能限制、停止服務(wù)等各種處罰,行使著某種“準(zhǔn)執(zhí)法權(quán)”。不僅如此,這些平臺(tái)還根據(jù)這些規(guī)范、準(zhǔn)則調(diào)解與裁決著平臺(tái)經(jīng)營(yíng)者與用戶,以及用戶與用戶之間的大量糾紛,行使著某種“準(zhǔn)司法權(quán)”。

    其次,即使是公權(quán)力的行使也常常需要借助于私權(quán)力才能得以實(shí)現(xiàn)。政府如果對(duì)平臺(tái)用戶進(jìn)行執(zhí)法,也需要網(wǎng)絡(luò)平臺(tái)服務(wù)商提供信息或技術(shù)方面的協(xié)助。比如,侵權(quán)案件中,需要平臺(tái)協(xié)助調(diào)取當(dāng)事人的個(gè)人信息或營(yíng)業(yè)信息;網(wǎng)絡(luò)犯罪偵查中,需要平臺(tái)協(xié)助提供犯罪線索以及固定與提取犯罪證據(jù)。實(shí)際上,我國(guó)的網(wǎng)絡(luò)安全法以及反恐怖主義法都已經(jīng)非常明確地規(guī)定了網(wǎng)絡(luò)運(yùn)營(yíng)者的執(zhí)法協(xié)助義務(wù)①見(jiàn)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第二十八條規(guī)定,“網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)為公安機(jī)關(guān)、國(guó)家安全機(jī)關(guān)依法維護(hù)國(guó)家安全和偵查犯罪的活動(dòng)提供技術(shù)支持和協(xié)助”;《反恐怖主義法》第十八條規(guī)定,“電信業(yè)務(wù)經(jīng)營(yíng)者、互聯(lián)網(wǎng)服務(wù)提供者應(yīng)當(dāng)為公安機(jī)關(guān)、國(guó)家安全機(jī)關(guān)依法進(jìn)行防范、調(diào)查恐怖活動(dòng)提供技術(shù)接口和解密等技術(shù)支持和協(xié)助”。,其他國(guó)家也都有類似規(guī)定。

    早在1999年,賴斯格教授在其《代碼:塑造網(wǎng)絡(luò)空間的法律》一書中就敏銳地觀察到,在網(wǎng)絡(luò)空間中“代碼即法律”,并指出,“在數(shù)字時(shí)代,通過(guò)改變技術(shù)或代碼可能實(shí)現(xiàn)比單純依靠法律更好的規(guī)制效果”[6]。這一精辟論斷完全適用于描述目前網(wǎng)絡(luò)平臺(tái)對(duì)網(wǎng)絡(luò)空間的規(guī)制狀況。平臺(tái)在網(wǎng)絡(luò)空間占據(jù)主導(dǎo)性的規(guī)制地位已被越來(lái)越多的人認(rèn)識(shí)到。Kate Klonick在2018年撰寫的一篇文章中稱這些平臺(tái)企業(yè)是“新規(guī)制者”(new governor),其地位不同于市政公司,也不同于報(bào)紙、廣播和電視等任何傳媒類型,而是一種可以重塑社會(huì)結(jié)構(gòu)的新型規(guī)制者[7]。

    (二)私權(quán)力參與網(wǎng)絡(luò)規(guī)制的優(yōu)勢(shì)

    首先,平臺(tái)掌握著網(wǎng)絡(luò)治理所需要的信息與資源,并擁有接近治理對(duì)象的優(yōu)勢(shì)。平臺(tái)所掌握的資源與信息既是權(quán)力的來(lái)源,也是治理的資源。相對(duì)于政府行動(dòng)滯后而言,平臺(tái)可以第一時(shí)間監(jiān)測(cè)到正在發(fā)生的事情,并立即采取行動(dòng),還可根據(jù)所掌握的信息對(duì)未來(lái)的行動(dòng)進(jìn)行預(yù)測(cè)與預(yù)防。

    其次,平臺(tái)掌握著網(wǎng)絡(luò)治理所需要的專業(yè)與技術(shù)。平臺(tái)企業(yè)門類眾多,信息及服務(wù)類型各異,每個(gè)平臺(tái)都具有一定的專業(yè)性。因而,平臺(tái)對(duì)問(wèn)題何在以及如何處理把握更加準(zhǔn)確,其治理手段也更具有針對(duì)性。同時(shí),互聯(lián)網(wǎng)信息的海量、瞬時(shí)、互動(dòng)等傳播特點(diǎn)決定了網(wǎng)絡(luò)治理更多依賴的是技術(shù),而不是人工。而這些技術(shù)大多掌握在互聯(lián)網(wǎng)公司手里。

    再次,平臺(tái)自治還可克服國(guó)家主權(quán)管轄方面的限制。去中心、超國(guó)界是網(wǎng)絡(luò)信息傳播的一大特點(diǎn),無(wú)論是經(jīng)營(yíng)者還是用戶都可以分布、散落在世界的不同角落。目前,很多大的平臺(tái)企業(yè)早已成為全球性的公司,其經(jīng)營(yíng)范圍常常覆蓋十幾個(gè)、幾十個(gè),甚至上百個(gè)國(guó)家,因此可以利用服務(wù)協(xié)議、社區(qū)守則在全球范圍內(nèi)對(duì)平臺(tái)內(nèi)容實(shí)施規(guī)制。

    概言之,憑借所掌握的信息、專業(yè)、技術(shù)等資源,私人治理具有公權(quán)力不可比擬的優(yōu)勢(shì)。因此,相對(duì)于政府的硬法規(guī)制,企業(yè)的“軟法規(guī)制”正在顯示出其強(qiáng)勁的規(guī)制能力。正如馬長(zhǎng)山教授所指出的,互聯(lián)網(wǎng)時(shí)代爆發(fā)了“軟法革命”,自律規(guī)范從填補(bǔ)性角色升級(jí)為建構(gòu)性角色[8]。趙鵬教授也指出,在共享經(jīng)濟(jì)中,互聯(lián)網(wǎng)企業(yè)的自我規(guī)制體系展現(xiàn)出替代傳統(tǒng)法律和政府規(guī)制的潛力[9]。

    其實(shí),私主體通過(guò)自律規(guī)范承擔(dān)社會(huì)責(zé)任也存在一定的動(dòng)力。這一方面是出于對(duì)政府壓力的回應(yīng),若不能有效治理,國(guó)家便會(huì)介入;但另一方面,自治也是企業(yè)內(nèi)生性的要求。打造良好的平臺(tái)秩序,可以吸引更多優(yōu)質(zhì)用戶入駐平臺(tái),這也符合企業(yè)的經(jīng)濟(jì)利益和長(zhǎng)遠(yuǎn)發(fā)展。因此,在一定程度上,私人利益與公共利益是一致和重合的?;诖?,有學(xué)者提出,企業(yè)越來(lái)越成為“社會(huì)部門”,承擔(dān)某種準(zhǔn)公共職能,在某種程度上是“縮小了的國(guó)家”[10]。

    (三)私權(quán)力參與網(wǎng)絡(luò)治理的弊端

    任何權(quán)力的行使都存在權(quán)力濫用的風(fēng)險(xiǎn)。平臺(tái)是以逐利為目的的商業(yè)機(jī)構(gòu),利益最大化是其核心追求,其私權(quán)力的行使可能起到保護(hù)公共利益的結(jié)果,也可能相反。實(shí)際上,網(wǎng)絡(luò)巨頭的私權(quán)力已經(jīng)在一定程度上危害到公共利益的實(shí)現(xiàn)。比如,以逐利為目的的企業(yè)可能罔顧社會(huì)道德,推行吸引眼球、迎合部分受眾的色情和暴力內(nèi)容,損害青少年的身心健康;再如,搜索引擎通過(guò)算法將搜索結(jié)果更多指向付費(fèi)的商業(yè)性內(nèi)容,以及與自己利益相關(guān)的戰(zhàn)略伙伴的信息,因而影響到消費(fèi)者選擇多樣性的缺失,甚至造成誤導(dǎo)消費(fèi)者的嚴(yán)重后果。

    除此之外,網(wǎng)絡(luò)私權(quán)力的審查可能會(huì)對(duì)用戶的基本權(quán)利比如隱私權(quán)、表達(dá)權(quán)造成不當(dāng)?shù)母深A(yù)與損害。在隱私權(quán)的侵犯方面,平臺(tái)借助其優(yōu)勢(shì)地位過(guò)度收集與使用用戶數(shù)據(jù)一直都是一個(gè)難以解決的問(wèn)題。實(shí)際上,由于平臺(tái)私權(quán)力與用戶的私權(quán)利屬于不對(duì)稱結(jié)構(gòu),用戶處于弱勢(shì)。所謂數(shù)據(jù)使用的“知情同意原則”導(dǎo)致的結(jié)果是,用戶對(duì)平臺(tái)收集數(shù)據(jù)的請(qǐng)求只能是“或者接受或者離開(kāi)”。在表達(dá)權(quán)的方面,平臺(tái)公布的內(nèi)容規(guī)范寬泛而模糊,而平臺(tái)的審核機(jī)制則幾乎是一個(gè)黑箱,無(wú)論是機(jī)器審核還是人工審核,都存在不透明以及過(guò)度限制表達(dá)權(quán)的情況[11]。不僅如此,一些有價(jià)值偏好的媒體還會(huì)利用算法機(jī)制篩選掉不喜歡的信息,專門呈現(xiàn)自己偏好的觀點(diǎn)。比如,2016年5月,F(xiàn)acebook前員工爆料該平臺(tái)趨勢(shì)話題(Trending Topics)常規(guī)性壓制美國(guó)右翼保守派的報(bào)道,甚至有些話題被人為“注入”話題框架[12]。再比如,2016年6月,谷歌被爆料操縱搜索結(jié)果,有意隱藏希拉里的負(fù)面信息,為民主黨助選[13]。

    三、網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)重構(gòu)背景下網(wǎng)絡(luò)規(guī)制路徑的選擇

    (一)二元網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)下的規(guī)制路徑

    在互聯(lián)網(wǎng)發(fā)展的早期,即當(dāng)網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)為二元關(guān)系的時(shí)期,各國(guó)主要采用兩大規(guī)制模式:政府法定規(guī)制和行業(yè)自律。政府法定規(guī)制是指政府和執(zhí)法機(jī)構(gòu)依據(jù)法律直接監(jiān)管網(wǎng)絡(luò)違法犯罪內(nèi)容。行業(yè)自律是指由互聯(lián)網(wǎng)行業(yè)對(duì)自身進(jìn)行規(guī)制。中國(guó)、德國(guó)、法國(guó)、新加坡等國(guó)家主要采用的是政府法定規(guī)制模式,強(qiáng)調(diào)政府部門直接監(jiān)管網(wǎng)絡(luò)內(nèi)容。英國(guó)和美國(guó)等國(guó)家則主要依靠行業(yè)自律進(jìn)行規(guī)制。其中,英國(guó)以“互聯(lián)網(wǎng)觀察基金會(huì)”(IWF)為代表的行業(yè)自律機(jī)制在規(guī)制網(wǎng)絡(luò)有害內(nèi)容方面效果顯著。在美國(guó),“娛樂(lè)軟件分級(jí)委員會(huì)”(ESRB)主要通過(guò)對(duì)游戲和其他娛樂(lè)軟件以分級(jí)的方式進(jìn)行行業(yè)自律。

    而對(duì)于網(wǎng)絡(luò)服務(wù)提供商,在互聯(lián)網(wǎng)的早期發(fā)展階段,世界各國(guó)紛紛采取了“輕監(jiān)管”政策。如美國(guó)1996年《通訊端莊法》的第230條款規(guī)定了對(duì)網(wǎng)絡(luò)服務(wù)提供者的雙重免責(zé),一方面,對(duì)于非由自己制作和編輯的內(nèi)容,網(wǎng)絡(luò)服務(wù)提供者無(wú)須承擔(dān)侵權(quán)責(zé)任;另一方面,若其對(duì)網(wǎng)絡(luò)空間中的有害內(nèi)容主動(dòng)進(jìn)行監(jiān)管,免于承擔(dān)對(duì)相關(guān)方的侵權(quán)責(zé)任。對(duì)于第三方發(fā)布的版權(quán)侵權(quán)內(nèi)容,1998年《數(shù)字千年版權(quán)法》對(duì)網(wǎng)絡(luò)服務(wù)提供者規(guī)定了一種附條件的免責(zé),即對(duì)侵權(quán)內(nèi)容的通知-刪除規(guī)則,也被稱為“避風(fēng)港”規(guī)則。2000年歐盟發(fā)布的《電子商務(wù)指令》對(duì)這一規(guī)制原則進(jìn)行了借鑒,對(duì)于為傳輸內(nèi)容提供存儲(chǔ)服務(wù)的網(wǎng)絡(luò)中間服務(wù)提供者,指令第十四條也規(guī)定了通知-刪除規(guī)則。而且該指令第十五條還明確禁止各主權(quán)國(guó)家以立法形式要求這些網(wǎng)絡(luò)服務(wù)提供者承擔(dān)一般性的內(nèi)容審查義務(wù)。

    從后來(lái)的發(fā)展來(lái)看,這種較為寬松的監(jiān)管政策極大地促進(jìn)了互聯(lián)網(wǎng)產(chǎn)業(yè)的創(chuàng)新與發(fā)展。在過(guò)去的十幾年間,互聯(lián)網(wǎng)產(chǎn)業(yè)之所以可以蓬勃發(fā)展、不斷取得突破,在很大程度上得益于這些最初的輕監(jiān)管政策。正是由于政府更多考慮促進(jìn)產(chǎn)業(yè)的創(chuàng)新發(fā)展,以及法律本身具有的保守性,這一規(guī)制政策一直延續(xù)了很長(zhǎng)時(shí)間。直到近幾年,隨著平臺(tái)企業(yè)成為互聯(lián)網(wǎng)行業(yè)的主流商業(yè)模式,超級(jí)平臺(tái)暴露出越來(lái)越多的監(jiān)管問(wèn)題,很多國(guó)家才開(kāi)始探索和實(shí)踐新的規(guī)制路徑。

    (二)三角網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)下的網(wǎng)絡(luò)規(guī)制新路徑

    在新的網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)下,需要認(rèn)真對(duì)待崛起的平臺(tái)私權(quán)力。一方面要充分發(fā)揮其靈活性強(qiáng)、效率高的治理優(yōu)勢(shì),另一方面也要抑制私權(quán)力濫用對(duì)用戶個(gè)人利益以及公共利益帶來(lái)的損害。這便需要政府重新審視平臺(tái)的法律義務(wù),調(diào)整規(guī)制策略與方法。新的規(guī)制路徑既不應(yīng)是回到政府的直接監(jiān)管,也不是完全依靠平臺(tái)自律,而是探索一種可以充分結(jié)合二者優(yōu)點(diǎn)的新規(guī)制方式,這一方式被稱為“受規(guī)制的自我規(guī)制”。

    1.“受規(guī)制的自我規(guī)制”的含義及理論基礎(chǔ)。受規(guī)制的自我規(guī)制(regulated self-regulation),又被稱為元規(guī)制(meta-regulation)[14],是合作規(guī)制的一種方式①學(xué)界對(duì)合作規(guī)制的內(nèi)涵和外延還未達(dá)成共識(shí),從比較廣泛的意義上說(shuō),合作規(guī)制包含各種公私合作、多方合作的規(guī)制方式,受規(guī)制的自我規(guī)制是合作規(guī)制的一種。參見(jiàn)匡文波、楊春華《邁向合作規(guī)制:網(wǎng)絡(luò)空間規(guī)制的進(jìn)路》,載《現(xiàn)代傳播》,2016年第2期。,是指由公權(quán)力機(jī)構(gòu)對(duì)企業(yè)的自我規(guī)制施加外部監(jiān)督和限制的一種規(guī)制模式?!杜=蛞?guī)制手冊(cè)》將其定義為“外部規(guī)制者有意促使規(guī)制對(duì)象本身針對(duì)公共問(wèn)題,作出內(nèi)部式的、自我規(guī)制性質(zhì)的回應(yīng)”[15]。因此,在受規(guī)制的自我規(guī)制模式下,實(shí)際存在著兩種規(guī)制,一是企業(yè)自身的自我規(guī)制,二是政府對(duì)企業(yè)自我規(guī)制的元規(guī)制。

    該機(jī)制的主要理論來(lái)源是美國(guó)學(xué)者諾內(nèi)特、塞爾茲尼克的“回應(yīng)型法”理論以及德國(guó)學(xué)者托依布納的“反身法”理論。“回應(yīng)型法”強(qiáng)調(diào)法律的多樣性,指出國(guó)家制定的正式法律僅為更為廣闊的法律制度之一種,還需充分發(fā)揮那些非正式法律制度的作用。在回應(yīng)型法中,國(guó)家正式的法律對(duì)其他組織的規(guī)章制度起到補(bǔ)充、輔助以及保障的功能,其他主體通過(guò)自身規(guī)則進(jìn)行的規(guī)制則發(fā)揮主導(dǎo)性的作用[16]。德國(guó)學(xué)者托依布納在社會(huì)系統(tǒng)論的基礎(chǔ)上提出了反身法理論。他認(rèn)為社會(huì)是由一個(gè)個(gè)封閉的子系統(tǒng)構(gòu)成,法律對(duì)其進(jìn)行調(diào)整存在著很大的局限性。因此,法律對(duì)其他社會(huì)系統(tǒng)的干預(yù)就由直接形式變成了間接形式,“通過(guò)影響組織機(jī)構(gòu)、能力和程序來(lái)促使其他社會(huì)系統(tǒng)建立起一套更為民主化的自我管制機(jī)制”[17]。

    受規(guī)制的自我規(guī)制模式出現(xiàn)于20世紀(jì)80年代之后世界范圍內(nèi)興起的放松管制(deregulation),或說(shuō)是在新公共管理運(yùn)動(dòng)的大背景之下,與民營(yíng)化、公私合作、自治行政等新行政管理概念緊密相關(guān)。通常當(dāng)規(guī)制的復(fù)雜性程度高,但是風(fēng)險(xiǎn)低的時(shí)候宜采用受規(guī)制的自我規(guī)制模式[18]。目前這一規(guī)制模式已經(jīng)廣泛用于產(chǎn)品安全管理、建筑管理、藥品管理、環(huán)境監(jiān)管等領(lǐng)域。而近年來(lái),這一模式開(kāi)始被一些國(guó)家運(yùn)用于網(wǎng)絡(luò)空間的治理,比如我國(guó)2016年制定的網(wǎng)絡(luò)安全法,德國(guó)2017年制定的《網(wǎng)絡(luò)執(zhí)行法》,以及英國(guó)2019年4月推出的《在線危害白皮書》等。

    2.網(wǎng)絡(luò)治理中“受規(guī)制的自我規(guī)制”路徑。由于去中心化以及跨國(guó)界性等互聯(lián)網(wǎng)的根本特征不可能改變,網(wǎng)絡(luò)的自律機(jī)制有其不可替代的價(jià)值。同時(shí),鑒于平臺(tái)類型極其多樣(電商平臺(tái)、網(wǎng)約車平臺(tái)、社交平臺(tái)、生活服務(wù)平臺(tái)等),具體商業(yè)模式也非常多元(B2B、B2C、C2B、C2C、O2O等),政府難以制定統(tǒng)一的監(jiān)管標(biāo)準(zhǔn)和規(guī)則,因此還需要依靠平臺(tái)的自我規(guī)制。但是針對(duì)自律機(jī)制本身出現(xiàn)的一些不足或失靈,又需要政府出面予以干預(yù),完善自律機(jī)制。受規(guī)制的自我規(guī)制模式正是產(chǎn)生于這一規(guī)制思路。

    在新的規(guī)制模式下,國(guó)家對(duì)網(wǎng)絡(luò)上的違法犯罪內(nèi)容由直接規(guī)制轉(zhuǎn)為間接規(guī)制,國(guó)家的主要任務(wù)并不是對(duì)平臺(tái)上的具體個(gè)案進(jìn)行干預(yù),而是對(duì)于企業(yè)整體的自我規(guī)制機(jī)制進(jìn)行設(shè)計(jì)與監(jiān)督。這一整體規(guī)制策略主要體現(xiàn)為國(guó)家為企業(yè)的自律機(jī)制設(shè)定標(biāo)準(zhǔn)、框架和程序,具體實(shí)現(xiàn)方式及運(yùn)作細(xì)節(jié)則由企業(yè)自行設(shè)定。進(jìn)而,由政府針對(duì)企業(yè)的自我規(guī)制機(jī)制是否健全、自律系統(tǒng)是否運(yùn)行良好進(jìn)行評(píng)估與監(jiān)督,并通過(guò)設(shè)置一定的處罰手段保證企業(yè)履行規(guī)制責(zé)任。

    這一路徑的核心原則是透明(transparency)、可責(zé)(accountability)、正當(dāng)程序(due process)。透明是規(guī)制自我規(guī)制中的首要原則。平臺(tái)企業(yè)與平臺(tái)用戶之間存在著嚴(yán)重的信息不對(duì)稱問(wèn)題,這包括標(biāo)準(zhǔn)模糊、規(guī)制過(guò)程不透明以及算法黑箱等。因此,為防止平臺(tái)利用信息進(jìn)行權(quán)力濫用,透明是對(duì)平臺(tái)規(guī)制的第一項(xiàng)要求??韶?zé)是指如何讓平臺(tái)有效地承擔(dān)起監(jiān)管責(zé)任。以往平臺(tái)受到避風(fēng)港原則的保護(hù),不需要為平臺(tái)上非由自己制作或編輯的內(nèi)容承擔(dān)法律責(zé)任,但這并不適合新權(quán)力結(jié)構(gòu)下的監(jiān)管問(wèn)題與挑戰(zhàn)。正當(dāng)程序是新路徑的核心要求。這一路徑的特點(diǎn)就是對(duì)平臺(tái)的規(guī)制由個(gè)案規(guī)制轉(zhuǎn)為整體規(guī)制,由結(jié)果規(guī)制轉(zhuǎn)為過(guò)程規(guī)制,因此其核心就是為企業(yè)自律設(shè)定一系列的正當(dāng)程序要求。

    為履行透明度原則,就需要為企業(yè)的自我規(guī)制設(shè)計(jì)相應(yīng)的“公開(kāi)機(jī)制”,要求平臺(tái)公布規(guī)范標(biāo)準(zhǔn)、規(guī)范執(zhí)行過(guò)程以及糾紛解決等權(quán)力運(yùn)行的具體細(xì)節(jié),這可以通過(guò)要求平臺(tái)發(fā)布透明度報(bào)告的形式來(lái)實(shí)現(xiàn)。比如德國(guó)2017年《網(wǎng)絡(luò)執(zhí)行法》規(guī)定,凡每年收到100份以上投訴的社交網(wǎng)絡(luò)平臺(tái)須每半年制作一次報(bào)告,并在聯(lián)邦公報(bào)以及自己網(wǎng)站主頁(yè)上進(jìn)行公布。該法還詳細(xì)列舉了報(bào)告應(yīng)當(dāng)涵蓋的各項(xiàng)內(nèi)容,包括刪除或屏蔽的評(píng)判標(biāo)準(zhǔn);收到的投訴數(shù)量;負(fù)責(zé)處理投訴的機(jī)構(gòu)、人員情況;進(jìn)行外部咨詢的次數(shù);實(shí)際刪除或屏蔽的數(shù)量;從接到投訴到?jīng)Q定刪除或屏蔽的時(shí)間;以及平臺(tái)為消除違法犯罪活動(dòng)所做努力的一般性說(shuō)明等。英國(guó)的《在線危害白皮書》要求受監(jiān)管的平臺(tái)制作和發(fā)布年度透明度報(bào)告,內(nèi)容主要包括平臺(tái)上有害內(nèi)容的傳播情況以及平臺(tái)為此所采取的措施。這些報(bào)告將由監(jiān)管機(jī)構(gòu)在線公布。并且,監(jiān)管機(jī)構(gòu)還有權(quán)要求平臺(tái)提供包括算法運(yùn)作在內(nèi)的額外信息。

    為體現(xiàn)可責(zé)性原則,受規(guī)制的自我規(guī)制路徑需要對(duì)違反規(guī)定的企業(yè)設(shè)置處罰方式。德國(guó)《網(wǎng)絡(luò)執(zhí)行法》規(guī)定,故意或過(guò)失違反各項(xiàng)法定義務(wù),社交平臺(tái)均須承擔(dān)來(lái)自政府的罰款這一行政處罰。未有效履行報(bào)告義務(wù),以及投訴處理機(jī)制出現(xiàn)系統(tǒng)性失靈的社交平臺(tái),要面臨最高為500萬(wàn)歐元的罰款;如果受處罰者是公司主體,罰款數(shù)額最高可達(dá)上述金額的10倍。英國(guó)《在線危害白皮書》則建議立法通過(guò)采用限期整改、向社會(huì)公告企業(yè)違規(guī)行為、罰款,以及在某些極端情況下關(guān)停企業(yè)業(yè)務(wù),讓高管個(gè)人負(fù)責(zé)等方式使平臺(tái)承擔(dān)責(zé)任。我國(guó)網(wǎng)絡(luò)安全法規(guī)定,如果企業(yè)沒(méi)有按照法律規(guī)定履行信息安全管理義務(wù),監(jiān)管部門可以責(zé)令其改正、警告,以及沒(méi)收其違法所得、進(jìn)行罰款,嚴(yán)重者可以責(zé)令停業(yè)整頓、關(guān)閉網(wǎng)站、吊銷營(yíng)業(yè)執(zhí)照,對(duì)直接責(zé)任人員進(jìn)行罰款,以及對(duì)企業(yè)進(jìn)行刑事處罰等。

    為體現(xiàn)正當(dāng)程序原則,受規(guī)制的自我規(guī)制路徑要求平臺(tái)設(shè)置一套健全、合理的投訴處理機(jī)制。德國(guó)《網(wǎng)絡(luò)執(zhí)行法》要求大型社交平臺(tái)必須給用戶提供一個(gè)“易于識(shí)別”“且能直接、持續(xù)利用”的用戶投訴程序,及時(shí)刪除或屏蔽法律所列舉的刑事違法內(nèi)容。同時(shí),為保障被刪除或屏蔽用戶的合法權(quán)利,該法要求平臺(tái)將處理結(jié)果立即通知用戶以及投訴者,并對(duì)其說(shuō)明作出決定的理由。此外,該法還要求平臺(tái)設(shè)置組織上的保障,要求平臺(tái)對(duì)投訴情況進(jìn)行定期檢查和對(duì)相關(guān)人員進(jìn)行定期培訓(xùn)。英國(guó)的《在線危害白皮書》也要求受監(jiān)管的企業(yè)采取措施保證投訴處理程序透明、有效,該機(jī)制可以對(duì)有害內(nèi)容迅速作出反應(yīng),并保證用戶可以對(duì)移除內(nèi)容以及其他處理方式進(jìn)行申訴。我國(guó)網(wǎng)絡(luò)安全法第四十九條以及諸多網(wǎng)絡(luò)信息管理方面的法規(guī)規(guī)章也有類似規(guī)定,要求網(wǎng)絡(luò)服務(wù)提供者建立起便捷的投訴入口,并及時(shí)處理有關(guān)的舉報(bào)、投訴。

    3.受規(guī)制的自我規(guī)制路徑中的爭(zhēng)議問(wèn)題。第一,私人主體負(fù)擔(dān)公共管理義務(wù)的正當(dāng)性。從國(guó)家治理的角度講,私主體參與治理可以有效減少政府規(guī)制成本,節(jié)省行政資源,減輕納稅人的負(fù)擔(dān),但這種實(shí)用主義的考慮不能構(gòu)成讓私主體負(fù)擔(dān)法定規(guī)制義務(wù)的正當(dāng)理由。私人主體被設(shè)定為追求私人利益,并無(wú)負(fù)擔(dān)公共利益的法律義務(wù)。在這個(gè)問(wèn)題上,有學(xué)者指出,與web1.0時(shí)代不同,網(wǎng)絡(luò)平臺(tái)不再是單純的信息傳播通道,平臺(tái)在一定程度上積極地形塑和管理著用戶的內(nèi)容和行為,因此應(yīng)當(dāng)負(fù)擔(dān)相應(yīng)的公共管理義務(wù)[19]。也有學(xué)者指出,目前的超級(jí)平臺(tái)已經(jīng)兼具私有性與公共性,權(quán)力越大責(zé)任自然應(yīng)該越大[20]。但這一爭(zhēng)議目前并無(wú)定論。有學(xué)者提出,為了平衡私人主體承擔(dān)公共事務(wù)管理的正當(dāng)性問(wèn)題,法律在設(shè)定平臺(tái)義務(wù)時(shí),“應(yīng)該秉持比例原則等理念,權(quán)衡公益、私益,從而保障第三方義務(wù)設(shè)定的正當(dāng)性”[21]。

    第二,責(zé)任設(shè)置與創(chuàng)新發(fā)展之間的關(guān)系。自由是互聯(lián)網(wǎng)的根本特性,也是其活力所在。增加企業(yè)的管理責(zé)任,將企業(yè)的自律行為變?yōu)榉ǘx務(wù),意味著增加企業(yè)運(yùn)營(yíng)的成本與負(fù)擔(dān),這可能會(huì)在一定程度上挫傷與妨礙企業(yè)創(chuàng)新和發(fā)展的積極性。因此,平臺(tái)責(zé)任的設(shè)置應(yīng)當(dāng)基于規(guī)制對(duì)象的規(guī)模、實(shí)力以及影響力區(qū)別對(duì)待。超級(jí)平臺(tái)財(cái)力雄厚,影響力巨大,可以使其承擔(dān)更多的責(zé)任。比如,德國(guó)《網(wǎng)絡(luò)執(zhí)行法》所設(shè)置的內(nèi)容審查義務(wù)僅適用于注冊(cè)用戶200萬(wàn)以上的社交平臺(tái)。而英國(guó)的《在線危害白皮書》也提出要根據(jù)企業(yè)規(guī)模等情形對(duì)責(zé)任設(shè)置進(jìn)行區(qū)分。

    第三,私人審查與用戶基本權(quán)利保障之間的沖突?;ヂ?lián)網(wǎng)時(shí)代,網(wǎng)絡(luò)已成為公民實(shí)現(xiàn)表達(dá)自由最重要的渠道,而“網(wǎng)絡(luò)中介管理著公共表達(dá)與參與平臺(tái),決定著信息的流向”[22],因此,平臺(tái)的私人審查義務(wù)引發(fā)了人們對(duì)公民表達(dá)權(quán)受到侵犯的擔(dān)憂。公權(quán)力部門執(zhí)法時(shí),需要履行一系列告知、聽(tīng)取陳述申辯等正當(dāng)程序的基本要求,而且被處理的當(dāng)事人還擁有對(duì)于實(shí)體問(wèn)題和程序問(wèn)題提出異議的權(quán)利[23]。如果相對(duì)人對(duì)執(zhí)法行為不服,可以向司法機(jī)關(guān)提起行政訴訟,由法院對(duì)行政行為的合法性、合理性進(jìn)行審查。但是私主體規(guī)制卻無(wú)法受到這么嚴(yán)格的程序約束,當(dāng)事人若認(rèn)為屏蔽或刪除不當(dāng),只能依據(jù)平臺(tái)與用戶的協(xié)議,向法院提起民事訴訟,而民事救濟(jì)的保護(hù)力度遠(yuǎn)遠(yuǎn)不及行政救濟(jì)。針對(duì)這一問(wèn)題,第三方監(jiān)督被引入規(guī)制視野。比如,德國(guó)《網(wǎng)絡(luò)執(zhí)行法》規(guī)定,當(dāng)平臺(tái)對(duì)所裁決的內(nèi)容拿不準(zhǔn)的時(shí)候,可以將其交給一個(gè)獨(dú)立的第三方機(jī)構(gòu)進(jìn)行判斷,且對(duì)適格第三方的條件進(jìn)行了詳細(xì)的規(guī)定。但是,私人審查可能引發(fā)的表達(dá)權(quán)受損及如何解決迄今仍存在許多爭(zhēng)議。

    綜上所述,平臺(tái)企業(yè)的興起重構(gòu)了網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu),使之從“公權(quán)力-私權(quán)力”的二元結(jié)構(gòu)轉(zhuǎn)變?yōu)椤肮珯?quán)力-私權(quán)力-私權(quán)利”的三角結(jié)構(gòu)。在這一新的權(quán)力結(jié)構(gòu)中,作為網(wǎng)絡(luò)私權(quán)力的平臺(tái)企業(yè)實(shí)際上處于網(wǎng)絡(luò)治理的中心。如何有效利用其規(guī)制優(yōu)勢(shì),同時(shí)又對(duì)其可能存在的不利因素進(jìn)行規(guī)避,是網(wǎng)絡(luò)空間權(quán)力結(jié)構(gòu)重構(gòu)影響下選擇規(guī)制路徑的基本思路。這一思路就體現(xiàn)在“受規(guī)制的自我規(guī)制”這一新的網(wǎng)絡(luò)規(guī)制路徑中。這一路徑要求政府對(duì)企業(yè)的自我規(guī)制進(jìn)行元規(guī)制,要求平臺(tái)企業(yè)的自我規(guī)制符合透明、可責(zé)以及正當(dāng)程序等基本原則與要求。已有若干國(guó)家將這一規(guī)制路徑運(yùn)用于網(wǎng)絡(luò)治理中,但是這一模式的應(yīng)用也存在一定的問(wèn)題與爭(zhēng)議,有待社會(huì)各界繼續(xù)深入探討與解決。

    猜你喜歡
    網(wǎng)絡(luò)空間規(guī)制權(quán)力
    主動(dòng)退市規(guī)制的德國(guó)經(jīng)驗(yàn)與啟示
    共建誠(chéng)實(shí)守信網(wǎng)絡(luò)空間
    公民與法治(2020年4期)2020-05-30 12:31:20
    不如叫《權(quán)力的兒戲》
    電影(2019年6期)2019-09-02 01:42:38
    網(wǎng)絡(luò)空間并非“烏托邦”
    保護(hù)與規(guī)制:關(guān)于文學(xué)的刑法
    刑法論叢(2018年4期)2018-05-21 00:44:30
    論《反不正當(dāng)競(jìng)爭(zhēng)法》的規(guī)制范疇
    法治研究(2016年4期)2016-12-01 03:41:40
    網(wǎng)絡(luò)空間安全人才培養(yǎng)探討
    權(quán)力的網(wǎng)絡(luò)
    博客天下(2015年12期)2015-09-23 01:47:57
    與權(quán)力走得太近,終走向不歸路
    清風(fēng)(2014年10期)2014-09-08 13:11:04
    喚醒沉睡的權(quán)力
    浙江人大(2014年8期)2014-03-20 16:21:10
    亚洲全国av大片| 一级毛片精品| 欧美一级毛片孕妇| 操出白浆在线播放| 精品熟女少妇八av免费久了| 两性夫妻黄色片| 中亚洲国语对白在线视频| 人成视频在线观看免费观看| 老鸭窝网址在线观看| 久久免费观看电影| 国产精品久久久久久人妻精品电影 | 新久久久久国产一级毛片| 三上悠亚av全集在线观看| 三上悠亚av全集在线观看| 999久久久国产精品视频| 狠狠精品人妻久久久久久综合| 成人av一区二区三区在线看 | 欧美精品人与动牲交sv欧美| 黄色视频,在线免费观看| 黄色视频,在线免费观看| 人成视频在线观看免费观看| 日韩大码丰满熟妇| 麻豆国产av国片精品| 麻豆国产av国片精品| 18禁黄网站禁片午夜丰满| 国产成人免费观看mmmm| 欧美成狂野欧美在线观看| 丝瓜视频免费看黄片| 亚洲一卡2卡3卡4卡5卡精品中文| 女警被强在线播放| 波多野结衣一区麻豆| 欧美日韩福利视频一区二区| 99久久国产精品久久久| av片东京热男人的天堂| 18禁裸乳无遮挡动漫免费视频| 午夜激情久久久久久久| 一本色道久久久久久精品综合| 性少妇av在线| 少妇的丰满在线观看| 国产亚洲午夜精品一区二区久久| 免费av中文字幕在线| 亚洲欧美日韩高清在线视频 | 淫妇啪啪啪对白视频 | 亚洲精品国产区一区二| 12—13女人毛片做爰片一| 999久久久国产精品视频| 国产日韩欧美亚洲二区| 国产xxxxx性猛交| 免费少妇av软件| 精品国产一区二区三区四区第35| 精品国产一区二区三区四区第35| 国产精品国产av在线观看| 亚洲成av片中文字幕在线观看| 人人妻人人爽人人添夜夜欢视频| 亚洲久久久国产精品| 国产伦理片在线播放av一区| 亚洲成av片中文字幕在线观看| 亚洲精品粉嫩美女一区| 91av网站免费观看| 母亲3免费完整高清在线观看| 欧美精品一区二区大全| 亚洲精华国产精华精| 欧美成狂野欧美在线观看| 在线观看免费午夜福利视频| 性少妇av在线| 国产亚洲欧美精品永久| 精品国产乱子伦一区二区三区 | 国产一区二区三区综合在线观看| 亚洲av电影在线进入| 69av精品久久久久久 | 成人黄色视频免费在线看| 免费在线观看黄色视频的| 精品久久蜜臀av无| 亚洲国产精品一区三区| 欧美性长视频在线观看| 精品少妇一区二区三区视频日本电影| 老司机靠b影院| 国产精品影院久久| 国产日韩欧美在线精品| kizo精华| 国产男女超爽视频在线观看| 伊人亚洲综合成人网| 国产成人av教育| 日韩大片免费观看网站| 欧美精品av麻豆av| 免费在线观看日本一区| 一区二区三区乱码不卡18| 亚洲一区中文字幕在线| 亚洲中文字幕日韩| 国产精品国产三级国产专区5o| 91字幕亚洲| 女人高潮潮喷娇喘18禁视频| 国产一区有黄有色的免费视频| 久久久精品免费免费高清| 日本黄色日本黄色录像| 少妇裸体淫交视频免费看高清 | 黄色a级毛片大全视频| 91精品国产国语对白视频| 亚洲精品国产av成人精品| 侵犯人妻中文字幕一二三四区| 国产成人欧美| 日韩视频在线欧美| 亚洲久久久国产精品| 亚洲欧美精品自产自拍| 又大又爽又粗| 日本wwww免费看| 两性夫妻黄色片| 久久精品久久久久久噜噜老黄| 精品久久蜜臀av无| av国产精品久久久久影院| 欧美 亚洲 国产 日韩一| 建设人人有责人人尽责人人享有的| 97在线人人人人妻| kizo精华| 99精国产麻豆久久婷婷| 电影成人av| 久久久精品国产亚洲av高清涩受| 2018国产大陆天天弄谢| 久久青草综合色| 两性午夜刺激爽爽歪歪视频在线观看 | 男人操女人黄网站| 中文精品一卡2卡3卡4更新| 啦啦啦 在线观看视频| 欧美日本中文国产一区发布| 中文字幕另类日韩欧美亚洲嫩草| 久久精品亚洲av国产电影网| 成人国语在线视频| 淫妇啪啪啪对白视频 | 国产xxxxx性猛交| 亚洲精品美女久久av网站| 久久免费观看电影| 亚洲国产av新网站| 一级毛片电影观看| 亚洲av片天天在线观看| 秋霞在线观看毛片| 久久精品国产a三级三级三级| 国产伦理片在线播放av一区| 欧美精品人与动牲交sv欧美| 精品国产一区二区久久| 男女国产视频网站| 亚洲专区字幕在线| 热re99久久精品国产66热6| 天天躁狠狠躁夜夜躁狠狠躁| 国产精品二区激情视频| 满18在线观看网站| 亚洲一卡2卡3卡4卡5卡精品中文| 婷婷丁香在线五月| 一级毛片精品| 99热全是精品| 十八禁高潮呻吟视频| www.999成人在线观看| 男女之事视频高清在线观看| 别揉我奶头~嗯~啊~动态视频 | 日韩欧美一区视频在线观看| 性高湖久久久久久久久免费观看| 1024视频免费在线观看| 在线av久久热| 久久国产亚洲av麻豆专区| 一二三四在线观看免费中文在| 99国产极品粉嫩在线观看| 精品人妻在线不人妻| 久久中文字幕一级| 波多野结衣一区麻豆| 美女扒开内裤让男人捅视频| 亚洲中文日韩欧美视频| 久久人人爽人人片av| 欧美在线黄色| 国产免费现黄频在线看| 亚洲美女黄色视频免费看| 欧美另类亚洲清纯唯美| 亚洲av片天天在线观看| 热re99久久精品国产66热6| 欧美在线黄色| 90打野战视频偷拍视频| 久久精品亚洲av国产电影网| 欧美少妇被猛烈插入视频| 夜夜骑夜夜射夜夜干| 自线自在国产av| 久久久久精品人妻al黑| 国产黄色免费在线视频| av网站在线播放免费| 欧美国产精品va在线观看不卡| 亚洲少妇的诱惑av| 亚洲精品美女久久久久99蜜臀| 欧美精品人与动牲交sv欧美| 成人国语在线视频| 精品卡一卡二卡四卡免费| 12—13女人毛片做爰片一| 国产精品国产av在线观看| 少妇裸体淫交视频免费看高清 | 亚洲成人免费av在线播放| 人人妻人人爽人人添夜夜欢视频| 欧美精品人与动牲交sv欧美| 国产区一区二久久| 啦啦啦视频在线资源免费观看| 日韩一区二区三区影片| 国产精品麻豆人妻色哟哟久久| 黑丝袜美女国产一区| 精品国产乱码久久久久久小说| 久久ye,这里只有精品| 久久久久网色| 男女午夜视频在线观看| 性高湖久久久久久久久免费观看| 青草久久国产| 高清在线国产一区| 曰老女人黄片| 国产野战对白在线观看| 国产精品.久久久| 亚洲一卡2卡3卡4卡5卡精品中文| 中文字幕最新亚洲高清| 亚洲午夜精品一区,二区,三区| 亚洲国产毛片av蜜桃av| 日韩视频一区二区在线观看| 女警被强在线播放| 脱女人内裤的视频| 黄色 视频免费看| 成年动漫av网址| 久久人妻福利社区极品人妻图片| 纵有疾风起免费观看全集完整版| 成人国语在线视频| 国产免费一区二区三区四区乱码| 亚洲专区中文字幕在线| 99国产精品免费福利视频| 最新的欧美精品一区二区| 国产亚洲欧美精品永久| 一本大道久久a久久精品| 狠狠精品人妻久久久久久综合| 国产一区二区三区综合在线观看| 亚洲美女黄色视频免费看| 91大片在线观看| 下体分泌物呈黄色| 久久狼人影院| 久久人妻熟女aⅴ| 少妇人妻久久综合中文| 精品高清国产在线一区| 飞空精品影院首页| 岛国毛片在线播放| 欧美日韩福利视频一区二区| 亚洲精华国产精华精| 操美女的视频在线观看| 亚洲成人手机| 精品亚洲成a人片在线观看| 性高湖久久久久久久久免费观看| 最黄视频免费看| xxxhd国产人妻xxx| 黄色 视频免费看| 日本黄色日本黄色录像| 免费在线观看黄色视频的| 国产99久久九九免费精品| 不卡一级毛片| 欧美黄色片欧美黄色片| 青草久久国产| 精品少妇久久久久久888优播| 午夜两性在线视频| 亚洲精品久久成人aⅴ小说| 51午夜福利影视在线观看| 久久久久国产一级毛片高清牌| 午夜福利影视在线免费观看| 午夜免费成人在线视频| 黄色视频不卡| 欧美日韩福利视频一区二区| 日日摸夜夜添夜夜添小说| 婷婷色av中文字幕| 在线精品无人区一区二区三| 欧美精品一区二区免费开放| 精品第一国产精品| 黑人巨大精品欧美一区二区mp4| 午夜福利乱码中文字幕| 母亲3免费完整高清在线观看| 午夜激情久久久久久久| 美女国产高潮福利片在线看| 美女午夜性视频免费| 亚洲精品中文字幕一二三四区 | 中文字幕色久视频| av不卡在线播放| 久久精品熟女亚洲av麻豆精品| 交换朋友夫妻互换小说| 大片电影免费在线观看免费| 国产精品熟女久久久久浪| 在线观看免费视频网站a站| 美女大奶头黄色视频| 美女扒开内裤让男人捅视频| 丝袜脚勾引网站| 一区二区日韩欧美中文字幕| 亚洲一区二区三区欧美精品| 成人18禁高潮啪啪吃奶动态图| 精品国产超薄肉色丝袜足j| 日本黄色日本黄色录像| 一进一出抽搐动态| 亚洲国产欧美网| videos熟女内射| 久久精品国产亚洲av高清一级| 777米奇影视久久| 日韩 亚洲 欧美在线| 欧美黄色片欧美黄色片| 日本av免费视频播放| 亚洲色图综合在线观看| 亚洲伊人色综图| 亚洲七黄色美女视频| 伦理电影免费视频| 国产精品久久久久久精品古装| 日韩,欧美,国产一区二区三区| 亚洲一卡2卡3卡4卡5卡精品中文| 99国产精品99久久久久| 女人高潮潮喷娇喘18禁视频| 肉色欧美久久久久久久蜜桃| 欧美黄色淫秽网站| 9热在线视频观看99| 国产一卡二卡三卡精品| 日本av免费视频播放| 日日爽夜夜爽网站| 亚洲少妇的诱惑av| 欧美激情高清一区二区三区| 欧美日韩亚洲国产一区二区在线观看 | 九色亚洲精品在线播放| kizo精华| 成人黄色视频免费在线看| 真人做人爱边吃奶动态| 亚洲国产毛片av蜜桃av| 午夜福利在线观看吧| 亚洲精品久久午夜乱码| 天天躁夜夜躁狠狠躁躁| 日韩视频一区二区在线观看| 大码成人一级视频| 久热爱精品视频在线9| 久久中文看片网| 午夜老司机福利片| 我要看黄色一级片免费的| 久久精品国产亚洲av香蕉五月 | 久久精品国产a三级三级三级| 精品国产乱码久久久久久男人| 黑人猛操日本美女一级片| 精品国产超薄肉色丝袜足j| 亚洲av电影在线进入| 自拍欧美九色日韩亚洲蝌蚪91| 黄网站色视频无遮挡免费观看| 国产一区二区三区综合在线观看| 日本撒尿小便嘘嘘汇集6| 又黄又粗又硬又大视频| 成年动漫av网址| 国产熟女午夜一区二区三区| 我要看黄色一级片免费的| 国产91精品成人一区二区三区 | 各种免费的搞黄视频| 亚洲中文字幕日韩| 国产在线视频一区二区| 99久久国产精品久久久| 老司机影院成人| 免费在线观看完整版高清| 黄色片一级片一级黄色片| 欧美日韩av久久| 亚洲精品美女久久av网站| 各种免费的搞黄视频| 国产无遮挡羞羞视频在线观看| 国产精品自产拍在线观看55亚洲 | 岛国毛片在线播放| 高清av免费在线| 热re99久久精品国产66热6| 成在线人永久免费视频| 国产精品欧美亚洲77777| 成人国产一区最新在线观看| 日本a在线网址| 久久综合国产亚洲精品| 飞空精品影院首页| 性色av乱码一区二区三区2| 青青草视频在线视频观看| 国产日韩欧美亚洲二区| 丝袜人妻中文字幕| 91精品伊人久久大香线蕉| 国产成人欧美| 99九九在线精品视频| 亚洲中文字幕日韩| 国产一区二区三区在线臀色熟女 | 如日韩欧美国产精品一区二区三区| 午夜91福利影院| 日韩欧美一区二区三区在线观看 | 在线 av 中文字幕| 99re6热这里在线精品视频| 99热网站在线观看| 国产精品99久久99久久久不卡| 国产精品二区激情视频| 日本vs欧美在线观看视频| 日韩 亚洲 欧美在线| 久久久国产精品麻豆| 国产男女内射视频| 女人被躁到高潮嗷嗷叫费观| 大型av网站在线播放| 久久 成人 亚洲| 日本欧美视频一区| 大香蕉久久成人网| 亚洲专区字幕在线| 欧美老熟妇乱子伦牲交| 两人在一起打扑克的视频| 久久人人爽人人片av| 精品久久久久久久毛片微露脸 | av免费在线观看网站| 国产一区二区激情短视频 | tube8黄色片| 欧美精品一区二区免费开放| 久久精品亚洲熟妇少妇任你| 亚洲第一青青草原| 成人国产av品久久久| 看免费av毛片| 国产日韩欧美在线精品| 亚洲五月婷婷丁香| 久久精品国产综合久久久| 国产精品香港三级国产av潘金莲| 亚洲熟女精品中文字幕| 欧美人与性动交α欧美软件| 国产91精品成人一区二区三区 | av片东京热男人的天堂| 黄网站色视频无遮挡免费观看| 美女脱内裤让男人舔精品视频| 成人影院久久| 丁香六月天网| 亚洲熟女精品中文字幕| 在线十欧美十亚洲十日本专区| 亚洲男人天堂网一区| 久久久久视频综合| 婷婷色av中文字幕| 欧美xxⅹ黑人| 国精品久久久久久国模美| 欧美变态另类bdsm刘玥| 日本一区二区免费在线视频| 亚洲成人免费电影在线观看| 亚洲性夜色夜夜综合| 91老司机精品| 一区福利在线观看| 国产熟女午夜一区二区三区| 97人妻天天添夜夜摸| 亚洲九九香蕉| 国产精品一区二区免费欧美 | 两人在一起打扑克的视频| 亚洲三区欧美一区| 欧美激情高清一区二区三区| 淫妇啪啪啪对白视频 | 国产免费福利视频在线观看| 丁香六月欧美| 亚洲国产看品久久| 精品一区二区三区四区五区乱码| 日韩中文字幕欧美一区二区| 人成视频在线观看免费观看| 亚洲中文日韩欧美视频| 亚洲第一青青草原| 成人国产av品久久久| 丝袜美足系列| 欧美变态另类bdsm刘玥| e午夜精品久久久久久久| 欧美日韩亚洲综合一区二区三区_| 久久精品亚洲av国产电影网| 欧美 亚洲 国产 日韩一| 十八禁网站免费在线| 亚洲欧洲精品一区二区精品久久久| 丝袜喷水一区| 两性夫妻黄色片| 国产精品99久久99久久久不卡| 久久中文字幕一级| 亚洲精品av麻豆狂野| 亚洲视频免费观看视频| 精品久久蜜臀av无| 久久精品国产a三级三级三级| 欧美成狂野欧美在线观看| 国产精品99久久99久久久不卡| 久久中文字幕一级| 日日摸夜夜添夜夜添小说| 人妻一区二区av| 久久久国产一区二区| 亚洲 国产 在线| a在线观看视频网站| 成年人午夜在线观看视频| 亚洲人成77777在线视频| 色视频在线一区二区三区| 国产精品久久久人人做人人爽| 亚洲成国产人片在线观看| 国产深夜福利视频在线观看| 亚洲美女黄色视频免费看| 亚洲精品第二区| 大型av网站在线播放| 一区二区三区乱码不卡18| 视频区欧美日本亚洲| 黄片播放在线免费| 国产主播在线观看一区二区| 日韩中文字幕视频在线看片| 女人高潮潮喷娇喘18禁视频| 亚洲一卡2卡3卡4卡5卡精品中文| 超碰97精品在线观看| 中国美女看黄片| 一边摸一边抽搐一进一出视频| 久久人妻熟女aⅴ| 9191精品国产免费久久| 久久久久精品人妻al黑| 黄片播放在线免费| 国产又色又爽无遮挡免| √禁漫天堂资源中文www| 国产淫语在线视频| 中文字幕色久视频| 天天躁狠狠躁夜夜躁狠狠躁| 日韩制服骚丝袜av| 中文字幕制服av| 久久狼人影院| 国产成人av教育| 老熟妇仑乱视频hdxx| 国产成人影院久久av| 少妇 在线观看| 男女下面插进去视频免费观看| 亚洲专区字幕在线| 日韩视频一区二区在线观看| 在线观看免费高清a一片| 捣出白浆h1v1| 国产精品一区二区免费欧美 | 777米奇影视久久| 久久久国产欧美日韩av| 日韩制服骚丝袜av| 成年av动漫网址| 国产国语露脸激情在线看| 美女视频免费永久观看网站| 久久性视频一级片| 国产视频一区二区在线看| 伊人亚洲综合成人网| 国产精品久久久久久精品电影小说| 国产免费福利视频在线观看| 国产在视频线精品| 国内毛片毛片毛片毛片毛片| netflix在线观看网站| 黑丝袜美女国产一区| 热re99久久国产66热| 女性生殖器流出的白浆| 免费一级毛片在线播放高清视频 | av免费在线观看网站| 亚洲一码二码三码区别大吗| 老司机亚洲免费影院| 欧美激情高清一区二区三区| 久久精品国产综合久久久| 日韩视频一区二区在线观看| 色播在线永久视频| 国产男女超爽视频在线观看| 午夜日韩欧美国产| 国产成人精品在线电影| 99国产精品99久久久久| av有码第一页| 美女福利国产在线| 性高湖久久久久久久久免费观看| 国产成人免费无遮挡视频| 女性生殖器流出的白浆| 亚洲成人手机| 亚洲av电影在线进入| 午夜91福利影院| 大陆偷拍与自拍| 一本综合久久免费| 成年美女黄网站色视频大全免费| 在线观看舔阴道视频| 久久中文字幕一级| 久久精品亚洲熟妇少妇任你| 男女之事视频高清在线观看| 不卡av一区二区三区| 国产成人精品久久二区二区91| 9热在线视频观看99| 日韩人妻精品一区2区三区| 777久久人妻少妇嫩草av网站| 亚洲国产欧美一区二区综合| 久久国产精品影院| 久久九九热精品免费| 国产欧美日韩一区二区三区在线| 亚洲一卡2卡3卡4卡5卡精品中文| 国产欧美日韩一区二区三区在线| 人人妻人人澡人人看| 国产在线观看jvid| 高清在线国产一区| 国产在线视频一区二区| 国产成人a∨麻豆精品| 99精国产麻豆久久婷婷| 欧美乱码精品一区二区三区| 69av精品久久久久久 | 三上悠亚av全集在线观看| 亚洲欧美成人综合另类久久久| 99国产极品粉嫩在线观看| 国产成人免费观看mmmm| 国产一区有黄有色的免费视频| 自拍欧美九色日韩亚洲蝌蚪91| 人妻 亚洲 视频| 中文字幕最新亚洲高清| 午夜福利,免费看| 精品国产乱子伦一区二区三区 | 人人妻人人添人人爽欧美一区卜| 十八禁网站免费在线| 日日夜夜操网爽| 亚洲性夜色夜夜综合| 久久精品亚洲熟妇少妇任你| 最近最新免费中文字幕在线| 国产精品一二三区在线看| 久9热在线精品视频| 丝瓜视频免费看黄片| 亚洲免费av在线视频| 亚洲第一av免费看| 欧美另类一区| 捣出白浆h1v1| 搡老熟女国产l中国老女人| 纵有疾风起免费观看全集完整版| 亚洲五月色婷婷综合| 麻豆国产av国片精品| 国产精品影院久久| 婷婷丁香在线五月| 国产又色又爽无遮挡免| 一级毛片女人18水好多| 久久女婷五月综合色啪小说| 午夜91福利影院| 国产精品自产拍在线观看55亚洲 | 亚洲国产欧美在线一区| 老司机在亚洲福利影院| 在线精品无人区一区二区三| 99热网站在线观看| 不卡一级毛片| 国产精品久久久久久人妻精品电影 | 久久人妻福利社区极品人妻图片| 在线 av 中文字幕|