• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論網(wǎng)絡(luò)空間中的平臺(tái)治理

    2020-06-02 09:34:54崔保國劉金河
    全球傳媒學(xué)刊 2020年1期
    關(guān)鍵詞:網(wǎng)絡(luò)平臺(tái)

    崔保國, 劉金河

    一、Facebook①這樣的網(wǎng)絡(luò)平臺(tái)如何治理

    創(chuàng)立僅有15年歷史的Facebook匯集了25億用戶,②成為人類歷史上第一大人口聚集地,一個(gè)遠(yuǎn)超最大國家人口的線上數(shù)字社會(huì)出現(xiàn)在世人面前。面對這樣一個(gè)前所未有的社交媒體帝國③,全球各國的監(jiān)管者似乎都不知所措。近年來,網(wǎng)絡(luò)空間治理領(lǐng)域的一個(gè)熱門話題就是研究如何拆分臉書。

    在歐洲不斷遭受立案調(diào)查之后,2019年7月,臉書在其總部所在的美國也接到了美國聯(lián)邦通信委員會(huì)(FTC)50億美元的史上最高罰單(FTC,2019)。而后美國國內(nèi)對臉書進(jìn)行更為嚴(yán)厲的反壟斷措施呼聲再起,司法部宣布立案調(diào)查,隨后40多個(gè)州檢察長也發(fā)起聯(lián)合反壟斷調(diào)查,一場反壟斷運(yùn)動(dòng)徐徐拉開序幕(騰訊科技,2019)。最極端的反壟斷手段就是拆分公司,在反對互聯(lián)網(wǎng)公司壟斷的呼聲中最為激進(jìn)的當(dāng)屬美國2020年總統(tǒng)參選人、民主黨參議員伊麗莎白·沃倫(Elizabeth Warren),她在2019年3月份提出了一項(xiàng)計(jì)劃,擬拆分美國最大的互聯(lián)網(wǎng)公司,主要是臉書、亞馬遜、谷歌和蘋果等,稱它們擁有的權(quán)力太大(Warren,2019)。

    事實(shí)上,更早以前有另外一種方案逐漸進(jìn)入人們的視野。將Facebook收歸國有化最早由牛津大學(xué)互聯(lián)網(wǎng)研究院的飛利浦·霍華德(Philip Howard)在2012年提出,理由是Facebook已經(jīng)成為一種重要的公共物品和重要的社會(huì)資源而應(yīng)該由公共部門運(yùn)營。國有化之后,應(yīng)設(shè)置一位權(quán)威的國家隱私委員,并在聯(lián)邦層面實(shí)施與全球一致的隱私標(biāo)準(zhǔn)(Howard,2012)。這種提議引起了針鋒相對的辯論,但是整體上反對聲音更多(徐偲骕、張巖松,2019)。最有力的反對聲音來自亞當(dāng)·西艾奧(Adam Thierer),他在《福布斯》雜志上旗幟鮮明地列出十條反對理由,并稱把Facebook變成“Fedbook”(聯(lián)邦書)是荒謬的,由國家來管理的社會(huì)互動(dòng)(State-managed social interaction)非常糟糕,是在重復(fù)20世紀(jì)的錯(cuò)誤(Thierer,2012)。不過連霍華德自己都認(rèn)為,這只是一個(gè)“偉大的思想實(shí)驗(yàn)”,可能并無機(jī)會(huì)真正實(shí)現(xiàn)(Howard,2012)。但是有人繼續(xù)提出一種更加具有社會(huì)改造意義的方案:不依靠國家,而是建立一種新的合作的、民主的且可問責(zé)的公共機(jī)構(gòu)(a new cooperative, democratic, accountable institution)來實(shí)現(xiàn)對社交媒體的全民所有權(quán),而且這種機(jī)構(gòu)應(yīng)該是全球性的(Hobbs,2017)。

    2018年臉書劍橋分析(Cambridge Analytica)數(shù)據(jù)泄露事件之后,反對臉書逐漸成為一種社會(huì)運(yùn)動(dòng),轟轟烈烈的“#deletefacebook”(刪除Facebook)彌散開來。但是,隨著時(shí)間的流逝,反對運(yùn)動(dòng)逐漸沉寂下來,F(xiàn)acebook的月活躍用戶依然高歌猛進(jìn)地挺進(jìn)25億。最終人們無奈地承認(rèn),就如人們放不下手機(jī)一樣,人們也離不開Facebook。

    那么如何破解這種“臉書困境”,如何治理這種網(wǎng)絡(luò)平臺(tái)呢?臉書的治理問題挑戰(zhàn)了至今為止形成的網(wǎng)絡(luò)空間治理機(jī)制和模式,甚至挑戰(zhàn)了各國政治制度和全球治理體系。這不僅僅是臉書的問題,十年前出現(xiàn)的谷歌退出中國事件同樣也屬于巨型網(wǎng)絡(luò)平臺(tái)企業(yè)的治理問題。在這個(gè)被稱為“平臺(tái)社會(huì)”的時(shí)代,網(wǎng)絡(luò)平臺(tái)幾乎成為了數(shù)字社會(huì)的基礎(chǔ)設(shè)施,人們的生活時(shí)時(shí)刻刻與平臺(tái)相連(方軍等,2018,p.3)。面對網(wǎng)絡(luò)平臺(tái)前所未有的影響力,平臺(tái)治理成為人類社會(huì)的全球性挑戰(zhàn)。無論是臉書還是谷歌,網(wǎng)絡(luò)平臺(tái)治理都是當(dāng)今網(wǎng)絡(luò)空間治理的瓶頸和令人困惑之事,一塊模糊領(lǐng)域,也是最關(guān)鍵的治理議題之一。

    網(wǎng)絡(luò)平臺(tái)治理(往往也被稱為平臺(tái)治理)是指圍繞平臺(tái)的社會(huì)性以及跨國性而產(chǎn)生的一系列規(guī)則制定與執(zhí)行,其目的在于通過包容性的機(jī)制解決網(wǎng)絡(luò)平臺(tái)帶來的社會(huì)挑戰(zhàn),以促進(jìn)網(wǎng)絡(luò)平臺(tái)本身的發(fā)展以及社會(huì)利益的最大化。治理一詞有著深刻的政治學(xué)意涵。弗朗西斯·福山(Francis Fukuyama)在對文獻(xiàn)的詳盡考察后總結(jié)出“治理”存在三種意義:各種在國家體系之外的非主權(quán)國家主體的國際合作(即國際治理);作為公共管理的治理,有效履行國家政策(即善治);通過社會(huì)網(wǎng)絡(luò)和其他非等級制的機(jī)制來規(guī)范社會(huì)行為(即沒有政府的治理)(福山、王匡夫,2018)。平臺(tái)治理包含了福山所提出的三種治理內(nèi)涵,但需在不同條件下分而論之。平臺(tái)治理的重大議題非常之多,涉獵廣泛,例如:1)以劍橋分析數(shù)據(jù)泄事件為典型的數(shù)據(jù)泄露和隱私保護(hù);2)以微信、微博刪帖爭議為焦點(diǎn)的言論自由與限制;3)以電商平臺(tái)“二選一”問題為代表的市場壟斷和競爭創(chuàng)新問題;4)以社交媒體平臺(tái)上美國大選干擾為新特征的信息操控與民主政治;5)以臉書發(fā)行數(shù)字貨幣Libra為代表的金融創(chuàng)新與顛覆等等。這些議題之外當(dāng)然還可以列出更多的議題,但是可以發(fā)現(xiàn)最后都落到了“如何治理”的問題?!耙?guī)則制定”是治理的根本,其中“由誰制定規(guī)則”是要害。在平臺(tái)治理中,“由誰制定規(guī)則”也就是“平臺(tái)自我治理還是外部介入治理”問題,可以總結(jié)為“自治還是他治”。這是平臺(tái)治理的元問題。

    Facebook作為全球最大的社交平臺(tái),其所面臨的平臺(tái)治理困境具有高度典型性。通過網(wǎng)絡(luò)平臺(tái)的賦權(quán),臉書獲得前所未有的全球性影響力,已經(jīng)成為一個(gè)全球性的權(quán)力中心,但很明顯這種新的權(quán)力中心化帶來諸多社會(huì)問題。臉書聚集了幾乎所有平臺(tái)治理的核心困境,從處于爭議核心的平臺(tái)所有權(quán)問題到同樣復(fù)雜的數(shù)據(jù)治理問題、算法透明問題、責(zé)任分配問題、全球化問題等等。本文采用案例分析與理論詮釋的研究方法,以臉書為案例,綜合治理理論、權(quán)力理論以及國際關(guān)系理論,建構(gòu)和完善網(wǎng)絡(luò)空間全球治理體系的分析框架,結(jié)合對治理思想和權(quán)力思想的詮釋分析,探討網(wǎng)絡(luò)空間治理中的平臺(tái)治理的原則與機(jī)制,以回答網(wǎng)絡(luò)平臺(tái)的“自治還是他治”問題。

    二、平臺(tái)治理的架構(gòu)

    平臺(tái)治理是網(wǎng)絡(luò)空間治理的重要組成部分。數(shù)字文明時(shí)代,網(wǎng)絡(luò)空間治理不僅是國家治理的重要組成部分,更是涉及全體人類福祉的全球治理不可或缺的一環(huán),其關(guān)聯(lián)要素特別復(fù)雜且具有動(dòng)態(tài)性,因此網(wǎng)絡(luò)空間治理體系需要進(jìn)行多維的能夠包容多個(gè)主體和多個(gè)要素的復(fù)雜體系建構(gòu)。我們在前人研究的基礎(chǔ)上,經(jīng)過不斷探索形成了一個(gè)網(wǎng)絡(luò)空間治理體系的基本研究框架。這個(gè)框架的基礎(chǔ)是首先要理解四個(gè)關(guān)鍵詞:互聯(lián)網(wǎng)治理與網(wǎng)絡(luò)空間治理,國家治理與全球治理。這四個(gè)概念相互關(guān)聯(lián)又相互區(qū)別,是網(wǎng)絡(luò)空間治理體系的四塊基石。

    從一般意義上,互聯(lián)網(wǎng)治理主要指早期互聯(lián)網(wǎng)關(guān)鍵技術(shù)的研發(fā)和關(guān)鍵資源的分配,網(wǎng)絡(luò)空間治理包含了互聯(lián)網(wǎng)技術(shù)的治理也包含了構(gòu)筑在互聯(lián)網(wǎng)之上的社會(huì)空間的治理;國家治理指主權(quán)國家內(nèi)部對社會(huì)公共事務(wù)的管理,全球治理指在全球?qū)用鎸﹃P(guān)于人類共同利益問題的商討與解決。從出現(xiàn)先后來看,互聯(lián)網(wǎng)治理在前,網(wǎng)絡(luò)空間治理在后;國家治理在前,全球治理在后。互聯(lián)網(wǎng)治理包含在網(wǎng)絡(luò)空間治理之中,是網(wǎng)絡(luò)空間治理的一個(gè)層面;國家治理也包含在全球治理之中,不同國家間相互又各有獨(dú)立性;互聯(lián)網(wǎng)治理和網(wǎng)絡(luò)空間治理都可以分為國家治理與全球治理兩大領(lǐng)域,兩者密切關(guān)聯(lián)又有很大區(qū)別?;ヂ?lián)網(wǎng)的無國界特性與主權(quán)國家的領(lǐng)土管轄體制之間存在天然的矛盾(Mueller,2010),因此互聯(lián)網(wǎng)的國家治理與全球治理之間存在著各種沖突和張力,甚至有人擔(dān)憂互聯(lián)網(wǎng)“分裂”(Fragmentation)和“巴爾干化”(Balkanization)(Force, 2012; Drake, Cerf, Kleinw?chter, 2016; Mueller, 2017)。在全球發(fā)展前景充滿不確定性,國家間信任越來越脆弱的今天,構(gòu)建網(wǎng)絡(luò)空間治理的系統(tǒng)性理解框架和具有內(nèi)在生命力的整體治理體系是實(shí)現(xiàn)網(wǎng)絡(luò)空間命運(yùn)共同體的迫切需要。

    掌管著互聯(lián)網(wǎng)關(guān)鍵資源分配的互聯(lián)網(wǎng)名稱與數(shù)字地址分配機(jī)構(gòu)(ICANN)一直處于互聯(lián)網(wǎng)治理的核心地帶,其提出的互聯(lián)網(wǎng)治理三層架構(gòu)也被廣為接受和使用,即基礎(chǔ)架構(gòu)層、邏輯層、經(jīng)濟(jì)和社會(huì)層(內(nèi)容應(yīng)用層)。但是,經(jīng)過半個(gè)世紀(jì)的發(fā)展,今天的互聯(lián)網(wǎng)已經(jīng)成就了人類的網(wǎng)絡(luò)空間,其中網(wǎng)絡(luò)平臺(tái)使巨型互聯(lián)網(wǎng)公司逐漸顯現(xiàn)出巨大的影響力。所以,我們在ICANN原來的三層治理結(jié)構(gòu)基礎(chǔ)上創(chuàng)造性地加了一個(gè)平臺(tái)層,形成了一個(gè)更為完整的網(wǎng)絡(luò)空間治理四層架構(gòu)。(見圖1)

    圖1 網(wǎng)絡(luò)空間全球治理體系結(jié)構(gòu)圖④

    網(wǎng)絡(luò)平臺(tái)在ICANN三層級架構(gòu)中屬于經(jīng)濟(jì)和社會(huì)層(內(nèi)容應(yīng)用層),被定義為與內(nèi)容相關(guān)的信息中介,往往與信息傳播自由等公民權(quán)利相關(guān)(德拉迪斯,2017,pp.175-179)。在數(shù)字經(jīng)濟(jì)的爆炸式發(fā)展下,網(wǎng)絡(luò)平臺(tái)已經(jīng)成為市場集中化發(fā)展的核心驅(qū)動(dòng)力之一。對廣大用戶來說,我們?nèi)粘ヂ?lián)網(wǎng)進(jìn)行操作主要通過網(wǎng)絡(luò)平臺(tái)交互界面,這是我們對互聯(lián)網(wǎng)最直接的感知。網(wǎng)絡(luò)平臺(tái)處于網(wǎng)絡(luò)空間中承上啟下的重要位置,勾連了社會(huì)行為和技術(shù)代碼。網(wǎng)絡(luò)平臺(tái)實(shí)現(xiàn)了網(wǎng)絡(luò)空間的社會(huì)意義,其重要性已經(jīng)遠(yuǎn)遠(yuǎn)超過信息中介的功能。因此,從經(jīng)濟(jì)影響力和社會(huì)意義來說,網(wǎng)絡(luò)平臺(tái)應(yīng)該成為一個(gè)獨(dú)立的平臺(tái)層。這種單獨(dú)層級的提出具有認(rèn)識(shí)論上的革新意義,有益于對平臺(tái)社會(huì)的深入理解。

    平臺(tái)層主要的行為主體是大型私有平臺(tái)企業(yè),如美國的FAMGA(臉書、蘋果、微軟、谷歌、亞馬遜)和中國的BATT(百度、阿里巴巴、騰訊、今日頭條),核心議題是平臺(tái)使用規(guī)則、數(shù)據(jù)治理、平臺(tái)間競爭等。恰恰是大型平臺(tái)公司營建起了網(wǎng)絡(luò)平臺(tái),所以他們在平臺(tái)層中成為具有規(guī)則影響力的行為體。當(dāng)然國家政府依然是最重要的秩序維護(hù)者,而公民社會(huì)是最重要也是最迫切需要被保護(hù)的對象。當(dāng)前的問題在于,網(wǎng)絡(luò)平臺(tái)除了提供經(jīng)濟(jì)效益和社會(huì)福利之外,對公民權(quán)益的侵害成為一個(gè)令人擔(dān)憂的問題。近年來最典型的如臉書的劍橋數(shù)據(jù)泄露事件,涉及前所未有的8000萬人數(shù)據(jù)權(quán)利的侵害。平臺(tái)層正上升為網(wǎng)絡(luò)空間的關(guān)鍵層級,如何理解平臺(tái)公司手中的這種巨大影響力以及其與各方行為體之間的關(guān)系,正是網(wǎng)絡(luò)空間平臺(tái)治理需要解答的核心問題。

    三、平臺(tái)治理的模式與理念

    平臺(tái)層治理的特性根源于網(wǎng)絡(luò)空間治理的特性,平臺(tái)治理需要放在網(wǎng)絡(luò)空間治理的歷史和理論視野中分析。從20世紀(jì)90年代開始,在東西方視野下,網(wǎng)絡(luò)空間治理逐漸形成兩種不同的治理理念,即多邊主義(Multilateralism)和多方主義(Multistakeholderism),前者往往指網(wǎng)絡(luò)主權(quán),后者即通常所說的多利益攸關(guān)方。⑤多邊主義帶有強(qiáng)烈的東方國家色彩,以主權(quán)國家為決策核心,主張政府在互聯(lián)網(wǎng)事務(wù)中起主導(dǎo)作用,其他團(tuán)體協(xié)同參與,倡導(dǎo)以網(wǎng)絡(luò)主權(quán)為基本原則,在聯(lián)合國框架內(nèi)制定互聯(lián)網(wǎng)發(fā)展政策和解決網(wǎng)絡(luò)空間國際問題。多方主義由西方發(fā)達(dá)國家發(fā)起和倡導(dǎo),更注重互聯(lián)網(wǎng)各參與方的利益訴求,提倡自下而上的決策機(jī)制,將決策權(quán)力交給各利益攸關(guān)方,強(qiáng)調(diào)了私營部門和公民社會(huì)的平等參與,有意弱化主權(quán)國家的政府權(quán)力。不同于傳統(tǒng)集權(quán)式的自上而下管理方式,多利益攸關(guān)方模型強(qiáng)調(diào)自下而上的開放式參與(Bottom-up Process)。⑥

    互聯(lián)網(wǎng)首先應(yīng)當(dāng)是一種文化創(chuàng)造,由于歷史起源和技術(shù)本身的特殊性,其天然地具有自由化基因(卡斯特,2006,p.38)。這種內(nèi)在的自由基因不斷地反抗來自政府的控制,因此產(chǎn)生了自下而上的多利益攸關(guān)方治理模式,將政府限制在與私營企業(yè)、技術(shù)社群、公民社會(huì)同等權(quán)力的決策地位,甚至在一定程度上將政府排除在決策權(quán)力之外。⑦早期的互聯(lián)網(wǎng)治理呈現(xiàn)出以技術(shù)治理為主的特性,網(wǎng)絡(luò)空間里代碼即法律,自由主義被深深地嵌入?yún)f(xié)議代碼之中。美國前總統(tǒng)比爾·克林頓曾有一個(gè)很有名的比喻:欲圖控制互聯(lián)網(wǎng)簡直像想把布丁釘在墻上一樣困難。

    但是隨著互聯(lián)網(wǎng)商業(yè)化的加速,互聯(lián)網(wǎng)治理越來越多地進(jìn)入公共政策領(lǐng)域,大量社會(huì)和經(jīng)濟(jì)連帶問題的產(chǎn)生呼喚國家的公共管理職能,加上國家天然具有的追求互聯(lián)網(wǎng)管理權(quán)的內(nèi)在偏好,因此技術(shù)專家主張和實(shí)施的互聯(lián)網(wǎng)治理“去國家化”的美好圖景并沒有實(shí)現(xiàn)(劉建偉,2015;Goldsmith & Wu,2006)。特別是在網(wǎng)絡(luò)安全的推動(dòng)下,傳統(tǒng)主權(quán)國家紛紛強(qiáng)化了對互聯(lián)網(wǎng)的治理,網(wǎng)絡(luò)空間出現(xiàn)了“再國家化”趨勢,網(wǎng)絡(luò)自由主義風(fēng)光不再,而網(wǎng)絡(luò)現(xiàn)實(shí)主義則強(qiáng)勢回歸(王明進(jìn), 2016)。

    網(wǎng)絡(luò)空間治理不同模式的本質(zhì)區(qū)別在于自下而上的開放與自上而下的集權(quán)。多邊主義自覺將政府放在公眾利益的守護(hù)者位置上,形成政府主導(dǎo)下的權(quán)力集中制,通過國家意志推動(dòng)以及引導(dǎo)有關(guān)議題的發(fā)展,對內(nèi)建立一套自上而下的管理體系,對外構(gòu)筑國家間的多邊關(guān)系秩序;而多利益攸關(guān)方更強(qiáng)調(diào)對個(gè)體賦權(quán),相信公共福利的最大化在于各利益攸關(guān)方的自我爭取和協(xié)商,同時(shí)相信自治體系更有助于目標(biāo)的完成,由此主張自下而上的政策決定機(jī)制。

    從更深層次來說,人類社會(huì)的規(guī)范來源于自發(fā)網(wǎng)絡(luò)和等級制度兩種模式。尼爾·弗格森(Niall Ferguson)用廣場和高塔分別隱喻分散網(wǎng)絡(luò)和等級制度,并觀察到人類從文明開始便生活在廣場和高塔并存的世界(弗格森, 2020, p.399)。事實(shí)上,韋伯指出以等級制度為基礎(chǔ)的現(xiàn)代科層官僚制彌散于整個(gè)社會(huì)的公私領(lǐng)域,成為人類社會(huì)治理模式的主流(韋伯,2004,p.318)。而進(jìn)入21世紀(jì)之后,卡斯特的網(wǎng)絡(luò)社會(huì)理論揭示了全球經(jīng)濟(jì)組織的基本單位變成了網(wǎng)絡(luò),網(wǎng)絡(luò)越發(fā)成為社會(huì)組織和運(yùn)作的基本形態(tài)(Castells,1996)。弗朗西斯·福山基于社會(huì)學(xué)和生物學(xué)基礎(chǔ)對社會(huì)規(guī)范的來源加入了理性的維度,認(rèn)為規(guī)范可以從自發(fā)產(chǎn)生/等級制方式產(chǎn)生和理性/非理性兩個(gè)維度被分為四大類型,此處的理性是指供選擇的社會(huì)規(guī)范事先經(jīng)過人們有意識(shí)的討論和比較。在這種劃分下,典型的類型如正式法律屬于理性的通過等級制方式產(chǎn)生的,而市場也屬于理性的但是通過自發(fā)性方式產(chǎn)生的(福山, 2001,pp.185-195)。網(wǎng)絡(luò)空間中的規(guī)范同樣適用這種劃分,多邊主義是在理性驅(qū)動(dòng)下通過等級制方式產(chǎn)生,與正式法律屬于同一種性質(zhì);多利益攸關(guān)方主義同樣是理性驅(qū)動(dòng)下但通過自發(fā)性方式產(chǎn)生,遵從于自由競爭的規(guī)則,類似于市場機(jī)制。(圖2)

    福山進(jìn)一步指出,社會(huì)秩序永遠(yuǎn)從等級制和自發(fā)性兩種混合的源泉中產(chǎn)生(福山, 2001,p.290)。網(wǎng)絡(luò)空間的秩序亦是如此。幾十年的互聯(lián)網(wǎng)發(fā)展經(jīng)驗(yàn)證明,網(wǎng)絡(luò)空間中傳統(tǒng)官僚等級制和網(wǎng)絡(luò)自發(fā)性的規(guī)范都不足以單獨(dú)完成網(wǎng)絡(luò)空間良好秩序的建構(gòu)。因此,無論多邊主義還是多方主義均不能單獨(dú)地實(shí)現(xiàn)網(wǎng)絡(luò)空間的良好治理,即網(wǎng)絡(luò)空間善治。多邊主義帶有天然的管制思想,產(chǎn)生于工業(yè)時(shí)期的原子世界,與互聯(lián)網(wǎng)比特世界那種天然的自由理念有較大的沖突。多方主義恰恰帶有互聯(lián)網(wǎng)早期階段的自由浪漫思想,甚至成為網(wǎng)絡(luò)空間全球治理“政治正確”的標(biāo)簽(郎平, 2017),但在互聯(lián)網(wǎng)從技術(shù)架構(gòu)轉(zhuǎn)向社會(huì)空間過程越來越無力應(yīng)對復(fù)雜的社會(huì)治理問題。前者的不成功體現(xiàn)在聯(lián)合國長期以來想接管互聯(lián)網(wǎng)的挫敗,而后者體現(xiàn)在明顯的適用范圍局限性,從全球范圍來看,除了在像ICANN 、IETF(互聯(lián)網(wǎng)工程任務(wù)組)這類互聯(lián)網(wǎng)技術(shù)組織中多利益攸關(guān)方模式運(yùn)行得比較順暢之外,其他的領(lǐng)域很難產(chǎn)生出有建設(shè)性的成果。

    網(wǎng)絡(luò)空間治理模式問題,關(guān)鍵在于哪個(gè)主體發(fā)揮主導(dǎo)作用,以及其他相關(guān)方的所處位置在哪(李曉東, 2017)。網(wǎng)絡(luò)空間治理領(lǐng)域長期以來一直爭執(zhí)不下的“多利益攸關(guān)方模式”還是“網(wǎng)絡(luò)主權(quán)模式”問題,實(shí)質(zhì)在于是以網(wǎng)絡(luò)自發(fā)規(guī)范還是以等級制度規(guī)范為主導(dǎo),表現(xiàn)為在治理體系中怎么擺放國家政府的位置。網(wǎng)絡(luò)空間治理并不是鐵板一塊,不同層級里的不同議題體現(xiàn)出的政府管理和去政府管理程度不一樣。如果從網(wǎng)絡(luò)空間的層級架構(gòu)來看,邏輯代碼層最典型體現(xiàn)了互聯(lián)網(wǎng)去政府化管理的特性,但是基礎(chǔ)設(shè)施層面更被多納入傳統(tǒng)國際法體系的管理,同時(shí)內(nèi)容應(yīng)用層主要由各個(gè)國家的制度所管轄。

    平臺(tái)層治理在網(wǎng)絡(luò)空間治理體系中處于政府化管理和去政府化管理之間的特殊地帶。平臺(tái)層因其天然的無邊界性和跨國性,與邏輯層一樣,具有去政府化的治理特性,但是因?yàn)槠脚_(tái)承載著大量具有國家和地區(qū)特性的內(nèi)容又必須遵守各國法律制度。網(wǎng)絡(luò)平臺(tái)的商業(yè)根基是深深植根于國家和區(qū)域市場的,去政府化的治理必然與所在地的國家治理發(fā)生沖突。因此,平臺(tái)層的規(guī)范同時(shí)來源于自發(fā)的網(wǎng)絡(luò)和等級制度,表現(xiàn)在網(wǎng)絡(luò)空間治理中便是網(wǎng)絡(luò)自我治理和網(wǎng)絡(luò)主權(quán)國家治理。但是,平臺(tái)層的秩序如果僅來源于國家政府的等級制管理和統(tǒng)治,那么承載人們行為的平臺(tái)就成為??滤鶕?dān)憂的那種全景監(jiān)獄;如果僅來源于網(wǎng)絡(luò)自發(fā)性的話,在市場力量的優(yōu)勝劣汰下,網(wǎng)絡(luò)平臺(tái)最終將不可避免成為平臺(tái)公司的封地,平臺(tái)公司將成為封建主,平臺(tái)上的人們成為其附庸的農(nóng)奴。⑨而當(dāng)前,這種平臺(tái)層失序的風(fēng)險(xiǎn)更有可能來源于后者,因?yàn)榇笮推脚_(tái)公司已經(jīng)主導(dǎo)平臺(tái)層,成為互聯(lián)網(wǎng)集中過程中的新權(quán)力中心(ISOC, 2019)。⑩

    在某種意義上,今天平臺(tái)治理困境背后的原因在于規(guī)范長期來源于網(wǎng)絡(luò)自我治理的供給,私營平臺(tái)企業(yè)通過自由的市場競爭而獲得了事實(shí)性的權(quán)力中心地位,但是在應(yīng)對社會(huì)公共問題時(shí)卻有心無力,平臺(tái)層的權(quán)力逐漸失衡。因此,理順和反思平臺(tái)層中的權(quán)力關(guān)系是尋求一種新治理模式的邏輯起點(diǎn)。

    四、平臺(tái)權(quán)力與治理新原則

    平臺(tái)權(quán)力(platform power)是一個(gè)創(chuàng)新的概念,本文用其指網(wǎng)絡(luò)平臺(tái)具有為社會(huì)行為體賦權(quán)的屬性,即控制網(wǎng)絡(luò)平臺(tái)的主體擁有極大的社會(huì)權(quán)力。這個(gè)賦權(quán)的過程引起了社會(huì)權(quán)力結(jié)構(gòu)變化。網(wǎng)絡(luò)平臺(tái)改變了既有的社會(huì)權(quán)力結(jié)構(gòu),其結(jié)果是不均衡地為私營企業(yè)賦予更多的權(quán)力,也就是在網(wǎng)絡(luò)空間里平臺(tái)公司擁有了相對于其他主體更為強(qiáng)勢的地位(方興東、嚴(yán)峰,2019)。網(wǎng)絡(luò)平臺(tái)客觀上重塑企業(yè)、用戶和政府之間的權(quán)界,平臺(tái)公司成為新的權(quán)力中心,在社會(huì)權(quán)力結(jié)構(gòu)中占有一席之地(易前良,2019)。以社交媒體平臺(tái)為例,臉書通過提供數(shù)字時(shí)代的表達(dá)和行動(dòng)空間獲得一種新的數(shù)字規(guī)訓(xùn)能力,具體表現(xiàn)為對旗下的Facebook、Instagram等平臺(tái)上的行為支配和觀念塑造,以及更為深遠(yuǎn)的是不斷提供行為準(zhǔn)則以塑造社會(huì)規(guī)范。

    平臺(tái)企業(yè)獲得權(quán)力是在互聯(lián)網(wǎng)賦權(quán)的整體趨勢里,這種趨勢的重要表現(xiàn)是私營互聯(lián)網(wǎng)企業(yè)對社會(huì)管理的代理和介入。正如互聯(lián)網(wǎng)治理資深學(xué)者勞拉·德拉迪斯(Laura Denardis)所言,“無論是好是壞,委托審查、監(jiān)管、版權(quán)執(zhí)法和法律實(shí)施實(shí)際上已經(jīng)是由私營企業(yè)和非政府機(jī)構(gòu)在承擔(dān)治理工作”(德拉迪斯,2017,p.15)。而且這種代理化和委托式的現(xiàn)象有著更廣泛的政治背景,一是國家傳統(tǒng)職能委托代理的全球現(xiàn)象,二是跨國公司管理決策行為的全球影響(德拉迪斯,2017,pp.15-16)。權(quán)力從公共部門流散到私營平臺(tái)企業(yè)手中,在國內(nèi)層面“私化”了公權(quán)力,在國際層面“協(xié)商化”了國家主權(quán),整體上沖擊了國家政府的權(quán)力(劉金河,2019)。往深處看,這種廣泛的變化趨勢正是人類社會(huì)治理思想流變的體現(xiàn),也就是上文闡述的網(wǎng)絡(luò)社會(huì)的發(fā)展以及非國家主導(dǎo)治理思想的出現(xiàn)與傳播。

    面對平臺(tái)公司權(quán)力不斷壯大的客觀事實(shí),拆分或國有化網(wǎng)絡(luò)平臺(tái)都是一個(gè)極端的方式,我們需要的是冷靜下來尋找一種具有現(xiàn)實(shí)可操作性且能發(fā)揮現(xiàn)代治理精神的路徑。基于對網(wǎng)絡(luò)空間治理關(guān)鍵問題的理解,這種路徑的起點(diǎn)是重新思考權(quán)力制衡,在某種程度上實(shí)現(xiàn)對平臺(tái)公司的“私權(quán)力”進(jìn)行公共化治理,在平臺(tái)“自治”和“他治”中尋找平衡。絕對的權(quán)力必然導(dǎo)致絕對的腐敗,沒有約束的權(quán)力必然走向極端。

    本文提出應(yīng)建立一種以權(quán)力制衡為核心的平臺(tái)治理原則。這種新治理原則的內(nèi)在精神是一種新的社會(huì)契約關(guān)系——權(quán)力制約關(guān)系,我們權(quán)且謂之?dāng)?shù)字社會(huì)契約。這種“數(shù)字社會(huì)契約”是對規(guī)則制定權(quán)力的公私屬性的重新確認(rèn)。確定誰制定規(guī)則需要一種新的社會(huì)契約精神,核心歸結(jié)起來是承認(rèn)平臺(tái)擁有者的私有財(cái)產(chǎn)地位,但同時(shí)強(qiáng)調(diào)平臺(tái)的公共性,由此形成權(quán)力確認(rèn)和權(quán)力約束的基本思想,最終落腳到權(quán)力制衡。

    網(wǎng)絡(luò)空間或者平臺(tái)社會(huì)的本質(zhì)依然是人和人的關(guān)系。這種關(guān)系并沒有脫離理論家對社會(huì)的定義,因此經(jīng)典政治問題——誰統(tǒng)治?以何種形式統(tǒng)治?誰受益?——不僅與傳統(tǒng)的有形空間相關(guān),也與網(wǎng)絡(luò)空間相關(guān)(羅伯特·歐基漢、約瑟夫·奈,2012,p.238)。網(wǎng)絡(luò)平臺(tái)改變了社會(huì)權(quán)力結(jié)構(gòu),因此一種新的權(quán)力制衡關(guān)系需要被建構(gòu)出來。本文提出的平臺(tái)治理新社會(huì)契約論是在讓權(quán)力關(guān)系建構(gòu)回歸到了社會(huì)組成的基本思想的邏輯下,重新考察和調(diào)整了社會(huì)契約論在數(shù)字時(shí)代的解釋。

    社會(huì)契約論者的基本思想認(rèn)為,在國家之前是一種原始的“自然狀態(tài)”,人們經(jīng)過協(xié)議,訂立契約建立了國家,因此國家來源于人民。社會(huì)契約論是17、18世紀(jì)資產(chǎn)階級思想家為建立資產(chǎn)階級“理性王國”而提出的,也是奠定了近現(xiàn)代國家基礎(chǔ)的一種經(jīng)典國家起源學(xué)說,主要以格勞秀斯、斯賓諾莎、霍布斯、洛克、盧梭等為代表。在國家來源于人民的權(quán)利讓渡的共識(shí)前提下,不同思想家的價(jià)值取向并不同?;舨妓拐J(rèn)為,人們訂立契約是為了結(jié)束“所有人對所有人的戰(zhàn)爭”,而把權(quán)利讓渡給一個(gè)最高主權(quán)者(霍布斯,1985)。洛克認(rèn)為自然狀態(tài)是一種自由平等的樂土,但是為了保障私有財(cái)產(chǎn),人們簽訂契約在必要的范圍內(nèi)限制自己的權(quán)利和自由,形成有序的競爭(洛克,1964)。盧梭是社會(huì)契約論最具有代表性的思想家,他提出人們簽訂協(xié)議建立國家是為了謀求共同的福利,以此形成最高公意。在約定權(quán)利下人人平等,而且在共同體中接納的每一個(gè)成員作為全體之不可分割的一部分(盧梭,1997,2003)。

    根據(jù)數(shù)字社會(huì)契約論的精神,私有平臺(tái)公司、用戶以及政府等相關(guān)利益方應(yīng)該簽訂一種新契約,在保持平臺(tái)私有運(yùn)營的基礎(chǔ)上實(shí)現(xiàn)社會(huì)公共性。在政治學(xué)的基本原理中,分權(quán)與問責(zé)是權(quán)力制約的兩種基本形式,這也是本文提出的平臺(tái)治理限權(quán)原則的實(shí)現(xiàn)路徑。因此,這種新契約具體實(shí)現(xiàn)方式的可能性是公眾分權(quán),一種基于公眾組織性監(jiān)督、通過技術(shù)的監(jiān)管以及數(shù)據(jù)權(quán)屬再分配的方案。政府問責(zé),一種基于加強(qiáng)政府監(jiān)管的方式。在平臺(tái)全球治理中,私營平臺(tái)公司國際行動(dòng)的主體資格需要被確認(rèn),但其權(quán)力需要被制衡,由此與傳統(tǒng)主權(quán)國家形成一種合作和制衡的關(guān)系,最終形成一種人類命運(yùn)共同體的治理秩序。網(wǎng)絡(luò)空間治理的最終目標(biāo)是讓人類命運(yùn)共同體從應(yīng)然走向?qū)嵢?,通過訂立新的契約關(guān)系制衡權(quán)力,讓治理主體各歸其位,權(quán)責(zé)分明,形成真正意義上的立體協(xié)同共治。這樣的愿景和原則就是新平臺(tái)層治理的愿景和原則。

    五、平臺(tái)的全球治理

    當(dāng)前,平臺(tái)層治理最大的挑戰(zhàn)在于對全球性網(wǎng)絡(luò)平臺(tái)的治理。全球性網(wǎng)絡(luò)平臺(tái)治理處于國家政府的權(quán)力真空地帶,同時(shí)也是全球治理的空白。全球治理一直有一個(gè)困境,也就是政府是每個(gè)國家的政府,市場卻是全球性的,由此形成了全球性治理的最大弱點(diǎn)——沒有一個(gè)清晰的問責(zé)關(guān)系(羅德里克,2011,p.8、178)。平臺(tái)層的權(quán)力掌握在全球性網(wǎng)絡(luò)平臺(tái)擁有者——私營平臺(tái)企業(yè)手中,他們定義平臺(tái)上的言論和行為的邊界,正如臉書一樣。在數(shù)字時(shí)代的國際秩序中,全球性網(wǎng)絡(luò)平臺(tái)公司應(yīng)該扮演什么樣的角色?進(jìn)一步說,是否應(yīng)承認(rèn)這類私有公司作為非國家行為體具有制定全球規(guī)則的權(quán)力和地位呢?

    關(guān)于這個(gè)問題的理論探索必須回歸到當(dāng)今國際體系的基本原則中去?,F(xiàn)代國際體系起源于西方傳統(tǒng),經(jīng)歷了數(shù)次哲學(xué)論的轉(zhuǎn)變,形成了“人人為敵”的霍布斯文化,“人人為競爭對手”的洛克文化,“人人為友”的康德文化(Wendt,1999,p.250)?;舨妓刮幕侵?7世紀(jì)民族國家體系形成之前國家相互為敵的國際觀念與規(guī)范??档挛幕浅躏@于歐美國家安全共同體之內(nèi)的觀念與文化,目前還不是主流。洛克文化是指國家互為競爭對手的觀念與規(guī)范,這種文化已經(jīng)有近四百年歷史,在當(dāng)前國際政治中仍居主導(dǎo)地位(閻學(xué)通、何穎,2017,p.37)?,F(xiàn)代國際體系建立在威斯特伐利亞體系(Westphalian System)的民族國家主權(quán)原則的框架之內(nèi)。威斯特伐利亞體系是1648年歐洲各國為結(jié)束三十年戰(zhàn)爭而簽訂的一系列和約,標(biāo)志著民族國家開始登上歷史舞臺(tái),確立了國家主權(quán)至上的國際基本原則,是近現(xiàn)代國際關(guān)系的奠基石??梢哉f,以洛克主義為精神、以威斯特伐利亞體系為基礎(chǔ)形成了當(dāng)前基于網(wǎng)絡(luò)主權(quán)的網(wǎng)絡(luò)空間國際秩序。

    數(shù)字社會(huì)契約論的核心思想在于承認(rèn)地位但強(qiáng)調(diào)力量制衡,對于平臺(tái)全球治理提出在當(dāng)前的威斯特伐利亞體系中引入新的行為體——私營企業(yè)。全球性網(wǎng)絡(luò)平臺(tái)公司作為平臺(tái)層中重要的行為體之一的國際行為能力需要被確認(rèn),由此形成的國際層面的主體地位需要被承認(rèn),同時(shí)非常重要的是,其權(quán)力需要被制約。概括起來,應(yīng)該承認(rèn)私營平臺(tái)企業(yè)國際行為主體的資格,但是通過契約的方式制衡其權(quán)力,與傳統(tǒng)主權(quán)國家形成一種制衡和競爭的關(guān)系,最終形成一種命運(yùn)共同體的治理秩序。這是對網(wǎng)絡(luò)空間全球治理歷史和經(jīng)驗(yàn)的繼承,同時(shí)也是對既有國際體系的改良。

    私營平臺(tái)公司在網(wǎng)絡(luò)空間全球治理中的不可或缺以及其發(fā)揮的積極作用需要被確認(rèn),但是當(dāng)前其所獲得的全球性權(quán)力正在沖擊各個(gè)主權(quán)國家和國際治理體系,權(quán)力失衡的風(fēng)險(xiǎn)并不是杞人憂天。例如,2019年夏天,針對香港修例風(fēng)波,國際最具影響力的三家社交媒體平臺(tái)公司臉書、推特和谷歌同時(shí)對來自中國內(nèi)地的具有官方背景的社交賬號和信息采取聯(lián)合查封行動(dòng),一時(shí)間引起國內(nèi)外輿論的高度關(guān)注。因此,全球性網(wǎng)絡(luò)平臺(tái)在全球?qū)用嫘枰阅撤N社會(huì)公共性被規(guī)范,納入國際監(jiān)督體系中。監(jiān)督全球性網(wǎng)絡(luò)平臺(tái)的可行方式是由主權(quán)國家的政府牽頭發(fā)起一種規(guī)則協(xié)商機(jī)制,將主要國家、國家間組織、公民社會(huì)組織以及最重要的是平臺(tái)公司納入一個(gè)決策實(shí)體中,就全球性問題做出有執(zhí)行效力的決策。

    這是一種真正意義上的共治共享,融合吸納了多邊主義和多方主義的優(yōu)點(diǎn)和長處,也是中國倡導(dǎo)的構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體的重要途徑。在某種程度上,當(dāng)下的治理結(jié)構(gòu)已經(jīng)不適應(yīng)網(wǎng)絡(luò)平臺(tái)的快速發(fā)展,對新的治理體系和機(jī)制的呼喚是數(shù)字時(shí)代的重要治理議題。

    網(wǎng)絡(luò)空間全球治理的模式需要不同利益相關(guān)方不斷探索以達(dá)成共識(shí),不同文化應(yīng)當(dāng)提供不同的智慧最終形成以人類命運(yùn)共同體為歸宿的可行方案。網(wǎng)絡(luò)平臺(tái)全球治理有望為這種美好愿望提供最佳實(shí)踐。我們所期待的美好社會(huì)應(yīng)該是一個(gè)人民當(dāng)家作主的開放的社會(huì),我們必須警惕的是社會(huì)在集權(quán)控制中失去活力,因此治理的目標(biāo)在于一方面保證競爭的活力在創(chuàng)新中不斷涌現(xiàn),但另一方面警惕網(wǎng)絡(luò)空間變成平臺(tái)公司專制統(tǒng)治的封建帝國。

    注釋

    ① 為了在行文中進(jìn)行區(qū)分,本文用“Facebook”指Facebook這款社交網(wǎng)絡(luò)平臺(tái),用“臉書”指代其公司主體。

    ② 2019年第四季度,F(xiàn)acebook月活躍用戶數(shù)約25億。數(shù)據(jù)來源:www.statista.com。

    ③ 在不少媒體或者公共言論中,臉書常常被認(rèn)為打造了一個(gè)社交帝國,以至于2015年一部紀(jì)錄片直接以《臉書國》(Facebookistan)為標(biāo)題,直呼臉書是一個(gè)國家。在這種描述版本中,這個(gè)臉書國有20多億的人口,有一整套完整的法律和制度,也有一個(gè)中央政府——臉書的管理層,以及一個(gè)國王——臉書CEO扎克伯格。這個(gè)國家比肩于現(xiàn)實(shí)中的主權(quán)國家(Nation State),甚至有了外交,成為丹麥政府向美國硅谷派駐大使開展“技術(shù)外交”的對象。關(guān)于“臉書國家論”的綜述見:徐偲骕,姚建華(2018):臉書是一個(gè)國家嗎?——Facebookistan與社交媒體的國家化想象,《新聞?dòng)浾摺?,?5-25頁,第11期。

    ④ 此圖是在ICANN于2015年提出的網(wǎng)絡(luò)空間數(shù)字治理圖的基礎(chǔ)上修改而成的。

    ⑤ 多利益攸關(guān)方的不同表述還有:Multistakeholder Model, Multi-stakeholder Process, Multiple Stakeholder Relationship; Multi-stakeholder Initiative。從中可以看出,有的側(cè)重決策機(jī)制流程和模型,有的更關(guān)注利益攸關(guān)方的關(guān)系,有的則重點(diǎn)放在進(jìn)程發(fā)起的倡議。此處,本文選用“多利益攸關(guān)方主義”主要用于泛指與多利益攸關(guān)方相關(guān)的思想和行動(dòng),而不是狹義上的那種多利益攸關(guān)方主義者。

    ⑥ 參考ICANN多利益攸關(guān)方政策制定流程圖,見https://www.icann.org/sites/default/files/assets/multistakeholder-policy-development-29feb16-zh.pdf。

    ⑦ 1996年約翰·巴洛發(fā)布著名的《網(wǎng)絡(luò)空間獨(dú)立宣言》,宣稱:我們不歡迎政府。在實(shí)踐中,互聯(lián)網(wǎng)治理領(lǐng)域確實(shí)將限制政府權(quán)力制度化,如ICANN的政府咨詢委員會(huì)(GAC)對ICANN日常決策只有咨詢建議權(quán)卻沒有決策權(quán),同時(shí),聯(lián)合國下屬機(jī)構(gòu)國際電信聯(lián)盟(ITU)一直未能取得關(guān)于互聯(lián)網(wǎng)監(jiān)管的實(shí)質(zhì)權(quán)力,而聯(lián)合國主辦的互聯(lián)網(wǎng)治理論壇(IGF)一直被詬病為一個(gè)議而不決的“清談館”。事實(shí)上,除了聯(lián)合國信息安全政府專家組對互聯(lián)網(wǎng)相關(guān)問題作出過有實(shí)際影響力的決策推動(dòng)之外,聯(lián)合國體系內(nèi)幾乎對互聯(lián)網(wǎng)治理沒有起到直接的決策作用,而聯(lián)合國信息安全政府專家組目前也陷入困境。

    ⑧ 此圖是對弗朗西斯·福山提出的原型的應(yīng)用。參見:弗朗西斯·福山(2001):《大分裂:人類本性與社會(huì)秩序的重建》(劉榜離,等譯),北京:中國社會(huì)科學(xué)出版社,第193頁。

    ⑨ 關(guān)于這種封建主—農(nóng)奴的比喻參考:Schneier B. (2015).Dataandgoliath:Thehiddenbattlestocollectyourdataandcontrolyourworld. New York and London: W.W. Norton.

    ⑩ 國際互聯(lián)網(wǎng)協(xié)會(huì)年度報(bào)告關(guān)于互聯(lián)網(wǎng)集中(consolidation)的介紹:https://www.internetsociety.org/tag/consolidation/。

    猜你喜歡
    網(wǎng)絡(luò)平臺(tái)
    網(wǎng)絡(luò)平臺(tái)支持下初中語文翻轉(zhuǎn)課堂教學(xué)研究
    甘肅教育(2021年12期)2021-11-02 06:30:06
    一種基于5G網(wǎng)絡(luò)平臺(tái)下的車險(xiǎn)理賠
    網(wǎng)絡(luò)平臺(tái)補(bǔ)短板 辦學(xué)質(zhì)量穩(wěn)提升
    基于Web Service的生產(chǎn)數(shù)據(jù)采集網(wǎng)絡(luò)平臺(tái)設(shè)計(jì)
    網(wǎng)絡(luò)平臺(tái)打開代表履職新視窗
    網(wǎng)絡(luò)平臺(tái)對腸造口術(shù)后患者遠(yuǎn)程隨訪的應(yīng)用研究
    基于網(wǎng)絡(luò)平臺(tái)的高職物理教學(xué)研究
    依托網(wǎng)絡(luò)平臺(tái),構(gòu)建學(xué)習(xí)評價(jià)新模式
    網(wǎng)絡(luò)平臺(tái)在護(hù)理管理中的應(yīng)用效果
    杭州灣跨海大橋基礎(chǔ)網(wǎng)絡(luò)平臺(tái)的鋪建
    国产淫语在线视频| 久久精品国产自在天天线| 777米奇影视久久| 日本爱情动作片www.在线观看| 大香蕉97超碰在线| av在线app专区| 日韩电影二区| 男女啪啪激烈高潮av片| 亚洲国产欧美在线一区| 美女国产高潮福利片在线看| 高清在线视频一区二区三区| 精品国产露脸久久av麻豆| 亚洲熟女精品中文字幕| 国产综合精华液| 久久精品夜色国产| 欧美老熟妇乱子伦牲交| 在线观看免费日韩欧美大片| 欧美性感艳星| 免费黄色在线免费观看| 亚洲精品一二三| 国产永久视频网站| av一本久久久久| 欧美日韩av久久| 国产日韩欧美在线精品| 人成视频在线观看免费观看| 少妇的逼好多水| 高清欧美精品videossex| 伊人久久国产一区二区| av.在线天堂| 国产成人91sexporn| 高清不卡的av网站| 亚洲伊人色综图| 日韩熟女老妇一区二区性免费视频| 波多野结衣一区麻豆| 丰满迷人的少妇在线观看| 99热6这里只有精品| 成年女人在线观看亚洲视频| 日韩av不卡免费在线播放| 啦啦啦在线观看免费高清www| 国产在视频线精品| 精品视频人人做人人爽| 亚洲精品日韩在线中文字幕| 精品一区在线观看国产| 亚洲欧美中文字幕日韩二区| 亚洲精品久久成人aⅴ小说| 国产福利在线免费观看视频| 日韩三级伦理在线观看| 人妻少妇偷人精品九色| 日韩成人伦理影院| 欧美人与性动交α欧美精品济南到 | 欧美+日韩+精品| 汤姆久久久久久久影院中文字幕| 欧美日韩视频高清一区二区三区二| 国产69精品久久久久777片| 18禁国产床啪视频网站| 美女主播在线视频| videossex国产| 国产深夜福利视频在线观看| 你懂的网址亚洲精品在线观看| 亚洲av男天堂| 国产精品嫩草影院av在线观看| 欧美精品高潮呻吟av久久| 天堂中文最新版在线下载| 免费不卡的大黄色大毛片视频在线观看| 午夜老司机福利剧场| 新久久久久国产一级毛片| 国产av精品麻豆| 桃花免费在线播放| av女优亚洲男人天堂| 成人综合一区亚洲| 欧美亚洲 丝袜 人妻 在线| 久久综合国产亚洲精品| 纯流量卡能插随身wifi吗| www.av在线官网国产| 69精品国产乱码久久久| 精品久久久精品久久久| 一区二区日韩欧美中文字幕 | 午夜老司机福利剧场| 久久久国产欧美日韩av| 日本免费在线观看一区| 中文精品一卡2卡3卡4更新| 国产精品久久久久成人av| 水蜜桃什么品种好| 亚洲,欧美精品.| 免费女性裸体啪啪无遮挡网站| 91aial.com中文字幕在线观看| 色视频在线一区二区三区| 女人被躁到高潮嗷嗷叫费观| 国产有黄有色有爽视频| 国产片内射在线| 日韩一区二区三区影片| 久久精品国产亚洲av涩爱| 中文字幕人妻熟女乱码| 国语对白做爰xxxⅹ性视频网站| 少妇精品久久久久久久| 精品一区在线观看国产| 国产视频首页在线观看| 狠狠婷婷综合久久久久久88av| 美女大奶头黄色视频| 日本午夜av视频| 伦理电影免费视频| 看免费av毛片| 9191精品国产免费久久| 啦啦啦视频在线资源免费观看| 亚洲欧美日韩另类电影网站| 国产欧美亚洲国产| 亚洲美女视频黄频| www日本在线高清视频| 日韩精品免费视频一区二区三区 | 国产激情久久老熟女| 国产精品久久久久久av不卡| 成年人午夜在线观看视频| 狠狠精品人妻久久久久久综合| 两个人免费观看高清视频| 国产av码专区亚洲av| 视频中文字幕在线观看| 国产免费视频播放在线视频| 麻豆精品久久久久久蜜桃| 国产色爽女视频免费观看| 亚洲成色77777| 日韩av不卡免费在线播放| 日本午夜av视频| 高清av免费在线| 精品久久国产蜜桃| 欧美性感艳星| 中文字幕精品免费在线观看视频 | 你懂的网址亚洲精品在线观看| 亚洲精品日韩在线中文字幕| 菩萨蛮人人尽说江南好唐韦庄| 又粗又硬又长又爽又黄的视频| 高清不卡的av网站| 9热在线视频观看99| 国产爽快片一区二区三区| 成人综合一区亚洲| 91精品三级在线观看| 一区在线观看完整版| 久久精品久久精品一区二区三区| 在线观看一区二区三区激情| 这个男人来自地球电影免费观看 | 少妇的逼好多水| 一边摸一边做爽爽视频免费| 久久久久久久久久成人| 我的女老师完整版在线观看| 建设人人有责人人尽责人人享有的| 亚洲成av片中文字幕在线观看 | 大码成人一级视频| 在线观看www视频免费| 欧美日本中文国产一区发布| 草草在线视频免费看| 日韩免费高清中文字幕av| 国产免费又黄又爽又色| 日韩av不卡免费在线播放| 人人妻人人添人人爽欧美一区卜| 91成人精品电影| 22中文网久久字幕| 久久 成人 亚洲| 一级爰片在线观看| 最新的欧美精品一区二区| 日日摸夜夜添夜夜爱| 乱码一卡2卡4卡精品| 高清黄色对白视频在线免费看| 色哟哟·www| 国产精品一二三区在线看| 亚洲国产色片| 久久精品熟女亚洲av麻豆精品| freevideosex欧美| 亚洲综合精品二区| 色5月婷婷丁香| 免费在线观看黄色视频的| 亚洲欧美清纯卡通| 18+在线观看网站| 中文字幕人妻熟女乱码| 久久久久精品性色| 少妇高潮的动态图| 国产精品三级大全| 三上悠亚av全集在线观看| 99国产综合亚洲精品| 午夜激情久久久久久久| 18禁动态无遮挡网站| 欧美最新免费一区二区三区| 中国国产av一级| 午夜精品国产一区二区电影| 亚洲第一区二区三区不卡| 国产亚洲最大av| 久热久热在线精品观看| 国产女主播在线喷水免费视频网站| 丰满迷人的少妇在线观看| 内地一区二区视频在线| 亚洲av欧美aⅴ国产| 观看美女的网站| 精品亚洲成a人片在线观看| 欧美精品人与动牲交sv欧美| 黄色毛片三级朝国网站| 午夜福利乱码中文字幕| 成人国产av品久久久| 欧美性感艳星| 伊人久久国产一区二区| 两性夫妻黄色片 | 久久久久久人妻| 男女下面插进去视频免费观看 | 美女大奶头黄色视频| 视频中文字幕在线观看| 午夜福利视频在线观看免费| av播播在线观看一区| 久久 成人 亚洲| 久久狼人影院| 日本wwww免费看| 黄色视频在线播放观看不卡| 成人亚洲欧美一区二区av| √禁漫天堂资源中文www| 国产成人欧美| 国产黄色免费在线视频| 最近手机中文字幕大全| 中国美白少妇内射xxxbb| 精品国产一区二区久久| 秋霞在线观看毛片| 欧美xxⅹ黑人| 国产1区2区3区精品| 久久精品aⅴ一区二区三区四区 | 国产视频首页在线观看| 久久久a久久爽久久v久久| 91国产中文字幕| 国内精品宾馆在线| 国产成人精品在线电影| 久久热在线av| 午夜免费观看性视频| 看非洲黑人一级黄片| 丝袜脚勾引网站| 岛国毛片在线播放| 精品第一国产精品| 巨乳人妻的诱惑在线观看| 男人操女人黄网站| 曰老女人黄片| 精品国产一区二区三区久久久樱花| 青春草亚洲视频在线观看| av在线app专区| 中文欧美无线码| 中文乱码字字幕精品一区二区三区| 精品少妇黑人巨大在线播放| 多毛熟女@视频| 飞空精品影院首页| 亚洲一区二区三区欧美精品| 99久国产av精品国产电影| 91精品三级在线观看| 欧美精品国产亚洲| 亚洲av在线观看美女高潮| 国产极品天堂在线| 一本久久精品| 久久毛片免费看一区二区三区| 免费高清在线观看日韩| 色婷婷av一区二区三区视频| 午夜老司机福利剧场| 纯流量卡能插随身wifi吗| 黄色一级大片看看| av播播在线观看一区| 夫妻午夜视频| 欧美人与性动交α欧美软件 | 色吧在线观看| 成人18禁高潮啪啪吃奶动态图| a 毛片基地| 高清在线视频一区二区三区| 国产一区二区激情短视频 | 成人亚洲精品一区在线观看| 国产精品秋霞免费鲁丝片| 亚洲,一卡二卡三卡| 免费黄频网站在线观看国产| 日韩不卡一区二区三区视频在线| 亚洲成人一二三区av| 国产福利在线免费观看视频| av电影中文网址| 欧美+日韩+精品| 免费久久久久久久精品成人欧美视频 | 熟女av电影| 一本—道久久a久久精品蜜桃钙片| 蜜桃国产av成人99| 丝袜人妻中文字幕| 亚洲欧美一区二区三区国产| 人成视频在线观看免费观看| 欧美 亚洲 国产 日韩一| 黄色一级大片看看| 男女国产视频网站| 亚洲国产看品久久| 黑人高潮一二区| 日韩制服丝袜自拍偷拍| 日本午夜av视频| 亚洲欧美日韩另类电影网站| 午夜福利网站1000一区二区三区| 99久久精品国产国产毛片| 精品酒店卫生间| 成人18禁高潮啪啪吃奶动态图| 免费少妇av软件| 一区二区av电影网| 99热这里只有是精品在线观看| 国产成人精品无人区| 丰满少妇做爰视频| 久久国产精品大桥未久av| 日本爱情动作片www.在线观看| 成年动漫av网址| 欧美bdsm另类| 91精品国产国语对白视频| 亚洲精品国产av蜜桃| 插逼视频在线观看| 七月丁香在线播放| 熟女人妻精品中文字幕| 亚洲,欧美,日韩| 男女边摸边吃奶| 欧美另类一区| h视频一区二区三区| 亚洲国产av影院在线观看| 婷婷成人精品国产| 这个男人来自地球电影免费观看 | 少妇猛男粗大的猛烈进出视频| 日韩成人伦理影院| 中文字幕最新亚洲高清| 久久毛片免费看一区二区三区| 一本色道久久久久久精品综合| 中文字幕亚洲精品专区| 免费观看a级毛片全部| 99热6这里只有精品| 午夜福利网站1000一区二区三区| 久久久久网色| 精品福利永久在线观看| 国产精品久久久久久精品电影小说| 黑丝袜美女国产一区| 久久久久久久精品精品| 久久精品国产亚洲av涩爱| 伦理电影免费视频| 热99久久久久精品小说推荐| 激情五月婷婷亚洲| 热99久久久久精品小说推荐| 欧美精品av麻豆av| 亚洲精华国产精华液的使用体验| 午夜激情久久久久久久| h视频一区二区三区| 自拍欧美九色日韩亚洲蝌蚪91| 国产色爽女视频免费观看| 亚洲伊人久久精品综合| videos熟女内射| 又大又黄又爽视频免费| 自线自在国产av| 日韩中字成人| 香蕉精品网在线| 亚洲熟女精品中文字幕| 女人被躁到高潮嗷嗷叫费观| 日本午夜av视频| 国产一级毛片在线| 制服诱惑二区| 国产精品久久久久久精品古装| 亚洲精品久久久久久婷婷小说| a级毛片黄视频| 日本-黄色视频高清免费观看| 99久久综合免费| 欧美日本中文国产一区发布| 日日爽夜夜爽网站| 波野结衣二区三区在线| 精品卡一卡二卡四卡免费| 久久久久精品人妻al黑| 免费观看性生交大片5| 国产毛片在线视频| 观看美女的网站| 欧美激情国产日韩精品一区| av在线播放精品| 国产一区二区三区综合在线观看 | 欧美日韩综合久久久久久| 久久国产亚洲av麻豆专区| 亚洲久久久国产精品| 欧美日韩视频高清一区二区三区二| 亚洲性久久影院| 9色porny在线观看| 久久久久精品人妻al黑| 国产成人免费无遮挡视频| 亚洲精品美女久久av网站| 两个人看的免费小视频| 欧美激情国产日韩精品一区| 日日爽夜夜爽网站| 亚洲av电影在线进入| 少妇猛男粗大的猛烈进出视频| 黄色一级大片看看| 精品卡一卡二卡四卡免费| 色94色欧美一区二区| 热re99久久国产66热| 黄色一级大片看看| 咕卡用的链子| 熟女电影av网| 一本大道久久a久久精品| 欧美日韩一区二区视频在线观看视频在线| 亚洲综合精品二区| 满18在线观看网站| 97精品久久久久久久久久精品| 1024视频免费在线观看| 亚洲成人一二三区av| 五月伊人婷婷丁香| 亚洲伊人色综图| 亚洲av.av天堂| 精品亚洲乱码少妇综合久久| 亚洲精品乱久久久久久| 精品一区二区三卡| 国产激情久久老熟女| av视频免费观看在线观看| 久久久精品94久久精品| 午夜福利,免费看| 青青草视频在线视频观看| 1024视频免费在线观看| 国产乱来视频区| 久久99蜜桃精品久久| 欧美亚洲日本最大视频资源| 亚洲美女视频黄频| 男女午夜视频在线观看 | 欧美变态另类bdsm刘玥| av天堂久久9| 国产毛片在线视频| 免费观看无遮挡的男女| 99视频精品全部免费 在线| 高清欧美精品videossex| 男女免费视频国产| 免费黄色在线免费观看| 午夜av观看不卡| 国产精品熟女久久久久浪| 国产福利在线免费观看视频| 一级黄片播放器| 亚洲精品,欧美精品| 蜜桃国产av成人99| 久久这里只有精品19| 国产日韩欧美亚洲二区| 黑人高潮一二区| 美女中出高潮动态图| 一级a做视频免费观看| 蜜桃在线观看..| 青青草视频在线视频观看| 亚洲国产日韩一区二区| 18禁在线无遮挡免费观看视频| 99视频精品全部免费 在线| 国产亚洲精品久久久com| 天堂中文最新版在线下载| 女性被躁到高潮视频| 一级片免费观看大全| 三级国产精品片| 黄片无遮挡物在线观看| 男人舔女人的私密视频| 一级毛片 在线播放| 国产免费又黄又爽又色| 国产精品一区二区在线不卡| 免费看光身美女| 男男h啪啪无遮挡| 久久人妻熟女aⅴ| 国产精品99久久99久久久不卡 | 国产免费一级a男人的天堂| 午夜激情av网站| 最新的欧美精品一区二区| 另类精品久久| 亚洲国产av影院在线观看| 午夜影院在线不卡| 成人18禁高潮啪啪吃奶动态图| 欧美日本中文国产一区发布| 咕卡用的链子| 母亲3免费完整高清在线观看 | 韩国精品一区二区三区 | 人妻一区二区av| 午夜免费鲁丝| 久久国产精品大桥未久av| 欧美国产精品va在线观看不卡| av网站免费在线观看视频| 黄网站色视频无遮挡免费观看| 亚洲美女黄色视频免费看| 欧美成人午夜免费资源| 亚洲综合色网址| 宅男免费午夜| 国产免费视频播放在线视频| 色吧在线观看| 国产一区有黄有色的免费视频| 黑人猛操日本美女一级片| 宅男免费午夜| 国产成人免费无遮挡视频| 在线天堂最新版资源| 久久久久网色| 亚洲精品,欧美精品| 亚洲国产成人一精品久久久| 十分钟在线观看高清视频www| 午夜福利乱码中文字幕| 一区二区三区四区激情视频| 精品熟女少妇av免费看| 最近的中文字幕免费完整| 亚洲熟女精品中文字幕| 91成人精品电影| 夫妻午夜视频| 久久久久国产网址| 国产在视频线精品| 欧美日韩成人在线一区二区| 亚洲国产欧美日韩在线播放| av免费在线看不卡| av视频免费观看在线观看| xxxhd国产人妻xxx| 免费女性裸体啪啪无遮挡网站| 欧美成人午夜精品| 国产极品粉嫩免费观看在线| 国产又爽黄色视频| 人人澡人人妻人| 久久久久久久久久久免费av| 五月天丁香电影| 中文欧美无线码| 国产日韩欧美亚洲二区| 中文字幕最新亚洲高清| 黄色配什么色好看| 国内精品宾馆在线| 美女大奶头黄色视频| 亚洲精品国产av成人精品| 色5月婷婷丁香| 国产男人的电影天堂91| 精品亚洲成国产av| 成人国产麻豆网| 欧美亚洲日本最大视频资源| 香蕉国产在线看| 99久久人妻综合| www.色视频.com| 一区二区日韩欧美中文字幕 | av视频免费观看在线观看| av国产精品久久久久影院| 日本免费在线观看一区| 性色av一级| 亚洲一级一片aⅴ在线观看| 热99久久久久精品小说推荐| av卡一久久| av网站免费在线观看视频| 亚洲国产欧美日韩在线播放| 777米奇影视久久| 精品人妻熟女毛片av久久网站| videossex国产| 一级,二级,三级黄色视频| 久久久久久久国产电影| 高清av免费在线| 国产在线视频一区二区| 老司机亚洲免费影院| 国产熟女午夜一区二区三区| tube8黄色片| 精品第一国产精品| 美女脱内裤让男人舔精品视频| 最近的中文字幕免费完整| 成人国产麻豆网| 人妻 亚洲 视频| 91精品伊人久久大香线蕉| 精品人妻偷拍中文字幕| 久久久久久人人人人人| 啦啦啦在线观看免费高清www| 99国产精品免费福利视频| av不卡在线播放| 亚洲精品久久久久久婷婷小说| 亚洲伊人色综图| 制服人妻中文乱码| 成人亚洲欧美一区二区av| 国产精品一区www在线观看| 久久精品国产自在天天线| 日韩电影二区| 日日爽夜夜爽网站| 一级片免费观看大全| 高清毛片免费看| 激情五月婷婷亚洲| 国产高清不卡午夜福利| 麻豆精品久久久久久蜜桃| 一级毛片 在线播放| 尾随美女入室| 2021少妇久久久久久久久久久| 哪个播放器可以免费观看大片| 精品国产一区二区三区四区第35| 亚洲 欧美一区二区三区| 满18在线观看网站| 丝袜在线中文字幕| 日韩三级伦理在线观看| 黄色配什么色好看| 欧美精品亚洲一区二区| 日本wwww免费看| 亚洲综合色惰| 国产毛片在线视频| 久久久久网色| 黑人高潮一二区| 成年人免费黄色播放视频| 亚洲精品日本国产第一区| 看非洲黑人一级黄片| 一区二区日韩欧美中文字幕 | 亚洲精品国产色婷婷电影| 久久精品人人爽人人爽视色| 秋霞在线观看毛片| 少妇的丰满在线观看| 亚洲五月色婷婷综合| 极品人妻少妇av视频| a级片在线免费高清观看视频| 五月伊人婷婷丁香| 亚洲三级黄色毛片| 久久久久久久精品精品| 精品福利永久在线观看| 韩国精品一区二区三区 | 久久女婷五月综合色啪小说| 三级国产精品片| 欧美精品国产亚洲| 色94色欧美一区二区| 国产乱来视频区| 精品久久蜜臀av无| 国产一区二区激情短视频 | 一区二区av电影网| 97超碰精品成人国产| 天堂俺去俺来也www色官网| 在线观看免费高清a一片| 久久久亚洲精品成人影院| 丁香六月天网| 精品久久久久久电影网| 日韩成人伦理影院| 欧美日韩国产mv在线观看视频| 免费人妻精品一区二区三区视频| 天天影视国产精品| 国产精品久久久久久av不卡| 母亲3免费完整高清在线观看 | 亚洲美女视频黄频| kizo精华| 春色校园在线视频观看| 最黄视频免费看| 久久99热6这里只有精品|