• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    新型數(shù)字不平等的興起及其法治化治理

    2023-05-15 04:52:50郭小東
    南海法學(xué) 2023年5期

    郭小東

    (浙江大學(xué) 光華法學(xué)院,浙江 杭州 310008)

    引言

    數(shù)字化帶來(lái)一場(chǎng)翻天覆地的變革。從生產(chǎn)關(guān)系到生活方式、行為模式,以及人的身份和存在狀態(tài),都發(fā)生不可逆轉(zhuǎn)的數(shù)字化轉(zhuǎn)型?!靶录夹g(shù)不僅僅是增加或減少這么簡(jiǎn)單,而是會(huì)改變一切?!雹伲勖溃莶ㄆ澛骸都夹g(shù)壟斷:文明向技術(shù)投降》,蔡金棟、梁薇譯,機(jī)械工業(yè)出版社,2013,第15頁(yè)。數(shù)字時(shí)代在給人們的生產(chǎn)生活帶來(lái)便利的同時(shí),也引發(fā)了一系列社會(huì)風(fēng)險(xiǎn),加劇了傳統(tǒng)社會(huì)中的結(jié)構(gòu)性不平等,也催生了新型數(shù)字不平等。新型數(shù)字不平等是一個(gè)相對(duì)于傳統(tǒng)數(shù)字不平等的概念,學(xué)界對(duì)此研究并不多。②關(guān)爽:《數(shù)字不平等的治理邏輯與路徑選擇》,《學(xué)習(xí)與實(shí)踐》2022年第8期。大部分學(xué)者主要還是在早期數(shù)字鴻溝背景下討論傳統(tǒng)數(shù)字不平等問(wèn)題,③陳夢(mèng)根、周元任:《數(shù)字不平等研究新進(jìn)展》,《經(jīng)濟(jì)學(xué)動(dòng)態(tài)》2022 年第4 期;許慶紅:《數(shù)字不平等:社會(huì)階層與互聯(lián)網(wǎng)使用研究綜述》,《高校圖書(shū)館工作》2017年第5期。這是遠(yuǎn)遠(yuǎn)不夠的,因?yàn)閿?shù)字智能革命引發(fā)的數(shù)字不平等問(wèn)題已經(jīng)遠(yuǎn)遠(yuǎn)超出了傳統(tǒng)數(shù)字不平等所涵蓋的范圍,新型數(shù)字不平等呈現(xiàn)出新的不平等面向,而且相較于傳統(tǒng)數(shù)字不平等,它具有更大的社會(huì)性和系統(tǒng)性風(fēng)險(xiǎn)。在法學(xué)界,學(xué)者們已經(jīng)深刻意識(shí)到智能革命引發(fā)的社會(huì)風(fēng)險(xiǎn),進(jìn)而提出和試圖證成一系列新興(型)權(quán)利,比如“被遺忘權(quán)”、個(gè)人信息權(quán)、“數(shù)字弱勢(shì)群體”權(quán)利等,但這些研究并沒(méi)有很好揭示出這些新興權(quán)利產(chǎn)生的前提條件,至少?zèng)]有認(rèn)真對(duì)待新型數(shù)字不平等問(wèn)題。因此,本文立足于智能革命引發(fā)的社會(huì)風(fēng)險(xiǎn),提出“新型數(shù)字不平等”學(xué)理性概念,闡釋數(shù)字不平等在“新舊”之間的差異,分析新型數(shù)字不平等的內(nèi)涵,并主張以法治化的形式進(jìn)行治理。

    一、新型數(shù)字不平等的興起與表現(xiàn)

    不平等深嵌在社會(huì)、政治和文化關(guān)系中,是一個(gè)復(fù)雜的、多層面的現(xiàn)象。從人類(lèi)文明歷史進(jìn)程來(lái)看,不平等現(xiàn)象貫穿始終,甚至在盧梭看來(lái),人類(lèi)不平等的根源是社會(huì)文明的發(fā)展,或者說(shuō),人類(lèi)文明發(fā)展史就是不平等擴(kuò)大的過(guò)程。在現(xiàn)代社會(huì),一些不平等現(xiàn)象已經(jīng)成為一種結(jié)構(gòu)化的不平等,比如年齡、性別、經(jīng)濟(jì)水平、教育水平等,這些結(jié)構(gòu)化的不平等對(duì)個(gè)人的權(quán)利、資源和機(jī)遇有著重要影響。傳統(tǒng)社會(huì)中的結(jié)構(gòu)化不平等也影響了我們?cè)谛畔r(shí)代獲取和使用信息技術(shù)的能力,這些能力的差異形成了“數(shù)字鴻溝”,催生了“數(shù)字弱勢(shì)群體”,這就是傳統(tǒng)數(shù)字不平等的起源。“歷次社會(huì)革命或者巨大社會(huì)變遷,都會(huì)消除一些舊的不平等,但同時(shí)又產(chǎn)生了新的不平等?!雹亳R長(zhǎng)山:《人工智能的社會(huì)風(fēng)險(xiǎn)及其法律規(guī)制》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2018年第6期。智能革命時(shí)代的到來(lái),讓社會(huì)、經(jīng)濟(jì)與文化發(fā)生了重大變革,傳統(tǒng)社會(huì)中的結(jié)構(gòu)性不平等現(xiàn)象有所改善,但人類(lèi)對(duì)算法和大數(shù)據(jù)分析技術(shù)的日益依賴(lài)引發(fā)了“新型數(shù)字不平等”?!靶滦蛿?shù)字不平等”的興起進(jìn)一步加劇了數(shù)字鴻溝背景下的傳統(tǒng)數(shù)字不平等問(wèn)題,“數(shù)字弱勢(shì)群體”進(jìn)一步擴(kuò)大。

    (一)從數(shù)字鴻溝到數(shù)字不平等

    根據(jù)OECD(經(jīng)濟(jì)合作與發(fā)展組織)在2001 年的定義,數(shù)字鴻溝表示不同社會(huì)經(jīng)濟(jì)水平的個(gè)人、家庭、企業(yè)和地理區(qū)域之間在獲取和使用信息通信技術(shù)方面所存在的差距。隨著信息與通信技術(shù)的不斷發(fā)展,數(shù)字鴻溝現(xiàn)象的內(nèi)涵也在不斷豐富,一般認(rèn)為,主要包括三個(gè)層級(jí)的數(shù)字鴻溝。一級(jí)數(shù)字鴻溝指互聯(lián)網(wǎng)技術(shù)是否“接入”在不同地區(qū)、群體之間的差異,因此,數(shù)字鴻溝也稱(chēng)為“接入溝”,這是數(shù)字鴻溝最初始的狀態(tài)。二級(jí)數(shù)字鴻溝指互聯(lián)網(wǎng)技術(shù)使用技能在不同地區(qū)、群體之間的差異,也因此被稱(chēng)為“使用溝”。不僅是個(gè)人對(duì)信息和通信技術(shù)的獲取不均衡(第一層次)或數(shù)字技能和互聯(lián)網(wǎng)使用不均衡(第二層次),而且通過(guò)使用信息和通信技術(shù)獲得的具體成果和利益也可能不同,這被稱(chēng)為第三級(jí)數(shù)字鴻溝。上述這三個(gè)層級(jí)數(shù)字鴻溝的存在是引發(fā)數(shù)字不平等現(xiàn)象的直接原因,也是傳統(tǒng)數(shù)字不平等現(xiàn)象的主要表現(xiàn)形式。

    在馬克思看來(lái),技術(shù)進(jìn)步會(huì)鞏固社會(huì)等級(jí)制度,即“社會(huì)的等級(jí)制度通??梢噪S著新技術(shù)的引入而被保存和再生”②[美]安德魯·芬伯格:《技術(shù)批判理論》,韓連慶、曹觀法譯,北京大學(xué)出版社,2005,第114頁(yè)。。在很大程度上,數(shù)字時(shí)代的不平等復(fù)制和擴(kuò)大了傳統(tǒng)社會(huì)中的不平等現(xiàn)象。在數(shù)字社會(huì)中,對(duì)信息和通信技術(shù)的獲取和使用受限(缺乏資源/技能/動(dòng)機(jī))都有可能使人們生活在數(shù)字社會(huì)的邊緣,因?yàn)樗麄儽慌懦谝粋€(gè)充滿(mǎn)資源、潛力和機(jī)會(huì)的世界(數(shù)字舞臺(tái))之外。而那些原本處于社會(huì)弱勢(shì)地位的群體更有可能在信息技術(shù)的接觸、使用和收益方面受到限制,從而放大了他們?cè)谏鐣?huì)中所處的弱勢(shì)地位,這是信息時(shí)代對(duì)“數(shù)字弱勢(shì)群體”的不公正的“懲罰”。隨著信息技術(shù)的發(fā)展、人們生活水平的全面提高,數(shù)字鴻溝現(xiàn)象在信息技術(shù)發(fā)達(dá)的國(guó)家已經(jīng)有較大程度的彌合,由數(shù)字鴻溝造成的不平等,即傳統(tǒng)數(shù)字不平等,也有了一定程度的緩和。當(dāng)然,在相對(duì)落后的發(fā)展中國(guó)家,傳統(tǒng)數(shù)字不平等仍然是難以逾越的障礙??傮w而言,我們除了繼續(xù)關(guān)注傳統(tǒng)數(shù)字不平等問(wèn)題外,還需要加強(qiáng)關(guān)注和防范智能革命帶來(lái)的新型數(shù)字不平等,新型數(shù)字不平等加劇了傳統(tǒng)社會(huì)中的數(shù)字不平等,而且它本身的隱蔽性也帶來(lái)了更大的破壞性,這樣一種由數(shù)字智能革命引發(fā)的不平等是一種“自動(dòng)化不平等”,自動(dòng)化不平等是新型數(shù)字不平等的重要特征。①[美]弗吉尼亞·尤班克斯:《自動(dòng)不平等——高科技如何鎖定、管制和懲罰窮人》,李明倩譯,商務(wù)印書(shū)館,2020,第10頁(yè)。

    (二)數(shù)字不平等的“新舊之別”

    數(shù)字社會(huì)的算法化和大數(shù)據(jù)分析技術(shù)的廣泛運(yùn)用引發(fā)了“新型數(shù)字不平等”,“新型數(shù)字不平等”是一個(gè)復(fù)雜的、多維的不平等現(xiàn)象,它與傳統(tǒng)數(shù)字不平等有很大的差別。

    首先,兩者的產(chǎn)生根源不同。傳統(tǒng)數(shù)字不平等是在數(shù)字鴻溝背景下產(chǎn)生的,指向人們?cè)谛畔⑴c通信技術(shù)領(lǐng)域的接入、使用和收益等方面存在的差異,而新型數(shù)字不平等主要源于數(shù)據(jù)占有不均衡、算法設(shè)計(jì)和平臺(tái)運(yùn)行的不透明而裹挾的歧視和偏見(jiàn),比如算法偏見(jiàn)、算法歧視、算法操縱、算法黑箱等。一言以蔽之,新型數(shù)字不平等的產(chǎn)生原因主要是數(shù)據(jù)權(quán)力、算法權(quán)力和平臺(tái)權(quán)力的興起。從形成的時(shí)間節(jié)點(diǎn)來(lái)看,傳統(tǒng)數(shù)字不平等是第一次互聯(lián)網(wǎng)革命催生的,而新型數(shù)字不平等是智能革命引發(fā)的。

    其次,兩者的影響程度不同。傳統(tǒng)數(shù)字不平等影響的范圍相對(duì)狹窄,比如:在固有的年齡差異方面,傳統(tǒng)數(shù)字弱勢(shì)群體一般是老齡人;在固有的地區(qū)差異方面,傳統(tǒng)數(shù)字弱勢(shì)地區(qū)一般是貧困地區(qū)。根據(jù)第47次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》的相關(guān)數(shù)據(jù),截至2020年12月,我國(guó)網(wǎng)民規(guī)模為9.89億,互聯(lián)網(wǎng)普及率達(dá)70.4%,較2020年3月提升5.9個(gè)百分點(diǎn)。其中,農(nóng)村網(wǎng)民規(guī)模為3.09億,較2020年3月增長(zhǎng)5471萬(wàn);農(nóng)村地區(qū)互聯(lián)網(wǎng)普及率為55.9%,較2020年3月提升9.7個(gè)百分點(diǎn)。這也反映了傳統(tǒng)數(shù)字不平等中的弱勢(shì)群體多數(shù)是在傳統(tǒng)社會(huì)中處于弱勢(shì)地位的群體。而新型數(shù)字不平等的影響幾乎是全方位的,無(wú)論你的年齡、你所在的地域、你的受教育水平、你的個(gè)人資產(chǎn)是什么情況,在數(shù)據(jù)化、算法化時(shí)代,我們都是數(shù)據(jù)主體??萍季揞^公司試圖讓我們所有人在整個(gè)生命周期不停地輸出數(shù)據(jù),進(jìn)而分析、預(yù)測(cè)和掌握我們的行為。在數(shù)字生活世界里,我們多數(shù)人都屬于“數(shù)字弱勢(shì)群體”,無(wú)論我們是否愿意接受這個(gè)社會(huì)事實(shí)。

    最后,兩者的治理理念不同。傳統(tǒng)數(shù)字不平等產(chǎn)生于傳統(tǒng)社會(huì)中結(jié)構(gòu)化的不平等,比如年齡、經(jīng)濟(jì)水平、教育水平的差異,這些因素具有一定程度的客觀性,難以從道德、倫理和法律維度進(jìn)行規(guī)制,通常需要通過(guò)政府和社會(huì)從經(jīng)濟(jì)層面和技術(shù)層面進(jìn)行救濟(jì)幫扶,縮小數(shù)字鴻溝,提升傳統(tǒng)數(shù)字弱勢(shì)群體的數(shù)字素養(yǎng)和數(shù)字技能水平。而新型數(shù)字不平等不僅是受到社會(huì)結(jié)構(gòu)性不平等的影響而產(chǎn)生的,在很大程度上,更是人們的主觀選擇,既然是人的自由選擇,那就意味著有人需要為此承擔(dān)責(zé)任,而這也決定了我們能夠通過(guò)道德和法律來(lái)治理新型數(shù)字不平等現(xiàn)象,運(yùn)用法治思維和法治方式治理大數(shù)據(jù)、算法和平臺(tái)造成的社會(huì)不正義問(wèn)題,保障和捍衛(wèi)數(shù)字時(shí)代的基本人權(quán)。

    二、新型數(shù)字不平等的類(lèi)型化展開(kāi)

    從傳統(tǒng)社會(huì)不平等,到數(shù)字鴻溝背景下的數(shù)字不平等,再到新一輪數(shù)字革命浪潮所催生的新型數(shù)字不平等,數(shù)字不平等現(xiàn)象深嵌在社會(huì)的各個(gè)領(lǐng)域,造成了極大的社會(huì)風(fēng)險(xiǎn)。對(duì)新型數(shù)字不平等現(xiàn)象進(jìn)行類(lèi)型化處理,一方面有助于提升我們對(duì)新型數(shù)字不平等的認(rèn)識(shí),另一方面也有助于我們尋找到更有效的治理路徑,提升數(shù)字治理法治化水平。

    (一)以參與主體的不同為劃分標(biāo)準(zhǔn)

    第一,相同類(lèi)型主體間的新型數(shù)字不平等,主要涉及國(guó)家之間的新型數(shù)字不平等問(wèn)題。數(shù)據(jù)是數(shù)字時(shí)代的“石油”,誰(shuí)掌握了數(shù)據(jù),誰(shuí)就掌握了話(huà)語(yǔ)權(quán)。當(dāng)前,國(guó)家之間的數(shù)字不平等現(xiàn)象主要表現(xiàn)為發(fā)達(dá)國(guó)家憑借其高水平的數(shù)字科技手段(往往是通過(guò)科技公司)“掠奪”相對(duì)落后的發(fā)展中國(guó)家的數(shù)據(jù)資源,通過(guò)數(shù)字技術(shù)監(jiān)視其他國(guó)家和外國(guó)公民,并主導(dǎo)全球數(shù)字經(jīng)濟(jì)貿(mào)易規(guī)則的制定、打壓數(shù)字經(jīng)濟(jì)領(lǐng)域競(jìng)爭(zhēng)對(duì)手,形成數(shù)據(jù)霸權(quán)。數(shù)字霸權(quán)將通過(guò)流量、架構(gòu)層面、基礎(chǔ)措施和標(biāo)準(zhǔn)化來(lái)控制網(wǎng)絡(luò)世界,并在未來(lái)的技術(shù)項(xiàng)目中尋求發(fā)展,以使自己受益并始終保持對(duì)其他國(guó)家的控制,進(jìn)一步可能會(huì)演化為“數(shù)字殖民主義”。以南非為例,有學(xué)者認(rèn)為,美國(guó)大型科技公司通過(guò)在軟件、硬件和網(wǎng)絡(luò)鏈接等架構(gòu)層面對(duì)南非國(guó)家給予援助,表面上是幫助南非人民縮小數(shù)字鴻溝,提升數(shù)字生活水平,但實(shí)際上是美國(guó)科技巨頭試圖通過(guò)控制南非的數(shù)據(jù)生態(tài)系統(tǒng),從而對(duì)南非政治、經(jīng)濟(jì)和文化領(lǐng)域的生活擁有直接的權(quán)力,這本質(zhì)上是帝國(guó)主義的控制手段。作為生產(chǎn)資料的“大數(shù)據(jù)”的經(jīng)濟(jì)權(quán)力主要集中在科技公司手中,形成了一個(gè)數(shù)字“監(jiān)視”系統(tǒng)。美國(guó)國(guó)家情報(bào)機(jī)構(gòu)與自己的科技公司合作,在全球進(jìn)行大規(guī)模和有針對(duì)性的監(jiān)控,這儼然是一種“數(shù)字殖民主義”。①Kwet,Michael.,“Digital colonialism: US empire and the new imperialism in the Global South,”Race & Class,No.4(2019):3-26.

    第二,不同類(lèi)型主體間的新型數(shù)字不平等,主要包括國(guó)家與個(gè)人之間的不平等、科技巨頭公司與個(gè)人之間的不平等。首先是大型科技企業(yè)與個(gè)人之間的不平等。就像石油一樣,數(shù)據(jù)是一種可以被提取、精煉和以各種方式使用的材料。數(shù)字科技巨頭是那些有能力收集、儲(chǔ)存、挖掘海量數(shù)據(jù)的主體,另一方的個(gè)人作為數(shù)據(jù)的生產(chǎn)者。數(shù)據(jù)生產(chǎn)者一直處于絕對(duì)的被動(dòng)地位。“所有的數(shù)據(jù)都由我們自身產(chǎn)生,但所有權(quán)卻并不歸屬于我們?!雹谕跆煲唬骸度斯ぶ悄芨锩?dú)v史、當(dāng)下與未來(lái)》,北京時(shí)代華文書(shū)局,2017,第184頁(yè)。在數(shù)據(jù)掌控者面前,個(gè)體變得越來(lái)越透明,普通公眾難以知曉自己的個(gè)人數(shù)據(jù)在多大程度上已被科技公司掌控。“我們甚至不知道,他們是否知道我們的事?!雹郏塾ⅲ荼R恰諾·弗洛里迪:《信息倫理學(xué)》,薛平譯,上海譯文出版社,2018,第351頁(yè)。隨著大數(shù)據(jù)和算法在日常生活的廣泛運(yùn)用,一個(gè)全新的不平等邊界將被撕開(kāi)一個(gè)口子,將世界分割成掌握數(shù)據(jù)的一撥人和不掌握數(shù)據(jù)的另一撥人。④[英]阿里爾·扎拉奇、[美]莫里斯·E.斯圖克:《算法的陷阱——超級(jí)平臺(tái)、算法壟斷與場(chǎng)景欺騙》,余瀟譯,中信出版集團(tuán),2018,第314頁(yè)。如此一來(lái),在數(shù)據(jù)資源占有方面,少數(shù)人將成為主宰者,而大多數(shù)人只能選擇順從,數(shù)據(jù)主體常常是空手站立。在如此巨大的數(shù)據(jù)鴻溝面前,個(gè)人的隱私、尊嚴(yán)價(jià)值遭遇嚴(yán)重危機(jī),催生了新型數(shù)字不平等。⑤於興中:《算法社會(huì)與人的秉性》,《中國(guó)法律評(píng)論》2018年第2期。

    第三,國(guó)家與個(gè)人之間的新型數(shù)字不平等。除了科技企業(yè)作為數(shù)據(jù)控制者外,國(guó)家也是重要的數(shù)據(jù)掌控者。國(guó)家借助數(shù)字科技企業(yè)的力量,通過(guò)大數(shù)據(jù)和算法實(shí)現(xiàn)技術(shù)治理,在國(guó)家主導(dǎo)的技術(shù)治理框架中,相對(duì)于科技企業(yè)與政府的密切合作,個(gè)人參與的技術(shù)治理甚少,這種社會(huì)參與的非均衡性在本質(zhì)上是一種基于權(quán)利危機(jī)的數(shù)字不平等。在數(shù)字時(shí)代,算法嵌入國(guó)家治理的各個(gè)重要領(lǐng)域,成為建構(gòu)人們生存環(huán)境的重要甚至是決定性力量。并且,隨著時(shí)間的推移,算法治理在某種意義上也具有制度特征,即它變得自然化并擁有自己的生命。與其他制度一樣,它可以嵌入社會(huì)治理實(shí)踐,通過(guò)提供信息和激勵(lì)以及塑造期望來(lái)調(diào)節(jié)各種社會(huì)關(guān)系。人們臣服于算法治理的程序監(jiān)控之下,國(guó)家權(quán)力運(yùn)行與社會(huì)治理日益依賴(lài)智能算法的維持,催生了“算法利維坦”。在“算法利維坦”面前,我們成為“無(wú)隱私的公眾”,而“政府變得越來(lái)越不透明,甚至連它不透明這個(gè)事實(shí)都變得不透明”①鄭戈:《在鼓勵(lì)創(chuàng)新與保護(hù)人權(quán)之間——法律如何回應(yīng)大數(shù)據(jù)技術(shù)革新的挑戰(zhàn)》,《探索與爭(zhēng)鳴》2016年第7期。。權(quán)力與數(shù)字技術(shù)的全新結(jié)合,產(chǎn)生了“數(shù)字權(quán)威”和“技術(shù)專(zhuān)制”,使得“老大哥能夠干涉他人的能力不斷增強(qiáng)”。在國(guó)家與個(gè)人之間,“一方是深藏不露的觀察者和控制者,另一方則是渾然不覺(jué)地被觀察、被控制的對(duì)象”②馬長(zhǎng)山:《數(shù)字法學(xué)的理論表達(dá)》,《中國(guó)法學(xué)》2022年第3期。。對(duì)人的數(shù)字化觀察和計(jì)算分析將會(huì)產(chǎn)生一種新社會(huì)形式——數(shù)字監(jiān)視社會(huì)。生活于“數(shù)字監(jiān)視社會(huì)”的人們被困于算法權(quán)力所主導(dǎo)的理性桎梏之中,失去了自我選擇和自我決策的能力,人的主體性逐漸被消解。

    (二)以構(gòu)成要素的不同為劃分依據(jù)

    在人工智能時(shí)代,數(shù)字不平等問(wèn)題日益凸顯。從構(gòu)成要素層面來(lái)看,新型數(shù)字不平等現(xiàn)象存在于數(shù)字智能系統(tǒng)運(yùn)作的各個(gè)環(huán)節(jié),其中,數(shù)據(jù)權(quán)力、算法權(quán)力、平臺(tái)權(quán)力的興起從根本上決定了新型數(shù)字不平等的內(nèi)部結(jié)構(gòu)與基本特征,是新型數(shù)字不平等的起源和基礎(chǔ)。

    第一,數(shù)據(jù)權(quán)力的興起。大數(shù)據(jù)控制本身會(huì)帶來(lái)新的社會(huì)不平等、數(shù)據(jù)管控者與個(gè)人之間的信息不對(duì)稱(chēng)和權(quán)力不平等、個(gè)人權(quán)利在大數(shù)據(jù)時(shí)代備受擠壓等倫理和法律問(wèn)題。③鄭戈:《在鼓勵(lì)創(chuàng)新與保護(hù)人權(quán)之間——法律如何回應(yīng)大數(shù)據(jù)技術(shù)革新的挑戰(zhàn)》,《探索與爭(zhēng)鳴》2016年第7期。在大數(shù)據(jù)時(shí)代,數(shù)據(jù)掌控者擁有超強(qiáng)的數(shù)據(jù)控制優(yōu)勢(shì)和數(shù)據(jù)處理優(yōu)勢(shì),已經(jīng)形成了足以支配社會(huì)經(jīng)濟(jì)資源、引導(dǎo)公眾行為的新興社會(huì)權(quán)力,“數(shù)據(jù)權(quán)力”開(kāi)始興起,而數(shù)據(jù)權(quán)力的興起意味著新型數(shù)字不平等的出現(xiàn)。數(shù)據(jù)權(quán)力的異化帶來(lái)的數(shù)據(jù)監(jiān)視、數(shù)據(jù)欺騙、數(shù)據(jù)壟斷、公權(quán)力私有化等問(wèn)題對(duì)個(gè)人權(quán)利和公共權(quán)利產(chǎn)生了極大的威脅。福柯認(rèn)為,權(quán)力并不局限于政治領(lǐng)域,并不是從一個(gè)唯一的最高中心出發(fā),而是彌散在社會(huì)的各個(gè)角落,其作用不僅僅是對(duì)個(gè)體的鎮(zhèn)壓與控制,權(quán)力技術(shù)決定個(gè)體的行為,并使得個(gè)體屈從于某種特定目的或支配權(quán),使得主體客體化。④[法]米歇爾·??拢骸蹲晕壹夹g(shù):福柯文選》,北京大學(xué)出版社,2015,第54頁(yè)。根據(jù)福柯的權(quán)力觀,數(shù)據(jù)本身就是一種權(quán)力。數(shù)據(jù)權(quán)力具有彌散性,個(gè)體置身于數(shù)據(jù)全景敞視監(jiān)獄中,被數(shù)據(jù)權(quán)力所規(guī)訓(xùn)。另外,數(shù)據(jù)隱私和數(shù)據(jù)安全問(wèn)題在“推動(dòng)社會(huì)經(jīng)濟(jì)發(fā)展”“維護(hù)社會(huì)安全穩(wěn)定”“提供個(gè)人生活便利”等積極話(huà)語(yǔ)的粉飾下,變得無(wú)足輕重。生物識(shí)別數(shù)據(jù)、電子軌跡、在線(xiàn)和離線(xiàn)支付、任何在線(xiàn)移動(dòng)都被監(jiān)測(cè)和分析,以被獲取社會(huì)信用評(píng)分和個(gè)人行為定位。審視我們?nèi)粘P袆?dòng)的不再是奧威爾所想象的老大哥的眼睛,而是那些正在侵蝕我們公民權(quán)利的鏈接、隱形軟件和那些所謂的“中立技術(shù)”。此外,科技巨頭為了爭(zhēng)奪數(shù)據(jù)資源,不斷吞并中小型數(shù)字企業(yè),形成數(shù)據(jù)壟斷。

    第二,算法權(quán)力的興起。人與人之間對(duì)算法知識(shí)的理解和運(yùn)用能力存在差異,導(dǎo)致了“算法知識(shí)鴻溝”的出現(xiàn)。算法設(shè)計(jì)和運(yùn)行會(huì)引發(fā)算法偏見(jiàn)、算法歧視、算法黑箱等一系列社會(huì)問(wèn)題,這些問(wèn)題不僅反映了傳統(tǒng)社會(huì)中存在的結(jié)構(gòu)化不平等,甚至在更多時(shí)候加劇了傳統(tǒng)社會(huì)的不平等。“算法基于海量數(shù)據(jù)運(yùn)算配置社會(huì)資源,直接作為行為規(guī)范影響人的行為,輔助甚至取代公權(quán)力決策,從而發(fā)展為一支新興的技術(shù)權(quán)力”⑤張凌寒:《算法權(quán)力的興起、異化及法律規(guī)制》,《法商研究》2019年第4期。,即算法權(quán)力。算法權(quán)力是新型數(shù)字不平等的重要體現(xiàn)。以算法自動(dòng)化決策系統(tǒng)為例,“掌握財(cái)富和權(quán)力的大型機(jī)構(gòu)幾乎壟斷了算法決策系統(tǒng)的開(kāi)發(fā)和利用,這些機(jī)構(gòu)(企業(yè)和政府)利用這些技術(shù)來(lái)引導(dǎo)、生成和執(zhí)行決策,而個(gè)體則只是被動(dòng)的承受者,是被決策的對(duì)象,因此兩者之間長(zhǎng)期存在交流不平等的狀態(tài)”⑥[英]凱倫·楊、[英]馬丁·洛奇:《馴服算法:數(shù)字歧視與算法規(guī)制》,林少偉、唐林垚譯,上海人民出版社,2020,第34頁(yè)。。在商業(yè)領(lǐng)域,算法自動(dòng)化決策的運(yùn)用較為廣泛,比如銀行利用算法對(duì)客戶(hù)進(jìn)行信用評(píng)估以決定是否發(fā)放貸款、企業(yè)借助算法進(jìn)行招聘等,但由于算法決策本身的不公開(kāi)和不透明性,引發(fā)了系統(tǒng)性社會(huì)風(fēng)險(xiǎn)。算法自動(dòng)化決策運(yùn)用于社會(huì)治理領(lǐng)域的社會(huì)不平等風(fēng)險(xiǎn)更加凸顯。隨著政府機(jī)構(gòu)對(duì)人工智能和算法自動(dòng)化決策的日益依賴(lài),社會(huì)不平等的危險(xiǎn)被進(jìn)一步擴(kuò)大或者放大已經(jīng)得到充分證明。正如弗吉尼亞·尤班克斯通過(guò)對(duì)美國(guó)社會(huì)自動(dòng)化福利系統(tǒng)進(jìn)行深入調(diào)研后所揭示的,這樣一種不平等是“自動(dòng)化的不平等”,自動(dòng)化技術(shù)未能通過(guò)公共福利系統(tǒng)支持最脆弱和最貧窮的人,相反,這些不透明的、缺乏救濟(jì)途徑的算法自動(dòng)化福利系統(tǒng)如同一所無(wú)形的“鎖定窮人、管制窮人甚至懲罰窮人”的“數(shù)字濟(jì)貧院”。①[美]弗吉尼亞·尤班克斯:《自動(dòng)不平等——高科技如何鎖定、管制和懲罰窮人》,李明倩譯,商務(wù)印書(shū)館,2021,第32頁(yè)。新型數(shù)字不平等對(duì)社會(huì)弱勢(shì)群體的打擊面更廣、危害性更大,社會(huì)矛盾將會(huì)在這種不平等下進(jìn)一步加劇。

    第三,平臺(tái)權(quán)力的興起。數(shù)字平臺(tái)使得傳統(tǒng)社會(huì)的權(quán)力結(jié)構(gòu)發(fā)生重大變化,平臺(tái)權(quán)力成為權(quán)力體系的新成員,對(duì)人們的行為和思維具有超強(qiáng)支配力。②張吉豫:《數(shù)字法理的基礎(chǔ)概念與命題》,《法制與社會(huì)發(fā)展》2022年第5期。馬克斯·韋伯(Max Weber)認(rèn)為:“權(quán)力意味著在一種社會(huì)關(guān)系里哪怕遇到反對(duì)也能貫徹自己意志的任何機(jī)會(huì)?!雹郏鄣拢蓠R克斯·韋伯:《經(jīng)濟(jì)與社會(huì)(下卷)》,林榮遠(yuǎn)譯,商務(wù)印書(shū)館,2004,第81頁(yè)。申言之,權(quán)力就是一種支配力。在數(shù)字時(shí)代,平臺(tái)不僅已經(jīng)成為個(gè)人生活不可或缺的一部分,而且日益成為掌握支配權(quán)力的社會(huì)組織,平臺(tái)權(quán)力由此而生。在超級(jí)數(shù)字平臺(tái)面前,個(gè)人的力量是微不足道的,這是新型數(shù)字不平等的重要體現(xiàn)。首先表現(xiàn)為數(shù)字平臺(tái)對(duì)我們數(shù)字資源的充分汲取和占用。數(shù)字平臺(tái)對(duì)收集到的數(shù)據(jù)進(jìn)行分析處理,通過(guò)算法制作用戶(hù)畫(huà)像和實(shí)現(xiàn)商品廣告的個(gè)性化推送,賺取豐厚的廣告費(fèi)。更嚴(yán)重的問(wèn)題是,平臺(tái)通過(guò)對(duì)用戶(hù)在線(xiàn)行為的追蹤、收集和分析個(gè)人信息數(shù)據(jù),采取差別化歧視性定價(jià)的方式對(duì)消費(fèi)者進(jìn)行“大數(shù)據(jù)殺熟”,并且“隨著數(shù)據(jù)規(guī)模的擴(kuò)大、分析能力的優(yōu)化與消費(fèi)者細(xì)分水平的升級(jí),具備學(xué)習(xí)能力的定價(jià)算法將越發(fā)逼近完全價(jià)格歧視”④[英]阿里爾·扎拉奇、[美]莫里斯·E.斯圖克:《算法的陷阱:超級(jí)平臺(tái)、算法壟斷與場(chǎng)景欺騙》,余蕭譯,中信出版社,2018,第133頁(yè)。,平臺(tái)的“大數(shù)據(jù)殺熟”往往是極其隱蔽的,作為消費(fèi)者的個(gè)體難以察覺(jué),也難以救濟(jì)。其次,數(shù)字平臺(tái)與個(gè)人之間的不平等還表現(xiàn)為數(shù)字平臺(tái)將社會(huì)公權(quán)私有化,在數(shù)字經(jīng)濟(jì)模式下,平臺(tái)企業(yè)可以獲取過(guò)去只能由政府部門(mén)擁有的數(shù)據(jù)信息。由于交易規(guī)則和交易數(shù)據(jù)被平臺(tái)控制,并且在強(qiáng)大的數(shù)據(jù)處理能力加持下,平臺(tái)企業(yè)具有掌控交易主體信息和活動(dòng)的能力,這種通過(guò)對(duì)數(shù)據(jù)與平臺(tái)的管理衍生出社會(huì)公權(quán)的過(guò)程,就是公權(quán)私有化。⑤王志鵬、張祥建、涂景一:《大數(shù)據(jù)時(shí)代平臺(tái)權(quán)力的擴(kuò)張與異化》,《江西社會(huì)科學(xué)》2016年第5期。比如,淘寶、京東等交易平臺(tái)具備一定程度的裁判權(quán)和制裁權(quán),能夠處理平臺(tái)內(nèi)部的糾紛。平臺(tái)還可以創(chuàng)制規(guī)范,行使“準(zhǔn)立法權(quán)”。傳統(tǒng)社會(huì)的“公權(quán)力-私權(quán)利”二元格局在數(shù)字時(shí)代已經(jīng)演變?yōu)椤肮珯?quán)力-私權(quán)力-私權(quán)利”三元基本格局,私權(quán)力的崛起使得個(gè)人的權(quán)利空間被大大壓縮,“權(quán)力-權(quán)利”關(guān)系呈現(xiàn)出不平等的樣態(tài)。⑥馬長(zhǎng)山:《數(shù)字時(shí)代的人權(quán)保護(hù)境遇及其應(yīng)對(duì)》,《求是學(xué)刊》2020年第4期。

    三、新型數(shù)字不平等治理的價(jià)值目標(biāo)

    新型數(shù)字不平等,引發(fā)了廣泛的倫理、道德和法律風(fēng)險(xiǎn)。積極應(yīng)對(duì)數(shù)字智能革命帶來(lái)的新型數(shù)字不平等,成了我們不可回避的話(huà)題。當(dāng)前,世界大部分國(guó)家已經(jīng)積極加入新型數(shù)字不平等治理的隊(duì)列中,我國(guó)更是提前防范、積極推動(dòng)治理進(jìn)程,目標(biāo)是在最大程度上捍衛(wèi)數(shù)字主權(quán)、保障數(shù)字人權(quán)、實(shí)現(xiàn)數(shù)字正義,進(jìn)而化解新型數(shù)字不平等衍生的社會(huì)風(fēng)險(xiǎn)。

    (一)捍衛(wèi)數(shù)字主權(quán)

    數(shù)字主權(quán)是“數(shù)字國(guó)家”新主權(quán),是國(guó)家主權(quán)新形態(tài)。“數(shù)字主權(quán)既包括國(guó)家處理其數(shù)字空間事務(wù)的獨(dú)立自主性,也包括國(guó)家主導(dǎo)本國(guó)數(shù)字發(fā)展的權(quán)能。反制數(shù)字霸權(quán),保衛(wèi)數(shù)字主權(quán)?!雹?gòu)埣ィ骸稊?shù)字法理的基礎(chǔ)概念與命題》,《法制與社會(huì)發(fā)展》2022年第5期。在數(shù)字時(shí)代,國(guó)與國(guó)之間圍繞著網(wǎng)絡(luò)設(shè)施、網(wǎng)絡(luò)空間、數(shù)據(jù)資源等網(wǎng)絡(luò)信息技術(shù)和資源展開(kāi)了激烈的競(jìng)爭(zhēng),發(fā)達(dá)國(guó)家憑借其高科技水平對(duì)相對(duì)落后的發(fā)展中國(guó)家實(shí)施數(shù)字技術(shù)壓制,監(jiān)視其他國(guó)家的公民和國(guó)家安全信息,形成數(shù)字霸權(quán),甚至演變出“數(shù)字殖民主義”。捍衛(wèi)“數(shù)字主權(quán)”就是要反對(duì)數(shù)字霸權(quán),反對(duì)“數(shù)字殖民主義”,強(qiáng)調(diào)國(guó)家主導(dǎo)本國(guó)數(shù)字技術(shù)發(fā)展的權(quán)能。數(shù)字主權(quán)包括網(wǎng)絡(luò)主權(quán)和數(shù)據(jù)主權(quán)。捍衛(wèi)數(shù)字主權(quán),首要任務(wù)就是捍衛(wèi)網(wǎng)絡(luò)主權(quán)。網(wǎng)絡(luò)主權(quán)賦予國(guó)家在網(wǎng)絡(luò)和信息通信領(lǐng)域擁有獨(dú)立和平等的地位以及不受他國(guó)干涉的權(quán)利。2022 年11 月,國(guó)務(wù)院新聞辦公室發(fā)布的《攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體》白皮書(shū)中明確寫(xiě)道:“《聯(lián)合國(guó)憲章》確立的主權(quán)平等原則是當(dāng)代國(guó)際關(guān)系的基本準(zhǔn)則,同樣適用于網(wǎng)絡(luò)空間。網(wǎng)絡(luò)主權(quán)是國(guó)家主權(quán)在網(wǎng)絡(luò)空間的自然延伸,應(yīng)尊重各國(guó)自主選擇網(wǎng)絡(luò)發(fā)展道路、治理模式和平等參與網(wǎng)絡(luò)空間國(guó)際治理的權(quán)利?!痹跀?shù)字時(shí)代,各個(gè)國(guó)家除了主張傳統(tǒng)網(wǎng)絡(luò)主權(quán)外,還特別重視“數(shù)據(jù)主權(quán)”問(wèn)題。數(shù)據(jù)主權(quán)可以概括為,在大數(shù)據(jù)背景下,一國(guó)對(duì)本國(guó)的數(shù)據(jù)及本國(guó)國(guó)民的跨境數(shù)據(jù)擁有所有權(quán)、控制權(quán)、管轄權(quán)和使用權(quán),是國(guó)家數(shù)據(jù)主權(quán)和個(gè)人數(shù)據(jù)權(quán)利的總和。②杜雁蕓:《大數(shù)據(jù)時(shí)代國(guó)家數(shù)據(jù)主權(quán)問(wèn)題研究》,《國(guó)際觀察》2016年第3期。數(shù)據(jù)是21世紀(jì)的燃料,是國(guó)家發(fā)展的重要戰(zhàn)略資源。各國(guó)之間的數(shù)據(jù)主權(quán)博弈日益激烈,數(shù)據(jù)跨境流動(dòng)對(duì)國(guó)家數(shù)據(jù)主權(quán)形成較大沖擊,“數(shù)據(jù)霸權(quán)”加劇大國(guó)對(duì)小國(guó)數(shù)據(jù)主權(quán)的侵犯,國(guó)家之間對(duì)數(shù)據(jù)資源的占用和利用等數(shù)字不平等現(xiàn)象日益嚴(yán)重。因此,捍衛(wèi)數(shù)據(jù)主權(quán)成為新型數(shù)字不平等治理的價(jià)值目標(biāo)。

    (二)保障數(shù)字人權(quán)

    數(shù)字不平等在本質(zhì)上屬于人權(quán)問(wèn)題,新型數(shù)字不平等治理的重要價(jià)值目標(biāo)就是捍衛(wèi)數(shù)字人權(quán)。何謂數(shù)字人權(quán)?簡(jiǎn)單來(lái)說(shuō)就是人在數(shù)字空間的基本權(quán)利,或者說(shuō)是“在數(shù)字時(shí)代和智慧發(fā)展中作為人而應(yīng)該享有的權(quán)利”③馬長(zhǎng)山:《智慧社會(huì)背景下的“第四代人權(quán)”及其保障》,《中國(guó)法學(xué)》2019年第5期。。在數(shù)字時(shí)代,我們的生活已經(jīng)從“物理空間”向“數(shù)字空間”轉(zhuǎn)移,物理空間中的不平等問(wèn)題延伸到了數(shù)字空間,數(shù)字空間又因其自身的特色衍生出一系列新的不平等問(wèn)題。數(shù)字鴻溝背景下的“顯性數(shù)字弱勢(shì)群體”和社會(huì)算法化背景下的“隱性數(shù)字弱勢(shì)群體”相疊加,數(shù)字不平等中的弱勢(shì)群體范圍進(jìn)一步擴(kuò)大,保障數(shù)字人權(quán)成為當(dāng)務(wù)之急。算法利維坦、數(shù)字技術(shù)霸權(quán)、超級(jí)平臺(tái)權(quán)力壟斷、數(shù)據(jù)信息控制、數(shù)據(jù)鴻溝、隱私侵犯、算法歧視、監(jiān)控?cái)U(kuò)張等諸多新型數(shù)字不平等問(wèn)題給人的生產(chǎn)生活造成了極大的困擾,甚至危及人的主體性、人的尊嚴(yán)和人的全面而自由的發(fā)展,這意味著需要加強(qiáng)對(duì)新型數(shù)字不平等的治理以保障數(shù)字人權(quán),保障人在數(shù)字空間生活的基本權(quán)利?!皼](méi)有數(shù)字人權(quán)這一位居真理和正義制高點(diǎn)的概念,信息權(quán)、數(shù)據(jù)權(quán)、隱私權(quán)、網(wǎng)絡(luò)自由等具體的數(shù)字權(quán)利是經(jīng)不起風(fēng)吹浪打的?!雹軓埣ィ骸稊?shù)字法理的基礎(chǔ)概念與命題》,《法制與社會(huì)發(fā)展》2022年第5期。因此,我們必須認(rèn)真對(duì)待數(shù)字人權(quán)問(wèn)題,深化數(shù)字人權(quán)理論研究,不斷完善數(shù)字人權(quán)的法治保障體系,以法治化的形式和思維提升新型數(shù)字不平等治理的水平。

    (三)實(shí)現(xiàn)數(shù)字正義

    政治理論家約翰·羅爾斯(John Bordley Rawls)將正義稱(chēng)為社會(huì)制度的“第一美德”。社會(huì)正義與平等的觀念是緊密結(jié)合的,大多數(shù)社會(huì)正義理論至少共同擁有一個(gè)平等主義信念:所有人在基本價(jià)值上是平等的。近代以來(lái),人們對(duì)社會(huì)正義理論的探求形成了兩種理論:一是分配正義,顧名思義,分配正義指在社會(huì)中應(yīng)如何分配資產(chǎn);二是承認(rèn)正義,承認(rèn)正義事關(guān)人們應(yīng)如何彼此看待和相處,涉及人們的社會(huì)地位和尊重體系。在數(shù)字時(shí)代,數(shù)字不平等現(xiàn)象加劇,社會(huì)不公正現(xiàn)象屢屢發(fā)生,引發(fā)了人們對(duì)社會(huì)正義問(wèn)題的重新思考,傳統(tǒng)社會(huì)正義理論在解釋數(shù)字生活世界的不平等或不公正問(wèn)題時(shí)遇到重重障礙。第一,傳統(tǒng)社會(huì)正義理論中的分配正義理論可以用來(lái)處理一國(guó)境內(nèi)數(shù)據(jù)資源分配問(wèn)題,但分配正義理論難以處理跨國(guó)數(shù)據(jù)資源分配不均衡問(wèn)題;①鄭智航、雷海玲:《大數(shù)據(jù)時(shí)代數(shù)據(jù)正義的法律構(gòu)建》,《國(guó)家檢察官學(xué)院學(xué)報(bào)》2022年第5期。第二,傳統(tǒng)社會(huì)正義理論中的承認(rèn)正義理論可以用來(lái)處理算法歧視、算法偏見(jiàn)、算法操縱等算法不公正問(wèn)題,但承認(rèn)正義理論卻難以在“數(shù)字殖民主義”“數(shù)字資本主義”等數(shù)字不平等問(wèn)題面前發(fā)揮作用?!皵?shù)字正義”概念和理論框架也應(yīng)運(yùn)而生,數(shù)字正義的基本內(nèi)涵是數(shù)據(jù)資源的合理分配、數(shù)字權(quán)利的充分配置、算法決策的公開(kāi)透明和代碼規(guī)制的規(guī)范有效。②周尚君、羅有成:《數(shù)字正義論:理論內(nèi)涵與實(shí)踐機(jī)制》,《社會(huì)科學(xué)》2022年第6期。作為數(shù)字社會(huì)中的統(tǒng)合性、整體性概念,數(shù)字正義有助于解決大數(shù)據(jù)和算法嵌入社會(huì)生活過(guò)程中所誘發(fā)的諸多不正義(不平等)問(wèn)題。

    四、新型數(shù)字不平等治理法治化的實(shí)現(xiàn)路徑

    工業(yè)社會(huì)向數(shù)字社會(huì)的急速轉(zhuǎn)型,引發(fā)了包括價(jià)值理念、生產(chǎn)生活方式、社會(huì)關(guān)系、社會(huì)秩序等在內(nèi)的全方位重大變革。③馬長(zhǎng)山:《智能互聯(lián)網(wǎng)時(shí)代的法律變革》,《法學(xué)研究》2018年第4期。在這場(chǎng)無(wú)聲的數(shù)字革命中,我們大多數(shù)人,無(wú)論財(cái)富的多寡、社會(huì)地位的高低、年齡的大小,無(wú)可逃遁地成為“數(shù)字弱勢(shì)群體”的一員,社會(huì)不平等問(wèn)題越發(fā)嚴(yán)峻。面對(duì)這個(gè)難題,我們可以從“法治思維、法治體系、法治實(shí)施”三個(gè)維度出發(fā),構(gòu)建起全方位、全過(guò)程的新型數(shù)字不平等治理的法治化路徑。

    (一)樹(shù)立新型數(shù)字不平等治理的法治思維

    社會(huì)生產(chǎn)生活方式發(fā)生了急劇變革,但我們還遠(yuǎn)未形成治理新型數(shù)字不平等問(wèn)題的法治思維,表現(xiàn)在以下兩個(gè)方面。一是以法治化的方式治理新型數(shù)字不平等問(wèn)題的法治認(rèn)同并未有效建立。新型數(shù)字不平等問(wèn)題并不僅是由傳統(tǒng)社會(huì)結(jié)構(gòu)不平等所導(dǎo)致的,甚至在很大程度上不是由傳統(tǒng)社會(huì)結(jié)構(gòu)不平等所導(dǎo)致的。新型數(shù)字不平等根源于數(shù)據(jù)權(quán)力、算法權(quán)力和平臺(tái)權(quán)力的崛起,這是人為的,而不是自然的,并不是僅通過(guò)國(guó)家財(cái)政轉(zhuǎn)移支付、經(jīng)濟(jì)救濟(jì)和社會(huì)幫扶就可以解決的。相反,新型數(shù)字不平等問(wèn)題的治理必須以法治化形式才能得到比較完善的解決,當(dāng)然,國(guó)家政策、技術(shù)倫理和行業(yè)標(biāo)準(zhǔn)也是不容忽視的,但法律之治始終是根本性的。二是以法治化的方式治理新型數(shù)字不平等問(wèn)題的法治思維相對(duì)滯后。信息技術(shù)發(fā)達(dá)的國(guó)家較早地建立起了相對(duì)完備的法律治理框架。以歐盟為例,在國(guó)際層面的個(gè)人數(shù)據(jù)安全保護(hù)方面,歐盟從20 世紀(jì)80 年代就開(kāi)始重視數(shù)據(jù)治理法律體系的建構(gòu),1981 年歐洲委員會(huì)就簽署了《有關(guān)個(gè)人數(shù)據(jù)自動(dòng)化處理的個(gè)人保護(hù)公約》(簡(jiǎn)稱(chēng)為108 號(hào)公約),1995 年歐盟通過(guò)了《個(gè)人數(shù)據(jù)處理保護(hù)指令》(簡(jiǎn)稱(chēng)為95 指令),2012 年歐洲會(huì)議公布了《一般數(shù)據(jù)保護(hù)條例》的建議稿,并于2018年5月正式在歐盟各成員國(guó)生效。經(jīng)過(guò)多年的實(shí)踐探索,歐盟形成了以“個(gè)人數(shù)據(jù)保護(hù)權(quán)”為主的數(shù)據(jù)跨境流動(dòng)模式,對(duì)全球數(shù)字貿(mào)易和數(shù)字不平等治理產(chǎn)生了深遠(yuǎn)的影響。反觀我國(guó),我們的專(zhuān)門(mén)法律網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法都是在近幾年才陸續(xù)出臺(tái)的,而且這些法律在具體法律實(shí)踐中存在諸多問(wèn)題,這從側(cè)面反映我們國(guó)家在數(shù)字不平等治理問(wèn)題上的法治思維前瞻性不夠。

    為了更好地捍衛(wèi)數(shù)字主權(quán)、保障數(shù)字人權(quán)和實(shí)現(xiàn)數(shù)字正義,我們必須要樹(shù)立新型數(shù)字不平等治理的法治思維和法治觀念,思維是行動(dòng)的先導(dǎo),思路決定出路。其一,以法治形式化的規(guī)則和程序逐步改變?nèi)藗儏⑴c全球新型數(shù)字不平等治理的思維觀念和行為方式。新型數(shù)字不平等是全球性、社會(huì)性、系統(tǒng)性的難題,需要全球共同參與治理。數(shù)字資本和數(shù)字權(quán)力的急劇擴(kuò)張加劇了數(shù)據(jù)掌控者與數(shù)據(jù)生產(chǎn)者之間的不平等,在激烈的數(shù)據(jù)戰(zhàn)中,數(shù)字霸權(quán)對(duì)數(shù)字弱勢(shì)國(guó)家開(kāi)展了瘋狂的數(shù)據(jù)掠奪,形同“數(shù)字殖民主義”。在這樣的背景下,我們必須建構(gòu)起數(shù)據(jù)安全保護(hù)領(lǐng)域的涉外法治思維,從立法、執(zhí)法、司法以及涉外法律服務(wù)等多個(gè)層面參與到全球數(shù)字治理中,堅(jiān)決反對(duì)數(shù)字霸權(quán)主義,捍衛(wèi)我國(guó)的數(shù)字主權(quán),推動(dòng)建構(gòu)更加公平公正的數(shù)字正義格局。①?gòu)堼專(zhuān)骸渡嫱夥ㄖ蔚母拍钆c體系》,《中國(guó)法學(xué)》2022年第2期。在具體層面,需要不斷完善網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等與全球數(shù)據(jù)治理有關(guān)的法律規(guī)范,尤其是要以法治化形式對(duì)數(shù)據(jù)跨境流動(dòng)進(jìn)行規(guī)制,強(qiáng)化國(guó)家的數(shù)據(jù)管轄能力。其二,確立尊重和保障“數(shù)字弱勢(shì)群體”權(quán)利的法治思維和法治理念,以法治化形式將個(gè)人數(shù)據(jù)權(quán)利明晰化。法治的核心在于權(quán)利的實(shí)現(xiàn)。以法治化方式治理新型數(shù)字不平等問(wèn)題的關(guān)鍵舉措在于規(guī)制數(shù)字權(quán)力和數(shù)據(jù)賦權(quán)制衡,保障“數(shù)字弱勢(shì)群體”權(quán)利的實(shí)現(xiàn)。在我國(guó),“數(shù)字弱勢(shì)群體”權(quán)利還是有待于證成的新興權(quán)利,在司法實(shí)踐中還不能直接作為訴訟請(qǐng)求,而是以隱私權(quán)、知情權(quán)、刪除權(quán)、個(gè)人信息權(quán)和數(shù)據(jù)權(quán)等具體權(quán)利類(lèi)型提出訴求,但這樣可能會(huì)削弱“數(shù)字弱勢(shì)群體”權(quán)利的實(shí)現(xiàn)。在具體操作層面,可以通過(guò)“案例—解釋—立法”的形式進(jìn)一步保障“數(shù)字弱勢(shì)群體”權(quán)利,即通過(guò)典型案例的價(jià)值引領(lǐng)進(jìn)行特殊化的個(gè)人救濟(jì)、依靠法律解釋將裁判規(guī)則和裁判理念轉(zhuǎn)變?yōu)橐话慊?guī)范、訴諸規(guī)范立法對(duì)侵權(quán)問(wèn)題進(jìn)行針對(duì)性保護(hù)。②宋保振:《“數(shù)字弱勢(shì)群體”權(quán)利及其法治化保障》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2020年第6期。隨著《中華人民共和國(guó)個(gè)人信息保護(hù)法》的頒布實(shí)施,我國(guó)以法治化形式保障“數(shù)字弱勢(shì)群體”權(quán)利的工作從思維和理念層面開(kāi)始走向?qū)嵺`。

    (二)建構(gòu)新型數(shù)字不平等治理的法治體系

    新型數(shù)字不平等治理問(wèn)題是數(shù)字時(shí)代的整體性和全局性問(wèn)題,數(shù)據(jù)、代碼、算法和數(shù)字平臺(tái)都是其中的結(jié)構(gòu)性要素,治理數(shù)字不平等問(wèn)題也需要一個(gè)相對(duì)完備的法治體系。但我國(guó)應(yīng)對(duì)新型數(shù)字不平等問(wèn)題的法治體系尚未建立,主要體現(xiàn)在以下兩方面。一是縱向相互貫通的法律體系尚未真正建立。從表面上看,治理數(shù)字不平等、實(shí)現(xiàn)數(shù)字正義方面,我國(guó)已經(jīng)形成了復(fù)合型的法律規(guī)制,包括基礎(chǔ)性規(guī)范、專(zhuān)門(mén)性規(guī)范和補(bǔ)充性規(guī)范,但是我們的基礎(chǔ)性規(guī)范和專(zhuān)門(mén)性規(guī)范非常有限,專(zhuān)門(mén)性立法更是屈指可數(shù)。國(guó)家“十四五”規(guī)劃中明確提出要“加快推進(jìn)數(shù)據(jù)安全、個(gè)人信息保護(hù)等領(lǐng)域基礎(chǔ)性立法,強(qiáng)化數(shù)據(jù)資源全生命周期安全保護(hù)”。但我國(guó)除了網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、電子商務(wù)法、個(gè)人信息保護(hù)法等個(gè)人信息領(lǐng)域的基礎(chǔ)性立法外,大部分規(guī)范只是國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合其他部門(mén)出臺(tái)的政策性、指導(dǎo)性文件,缺乏強(qiáng)制性的法律約束力。二是橫向配套連接的新型數(shù)字不平等治理的法治體系遠(yuǎn)未形成。傳統(tǒng)與新型數(shù)字不平等的出現(xiàn)必然意味著有一部分人成為“數(shù)字弱勢(shì)群體”,而我國(guó)保護(hù)“數(shù)字弱勢(shì)群體”的法律很少關(guān)注到數(shù)字智能革命帶來(lái)的顛覆性影響,比如,當(dāng)下的《中華人民共和國(guó)老年人權(quán)益保障法》中并沒(méi)有關(guān)注“銀發(fā)數(shù)字鴻溝”問(wèn)題,更談不上關(guān)注老年人在數(shù)字時(shí)代所面臨的更加嚴(yán)峻的“大數(shù)據(jù)鴻溝”和“算法鴻溝”,橫向?qū)用娴姆扇蔽皇沟美夏耆后w在數(shù)字社會(huì)的權(quán)利沒(méi)有得到切實(shí)保障,智能革命讓老年人變得“寸步難行”,這個(gè)問(wèn)題對(duì)于正在快速邁向人口老齡化社會(huì)的中國(guó)而言是不容忽視的。

    新型數(shù)字不平等治理法治化需要相對(duì)完備的制度體系,具體而言,可以從三個(gè)方面入手加強(qiáng)新型數(shù)字不平等治理法治體系的建構(gòu)。首先,進(jìn)一步完善新型數(shù)字不平等治理的專(zhuān)門(mén)性立法。近年來(lái),我國(guó)的數(shù)據(jù)安全法、個(gè)人信息保護(hù)法、網(wǎng)絡(luò)安全法等一系列法律法規(guī)相繼出臺(tái),對(duì)數(shù)字經(jīng)濟(jì)發(fā)展和數(shù)字人權(quán)保障起到了一定的作用,但依然存在不同領(lǐng)域和層級(jí)法律規(guī)范之間銜接不暢、一些前沿領(lǐng)域立法滯后等短板。2021年國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合相關(guān)部門(mén)出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,這是可以被稱(chēng)作世界第一部以算法為調(diào)整對(duì)象的全面系統(tǒng)的法律性文件(規(guī)章),但還不是嚴(yán)格意義上的“法律”,將來(lái)可以探索制定算法問(wèn)責(zé)法、人工智能法、數(shù)字服務(wù)法等數(shù)字信息領(lǐng)域法律,提升新型數(shù)字不平等治理法治化的針對(duì)性和實(shí)效性。其次,完善橫向配套的傳統(tǒng)法律規(guī)范的數(shù)字化轉(zhuǎn)型,強(qiáng)化傳統(tǒng)法律規(guī)范的數(shù)字治理面向。比如2022年8月1日開(kāi)始實(shí)施的新修改的《中華人民共和國(guó)反壟斷法》增加一條作為第九條:“經(jīng)營(yíng)者不得利用數(shù)據(jù)和算法、技術(shù)、資本優(yōu)勢(shì)以及平臺(tái)規(guī)則等從事本法禁止的壟斷行為?!庇纱丝梢?jiàn),新修改的《中華人民共和國(guó)反壟斷法》第九條有效地回應(yīng)了大平臺(tái)可能濫用數(shù)據(jù)、算法、技術(shù)、資本優(yōu)勢(shì)等損害數(shù)字市場(chǎng)競(jìng)爭(zhēng)的問(wèn)題。將來(lái),各級(jí)有關(guān)部門(mén)及市場(chǎng)主體乃至個(gè)人也應(yīng)當(dāng)在《中華人民共和國(guó)老年人權(quán)益保障法》《中華人民共和國(guó)社會(huì)保險(xiǎn)法》《中華人民共和國(guó)勞動(dòng)法》等傳統(tǒng)法律的修改過(guò)程中積極回應(yīng)數(shù)字不平等問(wèn)題,提升法律的社會(huì)治理功能。最后,建構(gòu)起完備的新型數(shù)字不平等法治化治理的制度體系。以規(guī)制算法權(quán)力的制度體系建設(shè)為例,我國(guó)需要全面完善算法影響評(píng)估制度、算法問(wèn)責(zé)制度、算法審計(jì)制度、算法備案制度,尤其是要加強(qiáng)算法影響評(píng)估制度建設(shè)。算法影響評(píng)估制度的設(shè)置與實(shí)施對(duì)算法設(shè)計(jì)、部署、運(yùn)行的全部流程予以動(dòng)態(tài)評(píng)估,能夠提高算法透明度并構(gòu)筑算法信任、助力場(chǎng)景化和精細(xì)化的算法治理、有效聯(lián)結(jié)數(shù)據(jù)保護(hù)影響評(píng)估制度。①?gòu)埿溃骸端惴ㄓ绊懺u(píng)估制度的構(gòu)建機(jī)理與中國(guó)方案》,《法商研究》2021年第2期。我國(guó)需要借鑒他國(guó)的先進(jìn)經(jīng)驗(yàn),打造科學(xué)的、本土化的算法影響評(píng)估制度。

    (三)完善新型數(shù)字不平等治理的法治實(shí)施機(jī)制

    法律的生命力在于實(shí)施,法律的權(quán)威也在于實(shí)施。新型數(shù)字不平等治理的法治思維和法治體系是法治實(shí)施機(jī)制全面落實(shí)的基礎(chǔ)。在邁向新型數(shù)字不平等治理法治化的道路上,我國(guó)需要完善新型數(shù)字不平等治理的法治實(shí)施機(jī)制。首先,建構(gòu)多元共治的規(guī)制主體系統(tǒng)。新型數(shù)字不平等問(wèn)題發(fā)生的原因是數(shù)據(jù)權(quán)力、算法權(quán)力和平臺(tái)權(quán)力的過(guò)度膨脹,因此,治理新型數(shù)字不平等問(wèn)題在很大程度上就是要以法治化的形式對(duì)數(shù)據(jù)權(quán)力、算法權(quán)力和平臺(tái)權(quán)力進(jìn)行合理規(guī)制。就算法權(quán)力的規(guī)制而言,主要包括算法應(yīng)用前的審查監(jiān)督、算法應(yīng)用中的法律保障、算法應(yīng)用后的法律問(wèn)責(zé)等關(guān)鍵環(huán)節(jié),在不同的算法運(yùn)行環(huán)節(jié)中,規(guī)制算法權(quán)力的主體是不同的,而算法權(quán)力的規(guī)制又只是新型數(shù)字不平等治理法治化的其中一環(huán),這意味著一個(gè)完備的法治化治理體系需要建構(gòu)起多元共治的規(guī)制主體系統(tǒng)。其次,建構(gòu)以場(chǎng)景化為主的規(guī)制路徑。傳統(tǒng)規(guī)制算法的方式主要是算法解釋、個(gè)人數(shù)據(jù)賦權(quán)制衡和反算法歧視,但是在實(shí)踐操作中面臨著可行性的難題,主要是因?yàn)樗惴ㄊ且詧?chǎng)景化的形式運(yùn)作的,在不同的場(chǎng)景中對(duì)算法應(yīng)該采取不同的規(guī)制方式。②丁曉東:《論算法的法律規(guī)制》,《中國(guó)社會(huì)科學(xué)》2020年第12期。就算法解釋權(quán)而言,我國(guó)個(gè)人信息保護(hù)法的第二十四條并沒(méi)有區(qū)分公私領(lǐng)域的算法規(guī)制路徑,僅是在整體層面對(duì)算法解釋權(quán)進(jìn)行了初步規(guī)定,這導(dǎo)致算法解釋權(quán)在實(shí)踐中沒(méi)有辦法落到實(shí)處。③林洹民:《〈個(gè)人信息保護(hù)法〉中的算法解釋權(quán):兼顧公私場(chǎng)景的區(qū)分規(guī)范策略》,《法治研究》2022年第5期。因此,新型數(shù)字不平等法治化治理需要建構(gòu)以場(chǎng)景化為中心的規(guī)制路徑,提升法律的治理效能。最后,強(qiáng)化新型數(shù)字不平等法治化治理的監(jiān)督機(jī)制,法治實(shí)施離不開(kāi)法律監(jiān)督機(jī)制。我國(guó)相關(guān)法律規(guī)范都強(qiáng)調(diào)要加強(qiáng)對(duì)重要數(shù)據(jù)處理者和算法服務(wù)提供者的法律監(jiān)督,但一個(gè)系統(tǒng)全面的監(jiān)督機(jī)制尚未建立,這導(dǎo)致很多治理數(shù)字不平等問(wèn)題的法律規(guī)范在實(shí)施過(guò)程中流于形式,沒(méi)有實(shí)現(xiàn)立法者的意圖。算法問(wèn)責(zé)制度、算法審計(jì)制度和算法備案制度實(shí)質(zhì)上都是在履行內(nèi)部監(jiān)督職能,而外部的對(duì)數(shù)據(jù)權(quán)力規(guī)制、算法權(quán)力規(guī)制和平臺(tái)權(quán)力規(guī)制的監(jiān)督機(jī)制仍有待建立健全。

    結(jié)語(yǔ)

    數(shù)字技術(shù)表面上為減少社會(huì)差距、解決社會(huì)排斥、保障公民權(quán)利以及促進(jìn)社會(huì)公平提供了機(jī)會(huì),但在通往數(shù)字智能革命美好愿景的路上,其讓很多人成了“數(shù)字弱勢(shì)群體”。新型數(shù)字不平等已經(jīng)滲透到社會(huì)各個(gè)角落,它的破壞力之大、影響范圍之廣、持續(xù)時(shí)間之久,已遠(yuǎn)遠(yuǎn)超出數(shù)字鴻溝背景下的傳統(tǒng)數(shù)字不平等問(wèn)題,我們需要正視數(shù)字不平等的“新舊之別”,只有這樣才能做到“對(duì)癥下藥”。新型數(shù)字不平等是人為的,不是自然的,甚至也不是由傳統(tǒng)社會(huì)結(jié)構(gòu)中的不平等問(wèn)題決定的,這是“新舊”數(shù)字不平等之間最大的差別。在新型數(shù)字不平等的境況中,我們大多數(shù)人都是“數(shù)字弱勢(shì)群體”,我們的數(shù)據(jù)由數(shù)字平臺(tái)所掌握,我們成為大數(shù)據(jù)技術(shù)分析的對(duì)象,這與我們的社會(huì)經(jīng)濟(jì)地位關(guān)系并不大。這也意味著新型數(shù)字不平等問(wèn)題的解決不能僅依靠經(jīng)濟(jì)救助和社會(huì)幫扶,而是需要道德與法律的規(guī)制,尤其是要充分發(fā)揮法治的作用。在數(shù)字經(jīng)濟(jì)高歌猛進(jìn)的時(shí)代,數(shù)字不平等問(wèn)題越發(fā)凸顯,社會(huì)公平正義的價(jià)值理念遭遇了前所未有的危機(jī),為了捍衛(wèi)數(shù)字主權(quán)、保障數(shù)字人權(quán)和實(shí)現(xiàn)數(shù)字正義,必須加強(qiáng)對(duì)新型數(shù)字不平等問(wèn)題的治理,積極探索新型數(shù)字不平等治理的法治化實(shí)現(xiàn)路徑,建構(gòu)具有中國(guó)特色的數(shù)字不平等治理的法治化路徑,為國(guó)際社會(huì)提供中國(guó)方案。

    亚洲专区中文字幕在线| 狂野欧美白嫩少妇大欣赏| 国产精品久久电影中文字幕| 国产精品一区二区三区四区免费观看 | 午夜福利免费观看在线| 欧美色视频一区免费| 精品久久久久久久久久久久久| 亚洲va日本ⅴa欧美va伊人久久| 老熟妇仑乱视频hdxx| 美女高潮喷水抽搐中文字幕| 日韩欧美精品免费久久 | 国产私拍福利视频在线观看| 男人的好看免费观看在线视频| 成人亚洲精品av一区二区| 成人永久免费在线观看视频| 久久国产乱子免费精品| 欧美性感艳星| 两人在一起打扑克的视频| 亚洲在线自拍视频| 每晚都被弄得嗷嗷叫到高潮| 五月玫瑰六月丁香| 真人一进一出gif抽搐免费| 天堂影院成人在线观看| 婷婷精品国产亚洲av| 2021天堂中文幕一二区在线观| 香蕉av资源在线| 久久亚洲精品不卡| 午夜免费男女啪啪视频观看 | 香蕉av资源在线| 国产国拍精品亚洲av在线观看| 久久人人爽人人爽人人片va | 久久性视频一级片| 欧美成狂野欧美在线观看| 99热6这里只有精品| 成年免费大片在线观看| 老司机福利观看| 在线播放国产精品三级| 国产精品一区二区免费欧美| 国产激情偷乱视频一区二区| 久久久久免费精品人妻一区二区| 国产黄片美女视频| 欧美日韩黄片免| 国产野战对白在线观看| 亚洲自偷自拍三级| 能在线免费观看的黄片| 久久久久免费精品人妻一区二区| 少妇被粗大猛烈的视频| 91在线精品国自产拍蜜月| 蜜桃亚洲精品一区二区三区| 精品福利观看| 丰满的人妻完整版| 成人午夜高清在线视频| 国产精品永久免费网站| 动漫黄色视频在线观看| 亚洲精品粉嫩美女一区| 一级黄片播放器| 午夜日韩欧美国产| 少妇人妻一区二区三区视频| 日韩欧美免费精品| 欧美成人免费av一区二区三区| 老司机深夜福利视频在线观看| 少妇人妻一区二区三区视频| 91久久精品国产一区二区成人| 99久国产av精品| 欧美激情国产日韩精品一区| 少妇被粗大猛烈的视频| 欧美成人一区二区免费高清观看| 亚洲av成人精品一区久久| 夜夜看夜夜爽夜夜摸| www.色视频.com| 99久久无色码亚洲精品果冻| 乱码一卡2卡4卡精品| 日本成人三级电影网站| 久久99热这里只有精品18| 毛片一级片免费看久久久久 | 九色国产91popny在线| 一区二区三区激情视频| 琪琪午夜伦伦电影理论片6080| 欧美日韩福利视频一区二区| 亚洲一区二区三区不卡视频| 国产男靠女视频免费网站| 国产精品女同一区二区软件 | 伦理电影大哥的女人| 男女下面进入的视频免费午夜| 欧美激情在线99| 亚洲av电影不卡..在线观看| 欧美三级亚洲精品| 国产高清视频在线观看网站| 国产日本99.免费观看| 中文资源天堂在线| 午夜a级毛片| 亚洲精华国产精华精| 国产 一区 欧美 日韩| 在线天堂最新版资源| 亚洲av免费在线观看| 久久九九热精品免费| 亚洲人成网站在线播| 婷婷亚洲欧美| 深夜精品福利| 国产日本99.免费观看| 搞女人的毛片| 亚洲片人在线观看| 十八禁人妻一区二区| 国产在线精品亚洲第一网站| 国产精品久久久久久亚洲av鲁大| 91久久精品国产一区二区成人| 亚洲第一欧美日韩一区二区三区| 小说图片视频综合网站| 精品午夜福利在线看| 国产美女午夜福利| 黄色一级大片看看| 美女高潮喷水抽搐中文字幕| 桃色一区二区三区在线观看| 老熟妇乱子伦视频在线观看| 男女床上黄色一级片免费看| 非洲黑人性xxxx精品又粗又长| 亚洲,欧美,日韩| 少妇丰满av| 在线观看午夜福利视频| 人妻丰满熟妇av一区二区三区| 国产高潮美女av| 综合色av麻豆| 国产成人啪精品午夜网站| 熟女电影av网| 深爱激情五月婷婷| 天堂影院成人在线观看| 久久久久亚洲av毛片大全| 午夜亚洲福利在线播放| 十八禁国产超污无遮挡网站| 国产av在哪里看| 一级毛片久久久久久久久女| 级片在线观看| 欧美一区二区精品小视频在线| 听说在线观看完整版免费高清| 成熟少妇高潮喷水视频| 国产免费一级a男人的天堂| 久久久久久久午夜电影| 亚洲精品乱码久久久v下载方式| 国产精品亚洲一级av第二区| 嫩草影院精品99| 91麻豆av在线| av在线蜜桃| 国产一区二区亚洲精品在线观看| 欧美日韩亚洲国产一区二区在线观看| 日韩欧美 国产精品| 国产精品爽爽va在线观看网站| 又爽又黄无遮挡网站| 国产乱人伦免费视频| 亚洲精品色激情综合| 精品人妻熟女av久视频| 国语自产精品视频在线第100页| 精品乱码久久久久久99久播| 最新在线观看一区二区三区| 在线a可以看的网站| 哪里可以看免费的av片| 亚洲av不卡在线观看| 国产视频一区二区在线看| 有码 亚洲区| 又爽又黄无遮挡网站| 日本成人三级电影网站| 亚洲av日韩精品久久久久久密| 欧美丝袜亚洲另类 | 搡女人真爽免费视频火全软件 | 变态另类丝袜制服| 精品日产1卡2卡| 99视频精品全部免费 在线| 国产黄a三级三级三级人| 桃色一区二区三区在线观看| 色哟哟哟哟哟哟| 深爱激情五月婷婷| 久久久久精品国产欧美久久久| 久久久久久九九精品二区国产| 我要搜黄色片| 夜夜躁狠狠躁天天躁| 91字幕亚洲| а√天堂www在线а√下载| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 老鸭窝网址在线观看| 国产aⅴ精品一区二区三区波| 精品一区二区三区人妻视频| 岛国在线免费视频观看| 成人美女网站在线观看视频| 91av网一区二区| 国产亚洲精品久久久com| 真人做人爱边吃奶动态| 色噜噜av男人的天堂激情| 狠狠狠狠99中文字幕| 高清毛片免费观看视频网站| 成人av一区二区三区在线看| 成人国产一区最新在线观看| 国产蜜桃级精品一区二区三区| 少妇的逼好多水| 美女 人体艺术 gogo| 99久久99久久久精品蜜桃| 一级a爱片免费观看的视频| 中亚洲国语对白在线视频| 国内精品久久久久精免费| av中文乱码字幕在线| 天美传媒精品一区二区| 中文字幕久久专区| 久久精品国产自在天天线| 欧美乱妇无乱码| 好看av亚洲va欧美ⅴa在| 国产精品av视频在线免费观看| 一本一本综合久久| 亚洲最大成人中文| 男女床上黄色一级片免费看| 性欧美人与动物交配| 久久久久国产精品人妻aⅴ院| 黄片小视频在线播放| 日韩 亚洲 欧美在线| 国产精品国产高清国产av| 亚洲自偷自拍三级| 亚洲欧美精品综合久久99| 全区人妻精品视频| 99国产综合亚洲精品| 黄色丝袜av网址大全| 亚洲成人久久性| 亚洲狠狠婷婷综合久久图片| 十八禁国产超污无遮挡网站| 亚洲精品成人久久久久久| 99riav亚洲国产免费| 欧美高清成人免费视频www| 最新中文字幕久久久久| 免费在线观看亚洲国产| 国语自产精品视频在线第100页| 国产国拍精品亚洲av在线观看| 又爽又黄无遮挡网站| 1000部很黄的大片| 岛国在线免费视频观看| 国产av麻豆久久久久久久| 婷婷六月久久综合丁香| 欧美黄色淫秽网站| 欧美+亚洲+日韩+国产| 国模一区二区三区四区视频| 免费看光身美女| 国产精品三级大全| 欧美一级a爱片免费观看看| 日韩中字成人| 日本撒尿小便嘘嘘汇集6| 午夜两性在线视频| 天天躁日日操中文字幕| 欧美绝顶高潮抽搐喷水| 亚洲熟妇中文字幕五十中出| 在线播放国产精品三级| 欧美日本亚洲视频在线播放| 日韩有码中文字幕| 亚洲中文字幕一区二区三区有码在线看| 久久久精品欧美日韩精品| 一本精品99久久精品77| 国产真实伦视频高清在线观看 | 一级黄片播放器| 国产视频一区二区在线看| 亚洲av电影在线进入| 91麻豆av在线| 成年女人看的毛片在线观看| 日本a在线网址| 九色国产91popny在线| 亚洲国产精品sss在线观看| 国产欧美日韩一区二区精品| 看免费av毛片| 12—13女人毛片做爰片一| 日韩人妻高清精品专区| 18禁黄网站禁片免费观看直播| 欧美性猛交黑人性爽| 久久久久性生活片| 小蜜桃在线观看免费完整版高清| 久久国产乱子免费精品| 国产精品女同一区二区软件 | 午夜福利视频1000在线观看| 国内久久婷婷六月综合欲色啪| 日韩国内少妇激情av| 国产一区二区在线观看日韩| 日韩高清综合在线| 久久久精品大字幕| 国产乱人视频| 欧美性感艳星| 老司机午夜福利在线观看视频| 少妇熟女aⅴ在线视频| 久久这里只有精品中国| 性色avwww在线观看| 脱女人内裤的视频| 日本五十路高清| 久久久久久久精品吃奶| 久久久久久久亚洲中文字幕 | 蜜桃亚洲精品一区二区三区| 午夜影院日韩av| 久99久视频精品免费| 国产视频一区二区在线看| 女人十人毛片免费观看3o分钟| 中文字幕av在线有码专区| 久久中文看片网| 欧美高清性xxxxhd video| 免费看a级黄色片| 国产欧美日韩一区二区精品| 三级国产精品欧美在线观看| 天天躁日日操中文字幕| h日本视频在线播放| 51午夜福利影视在线观看| 人人妻人人看人人澡| 日本精品一区二区三区蜜桃| 亚洲av成人精品一区久久| 黄色女人牲交| 久久伊人香网站| 国产午夜精品久久久久久一区二区三区 | 99久久久亚洲精品蜜臀av| 久久天躁狠狠躁夜夜2o2o| 欧美乱色亚洲激情| 偷拍熟女少妇极品色| 成人欧美大片| 少妇的逼好多水| 国产精品一区二区免费欧美| 亚洲精品色激情综合| www.熟女人妻精品国产| 九九久久精品国产亚洲av麻豆| 国产v大片淫在线免费观看| 此物有八面人人有两片| 18禁黄网站禁片午夜丰满| 欧美三级亚洲精品| 一本一本综合久久| 我的老师免费观看完整版| 男人的好看免费观看在线视频| 亚洲经典国产精华液单 | 精品一区二区三区视频在线观看免费| 最近视频中文字幕2019在线8| 夜夜夜夜夜久久久久| 久99久视频精品免费| 国产伦精品一区二区三区四那| 亚洲av成人不卡在线观看播放网| 天美传媒精品一区二区| 欧美另类亚洲清纯唯美| 精品一区二区三区人妻视频| 性色av乱码一区二区三区2| 国产精品久久电影中文字幕| 每晚都被弄得嗷嗷叫到高潮| 制服丝袜大香蕉在线| xxxwww97欧美| 精品福利观看| 男女床上黄色一级片免费看| 久久久久性生活片| 变态另类成人亚洲欧美熟女| 久久久久久久午夜电影| 中文字幕免费在线视频6| 一区二区三区高清视频在线| 69人妻影院| 亚洲在线自拍视频| 国产午夜精品久久久久久一区二区三区 | 午夜福利视频1000在线观看| 91在线观看av| 宅男免费午夜| 成人鲁丝片一二三区免费| 身体一侧抽搐| 亚洲欧美日韩高清专用| 三级国产精品欧美在线观看| 可以在线观看的亚洲视频| 人妻夜夜爽99麻豆av| 久久久色成人| 1000部很黄的大片| 欧美xxxx性猛交bbbb| 大型黄色视频在线免费观看| 老司机午夜十八禁免费视频| 好男人电影高清在线观看| 一级作爱视频免费观看| 国产三级中文精品| 99久久精品国产亚洲精品| 97碰自拍视频| 日本撒尿小便嘘嘘汇集6| 国产av在哪里看| 国产视频内射| 色在线成人网| 一卡2卡三卡四卡精品乱码亚洲| 亚洲精品日韩av片在线观看| 亚洲人成网站在线播| 少妇被粗大猛烈的视频| 高清在线国产一区| 久久久久久久久久黄片| 高潮久久久久久久久久久不卡| 男女床上黄色一级片免费看| 日日摸夜夜添夜夜添小说| 九色成人免费人妻av| 国产精品一区二区免费欧美| 床上黄色一级片| 欧美最黄视频在线播放免费| 露出奶头的视频| 久久久久久久久中文| a级毛片免费高清观看在线播放| 少妇的逼水好多| 久久久精品欧美日韩精品| 日日摸夜夜添夜夜添av毛片 | 久久99热6这里只有精品| 亚洲美女黄片视频| 中文字幕免费在线视频6| 草草在线视频免费看| 亚洲不卡免费看| 婷婷六月久久综合丁香| 日本一本二区三区精品| 成年女人永久免费观看视频| 亚洲午夜理论影院| 制服丝袜大香蕉在线| 少妇熟女aⅴ在线视频| 日韩av在线大香蕉| 久久香蕉精品热| 欧美丝袜亚洲另类 | 日韩欧美免费精品| 欧美不卡视频在线免费观看| 十八禁人妻一区二区| 国产一级毛片七仙女欲春2| 国产真实乱freesex| 亚洲 国产 在线| 99久久精品国产亚洲精品| 日韩欧美精品v在线| 中出人妻视频一区二区| 国产伦精品一区二区三区视频9| 久久精品国产亚洲av天美| 国产精品一及| 日韩大尺度精品在线看网址| 久久久久久久午夜电影| 老司机深夜福利视频在线观看| 99国产精品一区二区蜜桃av| 又紧又爽又黄一区二区| 精品一区二区三区视频在线| 欧美+亚洲+日韩+国产| 久99久视频精品免费| 国产精品影院久久| 老司机福利观看| 黄色女人牲交| 国内精品久久久久精免费| 国产亚洲欧美在线一区二区| 熟妇人妻久久中文字幕3abv| 国产精品久久久久久人妻精品电影| .国产精品久久| 免费观看的影片在线观看| 国产高潮美女av| 日本撒尿小便嘘嘘汇集6| 美女大奶头视频| 久久伊人香网站| 欧美黄色片欧美黄色片| 天堂av国产一区二区熟女人妻| 国产精品自产拍在线观看55亚洲| 黄色一级大片看看| 美女cb高潮喷水在线观看| 国产精品综合久久久久久久免费| xxxwww97欧美| 婷婷六月久久综合丁香| 看免费av毛片| 日韩欧美免费精品| 在线观看66精品国产| 在现免费观看毛片| 最好的美女福利视频网| 亚洲人成网站在线播| 美女黄网站色视频| 美女被艹到高潮喷水动态| 国产成人欧美在线观看| 日韩中字成人| 国内久久婷婷六月综合欲色啪| 欧美黑人欧美精品刺激| 久久久久久久久中文| 免费看美女性在线毛片视频| 精品福利观看| 最近在线观看免费完整版| 99国产极品粉嫩在线观看| 成熟少妇高潮喷水视频| 亚洲精品色激情综合| 中文字幕av在线有码专区| 丰满乱子伦码专区| 99久久精品一区二区三区| 黄片小视频在线播放| 国产精品永久免费网站| 久久国产乱子伦精品免费另类| 国产美女午夜福利| 悠悠久久av| 国产成人影院久久av| 亚洲va日本ⅴa欧美va伊人久久| 一个人免费在线观看的高清视频| 在线播放国产精品三级| www日本黄色视频网| 最新在线观看一区二区三区| 国产精品影院久久| 欧美xxxx性猛交bbbb| 久久久久久九九精品二区国产| 1024手机看黄色片| 欧美日韩黄片免| 给我免费播放毛片高清在线观看| 国产精品1区2区在线观看.| 啪啪无遮挡十八禁网站| 成人国产综合亚洲| 搡老妇女老女人老熟妇| 亚洲成av人片在线播放无| 亚洲av日韩精品久久久久久密| 窝窝影院91人妻| 国产国拍精品亚洲av在线观看| 高潮久久久久久久久久久不卡| 国产精品一区二区三区四区久久| 国产亚洲精品av在线| 性插视频无遮挡在线免费观看| 999久久久精品免费观看国产| 一级黄片播放器| 久久亚洲精品不卡| 丁香六月欧美| 国产高清有码在线观看视频| 日本黄色视频三级网站网址| 桃色一区二区三区在线观看| 91麻豆精品激情在线观看国产| 少妇的逼水好多| 国产精品久久久久久人妻精品电影| 亚洲一区二区三区色噜噜| 日本黄色片子视频| 美女黄网站色视频| 搡老熟女国产l中国老女人| 欧美xxxx黑人xx丫x性爽| 国产乱人视频| 欧美另类亚洲清纯唯美| 国产黄a三级三级三级人| 亚洲欧美日韩东京热| 欧美成狂野欧美在线观看| 色在线成人网| 国产精品一区二区免费欧美| 我要搜黄色片| 国产极品精品免费视频能看的| x7x7x7水蜜桃| 欧美午夜高清在线| 中文字幕av在线有码专区| 老鸭窝网址在线观看| 日本免费一区二区三区高清不卡| 99热这里只有精品一区| 国产亚洲欧美在线一区二区| 网址你懂的国产日韩在线| 久99久视频精品免费| 男人舔女人下体高潮全视频| 国产av麻豆久久久久久久| 欧美在线一区亚洲| 久久热精品热| 久久伊人香网站| 90打野战视频偷拍视频| 日本成人三级电影网站| 99热这里只有是精品在线观看 | 亚洲欧美日韩高清在线视频| а√天堂www在线а√下载| 精品一区二区三区人妻视频| 色综合欧美亚洲国产小说| 亚洲自偷自拍三级| 日本熟妇午夜| 成人av在线播放网站| 搡老岳熟女国产| 久久久精品大字幕| 两个人视频免费观看高清| 99久久久亚洲精品蜜臀av| 一卡2卡三卡四卡精品乱码亚洲| 床上黄色一级片| 成年版毛片免费区| 少妇人妻精品综合一区二区 | 在线看三级毛片| 色吧在线观看| 欧美日韩国产亚洲二区| 成年人黄色毛片网站| 搡老岳熟女国产| 脱女人内裤的视频| 久久亚洲真实| 日韩欧美国产一区二区入口| 亚洲天堂国产精品一区在线| 超碰av人人做人人爽久久| 精品一区二区三区视频在线观看免费| 蜜桃亚洲精品一区二区三区| 床上黄色一级片| h日本视频在线播放| 亚洲人成伊人成综合网2020| 丰满人妻一区二区三区视频av| 国产精品99久久久久久久久| 成年人黄色毛片网站| 日韩中字成人| 国产在线男女| 十八禁人妻一区二区| 亚洲欧美日韩无卡精品| 免费人成在线观看视频色| 亚洲黑人精品在线| 婷婷精品国产亚洲av在线| 国产色爽女视频免费观看| 51午夜福利影视在线观看| 老熟妇仑乱视频hdxx| 别揉我奶头 嗯啊视频| 国产一区二区三区在线臀色熟女| 成人特级黄色片久久久久久久| 中出人妻视频一区二区| 亚洲国产欧美人成| 日本成人三级电影网站| 欧美3d第一页| www.999成人在线观看| 成年版毛片免费区| aaaaa片日本免费| 男女床上黄色一级片免费看| 婷婷亚洲欧美| 日本撒尿小便嘘嘘汇集6| 国产精品一区二区三区四区久久| 日韩精品中文字幕看吧| 一进一出抽搐动态| 他把我摸到了高潮在线观看| 国产免费男女视频| 别揉我奶头~嗯~啊~动态视频| 黄色女人牲交| 欧美激情国产日韩精品一区| 欧美日韩福利视频一区二区| 久久久久久久久大av| 日韩国内少妇激情av| 亚洲人与动物交配视频| 在线免费观看的www视频| 久久久久国产精品人妻aⅴ院| 在线免费观看不下载黄p国产 | 国产淫片久久久久久久久 | www.www免费av| 欧美乱色亚洲激情| 少妇丰满av| 别揉我奶头 嗯啊视频| www.999成人在线观看| 久久久久免费精品人妻一区二区| 老鸭窝网址在线观看|