• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)字治理中的權(quán)力控制與權(quán)利破繭

    2022-11-26 02:40:13姚尚建
    理論與改革 2022年3期
    關(guān)鍵詞:信息

    姚尚建

    一、研究的緣起: 數(shù)字權(quán)力的連續(xù)性約束

    在羅素(Bertrand Russell)看來,人與動物的主要區(qū)別在于,人類的某些欲望“是根本無止境的,是不能得到完全滿足的”[1]。當(dāng)這種欲望與支配能力結(jié)合起來,權(quán)力就隨之產(chǎn)生。在多米尼克·邁爾(Dominik Meier)和克里斯蒂安·布魯姆(Christian Blum)看來,數(shù)千年來,不同的學(xué)科圍繞權(quán)力的爭論集中體現(xiàn)為兩個方面:第一,權(quán)力應(yīng)該被理解為以目標(biāo)為導(dǎo)向的行動能力即行動權(quán)(power to),還是應(yīng)該被理解為管控他人的能力即控制權(quán)(power over)?第二,權(quán)力是一種能夠被個人和集體所占有的資源,還是一種可以指導(dǎo)或決定個體行為的社會結(jié)構(gòu)?[2]

    伴隨著國家的崛起,權(quán)力控制成為政治學(xué)的核心話題之一。“孟德斯鳩的立法、行政、司法三權(quán)分立的主張,英國人對于制衡原則的傳統(tǒng)信任,邊沁的政治學(xué)說以及十九世紀(jì)自由主義的全套理論,其目的都在于防止專橫地行使權(quán)力?!盵3]因此,權(quán)力濫用在于有權(quán)者的內(nèi)在品質(zhì)及其難以克服的欲望,奧爾森(M.Olson)也發(fā)現(xiàn),權(quán)力的行使過程中,人的動機是值得關(guān)注的,“人的行為極為復(fù)雜……歷史的結(jié)果確實既依賴握有權(quán)力的人的動機和自利行為,也依賴他們的道德和性格”[4]。邁爾和布魯姆通過權(quán)力思想史的梳理,主張把權(quán)力理解為控制權(quán),即把權(quán)力看作個體或社會用以控制個人行為的工具。[5]邁爾和布魯姆更為杰出的貢獻(xiàn)在于其承認(rèn)關(guān)于權(quán)力的“商品模型帶有強烈的前理論直覺,該模型認(rèn)為權(quán)力是能夠被有目的地使用和累積的,并將此發(fā)展成一個完好的理論,使得行為體間的權(quán)力不對等能夠被分析和量化”[6]。

    因此,作為一種控制力量,權(quán)力既涉及人與人的關(guān)系,也涉及人與社會的關(guān)系,權(quán)力還是一個可以被量化分析的對象。從源頭上看,權(quán)力的形成與權(quán)力的濫用也有很大聯(lián)系。當(dāng)權(quán)力的形成缺乏必要的制約機制時,權(quán)力的濫用就變得可能。1949年后,新中國同樣面臨權(quán)力控制的話題,反對權(quán)力腐敗,實現(xiàn)人民至上的國家治理,既是世界主義的倫理關(guān)懷,也是中國政治發(fā)展的主要任務(wù)。習(xí)近平指出,要加強對權(quán)力運行的制約和監(jiān)督,把權(quán)力關(guān)進(jìn)制度的籠子里,形成不敢腐的懲戒機制、不能腐的防范機制、不易腐的保障機制。[7]這一論斷為新時代中國的控權(quán)學(xué)說提供了理論基礎(chǔ),使中國的權(quán)力治理具有明確的切入口。

    科技革命的發(fā)展與數(shù)字技術(shù)的加持,推動了中國公共治理的數(shù)字化轉(zhuǎn)型。網(wǎng)絡(luò)的匿名性、流動性使傳統(tǒng)社會結(jié)構(gòu)逐步虛擬化、流量化,“雪亮工程”“面部識別”等技術(shù)手段又使個體逐步清晰化、穩(wěn)定化,線上審批、數(shù)據(jù)運行使政府逐步平臺化、流程化。數(shù)字治理改變了傳統(tǒng)的權(quán)力結(jié)構(gòu),也給權(quán)力控制這一傳統(tǒng)話題增加了變數(shù)。針對數(shù)字權(quán)力的巨大變化,我國數(shù)字經(jīng)濟(jì)先行地區(qū)——貴州省率先提出要打造“數(shù)據(jù)鐵籠”(data cage)?!顿F陽市全面推進(jìn)“數(shù)據(jù)鐵籠”工程建設(shè)的指導(dǎo)意見》《貴陽市2016年全面推進(jìn)“數(shù)據(jù)鐵籠”工程建設(shè)工作實施方案》《貴州省“數(shù)據(jù)鐵籠”工作推進(jìn)方案》(下文簡稱《推進(jìn)方案》)先后發(fā)布,其中,《推進(jìn)方案》提出要運用大數(shù)據(jù)手段,實現(xiàn)政府權(quán)力運行全覆蓋、監(jiān)管過程“全留痕”、“三重一大”監(jiān)管和兩個責(zé)任落實,減少和消除權(quán)力尋租空間,完善監(jiān)督和技術(shù)反腐體系,促進(jìn)黨風(fēng)廉政建設(shè),提升政府治理能力,為國家“把權(quán)力關(guān)進(jìn)制度籠子里”提供可復(fù)制推廣的貴州經(jīng)驗和模式。[8]“數(shù)據(jù)鐵籠”試圖在制度建設(shè)的前提下,通過程序性的監(jiān)管過程實現(xiàn)數(shù)字權(quán)力的連續(xù)性控制。

    與信息賦予的治理權(quán)力相對應(yīng)的是,越來越多的人們生活在自我選擇的信息之中,在海量的信息推送中,在熟悉的信息閱讀中,人們?nèi)找婷允Я俗约?,并進(jìn)入了大小不等的“信息繭房”,“信息繭房”不僅體現(xiàn)為數(shù)字權(quán)力控制的社會性后果,更體現(xiàn)為數(shù)字權(quán)利的喪失。“信息繭房”的形成及其破繭的過程,也成為觀測中國數(shù)字權(quán)力控制與權(quán)利生長的又一窗口。

    二、“信息繭房”的形成:算法偏差與權(quán)力偏好

    借用瑞士計算機科學(xué)家尼古拉斯·沃斯(Nicklaus Wirth)“程序=數(shù)據(jù)結(jié)構(gòu)+算法”這一著名的公式,數(shù)字社會的運行意味著數(shù)字社會結(jié)構(gòu)與數(shù)字算法兩個方面的內(nèi)容。在數(shù)字社會中,人們通過信息獲取與信息使用進(jìn)行生活與工作;數(shù)字權(quán)力的運行隱藏在數(shù)字社會之中,通過與算法的邏輯互動塑造并改變著社會組織結(jié)構(gòu),信息繭房就是社會組織的一種極端形式。

    首先,數(shù)字社會的算法偏差。從計算機科學(xué)的角度,程序是計算機指令的組合,用于控制計算機的工作流程;算法是程序的邏輯抽象,是解決客觀問題的過程;數(shù)據(jù)結(jié)構(gòu)是對現(xiàn)實世界中數(shù)據(jù)及其關(guān)系的映射,數(shù)據(jù)結(jié)構(gòu)既可以表示數(shù)據(jù)本身的物理結(jié)構(gòu),也可以表示計算機中的邏輯結(jié)構(gòu)。[9]因此,良好的數(shù)字治理一定是建立在良好的算法基礎(chǔ)之上,算法需要以精細(xì)的數(shù)據(jù)科學(xué)反映出社會的結(jié)構(gòu)性特征,從而為數(shù)字治理提供邏輯支持。但是基于科學(xué)認(rèn)知的漸進(jìn)性,算法也會存在偏差,閆坤如把算法偏差分為三種類型:算法歧視、不公平競爭和算法濫用?;谶@樣的類型,他認(rèn)為“算法偏差一般指的是計算機程序或者人工智能系統(tǒng)在數(shù)據(jù)收集、數(shù)據(jù)選擇和使用的過程中因包含了人類的隱含價值而在輸出中呈現(xiàn)出不公平現(xiàn)象,算法偏差是對算法客觀性的偏離”[10]。也就是說,算法偏差可能源自數(shù)據(jù)采集的不完整、數(shù)據(jù)分析的不嚴(yán)密和數(shù)據(jù)采用的不系統(tǒng),同時可能源自算法設(shè)計者的價值取向。

    從工具理性的角度來看,技術(shù)本身也可能導(dǎo)致算法的偏差。僅僅以并行算法(parallel algorithm)為例,并行計算機(即擁有多個處理單元的計算機)在編程上都有共同之處,即使用靜態(tài)線程(static threading)。一般來說,這些線程共享一個相同的存儲器,操作系統(tǒng)加載一個線程到處理器上執(zhí)行代碼,并在其他線程需要運行時再將其交換出來。然而,共享存儲計算機直接使用靜態(tài)線程編程比較困難甚至容易犯錯,其中一個原因就是,在計算之初,多線程負(fù)載均衡調(diào)度的實現(xiàn)十分困難;在計算過程中,即使并行計算機模型擁有同等計算能力的性能假設(shè),并假設(shè)算法的循環(huán)中所有迭代都能被并行執(zhí)行,并且多線程算法中沒有包含非法的競爭代碼,這樣的代碼計算才可能達(dá)到滿意的結(jié)果。[11]遺憾的是,這一理想狀態(tài)并不總是存在,從任務(wù)分割、算力差異到代碼競爭,這些問題伴隨著算法社會的全過程,其中任何一個環(huán)節(jié)的錯誤都足以導(dǎo)致嚴(yán)重的社會后果,例如2003年北美大停電事件就源于算法中的一次代碼競爭錯誤。

    其次,算法的權(quán)力依賴與“信息繭房”的建成。大數(shù)據(jù)是信息社會的基本特征,在信息社會中擁有并支配信息是一種屬于多人的權(quán)力。算法在成為人類生產(chǎn)生活活動基本規(guī)則的同時,也重新建構(gòu)了人類社會的權(quán)力關(guān)系[12]。從信息科學(xué)與情報科學(xué)的角度來看,在海量信息或數(shù)據(jù)面前,用戶需求及信息的個性化服務(wù)必然涉及一個信息篩選的過程,這一過程就為算法的介入提供了條件,因此前文所提及的算法歧視、不公平競爭和算法濫用,如果僅僅表述為數(shù)據(jù)的控制與算法設(shè)計者價值取向的不足,倒不如理解為算法背后的權(quán)力取向。算法介入提供了個性化的信息選擇并為多人權(quán)力的行使提供了便利,個人化的選擇帶來信息的偏向,也容易帶來“信息繭房”效應(yīng)。[13]

    信息社會的海量數(shù)據(jù)必然形成多人的權(quán)力,問題卻在于,多人的權(quán)力何以形成“信息繭房”?這一回答必須從數(shù)據(jù)的蕪雜性及其對算法的依賴性入手方能解釋?!拔覀冎宦犖覀冞x擇的東西和愉悅我們的東西的通訊領(lǐng)域。”[14]一些研究認(rèn)為,用戶維度、信息維度和社會環(huán)境維度是“信息繭房”建成的三個維度,其中,用戶情感、信息能力和專業(yè)知識是影響網(wǎng)絡(luò)用戶形成信息繭房的重要因素。[15]但是越來越多的研究發(fā)現(xiàn),在用戶選擇背后,還有一種支配性的權(quán)力——一系列根據(jù)偏好而推進(jìn)的計算機算法及信息過濾,正是由于“信息過濾機制(包括算法推薦),讓我們只看到我們想看到的東西、只聽到自己認(rèn)同的觀點,只跟觀念相同的人交朋友,那些觀點不斷重復(fù)之后不斷加深,最終變成一個只能聽到自己聲音的‘密室’,即信息的回聲室效應(yīng)”[16]。

    由于支配性權(quán)力的存在,算法瓦解了信息選擇的自由,人們被迫選擇了別人期待其選擇的答案。正是算法技術(shù)對于互聯(lián)網(wǎng)信息內(nèi)容單向化、窄化、精準(zhǔn)化的分發(fā),強化了不同個體間分享信息的差異化程度,解構(gòu)了社會共識的信息基礎(chǔ)。[17]更加需要注意的是,“信息繭房”關(guān)閉的人口并非少數(shù),絕大多數(shù)人都在“繭房”之中。算法依賴數(shù)據(jù)的統(tǒng)計分析,從統(tǒng)計學(xué)的角度看,來自足夠大規(guī)模的群體的統(tǒng)計性答案等同于全體人口范圍內(nèi)取樣的觀點,谷歌的成功在于它知道什么是大多數(shù)搜索者想要的,而這些正是特定的大多數(shù)人想要的。[18]因此,只要了解少數(shù)人的信息需要,算法就能推送特定群體期待的信息,從而使越來越多的人深陷自身參與設(shè)計的“信息繭房”。進(jìn)一步講,從少數(shù)選擇的限制到多數(shù)共識的瓦解,算法偏差足以深刻改變數(shù)字社會結(jié)構(gòu),為數(shù)字社會治理增加變數(shù)。

    最后,“作繭”之人與權(quán)力的內(nèi)卷。信息化社會是一個高度依賴算法的社會?!皵?shù)據(jù)結(jié)構(gòu)(Data Structure)描述的是按照一定的邏輯關(guān)系組織起來的待處理數(shù)據(jù)的表示及相關(guān)操作,涉及數(shù)據(jù)之間的邏輯關(guān)系、數(shù)據(jù)在計算機中的存儲和數(shù)據(jù)之間的操作(運算)?!盵19]數(shù)字社會結(jié)構(gòu)被演化為諸多數(shù)據(jù)及其邏輯關(guān)系的表述與運算的過程,數(shù)字社會結(jié)構(gòu)的清晰化與算法互為支撐,互為結(jié)果。從數(shù)據(jù)、算法與權(quán)力的關(guān)系出發(fā),“信息繭房”支持了以下判斷:一是算法偏差是信息社會中被允許存在的誤差,即數(shù)據(jù)獲取、數(shù)據(jù)邏輯表述及數(shù)據(jù)處理都容易存在技術(shù)性偏差;二是在數(shù)據(jù)不充分的前提下推行的算法過程與社會結(jié)構(gòu)編織的過程,在技術(shù)上就是一種自我束縛的過程;三是由于數(shù)字個體的信息偏好以及事實上每個人都擁有大大小小的權(quán)力,因此任何人行使權(quán)力的過程都是集體編織“信息繭房”的過程;四是權(quán)力并不平等,算法背后存在著一個支配性權(quán)力;五是支配性權(quán)力同樣可以進(jìn)入公共領(lǐng)域,存在信息偏好的“作繭者”同樣會將其對于社會的理解反作用于算法之上。

    算法的偏差與權(quán)力的偏好支持了不完善的數(shù)字治理,扭曲了數(shù)字社會結(jié)構(gòu)。在國家與社會的關(guān)系中,技治主義的缺陷不僅僅體現(xiàn)為治理主義對計算機模擬技術(shù)的執(zhí)著,更體現(xiàn)為日益內(nèi)卷的權(quán)力偏向。當(dāng)復(fù)雜的社會問題日益技術(shù)化時,當(dāng)技術(shù)邏輯主宰社會結(jié)構(gòu)時,算法也就遮蔽了數(shù)字治理的邏輯改進(jìn)。同時,信息繭房使數(shù)字社會共識成為困難,并給數(shù)字社會共同體的營建帶來阻礙,因此更完善的結(jié)構(gòu)分析、更清晰的信息處理、更科學(xué)的算法邏輯就成為數(shù)字治理優(yōu)化的必需。

    三、“數(shù)據(jù)鐵籠”的出場與權(quán)力控制的邊界

    數(shù)據(jù)是數(shù)字社會的基礎(chǔ)。無論是從能力還是從資源看,數(shù)據(jù)都支持了數(shù)字社會的權(quán)力生產(chǎn),因此數(shù)據(jù)的掌握與支配成為數(shù)字社會權(quán)力的表征。孟德斯鳩堅信,“一切有權(quán)力的人都容易濫用權(quán)力,這是萬古不易的一條經(jīng)驗。有權(quán)力的人們使用權(quán)力一直到遇有界限的地方才休止……從事物的性質(zhì)來說,要防止濫用權(quán)力,就必須以權(quán)力約束權(quán)力”[20]。數(shù)字權(quán)力的使用同樣符合這一判斷:基于控制權(quán)原則,有權(quán)者將盡量增加自身基于數(shù)據(jù)的控制能力;基于資源型原則,數(shù)據(jù)日益成為其擴權(quán)的基礎(chǔ)。而與之對應(yīng)的是,一些個體無權(quán)使用數(shù)據(jù),甚至日益蛻化為數(shù)據(jù)的一部分,而最終失去公共治理的主體性地位。

    首先,“數(shù)據(jù)鐵籠”的理論假設(shè)。如果說由于人的無盡欲望,權(quán)力的行使必然帶來無盡的擴張。在孟德斯鳩之后,越來越多的國家走向了憲制,而憲制史就是國家權(quán)力的控制史。數(shù)字社會中的公權(quán)力同樣必須得到控制。2015年2月14日,李克強在詳細(xì)了解了貴陽利用執(zhí)法記錄儀和大數(shù)據(jù)云平臺監(jiān)督執(zhí)法權(quán)力情況后指出,把執(zhí)法權(quán)力關(guān)進(jìn)“數(shù)據(jù)鐵籠”,讓權(quán)力運行處處留痕,為政府決策提供第一手科學(xué)依據(jù),實現(xiàn)“人在干、云在算”。[21]2018年,在前期試點的基礎(chǔ)上,貴州省提出“全面打造‘?dāng)?shù)據(jù)鐵籠’,運用大數(shù)據(jù)改進(jìn)政府管理方式,實現(xiàn)政府負(fù)面清單、權(quán)力清單和責(zé)任清單的透明化管理,完善大數(shù)據(jù)監(jiān)督手段和技術(shù)反腐體系,促進(jìn)簡政放權(quán)、依法行政”[22]。

    把數(shù)字權(quán)力關(guān)進(jìn)“數(shù)據(jù)鐵籠”主要建立在一種假設(shè)之上,即公權(quán)力必須基于數(shù)據(jù)資源方能行使,“數(shù)字社會權(quán)力生產(chǎn)的基礎(chǔ)條件是對數(shù)據(jù)的占有,這對國家和社會概莫能外。作為信息的符碼化載體,數(shù)據(jù)從最初國家統(tǒng)計權(quán)力中一種‘被收編的工具’,不僅發(fā)展為現(xiàn)代社會秩序中的重要驅(qū)動力,而且成為逐漸稀釋權(quán)力專屬性、調(diào)整權(quán)力發(fā)生機制的關(guān)鍵入口,擁有數(shù)據(jù)以及掌握數(shù)據(jù)運作尤其是算法制定等基礎(chǔ)能力,對于權(quán)力的生產(chǎn)至關(guān)重要”[23]。擁有數(shù)據(jù)、運作數(shù)據(jù)、制定算法因此成為數(shù)字權(quán)力的重要內(nèi)容,數(shù)字權(quán)力的控制理論上同樣需要從三個方面著手,即數(shù)據(jù)控制、數(shù)據(jù)運作及算法規(guī)則都必須同步控制。

    其次,數(shù)字權(quán)力行使的技術(shù)路線及其流程化控制?!皵?shù)據(jù)鐵籠”的實質(zhì)是運用大數(shù)據(jù)思維和相關(guān)技術(shù),推動政府行政權(quán)力運行過程信息化、數(shù)據(jù)化、自流程化、融合化,實現(xiàn)對政府部門權(quán)力運行的監(jiān)管、預(yù)警、分析、反饋、評價和展示,從而構(gòu)建一套基于數(shù)據(jù)的權(quán)力監(jiān)督及技術(shù)反腐體系。[24]這一定義從數(shù)字化思維入手,通過數(shù)據(jù)的流轉(zhuǎn)來觀測權(quán)力的運作過程。研究發(fā)現(xiàn),大數(shù)據(jù)技術(shù)應(yīng)用于權(quán)力監(jiān)督實踐有一個共通的行為邏輯,即建立權(quán)力運行過程與行為的規(guī)范化、標(biāo)準(zhǔn)化體系和設(shè)定標(biāo)準(zhǔn)數(shù)據(jù)值→使用設(shè)備采集權(quán)力過程與行為數(shù)據(jù)→匯聚多類型、多元數(shù)據(jù)形成大數(shù)據(jù)并建立數(shù)據(jù)平臺→數(shù)據(jù)融合、比對、分析與運用。[25]從具體案例上看,“人在干、云在算”這一構(gòu)想建立在政府自我革命和技術(shù)中立的基礎(chǔ)上,其目的是對行政執(zhí)法中的自由裁量權(quán)進(jìn)行技術(shù)遏制?!皵?shù)據(jù)鐵籠”的理論價值在于,執(zhí)法者是權(quán)力的負(fù)載者,其權(quán)力過程將體現(xiàn)為數(shù)據(jù)的流動,其行動本身及其過程具有可計算性,也應(yīng)該被嚴(yán)格計算。以貴陽市城管局“數(shù)據(jù)鐵籠”大數(shù)據(jù)融合分析平臺為例,不但街邊的煙酒雜貨鋪、公交車站都在數(shù)字地圖中要被清晰標(biāo)注,城管執(zhí)法人員及車輛也必須被特別標(biāo)注以方便在地圖上找到執(zhí)法軌跡,[26]從而為后來的數(shù)據(jù)分析提供基礎(chǔ)。

    從國家與社會的關(guān)系角度看,行政權(quán)是直面社會的權(quán)力,也是經(jīng)常引發(fā)不滿的權(quán)力。貴州省從這些具體的面向社會的權(quán)力入手來嘗試“數(shù)據(jù)鐵籠”的運行,繼而“全面發(fā)展智能治理模式,聚焦政務(wù)服務(wù)、交通、醫(yī)療、環(huán)保、公共安全等領(lǐng)域熱點難點問題,推動各級政府部門將市場監(jiān)管、檢驗檢測、違法失信、企業(yè)生產(chǎn)經(jīng)營、投訴舉報、消費維權(quán)等數(shù)據(jù)進(jìn)行匯聚整合和關(guān)聯(lián)分析,做到適時公示和預(yù)警,提升政府決策和風(fēng)險防范能力,加強事中事后監(jiān)管和服務(wù),提高監(jiān)管和服務(wù)的針對性、有效性”[27]。在行政執(zhí)法中,權(quán)力運行的過程就是一個數(shù)據(jù)集聚的過程,數(shù)據(jù)向特定節(jié)點集中的異常過程因此就成為權(quán)力監(jiān)控的病理學(xué)視角?!皵?shù)據(jù)鐵籠”的流程化控權(quán)思路是有價值的,這一思路包括以下技術(shù)路線:權(quán)力的數(shù)據(jù)化、權(quán)力的規(guī)范化、權(quán)力的清單化、權(quán)力的可視化,在這一基礎(chǔ)上,“數(shù)據(jù)鐵籠”建立大數(shù)據(jù)預(yù)警監(jiān)管平臺,推進(jìn)權(quán)力歷程的規(guī)范化、數(shù)據(jù)化,是權(quán)力監(jiān)督的核心環(huán)節(jié)。[28]

    最后,數(shù)據(jù)控權(quán)的技術(shù)標(biāo)準(zhǔn)及生態(tài)依賴。如果僅僅把數(shù)字權(quán)力理解為一種數(shù)據(jù)的控制權(quán),那么這一判斷則沒有超越邁爾和布魯姆關(guān)于權(quán)力爭論的梳理。與農(nóng)業(yè)社會、工業(yè)社會的權(quán)力制度化呈現(xiàn)不同,數(shù)字社會中的權(quán)力有一個彌散的過程,這一過程既包括數(shù)據(jù)的采集與處理,也包括算法。在這一基礎(chǔ)上,“數(shù)據(jù)鐵籠”努力突破傳統(tǒng)的權(quán)力框架,把控權(quán)行為看作過程行為,即指以權(quán)力運行和權(quán)力制約的信息化、數(shù)據(jù)化、自流程化和融合化為核心的自組織系統(tǒng)工程。[29]這一流程化的權(quán)力控制需要建立在良好的數(shù)字生態(tài)系統(tǒng)之上,建立在權(quán)責(zé)的明晰化、標(biāo)準(zhǔn)化與可計算性之上。然而,公共治理的復(fù)雜性與自由裁量的必要性之間無疑將形成一定的張力。現(xiàn)有的“數(shù)據(jù)鐵籠”的表述中,要依托大數(shù)據(jù)產(chǎn)業(yè)優(yōu)勢加快網(wǎng)上政務(wù)建設(shè),把能夠納入網(wǎng)絡(luò)的行政權(quán)力全部納入網(wǎng)絡(luò)運行,通過制定統(tǒng)一的數(shù)據(jù)技術(shù)標(biāo)準(zhǔn),優(yōu)化、細(xì)化、固化權(quán)力運行流程和辦理環(huán)節(jié),合理、合法地分配各項職責(zé),實現(xiàn)權(quán)力運行全程電子化、處處留“痕跡”,讓權(quán)力在“陽光”下運行,置于社會公眾的監(jiān)督之下。[30]也就是說,明確的標(biāo)準(zhǔn)是權(quán)力留痕的技術(shù)前提,脫離了技術(shù)標(biāo)準(zhǔn)的權(quán)力“留痕”既可能形成數(shù)字治理中的形式主義,也加重了行政執(zhí)法的負(fù)擔(dān)。

    現(xiàn)有的“數(shù)據(jù)鐵籠”的表述也對權(quán)力監(jiān)督生態(tài)提出要求,即不僅僅監(jiān)督者需要掌握行政權(quán)的法律依據(jù)、實施標(biāo)準(zhǔn)、救濟(jì)路徑,公眾也需要突破數(shù)字監(jiān)督的技術(shù)門檻,并具備實施數(shù)字監(jiān)督的知識前提。然而值得關(guān)注的是,數(shù)據(jù)的掌握及標(biāo)準(zhǔn)的制定恰恰與現(xiàn)有權(quán)力密切相關(guān)。僅僅以數(shù)據(jù)占有為例,目前我國各級政府掌握約80%的數(shù)據(jù),因此讓擁有20%數(shù)據(jù)的民眾監(jiān)督擁有80%數(shù)據(jù)的政府,在數(shù)字邏輯和數(shù)字生態(tài)上就是存疑的。為了優(yōu)化數(shù)字生態(tài),權(quán)力監(jiān)督指向了數(shù)據(jù)開放,數(shù)據(jù)開放又指向了政府內(nèi)部的權(quán)力配置甚至機構(gòu)設(shè)置。研究發(fā)現(xiàn),貴州的政府機構(gòu)為了實現(xiàn)數(shù)據(jù)監(jiān)督權(quán)力,還需要有組織機構(gòu)以專事數(shù)據(jù)收集、融合、分析,運用數(shù)據(jù)平臺形成部門間數(shù)據(jù)信息的比對、分析,這些不僅涉及相應(yīng)的機構(gòu)安排,也涉及原有責(zé)權(quán)關(guān)系的調(diào)整。[31]數(shù)字權(quán)力最終指向政府部門而非數(shù)字生態(tài)和民眾參與,必將強化政府部門的內(nèi)部監(jiān)督,促進(jìn)數(shù)字權(quán)力的固化,并最終背離權(quán)力監(jiān)督的政策初衷。

    四、以數(shù)字權(quán)利為中心的權(quán)力制衡

    “權(quán)力和自由之間互為條件、相互危害的悖論只能得到證明,卻無法得到解決,這是我們作為社會人的基本構(gòu)成。不斷地在二者中進(jìn)行合理權(quán)衡和調(diào)整是我們的實際任務(wù)?!盵32]數(shù)字權(quán)力的監(jiān)督與數(shù)字自由密切相關(guān),當(dāng)數(shù)據(jù)沿著權(quán)力的邏輯分布時,對數(shù)字權(quán)力的監(jiān)督就必須沿著同樣的邏輯展開。然而,痕跡主義的權(quán)力制約既增加了行政成本,也使數(shù)字權(quán)力運作無法實現(xiàn)現(xiàn)代治理的權(quán)利主義邏輯,在這樣的前提下,數(shù)字社會中的權(quán)力與權(quán)利的關(guān)系討論再次成為必需。

    首先,數(shù)字權(quán)力的法律控制。郭春鎮(zhèn)認(rèn)為,雖然數(shù)字社會中國家、企業(yè)乃至個人的關(guān)系發(fā)生了新變化,但是本質(zhì)上仍處在傳統(tǒng)的“權(quán)力—權(quán)利”軌道之上:國家在數(shù)字賦能之后,所掌握的權(quán)力得到了進(jìn)一步強化,如果說國家權(quán)力可以滲透整個國家的肌體中,那么經(jīng)過數(shù)字技術(shù)的加持,國家權(quán)力能夠延伸至各個毛細(xì)血管,甚至更加精細(xì)微末之處。[33]因此,是數(shù)字權(quán)力的彌散性,給數(shù)字權(quán)力的控制帶來了困難。在數(shù)字社會的運行過程中,數(shù)據(jù)與算法構(gòu)成了數(shù)字權(quán)力研究的兩個入口:數(shù)字權(quán)力的分布依次可以劃分為基于數(shù)據(jù)的權(quán)力分布和基于算法的權(quán)力分布。從前者的角度,數(shù)據(jù)的處理過程就是權(quán)力分布的過程;從后者的角度,算法作用的結(jié)果,就是權(quán)力“反馴”的結(jié)果。數(shù)字權(quán)力研究的兩個入口同樣為法律的介入提供了思路。

    從數(shù)據(jù)類型看,數(shù)據(jù)有私人數(shù)據(jù)與公共數(shù)據(jù)之分,國家在法律范圍內(nèi)采集數(shù)據(jù),并依法開放政務(wù)數(shù)據(jù)?!吨腥A人民共和國數(shù)據(jù)安全法》規(guī)定:“國家機關(guān)為履行法定職責(zé)的需要收集、使用數(shù)據(jù),應(yīng)當(dāng)在其履行法定職責(zé)的范圍內(nèi)依照法律、行政法規(guī)規(guī)定的條件和程序進(jìn)行;對在履行職責(zé)中知悉的個人隱私、個人信息、商業(yè)秘密、保密商務(wù)信息等數(shù)據(jù)應(yīng)當(dāng)依法予以保密,不得泄露或者非法向他人提供……國家制定政務(wù)數(shù)據(jù)開放目錄,構(gòu)建統(tǒng)一規(guī)范、互聯(lián)互通、安全可控的政務(wù)數(shù)據(jù)開放平臺,推動政務(wù)數(shù)據(jù)開放利用?!盵34]公共數(shù)據(jù)尤其是政務(wù)數(shù)據(jù)的依法公開、私人數(shù)據(jù)的依法保護(hù),成為限制數(shù)字公共權(quán)力的法定途徑。

    從算法角色看,“算法標(biāo)志著管理功能的自動化,同時也意味著算法將扮演全部或部分的管理者角色”[35]。作為管理者的算法,其權(quán)力運行一靠技術(shù)壟斷,二靠空間隔離?!八惴ㄐ惺箼?quán)力的方式,并非由人來發(fā)號施令強迫用戶遵從,而是以技術(shù)的面貌出現(xiàn),是一整套復(fù)雜的規(guī)則和程序,很容易因為缺乏主體意志而被誤認(rèn)為是客觀公正的裁決。用戶在面對算法命令時,即使存在不滿,也無法看到其他人的抗議,技術(shù)制造出的隔離空間,使用戶不能得到同情和支援,從而提升接納意愿。”[36]為了打開算法黑箱,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》規(guī)定,“算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況,并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運行機制等”[37]。依托算法的治理由此進(jìn)入治理算法的階段,而法律,正是這一轉(zhuǎn)變的重要推動者。

    其次,數(shù)字權(quán)利的普遍彰顯。數(shù)據(jù)壟斷、算法壟斷與空間隔離,賦予了數(shù)字權(quán)力運行的資源及其無處不在的場域;同時,數(shù)字社會無法擺脫國家與社會關(guān)系的基本邏輯,也無法擺脫權(quán)力與權(quán)利關(guān)系的基本立場。馬長山認(rèn)為,信息社會帶來了第四代人權(quán),“它以雙重空間的生產(chǎn)生活關(guān)系為社會基礎(chǔ)、以人的數(shù)字信息面向和相關(guān)權(quán)益為表達(dá)形式,以智慧社會中人的全面發(fā)展為核心訴求,突破了前三代人權(quán)所受到的物理時空和生物屬性的限制,實現(xiàn)自由平等權(quán)利、經(jīng)濟(jì)社會文化權(quán)利、生存發(fā)展權(quán)利的轉(zhuǎn)型升級”[38]。劉志強不贊同第四代人權(quán)的提法,他認(rèn)為從人權(quán)的代際劃分原理來看,“數(shù)字人權(quán)”的概念即使成立,也只屬于三代人權(quán)范疇的內(nèi)容,可以在既有人權(quán)體系的框架內(nèi)得到合理解釋;個人數(shù)據(jù)信息類權(quán)利的出現(xiàn),未構(gòu)成人權(quán)的代際革新。[39]

    兩位法學(xué)家的爭論核心在于,在數(shù)字社會中,數(shù)字人權(quán)是一種新興的權(quán)利還是僅僅表現(xiàn)為一種基于數(shù)字的權(quán)利。在政治學(xué)的視野中,與電報、電話一樣,作為科技革命的成果,數(shù)字技術(shù)歸根到底仍然是一種階段性的科學(xué)技術(shù),而權(quán)利作為現(xiàn)代社會的恒久命題,是人類發(fā)展的內(nèi)在軸線,因此在這一背景下,數(shù)字權(quán)利仍然是制約權(quán)力擴張的重要利器。在直面數(shù)據(jù)與算法的雙重壓制時,數(shù)字社會的權(quán)力控制需要擺脫技術(shù)主義的窠臼,需要擺脫權(quán)力制約權(quán)力的迷思。技術(shù)阻斷的是權(quán)利,數(shù)字社會的根本性缺陷在于權(quán)利的計算。[40]也就是說,在權(quán)利不被充分彰顯的前提下,“數(shù)據(jù)鐵籠”無法遏制權(quán)力的自我膨脹,更無法把社會個體從信息繭房中逐一救出。數(shù)字社會是一種流量社會,“是數(shù)字化技術(shù)通過快速、大規(guī)模的信息數(shù)據(jù)流動去整合社會”[41]。流量社會同樣是權(quán)利擴散的社會,在這一流動性的社會結(jié)構(gòu)中,一些地方在疫情期間,通過多人在線編輯文檔、線上擴散求助信息的行為充分說明,人們可以通過數(shù)據(jù)流動形成跨越地域、跨越階級的社會聯(lián)盟,正是這一信息聯(lián)盟到權(quán)利聯(lián)盟的過渡,使普遍性的數(shù)字權(quán)力約束得以可能。

    最后,個體數(shù)字權(quán)利的技術(shù)糾偏:反篩選與自我干預(yù)。個體是社會的組成單元,數(shù)字社會中的每一個個體都承載著數(shù)字權(quán)利,但是在數(shù)字社會中,數(shù)字權(quán)利的匱乏往往率先在個體身上得到顯示,人們往往以技術(shù)門檻來解釋這一個體性數(shù)字權(quán)利的匱乏;但是數(shù)字社會的技術(shù)剝削并不會放過任何個體,在技術(shù)對于社會的強制中,老人無法使用智能手機從而無法出行、農(nóng)民工無法通過軟件搶購返鄉(xiāng)火車票、程序員倦于程序、外賣小哥困于算法,這些數(shù)字社會中的極端案例告訴我們,如果僅僅依賴相對滯后的法律而缺乏必要的個體行動,每個人都將在數(shù)字剝削之中,每個人都參與了這場剝削他人的盛宴。數(shù)字權(quán)利的匱乏啟發(fā)了人們對于個體樸素權(quán)利的思考,當(dāng)技術(shù)馴化社會并最終異化了社會形態(tài),數(shù)字社會的技術(shù)糾偏事實上就必須體現(xiàn)為兩個方面的內(nèi)容:反篩選與自我干預(yù)。

    從反篩選的角度看,個體是數(shù)字社會的治理主體而非數(shù)據(jù)自身。在個體行動中,反對被動的信息提取、反對濫用個人信息成為近期推動數(shù)字立法行動的重要動力;從自我干預(yù)的角度看,個體能夠在技術(shù)社會中恰當(dāng)而充分地表達(dá)意見是民主社會的內(nèi)在之意。從技術(shù)糾偏的角度看,個體參與算法過程同樣是重要的?!八惴ㄊ腔跈C器語言的清晰指令系統(tǒng)地描述和解決問題的策略機制?!盵42]這一表述事實上揭示了清晰指令對于解決問題的重要性,一旦指令模糊,問題的解決就會出現(xiàn)困難?!痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十七條規(guī)定了個體的技術(shù)性救濟(jì)手段:“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個人特征的選項,或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的,算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)?!盵43]在這一規(guī)定出臺之后,越來越多的應(yīng)用程序如淘寶、微信、抖音等上線算法關(guān)閉鍵,用戶可以自行關(guān)閉個性化推薦來進(jìn)行算法干預(yù),體現(xiàn)出“參與式文化在數(shù)字媒介時代的延伸”[44]的特點。從群體救濟(jì)的角度看,基于權(quán)利的聯(lián)盟還可以通過諸如評分等集體性技術(shù)行動,遏制無所不在的權(quán)力擴張。一種觀點認(rèn)為,“從商業(yè)和公共管理的邏輯出發(fā),廣泛采用評分機制是更好的策略,不僅可以幫助將更多細(xì)節(jié)行為納入管理,還可以為進(jìn)一步優(yōu)化法律和平臺成文規(guī)則提供數(shù)據(jù)支撐”。[45]有鑒于此,數(shù)字化背景下的管理重生必須實現(xiàn)“由控制勞動向解放勞動的管理范式突破”[46]。

    結(jié) 語

    現(xiàn)代社會是技術(shù)社會,更是權(quán)利社會,自由的喪失大多表現(xiàn)為權(quán)利的喪失。借助于商業(yè)繁榮帶來的平等關(guān)系以及工業(yè)革命形成的技術(shù)手段,人類可以正視自身的地位并形成權(quán)利的聯(lián)盟。從數(shù)據(jù)出發(fā),社會形成了新的社會結(jié)構(gòu)與社會形態(tài),也形成了新的權(quán)利結(jié)構(gòu)。但是由于權(quán)利對于數(shù)字的技術(shù)性依賴,數(shù)字權(quán)利需要借助于數(shù)據(jù)篩選方能達(dá)成。在這一背景下,人們在海量的信息篩選中失去部分自由并深陷“信息繭房”。更為隱蔽的是,“信息繭房”的形成恰恰隱藏在多人權(quán)力行使的過程之中,換言之,是人們在逐漸行使權(quán)力的過程中放棄了權(quán)利。

    權(quán)力具有強制性,權(quán)力控制是權(quán)利解放的前提,數(shù)字社會同樣面臨權(quán)力控制的任務(wù)。正是數(shù)字權(quán)力的隱蔽性,使數(shù)字社會的個體進(jìn)入了“信息繭房”。但是從數(shù)字社會的基本構(gòu)成出發(fā),數(shù)據(jù)是數(shù)字社會的基礎(chǔ),是權(quán)利的基礎(chǔ);數(shù)據(jù)同樣是權(quán)力的基礎(chǔ)。從委托代理關(guān)系入手,“數(shù)據(jù)鐵籠”遏制代理方的權(quán)力擴張,從而延續(xù)了工業(yè)革命以來的權(quán)力制衡路徑。然而作為一種技術(shù)性想象,“數(shù)據(jù)鐵籠”并非是“信息繭房”的解決方案,在數(shù)據(jù)權(quán)力之后,算法才是更加隱蔽的強制性權(quán)力。由于權(quán)力與權(quán)利關(guān)系的數(shù)字化延伸,數(shù)字社會的權(quán)力控制歸根到底要落實到權(quán)利解放上。在數(shù)字社會中,數(shù)字權(quán)利同樣遵循兩條遞進(jìn)的路徑:從數(shù)據(jù)出發(fā),共享公共數(shù)據(jù)是權(quán)利破繭的法律基礎(chǔ);從算法出發(fā),個體參與并干預(yù)算法是權(quán)利維持的外部條件。也只有在這樣的前提下,數(shù)字權(quán)利才能得到充分的保障,從而構(gòu)建數(shù)字共同體的基本結(jié)構(gòu),并形成數(shù)字權(quán)力的連續(xù)性控制。

    猜你喜歡
    信息
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    展會信息
    中外會展(2014年4期)2014-11-27 07:46:46
    信息超市
    展會信息
    展會信息
    展會信息
    展會信息
    展會信息
    信息
    健康信息
    祝您健康(1987年3期)1987-12-30 09:52:32
    国产探花极品一区二区| 国产一区二区亚洲精品在线观看| 国产伦理片在线播放av一区| 日本三级黄在线观看| 老司机福利观看| 久久久久久久亚洲中文字幕| 国产午夜精品一二区理论片| 欧美日韩国产亚洲二区| 一级黄色大片毛片| 亚洲精品久久久久久婷婷小说 | 免费av毛片视频| 亚洲国产欧洲综合997久久,| 亚洲电影在线观看av| 人妻夜夜爽99麻豆av| av在线观看视频网站免费| 精品国产三级普通话版| 亚洲精品乱久久久久久| 天堂√8在线中文| 国产亚洲91精品色在线| 免费观看人在逋| 少妇猛男粗大的猛烈进出视频 | 国产成人精品久久久久久| 亚洲经典国产精华液单| 看免费成人av毛片| www.av在线官网国产| 国产午夜福利久久久久久| 日本-黄色视频高清免费观看| 亚洲中文字幕日韩| 久久久亚洲精品成人影院| av国产免费在线观看| 国产一区亚洲一区在线观看| 国产亚洲午夜精品一区二区久久 | 国产成人freesex在线| 国产精品一区二区三区四区免费观看| 日日啪夜夜撸| 两个人的视频大全免费| 一个人看的www免费观看视频| 亚洲经典国产精华液单| 国产精品一区二区在线观看99 | 欧美97在线视频| 老司机福利观看| 欧美另类亚洲清纯唯美| 99久久人妻综合| 国产精品麻豆人妻色哟哟久久 | 中文字幕av在线有码专区| 久久亚洲国产成人精品v| 亚洲av中文字字幕乱码综合| 精品久久久久久久久久久久久| 欧美xxxx性猛交bbbb| 极品教师在线视频| 别揉我奶头 嗯啊视频| 男人和女人高潮做爰伦理| 插阴视频在线观看视频| videossex国产| 国产亚洲最大av| 亚洲一级一片aⅴ在线观看| 蜜臀久久99精品久久宅男| 精品国产三级普通话版| 国产一区二区亚洲精品在线观看| a级毛片免费高清观看在线播放| 我要看日韩黄色一级片| av在线播放精品| 2021少妇久久久久久久久久久| 色视频www国产| 级片在线观看| 国产淫语在线视频| 久久精品国产亚洲av涩爱| 日本免费在线观看一区| 欧美日韩在线观看h| 国产伦一二天堂av在线观看| 亚洲自拍偷在线| 久久精品91蜜桃| 国产一区二区三区av在线| 国产精品久久久久久精品电影| 深爱激情五月婷婷| 99国产精品一区二区蜜桃av| 七月丁香在线播放| 久久久久久久久大av| 青春草亚洲视频在线观看| 亚洲欧美中文字幕日韩二区| 狂野欧美白嫩少妇大欣赏| 在线播放国产精品三级| 欧美日韩国产亚洲二区| 欧美最新免费一区二区三区| 麻豆久久精品国产亚洲av| 久久精品夜夜夜夜夜久久蜜豆| 淫秽高清视频在线观看| 国产精品久久久久久av不卡| 三级国产精品片| 欧美变态另类bdsm刘玥| 日韩国内少妇激情av| 18禁动态无遮挡网站| 乱人视频在线观看| 日韩成人av中文字幕在线观看| 一本一本综合久久| 亚洲国产精品久久男人天堂| 亚洲成av人片在线播放无| 国产伦精品一区二区三区四那| 亚洲av中文字字幕乱码综合| 日韩视频在线欧美| 亚洲av免费高清在线观看| 少妇人妻精品综合一区二区| 久99久视频精品免费| 美女高潮的动态| 亚洲av熟女| 又粗又硬又长又爽又黄的视频| 国产成年人精品一区二区| 卡戴珊不雅视频在线播放| 日本午夜av视频| 久久婷婷人人爽人人干人人爱| 人人妻人人澡欧美一区二区| 国语自产精品视频在线第100页| 久久久久国产网址| 国产精品人妻久久久久久| www.av在线官网国产| 女人久久www免费人成看片 | 免费观看a级毛片全部| 在线天堂最新版资源| 久久久久久久久久成人| 日韩欧美国产在线观看| 精品久久久久久成人av| 精品人妻一区二区三区麻豆| 成人鲁丝片一二三区免费| 国产在视频线在精品| 不卡视频在线观看欧美| 午夜福利在线观看免费完整高清在| 精品国产三级普通话版| 色哟哟·www| 国产精品人妻久久久影院| 少妇的逼好多水| 国产一区二区亚洲精品在线观看| av在线天堂中文字幕| 欧美性猛交黑人性爽| av国产久精品久网站免费入址| 一级av片app| 久久久久性生活片| 免费看日本二区| 欧美成人免费av一区二区三区| 小蜜桃在线观看免费完整版高清| 女人久久www免费人成看片 | 一区二区三区乱码不卡18| 久热久热在线精品观看| 亚洲人与动物交配视频| 亚洲美女搞黄在线观看| 不卡视频在线观看欧美| 国产伦在线观看视频一区| 黄色配什么色好看| 国产极品天堂在线| 少妇人妻一区二区三区视频| 国国产精品蜜臀av免费| 日本免费a在线| 淫秽高清视频在线观看| av国产久精品久网站免费入址| 成人av在线播放网站| 婷婷色av中文字幕| 亚洲丝袜综合中文字幕| 色网站视频免费| 亚洲美女视频黄频| 九九久久精品国产亚洲av麻豆| 美女xxoo啪啪120秒动态图| 国产淫片久久久久久久久| 国产精品久久电影中文字幕| 国产探花在线观看一区二区| 国产在线男女| 国产一级毛片在线| 青春草视频在线免费观看| 美女脱内裤让男人舔精品视频| av国产免费在线观看| 国产一区亚洲一区在线观看| 最近中文字幕高清免费大全6| 国产精品一区www在线观看| 女的被弄到高潮叫床怎么办| 午夜精品在线福利| 免费看av在线观看网站| 直男gayav资源| 色尼玛亚洲综合影院| 超碰97精品在线观看| 99久国产av精品国产电影| 亚洲av免费高清在线观看| 在线免费观看不下载黄p国产| 亚洲人成网站在线播| 干丝袜人妻中文字幕| 亚洲av中文字字幕乱码综合| 边亲边吃奶的免费视频| 国产 一区精品| 搡女人真爽免费视频火全软件| 99在线人妻在线中文字幕| 91久久精品国产一区二区成人| 三级毛片av免费| 欧美97在线视频| 成年女人看的毛片在线观看| 婷婷六月久久综合丁香| 岛国在线免费视频观看| 秋霞在线观看毛片| 尤物成人国产欧美一区二区三区| 波多野结衣巨乳人妻| 人妻夜夜爽99麻豆av| 日韩,欧美,国产一区二区三区 | 日日撸夜夜添| 久久久久久九九精品二区国产| 大香蕉久久网| 中文天堂在线官网| 亚洲精品亚洲一区二区| 最新中文字幕久久久久| 久久人人爽人人爽人人片va| 最后的刺客免费高清国语| 午夜视频国产福利| 日韩欧美三级三区| 亚洲国产成人一精品久久久| 神马国产精品三级电影在线观看| 午夜免费激情av| av在线亚洲专区| 日韩大片免费观看网站 | 两个人视频免费观看高清| 欧美丝袜亚洲另类| 在线a可以看的网站| 淫秽高清视频在线观看| 国产日韩欧美在线精品| 日本wwww免费看| 能在线免费观看的黄片| 国产av码专区亚洲av| 91久久精品国产一区二区三区| 亚洲久久久久久中文字幕| 我的老师免费观看完整版| 日本免费a在线| 黄色欧美视频在线观看| 久久这里只有精品中国| 日本黄色片子视频| 天堂中文最新版在线下载 | 免费观看a级毛片全部| 老司机影院成人| 国产激情偷乱视频一区二区| 九九在线视频观看精品| 国产不卡一卡二| АⅤ资源中文在线天堂| 国产精品熟女久久久久浪| 岛国在线免费视频观看| 国产精品蜜桃在线观看| 国语自产精品视频在线第100页| 久久久成人免费电影| 亚洲国产最新在线播放| 国产高清三级在线| 男的添女的下面高潮视频| 男女国产视频网站| 日本黄色片子视频| 黄色一级大片看看| 菩萨蛮人人尽说江南好唐韦庄 | 看片在线看免费视频| 男人舔奶头视频| 免费不卡的大黄色大毛片视频在线观看 | 看免费成人av毛片| 91av网一区二区| 午夜亚洲福利在线播放| 免费看av在线观看网站| 久久久久国产网址| 欧美日韩精品成人综合77777| 一个人免费在线观看电影| 久久草成人影院| 欧美不卡视频在线免费观看| 久久久久精品久久久久真实原创| 国产高清有码在线观看视频| 中文字幕亚洲精品专区| 精品酒店卫生间| 久久久久久久久久黄片| 欧美高清性xxxxhd video| 男人舔奶头视频| 禁无遮挡网站| 人体艺术视频欧美日本| 男女视频在线观看网站免费| 两性午夜刺激爽爽歪歪视频在线观看| 中文字幕熟女人妻在线| 国产激情偷乱视频一区二区| 长腿黑丝高跟| 久久久精品大字幕| 色吧在线观看| 国产在视频线在精品| 日本色播在线视频| 亚洲一区高清亚洲精品| 亚洲精品日韩在线中文字幕| 国产美女午夜福利| 国内精品美女久久久久久| 好男人视频免费观看在线| 色5月婷婷丁香| 麻豆国产97在线/欧美| 国产在视频线在精品| 欧美日韩精品成人综合77777| 国产中年淑女户外野战色| 在线天堂最新版资源| 亚洲aⅴ乱码一区二区在线播放| 欧美日本视频| 91久久精品国产一区二区三区| 国产精品麻豆人妻色哟哟久久 | 精品久久久久久久末码| 天天一区二区日本电影三级| 日韩成人av中文字幕在线观看| 午夜视频国产福利| 男女边吃奶边做爰视频| 中文字幕久久专区| 五月玫瑰六月丁香| 国产成人a区在线观看| 久久99热这里只有精品18| 干丝袜人妻中文字幕| 日韩av不卡免费在线播放| 国内精品宾馆在线| 国产极品精品免费视频能看的| 久久午夜福利片| 国产精品乱码一区二三区的特点| 视频中文字幕在线观看| 国产精品99久久久久久久久| 偷拍熟女少妇极品色| 少妇的逼水好多| 五月玫瑰六月丁香| 黄色欧美视频在线观看| 亚洲av成人av| 精品国内亚洲2022精品成人| 久久精品影院6| 老女人水多毛片| 午夜a级毛片| 91精品国产九色| 国产三级在线视频| 麻豆乱淫一区二区| 2021天堂中文幕一二区在线观| 乱系列少妇在线播放| 国产极品精品免费视频能看的| 久久韩国三级中文字幕| 亚洲在线观看片| 国产成人精品久久久久久| 美女黄网站色视频| 久久久国产成人免费| 国产视频内射| 日韩av在线大香蕉| 久久精品国产99精品国产亚洲性色| videos熟女内射| 国产免费又黄又爽又色| 日韩在线高清观看一区二区三区| av福利片在线观看| 搡女人真爽免费视频火全软件| 色哟哟·www| 国产中年淑女户外野战色| 欧美不卡视频在线免费观看| 国产欧美另类精品又又久久亚洲欧美| a级毛色黄片| 日韩,欧美,国产一区二区三区 | 国产 一区 欧美 日韩| 国产乱人视频| av视频在线观看入口| 亚洲在线自拍视频| 日本与韩国留学比较| 性色avwww在线观看| 久久久久久久久中文| 日本wwww免费看| 午夜激情福利司机影院| 亚洲,欧美,日韩| 亚洲国产欧洲综合997久久,| 中文字幕久久专区| 精品久久久久久久久av| 中文字幕av在线有码专区| 国产精品日韩av在线免费观看| 中文字幕久久专区| 久久久久久久午夜电影| 99久久精品一区二区三区| 日本猛色少妇xxxxx猛交久久| 精品国内亚洲2022精品成人| 97在线视频观看| 啦啦啦韩国在线观看视频| 久久国产乱子免费精品| 午夜精品国产一区二区电影 | 黄色配什么色好看| 嫩草影院入口| 全区人妻精品视频| 中文乱码字字幕精品一区二区三区 | 亚洲欧美精品自产自拍| 99在线视频只有这里精品首页| 我的老师免费观看完整版| 99久国产av精品国产电影| 国产成人精品久久久久久| 99久国产av精品国产电影| 寂寞人妻少妇视频99o| 1024手机看黄色片| 国产爱豆传媒在线观看| 国产精品国产三级国产专区5o | 精品久久久久久久久久久久久| 亚洲国产精品专区欧美| 亚洲人成网站高清观看| 国产一区二区在线av高清观看| 老女人水多毛片| 国产欧美另类精品又又久久亚洲欧美| 老女人水多毛片| 国产精品一及| 久久精品熟女亚洲av麻豆精品 | 免费观看性生交大片5| 少妇熟女aⅴ在线视频| 日日摸夜夜添夜夜爱| 久久久久久久久久久免费av| 丰满少妇做爰视频| 寂寞人妻少妇视频99o| 久久久国产成人免费| 日本免费一区二区三区高清不卡| 中文字幕精品亚洲无线码一区| 黄色日韩在线| 美女cb高潮喷水在线观看| 亚洲欧美精品自产自拍| 欧美xxxx性猛交bbbb| 日韩av在线免费看完整版不卡| 中文字幕精品亚洲无线码一区| av在线观看视频网站免费| 超碰97精品在线观看| 3wmmmm亚洲av在线观看| 天堂影院成人在线观看| 国产男人的电影天堂91| 欧美高清成人免费视频www| av在线天堂中文字幕| 免费看光身美女| 99久久无色码亚洲精品果冻| av.在线天堂| 国产老妇伦熟女老妇高清| 久久久亚洲精品成人影院| 久久久久性生活片| 精品久久久久久久久亚洲| 精品久久久久久成人av| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 午夜福利视频1000在线观看| 午夜福利高清视频| 欧美3d第一页| 少妇丰满av| 欧美另类亚洲清纯唯美| 亚洲精品乱久久久久久| 亚洲人成网站在线观看播放| 一夜夜www| h日本视频在线播放| 18禁裸乳无遮挡免费网站照片| 日本黄大片高清| 久99久视频精品免费| 亚洲真实伦在线观看| 女人被狂操c到高潮| 午夜a级毛片| 国产综合懂色| 久久久精品94久久精品| 不卡视频在线观看欧美| 性色avwww在线观看| 国产女主播在线喷水免费视频网站 | 国产精品伦人一区二区| 草草在线视频免费看| 国产精品麻豆人妻色哟哟久久 | 秋霞在线观看毛片| 3wmmmm亚洲av在线观看| 真实男女啪啪啪动态图| 久久久精品94久久精品| 久久久久国产网址| 午夜福利视频1000在线观看| 91久久精品国产一区二区成人| 成年免费大片在线观看| 亚洲怡红院男人天堂| 国产成人精品一,二区| 国产一区二区亚洲精品在线观看| 不卡视频在线观看欧美| 久久久久九九精品影院| 又粗又爽又猛毛片免费看| 婷婷色av中文字幕| 免费av毛片视频| 联通29元200g的流量卡| 观看美女的网站| 国产黄片美女视频| 老司机影院成人| 蜜臀久久99精品久久宅男| 如何舔出高潮| 国产成年人精品一区二区| 国产成人午夜福利电影在线观看| 69人妻影院| 国产av码专区亚洲av| 精品人妻熟女av久视频| 五月伊人婷婷丁香| 最近最新中文字幕大全电影3| 变态另类丝袜制服| 亚洲性久久影院| 亚洲五月天丁香| 成人亚洲欧美一区二区av| 亚洲欧美中文字幕日韩二区| 成人三级黄色视频| av在线老鸭窝| av在线天堂中文字幕| 国语自产精品视频在线第100页| 一本一本综合久久| 亚洲成人精品中文字幕电影| 日韩欧美国产在线观看| 国产视频首页在线观看| 可以在线观看毛片的网站| 国产精品一区二区三区四区久久| 久久亚洲国产成人精品v| 国产成人a∨麻豆精品| 麻豆久久精品国产亚洲av| 成年免费大片在线观看| 久久久久久久久大av| 国产精品电影一区二区三区| 久久精品久久精品一区二区三区| 午夜福利在线观看免费完整高清在| 久久精品国产亚洲网站| 精品一区二区免费观看| 亚洲人成网站在线观看播放| 91精品伊人久久大香线蕉| 成人毛片60女人毛片免费| 麻豆av噜噜一区二区三区| 国产精品久久久久久精品电影| 日韩一区二区视频免费看| 午夜亚洲福利在线播放| 久久精品91蜜桃| 桃色一区二区三区在线观看| 亚洲综合色惰| 欧美变态另类bdsm刘玥| 亚洲精品影视一区二区三区av| 三级国产精品欧美在线观看| 亚洲一区高清亚洲精品| 久久久久久久久久黄片| 国产伦一二天堂av在线观看| 18禁裸乳无遮挡免费网站照片| 午夜日本视频在线| 欧美极品一区二区三区四区| 麻豆国产97在线/欧美| 亚洲国产精品合色在线| 国产淫片久久久久久久久| 精华霜和精华液先用哪个| 久久久精品大字幕| 精品免费久久久久久久清纯| 国内精品美女久久久久久| 国产单亲对白刺激| 久久久久久久久久黄片| 国产精品99久久久久久久久| 99久国产av精品国产电影| 欧美日韩在线观看h| 又黄又爽又刺激的免费视频.| 欧美一区二区亚洲| 久久精品91蜜桃| 免费看av在线观看网站| 亚洲18禁久久av| 天天一区二区日本电影三级| 99在线视频只有这里精品首页| 日本色播在线视频| 国产探花在线观看一区二区| 99国产精品一区二区蜜桃av| 国产爱豆传媒在线观看| 亚洲国产精品久久男人天堂| 国产亚洲最大av| 小说图片视频综合网站| 建设人人有责人人尽责人人享有的 | 欧美成人一区二区免费高清观看| 又粗又爽又猛毛片免费看| 97人妻精品一区二区三区麻豆| 日本一本二区三区精品| 日韩成人av中文字幕在线观看| 国产午夜福利久久久久久| 男人狂女人下面高潮的视频| 中文精品一卡2卡3卡4更新| 天天一区二区日本电影三级| 国产真实乱freesex| 免费播放大片免费观看视频在线观看 | 成人毛片60女人毛片免费| 老司机福利观看| 成年女人永久免费观看视频| 夫妻性生交免费视频一级片| 国产精品一二三区在线看| 亚州av有码| 亚洲最大成人中文| 能在线免费观看的黄片| 九九久久精品国产亚洲av麻豆| 18+在线观看网站| 一区二区三区免费毛片| 日本与韩国留学比较| 亚洲在线自拍视频| 久久6这里有精品| 亚洲精品aⅴ在线观看| 亚洲人成网站在线播| 淫秽高清视频在线观看| 高清午夜精品一区二区三区| 啦啦啦啦在线视频资源| 久久人人爽人人爽人人片va| 三级经典国产精品| 人妻系列 视频| 国产成年人精品一区二区| 久久久久国产网址| 欧美xxxx性猛交bbbb| 国产私拍福利视频在线观看| 精品少妇黑人巨大在线播放 | 五月伊人婷婷丁香| 天堂av国产一区二区熟女人妻| 欧美成人一区二区免费高清观看| 亚洲乱码一区二区免费版| 黄色欧美视频在线观看| 国产成人a∨麻豆精品| 2022亚洲国产成人精品| 又黄又爽又刺激的免费视频.| av在线播放精品| 日韩av在线免费看完整版不卡| 国产又黄又爽又无遮挡在线| 嫩草影院精品99| 免费观看在线日韩| 久久久久久久国产电影| 中文字幕熟女人妻在线| 永久网站在线| 国产精品久久电影中文字幕| 乱人视频在线观看| 人妻夜夜爽99麻豆av| 日本三级黄在线观看| 深爱激情五月婷婷| 中文天堂在线官网| 级片在线观看| 狠狠狠狠99中文字幕| 日本免费一区二区三区高清不卡| 日韩欧美国产在线观看| 日本爱情动作片www.在线观看| 久久精品人妻少妇| 又黄又爽又刺激的免费视频.| 99国产精品一区二区蜜桃av| 蜜臀久久99精品久久宅男| 日韩视频在线欧美| 97热精品久久久久久|