• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    新時代數(shù)字治理的主體性困境及其科層制破解

    2023-05-30 19:26:55康雅倩
    理論導(dǎo)刊 2023年3期
    關(guān)鍵詞:數(shù)字治理科層制主體意識

    摘 要:近年來,數(shù)字治理以其數(shù)字化、信息化、智能化的優(yōu)勢突破了科層制政府碎片化條塊分割的治理格局,使治理水平得到質(zhì)的提升。盡管數(shù)字治理為國家與社會治理帶來了勃勃生機,但同時也陷入一定的主體性困境,如主體中心地位受到威脅、主體意識發(fā)展受到阻礙以及主體隱私面臨安全危機等。而科層制憑借制度性、專業(yè)性、科層監(jiān)督機制等在一定程度上紓解了數(shù)字治理的主體性困境。因此,可借助科層制,通過規(guī)范數(shù)字治理權(quán)力的使用邊界,健全數(shù)據(jù)使用的科層制監(jiān)督機制,建設(shè)以人為本、權(quán)責(zé)一致的數(shù)字治理科層制體系,破解數(shù)字治理主體性困境。

    關(guān)鍵詞:數(shù)字治理;主體地位;主體意識;主體安全;科層制

    中圖分類號:D63

    文獻標志碼:A 文章編號:1002-7408(2023)03-0018-08

    基金項目:國家社會科學(xué)基金項目“中國共產(chǎn)黨提升國家治理效能的運行機制研究”(21BKS199)階段性成果。

    作者簡介:康雅倩(1993—),女,石家莊人,中山大學(xué)馬克思主義學(xué)院博士研究生,研究方向:馬克思主義基本原理。

    一直以來,科層制意味著權(quán)力僵化、結(jié)構(gòu)固化,數(shù)字治理的盛行打破了僵化的格局,為國家與社會治理帶來勃勃生機。學(xué)者們開始關(guān)注數(shù)字治理對科層制的突破與創(chuàng)新,有學(xué)者認為數(shù)字治理改變了科層結(jié)構(gòu)的管控模式,引入治理結(jié)構(gòu)的多元化、平等化、彈性化的制度可實現(xiàn)從行政控制轉(zhuǎn)向協(xié)調(diào)與自治的平衡[1]。還有學(xué)者認為數(shù)字治理突破科層制碎片化條塊分割治理格局,提升了政府的精細化管理能力、精準化服務(wù)水平、科學(xué)化決策能力以及數(shù)字化治理能力,使得部門治理體系內(nèi)部的部門協(xié)同、精準治理、公共服務(wù)、決策反饋水平大幅度提升[2]。數(shù)字治理的發(fā)展在使國家治理水平得到質(zhì)的提升同時,數(shù)字治理的應(yīng)用也愈發(fā)廣泛,按此趨勢發(fā)展,數(shù)字治理是否可以脫離科層制,獨當一面呢?答案顯然是否定的。數(shù)字治理雖然依靠其數(shù)字化、信息化、網(wǎng)絡(luò)化和智能化特征為人們帶來諸多便利,但是如果一味無限擴大數(shù)字治理的范圍,可能會導(dǎo)致“數(shù)字利維坦”[3],人們的主體性就會受到威脅。為避免“數(shù)字利維坦”的發(fā)生,科層制政府作為數(shù)字治理的物質(zhì)載體,是否能破解數(shù)字治理的主體性困境?本文嘗試在梳理數(shù)字治理的主體性困境表現(xiàn)及其成因的基礎(chǔ)上,分析科層制破解上述困境的可能性,最后探究利用科層制應(yīng)對數(shù)字治理的主體性困境的具體措施。

    一、數(shù)字治理的主體性困境

    馬克思說:“個人怎樣表現(xiàn)自己的生活,他們自己就是怎樣?!保?]520學(xué)界一致認為,人的主體性是人作為活動主體的質(zhì)的規(guī)定性,是在與客體相互作用中得到發(fā)展的人的自覺、自主、能動和創(chuàng)造的特性[5]。主體性代表了人的自然權(quán)利與社會權(quán)利的拓展,其社會關(guān)系屬性得到體現(xiàn),其政治、自然、精神和社會屬性也得以全面發(fā)展。在數(shù)字化進程愈發(fā)加快的時代,大數(shù)據(jù)的發(fā)展逐漸對傳統(tǒng)權(quán)力呈沖擊之勢,猶如脫韁的野馬,手握韁繩的主體本應(yīng)操控之,但事與愿違,手段異化為目標,人演變成為“單向度的人”,需求、愿望、生活標準、閑暇活動被同化,政治也被同化[6]。在數(shù)字化不斷發(fā)展的趨勢下,尼葛洛龐帝總結(jié)道:“計算機不再只和計算機有關(guān),它決定我們的生存?!保?]在數(shù)字治理的大背景下,人類面臨著被“數(shù)字利維坦”淹沒的主體性危機,主要表現(xiàn)為主體中心地位受到威脅、主體意識發(fā)展受到阻礙以及主體隱私面臨安全危機。

    (一)數(shù)字治理威脅主體中心地位

    人之所以具備事實上的主體性地位,關(guān)鍵在于權(quán)力始終由人來掌握,而且形成權(quán)力的平衡[8]。馬克思曾在《資本論》中闡述了勞動力價值對于主體的重要性,“分工使這種勞動力片面化,使它只具有操縱局部工具的特定技能。一旦工具由機器來操縱,勞動力的交換價值就隨同它的使用價值一起消失。工人就像停止流通的紙幣一樣賣不出去”[9]。馬克思討論的是資本主義社會勞動力作為商品被出賣,機器的發(fā)明和使用造成勞動力過剩,人們無工可做就無法生存。同樣,數(shù)字治理打亂了各司其職的工作秩序,精簡工作程序,使一部分承擔(dān)治理工作的主體失去參與機會,造成勞動力價值“過?!?,無法在社會與國家治理中發(fā)揮作用,也就無法獲得較高的地位。以色列著名歷史學(xué)家赫拉利認為,隨著人工智能愈發(fā)強大,無產(chǎn)階級作為勞動力的效用就會逐漸降低,淪為“無用階級”,這樣一群“無用階級”的人將會沒有任何藝術(shù)、經(jīng)濟或者政治價值,對于社會的發(fā)展也全然不再發(fā)揮任何作用[10]293,他們不用承擔(dān)任何責(zé)任,被社會所供養(yǎng),可能通過藥物和電子游戲獲得滿足感[10]294。類似的觀點還有“奇點論”[11]“新異化論”[12]等,都表達了對數(shù)字治理的過度發(fā)展造成人類主體性地位危機的擔(dān)憂。

    此外,數(shù)字治理在一定程度上剝奪了主體的權(quán)力。斯各特·拉什在《信息批判》中認為,在制造業(yè)的年代,權(quán)力大體上是論說性的,而在信息的年代,權(quán)力卻大體上是信息性的[13]。在數(shù)字治理過程中,海量的數(shù)據(jù)信息處理不可能由人來完成,而是交由自動化的數(shù)據(jù)處理流程,自動化的數(shù)據(jù)決策使得人失去了主動配置數(shù)字空間資源的大部分權(quán)力。技術(shù)本身并不具備權(quán)力屬性,然而若是技術(shù)脫離了人的控制,在某些方面產(chǎn)生決定性影響,那么它就具備了權(quán)力屬性。如若機器人擁有了與人類同樣的合法權(quán)利,機器人是否會變成主要物種阻礙人類的生存成為人們最擔(dān)心的問題[14]。人類失去了治理的社會地位、話語權(quán)和參與權(quán),人工智能代替人類承擔(dān)治理任務(wù),人類就會“智能失權(quán)”[15]陷入“新貧窮陷阱”。赫拉利還提出“算法決定論”,認為21世紀新科技的發(fā)展可能會徹底扭轉(zhuǎn)人文主義革命,剝奪人類的權(quán)威,將之送到非人類的算法手中[10]312。

    主體性地位問題是數(shù)字治理帶來的所有危機中最為關(guān)鍵的問題,只有始終保持主體的主導(dǎo)性地位,社會才有發(fā)展的可能,一旦智能戰(zhàn)勝了智識,整個人類都將處于被數(shù)字支配、被算法決定的境況下,人類可能就會走向終結(jié)。因此,要始終保持對數(shù)字治理權(quán)力范疇邊界的清醒認知,不能飲鴆止渴,只圖治理便利、治理效果而忽視對智能權(quán)力邊界的限制。

    (二)數(shù)字治理阻礙主體意識發(fā)展

    數(shù)字治理在某些方面彌補了官僚制層級制的缺陷,打破了層層審批的限制,使人們參與國家與社會治理更加順暢,人們能夠更加直接地向政府部門反映意見和建議。但是,數(shù)字治理依然是一把“雙刃劍”,它在一些方面解放了人們的主體性,但是聚焦主體意識層面,它又在一定程度上壓抑了人的主體意識,從而走向另一個極端,造成人的意義與價值的空虛。

    數(shù)字治理的主體意識危機主要體現(xiàn)在兩個方面。一方面,數(shù)字治理過程中的碎片化信息將阻礙主體完整的意識發(fā)展過程。主體意識結(jié)構(gòu)的生成需要完整的時間進行思考、整理思路、系統(tǒng)梳理從而形成結(jié)論。然而,隨著數(shù)字治理范圍的不斷擴大,人們逐漸生活在一個充斥著即時信息的時代,無處不在的即時信息割裂了完整的思考過程,“碎片化的數(shù)據(jù)信息所占用的微小時間像楔子一樣不斷地侵入主體意識結(jié)構(gòu)的完整發(fā)展時間,隨著楔子數(shù)量的增多,完整的意識結(jié)構(gòu)就變得破碎不全”[16]。精神內(nèi)核被慢慢耗盡,主體逐漸陷入無法深度系統(tǒng)思考的漩渦當中,主體意識的發(fā)展受到嚴重阻礙。一件事情的發(fā)生往往只是現(xiàn)象,現(xiàn)象背后的本質(zhì)才是解決問題的關(guān)鍵。然而,數(shù)字治理的碎片化特征往往無法呈現(xiàn)事物全貌,使得主體在作出意識判斷時出現(xiàn)誤差,人們只關(guān)注眼前的碎片化信息,進行碎片化的判斷與決策?!洞髷?shù)據(jù)時代》一書作者維克托指出,由于數(shù)據(jù)量激增引發(fā)了三方面思維變革:不是隨機樣本,而是所有數(shù)據(jù);不是精確性,而是混雜性;不是因果關(guān)系,而是相關(guān)關(guān)系[17]。人們的思維方式逐漸從機械論時代笛卡爾式的要素還原主義發(fā)展為一種“具有獨特性、收集必要信息、達到展開目的原則”的“打破現(xiàn)狀”[18]的思維。

    另一方面,在數(shù)字治理中,隨著對數(shù)據(jù)的依賴越來越強,主體逐漸失去對數(shù)字治理進行反思與評估的能力。“政府治理不能喪失對復(fù)雜社會的敬畏,信息數(shù)據(jù)并不能簡單化約復(fù)雜的村莊社會,治理的本質(zhì)在于主體的博弈和互動過程,達成主體之間的共識和有序,而不是博弈的形式與技術(shù)?!保?9]社會問題涉及諸多領(lǐng)域,具有一定的復(fù)雜性,將一切問題的解決都數(shù)字化,看似簡化了治理過程,但同時也將一些問題簡單化處理,造成治理思維的單一化。如為了抗擊新冠肺炎疫情,采用“健康碼”“行程碼”等數(shù)字工具對疫情狀況進行記錄,這類措施確實對疫情防控起到一定作用,但也存在一些老人以及幼童由于沒有“健康碼”與“行程碼”,人身自由受限的情況,對“網(wǎng)絡(luò)難民”等群體造成困擾,這就需要將數(shù)字治理與線下實際措施相結(jié)合,不斷完善治理方式?,F(xiàn)如今,國家治理、政府治理、社會治理、市場治理等數(shù)字化程度越來越高,人們對數(shù)字治理的依賴程度也逐漸加深,人們在享受數(shù)字治理便捷性的同時主體意識發(fā)展受限。對數(shù)據(jù)過度依賴,一切向數(shù)字化方向發(fā)展,數(shù)字治理的弊端若未及時重視,會使人們喪失對數(shù)字治理的反思與評估能力,造成主體意識危機。

    (三)數(shù)字治理引發(fā)主體安全危機

    為什么說數(shù)字治理隱含主體安全危機?這里的安全危機不是指隱含的對肉體造成傷害的危機,而是指數(shù)字治理會導(dǎo)致主體隱私暴露使之失去安全感,甚至受到精神上的侵犯與傷害。隱私作為一種儀式使人們獲得人格,“社會群體通過它認識到——并向個人傳達——他的存在是他自己的,這是人格的前提”[20]。隱私受到侵犯,主體個人邊界被打破,其就會處于一種恐慌的缺乏安全感的狀態(tài),引發(fā)主體安全危機。

    在數(shù)字時代,人們的隱私無處遁形,每個人都要承擔(dān)自己失去隱私數(shù)據(jù)使用的自決權(quán)利。數(shù)字治理隱含的主體安全危機,主要表現(xiàn)為對主體無處不在的數(shù)據(jù)收集以及對主體數(shù)據(jù)的濫用風(fēng)險,使得主體缺乏安全感,或引發(fā)對心靈和身體的傷害。大數(shù)據(jù)從生成到處理完成,包含數(shù)據(jù)收集、數(shù)據(jù)集成與融合、數(shù)據(jù)分析以及數(shù)據(jù)解釋四個部分[21],在這四個步驟中,每個步驟都可能發(fā)生隱私泄露的風(fēng)險。例如,將數(shù)據(jù)收集到管理部門之后,部門數(shù)據(jù)管理員可能會泄露數(shù)據(jù)或者對數(shù)據(jù)進行錯誤操作。數(shù)據(jù)是眾多系統(tǒng)運作的基礎(chǔ),但數(shù)據(jù)收集過程可能會出現(xiàn)重復(fù)計算、統(tǒng)計標準存在差異、數(shù)據(jù)造假等問題。美國高德納公司曾對世界財富1000強企業(yè)進行調(diào)查,發(fā)現(xiàn)其中25%的數(shù)據(jù)存在缺陷,而且這些缺陷通常容易被忽視,不僅如此,在未來的兩年,頂級公司25%的數(shù)據(jù)仍將存在缺陷[22]。在這種情況下,錯誤數(shù)據(jù)不僅會給企業(yè)和社會帶來困擾,更會給主體帶來許多負面影響,如錯誤數(shù)據(jù)將會導(dǎo)致人們在現(xiàn)實生活中作出各種各樣錯誤的判斷。另外,大數(shù)據(jù)的二次利用大幅降低了數(shù)據(jù)處理技術(shù),削弱了數(shù)據(jù)用戶對個人信息的自決權(quán)利,徹底顛覆了傳統(tǒng)“以個人為中心”“以告知與許可為基本原則”“以匿名化為基本方式”[23]的隱私保護制度。因此,數(shù)字治理的過度發(fā)展還可能造成主體隱私安全危機,使主體無法安全地在社會中生存和發(fā)展。

    二、科層制政府對數(shù)字治理主體性困境的紓解

    數(shù)字治理作為新興發(fā)展事物,雖然隱含主體性危機,但其仍代表生產(chǎn)力和社會發(fā)展方向,也體現(xiàn)了人類無限的創(chuàng)新能力。意識到問題有助于我們保持對技術(shù)的敬畏并對其進行批判,對人與技術(shù)的關(guān)系進行冷靜的思考。數(shù)字治理是手段而不是目的,面對危機,我們不能抑制數(shù)字技術(shù)的發(fā)展,要有信心地去分析和研究如何控制和防范主體性危機。科層制作為一種政府組織形式,在人們的印象中通常是死板、僵化的代名詞。然而,科層制隨著現(xiàn)實境況的改變也在不斷發(fā)展,在強調(diào)工具理性的同時,價值理性作用不斷提升。在數(shù)字治理盛行的時代背景下,科層制在國家治理和社會治理中依然扮演著不可或缺的角色。作為數(shù)字治理的物質(zhì)載體,科層制是以人類智能主導(dǎo)的機制,其制度性特征有助于保障主體性地位,其專業(yè)性特征有助于抑制主體對數(shù)字的過度依賴,其監(jiān)督機制有助于維護主體隱私安全。人們應(yīng)牢牢把數(shù)字治理技術(shù)手段掌握在手中,握住這匹“野馬”的韁繩,掌握其發(fā)展方向與邊界,維護主體的安全與發(fā)展。

    (一)科層制的制度性特征助力保障主體性地位

    制度性是科層制的重要特征,等級制是其制度性的重要內(nèi)容。西蒙認為,等級制組織是高效率的,它更適合支配與從屬社會關(guān)系下的一般文化規(guī)范,這種制度是“盒子套盒子”的結(jié)構(gòu),權(quán)力關(guān)系呈金字塔型分布,從“上層”逐漸向“底層”延伸,等級制組織的“盒子套盒子”特點使從屬單位的專業(yè)化成為可能,并在必要的范圍內(nèi)保持相互作用和協(xié)調(diào),等級制組織有利于作為指揮和協(xié)調(diào)機制的正式權(quán)力的運用[24]。等級制這種能力是科層制優(yōu)于其它組織形式的主要原因,科層制的可分解系統(tǒng)在抵抗各種干擾和分裂以及在組織機體的恢復(fù)方面表現(xiàn)出顯著的優(yōu)越性。在該結(jié)構(gòu)中,復(fù)雜的問題被分解為若干因子并分配給專家解決,再將各個不完全的解答進行合并,這種能力是科層制優(yōu)于其他組織形式的主要原因[25]58?!靶畔⒓夹g(shù)和制度安排互相關(guān)聯(lián)、相得益彰,既是自變量也是因變量,彼此之間互為因果關(guān)系?!保?5]11雖然數(shù)字治理方式具有超強的傳播和協(xié)調(diào)能力,但是它永遠無法取代制度性。

    數(shù)字治理之所以會威脅到主體地位,原因在于數(shù)字治理削弱了主體在社會中的作用,使主體的權(quán)利被數(shù)字所侵占。這種被數(shù)字侵占的權(quán)利也稱作算法極權(quán),即主體的權(quán)利和作用在算法社會中被弱化,導(dǎo)致“弱政府”“弱社會”“強市場”的局面[26]。眾所周知,數(shù)字治理在提高效率方面具有明顯優(yōu)勢,但是在涉及人力資源管理、物質(zhì)資源配置、機構(gòu)運行等方面,數(shù)字治理由于過于單一化的標準而暴露出其弊端,因而需要科層制對之進行宏觀規(guī)劃設(shè)計??茖又葡碌娜肆Y源管理模式具有法治精神、理性精神和科學(xué)精神,以滿足現(xiàn)代組織管理復(fù)雜化和對效率的要求,科層制的精確性、規(guī)范性、穩(wěn)定性使其成為20世紀西方人事管理實踐的主導(dǎo)模式[27]??茖又瓶梢酝ㄟ^對人力資源進行協(xié)調(diào)以及組織培訓(xùn)學(xué)習(xí)掌握數(shù)字技術(shù)等方式提升主體技能素質(zhì),以保證主體在社會中實現(xiàn)其價值,使主體依然是“從事實際活動的人”[4]525。但是這里主體從事的實際勞動并非資本主義條件下的被剝削、被壓榨的勞動,而是充分發(fā)揮數(shù)字科技對人與社會的積極建構(gòu)作用,促進主體自身的進化,努力創(chuàng)建先進的智能社會、生成智能文明,規(guī)避技術(shù)異化問題,實現(xiàn)社會的進步和人的自由全面發(fā)展[28]。

    (二)科層制的專業(yè)性特征防止主體對數(shù)字過度依賴

    在主體意識層面,數(shù)字治理的過度發(fā)展可能會導(dǎo)致主體意識發(fā)展受阻,使主體喪失對數(shù)字治理進行反思與評估的能力??茖又凭哂袑I(yè)性特征,擅長利用專業(yè)知識對資源進行整合,并保持對數(shù)字治理的批判性思維,使治理保持政治合理性,從而防止主體對數(shù)字的過度依賴。

    科層制的專業(yè)性體現(xiàn)在面對經(jīng)濟和政治事件時,官僚制組織可以對各種突發(fā)局面作出迅速反應(yīng),抓住應(yīng)急處突的最佳時機,針對每個個案采取最佳方式進行解決。韋伯認為,科層制的優(yōu)越性體現(xiàn)在,與其他組織相比,科層制猶如一套呈現(xiàn)非機械化的機械化組織,它能夠迅速、準確、連續(xù)、統(tǒng)一地部署人力和物力,使得行政達到最佳狀態(tài),越是復(fù)雜的事務(wù),科層制的優(yōu)越性就越是明顯[29]1342。純數(shù)字治理雖然可以快速收集各種數(shù)字資源,但若缺乏對資源進行有效分配和整合,就會導(dǎo)致秩序的大混亂,造成資源的浪費。不僅如此,純粹的數(shù)字治理還會使得政府治理日趨市場化,導(dǎo)致“古典自由主義”的意識形態(tài)返古,政府逐漸處于弱勢,造成市場及其規(guī)則的無序狀態(tài),遵循“效率”這個單向標準操縱社會,看似具有合理性,實則犧牲了公平,與現(xiàn)代的精神和政治價值相違背[30]??茖又普膶I(yè)性可使其保持對數(shù)字治理的批判性思維。另外,“官職的管理,至少是所有專業(yè)官職的管理——而這樣的管理顯然是現(xiàn)代的——通常都是以某個專業(yè)化領(lǐng)域的訓(xùn)練為前提”[29]1323。一般情況下,科層制的成員大多都經(jīng)過專業(yè)化的學(xué)習(xí)和培訓(xùn),具備一定的專業(yè)知識及較強的工作能力。因此,對于數(shù)字治理中存在的缺陷和問題,科層制政府經(jīng)過專業(yè)的判斷予以糾正,可以防止主體陷入盲目依賴數(shù)字治理的泥沼。

    科層制政府具備數(shù)字治理所不具備的政治專業(yè)性。科層制政府總是服務(wù)于一定的政治目標與政治原則,是基于理性設(shè)計的自由、平等、正義、公平的原則和政治價值對國家與社會的規(guī)約。數(shù)字的過度治理會導(dǎo)致算法政治,算法政治不僅會觸發(fā)決策風(fēng)險、道德風(fēng)險、算法失靈以及合法性危機等未知風(fēng)險,也可能帶來算法在政治傳播領(lǐng)域因不當使用而引發(fā)的安全風(fēng)險[31]。不僅如此,過度依賴數(shù)字治理還會使本應(yīng)為政治服務(wù)的數(shù)字在自主發(fā)展下對政治權(quán)力結(jié)構(gòu)造成沖擊,進而影響人們的政治價值實現(xiàn)。科層制政府既秉承理性原則,同時也主張公平、正義、民主,其政治專業(yè)性能夠在一定程度上約束數(shù)字治理,避免數(shù)字治理發(fā)展為“數(shù)字利維坦”,從而防止人們對數(shù)字治理形成過度依賴。

    (三)科層制的監(jiān)督機制助力維護主體隱私安全

    數(shù)字治理的前提是通過對各種數(shù)據(jù)的整合、評估、計算達到治理目的,數(shù)據(jù)的收集總會包含主體的隱私內(nèi)容,主體通過讓渡自身的一部分權(quán)利促進治理目的的達成。然而,數(shù)據(jù)公司也可能在資本增殖的動機下對數(shù)據(jù)這種無形資產(chǎn)進行過度挖掘和私自濫用,不僅侵犯消費者的隱私安全,更可能利用這些數(shù)據(jù)隱私換取高額利潤。防止主體的數(shù)據(jù)隱私不被資本利用或者被不當使用,關(guān)鍵在于建立一個合理的數(shù)據(jù)使用的監(jiān)督機制,科層制恰恰具備了這種監(jiān)督職能。

    無論是韋伯時代的科層制還是當代的科層制都具備嚴格的監(jiān)督機制。科層制中的“職務(wù)等級制原則與上訴渠道原則確立了一種公認的高級職務(wù)監(jiān)督低級職務(wù)的上下級隸屬體系。這種體系給被治理者提供了上訴的可能性,即按照嚴格規(guī)定的方式,針對低級官員的決定向有關(guān)上級權(quán)威提起上訴”[29]1322。在科層制中,上級對下級負有監(jiān)督責(zé)任,對于上級作出的決定,下級也可以進行申訴,將這種機制引入數(shù)字治理能夠?qū)?shù)字技術(shù)的違法違規(guī)使用進行有效監(jiān)督。

    針對主體數(shù)據(jù)隱私的監(jiān)管首先應(yīng)從法律層面確保主體的隱私權(quán),強調(diào)主體個人對數(shù)據(jù)的控制力,明確數(shù)據(jù)使用應(yīng)遵循告知同意原則、目的限制與最小必要性原則、透明性原則[32]。其次,數(shù)據(jù)監(jiān)管機構(gòu)或政府獨立部門應(yīng)根據(jù)相關(guān)法律法規(guī)授權(quán),對數(shù)字治理中的數(shù)據(jù)交易、數(shù)據(jù)收集、數(shù)據(jù)處理等開展監(jiān)督管理,下級機關(guān)執(zhí)法活動中處理個人數(shù)據(jù)信息由上級檢查機關(guān)負責(zé)監(jiān)督。利用科層制對數(shù)字治理進行層級制監(jiān)管,是保障公民個人信息安全和國家重要數(shù)據(jù)安全的基本模式,也是對數(shù)據(jù)監(jiān)管體制機制的總體方向性設(shè)計。最后,根據(jù)具體實際采取相應(yīng)監(jiān)管模式。具體的監(jiān)管模式因各個國家的經(jīng)濟、政治、文化差異而存在一定的不同,各國在對本國數(shù)字治理進行監(jiān)管時須結(jié)合本國的實際情況,不能脫離本國的經(jīng)濟、政治和社會具體實際??偟膩碚f,通過實施可靠的監(jiān)管機制對數(shù)字治理過程中的數(shù)據(jù)濫用、侵犯隱私等行為進行治理是維護主體隱私安全的有效手段。

    三、破解新時代數(shù)字治理主體性困境的具體措施

    隨著數(shù)字治理發(fā)展速度的加快,其覆蓋面愈發(fā)廣泛,數(shù)字治理在促進社會進步的同時也引發(fā)了不平等危機、道德危機及主體性危機??茖又谱鳛橐环N政治制度,具有制度性、政治專業(yè)性以及較為完善的監(jiān)督機制,可借助科層制規(guī)范數(shù)字治理過程中數(shù)字權(quán)力的擴張與數(shù)據(jù)的濫用。

    (一)規(guī)范數(shù)字治理權(quán)力的使用邊界

    一方面,科層制政府要以保護主體權(quán)利為原則規(guī)范數(shù)字治理的權(quán)力邊界。社會契約論認為,公共權(quán)力是由主體讓渡部分權(quán)利而形成的,這個權(quán)力是為了保障社會秩序與主體利益而設(shè)定,人是發(fā)展的目的,保障主體自由生活的權(quán)利和秩序才是最重要的[33]。因此,規(guī)范數(shù)字治理的權(quán)力邊界,首先要明確制定邊界的原則,這個原則應(yīng)遵循“群己權(quán)界”[34],追求數(shù)字治理的公共權(quán)力與主體自由權(quán)利的平衡及邊界清晰。2017年由人工智能領(lǐng)域?qū)<衣?lián)合發(fā)布的《阿西洛馬人工智能原則》討論了關(guān)于人工智能倫理準則的制定內(nèi)容,主要包含安全性、機器故障可溯因性、決策的透明度、參與者責(zé)任分配、人類利益優(yōu)先、數(shù)據(jù)權(quán)利、共享技術(shù)便利[35]等內(nèi)容,這些內(nèi)容體現(xiàn)了“以人為本”的理念,表明人工智能的發(fā)展不得越過人權(quán)的邊界。張愛軍認為可以以算法正義實現(xiàn)社會權(quán)利對算法權(quán)力的約束,“一要堅持算法可解釋性原則和透明性原則,抑制算法黑箱對社會知情權(quán)、平等權(quán)和隱私權(quán)等權(quán)利的侵害。二要堅持以法律規(guī)則規(guī)制算法規(guī)則,將算法權(quán)力限定在法律范圍內(nèi),從法律層面落實社會權(quán)利。三要建立和完善算法責(zé)任追溯機制,保障公民數(shù)據(jù)安全”[36]。規(guī)范數(shù)字治理權(quán)力的使用邊界也需要遵循相同的原則,首先要堅持數(shù)字治理的可解釋性和透明性的原則,保證社會人員對數(shù)字治理有知情權(quán)、平等權(quán)和隱私權(quán)。其次要以法律法規(guī)規(guī)范數(shù)字治理規(guī)則,把數(shù)字治理的權(quán)力使用限制在法律范圍之內(nèi),從法律角度保障主體的社會權(quán)利。最后,還要建立和完善數(shù)字治理的責(zé)任落實機制以保障主體的數(shù)據(jù)安全。

    另一方面,要以科層制權(quán)力結(jié)構(gòu)規(guī)范數(shù)字治理權(quán)力的使用邊界。2022年4月歐洲理事會和歐洲議會通過《數(shù)字服務(wù)法案》捍衛(wèi)數(shù)字治理邊界,通過機制性規(guī)定規(guī)范數(shù)字內(nèi)容治理。新法案基于一系列基本的價值觀和規(guī)范,對定向廣告的投放和特定內(nèi)容的推送進行強行限制,重新理順了歐盟范圍內(nèi)的數(shù)字治理流程,特別對超大型平臺“開刀”,對違法企業(yè)施以高達全球營業(yè)額6%的罰款,并在企業(yè)屢次嚴重違規(guī)的情況下禁止其在歐盟市場運營。捍衛(wèi)數(shù)字治理邊界,更要以權(quán)力限制權(quán)力。孟德斯鳩認為,自古以來,“所有擁有權(quán)力的人,都傾向于濫用權(quán)力,而且不用到極限絕不罷休?!瓰榱朔乐篂E用權(quán)力,必須通過事物的統(tǒng)籌協(xié)調(diào),以權(quán)力制止權(quán)力”[37]。在韋伯看來,官僚制具有練達的專業(yè)活動、權(quán)限的劃分、勤務(wù)規(guī)則和金字塔式的等級服從關(guān)系[38],其嚴格的權(quán)限劃分對數(shù)字治理權(quán)力可以起到控制作用。對于利用數(shù)字化技術(shù)對社會事務(wù)進行治理,科層制政府可以通過其目前存在的層級權(quán)力機構(gòu)解決數(shù)字治理的配套規(guī)范不清晰、管理主體不明確等問題。在我國現(xiàn)行體制下,應(yīng)建立由黨政領(lǐng)導(dǎo),工信部、網(wǎng)信辦等部門負責(zé)協(xié)調(diào)的機制,整合黨委和政府的治理資源,在現(xiàn)有體制框架內(nèi)進行組織協(xié)調(diào),共同發(fā)力解決數(shù)字治理領(lǐng)域存在的問題。

    (二)健全數(shù)據(jù)使用的科層制監(jiān)督機制

    層級的監(jiān)督機制是科層制政府的重要內(nèi)容,通過監(jiān)督機制防止權(quán)力濫用。數(shù)字治理作為公共權(quán)力集中的場域同樣需要對治理權(quán)力進行監(jiān)督,否則濫用數(shù)字權(quán)力不僅擾亂社會秩序,造成資源浪費,甚至可能對主體產(chǎn)生身體和心理的傷害,因此有必要建立健全數(shù)據(jù)使用的科層制監(jiān)督機制。

    數(shù)字治理的主體包括政府、市場、社會組織等責(zé)任主體,甚至人人都可以成為數(shù)字治理的主體。人民群眾利用便捷的網(wǎng)絡(luò)參與到國家建設(shè)、民主政治建設(shè)、市場管理與社會建設(shè)當中,通過政務(wù)平臺或者信息平臺表達利益訴求,體現(xiàn)治理過程以人民為中心的原則。為保障社會秩序的正常運行和人民群眾的利益,需要利用科層制的監(jiān)督機制對數(shù)字治理主體進行監(jiān)督。

    從政府角度來看,需要強化數(shù)據(jù)治理的評價監(jiān)督體系建設(shè),鼓勵公眾通過數(shù)據(jù)治理反饋網(wǎng)站以及第三方評估等手段來倒逼政府機構(gòu)精簡流程,優(yōu)化服務(wù)質(zhì)量。另外,政府還要完善對大數(shù)據(jù)的監(jiān)督管理制度,不斷提升政府對于個人信息保護的主動意識和自我監(jiān)督意識,持續(xù)推進各級干部開展數(shù)據(jù)安全和個人信息保護的專項行動,對于違法違規(guī)收集或使用個人信息的行為進行嚴厲打擊和懲處。

    從市場角度來看,數(shù)據(jù)已成為數(shù)字市場競爭的重要基礎(chǔ),甚至成為產(chǎn)品創(chuàng)新的重要投入品,數(shù)據(jù)的獲取和分析能夠顯著改善資源配置效率。但數(shù)據(jù)本身對于數(shù)據(jù)控制者的影響仍然具有高度不穩(wěn)定性,要引導(dǎo)市場主體深化對數(shù)據(jù)安全監(jiān)督制度的認識,引導(dǎo)其積極參與監(jiān)督。針對數(shù)字平臺的監(jiān)管治理,需要重點推進合規(guī)監(jiān)管、分類監(jiān)管、技術(shù)監(jiān)管、均衡監(jiān)管、價值導(dǎo)向監(jiān)管和敏捷監(jiān)管,促進多種秩序力量共同發(fā)力,維護市場有序運轉(zhuǎn)、多方主體利益均衡并實現(xiàn)社會效益最大化[39]。

    從人民群眾角度來看,人人都是數(shù)字治理的主體,人人都可以對國家發(fā)展、社會進步、市場規(guī)范提出自己的意見和建議,然而仍有一些人罔顧法律法規(guī),違反社會道德,在網(wǎng)上散布危害國家、黨和人民群眾的言論,擾亂社會秩序,因此對于人民群眾數(shù)字治理的監(jiān)管同樣非常必要。對以人民群眾為主體的數(shù)字治理監(jiān)督,可利用網(wǎng)絡(luò)發(fā)言人制度和實名制度[40],網(wǎng)絡(luò)發(fā)言人可以通過現(xiàn)代網(wǎng)絡(luò)積極及時與人民群眾進行互動,主動、準確地發(fā)布權(quán)威信息,加快澄清虛假、不完整信息,消除誤解、化解矛盾,正確地引導(dǎo)網(wǎng)絡(luò)輿論。而實名制度在一定程度上不僅能規(guī)范網(wǎng)民行為,還能夠抑制不良信息的傳播。

    (三)建設(shè)以人為本、權(quán)責(zé)一致的數(shù)字治理科層制體系

    正如阿克萊特·彭特蘭指出的,政府應(yīng)當建立“將公民自身數(shù)據(jù)的所有權(quán)、使用權(quán)、控制權(quán)和處置權(quán)交還給公民自己”的“數(shù)據(jù)新政”[41],保持數(shù)據(jù)權(quán)力的謙遜,用技術(shù)賦權(quán)來對抗權(quán)力鴻溝。由此,政府應(yīng)以“人本主義”為核心,打造權(quán)責(zé)一致的數(shù)字治理科層制體系,使數(shù)字信息和算法為人民所使用、開發(fā)和監(jiān)管,使用者、開發(fā)者、監(jiān)管者對人民負責(zé)以實現(xiàn)數(shù)據(jù)共享、成果共享。

    首先,依靠法律明確制度前提。應(yīng)進一步完善落實個人信息保護法和數(shù)據(jù)安全法,充分保護國家安全、商業(yè)機密和個人隱私。信息安全是技術(shù)發(fā)展的前提,必須加強數(shù)據(jù)管理,嚴格保護用戶隱私。明確界定軟件使用個人信息的必要性,規(guī)范各個軟件的隱私保護條例,加強數(shù)據(jù)管理訪問協(xié)議,讓用戶明辨需求,確保其知情同意,嚴格控制訪問不同數(shù)據(jù)平臺和數(shù)據(jù)流動的條件。進一步明確數(shù)據(jù)的權(quán)屬關(guān)系和個人信息的邊界,即清晰界定數(shù)據(jù)的歸屬權(quán)、管理權(quán)和使用權(quán),辨明屬于和不屬于個人信息的內(nèi)容,明確信息主體擁有知情權(quán)、同意權(quán)、查詢權(quán)、更正權(quán)、拒絕權(quán)和刪除權(quán)等信息處理權(quán)利。

    其次,建立以人為本的數(shù)字治理制度體系。習(xí)近平多次強調(diào)要“制定數(shù)據(jù)資源確權(quán)、開放、流通、交易相關(guān)制度,完善數(shù)據(jù)產(chǎn)權(quán)保護制度。要加大對技術(shù)專利、數(shù)字版權(quán)、數(shù)字內(nèi)容產(chǎn)品及個人隱私等的保護力度,維護廣大人民群眾利益、社會穩(wěn)定和國家安全”[42]。以人為本的數(shù)字治理制度體系從客體層面來看包含數(shù)據(jù)確權(quán)制度、數(shù)據(jù)開放制度、數(shù)據(jù)流通制度、數(shù)據(jù)交易制度等,從主體層面來看包含對主體數(shù)字技術(shù)專利保護制度、數(shù)字版權(quán)保護制度、數(shù)據(jù)隱私保護制度等,無論是客體層面還是主體層面其相關(guān)制度都與人民群眾的生活息息相關(guān),不斷完善這些制度或者機制才能更好地實現(xiàn)數(shù)據(jù)共享。《國家信息化發(fā)展戰(zhàn)略綱要》明確要求,“建立公共信息資源開放目錄,構(gòu)建統(tǒng)一規(guī)范、互聯(lián)互通、安全可控的國家數(shù)據(jù)開放體系,積極穩(wěn)妥推進公共信息資源開放共享”[43],只有實現(xiàn)數(shù)據(jù)的開放共享,才能更好地達成以人為本的數(shù)字治理目標。

    最后,強化權(quán)責(zé)一致的數(shù)字治理科層體系。進一步優(yōu)化數(shù)字治理層級制體系,要充分發(fā)揮科層制上下監(jiān)督機制的優(yōu)勢,在數(shù)字治理過程中明確各個主體的責(zé)任,將數(shù)字治理過程中出現(xiàn)問題的責(zé)任落實到人,實現(xiàn)上級對下級數(shù)字治理過程責(zé)任和義務(wù)的監(jiān)督。黨的十九屆四中全會提出,賦予省級以下政府更多的自主權(quán),“按照權(quán)責(zé)一致原則,規(guī)范垂直管理體制和地方分級管理體制”[44]。數(shù)字技術(shù)的發(fā)展使時空高度壓縮,在實現(xiàn)政府橫向部門之間數(shù)據(jù)共享與協(xié)同共治的同時,要以技術(shù)的強大力量推動政府內(nèi)部縱向體系的協(xié)同,實現(xiàn)數(shù)字治理的科層結(jié)構(gòu)優(yōu)化。

    總之,對于數(shù)字治理帶來的主體性地位危機、主體意識危機和主體隱私安全危機,科層制通過其制度性、專業(yè)性和監(jiān)督機制在一定程度上能夠起到有效的抑制作用。然而,科層制并不能完全解決數(shù)字治理的主體性危機問題。例如,在數(shù)字治理過程中,要避免主體過度依賴數(shù)字治理,從宏觀角度來看,科層制政府的專門化作業(yè)以其政治專業(yè)性修正了數(shù)字治理的機械化決策,避免形成數(shù)字專制統(tǒng)治。然而,從微觀個體角度來看,個體主體意識的激發(fā)與保護需要的是相對自由寬松的環(huán)境,個體對于社會治理、國家治理有主動參與的主人翁意識,但科層制政府理性的層級制度以及理性化、效率化訴求在某種程度上壓抑了個體主體意識的發(fā)展??茖又浦皇欠乐怪黧w滑入數(shù)字依賴的深淵,并不能完全解放主體意識。數(shù)字治理的主體意識危機是客觀存在的,只有科層制政府、社會與市場協(xié)同合作、共同發(fā)力,才能促進主體意識的增強與發(fā)展。

    參考文獻:

    [1] 丁蕖. 科層制政府的數(shù)字化轉(zhuǎn)型與科層制危機的紓解[J]. 南京大學(xué)學(xué)報(哲學(xué)·人文科學(xué)·社會科學(xué)),2020,57(6):112-120.

    [2]江文路,張小勁. 以數(shù)字政府突圍科層制政府:比較視野下的數(shù)字政府建設(shè)與演化圖景[J]. 經(jīng)濟社會體制比較,2021(6):102-112+130.

    [3]鄖彥輝. 數(shù)字利維坦:信息社會的新型危機[J]. 中共中央黨校學(xué)報,2015,19(3):46-51.

    [4]馬克思恩格斯文集:第1卷[M].北京:人民出版社,2009.

    [5]郭湛.主體性哲學(xué):人的存在及其意義(修訂版)[M].北京:中國人民大學(xué)出版社,2010:23.

    [6]赫伯特·馬爾庫塞.單向度的人:發(fā)達工業(yè)社會意識形態(tài)研究[M].劉繼,譯.上海:上海譯文出版社,2016:27.

    [7]尼古拉·尼葛洛龐帝.數(shù)字化生存[M].胡泳,范海燕,譯.北京:電子工業(yè)出版社,2017:61.

    [8]蘇明,陳·巴特爾. 數(shù)字人權(quán)的挑戰(zhàn)與治理[J]. 電子政務(wù),2022(3):101-112.

    [9]馬克思恩格斯文集:第5卷[M].北京:人民出版社,2009:495.

    [10]由瓦爾·赫拉利.未來簡史:從智人到智神[M].林俊宏,譯.北京:中信出版社,2017.

    [11]雷·庫茲韋爾.奇點臨近[M].董振華,李慶誠,譯.北京:機械工業(yè)出版社,2011:227.

    [12]哈特穆特·羅薩.新異化的誕生[M].鄭作彧,譯.上海:上海人民出版社,2018:116-143.

    [13]斯各特·拉什.信息批判[M].楊德睿,譯.北京:北京大學(xué)出版社,2009:17.

    [14]路易斯·德爾·蒙特,李芮華.人工智能大爆炸:AI時代的人類命運[M].深圳:海天出版社,2019:13.

    [15]謝新水. 人工智能時代“新貧窮陷阱”的成因與境況:以奴隸概念的意象為視角[J]. 江蘇大學(xué)學(xué)報(社會科學(xué)版),2020,22(4):1-15.

    [16]吳錚.崩塌與重構(gòu):數(shù)據(jù)社會人的主體性危機及其出路[J]. 編輯之友,2019(12):62-65.

    [17]維克托·邁爾·舍恩伯格.大數(shù)據(jù)時代[M].盛揚燕,周濤,譯.杭州:浙江人民出版社,2013:目錄.

    [18]金吾倫. 信息時代與思維方式變革:笛卡爾思維和打破現(xiàn)狀思維[J]. 哲學(xué)動態(tài),1998(3):24-25.

    [19]張現(xiàn)洪. 技術(shù)治理與治理技術(shù)的悖論與迷思[J]. 浙江學(xué)刊,2019(1):160-165.

    [20]REIMAN J H. Pribacy,intimacy, and personhood[M]//SCHOEMAN F D. Philosophical dimensions of privacy:an anthology.New York:Cambridge University Press,1984:310.

    [21]孟小峰,張嘯劍. 大數(shù)據(jù)隱私管理[J]. 計算機研究與發(fā)展,2015,52(2):265-281.

    [22]SWARTZ N.Gartner warns firms of “dirty data”[J].Information Management,2007,41(3).

    [23]唐皇鳳. 數(shù)字利維坦的內(nèi)在風(fēng)險與數(shù)據(jù)治理[J]. 探索與爭鳴,2018(5):42-45.

    [24]詹姆斯G.馬奇,赫伯特A.西蒙. 組織:第2版[M].邵沖,譯.北京:機械工業(yè)出版社,2013:2.

    [25]簡·芳汀.構(gòu)建虛擬政府:信息技術(shù)與制度創(chuàng)新[M].北京:中國人民大學(xué)出版社,2004.

    [26]趙一丁,陳亮. 算法權(quán)力異化及法律規(guī)制[J]. 云南社會科學(xué),2021(5):123-132.

    [27]吳鵬雁. 我國科層制下人事管理模式之完善[J]. 學(xué)術(shù)交流,2006(4):36-40.

    [28]孫偉平. 人工智能與人的“新異化”[J]. 中國社會科學(xué),2020(12):119-137+202-203.

    [29]馬克斯·韋伯.經(jīng)濟與社會:第2卷(上冊)[M].閻克文,譯.上海:上海人民出版社,2019.

    [30]黃其松,劉坤澤. 在技術(shù)與制度之間:數(shù)字時代的官僚科層制[J]. 貴州大學(xué)學(xué)報(社會科學(xué)版),2021,39(6):65-73+122.

    [31]汝緒華. 算法政治:風(fēng)險、發(fā)生邏輯與治理[J]. 廈門大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2018(6):27-38.

    [32]唐要家. 中國個人隱私數(shù)據(jù)保護的模式選擇與監(jiān)管體制[J]. 理論學(xué)刊,2021(1):69-77.

    [33]盧梭.社會契約論[M].鐘書峰,譯.北京:法律出版社,2017: 14.

    [34]嚴復(fù).群己權(quán)界論[M]//汪征魯,方寶川,馬勇. 嚴復(fù)全集:第3卷.福州:福建教育出版社,2014:319.

    [35]商瀑. 從“智人”到“惡人”:機器風(fēng)險與應(yīng)對策略[J]. 電子政務(wù),2020(12):69-76.

    [36]張愛軍. “算法利維坦”的風(fēng)險及其規(guī)制[J]. 探索與爭鳴,2021(1):95-102+179.

    [37]孟德斯鳩.論法的精神[M].北京:商務(wù)印書館,2009:185.

    [38]吳春波.官僚制統(tǒng)治[M].北京:民族出版社,1988:37.

    [39]江小涓,黃穎軒. 數(shù)字時代的市場秩序、市場監(jiān)管與平臺治理[J]. 經(jīng)濟研究,2021,56(12):20-41.

    [40]張小明. 論突發(fā)事件網(wǎng)絡(luò)輿情的綜合治理:體制建設(shè)與制度保障[J]. 上海行政學(xué)院學(xué)報,2013,14(5):81-87.

    [41]阿萊克斯·彭特蘭.智慧社會:大數(shù)據(jù)與社會物理學(xué)[M].杭州:浙江人民出版社,2015:171.

    [42]習(xí)近平.努力成為世界主要科學(xué)中心和創(chuàng)新高地[J].求是,2021(6).

    [43]國家信息化發(fā)展戰(zhàn)略綱要[M].北京:人民出版社,2016:13.

    [44]中共中央黨史和文獻研究院.十九大以來重要文獻選編:中[G].北京:中央文獻出版社,2021:280.

    【責(zé)任編輯:張曉妍】

    猜你喜歡
    數(shù)字治理科層制主體意識
    以“數(shù)字治理”推動政務(wù)資源共享
    群眾(2019年7期)2019-04-30 09:08:56
    數(shù)字化視角下的環(huán)境治理
    祖國(2019年24期)2019-03-17 09:33:53
    數(shù)字治理在我國城市善治中的實踐與啟示
    思想品德教學(xué)中對學(xué)生主體意識的挖掘
    人間(2016年27期)2016-11-11 17:22:02
    民主的技術(shù)化
    如何在語文教學(xué)中發(fā)揮學(xué)生的主體作用
    考試周刊(2016年79期)2016-10-13 21:52:44
    從《滄浪詩話》看嚴羽文論中主體意識自覺性
    積極課堂氣氛的營造與大學(xué)生主體意識的培育
    科層制與關(guān)系網(wǎng):民國時期世界書局和大東書局的發(fā)行管理制度述論
    數(shù)字治理對軌道交通建設(shè)的推動實踐分析
    亚洲性久久影院| 蜜桃亚洲精品一区二区三区| 欧美成人一区二区免费高清观看| 嫩草影院精品99| 免费不卡的大黄色大毛片视频在线观看 | 欧美成人精品欧美一级黄| 丰满少妇做爰视频| 国产精品精品国产色婷婷| 久久精品夜夜夜夜夜久久蜜豆| 神马国产精品三级电影在线观看| 日本-黄色视频高清免费观看| 亚洲欧美日韩无卡精品| 网址你懂的国产日韩在线| 看黄色毛片网站| 精品久久久久久久久久久久久| 午夜激情福利司机影院| 久久99热这里只频精品6学生| 亚洲自偷自拍三级| 欧美日韩在线观看h| 美女脱内裤让男人舔精品视频| 91精品一卡2卡3卡4卡| 日韩视频在线欧美| 男女那种视频在线观看| 日韩欧美国产在线观看| 99久国产av精品| 欧美 日韩 精品 国产| 久久久久久久久久久丰满| 国产老妇伦熟女老妇高清| 久99久视频精品免费| 能在线免费观看的黄片| 视频中文字幕在线观看| 欧美精品国产亚洲| 亚洲国产精品专区欧美| 国产 亚洲一区二区三区 | 精品熟女少妇av免费看| 欧美三级亚洲精品| 亚洲精品aⅴ在线观看| 大陆偷拍与自拍| 久久久久久久久久成人| av福利片在线观看| 欧美区成人在线视频| 黄色日韩在线| 午夜福利在线观看免费完整高清在| 久久热精品热| 久久久亚洲精品成人影院| 亚洲欧美精品专区久久| 搡老妇女老女人老熟妇| 色哟哟·www| 26uuu在线亚洲综合色| 国产成人免费观看mmmm| or卡值多少钱| 舔av片在线| 精品午夜福利在线看| 免费电影在线观看免费观看| 日韩制服骚丝袜av| 欧美精品国产亚洲| 亚洲av免费在线观看| 综合色av麻豆| 超碰av人人做人人爽久久| 日日摸夜夜添夜夜爱| 插阴视频在线观看视频| 三级国产精品片| kizo精华| 国产真实伦视频高清在线观看| 亚洲一级一片aⅴ在线观看| 三级国产精品欧美在线观看| 美女被艹到高潮喷水动态| 如何舔出高潮| 亚洲人成网站在线播| 国产大屁股一区二区在线视频| 欧美极品一区二区三区四区| 免费黄频网站在线观看国产| 国产午夜精品一二区理论片| 成人高潮视频无遮挡免费网站| 国产一区二区三区综合在线观看 | 国产精品久久视频播放| 精品国内亚洲2022精品成人| 中文欧美无线码| 天美传媒精品一区二区| 极品少妇高潮喷水抽搐| 国产午夜福利久久久久久| av又黄又爽大尺度在线免费看| 99久国产av精品国产电影| 一级爰片在线观看| 22中文网久久字幕| 日本av手机在线免费观看| 国产精品蜜桃在线观看| 欧美日韩一区二区视频在线观看视频在线 | 精品人妻偷拍中文字幕| 亚洲精品久久午夜乱码| av黄色大香蕉| 国内少妇人妻偷人精品xxx网站| 丰满乱子伦码专区| 狠狠精品人妻久久久久久综合| 黄色日韩在线| 欧美另类一区| 中文字幕亚洲精品专区| 国产有黄有色有爽视频| 久久久精品欧美日韩精品| 成人二区视频| 免费观看av网站的网址| 精品一区在线观看国产| 男人狂女人下面高潮的视频| 美女脱内裤让男人舔精品视频| av又黄又爽大尺度在线免费看| 人妻少妇偷人精品九色| 国产午夜精品论理片| 精华霜和精华液先用哪个| 国产免费视频播放在线视频 | 成人特级av手机在线观看| 午夜激情福利司机影院| 亚洲色图av天堂| 国产成人91sexporn| 午夜精品在线福利| 国产成人一区二区在线| 亚洲av成人精品一二三区| 18禁裸乳无遮挡免费网站照片| 亚洲国产精品国产精品| 日韩欧美 国产精品| 淫秽高清视频在线观看| av线在线观看网站| 永久免费av网站大全| 久久久久久国产a免费观看| 国产中年淑女户外野战色| 一个人看视频在线观看www免费| 亚洲美女视频黄频| 亚洲欧美中文字幕日韩二区| 十八禁网站网址无遮挡 | 亚洲三级黄色毛片| 亚洲精品视频女| 天美传媒精品一区二区| 乱码一卡2卡4卡精品| 三级国产精品欧美在线观看| 最近中文字幕高清免费大全6| 亚洲精品乱码久久久v下载方式| 欧美日韩一区二区视频在线观看视频在线 | 亚洲乱码一区二区免费版| 成人午夜高清在线视频| videos熟女内射| 麻豆久久精品国产亚洲av| 噜噜噜噜噜久久久久久91| 婷婷色av中文字幕| 亚洲电影在线观看av| 一级a做视频免费观看| 国产精品国产三级国产专区5o| 免费大片黄手机在线观看| 免费av毛片视频| 成人性生交大片免费视频hd| 九草在线视频观看| 欧美另类一区| 伊人久久国产一区二区| 免费看a级黄色片| 午夜福利视频精品| 午夜免费男女啪啪视频观看| 国产精品久久久久久精品电影| 国产淫片久久久久久久久| 97超碰精品成人国产| 精品久久久久久久久亚洲| 插阴视频在线观看视频| 国产精品99久久久久久久久| 美女国产视频在线观看| 麻豆av噜噜一区二区三区| 伦精品一区二区三区| 网址你懂的国产日韩在线| 日韩电影二区| 日本熟妇午夜| 亚洲国产精品sss在线观看| 搡老妇女老女人老熟妇| 丰满少妇做爰视频| 国产精品蜜桃在线观看| 伦理电影大哥的女人| 日本午夜av视频| 亚洲国产欧美人成| 国产精品一区www在线观看| 中文字幕人妻熟人妻熟丝袜美| 波多野结衣巨乳人妻| 国产熟女欧美一区二区| 黑人高潮一二区| 18禁裸乳无遮挡免费网站照片| 乱码一卡2卡4卡精品| 免费无遮挡裸体视频| 日本色播在线视频| 中文乱码字字幕精品一区二区三区 | 肉色欧美久久久久久久蜜桃 | 久久久午夜欧美精品| 亚洲av成人av| 亚洲综合精品二区| 中文在线观看免费www的网站| 欧美不卡视频在线免费观看| 亚洲成人精品中文字幕电影| 国产视频首页在线观看| 三级毛片av免费| 久久久久久久亚洲中文字幕| 欧美+日韩+精品| 五月伊人婷婷丁香| 美女xxoo啪啪120秒动态图| 女人被狂操c到高潮| 国产成人午夜福利电影在线观看| 插逼视频在线观看| 黄片wwwwww| 搡老乐熟女国产| 在线 av 中文字幕| 又爽又黄a免费视频| 99久久九九国产精品国产免费| 少妇人妻一区二区三区视频| 我要看日韩黄色一级片| 美女内射精品一级片tv| 丝瓜视频免费看黄片| 国产精品一区二区在线观看99 | 天堂√8在线中文| 久久久国产一区二区| 男女视频在线观看网站免费| 国产人妻一区二区三区在| 亚洲欧美一区二区三区国产| 91精品一卡2卡3卡4卡| 亚洲精品日韩在线中文字幕| 日韩强制内射视频| 欧美xxxx性猛交bbbb| 色尼玛亚洲综合影院| 中文资源天堂在线| 亚州av有码| 国产单亲对白刺激| 精品一区二区三区人妻视频| 欧美xxxx黑人xx丫x性爽| 亚洲人成网站在线观看播放| 免费不卡的大黄色大毛片视频在线观看 | 尤物成人国产欧美一区二区三区| 午夜免费男女啪啪视频观看| 国产一级毛片七仙女欲春2| 精品一区二区免费观看| 一个人免费在线观看电影| 一级毛片我不卡| 亚洲天堂国产精品一区在线| 亚洲最大成人中文| 日韩不卡一区二区三区视频在线| 综合色av麻豆| 六月丁香七月| 中文字幕免费在线视频6| 精品酒店卫生间| 少妇人妻一区二区三区视频| 美女xxoo啪啪120秒动态图| 男女那种视频在线观看| 久久久成人免费电影| 久久久久性生活片| 99久久人妻综合| 亚洲精品乱码久久久久久按摩| 嫩草影院入口| 国产成人freesex在线| 亚洲内射少妇av| 欧美 日韩 精品 国产| 91久久精品电影网| 大香蕉97超碰在线| 国产老妇女一区| 97在线视频观看| 最近2019中文字幕mv第一页| 精品国内亚洲2022精品成人| 日韩av在线免费看完整版不卡| 男女边吃奶边做爰视频| 亚洲国产最新在线播放| 国产v大片淫在线免费观看| 欧美不卡视频在线免费观看| 99久久精品热视频| 少妇裸体淫交视频免费看高清| 亚洲欧美中文字幕日韩二区| 久久精品国产鲁丝片午夜精品| 内射极品少妇av片p| 久久久午夜欧美精品| 男女国产视频网站| 成年免费大片在线观看| 精品国内亚洲2022精品成人| 午夜福利在线观看免费完整高清在| 床上黄色一级片| 成人av在线播放网站| 国产免费又黄又爽又色| 91午夜精品亚洲一区二区三区| av一本久久久久| 好男人在线观看高清免费视频| 啦啦啦韩国在线观看视频| 亚洲精品自拍成人| 舔av片在线| 乱系列少妇在线播放| 联通29元200g的流量卡| 夜夜看夜夜爽夜夜摸| 国产精品久久久久久精品电影| 欧美成人一区二区免费高清观看| 观看免费一级毛片| av天堂中文字幕网| 久久久成人免费电影| 一区二区三区乱码不卡18| 精品久久久久久久久久久久久| 国产伦理片在线播放av一区| 午夜日本视频在线| 色综合站精品国产| 久久人人爽人人片av| 久久久久久久久久成人| 精品人妻视频免费看| 国产黄片视频在线免费观看| 伊人久久国产一区二区| 日韩av不卡免费在线播放| 午夜免费激情av| 免费大片黄手机在线观看| 亚洲av电影在线观看一区二区三区 | 亚洲精品一区蜜桃| 亚洲av成人精品一二三区| 干丝袜人妻中文字幕| 久久热精品热| 日韩 亚洲 欧美在线| 欧美xxⅹ黑人| 高清欧美精品videossex| 伦理电影大哥的女人| 观看美女的网站| 久久久精品免费免费高清| 黑人高潮一二区| 国产乱人偷精品视频| 26uuu在线亚洲综合色| 干丝袜人妻中文字幕| 亚洲精品日韩在线中文字幕| 亚洲精品成人av观看孕妇| 两个人的视频大全免费| 精品一区二区三区视频在线| 一区二区三区高清视频在线| 麻豆成人午夜福利视频| 亚洲精品aⅴ在线观看| 午夜福利视频1000在线观看| .国产精品久久| 69av精品久久久久久| kizo精华| 深爱激情五月婷婷| 欧美人与善性xxx| 欧美精品国产亚洲| 极品教师在线视频| 你懂的网址亚洲精品在线观看| 国产精品爽爽va在线观看网站| 99热这里只有精品一区| 久久热精品热| 卡戴珊不雅视频在线播放| 伊人久久国产一区二区| 国产精品一区二区性色av| 日韩大片免费观看网站| 一区二区三区免费毛片| 国产大屁股一区二区在线视频| 亚洲av中文av极速乱| 亚洲av成人av| 国产美女午夜福利| 免费黄频网站在线观看国产| 日本黄大片高清| 嫩草影院精品99| 国产久久久一区二区三区| 日本黄大片高清| 一级毛片电影观看| 亚洲av不卡在线观看| 在线天堂最新版资源| 精品午夜福利在线看| 人妻系列 视频| 99视频精品全部免费 在线| 国产成人a∨麻豆精品| 岛国毛片在线播放| 最近中文字幕高清免费大全6| 国产伦在线观看视频一区| 最近视频中文字幕2019在线8| 国产伦精品一区二区三区四那| 国产成人福利小说| 中文字幕av在线有码专区| 久久久精品94久久精品| 中文资源天堂在线| 搡老妇女老女人老熟妇| 欧美不卡视频在线免费观看| 久久午夜福利片| 三级经典国产精品| 精品久久久精品久久久| 亚洲国产高清在线一区二区三| 91久久精品国产一区二区成人| 看免费成人av毛片| 精品久久久久久久末码| 欧美区成人在线视频| 丰满少妇做爰视频| 亚洲欧美一区二区三区黑人 | 久久久亚洲精品成人影院| 午夜爱爱视频在线播放| 2022亚洲国产成人精品| 国产人妻一区二区三区在| av福利片在线观看| 舔av片在线| 天堂影院成人在线观看| 亚洲精品久久久久久婷婷小说| 性插视频无遮挡在线免费观看| av线在线观看网站| 男的添女的下面高潮视频| 免费大片18禁| 丝袜喷水一区| 国内少妇人妻偷人精品xxx网站| 亚洲国产精品成人综合色| 国产综合懂色| 国产爱豆传媒在线观看| 成人漫画全彩无遮挡| 天堂影院成人在线观看| 欧美精品国产亚洲| 91精品国产九色| 1000部很黄的大片| 久久精品久久精品一区二区三区| 99久久精品一区二区三区| 99热网站在线观看| 成年免费大片在线观看| 我的老师免费观看完整版| 国产免费视频播放在线视频 | 亚洲成人精品中文字幕电影| 一本一本综合久久| 不卡视频在线观看欧美| 中文精品一卡2卡3卡4更新| 午夜爱爱视频在线播放| 欧美+日韩+精品| 亚洲伊人久久精品综合| 在现免费观看毛片| 亚洲性久久影院| 久久人人爽人人爽人人片va| 欧美 日韩 精品 国产| 91久久精品电影网| av国产久精品久网站免费入址| 精品一区二区三卡| 少妇丰满av| 亚洲欧美一区二区三区国产| 一区二区三区高清视频在线| 青春草国产在线视频| 国产精品无大码| 午夜精品国产一区二区电影 | 美女国产视频在线观看| 亚洲三级黄色毛片| 亚洲av电影在线观看一区二区三区 | 网址你懂的国产日韩在线| 97热精品久久久久久| 亚洲第一区二区三区不卡| av国产久精品久网站免费入址| 亚洲欧美日韩东京热| 午夜激情久久久久久久| 天堂俺去俺来也www色官网 | 国产 一区精品| 好男人在线观看高清免费视频| 国产精品1区2区在线观看.| 天美传媒精品一区二区| 久久久久久久久中文| 天堂√8在线中文| 久久久a久久爽久久v久久| 男女下面进入的视频免费午夜| 一级av片app| 国内揄拍国产精品人妻在线| 老师上课跳d突然被开到最大视频| 亚洲自偷自拍三级| 欧美日本视频| 国产精品久久久久久av不卡| 国产精品一区二区性色av| 午夜激情福利司机影院| av国产免费在线观看| 国产乱人偷精品视频| 中文精品一卡2卡3卡4更新| 午夜免费男女啪啪视频观看| 亚洲欧美日韩卡通动漫| 在线天堂最新版资源| 中文资源天堂在线| 黄片无遮挡物在线观看| 亚洲欧美一区二区三区国产| 亚洲激情五月婷婷啪啪| 亚洲国产精品成人久久小说| 欧美xxⅹ黑人| 性插视频无遮挡在线免费观看| 高清视频免费观看一区二区 | 伊人久久国产一区二区| 中文欧美无线码| 最近的中文字幕免费完整| 国产熟女欧美一区二区| 18禁在线播放成人免费| 又黄又爽又刺激的免费视频.| 婷婷色综合大香蕉| 亚洲一区高清亚洲精品| 日韩人妻高清精品专区| 国语对白做爰xxxⅹ性视频网站| 不卡视频在线观看欧美| 舔av片在线| 天天一区二区日本电影三级| 国产在视频线精品| 神马国产精品三级电影在线观看| 九九爱精品视频在线观看| 亚洲av福利一区| 成人欧美大片| 久久97久久精品| 插逼视频在线观看| 99热全是精品| 亚洲av成人精品一二三区| 午夜精品一区二区三区免费看| 我要看日韩黄色一级片| 夫妻性生交免费视频一级片| 中文乱码字字幕精品一区二区三区 | av国产免费在线观看| 久久久久性生活片| 日韩一本色道免费dvd| 99久久精品国产国产毛片| 女人久久www免费人成看片| 嫩草影院新地址| 99热这里只有是精品50| 26uuu在线亚洲综合色| 建设人人有责人人尽责人人享有的 | 又大又黄又爽视频免费| 午夜福利成人在线免费观看| 3wmmmm亚洲av在线观看| 国产免费又黄又爽又色| 天美传媒精品一区二区| 亚洲第一区二区三区不卡| 三级国产精品片| 亚洲国产av新网站| 小蜜桃在线观看免费完整版高清| 一个人观看的视频www高清免费观看| 国产黄片美女视频| 美女内射精品一级片tv| 免费无遮挡裸体视频| 天美传媒精品一区二区| 国产成人一区二区在线| 淫秽高清视频在线观看| 国产在线男女| 久久久精品94久久精品| 国产成人午夜福利电影在线观看| 亚洲av成人av| 直男gayav资源| 99久久中文字幕三级久久日本| 国产成人午夜福利电影在线观看| 18禁在线无遮挡免费观看视频| 永久免费av网站大全| 国产v大片淫在线免费观看| 五月玫瑰六月丁香| 日本熟妇午夜| 精品一区二区三区视频在线| 少妇被粗大猛烈的视频| 国产欧美日韩精品一区二区| 久久97久久精品| 国产女主播在线喷水免费视频网站 | 夜夜看夜夜爽夜夜摸| 国产精品一二三区在线看| 精品一区二区免费观看| 在线播放无遮挡| 能在线免费看毛片的网站| 亚洲精品久久久久久婷婷小说| 亚洲精品一区蜜桃| 我要看日韩黄色一级片| 国产精品久久久久久久电影| 久久精品久久久久久久性| 美女黄网站色视频| 国产午夜精品论理片| 禁无遮挡网站| 免费观看a级毛片全部| 国产成人a区在线观看| 国产黄片视频在线免费观看| 91久久精品电影网| 成年av动漫网址| 久久久久久国产a免费观看| 亚洲经典国产精华液单| 99热6这里只有精品| 亚洲av男天堂| 国产伦一二天堂av在线观看| 久久久色成人| 26uuu在线亚洲综合色| 99久久精品一区二区三区| 嫩草影院入口| 久久99精品国语久久久| 在线观看人妻少妇| 搡老妇女老女人老熟妇| 日韩欧美 国产精品| 欧美高清性xxxxhd video| 国产精品日韩av在线免费观看| 夫妻性生交免费视频一级片| 人妻系列 视频| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 成人高潮视频无遮挡免费网站| av女优亚洲男人天堂| 日韩不卡一区二区三区视频在线| 国产精品人妻久久久久久| 婷婷色综合www| av免费观看日本| 日本黄大片高清| 狠狠精品人妻久久久久久综合| 国产精品日韩av在线免费观看| 亚洲成人av在线免费| 欧美丝袜亚洲另类| 七月丁香在线播放| 国产探花极品一区二区| 成人av在线播放网站| 精品久久久久久电影网| 亚洲性久久影院| 日韩亚洲欧美综合| 久久精品久久久久久噜噜老黄| 欧美变态另类bdsm刘玥| 最近手机中文字幕大全| 欧美日韩精品成人综合77777| a级一级毛片免费在线观看| 丰满少妇做爰视频| 久久国产乱子免费精品| 99久久精品一区二区三区| 日韩欧美精品免费久久| 91av网一区二区| 秋霞伦理黄片| 国模一区二区三区四区视频| 国产一区二区三区av在线| 啦啦啦韩国在线观看视频| 午夜福利在线观看吧| 中文欧美无线码| 一级毛片aaaaaa免费看小| 欧美成人一区二区免费高清观看| 国产一区二区三区av在线| 日韩一区二区视频免费看| 亚洲va在线va天堂va国产| 亚洲成人中文字幕在线播放| 少妇的逼水好多| 2021少妇久久久久久久久久久| 国内揄拍国产精品人妻在线| av在线亚洲专区| 简卡轻食公司| 免费av毛片视频| 少妇熟女aⅴ在线视频|