• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)字治理的“科林格里奇困境”:風(fēng)險、發(fā)生邏輯與防范之策

    2023-12-17 15:17:38何萍
    理論導(dǎo)刊 2023年10期
    關(guān)鍵詞:科林格里數(shù)字

    何萍

    (貴州師范大學(xué) 歷史與政治學(xué)院,貴陽 550025)

    一、問題的提出

    “科林格里奇困境”揭示了技術(shù)在社會運用過程中普遍存在的失控風(fēng)險與控制難題。科學(xué)和技術(shù)作為現(xiàn)代社會最核心的要素之一,被馬克思稱為推動社會發(fā)展和國家轉(zhuǎn)型的“最高意義上的革命力量”。第四次科技革命,數(shù)字技術(shù)的發(fā)展引發(fā)了政治運行、生產(chǎn)關(guān)系和生活方式的重大改變。隨著數(shù)字治理時代的開啟,數(shù)字技術(shù)成為國家治理體系和治理能力現(xiàn)代化的重要支撐。然而,技術(shù)發(fā)展從來都與風(fēng)險相伴。數(shù)字技術(shù)在賦能國家治理的同時,也帶來了數(shù)據(jù)壟斷、倫理沖擊、隱私侵犯、安全風(fēng)險等副產(chǎn)品。海德格爾說:“當(dāng)今世界是一個技術(shù)‘集置’所統(tǒng)治的世界;真正莫測高深的不是世界變成徹頭徹尾的技術(shù)世界,更為可怕的是人對這場世界的變化毫無準(zhǔn)備?!盵1]因此,在數(shù)字治理高歌猛進(jìn)的時代,深刻反思數(shù)字治理的內(nèi)在缺陷,全面預(yù)判和防范數(shù)字技術(shù)與治理體系高度融合的潛在風(fēng)險,是十分必要和極為迫切的。

    目前已有學(xué)者對數(shù)字治理風(fēng)險展開了有益探索,但從技術(shù)控制的角度去反思、審視數(shù)字治理的風(fēng)險何以產(chǎn)生、如何防范的研究仍顯單薄。帕特里克·卡羅爾在《科學(xué)、文化與現(xiàn)代國家的形成》一書中提到:“在推動政治變化的過程中,科學(xué)和技術(shù)一直都起著關(guān)鍵的作用,甚至現(xiàn)代國家被認(rèn)為不僅僅運用科學(xué),而是由科學(xué)構(gòu)成;現(xiàn)代國家是一個社會—技術(shù)體系,它們是人類和非人類的獨特創(chuàng)造?!盵2]的確,數(shù)字治理時代,數(shù)字技術(shù)已經(jīng)成為左右政治運行的重要變量。這意味著數(shù)字技術(shù)超越了傳統(tǒng)認(rèn)知上作為器物工具或者知識原理的技術(shù),而是深深內(nèi)嵌于國家治理結(jié)構(gòu)中,成為治理合法性和合理性的重要支撐[3]??梢哉f,數(shù)字治理不再僅是一種數(shù)字化的國家治理模式,而正在朝向“治理由數(shù)字技術(shù)構(gòu)成”轉(zhuǎn)型;數(shù)字治理的議題也由數(shù)字技術(shù)應(yīng)用初期的“如何基于數(shù)字技術(shù)優(yōu)化治理”擴(kuò)展到“如何對數(shù)字技術(shù)進(jìn)行有效治理”[4]。當(dāng)下,數(shù)字技術(shù)因其立竿見影的積極效果而得到深度應(yīng)用,治理體系和治理能力卻因這種新興技術(shù)難以預(yù)測且不易顯現(xiàn)的消極后果而緩慢變革,由此帶來的影響是,數(shù)字治理的風(fēng)險已逐漸形成,但數(shù)字治理時代的秩序遠(yuǎn)未建立。技術(shù)應(yīng)用與技術(shù)控制之間的矛盾在技術(shù)哲學(xué)領(lǐng)域被概括為“科林格里奇困境”,以此強(qiáng)調(diào)技術(shù)不僅是推動社會整體性變革的“最高革命力量”,還存在著失控的風(fēng)險,具有對國家和社會構(gòu)成巨大威脅的潛在特質(zhì)。

    從電子政務(wù)、智慧政府到數(shù)字治理,數(shù)字技術(shù)快速滲透到政治體制、經(jīng)濟(jì)體制和社會體制中。值得注意的是,數(shù)字技術(shù)與治理體系的高度融合促使數(shù)字技術(shù)從“作為一種技術(shù)手段”的工具理性上升到了“作為一種國家治理結(jié)構(gòu)”的價值理性,國家治理“善治”目標(biāo)的實現(xiàn)從而與數(shù)字技術(shù)密切相關(guān)。然而,數(shù)字技術(shù)不是孤立的,其背后是以強(qiáng)大的技術(shù)研發(fā)與應(yīng)用能力為代表的技術(shù)資本,為國家治理數(shù)字化轉(zhuǎn)型提供核心技術(shù)支持。在《1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿》中,馬克思分析過工人勞動在“機(jī)器工廠”中的異化情況,實質(zhì)上是將技術(shù)異化歸結(jié)為其背后的資本力量。數(shù)字治理時代,借由國家治理的數(shù)字化轉(zhuǎn)型,技術(shù)資本得以進(jìn)入政治運行體系之中。國家治理對數(shù)字技術(shù)的信任進(jìn)一步加深,也意味著對技術(shù)資本存在高度依賴。兩者之間一旦失衡,政治權(quán)力就會淪為技術(shù)資本的附庸[5],技術(shù)失控風(fēng)險也就接踵而至。提升數(shù)字治理能力和治理水平,不僅是要利用數(shù)字技術(shù)賦能國家治理和社會治理,同時也要求政府增強(qiáng)技術(shù)控制能力,以應(yīng)對與數(shù)字技術(shù)應(yīng)用相伴相生的新風(fēng)險和新挑戰(zhàn)。那么,在數(shù)字治理中,“科林格里奇困境”究竟如何發(fā)生?國家應(yīng)當(dāng)如何對數(shù)字技術(shù)進(jìn)行有效治理以防范“科林格里奇困境”的發(fā)生?這是數(shù)字治理走向善治過程中亟須反思和應(yīng)對的重大問題。

    二、概念辨析:數(shù)字治理與“科林格里奇困境”

    (一)何為數(shù)字治理?

    數(shù)字治理是利用現(xiàn)代數(shù)字技術(shù)打造的新型治理模式,意味著治理體系和治理能力的數(shù)字化轉(zhuǎn)型。隨著技術(shù)手段的更迭和治理目標(biāo)的制定,技術(shù)納入治理經(jīng)歷了政府信息化建設(shè)、電子政務(wù)、數(shù)字政府、數(shù)據(jù)治理等階段。與之前的實踐相比,數(shù)字治理在治理主體、治理范圍、治理工具、治理機(jī)制上都發(fā)生了巨大轉(zhuǎn)變。

    在治理主體上,在政府信息化建設(shè)、電子政務(wù)、數(shù)字政府時期,科層制下的各級政府機(jī)構(gòu)在治理體系中始終處于支配性地位。數(shù)字治理則意味著在所有的治理主體中,雖然政府依然占據(jù)主導(dǎo)地位,但是治理主體呈現(xiàn)多元化的發(fā)展趨勢,社會力量在數(shù)字治理中的重要性逐漸上升。在數(shù)字治理過程中,政府作為權(quán)威治理主體,積極引導(dǎo)企業(yè)、社會組織和公民個體參與到公共事務(wù)治理中來,形成多元主體協(xié)同治理的模式。

    在治理范圍上,數(shù)字治理在外延上極大超出了電子政務(wù)、數(shù)字政府、數(shù)據(jù)治理等技術(shù)治理實踐。數(shù)字治理不只是數(shù)字化的政府運行機(jī)制,而是涵蓋了數(shù)字政府、數(shù)字經(jīng)濟(jì)、數(shù)字社會、數(shù)字生態(tài)等方方面面。數(shù)字治理既包括以政府為治理權(quán)威的全球治理、國家治理和社會治理,也包括以非政府行為體為主的產(chǎn)業(yè)治理數(shù)字化轉(zhuǎn)型[6],還包括對虛擬行為體如網(wǎng)絡(luò)社群的治理。數(shù)字治理既基于數(shù)字技術(shù),又要對數(shù)字技術(shù)進(jìn)行治理。

    在治理工具上,以自動化辦公系統(tǒng)和互聯(lián)網(wǎng)為基礎(chǔ)的電子政務(wù)是數(shù)字治理初期實踐的主要形式,其特點是技術(shù)作為一種外生工具被應(yīng)用到政府治理中,目的在于提高政府的辦公效率和服務(wù)水平。隨著大數(shù)據(jù)、區(qū)塊鏈、云計算、人工智能等數(shù)字技術(shù)的發(fā)展和應(yīng)用,治理工具的創(chuàng)新推動治理體系更為民主化、科學(xué)化、精細(xì)化、智能化,數(shù)字技術(shù)由外生的技術(shù)工具轉(zhuǎn)向外生工具與治理體制更深層次的相互融合[4]。

    在治理機(jī)制上,信息化建設(shè)、電子政務(wù)和數(shù)字政府在治理機(jī)制上仍然是運用政府權(quán)威,自上而下地發(fā)號施令、制定政策和實施政策,對社會公共事務(wù)進(jìn)行單一向度的管理[7]。數(shù)字治理則是更為開放、民主和科學(xué)的治理機(jī)制,在政府主導(dǎo)下,企業(yè)、社會組織、網(wǎng)絡(luò)社群、公民個體等多元主體共同參與治理過程,其治理機(jī)制和治理理念也從自上而下、單一主體轉(zhuǎn)變?yōu)樯舷禄?、合作共商、協(xié)同共治。

    (二)何為“科林格里奇困境”?

    “科林格里奇困境”是科學(xué)技術(shù)哲學(xué)領(lǐng)域的一個著名悖論,由英國社會學(xué)家、技術(shù)哲學(xué)家大衛(wèi)·科林格里奇在20世紀(jì)80年代提出。在《技術(shù)的社會控制》一書中,科林格里奇指出,我們時代最為迫切的問題是:“我們能控制我們創(chuàng)造的技術(shù)嗎?我們能夠用技術(shù)做自己想做的事而避免其消極后果嗎?”[8]13-16通過曼哈頓計劃的成功與綠色革命的失敗兩個案例對比,科林格里奇作出論斷:“某項技術(shù)的社會后果在發(fā)展早期階段往往無法預(yù)料。當(dāng)技術(shù)應(yīng)用的消極后果逐漸顯現(xiàn)時,技術(shù)早已成為經(jīng)濟(jì)、政治乃至整個社會的構(gòu)成要素,以致于再對技術(shù)進(jìn)行控制變得極為困難?!币虼?,“科林格里奇困境”也被稱為技術(shù)控制悖論,指向技術(shù)的社會控制難題。

    “科林格里奇困境”的發(fā)生分為兩個階段:一是在技術(shù)發(fā)展的早期階段,技術(shù)對社會的影響還處于萌芽狀態(tài),人們對技術(shù)的依賴程度較低而控制能力相對較高,但是因為缺少對技術(shù)應(yīng)用后果的完備認(rèn)知而無法預(yù)測技術(shù)的社會影響,從而不知道如何對技術(shù)進(jìn)行控制。二是在技術(shù)發(fā)展成熟或晚期階段,這時技術(shù)已經(jīng)深刻嵌入社會結(jié)構(gòu)并成為社會發(fā)展的主導(dǎo)力量,人們對技術(shù)的依賴程度很深,對技術(shù)的控制能力因而變得極為有限。這個階段,即使技術(shù)的不良社會后果已經(jīng)顯現(xiàn),但因技術(shù)與社會建制高度融合而幾乎無法徹底改變,或者說,這時候的技術(shù)控制會是一項昂貴、耗時和困難的社會系統(tǒng)性工程。蘭登·溫納在《自主性技術(shù)》中也有類似的討論,“技術(shù)的發(fā)展總是超過個人和社會系統(tǒng)的適應(yīng)能力;伴隨著技術(shù)創(chuàng)新速度的加快,預(yù)測某項特定技術(shù)創(chuàng)新的影響變得愈加困難”[9]2。不論是科林格里奇的技術(shù)控制困境,還是溫納的自主性技術(shù),本質(zhì)上都是在揭示——技術(shù)的超前性與社會和文化的相對穩(wěn)定性之間總是存在著難以抵消的張力[10],兩者有著一定的節(jié)奏落差,這種落差又導(dǎo)致人們對技術(shù)的認(rèn)知、預(yù)測和社會控制總是有限且被動的。因此,如何保持技術(shù)的可控性,盡可能避免或減少技術(shù)發(fā)展帶來的有害社會后果,從而更為有效地對技術(shù)進(jìn)行控制,是科林格里奇的核心關(guān)切。

    技術(shù)變革與認(rèn)知滯后之間的矛盾固然難以避免,但是科林格里奇認(rèn)為,技術(shù)控制困境的產(chǎn)生與20世紀(jì)50年代至70年代早期盛行的單純的技術(shù)樂觀主義密切相關(guān)。這種技術(shù)樂觀主義因為曼哈頓計劃以及隨后的阿波羅計劃的巨大成功而備受鼓舞,技術(shù)進(jìn)步可以給社會發(fā)展帶來無限可能性的認(rèn)知深入人心。誠然,技術(shù)創(chuàng)新對提高人們物質(zhì)生活水平、推動社會發(fā)展進(jìn)步至關(guān)重要。不可否認(rèn),蒸汽機(jī)的確帶來了生產(chǎn)力的巨大發(fā)展,現(xiàn)代交通工具擴(kuò)展了人們的行動范圍,即時通訊工具和網(wǎng)絡(luò)信息技術(shù)提供了更為便捷的溝通交流媒介、延展了人們的社交邊界,數(shù)字技術(shù)在治理中的應(yīng)用形成了更加協(xié)同高效、精細(xì)智能的治理體系。技術(shù)樂觀主義者認(rèn)為,對技術(shù)控制困境的擔(dān)憂只不過是對機(jī)器的恐懼和憎恨,是“現(xiàn)代生活中最陳腐和最普遍的不安情緒之一”[11]。在技術(shù)樂觀主義者看來,技術(shù)占據(jù)著核心位置,技術(shù)進(jìn)步不僅可以解決舊技術(shù)本身存在的問題,而且可以處理那些本質(zhì)上屬于政治或道德領(lǐng)域的問題[9]23。否認(rèn)技術(shù)的“可控性”被認(rèn)為是人作為主體的一種自我挫敗的理解方式,是一種阻止進(jìn)步的發(fā)展方案,是將技術(shù)當(dāng)作替罪羊和擋箭牌的消極觀點。技術(shù)進(jìn)步被視為是社會的進(jìn)步,人們享受著技術(shù)創(chuàng)新帶來的種種文明成果,沉迷于技術(shù)發(fā)展帶來的充裕物質(zhì)條件,甚至認(rèn)為人類其他一切的組織制度和習(xí)俗規(guī)約必然都能通過技術(shù)進(jìn)步得到大大改進(jìn)。然而,技術(shù)自進(jìn)入社會化的過程開始,就失去了價值中立的本質(zhì)屬性。馬克思主義認(rèn)為,“異化”是人的物質(zhì)生產(chǎn)與精神生產(chǎn)及其產(chǎn)品變成異己力量,反過來統(tǒng)治人的一種社會現(xiàn)象。雖然馬克思主義將技術(shù)異化的根源歸結(jié)為“資本主義”的技術(shù)私有,但是這也證實了技術(shù)一旦與資本和權(quán)力相結(jié)合,就具備異化的力量。比如,蒸汽機(jī)推動了生產(chǎn)力發(fā)展,也帶來了更為嚴(yán)重的勞動剝削;網(wǎng)絡(luò)信息技術(shù)在便捷人們生活的同時,也帶來了數(shù)字不平等、社會節(jié)奏加速化、文化思想單向度等異化問題。這種異化促使人們對技術(shù)發(fā)達(dá)的現(xiàn)代性進(jìn)行反思。貝克就將“發(fā)達(dá)現(xiàn)代性”視為“風(fēng)險社會”,警示風(fēng)險的社會生產(chǎn)是現(xiàn)代化的副產(chǎn)品,在技術(shù)—經(jīng)濟(jì)“進(jìn)步”的力量中增加的財富將日益為風(fēng)險生產(chǎn)的陰影所籠罩[12]。因此,對技術(shù)樂觀主義的觀點進(jìn)行反思之后,科林格里奇修正了技術(shù)的價值中立論,強(qiáng)調(diào)技術(shù)發(fā)展實際上存在著不可預(yù)測的社會風(fēng)險,為了盡早了解技術(shù)潛在的有害影響,就必須進(jìn)行預(yù)先的理性思考和評估;為了盡可能避免和減少這些影響,就必須提高對技術(shù)的控制能力。

    三、技術(shù)失控風(fēng)險:數(shù)字治理中“科林格里奇困境”的發(fā)生邏輯

    根據(jù)溫納的解釋,“技術(shù)控制”概念意味著:人們在使用過程中能自始至終對某項技術(shù)具有完全的洞察力以及嫻熟的操作技巧;“技術(shù)失控”則被定義為“自主性技術(shù)”,指向本質(zhì)中立的技術(shù)在實踐中卻以某種方式日益擺脫人類的控制,出現(xiàn)“自我導(dǎo)向”[9]36。數(shù)字治理時代,新興的數(shù)字技術(shù)已經(jīng)被廣泛用于國家治理和社會治理的各個領(lǐng)域,政府決策和公共治理越來越依賴于數(shù)據(jù)的收集、整理、分析和應(yīng)用。但是,對于作用其間并提供服務(wù)的數(shù)字技術(shù),人們?nèi)匀惶幱谝环N還未獲得全面清晰了解的“無知”狀態(tài)。數(shù)字治理是建立在數(shù)字技術(shù)之上的新興治理模式,客觀上存在著還不明確和無法預(yù)料的風(fēng)險與挑戰(zhàn)。當(dāng)下,人們顯然沒有完全具備對數(shù)字技術(shù)的控制能力,數(shù)字治理還沒有擺脫發(fā)生“科林格里奇困境”的可能性。從科林格里奇對技術(shù)控制困境的分析來看,在數(shù)字治理中,技術(shù)失控的風(fēng)險可以從時間、知識和權(quán)力三個向度來理解。認(rèn)知的線性邏輯、知識的動態(tài)證偽、權(quán)力和資本對技術(shù)的雙重侵蝕,使得數(shù)字治理在發(fā)展過程中極有可能陷入“科林格里奇困境”。

    (一)時間向度:數(shù)字技術(shù)失控風(fēng)險形成的線性過程

    從時間向度來講,科林格里奇主張技術(shù)控制困境的形成是一個線性過程。人們在新技術(shù)介入社會最初往往難以準(zhǔn)確評估其影響,加之新技術(shù)在最初應(yīng)用時并未與整體社會結(jié)構(gòu)緊密融合,其后果無法顯現(xiàn);技術(shù)的社會化過程隨著時間的推移逐漸深入,負(fù)面后果也開始暴露出來。從現(xiàn)代技術(shù)的諸多應(yīng)用實踐來看,人們對技術(shù)失控風(fēng)險的認(rèn)知的確與時間先后、長短有關(guān)。

    數(shù)字技術(shù)作為一項新興技術(shù),其實早在20世紀(jì)就有初步研究。20世紀(jì)70年代中期,達(dá)特茅斯會議確定了人工智能發(fā)展的基本框架,但研究更多集中在推動以數(shù)理邏輯為基礎(chǔ)的學(xué)術(shù)發(fā)展,對于產(chǎn)業(yè)和實踐的貢獻(xiàn)非常有限,更沒有得到廣泛應(yīng)用[13]。對于中國來說,進(jìn)入21世紀(jì)以前,政府管理的信息化應(yīng)用主要是基于計算機(jī)建成的信息處理系統(tǒng)和自動化辦公平臺。自2000年以來,中國的互聯(lián)網(wǎng)行業(yè)迅速崛起,政府投入大量資金推進(jìn)電子政務(wù),希望通過電子政務(wù)系統(tǒng)打破各部門之間的信息壁壘,促進(jìn)信息資源的互聯(lián)互通共享,從而提高辦公效率、加快建成服務(wù)型政府。隨著以大數(shù)據(jù)、云計算、人工智能、區(qū)塊鏈等為代表的數(shù)字技術(shù)的發(fā)展,國家治理和社會治理進(jìn)入了深度調(diào)整時期。2015年,習(xí)近平在第二屆世界互聯(lián)網(wǎng)大會開幕式上首次提出“推進(jìn)數(shù)字中國建設(shè)”;2017年,黨的十九大報告首次將“建設(shè)數(shù)字中國”寫入黨和國家的綱領(lǐng)性文件;2022年,黨的二十大報告明確作出“加快建設(shè)數(shù)字中國”的部署安排。新時代,中國處于數(shù)字治理的高速發(fā)展時期,數(shù)字技術(shù)開始逐漸超越工具層面,由一種外生的技術(shù)工具發(fā)展為一個虛擬化的治理主體,成為影響政治發(fā)展和社會運行的重要變量。

    通過梳理可以看出,從“數(shù)字時代的治理”到“數(shù)字治理時代”,經(jīng)歷了一系列技術(shù)普及、創(chuàng)新和深化。信息化初期,計算機(jī)和互聯(lián)網(wǎng)更多是作為輔助性的技術(shù)工具,對于治理體系的介入程度不深;政府作為治理體系中最具權(quán)威的治理主體,通過培訓(xùn)和學(xué)習(xí)可以熟練地掌握相關(guān)專業(yè)知識和操作技巧,對于技術(shù)的控制能力較強(qiáng)。隨著數(shù)字治理體系的建構(gòu),數(shù)字技術(shù)成為治理體系的基石,數(shù)字技術(shù)深度嵌入治理體系中,成為構(gòu)成國家治理體系的結(jié)構(gòu)化要素。數(shù)字技術(shù)愈是發(fā)達(dá),意味著技術(shù)壁壘和專業(yè)化程度愈高。如今,政府運行和決策越來越依賴數(shù)據(jù)收集、整理、存儲和分析,但因極度缺乏數(shù)字技術(shù)的專業(yè)知識和操作能力,政府只能從數(shù)字資本巨頭手中購買新興技術(shù)并使用他們提供的產(chǎn)品和服務(wù)。憑借核心技術(shù)優(yōu)勢,數(shù)字資本巨頭不但可以繞開政府的規(guī)制和管控,還能夠進(jìn)入數(shù)字治理體系構(gòu)建和運行的關(guān)鍵環(huán)節(jié),導(dǎo)致政府對技術(shù)的控制能力受到極大侵蝕,技術(shù)失控的風(fēng)險逐漸顯露。數(shù)字技術(shù)的社會化過程需要一定的時間,在這個線性過程中,技術(shù)失控風(fēng)險由潛在的可能性轉(zhuǎn)為顯現(xiàn)的現(xiàn)實性,再由顯現(xiàn)的現(xiàn)實性轉(zhuǎn)為明確的認(rèn)知。所以說,國家治理和社會治理在享受數(shù)字技術(shù)紅利的同時,也面臨著更大的挑戰(zhàn)和更高的要求。數(shù)字資本巨頭對政治權(quán)力的侵蝕程度越深,數(shù)字技術(shù)的失控風(fēng)險就越大,數(shù)字治理陷入“科林格里奇困境”的可能性也就越高。

    (二)知識向度:數(shù)字技術(shù)失控風(fēng)險形成的動態(tài)突變

    從知識向度來講,科林格里奇主張?zhí)岣呖茖W(xué)知識的完備程度以獲得對技術(shù)發(fā)展社會后果更加全面的認(rèn)知,從而克服技術(shù)發(fā)展的未來不確定性,但在實踐中要實現(xiàn)這一主張是極為困難的。主要原因在于技術(shù)并非是價值中立的、靜態(tài)的器物或工具,而是與整個社會纏繞互嵌、同時共生,形成的一種復(fù)雜異質(zhì)的社會—科技雜合體或聚合體[14]。

    在數(shù)字治理中,隨著數(shù)字技術(shù)的深度應(yīng)用,數(shù)字技術(shù)已經(jīng)無法獨立于社會政治和經(jīng)濟(jì)之外。社會是一個動態(tài)發(fā)展的過程,數(shù)字技術(shù)同樣處于人類因素和非人類因素共同建構(gòu)的動態(tài)網(wǎng)絡(luò)中,因而與數(shù)字技術(shù)相關(guān)的知識提升是一個動態(tài)證偽的過程。一方面,這個動態(tài)過程意味著人們對數(shù)字技術(shù)應(yīng)用社會后果的認(rèn)知存在一定的時間落差。縱觀技術(shù)治理的演變史,從信息化、電子政務(wù)、數(shù)字政府、智慧政府到數(shù)字中國,技術(shù)創(chuàng)新經(jīng)歷了計算機(jī)、互聯(lián)網(wǎng)、大數(shù)據(jù)、區(qū)塊鏈、云計算、人工智能、元宇宙等一系列更迭。數(shù)字技術(shù)已經(jīng)成為政府治理、社會治理、企業(yè)管理和日常生活中不可或缺的一部分,但是人們對數(shù)字技術(shù)的認(rèn)知和把握仍然十分有限,這就導(dǎo)致人們對數(shù)字技術(shù)發(fā)展和深度應(yīng)用所帶來的未來社會后果了解不多。從這個層面來講,數(shù)字治理中“科林格里奇困境”的發(fā)生邏輯在于:技術(shù)發(fā)展總是新興而快速的,但技術(shù)的社會化過程卻是遲緩的,即使一開始對技術(shù)的發(fā)展方向有著清晰明確的規(guī)劃,也會在處于無知之幕的主體和社會運用之中走向偏離[10]。另一方面,動態(tài)突變邏輯意味技術(shù)失控風(fēng)險的發(fā)生不僅是歷時性的,而且充滿著可能的瞬時突變性。貝克在分析現(xiàn)代社會時指出“我們生活在文明的火山上”[15],不確定性是風(fēng)險社會的本質(zhì)屬性。對數(shù)字治理中技術(shù)失控風(fēng)險的認(rèn)識有賴于因果關(guān)系,在數(shù)字技術(shù)發(fā)展初期,相關(guān)知識專業(yè)壁壘不高、分散程度低,大部分人可以通過系統(tǒng)性學(xué)習(xí)加以掌握;隨著數(shù)字技術(shù)與整體社會的深度融合,與數(shù)字技術(shù)有關(guān)的知識成為諸多學(xué)科、諸多領(lǐng)域、諸多群體共同關(guān)注的“大問題”??鐚W(xué)科的知識沖突、不同領(lǐng)域的利益沖突以及異質(zhì)群體的價值沖突使得數(shù)字治理風(fēng)險相互交織、錯綜復(fù)雜,呈現(xiàn)觸點多、燃點低、擴(kuò)散易、處理難的特點。這個階段通過提高專業(yè)知識水平來預(yù)測數(shù)字治理的未來結(jié)果充滿著偶然性、隨機(jī)性與不確定性,稍微不慎,極易突變引發(fā)更大的社會危機(jī)。數(shù)字技術(shù)知識的歷時性積累與風(fēng)險的動態(tài)化突變,使得數(shù)字治理中的“科林格里奇困境”既難以預(yù)測又不易防范。

    (三)權(quán)力向度:數(shù)字技術(shù)失控風(fēng)險形成的行動者視角

    從權(quán)力向度來講,科林格里奇預(yù)設(shè)了行動者在技術(shù)發(fā)展過程中進(jìn)行權(quán)力介入的可能性。技術(shù)控制不僅要求對技術(shù)有完全的洞察力,更要求有強(qiáng)有力的控制主體。技術(shù)不僅僅是物的存在,更是利益相關(guān)的異質(zhì)行動者們價值訴求的集合。伴隨著技術(shù)黑箱的打開,這些異質(zhì)行動者,比如政府機(jī)構(gòu)、數(shù)字巨頭、技術(shù)專家、社會組織、個人等,出于不同的利益訴求和價值取向進(jìn)行相互博弈,試圖影響技術(shù)的發(fā)展方向,進(jìn)而對技術(shù)實施符合自身利益的控制[16]。從行動者視角來看,數(shù)字治理中“科林格里奇困境”的發(fā)生邏輯主要體現(xiàn)在以下三個方面。

    一是數(shù)字利維坦的可能性。從數(shù)字治理的實踐來看,數(shù)據(jù)是數(shù)字治理的基石,利用數(shù)字技術(shù)進(jìn)行社會治理,客觀上提升了服務(wù)型政府建設(shè)水平、拓寬了人民群眾政治參與的渠道、強(qiáng)化了整體治理體系的智能化和精細(xì)化程度。數(shù)字治理的底層邏輯是依托大數(shù)據(jù)和算法的數(shù)字技術(shù),通過將公民個體差異化、個性化和多元化的話語表達(dá)綜合轉(zhuǎn)換為數(shù)據(jù)進(jìn)行分析,為政府的公共政策制定和公共權(quán)力行使提供參考,從而使政府治理更加貼近民眾需求。但是,數(shù)字技術(shù)納入治理又進(jìn)一步延伸了政府權(quán)力,使得國家對社會實行更為全面的控制可能性加大。在數(shù)字治理實踐中,我們應(yīng)該深刻認(rèn)識到,數(shù)字技術(shù)本質(zhì)上是一項完全理性的工具,過度依賴會導(dǎo)致治理僵化為一系列技術(shù)程序,正如芒德福形容的“巨型機(jī)器”一般?!熬扌蜋C(jī)器”通過將人變成大數(shù)據(jù)系統(tǒng)中的虛擬數(shù)字對象進(jìn)行全方位全時段的數(shù)據(jù)收集、整理和分析,使得原本應(yīng)當(dāng)服務(wù)于“美好生活”的數(shù)字技術(shù)卻反過來加強(qiáng)了對人的全面管理。因此,數(shù)字技術(shù)雖然為治理提供了更加強(qiáng)大的工具,但是治理的技術(shù)性越強(qiáng)、專業(yè)化程度越高,自上而下的控制能力就越強(qiáng),各種非正式的、靈活的、因地制宜的社會規(guī)則就難以發(fā)揮作用,治理將失去應(yīng)有的溫度和柔性。與此同時,自下而上的能動性也隨之減弱,社會的自主性降低,公共參與精神和公共生活熱情進(jìn)一步衰退[17]。

    二是數(shù)字技術(shù)資本霸權(quán)日趨成熟。由于自身職能的限制以及資金、技術(shù)、專家的欠缺,政府在數(shù)字技術(shù)研發(fā)、數(shù)據(jù)采集、算法分析等方面的能力相對滯后,因而傾向于向數(shù)字巨頭公司購買數(shù)字治理需要的相關(guān)產(chǎn)品和服務(wù)。這一方面加強(qiáng)了政府對數(shù)字巨頭公司的依賴性,另一方面數(shù)字巨頭公司通過提供技術(shù)支撐和技術(shù)服務(wù)逐漸滲透進(jìn)政府體制,進(jìn)而在數(shù)字治理體系中獲得更大的影響力。一個典型的案例是,2020年,澳大利亞政府計劃推行《新聞媒體和數(shù)字平臺強(qiáng)制性議價法案》,該法案要求谷歌、臉書等為其平臺上包含的新聞內(nèi)容向媒體付費。隨后,谷歌和臉書兩大數(shù)字巨頭公司分別以暫停搜索引擎服務(wù)、封鎖澳大利亞在臉書平臺上的新聞報道及屏蔽澳大利亞用戶的平臺權(quán)限,迫使澳大利亞政府作出妥協(xié)。由此可見,數(shù)字巨頭公司已然擁有了與主權(quán)國家討價還價的能力。在中國,數(shù)字技術(shù)資本也逐漸侵入政府權(quán)力運行的過程中,阿里、騰訊等技術(shù)資本主體直接服務(wù)于統(tǒng)計、財政、公安等多個部門,其提供的技術(shù)服務(wù)成為政府決策和政策執(zhí)行的主要工具。數(shù)字治理對技術(shù)資本日益增強(qiáng)的依賴性,客觀上為數(shù)字技術(shù)資本侵蝕政府權(quán)力提供了機(jī)會和路徑,使得天性逐利的數(shù)字技術(shù)資本能夠利用手中壟斷的技術(shù)砝碼與政府權(quán)力“叫板”[5]。

    三是數(shù)字技術(shù)對日常生活進(jìn)一步宰制。數(shù)字治理意味著國家治理和社會治理的數(shù)字化轉(zhuǎn)型,數(shù)字技術(shù)已經(jīng)成為日常生活的重要組成部分。數(shù)字技術(shù)一經(jīng)與公共事務(wù)結(jié)合,就應(yīng)當(dāng)具有正當(dāng)性和公平性。但是,馬克思主義認(rèn)為,生產(chǎn)力的發(fā)展和生產(chǎn)工具的改進(jìn)必然會不斷要求改變社會中舊的所有關(guān)系、支配關(guān)系和分配關(guān)系,形成新的經(jīng)濟(jì)法權(quán)關(guān)系,從而促使社會階級形態(tài)發(fā)生相應(yīng)變化。數(shù)字治理在不同社會群體中賦權(quán)不均,形成了新的資源分配和占有關(guān)系及數(shù)字不平等,引發(fā)不同社會階層更深層次的經(jīng)濟(jì)不平等和社會不平等。比如,欠發(fā)達(dá)地區(qū)、貧困人口和老年群體因為經(jīng)濟(jì)條件有限、基礎(chǔ)設(shè)施落后、網(wǎng)絡(luò)知識匱乏而無法參與到數(shù)字治理中,成為數(shù)字弱勢群體;技術(shù)專家、青年群體、城市白領(lǐng)等卻憑借自身具有的技術(shù)專長優(yōu)勢、數(shù)字技術(shù)知識和網(wǎng)絡(luò)參與能力,通過數(shù)字化平臺充分表達(dá)自己的意見,有效運用數(shù)字治理賦予的權(quán)利,成為數(shù)字治理中的參與主體。如此,通過大數(shù)據(jù)和算法分析出來的結(jié)果究竟能夠在多大程度上反映真實的民眾需求?如果數(shù)據(jù)本身不夠全面,那么算法分析結(jié)果是否也存在偏見呢?從本質(zhì)上看,數(shù)字治理旨在重塑國家和社會關(guān)系,使得政府、企業(yè)、社會、個人作為治理主體平等地參與其中,形成多元共治的治理模式。但是,客觀存在的技術(shù)不平等逐漸延伸至經(jīng)濟(jì)和政治領(lǐng)域,就會破壞治理中最重要的公正原則。與此同時,數(shù)字技術(shù)還將人窄化為虛擬的數(shù)字對象。馬爾庫塞認(rèn)為:現(xiàn)行的社會控制形式是技術(shù)的形式,技術(shù)能夠作用于更廣泛的政治、經(jīng)濟(jì)領(lǐng)域,同時也能更嚴(yán)密地控制個人的行為和情感,最終打造一個“單向度的社會”[18]。通過運用數(shù)字技術(shù),公眾能夠獲取到的信息內(nèi)容被精準(zhǔn)掌控,數(shù)字技術(shù)成為控制日常生活的工具。

    治理以善治為目標(biāo),政治權(quán)力與科學(xué)技術(shù)的緊密結(jié)合意味著“善治”價值應(yīng)當(dāng)被嵌入科技發(fā)展之中。然而,“以善治為目標(biāo)”的國家治理和“以利益為追求”的技術(shù)資本之間存在著難以調(diào)和的矛盾。隨著數(shù)字資本對政治權(quán)力和日常生活的侵蝕,技術(shù)失控的風(fēng)險日益增加。因此,當(dāng)數(shù)字技術(shù)成為治理體系的構(gòu)成要素時,即使其消極后果開始顯現(xiàn),也難以進(jìn)行有效控制。

    四、保持技術(shù)可控:數(shù)字治理中“科林格里奇困境”的防范之策

    從“科林格里奇困境”來看,解決這一困境的基本思路關(guān)鍵在于提高對技術(shù)風(fēng)險的評估和調(diào)控能力。但是,技術(shù)失控風(fēng)險具備動態(tài)突變的特征,這就意味著對技術(shù)的評估充滿著未知性,因此科林格里奇認(rèn)為:“如果技術(shù)的有害后果只能在技術(shù)發(fā)展和擴(kuò)散的過程中來辨別,那么解決控制悖論的唯一希望似乎在于盡早發(fā)現(xiàn)有害后果和保持技術(shù)的可控性?!盵8]19參照風(fēng)險治理的思路,數(shù)字治理中“科林格里奇困境”的防范同樣是一項系統(tǒng)性、基礎(chǔ)性、全局性的工作,因此關(guān)鍵在于技術(shù)控制主體如何保持對技術(shù)的調(diào)控能力。數(shù)字技術(shù)是自然存在和社會存在的統(tǒng)一體,它首先是一個“物質(zhì)對象”,其次是一種“技術(shù)知識”,再者是“作為數(shù)字治理使用的技術(shù)工具”,最后還是一種“社會建構(gòu)的力量”[19]。集工具理性和價值理性于一體是數(shù)字治理時代中數(shù)字技術(shù)的基本屬性,這種屬性要求數(shù)字治理在防范技術(shù)控制困境時,不僅要從工具性需求著手,更為重要的是要站在價值理性和人本關(guān)懷的立場上對數(shù)字技術(shù)進(jìn)行規(guī)劃、評估和調(diào)控,深刻把握數(shù)字技術(shù)風(fēng)險的結(jié)構(gòu)性特點。因此,數(shù)字治理中“科林格里奇困境”的防范路徑就在于:通過提高跨學(xué)科知識水平對數(shù)字技術(shù)風(fēng)險進(jìn)行前瞻性規(guī)劃,通過加強(qiáng)多元主體話語溝通體系建設(shè)對數(shù)字技術(shù)風(fēng)險進(jìn)行動態(tài)、科學(xué)評估,通過建立健全預(yù)警響應(yīng)機(jī)制對數(shù)字技術(shù)風(fēng)險進(jìn)行適應(yīng)性調(diào)控,從而做到及時、有效、科學(xué)地防范和調(diào)控數(shù)字治理中可能發(fā)生的技術(shù)失控風(fēng)險。

    (一)加大專業(yè)人才培養(yǎng),提高數(shù)字治理規(guī)劃水平

    數(shù)字技術(shù)風(fēng)險的難以認(rèn)知性是技術(shù)控制困境發(fā)生的因素之一。隨著技術(shù)發(fā)展的高度專業(yè)化和分散化,數(shù)字治理中各個參與主體在數(shù)字技術(shù)認(rèn)知上存在不同程度的差異,甚至出現(xiàn)兩極分化。數(shù)字技術(shù)的依賴加深已經(jīng)給政治權(quán)力帶來了不可避免的威脅,但期待數(shù)字資本主動從“利益至上”轉(zhuǎn)變?yōu)椤凹夹g(shù)向善”是不切實際的幻想。因此,防范數(shù)字治理中的技術(shù)控制困境,一方面,必須提高技術(shù)失控風(fēng)險意識。要充分認(rèn)識到數(shù)字技術(shù)不僅具有諸多效用,同時也伴隨著隱蔽風(fēng)險。政府作為數(shù)字治理中占主導(dǎo)地位、發(fā)揮引導(dǎo)作用的治理主體,為了應(yīng)對潛在的技術(shù)失控風(fēng)險,必須加大專業(yè)人才培養(yǎng),鼓勵政府工作人員提高跨學(xué)科知識水平,充分學(xué)習(xí)大數(shù)據(jù)、人工智能、算法等專業(yè)知識,提高對數(shù)字技術(shù)的運用能力,從而有效維持政府在數(shù)字治理中的掌舵地位。另一方面,要極力改善數(shù)字治理中治理信息和治理資源不對稱的情況。數(shù)字技術(shù)雖然緩解了傳統(tǒng)科層體制內(nèi)部的信息不對稱,但是也帶來數(shù)字技術(shù)資本與政府、社會個體之間的信息不對稱,加劇了不同治理主體和治理要素之間的結(jié)構(gòu)性失衡[20]。從長遠(yuǎn)來看,數(shù)字治理必須避免對技術(shù)資本的過度依賴,政府應(yīng)當(dāng)補(bǔ)齊在技術(shù)專家、數(shù)字研發(fā)、數(shù)據(jù)分析等方面的短板,加強(qiáng)自身的信息資源控制能力,改善自身對技術(shù)風(fēng)險的“無知”狀態(tài),防范對技術(shù)資本的過度信任。通過人才培養(yǎng)、技術(shù)研發(fā)和數(shù)據(jù)分析能力的提升,政府才能避免被技術(shù)工具理性所控制;從“善治”的價值立場出發(fā),政府才能在數(shù)字治理決策中作出更為專業(yè)化的判斷,從而提高數(shù)字治理的前瞻性規(guī)劃水平。

    (二)加強(qiáng)多元主體話語溝通,健全數(shù)字治理評估機(jī)制

    數(shù)字治理是為了實現(xiàn)美好生活而進(jìn)行的治理體系和治理能力數(shù)字化轉(zhuǎn)型?;诖四康?,社會大眾對數(shù)字技術(shù)應(yīng)用的反饋是數(shù)字治理好壞最直接和最有效的證據(jù),這就要求數(shù)字治理建立健全基于大眾反饋基礎(chǔ)上的評估機(jī)制。要密切關(guān)注社會大眾對數(shù)字技術(shù)應(yīng)用的反饋,對數(shù)字技術(shù)在社會治理中的“輸出結(jié)果”進(jìn)行持續(xù)系統(tǒng)的監(jiān)測[21],從而通過數(shù)字治理評估機(jī)制及早發(fā)現(xiàn)數(shù)字技術(shù)在社會運用過程中存在的問題和引發(fā)的不良社會后果。與此同時,要暢通多元主體話語溝通渠道。數(shù)字治理雖然依托數(shù)字技術(shù),但本質(zhì)上是在政府主導(dǎo)下,企業(yè)、社會組織、公民個人等多元主體共同參與公共事務(wù)的治理模式。面對數(shù)字技術(shù)資本對政治權(quán)力和公民生活的過度侵蝕問題,數(shù)字治理應(yīng)當(dāng)通過完善多元話語溝通體系,把所有利益相關(guān)行動者考慮在內(nèi)。通過構(gòu)建政府與社會之間溝通對話的良性機(jī)制,鼓勵多元主體參與數(shù)字治理,從而避免過度依賴和信任數(shù)字資本和數(shù)字專家。數(shù)字治理時代,治理體系和數(shù)字技術(shù)的結(jié)合為整體社會結(jié)構(gòu)帶來改變,這種影響也延伸到每一個人身上。只有妥善利用溝通對話手段,并通過技術(shù)專家介入、大數(shù)據(jù)分析等,才能獲取較為客觀的社會反饋,從而對技術(shù)風(fēng)險進(jìn)行精準(zhǔn)、全面、有效評估,避免形成“科林格里奇困境”。

    (三)建立健全數(shù)字技術(shù)風(fēng)險監(jiān)管機(jī)制,提高適應(yīng)性治理能力

    雖然我們難以準(zhǔn)確預(yù)估風(fēng)險,但是一旦風(fēng)險被反思和監(jiān)控,就有了被減小和規(guī)避的可能性。因此,要想防范陷入數(shù)字治理中的“科林格里奇困境”,政府作為技術(shù)控制主體應(yīng)當(dāng)建立健全數(shù)字技術(shù)風(fēng)險監(jiān)管機(jī)制。一方面,健全監(jiān)管機(jī)制是為了對數(shù)字技術(shù)的應(yīng)用效果進(jìn)行動態(tài)監(jiān)測,以便及時識別、糾正和調(diào)整數(shù)字技術(shù)在治理過程中可能出現(xiàn)的偏差;另一方面,健全監(jiān)管機(jī)制是為了約束數(shù)字資本對政府權(quán)力的過度侵蝕,防止“利益至上”的數(shù)字資本對治理體系進(jìn)行技術(shù)支配。為了落實對數(shù)字技術(shù)的動態(tài)監(jiān)管,在制度設(shè)計上,要建立數(shù)字技術(shù)準(zhǔn)入備案制度。政府由于缺乏專業(yè)知識和技術(shù)專家,在數(shù)字治理制度設(shè)計上與技術(shù)資本之間存在著一定程度的“信息不對稱”。通過建立數(shù)字技術(shù)準(zhǔn)入備案制度,要求凡是要進(jìn)入數(shù)字治理公共事務(wù)領(lǐng)域的技術(shù)資本應(yīng)當(dāng)就相關(guān)技術(shù)設(shè)計進(jìn)行充分披露,并基于給定的規(guī)則和標(biāo)準(zhǔn)參與治理活動。這樣一來,數(shù)字治理就可以從數(shù)字技術(shù)規(guī)劃的源頭上降低風(fēng)險。在調(diào)控能力上,要提高政府的適應(yīng)性治理能力,針對數(shù)字技術(shù)可能的偏差進(jìn)行靈活、敏捷的調(diào)整。在數(shù)字治理中,政府必須警惕成為技術(shù)的“傀儡”,要通過學(xué)習(xí)數(shù)字技術(shù)在治理中的工作原理獲得更加專業(yè)的判斷,提高技術(shù)調(diào)控中的決策能力;要充分發(fā)揮主體性地位和主觀能動性,科學(xué)調(diào)控數(shù)字技術(shù)在治理中的運行,防止數(shù)字治理被工具理性所異化、所支配。要通過提高政府的適應(yīng)性治理能力以及時、有效地調(diào)控數(shù)字技術(shù)發(fā)展和應(yīng)用方向,不斷推進(jìn)“善治”目標(biāo)。

    結(jié)語

    現(xiàn)代國家誕生以來,其發(fā)展就與科學(xué)技術(shù)密不可分。技術(shù)的偉大之處,不僅在于它具有改造自然、推動生產(chǎn)力發(fā)展的巨大力量,更在于它對生產(chǎn)關(guān)系的改變和國家治理模式的塑造。以蒸汽機(jī)為代表的第一次工業(yè)革命帶來了現(xiàn)代工業(yè)社會,促成了高度精細(xì)的社會分工體系,以電力為代表的第二次工業(yè)革命形成了韋伯式的官僚制[20]。一次次新技術(shù)的應(yīng)用,都是國家與社會關(guān)系重塑和政治權(quán)力再分配的過程。當(dāng)下,以數(shù)字技術(shù)為代表的第四次科技革命正在迅速改變國家治理方式、治理機(jī)制和治理理念,成為國家治理體系和治理能力現(xiàn)代化的重要支撐和驅(qū)動力量。然而,從數(shù)字治理實踐來看,數(shù)字技術(shù)的發(fā)展節(jié)奏顯然快于數(shù)字治理的演進(jìn)節(jié)奏??梢哉f,數(shù)字治理時代的新秩序還未建立,而數(shù)字治理的問題已經(jīng)涌現(xiàn)。阿爾文·托夫勒說:“由于沒有預(yù)先考慮未來的問題和機(jī)會,我們正從危機(jī)走向危機(jī)。”[22]因此,在數(shù)字治理狂飆的時代,必須警惕數(shù)字技術(shù)的盲目單向發(fā)展,提高對于技術(shù)失控風(fēng)險的防范意識,增強(qiáng)對數(shù)字技術(shù)的調(diào)控能力,從而避免陷入“科林格里奇困境”之中。

    猜你喜歡
    科林格里數(shù)字
    黑天鵝格里布
    科林的故事
    火花(2019年6期)2019-11-12 21:18:29
    答數(shù)字
    釣魚游戲
    數(shù)字看G20
    暾欲谷碑所見古突厥文詞彙“騰格里”()釋讀
    拼音大比武
    成雙成對
    數(shù)字變變變
    特级一级黄色大片| 免费观看人在逋| 国产一区二区三区av在线 | 亚洲内射少妇av| 少妇人妻一区二区三区视频| 网址你懂的国产日韩在线| 国产综合懂色| 简卡轻食公司| 国产不卡一卡二| 少妇高潮的动态图| 级片在线观看| 国内精品宾馆在线| 精品久久久久久久久av| 热99在线观看视频| 亚洲第一区二区三区不卡| 国产伦理片在线播放av一区 | 欧美+日韩+精品| 日韩大尺度精品在线看网址| 免费在线观看成人毛片| 高清毛片免费观看视频网站| 噜噜噜噜噜久久久久久91| 国产一区二区在线观看日韩| 国产极品精品免费视频能看的| 亚洲人成网站在线观看播放| 免费看av在线观看网站| 国产老妇伦熟女老妇高清| 九色成人免费人妻av| 日本色播在线视频| 欧美精品一区二区大全| 亚洲最大成人中文| 成人午夜精彩视频在线观看| 亚洲精品456在线播放app| 亚洲欧美中文字幕日韩二区| 嫩草影院入口| 长腿黑丝高跟| 日产精品乱码卡一卡2卡三| 国产白丝娇喘喷水9色精品| 小蜜桃在线观看免费完整版高清| 亚洲av不卡在线观看| 99久久精品国产国产毛片| 国产一区二区亚洲精品在线观看| 男女做爰动态图高潮gif福利片| 久久精品人妻少妇| 日本成人三级电影网站| 欧美+日韩+精品| 国产精品电影一区二区三区| 亚洲国产精品久久男人天堂| 成年免费大片在线观看| 一本久久中文字幕| 一夜夜www| 国产精品三级大全| 色综合亚洲欧美另类图片| 国产精品一区二区三区四区久久| 亚洲内射少妇av| 狠狠狠狠99中文字幕| 爱豆传媒免费全集在线观看| 久久国产乱子免费精品| 国产精品一区二区性色av| 成年版毛片免费区| 夫妻性生交免费视频一级片| 在线国产一区二区在线| 国产精品麻豆人妻色哟哟久久 | 国产午夜精品一二区理论片| 99热这里只有精品一区| 午夜福利在线观看吧| 国产成人精品婷婷| 直男gayav资源| 99九九线精品视频在线观看视频| 国产精品野战在线观看| 一级二级三级毛片免费看| 2021天堂中文幕一二区在线观| 亚洲成人久久爱视频| 少妇人妻一区二区三区视频| 看十八女毛片水多多多| 日韩欧美在线乱码| 亚洲天堂国产精品一区在线| 女人被狂操c到高潮| 亚洲最大成人手机在线| 色播亚洲综合网| 国产精品日韩av在线免费观看| 久久99热这里只有精品18| 国产乱人视频| 亚洲人成网站在线播放欧美日韩| 亚洲人成网站在线观看播放| 日本一本二区三区精品| 高清毛片免费看| 色视频www国产| 国产精品嫩草影院av在线观看| 美女xxoo啪啪120秒动态图| 少妇的逼好多水| 亚洲av.av天堂| avwww免费| 五月伊人婷婷丁香| av天堂在线播放| 国内少妇人妻偷人精品xxx网站| 国产毛片a区久久久久| 亚洲精华国产精华液的使用体验 | 五月伊人婷婷丁香| 免费看a级黄色片| 最好的美女福利视频网| 欧美+亚洲+日韩+国产| 久久精品人妻少妇| 国产三级中文精品| 边亲边吃奶的免费视频| 在线a可以看的网站| 亚洲欧美日韩东京热| 国产精品人妻久久久久久| 99热精品在线国产| 国产亚洲av片在线观看秒播厂 | 国产高清有码在线观看视频| 中文字幕av成人在线电影| 亚洲丝袜综合中文字幕| 久久国内精品自在自线图片| 国产蜜桃级精品一区二区三区| 久久鲁丝午夜福利片| 最近的中文字幕免费完整| 久久人人爽人人爽人人片va| 变态另类成人亚洲欧美熟女| 成人亚洲精品av一区二区| 最近视频中文字幕2019在线8| 国产极品精品免费视频能看的| 中文字幕制服av| 欧美一区二区亚洲| 99久久九九国产精品国产免费| 亚洲av免费高清在线观看| 国产精品无大码| 国产 一区 欧美 日韩| 久久人人爽人人片av| 亚洲四区av| 嫩草影院新地址| 黄色视频,在线免费观看| 日日撸夜夜添| 黄片无遮挡物在线观看| 日本黄大片高清| 国产成人一区二区在线| 99精品在免费线老司机午夜| 中文字幕av在线有码专区| 国产精品野战在线观看| 啦啦啦啦在线视频资源| 久久国内精品自在自线图片| 久久韩国三级中文字幕| 日本免费a在线| 国产精品爽爽va在线观看网站| 国产私拍福利视频在线观看| 国产高清激情床上av| 日韩欧美精品v在线| 99热网站在线观看| 一区福利在线观看| 亚洲国产精品sss在线观看| 欧美精品一区二区大全| 悠悠久久av| 你懂的网址亚洲精品在线观看 | 国产免费男女视频| 青春草视频在线免费观看| 校园春色视频在线观看| 蜜桃亚洲精品一区二区三区| 51国产日韩欧美| 亚洲四区av| 午夜免费激情av| 哪里可以看免费的av片| 一区福利在线观看| 黄片wwwwww| 久久亚洲精品不卡| 看非洲黑人一级黄片| 日本与韩国留学比较| 久久久久久九九精品二区国产| 全区人妻精品视频| 黄色配什么色好看| 久久久久久久久久成人| 天堂av国产一区二区熟女人妻| 直男gayav资源| 亚洲欧美日韩高清在线视频| 99热精品在线国产| 中文资源天堂在线| 欧美激情久久久久久爽电影| 欧美不卡视频在线免费观看| 免费无遮挡裸体视频| 精品熟女少妇av免费看| 成人毛片a级毛片在线播放| 亚洲精品久久久久久婷婷小说 | 国产午夜精品论理片| 国产白丝娇喘喷水9色精品| 免费无遮挡裸体视频| 成年女人看的毛片在线观看| 日产精品乱码卡一卡2卡三| 黄片wwwwww| 亚洲av免费在线观看| 91久久精品国产一区二区三区| 我要搜黄色片| 夜夜爽天天搞| 国产精品嫩草影院av在线观看| 三级毛片av免费| 亚洲欧美精品综合久久99| 国产在视频线在精品| 欧美最黄视频在线播放免费| 伦精品一区二区三区| 国产老妇女一区| 此物有八面人人有两片| 亚洲乱码一区二区免费版| 精品久久久久久久久亚洲| 国产成人91sexporn| 美女国产视频在线观看| 成年女人永久免费观看视频| 一区二区三区四区激情视频 | 久久这里有精品视频免费| 亚洲人成网站在线观看播放| 欧美人与善性xxx| 看十八女毛片水多多多| 看免费成人av毛片| 在线观看66精品国产| 亚洲人成网站在线播放欧美日韩| 1000部很黄的大片| 神马国产精品三级电影在线观看| 蜜臀久久99精品久久宅男| 亚洲精品日韩在线中文字幕 | 麻豆成人午夜福利视频| 女人被狂操c到高潮| 中文字幕人妻熟人妻熟丝袜美| 国产伦精品一区二区三区四那| 国产探花极品一区二区| 欧美日韩一区二区视频在线观看视频在线 | 此物有八面人人有两片| 中文字幕av成人在线电影| 亚洲欧美日韩无卡精品| 丰满的人妻完整版| 97超视频在线观看视频| 91久久精品国产一区二区三区| 国产黄片视频在线免费观看| 99国产精品一区二区蜜桃av| 欧美xxxx黑人xx丫x性爽| 亚洲欧美中文字幕日韩二区| 国产又黄又爽又无遮挡在线| 国产高清三级在线| 欧美变态另类bdsm刘玥| 成人永久免费在线观看视频| 国产精品乱码一区二三区的特点| 人人妻人人澡人人爽人人夜夜 | 成人黄色视频免费在线看| 国产 一区精品| av免费观看日本| 免费观看av网站的网址| 免费人成在线观看视频色| 麻豆精品久久久久久蜜桃| 国产精品久久久久久av不卡| 精品午夜福利在线看| 91aial.com中文字幕在线观看| 五月天丁香电影| 久久午夜综合久久蜜桃| 国产极品粉嫩免费观看在线 | 女人久久www免费人成看片| 国产日韩欧美在线精品| 国产精品蜜桃在线观看| 色婷婷久久久亚洲欧美| 日本av手机在线免费观看| 少妇人妻 视频| 一级毛片电影观看| 美女福利国产在线| 国产精品一区www在线观看| 国产精品蜜桃在线观看| 国产色爽女视频免费观看| 亚洲人成网站在线观看播放| 不卡视频在线观看欧美| 亚洲欧美一区二区三区黑人 | 亚洲精品国产av成人精品| 亚洲国产精品成人久久小说| 国产精品久久久久久精品古装| 久久精品国产鲁丝片午夜精品| 久久久精品免费免费高清| 人妻制服诱惑在线中文字幕| 欧美三级亚洲精品| 婷婷色麻豆天堂久久| 一级毛片 在线播放| 观看美女的网站| 女性被躁到高潮视频| 在线亚洲精品国产二区图片欧美 | 黄片无遮挡物在线观看| 日韩伦理黄色片| 最新的欧美精品一区二区| 又粗又硬又长又爽又黄的视频| 久久人人爽人人爽人人片va| 在线 av 中文字幕| 亚洲欧美成人综合另类久久久| 亚洲美女视频黄频| 黑人欧美特级aaaaaa片| 欧美 亚洲 国产 日韩一| 午夜精品国产一区二区电影| 少妇的逼水好多| 精品熟女少妇av免费看| 69精品国产乱码久久久| 97在线视频观看| av国产久精品久网站免费入址| 国产 精品1| 国产日韩欧美亚洲二区| 亚洲精品美女久久av网站| 成人毛片a级毛片在线播放| 视频在线观看一区二区三区| 天天操日日干夜夜撸| 日本免费在线观看一区| videosex国产| 五月开心婷婷网| videosex国产| 看十八女毛片水多多多| www.av在线官网国产| 久久久久久久久久成人| av视频免费观看在线观看| 天天影视国产精品| 亚洲美女搞黄在线观看| 国产69精品久久久久777片| a级毛片黄视频| 性色avwww在线观看| 久久国产亚洲av麻豆专区| 午夜久久久在线观看| 一区二区av电影网| 久久精品国产自在天天线| 久久久午夜欧美精品| 天堂中文最新版在线下载| 熟女电影av网| 国产一区二区在线观看日韩| 男女高潮啪啪啪动态图| 精品卡一卡二卡四卡免费| 啦啦啦啦在线视频资源| 精品久久久噜噜| 老司机影院毛片| 亚洲色图 男人天堂 中文字幕 | 看十八女毛片水多多多| 亚洲欧美成人综合另类久久久| 成人18禁高潮啪啪吃奶动态图 | 国产精品一区www在线观看| 成年av动漫网址| 亚洲精华国产精华液的使用体验| 高清黄色对白视频在线免费看| 3wmmmm亚洲av在线观看| 夫妻午夜视频| 我要看黄色一级片免费的| 免费看av在线观看网站| 80岁老熟妇乱子伦牲交| av.在线天堂| www.色视频.com| 亚洲欧洲精品一区二区精品久久久 | 最近的中文字幕免费完整| 日本91视频免费播放| 18禁裸乳无遮挡动漫免费视频| 亚洲成人手机| 一边摸一边做爽爽视频免费| 亚洲国产精品国产精品| 国产精品国产av在线观看| 全区人妻精品视频| 久久精品久久久久久噜噜老黄| 日本av手机在线免费观看| 在线免费观看不下载黄p国产| 丁香六月天网| 大香蕉久久网| 免费高清在线观看视频在线观看| 色哟哟·www| 老司机影院成人| 久久久久久久久久久丰满| 亚洲中文av在线| 亚洲熟女精品中文字幕| 国产日韩一区二区三区精品不卡 | 建设人人有责人人尽责人人享有的| 成人综合一区亚洲| 熟女电影av网| 日韩不卡一区二区三区视频在线| 中国国产av一级| 亚洲人与动物交配视频| 成人综合一区亚洲| 欧美日韩一区二区视频在线观看视频在线| 又大又黄又爽视频免费| xxxhd国产人妻xxx| 日本黄色片子视频| 国产午夜精品一二区理论片| 91久久精品电影网| 桃花免费在线播放| a级毛片黄视频| 亚洲第一av免费看| 国产av精品麻豆| 国产有黄有色有爽视频| 欧美精品一区二区大全| 久久免费观看电影| 只有这里有精品99| 亚洲精品乱码久久久久久按摩| 亚洲精品日韩在线中文字幕| 日韩av在线免费看完整版不卡| 久久久午夜欧美精品| 久久精品国产自在天天线| 亚洲美女视频黄频| 亚洲精品色激情综合| 又粗又硬又长又爽又黄的视频| 午夜激情久久久久久久| 亚洲欧洲精品一区二区精品久久久 | 大陆偷拍与自拍| 26uuu在线亚洲综合色| xxxhd国产人妻xxx| 免费看av在线观看网站| 91精品三级在线观看| 国产一区二区在线观看日韩| 免费观看无遮挡的男女| 国产爽快片一区二区三区| 色网站视频免费| 美女国产视频在线观看| av电影中文网址| 黄色欧美视频在线观看| a级毛片在线看网站| 男女高潮啪啪啪动态图| 久久久精品区二区三区| 精品人妻熟女毛片av久久网站| 亚洲美女黄色视频免费看| 亚洲,一卡二卡三卡| 中文字幕免费在线视频6| 五月开心婷婷网| 国产欧美另类精品又又久久亚洲欧美| 婷婷色综合www| 午夜免费观看性视频| 街头女战士在线观看网站| 最近中文字幕高清免费大全6| 欧美 日韩 精品 国产| 亚洲经典国产精华液单| www.色视频.com| 婷婷色综合www| 亚洲精品久久成人aⅴ小说 | 女人精品久久久久毛片| 老司机影院成人| av视频免费观看在线观看| 只有这里有精品99| 91久久精品国产一区二区成人| 欧美 日韩 精品 国产| videosex国产| 国产成人精品婷婷| 一边摸一边做爽爽视频免费| 国产午夜精品一二区理论片| 欧美日韩精品成人综合77777| 亚洲欧美日韩卡通动漫| 18禁观看日本| av.在线天堂| 多毛熟女@视频| 麻豆精品久久久久久蜜桃| 黄色一级大片看看| 五月伊人婷婷丁香| 亚洲国产最新在线播放| 久久久久久久亚洲中文字幕| 男人操女人黄网站| 国产老妇伦熟女老妇高清| 如何舔出高潮| 香蕉精品网在线| 人体艺术视频欧美日本| 2018国产大陆天天弄谢| 国产乱来视频区| 久久 成人 亚洲| 乱人伦中国视频| 大陆偷拍与自拍| 免费av中文字幕在线| 欧美丝袜亚洲另类| 国产在线免费精品| 国产精品人妻久久久影院| 成年人午夜在线观看视频| 国产色婷婷99| 日韩av在线免费看完整版不卡| 亚洲精品久久午夜乱码| 国产日韩欧美亚洲二区| 亚洲精品aⅴ在线观看| 搡老乐熟女国产| 如何舔出高潮| 欧美三级亚洲精品| 男女边吃奶边做爰视频| 欧美亚洲日本最大视频资源| 日本黄色日本黄色录像| 国产一区二区在线观看av| 亚洲人与动物交配视频| 九草在线视频观看| 有码 亚洲区| 晚上一个人看的免费电影| 天堂中文最新版在线下载| 亚洲国产精品一区三区| 欧美成人午夜免费资源| 日本黄大片高清| 国产精品女同一区二区软件| av线在线观看网站| 欧美精品一区二区大全| 日本av手机在线免费观看| av在线老鸭窝| 久久人妻熟女aⅴ| 人人妻人人添人人爽欧美一区卜| 亚洲美女搞黄在线观看| 三级国产精品欧美在线观看| 视频中文字幕在线观看| 丝瓜视频免费看黄片| 日韩av在线免费看完整版不卡| av卡一久久| 日本欧美视频一区| av播播在线观看一区| 国产免费一区二区三区四区乱码| av专区在线播放| 亚洲精品日韩av片在线观看| 色婷婷久久久亚洲欧美| 国产在线视频一区二区| 日韩av免费高清视频| 成人二区视频| 在线天堂最新版资源| 久久午夜综合久久蜜桃| 国产日韩欧美亚洲二区| 2022亚洲国产成人精品| 日韩欧美精品免费久久| 久久久精品免费免费高清| 美女国产视频在线观看| 少妇 在线观看| 亚洲av二区三区四区| 伦理电影免费视频| 涩涩av久久男人的天堂| 只有这里有精品99| 日日爽夜夜爽网站| 女的被弄到高潮叫床怎么办| 国产精品一区二区三区四区免费观看| 少妇人妻 视频| 99热这里只有是精品在线观看| 一级毛片aaaaaa免费看小| 日本黄大片高清| av在线播放精品| 欧美丝袜亚洲另类| 亚洲欧美成人精品一区二区| 少妇被粗大猛烈的视频| 国产精品一区www在线观看| av有码第一页| 精品一区在线观看国产| 国产亚洲av片在线观看秒播厂| 中文欧美无线码| a级毛片黄视频| 久久久国产精品麻豆| 2018国产大陆天天弄谢| 亚洲成人一二三区av| 在线天堂最新版资源| xxxhd国产人妻xxx| 久久婷婷青草| 亚洲国产av新网站| 久久精品国产亚洲网站| 国产白丝娇喘喷水9色精品| xxx大片免费视频| 久热久热在线精品观看| 伊人亚洲综合成人网| 亚洲国产最新在线播放| 欧美+日韩+精品| 中文精品一卡2卡3卡4更新| 国产69精品久久久久777片| 日本-黄色视频高清免费观看| 综合色丁香网| 免费人成在线观看视频色| 哪个播放器可以免费观看大片| 国产 精品1| 波野结衣二区三区在线| 国产片内射在线| 美女中出高潮动态图| 草草在线视频免费看| 狂野欧美激情性bbbbbb| 久久久久国产网址| 成人18禁高潮啪啪吃奶动态图 | 亚洲丝袜综合中文字幕| www.色视频.com| 特大巨黑吊av在线直播| 中文天堂在线官网| 少妇猛男粗大的猛烈进出视频| 亚洲少妇的诱惑av| 中文字幕人妻丝袜制服| 精品午夜福利在线看| 人妻少妇偷人精品九色| 亚洲三级黄色毛片| 免费av不卡在线播放| 欧美人与性动交α欧美精品济南到 | 国产黄色免费在线视频| 美女cb高潮喷水在线观看| 99国产综合亚洲精品| 美女内射精品一级片tv| 女人久久www免费人成看片| 亚洲欧洲精品一区二区精品久久久 | 九九久久精品国产亚洲av麻豆| 免费看av在线观看网站| 国产一区二区三区av在线| 国产成人aa在线观看| 国产免费一级a男人的天堂| 春色校园在线视频观看| 成人亚洲欧美一区二区av| 嫩草影院入口| 国产成人精品福利久久| 观看美女的网站| 日日摸夜夜添夜夜添av毛片| 高清av免费在线| 男人添女人高潮全过程视频| 爱豆传媒免费全集在线观看| 丁香六月天网| 久久久久久久久大av| 精品99又大又爽又粗少妇毛片| av福利片在线| 亚洲精品国产av蜜桃| 成人国产麻豆网| 建设人人有责人人尽责人人享有的| 久久免费观看电影| 国产黄色视频一区二区在线观看| 国产女主播在线喷水免费视频网站| 美女cb高潮喷水在线观看| 日本免费在线观看一区| 久久久久久久精品精品| 91精品三级在线观看| 午夜免费鲁丝| 人妻一区二区av| 美女xxoo啪啪120秒动态图| 亚洲国产精品999| 18禁在线播放成人免费| 亚洲无线观看免费| 国产精品女同一区二区软件| 国产探花极品一区二区| 免费观看性生交大片5| 国产在线免费精品| 久久 成人 亚洲| 免费av不卡在线播放| av国产久精品久网站免费入址| 国产精品一区二区三区四区免费观看| 高清不卡的av网站|