技術(shù)賦能治理的異化風(fēng)險及其防控

容志

【關(guān)鍵詞】數(shù)智治理 異化風(fēng)險 防控

【中圖分類號】D63 【文獻(xiàn)標(biāo)識碼】A

數(shù)字智能技術(shù)的快速迭代和深入運用正引發(fā)全球性變革。隨著第四次科技革命的深入推進(jìn)，全球生產(chǎn)、生活和治理系統(tǒng)都將面臨深刻轉(zhuǎn)型。對于公共治理而言，其數(shù)字化轉(zhuǎn)型帶有明顯的兩面性：一方面，基于數(shù)字智能技術(shù)的敏捷化重塑已經(jīng)成為當(dāng)前公共部門創(chuàng)新發(fā)展的重要趨勢之一，這個過程不僅顯著提高了政府內(nèi)部的運行效率，也快速提升了市場監(jiān)管和社會治理效能；另一方面，智能技術(shù)無邊界、無規(guī)則、無制約的運用也可能給社會和民眾帶來各類風(fēng)險甚至危機(jī)，如數(shù)據(jù)泄漏、“數(shù)字禁足”等。對于技術(shù)賦能治理可能產(chǎn)生的風(fēng)險要做好警惕和防范，努力實現(xiàn)數(shù)智善治。

技術(shù)賦能治理中的異化風(fēng)險

首先是只見數(shù)字不見人。數(shù)字技術(shù)在推進(jìn)社會治理智能化過程中起著強(qiáng)有力的支撐作用，利用城市體征、數(shù)據(jù)畫像等技術(shù)能夠靈敏感知風(fēng)險、快捷響應(yīng)公眾訴求、拓寬治理溝通渠道。但盲目依賴數(shù)字技術(shù)而忽視人的價值，則會出現(xiàn)本末倒置、價值缺失等系列問題。一方面，現(xiàn)實生活的豐富性不能完全被有限的數(shù)字所反映。社會是高度復(fù)雜、多元的系統(tǒng)，人也是豐滿、多面和立體的社會存在，而數(shù)字是個體或集體的某類特征的抽象性表達(dá)。單純依賴數(shù)據(jù)進(jìn)行決策和治理往往容易遺漏很多關(guān)鍵信息，產(chǎn)生“測量失靈”“畫像偏差”等問題，導(dǎo)致“簡單化”“一刀切”式的管理。另一方面，單純的技術(shù)維度極容易產(chǎn)生倫理問題，如將人機(jī)器化、工具化等。數(shù)字技術(shù)作為治理工具，能夠有效提升組織效率，但技術(shù)的誤用濫用則會壓制組織活性，使內(nèi)部成員成為數(shù)字技術(shù)的傀儡。“數(shù)字官僚”“數(shù)字執(zhí)法”在單純強(qiáng)調(diào)數(shù)字技術(shù)的同時，容易抹殺社會主體和社會事務(wù)的豐富性、多樣性和復(fù)雜性，不能準(zhǔn)確把握治理對象的本質(zhì)特征。片面強(qiáng)調(diào)數(shù)字技術(shù)的工具價值而漠視人文關(guān)懷，會偏離數(shù)智治理增進(jìn)社會福祉的價值起點。

其次是數(shù)字失能問題亟需關(guān)注。一般來說，數(shù)字化轉(zhuǎn)型會給社會帶來越來越便捷的溝通、交流和連接，但在某些特定情景中也會出現(xiàn)相反甚至相悖的現(xiàn)象。例如，數(shù)智治理對于老年人等社會群體往往產(chǎn)生“擠出效應(yīng)”。由于年齡增大、環(huán)境變化和服務(wù)不足等因素，老年人等社會群體難以適應(yīng)日新月異的技術(shù)變遷，老年群體消費不便、出行受阻、數(shù)字歧視等現(xiàn)象頻頻發(fā)生，老年群體的數(shù)字失能問題顯得更加突出。又如，基層治理數(shù)字化轉(zhuǎn)型對于基層工作人員的專業(yè)化、數(shù)字化素養(yǎng)要求越來越高，而技術(shù)要求與數(shù)字能力之間的差距也會進(jìn)一步增強(qiáng)他們對于技術(shù)運用的排斥心理。碎片化、重復(fù)化和重疊化的數(shù)字系統(tǒng)和平臺建設(shè)不僅沒有減輕基層負(fù)擔(dān)，還可能在短期內(nèi)增加基層工作量，進(jìn)而影響該群體的工作效率。

再次是權(quán)力濫用侵害正當(dāng)權(quán)益。在數(shù)字技術(shù)持續(xù)賦能政府治理和賦權(quán)社會個體的進(jìn)程中，既要警惕數(shù)字權(quán)力濫用，也要防范算法權(quán)力的破壞效應(yīng)。一是公共領(lǐng)域的數(shù)字能力發(fā)展不平衡。數(shù)字政府建設(shè)中增強(qiáng)政府控制力的技術(shù)通常能夠迅速推進(jìn)，如網(wǎng)格化管理、視頻監(jiān)控等，而那些改進(jìn)政府自身管理、加強(qiáng)政民互動、強(qiáng)化政府監(jiān)督的措施則相對滯后。為追求部門或個人利益，少數(shù)公職人員將權(quán)力凌駕于制度規(guī)則之上，損害部分群眾的正當(dāng)權(quán)益，嚴(yán)重破壞了政府的公信力。二是商業(yè)數(shù)字平臺亟需有效監(jiān)管。企業(yè)通過“用戶畫像”分析用戶消費模式，精準(zhǔn)投放商品鏈接，實施差異化定價，違背市場公平原則。受資本利益驅(qū)動，算法在工廠流水線、外賣平臺的無限制使用已經(jīng)使部分勞動者陷入“算法困境”。在虛擬交互平臺，互聯(lián)網(wǎng)巨頭根據(jù)個人偏好使用私權(quán)，對未觸犯法律規(guī)范的用戶實施禁言、封號，實質(zhì)上侵害了公眾在數(shù)字公共空間的生存權(quán)利。

最后是數(shù)字形式主義增加基層負(fù)擔(dān)。數(shù)字手段雖然得到了推廣和運用，但求真務(wù)實的數(shù)智治理理念在一些地方尚未形成。一是數(shù)字政務(wù)平臺建設(shè)可能被部分地方政府視為政府治理創(chuàng)新的“政績”，重投入輕運用，重硬件輕軟件，重建設(shè)輕運營，最后沒有真正發(fā)揮數(shù)字平臺在優(yōu)化治理體系、提升治理效能重的功能和作用。新型“面子工程”生產(chǎn)成本高昂而效能低下，導(dǎo)致資源嚴(yán)重浪費，創(chuàng)造公共價值的能力不足。二是條塊分割、行政壁壘、以鄰為壑等傳統(tǒng)管理問題在數(shù)字化轉(zhuǎn)型過程中依然存在，這就制約了信息的跨部門整合和使用，以及公共服務(wù)體系的集成和優(yōu)化。三是在一些地方，由于缺乏科學(xué)的頂層設(shè)計和高位統(tǒng)籌，各自為政的數(shù)字平臺和系統(tǒng)建設(shè)往往迫使基層忙于填報各類報表，甚至玩起了數(shù)字游戲，產(chǎn)生新型數(shù)字形式主義。同時，“痕跡主義”的管理方式，如網(wǎng)絡(luò)留痕、上傳照片、系統(tǒng)定位簽到等考核形式，加大了基層工作的機(jī)械勞動和情緒勞動，降低工作效率，催生虛假政績。

技術(shù)賦能要以實現(xiàn)數(shù)智善治為目的

數(shù)智善治是指運用數(shù)字智能技術(shù)優(yōu)化重塑公共治理的流程、方式和形態(tài)，全面提升公共服務(wù)和管理的效率、效能和效果，降低社會交易成本，增進(jìn)社會公共福祉，最終實現(xiàn)社會良善治理的狀態(tài)和目的。數(shù)智善治意味著在充分發(fā)揮數(shù)智技術(shù)正面效用的同時，最大限度地預(yù)防、控制和消除其風(fēng)險以及負(fù)面效應(yīng)。實現(xiàn)數(shù)智善治需要處理好以下幾對關(guān)系：

一是治理目的和治理手段的關(guān)系。在技術(shù)狂飆突進(jìn)和大行其道的時代，更應(yīng)警惕技術(shù)的負(fù)面效應(yīng)和異化風(fēng)險，克服單純的技術(shù)主義和工具主義傾向。要區(qū)分和明晰技術(shù)賦能過程的“體”和“用”。“體”是目的、價值和主干；“用”是手段、方法和枝節(jié)。具體來說，“體”就是堅持以人為本，保證程序正義，提升公共利益和個體權(quán)益，助力人民群眾美好生活的實現(xiàn)；“用”就是技術(shù)對治理行為、過程的嵌入，包括大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)等技術(shù)的開發(fā)利用，數(shù)字治理平臺的建設(shè)和運行，以及數(shù)字治理場景的構(gòu)建和具體實施。現(xiàn)代化的治理體系不能只有目的而缺乏手段，更不能將手段替換目的，本末倒置。

二是數(shù)字權(quán)力和公民權(quán)利的關(guān)系。在現(xiàn)代社會的運行和治理過程中，權(quán)力和權(quán)利是一對重要的概念范疇，也是社會規(guī)制和法治中要處理的一對重要關(guān)系。某種程度上說，權(quán)利的保護(hù)需要權(quán)力的行使，缺乏公正的權(quán)力行使，正當(dāng)權(quán)利可能無法得到保證；但另一方面，權(quán)力的濫用也會危害正當(dāng)?shù)臋?quán)利。在法律層面，人們達(dá)成的一個基本共識是，行政權(quán)力的行使應(yīng)兼顧行政目標(biāo)的實現(xiàn)和保護(hù)相對人的權(quán)益。如果行政目標(biāo)的實現(xiàn)可能對相對人的權(quán)益造成不利影響，則這種不利影響應(yīng)被限制在盡可能小的范圍和限度之內(nèi)，二者應(yīng)有適當(dāng)?shù)谋壤?。?shù)字權(quán)力本質(zhì)上就是影響力，在現(xiàn)實中，這種權(quán)力的背后往往有著行政權(quán)力的身影，甚至行政權(quán)力借數(shù)字權(quán)力達(dá)到自身目的。因此，數(shù)字權(quán)力的行使也需要兼顧規(guī)范目標(biāo)的實現(xiàn)和相對人的合法權(quán)益，更不能直接、粗暴損害相對人的合法權(quán)益。

三是個體利益和公共利益的關(guān)系。公共利益與個體利益本質(zhì)上是融通的，二者發(fā)生沖突時個體利益需讓步于公共利益，同時個體利益的實現(xiàn)也離不開公共利益的指導(dǎo)。因此，維持公共利益和個人利益之間的張力，需要平衡調(diào)和二者關(guān)系，不能忽視任意一方?；\統(tǒng)來說，提升公共利益依賴于公民能夠通過數(shù)字化應(yīng)用廣泛參與公共事務(wù)，樹立規(guī)則意識和責(zé)任意識，維護(hù)政府權(quán)威，涵養(yǎng)公共精神。面對突發(fā)公共事件時，公共利益在先，個人利益在后。但另一方面，在捍衛(wèi)公共利益的前提下也要盡可能保障公民個體利益，要切實尊重和保護(hù)公民信息安全，或者提供一定的救濟(jì)渠道。如果單純強(qiáng)調(diào)個體利益無條件服從公共利益，也難以實現(xiàn)公共利益最大化，通常只有切實保護(hù)好每個成員的個體利益，才能實現(xiàn)共贏。

四是技術(shù)賦能和制度創(chuàng)新的關(guān)系。推動數(shù)智社會治理的關(guān)鍵因素，究竟是技術(shù)賦能還是制度創(chuàng)新？技術(shù)決定論認(rèn)為蓬勃發(fā)展的數(shù)字技術(shù)能夠為數(shù)智社會提供前所未有的可能；反對者則認(rèn)為數(shù)字技術(shù)只是為組織提供硬件保障，提升治理效能進(jìn)而實現(xiàn)善治還需要制度創(chuàng)新加以支撐?？傮w來說，技術(shù)賦能無法脫離制度保障，制度創(chuàng)新也不能脫離技術(shù)作用。一方面，數(shù)智治理要實現(xiàn)技術(shù)真正賦能公共部門，還需要制度支撐。在公共管理實踐中，政府在技術(shù)層面引入大數(shù)據(jù)分析等應(yīng)用，但條塊分割的弊病阻礙部門數(shù)據(jù)共享，而部門壁壘需要從制度層面才能加以解決。只有通過有效的制度規(guī)范和制度激勵，為部門間數(shù)據(jù)共享提供良好的政策環(huán)境，破解治理碎片化困境，才能發(fā)展鞏固技術(shù)的改革成效。另一方面，技術(shù)的常態(tài)化使用需要制度的規(guī)范和約束。平衡技術(shù)賦能和制度創(chuàng)新的關(guān)系，需要認(rèn)識到技術(shù)只是“賦能者”，關(guān)鍵在于制度的創(chuàng)新動力，破除“數(shù)字替代一切”“技術(shù)解決一切問題”等片面思維，通過探索體制機(jī)制優(yōu)化，開辟現(xiàn)代化、精細(xì)化治理之路。

技術(shù)賦能異化風(fēng)險的防控機(jī)制

實現(xiàn)數(shù)智善治，需要人們辯證理性地看待數(shù)字技術(shù)，對于數(shù)字技術(shù)的應(yīng)用，要興利除弊、揚(yáng)長避短，特別是秉持社會公正、平等正義的原則和立場，切實通過技術(shù)賦能創(chuàng)造新時代人民美好生活。

第一，堅持以人民為中心的數(shù)智治理理念。加強(qiáng)數(shù)字政府建設(shè)是推進(jìn)國家治理體系和治理能力現(xiàn)代化的重要舉措。因此，需要從政治的高度看待數(shù)智治理，以現(xiàn)實需求為核心，將滿足人民對美好生活的向往作為數(shù)智治理的出發(fā)點和落腳點，著力破解企業(yè)和人民群眾反映強(qiáng)烈的辦事難、辦事慢、辦事繁等問題，堅持?jǐn)?shù)字普惠，打破數(shù)字壟斷，消除數(shù)字鴻溝，全面提升公共服務(wù)和社會治理的效率和效能。對地方政府和部門來說，不能將數(shù)智治理簡單理解為冷冰的數(shù)字化、數(shù)目化管理，更不能以“數(shù)字官僚”“人工智能”完全取代傳統(tǒng)的、行之有效的群眾工作方式方法。要以“實戰(zhàn)中管用、基層干部愛用、群眾感到受用”為衡量技術(shù)賦能成功與否、合理與否的標(biāo)準(zhǔn)。同時，還需要向全社會特別是數(shù)字弱勢群體提供更加豐富、全面的數(shù)字信息服務(wù)，加強(qiáng)技術(shù)教育培訓(xùn)，不斷提升公民數(shù)字素養(yǎng)。

第二，健全完善數(shù)智治理重大決策機(jī)制。黨的十八屆四中全會提出，健全依法決策機(jī)制，把公眾參與、專家論證、風(fēng)險評估、合法性審查、集體討論決定確定為重大行政決策法定程序。這為提高決策科學(xué)化、民主化、法治化水平提供了保障。應(yīng)該看到，隨著數(shù)據(jù)化和智能化程度不斷提高，數(shù)據(jù)分析和算法決策開始在公共政策制定和執(zhí)行中發(fā)揮越來越多的作用，算法和電腦程序開始代替人工進(jìn)行情勢判斷和管理決策。從現(xiàn)代法治精神來說，如同其他行政權(quán)力應(yīng)被“關(guān)進(jìn)制度的籠子”一樣，這些基于數(shù)智的決策和數(shù)智決策本身也需要受到監(jiān)督、審查與控制。特別是應(yīng)考慮將可能普遍限制公民自由權(quán)利的技術(shù)運用納入重大行政決策范圍，不僅完善其相關(guān)決策程序，同時建立合法性審查機(jī)制，確保其合法、合規(guī)。同時，要及時主動向社會公開數(shù)據(jù)治理過程，接受社會監(jiān)督。要建立責(zé)任追究制度和責(zé)任倒查機(jī)制，對于故意、明顯危害正當(dāng)公民權(quán)利和公共利益的數(shù)字決策行為以及相關(guān)人員嚴(yán)肅追究責(zé)任。

第三，建立健全權(quán)利救濟(jì)制度。公民權(quán)利受到侵害后能否得到及時、有效的救濟(jì)，是衡量一個國家法治水平實現(xiàn)程度的重要標(biāo)尺。在大數(shù)據(jù)時代，如何防止數(shù)字權(quán)力對公眾的負(fù)面影響，維護(hù)公眾正當(dāng)權(quán)益的問題應(yīng)納入政府議程。一是推進(jìn)申訴程序法制化。這就需要細(xì)化查詢機(jī)制、申辯機(jī)制、更正機(jī)制等方面的具體規(guī)定，通過法制化建設(shè)保障公民陳述、申訴或?qū)沟臋C(jī)會，保障權(quán)利救濟(jì)有法可依。優(yōu)化申訴程序，允許算法決策和人工決策相結(jié)合，引入利益相關(guān)者參與，確保公共政策的公平性、公正性，防范和化解權(quán)力異化風(fēng)險。二是完善部門的數(shù)字責(zé)任機(jī)制。明確有關(guān)責(zé)任單位或個人在執(zhí)法過程中使用數(shù)字技術(shù)應(yīng)承擔(dān)的法定義務(wù)和責(zé)任，制定數(shù)字治理過程中的“負(fù)面清單”，包括非法篡改、刪除、使用個人信息等行為。針對公民查詢、申訴等需求，責(zé)任單位設(shè)立專職負(fù)責(zé)小組進(jìn)行反饋與跟進(jìn)，建立申訴案例數(shù)據(jù)庫，提升同類案件的處置效率。三是完善公益訴訟制度。結(jié)合數(shù)智時代出現(xiàn)的新情況和新問題，進(jìn)一步完善公益訴訟制度，更新公益訴訟類型。特別是將利用數(shù)字權(quán)力產(chǎn)生公害的違法失職行為納入公益訴訟范圍，通過法律的方式保障社會公眾的正當(dāng)權(quán)益。

第四，加強(qiáng)數(shù)據(jù)保護(hù)和安全制度建設(shè)。某種意義上說，數(shù)據(jù)安全問題制約著新興科技應(yīng)用于數(shù)智治理體系的深度和廣度。在機(jī)制優(yōu)化層面，要加強(qiáng)數(shù)據(jù)安全全過程管理。依托大數(shù)據(jù)資源平臺，實現(xiàn)數(shù)據(jù)歸集、治理、共享、應(yīng)用等全過程的統(tǒng)一管理。明確數(shù)據(jù)收集范圍和使用范圍，加強(qiáng)數(shù)據(jù)匿名管理意識，分層分類制定數(shù)據(jù)共享機(jī)制和刪除機(jī)制，完善數(shù)據(jù)運營服務(wù)機(jī)制，以此形成良性循環(huán)、螺旋上升的數(shù)據(jù)應(yīng)用體系。在技術(shù)保障層面，落實數(shù)據(jù)安全保障措施。利用物理防火墻、虛擬防火墻、日志審計等安全設(shè)施，賦能數(shù)據(jù)安全運維工作。開展日常數(shù)據(jù)安全監(jiān)測，加強(qiáng)數(shù)據(jù)安全事件、信息泄密事件的預(yù)警和發(fā)現(xiàn)能力。制定應(yīng)急預(yù)案及演練，建立關(guān)于數(shù)據(jù)安全與應(yīng)急管理相關(guān)工作規(guī)范，針對演練過程更新應(yīng)急預(yù)案。在人員管理層面，建立問責(zé)機(jī)制，提高權(quán)責(zé)匹配意識。對數(shù)據(jù)管理部門人員采用背景審查、簽署保密協(xié)議、開展安全培訓(xùn)等措施實現(xiàn)對人員的安全管理。開展數(shù)據(jù)安全與信息保護(hù)的法律宣傳和教育，提高管理人員數(shù)字法治素養(yǎng)和水平。

第五，構(gòu)建共建共治共享的數(shù)智治理格局。移動互聯(lián)網(wǎng)的全面普及大大提升了社會大眾的公共參與能力，包括對公共信息的獲取、公共討論的參與和意見的充分表達(dá)。但另一方面，由于專業(yè)門檻的客觀存在，數(shù)智技術(shù)的研發(fā)、平臺建設(shè)和系統(tǒng)運行往往由政府部門和專業(yè)化企業(yè)主導(dǎo)，某些情況下甚至根據(jù)管理者的主觀偏好進(jìn)行閉門造車，缺少對社會需求和民眾訴求的吸納。黨的十九屆四中全會提出，完善黨委領(lǐng)導(dǎo)、政府負(fù)責(zé)、民主協(xié)商、社會協(xié)同、公眾參與、法治保障、科技支撐的社會治理體系。社會治理是多元主體協(xié)同合作的過程，技術(shù)嵌入只有在這個框架下或者說能夠促進(jìn)治理框架發(fā)展，才能提升社會治理的現(xiàn)代化水平，真正造福于社會和民眾。因此，應(yīng)提升數(shù)智治理的開放度和包容性，有序引導(dǎo)社會組織、公眾參與到數(shù)智治理過程中來。一是有關(guān)部門應(yīng)定期發(fā)布公共數(shù)據(jù)運用情況報告，及時公開公共數(shù)據(jù)采集、儲存、使用和監(jiān)管流程。二是吸納專家和公眾代表到算法開發(fā)、運行監(jiān)管中來，評估數(shù)智技術(shù)運用的合理性與合法性。三是探索公民驅(qū)動的數(shù)智合作治理和數(shù)據(jù)管理模式，進(jìn)一步促進(jìn)數(shù)據(jù)公開和共享，推動醫(yī)療、養(yǎng)老、教育和交通等民生領(lǐng)域公共研究創(chuàng)新。四是拓展和開發(fā)公共事務(wù)電子協(xié)商、網(wǎng)絡(luò)協(xié)商的新形式和新路徑，及時反映社情民意，提升公共治理對社會需求的靈敏度和回應(yīng)度。

（作者為武漢大學(xué)政治與公共管理學(xué)院教授、博導(dǎo)；上海師范大學(xué)哲學(xué)與法政學(xué)院研究助理李婕對本文亦有貢獻(xiàn)）

【參考文獻(xiàn)】

①曾盛聰、董沁昕：《“賦能”與“擠出”雙效應(yīng)下數(shù)字治理的“補(bǔ)丁”策略——基于代際發(fā)展權(quán)的分析框架》，《人文雜志》，2022年第6期。

②張會平：《推動基層治理數(shù)字化轉(zhuǎn)型的三重整合邏輯》，《國家治理》，2020年第38期。

③鄭磊：《數(shù)字治理的效度、溫度和尺度》，《治理研究》，2021年第2期。

④張凌寒：《算法權(quán)力的興起、異化及法律規(guī)制》，《法商研究》，2019年第4期。

⑤馬長山：《數(shù)智治理的法治悖論》，《東方法學(xué)》，2022年第4期。

⑥郭華、李紅霞：《刑事電子數(shù)據(jù)收集中的公民權(quán)利救濟(jì)》，《廣西社會科學(xué)》，2019年第11期。

⑦吳晶晶：《從數(shù)字治理走向數(shù)字善治的路徑探索》，《山東行政學(xué)院學(xué)報》，2022年第2期。

⑧高志宏：《個人信息保護(hù)的公共利益考量——以應(yīng)對突發(fā)公共衛(wèi)生事件為視角》，《東方法學(xué)》，2022年第3期

責(zé)編/于洪清 美編/楊玲玲