中國(guó)算法權(quán)力治理的主體結(jié)構(gòu)、異化風(fēng)險(xiǎn)及協(xié)同規(guī)制

李軍剛

(東北林業(yè)大學(xué) 馬克思主義學(xué)院，哈爾濱 150040)

2019年1月，習(xí)近平總書(shū)記主持中央政治局第十二次集體學(xué)習(xí)時(shí)指出，要“用主流價(jià)值導(dǎo)向駕馭‘算法’”[1]318。2021年12月，國(guó)家互聯(lián)網(wǎng)信息辦公室等四部委聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。2022年10月，習(xí)近平在黨的二十大上提出，要“健全網(wǎng)絡(luò)綜合治理體系”，加快建設(shè)“網(wǎng)絡(luò)強(qiáng)國(guó)”“數(shù)字中國(guó)”。從習(xí)近平提出要駕馭“算法”到國(guó)家制定算法推薦管理規(guī)定再到提出“健全網(wǎng)絡(luò)綜合治理體系”，表明黨和國(guó)家對(duì)算法權(quán)力治理日益重視并且已經(jīng)將其納入國(guó)家治理體系現(xiàn)代化政策議程，凸顯了我國(guó)算法權(quán)力治理學(xué)術(shù)研究的現(xiàn)實(shí)價(jià)值。實(shí)踐中，“大數(shù)據(jù)殺熟”“困在算法里”“信息繭房”等問(wèn)題得到有效整治，但是同黨和國(guó)家提出的建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)、數(shù)字強(qiáng)國(guó)目標(biāo)還有一定的距離。因此，有必要把算法權(quán)力治理納入馬克思主義理論的學(xué)術(shù)研究范疇，深入探討我國(guó)算法權(quán)力治理的主體結(jié)構(gòu)，揭示算法權(quán)力治理功能異化的風(fēng)險(xiǎn)和挑戰(zhàn)，進(jìn)而為我國(guó)構(gòu)建和完善算法權(quán)力治理現(xiàn)代化體系提供理論支撐。

一、研究緣起

算法作為一種生產(chǎn)生活工具，最早可以追溯到公元前2698年中國(guó)創(chuàng)建黃帝歷法，還可以追溯到公元前2000年的古巴比倫運(yùn)用逼近法求平方根、立方根以解決貿(mào)易、建筑和土木工程問(wèn)題。但是在生產(chǎn)比較落后、技術(shù)與社會(huì)聯(lián)系不夠緊密的古代社會(huì)，對(duì)算法的研究并不深入。電子計(jì)算機(jī)的普及、Windows操作系統(tǒng)的出現(xiàn)和網(wǎng)絡(luò)技術(shù)的飛速發(fā)展使得大數(shù)據(jù)出現(xiàn)了幾何級(jí)數(shù)的爆發(fā)式增長(zhǎng)，算法被廣泛地運(yùn)用到經(jīng)濟(jì)、政治和社會(huì)生活的各個(gè)方面。由此，算法概念及其相關(guān)研究漸次展開(kāi)，美國(guó)學(xué)者羅伯特·塞奇威克將算法定義為“一定的計(jì)算方法和運(yùn)算規(guī)則的編程設(shè)計(jì)”[2]。在本質(zhì)上，算法是嵌入信息技術(shù)設(shè)備中的一種求解邏輯，并不具有權(quán)力屬性。隨著算法廣泛地嵌入經(jīng)濟(jì)社會(huì)、公共決策和社會(huì)治理等各個(gè)領(lǐng)域，算法開(kāi)始以潛移默化的方式影響個(gè)體選擇、社會(huì)運(yùn)行、政府決策、公共治理和社會(huì)秩序。當(dāng)算法改變和重塑政治生活、社會(huì)生產(chǎn)和日常生活時(shí)，作為一種復(fù)合型的權(quán)力結(jié)構(gòu)——算法權(quán)力應(yīng)運(yùn)而生?？萍际前央p刃劍，能夠推動(dòng)社會(huì)發(fā)展，也可能帶給人類(lèi)無(wú)盡的災(zāi)難。一方面，算法以其精準(zhǔn)的數(shù)據(jù)運(yùn)算和控制為人類(lèi)生產(chǎn)、生活和公共管理提供了高效便捷的方式方法，促進(jìn)了資源的有效配置、企業(yè)的高效回應(yīng)及前瞻性治理。信息檢索過(guò)濾、個(gè)性化服務(wù)推薦、信息排序精選等就是對(duì)算法積極作用的有效回應(yīng)。另一方面，算法的研發(fā)和投資又具有私有屬性，與公共屬性之間存在著矛盾?！按髷?shù)據(jù)殺熟”“信息繭房”“困在算法里”“沉默的螺旋”等算法困境相伴而生，導(dǎo)致引發(fā)社會(huì)不公、強(qiáng)化社會(huì)偏見(jiàn)、撕裂社會(huì)認(rèn)同、固化社會(huì)階層等各種問(wèn)題。算法權(quán)力異化引發(fā)的種種風(fēng)險(xiǎn)影響到國(guó)家意識(shí)形態(tài)安全、政府有效治理和社會(huì)秩序構(gòu)建，引起了法學(xué)、政治學(xué)、新聞學(xué)等不同學(xué)科專(zhuān)家對(duì)算法權(quán)力治理的關(guān)注和探討。

針對(duì)算法在信息傳播、商業(yè)活動(dòng)、公共決策、社會(huì)治理等領(lǐng)域給公共權(quán)力運(yùn)行帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)，學(xué)術(shù)界從多學(xué)科視角對(duì)算法權(quán)力治理展開(kāi)了較為全面、深入、系統(tǒng)的研究?？v觀現(xiàn)有學(xué)術(shù)成果，可以分為以下四類(lèi)：第一，基于行政法學(xué)視角對(duì)算法權(quán)力屬性、運(yùn)行過(guò)程和規(guī)制路徑的研究。有學(xué)者梳理平臺(tái)企業(yè)運(yùn)用算法技術(shù)進(jìn)行個(gè)性化信息推送、操控選舉、影響政府決策和大選結(jié)果的過(guò)程，提出算法權(quán)力具有軟權(quán)力、資源性權(quán)力、彌散性權(quán)力屬性，建議強(qiáng)化政府行政監(jiān)管權(quán)和國(guó)家數(shù)據(jù)主權(quán)來(lái)規(guī)制平臺(tái)企業(yè)算法權(quán)力[3]。第二，基于權(quán)力政治學(xué)視角對(duì)算法權(quán)力適用對(duì)象、實(shí)施主體、權(quán)力內(nèi)容和適用方式的研究。有學(xué)者在分析算法權(quán)力的技術(shù)與社會(huì)、私有與公共互嵌屬性及動(dòng)態(tài)演化的風(fēng)險(xiǎn)挑戰(zhàn)的基礎(chǔ)上，提出政府要構(gòu)建規(guī)制算法研發(fā)主體、相關(guān)行業(yè)協(xié)會(huì)的適應(yīng)性協(xié)同制度體系并提升社會(huì)公眾的算法自主意識(shí)[4]。也有學(xué)者從算法權(quán)力和傳統(tǒng)權(quán)力的差異出發(fā)，認(rèn)為算法權(quán)力導(dǎo)致了勞動(dòng)的技術(shù)異化與勞動(dòng)者“去人格化”，提出要構(gòu)建以算法備案、算法審計(jì)、算法監(jiān)督為核心的算法規(guī)則糾偏機(jī)制[5]。上述觀點(diǎn)均體現(xiàn)了以制度約束權(quán)力和以權(quán)利制約權(quán)力原理在算法權(quán)力治理中的運(yùn)用。第三，基于信息傳播學(xué)視角對(duì)破除“算法黑箱”“信息繭房”“大數(shù)據(jù)殺熟”等算法權(quán)力操縱與濫用治理路徑的研究。有學(xué)者圍繞算法透明性、規(guī)范性和責(zé)任認(rèn)定問(wèn)題展開(kāi)研究，明晰了法治力量(公檢法)、行政監(jiān)管力量(行業(yè)主管部門(mén))、社會(huì)公眾力量(公民組織和輿論力量)的作用，提出了構(gòu)建自律與他律并舉、法規(guī)與技術(shù)規(guī)范并行、自治與他治并進(jìn)的國(guó)家現(xiàn)代化算法治理體系的設(shè)想[6]。第四，基于現(xiàn)代治理理論對(duì)算法權(quán)力主體能力博弈及實(shí)現(xiàn)動(dòng)態(tài)平衡的規(guī)制路徑的研究。有學(xué)者探討了以智能算法為中介的國(guó)家算法權(quán)力與資本算法權(quán)力、公眾算法權(quán)利的互動(dòng)和張力，提出在保障秩序的前提下應(yīng)限制國(guó)家算法權(quán)力的無(wú)限放大，用公平正義原則規(guī)范資本算法權(quán)力，用制度保障公眾算法權(quán)利，以此化解算法困境對(duì)提升國(guó)家治理能力帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)[7]。

總之，學(xué)者們已初步闡明了算法權(quán)力的性質(zhì)、實(shí)質(zhì)和特征，揭示了算法推薦在新聞生產(chǎn)傳播、商業(yè)活動(dòng)、公共決策、社會(huì)治理等領(lǐng)域的運(yùn)行過(guò)程和內(nèi)在邏輯，揭開(kāi)了“算法黑箱”“信息繭房”“大數(shù)據(jù)殺熟”“困在算法里”等算法操縱與濫用內(nèi)幕并提出了有效的算法權(quán)力規(guī)制路徑。這些學(xué)術(shù)成果對(duì)我們認(rèn)清算法權(quán)力的概念和范疇、內(nèi)容和邊界、本質(zhì)和體系，深入推進(jìn)算法權(quán)力治理、實(shí)現(xiàn)算法權(quán)力的“善治”具有重要的理論價(jià)值和現(xiàn)實(shí)意義。黨的二十大提出“健全網(wǎng)絡(luò)綜合治理體系”，從宏觀上明確了我國(guó)算法權(quán)力治理的基本路徑和目標(biāo)要求。十四屆全國(guó)人大一次會(huì)議提出組建國(guó)家和地方數(shù)據(jù)管理機(jī)構(gòu)，增強(qiáng)了算法權(quán)力運(yùn)行結(jié)構(gòu)中的政府治理力量，推進(jìn)了算法權(quán)力治理結(jié)構(gòu)的調(diào)整和完善。無(wú)論是健全國(guó)家“網(wǎng)絡(luò)綜合治理體系”，還是提升國(guó)家網(wǎng)絡(luò)綜合治理能力，都需要學(xué)術(shù)界對(duì)算法權(quán)力治理進(jìn)行持續(xù)跟蹤研究。本文旨在以馬克思主義理論為指導(dǎo)，重點(diǎn)考察平臺(tái)企業(yè)算法權(quán)力形成、運(yùn)行、監(jiān)督、管理過(guò)程中的主體關(guān)系，從結(jié)構(gòu)—功能視角分析算法權(quán)力治理過(guò)程中各相關(guān)主體博弈產(chǎn)生的異化風(fēng)險(xiǎn)，探討實(shí)現(xiàn)算法權(quán)力“善治”的有效路徑。

二、中國(guó)算法權(quán)力治理的主體結(jié)構(gòu)分析

作為信息革命時(shí)代一項(xiàng)極其關(guān)鍵的技術(shù)，算法深刻影響著國(guó)家經(jīng)濟(jì)發(fā)展、公共決策、意識(shí)形態(tài)安全和國(guó)際競(jìng)爭(zhēng)力。政黨、政府、企業(yè)和社會(huì)組織等都不同程度地參與算法權(quán)力治理，共同推動(dòng)著中國(guó)算法權(quán)力治理現(xiàn)代化進(jìn)程。在算法權(quán)力治理中黨擔(dān)負(fù)著整合網(wǎng)信、公安、市場(chǎng)監(jiān)管等部門(mén)職責(zé)，推動(dòng)算法治理法律法規(guī)的制定、執(zhí)行、監(jiān)督等領(lǐng)導(dǎo)工作。政府網(wǎng)信、電信等部門(mén)承擔(dān)著備案、評(píng)估、監(jiān)督、檢查等職能，行業(yè)協(xié)會(huì)承擔(dān)著制定標(biāo)準(zhǔn)，指導(dǎo)、約束平臺(tái)企業(yè)依法合規(guī)提供算法服務(wù)的職責(zé)，它們構(gòu)成了算法權(quán)力治理的監(jiān)管力量。包括新聞媒體、社會(huì)組織、公眾人物等在內(nèi)的社會(huì)力量則是推動(dòng)算法權(quán)力治理、保障人民群眾權(quán)利不被算法濫用侵害的重要力量。政黨、政府、行業(yè)協(xié)會(huì)、平臺(tái)企業(yè)、新聞媒體、社會(huì)公眾等各方共同發(fā)力、協(xié)同作用，構(gòu)成了中國(guó)算法權(quán)力治理的推動(dòng)力量，塑造了中國(guó)算法權(quán)力治理的基本格局。

(一)黨與政府：以黨的全面領(lǐng)導(dǎo)整合算法權(quán)力治理主體力量

算法權(quán)力借助技術(shù)規(guī)訓(xùn)和數(shù)字化符號(hào)把人們的日常生活、政府決策等活動(dòng)納入由數(shù)據(jù)、算法和算力編織的龐大系統(tǒng)，用數(shù)字化方式規(guī)制人們的信息接收、社會(huì)交往和商業(yè)活動(dòng)等行為。黨、政府部門(mén)等運(yùn)用國(guó)家權(quán)力對(duì)各類(lèi)算法信息服務(wù)規(guī)范、用戶(hù)權(quán)益保障、監(jiān)督管理、法律責(zé)任等作出明確規(guī)范，并且調(diào)動(dòng)平臺(tái)企業(yè)、行業(yè)協(xié)會(huì)、新聞媒體、社會(huì)公眾等參與治理，目的在于有效維護(hù)經(jīng)濟(jì)平穩(wěn)運(yùn)行、政府科學(xué)決策和國(guó)家意識(shí)形態(tài)安全，推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化。在國(guó)家治理體系中，“黨政軍民學(xué)，東西南北中，黨是領(lǐng)導(dǎo)一切的”[1]16。這決定了要把黨的全面領(lǐng)導(dǎo)貫徹落實(shí)到算法權(quán)力治理各領(lǐng)域各方面各環(huán)節(jié)，把多頭治理、分散治理整合為系統(tǒng)治理、集中治理，構(gòu)建起我國(guó)算法權(quán)力治理的強(qiáng)大合力。在組織機(jī)構(gòu)上，中國(guó)共產(chǎn)黨成立了由總書(shū)記擔(dān)任組長(zhǎng)(主任)的中央網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組(后改為委員會(huì))，設(shè)立中央網(wǎng)信辦(國(guó)家網(wǎng)信辦)，統(tǒng)籌協(xié)調(diào)網(wǎng)絡(luò)法規(guī)政策體系建設(shè)、網(wǎng)絡(luò)基礎(chǔ)設(shè)施建設(shè)、關(guān)鍵核心技術(shù)攻關(guān)、網(wǎng)絡(luò)執(zhí)法、網(wǎng)絡(luò)安全、網(wǎng)絡(luò)生態(tài)治理等各項(xiàng)工作。在地方層面建立了省、市網(wǎng)信工作機(jī)構(gòu)，有序推進(jìn)了縣級(jí)網(wǎng)信機(jī)構(gòu)建設(shè)，形成了“全國(guó)一盤(pán)棋”的中央、省、市三級(jí)網(wǎng)信工作體系。中國(guó)共產(chǎn)黨制定了《黨委(黨組)網(wǎng)絡(luò)意識(shí)形態(tài)工作責(zé)任制實(shí)施細(xì)則》《黨委(黨組)網(wǎng)絡(luò)安全工作責(zé)任制實(shí)施辦法》，構(gòu)建起以網(wǎng)絡(luò)安全為主的領(lǐng)導(dǎo)主體責(zé)任、指導(dǎo)監(jiān)管責(zé)任體系，以健全的制度體制機(jī)制把黨對(duì)互聯(lián)網(wǎng)的治理落到實(shí)處。算法權(quán)力治理是維護(hù)網(wǎng)絡(luò)安全及促進(jìn)信息化的核心和關(guān)鍵。中國(guó)共產(chǎn)黨把全面依法治國(guó)理念延展到網(wǎng)絡(luò)安全治理領(lǐng)域，領(lǐng)導(dǎo)制定了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法律法規(guī)，構(gòu)建起以黨的全面領(lǐng)導(dǎo)整合算法權(quán)力治理相關(guān)主體的法制基礎(chǔ)。中國(guó)共產(chǎn)黨通過(guò)法律制度、體制機(jī)制構(gòu)建起了黨委領(lǐng)導(dǎo)、政府監(jiān)管、行業(yè)自律、企業(yè)履責(zé)、社會(huì)監(jiān)督等主體參與的算法權(quán)力治理格局，綜合采用法律、行政、經(jīng)濟(jì)、技術(shù)等多種治理手段和治理工具，形成了“用核心價(jià)值觀駕馭算法”、讓算法權(quán)力更好地造福人民群眾的強(qiáng)大治理力量。

(二)政府與企業(yè)：以行政監(jiān)管有效規(guī)范平臺(tái)企業(yè)行使算法權(quán)力

當(dāng)前，搜索類(lèi)、資訊類(lèi)、社交類(lèi)、商業(yè)類(lèi)等平臺(tái)企業(yè)大多利用算法技術(shù)通過(guò)信息檢索過(guò)濾、個(gè)性化信息推送、生成合成信息、信息排序精選等方式為平臺(tái)用戶(hù)提供服務(wù)。由于這些平臺(tái)企業(yè)大多為資本控制企業(yè)，其價(jià)值取向傾向于資本的增殖謀利。如果平臺(tái)企業(yè)的算法權(quán)力得不到有效控制，就會(huì)出現(xiàn)平臺(tái)企業(yè)“店大欺客”的現(xiàn)象。但是，如果對(duì)算法權(quán)力管制過(guò)嚴(yán)，又會(huì)限制算法技術(shù)創(chuàng)新、阻礙社會(huì)進(jìn)步。因此，必須平衡政府部門(mén)權(quán)力和平臺(tái)企業(yè)權(quán)利、國(guó)家安全和算法創(chuàng)新之間的關(guān)系，保證算法權(quán)力治理具有一定的張力。我國(guó)算法權(quán)力治理的行政主體為中央和地方網(wǎng)信、電信、公安、市場(chǎng)監(jiān)管等部門(mén)以及平臺(tái)企業(yè)所屬的行業(yè)部門(mén)，這些政府部門(mén)依據(jù)各自職責(zé)開(kāi)展常規(guī)性行政監(jiān)管。我國(guó)政府既采取了國(guó)際算法監(jiān)管的公開(kāi)透明性、可解釋性等一般性原則，又強(qiáng)調(diào)提供算法推薦服務(wù)要“尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德，遵循公正公平……誠(chéng)實(shí)信用”[8]等原則，體現(xiàn)了從中國(guó)具體國(guó)情出發(fā)的算法權(quán)力治理創(chuàng)新。對(duì)不斷創(chuàng)新中的算法進(jìn)行治理，世界各國(guó)政府都還處于摸索階段。我國(guó)政府采取了分級(jí)分類(lèi)分場(chǎng)景的區(qū)別監(jiān)管原則，對(duì)關(guān)乎意識(shí)形態(tài)安全、社會(huì)穩(wěn)定、公平正義的算法權(quán)力治理采取強(qiáng)監(jiān)管原則，規(guī)定“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者(相關(guān)信息)……履行備案手續(xù)”[8]。而對(duì)于一般性的算法技術(shù)創(chuàng)新則提出了明確的算法信息服務(wù)規(guī)范、用戶(hù)權(quán)益保護(hù)等原則性規(guī)定，允許并鼓勵(lì)平臺(tái)企業(yè)在法律法規(guī)范圍內(nèi)自我管理、合規(guī)經(jīng)營(yíng)。在國(guó)家與社會(huì)的邊界上，我國(guó)算法權(quán)力的行政監(jiān)管保持著適當(dāng)?shù)膹椥院蛷埩Γ擅畹鼐S持著國(guó)家權(quán)力秩序的穩(wěn)定性和社會(huì)活力的充分彰顯。行政監(jiān)管并不必然導(dǎo)致行業(yè)和企業(yè)自律機(jī)制不足。相反，我國(guó)算法權(quán)力治理行政監(jiān)管為行業(yè)和企業(yè)組織建章立制、加強(qiáng)自律預(yù)留了制度空間。如算法服務(wù)管理相關(guān)規(guī)定明確指出：“鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度，督促指導(dǎo)算法推薦服務(wù)提供者制定完善的服務(wù)規(guī)范、依法提供服務(wù)并接受社會(huì)監(jiān)督。”[8]總之，行政監(jiān)管為我國(guó)平臺(tái)企業(yè)有效開(kāi)展算法創(chuàng)新提供了發(fā)展動(dòng)力，也為平臺(tái)企業(yè)依法合規(guī)經(jīng)營(yíng)量身定制了必要約束力。

(三)政府與社會(huì)：以社會(huì)監(jiān)督推動(dòng)政府深化企業(yè)算法權(quán)力治理

在算法權(quán)力治理結(jié)構(gòu)體系中，社會(huì)主體具有一定特殊性。所謂社會(huì)主體監(jiān)督，主要指社會(huì)公眾、社會(huì)組織的維權(quán)和新聞媒體的輿論監(jiān)督。社會(huì)公眾是算法權(quán)力來(lái)源的數(shù)據(jù)基礎(chǔ)，也是算法權(quán)力作用的主要客體。社會(huì)組織和新聞媒體的權(quán)力間接來(lái)源于人民群眾，負(fù)有保障人民群眾免受“不良算法”誤導(dǎo)的責(zé)任和義務(wù)。近年來(lái)，國(guó)內(nèi)外算法權(quán)力治理的實(shí)踐表明，社會(huì)公眾、社會(huì)組織和新聞媒體等力量能夠?qū)ζ脚_(tái)企業(yè)濫用算法進(jìn)行一定程度的制約和反抗，并且推動(dòng)黨和政府部門(mén)把算法權(quán)力治理納入政策議程、整治算法權(quán)力濫用問(wèn)題。隨著經(jīng)濟(jì)社會(huì)的發(fā)展，我國(guó)人民群眾的公民意識(shí)、社會(huì)組織的自律能力、新聞媒體的社會(huì)監(jiān)督等得到了進(jìn)一步加強(qiáng)，在算法權(quán)力治理中的作用進(jìn)一步彰顯。具有代表性的公民個(gè)體事件往往能夠推動(dòng)政府部門(mén)把算法權(quán)力治理納入政策議程，最典型的例子就是魏則西就醫(yī)事件。魏則西就醫(yī)事件揭開(kāi)了百度利用競(jìng)價(jià)排名算法牟利而損害社會(huì)公平正義的黑幕，引起了深受百度搜索競(jìng)價(jià)排名之害的知識(shí)分子、社會(huì)公眾人物的聲討，引起了政府部門(mén)對(duì)企業(yè)算法權(quán)力治理的關(guān)注。新聞媒體特別是主流權(quán)威媒體的輿論監(jiān)督在算法權(quán)力治理中往往能夠發(fā)揮更大的作用，可推動(dòng)有關(guān)部門(mén)和平臺(tái)企業(yè)加強(qiáng)算法權(quán)力治理。例如，2017年7月，《人民日?qǐng)?bào)》發(fā)表的《新聞莫被算法“綁架”》一文直接推動(dòng)了“今日頭條”對(duì)新聞推薦算法原理的公開(kāi)和把新聞倫理價(jià)值融入算法設(shè)計(jì)。再如，2020年9月，《人物》雜志發(fā)表《外賣(mài)騎手，困在系統(tǒng)里》，直接推動(dòng)國(guó)家市場(chǎng)監(jiān)督管理總局等部委和中華全國(guó)總工會(huì)出臺(tái)《關(guān)于落實(shí)網(wǎng)絡(luò)餐飲平臺(tái)責(zé)任、切實(shí)維護(hù)外賣(mài)送餐員權(quán)益的指導(dǎo)意見(jiàn)》，進(jìn)一步改善送餐時(shí)間的算法設(shè)計(jì)。可以看出，作為非強(qiáng)制性的社會(huì)監(jiān)督，能否在算法權(quán)力治理中發(fā)揮重要推動(dòng)作用，與黨對(duì)社會(huì)監(jiān)督特別是新聞媒體輿論監(jiān)督的重視和積極回應(yīng)密切相關(guān)。正是中國(guó)共產(chǎn)黨堅(jiān)持“以人民為中心”的執(zhí)政理念，不斷推進(jìn)科學(xué)執(zhí)政、民主執(zhí)政、依法執(zhí)政，才壯大了社會(huì)監(jiān)督的新聞媒體力量，構(gòu)建了以社會(huì)監(jiān)督推動(dòng)政府深化算法權(quán)力治理的嶄新格局。

三、算法權(quán)力治理的功能異化風(fēng)險(xiǎn)

算法權(quán)力治理過(guò)程就是黨、政府部門(mén)、平臺(tái)企業(yè)、新聞媒體、社會(huì)公眾等算法治理主體相互博弈的過(guò)程。算法權(quán)力具有技術(shù)專(zhuān)業(yè)性、運(yùn)行封閉性、輻射彌散性等特征屬性，衍生了“信息繭房”、政府失靈、市場(chǎng)壟斷、“大數(shù)據(jù)殺熟”等各種問(wèn)題。正確認(rèn)識(shí)并剖析算法權(quán)力治理過(guò)程中的主流意識(shí)形態(tài)弱化風(fēng)險(xiǎn)、政府治理和監(jiān)管失靈風(fēng)險(xiǎn)、市場(chǎng)壟斷風(fēng)險(xiǎn)、“大數(shù)據(jù)殺熟”帶來(lái)的社會(huì)信任危機(jī)，是黨、政府部門(mén)、行業(yè)協(xié)會(huì)、新聞媒體、社會(huì)公眾等主體通力合作推進(jìn)算法權(quán)力“善治”的前提條件。

(一)認(rèn)同弱化風(fēng)險(xiǎn)：商業(yè)算法邏輯對(duì)國(guó)家主流意識(shí)形態(tài)的挑戰(zhàn)

意識(shí)形態(tài)關(guān)乎民族凝聚力和向心力，關(guān)乎黨和國(guó)家的前途命運(yùn)。在意識(shí)形態(tài)領(lǐng)域，黨和政府的治理目標(biāo)在于鞏固馬克思主義的指導(dǎo)地位，用社會(huì)主義核心價(jià)值觀凝聚社會(huì)共識(shí)、規(guī)范人們的行為方式，進(jìn)而形成具有強(qiáng)大凝聚力和引領(lǐng)力的主流意識(shí)形態(tài)。資本控制的平臺(tái)企業(yè)大體沿襲著西方國(guó)家商業(yè)算法運(yùn)行的價(jià)值邏輯，向社會(huì)公眾傳遞有利于資本增殖的消費(fèi)主義、娛樂(lè)主義、享樂(lè)主義等多元化的思想觀念與生活方式?！霸诮裉斓纳唐废M(fèi)時(shí)代里，只要你需要消費(fèi)，那么你有什么樣的意識(shí)形態(tài)都無(wú)關(guān)宏旨了?！盵9]盡管《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》要求平臺(tái)企業(yè)堅(jiān)持社會(huì)主流價(jià)值導(dǎo)向，但是由于商業(yè)模式的西方化致使平臺(tái)企業(yè)推送的信息中充斥著大量不符合社會(huì)主流價(jià)值導(dǎo)向的碎片化信息，更遑論推出具有強(qiáng)大凝聚力和引領(lǐng)力的社會(huì)主流意識(shí)形態(tài)精品力作。商業(yè)算法推崇的消費(fèi)主義、娛樂(lè)主義和享樂(lè)主義等思想觀念，在內(nèi)容上構(gòu)成了對(duì)馬克思主義指導(dǎo)地位和社會(huì)主義核心價(jià)值觀念的挑戰(zhàn)，削弱了人民群眾對(duì)崇高理想信念的追求、對(duì)中國(guó)共產(chǎn)黨的領(lǐng)導(dǎo)和社會(huì)主義制度的認(rèn)同。在傳播方式上，平臺(tái)企業(yè)往往根據(jù)數(shù)據(jù)檢測(cè)評(píng)估系統(tǒng)分析社會(huì)公眾的興趣偏好、價(jià)值立場(chǎng)、信息需求，通過(guò)算法權(quán)力精準(zhǔn)地投放能夠刺激用戶(hù)感官興奮的碎片化、商業(yè)化信息。這些信息潛移默化地固化社會(huì)公眾的價(jià)值觀念和行為方式，削弱了國(guó)家主流意識(shí)形態(tài)對(duì)社會(huì)公眾的價(jià)值塑造和共識(shí)傳播。社會(huì)公眾通過(guò)在平臺(tái)企業(yè)注冊(cè)賬號(hào)發(fā)聲而出現(xiàn)的大量?jī)r(jià)值取向各異的碎片化信息也對(duì)主流意識(shí)形態(tài)構(gòu)成了沖擊，特別是所謂“社會(huì)公知”“意見(jiàn)領(lǐng)袖”發(fā)表的與國(guó)家主流意識(shí)形態(tài)相左或者曲解國(guó)家主流意識(shí)形態(tài)的觀點(diǎn)看法，對(duì)黨和政府推進(jìn)思想領(lǐng)域的算法權(quán)力治理帶來(lái)了重大挑戰(zhàn)。

(二)監(jiān)管失靈風(fēng)險(xiǎn)：算法黑箱對(duì)行政監(jiān)管權(quán)力的阻礙和規(guī)避

當(dāng)前，平臺(tái)企業(yè)算法權(quán)力運(yùn)行大多依賴(lài)機(jī)器學(xué)習(xí)和數(shù)據(jù)驅(qū)動(dòng)，由于算法技術(shù)的專(zhuān)業(yè)性和創(chuàng)新性，其對(duì)于一般社會(huì)公眾甚至專(zhuān)業(yè)人士和政府部門(mén)來(lái)說(shuō)就是個(gè)技術(shù)“黑箱”。數(shù)據(jù)的所有權(quán)、控制權(quán)和使用權(quán)集中在資本控制的互聯(lián)網(wǎng)平臺(tái)企業(yè)，這些平臺(tái)企業(yè)掌握著算法的設(shè)計(jì)、運(yùn)行、測(cè)試、分析和解釋權(quán)，在算法權(quán)力治理中占據(jù)著優(yōu)勢(shì)地位，而政府監(jiān)管部門(mén)在算法治理中呈現(xiàn)被邊緣化趨勢(shì)，極易因?yàn)樗惴?quán)力運(yùn)行的黑箱操作而導(dǎo)致治理失靈。例如，一些互聯(lián)網(wǎng)平臺(tái)企業(yè)利用數(shù)據(jù)上的優(yōu)勢(shì)地位對(duì)用戶(hù)進(jìn)行“大數(shù)據(jù)殺熟”、算計(jì)“快遞騎手”、制造“信息繭房”等，逐步形成了算法歧視，踐踏了社會(huì)公平正義，損害了政府公信力。而由于算法設(shè)計(jì)的不透明、算法解釋的晦澀難懂等原因，政府監(jiān)管部門(mén)難以審查算法設(shè)計(jì)的合理性和安全性，只能根據(jù)算法權(quán)力運(yùn)行結(jié)果進(jìn)行事后監(jiān)管，無(wú)法有效地開(kāi)展事前和事中監(jiān)管以防范算法權(quán)力濫用。這就限制了政府部門(mén)規(guī)制算法權(quán)力的措施和手段，導(dǎo)致其難以對(duì)算法失范行為進(jìn)行及時(shí)有效的問(wèn)責(zé)和糾偏。算法“黑箱”的出現(xiàn)不僅僅是計(jì)算信息技術(shù)專(zhuān)業(yè)性的客觀結(jié)果，而且也有資本主導(dǎo)的平臺(tái)企業(yè)規(guī)避公權(quán)力約束和俘獲公共利益的主觀故意性。如互聯(lián)網(wǎng)平臺(tái)企業(yè)出于資本增殖的需要，通過(guò)壟斷算法技術(shù)把數(shù)據(jù)封閉在資本牟利和擴(kuò)張的勢(shì)力范圍內(nèi)，逃避或者阻礙政府對(duì)算法權(quán)力濫用的有效監(jiān)管。以色列歷史學(xué)家尤瓦爾·諾亞·赫拉利就指出：“隨著智能算法取代生物算法，不僅會(huì)將人類(lèi)擠出就業(yè)市場(chǎng)，亦會(huì)使財(cái)富和權(quán)力為那些擁有強(qiáng)大算法的公司所壟斷。”[10]算法“黑箱”導(dǎo)致的平臺(tái)企業(yè)的強(qiáng)勢(shì)壟斷地位加劇了算法權(quán)力治理主體力量對(duì)比的失衡，為實(shí)現(xiàn)算法權(quán)力“善治”埋下了風(fēng)險(xiǎn)和隱患。

(三)市場(chǎng)壟斷風(fēng)險(xiǎn)：資本增殖邏輯在平臺(tái)經(jīng)濟(jì)中的體現(xiàn)和擴(kuò)張

在社會(huì)主義市場(chǎng)經(jīng)濟(jì)條件下，算法技術(shù)加持下的平臺(tái)商業(yè)模式客觀上表現(xiàn)出從自由競(jìng)爭(zhēng)走向壟斷的趨勢(shì)。例如，某平臺(tái)企業(yè)強(qiáng)迫商家“二選一”和獨(dú)家經(jīng)營(yíng)的壟斷行為被國(guó)家市場(chǎng)監(jiān)管總局查處并糾正，表明了電商平臺(tái)利用市場(chǎng)支配地位謀取壟斷利潤(rùn)現(xiàn)象的客觀存在并且已經(jīng)比較嚴(yán)重。壟斷個(gè)案的查處并不能徹底解決算法權(quán)力治理中的市場(chǎng)壟斷行為，必須深入探討算法權(quán)力導(dǎo)致市場(chǎng)壟斷的表現(xiàn)形式和影響因素。平臺(tái)企業(yè)利用算法權(quán)力走向壟斷的表現(xiàn)形式各不相同，但是大體上主要有顯性和隱性?xún)煞N方式。從顯性方式看，平臺(tái)企業(yè)利用在商家的市場(chǎng)準(zhǔn)入、服務(wù)協(xié)議、流量資源等方面的支配地位，向平臺(tái)商家收取廣告投放費(fèi)、軟件服務(wù)費(fèi)等，并且通過(guò)競(jìng)價(jià)排名賦予商家以不同的流量資源。不同平臺(tái)企業(yè)之間競(jìng)爭(zhēng)的實(shí)質(zhì)是算法技術(shù)的競(jìng)爭(zhēng)，最終會(huì)出現(xiàn)一種趨近于完美的算法，使流量資源定價(jià)走向壟斷。平臺(tái)企業(yè)利用對(duì)社會(huì)用戶(hù)數(shù)據(jù)的壟斷地位，根據(jù)社會(huì)用戶(hù)的消費(fèi)偏好進(jìn)行信息投送、差別化定價(jià)、限定套利空間等行為實(shí)際上也構(gòu)成了現(xiàn)實(shí)中的市場(chǎng)壟斷。無(wú)論是對(duì)平臺(tái)商戶(hù)收取高額流量費(fèi)用，還是對(duì)社會(huì)公眾用戶(hù)采取不合理的差別化定價(jià)，本質(zhì)上都是對(duì)算法權(quán)力的濫用，不利于經(jīng)濟(jì)社會(huì)的發(fā)展進(jìn)步。從隱性方式看，在算法權(quán)力治理過(guò)程中，政府部門(mén)還要面對(duì)平臺(tái)企業(yè)和社會(huì)公眾潛在的各種壟斷意識(shí)和觀念。平臺(tái)企業(yè)算法研發(fā)的技術(shù)精英往往自覺(jué)或者不自覺(jué)地把服務(wù)于資本增殖邏輯的意識(shí)形態(tài)觀念植入算法規(guī)則，使商家和社會(huì)公眾在接受平臺(tái)服務(wù)的同時(shí)，認(rèn)可平臺(tái)企業(yè)的壟斷權(quán)力觀念、邏輯和秩序。社會(huì)公眾對(duì)算法權(quán)力的認(rèn)可賦予了平臺(tái)企業(yè)壟斷市場(chǎng)、獲取超額利潤(rùn)的理論合理性和實(shí)踐合法性，客觀上成為算法權(quán)力濫用的幫兇。無(wú)論是顯性謀取壟斷利潤(rùn)，還是隱性宣揚(yáng)壟斷觀念，平臺(tái)壟斷在客觀上都增加了政府部門(mén)在經(jīng)濟(jì)領(lǐng)域治理算法權(quán)力濫用的難度。

(四)社會(huì)極化風(fēng)險(xiǎn)：算法偏見(jiàn)和歧視對(duì)社會(huì)正義秩序的挑戰(zhàn)

社會(huì)成員通過(guò)個(gè)人努力奮斗實(shí)現(xiàn)階層躍升是一個(gè)社會(huì)充滿(mǎn)活力、文明進(jìn)步的重要標(biāo)志，也是一個(gè)社會(huì)制度優(yōu)越性和生命力的重要體現(xiàn)。美國(guó)政治哲學(xué)家約翰·羅爾斯曾經(jīng)指出，評(píng)價(jià)一種制度“好”與“壞”，“要看它們能夠在多大程度上有效地保障所有人平等地追求其目標(biāo)所必需的條件，或者能在多大程度上有效地推進(jìn)對(duì)每個(gè)人都同樣有利的共同目標(biāo)”[11]。平臺(tái)企業(yè)利用算法技術(shù)根據(jù)用戶(hù)興趣愛(ài)好推送信息看似更為精準(zhǔn)有效，實(shí)則是利用“信息繭房”“回音壁”等原理對(duì)個(gè)人和社會(huì)群體實(shí)現(xiàn)思想控制。這種信息推送帶有無(wú)明顯特征的偏見(jiàn)和歧視，使接受算法信息推送的個(gè)人和群體陷入算法權(quán)力編織的網(wǎng)絡(luò)信息“陷阱”中，被屏蔽在黨和政府的聲音之外，被隔離于黨和政府構(gòu)建的社會(huì)與國(guó)家良性互動(dòng)機(jī)制之外。平臺(tái)企業(yè)利用掌握用戶(hù)數(shù)據(jù)信息和算法權(quán)力的優(yōu)勢(shì)地位，向商戶(hù)收取高額的廣告營(yíng)銷(xiāo)費(fèi)用；根據(jù)用戶(hù)消費(fèi)能力和習(xí)慣采取差別化定價(jià)——“大數(shù)據(jù)殺熟”，利用算法權(quán)力壓榨外賣(mài)騎手，其目的就是實(shí)現(xiàn)資本利益的最大化，客觀結(jié)果是社會(huì)的兩極分化和階層固化。黨委、政府部門(mén)和行業(yè)協(xié)會(huì)等治理主體開(kāi)展算法權(quán)力治理的目的就在于破除平臺(tái)企業(yè)的算法偏見(jiàn)和算法歧視，維護(hù)和保障社會(huì)各階層的權(quán)益，促進(jìn)社會(huì)的公平正義和人民福祉的提升。但是，單單依靠黨委和政府部門(mén)依據(jù)《反壟斷法》對(duì)平臺(tái)企業(yè)的壟斷行為進(jìn)行查處和糾偏是遠(yuǎn)遠(yuǎn)不夠的。如何在社會(huì)領(lǐng)域協(xié)調(diào)算法權(quán)力濫用導(dǎo)致的政府與市場(chǎng)、國(guó)家與社會(huì)、企業(yè)自律和他律失衡關(guān)系，在充分發(fā)揮利用算法權(quán)力有效治理社會(huì)作用的同時(shí)，更好地規(guī)范算法權(quán)力的使用，促進(jìn)社會(huì)的公平正義和有序流動(dòng)，考驗(yàn)著算法權(quán)力治理相關(guān)主體的能力和智慧。

四、算法權(quán)力治理的協(xié)同規(guī)制路徑

規(guī)制算法權(quán)力異化、彰顯社會(huì)公平正義是構(gòu)建中國(guó)式現(xiàn)代化網(wǎng)絡(luò)綜合治理的重要命題。中國(guó)算法權(quán)力治理的異化風(fēng)險(xiǎn)不僅在于技術(shù)缺陷和創(chuàng)新不足，更在于協(xié)調(diào)各個(gè)治理主體關(guān)系的制度供給不足。改進(jìn)算法權(quán)力治理，政府部門(mén)不僅要出臺(tái)促進(jìn)算法技術(shù)創(chuàng)新的扶持政策，還要加強(qiáng)對(duì)算法技術(shù)進(jìn)行規(guī)制和監(jiān)管的法律制度供給。要通過(guò)加強(qiáng)算法權(quán)力制度建設(shè)，實(shí)現(xiàn)黨對(duì)算法綜合治理體系的全面領(lǐng)導(dǎo)，加強(qiáng)政府算法監(jiān)管制度的創(chuàng)新，夯實(shí)平臺(tái)企業(yè)的主體責(zé)任，從而有效保障社會(huì)公眾的算法權(quán)利。

(一)以網(wǎng)絡(luò)綜合治理體系建設(shè)規(guī)范算法權(quán)力有序運(yùn)行

構(gòu)建網(wǎng)絡(luò)綜合治理體系是規(guī)范算法權(quán)力運(yùn)行、維護(hù)國(guó)家秩序的制度體制保障。黨和政府是算法權(quán)力治理的核心主體，其算法權(quán)力治理主要體現(xiàn)在兩個(gè)方面。一方面，黨對(duì)算法權(quán)力治理的全面領(lǐng)導(dǎo)是實(shí)現(xiàn)算法權(quán)力“善治”的必然要求?！叭祟?lèi)社會(huì)可以無(wú)自由而有秩序，但不能無(wú)秩序而有自由?！盵12]秩序是不同社會(huì)主體力量相互博弈的結(jié)果，構(gòu)建公平正義、規(guī)范有序的算法權(quán)力秩序需要加強(qiáng)黨對(duì)算法權(quán)力治理的全面領(lǐng)導(dǎo)。在算法權(quán)力治理領(lǐng)域，要以“兩個(gè)維護(hù)”整合上下級(jí)黨委、黨委部門(mén)之間的權(quán)力關(guān)系，提升黨對(duì)算法權(quán)力治理的強(qiáng)大組織力和領(lǐng)導(dǎo)力。面對(duì)算法權(quán)力濫用問(wèn)題，要提升黨對(duì)意識(shí)形態(tài)的領(lǐng)導(dǎo)力，增強(qiáng)社會(huì)成員對(duì)黨的領(lǐng)導(dǎo)、社會(huì)主義制度和社會(huì)主義核心價(jià)值觀的認(rèn)同。同時(shí)，要提升黨在算法治理領(lǐng)域科學(xué)執(zhí)政、民主執(zhí)政、依法執(zhí)政能力，不斷增強(qiáng)政府提升算法行政監(jiān)管水平、破除市場(chǎng)壟斷、保障公眾權(quán)益的能力。另一方面，充分發(fā)揮政府部門(mén)、行業(yè)協(xié)會(huì)、平臺(tái)企業(yè)、新聞媒體、社會(huì)公眾參與算法權(quán)力綜合治理的積極作用是提升算法權(quán)力治理成效的必要條件。行政監(jiān)管、行業(yè)自律、平臺(tái)主體責(zé)任、新聞媒體監(jiān)督和社會(huì)公眾參與在算法權(quán)力治理中角色不同、作用不同，缺一不可。實(shí)現(xiàn)算法權(quán)力“善治”，需要構(gòu)建黨的全面領(lǐng)導(dǎo)下治理主體權(quán)責(zé)相當(dāng)、多元共治的網(wǎng)絡(luò)治理現(xiàn)代化體系。在全面依法治國(guó)背景下，黨和政府要明晰各個(gè)治理主體的權(quán)力(利)、職能和責(zé)任，構(gòu)建行業(yè)自律和企業(yè)自治平衡算法技術(shù)創(chuàng)新和網(wǎng)絡(luò)安全的制度機(jī)制，構(gòu)建算法權(quán)力治理的政府權(quán)力結(jié)構(gòu)體系和約束機(jī)制，完善以新聞?shì)浾摵凸姳O(jiān)督促進(jìn)算法技術(shù)向善的制度機(jī)制。

(二)以平臺(tái)企業(yè)算法公開(kāi)透明糾治算法“黑箱”亂象

平臺(tái)企業(yè)是算法技術(shù)研發(fā)、設(shè)計(jì)和使用的主體。優(yōu)化平臺(tái)企業(yè)的治理結(jié)構(gòu)、增進(jìn)算法技術(shù)的公開(kāi)透明是實(shí)現(xiàn)算法權(quán)力善治的重要手段。算法權(quán)力所具有的社會(huì)性和公共性特征決定了算法權(quán)力行使也應(yīng)該遵循“讓權(quán)力在陽(yáng)光下運(yùn)行”的邏輯，政府部門(mén)要推動(dòng)平臺(tái)企業(yè)深化內(nèi)部治理改革、促進(jìn)算法技術(shù)的公開(kāi)透明。當(dāng)前，算法技術(shù)不公開(kāi)、不透明的原因主要在于平臺(tái)企業(yè)出于商業(yè)競(jìng)爭(zhēng)考慮保護(hù)“算法技術(shù)商業(yè)機(jī)密”以獲取壟斷利潤(rùn)或者特殊權(quán)益，在于缺乏夯實(shí)治理主體責(zé)任、推進(jìn)算法公開(kāi)透明的社會(huì)生態(tài)環(huán)境。破解算法“黑箱”、推進(jìn)算法權(quán)力公開(kāi)透明，一要加強(qiáng)政府部門(mén)對(duì)算法權(quán)力技術(shù)、原則、標(biāo)準(zhǔn)等公共產(chǎn)品的有效供給。政府部門(mén)要建立算法技術(shù)研發(fā)中心，出臺(tái)支持算法技術(shù)研發(fā)政策，鼓勵(lì)高校和科研院所開(kāi)展算法研發(fā)，把算法核心技術(shù)掌握在政府手中，避免算法成為逐利工具。此外，要出臺(tái)算法技術(shù)研發(fā)和運(yùn)行原則、標(biāo)準(zhǔn)，實(shí)現(xiàn)對(duì)算法研發(fā)、運(yùn)行的有效監(jiān)督管理。二要通過(guò)法律法規(guī)明確平臺(tái)企業(yè)算法權(quán)力的邊界和責(zé)任，推動(dòng)平臺(tái)企業(yè)加強(qiáng)算法合規(guī)性審查，促進(jìn)算法技術(shù)設(shè)計(jì)、組織運(yùn)行和結(jié)果審計(jì)的公開(kāi)透明。在明晰平臺(tái)企業(yè)算法權(quán)力界限時(shí)，要按照算法權(quán)力治理的現(xiàn)實(shí)需要和現(xiàn)行網(wǎng)絡(luò)安全法律法規(guī)規(guī)定，制定算法技術(shù)公開(kāi)透明、分級(jí)分類(lèi)監(jiān)管的主體責(zé)任、范圍、程度、義務(wù)等易于操作的具體化“負(fù)面清單”，避免規(guī)則制定中出現(xiàn)政治正確、不易操作的泛政治化傾向。三要建立健全政府對(duì)平臺(tái)企業(yè)的激勵(lì)機(jī)制，對(duì)合法合規(guī)經(jīng)營(yíng)、算法技術(shù)公開(kāi)透明、促進(jìn)社會(huì)正義和進(jìn)步的平臺(tái)企業(yè)進(jìn)行褒獎(jiǎng)。還要建立健全政府對(duì)平臺(tái)企業(yè)的約束和懲戒機(jī)制，推進(jìn)平臺(tái)企業(yè)內(nèi)部審查、行政監(jiān)管、社會(huì)監(jiān)督的制度化、程序化，對(duì)于違反算法推薦規(guī)定、數(shù)據(jù)和網(wǎng)絡(luò)安全法律法規(guī)的企業(yè)采取部門(mén)約談、罰款罰沒(méi)、算法下架、停用推薦等手段進(jìn)行有效規(guī)制。

(三)以政府監(jiān)管制度創(chuàng)新破解資本操控算法權(quán)力

在算法權(quán)力治理中，政府部門(mén)和平臺(tái)企業(yè)、政府權(quán)力和資本權(quán)力本質(zhì)上是對(duì)立統(tǒng)一的關(guān)系。資本主導(dǎo)的平臺(tái)企業(yè)推動(dòng)了算法技術(shù)的創(chuàng)新迭代，為算法經(jīng)濟(jì)社會(huì)運(yùn)行提供了技術(shù)支持。同時(shí)，資本的控制和壟斷也成為算法權(quán)力發(fā)生異化的關(guān)鍵因素。政府監(jiān)管制度創(chuàng)新的關(guān)鍵是破除資本對(duì)算法技術(shù)的控制和壟斷，消除資本控制的算法權(quán)力對(duì)國(guó)家權(quán)力和秩序的沖擊與挑戰(zhàn)，維護(hù)算法權(quán)力秩序場(chǎng)域的公平正義。當(dāng)前，算法權(quán)力異化導(dǎo)致的認(rèn)同弱化、監(jiān)管失靈、市場(chǎng)壟斷、社會(huì)極化等風(fēng)險(xiǎn)，主要原因在于“算法應(yīng)用多由少數(shù)巨頭企業(yè)提供，企業(yè)占據(jù)了數(shù)據(jù)、技術(shù)和市場(chǎng)等多方優(yōu)勢(shì)，呈現(xiàn)壟斷化態(tài)勢(shì)”[13]。破解資本對(duì)算法權(quán)力的控制、實(shí)現(xiàn)算法權(quán)力的善治，要持續(xù)推進(jìn)算法權(quán)力監(jiān)管制度創(chuàng)新。一要以公平正義為價(jià)值導(dǎo)向創(chuàng)新算法權(quán)力監(jiān)管制度。在經(jīng)濟(jì)領(lǐng)域，要強(qiáng)調(diào)平臺(tái)企業(yè)的社會(huì)責(zé)任，構(gòu)建增進(jìn)平臺(tái)企業(yè)用戶(hù)“最少受惠者的最大利益”和增進(jìn)公共利益的規(guī)范制度。在行政領(lǐng)域，要構(gòu)建規(guī)制算法權(quán)力向行政監(jiān)管滲透、影響政府監(jiān)管權(quán)力有效運(yùn)行的程序和規(guī)范。在思想文化領(lǐng)域，要重視在算法意識(shí)形態(tài)輸入和輸出過(guò)程中弘揚(yáng)社會(huì)主義核心價(jià)值觀，進(jìn)而鞏固馬克思主義指導(dǎo)地位，抵制“三俗”“四風(fēng)”“西方意識(shí)形態(tài)滲透”。二要以規(guī)范數(shù)據(jù)使用為抓手創(chuàng)新算法權(quán)力監(jiān)管制度。要明確中央和地方各級(jí)數(shù)據(jù)局的職能和權(quán)限，建立激活多方監(jiān)管資源規(guī)范數(shù)據(jù)收集、挖掘、分析、利用的授權(quán)和審查制度機(jī)制，消除平臺(tái)企業(yè)不規(guī)范收集、利用數(shù)據(jù)的制度空白。三要夯實(shí)平臺(tái)企業(yè)的算法主體責(zé)任。算法技術(shù)上的缺陷和漏洞需要通過(guò)技術(shù)創(chuàng)新來(lái)解決。要明確平臺(tái)企業(yè)的算法技術(shù)創(chuàng)新和安全主體責(zé)任，推動(dòng)平臺(tái)企業(yè)建立內(nèi)部審查機(jī)構(gòu)，加強(qiáng)對(duì)算法技術(shù)設(shè)計(jì)、運(yùn)營(yíng)和管理人員的技術(shù)倫理和法制教育，把承擔(dān)算法技術(shù)缺陷重大損失的責(zé)任落實(shí)到具體部門(mén)、環(huán)節(jié)和個(gè)人。

(四)以算法權(quán)利保障制度破解算法偏見(jiàn)和算法歧視

技術(shù)創(chuàng)新能在何種程度上推動(dòng)人類(lèi)社會(huì)進(jìn)步，取決于人們對(duì)創(chuàng)新技術(shù)的認(rèn)知態(tài)度和掌握程度。算法技術(shù)以及由此衍生的算法權(quán)力也概莫能外，人們對(duì)算法權(quán)力的態(tài)度和認(rèn)知在一定程度上制約了算法權(quán)力治理水平。在算法權(quán)力治理結(jié)構(gòu)體系中，黨和政府的算法權(quán)力治理舉措依賴(lài)于社會(huì)公眾的參與和支持，平臺(tái)企業(yè)算法推薦技術(shù)設(shè)計(jì)的“好”與“壞”由社會(huì)公眾進(jìn)行評(píng)判。當(dāng)然，黨和政府、平臺(tái)企業(yè)也以各自的方式塑造著社會(huì)公眾對(duì)算法權(quán)力的態(tài)度、認(rèn)知和行為。社會(huì)公眾在算法權(quán)力治理中的主體性地位決定了黨和政府要建立健全社會(huì)公眾算法權(quán)利保障制度機(jī)制，增強(qiáng)破解算法偏見(jiàn)和算法歧視的主體力量。健全社會(huì)公眾算法權(quán)利保障制度，一要突出保障公眾權(quán)利在算法權(quán)力治理制度建構(gòu)中的優(yōu)先性原則，使算法權(quán)力服務(wù)于公眾權(quán)利的確立、行使和保障。要圍繞保障社會(huì)公眾權(quán)利設(shè)計(jì)國(guó)家算法權(quán)力治理制度機(jī)制，以制度化的方式保障公眾的平等權(quán)、自由權(quán)、財(cái)產(chǎn)權(quán)和信息權(quán)。對(duì)公眾主流意識(shí)形態(tài)的培養(yǎng)，要立足于增進(jìn)公眾對(duì)國(guó)家制度的認(rèn)同，消除算法偏見(jiàn)和算法歧視對(duì)公眾意識(shí)產(chǎn)生的認(rèn)知圈層化、價(jià)值觀念碎片化與態(tài)度行為流變化等負(fù)面影響，增強(qiáng)主流意識(shí)形態(tài)的傳播力、整合力和引導(dǎo)力。二要把算法技術(shù)和算法倫理納入國(guó)民教育制度體系，提升全體國(guó)民的算法技術(shù)綜合素養(yǎng)。通過(guò)教育培訓(xùn)把算法技術(shù)向善、保障公眾權(quán)利的觀念植入人們心中，提升人們辨別和規(guī)制算法偏見(jiàn)和算法歧視的專(zhuān)業(yè)能力。三要充分發(fā)揮新聞媒體、行業(yè)協(xié)會(huì)、社會(huì)公眾等監(jiān)督力量，適度賦予第三方機(jī)構(gòu)監(jiān)督算法偏見(jiàn)和算法歧視的權(quán)力，進(jìn)一步引導(dǎo)平臺(tái)企業(yè)依法合規(guī)行使算法權(quán)力。