算法社會(huì)公共領(lǐng)域的風(fēng)險(xiǎn)生發(fā)與規(guī)避

【摘要】隨著媒介社會(huì)化程度的加深，人類社會(huì)進(jìn)入“算法社會(huì)”新階段，并在算法操控、算法偏見以及算法黑箱等因素影響下引發(fā)新的社會(huì)風(fēng)險(xiǎn)，這在公共領(lǐng)域主要表現(xiàn)為主體異化、價(jià)值理性迷失以及公共性消解等問題引發(fā)的結(jié)構(gòu)性失衡。針對(duì)上述問題，本文從政策規(guī)制、人機(jī)協(xié)同以及算法設(shè)計(jì)理念角度入手，探索了算法社會(huì)規(guī)避公共領(lǐng)域風(fēng)險(xiǎn)的治理路徑，以期為現(xiàn)實(shí)問題的解決提供借鑒。

【關(guān)鍵詞】算法社會(huì)；公共領(lǐng)域；風(fēng)險(xiǎn)規(guī)避；算法治理

一、引言

隨著社會(huì)媒介化程度不斷加深，人類生產(chǎn)生活與社會(huì)交往在智能技術(shù)的高度賦權(quán)下呈現(xiàn)出新特點(diǎn)，特別是算法作為一種新型決策機(jī)制正在重構(gòu)信息生產(chǎn)傳播的底層運(yùn)行邏輯，成為我們感知、理解多元意義世界的重要橋梁。有學(xué)者指出，算法環(huán)境儼然成為與自然環(huán)境、社會(huì)環(huán)境具有同等意義的人類生產(chǎn)生活新空間，并可能推動(dòng)人類社會(huì)進(jìn)入算法社會(huì)的新階段。[1]算法社會(huì)是數(shù)字技術(shù)嵌入人類社會(huì)并與之相互影響的新體系，昭示算法邏輯支配下的社會(huì)交往、社會(huì)秩序乃至公共文化生活的權(quán)力關(guān)系轉(zhuǎn)移。由于算法囿于設(shè)計(jì)主體的主觀能動(dòng)性，注定了權(quán)力關(guān)系轉(zhuǎn)移的過程難以規(guī)避社會(huì)資本、商業(yè)利益以及價(jià)值觀的影響，使其呈現(xiàn)出“決策過程客觀、決策意圖主觀”的雙面特質(zhì)，從而將算法社會(huì)中的人、事、物置于“被操控”的風(fēng)險(xiǎn)之中，這在公共領(lǐng)域信息傳播營造出的擬態(tài)環(huán)境中格外凸顯，并引發(fā)學(xué)術(shù)界的關(guān)注與思考。

二、風(fēng)險(xiǎn)生發(fā)：算法引發(fā)的公共領(lǐng)域結(jié)構(gòu)性失衡

隨著社會(huì)文明的演進(jìn)，早期的以文化批判為特征、由受過教育的市民組成的文學(xué)公共領(lǐng)域已然向大眾傳媒和大眾文化主導(dǎo)的現(xiàn)代公共領(lǐng)域轉(zhuǎn)型。在智能技術(shù)的賦權(quán)下，呈現(xiàn)出低門檻、去中心化和強(qiáng)交互性的場域特征。然而，當(dāng)人們沉浸于算法投喂的快感及其營造出的看似“平權(quán)”的信息環(huán)境中，從算法帶來的“二手非經(jīng)驗(yàn)”中形成對(duì)社會(huì)現(xiàn)象的理解時(shí)，便逐漸喪失了基于理性、客觀、思辨的深度思考能力。而與智能推薦技術(shù)伴生而來的“過濾泡”和“信息繭房”也將群體認(rèn)知固化，科學(xué)理性和社會(huì)理性囿于技術(shù)的操縱和情感化、集群化的傳播策略被不斷消解，從根本上動(dòng)搖了公共領(lǐng)域賴以存在的基石，使其公共性面臨事實(shí)與規(guī)范的背離，[2]從而引發(fā)公共領(lǐng)域的結(jié)構(gòu)性失衡的風(fēng)險(xiǎn)。

（一）“主體異化”的生產(chǎn)傳播弱化公共領(lǐng)域的公眾參與

“異化”即主體活動(dòng)及其產(chǎn)物脫離和否定主體自身，并作為一種異己的力量與主體處于對(duì)抗性關(guān)系之中，以扭曲或否定的方式來呈現(xiàn)人的本質(zhì)。[3]算法已滲透到信息內(nèi)容生產(chǎn)、審核和傳播的各個(gè)環(huán)節(jié)之中，逐步以算法邏輯取代了“人”的邏輯，這雖然提升了信息生產(chǎn)傳播的整體效率，但也直接導(dǎo)致了信息傳播各環(huán)節(jié)的主體異化，間接導(dǎo)致公眾主體性的弱化，特別是在公眾感知、理性批判及自主選擇權(quán)方面，技術(shù)對(duì)人主體性的取代加劇了公共領(lǐng)域理性基礎(chǔ)的瓦解。

從內(nèi)容生產(chǎn)者的角度看，智能機(jī)器人成為內(nèi)容信息生產(chǎn)主體，如OpenAI研發(fā)的ChatGPT聊天機(jī)器人，可以通過模型訓(xùn)練實(shí)現(xiàn)對(duì)人類語言的理解與對(duì)話，并完成視頻腳本、文案、繪畫等高階信息文本。機(jī)器寫作內(nèi)容的價(jià)值理性與算法設(shè)計(jì)和語料庫高度關(guān)聯(lián)，如果算法失當(dāng)抑或語料庫遭到污染，智能機(jī)器人生產(chǎn)的內(nèi)容將無法實(shí)現(xiàn)人文性和思想性的提升，還可能造成主體誤讀，間接將更多真實(shí)的公眾觀點(diǎn)排除在網(wǎng)絡(luò)公共領(lǐng)域之外，造成理性交流的主體性弱化。

從內(nèi)容審核者的角度看，算法逐漸成為內(nèi)容分發(fā)的決策者和操控者。資本企圖通過對(duì)算法的技術(shù)控制，創(chuàng)建有利于自身利益的信息供需流動(dòng)新秩序——由原有的“選擇機(jī)制”變?yōu)椤斑x擇分配機(jī)制”，對(duì)有流量的信息分配何種程度的媒介資源成為重點(diǎn)。[4]在此前提下，迎合受眾的個(gè)性化、同質(zhì)化、娛樂化信息更易于獲得分配權(quán)重，大大擠占了涉及公共利益與公共價(jià)值的信息傳播空間。算法把關(guān)看似擴(kuò)充了公眾參與公共領(lǐng)域的信息資源，增加了信息推薦的精準(zhǔn)度，實(shí)則在商業(yè)邏輯的支配下將不具備公共價(jià)值的私人話題、煽動(dòng)性信息推送至公共領(lǐng)域，剝奪了公眾的信息選擇與獲取權(quán)，蠶食著公眾珍貴的注意力資源和理性認(rèn)知。

（二）“流量至上”的運(yùn)營邏輯加劇公共領(lǐng)域的價(jià)值理性迷失

資本逐利性決定了“流量至上”的運(yùn)營邏輯已成為多數(shù)互聯(lián)網(wǎng)信息企業(yè)的潛在規(guī)則，并建構(gòu)起包含點(diǎn)擊率、播放量、轉(zhuǎn)發(fā)量等流量指標(biāo)的綜合評(píng)價(jià)體系，其實(shí)質(zhì)是以“算法■數(shù)據(jù)”的純粹技術(shù)邏輯對(duì)內(nèi)容進(jìn)行評(píng)判，它忽略了價(jià)值性、道德性和公共性維度的判斷。在全民娛樂化、碎片化的傳播環(huán)境中，嚴(yán)肅性和價(jià)值性內(nèi)容的讓渡構(gòu)成了公眾價(jià)值理性迷失的第一層意涵。

公眾理性迷失的第二層意涵在于價(jià)值認(rèn)知的對(duì)沖錯(cuò)位。相較于市場化媒體基于流量的“商業(yè)-技術(shù)”邏輯，主流媒體也力圖通過算法實(shí)現(xiàn)“調(diào)整-控制”邏輯，[5]強(qiáng)化公共信息的傳播對(duì)公域價(jià)值理性及時(shí)規(guī)正。但隨著媒體生態(tài)的變化，特別是移動(dòng)客戶端傳播的趨同化，公眾難以清晰辨別“主流媒體”和“商業(yè)媒體”，信源差異化傳遞造成公眾認(rèn)知與價(jià)值觀的對(duì)沖錯(cuò)位，直接體現(xiàn)為公共輿論場的紛爭與博弈，算法設(shè)計(jì)標(biāo)準(zhǔn)的偏差間接誘發(fā)公眾的理性迷失與群體極化。

（三）“信息繭房”的固化與沉浸消解公共領(lǐng)域的公共性

“信息繭房”對(duì)個(gè)人化議題的關(guān)注進(jìn)一步造成公眾之間、公眾與公共事務(wù)之間的隔絕與背離，影響了社會(huì)傳播場域公共性的形成與發(fā)揮。一方面，算法“黑箱”遮蔽了內(nèi)在推薦機(jī)制的運(yùn)行機(jī)理，將大量有價(jià)值的公共信息抽離于“信息繭房”之外；另一方面，信息繭房內(nèi)的信息趨同和公眾認(rèn)知固化，使得個(gè)體難以客觀理性地審視自身和評(píng)判他人，且在情緒的煽動(dòng)影響下形成不理性的觀點(diǎn)對(duì)立與表達(dá)沖突，觀點(diǎn)弱勢的群體在網(wǎng)絡(luò)環(huán)境中逐漸失聲，差異共在性在網(wǎng)絡(luò)公共領(lǐng)域亦被消解。

此外，為了累積注意力資源，商業(yè)主體甚至?xí)盟惴I造出高度沉浸的“繭房”環(huán)境，并不斷加固繭壁厚度，以獲取經(jīng)濟(jì)效益。公眾沉浸于個(gè)人私域，抽離了公共交往的可能性和必需性，逐漸喪失對(duì)公域的關(guān)注與參與，公共性進(jìn)一步被消解稀釋。

三、風(fēng)險(xiǎn)規(guī)避：面向算法的公共領(lǐng)域治理路徑

在前算法時(shí)代，媒體治理主要是對(duì)“人”的行為進(jìn)行規(guī)范。而在后算法時(shí)代，“人”在傳播環(huán)節(jié)中的位置后移，“算法”成為內(nèi)容信息和公眾間的新中介，登上前臺(tái)成為傳播的賦能者和塑造者。[6]在此前提下，我們有必要思考如何有效規(guī)范算法及重塑標(biāo)準(zhǔn)，以達(dá)到平衡工具理性和價(jià)值理性、回歸人的主體性以及網(wǎng)絡(luò)公共領(lǐng)域公共性的目的。

（一）遵循算法政策規(guī)制，實(shí)現(xiàn)工具理性和價(jià)值理性的平衡

政策規(guī)制是面向算法治理路徑的制度保障?！痘ヂ?lián)網(wǎng)平臺(tái)落實(shí)主體責(zé)任指南（征求意見稿）》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等文件的出臺(tái)，都明確了國內(nèi)對(duì)人工智能的算法治理主要是基于主體的治理范式，[7]政府主管部門、商業(yè)平臺(tái)媒體及新聞機(jī)構(gòu)等算法關(guān)涉主體需要共同參與，協(xié)同完善算法監(jiān)管評(píng)估機(jī)制和落實(shí)問責(zé)制，以推進(jìn)算法的工具理性和媒體的價(jià)值理性有機(jī)融合。

首先，需要進(jìn)一步完善由新聞主管部門或第三方機(jī)構(gòu)主導(dǎo)的算法監(jiān)管審查機(jī)制，加強(qiáng)對(duì)算法風(fēng)險(xiǎn)評(píng)估、數(shù)據(jù)真實(shí)性等的審查。以確保企業(yè)使用全面、可靠的數(shù)據(jù)進(jìn)行算法訓(xùn)練，在保護(hù)企業(yè)商業(yè)機(jī)密的同時(shí)履行算法告知義務(wù)，規(guī)避算法“黑箱”，發(fā)現(xiàn)潛在的算法歧視現(xiàn)象并及時(shí)糾偏，從而達(dá)成算法工具理性與信息傳播價(jià)值理性的平衡。

其次，應(yīng)進(jìn)一步完善落實(shí)算法問責(zé)制。對(duì)于算法決策的問責(zé)呈現(xiàn)為一種特定的、多主體參與和互動(dòng)的社會(huì)關(guān)系，其焦點(diǎn)在于公共理性的達(dá)成，以確保決策者能夠根據(jù)所有理性人都可接受的認(rèn)知和規(guī)范標(biāo)準(zhǔn)來解釋其系統(tǒng)的輸出，從而限制其算法決策的權(quán)力。同時(shí)還應(yīng)探索構(gòu)建一套凸顯“算法正義”的法律問責(zé)框架，實(shí)現(xiàn)算法決策“事前規(guī)制”與“事后問責(zé)”的治理閉環(huán)。

（二）完善算法人機(jī)協(xié)同生產(chǎn)，呼喚公眾的主體性回歸

首先，要加強(qiáng)對(duì)算法生成內(nèi)容層面的人工干預(yù)，對(duì)算法決策結(jié)果進(jìn)行適當(dāng)?shù)男拚⒄{(diào)整和優(yōu)化，確保內(nèi)容信息合乎社會(huì)倫理和價(jià)值規(guī)范。包括加大算法對(duì)優(yōu)質(zhì)賬號(hào)以及官方權(quán)威賬號(hào)的推送權(quán)重，常態(tài)化展示具有較高公共價(jià)值的信息；對(duì)嚴(yán)肅內(nèi)容加權(quán)，對(duì)娛樂內(nèi)容適度降權(quán)；對(duì)有思想深度的長視頻、長文章加權(quán)，對(duì)短而空、同質(zhì)化的視頻適度降權(quán)等。通過這些干預(yù)策略可以激發(fā)公眾創(chuàng)作優(yōu)質(zhì)內(nèi)容的積極性，發(fā)揮新媒介內(nèi)容對(duì)價(jià)值理性和公共性的社會(huì)建構(gòu)功能。

其次，構(gòu)建公共價(jià)值取向的行動(dòng)者網(wǎng)絡(luò)，發(fā)揮算法社會(huì)內(nèi)容創(chuàng)作主體的能動(dòng)性，實(shí)現(xiàn)多元主體的協(xié)同配合。一方面，算法平臺(tái)的內(nèi)容管理者應(yīng)牽頭建設(shè)內(nèi)部協(xié)同的“職責(zé)共識(shí)網(wǎng)絡(luò)”，將技術(shù)和運(yùn)營管理者納入其中，共同實(shí)現(xiàn)內(nèi)容標(biāo)準(zhǔn)的算法化以及激勵(lì)措施的合理化；另一方面，也需算法平臺(tái)外部的內(nèi)容創(chuàng)作者協(xié)同建立“規(guī)律共識(shí)網(wǎng)絡(luò)”，使有公共價(jià)值的內(nèi)容生產(chǎn)策略成為大多數(shù)內(nèi)容創(chuàng)作者的共識(shí)。[8]

公眾主體性回歸的核心在于人機(jī)關(guān)系的慎思與重塑。算法應(yīng)聚焦于服務(wù)人，而不是駕馭人。只有正確處理信息內(nèi)容的注意力數(shù)據(jù)與價(jià)值共識(shí)的關(guān)系，才能改善算法技術(shù)邏輯對(duì)公眾主體性的操控與侵蝕，將算法蘊(yùn)含的社會(huì)效益放大且合理變現(xiàn)，并最終外化為公共領(lǐng)域的治理效能，形成協(xié)同發(fā)起、協(xié)同感知和協(xié)同創(chuàng)造的驅(qū)動(dòng)力，為構(gòu)建網(wǎng)絡(luò)傳播有序化的媒介共同體提供可能。[9]

（三）優(yōu)化算法設(shè)計(jì)理念，重塑公共領(lǐng)域的公共性

關(guān)于公共信息的邊緣化、公共話語的割裂化以及公共交往的抽離化使得算法社會(huì)的公共性被消解稀釋的問題，可從參與式算法設(shè)計(jì)理念及介入式算法干預(yù)進(jìn)行有效平衡。

參與式算法設(shè)計(jì)理念旨在改變當(dāng)前算法設(shè)計(jì)中技術(shù)邏輯與商業(yè)邏輯主導(dǎo)的態(tài)勢，將其轉(zhuǎn)向社會(huì)主導(dǎo)或公共價(jià)值主導(dǎo)。[10]在處理算法公共性異化風(fēng)險(xiǎn)方面，應(yīng)當(dāng)將治理重點(diǎn)從算法設(shè)計(jì)開發(fā)的前端開始防范，以應(yīng)對(duì)算法作為主體產(chǎn)生的“非預(yù)期后果”。這需要算法利益主體共同協(xié)商，以算法“社會(huì)契約”的方式奠定算法運(yùn)行的價(jià)值基礎(chǔ)。由此，所有關(guān)涉主體的算法認(rèn)知、算法想象、算法體驗(yàn)及算法情境需求得到綜合考量，并為投入運(yùn)行后的算法監(jiān)管提供重要依據(jù)，助力公共領(lǐng)域公共性的實(shí)質(zhì)性提升。如麻省理工學(xué)院媒體實(shí)驗(yàn)室、世界經(jīng)濟(jì)論壇等多個(gè)機(jī)構(gòu)倡導(dǎo)者共同發(fā)起設(shè)立了“開放算法”（Open Algorithms）工程項(xiàng)目，意在增強(qiáng)算法設(shè)計(jì)中的公民主體參與，以更好地提升算法的公共價(jià)值。[11]

介入式算法干預(yù)主要指在了解算法運(yùn)行邏輯的基礎(chǔ)上，通過人的行為對(duì)算法偏見進(jìn)行干預(yù)式糾正與平衡。一方面，可以引入發(fā)布者“資格準(zhǔn)入”機(jī)制，僅允許經(jīng)過平臺(tái)認(rèn)證的、具有新聞/資訊發(fā)布資質(zhì)的主體發(fā)布權(quán)威公共信息，并進(jìn)行置頂提示和全用戶推送。另一方面，應(yīng)加強(qiáng)公民智媒素養(yǎng)的涵化培訓(xùn)，以最廣大公眾均能理解的方式推廣算法投喂的作用機(jī)理，提供“訓(xùn)練算法”的方式方法，幫助公眾“破繭”，獲得進(jìn)入公域空間的通道，參與公共事務(wù)的討論。

四、結(jié)語

烏爾里希·貝克在其論著中說道：“在現(xiàn)代化進(jìn)程中出現(xiàn)的自主化，也并不必然會(huì)別無選擇地走向失范的單行道?！盵12]這對(duì)算法社會(huì)公共領(lǐng)域的風(fēng)險(xiǎn)防范依然適用。我們必須承認(rèn)，算法重構(gòu)了我們的公共生活與交往，提供便利性、高效性的同時(shí)也伴生出新的問題。本文通過對(duì)算法社會(huì)公共領(lǐng)域的風(fēng)險(xiǎn)、成因進(jìn)行分析闡述，試圖探索一條圍繞算法展開的治理路徑，以平衡工具理性與價(jià)值理性，呼吁人的主體性回歸及社會(huì)公共性的重塑，以期為當(dāng)下的現(xiàn)實(shí)問題提供可借鑒的解決思路。

[本文為上海市哲學(xué)社科基金項(xiàng)目“城市數(shù)字化轉(zhuǎn)型背景下的新媒體數(shù)字化治理研究”（2021BXW008）階段性成果]

參考文獻(xiàn)：

[1]邱澤奇．技術(shù)化社會(huì)治理的異步困境［J］．社會(huì)發(fā)展研究，2018（ 5）：2－26．

[2]許鑫.媒介公共性與公共領(lǐng)域研究：議題、進(jìn)路與出路——基于文獻(xiàn)回顧和研究現(xiàn)狀的反思[J].深圳大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2014，31（3）：141-148.

[3]孔明安，劉嬋嬋.從“異化勞動(dòng)”到“拜物教”批判的內(nèi)在邏輯：兼及馬克思異化理論的重新審視[J].廈門大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，73（3）：21-28.

[4]劉志杰.算法把關(guān)失靈與編輯價(jià)值重塑[J].中國編輯，2020，125（5）：18-22.

[5]葉妮.虛實(shí)共生：數(shù)據(jù)驅(qū)動(dòng)時(shí)代的算法主體性、中介關(guān)系與治理邏輯[J].編輯之友，2023，321（5）：59-65.

[6]喻國明，耿曉夢.算法即媒介：算法范式對(duì)媒介邏輯的重構(gòu)[J].編輯之友，2020（7）：45-51.

[7]張欣.生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管[J].現(xiàn)代法學(xué)，2023，45（3）：108-123.

[8]胡泳，年欣.自由與馴化：流量、算法與資本控制下的短視頻創(chuàng)作[J].社會(huì)科學(xué)戰(zhàn)線，2022，324（6）：144-165+282.

[9]葉妮.虛實(shí)共生：數(shù)據(jù)驅(qū)動(dòng)時(shí)代的算法主體性、中介關(guān)系與治理邏輯[J].編輯之友，2023，321（5）：59-65.

[10]張海柱.算法治理中的算法公共性及其實(shí)現(xiàn)[J].自然辯證法通訊，2023，45（6）：18-27.

[11]Lepri，B.，Oliver，N.，Letouze，E.，et al.’Fair，Transparent，and A

ccountable Algorithmic Decision-making Processes’[J].Philosophy & Technology，2018，31：611-627.

[12]烏爾里?！へ惪?風(fēng)險(xiǎn)社會(huì)：新的現(xiàn)代性之路[M].張文杰，何博聞，譯.南京：譯林出版社，2018：296.

作者簡介：蘇衡，新聞學(xué)博士，上海工程技術(shù)大學(xué)外國語學(xué)院講師（上海 201620）。

編校：鄭 艷