馴化“AI算法”：用戶體驗式治理的機制與策略*

北京市社會科學院社會學所 趙璐

2022年1月《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式出臺，規(guī)范智能算法已成為推進現(xiàn)代化社會治理的重要手段，算法治理也成為了當代社會治理必須面對的重要問題。我們需要法律、政策監(jiān)管、強調(diào)算法服務(wù)提供者的主體責任，也需要探索普通用戶參與算法治理的機制與策略，盡管“多元協(xié)同”社會治理中的用戶往往處于弱勢的結(jié)構(gòu)性位置，但是其本身的政策訴求、公共領(lǐng)域參與能動性以及與技術(shù)互動的實踐性都是參與算法治理的動因，促進科技向善、防范技術(shù)風險，需要發(fā)揮用戶的主體性力量?；诖吮疚膹乃惴夹g(shù)邏輯的監(jiān)管限度、“人－機”界面技術(shù)互動優(yōu)勢、用戶與平臺組織間的權(quán)益博弈能力等方面出發(fā)，探索用戶體驗式算法治理的可能性。

一、打開“算法黑箱”思維局限與監(jiān)管限度

隨著數(shù)字化技術(shù)的發(fā)展與應(yīng)用，算法日益成為數(shù)字社會的技術(shù)核心，甚至當前和將來社會都要面臨算法社會轉(zhuǎn)型的過程。這種調(diào)節(jié)社會及其內(nèi)部關(guān)系的技術(shù)化的社會規(guī)則，可以控制和影響社會現(xiàn)實與社會秩序。目前,社會科學領(lǐng)域研究在認識論層面不僅把算法作為技術(shù)框架的一環(huán)，也將其視為具有政治性、經(jīng)濟性、社會性、文化性的實踐過程。但往往過于看重強勢權(quán)力經(jīng)濟利益主體的主導作用，算法成為科技公司的技術(shù)門檻和商業(yè)競爭利益的技術(shù)專利，將社會大眾擋在門外，成為“技術(shù)黑箱”，逐漸走向神秘化甚至被妖魔化。因此，算法就成為了需要被干預進行技術(shù)調(diào)節(jié)的議題，將道德因素納入進來，實現(xiàn)“技術(shù)道德化”，算法應(yīng)該有正確的價值觀呼吁，使得引導技術(shù)向善成為學界與業(yè)界大力探討與踐行的行動方案。“算法監(jiān)管” 和“算法治理” 的研究在社會科學領(lǐng)域興盛起來。

從目前我國的政策監(jiān)管來看，我國對算法應(yīng)用的監(jiān)管立場基本采取包容審慎的態(tài)度，支持AI企業(yè)不斷創(chuàng)新和發(fā)展，同時兼顧政府、科技企業(yè)以及社會公眾的整體利益，不斷在鼓勵科技創(chuàng)新、追求科技向善、維護社會公共利益之間找平衡點。目前，圍繞算法應(yīng)用的社會風險的源頭主要是“算法黑箱”（自動化決策的不透明、難解釋性），并引發(fā)一系列公私權(quán)力失衡、社會歧視等問題。無論是政府監(jiān)管政策的動向還是公眾態(tài)度都在試圖打開“算法黑箱”，希望能夠通過建立算法所在技術(shù)系統(tǒng)運行過程及相關(guān)責任人的監(jiān)管舉措，追求算法透明度、解釋性以及技術(shù)責任標準的細化，進行風險防，從而范形成有效的約束機制。

但是，以當前的算法應(yīng)用業(yè)界實踐來看，比如騰訊研究院在《2022可解釋AI發(fā)展報告：打開黑箱的理念與實踐》中顯示：披露Al算法模型的源代碼是無效的方式，不僅無助于對AI算法模型的理解，反倒可能威脅數(shù)據(jù)隱私、商業(yè)秘密以及技術(shù)安全，其次，算法的透明性和解釋性不適宜所有應(yīng)用場景和用戶，比如，如果普通用戶認為算法決策是不公平或錯誤的，需要向用戶提供明白易懂的、非技術(shù)語言的解釋，與專業(yè)的審查人員或法律調(diào)查人員需要的恰當信息存在很大不同。而且，針對不同場景應(yīng)用的技術(shù)標準規(guī)范指南，也不具有現(xiàn)實意義，一方面存在現(xiàn)有技術(shù)能力限度，另一方面高昂的經(jīng)濟成本，會最終限制AI的社會發(fā)展和經(jīng)濟效益。

而且，目前的政府監(jiān)管機制尚在發(fā)展階段，對算法服務(wù)更多的是顯性層面的“應(yīng)然”式流程規(guī)范，比如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中的“監(jiān)督管理”，要想實現(xiàn)對算法服務(wù)推薦的者分級分類管理、備案系統(tǒng)填報信息需要留存時限，追責措施也需要完善。其次，國家進行技術(shù)治理仍然從行政發(fā)包制敦促技術(shù)服務(wù)主體履行法律責任和社會責任的邏輯出發(fā)，采取常規(guī)監(jiān)管、運動式治理方式（約談、專項行動、制裁等），雖然對技術(shù)的治理具有政治強制力，但國家權(quán)力與市場野性本身存在張力，由于政府監(jiān)管部門制定的一系列政策制度過于宏觀，且具有一定的寬泛性和模糊性，因此在技術(shù)化操作時，也給平臺公司留下了規(guī)則運作的可操作性空間，對技術(shù)實踐流程的動態(tài)實時治理有一定限制。所以，算法治理應(yīng)該納入多元協(xié)同的社會治理框架，充分發(fā)揮“全員”的社會力量。

二、用戶馴化“算法”：技術(shù)運作機制與實踐能動性

任何產(chǎn)品設(shè)計，設(shè)計師會將特定意義投射到正在開發(fā)的技術(shù)上，“配置”想象和理想化的用戶，無論是傳統(tǒng)的機器學習還是深度學習、強化學習，算法都要依賴于用戶自身屬性（用戶畫像）、界面互動中的行為反饋生成的訓練數(shù)據(jù)，必須生成和聚合用戶生成的數(shù)據(jù)，才能開始定義哪些信息應(yīng)該包含在分析、設(shè)想、計劃和執(zhí)行數(shù)據(jù)轉(zhuǎn)換的各個階段；另一方面，在這個過程中，用戶不是被動的觀察者。已有研究表明，用戶越來越認識到自己在塑造算法運作過程中所扮演的角色，并開始以政治、商業(yè)或游戲的方式策略性地干預算法實踐對注意力的分配。簡而言之，算法及其互動用戶可以相互建構(gòu)并相互協(xié)調(diào)，用戶有一定反干預能力。所以，治理算法，治理的不是算法本身，是積極地干預算法實踐過程產(chǎn)生的不良的社會性后果。在這過程中，即使是普通用戶都擁有基本的理性意識與實踐能力，所以必須再次審視用戶作為行動者在當代媒體環(huán)境中的作用，思考面向數(shù)字化平臺的內(nèi)容治理，用戶的能動屬性是否可以促進實現(xiàn)從平臺管理邁向“共生”治理的目標？

（一）“人－機”持續(xù)性互動影響算法實踐邏輯

普通用戶作為任何數(shù)字平臺組織的產(chǎn)品應(yīng)用者，都會進入人－機界面（APP）持續(xù)的互動當中，算法不僅確立了數(shù)字社會信息生產(chǎn)、消費、交易等規(guī)則，也在重組主體責任的分配。我們不可否認，數(shù)字平臺組織（商業(yè)性質(zhì)）承擔著算法設(shè)計的主體責任，但是數(shù)字平臺組織者也在設(shè)計、引導用戶參與算法治理。

首先，平臺組織方開展算法實踐，是對信息和用戶進行的識別、分類和推薦，算法連接著用戶自身與內(nèi)容的匹配，基于用戶的興趣偏好，經(jīng)由界面互動的行動反饋，時刻影響著算法計算內(nèi)容的匹配程度。但是對于大多數(shù)普通用戶而言，往往缺乏關(guān)于算法運行機制的技術(shù)知識與平臺內(nèi)實際操控算法運行的權(quán)力，算法實踐的過程對其是“技術(shù)黑箱”。但是普通用戶和算法實踐之間絕不是彼此孤立的存在，二者始終處于相互影響、相互發(fā)展的狀態(tài)。算法實踐塑造著普通用戶所處的信息環(huán)境，影響著普通用戶的態(tài)度和在線互動的情感體驗。

其次，用戶對算法的認知與情感體驗會引導自身主動訓練和調(diào)整算法，積極策劃個人所將要觸及的信息領(lǐng)域。用戶也能成為影響平臺算法實踐的行動者，通過與平臺算法實踐的情境互動，調(diào)節(jié)自身對算法實踐的信任程度，實施在某種程度上具有一定“規(guī)劃”算法實踐的策略和戰(zhàn)術(shù)。換句話說，算法實踐的技術(shù)特征（實時與社會的高度互動性）使得普通用戶也可以參與進來。比如，用戶可以利用平臺方提供的第三方標記反饋機制積極干預算法實踐的邏輯。第三方標記反饋機制允許人們針對AI系統(tǒng)提供使用上的反饋，常見的標記技術(shù)包括用戶反饋渠道（“點擊反饋”/“不喜歡”/“舉報”等按鈕），漏洞獎勵機制等，類似于機器學習的強化學習算法，實時響應(yīng)用戶偏好與行為，這種治理反饋渠道能夠方便用戶針對AI系統(tǒng)提供評價，從而形成一種有效的外部反饋與監(jiān)督。用戶反饋機制的優(yōu)勢在于允許用戶分享其經(jīng)歷與感知，讓用戶的意見被聽到，被認可。如果用戶認為自己的反饋被重視且采取了相應(yīng)的實踐行動，可以在AI和用戶之間形成正向循環(huán)，長此以往，不僅可以增進用戶對AI系統(tǒng)的信任，而且還可以對不良信息作出反饋，并以較低的成本參與到算法治理過程中來，不斷糾偏算法實踐的邏輯，實現(xiàn)人工智能技術(shù)更“智能”地輔助人類決策，提高經(jīng)濟社會效益。

（二）“用戶－平臺”組織的權(quán)益博弈倒逼AI算法進化

1.用戶參與算法治理的公共利益需求與心理動因

用戶參與算法治理具有潛在的社會心理機制。從人的行為層面上看，如果個體感知他人行為會產(chǎn)生不良后果，會存在“第三者效應(yīng)”，比如媒體信息不符合社會期待和主觀規(guī)范時，會傾向夸大其信息對他人、公眾造成的影響，并產(chǎn)生與其認知相應(yīng)的行動。從公眾群體層面來看，公眾會為負面信息事件積極尋找責任方，當公眾意識到自身無法控制不良后果后，首先會將責任歸咎于相關(guān)組織。如果算法在設(shè)計、應(yīng)用場景及輔助決策后果方面對公眾造成損失或者負面影響，可以借助平臺的力量進行改善，甚至是用輿論的力量倒逼平臺組織解決技術(shù)故障與利益糾紛。

2.善用用戶申訴機制、積極參與人工審查

一般而言，對于影響用戶重大權(quán)益的AI系統(tǒng)，提供者會給用戶提供申訴的渠道，以便可以引入人類審查，保障用戶的合法權(quán)益。從用戶角度看，一方面可以用掌控數(shù)據(jù)反饋的行為對AI算法進行負面評價，另一方面也可以善用平臺組織的申訴機制，比如“舉報”功能。通過引入用戶申訴和第三方審查機制，能夠?qū)I系統(tǒng)及其開發(fā)者形成有效監(jiān)督，也是實現(xiàn)AI負責任性的重要保障。比如，我國的《信息安全技術(shù)個人信息安全規(guī)范》《網(wǎng)絡(luò)安全標準實踐指南》等標準都對用戶的投訴、質(zhì)疑、反饋以及人工復核等機制作出了具體規(guī)定?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十二條明確提出，算法推薦服務(wù)提供者應(yīng)當設(shè)置便捷有效的用戶申訴和公眾投訴、舉報入口，明確處理流程和反饋時限，及時受理、處理并反饋處理結(jié)果”。面對用戶多元的權(quán)利訴求以及主動性控制信息流的策略與戰(zhàn)術(shù)，平臺組織內(nèi)部并不是沒有技術(shù)感知，甚至說算法實踐在對信息流的控制過程中也在時刻避免利益矛盾沖突的升級，平臺組織的的技術(shù)調(diào)試也在實時響應(yīng)，具體體現(xiàn)在用戶體驗指標化實時監(jiān)測、應(yīng)對公眾輿論場發(fā)酵的技術(shù)敏感性、算法模型／策略迭代升級等。

3.借助國家力量，“糾偏”算法“越軌”行為

在我國，無論是媒體組織還是數(shù)字平臺組織，約束其行業(yè)技術(shù)風險，最強的代理機構(gòu)都是政府。同樣，我國的算法治理工作，也是在強調(diào)平臺自我規(guī)范管理與政府規(guī)制的互動博弈當中發(fā)展前行?！罢O(jiān)管－平臺主體責任－公眾表達”這種治理結(jié)構(gòu)，存在一定的合理性與實踐性，也使得公眾認為國家力量始終對數(shù)字平臺組織保持強大的控制力，并能夠借助政府監(jiān)管機制“糾偏”平臺責任主體的“越軌”行為。在用戶自身利益受損的情況下，會積極向“有關(guān)部門”反映，向官媒發(fā)聲，主動尋求國家力量的庇護。比如，當用戶舉報視頻非法違規(guī)時，如果他們并沒有通過平臺內(nèi)部的反饋機制，而是直接向“有關(guān)部門”反映，這就形成了新的話語空間力量，也即用戶借助政府監(jiān)管部門之手來“整改”平臺的算法實踐。當用戶實名舉報“平臺內(nèi)容價值觀有問題，對用戶產(chǎn)生不良影響”時，平臺就會接到中央網(wǎng)信辦的通報。一旦這類用戶舉報事件頻發(fā)，平臺就有壓力對內(nèi)容生態(tài)進行整頓，加強算法審核系統(tǒng)在歷史回溯、排查方面的力度，推動內(nèi)部算法識別、內(nèi)容分發(fā)和推薦系統(tǒng)的聯(lián)動，從而加強對劣質(zhì)內(nèi)容的打壓和過濾。算法實踐有時會引發(fā)爭議的負面影響，比如信息繭房、殺熟、歧視、勞工權(quán)益保障等，對比統(tǒng)統(tǒng)可以通過當前我國國家治理資源的存量結(jié)構(gòu)，借助政府的監(jiān)管舉措、法律法規(guī)政策的出臺，得到公共利益表達與抗爭的機會。

三、提升用戶算法素養(yǎng)的關(guān)鍵：體驗式治理

算法治理離不開公私權(quán)力角力，也不能忽視用戶主體性的力量，如果我們想了解算法的社會力量，最重要的就是要了解用戶是如何與算法相遇并逐漸理解算法的，而這些經(jīng)驗反過來又會塑造用戶對算法系統(tǒng)的期望，也有助于塑造算法本身。普通用戶作為行為反饋循環(huán)中的重要一環(huán)，也在持續(xù)影響著個體與算法間互動的結(jié)果，影響著系統(tǒng)層面的設(shè)計變化甚至是平臺組織制度的再生產(chǎn)。

總結(jié)而言，用戶可以利用平臺的可供性持續(xù)不斷的豐富地算法想象，盡管平臺建構(gòu)的商業(yè)技術(shù)秩序具有權(quán)力不對等性，但是我們必須明白，算法實踐的邏輯是“寄生”于我們每一名普通用戶運用自身數(shù)據(jù)基礎(chǔ)之上的，用戶不僅僅是產(chǎn)品消費者，也是技術(shù)應(yīng)用者，更是最直接“在場”治理算法的實踐者。對于每一位生活在數(shù)字社會的個體，作為互聯(lián)網(wǎng)生態(tài)治理多元力量的一份子，技術(shù)認知的理性化、算法素養(yǎng)的提升代表著“共生”生態(tài)治理良性發(fā)展的方向。但是，提高算法素養(yǎng)不僅要靠教育增加專業(yè)知識積累，更是要在持續(xù)性技術(shù)互動實踐過程中，提供積極的、正向的、理性的行為反饋，不斷拓寬參與算法治理的行動空間。

另一方面，公眾是監(jiān)督技術(shù)風險的主體性力量，借助自身組織化的行動能力，要善用與商業(yè)平臺利益博弈的優(yōu)勢地位“用戶至上”—當用戶作為消費者時，往往不是被動意義上的技術(shù)客體。不僅算法系統(tǒng)運行機制需要迎合用戶的喜好，而且算法系統(tǒng)也要迎合用戶喜好的靈敏性，這是平臺獲取利益最關(guān)鍵的一環(huán)。用戶正是在這個意義上，成為建構(gòu)算法實踐的隱形力量，不斷重塑算法實踐的意義體系與規(guī)則體系。

最后，數(shù)字平臺治理并非簡單的政府制度監(jiān)管或者法律約束。真正實現(xiàn)數(shù)字平臺治理的“共生”發(fā)展，處理好平臺生態(tài)中共益伙伴（“生產(chǎn)－消費”）及相關(guān)利益群體之間的利益訴求平衡是第一要義，促使平臺組織治理能力的躍升，重塑平臺制度規(guī)范。所以，要發(fā)揮人民的力量，借助國家的監(jiān)管強制力，時刻推動平臺組織改進、優(yōu)化算法，推動算法治理共識性規(guī)則的建立。