馴化“AI算法”：用戶體驗(yàn)式治理的機(jī)制與策略*

北京市社會(huì)科學(xué)院社會(huì)學(xué)所 趙璐

2022年1月《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式出臺(tái)，規(guī)范智能算法已成為推進(jìn)現(xiàn)代化社會(huì)治理的重要手段，算法治理也成為了當(dāng)代社會(huì)治理必須面對(duì)的重要問(wèn)題。我們需要法律、政策監(jiān)管、強(qiáng)調(diào)算法服務(wù)提供者的主體責(zé)任，也需要探索普通用戶參與算法治理的機(jī)制與策略，盡管“多元協(xié)同”社會(huì)治理中的用戶往往處于弱勢(shì)的結(jié)構(gòu)性位置，但是其本身的政策訴求、公共領(lǐng)域參與能動(dòng)性以及與技術(shù)互動(dòng)的實(shí)踐性都是參與算法治理的動(dòng)因，促進(jìn)科技向善、防范技術(shù)風(fēng)險(xiǎn)，需要發(fā)揮用戶的主體性力量?；诖吮疚膹乃惴夹g(shù)邏輯的監(jiān)管限度、“人－機(jī)”界面技術(shù)互動(dòng)優(yōu)勢(shì)、用戶與平臺(tái)組織間的權(quán)益博弈能力等方面出發(fā)，探索用戶體驗(yàn)式算法治理的可能性。

一、打開“算法黑箱”思維局限與監(jiān)管限度

隨著數(shù)字化技術(shù)的發(fā)展與應(yīng)用，算法日益成為數(shù)字社會(huì)的技術(shù)核心，甚至當(dāng)前和將來(lái)社會(huì)都要面臨算法社會(huì)轉(zhuǎn)型的過(guò)程。這種調(diào)節(jié)社會(huì)及其內(nèi)部關(guān)系的技術(shù)化的社會(huì)規(guī)則，可以控制和影響社會(huì)現(xiàn)實(shí)與社會(huì)秩序。目前,社會(huì)科學(xué)領(lǐng)域研究在認(rèn)識(shí)論層面不僅把算法作為技術(shù)框架的一環(huán)，也將其視為具有政治性、經(jīng)濟(jì)性、社會(huì)性、文化性的實(shí)踐過(guò)程。但往往過(guò)于看重強(qiáng)勢(shì)權(quán)力經(jīng)濟(jì)利益主體的主導(dǎo)作用，算法成為科技公司的技術(shù)門檻和商業(yè)競(jìng)爭(zhēng)利益的技術(shù)專利，將社會(huì)大眾擋在門外，成為“技術(shù)黑箱”，逐漸走向神秘化甚至被妖魔化。因此，算法就成為了需要被干預(yù)進(jìn)行技術(shù)調(diào)節(jié)的議題，將道德因素納入進(jìn)來(lái)，實(shí)現(xiàn)“技術(shù)道德化”，算法應(yīng)該有正確的價(jià)值觀呼吁，使得引導(dǎo)技術(shù)向善成為學(xué)界與業(yè)界大力探討與踐行的行動(dòng)方案。“算法監(jiān)管” 和“算法治理” 的研究在社會(huì)科學(xué)領(lǐng)域興盛起來(lái)。

從目前我國(guó)的政策監(jiān)管來(lái)看，我國(guó)對(duì)算法應(yīng)用的監(jiān)管立場(chǎng)基本采取包容審慎的態(tài)度，支持AI企業(yè)不斷創(chuàng)新和發(fā)展，同時(shí)兼顧政府、科技企業(yè)以及社會(huì)公眾的整體利益，不斷在鼓勵(lì)科技創(chuàng)新、追求科技向善、維護(hù)社會(huì)公共利益之間找平衡點(diǎn)。目前，圍繞算法應(yīng)用的社會(huì)風(fēng)險(xiǎn)的源頭主要是“算法黑箱”（自動(dòng)化決策的不透明、難解釋性），并引發(fā)一系列公私權(quán)力失衡、社會(huì)歧視等問(wèn)題。無(wú)論是政府監(jiān)管政策的動(dòng)向還是公眾態(tài)度都在試圖打開“算法黑箱”，希望能夠通過(guò)建立算法所在技術(shù)系統(tǒng)運(yùn)行過(guò)程及相關(guān)責(zé)任人的監(jiān)管舉措，追求算法透明度、解釋性以及技術(shù)責(zé)任標(biāo)準(zhǔn)的細(xì)化，進(jìn)行風(fēng)險(xiǎn)防，從而范形成有效的約束機(jī)制。

但是，以當(dāng)前的算法應(yīng)用業(yè)界實(shí)踐來(lái)看，比如騰訊研究院在《2022可解釋AI發(fā)展報(bào)告：打開黑箱的理念與實(shí)踐》中顯示：披露Al算法模型的源代碼是無(wú)效的方式，不僅無(wú)助于對(duì)AI算法模型的理解，反倒可能威脅數(shù)據(jù)隱私、商業(yè)秘密以及技術(shù)安全，其次，算法的透明性和解釋性不適宜所有應(yīng)用場(chǎng)景和用戶，比如，如果普通用戶認(rèn)為算法決策是不公平或錯(cuò)誤的，需要向用戶提供明白易懂的、非技術(shù)語(yǔ)言的解釋，與專業(yè)的審查人員或法律調(diào)查人員需要的恰當(dāng)信息存在很大不同。而且，針對(duì)不同場(chǎng)景應(yīng)用的技術(shù)標(biāo)準(zhǔn)規(guī)范指南，也不具有現(xiàn)實(shí)意義，一方面存在現(xiàn)有技術(shù)能力限度，另一方面高昂的經(jīng)濟(jì)成本，會(huì)最終限制AI的社會(huì)發(fā)展和經(jīng)濟(jì)效益。

而且，目前的政府監(jiān)管機(jī)制尚在發(fā)展階段，對(duì)算法服務(wù)更多的是顯性層面的“應(yīng)然”式流程規(guī)范，比如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中的“監(jiān)督管理”，要想實(shí)現(xiàn)對(duì)算法服務(wù)推薦的者分級(jí)分類管理、備案系統(tǒng)填報(bào)信息需要留存時(shí)限，追責(zé)措施也需要完善。其次，國(guó)家進(jìn)行技術(shù)治理仍然從行政發(fā)包制敦促技術(shù)服務(wù)主體履行法律責(zé)任和社會(huì)責(zé)任的邏輯出發(fā)，采取常規(guī)監(jiān)管、運(yùn)動(dòng)式治理方式（約談、專項(xiàng)行動(dòng)、制裁等），雖然對(duì)技術(shù)的治理具有政治強(qiáng)制力，但國(guó)家權(quán)力與市場(chǎng)野性本身存在張力，由于政府監(jiān)管部門制定的一系列政策制度過(guò)于宏觀，且具有一定的寬泛性和模糊性，因此在技術(shù)化操作時(shí)，也給平臺(tái)公司留下了規(guī)則運(yùn)作的可操作性空間，對(duì)技術(shù)實(shí)踐流程的動(dòng)態(tài)實(shí)時(shí)治理有一定限制。所以，算法治理應(yīng)該納入多元協(xié)同的社會(huì)治理框架，充分發(fā)揮“全員”的社會(huì)力量。

二、用戶馴化“算法”：技術(shù)運(yùn)作機(jī)制與實(shí)踐能動(dòng)性

任何產(chǎn)品設(shè)計(jì)，設(shè)計(jì)師會(huì)將特定意義投射到正在開發(fā)的技術(shù)上，“配置”想象和理想化的用戶，無(wú)論是傳統(tǒng)的機(jī)器學(xué)習(xí)還是深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)，算法都要依賴于用戶自身屬性（用戶畫像）、界面互動(dòng)中的行為反饋生成的訓(xùn)練數(shù)據(jù)，必須生成和聚合用戶生成的數(shù)據(jù)，才能開始定義哪些信息應(yīng)該包含在分析、設(shè)想、計(jì)劃和執(zhí)行數(shù)據(jù)轉(zhuǎn)換的各個(gè)階段；另一方面，在這個(gè)過(guò)程中，用戶不是被動(dòng)的觀察者。已有研究表明，用戶越來(lái)越認(rèn)識(shí)到自己在塑造算法運(yùn)作過(guò)程中所扮演的角色，并開始以政治、商業(yè)或游戲的方式策略性地干預(yù)算法實(shí)踐對(duì)注意力的分配。簡(jiǎn)而言之，算法及其互動(dòng)用戶可以相互建構(gòu)并相互協(xié)調(diào)，用戶有一定反干預(yù)能力。所以，治理算法，治理的不是算法本身，是積極地干預(yù)算法實(shí)踐過(guò)程產(chǎn)生的不良的社會(huì)性后果。在這過(guò)程中，即使是普通用戶都擁有基本的理性意識(shí)與實(shí)踐能力，所以必須再次審視用戶作為行動(dòng)者在當(dāng)代媒體環(huán)境中的作用，思考面向數(shù)字化平臺(tái)的內(nèi)容治理，用戶的能動(dòng)屬性是否可以促進(jìn)實(shí)現(xiàn)從平臺(tái)管理邁向“共生”治理的目標(biāo)？

（一）“人－機(jī)”持續(xù)性互動(dòng)影響算法實(shí)踐邏輯

普通用戶作為任何數(shù)字平臺(tái)組織的產(chǎn)品應(yīng)用者，都會(huì)進(jìn)入人－機(jī)界面（APP）持續(xù)的互動(dòng)當(dāng)中，算法不僅確立了數(shù)字社會(huì)信息生產(chǎn)、消費(fèi)、交易等規(guī)則，也在重組主體責(zé)任的分配。我們不可否認(rèn)，數(shù)字平臺(tái)組織（商業(yè)性質(zhì)）承擔(dān)著算法設(shè)計(jì)的主體責(zé)任，但是數(shù)字平臺(tái)組織者也在設(shè)計(jì)、引導(dǎo)用戶參與算法治理。

首先，平臺(tái)組織方開展算法實(shí)踐，是對(duì)信息和用戶進(jìn)行的識(shí)別、分類和推薦，算法連接著用戶自身與內(nèi)容的匹配，基于用戶的興趣偏好，經(jīng)由界面互動(dòng)的行動(dòng)反饋，時(shí)刻影響著算法計(jì)算內(nèi)容的匹配程度。但是對(duì)于大多數(shù)普通用戶而言，往往缺乏關(guān)于算法運(yùn)行機(jī)制的技術(shù)知識(shí)與平臺(tái)內(nèi)實(shí)際操控算法運(yùn)行的權(quán)力，算法實(shí)踐的過(guò)程對(duì)其是“技術(shù)黑箱”。但是普通用戶和算法實(shí)踐之間絕不是彼此孤立的存在，二者始終處于相互影響、相互發(fā)展的狀態(tài)。算法實(shí)踐塑造著普通用戶所處的信息環(huán)境，影響著普通用戶的態(tài)度和在線互動(dòng)的情感體驗(yàn)。

其次，用戶對(duì)算法的認(rèn)知與情感體驗(yàn)會(huì)引導(dǎo)自身主動(dòng)訓(xùn)練和調(diào)整算法，積極策劃個(gè)人所將要觸及的信息領(lǐng)域。用戶也能成為影響平臺(tái)算法實(shí)踐的行動(dòng)者，通過(guò)與平臺(tái)算法實(shí)踐的情境互動(dòng)，調(diào)節(jié)自身對(duì)算法實(shí)踐的信任程度，實(shí)施在某種程度上具有一定“規(guī)劃”算法實(shí)踐的策略和戰(zhàn)術(shù)。換句話說(shuō)，算法實(shí)踐的技術(shù)特征（實(shí)時(shí)與社會(huì)的高度互動(dòng)性）使得普通用戶也可以參與進(jìn)來(lái)。比如，用戶可以利用平臺(tái)方提供的第三方標(biāo)記反饋機(jī)制積極干預(yù)算法實(shí)踐的邏輯。第三方標(biāo)記反饋機(jī)制允許人們針對(duì)AI系統(tǒng)提供使用上的反饋，常見(jiàn)的標(biāo)記技術(shù)包括用戶反饋渠道（“點(diǎn)擊反饋”/“不喜歡”/“舉報(bào)”等按鈕），漏洞獎(jiǎng)勵(lì)機(jī)制等，類似于機(jī)器學(xué)習(xí)的強(qiáng)化學(xué)習(xí)算法，實(shí)時(shí)響應(yīng)用戶偏好與行為，這種治理反饋渠道能夠方便用戶針對(duì)AI系統(tǒng)提供評(píng)價(jià)，從而形成一種有效的外部反饋與監(jiān)督。用戶反饋機(jī)制的優(yōu)勢(shì)在于允許用戶分享其經(jīng)歷與感知，讓用戶的意見(jiàn)被聽到，被認(rèn)可。如果用戶認(rèn)為自己的反饋被重視且采取了相應(yīng)的實(shí)踐行動(dòng)，可以在AI和用戶之間形成正向循環(huán)，長(zhǎng)此以往，不僅可以增進(jìn)用戶對(duì)AI系統(tǒng)的信任，而且還可以對(duì)不良信息作出反饋，并以較低的成本參與到算法治理過(guò)程中來(lái)，不斷糾偏算法實(shí)踐的邏輯，實(shí)現(xiàn)人工智能技術(shù)更“智能”地輔助人類決策，提高經(jīng)濟(jì)社會(huì)效益。

（二）“用戶－平臺(tái)”組織的權(quán)益博弈倒逼AI算法進(jìn)化

1.用戶參與算法治理的公共利益需求與心理動(dòng)因

用戶參與算法治理具有潛在的社會(huì)心理機(jī)制。從人的行為層面上看，如果個(gè)體感知他人行為會(huì)產(chǎn)生不良后果，會(huì)存在“第三者效應(yīng)”，比如媒體信息不符合社會(huì)期待和主觀規(guī)范時(shí)，會(huì)傾向夸大其信息對(duì)他人、公眾造成的影響，并產(chǎn)生與其認(rèn)知相應(yīng)的行動(dòng)。從公眾群體層面來(lái)看，公眾會(huì)為負(fù)面信息事件積極尋找責(zé)任方，當(dāng)公眾意識(shí)到自身無(wú)法控制不良后果后，首先會(huì)將責(zé)任歸咎于相關(guān)組織。如果算法在設(shè)計(jì)、應(yīng)用場(chǎng)景及輔助決策后果方面對(duì)公眾造成損失或者負(fù)面影響，可以借助平臺(tái)的力量進(jìn)行改善，甚至是用輿論的力量倒逼平臺(tái)組織解決技術(shù)故障與利益糾紛。

2.善用用戶申訴機(jī)制、積極參與人工審查

一般而言，對(duì)于影響用戶重大權(quán)益的AI系統(tǒng)，提供者會(huì)給用戶提供申訴的渠道，以便可以引入人類審查，保障用戶的合法權(quán)益。從用戶角度看，一方面可以用掌控?cái)?shù)據(jù)反饋的行為對(duì)AI算法進(jìn)行負(fù)面評(píng)價(jià)，另一方面也可以善用平臺(tái)組織的申訴機(jī)制，比如“舉報(bào)”功能。通過(guò)引入用戶申訴和第三方審查機(jī)制，能夠?qū)I系統(tǒng)及其開發(fā)者形成有效監(jiān)督，也是實(shí)現(xiàn)AI負(fù)責(zé)任性的重要保障。比如，我國(guó)的《信息安全技術(shù)個(gè)人信息安全規(guī)范》《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南》等標(biāo)準(zhǔn)都對(duì)用戶的投訴、質(zhì)疑、反饋以及人工復(fù)核等機(jī)制作出了具體規(guī)定?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十二條明確提出，算法推薦服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷有效的用戶申訴和公眾投訴、舉報(bào)入口，明確處理流程和反饋時(shí)限，及時(shí)受理、處理并反饋處理結(jié)果”。面對(duì)用戶多元的權(quán)利訴求以及主動(dòng)性控制信息流的策略與戰(zhàn)術(shù)，平臺(tái)組織內(nèi)部并不是沒(méi)有技術(shù)感知，甚至說(shuō)算法實(shí)踐在對(duì)信息流的控制過(guò)程中也在時(shí)刻避免利益矛盾沖突的升級(jí)，平臺(tái)組織的的技術(shù)調(diào)試也在實(shí)時(shí)響應(yīng)，具體體現(xiàn)在用戶體驗(yàn)指標(biāo)化實(shí)時(shí)監(jiān)測(cè)、應(yīng)對(duì)公眾輿論場(chǎng)發(fā)酵的技術(shù)敏感性、算法模型／策略迭代升級(jí)等。

3.借助國(guó)家力量，“糾偏”算法“越軌”行為

在我國(guó)，無(wú)論是媒體組織還是數(shù)字平臺(tái)組織，約束其行業(yè)技術(shù)風(fēng)險(xiǎn)，最強(qiáng)的代理機(jī)構(gòu)都是政府。同樣，我國(guó)的算法治理工作，也是在強(qiáng)調(diào)平臺(tái)自我規(guī)范管理與政府規(guī)制的互動(dòng)博弈當(dāng)中發(fā)展前行?！罢O(jiān)管－平臺(tái)主體責(zé)任－公眾表達(dá)”這種治理結(jié)構(gòu)，存在一定的合理性與實(shí)踐性，也使得公眾認(rèn)為國(guó)家力量始終對(duì)數(shù)字平臺(tái)組織保持強(qiáng)大的控制力，并能夠借助政府監(jiān)管機(jī)制“糾偏”平臺(tái)責(zé)任主體的“越軌”行為。在用戶自身利益受損的情況下，會(huì)積極向“有關(guān)部門”反映，向官媒發(fā)聲，主動(dòng)尋求國(guó)家力量的庇護(hù)。比如，當(dāng)用戶舉報(bào)視頻非法違規(guī)時(shí)，如果他們并沒(méi)有通過(guò)平臺(tái)內(nèi)部的反饋機(jī)制，而是直接向“有關(guān)部門”反映，這就形成了新的話語(yǔ)空間力量，也即用戶借助政府監(jiān)管部門之手來(lái)“整改”平臺(tái)的算法實(shí)踐。當(dāng)用戶實(shí)名舉報(bào)“平臺(tái)內(nèi)容價(jià)值觀有問(wèn)題，對(duì)用戶產(chǎn)生不良影響”時(shí)，平臺(tái)就會(huì)接到中央網(wǎng)信辦的通報(bào)。一旦這類用戶舉報(bào)事件頻發(fā)，平臺(tái)就有壓力對(duì)內(nèi)容生態(tài)進(jìn)行整頓，加強(qiáng)算法審核系統(tǒng)在歷史回溯、排查方面的力度，推動(dòng)內(nèi)部算法識(shí)別、內(nèi)容分發(fā)和推薦系統(tǒng)的聯(lián)動(dòng)，從而加強(qiáng)對(duì)劣質(zhì)內(nèi)容的打壓和過(guò)濾。算法實(shí)踐有時(shí)會(huì)引發(fā)爭(zhēng)議的負(fù)面影響，比如信息繭房、殺熟、歧視、勞工權(quán)益保障等，對(duì)比統(tǒng)統(tǒng)可以通過(guò)當(dāng)前我國(guó)國(guó)家治理資源的存量結(jié)構(gòu)，借助政府的監(jiān)管舉措、法律法規(guī)政策的出臺(tái)，得到公共利益表達(dá)與抗?fàn)幍臋C(jī)會(huì)。

三、提升用戶算法素養(yǎng)的關(guān)鍵：體驗(yàn)式治理

算法治理離不開公私權(quán)力角力，也不能忽視用戶主體性的力量，如果我們想了解算法的社會(huì)力量，最重要的就是要了解用戶是如何與算法相遇并逐漸理解算法的，而這些經(jīng)驗(yàn)反過(guò)來(lái)又會(huì)塑造用戶對(duì)算法系統(tǒng)的期望，也有助于塑造算法本身。普通用戶作為行為反饋循環(huán)中的重要一環(huán)，也在持續(xù)影響著個(gè)體與算法間互動(dòng)的結(jié)果，影響著系統(tǒng)層面的設(shè)計(jì)變化甚至是平臺(tái)組織制度的再生產(chǎn)。

總結(jié)而言，用戶可以利用平臺(tái)的可供性持續(xù)不斷的豐富地算法想象，盡管平臺(tái)建構(gòu)的商業(yè)技術(shù)秩序具有權(quán)力不對(duì)等性，但是我們必須明白，算法實(shí)踐的邏輯是“寄生”于我們每一名普通用戶運(yùn)用自身數(shù)據(jù)基礎(chǔ)之上的，用戶不僅僅是產(chǎn)品消費(fèi)者，也是技術(shù)應(yīng)用者，更是最直接“在場(chǎng)”治理算法的實(shí)踐者。對(duì)于每一位生活在數(shù)字社會(huì)的個(gè)體，作為互聯(lián)網(wǎng)生態(tài)治理多元力量的一份子，技術(shù)認(rèn)知的理性化、算法素養(yǎng)的提升代表著“共生”生態(tài)治理良性發(fā)展的方向。但是，提高算法素養(yǎng)不僅要靠教育增加專業(yè)知識(shí)積累，更是要在持續(xù)性技術(shù)互動(dòng)實(shí)踐過(guò)程中，提供積極的、正向的、理性的行為反饋，不斷拓寬參與算法治理的行動(dòng)空間。

另一方面，公眾是監(jiān)督技術(shù)風(fēng)險(xiǎn)的主體性力量，借助自身組織化的行動(dòng)能力，要善用與商業(yè)平臺(tái)利益博弈的優(yōu)勢(shì)地位“用戶至上”—當(dāng)用戶作為消費(fèi)者時(shí)，往往不是被動(dòng)意義上的技術(shù)客體。不僅算法系統(tǒng)運(yùn)行機(jī)制需要迎合用戶的喜好，而且算法系統(tǒng)也要迎合用戶喜好的靈敏性，這是平臺(tái)獲取利益最關(guān)鍵的一環(huán)。用戶正是在這個(gè)意義上，成為建構(gòu)算法實(shí)踐的隱形力量，不斷重塑算法實(shí)踐的意義體系與規(guī)則體系。

最后，數(shù)字平臺(tái)治理并非簡(jiǎn)單的政府制度監(jiān)管或者法律約束。真正實(shí)現(xiàn)數(shù)字平臺(tái)治理的“共生”發(fā)展，處理好平臺(tái)生態(tài)中共益伙伴（“生產(chǎn)－消費(fèi)”）及相關(guān)利益群體之間的利益訴求平衡是第一要義，促使平臺(tái)組織治理能力的躍升，重塑平臺(tái)制度規(guī)范。所以，要發(fā)揮人民的力量，借助國(guó)家的監(jiān)管強(qiáng)制力，時(shí)刻推動(dòng)平臺(tái)組織改進(jìn)、優(yōu)化算法，推動(dòng)算法治理共識(shí)性規(guī)則的建立。