算法應(yīng)用爭議及其治理路徑研究

秦文艷 趙澤旭

摘要：隨著智能時代的逐漸到來，算法技術(shù)幾乎開始浸潤到互聯(lián)網(wǎng)場景的每一個角落，與此同時，算法的全面性、系統(tǒng)性規(guī)制卻一直是世界數(shù)字制度建設(shè)的空白。目前，我國已在算法治理領(lǐng)域建立了初步的立法體系，但對于算法在新應(yīng)用領(lǐng)域出現(xiàn)的爭議事件，尚且需要在理論和實踐中展開進一步探索?！笆桌惴L(fēng)控系統(tǒng)侵權(quán)案”中法院指出涉案平臺在提供算法服務(wù)的同時履行了與之相匹配的注意義務(wù)，在算法應(yīng)用侵權(quán)責(zé)任認(rèn)定上具有一定指導(dǎo)意義。其中涉及的媒體、平臺、相關(guān)部門等多類行為主體也展現(xiàn)出算法協(xié)同治理的大趨勢。本文嘗試從媒體、平臺、法治等多個角度對算法治理路徑展開分析，為實現(xiàn)算法多元共治提供有效實踐經(jīng)驗。

關(guān)鍵詞：算法；框架理論；風(fēng)控系統(tǒng)；注意義務(wù)

一、案例引入

隨著智能時代悄然到來，算法技術(shù)幾乎開始浸潤到互聯(lián)網(wǎng)場景的每一個角落，逐漸發(fā)揮出驚人的作用。但在算法在各領(lǐng)域得到廣泛應(yīng)用的過程中，諸如“算法黑箱”“注意義務(wù)”“過錯認(rèn)定” 等一系列問題同樣引人深思。截至目前，我國已初步建立起算法治理的立法體系。頂層設(shè)計上，《“十四五” 數(shù)字經(jīng)濟發(fā)展規(guī)劃》指出加快構(gòu)建算力、算法、數(shù)據(jù)、應(yīng)用資源協(xié)同的全國一體化大數(shù)據(jù)中心體系。各類具體的算法活動也有相應(yīng)的規(guī)范，如算法在風(fēng)控領(lǐng)域的應(yīng)用：《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第九條中明確算法推薦服務(wù)提供者需按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定對不良信息乃至違法信息做出有效處置。但對于平臺算法應(yīng)用等行為的注意義務(wù)以及平臺參與社會治理的合理邊界等，相關(guān)政策與法律法規(guī)尚未有明確的適用標(biāo)準(zhǔn)和規(guī)范，還需在實踐中進一步展開探索。

2022年8月29日，北京互聯(lián)網(wǎng)法院就李某訴某公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案作出一審判決。此案主要圍繞被告運營的某征婚交友平臺展開，爭議焦點在于該平臺所采取的涉案算法風(fēng)控行為是否存在主觀過錯。審理中法院基于被告算法風(fēng)控行為的相關(guān)法律依據(jù)并參考其算法邏輯機理、技術(shù)水平等情況認(rèn)定被告設(shè)置“預(yù)防性風(fēng)控系統(tǒng)” 算法應(yīng)用的同時盡到了與之相匹配的注意義務(wù)，其系統(tǒng)誤判系技術(shù)水平所限而非主觀過錯。本案為全國首例涉及算法風(fēng)控系統(tǒng)引發(fā)人格權(quán)侵權(quán)糾紛的案件，具有廣泛社會影響力和關(guān)注度。學(xué)界肯定了“首例算法風(fēng)控系統(tǒng)侵權(quán)案” 在算法應(yīng)用于“風(fēng)險控制” 領(lǐng)域引發(fā)的侵權(quán)責(zé)任認(rèn)定上的指導(dǎo)意義，認(rèn)為其在算法風(fēng)控方面明確了合理的注意義務(wù)標(biāo)準(zhǔn)以及具體認(rèn)定因素，是平臺治理領(lǐng)域的典范。另外，媒體、平臺以及相關(guān)部門等多類主體在此次案件中的參與無疑也為算法治理路徑提供了新思路。筆者認(rèn)為可以嘗試從媒體、平臺、法治等多個角度入手，在理論和實踐的探索中逐步建立起算法協(xié)同治理的良好秩序。

二、理論梳理與文獻回顧

（一）新應(yīng)用領(lǐng)域下的算法爭議

相對于以往對表層信息流轉(zhuǎn)的控制，新應(yīng)用領(lǐng)域中的算法爭議進一步地深入到對公眾社會生活的規(guī)訓(xùn)。對于算法爭議，傳統(tǒng)研究多圍繞算法技術(shù)舊有應(yīng)用中存在的一些問題展開，如算法推薦、信息繭房等。具體到新聞傳播領(lǐng)域，相關(guān)研究大多集中于算法新聞倫理、算法新聞推薦等方面；對于算法在新興應(yīng)用領(lǐng)域所引發(fā)的相關(guān)爭議如算法風(fēng)控運用誤傷用戶權(quán)益等，還大多停留在對算法內(nèi)在局限與社會影響的分析上。另外，對于算法爭議背后的實質(zhì)核心，不同學(xué)者給出了不同見解：包括算法權(quán)力擴張導(dǎo)致媒介倫理困境；[1]傳播權(quán)力再分配；[2]對工具理性的推崇、信息體驗的追逐以及算法技術(shù)本身不完善[3]等。

（二）框架選擇與把關(guān)差異

1974年戈夫曼（Goffman）在《框架分析》中首次將框架（Farming）這個概念引入文化社會學(xué)的范疇，將其定義為“一種認(rèn)知、呈現(xiàn)事物、反映思想的架構(gòu)”。1980年托德·吉特林（T·Gitlin）在《新左派運動的媒介鏡像》中將框架解釋為選擇、強調(diào)和排除。傳入我國后，框架理論多被用來對媒體報道內(nèi)容進行質(zhì)化和量化分析，借以闡述媒體報道所傳播和呈現(xiàn)的意義。其中有部分研究關(guān)注到了媒體報道框架之間存在的差異對公眾乃至相關(guān)公共政策的影響。[4]

媒體的報道框架多體現(xiàn)在新聞報道的標(biāo)題、導(dǎo)語、引文、重要段落的組織和事實提供的先后順序上，從而為受眾提供不同的視角、思路和評判標(biāo)準(zhǔn)。甘姆森（Gamson）等人認(rèn)為，媒體框架（mediaframe）意味著媒體對人和事物的意義范圍的限制，是人們用以解釋社會現(xiàn)象的一套內(nèi)在結(jié)構(gòu)。媒體對社會事件在報道上的取舍，易受到個體、行業(yè)規(guī)范、組織、其他社會組織、社會意識形態(tài)等因素的影響，最終的把關(guān)結(jié)果將直接體現(xiàn)在報道框架上的差異。

（三）算法協(xié)同治理

算法在新興應(yīng)用領(lǐng)域中的諸多爭議更多還是技術(shù)與社會、政治關(guān)系之間的問題，而技術(shù)與人文的調(diào)和必然要涉及多種行為主體，算法的協(xié)同治理已是大勢所趨。對此，越來越多學(xué)者意識到算法廣泛應(yīng)用背后的系列問題并基于不同角度給出治理路徑。袁映雪、陳虹認(rèn)為可以通過技術(shù)路徑和傳播機制的雙重約束，形成多元把關(guān)防范和信息互動相輔的算法協(xié)同治理趨勢；[5]曾白凌認(rèn)為平臺責(zé)任在技術(shù)“切近性” 到來與面對“信息繭房” 時顯得更為迫切與必要；[6]彭桂兵、丁奕雯指出可從法治層面系統(tǒng)性明確平臺的法律責(zé)任界限。[7]綜上所述，當(dāng)前就算法多角度協(xié)同治理展開研究，已具備一定社會背景與理論基礎(chǔ)。

三、案例分析及其治理路徑

（一）媒體報道

1.框架分析

本文以“算法” 等為關(guān)鍵詞對各類媒體報道進行全文搜索，獲得樣本70篇，多集中于2022年11月到12月，剔除關(guān)聯(lián)度相對較低的文本29篇，有效樣本共計41篇。本文對這41篇文本進行框架分析，報道框架涉及三個方面：發(fā)布來源、新聞文體以及文本的價值取向。

其中黨政媒體關(guān)于此案的報道共5篇。作為權(quán)威話語主體，黨政媒體重點從宏觀角度切入，通過對案件意義、政策、相關(guān)法律法規(guī)的解讀以及進一步的指導(dǎo)性建議傳達對民眾算法相關(guān)合理權(quán)益的重視與關(guān)注，充分體現(xiàn)了其表達國家立場、引導(dǎo)主流價值的官方發(fā)言者身份。

政務(wù)媒體關(guān)于此案的報道共25篇。關(guān)注于我國相關(guān)法律制定和案件審理的具體過程以及結(jié)果，以事實情況為主要報道點。其文本內(nèi)容與黨政媒體有一定的重復(fù)內(nèi)容。相似度較高的部分主要集中于兩方面：一是在報道內(nèi)容中中性詞匯的大量使用；二是對與此案相關(guān)的法律政策和案件審理結(jié)果的著重解讀，以此響應(yīng)黨政媒體的權(quán)威性解讀，達到傳播效應(yīng)上的擴散。與黨政媒體不同的是政務(wù)媒體增加了法官乃至相關(guān)行業(yè)專家的針對性分析，在事實情況外又增添了新的解讀視角；此外作為政務(wù)媒體，其文本內(nèi)容在體量上要更為簡短精練，主題表達上也更直接集中。

市場化媒體關(guān)于此案的報道共7篇。注重從多個角度解讀案例內(nèi)容和審理過程，并增加了對案件公正處理以及其意義的評論，如對后續(xù)類似案例的樣本價值等。

專業(yè)媒體關(guān)于此案的報道共1篇。主要從算法技術(shù)、規(guī)則和法律專業(yè)的角度深度分析案件審理方向，總結(jié)算法治理的相關(guān)策略。

自媒體發(fā)布的有關(guān)文本共3篇。聚焦點更細化，表達形式更多元（包括短視頻的使用），主要通過兩個方面來表達觀點：一是進行信息陳述，對官方傳達的案件信息進行復(fù)述轉(zhuǎn)發(fā)，引導(dǎo)公眾關(guān)注轉(zhuǎn)向上述媒體的具體報道；二是通過提問的形式，對生活中“算法烏龍”“算法誤傷” 的具體現(xiàn)象展開討論，以期引發(fā)公眾對算法應(yīng)用及其爭議現(xiàn)象的新一輪熱議。

2.問題所在

對于算法在新興領(lǐng)域的應(yīng)用乃至因此產(chǎn)生的新型算法爭議，媒體的關(guān)注度有所欠缺。在僅有的一些相關(guān)報道中也存在著報道內(nèi)容同質(zhì)化的現(xiàn)象，即使在市場化媒體這一類中也缺乏對于事件本身的觀點輸出，整體比較保守。對此，媒體應(yīng)更有的放矢地進行主流價值的認(rèn)知引導(dǎo)，提高社會整體的算法認(rèn)知維度，積極參與到算法協(xié)同治理的過程中來。

（二）平臺

1.自治前提

平臺對算法的應(yīng)用過程具有披露義務(wù)。一方面是“算法黑箱” 的問題。算法應(yīng)用過程本身就存在技術(shù)隱蔽性，其運行決策原理大多隱藏在數(shù)據(jù)模式的迭代演變與復(fù)雜代碼之中，而算法設(shè)計規(guī)則、主體利益和意志導(dǎo)向偏差、使用者隱私權(quán)和社會公共利益保護也使得算法在主觀和客觀上必然會有一定的不透明性。另一方面對算法應(yīng)用侵權(quán)責(zé)任認(rèn)定的重要因素就是判斷涉案平臺是否有盡到與涉案算法風(fēng)險相匹配的注意義務(wù)，其依據(jù)之一就是涉案算法運行的機制機理。本案中，涉案平臺積極履行披露義務(wù)，針對其算法運用的具體機理予以充分說明，證實涉案侵權(quán)行為系算法技術(shù)不足所致。但需要注意的是此目的并不在于消除算法本身的不透明性，更多是借此來規(guī)范平臺的主體行為，使平臺的不透明性合理合法合規(guī)。

平臺需要提高自我監(jiān)督的責(zé)任意識。算法治理的本質(zhì)在于信息的合理利用，這一點離不開平臺的自我監(jiān)督與責(zé)任意識?；谄脚_的多重屬性以及其參與社會治理過程中國家的行政賦權(quán)，平臺行為混雜著公權(quán)和私權(quán)的錯位與模糊。對此，平臺需要提高自我監(jiān)督的責(zé)任意識，保障運營過程的合理合法。而自身行為目的和主觀意圖、行為手段和性質(zhì)以及身份特點所附注意義務(wù)正是其自我監(jiān)督所需要關(guān)注的重點。

2.自治手段

在本文案例中平臺盡到了與涉案算法行為相匹配的注意義務(wù)，但平臺自治還要求平臺及其背后的相關(guān)企業(yè)以謹(jǐn)慎、專業(yè)的態(tài)度正確審視算法應(yīng)用，注重技術(shù)可靠性和可控性，在算法開發(fā)和設(shè)計過程中通過多種手段充分保證算法決策的規(guī)范性和有效性；建立算法中的驗證糾錯機制，不斷完善和優(yōu)化算法設(shè)計；及時采取預(yù)防侵權(quán)的合理措施，在糾紛發(fā)生后更要及時處理，對受到權(quán)益損害的個體予以相應(yīng)補償。

（三）法治：算法多元共治的基礎(chǔ)

1.規(guī)制前提

雖然我國已經(jīng)在算法治理領(lǐng)域建立了初步的立法體系，但對于平臺算法應(yīng)用等行為的注意義務(wù)以及平臺參與社會治理的合理邊界等具體方面，相關(guān)政策與法律法規(guī)尚未完善。對此，本文案例就上述內(nèi)容做出了一定探索。一是明確標(biāo)準(zhǔn)：包括算法在不同應(yīng)用情境下的合理注意義務(wù)標(biāo)準(zhǔn)及具體認(rèn)定因素；二是平衡利益：本案中的要點之一在于用戶權(quán)益的充分保護與網(wǎng)絡(luò)平臺依據(jù)法律要求履行打擊電信詐騙等治理義務(wù)的行為之間的矛盾，法院從兩者平衡角度出發(fā)做出判決，在保障平臺可以繼續(xù)采取有效措施防范電信詐騙風(fēng)險的同時又補充了被算法“誤傷” 后的救濟途徑，對于構(gòu)建共治共享的算法安全秩序具有借鑒價值。

2.法治保障

一方面由于算法的不可預(yù)判性，即便當(dāng)下算法規(guī)則審查合理，但隨著算法本身外延式的延伸，算法結(jié)果依舊不可確定；另一方面算法應(yīng)用將平臺多重屬性的對立進一步放大，其公權(quán)與私權(quán)之間的矛盾與沖突不可避免。因此，在平臺自我監(jiān)督的同時也需要法律角度的調(diào)節(jié)與規(guī)范：在立法上明確平臺責(zé)任，規(guī)范其參與社會治理的過程；強化對平臺問責(zé)權(quán)力的獨立性，嘗試由有關(guān)部門聯(lián)合相關(guān)領(lǐng)域?qū)＜乙约暗谌叫袠I(yè)代表共同對平臺算法應(yīng)用情況展開定期審核評估；從法律層面保障算法技術(shù)的積極發(fā)展與運用，鼓勵其正向價值傳播，讓網(wǎng)絡(luò)發(fā)展成果惠及廣大人民群眾。

四、結(jié)束語

“首例算法風(fēng)控系統(tǒng)侵權(quán)案” 深入分析了算法應(yīng)用于“風(fēng)險控制” 領(lǐng)域構(gòu)成侵權(quán)的責(zé)任認(rèn)定因素以及注意義務(wù)標(biāo)準(zhǔn)，也展現(xiàn)出算法協(xié)同治理的大趨勢。應(yīng)當(dāng)看到，雖然我國已經(jīng)在算法治理領(lǐng)域建立了初步的法律體系，但對于算法在新應(yīng)用領(lǐng)域出現(xiàn)的各類糾紛，尚且需要展開進一步探索補充。對此，媒體應(yīng)增加對新興領(lǐng)域算法應(yīng)用的關(guān)注，做好主流價值的認(rèn)知引導(dǎo)，提高社會整體的算法認(rèn)知維度；平臺應(yīng)重視自身義務(wù)，不斷發(fā)展技術(shù)減少誤差、做好自我糾偏和侵權(quán)預(yù)防；在法治層面明確適用標(biāo)準(zhǔn)，對平臺算法應(yīng)用做出規(guī)制與監(jiān)督的同時平衡好各行為主體的利益。通過多途徑、多角度的算法協(xié)同治理，實現(xiàn)算法技術(shù)正向發(fā)展與應(yīng)用。

參考文獻：

[1] 吳飛，李含含.算法權(quán)力的獲得、運行隱患與規(guī)制[J].未來傳播，2021，28（5）：2-9+128.

[2] 尤紅.媒體融合智能化演進中的算法權(quán)力與風(fēng)險防范[J].南京社會科學(xué)，2019（7）：120-125+134.

[3] 尹凱民，梁懿.算法新聞的倫理爭議及審視[J].現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報），2021，43（9）：64.

[4] 常健，郝雅立.新聞議題框架對公共沖突治理的作用機制及其管理[J].國家行政學(xué)院學(xué)報，2018，115（04）：63-68+149.

[5] 袁映雪，陳虹.把關(guān)人視角下的算法技術(shù)認(rèn)知與治理出路研究[J].新媒體與社會，2022（01）：220–233.

[6] 曾白凌.媒介權(quán)力：論平臺在算法中的媒體責(zé)任[J].現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報），2021，43（10）：31–38.

[7] 彭桂兵，丁奕雯.智能傳播中短視頻平臺版權(quán)爭議及其治理路徑：兼評“首例算法推薦案”[J].新聞記者，2022（9）：86–96.