算法權(quán)力的獲得、運(yùn)行隱患與規(guī)制

吳 飛，李含含

(1.浙江大學(xué)傳媒與國(guó)際文化學(xué)院，浙江杭州310058；2.西北政法大學(xué)新聞傳播學(xué)院，陜西西安710063)

一、問(wèn)題的提出

2021年5月13日，工信部發(fā)文表示，之前通報(bào)的93家存在侵害用戶(hù)權(quán)益行為APP企業(yè)的名單中尚有39款A(yù)PP未按照要求完成整改。[1]這已經(jīng)是2021年第三批通報(bào)的有關(guān)APP侵害用戶(hù)權(quán)益文件，而此文件中所涉及的APP正是我們經(jīng)常使用的一些軟件。某時(shí)報(bào)記者曾經(jīng)做過(guò)一個(gè)實(shí)驗(yàn)，他把手機(jī)放到一邊，自己跟朋友聊天，講到最近想吃日料，緊接著他打開(kāi)外賣(mài)軟件，發(fā)現(xiàn)首屏推薦里竟然就出現(xiàn)了日料店。后來(lái)他把聊天關(guān)鍵詞改成了海鮮、火鍋等，APP的推薦竟然也跟著產(chǎn)生相應(yīng)改變，準(zhǔn)確率可以達(dá)到80%。當(dāng)然我們可以說(shuō)這個(gè)實(shí)驗(yàn)不嚴(yán)謹(jǐn)不科學(xué)，但真相究竟是怎樣的呢？

“人工智能”概念在1956年的達(dá)特茅斯會(huì)議中首次被提出，指的是制造智能設(shè)備來(lái)開(kāi)發(fā)相關(guān)程序，從而延伸和擴(kuò)展人類(lèi)智能的技術(shù)。[2]從13世紀(jì)歐洲哲學(xué)家拉蒙·柳利最早提出“邏輯機(jī)”的設(shè)想，到1955年美國(guó)科學(xué)家約翰·麥卡錫第一次明確提出“人工智能”一詞，[3]再到谷歌公司的阿爾法狗戰(zhàn)勝世界頂尖圍棋選手李世石，人工智能技術(shù)正在影響著社會(huì)生活的方方面面，對(duì)新聞傳播領(lǐng)域尤是如此。一方面，人工智能對(duì)新聞生產(chǎn)全鏈條的滲透拓展著傳播疆域，另一方面，其可能帶來(lái)的技術(shù)中心主義、權(quán)力操控等也在新聞傳播中埋下了諸多風(fēng)險(xiǎn)。

算法是人工智能時(shí)代的產(chǎn)物，可以說(shuō)算法的優(yōu)劣直接決定人工智能水平高低，算法幾乎是人工智能的靈魂。算法最早用于計(jì)算機(jī)領(lǐng)域，是指解題方案準(zhǔn)確而完整的描述，是一系列解決問(wèn)題的清晰指令，算法代表著用系統(tǒng)的方法描述解決問(wèn)題的策略機(jī)制。[4]在傳媒領(lǐng)域，算法可以作為一種機(jī)器指令被應(yīng)用于新聞采集、生產(chǎn)、分發(fā)等各個(gè)階段。而算法推薦是指依托互聯(lián)網(wǎng)技術(shù)與大數(shù)據(jù)技術(shù)，對(duì)用戶(hù)的閱讀偏好進(jìn)行跟蹤，經(jīng)過(guò)計(jì)算分析后得出用戶(hù)畫(huà)像，并據(jù)此進(jìn)行新聞生產(chǎn)與分發(fā)。[5]當(dāng)下算法類(lèi)軟件正迅猛發(fā)展，算法軟件推薦的內(nèi)容紛繁復(fù)雜，算法推薦造就了算法內(nèi)容的流量王國(guó)。時(shí)至今日，算法已經(jīng)成為國(guó)內(nèi)資訊類(lèi)APP的“標(biāo)配”，今日頭條、一點(diǎn)資訊、天天快報(bào)等，無(wú)不以算法作為其核心配置。[6]算法推薦本該是為了更好地服務(wù)用戶(hù)，而當(dāng)下算法推薦內(nèi)容的過(guò)度窄化、軟件對(duì)算法的過(guò)度推崇等則與之初衷背道而馳。我們一方面享受算法給我們帶來(lái)的個(gè)性化內(nèi)容，另一方面又擔(dān)心沉溺于此。因此，無(wú)論學(xué)界還是業(yè)界，都有必要對(duì)這一傾向保持冷靜的態(tài)度，并思考算法權(quán)力究竟從何而來(lái)？算法權(quán)力運(yùn)行又會(huì)給我們帶來(lái)什么隱患？我們又該如何進(jìn)行規(guī)制？

二、算法權(quán)力的獲得

(一)用戶(hù)賦予

算法權(quán)力的獲得是用戶(hù)賦予的。同一生態(tài)甚至使用同一插件的不同軟件之間普遍存在著共享信息現(xiàn)象，也就是說(shuō)如果A軟件沒(méi)有獲得用戶(hù)權(quán)限，但當(dāng)它的好兄弟B軟件獲得了該用戶(hù)權(quán)限，那么B軟件就會(huì)把它得到的信息共享給A。不少用戶(hù)對(duì)此存在疑問(wèn)：這難道不是泄露個(gè)人隱私嗎？誰(shuí)給它的權(quán)力？答案是：你給的。點(diǎn)開(kāi)這些APP的“個(gè)人隱私協(xié)議”后我們會(huì)發(fā)現(xiàn)，95%以上的軟件都會(huì)有一個(gè)條款寫(xiě)著它要把用戶(hù)的個(gè)人信息共享給第三方或者合作伙伴，美其名曰“為了更好地服務(wù)你”。而這些“個(gè)人隱私協(xié)議”都是用戶(hù)為了能夠順利使用此軟件才被迫同意的“霸王協(xié)議”。因此，可以說(shuō)一些算法軟件權(quán)力的獲得其實(shí)是在用戶(hù)點(diǎn)擊“我已閱讀并同意此條款”的那一刻就已經(jīng)開(kāi)始了。

算法權(quán)力的運(yùn)行高度依賴(lài)數(shù)據(jù)，而數(shù)據(jù)的采集方式主要是用戶(hù)在互聯(lián)網(wǎng)留下的數(shù)字痕跡和個(gè)人信息。未來(lái)媒體趨勢(shì)中所談到的若干個(gè)技術(shù)，大多是基于用戶(hù)的個(gè)人數(shù)據(jù)分析之上的，但這樣的一種底層邏輯實(shí)則侵犯了用戶(hù)隱私。在網(wǎng)絡(luò)信息技術(shù)高度發(fā)達(dá)的今天，用戶(hù)的一切網(wǎng)上行為都處于一種被“監(jiān)視”的狀態(tài)，這些被讓渡出來(lái)的用戶(hù)信息如果不慎泄露，將會(huì)嚴(yán)重?fù)p害個(gè)人隱私權(quán)。[7]個(gè)人“表演舞臺(tái)之后的自我”逐漸被技術(shù)剝離出來(lái)，成為資本掌握的流量本源。算法時(shí)代的新聞運(yùn)作流程背后，實(shí)際上與?？隆叭氨O(jiān)獄”所描繪的場(chǎng)景不謀而合，人人暴露在數(shù)據(jù)抓取模式下，一切行為都毫無(wú)掩藏。智能化時(shí)代我們(用戶(hù))每一個(gè)人都是囚牢中央、全域焦點(diǎn)的毫無(wú)隱私的個(gè)體。當(dāng)然，用戶(hù)也在極力地想要爬出這座受監(jiān)控的牢籠?；谏鲜鰰r(shí)報(bào)記者的實(shí)驗(yàn)，不少用戶(hù)試圖用方言溝通交流來(lái)規(guī)避此類(lèi)隱私的泄露，但目前人工智能已經(jīng)發(fā)展到可以識(shí)別20種以上的方言，準(zhǔn)確率達(dá)到97%以上，這一規(guī)避方法無(wú)異于杯水車(chē)薪。

值得關(guān)注的是，愈演愈烈的算法權(quán)力傾向必定有其背后的用戶(hù)需求。當(dāng)前，受眾選擇信息的目的性和個(gè)性化大大增強(qiáng)，主體地位進(jìn)一步凸顯，部分網(wǎng)絡(luò)用戶(hù)有著強(qiáng)烈的獵奇心理和個(gè)人領(lǐng)地意識(shí)，對(duì)符合自己口味的內(nèi)容趨之若鶩，算法權(quán)力也是出于對(duì)這些用戶(hù)的迎合。

(二)利益驅(qū)使

首先，算法權(quán)力的驅(qū)動(dòng)力是經(jīng)濟(jì)層面的利益考量。大多數(shù)傳統(tǒng)媒體機(jī)構(gòu)是“事業(yè)單位、企業(yè)化經(jīng)營(yíng)”，算法軟件開(kāi)發(fā)公司或者新型媒體企業(yè)在市場(chǎng)化的大環(huán)境下生存與較量，兩者的共通點(diǎn)在于其生產(chǎn)的產(chǎn)品都要拿到市場(chǎng)上檢驗(yàn)。算法相關(guān)軟件和媒體機(jī)構(gòu)的投入、運(yùn)行本身就是出于商業(yè)邏輯考量，通俗來(lái)說(shuō)就是為了追求經(jīng)濟(jì)利益。一方面，算法技術(shù)的研發(fā)與運(yùn)行保障等都需要大量的資金支持，資本自然而然就介入了算法運(yùn)行，算法權(quán)力也就相伴而生。另一方面，算法軟件和媒體機(jī)構(gòu)公司本身可能存在追求算法經(jīng)濟(jì)的情況。隨著互聯(lián)網(wǎng)的不間斷發(fā)展，信息以指數(shù)函數(shù)的速度急劇增加，以前所未有的力量沖擊著社會(huì)的政治、經(jīng)濟(jì)和文化，改變著人類(lèi)社會(huì)的結(jié)構(gòu)和形態(tài)，并推動(dòng)著信息時(shí)代的到來(lái)。[8]在這個(gè)信息爆炸的時(shí)代，各種媒體機(jī)構(gòu)為了追求廣告收入等經(jīng)濟(jì)利益的最大化，一味追求“流量至上”和“閱讀率”“點(diǎn)擊率”，依賴(lài)于算法形成的“投其所好”，長(zhǎng)此以往，媒體機(jī)構(gòu)沉迷于這種智能依賴(lài)，自然而然會(huì)驅(qū)動(dòng)算法權(quán)力的進(jìn)一步“擴(kuò)張”。

其次，算法權(quán)力的驅(qū)動(dòng)力是政治目的的追求。人工智能的技術(shù)本質(zhì)是算法，而算法的社會(huì)本質(zhì)則是一種權(quán)力。[9]大多數(shù)情況下，權(quán)力涉及政治層面的含義，而最早把權(quán)力與傳播聯(lián)系在一起的是法國(guó)哲學(xué)家?？?。在《規(guī)訓(xùn)與懲罰》一書(shū)中，?？伦⒁獾阶鳛樵?huà)語(yǔ)的知識(shí)是如何與權(quán)力嫁接、互相助長(zhǎng)，并被運(yùn)用到現(xiàn)實(shí)實(shí)踐之中對(duì)某些特殊群體形成規(guī)訓(xùn)作用。[10]算法權(quán)力是掌握算法技術(shù)的個(gè)人和企業(yè)利用自身的技術(shù)優(yōu)勢(shì)和行業(yè)便利，把控社會(huì)資源及信息，引導(dǎo)政府做出決策，從而形成的一股不可小覷的力量。[11]馬克斯·韋伯認(rèn)為，“權(quán)力意味著在一種社會(huì)關(guān)系里哪怕是遇到反對(duì)也能貫徹自己意志的任何機(jī)會(huì)，不管這種機(jī)會(huì)是建立在什么基礎(chǔ)之上?！盵12]表面而言，算法能夠?qū)Ω鞣N資源、信息等進(jìn)行整合、分析并進(jìn)行個(gè)性化的分發(fā)、推送，但實(shí)際上是算法在將信息、用戶(hù)、傳播等相連的同時(shí)也在行使一種社會(huì)權(quán)力。算法權(quán)力利用社會(huì)中現(xiàn)存的信息數(shù)據(jù)，通過(guò)對(duì)其進(jìn)行學(xué)習(xí)分析進(jìn)而將其自身價(jià)值轉(zhuǎn)換為一種“準(zhǔn)公權(quán)力”，從而實(shí)現(xiàn)對(duì)社會(huì)進(jìn)行控制的目的。[13]也就是說(shuō)，算法背后的權(quán)力中心可能通過(guò)不斷發(fā)展的算法技術(shù)來(lái)表達(dá)自己的價(jià)值觀與思想，使這種通過(guò)“話(huà)語(yǔ)”傳播的權(quán)力實(shí)現(xiàn)經(jīng)濟(jì)或者政治上的利益與目的，從而能夠?qū)崿F(xiàn)對(duì)社會(huì)的控制。

三、算法權(quán)力運(yùn)行隱患

(一)媒介倫理困境：數(shù)據(jù)挖掘、二次利用帶來(lái)隱私權(quán)讓渡

對(duì)于一般用戶(hù)而言，算法技術(shù)的應(yīng)用離不開(kāi)大數(shù)據(jù)的挖掘與處理，盡管精準(zhǔn)描繪用戶(hù)畫(huà)像提高了用戶(hù)消費(fèi)信息的效率，但用戶(hù)的數(shù)據(jù)泄露與隱私保護(hù)的難題也隨之而來(lái)。在線索采集階段，算法需要在互聯(lián)網(wǎng)、社會(huì)化媒體上采集碎片化數(shù)據(jù)并結(jié)構(gòu)化處理來(lái)生成新聞內(nèi)容；在內(nèi)容分發(fā)階段，需要收集用戶(hù)瀏覽記錄從而實(shí)現(xiàn)精準(zhǔn)推送。算法權(quán)力的實(shí)現(xiàn)高度依賴(lài)數(shù)據(jù)，在此過(guò)程中，用戶(hù)隱私權(quán)逐漸讓渡，用戶(hù)在媒介接觸過(guò)程中留下的數(shù)字痕跡，成為媒體實(shí)現(xiàn)算法推薦的數(shù)據(jù)支撐，信息安全問(wèn)題成為媒介亟待解決的倫理困境。如何保護(hù)數(shù)據(jù)、如何評(píng)估風(fēng)險(xiǎn)、如何防止數(shù)據(jù)泄露、如何保護(hù)用戶(hù)隱私等都亟待完善。

在當(dāng)下用戶(hù)數(shù)據(jù)化生存的網(wǎng)絡(luò)世界中，用戶(hù)不得不讓渡自己的隱私來(lái)?yè)Q取權(quán)利的同時(shí)還面臨數(shù)據(jù)泄露后被二次利用的危險(xiǎn)。林更新病歷泄露、對(duì)德陽(yáng)女醫(yī)生的曝光等都表明隱私保護(hù)成為新聞媒體的一大難題。2019年6月底，Spotify就因過(guò)度收集數(shù)據(jù)引發(fā)爭(zhēng)議。隱私坍塌的背后，也正是當(dāng)前被遺忘權(quán)難以保障的無(wú)奈現(xiàn)狀。正如?？滤f(shuō)：“我們的社會(huì)不是奇觀社會(huì)，而是監(jiān)視社會(huì)?！盵14]智媒時(shí)代背景下，個(gè)人隱私數(shù)據(jù)是享受技術(shù)福利的根本，因此就難以避免對(duì)用戶(hù)隱私的侵犯。同時(shí)，目前大部分應(yīng)用軟件存在的“霸王條款”，不注冊(cè)、不同意使用用戶(hù)數(shù)據(jù)則無(wú)法使用軟件，加劇了對(duì)用戶(hù)隱私的侵犯。如何平衡用戶(hù)的信息安全與保障用戶(hù)的體驗(yàn)與傳播效果，是新聞傳播業(yè)亟待解決的問(wèn)題。

(二)職業(yè)退場(chǎng)危機(jī)：機(jī)進(jìn)人退，新聞工作者的角色讓渡

1.從“艦隊(duì)街”到“硅谷”，傳統(tǒng)媒體淪為內(nèi)容供應(yīng)者

傳統(tǒng)新聞生產(chǎn)主要由人工采寫(xiě)，耗時(shí)長(zhǎng)且流程繁雜。當(dāng)前，人工智能與算法技術(shù)滲透到新聞生產(chǎn)流程的每一個(gè)環(huán)節(jié)。如：大數(shù)據(jù)技術(shù)支撐著受眾前饋的生成；傳感器拓展了新聞采集的維度，實(shí)現(xiàn)了多元素材的及時(shí)采集；機(jī)器寫(xiě)作依托大數(shù)據(jù)技術(shù)，通過(guò)預(yù)先設(shè)定的算法程序，對(duì)數(shù)據(jù)進(jìn)行快速抓取、分析并生成新聞文本，推動(dòng)新聞采寫(xiě)高效化，加快了新聞產(chǎn)出的效率。通過(guò)人機(jī)協(xié)同的形式，人工智能與算法技術(shù)精準(zhǔn)重塑新聞生產(chǎn)模式，提高了新聞的時(shí)效性和精準(zhǔn)性，新聞業(yè)務(wù)實(shí)踐的全鏈條正在逐步由智能技術(shù)所重塑。

借助于人工智能的發(fā)展，資本逐漸入侵新聞傳播領(lǐng)域，社交媒體逐漸成為閱讀新聞的平臺(tái)。技術(shù)和資本對(duì)新聞行業(yè)的沖擊，實(shí)質(zhì)上是從“艦隊(duì)街”轉(zhuǎn)向“硅谷”的新聞主導(dǎo)權(quán)的轉(zhuǎn)移。而傳統(tǒng)媒體為了尋求渠道，不得不高度依賴(lài)平臺(tái)，從而淪為平臺(tái)的內(nèi)容供應(yīng)者，新聞業(yè)也將被邊緣化。但在挖掘有效新聞線索方面，人工智能的有效性并不高。一方面，機(jī)器寫(xiě)作已經(jīng)自動(dòng)化、常規(guī)化，局限于特定題材和模板，并不具備人類(lèi)的思考能力和判斷能力，其生產(chǎn)的新聞產(chǎn)品僅僅是信息的簡(jiǎn)單堆砌，難以在“深度”報(bào)道與創(chuàng)造力上媲美人類(lèi)。另一方面，機(jī)器難以捕捉和分析相對(duì)復(fù)雜的事實(shí)與事實(shí)之間的關(guān)聯(lián)，也難以挖掘事實(shí)背后的因果邏輯進(jìn)行價(jià)值判斷，因此也就難以超越事實(shí)的表象。與機(jī)器相比，職業(yè)媒體人的優(yōu)勢(shì)不僅體現(xiàn)在其價(jià)值判斷和專(zhuān)業(yè)闡釋能力上，還體現(xiàn)在文字表達(dá)上。信息的機(jī)械化、模式化生產(chǎn)弱化了記者的主觀表達(dá)和訴求，導(dǎo)致新聞內(nèi)容的淺層化、同質(zhì)化，缺乏深度思考與價(jià)值判斷，這使得本應(yīng)有思想、有情感的報(bào)道淪為冷冰冰的數(shù)字代碼，丟棄了溫度和本真，也就無(wú)法與公眾產(chǎn)生內(nèi)心共鳴。

2.從“社會(huì)公器”到“盈利機(jī)構(gòu)”，把關(guān)標(biāo)準(zhǔn)異化，輿論引導(dǎo)難度增加

技術(shù)消解著把關(guān)權(quán)力，輿論引導(dǎo)難度增強(qiáng)。人工智能的應(yīng)用雖然提高了把關(guān)的精準(zhǔn)性，但算法技術(shù)同時(shí)也在消解著新聞從業(yè)者的把關(guān)權(quán)力。與過(guò)去由專(zhuān)業(yè)的媒介工作者擔(dān)任的傳統(tǒng)人工把關(guān)不同，依托于機(jī)器算法的智能把關(guān)使得專(zhuān)業(yè)把關(guān)人的功能弱化，也使得新聞價(jià)值規(guī)律讓位于用戶(hù)興趣，傳統(tǒng)的議程設(shè)置者和新聞把關(guān)人讓位于算法程序。而具有商業(yè)性質(zhì)的算法推薦把關(guān)標(biāo)準(zhǔn)，會(huì)使媒體機(jī)構(gòu)從“社會(huì)公器”滑向“盈利機(jī)構(gòu)”，假新聞、標(biāo)題黨、后真相等問(wèn)題層出不窮，媒體權(quán)威性與公信力大大降低，輿論引導(dǎo)能力降低。此外人工智能基于算法對(duì)內(nèi)容的審查更多是迎合用戶(hù)喜好，其背后隱含的偏見(jiàn)和歧視在將用戶(hù)困于信息繭房之時(shí)，也損害了新聞媒體作為“社會(huì)公器”的形象?；谧陨砼d趣的算法把關(guān)將用戶(hù)囿于自己建構(gòu)的繭房中，減少了對(duì)公共事務(wù)的關(guān)注與參與，社會(huì)被割裂為各種細(xì)分群體，無(wú)法形成溝通與交流，也使得輿論引導(dǎo)難度增加。

(三)價(jià)值坐標(biāo)游移：算法偏見(jiàn)對(duì)新聞專(zhuān)業(yè)地位的挑戰(zhàn)

如上文所述，算法權(quán)力對(duì)新聞工作者的內(nèi)容生產(chǎn)、把關(guān)標(biāo)準(zhǔn)造成威脅，長(zhǎng)此以往，算法權(quán)力甚至對(duì)整個(gè)新聞業(yè)的價(jià)值坐標(biāo)與導(dǎo)向產(chǎn)生影響，比如目前所存在的算法偏見(jiàn)對(duì)新聞專(zhuān)業(yè)主義的挑戰(zhàn)。算法偏見(jiàn)其實(shí)是人工智能制造下隱藏的一種偏見(jiàn)。算法看上去是客觀、公正的，但事實(shí)上它也隱藏著偏見(jiàn)。由于人工智能是學(xué)習(xí)人類(lèi)過(guò)往經(jīng)驗(yàn)而形成的智能化機(jī)器，所以本身帶有隱藏著的群體固化、標(biāo)簽化、模板化，造成對(duì)某些報(bào)道群體的污名化和傾向性報(bào)道。相較而言，傳統(tǒng)的傳播效果研究更關(guān)注傳播內(nèi)容本身對(duì)人的影響，傳播政治經(jīng)濟(jì)學(xué)派更強(qiáng)調(diào)關(guān)注傳播背后的權(quán)力中心，算法推薦形成的是批判學(xué)派所言的“假意識(shí)”，政治與經(jīng)濟(jì)組織仍處于權(quán)力中心，表面理性的數(shù)據(jù)背后隱藏著權(quán)力結(jié)構(gòu)。算法推薦中所滿(mǎn)足的用戶(hù)需求淪為人為構(gòu)建的“假意識(shí)”而存在，“把關(guān)”后移，新聞業(yè)地位削弱。另一方面，機(jī)器借助大數(shù)據(jù)、算法程序?qū)崿F(xiàn)新聞信息迅速生成，提高新聞生產(chǎn)效率的同時(shí)卻消解了媒體的價(jià)值引導(dǎo)力。量化算法動(dòng)搖了新聞的價(jià)值坐標(biāo)，流量至上的邏輯驅(qū)使新聞的專(zhuān)業(yè)性更難堅(jiān)守，媒體權(quán)威性在一定程度上被消解。

正如英國(guó)學(xué)者斯科特·拉什(Scott Lash)所說(shuō)，在一個(gè)媒體和代碼無(wú)處不在的社會(huì)，權(quán)力越來(lái)越存在于算法之中。[15]個(gè)性化分發(fā)的應(yīng)用使得內(nèi)容分發(fā)的權(quán)力由編輯轉(zhuǎn)向了算法，而以“用戶(hù)為中心”的算法分發(fā)更多是以“點(diǎn)擊量”“瀏覽量”等作為新聞價(jià)值的終極考量，極容易造成假新聞、謠言、低俗內(nèi)容的大量傳播，真正有價(jià)值的新聞卻被隱藏在算法的黑箱中，這是對(duì)新聞專(zhuān)業(yè)地位的挑戰(zhàn)與踐踏。在“一切皆可量化”的邏輯思維下，算法只會(huì)根據(jù)新聞的閱讀點(diǎn)擊率去判斷新聞價(jià)值，與傳統(tǒng)新聞專(zhuān)業(yè)主義價(jià)值觀相悖，更與新聞從業(yè)者本身所肩負(fù)的人文關(guān)懷、社會(huì)告知與權(quán)力監(jiān)督等使命相悖，使得傳統(tǒng)意義上新聞的專(zhuān)業(yè)地位產(chǎn)生動(dòng)搖。

(四)價(jià)值導(dǎo)向缺失：隱藏的技術(shù)權(quán)力中心加劇不平等

除了對(duì)一般用戶(hù)、新聞工作者、新聞業(yè)造成威脅之外，對(duì)社會(huì)現(xiàn)狀而言，資本把控算法技術(shù)，這種隱藏的技術(shù)權(quán)力中心也加劇了社會(huì)上的不平等現(xiàn)象。算法和大數(shù)據(jù)的迅速發(fā)展使得新聞分發(fā)更加精確，實(shí)現(xiàn)了尼葛洛龐帝口中“我的日?qǐng)?bào)”的預(yù)言。具體而言，算法通過(guò)對(duì)數(shù)據(jù)的收集、清洗、分析能夠精準(zhǔn)定位用戶(hù)畫(huà)像，推薦用戶(hù)感興趣的信息，增強(qiáng)用戶(hù)黏性。例如今日頭條的算法分發(fā)機(jī)制精確定位了用戶(hù)喜好。在智能技術(shù)出現(xiàn)之前，專(zhuān)業(yè)媒體或權(quán)威機(jī)構(gòu)是新聞傳播領(lǐng)域的顯性權(quán)力中心，而技術(shù)賦權(quán)使得集權(quán)式傳播格局開(kāi)始向分權(quán)式轉(zhuǎn)變，但這并不意味著人工智能時(shí)代的傳播格局不再受權(quán)力宰制。掌握技術(shù)或數(shù)據(jù)的背后組織力量已成為新的權(quán)力中心。大數(shù)據(jù)和AI時(shí)代也成就了諸如微軟、谷歌、騰訊、阿里等一大批超國(guó)家實(shí)體，它們的用戶(hù)遍布全球，對(duì)數(shù)據(jù)和算法的控制力在某些領(lǐng)域甚至超越了不少主權(quán)國(guó)家，是AI時(shí)代不可小覷的算法權(quán)力新貴，擁有強(qiáng)大的支配力。[16]受眾的數(shù)據(jù)畫(huà)像、新聞分發(fā)的機(jī)制、新聞搜索結(jié)果的呈現(xiàn)等均可被其掌控，且這種掌控更為隱蔽和廣泛，這對(duì)新聞倫理的規(guī)范和新聞行業(yè)的規(guī)制提出了新的難題。出于商業(yè)考量，企業(yè)的算法一般是非公開(kāi)的，這就形成了算法黑箱，算法所包含的一些歧視和偏見(jiàn)很可能成為企業(yè)發(fā)展自身利益的工具，掌握數(shù)據(jù)技術(shù)的企業(yè)和個(gè)人成為新的權(quán)力中心，形成了數(shù)據(jù)霸權(quán)，引發(fā)數(shù)字獨(dú)裁。長(zhǎng)此以往，將不利于構(gòu)建媒介與用戶(hù)之間的信任關(guān)系，加劇社會(huì)不平等現(xiàn)象。

四、算法權(quán)力的規(guī)制

(一)培養(yǎng)算法工作者和用戶(hù)的素養(yǎng)，從源頭上保障隱私權(quán)利

算法權(quán)力主體對(duì)大量信息的掌握會(huì)導(dǎo)致用戶(hù)失去隱私和主體性?xún)r(jià)值。[17]正如舍恩伯格在《刪除：大數(shù)據(jù)的取舍之道》中所言：“在今天這個(gè)時(shí)代，遺忘成為例外，記憶成為常態(tài)，人們住進(jìn)了數(shù)字化的圓形監(jiān)獄。[18]隱私坍塌的背后，也正是當(dāng)前被遺忘權(quán)難以保障的無(wú)奈現(xiàn)狀。技術(shù)本身是中性的，沒(méi)有偏見(jiàn)，但研發(fā)技術(shù)的人有。算法背后的“打工人”、資本和科技巨頭等都不是中性的。過(guò)度的算法權(quán)力與算法背后的“人”的素質(zhì)密切相關(guān)。他們對(duì)于這一新興技術(shù)及其所產(chǎn)生的影響缺乏全面且理性的認(rèn)識(shí)，大多是為了完成工作任務(wù)或者追求經(jīng)濟(jì)效益。同時(shí)，為了迎合受眾喜好，算法軟件的傳播內(nèi)容趨向大眾化、平民化。面對(duì)此種情形，算法及平臺(tái)工作人員應(yīng)該提高自身素養(yǎng)，理性看待算法權(quán)力，合理運(yùn)用智能力量，在設(shè)計(jì)算法時(shí)遵循一定的倫理常識(shí)。對(duì)于算法從業(yè)者來(lái)說(shuō)，應(yīng)自覺(jué)遵守國(guó)家、行業(yè)和平臺(tái)層面的規(guī)范和標(biāo)準(zhǔn)，堅(jiān)守倫理道德和價(jià)值觀念，在法律和道德的指導(dǎo)下設(shè)計(jì)自己的軟件和程序。從業(yè)者還應(yīng)意識(shí)到算法軟件對(duì)社會(huì)的影響和媒體人的社會(huì)責(zé)任，明確算法權(quán)力的度在哪里，積極打造優(yōu)質(zhì)、富有正能量的算法軟件?；ヂ?lián)網(wǎng)是有記憶的，對(duì)于普通用戶(hù)而言，應(yīng)該注意個(gè)人信息的保護(hù)，不隨意將涉及個(gè)人隱私的信息(如身份證號(hào)、銀行卡號(hào)等)上傳到算法軟件上，及時(shí)刪除瀏覽記錄，進(jìn)行相應(yīng)的隱私設(shè)置，發(fā)現(xiàn)隱私權(quán)等合法權(quán)益受侵害要及時(shí)運(yùn)用法律武器保護(hù)自己。需要明確的是，“被遺忘權(quán)”是一項(xiàng)法定權(quán)利，而且是一種值得受到法定保護(hù)的價(jià)值或利益，權(quán)利主體有權(quán)要求數(shù)據(jù)存儲(chǔ)方刪除自己或他人放置到互聯(lián)網(wǎng)上的、令其尷尬的照片或者其他數(shù)據(jù)信息，除非數(shù)據(jù)的保存和使用為法律規(guī)定的維持公共利益的正常運(yùn)作所必需。[19]同時(shí)，用戶(hù)應(yīng)培養(yǎng)積極健康的內(nèi)容品位，以之取代過(guò)度的獵奇心理、低級(jí)趣味和窺視欲，提升個(gè)人的媒介素養(yǎng)，自覺(jué)抵制低俗的推薦內(nèi)容，對(duì)算法軟件進(jìn)行監(jiān)督，共同營(yíng)造張弛有度、和諧向上的網(wǎng)絡(luò)環(huán)境。

(二)培養(yǎng)新型人才，拓展多維視野，在新聞生產(chǎn)上占據(jù)優(yōu)勢(shì)

相較于算法工作人員，媒體及行業(yè)工作人員同時(shí)還面對(duì)著人工智能時(shí)代帶來(lái)的退場(chǎng)危機(jī)，這要求他們以更加包容、開(kāi)放和創(chuàng)新的心態(tài)面對(duì)算法權(quán)力，同時(shí)提高自身媒介素養(yǎng)，為傳統(tǒng)媒體和算法平臺(tái)提供最優(yōu)質(zhì)的內(nèi)容生產(chǎn)。我們應(yīng)該引進(jìn)和培養(yǎng)更多兼具專(zhuān)業(yè)性知識(shí)和互聯(lián)網(wǎng)思維的新型人才，做到持續(xù)的內(nèi)容深耕，保持主流媒體的競(jìng)爭(zhēng)力和活力。應(yīng)該提倡和鼓勵(lì)新聞從業(yè)者“一專(zhuān)多能”，但是“多能”的前提是“一專(zhuān)”。能夠在深挖題材、增加報(bào)道深度的基礎(chǔ)上，發(fā)揮互聯(lián)網(wǎng)思維的新聞從業(yè)者，才是未來(lái)推動(dòng)媒介融合發(fā)展的必要力量。雖說(shuō)國(guó)家已出臺(tái)政策加強(qiáng)校企合作項(xiàng)目，高校也開(kāi)設(shè)了人工智能等相關(guān)專(zhuān)業(yè)，但同時(shí)具備人工智能技術(shù)和新聞傳播知識(shí)的人才仍十分匱乏，且從業(yè)人員素質(zhì)參差不齊。因此，在強(qiáng)人工智能時(shí)代到來(lái)之前，新聞媒體人和算法工作者還需做好相應(yīng)的知識(shí)儲(chǔ)備和實(shí)踐基礎(chǔ)，以核心競(jìng)爭(zhēng)力推動(dòng)人工智能對(duì)新聞媒體的發(fā)展，以更高的知識(shí)素養(yǎng)和道德素養(yǎng)應(yīng)對(duì)未來(lái)的挑戰(zhàn)。

此外，要實(shí)現(xiàn)從內(nèi)容的“搬運(yùn)”到產(chǎn)品的“創(chuàng)造”的思維轉(zhuǎn)變。當(dāng)前，受眾主體地位進(jìn)一步凸顯。在新聞生產(chǎn)方面，應(yīng)摒棄以往內(nèi)容“搬運(yùn)工”的思維，樹(shù)立用戶(hù)、產(chǎn)品為中心的思維，以受眾為中心，向垂直領(lǐng)域縱向挖掘，滿(mǎn)足用戶(hù)個(gè)性化、精細(xì)化的信息需求，倡導(dǎo)符合受眾習(xí)慣的定制化、垂直化、互動(dòng)式的服務(wù)理念，生產(chǎn)出適合不同媒介特性的新聞產(chǎn)品。如央視推出的《主播說(shuō)聯(lián)播》欄目，通過(guò)接地氣的語(yǔ)言表達(dá)方式對(duì)熱點(diǎn)新聞進(jìn)行即時(shí)解讀，長(zhǎng)話(huà)短說(shuō)、官話(huà)民說(shuō)、硬話(huà)軟說(shuō)，正是媒介融合發(fā)展中“用戶(hù)思維”的體現(xiàn)。值得一提的是，之前所描述的“傳統(tǒng)媒體淪為內(nèi)容供應(yīng)者”現(xiàn)象，大部分算法軟件的做法是直接將內(nèi)容移植到新技術(shù)上，這僅僅是簡(jiǎn)單的物理層面的相加。而未來(lái)，媒體需要以技術(shù)為支撐，建立高效的媒體運(yùn)作平臺(tái)，充分運(yùn)用人工智能和算法技術(shù)，實(shí)現(xiàn)“人工智能+媒體”的雙贏。

(三)明確雙重把關(guān)標(biāo)準(zhǔn)，讓新聞業(yè)回歸價(jià)值理性

克里斯托弗·斯坦納在《算法帝國(guó)》一書(shū)中指出，在未來(lái)的發(fā)展中，我們將面對(duì)一個(gè)如何劃定效用和威脅之界限的任務(wù)。[20]在這個(gè)信息爆炸的時(shí)代，我們的眼前充斥著各種信息，引導(dǎo)主流價(jià)值觀的優(yōu)質(zhì)原創(chuàng)內(nèi)容依然是媒體必須始終把握的關(guān)鍵，亦是在迭代迅速、群雄逐鹿的注意力經(jīng)濟(jì)時(shí)代脫穎而出的核心競(jìng)爭(zhēng)優(yōu)勢(shì)。同時(shí)在內(nèi)容生產(chǎn)領(lǐng)域應(yīng)堅(jiān)守和深化作為主流聲源的公共服務(wù)價(jià)值，以冷靜客觀的專(zhuān)業(yè)視角形成合理化融媒報(bào)道體系，重視打造新聞傳播的建設(shè)性維度。疫情期間，主流媒體多次深入一線并訪問(wèn)專(zhuān)家，在鮮活事實(shí)和權(quán)威解讀的基礎(chǔ)上進(jìn)行融媒報(bào)道，如南方周末疫情系列深度專(zhuān)訪、南風(fēng)窗聚焦國(guó)際疫情形勢(shì)專(zhuān)欄、財(cái)新特稿專(zhuān)欄“封面”等皆是優(yōu)秀作品代表。他們以深刻筆觸還原現(xiàn)實(shí)并挖掘公共傳播價(jià)值，實(shí)現(xiàn)優(yōu)質(zhì)融媒作品生產(chǎn)，實(shí)現(xiàn)了受眾注意力和社會(huì)影響力的雙重回歸。

算法把關(guān)和人工把關(guān)都是目前存在的把關(guān)方式，現(xiàn)行的人工智能技術(shù)可以為新聞核查服務(wù)。在可以預(yù)見(jiàn)的未來(lái)，越來(lái)越多的高端人工智能與算法技術(shù)將會(huì)參與到新聞的核查工作中，實(shí)現(xiàn)“人工+算法”把關(guān)，極大減輕事實(shí)核查環(huán)節(jié)的工作量，可以從源頭上防止虛假新聞出現(xiàn)，提高媒體發(fā)揮作用的公信力。比如中國(guó)第一個(gè)媒體人工智能平臺(tái)——新華社“媒體大腦”具有人臉核查功能，能有效地檢驗(yàn)新聞的真實(shí)性。人工智能與算法技術(shù)還可以進(jìn)行版權(quán)審查、識(shí)別假新聞。對(duì)大數(shù)據(jù)的匯總、分析能力以及算法能力使得智能媒體可以針對(duì)信息進(jìn)行溯本追源，包括對(duì)圖像和聲音視頻進(jìn)行“一站式”審核。我們既要緊抓算法把關(guān)的智能紅利，為媒體發(fā)展賦能，也應(yīng)洞察技術(shù)弊病，做好算法把關(guān)的掌舵者，讓新聞業(yè)回歸價(jià)值理性，讓算法為新聞業(yè)更好發(fā)展助力。算法把關(guān)與新聞業(yè)不應(yīng)該呈現(xiàn)出零和博弈的局面，而應(yīng)在建立相關(guān)制度、規(guī)范算法推薦內(nèi)容基礎(chǔ)上，發(fā)揮好算法把關(guān)的作用，實(shí)現(xiàn)“人工+算法”把關(guān)才能實(shí)現(xiàn)“人工智能+傳媒”的雙贏。

(四)明確算法問(wèn)責(zé)機(jī)制，維護(hù)社會(huì)正當(dāng)性

正當(dāng)性(legitimacy)概念由韋伯提出，經(jīng)Parsons(1960)引入組織社會(huì)學(xué)中，成為研究組織形成、企業(yè)經(jīng)營(yíng)和社會(huì)接受的概念工具。(1)Parsons，T.(1960).Structure and process in modern societies.Glencoe：Free Press.轉(zhuǎn)引自陳懷超等，《組織合法性研究脈絡(luò)梳理與未來(lái)展望》，《中央財(cái)經(jīng)大學(xué)學(xué)報(bào)》，2014年第4期。它主要用來(lái)表明組織競(jìng)爭(zhēng)不僅僅是為了爭(zhēng)奪資源和顧客，更需要爭(zhēng)取政治權(quán)力支持和制度正當(dāng)性。[21]算法的設(shè)計(jì)過(guò)程是不透明的，在研發(fā)過(guò)程中存在黑箱操作的空間和可能，人們?cè)诤艽蟪潭壬现荒鼙粍?dòng)接受算法運(yùn)行的結(jié)果。[22]此外，算法運(yùn)行具有隱蔽性、主動(dòng)性和實(shí)時(shí)性的特征，根據(jù)讀取客戶(hù)端的用戶(hù)信息(包括瀏覽記錄、個(gè)人喜好甚至日常語(yǔ)音聊天內(nèi)容等)能夠在用戶(hù)不知不覺(jué)中選取相關(guān)內(nèi)容推送“猜你喜歡”。它并不是在用戶(hù)要求下發(fā)揮其作用與功能，而是本身具有主動(dòng)性，能夠主動(dòng)去進(jìn)行人與信息的連接，這樣更容易存在隱蔽性運(yùn)行風(fēng)險(xiǎn)。

我國(guó)法律對(duì)于運(yùn)用算法所產(chǎn)生的違法行為的一系列問(wèn)題存在較大爭(zhēng)議，目前并沒(méi)有專(zhuān)門(mén)的法律法規(guī)來(lái)規(guī)范此類(lèi)行為。為此，需要建立相應(yīng)的算法問(wèn)責(zé)機(jī)制為算法權(quán)力套上“制度的籠子”。只有明確好相關(guān)問(wèn)題的責(zé)任認(rèn)定與事后規(guī)制問(wèn)題才能夠?qū)λ惴?quán)力的無(wú)限制擴(kuò)張起到震懾作用。對(duì)于平臺(tái)而言，應(yīng)該堅(jiān)守平臺(tái)責(zé)任，對(duì)國(guó)家或行業(yè)層面的管理規(guī)范進(jìn)行細(xì)化，制定具有可操作性的平臺(tái)標(biāo)準(zhǔn)，從而真正起到算法的實(shí)質(zhì)性作用。

建立算法的問(wèn)責(zé)機(jī)制以保證算法決策的正當(dāng)性成為學(xué)界和業(yè)界共識(shí)，使算法對(duì)設(shè)計(jì)者、用戶(hù)和所有受算法結(jié)果影響的人透明被很多學(xué)者認(rèn)為是建立算法問(wèn)責(zé)機(jī)制的前提。[23]正是因?yàn)樗惴ㄔO(shè)計(jì)存在黑箱運(yùn)作的風(fēng)險(xiǎn)，國(guó)家需要加強(qiáng)對(duì)算法研制方面的立法，加大有關(guān)推動(dòng)算法可解釋性的政策供給力度，增加算法的可解釋性，確保算法設(shè)計(jì)回應(yīng)社會(huì)的關(guān)切和民眾的需求，建立透明化的算法運(yùn)行機(jī)制，讓“那些對(duì)結(jié)果抱有懷疑的人可以掀開(kāi)‘引擎蓋子’看個(gè)究竟”。[24]今日頭條總裁張一鳴曾公開(kāi)算法的運(yùn)行模型就是最好的例證。只有讓“黑箱子”前面的幕布打開(kāi)一部分，讓政府或其他監(jiān)管人員能夠深入其中了解其運(yùn)行模型，才能真正維護(hù)社會(huì)正當(dāng)性，減少社會(huì)不平等現(xiàn)象。

五、結(jié) 語(yǔ)

近年來(lái)，人工智能與算法的發(fā)展普及，推動(dòng)了傳播者傳播能力的提高，促進(jìn)了受眾信息需求的滿(mǎn)足，為新聞傳播注入了新的活力，帶來(lái)了生產(chǎn)、媒體機(jī)構(gòu)等多方面的革新，但也出現(xiàn)了一系列挑戰(zhàn)。算法權(quán)力區(qū)別于其他傳統(tǒng)意義上的權(quán)力，是人工智能時(shí)代下的產(chǎn)物，它并不是自發(fā)形成的，而是算法背后的組織為了追求經(jīng)濟(jì)利益或政治目的在用戶(hù)賦予和需求中逐漸匯聚而成。隨著人工智能與算法技術(shù)的進(jìn)一步成熟，算法權(quán)力得到進(jìn)一步擴(kuò)張，算法背后的組織成為隱藏的權(quán)力中心，有可能通過(guò)技術(shù)壟斷和數(shù)據(jù)霸權(quán)實(shí)現(xiàn)經(jīng)濟(jì)或政治目的。算法權(quán)力的擴(kuò)張可能會(huì)導(dǎo)致隱私權(quán)等媒介倫理困境、新聞職業(yè)工作者退場(chǎng)危機(jī)、價(jià)值坐標(biāo)游移和社會(huì)價(jià)值導(dǎo)向缺失等一系列運(yùn)行隱患。智媒時(shí)代的到來(lái)不可避免，我們不能用非黑即白的眼光去看待算法權(quán)力。若在源頭、新聞生產(chǎn)、新聞把關(guān)以及責(zé)任認(rèn)定與事后問(wèn)責(zé)機(jī)制等方面進(jìn)行聯(lián)合規(guī)制，可以最大限度地消除其弊端，發(fā)揮其積極作用，在滿(mǎn)足人們需求的同時(shí)促進(jìn)新技術(shù)產(chǎn)業(yè)的發(fā)展。當(dāng)然，制度規(guī)范的建立一定要跟上技術(shù)發(fā)展的腳步，媒體也需保持自身對(duì)世界的洞察力和判斷力，真正實(shí)現(xiàn)人機(jī)協(xié)同。