計(jì)算傳播學(xué)視角下的智能推薦系統(tǒng)建構(gòu)與算法治理

黨東耀 黨 欣

(鄭州大學(xué) 新聞與傳播學(xué)院，河南 鄭州 450001)

20世紀(jì)90年代以來(lái)，智能推薦技術(shù)應(yīng)用已經(jīng)成為當(dāng)代社會(huì)生活的重要手段，擔(dān)負(fù)搜索、推薦、評(píng)分和預(yù)測(cè)等功能?！霸诖髷?shù)據(jù)和人工智能時(shí)代，通過(guò)應(yīng)用智能推薦技術(shù)，用戶不再是服務(wù)的被動(dòng)接受者，而是成為主動(dòng)的參與者，直接影響服務(wù)的方式和內(nèi)容?！盵1]許多在線系統(tǒng)都配備了推薦策略，從而為用戶在獲得信息、購(gòu)買物品、欣賞音樂、觀看影視、社交娛樂等日常生活活動(dòng)中提供便利的服務(wù)。算法作為重要的智能推薦技術(shù)已經(jīng)廣泛應(yīng)用于社交網(wǎng)絡(luò)巨頭Facebook(臉書)社交推薦、在線零售巨頭Amazon(亞馬遜)商品推薦、流媒體視頻服務(wù)巨頭Netflix(奈飛)影視推薦和搜索引擎巨頭Google(谷歌)新聞推薦，這些不同行業(yè)的大型科技公司通過(guò)算法獲得了全球影響力。

智能推薦技術(shù)直接改變了人們的生活和消費(fèi)方式，智能推薦研究作為一個(gè)單獨(dú)的問(wèn)題受到關(guān)注，對(duì)于算法的運(yùn)用尤其引起人們的擔(dān)心?！霸谶^(guò)去十年中，人們消費(fèi)新聞的方式發(fā)生了許多變化。以前，消費(fèi)主要是通過(guò)電視、報(bào)紙和廣播。但近年來(lái)，搜索引擎、社交媒體和新聞聚合器等數(shù)字中介已成為新媒體渠道，其用戶數(shù)量一直在穩(wěn)步增長(zhǎng)。盡管它們具有優(yōu)勢(shì)，但人們擔(dān)心個(gè)性化算法的不利影響。最嚴(yán)重的問(wèn)題是算法推薦的主題范圍太窄，這可能會(huì)導(dǎo)致過(guò)濾器氣泡和回聲室問(wèn)題?！盵2]算法可以實(shí)現(xiàn)更高效的性能，但是信息繭房和算法偏見等一系列問(wèn)題的出現(xiàn)，也帶來(lái)社會(huì)上對(duì)智能推薦技術(shù)的擔(dān)憂和對(duì)算法治理的要求，因此，從計(jì)算傳播學(xué)視角對(duì)大型科技公司的智能推薦技術(shù)進(jìn)行分析，進(jìn)一步科學(xué)和準(zhǔn)確地建構(gòu)起智能推薦系統(tǒng)，厘清智能推薦系統(tǒng)的組成要素，才能有效地實(shí)施對(duì)智能推薦系統(tǒng)中算法的治理。

一、智能推薦技術(shù)的計(jì)算傳播學(xué)解析

2009年，拉澤爾等提出了“計(jì)算社會(huì)科學(xué)”的概念，認(rèn)為計(jì)算社會(huì)科學(xué)是一種“利用以前所未有的廣度、深度和規(guī)模來(lái)收集和分析數(shù)據(jù)的能力，探索人們?nèi)绾位?dòng)并提供關(guān)于人類集體行為的定性新視角的探究”[3]。計(jì)算傳播學(xué)是計(jì)算社會(huì)科學(xué)的重要分支，主要關(guān)注人類傳播行為的可計(jì)算性基礎(chǔ)，大規(guī)模地收集、分析人類傳播行為數(shù)據(jù)，挖掘人類傳播行為模式，分析這些模式背后的生成機(jī)制與基本原理。

(一)智能推薦技術(shù)的算法特點(diǎn)與原理

Facebook、Amazon、Netflix和Google等大型科技公司是世界上最有影響的新媒體公司，也是當(dāng)今互聯(lián)網(wǎng)上最主要的流量形式，他們的智能推薦技術(shù)依據(jù)自身的業(yè)務(wù)特色和自身的技術(shù)優(yōu)勢(shì)各有千秋。

Facebook是著名的社交網(wǎng)絡(luò)服務(wù)及社會(huì)化媒體網(wǎng)站，使用EdgeRank算法來(lái)預(yù)測(cè)用戶最有可能關(guān)注以及感興趣的內(nèi)容。作為新鮮事排序算法的EdgeRank針對(duì)的是當(dāng)前用戶關(guān)注的人或好友對(duì)其信息流產(chǎn)生影響的行為，F(xiàn)acebook使用EdgeRank創(chuàng)建新聞提要，主要是通過(guò)附加分?jǐn)?shù)、邊緣權(quán)重和時(shí)間衰減等因素幫助用戶挑選可能感興趣的信息。

Amazon由在線圖書銷售商轉(zhuǎn)變?yōu)榫W(wǎng)絡(luò)電子商務(wù)公司，采用A9算法，以“用戶體驗(yàn)為中心”，立足于消費(fèi)者在Amazon進(jìn)行的所有購(gòu)買行為數(shù)據(jù)，根據(jù)不同消費(fèi)者的搜索習(xí)慣和愛好推送產(chǎn)品，并通過(guò)消費(fèi)者提供的產(chǎn)品評(píng)級(jí)(或評(píng)論)來(lái)揭示產(chǎn)品質(zhì)量，依據(jù)相關(guān)性和轉(zhuǎn)化率計(jì)算推薦商品排名，從而可以確保消費(fèi)者能夠快速精確地搜索并購(gòu)買到自己喜歡的產(chǎn)品。

Netflix是最受歡迎的流媒體節(jié)目平臺(tái)，采取用戶訂購(gòu)的方式提供原創(chuàng)影視劇和卡通節(jié)目等。Netflix采用大數(shù)據(jù)算法，把“會(huì)員首頁(yè)”作為推薦系統(tǒng)的載體來(lái)驅(qū)動(dòng)，通過(guò)首頁(yè)，可以獲取大規(guī)模用戶的評(píng)分矩陣和視頻的隱含特征，結(jié)合用戶畫像，為用戶推薦分?jǐn)?shù)較高以及讓用戶有足夠新鮮感的影視作品。

Google是著名的搜索引擎公司，根據(jù)用戶和受眾的變化，Google迅速實(shí)現(xiàn)了向智能推薦系統(tǒng)的轉(zhuǎn)向。它采用PageRank算法，根據(jù)鏈接到某一頁(yè)面的其他頁(yè)面的數(shù)量來(lái)體現(xiàn)該網(wǎng)頁(yè)的相關(guān)性和重要性，從而向用戶展示最相關(guān)和最有用的頁(yè)面?！癎oogle新聞算法能夠利用用戶的詳細(xì)資料，并將其與來(lái)自網(wǎng)絡(luò)上的他們可能感興趣的新聞故事進(jìn)行匹配?！盵4]

盡管這些公司算法的具體形式有一些差異，但是從計(jì)算傳播學(xué)的視角出發(fā)，當(dāng)前的智能推薦技術(shù)的原理主要分為三類：一是基于內(nèi)容的智能推薦技術(shù)，是根據(jù)推薦物品與用戶過(guò)去喜歡的項(xiàng)目的相似性來(lái)推薦。“基于內(nèi)容的智能推薦系統(tǒng)利用給定描述信息中的項(xiàng)目屬性和用戶配置來(lái)生成推薦?！盵5]二是基于協(xié)同過(guò)濾的智能技術(shù)，利用用戶大量個(gè)人檔案中包含的數(shù)據(jù)來(lái)查找用戶之間的共同興趣，將用戶與其他用戶匹配，分析他們的行為的共性后再提供推薦。三是混合智能推薦系統(tǒng)技術(shù)，是集成了兩種或多種智能推薦技術(shù)的系統(tǒng)。它使用融合策略進(jìn)行加權(quán)，將不同推薦技術(shù)的加權(quán)分?jǐn)?shù)進(jìn)行數(shù)值組合以產(chǎn)生輸出分?jǐn)?shù)，然后進(jìn)行最終推薦。

總體說(shuō)來(lái)，智能推薦技術(shù)的原理主要是基于用戶的相似度。如果兩個(gè)用戶選擇了很多共同的項(xiàng)目或者對(duì)某物品給予接近的評(píng)分，他們就會(huì)被賦予高相似度。智能推薦技術(shù)尋找“用戶的鄰居”，合并同類項(xiàng)，根據(jù)偏好的相似度或評(píng)級(jí)的相似度獲得用戶的喜歡特征，并抽取出這些特征作為推薦系統(tǒng)的關(guān)鍵詞完成推薦。

(二)智能推薦技術(shù)的算法邏輯

Facebook、Amazon、Netflix和Google等公司的算法邏輯主要有以下幾個(gè)方面：

一是以行為邏輯來(lái)呈現(xiàn)。每一個(gè)用戶訪問(wèn)公司網(wǎng)站的行為都被記錄并且存儲(chǔ)，用戶的體驗(yàn)行為成為公司對(duì)用戶的體察和觀測(cè)對(duì)象，在此基礎(chǔ)上，公司進(jìn)行用戶喜好的排序，進(jìn)而依據(jù)關(guān)鍵詞為算法設(shè)計(jì)標(biāo)簽。

二是以歷史邏輯來(lái)記憶?！熬唧w來(lái)說(shuō)，傾向于利用用戶的歷史交互來(lái)了解用戶的靜態(tài)偏好，并假設(shè)歷史序列中的所有用戶對(duì)項(xiàng)目交互都同樣重要?！盵6]正是在對(duì)這一歷史階段用戶的分析上發(fā)現(xiàn)用戶的偏好，相關(guān)公司據(jù)此確定推薦的導(dǎo)向。

三是以數(shù)據(jù)邏輯為基礎(chǔ)。這個(gè)邏輯主要是建立在用戶的大數(shù)據(jù)之上，通過(guò)大數(shù)據(jù)體察用戶。四家公司都是所在行業(yè)的領(lǐng)軍企業(yè)，擁有大量的客戶群體，這為他們大規(guī)模采集用戶數(shù)據(jù)提供了有利的條件。

四是以流量邏輯做主導(dǎo)。流量——點(diǎn)擊率、訪問(wèn)量、銷量(轉(zhuǎn)化率)成為重要和主要的衡量指標(biāo)。相關(guān)公司據(jù)此可以對(duì)用戶進(jìn)行細(xì)分和畫像，將流量轉(zhuǎn)化為購(gòu)買商品或服務(wù)，這是商業(yè)邏輯的體現(xiàn)。

由上可以看出，當(dāng)前推薦技術(shù)的算法邏輯主要表現(xiàn)出三個(gè)方面的特點(diǎn)：第一，技術(shù)邏輯遠(yuǎn)遠(yuǎn)大于價(jià)值邏輯，技術(shù)實(shí)際上取代了社會(huì)和法律中的價(jià)值觀。主要依據(jù)眾多用戶的大數(shù)據(jù)判斷出用戶的喜好，而不管所推薦的信息中所反映出的價(jià)值觀導(dǎo)向。第二，行為邏輯遠(yuǎn)遠(yuǎn)大于生活邏輯，感性的點(diǎn)擊還是理性的點(diǎn)擊無(wú)從區(qū)分，統(tǒng)統(tǒng)被納入統(tǒng)計(jì)的范疇，進(jìn)而作為體察用戶的指標(biāo)來(lái)呈現(xiàn)。第三，商業(yè)邏輯遠(yuǎn)遠(yuǎn)大于公共邏輯，也就是高度重視流量，著眼于商業(yè)利益的獲得而不是公共利益的效果。由此可以看到，政府在算法的設(shè)計(jì)上處于弱勢(shì)和失聲的位置。這樣造成的結(jié)果是算法價(jià)值和算法把關(guān)的形成，算法可以擔(dān)負(fù)影響現(xiàn)代社會(huì)許多方面的復(fù)雜決策系統(tǒng)的功能。

“我們?cè)絹?lái)越依賴計(jì)算奇觀來(lái)看待世界。”這種發(fā)展已經(jīng)改變了社會(huì)運(yùn)作的規(guī)則，算法成為“社會(huì)中新的權(quán)力掮客”[7]。算法在社會(huì)應(yīng)用中發(fā)揮著越來(lái)越大的作用?！叭缃?，算法為我們做出越來(lái)越多的重要決定，無(wú)論是我們獲得的新聞、我們查看的廣告，還是我們采取的工作路線。”[8]算法成為了社會(huì)的主宰，所謂的智能推薦系統(tǒng)其實(shí)就是算法推薦系統(tǒng)，智能推薦系統(tǒng)只擁有算法這個(gè)唯一的要素，這必然會(huì)引起人們對(duì)于算法的疑慮和擔(dān)憂。

二、智能推薦系統(tǒng)建構(gòu)的諸要素

基于以上分析，可以從計(jì)算傳播學(xué)的視角，針對(duì)智能推薦系統(tǒng)所擔(dān)負(fù)的社會(huì)職能，揭示智能推薦系統(tǒng)的本質(zhì)屬性，科學(xué)地解讀和認(rèn)識(shí)智能推薦系統(tǒng)的維度，準(zhǔn)確完整建構(gòu)智能推薦系統(tǒng)。

(一)智能推薦系統(tǒng)的運(yùn)行要素

計(jì)算是計(jì)算傳播學(xué)的本質(zhì)。計(jì)算傳播學(xué)遵循的是計(jì)算思維。計(jì)算思維的基點(diǎn)包含算理和算法，這必然要貫徹到智能推薦系統(tǒng)的運(yùn)行和操作中。

首先，算理是智能推薦系統(tǒng)的原理。算理指計(jì)算的理論依據(jù)，它“是由數(shù)學(xué)概念、性質(zhì)、定律等內(nèi)容構(gòu)成的數(shù)學(xué)基礎(chǔ)理論知識(shí)，具體包括數(shù)的意義和運(yùn)算的意義、性質(zhì)及規(guī)律。算理附著在數(shù)學(xué)符號(hào)、圖表以及執(zhí)行算法的過(guò)程中”[9]。算理以問(wèn)題為驅(qū)動(dòng)，是邏輯思維的規(guī)范化。算理具有隱蔽性、抽象性與理論性等特征。在智能推薦系統(tǒng)中，算理決定了該系統(tǒng)的計(jì)算原理。

其次，算法是智能推薦系統(tǒng)的操作。算法指用系統(tǒng)的方法描述解決問(wèn)題的策略機(jī)制?，F(xiàn)代數(shù)學(xué)和計(jì)算機(jī)科學(xué)上的算法，可以定義為解決問(wèn)題或執(zhí)行任務(wù)的一組指令。算法是解決問(wèn)題的操作程序，以有限的命令形式表示，具有外顯性、直觀性、可操作性等特征。在智能推薦系統(tǒng)中，算法已成為依賴數(shù)據(jù)和軟件的操作過(guò)程的簡(jiǎn)寫。

算理和算法的關(guān)系是計(jì)算傳播學(xué)的核心要旨。算理與算法是運(yùn)算的一體兩面，兩者之間的關(guān)系是對(duì)立統(tǒng)一、相輔相成的，具有同等地位。算理是客觀存在的規(guī)律，是計(jì)算的依據(jù)，是算法的基礎(chǔ)，主要回答“為什么這樣算”的問(wèn)題，而算法是人為規(guī)定的操作方法，是依據(jù)算理提煉出來(lái)的計(jì)算方法和規(guī)則，主要解決“怎樣計(jì)算”的問(wèn)題。算理為計(jì)算提供了正確的思維方式，保證了計(jì)算的合理性和可行性，算法為計(jì)算提供了便捷的操作程序和方法，保證了計(jì)算的執(zhí)行性和快速性。

計(jì)算思維中算理是計(jì)算的“道”，算法是計(jì)算的“術(shù)”。算理是算法的理論基礎(chǔ)，算法是依據(jù)算理的一種操作方法，在智能推薦系統(tǒng)中，必須以算理為前提。必須做到算理和算法并重。算理說(shuō)明算法不是以技術(shù)無(wú)意識(shí)的方式運(yùn)行，不存在價(jià)值中立的基礎(chǔ)。

盡管算理和算法同等重要，但是在當(dāng)前的社會(huì)生態(tài)下，鑒于算理的內(nèi)在性和算法的外顯性，算理和算法的關(guān)系出現(xiàn)了扭曲，算理日益內(nèi)化入算法之中，被算法遮蔽，成為算法的一部分，計(jì)算思維在現(xiàn)實(shí)世界已經(jīng)完全表現(xiàn)為算法思維，就是將解決問(wèn)題的方法歸結(jié)為算法設(shè)計(jì)的過(guò)程。從表象上看，智能推薦系統(tǒng)也就和算法形成了一一對(duì)應(yīng)的關(guān)系。因此，智能推薦系統(tǒng)存在一定的風(fēng)險(xiǎn)?！疤貏e是在透明度和問(wèn)責(zé)制存在問(wèn)題以及此類系統(tǒng)外包給私營(yíng)部門的情況下。因此，能夠檢測(cè)和分類這些風(fēng)險(xiǎn)對(duì)于制定應(yīng)對(duì)和校準(zhǔn)措施至關(guān)重要。需要學(xué)習(xí)如何識(shí)別它的好處和它的潛在風(fēng)險(xiǎn)，以及如何校準(zhǔn)和管理這些風(fēng)險(xiǎn)，需要學(xué)習(xí)如何控制算法?！盵10]

算法治理成為智能推薦系統(tǒng)的核心問(wèn)題和首要問(wèn)題。我們應(yīng)秉持包容、謹(jǐn)慎、專業(yè)的原則正確審視智能推薦系統(tǒng)算法的應(yīng)用，提升智能推薦系統(tǒng)算法應(yīng)用的規(guī)范性。一方面，必須讓算理和算法回歸到其在計(jì)算中的本來(lái)位置上。另一方面，必須加強(qiáng)對(duì)算法的評(píng)估和對(duì)算法的管理。

(二)智能推薦系統(tǒng)的規(guī)制要素

從計(jì)算傳播學(xué)的視角出發(fā)，必須在智能推薦系統(tǒng)中引入算力和算規(guī)兩個(gè)規(guī)制要素，完善算法的評(píng)估體系和管理體系。一方面要能夠?qū)χ悄芡扑]系統(tǒng)算法的效能和傳播效果進(jìn)行評(píng)估，另一方面要在評(píng)估的基礎(chǔ)上建立對(duì)算法實(shí)施有效治理的管理體系。規(guī)制要素的構(gòu)建和應(yīng)用主要在于：

第一，優(yōu)化算力建立智能推薦系統(tǒng)評(píng)估體系。算力是對(duì)智能推薦系統(tǒng)的評(píng)估，也就是對(duì)算法的衡量和評(píng)估，能夠衡量算法的推薦效果，以確定一個(gè)算法所帶來(lái)的傳播效果。算力越強(qiáng)意味著算法的推薦效果越發(fā)顯著。就智能推薦系統(tǒng)而言，算力可以從計(jì)算的軟硬件兩個(gè)方面進(jìn)行評(píng)估：從計(jì)算的硬件上，評(píng)估算法運(yùn)行時(shí)處理大數(shù)據(jù)的能力，即對(duì)于用戶行為數(shù)據(jù)的反應(yīng)能力。從計(jì)算的軟件上，衡量算法軟件的優(yōu)化能力，讓算法在多樣化選擇方案中實(shí)現(xiàn)最優(yōu)化。軟硬件指標(biāo)的結(jié)合可以測(cè)量推薦系統(tǒng)計(jì)算過(guò)程的時(shí)間和空間。算力為算法高效運(yùn)行提供有力的支撐，決定了該推薦所能覆蓋用戶范圍的大小和傳播效果的優(yōu)劣。Facebook、Amazon、Netflix和Google等公司的智能推薦系統(tǒng)都取得了良好的傳播效果，是它們持續(xù)不斷地提升各自的算法系統(tǒng)算力的結(jié)果。

第二，依靠算規(guī)建立智能推薦系統(tǒng)的管理體系。算理表明算法并不是中立的，而是要依據(jù)一定的規(guī)則的?！八惴ǖ纳鐣?huì)背景是指行動(dòng)發(fā)生環(huán)境的實(shí)際意義，以及通過(guò)數(shù)據(jù)提供信息的社會(huì)互動(dòng)。算法不是中性的規(guī)則集，而是嵌入精確世界觀和本地化社會(huì)文化價(jià)值觀的數(shù)學(xué)形式?！盵11]因此，有必要建立算規(guī)體系。所謂算規(guī)即是智能推薦系統(tǒng)也就是算法的設(shè)計(jì)和運(yùn)營(yíng)所遵循的規(guī)則。算規(guī)體系既是對(duì)算法治理措施的落實(shí)，也是規(guī)范算法運(yùn)行的有效管理體系。

計(jì)算和管理相結(jié)合，算理、算法和算力、算規(guī)是智能推薦系統(tǒng)全要素，可以建構(gòu)起完備的智能推薦系統(tǒng)。

三、智能推薦系統(tǒng)的算法治理

對(duì)于算法的治理應(yīng)確保其有效性和合法性，從計(jì)算傳播學(xué)的視角來(lái)看，對(duì)于算法的治理應(yīng)該建立在智能推薦系統(tǒng)的要素上，要從以算法為核心向以算規(guī)為中心轉(zhuǎn)變，具體地說(shuō)，就是要建立起算規(guī)體系，針對(duì)智能推薦系統(tǒng)各個(gè)要素進(jìn)行針對(duì)性的機(jī)制設(shè)置。

(一)算法治理面對(duì)的問(wèn)題和挑戰(zhàn)

算法越來(lái)越普遍地滲透到日常生活的所有領(lǐng)域，影響日常行為的規(guī)范和規(guī)則，影響著現(xiàn)實(shí)生活中個(gè)體經(jīng)營(yíng)活動(dòng)的有效建構(gòu)。算法治理要解決的問(wèn)題突出表現(xiàn)在信息、交易、社交和娛樂等各個(gè)生活領(lǐng)域及深層的社會(huì)和政治治理方面。

在信息方面，“算法是當(dāng)今媒體技術(shù)的決定性元素，算法會(huì)自動(dòng)選擇和推薦符合用戶興趣和偏好的文章，接管以前由記者和人工編輯完成的新聞選擇過(guò)程”[12]。2014年，F(xiàn)acebook 推出了“熱門話題”，簽約記者負(fù)責(zé)監(jiān)督熱門話題。2016年，F(xiàn)acebook將熱門話題完全交給了算法，熱門話題在未知其可靠性的情況下提高了知名度。

在交易方面，由于在線商店智能推薦系統(tǒng)的出現(xiàn)，電子商務(wù)服務(wù)越來(lái)越多地通過(guò)量身定制的廣告來(lái)個(gè)性化推薦商品，從而影響消費(fèi)者的決策和行為。以數(shù)據(jù)為基礎(chǔ)的算法經(jīng)濟(jì)已經(jīng)反向改變了傳統(tǒng)競(jìng)爭(zhēng)機(jī)制，進(jìn)而出現(xiàn)了用戶算法歧視和價(jià)格算法共謀，陷入商業(yè)道德困境。

在社交方面，F(xiàn)acebook和Twitter應(yīng)用的出現(xiàn)改變了人們相互了解的方式。它從根本上塑造了日常交流行為。但是，算法會(huì)泄露個(gè)人隱私，會(huì)精確地根據(jù)各類信息識(shí)別社會(huì)主體的各類身份,將他們困在各自數(shù)據(jù)產(chǎn)生的無(wú)形繭房中,這不僅可能會(huì)剝奪人們接受教育、就業(yè)、貸款的公平機(jī)會(huì),還可能給公共生活造成難以彌合的分裂[13]。

在娛樂方面，Netflix提供的流媒體訂閱視頻服務(wù)和Google旗下YouTube視頻服務(wù)的推薦變得越來(lái)越重要。但算法的追逐有可能出現(xiàn)令人不安的兒童視頻和低俗視頻，乃至形成算法植入暴力視頻的娛樂化傾向。

通過(guò)分析大型科技公司的算法可以發(fā)現(xiàn)，算法通過(guò)推薦和選擇來(lái)影響日常行為的規(guī)范和規(guī)則，塑造了世界的感知方式和現(xiàn)實(shí)的構(gòu)建方式，進(jìn)而可以引導(dǎo)社會(huì)和政治導(dǎo)向?！鞍殃P(guān)可以廣義地理解為通過(guò)關(guān)口或過(guò)濾器對(duì)信息加以控制。本質(zhì)上，把關(guān)是對(duì)應(yīng)當(dāng)收集、評(píng)估并最終共享哪些信息進(jìn)行判斷或決策?！盵14]“文化產(chǎn)品和新聞越來(lái)越多地通過(guò)被稱為平臺(tái)的信息中介，這些平臺(tái)依賴算法來(lái)過(guò)濾、排序、分類和推廣信息。算法內(nèi)容推薦扮演著一個(gè)重要的、越來(lái)越有爭(zhēng)議的把關(guān)人的角色。”[15]大型科技公司通過(guò)算法將數(shù)十億用戶聚集到人為策劃的環(huán)境中，可以進(jìn)行個(gè)人決策的部分操縱,影響人們的隱私、訪問(wèn)權(quán)、財(cái)產(chǎn)和言論，其領(lǐng)域涉及社會(huì)公共事務(wù)、媒體傳播、管理和法律，從而也指向政治領(lǐng)域，形成“代碼就是法律”，讓社會(huì)感受到來(lái)自算法本身的挑戰(zhàn)。

首先是公平性的挑戰(zhàn)。由于各公司在線數(shù)據(jù)的局限性，算法所依據(jù)的大數(shù)據(jù)只能來(lái)自于該公司搜集和擁有的數(shù)據(jù)，這樣一來(lái)，雖然數(shù)據(jù)可能包含很多洞察力，但它可能只與特定用戶相關(guān)聯(lián)，往往未必能夠反映全面的人口統(tǒng)計(jì)資料，這必然會(huì)導(dǎo)致偏見的出現(xiàn)。

其次是公正性的挑戰(zhàn)。算法驅(qū)動(dòng)的新聞信息在數(shù)據(jù)、代碼、生產(chǎn)者等層面都可能產(chǎn)生新聞價(jià)值模糊、新聞從業(yè)者主體性削弱、報(bào)道對(duì)象隱私被侵犯等諸多倫理風(fēng)險(xiǎn)。受眾對(duì)信息體驗(yàn)的追逐和傳者對(duì)算法技術(shù)的推崇是導(dǎo)致倫理風(fēng)險(xiǎn)的重要因素。

再次是偏狹性的挑戰(zhàn)。算法在信息流動(dòng)中追求的是對(duì)受眾或用戶的追逐，必然受到用戶偏好的影響而導(dǎo)致信息繭房效應(yīng)。

最后是透明性的挑戰(zhàn)。主要是指算法開發(fā)的封閉性導(dǎo)致算法黑箱，使得公眾無(wú)法弄清楚算法的目的和意圖，甚至對(duì)開發(fā)者的相關(guān)信息也一無(wú)所知。

以上問(wèn)題和挑戰(zhàn)帶來(lái)了對(duì)算法治理的難度，更談不上對(duì)于算法的評(píng)判和監(jiān)管?！八惴ㄟx擇對(duì)于未來(lái)的信息檢索將變得更加重要，伴隨這些考慮的是對(duì)個(gè)性化回聲室或過(guò)濾氣泡的恐懼，從而導(dǎo)致對(duì)社會(huì)的碎片化、有偏見的看法。”[16]而政府在算法治理方面的滯后性，會(huì)導(dǎo)致算法權(quán)力的無(wú)限膨脹和失控,這使得算法權(quán)力發(fā)生了異化。[17]

(二)算法治理體系的建構(gòu)

算法治理可以理解為對(duì)算法運(yùn)營(yíng)和應(yīng)用設(shè)置監(jiān)控規(guī)則和權(quán)限模式，以指導(dǎo)算法在整個(gè)生命周期的正常運(yùn)行并確保其擔(dān)負(fù)責(zé)任。算法治理的概念概括了一系列廣泛的社會(huì)技術(shù)實(shí)踐，這些實(shí)踐以特定的方式對(duì)算法進(jìn)行調(diào)節(jié)和管理，從而有助于應(yīng)對(duì)新興數(shù)字社會(huì)和數(shù)據(jù)生態(tài)的關(guān)鍵爭(zhēng)議和挑戰(zhàn)。

“算法治理關(guān)注如何解決算法決策過(guò)程中涉及的復(fù)雜性，特別是需要使其透明、負(fù)責(zé)和公平?！盵19]為此，可以采取多種治理選項(xiàng)來(lái)降低風(fēng)險(xiǎn)并增加算法選擇的收益。一方面，治理可以理解為是一種社會(huì)秩序，治理形式涉及公共政策的產(chǎn)生和公共法規(guī)的實(shí)施，包括國(guó)家機(jī)構(gòu)與行業(yè)之間的監(jiān)管合作以及行業(yè)部門的集體自律，從而超越在組織內(nèi)部的公司治理。另一方面，治理可以理解為一種制度導(dǎo)向，從根本上說(shuō)，治理旨在解決集體行動(dòng)問(wèn)題和社會(huì)互動(dòng)的協(xié)調(diào)?！皬闹贫鹊慕嵌葋?lái)看，治理選項(xiàng)可以定位在一個(gè)連續(xù)統(tǒng)一體上，從一端是市場(chǎng)機(jī)制，到另一端是國(guó)家指揮和監(jiān)管的平衡?！盵18]為此，要建構(gòu)算法治理的社會(huì)秩序體系和制度導(dǎo)向體系。

1.算法治理的社會(huì)秩序體系

從計(jì)算傳播學(xué)的視角來(lái)看，“算法并不是在真空中運(yùn)行的。算法的精度只能根據(jù)其編程方式和初始輸入來(lái)確定”[20]。算法治理的核心在于制訂和完善算規(guī)體系，具體來(lái)說(shuō)，算規(guī)體系的建構(gòu)要遵循以下幾項(xiàng)原則。

第一，在算理中注入社會(huì)價(jià)值觀。算法治理要體現(xiàn)計(jì)算正義原則，“計(jì)算正義是正義原則在算法實(shí)踐中的體現(xiàn)，是人的社會(huì)合作和創(chuàng)造活動(dòng)被計(jì)算化過(guò)程中所應(yīng)遵循的價(jià)值準(zhǔn)則?！盵21]算法設(shè)計(jì)首先要遵從社會(huì)價(jià)值觀和新聞價(jià)值觀。要充分認(rèn)識(shí)算理的基礎(chǔ)位置，重視算法對(duì)算理的依賴關(guān)系。當(dāng)前算法的數(shù)據(jù)邏輯和行為邏輯反映的是用戶的實(shí)然，但實(shí)然之中包含應(yīng)然，智能推薦系統(tǒng)必須要立足一定的社會(huì)價(jià)值觀進(jìn)行推薦，不能只是追逐受眾的行為，而應(yīng)該在了解受眾、尊重受眾的基礎(chǔ)上主動(dòng)作為，考慮到傳播內(nèi)容的適合性。

新聞智能推薦系統(tǒng)也要和新聞價(jià)值相一致，與新聞的選擇和把關(guān)標(biāo)準(zhǔn)相吻合。2018年12月18日，歐盟委員會(huì)公布《可信賴的人工智能道德準(zhǔn)則草案》，其列舉的十條需求原則中包括“尊重人的自主性”這一原則，并提出在算法治理過(guò)程中“有必要通過(guò)自主性原則，尊重用戶的主體性，讓算法技術(shù)發(fā)揮人本精神，更好地為用戶提供信息服務(wù)”[22]。此外,歐盟于2020年發(fā)布《人工智能白皮書》,明確AI的發(fā)展必須以人的價(jià)值觀和人權(quán)(如人的尊嚴(yán)和隱私保護(hù))為基礎(chǔ)[23]，這對(duì)我們也有一定的借鑒意義。

第二，在算力中把握大數(shù)據(jù)的平衡性。從計(jì)算傳播學(xué)的視角來(lái)看，算法是通過(guò)將輸入數(shù)據(jù)轉(zhuǎn)換為所需輸出以解決問(wèn)題的編碼程序[24]?！皵?shù)據(jù)質(zhì)量由許多維度組成，包括準(zhǔn)確性、及時(shí)性、完整性、一致性、客觀性、可信度和相關(guān)性，這些都決定了數(shù)據(jù)是否適合使用?！盵25]“數(shù)據(jù)治理不僅應(yīng)關(guān)注數(shù)據(jù)，還應(yīng)關(guān)注收集、管理和使用數(shù)據(jù)的系統(tǒng)?！盵26]基于算法的大數(shù)據(jù)應(yīng)該由政府提供，從而可以保證數(shù)據(jù)的公正性和完整性，保證智能推薦系統(tǒng)的全面性。政府還要制定有關(guān)數(shù)據(jù)收集、共享、存儲(chǔ)和使用的法規(guī)。

數(shù)據(jù)處理是算力的核心，政府要充分認(rèn)識(shí)算力的支撐作用，把握好從“數(shù)據(jù)集”到“數(shù)據(jù)設(shè)置”的轉(zhuǎn)變，為此，要做好大數(shù)據(jù)的基礎(chǔ)設(shè)施建設(shè)，建構(gòu)智能推薦系統(tǒng)的大數(shù)據(jù)系統(tǒng)，并建立統(tǒng)一的數(shù)據(jù)監(jiān)管機(jī)構(gòu)，設(shè)置數(shù)據(jù)審查與問(wèn)責(zé)機(jī)制?！皬挠?jì)算法的角度來(lái)看，向算法治理的轉(zhuǎn)變代表著我們與數(shù)據(jù)和法律關(guān)系的根本性重新定位?！盵27]2018年5月25日，歐盟在數(shù)據(jù)治理框架下通過(guò)賦予數(shù)據(jù)主體新型算法權(quán)利的《通用數(shù)據(jù)保護(hù)條例》(GDPR)，其中提到“算法解釋權(quán)”和“算法審計(jì)制度”，明確要對(duì)算法的技術(shù)和使用進(jìn)行審查,以保證算法的合規(guī)性和可復(fù)審性[28]。

第三，在算法設(shè)計(jì)中建立社會(huì)化機(jī)制。基于算法在智能推薦系統(tǒng)中的引領(lǐng)地位，必須建立開放性的社會(huì)化算法設(shè)計(jì)體系，由政府、社會(huì)、企業(yè)和公眾共同參與，改變當(dāng)今算法完全由企業(yè)主導(dǎo)的格局。雖然在社會(huì)的微觀層面，算法以應(yīng)用企業(yè)為承載體，但要在社會(huì)的宏觀層面接受政府、社會(huì)的監(jiān)督，接受公眾的意見和反饋。算法的有效性不僅取決于其技術(shù)特征，還取決于人類在各種環(huán)境中的感知方式。重要的是要了解用戶如何使用并理解算法，用戶體驗(yàn)不僅塑造用戶對(duì)計(jì)算系統(tǒng)的期望，還有助于塑造算法本身，從而督促對(duì)算法進(jìn)行逆向工程、實(shí)驗(yàn)設(shè)置或代碼審查。做好算法話語(yǔ)框架的分析，科學(xué)選取和設(shè)置算法的“關(guān)鍵詞”和“標(biāo)簽”，對(duì)于新聞傳播推薦系統(tǒng)，標(biāo)簽應(yīng)該由新聞界和專業(yè)委員會(huì)以及公眾來(lái)制訂。

2.算法治理的制度導(dǎo)向體系

算法治理應(yīng)該確保它是實(shí)現(xiàn)某些目標(biāo)的有效手段，同時(shí)保持程序公平、公開和公正，增強(qiáng)制度導(dǎo)向[29]。在算規(guī)體系中，針對(duì)各要素建立實(shí)施主體，算法治理的方法重在建立協(xié)同治理的行動(dòng)者網(wǎng)絡(luò)體系，把技術(shù)效能和社會(huì)協(xié)商性聯(lián)系起來(lái)，在技術(shù)界與社會(huì)界兩個(gè)層面之間建立聯(lián)結(jié)，使政府、社會(huì)、企業(yè)、公眾作為行為主體或行動(dòng)者在算法的重構(gòu)中擔(dān)負(fù)不同的功能。為此，必須充分體現(xiàn)政府監(jiān)管、社會(huì)監(jiān)督，企業(yè)自律、公民參與的多元共治算法治理格局。

政府是算法規(guī)制的政策制訂者與推動(dòng)者，要求算法維護(hù)主流價(jià)值觀和促進(jìn)社會(huì)穩(wěn)定，堅(jiān)持開放透明、尊重隱私、安全可控、公平公正等原則。

社會(huì)方面，主要是專業(yè)委員會(huì)和傳媒機(jī)構(gòu)參與算法的設(shè)計(jì)與評(píng)估，一方面要充分保障個(gè)人的知情權(quán)和選擇權(quán)，加強(qiáng)對(duì)個(gè)人信息收集與使用的監(jiān)管；另一方面要讓算法的設(shè)計(jì)者與研發(fā)者能夠更好地理解社會(huì)價(jià)值觀和新聞倫理的訴求，推動(dòng)主流價(jià)值與算法的對(duì)接。

企業(yè)平臺(tái)應(yīng)主動(dòng)公開算法設(shè)計(jì)的意圖，解釋算法的目的，接受政府和社會(huì)的評(píng)估和監(jiān)督，保障算法運(yùn)作的開放、透明和公正，不斷調(diào)整與改進(jìn)算法。

公眾是算法的落點(diǎn)也是其風(fēng)險(xiǎn)的承擔(dān)者，一方面需完善相關(guān)法律法規(guī)，保證其個(gè)人信息數(shù)據(jù)安全；另一方面需要提升其算法修養(yǎng)，作為公共利益的代言者發(fā)揮作用，準(zhǔn)確、合理、公開地表達(dá)自身意見，更好地參與監(jiān)督算法。

無(wú)論是社會(huì)秩序體系模式還是制度導(dǎo)向體系模式，都強(qiáng)調(diào)的是要共同治理。共同治理是一種以權(quán)力共享和相互依存為特征的互動(dòng)。通過(guò)建立多主體協(xié)同管理算法治理平臺(tái)，既要求企業(yè)應(yīng)該承擔(dān)社會(huì)責(zé)任，也要切實(shí)保障政府和社會(huì)公眾在治理體系中的主體地位。在算法治理中建立起多元共治體系，促使算法提供者承擔(dān)社會(huì)責(zé)任，健全算法服務(wù)的責(zé)任義務(wù)體系。

四、結(jié)語(yǔ)

在當(dāng)前的智能推薦系統(tǒng)設(shè)計(jì)中，算理被忽視，算法直接作為替代物，從而使得智能推薦系統(tǒng)和算法建立了一一對(duì)應(yīng)的關(guān)系。算法被泛化，形成算法社會(huì)，讓算法成為當(dāng)今社會(huì)的重要影響要素。從計(jì)算傳播學(xué)的視角分析智能推薦系統(tǒng)，充分認(rèn)識(shí)智能推薦系統(tǒng)的本質(zhì)和要素，必須全面認(rèn)識(shí)算理和算法的關(guān)系，適時(shí)引入算力和算規(guī)要素，進(jìn)而構(gòu)建完善的智能推薦系統(tǒng)并實(shí)施對(duì)智能推薦系統(tǒng)中算法的治理。只有建立政府、社會(huì)、企業(yè)和公眾為一體的算法治理體系，才能保障信息傳播的真實(shí)性、客觀性和全面性。