破解黑箱：智媒時(shí)代的算法權(quán)力規(guī)制與透明實(shí)現(xiàn)機(jī)制*

□文│張淑玲

在人工智能與新聞業(yè)深度交融的智能化媒體時(shí)代，算法權(quán)力 (algorithmic power)的躍升與擴(kuò)張已引起業(yè)界和學(xué)界熱議。原屬專業(yè)記者和編輯的諸多職權(quán)，如新聞線索發(fā)掘、內(nèi)容生產(chǎn)、評(píng)論引導(dǎo)乃至編輯發(fā)布等，已被越來(lái)越多地讓渡給算法。憑借技術(shù)層面的不斷優(yōu)化，算法的應(yīng)用場(chǎng)景和權(quán)力范圍也在不斷延伸和擴(kuò)張。

與此同時(shí)，由于技術(shù)本身的復(fù)雜性以及媒體機(jī)構(gòu)、技術(shù)公司的排他性商業(yè)政策，算法猶如一個(gè)未知的“黑箱”——用戶并不清楚算法的目標(biāo)和意圖，也無(wú)從獲悉算法設(shè)計(jì)者、實(shí)際控制者以及機(jī)器生成內(nèi)容的責(zé)任歸屬等信息，更談不上對(duì)其進(jìn)行評(píng)判和監(jiān)督。[1]那么，如何厘清與新聞實(shí)踐及研究相關(guān)的算法技術(shù)及其運(yùn)行原理？算法“黑箱”的具體表現(xiàn)形態(tài)和應(yīng)用場(chǎng)景是什么？對(duì)于黑箱化的算法權(quán)力應(yīng)當(dāng)如何加以制衡和規(guī)范？這些都是算法時(shí)代值得警醒和亟待解答的重要問(wèn)題。本文試就這些問(wèn)題展開(kāi)探討。

一、新聞業(yè)的算法轉(zhuǎn)向

計(jì)算機(jī)和算法介入新聞?lì)I(lǐng)域的過(guò)程是一個(gè)動(dòng)態(tài)演進(jìn)的歷史過(guò)程。實(shí)際上，算法的出現(xiàn)遠(yuǎn)早于計(jì)算機(jī)和其他電子計(jì)算設(shè)備，其源頭可以追溯到我國(guó)古代的《周髀算經(jīng)》以及中世紀(jì)波斯數(shù)學(xué)家阿勒·霍瓦里松的著作《代數(shù)對(duì)話錄》。而20世紀(jì)科幻作品中描繪的機(jī)器人曾被視為工業(yè)社會(huì)自動(dòng)化的產(chǎn)物和算法的前身。

在媒介研究領(lǐng)域，新聞機(jī)器人的提法最早出現(xiàn)在1998年。兩位韓國(guó)學(xué)者建議搭建以“用戶注冊(cè)時(shí)提供的閱讀偏好”為參照、由算法進(jìn)行新聞內(nèi)容采集和分發(fā)的“應(yīng)需服務(wù)平臺(tái)”。[2]自那以來(lái)，圍繞新聞機(jī)器人代替專業(yè)記者從事常規(guī)新聞生產(chǎn)及其潛在影響的討論一直沒(méi)有停止。從20世紀(jì)六七十年代勃興的計(jì)算機(jī)輔助報(bào)道、精確新聞，到大數(shù)據(jù)時(shí)代的數(shù)據(jù)新聞乃至自動(dòng)化新聞，新聞業(yè)逐漸發(fā)展到以數(shù)據(jù)為驅(qū)動(dòng)、以算法為引擎的算法時(shí)代。

作為人工智能的基本構(gòu)成要素，算法與數(shù)學(xué)和計(jì)算機(jī)科學(xué)領(lǐng)域均有著密切的關(guān)聯(lián)。嚴(yán)格地說(shuō)，算法是包含一系列復(fù)雜的數(shù)學(xué)規(guī)則、能通過(guò)預(yù)先設(shè)定的步驟解決特定問(wèn)題的計(jì)算機(jī)程序。[3]它的設(shè)計(jì)邏輯是將人類解決問(wèn)題的過(guò)程分解為若干步驟（見(jiàn)圖1），再通過(guò)程序設(shè)計(jì)，將這一過(guò)程模擬化或公式化，借助系統(tǒng)化的計(jì)算機(jī)程序來(lái)求解更復(fù)雜的問(wèn)題。

目前與新聞業(yè)實(shí)踐結(jié)合最多的算法技術(shù)主要應(yīng)用于自動(dòng)化新聞和算法推薦領(lǐng)域。按照卡爾森(Carlson)的定義，自動(dòng)化新聞生產(chǎn)是“將數(shù)據(jù)轉(zhuǎn)化為新聞敘事文本的算法過(guò)程，其中涉及的人力干預(yù)僅限于最初的編程活動(dòng)”。[5]而算法推薦是以定制化信息服務(wù)為出發(fā)點(diǎn)，使用特殊的推薦引擎系統(tǒng)，借由機(jī)器算法推選出用戶感興趣的內(nèi)容，并將其推送至用戶端。從本質(zhì)上說(shuō)，算法在整個(gè)新聞生產(chǎn)和分發(fā)鏈條上起著信息匹配中介的作用，它將計(jì)算機(jī)程序設(shè)計(jì)中連接輸入數(shù)據(jù)和輸出數(shù)據(jù)的兩端貫穿起來(lái)，通過(guò)把關(guān)、映射、修辭、決策等功能應(yīng)用于新聞選題、內(nèi)容生產(chǎn)、新聞?dòng)螒?、新聞推送和用戶決策等場(chǎng)景（見(jiàn)圖2）。[6]憑借垂直領(lǐng)域開(kāi)放平臺(tái)的接口或平臺(tái)授權(quán)，算法在龐大的數(shù)據(jù)支持下精確迅捷地抓取、生成、發(fā)布和推送資訊，最終實(shí)現(xiàn)對(duì)新聞內(nèi)容生產(chǎn)環(huán)節(jié)和分發(fā)環(huán)節(jié)的再造和變革。

圖1 算法設(shè)計(jì)的一般過(guò)程[4]

圖2 算法在新聞業(yè)的應(yīng)用場(chǎng)景

二、算法權(quán)力介入新聞生產(chǎn)——未知的“黑箱”

在新聞生產(chǎn)的具體語(yǔ)境下，算法是如何形成并影響著知識(shí)生產(chǎn)和公共輿論？算法如何利用互聯(lián)網(wǎng)的海量數(shù)據(jù)代替人類記者和編輯行使信息傳播把關(guān)人的職能？對(duì)于專業(yè)人士以外的大多數(shù)用戶而言，這個(gè)過(guò)程如同一個(gè)“黑箱”，既難以理解又無(wú)從評(píng)判和監(jiān)督。

（一）算法權(quán)力的黑箱和隱蔽性

“黑箱”是控制論中的概念。作為一種隱喻，它指的是為人所不知的那些既不能打開(kāi)、又不能從外部直接觀察其內(nèi)部狀態(tài)的系統(tǒng)。[7]而“技術(shù)黑箱”特指人工制造品(artifacts)，作為知識(shí)已經(jīng)被部分人知道，但另一部分人不一定知道。在新聞生產(chǎn)的整個(gè)鏈條中，算法權(quán)力得以充分施展的是自動(dòng)化決策環(huán)節(jié)，分別體現(xiàn)在算法自動(dòng)生成新聞內(nèi)容、智能推薦新聞產(chǎn)品、借助模擬程序或預(yù)測(cè)模型講述新聞故事三個(gè)層面。[8]在這里，由算法自動(dòng)生成的新聞稿件是人工制造品，而算法程序和工作原理作為知識(shí)，被集成于某種框架之中，對(duì)開(kāi)發(fā)者、設(shè)計(jì)者而言是已知的知識(shí)，對(duì)受眾或用戶則構(gòu)成了一個(gè)“技術(shù)黑箱”。

1.算法權(quán)力的技術(shù)黑箱

按照功能劃分，算法有優(yōu)先級(jí)排序算法、分類算法、關(guān)聯(lián)度算法和濾波算法等多種類型，而自動(dòng)化決策往往不是單一的某個(gè)算法可以完成的，有時(shí)可能需要多種算法的疊加。其中涉及基于大體量數(shù)據(jù)的復(fù)雜運(yùn)算程序和機(jī)器學(xué)習(xí)技術(shù)，即便是專業(yè)的新聞?dòng)浾吆途庉?，也未必能夠參透算法的?nèi)部運(yùn)作機(jī)理。

美國(guó)學(xué)者迪亞克普拉斯（Diakopoulos）研究了算法“黑箱”的兩種常見(jiàn)情形。[9]第一種情形對(duì)應(yīng)監(jiān)督式機(jī)器學(xué)習(xí)技術(shù)，屬于算法“黑箱”初級(jí)形態(tài)，多見(jiàn)于結(jié)構(gòu)化數(shù)據(jù)豐富的財(cái)經(jīng)和體育新聞報(bào)道領(lǐng)域，也是目前國(guó)內(nèi)運(yùn)用比較多的算法形式。如圖3(A)所示，這一過(guò)程有固定的模板，輸入和輸出都是已知信息。算法自動(dòng)按照給定的規(guī)則填充公式化的表達(dá)，生成稿件內(nèi)容。這里算法本身是黑箱，用戶基于公開(kāi)的應(yīng)用程序編程接口(API)可以全部觀察到輸入和輸出兩端的情況。第二種情形屬于算法“黑箱”的中間形態(tài)，常見(jiàn)于新聞眾包模式。如圖3(B)所示，算法輸入側(cè)即新聞線索挖掘、數(shù)據(jù)收集等環(huán)節(jié)具有不透明性，對(duì)用戶而言是未知的，但符合某種統(tǒng)計(jì)學(xué)規(guī)律，只有輸出側(cè)是已知的。

本文認(rèn)為，在上述兩種情形之外，還存在對(duì)應(yīng)無(wú)監(jiān)督式機(jī)器學(xué)習(xí)的第三種形態(tài)，也即算法“黑箱”的進(jìn)階形態(tài)。如圖3(C)所示，無(wú)須固定的輸入輸出模板，算法在沒(méi)有任何人為干預(yù)的條件下，憑借自主學(xué)習(xí)能力自動(dòng)地從數(shù)據(jù)中抽取知識(shí)。這里輸入和輸出兩側(cè)組成了一個(gè)閉環(huán)的黑箱，無(wú)論是新聞線索發(fā)掘、文本生成，還是后續(xù)的編輯審稿和新聞簽發(fā)等諸多流程均是不透明的。

2.算法中隱含的偏見(jiàn)和利益取向

計(jì)算機(jī)系統(tǒng)隱含的偏見(jiàn)和利益取向多年前就已引起廣泛關(guān)注。多項(xiàng)研究均顯示，軟件產(chǎn)品具有隱蔽性的特征，特定的權(quán)力結(jié)構(gòu)、價(jià)值觀和意識(shí)形態(tài)已經(jīng)事先被嵌入其中。在軟件的遮蔽下，“有限性、許可、特權(quán)和障礙”[10]等限制不易被人察覺(jué)。

圖3 新聞生產(chǎn)中的三種算法“黑箱”情形

具體從算法設(shè)計(jì)過(guò)程來(lái)看，基礎(chǔ)數(shù)據(jù)和推理假設(shè)是必不可少的兩個(gè)因素。而這二者都有可能隱含設(shè)計(jì)者的偏見(jiàn)、價(jià)值觀和意識(shí)形態(tài)取向。特別是社會(huì)化媒體搜索引擎的信息過(guò)濾和個(gè)性化推送環(huán)節(jié)，設(shè)計(jì)者和技術(shù)人員不僅影響算法的設(shè)計(jì)流程，而且在算法運(yùn)行時(shí)仍可介入過(guò)濾程序，其中既可能帶有算法設(shè)計(jì)者的主觀偏見(jiàn)，也可能存在輸入數(shù)據(jù)的可靠性以及由算法局限造成的歧視效應(yīng)。[11]相應(yīng)的后果是算法自動(dòng)生成的新聞作品可能與設(shè)計(jì)初衷背道而馳，甚至包含不準(zhǔn)確或虛假信息。這不僅有悖于客觀、公正的新聞報(bào)道準(zhǔn)則，也會(huì)直接影響到公共議程設(shè)置和輿論意見(jiàn)的形成。

從介入新聞生產(chǎn)的多元利益主體來(lái)看，由于不具備獨(dú)立研發(fā)智能算法的技術(shù)能力和人才資源，多數(shù)媒體只能尋求與技術(shù)公司合作，以業(yè)務(wù)外包、網(wǎng)絡(luò)協(xié)作的方式完成基于算法的新聞生產(chǎn)。在技術(shù)公司、互聯(lián)網(wǎng)公司乃至金融資本的夾擊下，專業(yè)媒體面臨著新聞內(nèi)容分發(fā)渠道被擠占的被動(dòng)境地。

（二）算法黑箱存在的現(xiàn)實(shí)原因

從掌握算法的媒體機(jī)構(gòu)和技術(shù)公司的立場(chǎng)考慮，一方面，由于算法披露的成本投入和現(xiàn)實(shí)收益不成比例，這些機(jī)構(gòu)在商業(yè)化運(yùn)營(yíng)的壓力下缺乏足夠的信息披露動(dòng)力。另一方面，如果披露的信息中存在匿名方式不當(dāng)?shù)那闆r，新聞機(jī)構(gòu)可能面臨被控侵犯隱私的法律風(fēng)險(xiǎn)，而公開(kāi)承認(rèn)報(bào)道內(nèi)容中存在錯(cuò)誤或不確定性因素也有可能招致訴訟糾紛。此外，他們的顧慮還體現(xiàn)在：如果將專有算法程序公之于眾，有可能侵害自身的技術(shù)競(jìng)爭(zhēng)優(yōu)勢(shì)，陷入被第三方介入操縱的被動(dòng)局面。[12]

從用戶的層面來(lái)說(shuō)，算法信息的大量披露可能導(dǎo)致信息過(guò)載。由于不同受眾群體存在差異化的信息需求，除專業(yè)人士之外的大多數(shù)受眾可能難以理解這些計(jì)算公式或?qū)χ桓信d趣。因此，如果新聞機(jī)構(gòu)不了解用戶對(duì)算法透明的真實(shí)需求狀況，披露的算法信息超出了他們所能接受、處理和有效利用的范圍，使其難以找到有價(jià)值的高關(guān)聯(lián)度信息，就可能對(duì)用戶界面造成干擾，帶來(lái)不必要的信息重荷，進(jìn)而影響用戶的感官和認(rèn)知體驗(yàn)。

三、算法透明——算法權(quán)力規(guī)制的可能進(jìn)路

與算法的權(quán)力邊界不斷擴(kuò)張相對(duì)的是，算法的某些負(fù)面影響和潛在問(wèn)題被“黑箱”所掩蓋和遮蔽，業(yè)已引發(fā)了業(yè)界和學(xué)界共同的焦灼和思考。既然算法“黑箱”的核心問(wèn)題在于信息不對(duì)稱和不公開(kāi)，就現(xiàn)階段而言，要對(duì)無(wú)處不在但又不透明的算法權(quán)力加以有效規(guī)制，需要邁出的第一步就是破解算法黑箱、推進(jìn)算法透明。

首先，算法透明已具備一定的現(xiàn)實(shí)可能性和外部環(huán)境條件。隨著傳播技術(shù)的加速迭代，互聯(lián)網(wǎng)和數(shù)字媒介的普及大大降低了數(shù)據(jù)存儲(chǔ)、收集、分析的成本，使得任何有網(wǎng)絡(luò)連接的組織和個(gè)人均有可能借助數(shù)字技術(shù)對(duì)政府和機(jī)構(gòu)行使監(jiān)督和問(wèn)責(zé)職能。而開(kāi)源文化、開(kāi)放數(shù)據(jù)運(yùn)動(dòng)在全球多個(gè)國(guó)家的擴(kuò)散也為推進(jìn)算法透明營(yíng)造了一個(gè)開(kāi)放的外部社會(huì)語(yǔ)境。

其次，對(duì)人工智能技術(shù)范式驅(qū)動(dòng)下的新聞業(yè)而言，算法透明既可對(duì)新聞客觀性準(zhǔn)則給予全新詮釋，也能凸顯專業(yè)新聞機(jī)構(gòu)在內(nèi)容生產(chǎn)方面的優(yōu)勢(shì)和權(quán)威性。各種超鏈接、消息源和數(shù)據(jù)來(lái)源的公開(kāi)披露以及社交媒體上用戶產(chǎn)生的海量評(píng)論，使得新聞產(chǎn)品的數(shù)據(jù)驅(qū)動(dòng)和交互特性越來(lái)越受到重視，增強(qiáng)透明性實(shí)際上是鼓勵(lì)用戶充分參與新聞生產(chǎn)過(guò)程。

最后，推行透明的算法披露機(jī)制，不僅有助于專業(yè)人士發(fā)掘算法真相，也可以為受眾提供了解真實(shí)的新聞生產(chǎn)過(guò)程的機(jī)會(huì)，因此具有完善新聞生產(chǎn)問(wèn)責(zé)機(jī)制和強(qiáng)化專業(yè)媒體權(quán)威性的雙重意義。

需要明確的一點(diǎn)是，推進(jìn)算法透明與規(guī)制算法權(quán)力是一體兩面的關(guān)系。鑒于很多算法屬于涉及商業(yè)利益的專有算法，受知識(shí)產(chǎn)權(quán)保護(hù)，因此現(xiàn)實(shí)中的算法透明只能是有限度的透明。而且，算法透明也不必然代表算法權(quán)力“被關(guān)進(jìn)了籠子”，但它是針對(duì)算法黑箱問(wèn)題而提出的、制衡并規(guī)范算法權(quán)力的應(yīng)對(duì)之策。

四、算法透明機(jī)制的設(shè)計(jì)與實(shí)現(xiàn)

算法的哪些內(nèi)容應(yīng)該向用戶充分披露？如何在算法透明性和商業(yè)利益之間尋找一個(gè)恰當(dāng)?shù)钠胶恻c(diǎn)？從一般意義上來(lái)說(shuō)，透明意味著獲悉真相和人類行為動(dòng)機(jī)的手段和方法。按照新聞透明性的要求，通過(guò)公開(kāi)信息披露，無(wú)論是否屬于新聞從業(yè)人員，只要對(duì)新聞作品及其產(chǎn)制流程感興趣，均享有監(jiān)督、核查、評(píng)判甚至參與到新聞采集、生產(chǎn)以及分發(fā)過(guò)程的機(jī)會(huì)，用戶借此可以更多地了解新聞生產(chǎn)過(guò)程及其背后的設(shè)計(jì)邏輯。[13]

結(jié)合前文對(duì)算法運(yùn)行過(guò)程中的“黑箱”問(wèn)題和算法透明現(xiàn)實(shí)阻力的分析，本文認(rèn)為，可以結(jié)合內(nèi)生性的生產(chǎn)邏輯和外生性的監(jiān)管邏輯，按照算法披露、法律規(guī)制和社會(huì)監(jiān)督三個(gè)思路構(gòu)建算法透明實(shí)現(xiàn)機(jī)制（如圖4所示）。

圖4 算法透明實(shí)現(xiàn)機(jī)制的設(shè)計(jì)思路

第一，從生產(chǎn)主體的角度來(lái)看，專業(yè)媒體、技術(shù)公司以及新聞聚合網(wǎng)站可以本著算法要素透明、程序透明和背景透明的三條原則構(gòu)建算法披露機(jī)制，提升算法透明度。

1.算法要素透明

數(shù)據(jù)是算法運(yùn)行的前提條件和基本要素。在基于算法的新聞生產(chǎn)和分發(fā)流程中，算法程序的高效運(yùn)行對(duì)數(shù)據(jù)量級(jí)和質(zhì)量均有很高的要求。按照透明性原則，新聞媒體機(jī)構(gòu)需要對(duì)數(shù)據(jù)質(zhì)量、可信度、準(zhǔn)確性、誤差范圍、采樣范圍、缺失值、機(jī)器學(xué)習(xí)過(guò)程中訓(xùn)練數(shù)據(jù)的規(guī)模等進(jìn)行必要說(shuō)明。另外，對(duì)于涉及公共利益的算法，新聞機(jī)構(gòu)應(yīng)向用戶主動(dòng)披露源代碼。此外，模型輸入的變量及其特征，特別是對(duì)于新聞價(jià)值定義的標(biāo)準(zhǔn)、語(yǔ)義分析時(shí)的關(guān)鍵變量值、特征權(quán)重和建模工具等信息均有必要向用戶披露，從而使他們對(duì)算法的建模過(guò)程有較為全面的了解。

2.算法程序透明

生產(chǎn)主體應(yīng)就算法的運(yùn)算和決策過(guò)程予以必要解釋，以實(shí)現(xiàn)程序透明。算法程序的推理規(guī)則，如分類、數(shù)值推測(cè)、推薦等，其中包含的準(zhǔn)確度、基準(zhǔn)值、置信水平等統(tǒng)計(jì)數(shù)據(jù)均存在不確定性。還有外部接口的開(kāi)關(guān)、輸入與權(quán)重的可調(diào)整性以及呈現(xiàn)給終端用戶的界面設(shè)計(jì)等，都需要考慮以便于用戶理解的方式予以充分披露。

3.算法背景透明

自動(dòng)化新聞生產(chǎn)過(guò)程中是否有人工編輯和記者的干預(yù)，以何種形式、在什么程度上參與，誰(shuí)應(yīng)對(duì)報(bào)道的準(zhǔn)確性負(fù)責(zé)，媒體機(jī)構(gòu)應(yīng)該予以明確說(shuō)明。對(duì)算法在實(shí)際運(yùn)行中可能帶有的偏見(jiàn)、易犯的錯(cuò)誤，新聞機(jī)構(gòu)也應(yīng)該坦誠(chéng)告訴用戶。特別是當(dāng)涉及爭(zhēng)議性、批判性新聞話題的時(shí)候，應(yīng)向用戶交代算法設(shè)計(jì)者及其所在機(jī)構(gòu)的目標(biāo)和意圖。

從具體操作方式上看，媒體機(jī)構(gòu)可以效法其他商業(yè)企業(yè)，以發(fā)布階段性算法透明報(bào)告或組織分享交流會(huì)的形式，向外界定期公開(kāi)算法運(yùn)行的相關(guān)信息。例如今日頭條在2018年1月份召開(kāi)了一場(chǎng)旨在推動(dòng)整個(gè)行業(yè)問(wèn)診算法、建言算法的論壇，面向行業(yè)公開(kāi)頭條的算法原理，以消除社會(huì)各界對(duì)算法的困惑和誤解。

另外，在媒體內(nèi)部設(shè)置專門崗位，由專職人員負(fù)責(zé)與受眾或用戶溝通、解釋算法的運(yùn)作機(jī)理，也不失為一個(gè)增強(qiáng)用戶黏性、提高算法透明度的好辦法。在信息披露界面設(shè)計(jì)上，還應(yīng)思考如何在不影響用戶體驗(yàn)的前提下以通俗易懂、界面友好的方式披露算法信息。

第二，在法律體系層面，目前我國(guó)政府尚未針對(duì)算法特殊性及其在互聯(lián)網(wǎng)時(shí)代產(chǎn)生的法律問(wèn)題作出回應(yīng)，如是否應(yīng)該承認(rèn)人工智能作為具有自我意識(shí)的法律主體地位，是否應(yīng)該保護(hù)算法新聞的著作權(quán)、言論自由等權(quán)利及責(zé)任認(rèn)定等。

在監(jiān)管方式上，相關(guān)政府部門可從事前干預(yù)算法設(shè)計(jì)和根據(jù)后果事后向算法追究責(zé)任兩方面入手。要在尊重算法商業(yè)邏輯的基礎(chǔ)上，將算法與新聞業(yè)的融合看成是互聯(lián)網(wǎng)智能演進(jìn)的過(guò)程中由商業(yè)力量驅(qū)動(dòng)的知識(shí)生產(chǎn)過(guò)程，思索基于算法的新聞價(jià)值生產(chǎn)以及相應(yīng)的問(wèn)題。不僅要約束多元利益主體在互聯(lián)網(wǎng)空間中的行為，也要對(duì)算法技術(shù)本身的變化作出回應(yīng)。針對(duì)不同用途的算法，從其內(nèi)部的設(shè)計(jì)規(guī)則以及外部行為與后果等層面構(gòu)建算法權(quán)力規(guī)范體系。[14]

國(guó)際范圍內(nèi)，歐盟率先在2016年5月通過(guò)《全面數(shù)據(jù)保護(hù)法》（General Data Protection Regulation）,規(guī)定軟件公司應(yīng)向用戶解釋算法決策背后的邏輯推理過(guò)程，并明確規(guī)定，如果相關(guān)主體未履行披露義務(wù)，將對(duì)其處以高額罰金。美國(guó)計(jì)算機(jī)學(xué)會(huì)公眾政策委員會(huì)（ACM Public Policy Council）也公布了知情原則、質(zhì)詢和申訴原則等6項(xiàng)算法治理指導(dǎo)細(xì)則（見(jiàn)表1）。[15]對(duì)此我國(guó)監(jiān)管部門可在研判我國(guó)互聯(lián)網(wǎng)治理的具體國(guó)情基礎(chǔ)上適當(dāng)學(xué)習(xí)借鑒。

表1 ACM公布的算法治理指導(dǎo)原則

第三，在更廣的社會(huì)監(jiān)督層面，隨著我國(guó)信息公開(kāi)進(jìn)程的逐步推進(jìn)和數(shù)據(jù)開(kāi)放環(huán)境的改善，數(shù)據(jù)保護(hù)、數(shù)據(jù)安全意識(shí)近年來(lái)已普遍得到社會(huì)公眾的認(rèn)可。但智能算法在社會(huì)公眾眼中往往帶有“科學(xué)”“客觀”的外在光環(huán)和神秘性。本文認(rèn)為，要實(shí)現(xiàn)對(duì)算法權(quán)力的問(wèn)責(zé)和充分監(jiān)督，應(yīng)在全社會(huì)范圍內(nèi)加強(qiáng)“算法素養(yǎng)”（algorithm literacy）教育，引入第三方監(jiān)督與核查力量，并充分發(fā)揮專業(yè)新聞媒體的問(wèn)責(zé)和監(jiān)督職能。

1.培育算法素養(yǎng)

算法設(shè)計(jì)者和利益相關(guān)者應(yīng)樹(shù)立兼顧效率和公共利益的理念，設(shè)計(jì)和使用算法時(shí)遵循相應(yīng)的倫理規(guī)范。社會(huì)公眾應(yīng)多學(xué)習(xí)和了解必要的算法常識(shí)，既不過(guò)于依賴算法，也應(yīng)清醒認(rèn)識(shí)到算法的負(fù)外部性問(wèn)題，對(duì)算法的系統(tǒng)性影響給予審慎的評(píng)價(jià)和認(rèn)知，不僅要以爭(zhēng)取合理知情權(quán)的方式破除算法“黑箱”，還應(yīng)理性地生產(chǎn)和保護(hù)個(gè)人信息，防范算法可能帶來(lái)的風(fēng)險(xiǎn)與消極后果。

2.加強(qiáng)第三方算法監(jiān)管力量

為了保證對(duì)算法權(quán)力的全方位監(jiān)督，應(yīng)建立值得信賴的算法倫理委員會(huì)等第三方獨(dú)立組織，支持學(xué)術(shù)性組織、非營(yíng)利機(jī)構(gòu)或自媒體的適當(dāng)介入，加強(qiáng)第三方監(jiān)管力量。目前在德國(guó)已經(jīng)出現(xiàn)了由技術(shù)專家和資深媒體人挑頭成立的名為 “監(jiān)控算法”（Algorithm Watch）的非營(yíng)利組織，宗旨是評(píng)估并監(jiān)控影響公共生活的算法決策過(guò)程。具體的監(jiān)管手段包括審核訪問(wèn)協(xié)議的嚴(yán)密性、商定數(shù)字管理的道德準(zhǔn)則、任命專人監(jiān)管信息、在線跟蹤個(gè)人信息再次使用的情況，允許用戶不提供個(gè)人數(shù)據(jù)、為數(shù)據(jù)訪問(wèn)設(shè)置時(shí)間軸、未經(jīng)同意不得將數(shù)據(jù)轉(zhuǎn)賣給第三方等。

3.發(fā)揮專業(yè)媒體的算法問(wèn)責(zé)職能

專業(yè)新聞媒體，特別是其中的調(diào)查記者隊(duì)伍素來(lái)被視為追求事實(shí)真相、推動(dòng)社會(huì)進(jìn)步的標(biāo)桿。算法時(shí)代的媒體機(jī)構(gòu)一方面要對(duì)機(jī)構(gòu)內(nèi)部的算法使用和運(yùn)行情況展開(kāi)自我核查和糾錯(cuò)，另一方面也應(yīng)充分發(fā)揮事實(shí)真相提供者和輿論監(jiān)督主力的職能，針對(duì)算法可能存在的偏見(jiàn)、歧視以及錯(cuò)誤，勇于向算法提問(wèn)、調(diào)查和追責(zé)。

注釋：

[1]葉韋明.機(jī)器人新聞:變革歷程與社會(huì)影響[J].中國(guó)出版，2016(10)

[2]Lee S M, Kim T Y. A News on Demand Service System bas ed on Robot Agent//Proceedings of International Conferenc e of Parallel and Distributed Systems[C].Taiwan:1998:528

[3]鄧建國(guó).機(jī)器人新聞:原理、風(fēng)險(xiǎn)和影響[J].新聞?dòng)浾撸?016(09)

[4]王紅梅，胡明.算法設(shè)計(jì)與分析（第二版）[M].北京：清華大學(xué)出版社，2013：6

[5]Carlson M.The Robotic Reporter: Automated journalism and the redefinition of labor，compositional forms，and journalistic authority[J].Digital Journalism，2015,3(3)

[6]張超.作為中介的算法：新聞生產(chǎn)中的算法偏見(jiàn)與應(yīng)對(duì)[J].中國(guó)出版，2018(1)

[7]陶迎春.技術(shù)中的知識(shí)問(wèn)題——技術(shù)黑箱[J].科協(xié)論壇，2008(7)

[8][9]Diakopoulos N.Algorithmic Accountability:Journalistic investigation of computational power structures[J].Digital Journalism，2015,3(3)

[10]Mager A.Algorithmic Ideology: How Capitalist Society Shapes Search Engines[J].Information，Communication &Society，2012,5(15)

[11]Bozdag E.Bias in Algorithmic Filtering and Personalization[J].Ethics and Information Technology，2013,3(15)

[12][13]Diakopoulos N & Koliska M.Algorithmic Transparency in the News Media[J].Digital Journalism，2016

[14]胡凌.人工智能的法律想象[J].文化縱橫，2017(02)

[15]Statement on Algorithmic Transparency and Accountability [EB/OL].http://www.acm.org/binaries/content/assets/public-policy/2017_usacm_st atement_algorithms.pdf