局內(nèi)的外人:新聞傳播領(lǐng)域算法工程師的倫理責(zé)任考察*

■ 嚴(yán)三九 袁 帆

近些年人工智能深入新聞業(yè)態(tài),促成了新聞傳播領(lǐng)域的算法轉(zhuǎn)向。在此轉(zhuǎn)向中,傳統(tǒng)新聞資訊生產(chǎn)、傳播方式被突破,自動(dòng)化、個(gè)性化特征日益凸顯。但需要注意的是,算法并沒有同新聞傳播生態(tài)完成有機(jī)結(jié)合,它導(dǎo)致了諸如信息繭房、價(jià)值觀異化、權(quán)益侵犯等諸多問題。面對這些問題,已經(jīng)有學(xué)者開始從倫理視角予以解讀和應(yīng)對。譬如邁克·安妮(Mike Ananny)和泰斯·斯洛特(Thijs Slot)著重從算法倫理角度對這些問題予以規(guī)制；尼古拉斯·迪亞科普洛斯(Nicholas Diakopoulos)等則是采取構(gòu)建算法透明機(jī)制予以應(yīng)對?？烧缋账裕魏渭夹g(shù)潛力都是由人來實(shí)現(xiàn)的,①算法引發(fā)的各種問題最終都是由人造成的。由此,想要真正解決算法在新聞傳播領(lǐng)域引發(fā)的倫理問題,不能僅以亡羊補(bǔ)牢的方式從問題“下游”著手,而是得從“上游”出發(fā),從人出發(fā)。于是,算法的直接設(shè)計(jì)者——算法工程師便是不可忽略的研究對象。目前新聞傳播領(lǐng)域中,針對算法工程師的研究較為有限,更多的是將目光聚焦于算法平臺。而本文選擇將算法工程師作為研究對象,以期能夠了解算法工程師在承擔(dān)倫理責(zé)任時(shí)的自我定位,通過促動(dòng)算法工程師主動(dòng)承擔(dān)倫理責(zé)任來規(guī)范其相關(guān)行為,繼而預(yù)防新聞傳播領(lǐng)域中算法引發(fā)的諸多倫理失范問題,達(dá)到算法技術(shù)同新聞傳播生態(tài)間更有效的結(jié)合。

一、算法工程師:算法的關(guān)鍵責(zé)任人

1.算法:非中立的技術(shù)

在麥克盧漢看來，媒介技術(shù)是人身體的延伸,而電磁技術(shù)則是人中樞神經(jīng)的延伸。無論是以深度學(xué)習(xí)為基礎(chǔ)的自動(dòng)化生產(chǎn),如聯(lián)社的Wordsmith、騰訊的Dreamwriter,還是以推薦算法為主流的內(nèi)容分發(fā),如News Republic、今日頭條,它們實(shí)質(zhì)上都是對人在生產(chǎn)、獲取、分發(fā)信息過程中各環(huán)節(jié)思維方式的模擬。對于這種算法模擬,諸如臉書、今日頭條都曾以“技術(shù)中立”為其辯護(hù),聲稱其并無價(jià)值負(fù)載。那么，算法真的是中立的嗎？

媒介生態(tài)學(xué)者蘭斯·斯塔拉特(Lance Strate)認(rèn)為,如果技術(shù)導(dǎo)致變化,只要該變化不是中立的,該技術(shù)也就不是中立的。②算法亦是如此。自從算法被大規(guī)模應(yīng)用以來,新聞傳播領(lǐng)域出現(xiàn)了兩個(gè)質(zhì)的變化:一方面,機(jī)器協(xié)作下的資訊生產(chǎn)、分發(fā)模式成為一大主流；另一方面,新型資訊聚合平臺成為后起之秀。在前一個(gè)變化過程中,算法雖推動(dòng)了信息生產(chǎn)、傳播的速度,卻也常常與偏見、歧視、侵權(quán)等一系列帶有負(fù)面價(jià)值的詞匯聯(lián)系在一起；在后一個(gè)變化過程中,平臺享受著技術(shù)帶來的盈利,卻未能對算法可能造成的負(fù)面影響進(jìn)行提前規(guī)避。由此看來,在算法帶來的變化中,正、負(fù)影響并不是能夠相互抵消,進(jìn)而保持絕對均衡發(fā)展的。與此同時(shí),技術(shù)本身又是存在偏向的。如同槍支,無論如何使用,它都具有暴力偏向。類似的，在大數(shù)據(jù)時(shí)代,算法無論如何應(yīng)用,在其被設(shè)計(jì)出來的那一刻起,就已經(jīng)具備了控制偏向。這種控制偏向表現(xiàn)為算法沒有向用戶提供無限的選擇而是標(biāo)記了必然,它窄化了什么是可以選擇的這一問題的答案。由此,算法可能在本體論意義上是具有中立性與客觀性的,但是在大眾傳播系統(tǒng)中的絕對中立性卻是一個(gè)偽命題。③

2.算法工程師:關(guān)鍵的責(zé)任主體

那么,對于非中立的算法技術(shù),誰能夠影響它并決定它的價(jià)值走向呢？以往,我們普遍認(rèn)為平臺和產(chǎn)品經(jīng)理對算法提出了要求,因此算法的價(jià)值走向取決于平臺所需。于是每當(dāng)算法及平臺出現(xiàn)負(fù)面事件,如今日頭條因爬蟲侵權(quán)屢次被訴時(shí),臉書泄密門事件被曝光時(shí),平臺及負(fù)責(zé)人作為代表成為了被告或者道歉者。但透過平臺往背后追溯,有一個(gè)群體是不能被忽略的,那就是算法工程師。他們作為當(dāng)下算法資訊平臺中掌握關(guān)鍵技術(shù)的群體,卻在諸多事件中處于失聲狀態(tài),在人們的視線中處于隱匿狀態(tài),成為了最神秘的那撥人。

實(shí)際上,由于“專業(yè)鴻溝”的存在,一開始就已經(jīng)劃分出有能力解讀算法的人和無能力解讀算法的人。有能力的人即算法工程師，他們有著不同的價(jià)值觀念,在實(shí)現(xiàn)目標(biāo)功能的過程中,會選擇不同的算法來解決問題。也正是在這個(gè)過程中,算法工程師自身的價(jià)值偏向會有意識、無意識地被輸入到算法之中。譬如2016年一場AI網(wǎng)絡(luò)選美大賽中,最終獲獎(jiǎng)?wù)叽蟛糠譃榘兹耍辉倨┤绻雀柙o黑人程序員的自拍照打上了“大猩猩”標(biāo)簽。這些算法偏見主要來源于兩點(diǎn):一是人的偏見,二是訓(xùn)練數(shù)據(jù)中固有偏見。但即便算法工程師盡可能地避免自身偏見的載入,對訓(xùn)練數(shù)據(jù)中的偏見無甄別、無糾正,在某種程度上就是對偏見不敏感或者說默許偏見發(fā)生的表現(xiàn)。因此,正如楊保軍在界定智能新聞倫理責(zé)任主體時(shí)所認(rèn)為的那樣,軟件的開發(fā)者和使用者是首要責(zé)任主體。④然而,大多數(shù)情況下,算法工程師是兼具開發(fā)者、使用者兩種角色。這種雙重角色雖然沒有賦予算法工程師像醫(yī)生或者律師那樣的社會地位,但是隨著信息技術(shù)施用領(lǐng)域的拓展,他們經(jīng)常發(fā)現(xiàn)自己確實(shí)有著高于老板、客戶、工作人員和大眾的權(quán)力,這種權(quán)力很容易被那些無所顧忌或易受誘惑的人所濫用。⑤所以算法工程師才是直接有能力使用算法、調(diào)整算法、預(yù)設(shè)算法未來走向的人。

介于以上各點(diǎn),面對算法在新聞傳播領(lǐng)域中引發(fā)的諸多倫理問題,算法工程師自然不能置身于事外,需要承擔(dān)起自己應(yīng)盡的義務(wù)與責(zé)任。這些義務(wù)與責(zé)任包括但不僅限于:了解自身所設(shè)計(jì)算法引發(fā)的倫理問題，增強(qiáng)對可能產(chǎn)生問題的敏感性，積極主動(dòng)地參與到算法優(yōu)化任務(wù)之中等。由此,本研究將目光聚焦于新聞傳播領(lǐng)域中的算法工程師,考察不同的算法工程師如何認(rèn)識算法所引發(fā)的倫理問題,以何種態(tài)度對待該些問題,又是否愿意承擔(dān)起改善這些倫理問題的責(zé)任與義務(wù)。

二、研究假設(shè)與研究對象

為了回答以上問題,本研究通過問卷調(diào)查和訪談法對算法工程師進(jìn)行測量與分析。本文假設(shè)新聞傳播領(lǐng)域中的算法工程師對算法引發(fā)的倫理問題有著不同的觀點(diǎn)與態(tài)度。在以往的研究中個(gè)體差異,如年齡等會直接影響人們對事物的認(rèn)知。并且在一般情況下,對一個(gè)問題越是了解,越能明確知曉其危害性。此外,對風(fēng)險(xiǎn)事件的感知又會影響到個(gè)體的態(tài)度與行為。⑥也就是說,對算法倫理問題的了解程度某種程度上會影響算法工程師會如何繼續(xù)對待這些問題,是傾向于改進(jìn)還是傾向于保持現(xiàn)狀、不做改變。由此,本文提出如下假設(shè):

假設(shè)一:資深算法工程師比年輕算法工程師對算法倫理問題的了解程度更深。

假設(shè)二:對算法倫理問題了解越多的工程師其所感受到的威脅性更為強(qiáng)烈。

假設(shè)三:對算法倫理問題了解越多的工程師更有意愿去改進(jìn)該些問題。

為了驗(yàn)證以上假設(shè),本次研究采用問卷調(diào)查為主,深度訪問為輔的方式。在進(jìn)行問卷設(shè)計(jì)、發(fā)放之前,作者對前期接觸的后端算法工程師進(jìn)行了25-35分鐘不等的線上或線下訪問。然后根據(jù)深訪結(jié)合文獻(xiàn),此次調(diào)查問卷由四個(gè)部分構(gòu)成:一是對算法引發(fā)倫理問題的了解程度；二是對算法倫理問題威脅性感受程度；三是對改善算法引發(fā)倫理問題的意愿傾向；四是受訪者人口統(tǒng)計(jì)學(xué)變量,包括性別、年齡、受教育程度、從業(yè)時(shí)長及任職時(shí)長等。⑦為方便統(tǒng)計(jì),問卷統(tǒng)一采取五級量表形式。

需要強(qiáng)調(diào)的是此次研究目的不在于進(jìn)行深入的實(shí)證研究,僅限于一種探針式考察。調(diào)查于2019年1月11日至4月27日進(jìn)行,經(jīng)前期接觸及深訪對象以滾雪球抽樣方式采集數(shù)據(jù)。通過互聯(lián)網(wǎng)向百度、字節(jié)跳動(dòng)、快手科技三家主要互聯(lián)網(wǎng)企業(yè)中推薦算法等相關(guān)后端算法工程師發(fā)放問卷。此次樣本企業(yè)的選擇考慮到以下因素:首先,集中在北京是由于其本就是互聯(lián)網(wǎng)企業(yè)集中城市,在北京的互聯(lián)網(wǎng)企業(yè)數(shù)量占了我國互聯(lián)網(wǎng)企業(yè)數(shù)量的半壁江山；其次,百度、字節(jié)跳動(dòng)、快手科技旗下都有算法產(chǎn)品引發(fā)過負(fù)面事件,也是算法倫理批判的主要平臺。此次調(diào)查共發(fā)放250份,排除無效問卷后最終有效問卷206份,回收率為82.4%。經(jīng)統(tǒng)計(jì),參與此次調(diào)查的研究對象基本特征如下:

本次調(diào)查對象男性達(dá)192人占比約為93.20%,女性14人，占比約為6.80%,性別比約為14∶1。根據(jù)程序員客棧2019年中國程序員調(diào)查顯示2019年我國程序員群體男女比例為93.3%∶6.1%,接近15∶1。⑧由此,此次調(diào)查比較符合目前算法工程師群體以男性為主,女性占極少數(shù)的現(xiàn)實(shí)狀況。年齡普遍在21-35歲,平均年齡在27歲左右,符合現(xiàn)階段程序年齡分布實(shí)際。從教育水平來看,研究生占比57.1%,本科生占比35.8%,大專及以下占比7.1%；在從業(yè)時(shí)長上,1年以下占28.42%比,1-5年占比43.47%,6-10年占比17.70%,11年及以上占比10.41%；任職時(shí)長上,1年以下占比36.46%,1-2年占比47.92%,3-4年13.54%,5年及以上2.08%。整體來說,本研究的調(diào)查對象基本符合目前算法工程師群體的人口特征和社會特征。

三、對算法倫理問題的了解

在深訪階段,筆者列舉了“算法不透明”“算法歧視與不公”“算法黑箱”“算法侵權(quán)”“信息繭房”“過濾氣泡”“回音室效應(yīng)”“群體極化”“娛樂至死”“算法霸權(quán)”十個(gè)關(guān)鍵詞匯來了解受訪者對算法倫理問題的基本認(rèn)知情況。讓人意外的是,受訪對象大部分都表示并不是十分了解該些詞匯,甚至有算法工程師使用了“聞所未聞”一詞來進(jìn)行回答。而當(dāng)問及是否知曉“魏則西事件”時(shí),大部分受訪者表示知曉。因此,在對算法工程師進(jìn)行考察時(shí),除了以上列舉的十個(gè)關(guān)鍵,問卷還設(shè)置了5個(gè)熱點(diǎn)事件包括“‘魏則西’事件”“今日頭條侵權(quán)被訴”“人民網(wǎng)三評算法推薦”“Facebook偏見門”“快手、抖音等短視頻整改”。

經(jīng)統(tǒng)計(jì),算法工程師對新聞傳播領(lǐng)域有關(guān)算法倫理詞匯的了解程度一般,整體均值為3.02。其中有五項(xiàng)均值在中值3以下,分別為“信息繭房”(M=2.47,SD=0.72)、“過濾氣泡”(M=2.74,SD=0.93)、“回音室效應(yīng)”(M=2.69,SD=0.84)、“娛樂至死”(M=2.79,SD=0.81)、“算法霸權(quán)”(M=2.76,SD=1.12),基本可以歸納為被訪者對此些詞匯不了解。均值高于3的五項(xiàng)有“算法透明”(M=3.69,SD=0.97)、“算法黑箱”(M=3.65,SD=1.01)、“算法侵權(quán)”(M=3.15,SD=0.93)、“算法歧視”(M=3.14,SD=1.02)、“群體極化”(M=3.07,SD=1.13)。其中“信息繭房”一項(xiàng),無論是均值還是標(biāo)準(zhǔn)差都是最小,說明算法工程師整體對這一詞匯都處于不太了解的狀態(tài)。此外,受訪者對算法引發(fā)的熱點(diǎn)事件的了解程度整體均值為3.75。以中值3為標(biāo)準(zhǔn),只有“人民網(wǎng)三評算法推薦”(M=2.73,SD=0.86)均值低于3。其余四項(xiàng)均值高于3,其中“‘魏則西’事件”(M=4.21,SD=0.81)、“今日頭條侵權(quán)被訴”(M=4.10,SD=0.84)兩項(xiàng)均值高于4；“臉書偏見門”(M=3.82,SD=0.96),“快手、抖音整改”(M=3.87,SD=0.85)。從標(biāo)準(zhǔn)差看,五件熱點(diǎn)事件標(biāo)準(zhǔn)差均在1以下,說明算法工程師內(nèi)部對該五項(xiàng)事件的了解程度較為一致。

可見,算法工程師對算法倫理的了解僅停留于表層。僅留意了一些“事件性”信息,而對于一些“專業(yè)性”信息則不知曉。尤其研究中“信息繭房”“信息窄化”等專業(yè)術(shù)語作為新聞傳播領(lǐng)域?qū)λ惴▊惱韱栴}批判中最常提及的話題,在算法工程師眼里卻是最陌生的詞匯,說明被訪者與新聞傳播領(lǐng)域間存在相對較大的隔閡,來自新聞傳播領(lǐng)域的算法倫理批判并沒有對算法工程師產(chǎn)生切實(shí)影響。

另外,研究以從業(yè)時(shí)間和任職時(shí)間來界定算法工程師的資歷,通過算法工程師的從業(yè)時(shí)長、任職時(shí)長與算法倫理問題了解間進(jìn)行交叉分析。將倫理問題了解程度的均值區(qū)間設(shè)置為1.00-1.99,2.00-2.99,3.00-3.99,4.00-4.99以方便考察(見表1、2)。

表1 從業(yè)時(shí)長與倫理問題了解的交叉分析

表2 任職時(shí)長與倫理問題了解的交叉分析

由表1、表2可知,從業(yè)時(shí)長在1年以下的算法工程師對算法倫理問題的認(rèn)知均值集中在3.00-3.99；從業(yè)大于1年的算法工程師一半以上集中在3.00以下。任職時(shí)長1年以下的算法程師對算法倫理問題的認(rèn)知均值集中在1.00-1.99,但隨著在同一企業(yè)任職時(shí)間的增長,認(rèn)知均值逐漸集中于3.00-3.99之間。此外,研究通過皮爾森簡單相關(guān)系數(shù)驗(yàn)證了算法工程師的從業(yè)時(shí)長與倫理問題認(rèn)識(r=-0.344,p<0.01)、任職時(shí)長與倫理問題認(rèn)識(r=0.628,p<0.01)均成顯著相關(guān)。

綜上,本研究假設(shè)一需要調(diào)整為“在同一新聞傳播領(lǐng)域相關(guān)企業(yè)中任職時(shí)間越長的算法工程師會比任職時(shí)間短的算法工程師更了解算法在新聞傳播領(lǐng)域中引發(fā)的倫理問題”。

四、對算法倫理問題威脅性的評估

瑪利亞·莉瑪曾指出技術(shù)越是發(fā)展,風(fēng)險(xiǎn)感知越低,⑨言外之意表達(dá)了現(xiàn)代技術(shù)所含倫理問題的隱匿性。為了驗(yàn)證此點(diǎn),研究從上述十項(xiàng)詞匯出發(fā),測量在算法工程師眼里該些詞匯所涉及的算法倫理問題威脅性如何。

根據(jù)統(tǒng)計(jì),在算法工程師看來新聞傳播領(lǐng)域中算法所引發(fā)的倫理問題并不具有強(qiáng)烈威脅性,整體均值為3.26。其中“信息繭房”(M=2.71,SD=0.69)的均值在中值3以下,說明在新聞傳播領(lǐng)域算法工程師眼中信息繭房是最沒有社會威脅性的,這與學(xué)界對“信息繭房”的強(qiáng)烈批判態(tài)度產(chǎn)生了分歧?！八惴ㄆ缫暋?M=4.01,SD=0.83)的均值在4.00以上,說明對社會可能產(chǎn)生強(qiáng)烈威脅的是算法自身內(nèi)含的歧視問題,在此點(diǎn)上算法工程師同學(xué)界研究態(tài)度達(dá)成了一致。其余項(xiàng)均值在3.00-4.00之間,即在算法工程師對該些問題的威脅性一般。

此外，交叉分析顯示,當(dāng)算法工程師的倫理問題認(rèn)識均值在3.00以下時(shí),其對算法倫理問題的威脅性評估大部分處于較低水平。而當(dāng)均值在3.00以上時(shí),其威脅性評估明顯趨于強(qiáng)烈,集中在3.00-3.99之間(見表3)。

表3 倫理問題了解與倫理問題威脅性評估的交叉分析

同時(shí)相關(guān)性分析也顯示倫理問題認(rèn)識同威脅性評估之間呈顯著相關(guān)(r=0.270,p<0.01)。由此本文的假設(shè)二“對算法倫理問題了解越多的工程師其所感受到的威脅性更為強(qiáng)烈”是成立的。

五、對算法倫理問題的改善傾向

深訪中,筆者向受訪者提問,其是否有意愿對算法倫理問題做進(jìn)一步了解,并改善現(xiàn)階段算法引發(fā)的倫理問題。一位入職字節(jié)跳動(dòng)1年的推薦算法工程師說道:

“學(xué)者們批判的信息繭房這些倫理問題,不是作為技術(shù)人員的我主要考慮的,這些問題應(yīng)該是管理者們事先要考慮的。如果他們認(rèn)為產(chǎn)品有什么問題或應(yīng)該調(diào)整某個(gè)變量的權(quán)重,我可以朝這個(gè)方向去調(diào)整代碼?！雹?/p>

另一位在百度工作兩年的后端工程師同樣指出:

“我是負(fù)責(zé)后端開發(fā)的,在產(chǎn)品測試過程中我們會發(fā)現(xiàn)一些問題,這些問題有涉及到倫理方面的但主要還是關(guān)于產(chǎn)品效果的。如果有涉及倫理的問題出現(xiàn),主要看領(lǐng)導(dǎo)給個(gè)什么解決方向,然后我們團(tuán)隊(duì)再一起商量技術(shù)上能不能達(dá)到這個(gè)解決效果”。

不難發(fā)現(xiàn),算法工程師在倫理問題改善的自我定位中處于被動(dòng)狀態(tài)。他們主要的任務(wù)是實(shí)現(xiàn)領(lǐng)導(dǎo)所要求的算法功能,當(dāng)問題出現(xiàn)后也是根據(jù)企業(yè)要求從技術(shù)上調(diào)整算法。那么,算法工程師的主觀能動(dòng)性到底如何？為此問卷考察了受訪者對待解決算法引發(fā)倫理問題時(shí)的態(tài)度,具體包括“改進(jìn)算法,緩減信息繭房加劇現(xiàn)象”“了解收集、使用數(shù)據(jù)時(shí)相關(guān)的權(quán)利和責(zé)任”“對程序可能產(chǎn)生的問題進(jìn)行預(yù)見并匯報(bào)”等十個(gè)題項(xiàng)。

面對算法在新聞傳播領(lǐng)域引發(fā)的倫理問題,算法工程師整體改進(jìn)意愿不非常高,均值為3.50。以中值3為標(biāo)準(zhǔn),其中“改進(jìn)算法,緩減信息繭房加劇現(xiàn)象”(M=2.73,SD=0.74)、“向公眾分享算法相關(guān)知識、培養(yǎng)計(jì)算意識”(M=2.93,SD=1.07)兩項(xiàng)均值在3以下,說明算法工程師對此兩項(xiàng)的改進(jìn)意愿非常低。“要避免諸如民族、性別等方面的歧視與偏見”(M=4.01,SD=0.99)、“考慮信息弱勢群體的需求”(M=4.01,SD=1.03)兩項(xiàng)均值高于4,說明算法工程師更有意愿在此兩項(xiàng)上做出改變。其余題項(xiàng):“進(jìn)一步了解算法倫理問題相關(guān)知識”(M=3.76,SD=0.81)、“對程序可能產(chǎn)生的問題進(jìn)行預(yù)見并匯報(bào)”(M=3.68,SD=0.83)、“以正確價(jià)值觀引導(dǎo)算法”(M=3.63,SD=0.82)、“改進(jìn)算法,提高推薦內(nèi)容質(zhì)量”(M=3.59,SD=0.87)、“要建立透明的政策和程序,使個(gè)人能夠了解正在收集的是什么數(shù)據(jù)及其使用方式”(M=3.45,SD=1.10)、“了解收集、使用數(shù)據(jù)時(shí)相關(guān)的權(quán)利和責(zé)任”(M=3.31,SD=0.84)。

此外,根據(jù)交叉分析,當(dāng)算法工程師對算法倫理問題的了解均值在3.00以下時(shí),其對倫理問題的改善意愿同樣處于低值；當(dāng)倫理問題了解均值在3.00以上時(shí),大部分算法工程師的倫理問題改善意愿處于3.00-4.99之間,說明他們更有意愿去改善算法倫理問題(見表4)。

表4 倫理問題了解與倫理問題改善傾向的交叉分析

此外,相關(guān)性分析也顯示倫理問題認(rèn)識與倫理問題改善傾向間顯著相關(guān)(r=0.861,p<0.01)。由此，本文假設(shè)三“對算法倫理問題了解越多的工程師更有意愿去改善算法倫理問題”也是成立的。

六、結(jié)論與討論

1.研究啟示

通過本項(xiàng)研究發(fā)現(xiàn),作為引領(lǐng)算法價(jià)值走向的關(guān)鍵人物,算法工程師并沒有對算法在新聞傳播領(lǐng)域引發(fā)的倫理問題有太多深入了解。并且在面對這些問題的時(shí)候,沒有表現(xiàn)出非常高的積極性進(jìn)行算法倫理問題改進(jìn)。他們更多的是不認(rèn)為現(xiàn)階段的算法引發(fā)了嚴(yán)重的倫理道德問題,這與當(dāng)下各界對算法的激烈批判氛圍不相符。可以說,雖然算法工程師已經(jīng)進(jìn)入到了新聞傳播領(lǐng)域之中,成為促動(dòng)新聞傳媒業(yè)改革的關(guān)鍵人物,但是卻未能進(jìn)行準(zhǔn)確的自我定位,職業(yè)角色上仍游離于新聞傳播領(lǐng)域。因此,可以將其稱為外“局內(nèi)的外人”。那么對于算法工程師倫理責(zé)任意識不明確的現(xiàn)狀,該如何進(jìn)行改變使其能盡快融入新聞業(yè),主動(dòng)承擔(dān)起自我倫理責(zé)任呢？筆者認(rèn)為可以通過三方面入手解決該問題:

第一,開展行業(yè)間、部門間對話與交流,提升算法工程師對算法倫理問題的了解。算法工程師的工作性質(zhì)與工作環(huán)境使得這個(gè)職業(yè)群體內(nèi)閉性較高,除了負(fù)責(zé)人以外,很少有機(jī)會同來自新聞傳播領(lǐng)域的其他人員進(jìn)行接觸。因此,對其所設(shè)計(jì)的算法引發(fā)的倫理問題也就不甚了解。想要打破算法工程師“局內(nèi)外人”的尷尬角色,最直接、有效的方式就是展開部門間、行業(yè)的對話與交流。通過跨部門、跨領(lǐng)域的對話,讓算法工程師切實(shí)了解當(dāng)下算法引發(fā)的倫理問題嚴(yán)重性。促使算法工程師在進(jìn)行算法設(shè)計(jì)之前就意識到其頭頂懸掛著一把“達(dá)摩克利斯之劍”,從而在算法設(shè)計(jì)過程中時(shí)刻保持謹(jǐn)慎,盡量減少算法引發(fā)倫理問題的可能。

第二,明確新聞傳播領(lǐng)域算法倫理原則、建立新聞傳播領(lǐng)域算法工程師職業(yè)道德規(guī)范?，F(xiàn)階段，無論是在我國新聞傳播領(lǐng)域內(nèi),還是整個(gè)計(jì)算機(jī)行業(yè)內(nèi)都還沒有形成一套被廣泛認(rèn)可的倫理道德規(guī)范體系,對算法工程師的職業(yè)道德也缺少規(guī)制。某種程度上,這直接使得算法工程師沒有內(nèi)在原動(dòng)力去承擔(dān)本屬于自己的倫理責(zé)任。而對比西方,2018年12月歐盟通過的《可信賴人工智能道德草案》(Draft Ethics Guidelines for Trustworthy AI)中提出算法必須遵守仁慈、非傷害、自治(尊重自我決定和個(gè)人選擇)、正義、可解釋原則(透明)等原則。美國計(jì)算機(jī)協(xié)會的《道德與職業(yè)行為準(zhǔn)則》(Code of Ethics and Professional Conduct)則是目前國際接受度最高的職業(yè)道德規(guī)范,它包含一般道德準(zhǔn)則、職業(yè)責(zé)任、專業(yè)領(lǐng)導(dǎo)原則和遵守《準(zhǔn)則》四大方面,共25條。它們可以讓算法工程師從精神到行為上都受到約束,是具體領(lǐng)域中道德實(shí)現(xiàn)的最佳方式。因此,新聞傳播領(lǐng)域應(yīng)盡快明確算法倫理原則以及算法工程師職業(yè)道德規(guī)范,帶頭從“上游”開始降低算法引發(fā)倫理問題的可能。

第三,通過入職倫理培訓(xùn)加強(qiáng)算法工程師責(zé)任意識。在調(diào)查中,同企業(yè)共同成長的算法工程師會對算法引發(fā)的倫理問題會更為了解,而了解程度又影響其對該些問題的敏感性與改進(jìn)意識。可是程序員群體是高跳槽率群體,其中有58.5%的人跳槽1-3次,并且跳槽次數(shù)會隨著工作年限的增加而增加。這意味著想通過留職率來提升算法工程師的倫理責(zé)任感是比較困難的,最有效的方式是在入職企業(yè)伊始就開始有意識的進(jìn)行倫理責(zé)任培育。但企業(yè)往往錯(cuò)過了這個(gè)倫理培育的最佳時(shí)機(jī),通過深訪得知，目前算法工程師們所接受的企業(yè)入職培訓(xùn)主要為技術(shù)培訓(xùn)、部門培訓(xùn)和企業(yè)文化培訓(xùn)三大類,但專門針對算法倫理問題的培訓(xùn)內(nèi)容涉及比較少。加之當(dāng)下算法與新聞傳播領(lǐng)域的深度結(jié)合,引發(fā)的問題類型層出不窮,抓住入職伊始這一關(guān)鍵時(shí)期進(jìn)行算法工程師倫理培育就顯得急切又必要。

2.不足與展望

此次調(diào)查的目的在于初步了解新聞傳播領(lǐng)域算法工程師在面對算法倫理問題時(shí)的責(zé)任與態(tài)度意識。雖然采用了深訪和問卷結(jié)合的方式,但問卷的題項(xiàng)設(shè)置仍不全面。加之,以滾雪球方式抽樣,不可避免的會存在一些偏差。由此,筆者希望在日后能進(jìn)一步完善問卷,同時(shí)采用更為科學(xué)的抽樣方式,使數(shù)據(jù)結(jié)果能夠更接近算法工程師的倫理責(zé)任現(xiàn)狀。

注釋:

① [德]弗里德里?！だ?《技術(shù)哲學(xué)導(dǎo)論》,劉武譯,遼寧科學(xué)技術(shù)出版社1986版,第123頁。

② Lance S.IfIt'sNeutral,It'sNotTechnology.Educational Technology,vol.52,no.1,2012.pp.6-9.

③ 李林容:《網(wǎng)絡(luò)智能推薦算法的“偽中立性”解析》,《現(xiàn)代傳播》,2018年第8期。

④ 楊保軍、杜輝:《智能新聞:倫理風(fēng)險(xiǎn)·倫理主體·倫理原則》,《西北師大學(xué)報(bào)(社會科學(xué)版)》,2019年第1期。

⑤ [澳]湯姆·福雷斯特:《計(jì)算機(jī)倫理學(xué)——計(jì)算機(jī)學(xué)中的警示與倫理困境》,陸成譯,北京大學(xué)出版社2006年版,第15頁。

⑥ 謝曉非、鄭蕊:《風(fēng)險(xiǎn)溝通與公共理性》,《心理科學(xué)進(jìn)展》,2003年第11期。

⑦ 從業(yè)時(shí)長指的是算法工程師開始進(jìn)入該行業(yè)的時(shí)長，任職時(shí)長指的是算法工程師在現(xiàn)就任企業(yè)所任職的時(shí)長。

⑨ Maria L,Julie B,Jorge V.RiskPerceptionandTechnologicalDevelopmentatASocietalLevel. Risk Analysis,vol.25,no.5,2005.pp.1229-1239.