以技術(shù)哲學(xué)對抗技術(shù)： 社交機(jī)器人在新聞業(yè)的應(yīng)用及其倫理反思

陳 曦

(科技日報(bào)社 北京 100038)

1 問題的提出

自從1956年達(dá)特茅斯會議正式提出人工智能(Artificial Intelligence)這一概念以來，人與非人之間的界限開始變得模糊。憑借著智能技術(shù)的不斷注入，人機(jī)互動的效率和質(zhì)量在短時(shí)間內(nèi)獲得了巨大的飛躍。面對這場廣度和深度甚至遠(yuǎn)超工業(yè)革命的新技術(shù)革命，當(dāng)今科學(xué)界急需一種全新的思想資源和理論體系來回應(yīng)這場狂飆突進(jìn)的新技術(shù)革命。然而有學(xué)者指出，面對這場新技術(shù)革命，人類“完全未經(jīng)抵抗，幾乎不曾討論”[1]。直到2016年AlphaGO戰(zhàn)勝人類圍棋冠軍李世石之后，人類才終于意識到在這場人類與機(jī)器的智力比拼中，機(jī)器在逐漸超越著人的認(rèn)知、挑戰(zhàn)著人類的極限。一場關(guān)于人類主體性滯后的討論開始在世界范圍內(nèi)進(jìn)行。在大數(shù)據(jù)、深度學(xué)習(xí)、機(jī)器識別、社交機(jī)器人等技術(shù)重構(gòu)社會的今天，人工智能技術(shù)已經(jīng)十分接近庫茲韋爾所言的“技術(shù)奇點(diǎn)”：當(dāng)越過奇點(diǎn)之后，人工智能將迎來指數(shù)型的增長，其進(jìn)化程度將遠(yuǎn)超人類的控制能力，人與非人之間的界限被打破，人類也無可避免地成為“后人類”。

人工智能技術(shù)的應(yīng)用正在重構(gòu)新聞業(yè)的底層邏輯，推動新聞生產(chǎn)的后工業(yè)化轉(zhuǎn)型[2]。自Buzzfeed、今日頭條等新聞聚合類平臺問世以來，新聞業(yè)正在被一種由各類人工智能技術(shù)驅(qū)動的后工業(yè)化生產(chǎn)模式所侵蝕。為傳統(tǒng)媒體所熟稔的“采寫-編輯-出版”專業(yè)化新聞生產(chǎn)流程受到了新媒體、流媒體入局的大幅沖擊。長久以來，人們將這種從傳統(tǒng)媒體到新媒體的轉(zhuǎn)型描述為“媒介融合”。但是這種將“新媒體化”看作是傳統(tǒng)媒體的發(fā)展路徑的線性進(jìn)化邏輯實(shí)際上是以舊視角看待新問題，無法把握二者之間的本質(zhì)變化。人工智能技術(shù)應(yīng)用于新聞業(yè)產(chǎn)生的影響，不僅僅是行業(yè)內(nèi)部的技術(shù)變化，而是整個行業(yè)在組織結(jié)構(gòu)上的流程轉(zhuǎn)變，甚至是權(quán)利的轉(zhuǎn)移與媒介生態(tài)的變化。從長遠(yuǎn)的視角來看，這不是傳統(tǒng)媒體在新媒體時(shí)代以新的生產(chǎn)模式的延續(xù)，而是從微觀的新聞生產(chǎn)到宏觀的媒介生態(tài)全方位的范式革新。只有意識到這一點(diǎn)，我們才能防止陷入“從后視鏡觀看現(xiàn)在，倒退著走向未來”(麥克盧漢語)的視線盲區(qū)。

作為人工智能技術(shù)的一種，社交機(jī)器人(Social Bot)對新聞業(yè)的影響可以從很多方面進(jìn)行討論。一方面，在新聞聚合類平臺上，社交機(jī)器人作為內(nèi)容生產(chǎn)者，能夠以較低的成本生產(chǎn)大量的新聞內(nèi)容。它在信息擴(kuò)散中扮演著關(guān)鍵角色，也勢必會對新聞生態(tài)造成沖擊。另一方面，社交機(jī)器人作為普通的用戶，卻是以非人的狀態(tài)出現(xiàn)，并不具有人的情感和判斷力，因而造成了諸多倫理上的困境。社交機(jī)器人在美國大選[3]、中美貿(mào)易談判[4]、俄烏戰(zhàn)爭[5]、新冠肺炎疫情[6]等公共事件中都通過在短時(shí)間內(nèi)大量發(fā)表、轉(zhuǎn)發(fā)、點(diǎn)贊等手段，擾亂了公共輿論秩序、破壞了互聯(lián)網(wǎng)生態(tài)。在新冠肺炎疫情背景下，社交機(jī)器人還能在互聯(lián)網(wǎng)平臺上迅速擴(kuò)散未經(jīng)證實(shí)的健康信息，這將對公共健康造成嚴(yán)重危害[7]。已有研究多集中在社交機(jī)器人在具體新聞事件中的媒體表現(xiàn)，聚焦于其是如何通過自我復(fù)制與互動導(dǎo)致信息擴(kuò)散、謠言泛濫的，仍然處于實(shí)然層面，而較少將社交機(jī)器人當(dāng)作一個行動者來探討其對于整個互聯(lián)網(wǎng)生態(tài)的影響，更少從應(yīng)然層面反思技術(shù)如今是如何作為的，未來需要何以有為。因此，將社交機(jī)器人與新聞業(yè)互動的認(rèn)知，借由倫理反思提升至技術(shù)哲學(xué)層面，不失為從紛繁事件中撥云見月、看到其底層邏輯、推演未來發(fā)展路徑的有效嘗試。

2 社交機(jī)器人的發(fā)展現(xiàn)狀

社交機(jī)器人，又被稱為“僵尸用戶”，是指“一種在社交網(wǎng)絡(luò)中自主運(yùn)行社交賬號并且有能力自動發(fā)送信息和鏈接請求的智能程序”[8]。這些賬戶可以基于特定的腳本模仿人類的行為，然后進(jìn)行信息內(nèi)容的生產(chǎn)與擴(kuò)散。此外，社交機(jī)器人還可以通過互相關(guān)注進(jìn)行自我推廣，以構(gòu)成看似真實(shí)的社交網(wǎng)絡(luò)，改變既有的信息交互結(jié)構(gòu)。

已有的研究按照人機(jī)關(guān)系、實(shí)際功能、社會影響等方面對社交機(jī)器人進(jìn)行了分類。就人際關(guān)系而言，社交機(jī)器人可分為2類：一類是機(jī)器輔助人類(botassisted humans)，為普通用戶提供交互服務(wù)；另一類是人類輔助機(jī)器人(human-assisted bots)，可以協(xié)同人類展開行動，但常常由于操縱和編程服務(wù)于特殊的目的，多數(shù)情況會引發(fā)負(fù)面影響[9]。就實(shí)際功能而言，社交機(jī)器人可分為4類，分別是惡意僵尸機(jī)器人(malicious botments)、編輯機(jī)器人(editing bots)、聊天機(jī)器人(chat bots)、調(diào)研機(jī)器人(research bots)[10]。就社會效益而言，Clark等則直接把社交機(jī)器人應(yīng)用后的社會效果分為“善”與“惡”兩大類[11]。一些社交機(jī)器人向在線用戶傳遞新聞資訊、進(jìn)行天氣預(yù)警、分發(fā)具有時(shí)效性的信息等；一些機(jī)器人傳播虛假新聞、滲透政治話語、擾亂股市秩序、制造信息煙霧彈等?，F(xiàn)有研究多關(guān)注具體應(yīng)用場景中的社交機(jī)器人，尤其是其應(yīng)用后的負(fù)面影響，而較少從技術(shù)哲學(xué)的角度探討社交機(jī)器人現(xiàn)在如何作為、未來如何有為的整體 框架。

3 社交機(jī)器人在傳媒業(yè)的應(yīng)用

2017年，全國“兩會”首次將“人工智能”寫入政府工作報(bào)告[12]，這標(biāo)志著“人工智能”上升為國家戰(zhàn)略并且在中國各行業(yè)獲得了政治合法性。在接下來的幾年時(shí)間里，人工智能技術(shù)伴隨著互聯(lián)網(wǎng)行業(yè)的井噴式發(fā)展，在全社會范圍內(nèi)獲得了快速的普及和應(yīng)用，新聞業(yè)也不例外。在媒介融合的背景下，人工智能技術(shù)已滲入到新聞生產(chǎn)的各環(huán)節(jié)中。盡管媒介融合提倡的是傳統(tǒng)媒體與新媒體的融合，但新聞業(yè)應(yīng)用人工智能技術(shù)后的社會效果仍然顯現(xiàn)出兩種不同的效果。這一方面與傳統(tǒng)媒體與新媒體的媒介屬性有關(guān)，在另一方面也更加將技術(shù)背后的社會意識形態(tài)體現(xiàn)出來。因此，考察人工智能技術(shù)應(yīng)用于新聞業(yè)后的社會價(jià)值更應(yīng)該采取辯證思維，更應(yīng)看到傳統(tǒng)媒體和新媒體對該技術(shù)應(yīng)用的不同之處。

3.1 新聞生產(chǎn)：提高采編效率與降低作惡成本并存

新聞生產(chǎn)是新聞業(yè)的初始環(huán)節(jié)。傳統(tǒng)媒體和新媒體的最大不同之處就在于傳統(tǒng)媒體擁有新聞采編權(quán)，可以采集一手新聞素材，而新媒體，如今日頭條、騰訊新聞等新聞聚合類平臺，則無法通過采集新聞素材來保證內(nèi)容增量，在多數(shù)情況下，它們依靠用戶發(fā)布的內(nèi)容來維持平臺的內(nèi)容再生產(chǎn)。

對于傳統(tǒng)媒體來說，一方面，社交機(jī)器人的應(yīng)用在很大程度上幫助新聞生產(chǎn)達(dá)到了更好的社會效果，是媒介融合下的有效產(chǎn)物。如當(dāng)?shù)卣?、火?zāi)等大型突發(fā)事件發(fā)生時(shí)，傳感器、無人機(jī)、自然語言處理等可以深入到人類所不能抵達(dá)的現(xiàn)場進(jìn)行報(bào)道。該類傳感器新聞(Sensor Journalism)的出現(xiàn)極大地拓寬了新聞采集的邊界，最大程度上發(fā)揮了新聞采編權(quán)的效果。在此類新聞中，新聞源不再是普通的個體、群體或機(jī)構(gòu)組織，傳感器作為信息采集工具，成為新聞工作者的感官延伸，賦予了報(bào)道更多的可能性。另一方面，傳感器新聞是跨界復(fù)合的產(chǎn)物[13]，不僅需要新聞從業(yè)者進(jìn)行維護(hù)，更需要統(tǒng)計(jì)師、數(shù)據(jù)分析師、技術(shù)工程師、交互設(shè)計(jì)師等多方人員的共同努力。除此之外，中國地震臺網(wǎng)的地震信息播報(bào)機(jī)器人也是社交機(jī)器人應(yīng)用于新聞業(yè)的成功案例。地震這一大型自然災(zāi)害，因其發(fā)生時(shí)間快、波及范圍廣等特點(diǎn)，對新聞報(bào)道的時(shí)效性提出了更高的要求。中國地震臺網(wǎng)的社交媒體賬號已應(yīng)用社交機(jī)器人進(jìn)行地震速報(bào)多年，其時(shí)效性和準(zhǔn)確度一直為提高應(yīng)急報(bào)道機(jī)制助力。

對于新媒體來說，社交機(jī)器人產(chǎn)生的大量信息冗余對互聯(lián)網(wǎng)生態(tài)造成了一定程度的干擾。尤其是在重要的政治事件中，社交機(jī)器人通過短時(shí)間內(nèi)的大量復(fù)制、自我轉(zhuǎn)發(fā)促使難辨真假的信息大量傳播，混淆了視聽。已有大量研究表明，2012年特朗普在美國大選中當(dāng)選與社交機(jī)器人的推動有直接相關(guān)性[14]。社交機(jī)器人采用自動化的新聞生產(chǎn)方式只需進(jìn)行特定的程序輸入，不僅可以批量產(chǎn)生賬號、模仿普通用戶的媒介使用行為，而且可以通過輸入文本和圖片自動生產(chǎn)視頻。這樣低成本的信息生產(chǎn)方式，使得社交機(jī)器人充斥在國內(nèi)的新聞聚合類平臺上。這對于依靠用戶內(nèi)容生產(chǎn)的新聞聚合類平臺來說，很難分辨社交機(jī)器人與真實(shí)用戶，因而導(dǎo)致了虛假內(nèi)容在平臺上肆意快速傳播。正是通過與人類進(jìn)行媒介互動，社交機(jī)器人得以成功融入社交網(wǎng)絡(luò)，其在Facebook上的滲透率已經(jīng)高達(dá)80%，模糊了平臺上人與非人之間的界限[15]。

3.2 新聞審核：助力把關(guān)機(jī)制與混淆信息屬性并存

新聞審核是保證新聞質(zhì)量的重要一步。傳統(tǒng)媒體的新聞審核往往進(jìn)行事前審查，在發(fā)出時(shí)已經(jīng)可以對新聞的質(zhì)量作出保證，而新聞聚合類平臺往往因?yàn)榛鶖?shù)大、信息量大而采取事后審查的方式。然而在新舊媒體融合已成趨勢的今天，在社交機(jī)器人的影響下，傳統(tǒng)媒體和新媒體卻在新聞審核上呈現(xiàn)出完全不同的趨勢。

對于新媒體來說，社交機(jī)器人很難在既有的審核體系中進(jìn)行準(zhǔn)確定位。它以普通用戶的形態(tài)出現(xiàn)在平臺中，看似從事著與人類相近的媒介行為，實(shí)際上卻是由特定的程序操控。這樣一種介于人與非人之間的定位，使得社交機(jī)器人在面對新聞審核時(shí)具有天然的規(guī)避傾向。在新聞審核時(shí)，雖然可以把社交機(jī)器人當(dāng)作普通賬號進(jìn)行審核，甚至對相關(guān)違禁賬號進(jìn)行限流、封查或禁用，但是卻無法對操縱程序背后的政治目的與意識形態(tài)進(jìn)行審查。為了應(yīng)對該問題，近年來國內(nèi)外多位學(xué)者提出要區(qū)分謬訊(disinformation)和誤訊(misinformation)。前者是指因?yàn)樾畔⒑瞬榈臏笮远鴮?dǎo)致的流言，其往往不具有特殊的傳播目的；后者則是后真相時(shí)代，因?yàn)樘囟ǖ恼文康亩幙椀膸в袃A向性的信息，以服務(wù)于互聯(lián)網(wǎng)輿論戰(zhàn)。但是如何在審核中區(qū)分意識形態(tài)與極端情緒，仍然是全球平臺治理共同面對的難題。

對于傳統(tǒng)媒體來說，由主流媒體主導(dǎo)的事實(shí)核查在本質(zhì)上仍然是新聞專業(yè)主義的延續(xù)，是一直恪守新聞客觀性的嚴(yán)肅媒體在社交媒體時(shí)代的嘗試[16]。其事前審查機(jī)制不僅保證了新聞內(nèi)容的質(zhì)量，更保證了新聞內(nèi)容的導(dǎo)向。但是在社交媒體時(shí)代，人人都有麥克風(fēng)，人們輕而易舉地便可在平臺上發(fā)布對內(nèi)容的質(zhì)疑和新聞的質(zhì)問。在兩極分化的輿論場中，自上而下與自下而上往往加大了事實(shí)核查的難度，也在無形中加劇了對主流媒體的不信任[17]。由事前審查保證的新聞輿論場與事后審查的平臺輿論場出現(xiàn)了撕裂，新聞審查急需以一種新的形式展開，以回應(yīng)媒體面臨的社會信任危機(jī)。

3.3 新聞分發(fā)：增強(qiáng)用戶黏性與制造信息繭房并存

新聞分發(fā)是新聞傳播的最后一公里。社交媒體時(shí)代，算法、平臺、用戶已經(jīng)成為新聞分發(fā)的重要“把關(guān)人”。值得注意的是，社交機(jī)器人以普通用戶的身份依靠算法在平臺上運(yùn)轉(zhuǎn)，已經(jīng)體現(xiàn)了社交機(jī)器人在新聞分發(fā)中不可忽視的地位。由于社交機(jī)器人基數(shù)大、媒介互動便捷的特征，已經(jīng)在多個重大社會事件中扮演了重要的角色。有研究發(fā)現(xiàn)埃爾南德斯總統(tǒng)在Facebook上的帖子出現(xiàn)了異乎尋常的點(diǎn)贊行為，從2018年6月到7月，他收獲的59 100個贊中，78%都不是來自于真人。類似的事情仍然大量發(fā)生在美國大選、俄烏戰(zhàn)爭中。如自俄烏戰(zhàn)爭2022年2月24日爆發(fā)以來，“今日頭條”等新聞聚合類平臺上就涌現(xiàn)出了大量社交機(jī)器人，它們的名字往往由簡單的鍵盤亂碼加上數(shù)字編號組成，發(fā)布的信息都為簡單配圖和機(jī)械音播報(bào)的文字稿，文字多為戰(zhàn)況播報(bào)、鼓吹俄軍戰(zhàn)況和編造“大魚”的虛假信息等內(nèi)容。這些社交機(jī)器人的大量涌現(xiàn)使平臺充斥著真假難辨的信息，極易引起民族主義情緒，而且還為互聯(lián)網(wǎng)審核人員增加了額外的負(fù)擔(dān)。社交機(jī)器人的存在一方面提高了平臺的信息增量，但在另一方面，當(dāng)大量的信息開始由程序操縱流轉(zhuǎn)時(shí)，一個特定的信息繭房就在無形中被創(chuàng)造了出來。它干擾了普通用戶的正常判斷，將互聯(lián)網(wǎng)的高贊、高轉(zhuǎn)內(nèi)容誤認(rèn)為是有價(jià)值的信息，同時(shí)造成了對真正值得關(guān)注的新聞的忽視。

4 社交機(jī)器人的技術(shù)倫理

通過以上對社交機(jī)器人在新聞業(yè)的使用狀況及其效果的闡述，會發(fā)現(xiàn)社交機(jī)器人的應(yīng)用效果并不能用單一的“好與壞”“利與弊”來評判，而是受到多種因素的影響。在新聞生產(chǎn)環(huán)節(jié)，可能會受到使用主體，也就是媒體的用途影響；在新聞審核環(huán)節(jié)，往往與具體技術(shù)的善與惡無關(guān)，而與操縱技術(shù)、編寫代碼的目的有關(guān)；在新聞分發(fā)環(huán)節(jié)，平臺、用戶和算法構(gòu)成了社交機(jī)器人應(yīng)用的3個重要支點(diǎn)?；蛟S，社交機(jī)器人作為一項(xiàng)技術(shù)，只是一種媒介工具，真正對其應(yīng)用后的社會效果負(fù)責(zé)的是背后的人，而人類常常會面臨復(fù)雜的道德倫理困境[18]。我們需要更新既有的認(rèn)知框架來回應(yīng)這種復(fù)雜的倫理困境。

4.1 從封閉倫理走向開放倫理：關(guān)注多元行動者

沃德和沃斯曼曾經(jīng)區(qū)分了“封閉倫理”和“開放倫理”(Open Ethics)這對概念，主要區(qū)分了如何運(yùn)用、分析和批判性地使用倫理規(guī)則和使用的人群[19]。封閉倫理常常被應(yīng)用于較少的人群，并劃清了可進(jìn)行討論范圍的邊界和人群參與者；開放倫理則容納進(jìn)了更多元的利益攸關(guān)方參與到討論之中，也并未設(shè)置過多的實(shí)質(zhì)性限制。在人工智能技術(shù)將人與非人行動者都納入到媒介網(wǎng)絡(luò)運(yùn)行規(guī)則的狀況下，推動封閉倫理走向開放倫理，不僅關(guān)注人在其中的倫理行為，更需要關(guān)注非人行動者在其中的倫理行為。具體而言，對于社交機(jī)器人的倫理探討需要在人與非人的互動下進(jìn)行探討，不僅需要關(guān)注技術(shù)變革對其產(chǎn)生的促進(jìn)作用，更需要看到技術(shù)作為一種工具如何執(zhí)行了人的意志。

4.2 從工具理性走向價(jià)值理性：倡導(dǎo)承擔(dān)社會責(zé)任

技術(shù)中立性常常作為技術(shù)作惡的托詞，技術(shù)服務(wù)的社會建構(gòu)則與技術(shù)所代表的個人、組織、機(jī)構(gòu)密切相關(guān)，但技術(shù)絕非任何社會問題的替罪羊。面對社交機(jī)器人應(yīng)用于新聞業(yè)產(chǎn)生的種種問題，我們需要從工具理性走向價(jià)值理性，關(guān)注平臺在其中的社會治理作用，并提倡平臺承擔(dān)更多的社會責(zé)任。如由于2016年社交機(jī)器人曾嚴(yán)重影響了美國大選，2020年再次進(jìn)行美國大選時(shí)，硅谷的互聯(lián)網(wǎng)巨頭則出臺了一系列的措施應(yīng)對可能出現(xiàn)的虛假信息。如Twitter在含有不實(shí)消息的推文中加上了藍(lán)色的感嘆號，以提醒瀏覽到的人這是未經(jīng)證實(shí)的消息等。就國內(nèi)而言，今日頭條的產(chǎn)品定位也從“你關(guān)心的才是頭條”，變成“信息創(chuàng)造價(jià)值”再到“看見更大的世界”，這代表我國受眾范圍最廣的新聞聚合類平臺開始從關(guān)注用戶個人的需求轉(zhuǎn)向到如何提升內(nèi)容質(zhì)量來幫助個人擴(kuò)展視野的發(fā)展方向。當(dāng)然，全球平臺的互聯(lián)網(wǎng)治理是世界各國共同面對的難題，現(xiàn)在還只是剛剛開始，未來還有很長的路要走。

4.3 以技術(shù)哲學(xué)對抗技術(shù)：摒棄二元對立思維

在人工智能技術(shù)已經(jīng)具有重構(gòu)社會力量的今天，如果僅僅討論技術(shù)的影響就會“只見樹木不見樹林”。技術(shù)的應(yīng)用不是一個單純意義上的物質(zhì)轉(zhuǎn)化、能量傳遞、信息傳遞的物理過程，更體現(xiàn)了其深刻的社會化內(nèi)涵，并帶來了技術(shù)的社會化[20]。在倫理學(xué)的層面上探討技術(shù)哲學(xué)，為在社交機(jī)器人已經(jīng)與真人真假難辨的今天提供了新的視角。

人類所發(fā)明的技術(shù)并非天生存在善惡價(jià)值觀，技術(shù)的工具性也并非人類倫理的對立面，對社交機(jī)器人技術(shù)哲學(xué)的探討可以跳出狹隘的工具理性思維，并且破除人與非人之間的界限，將人類與社交機(jī)器人同時(shí)看作媒介網(wǎng)絡(luò)中的行動者，從而平衡人機(jī)關(guān)系之間的矛盾。

5 結(jié) 語

盡管社交機(jī)器人在新聞業(yè)中的應(yīng)用產(chǎn)生了一體兩面的社會效果，但是人工智能技術(shù)對人類而言，不一定處于人類倫理的對立面，也可以不必是利益最大化和資本逐利的工具。它也可以擁有人類對尊嚴(yán)、價(jià)值的尊重和思考，可以傳遞善良、正義、誠實(shí)、守信的人性之光。在人類與非人的博弈中，人類始終要記得自己的主體責(zé)任，是人有目的地使用技術(shù)作為工具導(dǎo)致了技術(shù)應(yīng)用后完全不同的社會效果，而不是技術(shù)本身存在善惡。因此，人類首先需要端正心態(tài)、揚(yáng)善除惡，建設(shè)和維護(hù)技術(shù)倫理的價(jià)值體系。