人工智能與社交媒體假新聞治理

姜博文

摘要：伴隨內(nèi)容生產(chǎn)主體的多元化、傳播環(huán)境的重構(gòu)與信息技術(shù)的變革，社交媒體在國內(nèi)外廣泛普及。人工智能的發(fā)展讓智能算法推薦開始替代專業(yè)人士的決策，也為治理社交媒體假新聞亂象提供著可行路徑。這需要有效提升受眾的媒介傳播素養(yǎng)，合理利用信息技術(shù)的發(fā)展成果，不斷創(chuàng)新人類與人工智能的合作方式，并持續(xù)強化人工智能治理和信息傳播倫理建設(shè)。

關(guān)鍵詞：社交媒體 假新聞治理 人工智能 算法推薦

隨著數(shù)字技術(shù)和移動互聯(lián)網(wǎng)的普及，社交媒體開始快速發(fā)展，這對傳統(tǒng)新聞行業(yè)既是機遇更是挑戰(zhàn)。當(dāng)大量低門檻的自媒體介入新聞生產(chǎn)與傳播，以往的信息傳播倫理框架遭受沖擊。新媒體時代，社交媒體假新聞愈演愈烈，人工智能如何參與互聯(lián)網(wǎng)治理值得關(guān)注與研究。

一、社交媒體假新聞的產(chǎn)生原因

從傳統(tǒng)媒體時代進入到新媒體時代后，假新聞現(xiàn)象在社交媒體呈爆發(fā)態(tài)勢。社交媒體假新聞的產(chǎn)生受各類互聯(lián)網(wǎng)平臺的算法技術(shù)、運營邏輯等影響?！凹傩侣劮簽E貌似到達了一個新的高度，這跟社交媒體和人工智能的發(fā)展密切相關(guān)?！?/p>

1.生產(chǎn)主體的多元。進入新媒體時代，公眾借助互聯(lián)網(wǎng)平臺尤其是社交媒體獲得了有效的發(fā)聲渠道，個人信息有機會獲得廣泛傳播并產(chǎn)生更大影響。多元化、去中心化的傳播模式讓個體獲得話語權(quán)，也淡化了傳統(tǒng)媒體工作者“守門人”的職責(zé)，弱化過去傳統(tǒng)媒體對于謠言的糾錯、追責(zé)能力，使得假新聞獲得易產(chǎn)生、低風(fēng)險的生存土壤。

在傳統(tǒng)媒體時代假新聞的治理方案中，大量研究認為應(yīng)加強職業(yè)共同體內(nèi)部的素質(zhì)培養(yǎng)。由于生產(chǎn)主體的快速變化，以往的治理措施在當(dāng)下已顯過時。信息生產(chǎn)主體的改變，以及行業(yè)準入門檻低，造成大量假新聞由非職業(yè)生產(chǎn)者制造出。對這樣多元的廣泛群體，依靠職業(yè)層面的素質(zhì)規(guī)范培訓(xùn)是不現(xiàn)實的。

2.傳播環(huán)境的重構(gòu)。隨著用戶使用和依賴習(xí)慣的形成，社交媒體成為很多用戶重要甚至是唯一的信息來源渠道。與傳統(tǒng)媒體不同，社交媒體并不重視對內(nèi)容質(zhì)量的追求，其不是新聞內(nèi)容的生產(chǎn)者與把關(guān)者，往往只是定位于做傳播渠道，這為虛假新聞的滋生與傳播提供了廣闊空間。

新舊媒介環(huán)境的不同，也造成如今假新聞與以往假新聞有所區(qū)別。對于大量自媒體來說，“優(yōu)質(zhì)內(nèi)容”不再是過去語境下所指的內(nèi)容客觀、數(shù)據(jù)嚴謹?shù)男侣剤蟮?，而是足夠共情、能抓住讀者眼球的精彩故事。在流量與利益的高轉(zhuǎn)化率下，獲得關(guān)注就是獲得資源——這使得社交媒體對充滿誘惑力的信息更為關(guān)注，它們通過精心設(shè)計的內(nèi)容吸引受眾，為假新聞開拓了足以生存并持續(xù)擴大的環(huán)境。

3.信息技術(shù)的變革。隨著數(shù)字技術(shù)與人工智能的發(fā)展，社交媒體的信息傳播技術(shù)不斷實現(xiàn)快速的迭代升級。社交媒體的新聞傳播，目前主要依托算法推薦和個性化推送。算法推薦是通過內(nèi)容類別、興趣標簽、瀏覽行為、社交關(guān)系等大數(shù)據(jù)的收集歸納，將用戶的點擊偏好整理分析后，為其精準推送大量相關(guān)內(nèi)容，獲得用戶更高的點擊量和瀏覽時間。

這類工作數(shù)量巨大，決定了其不可能完全由人來操作完成，引入算法正是為了彌補人力的不足與缺陷。人力的有限性也決定了無論怎樣加強法制法規(guī)建設(shè)并提高人工審核的專業(yè)性，都不足以有效地檢查、核對、驗證如此海量龐雜的信息。因此，對于社交媒體假新聞傳播現(xiàn)象的治理，最終仍然需要技術(shù)實現(xiàn)的路徑，即通過人工智能實現(xiàn)對假新聞的識別與處理。

二、社交媒體假新聞的傳播失控

既然社交媒體對于新聞內(nèi)容的抓取和推送主要依賴于算法推薦，那么算法推薦和人工智能技術(shù)在信息傳播過程中的具體應(yīng)用將對新聞資訊的生產(chǎn)和傳播產(chǎn)生越來越大的影響，如果處理不當(dāng)將加劇社交媒體假新聞的傳播失控。

1.智能算法推薦影響新聞的價值基礎(chǔ)。傳統(tǒng)媒體時代，專業(yè)主義作為新聞行業(yè)的傳統(tǒng)價值基礎(chǔ)，強調(diào)新聞的客觀性、嚴謹性、公共性與有益性，新聞的生產(chǎn)與傳播更多依托于專業(yè)人士的社會責(zé)任與把關(guān)能力。而社交媒體等互聯(lián)網(wǎng)平臺往往強調(diào)自己只提供新聞資訊等信息，并不參與內(nèi)容生產(chǎn)，而它們對新聞的獲取與分發(fā)更多地依賴于智能算法。

智能算法的價值更傾向去選取那些能抓住用戶眼球、引發(fā)共情的熱點事件，并不在乎它們是否聳人聽聞，也不檢查和追究信息來源的真實性。社交媒體平臺對新聞的推送基本依賴算法推薦，根據(jù)用戶的讀取傾向進行多點分發(fā)，“在新媒體環(huán)境下，算法分發(fā)的更多是碎片化、個性化的信息，而不是新聞，算法推薦機制實際上是一種對新聞專業(yè)主義和公共性的解構(gòu)?！?/p>

2.新聞倫理約束失效助推假新聞泛濫。社交媒體推薦算法的設(shè)計，往往并不征求或參考新聞專業(yè)人士的意見建議，多由產(chǎn)品和研發(fā)人員完成，這很可能造成算法的天然缺陷，即算法漠視或違背傳統(tǒng)新聞倫理的約束。加上社交媒體的相關(guān)算法往往因技術(shù)保密、知識產(chǎn)權(quán)、商業(yè)競爭等原因不夠透明，后期對算法的監(jiān)管也不夠有力，容易放大假消息、假新聞，導(dǎo)致傳播失控。

部分社交媒體平臺和自媒體出于利益訴求和現(xiàn)實需要，甚至利用算法操縱或催化假新聞，推動并助長假新聞在社交媒體的泛濫。社會責(zé)任感不足、自律他律缺失的算法推薦，如果成為內(nèi)容抓取和分發(fā)的制度手段，必然會導(dǎo)致新聞偏向?！巴ㄟ^社交媒體算法散播的假新聞?wù)渷y全球，如果假新聞是中傷對手、攻擊敵國的子彈，那么，社交媒體存在漏洞的算法就是被利用來發(fā)射子彈的槍械?！?/p>

3.情緒化傳播強化信息繭房效應(yīng)。智能算法推薦的主要依據(jù)，不是平臺或程序設(shè)計者認為公眾應(yīng)該接觸的有公共價值的信息，而是用戶的點擊偏好。算法會根據(jù)用戶的點擊率和關(guān)注傾向，連續(xù)抓取并反復(fù)推送相關(guān)信息，這種對受眾口味的迎合和縱容，極易使互聯(lián)網(wǎng)平臺用戶加速分化。不同用戶分別被特定類型的信息過度粘合或屏蔽，最終導(dǎo)致“信息繭房”的形成。

與此同時，規(guī)訓(xùn)用戶認同、接受觀點窄化甚至極化，極易造成用戶情緒化的傳播，更易使虛假信息和假新聞被不斷放大，并利用圈層化的社交媒體迅速擴散和傳播，加劇并固化社群間的誤解與分裂。如果有社交媒體平臺出于政治或商業(yè)目的，借助大數(shù)據(jù)分析和智能分發(fā)，精準描摹并放大、引導(dǎo)特定用戶的某類心理特征進而精準推送虛假信息，甚至?xí)ι鐣捕▓F結(jié)產(chǎn)生不良影響。

4.媒體融合擴大假新聞的傳播范圍。隨著多媒體技術(shù)和人工智能技術(shù)的應(yīng)用、發(fā)展與普及，無論是傳統(tǒng)的專業(yè)新聞媒體還是網(wǎng)絡(luò)自媒體，都開始致力于探索媒體融合，不斷打造和追求融媒體、全媒體的新聞傳播形式。融媒體通過文字、圖片、音頻、動畫、短視頻、VR、網(wǎng)絡(luò)直播等多種形式的結(jié)合，能夠承載的信息內(nèi)容更豐富生動、形式更靈活直觀，更易吸引關(guān)注并獲得信任，也更容易使相關(guān)信息的傳播范圍和擴散程度倍增。

數(shù)字智能技術(shù)的創(chuàng)新變革，方便了對于圖片和視頻的改造甚至是偽造，傳統(tǒng)的“眼見為實”“有圖有真相”“有視頻有真相”等已無法完全證實信息的真?zhèn)危又磿r、實時、瞬時傳播等特點造成尋求真相更為困難。智能技術(shù)的進步，“已極大地改變了人類傳播和接收信息的模式，并在形塑人類行為模式的基礎(chǔ)上產(chǎn)生了巨大的社會影響?！?/p>

三、人工智能應(yīng)對社交媒體假新聞的嘗試

人工智能是把雙刃劍，“面對互聯(lián)網(wǎng)信息環(huán)境中泛濫的假新聞和捉襟見肘的人工核查，智能化技術(shù)被廣泛應(yīng)用到假新聞的識別和傳播阻斷中?！泵襟w融合時代的互聯(lián)網(wǎng)治理如果不能發(fā)揮出人工智能技術(shù)的正能量，就無法根治社交媒體的假新聞亂象，因此國內(nèi)外的媒體機構(gòu)和互聯(lián)網(wǎng)平臺都紛紛進行嘗試。

1.國外的典型案例。2017年8月，臉書開始采取“相關(guān)文章”功能對抗假新聞，在信息來源可信度低且熱門的文章旁，用戶可看到主題相關(guān)的其他文章。2019年4月，臉書基于大數(shù)據(jù)處理對信息添加了上下文按鈕，并且不局限于文字內(nèi)容，對圖片等內(nèi)容也使用了這一技術(shù)，同時使用新的信任指示器，提供有關(guān)特定新聞機構(gòu)的更多信息。2019年9月，臉書推出名為“Rosetta”的AI系統(tǒng)，用于幫助計算機理解并分析每天發(fā)布在平臺上海量的圖像與視頻。

《華盛頓郵報》于2012年開發(fā)了專門檢測假新聞內(nèi)容的應(yīng)用軟件“Truth Teller”，但限于技術(shù)原因，該軟件無法有效識別各種變換形式的假新聞，語音識別功能還會時常報錯。英國的事實檢查機構(gòu)Full Fact于2016年初推出了自己的監(jiān)控系統(tǒng)，用于掌握每個謠言的生命周期進而消除這些假新聞。

英國科技公司Fabula AI則利用幾何深度學(xué)習(xí)（Geometric Deep Learning）的方法檢測假新聞。該方法著眼于信息如何在社交網(wǎng)絡(luò)上傳播以及誰在傳播，而非從新聞內(nèi)容入手，并根據(jù)真假新聞的可信程度對內(nèi)容進行分類，給出評定分數(shù)。Fabula AI的優(yōu)勢在于它與新聞的內(nèi)容和語言無關(guān)，并且因為依賴于社交平臺用戶的集體行為，它更難被技術(shù)的方法所對抗。Fabula AI系統(tǒng)能夠用更快的速度，在內(nèi)容發(fā)布后的短時間內(nèi)，以非常準確的方式檢測出假新聞。

成立于2017年的舊金山人工智能基金會AI Foundation開發(fā)的Reality Defender系統(tǒng)，借助對圖像、視頻和其他媒體內(nèi)容的掃描，利用人工智能驅(qū)動的分析技術(shù)發(fā)現(xiàn)已知的假象，幫助人們識別由人工智能算法生成的內(nèi)容以檢測潛在的假新聞。

2.國內(nèi)的探索實踐。2018年3月15日，今日頭條披露資訊打假技術(shù)路線圖，將自然語言處理NLP技術(shù)引入自動化謠言識別工程以阻斷假新聞傳播。

2019年，阿里巴巴集團推出AI謠言粉碎機。其工作原理分三步驟：第一步，當(dāng)AI識別假新聞時，先在能夠收集到的信息里尋找最初信源，分析用戶畫像，判斷發(fā)布者的信譽度，如果是帶鏈接的新聞，AI謠言粉碎機會再查詢鏈接的域名是否來自可信網(wǎng)站如新華社、人民日報等；第二步，機器會提取文內(nèi)關(guān)鍵性的論證，和現(xiàn)有的權(quán)威知識庫進行對比驗證，依據(jù)內(nèi)容、邏輯關(guān)系和行文風(fēng)格進行判別，利用假新聞常會采用夸大、空洞說辭的特點加以識別；第三步，對傳播路徑深入分析，一條謠言的發(fā)酵背后會有眾多群體的助推，在留言、轉(zhuǎn)發(fā)等行為里，不同的人會有多種不同態(tài)度——通過訓(xùn)練的機器統(tǒng)計不僅能獲取所有用戶的態(tài)度，同時會根據(jù)用戶得分區(qū)別對待每條發(fā)言。人工智能將對一切用戶的多種特征展開數(shù)據(jù)分析，利用大數(shù)據(jù)來獲取用戶的信譽度認證，綜合計算新聞的可信度。

四、人工智能治理社交媒體假新聞的反思

通過國內(nèi)外社交媒體的嘗試，能看到其面對媒體融合時代假新聞挑戰(zhàn)做出的努力。但也能看到，由于技術(shù)、資源等局限，這些嘗試都有或多或少的不足。面對社交媒體發(fā)展帶來的新挑戰(zhàn)與新機遇，如何突破固有框架模式應(yīng)對新現(xiàn)象、解決新問題仍值得探索，治理假新聞也不能只寄希望于人工智能的進步。

1.有效提升受眾的媒介傳播素養(yǎng)。受眾需認識到，技術(shù)雖然是中性的，但技術(shù)的使用者不是中性的。這意味著技術(shù)使用者生產(chǎn)出的信息并不一定就是客觀可信的。用戶在社交媒體接收信息、二次傳播的過程中，應(yīng)當(dāng)對內(nèi)容進行自己的理性思考。社交媒體雖有“信息繭房”等問題，但用戶仍可依據(jù)社交媒體平臺的設(shè)置來構(gòu)建自己的服務(wù)。面對虛假信息，用戶可以多關(guān)注高質(zhì)量的新聞媒體如人民日報、新華社等官方賬號，不傳播、不輕信小道新聞，對感興趣的新聞多搜索相關(guān)內(nèi)容，這能在很大程度上消除假新聞的不良影響。

2.創(chuàng)新人類與人工智能的合作方式。治理社交媒體的假新聞，應(yīng)考慮更合理地從技術(shù)層面遏制其發(fā)生與傳播，如加大對算法的投入和研發(fā)，深入優(yōu)化智能推薦算法。發(fā)現(xiàn)和判別謠言不是一個單純的技術(shù)指標，如果只靠大數(shù)據(jù)分析和算法的完善與精深，依然無法徹底解決該問題。人工智能雖頭頂“智能”二字，但其技術(shù)局限性注定了目前其對假新聞的識別還得依靠人類設(shè)計的算法，人工智能對假新聞的處理最終還是人對假新聞的處理。因此，需進一步加強對假新聞復(fù)雜背景的深刻理解，強化算法設(shè)計者的社會責(zé)任感和新聞倫理意識，優(yōu)化智能選擇與人工把關(guān)的精準結(jié)合，尋求人類與人工智能合作的全新方式。

3.強化人工智能治理和信息傳播倫理。目前，全社會對應(yīng)當(dāng)進一步深化人工智能的法律規(guī)范和倫理研究已經(jīng)達成共識。2017年8月，《新一代人工智能發(fā)展規(guī)劃》已由國務(wù)院印發(fā)，其中明確說明，我國人工智能發(fā)展的第一保障措施是“制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”，為加速和深化人工智能的倫理研究奠定了堅實的政策基礎(chǔ)。隨著媒體融合的深入發(fā)展，社交媒體假新聞的規(guī)模及破壞力將更大，傳統(tǒng)的新聞倫理框架已不足以解釋并解決相關(guān)問題。因此，未來社交媒體假新聞的治理應(yīng)考慮更為廣泛的社會領(lǐng)域，而非局限于新聞行業(yè)和技術(shù)應(yīng)用等層面的思考與實踐。

作者單位 華東師范大學(xué)傳播學(xué)院

參考文獻

[1]邵國松.媒體智能化發(fā)展的倫理與法律問題初窺[J].現(xiàn)代傳播（中國傳媒大學(xué)學(xué)報），2018（11）.

[2]姜紅，魯曼.重塑“媒介”：行動者網(wǎng)絡(luò)中的新聞“算法”[J].新聞記者，2017（04）.

[3]趙瑜.人工智能時代新聞倫理研究重點及其趨向[J].浙江大學(xué)學(xué)報（人文社會科學(xué)版），2019（02）.

[4]師文，陳昌鳳.新聞專業(yè)性、算法與權(quán)力、信息價值觀：2018全球智能媒體研究綜述[J].全球傳媒學(xué)刊，2019（01）.

【編輯：馬寧】