智媒時(shí)代信息變異：內(nèi)涵辨析及生成機(jī)制探微

熊茵　張曉霞

【摘要】智能媒體已成為新的信息生產(chǎn)力，同時(shí)也成為信息變異的重要推手。失實(shí)的智能新聞、被計(jì)算的輿論、形式化知識(shí)以及工具性娛樂成為智媒時(shí)代信息變異的主要形態(tài)。從生成機(jī)制上看，人機(jī)合謀是信息變異生成的深層機(jī)制，在人機(jī)邏輯互為嵌套、人機(jī)運(yùn)行互為掩映、人機(jī)效能互為增益的協(xié)同機(jī)制中，智媒時(shí)代信息變異呈現(xiàn)出生成無終態(tài)、循環(huán)放大以及隱蔽無感知等新特征，給社會(huì)治理帶來全新挑戰(zhàn)。

【關(guān)鍵詞】智媒 人工智能 信息變異 人機(jī)合謀

【中圖分類號(hào)】G206 【文獻(xiàn)標(biāo)識(shí)碼】Ａ 【文章編號(hào)】1003-6687（2023）10-059-07

【DOI】 10.13786/j.cnki.cn14-1066/g2.2023.10.008

伴隨人工智能技術(shù)在傳媒業(yè)的深度融合和廣泛應(yīng)用，智能媒體成為新的信息生產(chǎn)力，極大地推動(dòng)了信息生產(chǎn)規(guī)模及內(nèi)容創(chuàng)新程度的擴(kuò)大，互聯(lián)網(wǎng)生態(tài)呈現(xiàn)史無前例的繁榮。與此同時(shí)，智媒背景下信息變異問題日益顯著，如深度偽造、算法分發(fā)、機(jī)器人水軍等智媒技術(shù)引發(fā)日趨嚴(yán)重的新聞失實(shí)、輿論操縱、知識(shí)偽造等傳播困境，給社會(huì)穩(wěn)定發(fā)展乃至國(guó)家意識(shí)形態(tài)安全帶來不利影響。在此背景下，不僅要對(duì)智媒引發(fā)信息變異進(jìn)行對(duì)策類研究，更需在理論層面上開展意涵辨析及其生成機(jī)制探究，為網(wǎng)絡(luò)內(nèi)容生態(tài)治理、社會(huì)治理等提供有益的學(xué)理參考。

一、信息變異：概念源流及技術(shù)演進(jìn)

信息變異一詞并非源于傳播學(xué)科，而是學(xué)科交叉研究的產(chǎn)物。變異源于生物學(xué)科領(lǐng)域，指同種生物世代之間或同代不同個(gè)體之間的性狀差異。達(dá)爾文為證偽“物種是不變的產(chǎn)物”唯心主義神學(xué)“創(chuàng)世論”，提出以變異為貫穿動(dòng)力的物種進(jìn)化理論。在《物種起源》中，他對(duì)物種變異類型、原因、情境、后果及法則等都進(jìn)行了極盡細(xì)致的分析闡釋。伴隨學(xué)科交叉融合，變異被多個(gè)學(xué)科拓展與借用。中國(guó)知網(wǎng)數(shù)據(jù)顯示，除了生物醫(yī)學(xué)門類之外，變異相關(guān)研究在語言學(xué)、文學(xué)、教育學(xué)、自動(dòng)化技術(shù)、計(jì)算機(jī)軟件與計(jì)算機(jī)應(yīng)用、地質(zhì)地理、新聞與傳媒等多重領(lǐng)域均有涉及。20世紀(jì)中期，在香農(nóng)、維納等科學(xué)家的努力下，信息論逐漸發(fā)展壯大成影響廣泛且深遠(yuǎn)的科學(xué)體系乃至哲學(xué)思潮。隨即在信息科學(xué)領(lǐng)域中，變異成為極重要的研究議題，即如何避免和消減通信中的變異，無差錯(cuò)復(fù)現(xiàn)信息原貌，進(jìn)而不斷提升信息通信質(zhì)量。香農(nóng)和韋弗在《傳播的數(shù)學(xué)理論》中指出，信道中隨機(jī)出現(xiàn)的噪音，會(huì)使源信號(hào)在通過若干通信環(huán)節(jié)后，形態(tài)性質(zhì)發(fā)生多次變異（U-X-Y-V），其模式見下頁圖1。

為尋求噪音帶來信息變異問題的解決方案，香農(nóng)于1998年發(fā)表的《噪音中的通信》一文，提出了提高“信噪比”的思路。[1]另一位信息科學(xué)領(lǐng)域巨擘、控制論創(chuàng)立人維納則認(rèn)為，通過反饋才能動(dòng)態(tài)持續(xù)消歧，也即利用誤差消除誤差，使通信（傳播）效果不斷趨于精準(zhǔn)。由此可見，信息科學(xué)發(fā)展至今一定程度上應(yīng)歸功于對(duì)通信中信息變異的不斷探究與解決。

信息科學(xué)中的信息變異經(jīng)由理論旅行和學(xué)科遷移，成為傳播學(xué)的重要研究方向。從人際傳播、大眾傳播到網(wǎng)絡(luò)社交傳播，信息變異屢見不鮮且貫穿時(shí)空，是影響人類社會(huì)信息傳播生態(tài)與秩序的痼疾。傳播學(xué)界也發(fā)起了大量有關(guān)信息變異的研究，具體涵蓋了謠言研究、宣傳技巧研究、假新聞研究、擬態(tài)環(huán)境研究、輿論操縱研究、文化研究、跨文化研究、知識(shí)流變研究、偽健康信息研究等眾多議題。傳播學(xué)視野中，信息變異多指信息的符碼改變以及由此帶來的意義偏離等。作為人類社會(huì)普遍存在的傳播行為，傳播學(xué)界將信息變異歸納為兩類范式，一類是被動(dòng)態(tài)的信息變異行為。斯圖亞特·霍爾曾指出，信息編碼總是通過許多歪曲的、結(jié)構(gòu)性反饋再次融入生產(chǎn)并改寫信息；施拉姆認(rèn)為，即便是普遍共同的符號(hào)，其含義也因個(gè)體不同而有所差異。[2]對(duì)此，約翰·彼得斯總結(jié)道：但凡有傳播行為，就會(huì)出現(xiàn)“意義的冒險(xiǎn)”，他把這種傳播的“實(shí)然困境”哲學(xué)地概括為“交流的無奈”。另一類則是主動(dòng)態(tài)的信息變異行為，即行動(dòng)者刻意而為的行動(dòng)策略。例如，柏拉圖批判古希臘時(shí)期的智者詭辯術(shù)為“壞”的修辭，指出其通過扭曲事實(shí)、操縱情感開展“勸服”。20世紀(jì)30年代，通過無線廣播大規(guī)模開展的戰(zhàn)爭(zhēng)宣傳，用半真半假的陳述和徹底的謊言說服人們接受宣傳家的觀點(diǎn)，[3]進(jìn)入互聯(lián)網(wǎng)時(shí)代，社交平臺(tái)中的信息變異復(fù)雜異常。西方學(xué)界認(rèn)為，社交平臺(tái)的假新聞、虛假信息、后真相等信息變異，成為影響和破壞西方政治生態(tài)和民主制度的重要因素。國(guó)內(nèi)社交平臺(tái)上信息變異無處不在，日常情境中偽科學(xué)、偽知識(shí)、偽醫(yī)學(xué)等信息大肆傳播，突發(fā)事件語境中則有謠言的病毒式擴(kuò)散、人際鏈?zhǔn)絺鞑ァA雜觀點(diǎn)和事實(shí)的集體交易。[4]

值得注意的是，每一輪新興媒介技術(shù)在提升信息生產(chǎn)和傳播效能的同時(shí)，也為信息變異烙刻了鮮明的技術(shù)色彩：以規(guī)?；癁樘卣鞯拇蟊娒襟w技術(shù)帶來話語壟斷，進(jìn)而導(dǎo)致虛假新聞、擬像失真、輿論操控等信息變異；以UGC生產(chǎn)與關(guān)系傳播為支點(diǎn)的社交媒體技術(shù)形塑了去中心化的人人語境，信息變異成為更為普遍和泛在的日常涌現(xiàn)；進(jìn)入智媒時(shí)代，智媒技術(shù)的自主性獲得史無前例的增強(qiáng)。技術(shù)在信息生產(chǎn)傳播過程中扮演著極其重要的角色，它或能獨(dú)立勝任某些特定領(lǐng)域的內(nèi)容生產(chǎn)，或與人類分工合作，協(xié)同完成指定任務(wù)。與此同時(shí)，人工智能的媒介技術(shù)成為數(shù)字虛假信息的重要推手，使信息變異的規(guī)模性、復(fù)雜性、風(fēng)險(xiǎn)程度升級(jí)且隱蔽難辨，因此亟待厘清智媒背景下信息變異的核心內(nèi)涵問題，即信息變異行動(dòng)主體是誰、信息發(fā)生何種變異、信息變異生成機(jī)制為何。本研究借鑒美國(guó)學(xué)者M(jìn)alone用于分析集體智能行為的四元分析框架，[5]分別從主體和客體兩個(gè)維度辨析智媒背景信息變異理論內(nèi)涵，并從原因和過程兩個(gè)維度描摹闡釋其生成機(jī)制。

二、智媒時(shí)代信息變異的主客體內(nèi)涵辨析

1. 信息變異的人—機(jī)主體之辨

智媒時(shí)代，傳播主體發(fā)生物的轉(zhuǎn)向，從根本上改寫了信息生成的范式。盡管此前Web2.0技術(shù)帶來傳播主體的高度多元化，但仍未脫離社會(huì)性主體范疇（人類及由人組成的社會(huì)組織）。當(dāng)人工智能技術(shù)介入傳播后，技術(shù)成為新主體，伴隨人工智能和超人工智能的發(fā)展，機(jī)器人（技術(shù)）的主體地位將得到更多認(rèn)可，[6]形成“人+機(jī)器”的共同傳播主體生態(tài)。[7]有學(xué)者預(yù)測(cè)，智能主體將成為建構(gòu)未來新聞傳播秩序和生態(tài)的重要力量，但同時(shí)要警惕智能主體制造的風(fēng)險(xiǎn)與陷阱，[8]那么，值得追問的是，作為物的智媒技術(shù)是否會(huì)帶有偏見地制造信息變異？

技術(shù)發(fā)端于物，任何技術(shù)都有其自身的自然屬性、內(nèi)在邏輯及自主的發(fā)展規(guī)律等。從最初看，技術(shù)僅僅是“為自己而存在”。元技術(shù)是中立的，不存在價(jià)值偏向，[9]人工智能技術(shù)也概莫能外。以當(dāng)前備受爭(zhēng)議的個(gè)性化推薦算法為例，該算法根據(jù)用戶閱讀行為的記錄，預(yù)測(cè)用戶的閱讀習(xí)慣及產(chǎn)品偏好等，從而進(jìn)行匹配推送，技術(shù)本身并不存在什么偏見或歧視。今日頭條聲稱其算法系統(tǒng)“沒有采編人員、不生產(chǎn)內(nèi)容，沒有立場(chǎng)和價(jià)值觀，運(yùn)轉(zhuǎn)核心是由代碼搭建而成”。扎克伯格因Facebook“偏見門”事件接受質(zhì)詢時(shí)也表達(dá)過類似觀點(diǎn)：“我們構(gòu)建工具，不生產(chǎn)任何內(nèi)容，我們是一個(gè)科技公司，不是媒體公司?！盵10]據(jù)此，算法推薦技術(shù)從其研發(fā)初衷和早期應(yīng)用來看，僅僅是為應(yīng)對(duì)當(dāng)前信息超載環(huán)境，幫助人類提升和改進(jìn)信息傳播效率，是一種客觀的使用價(jià)值。正如馬克思指出的，僅作為使用價(jià)值的使用價(jià)值，是一種超歷史的存在，不屬于政治經(jīng)濟(jì)學(xué)的批判范疇。

但伴隨組織因素和社會(huì)制度等因素的介入，技術(shù)逐漸被特定群體手段化、工具化甚至武器化，此時(shí)的技術(shù)價(jià)值偏向日趨顯現(xiàn)，自然屬性的元技術(shù)逐漸演變?yōu)樯鐣?huì)性的制度化技術(shù)，技術(shù)也毫無爭(zhēng)議地為特定制度和組織服務(wù)，并逐漸偏離公共性軌道。同理，伴隨政治、經(jīng)濟(jì)、文化等制度或組織因素滲入人工智能技術(shù)，智能傳播主體也就具備了制度性或組織性的價(jià)值偏向，其信息生產(chǎn)與傳播行為就可能脫離公共性規(guī)范及倫理，信息變異就是其必然的后果之一。在對(duì)智能主體的倫理研究中，有學(xué)者對(duì)關(guān)鍵責(zé)任人——算法工程師這一關(guān)鍵性群體進(jìn)行了深入考察：“他們的主要任務(wù)是實(shí)現(xiàn)領(lǐng)導(dǎo)所要求的算法功能，當(dāng)問題出現(xiàn)后也是根據(jù)企業(yè)要求從技術(shù)上調(diào)整算法，他們的倫理責(zé)任意識(shí)不明確?！盵11]作為組織人的算法工程師將組織機(jī)構(gòu)的價(jià)值邏輯寫入算法，并決定了信息生成的傳播模式。當(dāng)該價(jià)值邏輯服從于商業(yè)、政治、文化的某種偏向時(shí)，算法驅(qū)動(dòng)的信息生產(chǎn)傳播就會(huì)發(fā)生變異。更令人擔(dān)憂的是，算法工程師將價(jià)值偏向的邏輯寫入程序僅僅是初始動(dòng)力，緊接著的后果是變異的信息有可能隨數(shù)據(jù)的積累和算法的運(yùn)轉(zhuǎn)慢慢強(qiáng)化放大。[12]綜上可知，當(dāng)資本、政治等社會(huì)制度性因素與技術(shù)合流后，技術(shù)的價(jià)值中立將不復(fù)存在。如是觀之，智媒技術(shù)也概莫能外，它既恪守技術(shù)的自主性邏輯，又承載人類社會(huì)的價(jià)值觀念，在雙重規(guī)則的復(fù)雜勾連中，尤其是當(dāng)極端技術(shù)理性與價(jià)值偏見交織運(yùn)行時(shí)，智媒技術(shù)可能不斷催生和放大帶有偏向和歧視的信息變異。

2. 智媒時(shí)代信息變異的客體之辨

智媒技術(shù)所引發(fā)的多種類型和形式的信息變異已成為社會(huì)頑疾和治理難題，廓清信息變異的具體內(nèi)容及類型是研究的關(guān)鍵之一。新聞傳播學(xué)主要涉及四類信息，即事實(shí)類信息（新聞）、觀點(diǎn)類信息（輿論）、教育類信息（知識(shí)）及娛樂類信息（娛樂）。[13]智能傳播主體由于受價(jià)值偏向和技術(shù)邏輯的雙重影響，四類信息均可能發(fā)生偏離真實(shí)性、公共性、科學(xué)性的變異。

（1）失實(shí)的智能新聞。智能新聞是基于大數(shù)據(jù)和算法自動(dòng)化決策而生成的新聞?lì)愋?。在?shù)據(jù)準(zhǔn)確、算法科學(xué)的情況下，理論上智能新聞能夠保持準(zhǔn)確、客觀、真實(shí)、平衡等基本特征。但現(xiàn)實(shí)困境在于，無論是數(shù)據(jù)還是算法都可能存在偏差。人類文化是存在偏見的，作為與人類社會(huì)同構(gòu)的大數(shù)據(jù)，也必然包含著根深蒂固的偏見。[14]與此同時(shí)，貫穿于大數(shù)據(jù)的采集、加工、分析等各個(gè)環(huán)節(jié)的智能算法，都將單向度地放大原有的數(shù)據(jù)偏見。數(shù)據(jù)及算法之于智能新聞，正如同采訪與寫作之于傳統(tǒng)新聞。傳統(tǒng)新聞生產(chǎn)中，一旦采訪和寫作帶有主觀偏向性，新聞作品就會(huì)偏頗或失實(shí)；數(shù)據(jù)與算法存在偏差，智能新聞同樣會(huì)出現(xiàn)失衡或失實(shí)。2015年一篇關(guān)于Netflix公司第二季度財(cái)報(bào)的自動(dòng)化新聞曾出現(xiàn)了報(bào)道錯(cuò)誤的問題。更嚴(yán)峻的挑戰(zhàn)來自智能技術(shù)驅(qū)動(dòng)下事實(shí)素材的直接造假行為，例如深度偽造技術(shù)，在音視頻造假上幾乎達(dá)到無法甄別、無從證偽的程度，深偽的音視頻新聞被西方社會(huì)視為電子欺詐，給政治、經(jīng)濟(jì)秩序帶來極大風(fēng)險(xiǎn)。

（2）被計(jì)算的輿論。自大眾媒介時(shí)代以來，輿論通過媒介得以公開表達(dá)和呈現(xiàn)，作為中介工具的媒體可以通過選擇性放大或遮蔽輿論，成為輿論生成的控制力量。進(jìn)入人工智能時(shí)代，智能媒體接棒成為影響輿論生成的中堅(jiān)力量。如果說在傳統(tǒng)媒體時(shí)代，輿論引導(dǎo)采取“原子式”千人一面的方案，在智媒時(shí)代則采取了基于精準(zhǔn)計(jì)算的“個(gè)性化”千人千面的智能化引導(dǎo)，即精準(zhǔn)計(jì)算每一用戶的行為與特征，為其構(gòu)筑個(gè)體化的信息流和意見環(huán)境，有效影響民眾的個(gè)體認(rèn)知和行動(dòng)，[15]有力地促成輿論的定向生成。有研究發(fā)現(xiàn)，劍橋分析公司在“持槍”議題的宣傳上采取了這種智能化策略：對(duì)冒險(xiǎn)型性格用戶，臉書平臺(tái)向他們推送以暴制暴型的廣告（例如一個(gè)入室搶劫者砸窗、威脅生命安全的廣告），告訴他們槍能消除外部威脅；對(duì)保護(hù)者型性格用戶，平臺(tái)推送的廣告主題為“槍是保護(hù)他人不可或缺的工具”；對(duì)理性思考、運(yùn)籌帷幄型性格用戶，臉書推送的廣告?zhèn)鬟f的則是“槍能保護(hù)家人和美好未來”的信息，廣告設(shè)計(jì)為父子在夕陽下一起射獵野鴨的溫馨畫面。[16]這類基于精準(zhǔn)計(jì)算的微目標(biāo)傳播在商業(yè)推廣、公共決策、政治選舉等活動(dòng)中取得了良好的輿論干預(yù)效果。此外，基于特定計(jì)算，社交機(jī)器人可通過發(fā)布、轉(zhuǎn)發(fā)、評(píng)論等傳播互動(dòng)手段，定向開展虛假信息擴(kuò)散、熱點(diǎn)趨勢(shì)偽造、情感氛圍營(yíng)造、話題轉(zhuǎn)移或遮蔽等，進(jìn)而達(dá)到影響輿論的目的，尤以政治社交機(jī)器人最為典型?？傊?，被計(jì)算的輿論背離和干擾了公眾表達(dá)的初衷和原旨，實(shí)際已異化成偽輿論。

（3）形式化的知識(shí)。毋庸置疑，人工智能早已大規(guī)模地介入知識(shí)生產(chǎn)與傳播。但如果從傳承文明和創(chuàng)造新知的角度審視，人工智能生產(chǎn)傳播的知識(shí)遠(yuǎn)未達(dá)到應(yīng)有標(biāo)準(zhǔn)。人工智能參與的知識(shí)生產(chǎn)就是一種基于知識(shí)庫和規(guī)則事實(shí)邏輯的集體知識(shí)系統(tǒng)，是集搜集、處理、生成、匹配、推薦于一體的某種實(shí)在的對(duì)象的生產(chǎn)體系。[17]這是一種基于知識(shí)計(jì)算生成的計(jì)算知識(shí)。鑒于當(dāng)前乃至未來很長(zhǎng)一段時(shí)間將處于弱人工智能階段，在知識(shí)獲取、知識(shí)表征、知識(shí)推理、人工心智等問題沒有得到實(shí)質(zhì)性突破之前，人工智能將不具備反思、批判等知識(shí)創(chuàng)造的高階思維，所謂的知識(shí)的生產(chǎn)可能僅停留在規(guī)模、數(shù)量、速度等表層優(yōu)勢(shì)層面，而鮮有真正意義上的創(chuàng)造與創(chuàng)新。德雷福斯曾斷言，足以引起AI崩潰的是常識(shí)知識(shí)，難以被編碼和清晰表示的隱性知識(shí)，生發(fā)于主體間性、通過交往互動(dòng)生成的社會(huì)化知識(shí)等，都是人工智能技術(shù)難以克服的知識(shí)生產(chǎn)困境。此外，從算法推薦來看，知識(shí)擴(kuò)散存在兩大問題，即知識(shí)接收的窄化效應(yīng)和知識(shí)主體間性的削弱。其中，知識(shí)窄化對(duì)個(gè)體的多元知識(shí)積累帶來單向度效應(yīng)，而知識(shí)主體間性的削弱會(huì)使得互動(dòng)交往過程中的知識(shí)創(chuàng)新減少。有研究認(rèn)為，隨著智能技術(shù)自主性的加強(qiáng)，勢(shì)必引發(fā)知識(shí)領(lǐng)域中知識(shí)海量與無知增遞、知識(shí)總體化與碎片化等多重張力。[18]總體來看，盡管計(jì)算知識(shí)的體量不斷膨脹，但其實(shí)質(zhì)的創(chuàng)新程度十分有限，知識(shí)價(jià)值密度不斷降低，知識(shí)的主體間性減弱。當(dāng)前人工智能背景下，知識(shí)生產(chǎn)虛假繁榮的背后實(shí)質(zhì)是人類文明和智慧并未向前發(fā)展。

（4）工具性的娛樂。對(duì)娛樂的研究始于傳播游戲的學(xué)術(shù)源流。史蒂芬森在《大眾傳播的游戲理論》開篇即表明，大眾傳播最好的一點(diǎn)是允許人們沉浸于主動(dòng)的游戲之中，也就是說它令人快樂。[19]大眾媒體產(chǎn)業(yè)化加劇了娛樂內(nèi)容輸出和擴(kuò)張，批判學(xué)派對(duì)娛樂的過度和過界開展了諸如“娛樂至死”的批判反思。而智媒時(shí)代，人工智能通過人物畫像、行動(dòng)數(shù)據(jù)、場(chǎng)景識(shí)別等技術(shù)生產(chǎn)和推送符合用戶喜好的娛樂內(nèi)容，無以復(fù)加地迎合公眾的娛樂需求。表面上看，智媒輸出娛樂提供給用戶非現(xiàn)實(shí)、超功利的“傳播—快樂”。但從更深層次看，智媒生產(chǎn)與傳播的娛樂內(nèi)容是帶有工具理性的。從經(jīng)濟(jì)角度看，人工智能生產(chǎn)傳播娛樂內(nèi)容的實(shí)質(zhì)目的在于持續(xù)不斷地卷入用戶更多的在線時(shí)間、用戶數(shù)據(jù)乃至金錢資本等，最終達(dá)成商業(yè)獲利。從文化、政治等意識(shí)形態(tài)角度看，人工智能生產(chǎn)與推送的娛樂內(nèi)容對(duì)用戶個(gè)體形成繭式包圍態(tài)勢(shì)，通過持續(xù)影響與滲透形成意識(shí)形態(tài)控制。受到算法權(quán)力入侵的娛樂違背了游戲非功利的精神性，進(jìn)而異化為工具性娛樂。

三、人機(jī)合謀：智媒時(shí)代信息變異生成機(jī)制

合謀，是由美國(guó)經(jīng)濟(jì)學(xué)家斯蒂格勒和布坎南在研究政府管制經(jīng)濟(jì)學(xué)和公共選擇理論時(shí)提出來的，是指兩個(gè)或兩個(gè)以上的經(jīng)濟(jì)主體從個(gè)人利益最大化出發(fā)而相互勾結(jié)的一種非正當(dāng)行為，該行為通常因損害第三方的利益而私下進(jìn)行。此后，公共管理學(xué)領(lǐng)域里常用合謀指代經(jīng)濟(jì)主體、組織機(jī)構(gòu)之間的串謀和勾結(jié)及其對(duì)公共利益的損害的行為。[20]本研究認(rèn)為，智能媒體在受到技術(shù)的工具理性邏輯與人類社會(huì)價(jià)值偏向的雙重支配下，生成失實(shí)的智能新聞、被計(jì)算的輿論、形式化的知識(shí)、工具性的娛樂等多種樣態(tài)信息變異，其合謀行為的后果即損害了信息的公共價(jià)值。具體來看，智媒信息變異人機(jī)合謀運(yùn)行機(jī)制從以下三個(gè)層面展開。

1. 人機(jī)邏輯互為嵌套

智媒運(yùn)行邏輯是技術(shù)的工具理性邏輯和人類的價(jià)值體系互為嵌套，共同對(duì)信息生產(chǎn)傳播行為發(fā)生作用的過程，其中工具理性主導(dǎo)傳播的速度規(guī)模、效率效益以及路徑最優(yōu)解等，而人類價(jià)值體系則主導(dǎo)傳播中的合乎情與理、近乎善與美的程度。當(dāng)兩套邏輯和價(jià)值體系嵌套運(yùn)行時(shí)，可能發(fā)生正面積極傳播效應(yīng)，但也可能引發(fā)信息變異并帶來傳播風(fēng)險(xiǎn)。尤其當(dāng)唯效率的工具理性與偏向的人類價(jià)值合流時(shí)，信息發(fā)生變異是必然后果。以當(dāng)前智媒生產(chǎn)為例，大體包括數(shù)據(jù)采集、自動(dòng)化寫作、算法分發(fā)、機(jī)器核查、社交機(jī)器人互動(dòng)等，每一環(huán)節(jié)都在人機(jī)雙重邏輯支配下運(yùn)行。首先，數(shù)據(jù)采集的客觀公正性是影響信息質(zhì)量的先決因素。盧克·多梅爾在《算法時(shí)代》一書中描述了20世紀(jì)70年代一位名為羅伯特·摩西的美國(guó)設(shè)計(jì)師，將進(jìn)入公園的橋梁高度設(shè)計(jì)為2.7米，低矮的橋梁使駕駛轎車的富人能輕松進(jìn)入公園，而乘坐公共汽車的窮人（其中有很多是黑人）只能繞道而行。這在當(dāng)時(shí)引發(fā)了“低矮門”還是“歧視門”的巨大爭(zhēng)論。該事件的隱喻是，數(shù)據(jù)采集者和算法的設(shè)計(jì)人員很可能存在一些他們自己都意識(shí)不到的偏見，這些偏見會(huì)影響他們對(duì)數(shù)據(jù)采集的重點(diǎn)，并隱蔽地藏在他們的代碼設(shè)計(jì)中，最終產(chǎn)生有偏見的結(jié)果。時(shí)至今日，無論傳感器、無人機(jī)等數(shù)據(jù)采集智能設(shè)備如何發(fā)達(dá)，其數(shù)據(jù)算法程序都或有意或無意地承載了社會(huì)同構(gòu)性的偏見，這給各類信息生成帶來根源上的數(shù)據(jù)偏差，最終導(dǎo)致信息變異生成。其次，在自動(dòng)化生產(chǎn)環(huán)節(jié)中，由于算法黑箱的客觀存在，尤其是無監(jiān)督的算法生成的內(nèi)容產(chǎn)品可能超出常識(shí)或常規(guī)，連程序設(shè)計(jì)者都難以預(yù)見和控制。再次，算法分發(fā)和智能推送的過程中，大數(shù)據(jù)支撐的用戶數(shù)字檔案一旦趨于完備，“人工智能甚至能了解你的政治立場(chǎng)，那么你看到的一切信息都是你想看到的信息，你將永遠(yuǎn)不會(huì)讀到與你意見相左的觀點(diǎn)”，[21]用戶感受的擬態(tài)環(huán)境將完全失衡。從互動(dòng)環(huán)節(jié)看，越來越多的社交機(jī)器人參與到社交對(duì)話當(dāng)中，引導(dǎo)輿論向特定話題、特定方向、特定態(tài)度發(fā)展，帶有明顯的操縱性意圖，可能會(huì)導(dǎo)致新聞和輿論偏離公共理性。最后，從事實(shí)核實(shí)環(huán)節(jié)看，盡管在要素核查、路徑溯源等方面取得進(jìn)展，但智能核查技術(shù)對(duì)信息內(nèi)核涵義（價(jià)值觀、道德、審美等）的鑒定常陷入過度或不及的誤判困境。Facebook的AI審查根據(jù)裸露皮膚面積的算法，將普利策獲獎(jiǎng)新聞攝影作品《戰(zhàn)火中的女孩》判定為色情圖片，刪除照片并封殺了發(fā)布者賬號(hào)。而殺害17歲女孩的兇手大肆在平臺(tái)上公布遺體照片時(shí)，Instagram的AI審核卻遲遲未啟動(dòng)，導(dǎo)致血腥照片廣為傳播。有研究顯示，目前AI審查還遠(yuǎn)遠(yuǎn)沒有達(dá)到可以自動(dòng)處理人類紛繁復(fù)雜、千變?nèi)f化信息的能力，比如，如何判斷一張圖片里裸露部分是藝術(shù)還是色情照片？[22]通過對(duì)信息的智能化生產(chǎn)考察可知，智能媒體在技術(shù)邏輯和社會(huì)價(jià)值的互嵌運(yùn)行中極有可能生成有悖真實(shí)性、公共性以及科學(xué)性的信息變異。

2. 人機(jī)行動(dòng)互為掩映

如前所述，智媒信息生產(chǎn)與傳播包含了互為嵌套的人機(jī)雙重邏輯，但二者運(yùn)行關(guān)系是分列前臺(tái)與后臺(tái)，發(fā)揮著顯性與隱性的作用機(jī)理。通常情況下，以數(shù)據(jù)和算法為支點(diǎn)的人工智能技術(shù)被視為顯性行動(dòng)者，在效率最大化的工具理性驅(qū)動(dòng)下直接開展自動(dòng)化生產(chǎn)、精準(zhǔn)推送、智能互動(dòng)和糾錯(cuò)等信息生成傳播的前臺(tái)行為。從表面看，這一過程完全交由機(jī)器邏輯來支配，無論是數(shù)據(jù)還是算法都被認(rèn)為是價(jià)值無涉。因此，智媒生成內(nèi)容產(chǎn)品也被用戶當(dāng)然地認(rèn)為是中立客觀、真實(shí)準(zhǔn)確的。但從深層運(yùn)行機(jī)制看，隱藏于技術(shù)背后的社會(huì)價(jià)值因素才是信息變異生成的深層動(dòng)力。回顧技術(shù)發(fā)展史可知，科學(xué)革命的歷史是科學(xué)、政治和經(jīng)濟(jì)結(jié)合的歷史。[23]從經(jīng)濟(jì)角度看，科技進(jìn)步和科研創(chuàng)新的持續(xù)發(fā)展依托于資本推動(dòng)，而資本內(nèi)在增殖本性決定了資本邏輯下的科技研發(fā)與應(yīng)用必然是為了謀求更多剩余價(jià)值，智媒技術(shù)也不例外。受資本影響的智媒在信息生產(chǎn)傳播過程中帶有強(qiáng)烈的消費(fèi)主義傾向，算法平臺(tái)的熱門話題在很大程度上依賴話題相關(guān)文章的點(diǎn)擊量和分享率等社交數(shù)據(jù)，但社交數(shù)據(jù)并不與新聞質(zhì)量掛鉤，唯數(shù)據(jù)、唯熱度的算法容易讓假新聞登上熱門。[24]從政治角度看，政治行動(dòng)者（政黨、政治候選人、戰(zhàn)略傳播公司，甚至國(guó)家力量）通過大數(shù)據(jù)算法、自動(dòng)化代理人、深度學(xué)習(xí)、社交媒體平臺(tái)等技術(shù)開展計(jì)算宣傳，制造虛假信息、遮蔽事實(shí)、干預(yù)輿論、偽造熱點(diǎn)趨勢(shì)，給政治秩序帶來難以估計(jì)的負(fù)面影響。[25]

然而，感知和洞悉智媒生成信息變異的深層動(dòng)因并非易事。因普通用戶認(rèn)知有限，多將信息變異等越軌問題歸咎于前臺(tái)技術(shù)的不足或偶發(fā)障礙，從而遮蔽了置于后臺(tái)的人類價(jià)值偏向，為智媒生成的信息變異披上技術(shù)非法、價(jià)值合法的外衣。同時(shí)，技術(shù)黑箱的存在使智媒時(shí)代的信息變異高度隱蔽、無從察識(shí)，從而具備了難以抗辯的存在合理性。[26]可以說，智媒時(shí)代的信息變異形態(tài)比以往任何時(shí)代更難以感知和辨認(rèn)，社會(huì)民眾在無感知狀態(tài)中被輕易影響和操縱。

3. 人機(jī)效能互為增益

“控制論之父”維納提出了對(duì)人工智能發(fā)展影響深遠(yuǎn)的反饋概念，并根據(jù)向性將其劃分為正反饋和負(fù)反饋，[27]其中正反饋多以增益為目標(biāo)，使系統(tǒng)不斷處于變化之中；而負(fù)反饋多以維持系統(tǒng)穩(wěn)定為目標(biāo)，不斷修正偏離使系統(tǒng)回歸和復(fù)原。[28]在系統(tǒng)運(yùn)行中，正負(fù)反饋機(jī)制必須始終處于動(dòng)態(tài)平衡才能實(shí)現(xiàn)控制目標(biāo)，二者不可偏廢失衡。但當(dāng)前智媒運(yùn)行多建立于正反饋模型，機(jī)器邏輯與人類價(jià)值疊加強(qiáng)化，使特定類別的信息生成與傳播始終處于不斷循環(huán)放大的狀態(tài)，這也意味著，哪怕是極小的數(shù)據(jù)瑕疵或價(jià)值偏見，都可能被持續(xù)放大和增強(qiáng)，在沒有負(fù)反饋的調(diào)節(jié)修正機(jī)制下，演變?yōu)榇笠?guī)模和高強(qiáng)度的信息變異。當(dāng)前各大智能媒體平臺(tái)熱衷的流行度算法就是典型的基于正反饋的應(yīng)用，以新浪微博熱搜為例，該模型專注對(duì)微博海量用戶的搜索、討論、傳播等社交行為的數(shù)據(jù)抓取與計(jì)算，形成信息的熱度與推送之間的循環(huán)放大增強(qiáng)。然而經(jīng)驗(yàn)多次證明，流行的熱點(diǎn)并不總是準(zhǔn)確、理性和有價(jià)值的信息，智媒內(nèi)容生態(tài)的“劣幣驅(qū)逐良幣”效應(yīng)依然存在且在特定算法加持下不斷增強(qiáng)，其長(zhǎng)期的累積效應(yīng)也必然帶來擬態(tài)環(huán)境的畸變。[29]對(duì)于智媒而言，其貫穿的技術(shù)邏輯和承載的價(jià)值觀念并不完美，或多或少存在瑕疵或偏差，但如果人機(jī)互動(dòng)只存在正反饋機(jī)制，那么單一的增益效應(yīng)將會(huì)放大這些瑕疵或偏差，進(jìn)而推動(dòng)信息變異朝著脫韁失控的方向持續(xù)發(fā)展。這也提示我們，在智媒的技術(shù)研究中，仍需加強(qiáng)負(fù)反饋調(diào)節(jié)機(jī)制，以促使信息內(nèi)容生成與傳播在繁榮發(fā)展的同時(shí)更具穩(wěn)態(tài)。

結(jié)語

信息變異是傳播之常態(tài)，它可能是人類無意且不自知的行為，也可能是刻意為之、目的明確的自覺行動(dòng)?？v觀歷史可知，無論是在革命戰(zhàn)爭(zhēng)時(shí)期還是和平建設(shè)年代，作為一種傳播策略，信息變異總能發(fā)揮強(qiáng)有力的輿論動(dòng)員作用，對(duì)社會(huì)發(fā)展進(jìn)程起到或積極或消極的影響。隨著現(xiàn)代媒介技術(shù)逐步嵌入人類傳播過程，信息變異的規(guī)模與程度日趨擴(kuò)大，樣態(tài)和手段也日趨復(fù)雜。尤其值得關(guān)注的是，在人工智能技術(shù)背景下，信息變異生成模式發(fā)生了根本范式變革，從人類主導(dǎo)范式轉(zhuǎn)向當(dāng)前的人機(jī)合謀范式，人類與技術(shù)在行動(dòng)邏輯上互相嵌套、運(yùn)行過程中互為掩映、運(yùn)行效果上互為增益，信息變異更具流變性、逃逸性、隱蔽性、互動(dòng)性、無終態(tài)和持續(xù)性強(qiáng)等新特征，[30]給社會(huì)治理帶來了全新挑戰(zhàn)。邱澤奇指出，在技術(shù)化社會(huì)中，社會(huì)規(guī)則與技術(shù)迭代呈現(xiàn)異步性（desynchronization），也即社會(huì)規(guī)則總是滯后于技術(shù)的發(fā)展，進(jìn)而帶來社會(huì)治理的異步困境。[31]就人機(jī)合謀范式下的信息變異而言，原本有效的基于組織（國(guó)家、政府）的治理和基于屬地（物理空間）的治理已不再適用，探索多元主體協(xié)同治理、基于流動(dòng)場(chǎng)景的治理、基于利益相關(guān)者的治理等，[32]成為未來信息變異治理的新思路。

人工智能技術(shù)仍在不斷向前發(fā)展，有學(xué)者已敏感預(yù)見到以賽博格等為特征的“后人類主義”浪潮行將襲來。有學(xué)者認(rèn)為，一旦進(jìn)入強(qiáng)人工智能甚至是超人工智能階段，技術(shù)不但有其不可更改的內(nèi)在運(yùn)行邏輯，甚至將形成自主意識(shí)，進(jìn)行自我決策，建構(gòu)自我情感與價(jià)值觀等。同樣，媒介智能化進(jìn)程中，智能媒體已從看懂、聽懂的認(rèn)知層面發(fā)展到對(duì)內(nèi)容、用戶和場(chǎng)景的理解層面，繼而進(jìn)階到?jīng)Q策層面乃至創(chuàng)造創(chuàng)新層面。[33]例如以ChatGPT為典型的通用人工智能（AGI）的快速發(fā)展，已經(jīng)創(chuàng)生出令人嘆為觀止、超乎想象的文本和圖像內(nèi)容。那么，值得思考的是，伴隨著技術(shù)主體性的進(jìn)一步增強(qiáng)，人機(jī)合謀是否會(huì)出現(xiàn)主體性倒置？技術(shù)是否會(huì)成為行動(dòng)的主導(dǎo)力量？信息生產(chǎn)傳播行為中的人類價(jià)值觀及倫理道德體系是否會(huì)完全讓位于機(jī)器邏輯與技術(shù)規(guī)則？由此引發(fā)的信息變異會(huì)朝何種方向演變？是否能確保其處在可調(diào)控的范圍內(nèi)？凡此種種，學(xué)界不僅應(yīng)從技術(shù)—社會(huì)互動(dòng)角度展開與時(shí)俱進(jìn)的理論性研究和基于問題的對(duì)策探討，更應(yīng)從技術(shù)哲學(xué)的理論層面開啟具有想象力的前瞻性思考。

參考文獻(xiàn)：

[1] Communication in the Presence of Noise[EB/OL].[2021-06-21].https：//ieeexplore.ieee.org/document/659497/references#references.

[2] 威爾伯·施拉姆，威廉·波特. 傳播學(xué)概論[M]. 陳亮，周立方，李啟，譯. 北京：新華出版社，1984：1.

[3] 斯坦利·巴蘭，丹尼斯·戴維斯. 大眾傳播理論：基礎(chǔ)、爭(zhēng)鳴與未來[M]. 曹書樂，譯. 北京：清華大學(xué)出版社，2004：73

[4] 周裕瓊，蔣小艷. 環(huán)境抗?fàn)幍脑捳Z建構(gòu)、選擇與傳承[J]. 深圳大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2014，31（3）：131-140.

[5] Thomas W. Malone， Robert Laubacher， Chrysanthos Dellarocas. Harnessing Crowds： Mapping the Genome of Collective Intelligence[EB/OL].[2020-08-17].https：//www.researchgate.net/publication/228139892.

[6] 曾慶香，陸佳怡. 新媒體語境下的新聞生產(chǎn)：主體網(wǎng)絡(luò)與主體間性[J]. 新聞?dòng)浾撸?018（4）：75-85.

[7] 張洪忠，任吳炯，斗維紅. 人工智能技術(shù)視角下的國(guó)際傳播新特征分析[J]. 江西師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2022，55（2）：111-118.

[8] 彭蘭. 智媒化：未來媒體浪潮——新媒體發(fā)展趨勢(shì)報(bào)告（2016）[J]. 國(guó)際新聞界，2016（11）：6-24.

[9] 陸江兵. 中立的技術(shù)及其在制度下的價(jià)值偏向[J]. 科學(xué)技術(shù)與辯證法，2000（5）：53-57.

[10] Giulia Segreti， Ruth Pitchford.Facebook CEO says group will not become a media-company[EB/OL].[2021-08-30].https：//finance.yahoo.com/news/facebook-ceo-says-group-not-165314950.html.

[11] 嚴(yán)三九，袁帆. 局內(nèi)的外人：新聞傳播領(lǐng)域算法工程師的倫理責(zé)任考察[J]. 現(xiàn)代傳播，2019（9）：1-5，12.

[12] 周濤. 數(shù)據(jù)的偏見[J]. 金融博覽，2017（5）：22-23.

[13] 張國(guó)良. 傳播學(xué)原理[M]. 上海：復(fù)旦大學(xué)出版社，2005：78.

[14] 張玉宏，秦志光，肖樂. 大數(shù)據(jù)算法的歧視本質(zhì)[J]. 自然辯證法研究，2017，33（5）：81-86.

[15] 熊茵，劉芳華. 輿情“智能化”生成圖景與風(fēng)險(xiǎn)審視[J]. 編輯之友，2022（9）：71-76.

[16] 孫寶云，李艷，齊巍. 網(wǎng)絡(luò)安全影響政治安全的微觀分析——以“劍橋分析”事件為例[J]. 保密科學(xué)技術(shù)，2020（4）：27-34.

[17] 方師師，鄭亞楠. 計(jì)算知識(shí)：人工智能參與知識(shí)生產(chǎn)的邏輯與反思[J]. 新聞與寫作，2018（12）：40-47.

[18] 唐海江. 互聯(lián)網(wǎng)革命與新聞傳播學(xué)科重構(gòu)之反思——一種技術(shù)自主性的觀點(diǎn)[J]. 社會(huì)科學(xué)戰(zhàn)線，2016（7）：143-149.

[19] William Stephenson. The Play Theory of Mass Communication

[M]. New Jersey： Transaction Books， 1987： 1.

[20] 羅建兵. 合謀的生成與制衡：理論分析與來自東亞的證據(jù)[D].? 復(fù)旦大學(xué)，2006.

[21] 仇筠茜，陳昌鳳. 基于人工智能與算法新聞透明度的“黑箱”打開方式選擇[J]. 鄭州大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2018，51（5）：84-88，159.

[22] 沈虹. 高科技，低生活——?dú)g迎來到賽博朋克的時(shí)代[EB/OL].[2020-10-14].https：//m.thepaper.cn/newsDetail_forward_9557753.

[23] 尤瓦爾·赫拉利. 人類簡(jiǎn)史：從動(dòng)物到上帝[M]. 林俊宏，譯. 北京：中信出版集團(tuán)，2017：4.

[24] 喻國(guó)明，郭超凱，王美瑩，等. 人工智能驅(qū)動(dòng)下的智能傳媒運(yùn)作范式的考察——兼介美聯(lián)社的智媒實(shí)踐[J]. 江淮論壇，2017（3）：134-138，150.

[25] 羅昕. 計(jì)算宣傳：人工智能時(shí)代的公共輿論新形態(tài)[J]. 人民論壇·學(xué)術(shù)前沿，2020（15）：25-37.

[26] 張淑玲. 破解黑箱：智媒時(shí)代的算法權(quán)力規(guī)制與透明實(shí)現(xiàn)機(jī)制[J]. 中國(guó)出版，2018（7）：49-53.

[27] N.維納. 人有人的用處——控制論和社會(huì)[M]. 陳步，譯. 北京：商務(wù)印書館，1978：146-147.

[28] 李以渝. 正反饋、負(fù)反饋概念新探[J]. 社會(huì)科學(xué)研究，1988（3）：57-58.

[29] 蘇濤，彭蘭.“智媒”時(shí)代的消融與重塑——2017年新媒體研究綜述[J]. 國(guó)際新聞界，2018（1）：38-58.

[30] 熊茵. 合謀、超真、無終態(tài)：假新聞的生成機(jī)理及演化趨向[J]. 南京社會(huì)科學(xué)，2023（8）：105-113.

[31] 邱澤奇. 技術(shù)化社會(huì)治理的異步困境[J]. 社會(huì)發(fā)展研究，2018，5（4）：2-26，242.

[32] 顧潔，欒惠. 互聯(lián)網(wǎng)協(xié)同治理：理論溯源、底層邏輯與實(shí)踐賦能[J]. 現(xiàn)代傳播，2022（9）：146-154.

[33] 黃升民，劉珊. 重新定義智能媒體[J]. 現(xiàn)代傳播，2022（1）：126-135.

Information Variation in the Age of Intelligent Media： Connotation Identification and Exploration of? Generation Mechanism

XIONG Yin1， ZHANG Xiao-xia2（1.School of Journalism and Communication， Jiangxi Normal University， Nanchang 330022， China; 2.Institute of Sociology， Jiangxi Academy of Social Sciences， Nanchang 330077， China）

Abstract： Intelligent media has become a new information productive force， and it is also an important promoter for information variation. The distorted intelligent news， the algorithm-driven public opinions， the superficial knowledge， and the tool-oriented entertainments have become the main forms of information variation in the era of Intelligent media. From the perspective of the generation mechanism， "human-machine collusion" is the deep mechanism. In the operation of human-machine logic， human-machine action embedded in each other's system， setting off and improve each other in this collaboration. Thus， information variation in the era of intelligent media has new characteristics such as endless generation， circulation amplification， concealment without awareness， which brings new challenges to social governance.

Key words： intelligent media; AI; information variation; human-machine collusion

基金項(xiàng)目：國(guó)家社會(huì)科學(xué)基金一般項(xiàng)目“智媒體時(shí)代信息變異及協(xié)同治理機(jī)制研究”（20BXW115）；江西省社會(huì)科學(xué)規(guī)劃項(xiàng)目“網(wǎng)絡(luò)輿情演變機(jī)制研究”（19WT105）

作者信息：熊茵（1980— ），女，江西臨川人，江西師范大學(xué)新聞與傳播學(xué)院教授、博士生導(dǎo)師，主要研究方向：網(wǎng)絡(luò)輿情、媒介技術(shù)；張曉霞（1977— ），女，江西分宜人，江西省社會(huì)科學(xué)院社會(huì)學(xué)研究所研究員，主要研究方向：信息穩(wěn)定與社會(huì)發(fā)展。