新聞黑箱：智能化新聞生產(chǎn)與技術(shù)風(fēng)險

努榮古麗·托合提

摘要：隨著人工智能技術(shù)的發(fā)展，智能化已經(jīng)是目前新聞業(yè)發(fā)展的重要趨勢之一。但是智能化技術(shù)在改變著傳播生態(tài)的同時，也將更多的新聞生產(chǎn)環(huán)節(jié)推入了“黑箱”之中，使新聞的生產(chǎn)過程處于人類的視線之外。由此帶來的可能是新聞業(yè)的隱私風(fēng)險、歧視風(fēng)險與控制風(fēng)險，這些風(fēng)險將以一個更加隱秘的方式，加劇新聞業(yè)所面臨的新聞倫理問題。

關(guān)鍵詞：新聞黑箱 智能化 新聞生產(chǎn) 技術(shù)風(fēng)險

在控制論中，通常把所不知的區(qū)域或系統(tǒng)稱為“黑箱”，我們可以通過信息輸入來實(shí)現(xiàn)對于黑箱的控制，但對于黑箱內(nèi)部的全貌以及運(yùn)行機(jī)制則無從得知。而在新聞領(lǐng)域中，“新聞黑箱”指的是新聞生產(chǎn)中“幕后的幕后”，即在智能化的新聞生產(chǎn)模式中，一系列的算法導(dǎo)致新聞的生產(chǎn)過程處于人們的視線之外，人類現(xiàn)有認(rèn)知水平對其真實(shí)度、可信度、透明度難以判斷的現(xiàn)象。

智能化技術(shù)的發(fā)展使得新聞生產(chǎn)出現(xiàn)了明顯的黑箱化傾向，一個典型的例證是新華社的“媒體大腦”?！懊襟w大腦”是新華智云自主研發(fā)和落地的中國第一個媒體人工智能平臺，由新華社和阿里巴巴合資打造。2017年12月26日，新華社在成都發(fā)布中國第一個媒體人工智能平臺——“媒體大腦”。2018年12月27日，“媒體大腦”發(fā)布新版本“MAGIC短視頻智能生產(chǎn)平臺”，MAGIC的名字由MGC（機(jī)器生產(chǎn)內(nèi)容）和AI（人工智能）組成。2019年8月26日，新華智云發(fā)布了25款最新的媒體機(jī)器人，包括協(xié)助新聞“采集”的機(jī)器人8款和協(xié)助新聞“處理”的機(jī)器人17款，結(jié)合之前已經(jīng)擁有的“快筆小新”智能寫作機(jī)器人、“AI合成主播”等技術(shù)，可以發(fā)現(xiàn)傳統(tǒng)新聞生產(chǎn)的“采、寫、編、播”的四個環(huán)節(jié)已經(jīng)有不同程度的機(jī)器介入，甚至在某些環(huán)節(jié)上，機(jī)器已經(jīng)完全可以取代人完成新聞生產(chǎn)過程中的種種工作。但是，媒體機(jī)器人在極大地提高了新聞生產(chǎn)效率的同時，也將新聞生產(chǎn)的更多環(huán)節(jié)推入了“黑箱”之中。并且算法這一概念本身具有文化內(nèi)涵，即基于算法的決策常常被認(rèn)為是理性、中立、高效、值得信賴的，因此，媒體機(jī)器人生產(chǎn)出的是“毋庸置疑”的內(nèi)容，而真正的內(nèi)容邏輯，則隱藏于重重算法之后，能夠被人類觀察到的，僅僅是新聞“是什么”，而新聞“為什么”的內(nèi)容，則深陷黑箱的迷霧之中。

一、智能化新聞生產(chǎn)與數(shù)據(jù)倫理風(fēng)險

智能化技術(shù)將媒介推入了萬物皆媒的時代，“賽博人”的出現(xiàn)使得人成為了媒體重要的信息來源，用戶的每一次點(diǎn)擊，都會在物聯(lián)網(wǎng)的服務(wù)器上留下“信息腳印”，成為龐大的物聯(lián)網(wǎng)數(shù)據(jù)的一個組成部分，這種看似合理、隱秘的信息收集，在強(qiáng)迫式的“知情同意條款”下隱藏的是隱私歸屬權(quán)的風(fēng)險。

毫無疑問，用戶的隱私是用戶的私人物品，而實(shí)際上，用戶的海量隱私數(shù)據(jù)已經(jīng)成為數(shù)據(jù)公司的“有形資產(chǎn)”，決定著其市場地位。在經(jīng)濟(jì)利益的驅(qū)動下，用戶的隱私成為廣告主追逐的對象，盡管用戶接受了免費(fèi)的信息服務(wù)，但是對于媒介而言，在繼“二次售賣”之后，他們已經(jīng)完成了對內(nèi)容的“三次售賣”，即將版面出售給廣告主后，再將用戶的行為數(shù)據(jù)出售給數(shù)據(jù)公司。

此外，數(shù)據(jù)并不總是公正的，大數(shù)據(jù)是智能化時代的基礎(chǔ)，但是釜底抽薪，“臟數(shù)據(jù)”所帶來的數(shù)據(jù)風(fēng)險可能也是智能化時代媒體所面臨的最大風(fēng)險。大數(shù)據(jù)的特征是“多、快、毛、糙”，這意味著大數(shù)據(jù)對于數(shù)據(jù)的來源缺乏控制，數(shù)據(jù)的質(zhì)量自然也就良莠不齊。但智能化新聞將數(shù)據(jù)作為新聞生產(chǎn)的基礎(chǔ)，數(shù)據(jù)來源一旦發(fā)生問題，產(chǎn)生的可能是披著客觀外衣的不實(shí)新聞，甚至進(jìn)而誤導(dǎo)公眾決策，帶來嚴(yán)重的社會影響。

同時，大數(shù)據(jù)的采集也帶來了數(shù)據(jù)倫理的問題，毫無疑問，用戶數(shù)據(jù)屬于用戶，但在智能化技術(shù)的影響下，用戶數(shù)據(jù)無一不暴露在技術(shù)的實(shí)現(xiàn)之下，數(shù)據(jù)技術(shù)公司可以獲得用戶數(shù)據(jù)的方法，遠(yuǎn)比用戶保護(hù)自身數(shù)據(jù)的手段要多得多，也便捷得多。盡管目前我們通過“知情同意”的方法獲得了用戶的授權(quán)，但實(shí)際上用戶數(shù)據(jù)的灰色地帶還非常多，包括應(yīng)用領(lǐng)域、使用范圍，盈利模式等都有待于做出規(guī)定，而用戶實(shí)際上喪失了對于自身數(shù)據(jù)的控制權(quán)，這種狀況無疑與日益發(fā)展的社會文明背道而馳。

二、智能化新聞生產(chǎn)與算法歧視風(fēng)險

算法與數(shù)據(jù)在智媒時代是相伴而生的，擁有了數(shù)據(jù)之后，算法便成為了新聞生產(chǎn)與分發(fā)領(lǐng)域的主導(dǎo)，但同數(shù)據(jù)一樣，人為編寫的算法如同新聞把關(guān)一樣，不可能完全脫離現(xiàn)有社會觀念的影響，在新聞媒介的長期培養(yǎng)作用下，算法的公正性其實(shí)如同新聞的客觀性一樣，僅僅是媒體的新聞理想而已。

1.算法的來源歧視。算法控制著媒體對于重要新聞的判斷能力，影響著媒體的議事日程。目前算法已經(jīng)可以對于新聞素材的重要程度做出一個初步的判斷，記者將逐步不再自己出去尋找新聞，而是等待新聞被主動“推”到自己面前，這在改變新聞來源的同時，也轉(zhuǎn)移了記者有限的注意力資源，使其集中在有限的領(lǐng)域之中，而對于更多的媒體視線之外的內(nèi)容，將越來越缺乏關(guān)注。

但是，新聞的質(zhì)量、媒體的分量都不僅僅是由新聞報(bào)道的數(shù)量決定的，深度報(bào)道給了新聞行業(yè)生存空間，而一篇高質(zhì)量的深度報(bào)道，往往來源于一個普通的新聞事件，其深度是在記者一點(diǎn)點(diǎn)的挖掘中呈現(xiàn)出來的，需要縝密的思考，大量的調(diào)查，不是簡單的算法可以替代的，他使原本處于人們視線之外隱藏的新聞暴露出來，不斷拓寬著讀者的視野，而算法顯然不具備這種能力。

由此算法便會天然地對于熱點(diǎn)新聞有更多的傾向，會更多地挖掘人們已經(jīng)注意到甚至強(qiáng)烈關(guān)注的話題，而對更多的處于人們視線之外的新聞事件則會缺乏必要的關(guān)注，導(dǎo)致的可能是在媒體環(huán)境中，受關(guān)注群體受到更多關(guān)注，而不受關(guān)注者日益消失于媒體的視線之外，從而形成新的“沉默的螺旋”。對于熱點(diǎn)事件、熱門議題的過多關(guān)注，則會使得媒體世界越來越偏離現(xiàn)實(shí)世界，形成一種畸形的媒體環(huán)境。

2.算法的分發(fā)歧視。算法依據(jù)統(tǒng)一的標(biāo)準(zhǔn)為用戶提供他們感興趣的內(nèi)容，這也是算法推送新聞引以為傲的公正之處。但是，實(shí)際上由于各種智能化技術(shù)的發(fā)展，算法推送的內(nèi)容已經(jīng)不僅僅依據(jù)單純的受眾偏愛，而是會依據(jù)更多的要素，如人口統(tǒng)計(jì)學(xué)的年齡、性別，經(jīng)濟(jì)學(xué)上的收入狀況等，都會影響到用戶接收的推送內(nèi)容，就如同微信會為不同的用戶推送不同的廣告一樣。

實(shí)際上按照各種人口統(tǒng)計(jì)學(xué)原則進(jìn)行推送的算法已經(jīng)背離了算法公正的初衷，在傳播內(nèi)容上，研究也表明，具有重要性、沖突性以及流行度的內(nèi)容更容易通過算法篩選過程、進(jìn)入用戶視野并優(yōu)先得到傳播。狹義上的算法歧視指的是錯誤的“刻板印象”由算法“轉(zhuǎn)譯”形成的一種歧視，目前的算法分發(fā)高度依賴于精準(zhǔn)的用戶畫像，算法根據(jù)用戶的瀏覽記錄等推送相關(guān)的信息，非常容易陷入算法歧視之中，如給女性會推送更多的減肥、美容、生活內(nèi)容，而給男性推送更多的政治、經(jīng)濟(jì)類內(nèi)容，給經(jīng)濟(jì)地位高者推送更多的嚴(yán)肅新聞等，都表現(xiàn)出了算法歧視的色彩。

三、“媒體大腦”與新聞流程控制風(fēng)險

媒介從來都不是單獨(dú)存在的，它受到各種社會力量的制約也影響著整個社會，對于其作用的考察也應(yīng)該放在更加宏觀的社會視角之下。同樣的特征也表現(xiàn)在媒體的智能化技術(shù)上，智能化技術(shù)不是單獨(dú)存在的，而是對于新聞的全流程重塑，當(dāng)智能媒體形成“媒體大腦”時，它能產(chǎn)生比單一技術(shù)更大的社會影響力。

智能化技術(shù)的核心是算法和自動化的運(yùn)行，未來媒體生產(chǎn)的全流程都會處于算法的控制之下。但是算法有著非常高的技術(shù)門檻，也是媒體的商業(yè)機(jī)密，因此我們很難考察媒體的算法邏輯，也很難通過法律法規(guī)實(shí)現(xiàn)對于算法的有效約束。同時，算法的出現(xiàn)帶有明顯的商業(yè)性特征，這使得算法遵循的原則不是任何一種現(xiàn)有的控制理論，而是利益原則，盈利是算法的最終目標(biāo)，我們很難用現(xiàn)有的道德標(biāo)準(zhǔn)、法律手段去約束算法的運(yùn)行。

但是，“媒體大腦”的出現(xiàn)勢必會弱化人在新聞生產(chǎn)流程中的作用，智能化新聞采集篩選使得新聞的來源進(jìn)入了黑箱之中，智能寫作機(jī)器人使得新聞內(nèi)容的生產(chǎn)進(jìn)入了黑箱之中，AI合成主播與算法推薦機(jī)制使得新聞分發(fā)也進(jìn)入了黑箱之中，人的把關(guān)幾近消失。這導(dǎo)致的是算法成為了傳播過程的真正控制者。但前文已經(jīng)討論過，算法并不意味著絕對的客觀公正，但它披著客觀公正的外衣，使得我們將算法生產(chǎn)的內(nèi)容當(dāng)做一種真正客觀的內(nèi)容去對待，這無疑是由算法構(gòu)筑的新型擬態(tài)環(huán)境。

在“媒體大腦”的控制下，未來真正的新聞生產(chǎn)者將不是新聞行業(yè)的從業(yè)者，如記者、編輯等，而是程序員，新聞生產(chǎn)的主體一旦發(fā)生變化，新聞的專業(yè)主義也就無從談起，缺乏長時間新聞道德新聞觀念的熏陶，我們很難相信算法能夠扮演好培育社會共識的領(lǐng)路人這一重要角色。

四、技術(shù)屬性與人性的平衡是未來媒介的重要命題

可以預(yù)見的是，隨著智能化技術(shù)的進(jìn)一步成熟，任何媒體都沒有辦法拒絕智能化技術(shù)對于媒體生產(chǎn)流程的重塑，這就如我們剛剛經(jīng)歷過的移動互聯(lián)網(wǎng)對媒體業(yè)的重構(gòu)一樣，這種趨勢既是技術(shù)發(fā)展的必然，也是媒介發(fā)展的必然，拒絕變革，等于斷送媒體的未來。甚至就像媒體紛紛進(jìn)入移動互聯(lián)網(wǎng)的大潮中一樣，誰先進(jìn)入、誰先變革、誰變革得更徹底，就越能在媒體的競爭中占據(jù)高地。

但正如我們在移動互聯(lián)網(wǎng)時代也要堅(jiān)守新聞專業(yè)主義、堅(jiān)守生產(chǎn)優(yōu)質(zhì)內(nèi)容的信仰一樣，媒體的智能化過程不是把新聞交給機(jī)器的過程，而是重新發(fā)現(xiàn)人的主體性的過程，人在未來信息生產(chǎn)中的重要程度，取決于其對那些不可替代的角色的認(rèn)知與實(shí)現(xiàn)程度。如何在智能化媒介環(huán)境中堅(jiān)持人的主體性地位，不盲從于機(jī)器而是繼續(xù)以人性的關(guān)懷看待新聞生產(chǎn)傳播的全流程，可能是未來任何一家媒體都需要思考的問題。而在未來，機(jī)器的生產(chǎn)能力大同小異，媒體能在多大程度上發(fā)揮人的特征，可能是一家媒體塑造形象，占領(lǐng)市場的制勝之道。

作者單位 新疆大學(xué)法學(xué)院、國家知識產(chǎn)權(quán)培訓(xùn)（新疆）基地

本文系2018年國家社科基金重點(diǎn)項(xiàng)目“知識產(chǎn)權(quán)獨(dú)立成編立法問題研究”（項(xiàng)目編號：18AFX021）研究成果。

參考文獻(xiàn)

[1]陳昌鳳，師文.智能化新聞核查技術(shù)：算法、邏輯與局限[J].新聞大學(xué)，2018（06）.

[2]仇筠茜，陳昌鳳.基于人工智能與算法新聞透明度的“黑箱”打開方式選擇[J].鄭州大學(xué)學(xué)報(bào)（哲學(xué)社會科學(xué)版），2018（05）.

[3]張淑玲.破解黑箱：智媒時代的算法權(quán)力規(guī)制與透明實(shí)現(xiàn)機(jī)制[J].中國出版，2018（07）.

[4]陳昌鳳，霍婕.權(quán)力遷移與人本精神：算法式新聞分發(fā)的技術(shù)倫理[J].新聞與寫作，2018（01）.

[5]王茜.打開算法分發(fā)的“黑箱”——基于今日頭條新聞推送的量化研究[J].新聞記者，2017（09）.