新聞分發(fā)算法的黑箱問題及對策

張冰清，錢 利

(1.合肥學院 語言文化與傳媒學院，安徽 合肥 230601；2.蚌埠市廣播電視臺，安徽 蚌埠 233000)

隨著新聞業(yè)的智能化轉(zhuǎn)向，推薦算法開始普遍用于新聞分發(fā)。牛津大學路透社新聞研究所的《數(shù)字新聞報告》顯示，基于用戶新聞內(nèi)容消費情況而做出的算法推薦比編輯、記者的人工推薦更受大眾喜愛，算法推薦已成為最受歡迎的新聞分發(fā)方式[1]。新聞分發(fā)算法能夠迎合用戶的喜好，但也帶來種種負面影響，如假新聞肆虐、新聞內(nèi)容低俗化、“信息繭房”(Information Cocoons)問題等。此外，新聞分發(fā)算法根據(jù)用戶偏好推薦新聞內(nèi)容，用戶接收到的信息日趨單一，固有態(tài)度不斷強化，催生“信息繭房”問題。不同群體之間愈發(fā)難以達成共識，容易造成社會分裂。

在這樣的現(xiàn)實狀況下，研究者指出新聞分發(fā)算法構成了無法觀察和理解的黑箱(Black Box)，而解決新聞分發(fā)算法帶來的現(xiàn)實問題需要打開算法黑箱，實現(xiàn)算法透明(Algorithmic Transparency)。算法透明理念雖然描述了一種應然的理想狀態(tài)，卻缺乏可操作性，難以落地實行。立足信息技術革命的時代背景，聚焦新聞分發(fā)算法黑箱問題不僅為解決種種現(xiàn)實問題提供了依據(jù)，也有助于推動新聞業(yè)的智能化發(fā)展，更能夠促進新聞業(yè)擔當起守望社會、整合社會的責任。

1 新聞分發(fā)算法的黑箱問題

1.1 算法黑箱問題與算法透明理念

1984年，圖靈獎得主唐納德·爾文·克努斯(Donald Ervin Knuth)提出了經(jīng)典的計算機算法定義：“(計算機)算法是一組有窮的規(guī)則，能夠給出解答特定類型問題的運算序列[2]?！焙谙涓拍顒t指人們無法了解其內(nèi)部結構、運行狀況和原理的輸入輸出系統(tǒng)?，F(xiàn)實實踐中，包括新聞分發(fā)算法在內(nèi)的諸多計算機算法通常令人無法理解，從而構成黑箱。1984年，計算機科學家W·E·坎迪夫(W.E.Cundiff)提出算法透明度的概念[3]，指的是算法透明、公開的程度。大數(shù)據(jù)和人工智能技術興起后，計算機算法廣泛應用于輔助人類決策，參與到公共生活方方面面。決策算法是否公平、是否公開因而成為重要問題，要求算法可見、可知、可解釋的算法透明理念也由此獲得了關注和認同。

隨著信息技術革命的發(fā)展，新聞業(yè)出現(xiàn)了智能化轉(zhuǎn)向。在新媒體領域，基于人工智能技術的新聞推薦算法開始取代傳統(tǒng)的人工推薦，成為新聞分發(fā)的主要方式。同時，新聞分發(fā)算法也造成假新聞泛濫、新聞低俗化，帶來“信息繭房”問題，種種負面影響也日益凸顯。由此，研究者將算法透明理念引入新聞業(yè)，希望通過實現(xiàn)算法透明破解新聞分發(fā)算法的黑箱問題：“要對無處不在但又不透明的算法權力加以有效規(guī)制，需要邁出的第一步就是破解算法黑箱、推進算法透明。”[4]算法透明理念無疑為解決算法黑箱問題提供了一種思路。然而，在現(xiàn)實實踐中，研究者也發(fā)現(xiàn)算法透明理念面臨著諸多現(xiàn)實阻礙[5]。總體而言，算法透明理念目前仍然停留在設想之中，難以落地實行。

1.2 算法透明理念的現(xiàn)實困境

算法究竟是否可見、可知、可解釋，不僅取決于算法本身，也與認知過程有關。具體到新聞分發(fā)算法，推薦算法自身的特性、公眾的技術素養(yǎng)以及環(huán)境因素都是導致算法黑箱問題的重要因素。

第一，黑箱是推薦算法自身的特性?；谌斯ぶ悄芗夹g的推薦算法本身就是黑箱，即便可以公開具體的代碼，其決策機制仍然不透明，就連算法設計者也難以對其做出明確解釋。這是人工智能算法自身的技術局限。傳統(tǒng)的計算機推薦算法以因果關系為核心，算法本身展現(xiàn)了推薦決策的內(nèi)在機制。然而，基于大數(shù)據(jù)和人工智能技術的推薦算法僅檢驗相關關系就可以做出預測、推薦[6]，這類算法并不追究因果關系，其決策機制往往無法清晰解釋。

此外，機器學習等人工智能算法也增加了推薦算法的復雜性，機器學習分為監(jiān)督學習(Supervised Learning)和無監(jiān)督學習(Unsupervised Learning)兩類。監(jiān)督學習算法通過人為標注的訓練數(shù)據(jù)集進行機器學習、建立預測模型，其中的人為標注尚可解釋。但在無監(jiān)督學習算法中，算法直接通過未標注過的數(shù)據(jù)進行機器學習，算法的決策機制難以解釋。

近年來，有計算機科學家致力于改進算法，試圖通過技術革新使得人工智能算法能夠進行自我解釋，但這方面的研究尚未取得突破性進展，更談不上廣泛應用。

第二，公眾缺乏理解新聞分發(fā)算法的技術素養(yǎng)。具體到新聞分發(fā)算法，社會公眾大多不具備理解算法所需要的技術素養(yǎng)。計算機語言的語法和結構與人類語言迥異，理解特定的程序和代碼需要對計算機語言進行專門學習。除了算法實現(xiàn)，理解算法的設計思路、決策機制也需要一定的編程知識，公眾卻通常并不具備這樣的技術素養(yǎng)。有鑒于此，新聞透明理念的推動者們提出應當通過廣泛教育提高公眾的技術素養(yǎng)，使公眾具備理解、評估和批判算法機制的能力，但實際執(zhí)行層面存在諸多困難，短期內(nèi)很難取得成效。

第三，環(huán)境因素的制約難以解決。從環(huán)境因素來看，算法常常作為商業(yè)秘密被保護而無法公開。對企業(yè)而言，算法保密能夠維護自身的競爭優(yōu)勢，而實現(xiàn)算法透明卻需要承擔經(jīng)濟負擔和商業(yè)風險。因此，算法透明理念很難得到算法所有者的響應。如果通過制定政策強制公開算法，算法所有者很容易被競爭對手模仿，可能影響算法所有者的創(chuàng)新動力。強制執(zhí)行算法公開并不具備可行性。

推薦算法牽涉到海量數(shù)據(jù)，算法透明不僅要求解釋推薦算法的機制，還需要公開推薦算法使用的數(shù)據(jù)，這將帶來嚴重的隱私問題。2018年1月，今日頭條舉辦題為《讓算法公開透明》的交流會，其中一個重要部分是介紹今日頭條的新聞分發(fā)算法的輸入數(shù)據(jù)。這些數(shù)據(jù)包括用戶的年齡、性別、職業(yè)等，甚至涵蓋用戶何時、何地瀏覽過哪些內(nèi)容、停留多長時間。離開對數(shù)據(jù)的了解就談不上真正了解推薦算法，一旦公開數(shù)據(jù)，勢必嚴重威脅用戶的隱私權。

2 重新理解算法黑箱問題

面對算法透明度理念的現(xiàn)實困境，新聞業(yè)需要尋找解決算法黑箱問題的新思路、新方法。從廣義的算法概念來理解算法，可以發(fā)現(xiàn)算法黑箱不僅在社會中普遍存在，也長期存在于新聞生產(chǎn)中。只不過在新聞業(yè)發(fā)生人工智能轉(zhuǎn)向之后，算法黑箱的問題才引起了廣泛關注。

2.1 算法黑箱廣泛存在于人類社會

從詞源上來看，英語中的“Algorithm”源于拉丁語的“Algorismus”，出現(xiàn)于12世紀，來自對阿拉伯數(shù)學家阿爾·花剌子模(Al Khwarizmi)姓氏的拉丁文翻譯[7]。算法一詞在近現(xiàn)代主要用于數(shù)學領域。實際上，“千百年來，人類一直在設計、修改并分享著算法……算法無需用到高等數(shù)學，甚至可以和數(shù)學領域無關。”[8]計算機科學領域的論文和著作中常將算法闡釋為計算機算法，實際是把算法概念狹義化了，以計算機算法為代表的符號算法只是算法的一種，算法一詞具體指代的對象并不相同，可以是配方、規(guī)則、過程，是逐步解決問題的一系列方法和步驟。法國科學院院士瑟格·阿比特博(Serge Abiteboul)指出，“人類的一切活動中都有算法的身影”，同時人類也經(jīng)常無法解釋自己所用的算法：“我們很容易就能辨認出貓和狗，卻難以解釋是如何做到的：是計算腿和耳朵的數(shù)量呢？還是觀察頭的形狀或毛發(fā)的紋理呢？”[9]

2.2 傳統(tǒng)新聞生產(chǎn)同樣存在算法黑箱

傳統(tǒng)新聞生產(chǎn)中，從選擇特定事實進行報道到篩選、編輯新聞，再到新聞之間的排列和最終分發(fā)，新聞生產(chǎn)的所有環(huán)節(jié)都離不開新聞選擇。解決新聞選擇問題的過程就是一種算法，新聞選擇標準是這一算法的核心。由此，新聞價值成為新聞選擇的標準，實際上也成為了一種新聞選擇算法。從表現(xiàn)上看，新聞價值的要素是明確的、透明的。但在新聞生產(chǎn)實踐中，新聞從業(yè)者們所實際執(zhí)行的新聞選擇算法遠沒有這么簡單。新聞從業(yè)者對新聞價值的判斷往往始于一種習得的“直覺”，出自某種“心照不宣”的判斷[10]。除了顯性的、正統(tǒng)的新聞價值，新聞從業(yè)者也從隱性存在的新聞價值(如排他性等)習得新聞直覺的規(guī)則[11]。對于公眾來說，新聞從業(yè)者進行新聞選擇的算法并不透明。事實上，就連新聞從業(yè)者也很難清楚解釋自己的新聞選擇算法?？傊?，跳出算法概念的狹義定義重新審視新聞業(yè)就會發(fā)現(xiàn)，新聞生產(chǎn)中一直存在著新聞選擇算法，算法黑箱問題也并非新問題。

3 新聞分發(fā)算法黑箱問題的對策

3.1 算法黑箱背后是算法價值觀問題

從廣義的算法概念來看，算法黑箱廣泛存在于社會生活之中，傳統(tǒng)新聞生產(chǎn)也存在黑箱問題，因而有可能通過借鑒過往經(jīng)驗應對算法黑箱帶來的現(xiàn)實問題。早在19世紀末，以《紐約世界報》《紐約新聞報》為代表的大眾報刊大量刊登聳動的“黃色新聞”，建立了一套以“震驚，驚奇，驚呆”為準繩的決策方法[12]。這種決策方法本質(zhì)上是一種新聞選擇算法。

然而，面對“黃色新聞”風潮，19世紀末的批評者們并沒有把矛頭指向新聞選擇算法，而是直指算法背后的價值觀。鋼鐵巨頭安德魯·卡內(nèi)基(Andrew Carnegie)曾經(jīng)設想建立與大學、醫(yī)院、慈善組織所享有的捐贈基金類似的新聞業(yè)捐贈基金，希望借此改變新聞業(yè)，使得新聞業(yè)更正派、更負責任[13]?！包S色新聞”浪潮已經(jīng)過去了百余年，今天新聞業(yè)的境況又與當年頗為相似：互聯(lián)網(wǎng)企業(yè)以盈利為目的，而其盈利方式主要是廣告和內(nèi)容付費，兩者都與用戶數(shù)量和點擊量正相關。為了提高用戶數(shù)量和新聞點擊量，互聯(lián)網(wǎng)企業(yè)以迎合用戶喜好為目標進行新聞生產(chǎn)和新聞分發(fā)。在這樣的背景下，假新聞、低俗新聞泛濫，誤導性標題層出不窮，新聞業(yè)呈現(xiàn)出種種亂象。歸根到底，價值取向決定了新聞選擇算法，帶來各種負面問題是唯利是圖的新聞價值觀。

算法所有者決定著算法價值取向，人工智能算法也是如此。當下的人工智能算法還停留在僅能解決特定具體問題的“弱人工智能”(Weak Artificial Intelligence)階段，與具有自主意識、可以自發(fā)解決各種問題的“強人工智能”(Full Artificial Intelligence)相距甚遠?？傊扑]算法體現(xiàn)的是算法所有者的價值取向。在追求利潤最大化的價值取向驅(qū)使下，能否迎合用戶喜好幾乎成為所有新聞分發(fā)算法的核心評價標準，由此引發(fā)了假新聞、低俗新聞的泛濫，帶來了“信息繭房”問題。

3.2 以算法倫理規(guī)范應對黑箱問題

新聞分發(fā)算法的黑箱問題背后是新聞價值觀問題。作為新聞分發(fā)算法的所有者和運行者，互聯(lián)網(wǎng)企業(yè)已經(jīng)掌握了過去為傳統(tǒng)新聞媒介所有的傳播權力，也就應當承擔起傳統(tǒng)新聞媒介所應肩負的社會責任，這是解決新聞分發(fā)算法黑箱問題的根本途徑。大數(shù)據(jù)技術和人工智能技術興起之后，新聞業(yè)發(fā)生了智能化轉(zhuǎn)向，新聞生產(chǎn)也產(chǎn)生了變革。曾經(jīng)由新聞媒體、專門的新聞從業(yè)者所掌握的傳播權力開始消解，部分轉(zhuǎn)移到了搜索引擎、內(nèi)容平臺和社交媒介平臺等互聯(lián)網(wǎng)企業(yè)手中。在全球范圍內(nèi)超過40種具備世界范圍影響力的社交媒體網(wǎng)站和應用程序提供專門的新聞發(fā)布模塊，新聞分發(fā)算法直接左右了用戶的新聞獲取[14]。借由掌握算法權力，以臉譜、谷歌(Google)、推特(Twitter)為代表的互聯(lián)網(wǎng)企業(yè)開始成為新聞生態(tài)系統(tǒng)中的關鍵參與者，主導著新聞的分發(fā)和呈現(xiàn)。

在新媒體日益普及、分發(fā)算法無處不在的當代社會中，算法權力應受到規(guī)范和約束。然而，目前新聞分發(fā)算法缺乏倫理規(guī)范，其價值取向幾乎完全倒向商業(yè)利益，以公眾利益為優(yōu)先的算法倫理規(guī)范亟待建立。具體來說，新聞分發(fā)算法的倫理規(guī)范應當包括維護新聞真實性、保障用戶自主選擇權、保護數(shù)據(jù)隱私權、正面引導公眾等方面的內(nèi)容。

第一，維護新聞真實性。新聞分發(fā)算法應當把維護新聞真實作為基本的算法倫理規(guī)范，將新聞核查納入算法設計，切實維護新聞真實性。需要建立算法核查規(guī)范，新聞內(nèi)容在通過新聞核查之后方能進入分發(fā)環(huán)節(jié)。算法工程師需要充分理解新聞真實性的要求，積極發(fā)展算法核查技術，開展智能化核查。

第二，保障用戶自主選擇權。應當樹立充分尊重用戶主體性的倫理規(guī)范，為用戶提供多樣化的選擇。首先，應當在算法推薦之外提供訂閱式新聞分發(fā)、人工推薦新聞等其他新聞分發(fā)方式，由用戶根據(jù)需要自主選擇獲取新聞的方式。其次，應該允許用戶設置算法推薦的參數(shù)，譬如算法推薦的話題領域、頻率、次數(shù)等。

第三，保護數(shù)據(jù)隱私權。新聞分發(fā)算法應當尊重和保護用戶的數(shù)據(jù)隱私權，建立相應的倫理規(guī)范。在收集、分析用戶數(shù)據(jù)時，應當主動進行提示，征求用戶許可。此外，新聞分發(fā)算法應當為用戶提供刪除個人數(shù)據(jù)的選擇，允許用戶在任何時間刪除存儲于服務器的個人隱私數(shù)據(jù)。

第四，正面引導公眾，推動社會進步。新聞業(yè)承擔著守望社會、整合社會的重要責任。新聞分發(fā)算法應當將判別新聞價值納入到算法設計中，并在執(zhí)行新聞分發(fā)時優(yōu)先推薦具有積極意義的新聞內(nèi)容，正面引導公眾，發(fā)揮凝聚社情民意的作用。

4 結論

新聞分發(fā)算法的黑箱問題成因復雜，難以消除。正如人工智能學者皮埃爾·巴爾迪(Pierre Baldi)所言，對黑箱問題不必太過緊張，因為就連每個人的大腦對自己來說都是黑箱，人們并不知道自己的大腦是如何運作的，但這并不妨礙大家使用自己的大腦、信任自己的大腦[15]。其實，新聞分發(fā)算法黑箱問題的背后是算法價值觀問題。解決假新聞肆虐、新聞低俗化、“信息繭房”等現(xiàn)實問題的根本途徑在于改變算法的價值取向。新聞業(yè)應積極維護新聞真實性、保障用戶的自主選擇權、保護數(shù)據(jù)隱私、積極引導公眾，建立起公共利益為先的算法倫理規(guī)范，以此更好地實現(xiàn)智能化發(fā)展，推動社會的發(fā)展和進步。