數(shù)字內(nèi)容消費與科技倫理反思

■ 劉欣雨

一、數(shù)字內(nèi)容消費的興起及其科技倫理困境

在推進文化產(chǎn)業(yè)高質(zhì)量發(fā)展方面，數(shù)字文化產(chǎn)業(yè)建設是重要一環(huán)?！吨腥A人民共和國國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和2035年遠景目標綱要》中提出，要實施文化產(chǎn)業(yè)數(shù)字化戰(zhàn)略，加快發(fā)展新型文化企業(yè)、文化業(yè)態(tài)、文化消費模式，壯大數(shù)字創(chuàng)意、網(wǎng)絡視聽、數(shù)字出版、數(shù)字娛樂、線上演播等產(chǎn)業(yè)。文化產(chǎn)業(yè)數(shù)字化是以數(shù)字技術(shù)為支撐，將數(shù)據(jù)作為關(guān)鍵要素，實現(xiàn)組織系統(tǒng)要素數(shù)字化升級、轉(zhuǎn)型和再造，進而重構(gòu)文化產(chǎn)業(yè)生態(tài)的過程，其拓展了文化產(chǎn)業(yè)的內(nèi)容形式、生產(chǎn)方式、傳播渠道和消費方式，豐富了受眾的體驗感和消費選擇。①參見張振鵬：《文化產(chǎn)業(yè)數(shù)字化的理論框架、現(xiàn)實邏輯與實現(xiàn)路徑》，《社會科學戰(zhàn)線》2022年第9期。其中，數(shù)字內(nèi)容產(chǎn)品作為文化產(chǎn)業(yè)內(nèi)容生產(chǎn)與服務的重要組成部分，主要指利用技術(shù)手段將文化內(nèi)容進行信息化、數(shù)據(jù)化處理，覆蓋網(wǎng)絡游戲、動漫、軟件開發(fā)等領域，包括數(shù)字閱讀、網(wǎng)絡視頻、直播、數(shù)字音樂等文化新業(yè)態(tài)。

當前，數(shù)字內(nèi)容消費對我國文化及相關(guān)產(chǎn)業(yè)增加值的貢獻率不斷提升，數(shù)字內(nèi)容產(chǎn)品與服務幾乎涵蓋生活的方方面面，以網(wǎng)絡游戲、網(wǎng)絡視頻、網(wǎng)絡音樂為主的數(shù)字內(nèi)容市場呈現(xiàn)一片繁榮景象，但隨之而來的隱私泄露、網(wǎng)絡暴力、數(shù)據(jù)濫用、信息安全等各種亂象也揭示了其中隱含的科技倫理困境，引發(fā)了社會的質(zhì)疑。近年來，以大數(shù)據(jù)、算法為支撐的短視頻內(nèi)容平臺“抖音”，就曾出現(xiàn)平臺主播利用AI 換臉技術(shù)招搖撞騙的情況，致使一批中老年用戶陷入騙局。除此之外，抖音通過算法而實現(xiàn)的精準推送也容易使用戶產(chǎn)生文化產(chǎn)品成癮問題，甚至會在用戶心理、生理、個體社會功能方面產(chǎn)生負面影響。①參見蘭玉坤等人：《手機成癮研究發(fā)展現(xiàn)狀》，《中華疾病控制雜志》2019年第11期。在此情況下，2022年3月中共中央辦公廳、國務院辦公廳印發(fā)的《關(guān)于加強科技倫理治理的意見》（以下簡稱《意見》）中明確提出：在科技高速發(fā)展的背景下，我國在科技倫理治理領域仍存在著一系列問題，難以適應科技創(chuàng)新高質(zhì)量發(fā)展的現(xiàn)實需要。學界也針對人工智能、大數(shù)據(jù)、虛擬現(xiàn)實等技術(shù)對數(shù)字文化產(chǎn)業(yè)展開深入討論與分析。隨著各界開始深度探討數(shù)字內(nèi)容消費中隱含的科技倫理困境，我們也需要正視數(shù)字內(nèi)容消費中所面臨的科技倫理問題，更好地推動文化產(chǎn)業(yè)與數(shù)字經(jīng)濟深度融合發(fā)展。

二、數(shù)字內(nèi)容消費面臨的三種科技倫理問題

（一）算法倫理：算法偏見與信息繭房

隨著數(shù)字文化產(chǎn)業(yè)的發(fā)展，算法已然常見于信息匹配、人臉識別、智能推薦等數(shù)字內(nèi)容服務與產(chǎn)品功能之中，其公平性、公正性不容忽視。而數(shù)字內(nèi)容消費中的算法倫理問題主要指因算法自身因素或算法操縱而造成的算法偏見，以及智能推送帶來的“大數(shù)據(jù)殺熟”和“信息繭房”現(xiàn)象。

一方面，算法在生產(chǎn)和應用過程中不是完全客觀、中立的，它在自我學習、自我成長的過程中會不可避免地因?qū)W習對象及內(nèi)容自帶偏見或因突發(fā)性錯誤造成算法偏見、歧視等問題，并且算法本身也在一定程度上受到算法工程師、設計者等生產(chǎn)方個人主觀經(jīng)驗結(jié)論與價值觀的影響，而這種影響往往是難以察覺與定責的。在我國數(shù)字內(nèi)容產(chǎn)品與服務消費過程中，最為常見而隱蔽的算法歧視現(xiàn)象之一即“大數(shù)據(jù)殺熟”，即算法利用大數(shù)據(jù)收集用戶的市場行為、瀏覽頻次、消費習慣等信息，由此對其身份進行“生客”和“熟客”的劃分，從而進行不公平的價格設置和利益宰割，損害消費者的正當權(quán)益?！按髷?shù)據(jù)殺熟”現(xiàn)象在文化電商平臺屢禁不止，正如近年來隨著在線旅游行業(yè)蓬勃發(fā)展，線上文旅企業(yè)不斷增多，它們既是服務的提供者，同時也是電商平臺的經(jīng)營者。在經(jīng)濟利益的驅(qū)使下，部分文旅企業(yè)違規(guī)收集與使用用戶信息，利用商家和消費者之間的信息不對稱，針對同樣的商品和服務，對老客戶設置比新客戶更高的價格。

另一方面，在信息空前爆炸的當下，信息傳播與過濾的權(quán)利部分已經(jīng)讓渡給了算法。②參見喻國明等人：《算法即權(quán)力：算法范式在新聞傳播中的權(quán)力革命》，《編輯之友》2018年第5期。種種“猜你喜歡”“智能推薦”雖然帶來了信息瀏覽的便捷化、信息傳遞的精準化以及信息收集的效率化，但同時也造成了“信息繭房”問題。在算法主導的內(nèi)容分發(fā)模式下，由于渴望博取“眼球經(jīng)濟”以及缺乏監(jiān)管的雙重因素，網(wǎng)絡平臺極易為用戶推薦低俗、虛假、膚淺的劣質(zhì)信息，一味地追求“流量”，迎合用戶的感官愉悅。這不僅在無形中造成了“信息繭房”，并且當過多缺乏深度的內(nèi)容成為“熱點”時，還將引發(fā)整個網(wǎng)絡平臺的媚俗化，甚至削弱整個社會的創(chuàng)新創(chuàng)造能力。也就是說，當算法技術(shù)被低俗、獵奇、過度娛樂化的消費傾向所主導時，用戶將更容易被缺乏內(nèi)涵與正確價值導向的信息所包圍，如博人眼球的標題、情緒化的文章、夸大其詞的廣告等，這同時也會導致主流信息、異質(zhì)化信息以及新興原創(chuàng)內(nèi)容的傳播質(zhì)量與效率變得難以保證。2018年，“快手”和“火山小視頻”就曾因大量推送、傳播低俗不良信息而被國家互聯(lián)網(wǎng)信息辦公室責令進行全面整改，要求其暫停算法推薦功能。

（二）數(shù)據(jù)倫理：大數(shù)據(jù)與個人隱私

互聯(lián)網(wǎng)的廣泛運用使得數(shù)據(jù)日益成為企業(yè)提高自身競爭力、占據(jù)市場份額的重要資源，各類信息不斷被數(shù)據(jù)化、智能化儲存與使用，數(shù)據(jù)庫應運而生，而個人數(shù)據(jù)的隱私問題也引起了社會的廣泛關(guān)注。數(shù)據(jù)庫中的個人數(shù)據(jù)主要有以下三種來源：一是用戶自愿提供的數(shù)據(jù)，如注冊信息、用戶主動發(fā)布的數(shù)據(jù)等；二是被觀測到的數(shù)據(jù)，即用戶在使用軟件或信息設備時被記錄和觀測的數(shù)據(jù)；三是被推斷的數(shù)據(jù)，即根據(jù)用戶的各種信息所推測出的個人數(shù)據(jù)。①參見金元浦：《大數(shù)據(jù)時代個人隱私數(shù)據(jù)泄露的調(diào)研與分析報告》，《清華大學學報（哲學社會科學版）》2021年第1期。由于數(shù)據(jù)收集與儲存成本低廉，所帶來的商業(yè)價值卻十分可觀，大部分文化企業(yè)或機構(gòu)都會海量收集和利用用戶個人數(shù)據(jù)，其中就包括個人的隱私信息，即使有些數(shù)據(jù)表面上并不包含敏感內(nèi)容，但經(jīng)過大量累積和處理之后，也將涉及個人隱私與安全問題。在數(shù)字內(nèi)容消費領域，個人隱私的泄露常見于各大社交媒體與線上交易平臺。

首先，社交媒體上的個人信息愈發(fā)呈現(xiàn)出“公共化”的特征，即能夠?qū)^為陌生、廣泛的對象公開，如學校信息、就業(yè)信息、家庭地址等。然而，在了解隱私安全問題的前提下，人們依舊熱衷于在小紅書、朋友圈、微博等各類平臺上分享更多的個人信息，“隱私悖論”由此產(chǎn)生。除了有意識的信息分享外，用戶在社交媒體與交易平臺上的每一次搜索與每一句發(fā)言都無意識地在互聯(lián)網(wǎng)上留下了“數(shù)字足跡”，如社交媒體上的發(fā)問、在線購物記錄、瀏覽記錄等，從而加劇了個人隱私被侵害的風險。

其次，文化企業(yè)與機構(gòu)收集用戶個人數(shù)據(jù)的“知情同意”機制也在大數(shù)據(jù)時代面臨沖擊。游戲、閱讀、社交等方面的各類軟件雖然在用戶正式使用之前，都會給予相應的“隱私聲明”，但這類聲明不僅過于冗長復雜，大多數(shù)用戶并不會完全閱讀甚至理解其中的內(nèi)容，往往采取直接跳過的方式。甚至在大多數(shù)軟件的使用過程中，不同意這類聲明則無法使用該軟件，用戶本身并不享有個人隱私的實際控制權(quán)。②參見范為：《大數(shù)據(jù)時代個人信息保護的路徑重構(gòu)》，《環(huán)球法律評論》2016年第5期。在此情況下，個人數(shù)據(jù)安全并不能得到及時、有效的保護。2018年，社交媒體平臺Facebook 受到黑客攻擊，其間至少5000萬用戶的個人數(shù)據(jù)遭到泄露，涉及用戶位置、電話、電子郵箱等。這類數(shù)據(jù)泄露事件不僅會造成用戶個人安全隱患，更會造成社會治安隱患，如網(wǎng)絡詐騙、電信詐騙等。

（三）人文倫理：人工智能與“虛擬世界”

科技支持下，各類文化新業(yè)態(tài)的誕生和數(shù)字文化內(nèi)容市場的繁榮也引發(fā)了人們對相關(guān)人文倫理的思考。從數(shù)字內(nèi)容消費的對象來看，當下人工智能技術(shù)全方位進入數(shù)字文化內(nèi)容生產(chǎn)領域，為文化產(chǎn)品數(shù)字化、智能化提供了新的動力與方向，誕生出智能向?qū)?、虛擬主播、數(shù)字偶像等新消費形式與產(chǎn)品服務類型。

人工智能的介入主要可以分為協(xié)同模式和獨立模式。協(xié)同模式指人工智能作為一種工具與人類一同參與到數(shù)字文化內(nèi)容生產(chǎn)過程，以其強大的能力提高文化產(chǎn)品的生產(chǎn)效率，如影視行業(yè)的場景合成、新聞行業(yè)的AI 智能編寫、視頻平臺的智能剪輯等。而獨立模式則指人工智能通過算法和程序獨立生成藝術(shù)作品，甚至在部分領域成為數(shù)字文化內(nèi)容產(chǎn)品的創(chuàng)作主體。例如，微軟公司制造的人工智能“小冰”出版了第一本真正意義上的人工智能原創(chuàng)詩集《陽光失了玻璃窗》，虛擬人“VIVI 子涵”學習創(chuàng)作水墨畫，以及牛津大學與利茲大學的科學家聯(lián)合畫廊老板艾丹.梅勒共同開發(fā)了首位機器人畫家Ai-Da。在人工智能深度介入精神文化產(chǎn)品生產(chǎn)領域的當下，我們也需要對此進行持續(xù)性反思。當其作為生產(chǎn)工具時，如何確保其傳播主流價值觀、如何監(jiān)督企業(yè)利用AI 技術(shù)進行優(yōu)質(zhì)內(nèi)容生產(chǎn)而非單純?yōu)榱四怖殉蔀樯鐣y題。當其作為文化產(chǎn)品生產(chǎn)主體時，人類的藝術(shù)創(chuàng)作主體身份也不斷遭到各界質(zhì)疑。雖然在弱人工智能時代下，人工智能本身仍不具有創(chuàng)造力，其創(chuàng)作主要來自創(chuàng)作者的編程以及對人類以往藝術(shù)成果的參照與學習，但我們?nèi)孕璋芽厝斯ぶ悄芙槿胨囆g(shù)創(chuàng)作的廣度與深度，重視創(chuàng)意主體“人”的參與度與原創(chuàng)水平的提升。

從數(shù)字內(nèi)容消費的主體來看。數(shù)字內(nèi)容消費的升級使得消費者身份“虛擬化”成為可能。正如“元宇宙”，虛擬身份作為元宇宙的核心要素之一，使用戶可以借用互聯(lián)網(wǎng)中的“虛擬形象”與他人進行交互，而虛擬身份的隱匿性、匿名性以及目前仍然存在于網(wǎng)絡空間中的“倫理監(jiān)督漏洞”將會使用戶在虛擬空間中的行動較少受到現(xiàn)實社會關(guān)系和規(guī)范倫理的制約，從而放大人性中的“惡”，最終對真實世界產(chǎn)生負面影響。近年來，網(wǎng)絡的匿名環(huán)境成為滋生網(wǎng)絡暴力的溫床，因虛擬身份濫用話語權(quán)、侵害他人隱私而造成的網(wǎng)絡暴力事件不在少數(shù)，為網(wǎng)絡空間規(guī)則和倫理治理帶來了不小的挑戰(zhàn)。

三、數(shù)字文化產(chǎn)業(yè)的科技倫理治理路徑

（一）為科技倫理治理提供制度保障

在數(shù)字內(nèi)容消費治理領域，政府是唯一有能力承擔潛在倫理風險與法律責任的主體。作為整個治理體系的主要掌控者，政府要充分利用實時知識源網(wǎng)絡、大數(shù)據(jù)和人工智能進行治理信息的收集、整理和數(shù)據(jù)挖掘，并在此基礎上形成相應的政策規(guī)則，既對潛在的安全風險與隱患進行動態(tài)監(jiān)測與精準治理，又要聚焦優(yōu)質(zhì)藝術(shù)內(nèi)容生產(chǎn)，為數(shù)字內(nèi)容消費的良性發(fā)展提供政策基石。①參見解學芳：《人工智能時代的文化創(chuàng)意產(chǎn)業(yè)智能化創(chuàng)新：范式與邊界》，《同濟大學學報（社會科學版）》2019年第1期。

宏觀上看，《意見》的發(fā)布完善了科技倫理治理的頂層設計，為我國科技倫理治理制定了基本的倫理原則及治理方向。在數(shù)字文化產(chǎn)業(yè)微觀層面，也需要盡快針對其中所隱含的科技倫理問題，設計相關(guān)政策及規(guī)章制度，凝聚數(shù)字文化產(chǎn)業(yè)科技倫理建設共識。針對大數(shù)據(jù)、人工智能等技術(shù)中存在的隱私泄露、大數(shù)據(jù)泄露、人工智能智力成果知識產(chǎn)權(quán)以及人工智能介入藝術(shù)創(chuàng)作邊界等方面的問題，完善相關(guān)法律規(guī)章制度，如個人信息保護、人工智能倫理法規(guī)等等，明確科技倫理治理的底線。正如2020年我國文化和旅游部印發(fā)的《在線旅游經(jīng)營服務管理暫行規(guī)定》、2021年國家互聯(lián)網(wǎng)信息辦公室審議通過的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等，均對大數(shù)據(jù)及算法技術(shù)的利用提出了相應的治理原則與約束條件。

同時，政府也要繼續(xù)完善對數(shù)字文化產(chǎn)業(yè)科技倫理問題的監(jiān)督框架，明晰科技倫理審查和監(jiān)管職責，并通過倫理審查、行業(yè)監(jiān)督、設置“黑名單”等方式，督促數(shù)字文化產(chǎn)業(yè)中的科技活動以及科技使用受到合理的制度約束，并就相關(guān)監(jiān)管部門以及治理領域制定切實可行的監(jiān)督及應對措施。

（二）發(fā)揮數(shù)字文化產(chǎn)業(yè)的自律作用

數(shù)字文化產(chǎn)業(yè)中的科技倫理治理不僅需要來自外部的約束，還需要行業(yè)發(fā)揮自律能力，引導科技向善。

其一，為科技注入倫理準則。科技的發(fā)展需要倫理的匡正，《意見》已明確提出了“增進人類福祉、尊重生命權(quán)利、堅持公平公正、合理控制風險、保持公開透明”五大科技倫理原則。數(shù)字文化產(chǎn)業(yè)從業(yè)者需自覺遵守科技倫理原則，將其融入科技活動和應用過程中，并通過風險自測與評估等提升產(chǎn)品安全度，同時尊重用戶意愿，通過加強數(shù)據(jù)保護、善用數(shù)據(jù)等方式保護其隱私安全等，提高其對科技的信任。

其二，加快形成行業(yè)共識，發(fā)揮數(shù)字文化產(chǎn)業(yè)對科技產(chǎn)品的算法程序以及運行機制的專業(yè)知識，建設或及時更新行業(yè)中科技倫理自律組織，通過制定行業(yè)公約、進行業(yè)內(nèi)審查以及宣傳最佳實踐案例等方式促進行業(yè)自律，明晰數(shù)字文化產(chǎn)業(yè)中技術(shù)的應用邊界和倫理責任主體，以減少潛在的倫理風險。

其三，規(guī)范技術(shù)進入藝術(shù)領域的深度和廣度。在數(shù)字內(nèi)容產(chǎn)品的生產(chǎn)與消費過程中，數(shù)字文化企業(yè)需要利用科技進行數(shù)據(jù)的收集與處理、信息的識別，甚至參與藝術(shù)內(nèi)容的生產(chǎn)與傳播過程，但同時也需要實時監(jiān)測自身數(shù)據(jù)利用情況，遵從已有的科技治理原則與社會道德倫理規(guī)范。通過培養(yǎng)技術(shù)與素養(yǎng)兼?zhèn)涞木C合性人才，發(fā)揮技術(shù)的最大利用價值，既能生產(chǎn)出符合社會主流價值觀的優(yōu)質(zhì)數(shù)字文化內(nèi)容產(chǎn)品，又能擴寬產(chǎn)品的傳播和分發(fā)渠道，從而提高自身內(nèi)容產(chǎn)品生產(chǎn)與傳播的效率與水平。

（三）強調(diào)科技倫理教育與研究

網(wǎng)絡空間作為一個開放、自由的空間，相較于技術(shù)本身的不可控性以及網(wǎng)絡治理等法律法規(guī)的外在控制力，科技倫理的治理歸根結(jié)底離不開科技倫理的廣泛教育與普及。

首先，加強對于科技倫理在大眾范圍內(nèi)的客觀宣傳。鼓勵數(shù)字文化行業(yè)組織、從業(yè)人員與社會公眾以及新聞媒體搭建溝通的橋梁，加強對科技倫理原則的科普工作和正確的價值引導，正確、客觀地傳播科技倫理知識，報道科技倫理問題及倫理常識，縮減社會大眾對于科技倫理問題的知識盲區(qū)以及知識誤區(qū)，提升大眾的媒介素養(yǎng)及消費數(shù)字內(nèi)容產(chǎn)品過程中的信息控制能力、安全防范意識。

其次，支持將科技倫理問題引入高校。展開高校對于科技倫理問題的研究和教育，針對數(shù)字文化產(chǎn)業(yè)中新技術(shù)、新業(yè)態(tài)、新趨勢等展開跨學科研究與探討。同時，鼓勵高校根據(jù)自身基礎與特點開設科技倫理課程，為數(shù)字文化產(chǎn)業(yè)培育科技倫理領域的專業(yè)人才隊伍。

最后，加強對數(shù)字文化產(chǎn)業(yè)從業(yè)人員的科技倫理培訓。各大企業(yè)可以聯(lián)合高校、研究院、學術(shù)研討會等對從業(yè)人員進行專業(yè)培訓，將科技倫理原則納入企業(yè)培訓規(guī)章以及日常培訓過程，使科技倫理知識成為數(shù)字內(nèi)容行業(yè)專業(yè)人員的基礎性知識，進而引導全民正視科技問題，引導科技向善。

結(jié)語

科技與文化的融合以及文化產(chǎn)業(yè)的數(shù)字化轉(zhuǎn)型已是不可避免的趨勢，數(shù)字技術(shù)不斷激發(fā)文化產(chǎn)業(yè)的創(chuàng)新活力，豐富文化消費的內(nèi)容與形式，成為我國文化強國建設的重要推動力。然而，我們也需要客觀看待趨勢中隱含的算法、數(shù)據(jù)、人文等種種問題，遵循科技倫理原則與法律法規(guī)，堅守科技對文化以及人們?nèi)粘Ｉ罱槿氲牡拙€，從而激發(fā)科技的“向善”潛力，如此才能使科技真正為文化產(chǎn)業(yè)賦能，推動數(shù)字文化產(chǎn)業(yè)的可持續(xù)性發(fā)展。