人工智能的文化風(fēng)險(xiǎn)與數(shù)字文明的倫理構(gòu)建

[摘要]人工智能技術(shù)的蓬勃發(fā)展為文化事業(yè)的繁榮興盛提供了前所未有的技術(shù)支持。但人工智能技術(shù)催生的文化樣態(tài)在文化內(nèi)容創(chuàng)造、文化傳播方式與文化審美品味三個(gè)方面蘊(yùn)藏著潛在風(fēng)險(xiǎn)。其原因在于文化商品符號(hào)消費(fèi)的內(nèi)在動(dòng)力以及智能媒介技術(shù)的外力加持。為此，應(yīng)從培育公民數(shù)字倫理意識(shí)、提升文藝作品質(zhì)量、營(yíng)造數(shù)字社會(huì)的文明氛圍三個(gè)方面賦能數(shù)字強(qiáng)國(guó)的文明形象。

[關(guān)鍵詞]人工智能；文化風(fēng)險(xiǎn)；數(shù)字文明" " " [DOI]：10.20122/j.cnki.2097-0536.2025.03.015

以人工智能為代表的現(xiàn)代數(shù)字科技催生出數(shù)字文化的新樣態(tài)。這一樣態(tài)以數(shù)字科技賦能文化新質(zhì)生產(chǎn)力成為實(shí)現(xiàn)文化高質(zhì)量發(fā)展的全新思路，為實(shí)現(xiàn)文化強(qiáng)國(guó)戰(zhàn)略的艱巨使命提升到又一歷史性高度。[1]但必須明確的是，人類(lèi)文明的每一次歷史躍遷都是在規(guī)范技術(shù)風(fēng)險(xiǎn)的實(shí)踐智慧中成就的。因此，以人工智能核心的數(shù)字科技賦能文化新質(zhì)生產(chǎn)力的實(shí)踐發(fā)展必須透視人工智能的文化風(fēng)險(xiǎn)，探求規(guī)避風(fēng)險(xiǎn)的治理路徑，積極踐行實(shí)踐倫理的德性光輝，才能使中國(guó)彰顯文明大國(guó)的現(xiàn)代風(fēng)尚。

一、人工智能的文化風(fēng)險(xiǎn)透視

人工智能技術(shù)催生的文化樣態(tài)在文化創(chuàng)造、文化傳播與文化品味三個(gè)方面蘊(yùn)藏著潛在風(fēng)險(xiǎn)。

第一，文化創(chuàng)造同質(zhì)化現(xiàn)象弱化創(chuàng)新能力。“新一代人工智能的發(fā)展意味著AI不僅是一種技術(shù)手段，而且成為全新的文化內(nèi)容生產(chǎn)模式”[2]。它利用AI數(shù)據(jù)大模型結(jié)合具體場(chǎng)景打造文化元宇宙空間，具有著高效率、高規(guī)模的創(chuàng)新優(yōu)勢(shì)。但文化創(chuàng)造對(duì)技術(shù)支持的愈發(fā)依賴(lài)也直接影響到內(nèi)容生產(chǎn)的同質(zhì)化問(wèn)題，日漸祛魅文化“啟迪開(kāi)智、豐富情感、凈化靈魂”的獨(dú)有能力。例如，在網(wǎng)絡(luò)文學(xué)的創(chuàng)造過(guò)程中，由于AI技術(shù)對(duì)現(xiàn)有文化資源的重復(fù)利用，文藝作品日漸淪為打造極致視聽(tīng)體驗(yàn)、豐富身體感受能力的“冰冷機(jī)器”，而逐漸被“祛魅”的文學(xué)創(chuàng)造“不再是情感的表達(dá)者與故事的生產(chǎn)者，而成為文字的批量生產(chǎn)者”[2]，從而弱化著文化創(chuàng)新的內(nèi)在活力。

第二，文化傳播流量化宣傳拒絕多元風(fēng)格。文化傳播基于流量算法的數(shù)字技術(shù)驅(qū)動(dòng)突出強(qiáng)調(diào)量化指標(biāo)體系的數(shù)字規(guī)約，如點(diǎn)擊率、完播率、互動(dòng)率等。短視頻平臺(tái)作為這一趨勢(shì)的典型代表，其上的“爆款模板”與“洗腦神曲”如同文化工業(yè)流水線上的標(biāo)準(zhǔn)化組件，以驚人的速度被復(fù)制、傳播，并迅速占領(lǐng)市場(chǎng)。這些內(nèi)容往往缺乏深度與創(chuàng)新，卻憑借高度統(tǒng)一的形式和強(qiáng)烈的感官刺激，成功吸引了大量用戶的注意力。然而，這種快速消費(fèi)的文化現(xiàn)象將數(shù)字文化生態(tài)置于“數(shù)據(jù)至上”的單一化旋渦之中，從而使得文化的多元性與創(chuàng)造性在技術(shù)馴化的過(guò)程中變得日益單調(diào)和平庸。

第三，文化品質(zhì)計(jì)算化審美阻斷主流風(fēng)尚。AI通過(guò)數(shù)據(jù)大模型對(duì)個(gè)體私人化的審美趣味進(jìn)行定制化、精細(xì)化的審美計(jì)算，在素材選取、圖像配色、視頻剪輯、攝像聚焦等各方面通過(guò)AI模型模擬配對(duì)。[3]因此審美計(jì)算化將審美想象空間置于私人化的“審美繭房”之中，阻斷主流風(fēng)尚的審美熏陶[4]。其危害在于：一方面單一化的審美敘事增加了安全風(fēng)險(xiǎn)。如虛假新聞擾亂社會(huì)真相、人臉合成視頻碰觸法律底線等；另一方面私人化的審美趣味排斥阻斷主流風(fēng)尚，不斷滋生著去中心化的私人敘事，從而日漸弱化著多元文化構(gòu)建包容和諧、開(kāi)放社會(huì)的社會(huì)功能。

二、文化風(fēng)險(xiǎn)樣態(tài)的原因剖析

以人工智能技術(shù)為主要?jiǎng)恿Φ臄?shù)字文化在文化內(nèi)容、生產(chǎn)創(chuàng)新、品味層次方面良莠不齊，為文化高質(zhì)量發(fā)展帶來(lái)前所未有的嚴(yán)峻挑戰(zhàn)。必須系統(tǒng)剖析數(shù)字文化風(fēng)險(xiǎn)的內(nèi)在動(dòng)因與外部動(dòng)力，為全面規(guī)避數(shù)字文化的諸多風(fēng)險(xiǎn)提供解決對(duì)策。

第一，文化商品符號(hào)消費(fèi)的“虛假需要”是“內(nèi)在動(dòng)力”。以人工智能技術(shù)為主要驅(qū)動(dòng)力的文化生產(chǎn)鏈條，憑借其無(wú)與倫比的高效與精準(zhǔn)特性，正在深刻地重塑文化產(chǎn)品的創(chuàng)造與傳播方式，這一技術(shù)革新不僅極大地縮短了文化內(nèi)容的生產(chǎn)周期，還將文化產(chǎn)品簡(jiǎn)化為一系列可快速?gòu)?fù)制、廣泛傳播的符號(hào)載體。這一過(guò)程如同一把雙刃劍，在加速文化傳播的同時(shí)，也悄然改變了文化的本質(zhì)與內(nèi)涵。人工智能技術(shù)在重塑文化生產(chǎn)與消費(fèi)模式的同時(shí)，也因其技術(shù)邏輯與資本屬性的深度耦合，將文化數(shù)字文化置于“符號(hào)消費(fèi)”的文化景觀之中，迫使內(nèi)容創(chuàng)作者在追求市場(chǎng)認(rèn)可的過(guò)程中，不得不頻繁向低門(mén)檻、高刺激性的感官需求妥協(xié)，以期在激烈的市場(chǎng)競(jìng)爭(zhēng)中脫穎而出，獲取更高的曝光度和商業(yè)回報(bào)，從而使得數(shù)字文化成為刺激消費(fèi)的“虛假欲望”、追求短期經(jīng)濟(jì)利益的工具。

第二，人工智能等數(shù)字媒介的“技術(shù)馴化”是“潛在推手”。在人工智能技術(shù)日新月異的浪潮之下，基于海量大數(shù)據(jù)的深度挖掘與分析，用戶行為分析已然躍升為現(xiàn)代內(nèi)容推薦系統(tǒng)的核心邏輯支柱。這一轉(zhuǎn)變不僅標(biāo)志著信息傳播方式的根本性革新，也深刻影響了文化產(chǎn)品的生產(chǎn)、分發(fā)及消費(fèi)模式。算法推薦系統(tǒng)，作為這一變革的先鋒，通過(guò)不斷迭代優(yōu)化，精準(zhǔn)捕捉并強(qiáng)化用戶的個(gè)性化偏好，為用戶量身定制信息流，營(yíng)造出一個(gè)高度個(gè)性化的“投喂式”傳播環(huán)境。這種環(huán)境雖然極大地提升了用戶體驗(yàn)的針對(duì)性和滿意度，卻也在無(wú)形中重塑了文化產(chǎn)品的審美評(píng)價(jià)體系。

三、應(yīng)對(duì)數(shù)字文化風(fēng)險(xiǎn)的治理對(duì)策

積極應(yīng)對(duì)人工智能對(duì)文化創(chuàng)新的風(fēng)險(xiǎn)挑戰(zhàn)，應(yīng)從培育公民數(shù)字倫理意識(shí)、提升文藝作品質(zhì)量、營(yíng)造數(shù)字社會(huì)的文明氛圍三個(gè)方面探索數(shù)字科技賦能文化強(qiáng)國(guó)的良好風(fēng)尚。

第一，培育提升公民數(shù)字科技倫理的意識(shí)。

一方面普及科技倫理教育，培養(yǎng)提升公民的數(shù)字素養(yǎng)。在數(shù)字化浪潮洶涌澎湃的今天，人工智能以前所未有的速度滲透到社會(huì)生活的每一個(gè)角落，對(duì)青少年的成長(zhǎng)環(huán)境帶來(lái)了深刻的變革。為了培養(yǎng)能夠適應(yīng)未來(lái)社會(huì)需求的青少年人才，基礎(chǔ)教育階段必須積極應(yīng)對(duì)這一挑戰(zhàn)，將人工智能倫理課程有機(jī)且系統(tǒng)地融入常規(guī)教學(xué)體系中。為了達(dá)到既定目標(biāo)，教育界的專(zhuān)業(yè)人士與學(xué)術(shù)界的精英通力合作，創(chuàng)新性地開(kāi)發(fā)出了一套將“算法邏輯與道德評(píng)估”深度融合的教學(xué)資料。這些資料摒棄了過(guò)往單一的知識(shí)灌輸方式，而是倡導(dǎo)一種理論與實(shí)踐深度融合的教學(xué)策略。在算法邏輯層面，教學(xué)材料以清晰直觀的形式闡述了算法的基本工作原理，例如，借助生動(dòng)的流程圖來(lái)展示搜索引擎如何在龐大的信息庫(kù)中精確檢索出用戶需要的信息。至于道德評(píng)估部分，資料中則穿插了大量源于現(xiàn)實(shí)生活的實(shí)例，旨在啟發(fā)學(xué)生的思考，使他們?cè)诙鄻踊膱?chǎng)景中能夠做出符合道德規(guī)范的判斷。

另一方面，在數(shù)字倫理認(rèn)證機(jī)制構(gòu)建維度，建立全球化視野與本土化實(shí)踐相融合的治理范式。以IEEE頒布的《人工智能倫理設(shè)計(jì)準(zhǔn)則》為例，該標(biāo)準(zhǔn)創(chuàng)新性地構(gòu)建了“研發(fā)-應(yīng)用-監(jiān)管”全周期倫理評(píng)估體系，系統(tǒng)性覆蓋算法架構(gòu)設(shè)計(jì)、數(shù)據(jù)治理框架、系統(tǒng)部署機(jī)制等關(guān)鍵環(huán)節(jié)，通過(guò)階段性審查機(jī)制實(shí)現(xiàn)倫理風(fēng)險(xiǎn)防控，特別是在可解釋性驗(yàn)證、偏見(jiàn)消解策略、數(shù)字身份保護(hù)等核心指標(biāo)方面形成可操作性規(guī)范。我國(guó)在推進(jìn)數(shù)字倫理制度化建設(shè)過(guò)程中，應(yīng)著力構(gòu)建三級(jí)認(rèn)證體系：基礎(chǔ)層對(duì)接國(guó)際通用準(zhǔn)則，采用動(dòng)態(tài)對(duì)標(biāo)機(jī)制保持標(biāo)準(zhǔn)先進(jìn)性；適配層建立數(shù)字主權(quán)評(píng)估模塊，重點(diǎn)考量文化特異性與數(shù)據(jù)跨境流動(dòng)規(guī)制；應(yīng)用層開(kāi)發(fā)職業(yè)倫理能力矩陣，針對(duì)教育、醫(yī)療、金融等垂直領(lǐng)域制定差異化認(rèn)證框架。這種分層遞進(jìn)的結(jié)構(gòu)既體現(xiàn)全球數(shù)字治理共同體的協(xié)作精神，又確保關(guān)鍵基礎(chǔ)設(shè)施的自主可控，最終形成具有中國(guó)特色的數(shù)字公民培育支持系統(tǒng)。

二、提升文藝作品質(zhì)量的創(chuàng)新機(jī)制

為了準(zhǔn)確衡量AI輔助創(chuàng)作的文藝作品質(zhì)量，開(kāi)發(fā)科學(xué)合理的文藝作品質(zhì)量評(píng)估算法，構(gòu)建多維評(píng)價(jià)模型是關(guān)鍵環(huán)節(jié)。該模型涵蓋思想性、藝術(shù)性、技術(shù)性三個(gè)重要維度。

第一，思想性維度關(guān)注作品所傳達(dá)的價(jià)值觀、主題深度與社會(huì)意義。一部?jī)?yōu)秀的文藝作品應(yīng)能夠引發(fā)觀眾或讀者對(duì)人生、社會(huì)、歷史等問(wèn)題的深入思考，傳遞積極向上的價(jià)值觀。例如，在AI生成的小說(shuō)中，評(píng)估其思想性時(shí)，需考量故事所蘊(yùn)含的對(duì)人性善惡的探討、對(duì)社會(huì)現(xiàn)象的洞察等是否具有深度和獨(dú)特性。

第二，藝術(shù)性維度側(cè)重于作品的審美價(jià)值，包括情節(jié)架構(gòu)的精巧程度、人物塑造的豐滿度、語(yǔ)言表達(dá)的優(yōu)美性以及藝術(shù)風(fēng)格的獨(dú)特性等。如在評(píng)估AI輔助創(chuàng)作的繪畫(huà)作品時(shí)，會(huì)從色彩運(yùn)用的和諧度、構(gòu)圖的創(chuàng)新性、藝術(shù)風(fēng)格的傳承與突破等方面進(jìn)行考量。

第三，技術(shù)性維度主要針對(duì)AI在創(chuàng)作過(guò)程中的技術(shù)運(yùn)用進(jìn)行評(píng)估，包括算法的創(chuàng)新性、數(shù)據(jù)處理的準(zhǔn)確性以及技術(shù)實(shí)現(xiàn)的穩(wěn)定性等。例如，在評(píng)估AI生成的音樂(lè)作品時(shí)，需考察其旋律生成算法是否新穎，能否精準(zhǔn)模擬不同音樂(lè)風(fēng)格的特點(diǎn)，以及在演奏或播放過(guò)程中是否存在技術(shù)故障等問(wèn)題。

三、營(yíng)造數(shù)字社會(huì)文明氛圍的協(xié)同方案

借助先進(jìn)的自然語(yǔ)言處理技術(shù)，構(gòu)建低俗內(nèi)容過(guò)濾系統(tǒng)，精準(zhǔn)識(shí)別并攔截低俗、暴力、色情等不良信息的內(nèi)容。以某知名社交平臺(tái)應(yīng)用的“文明用網(wǎng)識(shí)別模型”為例，該模型依托于深度學(xué)習(xí)算法的強(qiáng)大能力，對(duì)平臺(tái)上的海量文本、圖片、視頻等內(nèi)容進(jìn)行實(shí)時(shí)的智能分析。通過(guò)詞匯、語(yǔ)義、圖像特征等多維度的精準(zhǔn)識(shí)別，為用戶打造了一個(gè)健康、綠色的網(wǎng)絡(luò)交流環(huán)境，有力推動(dòng)整個(gè)網(wǎng)絡(luò)生態(tài)的良性發(fā)展與持續(xù)優(yōu)化，有效減少不良信息對(duì)用戶，特別是青少年群體價(jià)值觀的潛在侵蝕。同時(shí)，將“算法素養(yǎng)”和“信息甄別”等關(guān)鍵要素納入文明單位創(chuàng)建的考核體系之中，通過(guò)線上線下相結(jié)合的培訓(xùn)與考核機(jī)制，覆蓋了數(shù)字安全知識(shí)、網(wǎng)絡(luò)道德規(guī)范、算法原理與應(yīng)用等多個(gè)方面的內(nèi)容，不斷提升社會(huì)大眾的數(shù)字技能，引導(dǎo)社會(huì)大眾更加理性、有效地辨別虛假新聞、惡意營(yíng)銷(xiāo)等不良信息，并在網(wǎng)絡(luò)社交中嚴(yán)格遵循道德準(zhǔn)則，以此在全社會(huì)形成樹(shù)立正確數(shù)字價(jià)值觀的良好風(fēng)尚。因此，持續(xù)開(kāi)展數(shù)字文明素養(yǎng)提升行動(dòng)不僅能夠有力地促進(jìn)網(wǎng)絡(luò)空間的文明交流與和諧發(fā)展，也是提升數(shù)字社會(huì)文明素養(yǎng)的必要舉措。

參考文獻(xiàn)：

[1]姜婷婷，陳雪，孫竹墨.技術(shù)驅(qū)動(dòng)與體驗(yàn)牽引并重：數(shù)字文化高質(zhì)量發(fā)展路徑探析[J].圖書(shū)情報(bào)知識(shí)，2024，41（06）：83-93+112.

[2]解學(xué)芳，陳思函.基于深度合成技術(shù)的文化科技倫理風(fēng)險(xiǎn)識(shí)別與善治機(jī)制[J].南昌大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2024，55（04）：53-65.

[3]解學(xué)芳，高嘉琪.AIGC模式賦能數(shù)字文化創(chuàng)新的邏輯與善治：基于ChatGPT熱潮的思考[J].江海學(xué)刊，2023，（03）：86-95.

[4]趙雪，韓升.數(shù)字時(shí)代大眾文化的審美隱憂與解決路徑[J].理論探索，2021，（06）：25-31.

基金項(xiàng)目：

2024年度河北金融學(xué)院大學(xué)生創(chuàng)新創(chuàng)業(yè)訓(xùn)練計(jì)劃項(xiàng)目，項(xiàng)目名稱(chēng)：人工智能的文化風(fēng)險(xiǎn)與數(shù)字文明的倫理構(gòu)建（項(xiàng)目編號(hào)：202411420017）

保定市社科辦規(guī)劃課題，項(xiàng)目名稱(chēng)：數(shù)字賦能保定市紅色文化產(chǎn)業(yè)高質(zhì)量發(fā)展研究”（項(xiàng)目編號(hào)：2024133）

作者簡(jiǎn)介：馬雨航（2004.4-），男，漢族，河北保定人，本科在讀，研究方向：文化經(jīng)濟(jì)；韓慧會(huì)（1992.5-），女，漢族，河北保定人，碩士，講師，研究方向：現(xiàn)代文藝?yán)碚摚?/p>

通訊作者：趙雪（1986.3-），女，漢族，河北廊坊人，博士，副教授，研究方向：文化理論。