視覺真實性與虛假性的模糊：人工智能時代深度偽造技術(shù)的挑戰(zhàn)

［摘 要］ 探討了深度偽造技術(shù)（Deepfake）對視覺文化和藝術(shù)創(chuàng)作的影響，分析了其在藝術(shù)、影視和商業(yè)領(lǐng)域的應(yīng)用所帶來的機遇與挑戰(zhàn)。盡管深度偽造技術(shù)提升了創(chuàng)作效率并拓寬了藝術(shù)表達的可能性，但其對藝術(shù)原創(chuàng)性和公眾視覺信任造成了深遠(yuǎn)影響。結(jié)合具體案例，揭示了人工智能在藝術(shù)領(lǐng)域的滲透如何模糊創(chuàng)作主體與技術(shù)之間的邊界，并分析了技術(shù)濫用對藝術(shù)生態(tài)和社會認(rèn)知的潛在危害。同時，強調(diào)了在深度偽造時代視覺文化需重新定義真實性的意義，并提出通過引入深度偽造識別技術(shù)、區(qū)塊鏈溯源和倫理規(guī)范，平衡技術(shù)應(yīng)用與藝術(shù)本質(zhì)的建議。未來，藝術(shù)創(chuàng)作與技術(shù)的融合需在保護原創(chuàng)性和捍衛(wèi)真實性的框架下持續(xù)推進，以確保藝術(shù)的獨特性和文化價值。

［關(guān)" 鍵" 詞］ 深度偽造技術(shù)；視覺文化；藝術(shù)創(chuàng)作；人工智能；原創(chuàng)性

引言

深度偽造（Deepfake）技術(shù)是指利用機器學(xué)習(xí)技術(shù)生成逼真的視頻或音頻文件，創(chuàng)建出虛構(gòu)但能以假亂真的內(nèi)容［1］。隨著人工智能（AI）和深度學(xué)習(xí)技術(shù)的快速發(fā)展，深度偽造技術(shù)對圖像和視頻真實性的挑戰(zhàn)達到了前所未有的高度。它的出現(xiàn)讓我們進入了一個圖像和視頻不再能直接代表真實的時代。在過去，照片或影像通常被認(rèn)為是客觀事實的證據(jù)，然而深度偽造技術(shù)通過復(fù)雜的算法和生成對抗網(wǎng)絡(luò)（Generative Adversarial Network， GAN），能夠輕松生成虛假的視覺內(nèi)容?！八梢酝ㄟ^模仿人類認(rèn)知過程，完成類似于人類藝術(shù)創(chuàng)作的表達，能夠突破線性思維框架?！保?］由于技術(shù)的高精度和廣泛應(yīng)用，圖像和視頻的證據(jù)性正逐漸被消解，社會對視覺媒介的信任度顯著下降。

這一現(xiàn)象是技術(shù)發(fā)展的必然結(jié)果，也對視覺文化的基礎(chǔ)提出了挑戰(zhàn)。從視覺文化理論的視角來看，圖像的“真實性”是其長期以來被賦予的重要屬性。然而，深度偽造技術(shù)的普及正在顛覆這一傳統(tǒng)價值觀。影像作為“真實”的符號，正在被一種“技術(shù)化真實”取代，這種真實并不依賴于現(xiàn)實，而是取決于技術(shù)生成內(nèi)容的逼真程度。這迫使我們重新審視影像在視覺文化中的地位與功能。深度偽造技術(shù)的普及正在模糊真實與虛假的界限，在這樣的背景下，視覺文化理論面臨著重新建構(gòu)“視覺信任機制”的任務(wù)。

一、深度偽造技術(shù)的崛起：藝術(shù)創(chuàng)作的機遇與挑戰(zhàn)

深度偽造技術(shù)憑借人工智能和深度學(xué)習(xí)算法，能夠生成高度逼真的圖像、視頻內(nèi)容，不僅為藝術(shù)創(chuàng)作和文化傳播領(lǐng)域注入了新的活力，也大幅提升了創(chuàng)作效率和表現(xiàn)形式的多樣性?！爱?dāng)前數(shù)字技術(shù)迅速發(fā)展，不僅深刻地重塑了全球經(jīng)濟業(yè)態(tài)，也推動了數(shù)字藝術(shù)從奇觀美學(xué)進入互動美學(xué)時代。”［3］例如，藝術(shù)家可以通過人工智能生成繪畫素材、優(yōu)化設(shè)計方案，甚至直接利用深度偽造技術(shù)合成復(fù)雜的視覺場景。虛擬概念場景的生成使電影特效、游戲制作等行業(yè)得以突破傳統(tǒng)技術(shù)的局限，為觀眾提供了前所未有的沉浸式視覺體驗?！坝绕涫羌夹g(shù)賦能為AI藝術(shù)插上騰飛的翅膀，藝術(shù)創(chuàng)新形塑AI藝術(shù)的形式、內(nèi)容和審美品格，并使AI藝術(shù)的審美表意拓展新空間、呈現(xiàn)新意境?！保?］深度偽造技術(shù)在商業(yè)領(lǐng)域的應(yīng)用同樣展現(xiàn)出巨大的潛力。在廣告和市場推廣中，人工智能可以生成定制化的虛擬人物和場景，根據(jù)用戶畫像精準(zhǔn)匹配個性化內(nèi)容投放。這種方式提升了商業(yè)營銷的效率，極大地提高了用戶的接受度和參與度。

盡管深度偽造技術(shù)的初衷是為人類提供便利，但其在藝術(shù)和文化領(lǐng)域的深度介入也帶來了一些亟待解決的問題。特別是在創(chuàng)作主體的模糊化和技術(shù)濫用的問題上引發(fā)社會對藝術(shù)和文化的重新思考。美術(shù)從業(yè)者直接照搬人工智能生成的畫面進行臨摹，冒充人類藝術(shù)創(chuàng)作參展或直接用于個人宣傳的行為不僅挑戰(zhàn)了藝術(shù)作品的原創(chuàng)性原則，也對藝術(shù)行業(yè)的公平競爭帶來了沖擊。同時，在追求效率的現(xiàn)代社會，人工智能生成的內(nèi)容正以驚人的速度滲透到大眾的視覺世界。當(dāng)大眾的視覺文化水平難以跟上技術(shù)的快速迭代時，深度偽造的泛濫可能造成混亂。例如，一些未經(jīng)審查的AI生成作品以偽裝的形式進入公共視野，混淆了創(chuàng)作的真實性，也對圖像消費和藝術(shù)欣賞帶來了前所未有的困擾。

傳統(tǒng)的圖像真實性原則是否仍然成立？視覺還能否作為記錄和證明真實的有效手段？這些問題不僅關(guān)乎技術(shù)發(fā)展的方向，更涉及藝術(shù)形式的反思與文化變革。視覺文化理論需要重新思考技術(shù)與社會的互動方式，為圖像的真實性提供更有力的理論支持，同時探索在技術(shù)快速發(fā)展的背景下如何堅守技術(shù)應(yīng)用的底線，為大眾視覺文化生態(tài)的健康發(fā)展提供保障。21世紀(jì)初，學(xué)者維貝克提出“將技術(shù)道德化”［5］，道德是人類獨有的素養(yǎng)，是人類駕馭技術(shù)的前提。當(dāng)革命性技術(shù)廣泛介入人類獨有的藝術(shù)領(lǐng)域時，人類獨有的“道德”必須同時介入藝術(shù)創(chuàng)作，以平衡技術(shù)應(yīng)用與藝術(shù)本質(zhì)之間的關(guān)系。道德的參與不僅是一種規(guī)范性的需求，更是藝術(shù)創(chuàng)作維持其精神性和真實性的核心保障。

二、視覺文化的真實性危機：藝術(shù)作品中的視覺信任

長期以來，圖像和視頻因其直觀性和細(xì)節(jié)性以及創(chuàng)造技術(shù)的不可篡改性，一直被人們視為事實的客觀呈現(xiàn)。然而，深度偽造技術(shù)的興起以一種前所未有的方式模糊了圖像與現(xiàn)實之間的界限，使圖像不再簡單等同于事實。另外，這項技術(shù)的高度精準(zhǔn)性和可塑性讓偽造的影像內(nèi)容難以分辨。也恰是因為深度偽造這樣的技術(shù)特點，藝術(shù)創(chuàng)作界成為被人工智能滲透的重災(zāi)區(qū)。近年來，多起疑似通過臨摹人工智能生成作品參與重要藝術(shù)作品展覽的案例引發(fā)了廣泛關(guān)注。其中，2024年廣東省美術(shù)作品展中的一件名為《刻光者》的作品，因其具備多種典型的AI繪圖特征而成為網(wǎng)絡(luò)熱議的話題。這一事件不僅引發(fā)了關(guān)于人工智能技術(shù)在藝術(shù)創(chuàng)作中的倫理邊界的討論，也凸顯了當(dāng)下藝術(shù)領(lǐng)域在面對技術(shù)革新時的規(guī)范化缺失問題。盡管直接照搬人工智能生成的圖像參展是否符合展覽規(guī)范目前尚無明確界定，但這一現(xiàn)象正在挑戰(zhàn)美術(shù)作品長期以來作為人類獨特審美表達形式的傳統(tǒng)認(rèn)知。藝術(shù)本被認(rèn)為是人類創(chuàng)造力的延伸，是一種深刻的個體精神活動。當(dāng)AI生成的內(nèi)容被搬上藝術(shù)的舞臺時，這一共識開始面臨前所未有的沖擊。人工智能生成的作品的創(chuàng)作過程和審美意義與人類藝術(shù)創(chuàng)作存在本質(zhì)差異。這種差異不僅讓公眾對展覽作品的真實性產(chǎn)生懷疑，還動搖了人們長期以來對美術(shù)作品的價值判斷標(biāo)準(zhǔn)?！皠?chuàng)作作品的人是作者，作者身份的歸屬取決于對創(chuàng)作行為的定性。創(chuàng)作行為本質(zhì)上是關(guān)于作品內(nèi)容和呈現(xiàn)的選擇、判斷和控制力。”［6］換言之，人工智能介入藝術(shù)創(chuàng)作的興起，不僅是一種技術(shù)革新，更是關(guān)于藝術(shù)定義和社會審美標(biāo)準(zhǔn)的深刻變革。

這種現(xiàn)象在藝術(shù)類從業(yè)者的創(chuàng)作中表現(xiàn)得較為明顯。近年來，筆者在瀏覽各藝術(shù)平臺發(fā)布的作品時，發(fā)現(xiàn)藝術(shù)作品中AI技術(shù)的痕跡愈發(fā)突出。從圖像生成到構(gòu)圖輔助，人工智能正在成為創(chuàng)作流程中的重要工具。倘若這種依賴缺乏規(guī)范與引導(dǎo)，可能導(dǎo)致創(chuàng)作者逐漸失去藝術(shù)創(chuàng)作的敏感度與原創(chuàng)性。更重要的是，AI生成的內(nèi)容會削弱觀者對藝術(shù)作品獨特性的期待，使得美術(shù)作品與技術(shù)產(chǎn)物之間的界限日漸模糊，未來的藝術(shù)生態(tài)可能面臨深遠(yuǎn)的負(fù)面影響。一方面，藝術(shù)創(chuàng)作者可能因為對技術(shù)的過度依賴而逐漸失去自主表達的能力；另一方面，藝術(shù)欣賞者也可能因為技術(shù)的高度參與而喪失對藝術(shù)原初情感與思想表達的敏感度。因此，如何平衡人工智能技術(shù)在藝術(shù)創(chuàng)作中的應(yīng)用與傳統(tǒng)藝術(shù)創(chuàng)作價值的傳承，已成為當(dāng)前藝術(shù)領(lǐng)域亟須解決的重要課題。

深度偽造技術(shù)還將對公眾的認(rèn)知習(xí)慣和社會信任體系產(chǎn)生深遠(yuǎn)影響，缺乏批判性思維的群體可能輕信偽造信息，從而被誤導(dǎo)甚至操控。與此同時，在一個真假難辨的視覺環(huán)境中，信息篩選的難度不斷加大，這種現(xiàn)象可能導(dǎo)致“認(rèn)知過載”，從而引發(fā)心理疲勞，逐漸使人們喪失對影像內(nèi)容的敏感性和興趣，甚至誘發(fā)信息焦慮?！叭斯ぶ悄苊运歼€體現(xiàn)在削弱人類對自己主體性的認(rèn)識和尊重，以及主體行為的責(zé)任意識?！保?］長期處于這樣的視覺環(huán)境中，人們的閱讀習(xí)慣可能從深度閱讀轉(zhuǎn)向淺表化瀏覽，這不僅影響個人的信息文化素養(yǎng)和社會參與度，也會對整個社會的文化結(jié)構(gòu)和信息生態(tài)造成潛移默化的沖擊。

三、視覺文化的真實性辨別：藝術(shù)與技術(shù)的互動

深度偽造技術(shù)的發(fā)展引發(fā)了視覺真實性辨別技術(shù)和倫理的雙重挑戰(zhàn)。目前，許多企業(yè)和科研機構(gòu)正在開發(fā)反偽造工具，以減少這一技術(shù)帶來的負(fù)面影響。這些技術(shù)試圖通過算法分析偽造內(nèi)容的特征痕跡，揭示圖像的非自然性，從而幫助人們辨別圖像或視頻的真實性。一些國際企業(yè)和機構(gòu)在反深度偽造技術(shù)上已經(jīng)取得了初步進展。例如，微軟推出的“視頻認(rèn)證器”（Video Authenticator）能夠通過分辨率這一高效率的識別切入點分析視頻中的像素級偽造痕跡，判斷其真實性?！叭斯ぶ悄芸焖侔l(fā)展的今天，在模仿人類創(chuàng)作的過程中，雖然能夠生成一些看似合理的文本，但在情感表達和人性洞察方面仍存在著明顯的不足。”［8］目前，在國內(nèi)外的藝術(shù)作品展中，主辦方已經(jīng)開始逐步引入“深度偽造識別”技術(shù)，以輔助藝術(shù)品的原創(chuàng)性識別。通過這些技術(shù)手段，展覽主辦方能夠最大限度地保護藝術(shù)作品的原創(chuàng)性特征，確保參展作品真正體現(xiàn)創(chuàng)作者的個人思考與表達。此外，這種技術(shù)的應(yīng)用對于展覽的公平性也起到了重要的保障作用。在競爭性藝術(shù)展覽中，人工智能生成的作品若未經(jīng)識別，很可能對依賴純手工創(chuàng)作的藝術(shù)家造成不公平競爭，從而干擾評審的公正性。引入深度偽造識別技術(shù)可以為藝術(shù)家創(chuàng)造更公平的競爭環(huán)境，也能增強公眾對藝術(shù)作品的信任感和關(guān)注度。例如，在第十四屆全國美術(shù)作品展的評選中，就利用該技術(shù)檢測了參賽作品的圖像特征，評選中引入了相關(guān)檢測工具，針對可能存在爭議的作品進行了進一步驗證。這種技術(shù)的引入標(biāo)志著藝術(shù)展覽在面對技術(shù)變革時邁出了規(guī)范化的第一步，同時也為未來藝術(shù)創(chuàng)作的技術(shù)規(guī)范化提供了重要的參考模型。雖然深度偽造識別技術(shù)仍處于發(fā)展初期，但它為藝術(shù)行業(yè)提供了一種有力工具，不僅保護了原創(chuàng)藝術(shù)創(chuàng)作的核心價值，也為應(yīng)對人工智能帶來的藝術(shù)生態(tài)變化提供了技術(shù)支持。

此外，區(qū)塊鏈技術(shù)也被嘗試引入圖像數(shù)據(jù)中，從而實現(xiàn)內(nèi)容來源的可追溯性?！癗FT數(shù)字作品的唯一性、稀缺性、公開性以及不可篡改性為其交易適用發(fā)行權(quán)及權(quán)利用盡原則提供了技術(shù)上的可行性?！保?］然而，這些技術(shù)手段在實際應(yīng)用中仍然面臨諸多局限，技術(shù)成本的高昂和應(yīng)用普及的滯后也限制了反偽造工具的廣泛應(yīng)用。另外，深度偽造技術(shù)的訓(xùn)練就是通過“生成對抗網(wǎng)絡(luò)的體系”反復(fù)訓(xùn)練，判別器（Discriminator）一方面要協(xié)助督促深度偽造技術(shù)更加真實，另一方面還要自我提升進一步識別其虛假以協(xié)助人類判斷圖像。只有生成技術(shù)和判別技術(shù)二者同時發(fā)展，深度偽造技術(shù)才能更被人在可控的范圍內(nèi)合理利用。

技術(shù)之外，深度偽造還帶來了嚴(yán)峻的倫理挑戰(zhàn)。這些問題不僅涉及圖像作品在技術(shù)層面的濫用風(fēng)險，也關(guān)乎公眾對虛假圖像的態(tài)度和社會責(zé)任。這種信任危機對視覺文化世界產(chǎn)生了深遠(yuǎn)影響。其引發(fā)公眾對影像真實性的懷疑，這種“真實性疲勞”可能使人們逐漸對所有圖像甚至藝術(shù)內(nèi)容保持疏離態(tài)度，甚至對真實內(nèi)容也失去信心［10］。所以，我們在確保技術(shù)蓬勃發(fā)展的同時，也要保護社會文化和藝術(shù)不被技術(shù)吞噬。

結(jié)論

深度偽造技術(shù)的迅猛發(fā)展正以不可逆轉(zhuǎn)的趨勢加速迭代，而這一技術(shù)對視覺文化的沖擊遠(yuǎn)未停止。隨著深度學(xué)習(xí)算法的不斷優(yōu)化，偽造內(nèi)容的精確性和真實感將進一步提高，使視覺真實性與虛假性之間的界限變得更加模糊。在此背景下，視覺文化理論的未來研究必須快速適應(yīng)技術(shù)發(fā)展的步伐，積極探索在技術(shù)與倫理之間尋求平衡的路徑。我們需要一個既能擁抱技術(shù)便利又能有效遏制虛假信息負(fù)面影響的策略體系，從而確保技術(shù)的健康發(fā)展不以犧牲大眾的視覺信任以及公眾審美為代價。如今深度偽造技術(shù)介入了藝術(shù)、影視、新聞等多個領(lǐng)域，與我們的日常生活和文化實踐深度交織。在這一背景下，“保護與捍衛(wèi)真實”則成為更重要的使命。這不僅是學(xué)術(shù)研究的呼聲，更是公共領(lǐng)域和個人生活的現(xiàn)實需求。面對真假難辨的視覺時代，視覺文化理論的研究者和實踐者需要從多個維度重新定義影像的功能與責(zé)任，確保影像在信息傳播中的可信度。

技術(shù)是解決深度偽造問題的關(guān)鍵因素之一。在促進深度偽造技術(shù)迭代升級的同時，必須重視與之相匹配的檢測工具的開發(fā)。判別器作為深度偽造生成機制中的核心組件之一，其性能的提升對于偽造內(nèi)容的檢測至關(guān)重要。未來的技術(shù)研發(fā)需要將生成器與判別器的研究置于同等地位，通過分析圖像結(jié)構(gòu)異常以及視覺表現(xiàn)語言的特征差異，進一步優(yōu)化偽造內(nèi)容的識別精度。此外，區(qū)塊鏈技術(shù)的引入為藝術(shù)等圖像作品的溯源提供了新的可能性。通過數(shù)字加密技術(shù)實現(xiàn)對圖像來源和修改記錄的追蹤，從而為視覺真實性提供更可靠的技術(shù)保障。

面對深度偽造技術(shù)的挑戰(zhàn)，技術(shù)使用應(yīng)設(shè)立清晰的道德界限與行業(yè)規(guī)范，從而有效限制技術(shù)的非法使用。例如，技術(shù)開發(fā)者、創(chuàng)作者、媒體從業(yè)者以及政策制定者需要共同推動深度偽造技術(shù)的健康發(fā)展，使文化藝術(shù)借助科技的力量煥發(fā)新的生命力，這樣視覺技術(shù)的突破將更大程度地服務(wù)于大眾。

參考文獻：

［1］DE RUITER A. The distinct wrong of deepfakes［J］. Philosophyamp;Technology， 2021， 34（4）：1312.

［2］于婉瑩.人工智能對藝術(shù)創(chuàng)作的變革性影響分析［J］.南京藝術(shù)學(xué)院學(xué)報，2014（1）：190-194.

［3］祁震.人工智能美學(xué)：AI技術(shù)與藝術(shù)創(chuàng)造力［J］.中國拍賣，2024（10）：45-49.

［4］彭文祥，張羽珺.技藝相生：AI藝術(shù)創(chuàng)作的審美特征與現(xiàn)代性［J］.當(dāng)代電視，2024（10）：4-10.

［5］［荷］彼得·保羅·維貝克.將技術(shù)道德化：理解與設(shè)計物的道德［M］.閆宏秀，楊慶峰，譯.上海：上海交通大學(xué)出版社，2016：49.

［6］章凱業(yè).機器中的作者與創(chuàng)作：從攝影技術(shù)到生成式人工智能［J］.中外法學(xué)，2024（6）：1-20.

［7］郭全中，張金熠.生成式人工智能價值觀的存在問題及倫理風(fēng)險［J］.新聞與寫作，2024（10）：68-76.

［8］阿布都外力·克熱木，裴家偉.危機與挑戰(zhàn)：人工智能科技下的文學(xué)創(chuàng)作何去何從［J］.甘肅社會科學(xué)，2024（5）：75-84.

［9］周建軍，楊淳.區(qū)塊鏈技術(shù)下NFT數(shù)字作品交易適用發(fā)行權(quán)的證成［J］.宜賓學(xué)院學(xué)報，2024，24（11）：54-63.

［10］VACCARI C，CHADWICK A. Deepfakes and disinformation：exploring the impact of synthetic political video on deception， uncertainty， and trust in news［J］. Social Media+Society， 2020， 6（1）：2.

作者單位：清華大學(xué)美術(shù)學(xué)院

作者簡介：沈添洋（1992—），男，滿族，遼寧撫順人，碩士，研究方向：當(dāng)代藝術(shù)、美術(shù)教育。