重構(gòu)與挑戰(zhàn)：“深度合成”的傳播影響與技術(shù)反思

喻國(guó)明,梁 爽

(1.北京師范大學(xué) 新聞傳播學(xué)院，北京 100875；2.北京郵電大學(xué) 數(shù)字媒體與藝術(shù)設(shè)計(jì)學(xué)院，北京 100876)

在智慧傳播的時(shí)代背景下，不斷成熟革新的人工智能傳播技術(shù)及海量流動(dòng)數(shù)據(jù)的結(jié)合，為媒介數(shù)據(jù)實(shí)現(xiàn)從傳統(tǒng)文本數(shù)據(jù)、電子文本數(shù)據(jù)到音視頻數(shù)據(jù)的過(guò)渡提供了支撐和保障。尤其是當(dāng)下日益復(fù)雜的信息傳播場(chǎng)景，大大豐富了媒介用戶的多維使用體驗(yàn)，“媒介-技術(shù)-用戶”互動(dòng)全面滲透人們的社會(huì)生活。在此媒介技術(shù)語(yǔ)境下，“深度合成(Deep synthesis)”技術(shù)應(yīng)運(yùn)而生，一經(jīng)推出便迅速在世界范圍內(nèi)廣泛傳播并產(chǎn)生深刻影響。如今，作為人工智能技術(shù)進(jìn)步和媒介社會(huì)發(fā)展的產(chǎn)物，結(jié)合多種信息網(wǎng)絡(luò)技術(shù)的深度合成已參與到社會(huì)生活的方方面面，在還原社會(huì)情境、虛擬人物形象、深度文本融合等環(huán)節(jié)中發(fā)揮著重要的作用。不少技術(shù)樂(lè)觀主義者認(rèn)為，深度合成技術(shù)的商業(yè)價(jià)值不容忽視，其在影視產(chǎn)業(yè)、游戲產(chǎn)業(yè)、時(shí)尚產(chǎn)業(yè)中的技術(shù)參與能有效降低生產(chǎn)難度與制作成本，更能通過(guò)技術(shù)支持以促進(jìn)用戶與產(chǎn)品的雙向互動(dòng)，拉近用戶與內(nèi)容產(chǎn)品的距離，大大提升相應(yīng)的媒介傳播效果及影響力；也有技術(shù)悲觀主義者提出，應(yīng)當(dāng)警惕當(dāng)今社會(huì)中深度合成技術(shù)所帶來(lái)的國(guó)家公民安全、新聞公正性、算法監(jiān)督處理等方面的問(wèn)題與挑戰(zhàn)。

與持續(xù)升溫的市場(chǎng)應(yīng)用與社會(huì)討論相比，圍繞深度合成議題進(jìn)行的學(xué)術(shù)研究剛剛起步，現(xiàn)階段的國(guó)內(nèi)外研究大多集中在深度合成機(jī)器學(xué)習(xí)與智能算法[1-3]、合成技術(shù)之深度偽造[4-7]等方面，但較少對(duì)深度合成整體生態(tài)發(fā)展的把握?？傮w看來(lái)，在對(duì)技術(shù)的剖析、應(yīng)用的既有研究中，深度合成的技術(shù)邏輯、媒介社會(huì)反思成為研究者普遍關(guān)注的重點(diǎn)議題，怎樣理解現(xiàn)階段深度合成的技術(shù)邏輯及結(jié)構(gòu)特征，包括智能算法、計(jì)算機(jī)結(jié)構(gòu)模型對(duì)深度合成技術(shù)演進(jìn)的支撐性作用？如何認(rèn)知智慧傳播時(shí)代背景下深度合成技術(shù)參與下的媒介社會(huì)互動(dòng)？又如何合理利用深度合成技術(shù)對(duì)社會(huì)產(chǎn)業(yè)結(jié)構(gòu)及社會(huì)價(jià)值產(chǎn)生的深刻影響，并積極應(yīng)對(duì)技術(shù)媒介融合趨勢(shì)下的機(jī)遇與挑戰(zhàn)？這些問(wèn)題的探討關(guān)系著對(duì)深度合成技術(shù)既有影響的社會(huì)反思與媒介技術(shù)未來(lái)發(fā)展的把握。本文沿著“技術(shù)溯源—媒介技術(shù)互動(dòng)—消解與重構(gòu)—挑戰(zhàn)與策略”的邏輯思路，對(duì)現(xiàn)階段深度合成技術(shù)的結(jié)構(gòu)特征、技術(shù)參與、社會(huì)影響等內(nèi)容進(jìn)行深入剖析，并結(jié)合技術(shù)帶來(lái)的一系列影響進(jìn)行媒介社會(huì)反思，提出應(yīng)對(duì)措施與策略建議。

一、技術(shù)溯源：“深度合成”技術(shù)邏輯與結(jié)構(gòu)特征

“深度合成”的概念來(lái)源于計(jì)算機(jī)科學(xué)中“深度學(xué)習(xí)(Deep learning)”和“合成(Synthesis)”的結(jié)合，作為一種基于算法指令自動(dòng)化運(yùn)行的合成媒體(Synthetic media)技術(shù)手段，深度合成技術(shù)泛指借助人工智能算法和計(jì)算機(jī)虛擬合成技術(shù)生成的數(shù)字化文本內(nèi)容，包括自動(dòng)生成的文本、圖像、語(yǔ)音、視頻等內(nèi)容形態(tài)。從技術(shù)實(shí)現(xiàn)手段而言，深度合成技術(shù)主要依賴于生成器(Generator)、鑒別器(Discriminator)等智能算法手段——于2014年正式合并生成為深度神經(jīng)網(wǎng)絡(luò)形態(tài)“生成式對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Network, GAN)”；除此之外，卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)、變分自編碼器(Variational Auto Encoders,VAE)等技術(shù)模型的加入也為深度合成提供了核心支撐與技術(shù)基礎(chǔ)。隨著通信網(wǎng)絡(luò)技術(shù)的逐步革新，深度合成現(xiàn)如今已發(fā)展為集文本合成、圖像合成、音頻合成、視頻合成等內(nèi)容為一體的多模態(tài)合成技術(shù)。

究其本源，深度合成技術(shù)在20世紀(jì)90年代被學(xué)術(shù)界納入智能科學(xué)的研究范疇之中，并在計(jì)算與應(yīng)用的演變過(guò)程中日趨優(yōu)化與完善，其應(yīng)用操作的基本邏輯為通過(guò)將文字、圖像、音頻、視頻片段的疊加、合并或替換，從而實(shí)現(xiàn)新文本、新內(nèi)容的合成與虛擬。起初，深度合成技術(shù)的進(jìn)步主要得益于GAN模型的不斷精進(jìn)，Korshunova等人在2017年首先提出利用生成式對(duì)抗網(wǎng)絡(luò)來(lái)訓(xùn)練面孔識(shí)別模型[8]，隨后，有科學(xué)家致力于研究基于長(zhǎng)短期記憶(Long Short Term Memory,LSTM)的架構(gòu)模型，通過(guò)語(yǔ)音以提煉人類口腔特征[9]?？茖W(xué)研究成果的面世引發(fā)了市場(chǎng)上開源方案的提出，加速了深度合成內(nèi)容的推動(dòng)與演化進(jìn)程。如今，技術(shù)推動(dòng)下的深度合成不僅能完成圖像合成、視頻合成等程序功能，更能通過(guò)機(jī)器深度學(xué)習(xí)實(shí)現(xiàn)真人聲音模擬、虛擬人物創(chuàng)造等多線程模態(tài)任務(wù)。

就深度合成技術(shù)的結(jié)構(gòu)特點(diǎn)而言，一是結(jié)構(gòu)模型穩(wěn)定，由生成器和鑒別器生成的GAN首先將提供材料中的隨機(jī)噪聲轉(zhuǎn)化為目標(biāo)圖像模型，再針對(duì)即將合成圖像進(jìn)行驗(yàn)證與判別，一旦由鑒別器判定為假，生成器則立即收到反饋并進(jìn)行相應(yīng)改進(jìn)。隨著兩個(gè)對(duì)抗算法不斷進(jìn)行自我優(yōu)化，經(jīng)過(guò)“機(jī)器自我學(xué)習(xí)”模式的合成圖像最終“進(jìn)化”為高度逼真的文本模態(tài)，從而達(dá)到“以假亂真”“混淆視聽”的呈現(xiàn)效果。二是合成內(nèi)容精密度高，人眼在有限時(shí)間內(nèi)無(wú)法進(jìn)行準(zhǔn)確的辨別。從理論上講，只要有充足的數(shù)據(jù)學(xué)習(xí)資料和過(guò)硬的運(yùn)算及硬件支持，深度偽造出的合成內(nèi)容就能無(wú)限度逼近“真實(shí)”，可以說(shuō)，“更大的數(shù)據(jù)、更優(yōu)的算法、更好的硬件約等于無(wú)限接近真實(shí)的合成內(nèi)容”。接下來(lái)，基于光線調(diào)控、眨眼頻率、微表情捕捉等功能的多模態(tài)特征融合技術(shù)進(jìn)一步增加真假內(nèi)容文本的識(shí)別難度。三是兼容普適性較強(qiáng)，深度合成技術(shù)支持多載體、多任務(wù)兼容，且隨著技術(shù)的不斷開源與優(yōu)化，技術(shù)的準(zhǔn)入門檻逐漸降低，用戶無(wú)須具備編程語(yǔ)言知識(shí)和軟件庫(kù)支持即可進(jìn)行運(yùn)行操作。因此，滿足了用戶獵奇、模仿心理的深度合成產(chǎn)品通過(guò)社交網(wǎng)絡(luò)、陌生人傳播模式的助力，迅速吸引了大量關(guān)注，在促進(jìn)傳輸速率、傳播效果的同時(shí)迅速實(shí)現(xiàn)流量到價(jià)值紅利的轉(zhuǎn)化。

二、媒介技術(shù)互動(dòng)：智慧傳播時(shí)代“深度合成”的技術(shù)參與

2020年被稱為是“深度合成的商業(yè)化元年”，實(shí)現(xiàn)人工智能換臉、人臉合成、語(yǔ)音合成、視頻生成甚至數(shù)字虛擬人等諸多應(yīng)用形式的深度合成技術(shù)，作為人工智能發(fā)展到一定階段的產(chǎn)物，逐步從深度偽造(deepfake)的陰影中脫離，迎來(lái)了商業(yè)化時(shí)代。[10]在走入智慧傳播時(shí)代的當(dāng)今社會(huì)，未來(lái)網(wǎng)絡(luò)、5G/6G、區(qū)塊鏈等新興智能技術(shù)的耦合與應(yīng)用將多維智慧媒介推向新的歷史發(fā)展階段，“萬(wàn)物皆媒”“萬(wàn)物互聯(lián)”被賦予新的內(nèi)涵外延?，F(xiàn)階段，人工智能技術(shù)迎來(lái)第三次發(fā)展浪潮，在超強(qiáng)算法、生物智能、移動(dòng)傳感等技術(shù)的加持下，人與機(jī)器、人與技術(shù)、人與媒介的互動(dòng)合作更加親密無(wú)間，無(wú)論是區(qū)塊鏈技術(shù)應(yīng)用推動(dòng)下的智慧媒介生態(tài)系統(tǒng)改革，“5G+AI”對(duì)“場(chǎng)景化傳播”模態(tài)結(jié)構(gòu)改革的全面推動(dòng)，還是下一代網(wǎng)絡(luò)技術(shù)推動(dòng)下“用戶中心”傳播格局的進(jìn)一步深化，都為今天的媒介技術(shù)互動(dòng)發(fā)展提供了新的時(shí)代情境與現(xiàn)實(shí)需求，新興智能技術(shù)正快速進(jìn)入社會(huì)傳播活動(dòng)的各個(gè)環(huán)節(jié)。

實(shí)際上，深度圖像合成(Deep image synthesis)、深度視頻合成(Deep video synthesis)、深度語(yǔ)音合成(Deep sound synthesis)以其高技術(shù)融合性和算法成熟性，較早地進(jìn)入了人們的視線?，F(xiàn)階段，具備高度仿真能力和信息捕捉能力的深度合成技術(shù)正在被廣泛應(yīng)用于影視、娛樂(lè)、教育、醫(yī)療、社交、電商、科研等諸多領(lǐng)域，在媒介技術(shù)互動(dòng)、推動(dòng)社會(huì)智慧傳播進(jìn)程方面發(fā)揮了一定的技術(shù)貢獻(xiàn)。例如，應(yīng)用于電商領(lǐng)域的深度合成技術(shù)通過(guò)“快速換臉”技術(shù)，實(shí)現(xiàn)了消費(fèi)者在購(gòu)買前的“數(shù)字虛擬試穿”；醫(yī)療領(lǐng)域的深度合成技術(shù)能夠通過(guò)說(shuō)話者自適應(yīng)(Speaker adaption)和說(shuō)話者編碼(Speaker encoding)技術(shù)，讓失聲患者重新獲得“自己的聲音”；在科普教育領(lǐng)域，英國(guó)公司利用語(yǔ)音合成技術(shù)將貝克漢姆的聲音自動(dòng)合成為八國(guó)語(yǔ)言，面向不同語(yǔ)言地區(qū)的青少年進(jìn)行科學(xué)普及推廣工作。

與此同時(shí)，在音視頻深度合成技術(shù)的基礎(chǔ)之上，借助自然語(yǔ)言處理的深度身體合成(Deep whole-body synthesis)技術(shù)也在近年走入大眾的生活場(chǎng)景之中。2019年，日本人工智能數(shù)據(jù)網(wǎng)絡(luò)公司Data Grid正式宣布仿真人AI的面世，新智能產(chǎn)品能夠在身體深度合成技術(shù)的支持下自動(dòng)生成虛擬人體模型，可全面應(yīng)用于時(shí)尚、服裝、娛樂(lè)等產(chǎn)業(yè)。同年，騰訊人工智能實(shí)驗(yàn)室(AI Lab)正式發(fā)布首個(gè)電競(jìng)虛擬人T.E.G(天鵝靜)，利用3D人臉?biāo)苄图夹g(shù)和深度身體合成技術(shù)，實(shí)現(xiàn)了語(yǔ)音、面部表情、肢體動(dòng)作的人體深度合成遷移。一方面，不斷升級(jí)優(yōu)化的深度合成技術(shù)將協(xié)助人工智能進(jìn)一步優(yōu)化升級(jí)，完成更多、更廣的服務(wù)工作；另一方面，通過(guò)自主學(xué)習(xí)與算法調(diào)整，技術(shù)得以進(jìn)入“自主操縱”“自動(dòng)合成”的全新生產(chǎn)階段，從而實(shí)現(xiàn)從單純“復(fù)制-粘貼”的簡(jiǎn)單操作到“學(xué)習(xí)-優(yōu)化-進(jìn)階”復(fù)雜算法的跳躍。

三、消解與重構(gòu)：“深度合成”對(duì)社會(huì)產(chǎn)業(yè)結(jié)構(gòu)及價(jià)值邏輯的深刻影響

不可否認(rèn)，深度合成技術(shù)的進(jìn)步給今天的媒介社會(huì)結(jié)構(gòu)帶來(lái)前所未有的挑戰(zhàn)。正如《黑鏡(Black Mirror Season 5)》中展示的虛擬合成偶像“Ashley Too”生產(chǎn)過(guò)程，表現(xiàn)了深度合成技術(shù)對(duì)人類社會(huì)生活、情感認(rèn)知帶來(lái)的沖擊性影響。近年來(lái)，深度合成內(nèi)容的廣泛傳播對(duì)媒介信息、政府機(jī)構(gòu)乃至整個(gè)社會(huì)系統(tǒng)的信任、安全情況帶來(lái)深刻的影響，同時(shí)對(duì)社會(huì)政治、經(jīng)濟(jì)、文化、軍事以及社會(huì)成員的認(rèn)知、交往方式等社會(huì)價(jià)值邏輯產(chǎn)生重要變革。

首先，深度合成技術(shù)以其算法優(yōu)越性和技術(shù)跨越性，對(duì)社會(huì)文化引擎與價(jià)值邏輯不斷進(jìn)行著消解與重構(gòu)。基于智能算法技術(shù)和智能通訊手段發(fā)展而來(lái)的深度合成，自誕生以來(lái)，就以其融合性、互動(dòng)性、精準(zhǔn)性影響著人們的社會(huì)價(jià)值認(rèn)知與文化產(chǎn)業(yè)發(fā)展進(jìn)程。深度合成技術(shù)的滲透參與持續(xù)推動(dòng)著社會(huì)文化形態(tài)的演進(jìn)，在“符號(hào)價(jià)值”與“體驗(yàn)價(jià)值”高度凸顯的當(dāng)今社會(huì)，媒介產(chǎn)業(yè)的價(jià)值邏輯不斷被重構(gòu)，更貼近消費(fèi)者需求、更重視用戶體驗(yàn)的“用戶中心”社會(huì)文化生態(tài)被逐漸建立，具有高度包容性、鮮明個(gè)人性的深度合成技術(shù)迅速受到年輕用戶群體的青睞，如美國(guó)NETFLIX公司制作的《怪奇物語(yǔ)》借助Facebook的深度合成特效技術(shù)，支持用戶與劇中演員“同框”制作短視頻，拉近了作品與觀眾的距離，以參與其中的互動(dòng)方式提升了觀眾的整體觀看體驗(yàn)。近年來(lái)，隨著深度合成技術(shù)的不斷成熟與優(yōu)化升級(jí)，其產(chǎn)研聯(lián)動(dòng)價(jià)值與藝術(shù)文化價(jià)值也逐漸顯現(xiàn)，如2019年MIT-IBM Watson人工智能實(shí)驗(yàn)室發(fā)布了基于深度合成技術(shù)的“AI藝術(shù)畫師”產(chǎn)品，正是以大量人類畫作“投喂”生成對(duì)抗網(wǎng)絡(luò)(GAN)的形式，通過(guò)計(jì)算工具“GAN Paint Studio”不斷訓(xùn)練“AI畫師”的藝術(shù)鑒賞、藝術(shù)創(chuàng)作能力，重塑了社會(huì)對(duì)藝術(shù)價(jià)值、文化價(jià)值的認(rèn)知方式與評(píng)判標(biāo)準(zhǔn)。

其次，深度合成技術(shù)通過(guò)與多產(chǎn)業(yè)、多場(chǎng)域的聯(lián)動(dòng)融合，給社會(huì)眾多產(chǎn)業(yè)發(fā)展提供了新思路、新路徑，同時(shí)也注入了鮮活的生機(jī)與動(dòng)力。近年來(lái)，深度合成技術(shù)的普及與推廣深刻影響了游戲、藝術(shù)、娛樂(lè)、社交通訊、新零售等產(chǎn)業(yè)領(lǐng)域，從媒介技術(shù)融合的方式手段上為影視制作公司、博物館修復(fù)、深度報(bào)道、數(shù)字復(fù)活等工作開辟了新的工具和平臺(tái)，切實(shí)提升了文化產(chǎn)品的創(chuàng)建效率。尤其是自動(dòng)數(shù)據(jù)生成、全身合成、3D塑型等技術(shù)形態(tài)的加入，大大節(jié)約了今天挖掘新聞數(shù)據(jù)、視頻特效制作、多維圖像修復(fù)等任務(wù)的時(shí)間與資金成本，推動(dòng)了數(shù)字應(yīng)用場(chǎng)景的拓展與落地。實(shí)際上，最基本的深度圖像合成、深度視頻合成技術(shù)早已通過(guò)與移動(dòng)應(yīng)用App合作嫁接的形式多次出現(xiàn)在我們的生活場(chǎng)景之中。與深度偽造技術(shù)有所不同，深度合成技術(shù)在維護(hù)數(shù)據(jù)安全、識(shí)別虛假信息等方面具有一定的技術(shù)優(yōu)勢(shì)與研究基礎(chǔ)，AI合成主播、虛擬偶像、虛擬客服等也隨著深度合成技術(shù)的不斷深化融合而變得愈加逼真可信。以深度合成技術(shù)支持下的虛擬偶像為例，計(jì)算機(jī)通過(guò)對(duì)圖像、聲音、空間位置等信息的精準(zhǔn)捕捉與復(fù)雜計(jì)算，為虛擬形象、虛擬人物的全方位塑造以及次元界限的打破提供了技術(shù)可能；加上深度語(yǔ)音合成技術(shù)對(duì)真人聲音、語(yǔ)態(tài)的編碼塑造，進(jìn)一步為虛擬偶像的跨場(chǎng)域傳播創(chuàng)造了條件，經(jīng)過(guò)機(jī)器深度學(xué)習(xí)和算法訓(xùn)練之后的虛擬偶像更能擔(dān)負(fù)與粉絲實(shí)時(shí)互動(dòng)、進(jìn)行情感創(chuàng)作等工作任務(wù)。

四、挑戰(zhàn)與應(yīng)對(duì)：“深度合成”技術(shù)的媒介社會(huì)反思

正如前面探討的，深度合成技術(shù)在一定程度上對(duì)媒介社會(huì)帶來(lái)了變革性影響，其輻射范圍涉及社會(huì)結(jié)構(gòu)、系統(tǒng)及社會(huì)成員認(rèn)知、生活的方方面面。在如今智慧傳播時(shí)代的媒介社會(huì)大背景下，無(wú)論是深度合成技術(shù)對(duì)媒介樣態(tài)的豐富與催生，從傳受結(jié)構(gòu)、傳播模態(tài)上給今天的媒介傳播格局帶來(lái)震動(dòng)與重構(gòu)，還是媒介技術(shù)互動(dòng)參與過(guò)程中衍生的社會(huì)結(jié)構(gòu)、倫理與安全問(wèn)題，都需要將技術(shù)、社會(huì)倫理與人的關(guān)系緊密關(guān)聯(lián)起來(lái)進(jìn)行考量。正如有專家對(duì)“技術(shù)-倫理”關(guān)系的闡述：技術(shù)不可能以獨(dú)立于倫理的態(tài)勢(shì)獲得發(fā)展，倫理是前沿科技發(fā)展的框架和底線，倫理的反思和引導(dǎo)需要一直貫穿技術(shù)發(fā)展的終始。[11]對(duì)深度合成技術(shù)的媒介社會(huì)反思亦是如此，技術(shù)的發(fā)展應(yīng)遵循社會(huì)倫理,在社會(huì)倫理規(guī)范和框架下有序推動(dòng)技術(shù)的革新和進(jìn)步。

實(shí)際上，為對(duì)抗深度合成技術(shù)給媒介社會(huì)帶來(lái)的一系列影響，學(xué)界和業(yè)界正在積極尋找相應(yīng)的實(shí)施策略與解決方案。例如，結(jié)合無(wú)須權(quán)限的區(qū)塊鏈技術(shù)(Permissionless blockchain)，可以適用于深度合成的防范與監(jiān)測(cè)工作，主要應(yīng)用場(chǎng)景包括監(jiān)測(cè)日志與傳播行為、防篡改元數(shù)據(jù)及相關(guān)記錄、維護(hù)身份認(rèn)證密碼及通行監(jiān)測(cè)等等。另外，利用循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks,RNN)、成對(duì)學(xué)習(xí)(Pairwise Learning)、數(shù)字圖像取證技術(shù)(Digital Image Forensic)等人工智能技術(shù)，在處理深度合成監(jiān)測(cè)、任務(wù)判定的過(guò)程中取得了一定的效果。谷歌在《人工智能：我們的原則(AI at Google: our principles)》中承諾：“我們致力于開發(fā)人工智能的最佳實(shí)踐，以減少技術(shù)濫用所帶來(lái)的潛在危害”[12]。2018年以來(lái)，谷歌著力研發(fā)的新型數(shù)據(jù)監(jiān)測(cè)系統(tǒng)，旨在開發(fā)新的深度合成內(nèi)容檢測(cè)工具，更高效地識(shí)別深度合成假視頻。但必須認(rèn)識(shí)到的是，隨著深度合成技術(shù)的不斷成熟與算法升級(jí)，相關(guān)虛假合成內(nèi)容的檢測(cè)難度也逐漸增加。應(yīng)當(dāng)基于不同國(guó)家、地區(qū)的社會(huì)特點(diǎn)及區(qū)域優(yōu)勢(shì)，尊重社會(huì)技術(shù)發(fā)展邏輯與安全治理經(jīng)驗(yàn)，整合技術(shù)發(fā)展、社會(huì)參與和政府監(jiān)管力量的綜合力量，循序漸進(jìn)、科學(xué)有效地實(shí)現(xiàn)對(duì)深度合成內(nèi)容的規(guī)范與整改。

我國(guó)較早對(duì)深度合成的社會(huì)影響進(jìn)行了關(guān)注與應(yīng)對(duì)，相關(guān)政府職能部門面對(duì)這一社會(huì)問(wèn)題制定了一系列管理措施。2018年3月，國(guó)家新聞出版廣電總局辦公廳下發(fā)《關(guān)于進(jìn)一步規(guī)范網(wǎng)絡(luò)視聽節(jié)目傳播秩序的通知》，其中明確規(guī)定：“堅(jiān)決禁止非法抓取、剪輯改編視聽節(jié)目的行為，嚴(yán)格管理包括網(wǎng)民上傳的類似重編節(jié)目，不給存在導(dǎo)向問(wèn)題、版權(quán)問(wèn)題、內(nèi)容問(wèn)題的剪拼改編視聽節(jié)目提供傳播渠道?！盵13]并立即采取措施，對(duì)社交網(wǎng)絡(luò)市場(chǎng)中存在問(wèn)題的合成音視頻、移動(dòng)應(yīng)用進(jìn)行全面整改。次年1月，中央網(wǎng)信辦、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局四部門聯(lián)合發(fā)布《關(guān)于開展App違法違規(guī)收集使用個(gè)人信息專項(xiàng)治理的公告》，并迅速成立移動(dòng)應(yīng)用違法違規(guī)手機(jī)使用個(gè)人信息專項(xiàng)治理工作組，對(duì)多款設(shè)計(jì)違規(guī)操作的移動(dòng)應(yīng)用進(jìn)行查處。[14]緊接著，國(guó)家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國(guó)家廣播電視總局聯(lián)合發(fā)布《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，其中指出：“網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)、新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)。”[15]這一新規(guī)定于2020年1月1日起正式生效實(shí)施，同時(shí)積極推動(dòng)相關(guān)立法規(guī)制的確立進(jìn)程。

國(guó)際方面，美國(guó)較早對(duì)深度合成內(nèi)容的社會(huì)公信問(wèn)題進(jìn)行關(guān)注，在《2019年深度合成報(bào)告法案》中明確指出：“出于誤導(dǎo)目的、使用新興技術(shù)(包括人工智能、機(jī)器學(xué)習(xí)等)，偽造或者操縱音視頻或其他文本數(shù)據(jù)的數(shù)字內(nèi)容偽造(Digital content forgery)，將使他人對(duì)偽造內(nèi)容的真實(shí)性產(chǎn)生誤信，進(jìn)而對(duì)社會(huì)公信、政府能力產(chǎn)生懷疑，并可能給社會(huì)系統(tǒng)帶來(lái)后續(xù)更大危害，”[16]。2020年1月8日，美國(guó)國(guó)會(huì)針對(duì)數(shù)字操縱問(wèn)題舉行新聞聽證會(huì)，有媒體報(bào)道認(rèn)為，此聽證會(huì)是一個(gè)明確的信號(hào)，它表示議員們正在認(rèn)真對(duì)待“深偽”帶來(lái)的威脅。[4]另外,英國(guó)出臺(tái)的《網(wǎng)絡(luò)危害白皮書(Online Harms White Paper)》于2019年4月被正式遞交國(guó)會(huì)，證實(shí)了英國(guó)將采取確實(shí)措施對(duì)深度合成內(nèi)容進(jìn)行政府監(jiān)管[17，18]。綜合來(lái)看，深度合成技術(shù)所觸發(fā)的智能風(fēng)險(xiǎn)問(wèn)題已得到國(guó)際社會(huì)普遍重視，大家都在積極尋找相應(yīng)的方案給予應(yīng)對(duì)和解決。

五、結(jié)語(yǔ)

今天，“深度合成”給人類社會(huì)帶來(lái)了前所未有的顛覆和改變，不斷推動(dòng)媒介社會(huì)的格局創(chuàng)新與價(jià)值重構(gòu)。正如麥克盧漢所說(shuō)的：“媒介是社會(huì)發(fā)展的基本動(dòng)力，也是區(qū)分不同社會(huì)形態(tài)的標(biāo)志。每一種新媒介的產(chǎn)生與應(yīng)用都宣告我們進(jìn)入一個(gè)新的時(shí)代?！盵19]作為人工智能技術(shù)進(jìn)步的產(chǎn)物，深度合成由誕生之初的科研技術(shù)產(chǎn)品，逐漸演變?yōu)槊浇榧夹g(shù)互動(dòng)融合的典型代表，值得我們對(duì)現(xiàn)階段媒介技術(shù)倫理進(jìn)行深刻的思考。

尤其是伴隨著媒介技術(shù)社會(huì)的高度發(fā)展，人們對(duì)技術(shù)、機(jī)器之依賴度、黏性度、親密度日益提升，而“技術(shù)的鐵籠”(1)“技術(shù)的鐵籠”的概念最初源自Weber的社會(huì)學(xué)論述，由法國(guó)技術(shù)哲學(xué)家Ellul正式提出，后由美國(guó)科技倫理學(xué)家Spinello進(jìn)行了“技術(shù)鐵籠之倫理、道德”的經(jīng)典論證。有中國(guó)學(xué)者指出：“我們說(shuō)工具的場(chǎng)景分隔，在技術(shù)理想主義者看來(lái)，這就是所謂機(jī)械的‘技術(shù)的鐵籠’。”[20]對(duì)人的束縛、制約甚至控制呈增強(qiáng)之勢(shì)。深度合成作為技術(shù)工具既可以拓寬人類認(rèn)知、豐富媒介體驗(yàn)，同時(shí)也加劇了人的軟弱性。[21]人們?cè)谙硎芗夹g(shù)帶來(lái)便利、優(yōu)勢(shì)的同時(shí)，也不得不面對(duì)由技術(shù)濫用、數(shù)據(jù)偽造等帶來(lái)的一系列問(wèn)題。我們必須認(rèn)識(shí)到深度合成技術(shù)給娛樂(lè)、時(shí)尚、教育、游戲產(chǎn)業(yè)發(fā)展帶來(lái)的活力與契機(jī)，給相關(guān)領(lǐng)域的延伸與拓展開辟了新的路徑。例如，結(jié)合深度合成技術(shù)的科普教育能輕松合成多國(guó)語(yǔ)言進(jìn)行世界大范圍的傳播；利用數(shù)字合成技術(shù)的影視制作能更高效、低成本地合成電影視覺特效，從而提升用戶的觀影體驗(yàn)。然而，也應(yīng)高度警惕深度合成技術(shù)給社會(huì)安全帶來(lái)的風(fēng)險(xiǎn)，以及給現(xiàn)有法律體系造成的新的挑戰(zhàn)?，F(xiàn)階段，應(yīng)當(dāng)積極采取防范措施以應(yīng)對(duì)深度合成帶來(lái)的危害，并將其納入全球治理的框架范圍之內(nèi)；大力推動(dòng)國(guó)際打擊深度合成虛假信息的有效協(xié)作，避免深度合成虛假信息在世界范圍內(nèi)的肆意擴(kuò)散，維護(hù)國(guó)家和社會(huì)的繁榮與穩(wěn)定。

恰如尼葛洛龐帝說(shuō)的，“不管怎么樣，我們無(wú)法否定這個(gè)媒介化生存時(shí)代的存在，也無(wú)法阻止傳播技術(shù)的前進(jìn)?！盵22]目前，深度合成技術(shù)在我國(guó)的演化發(fā)展尚在可控范圍之內(nèi)，未來(lái)應(yīng)如何從算法、數(shù)據(jù)、應(yīng)用等層面科學(xué)管控技術(shù)倫理規(guī)程，發(fā)揮新興技術(shù)優(yōu)勢(shì)以促進(jìn)媒介社會(huì)發(fā)展、造福人類社會(huì)，將是一項(xiàng)值得持續(xù)關(guān)注的重點(diǎn)議題。