深度偽造技術(shù)沖擊新聞行業(yè)的風(fēng)險(xiǎn)與對(duì)策研究

○楊俊豐 曾莎莎

一、深度偽造的產(chǎn)生與發(fā)展

深度偽造技術(shù)（deepfake）依托于“生成式對(duì)抗網(wǎng)絡(luò)”（GANs）的機(jī)器學(xué)習(xí)模型，是將圖片或者視頻合并疊加到原圖片或視頻上，借助神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行大樣本學(xué)習(xí)，利用多種樣本和數(shù)據(jù)，采用相互檢驗(yàn)和匡糾模型，將想要模仿的人的聲音或者面部表情等其他動(dòng)作合成虛假內(nèi)容的一項(xiàng)人工智能技術(shù)。

深度偽造最早是在2014 年由蘋果公司伊恩·古德費(fèi)羅為核心的小組發(fā)明出來(lái)的，2019 年8 月，陌陌公司旗下一款名為“ZAO”的應(yīng)用正式發(fā)布，這讓深度偽造技術(shù)走進(jìn)國(guó)內(nèi)大眾的視野，該軟件可以對(duì)用戶上傳的面部特征進(jìn)行分析，從而實(shí)現(xiàn)用戶隨意想成為某個(gè)角色的體驗(yàn)，因此這款軟件也被用戶稱為“一鍵換臉”，風(fēng)靡一時(shí)，隨后因涉嫌過度搜集用戶隱私信息被要求下架。

目前深度偽造技術(shù)已應(yīng)用于眾多行業(yè)，傳媒、醫(yī)療、教育甚至政治等領(lǐng)域都能看到深度偽造的身影。2020年美國(guó)總統(tǒng)選舉期間，特朗普就在推特上轉(zhuǎn)發(fā)了一條深度偽造的視頻，視頻內(nèi)容是拜登伸出舌頭在胡言亂語(yǔ)，這條偽造視頻混淆了選民的判斷。俄烏沖突中，烏克蘭總統(tǒng)澤連斯基宣布投降的視頻在社交媒體平臺(tái)爆火，但隨后被判定為深度偽造作品。除此之外，利用深度偽造換臉女明星制作視頻催生了一批黑灰產(chǎn)業(yè)。

二、深度偽造對(duì)新聞行業(yè)的沖擊

新聞專業(yè)主義的基本理論框架是倡導(dǎo)新聞報(bào)道的真實(shí)性、客觀性和公正性，強(qiáng)調(diào)媒介的社會(huì)責(zé)任。新媒體時(shí)代，傳播生態(tài)已經(jīng)發(fā)生了重大變革，人們更傾向于從社交媒體獲取信息，而深度偽造帶來(lái)的各種深度虛假內(nèi)容借助社交媒體傳播，使信息更加魚龍混雜，這對(duì)新聞行業(yè)追求的真實(shí)、客觀、公正都造成了沖擊。

（一）沖擊“新聞?wù)鎸?shí)”

真實(shí)是新聞的生命，在新聞報(bào)道中，最基本的要求就是堅(jiān)持新聞?wù)鎸?shí)。從攝影攝像等視圖技術(shù)產(chǎn)生以來(lái)，視圖所代表的客觀性就在新聞和法律等領(lǐng)域慢慢建立起來(lái)，成為表達(dá)真相最有力的證據(jù)，因?yàn)槿藗兺ǔＯ嘈拧把垡姙閷?shí)，耳聽為虛”。然而，深度偽造的技術(shù)特征使“眼見為實(shí)”這一理念遭受了前所未有的沖擊。深度偽造帶來(lái)的圖像、音視頻的高度逼真性，使眾多信息成為了“合成真實(shí)”的信息，受眾接收到這些信息時(shí)認(rèn)為是真實(shí)的，但其實(shí)是經(jīng)過處理、合成后的“真實(shí)”，其本質(zhì)上是虛假信息。在視頻中進(jìn)行深度偽造，更換關(guān)鍵新聞細(xì)節(jié)或人物面部特征，都足以讓整個(gè)新聞事件產(chǎn)生截然不同的“事實(shí)”。如今深度合成事實(shí)越來(lái)越容易，部分依托于深度偽造技術(shù)的軟件已經(jīng)能夠?qū)崿F(xiàn)一鍵換臉，用戶可以簡(jiǎn)單而輕松地操作，通過替換人臉、聲音等特征達(dá)到偽造事實(shí)的效果。特別是新媒體時(shí)代，大量新聞的來(lái)源是各大社交媒體平臺(tái)，因此社交媒體也成為新型偽造技術(shù)發(fā)揮的重要舞臺(tái)，進(jìn)一步加速了虛假信息的泛濫。目前市場(chǎng)上還沒有出現(xiàn)可以輕易鑒別深度偽造作品的技術(shù)或工具，因此對(duì)合成產(chǎn)品的辨別仍是一大難題。

（二）造成“深度后真相”

“客觀事實(shí)對(duì)于形塑公共輿論的影響力，不如訴諸個(gè)人的情感與信念。”這是牛津詞典對(duì)后真相的定義。注意力經(jīng)濟(jì)背景下，傳統(tǒng)媒體、新媒體、非專業(yè)媒體都在搶奪用戶的注意力，誰(shuí)能夠吸引用戶的注意力，誰(shuí)就能率先搶占市場(chǎng)，由此導(dǎo)致了許多自媒體為了流量和曝光率不顧新聞事實(shí)的亂象。后真相時(shí)代，真相的傳播呈現(xiàn)出扭曲狀態(tài)，部分新聞媒體不求“最準(zhǔn)”只求“第一”，在事實(shí)真相還未完全暴露之前就匆匆定下了結(jié)論。在這種浮躁的傳播環(huán)境下，深度偽造具備了快速發(fā)展的條件，部分軟件甚至“一鍵式”就能實(shí)現(xiàn)輕松換臉，高度逼真的“事實(shí)”混淆了大眾的視聽，擾亂了大眾的理性思考能力。由于鑒別和識(shí)破深度偽造作品需要更高的技術(shù)、更多的時(shí)間和精力，因此立場(chǎng)和情緒先一步取代真相。即使最后成功鑒別并還原了真相，但是在此期間偽造作品大量傳播，用戶已被立場(chǎng)和情緒裹挾，不愿意再相信真相。注意力的爭(zhēng)奪加上深度偽造的難以察覺，使真相愈加滯后和隱蔽。

（三）違反新聞倫理與法規(guī)

深度偽造終究屬于技術(shù)范疇，技術(shù)的使用在于人為，合理使用會(huì)促進(jìn)新聞行業(yè)和其他領(lǐng)域的發(fā)展，但是濫用的話就將侵害公民的合法權(quán)益。首先是侵犯公民的隱私權(quán)。在司法實(shí)踐中，公民個(gè)人的電話號(hào)碼、個(gè)人身體狀況、其他隱私等受到法律保護(hù)。在新聞報(bào)道中，為了獲得某些新聞當(dāng)事人的線索和細(xì)節(jié)，利用深度偽造技術(shù)，編造假的新聞細(xì)節(jié)，或者隨意合成圖片或視頻，這將侵犯公民的隱私權(quán)。其次是損害公民的名譽(yù)權(quán)。英國(guó)Wired雜志曾報(bào)道，自2020年7月份以來(lái)，一款名為DeepNude的深度偽造機(jī)器人攻擊過至少10.4萬(wàn)名女性，每個(gè)月都有成千上萬(wàn)的用戶使用該技術(shù)來(lái)創(chuàng)建他人的裸照。這些無(wú)中生有的裸照嚴(yán)重?fù)p害了受害者的名譽(yù)，造成她們個(gè)人社會(huì)評(píng)價(jià)降低。最后，深度偽造技術(shù)還可能侵犯公民的肖像權(quán)和聲音權(quán)。深度偽造最常見的方式就是人臉與聲音的合成或替換，無(wú)論是對(duì)人臉的“移花接木”，還是對(duì)聲音的合成篡改，都將給公民的肖像權(quán)和聲音權(quán)帶來(lái)風(fēng)險(xiǎn)。

（四）帶來(lái)媒體信任危機(jī)

信息爆炸的今天，受眾每天面對(duì)來(lái)自媒體和眾多自媒體的海量信息，其中充斥著大量帶有個(gè)人情緒和主觀感受的新聞信息，受眾卻難以及時(shí)察覺到危險(xiǎn)的信息并加以辨別，這種態(tài)度會(huì)影響媒體的公信力。風(fēng)險(xiǎn)的社會(huì)放大理論認(rèn)為，風(fēng)險(xiǎn)事件與心理、社會(huì)等因素相互作用，可以增強(qiáng)或減弱風(fēng)險(xiǎn)的公眾感知，媒體在對(duì)風(fēng)險(xiǎn)事件進(jìn)行社會(huì)加工的過程中也會(huì)對(duì)風(fēng)險(xiǎn)的強(qiáng)度和廣度產(chǎn)生影響。特別是在新媒體時(shí)代，新媒體、社交媒體平臺(tái)成為受眾獲取信息的主要途徑，深度偽造制作簡(jiǎn)單，只需輔助性工具，受眾即可成為偽造者，創(chuàng)作偽造作品。深度偽造的作品迎合受眾的需求，因此在形式上更容易獲得受眾認(rèn)同，在初期會(huì)得到受眾的信任。一旦用戶發(fā)現(xiàn)喜愛的作品是經(jīng)過合成的，這種信任立馬會(huì)轉(zhuǎn)變?yōu)椴恍湃危B帶著對(duì)整個(gè)媒體平臺(tái)都持有懷疑的態(tài)度。目前還沒有開發(fā)出有效的應(yīng)對(duì)深度偽造的技術(shù)，因此如果媒體在難以辨別事實(shí)真假的情況下，隨意使用或者傳播深度偽造作品，對(duì)其公信力會(huì)造成巨大沖擊。

三、應(yīng)對(duì)深度偽造的對(duì)策

面對(duì)深度偽造給新聞行業(yè)帶來(lái)的負(fù)面影響，應(yīng)從多個(gè)維度著手，借助社會(huì)各界的力量。新聞工作者要提升專業(yè)素質(zhì)，提高辨別深度偽造作品的能力，不隨意生產(chǎn)、傳播并能夠及時(shí)核查；相關(guān)部門應(yīng)加強(qiáng)對(duì)深度偽造技術(shù)的規(guī)制，對(duì)其進(jìn)行嚴(yán)格監(jiān)管防止被濫用。

（一）專業(yè)媒體機(jī)構(gòu)：完善事實(shí)核查機(jī)制

隨著深度偽造技術(shù)的成熟與普及，新聞報(bào)道的客觀性與公正性受到嚴(yán)重沖擊?！昂铣傻恼鎸?shí)”“拼接真實(shí)”“眼見不一定為實(shí)”給專業(yè)新聞工作者對(duì)事件的判斷造成了困擾。受深度偽造技術(shù)的影響，傳統(tǒng)的核查方式很難做到客觀、公正、全面。因此新聞專業(yè)主義也應(yīng)當(dāng)隨著技術(shù)的發(fā)展豐富其內(nèi)涵、拓展其體系。深度偽造技術(shù)之下，圖片和視頻已經(jīng)不能作為有力的證據(jù)，新聞工作者需要尋找多種信息源線索并加以求證。并且傳統(tǒng)的靠人力核查方式已經(jīng)不足以核查當(dāng)下人工智能時(shí)代的所有信息，這就需要專業(yè)媒體機(jī)構(gòu)加快對(duì)鑒別技術(shù)的研究和引進(jìn)，配合新興的算法、大數(shù)據(jù)、人工智能、云計(jì)算等技術(shù)，辨別各渠道信息源的真實(shí)性，新聞工作者也需要盡快學(xué)習(xí)先進(jìn)技術(shù)的使用，共同構(gòu)建更加全面真實(shí)的新聞原貌。

（二）社交媒體平臺(tái)：強(qiáng)化社會(huì)責(zé)任

如今，以微博、抖音、小紅書等為代表的社交媒體快速發(fā)展，成為信息廣泛傳播的重要平臺(tái)和渠道，也是對(duì)新聞信息傳播造成沖擊的環(huán)節(jié)之一。社交媒體的便利性，降低了利用互聯(lián)網(wǎng)刻意散播深度偽造產(chǎn)品的成本。同時(shí)也得益于網(wǎng)絡(luò)的發(fā)達(dá)，用戶發(fā)布的信息能夠?qū)崿F(xiàn)病毒式傳播，在傳播期間，作品的發(fā)布人可以隨時(shí)變換，始發(fā)者可以藏匿，這也令建立起來(lái)的監(jiān)管機(jī)制難以迅速有效執(zhí)行。我國(guó)現(xiàn)行《網(wǎng)絡(luò)安全法》顯示，網(wǎng)絡(luò)運(yùn)營(yíng)者有責(zé)任對(duì)用戶發(fā)布的信息進(jìn)行監(jiān)督管理，發(fā)現(xiàn)發(fā)布或者傳輸法律、行政法規(guī)禁止的信息，應(yīng)當(dāng)立即停止該信息的傳輸，并采取消除等措施。基于深度偽造技術(shù)的特殊性，社交媒體平臺(tái)的社會(huì)責(zé)任應(yīng)當(dāng)強(qiáng)化。首先，深度偽造產(chǎn)品沒有被明確列為是法律、行政法規(guī)禁止發(fā)布或傳輸?shù)男畔?，因此社交媒體平臺(tái)需要自覺承擔(dān)社會(huì)責(zé)任，對(duì)于內(nèi)容明顯存在社會(huì)風(fēng)險(xiǎn)或違反法律法規(guī)的深度偽造作品進(jìn)行刪除和屏蔽。其次，若用戶上傳深度偽造作品，平臺(tái)應(yīng)予以明顯的標(biāo)記，從傳播源頭提醒其他受眾。最后，若深度偽造產(chǎn)品出現(xiàn)大范圍的傳播，平臺(tái)應(yīng)給予限制，最大程度地減少深度偽造產(chǎn)品帶來(lái)的負(fù)面影響。

（三）技術(shù)應(yīng)對(duì)：重視辨識(shí)工具的開發(fā)

加快鑒別、監(jiān)測(cè)等技術(shù)的研發(fā)是防范深度偽造的重要手段，只要讓鑒別技術(shù)先于并且比深度偽造技術(shù)更成熟，那么深度偽造技術(shù)帶給人類社會(huì)的危險(xiǎn)程度就會(huì)下降，對(duì)新聞行業(yè)的沖擊也會(huì)減小。盡管深度偽造技術(shù)能夠合成高度逼真的圖片、視頻和聲音，但是由于人體特征的特殊性和靈活性，任何偽造產(chǎn)品都很難做到與真實(shí)人物完全一樣。例如，偽造人物的面部表情很難有真實(shí)人物的面部表情那么豐富和靈動(dòng)。隨著越來(lái)越多學(xué)界和業(yè)界人士對(duì)深度偽造技術(shù)的重視和反思，目前針對(duì)深度偽造的檢測(cè)技術(shù)也有所進(jìn)展。美國(guó)國(guó)防部曾研究出全球首個(gè)通過預(yù)測(cè)眼睛狀態(tài)的“反換臉”工具，能達(dá)到99%的準(zhǔn)確率。不過深度偽造技術(shù)也在不斷更新?lián)Q代，因此檢測(cè)技術(shù)也要不斷升級(jí)，先后有研究人員利用區(qū)塊鏈和其他分布式賬本技術(shù)、采取多特征融合檢測(cè)方法、基于VGG16和卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)等方法進(jìn)行檢測(cè)技術(shù)的升級(jí)。不過道高一尺魔高一丈，這些檢測(cè)技術(shù)還不足以應(yīng)對(duì)深度偽造技術(shù)大規(guī)模的使用。相關(guān)檢測(cè)技術(shù)的發(fā)展應(yīng)當(dāng)引起相關(guān)部門的重視。

（四）法律規(guī)制：推進(jìn)監(jiān)管更新

2017 年，一段關(guān)于偽造奧巴馬演講的視頻引起社會(huì)各界對(duì)此技術(shù)的關(guān)注，隨后美國(guó)出臺(tái)了《深度偽造責(zé)任法案》等多個(gè)針對(duì)深度偽造技術(shù)的法案。中國(guó)在這方面也取得了進(jìn)展，《民法典》中有規(guī)定任何組織或個(gè)人不得利用信息技術(shù)偽造等手段侵害他人肖像權(quán)。但是規(guī)定中仍然不是明確地針對(duì)深度偽造，對(duì)濫用深度偽造技術(shù)的處罰也沒有明確的規(guī)定，其適用范圍“肖像權(quán)”有一定的局限性，深度偽造技術(shù)不斷升級(jí)，不僅會(huì)侵犯公民肖像權(quán)，還會(huì)侵犯公民的名譽(yù)權(quán)、聲音權(quán)等多種權(quán)利。因此應(yīng)當(dāng)對(duì)相關(guān)法律進(jìn)行進(jìn)一步完善。此外還應(yīng)當(dāng)設(shè)置專門的監(jiān)管部門，對(duì)深度偽造技術(shù)的運(yùn)用進(jìn)行嚴(yán)格監(jiān)管，對(duì)濫用技術(shù)的組織和平臺(tái)給予嚴(yán)厲打擊，并開啟投訴通道。深度偽造技術(shù)已經(jīng)發(fā)展得越來(lái)越成熟，并且應(yīng)用前景廣闊，急需更新的法律規(guī)范該技術(shù)在市場(chǎng)中的運(yùn)用。

四、結(jié)語(yǔ)

雖然目前在國(guó)內(nèi)深度偽造技術(shù)還沒有被濫用，但是在國(guó)外主流社交媒體平臺(tái)已經(jīng)出現(xiàn)了大量深度偽造產(chǎn)品，對(duì)傳媒等行業(yè)產(chǎn)生了許多負(fù)面影響，造成了更加復(fù)雜的輿論環(huán)境。由深度偽造帶來(lái)的深度假信息沖擊著客觀事實(shí)，混淆了大眾對(duì)真相的認(rèn)知，污染了傳媒生態(tài)環(huán)境。深度偽造技術(shù)無(wú)論是對(duì)個(gè)人還是行業(yè)都有著極大的風(fēng)險(xiǎn)，新聞行業(yè)必須及時(shí)意識(shí)到潛在的危險(xiǎn)性，與其他行業(yè)和部門協(xié)作應(yīng)對(duì)，掌握對(duì)新技術(shù)的主動(dòng)權(quán)，防止深度偽造的濫用造成更大的威脅。