Deepfake加持下短視頻類假新聞的演變與治理

翟紅蕾 鄒心晨

摘?要：人工智能時(shí)代，假新聞在Deepfake等新興技術(shù)的影響下不斷嬗變，形態(tài)也從文本轉(zhuǎn)向音頻、視頻，這不僅在一定程度上縱容了更多假新聞的產(chǎn)生，也對受眾辨別信息的能力提出了更高的要求。但是，技術(shù)并沒有邪惡之分，媒介技術(shù)的革新也不是假新聞出現(xiàn)的根源，當(dāng)前人類認(rèn)知能力、道德水平及媒介規(guī)范程度跟不上技術(shù)的變革，如何借助人工智能技術(shù)有利的一面營造良好的內(nèi)容生態(tài)，進(jìn)而幫助用戶提高媒介素養(yǎng)，才是治理假新聞的有效途徑，也是當(dāng)前亟待解決的問題。

關(guān)鍵詞：Deepfake;假新聞;深度偽造;人工智能時(shí)代

中圖分類號：G210??文獻(xiàn)標(biāo)識碼：A?文章編號：1672-8122（2020）11-0034-03

一、深度偽造技術(shù)下假新聞的升級

（一）假新聞的音頻轉(zhuǎn)向

2017年以來，以直播、短視頻、智能音頻為主導(dǎo)的媒介變革正在悄然改變我們的媒介認(rèn)知圖景。以短視頻為例，根據(jù)2020年1月6日抖音發(fā)布的《2019抖音數(shù)據(jù)報(bào)告》顯示：截至2020年1月5日，抖音日活躍用戶數(shù)已經(jīng)突破4億。而中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第45次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示：截至2020年3月，我國網(wǎng)民規(guī)模達(dá)9.04億，短視頻用戶7.73億，即時(shí)通訊用戶達(dá)8.96億，特別是社交與短視頻開始融合，出現(xiàn)了以音頻、短視頻、直播等作為新形式的社交產(chǎn)品或功能，如微信的“視頻號”、字節(jié)跳動(dòng)推出的小視頻社交軟件“多閃”、知乎也開通了直播功能[1]。這些都意味著用戶的閱讀方式已經(jīng)由文字時(shí)代轉(zhuǎn)到讀圖時(shí)代，又在逐漸過渡到觀影時(shí)代。尤其是在5G技術(shù)投入商用之后，不僅信息呈現(xiàn)方式向短視頻傾斜，假新聞呈現(xiàn)形態(tài)也開始進(jìn)行短視頻轉(zhuǎn)向。

2017年，英國柯林斯詞典（Collins Dictionary）選取“假新聞”（Fake news）作為年度熱詞，并將其定義為：假借新聞報(bào)道形式傳播的錯(cuò)誤、虛假、聳人聽聞的信息。楊保軍對假新聞的定義為：“假新聞是在性質(zhì)上相對于‘真新聞存在的一個(gè)概念，描述的是在形式上、姿態(tài)上完全具備新聞的特征，但實(shí)質(zhì)上沒有新聞本質(zhì)特征（真實(shí)性）的‘新聞”[2]。

在傳統(tǒng)媒體時(shí)代，假新聞的根本特性是新聞事實(shí)與信源的虛假性，但在人工智能時(shí)代，假新聞的范疇根本不止如此。由于技術(shù)賦權(quán)、算法偏見的影響，即使有大數(shù)據(jù)作為支撐，那些沒有準(zhǔn)確、全面、恰當(dāng)?shù)貓?bào)道事實(shí)而形成的新聞依然可以被看作是假新聞。

（二）深度偽造（Deepfake）的應(yīng)用

深度偽造的英文“Deepfake”是由“Deep machine learning”和“Fake photo”組合而成，是柯林斯收錄的2019年年度熱詞之一。deepfake本質(zhì)是一種深度學(xué)習(xí)模型，是圖像合成、替換的技術(shù)框架[3]。作為一種新形態(tài)的偽造技術(shù)，創(chuàng)作者可以借其篡改視頻中人物的面容、聲音等信息，從而制作出難以辨別真假的短視頻。

視頻深度偽造技術(shù)也被稱為AI換臉技術(shù)（AI face swap），具體工作原理與影視后期類似。首先將原視頻按幀轉(zhuǎn)化成大量圖片，然后再對目標(biāo)對象的臉部進(jìn)行替換，最后將替換完成的圖片重新渲染合成新視頻，而Deepfake技術(shù)的加持會使整個(gè)過程實(shí)現(xiàn)自動(dòng)化。音頻偽造亦是如此，通過Deepfake技術(shù)，編碼者可以把目標(biāo)對象的語速、語調(diào)、音色等聲道信息綜合生成為聲音模型，然后根據(jù)目標(biāo)對象的聲音模型找出聲音特征，再依據(jù)特征對語音信息進(jìn)行調(diào)整，以此模擬出相應(yīng)的音頻信息。

關(guān)于Deepfake技術(shù)發(fā)展的歷史，從2017年Reddit用戶“Deepfakes”首次上傳換臉視頻引發(fā)熱議，到2019年2月嗶哩嗶哩Up主將朱茵的臉換成楊冪火爆網(wǎng)絡(luò)，再到9月份在中國應(yīng)用市場一夜爆紅又被迅速下架的換臉應(yīng)用“ZAO”，Deepfake技術(shù)開始入侵并擾亂正常的傳播秩序。

在Deepfake技術(shù)出現(xiàn)之前，關(guān)于圖片造假多是專業(yè)人士運(yùn)用專業(yè)軟件進(jìn)行后期加工的手段，但隨著技術(shù)的普及，隨便一臺手機(jī)都能下載修圖軟件，而“ZAO”更是將這一技術(shù)無限簡化，用戶僅需要一張正臉照就能進(jìn)行“AI換臉”成為視頻當(dāng)事人。這意味著傳播在初始階段就開始失真，信息源的造假無疑給假新聞的生產(chǎn)傳播提供了便利，更為重要的是，短視頻與社交媒體結(jié)合后其傳播速度加快，同時(shí)因?yàn)樗惴ㄗ詣?dòng)生成，其制作成本和門檻較低，導(dǎo)致所生產(chǎn)的假新聞不僅內(nèi)容“逼真”，識別也更加困難。

二、深度假新聞的特征與危害

（一）人工智能時(shí)代假新聞的新特征

對于整個(gè)社會來說，任何新技術(shù)帶來的變革與作用都是巨大的。一方面，Deepfake技術(shù)在影視文化行業(yè)的想象空間極大;另一方面，惡搞、造假使其伴隨著肖像權(quán)、版權(quán)和倫理層面的爭議，尤其是在新聞?lì)I(lǐng)域，Deepfake技術(shù)濫用會造成“深度假新聞”。在Deepfake技術(shù)出現(xiàn)之前，假新聞大多以文字呈現(xiàn)，但隨著人工智能技術(shù)逐漸滲入到短視頻生產(chǎn)，如AI主播、ZAO以及Deepfake等有深度學(xué)習(xí)技能的應(yīng)用使假新聞呈現(xiàn)出以下新特征。

第一，人工智能技術(shù)賦能使假新聞越來越難被識別出來。初代的人工智能技術(shù)在新聞?lì)I(lǐng)域的造假程度，是依賴使用者或者算法制定者的技術(shù)水平，但隨著深度學(xué)習(xí)技術(shù)的加入，短視頻造假越來越逼真，用戶很難在短時(shí)間內(nèi)辨別新聞的真假。

第二，假新聞報(bào)道主體泛化，信息源難辨真假。過去新聞報(bào)道的主體一般只有專業(yè)媒體，如今人人都是信息源的時(shí)代，不管是有意無意，即使是用戶自娛自樂的傳播行為，一旦短視頻上傳到平臺就默認(rèn)將信息置于公眾視野，也隨時(shí)會成為別人的信息源，而互聯(lián)網(wǎng)上任何一個(gè)傳播節(jié)點(diǎn)都可能是假新聞的搖籃。

第三，智能媒體在新聞生產(chǎn)以及算法設(shè)計(jì)運(yùn)行的各個(gè)環(huán)節(jié)，更容易產(chǎn)生帶有偏見的假新聞，而且這種偏見更不容易被察覺。雖說不同新聞APP抓取的數(shù)據(jù)樣本不同，但樣本規(guī)模、屬性以及算法程序也不一定完全客觀。算法歸結(jié)到底還是人工產(chǎn)物，不可避免地會夾雜人的局限和偏見，一旦算法源代碼有偏見，則生產(chǎn)或推送的結(jié)果也必定含有偏見，那依據(jù)這樣的人工智能技術(shù)所生產(chǎn)的新聞可信度與效度都值得懷疑。

（二）人工智能時(shí)代假新聞的危害加成

人工智能時(shí)代，大數(shù)據(jù)、算法技術(shù)讓新聞內(nèi)容的生產(chǎn)、推送更加精確;AI主播、寫作機(jī)器人自動(dòng)生成內(nèi)容解放了生產(chǎn)力;物聯(lián)網(wǎng)技術(shù)、5G技術(shù)的發(fā)展應(yīng)用也塑造了一個(gè)更加智能化的世界。盡管新媒介技術(shù)的加持使媒介使用權(quán)力不斷被下放，信息源更加多元化，內(nèi)容生產(chǎn)形式與效率被刷新，但也必須認(rèn)識到用戶在閱讀、分享各種信息時(shí)會更難辨別真假信息，尤其是微博、微信、抖音等新媒體，他們不僅傳謠快，辟謠也會更難，識別治理假新聞的成本也就更高。例如，各大組織就格外關(guān)注Deepfake在美國大選新聞報(bào)道中的應(yīng)用，因?yàn)樵?016年美國大選期間，Twitter等社交媒體的信息大戰(zhàn)讓人記憶猶新，不同利益集團(tuán)相互指責(zé)和控訴對方制造和傳播各種虛假信息，在這期間，制造、傳播假新聞甚至已經(jīng)成為了一條“灰色”產(chǎn)業(yè)鏈[4]。

2018年，MIT的三位研究者參考6家事實(shí)核查網(wǎng)站提供的標(biāo)準(zhǔn)，對2006至2017年間12.6萬條Twitter的真假新聞傳播力進(jìn)行了評估，這是迄今為止最大規(guī)模的假新聞實(shí)證研究，他們發(fā)現(xiàn)假新聞在轉(zhuǎn)發(fā)層級、傳播人數(shù)、擴(kuò)散范圍等多個(gè)指標(biāo)上碾壓真新聞，且傳播速度至少快6倍[5]。而在人工智能時(shí)代，短視頻形式的假新聞以智能化的形式進(jìn)行傳播，其更具感染力、更易混淆視聽，對新聞業(yè)的負(fù)面影響也更為巨大。首先，因?yàn)榧傩侣劮簽E不僅破壞著媒體自身的公信力，對新聞傳播工作人員污名化，而且還會損害國家權(quán)力機(jī)關(guān)在人民心中的形象;其次，假新聞的泛濫破壞了正常的新聞傳播秩序，影響人們之間的正常交往，造成社會信任危機(jī);再次，Deepfake等技術(shù)在新聞傳播領(lǐng)域中的濫用不僅侵犯個(gè)人隱私，還敗壞社會道德風(fēng)氣;最后，在全球化視野下，一些特殊的假新聞可能會影響正常的國際關(guān)系。

三、人工智能時(shí)代假新聞出現(xiàn)的動(dòng)機(jī)與治理策略

假新聞作為一種傳播現(xiàn)象，它在各個(gè)時(shí)代、各個(gè)國家地區(qū)都普遍存在，只不過泛濫程度、具體表現(xiàn)形態(tài)、形成原因以及治理的策略會有所不同。中國目前沒有單獨(dú)的新聞傳播法，在面對以Deepfake、ZAO為代表的深度偽造技術(shù)的智能媒體時(shí)，治理假新聞還是要從行業(yè)大環(huán)境、受眾媒介素養(yǎng)、媒體人的職業(yè)道德以及相關(guān)法律法規(guī)等方面著手[6]。

（一）政府要推進(jìn)對深度偽造技術(shù)的預(yù)警識別研發(fā)、立法與監(jiān)管

對于政府單位而言，要加大對識別檢測技術(shù)的資助力度，并加快落實(shí)對深度偽造技術(shù)與行為的立法監(jiān)管，明確Deepfake技術(shù)濫用責(zé)任主體。

首先，避免Deepfake技術(shù)濫用造成的危害，關(guān)鍵就是預(yù)警識別技術(shù)工具的研發(fā)，只要預(yù)警識別技術(shù)領(lǐng)先于偽造技術(shù)，假新聞的生產(chǎn)、傳播就會得到極大壓制;其次，從經(jīng)驗(yàn)來看，往往先是出現(xiàn)了一種技術(shù)的濫用并影響到正常的生活秩序，才會出現(xiàn)相關(guān)的政策法規(guī)。AI換臉技術(shù)誕生于2017年，但我國相關(guān)單位在2019年11月29日才針對深度造假技術(shù)的濫用印發(fā)《網(wǎng)絡(luò)短視頻信息服務(wù)管理規(guī)定》，《規(guī)定》指出在線視頻新聞和音頻服務(wù)的提供者和用戶“不得”使用深度學(xué)習(xí)和虛擬現(xiàn)實(shí)等新技術(shù)來創(chuàng)建、發(fā)布和播放“假新聞”，于2020年1月1日正式生效[7]，這意味著在前兩年Deppfake技術(shù)的使用并沒有受到約束;最后，從源頭上防止假新聞的出現(xiàn)，就必須明確濫用Deepfake技術(shù)生產(chǎn)主體的法律責(zé)任。

（二）傳媒界要加強(qiáng)與科技界的合作

雖然，現(xiàn)代信息的繁雜降低了編輯部對真實(shí)信息的報(bào)道速度，ZAO、Deepfake等應(yīng)用則加劇了虛假信息的傳播，但解鈴還需系鈴人，面對深度假新聞傳媒屆也并不是無計(jì)可施。傳媒界必須要加強(qiáng)與科技界的合作，抓緊研發(fā)抑制Deepfake技術(shù)濫用的技術(shù)工具。2017年人工智能基金會（AI Foundation）開發(fā)了一款名為“現(xiàn)實(shí)衛(wèi)士”（Reality Defender）的智能軟件用來檢測潛在的虛假媒體，工作原理與病毒防護(hù)軟件類似，在用戶瀏覽網(wǎng)頁時(shí)不僅會掃描每一幅圖像、視頻，篩選出媒體平臺中的假新聞，還允許用戶上報(bào)自己瀏覽過的疑似假新聞，甚至可以使用人工智能驅(qū)動(dòng)的判斷技術(shù)檢測信息是自我演變還是人為生成的痕跡。

（三）用戶要提高對信息的警惕和識別深度假新聞的能力

一如打擊虛假信息的非營利組織“初稿”（First Draft）負(fù)責(zé)人Claire Wardle所說：“如果你不能百分之百確定一個(gè)視頻是真的，請不要分享，不值得冒險(xiǎn)”[8]。用戶要在接收信息的過程中學(xué)會分辯信息的真假，提高識別深度假新聞的能力。

（四）傳播平臺需要加強(qiáng)內(nèi)容審核，承擔(dān)更多的社會責(zé)任

作為搭載、傳達(dá)用戶各種信息的平臺，具有控制并監(jiān)測平臺信息真實(shí)性的責(zé)任。假新聞在社交媒體平臺上，具有傳播速度快、范圍廣且辟謠難的特點(diǎn)，所以必須強(qiáng)化傳播平臺的社會責(zé)任，在加強(qiáng)內(nèi)容審核時(shí)，還要在相關(guān)信息上做好標(biāo)識，這樣才能在傳播過程中一定程度上阻止深度假新聞的擴(kuò)散。

（五）新聞傳播工作人員要加強(qiáng)自身素養(yǎng)，堅(jiān)守新聞倫理

作為新聞傳播工作人員，面對Deepfake等深度偽造技術(shù)的沖擊，一方面，要堅(jiān)守新聞倫理;另一方面，也要致力于提高自己檢驗(yàn)深度假新聞的能力。不管是多重信源核實(shí)，還是假借人工智能技術(shù)之手，只要能快速檢驗(yàn)內(nèi)容真實(shí)性，便能更好地制止虛假信息的傳播。

四、結(jié)?語

從紙媒、門戶網(wǎng)站、新媒體、流媒體再到各種智能媒體，信息載體的形式在不斷變化，媒介功能也在不斷完善，不斷下放到普通用戶，但普羅大眾也必須意識到，在享受人工智能技術(shù)帶來便利、推動(dòng)行業(yè)變革的同時(shí)也加深了假新聞的泛濫。

基于Deepfake等深度偽造技術(shù)實(shí)現(xiàn)了短視頻的換臉、換聲，包括以AI主播為代表的智能機(jī)器也開始以獨(dú)立信源的身份進(jìn)入新聞傳播初始階段，這在一定程度上沖擊了“眼見為實(shí)”的常識。雖說Deepfake等深度偽造技術(shù)越來越智能，但公眾、專業(yè)人員鑒別虛假圖像和短視頻的能力也在不斷提高，相關(guān)輔助檢測技術(shù)也在加速迭代，隨著“打假”技術(shù)的升級以及公眾媒介素養(yǎng)的不斷提高，相信我們會不斷接近那個(gè)最理想、最真實(shí)的信息世界。

參考文獻(xiàn)：

[1]中國互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）.第45次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》[R].2020-04-28.

[2]楊保軍.認(rèn)清假新聞的真面目[J].新聞與記者，2011（2）：4-11.

[3]柯林斯詞典2019年度熱詞[EB/OL].https：//www.collinsdictionary.com/word-lovers-blog/new/collins-word-of-the-year-2019-shortlist，580，HCB.html.

[4]史安斌，王沛楠.作為社會抗?fàn)幍募傩侣劇绹筮x假新聞現(xiàn)象的闡釋路徑與生成機(jī)制[J].新聞?dòng)浾撸?017（6）：4-12.

[5]S.Vosoughi.D.Roy.The Spread of True and False News Online.Science.2018.359（6380）：1146-1151.

[6]匡文波.人工智能時(shí)代假新聞的“共謀”及其規(guī)避路徑[J].上海師范大學(xué)學(xué)報(bào)，2019（4）.

[7]國家互聯(lián)網(wǎng)信息辦公室文化和旅游部國家廣播電視總局.網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定[EB/OL]. http：//www.cac.gov.cn/2019-11/29/c_1576561 820911259.htm，2019-11-29.

[8]Supasorn Suwajanakorn.視頻直播.真人的假視頻以及如何識別他們[EB/OL].TTV譯直播，https：//ttv.cn/archives/3650.

[責(zé)任編輯：楊楚珺]