警惕！深度偽造技術(shù)的戰(zhàn)場應用

傅磊

深度學習作為時下最熱門的科技概念——人工智能（AI）的子概念之一，是學習樣本數(shù)據(jù)的內(nèi)在規(guī)律和表示層次，在這些學習過程中獲得的信息對諸如文字、圖像和聲音等數(shù)據(jù)的解釋有很大的幫助，其最終目標是讓機器能夠像人一樣具有分析學習能力，能夠識別文字、圖像和聲音等數(shù)據(jù)。目前正被廣泛地運用于通訊、工業(yè)制造、交通、金融、醫(yī)藥、傳媒、娛樂等各行業(yè)。生活中，人們可以利用深度學習的人臉識別進行身份認證和便捷支付等行為，一度使其被奉為科學技術(shù)的又一次革命。然而，前段時間“明星換臉”技術(shù)于社交媒體的爆紅，引發(fā)了巨大的社會爭議?！吧疃葌卧臁笔抢蒙疃葘W習技術(shù)中的“對抗生成網(wǎng)絡”模型形成的智能視頻處理技術(shù)，“明星換臉”則是該技術(shù)最為典型的應用。利用該技術(shù)基于娛樂或其他目的偽造的政客演講、電影片段等足以以假亂真，引起了公眾的警覺和國家安全部門的注意。在深度偽造技術(shù)水平日新月異而鑒別手段相較被動的現(xiàn)實環(huán)境下，利用兼具真實性、便捷性和快速演化性的深度偽造進行心理戰(zhàn)正逐漸成為可能。

深度偽造技術(shù)的概念與原理

“深度偽造”（Deepfakes）由英文“深度學習”（deep learning）和“偽造”（fakes）二詞結(jié)合而來，表明該技術(shù)是基于深度學習的一種新型信息篡改與替換手段。與深度學習不同的是，深度偽造技術(shù)是一種“無監(jiān)督學習，通過對抗生成網(wǎng)絡（GAN， Generative Adversarial Networks）”。

在自我優(yōu)化中生成偽造的數(shù)據(jù)。對于這種技術(shù)邏輯，只要有足夠的數(shù)據(jù)和運算速度，理論上生成模型會在“對抗”中持續(xù)自我迭代并不斷優(yōu)化偽造視頻。2019年3月，一則技術(shù)人員利用該技術(shù)換臉“楊冪”的事件在輿論上引起熱議，國內(nèi)第一次掀起“換臉”熱潮。隨后不久，明星“換臉”手機應用程序“ZAO”上架開放下載，短時間內(nèi)便沖上各大應用商店下載排行榜第一位，一時間網(wǎng)絡社交媒體上充斥著網(wǎng)民將自己與明星“換臉”出沒于電影片段或演出場合的視頻，極大的滿足了網(wǎng)民的“明星夢”。

對抗生成網(wǎng)絡示意圖

但曇花一現(xiàn)后由于“ZAO”中涉及的隱私條款因涉嫌侵犯公民隱私權(quán)而遭到輿論的聲討，導致應用程序下架。事實上，深度偽造“換臉”技術(shù)早在幾年前就在美國有過重要嘗試，如Cycle GAN，可以說是所有人臉轉(zhuǎn)換早期的重要嘗試。Face 2 Face則可以說是一次“標準的、規(guī)矩的”的嘗試。但當下國外最火熱、最廣為流傳的深度學習換臉模型毫無疑問是Deepfake。值得一提的是，該技術(shù)還首先被國外色情網(wǎng)站Reddit的用戶用來將好萊塢明星與色情視頻中的艷星“換臉”，從而招致網(wǎng)民廣泛傳播，給當事明星造成了極大的困擾。

不僅只有視頻“換臉”，深度偽造技術(shù)通過數(shù)據(jù)采集和學習，還能模仿目標對象的語音。早在2018年1月，國內(nèi)科技企業(yè)科大訊飛公司董事長劉慶峰就曾在發(fā)布會上現(xiàn)場利用深度偽造框架下的語音合成技術(shù)演示美國總統(tǒng)特朗普對發(fā)布會致以賀詞，“特朗普”甚至還能以一口流利的中文向大家問好。用劉慶峰的話說，“我們用機器模仿特朗普講話，連美國人都信以為真”。此外，來自英國倫敦大學的研究團隊還研發(fā)出了一種基于深度學習的全新智能算法，只需提供目標對象的筆跡樣本即可實現(xiàn)完美“復刻”，難以辨認。除了語音和筆跡、指紋、文風甚至是微表情等個人獨有的生物和思維特征難題也已全面被深度偽造技術(shù)攻克，可以說，只要采集了足夠的數(shù)據(jù)，深度偽造完全能制造出“另一個你”。這個“你”不受你的意識控制，卻可以向你的社交、生活和工作圈發(fā)布本尊從未授意過的信息——不論你是士兵、營長、司令還是總統(tǒng)。由此，深度偽造技術(shù)的心理戰(zhàn)潛力可見一斑。

深度偽造技術(shù)的戰(zhàn)場運用策略

早在深度偽造技術(shù)初露雛形時，美國國家安全部門就敏銳地察覺到了該項技術(shù)存在著威脅國家安全的巨大隱患，因而開始在政策層面、法律層面和技術(shù)層面加大了對該技術(shù)的限制力度，美國參眾兩院議員相繼推出了《2018年惡意偽造禁令法案》《深度偽造責任法案》《2019年深度偽造報告法案》以防止別有用心者惡意利用該項技術(shù)。與此同時，深度偽造技術(shù)應用于作戰(zhàn)的巨大潛能也被察覺，有眾議員在2019年6月提請眾議院授權(quán)開展深度偽造鑒別技術(shù)競賽，要求美國國防部高級研究計劃局（DARPA）實施一項有競爭力的獎勵計劃，刺激技術(shù)的研究、開發(fā)或商業(yè)化，實際上是激勵人才將該項技術(shù)軍事化，從而應用于心理戰(zhàn)和輿論攻防。

深度偽造“換臉”過程

科研團隊偽造的奧巴馬視頻效果

輿論壓制，搶占國際話語高地。在與敵國的爭鋒中，國際社會的輿論支持也是必要的，哈佛大學肯尼迪政府學院下屬的Belfer 研究中心曾發(fā)布的一篇《AI與國家安全》報告指出：“敵對國家的網(wǎng)絡間諜在竊取一國的真實機密文件后，同時泄露該真實文件和一些相應的偽造文件，再利用深度偽造技術(shù)合成相應的音、視頻材料來佐證相關的偽造文件，該偽造文件的可信度將極大提升，由此操縱公眾輿論，影響國家政權(quán)穩(wěn)定?！碑斍案鲊I導人的外貌、語音甚至筆跡、文風數(shù)據(jù)極易獲取，美國兩任總統(tǒng)奧巴馬和特朗普的換臉視頻已在全球范圍內(nèi)廣泛傳播，2019年初，比利時某政黨甚至發(fā)表了特朗普批評比利時在氣候變化問題立場的視頻，引發(fā)網(wǎng)友對美國政府干預比利時內(nèi)政的強烈不滿，這一視頻后來也被證實是基于深度偽造技術(shù)的假視頻。而視頻從引起爭議到最終辟謠之間有一個時間差，“不怕事后被人罵，只怕當時沒人信”。深度偽造的產(chǎn)品結(jié)合社交網(wǎng)絡的漣漪效應，可以帶來大規(guī)模的以訛傳訛式的擴散，充分利用這個時間差，在反制力量還未作出反應時就進行有利于己的國際輿論引導，對敵進行輿論壓制，搶占話語高地，贏得國際支持，一定程度上能夠起到可觀的效果。