深度偽造技術給網絡可信身份管理帶來的挑戰(zhàn)與對策

孟雪 劉宗媛 李倩

摘 ? 要：隨著人工智能技術的飛速發(fā)展，基于深度學習的深度偽造技術正受到社會或業(yè)界越來越多的關注。在豐富人們文化娛樂生活的同時，深度偽造技術也引發(fā)了諸多社會問題，尤其給網絡可信身份管理帶來了潛在風險。隨著深度偽造技術的不斷進步，其引發(fā)的安全威脅和信任危機將愈加嚴重，采取有效措施遏制深度偽造的濫用風險已經迫在眉睫。文章首先介紹了深度偽造技術的原理和特點，接著深入剖析了其給網絡可信身份管理帶來的嚴峻挑戰(zhàn)，最后從監(jiān)管和技術層面研究，提出了有針對性的防范對策。

關鍵詞：網絡安全;人工智能;深度偽造;網絡可信身份管理

中圖分類號： TP399 ? ? ? ? ?文獻標識碼：A

1 引言

隨著人工智能技術的飛速發(fā)展，人們的社會生活變得更加豐富和便利，然而濫用人工智能技術危害社會穩(wěn)定的事件頻頻發(fā)生，深度偽造技術就是其中的典型代表之一。作為深度學習領域的一個分支，深度偽造技術近年來得到了創(chuàng)新發(fā)展，但同時也威脅著網絡空間的安全，尤其是給網絡可信身份管理帶來了諸多風險和挑戰(zhàn)。

2017年12月，網名為deepfakes的用戶在Reddit網站上發(fā)布了一段由歐美娛樂明星面孔合成的色情視頻，效果十分逼真，引發(fā)了社會巨大關注，“深度偽造”這一新興概念也正式走進了人們的視野。自此以后，利用深度偽造技術合成的假視頻，頻頻“登上熱搜”，給個人和社會帶來了諸多不良影響。

2019年8月30日，一款名為ZAO的智能換臉社交軟件在國內各大應用市場上線，該應用憑借以假亂真的“換臉”效果迅速吸引了大批用戶，其背后依賴的核心技術正是深度偽造。隨后，不少媒體和網友指出，該應用的用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風險等安全問題。9月3日，工信部與ZAO應用的相關負責人進行了約談，要求其開展自查整改，強化用戶個人隱私保護。

可以想象，隨著深度偽造技術的不斷進步，其所引發(fā)的安全威脅和信任危機將愈加嚴重，采取有效措施遏制深度偽造的濫用風險已經迫在眉睫。

2 深度偽造技術的原理和特點

2.1 深度偽造技術的原理

深度偽造是深度學習（Deep Learning）與偽造（Fake）的合成詞，其依賴的核心技術基礎是深度學習，具體包括生成式對抗網絡（Generative Adversarial Network，GAN）、卷積神經網絡（Convolutional Neural Network，CNN）、變分自編碼器（Variational AutoEncoders，VAE）等模型。深度偽造在近年來的興起主要得益于GAN模型的不斷精進，2018年提出的CycleGAN可用于在一段視頻中合成偽造的人臉圖像[3];2018年提出的PGGAN[4]和2019年提出的BigGAN[5]，可被用于合成高精度照片級別的圖像和視頻，使得人眼在有限時間內無法分辨。一個GAN包含生成器和鑒別器這兩個對抗性算法，生成器首先將一段隨機噪聲轉化為圖像，然后將合成的圖像和名人的真實圖像一同輸入到鑒別器中，鑒別器對合成圖像的真?zhèn)芜M行判斷，判斷為假時，會反饋給生成器一條線索，即下次合成時“不要做什么”。起初，隨機合成的圖像是完全不像人的面孔，但隨著兩個算法無數(shù)次重復上述過程，并獲得性能反饋，生成器和鑒別器的效果都會得到改善。這樣，經過了足夠的循環(huán)和博弈后，生成器將開始生成能夠以假亂真的面孔和視頻。

深度偽造技術起初專指基于深度學習算法的人體圖像合成技術。隨著技術的進步，深度偽造技術已經發(fā)展為包括視頻偽造、聲音偽造、文本偽造和面部表情合成等多維度音、視頻偽造技術。深度偽造技術不僅能實現(xiàn)換臉，更可以通過深度學習模擬真人聲音、創(chuàng)造出現(xiàn)實不存在的人物肖像。換言之，掌握了該技術的人，在理論上可以制作出任何一個人說任何話、做任何事的虛假音、視頻，以達到混淆視聽的目的。

2.2 深度偽造技術的特點

一是技術手段成型，使用成本低。深度偽造技術背后的核心技術支撐是深度學習算法，具有自動生成目標圖像的顯著特征。由于深度學習算法在人工智能領域發(fā)展迅速，其基礎算法和核心代碼已基本成型，且多數(shù)代碼都是開源的，使用成本低，完成軟件開發(fā)和制作后幾乎能以零成本進行擴散。

二是效果以假亂真，辨別難度大。隨著深度偽造技術的進步，偽造的效果不斷提升，幾乎達到了以假亂真的效果。起初，利用深度偽造技術生成的視頻還可以通過面部微表情、眨眼頻率等特征分辨出來，隨著相關算法的不斷優(yōu)化，偽造產品的逼真程度得到了提升，已經讓普通人甚至檢測算法難以辨別真假。

三是迎合大眾心理，傳播速度快?；谏疃葌卧旒夹g制作的偽造視頻、音頻等產品迎合了大眾的獵奇心理，很容易借助微信、微博等社交媒體的助力，在網絡上快速傳播。偽造的音、視頻越是搞怪、離奇、刺激，就越能引人注意，帶來的流量就越大，在網絡上就會傳播得越快，不良影響擴散的速度也越快。

3 深度偽造技術給網絡可信身份管理帶來的挑戰(zhàn)

3.1 沖擊生物識別體系，身份仿冒易如反掌

近年來，基于人體生物特征的身份認證技術發(fā)展迅速，其使用便捷、安全性高，在網絡可信身份的創(chuàng)建和管理中得到了廣泛應用。然而，深度偽造技術應用最為廣泛的領域正是人體生物特征的學習和偽造，現(xiàn)階段已經實現(xiàn)了人體聲音、面部、動作、表情等特征的高精度偽造，給生物識別身份認證體系帶來了巨大沖擊。以人臉識別為例，倘若惡意攻擊者利用深度偽造技術生成了超高精度的3D人臉數(shù)據(jù)模型，那么攻擊者就能輕易實現(xiàn)任何人的仿冒登錄，直接突破由人臉識別技術保護的任何終端和系統(tǒng)，從前端特征采集到后端匹配驗證都毫無安全性可言，整個身份認證體系將變得形同虛設。美國《財富》雜志在2019年12月的報道稱，美國人工智能公司Kneron使用深度偽造技術，成功地欺騙了支付寶和微信的支付程序，并且順利通過機場、火車站等自助終端的檢驗?？梢哉f，深度偽造技術給基于生物識別的身份認證體系帶來的威脅是致命的。

3.2 滋生網絡詐騙行為，造成重大經濟損失

深度偽造具有以假亂真的技術效應，明顯地增加了網絡主體現(xiàn)實身份鑒別的難度，為網絡釣魚、商務電子郵件攻擊等網絡詐騙行為滋生了土壤，造成國民財產損失。以商務電子郵件攻擊為例，攻擊者通常從某種網絡釣魚開始，以獲取對公司網絡的訪問權，然后偽裝成為公司的客戶或者高級管理人員，通過發(fā)送電子郵件的方式欺騙組織中的關鍵人員將資金連接到攻擊者控制的銀行賬戶。其中，電子郵件的內容往往是利用深度偽造技術生成的文本，其行文規(guī)則和專業(yè)用語與真實商務郵件十分相似，讓人難辨真假，這在一定程度上提高了詐騙的成功率，進而造成巨大的經濟損失。2019年，商務電子郵件攻擊在全球范圍內平均每月造成的損失高達3億美元，給企業(yè)發(fā)展和社會穩(wěn)定造成了極大危害。

3.3 輕易操縱網絡輿論，嚴重危害社會安全

深度偽造技術的成熟使得虛假信息能夠以逼真的形式傳達給普通民眾，進而輕易操縱網絡輿論，嚴重危害社會安全。在網絡世界，惡意謠言的殺傷力是巨大的，以印度為例，僅2018年，印度全國各地就有20多人因為在WhatsAPP上被謠傳綁架小孩或涉及其他罪案而被暴力打死。不可否認，深度偽造技術給虛假信息的傳播提供了土壤，使得不法分子能夠打著真實的幌子實施誣陷、煽動民意，輕則使被害人的名譽和財產蒙受損失，重則威脅到公民的生命安全。

3.4 網絡身份真假難辨，動搖網絡可信根基

網絡空間本身就是虛擬的，深度偽造技術的惡意使用會進一步模糊網絡空間中真實身份與偽造身份之間的界限，打破了網絡用戶之間的信任基礎，使大家互相懷疑，從而徹底動搖網絡可信身份管理的根基，進而可能造成整個網絡空間的信任危機。設想一下，假如所有網絡實體的真實身份都無法分辨，整個網絡空間可能就會陷入到一場真相與假象之間模糊不清的混亂局面之中，網上交易、社交、信用體系等都會受到嚴重沖擊，網絡空間的安全性也就無從談起。

4 應對深度偽造技術的幾點建議

4.1 重視立法與監(jiān)管，規(guī)范市場行為

對于深度偽造帶來的威脅，應當秉持積極應對、嚴格監(jiān)管的態(tài)度。國產智能換臉軟件ZAO應用從一夜爆紅到熱度褪去、檢查整改，靠的就是監(jiān)管的力量。隨著深度偽造技術的不斷升級，網絡可信身份管理面臨的安全風險日益嚴重，必須盡快進行前瞻布局，推進立法與監(jiān)管進程，進一步規(guī)范市場行為，有效地應對深度偽造技術的潛在風險。要重點做好三個方面的工作：一是要明確深度偽造產品生產主體的法律責任，對違法行為予以懲戒;二是要強化傳播媒介的法律和社會責任，有效阻止惡意偽造產品的擴散;三是要建立完善的危機應對機制，避免不良影響的擴大化。

4.2 與時俱進，研究深度偽造檢測技術

在深度偽造技術日益成熟的今天，信息真實性檢測的重要性不言而喻。為了對抗深度偽造技術帶來的不良影響，近年來，相關學者已經利用循環(huán)神經網絡[11]（Recurrent Neural Networks，RNN）、成對學習[12]（Pairwise Learning）等人工智能領域的相關技術在深度偽造的檢測和鑒別方面取得了不錯的效果，但隨著深度偽造技術的不斷發(fā)展演進，深度偽造的檢測難度越來越大。因此，必須加大對高效智能檢測技術的研發(fā)投入和支持力度，緊跟最新技術成果，研究與時俱進的深度偽造檢測技術，并應用到人臉識別等網絡可信身份服務場景，在實踐中檢驗、檢測效果，實現(xiàn)迭代發(fā)展，以應對深度偽造技術的發(fā)展與進化。

4.3 大力發(fā)展區(qū)塊鏈等基于密碼技術的網絡可信身份管理技術

深度偽造給生物識別技術的安全性帶來了巨大沖擊，然而其核心原理決定了它無法動搖基于密碼技術構建的身份認證體系。以區(qū)塊鏈技術為例，它在實現(xiàn)過程中使用了雜湊算法、電子簽名等密碼技術，具有去中心化、高度可信和強安全性等特點，有效保證了用戶身份信息和網絡行為的真實性和不可篡改性，能夠在數(shù)據(jù)資產的真實性和原始性保護方面發(fā)揮重要作用。具體來說，無需權限的區(qū)塊鏈（Permissionless Blockchain）就十分適用于深度偽造的防范和檢測。在無需權限的區(qū)塊鏈中，防篡改記錄、日志和傳播等行為對所有人都是公開的，任何人都可以進行實時訪問，這就使得偽造的數(shù)據(jù)和行為無處遁形。HAYA R. HASAN等人[13]利用區(qū)塊鏈技術提出了一種對網絡音視頻進行追蹤溯源的通用解決方案，可有效驗證數(shù)據(jù)資產的真實性。因此，必須高度重視并充分利用基于密碼技術的身份認證技術，研究反偽造策略，推動區(qū)塊鏈等新興產業(yè)發(fā)展，從根源上抵御深度偽造技術給網絡可信身份管理帶來的威脅。

4.4 以用戶為中心，加強個人隱私保護

深度學習的一大特性就是，提供的樣本數(shù)據(jù)越多，對目標對象的模擬就會越準確，偽造出來的偽造視頻和音頻等產品就會顯得越逼真。目前，流傳在網上的偽造視頻主要是關于明星、政客等公眾人物，就是因為他們的照片和視頻在網上可以輕易獲取，用作偽造視頻的原材料。因此，必須重視對公民個人隱私數(shù)據(jù)和敏感信息的安全保障，采納嚴格的安全技術標準，出臺相關的法律法規(guī)和標準規(guī)范，對用戶隱私信息收集、使用以及泄露應當承擔的法律責任等內容予以明確和規(guī)范，以確保網絡可信身份管理工作健康運行。

5 結束語

隨著人工智能技術的快速發(fā)展，基于深度學習的深度偽造技術在近幾年迅速興起，在教育、文化、娛樂等領域展現(xiàn)了積極的價值。然而，在豐富人們文化娛樂生活的同時，深度偽造被惡意使用的風險也逐漸顯現(xiàn)，尤其給網絡可信身份管理帶來了諸多挑戰(zhàn)。本文介紹了深度偽造技術的原理和特點，并對其給網絡可信身份管理帶來的風險和挑戰(zhàn)進行了分析，最后提出了相應的防范對策。

參考文獻

[1] Charlotte ?Stanton.How ?Should ?Countries Tackle Deepfake.Carnegie Endowment for International Peace.s[EB/OL]. https：//carnegieendowment.org/2019/01/28/how-should-countries-tackle-deepfakes-pub-78221.

[2] Gangeshwar Krishnamurthy，et al. A Deep Learning Approach for Multimodal Deception Detection[J].arXiv，2018，03（44）：5-6.

[3] Henry N， Powell A， Flynn A. AI can now create fake porn， making revenge porn even more complicated[J]. The Conversation， 2018， 28.

[4] Karras T， Aila T， Laine S， et al. Progressive growing of gans for improved quality， stability， and variation[J].arXiv preprint arXiv：1710.10196， 2017.

[5] Brock A， Donahue J， Simonyan K. Large scale gan training for high fidelity natural image synthesis[J].arXiv preprint arXiv：1809.11096， 2018.

[6] Robert Chesney， Danielle Keats Citron. Deep Fakes： ?A ?Looming ?Challenge ?for ?Privacy， Democracy， and National Security[EB/OL]. （2018-8- 23）. https：//papers.ssrn.com/sol3/papers.cfm？abstract_id=3213954.

[7] Greg Allen， Taniel Chan. Artificial Intelligence and National Security [EB/OL]. （2017-7）. https：//www.belfercenter.org/publication/artificial-intelligence-and-national-security.

[8] Yaohua Liang， Yanmei Fang， Shangjun Luo. Image Resampling Detection Based on Convolutional Neural Network[R]. Proc. of15th International Conference on Computational Intelligence and Security （CIS），Macao，2019.

[9] Hayley Tsukayama， India Mckinney， Jamie Williams. Congress Should Not Rush to Regulate Deepfakes [EB/OL]. （2019-6-24）. https：//www： eff.org/deeplinks/2019/06/congress-should-not-rush-regulate-deepfakes.

[10] 龍坤，馬鉞，朱啟超. 深度偽造對國家安全的挑戰(zhàn)及應對[J]. 信息安全與通信保密，2019（10）：21-34.

[11] Güera D， Delp E J. Deepfake video detection using recurrent neural networks[C]. 2018 15th IEEE International Conference on Advanced Video and Signal Based Surveillance （AVSS）. IEEE， 2018： 1-6.

[12] Hsu C C， Zhuang Y X， Lee C Y. Deep fake image detection based on pairwise learning[J]. Applied Sciences， 2020， 10（1）： 370.

[13] Hasan H R， Salah K. Combating deepfake videos using blockchain and smart contracts[J]. Ieee Access， 2019， 7： 41596-41606.