網(wǎng)絡空間“深度偽造”的威脅及治理

摘? ?要：深度偽造威脅具有脫實向虛的特點，但是治理又具有由虛向?qū)嵉奶攸c，若治理稍有不當，其危害難以估量。文章從深度偽造的主體和場景進行了深度偽造的威脅分析，結(jié)合網(wǎng)絡空間特性，文章從深度偽造的威脅流程、生態(tài)等視角，探討了深度偽造的治理路徑，并基于深度偽造研究的現(xiàn)狀，提出了治理的原則和治理策略。

關鍵詞：深度偽造;治理框架;治理策略;網(wǎng)絡空間

中圖分類號： TP274+.2? ? ? ? ? 文獻標識碼：B

Abstract： The threat of deepfake has the characteristics of deviating from reality to reality， and its governance must be from reality to reality. The governance is slightly improper and the harm is difficult to estimate. The threat analysis of deepfake was carried out from the subject and scene of deepfake. Based on the characteristics of cyberspace， the governance path of deepfake was explored from the perspective of the threat process and ecology of deepfake. Principles and governance strategies.

Key words： deepfake; governance framework; governance strategy; cyberspace

1 引言

深度偽造是“深度學習”和“偽造”的結(jié)合，是數(shù)字化處理、從未真正發(fā)生的超現(xiàn)實信息，這些信息內(nèi)容可以是文字、圖片及音視頻等。由于深度偽造利用深度學習算法，實現(xiàn)對現(xiàn)實世界的高度模擬和偽造，極具“規(guī)模性”和“欺詐性”，對網(wǎng)絡空間安全和數(shù)據(jù)污染治理帶來了嚴重挑戰(zhàn)。深度偽造起始于2017年Reddit用戶發(fā)布的Deepfake視頻[1]。因這些視頻涉及娛樂和公眾難以分辨真假的明星私生活，在社交媒體上迅速傳播，隨后深度偽造在各個社交媒體、新聞[2]等行業(yè)發(fā)展迅速。深度偽造可以干預選舉、顛覆他國政權，威脅國家安全;煽動操縱社會輿論，威脅社會安全;操作股票金融、實施詐騙，威脅金融安全;盜用公民個人信息，威脅公民個人信息安全，污染網(wǎng)絡空間威脅數(shù)據(jù)污染治理等[3～7]。深度偽造已成為人工智能時代不可回避的網(wǎng)絡空間安全問題。

當前，世界各國已經(jīng)開始研究防御深度偽造威脅的對策。美國是深度偽造的先行地，無論是社交媒體、新聞、還是民主政治，美國都最先觸及了深度偽造的威脅。歸納起來，美國對策主要集中在技術和立法層面。在技術層面，主張通過自動檢測技術（如基于深度學習的自動檢測）或新技術（如基于區(qū)塊鏈的驗證系統(tǒng)）的方法檢測、防御深度偽造[5，8，9]。其中，最有成效和代表性的是加州大學河濱分校研究人員提出的一種基于神經(jīng)網(wǎng)絡的混合LSTM和編解碼網(wǎng)絡的自動檢測算法[10]，該算法由遞歸神經(jīng)網(wǎng)絡和編碼過濾器兩部分組成。遞歸神經(jīng)網(wǎng)絡是將深度偽造圖像分成小塊去找偽造痕跡，編碼過濾器能夠使算法在更大、更全面的層次上考慮整個圖像的情況。該算法稱其準確率在71%～95%之間。同時，美國國防高級研究計劃局（DARPA）于2018年6月先后啟動了“媒體取證”和“語義取證”項目[11]，分別從媒體傳播路徑溯源和真?zhèn)涡畔⒉町悓Ρ戎凶詣诱鐒e信息的真?zhèn)巍?/p>

在立法層面，美國試圖以加強立法來應對深度偽造的威脅，截止2019年年底，美國已公布了《禁止惡意深度偽造法案》《2019年深度偽造責任法案》《2019年深度偽造報告法案》和《德克薩斯州關于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》等法案。這些法案意圖從根源上阻止深度偽造技術的不當利用。2019年5月，我國中央網(wǎng)信辦發(fā)布了《數(shù)據(jù)安全管理辦法（征求意見稿）》，其中規(guī)定對網(wǎng)絡運營者利用大數(shù)據(jù)、人工智能等技術自動合成新聞、博文、帖子、評論等信息，應以明顯方式標明“合成”字樣，不得以謀取利益或損害他人利益為目的自動合成信息。2019年11月，中央網(wǎng)信辦聯(lián)合文化和旅游部、國家廣播電視總局印發(fā)了《網(wǎng)絡音視頻信息服務管理規(guī)定》，要求應明確標識由深度學習、虛擬現(xiàn)實等新技術生成的音視頻，不得利用相關技術制作、發(fā)布、傳播虛假信息，并建立健全辟謠機制，標志著我國相關決策者已經(jīng)意識到深度造假的威脅，并采取措施積極應對。

由于網(wǎng)絡空間的特殊性和網(wǎng)絡武器的重要性，以美國為首的國家尤其重視深度偽造所帶來的安全問題。與此同時，美國還成立了一個專家小組，主要針對其它國家如何利用人工智能、量子計算等新興技術的科技霸權，打造網(wǎng)絡攻擊的武器[12]。美國布魯金斯學會發(fā)布報告指出，未來十年內(nèi)將出現(xiàn)自動檢測技術無法檢測的“深度造假霸權”。這表明對于深度偽造威脅沒有100%的準確檢測技術，其面臨的挑戰(zhàn)不容忽視。美國主導的一貫思維是要始終保持科技領域和軍事領域的霸權，對其他任何國家的科技超越和軍事超越，均不可容忍是不爭的事實。對深度偽造給其自身所帶來的政治、民主安全帶來了嚴重的挑戰(zhàn)，無論是在國家層面、社會經(jīng)濟層面，還是公民個人信息保護層面，美國會加大自身防護，同時也加大對其他國家威脅的輸出。毋庸置疑，網(wǎng)絡空間會成為各種利益主要的博弈場，而深度偽造將會是其中博弈的主要工具之一。而應對網(wǎng)絡空間中深度偽造這種新的利益博取工具威脅，我國還處于起步階段，相關研究成果比較少，當前最具代表性的是國內(nèi)學者龍坤、曹建峰等，他們分別從國家安全和法律角度對深度偽造進行論述并提出了應對之策[13，14]。本文綜合當前國內(nèi)外深度偽造的治理現(xiàn)狀，試圖對網(wǎng)絡空間安全中的深度偽造治理問題進行系統(tǒng)闡述，以供實踐參考。

2 深度偽造的威脅分析

深度偽造是基于深度學習的技術，其本身不存在威脅。只是在現(xiàn)實社會中基于各種利益的考量和爭奪，被人們惡意使用，從而造成威脅。根據(jù)深度偽造惡意使用的發(fā)出點和利益點的不同，深度偽造的使用主體也不同。同時，不同深度偽造的使用主體、威脅場景所帶來的威脅影響程度也不同。

2.1 使用主體

深度偽造發(fā)生在網(wǎng)絡空間，依賴網(wǎng)絡空間而生成和發(fā)展。從深度偽造的使用主體分析，大致可以分為六類：

（1）Deepfake愛好者，不以混淆視聽、不當使用為目地，純屬個人業(yè)余愛好的使用者;

（2）Deepfake工具使用者，如攝影、影視、廣告、宣傳、娛樂等合法從業(yè)者;

（3）參與政治的使用主體，如對敵國實施網(wǎng)絡暴力、顛覆、政治的煽動者，制造網(wǎng)絡恐怖以及國與國之間的各種敵對、間諜活動等，具有“政治意圖”的使用者;

（4）企業(yè)或組織等市場主體使用者，如不當商業(yè)競爭、虛假的廣告宣傳、假新聞制造等的使用者;

（5）其他惡意使用者，如欺詐、挑起輿論、謀取非法利益等的使用者;

（6）人工智能、深度學習算法等的研究者。

2.2 應用場景

深度偽造是利用深度學習技術對影視明星作品進行娛樂化偽造，引起的明星效應而開始受到重視。其實，在這之前偽造已經(jīng)運用的非常普遍，如攝影行業(yè)的PS修圖軟件、美顏相機、短視頻等軟件，由于大多限于正當合法用途，而廣為社會所接受。隨著網(wǎng)絡空間的發(fā)展、深度學習的廣泛應用，人與人、人與社會的逐漸網(wǎng)絡化、空間多維化，深度偽造成為人類社會中新的利益搏擊場。各種應用場景層出，威脅造成的影響也日漸擴大，從深度偽造使用最常見的場景分析，深度偽造典型的應用場景有七類：

（1）傳統(tǒng)場景。如攝影、影視、廣告、VR、娛樂等合法、正當使用場景;

（2）新聞媒體場景。制造深度偽造的新聞媒體，從而達到獲取非法利益的目的。如制造不在第一現(xiàn)場無法獲取真相的虛假新聞或?qū)地發(fā)生的具有共性的新聞，真假摻半的用于B地的新聞，進行虛假宣傳等場景;

（3）政治參與場景。如政治煽動、政權顛覆、國家黑客攻擊、網(wǎng)絡恐怖主義和外國網(wǎng)絡間諜等，具有政治意圖的應用場景;

（4）社會金融場景。利用深度偽造進行金融、股票交易，以及其他各種市場交易的社會金融場景;

（5）市場商業(yè)場景。利用深度偽造制作虛假資質(zhì)、證書、信息資料或侵權產(chǎn)品等，參與市場商業(yè)的場景;

（6）網(wǎng)絡社交場景。根據(jù)他人或其他信息，利用深度偽造制作實際不存在的、逼真的社交人信息進行偽裝參與網(wǎng)絡社交的場景;

（7）創(chuàng)作場景。利用深度偽造技術進行的偽科研、學術、論文、著作、藝術等創(chuàng)作場景。

2.3 威脅分析

從深度偽造的使用主體和場景來看，不同的主體有不同的應用場景，產(chǎn)生不同的威脅影響。

Deepfake愛好者、Deepfake工具使用者以及人工智能、深度學習算法等研究者主要集中在傳統(tǒng)場景中，他們不以使用深度偽造獲取非法利益為目的，是無威脅的。

企業(yè)或組織等市場主體使用者以及其他惡意使用者，主要集中在新聞媒體、網(wǎng)絡社交、社會金融、市場商業(yè)和創(chuàng)作等場景中，他們有明確、非法的市場利益訴求，集中在某些領域或行業(yè)，可以給他人、市場、經(jīng)濟和社會等帶來惡劣影響。如企業(yè)或組織等市場主體使用者，可以在新聞媒體場景中，制造真假難辨的新聞，進行虛假宣傳，破壞政治、引起恐慌和騷亂;在社會金融場景和市場商業(yè)場景中，可以利用深度偽造的假音頻在電話上冒充任何金融相關人，進行金融詐騙。特別是深度偽造在視頻通話中也可以被實時偽造，這會對現(xiàn)有的互聯(lián)網(wǎng)金融認證體系帶來巨大的安全挑戰(zhàn);此外，還可以在創(chuàng)作場景中，利用深度偽造制造偽學術、偽科研、偽論文、偽著作等，這將會對現(xiàn)有的科研學術評價體系帶來嚴重沖擊，同時信息、數(shù)據(jù)污染也將變得更加嚴重。

參與政治的使用主體主要集中在參與政治場景和新聞媒體場景中，他們有明確的政治意圖，具有比企業(yè)、組織等實體更強的隊伍和力量，可進行規(guī)模化、持續(xù)性的深度偽造，是當前深度偽造威脅中最大的一種威脅。特別是在當下的網(wǎng)絡空間中，深造偽造可以當作網(wǎng)絡空間的武器，用來干擾選舉并引發(fā)內(nèi)亂。利用深度偽造進行政治煽動、政權顛覆、民主破壞、國家黑客攻擊、網(wǎng)絡恐怖主義等活動，來破壞特定國家的安全穩(wěn)定。

綜合威脅分析，深度偽造的威脅可以分為三類：無威脅、局部威脅、國家威脅。如表1所示。這些威脅的分類隨深度偽造的使用主體和使用場景變化而變化。無威脅可轉(zhuǎn)換為局部威脅，局部威脅可轉(zhuǎn)換為國家威脅，反之國家威脅也可以潛伏做些局部威脅或無威脅的深度偽造。這對深度偽造威脅的治理來說，是巨大挑戰(zhàn)。

3 深度偽造治理

深度偽造的威脅在網(wǎng)絡空間中無處不在，因其適用的主體和場景眾多，其本身從現(xiàn)實高度“偽造”，又超越“現(xiàn)實”，極具“欺詐性”和“高風險性”，其治理必定面臨復雜多變，而又迫在眉睫的形勢。

3.1 治理原則

網(wǎng)絡空間是跨地域、世界互聯(lián)的虛擬空間。發(fā)明網(wǎng)絡的初衷就是為了信息共享和提高效率，是人類走向“高效協(xié)同”的標志，給社會生產(chǎn)帶來了巨大的生產(chǎn)力。網(wǎng)絡已經(jīng)成為人類社會的重要基礎設施。但由網(wǎng)絡構(gòu)筑的網(wǎng)絡空間不同于現(xiàn)實物理空間，沒有物理空間的界線，網(wǎng)絡空間中的“網(wǎng)民”沒有物理地域活動空間的限制，信息傳播基本“零延時”。

深度偽造要構(gòu)成威脅，必須借助網(wǎng)絡，深度偽造的威脅離不開網(wǎng)絡空間。深度偽造借助網(wǎng)絡空間的“無界性”和“零延時”特性，可迅速傳播，從而發(fā)生作用，產(chǎn)生影響。這就決定了在網(wǎng)絡空間中深度偽造的治理問題，不同于物理空間的治理，其治理結(jié)構(gòu)必須全面、有效、迅速響應、脫“虛”向“實”的化解威脅。這就決定了深度偽造治理時，必須注重三個原則：

（2）劃定界線、明確權責、打造共治共享的網(wǎng)絡空間環(huán)境

深度偽造威脅的不可預估性、角色和主體復雜性，單靠政府單方面治理，力量薄弱。加之深度偽造的高度逼真性、廣泛的連接性和易于傳播等特點，其甄別離不開現(xiàn)實的“真實性”，即深度偽造最怕“真像”，而“真像”是政府無法面面俱到的第一時間獲得。加大公眾對深度偽造的認識能力、甄別能力、防御能力和網(wǎng)絡空間權益保障能力的培訓、宣傳，打造共治共享的網(wǎng)絡空間環(huán)境。特別注重對跨行業(yè)、跨部門、跨階層的深度偽造防御，打造無縫對接的共治共享。管理上，實現(xiàn)共同參與、深度參與的深度偽造精細化治理;技術上，開辟深度偽造防御自動化監(jiān)測新技術、新模式。深度偽造的治理和防范，要更多的集中于敵對國家層面來考慮，特別是對域外國家，開展國際合作的共治共享，要著力打造網(wǎng)絡空間無法外之地，共同打擊深度偽造威脅。

深度偽造所涉及的網(wǎng)絡空間主體角色有：制造者、發(fā)布平臺、“網(wǎng)民”、監(jiān)管者。這些主體角色在物理空間呈現(xiàn)的主體一般是個人、企業(yè)實體、組織和各級政府。深度偽造主體角色和物理主體關系復雜，呈多對多特點。深度偽造制造者的物理主體可能是個人、企業(yè)實體、組織，也可能是各級政府;深度偽造發(fā)布平臺的物理主體可能是個人、企業(yè)實體、組織、各級政府等實體搭建的;“網(wǎng)民”的物理主體是網(wǎng)絡空間中主體的總和;深度偽造監(jiān)管者的物理主體一般只可能是各級組織或各級政府。反之，個人即可以是深度偽造的制造者、發(fā)布平臺的搭建者、“網(wǎng)民”，也可能是深度偽造的監(jiān)管者。企業(yè)實體、組織和各級政府也可能是深度偽造的制造者、發(fā)布平臺的搭建者和“網(wǎng)民”。

這種復雜關系，決定了在深度偽造治理中劃定權責、界線的必要性和關鍵所在。對個人、企業(yè)實體、組織、各級政府共同的界線是堅守深度偽造使用的合法性和深度偽造義務的防御性。從深度偽造主體角色的網(wǎng)絡空間行為界線和深度偽造主體的網(wǎng)絡空間行為界線，分別明確相應的權責和約束，特別是明確好監(jiān)管者的權責，讓網(wǎng)絡空間安全共享、自由、平等而又可控，并建立各級深度偽造事件的應對協(xié)調(diào)機制，既要分而治之，又要統(tǒng)籌協(xié)調(diào)。

其次，深度偽造更大的威脅是來自域外國家、企業(yè)實體或組織、公民的惡意使用，因此劃定域外國家、企業(yè)實體或組織、公民的網(wǎng)絡空間行為界線，明確權責，需要專門組建應對域外深度偽造威脅的體制。

（3）加強深度偽造檢測技術扶持和立項支持，建立防御責任制

鼓勵科研院所、人工智能及區(qū)塊鏈技術企業(yè)成立聯(lián)合公關小組，提升開發(fā)檢測軟件，改善區(qū)分偽造和真實信息的技術能力。首先使國內(nèi)企業(yè)化深度偽造的檢測準確度，達到國際領先水平的71%～95%。同時，國家及各地地方相關職能部門聯(lián)合科研院所、企業(yè)及個人搭建深度偽造競技平臺，開展深度偽造生成及檢測技術攻防競賽，提升深度偽造檢測、防御能力，選拔、儲備深度偽造技術管理的網(wǎng)絡空間人才。

鼓勵各級國家安全、網(wǎng)絡安全、公安、維穩(wěn)、輿情及廣電媒體等可能與深度偽造威脅相關的職能部門，開展各自領域的深度偽造檢測、防御等項目的立項工作，保障經(jīng)濟、社會、政權和國家安全。網(wǎng)信部門統(tǒng)領，加強現(xiàn)有各企事業(yè)機關單位的互聯(lián)網(wǎng)信息網(wǎng)絡平臺的深度偽造治理，建立各信息網(wǎng)絡平臺的深度偽造檢測、預防、排查和管理工作機制，并建立防御深度偽造工作責任制和責任清單，確保網(wǎng)絡空間安全和清爽的網(wǎng)絡空間環(huán)境。

4 結(jié)束語

深度偽造的威脅表面上看是由人主導的人與機器的一場戰(zhàn)爭，其本質(zhì)仍是人與人的較量，威脅不可小覷，它給美國為首的西方國家?guī)砹苏慰植馈，F(xiàn)階段對于深度偽造治理，單靠技術是無能為力的，這將是未來網(wǎng)絡空間安全中需要持續(xù)治理的工作。同時，深度偽造所帶來的數(shù)據(jù)污染問題也將迫在眉睫，特別是它所涉及到的在文化、藝術、學術等方面的造假治理將是頑疾。本文論述了深度偽造的威脅、治理原則和治理策略，分析了深度偽造的主體角色、威脅流程及生態(tài)治理，并從這些方面入手，以技術層面，加配套管理層面規(guī)約，從整體宏觀層面對深度偽造治理問題給予了分析，供深度偽造治理實踐和治理布局參考。

參考文獻

[1] MikaWesterlund. The Emergence of Deepfake Technology： A Review[J].Technology Innovatin Management Review，vol.9，no.11，pp.39-49，Nov.2019.

[2] Aldwairi，M.and Alwahedi. Detecting Fake News in Social Media Networks[J]. Procedia Computer Science.Vol.141， pp.215-222. 2018.

[3] Chesney， Robert and Citron， Danielle Keats. Deep Fakes： A Looming Challenge for Privacy， Democracy， and National Security （July 14， 2018）[R]. 107 California Law Review 1753 （2019）; U of Texas Law， Public Law Research Paper No. 692; U of Maryland Legal Studies Research Paper No. 2018-21. Available at SSRN： https：//ssrn.com/abstract=3213954.

[4] J.Johnson. The AI-cyber nexus： implications for military escalation， deterrence and strategic stability[J]. Journal of Cyber Policy，pp.442-460，Dec.2019.

[5] Kevin M. Peters. 21ST CENTURY CRIME： HOW MALICIOUS ARTIFICIAL INTELLIGENCE WILL IMPACT HOMELAND SECURITY[D].AVAL POSTGRADUATE SCHOOL，MONTEREY，2019.

[6] H.Lin. The existential threat from cyber-enabled information warfare[J]. Bulletin of the Atomic Scientists. pp.187-196，Jun.2019.

[7] M.Albahar， J.Almalki. DEEPFAKES： THREATS AND COUNTERMEASURES SYSTEMATIC REVIEW[J]. Journal of Theoretical and Applied Information Technology. Vol.97. No 22.pp：3242-3250.

[8] Gardiner.Facial re-enactment， speech synthesis and the rise of the Deepfake[P/OL]. https：//ro.ecu.edu.au/theses_hons/1530， Nov.2019.

[9] P.Korshunov and S.Marcel. Vulnerability assessment and detection of Deepfake videos[C]. IAPR International Conference on Biometrics， 2019.

[10] Y.Wu， W.A.A， and P.Natarajan. ManTra-Net： Manipulation Tracing Network For Detection And Localization of Image Forgeries With Anomalous Features[C]. The IEEE Conference on Computer Vision and Pattern Recognition （CVPR）， pp. 9543-9552， 2019.

[11] Kelley M. Sayler and Laurie A. Harris. Deep Fakes and National Security[R]. Congressinal Research Service.Oct.2019

[12] Katyanna Quach. Deepfakes， quantum computing cracking codes， ransomware... Find out what's really freaking out Uncle Sam[EB/OL].Oct.2019. https：//www.theregister.co.uk/2019/10/23/homeland_security_ai/

[13] 龍坤，馬鉞，朱啟超.深度偽造對國家安全的挑戰(zhàn)及應對[J].信息安全與通信保密，2019（10）：21-34.

[14] 曹建峰.深度偽造技術的法律挑戰(zhàn)及應對[J].信息安全與通信保密，2019（10）：35-40.

[15] 齊云菲，白利芳，唐剛，朱信銘.網(wǎng)絡空間測繪概念理解與分析[J].網(wǎng)絡空間安全，2018，9（10）：45-49.

[16] 高春東，郭啟全，江東，王振波，方創(chuàng)琳，郝蒙蒙.網(wǎng)絡空間地理學的理論基礎與技術路徑[J].地理學報， 2019，74（09）：1709-1722.

作者簡介：

張樺（1985-），男，漢族，湖北巴東人，廣東工業(yè)大學，碩士，中共廣州市委黨校，高級信息系統(tǒng)項目管理師;主要研究方向和關注領域：新一代信息技術、網(wǎng)絡空間安全。

（本文為“2020年429首都網(wǎng)絡安全日”活動征文）