深度偽造技術(shù)應(yīng)用的公共安全挑戰(zhàn)與治理

姜文瀚 田青 郭小波 公安部第一研究所

引言

近年來，深度偽造技術(shù)及其負(fù)面應(yīng)用受到國內(nèi)外廣泛關(guān)注。源起于人臉照片活化欺詐，到音視頻生動仿冒，再到新聞書畫自動生成等，極大地沖擊了現(xiàn)實社會認(rèn)知文明模式和網(wǎng)絡(luò)空間管理秩序。其挑戰(zhàn)深刻影響著政治、經(jīng)濟、軍事、文化、教育、社交等各領(lǐng)域。世界各國為此先后掀起了規(guī)范治理浪潮。

（一）深度偽造概念淵源

深度偽造系英文“Deeplearning”與“Fake”的截取合成詞，狹義概念專指利用深度學(xué)習(xí)技術(shù)實現(xiàn)一類照片、音視頻信息，如人臉、語音、指紋、虹膜、筆跡、文件等，的非法偽造應(yīng)用；廣義而言，系指信息表征或行為的編輯再現(xiàn)。某種意義上的數(shù)字創(chuàng)生，一切皆有可能。本文重點立足狹義概念，探討相關(guān)安全問題。

偽造技術(shù)自古有之，但從未造成如此深刻、廣泛的社會應(yīng)用危機。從前的偽造貨幣、證件、印鑒、指紋、筆跡，以及3D面具、PS、虛擬現(xiàn)實等等，受限于專業(yè)門檻高、技術(shù)成本高、應(yīng)用范圍小、易于查證等因素，而為現(xiàn)有社會監(jiān)管能力、治理體系所覆蓋。

深度偽造是近五年得益于AI技術(shù)發(fā)展的后起之秀。短時間內(nèi)產(chǎn)生出身份盜冒、電子欺詐、輿論操控、音像篡改等多種違法犯罪形式，兼具技術(shù)門檻低、違法成本低、隱蔽性強、傳播快、影響廣、難于查證的特點，給國家安全、社會治理和經(jīng)濟發(fā)展帶來了新的風(fēng)險。

（二）深度偽造安全風(fēng)險

深度偽造的安全風(fēng)險主要來自于針對人和設(shè)備的虛假信息欺詐，總體體現(xiàn)為形象損毀、資產(chǎn)和權(quán)益損失、認(rèn)知誤導(dǎo)、信用危機、意識操控，可以具象為個體和群體兩個層次、物質(zhì)和精神兩個維度的風(fēng)險危害，見表1。

?

（1）侵害公民合法權(quán)益。通過“移花接木”，造謠惡搞或是“借雞生蛋”等形式行為，嚴(yán)重侵害公民名譽權(quán)和肖像權(quán)；通過虛假情境編撰，嚴(yán)重?fù)p害個人知情權(quán)，扭曲世界觀、人生觀、價值觀。

（2）威脅公共安全。通過仿冒合法身份，盜用公民財產(chǎn)或?qū)嵤╇娦旁p騙，突破出入境等場景安全管控等。通過企業(yè)重要資訊偽造，引發(fā)信用危機，造成銀行擠兌、股票價格異常波動。

（3）危害國家安全。利用社交網(wǎng)絡(luò)、自媒體平臺炮制、傳播虛假新聞，損害公眾人物形象，或操縱輿論，干擾選舉，助推經(jīng)濟、政治風(fēng)波，破壞政府公信力，挑撥國際關(guān)系，威脅軍情感知。

（4）顛覆意識形態(tài)、動搖文化根基。通過信息繭房、回音壁效應(yīng)，傳播、灌輸虛假資訊，激化內(nèi)部矛盾，瓦解民族自信、破壞文化認(rèn)同。

深度偽造風(fēng)險成因的直接表象為應(yīng)用超前、技術(shù)普及和自我進(jìn)化，以及監(jiān)管能力滯后，根源在于治理缺位。近五年來，人類社會的網(wǎng)絡(luò)空間虛擬維度正逐步成形，而服從服務(wù)于物理世界的制度、法規(guī)、道德、監(jiān)管、運行、保障體系尚未建立。缺乏安全機制約束的虛擬、現(xiàn)實世界交互應(yīng)用，跨界治理和安全技術(shù)薄弱，本源性辨識以及追溯能力不足，共同促成了深偽問題空間。

一、深度偽造風(fēng)險挑戰(zhàn)

防范化解深度偽造安全風(fēng)險所面臨的挑戰(zhàn)是深層次、多方面的。技術(shù)上存在不可控環(huán)境應(yīng)用、偽造信息鑒別難、取證難、追溯難的問題；應(yīng)用上存在濫用、限制難、防范難問題；管理上存在管控難、檢測、監(jiān)測、打擊、保障難題。

（一）技術(shù)挑戰(zhàn)

（1）不可控環(huán)境應(yīng)用。當(dāng)前多數(shù)AI身份驗證應(yīng)用于不可信軟硬件環(huán)境。深度偽造利用學(xué)習(xí)框架、依賴庫、算法模型，以及其他信息安全漏洞實現(xiàn)注入攻擊。

（2）偽造信息鑒別難。現(xiàn)有偽造信息已經(jīng)可以做到“以假亂真”（如圖1）、人機皆騙，且技術(shù)能力不斷進(jìn)化，而偽造檢測能力相對滯后，技術(shù)方法在多模態(tài)、魯棒性、泛化性上有待不斷跟進(jìn)提高。

（3）偽造信息取證難。面對隱蔽、多樣的偽造技術(shù)手法，檢測、鑒定技術(shù)多依托深度學(xué)習(xí)能力。后者目前的可解釋性理論還有待突破。

（4）偽造來源追溯難。關(guān)于深度偽造信息的監(jiān)管體系尚未建立，技術(shù)溯源、信息溯源的技術(shù)能力和機制還需進(jìn)一步完善。

（二）應(yīng)用挑戰(zhàn)

（1）無人值守、無風(fēng)控約束的失控濫用，為偽造信息實現(xiàn)呈現(xiàn)攻擊、數(shù)據(jù)投毒和對抗實施提供了條件。

（2）深度偽造應(yīng)用廣泛，技術(shù)來源豐富，難于限制使用。

（3）深度偽造應(yīng)用超前，而企業(yè)進(jìn)行有效防范的軟硬件資源和技術(shù)能力不足。

（三）管理挑戰(zhàn)

（1）管控難?；ヂ?lián)網(wǎng)社交網(wǎng)絡(luò)、自媒體信息渠道多、來源廣，偽造信息多、工具多、用途多、傳播速度快。實施有效控制、管理、應(yīng)急處置，工程巨大。

（2）檢測難。需明確規(guī)制法律邊界，相關(guān)技術(shù)標(biāo)準(zhǔn)有待完善。另外，偽造信息數(shù)量巨大，對于規(guī)?；詣予b偽技術(shù)能力是一個長期且艱巨的考驗。檢測工具的評價和管理體制也有待建立。

（3）監(jiān)測預(yù)警難。跟蹤偽造技術(shù)發(fā)展，洞察偽造信息傳播，發(fā)展監(jiān)測預(yù)警、阻斷應(yīng)對能力是重要的管理課題。尤其對于“0 day”虛假信息，需要盡可能地早發(fā)現(xiàn)、早處理。

（4）打擊難。造假損失小、影響大、隱蔽性強，另一方面?zhèn)污E難于發(fā)現(xiàn)、取證、溯源。涉及黑灰產(chǎn)業(yè)鏈，甚至國內(nèi)外惡意勢力。有效打擊成為了遏制深度偽造的關(guān)鍵一環(huán)。

（5）保障難。深度偽造防范，亟需形成人力、物力、財力投入正向激勵機制，建立全民識假、全民反假的良性治理格局。

二、深偽技術(shù)應(yīng)用和檢測治理發(fā)展現(xiàn)狀

（一）深偽技術(shù)應(yīng)用現(xiàn)狀

深度偽造旨在以虛假信息欺騙人類視聽感官或自動身份核驗應(yīng)用。事實上，相關(guān)應(yīng)用已經(jīng)發(fā)展到跨模態(tài)多媒體演繹階段，融合視頻、音頻、圖像、文本等多領(lǐng)域技術(shù)，通過編排操縱，高仿真情景再現(xiàn)目標(biāo)人臉、語音、表情、行為等信息，嚴(yán)重沖擊人們傳統(tǒng)“眼見為實”的認(rèn)知共識，超越了現(xiàn)有一般應(yīng)用系統(tǒng)真?zhèn)舞b別能力。

1. 深度視頻偽造

視頻偽造是典型深度偽造計算機視覺應(yīng)用。主要風(fēng)險來自于人臉偽造?；痉椒ㄊ遣捎蒙蓪咕W(wǎng)絡(luò)或者卷積神經(jīng)網(wǎng)絡(luò)等算法逐幀實現(xiàn)換臉、重演、編輯、合成等類型視頻動態(tài)內(nèi)容編排。通過換臉“嫁接”容貌，通過重演操縱行為（表情、動作），通過編輯遷移屬性（光照、發(fā)型、膚色、年齡、性別、配飾、顏值），通過合成創(chuàng)新人物形象。

隨著技術(shù)發(fā)展，視頻偽造訓(xùn)練所需資源、時間越來越少，成本變得越來越低。同時，圖像質(zhì)量越來越高，真?zhèn)卧絹碓诫y以分辨和檢測。Yang等人[1]僅使用單幅靜態(tài)圖像，即可實現(xiàn)1440×1440分辨率25幀/秒的面部重演。在元訓(xùn)練基礎(chǔ)上引入對抗學(xué)習(xí)，Zakharov等人[2]實現(xiàn)少量樣本生成動圖或偽造視頻。Thies等人[3]解決了偽造視頻與原始視頻光照一致問題。

目前，已經(jīng)有大量的網(wǎng)站開始提供深度偽造合成服務(wù)。已開源項目如Faceswap、Fakeapp、Deepfacelab等，僅需點擊幾下，即可把任意人物照片做成聲情并茂動態(tài)視頻。Zao、螞蟻呀嘿變臉視頻制作、Avatarify、Xpression、Wombo AI、Deep Nostalgia等類似應(yīng)用都曾迅速走紅。2020年國內(nèi)的“假靳東”事件，以及世界各國領(lǐng)導(dǎo)人視頻的偽造[4]，暴露了視頻偽造技術(shù)正成為全球性的安全風(fēng)險。

2. 深度音頻偽造

音頻偽造是深度偽造“可信”的重要支撐。主要風(fēng)險來自語音偽造?；痉椒ㄊ遣捎秒p向長短時記憶網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、生成對抗網(wǎng)絡(luò)等算法學(xué)習(xí)目標(biāo)語音特征，并實現(xiàn)合成、轉(zhuǎn)換、編輯、對抗等實時或延時音頻信息表達(dá)。通過合成實現(xiàn)目標(biāo)特色語音生成；通過轉(zhuǎn)換實現(xiàn)風(fēng)格、音色、韻律遷移，支持情緒、語氣的編輯表達(dá)[5]；通過編輯實現(xiàn)語音內(nèi)容、背景信息篡改；通過對抗在人類感知之外，造成辨識系統(tǒng)語音來源真實性、語義內(nèi)容正確性誤判。

目前，深度偽造語音在擬人度、自然度、語種多樣性、攻擊力等方面有了極大提升，而訓(xùn)練所需語料、時間則大幅減少。NaturalSpeech系統(tǒng)[6]的合成語音CMOS評分在LJSpeech數(shù)據(jù)集上達(dá)到真人水平；Chen等人[7]提出的FakeBob黑盒對抗攻擊，實現(xiàn)開源和商用聲紋識別系統(tǒng)99%的攻擊成功率；生成語音與視頻口型同步[8]進(jìn)一步增強了逼真呈現(xiàn)效果。2018年，Deep Voice3[9]只需3.7秒訓(xùn)練樣本即可實現(xiàn)聲音克隆。

語音偽造的門檻和難度正逐漸降低。已有Real-Time Voice Cloning[10]、 MockingBird[11]、Resemble、SV2TTS、AutoVC、Lyrebird、CereVoice Me、ReplicaStudios、Crank等項目、技術(shù)向公眾開放。2020年初，福布斯報道的偽造語音騙取阿聯(lián)酋銀行3500萬美元轉(zhuǎn)賬案件，警示著深度語音偽造犯罪已經(jīng)走進(jìn)現(xiàn)實。

3. 深度圖像偽造

圖像偽造主要風(fēng)險來自生物特征合成、信息內(nèi)容篡改和對抗樣本生成。通過生物特征合成實現(xiàn)2D人臉替換、面部屬性編輯、3D頭像建模，以及平面生物特征重建；通過信息內(nèi)容篡改實現(xiàn)信息虛構(gòu)、內(nèi)容偽造；通過生成對抗樣本破防圖像辨識系統(tǒng)。

偽造圖像在可編輯性、清晰度、逼真度、攻擊力等方面已經(jīng)有了越來越多的突破。Sophie等人[12]的實驗表明，人類已經(jīng)難以區(qū)分且更易于輕信StyleGAN2技術(shù)偽造的人臉。Gandhi等人[13]通過對抗擾動攻擊實現(xiàn)偽造檢出率從95%到27%的顯著下降。MLSEC 2022中[14]，在權(quán)衡置信度和隱匿性情況下，參賽者成功使AI識別系統(tǒng)定向誤識。更有研究[15]可使人臉識別系統(tǒng)視而不見。

圖像偽造對于身份查驗的威脅已經(jīng)日漸全面。偽造人臉已經(jīng)先后發(fā)展出Face2Face、Deepfake、HeadOn[16]、FSGAN、Style-GAN等眾多技術(shù)；偽造虹膜[17]、 萬能指紋[18]、萬能人臉[19]、 偽造證件文檔[20]，具備了攻擊成功可能；TextStyleBrush[21]僅 需一詞訓(xùn)練實現(xiàn)筆跡模仿；Speech2Face[22]利用6秒短語音即可重建人臉圖像。諸多應(yīng)用，如Faceapp、Reface、Face AI、AI換臉相機、Mug Life、Deepnude等，先后上線。應(yīng)用的普及，加劇了個人隱私、身份信息被仿冒濫用的風(fēng)險。

4. 深度文本生成

文本生成是深度偽造在文化傳媒領(lǐng)域的重要應(yīng)用。主要風(fēng)險來自惡意文章自動生成傳播?；痉椒ㄊ遣捎肨ransformers、循環(huán)神經(jīng)網(wǎng)絡(luò)、長短時記憶網(wǎng)絡(luò)等算法構(gòu)建自然語言模型，然后根據(jù)輸入循環(huán)預(yù)測輸出。

目前，文本生成技術(shù)日漸成熟。在語法、邏輯、條理方面進(jìn)步顯著，支持語種、文體形式更為多樣。典型的如GPT-3[23]。該產(chǎn)品可以翻譯、問答和完形填空，根據(jù)擬定的主題和基調(diào)進(jìn)行文體創(chuàng)作，甚至可以參與討論回答問題。此外，Narrative Science、Automated Insights等類似商用系統(tǒng)已投入體育賽事、公司財報等報道應(yīng)用。正如所見的技術(shù)能力，實用化的文本生成技術(shù)如被敵對利用，存在著操控話語權(quán)、惡意煽動、宣傳誤導(dǎo)的風(fēng)險。

（二）深偽檢測能力發(fā)展

深度偽造檢測是實施非法應(yīng)用治理的重要技術(shù)支撐。近年來，學(xué)術(shù)界和產(chǎn)業(yè)界在視頻、音頻、對抗樣本等方面做了大量工作。國外谷歌、Meta、微軟等都推出了深度合成認(rèn)證的方法和產(chǎn)品，國內(nèi)清華大學(xué)、中科大、百度等學(xué)校企業(yè)成果顯著。

深度偽造檢測的主流思路是利用傳統(tǒng)信號處理方法或深度學(xué)習(xí)方法分析數(shù)據(jù)偽造痕跡，可分為圖像偽造檢測、視頻偽造檢測、音頻偽造檢測、文本偽造檢測四種類型。

1. 視頻偽造檢測

視頻偽造檢測，傳統(tǒng)方法立足取證，如發(fā)現(xiàn)圖像噪聲、紋理、偽影、幀間流暢度、眨眼、心率、瞳孔反射、凝視跟蹤[24]、 唇音同步[25]、動作關(guān)系等異常特征。深度學(xué)習(xí)方法致力于察覺細(xì)微非自然因素。Afchar等人[26]提取圖像中層特征發(fā)現(xiàn)篡改痕跡，Amerini等人[27]利用卷積神經(jīng)網(wǎng)絡(luò)分析光流變化識別偽造信息，約翰霍普金斯大學(xué)的研究人員利用MultiBN[28]網(wǎng)絡(luò)實現(xiàn)多種對抗性視頻檢測。2020年DFDC挑戰(zhàn)賽上的鑒假最高準(zhǔn)確度為82.56%，整體平均準(zhǔn)確度65.18%。

2. 圖像偽造檢測

圖像偽造檢測，傳統(tǒng)方法從特征取證出發(fā)，甄別頻域特征或統(tǒng)計特征異常，如利用局部噪音分析[29]、設(shè)備指紋、光照響應(yīng)檢測[30]等。深度學(xué)習(xí)方法相比具有較好的魯棒性。Jawadul H. Bappy等人[31]設(shè)計的Hybrid LSTM和Encoder-Decoder架構(gòu)達(dá)到71%～95%的偽造檢測準(zhǔn)確率。Cozzolino 等人[32]提出以卷積神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)圖像噪聲殘差，有效提升偽造檢測和定位的性能。Ahmed Abusnaina等人[33]利用圖神經(jīng)網(wǎng)絡(luò)檢測對抗樣本。美國Adobe公司2019年6月推出的反向PS工具，圖像液化篡改檢出率高達(dá)99%。

3. 語音偽造檢測

語音偽造檢測，傳統(tǒng)方法利用常量Q倒譜系數(shù)[34]、歸一化的余弦相位等。Trisha Mittal等人[35]依據(jù)情感特征，分別在DFDC和DeepFake-TIMIT數(shù)據(jù)集上取得了84.4%和96.6%的檢測準(zhǔn)確率。在ASVspoof2019 數(shù)據(jù)集上，Alejandro等人[36]集成卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)使得檢測準(zhǔn)確率顯著提升。最近，有學(xué)者提出Transformer seq2seq 網(wǎng)絡(luò)方法[37]，對未知特征無限制來源數(shù)據(jù)進(jìn)行偽造檢測，取得了較好的效果。

4. 文本偽造檢測

文本偽造檢測，主要利用信息內(nèi)容和社交上下文。傳統(tǒng)方法通過提取語言學(xué)特征、主題特征等進(jìn)行鑒別，近年來多使用卷積神經(jīng)網(wǎng)絡(luò)、遞歸神經(jīng)網(wǎng)絡(luò)等方法。為檢測偽造文章，MIT-IBM沃森AI實驗室[38]等推出GLTR模型對文本進(jìn)行統(tǒng)計分析和可視化，OpenAI等開發(fā)了GPT-2 Output Detector，Edward Tian 的GPTZero網(wǎng)站[39]提出文本困惑度指標(biāo)。2019年，華盛頓大學(xué)和艾倫人工智能研究所推出的Grover鑒定模型的偽文本區(qū)分度達(dá)到92%。

（三）深偽檢測困境和方向

事實上，比較一般固化測試環(huán)境，面向?qū)嶋H應(yīng)用，深度偽造檢測工作將更為復(fù)雜困難。一方面，這是一個不受控條件下的開集問題。眾多未知偽造方法、大量未知偽造數(shù)據(jù)，而偽造檢測所能看到的僅僅是冰山一角，延續(xù)著頭痛醫(yī)頭、腳痛醫(yī)腳的被動跟蹤范式；另一方面，這也是一個對抗博弈過程。對象是有組織的黑灰產(chǎn)業(yè)鏈、國內(nèi)外惡意勢力。技術(shù)進(jìn)步，此消彼長，亟需國家支持，前瞻設(shè)計，團結(jié)奮進(jìn)。

綜上因素，可歸集為現(xiàn)有深偽檢測研究面臨的主要問題：舍本逐末，真實數(shù)據(jù)分析、數(shù)據(jù)真實性研究不足。亟需回答：已知數(shù)據(jù)的真實特征是什么？未知數(shù)據(jù)的真實性體現(xiàn)在哪？偽造樣本出來了，分析如何假；偽造方法出來了，分辨如何造。沒有假，不識假，所以被動。更為危險的是錯把數(shù)據(jù)可區(qū)分特征作為真實依據(jù)來使用。加強真實性正向研究是未來鑒偽突破的重要方向。

（四）深偽治理法律法規(guī)和標(biāo)準(zhǔn)規(guī)范

近年來，深度偽造非法應(yīng)用風(fēng)險逐步顯現(xiàn)。世界各國高度重視，相繼出臺了各類法律法規(guī)和標(biāo)準(zhǔn)規(guī)范，進(jìn)行規(guī)制引導(dǎo)。

1. 法律法規(guī)方面

歐盟在《通用數(shù)據(jù)保護(hù)條例（GDPR）》等現(xiàn)有法律框架下規(guī)制深度偽造；德國出臺了《社交媒體管理法》；美國相繼出臺《2018年惡意偽造禁令法案》《2019年深度偽造報告法案》和《深度偽造責(zé)任法案》等，要求嚴(yán)格限制深度偽造技術(shù)，評估安全風(fēng)險；2019年，新加坡議會通過《防止網(wǎng)絡(luò)虛假信息和網(wǎng)絡(luò)操縱法案》；英國對個人臉部圖像等信息保護(hù)的法律主要是《數(shù)據(jù)保護(hù)法》。

我國《民法典》第一千零一十九條規(guī)定“任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”；《網(wǎng)絡(luò)音視頻信息服務(wù)規(guī)定》要求網(wǎng)絡(luò)音視頻服務(wù)提供者和使用者不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用制作、發(fā)布、傳播假新聞信息；《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》針對應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)，作了系統(tǒng)性、專門性規(guī)定，明確了各類主體的信息安全義務(wù)。

2. 標(biāo)準(zhǔn)規(guī)范方面

深度偽造安全治理的技術(shù)、管理標(biāo)準(zhǔn)體系尚未完善。

關(guān)于防偽安全評估，ISO/IEC 19989-3:2020《信息安全 生物識別系統(tǒng)安全評估的標(biāo)準(zhǔn)和方法 第3部分：呈現(xiàn)攻擊檢測》為相關(guān)系統(tǒng)開發(fā)人員和風(fēng)險評估人員提供了建議和要求。

關(guān)于防偽安全性測試，ISO/IEC 30107-3:2017《信息技術(shù) 生物特征呈現(xiàn)攻擊檢測 第3部分：測試和報告》和GB/T 41987-2022《公共安全 人臉識別應(yīng)用 防假體呈現(xiàn)攻擊測試方法》中，給出了明確的測試方法。

關(guān)于防偽功能、性能指標(biāo)，GB/T 38671-2020《信息安全技術(shù) 遠(yuǎn)程人臉識別系統(tǒng)技術(shù)要求》、GB/T 37036.3-2019《信息技術(shù) 移動設(shè)備生物特征識別 第3部分：人臉》、JR/T 0164-2018 《移動金融 基于聲紋識別的安全應(yīng)用技術(shù)規(guī)范》等提出了明確要求。

關(guān)于網(wǎng)絡(luò)偽造虛假信息溯源問題，Adobe、Arm、BBC、Intel、Microsoft等公司聯(lián)合成立了一個基金會項目“內(nèi)容來源和真實性聯(lián)盟”（C2PA），旨在制定媒體內(nèi)容來源與歷史或出處認(rèn)證技術(shù)標(biāo)準(zhǔn)。

三、深偽治理措施建議

深度偽造僅僅是當(dāng)前新技術(shù)革命超前發(fā)展，而配套社會治理體系尚未完善時期出現(xiàn)的階段性發(fā)展問題，必然通過發(fā)展的手段來解決。解決的方案不應(yīng)僅限于技術(shù)，還包括規(guī)制、管理、宣傳、教育等體系化治理舉措。

（一）技術(shù)研究層面

（1）前置應(yīng)用環(huán)境安全感知能力，引導(dǎo)安全終端普及，廣普漏洞查補，強化交互認(rèn)證，落實信息安全機制，防范化解劫持、注入風(fēng)險。

（2）加強深度偽造檢測技術(shù)及應(yīng)用研究。挖掘數(shù)據(jù)真實特征，增強多態(tài)信息融合防御，免疫博弈因素干擾，適應(yīng)未知生成算法和現(xiàn)實應(yīng)用場景，提高鑒別算法泛化性、魯棒性。

（3）加強深偽取證、鑒定基礎(chǔ)理論研究，跟蹤偽造動態(tài)，洞察技術(shù)本質(zhì)，探究真實性判別結(jié)論的客觀性、規(guī)律性、科學(xué)性和系統(tǒng)性。

（4）建立信息內(nèi)容安全監(jiān)管機制，保護(hù)合法圖像、音視頻產(chǎn)品，落實數(shù)據(jù)真實性、完整性檢驗，以及可溯源、防篡改、抗抵賴技術(shù)措施，形成非法偽造溯源打擊能力。

（二）規(guī)制管理層面

（1）落實法律法規(guī)、健全技術(shù)標(biāo)準(zhǔn)體系。以法律法規(guī)明確非法界定，保護(hù)合法應(yīng)用，打擊非法濫用，嚴(yán)格懲戒措施；以標(biāo)準(zhǔn)規(guī)范分類分級可信應(yīng)用、明確適用場景、應(yīng)用條件、合規(guī)指標(biāo)和安全檢測技術(shù)要求。

（2）建立敏感信息獲取、使用，以及內(nèi)容安全、技術(shù)風(fēng)險審查制度，切實加強個人信息保護(hù)；構(gòu)建聯(lián)防聯(lián)控監(jiān)管機制，細(xì)化媒體、技術(shù)企業(yè)、信息源頭責(zé)任落實，重預(yù)防、抓源頭、控渠道、快查處、嚴(yán)整治、打黑產(chǎn)，形成層次化垂直管控體系。

（3）建立高性能自動化預(yù)警、監(jiān)測、監(jiān)控平臺，常態(tài)化升級完善，實現(xiàn)異常風(fēng)險廣播、高效問題發(fā)現(xiàn)、及時斷鏈溯源、精準(zhǔn)化解處置，有效打擊黑惡勢力，有效應(yīng)對“0 day”攻擊和海量信息篩查。

（4）建立深度偽造安全能力檢測、評價和市場準(zhǔn)入管理機制。從技術(shù)能力、人員培養(yǎng)、管理流程、應(yīng)急響應(yīng)等方面，全方位考察、認(rèn)證企業(yè)資質(zhì)，正向激勵落實安全責(zé)任，輸出優(yōu)秀專業(yè)人才、技術(shù)、服務(wù)和產(chǎn)品。

（三）宣傳教育層面

（1）建立風(fēng)險信息交流、學(xué)習(xí)服務(wù)平臺，促進(jìn)國際合作，共享科技情報、案例，推廣攻防經(jīng)驗和科研成果。

（2）建立真實場景應(yīng)用深偽測試數(shù)據(jù)集評價基準(zhǔn)，定期舉辦攻防演練、比賽和技術(shù)研討，促進(jìn)鑒偽技術(shù)、產(chǎn)品迭代進(jìn)步。

（3）加強社會工程學(xué)安全風(fēng)險宣傳教育，提高新聞工作者鑒假職業(yè)素養(yǎng)，逐步提升人民群眾的反欺防詐、守法維權(quán)意識，促進(jìn)適應(yīng)新技術(shù)帶來時代變遷的文明、道德理念換擋升級。

四、未來展望

深度偽造與反偽造工作是一個長期的博弈過程。科技發(fā)展勢不可擋，社會治理應(yīng)做好規(guī)劃布局。

（一）深度偽造技術(shù)發(fā)展

未來深度偽造將繼續(xù)向著圖文并茂、聲像逼真方向發(fā)展，并伴隨“元宇宙”概念落地。

（1）解決輕量計算、復(fù)雜場景、多角色、小樣本訓(xùn)練、高清、實時等問題。

（2）虛擬人物口音多風(fēng)格化，自然度、可懂度和流暢度顯著提升。

（3）隱蔽對抗技術(shù)繼續(xù)發(fā)展，啟動規(guī)?；?、定制化虛擬場景生產(chǎn)。

（二）深偽檢測技術(shù)和治理能力進(jìn)步

深度偽造檢測技術(shù)雖然已經(jīng)取得了顯著進(jìn)步，但仍然有許多問題需要解決，未來期許形成產(chǎn)業(yè)，相關(guān)技術(shù)產(chǎn)品投放市場。

（1）解決規(guī)模偽造檢測問題，魯棒性、泛化性達(dá)到實用程度。

（2）形成深偽技術(shù)產(chǎn)品及反偽裝備、能力和服務(wù)的認(rèn)證機制。

（3）法律、法規(guī)、標(biāo)準(zhǔn)日臻健全完善。政府、企業(yè)、個人多方合作，建立共享、共贏的鑒偽、防偽、管控、打假新生態(tài)。

五、結(jié)語

深度偽造是當(dāng)前公共安全領(lǐng)域的研究熱點。由于其危害小至身份仿冒，大可至國家安全，因而受到特別關(guān)注。

目前，偽造新聞、圖像、影音在技術(shù)表現(xiàn)上已經(jīng)可以造成人、機“困擾”。然而，在檢測、鑒定和防御能力上還有進(jìn)一步上升空間。

深度偽造風(fēng)險治理，除了依托科技發(fā)展，還需完善頂層設(shè)計，實施立法監(jiān)管，健全標(biāo)準(zhǔn)規(guī)范，加強宣傳教育。正向引導(dǎo)深度偽造技術(shù)發(fā)展，未來世界精彩可期。