探究深度偽造技術的安全挑戰(zhàn)與應對措施

路彩霞

【摘要】? ? 人工智能技術憑借自身的賦能效應對現(xiàn)代社會的生活和發(fā)展格局產生著重大的影響，使得現(xiàn)代社會的治理效率有了顯著提升。人工智能提供的種種便利確實改善了人們的日常生活，但也伴隨著使用風險。對此，本文將基于對深度偽造技術的探尋，就深度偽造技術面臨的安全挑戰(zhàn)展開論述，繼而根據實際情況提出深度偽造技術的安全應對措施。

【關鍵詞】? ? 深度偽造? ? 安全挑戰(zhàn)? ? 人工智能

深度偽造技術就是一種利用人工智能等新興技術對音視頻、圖像或者是文本內容進行操縱，對人產生誤導效果的技術[1]。通常采用深度偽造技術生成的圖像或者是視頻能夠將面部表情、動作和語音的音調、色調等信息高度模仿出來，讓肉眼難以直觀的辨識出來，真正達到“以假亂真”。一旦被有心人不懷好意的運用，將嚴重威脅個人的安全和隱私，甚至對社會乃至整個國家的安全均將造成嚴重影響。

一、深度偽造技術概述

（一）深度偽造的技術原理

深度偽造技術原理就是以對抗網絡（GAN）的算法搭載著生成器和識別器兩個神經網絡。生成器和識別器在相互博弈學習的過程中將會出現(xiàn)大規(guī)模和高精確度的輸出，所以便需要研究人員使用大量的人臉圖像來對GAN網絡進行訓練，讓人們能夠很快速把握人臉圖像中的眼睛、鼻子、嘴巴和表情等特征[2]。尤其是在新輸入了圖像與視頻之后，GAN這個框架便能夠很快速的捕獲人臉特征，讓面部圖像的替換與操縱工作也能夠隨時完成。這樣再充分利用計算機視頻中的多個單幀以批量處理的形式自動生成深度偽造視頻。

（二）深度偽造技術的發(fā)展態(tài)勢

隨著信息技術的不斷發(fā)展， 深度偽造技術也較之過往有了明顯進步，如此前的偽造技術大多較為粗糙，而如今的偽造技術因神經網絡圖像偽造檢測技術的加入，而使得所生成視頻圖像也更類似于現(xiàn)實生活中人的指紋一樣的網絡特征。不僅如此，隨著該項技術的進一步發(fā)展，今后的“深度偽造”還可基于用戶偏好，并通過對用戶價值觀及人生態(tài)度的揣摩來為其推送與之相契合的合成視頻，以致用戶逐步放棄追尋事實真相的意愿 [3]。

（三）深度偽造技術的特點

深度偽造技術具有隱匿性強、難檢測、難追蹤的特點。深度偽造的技術展示大致分為如下四類：換臉、唇形同步、面部復現(xiàn)、動作轉移。

二、深度偽造技術的類型

（一）針對圖像的深度偽造技術、應用案例及檢測技術

針對圖像的深度偽造技術主要采用的是生成對抗網絡衍生出的虛擬圖像。就該技術而言，其所對抗的網絡對象主要有兩種，分別為生成網絡與識別網路;其中，生成網絡最主要的特征便是其所生成的虛擬圖像同樣具有模擬對象的特性;而識別網絡則能判斷原圖像是否為虛擬圖像的原圖。如圖1所示：首先對圖像進行編碼，后以訓練的方式分別置入人臉圖像A與B，緊接著由系統(tǒng)根據A、B圖像的各自特征來為其生成特定的解碼器，再通過解碼B圖像與A圖像進行互調，也便是B臉生成替換A臉。諸如此類的換臉技術還有許多，諸如Face2Face、Faceswap-GAN 、Faceswap等。

在這項技術中所生成的神經網絡分別為生成網絡與識別網絡。其中，生成網絡的主要作用便是結合現(xiàn)有的圖像特征來生成具有同樣特征的圖像，而識別網絡的作用則是能對圖形的真實性予以辨別并協(xié)助判斷何者為虛擬圖像，何者為本來的圖像。

通過對兩個神經網絡的訓練并使用大量圖像進行生成，最主要的目標便是要借助虛擬圖像達到欺騙效果，而欺騙的具體目標則主要圍繞著具有識別功能的網絡。對此，識別網絡要想避免被虛擬圖像所欺騙，便需具備快速識別生成網絡虛擬圖像的能力。這無異于一項博弈，倘若識別網絡無法對生成網絡衍生圖像予以快速識別，也便讓虛擬圖像有了更多的可乘之機，“以假亂真”將難免導致更嚴重的危害誕生。

檢測技術：當前，在檢測深度偽造圖像方面，最常用的分析方法便是基于圖像本身的成像特征，而后運用數(shù)據驅動的方式展開深度分析 [3]。然后，針對圖像真實性的判別則主要圍繞圖像的差異性特征，分別包含了圖像在成像設備上呈現(xiàn)出的傳感器噪聲差以及色差等方面，通過對以上痕跡的挖掘以及對人生理信號特征的對比，也能對圖像真?zhèn)蔚呐袆e提供一定的依據 [4]。針對這種特征的檢測方法只能夠對一些特定偽造類型的痕跡進行檢測，通過肉眼都能夠很輕易的進行識別和篡改，所以能夠保證檢測結果的解釋性較好。

（二）針對視頻的深度偽造技術、應用案例及檢測技術

針對視頻的深度偽造技術通常需要處理每一幀的視頻圖像，在將每一幀的人臉圖像均替換為目標任務的臉部后，也便能生成出有著目標人臉的偽造視頻 [5]。由此可見，此間主要運用了兩項技術，分別為編碼與解碼。其中，編碼的主要作用在重組此前從圖像中提取出來的諸多特征，以便后續(xù)將原始圖像以低緯度數(shù)據替換;至于解碼器的作用則是能將壓縮的數(shù)據還原，使其恢復原本的“面貌”及特征。

例如，一款名為ZAO的人工智能換臉APP只需要用戶的一張正面照，再使用一鍵操作便能夠很快速的將影視劇片段中的演員臉換成自己的。生成視頻的過程主要依托的是一項AI技術。

檢測技術：針對視頻深度偽造技術的檢測方法主要聚焦于“換臉”這項技術上。當視頻在被壓縮掉之后，每一幀的數(shù)據便會出現(xiàn)退化的情況，而視頻的幀組之間的時序特征也會隨之發(fā)生變化。因此，通常針對靜態(tài)特征下的深度偽造圖像檢測技術則無法被應用于深度偽造視頻的檢測過程中。深度偽造模型可利用靜態(tài)的面部圖像集展開訓練，而生成模型存在對人臉的輪廓建模不足的情況，這樣便很難偽造出眨眼、呼吸、心跳等生理性的信息[6]。同時，研究者在不斷研究的過程中，在準確把握生理信息的基礎上采取深度偽造視頻檢測技術來眼見視頻真?zhèn)?，期間將主要圍繞局部特征加以檢測，包括觀察眨眼動作是否自然、面部與頭部朝向是否符合人體工學以及面部朝向不同區(qū)域時應該產生的視覺偽影等。

（三）針對音頻的深度偽造技術、應用案例及檢測技術

通過修改音頻數(shù)據，還能對原始音頻予以改造，使之成為另一端與原始音頻有著完全不一樣數(shù)據的偽造音頻。例如將音頻的音色改變，便可將男聲轉化為女聲。這種語音翻譯模型在諸多軟件中均得到了較為廣泛的運用，如QQ、微信等均有此項功能。這種技術在外語翻譯方面尤為適用。通過將外域翻譯成中文，同時也保留著外國人的聲音特質，便好似該外國人本身會說中文一般，僅是語音語調仍保留著外國人說英語的特征。

檢測技術：針對音頻的深度偽造技術在檢測的過程中主要是對音頻的信號進行處理，再根據頻譜的特征進行建模，而后的識別檢測則主要運用了兩種方法，分別為歸一化余弦相位與修正群延遲。雖然上述方法再識別音頻及音頻處理方面有著較為優(yōu)良的表現(xiàn)，但因其泛化性能尚有不足，故也限制了該方法的運用范圍。而如今，隨著深度學習技術的不斷發(fā)展，廣大研究者的關注點也紛紛轉移到了以數(shù)據驅動為基礎的深度學習檢測方法之上。其中，Gomez-Alanis利用輕量級的卷積神經網絡和循環(huán)神經網絡提出光卷積門控遞歸神經網絡來提取音頻深度特征的一種檢測方法。新加坡信息通信研究所網絡安全小組的Monteiro在研究的過程中指出將聲音表征作為視覺頻譜圖，其對聲音特征的分析主要給予頻譜圖的清晰度，這樣也能為音頻辨別提供依據 [7]。雖然，當前的語音檢測已從信號處理發(fā)展到了深度學習法，但由于該過程對攻擊類型的針對性較強，故要想檢測出未知類型的攻擊，目前仍有較大的提升空間。

三、深度偽造技術面臨的安全挑戰(zhàn)

（一）威脅個人生活

當前深度偽造技術所生成的圖像和音視頻數(shù)據能夠達到以假亂真的地步，嚴重威脅著廣大人們的正常生活。例如，為達到自身不可告人的目的，有心人便會利用深度偽造技術來制作視頻及圖像，企圖以此威脅。如在我國便不乏這樣的真實案例，不法分子為勒索錢財而將明星照片與裸照結合，再將偽造的圖片拋向公眾網絡，以致被害人聲譽及財產均遭到嚴重威脅。

（二）威脅金融秩序

金融市場的發(fā)展過程本就容易遭受外界因素的影響，加之金融市場又與金錢密切相關，故也更容易成為深度偽造技術的針對目標。如利用深度偽造技術偽造公司管理者的不雅視頻，使得公司聲譽及形象遭受影響，繼而導致公司的股票漲落而自身則從中獲益。與此同時，對于經常在電視中見到的經濟學家或某方面專家，通過偽造他們的視頻及音頻，讓股民誤認為此為指導自己購買或拋售股票的信息，以致股民在毫無根據的情況下，大量購入或拋售股票，以致整個股市陷入混亂。

（三）影響社會穩(wěn)定

在以往人們的觀念中是“眼見為實”，但在自媒體快速發(fā)展的社會背景下，深度偽造技術所生成的各種視頻、圖片等虛假信息顛覆了“眼見為實”這個觀念，眼睛看到的和耳朵聽見的都不一定是真實的，這便極易導致社會恐慌出現(xiàn)。嚴重者甚至還將對社會整體的穩(wěn)定運行帶來嚴重影響。不僅如此，針對以人工智能技術識別目標任務的智能識別系統(tǒng)，倘若不法分子同樣利用深度偽造技術，將原本正常的數(shù)據替換為偽造的音視頻數(shù)據，這對整個安防體系的安全性無疑是一項嚴重且極可能出現(xiàn)的威脅，而最終受影響者亦將是整個社會。

（四）威脅國家安全

深度偽造技術最主要的威脅還是可作為信息戰(zhàn)的武器，從而危害到國家的安全。之所以會產生如此嚴重的危害，一方面是因該技術若被有心人利用，并將其與國家領導人發(fā)言捆綁再予以惡意的剪輯，將挑撥國家之間的關系，使得雙方信任度降低。借助深度偽造技術，將各級領導發(fā)言歪曲為各種謠言并大肆傳播于各大社交媒體，即便相信之人僅是極少數(shù)，但對政治系統(tǒng)的權威性仍將產生一定影響。倘若放之任之，最終勢必會讓國家法治的和法性遭受質疑，這樣的局面無疑是極其嚴重的。

四、應對深度偽造技術的安全措施

（一）構建完善的法律法規(guī)

現(xiàn)如今，世界各國均對基于深度偽造技術可能引發(fā)的安全問題給予了極高的關注度，也為了積極防范安全問題的發(fā)生而出臺了相應的政策。如美國參議院于2018年12月提出《2018年惡意偽造禁令法案》中便痛批了此等行為，并就其規(guī)范性提出了具體要求。我國深度偽造技術的防范重點則是在2019年11月時，由我國互聯(lián)網信息辦公室、文化旅游部以及國家廣播電視總局聯(lián)合楚天了有關《網絡音視頻信息服務管理規(guī)定》，該規(guī)定不僅明確了服務者與使用者均不能利用虛擬現(xiàn)實技術制作、發(fā)布及傳播新聞信息，同時也對違法活動的具體類型予以了明確，包括人肉搜索、運用深度偽造技術等。從國家層面提出懲治的方法，雖是能起到一定的威懾作用，但也存在部分抱有僥幸心理的犯罪者，故人工智能技術要想更好地服務于現(xiàn)代社會，仍有較大的進步空間。

（二）強化技術支撐

為發(fā)揮深度偽造技術的積極作用并切實應對好該技術所帶來的安全條件。需首先從數(shù)字呢絨體系建設入手，通過結合數(shù)字水印、區(qū)塊鏈等技術，一方面確保能對數(shù)字媒體呢絨的全過程予以有效的追蹤與溯源;另一方面則是要聯(lián)系音素、頻譜、聲紋等一種技術，對深度偽造建設技術予以生化，使之能從更多角度獲取偽造信息并對其真?zhèn)渭右哉撟C。同時，還需要對以后一些未知領域中的深度偽造的可泛化虛擬音視頻檢測方法進行研究，追蹤不同深度偽造技術生成方法，不斷去尋找一些偽造特征的差異，再利用多種網絡模型將這些差異性的特征提取出來再進行檢測。將對抗攻擊技術引入到檢測模型訓練的過程中，這樣便能夠大幅度提高抵御對抗樣本攻擊的能力。

（三）加強行業(yè)自律

通過約束人工智能技術的適用范圍，一方面能可對人工智能的行業(yè)自律起到一定的強化作用;一方面則是為了促進人工智能技術的規(guī)范化運用。倘若企業(yè)的主要業(yè)務便是內容生產，便更要對企業(yè)制作的音視頻予以嚴格審核，避免因人工智能技術的濫用而損及其他行業(yè)或個人利益。與此同時，對于廣大用戶的音視頻數(shù)據傳輸行為，相關網站亦當肩負起內容審核的責任及義務，一旦發(fā)現(xiàn)用戶上傳偽造音視頻，便需給予嚴厲的懲罰。網絡非是法外之地，任何挑釁法律的行為均將收到嚴厲懲處，繼而杜絕出現(xiàn)不實信息的發(fā)布與傳播。

（四）注重社會教育

要想讓廣大公眾均具備良好的網絡安全防患意識，首要途徑當屬社會教育。對此，我過曾連續(xù)舉辦了八屆網絡安全宣傳周活動。該活動因重點圍繞網絡金融犯罪的頻發(fā)領域，如金融、電子政務、電子商務、電信等與百姓之間亦有著較為密切關聯(lián)的領域，故也營造出了良好的安全氛圍。除了上述手段與途徑，國家還可向公眾公布一些惡意使用深度偽造技術的現(xiàn)實案例，以此警醒廣大群眾要始終保持警惕，使之在面對任何人工智能技術時均能秉持謹慎姿態(tài)，不要輕易相信人工智能技術給出的諸多信息，以此方能最大限度減少因偽造信息而導致了公民權益受損，繼而切實維護人工技術的良性發(fā)展。

五、結束語

總之，在深度合成技術不斷更新的背景下，各種虛假音視頻、圖像等在網絡上的廣泛傳播對人們造成了不良影響，所以對深度偽造技術的檢測提出了較大的挑戰(zhàn)性。由于深度偽造技術生成方法的開源代碼和工具較多，各種變種方法更容易進行修改，所以便需要采取更新技術、完善相關法律等方面來應對深度偽造技術的安全挑戰(zhàn)，以此推動人工智能技術更好的服務現(xiàn)代社會發(fā)展。

參考文獻：

[1]徐燕萍.“深度偽造”技術的倫理反思——以一鍵脫衣軟件“Deepnude”為例[J].計算機時代，2021（11）：118-121.

[2]李明魯.深度偽造技術濫用行為的刑法治理路徑[J].法治社會，2021（06）：92-101.

[3]彭春蕾，高新波，王楠楠，李潔.可視身份深度偽造與檢測[J].中國科學：信息科學，2021，51（09）：1451-1474.

[4]毛寧，楊會.深度偽造技術的監(jiān)管困境及其法律應對[J].長白學刊，2021（05）：94-101.

[5]張愛軍，王芳.人工智能視域下的深度偽造與政治輿論變異[J].河海大學學報（哲學社會科學版），2021，23（04）：29-36+106.

[6]趙建強，張輝極，杜新勝，張光斌.人工智能安全的隱憂：深度偽造技術的挑戰(zhàn)與應對[J].中國安防，2021（06）：40-47.

[7]衛(wèi)霞，白國柱，王蓓蓓，張文俊.“深度偽造”技術安全風險分析及政策建議[J].中國電信業(yè)，2020（11）：72-74.