深度偽造與國家安全：基于總體國家安全觀的視角

文/劉國柱

深度偽造是一個合成詞，是人工智能領(lǐng)域由深度學(xué)習(xí)和偽造合成的一個詞匯。包含兩方面的含義，首先，它是一種技術(shù)，一種制作超逼真視聽作品的技術(shù)；其次，它指根據(jù)深度偽造技術(shù)制作的視聽作品。隨著人工智能技術(shù)的不斷發(fā)展，深度偽造技術(shù)同樣在不斷改進，帶來的與國家安全相關(guān)的問題也在不斷涌現(xiàn)。深度偽造不僅涉及新興技術(shù)治理的問題，更是事關(guān)包括政治安全、經(jīng)濟安全和社會安全等在內(nèi)的綜合安全問題。因此，有必要站在總體國家安全觀的高度，從國家治理和全球治理的角度對深度偽造問題進行分析并提出應(yīng)對之策。

深度偽造技術(shù)特征及其快速傳播的原因

深度偽造是運用人工智能技術(shù)和大數(shù)據(jù)來描繪某人說和做的從未發(fā)生過的事情，輔之以社交媒體的覆蓋面和傳播速度，可以迅速影響成千上萬甚至更龐大的群體，進而對社會產(chǎn)生難以估量的影響。

（一）深度偽造的類別及特征

從技術(shù)角度看，深度偽造可以分為三類：第一類是深度偽造視頻技術(shù)，第二類是語音克隆技術(shù)，第三類是文本合成技術(shù)。

深度偽造產(chǎn)品根據(jù)其本身的性質(zhì)可以分為三類。第一類是具有積極作用的應(yīng)用。深度偽造技術(shù)在許多行業(yè)具有積極用途，包括電影、教育媒體和數(shù)字通信、游戲和娛樂、醫(yī)療保健以及各種商業(yè)領(lǐng)域等。第二類是較為中性的深度偽造，主要是娛樂和幽默性質(zhì)的深度偽造作品。這類作品往往以公眾人物作為娛樂對象。第三類屬于惡意的深度偽造。這一類深度偽造被創(chuàng)作者用于某種特殊的目的，往往會給國家安全、社會治理帶來嚴(yán)峻的威脅和挑戰(zhàn)。如在深度偽造中占比最高的是利用深度偽造技術(shù)合成的色情視頻，屬于人工智能技術(shù)發(fā)展帶來的新的性別安全問題；深度偽造還被用來抹黑政治人物，從而影響一些國家的政治進程，或者對一些國家正在發(fā)生的政治事件做出不利的描述，不僅可能激化社會矛盾，也會影響國家的政治形象；深度偽造還會給企業(yè)和個人在經(jīng)濟上帶來損失。更嚴(yán)重的是，深度偽造可能會摧毀社會信任，信任赤字將惡化整個社會的心理生態(tài)環(huán)境。

總體而言，深度偽造具有以下幾個特征：第一，網(wǎng)絡(luò)社交平臺是傳播深度偽造作品的最主要渠道；第二，深度偽造發(fā)展迅猛；第三，深度偽造傳播迅速且點擊量巨大；第四，深度偽造以公眾人物等為主要對象。

（二）深度偽造快速傳播的原因

第一，人工智能技術(shù)的發(fā)展和普及使得制作深度偽造作品更簡單易行。深度偽造和合成媒體不需要專門的硬件或設(shè)備來開發(fā)，擁有強大顯卡的臺式電腦就足夠了。商業(yè)性甚至免費的深度偽造服務(wù)已經(jīng)出現(xiàn)在公開市場上，這些服務(wù)將降低進入門檻，任何有興趣的人都可以擁有創(chuàng)建專業(yè)級深度偽造作品的能力。

第二，互聯(lián)網(wǎng)空間免費獲取數(shù)據(jù)集使深度偽造的門檻變得很低。計算機視覺社區(qū)已經(jīng)創(chuàng)建了帶有標(biāo)記的視覺材料的大型數(shù)據(jù)集，其中許多數(shù)據(jù)集都可以在互聯(lián)網(wǎng)上免費獲得，深度偽造數(shù)據(jù)的創(chuàng)建者可以很容易地訪問這些數(shù)據(jù)集；此外，由于云計算提供的服務(wù)，訓(xùn)練機器學(xué)習(xí)算法所需的計算能力成本較低。

第三，深度偽造中占比最高的是色情和政治類作品。從傳播學(xué)的角度看，色情和政治類作品往往具有低俗、虛假、傳播快的特性，加上人性的獵奇心理，使得色情和政治類深度偽造作品傳播最廣。

第四，近年來歐美國家的政治極化也加快了深度偽造信息的傳播速度。政治極化的一個重要后果就是減少了公眾之間跨領(lǐng)域政治互動的機會；而同質(zhì)的社交網(wǎng)絡(luò)又降低了對不同觀點的容忍度，放大了理念上的兩極化，在一定程度上提高了接受意識形態(tài)兼容新聞的難度。這些趨勢創(chuàng)造了一個深度偽造作品高度吸引特定受眾群體的環(huán)境。

深度偽造對國家安全的威脅與挑戰(zhàn)

從近年來世界上出現(xiàn)的各種深度偽造案例及其發(fā)展趨勢來看，深度偽造無論是對國際安全、國家傳統(tǒng)安全（如軍事安全和政治安全），還是國家非傳統(tǒng)安全，都帶來了越來越大的沖擊和挑戰(zhàn)。

（一）對國際安全的威脅和對國際形勢的影響

第一，深度偽造會破壞國際社會的戰(zhàn)略互信并沖擊脆弱的和平環(huán)境。從國際安全和國際形勢穩(wěn)定的角度看，深度偽造與其他顛覆性數(shù)字技術(shù)相結(jié)合，將極大地降低全球和區(qū)域多邊機構(gòu)以及國際關(guān)系行為體彼此間的信任。對于在國際社會和國際安全領(lǐng)域試圖制造事端的國家與非國家行為體而言，它們可以隨時獲取和利用深度偽造技術(shù)，減少信息武器化的障礙，擴大參與并深度影響國際安全形勢。

第二，深度偽造有可能會影響軍事決策和軍備控制。一些國家的政治和軍事領(lǐng)導(dǎo)人依賴公開與秘密的信息環(huán)境做出重大決策，特別是在重大危機面前，需要快速做出決策。但武器化的深度偽造可以被用來擾亂信息環(huán)境，這在持續(xù)的政治和軍事緊張局勢中，可能會引發(fā)國際危機甚至導(dǎo)致對立或?qū)沟纳墶?/p>

第三，涉及他國領(lǐng)導(dǎo)人的深度偽造作品不僅會給國家領(lǐng)導(dǎo)人帶來負(fù)面影響，也會影響國家間關(guān)系。

第四，深度偽造很可能會成為國際恐怖活動的催化劑?？植澜M織可以通過深度偽造的視頻或音頻，展現(xiàn)對手包括政府官員發(fā)表煽動性言論或從事挑釁性行動，最大限度地對其目標(biāo)受眾產(chǎn)生有利于恐怖組織的影響。

（二）給國家傳統(tǒng)安全帶來的挑戰(zhàn)

首先，指揮自動化系統(tǒng)方面的深度偽造為雙方軍事行動提供戰(zhàn)術(shù)優(yōu)勢。在現(xiàn)代軍事體系中，指揮自動化系統(tǒng)是軍隊的神經(jīng)中樞，這一系統(tǒng)的核心就是戰(zhàn)爭或戰(zhàn)場信息的獲取、處理以及運用。這就給對手提供了利用信息的空間。在未來的軍事行動中，可以生成高級指揮官的深度偽造，向?qū)κ值牟筷犗逻_虛假或矛盾的命令。

其次，深度偽造給國家政治安全帶來更大的挑戰(zhàn)和威脅。數(shù)字時代特別是人工智能技術(shù)的發(fā)展給各國進行政治戰(zhàn)帶來了顛覆性的變化。人工智能驅(qū)動的系統(tǒng)可以快速生成修改過的內(nèi)容和深度偽造的數(shù)字產(chǎn)品，從而推動針對目標(biāo)國家民眾和國家利益的虛假敘事，沖擊目標(biāo)國家民眾的心理，侵蝕目標(biāo)國家社會的信任，給政治安全帶來更大的挑戰(zhàn)和威脅。

最后，深度偽造會改變“脆弱國家”在國家治理方面的政治進程。經(jīng)濟合作與發(fā)展組織將脆弱性視為一種普遍現(xiàn)象，脆弱指數(shù)比較高的國家往往存在政治與社會局勢不穩(wěn)定、經(jīng)濟落后和治安混亂等現(xiàn)象。被視為“脆弱國家”的往往都是整體發(fā)展水平比較落后的發(fā)展中國家。在“脆弱國家”，深度偽造可能加劇社會分裂、內(nèi)亂、恐慌和沖突，造成政局動蕩，甚至?xí)?dǎo)致暴力沖突和軍事政變。

（三）給非傳統(tǒng)國家安全帶來的挑戰(zhàn)

首先是國家層面：深度偽造的內(nèi)容會損害國家的經(jīng)濟穩(wěn)定。深度偽造危害國家經(jīng)濟安全的常見手段有以下幾種：一是通過捏造政府部門如財政、商務(wù)和金融監(jiān)管機構(gòu)的行為影響市場走勢；二是制造虛假的突發(fā)性事件，對期貨市場和股市構(gòu)成重大沖擊；三是惡意銀行擠兌，當(dāng)公眾對金融形勢或銀行健康運轉(zhuǎn)的懷疑開始變得普遍時，社交媒體可以迅速放大它們，讓擠兌變得更加瘋狂。

其次是企業(yè)層面：深度偽造給企業(yè)帶來的威脅和挑戰(zhàn)更為直接。受深度偽造信息的影響，全球企業(yè)每年損失高達780億美元，其中包括90億美元用于修復(fù)聲譽損失和170億美元因財務(wù)虛假信息而造成的損失。全球領(lǐng)先的戰(zhàn)略傳播和公共事務(wù)咨詢公司富思博睿格潤分析了深度偽造對企業(yè)構(gòu)成的五種潛在威脅：網(wǎng)絡(luò)釣魚攻擊、交易欺詐、對企業(yè)進行勒索、股票操縱、偽造監(jiān)管行為。這五種“潛在威脅”，有一些實際已經(jīng)發(fā)生了。

最后是個人層面：深度偽造主要被用于欺詐或勒索行為。針對個人的深度偽造主要有以下幾種情形：一是身份盜竊，即有針對性地深度偽造來竊取個人身份；二是冒名頂替詐騙，詐騙者可能會復(fù)制特定個人的聲音，通過人工智能系統(tǒng)撥打受害者的電話進行詐騙；三是網(wǎng)絡(luò)勒索，即使用深度偽造來生成更有說服力的虛假勒索材料勒索受害人。

需要指出的是，單一深度偽造的影響并不局限于單一類型或類別的風(fēng)險，而是會在不同層次引發(fā)連鎖反應(yīng)。深度偽造的影響往往從個人層面開始，進而對個人所在的團體或組織造成傷害，隨著深度偽造案例的累積和疊加，可能會影響社會心理，導(dǎo)致社會信任的普遍缺失。

深度偽造治理：基于總體國家安全觀的視角

應(yīng)對深度偽造帶來的挑戰(zhàn)，應(yīng)該以總體國家安全觀為指導(dǎo)，建立綜合治理體系。

（一）必須堅持以人民安全為宗旨

作為新興技術(shù)的副產(chǎn)品，深度偽造同樣也給中國國民安全帶來了威脅和挑戰(zhàn)。對深度偽造的治理，要本著對社會負(fù)責(zé)、對人民負(fù)責(zé)的態(tài)度，加強對人工智能和網(wǎng)絡(luò)空間的治理；還要廣泛依靠人民培養(yǎng)積極健康、向上、向善的數(shù)字生態(tài)系統(tǒng)。

數(shù)字時代帶來的一個巨大變化就是個人作為個體行為主體的角色參與培育和保護值得信賴的數(shù)字和信息生態(tài)系統(tǒng)。相當(dāng)大比例的數(shù)字內(nèi)容是由個人用戶生成的，個人也可以確保準(zhǔn)確和良性的信息被共享。所以，整個社會要有意識地在個人層面培養(yǎng)公眾在數(shù)字時代、人工智能時代的道德意識和社會責(zé)任感。只有更多的公眾意識到了深度偽造可能造成的危害，進而在整個社會培養(yǎng)防范深度偽造的公眾意識，深度偽造對國民安全造成的威脅才能降到最低。公眾意識是防范深度偽造的最好“疫苗”。

（二）必須以維護國家政治安全為根本

深度偽造對中國政治安全帶來的挑戰(zhàn)主要表現(xiàn)為宗教極端思想和民族分離勢力的滲透和分裂活動，特別是西方國家利用所謂的新疆民族和宗教問題，試圖分裂中國，以及利用“港獨”勢力禍亂中國香港，給“一國兩制”在香港的實施制造麻煩。在涉疆、涉港問題上，西方媒體制作了包括深度偽造在內(nèi)的大量虛假報道，極力抹黑中國政府的治疆、治港政策。所以，對深度偽造技術(shù)的治理，要上升到維護國家政治安全的高度，以嚴(yán)密防范和打擊利用人工智能和數(shù)字技術(shù)進行滲透和顛覆活動、暴力恐怖活動、民族分離活動和宗教極端活動。

（三）既重視傳統(tǒng)安全又重視非傳統(tǒng)安全

在傳統(tǒng)安全方面，深度偽造在國土安全和國防安全領(lǐng)域同樣給中國帶來了一些新挑戰(zhàn)。無論是在和平時期，還是在未來可能的戰(zhàn)爭條件下，中國指揮自動化系統(tǒng)同樣會面臨競爭對手利用深度偽造技術(shù)進行干擾和誤導(dǎo)的威脅；競爭對手和境外敵對勢力也會繼續(xù)利用深度偽造技術(shù)對中國發(fā)動政治戰(zhàn)，降低中國民眾對中國社會制度和執(zhí)政黨的信任度。為此，一方面，中國要加快國防和軍隊的現(xiàn)代化建設(shè)，貫徹習(xí)近平強軍思想和新時代軍事戰(zhàn)略方針，統(tǒng)籌推進傳統(tǒng)安全領(lǐng)域和新型安全領(lǐng)域軍事斗爭準(zhǔn)備；另一方面，深度偽造基本上是以互聯(lián)網(wǎng)為基本載體，維護政治安全一定要高度重視網(wǎng)絡(luò)意識形態(tài)安全問題。

但我們也要看到，深度偽造更多是針對個體用戶，其所帶來的非傳統(tǒng)安全問題也更為普遍和突出，這也是中國各執(zhí)法部門必須面對的現(xiàn)實問題。因而需要把處理和應(yīng)對深度偽造引發(fā)的非傳統(tǒng)安全問題“放在貫徹落實總體國家安全觀中來思考，放在推進國家治理體系和治理能力現(xiàn)代化中來把握”。

（四）要兼顧外部安全與內(nèi)部安全及自身安全與共同安全兩對關(guān)系

首先，各國須齊心協(xié)力應(yīng)對。深度偽造作為全球共同安全威脅早已越出國界，任何一個國家的短板都可能會造成外部風(fēng)險的涌入，形成安全風(fēng)險洼地。

其次，建立良好的數(shù)字生態(tài)系統(tǒng)治理深度偽造問題。一是尊重網(wǎng)絡(luò)主權(quán)。即要尊重各國自主選擇網(wǎng)絡(luò)發(fā)展道路和管理模式以及平等參與國際網(wǎng)絡(luò)空間管理的權(quán)利，不干涉他國內(nèi)政，不從事、縱容和支持危害他國國家安全的網(wǎng)絡(luò)活動。二是維護和平安全。網(wǎng)絡(luò)空間不能成為各國角力的戰(zhàn)場和違法犯罪的溫床。三是構(gòu)建良好秩序。既要尊重公眾交流思想、表達意愿的權(quán)利，也要依法構(gòu)建良好的網(wǎng)絡(luò)秩序。四是堅持多邊主義。各國應(yīng)加強溝通交流，完善網(wǎng)絡(luò)空間對話機制，同時發(fā)揮政府、國際組織、互聯(lián)網(wǎng)企業(yè)、技術(shù)社群、民間機構(gòu)和公民個人等各個主體的作用。

最后，必須發(fā)揮聯(lián)合國等機構(gòu)的作用。在聯(lián)合國及其相關(guān)機構(gòu)的參與主導(dǎo)下，參考一些國家和地區(qū)處理深度偽造的監(jiān)管機制和方法，制定國際公認(rèn)的規(guī)范和技術(shù)標(biāo)準(zhǔn)，是目前能夠被大多數(shù)國家所接受的、打造良好的數(shù)字生態(tài)系統(tǒng)的可行路徑。

（五）在總體國家安全架構(gòu)下完善針對深度偽造的綜合治理體系

深度偽造技術(shù)出現(xiàn)后，中國比較早認(rèn)識到這一新興技術(shù)對國家安全的威脅，并不斷采取應(yīng)對舉措加強在這一領(lǐng)域的治理，形成了較為完善的綜合治理體系。首先，中國正在逐漸完善應(yīng)對深度偽造的法律體系；其次，有針對性地頒布遏制惡意深度偽造行為的管理條例和規(guī)定；再次，從立法到執(zhí)法，強化并壓實信息發(fā)布平臺的責(zé)任；最后，完善公民公共安全教育體系。

結(jié)語

人工智能和其他數(shù)字技術(shù)的不斷進步，互聯(lián)網(wǎng)技術(shù)的進一步普及，使得深度偽造技術(shù)產(chǎn)品的質(zhì)量、數(shù)量和多樣性在穩(wěn)步上升。它所造成的潛在風(fēng)險也為各國敲響了警鐘。目前，包括中國、美國、歐盟和聯(lián)合國在內(nèi)的大國和國際組織都已經(jīng)認(rèn)識到深度偽造給國家和國際安全帶來的挑戰(zhàn)和威脅，并從新技術(shù)的研發(fā)、加強對信息發(fā)布平臺的監(jiān)管以及社會立法等方面采取行動，力求遏制惡意深度偽造帶來的各種威脅。國際社會也必須摒棄國際安全治理的雙重標(biāo)準(zhǔn)，倡導(dǎo)綜合安全、合作安全、共同安全的理念，共同打造數(shù)字時代人類安全的命運共同體。