可怕的“深度偽造”技術(shù)

苗爭鳴

人工智能、大數(shù)據(jù)、深度學(xué)習(xí)等新興技術(shù)的廣泛應(yīng)用深刻影響著國際安全的各領(lǐng)域：一方面，技術(shù)變革為國家間交流融合提供機(jī)遇;另一方面，新技術(shù)的不當(dāng)使用沖擊現(xiàn)有國際秩序和規(guī)范。其中，借助機(jī)器學(xué)習(xí)系統(tǒng)、操縱圖像視頻和音頻內(nèi)容，更改人臉、物體或環(huán)境呈現(xiàn)方式的“深度偽造”（Deepfake）技術(shù)，借助海量訓(xùn)練數(shù)據(jù)，生成眾多虛假視頻和音頻新聞，使辨別信息真?zhèn)巫兊美щy，人類已無法信任看似真實(shí)的視頻內(nèi)容，若不能及時(shí)規(guī)范此類行為，國際信任體系面臨崩塌風(fēng)險(xiǎn)。

“深度偽造”技術(shù)的起源

“深度偽造”是使用被稱作“生成式對抗網(wǎng)絡(luò)”（Generative Adversarial Networks）的機(jī)器學(xué)習(xí)模型，將圖片或視頻合并疊加到源圖片或視頻上，借助神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行大樣本學(xué)習(xí)，將個人的聲音、面部表情及身體動作拼接合成虛假內(nèi)容的人工智能技術(shù)。這種技術(shù)能對聲音、圖像或視頻進(jìn)行數(shù)字處理以模仿某特定人物，并且隨著輸入神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本量不斷增加，訓(xùn)練生成的數(shù)據(jù)和圖像會越來越逼真，以至于觀察者最終無法通過肉眼明辨真?zhèn)巍?/p>

“深度偽造”已經(jīng)成為“視頻換臉”的代名詞。一般來講，面部偽造分三個步驟：首先，提取來源圖像和目標(biāo)圖像數(shù)據(jù);其次，借助神經(jīng)網(wǎng)絡(luò)編碼器和解碼器訓(xùn)練面部替換模型;最后，生成偽造圖像。當(dāng)前“深度偽造”技術(shù)主要有四種類型：第一種是借助軟件更換面部，也是目前為止用得最多的，例如已被我國禁用的換臉軟件“ZAO”;第二種是操縱人臉動作，重塑表情、口型和速度，讓其發(fā)表非其真實(shí)意圖的言論，如特朗普在推特上轉(zhuǎn)發(fā)并大加嘲諷的美國眾議長佩洛西說話結(jié)巴的偽視頻;第三種是借助深度學(xué)習(xí)技術(shù)，創(chuàng)建在現(xiàn)實(shí)生活中并不存在的面部圖像，如在職場社交平臺領(lǐng)英（LinkedIn）中被稱為“數(shù)字間諜”的凱蒂·瓊斯（Katie Jones），就是人工創(chuàng)造的虛擬頭像，目的是收集政府官員信息;第四種是將面部表情與聲音結(jié)合，借助深度學(xué)習(xí)，創(chuàng)建聲音模型，如最近有犯罪分子創(chuàng)建德國某集團(tuán)公司總裁的聲音模型，成功騙取其英國分公司幾十萬歐元的案例。

美國一個視頻網(wǎng)站展示的使用“深度偽造”技術(shù)生成前總統(tǒng)奧巴馬發(fā)表談話假視頻制作過程。

面部偽造技術(shù)可追溯至20世紀(jì)60年代，當(dāng)時(shí)計(jì)算機(jī)生成圖像首次出現(xiàn)，到80年代，好萊烏制片商開始使用“換臉”特效技術(shù)，比如在電影《阿甘正傳》中男主角受到肯尼迪總統(tǒng)接見的片段。1997年出現(xiàn)了視頻重構(gòu)技術(shù)，能將音頻和視頻同步。2014年，美國蒙特利爾大學(xué)研究人員將兩個神經(jīng)網(wǎng)絡(luò)放在模塊中競爭學(xué)習(xí)，一個是偽造圖像的生成模型，另一個是鑒別模型，在幾乎沒有人類監(jiān)督的情況下，通過博弈相互訓(xùn)練，極大地發(fā)展了“深度偽造”技術(shù)。目前“深度偽造”技術(shù)被情報(bào)部門、電影廠商和技術(shù)公司日益廣泛地使用，普通民眾也可借助軟件制作視頻在網(wǎng)上散播。

對國際安全的影響

“深度偽造”技術(shù)能夠攪渾輿論場。社交網(wǎng)絡(luò)的信息傳播速度遠(yuǎn)超傳統(tǒng)媒體，“深度偽造”的視頻借助病毒式傳播手段快速擴(kuò)散，即使有關(guān)產(chǎn)品被中途封殺，也能在起初的很短時(shí)間內(nèi)造成社會影響。研究表明，政治類假消息比經(jīng)濟(jì)、科學(xué)、自然災(zāi)害類更易被關(guān)注，而現(xiàn)在世界各國司法系統(tǒng)均已接受依賴視頻及音頻作為可采證據(jù)。這種技術(shù)如被不法分子利用，有計(jì)劃地進(jìn)行虛假宣傳，將能把持輿論走向。“深度偽造”技術(shù)還可根據(jù)用戶偏好，有針對性地向特定目標(biāo)推送加工過的合成視頻內(nèi)容，塑造和加深標(biāo)簽用戶的價(jià)值觀和態(tài)度，誘導(dǎo)其放棄區(qū)分事實(shí)真相的意愿。

“深度偽造”技術(shù)增加誤判幾率和戰(zhàn)爭風(fēng)險(xiǎn)。信息已成為新興資源和數(shù)字財(cái)富，網(wǎng)絡(luò)空間不斷發(fā)生著利益沖突和信息戰(zhàn)爭，加上網(wǎng)絡(luò)空間追蹤溯源技術(shù)仍比較弱，也就成為虛假視頻的溫床。未來，一條合成的虛假視頻可能撬動國際安全秩序，增加戰(zhàn)爭爆發(fā)的風(fēng)險(xiǎn)和對國際局勢誤判的幾率。比如，偽造白人虐待有色人種視頻可煽動起種族沖突，偽造一國政要和明星煽動性言論可激化國家間矛盾，散播關(guān)于生物病毒、核打擊和恐怖活動的假新聞可引發(fā)社會恐慌和動亂，甚至能在投票前夕最關(guān)鍵階段直接影響一國選舉結(jié)果。

“深度偽造”技術(shù)也能侵蝕國際信任體系。信任是國家和社會運(yùn)行的根本，也是國家間交往的基礎(chǔ)，自音頻與視頻技術(shù)記錄了眾多歷史事件，塑造了社會價(jià)值觀和思想。欺騙者可以借助“深度偽造”技術(shù)制造傳播偽造的聲音、圖像及視頻，或?qū)⒄嬉曨l指鹿為馬為假視頻，以達(dá)到欺詐公眾、進(jìn)行污蔑性宣傳、顛覆政府公信力的目的。當(dāng)廣大民眾開始下意識地懷疑所看到的一切影像資料時(shí)，國家和世界信任體系的崩塌就開始了。

如何應(yīng)對

可借助技術(shù)手段進(jìn)行前期甄別。如何跟蹤和驗(yàn)證數(shù)據(jù)內(nèi)容來源，是國家在網(wǎng)絡(luò)空間面臨的重大挑戰(zhàn)，掌握檢測、識別、追蹤溯源和打擊偽造數(shù)字內(nèi)容的尖端技術(shù)能力至關(guān)重要。若通過可信的技術(shù)手段追蹤數(shù)字內(nèi)容（包括虛假視頻、圖像、音頻等）的歷史，就能追溯并證明其原創(chuàng)性和真實(shí)性，幫助用戶進(jìn)行識別。美國國防部高級研究計(jì)劃局已著手研究如何檢測虛假視頻，提出使用遞歸神經(jīng)網(wǎng)絡(luò)和膠囊網(wǎng)絡(luò)技術(shù)檢測和鑒別偽造視頻，并借助區(qū)塊鏈技術(shù)，追溯視頻來源。也有網(wǎng)絡(luò)巨頭和視頻網(wǎng)站設(shè)置了檢測虛假視頻的算法，在視頻上傳時(shí)進(jìn)行篩選和攔截，還通過設(shè)置視頻水印和“數(shù)字指紋”等辦法確定視頻來源。政府部門也可借助“數(shù)字取證”技術(shù)，如檢查視頻是否存在因修改視頻構(gòu)建方式產(chǎn)生的生理性結(jié)構(gòu)不一致現(xiàn)象，包括視頻中人物皮膚顏色和背景變化是否協(xié)調(diào)、所記錄的聲音與場景是否一致等。

必須依靠法律和規(guī)范來進(jìn)行事先預(yù)防和事后懲治。技術(shù)使用的本身并無對錯，但必須有相關(guān)制度和法律配套。傳統(tǒng)的法律和政策無法及時(shí)懲治非法使用“深度偽造”技術(shù)的行為。2018年12月，美國國會定義了“深度偽造”概念，并通過《禁止惡意深度偽造法令》。2019年6月，美國國會眾議院情報(bào)常設(shè)委員會召開關(guān)于人工智能操縱媒體和“深度偽造”技術(shù)對國家安全挑戰(zhàn)的公開聽證會，專門了解“深度偽造”和其它人工智能合成數(shù)據(jù)的隱患。紐約立法部門也在推動一項(xiàng)將數(shù)字資源定義為個人財(cái)產(chǎn)的法案。新加坡最近通過立法，允許政府下令刪除社交媒體平臺上的虛假內(nèi)容。

構(gòu)建國際技術(shù)聯(lián)盟和共同維護(hù)網(wǎng)絡(luò)安全社會的文化。一國法律手段能夠?qū)鴥?nèi)犯罪人員追究誹謗罪或傳播虛假信息罪，但對跨境散布的偽造視頻卻難有約束力。所以，應(yīng)推動建立國際技術(shù)聯(lián)盟和區(qū)域性技術(shù)應(yīng)急組織之類的機(jī)制，合作解決“深度偽造”可能帶來的問題，未雨綢繆布置跨國應(yīng)對之策。

由于網(wǎng)絡(luò)空間的特殊屬性，追溯和定位視頻發(fā)布者存有難度，且由于視頻傳播具有時(shí)間空隙，無法及時(shí)消除虛假視頻帶來的危害，網(wǎng)絡(luò)空間防御的成本遠(yuǎn)大于進(jìn)攻，且防御措施未必能確保奏效，在信息化時(shí)代應(yīng)對新技術(shù)給社會穩(wěn)定和國際安全帶來的沖擊任重道遠(yuǎn)。技術(shù)從業(yè)者，專注于解決工業(yè)界具體的需求和問題，對技術(shù)倫理和社會影響關(guān)注較少，面對技術(shù)的快速更新?lián)Q代，明確新興技術(shù)對倫理道德和國際安全的影響，需要由社會科學(xué)工作者參與把控。計(jì)算機(jī)科學(xué)、社會科學(xué)和人文學(xué)科研究人員應(yīng)跨越學(xué)科界限，協(xié)同營造技術(shù)文化的生態(tài)圈，把“深度偽造”技術(shù)的威力限制在籠子里。技術(shù)檢測和法律管控的手段必不可少，也需要科技巨頭以及各國間達(dá)成共識，促進(jìn)數(shù)據(jù)和隱私保護(hù)，并推廣能夠鑒別虛假信息的系統(tǒng)，提高社會公眾的風(fēng)險(xiǎn)和防范意識。