“深度偽造”技術(shù)的法律風(fēng)險及其協(xié)同治理研究

王惠敏，蔡士林

（1.江蘇師范大學(xué)法學(xué)院；2.中國礦業(yè)大學(xué)人文與藝術(shù)學(xué)院，江蘇徐州 221116）

1 問題的提出

習(xí)近平在世界人工智能大會上指出：“在移動互聯(lián)網(wǎng)、大數(shù)據(jù)、超級計(jì)算、傳感網(wǎng)、腦科學(xué)等新理論新技術(shù)驅(qū)動下，人工智能呈現(xiàn)深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控等新特征，正在對經(jīng)濟(jì)發(fā)展、社會進(jìn)步、全球治理等方面產(chǎn)生重大而深遠(yuǎn)的影響［1］?！薄吧疃葌卧臁奔夹g(shù)便是人工智能社會進(jìn)化過程中的縮影?！吧疃葌卧臁保―eep fake）是“深度學(xué)習(xí)”和“偽造”兩個詞的合成語，主要指對圖像、視頻和音頻進(jìn)行超現(xiàn)實(shí)的數(shù)字偽造［2］?！吧疃葌卧臁蓖ㄟ^操縱先前存在的視頻片段或圖片可以描述從未發(fā)生過的事情。例如喬丹·皮爾在短片《奧巴馬的“深度偽造”》中利用了過去鏈接地址的真實(shí)視頻進(jìn)行剪輯而創(chuàng)建了一個全新視頻，將自己想說的話借助奧巴馬表達(dá)出來。又如2019 年，臉書上流出美國現(xiàn)任總統(tǒng)特朗普批判比利時氣候問題的假視頻［3］。之前德國的研究團(tuán)隊(duì)就曾因?yàn)橹谱鞫鄧I(lǐng)導(dǎo)人的虛假視頻而被控訴［4］。針對此種情形，美國國會就“深度偽造”可能帶來的國家安全和個人隱私問題曾舉行過多場聽證會。無獨(dú)有偶，我國近期出現(xiàn)的“楊冪換臉”事件首次將“深度偽造”拉入國人的視野中來，后來在APPStore 中出現(xiàn)了包括“ZAO”“AI 換臉”“FaceApp”等多款應(yīng)用程序則是將“深偽”變成輿論的焦點(diǎn)。

隨著“深度偽造”技術(shù)被廣泛運(yùn)用，其犯罪邊界問題逐漸成為互聯(lián)網(wǎng)討論的熱門話題，尤其在大數(shù)據(jù)時代，個人信息的價值日益凸顯，此類糾紛必然也會越來越多［5］。遺憾的是，當(dāng)前理論界就法律與“深度偽造”技術(shù)的關(guān)系議題投入了一部分的精力，并取得相應(yīng)的研究成果，但基本上都以宏大敘事的方式展開，并未準(zhǔn)確理清二者的內(nèi)在聯(lián)系。隨著當(dāng)下時代從“技術(shù)就是生產(chǎn)力”到“知識就是生產(chǎn)力”再到“信息就是生產(chǎn)力”的轉(zhuǎn)化，以及云計(jì)算、物聯(lián)網(wǎng)和大數(shù)據(jù)的應(yīng)用與發(fā)展，個人信息成為大數(shù)據(jù)時代的重要財(cái)富［6］，“深度偽造”的技術(shù)風(fēng)險也日益凸顯，因此，探究該技術(shù)的治理路徑，不僅有利于“深度偽造”行為法律規(guī)制問題的研究更具有情景化效應(yīng)，而且也益于公民和國家法益的針對性保護(hù)。本文擬從“深度偽造”的技術(shù)原理出發(fā)，分析其法律風(fēng)險，并在此基礎(chǔ)上探尋治理路徑。

2 “深度偽造”的技術(shù)原理與主要類型

在回應(yīng)“深度偽造”技術(shù)治理路徑這一命題時，首先需要我們清晰勾勒出其技術(shù)原理和特征，因?yàn)檫@些技術(shù)關(guān)鍵點(diǎn)不僅直接影響甚至是決定未來法律發(fā)展的走向，而且還為法律變革提供了技術(shù)參數(shù)。誠如周佑勇［7］教授所言：“智能時代到來，我們必須深刻領(lǐng)悟其背后的技術(shù)載體和基礎(chǔ)，否則一切的法律變革都會成為自說自話的文字游戲?！?/p>

2.1 “深度偽造”的技術(shù)原理

本世紀(jì)初，圖像和音頻識別迎來了大數(shù)據(jù)時代和復(fù)雜模型時代。一方面，計(jì)算機(jī)的運(yùn)算能力繼續(xù)提高，研究人員能夠嘗試計(jì)算更大的復(fù)雜模型；另一方面，數(shù)字化攝影技術(shù)深入改變了人臉圖像的獲取手段，極大降低了人臉圖像的獲取成本，使得大數(shù)據(jù)的識別算法成為可能。自攝影技術(shù)誕生，人類便致力于尋找操作或控制媒體介質(zhì)的方法，最早可以追溯至19 世紀(jì)60 年代。典型例子便是拉罕·林肯的肖像，這張照片實(shí)際上是林肯頭部和約翰·卡爾霍恩身體的照片的結(jié)合［8］。由此可見，利用諸如多次曝光和組合印刷等技術(shù)對圖像進(jìn)行修改早已不再是“獨(dú)門秘籍”，而后來Photoshop 軟件甚至可以改變圖像實(shí)質(zhì)結(jié)構(gòu)，實(shí)現(xiàn)攝影藝術(shù)家的夙愿?！吧疃葌卧臁奔夹g(shù)的關(guān)鍵是使用“神經(jīng)網(wǎng)絡(luò)”（Neural Network）進(jìn)行機(jī)器學(xué)習(xí)。神經(jīng)網(wǎng)絡(luò)初期以節(jié)點(diǎn)網(wǎng)絡(luò)為特征，而節(jié)點(diǎn)網(wǎng)絡(luò)是由一組隨機(jī)設(shè)定的數(shù)值標(biāo)準(zhǔn)控制。正如經(jīng)驗(yàn)可以細(xì)化大腦的神經(jīng)節(jié)點(diǎn)，實(shí)例可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)系統(tǒng)一樣，如果網(wǎng)絡(luò)處理大量的樣本，它就可以創(chuàng)建越來越精確的模型。例如，華盛頓大學(xué)的研究人員曾用前總統(tǒng)巴拉克·奧巴馬的一段視頻來演示這項(xiàng)技術(shù)，使人覺得他說了一些無法理解的話［9］。就其本身而言，借助神經(jīng)網(wǎng)絡(luò)方法的機(jī)器學(xué)習(xí)將預(yù)示著創(chuàng)建假圖像、視頻和音頻的能力的升級。

“深度偽造”技術(shù)的興起主要得益于“生成式對抗網(wǎng)絡(luò)”（GAN）和“卷積神經(jīng)網(wǎng)絡(luò)”（CNN）。GAN 同時使用了兩個神經(jīng)網(wǎng)絡(luò)，一個稱為“生成器”的神經(jīng)網(wǎng)絡(luò)利用數(shù)據(jù)集生成一個模擬數(shù)據(jù)集的樣本，主要負(fù)責(zé)基于底層圖像數(shù)據(jù)集生成樣本輸出（例如圖像）；而另一個稱之為“鑒別器”的神經(jīng)網(wǎng)絡(luò)主要負(fù)責(zé)基于真實(shí)的目標(biāo)圖像對“生成器”生成的偽造圖像進(jìn)行驗(yàn)證和評估［10］。這兩個神經(jīng)網(wǎng)絡(luò)以迭代的方式生成逼真的“作品”，逐漸接近原始數(shù)據(jù)集中的圖像。“深度偽造”中算法之間進(jìn)行對抗式訓(xùn)練，提升彼此的速度以便生成高度仿真的虛假圖像或視頻。GAN 技術(shù)的日益優(yōu)化，無疑會出現(xiàn)一系列極具說服力且難以揭穿“產(chǎn)品”。而CNN 是一種專門處理具有類似網(wǎng)格結(jié)構(gòu)的數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)，例如時間序列的數(shù)據(jù)（可以視為在時間軸上有規(guī)律地采樣形成的一堆網(wǎng)絡(luò)）和圖像數(shù)據(jù)（可以視為二維的像素網(wǎng)絡(luò)）。這是第一個通過自動學(xué)習(xí)卷積核的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)，具備CNN 最基礎(chǔ)的性質(zhì)。此種卷積網(wǎng)絡(luò)結(jié)構(gòu)共分為七層，一個輸入層、兩個卷積層、兩個子采樣層、一個全連接層和一個輸入層［11］。

2.2 “深度偽造”技術(shù)的主要類型

2.2.1 視頻偽造：AI 換臉技術(shù)

應(yīng)當(dāng)說，視頻偽造是“深度偽造”的代表，同時也是社會治理上的重災(zāi)區(qū)。視頻偽造也被稱之為“AI 換臉技術(shù)”（AI Face Swap），該技術(shù)的運(yùn)行原理是通過GAN 抑或者CNN 等算法將目標(biāo)對象的面部“縫合”到被模仿的對象上［12］。人工智能、機(jī)器學(xué)習(xí)和生成式對抗網(wǎng)絡(luò)都是用戶創(chuàng)建“深度偽造”的工具。例如，紅迪網(wǎng)匿名用戶使用“張量流圖”（Tensor Flow，簡稱TF）將蓋爾·加朵的臉和其他名人的臉移到色情視頻中色情明星的身體上［13］，而關(guān)聯(lián)性的圖片皆是由Google、YouTube 等開源數(shù)據(jù)庫中獲取。這種轉(zhuǎn)換（面部替換）的實(shí)現(xiàn)都得益于“深度學(xué)習(xí)”，由相互連接的節(jié)點(diǎn)組成的網(wǎng)絡(luò)，這些節(jié)點(diǎn)會自動對輸入數(shù)據(jù)進(jìn)行自主計(jì)算，因此受害者的臉及其各種角度和位置都跟隨著視頻中的身體。詳言之，將模仿人物的視頻逐幀轉(zhuǎn)化成大量圖片，然后將模仿對象面部替換成目標(biāo)對象面部，最后將替換的圖片借助深度學(xué)習(xí)技術(shù)自動完成偽造視頻替換。

2.2.2 音頻偽造

過去音頻偽造的主要方法是創(chuàng)建一個大型數(shù)據(jù)庫，其中包含來自源的聲音片段，然后將這些片段組合并重新排序，以生成模擬語音。為了降低制作門檻和成本，滿足藝術(shù)尤其是電影業(yè)的發(fā)展需求，眾多科技公司將“深度偽造”技術(shù)的研發(fā)提上日程，諸如谷歌的“深層思維”部門（DeepMind）“Wavenet”模型、百度的DeepVoice 模型和GAN 模型。藍(lán)鳥公司（Lyre bird）曾發(fā)布了一些簡短的音頻剪輯，用以模擬巴拉克·奧巴馬、唐納德·特朗普和希拉里·克林頓對“深度偽造”技術(shù)的討論。就音頻而言，GANs 使用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)并再現(xiàn)源的屬性，并以毫秒為單位對語音進(jìn)行模型構(gòu)建。當(dāng)這個經(jīng)過處理的音頻與一個由GAN 創(chuàng)建的視頻結(jié)合在一起時，其結(jié)果是此視頻的外觀和聲音都與另一個視頻高度相似。但實(shí)際上這一“深度偽造”行為是用機(jī)器學(xué)習(xí)算法創(chuàng)建的，使用容易獲取的材料和開源代碼，任何具有深度學(xué)習(xí)算法工作知識的人都可以把它們放在一起［14］。人工智能時代，民眾獲取信息和數(shù)據(jù)的門檻被各種應(yīng)用程序拉低，各種傻瓜式的操作備受追捧，故而只要相關(guān)材料對公眾開放，任何一個擁有相關(guān)技術(shù)知識或使用應(yīng)用程序的人都可以利用它們來創(chuàng)作任何他或她想要的東西。這也從側(cè)面解釋了“深度偽造”技術(shù)可能異化為危險源的緣由。

3 “深度偽造”技術(shù)的法律風(fēng)險

“深度偽造”技術(shù)在形塑創(chuàng)新型社會的同時，也攜帶著內(nèi)在的法律風(fēng)險因子。事實(shí)上，對法律風(fēng)險給予必要關(guān)注，既是有效保護(hù)人類法益的需要，也是確保新技術(shù)良性發(fā)展的要求。

3.1 個人數(shù)據(jù)風(fēng)險系數(shù)驟增

隨著信息技術(shù)的發(fā)展，數(shù)據(jù)處理（傳輸、共享、儲存、計(jì)算等）成本快速下降，數(shù)據(jù)開始從簡單的信息代碼演變?yōu)橐环N資源［15］。特別是在數(shù)據(jù)挖掘和網(wǎng)絡(luò)爬蟲的技術(shù)加持下［16］，大規(guī)模處理個人信息正逐漸成為一種廣泛存在的經(jīng)濟(jì)現(xiàn)象，這推動了經(jīng)濟(jì)的發(fā)展和社會的進(jìn)步，但是也給公民自身帶來了不可避免的麻煩［17］。具體原因可以分為以下兩個方面。

第一，個人信息（自決）權(quán)形同虛設(shè)。個人信息權(quán)是指信息主體依法對其個人信息所享有的支配、控制并排除他人侵害的權(quán)利［18］。無論是理論界還是實(shí)務(wù)界、國內(nèi)抑或域外幾乎都異口同聲地強(qiáng)調(diào)大數(shù)據(jù)語境下法律應(yīng)當(dāng)著力維護(hù)信息主體的權(quán)益。盡管在權(quán)利屬性上可能存在分歧（“隱私權(quán)”“財(cái)產(chǎn)權(quán)”“新型權(quán)利”等），但絕大多數(shù)學(xué)者都認(rèn)為數(shù)據(jù)或信息國內(nèi)和跨境流通需要事先征得信息主體的同意，這被認(rèn)為是個人信息權(quán)的基礎(chǔ)。從形式上看，這種“同意”機(jī)制似乎為防止個人數(shù)據(jù)的濫用提供了保護(hù)罩，如此一來“深度偽造”的不正當(dāng)性概率就會降低。事實(shí)上，將事前同意作為個人信息自決權(quán)的關(guān)鍵既不現(xiàn)實(shí)也不科學(xué)。一方面，雖然各個網(wǎng)絡(luò)平臺都相繼設(shè)置了使用前的“用戶協(xié)議”或“提示條款”，但其內(nèi)容繁雜，且字體較小，短時間內(nèi)用戶難以理解內(nèi)容的真實(shí)含義，而若要繼續(xù)就必須選擇“同意”。另一方面，信息主體對于個人信息的控制力也相當(dāng)薄弱。以“深度偽造”中的“換臉視頻”為例，換臉需要A和B兩組數(shù)據(jù)模型，而模型的構(gòu)建有必須以彼此真實(shí)的視頻和音頻作為“深度學(xué)習(xí)”和計(jì)算的對象［19］。如果信息主體對于個人信息真實(shí)的強(qiáng)控制力存在，那么“深度偽造”的作品應(yīng)該是主體所許可或同意的，自然不會出現(xiàn)是所謂的“色情產(chǎn)品”。實(shí)際上，個人信息名義上歸屬于個人，但是其依賴的存儲路徑是服務(wù)器和終端設(shè)備，信息主體的占有權(quán)大打折扣。概言之，信息主體對于個人信息控制和決定權(quán)的虛化為“深度偽造”的蔓延提供了條件。

第二，并未劃定數(shù)據(jù)控制者和管理者的責(zé)任。大規(guī)模數(shù)據(jù)的共性分析不僅給信息控制者帶來可觀的商業(yè)利益，也直接改善了消費(fèi)者（信息主體）的生活和工作環(huán)境，帶來了快速迭代創(chuàng)新等便利［20］。獲得信息紅利的互聯(lián)網(wǎng)數(shù)據(jù)控制者內(nèi)在隱藏著一種抵牾情緒，不情愿在數(shù)據(jù)或信息審查上投入過多的成本。一方面，我國的互聯(lián)網(wǎng)發(fā)展處于上升期，單純依靠數(shù)據(jù)控制者去消解內(nèi)部和外部風(fēng)險超出了企業(yè)的心理預(yù)期。不可否認(rèn)，近年來我國積極推進(jìn)個人信息保護(hù)法的立法進(jìn)程，例如《刑法修正案九》增設(shè)了“侵犯公民個人信息罪”，但是依舊缺乏系統(tǒng)和全面的個人信息保護(hù)規(guī)范。此種背景下，既存條文對于數(shù)據(jù)控制者的責(zé)任規(guī)定過于原則，且注重追究刑事責(zé)任，這無疑為互聯(lián)網(wǎng)企業(yè)規(guī)避行政和民事責(zé)任塑造了僥幸心理［21］。另一方面，我國法律對于個人數(shù)據(jù)管理者的權(quán)責(zé)界定不明，容易出現(xiàn)互相推諉的情形，這給風(fēng)險的出現(xiàn)預(yù)留了機(jī)會窗口。作為互聯(lián)網(wǎng)管理的專門性機(jī)構(gòu)，國家互聯(lián)網(wǎng)信息辦公室在制度安排上強(qiáng)調(diào)網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體參與，共同構(gòu)建良好的網(wǎng)絡(luò)生態(tài)［22］。但是在具體的內(nèi)容設(shè)計(jì)上卻更多論證互聯(lián)網(wǎng)平臺、網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者以及使用者的義務(wù)和責(zé)任，例如2020 年施行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第3 條規(guī)定：“國家網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)全國網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和相關(guān)監(jiān)督管理工作，各有關(guān)主管部門依據(jù)各自職責(zé)做好網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理工作?！睂τ诒O(jiān)管的內(nèi)容、方式等具體細(xì)節(jié)并未詳加說明，且其他主體的責(zé)任規(guī)定占整個條文內(nèi)容的60%以上。

3.2 女性名譽(yù)和財(cái)產(chǎn)權(quán)備受沖擊

在科技人士暢談深度偽造可能帶來的技術(shù)“紅利”時，我們更應(yīng)該謹(jǐn)慎對待可能由此引發(fā)的法律風(fēng)險?！吧疃葌卧臁钡膶W(xué)習(xí)功能和算法特征的疊加提升了女性權(quán)益的受侵害風(fēng)險，而自媒體時代則進(jìn)一步促成了不可控局面的形成。

第一，侵害女性的名譽(yù)權(quán)?？陀^層面而言，名譽(yù)就是他人對自己的看法；主觀層面而言，則是自身對于他人看法的顧忌［23］。女性名譽(yù)體現(xiàn)為一種間接性的關(guān)系價值，也即當(dāng)他人的觀點(diǎn)或者看法足以影響自己生活時，這種評價才會被重視［24］。人是社會性的動物，女性在一個分工精細(xì)化的文明社會中，其大部分事情的完成都需要他人的協(xié)助，而在這種關(guān)系鏈中，他人對自己的評價就變得異常重要。女性名譽(yù)受到侵害不僅使其自身遭受精神痛苦，而且還會蔓延至工作、教育等多個環(huán)節(jié)，最終摧毀原有的良好社交關(guān)系。

第一次真正意義的“深度偽造”出現(xiàn)在Reddit的R/CelebFakes 版塊，該版塊“主要致力于將名人ps 成裸照。”例如2017 年9 月30 日，用戶“deepfakes”發(fā)布了一張女演員麥茜·威廉姆斯的虛擬臉，并制作了相關(guān)的性愛視頻。用戶開始根據(jù)彼此的數(shù)據(jù)集建立更有說服力的面部表情交換模型。盡管后來麥茜·威廉姆斯向該網(wǎng)站成功提出索賠，但仍未阻止相關(guān)偽造視頻的傳播，并且因此患上抑郁癥。誠如有學(xué)者所言：“人工智能技術(shù)的推進(jìn)，使得不被遺忘成為一種新常態(tài)，女性名譽(yù)的受損風(fēng)險指數(shù)上升［25］?！薄吧疃葌卧臁钡脑O(shè)計(jì)初衷與色情密切相關(guān)，許多偽造者會選擇制作女性的色情視頻。加之該技術(shù)操作簡單，使用者迅速增多，偽造的內(nèi)容自然也是千奇百怪，而相應(yīng)的受害對象也從最初的女明星發(fā)展為普通女性。例如諾埃爾·馬丁多年來一直是深度偽造的受害者，匿名者把她的臉ps 到其他人的色情照片上。后來攻擊升級，偽造者把(她)修改成色情視頻，似乎顯示(她)進(jìn)行了多次性行為［26］。此種語境下的“深度偽造”儼然已經(jīng)成為對女性名譽(yù)攻擊的工具。實(shí)際上，只需要“一兩個他們想要偽造的面孔的高質(zhì)量視頻”，任何人都可以利用Fake APP 制作女性性愛視頻。上述侵害形式與我國《民法典·人格權(quán)編》中關(guān)于名譽(yù)權(quán)構(gòu)成要件相吻合，此外《婦女權(quán)益保障法》第39 條也規(guī)定：“婦女的名譽(yù)權(quán)和人格尊嚴(yán)受法律保護(hù)。禁止用侮辱、誹謗、宣揚(yáng)隱私等方式損害婦女的名譽(yù)和人格?！?/p>

第二，危及女性的財(cái)產(chǎn)權(quán)。由于“深度偽造”背后的算法技術(shù)日漸成熟，它對于女性權(quán)益的侵害就變得簡單和不易識別，“色情報復(fù)”便是典型代表。色情復(fù)仇，也被稱為“非自愿色情”或“非經(jīng)雙方同意的色情”，指“在女性不同意或不知情的情況下，傳播其的色情照片或視頻，目的主要在于以此向?qū)Ψ嚼账髫?cái)物［27］。”“深度偽造”的興起，使得圖片和視頻都有可能被“ps 成性愛”，女性自然成為大部分虛假性愛視頻的受害者。事實(shí)上，一些社交媒體用戶已經(jīng)表示有興趣在自己的生活中與各種各樣的女性進(jìn)行“深度偽造”。例如澳大利亞的高中生艾娃喜歡將自拍照片上傳到Instagram 去記錄和分享生活，然而卻被他人通過“網(wǎng)絡(luò)爬蟲”的方式竊取并偽造成性愛視頻發(fā)送給她。偽造者向其索要財(cái)物并聲稱，如果不支付足夠的財(cái)物，就將視頻公之于眾。遺憾的是，在她向司法機(jī)關(guān)求助無望的情況下自殺身亡［28］。

由于技術(shù)的通用性，“深度偽造”得以在任何常規(guī)視頻的環(huán)境中使用，而這對于女性來說無疑是一場災(zāi)難。有統(tǒng)計(jì)數(shù)據(jù)顯示，“深度偽造”出現(xiàn)以來，針對女性的敲詐、勒索、恐嚇等數(shù)字顯著攀升［29］。本文認(rèn)為可以歸結(jié)為3 個方面的原因。其一，現(xiàn)實(shí)生活中女性仍然屬于弱勢群體，當(dāng)無法證明視頻實(shí)際上是偽造的，她們會處于恐懼狀態(tài)且多數(shù)情形下會選擇沉默，故而容易成為受侵害的對象。其二，“深度偽造”技術(shù)的盛行會導(dǎo)致真實(shí)視頻的價值就會降低。正如有學(xué)者指出，試想如果偽造視頻不能被信任，那么就需要一個確證的視頻來揭穿另一個“深度偽造”是被篡改，而這無疑使本應(yīng)得到證實(shí)的證據(jù)得到認(rèn)可的成本變高［30］。時至今日，視頻一直是一個相對可靠的信息來源，但是，一旦“深度偽造”變得更受歡迎，任何視頻的價值——無論是真的還是假的——都必然會下降，因?yàn)闆]有可靠的方法來確定視頻是否被操縱。其三，對于女性權(quán)益保護(hù)的法律途徑并不暢通。法學(xué)界認(rèn)為，“深度偽造”行為的女性受害者幾乎沒有法律追索權(quán)，因?yàn)榉蓪κ芎φ呖善鹪V的對象進(jìn)行了限制。由于互聯(lián)網(wǎng)上普遍存在匿名性，如果一位女士受到“深度偽造”的傷害，卻找不到視頻的創(chuàng)作者，那么她可能就沒有可識別的起訴對象。例如美國《通信規(guī)范法》授予網(wǎng)站對第三方內(nèi)容的索賠豁免權(quán)，我國《民法典》也并未強(qiáng)化互聯(lián)網(wǎng)運(yùn)營商的注意和監(jiān)管義務(wù)。故而，法律并不支持受害女性起訴一家社交媒體網(wǎng)站所上傳“深度偽造”視頻或音頻的行為。

3.3 大眾知情權(quán)和表達(dá)自由受限

自20 世紀(jì)40 年代提出知情權(quán)概念后,知情權(quán)很快成為新聞傳播學(xué)中的核心問題,也成為法學(xué)研究的重大課題［31］。所謂知情權(quán)其基本含義是公民有權(quán)知道他應(yīng)該知道的事情，國家應(yīng)最大限度地確認(rèn)和保障公民知悉、獲取信息、尤其是政務(wù)信息的權(quán)利［32］。在信息成為生產(chǎn)要素的信息時代，網(wǎng)絡(luò)知情權(quán)意味著國家應(yīng)最大限度地確認(rèn)和保障公民知悉、獲取政務(wù)和本人真實(shí)信息的權(quán)利。表達(dá)自由亦稱“言論自由”，指公民依法享有的，以合法方式發(fā)表、公開、傳播客觀事實(shí)信息或個人主觀意見的自由權(quán)利［33］?！吧疃葌卧臁奔夹g(shù)的運(yùn)行邏輯仿佛一臺謊言機(jī)器，加之網(wǎng)絡(luò)介質(zhì)的傳輸特性，頃刻間贗品便被傳遞到世界的每個角落［34］。

大眾知情權(quán)和表達(dá)自由從立法規(guī)范轉(zhuǎn)化為具體權(quán)利的內(nèi)核是什么，這直接關(guān)系到兩項(xiàng)權(quán)利能否落地的關(guān)鍵。本文認(rèn)為，知情權(quán)和表達(dá)自由都是將民眾納入政治主體作為終極目標(biāo)，完成監(jiān)督公民身份的形塑。一方面，民主制度的歷次變革和推進(jìn)都將民眾權(quán)利義務(wù)嵌入其中進(jìn)行建構(gòu)，無論是英國的“光榮革命”所創(chuàng)立的君主立憲制抑或是我國的“辛亥革命”建立的共和政體都佐證了這一點(diǎn)。另一方面公民從現(xiàn)代國家主權(quán)下的法律身份向積極參與政治、公共領(lǐng)域的對話和對共同體的一部分漸變和進(jìn)化。顯然，“深度偽造”技術(shù)堵塞甚至摧毀了現(xiàn)代國家公民間、公民與國家的對話通道，遮蔽了民主前行的“眼睛”。

具體而言，“深度偽造”借助于“網(wǎng)絡(luò)爬蟲”等技術(shù)將零散的圖片或視頻從網(wǎng)絡(luò)中抓取并篩選出來，然后進(jìn)行剪輯和拼裝，最后在自動編碼器和卷積神經(jīng)網(wǎng)絡(luò)的加持下，制造出以假亂真的“產(chǎn)品”。在既存甄別技術(shù)條件下，民眾不可能精準(zhǔn)辨識，偽造的事實(shí)也基本上是博人眼球?yàn)樵瓌恿Γ粋€信息越是被關(guān)注，謠言就越有可有能會產(chǎn)生。因此，特殊的環(huán)境會提升公眾對相關(guān)信息的關(guān)注度。如果一個群體處境危險，或處境困難，群體中的許多成員可能比較易怒，并且容易責(zé)備他人。當(dāng)危機(jī)出現(xiàn)，或可怕的事情發(fā)生，“深度偽造”就不可避免了［35］。例如新型冠狀病毒疫情期間，就有網(wǎng)絡(luò)用戶利用該技術(shù)偽造出子虛烏有的事實(shí)。此種語境下民眾的知情權(quán)便被削弱甚至剝奪，信息流動的路徑會被新偽造的通道置換，出現(xiàn)所謂的信息障礙和信息不對稱現(xiàn)象。由于源頭的信息錯誤，民眾接受和二次傳播的信息必然也存在重大瑕疵，而在此基礎(chǔ)上產(chǎn)生的評價性觀點(diǎn)以及社會輿論也隨之偏向，可能形成民意與司法的對抗或撕裂［36］。

4 “深度偽造”技術(shù)的協(xié)同治理

越來越多的國家跳出了傳統(tǒng)以技術(shù)維度為主解決“深度偽造”技術(shù)的問題框架，開始將其納入社會治理的范疇以實(shí)現(xiàn)綜合治理，例如美國通過自上而下的審慎規(guī)則，歐盟選擇主動出擊的形式應(yīng)對危機(jī)。本文認(rèn)為，立足國情，我國應(yīng)當(dāng)選擇協(xié)同治理模式，構(gòu)建“三位一體”的治理路徑，將包括法律、技術(shù)、平臺義務(wù)等在內(nèi)的三個方面納入其中。

4.1 法律層面：不宜擴(kuò)大既存的違法犯罪圈

面對以“深度偽造”技術(shù)的代表的生物特征識別技術(shù)的滲透式發(fā)展，有學(xué)者認(rèn)為其已經(jīng)觸及到公民個人信息權(quán)的內(nèi)核，而現(xiàn)存的評價體系存在兩種缺陷和不足：其一，對深度偽造的規(guī)制僅旁敲側(cè)擊，是一種“兩頭重、中間輕”的模式；其二，無法完美應(yīng)對生物識別信息的濫用，主要原因在于并未深刻領(lǐng)悟“深度偽造”技術(shù)獨(dú)立的危害性后果，而習(xí)慣于與其他犯罪現(xiàn)象綁定規(guī)制［37］。應(yīng)當(dāng)說，這是一種較為激進(jìn)的觀點(diǎn)。

一方面，對于“深度偽造”技術(shù)的規(guī)制，既存的法律體系同樣具有層次性和梯度性。之所以認(rèn)為我國對于“深度偽造”的規(guī)制不足，主要理由是域外國家和地區(qū)都進(jìn)行了相關(guān)立法。例如美國2019 年的《深度偽造報告法案》《關(guān)于制作虛假視頻意圖影響選舉結(jié)果的刑事犯罪法案》等都通過立法直接表明了懲治的立場。就立法層面而言，不可否認(rèn)美國和歐盟都通過不同的立法方向去規(guī)范“深度偽造”技術(shù)的發(fā)展，但這并非意味我國的出路就是“照搬照抄”。我國近年來頒行的《關(guān)于辦理利用信息網(wǎng)絡(luò)實(shí)施誹謗等刑事案件適用法律若干問題的解釋》《App 違法違規(guī)收集使用個人信息行為認(rèn)定方法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)視頻信息服務(wù)管理規(guī)定》《民法典》《數(shù)據(jù)安全法》等已經(jīng)可以實(shí)現(xiàn)對于類如“深度偽造”的人工智能技術(shù)規(guī)制的理論供給。有學(xué)者認(rèn)為，從黑色產(chǎn)業(yè)鏈的角度來看，我國對于“深度偽造”技術(shù)的法律規(guī)制缺乏中游（中端）行為的考量。實(shí)際上，就“深度偽造”技術(shù)本身而言，可以分為：信息的獲取（上游行為）、算法的加工（中游行為）、偽造音頻或視頻的發(fā)布（下游行為）。如果但就中游行為而言，我們無法準(zhǔn)確判定其動機(jī)或意圖，故而不能直接法律介入。當(dāng)然這并不意味著前端行為的于法無據(jù)，上述法律及司法解釋對非法獲取信息或數(shù)據(jù)的行為同樣可以規(guī)制。與此同時，我國在向技術(shù)創(chuàng)新型國家轉(zhuǎn)變的過程中，需要給予新技術(shù)以正確的引導(dǎo)，而非一味地推崇“技術(shù)未動，懲罰先行”的思路。

另一方面，“深度偽造”本質(zhì)上是中立性技術(shù)，需要其他危害結(jié)果來充足構(gòu)成要件。有學(xué)者從全面和從嚴(yán)保護(hù)個人生物特征識別信息的角度出發(fā)，認(rèn)為既存的法律無法解決“合法獲取+非法使用”類型的“深度偽造”，因此倡導(dǎo)修改招搖撞騙罪和增加專屬性罪名兩個途徑［38］。通常刑法以實(shí)害結(jié)果作為行為規(guī)制的主要對象，而針對重大法益的則通過具體危險和抽象危險予以，這在本質(zhì)上屬于預(yù)防性刑法。事實(shí)上，預(yù)防性犯罪化的立法應(yīng)當(dāng)受到“重大風(fēng)險”“預(yù)防風(fēng)險”“完成危害”與“可歸責(zé)性”等四項(xiàng)要件的限制，否則會造成嚴(yán)重的過罪化［39］。而我國學(xué)者提出的招搖撞騙罪或者盜竊罪都屬于傳統(tǒng)的罪名，所以不能犯罪遷移，仍然需要維系構(gòu)成要件的完整性和充足性。概言之，無論民事、行政抑或是刑事領(lǐng)域，既存的法律體系都有能力實(shí)現(xiàn)對“深度偽造”技術(shù)的引導(dǎo)和規(guī)制，滿足基本的理論供給。

4.2 技術(shù)層面：“自證”+“它證”結(jié)合

4.2.1 要求“深度偽造”制作者標(biāo)識作品屬性

一方面，由于“深度偽造”技術(shù)操作日益簡單化，譬如通過FakeApp、ZaoApp 以及FaceApp 等便可完成偽造，所以使用者迅速增多。例如2019 年iOS 商店向中國用戶推出一款名為ZaoApp 的面部交換應(yīng)用程序，通過使用手機(jī)上的自拍照可以逼真地更改角色臉部，結(jié)果3 天之內(nèi)占據(jù)應(yīng)用程序下載量榜首［40］。另一方面，偽造的內(nèi)容自然也是千奇百怪，而相應(yīng)的受害對象也從最初的明星發(fā)展為政客，甚至是普通民眾。例如一段假視頻中顯示倡導(dǎo)控槍活動人士艾瑪·岡薩雷斯撕毀了一份憲法。實(shí)際上，在最初的視頻中，岡薩雷斯撕毀一張大紙，上面畫著普爾塞夫的靶子，但有人為了煽動性的目的篡改了圖像。申言之，“深度偽造”技術(shù)的濫用呈現(xiàn)出一種分散、隨機(jī)和難以主動監(jiān)管的特征。如此一來，就需要構(gòu)建一種全新的作者聲明義務(wù)體系，將其與真實(shí)作品進(jìn)行有效區(qū)隔。為了不阻礙“深度偽造”技術(shù)創(chuàng)造社會效益，不宜對制作者設(shè)置過高的義務(wù)，故而只需要遵循兩項(xiàng)基本要求：其一，偽造者在圖片或視頻的醒目位置以水印方式標(biāo)注作品系“深度偽造”，同時在偽造音頻的開頭和結(jié)束部分特別說明作品屬性；其二，偽造者在作品的傳輸、共享等過程中向他人或平臺履行提示義務(wù)。要求制作者標(biāo)識作品屬性，為減少“深度偽造”內(nèi)生性風(fēng)險提供了支持。

4.2.2 合作研發(fā)檢測性時間戳工具

“深度偽造”是人工智能技術(shù)與視頻、音頻處理技術(shù)的完美結(jié)合，它不是第一個，也必定不是最后一個。我們現(xiàn)在需要一種技術(shù)對其進(jìn)行反制，以便在失控的情形下可以減小危害。互聯(lián)網(wǎng)時代的信息擴(kuò)散呈指數(shù)級增長，故而一種快速發(fā)現(xiàn)“深度偽造”和普遍有效的方法將有助于解決這一緊迫的公共政策問題。應(yīng)當(dāng)說，這種破解技術(shù)需要緊跟深度偽造技術(shù)的創(chuàng)新才可能實(shí)現(xiàn)目標(biāo)。倘若這種技術(shù)存在并可以通過社交媒體平臺部署，上述系統(tǒng)性危害將會減少。最近有科技公司力圖創(chuàng)建驗(yàn)證偽造內(nèi)容的證據(jù)系統(tǒng)進(jìn)而快速確認(rèn)信息源的可靠性。但是需要說明的是這些系統(tǒng)一般是針對特定的偽造產(chǎn)品，無法惠及整個視頻或音頻，其適用范圍自然極其有限。

本文認(rèn)為，此種情形下應(yīng)該考慮開發(fā)低成本的時間戳工具，而不必期望內(nèi)容具有內(nèi)部認(rèn)證。時間戳是指在服務(wù)器為每一個區(qū)塊加上的時間序列，記錄了該區(qū)塊的產(chǎn)生時間，采用了Unix 的時間計(jì)數(shù)方式，一般會精確到秒。時間戳的存在，使得區(qū)塊上的信息得以保存，而且可以作為交易證明的一個很重要的信息。因?yàn)闀r間戳是寫入到區(qū)塊中的，同時在計(jì)算哈希值的過程中會將父區(qū)塊的時間戳納入進(jìn)行哈希散列，從而形成了對前一個時間戳的“增強(qiáng)”，而區(qū)塊一旦被鏈接上區(qū)塊鏈，就會成為全網(wǎng)所有節(jié)點(diǎn)的“公共賬本”，很難被篡改［41］。目前，部分生成內(nèi)容的語音和視頻記錄設(shè)備的制造商已經(jīng)開始嘗試使用各種時間戳工具，這些時間戳工具將元數(shù)據(jù)附加到特定設(shè)備創(chuàng)建的圖像和視頻上。該元數(shù)據(jù)可用于檢測某個文件是否已隨時間修改。

“深度偽造”技術(shù)濫用的受害者是信息主體，不是信息控制者，故而信息控制者很難有充分的激勵與能力保護(hù)個人數(shù)據(jù)，只是被動的應(yīng)付法律要求［42］。加之，時間戳工具的研發(fā)成本高昂且技術(shù)復(fù)雜，所以無論國有還是民營企業(yè)都不情愿加入這場技術(shù)和資金的角力中來。為了提高民營科技公司和高校的參與積極性，可以給予適當(dāng)?shù)亩愂諆?yōu)惠或者成果利用上的補(bǔ)貼［43］，考慮吸引可靠且具備相當(dāng)科技實(shí)力的民營企業(yè)和高校加入共同研發(fā)隊(duì)伍。例如我國的華為公司，在移動通信、芯片研發(fā)等多個領(lǐng)域都享有盛名，國家完全可以邀請其共同參與研發(fā)時間戳技術(shù)。公私合作共同研發(fā)檢測性軟件，為辨識“深度偽造”技術(shù)的生成物提供了可能。

4.3 平臺層面：階段化管理常態(tài)化

“用數(shù)據(jù)說話、用數(shù)據(jù)決策、用數(shù)據(jù)管理、用數(shù)據(jù)創(chuàng)新”儼然成為實(shí)現(xiàn)國家治理現(xiàn)代化的新路徑?；ヂ?lián)網(wǎng)平臺對于信息或數(shù)據(jù)的報送逐漸成為政府重要的數(shù)據(jù)源［44］?！吧疃葌卧臁奔夹g(shù)之所以會迅速崛起除了得益于背后有著廣闊的新媒體市場和利潤空間，互聯(lián)網(wǎng)平臺的推手作用同樣不容小覷。作為“深度偽造”的發(fā)源地，并逐漸成為其“逐鹿天下”的主戰(zhàn)場——互聯(lián)網(wǎng)平臺——并不僅局限于做一個旁觀者，而應(yīng)承擔(dān)比報送義務(wù)更為廣泛的責(zé)任。易言之，既然網(wǎng)絡(luò)平臺作為利益的獲得方，便應(yīng)該承擔(dān)相應(yīng)的監(jiān)督義務(wù)，將這種負(fù)面影響降到最低或扼殺在萌芽階段。正如有學(xué)者所言：“雖然深度偽造技術(shù)的規(guī)制尚不明晰，但在關(guān)涉信息安全問題上，平臺至少要遵循技術(shù)正當(dāng)程序方可免責(zé)”［45］。筆者認(rèn)為，平臺應(yīng)當(dāng)承擔(dān)的監(jiān)管義務(wù)可以具化為以下3個方面。

第一，在上傳階段，網(wǎng)絡(luò)平臺應(yīng)該盡到一定的提醒或通知義務(wù)。傳統(tǒng)的視頻或者音頻播放政策中并未過分強(qiáng)調(diào)用戶所上傳內(nèi)容的真實(shí)性，因?yàn)橹灰挥|及相關(guān)的法律都被默認(rèn)為言論自由的另一種表現(xiàn)。故而，平臺的網(wǎng)絡(luò)審查和監(jiān)管義務(wù)便形同虛設(shè)。而“深度偽造”行為的出現(xiàn)，尤其是當(dāng)所涉內(nèi)容為國家安全事務(wù)，則應(yīng)該設(shè)置警告條款（禁止上傳），旨在提醒上傳者將偽造的作品上傳到互聯(lián)網(wǎng)上的法律后果，以免誤導(dǎo)民眾。例如，美國在“深度偽造”技術(shù)出現(xiàn)之后迅速做出回應(yīng)，修改相關(guān)網(wǎng)站的視頻及音頻播放政策，以確保用戶知悉。

第二，在審查環(huán)節(jié)，網(wǎng)絡(luò)平臺在發(fā)現(xiàn)可能存在“深度偽造”的內(nèi)容，應(yīng)當(dāng)及時報送相關(guān)部門。提醒或通知義務(wù)只是平臺預(yù)防“深度偽造”行為的前置性方案。當(dāng)網(wǎng)絡(luò)平臺認(rèn)為“深度偽造”的作品可能已經(jīng)在網(wǎng)上播放時，但僅靠平臺已有技術(shù)無法確定內(nèi)容的真實(shí)性，此時應(yīng)當(dāng)立即報告互聯(lián)網(wǎng)管理部門，例如國家互聯(lián)網(wǎng)信息辦公室。期間可以先屏蔽或者撤下該視頻，以防止事態(tài)擴(kuò)大。當(dāng)證明確系深度偽造的作品，且尚不構(gòu)成犯罪的，平臺可以對于上傳者予以封號并通知其他互聯(lián)網(wǎng)運(yùn)營商。當(dāng)證明并非偽造作品時，則應(yīng)該立即解封原作品，恢復(fù)播放。

第三，在觀察用戶反饋報告后，倘若發(fā)現(xiàn)“深度偽造”內(nèi)容應(yīng)當(dāng)及時移除。近期Discord、Gyfcat和Twitter，已經(jīng)開始從其網(wǎng)站上移除“深度偽造”作品，并明確禁止交換面部色情內(nèi)容。不可否認(rèn)，服務(wù)器的容量和運(yùn)行壓力使得網(wǎng)絡(luò)運(yùn)行商不可能全天候關(guān)注平臺上的視頻內(nèi)容真實(shí)情況，所以需要平臺與用戶間的協(xié)作。針對用戶及受害者所提供的報告，就“深度偽造”的視頻內(nèi)容進(jìn)行審查，如果視頻或音頻有涉及侵害公民或國家法益的內(nèi)容，則應(yīng)當(dāng)予以移除。盡管各大視頻分享和播放視頻網(wǎng)站都設(shè)置了投訴和舉報程序，但實(shí)際效果并不理想，因此可以考慮給予舉報內(nèi)容真實(shí)的用戶一定的獎勵或者采用有獎填寫調(diào)查報告的形式來展開。

5 結(jié)語

誠然，“深度偽造”內(nèi)生性的技術(shù)風(fēng)險可能異化為危及個人、社會甚至是國家權(quán)益的秘密武器，但它也推進(jìn)了計(jì)算機(jī)成像技術(shù)進(jìn)程和社會的發(fā)展，并在藝術(shù)、醫(yī)療、教育等領(lǐng)域顯現(xiàn)出獨(dú)特的魅力，因此不可過分強(qiáng)調(diào)立法或司法的過度干預(yù)。本文認(rèn)為通過法律、技術(shù)以及平臺三方共同參與和發(fā)力可以將“深度偽造”技術(shù)的威脅降到最低，進(jìn)而維系科技和法律之間的生態(tài)平衡。當(dāng)然，未來應(yīng)當(dāng)在意識層面，強(qiáng)化公民數(shù)據(jù)主體身份的認(rèn)同感，使民眾實(shí)現(xiàn)從圍觀者向參與者的角色轉(zhuǎn)變。