“深度偽造”技術(shù)的刑法規(guī)制體系構(gòu)建

李騰

摘?要：作為人工智能應(yīng)用的重點(diǎn)領(lǐng)域，“深度偽造”技術(shù)借助于“深度學(xué)習(xí)”技術(shù)和“生成式對抗網(wǎng)絡(luò)”模型，能對影音圖像進(jìn)行高精度合成。刑法規(guī)制“深度偽造”技術(shù)的必要性在于該技術(shù)易被濫用;正當(dāng)性源于對該技術(shù)的自主性、便捷性、逼真性等特征及其隱患的審視;可行性基于域外有對該技術(shù)進(jìn)行規(guī)制的立法經(jīng)驗(yàn)。我國刑法規(guī)制“深度偽造”技術(shù)應(yīng)秉持以下立場：以客觀、中立的態(tài)度審視該技術(shù)的風(fēng)險(xiǎn)與收益，合理控制刑法介入的深度，以發(fā)揮刑法的預(yù)防機(jī)能為目標(biāo)。具體可采取三條規(guī)制路徑：通過強(qiáng)化個(gè)人生物識(shí)別信息的刑法保護(hù)，從前端防范“深度偽造”技術(shù)被濫用;通過增設(shè)“身份冒用罪”，強(qiáng)化個(gè)人身份的刑法保護(hù)，規(guī)范“深度偽造”技術(shù)的合理使用;通過“通知—?jiǎng)h除”“發(fā)現(xiàn)—標(biāo)識(shí)”“發(fā)現(xiàn)—?jiǎng)h除”義務(wù)的履行，強(qiáng)化網(wǎng)絡(luò)平臺(tái)的刑事責(zé)任，預(yù)防“深度偽造”的危害后果傳播。

關(guān)鍵詞：“深度偽造”;社會(huì)危害;刑法介入;應(yīng)然立場;規(guī)制路徑

中圖分類號(hào)：D924.1?文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1003-0751（2020）10-0053-10

一、“深度偽造”技術(shù)帶來實(shí)踐挑戰(zhàn)

2019年8月底，一款名為ZAO的智能換臉軟件爆紅網(wǎng)絡(luò)，該軟件依托“深度偽造”（deep fake）技術(shù)，用戶只需在該軟件的應(yīng)用程序中注冊并上傳自己的頭像照片，即可將視頻中人物的頭像更換為自己的。該款智能應(yīng)用程序的推廣，使得“換臉”對公眾而言不再是難以企及的高端科技，任何人都可以享受“換臉”帶來的娛樂，甚至體驗(yàn)一次成為經(jīng)典影視劇主角的快感。但是，僅僅數(shù)天后，該款應(yīng)用程序設(shè)計(jì)團(tuán)隊(duì)便因用戶隱私協(xié)議不規(guī)范、存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)安全問題而被工信部約談，隨即該款應(yīng)用程序被微信屏蔽訪問。①智能換臉應(yīng)用程序的“夭折”隱含全社會(huì)對“深度偽造”技術(shù)被濫用的擔(dān)憂。

在美國，“深度偽造”技術(shù)走紅同樣引發(fā)諸多道德和法律問題。早在2017年11月，美國社交新聞網(wǎng)站紅迪網(wǎng)（Reddit）的一位用戶便通過“深度偽造”技術(shù)，將電影《神奇女俠》中女主角加爾·加多（Gal Gadot）的臉嫁接到色情電影中，并將該視頻上傳至網(wǎng)絡(luò)，引發(fā)了極大轟動(dòng)。2018年1月，“深度偽造”技術(shù)的應(yīng)用程序正式上線，換臉的對象從公眾人物迅速擴(kuò)展至親友、同學(xué)、同事之間，加劇了合成視頻在網(wǎng)絡(luò)的傳播，紅迪網(wǎng)不得不關(guān)閉“深度偽造”技術(shù)討論區(qū)以減少該技術(shù)被濫用的可能性。同年，加拿大蒙特利爾大學(xué)三名博士聯(lián)合創(chuàng)辦的一家名為“琴鳥”（Lyrebird）的公司更是開發(fā)出了“語音合成”軟件，只要對目標(biāo)人物的聲音進(jìn)行1分鐘以上的錄音，再將錄音“喂”給該軟件進(jìn)行學(xué)習(xí)，就能得到一個(gè)特別的密鑰，利用這個(gè)密鑰就可以用目標(biāo)人物的聲音偽造出任何想說的話。②由此，經(jīng)過“深度偽造”技術(shù)處理的視頻、聲音成為具有高度欺騙性的影音資料，使人們不僅陷入“耳聽為虛”的窘境，更陷入“眼見不為實(shí)”的認(rèn)知混亂，而換臉技術(shù)與語音合成技術(shù)的疊加適用更增加了合成視頻的辨別難度，也加劇了各界對“深度偽造”技術(shù)被濫用的擔(dān)憂。

作為人工智能技術(shù)發(fā)展的新興領(lǐng)域，“深度偽造”技術(shù)確實(shí)能增加社交的互動(dòng)性、娛樂性，這種功效與國家大力扶持人工智能產(chǎn)業(yè)發(fā)展的初衷是一致的。但是，“深度偽造”技術(shù)被濫用會(huì)引發(fā)諸多風(fēng)險(xiǎn)，甚至造成嚴(yán)重的危害后果。面對“深度偽造”技術(shù)的“兩面性”，刑法應(yīng)當(dāng)秉持何種立場來看待技術(shù)革新？在國家尚未對人工智能發(fā)展建立完備的法治體系的背景下，該如何平衡對自由價(jià)值的崇尚與對秩序價(jià)值的追求？面對“深度偽造”技術(shù)被濫用的風(fēng)險(xiǎn)，刑法應(yīng)以何種路徑對該技術(shù)進(jìn)行規(guī)制？回應(yīng)上述議題不僅能使我們正視“深度偽造”技術(shù)發(fā)展的利弊并將其限制在合理的應(yīng)用場景，更能在宏觀層面厘清刑法介入技術(shù)發(fā)展的程度，理順技術(shù)發(fā)展與社會(huì)應(yīng)用的關(guān)系，以刑事法治保障社會(huì)福祉的增加。

二、“深度偽造”技術(shù)的解構(gòu)

當(dāng)前，“換臉”已經(jīng)成為合成視頻應(yīng)用的代名詞，其所依托的“深度偽造”技術(shù)也進(jìn)入大眾視野?！吧疃葌卧臁弊鳛椤吧疃葘W(xué)習(xí)”（deep learning）與“偽造”（fake）的融合，通常是指基于人工智能合成技術(shù)，將已有的視頻、音頻、圖片疊加至目標(biāo)影片或圖像上，從而創(chuàng)制出新的影音圖像的技術(shù)。③隨著技術(shù)的革新，“深度偽造”技術(shù)已經(jīng)不限于視頻、音頻、圖像的合成與偽造，而成為涵蓋現(xiàn)實(shí)偽造與虛擬現(xiàn)實(shí)創(chuàng)制的應(yīng)用技術(shù)?！吧疃葌卧臁奔夹g(shù)的應(yīng)用所涵蓋的領(lǐng)域包括：第一，通過對視頻中的人臉進(jìn)行更換，使被替換者能夠?qū)嵤┳约簭奈从羞^的行為;第二，通過對目標(biāo)對象的口型、語速和面部表情進(jìn)行重塑，使目標(biāo)人物表達(dá)出非真實(shí)性的言論;第三，通過對目標(biāo)人物的聲音進(jìn)行學(xué)習(xí)，創(chuàng)制出目標(biāo)人物的聲音模型并進(jìn)行非真實(shí)性的語義表達(dá);第四，通過軟件創(chuàng)建現(xiàn)實(shí)中并不存在的人物形象。④日本人工智能公司數(shù)據(jù)網(wǎng)格（Data Grid）開發(fā)的人工智能軟件已經(jīng)能自動(dòng)生產(chǎn)虛擬人物的全身模型，并將之應(yīng)用于未來的服裝行業(yè)。⑤由于音頻圖像合成技術(shù)發(fā)展得較為成熟，“深度偽造”技術(shù)在實(shí)踐中主要被用于對視頻、音頻的合成。上述技術(shù)也可以疊加應(yīng)用，如通過人臉和語音的雙重偽造，創(chuàng)制出某一政治家從未發(fā)表過的演講視頻。厘清“深度偽造”技術(shù)通過何種運(yùn)作機(jī)理完成上述合成過程，無疑是理解該技術(shù)的基礎(chǔ)，也是確立刑法在何種程度上介入這一新興技術(shù)領(lǐng)域的前提。

“深度偽造”技術(shù)合成的視頻、音頻之所以能起到以假亂真的效果，主要緣于“學(xué)習(xí)—監(jiān)督”算法的設(shè)定與應(yīng)用：一方面通過“深度學(xué)習(xí)”技術(shù)的應(yīng)用，使程序具有對樣本進(jìn)行深度分析、轉(zhuǎn)化、重構(gòu)的能力，能在短時(shí)間內(nèi)提煉出樣本視頻、音頻、圖像的共性，合成新的密鑰，在此基礎(chǔ)上創(chuàng)制學(xué)習(xí)成果并予以輸出;另一方面通過“生成式對抗網(wǎng)絡(luò)”算法模型的設(shè)定，使“深度偽造”技術(shù)能夠自動(dòng)、反復(fù)地對已生成的視頻、音頻、圖像進(jìn)行修正、重構(gòu)，并在自動(dòng)學(xué)習(xí)的過程中不斷提升成果質(zhì)量，達(dá)到“溫故而知新”的效果。

（一）“深度學(xué)習(xí)”技術(shù)為“深度偽造”提供算法支撐

“深度學(xué)習(xí)”作為人工智能在智能化進(jìn)程中的核心技術(shù)，為“深度偽造”技術(shù)的發(fā)展提供了算法支撐。“深度學(xué)習(xí)”技術(shù)通過相互聯(lián)結(jié)的多層次神經(jīng)網(wǎng)絡(luò)，對輸入的數(shù)據(jù)進(jìn)行分布式信息儲(chǔ)存、大規(guī)模并行處理，并根據(jù)設(shè)定的程序?qū)?shù)據(jù)進(jìn)行計(jì)算分析，完成設(shè)定的任務(wù)?！吧疃葘W(xué)習(xí)”技術(shù)能在短時(shí)間內(nèi)完成對視頻、音頻、圖像的學(xué)習(xí)并輸出新合成的影音圖像，這成為“深度偽造”走向智能化的技術(shù)基礎(chǔ)。以換臉程序的應(yīng)用為例，當(dāng)海量的樣本圖片被“喂”給“換臉?biāo)惴ā焙螅皳Q臉?biāo)惴ā睍?huì)對不同場景、角度、光線圖片下的目標(biāo)人臉進(jìn)行識(shí)別，轉(zhuǎn)換為不同的二進(jìn)制編碼，并對上述二進(jìn)制編碼的共性進(jìn)行提煉，形成新的目標(biāo)人物的二進(jìn)制編碼。此后，“換臉?biāo)惴ā睍?huì)將新合成的目標(biāo)人物逐幀映射到原有視頻人物的面部，形成新的視頻影像，以此完成對樣本圖片的轉(zhuǎn)化、分析、重構(gòu)。前文提及的“琴鳥”公司創(chuàng)制的“語音合成”軟件也是基于同樣的運(yùn)作原理，即將目標(biāo)人物的聲音進(jìn)行輸入并轉(zhuǎn)換為二進(jìn)制編碼，在長時(shí)間的語音編碼的基礎(chǔ)上將目標(biāo)人物的語音特點(diǎn)進(jìn)行提煉，形成新的二進(jìn)制編碼，他人只要利用這套編碼進(jìn)行語音轉(zhuǎn)換，就可生成目標(biāo)人物的語音內(nèi)容。

“深度學(xué)習(xí)”技術(shù)通過模擬人腦的運(yùn)行規(guī)律，在此基礎(chǔ)上構(gòu)建一套能夠不斷優(yōu)化學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，連續(xù)對目標(biāo)數(shù)據(jù)進(jìn)行轉(zhuǎn)換學(xué)習(xí)，在大量目標(biāo)數(shù)據(jù)的基礎(chǔ)上提煉出目標(biāo)數(shù)據(jù)的共性。隨著算法訓(xùn)練數(shù)據(jù)量的增大，“深度學(xué)習(xí)”技術(shù)所提煉出的目標(biāo)數(shù)據(jù)的共性特征愈發(fā)精確，最終輸出的算法結(jié)果也愈發(fā)接近目標(biāo)數(shù)據(jù)。只要給予“深度學(xué)習(xí)”技術(shù)足夠的樣本數(shù)據(jù)，其合成高質(zhì)量的視頻、音頻內(nèi)容就只是時(shí)間問題。伴隨著云計(jì)算在人工智能領(lǐng)域的廣泛運(yùn)用，在短時(shí)間內(nèi)合成視頻、音頻不再有技術(shù)障礙。

（二）“生成式對抗網(wǎng)絡(luò)”算法模型不斷優(yōu)化“深度偽造”合成效果

“深度學(xué)習(xí)”技術(shù)為“深度偽造”創(chuàng)制合成視頻、音頻提供了基礎(chǔ)算法，但真正促進(jìn)“深度偽造”技術(shù)向高質(zhì)量邁進(jìn)的是“生成式對抗網(wǎng)絡(luò)”算法模型的構(gòu)建。不同于傳統(tǒng)“深度學(xué)習(xí)”技術(shù)所采用的單鏈條學(xué)習(xí)網(wǎng)絡(luò)，“生成式對抗網(wǎng)絡(luò)”采用兩條并行的學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，在互動(dòng)式對抗中逐步優(yōu)化學(xué)習(xí)結(jié)果。其中，第一條學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)通過對“深度學(xué)習(xí)”技術(shù)的應(yīng)用，初步創(chuàng)制出合成的影音圖像;第二條學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)通過將合成的視頻、音頻與樣本數(shù)據(jù)進(jìn)行對比，對合成效果進(jìn)行二次驗(yàn)證;如果合成數(shù)據(jù)與樣本數(shù)據(jù)之間的差異達(dá)到一定比例，則新合成的視頻、音頻會(huì)被退回到第一條學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)中重新進(jìn)行學(xué)習(xí)、分析、提煉，直到檢測結(jié)果符合設(shè)定的誤差范圍。正是在這種“對抗式”學(xué)習(xí)過程中，“深度偽造”技術(shù)不斷進(jìn)行自我學(xué)習(xí)、自我優(yōu)化，也正是在這種“雙向互動(dòng)式”學(xué)習(xí)過程中，兩種算法通過相互監(jiān)督，不斷改進(jìn)，直至產(chǎn)生高質(zhì)量的影音圖像。在“生成式對抗網(wǎng)絡(luò)”模型設(shè)計(jì)中，兩條學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)中的一條擔(dān)負(fù)著生成功能，另一條擔(dān)負(fù)著鑒別功能，兩者能在大數(shù)據(jù)的“喂食”下不斷進(jìn)行無監(jiān)督學(xué)習(xí)，各自在進(jìn)行算法訓(xùn)練的同時(shí)督促對方算法的提升。因此，當(dāng)訓(xùn)練數(shù)據(jù)足夠充分時(shí)，“深度偽造”技術(shù)創(chuàng)制出的視頻、音頻完全能起到以假亂真的效果。

三、對“深度偽造”技術(shù)進(jìn)行刑法規(guī)制的證成

“深度偽造”是人工智能技術(shù)的綜合運(yùn)用，其為現(xiàn)代生活帶來娛樂體驗(yàn)的同時(shí)，也會(huì)帶來諸多風(fēng)險(xiǎn)。當(dāng)風(fēng)險(xiǎn)演化為現(xiàn)實(shí)危害時(shí)，就需要刑法介入，將該技術(shù)限制在合理的應(yīng)用場景。

（一）刑法規(guī)制的必要性：對“深度偽造”技術(shù)造成現(xiàn)實(shí)危害的隱憂

影音圖像的合成并非新興技術(shù)，其關(guān)注度空前高漲只是由于此前合成技術(shù)的應(yīng)用具有較高的壁壘而與普通大眾無緣。令人遺憾的是，合成技術(shù)借助于“深度偽造”技術(shù)“走下神壇”，卻以“異化”的方式進(jìn)入公眾視野。隨著2017年紅迪網(wǎng)上虛假成人情色視頻的出現(xiàn)，“深度偽造”技術(shù)以一鳴驚人的方式完成了首秀，此后其實(shí)踐應(yīng)用日益呈現(xiàn)出“異化”的趨勢。繼前文提及的加爾·加多之后，《哈利·波特》中赫敏的扮演者艾瑪·沃特森（Emma Watson）、《這個(gè)殺手不太冷》中女主角的扮演者娜塔莉·波特曼（Natalie Portman）甚至美國總統(tǒng)特朗普的女兒伊萬卡·特朗普（Ivanka Trump）都曾成為合成情色視頻的受害者。在我國，部分網(wǎng)站上兜售的明星情色視頻也使眾多女性成為“深度偽造”技術(shù)被濫用的受害者。⑥這些合成視頻本已嚴(yán)重侵犯被害人的名譽(yù)權(quán)、肖像權(quán)等基本權(quán)利，再被用來騷擾、侮辱、勒索被害人時(shí)，更會(huì)給被害人帶來二次傷害。⑦此外，當(dāng)運(yùn)用“深度偽造”技術(shù)制作的合成視頻被用于“人臉驗(yàn)證”領(lǐng)域時(shí)，又會(huì)造成他人財(cái)產(chǎn)損失，特別是在支付型應(yīng)用程序中，行為人通過制作“眨眼”“搖頭”等視頻以模擬被害人，騙過應(yīng)用程序?qū)铙w認(rèn)證的要求，便可實(shí)施貸款、盜刷資金等侵財(cái)行為，“深度偽造”技術(shù)由此淪為犯罪工具。⑧

如果說“深度偽造”技術(shù)被應(yīng)用于上述場景僅會(huì)對個(gè)體法益造成侵害，尚不足以引起重視，當(dāng)該技術(shù)借助于對他人身份的冒用而影響社會(huì)穩(wěn)定時(shí)，就會(huì)造成更大的危害。特別是當(dāng)虛假視頻、音頻配合著謠言在網(wǎng)絡(luò)上進(jìn)行擴(kuò)散時(shí)，不僅會(huì)突破時(shí)空的限制，加劇控制難度，還極有可能導(dǎo)致社會(huì)秩序陷入混亂與無序。⑨例如，當(dāng)“深度偽造”技術(shù)被應(yīng)用于金融領(lǐng)域時(shí)，可能引發(fā)金融體系整體性動(dòng)蕩。由于金融市場具有對信息高度敏感的特性，任何一條敏感信息的傳遞都會(huì)迅速引發(fā)金融市場波動(dòng)，當(dāng)行為人制作“黑天鵝”事件的虛假視頻并通過網(wǎng)絡(luò)進(jìn)行傳播時(shí)，在金融市場缺乏預(yù)期的情況下，這一虛假視頻無異于重磅炸彈，資金出于避險(xiǎn)需求必然在極短時(shí)間內(nèi)大幅流出金融體系，繼而引發(fā)證券、債券、外匯市場的連鎖反應(yīng)，嚴(yán)重影響金融市場的穩(wěn)定和預(yù)期。⑩同理，在我國全力迎戰(zhàn)新冠肺炎疫情期間，如果有人利用“深度偽造”技術(shù)制作出某權(quán)威專家發(fā)表“疫情不可防、不可控”的虛假視頻，就極有可能引發(fā)全社會(huì)的不穩(wěn)定。在信息爆炸時(shí)代，民眾對信息的真?zhèn)坞m然有一定的鑒別能力，但當(dāng)謠言以視頻的形式出現(xiàn)時(shí)，不僅深度契合“眼見為實(shí)”的認(rèn)知共性，更在權(quán)威專家“背書”的基礎(chǔ)上大幅增加謠言的可信度，由此導(dǎo)致虛假視頻、音頻的影響范圍越廣、影響深度和危害性越大。當(dāng)“眼見不為實(shí)”成為社會(huì)常態(tài)時(shí)，必然會(huì)對長期延續(xù)下來的認(rèn)知體系產(chǎn)生強(qiáng)烈沖擊，激起人們對一切事物的懷疑，直接沖擊社會(huì)信任體系。B11由此導(dǎo)致在公共場合需要使用視頻、音頻以佐證相關(guān)行為時(shí)，出現(xiàn)無法進(jìn)行有效證明的窘境，社會(huì)信任的基石受到侵害。

上述情況足以引發(fā)社會(huì)秩序的動(dòng)蕩與不安，但“深度偽造”技術(shù)被濫用的危害還不止于此。如果該技術(shù)被用于挑撥國家關(guān)系，則世界范圍內(nèi)地區(qū)穩(wěn)定、國際關(guān)系穩(wěn)定都會(huì)陷入不確定的風(fēng)險(xiǎn)之中。當(dāng)“深度偽造”技術(shù)被用于制造國家間宣戰(zhàn)畫面或者創(chuàng)制并不存在的恐怖襲擊畫面時(shí)，極有可能引發(fā)國家間的過激反應(yīng)或者將國家間的對立、沖突推向無法挽回的境地。這種假設(shè)并非危言聳聽。當(dāng)前，“深度偽造”技術(shù)已經(jīng)能通過對2小時(shí)語音資料的深度學(xué)習(xí)，在5天內(nèi)合成特朗普代表美國向世界任何國家宣戰(zhàn)的語音，語音合成效果真假難辨。B12德國有研究者在“深度偽造”技術(shù)的應(yīng)用上已經(jīng)能將其欲表達(dá)的語義及相應(yīng)的表情變化復(fù)制到一些國家領(lǐng)導(dǎo)人的講話視頻中。B13難以想象，這樣的音頻或視頻的傳播會(huì)對本已摩擦不斷的世界造成何種影響。

正是由于“深度偽造”技術(shù)的濫用會(huì)引發(fā)對個(gè)人人身權(quán)利、財(cái)產(chǎn)權(quán)利的侵害，引發(fā)社會(huì)秩序混亂甚至對國家安全、世界安全造成威脅，所以對“深度偽造”技術(shù)應(yīng)用的擔(dān)憂并不是空洞的設(shè)想。這為刑法介入技術(shù)發(fā)展以防范技術(shù)被濫用奠定了現(xiàn)實(shí)基礎(chǔ)。

（二）刑法規(guī)制的正當(dāng)性：對“深度偽造”技術(shù)的特征及其隱患的審視

單純的影音圖形合成并非新興技術(shù)，“深度偽造”技術(shù)之所以引發(fā)社會(huì)的擔(dān)憂，主要源于該技術(shù)帶來的視頻、音頻合成方式變化為其被濫用提供了極大的便利。較之傳統(tǒng)的視頻、音頻合成技術(shù)，“深度偽造”技術(shù)的特征主要表現(xiàn)為以下三點(diǎn)。

第一，視頻、音頻合成的“自主性”。“深度偽造”技術(shù)改變了傳統(tǒng)視頻、音頻合成路徑，使系統(tǒng)生成視頻、音頻具有自主性，不僅大大提升合成效率，還極大地降低合成成本?！半m然電影特效和深受廣大網(wǎng)民喜愛的‘PS技術(shù)都是‘無中生有的偽造，但它們是被動(dòng)性偽造，依賴個(gè)體參與，是單一的、獨(dú)立性的偽造。而深度偽造借助人工智能技術(shù)，可以實(shí)現(xiàn)機(jī)器的自主學(xué)習(xí)，偽造的行為脫離了人的參與，通過人工智能的計(jì)算機(jī)程序自動(dòng)完成。它將偽造從被動(dòng)性偽造推入了自主性偽造的全新階段?！盉14傳統(tǒng)的視頻合成技術(shù)不僅需要大量工作人員對目標(biāo)人臉的特征進(jìn)行提取、重構(gòu)并在視頻中逐幀進(jìn)行替換，還需要工作人員根據(jù)講話內(nèi)容再對目標(biāo)人臉的嘴型進(jìn)行修正。這一過程不僅需要專業(yè)團(tuán)隊(duì)的協(xié)作、耗費(fèi)大量的時(shí)間，還難以保證視頻合成效果的流暢性。但是，“深度偽造”技術(shù)使實(shí)踐中對目標(biāo)人臉特征的提取、轉(zhuǎn)化、重構(gòu)工作完全基于“深度學(xué)習(xí)”后的自動(dòng)化運(yùn)作，極大地降低了各項(xiàng)成本投入。

第二，視頻、音頻合成的“便捷性”。在“深度偽造”技術(shù)被廣泛應(yīng)用之前，視頻、音頻合成不僅具有專業(yè)技術(shù)門檻，還需要高昂的費(fèi)用，普通民眾對此望而卻步。因此，在較長時(shí)間內(nèi)，高質(zhì)量的視頻、音頻合成技術(shù)的應(yīng)用場景主要限于商業(yè)影視劇制作領(lǐng)域，難免陷入“曲高而和寡”的境地。但是，“深度偽造”技術(shù)的興起打破了技術(shù)、成本壁壘，視頻、音頻合成成為大眾科技。伴隨著網(wǎng)絡(luò)公司通過應(yīng)用程序?qū)Α吧疃葌卧臁奔夹g(shù)進(jìn)行推廣，“深度偽造”技術(shù)的受眾面愈發(fā)廣泛，其技術(shù)門檻進(jìn)一步降低。只要自己的電腦、手機(jī)有足夠的運(yùn)行程序，每個(gè)人都可以享受“換臉”帶來的愉悅感。

第三，視頻、音頻合成的“逼真性”?！吧疃葌卧臁奔夹g(shù)基于“對抗式生成網(wǎng)絡(luò)”，使應(yīng)用程序在“生成—鑒別”模型中能夠不斷對樣本數(shù)據(jù)進(jìn)行分解和重組，而每一次“學(xué)習(xí)—監(jiān)督”過程的淬煉都會(huì)使目標(biāo)人臉的替換效果更上一層樓。正是在這種無監(jiān)督學(xué)習(xí)的模型設(shè)計(jì)中，“深度偽造”技術(shù)能不斷對合成過程進(jìn)行打磨，不斷對合成效果進(jìn)行升級。如果樣本數(shù)據(jù)足夠充分，目標(biāo)人物表達(dá)不同感情時(shí)所對應(yīng)的面部表情、在不同光照下面部影像的成像規(guī)律甚至在不同場景中動(dòng)作習(xí)慣的細(xì)微變化，均能被“深度偽造”技術(shù)捕捉并予以演繹?！吧疃葌卧臁奔夹g(shù)合成比人工識(shí)別更加精準(zhǔn)，制作效果更加逼真。

由于“深度偽造”技術(shù)具有“自主性”“便捷性”“逼真性”特征，使得高質(zhì)量的影音圖像合成成為易于掌握的技能，但受眾群體過于廣泛易引發(fā)各種后果，加劇了人們對“深度偽造”技術(shù)的隱憂。如果視頻、音頻合成被用于服務(wù)社會(huì)，自然能增進(jìn)全社會(huì)的福祉;但事實(shí)是，網(wǎng)絡(luò)的互聯(lián)互通已經(jīng)將世界聯(lián)系為一個(gè)整體，數(shù)據(jù)的跨境流動(dòng)已成為常態(tài)，獲取任何人的視頻、圖片都不再是難事，通過“深度偽造”技術(shù)的應(yīng)用能夠?qū)σ曨l、圖片進(jìn)行深度學(xué)習(xí)、完成偽造并將之應(yīng)用于任何場景。特別是對公眾人物而言，涉及其面部特征、語音特征的樣本數(shù)據(jù)較多且易于獲取，通過“深度偽造”技術(shù)進(jìn)行大樣本的學(xué)習(xí)和模仿，所制造出的合成視頻、音頻不經(jīng)過專業(yè)性的技術(shù)鑒別就難判真?zhèn)危纱艘l(fā)的危害后果實(shí)難控制和預(yù)防。這更加決定了刑法應(yīng)當(dāng)有所作為，對“深度偽造”技術(shù)的應(yīng)用進(jìn)行規(guī)制。

（三）刑法規(guī)制的可行性：對“深度偽造”技術(shù)相關(guān)域外立法的借鑒

針對“深度偽造”技術(shù)被濫用所引發(fā)的危害后果，有的國家出臺(tái)了專門性立法對該技術(shù)的應(yīng)用場景進(jìn)行限制，并將部分濫用該技術(shù)的行為視為犯罪行為予以規(guī)制。這為我國對“深度偽造”技術(shù)的濫用進(jìn)行刑法規(guī)制提供了經(jīng)驗(yàn)借鑒。

作為“深度偽造”技術(shù)的發(fā)源地，美國嘗試在聯(lián)邦和州兩個(gè)層面通過立法規(guī)制該技術(shù)的濫用。在聯(lián)邦層面，2019年6月，由眾議員Clarke提出的《深度偽造責(zé)任法案》（Deep Fakes Accountability Act）旨在防止本國及外國勢力利用“深度偽造”技術(shù)對美國大選進(jìn)行干預(yù)，要求合成視頻創(chuàng)制者以在視頻中添加水印及個(gè)人聲明的方式對“深度偽造”技術(shù)進(jìn)行應(yīng)用;B15對于違反標(biāo)識(shí)義務(wù)，意圖羞辱他人或者干擾政治運(yùn)作、引發(fā)武力或外交沖突而發(fā)布合成視頻的行為，將面臨最高5年監(jiān)禁的刑事處罰。B16在州層面，2019年7月，弗吉尼亞州對《復(fù)仇情色法案》（Nonconsensual Pornography Law）進(jìn)行修正，將利用“深度偽造”技術(shù)合成他人情色視頻、圖片并予以傳播的行為定義為“未經(jīng)他人同意而將他人的色情視頻、圖片予以傳播”的犯罪行為，對該行為可判處最高12個(gè)月監(jiān)禁及2500美元罰款。B17由此，弗吉尼亞州成為美國第一個(gè)對“深度偽造”技術(shù)進(jìn)行立法回應(yīng)的地區(qū)。同年9月，旨在防止“深度偽造”技術(shù)影響選舉公正性并保障選舉安全的得克薩斯州《以虛假視頻干預(yù)選舉結(jié)果的刑事犯罪法案》（Relating to the Creation of A Criminal Offense for Fabricating A Deceptive Video with Intent to Influence the Outcome of An Election Bill）生效，該法案將利用“深度偽造”技術(shù)在選舉30日內(nèi)制作有關(guān)候選人的虛假視頻并進(jìn)行傳播的行為規(guī)定為犯罪行為。B18同年10月，加利福尼亞州通過了《730號(hào)議會(huì)法案》（Assembly Bill No.730），將在選舉前60日內(nèi)制造、傳播經(jīng)過篡改的有關(guān)政治家、選舉候選人的視頻、音頻、圖像的行為視為犯罪行為。B19與美國的治理模式不同，歐盟并未針對“深度偽造”技術(shù)出臺(tái)專門性立法，而是以《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation）為依據(jù)，將數(shù)據(jù)權(quán)作為獨(dú)立的憲法性權(quán)利和公民基本權(quán)利予以保護(hù)，以規(guī)范數(shù)據(jù)采集、儲(chǔ)存、保管、應(yīng)用流程，應(yīng)對“深度偽造”技術(shù)被濫用對公民身份的冒用和隱私的侵犯。B20

從上述立法例可以看出，域外立法以刑事責(zé)任規(guī)制“深度偽造”技術(shù)被濫用的邏輯在于：限制該技術(shù)的應(yīng)用場景，對以影響選舉為目的制作并傳播合成視頻、音頻、圖像的行為予以限制或禁止，對制作、傳播未經(jīng)他人同意的合成色情視頻、音頻、圖像的行為予以禁止;通過要求制作者對使用“深度偽造”技術(shù)制成的視頻、音頻、圖像進(jìn)行標(biāo)記，防止該技術(shù)被用于非法場景;通過加強(qiáng)前端生物識(shí)別信息和數(shù)據(jù)權(quán)利保護(hù)，防范“深度偽造”技術(shù)被濫用。

我國尚未針對“深度偽造”技術(shù)出臺(tái)專門性法規(guī)，但2019年11月18日國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（以下簡稱《規(guī)定》）明確要求，網(wǎng)絡(luò)音視頻信息服務(wù)提供者、使用者在對基于深度學(xué)習(xí)和虛擬現(xiàn)實(shí)技術(shù)合成的視頻、音頻信息進(jìn)行制作和傳播的過程中，應(yīng)當(dāng)進(jìn)行明顯的標(biāo)識(shí)，同時(shí)不得利用上述技術(shù)制作、發(fā)布、傳播虛假新聞。B21這一方面通過明確制作者的標(biāo)識(shí)義務(wù)以區(qū)分視頻、音頻是否系合成，另一方面通過禁止“深度偽造”技術(shù)在新聞信息領(lǐng)域的應(yīng)用而限制該技術(shù)的應(yīng)用范圍，確保新聞信息發(fā)布的準(zhǔn)確性、權(quán)威性?！兑?guī)定》通過具體的技術(shù)路徑設(shè)置展現(xiàn)了國家層面對“深度偽造”技術(shù)應(yīng)用要區(qū)分場景的規(guī)制態(tài)度，對于未來出臺(tái)相關(guān)國家立法具有指導(dǎo)性意義。由于《規(guī)定》對“深度偽造”技術(shù)應(yīng)用場景的區(qū)分不夠細(xì)化以及缺乏配套的規(guī)制措施，使得其缺乏可操作性。例如，個(gè)人基于娛樂的目的，利用“深度偽造”技術(shù)將自己或朋友的頭像與經(jīng)典影片中的情節(jié)合成新的視頻并在社交網(wǎng)站上與他人分享，但并未履行標(biāo)識(shí)義務(wù)，對此行為該如何規(guī)制？《規(guī)定》中并沒有具體的應(yīng)對措施。再如，有人利用“深度偽造”技術(shù)對央視新聞聯(lián)播的內(nèi)容進(jìn)行拼接、合成并在網(wǎng)絡(luò)上傳播，但系以幽默、詼諧的方式贊揚(yáng)國家發(fā)展成就，該行為是否屬于《規(guī)定》禁止的偽造新聞行為而應(yīng)一律禁止？這恐怕也值得商榷。對于視頻、音頻的制作者未履行《規(guī)定》中的標(biāo)識(shí)義務(wù)和禁止適用義務(wù)，《規(guī)定》中并沒有相應(yīng)的規(guī)制措施。這就使得《規(guī)定》的宣示意義大于實(shí)踐價(jià)值，造成法律保護(hù)的缺位。

一般而言，對于技術(shù)的規(guī)制，應(yīng)當(dāng)先從民事法律、行政法律規(guī)制開始，最后才用刑法規(guī)制。但是，由于“深度偽造”屬于新興技術(shù)，現(xiàn)行民事法律、行政法律針對該技術(shù)的規(guī)范尚不完善，在此情況下，刑法應(yīng)當(dāng)有所作為，直接對濫用該技術(shù)造成嚴(yán)重社會(huì)危害的行為進(jìn)行獨(dú)立評價(jià)。

四、刑法規(guī)制“深度偽造”技術(shù)的應(yīng)然立場及路徑展開

技術(shù)創(chuàng)新的刑法規(guī)制是一個(gè)永恒的難題，規(guī)制過多會(huì)限制技術(shù)的發(fā)展與應(yīng)用甚至阻礙技術(shù)創(chuàng)新，規(guī)制缺位會(huì)使技術(shù)被濫用而導(dǎo)致嚴(yán)重的危害后果。因此，當(dāng)刑法介入技術(shù)創(chuàng)新時(shí)，需要在頂層設(shè)計(jì)上確立規(guī)制的應(yīng)然立場，在此基礎(chǔ)上進(jìn)行規(guī)制路徑完善。

（一）刑法規(guī)制“深度偽造”技術(shù)的應(yīng)然立場

通常而言，技術(shù)的發(fā)展與革新是沿著從技術(shù)原理向?qū)嵺`應(yīng)用轉(zhuǎn)化再向意識(shí)形態(tài)階序發(fā)展的脈絡(luò)演進(jìn)的，在技術(shù)逐漸社會(huì)化的過程中，刑法介入的程度應(yīng)當(dāng)愈發(fā)深入，并最終形成刑法規(guī)制與技術(shù)發(fā)展的平衡狀態(tài)。B22但是，對于“深度偽造”技術(shù)，不能完全按照上述階序演化路徑進(jìn)行刑法規(guī)制。因?yàn)椤吧疃葌卧臁奔夹g(shù)創(chuàng)立之初就呈現(xiàn)出“異化”的趨勢，由此引發(fā)的技術(shù)被濫用的隱憂已經(jīng)超過了技術(shù)紅利帶來的娛樂體驗(yàn)，刑法的介入更顯急迫。這就需要首先確立刑法對“深度偽造”技術(shù)進(jìn)行規(guī)制的基本立場，再以此為基礎(chǔ)進(jìn)行規(guī)制路徑展開，通過逆向治理思維完成對“深度偽造”技術(shù)進(jìn)行刑法規(guī)制的頂層設(shè)計(jì)。

1.宏觀立場：以“兩面性”視角控制規(guī)制的深度

“深度偽造”技術(shù)應(yīng)用的差異化會(huì)導(dǎo)致兩極化的結(jié)果。該技術(shù)被用于損害他人人格、危害社會(huì)管理秩序、危害國家安全，導(dǎo)致潛在的風(fēng)險(xiǎn)向現(xiàn)實(shí)危害后果轉(zhuǎn)化時(shí)，需要刑法的強(qiáng)勢介入;該技術(shù)被應(yīng)用于社交、娛樂場景時(shí)又顯露出“友好面相”，“可以讓電影、紀(jì)錄片等藝術(shù)創(chuàng)作突破時(shí)空限制，以更真實(shí)的方式呈現(xiàn)，也能實(shí)現(xiàn)替身演員演出等效果;可以給通過視頻進(jìn)行的批評、諷刺、戲仿等提供新的表達(dá)形式;可以創(chuàng)造虛擬主播來播報(bào)新聞、天氣預(yù)報(bào)等內(nèi)容;也可以給醫(yī)療、零售、娛樂等領(lǐng)域提供更具親和力的人形問診機(jī)器人、虛擬客服、虛擬偶像等”B23。因此，刑法應(yīng)承擔(dān)起應(yīng)有的職責(zé)，強(qiáng)化對技術(shù)扭曲使用行為的制裁，控制和約束技術(shù)的濫用;同時(shí)，刑法應(yīng)當(dāng)控制對技術(shù)行為的評價(jià)深度，以保護(hù)正常的技術(shù)應(yīng)用活動(dòng)。B24正是基于“深度偽造”技術(shù)的“兩面性”特征，美國社交網(wǎng)站Facebook在過去兩年間并未禁止“深度偽造”視頻在該網(wǎng)站上傳播。

在全球面臨第四次科技革命的背景下，實(shí)現(xiàn)關(guān)鍵領(lǐng)域的核心技術(shù)突破成為國家間科技競爭的主要角力場，也成為我國國家競爭力實(shí)現(xiàn)“彎道超車”的關(guān)鍵。這就要求我國刑法在對“深度偽造”技術(shù)進(jìn)行規(guī)制時(shí)，既要考慮該技術(shù)被濫用的危害，又要兼顧該技術(shù)在實(shí)際應(yīng)用中的有效性?；仡櫸覈畔⒒l(fā)展的歷程可以看出，我國對大數(shù)據(jù)、物聯(lián)網(wǎng)等新興產(chǎn)業(yè)采取普遍支持的態(tài)度，在一些國家禁止使用的人臉識(shí)別技術(shù)在我國公共場所也得到普遍使用。對于以“深度偽造”技術(shù)為代表的人工智能發(fā)展，我國應(yīng)以“兩面性”視角進(jìn)行合理的限制。限制技術(shù)的應(yīng)用場景而非完全禁止技術(shù)的應(yīng)用，是刑法介入“深度偽造”技術(shù)領(lǐng)域的應(yīng)然立場。

2.微觀立場：以預(yù)防機(jī)能實(shí)現(xiàn)規(guī)制的效果

對于“深度偽造”技術(shù)被濫用，可以適用我國《刑法》中的若干罪名。例如，當(dāng)該技術(shù)被用于侵犯公民名譽(yù)、財(cái)產(chǎn)時(shí)，可以以侮辱罪、盜竊罪、（信用卡）詐騙罪甚至傳播淫穢物品（牟利）罪對相關(guān)行為予以規(guī)制;當(dāng)該技術(shù)被用于侵犯公共法益時(shí)，可以根據(jù)實(shí)行行為所侵害的具體法益類型，以編造并傳播證券或期貨交易信息罪、損害商業(yè)聲譽(yù)罪、編造或故意傳播虛假信息罪、偽證罪、辯護(hù)人或訴訟代理人偽造證據(jù)罪予以規(guī)制;當(dāng)該技術(shù)被用于侵犯公共安全、國家安全時(shí)，可以以煽動(dòng)分裂國家罪、煽動(dòng)顛覆國家政權(quán)罪、宣揚(yáng)恐怖主義或極端主義或煽動(dòng)實(shí)施恐怖活動(dòng)罪、戰(zhàn)時(shí)故意提供虛假敵情罪、戰(zhàn)時(shí)造謠擾亂軍心罪、戰(zhàn)時(shí)造謠惑眾罪對危害行為予以規(guī)制。上述罪名為規(guī)制濫用“深度偽造”技術(shù)的行為提供了相對完整的刑事制裁體系，但這套產(chǎn)生于農(nóng)業(yè)社會(huì)、成熟于工業(yè)社會(huì)的刑法理論與刑罰觀念過度強(qiáng)調(diào)事后懲罰而忽略事前預(yù)防，在信息社會(huì)呈現(xiàn)出規(guī)制的無效性和適用的滯后性。B25這種缺陷突出表現(xiàn)在：如果說“深度偽造”技術(shù)被用于侵犯個(gè)人法益時(shí)，刑法的事后規(guī)制尚能使被侵害的社會(huì)關(guān)系得以恢復(fù)，當(dāng)“深度偽造”技術(shù)被用于危害國家、公共安全時(shí)，所造成的嚴(yán)重危害往往難以通過事后懲治予以補(bǔ)救。特別是網(wǎng)絡(luò)的無限延展性和無國界性使得“深度偽造”技術(shù)被濫用的危害后果傳播具有不可控性、危害性呈數(shù)量級增長，行為的社會(huì)危害性遠(yuǎn)遠(yuǎn)超過刑罰的嚴(yán)厲性，更加凸顯刑法的事后懲戒機(jī)制在網(wǎng)絡(luò)治理領(lǐng)域的無效性。因此，近年來，刑法預(yù)防機(jī)能的發(fā)揮得到更多提倡，“預(yù)備行為實(shí)行化”“幫助行為正犯化”“民事、行政違法行為犯罪化”等理論在刑事立法中得以彰顯，刑法規(guī)制的行為類型愈發(fā)向前端延伸，旨在將危險(xiǎn)后果控制在萌芽狀態(tài)。B26對于“深度偽造”技術(shù)的刑法規(guī)制同樣應(yīng)強(qiáng)化對前端行為的制裁，突出刑法的預(yù)防機(jī)能，將實(shí)然性危害消滅于萌芽狀態(tài)。

（二）以“信息保護(hù)+應(yīng)用治理+平臺(tái)監(jiān)管”模式構(gòu)建刑法規(guī)制路徑

“深度偽造”技術(shù)的刑法規(guī)制是一項(xiàng)系統(tǒng)性工程，從底層數(shù)據(jù)收集到中層對數(shù)據(jù)加工處理的算法指令再到上層數(shù)據(jù)和算法的最終應(yīng)用，構(gòu)成規(guī)制的重要維度。B27在多層次規(guī)制維度中，算法治理屬于技術(shù)發(fā)展的范疇，刑法對此不宜過多介入;數(shù)據(jù)治理和應(yīng)用場景限制是刑法規(guī)制“深度偽造”技術(shù)的重點(diǎn)領(lǐng)域。此外，隨著網(wǎng)絡(luò)平臺(tái)在網(wǎng)絡(luò)社會(huì)結(jié)構(gòu)中發(fā)揮樞紐作用、扮演著“準(zhǔn)政府”的角色，不斷強(qiáng)化網(wǎng)絡(luò)平臺(tái)的監(jiān)管責(zé)任成為刑法規(guī)制“深度偽造”技術(shù)的重要抓手。B28由此，可以構(gòu)建“信息保護(hù)+應(yīng)用治理+平臺(tái)監(jiān)管”的刑法規(guī)制路徑，充分發(fā)揮刑法的預(yù)防機(jī)能，確?！吧疃葌卧臁奔夹g(shù)在刑事法治體系下有序發(fā)展。

1.強(qiáng)化個(gè)人生物識(shí)別信息的刑法保護(hù)

濫用“深度偽造”技術(shù)行為的本質(zhì)是借助于他人的生物識(shí)別信息實(shí)現(xiàn)身份冒用，這就要求刑法特別關(guān)注該技術(shù)應(yīng)用的前端保護(hù)，強(qiáng)化對侵犯個(gè)體人臉特征、語音特征等生物識(shí)別信息行為的規(guī)制，減少個(gè)人身份信息相關(guān)數(shù)據(jù)被濫用的可能性。事實(shí)上，換臉軟件事件中直接導(dǎo)致ZAO應(yīng)用程序下架整改的原因并非單純的對換臉技術(shù)本身的擔(dān)憂，還包括該款應(yīng)用程序在用戶協(xié)議中要求用戶或肖像權(quán)人同意ZAO及其關(guān)聯(lián)公司永久保留、存儲(chǔ)、轉(zhuǎn)讓、使用用戶肖像，從而引發(fā)了對個(gè)人生物識(shí)別信息泄露的擔(dān)憂。B29

當(dāng)前，“由于社會(huì)數(shù)據(jù)化進(jìn)程的加快，各種之前不被關(guān)注的個(gè)人信息所具有的潛在價(jià)值被逐步挖掘，以往單純的、沒有意義的‘碎片變?yōu)榱藢χ黧w自身具有重要價(jià)值的‘信息，越來越多的個(gè)人信息需要被納入法律的保護(hù)范圍”B30。特別是隨著對生物識(shí)別信息進(jìn)行研究和應(yīng)用的社會(huì)探索的加快，生物識(shí)別信息已經(jīng)成為全方位“解鎖”個(gè)人信息的密鑰。以人臉信息為例，由于人臉具有穩(wěn)定性、易于識(shí)別、易于采集的特征，使得人臉識(shí)別技術(shù)成為人工智能迅速擴(kuò)展的領(lǐng)域，已經(jīng)在手機(jī)解鎖、智能支付、門禁安防、交通出行、金融認(rèn)證甚至公共安全監(jiān)控識(shí)別領(lǐng)域得到全場景推廣應(yīng)用。當(dāng)各個(gè)應(yīng)用場景都對人臉信息進(jìn)行識(shí)別和驗(yàn)證時(shí)，不僅完成對個(gè)體人臉信息的抓取與保留，還能通過人臉這道“門”與既有數(shù)據(jù)庫中的個(gè)體數(shù)據(jù)進(jìn)行關(guān)聯(lián)、對比，于是個(gè)體的身份信息、行蹤軌跡、電話號(hào)碼、收入狀況、消費(fèi)習(xí)慣等信息均可能遭到泄露。人臉的功能從體現(xiàn)個(gè)人外在形象的社會(huì)屬性逐漸呈現(xiàn)出具有個(gè)體特質(zhì)的私人屬性，人臉信息也從公開信息逐漸演化為個(gè)人隱私信息。最關(guān)鍵的是，由于人臉、聲音等外在生物特征能被以非接觸的方式予以采集和應(yīng)用，個(gè)體極有可能在無意間被第三方獲取個(gè)人生物識(shí)別信息，該信息作為唯一身份標(biāo)識(shí)一旦泄露，身份被冒用的風(fēng)險(xiǎn)極高且由于個(gè)人難以追索控制，最終會(huì)對個(gè)體的人身權(quán)利和財(cái)產(chǎn)權(quán)利造成不可逆的損害。B31因此，人臉信息已經(jīng)不是傳統(tǒng)技術(shù)條件下的公開信息，其已經(jīng)成為事關(guān)個(gè)人身份、財(cái)產(chǎn)、隱私的個(gè)人機(jī)密敏感信息?！吧疃葌卧臁奔夹g(shù)無疑能放大個(gè)人生物識(shí)別信息被濫用的危害性，因而通過刑法規(guī)制“深度偽造”技術(shù)也是信息化時(shí)代強(qiáng)化個(gè)人信息保護(hù)的必然要求。

在我國，《全國人民代表大會(huì)常務(wù)委員會(huì)關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》《網(wǎng)絡(luò)安全法》《刑法》以及《最高人民法院、最高人民檢察院關(guān)于辦理侵犯公民個(gè)人信息刑事案件適用法律若干問題的解釋》（以下簡稱《解釋》）共同構(gòu)成規(guī)制侵犯公民個(gè)人信息行為的刑事制裁體系。其中，《全國人民代表大會(huì)常務(wù)委員會(huì)關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》《網(wǎng)絡(luò)安全法》作為前置法明確將個(gè)人生物識(shí)別信息作為公民個(gè)人信息的應(yīng)有之義予以保護(hù)B32，《解釋》再次確認(rèn)了對具有身份識(shí)別功能的生物識(shí)別信息的刑法保護(hù)B33。但是，由于司法機(jī)關(guān)對公民個(gè)人信息的認(rèn)識(shí)仍停留于對信息隱私特性的保護(hù)，導(dǎo)致實(shí)踐中司法資源過多投放到對個(gè)人身份信息及個(gè)人活動(dòng)信息這類具有較強(qiáng)隱私屬性的信息的保護(hù)上，對人臉、聲音這些具有較強(qiáng)外在社會(huì)交往屬性的生物識(shí)別信息卻有意無意地忽視了，從而造成刑法保護(hù)的缺位。因此，在現(xiàn)有刑法體系下，激活刑法對個(gè)人生物識(shí)別信息的保護(hù)顯得尤為迫切。這要求司法機(jī)關(guān)深刻認(rèn)識(shí)到，不同于一般的個(gè)人信息，生物識(shí)別信息是與個(gè)人的身份、財(cái)產(chǎn)密切相關(guān)的個(gè)人機(jī)密敏感信息，需要投入更多司法資源加以保護(hù)。司法機(jī)關(guān)應(yīng)當(dāng)通過侵犯公民個(gè)人信息罪的實(shí)踐擴(kuò)容，加大對個(gè)人生物識(shí)別信息的刑法保護(hù)，從源頭減少人臉、聲紋等個(gè)人生物識(shí)別信息數(shù)據(jù)被通過“深度偽造”技術(shù)進(jìn)行濫用的可能性。

2.通過增設(shè)罪名規(guī)制身份冒用行為

在“深度偽造”技術(shù)被濫用的過程中，法益侵害直接指向?qū)λ松矸莸拿坝?。因此，在?qiáng)化前端個(gè)人信息保護(hù)的同時(shí)，刑法應(yīng)著重規(guī)制“深度偽造”技術(shù)的使用過程，通過限定該技術(shù)的應(yīng)用場景、明確技術(shù)使用者的責(zé)任，將該技術(shù)的應(yīng)用規(guī)范在有序狀態(tài)下。一方面，當(dāng)使用者基于娛樂的目的，制作自己、同學(xué)、親友及他人的合成影音圖像時(shí)，由于該類行為并不具有社會(huì)危害性，故不應(yīng)以刑法進(jìn)行評價(jià)。但是，由于“深度偽造”技術(shù)的高度模仿性使得合成的影音圖形有可能被他人用于違法犯罪場景，所以制作者、傳播者仍應(yīng)謹(jǐn)慎地使用“深度偽造”技術(shù)。制作者、傳播者可通過履行如下義務(wù)，作為免責(zé)的依據(jù)。首先，使用者不得將“深度偽造”技術(shù)應(yīng)用于色情、暴力、恐怖主義等違法犯罪場景;其次，使用者應(yīng)當(dāng)履行標(biāo)識(shí)義務(wù)，在利用“深度偽造”技術(shù)合成影音圖像時(shí)進(jìn)行明顯的標(biāo)記;最后，對于法律、法規(guī)、行政規(guī)章在現(xiàn)階段及未來列舉的“深度偽造”技術(shù)應(yīng)用場景“負(fù)面清單”，制作者、傳播者應(yīng)當(dāng)恪守。由此，可以充分發(fā)揮“深度偽造”技術(shù)在商業(yè)、娛樂領(lǐng)域的正向價(jià)值。另一方面，當(dāng)使用者未經(jīng)他人同意而使用“深度偽造”技術(shù)制作他人的影音圖像時(shí)，由于合成的影音圖像可以被用于后端的違法犯罪行為，所以即便合成的內(nèi)容不違法，合成行為也構(gòu)成對他人身份的冒用。特別是隨著個(gè)人生物識(shí)別信息在“識(shí)別”“認(rèn)證”中的作用愈發(fā)凸顯，利用“深度偽造+個(gè)人生物識(shí)別信息”更易完成對他人身份的冒用，使得該類行為的危害性愈發(fā)明顯，應(yīng)當(dāng)將該類行為納入刑法規(guī)制體系。

我國《刑法》中存在一批針對身份冒用行為的罪名，招搖撞騙罪、冒充軍人招搖撞騙罪以及使用虛假身份證件、盜用身份證件罪均是直接規(guī)制身份冒用行為的罪名，合同詐騙罪、信用卡詐騙罪、妨害信用卡管理罪中也附隨對身份冒用行為的評價(jià)。但是，上述罪名體系無法完全涵蓋利用“深度偽造”技術(shù)實(shí)施的身份冒用行為。招搖撞騙罪的冒充對象是國家機(jī)關(guān)工作人員，冒充軍人招搖撞騙罪的冒充對象是軍人，此兩個(gè)罪名均是針對特殊群體的立法保護(hù)，利用“深度偽造”技術(shù)對其他群體身份的冒用不在其規(guī)制之列。使用虛假身份證件、盜用身份證件罪的犯罪對象是法定的身份證明文件，所規(guī)制的是行為人通過偽造、變造、盜用他人居民身份證、護(hù)照、社會(huì)保障卡、駕駛證等法定證明證件進(jìn)行身份冒用的行為等行為類型，對利用他人生物識(shí)別信息進(jìn)行身份冒用的行為無法予以規(guī)制。合同詐騙罪、信用卡詐騙罪、妨害信用卡管理罪均是將身份冒用行為作為手段行為進(jìn)行評價(jià)的，如果行為人未實(shí)施后續(xù)的取財(cái)、領(lǐng)卡行為，則身份冒用行為不再進(jìn)行單獨(dú)評價(jià)。因此，現(xiàn)有的刑法罪名無法對濫用“深度偽造”技術(shù)進(jìn)行身份冒用的行為進(jìn)行評價(jià)。“在信息高度發(fā)達(dá)的當(dāng)今社會(huì)，身份承載了更多的價(jià)值和內(nèi)容，各種身份信息成為電子交易、入學(xué)就業(yè)的憑證，例如身份證號(hào)碼、姓名、性別、出生日期、職業(yè)、銀行戶名及賬號(hào)、家庭住址等，這些信息在某種程度上成為確認(rèn)一個(gè)人身份的手段和憑證。一方面，信息社會(huì)中獲取他人身份信息相對簡便和成本低廉，盜竊身份的違法犯罪行為開始不斷增多，另一方面，伴隨著個(gè)人身份信息承載了越來越多的作為謀取便捷、舒適生活的手段，甚至可以作為實(shí)施犯罪的‘通行證，身份犯罪開始爆發(fā)式增加?！盉34身份冒用行為的危害性增加與相應(yīng)的刑法規(guī)制缺失的狀態(tài)日益凸顯。身份冒用不是新型危害行為，近幾年來被媒體曝光的冒名頂替上大學(xué)事件就是該行為危害性的真實(shí)寫照。在這些事件中，身份被冒用者不只是失去了公平的求學(xué)機(jī)會(huì)，甚至整個(gè)人生被改寫。在互聯(lián)網(wǎng)背景下，借助于“深度偽造”技術(shù)的身份冒用行為將成為一種更加常態(tài)化也更具有社會(huì)危害性的行為，刑法有必要通過增設(shè)“身份冒用罪”對該行為進(jìn)行規(guī)制B35。

3.強(qiáng)化網(wǎng)絡(luò)平臺(tái)的刑事責(zé)任，預(yù)防危害后果傳播

互聯(lián)網(wǎng)歷經(jīng)Web1.0“人機(jī)互動(dòng)”到Web2.0“人人互動(dòng)”再到Web3.0“空間互動(dòng)”的迭代升級，已經(jīng)逐漸擺脫工具屬性，成為人們互動(dòng)交流的秩序空間。在現(xiàn)實(shí)空間與網(wǎng)絡(luò)空間并存的雙層社會(huì)體系下，網(wǎng)絡(luò)平臺(tái)已經(jīng)逐漸擺脫被管理者的角色而越來越多地承擔(dān)網(wǎng)絡(luò)空間的管理、自治義務(wù)，扮演著管理者的角色。B36作為信息交互、數(shù)據(jù)留存、秩序維護(hù)的中樞場所，網(wǎng)絡(luò)平臺(tái)既能導(dǎo)致“深度偽造”技術(shù)被濫用的危害后果呈數(shù)量級增長，也能將這種危害后果控制在“襁褓”之中，因而不斷強(qiáng)化平臺(tái)監(jiān)管的刑事責(zé)任是規(guī)范“深度偽造”技術(shù)的有效方式。

我國《刑法》以拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪、非法利用信息網(wǎng)絡(luò)罪、幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪三個(gè)罪名構(gòu)建了網(wǎng)絡(luò)平臺(tái)運(yùn)營的刑事責(zé)任，然而，由于“深度偽造”技術(shù)的應(yīng)用成果、應(yīng)用場景兼具違法與合法的可能性，導(dǎo)致實(shí)踐中網(wǎng)絡(luò)平臺(tái)主體對合成影音圖像的內(nèi)容存在認(rèn)識(shí)錯(cuò)誤。在現(xiàn)行司法解釋尚未對上述罪名的類型化特征進(jìn)行總結(jié)的前提下，筆者認(rèn)為當(dāng)前應(yīng)以“通知—?jiǎng)h除”義務(wù)的履行作為規(guī)范罪名適用的標(biāo)準(zhǔn)，在未來技術(shù)成熟時(shí)以“發(fā)現(xiàn)—標(biāo)識(shí)”“發(fā)現(xiàn)—?jiǎng)h除”義務(wù)的履行作為評價(jià)網(wǎng)絡(luò)平臺(tái)主體刑事責(zé)任的依據(jù)。

從科技發(fā)展趨勢來看，對“深度偽造”技術(shù)及其傳播內(nèi)容的審查必然成為網(wǎng)絡(luò)平臺(tái)審查義務(wù)的應(yīng)有之義。B37但是，由于“深度偽造”技術(shù)的識(shí)別尚不成熟且通過技術(shù)合作的方式識(shí)別“深度偽造”技術(shù)的應(yīng)用會(huì)增加網(wǎng)絡(luò)平臺(tái)的運(yùn)營成本，所以真正能使用“深度偽造”識(shí)別技術(shù)并對“深度偽造”技術(shù)的內(nèi)容進(jìn)行實(shí)質(zhì)審查的僅限于少數(shù)互聯(lián)網(wǎng)頭部平臺(tái)。從刑法適用的平等性、均衡性的角度出發(fā)，目前應(yīng)以“通知—?jiǎng)h除”義務(wù)的履行作為評價(jià)網(wǎng)絡(luò)平臺(tái)主體罪與非罪、此罪與彼罪的標(biāo)準(zhǔn)，以預(yù)防“深度偽造”技術(shù)被濫用后果的傳播。具體而言，網(wǎng)絡(luò)平臺(tái)主體應(yīng)當(dāng)履行如下義務(wù)：其一，負(fù)有對合成的影音圖像內(nèi)容進(jìn)行審查的義務(wù)，對有涉黃、涉暴、涉恐等內(nèi)容的影音圖像，應(yīng)當(dāng)予以刪除以防止其傳播。其二，除了網(wǎng)絡(luò)平臺(tái)自查，當(dāng)利用“深度偽造”技術(shù)合成的影音圖像被相關(guān)監(jiān)管部門指出其應(yīng)用場景違法或者被權(quán)利人主張侵權(quán)時(shí)，網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)對該影音圖像進(jìn)行內(nèi)容審查，若其涉嫌違法則應(yīng)予以刪除。如果上述“通知—?jiǎng)h除”義務(wù)得以積極履行，就表明網(wǎng)絡(luò)平臺(tái)運(yùn)營者對“深度偽造”技術(shù)被濫用的危害后果持排斥態(tài)度，從而不以刑法予以評價(jià);反之，根據(jù)網(wǎng)絡(luò)平臺(tái)運(yùn)營者的主觀認(rèn)知，分別以拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪、非法利用信息網(wǎng)絡(luò)罪、幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪進(jìn)行具體評價(jià)。

在將來反向識(shí)別技術(shù)發(fā)展得相對成熟時(shí)，對“深度偽造”技術(shù)的審查將成為網(wǎng)絡(luò)平臺(tái)的應(yīng)然義務(wù)，屆時(shí)應(yīng)當(dāng)將“發(fā)現(xiàn)—標(biāo)識(shí)”“發(fā)現(xiàn)—?jiǎng)h除”義務(wù)作為平臺(tái)主體刑事責(zé)任的內(nèi)容。對于通過“深度偽造”技術(shù)識(shí)別出的合成影音圖像，網(wǎng)絡(luò)平臺(tái)運(yùn)營者應(yīng)當(dāng)區(qū)分以下情形予以處置：首先，將內(nèi)容違法的影音圖像予以刪除;其次，對屬于“深度偽造”技術(shù)創(chuàng)制的影音圖像未加標(biāo)記的，通過添加水印、標(biāo)識(shí)的方式提醒公眾知悉;最后，對利用“深度偽造”技術(shù)創(chuàng)制的影音圖像屬于應(yīng)用場景違法的，予以刪除。2019年11月國家互聯(lián)網(wǎng)信息辦公室等部門印發(fā)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確禁止“深度偽造”技術(shù)在新聞信息領(lǐng)域的應(yīng)用，隨著后期相關(guān)立法的出臺(tái)，必將有“深度偽造”技術(shù)應(yīng)用場景“負(fù)面清單”為網(wǎng)絡(luò)平臺(tái)附加更多審查義務(wù)，網(wǎng)絡(luò)平臺(tái)不僅要基于破解技術(shù)識(shí)別出“深度偽造”視頻，還要對屬于“負(fù)面清單”管制范圍、違反“負(fù)面清單”應(yīng)用場景的合成影音圖像及時(shí)予以刪除。通過不斷強(qiáng)化網(wǎng)絡(luò)平臺(tái)的實(shí)質(zhì)審查義務(wù)，有助于預(yù)防“深度偽造”技術(shù)被濫用的危害后果傳播。

五、結(jié)語

在人類進(jìn)入智能化時(shí)代的征途上，新興科技的突破性發(fā)展帶來歡喜與隱憂的情況是并存的。這也激發(fā)人們對新興科技治理規(guī)則的探索熱情。在抒發(fā)熱情之余，更應(yīng)秉持一份理性，既要通過規(guī)則的設(shè)定與落實(shí)，使新興科技為我所用，又要避免科技發(fā)展走向失序的深淵，要讓科技的歸科技、法律的歸法律。

注釋

①B29參見蔡淑敏：《從爆紅到被整改，換臉App“ZAO”降溫》，《國際金融報(bào)》2019年9月9日。

②B14參見李懷勝：《濫用個(gè)人生物識(shí)別信息的刑事制裁思路》，《政法論壇》2020年第4期。

③See Brandon J. Terrifying High-tech Porn： Creepy 'Deepfake' Videos are on the Rise， http：//www.foxnews.com/tech/terrifying-high-tech-porn-creepy-deepfake-videos-are-on-the-rise.

④參見苗爭鳴：《可怕的“深度偽造”技術(shù)》，《世界知識(shí)》2019年第22期。

⑤See DJ PANGBURN. You've been Warned： Full Body Deepfakes are the Next Step in AI-based Human Mimicry， http：//www.fastcompany.com/90407145/youve-been-warned-full-body-deepfakes-are-the-next-step-in-ai-based-human-mimicry.

⑥參見揭書宜：《不雅視頻將女明星換臉成主角售賣：涉多重違法》，澎湃新聞網(wǎng)，https：//www.thepaper.cn/newsDetail_forward_4326898，2019年12月24日。

⑦See Douglas Harris. Deepfakes： False Pornography is Here and the Law cannot Protect You， Duke L. & Tech. Review， 2019， Vol.99.

⑧參見明樂齊：《網(wǎng)絡(luò)黑產(chǎn)犯罪的趨勢與治理對策研究》，《山東警察學(xué)院學(xué)報(bào)》2019年第4期。

⑨參見劉憲權(quán)：《網(wǎng)絡(luò)造謠、傳謠行為刑法規(guī)制體系的構(gòu)建與完善》，《法學(xué)家》2016年第6期。

⑩參見王帥：《“深度偽造”的法律風(fēng)險(xiǎn)與防范》，《中國城鄉(xiāng)金融報(bào)》2019年12月20日。

B11參見王祿生：《論“深度偽造”智能技術(shù)的一體化規(guī)制》，《東方法學(xué)》2019年第6期。

B12See Micheal Chertoff and Anders Fogh Rasmussen. The Unhackable Election： What It Takes to Defend Democracy， 98 Foreign Aff.， 160（2019）.

B13B15See Mary Frost. Clarke Introduces Bill to Combat High-tech Altered Videos， https：//brooklyneagle.com/articles/2019/06/14/clarke-introduces-bill-to-combat-high-tech-altered-videos/.

B16See H.R.3230- Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019，http：//www.congress.gov/bill/116th-congress/house-bill/3230.

B17See Waldman Ari Ezra. A Breach of Trust： Fighting Nonconsensual Pornography， lowa Law Review， 2017， No.2.

B18See Bill Title：Relating to the Creation of A Criminal Offense for Fabricating A Deceptive Video with Intent to Influence the Outcome of An Election， https：//legiscan.com/TX/text/SB751/id/1902830.

B19參見李桐佑：《美加州立法禁“深度偽造”視頻》，環(huán)球網(wǎng)，https：//news.ifeng.com/c/7qbaZk1sS4u，2020年1月22日。

B20參見商希雪：《生物特征識(shí)別信息商業(yè)應(yīng)用的中國立場與制度進(jìn)路》，《江西社會(huì)科學(xué)》2020年第2期。

B21《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第11條規(guī)定：“網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)。網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載音視頻新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載國家規(guī)定范圍內(nèi)的單位發(fā)布的音視頻新聞信息?！?/p>

B22參見于志剛：《網(wǎng)絡(luò)安全對公共安全、國家安全的嵌入態(tài)勢和應(yīng)對策略》，《法學(xué)論壇》2014年第6期。

B23曹建峰：《深度偽造技術(shù)的法律挑戰(zhàn)及應(yīng)對》，《信息安全與通信保密》2019年第10期。

B24參見于志剛：《網(wǎng)絡(luò)空間中培訓(xùn)黑客技術(shù)行為的入罪化》，《云南大學(xué)學(xué)報(bào)》（法學(xué)版）2010年第1期。

B25參見于志剛：《中國網(wǎng)絡(luò)犯罪的代際演變、刑法樣本與理論貢獻(xiàn)》，《社會(huì)科學(xué)文摘》2019年第5期。

B26參見孫萬懷：《違法相對性理論的崩潰》，《政治與法律》2016年第3期。

B27參見石婧、常禹雨、祝夢迪：《人工智能“深度偽造”的治理模式比較研究》，《電子政務(wù)》2020年第5期。

B28參見于志剛：《中國互聯(lián)網(wǎng)領(lǐng)域立法體系化建構(gòu)的路徑》，《理論視野》2016年第5期。

B30于志剛、吳尚聰：《我國網(wǎng)絡(luò)犯罪發(fā)展及其立法、司法、理論應(yīng)對的歷史梳理》，《政治與法律》2018年第1期。

B31參見付微明：《個(gè)人生物識(shí)別信息的法律保護(hù)模式與中國選擇》，《華東政法大學(xué)學(xué)報(bào)》2019年第6期。

B32《全國人民代表大會(huì)常務(wù)委員會(huì)關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》第1條規(guī)定：“國家保護(hù)能夠識(shí)別公民個(gè)人身份和涉及公民個(gè)人隱私的電子信息。”《網(wǎng)絡(luò)安全法》第76條第5款規(guī)定：“個(gè)人信息，是指以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別自然人個(gè)人身份的各種信息，包括但不限于自然人的姓名、出生日期、身份證號(hào)碼、個(gè)人生物識(shí)別信息、住址、電話號(hào)碼等?！?/p>

B33《最高人民法院、最高人民檢察院關(guān)于辦理侵犯公民個(gè)人信息刑事案件適用法律若干問題的解釋》第1條指出，“能夠單獨(dú)或者與其他信息結(jié)合識(shí)別特定自然人身份”的信息屬于公民個(gè)人信息。

B34于志剛：《關(guān)于“身份盜竊”行為的入罪化思考》，《北京聯(lián)合大學(xué)學(xué)報(bào)》（人文社會(huì)科學(xué)版）2011年第1期。

B35筆者的設(shè)想是：將“身份冒用罪”作為我國《刑法》第280條第2款進(jìn)行規(guī)定，同時(shí)將該條第1款即使用虛假身份證件、盜用身份證件罪的法定刑提升為“情節(jié)嚴(yán)重的，處3年以下有期徒刑、管制或拘役”，“情節(jié)特別嚴(yán)重的，處3年以上7年以下有期徒刑”兩檔，與該條規(guī)定的其他罪名相協(xié)調(diào)?！吧矸菝坝米铩钡木唧w內(nèi)容可設(shè)計(jì)為：“冒用他人身份，情節(jié)嚴(yán)重的，處三年以下有期徒刑、拘役或管制，并處罰金;情節(jié)特別嚴(yán)重的，處三年以上七年以下有期徒刑，并處罰金。”

B36參見于志剛：《“雙層社會(huì)”中傳統(tǒng)刑法的適用空間》，《法學(xué)》2013年第10期。

B37See Jack M. Balkin. Free Speech in the Algorithmic Society： Big Data， Private Governance， and New School Speech Regulation， 51 U.C.D.L. Review， 2018， Vol.51.

責(zé)任編輯：鄧?林