深度偽造的刑法規(guī)制路徑

章 琦

(北京師范大學(xué) 法學(xué)院，北京 100875)

數(shù)字化時(shí)代，新技術(shù)的賦能激發(fā)了社會(huì)新氣象，尤其是網(wǎng)絡(luò)化、數(shù)字化的發(fā)展便利且豐富了人們接受信息的渠道，與此同時(shí)也增多了虛假信息，人工智能、深度學(xué)習(xí)的數(shù)字社會(huì)中跨越時(shí)間和空間的復(fù)雜信息加劇了人們辨別虛假信息的困難程度?！睹穹ǖ洹吠ㄟ^保護(hù)個(gè)人肖像權(quán)能夠間接對(duì)深度偽造的濫用予以約束，但是極其有限；《數(shù)據(jù)安全管理辦法》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)安全法》《刑法修正案(九)》增加了對(duì)編造、故意傳播虛假信息的行為的打擊，但是深度偽造(Deepfakes)技術(shù)的發(fā)展為編造“真假難辨”的虛假信息提供了強(qiáng)有力的工具。目前對(duì)作為人工智能發(fā)展下的深度偽造技術(shù)的關(guān)注更多集中于發(fā)展科技的視野中，缺乏對(duì)技術(shù)本身可能造成的人身和財(cái)產(chǎn)損害、網(wǎng)絡(luò)秩序甚至是社會(huì)混亂等風(fēng)險(xiǎn)的評(píng)估。本文立足于現(xiàn)行監(jiān)管邏輯和法律體系，分析深度偽造技術(shù)濫用的風(fēng)險(xiǎn)及其特點(diǎn)，從深度偽造的現(xiàn)有規(guī)制所面對(duì)的難題出發(fā)，分析民法和行政法處理特定深度偽造情形的有限性，在積極刑法觀下深度偽造刑法規(guī)制的正當(dāng)性，并初步構(gòu)造深度偽造刑法規(guī)制的具體設(shè)想。

一、深度偽造技術(shù)濫用的社會(huì)風(fēng)險(xiǎn)

技術(shù)本身是中立的，中立技術(shù)被濫用時(shí)則可能意味著技術(shù)升級(jí)增加犯罪現(xiàn)實(shí)危險(xiǎn)性。利用深度偽造技術(shù)構(gòu)建虛擬現(xiàn)實(shí)場景打破了大眾對(duì)于“眼見為實(shí)”的普遍認(rèn)知，在網(wǎng)絡(luò)占據(jù)人們廣泛日常空間的當(dāng)下，對(duì)于個(gè)人數(shù)據(jù)隱私和安全保障不力與深度偽造技術(shù)野蠻生長并存，深度偽造技術(shù)猶如一把達(dá)摩克利斯之劍懸掛在網(wǎng)絡(luò)空間，對(duì)犯罪具有顛覆性影響效果。

(一)高度真實(shí)性下增加犯罪既遂的可能性

深度偽造技術(shù)的發(fā)展對(duì)“眼見為實(shí)”社會(huì)信任發(fā)起挑戰(zhàn)。深度偽造技術(shù)和精準(zhǔn)個(gè)人信息的結(jié)合，無論是針對(duì)公司、個(gè)人的詐騙還是利用個(gè)人的虛假色情音視頻以及其他對(duì)公司、個(gè)人名譽(yù)有損害的敲詐勒索類型的犯罪，都將提高犯罪行為人得手的可能性。因?yàn)槟壳皩?duì)深度偽造音的打擊僅僅要求網(wǎng)絡(luò)平臺(tái)的打擊，只有在通過郵件、通信平臺(tái)進(jìn)行傳播構(gòu)成犯罪的情形下才能夠?qū)μ摷僖粢曨l進(jìn)行打擊，造成對(duì)于被偽造者保護(hù)乏力的困境，即要么讓行為人得逞，可構(gòu)成刑法上的犯罪，要么讓行為人掌握被偽造音者對(duì)其社會(huì)身份有影響的音視頻。而技術(shù)的快速迭代則意味著“虛假”越來越“真實(shí)”，以現(xiàn)行詐騙罪的構(gòu)成要件為例，是犯罪人以虛構(gòu)真實(shí)或隱瞞真相的方式讓被害人陷入錯(cuò)誤認(rèn)識(shí)，處分自己的財(cái)產(chǎn)，因被害人的自我處分行為最終導(dǎo)致財(cái)產(chǎn)的損失，因此蘊(yùn)含有被害人過錯(cuò)的因素。但是如果被害人完全沒有識(shí)別出虛假的可能性之下，是否仍然能夠稱其為存在被害人過錯(cuò)，值得思考。

(二)深度偽造作為網(wǎng)絡(luò)行為的極端隱蔽性

網(wǎng)絡(luò)社會(huì)導(dǎo)致犯罪邊界被打破。[1]深度偽造技術(shù)的商業(yè)化泛濫，可以將使用深度偽造技術(shù)的人分為深度偽造技術(shù)的研發(fā)者和深度偽造技術(shù)的使用者。就深度偽造技術(shù)的研發(fā)者而言，其有能力研發(fā)深度偽造技術(shù)也就意味著能夠利用自身技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)瀏覽和網(wǎng)絡(luò)匿名化。利用深度偽造技術(shù)制造虛假音視頻的人，尤其是有意使用深度偽造音視頻來造成社會(huì)沖突或?qū)嵤┓缸飼r(shí)，相比于一般網(wǎng)民往往具有更強(qiáng)的利用計(jì)算機(jī)知識(shí)使自己的網(wǎng)絡(luò)行為匿名化及難以追蹤的能力。由此，在對(duì)深度偽造音視頻檢測還不甚成熟的前提下，想要探尋到深度偽音造技術(shù)的實(shí)際研發(fā)和使用者極其困難。

(三)深度偽造制造風(fēng)險(xiǎn)的多樣性

深度偽造技術(shù)本身的高度真實(shí)性對(duì)于“真實(shí)”概念的挑戰(zhàn)，導(dǎo)致深度偽造技術(shù)風(fēng)險(xiǎn)的多樣性。當(dāng)其被用作侵犯具體權(quán)益的工具時(shí)，則存在侵犯公民的人身權(quán)益、財(cái)產(chǎn)權(quán)益、社會(huì)公共秩序、國家安全等多方面的危險(xiǎn)。此外，深度偽造技術(shù)對(duì)社會(huì)信任基礎(chǔ)的顛覆作用也是一個(gè)不能避開的問題。當(dāng)深度偽造技術(shù)成為一個(gè)廣泛且日常適用的技術(shù)時(shí)，就會(huì)造成社會(huì)底色中“所見即所得”變色，甚至動(dòng)搖，尤其是在個(gè)人信息保護(hù)不周全的背景下，可能顛覆人們的日常判斷。

二、深度偽造的現(xiàn)有規(guī)制及難題

信息化浪潮下，為把握住此次發(fā)展的機(jī)遇，國家在保障基本社會(huì)秩序的前提下采取“包容審慎”的監(jiān)管態(tài)度。對(duì)于人工智能技術(shù)的發(fā)展也主要持包容態(tài)度，因此對(duì)深度偽造技術(shù)更多的是一種防衛(wèi)性質(zhì)的規(guī)定，采取消極的立法和規(guī)制模式，出現(xiàn)在零星的法律和規(guī)范中。

(一)現(xiàn)有規(guī)制路徑

《民法典》第1019條表明利用信息技術(shù)手段偽造方式侵害他人的肖像權(quán)行為的侵權(quán)性。《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》規(guī)定，對(duì)利用如深度偽造技術(shù)制作、發(fā)布、傳播的音視頻信息應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)。使用深度偽造技術(shù)生成虛假音視頻并不標(biāo)識(shí)的，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)立即停止傳輸該信息，以顯著方式標(biāo)識(shí)后可繼續(xù)傳輸。對(duì)于利用深度偽造技術(shù)產(chǎn)生的虛假音視頻的鑒別責(zé)任在網(wǎng)絡(luò)音視頻信息服務(wù)提供者，即平臺(tái)一方，并有權(quán)利且有責(zé)任對(duì)虛假音視頻進(jìn)行處置?！毒W(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》要求，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者、生產(chǎn)者和平臺(tái)不得利用包括深度偽造技術(shù)在內(nèi)的新技術(shù)從事法律、行政法規(guī)禁止的活動(dòng)，否則由網(wǎng)信等有關(guān)主管部門按照有關(guān)法律、行政法規(guī)的規(guī)定予以處理。

由此可見，目前我國并沒有專門約束深度偽造技術(shù)本身研發(fā)、利用和傳播的法律，而是從保護(hù)公民的肖像權(quán)、名譽(yù)權(quán)、著作權(quán)、維護(hù)國家安全、社會(huì)安全等角度，對(duì)深度偽造虛假信息的創(chuàng)作、發(fā)布和傳播進(jìn)行規(guī)范和約束。[2]

(二)現(xiàn)有規(guī)制的局限性

目前法律在面對(duì)新興技術(shù)時(shí)，顯然是站在企業(yè)和平臺(tái)一方，對(duì)于企業(yè)和平臺(tái)收集信息以及被收集信息的去向缺乏打擊力度，反而是在保護(hù)企業(yè)和平臺(tái)的收集行為。而深度偽造之下則造成了個(gè)體在面對(duì)被收集時(shí)的完全“裸奔”。[3]對(duì)于單純利用深度偽造技術(shù)制作音視頻的情況，現(xiàn)有的規(guī)制路徑要求音視頻發(fā)布者進(jìn)行顯著標(biāo)識(shí)，當(dāng)平臺(tái)發(fā)現(xiàn)深度偽造的音視頻沒有進(jìn)行標(biāo)識(shí)時(shí)，應(yīng)當(dāng)叫停該音視頻的傳播，在發(fā)布者進(jìn)行顯著標(biāo)識(shí)后仍能夠繼續(xù)發(fā)布該音視頻。也就是說，對(duì)于深度偽造音視頻的監(jiān)測的權(quán)利和義務(wù)均在平臺(tái)一方，而這一要求顯然是不合理的。

第一，深度偽造技術(shù)所產(chǎn)生的音視頻并不完全是通過狹義網(wǎng)絡(luò)平臺(tái)進(jìn)行傳播。此處所指的狹義網(wǎng)絡(luò)平臺(tái)有權(quán)對(duì)在其平臺(tái)傳播的音視頻進(jìn)行檢測并進(jìn)行技術(shù)分析。例如繞開網(wǎng)絡(luò)平臺(tái)利用電子郵件或者私人電話的方式傳播虛假音視頻的情況下，現(xiàn)有對(duì)于深度偽造技術(shù)的規(guī)定落空。

第二，要求平臺(tái)承擔(dān)起深度偽造技術(shù)的檢測本身并不現(xiàn)實(shí)。深度偽造技術(shù)的特性之一就在于其難以檢測性，就一般網(wǎng)絡(luò)平臺(tái)而言，往往依靠“技術(shù)+人工”的檢測方式，隨著深度偽造技術(shù)本身的完善，平臺(tái)并不一定能夠承擔(dān)起檢測的責(zé)任。從《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》來看，其對(duì)平臺(tái)的要求也只是發(fā)現(xiàn)之后應(yīng)當(dāng)叫停音視頻的傳播，如果平臺(tái)本身并沒有發(fā)現(xiàn)，似乎平臺(tái)就不需要承擔(dān)制止該音視頻傳播的責(zé)任。此外，深度偽造音視頻的傳播與網(wǎng)絡(luò)平臺(tái)本身的商業(yè)性追求并不相符。深度偽造技術(shù)的高度真實(shí)的虛假性，往往能夠更加引起音視頻點(diǎn)擊者的注意。虛假消息的傳播速度是真實(shí)消息傳播速度六倍的網(wǎng)絡(luò)環(huán)境和以點(diǎn)擊、點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)為評(píng)價(jià)標(biāo)準(zhǔn)的網(wǎng)絡(luò)平臺(tái)模式，平臺(tái)本身并沒有減少自己流量分成而規(guī)制音視頻數(shù)量的動(dòng)力。[4]隨著深度偽造技術(shù)的商業(yè)化和大眾化發(fā)展，其適用途徑將不僅僅是面向社會(huì)媒體和互聯(lián)網(wǎng)相關(guān)的領(lǐng)域，而是滲透進(jìn)個(gè)人生活中，科技商業(yè)化的特征表明僅僅要求科技去解決這些問題是不太現(xiàn)實(shí)的。

第三，缺乏對(duì)深度偽造技術(shù)增加犯罪既遂可能性的關(guān)注。如前所述，深度偽造本身所追求的即是其“以假亂真”，該項(xiàng)技術(shù)在詐騙、敲詐勒索等罪的適用中將極大提高犯罪的既遂可能性，尤其是該項(xiàng)技術(shù)的發(fā)展邏輯和迭代所追求的即是讓人不能判斷真假，作為一種具有隱蔽性的音頻、視頻插件更加容易讓人陷入錯(cuò)誤認(rèn)識(shí)，但是目前對(duì)于深度偽造技術(shù)的關(guān)注則更多放在最終造成實(shí)害結(jié)果之上，而對(duì)其究竟在多大程度上容易使人陷入認(rèn)識(shí)錯(cuò)誤，最終導(dǎo)致錯(cuò)誤處分缺乏必要關(guān)注。

(三)深度偽造的治理困境

互聯(lián)網(wǎng)犯罪因網(wǎng)絡(luò)的虛擬性和匿名性，導(dǎo)致僅僅依靠與上傳音視頻相關(guān)的源數(shù)據(jù)追蹤到深度偽造音視頻的制作者是并不足夠的。此外，如果該項(xiàng)技術(shù)所使用的服務(wù)器本身屬于借用或盜用他人服務(wù)器的情況時(shí)，對(duì)于深度偽造制作者的追蹤將更加困難——那些能夠利用網(wǎng)絡(luò)進(jìn)行犯罪的行為人往往也有能力和技術(shù)對(duì)自己的行為進(jìn)行匿名化處理。而基于互聯(lián)網(wǎng)的全球性，深度偽造音視頻的制作者可能位于其所上傳平臺(tái)管轄國之外的地域。一旦深度偽造生成，法律往往缺少有效的方法制止其傳播，也即深度偽造濫用的危害性是和其行為本身同時(shí)存在的。

我國網(wǎng)絡(luò)信息監(jiān)管體系主要包括四個(gè)層次：行業(yè)監(jiān)管、平臺(tái)把關(guān)、社會(huì)監(jiān)督和網(wǎng)民自律。四個(gè)層次的賦權(quán)上，出于網(wǎng)絡(luò)發(fā)展的需要以及平臺(tái)中立觀念的原則，更多是依靠社會(huì)監(jiān)督和網(wǎng)民自律。這實(shí)際上是不科學(xué)也不可行的，行業(yè)內(nèi)部尚存在著深度偽造檢測的困境，要求社會(huì)和網(wǎng)民識(shí)別深度偽造音視頻自然不可能，而被深度偽造的對(duì)象發(fā)現(xiàn)時(shí)，危害結(jié)果已經(jīng)造成，再去進(jìn)行反向破解，就缺乏對(duì)深度偽造濫用的預(yù)防機(jī)制。

三、深度偽造的刑法規(guī)制合理性與設(shè)想

網(wǎng)絡(luò)時(shí)代的刑法理念需要堅(jiān)持刑法謙抑性為中心[5]，同時(shí)也需要以新理念進(jìn)行應(yīng)對(duì)。要求網(wǎng)絡(luò)平臺(tái)和科技公司自行監(jiān)督和監(jiān)管的現(xiàn)狀低估了對(duì)于技術(shù)濫用風(fēng)險(xiǎn)的評(píng)估，民事、行政規(guī)制的有限性和傳統(tǒng)犯罪借助網(wǎng)絡(luò)和人工智能進(jìn)行變異之下，需要以積極的刑法觀對(duì)深度偽造技術(shù)進(jìn)行規(guī)制。

(一)民事、行政規(guī)制的有限性

由于深度偽造技術(shù)的創(chuàng)建者往往采取的是匿名的方式實(shí)施違法的行為，且對(duì)深度偽造技術(shù)的檢測還處于發(fā)展階段，個(gè)人并沒有自主檢測的工具。而依據(jù)《民事訴訟法》規(guī)定符合起訴條件必須有明確的被告和“誰主張誰舉證”的舉證原則。網(wǎng)絡(luò)環(huán)境的開放性和無形性，侵權(quán)主體的分散性以及網(wǎng)絡(luò)空間的無形性，都成為個(gè)人在面對(duì)網(wǎng)絡(luò)侵權(quán)維權(quán)時(shí)的絆腳石。網(wǎng)絡(luò)侵權(quán)的救濟(jì)手段的單一性，且在維權(quán)過程中可能導(dǎo)致的侵權(quán)影響的二次發(fā)酵，司法訴訟的成本高和時(shí)間長等等一系列原因使得個(gè)人在網(wǎng)絡(luò)維權(quán)時(shí)的困難重重。[6]“誰受害、誰通知、誰服務(wù)、誰取下”的規(guī)定，過分要求受害者主動(dòng)發(fā)現(xiàn)予以維權(quán)，導(dǎo)致平臺(tái)和政府監(jiān)管在此侵權(quán)鏈條中的缺失，網(wǎng)絡(luò)對(duì)于“附近性”的消解，個(gè)體在網(wǎng)絡(luò)空間“他者”概念的空缺，真實(shí)空間中的“道德感”和“秩序感”的減弱，都不斷降低網(wǎng)絡(luò)侵權(quán)的成本。隨著智能城市的建設(shè)，改變了原本個(gè)體參與網(wǎng)絡(luò)生活的可選擇性，人臉識(shí)別作為許多小區(qū)、單位的門禁系統(tǒng)，涉及肖像的信息在網(wǎng)絡(luò)系統(tǒng)上滲透。而目前對(duì)于網(wǎng)絡(luò)信息的監(jiān)管模式則更多是網(wǎng)絡(luò)平臺(tái)向監(jiān)管部門報(bào)告，通過計(jì)算機(jī)產(chǎn)生的深度偽造音視頻并不一定在網(wǎng)絡(luò)平臺(tái)上進(jìn)行傳播，導(dǎo)致行政監(jiān)管的落空，且在行政監(jiān)管更多是針對(duì)行業(yè)、商業(yè)主體而非自然人個(gè)體的現(xiàn)狀之下，對(duì)于個(gè)人面對(duì)深度偽造的侵權(quán)顯得無助。

由此可見，盡管民事補(bǔ)償途徑可以作為個(gè)人維權(quán)的途徑，但是在互聯(lián)網(wǎng)本身的跨國、跨省和匿名的背景下，要求作為深度偽造的受害人主動(dòng)維權(quán)是過于沉重的負(fù)擔(dān)，訴訟程序的繁雜性和長期性可能導(dǎo)致即使收到道歉和賠償對(duì)于受害者而言也沒有太大意義。而行政手段的監(jiān)控，面對(duì)商業(yè)主體和行業(yè)的現(xiàn)狀，以及通過計(jì)算機(jī)產(chǎn)生的深度偽造音視頻不一定在網(wǎng)絡(luò)平臺(tái)上傳播的監(jiān)管乏力，讓深度偽造技術(shù)之下的個(gè)人權(quán)益保護(hù)落空。

(二)深度偽造刑法規(guī)制的正當(dāng)性

《關(guān)于辦理利用信息網(wǎng)絡(luò)實(shí)施誹謗等刑事案件適用法律若干問題的解釋》規(guī)定了編造虛假信息，或者明知是編造的虛假信息，在信息網(wǎng)絡(luò)上散布，或者組織、指使人員在信息網(wǎng)絡(luò)上散布，起哄鬧事，造成公共秩序嚴(yán)重混亂，以尋釁滋事定罪處罰。這確立了刑法對(duì)于網(wǎng)絡(luò)空間秩序與線下空間的統(tǒng)一對(duì)待的處理方式。截至2020年6月，我國網(wǎng)民規(guī)模達(dá)9.40億，在線教育用戶規(guī)模達(dá)3.81億，人均每周上網(wǎng)時(shí)長為28個(gè)小時(shí)，網(wǎng)絡(luò)已經(jīng)成為大多數(shù)人日常生活的必需，互聯(lián)網(wǎng)充當(dāng)著重要的社會(huì)職能，網(wǎng)絡(luò)秩序亟待重視。刑法的存在理由與機(jī)能是通過報(bào)應(yīng)刑內(nèi)的科刑預(yù)防將來的法益侵害或者危險(xiǎn)，但是隨著社會(huì)關(guān)系的變遷，越來越多的法益變得亟待保護(hù)。[7]深度偽造作為一項(xiàng)專門創(chuàng)設(shè)虛假的技術(shù)，雖然對(duì)于作為一些有益技術(shù)的中間技術(shù)具有價(jià)值，但是其欺騙性本身在檢測技術(shù)沒有達(dá)到，也不可能達(dá)到完美精度的情況下，就具有損害社會(huì)秩序的可能性。如果人們能夠利用虛假的技術(shù)來達(dá)成自己的目的，且不會(huì)受到有效及時(shí)的懲罰，那么自然會(huì)不斷擴(kuò)大其使用范圍，從而消解社會(huì)的信賴體系。

雖然從表面上看深度偽造只是在技術(shù)上為虛假消息、誹謗、敲詐勒索、詐騙等犯罪增添了一種新型手段，并不是一個(gè)獨(dú)特的問題，然而當(dāng)商業(yè)公司或平臺(tái)通過營利為目的提供給大眾一種增加社會(huì)虛假信息的工具，甚至是可能引發(fā)社會(huì)信任基礎(chǔ)和網(wǎng)絡(luò)秩序瓦解的工具時(shí)，自然應(yīng)當(dāng)特殊對(duì)待。此外，風(fēng)險(xiǎn)社會(huì)之下，尤其是網(wǎng)絡(luò)全面侵入公民生活之下，公民對(duì)于風(fēng)險(xiǎn)的感知通過媒體、社交網(wǎng)絡(luò)的傳播更加直接、強(qiáng)烈，由此產(chǎn)生對(duì)于國家治安形勢(shì)惡化的感知?；凇捌拼袄碚摗?，在一個(gè)糟糕的環(huán)境中對(duì)于自身行為的規(guī)制感直線下降，而社會(huì)生活的復(fù)雜化、高度技術(shù)化，個(gè)體在其中對(duì)于自身主體性的控制愈發(fā)下降。一方面，深度偽造技術(shù)的異化消解了對(duì)于“眼見為實(shí)”的社會(huì)信任，尤其是針對(duì)政府工作人員、公眾人物、親屬之間的深度偽造，將導(dǎo)致社會(huì)基礎(chǔ)認(rèn)知體系的瓦解；另一方面，深度偽造一旦被利用，基于互聯(lián)網(wǎng)傳播的速度和廣度，法律難以控制和阻止其危害的彌散。因此，對(duì)深度偽造的規(guī)制應(yīng)盡可能在事前或事中，將其對(duì)社會(huì)秩序的影響遏制在源頭。尤其是在涉及國家安全與國際交往和國際合作的層面上，雖然目前在簡體中文媒體上很少對(duì)深度偽造技術(shù)的報(bào)道，但是深度偽造所造成的對(duì)個(gè)人生活的干預(yù)和國家安全的潛在影響已經(jīng)引起了英、美、俄等國家的關(guān)注，并且美國在其專門針對(duì)深度偽造技術(shù)的立法，即《2019年深度偽造報(bào)告法案》中特別強(qiáng)調(diào)國家情報(bào)局和美國情報(bào)部門負(fù)責(zé)人提交關(guān)于包括中國在內(nèi)的深度偽造技術(shù)的研發(fā)情況的報(bào)告，由此可見美國對(duì)于深度偽造技術(shù)的關(guān)注，也透露出對(duì)深度偽造技術(shù)濫用的擔(dān)憂。基于此，對(duì)深度偽造技術(shù)進(jìn)行刑法規(guī)制具有正當(dāng)性。

1.域外深度偽造刑法規(guī)制情況

2019年，美國國會(huì)提出《深度偽造責(zé)任法案》和《2019年深度偽造報(bào)告法案》兩部法律草案，對(duì)深度偽造技術(shù)采用刑事犯罪視角的規(guī)制。其中《深度偽造責(zé)任法案》對(duì)三類行為規(guī)定了不超過5年的刑事處罰：(1)未對(duì)作品進(jìn)行水印標(biāo)記，且具有羞辱他人的主觀目的，提供含他人虛假的性行為或者裸體的視頻的；(2)意圖造成暴力或者身體傷害、引發(fā)武裝或者外交沖突，或者干擾政治運(yùn)作，包括選舉，威脅社會(huì)信任的；(3)受外國勢(shì)力或者代理人指示，意圖介入國內(nèi)政治爭議，影響聯(lián)邦、州或其他的選舉，以及實(shí)施其他不法行為的。法案還規(guī)定了深度偽造的被害人有權(quán)采用各種救濟(jì)措施。2019年2月和10月，加利福尼亞州州長分別簽署了《犯罪欺騙性記錄》(Crimes：DeceptiveRecordings)和《選舉：欺騙性的音頻和視覺媒體》(Elections:DeceptiveAudioorVisualMedia)，分別禁止“深度偽造”用于傳播色情內(nèi)容和幫助政治選舉。

歐盟雖然沒有出臺(tái)直接針對(duì)深度偽造的立法或者相關(guān)法規(guī)，但是其通過《歐盟不實(shí)信息實(shí)踐準(zhǔn)則》和《可信賴AI倫理指引》的方式將深度偽造納入規(guī)制范圍，并直接把深度偽造作為虛假信息進(jìn)行管理。[8]其中，2018年6月通過的《歐盟不實(shí)信息實(shí)踐準(zhǔn)則》附件中列出對(duì)不實(shí)信息的應(yīng)對(duì)做法，通過“行業(yè)—利害關(guān)系人—消費(fèi)者”的模式降低虛假信息可能帶來的危害。[9]

2.我國深度偽造刑法規(guī)制設(shè)想

對(duì)于深度偽造技術(shù)的刑法規(guī)制存在兩種選擇路徑。一是在利用深度偽造技術(shù)進(jìn)行傳播但不進(jìn)行顯著標(biāo)識(shí)，或者提供給大眾可以用來制作深度偽造的音視頻的工具/平臺(tái)但可通過購買等方式不進(jìn)行標(biāo)識(shí)時(shí)，情節(jié)嚴(yán)重或嚴(yán)重危害社會(huì)秩序和國家利益，刑法就進(jìn)行干預(yù)，以避免在不斷傳播中加劇虛假傳播的影響或者利用該音視頻實(shí)施下一步危害行為。二是對(duì)于僅是利用深度偽造技術(shù)進(jìn)行傳播或提供深度偽造技術(shù)的開發(fā)者/平臺(tái)，但不進(jìn)行顯著標(biāo)識(shí)的行為不進(jìn)行干預(yù)和處罰，等到實(shí)際危害后果發(fā)生后，按照具體的實(shí)害結(jié)果是否符合刑法的規(guī)定來定罪量刑。顯然后一種做法忽視了深度偽造技術(shù)本身的危害性，并且也沒有考慮利用此項(xiàng)技術(shù)對(duì)于網(wǎng)絡(luò)秩序所帶來的破壞力。深度偽造技術(shù)的風(fēng)險(xiǎn)多樣性、多元性和其產(chǎn)生的音視頻的難以檢測性，以及基于深度偽造技術(shù)可能引發(fā)的社會(huì)暴力和民意誘導(dǎo)，都將對(duì)社會(huì)的發(fā)展和社會(huì)的秩序產(chǎn)生巨大傷害。通過點(diǎn)擊和個(gè)人算法的網(wǎng)絡(luò)商業(yè)模式，社交媒體更多按照用戶的興趣和喜好來進(jìn)行推薦，深度偽造音視頻的獵奇性和新鮮性，以及通過深度偽造所營造出來的“熟悉感”和“附近性”，對(duì)于吸引用戶而言具有“良好”效果。誠然，深度偽造技術(shù)在一些領(lǐng)域具有潛在的價(jià)值，然而在尚未存在恰當(dāng)和有效的監(jiān)管方式的情況下，允許個(gè)人可隨意使用該項(xiàng)技術(shù)，則更像是在沒有防御武器之下的“引狼入室”。[10]

具體而言，最值得關(guān)注的深度偽造行為包括：(1)使用深度偽造技術(shù)破壞社會(huì)信任的行為，即深度偽造產(chǎn)生的虛假信息本身侵犯法益的行為；(2)利用深度偽造技術(shù)盜用他人身份的行為，即濫用他人身份性信息，捏造他人虛假行為。對(duì)于前者是深度偽造技術(shù)本身指向所帶來的負(fù)面效果，因此應(yīng)該強(qiáng)調(diào)規(guī)制性刑法。通過對(duì)技術(shù)本身的限制性規(guī)定，要求發(fā)布使用深度偽造技術(shù)的音視頻必須標(biāo)注該音視頻是利用深度偽造技術(shù)所合成，否則在嚴(yán)重影響社會(huì)秩序的情況下，如大范圍傳播、造成不良社會(huì)影響，就構(gòu)成犯罪。對(duì)于后者是借助深度偽造技術(shù)侵犯他人法益和社會(huì)法益的行為，因此應(yīng)該強(qiáng)調(diào)法益侵犯性，以借助深度偽造技術(shù)最終侵犯的法益確定性作為影響量刑的標(biāo)準(zhǔn)，尤其是針對(duì)在詐騙、敲詐勒索、危害國家安全類犯罪中使用深度偽造技術(shù)的情況，應(yīng)當(dāng)考慮深度偽造技術(shù)對(duì)被害人陷入認(rèn)識(shí)錯(cuò)誤的可能性與必然性，予以定罪量刑。

四、結(jié)語

國家應(yīng)當(dāng)積極干預(yù)對(duì)于可能危害公民正常生活秩序的行為，不能夠?qū)⑵渫耆艚o受害者，讓受害者自行尋求民事救濟(jì)，尤其是針對(duì)網(wǎng)絡(luò)行為侵犯個(gè)人權(quán)益的行為，要求個(gè)人在現(xiàn)行民事訴訟體制之下尋求救濟(jì)并不可行。而放任深度偽造技術(shù)濫用的做法則只會(huì)讓互聯(lián)網(wǎng)重返叢林社會(huì)，并進(jìn)而消解個(gè)體對(duì)社會(huì)體系的信任。風(fēng)險(xiǎn)社會(huì)之下要求更多層次對(duì)于新興技術(shù)的治理，“科技向善”的希望之下蘊(yùn)含著對(duì)法律積極規(guī)制的需求。換驗(yàn)軟件ZAO被叫停之下，并不能夠完全制止技術(shù)的繼續(xù)蔓延，因此應(yīng)當(dāng)以更加前瞻性的思考來應(yīng)對(duì)新技術(shù)的發(fā)展，并以更加積極的刑法態(tài)度來維護(hù)公民的生活秩序。