深度偽造技術(shù)濫用行為的刑法治理路徑

李明魯

內(nèi)容提要：人工智能深度偽造技術(shù)的應(yīng)用在醫(yī)療、教育、娛樂等多個(gè)領(lǐng)域具有進(jìn)步意義，但技術(shù)的濫用卻可能對(duì)國(guó)家、社會(huì)利益以及個(gè)人合法權(quán)益造成損害。刑法應(yīng)當(dāng)對(duì)深度偽造技術(shù)濫用行為予以規(guī)制，同時(shí)也要從風(fēng)險(xiǎn)防控的角度，加強(qiáng)對(duì)公民個(gè)人信息安全的保護(hù)。提供深度偽造技術(shù)服務(wù)的行為逐漸發(fā)展成為網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈的一環(huán)，運(yùn)用傳統(tǒng)共犯理論難以回應(yīng)深度偽造技術(shù)濫用行為的不法認(rèn)定問題。對(duì)于這種“一對(duì)多”的犯罪幫助行為，刑法可以采取以獨(dú)立罪名認(rèn)定的制裁思路。對(duì)于深度偽造內(nèi)容，網(wǎng)絡(luò)服務(wù)提供者應(yīng)當(dāng)依法履行信息網(wǎng)絡(luò)安全管理義務(wù)，落實(shí)平臺(tái)監(jiān)管責(zé)任。

一、深度偽造技術(shù)概述及其應(yīng)用風(fēng)險(xiǎn)

常言道：“耳聽為虛，眼見為實(shí)。”但是，深度偽造技術(shù)的出現(xiàn)可能讓這一說法不再適用。深度偽造是通過人工智能技術(shù)，以數(shù)字化方式創(chuàng)建或者修改視頻、音頻等內(nèi)容，最后的結(jié)果是偽造內(nèi)容里的人在做著或說著從未發(fā)生的事情。①Judge Herbert B.Dixon Jr.(Ret.).Deepfakes:More Frightening than Photoshop on Steroids.Judges’ Journal，2019，58 (3):35.隨著深度偽造技術(shù)的不斷發(fā)展和演進(jìn)，偽造內(nèi)容的真實(shí)性也越來越高，以至于人們很難辨別內(nèi)容的真假?？梢哉f，深度偽造技術(shù)自產(chǎn)生之日起，便具有欺騙性質(zhì)和被濫用的風(fēng)險(xiǎn)，而了解深度偽造的特征與技術(shù)原理，對(duì)于下一步如何規(guī)制深度偽造技術(shù)的濫用行為而言十分必要。

（一）“深度偽造”的概念源起

“深度偽造”（deepfake）是指借助人工智能技術(shù)尤其是深度學(xué)習(xí)對(duì)音頻、視覺或文本內(nèi)容等進(jìn)行制造和修改，從而達(dá)到技術(shù)開發(fā)者或者技術(shù)使用者的某種特定目的。深度偽造一詞最初是出現(xiàn)在2017 年美國(guó)社交新聞網(wǎng)站紅迪網(wǎng)（Reddit）上，一個(gè)名為deepfakes 的用戶利用人工智能算法將色情視頻中的主體換臉成明星，并上傳到Reddit 網(wǎng)站，引發(fā)了廣泛的轉(zhuǎn)發(fā)和關(guān)注。自此，媒體開始使用deepfake 一詞來形容深度偽造技術(shù)或者深度偽造內(nèi)容。

深度偽造技術(shù)又稱人工智能合成內(nèi)容（AI-generated media）技術(shù)，是人工智能發(fā)展到一定階段的產(chǎn)物，建立在能夠自主學(xué)習(xí)的深度學(xué)習(xí)算法模型的基礎(chǔ)之上。尤其是生成對(duì)抗網(wǎng)絡(luò)②深度合成技術(shù)背后的人工智能技術(shù)主要包括自動(dòng)編碼器（autoencoders）和生成對(duì)抗網(wǎng)絡(luò)（GAN）。自動(dòng)編碼器是一個(gè)人工神經(jīng)網(wǎng)絡(luò)模型，對(duì)輸入數(shù)據(jù)進(jìn)行訓(xùn)練和重建以實(shí)現(xiàn)數(shù)據(jù)合成。GAN 由兩組相互對(duì)抗的人工神經(jīng)網(wǎng)絡(luò)組成，其中一個(gè)網(wǎng)絡(luò)復(fù)制生成數(shù)據(jù)，另一個(gè)負(fù)責(zé)甄別。在GAN 的兩個(gè)機(jī)器學(xué)習(xí)系統(tǒng)中，生成網(wǎng)絡(luò)（generative network）負(fù)責(zé)制作復(fù)制了原始數(shù)據(jù)集特征的合成數(shù)據(jù)如圖片、音頻、視頻等，鑒別網(wǎng)絡(luò)（discriminative network）則負(fù)責(zé)識(shí)別合成的數(shù)據(jù)。生成網(wǎng)絡(luò)和鑒別網(wǎng)絡(luò)的競(jìng)爭(zhēng)往往需要數(shù)千次或數(shù)百萬次迭代，這讓生成網(wǎng)絡(luò)不斷改善其性能，直至讓鑒別網(wǎng)絡(luò)不再能夠區(qū)分真實(shí)數(shù)據(jù)和合成數(shù)據(jù)。（generative adversarial networks，簡(jiǎn)稱GAN）這一算法，使得人工智能在其控制下可以自動(dòng)生成圖像、文字、視頻等信息內(nèi)容。深度偽造的存在形式主要包括人臉合成、語音合成、人臉替換等，該項(xiàng)技術(shù)綜合運(yùn)用了視頻合成、計(jì)算機(jī)視覺等多種不同類型的人工智能技術(shù)。③《“深度合成”技術(shù)應(yīng)用呼喚包容審慎、分類監(jiān)管》，搜狐網(wǎng)：https://www.sohu.com/a/420864149_455313，2021 年3 月23 日訪問。

（二）“深度偽造”與“深度合成”的關(guān)聯(lián)

“深度合成”（deep synthesis）目前已成為人工智能領(lǐng)域應(yīng)用較為廣泛的一項(xiàng)技術(shù)，依賴于能夠從大量數(shù)據(jù)中進(jìn)行深度學(xué)習(xí)的人工智能算法模型，對(duì)數(shù)據(jù)信息進(jìn)行生產(chǎn)或修改。對(duì)于深度偽造與深度合成，多數(shù)學(xué)者并未做嚴(yán)格區(qū)分。但也有觀點(diǎn)認(rèn)為，深度合成與深度偽造二者不應(yīng)混同，根據(jù)技術(shù)使用的目的是否正當(dāng)，應(yīng)嚴(yán)格區(qū)分深度合成與深度偽造。該觀點(diǎn)主張深度偽造是基于某種不法目的而使用深度合成技術(shù)的行為，而深度合成則是價(jià)值無涉的技術(shù)概念詞匯。

本文認(rèn)為，深度合成與深度偽造二者在純粹技術(shù)層面并無本質(zhì)區(qū)別，或者可以說深度偽造行為本身就是利用人工智能深度合成技術(shù)對(duì)聲音、圖像、文本、視頻等內(nèi)容進(jìn)行修改和加工，從而實(shí)現(xiàn)某種誤導(dǎo)效果。毫無疑問，技術(shù)本身是無罪的，法律需要規(guī)制的是那些利用該技術(shù)冒充他人實(shí)施詐騙，或者進(jìn)行虛假新聞傳播、色情視頻制作、政治選舉干擾等損害他人或者社會(huì)、國(guó)家利益的違法行為。雖然有人提出如果以“深度偽造”一詞指代全部人工智能合成技術(shù)，會(huì)造成對(duì)于人工智能合成技術(shù)的污名化，因?yàn)樯疃葌卧烊菀鬃屓送纳x，從而使人們對(duì)于AI 合成技術(shù)產(chǎn)生畏懼心理，④《為技術(shù)正名：深度合成≠深度偽造》，搜狐網(wǎng)：.https://www.sohu.com/a/398418909_353595，2021 年3 月25 日訪問。但是，鑒于本文的主要研究對(duì)象為深度偽造技術(shù)的濫用行為，即利用人工智能深度偽造技術(shù)所實(shí)施的不法行為，所以文中使用“深度偽造”一詞并不與深度合成技術(shù)的中立性相矛盾。

（三）深度偽造技術(shù)的應(yīng)用與安全風(fēng)險(xiǎn)

隨著人工智能深度合成技術(shù)的發(fā)展與成熟，這一新興技術(shù)開始在商業(yè)領(lǐng)域大放異彩，并已經(jīng)逐漸滲透于社交、醫(yī)療、教育、影視等多個(gè)領(lǐng)域。例如，在影視領(lǐng)域中，通過深度合成技術(shù)可以減少因演員或場(chǎng)地而造成的拍攝局限，由于主要演員在電影 《速度與激情7》 的拍攝過程中意外去世，于是劇方運(yùn)用AI 換臉技術(shù)，使該演員的形象得以貫穿于電影始終。⑤《AI 換臉視頻惹爭(zhēng)議 究竟是技術(shù)的革新還是濫用》，https://baijiahao.baidu.com/s?id=1631477732371261852&wfr=spider&for=pc，2021 年4 月2 日訪問。在教育領(lǐng)域，通過人工智能技術(shù)合成歷史人物，再現(xiàn)歷史場(chǎng)景，可以使知識(shí)傳播更加富有趣味性。⑥D(zhuǎn)eep Fakes:A Looming Challenge for Privacy，Democracy，and National Security，https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3213954，2021 年3 月22 日訪問。另外，在醫(yī)療領(lǐng)域，語音合成軟件可以讓患有漸凍癥的患者重新獲得“說話”的能力。通過提前采集患者的個(gè)人語音數(shù)據(jù)，然后利用語音合成技術(shù)，最終生成接近患者原聲的語句。⑦《英國(guó)黃鉛筆獎(jiǎng)公布，為失語漸凍人設(shè)計(jì)的語音合成項(xiàng)目拿到了最高榮譽(yù)》，http://www.qdaily.com/articles/64017.html，2021年4 月12 日訪問。然而，技術(shù)是一把雙刃劍，對(duì)技術(shù)的正當(dāng)使用可以推動(dòng)社會(huì)的進(jìn)步，但技術(shù)的濫用則會(huì)給公民個(gè)人權(quán)利、社會(huì)公共秩序以及國(guó)家安全帶來諸多風(fēng)險(xiǎn)挑戰(zhàn)。

其一，深度偽造行為可能侵犯公民的人身、財(cái)產(chǎn)等權(quán)利。行為人通過深度偽造技術(shù)故意制作并散布虛假信息，敗壞他人名譽(yù)的，情節(jié)嚴(yán)重時(shí)將構(gòu)成誹謗罪。通過深度偽造的圖像、視頻或聲音冒充被害人的親友、同事、領(lǐng)導(dǎo)等，誘騙或者敲詐他人錢財(cái)?shù)?，可能?gòu)成詐騙罪或敲詐勒索罪。除此之外，深度偽造行為還可能構(gòu)成侵犯著作權(quán)罪，⑧王祿生：《論“深度偽造”智能技術(shù)的一體化規(guī)制》，載 《東方法學(xué)》 2019 年第6 期。因?yàn)樯疃葌卧煨袨槿嗽谖传@得著作權(quán)人同意的情況下，對(duì)由他人創(chuàng)作的攝影作品、電影作品等作品進(jìn)行修改，將構(gòu)成對(duì)他人署名權(quán)、修改權(quán)等著作權(quán)的侵犯。⑨《著作權(quán)法》 第十條：“著作權(quán)包括下列人身權(quán)和財(cái)產(chǎn)權(quán)：（一）發(fā)表權(quán)，即決定作品是否公之于眾的權(quán)利；（二）署名權(quán)，即表明作者身份，在作品上署名的權(quán)利；（三）修改權(quán)，即修改或者授權(quán)他人修改作品的權(quán)利；（四）保護(hù)作品完整權(quán)，即保護(hù)作品不受歪曲、篡改的權(quán)利；……”

其二，深度偽造行為可能破壞社會(huì)公共秩序。例如，行為人以牟利為目的，利用深度偽造技術(shù)制作淫穢圖片、視頻等淫穢物品并加以傳播的，可能構(gòu)成制作、傳播淫穢物品牟利罪。再如，行為人通過深度偽造技術(shù)編造涉及險(xiǎn)情、疫情、災(zāi)情、警情的虛假信息或者虛假恐怖信息并加以傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，則可能構(gòu)成編造、故意傳播虛假信息罪或者編造、故意傳播虛假恐怖信息罪。此外，深度偽造技術(shù)還可能被用于證據(jù)的偽造。如果行為人出于陷害他人或者隱匿罪證的目的，在對(duì)與案件有重要關(guān)系的情節(jié)上利用深度偽造技術(shù)制作虛假證明的，可能依法構(gòu)成偽證罪。再如，行為人利用深度偽造技術(shù)制作有損他人商業(yè)信譽(yù)或商品聲譽(yù)的虛假內(nèi)容，并給他人造成重大損失的，則可能觸犯損害商業(yè)信譽(yù)、商品聲譽(yù)罪。

其三，針對(duì)政治人物的深度偽造還具有危害國(guó)家安全的風(fēng)險(xiǎn)。在國(guó)外，虛假新聞干擾正常政治選舉活動(dòng)的事例在很早之前就已經(jīng)出現(xiàn)。例如，在托馬斯·杰斐遜（Thomas Jefferson）反對(duì)約翰·亞當(dāng)斯（John Adams）的美國(guó)總統(tǒng)選舉中，一些報(bào)紙?jiān)诓豢紤]真相的情況下發(fā)布敗壞被選舉人聲譽(yù)的新聞。⑩Party Time，https://www.newyorker.com/magazine/2007/09/17/party-time，2021 年3 月13 日訪問。而在當(dāng)今這個(gè)大數(shù)據(jù)時(shí)代，互聯(lián)網(wǎng)的傳播速度和傳播范圍相比于傳統(tǒng)媒體更為迅速和廣泛，可想而知，如果濫用深度偽造技術(shù)制作虛假信息干擾政治選舉活動(dòng)，被發(fā)布于網(wǎng)絡(luò)之上，其不利影響將迅速蔓延，不可逆轉(zhuǎn)。美國(guó)的有關(guān)分析人員一致認(rèn)為，隨著深度偽造技術(shù)的進(jìn)一步發(fā)展，等到2020 年美國(guó)第59 屆總統(tǒng)大選，深度偽造技術(shù)干預(yù)政治選舉的問題將會(huì)更加嚴(yán)重。11Experts Bet on First Deepfakes Political Scandal，https://spectrum.ieee.org/tech-talk/robotics/artificial-intelligence/experts-bet-onfirst-deepfakes-political-scandal，2021 年2 月22 日訪問。正是在此背景之下，為了防止深度偽造技術(shù)制作的虛假信息可能對(duì)選舉活動(dòng)造成的干擾，美國(guó)國(guó)會(huì)在2019 年提出了《深度偽造責(zé)任法案》（Deep Fakes Accountability Act）。12Clarke introduces bill to combat high-tech altered videos，https://brooklyneagle.com/articles/2019/06/14/clarke-introduces-bill-tocombat-high-tech-altered-videos，2021 年4 月2 日訪問。

二、深度偽造濫用行為的刑法規(guī)制模式

深度偽造技術(shù)的不當(dāng)使用如冒用他人身份、敗壞他人名譽(yù)等，可能對(duì)個(gè)人法益和公共法益造成損害，進(jìn)而成立相應(yīng)的違法犯罪。刑法針對(duì)濫用深度偽造技術(shù)行為的規(guī)制大致可以分為兩種模式：一是事后保護(hù)模式，即對(duì)利用深度偽造技術(shù)實(shí)施的其他犯罪以及深度偽造行為本身所構(gòu)成的知識(shí)產(chǎn)權(quán)犯罪進(jìn)行規(guī)制；二是風(fēng)險(xiǎn)預(yù)防模式，即對(duì)深度偽造行為之前的公民個(gè)人信息犯罪進(jìn)行規(guī)制。其中，事后保護(hù)模式著眼于深度偽造行為之后產(chǎn)生的法益侵害，而風(fēng)險(xiǎn)預(yù)防模式則關(guān)注對(duì)深度偽造行為之前的公民個(gè)人信息保護(hù)，從而避免后續(xù)因深度偽造對(duì)具體法益造成的實(shí)際侵害。

（一）事后保護(hù)模式：強(qiáng)調(diào)對(duì)深度偽造行為后的具體法益保護(hù)

利用人工智能技術(shù)實(shí)施深度偽造行為，侵害他人合法權(quán)益或者社會(huì)、國(guó)家利益的，在符合特定犯罪的構(gòu)成要件的條件下，可以對(duì)該深度偽造行為予以刑法規(guī)制。根據(jù)法益主體的不同，可以將利用深度偽造技術(shù)構(gòu)成的犯罪分為三類：侵犯公民個(gè)人權(quán)利的犯罪、破壞社會(huì)公共秩序的犯罪、危害國(guó)家安全的犯罪。

雖然我國(guó)刑法規(guī)定能夠針對(duì)濫用深度偽造技術(shù)而造成嚴(yán)重法益侵害的行為提供一整套相對(duì)完備的制裁體系，但是這種刑法制裁思路存在以下不足之處：首先，事后保護(hù)模式只能在深度偽造行為已經(jīng)造成了法益侵害后果之后發(fā)揮作用，過于強(qiáng)調(diào)事后懲罰而忽視事前預(yù)防。13李騰：《“深度偽造”技術(shù)的刑法規(guī)制體系構(gòu)建》，載 《中州學(xué)刊》 2020 年第10 期。而對(duì)于信息網(wǎng)絡(luò)環(huán)境中的違法犯罪問題，考慮到網(wǎng)絡(luò)媒介傳播速度快、影響范圍廣的特點(diǎn)，在產(chǎn)生實(shí)害結(jié)果后才啟動(dòng)刑法進(jìn)行規(guī)制的事后保護(hù)模式已經(jīng)不足以充分保護(hù)法益。其次，某些深度偽造技術(shù)濫用行為根據(jù)現(xiàn)有刑法規(guī)定無法定罪論處。例如，行為人利用AI 換臉技術(shù)進(jìn)行交友詐騙，目的僅是騙取他人的感情，獲得內(nèi)心的滿足感，而不以騙財(cái)為目的，但卻給他人造成嚴(yán)重的精神損害或者嚴(yán)重破壞他人家庭的，對(duì)于此行為不能以詐騙罪或招搖撞騙罪（不是冒充國(guó)家機(jī)關(guān)工作人員的情況下）定罪論處，該行為根據(jù)現(xiàn)行刑法規(guī)定并不構(gòu)成犯罪，雖然造成了嚴(yán)重的危害后果，也只能通過民事救濟(jì)和行政救濟(jì)途徑保護(hù)相關(guān)人的合法權(quán)益。

由此可見，事后保護(hù)模式側(cè)重于對(duì)深度偽造行為之后造成的危害后果予以規(guī)制，卻沒有回應(yīng)深度偽造上游行為（非法獲取、非法出售、非法提供以及非法利用公民個(gè)人信息的行為）的不法問題。考慮到存在某些深度偽造技術(shù)濫用行為具有嚴(yán)重的危害性但卻不構(gòu)成犯罪的情形，為了更好地保護(hù)公民的人身、財(cái)產(chǎn)權(quán)益，深入打擊深度偽造這種新型違法犯罪行為，刑法有必要在對(duì)深度偽造技術(shù)濫用行為的治理問題上引入風(fēng)險(xiǎn)預(yù)防模式。

（二）風(fēng)險(xiǎn)預(yù)防模式：強(qiáng)調(diào)對(duì)深度偽造前的公民個(gè)人信息保護(hù)

刑法對(duì)于人工智能深度偽造的治理不僅需要關(guān)注深度偽造行為實(shí)施后的一系列相關(guān)犯罪，更應(yīng)當(dāng)重點(diǎn)關(guān)注深度偽造之前的個(gè)人信息安全的保護(hù)問題。對(duì)深度偽造的前行為即侵犯公民個(gè)人信息行為的規(guī)制，可以有效控制深度偽造技術(shù)被濫用的風(fēng)險(xiǎn)，加強(qiáng)對(duì)人工智能深度偽造技術(shù)的源頭治理。

1.個(gè)人生物識(shí)別信息與公民個(gè)人信息的概念厘定

《中華人民共和國(guó)數(shù)據(jù)安全法》 第二十一條對(duì)數(shù)據(jù)實(shí)行分類分級(jí)的保護(hù)制度作出規(guī)定，同樣地，對(duì)于公民個(gè)人信息，也應(yīng)當(dāng)根據(jù)不同類別的公民個(gè)人信息之于公民人身和財(cái)產(chǎn)權(quán)益的重要性，對(duì)個(gè)人生物識(shí)別信息、身份信息和其他一般的公民個(gè)人信息實(shí)行梯次保護(hù)。其中，對(duì)于生物識(shí)別信息這種緊密依附于身體、直接體現(xiàn)公民個(gè)人身體特征和行為特征，對(duì)人身具有直接指向性的特殊公民個(gè)人信息予以特別的保護(hù)。14王德政：《針對(duì)生物識(shí)別信息的刑法保護(hù)：現(xiàn)實(shí)境遇與完善路徑——以四川“人臉識(shí)別案”為切入點(diǎn)》，載 《重慶大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》 2021 年第2 期。對(duì)此，《中華人民共和國(guó)個(gè)人信息保護(hù)法》 也有所回應(yīng)，明確了生物識(shí)別信息屬于敏感個(gè)人信息的一種，而且將敏感個(gè)人信息與一般公民個(gè)人信息作出區(qū)分，并對(duì)敏感個(gè)人信息制定了更為嚴(yán)格的處理規(guī)則。

個(gè)人生物識(shí)別信息包括面部、指紋、聲音、DNA、筆跡、步態(tài)等身份信息，之所以說生物識(shí)別信息是最為重要的公民個(gè)人信息，除了其具有高度的人身識(shí)別性之外，還由于生物識(shí)別信息的應(yīng)用廣泛性，如人臉識(shí)別、指紋識(shí)別等已經(jīng)成為進(jìn)入很多場(chǎng)所或者登陸應(yīng)用軟件以及財(cái)產(chǎn)支付的重要方式，因此，一旦公民的生物識(shí)別信息遭到泄露，不法行為人便很可能通過深度偽造技術(shù)對(duì)生物識(shí)別信息進(jìn)行加工和修改，進(jìn)而利用深度偽造后的圖片、聲音等冒充被害人的親友、熟人，使被害人陷入錯(cuò)誤認(rèn)識(shí)并引誘其進(jìn)行轉(zhuǎn)賬或者匯款。不法分子在達(dá)到騙財(cái)目的之后，便會(huì)刪除被害人的聯(lián)系方式，從此銷聲匿跡。被害人會(huì)疑惑自己的敏感個(gè)人信息怎么會(huì)被不法分子所掌握，這都要?dú)w因于個(gè)人信息的泄露。如今很多場(chǎng)合都需要人臉識(shí)別、刷臉支付，而人臉信息在被收集之后一旦被非法出售或者遭到泄露，便很可能被用于實(shí)施詐騙等違法犯罪行為。因此，規(guī)制深度偽造技術(shù)的濫用行為，關(guān)鍵是從源頭管控侵犯公民個(gè)人信息的犯罪行為。

2.國(guó)外規(guī)制深度偽造技術(shù)濫用行為的應(yīng)對(duì)之策

對(duì)于規(guī)制深度偽造技術(shù)濫用行為是否需要制定專門的法律的問題，從國(guó)外的應(yīng)對(duì)方案來看，有些是選擇通過現(xiàn)有法律規(guī)定來懲治深度偽造技術(shù)濫用行為，認(rèn)為進(jìn)行專門的立法根本沒有必要，因?yàn)楦鶕?jù)現(xiàn)有的著作權(quán)法、刑法和民事侵權(quán)法等法律規(guī)定能夠讓有害的深度偽造內(nèi)容的制作者承擔(dān)責(zé)任，15Zachary Schapiro.Deep Fakes Accountability Act:Overbroad and Ineffective.Boston College Intellectual Property &Technology Forum，2020，1:15.而且除了打擊勒索和色情的刑法之外，其他侵權(quán)行為如侵犯隱私權(quán)、造成情緒困擾、侵犯著作權(quán)等違法行為同樣能受到民事法律的規(guī)制。16Anna Yamaoka-Enkerlin.Disrupting Disinformation :Deepfakes And The Law.NYU Journal of Legislation and Public Policy，2019-2020，22 :740.可是，也有國(guó)家選擇通過制定新的法律來打擊深度偽造技術(shù)濫用行為。

歐盟通過保護(hù)可能被用于深度偽造的個(gè)人信息的安全和強(qiáng)化互聯(lián)網(wǎng)平臺(tái)的審查義務(wù)，來加強(qiáng)對(duì)于深度偽造技術(shù)濫用的治理，防御深度偽造行為可能造成的不法侵害。歐盟 《通用數(shù)據(jù)保護(hù)條例》（GDPR）適用于對(duì)深度偽造中所使用的公民圖片等個(gè)人數(shù)據(jù)的保護(hù)，以及換臉軟件和社交媒體軟件可能產(chǎn)生的隱私泄露問題。17《各國(guó)涉Deepfake 等人工智能造假技術(shù)立法概況》，https://mp.weixin.qq.com/s?__biz=MzI1OTExNDY1NQ==&mid=2651540276&idx=1&sn=7346412c2efcd328f8ca67036062f77a&scene=21#wechat_redirect，2021 年3 月23 日訪問。另外，歐盟于2018 年出臺(tái)的《反虛假信息行為準(zhǔn)則》（Code of Practice on Disinformation），主要是為了加強(qiáng)網(wǎng)絡(luò)運(yùn)營(yíng)者對(duì)其平臺(tái)內(nèi)容的審查，充分發(fā)揮平臺(tái)在治理網(wǎng)絡(luò)虛假信息方面的作用。18史安斌，胡宇：《向虛假信息宣戰(zhàn)：歐盟的探索》，載 《青年記者》2018年第34期。

美國(guó)則出臺(tái)了一部專門的法律——《深度偽造責(zé)任法案》，用以規(guī)范深度偽造技術(shù)的應(yīng)用，防止虛假信息的傳播?！渡疃葌卧熵?zé)任法案》 對(duì)于深度偽造內(nèi)容制作者的標(biāo)識(shí)義務(wù)（或披露義務(wù)）作出具體規(guī)定：“深度偽造內(nèi)容制作者對(duì)于其制作的深度合成內(nèi)容應(yīng)當(dāng)嵌入文字、數(shù)字水印或者語音標(biāo)識(shí)，從而將內(nèi)容屬于利用深度偽造技術(shù)制作的事實(shí)予以披露?！?9曹建峰：《深度偽造技術(shù)的法律挑戰(zhàn)及應(yīng)對(duì)》，載 《信息安全與通信保密》 2019 年第10 期。同時(shí)，法案還對(duì)于不履行披露義務(wù)的行為規(guī)定了民事責(zé)任乃至刑事責(zé)任。深度偽造內(nèi)容制作者依法履行標(biāo)識(shí)義務(wù)，有利于他人對(duì)視頻、音頻、文字等內(nèi)容的真實(shí)性作出鑒別，從而不容易產(chǎn)生誤解而受騙，一定程度上可以有效抵御深度偽造可能對(duì)法益造成的損害。深度偽造內(nèi)容制作者履行標(biāo)識(shí)義務(wù)，不僅有利于對(duì)法益的保護(hù)，而且對(duì)于引導(dǎo)深度偽造技術(shù)的合理使用也具有規(guī)范意義，另外還能夠作為證明深度偽造內(nèi)容制作者主觀上不具有欺騙目的的依據(jù)。

法律解決方案雖然可以懲罰和威懾犯罪行為人，但仍具有其自身的局限性和滯后性。在法律治理路徑之外，提高網(wǎng)絡(luò)用戶鑒別虛假信息的能力，增強(qiáng)公民對(duì)于虛假信息的防范意識(shí)，也是抵御深度偽造音頻、視頻不良影響的可行之策。公民可以成為對(duì)信息真實(shí)性的檢查者和對(duì)真理的最終保護(hù)者，20Dr.Antonios Kouroutakis.EU Action Plan Against Disinformation:Public Authorities，Platforms and the People.International Lawyer，2020，53:277.烏克蘭已經(jīng)將媒體素養(yǎng)技術(shù)納入其公立學(xué)校課程中，21Students in Ukraine Learn How to Spot Fake Stories，Propaganda and Hate Speech，https://www.npr.org/2019/03/22/705809811/students-in-ukraine-learn-how-to-spot-fake-stories-propaganda-and-hate-speech，2021 年2 月21 日訪問。以幫助提高公民辨別深度偽造內(nèi)容的能力。

3.我國(guó)規(guī)制深度偽造技術(shù)濫用行為的立法與司法實(shí)踐

于2020 年1 月1 日起施行的 《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（以下簡(jiǎn)稱 《規(guī)定》）第十一條對(duì)于深度偽造內(nèi)容制作者和網(wǎng)絡(luò)服務(wù)提供者均規(guī)定了標(biāo)識(shí)義務(wù)，要求網(wǎng)絡(luò)音視頻信息服務(wù)的使用者和提供者都應(yīng)當(dāng)以顯著的方式對(duì)利用深度學(xué)習(xí)技術(shù)制作和發(fā)布的與真實(shí)信息不符的音頻或視頻加以標(biāo)識(shí)。但遺憾的是，該《規(guī)定》 并沒有對(duì)于違反標(biāo)識(shí)義務(wù)的行為做出懲罰性規(guī)定，這就使得《規(guī)定》的宣示意義大于實(shí)踐價(jià)值，從而造成法律保護(hù)的缺位。22參加前引13，李騰文。

在我國(guó)司法實(shí)踐中，已經(jīng)出現(xiàn)以AI 換臉技術(shù)破解人臉識(shí)別進(jìn)而實(shí)施詐騙行為的案件——行為人張某、余某為了騙取支付寶的邀請(qǐng)新用戶紅包獎(jiǎng)勵(lì)，先是非法批量購(gòu)買公民個(gè)人身份信息，之后通過AI 換臉技術(shù)將這些非法獲取的公民照片制作成3D 頭像，以通過人臉識(shí)別認(rèn)證，最終獲取相應(yīng)的紅包獎(jiǎng)勵(lì)。對(duì)于本案，法院判決行為人的行為成立侵犯公民個(gè)人信息罪與詐騙罪。23《張富、余杭飛、史良浩等侵犯公民個(gè)人信息罪二審刑事裁定書》，浙江省衢州市中級(jí)人民法院(2019) 浙08 刑終333 號(hào)刑事裁定書。本案對(duì)于利用深度偽造技術(shù)從事不法行為的規(guī)制同時(shí)包含了事后規(guī)制與事前規(guī)制，其中對(duì)利用深度偽造內(nèi)容進(jìn)行騙財(cái)?shù)男袨榕刑幵p騙罪即事后規(guī)制，而事前規(guī)制則表現(xiàn)為侵犯公民個(gè)人信息罪。深度偽造行為往往伴隨著侵犯公民個(gè)人信息的犯罪，因?yàn)樯疃葌卧旒夹g(shù)是以原始圖片、視頻、音頻等信息為基礎(chǔ)，通過人工智能技術(shù)合成其他新的圖片、視頻、音頻等，從而進(jìn)一步實(shí)施詐騙、敲詐勒索、誹謗、傳播淫穢物品等相關(guān)犯罪。因此，必須重視并嚴(yán)厲打擊侵犯公民個(gè)人信息的違法犯罪活動(dòng)，從而在源頭上遏制深度偽造技術(shù)的濫用。24李懷勝：《濫用個(gè)人生物識(shí)別信息的刑事制裁思路——以人工智能“深度偽造”為例》，載 《政法論壇》 2020 年第4 期。但是，以侵犯公民個(gè)人信息罪規(guī)制濫用深度偽造技術(shù)的行為，雖然可以解決對(duì)于非法獲取、出售、提供個(gè)人生物識(shí)別信息行為的懲治問題，卻無法回應(yīng)以合法形式獲取卻非法使用個(gè)人信息的行為模式。就深度偽造行為而言，行為本身其實(shí)就是一種對(duì)公民個(gè)人信息予以非法利用的情形，深度偽造行為的不法在于對(duì)生物識(shí)別信息的濫用。25參加前引24，李懷勝文。下文將對(duì)于深度偽造這一非法利用公民個(gè)人信息的行為如何進(jìn)行刑法規(guī)制展開論述。

三、深度偽造行為的不法認(rèn)定與刑事歸責(zé)

當(dāng)下人臉識(shí)別已逐漸成為各類應(yīng)用軟件的支付或注冊(cè)方式，這時(shí)一些不法分子便意圖通過換臉“黑科技”進(jìn)行非法牟利。那么，對(duì)于專門提供深度偽造技術(shù)服務(wù)的行為人，究竟是應(yīng)當(dāng)依據(jù)共犯的認(rèn)定思路，以其所幫助實(shí)施的犯罪的共犯論處，還是應(yīng)當(dāng)采取以獨(dú)立罪名定罪處罰的制裁思路呢？

（一）深度偽造行為的不法認(rèn)定

如果將深度偽造黑色產(chǎn)業(yè)鏈劃分為三個(gè)階段，第一階段涉及深度偽造行為之前的公民個(gè)人信息的非法獲取、非法出售和非法提供，第二階段是非法使用深度偽造技術(shù)的行為，第三階段則是利用深度偽造內(nèi)容實(shí)施詐騙、誹謗等一系列違法犯罪行為。對(duì)第一階段的針對(duì)公民個(gè)人信息安全的犯罪，可以以侵犯公民個(gè)人信息罪進(jìn)行規(guī)制；對(duì)第三階段的后續(xù)犯罪行為，則直接以行為所構(gòu)成的特定犯罪定罪處罰即可。但是，對(duì)于第二階段也就是深度偽造這一行為本身，如果以下游犯罪的共犯定罪處罰，則存在以下疑問：一是，當(dāng)深度偽造技術(shù)處理呈現(xiàn)出產(chǎn)業(yè)化發(fā)展態(tài)勢(shì)，那么提供深度偽造技術(shù)服務(wù)的行為人與利用深度偽造內(nèi)容實(shí)施下游犯罪的行為人之間缺乏犯罪意思聯(lián)絡(luò)，提供技術(shù)服務(wù)的行為人可能并不知道其他犯罪行為人將要實(shí)施何種犯罪，所以也就不具有與其他犯罪行為人的共同犯罪故意。這種情況下，對(duì)于專門提供深度偽造技術(shù)服務(wù)的行為人，便不能以他人所實(shí)施的具體犯罪的共犯定罪論處。二是，根據(jù)通說的共犯限制從屬性理論，在正犯行為該當(dāng)構(gòu)成要件并且具有違法性的前提下，共犯才有成立的可能。因此，如果下游行為依法尚不成立犯罪，26具體包括兩種情形：一是行為不該當(dāng)具體犯罪的構(gòu)成要件，未侵犯具體犯罪中的法益；二是行為僅形式上該當(dāng)某一犯罪的構(gòu)成要件，但因不滿足“情節(jié)嚴(yán)重”“數(shù)額較大”等實(shí)質(zhì)違法性要求而不構(gòu)成犯罪。而只是構(gòu)成一般違法行為，那么，對(duì)于專門提供深度偽造技術(shù)服務(wù)的行為人不能以共犯定罪處罰。

既然共同犯罪理論難以完全回應(yīng)深度偽造的行為不法認(rèn)定問題，有學(xué)者便提出通過增設(shè)專門的“身份盜竊犯罪”27參加前引24，李懷勝文。來規(guī)制深度偽造不法行為。這一觀點(diǎn)主張深度偽造行為具有相對(duì)于下游犯罪的獨(dú)立的違法性，而其獨(dú)立違法性來源于身份冒用行為，認(rèn)為深度偽造的內(nèi)容在使用過程中雖然不構(gòu)成犯罪，但因深度偽造內(nèi)容具有身份冒用的可能性，為了防止后續(xù)詐騙等一系列具體犯罪的發(fā)生，因此有必要將深度偽造行為本身以身份盜竊犯罪獨(dú)立定罪處罰。28參加前引13，李騰文。而對(duì)此的反對(duì)觀點(diǎn)認(rèn)為，偽造信息的行為本身不具有獨(dú)立的違法性，因?yàn)閭卧煨袨榈哪康臅?huì)被后續(xù)其他犯罪行為的目的所吸收，所以深度偽造的行為本身不應(yīng)成為我國(guó)刑法的歸責(zé)對(duì)象。29敬力嘉：《作為行為不法類型的犯罪參與——兼論非法發(fā)布深度偽造信息的行為不法》，載 《華東政法大學(xué)學(xué)報(bào)》 2020 年第6 期。

本文認(rèn)為，對(duì)于非法使用深度偽造技術(shù)的行為應(yīng)當(dāng)予以刑法規(guī)制，但卻不贊同現(xiàn)階段通過增設(shè)專門的罪名來規(guī)制深度偽造中的身份冒用行為。增設(shè)身份盜竊犯罪其實(shí)是一種預(yù)備行為實(shí)行行為化的立法觀點(diǎn)，但是我國(guó)刑法對(duì)于預(yù)備犯的處罰應(yīng)當(dāng)僅限于侵犯重大法益的犯罪行為，而并非對(duì)任意犯罪行為的預(yù)備行為均可以作出獨(dú)立的預(yù)備犯的立法規(guī)定，否則便違背了刑法的謙抑性原則，而且也與當(dāng)下國(guó)家大力推進(jìn)人工智能技術(shù)發(fā)展的政策要求背道而馳。此外，那種以對(duì)法益的提前保護(hù)為名，將濫用深度偽造技術(shù)的行為傾向于按照共犯理論認(rèn)定為其他犯罪的預(yù)備犯的觀點(diǎn)亦為本文所不取。例如，行為人使用深度偽造技術(shù)制作具有身份冒用性質(zhì)的內(nèi)容，如果后續(xù)的犯罪行為尚未著手實(shí)施，那么就不能僅以制作者具有實(shí)施其他犯罪的目的為由，認(rèn)定深度偽造行為成立后續(xù)犯罪的預(yù)備犯。

同時(shí)本文也不贊同反對(duì)觀點(diǎn)，因?yàn)殡S著深度偽造技術(shù)的不斷發(fā)展成熟，技術(shù)被濫用的風(fēng)險(xiǎn)和由此造成的社會(huì)危害也會(huì)越來越大，所以刑法對(duì)深度偽造行為具有獨(dú)立規(guī)制的必要性。在網(wǎng)絡(luò)“換臉詐騙”中，網(wǎng)絡(luò)黑產(chǎn)從業(yè)者通過非法途徑獲取公民照片、手機(jī)號(hào)碼、身份證號(hào)碼等個(gè)人信息，然后將這些非法獲取的個(gè)人信息進(jìn)行深度偽造技術(shù)處理，冒用他人身份進(jìn)行人臉實(shí)名注冊(cè)，最后將虛假注冊(cè)的賬號(hào)販賣給違法犯罪團(tuán)伙。30《照片活化瞞過人臉識(shí)別，冒用他人身份虛假注冊(cè)，深圳警方打掉一新型犯罪團(tuán)伙抓獲13 人》，搜狐網(wǎng)：https://www.sohu.com/a/410804526_161795，2021 年4 月12 日訪問。在這條黑色產(chǎn)業(yè)鏈中，專門提供深度偽造技術(shù)服務(wù)的人員，為他人提供虛假注冊(cè)、刷臉支付等黑產(chǎn)服務(wù)，幫助他人實(shí)施詐騙等違法犯罪活動(dòng)。相對(duì)于傳統(tǒng)幫助犯罪，網(wǎng)絡(luò)犯罪幫助行為呈“一對(duì)多”的行為模式，這種幫助行為的社會(huì)危害性并不亞于被幫助的下游違法犯罪行為，因此應(yīng)當(dāng)根據(jù)“積量構(gòu)罪”31皮勇：《論新型網(wǎng)絡(luò)犯罪立法及其適用》，載 《中國(guó)社會(huì)科學(xué)》 2018 年第10 期。的理念，將這種產(chǎn)業(yè)化的提供深度偽造技術(shù)服務(wù)的行為以非法利用信息網(wǎng)絡(luò)罪、幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪等獨(dú)立罪名定罪論處。

（二）網(wǎng)絡(luò)服務(wù)提供者的不作為責(zé)任邊界

面對(duì)網(wǎng)絡(luò)虛擬空間中層出不窮的深度偽造導(dǎo)致的身份仿冒亂象，網(wǎng)絡(luò)服務(wù)提供者在技術(shù)治理過程中發(fā)揮著重要作用，應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)安全監(jiān)管的主體責(zé)任，采取必要的技術(shù)措施維護(hù)網(wǎng)絡(luò)安全。如果深度偽造行為構(gòu)成不法，責(zé)任主體除了深度偽造內(nèi)容制作者外，網(wǎng)絡(luò)服務(wù)提供者也可能因未履行信息網(wǎng)絡(luò)安全管理義務(wù)而承擔(dān)相應(yīng)的不作為責(zé)任。避風(fēng)港原則是網(wǎng)絡(luò)服務(wù)提供者承擔(dān)責(zé)任和責(zé)任豁免的主要依據(jù)，網(wǎng)絡(luò)服務(wù)提供者在收到侵權(quán)通知后，應(yīng)當(dāng)及時(shí)采取技術(shù)措施減少侵權(quán)內(nèi)容的不利影響。需要注意的是，雖然避風(fēng)港原則的主要內(nèi)容一般被認(rèn)為是“通知—?jiǎng)h除”規(guī)則，但是不應(yīng)僵化地將“通知—?jiǎng)h除”等同于避風(fēng)港原則。換言之，網(wǎng)絡(luò)服務(wù)提供者在經(jīng)通知后，應(yīng)當(dāng)針對(duì)其平臺(tái)中所發(fā)布的違法的深度偽造內(nèi)容采取技術(shù)措施，但該技術(shù)措施不僅僅限于刪除，還包括其他能夠用以減小危害結(jié)果的必要技術(shù)措施。比如，在發(fā)現(xiàn)利用深度偽造技術(shù)制作的視聽作品未添加標(biāo)識(shí)時(shí)，應(yīng)當(dāng)對(duì)其添加標(biāo)識(shí)以提醒用戶知悉。32參加前引13，李騰文。總之，對(duì)于不同的深度偽造內(nèi)容，網(wǎng)絡(luò)服務(wù)提供者應(yīng)當(dāng)采取不同的技術(shù)措施：內(nèi)容涉嫌違法的，應(yīng)當(dāng)及時(shí)予以刪除；對(duì)其他的一般深度偽造內(nèi)容，應(yīng)當(dāng)進(jìn)行標(biāo)識(shí)提醒。具體而言：

網(wǎng)絡(luò)服務(wù)提供者在經(jīng)權(quán)利人通知后，應(yīng)當(dāng)及時(shí)采取刪除、屏蔽等技術(shù)措施，阻止深度偽造內(nèi)容危害后果的進(jìn)一步擴(kuò)大。由于互聯(lián)網(wǎng)環(huán)境普遍的匿名性，深度偽造行為中的被害人尋找制作深度偽造內(nèi)容的行為人存在困難，從而缺乏法律追索途徑，在這種情況下，為了保護(hù)被害人的合法權(quán)益，被害人可以直接請(qǐng)求網(wǎng)絡(luò)平臺(tái)采取相應(yīng)的技術(shù)措施以避免損害的進(jìn)一步擴(kuò)大。隨著當(dāng)下國(guó)內(nèi)網(wǎng)紅經(jīng)濟(jì)的興起，一些短視頻平臺(tái)漸漸成為深度偽造內(nèi)容滋生的沃土。例如，行為人通過AI 換臉技術(shù)偽造明星靳東的頭像和身份，在抖音視頻軟件上與60 歲大媽“談戀愛”，以達(dá)到其銷售產(chǎn)品等目的。假靳東事件爆發(fā)之后，抖音平臺(tái)快速作出了回應(yīng)：假靳東的相關(guān)賬號(hào)大規(guī)模減少，有些尚存在的賬號(hào)也將作品清零。33《“假靳東”鬧劇閱讀量超16 億，“中老年粉絲”正在攻占短視頻？》，https://view.inews.qq.com/a/20201014A0IGJS00，2021 年4 月1 日訪問。

網(wǎng)絡(luò)服務(wù)提供者對(duì)于控制網(wǎng)絡(luò)空間中虛假信息的傳播具有重要作用，基于風(fēng)險(xiǎn)控制理論，網(wǎng)絡(luò)服務(wù)提供者對(duì)于利用其所提供的網(wǎng)絡(luò)平臺(tái)等網(wǎng)絡(luò)服務(wù)所發(fā)布的深度偽造內(nèi)容應(yīng)當(dāng)承擔(dān)監(jiān)督管理義務(wù)，真正發(fā)揮其作為網(wǎng)絡(luò)平臺(tái)的“守門功能”，從而防止虛假信息的大肆傳播。例如，當(dāng)Reddit 事件發(fā)生之后，不僅Reddit 關(guān)閉了deepfakes 論壇，Twitter 等社交平臺(tái)也紛紛對(duì)此采取抵制措施，F(xiàn)acebook 還專門研發(fā)出了一個(gè)機(jī)器學(xué)習(xí)模型用于鑒別深度偽造的視頻、圖片等。34《CSIS 報(bào)告：深度偽造(Deepfake) 技術(shù)政策簡(jiǎn)報(bào)》，https://www.secrss.com/articles/14664，2021 年4 月2 日訪問。需要注意的是，令網(wǎng)絡(luò)服務(wù)提供者對(duì)于深度偽造內(nèi)容承擔(dān)監(jiān)督管理義務(wù)，并不是要求網(wǎng)絡(luò)服務(wù)提供者對(duì)于在其平臺(tái)所發(fā)布的信息逐一進(jìn)行事前審查，一是因?yàn)榫W(wǎng)絡(luò)信息數(shù)量過大，事前監(jiān)管的成本太高，二是因?yàn)槿绻笏行畔?nèi)容在經(jīng)過審查后才能發(fā)布，將不利于互聯(lián)網(wǎng)環(huán)境中的文化交流和信息傳播。

避風(fēng)港原則為平衡網(wǎng)絡(luò)環(huán)境中的信息安全與信息應(yīng)用二者之間的緊張關(guān)系提供了科學(xué)合理的解決方案。避風(fēng)港原則在我國(guó)《刑法》 第二百八十六條之一中也有所體現(xiàn)，在經(jīng)監(jiān)管部門責(zé)令采取改正措施后，網(wǎng)絡(luò)服務(wù)提供者如果拒不改正的，這種情況下才需要承擔(dān)相應(yīng)的不作為責(zé)任。但是，為避免“通知?jiǎng)h除規(guī)則”成為網(wǎng)絡(luò)服務(wù)提供者逃避責(zé)任的擋箭牌，對(duì)于避風(fēng)港制度的立法初衷和具體內(nèi)容需要進(jìn)一步審視和明確。即要求網(wǎng)絡(luò)服務(wù)提供者在收到通知后，除了需要?jiǎng)h除相關(guān)侵權(quán)內(nèi)容外，還應(yīng)提高注意義務(wù)，采取技術(shù)措施防止同類侵權(quán)內(nèi)容在其平臺(tái)上傳播，從而避免反復(fù)侵權(quán)現(xiàn)象的繼續(xù)發(fā)生。避風(fēng)港制度雖然為網(wǎng)絡(luò)服務(wù)提供者的責(zé)任豁免提供了依據(jù)，但是網(wǎng)絡(luò)服務(wù)提供者不應(yīng)將避風(fēng)港原則作為自身怠于履行網(wǎng)絡(luò)安全監(jiān)管義務(wù)的理由，不應(yīng)把信息網(wǎng)絡(luò)安全管理義務(wù)僅限于通知后的刪除義務(wù)，而是還應(yīng)包括提升網(wǎng)絡(luò)運(yùn)行的安全性，有效防范網(wǎng)絡(luò)違法犯罪活動(dòng)。

最后，網(wǎng)絡(luò)服務(wù)提供者還應(yīng)積極研發(fā)針對(duì)深度偽造的識(shí)別技術(shù)，主動(dòng)回應(yīng)深度偽造行為不法問題。美國(guó)《深度偽造責(zé)任法案》 對(duì)于深度偽造技術(shù)的治理，提出了政府要成立研究深度合成內(nèi)容的專家小組，負(fù)責(zé)研發(fā)針對(duì)深度合成技術(shù)的檢測(cè)和反制技術(shù)，并與企業(yè)、學(xué)術(shù)科研機(jī)構(gòu)展開合作，從而有效檢測(cè)、識(shí)別與對(duì)抗虛假信息。目前國(guó)內(nèi)外已經(jīng)有網(wǎng)絡(luò)平臺(tái)開始嘗試通過人工智能算法對(duì)深度偽造內(nèi)容進(jìn)行識(shí)別，可見人工智能技術(shù)雖然可能作為實(shí)施違法犯罪的工具，為網(wǎng)絡(luò)犯罪治理增加難度，但同時(shí)也可以被用以反制利用技術(shù)所實(shí)施的不法行為，即所謂的技術(shù)反向破解。在國(guó)外，美國(guó)的紐約州州立大學(xué)奧爾巴尼分校研究人員提出通過檢測(cè)眨眼頻率可以識(shí)別偽造的AI 換臉視頻。研究指出，當(dāng)人在說話時(shí)，平均每分鐘眨眼26 次，但是利用深度偽造技術(shù)制作的視頻中換臉主體則完全不眨眼，以此可以識(shí)別視頻中的主體是否由深度偽造技術(shù)合成。35In Ictu Oculi:Exposing AI Generated Fake Face Videos by Detecting Eye Blinking，https://arxiv.org/pdf/1806.02877.pdf，2021 年4月3 日訪問。在我國(guó)，借助活體人臉檢測(cè)技術(shù)如紅外人臉檢測(cè)，36在傳感器當(dāng)中用到近紅外的攝像頭，近紅外攝像頭一方面可以采集人臉當(dāng)中的信息，另一方面也可以采集人臉的溫度，包括它隨著溫度的變化所帶來的一系列變化?？梢杂行Х直嬲鎸?shí)的人臉和人臉的照片或者視頻。37《刷臉時(shí)代我們的個(gè)人隱私或財(cái)產(chǎn)安全嗎？專家解讀》，https://baijiahao.baidu.com/s?id=1681617875995927630&wfr=spider&for=pc，2021 年3 月1 日訪問。除了鑒偽技術(shù)之外，溯源技術(shù)也能夠幫助追蹤、驗(yàn)證內(nèi)容來源和打擊深度偽造不法行為。區(qū)塊鏈技術(shù)可以完整記錄網(wǎng)絡(luò)空間所發(fā)布的信息內(nèi)容的流轉(zhuǎn)過程，任何篡改都會(huì)被記錄，包括由誰制作上傳和轉(zhuǎn)發(fā)，均可以精準(zhǔn)追蹤到。38張收鵬：《區(qū)塊鏈技術(shù)在傳媒業(yè)的創(chuàng)新應(yīng)用》，載 《新聞戰(zhàn)線》 2018 年第23 期。于是，深度偽造內(nèi)容制作者便會(huì)謹(jǐn)慎考慮利用深度偽造技術(shù)實(shí)施不法行為的成本，也有利于監(jiān)管者審查和追溯信息來源，從而更有效地打擊深度偽造不法行為。

結(jié)語

法律的作用應(yīng)當(dāng)重在疏解而非抑制。針對(duì)一項(xiàng)新興技術(shù)所產(chǎn)生的安全風(fēng)險(xiǎn)，刑法的過度介入和嚴(yán)厲打擊將會(huì)嚴(yán)重挫傷技術(shù)研發(fā)的積極性，不利于技術(shù)的發(fā)展和社會(huì)的進(jìn)步。而且，法律治理手段是一種被動(dòng)的事后救濟(jì)，要想從事前主動(dòng)降低深度偽造技術(shù)的安全風(fēng)險(xiǎn)，必須依靠企業(yè)內(nèi)部治理和行業(yè)自律等多種治理路徑。可無論是法律的規(guī)制還是網(wǎng)絡(luò)服務(wù)提供者的審查，都有可能出現(xiàn)管理過度或者審查過度的問題，而追求絕對(duì)的技術(shù)安全勢(shì)必會(huì)阻礙技術(shù)的開發(fā)與應(yīng)用，不利于信息的傳播和公民創(chuàng)作的積極性。因此，如何處理好技術(shù)研發(fā)應(yīng)用與個(gè)人信息保護(hù)之間的關(guān)系，值得理論界和實(shí)務(wù)界的共同關(guān)注和研究。在對(duì)于深度偽造技術(shù)的治理問題上，需要權(quán)衡人工智能技術(shù)的發(fā)展應(yīng)用與該項(xiàng)技術(shù)可能造成的法益侵害二者之間的關(guān)系。“用錘子殺人是非法的，但錘子本身并不是非法的?！?9Douglas Harris.Deepfakes:False Pornography Is Here and the Law Cannot Protect You.Duke Law&Technology Review，2019，17:127.法律所規(guī)制的是借助人工智能深度偽造技術(shù)故意侵害法益的行為，而非技術(shù)本身?？傊?，對(duì)于一項(xiàng)新興科學(xué)技術(shù)的應(yīng)用，因噎廢食的做法不應(yīng)該被提倡，在打擊深度偽造技術(shù)濫用行為的同時(shí)發(fā)揮深度偽造技術(shù)對(duì)于社會(huì)的有益價(jià)值，“取其精華，去其糟粕”，才是我們應(yīng)該保持的態(tài)度。