濫用人工智能深度偽造技術(shù)的刑法評(píng)價(jià)進(jìn)路

趙小涵

（中國(guó)政法大學(xué)刑事司法學(xué)院 北京 100088）

2017年12月，名為“deepfake”的用戶利用深度偽造技術(shù)將好萊塢演員的臉換在不雅視頻中，引起輿論熱議。類似深度偽造技術(shù)的濫用帶來(lái)了諸多法律風(fēng)險(xiǎn)：偽造普通人的視頻會(huì)給他人造成名譽(yù)損害，偽造政治人物的視頻傳播虛假言論會(huì)引發(fā)社會(huì)動(dòng)蕩。此外，經(jīng)過(guò)“深度偽造”技術(shù)處理的視頻、聲音成為具有高度欺騙性的影音資料，使人們不僅陷入“耳聽(tīng)為虛”的窘境，更陷入“眼見(jiàn)不為實(shí)”的認(rèn)知混亂[1]，為冒充他人的詐騙提供可乘之機(jī)。在人工智能技術(shù)引發(fā)巨大變革的時(shí)代，面對(duì)深度偽造技術(shù)帶來(lái)的諸多法律風(fēng)險(xiǎn)，刑法應(yīng)當(dāng)采取何種進(jìn)路對(duì)深度偽造技術(shù)的濫用進(jìn)行規(guī)制？本文討論濫用此技術(shù)的社會(huì)危害性與刑法制裁思路，指出當(dāng)前刑法制裁思路缺憾之處，最后針對(duì)此問(wèn)題提出具體解決進(jìn)路。

一、人工智能時(shí)代下深度偽造技術(shù)的異化

與其他網(wǎng)絡(luò)違法犯罪相同，深度偽造技術(shù)具有不可避免的網(wǎng)絡(luò)異化性。受網(wǎng)絡(luò)虛擬性、開(kāi)放性等因素的影響，公眾還未真正享受到此技術(shù)帶來(lái)的紅利時(shí)，而低門(mén)檻化、便捷化、危害后果的倍增效應(yīng)使之“異化”成為一種新型犯罪工具。

（一）深度偽造技術(shù)使用門(mén)檻異化

隨著科學(xué)技術(shù)的發(fā)展，人類在用工具替代雙手的探索達(dá)到頂峰之后轉(zhuǎn)而探索工具替代人類大腦的產(chǎn)物——人工智能技術(shù)[2]。深度偽造是人工智能算法在神經(jīng)網(wǎng)絡(luò)識(shí)別和視聽(tīng)數(shù)據(jù)生成轉(zhuǎn)化中的處理技術(shù)，作為人工智能技術(shù)之一，該技術(shù)可以把現(xiàn)存的圖片、視頻、音頻置換到任何影像上，合成新的影音圖像，“換臉”是該技術(shù)最為廣泛的應(yīng)用。起先由于深度偽造技術(shù)要求過(guò)高的專業(yè)能力與應(yīng)用技術(shù)，僅僅只能在代碼高手的圈子里使用，極高的技術(shù)壁壘使這一技術(shù)的流通受到了限制，真正能夠使用該深度偽造技術(shù)的人少之又少。隨著人工智能不斷發(fā)展，在國(guó)內(nèi)，“ZAO”這一換臉軟件的誕生使得深度偽造技術(shù)走下科技壁壘的神壇。該軟件基于深度偽造技術(shù)，下載這一軟件的用戶僅僅需要在軟件的應(yīng)用程序中完成注冊(cè)流程，上傳符合該軟件要求的清晰人像照片，就能隨心所欲地將目標(biāo)影像中明星的臉與自己的臉置換。隨后，一系列依托深度偽造技術(shù)的應(yīng)用軟件不斷涌現(xiàn)，此類智能應(yīng)用程序引領(lǐng)了全民皆可換臉的時(shí)代，將這一技術(shù)的應(yīng)用門(mén)檻降至最低。殊不知深度偽造技術(shù)使用門(mén)檻的異化使得該技術(shù)在娛樂(lè)屬性得到充分發(fā)揮的同時(shí)，也成為了人工智能時(shí)代的新型犯罪工具。

（二）深度偽造技術(shù)使用目的異化

起先，深度偽造技術(shù)多應(yīng)用于電影后期制作，在緊急情況下，可以將影視里需要替換的角色換臉，這一技術(shù)使得本來(lái)極為繁雜、需要消耗大量時(shí)間與精力的技術(shù)工程變得方便快捷，推動(dòng)了電影行業(yè)的發(fā)展。隨著智能技術(shù)的發(fā)展呈現(xiàn)出加速迭代的特征[3]，該技術(shù)的使用目的逐漸呈現(xiàn)出“異化”之趨勢(shì)。隨著技術(shù)門(mén)檻降低，深度偽造使用目的也在隨之異化。艾瑪·沃特森、斯嘉麗·約翰遜、“神奇女俠”蓋爾·加朵等一大波歐美女性的臉被換在了不雅視頻中，之后國(guó)外一國(guó)政治人物在深度偽造技術(shù)的加工下進(jìn)行了虛擬的“互相攻訐”，還“說(shuō)”了從未說(shuō)出的攻擊性語(yǔ)言。在我國(guó)，深度偽造技術(shù)第一次制造波瀾發(fā)生在兩位女演員身上，有一名為“換臉哥”的用戶將《射雕英雄傳》中某女演員飾演的黃蓉?fù)Q成了另一位女演員的臉，并把處理過(guò)的視頻發(fā)布，獲得了廣泛的輿論關(guān)注。部分網(wǎng)站上兜售的明星不雅視頻使眾多女性成為深度偽造技術(shù)的受害者。這些合成視頻被用來(lái)侵犯被害人的名譽(yù)權(quán)、肖像權(quán)等基本權(quán)利，更有甚者，還利用這些合成視頻來(lái)騷擾、侮辱、勒索被害人，給被害人帶來(lái)二次傷害。

二、濫用深度偽造技術(shù)的社會(huì)危害性與制裁思路

（一）濫用深度偽造技術(shù)的社會(huì)危害性

濫用深度偽造技術(shù)的社會(huì)危害性如下：一是深度偽造技術(shù)的濫用可能造成對(duì)于隱私權(quán)的侵害。依托深度偽造技術(shù)的換臉應(yīng)用需要對(duì)注冊(cè)用戶的面部生物信息進(jìn)行采集，如果不合理地收集甚至濫用、泄露該信息，將侵犯公民的隱私權(quán)。二是深度偽造技術(shù)的“不雅使用”可能造成對(duì)于名譽(yù)權(quán)的損害。在人工智能時(shí)代深度偽造技術(shù)飛速發(fā)展的裹挾之下，任何人都是潛在的受害者。三是深度偽造技術(shù)的濫用可能會(huì)造成對(duì)于公民財(cái)產(chǎn)權(quán)的侵害。首先，該技術(shù)是對(duì)“人臉識(shí)別”支付領(lǐng)域的巨大挑戰(zhàn)，通過(guò)該技術(shù)可以合成被害人配合人臉識(shí)別做出系統(tǒng)規(guī)定表情的動(dòng)態(tài)視頻，使得應(yīng)用程序錯(cuò)認(rèn)身份，最終造成他人的財(cái)產(chǎn)損失。其次，這一技術(shù)還可以被用來(lái)通過(guò)語(yǔ)音或者視頻電話冒充他人實(shí)施詐騙，成為勒索他人財(cái)物的犯罪工具，加劇詐騙犯罪的風(fēng)險(xiǎn)。四是深度偽造技術(shù)的濫用可能對(duì)公共秩序造成損害。很多權(quán)威信息會(huì)通過(guò)網(wǎng)絡(luò)以視頻形式發(fā)布，若是利用該技術(shù)合成權(quán)威人士的虛假視頻在網(wǎng)上流傳，冒用他人的身份發(fā)布重大虛假信息可能會(huì)造成社會(huì)秩序混亂。

（二）現(xiàn)行刑法對(duì)于濫用深度偽造技術(shù)的制裁思路

1.對(duì)于深度偽造技術(shù)使用者的刑法規(guī)制

使用深度偽造技術(shù)可能構(gòu)成以下罪名：一是侮辱罪。使用深度偽造技術(shù)合成的虛假照片或者視頻在網(wǎng)絡(luò)傳播過(guò)程中損害他人名譽(yù)，情節(jié)嚴(yán)重的，構(gòu)成侮辱罪。根據(jù)相關(guān)司法解釋，若該信息被點(diǎn)擊、瀏覽次數(shù)實(shí)際超過(guò)5000次，被轉(zhuǎn)發(fā)次數(shù)超過(guò)500次，或者該信息造成被害人或其近親屬精神失常、自殘等嚴(yán)重后果，屬情節(jié)嚴(yán)重，認(rèn)定其構(gòu)成侮辱罪。二是詐騙罪。通過(guò)電話或視頻電話冒充他人的詐騙，抑或通過(guò)深度偽造技術(shù)通過(guò)支付系統(tǒng)人臉識(shí)別騙取他人財(cái)產(chǎn)的行為，可能構(gòu)成詐騙罪。三是傳播淫穢物品罪、傳播淫穢物品牟利罪。利用深度偽造技術(shù)將明星的臉替換到不雅圖片或者視頻上，將此圖片或者視頻通過(guò)互聯(lián)網(wǎng)大量傳播達(dá)到300至600人次以上或者造成惡劣社會(huì)影響的，屬情節(jié)嚴(yán)重，定傳播淫穢物品罪。四是戰(zhàn)時(shí)造謠惑眾罪。如果濫用深度偽造技術(shù)合成虛假視頻在戰(zhàn)時(shí)造謠惑眾、動(dòng)搖軍心的，以戰(zhàn)時(shí)造謠惑眾罪論處。

2.對(duì)于提供深度偽造技術(shù)網(wǎng)絡(luò)平臺(tái)的刑法規(guī)制

提供深度偽造技術(shù)的網(wǎng)絡(luò)平臺(tái)可能構(gòu)成以下罪名：一是侵犯公民個(gè)人信息罪。提供深度偽造技術(shù)的網(wǎng)絡(luò)平臺(tái)方非法向他人出售或者提供用戶的面部信息，情節(jié)嚴(yán)重的，構(gòu)成侵犯公民個(gè)人信息罪。二是拒不履行網(wǎng)絡(luò)信息管理義務(wù)罪。一般而言，網(wǎng)絡(luò)平臺(tái)服務(wù)者的中立幫助行為不承擔(dān)刑事責(zé)任，如果網(wǎng)絡(luò)平臺(tái)服務(wù)提供者有能力履行而拒不履行法律規(guī)定的或者網(wǎng)絡(luò)管理部門(mén)責(zé)令的相關(guān)事后刪除等義務(wù)，情節(jié)嚴(yán)重或者后果嚴(yán)重的，以拒不履行網(wǎng)絡(luò)信息管理義務(wù)罪追究其刑事責(zé)任。三是幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪。網(wǎng)絡(luò)平臺(tái)方明知他人利用深度偽造技術(shù)犯罪仍為其提供特定幫助的行為，可能構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪。

三、濫用深度偽造技術(shù)的實(shí)質(zhì)與刑法現(xiàn)實(shí)困境

（一）濫用深度偽造技術(shù)的實(shí)質(zhì)：盜用個(gè)人生物識(shí)別信息

生物識(shí)別信息包括身體特征和行為特征兩類：身體特征包括指紋、靜脈、掌型、視網(wǎng)膜、虹膜、人體氣味、臉型、血管、DNA、骨骼等，行為特征包括簽名、語(yǔ)音、行走步態(tài)等，生物識(shí)別技術(shù)是通過(guò)人類生物特征進(jìn)行身份認(rèn)證的一種技術(shù)，人臉識(shí)別屬于生物識(shí)別技術(shù)中的一種。在人工智能時(shí)代背景下，個(gè)人生物識(shí)別信息非常容易被人工智能犯罪活動(dòng)所利用。使用深度偽造技術(shù)合成換臉視頻是盜用個(gè)人生物識(shí)別信息的行為，通過(guò)技術(shù)手段盜用他人的生物識(shí)別信息?；趥€(gè)人生物識(shí)別信息具有個(gè)人數(shù)據(jù)的唯一性、程序識(shí)別性、可復(fù)制性、損害的不可逆性及信息的關(guān)聯(lián)性等特征。在大數(shù)據(jù)背景下，個(gè)人生物識(shí)別信息的廣泛應(yīng)用會(huì)帶來(lái)嚴(yán)重的生物信息安全風(fēng)險(xiǎn)，需要立法進(jìn)行全方位規(guī)制[4]。

（二）刑法評(píng)價(jià)的現(xiàn)實(shí)困境：難以全方位保護(hù)個(gè)人生物識(shí)別信息

1.現(xiàn)狀：刑法評(píng)價(jià)體系依附于下游犯罪

現(xiàn)有的刑法制裁體系更多是對(duì)盜用個(gè)人生物識(shí)別信息的下游犯罪進(jìn)行規(guī)制，來(lái)達(dá)到對(duì)公民身份進(jìn)行間接保護(hù)的目的。例如，利用深度偽造技術(shù)換臉合成虛假視頻，對(duì)于嚴(yán)重?fù)p害他人名譽(yù)的行為定侮辱、誹謗罪，利用深度偽造技術(shù)制作假冒他人的語(yǔ)音視頻詐騙錢(qián)財(cái)定詐騙罪等，均從下游犯罪的角度進(jìn)行規(guī)制，并沒(méi)有對(duì)盜用個(gè)人生物識(shí)別信息這一獨(dú)立的法益侵害行為進(jìn)行刑法上的規(guī)制，并且這些相應(yīng)的下游犯罪都存在較高的入罪門(mén)檻，認(rèn)定其構(gòu)成侮辱罪需要該信息被點(diǎn)擊、瀏覽次數(shù)實(shí)際超過(guò)5000次，被轉(zhuǎn)發(fā)次數(shù)超過(guò)500次，或者該信息造成被害人或其近親屬精神失常、自殘、自殺等嚴(yán)重后果，詐騙罪需要達(dá)到較高的入罪金額，如果僅僅依賴于刑法對(duì)于深度偽造行為觸犯的下游犯罪進(jìn)行規(guī)制，將導(dǎo)致對(duì)其刑法評(píng)價(jià)依賴于對(duì)其后續(xù)行為的刑法制裁，即深度偽造行為本身的社會(huì)危害性。

2.缺憾：盜用個(gè)人生物識(shí)別信息行為的刑法規(guī)制缺位

縱觀我國(guó)刑法中與盜用個(gè)人生物識(shí)別信息行為最接近的犯罪有盜用身份證件罪、招搖撞騙罪、冒名頂替罪、侵犯公民個(gè)人信息罪等。盜用身份證件罪的對(duì)象為身份證件，生物識(shí)別信息不在此罪打擊范圍之內(nèi)。招搖撞騙罪、冒名頂替罪雖然同為假冒他人的身份，但構(gòu)成要件與深度偽造中盜用個(gè)人生物識(shí)別信息相去甚遠(yuǎn)，不能將此行為納入刑法規(guī)制的范圍中。對(duì)于濫用深度偽造技術(shù)的犯罪鏈上游行為可以采用侵犯公民信息罪進(jìn)行制裁，但鑒于此罪的構(gòu)成要件，刑法只能對(duì)不法收集、不法提供或出售個(gè)人信息進(jìn)行制裁。然而，使用深度偽造技術(shù)合成虛假視頻只需要收集到被害人的照片即可，在這個(gè)信息爆炸的時(shí)代，明星、著名公眾人物或者政治人物的照片通過(guò)互聯(lián)網(wǎng)正常收集的途徑幾乎唾手可得，只要關(guān)注到被害人的社交賬號(hào)，獲取普通人的照片輕而易舉，大部分深度偽造素材都不需要通過(guò)非法路徑獲取。不能將合法收集卻不法盜用個(gè)人生物識(shí)別信息的行為納入犯罪圈中，意味著對(duì)于深度偽造行為的法律評(píng)價(jià)與規(guī)制存在空白地帶。

四、人工智能時(shí)代的跟進(jìn)：深度偽造技術(shù)的刑法回應(yīng)

以“最低限度”的原則搜集個(gè)人信息，以“最嚴(yán)厲”的原則保護(hù)個(gè)人信息，才能真正使得人工智能換臉技術(shù)向安全、可靠、可控的方向發(fā)展[5]。筆者認(rèn)為，在合理平衡技術(shù)發(fā)展與生物識(shí)別信息保護(hù)的情況下，刑法介入的思路是：完善侵犯公民個(gè)人信息罪的犯罪構(gòu)成，實(shí)現(xiàn)盜用個(gè)人生物識(shí)別信息的行為入罪化。

（一）個(gè)人生物識(shí)別信息保護(hù)視角下刑法介入之必要性

有學(xué)者認(rèn)為，考慮到合憲性調(diào)控、刑法的比例性原則、算法學(xué)習(xí)的顯著技術(shù)弊端以及數(shù)據(jù)共享的新型模式等現(xiàn)實(shí)因素，真正值得入罪化的深度偽造行為只有兩種：首先，深度偽造技術(shù)制造的這一虛假信息本身就應(yīng)當(dāng)被刑法所規(guī)制，是刑法法益評(píng)價(jià)的危害對(duì)象。其次，這一深度偽造行為使得網(wǎng)絡(luò)抽象心理恐懼向現(xiàn)實(shí)社會(huì)延伸，導(dǎo)致公民人身、財(cái)產(chǎn)權(quán)利受到嚴(yán)重侵害或者致使社會(huì)秩序發(fā)生重大混亂[6]。筆者不反對(duì)限縮濫用深度偽造行為的打擊范圍，關(guān)鍵在于如何合理劃分罪與非罪的邊界，從法益保護(hù)實(shí)際需要來(lái)看，當(dāng)前亟需將盜用公民個(gè)人生物識(shí)別信息的行為納入刑法打擊半徑。近年來(lái)，我國(guó)刑法在不斷實(shí)現(xiàn)“公民個(gè)人信息”保護(hù)罪名體系精密化的同時(shí)，不斷賦予“公民個(gè)人信息”新的內(nèi)涵和外延，不斷擴(kuò)張侵犯公民個(gè)人信息罪的打擊半徑[7]。在虛擬網(wǎng)絡(luò)空間，面部等生物識(shí)別信息成為人們?cè)诨ヂ?lián)網(wǎng)時(shí)代的第二張通行身份證，深度偽造技術(shù)通過(guò)照片或者視頻即可對(duì)面部信息進(jìn)行盜用，在特殊虛擬身份識(shí)別場(chǎng)合，其法益危害性程度足以與盜用身份證件相匹敵，甚至可以將生物識(shí)別信息看作現(xiàn)實(shí)中身份證件在網(wǎng)絡(luò)時(shí)代的分化。從公民個(gè)人生物識(shí)別信息的角度來(lái)說(shuō)，現(xiàn)有刑法體系能夠制裁不法獲取公民信息的行為，但是缺乏對(duì)合理獲取但不法盜用公民生物識(shí)別行為的打擊，沒(méi)有全方位的保護(hù)公民的個(gè)人信息。此時(shí)存在立法干預(yù)的必要性，有利于在抽象心理恐懼未延申至現(xiàn)實(shí)世界中造成重大損害之前，從源頭治理此類犯罪行為。

（二）理想路徑：完善侵犯公民個(gè)人信息罪的犯罪構(gòu)成

有學(xué)者認(rèn)為，應(yīng)當(dāng)改造招搖撞騙罪的構(gòu)成要件，將盜用公民個(gè)人生物識(shí)別信息的行為放在這一罪名中予以規(guī)制[8]。筆者不贊同這一觀點(diǎn)。從法益保護(hù)的角度出發(fā)，招搖撞騙罪保護(hù)的法益在于國(guó)家機(jī)關(guān)的純潔性不受侵害，與保護(hù)公民個(gè)人生物識(shí)別信息不被盜用的法益相去甚遠(yuǎn)。我國(guó)刑法中與盜用公民個(gè)人生物識(shí)別信息最接近的犯罪有盜用身份證件罪、侵犯公民個(gè)人信息罪、招搖撞騙罪、冒名頂替罪。從保護(hù)法益的角度來(lái)考察，盜用身份證件罪的立法本意是維護(hù)社會(huì)公共信用,侵犯公民個(gè)人信息罪強(qiáng)調(diào)對(duì)于公民個(gè)人信息權(quán)的保護(hù)，招搖撞騙罪為了維護(hù)國(guó)家機(jī)關(guān)的純潔性不受侵害，冒名頂替罪維護(hù)的法益則是社會(huì)管理秩序。對(duì)生物識(shí)別信息的保護(hù)屬于對(duì)公民的個(gè)人信息的保護(hù)，修改侵犯公民個(gè)人信息罪的構(gòu)成要件，將盜用個(gè)人生物識(shí)別信息的行為納入侵犯公民個(gè)人信息罪的犯罪構(gòu)成，符合法益保護(hù)的一致性。因此，筆者認(rèn)為，可以對(duì)我國(guó)刑法的侵犯公民個(gè)人信息罪進(jìn)行修改完善，增設(shè)“盜用公民個(gè)人生物識(shí)別信息，造成嚴(yán)重后果的”類似條款，從而將盜用個(gè)人生物識(shí)別信息的行為納入侵犯公民個(gè)人信息罪的犯罪構(gòu)成。