深度偽造技術(shù)的法律規(guī)制

趙文迪

摘?要：“深度偽造”是利用深度學(xué)習(xí)技術(shù)中的“生成式對抗網(wǎng)絡(luò)”模型數(shù)字化處理和生成智能圖片或音視頻的技術(shù)。隨著數(shù)字時(shí)代人工智能技術(shù)的不斷創(chuàng)新，深度偽造技術(shù)在各個(gè)領(lǐng)域也開始廣泛傳播和應(yīng)用，它具有高度真實(shí)性、簡易操作性和迅速傳播性的特點(diǎn)。在應(yīng)用過程中，極易出現(xiàn)信息失真與泄露、侵犯公民合法權(quán)益、威脅社會公共秩序等問題。本文根據(jù)深度偽造的法律規(guī)制現(xiàn)狀探索其解決路徑，通過健全制作者和平臺責(zé)任制度、確立多元化監(jiān)管模式和完善事后救濟(jì)措施，以期在法律規(guī)制之下促進(jìn)深度偽造技術(shù)良性發(fā)展。

關(guān)鍵詞：深度偽造；人工智能；法律規(guī)制

中圖分類號：D9?????文獻(xiàn)標(biāo)識碼：A??????doi：10.19311/j.cnki.16723198.2023.19.068

人工智能已步入技術(shù)與產(chǎn)業(yè)相結(jié)合發(fā)展的新時(shí)期，新技術(shù)革命的時(shí)代即將到來，其應(yīng)用場景也變得越來越多樣化和廣泛。“深度偽造”（deep?fake）是由深度學(xué)習(xí)（deep?learning）與偽造（fake）結(jié)合而成的一種新型合成詞，可用于偽造視頻、語音、圖像、筆跡等方面，并可生成與原作品相似程度較高的真實(shí)效果。深度偽造技術(shù)是當(dāng)前人工智能技術(shù)飛速發(fā)展的成果之一，它作為一種圖片、音視頻的制造手段，在某些情況下能發(fā)揮其獨(dú)特的作用。例如將這一技術(shù)運(yùn)用到軟件開發(fā)中，能為用戶創(chuàng)建極具體驗(yàn)感的自主制作虛擬圖片、音視頻的APP；電影制片公司還可以利用深度偽造技術(shù)創(chuàng)造出在沒有替身的情況下的具有逼真效果的特效，以提升觀感與電影特效水平。

正是因?yàn)樯疃葌卧旒夹g(shù)操作簡易，在深度偽造技術(shù)發(fā)展迅猛及廣泛使用的當(dāng)下，有犯罪動機(jī)的人會將這種技術(shù)濫用于非法活動，給人們帶來更大的風(fēng)險(xiǎn)。在深度偽造技術(shù)提供強(qiáng)大的技術(shù)支撐的情形下，國內(nèi)各大社交平臺、視頻網(wǎng)站等領(lǐng)域涌現(xiàn)出了大量的AI換臉視頻，造成了社交網(wǎng)絡(luò)涌現(xiàn)的信息難辨虛實(shí)的現(xiàn)象。深度偽造技術(shù)的應(yīng)用可以根據(jù)制作者目的概括為具有趣味性、娛樂性的深度偽造作品，和帶有主觀惡意的深度偽造作品。帶有主觀惡意的深度偽造作品，若被用于特定用途，將對個(gè)人利益、社會治理甚至國家安全構(gòu)成嚴(yán)重威脅與挑戰(zhàn)。例如，基于深度偽造技術(shù)生成的色情視頻就是其中最常見的侵權(quán)行為的一種。這類視頻不僅侵犯了臉部權(quán)利人的肖像權(quán)、名譽(yù)權(quán)等權(quán)利，也同時(shí)損害了被換臉人的肖像權(quán)甚至是表演者權(quán)；它還被用于制作虛假換臉視頻對某些國家當(dāng)前的政治事件進(jìn)行虛假的負(fù)面報(bào)道，例如在外網(wǎng)推特上經(jīng)常出現(xiàn)篡改國外政治領(lǐng)導(dǎo)人物人臉的發(fā)言視頻。這種虛假信息傳播既有可能加劇社會矛盾，也有可能對一個(gè)國家的政治形象造成影響。在其他方面，深度偽造技術(shù)導(dǎo)致的詐騙活動也會對公司和個(gè)人造成財(cái)務(wù)經(jīng)濟(jì)上的損害，或是對公司的股價(jià)造成影響。因此深度偽造技術(shù)應(yīng)用帶來的法律風(fēng)險(xiǎn)不容小覷，對深度偽造技術(shù)的法律規(guī)制進(jìn)行探索具有積極的意義。

1?深度偽造技術(shù)的主要特征

1.1?高度真實(shí)性

以深度偽造技術(shù)生成的視頻為例子，其利用了大量的人臉樣本，并進(jìn)行數(shù)據(jù)收集和分析，最終生成物無論是表情還是動作，都極為逼真，光靠人類的眼睛無法分辨。因此很多罪犯都會利用這種特點(diǎn)來作案。例如利用深度偽造技術(shù)換臉的AI視頻電信網(wǎng)絡(luò)詐騙正在全國爆發(fā)，中國互聯(lián)網(wǎng)協(xié)會官微也發(fā)文警惕“AI換臉”“AI換聲”等虛假音視頻。

1.2?簡易操作性

深度偽造技術(shù)的原理復(fù)雜，早期這種技術(shù)不具備廣泛使用與流通的條件。如今，網(wǎng)絡(luò)時(shí)代為深度偽造技術(shù)的應(yīng)用市場帶來了極大的發(fā)展空間，軟件公司會根據(jù)自己的利益需求，憑借深度偽造技術(shù)帶來的紅利去滿足用戶的不同愛好和興趣，讓玩家可以通過APP簡易操作制作虛擬圖片或者視頻，甚至有不法分子以此制作具有名人效應(yīng)的色情換臉視頻營利。

1.3?迅速傳播性

隨著人工智能技術(shù)的不斷發(fā)展和廣泛應(yīng)用，降低了制造各種深度偽造作品的門檻。在傳播速度層面，只要使用一部手機(jī)，就可以通過“一鍵轉(zhuǎn)發(fā)”實(shí)現(xiàn)在互聯(lián)網(wǎng)上的擴(kuò)散。從傳播內(nèi)容上分析，在深度偽造生成物中，占據(jù)比例最多的是含色情和政治類作品。從專業(yè)傳播學(xué)的視角來談，色情和政治類作品通常具有低俗、虛假、傳播迅速的特征。從而造成了網(wǎng)絡(luò)和社交媒體上能迅速傳播一批“有心人”惡意制作的深度偽造作品。

2?深度偽造技術(shù)的社會治理風(fēng)險(xiǎn)

2.1?信息失真與泄露

深度偽造技術(shù)可以利用真實(shí)和虛假的信息相糅合來達(dá)到欺詐目的，隨著其被推廣和大量應(yīng)用，不可避免地會帶來信息失真與泄露等嚴(yán)重后果。當(dāng)深度偽造技術(shù)被非法使用來散布謠言、擾亂公眾視聽時(shí)，這種有害引導(dǎo)輿論的行為就是在操控公眾意識，并破壞社會信任體系，從而對公共秩序的穩(wěn)定產(chǎn)生了嚴(yán)重的危害。這種現(xiàn)象使得社會傳播的海量信息都處于真實(shí)與虛假混雜、界限模糊的窘境，造成了信息失真與大量泄露的現(xiàn)狀。

2.2?侵害個(gè)人合法權(quán)益

對于深度偽造技術(shù)產(chǎn)生的作品而言，風(fēng)險(xiǎn)之一是它會對作品中所涉及人物的人身權(quán)益造成損害。最初這項(xiàng)技術(shù)的傳播便是被國外用來制作各種類型的色情換臉視頻，現(xiàn)如今“換臉”的目標(biāo)從藝人明星和政治家迅速擴(kuò)大到了普通群眾?？梢钥闯?，深度偽造技術(shù)的普及和傳播速度極快。這就導(dǎo)致了過于簡單，幾乎是“無門檻”的操作行為使被“換臉”的藝人明星或者普通群眾的名譽(yù)和肖像權(quán)都極易遭到侵害。深度偽造技術(shù)制作的換臉視頻除了作為一種自娛自樂的工具，還可以作為一種敲詐、羞辱、騷擾受害人的工具，對公民的人身和財(cái)產(chǎn)造成了傷害。

2.3?擾亂社會公共秩序

如今，深度偽造技術(shù)已經(jīng)在許多國家的情報(bào)工作中得到了廣泛的運(yùn)用。當(dāng)網(wǎng)絡(luò)間諜竊取了真實(shí)情報(bào)之后會與虛假情報(bào)混合發(fā)布，然后利用深度偽造技術(shù)，對虛假信息進(jìn)行聲音和視頻的融合，以此來增強(qiáng)虛假情報(bào)的可信度，并借此來操控輿論，讓人無法分辨真假，從而對國家安全和國際秩序造成更大的威脅。在經(jīng)濟(jì)上，也發(fā)生過使用深度偽造技術(shù)制造虛假信息，損害企業(yè)信譽(yù)，擾亂金融市場秩序的真實(shí)案例。在社會層面上，不法分子通過使用虛假資訊來混淆大眾的認(rèn)識，妨礙了真實(shí)消息的傳播，消解社會大眾對政府機(jī)構(gòu)以及新聞媒體的信任，進(jìn)而對真實(shí)的信息也產(chǎn)生了懷疑。究其根源，是由于高水平的深度偽造技術(shù)生成物對社會群眾的認(rèn)知產(chǎn)生了巨大的沖擊，使得依照目前一般人的判定標(biāo)準(zhǔn)難以分辨。

3?現(xiàn)行立法對深度偽造技術(shù)應(yīng)用的規(guī)制

3.1?現(xiàn)行立法規(guī)制現(xiàn)狀

目前，我國還沒有直接針對深度偽造技術(shù)的法律規(guī)制。濫用深偽造技術(shù)的行為可能侵犯到公民肖像權(quán)、名譽(yù)權(quán)、著作權(quán)和財(cái)產(chǎn)權(quán)等，給公民的個(gè)人信息安全帶來巨大的威脅。因此根據(jù)上述權(quán)利相應(yīng)的法律保護(hù)，我們可以通過現(xiàn)行的有關(guān)立法來進(jìn)行間接規(guī)制?！睹穹ǖ洹返?019條規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。例如“換臉視頻”這類深度偽造技術(shù)生成的作品便會在未經(jīng)權(quán)利人同意的前提下，將人臉合成替換到視頻中，然后在互聯(lián)網(wǎng)上進(jìn)行公開發(fā)布與傳播，同時(shí)侵犯了“被換臉”本人以及原視頻出演者雙方的肖像權(quán)?！睹穹ǖ洹返谖逭率顷P(guān)于保障名譽(yù)權(quán)，如果深度偽造技術(shù)生成物蘊(yùn)含色情污蔑和誹謗侮辱性質(zhì)的內(nèi)容并且被傳播擴(kuò)散，就會產(chǎn)生對權(quán)利人名譽(yù)權(quán)的侵犯。除了《民法典》之外，我國《個(gè)人信息保護(hù)法》第28條將生物識別明確規(guī)定為敏感個(gè)人信息加以保護(hù)，使其免遭他人侵犯。深度偽造技術(shù)的間接規(guī)制也體現(xiàn)在我國《著作權(quán)法》中。為了獲取流量與熱度，利用深度偽造技術(shù)的視頻制作者往往會以當(dāng)前熱門影視作品為原始素材對象。按照我國《著作權(quán)法》第3條第6款的規(guī)定，這一類型的素材資料是受法律保護(hù)的視聽作品。深度偽造技術(shù)是利用人臉替換技術(shù)產(chǎn)生的偽造新視頻，可以通過保護(hù)作品完整權(quán)的角度進(jìn)行規(guī)制?！吨鳈?quán)法》第39條還對表演者權(quán)做出了規(guī)定。深度偽造技術(shù)產(chǎn)生的偽造視頻侵犯了原作品演員的表演者權(quán)。

3.2?深度偽造技術(shù)應(yīng)用規(guī)制的局限性

3.2.1?制作者和平臺責(zé)任規(guī)定模糊

深度偽造技術(shù)的法律規(guī)制既應(yīng)包含權(quán)利保護(hù)，也應(yīng)包含對制作者和平臺責(zé)任的規(guī)定。除了制作者理所應(yīng)當(dāng)遵循的創(chuàng)作作品不侵害他人權(quán)益、不擾亂社會公共秩序之外，對平臺相應(yīng)責(zé)任也應(yīng)進(jìn)行規(guī)制。在現(xiàn)行的立法中，由于立法層級較低，規(guī)定模糊籠統(tǒng)，在實(shí)際應(yīng)用時(shí)效果并不理想。例如《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》則對平臺責(zé)任進(jìn)行了一定程度的規(guī)定并對此作出了一個(gè)重大的創(chuàng)新，即明確了每個(gè)網(wǎng)絡(luò)信息服務(wù)提供商即平臺主體必須自己進(jìn)行或?qū)⑵湮薪o第三方進(jìn)行的安全評估。即主要考慮了對用戶隱私的保護(hù)，以及對網(wǎng)絡(luò)中不良信息傳播的防范能力。在第5條中，還要求平臺將舉報(bào)和申訴的相關(guān)步驟以及具體內(nèi)容向社會公布，以便于受害人獲得救濟(jì)。

3.2.2?現(xiàn)有監(jiān)管制度不完善

目前我國尚無一個(gè)統(tǒng)一的網(wǎng)絡(luò)技術(shù)監(jiān)管主體，主要是由網(wǎng)信部門、公安部門和工信部門在其職責(zé)領(lǐng)域進(jìn)行獨(dú)立或聯(lián)合進(jìn)行監(jiān)管的，各個(gè)部門的責(zé)任劃分還沒有清晰的界定，容易導(dǎo)致重復(fù)監(jiān)管或者無人監(jiān)管的現(xiàn)象，使得行政執(zhí)法部門難以進(jìn)行有效的處罰。現(xiàn)有法律規(guī)定中還存在著網(wǎng)絡(luò)服務(wù)提供者與平臺經(jīng)營者的權(quán)利沖突問題。在我國對互聯(lián)網(wǎng)信息技術(shù)系統(tǒng)的傳統(tǒng)管制中，公權(quán)力機(jī)關(guān)通常被視為監(jiān)管主體，而網(wǎng)絡(luò)平臺作為主要的傳播途徑，卻往往被忽視了其作用。隨著網(wǎng)絡(luò)技術(shù)的發(fā)展和完善，網(wǎng)絡(luò)平臺已經(jīng)成為深度偽造侵權(quán)責(zé)任認(rèn)定中重要的一環(huán)。現(xiàn)行的相關(guān)法律對于互聯(lián)網(wǎng)平臺的監(jiān)管責(zé)任規(guī)定比較松散，大多是采取了事后救濟(jì)的方式，難以對受害人造成的損害進(jìn)行彌補(bǔ)。

3.2.3?事后救濟(jì)機(jī)制存在缺陷

法律規(guī)制的不足之處在于其通常是一種事后規(guī)范，而對于受害者的事后救濟(jì)機(jī)制則存在明顯的缺陷。由于網(wǎng)絡(luò)傳播的快速性，如果沒有及時(shí)、有效地清除侵權(quán)行為帶來的負(fù)面影響，就會繼續(xù)發(fā)酵蔓延。首先，由于數(shù)據(jù)的可刪改性，被侵權(quán)人需要花費(fèi)大量時(shí)間和金錢來收集、保留證據(jù)并證明數(shù)據(jù)的真實(shí)性，從而大大增加了維權(quán)成本。由于信息技術(shù)擁有者與無法獲取信息技術(shù)者之間的信息不對等，導(dǎo)致處于劣勢的被侵權(quán)人難以輕松獲取掌握在信息技術(shù)擁有者手中的證據(jù)，增加了證據(jù)收集的難度。其次，違法行為所產(chǎn)生的代價(jià)相對較低，在未造成嚴(yán)重后果的情況下，侵權(quán)人或許只需承擔(dān)微不足道的違法成本，例如刪除偽造的音視頻、道歉賠禮等，然而這種低成本、低風(fēng)險(xiǎn)的方式并不能有效地震懾侵權(quán)行為人，反而可能會助長其氣焰。

4?深度偽造技術(shù)應(yīng)用法律規(guī)制的完善

4.1?健全制作者和平臺責(zé)任制度

首先，在制作者利用深度偽造技術(shù)生成作品的過程中，制作者應(yīng)當(dāng)履行告知多方權(quán)利人并征得權(quán)利人同意的義務(wù)。明確權(quán)利人知悉的范圍。制作者在發(fā)布偽造生成物時(shí)，必須明確標(biāo)注其偽造的屬性，例如采用添加水印等方法。若制作的是深度偽造的換臉視頻，那么在標(biāo)注其偽造性的同時(shí)，還必須標(biāo)注原視頻的來源，避免對著作權(quán)和表演者權(quán)的侵害，避免用戶產(chǎn)生誤解。必須確立明確的規(guī)定，要求當(dāng)制作者未能履行其披露義務(wù)時(shí)，必須承擔(dān)相應(yīng)的責(zé)任，包括但不限于刪除偽造的生成物，否則可能會被永久封禁賬號和內(nèi)容等。

網(wǎng)絡(luò)平臺的監(jiān)管作用是對虛假信息進(jìn)行過濾和甄別的重要陣地。其應(yīng)履行“通知—刪除”的職責(zé)和提示、說明義務(wù)。若發(fā)現(xiàn)了侵權(quán)行為，應(yīng)將證據(jù)保存留檔，為受害者舉證提供幫助。網(wǎng)絡(luò)平臺還需要提高對深度偽造內(nèi)容的檢測技術(shù)水平，并加強(qiáng)對深度偽造內(nèi)容的審查力度。構(gòu)建完善的數(shù)據(jù)庫，以識別深度偽造的違法和不良信息內(nèi)容，提高其識別和檢測的準(zhǔn)確性。在發(fā)現(xiàn)深度偽造技術(shù)生成物因?qū)徍耸д`而擴(kuò)散傳播時(shí)，平臺應(yīng)立即限制該信息的閱讀、查看和轉(zhuǎn)發(fā)權(quán)限，阻止虛假信息的傳播。

4.2?確立多元化的監(jiān)管模式

隨著人工智能技術(shù)的迅猛發(fā)展，網(wǎng)絡(luò)侵權(quán)案件數(shù)量急劇攀升。根據(jù)當(dāng)前狀況，應(yīng)當(dāng)建立以政府為主導(dǎo)的多元協(xié)同監(jiān)管模式，確立明確的監(jiān)管機(jī)構(gòu)及其職責(zé)分配。同時(shí)加強(qiáng)對網(wǎng)絡(luò)運(yùn)營商的監(jiān)管，確保網(wǎng)絡(luò)運(yùn)行安全和信息安全。網(wǎng)絡(luò)平臺需要更好地發(fā)揮自身的監(jiān)管優(yōu)點(diǎn)，從而達(dá)到對互聯(lián)網(wǎng)信息進(jìn)行實(shí)時(shí)監(jiān)控的目標(biāo)。利用大數(shù)據(jù)分析手段發(fā)現(xiàn)犯罪線索已經(jīng)成為一個(gè)重要趨勢。確立“黑名單”制度并收集相關(guān)數(shù)據(jù)，是必不可少的一項(xiàng)措施，并且大數(shù)據(jù)分析可以從不同角度對被侵權(quán)人進(jìn)行分類研究。

另一方面，確立一套多元化的監(jiān)督機(jī)制，建立一個(gè)公眾參與的監(jiān)督平臺，確保在發(fā)現(xiàn)侵權(quán)行為時(shí)能夠獲得有效的舉報(bào)渠道。還應(yīng)該完善對舉報(bào)行為的懲罰機(jī)制。為確保舉報(bào)行為不受惡意干擾，應(yīng)要求舉報(bào)人提供初步證明，并保證對舉報(bào)進(jìn)行快速響應(yīng)和公正的調(diào)查處理。

4.3?完善事后救濟(jì)措施

在某些情況下，可以采用證明責(zé)任倒置的方式。在證明責(zé)任的分配上，立法者應(yīng)該立足于權(quán)利和義務(wù)的公平，在必要時(shí)偏向于弱小一方，從而達(dá)到證明責(zé)任倒置的平衡作用。如果法律規(guī)定深度偽造技術(shù)制作者有告知當(dāng)事人的義務(wù)，并要求被侵權(quán)人證明未收到通知不具有合理性，那么采用舉證責(zé)任倒置的方式，制作者需要證明已履行告知義務(wù)和擁有免責(zé)事由，這樣做更加合理。

另一方面，我們需要重新審視對于損害賠償?shù)恼J(rèn)定。根據(jù)我國法律和司法解釋的規(guī)定，對于精神損害的認(rèn)定，必須遵循嚴(yán)格的標(biāo)準(zhǔn)，確保其達(dá)到嚴(yán)重?fù)p害的程度，以保障受害者的權(quán)益。在司法實(shí)踐中因缺乏對此類案件的具體適用規(guī)則而導(dǎo)致了大量糾紛產(chǎn)生。對于每個(gè)人所遭受的傷害程度，其主觀感受因情況而異，因此在實(shí)際操作中難以達(dá)成一致的認(rèn)定標(biāo)準(zhǔn)。若將侵害行為細(xì)分為不同等級，根據(jù)其惡劣程度確定損害的大小，這種做法更具合理性，更容易統(tǒng)一標(biāo)準(zhǔn)。同時(shí)，推行具有懲罰性的賠償機(jī)制，加大犯罪懲罰力度，引入懲罰性賠償機(jī)制，加強(qiáng)對侵權(quán)主體的經(jīng)濟(jì)懲罰力度。對于那些利用深度偽造技術(shù)進(jìn)行侵權(quán)行為的數(shù)據(jù)收集者、處理者或平臺，應(yīng)當(dāng)對受害人遭受的損失加倍賠償，這樣才能夠有效彌補(bǔ)受害者損失，同時(shí)起到犯罪警示作用。

參考文獻(xiàn)

[1]萬志前，陳晨.深度合成技術(shù)應(yīng)用的法律風(fēng)險(xiǎn)與協(xié)同規(guī)制[J].科技與法律，2021，（5）：8592.

[2]華劼.深度偽造內(nèi)容著作權(quán)侵權(quán)問題研究[J].電子知識產(chǎn)權(quán)，2020，（4）：1624.

[3]李靜宇.數(shù)字時(shí)代個(gè)人信息保護(hù)與合理使用[J].未來與發(fā)展，2022，（6）：3641.

[4]林愛珺，林倩敏.AI換臉的技術(shù)風(fēng)險(xiǎn)與多元規(guī)制[J].未來傳播，2023，（1）：6069.

[5]毛寧，楊會.深度偽造技術(shù)的監(jiān)管困境及其法律應(yīng)對[J].長白學(xué)刊，2021，（5）：94101.

[6]文銘，孫圓圓.深度偽造技術(shù)應(yīng)用風(fēng)險(xiǎn)以及法律規(guī)制研究[J].中國科技論壇，2023，（4）：158167.