人工智能背景下“深度偽造”的法律研究

白 碩 紀(jì)澤坤

（北京物資學(xué)院法學(xué)院 北京 通州 10049）

在人工智能時代，大量新技術(shù)涌入我們生活中，帶來經(jīng)濟(jì)利益的同時，也伴生許多法律風(fēng)險，傳統(tǒng)的規(guī)制模式亟需更新完善?！吧疃葌卧臁奔夹g(shù)最初主要是應(yīng)用于影視領(lǐng)域制作，后來隨著“ZAO”“去演”等換臉APP的問世，一部手機(jī)、一張照片，點擊“一鍵換臉”就可以替換任意視頻素材中的人臉?！吧疃葌卧臁弊畛Ｒ姷膽?yīng)用就是“AI換臉”，大數(shù)據(jù)獲取的基礎(chǔ)上生產(chǎn)高度逼真的合成數(shù)據(jù)，如專業(yè)影視、圖像制作，短視頻、動圖社交，此外還可應(yīng)用于語音合成、虛擬偶像、線上試衣等。不可否認(rèn)，其在諸多領(lǐng)域都能創(chuàng)造積極的價值。然而，在帶來廣泛應(yīng)用的同時，“深度偽造”技術(shù)的產(chǎn)物同時又具有極大迷惑性，讓人難辨真假。結(jié)合當(dāng)前社交網(wǎng)絡(luò)極其開放流動、國際化的特性，使得大量虛假的信息，以“高度可信”的方式呈現(xiàn)給大眾，所帶來的法律風(fēng)險是不可估量的。有人利用“深度偽造”侵害他人人格權(quán)益的現(xiàn)象愈加頻繁地發(fā)生，其中也涉及到技術(shù)平臺及相關(guān)產(chǎn)物制作者的責(zé)任承擔(dān)法律規(guī)制。新技術(shù)帶來新挑戰(zhàn)，給人們敲響了警鐘。

一、“深度偽造”技術(shù)應(yīng)用的法律風(fēng)險

由于“深度偽造”和互聯(lián)網(wǎng)的特性，侵權(quán)現(xiàn)象很容易發(fā)生。本文將從民法領(lǐng)域，基于對“ZAO”“去演”等換臉APP平臺協(xié)議和實踐的探究，對“深度偽造”的法律風(fēng)險加以分析。

（一）對肖像權(quán)、聲音權(quán)、名譽(yù)權(quán)等人格權(quán)侵權(quán)的風(fēng)險

《民法典》頒布后，明確了構(gòu)成聲音、肖像侵權(quán)的構(gòu)成要件。通過“ZAO”的隱私協(xié)議可以看出，用戶使用換臉功能必須打開相機(jī)、相冊等設(shè)備應(yīng)用訪問權(quán)限，并選擇上傳照片。而選擇過程將會使相冊中其他授權(quán)外的面部信息，暴露在“ZAO”的檢測系統(tǒng)中，其肖像權(quán)侵權(quán)風(fēng)險不言而喻。軟件對照片的識別技術(shù)依然存在疏漏，有些長得像的非本人也能通過真人驗證。此時，“深度偽造”替換樣本的獲取往往并沒有取得相應(yīng)權(quán)屬人的同意，這就給肖像權(quán)侵權(quán)提供了可能。聲音權(quán)侵權(quán)風(fēng)險也是同理。

（二）在個人信息保護(hù)領(lǐng)域的風(fēng)險

換臉APP中“深度偽造”技術(shù)的運用，首先要進(jìn)行人臉識別，而人臉數(shù)據(jù)屬于通過生物特征識別技術(shù)獲取的個人生物識別信息?！睹穹ǖ洹返谝磺Я闳臈l規(guī)定，個人生物識別信息屬于個人信息，屬于法律的保護(hù)范圍。這些生物特征一旦被偽造、被濫用，將給權(quán)利人帶來極大的風(fēng)險。對此，筆者認(rèn)為，可以從“深度偽造”技術(shù)運用的動態(tài)過程角度，進(jìn)一步分析潛在的法律風(fēng)險。這一過程不僅涉及人臉信息的采集，還涉及人臉信息的儲存、使用、刪除等，結(jié)合“ZAO”和“去演”APP用戶協(xié)議和隱私條款，可能侵害諸多法益。

（三）“深度偽造”法律風(fēng)險的特殊性

曾希望將這項技術(shù)大眾化、普遍化而誕生出的許多換臉APP，最終卻都落得個紅極一時、曇花一現(xiàn)。在觀察“深度偽造”市場化結(jié)果后，筆者發(fā)現(xiàn)，“深度偽造”的獨特性在于，一旦廣泛使用，它給我們現(xiàn)在所處的互聯(lián)網(wǎng)大數(shù)據(jù)社會實名認(rèn)證帶來的沖擊將是顛覆性的，故而引發(fā)了社會公眾對著作權(quán)、個人信息、肖像權(quán)、隱私權(quán)等領(lǐng)域保護(hù)的擔(dān)憂。

二、我國法律規(guī)制的現(xiàn)狀和不足

盡管我國對于“深度偽造”的風(fēng)險規(guī)制處于初始階段，但是仍然建立起了相對完善的規(guī)制機(jī)制?！睹穹ǖ淙烁駲?quán)編》《個人信息保護(hù)法》《數(shù)據(jù)安全管理辦法》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等法律法規(guī)，均可作為 “深度偽造”的法律規(guī)制依據(jù)，在一定程度上可以被既有責(zé)任體系涵蓋。然而，我國對“深度偽造”規(guī)制雖有法可依，但現(xiàn)有規(guī)則是否能夠有效規(guī)制“深度偽造”風(fēng)險還不確定。很多規(guī)制都尚不完善，且存在不足，有如下三點。

（一）我國目前沒有對“深度偽造”形成專門性立法

現(xiàn)有規(guī)制往往是從各領(lǐng)域法律條文中尋找依據(jù)，相對碎片化。對于規(guī)定了收集個人信息明示同意規(guī)則等生物信息保護(hù)條款的《個人信息安全規(guī)范》，其性質(zhì)屬于國家標(biāo)準(zhǔn)，不屬于“法律”，效力較低。缺乏一個整體的、系統(tǒng)的法律規(guī)制機(jī)制來應(yīng)對這樣一種科技創(chuàng)新，且沒有形成一個針對“深度偽造”產(chǎn)品制作者、數(shù)據(jù)平臺、使用者等不同主體相關(guān)權(quán)利、義務(wù)、責(zé)任的完整規(guī)制框架。

（二）大多數(shù)條文比較抽象

在法律具體實施上缺乏更為細(xì)致的規(guī)范，且現(xiàn)存收集處理個人生物信息的主體對于信息的控制和保護(hù)能力參差不齊。

（三）現(xiàn)有規(guī)則更多是一種事后規(guī)制

例如換臉軟件“ZAO”因為霸王條款、數(shù)據(jù)風(fēng)險等安全問題爆出，相關(guān)監(jiān)管部門才對其進(jìn)行約談要求整改，對于軟件上架之前的審核不完善。不同主體代表著不同利益訴求，法律應(yīng)進(jìn)一步予以調(diào)和、平衡平臺責(zé)任。由于“深度偽造”產(chǎn)品的高度“真實性”，同時還應(yīng)當(dāng)促使相關(guān)“深度偽造”產(chǎn)品甄別技術(shù)標(biāo)準(zhǔn)逐步完善，加強(qiáng)行業(yè)自律，在事前和事中階段加強(qiáng)管理，避免因“深度偽造”形成嚴(yán)重的危害后果。

三、“深度偽造”風(fēng)險的域外法律規(guī)制比較

隨著“深度偽造”不斷發(fā)展，相關(guān)換臉應(yīng)用層出不窮，由此引發(fā)的侵權(quán)風(fēng)險逐步加劇，各國也紛紛出臺應(yīng)對措施，處理手段與實踐結(jié)果各有特色。

（一）美國的相關(guān)法律規(guī)制

“深度偽造”技術(shù)應(yīng)用最早出現(xiàn)于美國，隨著技術(shù)和應(yīng)用的不斷發(fā)展普及，其所帶來的風(fēng)險和擔(dān)憂也在美國實踐中大量顯現(xiàn)。由此，美國在“深度偽造”的法律規(guī)制方面不得不加快步伐，以遏制這一新技術(shù)造成的不利影響，很早就開始進(jìn)行規(guī)制實踐。

1.從技術(shù)本身不當(dāng)應(yīng)用角度，對“深度偽造”進(jìn)行的法律規(guī)制

與中國的分散式規(guī)制不同，美國已經(jīng)有了直接對“深度偽造”本身不當(dāng)應(yīng)用進(jìn)行規(guī)制的相關(guān)措施。2019年6月，美國針對“深度偽造”的風(fēng)險及防范措施召開聽證會。隨后議會提出《2019年深度偽造報告法案》。該法案將概念外延略大于“深度偽造”的“數(shù)字偽造”定義納入到規(guī)制體系中。2019年6月，美國眾議院提出《深度偽造責(zé)任法案》，該法案明確了“深度偽造”不當(dāng)使用行為的法律責(zé)任，要求“深度偽造”技術(shù)產(chǎn)物制作者，必須以水印或文本標(biāo)注等形式表明文件的“偽造”屬性及“偽造”程度，進(jìn)行信息披露，以實現(xiàn)與真實視頻的區(qū)分，否則將根據(jù)所造成的侵權(quán)后果受到相關(guān)責(zé)任追究。

2.從傳統(tǒng)個人信息保護(hù)角度，對“深度偽造”進(jìn)行的法律規(guī)制

“深度偽造”實際上是對生物識別數(shù)據(jù)進(jìn)行“偽造”，因此，通過對“生物識別數(shù)據(jù)”的保護(hù)，實現(xiàn)抑制“深度偽造”不當(dāng)使用帶來的負(fù)面效應(yīng)，也是一種可行的路徑。早在“深度偽造”技術(shù)廣泛應(yīng)用之前，就有了關(guān)于“個人信息保護(hù)”的相關(guān)法律規(guī)制，大致如下：2009年，得克薩斯州《生物識別信息獲取使用法》，按照信息收集、使用階段過程進(jìn)行規(guī)制；2017年，加利福尼亞州《加州生物信息隱私法案》進(jìn)一步具體化，規(guī)定了收集階段的知情授權(quán)原則；2019年，佛羅里達(dá)州《生物識別信息隱私法案》細(xì)化了信息使用和保管階段的規(guī)則；華盛頓州《華盛頓隱私法案》明確了數(shù)據(jù)權(quán)利主體對于個人信息的各項權(quán)利，如訪問權(quán)、更正權(quán)、刪除權(quán)等；2019年3月，美國聯(lián)邦人臉識別隱私保護(hù)第一部法案《2019年商業(yè)人臉識別隱私法案》還增加了投入市場應(yīng)用需第三方測試，人臉識別運營商“數(shù)據(jù)安全性、最小化、留存”等規(guī)定；2019年4月，美國聯(lián)邦《隱私權(quán)利法案》也從個人權(quán)利角度作出回應(yīng)。

（二）歐盟的相關(guān)法律規(guī)制

與中國、美國的“深度偽造”法律規(guī)制形成鮮明對比的是，歐盟主要是通過對個人信息的嚴(yán)格保護(hù)和虛假信息治理兩個方面限制“深度偽造”技術(shù)的應(yīng)用。

1.通過嚴(yán)格個人信息保護(hù)對“深度偽造”進(jìn)行的法律規(guī)制

歐盟非常注重個人信息保護(hù)，相關(guān)規(guī)制體系的建立已趨于成熟，并配套有對應(yīng)的網(wǎng)絡(luò)音視頻服務(wù)商信息利用標(biāo)準(zhǔn)，嚴(yán)格的信息收集者、處理者、控制者、運營者責(zé)任義務(wù)規(guī)定，以及個人信息泄漏后的救濟(jì)措施。2018年歐盟正式實施的《通用數(shù)據(jù)保護(hù)條例（GDPR）》就有所體現(xiàn)。此外還規(guī)定了可能被用于制作深度偽造內(nèi)容的人臉圖像屬于“生物特征數(shù)據(jù)”，對于這類具有隱私特征的特定個人信息也應(yīng)予以特殊保護(hù)。如收集目的按約合法，非經(jīng)同意不得處理，將換臉軟件納入了規(guī)制。在公民的基本人權(quán)與第三方信息匯總與收集之間尋求最佳平衡點。

2.通過嚴(yán)厲打擊虛假信息對“深度偽造”進(jìn)行的法律規(guī)制

“深度偽造”與虛假信息相似，均是偽造不真實信息，并試圖操縱信息以獲得利益或造成損害，因此可以將其歸到已有的關(guān)于虛假信息的規(guī)制框架中進(jìn)行處理。2018年4月末，歐盟委員會《應(yīng)對線上虛假信息：歐洲方案》提出各利害關(guān)系主體合作，建立評估審核機(jī)制，改進(jìn)信息來源，提高信息生產(chǎn)、傳播過程中的透明度，提高信息的可信度，以實現(xiàn)全面防范視頻、圖像和文字等虛假信息。2018年9月末，歐洲主要網(wǎng)絡(luò)服務(wù)商提出的《反虛假信息行為準(zhǔn)則》提倡平臺自律監(jiān)管，自覺限制、治理“深度偽造”違法內(nèi)容。

（三）域外法律規(guī)制經(jīng)驗分析

根據(jù)美國及歐盟的規(guī)制經(jīng)驗，并結(jié)合我國現(xiàn)有法律規(guī)制的不足，應(yīng)做出相應(yīng)借鑒和改進(jìn)，明確相關(guān)主體的權(quán)利、義務(wù)及法律責(zé)任，完善侵權(quán)救濟(jì)渠道，同時推動辨別技術(shù)發(fā)展和機(jī)構(gòu)監(jiān)管，建立有效的針對“深度偽造”技術(shù)應(yīng)用風(fēng)險的法律規(guī)制路徑。

四、“深度偽造”技術(shù)應(yīng)用的法律對策及建議

由于“深度偽造”自動對抗式的技術(shù)邏輯，受害人可以依據(jù)《民法典》人格權(quán)編的相關(guān)規(guī)定維護(hù)自己的合法權(quán)益。我國民法領(lǐng)域“深度偽造”技術(shù)應(yīng)用的法律規(guī)制，還需結(jié)合我國國情以及社會經(jīng)濟(jì)發(fā)展?fàn)顩r進(jìn)行完善。

（一）統(tǒng)一規(guī)范平臺在信息保護(hù)動態(tài)過程中的義務(wù)標(biāo)準(zhǔn)

結(jié)合相關(guān)法律規(guī)定，“深度偽造”技術(shù)平臺主體目前應(yīng)根據(jù)法律義務(wù)，履行更嚴(yán)格的收集使用說明義務(wù)，在信息權(quán)利人完全知情的條件下取得其授權(quán)同意。

采集的人臉識別信息僅在有限時間、為特定目的使用。為保障個人信息數(shù)據(jù)安全，在權(quán)利人收回授權(quán)或要求刪除、注銷后，應(yīng)立即刪除所有獲得的數(shù)據(jù)和個人信息。若“深度偽造”平臺違反上述義務(wù)，則可能在個人信息的采集、使用、儲存、階段發(fā)生侵權(quán)行為。此外，由于“深度偽造”風(fēng)險的特殊性，平臺也應(yīng)自覺主動加強(qiáng)行業(yè)自查并接受政府監(jiān)管，事前報備，事中定期報告及時反饋，事后積極配合補(bǔ)救。

（二）平臺侵權(quán)責(zé)任歸責(zé)原則的適用

盡管平臺在“深度偽造”信息管理過程中承擔(dān)較多義務(wù)，但也并不是無限制的。要認(rèn)定其最終構(gòu)成侵權(quán)，還需要具有“主觀過錯”。在訴訟證明責(zé)任上，筆者認(rèn)為適用“過錯推定”的歸責(zé)原則更為合適，平衡個人權(quán)利和技術(shù)推廣。相比個人信息權(quán)利人，信息處理者即平臺顯然占有更加有利的地位。其掌管信息數(shù)據(jù)并在后臺進(jìn)行“深度偽造”技術(shù)運行，擁有更強(qiáng)的能力和便利條件，并可以更低的成本證明其行為與信息損害后果之間有無因果關(guān)系，倘若無法證明則可推定事實上的因果關(guān)系成立?！吧疃葌卧臁逼脚_是風(fēng)險的帶來者。

（三）明確技術(shù)產(chǎn)物制作者主動標(biāo)識義務(wù)

“深度偽造”技術(shù)產(chǎn)物制作者作為行為和傳播源頭，有必要對其提出相應(yīng)規(guī)制。控制住制作者這一源頭，將極大地減小對于后面環(huán)節(jié)法律監(jiān)管的壓力。其基本義務(wù)就是要在換臉視頻顯要位置明確與普通視頻的區(qū)分，并標(biāo)注視頻來源、原作品相關(guān)信息、有無授權(quán)等。在上傳網(wǎng)絡(luò)及平臺進(jìn)行傳播時，也應(yīng)再次作出清晰的聲明，告知平臺和平臺用戶其“深度偽造”性質(zhì)。如果制作者違反主動標(biāo)識義務(wù)，則要承擔(dān)過錯侵權(quán)責(zé)任。

（四）強(qiáng)化技術(shù)平臺審查責(zé)任

在當(dāng)前信息時代，平臺為信息傳播提供途徑和載體。如前所述，公民僅為個人學(xué)習(xí)欣賞研究制作“深度偽造”視頻并不會構(gòu)成侵權(quán)，而一旦上傳至網(wǎng)絡(luò)平臺進(jìn)行傳播，則使其具備了違法可能性。此時，平臺作為一個重要的中間媒介，具有一定的審查責(zé)任，防止虛假信息在社會公眾中大量擴(kuò)散，造成信息混亂、侵權(quán)亂象和社會信任危機(jī)。但是，由于現(xiàn)階段尚沒有能成熟完備識別篩選“深度偽造”產(chǎn)物的技術(shù)，不應(yīng)給平臺設(shè)定過重的義務(wù)要求。具體而言，可以根據(jù)《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》《民法典》《個人信息保護(hù)法》及《電子商務(wù)法》等相關(guān)規(guī)定，適用“避風(fēng)港”原則，即適用處理侵權(quán)糾紛的“通知與刪除”程序。平臺只要履行了一定義務(wù)即可被認(rèn)為履行了審查責(zé)任。若怠于履行上述義務(wù)，造成相應(yīng)后果，則需要承擔(dān)連帶責(zé)任。在“深度偽造”技術(shù)產(chǎn)物的制作和傳播過程中，起最主要作用的就是制作者和平臺。因此，為防止“深度偽造”技術(shù)的濫用，必須從不同主體權(quán)利義務(wù)規(guī)制角度，建立事前預(yù)防和事后救濟(jì)相結(jié)合的法律規(guī)制框架，有效降低法律風(fēng)險的發(fā)生。

（五）加強(qiáng)有關(guān)部門互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評估工作

目前，我國主要負(fù)責(zé)“深度偽造”技術(shù)應(yīng)用安全評估的監(jiān)管部門是網(wǎng)信辦及公安機(jī)關(guān)。這些部門應(yīng)依據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等法律法規(guī)作出相應(yīng)對策，不斷建立健全事前、事中及事后的監(jiān)督體系。在事前做好規(guī)定，要求“深度偽造”互聯(lián)網(wǎng)平臺及時實行自我監(jiān)督，定期評估，并向有關(guān)部門備案報告，有關(guān)部門也要及時作出回應(yīng)，必要時應(yīng)依據(jù)職責(zé)開展現(xiàn)場檢查。在事件中相關(guān)部門應(yīng)開展定期和不定期的巡查工作，把監(jiān)管落到實處，嚴(yán)格規(guī)范制度和程序。在事后及時采取有效整改措施，予以補(bǔ)救和懲戒，與社會各界共同維護(hù)網(wǎng)絡(luò)傳播秩序，營造良好網(wǎng)絡(luò)生態(tài)。

結(jié)束語：

隨著人工智能的不斷發(fā)展，“深度偽造”技術(shù)將“換臉”“換聲”等變成了可能，不可避免地引發(fā)了一系列關(guān)于人格權(quán)保護(hù)方面的法律風(fēng)險問題。從人格權(quán)保護(hù)角度，根據(jù)不同責(zé)任主體義務(wù)分析了法律規(guī)制的方向和路徑，旨在構(gòu)建一個較為完善、層次分明的法律規(guī)制體系，將零散的法律法規(guī)進(jìn)行整合，填補(bǔ)法律漏洞和空白。但是，對于“深度偽造”帶來的風(fēng)險，除了要在法律層面予以完善，還應(yīng)在技術(shù)及公眾意識層面不斷加強(qiáng)，才能形成社會合力，有效避免侵權(quán)現(xiàn)象出現(xiàn)，在個人權(quán)利得到保障的前提下實現(xiàn)技術(shù)進(jìn)步。