深度合成待證數(shù)據(jù)的風(fēng)險剖析與辨識機制

眭占菱 何亮亮 蔣潔

摘? ?要：數(shù)字經(jīng)濟新產(chǎn)業(yè)、新業(yè)態(tài)和新模式獲得加速培育的全新場景下，滲透千行百業(yè)的數(shù)據(jù)信息深度合成技術(shù)在提高生產(chǎn)效率、改善生活質(zhì)量、助力經(jīng)濟社會發(fā)展的同時，眾多惡意應(yīng)用亦嚴(yán)重威脅個人權(quán)益、政治安全、社會穩(wěn)定和國家安全等等。文章從深度合成數(shù)據(jù)的概念與類型入手，結(jié)合待證數(shù)據(jù)的特質(zhì)與現(xiàn)行采信模式，集中探討了深度合成待證數(shù)據(jù)影響鑒真算法實效、引發(fā)漣漪式信任衰退、威脅安全體系等關(guān)鍵性風(fēng)險，進(jìn)而提出嚴(yán)格遏止源頭違規(guī)、重塑專家鑒定模式、加強環(huán)境經(jīng)驗支撐等一系列健全辨識機制的方式方法。

關(guān)鍵詞：深度合成;待證數(shù)據(jù);風(fēng)險剖析;辨識機制

Abstract On one hand， the technology of data deep synthesis， which has been used in thousands of industries， improves the production efficiency and the quality of life， and helps the economic and social development. On the other hand， many malicious applications also seriously threaten personal rights， political security， social stability and national security. This paper starts with the concept and classification of data deep synthetic， combined with the characteristics of data to be proved and the current criteria of the accepting， focuses on the key risks in affecting the effectiveness of authentication algorithm， causing trust decline， infringing personal rights and interests， and threatening the security system. Then， it put forward a series of methods， such as strictly curbing source violations， reshaping the expert witness， and strengthening the supporting mechanism of circumstantial experience.

Key words deep synthesis; data to be proved; risk analysis; identification mechanism

隨著第五次科技革命和第三次產(chǎn)業(yè)革命深入推進(jìn)，迅速滲透社會生活方方面面的人工智能技術(shù)應(yīng)用和開放的海量數(shù)據(jù)有序流動成為新時期培育新產(chǎn)品、打造新業(yè)態(tài)的關(guān)鍵支撐。2020年3月30日，《中共中央、國務(wù)院關(guān)于構(gòu)建更加完善的要素市場化配置體制機制的意見》勾勒了加速培育各領(lǐng)域數(shù)據(jù)高效開發(fā)利用和數(shù)據(jù)資源有序流動的數(shù)據(jù)要素市場的具體方案，既釋放出巨大的信息紅利、高質(zhì)量助推智能社會構(gòu)建，亦暴露出迭代更新的先進(jìn)產(chǎn)品持續(xù)引發(fā)諸多新型風(fēng)險。如短短三年間，深度合成數(shù)據(jù)技術(shù)的主要產(chǎn)出形式已經(jīng)從肉眼可以識別的粗糙拼接物發(fā)展為“多重軟件檢測+人工復(fù)檢”仍然難以辨識的仿真精品①。

隨著《新一代人工智能發(fā)展規(guī)劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018-2020年）》《關(guān)于促進(jìn)人工智能和實體經(jīng)濟深度融合的指導(dǎo)意見》等貫徹落實，深度合成數(shù)據(jù)產(chǎn)品的制作成本大幅降低而仿真水平迅速提升，致使基于人工智能程序和深度學(xué)習(xí)算法的數(shù)據(jù)內(nèi)容合成類違規(guī)制品以幾何乘數(shù)泛濫成災(zāi)，不僅給社會監(jiān)管帶來巨大困難，嚴(yán)重威脅自然人的人身安全和財產(chǎn)安全[1]，一定程度上甚至阻滯了作為人權(quán)保障最后手段的規(guī)則救濟的有序運轉(zhuǎn)[2]。尤其是在將運用深度合成技術(shù)偽造的數(shù)據(jù)信息作為待證資料的特殊場景下，“如果證據(jù)規(guī)則跟不上人工智能技術(shù)發(fā)展的腳步，公民的基本權(quán)益和程序正義面臨的風(fēng)險將大幅增加。”[3]亟待以《新一代人工智能治理原則》的八項治理原則為軸心，結(jié)合《數(shù)據(jù)安全法（草案）》《人工智能標(biāo)準(zhǔn)化白皮書》等，搭建具象場景中人工智能應(yīng)用治理的實踐方案。

1? ?深度合成數(shù)據(jù)的概要分析

雖然美圖秀秀、會聲會影、Adobe Photoshop等應(yīng)用程序嵌入了修改數(shù)據(jù)內(nèi)容的功能，但通過生成對抗網(wǎng)絡(luò)（GAN）的機器學(xué)習(xí)周期進(jìn)行的以極端逼真的方式重塑現(xiàn)實的數(shù)據(jù)深度合成可以學(xué)習(xí)模仿任何數(shù)據(jù)分布，能夠創(chuàng)造出與現(xiàn)實世界極其相似的虛擬世界①。

自美國著名科技媒體網(wǎng)站“主板”（Motherboard）首次曝光深度偽造色情視頻的事件以來，社會各界飽受深度合成技術(shù)暗黑面的困擾[4]。雖然全球主要站點大力封禁深度偽造的色情制品或政治人物音視頻[5]，但持續(xù)走低的制作成本和不斷降低的發(fā)布難度以及互聯(lián)網(wǎng)固有的零邊界、匿名化、娛樂性等特質(zhì)使得惡意行為者不僅能夠在同一站點反復(fù)發(fā)布且可以在互聯(lián)網(wǎng)管制死角不斷創(chuàng)建和傳播各類偽造的數(shù)據(jù)制品[6]，嚴(yán)重威脅個人權(quán)益、社會穩(wěn)定、政治和國家安全等。

事實上，信息時代的數(shù)據(jù)深度合成（Deep Synthesis）本身是一個中性概念，泛指借助深度學(xué)習(xí)算法模型等智能化方案自動生成文本、圖像、語音、視頻等數(shù)據(jù)內(nèi)容的一系列處理技術(shù)。

一方面，數(shù)據(jù)深度合成的正向應(yīng)用將創(chuàng)建的虛擬角色、聲音模擬、視頻渲染等廣泛應(yīng)用到娛樂文化、社交通訊、醫(yī)療保健等眾多場景之中，提升音視頻制作的效率與質(zhì)量，建立使用者的社交數(shù)字化分身，還原歷史人物或故去親友的肖像，提升醫(yī)學(xué)影像精度，彌補聽力缺陷等。如2020年全國兩會期間，搜狗公司聯(lián)合新華社發(fā)布了通過語音、表情、唇動、肢體動作等數(shù)據(jù)深度合成的算法實時驅(qū)動的全球首個動態(tài)3D虛擬主播“新小微”，更好地滿足新聞呈現(xiàn)多樣化的需求，推動智能化的媒體融合[7]。

另一方面，數(shù)據(jù)深度合成的負(fù)向應(yīng)用，亦稱深度偽造（Deepfake），通過文本數(shù)據(jù)重組、表情數(shù)據(jù)遷移、動作數(shù)據(jù)遷移等方式生成表面上高度可信的仿真制品，傳播虛假信息，操控受眾反應(yīng)，嚴(yán)重威脅整個社會的安全體系與保障機制[8]。如FakeApp、FaceWap、DeepNude等一鍵合成不雅內(nèi)容的應(yīng)用程序引發(fā)各界爭議②;又如，深度合成馬斯克、奧巴馬、默克爾、佩羅西等歐美名流政客的虛假視頻引發(fā)廣泛的信任危機和安全憂慮。

總體而言，基于深度學(xué)習(xí)的數(shù)據(jù)合成技術(shù)主要應(yīng)用在文本合成、視覺合成、聽覺合成等三大領(lǐng)域。深度文本合成和視覺合成因循數(shù)據(jù)收集、模型訓(xùn)練、偽造內(nèi)容等核心步驟創(chuàng)造虛擬數(shù)字人及其所處的生態(tài)環(huán)境。深度聽覺合成則主要采用拼接式語音合成或基于參數(shù)估算的合成方法重塑現(xiàn)實。相關(guān)戲仿性應(yīng)用產(chǎn)品迅速迭代，難以精準(zhǔn)及時地予以鑒識③，亟待構(gòu)建和完善規(guī)模化的規(guī)制體系。

2? ?待證數(shù)據(jù)的采信難題

證據(jù)是認(rèn)定案件事實的基礎(chǔ)和關(guān)鍵。21世紀(jì)以來，隨著運用計算機工具的違法犯罪模式日趨多樣化并呈現(xiàn)出高速增長的態(tài)勢，以二進(jìn)制編碼記載的能夠證明案件事實的數(shù)據(jù)愈加繁雜，立法部門開始關(guān)注電子證據(jù)的相關(guān)性、真實性、合法性及其證明值等等?！队嬎銠C犯罪現(xiàn)場勘驗與電子證據(jù)檢查規(guī)則》首次以列舉方式明確指出電子數(shù)據(jù)、存儲媒介和電子設(shè)備皆是電子證據(jù)這一全新證據(jù)形態(tài)的主要分支?！蛾P(guān)于辦理刑事案件收集提取和審查判斷電子數(shù)據(jù)若干問題的規(guī)定》隨即明確將電子數(shù)據(jù)界定為“案件發(fā)生過程中形成的以數(shù)字化形式存儲、處理、傳輸?shù)哪軌蜃C明案件事實的數(shù)據(jù)”，并將“文檔、圖片、音視頻、數(shù)字證書、計算機程序等電子文件”列為典型的電子數(shù)據(jù)形式①。《公安機關(guān)辦理刑事案件電子數(shù)據(jù)取證規(guī)則（2019）》進(jìn)一步勾勒了電子數(shù)據(jù)證據(jù)收集、提取、檢查、實驗、檢驗、鑒定等全生命周期的規(guī)制體系。

2.1? ? 待證數(shù)據(jù)的特征分析

第五輪信息技術(shù)革命場景下進(jìn)入訴訟階段的數(shù)據(jù)囊括了所有以二進(jìn)制代碼形式存在的試圖經(jīng)過取證、舉證、質(zhì)證和認(rèn)證后能夠作為證據(jù)使用的信息內(nèi)容及其派生物。大數(shù)據(jù)、物聯(lián)網(wǎng)、云計算等技術(shù)應(yīng)用的迅速迭代使得當(dāng)前司法實踐中充斥著多樣化的新型待證數(shù)據(jù)。相應(yīng)的證明能力（待證數(shù)據(jù)的適格性驗證）和證明力（待證數(shù)據(jù)的證明效果驗證）的法庭采信與人證、物證、書證等傳統(tǒng)證據(jù)形態(tài)差異較大。如一般證據(jù)規(guī)則為了更好地審核證據(jù)材料的真實性和合法性，通常要求扣押物理載體，但云計算的廣域分布式處理模式和一臺云服務(wù)器可能同時承載大量來源迥異的數(shù)據(jù)庫的特質(zhì)，導(dǎo)致實踐中難以獲取云端數(shù)據(jù)的物理介質(zhì)。又如，大多數(shù)的傳統(tǒng)證據(jù)形態(tài)是完整的有形物，待證數(shù)據(jù)卻往往是零散的無形物，不僅難以形成完備合法的證據(jù)鏈，甚至不易證明證據(jù)來源的合法性。

2.2? ? 待證數(shù)據(jù)的采信模式

信息時代中飛速增長的待證數(shù)據(jù)必須經(jīng)過查證屬實才能作為認(rèn)定事實的依據(jù)。我國立法部門不僅對待證數(shù)據(jù)的來源、取證主體、收集方式、存儲和出示等完整流程的合法性、數(shù)據(jù)內(nèi)容的真實性及其與案件事實的關(guān)聯(lián)性等的法庭審查作出原則性規(guī)定，還逐步建立了有關(guān)待證數(shù)據(jù)技術(shù)鑒定的多項國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)。尤其是評估判斷待證數(shù)據(jù)是否可以合理認(rèn)定為證據(jù)真實和鏈條完整的難題，除了少量可以經(jīng)由原被告或控辯雙方都認(rèn)可或是其他證據(jù)足以充分證明予以解決之外，絕大多數(shù)需要法官依據(jù)經(jīng)驗和理性進(jìn)行審查判斷或是行業(yè)專家進(jìn)行高水平技術(shù)鑒定，部分個案輔以證人證言為證據(jù)基礎(chǔ)。

2.2.1? ?法官審查判斷

雖然我國沒有明確認(rèn)可西方國家普遍采用的自由心證制度，卻積極應(yīng)用在實踐之中。傳統(tǒng)的錄音錄像證據(jù)曾在很長時間內(nèi)被認(rèn)定為可信度較高的證據(jù)形式，法官通?；趯I(yè)知識和審判經(jīng)驗，依據(jù)公正且準(zhǔn)確的標(biāo)準(zhǔn)，自行判斷其證明力。隨著數(shù)字化音視頻的迅猛發(fā)展，個人無法直接讀取、需要借助特殊工具轉(zhuǎn)換輸出的以二進(jìn)制形式存儲的待證數(shù)據(jù)大幅增加。全生命周期涉及物理載體的可信性、收集方法的合法性、輸出內(nèi)容的真實性、相關(guān)人員的獨立性以及流程的完整性等一系列技術(shù)性較強的關(guān)鍵因素，即便經(jīng)驗豐富的法官也會產(chǎn)生較大的質(zhì)疑和困惑，難以直接依據(jù)經(jīng)驗和理性完成采信審核。然而，隨著千行百業(yè)的數(shù)字化進(jìn)程日益加快，數(shù)據(jù)類證據(jù)材料在認(rèn)定案件事實中的價值愈加凸顯，眾多場景下不宜僅認(rèn)定為輔助性參考資料。因之，聘請具有學(xué)科權(quán)威身份和相關(guān)認(rèn)證資質(zhì)的專家運用科學(xué)原理進(jìn)行真實性鑒定逐漸成為采信待證數(shù)據(jù)的重要前提。

2.2.2? ?專家技術(shù)鑒定

隨著計算機技術(shù)、生物醫(yī)藥技術(shù)及其他各種專精化技術(shù)發(fā)展，復(fù)雜零散的數(shù)據(jù)涉及的專門性問題難以確定和解決。判斷數(shù)據(jù)內(nèi)容是否被篡改或偽造需要采用專業(yè)工具和技術(shù)方法進(jìn)行獲取、識別、存儲、傳輸和分析?？茖W(xué)驗證的范圍甚至包括數(shù)據(jù)取證主體、取證程序、取證標(biāo)準(zhǔn)、取證技術(shù)和取證工具等強關(guān)聯(lián)要素。這一任務(wù)惟有通過具備行業(yè)領(lǐng)先技術(shù)能力的專家群體依據(jù)鑒真規(guī)則開展精準(zhǔn)辨識，方可較為圓滿地完成。

3? ?深度合成待證數(shù)據(jù)的風(fēng)險評估

數(shù)碼攝影誕生之初的圖像質(zhì)量較差，往往只能作為補充證人證言的說明證據(jù)。直至高質(zhì)量的視頻數(shù)據(jù)直接完整地記錄了案件事實，方才充分展現(xiàn)出證據(jù)價值。然而，數(shù)據(jù)量級擴大且合成技術(shù)日趨復(fù)雜等大幅提升了識破偽造音視頻的難度。具有專門知識的特聘人員依據(jù)科學(xué)原理作出的結(jié)論性鑒定意見能夠準(zhǔn)確辨識待證數(shù)據(jù)真實性的假設(shè)處于風(fēng)雨飄搖之中。

3.1? ? 降低說明證據(jù)可靠性

長期以來，證人證言一般不會被視為個案場景下獨立證明案件事實的實質(zhì)證據(jù)，而是作為幫助找出案件真相的說明證據(jù)。原因在于，個人對于物體或事件的認(rèn)知一般包括感知、理解、回憶和證明等四大要素。人類的記憶并非自體封裝的音視頻重現(xiàn)系統(tǒng)。記憶的提取和表達(dá)是一個從龐雜的記憶數(shù)據(jù)庫的各子域拼湊出對應(yīng)內(nèi)容的過程。證人不僅應(yīng)當(dāng)知悉需要作證的內(nèi)容，往往還需要通過傳聞或推測填補闕值內(nèi)的記憶巢白。因之，記憶內(nèi)容的準(zhǔn)確性很容易受到外部信息與內(nèi)在心理的影響。證人通常也會主動為記憶準(zhǔn)確性附加警示助詞，如“我覺得”“我認(rèn)為”“我不能肯定”等[9]。如英國華威大學(xué)（University of Warwick）的研究團(tuán)隊通過測試視頻重現(xiàn)與受試者之間的記憶關(guān)系，證實偽造視頻數(shù)據(jù)對于證人記憶的強烈暗示性①。由此，通過深度合成關(guān)涉案件的主要數(shù)據(jù)重塑現(xiàn)實體驗并向證人展示，比傳統(tǒng)的文本偽造或圖像偽造更具直觀性和沖擊力，容易導(dǎo)致證人因混淆實際記憶和視覺效果而在無意中提供虛假證言[10]。也就是說，一方在法庭庭審過程中提交的深度偽造視頻鑲嵌的欺詐性數(shù)據(jù)內(nèi)容有可能影響證人準(zhǔn)確回憶事實真相，嚴(yán)重妨礙司法公正。

3.2? ? 影響鑒真算法成效

近年來，基于復(fù)雜模型鑒識待證數(shù)據(jù)與運用合并算法提升偽造數(shù)據(jù)可信度之間的“貓鼠游戲”愈演愈烈。持續(xù)迭代的生成對抗網(wǎng)絡(luò)編程技術(shù)致使深度偽造數(shù)據(jù)方案能夠迅速更新鑒真算法抵御模塊，難以形成能夠長期有效地應(yīng)用到各行各業(yè)的可靠鑒真方法。目前主流的深度合成數(shù)據(jù)檢測技術(shù)仍然依賴基于偽造內(nèi)容數(shù)據(jù)集對模型檢測器的差異化訓(xùn)練和基于生物信息不一致性對偽造內(nèi)容數(shù)據(jù)的辨識，很難妥善應(yīng)對迅速提升的深度合成技術(shù)。如紐約州立大學(xué)奧爾巴尼分校（University at Albany，State University of New York）的研究團(tuán)隊發(fā)現(xiàn)早期深度合成視頻技術(shù)的訓(xùn)練數(shù)據(jù)庫中大多是原始的靜態(tài)圖像數(shù)據(jù)，導(dǎo)致算法無法準(zhǔn)確偽造生理特征，輸出的仿真制品中虛擬數(shù)字人的眨眼頻率遠(yuǎn)遠(yuǎn)低于真實視頻，進(jìn)而開發(fā)出實驗準(zhǔn)確率高達(dá)95%的眨眼檢測方法②。即通過第一神經(jīng)網(wǎng)絡(luò)掃描檢測是否包含人臉并自動定位到眼部，進(jìn)而將眼部截圖輸入第二網(wǎng)絡(luò)，再由第二網(wǎng)絡(luò)通過特征提取、序列學(xué)習(xí)和狀態(tài)預(yù)測等辨識是否為真人眨眼，進(jìn)而鑒別出偽造視頻。然而，這一全新的深度數(shù)據(jù)合成檢測模塊僅在短時間內(nèi)展現(xiàn)出較好的驗證效果。事實上，該項成果公布不久之后，研究團(tuán)隊就收到了大量能夠通過“眨眼測試”的匿名視頻。這些制作者迅速在數(shù)據(jù)訓(xùn)練集中增加了大量閉眼圖像數(shù)據(jù)，積極改良識別器算法，進(jìn)而導(dǎo)致“眨眼測試”完全失靈。

3.3? ? 引發(fā)漣漪式信任衰退

信息時代中，難以及時準(zhǔn)確地完成深度合成待證數(shù)據(jù)的鑒真義務(wù)，有可能引發(fā)整個社會范圍內(nèi)的漣漪式信任衰退。窄域而言，具有極強技術(shù)性的深度偽造產(chǎn)品往往展現(xiàn)出難以識別的逼真度，不僅加大司法部門對于有關(guān)案件真相的數(shù)據(jù)真實性的質(zhì)疑，當(dāng)事人還有可能宣稱作為證據(jù)的數(shù)據(jù)是經(jīng)過深度偽造合成的虛擬內(nèi)容，以達(dá)到混淆視聽之目的。廣域而言，普遍運用深度合成技術(shù)的大環(huán)境下，人們不敢輕易地相信所見所聞，嚴(yán)重威脅社會信任機制。

3.4? ? 侵害個人合法權(quán)益

深度合成待證數(shù)據(jù)的完整流程充斥著侵害個人隱私、尊嚴(yán)、平等、自由及其他合法的人身權(quán)和財產(chǎn)權(quán)的風(fēng)險[11]。如原始數(shù)據(jù)的收集主體、收集方式和收集對象均有可能侵害個人隱私。又如，深度合成過程中對于訓(xùn)練內(nèi)容的特征提取可以分為自動提取和手動提取兩大分支。能夠自主學(xué)習(xí)的數(shù)據(jù)自動提取模型在設(shè)計中可能被有意或無意地嵌入歧視性或侮辱性規(guī)則，手動進(jìn)行分類器訓(xùn)練的模型則一直受到操作者主觀偏見或認(rèn)知缺陷的影響，嚴(yán)重威脅自然人的尊嚴(yán)權(quán)、平等權(quán)和自由權(quán)。

3.5? ? 威脅國家安全體系

深度合成技術(shù)負(fù)面應(yīng)用的多個領(lǐng)域直接關(guān)聯(lián)國家安全體系。對于政商名流、新聞事件、軍事領(lǐng)導(dǎo)及社會事務(wù)相關(guān)人員與場景數(shù)據(jù)的深度偽造，存在著不少待證情境下難以精準(zhǔn)及時地進(jìn)行辨識的難題，已經(jīng)成為影響政治安全、社會安全、國家安全的不穩(wěn)定因素。

4? ?健全深度合成待證數(shù)據(jù)的辨識機制

萬物互聯(lián)的背景下，網(wǎng)絡(luò)信息技術(shù)普遍應(yīng)用在生產(chǎn)生活之中，數(shù)據(jù)對于查明案件事實具有極其重要的價值。有效避免錯誤肯定深度合成待證數(shù)據(jù)的方法不是棄之不用，而是充分發(fā)揮多方力量、迅速建立健全科學(xué)有效的辨識機制。

4.1? ? 嚴(yán)格遏止源頭違規(guī)

從源頭上遏止深度合成待證數(shù)據(jù)是查清案件事實、營建可信社會的根本措施。既需要加強直接關(guān)聯(lián)的政策法規(guī)建設(shè)，亦需要強化對相關(guān)技術(shù)和數(shù)據(jù)的研究與持有機構(gòu)、企業(yè)及從業(yè)群體的監(jiān)督管理，減少數(shù)據(jù)深度合成的負(fù)面作用。如國家網(wǎng)信辦發(fā)布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確指出，2020年1月1日起，發(fā)布深度合成視頻前必須按照有關(guān)規(guī)定開展安全評估并以顯著方式標(biāo)識“非真實”字樣，且不得用于發(fā)布虛假新聞等場景，并開始部署深度合成音視頻的鑒別技術(shù)體系與健全相應(yīng)的辟謠機制。

4.2? ? 重塑專家鑒定模式

深度合成待證數(shù)據(jù)不僅無法憑借肉眼辨別，甚至難以通過傳統(tǒng)方法加以鑒識。盡管眾多科研機構(gòu)、頭部企業(yè)和司法鑒定部門正在積極開發(fā)各種深度合成檢測工具，但迄今為止整體上落后于數(shù)據(jù)偽造技術(shù)。行業(yè)專家依據(jù)經(jīng)驗和知識辨別重要的微小變化的能力往往不足以識別高度仿真的深度偽造制品。待證數(shù)據(jù)的真實性認(rèn)定亟待重塑專家鑒定模式。

目前而言，深度合成圖像數(shù)據(jù)檢測的關(guān)鍵在于組織能夠及時有效地挖掘定制化修改點的專家團(tuán)隊。深度偽造音視頻與真實視頻的特征差異比對迫切要求技術(shù)專家構(gòu)建完善的深度神經(jīng)網(wǎng)絡(luò)架構(gòu)以便更好地提取不自然的元素特征，并在具體場景中輔以虹膜驗證、指紋驗證以及人工鑒偽等。

4.3? ? 加強環(huán)境經(jīng)驗支持

早在全球深度偽造危機爆發(fā)之初，美國國防部高級研究計劃局（Defense Advanced Research Project Agency）就開始探索如何建立一個能夠辨別圖像或視頻可信度的自動評分系統(tǒng)[12]。通過集中比對待檢圖像數(shù)據(jù)或視頻數(shù)據(jù)在內(nèi)容上與各種外部經(jīng)驗數(shù)據(jù)的不一致之處（如與太陽光照位置不對應(yīng)的陰影影像數(shù)據(jù)），提升深度合成數(shù)據(jù)的檢驗準(zhǔn)確性。同時，有必要授權(quán)一方在一些具體場景中有權(quán)要求舉行聽證會，迫使待證數(shù)據(jù)提供方提供能夠間接證明真實性的重要環(huán)境信息。

5? ?結(jié)語

深度合成待證數(shù)據(jù)是對社會正義最后防線、廣大居民人身和財產(chǎn)安全乃至國家和社會有序運轉(zhuǎn)的巨大威脅。相關(guān)證偽方案執(zhí)行不暢有可能導(dǎo)致社會信任體系全面崩盤。亟待從源頭到末端營建精準(zhǔn)高效的風(fēng)險辨識與應(yīng)對框架。如不僅通過推廣區(qū)塊鏈認(rèn)證簽名工具加強數(shù)據(jù)來源標(biāo)注，還有必要建立基于區(qū)塊鏈和智能合約的待證數(shù)據(jù)來源追溯機制，推動智慧司法，助力數(shù)字經(jīng)濟，支撐智能化社會建設(shè)。

參考文獻(xiàn)：

[1]? Elizabeth Caldera.Reject the Evidence of Your Eyes and Ears.Deepfakes and the Law of Virtual Replicants[J].Seton Hall Law Review，2019（50）：177.

[2]? Russell Spivak.Deepfakes：The Newest Way to Commit One of the Oldest Crimes[J].Georgetown Law & Technology Review，2019（3）：332.

[3]? Jeff Ward.10 Things Judges Should Know About AI[R].Deepfakes Report Act of 2019，116th Congress，H.R.3600，2019.

[4]? Kevin Roose.How Come the Fake Videos，Too[N].New York Times，2018-05-04.

[5]? Janko Rocttgers.Reddit，Twitter Ban Deepfake Celebrity Porn Videos[EB/OL].[2018-02-07].https：//www.nasdaq.com/articles/reddit-twitter-ban-deepfake-celebrity-porn-videos-2018-02-07.

[6]? Jessica Ice.Defamatory Political Deepfakes and the First Amendment[J].Case Western Reserve Law Review，2019（70）：427.

[7]? “她”來了！全球首位3D版AI合成主播精彩亮相[EB/OL].[2020-05-20].http：//www.xinhuanet.com/2020-05/20/c_1126011533.htm.

[8]? Douglas Harris.Deepfakes：False Pornography Is Here and the Law Cannot Protect You[J].Duke Law & Technology Review，2019（17）：99.

[9]? Mark Bennett.Unspringing the Witness Memory and Demeanor Trap：What Every Judge and Juror Needs to Know About Cognitive Psychology and Witness Credibility[J].American University Law Review，2015（64）：1331.

[10]? Richard Schmechel，Timothy Toole.Beyond the Ken？ Testing Jurors Understanding of Eyewitness Reliability Evidence[J].Jurimetrics，2006（46）：178.

[11]? Robert Chesney.Deep Fakes：A Looming Challenge for Privacy，Democracy，and National Security[J].California Law Review，2019（107）：1753.

[12]? Matt Turek.Media Forensics[EB/OL].[2020-11-30].https：//www.darpa.mil/program/media-forensics.

作者簡介：眭占菱（1991-），女，南京信息工程大學(xué)中意網(wǎng)絡(luò)侵權(quán)研究所助理研究員，研究方向：信息科技與信息規(guī)制;何亮亮（1980-），男，南京信息工程大學(xué)法政學(xué)院副教授，研究方向：信息科技與信息倫理;蔣潔（1979-），女，南京信息工程大學(xué)中意網(wǎng)絡(luò)侵權(quán)研究所、法政學(xué)院教授，研究方向：信息政策法律與信息倫理。