美國(guó)深度偽造防御體系建設(shè)探析

深度偽造技術(shù)的發(fā)展使得篡改和生成高逼真度的音視頻成為可能，為國(guó)家間政治抹黑、軍事欺騙提供了新的工具。為防止技術(shù)濫用和敵對(duì)勢(shì)力的滲透活動(dòng)，美國(guó)從法律、技術(shù)、教育、國(guó)際合作等方面入手，加強(qiáng)對(duì)深度偽造技術(shù)的監(jiān)管和防范。

美國(guó)構(gòu)建深度偽造防御體系的主要做法

自下而上分層制定法律規(guī)范美國(guó)是第一個(gè)發(fā)生大規(guī)模深度偽造換臉事件的國(guó)家，也是第一個(gè)回應(yīng)深度偽造技術(shù)問(wèn)題的國(guó)家。美國(guó)的立法者對(duì)深度偽造的擔(dān)憂主要集中在國(guó)家安全、社會(huì)穩(wěn)定、政治選舉等方面，同時(shí)又支持深度偽造技術(shù)在娛樂(lè)、醫(yī)療、影視等方面的應(yīng)用，如何趨利避害成為一道治理難題。

州議會(huì)制定法案。2019年6月，德克薩斯州議會(huì)通過(guò)《關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》，該法案明確規(guī)定“利用深度偽造技術(shù)制作視頻企圖干擾選舉的行為被定義為刑事犯罪”。同年10月，加利福尼亞州議會(huì)通過(guò)《730號(hào)議會(huì)法案》，法案規(guī)定選舉前60日內(nèi)制造、傳播經(jīng)過(guò)篡改的有關(guān)政治家、選舉候選人的視頻、音頻、圖像的行為視為犯罪行為。兩個(gè)州頒布的法案，為深度偽造技術(shù)的應(yīng)用場(chǎng)景、創(chuàng)作內(nèi)容和使用目的劃定了法律紅線。

參眾兩院制定法案。美國(guó)眾議院頒布了《深度偽造責(zé)任法案》，規(guī)定深度偽造音視頻的創(chuàng)作者，必須用“不可刪除的數(shù)字水印以及文本描述”來(lái)說(shuō)明該媒體文件是篡改或生成的，否則將構(gòu)成犯罪行為。這明確了深度偽造內(nèi)容創(chuàng)作者的責(zé)任和義務(wù)，讓他們清楚知曉自己行為的法律后果，從而在一定程度上約束其行為，減少隨意制作和傳播深度偽造內(nèi)容的現(xiàn)象。參議院頒布的《惡意偽造禁令法案》對(duì)社交媒體平臺(tái)的責(zé)任也進(jìn)行了規(guī)定，若平臺(tái)明知內(nèi)容系深度偽造仍繼續(xù)分發(fā)，將受到罰款等處罰。這促使平臺(tái)加強(qiáng)對(duì)所發(fā)布內(nèi)容的審核，積極采取措施防范深度偽造內(nèi)容的傳播，維護(hù)網(wǎng)絡(luò)環(huán)境的安全和秩序。

主被動(dòng)兼顧研發(fā)鑒偽技術(shù) 美國(guó)為提升深度偽造技術(shù)檢測(cè)能力，依托國(guó)內(nèi)的高科技公司研發(fā)各類檢測(cè)技術(shù)。根據(jù)防御策略的不同，現(xiàn)有的檢測(cè)技術(shù)主要分為主動(dòng)防御和被動(dòng)檢測(cè)兩大類。

被動(dòng)檢測(cè)技術(shù)。該技術(shù)是從人臉視頻自身獲取信息或提取特征，對(duì)偽造人臉視頻進(jìn)行鑒別的技術(shù)，側(cè)重于事后取證，即針對(duì)已經(jīng)制作并傳播的視頻進(jìn)行檢測(cè)。例如，美國(guó)DAPPA公司推出“媒體取證”項(xiàng)目和“語(yǔ)義取證”項(xiàng)目，其中“媒體取證”項(xiàng)目，主要檢測(cè)和識(shí)別經(jīng)過(guò)修改的數(shù)字媒體內(nèi)容的項(xiàng)目，用于揭露偽造的圖片或視頻；“語(yǔ)義取證”項(xiàng)目，主要理解數(shù)據(jù)和信息背后的含義和上下文，以揭露潛在的欺詐或誤導(dǎo)行為。被動(dòng)檢測(cè)技術(shù)的主要原理是“發(fā)現(xiàn)才處理”，這種防御方式存在滯后性，難以消除虛假視頻帶來(lái)的負(fù)面影響。

主動(dòng)防御技術(shù)。該技術(shù)側(cè)重于事前防御，核心思路是在人臉視頻發(fā)布前添加一定的信號(hào)干擾，使得惡意使用者無(wú)法利用該視頻素材進(jìn)行偽造，即便偽造也能夠順利溯源，找到偽造者，以實(shí)現(xiàn)“精準(zhǔn)溯源”的目標(biāo)。例如，美國(guó)的元宇宙平臺(tái)公司宣布將在其社交媒體平臺(tái)上標(biāo)記AI生成圖像，目前在YouTube、TikTok等社交媒體平臺(tái)上，一些內(nèi)容創(chuàng)作者已經(jīng)開始使用水印來(lái)保護(hù)他們的視頻不被其他用戶盜用，但相關(guān)技術(shù)的執(zhí)行條件較為嚴(yán)苛，需要視頻素材發(fā)布方主動(dòng)添加干擾信息，這在素材自由分享的互聯(lián)網(wǎng)是較難實(shí)現(xiàn)的。

多維度提升公民媒介信息素養(yǎng) 技術(shù)是中立的，技術(shù)的價(jià)值觀取決于使用技術(shù)的人。深度偽造技術(shù)本身并不邪惡，并非在所有情況下都會(huì)給公民、社會(huì)和國(guó)家?guī)?lái)危害，政府需要通過(guò)教育，提高公民對(duì)深度偽造產(chǎn)品的警惕意識(shí)、甄別意識(shí)和法紀(jì)意識(shí)，彌補(bǔ)檢測(cè)技術(shù)的不足。一是提升公民的信息警惕意識(shí)。學(xué)習(xí)學(xué)校的系統(tǒng)課程，教育公民在海量信息海洋中，判斷信息來(lái)源的可靠性，識(shí)別虛假新聞、謠言、不實(shí)信息等。二是提升公民的信息甄別意識(shí)。通過(guò)非營(yíng)利組織、教育機(jī)構(gòu)、數(shù)字調(diào)查小組提高公民的信息甄別意識(shí)，例如數(shù)字調(diào)查小組與谷歌開發(fā)了公民在線推理免費(fèi)網(wǎng)站，提供對(duì)抗信息操縱的課程和研究。通過(guò)教育引導(dǎo)公民對(duì)信息甄別，使公民避免成為虛假消息的“制作源”和傳播中的“無(wú)知者”。三是提升公民創(chuàng)作傳播信息的法紀(jì)意識(shí)。通過(guò)執(zhí)法部門公開典型案例，引導(dǎo)公民在平臺(tái)上發(fā)布創(chuàng)作內(nèi)容，要遵循法律、道德規(guī)范以及平臺(tái)規(guī)則。例如2024年，德克薩斯州電信公司Lingo Telecom因參與非法的拜登深度偽造詐騙，被美國(guó)聯(lián)邦通信委員會(huì)（FCC）處100萬(wàn)美元的罰款。

開展國(guó)際交流合作 一是積極參與國(guó)際會(huì)議，倡導(dǎo)建立國(guó)際標(biāo)準(zhǔn)。美國(guó)政府及機(jī)構(gòu)積極參與各種國(guó)際會(huì)議，探討深度偽造技術(shù)的治理問(wèn)題，分享美國(guó)的觀點(diǎn)和經(jīng)驗(yàn)，試圖引導(dǎo)國(guó)際社會(huì)形成深度偽造技術(shù)治理的統(tǒng)一規(guī)則。二是開展聯(lián)合科研項(xiàng)目，分享技術(shù)成果。美國(guó)與其他國(guó)家的科研機(jī)構(gòu)、企業(yè)開展聯(lián)合項(xiàng)目攻關(guān)，共同研發(fā)深度偽造技術(shù)的防范方法和檢測(cè)工具，同時(shí)向國(guó)際社會(huì)分享其在深度偽造技術(shù)治理方面的成果和經(jīng)驗(yàn)，提升全球范圍內(nèi)對(duì)深度偽造技術(shù)的治理能力。

美國(guó)深度偽造防御體系的特點(diǎn)

深度偽造法案規(guī)制的特點(diǎn) 一是明確界定法律責(zé)任與犯罪行為?！稅阂鈧卧旖罘ò浮穼?duì)制作深度偽造內(nèi)容引發(fā)犯罪和侵權(quán)行為的個(gè)人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的社交媒體平臺(tái)，進(jìn)行罰款和監(jiān)禁處罰。二是注重保護(hù)個(gè)人隱私與名譽(yù)。弗吉尼亞州的《非同意色情法》修正案，有效保護(hù)了個(gè)人的隱私和名譽(yù)，特別是對(duì)于容易成為深度偽造技術(shù)受害者的公眾人物，法律的保護(hù)能夠防止他們的形象被惡意利用，避免因虛假的色情或誹謗內(nèi)容而遭受精神和名譽(yù)上的傷害。三是保障選舉安全和社會(huì)穩(wěn)定。美國(guó)多個(gè)州針對(duì)選舉出臺(tái)了相關(guān)法案，這些法案對(duì)利用深度偽造技術(shù)干擾選舉的行為進(jìn)行了明確的規(guī)定和限制，保障了選舉的公正性和合法性。

深度偽造鑒偽技術(shù)的特點(diǎn) 一是準(zhǔn)確率高。美國(guó)高科技公司研發(fā)的鑒偽技術(shù)，對(duì)惡意制作的深度偽造內(nèi)容檢測(cè)準(zhǔn)確率高達(dá)90%，能夠快速有效地篩選出虛假的音視頻內(nèi)容，避免虛假信息的傳播和誤導(dǎo)。二是適用性廣。例如，谷歌和McAfee等高科技公司研發(fā)出多模態(tài)檢測(cè)技術(shù)，能夠應(yīng)對(duì)不同形式的偽造內(nèi)容，大大提高了鑒偽技術(shù)的應(yīng)用范圍和實(shí)用性。三是時(shí)效性強(qiáng)。鑒偽技術(shù)能夠快速地對(duì)信息進(jìn)行檢測(cè)和分析，及時(shí)發(fā)現(xiàn)深度偽造的內(nèi)容，甚至部分鑒偽技術(shù)可以實(shí)現(xiàn)實(shí)時(shí)監(jiān)測(cè)，即在信息發(fā)布或傳播的過(guò)程中進(jìn)行實(shí)時(shí)檢測(cè)，一旦發(fā)現(xiàn)深度偽造的內(nèi)容，立即進(jìn)行預(yù)警和處理，有效地阻止虛假信息的進(jìn)一步傳播，將影響降到最低。

公民媒介素養(yǎng)教育提升的特點(diǎn) 一是區(qū)分年齡層次融合培養(yǎng)。美國(guó)媒介素養(yǎng)教育大多依托學(xué)校教育，針對(duì)不同年齡段的學(xué)生，設(shè)計(jì)不同層次的教育內(nèi)容和教學(xué)方法。小學(xué)階段側(cè)重于培養(yǎng)學(xué)生對(duì)媒介的基本認(rèn)知和正確使用習(xí)慣，中學(xué)階段進(jìn)一步引導(dǎo)學(xué)生分析媒體信息的真實(shí)性、客觀性等，大學(xué)階段則更注重培養(yǎng)學(xué)生對(duì)復(fù)雜媒體信息的批判性思考和研究能力。二是注重培養(yǎng)批判性思維。引導(dǎo)公民深入分析媒體信息的構(gòu)成、制作過(guò)程、傳播意圖以及背后的權(quán)利關(guān)系等。讓公民不僅能夠理解媒體所傳達(dá)的表面信息，還能批判性地思考信息的真實(shí)性、可靠性和潛在的影響。鼓勵(lì)公民對(duì)媒體信息提出疑問(wèn)，不盲目相信和接受所看到、聽到的信息，學(xué)會(huì)從多個(gè)角度去驗(yàn)證和評(píng)估媒體信息的可信度。三是注重提升媒介使用能力。美國(guó)的媒介素養(yǎng)教育不斷更新教育內(nèi)容和方法，以適應(yīng)新媒體環(huán)境下的公民媒介素養(yǎng)需求。為公民提供參與媒介創(chuàng)作的機(jī)會(huì)，讓他們親身體驗(yàn)媒體信息的制作過(guò)程，使公民在實(shí)踐中理解媒體創(chuàng)作的規(guī)范、技巧和責(zé)任，同時(shí)也提高他們對(duì)媒體信息的理解和把控能力。

深度偽造防御國(guó)際合作的特點(diǎn) 一是注重技術(shù)研發(fā)合作，提升治理水平。美國(guó)重點(diǎn)與科技水平較高的國(guó)家共同開發(fā)先進(jìn)的算法和模型，以提高對(duì)深度偽造內(nèi)容的甄別能力。通過(guò)共享技術(shù)資源、研究數(shù)據(jù)和研發(fā)經(jīng)驗(yàn)，整合各國(guó)的技術(shù)優(yōu)勢(shì)，加快技術(shù)創(chuàng)新的速度，共同應(yīng)對(duì)深度偽造技術(shù)帶來(lái)的挑戰(zhàn)。二是促進(jìn)政府、企業(yè)、學(xué)術(shù)機(jī)構(gòu)間合作。美國(guó)政府與其他國(guó)家的政府部門開展交流與合作，通過(guò)簽署合作協(xié)議、建立雙邊或多邊的合作機(jī)制，共同應(yīng)對(duì)深度偽造技術(shù)的威脅。三是基于地緣政治和戰(zhàn)略利益選擇合作對(duì)象。美國(guó)根據(jù)自身的戰(zhàn)略利益和地緣政治需求，優(yōu)先選擇與盟友國(guó)家進(jìn)行合作，加強(qiáng)對(duì)這些國(guó)家的了解和管控。同時(shí)，利用合作的機(jī)會(huì)，推廣自身的技術(shù)標(biāo)準(zhǔn)和治理模式，擴(kuò)大其在國(guó)際上的影響力。

構(gòu)建具有中國(guó)特色的深度偽造綜合防御體系

中國(guó)是一個(gè)網(wǎng)絡(luò)大國(guó)，網(wǎng)絡(luò)意識(shí)形態(tài)安全形勢(shì)日趨復(fù)雜嚴(yán)峻。我們要在總體國(guó)家安全觀的指導(dǎo)下，充分學(xué)習(xí)借鑒美國(guó)有益的治理措施，統(tǒng)籌應(yīng)對(duì)深度偽造技術(shù)發(fā)展的新挑戰(zhàn)，打造具有中國(guó)特色的深度偽造綜合防御體系。

構(gòu)建完善的法律監(jiān)管體系。一是構(gòu)建完善的法律監(jiān)管框架。修訂現(xiàn)有的法律，針對(duì)利用深度偽造技術(shù)實(shí)施犯罪的行為，細(xì)化相關(guān)罪名的認(rèn)定標(biāo)準(zhǔn)和量刑情節(jié)。制訂專門針對(duì)深度偽造技術(shù)治理的法規(guī)，清晰界定深度偽造的概念、涵蓋范圍，明確區(qū)分其在合法創(chuàng)作與非法濫用場(chǎng)景下的界限。二是構(gòu)建“事前—事中—事后”的監(jiān)管鏈路。通過(guò)規(guī)定制作者的披露義務(wù)、網(wǎng)絡(luò)服務(wù)提供者的監(jiān)督管理責(zé)任以及被侵權(quán)人的法律救濟(jì)途徑，確保監(jiān)管鏈路的完整性。三是強(qiáng)化平臺(tái)責(zé)任。法律要求網(wǎng)絡(luò)平臺(tái)承擔(dān)起“守門人”的職責(zé)，對(duì)深度偽造內(nèi)容進(jìn)行審查和監(jiān)管，有助于從源頭上減少深度偽造技術(shù)的濫用和傳播。

鼓勵(lì)企業(yè)研發(fā)鑒偽技術(shù)。一是設(shè)立研發(fā)項(xiàng)目，吸引企業(yè)參與。例如，國(guó)家自然科學(xué)基金等項(xiàng)目中會(huì)有涉及信息安全、人工智能等與鑒偽技術(shù)相關(guān)的課題，企業(yè)可通過(guò)承擔(dān)這些項(xiàng)目獲得研發(fā)資源和支持。二是支持國(guó)內(nèi)高科技公司擴(kuò)大研發(fā)鑒偽產(chǎn)品種類。例如，騰訊致力于研究新算法以分析視頻內(nèi)容的統(tǒng)計(jì)特性和異常模式，同時(shí)探索區(qū)塊鏈技術(shù)應(yīng)用等，促進(jìn)企業(yè)不斷進(jìn)行產(chǎn)品創(chuàng)新。三是鼓勵(lì)國(guó)內(nèi)的高科技公司參與國(guó)際賽事。例如，中國(guó)電信數(shù)字智能科技分公司在2022年深度偽造博弈比賽中，獲得生成攻擊賽道亞軍以及檢測(cè)賽道季軍。通過(guò)參與國(guó)際賽事推動(dòng)鑒偽技術(shù)的邊界不斷拓展，提升技術(shù)的深度和廣度。

加強(qiáng)公民媒介素養(yǎng)提升。一是提升公民媒介認(rèn)知能力。促進(jìn)公民了解不同媒介，如報(bào)紙、電視、廣播、網(wǎng)絡(luò)社交媒體、短視頻平臺(tái)等媒介的傳播形式、優(yōu)勢(shì)與局限。二是提升公民的信息批判能力。對(duì)于接收到的圖片、音視頻等各類形式的信息，啟發(fā)公民不盲目跟從信息媒介所傳達(dá)的觀點(diǎn)，能夠分析內(nèi)容是否真實(shí)客觀，思考背后有無(wú)潛在意圖。三是提升公民媒介道德與法律素養(yǎng)。引導(dǎo)公民在媒介環(huán)境中秉持誠(chéng)實(shí)、公正、尊重他人等道德觀念，不進(jìn)行網(wǎng)絡(luò)暴力、惡意詆毀、侵犯他人隱私等違背法律和道德的行為。

開展廣泛的國(guó)際交流合作。深度偽造技術(shù)對(duì)世界各國(guó)構(gòu)成挑戰(zhàn)，中國(guó)倡導(dǎo)構(gòu)建人類命運(yùn)共同體，就要開展更廣泛的國(guó)際合作。一是參與國(guó)際規(guī)則制定與完善。在聯(lián)合國(guó)等國(guó)際組織內(nèi)，中國(guó)深度參與深度偽造治理相關(guān)規(guī)則的制定，推動(dòng)形成具有廣泛共識(shí)和約束力的國(guó)際公約或準(zhǔn)則，為全球治理提供統(tǒng)一的規(guī)范指引。二是加強(qiáng)技術(shù)研發(fā)合作與共享。積極搭建國(guó)際技術(shù)交流平臺(tái)，及時(shí)分享國(guó)內(nèi)在深度偽造治理方面的最新技術(shù)成果和應(yīng)用經(jīng)驗(yàn)，實(shí)現(xiàn)技術(shù)成果的全球共享與交流，共同提升全球深度偽造治理的技術(shù)水平。三是建立信息共享與應(yīng)急機(jī)制。建立跨國(guó)的應(yīng)急響應(yīng)協(xié)同機(jī)制，當(dāng)出現(xiàn)重大深度偽造事件或危機(jī)時(shí)，能夠迅速啟動(dòng)聯(lián)合應(yīng)急響應(yīng)計(jì)劃，共同開展調(diào)查、溯源、辟謠、遏制傳播等工作，最大限度地降低深度偽造帶來(lái)的危害和影響。

責(zé)任編輯：侯 琳