深度合成風(fēng)險防控標(biāo)準(zhǔn)體系研究

摘 要：隨著深度合成技術(shù)的廣泛應(yīng)用，其安全、倫理、隱私風(fēng)險日益凸顯。系統(tǒng)梳理國內(nèi)外相關(guān)的政策、法規(guī)和標(biāo)準(zhǔn)制定情況發(fā)現(xiàn)，構(gòu)建深度合成風(fēng)險防控標(biāo)準(zhǔn)體系十分必要且迫切。通過建立涵蓋基礎(chǔ)、技術(shù)、評測、應(yīng)用和管理五個方面的深度合成風(fēng)險防控標(biāo)準(zhǔn)體系，將大大提升深度合成技術(shù)的透明度和可信度，促進(jìn)其創(chuàng)新和健康發(fā)展，有效防范技術(shù)濫用帶來的安全風(fēng)險，對保障國家安全、社會穩(wěn)定、司法公正以及提高公眾對深度合成技術(shù)的信任具有至關(guān)重要的作用。

關(guān)鍵詞：深度合成，風(fēng)險防控，標(biāo)準(zhǔn)體系，人工智能

DOI編碼：10.3969/j.issn.1002-5944.2024.17.005

0 引 言

近年來，深度合成技術(shù)作為人工智能領(lǐng)域的一項前沿技術(shù)，取得了顯著的發(fā)展和突破。深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作包含文本、圖像、音頻、視頻、虛擬場景等數(shù)字內(nèi)容的技術(shù)。該技術(shù)基于變分自編碼器（VAE）、生成對抗網(wǎng)絡(luò)（GAN）、多頭自注意力模型（Transformer）以及擴(kuò)散模型（Diffusion Model）等深度生成模型[1-5]，通過對大量數(shù)據(jù)的學(xué)習(xí)和訓(xùn)練，學(xué)習(xí)數(shù)據(jù)在隱空間中的特征表示，從而實現(xiàn)針對圖像、視頻和音頻等數(shù)字媒體內(nèi)容的高質(zhì)量生成和編輯。同時，隨著深度合成模型及開源框架的普及，使得數(shù)字媒體內(nèi)容創(chuàng)作也從最初的簡單模型結(jié)合人工輔助干預(yù)，發(fā)展到現(xiàn)在的復(fù)雜模型、一鍵生成，深度合成技術(shù)的應(yīng)用范圍和生成質(zhì)量都有了顯著提升，在娛樂、藝術(shù)、教育、醫(yī)療、制造、新聞等領(lǐng)域展現(xiàn)出強大的應(yīng)用潛力。深度合成技術(shù)正成為推動社會進(jìn)步和創(chuàng)新的重要力量。

然而，深度合成技術(shù)的廣泛應(yīng)用也帶來了安全、倫理和隱私方面的諸多風(fēng)險挑戰(zhàn)，其對國家安全和社會穩(wěn)定構(gòu)成的潛在威脅日益凸顯[6-7]。首先，深度合成技術(shù)可以生成逼真的虛假視頻和音頻，這些內(nèi)容可能被用來傳播虛假信息，誤導(dǎo)公眾。例如，2024年1月，網(wǎng)上出現(xiàn)一個電視節(jié)目片段，冒稱香港特別行政區(qū)行政長官向市民推介一項投資計劃，特區(qū)政府嚴(yán)正澄清，稱有關(guān)影像全屬偽造。這種“深度偽造”內(nèi)容對社會的信息真實性構(gòu)成了嚴(yán)重威脅。其次，攻擊者可以利用深度合成技術(shù)模仿受害者親友的聲音或面部，進(jìn)行網(wǎng)絡(luò)釣魚和詐騙活動，竊取個人信息和財產(chǎn)，還可以制作出目標(biāo)人物的不當(dāng)言論或不雅視頻，對其人格權(quán)和名譽權(quán)造成嚴(yán)重侵犯。例如，2019年8月德國某能源公司的英國分部被詐騙分子通過合成公司總裁聲音的方式詐騙22萬歐元，這起事件被認(rèn)為是全球首例涉及人工智能的詐騙案；2023年有不法分子使用深度合成技術(shù)生成了美國流行歌星Taylor Swift的不雅照片，并在網(wǎng)上大肆傳播，引發(fā)了社會的廣泛關(guān)注。第三，為了生成逼真的合成內(nèi)容，深度合成技術(shù)需要大量的個人數(shù)據(jù)，包括面部圖像、聲音樣本等，這些敏感信息的收集和使用還可能導(dǎo)致個人隱私的泄露。

2023年10月18日，在第三屆“一帶一路”國際合作高峰論壇上發(fā)布的《全球人工智能治理倡議》提出：“要做好風(fēng)險防范，形成具有廣泛共識的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性”。加強深度合成技術(shù)的風(fēng)險防控，建立和完善相關(guān)的標(biāo)準(zhǔn)體系是其中的關(guān)鍵環(huán)節(jié)和重要舉措。通過構(gòu)建一個布局全面、技術(shù)領(lǐng)先、相互協(xié)調(diào)、操作性強的深度合成技術(shù)風(fēng)險防控標(biāo)準(zhǔn)體系，可以為深度合成技術(shù)的研發(fā)、應(yīng)用和管理提供明確的規(guī)范和指引，有效防范技術(shù)濫用帶來的風(fēng)險，支撐打擊相關(guān)違法犯罪活動，推動技術(shù)創(chuàng)新沿著正確的方向進(jìn)行，提升行業(yè)應(yīng)用的整體水平，最終確保深度合成技術(shù)在為人類社會帶來便利和進(jìn)步的同時，不會成為威脅國家安全和社會穩(wěn)定的“潘多拉之盒”。

1 國內(nèi)外現(xiàn)狀分析

1.1 全球人工智能安全監(jiān)管政策

近年來，人工智能安全已成為日益重要的議題，需要得到足夠的重視和關(guān)注，以確保人工智能技術(shù)的可持續(xù)發(fā)展。在此背景下，各國持續(xù)開展人工智能安全監(jiān)管政策相關(guān)研究工作。聯(lián)合國教科文組織在2021年發(fā)布《人工智能倫理問題建議書》[8]，提出了人工智能價值觀和原則，旨在為和平使用人工智能系統(tǒng)、防范人工智能危害提供基礎(chǔ)，推動全球?qū)θ斯ぶ悄軅惱戆踩珕栴}形成共識。美國近年來先后發(fā)布了《算法問責(zé)法（草案）》《人工智能應(yīng)用的監(jiān)管指南》《人工智能道德原則》《人工智能權(quán)利法案》等政策法案，重點關(guān)注人工智能安全風(fēng)險評估與風(fēng)險管理。歐盟于2024年3月正式投票通過并批準(zhǔn)《人工智能法案》，試圖對人工智能系統(tǒng)進(jìn)行整體的分類監(jiān)管。2022年，我國發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，2023年又發(fā)布了《生成式人工智能服務(wù)管理辦法》，提出生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵循的規(guī)范要求，統(tǒng)籌人工智能的安全與發(fā)展。中國信息通信研究院在2021年發(fā)布了《可信人工智能白皮書》，從如何落實全球人工智能治理共識的角度出發(fā)，聚焦于可信人工智能技術(shù)、產(chǎn)業(yè)和行業(yè)實踐等層面，對可信人工智能的未來發(fā)展提出了建議。

1.2 人工智能安全標(biāo)準(zhǔn)現(xiàn)狀

目前，全球各國和相關(guān)組織正持續(xù)推進(jìn)人工智能安全標(biāo)準(zhǔn)制定工作。在技術(shù)安全方面，歐盟發(fā)布了一系列標(biāo)準(zhǔn)文件，比如2023年3月發(fā)布的《人工智能網(wǎng)絡(luò)安全和標(biāo)準(zhǔn)化》（Cybersecurity of AI andStandardization）梳理了人工智能標(biāo)準(zhǔn)化前景，分析了現(xiàn)有人工智能國際標(biāo)準(zhǔn)覆蓋范圍及差異，為后續(xù)標(biāo)準(zhǔn)化如何支持歐盟實施《人工智能法案》提出建議[9]；2023年6月發(fā)布的《人工智能良好網(wǎng)絡(luò)安全實踐的多層框架》（Multilayer Framework for GoodCybersecurity Practices for AI），提出利用現(xiàn)有知識和最佳實踐確保人工智能系統(tǒng)、操作和流程的安全[10]。我國研制發(fā)布了《信息安全技術(shù) 機(jī)器學(xué)習(xí)算法安全評估規(guī)范》《生成式人工智能服務(wù)安全基本要求》等標(biāo)準(zhǔn)[11-12]，著重關(guān)注人工智能技術(shù)基礎(chǔ)服務(wù)及產(chǎn)品服務(wù)的安全能力及安全要求。國際標(biāo)準(zhǔn)化組織（ISO）自2022年以來，陸續(xù)開展了《人工智能 功能安全與人工智能系統(tǒng)》《人工智能 解決人工智能系統(tǒng)中安全威脅和故障的指南》等標(biāo)準(zhǔn)研制工作[13-14]，聚焦人工智能系統(tǒng)安全、功能安全等問題。

在應(yīng)用安全方面，在生物特征識別、智能汽車、智能家居、智能醫(yī)療等人工智能關(guān)鍵應(yīng)用領(lǐng)域，我國提前布局并推動發(fā)布了多項標(biāo)準(zhǔn)。生物特征識別領(lǐng)域，發(fā)布了《信息安全技術(shù) 生物特征識別信息保護(hù)基本要求》[15]，以及人臉、聲紋、基因、步態(tài)等數(shù)據(jù)安全國家標(biāo)準(zhǔn)[16-19]，并針對生物特征識別系統(tǒng)面臨的攻擊檢測及安全能力測試提出相應(yīng)要求[20]。智能汽車領(lǐng)域，發(fā)布了《信息安全技術(shù) 汽車數(shù)據(jù)處理安全要求》《信息安全技術(shù) 網(wǎng)絡(luò)預(yù)約汽車服務(wù)數(shù)據(jù)安全要求》等國家標(biāo)準(zhǔn)[21-22]，提升了智能汽車相關(guān)企業(yè)的數(shù)據(jù)安全和信息安全水平。智能家居領(lǐng)域，發(fā)布了《信息安全技術(shù) 智能家居通用安全規(guī)范》等標(biāo)準(zhǔn)[23]，規(guī)定了智能家居安全通用技術(shù)要求和測試評價方法。

在風(fēng)險管理方面，2022年以來，美國先后發(fā)布了《人工智能風(fēng)險管理框架》《建立識別和管理人工智能偏差的標(biāo)準(zhǔn)》[24-25]等指導(dǎo)性文件，提出了用于識別和管理人工智能安全與偏見的技術(shù)指南。國際標(biāo)準(zhǔn)化組織（ISO）在2023年發(fā)布了《信息技術(shù) 人工智能 風(fēng)險管理指南》[26]，提供了有關(guān)開發(fā)、生產(chǎn)、部署或使用人工智能的產(chǎn)品、系統(tǒng)和服務(wù)的組織該如何管理AI相關(guān)風(fēng)險的指南。

1.3 深度合成技術(shù)風(fēng)險防控標(biāo)準(zhǔn)現(xiàn)狀

作為人工智能安全的重要研究方向之一，深度合成技術(shù)及其應(yīng)用的安全性需要引起重點關(guān)注。清華大學(xué)人工智能研究院發(fā)布的《深度合成十大趨勢報告（2022）》中顯示，深度合成制作內(nèi)容與傳播數(shù)量正極速攀升，較2017年增長十倍以上，合成內(nèi)容范圍涉及影視音樂、科技教育、生活、娛樂、咨詢等領(lǐng)域[27]。

美國是最早對深度合成技術(shù)進(jìn)行監(jiān)管立法的國家。在2018年12月，美國發(fā)布了《2018年惡意深度偽造禁止法案》，并在之后陸續(xù)頒發(fā)了《深度偽造責(zé)任法案》《2019年深度偽造報告法案》和《2020財年情報授權(quán)法案》，主要針對影響選舉的虛假信息合成技術(shù)進(jìn)行立法規(guī)制，對引發(fā)犯罪和侵權(quán)的內(nèi)容制作者提出了監(jiān)管要求。歐盟在2024年批準(zhǔn)的《人工智能法案》中將深度合成列為四大風(fēng)險等級中的第二級，即“具有潛在風(fēng)險”，其要求深度合成服務(wù)提供者需對深度合成內(nèi)容進(jìn)行披露和提示，以幫助用戶識別內(nèi)容的真?zhèn)蝃28]。英國于2022年以修訂《在線安全法案》的方式，對深度合成行為進(jìn)行規(guī)制，即將利用深度合成技術(shù)偽造色情視頻的行為認(rèn)定為犯罪行為[29]。2019年以來，我國有關(guān)部門先后制定了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，將深度合成定位為包括生成合成類算法在內(nèi)的算法技術(shù)。

當(dāng)前，國內(nèi)外深度合成技術(shù)領(lǐng)域的標(biāo)準(zhǔn)研制工作尚處于起步階段。美國國家標(biāo)準(zhǔn)技術(shù)研究所（NIST）于2021年2月通過了《深度偽造多媒體內(nèi)容檢測》研究內(nèi)容評估表并提供了系統(tǒng)化的評估路徑。國內(nèi)多個標(biāo)準(zhǔn)化組織積極推進(jìn)相關(guān)工作[30]。公安部鑒定中心牽頭相關(guān)單位于2023年3月正式立項并開始研制法庭科學(xué)偽造人像系列國家標(biāo)準(zhǔn)，填補了深度偽造人像檢驗鑒定標(biāo)準(zhǔn)的空白。中國電子標(biāo)準(zhǔn)化協(xié)會在2022年7月發(fā)布的《人工智能 深度合成圖像系統(tǒng)技術(shù)規(guī)范》團(tuán)體標(biāo)準(zhǔn)[31]，對深度偽造檢測系統(tǒng)提出了技術(shù)要求和評估方法。此外，全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會于2023年10月11日發(fā)布的《生成式人工智能服務(wù)安全基本要求》，提出了生成式人工智能在服務(wù)安全方面的基本要求[32]。

1.4 深度合成風(fēng)險防控標(biāo)準(zhǔn)體系建設(shè)的重要意義

在全球范圍內(nèi)，各國正積極推動深度合成技術(shù)標(biāo)準(zhǔn)的制定與完善，以應(yīng)對這一技術(shù)帶來的挑戰(zhàn)和機(jī)遇。深度合成技術(shù)因其涉及圖像、視頻、音頻、文本等多種媒介形式，展現(xiàn)出獨特的多樣性和復(fù)雜性。這也意味著在不同的應(yīng)用場景和需求下，對技術(shù)標(biāo)準(zhǔn)的要求也呈現(xiàn)出多樣性。盡管目前已有一些技術(shù)標(biāo)準(zhǔn)的初步探索和制定，但這些標(biāo)準(zhǔn)主要集中在技術(shù)層面，對于評測標(biāo)準(zhǔn)、應(yīng)用標(biāo)準(zhǔn)和管理標(biāo)準(zhǔn)等方面，仍存在顯著的缺失和不完善之處。

因此，構(gòu)建一個統(tǒng)一且協(xié)調(diào)的深度合成技術(shù)風(fēng)險防控標(biāo)準(zhǔn)體系顯得尤為關(guān)鍵。這一體系的建立不僅能夠為深度合成技術(shù)的發(fā)展提供清晰的指導(dǎo)框架和方向，而且能夠有效地幫助識別、評估和緩解與深度合成技術(shù)相關(guān)的風(fēng)險。通過全面評估和規(guī)范技術(shù)應(yīng)用，可以防止技術(shù)的不當(dāng)使用，確保信息的真實性，保護(hù)用戶隱私和數(shù)據(jù)安全，從而維護(hù)國家安全、社會穩(wěn)定，并促進(jìn)技術(shù)的健康發(fā)展。具體而言，深度合成技術(shù)風(fēng)險防控標(biāo)準(zhǔn)體系的建立具有以下幾個方面的重要意義：

（1）增強技術(shù)透明度和可信度。統(tǒng)一協(xié)調(diào)的標(biāo)準(zhǔn)體系將彌補標(biāo)準(zhǔn)缺口、統(tǒng)一技術(shù)度量指標(biāo)，以提升深度合成技術(shù)的透明度，使公眾和使用者能夠更清晰地理解技術(shù)的作用機(jī)理和應(yīng)用范圍，從而增強技術(shù)的社會接受度和信任度。

（2）促進(jìn)技術(shù)創(chuàng)新和應(yīng)用的健康發(fā)展。明確統(tǒng)一的標(biāo)準(zhǔn)體系能夠為技術(shù)研發(fā)和應(yīng)用指明方向，避免重復(fù)建設(shè)、資源浪費和技術(shù)誤用，明確各個標(biāo)準(zhǔn)適用范圍和優(yōu)先級，確保標(biāo)準(zhǔn)內(nèi)容的協(xié)同和統(tǒng)一，確保標(biāo)準(zhǔn)在實際應(yīng)用中相互支撐、相互補充，推動技術(shù)沿著有益于社會的方向發(fā)展和創(chuàng)新。

（3）防范和減少新技術(shù)帶來的潛在風(fēng)險。系統(tǒng)性的風(fēng)險評估和管理將有效預(yù)防和降低深度合成技術(shù)可能帶來的社會、法律和倫理風(fēng)險，例如虛假信息的傳播和隱私泄露，保護(hù)國家、社會和個人權(quán)益。

（4）提升跨國合作和交流。在全球化背景下，深度合成技術(shù)的發(fā)展和應(yīng)用跨越國界。統(tǒng)一的標(biāo)準(zhǔn)體系有助于推動我國標(biāo)準(zhǔn)體系的國際化，實現(xiàn)技術(shù)研發(fā)和應(yīng)用的國際合作與交流，共同應(yīng)對技術(shù)發(fā)展帶來的全球性挑戰(zhàn)。

2 深度合成技術(shù)風(fēng)險防控標(biāo)準(zhǔn)體系構(gòu)建

2.1 體系結(jié)構(gòu)

根據(jù)深度合成技術(shù)所涉及的要素、活動等內(nèi)容，深度合成風(fēng)險防控標(biāo)準(zhǔn)體系，包括基礎(chǔ)標(biāo)準(zhǔn)、技術(shù)標(biāo)準(zhǔn)、評測標(biāo)準(zhǔn)、應(yīng)用標(biāo)準(zhǔn)和管理標(biāo)準(zhǔn)五大部分，體系結(jié)構(gòu)見圖1?；A(chǔ)標(biāo)準(zhǔn)是深度合成風(fēng)險防控的總體性、框架性、通用性標(biāo)準(zhǔn)，為其他各類標(biāo)準(zhǔn)提供基礎(chǔ)支撐；技術(shù)標(biāo)準(zhǔn)是深度合成風(fēng)險防控的關(guān)鍵技術(shù)標(biāo)準(zhǔn)，為防范和打擊深度合成相關(guān)違法犯罪提供技術(shù)保障；評測標(biāo)準(zhǔn)是對相關(guān)模型、算法、系統(tǒng)、平臺、內(nèi)容等進(jìn)行測試評估的標(biāo)準(zhǔn)，為深度合成風(fēng)險防控技術(shù)、產(chǎn)品和服務(wù)提供質(zhì)量評估手段；應(yīng)用標(biāo)準(zhǔn)是面向公安行業(yè)具體需求，結(jié)合行業(yè)應(yīng)用特點，從支撐警務(wù)實戰(zhàn)和社會治理的角度出發(fā)，對其他部分標(biāo)準(zhǔn)的細(xì)化，給出公安相關(guān)應(yīng)用領(lǐng)域的深度合成風(fēng)險防控指南，支撐深度合成安全治理體系；管理標(biāo)準(zhǔn)是用于規(guī)范相關(guān)責(zé)任主體對深度合成風(fēng)險防控的管理要求，包括數(shù)據(jù)、人員、設(shè)施安全管理等相關(guān)標(biāo)準(zhǔn)。

2.2 體系框架

深度合成風(fēng)險防控標(biāo)準(zhǔn)體系框架由基礎(chǔ)標(biāo)準(zhǔn)、技術(shù)標(biāo)準(zhǔn)、評測標(biāo)準(zhǔn)、應(yīng)用標(biāo)準(zhǔn)、管理標(biāo)準(zhǔn)組成，如圖2所示。

2.3 體系內(nèi)容

2.3.1 基礎(chǔ)標(biāo)準(zhǔn)

（1）術(shù)語與分類：界定深度合成風(fēng)險防控技術(shù)、產(chǎn)品、服務(wù)、應(yīng)用等相關(guān)概念、分類和描述，明確相關(guān)術(shù)語的定義和解釋，注意依據(jù)和參考國內(nèi)外相關(guān)術(shù)語標(biāo)準(zhǔn)，保證術(shù)語的準(zhǔn)確性和一致性。

（2）參考架構(gòu)：用于描述深度合成風(fēng)險防控體系的構(gòu)成，如風(fēng)險識別、風(fēng)險評估、防控措施、應(yīng)急響應(yīng)和恢復(fù)策略等，以及各構(gòu)成部分之間的邏輯關(guān)系，包括體系架構(gòu)、數(shù)據(jù)架構(gòu)、安全架構(gòu)等標(biāo)準(zhǔn)。

（3）符號標(biāo)識：規(guī)定深度合成內(nèi)容的標(biāo)識方法、分類編碼、格式規(guī)范等，明確不同種類和等級的深度合成內(nèi)容的標(biāo)注位置、區(qū)域、規(guī)則和方式，如水印、數(shù)字簽名等，確保標(biāo)識的一致性和可識別性。

（4）特征集：規(guī)范深度合成風(fēng)險防控中所使用的各類識別或檢驗特征，包括違法和不良信息識別特征庫的入庫標(biāo)準(zhǔn)、規(guī)則和程序，以及可解釋性檢驗特征的分類、提取和描述方法，確保不同的工具和方法能夠提供一致、可信、可理解的特征描述。

（5）通用要求：描述深度合成風(fēng)險防控的基本原則、程序和通用要求，包括但不限于透明性、隱私性、安全性、公平性、魯棒性和可解釋性等多個方面的要求和規(guī)則，為有效防范深度合成安全風(fēng)險提供通用指導(dǎo)和規(guī)范。

2.3.2 技術(shù)標(biāo)準(zhǔn)

（1）監(jiān)測預(yù)警技術(shù)標(biāo)準(zhǔn)。屬于早期預(yù)警和主動防范措施，用于規(guī)范對各種系統(tǒng)或網(wǎng)絡(luò)環(huán)境中潛在的深度合成威脅或異常進(jìn)行監(jiān)測識別的技術(shù)。該技術(shù)標(biāo)準(zhǔn)可包括以下類別：

1）合成檢測識別技術(shù)標(biāo)準(zhǔn)。用于規(guī)范基于數(shù)據(jù)驅(qū)動的深度合成檢測識別技術(shù)，其中，深度合成的手段與內(nèi)容包括但不限于視頻圖像（人臉生成、人臉替換、人臉操控、姿態(tài)操控、人物屬性編輯、背景替換）、音頻（語音轉(zhuǎn)換、文本轉(zhuǎn)語音、音頻拼接、錄音重放、語音屬性編輯）、文本（篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話）等。

2）實時監(jiān)測響應(yīng)技術(shù)標(biāo)準(zhǔn)。用于規(guī)范深度合成內(nèi)容實時監(jiān)測響應(yīng)技術(shù)，包括但不限于數(shù)據(jù)傳輸處理能力、系統(tǒng)響應(yīng)時間、視頻抽幀方法、準(zhǔn)確性、穩(wěn)定性、兼容性、可擴(kuò)展性等方面要求，確保監(jiān)測系統(tǒng)能夠及時準(zhǔn)確識別和響應(yīng)深度合成內(nèi)容。

3）內(nèi)容審核認(rèn)證技術(shù)標(biāo)準(zhǔn)。用于規(guī)范深度合成內(nèi)容審核認(rèn)證技術(shù)，包括審核速度、能力、效率和流程等方面要求。還包括對用于深度合成內(nèi)容審核的數(shù)字水印、區(qū)塊鏈等認(rèn)證技術(shù)的規(guī)范，確保內(nèi)容來源可追溯。

（2）數(shù)據(jù)取證技術(shù)標(biāo)準(zhǔn)。用于規(guī)范對涉及深度合成技術(shù)及其生成內(nèi)容的電子數(shù)據(jù)取證技術(shù)。該技術(shù)標(biāo)準(zhǔn)可包括以下類別：

1）通用取證技術(shù)標(biāo)準(zhǔn)。包括數(shù)據(jù)完整性校驗、時間戳記錄、鏈?zhǔn)奖９芎腿罩竟芾淼燃夹g(shù)要求。

2）深度模型取證技術(shù)標(biāo)準(zhǔn)。包括深度學(xué)習(xí)模型的逆向工程、模型權(quán)重分析、模型驗證、訓(xùn)練數(shù)據(jù)追溯等方法、程序和技術(shù)要求。

3）生成內(nèi)容取證技術(shù)標(biāo)準(zhǔn)。包括元數(shù)據(jù)分析、真?zhèn)悟炞C和內(nèi)容比對等方法、程序和技術(shù)要求。

（3）檢驗鑒定技術(shù)標(biāo)準(zhǔn)。用于規(guī)范深度合成內(nèi)容檢驗鑒定技術(shù)，包括人像合成、背景合成、音頻合成、對抗樣本、呈現(xiàn)攻擊等檢驗方法、程序和技術(shù)要求。

1）人像合成檢驗技術(shù)標(biāo)準(zhǔn)。包括生理特征（眨眼、心率以及膚色變化、呼吸節(jié)奏一致性等）、物理特征（陰影、光照、反射和姿態(tài)一致性、物體間的相互作用、物理環(huán)境一致性等）、數(shù)字特征（噪聲分布一致性、時序一致性、壓縮痕跡、邊緣特征、圖像元數(shù)據(jù)分析等）、多模態(tài)協(xié)同（上下文信息、語義一致性、跨模態(tài)特征的關(guān)聯(lián)性等）等檢驗標(biāo)準(zhǔn)。

2）背景合成檢驗技術(shù)標(biāo)準(zhǔn)。包括背景元素一致性、深度信息、場景幾何結(jié)構(gòu)、環(huán)境動態(tài)分析、異常物理現(xiàn)象、不自然的環(huán)境變化、場景與對象間的空間關(guān)系不一致等檢驗標(biāo)準(zhǔn)。

3）音頻合成檢驗技術(shù)標(biāo)準(zhǔn)。包括語音特征的一致性，如音調(diào)、音色、語速以及語音中的自然停頓和呼吸聲，背景噪聲的一致性、錄音設(shè)備特性的匹配以及語音與口型同步性等檢驗標(biāo)準(zhǔn)。

4）對抗樣本檢驗技術(shù)標(biāo)準(zhǔn)。用于規(guī)范能夠誤導(dǎo)深度學(xué)習(xí)模型的對抗樣本的檢驗鑒定技術(shù)。

5）呈現(xiàn)攻擊檢驗技術(shù)標(biāo)準(zhǔn)。用于規(guī)范使用物理攻擊手段（如照片展示、高仿面具）所形成的偽造內(nèi)容的檢驗鑒定技術(shù)，包括多光譜和普通RGB圖像檢驗標(biāo)準(zhǔn)。

（4）溯源分析技術(shù)標(biāo)準(zhǔn)。用于規(guī)范對深度合成內(nèi)容進(jìn)行來源追蹤的方法、程序、技術(shù)要求和效果評價。

1）拍攝設(shè)備溯源技術(shù)標(biāo)準(zhǔn)。用于規(guī)范相機(jī)、手機(jī)等拍攝設(shè)備的特定指紋（如設(shè)備型號、鏡頭特性、傳感器噪聲模式等）識別與驗證技術(shù)，以確保能夠追溯到媒體文件原始的拍攝設(shè)備和生成源頭。

2）合成工具溯源技術(shù)標(biāo)準(zhǔn)。用于規(guī)范深度合成工具特征（如軟件、算法、應(yīng)用程序特有的數(shù)字痕跡、操作模式等）識別技術(shù)，以便于追蹤和歸類使用的合成工具。

3）偽造過程溯源技術(shù)標(biāo)準(zhǔn)。用于規(guī)范深度合成內(nèi)容編輯順序、合成過程重構(gòu)等技術(shù)，以便對偽造過程進(jìn)行再現(xiàn)分析。

4）原始身份溯源技術(shù)標(biāo)準(zhǔn)。用于規(guī)范深度合成內(nèi)容原始人物身份推斷技術(shù)，分析換臉前的原始身份。

5）傳播路徑溯源技術(shù)標(biāo)準(zhǔn)。包括深度合成內(nèi)容傳播路徑、傳播模式、傳播速度的追蹤分析標(biāo)準(zhǔn)。

2.3.3 評測標(biāo)準(zhǔn)

（1）評測數(shù)據(jù)集標(biāo)準(zhǔn)。規(guī)范用于測試和評估深度合成檢測模型工具性能的基準(zhǔn)數(shù)據(jù)集，包括數(shù)據(jù)生成、數(shù)據(jù)采集、數(shù)據(jù)清洗、數(shù)據(jù)格式、數(shù)據(jù)處理、數(shù)據(jù)交互等方法和要求。

（2）模型算法評測標(biāo)準(zhǔn)。用于評估深度合成檢測模型算法的功能、性能、能力成熟度等，包括準(zhǔn)確性、泛化能力、計算效率、可解釋、穩(wěn)健性、適應(yīng)性、可靠性等評測方法、評測指標(biāo)和測試要求，比如，通過評分、誤差率、ROC曲線、混淆矩陣等來量化性能。

（3）系統(tǒng)工具評測標(biāo)準(zhǔn)。用于評估深度合成檢測系統(tǒng)工具（包括軟件和硬件組件）的綜合性能，包括系統(tǒng)執(zhí)行任務(wù)的速度、效率、穩(wěn)定性、安全性、可用性、兼容性、可維護(hù)性、合規(guī)性等評測方法、評測指標(biāo)和測試要求，通常需要開展實地測試、用戶反饋、性能基準(zhǔn)測試等。

（4）內(nèi)容安全評測標(biāo)準(zhǔn)。用于評估深度合成內(nèi)容是否安全，是否包含惡意偽造或誤導(dǎo)信息，包括內(nèi)容的真實度、可信度、合規(guī)性（是否符合相關(guān)法律法規(guī)和社會道德標(biāo)準(zhǔn)、是否侵犯了他人的版權(quán)或知識產(chǎn)權(quán)）、社會影響等評測方法、評測指標(biāo)和測試要求，同時制定評估深度合成內(nèi)容潛在風(fēng)險和危害的指南，描述風(fēng)險識別、分析、評價和治理的步驟和方法，為不同風(fēng)險等級的深度合成內(nèi)容提供針對性的防控指導(dǎo)和措施。

2.3.4 應(yīng)用標(biāo)準(zhǔn)

（1）電信網(wǎng)絡(luò)詐騙防范。面向電信網(wǎng)絡(luò)詐騙行為的高效識別和及時攔截，規(guī)定深度偽造音視頻檢測、異常信息感知預(yù)警等方面的技術(shù)要求。

（2）個人信息保護(hù)。面向打擊侵犯公民個人信息違法犯罪，規(guī)定涉及個人信息的敏感隱私內(nèi)容自動檢測過濾、隱私保護(hù)等方面的技術(shù)要求，防止個人信息被非法利用，侵害個人合法權(quán)益。

（3）虛假信息治理。面向虛假信息的快速準(zhǔn)確鑒別，遏制虛假信息傳播擴(kuò)散，規(guī)定虛假信息內(nèi)容識別、來源驗證、多模態(tài)分析、綜合應(yīng)對等方面的技術(shù)要求。

（4）網(wǎng)絡(luò)基礎(chǔ)設(shè)施保護(hù)。面向網(wǎng)絡(luò)基礎(chǔ)設(shè)施的安全與穩(wěn)定運行保障，規(guī)定基于深度合成技術(shù)的網(wǎng)絡(luò)攻擊檢測模型、平臺、應(yīng)用和產(chǎn)品的功能和技術(shù)要求。

（5）威脅情報分析。面向潛在威脅行為的預(yù)測和模擬，規(guī)定深度合成信息感知、篩選、行為預(yù)測、場景模擬等方面的技術(shù)要求。

2.3.5 管理標(biāo)準(zhǔn)

（1）數(shù)據(jù)安全管理。用于規(guī)范數(shù)據(jù)加密、訪問控制、數(shù)據(jù)記錄留存、數(shù)據(jù)備份等方面的管理要求，確保數(shù)據(jù)在存儲、傳輸和處理過程中的安全和隱私。

（2）人員能力要求。用于規(guī)范從事深度合成風(fēng)險防控相關(guān)工作的人員能力、職業(yè)道德、專業(yè)資格認(rèn)證、專業(yè)培訓(xùn)等方面的要求。

（3）模型算法審查。用于規(guī)范相關(guān)技術(shù)、模型和算法所使用的訓(xùn)練數(shù)據(jù)來源、規(guī)模、類型、算法機(jī)制機(jī)理等方面的審查要求，確保模型和算法的開發(fā)過程透明，便于監(jiān)管和公眾的理解與信任。

（4）設(shè)施安全管理。用于規(guī)范設(shè)施安全檢查、評估和升級等方面的管理要求，確保使用的硬件、軟件、網(wǎng)絡(luò)安全可靠。

（5）倫理審查要求。用于規(guī)范深度合成相關(guān)技術(shù)開發(fā)應(yīng)用的倫理審查要求，包括透明性、隱私性、安全性、可解釋性、公平性等方面。

（6）實驗室質(zhì)量控制。包括建立標(biāo)準(zhǔn)操作程序（SOPs）、設(shè)備校準(zhǔn)、樣本處理和記錄保存、內(nèi)部和外部定期質(zhì)量控制評估等方面的要求，確保實驗室檢驗結(jié)果準(zhǔn)確、可靠。

（7）應(yīng)急處置規(guī)范。用于規(guī)范深度合成風(fēng)險應(yīng)急處置流程和措施的相關(guān)要求，明確在不同情況下分級響應(yīng)流程和具體應(yīng)急措施。

3 結(jié) 論

全面探討了深度合成技術(shù)風(fēng)險防控標(biāo)準(zhǔn)體系的構(gòu)建，旨在應(yīng)對該技術(shù)所帶來的安全、倫理和隱私泄露風(fēng)險。通過對國內(nèi)外現(xiàn)有政策、法律法規(guī)和標(biāo)準(zhǔn)的分析，提出了一個統(tǒng)一、協(xié)調(diào)的標(biāo)準(zhǔn)體系框架，明確了深度合成技術(shù)風(fēng)險防控的需求，包括基礎(chǔ)標(biāo)準(zhǔn)、技術(shù)標(biāo)準(zhǔn)、評測標(biāo)準(zhǔn)、應(yīng)用標(biāo)準(zhǔn)和管理標(biāo)準(zhǔn)五大部分，并對各個部分的內(nèi)容進(jìn)行了具體的闡述，為深度合成技術(shù)的安全應(yīng)用提供了明確的指導(dǎo)和規(guī)范。

強調(diào)了標(biāo)準(zhǔn)對于深度合成技術(shù)風(fēng)險防控的重要性和必要性，這不僅是確保技術(shù)安全、合規(guī)、可控的重要手段，也是維護(hù)國家安全和社會穩(wěn)定、保護(hù)個人權(quán)益、促進(jìn)技術(shù)健康發(fā)展和增強公眾信任的關(guān)鍵。通過建立統(tǒng)一、協(xié)調(diào)的標(biāo)準(zhǔn)體系，可以有效地識別、評估和緩解深度合成技術(shù)可能帶來的風(fēng)險，防止技術(shù)濫用，并促進(jìn)技術(shù)的健康和可持續(xù)發(fā)展。

面向未來，深度合成技術(shù)風(fēng)險防控標(biāo)準(zhǔn)體系的建設(shè)還將面臨更多挑戰(zhàn)和機(jī)遇。隨著技術(shù)的快速發(fā)展和應(yīng)用場景的不斷擴(kuò)展，標(biāo)準(zhǔn)體系需要不斷更新和完善，以適應(yīng)新的技術(shù)特性和應(yīng)用需求：一是建立標(biāo)準(zhǔn)體系動態(tài)更新機(jī)制，以快速響應(yīng)深度合成技術(shù)的發(fā)展變化，確保標(biāo)準(zhǔn)的時效性和適應(yīng)性；二是加強國際合作，推動中國標(biāo)準(zhǔn)走向世界，積極參與國際標(biāo)準(zhǔn)協(xié)作；三是促進(jìn)技術(shù)與倫理的融合，研究如何在標(biāo)準(zhǔn)體系中更好地體現(xiàn)倫理原則；四是針對不同的應(yīng)用領(lǐng)域，研究和制定面向特定應(yīng)用場景的深度合成風(fēng)險防控標(biāo)準(zhǔn)，滿足行業(yè)特定的安全和倫理需求；五是加強標(biāo)準(zhǔn)的實施與監(jiān)督，確保標(biāo)準(zhǔn)有效執(zhí)行，最終為建設(shè)一個更加安全、公正和開放的數(shù)字世界貢獻(xiàn)力量。

參考文獻(xiàn)

[1]KINGMA D P， WELLING M. Auto-encoding variational bayes[J]. ArXiv Preprint ArXiv：1312. 6114， 2013.

[2]CRESWELL A， WHITE T， Dumoulin V， et al. Generative adversarial networks： An over view[J ]. I EEE signal processing magazine， 2018， 35（1）： 53-65.

[3]VASWANI A， SHAZEER N， PARMAR N， et al. Attention is all you need[J ]. Advances In Neural Information Processing Systems， 2017， 30.

[4]CROITORU F A， HONDRU V， IONESCU R T， et al. Diffusion models in vision： A survey[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2023， 45（9）：10850-10869.

[5]胡銘菲，左信，劉建偉.深度生成模型綜述[J].自動化學(xué)報，2022，48（1）：40-74.

[6]FLORIDI L. Artificial intelligence， deepfakes and a future of ectypes[J]. Ethics， Governance， and Policies in Artificial Intelligence， 2021： 307-312.

[7]李亞玲，覃緣琪，魏闕.人工智能生成內(nèi)容的潛在風(fēng)險及治理對策[J].智能科學(xué)與技術(shù)學(xué)報，2023，5（3）：415-423.

[8]李宏策.教科文組織號召實施全球AI倫理規(guī)范[N].科技日報，2023-04-04（004）.

[9]ENISA. Multilayer framework for good cybersecurity practices for AI[EB/OL]. [2024-06-07]. https：//www.enisa.europa.eu/publications/multilayer-framework-forgood-cybersecurity-practices-for-ai.

[10]ENISA. Cybersecurity of AI and standardisation[EB/OL].[2024-06-07]. https：//www.enisa.europa.eu/publications/cybersecurity-of-ai-and-standardisation.

[11]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.GB/T 42888—2023信息安全技術(shù) 機(jī)器學(xué)習(xí)算法安全評估規(guī)范[S].北京：中國標(biāo)準(zhǔn)出版社，2023.

[12]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.生成式人工智能服務(wù)安全基本要求：TC260—003[S].北京：中國標(biāo)準(zhǔn)出版社，2024.

[13]ISO/IEC TR 5469：2024 Artificial intelligence - functional safety and AI systems： ISO/IEC JTC 1[S]. Geneva： ISO/IEC， 2024.

[14]ISO/IEC JTC 1. ISO/IEC CD 27090 cybersecurity -artificial intelligence - guidance for addressing security threats and failures in artificial intelligence systems[S].Geneva： ISO/IEC.

[15]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息安全技術(shù) 生物特征識別信息保護(hù)基本要求：GB/T 40660—2021[S].北京：中國標(biāo)準(zhǔn)出版社，2021.

[16]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息安全技術(shù) 人臉識別數(shù)據(jù)安全要求：GB/T 41819—2022[S].北京：中國標(biāo)準(zhǔn)出版社，2022.

[17]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息安全技術(shù) 基因識別數(shù)據(jù)安全要求GB/T 41806—2022[S].北京：中國標(biāo)準(zhǔn)出版社，2022.

[18]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息安全技術(shù) 步態(tài)識別數(shù)據(jù)安全要求：GB/T 41773—2022[S].北京：中國標(biāo)準(zhǔn)出版社，2022.

[19]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息安全技術(shù) 聲紋識別數(shù)據(jù)安全要求：GB/T 41807—2022[S].北京：中國標(biāo)準(zhǔn)出版社，2022.

[20]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息技術(shù) 生物特征識別呈現(xiàn)攻擊檢測 第1部分：框架：GB/T 41815.1—2022[S].北京：中國標(biāo)準(zhǔn)出版社，2022.

[21]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息安全技術(shù) 汽車數(shù)據(jù)處理安全要求：GB/T 41871—2022[S].北京：中國標(biāo)準(zhǔn)出版社，2022.

[22]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息安全技術(shù) 網(wǎng)絡(luò)預(yù)約汽車服務(wù)數(shù)據(jù)安全要求：GB/T 42017—2022[S].北京：中國標(biāo)準(zhǔn)出版社，2022.

[23]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.信息安全技術(shù) 智能家居通用安全規(guī)范：GB/T 41387—2022[S].北京：中國標(biāo)準(zhǔn)出版社，2022.

[24]NAT IONA L I N S T I T U T E OF S TA N DA R D S A N D TECHNOLOGY. AI risk management framework[EB/OL].[2024-06-07]. https：//nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf.

[25]SCHWARTZ R， SCHWARTZ R， VASSILEV A， et al.Towards a standard for identifying and managing bias in artificial intelligence[M]. US Department of Commerce，National Institute of Standards and Technology， 2022.

[26]ISO/ IEC J TC 1. ISO/ IEC 23894：2023 Information technology - Artificial intelligence - Guidance on risk management[S]. Geneva： ISO/IEC， 2023.

[27]清華大學(xué)人工智能研究院.深度合成十大趨勢報告（2022）[R].2022.

[28]EUROPEAN COMMISSION. Regulator y framework proposal on artificial intelligence[EB/OL]. （2023-06-20）[2024-04-03]. https：//digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.

[29]貴重，何鵬，何瑛，等.網(wǎng)信安全政策法律動態(tài)觀察[J].電信工程技術(shù)與標(biāo)準(zhǔn)化，2021，34（12）：63-66.

[30]NAT IONA L I N S T I T U T E OF S TA N DA R D S A N D TECHNOLOGY. NIST detecting deepfake multimedia content[EB/OL]. （2020-01-13） [2024-04-03]. https：//www. nist. gov/system/files/documents/2021/0 4/02/V I TA L%2 0 S C _ R%2 6 D %2 0 Ne e d _ D e t e ct i n g %2 0 DeepFakes. pdf.

[31]中國電子技術(shù)標(biāo)準(zhǔn)化協(xié)會.人工智能 深度合成圖像系統(tǒng)技術(shù)規(guī)范[EB/OL]. [2024-4-3]. http：//www. ttbz. org. cn/StandardManage/Detail/64687.

[32]全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會.生成式人工智能服務(wù)安全基本要求[EB/OL]. （2023-10-11） [2024-04-03]. https：//www.tc260. org. cn/upload/2023-10-11/1697008495851003865.pdf.

作者簡介

胡晰遠(yuǎn)，博士，教授，研究方向為深度生成模型、圖像和視頻處理。

張寧，通信作者，博士，正高級警務(wù)技術(shù)職稱，研究方向為法庭科學(xué)、視頻圖像處理與標(biāo)準(zhǔn)化。

（責(zé)任編輯：袁文靜）