管窺深度合成技術(shù)的法律規(guī)制路徑

吳玄

近日，全國多地發(fā)生FaceTime詐騙事件，同時有不少蘋果用戶在社交平臺上反映相關(guān)問題。作為一種常見的交流方式，線上視頻在為人們的工作生活帶來極大便利的同時，也存在著諸多個人信息風(fēng)險。當(dāng)下，以ChatGPT為代表的生成式人工智能技術(shù)的突破，更加凸顯出個人信息保護(hù)面臨的新問題與新挑戰(zhàn)。

不斷迭代的人工智能技術(shù)

隨著信息技術(shù)的發(fā)展，在線上視頻中偽造受害者的人臉已經(jīng)不是難事，其具體使用的，就是人工智能的深度合成技術(shù)。

深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限于文本編輯、語音文字轉(zhuǎn)換、音樂生成、人臉生成與視頻生成、圖像生成、數(shù)字仿真等。其合成的內(nèi)容在視覺、聽覺上具有極佳的仿真效果，甚至能夠做到“以假亂真”。

深度合成技術(shù)源于人工智能系統(tǒng)生成對抗網(wǎng)絡(luò)（GAN）的發(fā)展，近期大熱的ChatGPT就運用了該模型架構(gòu)。GAN包含兩個部分：一個生成模型與一個判別模型。前者的任務(wù)是生成看似真實的，與原始數(shù)據(jù)相似的內(nèi)容；后者則對生成內(nèi)容進(jìn)行真實與否的判斷。與傳統(tǒng)人工智能算法模型不同，生成式人工智能模型（GAI，Generative Artificial Intelligence）充分貫徹了“大數(shù)據(jù)、大算力、大模型”。

大數(shù)據(jù)為生成式人工智能系統(tǒng)提供了訓(xùn)練原材料，ChatGPT不僅可以“理解”和生成廣泛的自然語言文本，還具備極強(qiáng)的圖像與視頻生成能力。大算力是處理海量數(shù)據(jù)必備的基礎(chǔ)，訓(xùn)練生成式人工智能模型所需要的算力取決于模型的規(guī)模（參數(shù)數(shù)量）、訓(xùn)練數(shù)據(jù)集的大小、訓(xùn)練輪次、批次大小。大模型是一個智能載體，在大算力的支撐下從大數(shù)據(jù)中提煉出“智能”。算法自身通過深度學(xué)習(xí)不斷自我迭代，產(chǎn)生出復(fù)雜架構(gòu)的人工智能模型并展現(xiàn)出較高的智能水準(zhǔn)。

警惕不法之徒利用視頻電話竊取人臉、聲音信息

在生成式人工智能系統(tǒng)的推動下，深度合成的應(yīng)用端變得不再遙不可及：

一方面，深度合成內(nèi)容的準(zhǔn)確度和效率大大提升。經(jīng)深度合成的內(nèi)容更加“無懈可擊”。以“換臉”（Deepfake）為例，僅需提供一張本人照片，即可按照要求生成相應(yīng)的圖片乃至視頻，達(dá)到人臉的重現(xiàn)、替換、編輯與合成。2019年6月，一則以臉書創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格為主角的換臉視頻出現(xiàn)，引發(fā)媒體和輿論的廣泛關(guān)注。

另一方面，深度合成應(yīng)用的成本在不斷降低。隨著一些應(yīng)用程序的出現(xiàn)，不懂技術(shù)的人也能簡單制作換臉假視頻。2018年4月，美國娛樂網(wǎng)站Buzzfeed發(fā)布了一條非常逼真的視頻。視頻內(nèi)容是美國前總統(tǒng)奧巴馬的一段講話，而現(xiàn)實中，這段講話從未發(fā)生過。這條視頻采用FakeApp制作，據(jù)說花費了56個小時來搜集和匯總奧巴馬的相關(guān)模型。而如今，借助最新的生成式人工智能模型，這一流程得以大幅簡化且不影響內(nèi)容效果。

基于ChatGPT等生成式人工智能的加持，網(wǎng)絡(luò)信息內(nèi)容的生產(chǎn)也發(fā)生了代際變化。已從早期的Web1.0、Web2.0，正式過渡到Web3.0時代。如果說專業(yè)媒體內(nèi)容生產(chǎn)和用戶交互內(nèi)容生產(chǎn)（自媒體）是前兩個時代的特征，那么人工智能生成內(nèi)容（AIGC）正逐漸成為新的發(fā)展方向。利用深度合成技術(shù)生成的影視劇片段、明星話題和公眾人物的換臉視頻等具有極強(qiáng)的娛樂性與傳播性。有學(xué)者指出，深度合成將重新定義虛擬數(shù)字化空間，從傳播社會學(xué)意義上看，一個新的人類生存場景將以深度合成技術(shù)為基石展開。

技術(shù)濫用導(dǎo)致社會風(fēng)險

技術(shù)是一把雙刃劍，深度合成技術(shù)在改變?nèi)祟惿顖鼍暗耐瑫r也引發(fā)了一系列社會風(fēng)險和安全挑戰(zhàn)。隨著深度合成技術(shù)的推廣和使用成本的降低，不法之徒可以批量偽造音頻、視頻，實施誹謗、詐騙、勒索等違法行為，甚至捏造公眾人物言論擾亂社會秩序。隨之而來的是，傳統(tǒng)的新聞信息服務(wù)許可、用戶賬號管理和平臺算法過濾、人工審核標(biāo)注等手段所面臨的治理挑戰(zhàn)：

首先，深度合成技術(shù)被用于非法目的，侵犯個人的合法權(quán)益。2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術(shù)偽造手機(jī)用戶人臉動態(tài)視頻破解身份核驗，為黑灰產(chǎn)業(yè)提供注冊虛擬手機(jī)卡等技術(shù)支撐的案件。此外，不法之徒還利用Facetime、微信視頻等線上通話應(yīng)用來竊取人臉和聲音信息，用于偽造不雅視頻，侵害個人名譽權(quán)。

其次，深度合成技術(shù)的濫用容易滋生謠言及破壞社會秩序。一些不法之徒利用深度合成技術(shù)，生成高度逼真的圖片、音頻和視頻，并杜撰文字加以傳播，張冠李戴、無中生有，顛覆了傳統(tǒng)“有圖有真相”的認(rèn)知，進(jìn)一步加劇了人們發(fā)現(xiàn)與識別謠言的難度。

最后，深度合成技術(shù)容易被惡意利用，威脅國家安全。當(dāng)前，國外已出現(xiàn)多起利用深度合成技術(shù)偽造政治或公眾人物發(fā)表言論，不僅影響國內(nèi)政治穩(wěn)定，還可能引發(fā)國際危機(jī)。

深度合成技術(shù)的法律規(guī)制路徑

針對人工智能技術(shù)應(yīng)用產(chǎn)生的風(fēng)險，我國較早開始了法律規(guī)制的嘗試。除網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護(hù)法等網(wǎng)信基礎(chǔ)立法之外，又有多部相關(guān)法規(guī)相繼出臺。如2022年3月開始實施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》將生成合成類算法列入監(jiān)管范圍；2023年1月開始實施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》是針對深度合成技術(shù)應(yīng)用的專門立法；2023年8月開始實施的《生成式人工智能服務(wù)管理暫行辦法》則是在生成式人工智能最新發(fā)展動向基礎(chǔ)上的及時應(yīng)對。

從技術(shù)角度來看，個人信息在深度合成技術(shù)應(yīng)用中處于核心地位。無論是人工智能模型用于訓(xùn)練的數(shù)據(jù)，需要合成時使用的“樣本”信息，還是經(jīng)過深度合成的圖像、音頻、視頻等內(nèi)容，均離不開個人信息。因此，個人信息保護(hù)將成為深度合成應(yīng)用治理的重要環(huán)節(jié)。2023年8月8日公布的《人臉識別技術(shù)應(yīng)用安全管理規(guī)定（試行）》（征求意見稿）也是將法律規(guī)制的重點移回到個人信息保護(hù)上。生成式人工智能模型在一定程度上模糊了真實與虛擬的邊界。然而，浮于表象的數(shù)字“真實”終究難以掩蓋本質(zhì)的現(xiàn)實“虛假”。因此，對深度合成應(yīng)用中的個人信息保護(hù)也應(yīng)當(dāng)圍繞區(qū)分“真”和“假”展開——

一方面，應(yīng)當(dāng)保障“真”個人信息的權(quán)益。所謂“真”個人信息是指現(xiàn)實世界中涉及每個人的真實的個人信息。首先，是從個人信息收集的源頭予以保護(hù)。在信息收集階段，應(yīng)當(dāng)落實“知情-同意”要求，嚴(yán)格控制使用范圍。對用于人工智能訓(xùn)練的數(shù)據(jù)進(jìn)行去標(biāo)識化處理。如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意。其次，是加強(qiáng)對敏感個人信息的保護(hù)。個人信息保護(hù)法規(guī)定對敏感信息應(yīng)進(jìn)行更為嚴(yán)格的保護(hù)。人臉信息即屬于敏感個人信息中的生物識別類信息。在深度合成應(yīng)用中，無論是“換臉”還是生成視頻、圖像或音頻內(nèi)容，第一步是輸入作為“樣本”數(shù)據(jù)的（人臉）信息?！度四樧R別技術(shù)應(yīng)用安全管理規(guī)定（試行）》（征求意見稿）重申了敏感個人信息非必要不采集：“只有在具有特定的目的和充分的必要性，并采取嚴(yán)格保護(hù)措施的情形下，方可使用人臉識別技術(shù)處理人臉信息。實現(xiàn)相同目的或者達(dá)到同等業(yè)務(wù)要求，存在其他非生物特征識別技術(shù)方案的，應(yīng)當(dāng)優(yōu)先選擇非生物特征識別技術(shù)方案?！?/p>

另一方面，對于“假”個人信息的使用和流動應(yīng)當(dāng)予以控制。這里的“假”個人信息是指運用深度合成技術(shù)生成的虛假音頻、視頻、圖片等內(nèi)容。首先，是在技術(shù)上進(jìn)行標(biāo)識化處理。此處的“標(biāo)識化”是指深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加標(biāo)識。其目的在于幫助用戶識別信息真假，重新建立真實與虛假的區(qū)分界限。其次，是健全審核和辟謠機(jī)制。識別違法內(nèi)容是深度合成應(yīng)用治理的基礎(chǔ)。深度合成服務(wù)提供者應(yīng)當(dāng)建立相應(yīng)機(jī)制，第一時間發(fā)現(xiàn)生成內(nèi)容非法，并采取措施制止相關(guān)內(nèi)容的傳播，從而將生成內(nèi)容對社會與個人的侵害控制在最小范圍內(nèi)。

（作者系上海師范大學(xué)副教授）