基于深度偽造技術(shù)的AI 詐騙風(fēng)險(xiǎn)與預(yù)防

張俊杰，張純琍

（中國(guó)人民公安大學(xué)，北京 100038）

電信網(wǎng)絡(luò)詐騙犯罪因其與信息技術(shù)關(guān)系緊密，信息技術(shù)領(lǐng)域中的每一次變革都會(huì)對(duì)電信網(wǎng)絡(luò)詐騙的手段、時(shí)空分布等產(chǎn)生重要影響。以深度偽造（Deepfake）技術(shù)為基礎(chǔ)的人工智能（Artificial Intelligence，簡(jiǎn)稱AI）軟件的快速發(fā)展和普及大大促進(jìn)了電信網(wǎng)絡(luò)詐騙犯罪的智能化轉(zhuǎn)型。犯罪分子通過使用各類先進(jìn)軟硬件設(shè)備，對(duì)自身的詐騙工具進(jìn)行了迭代，從使用傳統(tǒng)的電話與短信發(fā)展到使用最新的AI 軟件。同時(shí)，犯罪分子在詐騙對(duì)象的選擇方式上也發(fā)生了變化，從過去的“廣撒網(wǎng)多撈魚”式向“精準(zhǔn)捕撈更具價(jià)值的個(gè)體”轉(zhuǎn)變?；诓粩嘌莼脑p騙犯罪現(xiàn)狀，學(xué)術(shù)界和反詐工作者必須提前對(duì)其做出發(fā)展方向的預(yù)判、風(fēng)險(xiǎn)評(píng)定和方案預(yù)置。當(dāng)前，AI 詐騙尚未在我國(guó)出現(xiàn)爆發(fā)式增長(zhǎng)和普遍式發(fā)展，但已經(jīng)發(fā)生的零星AI 詐騙個(gè)案涉案金額巨大，因此，對(duì)基于深度偽造技術(shù)的AI 詐騙風(fēng)險(xiǎn)進(jìn)行討論與研究，是做好未來反詐工作的重要課題。

一、深度偽造技術(shù)與AI 詐騙

美國(guó)在2018 年發(fā)布的《2018 年惡意偽造禁令法案》中將深度偽造定義為“以某種方式使觀察者錯(cuò)誤地將其視為某人真實(shí)言語(yǔ)或行為的真實(shí)記錄的可自由創(chuàng)建或更改的音視頻記錄”，其中“音視頻記錄”包括圖像、視頻和語(yǔ)音等多種數(shù)字內(nèi)容[1]。深度偽造是基于深度學(xué)習(xí)的內(nèi)容合成技術(shù)，以利用生成對(duì)抗網(wǎng)絡(luò)（Generative Adversaria Network，以下簡(jiǎn)稱GAN）的深度學(xué)習(xí)算法為主，來達(dá)到實(shí)現(xiàn)原初內(nèi)容和目標(biāo)內(nèi)容的模擬、合成和替換的目的?！啊疃葌卧臁梢詣?chuàng)建全新的內(nèi)容或操縱現(xiàn)有的內(nèi)容，包括視頻、圖像、音頻和文本。”[2]在以深度偽造技術(shù)為基礎(chǔ)的各類軟件中，發(fā)展最為迅猛、推廣最為迅速的正是各類“換臉”軟件，其通過人臉定位和人臉轉(zhuǎn)換等多個(gè)步驟實(shí)現(xiàn)對(duì)人臉的模擬與替換，生成作品具有高度的擬真性。在深度偽造技術(shù)的發(fā)展過程中，“換臉”軟件不僅取得了技術(shù)上的進(jìn)步，還獲得了資本的支持，其獨(dú)特的娛樂特質(zhì)迎合了大眾與市場(chǎng)，帶來了可觀的經(jīng)濟(jì)效益與市場(chǎng)份額?！皳Q臉”軟件操作簡(jiǎn)單的特點(diǎn)更是降低了深度偽造技術(shù)的使用門檻，使得更多的普通民眾得以隨時(shí)享用深度偽造技術(shù)成果。但與此同時(shí)，深度偽造技術(shù)的正面特點(diǎn)造成了一系列的負(fù)面效果，使用深度偽造技術(shù)的低門檻造成了此項(xiàng)技術(shù)不負(fù)責(zé)任的濫用，引發(fā)了個(gè)人隱私安全、國(guó)家安全、人身安全等眾多問題，同時(shí)該項(xiàng)技術(shù)產(chǎn)出的高度擬真作品也造成了“真相衰?。╰ruth decay）”問題。

關(guān)于我國(guó)電信網(wǎng)絡(luò)詐騙，2020 年立案95 萬(wàn)件，全國(guó)公安機(jī)關(guān)共破獲電信網(wǎng)絡(luò)詐騙案件32.2萬(wàn)件，累計(jì)挽回?fù)p失1876 億元 。2021 年，立案96萬(wàn)件，破獲44.1 萬(wàn)余件，抓獲罪犯69 萬(wàn)余人，追繳返還人民群眾被騙資金120 億元[3]。從全國(guó)范圍來看，電信網(wǎng)絡(luò)詐騙犯罪依然是破壞人民群眾財(cái)產(chǎn)安全的首要犯罪形式，其犯罪收益大、犯罪風(fēng)險(xiǎn)低的特點(diǎn)導(dǎo)致了電信網(wǎng)絡(luò)詐騙犯罪分子不斷主動(dòng)更新自身軟硬件技術(shù)，不斷升級(jí)詐騙話術(shù)與手段，這對(duì)公安機(jī)關(guān)的預(yù)警、定位、布控、抓捕等各項(xiàng)工作提出了巨大的挑戰(zhàn)。因此，以電信網(wǎng)絡(luò)詐騙犯罪為對(duì)象的學(xué)術(shù)研究必須具有足夠的警覺性、敏感性，要能提前發(fā)現(xiàn)電信網(wǎng)絡(luò)詐騙犯罪的演化路徑與方向，幫助公安機(jī)關(guān)實(shí)現(xiàn)對(duì)詐騙發(fā)展態(tài)勢(shì)的預(yù)先封堵。

本文討論的AI 詐騙犯罪是基于深度偽造技術(shù)提供的各類人工智能軟件，如“換臉”、聲紋模擬等智能軟件偽造他人信息，騙取被害人的信任，實(shí)現(xiàn)犯罪意圖的新型詐騙犯罪形式。2022 年5 月，有詐騙集團(tuán)利用深度偽造技術(shù)冒充馬斯克生成了談話視頻，以騙取受害者投資其加密貨幣交易平臺(tái)[4]。2023 年5 月22 日，包頭警方發(fā)布了一起利用AI 實(shí)施電信詐騙的典型案例，引起了眾多網(wǎng)友的關(guān)注與討論。該案例中提到，福州市某科技公司的法人接到好友微信視頻后，其好友表示其在外地競(jìng)標(biāo)，需要430 萬(wàn)保證金，且需要公對(duì)公賬戶過賬，想要借該法人公司的賬戶走賬，該公司法人因慣性思維而對(duì)微信視頻的真實(shí)性和實(shí)時(shí)性毫不懷疑，相信了犯罪分子的言辭，分兩筆將錢款轉(zhuǎn)到了其“好友”銀行卡上[5]。與以往網(wǎng)絡(luò)詐騙犯罪不同，AI 詐騙具有更強(qiáng)的真實(shí)性、可信性、不易識(shí)別性，打破了以往公眾識(shí)別詐騙犯罪時(shí)采用視頻通話、語(yǔ)音通話來確認(rèn)真實(shí)身份信息的常規(guī)思路，換句話說，AI 詐騙恰恰是利用了大眾“眼見為實(shí)”“耳聽為實(shí)”的慣性思維提高了詐騙的成功率。

二、AI 詐騙問題生成的原因

隨著我國(guó)反詐工作的持續(xù)深入推進(jìn)，截至2022 年11 月底，該年全國(guó)共破獲電信網(wǎng)絡(luò)詐騙案件39.1 萬(wàn)件，同比上升5.7%[6]。在我國(guó)對(duì)電信網(wǎng)絡(luò)詐騙犯罪的打擊力度不斷加大、打擊精度不斷提高的形勢(shì)下，詐騙分子對(duì)自身詐騙活動(dòng)進(jìn)行了智能化轉(zhuǎn)型，嘗試使用各類新興技術(shù)降低犯罪風(fēng)險(xiǎn)和犯罪成本，在此客觀環(huán)境下，AI 詐騙成為詐騙犯罪未來發(fā)展變化的必經(jīng)之路。

詐騙手段是隨著時(shí)代技術(shù)的進(jìn)步而不斷更新迭代的，然而無(wú)論是利用何種AI 軟件，其本質(zhì)都是為了騙取被害人的信任。在長(zhǎng)期的反詐宣傳工作中，大眾逐漸生成了對(duì)電信網(wǎng)絡(luò)詐騙的警惕心理防線，這使得絕大部分傳統(tǒng)的詐騙方式無(wú)法保持穩(wěn)定增長(zhǎng)的犯罪收益，但是大眾已有的警惕心理防線是建立在“眼見為實(shí)”“耳聽為實(shí)”的判別詐騙犯罪原理之上的。而基于深度偽造技術(shù)的各類AI 軟件可以實(shí)現(xiàn)人臉、人聲的自由變換，對(duì)詐騙分子來說，這無(wú)疑為其突破大眾警惕心理防線找到了合適的工具。通過利用各類AI 軟件，犯罪分子可以輕易制作與被害人具有親近關(guān)系者的視頻，或者利用聲紋模擬軟件制作被害人親屬的語(yǔ)音短信，騙取被害人的信任。

在Web3.0 時(shí)代背景下，各類人工智能換臉、擬聲軟件出現(xiàn)了爆炸式增長(zhǎng)，各類人工智能軟件借助國(guó)家鼓勵(lì)發(fā)展各類信息技術(shù)的政策紅利，在各類互聯(lián)網(wǎng)平臺(tái)上得到推廣，大幅度降低了用戶的使用門檻。這一方面在一定程度上刺激了深度偽造技術(shù)的發(fā)展與普及，另一方面也為這一領(lǐng)域犯罪的滋生提供了土壤。傳統(tǒng)詐騙犯罪主要是通過文字或電話的形式與被害人寒暄，有意或無(wú)意透露被冒充者的個(gè)人隱私信息來構(gòu)建與被害人之間的“真實(shí)”關(guān)系，騙取被害人的信任。此類傳統(tǒng)詐騙方式的最大缺陷在于懼怕實(shí)時(shí)人臉驗(yàn)證，而深度偽造技術(shù)的運(yùn)用為詐騙分子填補(bǔ)了這一缺陷。AI 詐騙犯罪雖然技術(shù)手段更先進(jìn)，但是與傳統(tǒng)詐騙犯罪仍存在著一定的相似性，只不過其利用的是更加逼真的音視頻信息來騙取被害人的信任。

《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（2019 年11月18 日頒布）第十條規(guī)定：“網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用上線具有媒體屬性或者社會(huì)動(dòng)員功能的音視頻信息服務(wù)，或者調(diào)整增設(shè)相關(guān)功能的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估。”2022 年11 月3 日，國(guó)家互聯(lián)網(wǎng)信息辦公室2022 年第21 次室務(wù)會(huì)議審議通過了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，其中第二十一條規(guī)定：“網(wǎng)信部門和電信主管部門、公安部門依據(jù)職責(zé)對(duì)深度合成服務(wù)開展監(jiān)督檢查。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)依法予以配合，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助?！睆慕陙沓雠_(tái)的相關(guān)規(guī)定來看，我國(guó)對(duì)深度合成服務(wù)和深度偽造技術(shù)的相關(guān)管理在不斷收緊，相關(guān)行業(yè)在不斷精細(xì)的管理規(guī)定中，技術(shù)開發(fā)活動(dòng)更加規(guī)范、產(chǎn)品功能更加齊全、市場(chǎng)競(jìng)爭(zhēng)力更強(qiáng)。然而現(xiàn)有各類規(guī)定都是從行業(yè)管理的層面出發(fā)，對(duì)人工智能技術(shù)、深度偽造技術(shù)等相關(guān)行業(yè)單位進(jìn)行管理。對(duì)于電信網(wǎng)絡(luò)詐騙犯罪分子來說，其不僅未受到相關(guān)行業(yè)規(guī)定的影響，反而在一定程度上利用了此類規(guī)定帶來的正面效果。

三、AI 詐騙演化方向預(yù)判

（一）精度不斷提高，廣度不斷擴(kuò)大

AI 詐騙并非零成本，犯罪分子必須同時(shí)獲取同一個(gè)人的生物信息和一般個(gè)人信息，確定詐騙對(duì)象具有較高的“經(jīng)濟(jì)價(jià)值”，才能實(shí)現(xiàn)犯罪收益的最大化。為了達(dá)到這一目的，犯罪分子將會(huì)大規(guī)模竊取個(gè)人身份信息，包括個(gè)人生物信息、財(cái)務(wù)信息、社會(huì)關(guān)系信息、家庭成員信息等。從犯罪分子的角度看，制作AI 換臉視頻并不困難，難點(diǎn)在于偽造身份的選擇和話術(shù)的選用；從犯罪成本的角度考慮，其偽造的身份必須具有較高的經(jīng)濟(jì)收益、日常存在較多的轉(zhuǎn)賬支付行為等特征，而詐騙對(duì)象則需要具備與其偽造對(duì)象存在較親密的關(guān)系、較多的經(jīng)濟(jì)往來、較多的可用于支付的現(xiàn)金儲(chǔ)備等特征。在網(wǎng)羅和分析這一類信息后，犯罪分子才能實(shí)現(xiàn)金額巨大、效率極高的詐騙犯罪目的。

隨著詐騙精度提高而來的便是詐騙廣度的擴(kuò)大，當(dāng)越來越多的AI 詐騙被成功實(shí)施后，會(huì)有越來越多的詐騙分子加入AI 詐騙犯罪之中。在AI詐騙發(fā)展的初期，犯罪分子必然會(huì)通過調(diào)整詐騙對(duì)象來實(shí)現(xiàn)更高的犯罪收益，將AI 詐騙的矛頭對(duì)準(zhǔn)辨別能力更低的老年人群體。在AI 詐騙發(fā)展的初期，受制于較高的犯罪成本和較高的技術(shù)門檻，詐騙分子將會(huì)按照“提高精度—擴(kuò)大收益”的思路實(shí)施詐騙。而當(dāng)AI 詐騙發(fā)展到一定階段后，犯罪成本降低，技術(shù)門檻下降，犯罪分子會(huì)更多地選擇“擴(kuò)大廣度—提高收益”的思路實(shí)施詐騙。如此一來，AI 詐騙犯罪的涉案金額幅度將會(huì)擴(kuò)大，從巨額案件到小額案件均有發(fā)生。涉案金額的變化也意味著被害人群體的改變，也就是說，AI 詐騙犯罪將會(huì)以高收入群體為突破口，向中低收入群體蔓延。

（二）“影”與“音”深度結(jié)合

為了獲得被害人的信任，回應(yīng)被害人提出的聲音辨識(shí)要求，犯罪分子會(huì)將“影”與“音”深度結(jié)合，即將人臉偽造與聲紋偽造深度結(jié)合。聲紋深度偽造技術(shù)與人臉的深度偽造技術(shù)相類似，如果說人臉的深度偽造技術(shù)是通過AI 技術(shù)合成、轉(zhuǎn)換、替換他人肖像，那么聲音的深度偽造技術(shù)就是通過AI 技術(shù)來合成、模擬某種聲音，區(qū)別于人臉的深度偽造技術(shù)，對(duì)聲音的深度偽造可以脫高現(xiàn)實(shí)模仿對(duì)象的聲紋基礎(chǔ)，實(shí)現(xiàn)對(duì)不存在的聲音的合成與制作。斯坦福大學(xué)的Ohad Fried 等人使用基于聲碼器的深度語(yǔ)音偽造技術(shù)，將其嵌入到視頻的偽造中，使視頻中的人物發(fā)聲口型與篡改的語(yǔ)音口型基本一致，提高了深度偽造視頻的真實(shí)性和說服力[7]。在技術(shù)應(yīng)用上，聲音與影像的結(jié)合水平已經(jīng)得到了進(jìn)一步的提高，同時(shí)這種技術(shù)的使用門檻在不斷下降，這就意味著犯罪分子經(jīng)過信息的充分準(zhǔn)備和騙術(shù)文本的有效設(shè)計(jì)后，可以通過偽造的視頻與音頻之間的自由切換和組合，突破更多的身份驗(yàn)證防線。

從詐騙犯罪的宏觀角度來看，“影”與“音”的深度結(jié)合是深度偽造技術(shù)的又一突破，也是未來AI 詐騙的發(fā)展趨勢(shì)；從詐騙犯罪的微觀角度來看，二者的深度結(jié)合將會(huì)給社會(huì)公眾帶來巨大的詐騙風(fēng)險(xiǎn)。面對(duì)深度偽造技術(shù)日趨成熟完善的形勢(shì)，詐騙分子必定會(huì)選擇不斷突破自身的技術(shù)瓶頸，制作與被害人具有親近關(guān)系者的偽造音頻，將其嵌入實(shí)時(shí)視頻或制作完成的視頻中，同時(shí)更新詐騙文本，以新技術(shù)為矛，以新文本為盾，將偽造的音視頻作為攻克大眾警惕心理防線的強(qiáng)大武器。

（三）深度偽造與AIGC 相融合

2022 年9 月，中國(guó)信息通信研究院和京東探索研究院共同發(fā)布了《人工智能生成內(nèi)容（AIGC）白皮書》，將人工智能生成內(nèi)容（Artificial Intelligence Generated Content，簡(jiǎn)稱AIGC）定義為“既是從內(nèi)容生產(chǎn)者視角進(jìn)行分類的一類內(nèi)容，又是一種內(nèi)容生產(chǎn)方式，還是用于內(nèi)容自動(dòng)化生成的一類技術(shù)集合”[8]。AIGC 具有更強(qiáng)的虛擬創(chuàng)造屬性，使虛擬信息更加真實(shí)，而GAN 的出現(xiàn)則進(jìn)一步加強(qiáng)了AIGC 生成內(nèi)容的擬真度。GAN 包括兩個(gè)模型：生成模型和判別模型，生成模型產(chǎn)出與被模仿對(duì)象極為相似的模型，判別模型則對(duì)其真假性進(jìn)行檢驗(yàn)，兩個(gè)模型相互對(duì)抗，從而提升最后產(chǎn)出內(nèi)容的擬真度。GAN 是深度偽造技術(shù)最主要的算法，現(xiàn)在這一算法又融入AIGC 中，同時(shí)，視覺Transformer（一種神經(jīng)網(wǎng)絡(luò)模型）正在逐步成為視覺領(lǐng)域的基礎(chǔ)網(wǎng)絡(luò)構(gòu)架，此類新型大模型架構(gòu)的發(fā)展，將會(huì)使圖像分類等眾多圖像視覺領(lǐng)域?qū)崿F(xiàn)關(guān)鍵性技術(shù)突破，反哺深度偽造技術(shù)。當(dāng)技術(shù)的融合與突破實(shí)現(xiàn)了向應(yīng)用式軟件的轉(zhuǎn)向時(shí)，深度偽造的生成速率和生成作品的擬真程度將會(huì)大幅提高，與此正面效果伴隨而來的將會(huì)是技術(shù)濫用風(fēng)險(xiǎn)的飆升。

AIGC 技術(shù)的飛速發(fā)展會(huì)大幅降低詐騙分子編輯處理虛擬圖像和生成文案的時(shí)間成本和人力成本，通過AIGC 技術(shù)大批量生成虛假信息，再通過其他軟硬件設(shè)備投放此類信息、圖像、影像、音頻等，將在短時(shí)間內(nèi)對(duì)廣大民眾造成巨大的損失。當(dāng)AI 詐騙度過發(fā)展的初期后，詐騙犯罪分子必將選擇通過擴(kuò)大覆蓋面來實(shí)現(xiàn)犯罪收益的增長(zhǎng)，使用生成式人工智能軟件大批量生成詐騙文案、圖像甚至視頻將成為AI 詐騙在其發(fā)展中期的演變趨勢(shì)。AIGC 的開發(fā)、訓(xùn)練等具有較高的技術(shù)門檻，同時(shí)需要更多真實(shí)信息作為基礎(chǔ)，詐騙分子基本無(wú)力涉足此項(xiàng)技術(shù)的上游區(qū)域，僅能通過AIGC技術(shù)的下沉來達(dá)到與詐騙犯罪的融合。因此，如何在AIGC 發(fā)展的上游就做好風(fēng)險(xiǎn)評(píng)估與安全防范是AIGC 和深度偽造技術(shù)未來發(fā)展過程中必須考慮的重要問題之一。

四、AI 詐騙風(fēng)險(xiǎn)預(yù)防路徑探索

雖然深度偽造技術(shù)與AIGC 的發(fā)展拓展了詐騙犯罪手段的有限邊界，使詐騙犯罪擁有了更多難以把控的風(fēng)險(xiǎn)形式，但是從詐騙犯罪的邏輯上看，使用此類技術(shù)的各類門檻是較高的，因此到目前為止AI 詐騙并未大面積爆發(fā)。雖然犯罪分子能利用人工智能技術(shù)大幅度提升信息的搜集和復(fù)制效率，使大眾受到更多的AI 詐騙的侵?jǐn)_，提高了詐騙的成功率，但是AI 詐騙并非天衣無(wú)縫，對(duì)于一般的AI 詐騙，社會(huì)公眾可以通過下文提及的簡(jiǎn)易識(shí)別方式進(jìn)行防范。

預(yù)防AI 詐騙風(fēng)險(xiǎn)，必須牢牢抓住AI 詐騙黑灰產(chǎn)業(yè)鏈條和發(fā)展門檻的生成機(jī)理（如圖1 所示），從源頭入手，根據(jù)AI 詐騙演化路徑上的可能障礙增設(shè)防范壁壘。AI 詐騙的發(fā)展門檻包括偽造門檻、信息門檻、監(jiān)管門檻、技術(shù)門檻、警惕心理門檻。一方面，當(dāng)犯罪分子不斷突破以上五道門檻后，AI 詐騙就會(huì)開始大面積流行；另一方面，正是以上五道門檻的存在，才使AI 詐騙犯罪風(fēng)險(xiǎn)有了可識(shí)別、可把控、可預(yù)防的切入口。

圖1 AI 詐騙產(chǎn)業(yè)鏈及發(fā)展門檻示意圖

（一）偽造門檻：根據(jù)人臉與聲紋的畸變漏洞進(jìn)行預(yù)防

預(yù)防AI 詐騙，首先要尋找到社會(huì)大眾普遍可以采取的一般性預(yù)防手段。AI 換臉和聲紋模擬軟件在生成擬真圖像和音頻時(shí)，會(huì)存在一定的缺陷。以深度偽造技術(shù)為基礎(chǔ)的AI 軟件從宏觀上可以分為兩種：一種是“進(jìn)行時(shí)”偽造軟件，如Swapface（指一種實(shí)時(shí)換臉的AI 工具），即在同他人進(jìn)行視頻直播過程中，時(shí)刻保持使用者的臉部圖像或聲音與被模仿者一致；另一種是“完成時(shí)”偽造軟件，即輸入照片、聲紋等信息后，軟件自動(dòng)生成一段有著固定內(nèi)容的視頻或音頻作品。從詐騙犯罪的角度分析，前者更易獲得被害人的信任，但難度較高，一旦視頻時(shí)間太長(zhǎng)，就會(huì)出現(xiàn)破綻，容易被識(shí)別；后者需要搭配與視頻或音頻作品匹配的情景文案，但由于其文案是詐騙分子精心設(shè)計(jì)過的，所以破綻較少、不易被識(shí)別。

對(duì)“進(jìn)行時(shí)”偽造軟件詐騙來說，我們可以要求對(duì)方將手掌劃過臉部或要求其眨眼，通過觀察其臉部圖像是否發(fā)生畸變來判斷是否為偽造影像，同時(shí)，在實(shí)時(shí)視頻通話過程中，犯罪分子會(huì)以“在開會(huì)，不便說話”等理由掩蓋實(shí)時(shí)視頻難以時(shí)刻保持與其換臉對(duì)象語(yǔ)音信息匹配的問題。而對(duì)于“完成時(shí)”偽造軟件詐騙來說，其背景、語(yǔ)音內(nèi)容、動(dòng)作內(nèi)容等大部分是由其他視頻嫁接過來的，在偽造視頻過程中，輸入的人像視頻或人像照片素材一般都需要人物背景以純色為主，因此，我們可以向其提出更換雜亂背景的要求，以此驗(yàn)證圖像或視頻中的人臉、肢體等邊緣部分是否發(fā)生畸變。有時(shí)，犯罪分子為了防止換臉視頻的破綻過多，會(huì)選擇通過聲紋模擬軟件來與被害人進(jìn)行純粹的語(yǔ)音通話或者發(fā)送語(yǔ)音消息，相較于圖像，聲紋的模擬更不易識(shí)別，被害人很容易被犯罪分子模擬出的聲音所迷惑，因此，在與親近者進(jìn)行大額轉(zhuǎn)賬交易時(shí)，最優(yōu)的防范AI 詐騙方式就是進(jìn)行“共同經(jīng)驗(yàn)認(rèn)證”，即提出僅存在于兩人之間的共同私密問題或經(jīng)歷，由對(duì)方給出相關(guān)回復(fù)作為認(rèn)證密鑰。通過人臉與聲紋的畸變漏洞，我們可以對(duì)一般性的AI 詐騙進(jìn)行識(shí)別和預(yù)防，尤其在AI 詐騙尚未發(fā)生實(shí)質(zhì)性的技術(shù)進(jìn)步和騙術(shù)演化之前。當(dāng)然，偽造門檻以后必將伴隨著深度偽造技術(shù)的發(fā)展而降低，這也意味著以上預(yù)防措施可能會(huì)在AI 詐騙未來發(fā)展的某個(gè)階段被擊破。

（二）信息門檻：從詐騙犯罪上游控制AI 詐騙蔓延

詐騙犯罪的上游以盜取與售賣個(gè)人信息、售賣電話卡、惡意注冊(cè)和虛假認(rèn)證等黑灰產(chǎn)業(yè)為主。在AI 詐騙的生成過程中，信息獲取是最為關(guān)鍵的一環(huán)，為實(shí)施精準(zhǔn)、成功率高的AI 詐騙，犯罪分子需要盜取或購(gòu)買個(gè)體的生物信息和一般個(gè)人信息。生物信息反映的是個(gè)人的生理屬性，包括人臉、指紋、聲紋、虹膜等；一般個(gè)人信息反映的是個(gè)人的社會(huì)屬性，包括姓名、身份證號(hào)、社會(huì)地位與身份等。目前生物信息已被廣泛應(yīng)用于個(gè)人身份的確認(rèn)、個(gè)人金融賬戶密碼的解鎖、社會(huì)身份的確認(rèn)，與一般個(gè)人信息實(shí)現(xiàn)了相互勾連，可以說，兩種信息數(shù)據(jù)在某種層面上已融為了一體。在生物信息中，人臉與聲紋信息的應(yīng)用最為廣泛，最易泄露也最易獲取，這兩類信息正是犯罪分子用來進(jìn)行AI 詐騙犯罪的重要信息。

從正面看，生物信息與一般個(gè)人信息必須進(jìn)行一體化保存，如此才能避免出現(xiàn)公民在使用信息過程中二者無(wú)法匹配的情況。這種信息的保存方式帶來的負(fù)面影響就是犯罪分子只要獲取了兩類信息中的一種，就能爬取該公民的全部信息。因此，在生物信息和一般個(gè)人信息進(jìn)行一體化保護(hù)的同時(shí)，我們要采取隔斷式保護(hù)的策略，將生物信息與一般個(gè)人信息，以及兩類信息中的不同敏感類信息進(jìn)行隔斷，在使用每一級(jí)信息時(shí)單獨(dú)設(shè)立信息密鑰，在各類信息認(rèn)證平臺(tái)和手機(jī)軟件使用過程中更多使用動(dòng)態(tài)身份認(rèn)證系統(tǒng)，加強(qiáng)對(duì)個(gè)人生物信息和一般個(gè)人信息的保護(hù)，從AI 詐騙產(chǎn)業(yè)鏈條的源頭實(shí)現(xiàn)對(duì)整條詐騙產(chǎn)業(yè)運(yùn)作空間的壓縮。

從個(gè)人信息保護(hù)的角度來看，面對(duì)日漸成熟的AI 詐騙犯罪，社會(huì)公眾應(yīng)當(dāng)更加注重對(duì)個(gè)人信息，尤其是個(gè)人生物信息的保護(hù)，應(yīng)當(dāng)盡量避免在公共平臺(tái)曝光個(gè)人信息，變被動(dòng)泄露為主動(dòng)保護(hù)，從自身層面盡可能地降低受到AI 詐騙的風(fēng)險(xiǎn)。

（三）監(jiān)管門檻：對(duì)深度偽造和AIGC 開展多元共治

當(dāng)下，深度偽造技術(shù)已經(jīng)發(fā)展到了相對(duì)成熟的地步，而AIGC 的發(fā)展態(tài)勢(shì)較深度偽造來說更加迅猛，在二者共同發(fā)展和交叉融合過程中，引發(fā)了一系列社會(huì)問題，如詐騙犯罪、肖像權(quán)問題、隱私侵犯等，造成了法律界、社會(huì)學(xué)界、倫理學(xué)界等各界的熱烈討論，如何對(duì)二者進(jìn)行合理規(guī)制成為學(xué)界的重要課題。深度偽造與AIGC 等技術(shù)涉及人工智能、大數(shù)據(jù)等前沿信息技術(shù)領(lǐng)域，其引發(fā)的問題是多方面的，因此在對(duì)兩項(xiàng)技術(shù)問題進(jìn)行治理的過程中，不能只由一個(gè)部門操刀，其他部門旁觀，而需要多個(gè)部門攜手配合，實(shí)現(xiàn)多元 共治。首先，各部門治理力度需要尋找到一種平衡，使深度偽造與AIGC 的發(fā)展處于一個(gè)動(dòng)態(tài)平衡的穩(wěn)定狀態(tài)中。其次，多元 共治要突出社會(huì)力量的作用，將社會(huì)批判力量轉(zhuǎn)化為抑制技術(shù)濫用的重要手段。最后，要加強(qiáng)不同治理主體之間的對(duì)話，公安機(jī)關(guān)、網(wǎng)信部門、企業(yè)等多個(gè)治理主體要積極合作，共同協(xié)商解決深度偽造和AIGC 造成的AI 詐騙風(fēng)險(xiǎn)問題。

在多元共治過程中，對(duì)深度偽造和AIGC 進(jìn)行法律層面的規(guī)制尤為重要，在這方面，我們可借鑒國(guó)際上的成功經(jīng)驗(yàn)，從更加長(zhǎng)遠(yuǎn)的視角出發(fā)看待深度偽造與AIGC，避免出現(xiàn)制度剛性對(duì)技術(shù)發(fā)展帶來的暴力損傷。多元共治不是一時(shí)的共治，而應(yīng)當(dāng)是持續(xù)性、長(zhǎng)久性、預(yù)判型的共治，治理的核心原則應(yīng)當(dāng)是保證技術(shù)以安全、健康的路徑穩(wěn)步發(fā)展，填補(bǔ)AI 詐騙風(fēng)險(xiǎn)漏洞。此外，現(xiàn)有的跨國(guó)電信詐騙一旦加入AI 技術(shù)的加持，將會(huì)帶來更多的社會(huì)風(fēng)險(xiǎn)，屆時(shí)AI 詐騙的目的可能不僅僅局限于物質(zhì)層面，還有可能附帶政治離間、主權(quán)顛覆等涉及國(guó)家安全的非法目的，因此從國(guó)際層面開展對(duì)深度偽造與AIGC 的共治是預(yù)防AI 詐騙的更長(zhǎng)遠(yuǎn)、更高層次的舉措。

（四）技術(shù)門檻：深度偽造檢測(cè)技術(shù)的開發(fā)與用戶普及

深度偽造檢測(cè)技術(shù)的開發(fā)熱度并不遜于深度偽造技術(shù)。從目前的技術(shù)發(fā)展角度看，深度偽造檢測(cè)技術(shù)的難點(diǎn)在于多模態(tài)數(shù)據(jù)的使用，常規(guī)的深度偽造檢測(cè)技術(shù)僅僅將視頻作為其偽造檢測(cè)視頻數(shù)據(jù)集，而面對(duì)音頻的介入，深度偽造檢測(cè)技術(shù)需要融合多模態(tài)數(shù)據(jù)來提升自身的檢測(cè)能力與檢測(cè)效果。面對(duì)AI 詐騙風(fēng)險(xiǎn)的擴(kuò)大化，無(wú)論是基于空間特征的檢測(cè)技術(shù)，還是基于時(shí)空融合特征的檢測(cè)技術(shù)，或是基于生物特征、區(qū)塊鏈的檢測(cè)技術(shù)，都必須要盡快開發(fā)出適合與反詐騙軟件、反詐騙系統(tǒng)進(jìn)行關(guān)聯(lián)和融合的深度偽造檢測(cè)技術(shù)。相較于基于深度卷積神經(jīng)網(wǎng)絡(luò)等被動(dòng)性技術(shù)，主動(dòng)性抵御技術(shù)，如添加視頻水印、應(yīng)用區(qū)塊鏈等更具現(xiàn)實(shí)使用前景。將區(qū)塊鏈應(yīng)用于深度偽造檢測(cè)技術(shù)具有很好的應(yīng)用前景，它可以創(chuàng)建一系列唯一的不可更改的元數(shù)據(jù)塊，是用于數(shù)字來源解決方案的出色工具[9]，但是目前此類研究較少。在積極開發(fā)深度偽造檢測(cè)技術(shù)的同時(shí)，我們還應(yīng)當(dāng)注意對(duì)此技術(shù)的共同治理與監(jiān)管，防止在數(shù)據(jù)采集、模型訓(xùn)練、軟件開發(fā)過程中出現(xiàn)海量信息泄露和關(guān)鍵技術(shù)外流的情況。

針對(duì)AI 詐騙犯罪，深度偽造檢測(cè)技術(shù)需要增強(qiáng)其檢測(cè)的實(shí)時(shí)性，并將其內(nèi)置于移動(dòng)終端系統(tǒng)中，才能實(shí)現(xiàn)對(duì)可能出現(xiàn)的AI 詐騙風(fēng)險(xiǎn)及時(shí)予以提示和封堵。目前，深度偽造檢測(cè)技術(shù)的普及相較于深度偽造本身來說較為落后，雖然英特爾公司針對(duì)深度偽造推出了FakeCatcher 軟件，騰訊云發(fā)布了換臉甄別（Anti-Deepfake，簡(jiǎn)稱ATDF），但是均沒有能夠達(dá)到與深度偽造軟件相等同的便捷性、簡(jiǎn)易性和普及性。因此，除加大深度偽造檢測(cè)技術(shù)的開發(fā)力度外，還要注重應(yīng)用門檻的下沉以提升普及率。在普及過程中，可以考慮將深度偽造檢測(cè)技術(shù)同AI 軟件或反詐軟件捆綁，使用戶在享受AI 軟件的便利與娛樂性的同時(shí)，還能夠?qū)λ说脑p騙行為及時(shí)進(jìn)行識(shí)別。

（五）警惕心理門檻：反詐宣傳內(nèi)容與方式的更新與迭代

《中華人民共和國(guó)反電信網(wǎng)絡(luò)詐騙法》第八條明確規(guī)定，各級(jí)人民政府和有關(guān)部門應(yīng)當(dāng)加強(qiáng)反電信網(wǎng)絡(luò)詐騙宣傳，普及相關(guān)法律和知識(shí)，提高公眾對(duì)各類電信網(wǎng)絡(luò)詐騙方式的防騙意識(shí)和識(shí)騙能力。反詐宣傳應(yīng)當(dāng)走在詐騙犯罪發(fā)生重要變革之前，在詐騙犯罪剛剛出現(xiàn)新苗頭、新套路、新態(tài)勢(shì)時(shí)，通過權(quán)威平臺(tái)發(fā)布相關(guān)反詐知識(shí)。應(yīng)當(dāng)注重反詐宣傳內(nèi)容的時(shí)效性，將AI 詐騙列入宣傳重點(diǎn)內(nèi)容清單，注意將線上與線下的反詐宣傳工作相結(jié)合，注重反詐宣傳的有效性。在現(xiàn)實(shí)反詐宣傳工作中，相當(dāng)比例的被宣傳者存在抵觸、厭煩、不信任反詐宣傳人員的情況，這一現(xiàn)象也在提醒公安機(jī)關(guān)：要規(guī)避“指標(biāo)式”的宣傳模式，不以數(shù)量為標(biāo)準(zhǔn)，不以頻率為要求，而是將內(nèi)容的含金量、感染力和公眾知悉度等作為評(píng)判宣傳效果的新標(biāo)準(zhǔn)。

考慮到AI 詐騙風(fēng)險(xiǎn)將會(huì)在未來相當(dāng)長(zhǎng)的時(shí)間內(nèi)持續(xù)存在并不斷增加，反詐宣傳工作不能等待具體案例出現(xiàn)后才將其作為宣傳的抓手，否則宣傳工作將會(huì)持續(xù)處于被動(dòng)狀態(tài)。我們應(yīng)該對(duì)AI詐騙的演化方向做出合理預(yù)判，對(duì)可能產(chǎn)生的AI詐騙方式、套路進(jìn)行合理預(yù)估，提早建立公眾對(duì)AI 詐騙的心理防范機(jī)制，使公眾提前了解AI 詐騙的基本套路。公安機(jī)關(guān)進(jìn)行反詐宣傳應(yīng)當(dāng)借助技術(shù)紅利，運(yùn)用AIGC 生成更加有效的反詐宣傳文案，不僅要對(duì)自身反詐宣傳文案進(jìn)行語(yǔ)言分析，還要對(duì)詐騙分子采用的各類話術(shù)進(jìn)行分析，結(jié)合詐騙犯罪文本的演化形勢(shì)，有針對(duì)性地?cái)M寫反詐宣傳文本[10]，再通過大數(shù)據(jù)平臺(tái)向高風(fēng)險(xiǎn)個(gè)體進(jìn)行精準(zhǔn)投送，以AI 對(duì)抗AI，實(shí)現(xiàn)反詐工作的長(zhǎng)足進(jìn)步。

五、結(jié)語(yǔ)

面對(duì)AI 詐騙風(fēng)險(xiǎn)的與日俱增，學(xué)界對(duì)深度偽造技術(shù)的討論絕對(duì)不能止步于法律規(guī)制和倫理層面的探討，而必須深入到具體問題之中，以問題為導(dǎo)向，開展對(duì)深度偽造技術(shù)帶來的各類安全風(fēng)險(xiǎn)的深入研究。面對(duì)AI 詐騙風(fēng)險(xiǎn)，我們必須在萌芽狀態(tài)就對(duì)其進(jìn)行壓制，要廣泛吸收各國(guó)深度偽造檢測(cè)技術(shù)的發(fā)展思路，加大研發(fā)力度與經(jīng)費(fèi)投入。AI 詐騙風(fēng)險(xiǎn)的控制方法不僅僅是技術(shù)問題，更是法律問題，要從法律層面實(shí)現(xiàn)對(duì)深度偽造技術(shù)的規(guī)制，提高AI 詐騙的各項(xiàng)犯罪成本，降低其犯罪收益，抓住反詐騙的底層邏輯，變AI 詐騙發(fā)展的門檻為防范AI 詐騙的壁壘，及早防范AI 詐騙風(fēng)險(xiǎn)。