AI詐騙治理：困境與對(duì)策

【關(guān)鍵詞】AI詐騙 產(chǎn)業(yè)鏈化 治理技術(shù)

【中圖分類號(hào)】D631 【文獻(xiàn)標(biāo)識(shí)碼】A

進(jìn)入智能化時(shí)代以來(lái)，AI（人工智能）技術(shù)在現(xiàn)代社會(huì)的研究與應(yīng)用已邁進(jìn)新的發(fā)展階段，深刻塑造了人類的生產(chǎn)生活方式，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展、民生改善等方面產(chǎn)生了重大影響。但在社會(huì)安全方面，AI技術(shù)也帶來(lái)了新的詐騙犯罪隱患，AI詐騙已成為影響社會(huì)安全穩(wěn)定、制約人工智能健康發(fā)展的關(guān)鍵因素。隨著AI技術(shù)的普及，諸如換臉、擬聲、對(duì)話、深度合成等技術(shù)持續(xù)涌現(xiàn)，部分詐騙犯罪分子以此為工具，開(kāi)展電信網(wǎng)絡(luò)詐騙，對(duì)社會(huì)秩序造成不良影響。

AI詐騙的特點(diǎn)

AI詐騙是通過(guò)對(duì)AI技術(shù)的非法應(yīng)用，如肖像偽造、聲音模擬、詐騙腳本生成等形式，來(lái)達(dá)到侵害他人利益的犯罪目的。作為AI時(shí)代電信網(wǎng)絡(luò)詐騙的新形態(tài)，AI詐騙體現(xiàn)出如下特點(diǎn)：

首先，詐騙產(chǎn)業(yè)鏈環(huán)環(huán)相扣，溯源難。當(dāng)前AI技術(shù)突飛猛進(jìn)，利用AI軟件，僅僅通過(guò)對(duì)短視頻中零散的人聲進(jìn)行識(shí)別與提煉，便能對(duì)發(fā)聲者的性別、年齡、地域完成智能化分析，并能從聲音數(shù)據(jù)庫(kù)中精準(zhǔn)匹配相似度較高的聲音預(yù)測(cè)模式，而后通過(guò)重構(gòu)音質(zhì)內(nèi)容來(lái)模仿出發(fā)聲者聲音。在這類AI詐騙中，詐騙分子通常以分工合作的形式，分別從技術(shù)支持、設(shè)備管理、算法預(yù)測(cè)、受眾篩選、欺詐實(shí)施等環(huán)節(jié)來(lái)逐步實(shí)施犯罪，由此形成的詐騙產(chǎn)業(yè)鏈給詐騙治理工作帶來(lái)較大難度。很多時(shí)候雖然偵查到某一環(huán)節(jié)的犯罪要素，但往往難以追溯到真正的組織策劃者。

其次，超越時(shí)空的流動(dòng)性。AI詐騙犯罪行為是通過(guò)線上操作實(shí)施，脫離了時(shí)間、地點(diǎn)的制約，由此會(huì)形成一種流動(dòng)式詐騙鏈條。犯罪分子會(huì)在任意時(shí)間、地點(diǎn)內(nèi)，同時(shí)面向不同的聯(lián)系人實(shí)施詐騙，并在詐騙成功后第一時(shí)間將詐騙資金轉(zhuǎn)移至海外。

最后，立體化實(shí)行詐騙，社會(huì)危害性大。較之傳統(tǒng)電信網(wǎng)絡(luò)詐騙手段，AI詐騙在維度上呈現(xiàn)出鮮明的立體化特征，即以“點(diǎn)—線—網(wǎng)”的結(jié)構(gòu)實(shí)行詐騙犯罪，無(wú)需再通過(guò)線性的直接接觸來(lái)達(dá)到詐騙目的，而是利用網(wǎng)絡(luò)虛假身份信息通過(guò)立體化的遠(yuǎn)程操控、實(shí)時(shí)指揮、多層次分工等來(lái)開(kāi)展詐騙。這種立體化特征使得詐騙行為的社會(huì)危害性加劇、輻射面更廣，治理工作所面臨的挑戰(zhàn)也隨之加大。

AI詐騙治理面臨的現(xiàn)實(shí)困境

AI詐騙治理法律法規(guī)滯后。法律法規(guī)是AI詐騙治理的硬性依據(jù)，但目前相關(guān)領(lǐng)域的法律法規(guī)建設(shè)仍存在滯后性問(wèn)題，不利于為各項(xiàng)治理工作的有序開(kāi)展提供支撐。一是個(gè)人隱私和數(shù)據(jù)安全立法工作有待健全。結(jié)合AI詐騙流程的運(yùn)行邏輯進(jìn)行分析，AI詐騙的實(shí)施前提在于對(duì)個(gè)人隱私信息的大范圍收集，這也是公眾利益受到侵害的第一階段。當(dāng)大量包含個(gè)人社會(huì)關(guān)系、家庭關(guān)系、財(cái)務(wù)數(shù)據(jù)、人臉、聲音等信息的數(shù)據(jù)資料被詐騙分子非法獲取，便意味著詐騙分子可利用的詐騙條件初步達(dá)成。當(dāng)前《中華人民共和國(guó)數(shù)據(jù)安全法》等文件在數(shù)據(jù)安全維護(hù)等方面發(fā)揮了一定作用，同時(shí)在技術(shù)標(biāo)準(zhǔn)、信息保護(hù)范圍、可行舉措等方面還有待進(jìn)一步完善。

二是對(duì)網(wǎng)絡(luò)黑灰產(chǎn)業(yè)認(rèn)定不足。AI詐騙鏈條往往與網(wǎng)絡(luò)黑灰產(chǎn)業(yè)聯(lián)系緊密，從它們的合作形式上看，AI詐騙體系與網(wǎng)絡(luò)黑灰產(chǎn)業(yè)體系呈現(xiàn)出相互獨(dú)立的特征，黑灰產(chǎn)業(yè)通過(guò)提供服務(wù)的形式與AI詐騙人員進(jìn)行合作，相關(guān)人員也常以不知情、不知法等說(shuō)法來(lái)試圖規(guī)避法律責(zé)任，這也使得治理工作需要面臨相關(guān)犯罪行為的具體界定問(wèn)題，而只有實(shí)現(xiàn)明確界定，才有利于法律責(zé)任的精準(zhǔn)追究。

三是現(xiàn)行人工智能服務(wù)管理法律約束力不足。目前，《中華人民共和國(guó)反電信網(wǎng)絡(luò)詐騙法》明確規(guī)定了互聯(lián)網(wǎng)服務(wù)提供者、電信業(yè)務(wù)經(jīng)營(yíng)者等主體在電信詐騙防范方面具有相應(yīng)的法律責(zé)任。2023年頒布施行的《生成式人工服務(wù)管理暫行辦法》等文件也被應(yīng)用于這方面的實(shí)際管理工作中?？傮w來(lái)看，相關(guān)法律及文件，規(guī)制范圍較為有限。

AI詐騙治理缺乏行業(yè)合力。各個(gè)行業(yè)數(shù)據(jù)泄露的情況仍然存在，即便一些用于保護(hù)用戶數(shù)據(jù)的基礎(chǔ)性制度開(kāi)始實(shí)行，但部分企業(yè)為追求短期利益，通過(guò)販賣用戶信息等形式獲利。與此同時(shí)，金融機(jī)構(gòu)部分從業(yè)人員在利益驅(qū)使下，違反監(jiān)管制度，對(duì)外轉(zhuǎn)賣客戶信息用以非法獲利。

AI詐騙治理技術(shù)要求較高。AI詐騙是以高新技術(shù)為支撐開(kāi)展的犯罪行為，會(huì)給相關(guān)治理工作帶來(lái)一定困難，尤其要求工作人員需要具備較高的技術(shù)水平和專業(yè)素養(yǎng)。一是技術(shù)應(yīng)對(duì)不足。許多人工智能技術(shù)都會(huì)以開(kāi)源方式進(jìn)行對(duì)外公布，AI詐騙分子通過(guò)互聯(lián)網(wǎng)獲取源代碼，然后進(jìn)行非法修改后，就能改造成用于實(shí)施詐騙的算法。二是偵查破案存在難度。AI詐騙分子依托先進(jìn)軟硬件技術(shù)隱匿于網(wǎng)絡(luò)背后，來(lái)向目標(biāo)詐騙對(duì)象發(fā)送不同形式的轉(zhuǎn)賬指令，而由于犯罪分子在身份偽裝上具有嚴(yán)謹(jǐn)性，在腳本設(shè)計(jì)上注入大量欺詐性情感要素，這就使得目標(biāo)詐騙對(duì)象對(duì)其建立了深厚信任，甚至主動(dòng)為其阻礙公安機(jī)關(guān)的取證與執(zhí)法，最終會(huì)由于證據(jù)鏈不完善而導(dǎo)致偵查破案難度加大。三是電子證據(jù)調(diào)取困難。AI詐騙的發(fā)生場(chǎng)域集中于信息空間，所產(chǎn)生的電子數(shù)據(jù)容易被遮掩、覆蓋，因而難以從技術(shù)層面進(jìn)行取證。四是認(rèn)定處理難度較大。AI智能技術(shù)雖被詐騙分子大量運(yùn)用于偽造，但要從治理角度有針對(duì)性地開(kāi)發(fā)仿冒識(shí)別技術(shù)，則面臨著更高難度，而針對(duì)詐騙分子偽造的虛假視頻、音頻，也往往需要耗費(fèi)大量人力、物力，且內(nèi)容的真?zhèn)我搽y以在短時(shí)間內(nèi)進(jìn)行識(shí)別，仍面臨不少技術(shù)難關(guān)。

AI詐騙治理困境的破解路徑

加強(qiáng)專門立法，筑牢法律紅線。需要不斷健全完善與AI詐騙治理相關(guān)的法律法規(guī)。一方面，健全個(gè)人信息法律保護(hù)體系。分析AI詐騙的特點(diǎn)可知，犯罪嫌疑人會(huì)先依托互聯(lián)網(wǎng)技術(shù)收集公民的個(gè)人隱私信息，為有效預(yù)防AI詐騙案件的出現(xiàn)，需從源頭上進(jìn)行治理，完善法律法規(guī)以更好地保護(hù)公民個(gè)人信息。從目前的實(shí)際情況來(lái)看，相關(guān)部門已相繼出臺(tái)了《個(gè)人信息保護(hù)法》《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》等法律，但在個(gè)人隱私信息保護(hù)上缺乏系統(tǒng)性。建議以《個(gè)人信息保護(hù)法》為基礎(chǔ)，細(xì)化公民個(gè)人信息類型并分別采取保護(hù)舉措，明確界定侵犯?jìng)€(gè)人信息的各種行為。特別是要關(guān)注如何有效保護(hù)公民個(gè)體的生物信息，這主要包括肖像信息和聲音信息，應(yīng)加強(qiáng)對(duì)此類信息的立法。在實(shí)踐過(guò)程中，針對(duì)可以收集公民個(gè)人生物信息的各類主體，在法律法規(guī)文件中細(xì)化其具體責(zé)任。

另一方面，完善人工智能領(lǐng)域法律體系。應(yīng)加強(qiáng)對(duì)AI等人工智能技術(shù)運(yùn)用的立法，2023年國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)同教育部、公安部以及國(guó)家發(fā)展和改革委員會(huì)等部門出臺(tái)了第一個(gè)規(guī)范和管理人工智能技術(shù)使用的法律性文件《生成式人工智能服務(wù)管理暫行辦法》，之后又將《人工智能法》納入了《國(guó)務(wù)院2023年度立法工作計(jì)劃》中，這標(biāo)志著我國(guó)人工智能立法已進(jìn)入到全新發(fā)展階段。當(dāng)前，應(yīng)盡快推進(jìn)《人工智能法》的制定與出臺(tái)，在《人工智能法》中應(yīng)健全各類人工智能技術(shù)使用的倫理規(guī)范，進(jìn)一步明確、細(xì)化互聯(lián)網(wǎng)服務(wù)提供者、電信業(yè)務(wù)經(jīng)營(yíng)者、企業(yè)等主體在AI技術(shù)開(kāi)發(fā)和運(yùn)用過(guò)程中的法律責(zé)任與義務(wù)。

堅(jiān)持打防并舉，強(qiáng)調(diào)協(xié)同聯(lián)動(dòng)。針對(duì)現(xiàn)階段面臨的AI詐騙治理困境，既要結(jié)合現(xiàn)實(shí)情況給予其嚴(yán)厲打擊，更要從源頭上進(jìn)行預(yù)防，構(gòu)建多元主體共同參與的協(xié)同聯(lián)動(dòng)治理機(jī)制。

首先，打造AI詐騙防御體系。其一，搭建事前預(yù)警平臺(tái)。各行業(yè)責(zé)任主體之間應(yīng)協(xié)同構(gòu)建反詐騙預(yù)警平臺(tái)，阻礙AI詐騙信息傳遞；其二，搭建智能勸阻平臺(tái)。對(duì)已經(jīng)接到詐騙電話的用戶給出預(yù)警，利用智能化手段阻斷詐騙公司對(duì)其再次撥打電話。此平臺(tái)可利用大數(shù)據(jù)技術(shù)將各種類型的行業(yè)術(shù)語(yǔ)和精準(zhǔn)話術(shù)納入進(jìn)來(lái)，構(gòu)建各種形式的AI詐騙勸阻場(chǎng)景，以實(shí)現(xiàn)對(duì)潛在被詐騙用戶的精準(zhǔn)勸阻；其三，搭建專人客服呼叫坐席。對(duì)預(yù)警數(shù)量規(guī)模較大的行政村和街道配置專人反詐呼叫坐席，與公安等相關(guān)部門聯(lián)合辦公，依托反詐預(yù)警平臺(tái)和智能勸阻平臺(tái)開(kāi)展反詐電話勸阻活動(dòng)。

其次，加大AI詐騙打擊力度。當(dāng)前，AI詐騙治理面臨電子證據(jù)調(diào)取流程繁瑣、認(rèn)證處理難度大和案件偵破難溯源等問(wèn)題，相關(guān)責(zé)任部門應(yīng)加大執(zhí)法力度，定期開(kāi)展執(zhí)法行動(dòng)，對(duì)通過(guò)非法手段提取公民肖像和獲得公民隱私信息從事犯罪的人員要給予嚴(yán)厲打擊。

最后，協(xié)同聯(lián)動(dòng)形成全新AI技術(shù)生態(tài)。一是不同部門之間共同開(kāi)展多種形式的詐騙治理活動(dòng)，遵循“事前預(yù)防、事中勸阻、事后治理”的原則，有效解決治理問(wèn)題。二是強(qiáng)化內(nèi)部監(jiān)管，尤其是互聯(lián)網(wǎng)和電信企業(yè)等，在升級(jí)更新技術(shù)的同時(shí)要注重健全內(nèi)部的倫理規(guī)范，向其他行業(yè)輸出AI技術(shù)時(shí)要嚴(yán)格遵守技術(shù)運(yùn)用的法律紅線。三是各金融機(jī)構(gòu)要主動(dòng)承擔(dān)相應(yīng)的風(fēng)險(xiǎn)防控責(zé)任，構(gòu)建健全的內(nèi)部控制制度，打造全新AI技術(shù)生態(tài)，做好跨領(lǐng)域和跨行業(yè)的交流合作，針對(duì)可能出現(xiàn)的潛在詐騙風(fēng)險(xiǎn)提前制定防范策略。

深化技術(shù)運(yùn)用，提升治理水平。隨著各類治理技術(shù)的不斷更新和完善，實(shí)踐中應(yīng)深刻認(rèn)識(shí)到技術(shù)運(yùn)用的利與弊，善用各種技術(shù)以提升AI詐騙治理效果。首先，運(yùn)用技術(shù)切斷“數(shù)據(jù)喂養(yǎng)”。事前要進(jìn)行精準(zhǔn)的預(yù)警防范，借助現(xiàn)代化技術(shù)切斷數(shù)據(jù)供給和喂養(yǎng)，即使不法分子已經(jīng)掌握了公民個(gè)人信息，但相關(guān)部門可以利用技術(shù)手段讓公民登錄不上詐騙網(wǎng)站，下載不了詐騙軟件，無(wú)法向詐騙賬戶轉(zhuǎn)賬；構(gòu)建AI詐騙風(fēng)險(xiǎn)預(yù)警防范模型，擴(kuò)大反詐電話監(jiān)測(cè)覆蓋范圍，促使手機(jī)廠商升級(jí)指紋識(shí)別和人臉識(shí)別技術(shù)，以協(xié)助用戶準(zhǔn)確識(shí)別AI擬聲和AI換臉等詐騙行為。

其次，運(yùn)用技術(shù)提升治理能力。借助數(shù)字技術(shù)拓展AI詐騙風(fēng)險(xiǎn)防控范圍，從海量的數(shù)據(jù)信息中挖掘出潛在的詐騙風(fēng)險(xiǎn)信息，來(lái)防范AI詐騙犯罪案件的發(fā)生；以大數(shù)據(jù)技術(shù)為基礎(chǔ)模擬出各種AI詐騙案件的犯罪情景，整個(gè)運(yùn)行過(guò)程包括五大環(huán)節(jié)，分別為數(shù)據(jù)收集、數(shù)據(jù)分析、犯罪情景模擬、防范策略制定和行使響應(yīng)；實(shí)現(xiàn)不同平臺(tái)、行業(yè)和領(lǐng)域的數(shù)據(jù)互通與資源共享，及時(shí)收集各方證據(jù)，精準(zhǔn)打擊各類AI詐騙案件；針對(duì)能夠逼真模擬頭像、聲音等重要生物信息的AI詐騙科技，研發(fā)出對(duì)應(yīng)的能夠辨別人像、聲音真?zhèn)蔚腁I詐騙治理技術(shù)，全面防范AI詐騙案件的發(fā)生。

最后，加大技術(shù)偵查人員培養(yǎng)。偵查人員的業(yè)務(wù)能力和綜合素養(yǎng)對(duì)預(yù)防AI詐騙犯罪和提升詐騙案件辦案效率有著重要影響。當(dāng)前，犯罪分子借助AI技術(shù)行使的詐騙手段變得更為多樣化，偵查人員須不斷完善自身的知識(shí)儲(chǔ)備，提升自身在偵查方面的專業(yè)能力，通過(guò)大力培養(yǎng)偵查AI詐騙的專業(yè)技術(shù)型人才，全面加強(qiáng)對(duì)AI詐騙犯罪的事前預(yù)防力度，織緊織密織牢預(yù)防AI詐騙犯罪的防護(hù)網(wǎng)。

（作者分別為中國(guó)人民公安大學(xué)犯罪學(xué)學(xué)院博士研究生；中國(guó)人民公安大學(xué)馬克思主義學(xué)院教授、博導(dǎo)）

【注：本文系中國(guó)人民公安大學(xué)雙一流創(chuàng)新研究專項(xiàng)（項(xiàng)目編號(hào)：2023SYL05）階段性成果】

【參考文獻(xiàn)】

①趙晨熙、郝嘉偉：《推進(jìn)立法強(qiáng)化人工智能技術(shù)安全應(yīng)用》，《法治日?qǐng)?bào)》，2024年4月9日。

②李雪峰、王錸：《電信網(wǎng)絡(luò)詐騙的特征與治理路徑》，《人民論壇》，2023年第20期。

責(zé)編/孫垚 美編/王夢(mèng)雅