AI電信詐騙的治理難題

中國(guó)信息通信研究院

近年來(lái)，我國(guó)電信網(wǎng)絡(luò)詐騙活動(dòng)猖獗，已成為影響人民群眾安全感和幸福感的一大社會(huì)公害。

技術(shù)創(chuàng)新是一把雙刃劍，人工智能技術(shù)在不斷促進(jìn)防范治理技術(shù)發(fā)展和進(jìn)步的同時(shí)，也開始被詐騙分子所利用，帶來(lái)了一定程度的風(fēng)險(xiǎn)隱患。特別是隨著基于人工智能的“深度偽造”、群聊群控等詐騙手法的傳播和應(yīng)用，這些風(fēng)險(xiǎn)被進(jìn)一步集聚、放大，引起了社會(huì)各界的關(guān)注。

機(jī)遇與挑戰(zhàn)?

隨著云計(jì)算、大數(shù)據(jù)、移動(dòng)互聯(lián)網(wǎng)的不斷發(fā)展，人工智能進(jìn)入到了一個(gè)全新的發(fā)展階段：基礎(chǔ)算力不斷增強(qiáng)，核心算法不斷突破，應(yīng)用場(chǎng)景不斷豐富，成為引領(lǐng)創(chuàng)新發(fā)展的戰(zhàn)略性技術(shù)。人工智能技術(shù)的蓬勃發(fā)展帶來(lái)了強(qiáng)大的產(chǎn)業(yè)拉動(dòng)效應(yīng)，不斷加速傳統(tǒng)產(chǎn)業(yè)的數(shù)字化、智能化進(jìn)程，驅(qū)動(dòng)產(chǎn)業(yè)優(yōu)化升級(jí)和生產(chǎn)力快速提升，在推進(jìn)社會(huì)進(jìn)步、經(jīng)濟(jì)發(fā)展、人民生活質(zhì)量提高等方面產(chǎn)生了深遠(yuǎn)的影響。

同時(shí)，人工智能技術(shù)的發(fā)展也為電信網(wǎng)絡(luò)詐騙治理工作帶來(lái)了積極影響：隨著以大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、模式識(shí)別、知識(shí)圖譜為代表的人工智能技術(shù)的部署應(yīng)用，電信網(wǎng)絡(luò)詐騙技術(shù)防范系統(tǒng)的識(shí)別準(zhǔn)確度更高、監(jiān)測(cè)攔截實(shí)時(shí)性更強(qiáng)、防護(hù)覆蓋面更大，為治理工作的不斷推進(jìn)提供了強(qiáng)大動(dòng)力，有效降低了電信網(wǎng)絡(luò)詐騙帶來(lái)的風(fēng)險(xiǎn)與危害。

結(jié)合電信網(wǎng)絡(luò)詐騙治理實(shí)踐，目前人工智能技術(shù)在詐騙電話檢測(cè)、惡意網(wǎng)址攔截、詐騙文本識(shí)別、詐騙風(fēng)險(xiǎn)預(yù)警等場(chǎng)景下已經(jīng)有深入的應(yīng)用及探索。

人工智能在推動(dòng)防范治理工作不斷前進(jìn)的同時(shí)，也開始被不法分子用來(lái)實(shí)施詐騙。當(dāng)電信網(wǎng)絡(luò)詐騙用上人工智能，往往會(huì)擴(kuò)大詐騙的危害廣度和深度，給防范治理工作帶來(lái)一定的風(fēng)險(xiǎn)與挑戰(zhàn)。

電信網(wǎng)絡(luò)詐騙實(shí)施的四個(gè)主要環(huán)節(jié)。一般來(lái)講，電信網(wǎng)絡(luò)詐騙活動(dòng)可以歸結(jié)為精準(zhǔn)信息獲取、詐騙腳本設(shè)計(jì)、通信聯(lián)絡(luò)誘導(dǎo)、資金支付轉(zhuǎn)移四個(gè)關(guān)鍵環(huán)節(jié)。在精準(zhǔn)信息獲取環(huán)節(jié)，詐騙分子主要非法竊取或購(gòu)買社會(huì)上各行各業(yè)泄露的個(gè)人信息，包括身份證信息、電話號(hào)碼、家庭地址，以及網(wǎng)絡(luò)賬號(hào)和密碼、銀行賬號(hào)和密碼等信息。目前看，個(gè)人信息泄露是精準(zhǔn)詐騙的根源。在詐騙腳本設(shè)計(jì)環(huán)節(jié)，詐騙分子模擬真實(shí)的經(jīng)濟(jì)社會(huì)活動(dòng)場(chǎng)景，精心設(shè)計(jì)各種詐騙腳本，如近期高發(fā)的代辦信用卡、兼職刷單、冒充網(wǎng)購(gòu)客服、冒充公檢法等詐騙案件。在通信聯(lián)絡(luò)誘導(dǎo)環(huán)節(jié)，詐騙分子通過(guò)電話、短信、互聯(lián)網(wǎng)等通信渠道聯(lián)絡(luò)受害人，利用之前設(shè)計(jì)的詐騙腳本與獲取的受害人個(gè)人信息，騙取受害人信任進(jìn)而實(shí)施詐騙。在資金支付轉(zhuǎn)移環(huán)節(jié)，詐騙分子引導(dǎo)受害人通過(guò)銀行轉(zhuǎn)賬、網(wǎng)上支付等方式向其指定賬戶轉(zhuǎn)款，再經(jīng)由預(yù)先設(shè)計(jì)的詐騙分贓銷贓渠道快速?gòu)闹付ㄙ~戶中轉(zhuǎn)移受害人資金。

事實(shí)證明，通過(guò)利用人工智能技術(shù)，詐騙實(shí)施者在精準(zhǔn)信息獲取、詐騙腳本設(shè)計(jì)、通信聯(lián)絡(luò)誘導(dǎo)、資金支付轉(zhuǎn)移等方面的能力都有了很大的提高。這也為治理電信詐騙帶來(lái)了新的挑戰(zhàn)。

治理人工智能詐騙的經(jīng)驗(yàn)

近年來(lái)，人工智能技術(shù)為防范打擊電信網(wǎng)絡(luò)詐騙工作開辟了以“智”圖“治”的治理新格局，為促進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化增添了新動(dòng)能，但同時(shí)也逐漸成為詐騙分子實(shí)施精準(zhǔn)詐騙的“新利器”，為詐騙治理工作帶來(lái)新挑戰(zhàn)新風(fēng)險(xiǎn)。為做好詐騙治理工作，各國(guó)政府紛紛布局，瞄準(zhǔn)精準(zhǔn)詐騙實(shí)施主要環(huán)節(jié)、關(guān)鍵要素，統(tǒng)籌推進(jìn)詐騙治理工作有序穩(wěn)妥進(jìn)行。

從國(guó)際上看，換臉換聲詐騙、自動(dòng)刷單詐騙等一系列利用人工智能技術(shù)的新型詐騙模式進(jìn)入人們的視線，成為當(dāng)前電信網(wǎng)絡(luò)詐騙治理的痛點(diǎn)難點(diǎn)。為防范治理這種新型電信網(wǎng)絡(luò)詐騙，世界主要國(guó)家和地區(qū)紛紛從深化個(gè)人信息保護(hù)、提升技術(shù)防范能力、強(qiáng)化企業(yè)守法自律、加強(qiáng)警示宣傳教育等方面著手，開展推進(jìn)打擊防范治理工作，遏制人工智能詐騙活動(dòng)的泛濫蔓延。

基于人工智能的電信網(wǎng)絡(luò)詐騙憑借其新穎的詐騙形式、精準(zhǔn)的詐騙腳本、逼真的偽造音視頻，讓人防不勝防，已經(jīng)嚴(yán)重影響了社會(huì)穩(wěn)定和群眾幸福感。為有效遏制基于人工智能的新型電信網(wǎng)絡(luò)詐騙產(chǎn)生蔓延，及時(shí)鏟除此類詐騙活動(dòng)滋生的土壤，我國(guó)信息通信行業(yè)積極開展了行業(yè)源頭治理工作：工業(yè)和信息化部作為國(guó)務(wù)院打擊治理電信網(wǎng)絡(luò)詐騙新型違法犯罪工作部際聯(lián)席會(huì)議工作單位和行業(yè)主管部門，全面貫徹黨中央、國(guó)務(wù)院有關(guān)決策部署，在工信部網(wǎng)安局指導(dǎo)下，信息通信行業(yè)相關(guān)企業(yè)單位深入落實(shí)主體責(zé)任，縱深推進(jìn)防范治理工作，形成了全鏈條多層次的治理格局。

在工信部的統(tǒng)籌部署和全行業(yè)的共同努力下，信息通信行業(yè)電信網(wǎng)絡(luò)詐騙源頭治理和綜合治理不斷向前推進(jìn)，已經(jīng)取得了階段性的明顯效果。但是面對(duì)人工智能時(shí)代電信網(wǎng)絡(luò)詐騙的高隱蔽性、高危害性等特點(diǎn)，我國(guó)防范治理工作仍然存在著一定的難點(diǎn)與問(wèn)題，法律法規(guī)尚需完善、行業(yè)管理范圍仍需延伸、技術(shù)反制能力亟待提高、社會(huì)宣傳引導(dǎo)和協(xié)同治理的力度和程度還有進(jìn)一步強(qiáng)化和提升空間。

存在的問(wèn)題

在法律法規(guī)方面。隨著人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙領(lǐng)域的不斷應(yīng)用，不法分子實(shí)施詐騙的精準(zhǔn)性、迷惑性、隱蔽性大大加強(qiáng)，直接導(dǎo)致公安和檢察機(jī)關(guān)的偵查打擊難度進(jìn)一步加大，人工智詐騙治理工作所面臨的“偵查破案難、電子證據(jù)調(diào)取難、認(rèn)定處理難”等一系列問(wèn)題更加突出。同時(shí)，電信網(wǎng)絡(luò)詐騙已經(jīng)呈現(xiàn)出明顯的鏈條化、平臺(tái)化作案特征。例如上游黑產(chǎn)提供各種基于人工智能技術(shù)的專用設(shè)備工具、算法，為下游電信網(wǎng)絡(luò)詐騙源源不斷地提供技術(shù)支持，危害巨大。在這個(gè)產(chǎn)業(yè)鏈中，不法分子利用互聯(lián)網(wǎng)以提供服務(wù)的方式分工配合，使得詐騙案件發(fā)生時(shí)，位于上游的不法分子完全可以以自己不知情來(lái)規(guī)避法律風(fēng)險(xiǎn)。這種法律依據(jù)的不明確及其導(dǎo)致的上游犯罪節(jié)點(diǎn)定責(zé)難，是當(dāng)前電信網(wǎng)絡(luò)詐騙治理不能回避的一個(gè)重要問(wèn)題。

在行業(yè)管理方面。目前以舉報(bào)通報(bào)、現(xiàn)場(chǎng)檢查、年度考核等多種形式構(gòu)建組成的防范電信網(wǎng)絡(luò)詐騙的企業(yè)責(zé)任落實(shí)督導(dǎo)體系在電信行業(yè)已經(jīng)比較完善和細(xì)化，但是在人工智能技術(shù)和業(yè)務(wù)快速發(fā)展的互聯(lián)網(wǎng)等相關(guān)領(lǐng)域的督導(dǎo)執(zhí)行力度仍相對(duì)較弱。此外，數(shù)據(jù)隱私泄露是“精準(zhǔn)詐騙”的源頭之一。雖然現(xiàn)有的用戶個(gè)人信息保護(hù)、數(shù)據(jù)安全等行業(yè)管理基礎(chǔ)性制度已經(jīng)具備，但在具體的企業(yè)責(zé)任落實(shí)方面，特別是對(duì)人工智能應(yīng)用在數(shù)據(jù)采集、傳輸、存儲(chǔ)、使用、共享等各環(huán)節(jié)的隱私保護(hù)、數(shù)據(jù)安全等方面的監(jiān)督落實(shí)力度仍需加強(qiáng)。最后，對(duì)當(dāng)前涉詐風(fēng)險(xiǎn)較大的基于人工智能的群呼（GoIP、SIMBANK）網(wǎng)關(guān)類設(shè)備的監(jiān)管政策和管理方式仍需確定。

在技術(shù)利用方面。人工智能技術(shù)被不當(dāng)利用的門檻不斷降低。在軟件和算法方面，當(dāng)前大量被不當(dāng)利用的人工智能技術(shù)均以開源方式對(duì)外公開發(fā)布，不法分子可以通過(guò)互聯(lián)網(wǎng)開源社區(qū)直接獲取源代碼并進(jìn)行修改使用。在硬件設(shè)備方面，GoIP設(shè)備以其遠(yuǎn)程化、智能化的特點(diǎn)，成為不法分子實(shí)施詐騙、逃避追查的重要方式。此外，基于人工智能的仿冒和識(shí)別技術(shù)發(fā)展不均衡。相較于深度偽造應(yīng)用的快速發(fā)展，仿冒識(shí)別技術(shù)研發(fā)難度更高，且受限于仿冒數(shù)據(jù)集樣本不足等多種原因，其發(fā)展速度相對(duì)較慢。最后，針對(duì)人工智能為防范治理工作帶來(lái)的新風(fēng)險(xiǎn)，已有技術(shù)平臺(tái)和策略應(yīng)對(duì)能力尚顯不足，在對(duì)電信網(wǎng)絡(luò)詐騙實(shí)現(xiàn)事前有效防范和事中事后精準(zhǔn)溯源等方面還需探索。

在宣傳引導(dǎo)方面。關(guān)于電信網(wǎng)絡(luò)詐騙風(fēng)險(xiǎn)提示等的相關(guān)宣傳內(nèi)容仍需增加。目前面向大眾的反詐宣傳提醒以較為傳統(tǒng)的電信網(wǎng)絡(luò)詐騙手法為主，基于人工智能的詐騙的方式方法和應(yīng)對(duì)策略等相關(guān)宣傳內(nèi)容較少，一定程度上造成社會(huì)普通民眾尤其是學(xué)生、老人等重點(diǎn)人群對(duì)此類詐騙的特點(diǎn)認(rèn)知和防范意識(shí)不足。此外，關(guān)于個(gè)人信息安全保護(hù)的宣傳力度尚需加強(qiáng)。當(dāng)前很多用戶對(duì)人工智能時(shí)代個(gè)人隱私泄露的危害仍然認(rèn)識(shí)不夠，面對(duì)一些應(yīng)用的霸王隱私條款，往往選擇以隱私換取效率和方便。

在協(xié)同治理方面。隨著電信網(wǎng)絡(luò)詐騙治理逐步進(jìn)入“深水區(qū)”，過(guò)往基于單一數(shù)據(jù)源建立的相關(guān)技術(shù)防范系統(tǒng)，已不能形成良好的協(xié)同效應(yīng)，治理效果逐步減弱。相關(guān)部門與企業(yè)、行業(yè)組織雖然建立了高效的會(huì)商和聯(lián)動(dòng)處置機(jī)制，但在跨行業(yè)、跨部門數(shù)據(jù)融合共享方面尚不充分，各治理主體的反詐系統(tǒng)仍相對(duì)分散，難以對(duì)各方數(shù)據(jù)進(jìn)行及時(shí)的綜合分析，一定程度上制約了整體治理效能的持續(xù)提升。此外，部分企業(yè)自律意識(shí)不足，在用戶不知情的情況下，過(guò)度收集或使用個(gè)人信息。最后，跨國(guó)協(xié)同合作仍需加強(qiáng)。人工智能技術(shù)的應(yīng)用使詐騙分子實(shí)施遠(yuǎn)程精準(zhǔn)詐騙的能力越來(lái)越強(qiáng)。為增強(qiáng)隱蔽性，降低風(fēng)險(xiǎn)，大量詐騙團(tuán)伙越來(lái)越傾向于聚集在境外實(shí)施詐騙?？鐕?guó)、跨境電信網(wǎng)絡(luò)詐騙的識(shí)別、攔截、追蹤和定責(zé)必須在國(guó)際協(xié)同合作的框架下解決，在已有基礎(chǔ)上進(jìn)一步推動(dòng)國(guó)際各方協(xié)同治理已經(jīng)成為我國(guó)電信網(wǎng)絡(luò)詐騙治理需要解決的重要問(wèn)題。

編輯：張程? 3567672799@qq.com