韓國集中打擊“深度偽造”犯罪

2024年的前七個月，韓國共報告了297起與色情相關(guān)的“深度偽造”犯罪案件，多于去年的180起，幾乎是2021年數(shù)據(jù)首次整理時的兩倍。時下，韓國正加大對“人工智能（AI）深度偽造技術(shù)”犯罪行為的打擊力度。

監(jiān)禁期限增至7年

2024年8月29日，在韓國國會舉行的緊急會議上，韓國政府和執(zhí)政黨國民力量黨決定，加強(qiáng)對“人工智能（AI）深度偽造技術(shù)”（以下簡稱“深度偽造”）犯罪行為的打擊力度；設(shè)立一個跨部門工作組，負(fù)責(zé)領(lǐng)導(dǎo)打擊“深度偽造”犯罪工作；采取立法措施，對有關(guān)犯罪者的最高監(jiān)禁期限從目前的5年提高到7年，從立法角度將“虛假視頻”傳播的刑期與“非法拍攝”等同起來。

在韓國，利用“深度偽造”制播虛假影像的行為以及由此衍生的網(wǎng)絡(luò)性犯罪泛濫成災(zāi)，此次“深度偽造”圖像的傳播平臺是“電報”，引發(fā)社會恐慌。過去一段時間里，韓國警方發(fā)現(xiàn)“深度偽造”犯罪分子將女教師、女護(hù)士、女兵作為非法合成色情圖像的目標(biāo)，出現(xiàn)了“女教師房”“護(hù)士房”“女兵”等群組。最近，以女性家人為對象的“家庭房”“近親房”等也相繼被發(fā)現(xiàn)。

這些群組里的淫穢影像經(jīng)“深度偽造”換臉而制成，只需要上傳熟人照片，付費后5秒鐘內(nèi)就能生成裸體合成圖。涉及群組的參與人數(shù)不等，少的幾百上千人，多的有數(shù)萬人，總計參與用戶多達(dá)22萬人。經(jīng)初步調(diào)查，受害者80%為女性，包括大學(xué)生、教師、軍人等，甚至有不少初高中生等未成年人。

多名韓國女性接到陌生人發(fā)來的騷擾信息，她們并不知道自己的姓名、電話、就讀學(xué)校、家庭住址等個人信息已被傳遍多個聊天室。和個人信息一起被傳閱的還有她們的照片，不法分子把照片制作成涉黃圖片，供聊天室里的人們觀看。而散布這些消息的人，可能是受害者的熟人。一名小學(xué)女教師在接受采訪時告訴記者，自己被學(xué)生告知，一個聊天室里有自己的涉黃照片。讓她崩潰的是，上傳者竟是自己的學(xué)生。

“電報”成為犯罪“溫床”

所謂“深度偽造”，即使用AI生成逼真的虛假內(nèi)容，通常指用于偽造人物的視頻、音頻、圖像等。一些AI生圖大模型在追求更多真實度的同時，成為了AI換臉或AI脫衣的幫兇。

“電報”平臺提供端到端加密消息傳遞，因其私密的特性而擁有大量國際用戶，但也因此成為不法行為的“溫床”。當(dāng)前該平臺上有不少以AI色情為賣點的群組（類似于群聊，即韓國新聞中“房”的概念），在公開可進(jìn)的群組中，一個通過AI技術(shù)偽造國內(nèi)網(wǎng)紅色情圖片的群組成員人數(shù)達(dá)到了1.5萬人。通過交費，還可以進(jìn)入更加私密、尺度更大的群組，黑灰產(chǎn)從業(yè)者正是以此牟利。

除了端到端加密技術(shù)外，“電報”平臺還賦予了包括“閱后即焚”“超級群組”（動輒可達(dá)十多萬人，相比之下微信群的限制是500人）?！叭褐髟O(shè)置不能復(fù)制轉(zhuǎn)發(fā)截圖”等功能，使得平臺上的一個個群組成為封閉式空間。為了使非法交易得以逃避監(jiān)管，不少交易可能會通過虛擬貨幣進(jìn)行。

2024年3月，“電報”平臺的創(chuàng)始人帕維爾·杜羅夫表示，平臺已經(jīng)擁有9億用戶，且正接近盈利。8月24日，杜羅夫在法國巴黎近郊的布爾歇機(jī)場被捕，雖然后來在司法監(jiān)控下獲得保釋，但不得離開法國。巴黎檢察官辦公室在一份聲明中指出，其涉嫌的違法行為包括參與出售兒童性虐待素材、販毒、欺詐，以及在法律要求時拒絕與調(diào)查人員分享信息或文件等。

其他國家“深度偽造”的受害者大多是明星網(wǎng)紅。而在韓國，受害者是大量的普通人。盡管韓國對于此類犯罪行為有相關(guān)的法律，然而性別歧視觀念根深蒂固，導(dǎo)致此類事件一再發(fā)生。一名韓國女大學(xué)生控訴道，自己有數(shù)十張裸體照片在“電報”平臺的群組中傳播，臉上寫著不堪入目的臟話，甚至還有人通過AI生成了自己的色情語音。

未成年人深受其害

韓國近期已開展集中打擊深偽性犯罪的專項行動，清查整治利用“深度偽造”制作并傳播虛假內(nèi)容的行為。與此同時，將通過識別軟件對有關(guān)內(nèi)容進(jìn)行分析，并與國際機(jī)構(gòu)合作，積極開展偵查活動。此前，韓國警方在例行記者會上介紹說，警方以涉嫌幫助“深度偽造”犯罪為由著手對“電報”平臺進(jìn)行立案前調(diào)查，但該公司在提供賬戶信息等涉案資料方面不積極配合。不只是韓國警方面臨偵查難題，其他國家亦是如此。

據(jù)韓國警察廳公布的數(shù)據(jù)，2021年至2023年，共有527名“深度偽造”淫穢影像受害者報案。在最近4年被立案調(diào)查的嫌疑人中，青少年比例仍然維持在較高水平，200多所學(xué)校牽涉其中。未成年人作為加害者的涉案比例相當(dāng)驚人，從2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年的前7個月則達(dá)到了73.6%。

“深度偽造”在韓國10代群體（泛指滿10歲而未滿20歲的人）之間像“游戲”一樣盲目蔓延。加之社交媒體的匿名性，犯罪者更加有恃無恐，甚至出現(xiàn)了“只有傻瓜才會被警察逮住”的言論。

不少青少年參與制作和傳播“深度偽造”內(nèi)容，導(dǎo)致校園內(nèi)此類犯罪行為泛濫。韓國警方7月拘捕了一名高中生，搜繳出317份涉案資料。這名嫌疑人6月7日在社交平臺上發(fā)布帖文稱，可以制作基于買家的家庭成員、熟人或其他名人，通過“深度偽造”換臉制作色情圖片，通過“電報”平臺以每張1000韓元至2000韓元的價格出售。他與買家交易了大約10次，共收到30多萬韓元。大多數(shù)色情圖片涉及的受害者是嫌疑人中學(xué)時期的熟人，包括1名教師和10名學(xué)生。隨著調(diào)查進(jìn)行，受害者人數(shù)還可能增加。這名學(xué)生承認(rèn)，他是在網(wǎng)上學(xué)會的如何制作“深度偽造”內(nèi)容，從事犯罪活動是為了“輕松賺錢”。他因涉嫌違反《青少年保護(hù)法》和《性犯罪處罰法》，被立案調(diào)查。

韓國國民力量黨黨首韓東勛敦促政府迅速采取措施遏制此類犯罪行為，并強(qiáng)調(diào)有必要下調(diào)未成年人承擔(dān)刑事責(zé)任的年齡標(biāo)準(zhǔn)。目前，根據(jù)韓國相關(guān)法律，年齡在10—14歲之間的兒童不對自己的行為承擔(dān)刑事責(zé)任，不會被送往監(jiān)獄，而是會被送去少年拘留所，或被判罰從事社區(qū)服務(wù)。鑒于這些年輕人大多數(shù)在毫無負(fù)罪感的情況下犯案，警方計劃與教育部門合作，加強(qiáng)收集校園犯罪信息，強(qiáng)化學(xué)校的數(shù)字性犯罪預(yù)防教育，包括告知學(xué)生分發(fā)非法合成材料是嚴(yán)重犯罪，以加深學(xué)生對數(shù)字性犯罪的認(rèn)識。

投稿郵箱：zhanghongyuchn@hotmail.com