又是韓國(guó)，新N號(hào)房

秘密的、專(zhuān)屬于男性會(huì)員的Telegram聊天室，充斥著大量被“深度偽造”（Deepfake）的女性色情圖像。這些男生，很多仍是初高中的學(xué)生；而這些女性，大多是他們的熟人，同學(xué)、老師，甚至還有家人。在這里，她們的臉，被嫁接到各種不堪入目的合成圖像中。

近期，一起大規(guī)模的深偽危機(jī)，席卷了整個(gè)韓國(guó)，也讓全世界為之震驚。

據(jù)韓國(guó)教師工會(huì)估計(jì)，有200多所學(xué)校都受到了影響，但根據(jù)一些韓國(guó)學(xué)生自發(fā)在社交媒體X上創(chuàng)建的受害學(xué)校清單，截至9月初，涉及的學(xué)校數(shù)量超過(guò)500所。

想要進(jìn)入這些聊天室很簡(jiǎn)單，只需要使用Telegram聊天室搭載的“機(jī)器人程序”制造10張“深度偽造”的照片，而生成一張裸體照片甚至花不了3秒鐘。

但在某些特殊聊天室中，管理者更是表明，只有提交女性家庭成員的全身照片，或是上傳自己“不恰當(dāng)?shù)赜|摸妹妹或母親”的照片或視頻后，才被允許進(jìn)入。

目前，已知存在兩個(gè)被廣泛使用的“機(jī)器人程序”（也就是工具bot），一個(gè)擁有22萬(wàn)余名用戶(hù)，另一個(gè)則涉及40多萬(wàn)人。據(jù)報(bào)道，這類(lèi)工具bot可以識(shí)別上傳照片的性別，且只能合成女性的色情圖像。

直到社交媒體X上名為@Queenarchive1的賬戶(hù)開(kāi)始曝光此事，更多人才得知這些聊天室的存在，很多女性才意識(shí)到自己早就成了“深度偽造”的受害者。

事實(shí)上，這起“新N號(hào)房”事件，距離上一次韓國(guó)“深度偽造”犯罪引發(fā)關(guān)注，僅僅過(guò)去了四個(gè)月。

韓國(guó)社會(huì)到底怎么了？雖然人們對(duì)韓國(guó)低生育率問(wèn)題與嚴(yán)峻的性別戰(zhàn)爭(zhēng)早已習(xí)以為常，但仍震驚于這起事件背后令人膽寒的惡意。

目前，韓國(guó)總統(tǒng)尹錫悅表示要“徹底調(diào)查和解決這些數(shù)字性犯罪”，但考慮到他在女性議題上的不作為，很多韓國(guó)女性對(duì)此并不抱期望。

感到絕望的韓國(guó)女性，試圖通過(guò)跨國(guó)渠道來(lái)擴(kuò)散信息，將事件的進(jìn)展翻譯成多種語(yǔ)言，在各國(guó)社交平臺(tái)進(jìn)行分享。面對(duì)層出不窮的性別暴力問(wèn)題，在這個(gè)讓她們怒吼著“韓國(guó)女性是沒(méi)有國(guó)家”的地方，她們只能盡可能地將信息傳得更遠(yuǎn)。

撤下你的照片

“趕快撤下你所有的露臉照片?！?/p>

在kakaotalk（韓國(guó)聊天軟件）上收到朋友發(fā)來(lái)的消息時(shí)，住在水原市的18歲華人學(xué)生小慧還沒(méi)反應(yīng)過(guò)來(lái)發(fā)生了什么事。緊接著，朋友發(fā)來(lái)了關(guān)于Telegram聊天室的信息，以及受害者學(xué)校名單。

小慧在名單上看到了自己所在中學(xué)的名字。她還未來(lái)得及消化這件事帶來(lái)的沖擊，便一刻不停地刪除了社交媒體上自己所有的照片。

她才知道，自己的同學(xué)就在制造這些“深度偽造”圖像。

EpfDhh0m4F6NO4hRTqSzGg==

小慧告訴《看世界》，她從來(lái)沒(méi)想過(guò)這樣的事，會(huì)發(fā)生在自己身邊。在和朋友的后續(xù)交流中，她才知道，自己的同學(xué)就在制造這些“深度偽造”圖像。

她不知道自己是否在學(xué)校中與這些人擦肩而過(guò)，也不確定是否和對(duì)方在ins上成了互關(guān)好友，但只要想到學(xué)校里存在著這樣的人，就讓她和她的朋友感到生理不適。

目前，唯一讓她們松了一口氣的是，還沒(méi)有看到和自己相關(guān)的圖像，但她也明白這種“安全”很可能只是暫時(shí)的，因?yàn)楫?dāng)Telegram聊天室的影響范圍如此之大時(shí)，“每個(gè)女性都是目標(biāo)”。

在這段時(shí)間內(nèi)，“女性安全如何保障”，成為了小慧和朋友們每天都在談?wù)摰膯?wèn)題。她們并不滿(mǎn)意學(xué)校的處理方式，也對(duì)鄰近的學(xué)校只是進(jìn)一步提醒在校女生多注意自身安全的做法感到諷刺。

“他們只是讓女生在操場(chǎng)上集合，告訴她們要更小心，而男生在一旁踢足球”，小慧氣憤地說(shuō)道，“為什么不去警告男生呢？”

在小慧和朋友們看來(lái)，問(wèn)題的重點(diǎn)，從來(lái)不是女性應(yīng)該“更小心”，只是在正常生活的她們，沒(méi)有義務(wù)更小心地生活，而“更小心”未必可以換來(lái)安全的生存環(huán)境。

到底要多小心？這次Deepfake事件爆發(fā)后，很多韓國(guó)女生紛紛站了出來(lái)，講述自己被家中哥哥、弟弟侵犯或偷拍的遭遇。在社交媒體X上，有不少女生分享自己曾被家里人侵犯的經(jīng)歷—被自己的哥哥/弟弟偷拍，照片發(fā)到網(wǎng)上賣(mài)錢(qián)。

還有女生爆料稱(chēng)，自己和哥哥的關(guān)系一直很不錯(cuò)。當(dāng)她在哥哥手機(jī)中發(fā)現(xiàn)被偷拍的照片時(shí)，她哥哥剛帶她吃了烤肉。在手機(jī)相冊(cè)中以她名字命名的文件夾里，有她睡覺(jué)的照片，換衣服的照片，還有她的大腿照。

她花了很長(zhǎng)時(shí)間去療愈自己，但看到長(zhǎng)得像自己哥哥的男生時(shí)，還是會(huì)下意識(shí)地感到害怕。而與此同時(shí)，已經(jīng)知道發(fā)生了什么事的父母，卻還敦促她趕快與哥哥和好。

此外，還有一位女生在X上連發(fā)三十多條推文，講述自己午睡時(shí)被小一歲的弟弟撫摸并偷拍的經(jīng)歷。她將事情告知母親后，還擔(dān)心弟弟會(huì)不會(huì)被打得太狠，但結(jié)果卻是自己多慮了。

“你也有問(wèn)題，誰(shuí)會(huì)在家里穿這么短的睡衣。”她的母親這樣說(shuō)道。她想不明白為何會(huì)這樣，還在評(píng)論區(qū)發(fā)了睡衣樣式?！拔掖┲胀ǖ乃?，就在家里安心地睡著了。這是我的錯(cuò)嗎？”她表示，自己大約有一年的時(shí)間都無(wú)法過(guò)上正常的生活。

這些案例中，被親人偷拍的照片，有沒(méi)有流入聊天室、成為深偽合成的素材，還屬未知，但它們卻引發(fā)了廣泛共鳴，這起Deepfake事件，影響之深遠(yuǎn)，幾乎摧毀了受害者的信任體系和社交網(wǎng)絡(luò)。隨著這些故事不斷被講述，有關(guān)Deepfake更多不為人知的細(xì)節(jié)，也被勾勒了出來(lái)。

在2023年，韓國(guó)75.8%的深度偽造性犯罪嫌疑人是青少年。

就像目前案件已提交首爾法庭一審的受害女性在法庭上說(shuō)的那樣，她認(rèn)識(shí)被告人，她和對(duì)方是校友，她們的關(guān)系不僅涉及上課，還包括在學(xué)生餐廳用餐，完成學(xué)習(xí)小組作業(yè)等方方面面，她整個(gè)校園生活幾乎都繞不開(kāi)被告人。

這也是為什么當(dāng)她得知罪犯是誰(shuí)時(shí)，她受到的沖擊比最開(kāi)始知道自己的照片被“深度偽造”時(shí)還要大。

“只是在開(kāi)玩笑”

當(dāng)受害者仍在苦苦掙扎時(shí)，很多涉事男性并沒(méi)有意識(shí)到嚴(yán)重性。

不少男生表示，這么做“只是覺(jué)得有趣”，或是“只是在開(kāi)玩笑”，更有甚者，在聊天室中留下了“我不知道為什么這些女的覺(jué)得自己有人權(quán)”“女的居然想要被當(dāng)做人來(lái)看待”等觸目驚心的言論。

當(dāng)然，也有加害者不再滿(mǎn)足于語(yǔ)言上的宣泄。有人選擇直接聯(lián)系受害者，還在聊天室分享她們的反應(yīng)，以此進(jìn)一步折磨她們；也有人毫不猶豫地公布受害女性的身份，并向?qū)Ψ剿饕饪谫M(fèi)。

雖然從表面上看，這些罪行已經(jīng)顯而易見(jiàn)，但在實(shí)際運(yùn)作中，打擊數(shù)字犯罪并不容易。一方面，參與深度偽造的加害者大多是未成年人；另一方面則在于打擊數(shù)字性犯罪存在立法缺口問(wèn)題。

近幾年，與“深度偽造”相關(guān)的犯罪數(shù)量，以及青少年犯下此類(lèi)犯罪的比例，都呈上升趨勢(shì)。

韓國(guó)警方表示，今年受理的深度偽造性犯罪案件已激增至297起。而在2021年，即他們首次整理這方面數(shù)據(jù)時(shí)，這一數(shù)字僅為156。在這其中，大多數(shù)受害者和加害者都是青少年。

具體來(lái)講，在2023年，韓國(guó)75.8%的深度偽造性犯罪嫌疑人是青少年。在2021年，這一數(shù)字是65.3%，2022年則為61%。

但即便問(wèn)題已經(jīng)如此嚴(yán)峻，想要讓這些加害者為自己的行為付出代價(jià)卻并不容易。這不僅是韓國(guó)面臨的問(wèn)題，如何追蹤和證實(shí)數(shù)字犯罪，在全世界范圍內(nèi)都是一個(gè)難題。這對(duì)執(zhí)法機(jī)構(gòu)提出了很高的技術(shù)要求。

當(dāng)然，更重要的問(wèn)題，來(lái)自薄弱的法律框架。雖然韓國(guó)在2020年修訂了《信息通信網(wǎng)絡(luò)法》等相關(guān)法律，但對(duì)何為“深度偽造”以及“未經(jīng)同意”的細(xì)節(jié)界定還不夠明確，對(duì)使用深度偽造技術(shù)的處罰力度也較低。

首先，與很多國(guó)家一樣，韓國(guó)法律在未成年人犯罪的問(wèn)題上并沒(méi)有設(shè)置明確的量刑標(biāo)準(zhǔn)，這使得法官在判決時(shí)具有較大的自由裁量權(quán)，且往往會(huì)采取輕罪處理。

根據(jù)韓國(guó)國(guó)家統(tǒng)計(jì)局的數(shù)據(jù)，在2020年，韓國(guó)有超過(guò)60%的未成年人犯罪案件被判處了非監(jiān)禁類(lèi)的懲罰，包括社區(qū)服務(wù)、警告和心理輔導(dǎo)等。對(duì)于重復(fù)犯罪或情節(jié)嚴(yán)重的案件，法院可能會(huì)判處短期的少管所拘留，但長(zhǎng)期監(jiān)禁的情況非常罕見(jiàn)。

此外，在韓國(guó)，即便犯下“深度偽造”罪行的是成年人，也很少有人被判入獄，大多數(shù)人都是被判處罰款與緩刑。

在首爾韓國(guó)犯罪學(xué)與司法研究所的研究員張多慧看來(lái)，之所以會(huì)出現(xiàn)這一情況，是因?yàn)樵诙鄶?shù)情況下，法官都傾向于認(rèn)為，數(shù)字性犯罪造成的傷害，沒(méi)有涉及直接身體接觸的性暴力那么嚴(yán)重。

尹錫悅的承諾

與其他國(guó)家相比，韓國(guó)的數(shù)字性犯罪問(wèn)題一直都更為嚴(yán)峻。

根據(jù)美國(guó)初創(chuàng)公司Security Hero在2023年發(fā)布的全球深度偽造報(bào)告，在全球所有涉及深度偽造色情內(nèi)容的案例中，有53%的受害者是韓國(guó)的歌手和女演員。

而在近期Telegram聊天室再次進(jìn)入公眾視野之前，很多人都還記得在2019年底逐漸曝光的“N號(hào)房”事件。

當(dāng)時(shí)，主要嫌犯趙主彬（網(wǎng)名“博士”）通過(guò)社交平臺(tái)Telegram建立多個(gè)秘密聊天室，將被威脅的女性（包括未成年人）作為性奴役的對(duì)象，并在聊天室內(nèi)共享非法拍攝的性視頻和照片。

這些事項(xiàng)在尹錫悅上臺(tái)后被暫緩，或是不再作為優(yōu)先事項(xiàng)進(jìn)行處理。

這一事件的曝光，讓韓國(guó)社會(huì)一片嘩然。時(shí)任韓國(guó)總統(tǒng)文在寅對(duì)此表示了嚴(yán)厲譴責(zé)。他指示韓國(guó)警方和檢察機(jī)關(guān)要徹底調(diào)查此案，不僅要嚴(yán)懲直接參與犯罪的人，還要追究所有間接參與或幫助傳播的人。

在任期內(nèi)，他推動(dòng)了《信息通信網(wǎng)絡(luò)法》的修訂，以加大對(duì)數(shù)字性犯罪的懲罰力度，特別是針對(duì)涉及未成年人的犯罪行為；并支持通過(guò)《兒童青少年性保護(hù)法》修正案，進(jìn)一步強(qiáng)化對(duì)未成年受害者的保護(hù)。

與此同時(shí)，文在寅還積極推動(dòng)加強(qiáng)對(duì)社交媒體平臺(tái)的監(jiān)管，要求這些平臺(tái)對(duì)非法內(nèi)容的傳播承擔(dān)更大的責(zé)任。

只是，這些事項(xiàng)在尹錫悅上臺(tái)后被暫緩，或是不再作為優(yōu)先事項(xiàng)進(jìn)行處理。

當(dāng)然，這種變化可能部分源于新政府的不同政策優(yōu)先級(jí)，以及在數(shù)字監(jiān)管和個(gè)人自由之間的政策平衡。但考慮到尹錫悅在2022年韓國(guó)總統(tǒng)大選期間采取的“反女權(quán)主義”性別策略，他的政策選擇并不令人意外。

只是，當(dāng)如此猖獗的犯罪行為再次出現(xiàn)時(shí)，尹錫悅也不得不再次正視這一問(wèn)題。

目前，尹錫悅總統(tǒng)辦公室稱(chēng)，尹錫悅已在內(nèi)閣會(huì)議上呼吁當(dāng)局徹底調(diào)查和解決這些數(shù)字性犯罪，并承諾要進(jìn)一步加強(qiáng)對(duì)違法內(nèi)容的打擊力度，同時(shí)提升網(wǎng)絡(luò)平臺(tái)的監(jiān)管能力，以“徹底根除它們”。

但尹錫悅?cè)詢(xún)A向于將此次深度偽造事件視作獨(dú)立事件。即便數(shù)字性犯罪行為的性別特征如此顯著，尹錫悅?cè)詮?qiáng)調(diào)，深度偽造技術(shù)的惡意，會(huì)讓“任何人都可能成為受害者”。

迄今為止，尹錫悅未曾提到這一問(wèn)題背后折射出的結(jié)構(gòu)性矛盾。事實(shí)上，他曾多次表示，他不認(rèn)為韓國(guó)存在系統(tǒng)性的性別歧視問(wèn)題。

（文中小慧為化名）

責(zé)任編輯何承波 hcb@nfcmag.com