李欣
從2018年下半年到2020年3月,犯罪分子通過(guò)社交平臺(tái)大規(guī)模傳播、銷售性犯罪視頻,這就是引發(fā)社會(huì)熱議的韓國(guó)“N號(hào)房”事件,其中受害者包括大量未成年女童。繼“藍(lán)鯨事件”“兒童邪典片”等事件后,未成年人的網(wǎng)絡(luò)保護(hù)問(wèn)題再一次成為全球關(guān)注的焦點(diǎn)。
近幾年,我國(guó)未成年人用網(wǎng)人數(shù)激增、首次觸網(wǎng)年齡持續(xù)走低?;ヂ?lián)網(wǎng)極大豐富了未成年人的學(xué)習(xí)生活,但他們的網(wǎng)絡(luò)安全難以保障,且未成年人容易受網(wǎng)絡(luò)不良內(nèi)容的影響,造成道德觀念混亂,不利于健全的心理與人格發(fā)展,甚至可能誘發(fā)他們的違法和犯罪行為。《2018年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》表明:15.6%的未成年人曾有過(guò)網(wǎng)上諷刺、謾罵、惡意騷擾和個(gè)人信息被公開(kāi)等經(jīng)歷。30.3%的未成年人曾在上網(wǎng)過(guò)程中接觸到暴力、賭博、吸毒、色情等不良信息?!段闯赡耆藱?quán)益保護(hù)創(chuàng)新發(fā)展白皮書(2009-2019)》顯示,近七成未成年人犯罪案件中存在未成年人不正常接觸網(wǎng)絡(luò)不良信息的問(wèn)題。利用網(wǎng)絡(luò)侵害未成年人的犯罪數(shù)量一直在增加,犯罪分子通過(guò)網(wǎng)絡(luò)更容易選擇和接觸犯罪目標(biāo),對(duì)未成年人進(jìn)行誘惑和威脅后,再通過(guò)網(wǎng)絡(luò)擴(kuò)散,增加了未成年人遭受二次傷害的風(fēng)險(xiǎn)。而由于網(wǎng)絡(luò)侵害隱蔽性更強(qiáng),調(diào)查取證困難,增加了相關(guān)部門打擊、處罰的難度。
網(wǎng)絡(luò)分類分級(jí)管理勢(shì)在必行
在網(wǎng)絡(luò)空間確認(rèn)未成年人身份、實(shí)施重點(diǎn)保護(hù)已成為我國(guó)社會(huì)各界的廣泛共識(shí),目前相關(guān)的探索與行動(dòng)已逐步開(kāi)展,相關(guān)部門和各界人士正合力凈化未成年人網(wǎng)絡(luò)環(huán)境,規(guī)范未成年人網(wǎng)絡(luò)秩序,保護(hù)未成年人網(wǎng)絡(luò)權(quán)益。
保護(hù)未成年人網(wǎng)絡(luò)權(quán)益,立法為先。面對(duì)互聯(lián)網(wǎng)生態(tài)提出的新問(wèn)題、新挑戰(zhàn),我國(guó)加快了未成年人網(wǎng)絡(luò)權(quán)益保護(hù)立法進(jìn)程,保護(hù)力度不斷加強(qiáng)、保護(hù)措施更加全面。
2017年6月1日,《中華人民共和國(guó)網(wǎng)絡(luò)安全法》提出設(shè)立未成年人網(wǎng)絡(luò)保護(hù)???,國(guó)家支持研發(fā)有利于未成年人健康成長(zhǎng)的網(wǎng)絡(luò)產(chǎn)品和服務(wù),嚴(yán)厲懲治利用網(wǎng)絡(luò)危害未成年人身心健康的活動(dòng)。2019年10月1日,《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》要求對(duì)“兒童個(gè)人信息”專門實(shí)施特殊保護(hù)。2020年3月1日,《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》明確規(guī)定在網(wǎng)絡(luò)生態(tài)多元共治的理念之下,設(shè)立??顚m?xiàng),用于幫助網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者和內(nèi)容服務(wù)平臺(tái)設(shè)立未成年人專欄、專區(qū)、專用模式?!吨腥A人民共和國(guó)未成年人保護(hù)法(修訂草案)》增設(shè)“網(wǎng)絡(luò)保護(hù)”專章,明確了網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者應(yīng)當(dāng)對(duì)用戶進(jìn)行分類,并設(shè)置相應(yīng)的時(shí)間管理、權(quán)限管理、消費(fèi)管理等,預(yù)防和干預(yù)未成年人沉迷網(wǎng)絡(luò)。
群力群策,保護(hù)未成年人網(wǎng)絡(luò)安全。社會(huì)各界也紛紛對(duì)網(wǎng)絡(luò)信息分類分級(jí)管理獻(xiàn)計(jì)獻(xiàn)策,并積極探索實(shí)踐措施。中華人民共和國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室統(tǒng)籌指導(dǎo)視頻平臺(tái)上線“青少年防沉迷系統(tǒng)”, 其中的青少年模式可對(duì)青少年用戶的使用時(shí)段、服務(wù)功能、在線時(shí)長(zhǎng)進(jìn)行限制,并向他們重點(diǎn)推薦寓教于樂(lè)的優(yōu)質(zhì)內(nèi)容。如騰訊公司建立“騰訊110”服務(wù),推出成長(zhǎng)守護(hù)平臺(tái)、健康系統(tǒng)和主動(dòng)服務(wù)工程等防沉迷體系,聯(lián)動(dòng)社會(huì)和產(chǎn)業(yè)力量,豐富網(wǎng)絡(luò)治理工具箱。目前,這一體系已覆蓋98%的騰訊游戲活躍用戶。
全國(guó)政協(xié)委員、公安部原副部長(zhǎng)陳智敏認(rèn)為,行政監(jiān)管仍有疏漏,執(zhí)法部門難以有針對(duì)性的監(jiān)管,需要加強(qiáng)對(duì)侵害未成年人權(quán)益行為的打擊。廣州市政協(xié)副主席于欣偉呼吁制定按年齡和內(nèi)容分級(jí)的健康網(wǎng)絡(luò)游戲的規(guī)范和標(biāo)準(zhǔn),把關(guān)技術(shù),在內(nèi)容審查的基礎(chǔ)上,實(shí)現(xiàn)分類指導(dǎo)和分級(jí)運(yùn)營(yíng)。啟明星辰信息技術(shù)集團(tuán)股份有限公司首席執(zhí)行官嚴(yán)望佳提出運(yùn)用技術(shù)防護(hù)手段營(yíng)造健康網(wǎng)絡(luò)環(huán)境的觀點(diǎn),采用大數(shù)據(jù)對(duì)未成年人網(wǎng)絡(luò)行為進(jìn)行精準(zhǔn)畫像,預(yù)測(cè)潛在網(wǎng)絡(luò)沉迷用戶群,并通報(bào)監(jiān)護(hù)人或相關(guān)監(jiān)管部門,做到提前預(yù)警和干預(yù)。騰訊董事會(huì)主席馬化騰主張建立“一站式”未成年人網(wǎng)絡(luò)使用管理平臺(tái),控制未成年人的上網(wǎng)時(shí)長(zhǎng)。
網(wǎng)絡(luò)分級(jí)分類監(jiān)管措施要切實(shí)有效
明確各方責(zé)任,強(qiáng)化監(jiān)督機(jī)制。司法機(jī)關(guān)、政府部門、企業(yè)、社會(huì)組織、學(xué)校和家庭共同推動(dòng),形成全社會(huì)共治的局面,可有效遏制未成年人網(wǎng)絡(luò)侵害。
互聯(lián)網(wǎng)信息部門統(tǒng)籌協(xié)調(diào)全國(guó)未成年人網(wǎng)絡(luò)保護(hù)工作,敦促教育、電信、公安、文化、監(jiān)管、媒體等有關(guān)部門依據(jù)各自職責(zé)做好市場(chǎng)準(zhǔn)入、內(nèi)容審核、教育引導(dǎo)、打擊犯罪等工作;落實(shí)已有未成年人網(wǎng)絡(luò)保護(hù)的相關(guān)法規(guī)和制度,建立可操作、可執(zhí)行、可督查、可追溯的未成年人網(wǎng)絡(luò)監(jiān)管機(jī)制,完善獎(jiǎng)勵(lì)、舉報(bào)、投訴規(guī)則,借用公眾的力量實(shí)施有效監(jiān)管,讓青少年網(wǎng)絡(luò)模式發(fā)揮實(shí)效。
學(xué)校和家庭要加強(qiáng)未成年人網(wǎng)絡(luò)素養(yǎng)教育,引導(dǎo)未成年人正確使用互聯(lián)網(wǎng)。家長(zhǎng)要履行未成年人網(wǎng)絡(luò)監(jiān)護(hù)和監(jiān)督責(zé)任,加強(qiáng)網(wǎng)絡(luò)安全意識(shí),了解孩子使用的互聯(lián)網(wǎng)服務(wù)、網(wǎng)絡(luò)來(lái)往對(duì)象,積極參與“家長(zhǎng)監(jiān)護(hù)工程”。如發(fā)現(xiàn)孩子瀏覽網(wǎng)絡(luò)不良信息或進(jìn)行不良在線活動(dòng),家長(zhǎng)要積極進(jìn)行教育和引導(dǎo),并向互聯(lián)網(wǎng)企業(yè)和監(jiān)管部門舉報(bào)。
互聯(lián)網(wǎng)企業(yè)要著眼長(zhǎng)遠(yuǎn),將未成年人保護(hù)放在最高優(yōu)先級(jí),制定保護(hù)措施,加強(qiáng)網(wǎng)絡(luò)監(jiān)管,發(fā)現(xiàn)問(wèn)題要及時(shí)干預(yù),建設(shè)青少年與網(wǎng)絡(luò)有害信息之間的防火墻。但目前,我國(guó)部分企業(yè)對(duì)未成年人網(wǎng)絡(luò)安全并不重視。最近,中國(guó)消費(fèi)者協(xié)會(huì)對(duì)50款游戲進(jìn)行體驗(yàn)后發(fā)現(xiàn),只有41款游戲啟用了實(shí)名制,17款游戲在登錄時(shí)強(qiáng)制用戶實(shí)名驗(yàn)證,不少游戲的實(shí)名驗(yàn)證方式形同虛設(shè)。
在未成年人有效識(shí)別、隱私保護(hù)、內(nèi)容分級(jí)等關(guān)鍵領(lǐng)域,進(jìn)行技術(shù)突破,研發(fā)針對(duì)未成年人網(wǎng)絡(luò)保護(hù)的技術(shù)與工具。目前,相關(guān)部門建立了“防沉迷系統(tǒng)”,但針對(duì)防沉迷模式的各類“破解”系統(tǒng)也迅速上線。保護(hù)與侵害的技術(shù)博弈一直在進(jìn)行,導(dǎo)致未成年人網(wǎng)絡(luò)保護(hù)實(shí)效性降低。互聯(lián)網(wǎng)企業(yè)要切實(shí)履行社會(huì)責(zé)任,加大防沉迷技術(shù)研發(fā),創(chuàng)新技術(shù)手段,提高繞開(kāi)防沉迷系統(tǒng)的技術(shù)門檻和時(shí)間成本。利用人臉、視頻、語(yǔ)音等技術(shù)提高對(duì)未成年人上網(wǎng)的識(shí)別精準(zhǔn)度,使未成年人上網(wǎng)只能以自己的身份實(shí)名認(rèn)證。
互聯(lián)網(wǎng)行業(yè)要針對(duì)未成年人的操作習(xí)慣、網(wǎng)絡(luò)行為等方面搭建大數(shù)據(jù)體系,運(yùn)用人工智能等技術(shù)主動(dòng)發(fā)現(xiàn)未成年用戶,建立全系統(tǒng)、全程的實(shí)時(shí)監(jiān)管和干預(yù)機(jī)制,讓防沉迷系統(tǒng)更加科學(xué)、高效。如騰訊公司為有效識(shí)別未成年人,不斷進(jìn)行技術(shù)迭代,接入“公安實(shí)名校驗(yàn)”,引入金融級(jí)別的“人臉識(shí)別”技術(shù),結(jié)合用戶畫像和大數(shù)據(jù)分析,進(jìn)行“小號(hào)識(shí)別與打擊”。
防沉迷系統(tǒng)等未成年人網(wǎng)絡(luò)保護(hù)措施在要求用戶提供真實(shí)身份信息進(jìn)行注冊(cè)時(shí),存在身份信息泄露的風(fēng)險(xiǎn)。互聯(lián)網(wǎng)企業(yè)需在技術(shù)上平衡未成年人身份確認(rèn)與隱私保護(hù)之間的關(guān)系,制定相關(guān)判斷標(biāo)準(zhǔn),區(qū)分影響未成年人身心健康的不良信息和適宜未成年人接觸的、具有正向價(jià)值的信息,開(kāi)發(fā)自動(dòng)分類分級(jí)的智能化技術(shù)平臺(tái),降低風(fēng)險(xiǎn)內(nèi)容識(shí)別成本,提高“適齡提示”的針對(duì)性和有效性。
疏堵結(jié)合,關(guān)鍵在疏,大力建設(shè)和繁榮健康的網(wǎng)絡(luò)內(nèi)容。實(shí)施未成年人網(wǎng)絡(luò)內(nèi)容分類后,若只禁止未成年人接觸互聯(lián)網(wǎng)不良內(nèi)容,但優(yōu)質(zhì)內(nèi)容缺位,那么分類分級(jí)管理機(jī)制便沒(méi)有意義。在青少年防沉迷系統(tǒng)上線后,多數(shù)主流互聯(lián)網(wǎng)視頻平臺(tái)構(gòu)建了寓教于樂(lè)的優(yōu)質(zhì)內(nèi)容池,其中包含課程教學(xué)、書法繪畫、親子教育、傳統(tǒng)文化、生活技能等內(nèi)容。短視頻平臺(tái)發(fā)揮教育、知識(shí)方面的優(yōu)勢(shì),構(gòu)建以“正能量+知識(shí)學(xué)習(xí)”為核心的內(nèi)容池,建立集安全性、豐富性、有用性、趣味性于一體的青少年模式,向青少年推送展示祖國(guó)大好河山、風(fēng)土人情、生產(chǎn)勞動(dòng)的精品內(nèi)容。但當(dāng)前適合未成年人的優(yōu)質(zhì)內(nèi)容開(kāi)發(fā)力度仍不夠,社會(huì)應(yīng)從更廣的品類和維度上為未成年人提供更豐富的網(wǎng)絡(luò)內(nèi)容,以青少年喜聞樂(lè)見(jiàn)的形式,制作集知識(shí)性、娛樂(lè)性、趣味性于一體的優(yōu)質(zhì)內(nèi)容,讓網(wǎng)絡(luò)空間逐漸成為傳播正能量的陣地。
推進(jìn)網(wǎng)絡(luò)信息內(nèi)容分類分級(jí)管理、針對(duì)未成年人實(shí)施網(wǎng)絡(luò)保護(hù)是社會(huì)共識(shí),但要?jiǎng)?wù)實(shí)推進(jìn)、取得實(shí)效并不容易。我們應(yīng)在機(jī)制上突出監(jiān)督作用,獎(jiǎng)優(yōu)罰劣,形成正向驅(qū)動(dòng);技術(shù)上,加強(qiáng)大數(shù)據(jù)和人工智能技術(shù)開(kāi)發(fā),有效“堵”住不良信息傳播渠道;內(nèi)容上,政府要加強(qiáng)投入、積極引導(dǎo),全社會(huì)共同建設(shè)未成年人專屬內(nèi)容,形成“疏”為主、“堵”為底的未成年人網(wǎng)絡(luò)信息內(nèi)容分類分級(jí)管理體系。
(作者系中國(guó)人民公安大學(xué)信息技術(shù)與網(wǎng)絡(luò)安全學(xué)院院長(zhǎng))
責(zé)任編輯:孫雨萱