保護(hù)數(shù)字世界的兒童：理念、工具與制度

【摘要】保護(hù)數(shù)量龐大的未成年人，應(yīng)對(duì)相關(guān)的網(wǎng)絡(luò)安全問(wèn)題，是當(dāng)下全球性的棘手難題。英國(guó)的《網(wǎng)絡(luò)服務(wù)適齡設(shè)計(jì)實(shí)踐準(zhǔn)則》著眼建立普遍的數(shù)字內(nèi)容出版制作標(biāo)準(zhǔn)，成為全球未成年人網(wǎng)絡(luò)保護(hù)的重要制度創(chuàng)新。其秉持“保護(hù)數(shù)字世界中的兒童，而不是保護(hù)兒童遠(yuǎn)離數(shù)字世界”的理念；以“可能接觸原則”劃定準(zhǔn)則適用范圍；設(shè)立兒童利益最大化的三大原則框架；在數(shù)據(jù)保護(hù)、產(chǎn)品設(shè)計(jì)、關(guān)鍵技術(shù)等方面建立標(biāo)準(zhǔn)，以應(yīng)用場(chǎng)景設(shè)定數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)；以年齡段設(shè)立網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)要求；規(guī)制助推、默認(rèn)設(shè)置、推薦算法等關(guān)鍵技術(shù)?！毒W(wǎng)絡(luò)服務(wù)適齡設(shè)計(jì)實(shí)踐準(zhǔn)則》對(duì)我國(guó)未成年人網(wǎng)絡(luò)保護(hù)工作的理念轉(zhuǎn)變、主體協(xié)調(diào)、制度構(gòu)建等具有一定的借鑒意義。

【關(guān)鍵詞】互聯(lián)網(wǎng)內(nèi)容制作準(zhǔn)則 適齡設(shè)計(jì) 未成年人保護(hù)

【中圖分類(lèi)號(hào)】G239 【文獻(xiàn)標(biāo)識(shí)碼】Ａ 【文章編號(hào)】1003-6687（2023）8-105-08

【DOI】10.13786/j.cnki.cn14-1066/g2.2023.8.015

保護(hù)數(shù)量龐大的未成年人，應(yīng)對(duì)相關(guān)的網(wǎng)絡(luò)安全問(wèn)題，是當(dāng)下全球性的棘手難題，也是我國(guó)未成年人保護(hù)工作的重要挑戰(zhàn)。中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）與共青團(tuán)中央維護(hù)青少年權(quán)益部聯(lián)合發(fā)布的《2021年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》顯示，截至2021年12月，我國(guó)未成年網(wǎng)民達(dá)1.91億人，未成年人互聯(lián)網(wǎng)普及率為96.8%。[1]我國(guó)未成年網(wǎng)民群體呈現(xiàn)網(wǎng)絡(luò)普及率高、數(shù)量大、低齡化等特征。保護(hù)這些未成年人的網(wǎng)絡(luò)安全成為全社會(huì)關(guān)注的迫切問(wèn)題。

近年來(lái)，我國(guó)通過(guò)制定《中華人民共和國(guó)未成年人保護(hù)法》（以下簡(jiǎn)稱(chēng)《未成年人保護(hù)法》）、《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱(chēng)《個(gè)人信息保護(hù)法》）和《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》等法律法規(guī)來(lái)保護(hù)未成年人的網(wǎng)絡(luò)安全，雖然取得了一定的成效，但依然存在不少問(wèn)題。制度方面，宏觀的法律法規(guī)較多，具體可操作的制度較少。宏觀的保護(hù)性法律法規(guī)如何落實(shí)到具體的網(wǎng)絡(luò)產(chǎn)品中，尚缺少明確、可操作的制度措施。如《未成年人保護(hù)法》第七十四條規(guī)定，網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者不得向未成年人提供誘導(dǎo)其沉迷的產(chǎn)品和服務(wù)。[2]然而，在具體實(shí)踐層面，企業(yè)應(yīng)如何不提供導(dǎo)致未成年人沉迷的網(wǎng)絡(luò)產(chǎn)品和服務(wù)，目前尚未見(jiàn)到可遵循的制度標(biāo)準(zhǔn)。保護(hù)主體方面，現(xiàn)有相關(guān)制度對(duì)不同年齡段的未成年人未做細(xì)分處理，但實(shí)際情況是，18歲以下的不同年齡層次的未成年人群體，相互間在網(wǎng)絡(luò)需求和能力等方面的差異較大，整齊劃一的標(biāo)準(zhǔn)缺乏針對(duì)性，有效性欠佳。雖然相關(guān)政府部門(mén)針對(duì)不同年齡段的未成年人，也嘗試開(kāi)展差異化保護(hù)，但仍不深入。如國(guó)家新聞出版署在2019年11月發(fā)布的《關(guān)于防止未成年人沉迷網(wǎng)絡(luò)游戲的通知》中提出：“網(wǎng)絡(luò)游戲企業(yè)探索實(shí)施適齡提示制度，從多維度綜合衡量，對(duì)不同年齡段用戶給出相應(yīng)提示，幫助未成年人、家長(zhǎng)和老師等更好區(qū)分網(wǎng)絡(luò)游戲，引導(dǎo)未成年人更好使用網(wǎng)絡(luò)游戲?！盵3]2020年12月，中國(guó)音像與數(shù)字出版協(xié)會(huì)游戲出版物工作委員會(huì)編制了游戲業(yè)《網(wǎng)絡(luò)游戲適齡提示》團(tuán)體標(biāo)準(zhǔn)，為未成年人及其監(jiān)護(hù)人提供了解游戲產(chǎn)品是否適用的提示信息。適齡游戲提示主要在使用環(huán)節(jié)提供輔助提示信息，但在更為重要的網(wǎng)絡(luò)內(nèi)容生產(chǎn)制作環(huán)節(jié)，尚未見(jiàn)到有效舉措。保護(hù)未成年人的網(wǎng)絡(luò)安全，在源頭上的網(wǎng)絡(luò)產(chǎn)品與服務(wù)的制作出版階段，就應(yīng)建立具體、有針對(duì)性的可操作標(biāo)準(zhǔn)。

英國(guó)在2020年9月公布了《網(wǎng)絡(luò)服務(wù)適齡設(shè)計(jì)實(shí)踐準(zhǔn)則》（Age Appropriate Design： a Code of Practice for Online Services，以下簡(jiǎn)稱(chēng)《準(zhǔn)則》），針對(duì)所有兒童可能接觸的網(wǎng)絡(luò)服務(wù)產(chǎn)品，制定了分年齡段的設(shè)計(jì)制作指引，為企業(yè)提供了較為明確和可操作的規(guī)范標(biāo)準(zhǔn)。[4]《準(zhǔn)則》給企業(yè)留有一年的調(diào)整期，2021年9月開(kāi)始正式實(shí)施。英國(guó)信息專(zhuān)員辦公室（ICO）在制定《準(zhǔn)則》的過(guò)程中，參考了家長(zhǎng)、兒童、學(xué)校、兒童運(yùn)動(dòng)團(tuán)體、軟件開(kāi)發(fā)商、科技和游戲公司等各方意見(jiàn)，制定了15條具體的網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)標(biāo)準(zhǔn)。

《準(zhǔn)則》是全球未成年人網(wǎng)絡(luò)保護(hù)制度的重要?jiǎng)?chuàng)新，對(duì)各國(guó)未成年人網(wǎng)絡(luò)保護(hù)政策和各大互聯(lián)網(wǎng)公司產(chǎn)生了顯著影響。2022年9月，美國(guó)加州參考該《準(zhǔn)則》，通過(guò)了《加州網(wǎng)絡(luò)適齡設(shè)計(jì)規(guī)范法案》。受該《準(zhǔn)則》影響，谷歌對(duì)未成年用戶停止個(gè)性化廣告推薦，關(guān)閉地理定位歷史記錄，自動(dòng)開(kāi)啟安全搜索模式；TikTok將16歲以下賬號(hào)默認(rèn)設(shè)置為個(gè)人可見(jiàn)；Instagram不再允許成年用戶直接私信18歲以下用戶；YouTube移除自動(dòng)播放功能，防止兒童沉迷于觀看視頻。

一、《準(zhǔn)則》的理念

1. 保護(hù)數(shù)字世界中的兒童，而不是保護(hù)兒童遠(yuǎn)離數(shù)字世界

“保護(hù)數(shù)字世界的兒童，而不是保護(hù)兒童遠(yuǎn)離數(shù)字世界”，在《準(zhǔn)則》的前言中，英國(guó)信息保護(hù)專(zhuān)員首先聲明了《準(zhǔn)則》設(shè)立的初衷。在當(dāng)下信息化時(shí)代，為保護(hù)兒童免受可能的威脅而讓他們遠(yuǎn)離互聯(lián)網(wǎng)，顯然不現(xiàn)實(shí)，也剝奪了兒童應(yīng)有的使用數(shù)字信息技術(shù)學(xué)習(xí)、成長(zhǎng)的權(quán)利?！稖?zhǔn)則》不是禁止未成年人使用網(wǎng)絡(luò)信息服務(wù)產(chǎn)品，而是在網(wǎng)絡(luò)內(nèi)容生產(chǎn)領(lǐng)域制定措施，構(gòu)建有益于未成年人成長(zhǎng)的數(shù)字世界，保護(hù)數(shù)字世界中的兒童，很好地兼顧安全與發(fā)展兩方面的需求。

《準(zhǔn)則》的理念源于聯(lián)合國(guó)《兒童權(quán)利公約》提倡的“兒童在生活的各方面需要特殊的保障”。在網(wǎng)絡(luò)世界，兒童需要特殊保護(hù)?！稖?zhǔn)則》要求企業(yè)在網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)中充分考慮可能的未成年人使用情景，首先確保產(chǎn)品和服務(wù)不會(huì)對(duì)未成年人產(chǎn)生不良影響，其次應(yīng)對(duì)他們的健康成長(zhǎng)有益?！稖?zhǔn)則》要求企業(yè)識(shí)別和評(píng)估產(chǎn)品和服務(wù)對(duì)兒童的可能風(fēng)險(xiǎn)、潛在影響，以及在數(shù)據(jù)處理中可能造成的任何傷害或損害——無(wú)論是身體、情感、發(fā)展還是物質(zhì)的損害，包括身體傷害、網(wǎng)上誘導(dǎo)或其他性剝削；社交焦慮、自尊問(wèn)題、欺凌或同伴壓力；接觸有害或不適當(dāng)?shù)膬?nèi)容；誤導(dǎo)或不適當(dāng)?shù)南拗菩畔ⅲ还膭?lì)過(guò)度冒險(xiǎn)或不健康的行為；破壞父母的權(quán)威或責(zé)任；喪失自主權(quán)或權(quán)力（包括對(duì)數(shù)據(jù)的控制）；強(qiáng)迫性使用或注意力缺失癥；過(guò)多的觀看屏幕的時(shí)間；中斷或不充分的睡眠模式；經(jīng)濟(jì)剝削或不公平的商業(yè)壓力；任何其他重大的經(jīng)濟(jì)、社會(huì)或發(fā)展方面的不利因素等?！稖?zhǔn)則》對(duì)數(shù)字世界的未成年人可能遇到的安全威脅進(jìn)行了具體詳細(xì)的陳述。

2. 以兒童利益最大化為原則，設(shè)立兒童利益框架

構(gòu)建有益于未成年人成長(zhǎng)的數(shù)字世界，不單是保護(hù)未成年人不受傷害?！稖?zhǔn)則》明確要求企業(yè)在具體技術(shù)設(shè)計(jì)和產(chǎn)品開(kāi)發(fā)中，以兒童利益最大化為首要考慮因素?！稖?zhǔn)則》將兒童利益最大化原則具體化為“兒童守則：最佳利益框架”，要求企業(yè)在提供網(wǎng)絡(luò)信息服務(wù)和處理數(shù)據(jù)的過(guò)程中，基于兒童不斷發(fā)展的能力，重點(diǎn)保護(hù)兒童三個(gè)方面的權(quán)利：兒童身心健康與發(fā)展的“自我”權(quán)利、獲得資源的“支持”權(quán)利、“社會(huì)”權(quán)利。為保障這些權(quán)利的有效實(shí)施，《準(zhǔn)則》設(shè)置了相應(yīng)的保障條款。

“自我”權(quán)利是兒童身心健康和發(fā)展的權(quán)利，支持兒童不斷發(fā)展能力，以利于其形成和表達(dá)身份、界限和自我意識(shí)。要確保兒童能夠在對(duì)自己有影響的事務(wù)中表達(dá)觀點(diǎn)，企業(yè)要為兒童實(shí)現(xiàn)這些權(quán)利提供適齡的在線輔助工具，在與兒童的互動(dòng)中要采用符合其年齡特點(diǎn)、便于理解的信息形式等。

“支持”權(quán)利是兒童獲得支持自身發(fā)展和成長(zhǎng)資源的權(quán)利。產(chǎn)品設(shè)計(jì)要確保兒童獲得父母以及社會(huì)的支持?！稖?zhǔn)則》對(duì)不同年齡階段的兒童采取靈活的監(jiān)護(hù)人同意要求，建立了以13歲為數(shù)據(jù)保護(hù)年齡界限的父母同意機(jī)制。在個(gè)人數(shù)據(jù)獲取以及使用過(guò)程中，13歲以上的未成年人擁有一定的網(wǎng)絡(luò)行為決定權(quán)，13歲以下的兒童則需要監(jiān)護(hù)人授權(quán)。

“社會(huì)”權(quán)利是兒童群體的權(quán)利，包括那些脆弱的和有特殊需求的兒童。網(wǎng)絡(luò)產(chǎn)品應(yīng)承認(rèn)兒童在社會(huì)共享的資源和制度中也擁有利害關(guān)系。

二、《準(zhǔn)則》的內(nèi)容

1. 以“可能接觸原則”劃定準(zhǔn)則適用范圍

通常，未成年人網(wǎng)絡(luò)保護(hù)法律法規(guī)只針對(duì)面向未成年人的產(chǎn)品而制定。如美國(guó)的《兒童在線隱私保護(hù)法》（Children's Online Privacy Protection Act，COPPA），即針對(duì)面向兒童的在線服務(wù)而出臺(tái)，不包括Facebook等大眾化社交媒體。此類(lèi)法律法規(guī)默認(rèn)13歲以下的兒童不是大眾化社交平臺(tái)的主要受眾，而企業(yè)對(duì)兒童正在使用這些產(chǎn)品也不知情。此法出臺(tái)于1998年，當(dāng)時(shí)上網(wǎng)的兒童還是比較少的，但當(dāng)今互聯(lián)網(wǎng)廣泛普及，未成年人用戶占全球互聯(lián)網(wǎng)用戶總數(shù)的近三分之一，互聯(lián)網(wǎng)在社會(huì)中得到普遍應(yīng)用，未成年人接觸到各類(lèi)面向成年人的網(wǎng)絡(luò)產(chǎn)品和服務(wù)的概率增加。如只針對(duì)面向兒童的產(chǎn)品設(shè)定保護(hù)制度，保護(hù)的有效性將大為降低。

英國(guó)要求所有兒童可能接觸到的信息產(chǎn)品和服務(wù)提供者都遵守《準(zhǔn)則》，不僅限于專(zhuān)門(mén)針對(duì)兒童的信息產(chǎn)品和服務(wù)提供者。按照“可能接觸原則”，信息產(chǎn)品和服務(wù)既包括應(yīng)用程序和設(shè)備、搜索引擎、社交媒體平臺(tái)、流媒體、在線游戲等通過(guò)互聯(lián)網(wǎng)向用戶提供的產(chǎn)品或服務(wù)，也包括聯(lián)網(wǎng)玩具和其他設(shè)備。

“可能接觸原則”以網(wǎng)絡(luò)產(chǎn)品的應(yīng)用場(chǎng)景設(shè)定規(guī)制范圍，而不是以產(chǎn)品宣稱(chēng)的目標(biāo)服務(wù)對(duì)象劃定界線，解決了當(dāng)前兒童觸網(wǎng)途徑多樣的難題，既將當(dāng)前眾多的網(wǎng)絡(luò)信息產(chǎn)品以及聯(lián)網(wǎng)玩具、智能音箱等新型的數(shù)字產(chǎn)品涵蓋其中，又適用于未來(lái)可能出現(xiàn)的新技術(shù)、新產(chǎn)品、新應(yīng)用，具有較為普遍的適用性和良好的前瞻性。

2. 最小化使用數(shù)據(jù)，防止信息濫用與泄漏

未成年人在虛擬世界受到的安全威脅大部分與隱私相關(guān)，因此，有效保護(hù)未成年人相關(guān)的隱私數(shù)據(jù)至關(guān)重要?！稖?zhǔn)則》特別要求企業(yè)最小化使用未成年人相關(guān)數(shù)據(jù)，從原則、技術(shù)、存儲(chǔ)三方面提出了具體要求。一是在原則方面，要求企業(yè)僅收集必需的、最低量的個(gè)人數(shù)據(jù)，這些數(shù)據(jù)應(yīng)僅限于與保障服務(wù)有關(guān)的必要內(nèi)容，且應(yīng)在兒童或監(jiān)護(hù)人知情的情況下進(jìn)行收集。2023年4月4日，英國(guó)信息專(zhuān)員辦公室宣布對(duì)TikTok公司罰款1 270萬(wàn)英鎊，原因是該公司在未經(jīng)監(jiān)護(hù)人同意的情況下處理了近100萬(wàn)英國(guó)13歲以下兒童的數(shù)據(jù)。[5]二是在用戶界面設(shè)計(jì)方面，要求產(chǎn)品默認(rèn)采取高隱私設(shè)置，減少數(shù)據(jù)收集的行為。由于未成年人在使用相關(guān)產(chǎn)品時(shí)，很少改變默認(rèn)設(shè)置，所以企業(yè)應(yīng)將產(chǎn)品的默認(rèn)設(shè)置定為高隱私標(biāo)準(zhǔn)，以減少數(shù)據(jù)收集與使用，從而保護(hù)未成年人的信息安全。且在用戶改變默認(rèn)設(shè)置時(shí)，企業(yè)要給出適齡、明顯的提示信息，提醒未成年人應(yīng)在與家長(zhǎng)或其他成年人交流后再對(duì)設(shè)置進(jìn)行改變。此外，對(duì)一些重要的隱私信息，《準(zhǔn)則》特別作出強(qiáng)制性保護(hù)要求，如考慮到地理位置信息的泄漏可能直接威脅未成年人現(xiàn)實(shí)生活的安全，因此地理位置數(shù)據(jù)應(yīng)默認(rèn)關(guān)閉，除非企業(yè)提供了令人信服的合理理由。三是數(shù)據(jù)存儲(chǔ)時(shí)間應(yīng)盡可能短，只在必需的最短時(shí)間內(nèi)存儲(chǔ)數(shù)據(jù)。這一要求可減少因數(shù)據(jù)意外泄漏導(dǎo)致未成年人隱私泄漏的風(fēng)險(xiǎn)?！稖?zhǔn)則》還要求不得共享未成年人相關(guān)數(shù)據(jù)，除非有足夠信服的合法理由。這種最小化使用數(shù)據(jù)的原則可以最大限度防范未成年人數(shù)據(jù)濫用與泄漏。

為符合英國(guó)的《準(zhǔn)則》，全球眾多互聯(lián)網(wǎng)公司紛紛更新自己的產(chǎn)品和服務(wù)。如TikTok就在2021年2月，對(duì)16歲以下用戶的默認(rèn)隱私設(shè)置功能進(jìn)行了更新（見(jiàn)表1），以符合《準(zhǔn)則》要求。[6]

個(gè)人數(shù)據(jù)的保護(hù)需要兼顧用戶使用相關(guān)網(wǎng)絡(luò)產(chǎn)品和服務(wù)的體驗(yàn)，確保隱私保護(hù)與數(shù)據(jù)處理效率的平衡，《準(zhǔn)則》因此確立了區(qū)分核心處理場(chǎng)景與非核心處理場(chǎng)景的差別授權(quán)模式。核心處理場(chǎng)景指處理的數(shù)據(jù)是提供網(wǎng)絡(luò)核心服務(wù)不可或缺的，服務(wù)提供者已經(jīng)與兒童訂立服務(wù)合同且該兒童具有締結(jié)合同的法律能力，出于維護(hù)兒童合法利益或執(zhí)行公共任務(wù)的目的對(duì)兒童個(gè)人數(shù)據(jù)進(jìn)行處理，無(wú)須征得監(jiān)護(hù)人同意。①主要包括用戶賬戶創(chuàng)建和管理、用戶提交內(nèi)容的處理和存儲(chǔ)、為實(shí)現(xiàn)應(yīng)用程序功能而進(jìn)行的數(shù)據(jù)分析。[7]在核心處理場(chǎng)景中，企業(yè)無(wú)須每次在處理個(gè)人數(shù)據(jù)的行為時(shí)，尋求未成年人和監(jiān)護(hù)人的授權(quán)，這就提高了相關(guān)信息的處理效率，確保了產(chǎn)品具有較好的用戶體驗(yàn)。非核心處理場(chǎng)景指提供核心服務(wù)以外的其他業(yè)務(wù)（如開(kāi)展?fàn)I銷(xiāo)、改進(jìn)服務(wù)、使用cookies或類(lèi)似技術(shù)、與第三方共享、特殊類(lèi)別數(shù)據(jù)處理等），須征得13周歲以下兒童的監(jiān)護(hù)人或13周歲以上未成年人本人的同意。

區(qū)分核心與非核心場(chǎng)景的數(shù)據(jù)處理原則，根據(jù)數(shù)據(jù)用途和未成年人的判斷能力，賦予企業(yè)不同的處理權(quán)限和程序，這樣既確保了對(duì)未成年人個(gè)人信息提供必要的保護(hù)，又保證了對(duì)必需、合法數(shù)據(jù)進(jìn)行處理的效率，減少了部分不必要的監(jiān)護(hù)人同意流程，避免監(jiān)護(hù)人出現(xiàn)“同意疲勞”的情況，實(shí)現(xiàn)了未成年人網(wǎng)絡(luò)保護(hù)的效率和效力的平衡。

3. 明確網(wǎng)絡(luò)產(chǎn)品適齡設(shè)計(jì)要求

國(guó)際上將未成年人具備處理自身數(shù)據(jù)權(quán)力的年齡，稱(chēng)為數(shù)據(jù)同意年齡。英國(guó)和美國(guó)將13歲定為數(shù)據(jù)同意年齡，歐洲其他國(guó)家為16歲。我國(guó)《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》將數(shù)據(jù)同意年齡設(shè)定為14歲。不同年齡的未成年人在網(wǎng)絡(luò)需求、判斷能力和應(yīng)對(duì)安全風(fēng)險(xiǎn)能力等方面存在差異，如6歲、9歲、14歲，三個(gè)年齡階段的兒童網(wǎng)絡(luò)需求和自我保護(hù)能力是完全不同的，通過(guò)單一年齡界限以二元化的方式對(duì)未成年人進(jìn)行劃分，會(huì)出現(xiàn)保護(hù)不足與保護(hù)過(guò)度并存的問(wèn)題，影響保護(hù)制度的執(zhí)行效力。

《準(zhǔn)則》打破了以單一年齡界限二元式劃分未成年人的網(wǎng)絡(luò)保護(hù)模式，而是根據(jù)未成年人對(duì)規(guī)則的認(rèn)知理解能力、社會(huì)關(guān)系參與程度、面臨的數(shù)據(jù)風(fēng)險(xiǎn)情況、網(wǎng)絡(luò)產(chǎn)品用途等指標(biāo)，將18歲以下的未成年人分為五個(gè)年齡階段：0—5歲為學(xué)齡前期、6—9歲為學(xué)齡初期、10—12歲為過(guò)渡期、13—15歲為青少年初期、16—17歲為即將成年期?！稖?zhǔn)則》圍繞透明度、家長(zhǎng)控制、助推技術(shù)、在線工具四方面，針對(duì)各年齡段未成年人用戶設(shè)立了相應(yīng)的網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)指引（見(jiàn)下頁(yè)表2）。指引不僅列出禁止企業(yè)做什么，還明確網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)應(yīng)該做什么，引導(dǎo)企業(yè)開(kāi)發(fā)適合未成年人年齡階段的產(chǎn)品和服務(wù)。對(duì)企業(yè)而言，《準(zhǔn)則》具有非常強(qiáng)的可操作性，在開(kāi)發(fā)和提供產(chǎn)品與服務(wù)的過(guò)程中能夠有據(jù)可依。尤其是對(duì)一些中小企業(yè)而言，相較于禁止性指令，《準(zhǔn)則》的要求更為明確和具有可操作性。

4. 為助推、算法推薦等關(guān)鍵技術(shù)畫(huà)紅線

手機(jī)應(yīng)用程序等具有強(qiáng)大吸引力的原因，一定程度上是其在技術(shù)層面的某些設(shè)置容易致人沉迷上癮，未成年人更是難以抵擋其誘惑。因此，需在產(chǎn)品開(kāi)發(fā)設(shè)計(jì)階段對(duì)這些關(guān)鍵技術(shù)設(shè)定應(yīng)用邊界，以有效保護(hù)未成年人。《準(zhǔn)則》對(duì)助推和算法推薦等技術(shù)畫(huà)定了應(yīng)用紅線。

一方面，限制助推技術(shù)，保護(hù)兒童隱私。《準(zhǔn)則》要求企業(yè)“不要使用助推技術(shù)來(lái)引導(dǎo)或鼓勵(lì)兒童提供不必要的個(gè)人數(shù)據(jù)，以及削弱或關(guān)閉他們的隱私保護(hù)功能”。助推技術(shù)是指產(chǎn)品或服務(wù)的提供者刻意引導(dǎo)或鼓勵(lì)用戶在決策時(shí)遵循設(shè)計(jì)者設(shè)置的默認(rèn)選項(xiàng)。如當(dāng)一些設(shè)計(jì)者希望獲得用戶授權(quán)時(shí)，會(huì)把同意授權(quán)的選項(xiàng)做得更為顯眼?！稖?zhǔn)則》認(rèn)為，在線上服務(wù)設(shè)計(jì)中使用助推技術(shù)，可能導(dǎo)致用戶被鼓勵(lì)允許平臺(tái)獲取比他們自愿提供的更多的個(gè)人數(shù)據(jù)，損害兒童的利益。2018年，兒童保護(hù)組織5Rights曾發(fā)表報(bào)告，揭示商家會(huì)使用行為科學(xué)和心理學(xué)理論來(lái)操縱兒童放棄更多個(gè)人數(shù)據(jù)，包括延長(zhǎng)他們的上網(wǎng)時(shí)間等，以獲取更多商業(yè)利益。[8]《準(zhǔn)則》限制助推技術(shù)潛在的不良應(yīng)用場(chǎng)景，眾多互聯(lián)網(wǎng)公司都響應(yīng)《準(zhǔn)則》要求，對(duì)自己的產(chǎn)品進(jìn)行了調(diào)整（見(jiàn)下頁(yè)表3）。

《準(zhǔn)則》鼓勵(lì)善用助推技術(shù)以促進(jìn)兒童健康成長(zhǎng)和保護(hù)兒童隱私。如兒童應(yīng)用POPJAM就使用助推技術(shù)來(lái)激勵(lì)兒童進(jìn)行創(chuàng)意表達(dá)和負(fù)責(zé)任的在線行為。當(dāng)用戶與其他用戶進(jìn)行積極互動(dòng)時(shí)，平臺(tái)會(huì)獎(jiǎng)勵(lì)其虛擬貼紙（見(jiàn)下頁(yè)圖1）和其他應(yīng)用內(nèi)物品。這種助推有助于營(yíng)造一個(gè)支持性和適齡的兒童網(wǎng)絡(luò)空間。[9]

另一方面，為算法推薦畫(huà)紅線，從技術(shù)底層防沉迷。當(dāng)下，算法技術(shù)得到廣泛應(yīng)用，自動(dòng)推薦已成為眾多網(wǎng)絡(luò)應(yīng)用的標(biāo)配?！稖?zhǔn)則》對(duì)這類(lèi)技術(shù)畫(huà)定了紅線：企業(yè)對(duì)使用未成年用戶個(gè)人數(shù)據(jù)進(jìn)行內(nèi)容推薦等信息處理行為負(fù)責(zé)，且應(yīng)將使用用戶數(shù)據(jù)進(jìn)行特征分析的選項(xiàng)默認(rèn)設(shè)置為“關(guān)閉”，只有用戶主動(dòng)設(shè)置為“開(kāi)啟”后，方可運(yùn)行相關(guān)程序。上述對(duì)助推和算法推薦等關(guān)鍵技術(shù)的規(guī)制，可以從技術(shù)底層著手，減少使未成年人沉迷的信息產(chǎn)品的出現(xiàn)。

5. 為未成年人提供在線輔助工具

實(shí)現(xiàn)未成年人權(quán)利框架中的自我權(quán)利，支持未成年人在對(duì)自己有影響的事務(wù)中表達(dá)觀點(diǎn)，企業(yè)需提供具體的技術(shù)支持。《準(zhǔn)則》要求企業(yè)為未成年人提供在線輔助工具，幫助其簡(jiǎn)單輕松地行使自身權(quán)利。企業(yè)要建立兒童緊急投訴、請(qǐng)求機(jī)制，允許未成年人陳述緊急情況，并根據(jù)相應(yīng)情況迅速采取行動(dòng)。在使用用戶的個(gè)人數(shù)據(jù)時(shí)，企業(yè)要適時(shí)通知并“一口氣解釋”，讓未成年人及時(shí)與監(jiān)護(hù)人進(jìn)行交流。在未成年人試圖改變隱私設(shè)置時(shí)，提供適合其年齡的解釋和提示，以預(yù)防這種改變可能引發(fā)的風(fēng)險(xiǎn)。未成年人的注意力、理解力的特殊性，要求企業(yè)在溝通過(guò)程中，以與未成年人年齡相符的友好方式傳達(dá)信息，通過(guò)圖標(biāo)、漫畫(huà)、圖形、視頻和音頻等形式，以游戲化和交互方式，吸引未成年人的注意，激發(fā)未成年人的興趣，而不是僅僅提供文字信息，以確保信息的有效傳遞。

6. 為家長(zhǎng)提供在線控制工具

家長(zhǎng)作為保護(hù)未成年人網(wǎng)絡(luò)安全的重要主體，在網(wǎng)絡(luò)空間履行監(jiān)護(hù)義務(wù)時(shí)，面臨一定的技術(shù)障礙。《準(zhǔn)則》要求企業(yè)為父母或監(jiān)護(hù)人提供在線活動(dòng)控制工具。同時(shí)，對(duì)家長(zhǎng)在線控制工具提供的功能做了較為詳細(xì)的要求，主要包括：設(shè)置兒童使用時(shí)長(zhǎng)、就寢時(shí)間、網(wǎng)站訪問(wèn)白名單、限制應(yīng)用內(nèi)購(gòu)買(mǎi)、監(jiān)控兒童在線活動(dòng)、跟蹤地理位置等功能。這些工具為家長(zhǎng)保護(hù)未成年人的網(wǎng)絡(luò)安全提供了較好的技術(shù)支持?！稖?zhǔn)則》公布后，眾多企業(yè)都按照要求提供了相關(guān)的家長(zhǎng)控制工具。2021年5月，TikTok推出了家長(zhǎng)控制工具Family Pairing，幫助家長(zhǎng)限制孩子接觸到的內(nèi)容，并確保其在線行為的安全（見(jiàn)表4）。[10]近年來(lái)，媒體報(bào)道眾多未成年人在直播中巨額打賞、在氪金游戲中購(gòu)買(mǎi)昂貴的裝備等事件，如果相關(guān)應(yīng)用程序提供了應(yīng)用內(nèi)購(gòu)買(mǎi)限制功能，將極大減少此類(lèi)事件的發(fā)生。此外，《準(zhǔn)則》還要求企業(yè)提供家長(zhǎng)工具時(shí)，需提示該選項(xiàng)適合的未成年人年齡信息，以便家長(zhǎng)更好地履行監(jiān)護(hù)義務(wù)賦能?！稖?zhǔn)則》還要求在運(yùn)行家長(zhǎng)控制工具時(shí)給未成年人顯著提醒信息，以維護(hù)其必要的知情權(quán)。

企業(yè)提供功能強(qiáng)大的家長(zhǎng)工具，一定程度上解決了家長(zhǎng)在保護(hù)未成年人網(wǎng)絡(luò)安全中能力不足的問(wèn)題，有利于更好地發(fā)揮家庭在保護(hù)未成年人網(wǎng)絡(luò)安全中的作用。

7. 為企業(yè)提供風(fēng)險(xiǎn)評(píng)估工具

《準(zhǔn)則》第2條要求，對(duì)企業(yè)處理未成年人數(shù)據(jù)可能給其權(quán)利帶來(lái)的影響，應(yīng)使用數(shù)據(jù)保護(hù)影響評(píng)估模板（Data Protection Impact Assessment，DPIA）等工具進(jìn)行系統(tǒng)性分析，及時(shí)、準(zhǔn)確了解自身履行相關(guān)責(zé)任情況。

數(shù)據(jù)保護(hù)影響評(píng)估模板是英國(guó)數(shù)據(jù)保護(hù)機(jī)構(gòu)制定的一項(xiàng)個(gè)人數(shù)據(jù)保護(hù)制度，旨在幫助企業(yè)識(shí)別和降低風(fēng)險(xiǎn)。DPIA可以幫助企業(yè)遵循《準(zhǔn)則》要求的數(shù)據(jù)最小化原則、訪問(wèn)控制工具、默認(rèn)設(shè)置等要求（見(jiàn)下頁(yè)表5），以保護(hù)兒童的隱私權(quán)和在線安全，降低企業(yè)無(wú)意違規(guī)的風(fēng)險(xiǎn)，避免可能的法律糾紛和罰款，還可提高用戶對(duì)企業(yè)的信任度，增強(qiáng)品牌聲譽(yù)和客戶忠誠(chéng)度。

8. 設(shè)置階梯式執(zhí)行工具箱

制度執(zhí)行方面，《準(zhǔn)則》設(shè)置了從輕到重的階梯式執(zhí)行工具箱，包括評(píng)估通知、警告、申斥、執(zhí)行通知和處罰通知（行政罰款）。《準(zhǔn)則》雖不具有法律約束力，卻是整個(gè)英國(guó)數(shù)據(jù)保護(hù)制度的重要構(gòu)件，英國(guó)《數(shù)據(jù)保護(hù)法》指出，信息服務(wù)需要遵循標(biāo)準(zhǔn)，以便“確保它們遵守?cái)?shù)據(jù)保護(hù)法規(guī)定的保護(hù)兒童在線數(shù)據(jù)的義務(wù)”。對(duì)于嚴(yán)重違反數(shù)據(jù)保護(hù)原則的行為，可罰款2 000萬(wàn)歐元或企業(yè)每年全球營(yíng)業(yè)額的4%，以較高者為準(zhǔn)。這一套從提醒注意到高額經(jīng)濟(jì)處罰的執(zhí)行工具，具有一定的可操作性和合理的處罰力度，為《準(zhǔn)則》的有效實(shí)施提供了很好的保證。

三、《準(zhǔn)則》的啟示

當(dāng)前，我國(guó)未成年人網(wǎng)絡(luò)保護(hù)工作面臨的主要問(wèn)題有：一是理念方面，仍然延續(xù)數(shù)字化社會(huì)之前的保護(hù)遠(yuǎn)離的理念，未能針對(duì)互聯(lián)網(wǎng)設(shè)備廣泛普及的新情況更新保護(hù)理念；二是制度方面，宏觀法律法規(guī)等制度較多，具體可實(shí)踐可操作的標(biāo)準(zhǔn)鮮見(jiàn)，對(duì)網(wǎng)絡(luò)產(chǎn)品的關(guān)鍵技術(shù)和功能的規(guī)制不足；三是相關(guān)保護(hù)制度對(duì)主客體差異性考慮不足，針對(duì)不同年齡階段未成年網(wǎng)民需求和能力差異的考慮較少，對(duì)不同類(lèi)型網(wǎng)絡(luò)產(chǎn)品對(duì)未成年人的安全威脅程度的區(qū)分不夠；四是對(duì)多元主體參與未成年人網(wǎng)絡(luò)保護(hù)的具體支持不夠，未成年人網(wǎng)絡(luò)保護(hù)需要企業(yè)、家庭、社會(huì)等的多方參與，目前我國(guó)各主體參與度不夠，特別是在技術(shù)支持方面還不是很充分。

1. 轉(zhuǎn)變保護(hù)理念，從“保護(hù)兒童遠(yuǎn)離數(shù)字世界”到“保護(hù)數(shù)字世界的兒童”

我國(guó)未成年人網(wǎng)絡(luò)保護(hù)工作主要依靠青少年保護(hù)模式等技術(shù)工具，這類(lèi)工具限制使用時(shí)間、時(shí)長(zhǎng)等，以減少未成年人與互聯(lián)網(wǎng)的接觸，這類(lèi)基于遠(yuǎn)離理念的限制使用行為的措施，對(duì)防止未成年人沉迷于數(shù)字產(chǎn)品有一定的效果。不過(guò)，隨著數(shù)字技術(shù)的發(fā)展，在當(dāng)前的情況下，無(wú)論是在學(xué)習(xí)、娛樂(lè)還是生活中，讓未成年人遠(yuǎn)離數(shù)字世界顯然已不現(xiàn)實(shí)。

《準(zhǔn)則》基于兒童利益最大化原則，依循“保護(hù)數(shù)字世界的兒童，而不是保護(hù)兒童遠(yuǎn)離數(shù)字世界”的理念，建立網(wǎng)絡(luò)產(chǎn)品設(shè)計(jì)指引，推動(dòng)建立有益于未成年人成長(zhǎng)的數(shù)字生活環(huán)境。這一做法超越僅僅為目標(biāo)提供保護(hù)的理念，兼顧未成年人的保護(hù)與賦權(quán)發(fā)展，著眼建立對(duì)兒童友好的數(shù)字世界，適應(yīng)新的社會(huì)發(fā)展?fàn)顩r和兒童成長(zhǎng)需求。

此外，在當(dāng)下互聯(lián)網(wǎng)產(chǎn)品眾多的情況下，如何設(shè)立兒童網(wǎng)絡(luò)安全保護(hù)邊界是個(gè)難題，《準(zhǔn)則》以未成年人“可能接觸”原則，劃定需遵循未成年人保護(hù)制度的網(wǎng)絡(luò)產(chǎn)品范圍，具有較好覆蓋性和前瞻性。

2. 抓住未成年人網(wǎng)絡(luò)保護(hù)的關(guān)鍵主體和核心環(huán)節(jié)，建立技術(shù)規(guī)范指引

雖然我國(guó)頒布了不少保護(hù)未成年人網(wǎng)絡(luò)安全的法律法規(guī)，但大多為宏觀的理念性、原則性表述，缺少對(duì)關(guān)鍵主體——互聯(lián)網(wǎng)企業(yè)和核心環(huán)節(jié)網(wǎng)絡(luò)產(chǎn)品的具體制度要求。企業(yè)為未成年人提供了具體的網(wǎng)絡(luò)服務(wù)產(chǎn)品，進(jìn)而構(gòu)建了未成年人的網(wǎng)絡(luò)生活環(huán)境，因此對(duì)企業(yè)和網(wǎng)絡(luò)產(chǎn)品的規(guī)制至關(guān)重要。對(duì)企業(yè)開(kāi)發(fā)設(shè)計(jì)網(wǎng)絡(luò)產(chǎn)品應(yīng)建立明確具體的約束制度，從而提高保護(hù)的效率和效力。

《準(zhǔn)則》將法律法規(guī)的原則性條文轉(zhuǎn)化為具體可操作的明確規(guī)則，為網(wǎng)絡(luò)產(chǎn)品制定了具體的設(shè)計(jì)標(biāo)準(zhǔn)，給企業(yè)提供了可操作的遵循指南，讓未成年人網(wǎng)絡(luò)保護(hù)工作具有可操作性和可控制性。我國(guó)有必要依據(jù)《未成年人保護(hù)法》《個(gè)人信息保護(hù)法》《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》等法律法規(guī)，制定更為具體、可操作的網(wǎng)絡(luò)產(chǎn)品制作出版標(biāo)準(zhǔn)，深化未成年人網(wǎng)絡(luò)保護(hù)法律法規(guī)的實(shí)踐指引。

《準(zhǔn)則》圍繞未成年人網(wǎng)絡(luò)保護(hù)的關(guān)鍵主體和核心環(huán)節(jié)，針對(duì)互聯(lián)網(wǎng)企業(yè)和網(wǎng)絡(luò)產(chǎn)品設(shè)立有益于未成年人健康成長(zhǎng)的設(shè)計(jì)標(biāo)準(zhǔn)。盡管網(wǎng)絡(luò)產(chǎn)品千差萬(wàn)別，但抓住默認(rèn)設(shè)置、數(shù)據(jù)使用、信息樣式等核心功能和算法推薦、助推技術(shù)等關(guān)鍵技術(shù)制定相關(guān)規(guī)則，確實(shí)可以起到四兩撥千斤的作用。這種對(duì)網(wǎng)絡(luò)產(chǎn)品核心功能和關(guān)鍵細(xì)節(jié)立規(guī)定約的方式，是一種基于源頭和底層進(jìn)行治理的理念和方法，將極大提升未成年人網(wǎng)絡(luò)保護(hù)的效果，值得我們參考和借鑒。

3. 制定針對(duì)性保護(hù)措施，提高制度效能

不同年齡階段的未成年人在網(wǎng)絡(luò)需求、應(yīng)對(duì)安全風(fēng)險(xiǎn)和判斷能力等方面均存在較大差異，簡(jiǎn)單劃定一個(gè)年齡標(biāo)準(zhǔn)顯然無(wú)法滿足各年齡階段未成年人的保護(hù)與發(fā)展需求?！稖?zhǔn)則》根據(jù)對(duì)規(guī)則的認(rèn)知理解、社會(huì)關(guān)系的參與、面臨的數(shù)據(jù)風(fēng)險(xiǎn)、數(shù)字應(yīng)用的用途等指標(biāo)，將18歲以下未成年人細(xì)分為五個(gè)年齡段，確立不同的設(shè)計(jì)標(biāo)準(zhǔn)，讓保護(hù)制度的針對(duì)性極大提升。2022年9月，美國(guó)加利福尼亞州頒布的《加州適齡設(shè)計(jì)規(guī)范法案》（The California Age-Appropriate Design Code Act，AB 2273），也完全借鑒了英國(guó)《準(zhǔn)則》的年齡劃分標(biāo)準(zhǔn)，這種對(duì)未成年人進(jìn)行分年齡段保護(hù)的做法正在被各國(guó)采納。

當(dāng)前，我國(guó)網(wǎng)絡(luò)保護(hù)中的監(jiān)護(hù)人同意模式有不少問(wèn)題，眾多功能應(yīng)用頻繁需要監(jiān)護(hù)人同意，且相關(guān)內(nèi)容冗長(zhǎng)晦澀，不少監(jiān)護(hù)人實(shí)際上沒(méi)有閱讀內(nèi)容即勾選“同意”選項(xiàng)，“同意疲勞”現(xiàn)象較為普遍。此外，不少家長(zhǎng)缺乏足夠的時(shí)間與精力來(lái)監(jiān)督孩子的上網(wǎng)時(shí)間和上網(wǎng)活動(dòng)，對(duì)游戲等新奇的網(wǎng)絡(luò)應(yīng)用不熟悉、不了解，部分監(jiān)護(hù)人自身不具備網(wǎng)絡(luò)使用技能，家長(zhǎng)監(jiān)督的效果不佳。英國(guó)網(wǎng)絡(luò)適齡設(shè)計(jì)制度區(qū)分應(yīng)用的核心場(chǎng)景和非核心場(chǎng)景，根據(jù)同意內(nèi)容的必要性實(shí)施同意確認(rèn)程序，省去了監(jiān)護(hù)人與兒童的部分不必要確認(rèn)程序，既保證了重要、必要信息的高效處理，也提高了保護(hù)的效率和效力，這一做法值得我們參考。

4. 提供技術(shù)工具，賦權(quán)賦能多元主體有效參與

未成年人網(wǎng)絡(luò)安全保護(hù)需企業(yè)、家庭、社會(huì)各方的共同參與，在實(shí)踐中企業(yè)缺乏有效可靠的具體執(zhí)行標(biāo)準(zhǔn)及自我核查工具，一些家長(zhǎng)及未成年人在履行保護(hù)能力和條件方面存在一定的困難。《準(zhǔn)則》為企業(yè)提供了產(chǎn)品設(shè)計(jì)的標(biāo)準(zhǔn)以及自我評(píng)估工具，讓保護(hù)責(zé)任的落實(shí)更加明確和可操作?！稖?zhǔn)則》要求企業(yè)分別為家長(zhǎng)及未成年人提供有效的網(wǎng)絡(luò)保護(hù)工具，這種技術(shù)賦能極大提升了家長(zhǎng)和未成年人自我保護(hù)的能力。這些賦能賦權(quán)舉措，提高了相關(guān)主體參與保護(hù)的能力，有利于形成多元主體共同參與未成年人網(wǎng)絡(luò)安全保護(hù)的良好格局。

參考文獻(xiàn)：

[1] 共青團(tuán)中央維護(hù)青少年權(quán)益部，中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心. 2021年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告[EB/OL].[2022-11-30].https：//news.youth.cn/gn/202211/t20221130_14165457.htm.

[2] 中華人民共和國(guó)未成年人保護(hù)法[EB/OL].[2020-10-17].http：//www.npc.gov.cn/npc/c30834/202010/82a8f1b84350432cac03b1e382ee1744.shtml.

[3] 國(guó)家新聞出版署. 國(guó)家新聞出版署關(guān)于防止未成年人沉迷網(wǎng)絡(luò)游戲的通知[EB/OL].[2019-11-19].https：//www.nppa.gov.cn/nppa/contents/312/74539.shtml.https：//www.nppa.gov.cn/nppa/contents/312/74539.shtml.

[4] ICO. Background to the children's code[EB/OL].[2022-02-07]. https：//ico.org.uk/about-the-ico/what-we-do/background-to-the-children-s-code/.

[5] McCallum S， Gerken T， Kleinman Z. TikTok fined ￡12.7m for misusing children's data[EB/OL].[2023-04-04].https：//www.bbc.com/news/uk-65175902.

[6] TikTok. 隱私政策調(diào)整說(shuō)明[EB/OL].[2021-01-31].https：//newsroom.tiktok.com/en-us/strengthening-privacy-and-safety-for-youth.

[7] Shilton K. Data Leverage： A Framework for Empowering the Public in its Relationship with Technology Companies[J]. Journal of Information Policy， 2018（8）：46-71.

[8] Baroness Beeban Kidron. Digital Childhood - Addressing Childhood Development Milestones in the Digital Environment[EB/OL].[2017-12-31]. https：//5rightsfoundation.com/static/Digital_Childhood_report_-_EMBARGOED.pdf.

[9] PopJam[EB/OL].[2023-06-30].https：//www.popjam.com/.

[10] TikTok. Introducing Family Pairing[EB/OL].[2023-06-30].https：//newsroom.tiktok.com/en-us/introducing-family-pairing.

Protecting Children in the Digital World： Concepts， Tools and Systems

——UK Age Appropriate Design Code and Its Implications

ZHANG JIAN-jun（Journalism and Communication College， Tianjin Normal University， Tianjin 300387，? China）

Abstract： Protecting the online safety of a vast number of minors is a pressing global issue. The UK's Age Appropriate Design Code aims to establish universal standards for digital content creation and has become a crucial institutional innovation for safeguarding minors online worldwide. The code adheres to the principle of "protecting children within the digital world， rather than shielding them from it"， delineates the scope of application based on the "likelihood of access" principle， and sets up a three-principle framework to maximize children's interests. It establishes standards for data protection， product design， and essential technologies in various aspects， including setting data protection standards according to application scenarios， formulating online product design requirements based on age groups， and regulating critical technologies such as boosting， default settings， and recommendation algorithms. This code offers valuable insights for the conceptual shift， coordination of relevant stakeholders， and development of institutional frameworks in China's efforts to protect minors online.

Keywords： internet content production standards; age-appropriate design; protection of minors

基金項(xiàng)目：國(guó)家社會(huì)科學(xué)基金一般項(xiàng)目“我國(guó)互聯(lián)網(wǎng)多元主體合作治理模式研究”（19BXW119）

作者信息：張建軍（1979— ），男，內(nèi)蒙古鄂爾多斯人，天津師范大學(xué)新聞傳播學(xué)院副教授，主要研究方向：新媒體傳播、互聯(lián)網(wǎng)治理。