抖音上線“評(píng)論發(fā)文警示”等功能

鄭見

近日，抖音官方本周發(fā)布公告宣布多舉措預(yù)防網(wǎng)暴，首家上線“評(píng)論發(fā)文警示”等功能。

公告顯示，抖音全面升級(jí)平臺(tái)預(yù)防網(wǎng)暴能力，為用戶提供了8項(xiàng)功能，全方位地管理評(píng)論和私信。其中，針對(duì)不當(dāng)私信，新上線“風(fēng)險(xiǎn)提醒”和“負(fù)向內(nèi)容過濾”等功能；針對(duì)已發(fā)送的不當(dāng)評(píng)論，即將上線國(guó)內(nèi)首個(gè)“發(fā)文警示”功能，進(jìn)行攔截。

數(shù)據(jù)顯示，抖音每天產(chǎn)生8億條評(píng)論，其中，被投訴、舉報(bào)并最終處理的不當(dāng)評(píng)論中，謾罵，人身攻擊占比32.79 %。

針對(duì)評(píng)論，抖音即將上線國(guó)內(nèi)首個(gè)“發(fā)文警示”功能。該功能下，若系統(tǒng)模型判定已經(jīng)發(fā)送的評(píng)論存在問題，則會(huì)推送彈窗提醒，建議發(fā)送者重新編輯，去除不當(dāng)言論。如果發(fā)送者堅(jiān)持發(fā)送，則該條評(píng)論不會(huì)在評(píng)論區(qū)出現(xiàn)。近期，該功能已開啟小范圍測(cè)試。

此前，抖音已上線“評(píng)論權(quán)限分層管理”“關(guān)鍵詞屏蔽”“評(píng)論精選”3項(xiàng)功能。在“評(píng)論權(quán)限分層管理”下，用戶可通過“權(quán)限設(shè)置-高級(jí)設(shè)置-誰可以評(píng)論”設(shè)置評(píng)論權(quán)限，根據(jù)自身需求從“所有人”“僅粉絲”“僅互關(guān)朋友”“僅自己”4個(gè)選項(xiàng)中，自主選取誰可以對(duì)自己發(fā)布的內(nèi)容進(jìn)行評(píng)論。

私信方面，抖音新增“用戶風(fēng)險(xiǎn)提醒”和“負(fù)向內(nèi)容過濾”兩大功能。在“用戶風(fēng)險(xiǎn)提醒”功能下，當(dāng)系統(tǒng)模型識(shí)別發(fā)現(xiàn)，用戶剛接收的陌生人私信存在風(fēng)險(xiǎn)時(shí)，會(huì)對(duì)用戶推送彈窗，提示其“是否認(rèn)識(shí)該用戶”。如果用戶選擇“不認(rèn)識(shí)”，系統(tǒng)會(huì)再次彈窗，提示用戶可進(jìn)行“拉黑、舉報(bào)、移除粉絲”等操作。目前，該功能日均會(huì)對(duì)25萬次會(huì)話發(fā)出風(fēng)險(xiǎn)提示。

在“負(fù)向內(nèi)容過濾”功能下，當(dāng)模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會(huì)被直接放入“陌生人盒子—垃圾信息”中。此外，抖音還推出了“心情暖寶寶”助手，可以根據(jù)用戶內(nèi)容情緒傾向，通過消息對(duì)話的交互方式，緩解用戶的負(fù)向情緒。