以科技為驅(qū)動(dòng)，打造智能化的內(nèi)容風(fēng)控平臺(tái)

文/辛瑞佳

作者系人民網(wǎng)信息技術(shù)有限公司總經(jīng)理

當(dāng)然，依靠大量人審模式會(huì)大大降低內(nèi)容風(fēng)險(xiǎn)，但同時(shí)會(huì)大幅提升企業(yè)對(duì)人工審核的投入成本。而A I 技術(shù)、區(qū)塊鏈技術(shù)的發(fā)展和運(yùn)用，會(huì)極大提升內(nèi)容風(fēng)險(xiǎn)管控的能力和水平。在科技的浪潮下，技術(shù)和創(chuàng)新是提高審核效率最快的手段，人民網(wǎng)未來(lái)也將在科技上發(fā)力，研發(fā)基于人工智能的“風(fēng)控大腦”，并向全行業(yè)開(kāi)放使用。

近年來(lái)，隨著新媒體的發(fā)展，傳統(tǒng)的傳播方式已被顛覆，信息傳播門(mén)檻大幅降低。這在體現(xiàn)社會(huì)進(jìn)步、彰顯個(gè)性的同時(shí)，也為互聯(lián)網(wǎng)內(nèi)容安全埋下了隱患，如謠言、侵權(quán)、低俗暴力等不良信息泛濫，涉事平臺(tái)被約談、整改、產(chǎn)品下架的消息不絕于耳。在此背景下，人民網(wǎng)率先推出“內(nèi)容風(fēng)控業(yè)務(wù)”，目的是為維護(hù)互聯(lián)網(wǎng)內(nèi)容安全、凈化網(wǎng)絡(luò)空間趟出一條新路。該業(yè)務(wù)越來(lái)越受到社會(huì)重視，目前，人民網(wǎng)已承接了多家國(guó)內(nèi)外著名軟硬件廠商的內(nèi)容審核業(yè)務(wù)。

何為內(nèi)容風(fēng)控？

今年7月25日，人民網(wǎng)發(fā)布《深度融合發(fā)展三年規(guī)劃（綱要）》，致力打造“內(nèi)容科技”領(lǐng)軍企業(yè)，以人民日?qǐng)?bào)全媒體矩陣為基礎(chǔ)，全面匯聚主流媒體、商業(yè)平臺(tái)和社會(huì)創(chuàng)作力量，建設(shè)平臺(tái)型傳播高地?！渡疃热诤习l(fā)展三年規(guī)劃(綱要)》指出，未來(lái)人民網(wǎng)業(yè)務(wù)將瞄準(zhǔn)智能化方向，主要圍繞著“一二三四”展開(kāi)：“一”是一條主軸，即堅(jiān)持內(nèi)容一個(gè)主業(yè)；“二”是以技術(shù)和資本雙輪驅(qū)動(dòng)，孵化產(chǎn)業(yè)、積累數(shù)據(jù)，形成兩翼；“三”是打造人民視頻、黨建云、領(lǐng)導(dǎo)留言板三大移動(dòng)端產(chǎn)品；“四”是建設(shè)內(nèi)容原創(chuàng)、內(nèi)容運(yùn)營(yíng)、內(nèi)容風(fēng)控和內(nèi)容聚發(fā)四個(gè)層次的內(nèi)容業(yè)務(wù)體系。

可以看到，內(nèi)容風(fēng)控業(yè)務(wù)是人民網(wǎng)內(nèi)容業(yè)務(wù)的重要組成部分。而作為新興業(yè)務(wù)形態(tài)，這一業(yè)務(wù)受到市場(chǎng)的巨大關(guān)注。那么，內(nèi)容風(fēng)控到底是一件什么樣的事情？?jī)?nèi)容風(fēng)控是介于內(nèi)容生產(chǎn)和傳播之間的“閘口”角色，起到承上啟下的作用，既要保證內(nèi)容能夠傳播，又要保證在傳播的過(guò)程中不會(huì)出現(xiàn)問(wèn)題。最終的目標(biāo)是在安全的情況下，最大程度地去傳遞優(yōu)質(zhì)內(nèi)容。

內(nèi)容風(fēng)控業(yè)務(wù)的意義

內(nèi)容風(fēng)控業(yè)務(wù)是一項(xiàng)具有很高的社會(huì)價(jià)值和政治意義的工作?；ヂ?lián)網(wǎng)是東西方輿論交匯的重要載體，要牢牢掌握話語(yǔ)權(quán)，防止不良思想滲透。從這個(gè)角度來(lái)看，風(fēng)控工作契合了互聯(lián)網(wǎng)發(fā)展和安全的命脈。作為網(wǎng)上的《人民日?qǐng)?bào)》，人民網(wǎng)有義務(wù)、有能力發(fā)揮自身優(yōu)勢(shì)，發(fā)揮黨報(bào)黨網(wǎng)在內(nèi)容生產(chǎn)、質(zhì)量管控等方面的政策水平、豐富經(jīng)驗(yàn)，幫助各種類(lèi)型的內(nèi)容平臺(tái)做好內(nèi)容風(fēng)控工作，去粕取精，去偽存真，讓廣大的網(wǎng)友獲得清朗的網(wǎng)絡(luò)空間，尤其讓未成年人擁有一個(gè)綠色、安全的網(wǎng)絡(luò)環(huán)境，幫助他們樹(shù)立正確的人生觀、價(jià)值觀、世界觀。

做好內(nèi)容風(fēng)控工作是人民網(wǎng)作為上市公司履行社會(huì)責(zé)任的體現(xiàn)。人民網(wǎng)輿論與公共政策研究中心主任祝華新此前曾表示，當(dāng)前，主管部門(mén)針對(duì)互聯(lián)網(wǎng)內(nèi)容的各種規(guī)章制度陸續(xù)出臺(tái)，為內(nèi)容市場(chǎng)的發(fā)展標(biāo)明了邊界、奠定了基礎(chǔ)。在此背景下，互聯(lián)網(wǎng)企業(yè)需要把握政策的邊界，絕不能觸碰法律和行政監(jiān)管的底線；新媒體人要了解當(dāng)下民意的敏感點(diǎn)，避免因?yàn)槊褡濉⒆诮?、地域、?ài)國(guó)情感以及環(huán)保、女權(quán)等諸多敏感因素招惹公眾抵觸和輿論反彈。目前許多互聯(lián)網(wǎng)內(nèi)容平臺(tái)在政策理 解、把控能力、團(tuán)隊(duì)管理能力等方面存在不足，人民網(wǎng)可以作為“橋梁”，“幫新媒體讀政策，幫新媒體人讀懂世道人心”。人民網(wǎng)將在有效輸出主流媒體管理能力的同時(shí)，努力做到這項(xiàng)新型業(yè)務(wù)健康發(fā)展。

努力打造智能化風(fēng)控平臺(tái)

5G時(shí)代已經(jīng)到來(lái)，人工智能審核技術(shù)可以高效率進(jìn)行審核工作，為什么人民網(wǎng)還要做人工審核？確實(shí)，目前人工智能技術(shù)近年來(lái)發(fā)展迅速，圖像識(shí)別、語(yǔ)音識(shí)別等審核功能已被許多互聯(lián)網(wǎng)企業(yè)運(yùn)用。但從整體來(lái)看，人工智能現(xiàn)階段仍處于“弱人工智能”狀態(tài)，早期的學(xué)習(xí)還無(wú)法滿足爆炸式增長(zhǎng)的互聯(lián)網(wǎng)內(nèi)容審核需求。尤其是涉及時(shí)政、財(cái)經(jīng)、文史等深度內(nèi)容，更需要專(zhuān)業(yè)人士的深度介入，才能確保不出問(wèn)題。同時(shí)，每一種技術(shù)架構(gòu)、每一行代碼、每一個(gè)界面，都代表著選擇，都意味著判斷，都承載著價(jià)值。短視頻平臺(tái)上，“精選”的內(nèi)容能獲得更多關(guān)注，然而，什么樣的視頻可以被“精選”，同樣隱含著企業(yè)、產(chǎn)品開(kāi)發(fā)者的價(jià)值選擇和利益訴求?？梢哉f(shuō)，技術(shù)也是人的價(jià)值表達(dá)。因此，人工干預(yù)是目前無(wú)法替代的一種審核模式。

當(dāng)然，依靠大量人審模式會(huì)大大降低內(nèi)容風(fēng)險(xiǎn)，但同時(shí)會(huì)大幅提升企業(yè)對(duì)人工審核的投入成本。而AI技術(shù)、區(qū)塊鏈技術(shù)的發(fā)展和運(yùn)用，會(huì)極大提升內(nèi)容風(fēng)險(xiǎn)管控的能力和水平。在科技的浪潮下，技術(shù)和創(chuàng)新是提高審核效率最快的手段，人民網(wǎng)未來(lái)也將在科技上發(fā)力，研發(fā)基于人工智能的“風(fēng)控大腦”，并向全行業(yè)開(kāi)放使用。人民網(wǎng)《深度融合發(fā)展三年規(guī)劃（綱要）》提出，參股人民中科(山東)智能技術(shù)有限公司，將中國(guó)科學(xué)院自動(dòng)化研究所的人工智能技術(shù)與人民網(wǎng)的內(nèi)容風(fēng)控能力緊密結(jié)合，打造智能設(shè)備、系統(tǒng)平臺(tái)、核心技術(shù)三位一體的產(chǎn)品體系，重點(diǎn)為互聯(lián)網(wǎng)空間上的內(nèi)容安全管理及信息安全管理提供技術(shù)服務(wù)，成為未來(lái)三年人民網(wǎng)人工智能技術(shù)引擎。

要特別提出的是，智能化內(nèi)容風(fēng)控平臺(tái)的原則是各平臺(tái)對(duì)于自己內(nèi)容的調(diào)性標(biāo)準(zhǔn)和最終責(zé)任是不變的，同時(shí)，將有利于行業(yè)主管部門(mén)信息傳達(dá)和貫徹落實(shí)，有利于整個(gè)行業(yè)的內(nèi)容風(fēng)險(xiǎn)控制水平提高和規(guī)范安全發(fā)展，有利于各平臺(tái)降低內(nèi)容審核的成本，豐富內(nèi)容供給。

互聯(lián)網(wǎng)內(nèi)容風(fēng)控不是一家企業(yè)的獨(dú)奏，而是多領(lǐng)域企業(yè)的合唱。作為以內(nèi)容生產(chǎn)為主營(yíng)業(yè)務(wù)的媒體，人民網(wǎng)愿意與各企業(yè)開(kāi)展合作，圍繞平臺(tái)建設(shè)、標(biāo)準(zhǔn)制定、技術(shù)研發(fā)等多方面共同探索，為凈化網(wǎng)絡(luò)環(huán)境貢獻(xiàn)力量。