短視頻內(nèi)容失范的算法治理邏輯及路徑優(yōu)化*

劉俊亭

(西北農(nóng)林科技大學(xué) 人文社會發(fā)展學(xué)院，陜西 咸陽 712100)

0 引言

隨著新興互聯(lián)網(wǎng)技術(shù)的應(yīng)用與普及，移動短視頻平臺得以蓬勃發(fā)展，得到了受眾的廣泛青睞。根據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)發(fā)布的第49次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》，截至2021年12月短視頻用戶規(guī)模達(dá)9.34億，人均單日使用時長已超越即時通信軟件，達(dá)到125分鐘，成為占據(jù)人們網(wǎng)絡(luò)時間最長的行業(yè)。然而短視頻以其豐富的內(nèi)容滿足用戶精神需求的同時，也存在泥沙俱下的問題，內(nèi)容失范亂象頻發(fā)，“小紅書推送未成年人性暗示短視頻”“騰訊視頻起訴抖音《掃黑風(fēng)暴》侵權(quán)案并索賠1億元”等事件頻頻將短視頻內(nèi)容治理的討論推向公眾視野。2022年4月至7月期間，中央網(wǎng)信辦牽頭開展的整治短視頻領(lǐng)域亂象專項行動共清理違規(guī)短視頻235.1萬條。短視頻平臺成為了滋生低俗淫穢、著作權(quán)侵害等失范內(nèi)容的溫床，對網(wǎng)絡(luò)內(nèi)容生態(tài)和社會和諧穩(wěn)定造成了負(fù)面影響[1]。這一現(xiàn)象不僅引起了網(wǎng)信部門和短視頻平臺對內(nèi)容失范治理的關(guān)注，同時也引起了學(xué)界的關(guān)切。

國內(nèi)對短視頻失范內(nèi)容治理的研究大多從著作權(quán)保護切入，對失范內(nèi)容的侵權(quán)認(rèn)定規(guī)則予以闡述，缺少從技術(shù)邏輯出發(fā)的思路。而近年來在互聯(lián)網(wǎng)治理領(lǐng)域時興的算法治理命題可以作為研究短視頻失范內(nèi)容治理的新思路，學(xué)界就算法治理已開展了充分的探討，在肯定算法治理能夠提高治理能力和效率的同時，也指出算法治理問題具有高度的特殊性和復(fù)雜性，在推進(jìn)過程中還面臨短期無法克服的局限，需要將監(jiān)管部門、企業(yè)及公眾等社會主體納入到算法治理共同體中，共同應(yīng)對算法風(fēng)險挑戰(zhàn)[2]。

1 短視頻內(nèi)容失范治理現(xiàn)狀

黨的十八大以來，網(wǎng)絡(luò)內(nèi)容治理的戰(zhàn)略高度不斷提高，習(xí)近平總書記指出：“網(wǎng)絡(luò)空間是億萬民眾共同的精神家園。網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好，符合人民利益；網(wǎng)絡(luò)空間烏煙瘴氣、生態(tài)惡化，不符合人民利益。 ”短視頻雖短，但監(jiān)管不能“短”[3]，如何在短視頻內(nèi)容上激濁揚清、營造良好網(wǎng)絡(luò)生態(tài)，需要在治理方面持續(xù)探索。當(dāng)前，短視頻平臺內(nèi)容失范治理呈現(xiàn)運動式治理和制度化治理并進(jìn)的特征，而算法作為平臺運行的底層邏輯，要實現(xiàn)網(wǎng)絡(luò)內(nèi)容治理的目標(biāo)，算法治理不可或缺。

1.1 運動式治理

自2013年全國宣傳思想工作會議召開后，“清朗”“凈網(wǎng)”等系列專項行動作為內(nèi)容治理的常規(guī)手段，為打擊違法不良信息、營造風(fēng)清氣正的網(wǎng)絡(luò)空間發(fā)揮了重要作用[4]。為清理短視頻領(lǐng)域的失范內(nèi)容，中央網(wǎng)信辦、國家廣播電視總局等部門陸續(xù)開展專項行動(如表1所示)，對短視頻失范內(nèi)容采取集中治理模式。2022年，中央網(wǎng)信辦等三部門開展的“清朗·整治網(wǎng)絡(luò)直播、短視頻領(lǐng)域亂象”專項行動，集中整治“色、丑、怪、假、俗、賭”等各類失范內(nèi)容，共清理違規(guī)短視頻235.1萬條，關(guān)閉違規(guī)用戶賬號12萬個。

表1 短視頻失范內(nèi)容治理專項行動

與制度化治理相比，作為運動式治理的“清朗”行動能夠在短時間調(diào)動行政資源推動政策實施，具有指向性強、治理效果立竿見影等優(yōu)勢。然而，這種“颶風(fēng)式”的治理手段只能解燃眉之急，長期效果將日漸式微，而且在實踐中往往需要統(tǒng)籌跨層級、跨部門的行政力量才能順利開展工作，不可避免存在協(xié)調(diào)不良、行政資源浪費、權(quán)力尋租等問題。因此，對短視頻領(lǐng)域失范內(nèi)容開展的運動式治理，其定位僅是制度建設(shè)相對欠缺情況下的臨時性、補強性舉措。

1.2 制度化治理

伴隨著抖音、快手等短視頻頭部平臺的基礎(chǔ)設(shè)施屬性日益增強，圍繞短視頻發(fā)展涌現(xiàn)的現(xiàn)實問題，強化制度建設(shè)，制定和完善相關(guān)法律法規(guī)(如表2所示)，并將算法治理納入制度化治理常效機制中，將成為未來平臺治理的常態(tài)。網(wǎng)信部門的機構(gòu)改革以及《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法律法規(guī)的相繼出臺，體現(xiàn)出當(dāng)前國家在網(wǎng)絡(luò)內(nèi)容治理的制度化建設(shè)成效。其中，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》對鼓勵傳播的信息、違法與不良信息逐條列明，并明確了政府、企業(yè)、社會、網(wǎng)民等主體多元參與協(xié)同共治的治理模式。具體到短視頻平臺層面，國家為推動短視頻行業(yè)健康有序發(fā)展，密集出臺《中華人民共和國廣播電視法(征求意見稿)》《網(wǎng)絡(luò)短視頻平臺管理規(guī)范》《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》等法律法規(guī)和規(guī)范性文件，細(xì)化短視頻審核標(biāo)準(zhǔn)，標(biāo)志著我國短視頻內(nèi)容的制度化治理漸趨完善[5]。

表2 短視頻失范內(nèi)容治理相關(guān)文件

在網(wǎng)信部門的主動監(jiān)管和立法部門制度規(guī)制相繼出臺所形成的治理合力下，短視頻內(nèi)容中的失范亂象得以有效遏制。但從治理鏈條來看，“清朗”系列行動和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》仍屬于事中與事后監(jiān)管，治理節(jié)點滯后，在事前監(jiān)管方面仍存在不足，具體表現(xiàn)為治理手段無法介入到失范內(nèi)容的生產(chǎn)和流通環(huán)節(jié)中，這與監(jiān)管部門對平臺算法的介入不足不無關(guān)系。

2021年12月31日，中央網(wǎng)信辦等四部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，回應(yīng)了平臺治理過程中的算法治理缺位問題。該規(guī)定強調(diào)網(wǎng)信部門負(fù)責(zé)統(tǒng)籌算法推薦服務(wù)的治理和監(jiān)督工作，并明確提出“算法推薦服務(wù)提供者應(yīng)當(dāng)落實算法安全主體責(zé)任，建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核等管理機制，建立健全用于識別違法和不良信息的特征庫，發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)采取相應(yīng)的處置措施”。這表明在網(wǎng)絡(luò)內(nèi)容治理領(lǐng)域，一方面監(jiān)管部門介入平臺運行的技術(shù)邏輯，并將算法治理納入到制度化治理長效機制中；另一方面，壓實短視頻等互聯(lián)網(wǎng)平臺算法安全主體責(zé)任，倒逼平臺采取措施助力算法治理落地落實。

2 短視頻內(nèi)容失范算法治理的邏輯

近年來，短視頻進(jìn)入“強監(jiān)管”階段，短視頻的技術(shù)面紗逐漸揭開，國家將監(jiān)管的鏈條延伸至短視頻平臺運行的底層邏輯。為構(gòu)筑良性內(nèi)容生態(tài)、踐行算法治理主體責(zé)任，短視頻平臺依托算法技術(shù)逐步建立健全敏感詞網(wǎng)絡(luò)數(shù)據(jù)庫、違規(guī)內(nèi)容數(shù)據(jù)庫等審核平臺。通過分析發(fā)現(xiàn)，短視頻平臺在內(nèi)容失范治理中，主要存在依托算法介入失范內(nèi)容生產(chǎn)環(huán)節(jié)的內(nèi)部治理邏輯，以及依托算法介入失范內(nèi)容流通環(huán)節(jié)的外部治理邏輯兩種方式[6]。

2.1 失范內(nèi)容生產(chǎn)環(huán)節(jié)治理

短視頻平臺作為網(wǎng)絡(luò)服務(wù)提供者，對用戶上傳至其服務(wù)器的內(nèi)容負(fù)有主體責(zé)任和注意義務(wù)，然而大數(shù)據(jù)時代是一個“信息富裕而注意力稀缺”的時代，平臺審核團隊難以應(yīng)對海量內(nèi)容涌入帶來的挑戰(zhàn)，這為實行算法審核提供了契機。平臺方需要轉(zhuǎn)變傳統(tǒng)審核方式，將有限的注意力投入到建立內(nèi)容審核算法模型中，構(gòu)建影視作品二次創(chuàng)作版權(quán)數(shù)據(jù)庫，依托算法將短視頻關(guān)鍵詞、視頻畫面、圖文等信息特征與平臺數(shù)據(jù)庫進(jìn)行比對，審核用戶發(fā)布的短視頻是否存在淫穢低俗等違規(guī)內(nèi)容以及是否超出平臺所購買的影視作品版權(quán)范圍，如果疑似存在，就會被算法攔截，通過飄黃、標(biāo)紅或者顯示不健康指數(shù)等提示人工審核員注意。

在實踐中，短視頻平臺普遍采取的是先設(shè)計出一套有較高識別準(zhǔn)確率的審核算法，在深度學(xué)習(xí)技術(shù)的加持下不斷更新失范內(nèi)容數(shù)據(jù)庫，進(jìn)而提高算法審核水平。如抖音開發(fā)的“靈犬”反低俗助手能夠有效識別短視頻中低俗信息，對于用戶上傳的短視頻，“靈犬”在完成關(guān)鍵詞提取、視頻分割成幀、圖像識別、聲紋分析等審核步驟后即可檢測出視頻內(nèi)容的健康指數(shù)，整體識別準(zhǔn)確率可達(dá)到75%。百度開發(fā)的短視頻審核API技術(shù)則是通過將短視頻內(nèi)容的標(biāo)題、簡介、視頻幀、音頻進(jìn)行統(tǒng)一把關(guān)，將視頻內(nèi)容與海量歷史數(shù)據(jù)庫進(jìn)行檢測對比,被過濾出來的低俗淫穢、版權(quán)侵害等失范內(nèi)容將提交人工審核，目前該內(nèi)容審核模型的準(zhǔn)確率高達(dá)96%以上。

2.2 失范內(nèi)容流通環(huán)節(jié)治理

短視頻平臺作為開放性平臺，其內(nèi)容傳播邊界和場景不受時空限制，因此依托算法技術(shù)對短視頻流通環(huán)節(jié)把關(guān)顯得尤為重要[7]。當(dāng)通過生產(chǎn)環(huán)節(jié)審核進(jìn)入流通環(huán)節(jié)后，短視頻不會立即進(jìn)入算法大規(guī)模推薦階段，首先要進(jìn)入冷啟動流量池曝光，意味著短視頻內(nèi)容會經(jīng)歷小規(guī)模用戶的觀看檢驗。在這個過程中，如果沒能得到足夠的正面用戶反饋(點贊、收藏、轉(zhuǎn)發(fā)或者完播率)，或者收到投訴舉報內(nèi)容涉嫌違規(guī)、侵犯著作權(quán)等負(fù)面用戶反饋，算法就會對該短視頻內(nèi)容進(jìn)行人工復(fù)核，并進(jìn)一步作出限流、降低內(nèi)容推薦流量或者刪除短視頻內(nèi)容的舉措。在實踐中，失范內(nèi)容的發(fā)布主體較為集中，往往是基于一個“IP”地址登錄不同賬號發(fā)布失范內(nèi)容，因此可以對失范內(nèi)容進(jìn)行溯源，對有該“前科”的發(fā)布者降權(quán)處理或者封禁。

3 短視頻內(nèi)容失范算法治理的局限

在算法技術(shù)的加持下，平臺在整治內(nèi)容生態(tài)方面頗有成效，較之前野蠻生長的現(xiàn)象已有明顯改觀。但囿于算法技術(shù)的“雙刃劍”特性，算法治理仍有滑向“技術(shù)利維坦”的潛在風(fēng)險[8]，即短視頻平臺在流量思維驅(qū)使下鼓勵失范內(nèi)容傳播，以及弱人工智能時代的算法技術(shù)同算法治理需求相比還存在一定差距。鑒于此，需要對算法治理的局限進(jìn)行理性分析。

3.1 流量思維鼓勵失范內(nèi)容

短視頻平臺失范內(nèi)容叢生，并不是由于上傳者利用高明的技術(shù)破解了平臺上傳限制，而在于失范內(nèi)容往往自帶話題，能夠?qū)⒘髁恳肫脚_，這契合了短視頻平臺的商業(yè)邏輯，即流量思維。如前所述，短視頻的算法推薦邏輯強調(diào)用戶的正面反饋，包括點贊、收藏、轉(zhuǎn)發(fā)等操作。在實踐中，蹭時下熱播影視作品流量二次剪輯或者打性暗示擦邊球的作品往往更能奪人眼球，短時間能收獲用戶的大量點擊，從而為平臺帶來流量紅利。受流量思維的驅(qū)使，短視頻平臺開發(fā)者設(shè)計產(chǎn)品之初是希望通過短視頻傳播這一途徑吸納用戶流量，進(jìn)而實現(xiàn)流量變現(xiàn)，因此需要警惕算法邏輯背后的流量至上思維。

3.2 技術(shù)供給掣肘算法治理

雖然人工智能已經(jīng)在某些領(lǐng)域嶄露頭角，但目前仍處于弱人工智能時代，只能依據(jù)算法命令處理具體工作，為平臺提供經(jīng)過數(shù)據(jù)庫驗證、符合失范內(nèi)容邏輯分析的結(jié)果，尚缺乏獨立的判斷思維，很難感知到更為深層次的人類感情。然而短視頻的內(nèi)容識別極其復(fù)雜，即使是人類自己也沒有放之四海而皆準(zhǔn)的判斷標(biāo)準(zhǔn)，需要結(jié)合當(dāng)事人的專業(yè)知識、社會經(jīng)驗以及具體話題語境等多方面因素予以衡量，比如算法會將短視頻內(nèi)容中出現(xiàn)裸身油畫默認(rèn)為失范內(nèi)容，而非藝術(shù)品。短視頻平臺構(gòu)建內(nèi)容審核模型來甄別失范內(nèi)容實屬不易，通過深度學(xué)習(xí)技術(shù)將復(fù)雜的視頻內(nèi)容納入技術(shù)處理框架之路依舊漫長，因此需要持續(xù)推進(jìn)短視頻深度學(xué)習(xí)技術(shù)，為算法治理提供更為先進(jìn)的技術(shù)供給。

4 優(yōu)化路徑：構(gòu)建多元主體的協(xié)同治理模式

“算法治理”為短視頻平臺失范內(nèi)容治理提供了新范式，其高效的技術(shù)機制能夠批量監(jiān)測、識別、清理用戶上傳的失范內(nèi)容，但算法不是全能的，還存在短期內(nèi)難以克服的“利維坦”局限，只依靠算法治理失范內(nèi)容難免有失偏頗。與此同時，還需破除“信息繭房”對構(gòu)建良性內(nèi)容生態(tài)的影響。因此，在推進(jìn)短視頻算法治理過程中，需要政府部門、平臺方、用戶等不同社會主體各盡其能、協(xié)同發(fā)力[9]。

4.1 政府加強算法備案審查，壓實平臺法律責(zé)任

算法治理離不開政府的引導(dǎo)和制度的保障，因此在推進(jìn)治理過程中，政府應(yīng)當(dāng)運用法治方式規(guī)范算法應(yīng)用，加強對算法技術(shù)的備案審查，讓主流價值導(dǎo)向始終駕馭算法，并推行算法全生命周期問責(zé)機制，確保平臺落實算法主體責(zé)任。具體而言，監(jiān)管部門應(yīng)當(dāng)嚴(yán)格遵循算法備案程序，事先對短視頻的算法設(shè)計進(jìn)行評估、審查，糾正其潛在缺陷，并在實際運營中加強對算法技術(shù)的監(jiān)督，讓算法“黑箱”始終處于陽光之下。同時，要嚴(yán)格落實短視頻平臺的法律責(zé)任，形成全周期監(jiān)管問責(zé)機制，倒逼平臺采取措施嚴(yán)把內(nèi)容關(guān)，真正做到“平臺審核預(yù)防，政府監(jiān)管處罰”[10]。

4.2 短視頻平臺承擔(dān)研發(fā)與合作的主體責(zé)任

構(gòu)筑良性內(nèi)容生態(tài)，短視頻平臺理應(yīng)有所作為，積極承擔(dān)主體責(zé)任和社會責(zé)任。一方面，短視頻平臺作為失范內(nèi)容傳播的載體，應(yīng)當(dāng)從平臺算法技術(shù)研發(fā)切入。在算法技術(shù)設(shè)計之初就將技術(shù)帶來的社會效益和風(fēng)險納入論證考慮，并在實際運營過程中不斷優(yōu)化算法設(shè)計，積極防范風(fēng)險，反思算法推薦技術(shù)可能帶來的技術(shù)倫理問題，避免唯經(jīng)濟利益至上。另一方面，打破零和博弈思想，攜手相關(guān)方聯(lián)合應(yīng)對內(nèi)容失范問題。在推進(jìn)短視頻算法治理的過程中，單獨依靠某一個企業(yè)很難達(dá)到治理預(yù)期，需要行業(yè)、企業(yè)實現(xiàn)失范內(nèi)容數(shù)據(jù)庫的互聯(lián)互通，打破壁壘、加深合作、共同發(fā)力。

4.3 發(fā)揮用戶端閉環(huán)式監(jiān)督的功能

用戶端是傳播的目標(biāo)也是重要節(jié)點。在算法時代，單個用戶在短視頻平臺的發(fā)揮的作用看似微小，但匯聚起來將成為推動短視頻內(nèi)容治理的重要力量。在弱人工智能背景下，一方面可以通過用戶體驗閉環(huán)監(jiān)控體系，助推失范內(nèi)容深度學(xué)習(xí)機制，當(dāng)用戶對某一內(nèi)容選擇“不感興趣”或者“一鍵舉報”等負(fù)面反饋時，就會增加算法對失范內(nèi)容的認(rèn)知程度，從而提升閉環(huán)式監(jiān)督實效。另一方面，通過“黑板報”等形式提升用戶媒介素養(yǎng)和算法素養(yǎng)，教育用戶不主動發(fā)布低俗淫穢內(nèi)容、不侵犯著作權(quán)搬運影視作品，自覺遵守用戶協(xié)議。

5 結(jié)論

未來，隨著短視頻用戶數(shù)量和內(nèi)容數(shù)量的快速增長，內(nèi)容審核的挑戰(zhàn)將會日趨嚴(yán)峻?！坝脩羯a(chǎn)內(nèi)容”的開放式傳播方式的特征決定了平臺在應(yīng)對海量內(nèi)容審核時必須以算法技術(shù)為依托，方能實現(xiàn)對用戶上傳的內(nèi)容進(jìn)行批量、自動化的鑒別和處理。然而，推進(jìn)短視頻算法治理的過程中還面臨流量思維、信息繭房、技術(shù)倫理等短期無法克服的局限，需要政府、短視頻平臺、用戶三方協(xié)同配合，依托算法技術(shù)形成治理合力。