“兒童邪典視頻”背后：算法治理的多元路徑

劉曉春

在導(dǎo)致人們擔(dān)憂的社會(huì)和文化現(xiàn)象中，搞清算法所承擔(dān)的角色，問(wèn)題所在的環(huán)節(jié)，才有可能制定有的放矢的治理方案

近期“兒童邪典視頻”事件可能激起民眾對(duì)于算法推薦的憤怒，以致于媒體上出現(xiàn)“狠狠打了算法的臉”的標(biāo)題。

“兒童邪典視頻”指以兒童熟悉的卡通人物形象為幌子，制作帶有兇殺、暴力、色情等具有危害性內(nèi)容的影片或動(dòng)漫。由于標(biāo)題和內(nèi)容中與兒童日常接觸的視頻內(nèi)容存在高度相似性，導(dǎo)致算法將視頻推薦給孩子。

兒童本就是互聯(lián)網(wǎng)上不良內(nèi)容的最易受害群體，無(wú)論是政策制定者還是父母，都在努力給孩子們提供更加清凈的上網(wǎng)空間，此時(shí)有算法將不良內(nèi)容主動(dòng)精準(zhǔn)推薦給孩子，“邪典”兩字也不足以描述人們激動(dòng)的情緒。

針對(duì)算法的討論和批評(píng)近年時(shí)常見諸報(bào)端，但仔細(xì)觀察這些算法相關(guān)的輿論批評(píng)，其實(shí)是不同層面的問(wèn)題。

內(nèi)容的算法推薦造成的低俗化和“信息繭房”效應(yīng)，是對(duì)算法本身建模方式及其取向的批評(píng)。而“兒童邪典視頻”，并非算法設(shè)計(jì)者預(yù)見的范圍，實(shí)際是在算法篩選中沒(méi)有考慮足夠的變量，從而導(dǎo)致其“出錯(cuò)”。

因此在對(duì)其批評(píng)和辯護(hù)前，需要搞清，算法在這些糟糕的結(jié)果產(chǎn)生過(guò)程中，究竟扮演什么角色。

徒“算法”不足以自行

“算法”，一個(gè)存在已久的技術(shù)術(shù)語(yǔ)，隨著人工智能和大數(shù)據(jù)以迅猛的態(tài)勢(shì)深入互聯(lián)網(wǎng)和人們的生活，“算法”被附著眾多意義和評(píng)價(jià)，遠(yuǎn)超其原初單純技術(shù)屬性。

最為犀利的批評(píng)是桑斯坦在其著作《網(wǎng)絡(luò)共和國(guó)》中描述的“信息繭房”，此概念被2017年“人民網(wǎng)”批判算法推薦模式的系列文章所援引。文章?lián)?，在?nèi)容個(gè)性化推薦的模式中，算法包含的內(nèi)容過(guò)濾篩選和優(yōu)化推薦的策略，會(huì)使人們局限于過(guò)于狹隘的內(nèi)容和觀點(diǎn)，強(qiáng)化固有偏見和喜好，走向自我封閉和重復(fù)。桑斯坦擔(dān)心的，是窄化而非多元的信息，可能使社會(huì)分裂，并對(duì)民主制度產(chǎn)生破壞。

算法在實(shí)現(xiàn)信息過(guò)濾、篩選和定制功能時(shí)，需在輸入和輸出端都進(jìn)行以數(shù)據(jù)為基礎(chǔ)的學(xué)習(xí)。輸入端是基于導(dǎo)入的海量?jī)?nèi)容進(jìn)行深度樣本學(xué)習(xí)后，根據(jù)建模原理實(shí)現(xiàn)標(biāo)簽化分類機(jī)制，比如把包含卡通人物的貼上“兒童”標(biāo)簽，把包含明星內(nèi)容的貼上“八卦”標(biāo)簽。

在輸出端，同樣根據(jù)建模的設(shè)定，通過(guò)對(duì)用戶過(guò)往閱讀和欣賞興趣的數(shù)據(jù)處理，形成“用戶畫像”，并根據(jù)其中提煉的標(biāo)簽，將有相同屬性的內(nèi)容進(jìn)行推送。在過(guò)程中，會(huì)添加排序的其他權(quán)重，比如，點(diǎn)擊量高的排序靠前，其他同類用戶經(jīng)常觀看的也更可能被推送。在實(shí)踐中的算法會(huì)有更復(fù)雜的參數(shù)、變量、標(biāo)簽設(shè)定和推送策略。

不過(guò)算法推送必然要受可得數(shù)據(jù)（輸入端）和受眾選擇（輸出端）的約束。而商業(yè)算法建模中對(duì)不同參數(shù)的不同權(quán)重考量，也會(huì)影響選擇和篩選的標(biāo)準(zhǔn)，從而實(shí)現(xiàn)特定的商業(yè)模式和目的。

要實(shí)現(xiàn)“低俗化”趨勢(shì)的內(nèi)容推薦，在輸入端需有大量低俗內(nèi)容的供應(yīng)，輸出端需有對(duì)應(yīng)的用戶選擇為基礎(chǔ)，細(xì)究算法承擔(dān)的功能，與其說(shuō)是算法的推送造成低俗內(nèi)容的蔓延，不如說(shuō)是算法使得閱讀低俗的需求更易得到滿足。

當(dāng)然，商業(yè)上的流量偏好策略有可能導(dǎo)致低俗內(nèi)容的過(guò)度推送，所以有時(shí)候會(huì)有人抱怨“只點(diǎn)擊過(guò)一次，就一直被推送”，但這種推送實(shí)際上很可能不具有商業(yè)價(jià)值，過(guò)度推送恰恰可能對(duì)用戶體驗(yàn)造成負(fù)面影響。因此，徒“算法”不足以自行。

法眼

要改變“低俗化”的內(nèi)容傳播，首先要有良性的市場(chǎng)機(jī)制來(lái)激勵(lì)非低俗內(nèi)容的生產(chǎn)和分發(fā)。低俗內(nèi)容在互聯(lián)網(wǎng)上的傳播，很有可能是劣幣驅(qū)逐良幣的結(jié)果。如果希望人們更多關(guān)注社會(huì)公平、經(jīng)濟(jì)發(fā)展等公共議題，那首先需要考慮如何鼓勵(lì)嚴(yán)肅、高質(zhì)量的相關(guān)內(nèi)容和素材的高效生產(chǎn)和傳播。

在用戶端，與其說(shuō)“算法決定內(nèi)容”，不如說(shuō)是幫助人們找到想看的內(nèi)容。如果算法推薦的不是用戶真正想看的，那么用戶“用腳投票”的市場(chǎng)機(jī)制會(huì)迫使企業(yè)改善算法。而熱衷閱讀膚淺內(nèi)容的用戶，即使沒(méi)有算法推薦，依然可能通過(guò)主動(dòng)搜索等方式而獲取。算法推薦只是打開了方便之門。

由此看，對(duì)“算法決定內(nèi)容”的擔(dān)憂，主要集中在被推送什么就看什么、“低俗”和“劣質(zhì)”的信息推送使其沉迷的人群上，而如果改為高質(zhì)量的內(nèi)容，他們也可能由此提升認(rèn)知能力和道德水準(zhǔn)，抱有開放的心態(tài)并積極參與到公共討論。因此，“算法”除商業(yè)外，被賦予了教育和引導(dǎo)的社會(huì)職能。

問(wèn)題是，此類人群所占多少比重，內(nèi)容推送對(duì)其能產(chǎn)生多大的影響，改變算法又能帶來(lái)多大好處，這是需要經(jīng)過(guò)實(shí)證調(diào)查解決的問(wèn)題?！靶畔⒗O房”的理論假設(shè)的確充滿智識(shí)上的沖擊力和啟發(fā)性，但建設(shè)性的治理方案卻需建立在對(duì)本國(guó)問(wèn)題的充分理解和剖析基礎(chǔ)上。

算法治理的可能路徑

在導(dǎo)致人們擔(dān)憂的社會(huì)和文化現(xiàn)象中，搞清算法所承擔(dān)的角色，問(wèn)題所在的環(huán)節(jié)，才有可能制定有的放矢的治理方案。推送“邪典視頻”的問(wèn)題，不在算法本身建模取向合理性的問(wèn)題，而更多是算法參數(shù)設(shè)計(jì)的不完備?！靶暗湟曨l”躲過(guò)算法的篩查，有可能是發(fā)布者針對(duì)算法“漏洞”的規(guī)避行為，在此意義上，解決方案較直接，一方面將不良內(nèi)容嚴(yán)格審核下架，另一方面有針對(duì)性地堵上算法漏洞，預(yù)防未來(lái)的規(guī)避風(fēng)險(xiǎn)。

不過(guò)，這并不是一個(gè)簡(jiǎn)單和單一的過(guò)程。算法的治理需要與算法之外的其他配套制度相互支撐與配合。

比如在內(nèi)容審核上，需設(shè)定合理而有效的平臺(tái)責(zé)任，同時(shí)要在平臺(tái)不可預(yù)見的情況下設(shè)置責(zé)任的邊界，過(guò)于嚴(yán)格的責(zé)任有可能變成平臺(tái)不可承受之重。

“兒童邪典視頻”固然令人憤怒，但要理性評(píng)估其發(fā)布是否在平臺(tái)合理可以預(yù)見的范圍內(nèi)。與此同時(shí)，對(duì)于主觀惡性較為明顯的主動(dòng)發(fā)布者和傳播者，則應(yīng)當(dāng)明典重刑，通過(guò)落實(shí)法律責(zé)任和社會(huì)聲譽(yù)機(jī)制，對(duì)其形成有效的遏制。

法律機(jī)制之外，還應(yīng)積極發(fā)揮市場(chǎng)機(jī)制和技術(shù)措施。針對(duì)兒童這樣的易感人群，要鼓勵(lì)開發(fā)和制定特殊針對(duì)性措施，父母的監(jiān)護(hù)也應(yīng)起到首要的責(zé)任，政府和媒體可以針對(duì)此類特殊事件建立預(yù)警和迅速傳播機(jī)制，以將風(fēng)險(xiǎn)和損害控制在最小范圍。endprint

針對(duì)算法推薦內(nèi)容模式本身的評(píng)價(jià)，問(wèn)題則更復(fù)雜。首先，如前言，需明確界定治理算法的出發(fā)點(diǎn)。對(duì)于商業(yè)算法來(lái)說(shuō)，對(duì)其承擔(dān)更多教育和引導(dǎo)功能的期待，是否必要和可行，需審慎論證。自上而下基于理論假設(shè)的推斷，應(yīng)當(dāng)讓位于自下而上的問(wèn)題調(diào)查和謹(jǐn)慎求證。

其次，算法治理需離開單純的內(nèi)容推送，放在更廣闊的圖景下觀察，比如政府使用算法進(jìn)行政策制定，算法被用作競(jìng)爭(zhēng)手段等。特別是，互聯(lián)網(wǎng)企業(yè)遭受不正當(dāng)競(jìng)爭(zhēng)指控時(shí)，時(shí)常會(huì)援引算法作為正當(dāng)性的抗辯理由。

比如今日頭條近日指控百度操縱自然搜索結(jié)果，百度的回應(yīng)之一即為“排序與用戶需求、相關(guān)性、時(shí)效性、用戶的點(diǎn)擊行為等系列因素相關(guān)”，大意是算法的運(yùn)算結(jié)果而非企業(yè)有意為之。此爭(zhēng)議在以前奇虎360對(duì)百度的指控，以及歐盟對(duì)谷歌操縱比價(jià)網(wǎng)站搜索結(jié)果的反壟斷審查中，亦有反映。

在企業(yè)涉嫌損害競(jìng)爭(zhēng)對(duì)手、消費(fèi)者利益、造成歧視性后果等場(chǎng)景，以及政府利用算法進(jìn)行決策的領(lǐng)域，算法可能會(huì)被推到前臺(tái)，面臨合法性的質(zhì)疑。首先面臨的困難就是搞清算法的內(nèi)容。討論算法透明度時(shí)，算法作為企業(yè)核心競(jìng)爭(zhēng)優(yōu)勢(shì)和商業(yè)機(jī)密的特點(diǎn)，與法院和公眾了解算法合法性的需求產(chǎn)生了矛盾。算法的過(guò)度披露，甚至可能起到反作用。正如搜索引擎公司經(jīng)常強(qiáng)調(diào)的，一旦算法邏輯被完整披露，隨之而來(lái)的是大量規(guī)避規(guī)則的“作弊”行為。

在算法治理領(lǐng)域，出現(xiàn)“有意義的算法透明度”這樣的提法，并不要求算法徹底公開，算法持有者需披露有意義的、可觀測(cè)的指標(biāo)證明其合法性，包括算法公平性、性能和效果、解釋輸出結(jié)果的邏輯過(guò)程等，并圍繞這一目標(biāo)構(gòu)建評(píng)估指標(biāo)體系。

重要的是，與人類社會(huì)的其他領(lǐng)域一樣，算法的優(yōu)勝劣汰，主要應(yīng)依靠市場(chǎng)和多元化來(lái)實(shí)現(xiàn)?；ヂ?lián)網(wǎng)時(shí)代開放的是超越以往任何時(shí)代的可能性和選擇空間，統(tǒng)一人們的價(jià)值觀和選擇模式變得比以往更加困難和低效。人們總是可以找到自己想看的，拒絕厭惡的，相信人們可以做出對(duì)自己更有利的理性選擇。

也要運(yùn)用技術(shù)的力量精準(zhǔn)定位市場(chǎng)可能出現(xiàn)失靈的部位，進(jìn)行針對(duì)性的矯正，比如，有必要建立對(duì)未成年人接觸內(nèi)容的加強(qiáng)監(jiān)控和快速反應(yīng)機(jī)制。在法律守住底線的前提下，通過(guò)市場(chǎng)的角逐，技術(shù)的改進(jìn)，言論的監(jiān)督，在多元化的治理模式下，算法有望幫助人類建構(gòu)更具有豐富內(nèi)涵意義的世界。

（作者為中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任，編輯：王敬愷）endprint