善治平臺算法

11月24日，一場針對網絡平臺算法典型問題的治理行動拉開了序幕，矛頭直指同質化推送營造“信息繭房”、大數(shù)據(jù)“殺熟”、侵害新就業(yè)形態(tài)勞動者利益等現(xiàn)實問題。此次整治可以說是自2021年9月《關于加強互聯(lián)網信息服務算法綜合治理的指導意見》發(fā)布之后，有關部門對平臺算法的第一次全方位綜合治理行動。

01

這次“清朗行動”不一樣

這并非“清朗行動”第一次指向平臺算法。

2021年，“清朗行動”提出了“算法濫用治理”，指導互聯(lián)網平臺優(yōu)化信息過濾、排名、推薦機制，要求開展算法安全技術檢查和技術評估。2022年的“清朗行動”，聚焦于督促重點互聯(lián)網企業(yè)平臺整改算法不合理應用帶來的“信息繭房”“算法歧視”等問題。2023年12月，“清朗行動”將重點放在了“整治短視頻信息內容導向不良問題”，要求集中整治短視頻中的擺拍、技術生成等虛假信息以及煽動粉絲情緒、誤導消費者等問題。

《關于開展“清朗·網絡平臺算法典型問題治理”專項行動的通知》，由中央網絡安全和信息化委員會辦公室秘書局、工業(yè)和信息化部辦公廳、公安部辦公斤、國家市場監(jiān)督管理總局辦公廳聯(lián)合發(fā)布?！锻ㄖ访鞔_，此次專項行動重點整治同質化椎送營造“信息繭房”、違規(guī)操縱干預榜單炒作熱點、盲目追求利益侵害新就業(yè)形態(tài)勞動者權益、利用算法實施大數(shù)據(jù)“殺熟”、算法向上、向善服務缺失侵害用戶合法權益等重點問題。

清華大學人工智能國際治理研究院戰(zhàn)略與宏觀研究項目主任劉典認為，相較于過去的措施，這次的清朗行動治理目標更加明確、更多部門參與、治理手段更多樣，這些變化表明，政府正在嘗試構建一套更加系統(tǒng)、全面的算法治理體系，而非依賴于單一的短期行動。

2021年9月，國家互聯(lián)網信息辦公室等0部門印發(fā)《關于加強互聯(lián)網信息服務算法綜合治理的指導意見》（下稱《指導意見》），提出“利用三年左右時間，逐步建立治理機制健全、監(jiān)營體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”。2022年3月，《互聯(lián)網信息服務算法推薦管理規(guī)定》（下文簡稱《規(guī)定》）正式實施?！兑?guī)定》明確，應用算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息，并明確了算法推薦服務向上向善的原則。

北京大學數(shù)字治理研究中心主任邱澤奇，自2000年起關注算法治理，他認為，公眾如今對各類算法應用都有了自己的體驗，已經深刻意識到“信息繭房”、算法偏見、算法歧視等問題，對算法的認知水平有了整體性提高。

02

神秘的算法

算法只是一系列解決問題的計算方式，背后反映的是平臺目標。算法工程師按照平臺的指令，敲下一行行代碼，組成了看不見、摸不著，卻又影響每個人的算法。

算法工程師隸屬的算法部門，往往是互聯(lián)網公司的核心技術部門。在多位算法工程師看來，真正的黑箱不在算法原理之中，而在數(shù)據(jù)與平臺機制設置之中。用戶量越大、數(shù)據(jù)越多、平臺機制向利益傾斜，便帶來了“算法亂象”?！靶畔⒗O房”“誘導沉迷”“操縱榜單”都與推薦算法關聯(lián)，最終能被看到的內容或商品，都是由算法精心計算過的，最根本的是要讀懂用戶的心?！白x心”需要對用戶海量的個人數(shù)據(jù)、行為數(shù)據(jù)等進行篩選，這些散落在網絡世界不同角落的痕跡，被收集到各個數(shù)據(jù)庫中，成為算法的最底層訓練支撐。比如將用戶的網購記錄、瀏覽記錄、在線下門店里的消費記錄等個人數(shù)據(jù)，或者點贊、劃走等行為數(shù)據(jù)“投喂”給算法，就能得到“量身定制”的推薦內容。

03

失控時刻

算法由工程師創(chuàng)造，但算法也會失控。

幾年前，視頻數(shù)據(jù)分析平臺百準創(chuàng)始人潘越飛已經隱隱感覺到“自己控制不住算法了”。他說，算法推薦的內容質量并不令他滿意。潘越飛曾為一條“蟒蛇吞噬了房子”的假新聞頭疼了十幾天。那是一張合成照片，打開正文就知道是假新聞，這條在他看來“無聊”的內容卻在平臺熱搜榜第—名。他換了各種維度調試算法，但這張圖片永遠是第一名。最終沒有辦法，他只能手動刪掉了圖片。他解釋，用戶沒見過蟒蛇吞噬房子的事件，所以打開率很高。圖片內容很短，所以完讀率很高。用戶看完后覺得被騙了，于是在評論區(qū)開罵，帶來高互動率。用戶覺得這條新聞十分荒謬轉發(fā)給身邊朋友“吐槽”，于是這條新聞分享率也很高。

打開率、完讀率、互動率、分享率都是算法評價內容是否值得推薦的權重，重重加持下，這條假新聞被推薦的次數(shù)越來越多?！八惴ㄓ袛?shù)學邏輯，但它沒有心，沒有人類的共識，沒有情緒和價值觀?！迸嗽斤w說，算法只是按照設定完成它的工作，它的量化指標只有數(shù)據(jù)。

潘越飛曾耗費極大精力和算法對抗，試圖讓算法減少推薦類似內容，但結論是，做不到。他試過精選內容，或增加權威媒體內容的權重，以保證平臺內容質量的提升。但結果是，整個平臺的用戶時長大幅度下降了。但這違背了公司運營商業(yè)平臺的初衷，于是只能減少與算法的對抗。

算法工程師的背面則是依賴平臺賺錢、生存的人。

多位算法工程師表示，在公司內部，算法并不是沒有價值觀，也有一些原則，比如，不能推薦違法亂紀的內容，用戶問一些敏感的問題，必然不會得到答案，這由合規(guī)、安全和算法團隊配合進行處理。

04

善惡一念

西南大學國家治理學院講師畢文芬曾在重慶、貴州、云南地區(qū)凋研從事電商直播的農村婦女。在2020年左右，一些文化水平較低的農村婦女，在直播電商平臺帶貨還能賺到錢，當時經過一些基礎的培訓，就能在直播間吸引到用戶。有人靠著直播帶貨在縣城買了170平方米的房子，有人把蘭花、銀飾等當?shù)靥厣a品銷往全國，也有人會從中獲得—些打賞，改善生活，很多人從田間走到了直播間。但是這兩年來，平臺越來越向粉絲量大、懂得投流、會運營的人傾斜。直播間里要有“氣氛擔當”宣傳造勢、要有話術刺激觀看者下單、要表演才藝、要建立矩陣賬號吸引流量等。這些沒有團隊支持的農村婦女沒有錢投流，也不借運營，只會講解產品，有時被平臺罰款、封號都不知道，也沒有渠道申訴，要回賬號。畢文芬觀察到，限流和罰款給這些農村婦女主播帶來了經濟和心理的沖擊，很多人會覺得是自己播的時間不夠長、不夠努力，而不會認識到平臺規(guī)則變了，要么延長直播時間，要么回歸務農工作中。畢文芬認為，平臺前期也曾為當?shù)嘏蕴峁┝诵碌陌l(fā)展機遇，但當平臺的導向改變，驅使算法盲目追球利益，實際也侵害了這些弱勢群體的勞動者權益。

05

如何建立長效機制

根據(jù)上述《通知》，此次專項綜合治理分為三個階段，即企業(yè)自查自糾、屬地核驗企業(yè)自查情況以及治理成效評估總結。有關部門將在2025年1月檢驗企業(yè)自查情況，2025年2月14日前完威專項行動實施成效總結，全面評估《指導意見》印發(fā)以來的算法治理舉措及取得的積極威效，深入分析難點問題，制定今后一段時期的務實舉措。

此次清朗行動涉及算法問題較多是內容平臺，究其原因在于這與平臺的成熟度有關，百度、阿里巴巴、騰訊、滴滴、美團都曾經歷過輿論的風暴口，內容平臺還沒有經歷過輿論的風暴，這次是這類平臺歷史上的第一次。

比如關于虛假信息的問題，以鐘睒睒事件為例，內容平臺是可以有作為空間的，比如對事實類內容，如果未經核實，可以讓算法在內容里打上平臺提示，如：此內容未經核實，請注意辨別。對于未經核實的事實類內容，平臺有提示的責任和義務。

工信部信息通信經濟專家委員會委員劉興亮熟悉多個互聯(lián)網大公司。他認為，對監(jiān)營部門的要求，大公司并不會反對，他們也意識到這是個問題，應該得到治理。如果讓算法長久跑偏，最后受害的是整個行業(yè)。

劉興亮認為，算法問題依舊在互聯(lián)網平臺泛濫，其根本原因在于，算法具有很強的隱蔽性，很難界定某些后果是由算法直接導致的。對這次監(jiān)營部門的治理，他抱著樂觀期待的態(tài)度，但同時認為，一次治理并不能真正解決問題，他相信還會有下一次、下下次專項治理的“清朗行動”。

事實上，本次“清朗行動”，也特別提到對算法治理“建立長效機制”，要求常態(tài)化開展算法服務安全風險監(jiān)測防范工作，及時發(fā)現(xiàn)網站平臺違規(guī)問題線索，并綜合運用督促整改、現(xiàn)場檢查、處置處罰等措施，提升算法常態(tài)化治理水平。

監(jiān)管要求與平臺需求天生會有矛盾。有專家將其形容為“瓷器屋里捉老鼠”，無論監(jiān)管部門或是平臺自身，都會有投鼠忌器的顧慮。消除算法偏見與平臺商業(yè)利益之間也存在天然的矛盾。

劉典認為，算法治理是個循序漸進的過程，需要—步步完善。對算法進行監(jiān)管確實會給平臺帶來一些成本提升的挑戰(zhàn)，比如技術升級和合規(guī)成本。但從長遠來看，這有利于營造健康的網絡環(huán)境，促進平臺的可持續(xù)發(fā)展。具體來說，應要求平臺加強內容審核，確保算法推薦的健康性和多樣性；公開算法的基本原理和主要運行機制，提高透明度；建立用戶反饋機制，及時調整優(yōu)化算法；避免過度采集個人數(shù)據(jù)，保護用戶隱私。

治理是有代價的，代價也會由關聯(lián)平臺來承擔。平臺治理已經到了治理質量再上臺階的階段。如果平臺能主動看到問題并解決問題，平臺的發(fā)展也會再上臺階。（微信公眾號“經濟觀察報”，文章有刪減）