“一鍵關(guān)閉”，算法推薦與網(wǎng)絡(luò)清朗

文_夏德元 陳良飛 苗若木

夏德元：互聯(lián)網(wǎng)的普及，尤其是基于人工智能的個(gè)性化信息服務(wù)，無疑給人們的生活和工作帶來了極大的便利。但是，事實(shí)上剝奪了互聯(lián)網(wǎng)用戶自主選擇權(quán)而“推你沒商量”的“算法推薦服務(wù)”也給人們帶來了諸多困擾。為回應(yīng)廣大網(wǎng)民的呼聲，國(guó)家網(wǎng)信辦等四部門于去年年底聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，并于今年三月正式開始實(shí)施。對(duì)這個(gè)規(guī)定的出臺(tái)，兩位有何評(píng)論？

苗若木：《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的出臺(tái)，為算法推薦服務(wù)提供了規(guī)范指引，對(duì)“算法推薦服務(wù)提供者”的操作規(guī)程提出了明確的要求，規(guī)定“算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況；向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)”。于是，算法推薦服務(wù)的“一鍵關(guān)閉”功能隨之應(yīng)運(yùn)而生，迅速在今日頭條、微信、抖音、百度、微博等APP中上線，允許用戶在后臺(tái)一鍵關(guān)閉“個(gè)性化推薦”?！耙绘I關(guān)閉”后，新聞媒體平臺(tái)將不再根據(jù)用戶的瀏覽記錄生成推薦內(nèi)容或推送廣告。這個(gè)規(guī)定著重聚焦于算法技術(shù)的相關(guān)規(guī)制，首次以法規(guī)形式對(duì)算法個(gè)性化推薦進(jìn)行規(guī)范，回應(yīng)了對(duì)算法價(jià)值觀的要求，對(duì)算法推薦引起的“網(wǎng)絡(luò)彈窗”和干擾性信息的問題起到了很好的清朗效果。

確實(shí)，近年來大數(shù)據(jù)、算法推薦、人工智能等新興技術(shù)發(fā)展迅猛。大數(shù)據(jù)的隱私數(shù)據(jù)攫取、算法推薦的人文主義缺位、大數(shù)據(jù)殺熟和算法歧視等等，引起了學(xué)界和業(yè)界的關(guān)注和討論，“一鍵關(guān)閉”是對(duì)算法技術(shù)的發(fā)展和應(yīng)用管理新課題的一種回應(yīng)。

陳良飛：這個(gè)規(guī)定正式實(shí)施后，我也特地注意了一下媒體輿論對(duì)它的討論，大家的主要關(guān)注點(diǎn)在于過分收集用戶信息、大數(shù)據(jù)殺熟等方面。當(dāng)然，它對(duì)于用戶更方便地關(guān)閉算法推薦服務(wù)也作出了規(guī)定，如要求算法推薦服務(wù)提供者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。但具體什么樣的情況屬于“便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)”，還需要在執(zhí)法實(shí)踐中予以明確。應(yīng)該說，這一管理規(guī)定對(duì)于解決過分收集用戶信息、彈窗廣告多、信息干擾多的現(xiàn)象會(huì)起到一定的作用，國(guó)家網(wǎng)信辦在出臺(tái)這一管理規(guī)定時(shí)也考慮到了它的實(shí)用性。一個(gè)很顯著的標(biāo)志就是這一管理規(guī)定不是由國(guó)家網(wǎng)信辦一家出臺(tái)的，而是四部門聯(lián)合公布：“國(guó)家互聯(lián)網(wǎng)信息辦公室2021年第20次室務(wù)會(huì)議審議通過，并經(jīng)工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局同意?！敝赃@樣，主要還是為了加強(qiáng)這一管理規(guī)定在后續(xù)執(zhí)行過程中的權(quán)威性、強(qiáng)制性等。

夏德元：照理說，互聯(lián)網(wǎng)個(gè)性化信息服務(wù)是技術(shù)進(jìn)步帶來的信息福利，何至于需要國(guó)家多部門出臺(tái)規(guī)定？這樣的干預(yù)會(huì)達(dá)到預(yù)期的效果嗎？

苗若木：國(guó)家為什么出臺(tái)算法推薦服務(wù)管理的相關(guān)規(guī)定？網(wǎng)信辦等部門的這一舉措是算法技術(shù)本身存在問題嗎？答案顯然是否定的。從古登堡開始，每一次媒介技術(shù)的創(chuàng)新和從技術(shù)到媒介管理的跌宕都會(huì)給新聞傳播事業(yè)帶來一場(chǎng)革命。幾乎每個(gè)有志于學(xué)習(xí)編程的技術(shù)人員在C語言中習(xí)得的第一段代碼結(jié)果都是“你好，世界（Hello World）”。2009年，谷歌正式開始通過大數(shù)據(jù)進(jìn)行用戶畫像，由此拉開了個(gè)性化時(shí)代的帷幕。算法推薦依托于互聯(lián)網(wǎng)海量的大數(shù)據(jù)，用技術(shù)手段驅(qū)動(dòng)新聞選擇模式，徹底顛覆了過去的精英式生產(chǎn)，既體現(xiàn)了新聞生產(chǎn)權(quán)力的過渡與分散的宏觀意義，又實(shí)現(xiàn)了數(shù)據(jù)思維和用戶思維對(duì)于編輯部層級(jí)式架構(gòu)的重大突破，也體現(xiàn)了大數(shù)據(jù)時(shí)代下以用戶為核心的理念初衷。

然而，任何一項(xiàng)新技術(shù)的發(fā)展和應(yīng)用都存在著相互促進(jìn)又相互制約的關(guān)系。這場(chǎng)涉及新聞生產(chǎn)與分發(fā)的智能革命在進(jìn)程之中逐漸變了味。目前的算法推薦系統(tǒng)首先向你推薦你想看的新聞和“好看的”新聞，進(jìn)而推薦他們認(rèn)為你想看的，最后通過引導(dǎo)，將內(nèi)容變成你想看的。算法推薦系統(tǒng)潛移默化地塑造著使用者，也在影響著內(nèi)容提供者。算法推薦的初心是讓新聞受眾看見更廣闊的世界，而目前的算法推薦卻讓新聞受眾走進(jìn)了信息孤島。從“你好，世界（Hello World）”變成了“你好，我的 世 界（Hellomy world）”。信息繭房、回音壁效應(yīng)反而導(dǎo)致用戶的新聞視野窄化、偏見固化。

不管是出于提升媒體平臺(tái)服務(wù)的目的，還是致力于實(shí)現(xiàn)精準(zhǔn)營(yíng)銷，挖掘潛在的商機(jī)和市場(chǎng)，都離不開基于算法產(chǎn)生的數(shù)據(jù)收集與判斷，所以各個(gè)媒體平臺(tái)長(zhǎng)期使用算法來完成“個(gè)性化推薦服務(wù)”，實(shí)際上是通過算法提高用戶黏合度，引導(dǎo)用戶的使用習(xí)慣。然而，滿足用戶對(duì)新聞信息的個(gè)性化定制需求，用戶必須先泄漏自己的信息以供抓取，算法新聞所形成的“環(huán)形監(jiān)獄”使公眾隱私難以得到保障。

陳良飛：和其他市場(chǎng)主體與監(jiān)管部門的關(guān)系一樣，互聯(lián)網(wǎng)信息服務(wù)的提供者和代表公眾利益的監(jiān)管部門之間存在一種博弈關(guān)系，并且這種博弈是持續(xù)多次發(fā)生的。由于兩者利益訴求既有一致之處，也有所不同，監(jiān)管部門一定期待令行禁止，但是互聯(lián)網(wǎng)信息服務(wù)提供者為了自身利益一定會(huì)尋找各種規(guī)則之內(nèi)的“縫隙”來獲得利益最大化。在長(zhǎng)期的立法、執(zhí)法實(shí)踐中，互聯(lián)網(wǎng)監(jiān)管部門的管理也會(huì)越來越細(xì)致，以防止互聯(lián)網(wǎng)信息服務(wù)提供者有機(jī)可乘。比如，對(duì)于用戶不堪其擾的各種“精準(zhǔn)推送”而言，除了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》有所規(guī)范之外，國(guó)家互聯(lián)網(wǎng)信息辦公室還起草了《互聯(lián)網(wǎng)彈窗信息推送服務(wù)管理規(guī)定（征求意見稿）》，意見稿中對(duì)彈窗信息推送服務(wù)的具體方式、內(nèi)容頻次、取消渠道等都作了非常具體的規(guī)定。

夏德元：對(duì)互聯(lián)網(wǎng)的信息服務(wù)進(jìn)行法律規(guī)制，是世界各國(guó)的通行做法，兩位是否能介紹一下其他國(guó)家的先例？與國(guó)外的通行做法相比，我國(guó)正在實(shí)施的“一鍵關(guān)閉”規(guī)定有何不同？

陳良飛：的確，算法推薦并不是中國(guó)互聯(lián)網(wǎng)特有的應(yīng)用，在國(guó)外互聯(lián)網(wǎng)業(yè)界和學(xué)界對(duì)此也有爭(zhēng)議和討論。除了用戶隱私權(quán)，還有更多的可以討論的維度。目前基本上達(dá)成共識(shí)的討論認(rèn)為，互聯(lián)網(wǎng)信息服務(wù)提供者通過程序算法向不同的用戶推送不同的新聞，以滿足用戶個(gè)性化的新聞興趣與需求。在這一過程中，傳播的公共性邏輯就會(huì)被徹底改變?；ヂ?lián)網(wǎng)信息服務(wù)提供者成為信息與用戶之間的最終把關(guān)人，帶來的是整個(gè)傳播權(quán)力結(jié)構(gòu)的變化。這不僅不能帶來真正意義上的個(gè)性化和多樣化，還將勢(shì)必加劇“群體極化”效應(yīng)，使不同社群和族群之間的溝通和交流被徹底阻斷。這恐怕是算法推薦的“發(fā)明者”都未曾預(yù)料到的景象。

苗若木：正是基于這個(gè)原因，西方國(guó)家也先后采取了一些治理措施并出臺(tái)了相關(guān)的規(guī)定。2018年年初，美國(guó)紐約市針對(duì)公共部門算法的“1696提案”，是世界上第一次專門針對(duì)算法的監(jiān)管行動(dòng)。2018年5月，歐盟發(fā)布了《一般數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，GDPR），這是21世紀(jì)以來數(shù)據(jù)隱私條例的最重大的變化之一，它將取代在歐盟實(shí)施了23年之久的《個(gè)人資料保護(hù)指令（95/46指令）》（1995年）。《一般數(shù)據(jù)保護(hù)條例》指出了算法應(yīng)遵循透明性與可解釋性原則，并協(xié)調(diào)全歐洲的數(shù)據(jù)隱私法律，為所有歐盟民眾和授權(quán)數(shù)據(jù)的隱私提供保護(hù)。同年12月，歐盟委員會(huì)發(fā)布《可信賴的人工智能道德準(zhǔn)則草案》中提出算法必須遵守自治原則，即尊重自我決定和個(gè)人選擇。2019年，加拿大公布了針對(duì)政府部門使用算法的《自動(dòng)化決策指令》。當(dāng)然，無論是從法律體系、媒體規(guī)制、用戶權(quán)益保護(hù)等多方面維度來說，中國(guó)的“一鍵關(guān)閉”走在了世界的前列，不僅將算法個(gè)性化推薦服務(wù)的選擇權(quán)還給用戶，更對(duì)算法治理工作、營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間起到了制度引領(lǐng)作用。

夏德元：這一規(guī)定實(shí)施后，對(duì)網(wǎng)絡(luò)媒體有何影響？

苗若木：如今，中國(guó)互聯(lián)網(wǎng)普及率已達(dá)73%、網(wǎng)民規(guī)模達(dá)10.32億，算法服務(wù)個(gè)性化推薦與每個(gè)人息息相關(guān)。微信、百度、今日頭條等媒體平臺(tái)已經(jīng)陸續(xù)開始啟用一鍵關(guān)閉功能。我認(rèn)為，在沒有技術(shù)推薦的“后算法時(shí)代”，新聞媒體會(huì)呈現(xiàn)全新的格局。首先是對(duì)于新聞信息的整體分發(fā)模式的影響，目前大多數(shù)新聞媒體平臺(tái)是通過算法推薦模型進(jìn)行信息級(jí)聯(lián)（information cascade）的形式分發(fā)新聞，在一鍵關(guān)閉之后，媒體平臺(tái)勢(shì)必會(huì)回歸以各種板塊、頻道和地域?yàn)槿肟诘哪Ｊ?。這種內(nèi)容運(yùn)營(yíng)方式是基于人工手動(dòng)配置的，因此媒體平臺(tái)需要投入大量的人力，將會(huì)大大促進(jìn)對(duì)復(fù)合型媒體人才的需求。

其次，“一鍵關(guān)閉”對(duì)于大多數(shù)新聞媒體的市場(chǎng)轉(zhuǎn)化效率的整體影響還需要度過一段時(shí)間的緩沖期，再探索新的市場(chǎng)轉(zhuǎn)化模式。對(duì)于網(wǎng)絡(luò)廣告影響也很大，當(dāng)用戶一鍵關(guān)閉后，很多推薦的優(yōu)勢(shì)計(jì)量廣告位置也會(huì)被同步屏蔽，整體的推薦流量減少。算法的個(gè)性化推薦系統(tǒng)促使廣告商都轉(zhuǎn)向以用戶興趣驅(qū)動(dòng)的RTB（Real Time Bidding）實(shí)時(shí)競(jìng)價(jià)廣告，一鍵關(guān)閉后只能固定展示某些信息，廣告商也會(huì)回歸到傳統(tǒng)，按照某一固定的資源位置或者固定時(shí)間段的GD（Guaranteed delivery）保量式廣告、CPD（Cost Per Download）付費(fèi)廣告和 CPT（Cost Per Time）時(shí)段廣告。一般都是大品牌商為起到品牌推廣效應(yīng)而選擇以上三種方式投放廣告，對(duì)新聞媒體平臺(tái)的廣告收入產(chǎn)生較大影響，由此引發(fā)的品牌廣告的壟斷性也是需要各新聞媒體平臺(tái)廣泛關(guān)注的問題。另外，對(duì)于短視頻新聞媒體而言，一屏式信息流能夠吸引未經(jīng)算法推薦的用戶的概率將極大降低。所以這類新聞媒體平臺(tái)一旦用戶選擇一鍵關(guān)閉，其信息流展現(xiàn)方式也可能會(huì)隨之切換。在一鍵關(guān)閉之后，還應(yīng)該警惕各個(gè)媒體平臺(tái)通過反向推薦的方式促使用戶重新開啟算法個(gè)性化推薦服務(wù)，反向推薦無疑是對(duì)用戶權(quán)益另一種形式的侵害。

陳良飛：談到這一規(guī)定的后續(xù)影響，我覺得對(duì)于商業(yè)資訊類APP的影響會(huì)遠(yuǎn)大于新聞媒體類APP。算法推薦最初是商業(yè)資訊APP的一項(xiàng)“創(chuàng)新”，繼而為眾多新聞媒體類APP所借鑒學(xué)習(xí)。對(duì)于這一功能，不少新聞媒體類APP還處于起步階段。澎湃新聞近年來也引入了算法推薦機(jī)制，但比較“克制”，只限于要聞?lì)l道，其他頻道還是采取人工推薦+時(shí)間瀑布流，尊重用戶自由選擇權(quán)。

回顧商業(yè)資訊類APP的發(fā)展歷程，我們就會(huì)清晰發(fā)現(xiàn)，最初的商業(yè)資訊類APP也是千人一面的，每個(gè)人看到的內(nèi)容和順序都是一樣的，突然有一天，有個(gè)商業(yè)資訊類APP站出來振臂一呼，說能讓每個(gè)用戶都能看到不一樣的內(nèi)容，千人千面。這一商業(yè)資訊類APP就獲得了巨大的成功，更多的同類型產(chǎn)品開始模仿甚至變本加厲地模仿了。用一句時(shí)髦的話來說，算法推薦并沒有“原罪”。問題在于，當(dāng)越來越多的各類APP加入到算法推薦的競(jìng)爭(zhēng)之后，用戶沒有了選擇權(quán)。并不是所有用戶都喜歡使用這一功能，當(dāng)該用戶想關(guān)閉這一功能的時(shí)候卻發(fā)現(xiàn)找不到可供選擇的選項(xiàng)。也有用戶只想安安靜靜地看會(huì)兒新聞資訊，不喜歡被定位、被收集個(gè)人隱私信息、愛好信息，但是很難做到。當(dāng)你把一款A(yù)PP，還不限于新聞資訊類APP的“定位”功能、查看相機(jī)照片功能取消了之后，你會(huì)發(fā)現(xiàn)這款A(yù)PP算是“廢”了，簡(jiǎn)直寸步難行。為了正常使用，你又不得不放棄各種隱私和權(quán)利，用戶的選擇權(quán)就在這激烈的算法大戰(zhàn)中“消失”了。

因此，我們對(duì)這一管理規(guī)定的作用也不能過于樂觀。彈窗廣告的問題、過分用戶信息收集的問題不會(huì)因?yàn)檫@一管理規(guī)定的出臺(tái)就消失得無影無蹤。未來，互聯(lián)網(wǎng)信息服務(wù)提供者會(huì)采取各種辦法來規(guī)避這一規(guī)定，也讓算法推薦更趨隱蔽。比如，用戶在以后的使用中會(huì)發(fā)現(xiàn)，自己明明一鍵關(guān)閉了算法推薦，明明關(guān)閉了定位、訪問相機(jī)的權(quán)限，但是這款A(yù)PP還是在“偷偷地”根據(jù)自己的訪問記錄、搜索記錄再向自己推薦各類信息。

夏德元：人們常說，權(quán)力越大，責(zé)任越大。如果要對(duì)互聯(lián)網(wǎng)平臺(tái)和從事互聯(lián)網(wǎng)信息服務(wù)的新聞媒體提幾句忠告和建議，兩位有什么要說的？

陳良飛：我們要清醒地認(rèn)識(shí)到，監(jiān)管部門之所以到現(xiàn)在才出臺(tái)管理規(guī)定，主要的考慮是怕誤傷“創(chuàng)新”。算法推薦當(dāng)然是一項(xiàng)創(chuàng)新，會(huì)讓互聯(lián)網(wǎng)服務(wù)更具有針對(duì)性、接近性，但是在實(shí)踐中，用戶的可選擇權(quán)消失了。我們應(yīng)該意識(shí)到，互聯(lián)網(wǎng)服務(wù)提供者并非有意和監(jiān)管部門對(duì)著干，就是沒有商業(yè)道德，就是想過度獲取用戶隱私。這一切都源于殘酷的互聯(lián)網(wǎng)行業(yè)競(jìng)爭(zhēng)。在高速發(fā)展的中國(guó)互聯(lián)網(wǎng)市場(chǎng)上，第一個(gè)這么做的公司可能大獲成功，然后更多的公司就會(huì)迅速跟進(jìn)，用戶的隱私、自由選擇權(quán)就在這樣的互聯(lián)網(wǎng)商業(yè)大戰(zhàn)中被擊得粉碎。上述管理規(guī)定就是針對(duì)用戶的自由選擇權(quán)而制定的，應(yīng)該尊重用戶的這一權(quán)利。中國(guó)的移動(dòng)互聯(lián)網(wǎng)正在高速發(fā)展階段，蘿卜快了難免不洗泥，任何互聯(lián)網(wǎng)信息提供者都應(yīng)該有這樣的共識(shí)：第一，應(yīng)該讓用戶有自由選擇權(quán)；第二，無論用戶作出了怎樣的選擇，該用戶都應(yīng)該可以正常使用這一應(yīng)用程序。

苗若木：從大數(shù)據(jù)時(shí)代到后算法時(shí)代，新聞媒體都應(yīng)擔(dān)負(fù)起陣地建設(shè)責(zé)任、價(jià)值引領(lǐng)責(zé)任、權(quán)益保障責(zé)任和網(wǎng)絡(luò)環(huán)境責(zé)任，提高積極正向的輿論引導(dǎo)力，以“內(nèi)容為王”取代“技術(shù)為王”，提升新聞品質(zhì)和媒體素養(yǎng)。無論是算法還是大數(shù)據(jù)，新聞媒體應(yīng)駕馭技術(shù)擴(kuò)大新聞內(nèi)容的傳播力和影響力，而不是被技術(shù)所駕馭，也能夠在一鍵關(guān)閉的清朗效果之下，走上一條新聞生產(chǎn)效率和傳播效果的“雙效”高速發(fā)展之路。