算法治理背景下關(guān)于個性化推薦優(yōu)化的研究

盧毅俊

（中國南方航空，廣東 廣州 510000）

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱算法推薦管理規(guī)定或管理規(guī)定）2021 年11 月16 日經(jīng)國家互聯(lián)網(wǎng)信息辦公室2021 年第20 次室務(wù)會議審議通過，并經(jīng)工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局同意聯(lián)合發(fā)布，自2022 年3 月1 日起正式實施[1]?！端惴ㄍ扑]管理規(guī)定》的出臺，可以進(jìn)一步規(guī)范這些互聯(lián)網(wǎng)信息服務(wù)推薦類的活動，切實維護(hù)人民的權(quán)利，保護(hù)人民的利益，也為促進(jìn)國家社會安全利益提供了有利的基礎(chǔ)，促進(jìn)互聯(lián)網(wǎng)的健康發(fā)展。

1 算法推薦管理規(guī)定主要關(guān)鍵點

本次《算法推薦管理規(guī)定》內(nèi)容主要分為六章，其中第二章“信息服務(wù)規(guī)范”及第三章“用戶權(quán)益保護(hù)”涉及了互聯(lián)網(wǎng)算法推薦的相關(guān)具體規(guī)定。本次管理規(guī)定也對算法推薦給了一個較明確的范圍，主要包括生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法，本文主要針對個性化推送這一類展開分析。對于個性化推薦，根據(jù)學(xué)者孫魯平等（2016）的定義，個性化推薦是電商平臺根據(jù)用戶的特點如用戶評分、瀏覽歷史、購物行為、社交關(guān)系等信息，綜合分析消費的需求偏好產(chǎn)品，并在用戶訪問平臺時將對應(yīng)的產(chǎn)品推送給他們[2]。個性化推薦系統(tǒng)主要由智能推薦系統(tǒng)執(zhí)行，整個過程主要涉及了數(shù)據(jù)輸入、推薦算法、推薦輸出這幾個步驟[3]，因此，算法推薦也是電商個性化推薦的關(guān)鍵核心之一，評估個性化推薦系統(tǒng)的好壞可以通過對其算法進(jìn)行評估[4]，總體來看，個性化推薦算法可以分為協(xié)同過濾推薦、基于內(nèi)容的推薦及混合型推薦三種模式[5]，其根本的邏輯都是基于用戶的個人基礎(chǔ)信息或行為數(shù)據(jù)進(jìn)行計算，在此次規(guī)定中，包含對算法推薦、個人信息管理等相關(guān)治理方面，對于企業(yè)電商個性化推薦服務(wù)有著重要的影響。

1.1 關(guān)于算法推薦的正向積極性

《算法推薦管理規(guī)定》第二章第六、七、八條從推薦內(nèi)容的規(guī)范性、價值性、合理性等作出了要求，明確要求推薦內(nèi)容要符合國家安全利益，遵守法律法規(guī)，要注重信息安全，切實做好用戶信息等網(wǎng)絡(luò)安全保護(hù)，推薦的內(nèi)容也要考慮好正向價值和積極能量的傳播，不得對社會造成負(fù)面影響。可以看到，管理規(guī)定從一開始就明確了算法推薦服務(wù)的方向，強調(diào)推薦服務(wù)應(yīng)該往正確的方向去進(jìn)行，要符合國家人民利益，保證安全，倡導(dǎo)價值正向理念。

1.2 關(guān)于用戶模型及信息標(biāo)簽的管理

《算法推薦管理規(guī)定》第二章第九、十條規(guī)定了算法服務(wù)的信息要符合信息安全、規(guī)范信息傳播、對不良信息進(jìn)行治理等要求。算法服務(wù)的提供者需要完善用戶興趣模型及用戶標(biāo)簽的管理規(guī)則，避免將違法不良信息作為用戶的興趣或標(biāo)簽而進(jìn)行推送。個性化推薦服務(wù)基于用戶信息，企業(yè)很多情況下會將用戶信息分成不同的標(biāo)簽進(jìn)行管理，以往企業(yè)可能對于用戶的標(biāo)簽信息好壞并不會作嚴(yán)格的區(qū)分，只要是涉及用戶的屬性特點，個性化推薦系統(tǒng)都會作為其中一個參考點，但管理規(guī)定要求個性化服務(wù)需要嚴(yán)格甄別這類不良信息，如果是涉及負(fù)面影響的違法不良隱私，個性化推薦算法一定要進(jìn)行過濾，以杜絕不良信息的推送。

1.3 關(guān)于推薦信息的真實客觀性

管理規(guī)定第二章第十三、十四、十五條主要規(guī)定了推薦服務(wù)需要保證信息的真實性，避免虛假內(nèi)容，禁止不合理限制其他互聯(lián)網(wǎng)服務(wù)的真實正當(dāng)信息。算法推薦的原則應(yīng)該遵循公平公正公開，個性化推薦服務(wù)不僅僅是按照企業(yè)的目標(biāo)利益去執(zhí)行，保證信息的真實性是開展推薦服務(wù)的前提，如果僅僅為了迎合用戶的喜好或者為了展現(xiàn)自己產(chǎn)品的好處，就制造了一些不屬實或過于夸張的信息去吸引研究，就會違背這個原則。過度推薦也是個性化服務(wù)讓用戶煩惱的一個現(xiàn)象，企業(yè)為了加大產(chǎn)品的銷售，而無節(jié)制地給用戶提送產(chǎn)品信息，給用戶造成了不少的困擾，規(guī)定將會進(jìn)一步限制這方面的行為，督促企業(yè)做好算法推薦的優(yōu)化，真正做到為用戶考慮。

1.4 關(guān)于提供推薦服務(wù)的說明

管理規(guī)定第三章第十六條規(guī)定算法推薦服務(wù)要用明顯的方式告訴用戶關(guān)于算法推薦的情況，包括算法的原理、目的、運行機制等。以往個性化推薦服務(wù)主要是以最終的一個輸出結(jié)果給到用戶，用戶對于個性化推薦最明顯的感知就是收到對應(yīng)的產(chǎn)品或信息推送，但對于其中涉及的算法邏輯，推送目的等用戶會一無所知或者很模糊，只能被動地接受服務(wù)。此條規(guī)定增加了推薦服務(wù)的透明性，用戶作為接受服務(wù)的主題，有權(quán)知道算法的推薦邏輯和背景，只有知道了這些用戶才能結(jié)合實際情況去決定是否要使用這個推薦服務(wù)，如此一來，電商個性化推薦不僅僅是企業(yè)主動產(chǎn)生的行為，企業(yè)在執(zhí)行之前也要先盡到告知的義務(wù)。

1.5 關(guān)于用戶對于個性化服務(wù)使用的決定權(quán)

管理規(guī)定第三章第十七條規(guī)定算法服務(wù)需要提供一個方便清晰的關(guān)閉算法服務(wù)的選項，關(guān)閉后不再對用戶提供算法推薦服務(wù)。以往大多數(shù)情況是電商應(yīng)用默認(rèn)給用戶提供個性化推薦服務(wù)，雖然在應(yīng)用打開時有請求用戶能否收集相關(guān)信息，但用戶如果拒絕往往就不能使用應(yīng)用的任何服務(wù)了，此規(guī)定明確了算法服務(wù)的獨立性，必須是用戶同意后才能提供，用戶能自行選擇是否需要推薦服務(wù)。關(guān)閉算法服務(wù)到底要做到什么程度，也需要后續(xù)相關(guān)規(guī)定進(jìn)一步明確，所以關(guān)于個性化服務(wù)的關(guān)閉整治后續(xù)還有一段路要走。

1.6 關(guān)于對特殊用戶群體的服務(wù)個性化

管理規(guī)定第三章第十八、十九條規(guī)定了算法服務(wù)向未成年人或老人群體提供服務(wù)時應(yīng)當(dāng)根據(jù)其群體特點做好對群體的保護(hù)，對于未成年人要加強其身心健康的引導(dǎo)，對于老年群體要關(guān)愛好他們的使用體驗，在方便他們使用的同時也要保護(hù)他們免受網(wǎng)絡(luò)詐騙。這里強調(diào)個性化推薦服務(wù)要更注重關(guān)懷性，不能只為了盈利而只去服務(wù)經(jīng)常使用或懂得使用網(wǎng)絡(luò)的群體，個性化推薦服務(wù)也不能用一套模式一勞永逸，需要考慮到不同群體的特點去制定不同的服務(wù)內(nèi)容，保證各個群體都能受益，保護(hù)好他們的權(quán)益。

1.7 關(guān)于個性化服務(wù)的公平性

管理規(guī)定第三章第二十一條規(guī)定了算法服務(wù)要保護(hù)用戶的交易公平性，不得利用消費者的偏好信息實施不合理的對待。此規(guī)定對于電商購物中如“大數(shù)據(jù)殺熟”這種現(xiàn)象給了一個明確的禁止規(guī)定。在零售市場中，價格歧視是企業(yè)根據(jù)不同的市場、地域、消費群體采取的價格區(qū)分定位的一種手段，在以前互聯(lián)網(wǎng)電商還不是很發(fā)達(dá)的情況下，企業(yè)并不能利用很隱蔽的手段去實行，用戶還能比較明顯地看到這種價格差別，如果用戶想要獲得更低價，他只需要多付出一些努力就能享受到這種低價。但在大數(shù)據(jù)的時代，企業(yè)可以利用算法來隨時給用戶進(jìn)行定價，在網(wǎng)站產(chǎn)品信息瞬息萬變的情況下，可能一個算法調(diào)整就能讓消費能力更強的人看到價格更貴的產(chǎn)品，價格敏感的人看到低價產(chǎn)品，而且是在大家都對低價產(chǎn)品有需求的情況下，消費能力強的人就因此失去了購買低價的機會，這就嚴(yán)重造成了不公平的現(xiàn)象，所以個性化服務(wù)不能僅根據(jù)用戶的特點提供有差別的價格，更多應(yīng)該是從產(chǎn)品的特性上去區(qū)分價格，然后推送給不同的用戶，當(dāng)然也不能剝奪高價值用戶看到低價產(chǎn)品的權(quán)利。

1.8 關(guān)于個性化服務(wù)的用戶反饋

管理規(guī)定第三章第二十二條規(guī)定了算法服務(wù)需要提供一個方便的渠道給用戶反饋問題及投訴，企業(yè)應(yīng)該能有效處理這些反饋。這條強調(diào)了個性化推薦服務(wù)的反饋重要性，再次說明了推薦服務(wù)不僅是企業(yè)的主動行為，用戶不再只是主動接受服務(wù)，用戶不僅有接受選擇的主動權(quán)，也有提供意見的權(quán)利，個性化推薦服務(wù)應(yīng)當(dāng)要保證反饋的通暢性。

2 電商個性化推薦的改善建議

2.1 保護(hù)用戶對于個性化推薦服務(wù)的決定權(quán)，加強用戶互動性

電商個性化推薦服務(wù)的產(chǎn)生都是基于用戶的信息進(jìn)行輸出，用戶的個人隱私信息是個性化推薦服務(wù)的基礎(chǔ)，從隱私的關(guān)注維度上看，Malhotra 等（2004）認(rèn)為隱私關(guān)注可以分為隱私收集、隱私控制、隱私認(rèn)知，其中控制包含了用戶對個人信息的自主權(quán)，用戶有權(quán)決定自己的信息如何被使用，同時也要掌握自己的個人信息利用[6]。因此，企業(yè)首先應(yīng)該給用戶提供一個顯著的是否使用個性化服務(wù)的選項，如果用戶關(guān)閉了服務(wù)，則不再主動地給用戶提供信息，也不能再利用用戶的個人信息進(jìn)行算法計算。如果用戶使用個性化推薦服務(wù)，則在服務(wù)開始前，應(yīng)明確告知用戶需要收集哪些信息，這些信息會用在那些服務(wù)場景，同時應(yīng)當(dāng)采用簡潔明了的形式告知推薦算法的應(yīng)用邏輯，大致的算法規(guī)則，能達(dá)到讓用戶理解自己會接收到怎么樣的推薦產(chǎn)品的程度就行。另外建議增加推薦服務(wù)的反饋機制，給用戶提供一個可以對推薦服務(wù)反饋意見的渠道，可以是一個簡潔的反饋頁面，對于用戶提供的意見需要及時地反饋，讓用戶感覺到自己被重視。同時，企業(yè)應(yīng)該主動給用戶反饋推薦服務(wù)的情況，在推薦過程中也可以隨時詢問用戶的感受，如用戶在收到推薦信息時可以在底下反饋是否喜歡這個推薦等。

2.2 重視產(chǎn)品的公平性與真實性，保護(hù)用戶的合法利益，加強算法的優(yōu)化

“大數(shù)據(jù)殺熟”等現(xiàn)象讓用戶痛恨，企業(yè)不能為了一時的利益而流失掉用戶，信任永遠(yuǎn)是企業(yè)的立足之本，企業(yè)在提供服務(wù)時應(yīng)該隨時考慮算法的公平性，相同的產(chǎn)品不應(yīng)該以不同的價格提供給用戶，應(yīng)該著重在對產(chǎn)品質(zhì)量的打磨，根據(jù)不同的用戶特點提供不同特點，有差異的產(chǎn)品，這才是個性化精準(zhǔn)營銷的基礎(chǔ)，首先需要有個性化的差異產(chǎn)品，而不單單是差異化的價格。同時推薦的產(chǎn)品應(yīng)該是基于用戶的真實需求，個性化推薦就是為了匹配用戶的特點為其推送最合適的產(chǎn)品，應(yīng)該是根據(jù)用戶的實際情況去進(jìn)行匹配，避免為了沖銷量而給用戶推薦不合適的產(chǎn)品。

2.3 注重推薦信息的合理性，倡導(dǎo)正向價值觀

算法需要為用戶帶來符合需求的個性化服務(wù)，也需要倡導(dǎo)正向的內(nèi)容，引領(lǐng)積極的方向。首先，算法推薦服務(wù)雖然是給用戶推薦合適的產(chǎn)品，但并不是無節(jié)制地推薦，因為算法在根據(jù)用戶興趣愛好推薦的同時，也會不可避免地引起信息成癮的問題，不斷地迎合用戶需求，不斷地根據(jù)用戶愛好推薦容易讓用戶形成單一的信息，如果不加制止，也會容易讓用戶陷入泛娛樂化的陷阱，使其沉浸在虛擬世界中[7]。如果用戶本身有涉及不良的習(xí)慣，或者社會上傳播的一些不良思想也自動加入算法中，會容易帶偏社會的正向價值觀。企業(yè)在做推薦服務(wù)的同時，也可以多加入一些社會主流正向價值觀的內(nèi)容，即符合用戶產(chǎn)品需要，也能引導(dǎo)人們積極向上，構(gòu)建健康的消費理念。算法本身沒有判斷好壞的屬性，一切在于人為的控制與優(yōu)化[8]，所以，任何企業(yè)在做個性化推薦服務(wù)的時候，都應(yīng)該避免這種負(fù)向的信息，多考慮好算法所產(chǎn)生的意外結(jié)果，從而去及時進(jìn)行規(guī)范。

2.4 建立一套完善的推薦算法管理機制

算法推薦需要國家層面出臺法律規(guī)定進(jìn)行治理，同理企業(yè)也應(yīng)該遵循規(guī)定去給自己制定關(guān)于算法的內(nèi)部管理機制。在大數(shù)據(jù)盛行、電商購物行為普遍的背景下，每天都會產(chǎn)生大量的數(shù)據(jù)，即涉及了用戶的購物行為，也會涉及很多個人甚至國家層面的敏感數(shù)據(jù)，如何對這些數(shù)據(jù)進(jìn)行管理，如何保護(hù)這些數(shù)據(jù)，需要企業(yè)完善信息技術(shù)，也需要企業(yè)內(nèi)部形成嚴(yán)格的信息保護(hù)條款，做好數(shù)據(jù)脫敏，規(guī)范內(nèi)部的數(shù)據(jù)使用規(guī)定。另外，在人工智能時代，推薦算法也逐漸趨向于智能化和自動化，算法能自動進(jìn)行學(xué)習(xí)，不斷地優(yōu)化從而能做出更有效符合用戶需求的推薦，但智能化的算法畢竟無法對所有情況進(jìn)行判斷，涉及一些倫理性或價值是否判斷的內(nèi)容智能算法可能沒有辦法很好地處理，企業(yè)不能任由算法去執(zhí)行推薦服務(wù)，應(yīng)該要定期檢查算法推薦的內(nèi)容是否符合相關(guān)規(guī)范，可以成立專門的算法推薦服務(wù)體驗小組，定期進(jìn)行個性化推薦服務(wù)體驗，及時提出算法優(yōu)化建議。利用技術(shù)手段及時規(guī)制算法出現(xiàn)的不確定情況，如果發(fā)現(xiàn)個性化推薦產(chǎn)生了不良的內(nèi)容，要有相應(yīng)的系統(tǒng)自動阻斷機制。

3 結(jié)語

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》無疑是給電商個性化推薦提出了更多的要求，也進(jìn)一步為規(guī)范算法推薦服務(wù)市場提供了有力的方向。算法推薦不再僅僅強調(diào)推薦效果的精準(zhǔn)性和有效性，也應(yīng)該給社會帶來更多方面的價值。希望更多企業(yè)能遵循規(guī)定，致力于為用戶提供更有效、更安全、更公平、更積極向上的推薦服務(wù)，共同打造一個健康的電商消費環(huán)境。