算法推薦技術(shù)的邏輯“陷阱”及規(guī)避

高一丹，李演軍

（蘭州理工大學(xué)圖書館，甘肅 蘭州 730050）

“媒介即信息”（麥克盧漢語）。在萬物互聯(lián)、萬物皆媒的智媒時代，人與算法皆為媒介。無論你是否愿意，人與萬物彼此相連而產(chǎn)生大量的信息，從而形成一個巨大的數(shù)據(jù)系統(tǒng)。在智媒時代的今天，我們常常會遇到這樣一些現(xiàn)象：當(dāng)你在互聯(lián)網(wǎng)上搜索或者購買某款產(chǎn)品后，你的首頁就會被同類產(chǎn)品所占領(lǐng)。同樣，電腦、手機(jī)好像很“懂你”，同款的設(shè)備，年輕人與中老年的首頁、搜索引擎頁面完全不同。正如流行語所言，“你相信什么，媒體就會讓你看見什么”“你有什么樣的觀點，你就會經(jīng)?？吹脚c你相同看法的文章”。在人工智能、大數(shù)據(jù)、云計算以及5G 應(yīng)用技術(shù)主宰的智媒時代，“千人千面”的個性化、精準(zhǔn)化服務(wù)已成常態(tài)，高科技在給用戶帶來信息便捷服務(wù)的同時，伴隨而來的是過度的“索權(quán)”和“信息黑箱”。他們違規(guī)收集個人信息，侵害個人隱私，泄露個人數(shù)據(jù)，對用戶造成極大的傷害。人們普遍感受到自己已經(jīng)變成“透明人”，無時無刻不處于恐慌、焦慮和無奈之中。這種現(xiàn)象如果得不到及時有效地規(guī)制，將會引發(fā)一系列社會問題。

1 算法推薦技術(shù)的邏輯

人工智能和大數(shù)據(jù)的核心技術(shù)在于算法，算法的本質(zhì)是一種權(quán)力的讓渡。作為數(shù)據(jù)與人工智能的節(jié)點，算法在新聞內(nèi)容生產(chǎn)和分發(fā)環(huán)節(jié)中起著關(guān)鍵的邏輯控制作用，在信息的準(zhǔn)入、準(zhǔn)出方面發(fā)揮著重要的過濾作用，在檢索、分類方面發(fā)揮著記錄和判定作用[1]。而算法推薦技術(shù)是以計算機(jī)為平臺，利用用戶在互聯(lián)網(wǎng)上的行為軌跡，包括時間、地點、場景等；通過對用戶的年齡、性別、職業(yè)、愛好、興趣等數(shù)據(jù)收集進(jìn)行偏好分析，推算用戶可能的物質(zhì)、精神需求。然后基于內(nèi)容推薦、協(xié)同過濾推薦、關(guān)聯(lián)規(guī)則推薦等技術(shù)，對收集的信息進(jìn)行整理，對環(huán)境、內(nèi)容、個人特質(zhì)進(jìn)行分析判斷，計算出相關(guān)性、熱度指標(biāo)、協(xié)同性等方面的特征，形成“用戶畫像”。再根據(jù)“畫像”匹配、分發(fā)信息，為用戶精準(zhǔn)推送量身定做的資訊信息產(chǎn)品。算法就是以此為基礎(chǔ)進(jìn)行分析、篩選、分揀、匹配內(nèi)容，調(diào)試人們的價值關(guān)系，推送資訊信息產(chǎn)品。

當(dāng)然，在算法沒有足夠的數(shù)據(jù)進(jìn)行計算時，平臺會推送一些極具誘惑力的內(nèi)容，如文不對題的“標(biāo)題黨”，低俗誘惑的“強(qiáng)烈推薦”，博人眼球的“熱點關(guān)注”等，引誘用戶點擊、關(guān)注，甚至互動、評論。通過這些操作和內(nèi)容，進(jìn)一步試探用戶愛好興趣，吸引用戶點擊關(guān)注，以此收集用戶更多、更詳細(xì)的信息，完善算法元素。為獲取更多的數(shù)據(jù)，算法會不斷刺激用戶使用產(chǎn)品和信息內(nèi)容，吸引用戶“沉浸”其中，迷戀于網(wǎng)絡(luò)而不能自拔。隨著點擊、互動的深入，在完全不自知的情況下讓渡更多的“權(quán)力”，在奉獻(xiàn)“流量”的同時，奉獻(xiàn)更多的隱秘信息，讓“機(jī)器”完全掌握“人類”，在不斷地匹配、調(diào)試中提高算法的精準(zhǔn)度。

2 算法推薦的技術(shù)倫理與“陷阱”

2.1 算法推薦技術(shù)的倫理失范

“技術(shù)是把雙刃劍”。算法推薦作為一種“技術(shù)”的存在，并沒有“好”“壞”的屬性，但傳播者如果將這種技術(shù)與追求最大利潤結(jié)合起來，與用戶的需求偏好和價值取向結(jié)合起來，編織信息繭房，攫取流量，自然就會涉及到一些技術(shù)倫理的問題。

（1）信息的客觀性和公正性受到挑戰(zhàn)。有學(xué)者認(rèn)為，堅持新聞信息內(nèi)容傳播時的真實性，是對傳媒機(jī)構(gòu)及其從業(yè)人員最基本、最底線的要求和應(yīng)遵循的新聞傳播準(zhǔn)則，也是媒體最重要的倫理功能之一[2]。信息有“公共產(chǎn)品”的社會屬性，傳統(tǒng)媒體的信息傳播強(qiáng)調(diào)的是信息的真實、客觀、公正，“正面引導(dǎo)”。傳媒機(jī)構(gòu)要牢牢把握傳播的內(nèi)容和方向，而依靠算法推薦技術(shù)的運作，按照用戶的需求和偏好推薦信息，缺乏人工審核“把關(guān)”，信息的重要性、時效性、導(dǎo)向性無法落實，信息的客觀性、公正性無法保障。為增加“流量”，提高流量變現(xiàn)能力，傳播平臺勢必會討好用戶，以“非主流”信息內(nèi)容增加點擊率、評論量、用戶活躍度等指標(biāo)，來增加用戶黏性，從而消解傳媒機(jī)構(gòu)的權(quán)威性和公信力。

（2）對用戶的真正需求存在“偏見”?！皺C(jī)器”可以識別人在互聯(lián)網(wǎng)上的“數(shù)據(jù)腳印”，但無法識別人的情感變化。人在不同時期、不同環(huán)境有不同的需求。所以，算法不可避免的存在“偏見”和技術(shù)漏洞。很容易出現(xiàn)把用戶偶然隨意性的行為認(rèn)為是必然性的行為，這樣就有可能造成對用戶真正的信息需求進(jìn)行錯誤的分類和推薦，在一定程度上反而限制了用戶的選擇權(quán)，形成對受眾歧視、偏見性的推薦[3]。

（3）用戶信息和個人隱私面臨風(fēng)險。尊重和保護(hù)個人隱私是社會生活中應(yīng)遵循的基本倫理，但受利益的驅(qū)動，一些傳媒機(jī)構(gòu)和資訊平臺基于完善算法數(shù)據(jù)和“精準(zhǔn)畫像”的需要，大量違規(guī)收集、跟蹤用戶個人信息和互聯(lián)網(wǎng)記錄，分析用戶興趣和偏好，造成信息侵害和個人隱私曝光，人們在強(qiáng)大的數(shù)據(jù)旋渦中處于“裸奔”狀態(tài)。一些應(yīng)用APP 利用自己市場壟斷地位，在安裝更新軟件時，迫使用戶接受其所謂“協(xié)議”，否則就不能繼續(xù)正常使用。甚至出現(xiàn)如央視“3·15”晚會上曝光的一些平臺竊取數(shù)據(jù)和出售個人信息的違法案例。

2.2 算法推薦技術(shù)的“陷阱”

（1）互聯(lián)網(wǎng)編制的數(shù)據(jù)“陷阱”。算法推薦通過數(shù)據(jù)分析，為用戶匹配內(nèi)容，目的是提高網(wǎng)絡(luò)應(yīng)用的效率。但是不得不說，算法不僅存在加劇用戶使用網(wǎng)絡(luò)時長的風(fēng)險，甚至使用戶逐步陷入互聯(lián)網(wǎng)和數(shù)據(jù)編制的“陷阱”，難以全身而退?；ヂ?lián)網(wǎng)的基本思維是“聯(lián)結(jié)一切”，算法在此基礎(chǔ)上通過龐大數(shù)據(jù)系統(tǒng)，追求更精準(zhǔn)的價值關(guān)系聯(lián)結(jié)[4]?？梢?，我們需要具有從互聯(lián)網(wǎng)為我們編織的“陷阱”中脫身、逃離的能力，要認(rèn)清算法的接受邏輯，對算法推薦技術(shù)有清醒而冷靜的思考，對這種技術(shù)有所認(rèn)識和防范，有意識的保持一定的距離。決不能沉溺于“上網(wǎng)模型”，過度“娛樂至死”，被碎片化的無效信息所包圍，掉進(jìn)“時間的黑洞”。

（2）追求流量強(qiáng)化“數(shù)據(jù)黑箱”。算法在技術(shù)數(shù)據(jù)的編制上是“資本追求利益”的導(dǎo)向。在當(dāng)前媒體激烈地競爭下，為了謀求自身更好地生存和發(fā)展，獲取更大的利潤空間，提高流量變現(xiàn)能力成為必然的選擇。一些媒體平臺為追求經(jīng)濟(jì)效益降低了社會效益，放棄傳媒承擔(dān)的社會責(zé)任。為增加點擊量和關(guān)注度，增加用戶黏性，會強(qiáng)化“算法黑箱”，“水軍”注水，使用戶在不知不覺中掉入技術(shù)和資本的“陷阱”。個人數(shù)據(jù)信息過度商品化，形成了用戶行為數(shù)據(jù)足跡的永久存儲，甚至造成對用戶的“全景監(jiān)獄式的無縫監(jiān)視”，價格歧視上的“大數(shù)據(jù)殺熟”等現(xiàn)象[5]。

（3）“信息繭房”導(dǎo)致認(rèn)知窄化。傳統(tǒng)媒體的消息分發(fā)、推薦、傳播，注重的是公共、多元、開放、單向的傳播模式，而智媒時代的傳播，接受信息是雙向、多維、互動的模式。過度依賴算法會導(dǎo)致用戶主動、自主選擇信息產(chǎn)品權(quán)力的喪失，如果對資訊平臺推薦的信息內(nèi)容照單全收，就會不斷強(qiáng)化“信息繭房”，形成“回音壁效應(yīng)”，造成認(rèn)知窄化，甚至自我封閉，排斥其它信息，固化已有的思維,被困于“過濾器泡泡”的“陷阱”之中。有學(xué)者指出，隨著算法介入數(shù)字新聞業(yè)，憑借著極強(qiáng)的素材抓取與數(shù)據(jù)搜集能力，個性化推送成為算法新聞的“標(biāo)配”，展現(xiàn)在眼前滿足我們要求的信息，使用戶不自覺陷入“被計算好的領(lǐng)域”，生活在過濾后的泡沫之中。

3 規(guī)避算法“陷阱”的路徑和策略

有學(xué)者認(rèn)為，過度依賴人工智能會“把人推到一邊”，以人為中心的社會體系會逐步讓渡到以數(shù)據(jù)為中心。算法推薦技術(shù)無疑將重構(gòu)傳播業(yè)態(tài)，重塑人們對世界的認(rèn)知。我們探討算法推薦技術(shù)帶來的倫理失范問題，研究如何規(guī)避算法“黑箱”在信息推薦過程中對用戶設(shè)置的種種“陷阱”，并不是要否定和排斥算法這一技術(shù)。而是要規(guī)制這一現(xiàn)象，規(guī)避這一問題，在傳媒機(jī)構(gòu)的“商業(yè)利益”與公民、用戶“合法權(quán)益”兩者之間找到一個平衡點。近年來，國家有關(guān)行業(yè)主管部門已經(jīng)開始著手治理算法推薦技術(shù)帶來的負(fù)面問題，對用戶規(guī)模龐大、問題突出、反映強(qiáng)烈的多款應(yīng)用APP 采取了公開曝光、約談、下架等處理。我們認(rèn)為要從以下幾個方面綜合施策：

3.1 從法律法規(guī)層面建立他律與自律相結(jié)合的責(zé)任機(jī)制

從制度層面完善相關(guān)網(wǎng)絡(luò)傳播法律法規(guī)，規(guī)范算法權(quán)力的濫用，建立健全網(wǎng)絡(luò)隱私權(quán)、公民個人信息保護(hù)、傳播內(nèi)容及傳播生態(tài)保護(hù)等規(guī)章制度，規(guī)范行業(yè)行為準(zhǔn)則。以問題為導(dǎo)向，對已經(jīng)發(fā)現(xiàn)和暴露出的問題要及時解決，強(qiáng)化行業(yè)不正之風(fēng)要加強(qiáng)監(jiān)管力度。對網(wǎng)絡(luò)收集個人信息，公眾要有知情權(quán)、同意權(quán)，對一些壟斷性平臺的“霸王條款”，要有應(yīng)對和治理措施。

3.2 從資訊傳播平臺監(jiān)管層面實施技術(shù)把關(guān)與人工把關(guān)“雙把關(guān)”審核機(jī)制

把交給“機(jī)器”的權(quán)力重新收回來，從技術(shù)層面設(shè)置主流價值觀和傳播道德倫理審查的因素，確保用戶獲取主流價值產(chǎn)品，維護(hù)信息傳播的客觀性、真實性、公正性原則，對虛假信息、“三俗”內(nèi)容進(jìn)行過濾識別，增加“人工審核”在內(nèi)容把關(guān)中的權(quán)重和力度，履行好傳媒的社會責(zé)任。

3.3 從完善算法推薦技術(shù)層面建立多元推薦系統(tǒng)

在算法推薦基礎(chǔ)上加入傳播價值、社會效果、用戶滿意度等指標(biāo)，讓技術(shù)服務(wù)人，而不是給人“挖坑”“算計人”，確保為用戶提供更多更好，更有價值的內(nèi)容產(chǎn)品。用戶要有意識地使用多個“信息源”，從不同渠道獲取多元信息，從信息獲取習(xí)慣上打破信息壁壘，走出、突破長期消費習(xí)慣形成的“舒適圈”。

3.4 從用戶自身層面要培育公眾的“算法素質(zhì)”

對于算法推送的信息，用戶要提高鑒別力和防范能力，避免陷入算法設(shè)置的“陷阱”。在社會范圍內(nèi)加強(qiáng)算法相關(guān)知識的宣傳普及非常必要，人們應(yīng)主動、有意識地學(xué)習(xí)了解必要的算法知識，清楚算法的基本“套路”，提高對技術(shù)的駕馭能力，而不能被技術(shù)所奴役。審慎對待和評價算法推送的資訊、信息，反思它所帶來的負(fù)面問題，培養(yǎng)自身獨立的思考能力與批判思維，不過度依賴算法，自覺抵制算法帶來的不良影響[6]。

總之，治理算法推薦技術(shù)的倫理失范，規(guī)避算法“陷阱”的問題是一個復(fù)雜的系統(tǒng)工程。國家政策要規(guī)制，資訊平臺要配合，用戶個人也要自省自律。要從源頭上為互聯(lián)網(wǎng)應(yīng)用程序明確底線，劃出底線，讓技術(shù)不要“跑偏”，在人與技術(shù)共同發(fā)展中，人機(jī)協(xié)同共進(jìn)，推動傳播生態(tài)的凈化和傳播業(yè)態(tài)的健康發(fā)展。