智慧圖書館應(yīng)用算法推薦技術(shù)的風(fēng)險及其規(guī)制

張博文

0 引言

圖書館自其誕生以來就始終面對著如下問題：如何能夠為潛在讀者提供更高效、更廣泛的知識服務(wù)。隨著科技手段的不斷進(jìn)步，圖書館先后經(jīng)歷了從傳統(tǒng)圖書館到數(shù)字圖書館，再從數(shù)字圖書館到智慧圖書館的變革。在這一變革過程中，圖書館知識服務(wù)的深度和廣度都經(jīng)歷了前所未有的深刻改變。如果說數(shù)字圖書館時代的變革著重表現(xiàn)為電子化手段帶來的知識服務(wù)廣度提升，那么智慧圖書館時代的變革就是人工智能技術(shù)引領(lǐng)的知識服務(wù)深度增加，尤其表現(xiàn)為智慧圖書館對算法推薦技術(shù)的應(yīng)用。

算法推薦技術(shù)基于特定而精準(zhǔn)的邏輯運算，將海量用戶的網(wǎng)絡(luò)行為數(shù)據(jù)化，通過相關(guān)數(shù)據(jù)模型將輸入數(shù)據(jù)轉(zhuǎn)化為可預(yù)期的編碼指令，據(jù)此分析挖掘用戶的興趣習(xí)慣、行為偏好、社交圖譜等，從而為用戶提供個性化的內(nèi)容精準(zhǔn)分發(fā)服務(wù)[1]。算法推薦技術(shù)的大規(guī)模應(yīng)用在當(dāng)下已經(jīng)深入到社會的方方面面，并有愈演愈烈的趨勢。短視頻平臺會利用算法為用戶推薦其感興趣的內(nèi)容，以增強(qiáng)用戶粘性；電商平臺利用算法向消費者推薦可能購買的商品，以增加平臺的成交量。在智慧圖書館未來發(fā)展的討論中，多有觀點將通過算法為讀者提供個性化推送服務(wù)視為智慧圖書館的典型場景之一。即在智慧時代，圖書館應(yīng)改變過去被動的服務(wù)模式，主動感知用戶需求，為其提供精準(zhǔn)化、個性化服務(wù)[2]。這要求智慧圖書館應(yīng)能夠面向用戶提供智能分析能力，以滿足用戶高層次、不斷深入的服務(wù)需要，解決用戶對圖書館新型服務(wù)的需求與圖書館服務(wù)能力不足間的矛盾[3]。誠然，算法推薦技術(shù)的應(yīng)用將大幅滿足讀者更為個性化、更高層次的閱讀需求，但這并不能抹殺算法推薦技術(shù)應(yīng)用所帶來的潛在風(fēng)險。正如部分觀點已指出的，智慧圖書館應(yīng)用算法推薦技術(shù)時必須意識到，大數(shù)據(jù)算法帶來的個性化并非萬能，要警惕算法偏見，避免被數(shù)據(jù)規(guī)定自身的思考與行為方式[4]。就此，本文將以在智慧圖書館中應(yīng)用算法推薦技術(shù)所引發(fā)的風(fēng)險及其規(guī)制必要為切入點，并就智慧圖書館應(yīng)如何控制這種風(fēng)險提出解決方案。

1 我國智慧圖書館應(yīng)用算法推薦技術(shù)的潛在風(fēng)險

算法是執(zhí)行任何和解決問題的指令集，算法的應(yīng)用則是將算法與特定應(yīng)用場景相結(jié)合的過程。將算法推薦技術(shù)應(yīng)用于智慧圖書館即是算法與圖書館這一具體場景的結(jié)合。該項技術(shù)的應(yīng)用可以在用戶尚未主動提出明確需求的情況下，自動根據(jù)用戶畫像和信息檢索行為實時分析用戶的信息需求，智能化地向用戶推薦他們最需要、最感興趣的資源，提升信息利用效率和用戶滿意度[5]。采用算法推薦技術(shù)的重要前提是用戶畫像，也即挖掘讀者的需求特征。為此，需要收集用戶的相關(guān)個人信息，具體包括讀者的借閱記錄、檢索歷史，以及讀者情境、狀態(tài)和閱讀行為等數(shù)據(jù)[6]。為此，可能需要用到許多智能設(shè)備，如利用人機(jī)交互系統(tǒng)記錄用戶的需求和反饋，利用可穿戴設(shè)備和傳感器采集讀者入館時間，所處位置、移動路線、停留時長等動態(tài)信息，利用視覺搜索、語義搜索等智能搜索技術(shù)掌握用戶的信息搜索習(xí)慣[7]。相應(yīng)的，算法推薦技術(shù)的應(yīng)用也可以區(qū)分為如下兩種情形：其一，在通過移動App進(jìn)行遠(yuǎn)程訪問的情形下，可利用算法推薦技術(shù)收集讀者的閱讀記錄、搜索記錄等展開個性化推薦；其二，在讀者入館訪問的情形，可利用穿戴設(shè)備或傳感器進(jìn)行更深入和細(xì)致的信息收集，以提供更具個性化的知識推薦服務(wù)，但圖書館在應(yīng)用算法進(jìn)行文獻(xiàn)推薦中存在一些潛在風(fēng)險。

1.1 風(fēng)險之一：對讀者產(chǎn)生算法偏見

算法在執(zhí)行任務(wù)或解決問題的過程中可能產(chǎn)生偏見。算法偏見是不可避免的，主要來自開發(fā)者的偏見、數(shù)據(jù)的偏見和算法自身的偏見。其中，顯性偏見是容易被發(fā)現(xiàn)并剔除的，隱性偏見則不可避免地存在于算法中[8]。智慧圖書館在應(yīng)用算法推薦技術(shù)時當(dāng)然也無法免除這種風(fēng)險。其產(chǎn)生原因可能是因為算法訓(xùn)練時的數(shù)據(jù)使用失當(dāng)，如閱讀時的同樣情景或表現(xiàn)對不同人來說代表著不同的心理表現(xiàn)；也可能是供算法作出決策的數(shù)據(jù)失當(dāng)，如檢索記錄或瀏覽記錄并不能真正反應(yīng)出讀者的閱讀興趣；還可能是算法技術(shù)無法精準(zhǔn)感知讀者處于變動中的“興趣點”，導(dǎo)致對讀者興趣的判斷出現(xiàn)偏差。算法偏見會導(dǎo)致對讀者的畫像不準(zhǔn)確，進(jìn)而使智慧圖書館的個性化知識推薦服務(wù)無法切合讀者的真實閱讀需求。

1.2 風(fēng)險之二：因同質(zhì)化推薦而形成信息繭房

“信息繭房”是桑斯坦在其著作《信息烏托邦》中提出的概念，意指公眾若只注意自己選擇的東西和使自己愉悅的通訊領(lǐng)域，久而久之會將自身束縛于像蠶繭般的“繭房”中[9]。信息繭房涉及的核心問題是：我們在交流的世界里，只聽到自己選擇的聲音，只聽到令我們感到舒適和愉悅的聲音[10]。對于圖書館的讀者來說，由于他們的興趣愛好具有相當(dāng)?shù)姆€(wěn)定性，圖書館的推薦算法可以基于用戶需求數(shù)據(jù)分析結(jié)果向其推送大量指定內(nèi)容信息，造成用戶需求被圖書館人工智能所引導(dǎo)[11]。算法推薦技術(shù)的原材料是用戶的信息痕跡，由于信息痕跡與用戶信息興趣存在時間差，算法推薦技術(shù)可能在讀者興趣改變后繼續(xù)推送過往的同質(zhì)化內(nèi)容，以至于用戶之前形成的價值觀念不斷強(qiáng)化，最終造成信息繭房效應(yīng)[12]。信息繭房是隨著互聯(lián)網(wǎng)技術(shù)的普及和信息爆炸逐漸產(chǎn)生并蔓延開來。而隨著算法推薦技術(shù)應(yīng)用效果的不斷增強(qiáng)，讀者將逐漸信任并依賴于算法向他們推薦他們感興趣的內(nèi)容，使他們始終處于算法提供的狹小知識空間內(nèi)。這無疑意味著，旨在滿足讀者個性化服務(wù)的算法推薦技術(shù)最終可能異化為限制讀者獲取知識的手段。

信息繭房具有很強(qiáng)的隱性危害。一個人掌握的信息越充分，其在進(jìn)行個人價值實現(xiàn)方面的決策時就越能處于有利地位，在做出一些行為選擇時也會趨于理性[13]。信息繭房的形成則會極大限制讀者獲取信息的寬度，尤其是在缺少強(qiáng)大反思自省能力以擺脫對算法技術(shù)的依賴的前提下[14]，算法的廣泛應(yīng)用使公眾愈發(fā)依賴算法進(jìn)行分析、預(yù)測、決策，甚至于沉迷算法推薦的信息中，處于信息繭房中而不自知，最終被困于“算法牢獄”難以自拔[15]。這會導(dǎo)致他們喪失改善自身知識結(jié)構(gòu)、擴(kuò)展自身知識背景、實現(xiàn)個人更全面發(fā)展的機(jī)會。

2 智慧圖書館應(yīng)用算法推薦技術(shù)之風(fēng)險的規(guī)制必要

上述風(fēng)險的存在并不意味著一律禁止公共圖書館采用算法推薦技術(shù)為讀者提供文化服務(wù)，畢竟算法推薦技術(shù)對于提高圖書館的服務(wù)水平和智能化水平具有不可替代的關(guān)鍵作用。但于此也要注意到，在智慧圖書館的建設(shè)中，任何技術(shù)設(shè)備都只是賦能的手段，都是為了人的智慧的發(fā)展[16]。也就是說，為了保障讀者智慧的發(fā)展，公共圖書館在應(yīng)用算法推薦技術(shù)時應(yīng)盡量削弱前述兩種風(fēng)險的潛在影響。在這兩種風(fēng)險中，算法偏見是采用算法推薦技術(shù)時的長期性固有問題，須隨著算法技術(shù)的提高而逐漸改進(jìn)，且其帶來的主要影響是讀者興趣識別偏差，服務(wù)質(zhì)量降低，并非在智慧圖書館這一場景下應(yīng)用算法推薦技術(shù)時須予規(guī)制的典型風(fēng)險。相比之下，信息繭房效應(yīng)可能與智慧圖書館的發(fā)展目標(biāo)相悖，因而具有較強(qiáng)的規(guī)制必要，其必要性可從此種信息繭房效應(yīng)對讀者文化質(zhì)量權(quán)的妨礙和使公共圖書館的使命價值落空兩個方面分別展開。

2.1 信息繭房效應(yīng)會妨礙讀者的文化質(zhì)量權(quán)

未成年人保護(hù)始終是公共圖書館提供服務(wù)時的關(guān)注重點?！豆矆D書館法》從正反兩方面規(guī)定了公共圖書館的未成年人保護(hù)義務(wù)。積極方面表現(xiàn)為該法第三十四條的規(guī)定：“公共圖書館必須為未成年人提供優(yōu)質(zhì)服務(wù)?！毕麡O方面則表現(xiàn)為該法第三十七條第一款的規(guī)定：“公共圖書館向社會公眾提供文獻(xiàn)信息，應(yīng)當(dāng)遵守有關(guān)法律、行政法規(guī)的規(guī)定，不得向未成年人提供內(nèi)容不適宜的文獻(xiàn)信息?！焙笳呤且蠊矆D書館從文獻(xiàn)資源角度為兒童提供高質(zhì)量的文化資源，從而保障兒童的文化質(zhì)量權(quán)[17]。這種對未成年人文化質(zhì)量權(quán)的保障也應(yīng)延伸到智慧圖書館采用算法推薦技術(shù)時。有觀點據(jù)此提出，未成年人心智尚未成熟，算法推薦技術(shù)的應(yīng)用可能導(dǎo)致未成年讀者在閱讀時陷入由負(fù)面信息編織的信息繭房中，使其面臨沉迷網(wǎng)絡(luò)與不當(dāng)模仿的風(fēng)險，因而應(yīng)將這種信息繭房效應(yīng)解釋為《公共圖書館法》第三十七條第一款中的“內(nèi)容不適宜”[18]。

但這種文化質(zhì)量權(quán)并非未成年人所獨有，而是所有讀者共享的。步入智慧圖書館的一般讀者的文化質(zhì)量權(quán)同樣會受到信息繭房效應(yīng)的妨礙。雖然在《公共圖書館法》的視域下，僅兒童、老年人和殘疾人等特殊群體的文化質(zhì)量權(quán)受到特別規(guī)定，但這并非否認(rèn)了一般讀者的文化質(zhì)量權(quán)，而是在既往情況下對一般讀者的文化質(zhì)量權(quán)予以一般程度的保障即可，典型如通過充足的圖書采購。原因在于，不同于那些特殊群體，一般讀者因法律已假定其具備獨立從事社會交往的能力和自由，無論他們對文獻(xiàn)信息的選擇，對其所獲取的文化質(zhì)量存在何種影響，他們均可自負(fù)其責(zé)，無須公共圖書館進(jìn)行干涉。然而，在引入算法推薦技術(shù)的智慧圖書館情境下，情況則有所不同：在強(qiáng)大的算法面前，即使是法律上心智成熟的成年人在文獻(xiàn)選擇時也無法完全擺脫對技術(shù)的依賴，從而陷入信息繭房效應(yīng)。更重要的是，信息繭房效應(yīng)對讀者的影響是外在技術(shù)應(yīng)用的結(jié)果，其對讀者信息質(zhì)量的影響已超出讀者可自負(fù)其責(zé)的范疇。

2.2 信息繭房效應(yīng)有悖于公共圖書館的使命與價值

使命與價值決定了公共圖書館的發(fā)展方向。如果不能正確認(rèn)識和把握公共圖書館的價值和使命，就必然導(dǎo)致公共圖書館的發(fā)展偏離方向，亦會削弱公共圖書館的社會價值，乃至使公共圖書館失去存在的意義[19]。就其使命而言，《公共圖書館法》第二條明確規(guī)定：“本法所稱公共圖書館，是指向社會公眾免費開放，收集、整理、保存文獻(xiàn)信息并提供查詢、借閱及相關(guān)服務(wù)，開展社會教育的公共文化設(shè)施?！备鶕?jù)該條的定義，公共圖書館是一項公共文化設(shè)施，公益性是使其與商業(yè)性圖書機(jī)構(gòu)得以區(qū)分的本質(zhì)屬性。就其使命而言，包括向公眾免費提供文化服務(wù)及開展社會教育兩大類。社會教育職能具有兩個方面的表現(xiàn)：其一，圖書館是一所沒有圍墻的大學(xué)，任何人都可以來這里進(jìn)行終身學(xué)習(xí)；其二，圖書館能提高人們的信息素養(yǎng)，培養(yǎng)科學(xué)思維能力[20]。就其價值而言，公共圖書館的內(nèi)核是作為實現(xiàn)信息與人之間相對自由交互的場所[21]。作為一種高度綜合的社會教育和公共文化服務(wù)設(shè)施，公共圖書館能夠以其廣泛的網(wǎng)絡(luò)布局、豐富的內(nèi)容構(gòu)成、完備的服務(wù)手段、強(qiáng)大的服務(wù)支撐，成為“普遍均等、全民共享”核心價值的最佳載體[22]。

智能時代的公共圖書館，始終致力于通過提升圖書館線上和線下的智慧程度，以更好地為讀者提供文化服務(wù)。這雖是公共圖書館踐行其使命與價值，但其中蘊(yùn)含的信息繭房效應(yīng)風(fēng)險卻可能導(dǎo)致公共圖書館偏離其使命與價值，并違背其設(shè)立宗旨。算法推薦的核心優(yōu)勢在于為更精確高效地滿足人類需要，這一優(yōu)勢在電商平臺應(yīng)用場景下尤為明顯，如消費者本來要通過自行設(shè)定關(guān)鍵詞檢索等方式尋找自己需要的商品，但在算法推薦技術(shù)之后，電商平臺可以根據(jù)用戶的瀏覽和購買記錄推薦其可能感興趣的商品，這會極大減少消費者在購物上消耗的時間。對這種優(yōu)勢的擴(kuò)張運用符合電商平臺追求商業(yè)利益的自身定位，外界批判也主要集中在誘導(dǎo)過度消費的問題上。對短視頻平臺來說，算法推薦技術(shù)的應(yīng)用提升了平臺內(nèi)容的分發(fā)效率，用戶可以輕易獲取自己感興趣的內(nèi)容，在很大程度上也起到文化傳播的功能，但信息繭房效應(yīng)也相伴而生。短視頻平臺在優(yōu)化算法推薦技術(shù)的過程中即須采取措施適度削弱信息繭房效應(yīng)，短視頻平臺雖也負(fù)有社會責(zé)任，但這更多表現(xiàn)為對色情暴力等違法內(nèi)容和侵犯著作權(quán)內(nèi)容的審查和處理，其自身仍是一個服務(wù)于大眾娛樂的商業(yè)平臺，以追求商業(yè)利益為首要目標(biāo)。

但如果將視角從商業(yè)領(lǐng)域轉(zhuǎn)到公共圖書館領(lǐng)域，應(yīng)對算法推薦技術(shù)的思路將會發(fā)生極大變化。雖然在這兩個領(lǐng)域采用算法推薦技術(shù)均會引發(fā)信息繭房效應(yīng)，但算法推薦技術(shù)與商業(yè)平臺自身的定位更加契合，卻可能與公共圖書館的使命價值相抵觸。這主要表現(xiàn)為兩個層面：自消極層面而言，公共圖書館作為公共文化設(shè)施負(fù)擔(dān)著提供公共文化服務(wù)的任務(wù)，信息繭房效應(yīng)會導(dǎo)致公共文化服務(wù)的質(zhì)量下降，以至于公共圖書館的使命與價值落空；自積極層面而言，在進(jìn)入智能時代之后，伴隨著算法推薦技術(shù)的廣泛應(yīng)用，信息繭房效應(yīng)必將大量存在，作為提供公共文化服務(wù)的文化設(shè)施，公共圖書館正是規(guī)制信息繭房效應(yīng)，拓寬讀者信息獲取渠道的重要途徑。

3 公共圖書館應(yīng)用算法推薦技術(shù)時的風(fēng)險規(guī)制

3.1 進(jìn)行符合公共圖書館自身特點的算法設(shè)計

基于算法推薦技術(shù)在內(nèi)容分發(fā)上無可比擬的有效性和精確化等優(yōu)勢，監(jiān)管機(jī)構(gòu)并不禁止算法推薦技術(shù)在商業(yè)領(lǐng)域的應(yīng)用，而是要求算法推薦服務(wù)提供者采取相應(yīng)措施減少負(fù)面影響。為此，國家互聯(lián)網(wǎng)信息辦公室于2021年11月16日頒布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱為《規(guī)定》）。在算法設(shè)計環(huán)節(jié)，《規(guī)定》明確提出，算法推薦服務(wù)提供者不得設(shè)置誘導(dǎo)用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型，并鼓勵算法推薦服務(wù)提供者綜合運用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性。這僅是對商業(yè)化領(lǐng)域推薦算法的設(shè)計提出適當(dāng)?shù)膬?yōu)化要求，并不改變算法設(shè)計的核心，即僅以相關(guān)性為唯一標(biāo)準(zhǔn)，旨在充分挖掘用戶或消費者的興趣點。然而，智慧圖書館的算法設(shè)計策略明顯區(qū)別于商業(yè)領(lǐng)域，這種算法設(shè)計策略卻無法滿足智慧圖書館應(yīng)對信息繭房效應(yīng)的需要。

這種算法設(shè)計策略上區(qū)別的成因，恰在于二者使命價值定位上的差異。在以營利為目標(biāo)的商業(yè)領(lǐng)域算法推薦技術(shù)的應(yīng)用均是為了提高服務(wù)質(zhì)量，以增強(qiáng)用戶粘性。這一目的決定了它們在算法內(nèi)容設(shè)計上應(yīng)最大限度了解用戶的興趣點，并滿足用戶需求。對旨在提供公共文化服務(wù)的公共圖書館來說，為讀者提供更精準(zhǔn)、高效的服務(wù)只是其服務(wù)內(nèi)容的一部分，除此以外，它們還必須盡力破除由此可能產(chǎn)生的繭房效應(yīng)。這意味著，公共圖書館在其推薦算法的設(shè)計上，不僅要考慮讀者會對哪些文獻(xiàn)信息感興趣，還要考慮讀者應(yīng)當(dāng)了解哪些文獻(xiàn)信息。即其算法設(shè)計并不完全以讀者的興趣為導(dǎo)向，而是要根據(jù)讀者個人的情況進(jìn)行更高強(qiáng)度的干預(yù)，轉(zhuǎn)而進(jìn)行更廣泛的文獻(xiàn)信息推薦組合。這也是算法設(shè)計的過程，只不過不再是基于讀者主觀興趣的算法內(nèi)容設(shè)計，而是基于相對客觀化的合理標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)須由圖書館根據(jù)符合其公共文化設(shè)施定位的方式確定，典型如為僅對專業(yè)書籍感興趣的讀者推薦通識類讀物，或為僅對文學(xué)作品感興趣的讀者推薦其專業(yè)的相關(guān)書籍。當(dāng)然，公共圖書館為提供公共文化服務(wù)所要做的也僅限于，在算法設(shè)計上為讀者提供弱化或消除繭房效應(yīng)、提高讀者拓展閱讀領(lǐng)域的選擇機(jī)會[23]。讀者最終是否實際閱讀這些文獻(xiàn)信息改善自身知識結(jié)構(gòu)，則非公共圖書館所能干涉。

3.2 在公共圖書館算法推薦的過程中進(jìn)行雙重監(jiān)管

3.2.1 內(nèi)部監(jiān)管

公共圖書館作為《個人信息保護(hù)法》意義上的個人信息處理者，同樣須根據(jù)該法第52條的規(guī)定聘任個人信息保護(hù)負(fù)責(zé)人。個人信息保護(hù)負(fù)責(zé)人是內(nèi)部的個人信息處理合規(guī)監(jiān)督者，其職責(zé)范圍同樣延伸到信息處理者采用算法推薦技術(shù)的過程中。在采用算法推薦技術(shù)的智慧圖書館中，個人信息保護(hù)負(fù)責(zé)人的任務(wù)具體包括算法記錄和算法報告兩種。

算法記錄的對象應(yīng)涵蓋從算法設(shè)計、測試，到算法運行的全過程，是有效評估、追溯和驗證復(fù)雜算法，并對算法進(jìn)行解釋的基礎(chǔ)性工具[24]。我國現(xiàn)行法目前尚缺少針對算法記錄的一般性規(guī)則，僅《規(guī)定》第28條第2款提出：“算法推薦服務(wù)提供者應(yīng)當(dāng)依法留存網(wǎng)絡(luò)日志。”

算法報告則是指為配合監(jiān)管機(jī)關(guān)的監(jiān)管而向其提交所采用算法推薦技術(shù)的相關(guān)記錄或其他文件。這一方面表現(xiàn)為為配合監(jiān)管機(jī)關(guān)的調(diào)查而向其提供資料額義務(wù)，如《規(guī)定》第28條第2款后半句規(guī)定：“算法推薦服務(wù)提供者應(yīng)當(dāng)配合有關(guān)部門開展安全評估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助?！绷硗庖环矫鎰t表現(xiàn)為算法備案義務(wù)，如《規(guī)定》第24條第1款規(guī)定：“具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)?！痹摋l要求進(jìn)行算法備案的主體僅限于“具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者”。之所以在備案范圍上有所限定，是因為一般性的算法備案會加重算法推薦服務(wù)提供商的負(fù)擔(dān)。因而，對于那些偶爾使用算法的中小形企業(yè)，應(yīng)當(dāng)免除其算法備案的義務(wù)。對于公共圖館來說，在其發(fā)展到智慧圖書館這一形態(tài)后，算法推薦技術(shù)應(yīng)用的廣泛性和影響的重大性均要求其進(jìn)行算法備案。

3.2.2 外部監(jiān)管

針對算法推薦技術(shù)應(yīng)用的外部監(jiān)管的核心是算法評估制度。算法評估是指依系統(tǒng)制定的衡量標(biāo)準(zhǔn)對自動化決策系統(tǒng)的應(yīng)用流程、數(shù)據(jù)使用和系統(tǒng)設(shè)計等內(nèi)容進(jìn)行系統(tǒng)評判，以確認(rèn)該系統(tǒng)影響水平和風(fēng)險等級的算法治理實踐[25]?！兑?guī)定》第28條明確規(guī)定：“網(wǎng)信部門會同電信、公安、市場監(jiān)管等有關(guān)部門對算法推薦服務(wù)依法開展安全評估和監(jiān)督檢查工作，對發(fā)現(xiàn)的問題及時提出整改意見并限期整改。”現(xiàn)行法上針對推薦算法技術(shù)的評估也有對象限制，《規(guī)定》第27條也將之明確限定為具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者。就智慧圖書館而言，尤其考慮到其算法設(shè)計上的特殊性，在未來應(yīng)將之列入算法評估的范疇。

3.3 在圖書館應(yīng)用算法推薦技術(shù)時保障讀者權(quán)利

智慧圖書館采取算法推薦技術(shù)是為了更好地向讀者提供文化服務(wù)，但這是非強(qiáng)制性的，而且就現(xiàn)階段而言，應(yīng)用算法推薦時無論如何都難以避免算法偏見以及完全撇除繭房效應(yīng)。為此，讀者可以選擇拒絕接受智慧圖書館的算法推薦，或在選擇接受前要求智慧圖書館對推薦算法作出一定解釋，此即讀者的算法拒絕權(quán)和算法解釋權(quán)?！秱€人信息保護(hù)法》第24條第2款和《規(guī)定》第17條均規(guī)定了算法拒絕權(quán)?；诖?，在讀者以線上方式訪問圖書館的移動端或網(wǎng)站時，智慧圖書館應(yīng)向讀者提供不針對其個人特征的選項或向其提供便捷的拒絕方式。在讀者以線下方式親身訪問圖書館時，應(yīng)允許其在入館時選擇，是否允許圖書館收集其在館內(nèi)活動的相關(guān)個人信息并進(jìn)行個性化推薦。在未來，為使讀者最大可能地保有拒絕權(quán)，智慧圖書館在線下對讀者個人信息的采集應(yīng)最大限度地使用傳感器等可允許讀者拒絕的方式。

此外，保障讀者算法解釋權(quán)的行使也具有非常重要的意義。因為只有使讀者更好地了解算法的運行基理，他們才更愿意接受算法。唯須注意的是，雖然智慧圖書館應(yīng)用算法推薦技術(shù)會使讀者陷入信息繭房，但這并不構(gòu)成《個人信息保護(hù)法》第24條第3款和《規(guī)定》第17條第3款意義上對個人權(quán)益的重大影響。因此，讀者的算法解釋權(quán)并非指向?qū)@種重大影響決定合理性的解釋說明。相反，讀者的解釋權(quán)應(yīng)當(dāng)以《規(guī)定》第16條為基礎(chǔ)，即“算法推薦服務(wù)提供者應(yīng)當(dāng)以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運行機(jī)制等?！睂D書館來說，這種限度的解釋義務(wù)也不會向其施加不合理的負(fù)擔(dān)，因為不僅內(nèi)容上相對簡單基礎(chǔ)，形式上也可以采用顯著位置公示或批量印制的方式完成。

4 結(jié)語

從古至今，人們的閱讀方式經(jīng)歷了數(shù)次偉大變革，圖書館的智能化發(fā)展當(dāng)屬其中一種。自動化算法的應(yīng)用是智慧圖書館建設(shè)的技術(shù)支撐，自動化算法在智慧圖書館中最典型的應(yīng)用場景則是基于算法對讀者進(jìn)行畫像，并向讀者推薦其所需的文獻(xiàn)信息。這雖然對提升圖書館的文化服務(wù)質(zhì)量大有助益，但與此同時也可能產(chǎn)生算法偏見、信息繭房等諸多風(fēng)險，尤其是信息繭房效應(yīng)會妨礙讀者的信息質(zhì)量權(quán)，并有悖于公共圖書館的使命和價值。技術(shù)的發(fā)展應(yīng)當(dāng)始堅持人的主體地位，因而有必要對上述風(fēng)險予以規(guī)制。規(guī)制方式的選用要充分考慮現(xiàn)行法的規(guī)定及公共圖書館的自身特點，具體可以從算法設(shè)計、算法監(jiān)管及讀者權(quán)利保障三個方面分別展開。