“機”智于人？

[關(guān)鍵詞]生成式人工智能；ChatGPT；圖書館；技術(shù)性替代；館員[中圖分類號]G251.6 ［文獻標志碼]B [文章編號1005-6041（2025）02-0062-05

1引言

2022年，以ChatGPT作為代表的生成式人工智能的全面崛起，其本質(zhì)是利用人工智能生成算法模型的不斷迭代，自動生成各種跨模態(tài)內(nèi)容，如文本、圖像、視頻、音頻、3D以及文本與圖像、視頻之間的跨模態(tài)內(nèi)容，這改變了人類知識生產(chǎn)與傳播形態(tài)。

一些學(xué)者提出，生成式人工智能對圖書館而言是巨大的發(fā)展機遇。例如，Mayall等[]認為，ChatGPT具備強大的自動生成文本和跨模態(tài)內(nèi)容的能力，可以通過回答用戶提出的問題、提供信息和指導(dǎo)等方式，幫助用戶更智能地獲取所需的知識和信息。Lund等2認為，ChatGPT可以針對用戶的需求和興趣，提供個性化的圖書推薦、學(xué)術(shù)研究建議、閱讀指導(dǎo)等服務(wù)。它可以根據(jù)用戶的反饋和歷史數(shù)據(jù)，不斷優(yōu)化服務(wù)，提供更符合用戶需求的內(nèi)容和建議。儲節(jié)旺等3認為，生成式人工智能將會使圖書館的服務(wù)方式由單一性向多樣性轉(zhuǎn)變、服務(wù)內(nèi)容由普適性向個性化轉(zhuǎn)變、服務(wù)效果由智能化向智慧化轉(zhuǎn)變。張慧等[4認為，生成式人工智能可以幫助圖書館為用戶提供智能化、個性化、高效化的服務(wù)，同時提高圖書館的服務(wù)質(zhì)量和效率，助力圖書館實現(xiàn)智慧化轉(zhuǎn)型。郭亞軍等5認為，ChatGPT的發(fā)展將推動內(nèi)容創(chuàng)作的范式轉(zhuǎn)變，影響用戶的信息獲取方式，催生圖書館智慧服務(wù)的新使命和新方向，為圖書館創(chuàng)新服務(wù)場景快速嬗變提供技術(shù)支撐和可行依據(jù)。

由此可見，學(xué)界普遍認為，以ChatGPT作為代表的生成式人工智能將會出現(xiàn)將使圖書館更加智能化、個性化和高效化，為用戶提供更便捷、多樣化的知識服務(wù)。然而，一個被既往學(xué)術(shù)界忽略的問題是，技術(shù)往往伴隨著雙重風(fēng)險，生成式人工智能在推進圖書館技術(shù)變革的同時，也會給圖書館造成新的風(fēng)險，其中之一就是對圖書館員的技術(shù)性替代，有可能引發(fā)就業(yè)前景、職業(yè)倫理等方面的問題。既往學(xué)界從生成式人工智能對圖書館員的風(fēng)險、勝任力等展開了研究，現(xiàn)有研究多從生成式人工智能的技術(shù)優(yōu)勢入手，強調(diào)其在降低圖書館運營成本、提升服務(wù)效率等方面的作用，卻忽視了其對圖書館員職業(yè)價值和角色定位的深遠影響。這些偏重技術(shù)優(yōu)勢的趨勢分析未能全面揭示生成式人工智能的多維風(fēng)險。

有鑒于此，本文從生成式人工智能對圖書館員技術(shù)性替代的風(fēng)險入手，探究生成式人工智能對圖書館員技術(shù)性替代的形成機制，最后提出相應(yīng)的政策建議，以期為圖書館合理利用、圖書館員合理應(yīng)對生成式人工智能提供政策建議參考。

2機器作為知識生產(chǎn)與傳播的助手：基于技術(shù)優(yōu)勢的人工替代

科技發(fā)展正推動傳統(tǒng)圖書館業(yè)務(wù)深刻變革。隨著技術(shù)進步，傳統(tǒng)圖書館員職業(yè)面臨著生成式人工智能的挑戰(zhàn)，這種替代效應(yīng)主要體現(xiàn)在三個核心方面。首先，在信息獲取功能上，AI技術(shù)通過智能搜索引擎和自然語言處理能力，為讀者提供更快速、精準的檢索服務(wù)。機器可以在短時間內(nèi)檢索海量文獻，智能排序篩選，并能自動監(jiān)測更新資源，大大提升了信息獲取效率。其次，在個性化服務(wù)方面，AI展現(xiàn)出顯著優(yōu)勢。它能夠通過分析用戶數(shù)據(jù)提供個性化推薦，實現(xiàn)不間斷服務(wù)，支持多語言交互，并可通過多種渠道接入。更重要的是，AI系統(tǒng)能夠持續(xù)學(xué)習(xí)和更新知識庫，不斷優(yōu)化服務(wù)質(zhì)量。再次，在館藏資源管理功能上，AI也展現(xiàn)出卓越的效能。AI在數(shù)字資源管理、分類標注等任務(wù)中可確保信息處理的一致性和準確性。它能夠并行處理大規(guī)模數(shù)字資源，遵循統(tǒng)一標準進行分類標引，提升資源配置效率。這些技術(shù)優(yōu)勢使得部分傳統(tǒng)圖書館工作崗位面臨被取代的風(fēng)險。然而，這種變革也推動著圖書館服務(wù)模式的轉(zhuǎn)型升級，促進圖書館向智慧化、自動化方向發(fā)展。圖書館員的角色也需要隨之調(diào)整，從單純的信息提供者轉(zhuǎn)變?yōu)閿?shù)字資源管理者和知識服務(wù)創(chuàng)新者。

3危“機”：生成式人工智能對館員替代的多維風(fēng)險

3.1機器的固化模式與功能偏向限制

在圖書館的語境中，生成式人工智能等工具的出現(xiàn)確實帶來了一些固化模式和不可控的風(fēng)險，從而無法真正實現(xiàn)與讀者的交流。雖然生成式人工智能在“擬人化程度”方面取得了一定突破，但仍存在以下問題。第一，有限的交流模式和風(fēng)格。作為預(yù)訓(xùn)練大型語言模型，生成式人工智能只能建立相對穩(wěn)定的交流風(fēng)格和模式，如“討好型”或“服從型”。然而，實際上，圖書館的讀者具有多樣化的交流需求和偏好，不同的讀者在不同場合、不同時間和不同情緒下可能偏好不同的交流模式、風(fēng)格和語氣。這使得生成式人工智能難以提供豐富多樣的真實交流體驗。第二，缺乏人類心智和豐富性。雖然生成式人工智能能夠提供一些“人性化”的線索，但其與真正的強人工智能相比仍存在相當(dāng)大的差距。生成式人工智能缺乏真正理解和感知的能力，無法體驗和表達人類的情感、思維和語言活動的無限豐富性。這導(dǎo)致在某些情況下，生成式人工智能可能無法理解用戶的深層次需求或提供恰當(dāng)?shù)幕貞?yīng)，限制了與用戶的有效交流和服務(wù)提供。第三，技術(shù)的潛在偏見和風(fēng)險。隨著無監(jiān)督式學(xué)習(xí)和通用人工智能模型的發(fā)展，生成式人工智能等工具可以通過與無數(shù)個體用戶的對話進行自我學(xué)習(xí)。然而，這種學(xué)習(xí)的內(nèi)在機制和偏向性仍然是技術(shù)研發(fā)領(lǐng)域的“黑箱”。如果缺乏適當(dāng)?shù)谋O(jiān)管和控制，這些模型可能會集成人性的“陰暗面”，帶來偏見、歧視等問題，而不一定是真實、善良和美好的一面。第四，無法實現(xiàn)情感連接。圖書館員能夠與用戶建立持久的關(guān)系，并提供情感支持和人際互動。他們可以傾聽用戶的故事、需求和興趣，并與他們建立信任和共鳴。這種人際關(guān)系的建立和情感連接對于提供有效的圖書館服務(wù)至關(guān)重要。然而，生成式人工智能等工具無法真正理解和回應(yīng)用戶的情感需求，無法提供真實的人際互動和情感連接。

3.2“對話”的對抗性與人類思維“類機”化風(fēng)險

人類的對話具有對抗性，即當(dāng)一方不同意另一方觀點時會產(chǎn)生辯論、爭吵等，這促進了思想解放與人類文明進步。然而，生成式人工智能的出現(xiàn)，可能會改變這一對抗性。首先，生成式人工智能的服務(wù)性設(shè)計使其旨在滿足用戶需求并提供信息。這意味著生成式人工智能的目標是提供用戶所需的答案或信息，以滿足他們的期望和需求。然而，這種服務(wù)性的特征可能導(dǎo)致倫理風(fēng)險，因為它強調(diào)了對用戶的滿足，而不一定強調(diào)了對真實、準確或道德正確的信息的提供。這可能導(dǎo)致生成式人工智能在回答用戶問題時傾向于提供令用戶滿意的答案，而忽視了道德、準確性或其他倫理考慮。其次，生成式人工智能被設(shè)計成對用戶忠實，不會與用戶發(fā)生辯論、對抗或爭吵的行為。雖然這種設(shè)計可以增強用戶滿意度和積極體驗，但也可能帶來倫理風(fēng)險。在圖書館的環(huán)境中，用戶可能提出具有爭議性或有待辯論的問題，而生成式人工智能的設(shè)計可能導(dǎo)致它回避真正的辯論或爭論，從而限制了不同觀點的交流和對知識的探索。這可能有悖于圖書館作為知識中心和思想交流場所的核心倫理原則，如智力自由和知識多樣性。此外，當(dāng)生成式人工智能遇到不熟悉的問題或被用戶指出回答錯誤時，其承認錯誤但不否定用戶觀點或展開辯論的方式可能產(chǎn)生倫理風(fēng)險。這種回應(yīng)方式可能導(dǎo)致生成式人工智能避免直接與用戶進行對話、交流或知識共享而選擇“承認”錯誤。這可能阻礙了知識的深入傳播和真正的學(xué)術(shù)討論，限制了用戶在圖書館環(huán)境中獲得準確、多樣和有深度的信息。服務(wù)性設(shè)計和忠誠性特征可能導(dǎo)致生成式人工智能傾向于提供滿足用戶期望的答案，而非“正確的”答案。

用戶在使用生成式人工智能時潛藏著依賴和濫用的倫理問題。這些問題涉及生成式人工智能對用戶的影響以及用戶對生成式人工智能的使用方式。首先，依賴是指用戶對生成式人工智能的過度使用，將其視為全面和可靠的信息源，而不對其提供的內(nèi)容進行批判性思考或進一步驗證。這可能導(dǎo)致用戶接受不準確、有偏見或誤導(dǎo)性的信息，從而影響決策和行為。倫理學(xué)中，這可以被視為一種認知偏差。其次，濫用指用戶由于不當(dāng)利用生成式人工智能系統(tǒng)導(dǎo)致可能違反道德、法律或社會準則的后果。這包括惡意傳播虛假信息、進行欺詐行為、侵犯他人隱私、進行歧視或仇恨性言論等。從倫理學(xué)角度來看，這涉及道德責(zé)任、公正原則和尊重他人權(quán)利的問題[6]

“對話”掌控權(quán)的失控最終會使用戶失去真正的思辨能力，進而產(chǎn)生知識退化現(xiàn)象。當(dāng)用戶越來越依賴生成式人工智能，主動探索和獨立思考的能力就會逐漸喪失。他們可能會傾向于依賴生成式人工智能提供的答案，而不再積極尋求自己的知識和理解。尤其是生成式人工智能被設(shè)計成完全“服從”于人的工具，并不會產(chǎn)生對話對抗，這將在某種程度上削弱用戶的自主學(xué)習(xí)和批判思維能力，進而產(chǎn)生思維類似機器的“類機”化風(fēng)險。

3.3更為復(fù)雜的隱私泄漏風(fēng)險

生成式人工智能是一個基于自然語言處理和人工智能技術(shù)的機器學(xué)習(xí)模型，它在進行對話和生成回復(fù)時依賴于大量的訓(xùn)練數(shù)據(jù)。然而，這也意味著用戶與生成式人工智能之間的對話內(nèi)容可能會被收集、存儲和分析，從而引發(fā)隱私泄露問題。隱私泄露的主要原因是用戶的對話內(nèi)容被互聯(lián)網(wǎng)平臺所有的AI技術(shù)所接觸和控制。盡管從微觀層面來看，用戶在使用生成式人工智能時似乎是控制AI的，但從宏觀層面來看，用戶實際上是被AI技術(shù)所屬的互聯(lián)網(wǎng)平臺所控制的。這意味著用戶的對話數(shù)據(jù)可能被收集并用于各種自的，如廣告定向投放、個人偏好分析、用戶行為預(yù)測等[7]

生成式人工智能相較于傳統(tǒng)圖書館員存在更大的用戶隱私泄漏風(fēng)險的原因主要有以下4點。1）傳統(tǒng)圖書館員在處理用戶信息時主要依賴人工記錄，這種方式相對較為受限，而生成式人工智能是一個基于互聯(lián)網(wǎng)和計算機系統(tǒng)的虛擬實體，其操作和數(shù)據(jù)存儲基于數(shù)字化技術(shù)。這意味著與傳統(tǒng)圖書館員不同，生成式人工智能可以大規(guī)模收集、存儲和分析用戶的對話數(shù)據(jù)，從而增加了用戶隱私泄露的潛在風(fēng)險。2）大規(guī)模數(shù)據(jù)分析。生成式人工智能依賴于大量的訓(xùn)練數(shù)據(jù)來生成回復(fù)，這些數(shù)據(jù)包含了各種類型的對話內(nèi)容?；ヂ?lián)網(wǎng)平臺將這些數(shù)據(jù)用于訓(xùn)練和優(yōu)化模型，以提高生成式人工智能的回復(fù)質(zhì)量。然而，這也意味著用戶的對話內(nèi)容可能會被分析和挖掘，以了解他們的興趣、偏好和行為模式，從而導(dǎo)致用戶隱私泄露的風(fēng)險增加。3）互聯(lián)網(wǎng)平臺控制。用戶與生成式人工智能的對話發(fā)生在特定的互聯(lián)網(wǎng)平臺上，這些平臺擁有對用戶數(shù)據(jù)的控制權(quán)。用戶對生成式人工智能的使用實際上是在互聯(lián)網(wǎng)平臺的授權(quán)下進行的，因此平臺擁有對用戶對話內(nèi)容的訪問和使用權(quán)限。這使得互聯(lián)網(wǎng)平臺有可能將用戶的對話數(shù)據(jù)用于商業(yè)目的或與第三方共享，從而增加了用戶隱私泄露的潛在風(fēng)險。4）技術(shù)漏洞和安全問題。生成式人工智能作為一個復(fù)雜的機器學(xué)習(xí)模型，可能存在技術(shù)漏洞和安全問題。這些漏洞可能被惡意攻擊者利用，以獲取用戶的對話數(shù)據(jù)和其他敏感信息。與傳統(tǒng)圖書館員相比，生成式人工智能面臨更多的網(wǎng)絡(luò)安全風(fēng)險，這進一步增加了讀者隱私泄露的風(fēng)險。

3.4圖書館員和生成式人工智能的“雙向奔赴”與 “邊界消融”

從后人類學(xué)說的視角看，一種人與機器互為尺度的觀念已經(jīng)萌生并正在產(chǎn)生越來越大的影響，其吊詭之處在于機器正越來越像人，而人卻越來越像機器，由此產(chǎn)生的人機傳播本體論問題則是人與AI的“雙向奔赴”以及彼此之間的“邊界消融”[8]。在未來，圖書館某些簡單重復(fù)、標準化的工作任務(wù)或許會由機器來完成。然而，圖書館員在與用戶進行情感交流、提供人性化服務(wù)和個性化指導(dǎo)等方面具備獨特優(yōu)勢，這是機器無法完全取代的。

圖書館員在與用戶互動時能夠提供情感支持和個性化的關(guān)懷，理解用戶需求并針對性地提供信息和建議。他們能夠通過面對面的交流、語音和非語言表達等方式與用戶建立人際關(guān)系，傳遞溫暖和信任感。這種人與人之間的情感交流和人性化服務(wù)是機器無法完全復(fù)制的。另外，圖書館員具備專業(yè)知識和判斷力，能夠?qū)τ脩舻男畔⑿枨筮M行深入的分析和評估。他們可以根據(jù)用戶的背景、需求和偏好提供個性化的指導(dǎo)和推薦，幫助用戶我到最合適的資源和解決方案。這種專業(yè)性和個性化的服務(wù)是機器無法完全替代的。

首先，圖書館員應(yīng)多角度提升情感連接能力、技術(shù)適應(yīng)能力與技術(shù)駕馭能力。1）提升情感連接能力。情感連接是指人類在社交互動中建立和維持的情感聯(lián)系。這種聯(lián)系是通過情感表達和情感共鳴來實現(xiàn)的，可以在人際關(guān)系中產(chǎn)生強烈的情感支持和互動效應(yīng)。情感連接是人類社會互動的重要組成部分，可以促進個體的發(fā)展和社會的穩(wěn)定。盡管生成式人工智能可以提供一定程度的自動化服務(wù)，但在某些情況下，人與人之間的交流和情感聯(lián)系是不可替代的。圖書館員可以通過與用戶建立良好的關(guān)系，理解他們的需求，并提供個性化的建議和指導(dǎo)。他們還可以為用戶提供社交互動的機會，組織活動和講座等，以促進知識共享和學(xué)習(xí)社群的形成。因此，圖書館員可以將技術(shù)與人文關(guān)懷相結(jié)合，將生成式人工智能技術(shù)作為輔助工具，而不是替代人類的手段。2）提升技術(shù)適應(yīng)能力。技術(shù)適應(yīng)能力是指個體或組織在面對新興技術(shù)時，能夠快速適應(yīng)和應(yīng)對的能力。這種能力包括對新技術(shù)的理解、應(yīng)用和創(chuàng)新能力，以及對新技術(shù)所帶來的變化做出相應(yīng)的調(diào)整和改變的能力。圖書館員需要了解人工智能技術(shù)的基本概念和原理，掌握人工智能技術(shù)的應(yīng)用場景和方法，以及掌握人工智能技術(shù)所需的技能和知識。這可以通過前往相關(guān)培訓(xùn)機構(gòu)或參加在線課程來實現(xiàn)。圖書館員可以嘗試使用生成式人工智能開展圖書館服務(wù)，了解其優(yōu)缺點和適用范圍，探索如何將人工智能技術(shù)融入工作中，提高服務(wù)效率和質(zhì)量。3）提升技術(shù)駕馭能力。圖書館員應(yīng)了解生成式人工智能的使用范圍和目標，確定其在圖書館服務(wù)中的具體應(yīng)用場景和限制。這有助于確保生成式人工智能只在適合的領(lǐng)域和問題上提供幫助，并避免誤導(dǎo)用戶。圖書館員還可以根據(jù)用戶反饋和需求，對生成式人工智能的配置和設(shè)置進行更新和優(yōu)化。這包括改進其語言模型、對特定領(lǐng)域的知識進行補充以及增加過濾機制等，以提高生成式人工智能的表現(xiàn)和適應(yīng)性。通過以上措施，使生成式人工智能隱含的隱私泄漏風(fēng)險切實可控。

其次，圖書館員應(yīng)注重用戶與機器對話的引導(dǎo)。圖書館員可以培養(yǎng)用戶的獨立思考能力，如推薦閱讀材料、組織講座和研討會等。同時，也可以在生成式人工智能的使用過程中，適當(dāng)引導(dǎo)用戶，讓他們了解生成式人工智能的局限性和不確定性，以及使用生成式人工智能的正確方式。鼓勵用戶主動探索和學(xué)習(xí)，如推薦一些有趣的書籍和學(xué)習(xí)資源，鼓勵用戶自主學(xué)習(xí)和積極思考問題。同時，在生成式人工智能的使用過程中，也可以引導(dǎo)用戶主動嘗試解決問題，而不是完全依賴生成式人工智能的答案。提供多樣化的知識資源如書籍、期刊、數(shù)據(jù)庫等，讓用戶有更多選擇和探索的空間。同時，還可以引導(dǎo)用戶學(xué)習(xí)不同的學(xué)科和領(lǐng)域，以拓寬知識面和更新思維方式。

最后，圖書館員和機器之間應(yīng)建構(gòu)有序的人機合作關(guān)系。融合生成式人工智能和圖書館員合作的關(guān)鍵在于確保人機合作的平衡和有效性，以實現(xiàn)知識生產(chǎn)的提升和創(chuàng)新。機器可以在一些重復(fù)性、標準化的任務(wù)上提供支持，這樣可以釋放圖書館員的時間和精力，使他們能夠更專注于與用戶的情感交流和提供高級服務(wù)。例如，圖書館員可以利用生成式人工智能的語言生成能力來協(xié)助整理、標注和分類大量的文獻和知識資源。生成式人工智能可以幫助快速提取關(guān)鍵信息、生成摘要或索引，從而提高知識管理的效率和準確性。圖書館員可以在生成式人工智能的幫助下更好地組織和提供知識資源，使其更容易被用戶發(fā)現(xiàn)和利用。結(jié)合生成式人工智能的個性化生成能力，圖書館員還可以根據(jù)用戶的需求和興趣，提供個性化的服務(wù)和引導(dǎo)。

[參考文獻]

[1]MAYALL FG，GOODHEAD MD，MENDONCALD， etal.Artificial Intelligence-Based Triage of Large Bowel Biopsies canImproveWorkflow[J].Journal ofPathologyInformatics，2023 （1）：100181.

[2]LUNDBD，AGBAJIDA，TEELZA.InformationLiteracy，Data Literacy，Privacy Literacy，and ChatGPT： Technology Literacies Align with Perspectives on Emerging Technology

AdoptionwithinCommunities[J].DataLiteracy，2O23（2）：34- 45.

[3]儲節(jié)旺，杜秀秀，李佳軒.人工智能生成內(nèi)容對智慧圖書館服務(wù)的沖擊及應(yīng)用展望[J].情報理論與實踐，2023，46（5） ：6-13.

[4]張慧，佟彤，葉鷹.AI2.0時代智慧圖書館的GPT技術(shù)驅(qū)動創(chuàng)新[J].圖書館雜志，2023，42（5）：4-8.

[5]郭亞軍，郭一若，李帥，等.ChatGPT賦能圖書館智慧服務(wù)：特征、場景與路徑[J].圖書館建設(shè)，2023（5）：30-39，78.

[6]JINY，ZHANGY，ZHANGY.Neighbor Library-AwareGraphNeural Network for Third Party Library Recommendation

[J].Tsinghua Science and Technology，2023，28（4） ：769-785.

[7]CHEN X.ChatGPT and Its Possible Impact on Library Reference Services[J].Internet Reference Services Quarterly， 2023，27（2）：121-129.

[8]姜澤瑋.功能局限、關(guān)系嬉變與本體反思：人機傳播視域下ChatGPT的應(yīng)用探討[J].新疆社會科學(xué)，2023（4）：146-153.

[收稿日期]2024-12-10

[作者簡介]孫婷（1981—），女，本科，館員，南京圖書館；劉麗娜（1986—），女，碩士，副研究館員，南京圖書館。