人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展的技術(shù)異化風險及其防控

摘要：本文基于馬克思主義異化理論關(guān)于技術(shù)異化的本質(zhì)透析，分析人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展可能存在的異化風險，包括：技術(shù)認知偏差，使檔案事業(yè)轉(zhuǎn)型升級面臨困境；責任主體缺失，使檔案內(nèi)容安全風險與日俱增；自主性削弱，使檔案工作者對職業(yè)身份無所適從。在此基礎(chǔ)上，提出應通過堅守檔案工作者的主體性地位，建立以人為本的“人技互構(gòu)”觀，筑牢人工智能技術(shù)應用中的檔案數(shù)據(jù)安全防線，加快人工智能技術(shù)在檔案工作應用中的自主研發(fā)等途徑來防控其賦能檔案事業(yè)創(chuàng)新發(fā)展的技術(shù)異化風險。

關(guān)鍵詞：人工智能 馬克思主義異化理論 技術(shù)異化 異化風險 檔案管理

Abstract： From the perspective of the es？ sence of technological alienation based on Marx？ ist theory， the paper analyzes the possible risk of alienation brought about by the empowerment of AI in the innovative development of the archival cause. The risks include the potential existence of technical cognitive biases that have placed the transformation and upgrading of the archival cause in a difficult situation； the increasing risk of content security of archives due to the lack of re？ sponsible subjects； the weakening of autonomy that may make archival workers confused about their professional identity. While leveraging the positiveeffectsofartificialintelligence，we should prevent the risk of its distorting the innova？ tive development of archives by adhering to the dominant position of archives workers； establish？ ing a \"human-technology interdependence\" view that puts people first； safeguarding the data secu？ rity of archives using AI technology； and acceler？ ating the independent research and development of AI technology in archives work.

Keywords： Artificial Intelligence； Marxist the？ ory of alienation； Technological alienation； Alien？ ation risk； Archives management

當前，人工智能技術(shù)已進入實用階段，從高質(zhì)量的信息整合到跨任務場景的通用處理，再到全領(lǐng)域的知識體系覆蓋，人工智能技術(shù)正以日新月異的深度、廣度，持續(xù)為我國各行各業(yè)高質(zhì)量發(fā)展注入新動力、提供新動能、創(chuàng)造新優(yōu)勢。習近平總書記強調(diào)：“人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題。”[1]基于此，積極探索人工智能如何更好賦能檔案事業(yè)轉(zhuǎn)型升級、創(chuàng)新發(fā)展，以滿足新時代人民群眾的檔案需要，是對檔案工作者提出的新要求與新使命。

從中國知網(wǎng)的文獻調(diào)查情況來看，目前有關(guān)人工智能賦能檔案事業(yè)的研究主要體現(xiàn)為兩個方面：一是理論探索層面，剖析人工智能對檔案事業(yè)發(fā)展帶來的機遇、挑戰(zhàn)與應對策略，如有學者認為，人工智能可以輔助文件分類匯總、檔案數(shù)據(jù)采集，甚至提升檔案各個業(yè)務環(huán)節(jié)的自動化和智能化水平，[2]也有學者認為，在人工智能的裹挾下檔案工作者將面臨職業(yè)消亡的尷尬境地，[3]而就應對策略而言，學者們主要聯(lián)系檔案事業(yè)發(fā)展實際，從理念更新、制度規(guī)范、技術(shù)迭代、人員培訓等方面提出可行性建議；二是實踐應用層面，探討人工智能技術(shù)嵌入檔案事業(yè)發(fā)展的適用性與實用性，如關(guān)于人工智能如何助力照片檔案修復[4]、輔助檔案編研[5]、服務檔案用戶[6]等的討論與闡釋。

總體上看，國內(nèi)檔案界對人工智能的理論探索與應用研究，關(guān)注度日趨升溫，且已敏銳察覺到：人工智能對檔案事業(yè)發(fā)展的影響是不可抗拒的，只有順應時代潮流和技術(shù)進步，才能實現(xiàn)檔案事業(yè)更高質(zhì)量、更可持續(xù)、更為安全的發(fā)展。但當前從跨學科的視角探討人工智能應用于檔案領(lǐng)域的研究成果仍相對較少，更鮮有學者從馬克思主義視角來反思人工智能賦能檔案事業(yè)發(fā)展可能存在的機遇與挑戰(zhàn)。事實上，人工智能在當下“是一種探索中的、遠未成熟的高新科學技術(shù)，一種革命性、顛覆性的前沿科學技術(shù)”[7]，將其應用于檔案實踐領(lǐng)域中，既要在模型研發(fā)、基礎(chǔ)設施布局、教育和技能培訓等方面強化應用，也要防范應對數(shù)據(jù)隱私保護、算法公平、技術(shù)濫用等難以預料的各種安全風險。對此，必須加以反思與審視，方能未雨綢繆、行穩(wěn)致遠。

習近平總書記在哲學社會科學工作座談會上的講話中強調(diào)，“馬克思主義揭示了事物的本質(zhì)、內(nèi)在聯(lián)系及發(fā)展規(guī)律，是‘偉大的認識工具’，是人們觀察世界、分析問題的有力思想武器”[8]。而且，他多次要求全體黨員干部能夠“創(chuàng)造性地運用馬克思主義立場觀點方法去分析和解決我們面臨的實際問題”[9]。馬克思生活的時代還沒有出現(xiàn)人工智能，但人工智能時代需要有馬克思主義的指導思想?；隈R克思主義異化理論來分析，有利于我們更加全面客觀辯證地直面人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展的技術(shù)異化風險，并及時有效地做好針對性防控。

一、馬克思主義異化理論下技術(shù)異化的本質(zhì)透析

當前，世界范圍內(nèi)的人工智能技術(shù)創(chuàng)新與變革不斷涌現(xiàn)，成為驅(qū)動經(jīng)濟社會發(fā)展的強大動力引擎。與此同時，人工智能的發(fā)明與應用也引發(fā)了隱私保護、數(shù)據(jù)安全、倫理道德等系列社會問題，促使人們不斷對主體失落、價值失衡、技術(shù)失控等現(xiàn)象進行反思。在這樣的背景下，回到馬克思主義異化理論關(guān)于技術(shù)異化的本質(zhì)透視中，對規(guī)避人工智能的廣泛應用帶來的異化風險具有重要的理論和現(xiàn)實意義。

（一）技術(shù)異化的概念內(nèi)涵與實踐指向

異化在近代西方是一個重要的哲學和社會學概念。從詞源上看，異化（alienation）一詞最初是從宗教教義中引申至世俗生活場景，有轉(zhuǎn)讓、疏遠、離間、讓渡等意。在人類社會邁向現(xiàn)代化的進程中，異化被視為一種慣常存在的普遍現(xiàn)象，頻繁被用作一個批判現(xiàn)代性的關(guān)鍵術(shù)語，即但凡有悖于人的自由全面發(fā)展的現(xiàn)象，都可以用異化的理論分析框架來剖析與反思。

馬克思關(guān)于異化現(xiàn)象的探討，主要是圍繞“異化勞動”這一核心概念展開。在《1844年經(jīng)濟學哲學手稿》中，馬克思通過描述“工人在勞動中耗費的力量越多，他親手創(chuàng)造出來反對自身的、異己的對象世界的力量就越強大，他自身、他的內(nèi)部世界就越貧乏，歸他所有的東西就越少”[10]這一現(xiàn)象，進而將私有制下勞動的異化歸納為四種具體的表現(xiàn)形式，即人與自己的勞動產(chǎn)品相異化、人與勞動活動相異化、人與人之間的關(guān)系相異化、人與自己的類本質(zhì)關(guān)系相異化。機器化大生產(chǎn)提高效率的同時，也容易使工人淪為機器生產(chǎn)的一環(huán)，工人需要重復機械地配合機器標準化操作，其結(jié)果是工人既無法占有勞動產(chǎn)品，也無法在勞動中肯定自我。原本由人生產(chǎn)的科技發(fā)明卻加重了人在勞動活動中異化現(xiàn)象的出現(xiàn)?；诖?，“異化作為社會現(xiàn)象，與階級一起產(chǎn)生，是人的物質(zhì)生產(chǎn)與精神生產(chǎn)及其產(chǎn)品變成異己力量又反過來統(tǒng)治人的一種社會現(xiàn)象”。[11]

對應異化的概念而言，技術(shù)異化則是指人所創(chuàng)造的技術(shù)產(chǎn)品、技術(shù)體系等，演變?yōu)橄拗迫恕阂秩松踔林淙说姆慈祟惍惣毫α?。也就是說，技術(shù)異化表現(xiàn)為技術(shù)之于人其價值的負向?qū)崿F(xiàn)。將技術(shù)異化這一概念觀照智能時代可以發(fā)現(xiàn)，人工智能的內(nèi)在性質(zhì)與外在使用所存在的技術(shù)壟斷、算法歧視、人性缺失等問題，已經(jīng)一定程度上偏離了人類的目的，相應地應用于檔案事業(yè)領(lǐng)域也難免衍生出一系列的異化風險。

（二）技術(shù)異化的產(chǎn)生根源與消解途徑

深刻理解技術(shù)異化產(chǎn)生的根源，有利于從根本上找到解決問題的途徑。當前，關(guān)于技術(shù)異化何以產(chǎn)生，存在一種較為普遍的看法，就是將諸如信息泄露、道德滑坡、人性遮蔽等現(xiàn)象，歸責于技術(shù)的發(fā)明與應用。技術(shù)作為一種工具，本身并無善惡。正如愛因斯坦所言：“科學是一種強有力的工具，怎樣用它，究竟是給人類帶來幸福還是帶來災難，全取決于人自己，而不取決于工具。刀子在人類生活中是有用的。但它也能用來殺人?！盵12]如果將技術(shù)異化的形成簡單歸咎于技術(shù)本身，賦予技術(shù)以“原罪”性質(zhì)，既不符合客觀事實，也與馬克思主義異化理論相違背，容易走向“技術(shù)崇拜”“技術(shù)萬能”和“技術(shù)排斥”“技術(shù)恐慌”兩種極端。

基于馬克思主義異化理論來分析，技術(shù)異化現(xiàn)象的產(chǎn)生根源不在于人與物之間的疏遠與對立，因為純粹的物或者技術(shù)，既無生命也無意識，不具備主觀能動性，不會自動偏離和反對人，也不會與人的需求無端背道而馳。馬克思在《1844年經(jīng)濟學哲學手稿》中就指出：“如果人對自己的勞動產(chǎn)品的關(guān)系、對對象化勞動的關(guān)系，就是對一個異己的、敵對的、強有力的、不依賴于他的對象的關(guān)系，那么他對這一對象所以發(fā)生這種關(guān)系就在于有另一個異己的、敵對的、強有力的、不依賴于他的人是這一對象的主宰?！盵13]可見，技術(shù)作為人類勞動與智慧的結(jié)晶，之所以會產(chǎn)生背離人類初衷、導致異化現(xiàn)象的出現(xiàn)，根源還在于一個人與另一個異己的人之間。在馬克思看來，技術(shù)之所以與人的需要相背離，是在于“機器的資本主義應用”[14]。由于資本的逐利性，導致技術(shù)很多時候淪為壓榨人、剝削人的工具，由此使技術(shù)的發(fā)展喪失了應有的人文關(guān)懷。因此，關(guān)于技術(shù)異化的產(chǎn)生，必須認清技術(shù)反對人只是一種直觀的表象，為了實現(xiàn)某種利益，人反對人或者人通過資本操控技術(shù)反對人，才是問題產(chǎn)生的根源。

那么，究竟該如何克服技術(shù)發(fā)明與應用中的異化現(xiàn)象呢？基于馬克思主義異化理論，路徑主要有兩條。其一，要從主體的因素進行考慮。技術(shù)是人類自主活動的產(chǎn)物，映射著人自身的目的、需要等價值導向與利益訴求。只有端正技術(shù)發(fā)明者、技術(shù)使用者的價值偏差與提升他們的思想覺悟，才能更好地避免技術(shù)異化。其二，要從制度的因素進行考慮。如馬克思所言，“手推磨產(chǎn)生的是封建主的社會，蒸汽磨產(chǎn)生的是工業(yè)資本家的社會?！盵15]技術(shù)使用的消極后果不在技術(shù)本身，而在制度文化、意識形態(tài)、階級訴求等。如果說發(fā)展人工智能代表了工具理性，那么以制度建設為規(guī)約則代表了價值理性。不斷探索體制機制優(yōu)化，才能開辟人工智能應用的理性之路。

二、人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展的技術(shù)異化風險

隨著檔案工作走向現(xiàn)代化，人工智能在檔案信息深層加工和利用中的應用必將越來越普及，由此可能產(chǎn)生各種技術(shù)異化的新現(xiàn)象。立足馬克思主義異化理論，對人工智能及其應用于檔案領(lǐng)域進行哲學反思，剖析存在的異化風險，是檔案工作者面臨的一個重大時代課題。

（一）技術(shù)認知偏差，使檔案事業(yè)轉(zhuǎn)型升級面臨困境

樹立正確認知，是人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展的關(guān)鍵。如果不清晰人工智能的技術(shù)定位，過度放大其引入威脅或者過度依賴其技術(shù)便利，會形成對人工智能的多層認知偏差，進而影響檔案部門人工智能使用政策的制定，不利于檔案事業(yè)轉(zhuǎn)型升級。一方面，技術(shù)恐懼心理易讓檔案事業(yè)管理錯失智能化發(fā)展機遇。技術(shù)恐懼指的是人們對新技術(shù)的不信任、焦慮、擔憂甚至恐慌，從而產(chǎn)生排斥、拒絕和抵制新技術(shù)的心理和行為。[16]由于人工智能運作的核心在于“大數(shù)據(jù)”和“算法”，這就意味著檔案領(lǐng)域必將面對隨之而來的算法黑箱、算法歧視、數(shù)據(jù)隱私等不確定因素造成的種種風險與挑戰(zhàn)。由此，可能導致某些檔案部門為了防止人工智能對原始記錄的竊取而放棄具有創(chuàng)新性的技術(shù)轉(zhuǎn)型升級方案，直接影響檔案數(shù)字化、智能化轉(zhuǎn)型發(fā)展的成效。另一方面，人工智能技術(shù)的過度沉溺與依賴現(xiàn)象也已浮現(xiàn)，此態(tài)勢可能導致檔案治理領(lǐng)域人文情懷的缺失。隨著技術(shù)迭代，未來或?qū)⒂筛鄼C器取代人力成為服務主體，查檔過程轉(zhuǎn)變?yōu)榕c缺少情感維度的智能一體化設備的交互，這無疑淡化了人與人之間直接的情感交流。此外，也要警惕智能“面子工程”，防止脫離檔案內(nèi)容的技術(shù)形式。馬克思講過：“如果形式不是內(nèi)容的形式，那么它就沒有任何價值了?！盵17]人工智能如果只是聲光電轟炸“炫技”式的數(shù)字體驗，而缺乏檔案內(nèi)容的挖掘和重構(gòu)，則無助于檔案價值的真正實現(xiàn)。

（二）責任主體缺失，使檔案內(nèi)容安全風險與日俱增

人工智能并非僅僅屬于一般性的純粹技術(shù)范疇，而是一種日益展現(xiàn)出類似人類智能、趨向高度自主并能獨立執(zhí)行復雜任務的顛覆性技術(shù)。[18]人工智能的自主決策能力、自我適應性正持續(xù)得到強化，可能借由自主升級將檔案場景中的技術(shù)應用置于巨大的不確定性和風險之中。加之，人工智能上下游產(chǎn)業(yè)鏈異常龐雜，往往由多個主體合作協(xié)同開發(fā)形成，且各種模型開源、衍生開發(fā)、個人API層出不窮。這意味著人工智能引起損害的危險源、風險點具有多元性、開放性，承擔責任的主體也非常多樣。以ChatGPT運行原理為例，其核心在于通過接入廣泛且多樣化的語料庫資源，以此為基礎(chǔ)進行模型的深度訓練。這一過程涉及語料庫數(shù)據(jù)的精確采集與預處理、語言模型的深度訓練與優(yōu)化，以及數(shù)據(jù)的高效存儲與管理等多個關(guān)鍵環(huán)節(jié)，每個環(huán)節(jié)都伴隨著對海量數(shù)據(jù)的精細處理與分析。從技術(shù)專業(yè)的角度來看，ChatGPT的設計與開發(fā)團隊或相關(guān)參與者，理論上具備了在數(shù)據(jù)采集、模型訓練、數(shù)據(jù)存儲等任一核心環(huán)節(jié)進行不當操控的技術(shù)能力，這種潛在的操控行為可能對全球范圍內(nèi)其他主權(quán)國家的數(shù)據(jù)安全及隱私權(quán)益構(gòu)成嚴重威脅，展現(xiàn)出一種不容忽視的技術(shù)風險與挑戰(zhàn)。[19]因此，人工智能作為一種技術(shù)工具，并非處于一種完全無偏見的理想狀態(tài)。其對于外部世界的“認知框架”與“理解模式”，深刻植根于其內(nèi)置的算法邏輯之中，并受到算法設計者主觀意圖與決策偏好的深刻影響。值得引起重視的是，“檔案是原始性、基礎(chǔ)性的國家資源，檔案安全是國家安全戰(zhàn)略中的必要構(gòu)成部分”，[20]檔案部門在引入人工智能技術(shù)時，無論是人工智能生產(chǎn)研發(fā)端還是人工智能部署應用端都有可能使檔案內(nèi)容安全面臨巨大風險。

（三）自主性削弱，使檔案工作者對職業(yè)身份無所適從

人工智能正在重塑我們生活的許多方面，尤其是許多職業(yè)從業(yè)者的自我認同感。就人工智能在我國檔案管理中的應用現(xiàn)狀而言，無論是檔案收集整理、檔案價值鑒定、檔案修復保護與安全管理，還是檔案自動化歸檔保存、檔案檢索與檔案服務，都已能從中窺見人工智能的“身影”。[21]對此情形，隨著今后人工智能應用的拓展深化，檔案工作者可能會感到職業(yè)身份受到威脅，出現(xiàn)焦慮和不安的心理。并且，由于數(shù)據(jù)處理快、自主適用性強，且使用便捷、無需休息等方面的巨大技術(shù)優(yōu)勢，在某些檔案業(yè)務場景中，人工智能超越甚至取代檔案工作者的角色，似乎并無技術(shù)上的明顯障礙。檔案工作者所扮演的角色及其不可替代性，正面臨全新挑戰(zhàn)與重新審視。這不僅僅是一個關(guān)于技術(shù)如何重塑傳統(tǒng)職業(yè)工作者的問題，更是對檔案工作本質(zhì)、功能及其在人類知識傳承、記憶建構(gòu)與文明發(fā)展中所占據(jù)地位的深刻反思。

三、人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展的技術(shù)異化風險防控策略

人工智能的實際應用容易超越設計者的意圖，對檔案事業(yè)的應用帶來各種異化風險。智能時代，唯有以馬克思主義異化理論為方法論指引，充分發(fā)揮檔案工作者的主觀能動性，從主體性、制度與技術(shù)層面采取相關(guān)措施，才能合理化解和消除相關(guān)異化風險，對人工智能的具體應用作出有效的引導與規(guī)范。

（一）堅守檔案工作者的主體性地位

人工智能雖然賦能檔案事業(yè)創(chuàng)新發(fā)展帶來了技術(shù)效益，在檔案事業(yè)轉(zhuǎn)型升級中愈加不可或缺，但關(guān)于“智能機器人是否會取代檔案工作者”的討論引人焦慮?？陀^而言，無論人工智能如何發(fā)展，人類的主體性不容置疑，檔案工作者也不會完全被智能機器人所取代，檔案管理活動仍以人類為主導。

從馬克思主義異化理論來看，一方面，人工智能技術(shù)就其本質(zhì)而言是人類勞動的對象化產(chǎn)物，是“人的手創(chuàng)造出來的人腦的器官”[22]。人工智能雖然能模擬人類智能，但其智慧生成仍然是靠人類采取的算法提供。另一方面，機器思維無法模擬人的抽象思維。人工智能完全替代檔案工作者進行“收、管、存、用”各環(huán)節(jié)管理時，是缺乏人文情懷的，不能以“人工智能”完全取代傳統(tǒng)的、行之有效的群眾工作方式方法。尤其是在把握檔案內(nèi)容的思想深度與情感溫度方面，人工智能更多只是助手，有效和有意義的檔案挖掘和展覽傳播仍無法離開檔案工作者的勞動。

比如，在人工智能時代，做好檔案資政服務依舊需要專業(yè)的檔案人員踐行。深入挖掘檔案的價值內(nèi)涵，串聯(lián)起多份檔案背后關(guān)于某一人、某一事、某一物所隱藏的前因后果與現(xiàn)象規(guī)律，并能為當下的人們提供經(jīng)驗啟示與智慧借鑒，離不開檔案工作者的主觀能動性。“君子使物，不為物使?！盵23]檔案工作者需要意識到，在人工智能面前，人始終是占據(jù)主導地位的，既不用“技術(shù)恐慌”也不用“技術(shù)崇拜”，而能否保持自身自主的、能動的創(chuàng)造性檔案實踐活動，才是彰顯檔案工作者地位與價值的必要前提。

（二）建立以人為本的“人技互構(gòu)”觀

馬克思主義異化理論啟示我們，消除技術(shù)異化，要從技術(shù)與社會的互動中把握技術(shù)對人的效應。技術(shù)異化如何解決，最緊要的還是技術(shù)以外的人文關(guān)懷。技術(shù)終究是人發(fā)明創(chuàng)造的，其最初目的是為人的生產(chǎn)勞動需要而服務的。因而技術(shù)的生產(chǎn)、引入和應用，只有秉持以人為本，才能彰顯為人服務的初衷。正如我國發(fā)布的《全球人工智能治理倡議》中提出，“發(fā)展人工智能應堅持‘以人為本’理念，以增進人類共同福祉為目標，以保障社會安全、尊重人類權(quán)益為前提，確保人工智能始終朝著有利于人類文明進步的方向發(fā)展?！盵24]

第一，檔案工作者要轉(zhuǎn)變觀念，接受人機共生的客觀事實。人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展的第一步，就是要接受已然出現(xiàn)甚至今后會不斷加強的相互依存的人機共生關(guān)系，要以理性平和的心態(tài)去直面技術(shù)的發(fā)展，唯有準確識變、科學應變、主動求變，才能在檔案事業(yè)發(fā)展中掌握主動權(quán)，抓住新機遇。換言之，在“數(shù)智”時代浪潮中，傳統(tǒng)的檔案服務方式，如檔案查閱、檔案咨詢、檔案編研、檔案展覽等，已難以滿足檔案用戶對服務便捷化、知識內(nèi)容深度化與利用價值個性化的迫切期待與需求，[25]只有主動強化創(chuàng)新精神與數(shù)字思維，推動人工智能與檔案工作深度融合，才能避免因技術(shù)掣肘出現(xiàn)的異化現(xiàn)象。

第二，在人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展時，要堅持技術(shù)理性和價值理性的統(tǒng)一。在檔案管理中引入人工智能技術(shù)，檔案部門和檔案工作者必須審視其適用的環(huán)節(jié)和流程，同時保持應有的人文關(guān)懷。比如，檔案館應用虛擬數(shù)字人技術(shù)時，除了簡單的問答對話，還要利用情緒捕捉、情緒分析、意圖判斷等算法，使人機互動更具人情味。此外，對一些老年人、殘障人士等的用檔需求，要充分考慮當機器智能滿足不了時，如何更好地通過人為途徑為他們提供個性化的無障礙檔案服務。

第三，強調(diào)個體自覺，遵守智能時代的倫理準則。2021年9月我國發(fā)布的《新一代人工智能倫理規(guī)范》，標志著國家已將人工智能倫理審查納入重點工作。對此，要通過開展與人工智能相關(guān)的倫理教育活動，明晰人工智能賦能檔案事業(yè)創(chuàng)新發(fā)展進程中，其管理、研發(fā)、供應、使用等特定活動的具體倫理要求，通過不斷增強檔案工作者的人工智能倫理意識與行為自覺，確保人機關(guān)系的和諧共生。

（三）筑牢人工智能技術(shù)應用中的檔案數(shù)據(jù)安全防線

檔案數(shù)據(jù)有其特殊性，其不僅涉及個人信息、個人隱私、個人合法數(shù)據(jù)權(quán)益，而且還涉及許多企業(yè)機密、知識產(chǎn)權(quán)和主權(quán)安全。尤其是涉及政治、軍事、外交、科技等方面的檔案數(shù)據(jù)具有極高的情報價值，直接關(guān)系到黨和國家的核心利益。傳統(tǒng)的紙質(zhì)檔案轉(zhuǎn)化為數(shù)字檔案后，由于數(shù)據(jù)的無形性、難追溯等特點，使檔案數(shù)據(jù)在存儲、流通、刪除、銷毀等環(huán)節(jié)都更加需要關(guān)注其潛在風險。在檔案領(lǐng)域，無論是相關(guān)人工智能技術(shù)的研發(fā)還是應用，都必須慎之又慎，必須把檔案數(shù)據(jù)安全置于黨和國家工作大局中來把握。

一方面，筑牢數(shù)據(jù)安全防線，離不開制度支撐。正如習近平總書記強調(diào)：“數(shù)據(jù)基礎(chǔ)制度建設事關(guān)國家發(fā)展和安全大局，要維護國家數(shù)據(jù)安全，保護個人信息和商業(yè)秘密，促進數(shù)據(jù)高效流通使用、賦能實體經(jīng)濟，統(tǒng)籌推進數(shù)據(jù)產(chǎn)權(quán)、流通交易、收益分配、安全治理，加快構(gòu)建數(shù)據(jù)基礎(chǔ)制度體系?！盵26]隨著人工智能的深度應用，迫切需要檔案部門因時制定與“數(shù)智化”轉(zhuǎn)型相適應的檔案數(shù)據(jù)基礎(chǔ)制度體系，優(yōu)化人工智能在檔案數(shù)據(jù)應用中的制度設計。當前，我國已出臺《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等法律法規(guī)，2020年修訂的《中華人民共和國檔案法》新增“檔案信息化建設”章節(jié)，也首次從國家法律層面對檔案信息化做出指導。但如何細化與人工智能應用相關(guān)的檔案數(shù)據(jù)產(chǎn)權(quán)制度、檔案數(shù)據(jù)安全治理制度等，仍需要進一步審慎思考，以確保更好規(guī)避人工智能在檔案中的應用出現(xiàn)因數(shù)據(jù)竊取、篡改、泄露等帶來的風險。

另一方面，注重檔案數(shù)據(jù)安全絕不意味著要把檔案數(shù)據(jù)鎖死。進一步發(fā)揮檔案方便利用、為民服務的社會功能，就必須在技術(shù)的加持下，讓檔案數(shù)據(jù)流通起來。為此，要厘清檔案數(shù)據(jù)流動治理中的各相關(guān)機構(gòu)、部門的職責邊界，積極制定和實施相應的檔案數(shù)據(jù)流動監(jiān)管政策和措施。一是要建立起檔案數(shù)據(jù)合理分類分級的相關(guān)制度，對涉及個人隱私、知識產(chǎn)權(quán)、國家安全的敏感類檔案數(shù)據(jù)，應實施最嚴格的訪問控制和脫敏處理措施，確保檔案數(shù)據(jù)不被人工智能的算法非法竊取或濫用；對公開的、不具敏感性的檔案數(shù)據(jù)，要在遵守相關(guān)檔案數(shù)據(jù)公開制度的前提下，促進其在更大范圍內(nèi)的共享和應用。二是要建立健全與其他數(shù)據(jù)部門之間的協(xié)調(diào)機制，推動檔案數(shù)據(jù)開發(fā)流通、深度共享，進一步在人工智能的數(shù)據(jù)應用中，確?？绮块T、跨區(qū)域的檔案數(shù)據(jù)流動的安全性與合規(guī)性。比如，京津冀三地檔案部門簽署的民生檔案跨區(qū)域共享利用合作協(xié)議，就強調(diào)通過建設統(tǒng)一平臺，制定互通互認的數(shù)據(jù)標準，加強館藏民生檔案資源建設，規(guī)范異地查檔手續(xù)和流程，實現(xiàn)“跨館查閱、異地出證”，做到“數(shù)據(jù)多跑路，群眾少跑腿”，成為智能時代用好檔案數(shù)據(jù)的一個典型。[27]

（四）加快人工智能技術(shù)在檔案工作應用中的自主研發(fā)

當前，眾多領(lǐng)先的科技企業(yè)均將人工智能視為自身的核心競爭力，并紛紛加大投資力度以搶占先機。例如，微軟公司戰(zhàn)略性地投資了OpenAI，谷歌則選擇了DeepMind作為其人工智能領(lǐng)域的合作伙伴，展現(xiàn)了兩大巨頭在這一領(lǐng)域的深遠布局。在國內(nèi)，百度自主研發(fā)了文心一言這一人工智能產(chǎn)品，展現(xiàn)了其在自然語言處理領(lǐng)域的強大實力。與此同時，國內(nèi)的其他人工智能企業(yè)也在積極行動，如研發(fā)出DeepSeek等創(chuàng)新產(chǎn)品，不斷推動人工智能技術(shù)的邊界拓展與應用深化。這些企業(yè)的舉措不僅彰顯了人工智能技術(shù)的巨大潛力，也預示著未來科技競爭的新格局。國際數(shù)據(jù)公司（IDC）的數(shù)據(jù)顯示，2022年全球人工智能（AI）IT總投資規(guī)模為1324.9億美元，并有望在2027年增至5124.2億美元，年復合增長率（CAGR）為31.1%。[28]人工智能對各行業(yè)、各領(lǐng)域的廣泛賦能作用，已經(jīng)是大勢所趨。如何順勢而為避免因技術(shù)落后而阻礙檔案事業(yè)發(fā)展，也是需要檔案部門提前規(guī)劃并積極思考的命題。

首先，檔案部門要掌握人工智能發(fā)展主動，就必須加強人工智能技術(shù)的自主創(chuàng)新。對人工智能技術(shù)的運用能否真正貼合檔案部門的實際需要，其標志就在于能否借此打造出符合檔案工作特色、具有一定知識產(chǎn)權(quán)的新產(chǎn)品，并形成檔案管理專有技術(shù)?；诖?，檔案部門要高度重視技術(shù)引進的適用性問題，要基于自身單位的技術(shù)條件、人員素質(zhì)、財務狀況綜合考量，引進的技術(shù)是否對賦能自身檔案事業(yè)發(fā)展確有必要，否則既浪費了時間與資金投入，又加大了人力成本。其次，要結(jié)合檔案館需要與館藏特色，加大人工智能相關(guān)的技術(shù)積累，只有將技術(shù)引進與自主創(chuàng)新有機統(tǒng)一，才能推進人工智能全方位、深層次融入檔案工作的重點領(lǐng)域、核心環(huán)節(jié)，進而更好實現(xiàn)人工智能技術(shù)產(chǎn)品與自身檔案事業(yè)發(fā)展應用需求的精準對接。

此外，人工智能技術(shù)的加速迭代，對培養(yǎng)檔案人才的綜合能力提出新的要求。檔案人才愈發(fā)需要具備人工智能相關(guān)的信息技術(shù)應用能力，以及相應的法律與倫理素養(yǎng)。為此，必須通過加快實施新時代檔案技能人才培育工程，優(yōu)化檔案拔尖人才培養(yǎng)資源與服務供給；構(gòu)建梯隊合理的檔案人才隊伍，健全適應檔案事業(yè)高質(zhì)量發(fā)展的人才激勵機制；充分發(fā)揮人才評價“指揮棒”作用，健全檔案專業(yè)人才多元化評價機制等舉措，來全面提高檔案人才自主培養(yǎng)質(zhì)量。[29]如此，才能更好避免今后檔案部門的人才梯隊因不懂甚至不了解人工智能這項技術(shù)，而遭遇處處掣肘的尷尬局面。

四、結(jié)語

人工智能技術(shù)的迅猛發(fā)展如同一把雙刃劍，既帶來了前所未有的機遇，也潛藏著難以預料的挑戰(zhàn)。當檔案部門無法駕馭人工智能的技術(shù)滲透時，它帶來的異化風險將是不可預知的未來。正如習近平總書記強調(diào)：“科技是發(fā)展的利器，也可能成為風險的源頭。要前瞻研判科技發(fā)展帶來的規(guī)則沖突、社會風險、倫理挑戰(zhàn)，完善相關(guān)法律法規(guī)、倫理審查規(guī)則及監(jiān)管框架?！盵30]本文從馬克思主義異化理論中找尋解決技術(shù)異化的思想來源和精髓要義，為防控人工智能的檔案應用將會出現(xiàn)的異化風險提供思路，以避免人工智能在賦能檔案事業(yè)創(chuàng)新發(fā)展中陷入“科林格里奇困境”[31]。

*本文系北京市社會科學基金青年項目“數(shù)字賦能北京紅色資源育人開發(fā)利用模式研究”（項目編號：23KDC024）的階段性研究成果。

注釋及參考文獻：

[1]習近平在中共中央政治局第九次集體學習時強調(diào)加強領(lǐng)導做好規(guī)劃明確任務夯實基礎(chǔ)推動我國新一代人工智能健康發(fā)展[N].人民日報，2018-11-01（1）.

[2]陳曉婷，徐擁軍，胡嘯林.人工智能時代下檔案工作的變革：機遇、挑戰(zhàn)與應對策略[J].檔案學研究，2024（5）：4-13.

[3]李子林，熊文景.人工智能對檔案管理的影響及發(fā)展建議[J].檔案與建設，2019（6）：10-13；9.

[4]陸夢漪，張建明，高黎娟.人工智能在照片檔案修復中的應用研究[J].浙江檔案，2024（6）：53-56.

[5]周海.生成式人工智能輔助檔案編研工作的實現(xiàn)路徑構(gòu)建[J].北京檔案，2024（6）：45-48.

[6]李諾.虛擬數(shù)字人賦能檔案館用戶服務的場景與進路[J].北京檔案，2024（8）：22-27.

[7]孫偉平.人工智能與人的“新異化”[J].中國社會科學，2020（12）：119-137；202-203.

[8]習近平.在哲學社會科學工作座談會上的講話[M].北京：人民出版社，2016：9.

[9]習近平.認真學習馬克思主義經(jīng)典著作不斷推進中國特色社會主義事業(yè)[N].人民日報，2011-05-14（4）.

[10] [13] [15]馬克思恩格斯選集（第一卷）[M].北京：人民出版社，2012：51，59，222.

[11]馮契.哲學大辭典[M].上海：上海辭書出版社，1992：702.

[12]愛因斯坦文集（第3卷）[M].北京：商務印書館，1979：56.

[14] [22]馬克思恩格斯選集（第二卷）[M].北京：人民出版社，2012：222，785.

[16]趙磊.積極應對人工智能技術(shù)恐懼[N].中國社會科學報，2024-10-29（8）.

[17]馬克思恩格斯全集（第一卷）[M].北京：人民出版社，1995：288.

[18]孫偉平.人工智能與人的“新異化”[J].中國社會科學，2020（12）：119-137；202-203.

[19]鈄曉東.論生成式人工智能的數(shù)據(jù)安全風險及回應型治理[J].東方法學，2023（5）：106-116.

[20]覃兆劌，孟月.論檔案與國家軟權(quán)力[J].檔案學研究，2019（3）：10-15.

[21]贠疆鵬，加小雙，王妍.人工智能在我國檔案管理中的應用現(xiàn)狀與對策分析[J].檔案與建設，2023（2）：62-65.

[23]管仲.管子[M].吳文濤，張善良，編.北京：北京燕山出版社，1995：341.

[24]中央網(wǎng)絡安全和信息化委員辦公室.《全球人工智能治理倡議》[EB/OL].（2023-10-18）[2024-12-17].https：//www. cac.gov.cn/2023-10/18/c_1699291032884978.htm.

[25]金波，楊鵬.大數(shù)據(jù)時代檔案數(shù)據(jù)治理研究[J].檔案學研究，2020（4）：29-37.

[26]習近平主持召開中央全面深化改革委員會第二十六次會議強調(diào)加快構(gòu)建數(shù)據(jù)基礎(chǔ)制度加強和改進行政區(qū)劃工作[N].人民日報，2022-06-23（1）.

[27]李立.京津冀民生檔案將實現(xiàn)“跨館查閱異地出證”[N].中國檔案報，2025-2-24（1）.

[28]IDC.中國生成式AI投資增長加速，五年復合增長率達86.2%[EB/OL].（2024-3-27）[2024-12-16].https：//www.idc. com/getdoc.jsp？containerId=prCHC51997124.

[29]徐擁軍，王興廣.強化新時代檔案事業(yè)高質(zhì)量發(fā)展的基礎(chǔ)性、戰(zhàn)略性支撐[J].中國檔案，2023（3）：10-11.

[30]習近平談治國理政（第4卷）[M].北京：外文出版社，2022：201.

[31]英國技術(shù)哲學家大衛(wèi)·科林格里奇在《技術(shù)的社會控制》（1980）中指出，一項技術(shù)如果因為擔心不良后果而過早實施控制，那么技術(shù)很可能就難以爆發(fā)。反之，如果控制過晚，已經(jīng)成為整個經(jīng)濟和社會結(jié)構(gòu)的一部分，就可能走向失控，再來解決不良問題就會變得昂貴、困難和耗時間，甚至難以或不能改變。這種技術(shù)控制的兩難困境，就是所謂的科林格里奇困境（Collin？ gridge’s Dilemma）。

作者單位：北京航空航天大學馬克思主義學院