KADR-LLM：基于深度檢索推理的大語言模型輔助檔案開放審核方法

中圖分類號：TB9 文獻(xiàn)標(biāo)志碼：A文章編號：1674-5124（2025）07-0009-10

Abstract：This paper addresses limitations in traditional archive declassification review systems， including low efficiency， excessive subjectivity，and inadequate semantic analysis.A KADR-LLM-based intelligent auditing framework was developed，integrating Dense Passage Retrieval （DPR） capabilities with Knowledge Augmented Reasoning Process （KARP） mechanisms to establish a three-stage \"retrieval-reasoningverification\" paradigm. Key innovations include： A dual-channel text preprocessng method optimizing semantic representation through paragraph truncation based on document spatial structures; A rule-driven dynamic reasoning system combining sensitive term matching with retrieval-augmented generation; A keywordguided progressve auditing strategy enabling interpretable decision-making from surface feature extraction to logical chain validation. Evaluations on OParchives datasets showed KADR-LLM achieved 79.98% accuracy in zero-shot conditions and 82.34% in few-shot scenarios， surpassing baseline models by 4.31% while demonstrating superior semantic generalization capability.

Keywords： archival opening review; large language model; dense retrieval; reasoning prompt

0 引言

在數(shù)字時(shí)代，檔案開放共享對社會(huì)信息化和知識創(chuàng)新意義重大。我國《檔案法》修訂及“互聯(lián)網(wǎng) + 政務(wù)服務(wù)”改革背景下，檔案開放審核急需從保管型向服務(wù)型轉(zhuǎn)型。截至2023年，全國綜合檔案館館藏超12億卷檔案，開放率卻不足 30% ，存在“重保管輕利用”的矛盾。傳統(tǒng)審核模式存在三重瓶頸：人力審核效能低，專業(yè)人員年均處理量僅2000件，難以應(yīng)對檔案積壓；敏感信息識別依賴個(gè)體經(jīng)驗(yàn)，易錯(cuò)審漏審；跨卷宗語義關(guān)聯(lián)分析能力缺失，無法解析復(fù)雜歷史語境中的潛在風(fēng)險(xiǎn)。尤其在涉密檔案、個(gè)人隱私及商業(yè)秘密等敏感領(lǐng)域，現(xiàn)行技術(shù)缺乏深度語義理解與智能預(yù)判能力，致使大量檔案滯留待審狀態(tài)。亟需技術(shù)創(chuàng)新突破，通過智能化手段重構(gòu)審核流程，實(shí)現(xiàn)范式轉(zhuǎn)變，激活“沉睡檔案”的知識價(jià)值與社會(huì)效益。

隨著人工智能技術(shù)迅猛發(fā)展，大語言模型在自然語言處理領(lǐng)域脫穎而出。其與傳統(tǒng)深度學(xué)習(xí)模型不同，主要依賴無監(jiān)督學(xué)習(xí)，對海量文本數(shù)據(jù)預(yù)訓(xùn)練，無需大量標(biāo)注數(shù)據(jù)即可掌握語言模式和規(guī)律。同時(shí)具備強(qiáng)大上下文理解能力，能根據(jù)前文內(nèi)容準(zhǔn)確把握語義，生成符合邏輯和語境的回答。此外，可作為初篩工具，在信息檢索、文檔審核等場景中，快速篩選出與用戶需求相關(guān)的候選結(jié)果，再由人工或其他精細(xì)模型進(jìn)行最終審核，提高流程效率。這些優(yōu)勢使其能有效彌補(bǔ)當(dāng)前檔案自動(dòng)化審核方法的不足，為檔案審核領(lǐng)域帶來新機(jī)遇和改進(jìn)。

針對這些挑戰(zhàn)，本文提出KADR-LLM（Keyword-Augmented Dense Retrieval with Large LanguageModels）創(chuàng)新方法，通過深度融合DPR（Dense PassageRetrieval）的向量空間映射能力與KARP（KeywordAndReasoningPrompting）的領(lǐng)域知識引導(dǎo)機(jī)制，構(gòu)建起\"檢索-推理-驗(yàn)證\"的三階智能審核范式。

本研究的理論創(chuàng)新體現(xiàn)為三方面：

1）傳統(tǒng)數(shù)字檔案預(yù)處理方法多側(cè)重于格式統(tǒng)一化調(diào)整，難以有效區(qū)分文本結(jié)構(gòu)信息。本研究創(chuàng)新性地提出按圖像結(jié)構(gòu)區(qū)分關(guān)鍵信息與正文信息的預(yù)處理架構(gòu)，通過段落語義單元裁剪技術(shù)實(shí)現(xiàn)正文解構(gòu)，突破了現(xiàn)有方法對文本結(jié)構(gòu)化處理的局限性。

2）現(xiàn)有敏感詞審核技術(shù)通常采用靜態(tài)規(guī)則匹配，忽視了審核細(xì)則的動(dòng)態(tài)關(guān)聯(lián)性。本研究提出了檢索增強(qiáng)模型（DPR），將敏感詞觸發(fā)文本與審核細(xì)則通過Prompt工程進(jìn)行深度綁定，解決了傳統(tǒng)方法在復(fù)雜政策法規(guī)匹配中的語義鴻溝問題。

3）針對現(xiàn)有關(guān)鍵詞提取方法無法兼顧規(guī)則匹配與推理診斷的矛盾，提出了一種基于KARP的關(guān)鍵詞與推理提示方法。KARP采用了一種漸進(jìn)式推理策略來處理與審核細(xì)則匹配好的檔案數(shù)據(jù)，首先提示大語言模型尋找表面關(guān)鍵詞，然后將DPR模型檢索到相對應(yīng)的審核細(xì)則進(jìn)行診斷推理，最后綜合上述兩個(gè)步驟確定最終的審核結(jié)果，并附上審核理由和對應(yīng)的審核細(xì)則。

1相關(guān)工作

1.1基于規(guī)則匹配的審核分類方法

基于規(guī)則匹配的檔案開放審核技術(shù)是早期常見方法，其核心是構(gòu)建預(yù)設(shè)規(guī)則，通常以敏感詞、敏感信息特征等形式存在，通過判斷檔案內(nèi)容是否符合規(guī)則進(jìn)行標(biāo)記和處理。楊揚(yáng)等1介紹了敏感詞全文比對技術(shù)在檔案開放審核中的應(yīng)用，利用OCR技術(shù)和DFA算法識別敏感詞并定位，實(shí)現(xiàn)自動(dòng)化篩選和批量處理，提升了審核效率。符澤凡等[2]為變體詞還原和敏感信息識別提供了參考。然而，這類方法存在局限，規(guī)則覆蓋面有限，難以應(yīng)對復(fù)雜語義和隱喻，可能無法準(zhǔn)確識別未被規(guī)則涵蓋的敏感信息。

1.2基于機(jī)器學(xué)習(xí)的審核分類方法

隨著技術(shù)發(fā)展，基于機(jī)器學(xué)習(xí)的檔案開放審核技術(shù)興起，利用大量已標(biāo)注檔案數(shù)據(jù)訓(xùn)練人工智能模型來識別敏感信息，相比基于規(guī)則匹配的方法更靈活、適應(yīng)性強(qiáng)。劉佩鑫等[3]提出了一種基于樸素貝葉斯的檔案分類方法，實(shí)現(xiàn)了檔案資源自動(dòng)分類的功能?；艄忪系萚4則通過LDA主題特征聚類實(shí)現(xiàn)檔案類別劃分。但機(jī)器學(xué)習(xí)方法存在局限，如模型準(zhǔn)確性受固有限制，在大數(shù)據(jù)集或復(fù)雜語義時(shí)難以精準(zhǔn)分類。

基于深度學(xué)習(xí)的檔案開放審核技術(shù)進(jìn)一步推動(dòng)了該領(lǐng)域發(fā)展，深度學(xué)習(xí)模型能自主學(xué)習(xí)自然語言的語法和語義特征，具有更高容錯(cuò)性和準(zhǔn)確率。楊宏宇等[5提出一種融合多層次語義和依存句法信息的檢測方法。劉桂雄等研究的無監(jiān)督學(xué)習(xí)檢測方法為檔案開放審核中的篡改痕跡檢測提供參考，通過預(yù)訓(xùn)練大模型提取跨模態(tài)特征實(shí)現(xiàn)異常樣本檢測。不過，深度學(xué)習(xí)模型訓(xùn)練需耗費(fèi)大量人力標(biāo)注數(shù)據(jù)，且存在語義分析不準(zhǔn)等問題，在實(shí)際應(yīng)用中仍有局限性。

1.3基于大語言模型的審核分類方法

隨著Transformer架構(gòu)與預(yù)訓(xùn)練技術(shù)的持續(xù)突破，大語言模型（Large Language Models，LLMs）[7]憑借其深層次語義理解能力和知識泛化特性，為檔案開放審核范式革新提供了關(guān)鍵技術(shù)支撐。作為參數(shù)規(guī)模達(dá)千億級的預(yù)訓(xùn)練語言模型，LLMs通過自監(jiān)督學(xué)習(xí)從海量語料中捕獲語言規(guī)律與領(lǐng)域知識，展現(xiàn)出三方面顯著優(yōu)勢：上下文感知能力支持長文本連貫性解析，可有效處理檔案文本的跨段落語義關(guān)聯(lián)；提示工程[8][9]（Prompt Engineering）技術(shù)突破傳統(tǒng)監(jiān)督學(xué)習(xí)限制，通過zero-shot或few-shot學(xué)習(xí)實(shí)現(xiàn)審核任務(wù)的快速適配；邏輯推理能力賦能復(fù)雜規(guī)則體系解構(gòu)，可模擬檔案審核專家的多維度決策路徑。閆奕樸等人[10]提出將大模型應(yīng)用于工業(yè)異常檢測中，進(jìn)一步豐富了大模型的應(yīng)用場景。林瑀等人[]討論了多源異構(gòu)數(shù)據(jù)給復(fù)雜信息系統(tǒng)的智能化信息處理帶來巨大挑戰(zhàn)。Sun等人[12]表明，通過上下文學(xué)習(xí)，模型能夠根據(jù)提示中提供的示例對文檔進(jìn)行分類。 Yu^[13] 提出了一種基于大語言模型的數(shù)據(jù)增強(qiáng)方法，為檔案分類提供了一種新穎高效的解決方法。劉越男等人[14]針對大語言模型在語義理解、無監(jiān)督學(xué)習(xí)、可解釋性等方面具備技術(shù)優(yōu)勢，提出基于大語言模型的檔案開放審核任務(wù)框架，通過提示工程引導(dǎo)大模型完成復(fù)雜多樣的檔案開放審核任務(wù)。

2基于KADR-LLM的檔案開放審核方法

針對現(xiàn)有輔助檔案審核技術(shù)缺乏充分的數(shù)據(jù)預(yù)處理操作，以及依賴高質(zhì)量涉密檔案作為訓(xùn)練數(shù)據(jù)的問題。本文提出了一種基于KADR-LLM技術(shù)的輔助檔案開放審核方法。該方法整體結(jié)構(gòu)如圖1所示。KADR-LLM技術(shù)主要包括：文本數(shù)據(jù)優(yōu)化機(jī)制、敏感詞匹配機(jī)制、DPR檢索模型、KARP關(guān)鍵詞與推理提示法、本地大語言模型。具體流程如下：

1）構(gòu)建本地細(xì)則知識庫、訓(xùn)練文檔庫、敏感詞庫，通過訓(xùn)練文檔庫和本地細(xì)則知識庫結(jié)合訓(xùn)練DPR檢索模型參數(shù)。

2）對待審核數(shù)字檔案進(jìn)行預(yù)處理操作，將文本按圖像結(jié)構(gòu)區(qū)分為關(guān)鍵性信息和正文信息，通過段落裁剪方法解構(gòu)正文。

3）對預(yù)處理后的文本數(shù)據(jù)進(jìn)行敏感詞匹配操作，通過敏感詞匹配的文本輸入DPR檢索模型進(jìn)行審核細(xì)則匹配。將被審核文本與審核細(xì)則進(jìn)行組合，并進(jìn)行關(guān)鍵詞與推理提示法進(jìn)行進(jìn)一步審核。

4）獲取大模型審核意見，根據(jù)提供的控制指數(shù)結(jié)合敏感詞匹配情況綜合給出最終審核意見，將審核意見進(jìn)行標(biāo)注并送往人工復(fù)審。

2.1 檔案數(shù)據(jù)預(yù)處理模塊

檔案數(shù)據(jù)預(yù)處理模塊負(fù)責(zé)構(gòu)建審核細(xì)則知識庫、敏感詞庫及處理被審核檔案數(shù)據(jù)，旨在為DPR檢索模型生成訓(xùn)練數(shù)據(jù)，并對被審核文本進(jìn)行分詞、清洗、分段等前處理操作。檔案文本通常較長且語義復(fù)雜，噪聲較大，傳統(tǒng)基于語義相似度的審核模型難以充分理解其深層含義。為此，本文提出一種被審檔案數(shù)據(jù)預(yù)處理方法：通過記錄原電子檔案數(shù)據(jù)的空間位置信息，將文本劃分為關(guān)鍵性信息和正文信息。對關(guān)鍵性信息文本，重點(diǎn)檢測敏感詞；對正文信息文本，在統(tǒng)計(jì)敏感詞出現(xiàn)次數(shù)的同時(shí)，關(guān)注深層語義，進(jìn)一步將其切割為段落單元的中短文本，具體流程見圖2。

首先，使用OCR識別技術(shù)對電子檔案進(jìn)行文本識別，同時(shí)記錄單頁檔案每行左上、右下二個(gè)坐標(biāo)，唯一確定每行坐標(biāo)值。并計(jì)算當(dāng)前頁行高平均值、行間距平均值。行坐標(biāo)以 2×2 的二維數(shù)組定義（代表當(dāng)前行數(shù)）：

首先，使用OCR識別技術(shù)對電子檔案進(jìn)行文本識別，同時(shí)記錄單頁檔案每行左上、右下二個(gè)坐標(biāo)，唯一確定每行坐標(biāo)值。并計(jì)算當(dāng)前頁行高平均值、行間距平均值。行坐標(biāo)以 2×2 的二維數(shù)組定義（代表當(dāng)前行數(shù)）：

行高平均值計(jì)算表示為：

式中： R_h -行高平均值;l? -行數(shù)；A_i [1][2]- 第i行左上坐標(biāo)值的Y；A_i [2][2]- -第行右下坐標(biāo)值的 Y 。

行間距平均值表示為：

式中： L_s 一 -行間距平均值;

l—行數(shù)；

A_i [2][2]- 第i行左上坐標(biāo)值的Y；

A_i-1 [1][2]- 第i-1行右下坐標(biāo)值的Y。

考慮到存在個(gè)別檔案中的關(guān)鍵信息，如標(biāo)題對正文部分行間距過大，可能導(dǎo)致公式計(jì)算的偏差，為了減少特殊行的行高和行間距對整體平均值的影響，這里針對行間距大于平均行間距三倍及以上的特殊行，使用 L_s×1.2 進(jìn)行替換，針對行高大于平均行高三倍及以上的特殊行，使用 R_h×1.2 進(jìn)行替換。并再一次計(jì)算優(yōu)化后的行高與行間距平均值。

進(jìn)行上述預(yù)處理操作后，按行依次對各頁文本內(nèi)容分類為關(guān)鍵性信息與正文文本信息。針對該行上下行間距大于平均行間距 10% 以上的，單側(cè)行間距大于行平均間距 20% 以上的；或當(dāng)前行高高于平均行高 30% 以上的行，標(biāo)記為關(guān)鍵性信息所在行。其余非關(guān)鍵性信息行標(biāo)記為正文文本信息所在行。完成關(guān)鍵性信息與正文信息的劃分操作后，對正文信息進(jìn)行分段處理，這里需要記錄正文信息文本行寬和平均行寬，文本平均行寬計(jì)算公式如下：

式中： R_w —行寬平均值;

l_n —正文信息行數(shù)；

A_i [2][1]- 第 i 行右下坐標(biāo)值的 X_i

A_i [1][1]- 第 i 行左上坐標(biāo)值的 X

定義換行標(biāo)記為該段落文本的結(jié)尾終止符。針對正文行寬低于行寬平均值 90% 的行標(biāo)記為換行。針對本行以句號結(jié)尾且第二行文本左側(cè)起始坐標(biāo)大于行寬平均值 8% 的標(biāo)記為換行。按換行標(biāo)記進(jìn)行正文文本分段處理，如圖3示例。

工業(yè)大學(xué)浦江學(xué)院 實(shí)例：關(guān)鍵信息：[“工業(yè)大學(xué)江浦校區(qū)”，“科研處文件”，“2022科研處文件 年”，“科學(xué)規(guī)劃”，“通知”]e滿科（2022）29號 正文信息：關(guān)于組織申報(bào)2022年度省教育科學(xué)規(guī)劃課題的通知 [二級學(xué)院、各部門：為認(rèn)真學(xué)習(xí)貫徹黨的二十大精神，全面落實(shí)amp;省“十四五”二級學(xué)院、各部門：教育科研發(fā)展規(guī)劃gt;，更好發(fā)揮規(guī)劃課題促進(jìn)和引領(lǐng)教育改革發(fā)展的為認(rèn)真學(xué)習(xí)黃徹黨的二十大精神，全面落實(shí)《省“十四五”教育科研發(fā)展規(guī)劃》，更好發(fā)揮規(guī)劃課題促進(jìn)和引領(lǐng) 重要作用，以加快建設(shè)高質(zhì)量教育體系，積極推動(dòng)高標(biāo)準(zhǔn)建設(shè)教教育改革發(fā)展的重要作用，以加快建設(shè)高質(zhì)量教育體系。積 育強(qiáng)省。經(jīng)研究決定，從今年11月起組織開展2022年度省教育科學(xué)極推動(dòng)商標(biāo)準(zhǔn)建設(shè)教育強(qiáng)省，經(jīng)研究決定，從今午11 規(guī)劃課題的申報(bào)工作?，F(xiàn)將有關(guān)事項(xiàng)通知如下：月起組織開展2022年度省教育科學(xué)規(guī)劃課題的申報(bào)工作。一、課題類別現(xiàn)將有關(guān)事項(xiàng)通知如下：一、課題類別 課題設(shè)為“重大課題”“重點(diǎn)課題”“專項(xiàng)課題”“委托課題勢四課題設(shè)為“重大課題”“重點(diǎn)課題”“專項(xiàng)課題”“委 類，共設(shè)立800項(xiàng)左右。托課題”四類，典設(shè)立800項(xiàng)左右。 “重大課題”聚焦高標(biāo)準(zhǔn)建設(shè)教育強(qiáng)省和高質(zhì)量教育體系構(gòu)建的“重大課題”聚焦高標(biāo)準(zhǔn)建設(shè)教育強(qiáng)省和高質(zhì)量教育體戰(zhàn)略性與政策性問題，按照規(guī)定程序征集避選，最終由省教育廳和省系構(gòu)建的戰(zhàn)略性與政策性問題，按照規(guī)定程序征集適選，最終由省教育廳和省教育科學(xué)規(guī)劃領(lǐng)導(dǎo)小組審定，擬設(shè)立10 教育科學(xué)規(guī)劃領(lǐng)導(dǎo)小組審定，擬設(shè)立10個(gè)左右戰(zhàn)略性與政策性重大個(gè)左右戰(zhàn)略性與政策性重大招標(biāo)課題，向金社會(huì)公開發(fā)布， 招標(biāo)課題，向全社會(huì)公開發(fā)布，采用“揭榜招標(biāo)”方式進(jìn)行研究。]采用“揭榜招標(biāo)”方式進(jìn)行研究。

2.2 敏感詞匹配機(jī)制

使用敏感詞匹配的方式可以快速?zèng)Q策部分檔案，從而提高審核效率和準(zhǔn)確率，本文采用多層敏感詞匹配機(jī)制。首先設(shè)置敏感詞相似度閾值 T₁ ，設(shè)置正文敏感詞出現(xiàn)次數(shù)區(qū)間 T₂ 。這兩個(gè)參數(shù)都是可調(diào)的超參數(shù)。設(shè)置完成后導(dǎo)入本地敏感詞信息庫，該信息庫的建立由數(shù)據(jù)預(yù)處理模塊完成，對通過預(yù)處理后的關(guān)鍵性信息進(jìn)行敏感詞逐次匹配操作，并比較關(guān)鍵性信息詞向量與敏感詞向量相似度，相似度計(jì)算公式如下：

式中： A_i -關(guān)鍵信息詞向量；B_i 一 敏感詞向量。

當(dāng) sin（θ） 靠近1時(shí)表示相似度高，當(dāng)被審詞語相似度 sin（θ） 高于閾值 T₁ 時(shí)判定敏感詞匹配成功，根據(jù)敏感詞索引返回對應(yīng)匹配到的敏感詞，同時(shí)將該檔案設(shè)置為關(guān)鍵性信息次敏感狀態(tài)。

判斷當(dāng)前被審檔案是否同時(shí)具備關(guān)鍵性信息次敏感檔案和正文信息次敏感檔案兩個(gè)標(biāo)簽。當(dāng)檔案同時(shí)具備兩個(gè)標(biāo)簽，將檔案標(biāo)記為控制類型，送至人工審核。若檔案只具備一個(gè)標(biāo)簽或不具備任何標(biāo)簽時(shí)，進(jìn)行本地大模型輔助審核流程。

2.3 DPR檢索增強(qiáng)模塊

傳統(tǒng)檔案審核模型依賴大量標(biāo)注數(shù)據(jù)，但優(yōu)質(zhì)數(shù)據(jù)稀缺，影響審核準(zhǔn)確度。通用大語言模型雖具備語義理解和邏輯推理能力，可應(yīng)對未見過的涉密檔案，但存在對檔案審核流程理解不足及幻覺問題。微調(diào)通用大模型又依賴優(yōu)質(zhì)數(shù)據(jù)且可能破壞其通用能力。為此，提出DPR深度檢索方法，通過RAG技術(shù)檢索審核細(xì)則，以此作為審核依據(jù)，避免復(fù)雜微調(diào)，提升審核效能，增強(qiáng)可解釋性，且更具部署優(yōu)勢。

首先導(dǎo)入數(shù)據(jù)預(yù)處理模塊中構(gòu)建的審核細(xì)則序列和訓(xùn)練文檔庫。其中審核細(xì)則序列是由 n_p 個(gè)詞語組成的文本序列，并擁有唯一索引指向?qū)?yīng)的原始審核細(xì)則文本。訓(xùn)練文檔庫由文檔存儲單元組成，文檔存儲單元由詞語集合 {w₁，… ， w_n} 組成。構(gòu)建本地訓(xùn)練數(shù)據(jù)，設(shè) D 是由 m 個(gè)實(shí)例組成的訓(xùn)練數(shù)據(jù)。

D={（q_i，p_i⁺，p_i，1^-，p_i，2^-，…，p_i，k^-）}_i=1^m

其中 m 為文檔存儲單元的數(shù)量，即訓(xùn)練文檔庫大小。每個(gè)實(shí)例由一個(gè)文檔存儲單元 q_i ，一個(gè)相關(guān)審核細(xì)則序列 p_i⁺ 和 k 個(gè)不相關(guān)的審核細(xì)則序列 p_i，j^- 組成。設(shè)每個(gè)實(shí)例中的審核細(xì)則序列 p_i^k 由 {w₁，…，w_np} 個(gè)詞語組成，文檔存儲單元 q 由詞語集合 {w₁，… ， w_n} 組成。

進(jìn)一步地，使用Word2Vec詞向量嵌入模型分別對 p_i^k 和 q 中的每個(gè)詞 w_t 進(jìn)行映射，分別獲得 ??n_p 個(gè) ?τ 維 （τ=n_p） 詞向量 V_P（w_t）_1×τ 和 n 個(gè) τ 維 （τ=n_p） 詞向量V_q（w_t）_1×τ 。其中[PAD]符號詞對應(yīng)詞向量為全零。分別對向量 V_P（w_t）_1×τ 和 V_q（w_t）_1×τ 進(jìn)行平均池化，得到屬于該實(shí)例的兩個(gè)表示向量 V_i（q） 和 。

式中： V_i（q） —第i個(gè)實(shí)例中訓(xùn)練文檔平均池化后的表示向量; —第i個(gè)實(shí)例中正、負(fù)相關(guān)審核細(xì)則平均池化后各自的表示向量;V（w_t） —第t個(gè)詞語的向量表示;τ 詞向量維度，這里規(guī)定 τ=n_p 。

定義DPR檢索過程中將被審核文檔的關(guān)鍵性信息表示為攜帶語義信息的向量 E_Q（V_i（q））_d×1 ，并與審核細(xì)則知識庫中攜帶語義信息的向量集合E_P（V_i（p_j^k+1））_d×1 進(jìn)行相似度匹配，通過計(jì)算 ?E_Q（V_i（q））_d×1 與 E_P（V_i（p_j^k+1））_d×1 中各向量的相似性，檢索最接近的條目返回。其中使用余弦相似度計(jì)算。

定義文檔信息與正相關(guān)審核細(xì)則的負(fù)對數(shù)似然函數(shù)為該模型的損失函數(shù)，具體如下式：

其中點(diǎn)積函數(shù)公式可進(jìn)一步簡化為：

Sim（q_i，p_i⁺）=E_Q（V_i（q））^T?E_P（V_i（p_i，1））

Sim（q_i，p_i，j^-）=E_Q（V_i（q））^T?E_P（V_i（p_i，j^k））

2.4KARP關(guān)鍵詞與推理提示

為提高大語言模型在檔案文本解析任務(wù)中的復(fù)雜推理能力，本研究提出基于漸進(jìn)推理策略的關(guān)鍵詞推理提示法。該方法構(gòu)建了包含關(guān)鍵詞提取、邏輯推演和結(jié)論生成的三階段推理框架，模擬人類的思考方式：首先將DPR檢索到的審核細(xì)則與輸入的檔案數(shù)據(jù)進(jìn)行語義融合，通過多維度特征分析提取核心語義要素；隨后運(yùn)用因果推理網(wǎng)絡(luò)構(gòu)建關(guān)鍵詞間的邏輯聯(lián)結(jié)，形成多維度的語義拓?fù)浣Y(jié)構(gòu)；最終基于可解釋的推理路徑生成審核結(jié)論及其依據(jù)。該體系通過分層語義解析與動(dòng)態(tài)知識整合，有效提升模型對非結(jié)構(gòu)化文本的深層語義理解能力。下面概述關(guān)鍵詞收集和推理過程，隨后描述實(shí)現(xiàn)的細(xì)節(jié)，如圖4所示。

你是一個(gè)檔案文本內(nèi)容輔助開放審核專家，準(zhǔn)確且深人地識別輸入的檔案內(nèi)容，給出開放或控制審核意見。輸人：1978年XX省關(guān)于落實(shí)中共中央十一屆三中全會(huì)精神的專題匯報(bào)，包含省內(nèi)政策調(diào)整方向及基層干部執(zhí)行反饋，部分內(nèi)容涉及歷史階段的具體措施。審核結(jié)果：開放檔案×（a）一般提示學(xué)習(xí)審核方法

你是一個(gè)檔案文本內(nèi)容輔助開放審核專家，用戶需要一個(gè)輔助審核系統(tǒng)來自動(dòng)根據(jù)提供的審核細(xì)則判斷檔案是否需要控制，如果需要控制則

提供理由和對應(yīng)的審核細(xì)則。

首先，將輸入的檔案內(nèi)容與審核細(xì)則進(jìn)行深度檢索，檢索到相匹配的審核細(xì)則；

然后列出關(guān)鍵詞（例如：相關(guān)敏感詞），其影響輸入檔案內(nèi)容的線索;

其次根據(jù)匹配到的審核細(xì)則以及列出的關(guān)鍵詞進(jìn)行推理審核；

最后提供明確的審核結(jié)果（控制或開放），附上審核理由和對應(yīng)的審核細(xì)則。

輸人：1978年XX省關(guān)于落實(shí)中共中央十一屆三中全會(huì)精神的專題匯報(bào)，包含省內(nèi)政策調(diào)整方向及基層干部執(zhí)行反饋，部分內(nèi)容涉及歷史階段

的具體措施。

審核細(xì)則：

1、包含個(gè)人隱私、健康狀況、家庭信息等內(nèi)容不得開放。

2、會(huì)議紀(jì)要不宜開放。

3、涉及政治事件、領(lǐng)導(dǎo)講話、批示文件材料、內(nèi)部信息不宜開放。

4、.

關(guān)鍵詞：十一屆三中全會(huì)、省內(nèi)政策、歷史階段、具體措施.

推理：關(guān)鍵詞“十一屆三中全會(huì)\"屬于歷史政治事件，“省內(nèi)政策\(yùn)"歷史階段\"具體措施\"這些短語涉及到內(nèi)部信息。經(jīng)過深度檢索，符

合審核細(xì)則第三條。

審核結(jié)果：控制檔案。理由：文本中包含歷史政治事件、內(nèi)部信息等內(nèi)容，根據(jù)審核細(xì)則“涉及政治事件、領(lǐng)導(dǎo)講話、批示文件材料、內(nèi)部信

息不宜開放\"需要對檔案進(jìn)行控制。 1（b）KARP關(guān)鍵詞與推理提示方法

關(guān)鍵詞收集。針對檔案數(shù)據(jù)的復(fù)雜性特征，關(guān)鍵詞是最有力的審核證據(jù)。系統(tǒng)通過融合短語結(jié)構(gòu)分析、上下文關(guān)聯(lián)特征識別及語義網(wǎng)絡(luò)建模技術(shù)，精確捕獲文本中的實(shí)體屬性、語義依存關(guān)系和潛在邏輯關(guān)聯(lián)，形成支撐審核決策的證據(jù)鏈。下面是一個(gè)示例：

輸人：會(huì)議總結(jié)了上年度工作成果，討論了新年度的重點(diǎn)工作計(jì)劃，包括提升行政效率和加強(qiáng)內(nèi)部培訓(xùn)等議題。會(huì)議決定成立專項(xiàng)工作組，負(fù)責(zé)推進(jìn)數(shù)字化轉(zhuǎn)型。

關(guān)鍵詞：“會(huì)議\"\"工作計(jì)劃\"行政效率\"內(nèi)部培訓(xùn)\"這些是決定審核結(jié)果的關(guān)鍵線索。

推理過程。對于大語言模型的推理，那些膚淺的詞語對于審核結(jié)果是無用的，挖掘更深層次的語義信息，考慮邏輯語義關(guān)系，將局部信息拼接在一起，形成最終審核結(jié)果。下面的示例展示了根據(jù)收集到的關(guān)鍵詞來進(jìn)行推理的過程：

1）“會(huì)議”一詞意味著此檔案可能屬于會(huì)議紀(jì)要文件。

2）\"工作計(jì)劃\"“內(nèi)部培訓(xùn)\"這兩個(gè)詞屬于內(nèi)部文件的范疇。

3）\"行政效率”與審核細(xì)則中的內(nèi)部信息相吻合，極大程度上說明此檔案文件屬于控制檔案。

審核結(jié)果。根據(jù)關(guān)鍵詞推理過程，模仿人思考過程后模型給出的審核結(jié)果：

總體而言，關(guān)鍵詞和推理過程表明此檔案屬于控制檔案。

將關(guān)鍵詞收集與推理提示機(jī)制結(jié)合有以下優(yōu)勢：推動(dòng)模型漸進(jìn)式思考與決策，分層處理方式更契合人類認(rèn)知決策路徑；構(gòu)建人機(jī)協(xié)同干預(yù)通道，便于開發(fā)者在少樣本學(xué)習(xí)場景下調(diào)試優(yōu)化；增強(qiáng)可解釋性，人工設(shè)計(jì)的線索和推理流程為模型決策提供透明解釋路徑。

3實(shí)驗(yàn)

為了驗(yàn)證文本所提出方法的有效性，在兩種模式設(shè)置下進(jìn)行了實(shí)驗(yàn)：1）全數(shù)據(jù)訓(xùn)練設(shè)置，模型可以訪問完整的訓(xùn)練集數(shù)據(jù);2）少樣本設(shè)置，其中模型只能訪問部分訓(xùn)練數(shù)據(jù)集，少樣本設(shè)置可以更好地模擬訓(xùn)練集有限的現(xiàn)實(shí)情況。對于全數(shù)據(jù)訓(xùn)練實(shí)驗(yàn)，遵循訓(xùn)練集、驗(yàn)證集和測試集進(jìn)行數(shù)據(jù)分割；對于少樣本設(shè)置實(shí)驗(yàn)，從訓(xùn)練集中每個(gè)類別隨機(jī)采樣n 個(gè)實(shí)例 （n={16，128，256，512，1024}） 。采集到的少樣本形成新的訓(xùn)練集，來測試不同模型在少樣本情況下的性能。本實(shí)驗(yàn)中使用ChatGLM2-6B量化版作為基礎(chǔ)模型，運(yùn)行該模型的硬件要求本地機(jī)器顯存至少在8GB及以上。

3.1 實(shí)驗(yàn)數(shù)據(jù)

本文使用復(fù)旦大學(xué)數(shù)據(jù)集、THUCNews新聞數(shù)據(jù)集兩個(gè)公開文本分類數(shù)據(jù)集和檔案開放審核數(shù)據(jù)集OParchives一個(gè)私有數(shù)據(jù)集對模型進(jìn)行有效性驗(yàn)證。

1）復(fù)旦大學(xué)數(shù)據(jù)集[15]：長文本分類數(shù)據(jù)集，由復(fù)旦大學(xué)計(jì)算機(jī)信息與技術(shù)系國際數(shù)據(jù)庫中心自然語言處理小組提供，包括19636條長文本文檔，分為20個(gè)類別。

2）THUCNews新聞數(shù)據(jù)集[1：短文本分類數(shù)據(jù)集，包含14個(gè)類別，74萬篇文檔。本文選取其中的10類，20萬條文檔。

3）檔案開放審核數(shù)據(jù)集（OParchives）：長文本檔案分類數(shù)據(jù)集，包含5個(gè)類別，其中四個(gè)為延期開放檔案，一個(gè)為開放檔案。本數(shù)據(jù)集為自建虛擬檔案數(shù)據(jù)，數(shù)據(jù)集的主題類別，標(biāo)簽以及主要內(nèi)容如表1所示。

3.2 對比模型

使用以下模型作為基準(zhǔn)模型，來驗(yàn)證本文所提出方法的有效性：

1）TextCNN[17]：利用不同尺寸卷積核提取文本中的局部關(guān)鍵特征，并結(jié)合最大池化操作保留最主要的特征，最后采取Softmax進(jìn)行分類。

2）BERT[18]：使用BERT預(yù)訓(xùn)練語言模型提取文本特征向量，然后結(jié)合全連接層進(jìn)行分類。

3）RoBERTa-Large[19]：是BERT的改進(jìn)版本，更大規(guī)模的數(shù)據(jù)、動(dòng)態(tài)掩碼和更長的訓(xùn)練優(yōu)化策略。

4）RoBERTa-GCN[20]：在 RoBERTa-Large 模型的基礎(chǔ)上構(gòu)建異構(gòu)圖網(wǎng)絡(luò)模型。

5）GCN-SB[21]：引人簡化的增強(qiáng)算法協(xié)同訓(xùn)練CNN 和 GCN。

在三個(gè)不同的數(shù)據(jù)集上，進(jìn)行了多次實(shí)驗(yàn)以驗(yàn)證所提出的KADR-LLM方法的性能。實(shí)驗(yàn)結(jié)果如表2和圖5所示，這些數(shù)據(jù)清晰地揭示了KADR-LLM方法在不同樣本條件下的顯著優(yōu)勢。在零樣本學(xué)習(xí)的極端條件下，KADR-LLM方法展現(xiàn)出了令人矚目的性能。盡管沒有直接的訓(xùn)練樣本可供學(xué)習(xí)，其分類準(zhǔn)確率依然與那些在全訓(xùn)練樣本條件下訓(xùn)練的對比模型相差無幾。這一結(jié)果表明，KADR-LLM方法在處理未見過的類別時(shí)，能夠憑借其強(qiáng)大的泛化能力和對數(shù)據(jù)內(nèi)在結(jié)構(gòu)的理解，有效地進(jìn)行分類任務(wù)。這種能力在實(shí)際應(yīng)用中尤為重要，因?yàn)楹芏鄷r(shí)候可能面臨樣本稀缺或無法獲取足夠樣本的情況，而KADR-LLM方法能夠在這些情況下依然保持較高的分類準(zhǔn)確率，為解決實(shí)際問題提供了有力工具。

在少樣本訓(xùn)練條件下，KADR-LLM方法展現(xiàn)出顯著優(yōu)勢。當(dāng)樣本量僅 n=16 時(shí)，其性能遠(yuǎn)超其他基準(zhǔn)模型，能高效利用有限樣本快速適應(yīng)新任務(wù)。尤其在OParchives數(shù)據(jù)集零樣本實(shí)驗(yàn)中，分類準(zhǔn)確率依舊領(lǐng)先。這源于其設(shè)計(jì)貼合檔案分類領(lǐng)域特點(diǎn)，能精準(zhǔn)捕捉檔案復(fù)雜結(jié)構(gòu)與豐富語義信息，提供精準(zhǔn)解決方案。

為全面評估少樣本性能，對各數(shù)據(jù)集每個(gè)類別分別用 n={16，128，256，512，1024} 個(gè)實(shí)例訓(xùn)練，如表3所示。當(dāng)訓(xùn)練樣本極有限（ n=16 時(shí)，有監(jiān)督模型準(zhǔn)確率接近隨機(jī)猜測，而KADR-LLM準(zhǔn)確率遠(yuǎn)高于有監(jiān)督模型，能更好利用有限樣本。隨樣本量增加，其性能提升幅度較小，說明其在少樣本條件下即可取得良好效果，且性能較穩(wěn)定，與傳統(tǒng)有監(jiān)督模型形成對比。

3.3 消融實(shí)驗(yàn)

在本小節(jié)中，進(jìn)行了全面的消融實(shí)驗(yàn)，來更好地驗(yàn)證各部分對整體模型的效果

消融實(shí)驗(yàn)結(jié)果如表4所示，在分別去除DPR和KARP模塊后，模型的指標(biāo)下降了 1.3～1.8 個(gè)百分點(diǎn)。由此可見這兩個(gè)模塊在大語言模型的檔案開放審核任務(wù)中發(fā)揮了重要作用。

具體而言，DPR模塊主要負(fù)責(zé)對文檔進(jìn)行深度處理和檢索，能夠從大量文本中提取關(guān)鍵信息，為模型提供準(zhǔn)確的文檔內(nèi)容。當(dāng)移除該模塊后，模型在處理復(fù)雜文檔時(shí)的效率和準(zhǔn)確性受到一定影響，導(dǎo)致指標(biāo)下降。這表明DPR模塊在確保模型能夠全面、準(zhǔn)確地理解文檔內(nèi)容方面具有不可替代的作用。

而KARP模塊則側(cè)重于大語言模型的關(guān)鍵詞與推理提示。它能夠結(jié)合關(guān)鍵詞的上下文信息，更精準(zhǔn)地識別和處理文檔中的敏感信息。移除該模塊后，模型在處理涉及關(guān)鍵詞的文檔時(shí)，可能無法充分理解其語義背景，從而影響審核的準(zhǔn)確性。這說明KARP模塊在提升模型對關(guān)鍵詞的敏感度和語義理解能力方面至關(guān)重要。

為探究關(guān)鍵詞、上下文信息、審核細(xì)則、語義關(guān)系對模型性能的影響，進(jìn)行了消融實(shí)驗(yàn)，分別移除每個(gè)要素，觀察模型在檔案開放審核任務(wù)中的表現(xiàn)變化，實(shí)驗(yàn)結(jié)果見表5。此外，為驗(yàn)證基礎(chǔ)模型選型對審核性能的影響，在保持KADR-LLM框架中的DPR檢索與KARP推理機(jī)制不變下，采用不同基礎(chǔ)大語言模型在OParchives數(shù)據(jù)集上進(jìn)行對比實(shí)驗(yàn)，訓(xùn)練設(shè)置為少樣本（ n=16 ），模型參數(shù)與性能對比如表6所示。

表6展示了不同大語言模型的性能對比與參數(shù)規(guī)模。ChatGLM2-6B量化版在保持較高準(zhǔn)確率（ 82.34% 的同時(shí)，模型參數(shù)量僅為6B，雖略低于DeepSeek-MoE-16B（ 82.81% ，但其8GB顯存需求與42tokens/s的推理速度在本地化部署場景中展現(xiàn)出顯著優(yōu)勢。在訓(xùn)練時(shí)間方面，模型參數(shù)量更大的GPT-3.5-turbo，也需要更久的時(shí)間，所消耗的推理成本更高。尤其在處理平均長度967字符的檔案文本時(shí)，相較于DeepSeek模型 12GB 的顯存占用，ChatGLM2可支持批量處理的文檔數(shù)量提升 50% 更適配基層檔案機(jī)構(gòu)普遍配置的中端計(jì)算設(shè)備。商業(yè)閉源的GPT-3.5-turbo雖具備最優(yōu)性能（ 85.77% ，但其黑箱特性導(dǎo)致審核過程不可追溯，且存在數(shù)據(jù)隱私風(fēng)險(xiǎn)，不適用于檔案審核領(lǐng)域。

實(shí)驗(yàn)結(jié)果表明，在檔案審核場景中，模型的部署成本與安全性約束往往比單純的準(zhǔn)確率指標(biāo)更具決策權(quán)重。ChatGLM2-6B量化版在精度損失可控的前提下，實(shí)現(xiàn)了硬件成本降低、推理速度提升的顯著優(yōu)勢，驗(yàn)證了其作為基礎(chǔ)模型的合理性。

4結(jié)束語

在數(shù)字時(shí)代，檔案開放審核面臨著效率低下和主觀性偏誤等挑戰(zhàn)。本文提出的KADR-LLM框架，通過融合DPR的檢索能力和KARP的推理提示機(jī)制，構(gòu)建了“檢索-推理-驗(yàn)證\"的智能審核模式。實(shí)驗(yàn)結(jié)果表明，KADR-LLM在不同數(shù)據(jù)集上均展現(xiàn)出色的性能，尤其是在少樣本和零樣本學(xué)習(xí)條件下，能夠有效處理訓(xùn)練樣本不足的情況，泛化能力強(qiáng)。消融實(shí)驗(yàn)進(jìn)一步驗(yàn)證了DPR和KARP模塊在提升模型效率和準(zhǔn)確性方面的重要性。KADR-LLM框架不僅提高了檔案開放審核的智能化水平，還為未來檔案管理的創(chuàng)新發(fā)展提供了新的思路和方法，具有重要的理論和實(shí)踐意義。

參考文獻(xiàn)

[1]楊揚(yáng)，孫廣輝，韓先吉.敏感詞全文比對在檔案開放審核中的應(yīng)用實(shí)踐[J].中國檔案，2020（11）：58-59.YANGY，SUNGH，HANXJ.Theapplication practiceof

ChinaArchives，2020（11）：58-59.

[2] 符澤凡，姚竟發(fā)，滕桂法.基于BERT模型的網(wǎng)站敏感信息 識別及其變體還原技術(shù)研究[J].現(xiàn)代電子技術(shù)，2024， 47（23）： 105-112. FU ZF，YAO JF， TENG G F.Research on website sensitive information identification and variant restoration technology based on BERT model[J]. Moderm Electronics Technique， 2024， 47（23）： 105-112.

[3] 劉佩鑫，于洪志，徐濤.基于樸素貝葉斯的檔案分類研究 [J].河北大學(xué)學(xué)報(bào)（自然科學(xué)版），2018，38（5）：549-554. LIU P X，YU H Z， XU T. Research on archives text classification based on Naive Bayes[J].Journal of Hebei University（Natural Science Edition），2018，38（5）： 549-554.

[4]霍光煜，張勇，孫艷豐，等.基于語義的檔案數(shù)據(jù)智能分類方 法研究[J].計(jì)算機(jī)工程與應(yīng)用，2021，57（6）：247-253. HUO G Y， ZHANG Y， SUN YF， et al. Research on archive data intelligent classification based on semantic[J].Computer Engineering and Applications， 2021， 57（6）： 247-253.

[5]楊宏宇，杜路平，胡澤，等.融合多層次語義和依存句法信息 的網(wǎng)絡(luò)安全事件檢測方法[J].吉林大學(xué)學(xué)報(bào)（工學(xué)版）， 2025： 1-14. YANG H Y，DU L P，HU Z，et al.A cybersecurity event detection method fusing multi-level semantic and dependent syntax information[J]. Journal of Jilin University（Engineering and Technology Edition），2025： 1-14.

[6]劉桂雄，閆奕樸，邢星奧.視覺表面缺陷無監(jiān)督學(xué)習(xí)檢測方 法研究進(jìn)展[J].中國測試，2024，50（3）：1-12. LIU G X， YAN Y P， XING X A. Research progress on unsupervised learning detection methods for visual surface defects[J]. China Measurement amp; Test， 2024， 50（3）： 1-12.

[7] NAVEED H， KHAN A U， QIU S， et al. A comprehensive overview of large language models[J]. arxiv preprint arxiv： 2307.06435，2023.

[8]EKIN S. Prompt engineering for ChatGPT： a quick guide to techniques， tips，and best practices[J]. Authorea Preprints， 2023.

[9] KARPUKHIN V，OGUZ B，MIN S， et al. Dense passage retrieval for open-domain question answering[C]//EMNLP （1），2020： 6769-6781.

[10] 閆奕樸，劉桂雄，邢星奧.工業(yè)異常檢測大模型方法研究進(jìn) 展[J].中國測試，2025，51（1）： 1-10+23 YAN Y P，LIU G X， XING X A. Progress of research on large visual language model methods for industrial anomaly detection[J].China Measurement amp; Test，2025，51（1）：1- 10+23

[11] 林璃，陳日成，金濤.面向復(fù)雜信息系統(tǒng)的多源異構(gòu)數(shù)據(jù)融 合技術(shù)[J].中國測試，2020，46（7）：1-7+23. LINY，CHENG R C，JIN T.Research on multi-source heterogeneous data fusion technology for complex information system[J].China Measurement amp; Test，2020，46（7）：1-7+23.

[12] SUN X，LI X，LI J， et al. Text classification via large language models[J].arxiv preprint arxiv： 2305.08377，2023.

[13]YU S. Improving text classification by leveraging large language models for data augmentation[J]. Academic Journal of Computing amp; Information Science，2024，7（12）： 91-95.

[14]劉越男，張茜雅，楊建梁.大語言模型在檔案開放審核中的 應(yīng)用框架與路徑探究[J].檔案學(xué)通訊，2025（2）：31-38. LIU Y N， ZHANG X Y，YANG JL. Research on the application strategies of large language models in the open audit of archival records[J].Archives Science Bulletin， 2025（2）： 31-38.

[15]復(fù)旦大學(xué)計(jì)算機(jī)信息與技術(shù)系國際數(shù)據(jù)庫中心自然語言處 理小組.復(fù)旦大學(xué)中文文本分類數(shù)據(jù)集[DS/OL].[2025-03- 24]. https：//download.csdn.net/download/number59/11374484.

[16] 清華大學(xué)自然語言處理實(shí)驗(yàn)室.中文文本分類數(shù)據(jù)集 THUCNews[DS/OL]. [2025-03-21]. http：/thuctc.thunlp.org/ THUCNews.

[17] CHEN Y.Convolutional neural network for sentence classification[D].UniversityofWaterloo，2015.

[18]DEVLINJ，CHANGMW，LEEK，etal.Bert：Pre-trainingof deep bidirectional transformers for language understanding[C]//Proceedings of the 2019 conference of the North American chapter of the association for computational linguistics： human language technologies， volume 1 （long and short papers），2019：4171-4186.

[19] LIU Y，OTT M，GOYAL N，et al.Roberta：A robustly optimized bert pretraining approach[J]. arxiv preprint arxiv： 1907.11692，2019.

[20] LIN Y， MENG Y， SUN X， et al. Bertgcn： Transductive text classification by combining gcn and bert[J].Association for Computational Linguistics，2021： 1456-1462.

[21] ZENG F，CHEN N，YANG D，et al.Simplified-boosting ensemble convolutional network for text classification[J]. Neural Processing Letters， 2022， 54（6）： 4971-4986.

（編輯：徐柳）