AI大模型在數(shù)字政務(wù)系統(tǒng)中的應(yīng)用開發(fā)研究

摘" 要：隨著人工智能技術(shù)的飛速發(fā)展，AI大模型正成為推動(dòng)數(shù)字政務(wù)現(xiàn)代化的重要技術(shù)之一。該文首先概述AI大模型的概念、特點(diǎn)和發(fā)展脈絡(luò)，分析其在數(shù)字政務(wù)系統(tǒng)、數(shù)字政府中的應(yīng)用場(chǎng)景，對(duì)AI大模型應(yīng)用建設(shè)思路、開發(fā)技術(shù)和業(yè)務(wù)類型等進(jìn)行分析研究，同時(shí)針對(duì)大模型應(yīng)用建設(shè)中可能遇到的風(fēng)險(xiǎn)挑戰(zhàn)提出對(duì)策建議。

關(guān)鍵詞：人工智能；AI大模型；政務(wù)大模型；數(shù)字政府；數(shù)字政務(wù)系統(tǒng)

中圖分類號(hào)：TP18" " " 文獻(xiàn)標(biāo)志碼：A" " " " " 文章編號(hào)：2095-2945（2024）35-0022-05

Abstract： With the rapid development of artificial intelligence technology， AI large models are becoming one of the key technologies driving the modernization of digital government affairs." This paper" first outlines the concept， characteristics， and development trajectory of AI large models， analyzes their application scenarios in digital government systems and digital governments. It conducts research on the construction ideas， development technologies， and business types of AI large model applications. Additionally， it proposes countermeasures and suggestions for potential risks and challenges in the construction of large model applications.

Keywords： artificial intelligence; AI model; government model; digital government; digital government system

在數(shù)字化時(shí)代的浪潮下，人工智能技術(shù)特別是AI大模型技術(shù)正在全球范圍內(nèi)迅速崛起，并在自然語言處理（NLP）、圖像識(shí)別、音頻處理等諸多領(lǐng)域展現(xiàn)出卓越的能力。本文探討AI大模型在數(shù)字政務(wù)系統(tǒng)應(yīng)用的機(jī)會(huì)與挑戰(zhàn)，對(duì)AI大模型應(yīng)用的建設(shè)思路與應(yīng)用開發(fā)技術(shù)進(jìn)行研究。

1" AI大模型概述

1.1" 概念

AI大模型是指使用深度學(xué)習(xí)技術(shù)，通常采用大規(guī)模神經(jīng)網(wǎng)絡(luò)架構(gòu)（如Transformer架構(gòu)），包含大量參數(shù)和海量數(shù)據(jù)進(jìn)行訓(xùn)練的一類人工智能系統(tǒng)。狹義的AI大模型主要指大語言模型（Large Language Model，簡(jiǎn)稱LLM），用于處理和生成自然語言文本。廣義的AI大模型屬于通用大模型（General Large Models，GLMs），不僅涵蓋自然語言處理，還包括圖像處理、音頻處理等多種數(shù)據(jù)類型處理，其為實(shí)現(xiàn)更高級(jí)的理解、交互和生成任務(wù)提供了可能，也促進(jìn)了通用人工智能的發(fā)展[1-2]。

1.2" 特點(diǎn)

AI大模型具有以下幾個(gè)顯著特點(diǎn)。

1）大規(guī)模數(shù)據(jù)訓(xùn)練：通常采用龐大的數(shù)據(jù)集進(jìn)行訓(xùn)練，包含了豐富的文本、圖像等信息。

2）深度學(xué)習(xí)架構(gòu)：采用深度神經(jīng)網(wǎng)絡(luò)架構(gòu)，具有龐大參數(shù)數(shù)量和復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)（從數(shù)億到數(shù)千億以上）。

3）自監(jiān)督學(xué)習(xí)：通常采用自監(jiān)督學(xué)習(xí)方法，通過預(yù)測(cè)數(shù)據(jù)中的缺失部分來學(xué)習(xí)數(shù)據(jù)的內(nèi)在結(jié)構(gòu)和規(guī)律。

4）強(qiáng)大內(nèi)容生成：訓(xùn)練過程中充分利用大量數(shù)據(jù)，能夠生成高質(zhì)量的文本等內(nèi)容，并有豐富的語義理解能力。

5）多模態(tài)處理：不僅可以處理文本，還能處理圖像、音頻等多模態(tài)數(shù)據(jù)，實(shí)現(xiàn)跨模態(tài)能力。

6）通用性和泛化性： 不同于傳統(tǒng)針對(duì)單一任務(wù)訓(xùn)練的模型，AI大模型展現(xiàn)出更強(qiáng)的通用性和泛化性，能夠通過少量的示例或指令適應(yīng)新任務(wù)，并在多樣化的領(lǐng)域和場(chǎng)景中發(fā)揮作用。

上述特點(diǎn)讓AI大模型在教育、金融、醫(yī)療、交通和政務(wù)等很多領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力。

1.3" 發(fā)展歷程

AI大模型的發(fā)展歷程可以概括為從早期的深度學(xué)習(xí)技術(shù)誕生到現(xiàn)代的大型預(yù)訓(xùn)練模型，再到當(dāng)前GPT-4等超大規(guī)模模型及多模態(tài)大模型的發(fā)展。

1）早期階段：自20世紀(jì)50年代約翰·麥卡錫提出“人工智能”概念以來，人工智能逐漸轉(zhuǎn)向了機(jī)器學(xué)習(xí)，2006年，杰弗里·辛頓提出了深度學(xué)習(xí)的概念。

2）沉淀發(fā)展階段：在深度學(xué)習(xí)的基礎(chǔ)上，預(yù)訓(xùn)練模型開始嶄露頭角。2017年Google研究團(tuán)隊(duì)提出了基于自注意力機(jī)制的深度神經(jīng)網(wǎng)絡(luò)Transformer架構(gòu)，解決了處理長(zhǎng)序列數(shù)據(jù)的難題，顯著提升了模型的訓(xùn)練效率?；赥ransformer的預(yù)訓(xùn)練模型如BERT、GPT等進(jìn)一步推動(dòng)了自然語言處理的能力。

3）爆發(fā)階段： OpenAI發(fā)布ChatGPT（基于GPT-3.5）和GPT-4標(biāo)志著AI大模型進(jìn)入了超大規(guī)模時(shí)代。這一時(shí)期，多模態(tài)大模型技術(shù)也迅速發(fā)展。2024年中GPT-4o、Claude 3 Opus、Gemini 1.5 Pro等具備多模態(tài)處理能力的大模型紛紛亮相，展示了巨大潛力。

需要指出，AI大模型技術(shù)目前正處于飛速發(fā)展階段，全球各大企業(yè)和研究機(jī)構(gòu)相繼推出了各自的AI大模型。國(guó)外主流的AI大模型包括OpenAI的GPT系列、Anthropic的Claude、Google的Gemini、Meta的Llama系列等。國(guó)內(nèi)，百度的文心一言、字節(jié)跳動(dòng)的豆包、華為的盤古、騰訊的混元、阿里的通義千問、訊飛星火和智譜AI等也紛紛成為行業(yè)中的佼佼者。國(guó)內(nèi)大模型在中文場(chǎng)景下正展現(xiàn)出了優(yōu)勢(shì)。

2" AI大模型與數(shù)字政務(wù)系統(tǒng)

2.1" 數(shù)字政務(wù)系統(tǒng)發(fā)展

數(shù)字政務(wù)系統(tǒng)是指政務(wù)領(lǐng)域的各類信息系統(tǒng)，不僅涵蓋面向公眾的服務(wù)平臺(tái)，還包含內(nèi)部辦公系統(tǒng)和各類業(yè)務(wù)系統(tǒng)。

政務(wù)數(shù)字化的構(gòu)想源于20世紀(jì)90年代的電子政務(wù)（e-Government）理念。我國(guó)的政務(wù)數(shù)字化演進(jìn)歷程初期電子政務(wù)階段開始起步、經(jīng)過多年發(fā)展，正從“互聯(lián)網(wǎng)+政務(wù)”階段，逐步邁入現(xiàn)今的數(shù)字政府階段，并在飛速發(fā)展中。

近年來，一方面隨著《“十四五”推進(jìn)國(guó)家政務(wù)信息化規(guī)劃》和《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》等一系列政策的出臺(tái)，明確了數(shù)字政務(wù)及數(shù)字政府建設(shè)的路線圖和目標(biāo)。另一方面，隨著云計(jì)算、大數(shù)據(jù)、人工智能等技術(shù)的廣泛應(yīng)用，推動(dòng)了數(shù)字政務(wù)系統(tǒng)建設(shè)向更高效率、更加智能的方向轉(zhuǎn)變。數(shù)字政府建設(shè)是我國(guó)推動(dòng)國(guó)家治理體系和治理能力現(xiàn)代化的重要抓手，用數(shù)字化思維推進(jìn)管理流程再造、業(yè)務(wù)協(xié)同，完善數(shù)字基礎(chǔ)支撐體系，加速數(shù)據(jù)的融合、利用，提升數(shù)字政務(wù)系統(tǒng)的“智能化”水平對(duì)于建設(shè)高質(zhì)量的數(shù)字政府是非常重要和有意義的。AI大模型技術(shù)的潛力不僅能提升政務(wù)服務(wù)的質(zhì)量和效率，還能推動(dòng)治理體系和治理能力的現(xiàn)代化發(fā)展[3-4]。

2.2" 數(shù)字政務(wù)領(lǐng)域應(yīng)用場(chǎng)景分析

AI大模型在內(nèi)容生成、智能問答、數(shù)據(jù)分析等方面具有廣泛的潛力。通過結(jié)合政務(wù)領(lǐng)域的知識(shí)和數(shù)據(jù)，可以形成垂直領(lǐng)域的政務(wù)大模型，能夠在政務(wù)服務(wù)、城市治理、政府協(xié)同辦公等多方面發(fā)揮作用。

知識(shí)庫(kù)檢索：可以幫助構(gòu)建內(nèi)部知識(shí)庫(kù)，幫助工作人員高效檢索所需信息。

公文寫作輔助：幫助自動(dòng)生成格式規(guī)范、內(nèi)容準(zhǔn)確的公文，提高寫作效率。

信息提取與解讀：能夠從復(fù)雜的文件中提取關(guān)鍵信息，便于工作人員快速了解文件內(nèi)容，也能幫助為公眾提供政策的智能解讀。

智能客服：提供更加自然和精準(zhǔn)的語言交互體驗(yàn)，實(shí)現(xiàn)對(duì)公眾提問的自動(dòng)回答能力，提升政務(wù)服務(wù)效率。

輔助辦理服務(wù)：通過掌握政務(wù)服務(wù)知識(shí)和相關(guān)數(shù)據(jù)，通過意圖識(shí)別，為工作人員和公眾提供辦理服務(wù)。

城市治理輔助：能夠幫助快速響應(yīng)民意訴求，智能分類問題，并高效處理事件工單，提升城市治理的智能化水平。

數(shù)據(jù)挖掘與輔助決策：通過對(duì)政務(wù)數(shù)據(jù)的深度挖掘，依托大模型邏輯推理能力為政府決策提供有力支持。

此外，通過AI大模型技術(shù)，可以對(duì)已有各類信息系統(tǒng)中的一些處理流程進(jìn)行改造來提高自動(dòng)化、智能化水平，減少人工干預(yù)，有助于提高工作效率和準(zhǔn)確性。

3" AI大模型應(yīng)用建設(shè)分析

當(dāng)前，國(guó)內(nèi)政務(wù)大模型領(lǐng)域的發(fā)展正在逐步推進(jìn)，華為、百度、科大訊飛等眾多企業(yè)已經(jīng)開始積極布局和提出應(yīng)用方案，各地也在加快推進(jìn)政務(wù)大模型的落地應(yīng)用，例如北京、上海、深圳等地通過發(fā)布場(chǎng)景清單或分步拓展應(yīng)用場(chǎng)景的模式開展示范試點(diǎn)[5]。

AI大模型應(yīng)用的核心在于“大模型+應(yīng)用”，即通過底層大模型提供智能支持，結(jié)合上層應(yīng)用來解決具體業(yè)務(wù)場(chǎng)景需求。針對(duì)政務(wù)領(lǐng)域，我們可以采用兩種思路建設(shè)AI大模型應(yīng)用：一是基于成熟政務(wù)大模型產(chǎn)品或解決方案，進(jìn)行上層應(yīng)用開發(fā)；二是建立個(gè)性化的開發(fā)流程，根據(jù)業(yè)務(wù)需求靈活構(gòu)建“合適”的政務(wù)大模型，并基于此開展應(yīng)用開發(fā)。這兩種方法在靈活性、成本等方面存在差異，需要根據(jù)具體需求進(jìn)行選擇。考慮到通用性和靈活性，以及目前市場(chǎng)上還缺乏能夠直接滿足各類政務(wù)場(chǎng)景的成熟大模型產(chǎn)品，本文重點(diǎn)針對(duì)第二種思路進(jìn)行研究。

3.1" 應(yīng)用建設(shè)流程

建設(shè)個(gè)性化的AI大模型應(yīng)用流程可以概況為：選擇基礎(chǔ)模型，進(jìn)行數(shù)據(jù)準(zhǔn)備，建立領(lǐng)域向量知識(shí)庫(kù)與模型微調(diào)，部署模型，應(yīng)用開發(fā)等步驟，如圖1所示。

1）選擇基礎(chǔ)模型：根據(jù)需求選擇合適的基礎(chǔ)模型（底座大模型）。基礎(chǔ)模型是已經(jīng)預(yù)訓(xùn)練好的開源通用大模型（如Qwen等）或者是在政務(wù)領(lǐng)域已經(jīng)訓(xùn)練過的大模型。選擇基礎(chǔ)模型需要考慮模型性能、訓(xùn)練數(shù)據(jù)情況以及安全、成本等因素。

2）數(shù)據(jù)準(zhǔn)備：是構(gòu)建政務(wù)大模型的關(guān)鍵步驟之一，包括數(shù)據(jù)采集、清洗和預(yù)處理等操作，目的是通過領(lǐng)域數(shù)據(jù)讓模型能適應(yīng)相關(guān)領(lǐng)域。

政務(wù)領(lǐng)域的數(shù)據(jù)來源廣泛，包括政府部門、公共機(jī)構(gòu)等各類數(shù)據(jù)，例如文件、報(bào)告、業(yè)務(wù)數(shù)據(jù)等。本階段需要進(jìn)行數(shù)據(jù)篩選、轉(zhuǎn)換和標(biāo)注，以更好地適應(yīng)政務(wù)領(lǐng)域的特定任務(wù)。同時(shí)，要注意數(shù)據(jù)的準(zhǔn)確性和完整性，以確保訓(xùn)練出的模型具有可靠性。

3）構(gòu)建領(lǐng)域向量知識(shí)庫(kù)、微調(diào)模型：在數(shù)據(jù)準(zhǔn)備工作完成后可以構(gòu)建領(lǐng)域向量知識(shí)庫(kù)以及對(duì)模型進(jìn)行微調(diào)。需要指出的是，構(gòu)建領(lǐng)域向量知識(shí)庫(kù)和微調(diào)模型是兩種不同的方法，但共同目標(biāo)都是增強(qiáng)AI大模型對(duì)政務(wù)領(lǐng)域數(shù)據(jù)的學(xué)習(xí)、理解能力。簡(jiǎn)單地說，構(gòu)建領(lǐng)域向量知識(shí)庫(kù)是將數(shù)據(jù)置于模型的“外部”，而微調(diào)模型則是將數(shù)據(jù)融入模型的“內(nèi)部”。

領(lǐng)域向量知識(shí)庫(kù)：將政務(wù)領(lǐng)域的知識(shí)轉(zhuǎn)化為向量形式進(jìn)行存儲(chǔ)和管理，從而提升模型對(duì)這些知識(shí)的理解與利用能力。向量化技術(shù)簡(jiǎn)化了復(fù)雜數(shù)據(jù)的處理和存儲(chǔ)，提高了數(shù)據(jù)處理的效率，并且是構(gòu)建基于檢索的增強(qiáng)型模型（RAG模型）的基礎(chǔ)。

微調(diào)模型：使用政務(wù)領(lǐng)域的特定數(shù)據(jù)對(duì)基礎(chǔ)模型進(jìn)行微調(diào)（finetune），以使其更加適應(yīng)政務(wù)領(lǐng)域的特殊任務(wù)需求，進(jìn)而提升模型在該領(lǐng)域的實(shí)用性。例如，為了提高政府公文寫作、報(bào)告生成方面的生成質(zhì)量，可以使用政務(wù)文檔進(jìn)行微調(diào)，讓模型學(xué)習(xí)政府文件的寫作風(fēng)格和專業(yè)術(shù)語。通過細(xì)致的微調(diào)，AI大模型能夠在不犧牲通用性的前提下，顯著提高在特定政務(wù)任務(wù)上的表現(xiàn)[6]。

微調(diào)過程考慮到難度、成本、效率等因素，通常建議采用參數(shù)高效微調(diào)（PERT）等技術(shù)，例如LoRA等[7-8]。微調(diào)完成后還需要對(duì)模型進(jìn)行評(píng)估，可以通過測(cè)試數(shù)據(jù)集來計(jì)算模型的準(zhǔn)確率、召回率、F1分?jǐn)?shù)等指標(biāo)。

4）模型部署：將微調(diào)后的模型部署到計(jì)算環(huán)境中。

5）應(yīng)用開發(fā)：基于已部署的模型，使用各種開發(fā)工具和中間件來開發(fā)具體的AI應(yīng)用，以滿足具體業(yè)務(wù)場(chǎng)景的需求。

6）維護(hù)迭代：進(jìn)行定期的維護(hù)和迭代。包括數(shù)據(jù)更新、模型優(yōu)化、應(yīng)用技術(shù)升級(jí)等。

3.2" 應(yīng)用建設(shè)架構(gòu)

從技術(shù)角度，可以通過分層和抽象來構(gòu)建模塊化、分層的AI大模型應(yīng)用平臺(tái)，其總體架構(gòu)（圖2）可以表示如下。

1）AI基礎(chǔ)設(shè)施層：提供GPU硬件、網(wǎng)絡(luò)、存儲(chǔ)等基礎(chǔ)設(shè)施支持，滿足模型訓(xùn)練、推理和應(yīng)用的使用。

2）模型層：包括底層大模型、存放經(jīng)過微調(diào)的政務(wù)大模型的模型池、模型訓(xùn)練、評(píng)估和優(yōu)化的相關(guān)工具。

3）服務(wù)開發(fā)層：提供應(yīng)用開發(fā)的中間件和工具支持，包括各種Agent組件、RAG組件、向量數(shù)據(jù)庫(kù)、開發(fā)工具鏈以及提供相關(guān)應(yīng)用接口服務(wù)。

4）應(yīng)用層：基于AI大模型能力開發(fā)的各類應(yīng)用。

3.3" 應(yīng)用開發(fā)技術(shù)分析

AI大模型的應(yīng)用開發(fā)技術(shù)可以分為以下幾類。

1）Prompt工程（Prompt Engineering）：是一種直接使用大模型進(jìn)行任務(wù)的方式，通過輸入有效的提示詞（Prompt）來引導(dǎo)大模型理解用戶意圖并生成回答或執(zhí)行操作。這種方法的優(yōu)點(diǎn)是簡(jiǎn)單易用，通過精確設(shè)計(jì)的提示詞與大模型直接進(jìn)行交互。但其缺點(diǎn)是可能無法單獨(dú)處理復(fù)雜的任務(wù)場(chǎng)景。

2）Function Calling：是一種將大模型和外部世界及業(yè)務(wù)系統(tǒng)連接起來的方式。大模型本身存在一些“缺陷”（如數(shù)學(xué)計(jì)算、時(shí)效性等），可以通過Function Calling功能來完善。例如，接入互聯(lián)網(wǎng)查詢信息、調(diào)用外部業(yè)務(wù)系統(tǒng)的接口訪問特定數(shù)據(jù)等功能，從而克服大模型知識(shí)和能力的局限性。Function Calling將大模型的輸出用作觸發(fā)特定外部系統(tǒng)或工具API調(diào)用的輸入，讓大模型可以和外部世界交互來實(shí)現(xiàn)更復(fù)雜的任務(wù)。

3）檢索增強(qiáng)生成（Retrieval-Augmented Generation， RAG）：是一種結(jié)合了檢索（Retrieval）和生成（Generation）兩個(gè)過程的技術(shù)架構(gòu)，它結(jié)合了檢索系統(tǒng)和大模型生成的能力。系統(tǒng)通過使用檢索系統(tǒng)（比如向量數(shù)據(jù)庫(kù)）從外部大量數(shù)據(jù)中（例如政務(wù)系統(tǒng)的知識(shí)庫(kù)）檢索信息，然后將檢索到的信息融合到大模型中，通過大模型的能力來生成基于檢索信息的詳細(xì)回答，以產(chǎn)生信息量更豐富、更準(zhǔn)確的結(jié)果輸出。檢索增強(qiáng)生成是一種解決大模型“幻覺、私有領(lǐng)域知識(shí)”不足的方案。

4）人工智能智能體（AI Agent）：Agent是指一個(gè)自主運(yùn)行的軟件程序，能夠感知其環(huán)境，并根據(jù)這些感知采取行動(dòng)以實(shí)現(xiàn)特定的目標(biāo)。在AI大模型應(yīng)用開發(fā)中，人工智能智能體是一種能夠感知環(huán)境并（針對(duì)各種任務(wù)）采取行動(dòng)達(dá)成目標(biāo)的智能體[9]。

簡(jiǎn)單來說，人工智能智能體結(jié)合了“大模型+環(huán)境觀察+決策思考+執(zhí)行任務(wù)+經(jīng)驗(yàn)記憶”等多個(gè)要素，它將大模型視作一個(gè)智能代理，能夠通過決策過程調(diào)用相關(guān)工具來執(zhí)行任務(wù)。其核心理念在于將復(fù)雜的任務(wù)分解為若干步驟，并逐步優(yōu)化結(jié)果，這種處理方式與人類解決問題的思維模式相類似。人工智能智能體的優(yōu)勢(shì)在于能夠處理更為復(fù)雜的任務(wù)，并靈活調(diào)用多種功能，但同時(shí)，它要求使用者對(duì)大模型的功能有深入的理解，并且需要編寫額外的代碼來管理和協(xié)調(diào)模型與工具的調(diào)用。

需要指出，上述開發(fā)技術(shù)不是完全獨(dú)立的，大多數(shù)應(yīng)用需要考慮同時(shí)采用多種技術(shù)組合來滿足具體、復(fù)雜的需求。例如在智能問答系統(tǒng)中，會(huì)結(jié)合Prompt工程、Function Calling和RAG等技術(shù)來為用戶提供實(shí)時(shí)、準(zhǔn)確和更專業(yè)的服務(wù)。

3.4" 應(yīng)用業(yè)務(wù)類型分析

從業(yè)務(wù)協(xié)同角度可將AI應(yīng)用的業(yè)務(wù)類型分為下面幾類。

1）助手模式：AI大模型應(yīng)用充當(dāng)了“助手”或“副駕駛”角色，與用戶協(xié)同工作，類似GitHub與OpenAI合作推出的編碼助手Copilot應(yīng)用。Copilot可以在程序員編寫代碼時(shí)提供建議、補(bǔ)全代碼片段，自動(dòng)生成整個(gè)函數(shù)或類，但不會(huì)完全自主編寫整個(gè)程序，而是與人類程序員緊密合作以提高編程效率。在業(yè)務(wù)場(chǎng)景中，助手模式可以在用戶需要時(shí)提供幫助信息，比如在政務(wù)服務(wù)網(wǎng)站中智能客服可以幫助公眾回答和處理服務(wù)的問題等。

2）嵌入模式：大模型能力被封裝成API或服務(wù)，嵌入到現(xiàn)有的業(yè)務(wù)系統(tǒng)中，實(shí)現(xiàn)AI能力與原有業(yè)務(wù)流程的集成。用戶在使用業(yè)務(wù)系統(tǒng)時(shí)，可能并不知道后臺(tái)流程正在使用AI大模型來處理工作。例如，在業(yè)務(wù)審批系統(tǒng)中嵌入AI大模型來優(yōu)化對(duì)材料的檢查和處理。

3）智能體模式：這是AI應(yīng)用研究實(shí)施的熱點(diǎn)之一。應(yīng)用中構(gòu)建一個(gè)或多個(gè)執(zhí)行任務(wù)的人工智能智能體，可以根據(jù)任務(wù)目標(biāo)和外部環(huán)境的信息自主決策，自動(dòng)化完成一些標(biāo)準(zhǔn)化的流程任務(wù)或執(zhí)行更復(fù)雜的任務(wù)。例如，業(yè)務(wù)系統(tǒng)中的一些工作流程可以構(gòu)建人工智能智能體來自動(dòng)化處理；在數(shù)據(jù)分析和監(jiān)控、預(yù)警等場(chǎng)景中自動(dòng)監(jiān)控?cái)?shù)據(jù)并在檢測(cè)到異常時(shí)采取措施。

4" 風(fēng)險(xiǎn)挑戰(zhàn)與對(duì)策分析

AI大模型應(yīng)用建設(shè)可能面臨諸多風(fēng)險(xiǎn)挑戰(zhàn)。

AI大模型的不足：需要認(rèn)識(shí)到AI大模型存在“能力不足”，一方面大模型存在“幻覺、時(shí)效性、私有領(lǐng)域知識(shí)缺乏”，在特定領(lǐng)域可能無法充分滿足專業(yè)性和精準(zhǔn)性的需求。另一方面政務(wù)領(lǐng)域應(yīng)用系統(tǒng)不僅涉及大量領(lǐng)域知識(shí)還存在很多復(fù)雜的業(yè)務(wù)場(chǎng)景。在AI應(yīng)用建設(shè)中，需考慮結(jié)合系統(tǒng)特點(diǎn)和需求來“嵌入”AI大模型，并通過RAG或微調(diào)等技術(shù)來提高其在特定任務(wù)上的效果，還可以結(jié)合傳統(tǒng)知識(shí)圖譜，為大模型提供豐富的領(lǐng)域知識(shí)，并采用多模型方式，將多個(gè)模型集成，以提高綜合能力。

數(shù)據(jù)質(zhì)量和安全性：數(shù)據(jù)質(zhì)量和安全性對(duì)于AI大模型應(yīng)用至關(guān)重要。一方面需要加強(qiáng)數(shù)據(jù)管理和質(zhì)量控制，精心設(shè)計(jì)并執(zhí)行數(shù)據(jù)清洗、預(yù)處理等步驟，建立數(shù)據(jù)治理和數(shù)據(jù)質(zhì)量監(jiān)控機(jī)制，以確保數(shù)據(jù)的準(zhǔn)確性和完整性。一方面需要高度重視安全性保障，數(shù)字政務(wù)系統(tǒng)中會(huì)涉及大量敏感信息，如個(gè)人信息、經(jīng)濟(jì)數(shù)據(jù)等。需要實(shí)施嚴(yán)格的數(shù)據(jù)訪問控制、數(shù)據(jù)脫敏和加密措施，加強(qiáng)網(wǎng)絡(luò)安全防護(hù)，以保障數(shù)據(jù)的安全性并確保遵守相關(guān)數(shù)據(jù)保護(hù)法律法規(guī)。此外，還要注意大模型使用中存在的提示注入攻擊防御、提示泄露等安全問題[10]。

模型部署和算力資源：AI大模型的訓(xùn)練和推理需要大量的計(jì)算資源，尤其高性能GPU算力需求巨大。政務(wù)領(lǐng)域建設(shè)AI應(yīng)用需要高度重視數(shù)據(jù)安全與隱私保護(hù)，通常需要進(jìn)行本地化私有部署或政務(wù)云，這增加了部署的復(fù)雜性。

因此對(duì)模型部署和算力資源方面需要仔細(xì)規(guī)劃，避免系統(tǒng)面臨環(huán)境問題。在模型部署方面，需要充分考慮軟硬件環(huán)境兼容性、安全性和可擴(kuò)展性；在算力資源方面需要根據(jù)需求進(jìn)行合理評(píng)估所需的算力資源。

技術(shù)快速發(fā)展的挑戰(zhàn)：AI大模型技術(shù)發(fā)展日新月異，隨著大模型相關(guān)技術(shù)的快速發(fā)展和迭代，保持應(yīng)用系統(tǒng)與大模型開發(fā)技術(shù)的同步更新是一個(gè)重要挑戰(zhàn)。

一方面建設(shè)實(shí)施大模型應(yīng)用，需要考慮構(gòu)建模塊化、分層的架構(gòu)平臺(tái)，通過分層在底層大模型和上層應(yīng)用間構(gòu)建“隔離層”，讓應(yīng)用通過統(tǒng)一的服務(wù)接口和相關(guān)中間件與底層大模型通信，減少對(duì)上層應(yīng)用其他部分的影響。此外，AI大模型開發(fā)平臺(tái)可以考慮與數(shù)字政務(wù)系統(tǒng)中已存在的中臺(tái)或應(yīng)用支撐平臺(tái)相結(jié)合，以實(shí)現(xiàn)資源的高效利用、服務(wù)的快速開發(fā)和應(yīng)用的穩(wěn)定運(yùn)行。

另一方面，為了滿足需求和技術(shù)的變化，AI應(yīng)用開發(fā)適合“小步快跑”，通過短周期、迭代式開發(fā)，快速響應(yīng)并及時(shí)收集使用需求和反饋，不斷優(yōu)化和改進(jìn)系統(tǒng)功能和實(shí)施效果。

模型可解釋性和透明度：AI大模型的可解釋性和透明度至關(guān)重要，這里可解釋性指用戶能明白模型的決策過程，透明度是指用戶能了解模型的內(nèi)部工作機(jī)制。由于大模型技術(shù)的復(fù)雜性，提升可解釋性和透明度是一個(gè)持續(xù)改進(jìn)的過程，可以通過一些方法來提升可解釋性和透明度。

理解模型工作原理：教育用戶了解大模型的局限和正確使用模型輸出。

數(shù)據(jù)和訓(xùn)練過程透明化：適當(dāng)公開數(shù)據(jù)集信息，例如數(shù)據(jù)來源、收集和預(yù)處理方式，以及模型訓(xùn)練的參數(shù)。

模型簡(jiǎn)化：使用模型蒸餾等簡(jiǎn)化模型結(jié)構(gòu)的技術(shù)降低復(fù)雜度，或根據(jù)需求選擇更簡(jiǎn)單的模型。

使用解釋性工具：研究利用LIME和SHAP等工具來解釋模型預(yù)測(cè)，幫助識(shí)別影響決策的關(guān)鍵輸入特征。

建立評(píng)估和反饋機(jī)制：定期評(píng)估模型輸出以確保其滿足預(yù)期。

法規(guī)和合規(guī)性：2023年7月國(guó)家網(wǎng)信辦聯(lián)合各部門印發(fā)的《生成式人工智能服務(wù)管理暫行辦法》對(duì)生成式人工智能技術(shù)的發(fā)展、治理等作出指導(dǎo)規(guī)范，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，提出了需從法律遵守、數(shù)據(jù)管理、服務(wù)規(guī)范、透明度和質(zhì)量控制等多個(gè)方面入手，確保生成式人工智能技術(shù)的健康發(fā)展。

需要通過深入理解相關(guān)法規(guī)要求、建立合規(guī)性檢查機(jī)制、加強(qiáng)數(shù)據(jù)安全管理等措施，來有效提升AI應(yīng)用的合規(guī)性水平，保障其安全、穩(wěn)定、高效地服務(wù)于政務(wù)工作。

5" 結(jié)論

綜上，AI大模型技術(shù)為數(shù)字政務(wù)領(lǐng)域發(fā)展帶來了具有巨大潛力，相信隨著技術(shù)的不斷演進(jìn)，大模型技術(shù)的運(yùn)用將更加廣泛，有望實(shí)現(xiàn)更智能、更高效的數(shù)字政務(wù)系統(tǒng)，為推動(dòng)數(shù)字政府建設(shè)和數(shù)字社會(huì)發(fā)展提供強(qiáng)有力的支持。

參考文獻(xiàn)：

[1] 任福繼，張彥如.通用大模型演進(jìn)路線[J].科技導(dǎo)報(bào)，2024，42（12）：44-50.

[2] 肖仰華.生成式語言模型與通用人工智能：內(nèi)涵、路徑與啟示[J].人民論壇·學(xué)術(shù)前沿，2023（14）：49-57.

[3] 王駿濤，徐斌.數(shù)字政務(wù)信息系統(tǒng)的技術(shù)架構(gòu)方案和發(fā)展趨勢(shì)研究[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2023（8）：100-101.

[4] 董超，王曉冬.生成式人工智能在數(shù)字政府建設(shè)中的探索、挑戰(zhàn)及建議[J].數(shù)字經(jīng)濟(jì)，2023（11）：36-39.

[5] 李帥崢，錢正，董正浩，等.政務(wù)大模型的技術(shù)應(yīng)用路徑及發(fā)展建議[J].信息通信技術(shù)與政策，2024，50（6）：76-82.

[6] 武朝尉，喬旺龍，徐瑋彤，等.利用私域大模型生成政府工作總結(jié)的探索與實(shí)踐[J].數(shù)字經(jīng)濟(jì)，2024（5）：55-59.

[7] 張欽彤，王昱超，王鶴羲，等.大語言模型微調(diào)技術(shù)的研究綜述[J/OL].計(jì)算機(jī)工程與應(yīng)用，1-22[2024-08-06].http：//kns.cnki.net/kcms/detail/11.2127.tp.20240611.0941.002.html.

[8] 丁鑫，鄒榮金，潘志庚.基于高效參數(shù)微調(diào)的生成式大模型領(lǐng)域適配技術(shù)[J].人工智能，2023（4）：1-9.

[9] 王亞珅，葛悅濤，鞠卓亞，等.2023年深度學(xué)習(xí)技術(shù)主要發(fā)展動(dòng)向分析[J].無人系統(tǒng)技術(shù)，2024，7（1）：50-58.

[10] 趙月，何錦雯，朱申辰，等.大語言模型安全現(xiàn)狀與挑戰(zhàn)[J].計(jì)算機(jī)科學(xué)，2024，51（1）：68-71.