公職人員使用AI大模型的態(tài)勢、風(fēng)險及違規(guī)行為的認定分析

近年來，以DeepSeek為典型代表的生成式人工智能技術(shù)呈現(xiàn)高速迭代發(fā)展態(tài)勢，其憑借關(guān)鍵詞輸入即可完成文本生成的高效特性，在多元辦公場景中的滲透率持續(xù)攀升。然而，這類技術(shù)在革新工作模式、提升工作效率的同時，也伴生了顯著的治理風(fēng)險：一方面，其數(shù)據(jù)交互機制與智能生成邏輯，為涉密文件信息泄露埋下安全隱患；另一方面，可能弱化公職人員的責任意識，滋生瀆職隱患。由此可見，在生成式人工智能技術(shù)加速向政務(wù)領(lǐng)域滲透的背景下，亟須明確法律底線與紀律紅線，規(guī)范公職人員對大模型的使用，以實現(xiàn)技術(shù)賦能與風(fēng)險防控的動態(tài)平衡。

一、大模型賦能政務(wù)的內(nèi)在原因

隨著政務(wù)數(shù)字化轉(zhuǎn)型的深入，以DeepSeek為代表的大模型技術(shù)正逐步成為提升政府服務(wù)效能的核心驅(qū)動力。通過自然語言處理、多模態(tài)數(shù)據(jù)融合和深度學(xué)習(xí)等技術(shù)，大模型在智能問答、政策分析、城市治理等場景中展現(xiàn)出強大能力。目前，全國已有超過100家政府單位接入DeepSeek等大模型，覆蓋民生服務(wù)、城市管理等多個領(lǐng)域，顯著提升了政務(wù)服務(wù)的智能化水平。

高效處理復(fù)雜事務(wù)的政務(wù)要求是公職人員逐漸開始使用大模型的內(nèi)在原因。日常公文處理工作繁瑣復(fù)雜，政策解讀、文件起草等環(huán)節(jié)需要耗費大量人力和時間。例如，一份重要政策文件的起草，從資料收集、內(nèi)容撰寫到格式核對，往往需要多名工作人員協(xié)同工作數(shù)天時間，且容易出現(xiàn)人為失誤。而DeepSeek等大模型作為智能寫作助手，實現(xiàn)了政策解讀、文件起草和智能校對的全流程自動化，甚至能夠基于歷史數(shù)據(jù)和政策庫自動生成規(guī)范文本，并結(jié)合政務(wù)語境進行優(yōu)化，快速生成高質(zhì)量的公文。

二、大模型賦能政務(wù)的二元風(fēng)險

隨著大模型技術(shù)深度融人政務(wù)場景，其在提升行政效率的同時，也衍生出數(shù)據(jù)安全與倫理道德的雙重風(fēng)險。例如，基層村干部未經(jīng)審核直接發(fā)布AI生成的工作通知引發(fā)輿情，涉密單位人員違規(guī)使用AI處理敏感信息危及保密安全。這些案例均暴露出亟待解決的潛在隱患，

從技術(shù)維度看，大模型的安全風(fēng)險呈現(xiàn)多面性。一方面，大模型有數(shù)據(jù)泄露隱患。政務(wù)數(shù)據(jù)往往高度敏感，公職人員在使用時若將涉密文件、圖片等信息使用大模型進行處理，極有可能造成國家秘密泄露。這是因為DeepSeek等大模型是開源模型，其代碼的開放性使得模型可能被惡意竄改、漏洞利用，最終導(dǎo)致信息外泄。此外，從該類大模型運行原理也可知，其接收的國家秘密信息會被進一步作為訓(xùn)練數(shù)據(jù)被利用。由此可見，大模型在數(shù)據(jù)獲取、處理、存儲、運算、傳輸各環(huán)節(jié)均存在泄密可能。另一方面，“算法黑箱”也可能導(dǎo)致生成公文的不可解釋性。大模型通過海量數(shù)據(jù)訓(xùn)練生成復(fù)雜參數(shù)網(wǎng)絡(luò)，其決策過程猶如“黑箱”，難以拆解為清晰規(guī)則。這種不可解釋性不僅可能因算法通過非線性關(guān)聯(lián)捕捉產(chǎn)生隱含偏見，還會讓生成的公文缺乏邏輯支撐。

技術(shù)風(fēng)險的蔓延直接引發(fā)了倫理層面的三大危機。首先是技術(shù)依賴導(dǎo)致公職人員的主動性喪失，即公職人員可能在沒有經(jīng)過人工審核復(fù)查的情況下，直接采納AI生成的文本，這就導(dǎo)致“技術(shù)背書”代替專業(yè)判斷。若引發(fā)政策執(zhí)行爭議，因決策邏輯的無法追溯可能導(dǎo)致追責無果。其次是“算法黑箱”的不透明與程序正義沖突，AI生成公文時缺乏明確依據(jù)鏈，其推薦的政策工具選擇邏輯無法被人工復(fù)核，這使傳統(tǒng)行政法上“過程性審查”這一用來控制行政機關(guān)政策性決定的工具無法發(fā)揮作用。最后是大模型輸出的內(nèi)容真實性危機。AI可能生成看似規(guī)范但邏輯不通的表述，這是因為大模型無法理解公文背后的真實意圖，僅依據(jù)詞匯共現(xiàn)概率生成語句。倫理危機的持續(xù)發(fā)酵將步步削弱公眾對數(shù)字化治理的信任基礎(chǔ)。

三、公職人員應(yīng)用大模型的底線思維

公職人員在應(yīng)用大模型進行公文寫作時，必須要有底線思維和合規(guī)意識，緊繃保密之弦，使用合法合規(guī)的國產(chǎn)大模型，強化風(fēng)險意識、規(guī)范使用流程。AI數(shù)據(jù)挖掘功能可基于海量原始數(shù)據(jù)進行多維推理和關(guān)聯(lián)分析，這就導(dǎo)致哪怕只是截取涉密文件片段，AI程序也會根據(jù)用戶偏好，在全網(wǎng)范圍搜集內(nèi)容進行匹配、編輯。這些行為均在后臺通過算法完成，相關(guān)信息完全暴露在互聯(lián)網(wǎng)環(huán)境中，極易擴散外泄、被攻擊竊取或經(jīng)關(guān)聯(lián)匯聚后泄密。因此，無論是在起草涉密文稿時，為提高質(zhì)效，違規(guī)將涉密文件內(nèi)容輸入AI寫作工具生成所需文章；還是將涉密素材上傳AI工具進行模型學(xué)習(xí)；抑或是在AI工具中錄入涉密身份信息增強個性化服務(wù)精準度，都將涉及違規(guī)并造成一系列問題。

因此，公職人員應(yīng)該對應(yīng)用于大模型的內(nèi)容進行合法性控制，堅守法律底線。在嚴格遵守民法典對于信息處理的合法性要求的同時，也應(yīng)遵守《中華人民共和國保守國家秘密法》的相關(guān)規(guī)定，即對于泄露后可能損害國家安全和利益的國家秘密，不得接入互聯(lián)網(wǎng)及其他公共信息網(wǎng)絡(luò)?！吨腥A人民共和國數(shù)據(jù)安全法》也明確規(guī)定了數(shù)據(jù)分類分級保護制度，對于關(guān)系國家安全、國民經(jīng)濟命脈、重要民生、重大公共利益等國家核心數(shù)據(jù)，不能隨意將其上傳大模型進行解析處理或用于進一步生成所需公文。

此外，公職人員應(yīng)對經(jīng)手工作內(nèi)容履行保密義務(wù)，嚴守工作紀律。對于黨員，還需進一步遵守《中國共產(chǎn)黨紀律處分條例》。對于黨員違規(guī)使用大模型泄露國家秘密，應(yīng)根據(jù)情節(jié)嚴重性進行判定，若涉嫌違紀，先由紀檢監(jiān)察機關(guān)給予政務(wù)處分或由任免機關(guān)給予處分；若涉嫌違法犯罪，移送司法機關(guān)依法處理。

四、公職人員違規(guī)應(yīng)用大模型的量紀分析

隨著2023年8月《生成式人工智能服務(wù)管理暫行辦法》正式實施，公職人員使用大模型的行為已被納入紀律審查重點領(lǐng)域。公職人員違規(guī)使用大模型的行為可依其侵犯的核心法益歸納為兩類：一是數(shù)據(jù)安全類違規(guī)，即明知或應(yīng)知可能泄密，仍將涉密信息輸入大模型處理，直接威脅國家秘密安全；二是履職規(guī)范類違規(guī)，即未經(jīng)授權(quán)或不恰當授權(quán)模型替代其核心職務(wù)決策、審批或關(guān)鍵文書生成等履職行為，破壞行政管理的正當性、審慎性與責任性。

對上述違規(guī)行為的量紀審查，需著重把握四個遞進維度的關(guān)鍵要素：首先，恪守合規(guī)性底線，嚴格依據(jù)《中華人民共和國保守國家秘密法》對輸入或處理信息準確進行“絕密、機密、秘密”三級密級定性與審查，這構(gòu)成判定數(shù)據(jù)安全違規(guī)嚴重程度的客觀基礎(chǔ)；其次，聚焦行為性質(zhì)，需精準甄別并區(qū)分主觀過錯程度，比如是明知故犯的惡意規(guī)避還是技術(shù)認知疏失導(dǎo)致的過失，這是劃分責任輕重、實現(xiàn)罰當其責的核心考量；再次，評估危害結(jié)果，深入核查違規(guī)造成的現(xiàn)實損失和潛在風(fēng)險，如已泄露信息或?qū)野踩⒐怖鏄?gòu)成的威脅等級，其損害程度是決定處分層級的關(guān)鍵依據(jù)；最后，考量領(lǐng)域及身份特殊性，對于涉及國家安全、重大民生或履職于紀檢監(jiān)察、司法等高度敏感崗位的人員，因其失職瀆職行為的放大效應(yīng)與示范作用，其違規(guī)行為在同等條件下可能導(dǎo)致更為嚴厲的紀律處分。除了上述必須依次考察的四個審查因素外，還需要綜合考量違紀次數(shù)和時間、技術(shù)手段與危害可控性等因素。

例如，對于數(shù)據(jù)安全類行為，如非故意輸入非密敏感信息且未造成實質(zhì)損害的行為，或是疏忽使用未授權(quán)模型處理一般工作文件但及時糾正，通常適用警告或批評教育，依據(jù)《中華人民共和國公職人員政務(wù)處分法》第十二條“情節(jié)輕微可免予處分”的規(guī)定予以容錯處理。但涉及機密級以上數(shù)據(jù)處理時存在主觀過錯，包括擅自通過境外服務(wù)器運行大模型處理涉密信息，則需加重處分。若涉嫌違法犯罪的，同時啟動司法程序。對于履職規(guī)范類行為，如故意使用未經(jīng)審核的大模型完成核心政務(wù)且形成錯誤決策，或未經(jīng)批準用AI替代人工制定規(guī)范性文件，但未引發(fā)重大后果，應(yīng)根據(jù)《中華人民共和國公職人員政務(wù)處分法》給予相應(yīng)政務(wù)處分。對于黨員，則需進一步參照《中國共產(chǎn)黨紀律處分條例》進行紀律處分，若造成絕密信息泄露、重大公共安全事件的，按照頂格標準給予開除公職并移送司法機關(guān)依法處理。

大模型技術(shù)深度嵌入政務(wù)領(lǐng)域，既是提升治理效能的催化劑，也是引發(fā)安全與倫理危機的導(dǎo)火索。從技術(shù)層面的數(shù)據(jù)泄露隱患、“算法黑箱”困境，到倫理層面的主體性喪失、程序正義沖突，這些二元風(fēng)險深刻影響著政務(wù)數(shù)字化轉(zhuǎn)型的可持續(xù)性。公職人員作為政務(wù)實踐的直接參與者，堅守底線思維、規(guī)范使用大模型，不僅關(guān)乎個體職業(yè)操守，更維系著政府公信力與國家信息安全。在此背景下，構(gòu)建違規(guī)使用大模型的量紀標準，是將技術(shù)治理納入法治軌道的關(guān)鍵一步。它不僅為違規(guī)行為的懲戒提供量化依據(jù)，更能推動形成“技術(shù)賦能有邊界、政務(wù)創(chuàng)新有底線”的治理共識。

（作者單位：西安交通大學(xué)法學(xué)院）