探索人工智能體的模塊化治理框架

科技興則民族興，科技強則國家強。黨的十八大以來，我國高度重視人工智能發(fā)展，積極推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實體經(jīng)濟深度融合，培育壯大智能產(chǎn)業(yè)，加快發(fā)展新質(zhì)生產(chǎn)力，為高質(zhì)量發(fā)展提供新動能。習(xí)近平總書記指出：“要堅持促進發(fā)展和依法管理相統(tǒng)一，既大力培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用，又積極利用法律法規(guī)和標準規(guī)范引導(dǎo)新技術(shù)應(yīng)用?！绷?xí)近平總書記的重要論述為我國人工智能發(fā)展提供了根本遵循和行動指南。大力發(fā)展人工智能，提高人工智能安全治理水平，要把黨的二十屆三中全會《決定》提出的“建立人工智能安全監(jiān)管制度”重要部署不折不扣貫徹落實好，準確把握人工智能發(fā)展動向，重點關(guān)注人工智能前沿技術(shù)及其帶來的風(fēng)險挑戰(zhàn)，加強前瞻性思考，不斷探索人工智能治理的創(chuàng)新方案。

當(dāng)前，生成式人工智能開創(chuàng)了人機交互新范式，憑借其強大的交互、理解和生成能力，為發(fā)展以大型自然語言模型為核心組件，集記憶、規(guī)劃和工具使用于一體，具備感知和行動能力的人工智能體開辟了廣闊前景。人工智能體已成為通用人工智能最重要的前沿研究方向和科技企業(yè)競相布局的新賽道。它以大型自然語言模型為“智慧引擎”，具有自主性、適應(yīng)性和交互性特征，可顯著提高生產(chǎn)效率，增強用戶體驗，提供超越人類能力的決策支持，已能夠應(yīng)用于軟件開發(fā)、科學(xué)研究等多種真實場景。盡管大規(guī)模商業(yè)化落地仍在初步探索和孵化階段，但人工智能體所代表的虛實融合、人機深度互動等趨勢對經(jīng)濟社會發(fā)展具有重要引領(lǐng)意義。然而，由于技術(shù)局限，人工智能體也可能引發(fā)復(fù)雜的、動態(tài)的、不可預(yù)見的風(fēng)險與隱憂。

從設(shè)計邏輯看，人工智能體需要通過控制端獲得認知能力，通過感知端從周圍環(huán)境獲取和利用信息，最終在行動端成為基于物理實體進行感知和行動的智能系統(tǒng)。

在控制端，大型自然語言模型作為人工智能體的“大腦”，通過學(xué)習(xí)海量數(shù)據(jù)形成知識，構(gòu)成人工智能體控制系統(tǒng)中的記憶模塊，但其在生成內(nèi)容的可靠性和準確性方面存在風(fēng)險。比如，模型生成的內(nèi)容可能不遵循信息源或者與現(xiàn)實世界的真實情況不符，產(chǎn)生所謂“機器幻覺”；由于訓(xùn)練數(shù)據(jù)中的人類偏見，影響人工智能體的公平?jīng)Q策；等等。

在感知端，為充分理解具體情境下的顯性信息和隱性信息，準確感知人類意圖，人工智能體將感知范圍從純文本拓展到包括文本、視覺和聽覺模式在內(nèi)的多模態(tài)領(lǐng)域。這雖然提升了決策能力，卻在融合和分析不同渠道和類型的多源數(shù)據(jù)時可能引發(fā)一系列隱私泄露和數(shù)據(jù)安全風(fēng)險。比如，不當(dāng)使用和分享人臉信息、指紋、聲紋等高度個性化、具有永久性的生物特征數(shù)據(jù)，導(dǎo)致長期甚至永久性的隱私風(fēng)險。為更好地處理復(fù)雜任務(wù)，部署多個人工智能體進行規(guī)劃、合作甚至競爭，以完成和提高任務(wù)績效的多智能體系統(tǒng)將成為主流和常態(tài)。多個人工智能體的系統(tǒng)交互就可能引發(fā)不可預(yù)見的系統(tǒng)性安全風(fēng)險。即使每個算法在單獨操作時看似安全和合理，但組合和交互之后仍可能產(chǎn)生完全不同且難以預(yù)測的風(fēng)險，并迅速演化升級。比如，在股票市場中，如果人工智能被廣泛應(yīng)用，多個算法自動識別股票價格微小變化，同時大量執(zhí)行高頻交易進行套利，就可能引發(fā)股票市場閃崩的系統(tǒng)性安全事件。

在行動端，部署于真實物理環(huán)境的人工智能體將可能以更為立體、擬人的形象呈現(xiàn)。與虛擬空間不同，現(xiàn)實空間依賴交互式學(xué)習(xí)方法，人工智能體需要豐富的、全方位的信息感知來觀察、學(xué)習(xí)和行動，通過基于反饋的學(xué)習(xí)優(yōu)化能力，這可能對個人隱私構(gòu)成全面性、侵入性和隱蔽性的風(fēng)險。比如，解讀用戶的肢體語言并感知更加復(fù)雜的用戶活動，未經(jīng)用戶授權(quán)持續(xù)隱秘地收集數(shù)據(jù)，一旦系統(tǒng)存在安全漏洞，可能引發(fā)巨大的數(shù)據(jù)安全風(fēng)險。此外，隨著人工智能體自主性不斷提升，不僅可能干預(yù)和影響人類的認知和情緒，也挑戰(zhàn)著人類作為獨立決策者和獨立行動者的能力與地位。比如，一些聊天機器人在與用戶的交互過程中就出現(xiàn)了影響用戶情感的輸出，有時是負面并且具有操縱性的。

面對人工智能體帶來的風(fēng)險和挑戰(zhàn)，要讓人工智能體的行為符合人類的意圖和價值觀，需要探索創(chuàng)新性的治理方案，保證人工智能安全監(jiān)管制度切實管用。人工智能體的發(fā)展正處于“從零到一”的關(guān)鍵期。治理方案應(yīng)具備以不變應(yīng)萬變的能力，確保該技術(shù)的發(fā)展與應(yīng)用始終處于可控的軌道上。人工智能體的開發(fā)、訓(xùn)練、部署、運行和服務(wù)等環(huán)節(jié)經(jīng)過高度專業(yè)化的分工，形成了復(fù)雜的分層結(jié)構(gòu)。每一層均有不同的參與者、利益相關(guān)方和潛在風(fēng)險因素，使人工智能體具有“模塊”化的產(chǎn)業(yè)鏈特質(zhì)。因此，可以構(gòu)建一種能夠覆蓋整個產(chǎn)業(yè)鏈和各個端層的模塊化治理框架，從數(shù)據(jù)模塊、算法模塊、模型架構(gòu)等關(guān)鍵節(jié)點出發(fā)，設(shè)計相應(yīng)的治理模塊。例如在部署環(huán)節(jié)，就可根據(jù)應(yīng)用場景和部署模式的特性，靈活選擇、協(xié)同組合不同的治理模塊，構(gòu)建與之相匹配的治理方案。模塊化治理框架提供了一種具有可操作性的分解方法，通過將治理目標拆解為相對獨立但關(guān)聯(lián)耦合的治理模塊，漸序推動治理體系形成，不僅提高了治理的靈活性和針對性，還能夠適應(yīng)技術(shù)的快速迭代。在構(gòu)建基于數(shù)據(jù)、算法、模型和場景等維度的治理模塊時，應(yīng)以技術(shù)賦能監(jiān)管，打造與人工智能體模塊化治理框架相適配的、智慧化的治理工具，從而彌合風(fēng)險動態(tài)性與監(jiān)管靜態(tài)性之間的張力，實現(xiàn)對特定高風(fēng)險場景的精準化治理。

要構(gòu)建面向人工智能體的交互式治理生態(tài)。人工智能體具有深度交互性、高度互聯(lián)性以及動態(tài)適應(yīng)性。相應(yīng)地，治理方式應(yīng)當(dāng)超越傳統(tǒng)的以個體為中心的治理，推動形成廣泛互聯(lián)、多方參與、多層次協(xié)作的治理生態(tài)。其中，技術(shù)開發(fā)人員、運營維護人員等技術(shù)社群對于人工智能體的治理將起到至關(guān)重要的“吹哨人”作用。應(yīng)更好發(fā)揮技術(shù)社群的監(jiān)督優(yōu)勢，在人工智能企業(yè)內(nèi)部構(gòu)建有效的約束機制。還應(yīng)積極提高廣大用戶的數(shù)字素養(yǎng)，增強其依法、安全、負責(zé)任使用人工智能體的意識，實現(xiàn)與人工智能體的良性交互，推動形成向上向善的運行狀態(tài)。

（作者為對外經(jīng)濟貿(mào)易大學(xué)法學(xué)院教授）

（摘自11月4日《人民日報》）