技術(shù)演化與涌現(xiàn)風(fēng)險(xiǎn)：生成式人工智能的協(xié)同式敏捷治理體系研究

【摘要】生成式人工智能具有強(qiáng)大的學(xué)習(xí)能力和自適應(yīng)能力，以及自進(jìn)化等顯著特征，但同時(shí)也帶來了智能涌現(xiàn)風(fēng)險(xiǎn)。與傳統(tǒng)風(fēng)險(xiǎn)不同，涌現(xiàn)風(fēng)險(xiǎn)表現(xiàn)出一定的主體性，具備自主決策能力。由于AI能夠不斷自我演化，其潛在風(fēng)險(xiǎn)可能被掩蓋，尤其是在其黑箱式運(yùn)作機(jī)制下，可能產(chǎn)生認(rèn)知偏差甚至幻覺現(xiàn)象。這種現(xiàn)象不僅影響AI的可控性，還削弱了人機(jī)關(guān)系的可持續(xù)性。此外，AI的自適應(yīng)性使得風(fēng)險(xiǎn)呈現(xiàn)出動(dòng)態(tài)演化的特征。為應(yīng)對(duì)這一挑戰(zhàn)，需從技術(shù)底層進(jìn)行優(yōu)化，激發(fā)多方協(xié)同治理的潛力，并通過協(xié)同式的敏捷迭代治理模式，及時(shí)應(yīng)對(duì)復(fù)雜變化的風(fēng)險(xiǎn)。

【關(guān)鍵詞】技術(shù)演化 涌現(xiàn)風(fēng)險(xiǎn) AI治理 協(xié)同監(jiān)管 敏捷治理

【中圖分類號(hào)】G206 【文獻(xiàn)標(biāo)識(shí)碼】Ａ 【文章編號(hào)】1003-6687（2025）4-049-08

【DOI】10.13786/j.cnki.cn14-1066/g2.2025.4.007

2023年4月，來自斯坦福大學(xué)與谷歌的一個(gè)研究團(tuán)隊(duì)進(jìn)行了一項(xiàng)實(shí)驗(yàn)性研究，他們通過沙盒游戲模擬，利用計(jì)算機(jī)程序創(chuàng)建了一座名為“Smallville”的虛擬小鎮(zhèn)，并設(shè)定了25名角色，這些角色被接入生成式人工智能系統(tǒng)。研究者詳細(xì)設(shè)定了每個(gè)角色的身份信息、家庭背景、性格特征及鄰里關(guān)系。例如，角色John Lin擁有完整的個(gè)人信息與社會(huì)關(guān)系網(wǎng)。由于虛擬小鎮(zhèn)具有高度開放性，這些生成式人工智能驅(qū)動(dòng)的虛擬人能夠自主行動(dòng)，超越傳統(tǒng)游戲中的NPC（非玩家角色），不僅能進(jìn)行被動(dòng)對(duì)話，還能夠與其他角色自發(fā)互動(dòng)。即便原設(shè)定中互不認(rèn)識(shí)的AI角色，也可以因偶遇而逐漸建立友誼。研究結(jié)果表明，這些生成式人工智能驅(qū)動(dòng)的虛擬社群能夠展現(xiàn)出類人的自發(fā)性行為，研究者將其歸納為三類現(xiàn)象。第一，信息傳播的網(wǎng)絡(luò)效應(yīng)。這些虛擬人之間可以建立起信息擴(kuò)散網(wǎng)絡(luò)。例如，角色Sam在雜貨店與角色Tom交談時(shí)，告訴Tom其已經(jīng)具備了選舉資格。隨后，另一名虛擬角色John通過不同途徑得知了這一消息，最終這一信息逐漸傳遍整個(gè)小鎮(zhèn)，成為社群內(nèi)的熱門話題。第二，關(guān)系記憶。這些AI角色可以在互動(dòng)中逐漸形成新的社交關(guān)系，并保留相關(guān)記憶。例如，角色Sam最初不認(rèn)識(shí)Latoya，但通過與Johnson的互動(dòng)，Sam逐漸回憶起與Latoya相關(guān)的交集。第三，協(xié)調(diào)與自組織行為。這些虛擬角色能夠自發(fā)組織活動(dòng)并協(xié)調(diào)行為。例如，在情人節(jié)派對(duì)中，研究者僅設(shè)定了舉辦派對(duì)的初衷和兩個(gè)AI角色的暗戀情節(jié)，而這些虛擬人卻能夠自發(fā)地傳播派對(duì)消息、主動(dòng)組織相關(guān)角色在咖啡館進(jìn)行裝飾以及在派對(duì)中進(jìn)行頻繁互動(dòng)。[1]

根據(jù)這一實(shí)驗(yàn)，生成式人工智能展現(xiàn)出了一定的類人行為和自主“思維”能力，能夠自發(fā)進(jìn)行復(fù)雜的互動(dòng)與社交活動(dòng)。然而，這也引發(fā)了新的問題：是什么因素驅(qū)動(dòng)了這些生成式人工智能的自發(fā)行為？這些不可控的行為背后可能潛藏著什么樣的未知風(fēng)險(xiǎn)？在理解這些行為機(jī)制的基礎(chǔ)上，如何有效地防范與治理這些風(fēng)險(xiǎn)，成為亟待解決的重要課題。

一、從“他進(jìn)化”到“自進(jìn)化”：生成式人工智能技術(shù)導(dǎo)致風(fēng)險(xiǎn)的本質(zhì)

工業(yè)革命以來，技術(shù)成為驅(qū)動(dòng)經(jīng)濟(jì)發(fā)展的重要?jiǎng)恿?，了解技術(shù)從創(chuàng)新、誕生、發(fā)展到衰落的全生命周期也成為技術(shù)哲學(xué)史關(guān)注的重點(diǎn)話題，受啟于達(dá)爾文的進(jìn)化論，將技術(shù)視為進(jìn)化生物，成為一種研究假說，即技術(shù)進(jìn)化論。同生物進(jìn)化一樣，技術(shù)的進(jìn)化也歷經(jīng)內(nèi)外環(huán)境的競(jìng)爭(zhēng)與選擇。內(nèi)環(huán)境是指研發(fā)者、投資者等所構(gòu)筑的內(nèi)生環(huán)境，外環(huán)境則指更為廣闊的社會(huì)文化等因素。內(nèi)生環(huán)境更多發(fā)揮著技術(shù)促進(jìn)的作用，外生環(huán)境則對(duì)技術(shù)起到了篩選的作用?？梢?，技術(shù)的發(fā)展不僅由技術(shù)自身或者內(nèi)生力量所決定，還受到外部環(huán)境的制約，呈現(xiàn)出“他進(jìn)化”的特征。

倘若我們從微觀視角切入，可以發(fā)現(xiàn)生成式人工智能技術(shù)呈現(xiàn)出“自進(jìn)化”的特征，這一特性是其他技術(shù)所不具備的。技術(shù)哲學(xué)家恩斯特·卡普曾提出器官投影學(xué)說，認(rèn)為技術(shù)是人體器官的投影，是人體器官功能的強(qiáng)化與延伸。百年后，麥克盧漢也提出了“媒介即人的延伸”這一媒介隱喻。廣播可以被視為人聽力的延伸，電視可以被視為人視力的延伸，生成式人工智能則實(shí)現(xiàn)了人類腦力的延伸，這一延伸是記憶、邏輯、表達(dá)等多維能力的增強(qiáng)。然而，與其他類型器官的延伸不同，腦力的延伸要求人工智能具備某種程度的“自我”意識(shí)，這種意識(shí)的實(shí)現(xiàn)依賴于AI的學(xué)習(xí)能力和“自進(jìn)化”能力。

生成式人工智能的自我學(xué)習(xí)與進(jìn)化可劃分為多個(gè)相互關(guān)聯(lián)的關(guān)鍵階段。一是目標(biāo)設(shè)定階段，其中包括進(jìn)化能力與進(jìn)化方向兩大方面。例如，提升大模型的整體性能可以看作進(jìn)化的方向，而提高推理的準(zhǔn)確性與生成質(zhì)量則代表了其能力的進(jìn)化。二是經(jīng)驗(yàn)獲取階段，這一過程通常通過兩種主要方式實(shí)現(xiàn)。首先是基于任務(wù)導(dǎo)向的進(jìn)化，模型能夠自主選擇或生成任務(wù)，以此來提升其應(yīng)對(duì)復(fù)雜問題的能力。其次是基于解決方案的進(jìn)化，包含積極和消極兩種學(xué)習(xí)模式。積極學(xué)習(xí)側(cè)重通過提供理由、交互反饋、自我對(duì)弈等方式推動(dòng)模型進(jìn)步，消極學(xué)習(xí)則通過對(duì)比正確與錯(cuò)誤結(jié)果或添加擾動(dòng)來引導(dǎo)模型識(shí)別并修正其錯(cuò)誤。三是反思與反饋階段，這也是模型自我優(yōu)化的核心環(huán)節(jié)。類似于人類不斷在實(shí)踐中反思經(jīng)驗(yàn)來獲得成長(zhǎng)，模型依賴外部反饋和自生成反饋來評(píng)估其解決方案的有效性，通過這種反饋閉環(huán)，模型能夠確保其學(xué)習(xí)過程的有效性和穩(wěn)定性。四是能力（知識(shí)）更新階段，模型通過整合、總結(jié)經(jīng)驗(yàn)來優(yōu)化其知識(shí)體系。這個(gè)過程不僅是對(duì)現(xiàn)有知識(shí)的增強(qiáng)，更是對(duì)知識(shí)結(jié)構(gòu)的動(dòng)態(tài)拓展，進(jìn)一步提升其應(yīng)對(duì)復(fù)雜任務(wù)的能力。五是自我評(píng)估與優(yōu)化階段。模型通過多維度的評(píng)估手段，將其當(dāng)前的性能與既定目標(biāo)進(jìn)行對(duì)比和反思，基于評(píng)估結(jié)果，模型能夠調(diào)整學(xué)習(xí)策略、重新定義進(jìn)化目標(biāo)或優(yōu)化模型參數(shù)。人工智能自我學(xué)習(xí)與進(jìn)化流程見圖1。

通過這種循環(huán)性的動(dòng)態(tài)學(xué)習(xí)機(jī)制，生成式人工智能具備了自我成長(zhǎng)與自我發(fā)展的能力。然而，這種進(jìn)化能力既是開發(fā)者所期望的，又是開發(fā)者所擔(dān)憂的。開發(fā)者期望通過持續(xù)的反饋循環(huán)，顯著提升模型性能與智能水平。而超出預(yù)期的是，在模型微觀運(yùn)行過程中，可能會(huì)產(chǎn)生一些不可控的風(fēng)險(xiǎn)。生成式人工智能的進(jìn)化能力體現(xiàn)了自生性與他生性兩大特征。自生性指的是模型的自我進(jìn)化，這一過程往往伴隨著某種突變性風(fēng)險(xiǎn)，難以通過現(xiàn)有的理論和技術(shù)手段進(jìn)行全面預(yù)測(cè)或解釋。當(dāng)機(jī)器具備學(xué)習(xí)能力時(shí)，其自主進(jìn)化將引發(fā)哪些潛在風(fēng)險(xiǎn)，成為技術(shù)發(fā)展和治理中不可忽視的關(guān)鍵問題。

二、生成式人工智能技術(shù)演化下的涌現(xiàn)風(fēng)險(xiǎn)

斯萬·歐維·漢森認(rèn)為，盡管新技術(shù)的出現(xiàn)消除了原有的不確定性，但同時(shí)也創(chuàng)造出新的不確定性。[2]生成式人工智能的智能性就體現(xiàn)在其能夠快速靈活地應(yīng)對(duì)各種下游任務(wù)，且這些任務(wù)是其從來沒有訓(xùn)練過的，這種自我學(xué)習(xí)、自我進(jìn)化的能力成為監(jiān)管生成式人工智能的一大難點(diǎn)。

1. 超越線性演變：大模型的涌現(xiàn)特性

根據(jù)OpenAI總結(jié)的Scaling Law（拓展定律），隨著訓(xùn)練數(shù)據(jù)規(guī)模的擴(kuò)展，大模型的性能會(huì)顯著提升。數(shù)據(jù)規(guī)模與模型性能的關(guān)系并不是線性或指數(shù)型的規(guī)律性增長(zhǎng)，而是呈現(xiàn)出一種非線性趨勢(shì)：模型性能在特定階段表現(xiàn)平穩(wěn)，但當(dāng)數(shù)據(jù)量達(dá)到某個(gè)臨界值時(shí)，模型的表現(xiàn)會(huì)突然躍升，[3]出現(xiàn)“涌現(xiàn)現(xiàn)象”。這種涌現(xiàn)能力并非由生成式人工智能預(yù)先編程設(shè)定，而是通過隱式機(jī)制自然產(chǎn)生的。這種能力的不可預(yù)測(cè)性增加了模型運(yùn)行的潛在風(fēng)險(xiǎn)，使得基礎(chǔ)模型在能力和風(fēng)險(xiǎn)上都具備高度的不確定性，往往會(huì)自發(fā)展現(xiàn)出新的、不可預(yù)測(cè)的特性或行為，其典型特征包括自適應(yīng)性、持續(xù)創(chuàng)新性和系統(tǒng)復(fù)雜性。

在物理世界中，不能認(rèn)為理解了微觀原子世界的規(guī)律，就能自然而然地理解由原子組成的大腦、世界等宏觀復(fù)雜系統(tǒng)。同樣，我們能夠理解生成式人工智能各個(gè)子系統(tǒng)機(jī)制的大致作用，但龐大系統(tǒng)內(nèi)各要素之間的交互效應(yīng)，加大了認(rèn)知其運(yùn)作機(jī)制的難度，也就是整體能夠展現(xiàn)出個(gè)體所不具備的特性。換言之，涌現(xiàn)是指系統(tǒng)中量的變化導(dǎo)致行為發(fā)生質(zhì)的變化，[4]涌現(xiàn)風(fēng)險(xiǎn)更多是由關(guān)系導(dǎo)致而非要素造成。值得注意的是，這并不意味著生成式人工智能具有真正的主體性或自我意識(shí)。某些觀點(diǎn)將這些智能涌現(xiàn)視為AI逐漸具備人格化特征，事實(shí)上這只是對(duì)復(fù)雜系統(tǒng)的功能性產(chǎn)生的誤解。這種涌現(xiàn)并非AI自我意識(shí)的覺醒，而是其在不斷優(yōu)化和自我學(xué)習(xí)過程中產(chǎn)生的功能性表現(xiàn)，仍處于可控范圍內(nèi)。

2. 涌現(xiàn)風(fēng)險(xiǎn)不同于傳統(tǒng)風(fēng)險(xiǎn)的獨(dú)特特征

在信息科學(xué)研究領(lǐng)域中，一個(gè)系統(tǒng)的復(fù)雜性可以通過描述該系統(tǒng)所需的最短信息量來定義，如果描述一個(gè)系統(tǒng)需要大量的信息（即需要很長(zhǎng)的描述），那么這個(gè)系統(tǒng)就被認(rèn)為是復(fù)雜的。[5]例如，一個(gè)簡(jiǎn)單的鐘擺系統(tǒng)可以用簡(jiǎn)單的數(shù)學(xué)公式準(zhǔn)確描述，而天氣系統(tǒng)則由于其內(nèi)在的復(fù)雜性和不確定性，需要龐大的數(shù)據(jù)集和復(fù)雜的模型來模擬其動(dòng)態(tài)變化。在生成式人工智能的應(yīng)用中，由于其依賴海量數(shù)據(jù)輸入及多層次算法協(xié)同工作，這種高度復(fù)雜的系統(tǒng)更易于產(chǎn)生不可預(yù)測(cè)的行為和意想不到的涌現(xiàn)現(xiàn)象。[6]這種類型的涌現(xiàn)風(fēng)險(xiǎn)表現(xiàn)出五大特征（見圖 2）。

（1）主體性危機(jī)：智能體的自主決策與潛在威脅。在以ChatGPT為代表的生成式人工智能誕生前，主體性是人類所特有的，但生成式人工智能技術(shù)的突飛猛進(jìn)，使人們逐漸意識(shí)到主體人與智能人之間將會(huì)出現(xiàn)錯(cuò)位的關(guān)系，[7]不過人工智能總體而言仍是以與人交互的邏輯為特征，具備擬主動(dòng)性，是對(duì)人類思維的模擬。但是與人類的思維模式誕生不同，人工智能的思維邏輯誕生模式更多是涌現(xiàn)出來的，這種風(fēng)險(xiǎn)的產(chǎn)生難以估計(jì)與預(yù)測(cè)。

OpenAI提出了通用人工智能的五級(jí)路線，從L1至L5分別是聊天型機(jī)器人、有更強(qiáng)推理能力的“思維者”、兼具思考與行動(dòng)能力的智能體、具有類人創(chuàng)新思維的創(chuàng)新者、具有一定領(lǐng)導(dǎo)能力的組織者。智能體又稱AI代理，是一種具備一定自主性、環(huán)境交互能力和目標(biāo)導(dǎo)向的計(jì)算機(jī)程序，可以在不同場(chǎng)景替代人類完成特定任務(wù)。其具有以下特點(diǎn)：一是自主決策的能力，能夠根據(jù)目標(biāo)獨(dú)立采取行動(dòng)；二是與外部系統(tǒng)進(jìn)行互動(dòng)的能力，例如Copilot能夠與大模型外的系統(tǒng)進(jìn)行互動(dòng)，實(shí)現(xiàn)“獲取任務(wù)—理解思考—網(wǎng)絡(luò)檢索—學(xué)習(xí)反饋—輸出成果”；三是無限期運(yùn)行的能力。實(shí)際上，在沒有外力影響的情況下，兩個(gè)生成式人工智能可以實(shí)現(xiàn)無限的對(duì)話，同樣，智能體通過自我進(jìn)化，可以以無監(jiān)督學(xué)習(xí)的方式實(shí)現(xiàn)自我能力的拓展。具備自主決策的智能體可以通過與環(huán)境交互對(duì)物理世界施加影響，一旦失控將給人類社會(huì)帶來極大威脅。目前，不少生成式人工智能模型都宣稱通過了圖靈測(cè)試，如此一來，智能體可以引誘不知情的人在真實(shí)世界中執(zhí)行人工智能的“意志”，導(dǎo)致在現(xiàn)實(shí)世界中行動(dòng)的AI常規(guī)化，導(dǎo)致敲詐、詐騙等事件的發(fā)生。此外，具備自進(jìn)化能力的智能體將會(huì)變得“狡猾”，可識(shí)別人類用于規(guī)避危險(xiǎn)算法的測(cè)試系統(tǒng)。

（2）延遲性隱患：技術(shù)風(fēng)險(xiǎn)的延遲爆發(fā)。劉易斯曾言：技術(shù)的風(fēng)險(xiǎn)是真實(shí)存在的，潛伏時(shí)風(fēng)險(xiǎn)很小，但在未來將會(huì)造成大問題。[8]涌現(xiàn)風(fēng)險(xiǎn)的一大特質(zhì)是其延遲性。生成式人工智能導(dǎo)致的風(fēng)險(xiǎn)主要集中在四個(gè)領(lǐng)域：數(shù)據(jù)風(fēng)險(xiǎn)，主要表現(xiàn)為訓(xùn)練數(shù)據(jù)中作品使用合法性的問題；算法風(fēng)險(xiǎn)，如人工智能生成的內(nèi)容呈現(xiàn)出種族歧視的特征；內(nèi)容風(fēng)險(xiǎn)，主要表現(xiàn)為虛假風(fēng)險(xiǎn)、深度偽造風(fēng)險(xiǎn)等；認(rèn)知風(fēng)險(xiǎn)，即生成式人工智能廣泛應(yīng)用后對(duì)人類和社會(huì)發(fā)展產(chǎn)生的短期風(fēng)險(xiǎn)或深遠(yuǎn)影響，主要表現(xiàn)為政治操控、網(wǎng)絡(luò)詐騙等。這些風(fēng)險(xiǎn)往往都是顯性風(fēng)險(xiǎn)，而涌現(xiàn)風(fēng)險(xiǎn)卻存在隱性風(fēng)險(xiǎn)的特征，由于其風(fēng)險(xiǎn)的涌現(xiàn)是訓(xùn)練數(shù)據(jù)或者復(fù)雜系統(tǒng)運(yùn)作達(dá)到未知節(jié)點(diǎn)時(shí)發(fā)生的，因此很難確定風(fēng)險(xiǎn)會(huì)在何時(shí)爆發(fā)。

數(shù)據(jù)對(duì)于生成式人工智能訓(xùn)練的重要性毋庸置疑，然而當(dāng)前許多大模型的訓(xùn)練依賴從互聯(lián)網(wǎng)中抓取的數(shù)據(jù)，如果一個(gè)模型訓(xùn)練的數(shù)據(jù)大部分來自前代模型生成的文本，那么伴隨著其不斷迭代，模型的性能將會(huì)持續(xù)下降。這樣的反饋循環(huán)，會(huì)導(dǎo)致人工智能最后的輸出結(jié)果偏離現(xiàn)實(shí)，在早期的“模型崩潰”（模型自我“蠶食”的行為）中，模型會(huì)逐漸丟失分布在尾部的信息，即“吃掉自己的尾巴”，這一現(xiàn)象在前期可能影響不大，但存在潛在的風(fēng)險(xiǎn)。伴隨生成式人工智能在各個(gè)領(lǐng)域的應(yīng)用，這種潛在的風(fēng)險(xiǎn)將會(huì)大幅降低AI應(yīng)用的魯棒性，許多AI系統(tǒng)在部署初期表現(xiàn)良好，但隨著時(shí)間推移，它們逐漸暴露出對(duì)特定場(chǎng)景的不適應(yīng)性，進(jìn)而影響整體性能。

（3）黑箱式風(fēng)險(xiǎn)：低透明度的算法導(dǎo)致人工智能幻覺。人工智能的基礎(chǔ)是算法，算法的本質(zhì)是人機(jī)對(duì)話的指令，告訴計(jì)算機(jī)應(yīng)該做什么、不能做什么，[9]而這種不公開、不透明的算法即黑箱，[10]但是導(dǎo)致算法黑箱是主客觀因素共同作用的結(jié)果。一方面，如前所述，生成式人工智能作為一個(gè)復(fù)雜適應(yīng)性系統(tǒng)，其內(nèi)部結(jié)構(gòu)和參數(shù)非常復(fù)雜，很難通過簡(jiǎn)單的分析來拆解其決策過程；另一方面，算法是一套程序，任何要素內(nèi)容都可以被隱藏起來。算法一般分為開源和閉源兩種，開源算法是公開的，開源大模型如DeepSeek模型等。為了保護(hù)知識(shí)產(chǎn)權(quán)，還有一種閉源算法，如OpenAI的GPT系列等。但不開源也并不意味著公司的開發(fā)者完全了解算法的具體運(yùn)作模式，這就導(dǎo)致了生成式人工智能大模型的低透明度。

低透明度的算法運(yùn)行常常導(dǎo)致人工智能幻覺，即虛假現(xiàn)象的出現(xiàn)。大型語言模型具備自適應(yīng)性，模型會(huì)根據(jù)環(huán)境和輸入數(shù)據(jù)進(jìn)行調(diào)整和優(yōu)化，可能導(dǎo)致不當(dāng)或誤導(dǎo)性輸出。盡管人工智能技術(shù)可以更有效地收集信息和提取知識(shí)，但由于大型語言模型依賴大量數(shù)據(jù)訓(xùn)練，運(yùn)行復(fù)雜，具備高度非線性關(guān)系和自適應(yīng)能力，往往難以理解或解釋其內(nèi)部運(yùn)行機(jī)制。生成式人工智能生成的內(nèi)容常常令人難以追溯其具體來源，無法確定其是源自權(quán)威書籍還是自媒體編造的虛假內(nèi)容。[11]AIGC生成的答案有時(shí)難以解釋，是因?yàn)槠渫谏蛇^程中創(chuàng)造出一種新事物。例如，生成式人工智能會(huì)將多種信息混合并錯(cuò)誤整合，在回答問題時(shí)將多本書的內(nèi)容合并在一起，輸出錯(cuò)誤信息，從而造成答案與原始參考信息脫節(jié)的情況。[12]

（4）不信任關(guān)系：人機(jī)關(guān)系之間的不可持續(xù)性。生成式人工智能的一大價(jià)值在于推動(dòng)人機(jī)交互走向新階段，人類可以用自然語言的方式與智能體進(jìn)行互動(dòng)，極大地降低了智能體的使用門檻。因此，諸多學(xué)者提出了生成式人工智能作為智能體在各行業(yè)中的應(yīng)用，如在傳媒領(lǐng)域，生成式人工智能可以生成新聞、審核信息，甚至成為新一代連接互聯(lián)網(wǎng)的智能平臺(tái)。誠(chéng)然，隨著技術(shù)的進(jìn)步，這些想象正在或?qū)?huì)成為現(xiàn)實(shí)，但這一暢想的前置條件是人機(jī)交互有充分的信任基礎(chǔ)。

目前的實(shí)踐證明，生成式人工智能視域下的人機(jī)交互往往缺乏信任。一方面，由于數(shù)據(jù)的不透明性，利用生成式人工智能進(jìn)行檢索和生成信息仍不被完全認(rèn)可，只是承認(rèn)了這一行為帶來的極大便利性；另一方面，生成式人工智能往往缺乏責(zé)任“意識(shí)”，常常以“我不想聊這個(gè)話題”或者“很抱歉，我不能再就這個(gè)話題進(jìn)行交談”為借口，以一種平庸和冷漠的態(tài)度進(jìn)行回避，拒絕在任何事情上表達(dá)立場(chǎng)，最終僅以服從命令為辯護(hù)，將責(zé)任推給開發(fā)者，[13]并且不給人們進(jìn)行辯駁和解釋的機(jī)會(huì)，使人們被迫點(diǎn)擊新的對(duì)話內(nèi)容。人工智能這種冷漠的逃避態(tài)度極大地打破了人機(jī)合作的前景。[12]

（5）適應(yīng)性危害：生成式人工智能風(fēng)險(xiǎn)的動(dòng)態(tài)演化。衍生自仿生學(xué)的人工智能神經(jīng)網(wǎng)絡(luò)，對(duì)人類神經(jīng)元進(jìn)行了模仿。就個(gè)體而言，人腦中的每一個(gè)神經(jīng)元并不具備智能特性，但是當(dāng)數(shù)十億的神經(jīng)元通過錯(cuò)綜復(fù)雜的網(wǎng)絡(luò)聯(lián)結(jié)起來后，智能就顯現(xiàn)出來了。這種涌現(xiàn)機(jī)制是生成式人工智能的核心能力之一，然而，這一特性用傳統(tǒng)的科學(xué)研究方法難以完全解析，這構(gòu)成了人工智能領(lǐng)域的一個(gè)重要挑戰(zhàn)。生成式人工智能可被視為復(fù)雜適應(yīng)系統(tǒng)的一種形式，即能夠自我調(diào)節(jié)并不斷學(xué)習(xí)的系統(tǒng)。其在與外部世界交互的過程中，能夠捕捉到信息傳遞的模式，并形成相應(yīng)的行為策略。因此，大模型在與外部互動(dòng)時(shí)所展示出的功能范圍具有不確定性。這就意味著，雖然模型可以在某些特定的任務(wù)中表現(xiàn)出色，但我們卻不能精確預(yù)知其在所有可能的后續(xù)任務(wù)中的具體表現(xiàn)，這加大了理解和控制模型行為的復(fù)雜度。

生成式人工智能在復(fù)雜、多變的應(yīng)用環(huán)境中，能夠根據(jù)不同場(chǎng)景中的輸入和反饋進(jìn)行動(dòng)態(tài)調(diào)整與優(yōu)化。其風(fēng)險(xiǎn)特征不再局限于靜態(tài)或單一維度，而是展現(xiàn)出高度的適應(yīng)性和自組織能力。這種適應(yīng)性增強(qiáng)了系統(tǒng)應(yīng)對(duì)外部變化的能力，但同時(shí)也增加了對(duì)潛在風(fēng)險(xiǎn)的不可預(yù)見性。例如，生成式人工智能在面對(duì)不同的數(shù)據(jù)集和任務(wù)需求時(shí)，可能會(huì)通過不斷更新算法和模型來優(yōu)化其輸出，但這種自我優(yōu)化的過程也可能帶來不可預(yù)見的副作用，如數(shù)據(jù)隱私泄露、信息操縱等。且隨著技術(shù)的不斷進(jìn)化，生成式人工智能可能會(huì)超出原有設(shè)計(jì)的邊界，帶來系統(tǒng)性的風(fēng)險(xiǎn)積累和難以預(yù)測(cè)的突變。由此可見，生成式人工智能的風(fēng)險(xiǎn)具有多層次、動(dòng)態(tài)且交織的特點(diǎn)，傳統(tǒng)的風(fēng)險(xiǎn)管理框架可能難以完全應(yīng)對(duì)，需要構(gòu)建更加靈活、協(xié)同且具有前瞻性的治理體系。

三、治理路徑：協(xié)同式的敏捷治理體系

生成式人工智能自進(jìn)化的技術(shù)導(dǎo)致風(fēng)險(xiǎn)傳播的涌現(xiàn)特性和自適應(yīng)特性，而傳統(tǒng)的治理手段不能很好地應(yīng)對(duì)和解決這些問題，因此需要重新優(yōu)化策略，利用技術(shù)手段的更新持續(xù)優(yōu)化大語言模型的表現(xiàn)，釋放多元主體的活力實(shí)現(xiàn)協(xié)同式治理，融入敏捷治理的理念，不斷更新治理方式。

1. 以技術(shù)手段做好事前防范

由于涌現(xiàn)風(fēng)險(xiǎn)多是技術(shù)原因所致，因此在進(jìn)行針對(duì)性治理前，需要通過技術(shù)手段進(jìn)行提前防范，以平衡好技術(shù)發(fā)展與風(fēng)險(xiǎn)管控兩者的關(guān)系。

（1）再思仿生學(xué)：生成式人工智能的優(yōu)化路徑。人工神經(jīng)網(wǎng)絡(luò)的出現(xiàn)對(duì)于生成式人工智能的發(fā)展具有革命性的意義，人工神經(jīng)網(wǎng)絡(luò)是對(duì)人類大腦的模仿，對(duì)于人工智能的優(yōu)化與治理也應(yīng)當(dāng)從大腦的優(yōu)化機(jī)制中汲取經(jīng)驗(yàn)。一是生物神經(jīng)網(wǎng)絡(luò)具有自我“修剪”的特性，生物大腦在成長(zhǎng)過程中會(huì)對(duì)冗余的神經(jīng)連接進(jìn)行“修剪”，從而讓大腦的運(yùn)作更為高效。這一過程對(duì)于人工智能系統(tǒng)同樣適用，通過優(yōu)化其內(nèi)部結(jié)構(gòu)，簡(jiǎn)化模型路徑，減少不必要的計(jì)算，人工智能不僅可以實(shí)現(xiàn)計(jì)算效率的提升，還能在面對(duì)復(fù)雜任務(wù)時(shí)更加靈活和高效。同時(shí)，一個(gè)更為高效和靈活的系統(tǒng)，意味著它很少會(huì)陷入難以自控的困境。二是從分區(qū)到協(xié)作，功能分配與信息優(yōu)化進(jìn)行融合。在人類大腦中，各個(gè)區(qū)域都有其專屬的功能，如視覺、聽覺、運(yùn)動(dòng)控制等，這些區(qū)域不僅各自高效運(yùn)作，還通過復(fù)雜的網(wǎng)絡(luò)實(shí)現(xiàn)協(xié)作，這種高效的信息處理模式是我們需要在人工智能治理中認(rèn)真借鑒的。與此類似，在生成式人工智能的訓(xùn)練中，分工明確、功能專一的模塊化設(shè)計(jì)能夠減少系統(tǒng)內(nèi)部的沖突與混亂，使得不同的子系統(tǒng)能夠?qū)Ｗ⒂诟髯缘娜蝿?wù)。但僅有分區(qū)還不夠，這些模塊之間的協(xié)作同樣重要，就像螞蟻利用信息素傳遞信息一樣，人工智能系統(tǒng)也需要一種高效的信息篩選與傳遞機(jī)制。這種機(jī)制可以幫助人工智能在海量數(shù)據(jù)中快速鎖定關(guān)鍵路徑，避免冗余信息的干擾，從而加速模型的訓(xùn)練與優(yōu)化。在功能分區(qū)的基礎(chǔ)上，通過引入類似信息素的標(biāo)記機(jī)制，人工智能可以在模塊間建立更為高效的通信系統(tǒng)，從而實(shí)現(xiàn)整個(gè)系統(tǒng)的協(xié)同進(jìn)化。

（2）風(fēng)險(xiǎn)預(yù)警機(jī)制：大模型內(nèi)嵌評(píng)估程序。自主進(jìn)化的AI模型存在著較大的潛在風(fēng)險(xiǎn)。若模型能夠自主修改其權(quán)重和框架，不僅會(huì)使模型的可解釋性變得無從談起，還可能導(dǎo)致人類無法預(yù)料和控制模型的輸出結(jié)果。這種自主進(jìn)化的AI如果不受控制，可能會(huì)不斷生成有害內(nèi)容。因此，對(duì)生成式人工智能的迭代過程進(jìn)行風(fēng)險(xiǎn)評(píng)估可以有效降低風(fēng)險(xiǎn)發(fā)生的概率。例如微軟和斯坦福推出了STOP（Self-Taught Optimizer）新型算法，這一算法的核心思想是，它不改變模型的權(quán)重或框架，而是通過遞歸式自我優(yōu)化，提高完成目標(biāo)任務(wù)的能力。這個(gè)過程從一個(gè)簡(jiǎn)單的種子程序開始，通過語言模型進(jìn)行代碼優(yōu)化，然后反復(fù)改進(jìn)每次迭代后的版本，最終提升模型的輸出質(zhì)量。這一迭代過程中增加了風(fēng)險(xiǎn)衡量程序，以優(yōu)化迭代后的人工智能模型在下游任務(wù)中的表現(xiàn)。[14]

2. 以多元的主體實(shí)現(xiàn)協(xié)同治理

協(xié)同治理的誕生有其必然性，其存在將去中心化的治理等同于無中心化的誤區(qū)，實(shí)際上，多元主體協(xié)同治理的本質(zhì)在于激發(fā)社會(huì)組織、研發(fā)企業(yè)和公眾的參與感與責(zé)任意識(shí)，更好地實(shí)現(xiàn)風(fēng)險(xiǎn)管理。

（1）協(xié)同化治理的必然性。協(xié)同治理理念是社會(huì)實(shí)踐發(fā)展的必然產(chǎn)物，是對(duì)數(shù)字空間治理主體層級(jí)結(jié)構(gòu)平等化發(fā)展趨勢(shì)的響應(yīng)。協(xié)同治理強(qiáng)調(diào)風(fēng)險(xiǎn)共擔(dān)、責(zé)任共擔(dān)，在緊密互動(dòng)中聯(lián)結(jié)形成具有內(nèi)聯(lián)系的運(yùn)行系統(tǒng)。[15]面對(duì)技術(shù)性較強(qiáng)的人工智能，需要采用協(xié)同式治理的方式，使不同類型的組織和個(gè)人活躍起來，替代原先僅依靠單一主體的治理范式。不過，其普遍存在著對(duì)去中心化片面理解的誤區(qū)，如果一味追求從金字塔型的管理體系邁向扁平化的治理結(jié)構(gòu)也極不現(xiàn)實(shí)，盡管企業(yè)憑借技術(shù)優(yōu)勢(shì)獲得了對(duì)生成式人工智能的直接管理，但是其風(fēng)險(xiǎn)卻擴(kuò)散至數(shù)字社會(huì)、現(xiàn)實(shí)世界與人類社會(huì)的三維空間中，需要由公共權(quán)力的執(zhí)行者即政府或公認(rèn)的社會(huì)契約即法律進(jìn)行引導(dǎo)與治理。因此，政府在監(jiān)管時(shí)、法律在約束時(shí)，就有了一個(gè)前置原則，即調(diào)動(dòng)各社會(huì)組織和公民的主體性，對(duì)不同主體擁有的資源進(jìn)行充分利用，同時(shí)在多樣化的價(jià)值取向和利益訴求之中尋找最大公約數(shù)。多元主體的協(xié)同治理并非意味著絕對(duì)無中心，而是應(yīng)當(dāng)提升多元主體的話語權(quán)，激發(fā)他們行使權(quán)力的欲望。

（2）協(xié)同化治理的具體路徑。從政府角度來看，需要秉持開放、包容和共享的治理理念。以開放包容的態(tài)度認(rèn)識(shí)治理主體多元化的特征，不能遏制多元化的發(fā)展方向，要在統(tǒng)一的領(lǐng)導(dǎo)下，對(duì)社會(huì)各個(gè)組織等其他主體參與治理給予肯定，做好頂層設(shè)計(jì)，協(xié)調(diào)好不同主體間的利益關(guān)系，健全多元主體參與治理的合力機(jī)制，逐步改善自上而下的單中心管理模式，強(qiáng)化信任合作機(jī)制，構(gòu)建角色層次化的治理格局，形成“領(lǐng)導(dǎo)主體—主導(dǎo)主體—參與主體”三層動(dòng)態(tài)互動(dòng)治理結(jié)構(gòu)。從技術(shù)研發(fā)企業(yè)主體來看，應(yīng)當(dāng)從內(nèi)部的管理機(jī)制入手，強(qiáng)化生成式人工智能的風(fēng)險(xiǎn)管理，降低風(fēng)險(xiǎn)出現(xiàn)的概率。以O(shè)penAI公司為例，在ChatGPT的研發(fā)過程中，其設(shè)立了董事會(huì)級(jí)別的審查流程，成立了專門的安全委員會(huì)進(jìn)行評(píng)估，通過不斷的壓力測(cè)試，來預(yù)測(cè)ChatGPT可能會(huì)出現(xiàn)的各種問題，在產(chǎn)品上線前盡可能將風(fēng)險(xiǎn)發(fā)生的概率降到最低。

3. 以敏捷價(jià)值提升治理機(jī)制的韌性與靈活性

由于涌現(xiàn)風(fēng)險(xiǎn)是概率事件，難以做到全方位的嚴(yán)格監(jiān)管，因此，應(yīng)當(dāng)將敏捷治理融入治理體系中，以迭代的方式完善管理的體制機(jī)制。

（1）敏捷治理的必然性。生成式人工智能治理存在多方面的不確定性，這些不確定性主要體現(xiàn)在治理目標(biāo)、治理方式、治理效果以及治理責(zé)任等方面。首先，治理目標(biāo)的不確定性表現(xiàn)在多個(gè)利益攸關(guān)方可能有不同的優(yōu)先級(jí)和目標(biāo)，如企業(yè)更加注重技術(shù)創(chuàng)新、政府更加注重安全風(fēng)險(xiǎn)防治、用戶個(gè)人更加注重隱私保護(hù)，這些目標(biāo)之間可能存在沖突。其次，技術(shù)是不斷發(fā)展變化的，治理目標(biāo)也需要不斷地調(diào)整和完善。技術(shù)發(fā)展的速度往往快于政策制定的速度，導(dǎo)致治理方式跟不上技術(shù)變革的步伐，從而產(chǎn)生技術(shù)和政策脫節(jié)的問題。即使制定了相應(yīng)的規(guī)則，執(zhí)行起來也可能面臨技術(shù)上的挑戰(zhàn)。再次，治理效果缺乏評(píng)價(jià)標(biāo)準(zhǔn)。治理效果往往具備滯后性，呈現(xiàn)出長(zhǎng)期影響與短期影響的分層，短期效果好的，長(zhǎng)遠(yuǎn)來看未必好，缺乏評(píng)估體系的治理體系可能會(huì)帶來意想不到的副作用。

（2）敏捷理念融入治理的基本原則。針對(duì)以上問題，有學(xué)者提出應(yīng)將敏捷治理融入傳統(tǒng)治理手段。敏捷治理來源于軟件開發(fā)的敏捷研發(fā)理念，其重點(diǎn)在于靈活性和自適應(yīng)規(guī)劃，以持續(xù)不斷地改進(jìn)軟件開發(fā)的質(zhì)量，并對(duì)出現(xiàn)的問題進(jìn)行多頻次迭代式的應(yīng)對(duì)。同樣，針對(duì)技術(shù)含量較高的生成式人工智能治理難題，敏捷治理無疑是一種原生式的應(yīng)對(duì)方式，能夠有效應(yīng)對(duì)技術(shù)演進(jìn)中的不確定性，避免傳統(tǒng)剛性的治理方式對(duì)產(chǎn)業(yè)發(fā)展造成阻礙。

敏捷治理表現(xiàn)出三大特點(diǎn)。首先，敏捷治理強(qiáng)調(diào)風(fēng)險(xiǎn)管控與創(chuàng)新激勵(lì)的雙重平衡。一方面，需要預(yù)判并有效防控重大風(fēng)險(xiǎn)，確?？萍歼M(jìn)步不會(huì)引發(fā)安全隱患；另一方面，必須促進(jìn)技術(shù)應(yīng)用，保障科技創(chuàng)新的持續(xù)性。其次，敏捷治理具有高度的靈活性。針對(duì)不同行業(yè)和技術(shù)領(lǐng)域的特殊性，實(shí)施分層分級(jí)管理，靈活調(diào)整治理策略，以適應(yīng)動(dòng)態(tài)技術(shù)發(fā)展的需求。最后，敏捷治理強(qiáng)調(diào)快速迭代，通過構(gòu)建持續(xù)交流、動(dòng)態(tài)監(jiān)測(cè)、即時(shí)反饋的閉環(huán)治理機(jī)制，確保對(duì)治理過程中的問題能夠及時(shí)響應(yīng)，推動(dòng)技術(shù)治理的持續(xù)優(yōu)化。

（3）生成式人工智能的敏捷治理模型。遵循敏捷開發(fā)需求梳理—迭代開發(fā)的基本模式，價(jià)值、組織、執(zhí)行和迭代為協(xié)同式敏捷治理的四大基本要素。協(xié)同式敏捷管理模型的基本流程應(yīng)當(dāng)是：敏捷價(jià)值觀在協(xié)同共生主體中構(gòu)建—協(xié)同多元主體組織提升敏捷性—治理機(jī)制的敏捷執(zhí)行—下一階段迭代改進(jìn)（見圖 3）。

其一，敏捷價(jià)值。尼科洛·馬基雅維利在《君主論》中指出：沒有比引領(lǐng)新事物的新秩序更難把握、更冒險(xiǎn)和更不確定的了。傳統(tǒng)治理方式延續(xù)著以往的關(guān)系，按照已有的方式進(jìn)行決策、執(zhí)行，而敏捷價(jià)值觀則秉持靈活的、適應(yīng)性的價(jià)值觀念。一是構(gòu)建韌性的價(jià)值網(wǎng)絡(luò)。敏捷治理依托共同的價(jià)值觀，鼓勵(lì)多元主體共同發(fā)力，實(shí)現(xiàn)治理目標(biāo)。對(duì)稱的利益機(jī)制能夠激活各方參與意愿，通過構(gòu)建一致的愿景，使各主體在使命感的驅(qū)動(dòng)下，共同推動(dòng)生成式人工智能的健康發(fā)展。在這一框架下，應(yīng)建立具備強(qiáng)鏈接與靈活性的價(jià)值網(wǎng)絡(luò)，確保在戰(zhàn)略目標(biāo)上達(dá)成共識(shí)和協(xié)作。敏捷治理需要領(lǐng)導(dǎo)者，但其關(guān)注點(diǎn)不在個(gè)人，而在于激發(fā)集體力量，正如約翰·麥克斯韋爾所言，領(lǐng)導(dǎo)力是一個(gè)生命影響另一個(gè)生命的過程。二是全周期風(fēng)險(xiǎn)的快速響應(yīng)。針對(duì)生成式人工智能風(fēng)險(xiǎn)擴(kuò)散快、迭代周期短的特點(diǎn)，敏捷治理要求建立迅速且精準(zhǔn)的應(yīng)對(duì)機(jī)制。傳統(tǒng)的后置性技術(shù)服務(wù)和補(bǔ)救措施難以覆蓋全周期治理需求。因此，敏捷治理需在不同風(fēng)險(xiǎn)階段強(qiáng)調(diào)相應(yīng)主體的責(zé)任和治理手段，實(shí)現(xiàn)靈活、迅速地全周期響應(yīng)。三是容錯(cuò)思維。現(xiàn)有的行政體系對(duì)不確定后果的容忍度較低，敏捷治理倡導(dǎo)的容錯(cuò)機(jī)制能夠緩解這種剛性沖突。具體來說，以容錯(cuò)機(jī)制為引領(lǐng)，對(duì)因不確定性導(dǎo)致的結(jié)果采取寬容態(tài)度，避免“零容忍”思維。拓展容錯(cuò)空間，《生成式人工智能服務(wù)管理暫行辦法》雖已引入包容性監(jiān)管原則，但尚缺明確的容錯(cuò)情形與條件，應(yīng)基于技術(shù)與行為的雙層容錯(cuò)體系，[16]對(duì)尚未明確的技術(shù)發(fā)展空間給予適度包容，在行為容錯(cuò)上，應(yīng)區(qū)分規(guī)則外的試探性行為與規(guī)則內(nèi)的盡責(zé)行為，提升治理彈性。

其二，敏捷組織。有了敏捷價(jià)值的引導(dǎo)，治理組織的敏捷性可得到相應(yīng)的改善。一是“活”組織保持信息鏈接的無限性，強(qiáng)化組織與環(huán)境的融入性。治理體系中的組織對(duì)生成式人工智能的治理，既深受環(huán)境的影響，也會(huì)影響環(huán)境。組織在與外界互動(dòng)交換的過程中保持著“活”的架構(gòu)，治理組織合理存在的前提在于充分開放，與外界保持溝通，因此組織的成員、信息來源、技術(shù)手段、規(guī)章制度等都必須與環(huán)境相適應(yīng)。二是敏捷治理倡導(dǎo)從傳統(tǒng)的穩(wěn)定、垂直的治理模式轉(zhuǎn)向開放、互動(dòng)的協(xié)同機(jī)制。正如風(fēng)險(xiǎn)管理學(xué)學(xué)者納西姆·尼古拉斯·塔勒布所言：“當(dāng)你尋求秩序，你得到的不過是表面的秩序，而當(dāng)你擁抱隨機(jī)性，你卻能把握秩序，掌控局面?！盵17]敏捷治理視混沌為一種過渡狀態(tài)，將發(fā)展看作在穩(wěn)定與不確定之間的動(dòng)態(tài)躍遷過程，善于從變化中挖掘新機(jī)會(huì)。三是自組織與自我進(jìn)化效能。在技術(shù)進(jìn)化趨勢(shì)下，治理組織應(yīng)具備自組織能力，通過系統(tǒng)內(nèi)部的自發(fā)調(diào)整實(shí)現(xiàn)有序。自組織強(qiáng)調(diào)“發(fā)展并非盲目”，即遵循某種內(nèi)在力量自發(fā)進(jìn)化形成有序結(jié)構(gòu)。這一結(jié)構(gòu)并非預(yù)設(shè)，而是隨著環(huán)境的變化自我調(diào)節(jié)，最終增強(qiáng)組織整體進(jìn)化效能。

其三，敏捷執(zhí)行。敏捷治理的重點(diǎn)體現(xiàn)在敏捷執(zhí)行上，這也是其區(qū)別于傳統(tǒng)治理方式的重要內(nèi)容。一是在治理過程中，敏捷治理強(qiáng)調(diào)“過程快、力度輕”。區(qū)別于傳統(tǒng)監(jiān)管模式所表現(xiàn)出來的“過程慢、力度大”特征，敏捷治理強(qiáng)調(diào)治理過程和監(jiān)管工具的選擇，以引導(dǎo)而非懲罰為主，將嚴(yán)厲的法律責(zé)任作為治理工具失效后的最終選擇，使得科技企業(yè)能夠快速感知政策方向并及時(shí)作出調(diào)整，避免直接動(dòng)用嚴(yán)厲的法律手段增加企業(yè)成本。[18]二是責(zé)任先行。生成式人工智能帶來的問題多源于技術(shù)本身，因此技術(shù)治理是關(guān)鍵。英國(guó)法學(xué)家布朗斯沃德曾指出，技術(shù)解決方案比事后糾正行為更具效力。[19]在技術(shù)發(fā)展快于法律更新的背景下，技術(shù)手段成為化解風(fēng)險(xiǎn)的重要方法，要求企業(yè)自我約束并提升治理能力。如OpenAI作為生成式人工智能的代表性企業(yè)，降低ChatGPT產(chǎn)品的風(fēng)險(xiǎn)不僅是商業(yè)利益的驅(qū)動(dòng)，更是其作為領(lǐng)先企業(yè)的使命所在。三是以“軟法”補(bǔ)充“硬法”。人工智能風(fēng)險(xiǎn)產(chǎn)生機(jī)制的復(fù)雜性決定了治理工具需具備靈活性。傳統(tǒng)“硬法”難以適應(yīng)技術(shù)的快速發(fā)展，而“軟法”以倡議、指南的形式為主，更適合推動(dòng)行業(yè)自治、自律，同時(shí)提供容錯(cuò)空間，避免技術(shù)創(chuàng)新受限。四是監(jiān)管機(jī)制的豁免制度創(chuàng)新。在服務(wù)應(yīng)用層面，可通過監(jiān)管沙盒、合規(guī)免責(zé)制度等營(yíng)造良好的技術(shù)發(fā)展環(huán)境。監(jiān)管沙盒允許企業(yè)在受控環(huán)境中測(cè)試新產(chǎn)品，豁免部分監(jiān)管約束，但需設(shè)立準(zhǔn)入門檻與風(fēng)險(xiǎn)豁免期限。合規(guī)免責(zé)制度則允許企業(yè)在已建立合規(guī)體系的前提下，通過積極補(bǔ)救和達(dá)成和解協(xié)議，減輕或免除責(zé)任。[20]

其四，敏捷機(jī)制，即高頻次的迭代機(jī)制。敏捷治理的核心在于適應(yīng)生成式人工智能的動(dòng)態(tài)演進(jìn)，通過迭代調(diào)整來應(yīng)對(duì)治理挑戰(zhàn)，避免傳統(tǒng)責(zé)任模式的僵化。類似于動(dòng)態(tài)能力，迭代創(chuàng)新成為迅速適應(yīng)外部變化的有效方式。這一機(jī)制包括問題識(shí)別—迭代試錯(cuò)—?jiǎng)討B(tài)更新的全鏈條式迭代機(jī)制。一是問題識(shí)別與提前介入。通過引入信息感知與檢測(cè)系統(tǒng)，治理主體可以提前識(shí)別虛假信息內(nèi)容，要求技術(shù)開發(fā)者優(yōu)化模型，及時(shí)修正或刪除不良信息，實(shí)現(xiàn)從外部控制向內(nèi)部調(diào)節(jié)的轉(zhuǎn)變。二是迭代試錯(cuò)。在不確定性較大的情境中，迭代創(chuàng)新重在重新定義問題，提出并測(cè)試新方案。通過快速反饋和容錯(cuò)的實(shí)驗(yàn)流程來確定有效的治理措施，并推動(dòng)其應(yīng)用。三是持續(xù)改進(jìn)與動(dòng)態(tài)治理。敏捷治理通過迭代治理和持續(xù)優(yōu)化機(jī)制，形成反饋閉環(huán)，及時(shí)調(diào)整治理模式以應(yīng)對(duì)新的風(fēng)險(xiǎn)。生成式人工智能存在較大的不確定性，過度治理可能抑制產(chǎn)業(yè)發(fā)展，而敏捷治理“小步快走、迭代調(diào)整”模式更契合技術(shù)快速發(fā)展的需求，有助于在技術(shù)演進(jìn)中有效控制風(fēng)險(xiǎn)。

結(jié)語

生成式人工智能管理其實(shí)是平臺(tái)治理的一個(gè)縮影，當(dāng)新技術(shù)形態(tài)成為新的基礎(chǔ)設(shè)施甚至社會(huì)的操作系統(tǒng)，而傳統(tǒng)的權(quán)力主體不再直接掌控這些新基礎(chǔ)設(shè)施時(shí)，如何協(xié)調(diào)傳統(tǒng)權(quán)力主體、平臺(tái)、技術(shù)三者的關(guān)系，平衡技術(shù)發(fā)展與綜合治理之間的張力，需要更多的試錯(cuò)空間，并在多重目標(biāo)、多元利益沖突之間留出創(chuàng)新的彈性。

參考文獻(xiàn)：

[1] Park J S， O'Brien J， Cai C J， et al. Generative agents： Interactive simulacra of human behavior[C]∥Proceedings of the 36th Annual ACM Symposium on User Interface Software and Technology. New York： ACM Press， 2023： 1-22.

[2] 斯萬·歐維·漢森，劉北成. 知識(shí)社會(huì)中的不確定性[J]. 國(guó)際社會(huì)科學(xué)雜志（中文版），2003（1）：36-44.

[3] Srivastava A， Rastogi A， Rao A， et al. Beyond the imitation game：Quantifying and extrapolating the capabilities of language models[EB/OL].[2024-10-13].https：//arxiv.org/abs/2206.04615.

[4] Anderson P W. More Is Different： Broken symmetry and the nature of the hierarchical structure of science[J]. Science， 1972， 177（4047）： 393-396.

[5] New England Complex Systems Institute.Concepts： Complexity.[EB/OL].[2024-10-15].https：//necsi.edu/complexity.

[6] Adcock R， et al. \"Emergence\"： Systems Engineering Body of Knowledge[EB/OL].[2024-10-15].https：//sebokwiki.org/wiki/Emergence.

[7] 閆坤如，曹彥娜. 人工智能時(shí)代主體性異化及其消解路徑[J]. 華南理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2020，22（4）：25-32.

[8] H.W.劉易斯. 技術(shù)與風(fēng)險(xiǎn)[M]. 北京：中國(guó)對(duì)外翻譯出版公司，1994：253.

[9] 佩德羅·多明戈斯. 終極算法：機(jī)器學(xué)習(xí)和人工智能如何重塑世界[M]. 黃芳萍，譯. 北京：中信出版集團(tuán)，2017：3.

[10] 徐鳳. 人工智能算法黑箱的法律規(guī)制——以智能投顧為例展開[J]. 東方法學(xué)，2019（6）：78-86.

[11] Walker C S. Al chatbots are coming to search enginescan you trust the results？[EB/OL].[2024-10-13]. https：//www. nature.com/articles/d41586-023-00423-4.

[12] 陳建兵，王明. 負(fù)責(zé)任的人工智能：技術(shù)倫理危機(jī)下AIGC的治理基點(diǎn)[J]. 西安交通大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2024，44（1）：111-120.

[13] Chomsky N， Roberts I， Watumull J. Noam chomsky： The 1 promise of chatgpt[EB/OL].[2024-10-13].https：//www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html.

[14] Zelikman E， Lorch E， Mackey L， et al. Self-taught optimizer （stop）： Recursively self-improving code generation[J/OL].Arxiv， 2023[2023-10-09].https：//arxiw.org/abs/2310.02304.

[15] 曹元，董新凱. 習(xí)近平網(wǎng)絡(luò)空間治理系列論述的系統(tǒng)探析[J]. 南京社會(huì)科學(xué)，2019（6）：1-7.

[16] 何宇華，李霞. 生成式人工智能虛假信息治理的新挑戰(zhàn)及應(yīng)對(duì)策略——基于敏捷治理的視角[J]. 治理研究，2024（4）：142-156，160.

[17] 納西姆·尼古拉斯·塔勒布. 反脆弱：從不確定性中獲益[M]. 雨珂，譯. 北京：中信出版集團(tuán)，2014：XVI-XVII.

[18] 薛瀾，趙靜. 走向敏捷治理：新興產(chǎn)業(yè)發(fā)展與監(jiān)管模式探究[J]. 中國(guó)行政管理，2019（8）：28-34.

[19] 羅杰·布朗斯沃德. 法律3.0：規(guī)則、規(guī)制和技術(shù)[M]. 毛海棟，譯. 北京：北京大學(xué)出版社，2023：42.

[20] 張凌寒，于琳. 從傳統(tǒng)治理到敏捷治理：生成式人工智能的治理范式革新[J]. 電子政務(wù)，2023（9）：2-13.

Technological Evolution and Emergent Risks： A Study on Collaborative Agile Governance Systems for Generative Artificial Intelligence

GUO Quan-zhong（College of Journalism and Communication， Minzu University of China， Beijing 100081， China）

Abstract： Generative artificial intelligence exhibits formidable learning capabilities， self-adaptive capacities， and self-evolutionary traits， aligning with developers' original intentions while simultaneously introducing emergent risks. Distinct from traditional risks， emergent risks demonstrate a degree of subjective agency and autonomous decision-making capabilities. Due to AI's capacity for continuous self-evolution， latent risks may remain obscured， particularly under its black-box operational mechanisms， which can induce cognitive biases or even hallucinatory phenomena. Such issues not only compromise the controllability of AI but also undermine the sustainability of human-AI relationships. Furthermore， the adaptive nature of AI allows risks to manifest dynamic evolutionary characteristics. To address these challenges， it is imperative to optimize foundational technical architectures， harness the potential of multi-stakeholder collaborative governance， and adopt a collaborative agile iterative governance model to promptly respond to the complex and evolving nature of risks.

Keywords： technological evolution; emergent risk; AI governance; collaborative regulation; agile governance