構(gòu)建中國特色AI治理體系

近年來，人工智能的發(fā)展勢如破竹，在金融、教育、醫(yī)療等行業(yè)，以及軟件編程、自動駕駛等領(lǐng)域展現(xiàn)出極大的應用潛力，成為驅(qū)動全球數(shù)字經(jīng)濟發(fā)展的重要動力。與此同時，人工智能的快速發(fā)展也對實現(xiàn)技術(shù)應用和規(guī)范約束應用之間的平衡提出了更高要求。

人工智能治理（AI治理）是指國際組織、政府機構(gòu)和AI企業(yè)等通過建立敏捷有效的監(jiān)管方式，把AI打造成安全可信、風險可控、造福人類的新型生產(chǎn)工具的過程，旨在“促進”和“約束”之間尋找博弈平衡，以保障人類在享受AI技術(shù)發(fā)展紅利的同時，基本權(quán)益得以保障。AI治理關(guān)系著全球經(jīng)濟的發(fā)展和人類的共同命運，正在成為世界各國的共同課題。

全球AI治理的演變

隨著AI技術(shù)的發(fā)展和實踐，AI治理的主要內(nèi)容從鼓勵AI創(chuàng)新演變成規(guī)制和創(chuàng)新協(xié)同，當前正走向全球合作治理，各國政府的態(tài)度和關(guān)注重點也在不斷發(fā)生變化。

2016年到2019年期間，全球人工智能頭部前驅(qū)企業(yè)和行業(yè)聯(lián)盟等在各大技術(shù)論壇、公開討論中不斷拋出關(guān)于科技與倫理的話題，旨在探索顛覆性技術(shù)的治理實踐，比如倫理準則、算法原則等。這個階段，鼓勵AI創(chuàng)新和開放AI市場逐漸成為企業(yè)呼吁的主基調(diào)。為避免在全球AI競爭中落伍，各國政府對AI發(fā)展也主要持包容性態(tài)度，更多關(guān)注人工智能發(fā)展和產(chǎn)業(yè)規(guī)劃布局，鮮有約束。

2020年到2022年期間，隨著AI技術(shù)應用范圍擴大和深度拓展，人工智能對全球經(jīng)濟和國家安全的影響日益引發(fā)關(guān)注。國際組織和研究機構(gòu)開始高度關(guān)注人工智能可能帶來的多重風險，各國政府開始廣泛開展人工智能領(lǐng)域治理框架、技術(shù)標準、應用規(guī)范和相關(guān)政策的討論和擬定。治理內(nèi)容不僅包括AI使用數(shù)據(jù)的安全性，還包括AI算法的透明度、公正性和責任性。

2022年至今，尤其是在以生成式人工智能（GenAI）為代表的技術(shù)快速迭代和ChatGPT為代表的新型生產(chǎn)工具浮現(xiàn)后，產(chǎn)業(yè)發(fā)展實現(xiàn)躍遷，應用范圍從專用于單一場景邁向多個領(lǐng)域的通用場景，主要能力從“感知、判斷”轉(zhuǎn)向“理解、生成”。生成式AI治理的重要性和緊迫性迅速提升，各國政府均加速了生成式AI治理政策的制定頒發(fā)。與此同時，各國政府已經(jīng)意識到單一國家難以左右生成式AI發(fā)展治理，必須依靠全球力量才能實現(xiàn)有效治理。

在此背景之下，全球AI治理主要呈現(xiàn)以下特點：

第一個特點是多元共治，治理思路多樣化。當前，參與AI治理的主體眾多，不同主體依據(jù)自身角色屬性采取不同的AI治理手段。從國家層面來看，各主權(quán)國家正通過頒布政策文件、成立統(tǒng)籌機構(gòu)、發(fā)布指導框架等方式，逐步加強人工智能監(jiān)管與統(tǒng)籌，以確保人工智能的健康發(fā)展并應對潛在風險；從國際組織層面來看，以聯(lián)合國為代表的國際組織在AI治理方面提出倡議、建立共識，推動各國針對人工智能發(fā)展表達合理關(guān)切、尋求解決方案；從科技企業(yè)層面來看，科技企業(yè)通過簽署承諾書、實施最佳實踐、設(shè)定風險閾值等自律方式，大力推動全球人工智能技術(shù)的安全和可靠。

在治理思路方面，全球AI治理的差異化也十分顯著。先是治理理念分化，歐盟堅持倫理優(yōu)先的治理模式，警惕AI技術(shù)和AI應用可能帶來的倫理風險；美國堅持創(chuàng)新優(yōu)先原則，確保AI企業(yè)在技術(shù)和產(chǎn)業(yè)領(lǐng)域保持全球領(lǐng)先地位；我國則兼顧AI倫理治理和創(chuàng)新發(fā)展，秉持審慎穩(wěn)健的同時兼顧產(chǎn)業(yè)創(chuàng)新。再是治理架構(gòu)形態(tài)不一，歐盟采取高效的傘形垂直治理架構(gòu)，形成從歐盟到成員國再到企業(yè)層面的垂直治理體；美國傾向于行業(yè)主導、分散監(jiān)管審查的治理架構(gòu)。

第二個特點是全球AI治理的話語權(quán)爭奪顯著加劇。當前全球AI治理規(guī)則尚不明確，各國紛紛爭取AI治理的制高點和話語權(quán)，全球各主要經(jīng)濟體和國際組織正積極研究制定AI治理規(guī)則，如歐盟理事會正式批準《人工智能法案》，以期繼續(xù)在AI治理領(lǐng)域發(fā)揮“布魯塞爾效應”，引領(lǐng)全球AI治理規(guī)則的建構(gòu)。同時，美國、加拿大、日本、韓國、新加坡、巴西等國積極布局并陸續(xù)開展實質(zhì)性立法和監(jiān)管工作，爭取在人工智能監(jiān)管領(lǐng)域的話語權(quán)。部分西方發(fā)達國家更是利用自己在技術(shù)和產(chǎn)業(yè)方面的優(yōu)勢地位，通過各種平臺不斷打造AI治理的“小圈子”，希望把主導人工智能國際規(guī)則的能力控制在少數(shù)國家內(nèi)部，尋求在全球新一輪科技治理規(guī)則制定中占據(jù)主導位置，并且堅持本國利益至上的基本思路，推動將本國國內(nèi)規(guī)則國際化。

第三個特點是全球AI治理對治理機制敏捷性的需求更加突出。人工智能有著演化自主、迭代迅速、權(quán)責隱蔽等特點，這也容易造成追責難、跟進難和演進失控等問題。因此，AI治理模式亟須轉(zhuǎn)變?yōu)殪`活、及時、強適應的敏捷模式。

從靈活性來看，AI治理強調(diào)建立能適應人工智能技術(shù)自主迭代和多場景切換的靈活響應機制，在宏觀層面設(shè)定普適性約束底線，在微觀層面將算法、數(shù)據(jù)、平臺等治理對象匹配到具體場景中，設(shè)定個性化場景規(guī)則，構(gòu)建普適性與個性化相結(jié)合的靈活治理模式；從及時性來看，AI治理愈發(fā)強調(diào)能夠針對不同時期的需求實行不同治理模式，形成“事前正向引導、事中及時調(diào)適、事后全程追蹤”的動態(tài)治理模式；從適應性來看，AI治理愈發(fā)強調(diào)尊重新興技術(shù)的發(fā)展尺度，踐行包容審慎的治理原則，挑選重點領(lǐng)域開展治理試點測試，不斷探索監(jiān)管沙盒式試驗性監(jiān)管制度（指先劃定一個范圍，對在“盒子”里面的企業(yè)采取包容審慎的監(jiān)管措施，同時杜絕將問題擴散到“盒子”外面，屬于在可控的范圍之內(nèi)實行容錯糾錯機制，并由監(jiān)管部門對運行過程進行全過程監(jiān)管，以保證測試的安全性并作出最終的評價），講究治理手段軟法先行，充分引導與保障新興技術(shù)發(fā)展，提供試錯機會。

構(gòu)建中國特色AI治理體系

在充分借鑒國外先進經(jīng)驗的同時，我們還需探索構(gòu)建具有中國特色AI治理體系，促進產(chǎn)業(yè)的健康平穩(wěn)發(fā)展。

一是“軟硬兼施”，探索特色實踐。

一方面，軟法先行，以軟促新。充分發(fā)揮組織倡議、行業(yè)引導、實踐案例的“軟”作用。引入風險分類分級管理措施，通過監(jiān)管沙盒機制允許企業(yè)在受控環(huán)境中測試人工智能產(chǎn)品，提升創(chuàng)新能力和風險控制水平；發(fā)揮標準的引領(lǐng)作用，推動制定有關(guān)人工智能公平性、可解釋性和安全性的國際標準及團體標準，形成人工智能倫理治理的示范經(jīng)驗。另一方面，硬法善后，以硬止險。構(gòu)建與AI治理配套的法律法規(guī)體系。重點針對算法偏見、數(shù)據(jù)泄露和深度偽造等風險，開發(fā)相應的風險評估與監(jiān)測工具，逐步完善相關(guān)法律法規(guī)，對高風險領(lǐng)域設(shè)置紅線“硬”約束。

二是多元協(xié)同，提升國際話語權(quán)。

在人工智能領(lǐng)域，我國需要匯聚多方力量，通過協(xié)同合作與對話，推動人工智能的高質(zhì)量發(fā)展。為此，應鼓勵我國政府、企業(yè)、學術(shù)機構(gòu)、非政府組織等多元主體在全球治理平臺上就算法倫理、隱私保護等熱點問題發(fā)聲，推動形成有效的監(jiān)管框架，明確人工智能應用的邊界和責任歸屬，逐步實現(xiàn)從“規(guī)則適應者”向“規(guī)則制定者”的轉(zhuǎn)變。同時，我國應積極融入全球AI治理進程，通過舉辦行業(yè)峰會、設(shè)立國際聯(lián)合研究機構(gòu)、深化跨國科技合作項目等方式，促進各方共識的形成，凝聚具有中國特色的價值主張，并將中國倡議轉(zhuǎn)化為國際實踐。

三是開放合作，彌合全球智能鴻溝。

我國應進一步加強國際交流合作，分享先進技術(shù)和實踐經(jīng)驗，參與全球人工智能產(chǎn)業(yè)鏈分工，并積累治理經(jīng)驗，為構(gòu)建更加平衡和公正的全球科技生態(tài)奠定基礎(chǔ)。此外，應繼續(xù)支持聯(lián)合國在全球AI治理中的主導作用，創(chuàng)新多邊合作機制，深入理解發(fā)展中國家的核心關(guān)切，推動國際社會在人工智能領(lǐng)域形成廣泛共識，確?！叭蚰戏健痹谌斯ぶ悄馨l(fā)展進程中平等受益。

展望未來，AI治理將打破國界，協(xié)同發(fā)展，加速治理理念向可操作方案的轉(zhuǎn)化。AI技術(shù)的發(fā)展將進一步推動治理方式的升級，繼續(xù)向智能、敏捷、多元共治的方向邁進，實踐“用AI治理AI”，“用AI促進AI”。

（本文作者系中國電信研究院戰(zhàn)略發(fā)展研究所所長）

責編：郭霽瑤 guojiyao@ceweekly.cn 美編：孫珍蘭