加強國際治理與合作 推動人工智能向善向好

習近平總書記在4月25日中共中央政治局第二十次集體學習時指出：“人工智能作為引領新一輪科技革命和產業(yè)變革的戰(zhàn)略性技術，深刻改變人類生產生活方式。”人工智能（AI）技術極大解放了人的腦力，從根本上改變著知識生產范式，正以前所未有的速度和規(guī)模重塑人類文明圖景，深刻影響著世界經濟、政治、軍事格局和人類社會發(fā)展，日益得到各國政府、產業(yè)界和學術界的高度關注。相比之下，人工智能治理體系的適應速度明顯滯后于技術的突破性進展，人工智能國際治理問題日益突出。為此，我們需要準確把握全球人工智能發(fā)展態(tài)勢，科學研判人工智能發(fā)展的風險挑戰(zhàn)，加強國際治理與合作，推動人工智能向善向好、造福人類。

一、準確把握全球人工智能發(fā)展態(tài)勢

從1956年誕生至今，人工智能已走過起起伏伏近70年的發(fā)展歷程。近年來，以ChatGPT、Sora、DeepSeek等為代表的生成式人工智能技術持續(xù)取得重要突破，在全球掀起了人工智能的新一輪熱潮。整體上看，人工智能發(fā)展呈現(xiàn)以下基本態(tài)勢：

（一）專用人工智能日趨成熟。專用人工智能是指面向特定領域的人工智能，其任務單一、需求明確、應用邊界清晰，因此形成了人工智能領域的單點突破，在局部智能水平的單項測試中可以超越人類智能。例如，人臉、虹膜、步態(tài)等生物特征可實現(xiàn)高精度高效率識別，并成功應用于執(zhí)法、民政、救災等多個領域；人工智能輔助診療系統(tǒng)已覆蓋3000多種常見病，在27000多家基層醫(yī)療機構得到應用；特斯拉全自動駕駛實現(xiàn)了第一個端到端人工智能自動駕駛；等等。

（二）大模型技術取得重要突破。大模型是指具有超大規(guī)模參數和復雜計算結構的機器學習模型。作為當前人工智能領域最受關注的方向，大模型日益成為戰(zhàn)略性基礎設施，借助“預訓練大模型+下游任務微調”的開發(fā)范式，可以有效縮減訓練成本和開發(fā)周期，實現(xiàn)規(guī)模化生產。自2022年底ChatGPT發(fā)布以來，大模型進入爆發(fā)期，具備了多模態(tài)理解與多類型內容生成能力。2025年初，DeepSeek-R1橫空出世，以開源創(chuàng)新、算力成本低等優(yōu)勢，使大模型真正“飛入尋常百姓家”。

（三）生成式人工智能煥發(fā)生機。生成式人工智能是指基于算法、模型、規(guī)則自動生成文本、圖片、聲音、視頻、代碼等內容的人工智能技術。相比于只能根據輸入的數據進行處理的傳統(tǒng)人工智能系統(tǒng)，生成式人工智能系統(tǒng)能夠自己創(chuàng)造出新的內容。在大模型技術驅動下，生成式人工智能快速發(fā)展，廣泛應用于專業(yè)問答、編程、詩歌創(chuàng)作、作畫等方面，且生成能力十分強大，引起行業(yè)內的極大震動。例如，ChatGPT-4"Turbo入選《自然》雜志2023年度十大人物，這是計算機程序有史以來第一次入選。

（四）具身智能與人形機器人備受關注。具身智能是指物理實體通過與外部環(huán)境持續(xù)交互而獲得的不斷增長的智能，它可以突破傳統(tǒng)人工智能依賴“算力+數據”堆砌、場景適應性不足的局限，以更接近生物智能的進化邏輯，為探索人類智能形成機制提供新視角，為推動科技成果向現(xiàn)實生產力轉化提供強引擎。人形機器人作為具身智能的重要載體，為研究智能的涌現(xiàn)提供了理想平臺。如今，具身智能研究已步入快車道，將通過“數據—算法—載體”的閉環(huán)迭代，進一步驅動人工智能從虛擬認知向實體智能的范式躍遷。

（五）人工智能驅動的科學研究快速發(fā)展。過去幾百年，科學研究大體經過了實驗觀察、理論分析、計算模擬和數據密集型范式的變革。當前，人工智能驅動的科學研究正在引領新一輪變革，將徹底改變科學發(fā)現(xiàn)的方式。例如，AlphaFold2可以精準預測蛋白質的3D結構，AlphaFold3則以前所未有的精度預測所有生命分子的結構和相互作用，為生物醫(yī)學研究帶來了革命性變化。此外，人工智能已廣泛應用于疫苗研發(fā)、芯片設計、氣象預測等眾多領域。

（六）人工智能加速賦能千行百業(yè)。人工智能作為引領新一輪科技革命和產業(yè)變革的戰(zhàn)略性技術，深刻改變著人類的生產生活方式。一方面，人工智能正加速與實體經濟深度融合、提升社會生產力，推動傳統(tǒng)產業(yè)轉型升級、促進新興產業(yè)蓬勃發(fā)展、培育未來產業(yè)新高地，驅動“無人經濟”快速發(fā)展。另一方面，人工智能在交通、家居、教育、醫(yī)療、養(yǎng)老等社會生活領域產生重要影響，為促進社會公平、增進民生福祉、提升人類生活品質和幸福感提供了更優(yōu)方案。

（七）人工智能的社會影響日益凸顯。伴隨著人工智能的快速發(fā)展，其產生的社會影響也是多元的、全方位的。一方面，人工智能帶來許多正面效應，如拉動經濟、服務民生、造福社會；另一方面，人工智能也帶來很多社會問題，如安全失控、法律失準、倫理失常、隱私失密等。例如，濫用生成式人工智能技術制作虛假信息，進行詆毀抹黑、敲詐勒索、惡意攻擊等，帶來極大的安全隱患；智能設備和算法對于個人隱私的發(fā)掘分析能力遠超以往技術，行蹤軌跡、消費數據、生物特征等個人信息和隱私安全問題日趨復雜，防范難度大大增加。

（八）通用人工智能任重道遠。通用人工智能旨在研制出具有與人類相同智能水平乃至超過人類智能水平的機器，甚至可能使機器擁有自主意識。近年來，隨著神經網絡模型能力的不斷提升，公眾對人工智能產生過高期望，一些專家學者對通用人工智能的發(fā)展提出了一些不切實際的預測。當下人工智能距離人類智能水平還有巨大差距，在語義理解、推理、規(guī)劃、泛化和持續(xù)學習等方面仍存在明顯不足，還缺少對客觀物理世界時空運行規(guī)律的本質理解，缺乏深層共情能力。人類距離實現(xiàn)真正的通用人工智能仍有很長的路要走。

二、科學研判人工智能發(fā)展的風險挑戰(zhàn)

習近平總書記指出：“人工智能帶來前所未有發(fā)展機遇，也帶來前所未遇風險挑戰(zhàn)?！比斯ぶ悄茉诩铀偻七M數字世界和物理世界深度融合的同時，也在一定程度上模糊了虛與實的邊界，其固有的不確定性、不透明性、不可解釋性逐漸凸顯，將給人類社會帶來諸多風險挑戰(zhàn)。

（一）對國家安全的風險挑戰(zhàn)。一是意識形態(tài)安全風險。歷史虛無主義、民粹主義等錯誤思潮會借助算法推薦技術在網絡空間不斷擴張，對意識形態(tài)安全產生沖擊。二是國家治理環(huán)境惡化風險。人工智能可以通過深度偽造技術制造虛假信息、混淆公眾認知，也會運用精準算法傳播加劇“信息繭房”效應、產生輿論操控，導致國家解釋權趨弱。三是軍事安全風險。軍事智能化一旦形成技術“代差”，技術強國對發(fā)展中國家實施政治訛詐和技術突襲的可能性將增大。人工智能技術在核、太空等領域的跨域軍事應用也將給軍事安全帶來極大風險。

（二）對產業(yè)發(fā)展的風險挑戰(zhàn)。人工智能技術能力與產品形態(tài)的成熟、核心場景的確定、產業(yè)的融合程度以及行業(yè)的發(fā)展息息相關，并非靠短期大量的資金和資源投入就能達到成效，要實現(xiàn)成熟的商業(yè)應用，道路還很漫長。以ChatGPT為例，其初始投入成本約8億美元，每日電費約5萬美元，模型每次回答的成本約幾美分。面對如此高昂的成本，一方面，資源壟斷問題日益突出，科技巨頭形成“數字霸權”，不斷擠壓中小企業(yè)的生存空間。另一方面，很多企業(yè)和創(chuàng)業(yè)團隊一哄而上，部分國家政府也不甘落后，盲目跟風導致人工智能無序發(fā)展和資源浪費。此外，部分企業(yè)利用人工智能熱點進行投機炒作，將加劇市場泡沫化風險。

（三）對社會治理的風險挑戰(zhàn)。一是數據隱私泄露風險。人工智能的技術特性和應用場景決定了其在應用中極易獲取大量隱私信息，可能在用戶不知情的情況下收集行蹤軌跡、瀏覽記錄、消費數據、生物特征等，使個人信息和隱私保護受到嚴峻挑戰(zhàn)。二是惡意攻擊風險。不法分子利用深度偽造技術制作虛假視頻、圖像，實施敲詐勒索、惡意攻擊等活動，對社會安全穩(wěn)定、個人名譽和財產等造成威脅。三是信息污染風險。人工智能技術濫用使互聯(lián)網中的虛假信息和低質內容日益泛濫，這類信息的“污染”會使模型對現(xiàn)實的認知產生扭曲，導致結果模型出現(xiàn)不可逆的缺陷。

（四）對倫理和法律的風險挑戰(zhàn)。一是引起社會就業(yè)結構的重大改變。人工智能已可以自主完成高難度的復雜工作，極大降低內容生產和交互的門檻與成本，各行業(yè)人員都面臨著人工智能的勞動替代風險，可能引發(fā)失業(yè)恐慌和社會秩序混亂。行業(yè)邊界將進一步模糊，顛覆長期以來形成的社會分工體系。二是算法偏差和機器歧視加劇。人工智能算法在透明度、魯棒性等方面本身就存在局限，將會加劇生成內容的偏見或歧視，放大社會不公。三是觸發(fā)科技倫理問題。數字孿生、腦機接口和人機共生等科技倫理問題涉及人類生命安全、個人隱私安全、主體責任歸屬、社會公平公正等諸多風險，人形機器人的大范圍應用也將給以人類為唯一主體的社會體系帶來很多新問題，例如“AI伴侶”的法律地位問題。四是法律體系面臨失效風險。人工智能系統(tǒng)的法律主體資格存疑、權利主體屬性不明確，將產生傳統(tǒng)法律難以規(guī)制的問題。例如人工智能創(chuàng)作內容的知識產權難以界定，無人駕駛系統(tǒng)的交通法規(guī)仍需完善，人工智能造成損失的責任難以劃定，等等。

三、加快推進人工智能國際治理與合作

近年來，全球人工智能治理的主體和結構愈發(fā)多元化，呈現(xiàn)出全領域、多層級、廣合作的總體特點。各項倡議、立法、規(guī)則呈井噴式涌現(xiàn)，覆蓋政治、經濟、法律、醫(yī)療、社會生活等各領域。在聯(lián)合國框架下，各國及各類國際組織積極實施人工智能治理和監(jiān)管，行業(yè)組織和企業(yè)也參與推動自律自治，地區(qū)合作、多邊合作、雙邊合作持續(xù)加強。2023年，中國發(fā)布《全球人工智能治理倡議》，就各方普遍關切的人工智能發(fā)展與治理問題提出建設性解決思路，為相關國際討論和規(guī)則制定提供了藍本，體現(xiàn)了中國的大國責任擔當。

然而，當前人工智能國際治理仍面臨多重挑戰(zhàn)。一是缺乏統(tǒng)一的全球治理框架。各國在重大問題上還缺乏共識，很多法規(guī)差異難以協(xié)調，非約束性的國際倡議效力有限，具有實質性約束力的治理規(guī)則構建尚需時日。二是各國利益訴求各異。發(fā)達經濟體更關注技術安全與倫理問題，新興經濟體和其他經濟體則強調經濟與社會發(fā)展機遇，治理權力的不平衡進一步加劇了關注點的分化。三是治理碎片化。人工智能技術發(fā)展的快速性與治理體系構建的滯后性之間存在矛盾，靜態(tài)法規(guī)難以應對動態(tài)風險，造成治理框架分散、效率低下。

習近平主席強調，堅持以人為本、智能向善，在聯(lián)合國框架內加強人工智能規(guī)則治理。具體而言，加快推進人工智能國際治理與合作，需要在以下四個方面著重突破：

（一）堅持“以人為本”，堅守人工智能發(fā)展正確方向。無論技術如何迭代，都應在智能時代堅守初心、向善而行。一方面，多邊治理主體要進一步達成人工智能發(fā)展的價值共識，確立好根本治理原則，以增進人類共同福祉、服務人的全面發(fā)展為目標，以保障社會安全、尊重人類權益為前提，確保人工智能始終朝著有利于人類文明進步的方向發(fā)展。另一方面，國際社會應形成對于人工智能發(fā)展的風險共識，并在法律、倫理等層面加以引導，盡快建立人工智能風險評估與預警體系，確保人工智能的研發(fā)和使用活動安全可控，符合全人類共同價值，防范其危害國家安全、公共利益以及組織、個人的合法權益。

（二）堅持“開放共享”，推動人工智能應用普惠可及。由于不同國家和地區(qū)在科教力量、基礎設施、產業(yè)結構和社會經濟基礎方面存在差異，人工智能發(fā)展不平衡的問題日益突出。一方面，要深化開源開放，推動人工智能技術、人才、基礎設施共享，幫助全球南方國家加強技術能力建設，建立國際人工智能技術共享平臺，打破數據壁壘和技術壟斷，實現(xiàn)各國公平利用數據資源、共享人工智能紅利，彌合全球智能鴻溝。另一方面，要持續(xù)擴大相關學術組織與企業(yè)、行業(yè)組織的交流合作，構建開放共贏的國際科技合作生態(tài)，著力打破個別國家對其他國家學者參與國際交流合作的限制，避免技術封鎖和人才保護主義制約技術交流與進步。

（三）堅持“以技治技”，創(chuàng)新人工智能技術治理手段。人工智能的決策過程和決策邏輯不透明，呈現(xiàn)“黑箱”特性，現(xiàn)有技術并不具備對自身進行監(jiān)管和控制的機制，在技術層面存在明顯的治理真空。各國家和地區(qū)的研發(fā)主體應不斷提高人工智能的可解釋性和可預測性，打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術，將最直觀量化的算力作為治理對象，間接實現(xiàn)人工智能治理。同時，要以人工智能技術防范人工智能風險，積極設計開發(fā)能夠有效用于人工智能治理的技術與應用，追蹤并評估人工智能治理框架的落實情況，提高人工智能治理的技術能力。

（四）堅持“系統(tǒng)集成”，構建人工智能多邊治理格局。在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，國際社會應該在全球范圍內廣泛凝聚共識，積極構建開放、公正、有效的多邊治理機制，共同促進人工智能技術真正造福人類。一方面，各國家和地區(qū)以及相關國際組織要加強治理規(guī)則、技術標準的對接協(xié)調，圍繞人工智能安全、倫理道德、數據隱私、跨境監(jiān)管、軍事應用等關鍵議題達成共識，建立健全法律和規(guī)章制度，完善人工智能倫理準則及問責機制。充分尊重各國差異性，提升發(fā)展中國家的話語權，確保各國開發(fā)和利用人工智能技術的權利機會平等。另一方面，企業(yè)、研究機構、社會組織和個人等其他多元治理主體要積極發(fā)揮與自身角色相匹配的作用，共同參與人工智能治理體系的構建和完善，實現(xiàn)全球人工智能發(fā)展領域的共商共建共享。

人工智能國際治理是關乎推動構建人類命運共同體的時代課題。面對人工智能帶來的機遇與挑戰(zhàn)，既需標準互認、風險共防，也需倫理先行、法治護航。我們需要進一步凝聚共識、深化協(xié)作，始終遵循“以人為本”的價值導向，讓技術進步與文明發(fā)展同頻共振，使人工智能真正成為增進人類福祉的向善力量。