人工智能發(fā)展的風險與治理

摘要：目前，以ChatGPT為代表的人工智能技術引發(fā)了廣泛關注。人工智能發(fā)展帶來了一系列風險挑戰(zhàn)：主體性危機引發(fā)人類自身主體性質疑，喪失自主判斷力，帶來現(xiàn)實人際孤島；數(shù)據(jù)缺失造成結論誤導，虛假數(shù)據(jù)造成信任危機，數(shù)據(jù)泄露和濫用帶來安全隱患；算法的可解釋性不足帶來“黑箱”問題，算法的魯棒性不足造成算法失靈，“回音室效應”帶來偏見與分化；社會風險包括技術的顛覆性變革帶來國際分工重塑，意識形態(tài)的輿論引導性風險，行業(yè)科技巨頭壟斷趨勢加劇；等等。人工智能治理在中國、美國、歐盟得到了很好的實踐。

敏捷治理、韌性治理、負責任創(chuàng)新和治理，是最新的人工智能治理的三大理念。對于人工智能的發(fā)展和治理，不僅要充分釋放“制”的優(yōu)勢，更要做好“治”的文章，充分發(fā)揮各治理主體的作用，需要政府發(fā)揮統(tǒng)領監(jiān)督引導作用，整合企業(yè)、科研機構、高校的各種資源，實現(xiàn)政府、企業(yè)、高校、科研機構的協(xié)同發(fā)力。

關鍵詞：人工智能；治理；主體性危機；算法

中圖分類號：F224.32

文獻標識碼：A

DOI：10.12186/2023.02.008

文章編號：2096-9864（2023）02-0056-07

當今世界，全球重大前沿技術和顛覆性創(chuàng)新快速突破，新一輪科技革命和產(chǎn)業(yè)變革帶來重大機遇，以人工智能、大數(shù)據(jù)、云計算、區(qū)塊鏈為代表的新一代信息技術飛速發(fā)展、加快滲透，對人類的生產(chǎn)、生活方式產(chǎn)生了深刻影響。一方面，以人工智能為代表的新興技術與經(jīng)濟社會深度融合，催生了智慧城市、智慧農(nóng)業(yè)、智慧能源、智慧交通等新領域新賽道，成為我國構建現(xiàn)代化產(chǎn)業(yè)體系、提高經(jīng)濟綜合競爭力的重要戰(zhàn)略引擎；另一方面，人工智能等新興技術在加速迭代升級的過程中，也給人類社會的法律隱私、倫理道德、社會治理、國際關系準則等方面帶來一系列問題和挑戰(zhàn)。

關于人工智能的研究已經(jīng)成為全球性、全局性的問題，國內(nèi)外學者從不同角度對人工智能展開了研究。W.J.Rapaport［1］認為，人工智能屬于計算機科學的一個分支，是一門通過研究算法來解決問題和完成任務的學科；M.Maas［2］認為，人工智能的內(nèi)涵包括了眾多內(nèi)容，目前是一個復雜而又混亂的概念；龐禎敬等［3］認為，人工智能催生出的諸多新產(chǎn)業(yè)、新服務、新業(yè)態(tài)和新模式已成為經(jīng)濟社會數(shù)字化變革的核心動力；閆德利［4］認為，人工智能的發(fā)展將引起就業(yè)結構的巨大變化，單一特定領域的重復性工作將被人工智能大量取代；石琳娜等［5］認為，以人工智能、云計算、物聯(lián)網(wǎng)等為代表的數(shù)字經(jīng)濟重要性日益突出，并與實體經(jīng)濟加速融合；魯傳穎等［6］認為，人工智能風險存在于各個領域，對國際、國家、社會、個人等都產(chǎn)生了廣泛影響；洪永淼等［7］認為，以ChatGPT 為代表的前沿人工智能目前仍沒有人類的意識或理解能力，只有預測能力；T.Liu［8］認為，增強人工智能的可解釋性成為熱點問題，但仍處在初期研究階段，有多種研究路徑可供持續(xù)探索；梁正等［9］認為，世界諸國對于什么是人工智能治理、為什么進行治理以及如何治理等還沒有形成深刻的成果與共識。

綜上所述，目前國內(nèi)外關于人工智能治理的研究還處于起步和探索階段，理論研究的步伐明顯落后于實踐，在我國新發(fā)展階段和經(jīng)濟社會轉型升級的背景下，探討人工智能治理相關問題具有重要意義。

一、人工智能發(fā)展帶來的風險挑戰(zhàn)

目前，以ChatGPT為代表的人工智能技術引發(fā)廣泛關注，人工智能等新興技術在加速迭代升級的過程中，也引發(fā)了一系列風險和問題。

1.主體性危機

（1）引發(fā)人類自身主體性質疑

當前人工智能系統(tǒng)在某些方面已經(jīng)可以與人類相媲美，甚至超越人類，人工智能的普及會削弱人在社會中的主體地位。例如，人工智能系統(tǒng)已經(jīng)開始取代人類部分工作，這可能會使人們開始懷疑自己的職業(yè)價值和發(fā)展前景。未來，人類有可能逐漸難以參與智能生產(chǎn)的過程，喪失在實踐活動中的主體地位。

（2）失去自主判斷力

人工智能所具有的高效信息收集、分析、推理、決策能力是人類所難以企及的，但當人們過度依賴人工智能時，他們可能會失去自己的判斷能力。另外，人工智能系統(tǒng)的設計和訓練可能存在偏見和局限性，如果人們長期依賴它，可能會失去對這些錯誤的察覺和糾正，導致人們的自主判斷和決策能力被進一步削弱。

（3）帶來現(xiàn)實人際孤島

人工智能技術實現(xiàn)了虛擬社交的擴大化。當今社會，網(wǎng)絡社交平臺層出不窮，打破了時空和地理的限制，讓全球的用戶可以同時在線使用并分享和交流相關信息。這種虛擬社交的擴大會促使用戶快速獲得自己喜歡或認同的內(nèi)容，篩選與自己志趣相投的群體、與自己有共同語言的虛擬人物。通過算法設計出來的虛擬人物能充分滿足用戶需求，比真實人類更加善解人意，這樣會極大地降低現(xiàn)實世界人際交往的欲望和動力。同時，對人工智能產(chǎn)品的大量使用會分散真實世界中人類群體建立親密關系的精力，拉大身邊的人與人之間交往的鴻溝，人際孤島的問題也逐漸凸顯。

2.數(shù)據(jù)問題

（1）數(shù)據(jù)缺失造成的結論誤導

人工智能進行自動化決策時，如果數(shù)據(jù)不充分、不達標，會導致預測結果不準確、不可靠。例如，醫(yī)療領域的人工智能模型在訓練數(shù)據(jù)中如果缺少某些疾病的信息，就會出現(xiàn)漏診或誤診從而給患者帶來嚴重的健康風險；在金融領域，如果缺少某些欺詐行為的信息，就會產(chǎn)生誤判從而導致金融損失和信用危機等。

（2）虛假數(shù)據(jù)造成的信任危機

人工智能算法具有極高的仿真度，使得日常活動中的防偽鑒定面臨困難，對社會各個層面都構成潛在的威脅。如果在算法中混入虛假的數(shù)據(jù)還會對算法形成欺騙，在智能決策結論中得出錯誤的結果。當人工智能模型故意模擬或使用虛假數(shù)據(jù)時，可能會導致預測結果的低準確性，從而降低用戶對模型的信任。

（3）數(shù)據(jù)泄露和濫用帶來的安全隱患

數(shù)據(jù)的采集和使用若管理不到位會給個人、社會和國家?guī)戆踩[患。例如，企業(yè)在加工、使用數(shù)據(jù)的過程中出現(xiàn)泄露和濫用，不僅會威脅到用戶的個人隱私，還會對企業(yè)乃至社會形成巨大風險。此外，如果國家機密數(shù)據(jù)被泄露，就可能會被用于進行間諜活動、網(wǎng)絡攻擊等，對國家安全造成威脅。

3.算法的固有缺陷

（1）算法的可解釋性不足帶來“黑箱”問題

普通用戶無法理解程序的復雜運算過程，可解釋性不足讓人們不能理解算法的決策機理，也難以預測算法的行為，“黑箱”問題由此出現(xiàn)。深度學習算法的一個顯著特點是在訓練過程中自動提取特征，但這一過程目前尚不可控，算法可能會選擇錯誤的特征。算法的透明性和可解釋性不足會限制技術的傳播和發(fā)展，成為算法利用方面的難題。

（2）算法的魯棒性不足造成算法失靈

算法的魯棒性是指算法在處理輸入數(shù)據(jù)時，能夠保持穩(wěn)定性和正確性的能力。一個具有魯棒性的算法，可以正確地處理各種類型的數(shù)據(jù)，包括缺失數(shù)據(jù)、錯誤數(shù)據(jù)、離群值和噪聲等。當算法的魯棒性不足時，它可能會輸出錯誤的結果，或者出現(xiàn)錯誤時無法正常運行，導致算法失靈。

（3）回音室效應帶來偏見與分化

深度學習算法能夠挖掘訓練數(shù)據(jù)集中不同因素的相關性，擬合其分布特性，數(shù)據(jù)集中的偏見與歧視會被引入到訓練出的模型之中。在網(wǎng)絡信息化時代，各種數(shù)據(jù)和信息可能會被分類和篩選，并進行標簽固化，在算法推薦系統(tǒng)的不利影響下很有可能產(chǎn)生“回音室效應”，導致人們長期獲得自身畫像的單一數(shù)據(jù)和信息，致使人們沉浸在自己偏好的信息世界中，可能造成嚴重的公眾意識形態(tài)分化、網(wǎng)絡群體極化現(xiàn)象［10］。

4.社會風險

（1）技術的顛覆性變革帶來國際分工重塑

人工智能等新興技術的變革發(fā)展，也帶來了科技保護主義的興起。美國在算力、算法、芯片等關鍵領域都有較大優(yōu)勢，基于自身的先行優(yōu)勢，美國有能力構建一個新的、更固化的中心-外圍結構的世界分工格局。近年來，美國依靠自身的科技和經(jīng)濟實力，以及自身的世界霸主地位，正在強化單邊科技保護主義，努力與中國以及其他國家脫鉤，以保持自身的領先地位。其他發(fā)展中國家與美國在人工智能領域，特別是在通用模型的科技研發(fā)方面差距巨大?？萍剂α繎沂饧觿×藦V大科技弱勢國家對發(fā)達國家的技術依賴，科技弱勢國家被迫選邊站隊，科技政治極化風險激增。作為最大的發(fā)展中國家，中國在人工智能的模型迭代創(chuàng)新方面擁有較大上升空間，仍需要不斷努力。

（2）意識形態(tài)的輿論引導性風險

以ChatGPT為代表的人工智能大模型高度擬人化和便利性將強化社會公眾對它的信任和依賴，同時增強它對重大概念和事件的解釋權，與政府官方的解釋權形成競爭，其輸出結果的真實性持續(xù)影響公眾的判斷和選擇，潛移默化之中塑造和改變公眾的觀念和輿論判斷。擁有技術優(yōu)勢的國家有可能利用他國公眾的從眾心理，利用人工智能大模型輸出意識形態(tài)偏好，強化西方價值觀，隱蔽進行意識形態(tài)滲透和制度干擾，侵蝕技術弱勢國家的政權管理能力。同時，國際互聯(lián)網(wǎng)平臺充斥著的不計其數(shù)的智能水軍，也給技術弱勢國家?guī)砹司薮蟮谋O(jiān)管壓力，增加了社會不穩(wěn)定因素。

（3）行業(yè)科技巨頭壟斷趨勢加劇

人工智能作為前沿新興技術，在理論和實踐中擁有廣闊的發(fā)展空間。但是，在實踐應用和落地發(fā)展中，通用大模型并不“通用”，該領域的研發(fā)和創(chuàng)新只有科技巨頭才能涉足。目前，用于存儲數(shù)據(jù)模型的顯卡至少價值200萬元，模型迭代需要長期、大量的資本、人力投入，其需要的算力和數(shù)據(jù)儲備只有科技巨頭企業(yè)才能滿足，得體的交互應對背后是聚沙成塔式的細節(jié)更新，高昂的訓練和能源消耗成本也不是普通中小企業(yè)能提供的?？萍季揞^企業(yè)高額投入換來的技術不斷更新進步，同時帶來的經(jīng)濟回報和影響力也是巨大的，長此以往，這種趨勢帶來的科技壟斷將更加明顯。

二、人工智能治理的全球實踐

自2016年起，已有40多個國家和地區(qū)將推動人工智能發(fā)展上升到國家戰(zhàn)略高度，加快推動人工智能的創(chuàng)新發(fā)展。ChatGPT的出現(xiàn)反映了人工智能發(fā)展的新趨勢，即AI正在從感知智能向認知智能快速發(fā)展。作為人工智能領域發(fā)展最先進的國家，美國擁有一系列具備充足技術和資金資源的公司和實驗室，如谷歌、微軟、OpenAI、亞馬遜、Meta等科技巨頭，都在通用大模型上進行了大規(guī)模布局與投資。繼OpenAI發(fā)布ChatGPT大模型之后，中國的科技公司也陸續(xù)加入了大模型開發(fā)和應用的隊伍，并努力將之前的發(fā)展重點（單一模型對應單一任務的專用大模型）調整為通用大模型，如百度開發(fā)的“文心一言”，阿里開發(fā)的“通義M6”，騰訊開發(fā)的“混元”，華為開發(fā)的“盤古”，中國科學院自動化研究所開發(fā)的“紫東太初”等。人工智能的快速發(fā)展引起了全球的廣泛關注，與此同時，開展人工智能治理，發(fā)展負責任和可信的人工智能也正在成為全球共識。中國、美國、歐盟作為三大經(jīng)濟體是最具有代表性的典型樣本［9］，近幾年，已經(jīng)相繼出臺了人工智能治理的相關法規(guī)，做到了有法可依。

1.中國實踐

為搶抓人工智能發(fā)展的重大戰(zhàn)略機遇，構筑我國人工智能發(fā)展的先發(fā)優(yōu)勢，加快建設創(chuàng)新型國家和世界科技強國，我國在大力推動人工智能發(fā)展的同時，也出臺了一系列政策法規(guī)，指導人工智能的健康發(fā)展。國務院在《新一代人工智能發(fā)展規(guī)劃》中提出，“建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力”。該規(guī)劃強調防范人工智能風險，引導人工智能向有益于人類的方向發(fā)展，需要及時就人工智能出現(xiàn)的風險及其防范機制進行研究。國家標準化管理委員會發(fā)布的中國《人工智能標準化白皮書2018》，首次從政府層面提出了中國關于人工智能倫理的人類利益原則和責任原則。同時，中國也通過立法的形式進一步規(guī)范以人工智能為代表的新興技術的發(fā)展，先后出臺了《數(shù)據(jù)安全法》《個人信息保護法》《網(wǎng)絡安全法》，我國人工智能治理逐漸進入法制化軌道。我國各部委也持續(xù)跟進相關政策文件的補充落實，如由國家網(wǎng)信辦發(fā)布的以算法為治理對象的政策文件《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》，對企業(yè)使用算法時需要遵守的規(guī)定、違法之后的處罰作了相應規(guī)定。由工信部發(fā)布的《“十四五”信息化和工業(yè)化深度融合發(fā)展規(guī)劃》，對智能產(chǎn)品在行業(yè)的應用推廣進行了系統(tǒng)性的部署，對其他部署也做了相應的行為規(guī)定［11］。

2.美國實踐

美國作為科技實力最強的國家，其人工智能技術發(fā)展領先全球。美國先后出臺了三個扶持人工智能發(fā)展的政策文件《國家人工智能研發(fā)戰(zhàn)略規(guī)劃》《為人工智能的未來做好準備》《人工智能、自動化與經(jīng)濟報告》，同時漸進式推進人工智能治理的立法實踐。在美國，各州率先出臺了人工智能治理相關的法規(guī)，但是在聯(lián)邦層面的立法進展始終較為緩慢。在治理方式上，美國政府問責局發(fā)布了一個人工智能問責框架，幫助聯(lián)邦機構在算法治理、系統(tǒng)性能、數(shù)據(jù)記錄、持續(xù)監(jiān)測規(guī)范使用智能技術。美國聯(lián)邦貿(mào)易委員會發(fā)布的備忘錄要求各企業(yè)在人工智能的使用中確保透明、公平、可解釋性和穩(wěn)健性。美國國防部發(fā)布的《負責任的人工智能備忘錄》，為第三方開發(fā)者開發(fā)軍用人工智能產(chǎn)品提供了清晰高效的評估和查詢流程。美國平等就業(yè)機會委員會也曾發(fā)起一項致力于消解就業(yè)領域算法偏見的倡議，以確保人工智能和其他用于招聘和就業(yè)決策的新興工具使用符合民權法律［11］。

3.歐盟實踐

2018年4月25日，歐盟委員會發(fā)布了《歐盟人工智能》政策文件，提出了以人為本的人工智能發(fā)展理念。作為人工智能的推動者，歐盟也在世界范圍內(nèi)發(fā)布了首部人工智能法案。2021年4月21日，歐盟發(fā)布了《人工智能法》提案，該法案將人工智能應用的風險劃分為四種，提出了在人工智能產(chǎn)品上市之前，應對產(chǎn)品進行相應風險評估，不可接受風險不能上市，高風險要有合適的監(jiān)管，最大限度地縮小風險擴散的范圍，要求有限風險的產(chǎn)品應該對公眾透明化，對極低風險產(chǎn)品的使用法案不進行干預。作為一項具有權威性的人工智能監(jiān)管法案，該法案為人工智能治理的可執(zhí)行性提供了法律參照［11］。

三、人工智能治理的新理念

隨著新一代人工智能技術的快速發(fā)展，國內(nèi)外學者對以人工智能為代表的新興技術治理進行了廣泛討論，逐漸形成了多種治理理念與模式，比較前沿和新型的治理理念主要有以下幾種。

1.敏捷治理

敏捷治理理論最初是在軟件開發(fā)領域提出的，強調軟件開發(fā)過程的互動，加強與客戶合作，通過工具創(chuàng)新和迭代縮短軟件開發(fā)周期，以應對快速變化的環(huán)境與需求的一種理論。歷經(jīng)多年的發(fā)展變化，敏捷治理從軟件開發(fā)領域發(fā)展到多學科應用，其核心理念“以敏捷的態(tài)度回應快速變化的環(huán)境”得到了諸多學者的認可與發(fā)展。2018年的世界經(jīng)濟論壇發(fā)布了標題為《敏捷治理：第四次工業(yè)革命時代政策制定的重構》的治理白皮書，將敏捷治理正式引入政府治理領域［12］。該白皮書提出，敏捷治理是一種自適應、以人為本與具有包容性和可持續(xù)性的決策過程，其運用的手段應具有靈活性、適應性和柔韌性，敏捷不僅要求更快速的反應與治理行為，同時還要對政策流程進行全新的設計。

在實踐方面，敏捷治理首先在西方國家得到了政府的采納。美國政府采用敏捷的方法與理念，在政府內(nèi)部通過敏捷治理改進電子政府的效率與服務，從治理流程、服務內(nèi)容、價值交付等方面進行敏捷化變革。英國數(shù)字服務小組（GDS）以敏捷治理理念為指導，建立起敏捷服務社區(qū)，通過建立在線服務平臺，對社區(qū)居民的需求進行迅速的回應，為其提供高效高質的社會服務。第四次工業(yè)革命中，以大數(shù)據(jù)、人工智能、區(qū)塊鏈為代表的新興技術改變了人類社會傳統(tǒng)的信息溝通方式，給政府監(jiān)管、風險控制帶來了巨大挑戰(zhàn)。在此背景下，敏捷治理被認為是回應新興技術治理的理想方式。敏捷治理是指應對不斷變化的新興技術采取同等迅速變化的、靈活的、適應性的手段進行治理，敏捷治理通過對快速變化的新興產(chǎn)業(yè)進行治理從而推動其進行創(chuàng)新。

敏捷治理具有如下特征：其一，時間敏感性。敏捷治理需要對快速變化的新技術變化采取同等迅速的手段進行監(jiān)管和治理，同時進行持續(xù)性的準備以應對未知的風險，并在不斷變化與技術更迭中實現(xiàn)學習與創(chuàng)新。其二，參與廣泛性。敏捷治理強調多方利益主體之間的協(xié)同合作，通過讓更多的利益主體參與到政策制定與治理過程中來，加強多主體間的協(xié)調與合作，將企業(yè)的創(chuàng)新活力融入政府治理中，以多方利益平衡機制增進政策的有效性與可持續(xù)性。其三，政策工具的更迭與創(chuàng)新。新技術發(fā)展為政府治理工作的開展所采取的方法與工具提出了更高的要求，傳統(tǒng)的治理工具具有時滯性高、治理力度大的特征，敏捷治理要求政府不斷更新治理工具，以輕柔、靈活的工具為主，以方向修正與抽象指導為主要治理方式，以互動式監(jiān)管促進產(chǎn)業(yè)創(chuàng)新。

2.韌性治理

“韌性”一詞來源于拉丁詞語“Resiliens”，但直到 19 世紀初，隨著彈性力學基本理論的確立，“韌性”一詞才被賦予“壓縮后恢復原狀能力”的內(nèi)涵。20世紀50年代，西方心理學引入“韌性”的概念來反映人們遭受精神創(chuàng)傷后的恢復情況。20世紀70年代，生態(tài)學家Holling首次使用“韌性”一詞描述干擾過后生態(tài)、資源系統(tǒng)的自我修復能力，并認為這種性質不僅意味著系統(tǒng)能恢復到原初平衡狀態(tài)，更重要的是可以向新的平衡狀態(tài)轉化［13］。

近年來，國內(nèi)外專家學者紛紛將韌性治理引入到公共管理領域，韌性治理是指在系統(tǒng)分析脆弱性風險的基礎上，運用更具包容性、冗余度、感知力與應變力的治理手段，通過事前預警規(guī)避、事中響應調整、事后迅速恢復和優(yōu)化的系統(tǒng)流程來提升風險治理水平［14］。韌性治理的理念逐漸融入國家治理、城市建設、社區(qū)治理、產(chǎn)業(yè)治理的各個方面和各項具體行動之中。在治理過程中，以人工智能、大數(shù)據(jù)、云計算為代表的新興技術，一方面，可以作為治理工具賦能韌性治理，協(xié)助進行智能社會治理、智慧城市治理，防范和化解城市和生活中存在的各種風險和矛盾，提升治理的效率和效能；另一方面，人工智能等新興技術也作為治理對象存在，治理者對人工智能存在的風險進行識別和預測并制定治理預案，對已經(jīng)出現(xiàn)的風險和問題進行有效干預和控制。只有依法和適度地應用人工智能，才能讓人工智能在韌性治理過程中實現(xiàn)治理工具和治理對象的統(tǒng)一。

3.負責任創(chuàng)新和治理

2003年，德國學者海斯托姆首次提出了“負責任創(chuàng)新”的概念，隨著新興技術的不斷發(fā)展，各國政府和學者也在不斷思考“創(chuàng)新創(chuàng)造”和“治理”之間的辯證關系，“負責任創(chuàng)新”的內(nèi)涵被不斷拓展。2011年，歐盟政策委員會發(fā)布了《地平線 2020框架計劃》，其中明確提出“負責任創(chuàng)新”這一概念，并將其作為歐盟發(fā)展戰(zhàn)略的重要內(nèi)容。該計劃指出，負責任創(chuàng)新的基本要素包括社會利益、道德倫理可接受程度及風險管理等，強調將科技進步合理地嵌入社會發(fā)展進程，引導科技創(chuàng)新的過程與產(chǎn)品實現(xiàn)倫理可接受、發(fā)展可持續(xù)和社會滿意，實現(xiàn)科技創(chuàng)新面向未來發(fā)展的集體管理［15］。

負責任創(chuàng)新聚焦新興技術治理，推動了傳統(tǒng)的以風險議題為核心的技術治理模式走向創(chuàng)新行為的責任塑造模式，形成了目標設定、行動主體參與、價值準則協(xié)調、過程響應、制度建構五個維度［15］，逐漸成為新興技術治理的主流治理模式和理念之一。歐盟針對新興技術治理的責任式創(chuàng)新范式的提出，得到全球多個國家如美國、英國、印度、韓國等的積極響應。中國隨即也展開了對負責任創(chuàng)新的新興技術治理的研究與實踐，2019 年6月17日，我國發(fā)布《新一代人工智能治理原則》，其中明確提出了“發(fā)展負責任的人工智能”［15］。

四、啟示與展望

人工智能作為全球前沿的創(chuàng)新領域，其產(chǎn)生的顛覆性突破往往會帶動其他產(chǎn)業(yè)的發(fā)展甚至引發(fā)整個社會的綜合性變革。因此，

對于人工智能的發(fā)展和治理，不僅要充分釋放“制”的優(yōu)勢，更要做好“治”的文章，充分發(fā)揮各治理主體的作用，需要政府發(fā)揮統(tǒng)領監(jiān)督引導作用，整合企業(yè)、科研機構、高校的各種資源，實現(xiàn)政府、企業(yè)、高校、科研機構的協(xié)同發(fā)力。

人工智能治理機構應從技術上致力于提高人工智能技術的可解釋性、信任度、評估監(jiān)測等，同時也應開展人工智能行為科學和倫理等問題研究，研制多層次的人工智能治理框架，研究人工智能立法規(guī)劃和制定人工智能突發(fā)事件應急方案。針對人工智能存在的“黑箱”問題和不可解釋性，應努力提高算法透明度，如規(guī)定在某些情形下公開人工智能系統(tǒng)或應用代碼，規(guī)定公眾或受人工智能自動決策影響的用戶有權知道人工智能算法背后的基本邏輯或運算標準，用戶在受到不公正對待時有權獲得救濟并對相關責任主體追究責任。

參考文獻：

［1］ RAPAPORT W J.What is artificial intelligence？［J］.Journal of Artificial General Intelligence，2022（2）：52.

［2］ MAAS M.Artificial intelligence governance under change foundations，facets，frameworks［D］. Denmark：University of Copenhagen，2020.

［3］ 龐禎敬，薛瀾.人工智能治理：認知邏輯與范式超越［J］.科學學與科學技術管理，2022（9）：3.

［4］ 閆德利. 2016年人工智能產(chǎn)業(yè)發(fā)展綜述［J］.互聯(lián)網(wǎng)天地，2017（2）：22.

［5］ 石琳娜，陳勁.數(shù)字經(jīng)濟推動實現(xiàn)共同富裕的機理與路徑研究［EB/OL］.（2022-11-30）［2022-12-01］.https：∥kns.cnki.net/kcms/detail∥42.1224.G3.20221130.1432.003.html.

［6］ 魯傳穎，張璐瑤.人工智能的安全風險及治理模式探索［J］.國家安全研究，2022（4）：84.

［7］ 洪永淼，汪壽陽.人工智能新近發(fā)展及其對經(jīng)濟學研究范式的影響［J］.中國科學院院刊，2023（3）：353.

［8］ LIU T.Algorithm＼|dependent generalization bounds for multi＼|task learning［J］.IEEE Transactions on Pattern Analysis and Machine Intelligence， 2016（39）：227.

［9］ 梁正，張輝.構建平衡包容的人工智能治理體系［J］.中國發(fā)展觀察，2022（12）：44.

［10］劉露，楊曉雷，高文.我國人工智能倫理監(jiān)管需求分析及對策研究［J］.中國工程科學，2021（3）：106.

［11］段家欣，趙瑜.全球人工智能治理的核心議題與規(guī)制趨勢［J］.聲屏世界，2022（12）：5.

［12］曹海軍，侯甜甜.敏捷賦能視角下的數(shù)字政府建設：實踐緣起與理論建構［J］.吉林大學社會科學學報，2021（6）：170.

［13］HOLLING C S.Resilience and stability of ecological systems［J］.Annual Review of Ecology and Systematics，1973（4）：1.

［14］翟紹果，張星.從脆弱性治理到韌性治理：中國貧困治理的議題轉換、范式轉變與政策轉型［J］.山東社會科學，2021（1）：76.

［15］梅亮，臧樹偉，張娜娜.新興技術治理： 責任式創(chuàng)新視角的系統(tǒng)性評述［J］.科學學研究，2021（12）：2113.

［責任編輯：王天笑］