全球人工智能治理的核心議題與規(guī)制趨勢

□段家欣 趙瑜

近年來人工智能在深度學習、人機協(xié)同等關(guān)鍵領(lǐng)域呈現(xiàn)出蓬勃的發(fā)展態(tài)勢，但其“黑箱”特性也為人類權(quán)益、社會公平和國際格局帶來了風險和挑戰(zhàn)。為此，世界各地的監(jiān)管機構(gòu)持續(xù)致力于人工智能系統(tǒng)的規(guī)范使用，僅在2021-2022年就起草、討論、通過、發(fā)布和生效了大量法律法規(guī)、原則性文件與行政命令。為描述近期人工智能在全球范圍內(nèi)的治理情況，筆者采用系統(tǒng)綜述的方法，首先通過網(wǎng)頁匯總清單獲取治理文本，其次核對現(xiàn)有報告與研究中整理的文獻清單，最后利用谷歌搜索以“AI governance”“AI principles”和與之對應(yīng)的中文為關(guān)鍵詞。檢索以2021年1月1日為起始時間，對所得的前五十條鏈接進行人工訪問和篩選，每一步均進行了核查與去重，共計獲得120份全球權(quán)威機構(gòu)發(fā)布的人工智能治理文本?？傮w而言，2021-2022新發(fā)布的文本呈現(xiàn)出“剛?cè)岵钡奶攸c，“軟法”與“硬法”兼有，還具有顯著的全球性與多元性。

重點議題的治理現(xiàn)狀

治理原則往往來源于倫理爭議。在人工智能的發(fā)展進程中，平臺算法規(guī)制、個人信息保護和勞動用工規(guī)范已然成為三個不可忽視的重要議題。2021-2022年新發(fā)布的治理文本圍繞以上議題出臺了大量法律法規(guī)與倡議指南，雖然不同文本的監(jiān)管效力和措施方法不同，但無論是從發(fā)文數(shù)量還是從文本影響力來看，這三個議題均已成為當下人工智能的監(jiān)管重點。

平臺責任和算法規(guī)制。算法是網(wǎng)絡(luò)平臺個性化推送服務(wù)的核心，也是人工智能應(yīng)用場景的基礎(chǔ)，但長期以來，網(wǎng)絡(luò)平臺的責任視野始終局限于事故發(fā)生后的問責與賠償，未能建立涵蓋人工智能全信息周期的責任框架與算法規(guī)制。這一現(xiàn)象在2021年得到改善，在全球范圍內(nèi)出現(xiàn)了許多有關(guān)平臺責任和算法規(guī)制的規(guī)范性文本，它們以“向善”和“以人為本”為出發(fā)點，表現(xiàn)出兩大特點。首先，平臺在算法規(guī)制中的主體權(quán)責得以明確?！稓W盟人工智能法案》從“風險等級劃分”的角度明確企業(yè)在使用各類算法時應(yīng)承擔的不同權(quán)責，我國市場監(jiān)督管理總局組織起草的《互聯(lián)網(wǎng)平臺分類分級指南（征求意見稿）》和《互聯(lián)網(wǎng)平臺落實主體責任指南（征求意見稿）》也于2021年年末開始向社會征求意見，有望通過合理劃分平臺等級，推動超大型平臺承擔更多責任與義務(wù)，形成更為細致合理的平臺責任規(guī)范。其次，政府監(jiān)管算法治理的力度逐漸加大，不再僅作原則性的指導(dǎo)，而是通過出臺和生效標準性文件促使算法治理在全球范圍內(nèi)落地實施。如英國中央數(shù)字辦公室等機構(gòu)在2021年11月發(fā)布算法透明度標準，涵蓋了數(shù)據(jù)要求、透明度模板和行動指南等內(nèi)容，為政府部門和公共機構(gòu)利用算法進行決策提供支持。政府對于算法安全的監(jiān)管也不再局限于文本規(guī)制，而是啟用行政監(jiān)管的力量打擊違規(guī)行為。這一趨勢在中央網(wǎng)信辦牽頭開展的“清朗·2022年算法綜合治理”專項行動中得以凸顯。從2022年4月開始，相關(guān)部門將對各大網(wǎng)站、平臺與產(chǎn)品的算法安全能力展開評估，以期推動算法治理的規(guī)范化發(fā)展。

信息保護與數(shù)據(jù)使用。2021年在信息保護與數(shù)據(jù)使用領(lǐng)域新出臺的治理規(guī)范在國內(nèi)外表現(xiàn)出不同的趨勢。在我國，2021年是相關(guān)法律落地實施的關(guān)鍵一年。這年9月起生效的《數(shù)據(jù)安全法》明確了主管機構(gòu)的監(jiān)管職責，要求建立數(shù)據(jù)安全協(xié)同治理體系，切實提高數(shù)據(jù)安全保障能力，促進數(shù)據(jù)出境安全和開發(fā)使用。同年11月起實施的《個人信息保護法》為個人信息的合法使用確立了“是否匿名”的邊界，相比歐盟和美國加州的數(shù)據(jù)隱私法律，《個人信息保護法》僅對個人信息用于人力監(jiān)管的正當性予以認可，具有最為嚴格的合法性基礎(chǔ)。在西方國家，規(guī)制數(shù)據(jù)信息的安全使用已有較長的歷史，因此在2021年更多關(guān)注特定技術(shù)的倫理隱憂，尤其是具有高度侵入性（invasive）的生物識別技術(shù)對于個人隱私的侵犯。歐洲數(shù)據(jù)保護委員會和數(shù)據(jù)保護監(jiān)督局于2021年6月發(fā)布聯(lián)合聲明，呼吁全面禁止人工智能自動識別技術(shù)在公共空間中的使用，美國國會中也有議員提出法案，要求在政府資助的公共住房中禁止人臉識別技術(shù)的使用，但弗吉尼亞州搖擺的行政命令卻凸顯了這一嚴格監(jiān)管背后的博弈。該州曾于2021年發(fā)布“禁止執(zhí)法部門使用人臉識別技術(shù)”的命令，但在禁令生效八個月后，立法者又重新允許人臉識別技術(shù)用于識別犯人和獲取證據(jù)。相比之下，我國并未對人臉識別采取一刀切的治理方式，而是將其歸類為敏感信息獲取，要求在征得個人同意的基礎(chǔ)上，以最小化原則進行信息的獲取和使用。2021年8月起正式實施的《最高人民法院關(guān)于審理使用人臉識別技術(shù)處理個人信息相關(guān)民事案件適用法律若干問題的規(guī)定》也對涉及侵犯信息主體權(quán)利的情形、場景和救濟方式進行了詳細規(guī)定，有利于人臉識別技術(shù)持續(xù)發(fā)揮良性作用。

智能技術(shù)與人類勞動。人工智能技術(shù)應(yīng)用于勞動用工領(lǐng)域產(chǎn)生的倫理問題近年來也受到了社會的廣泛關(guān)注。繼“困在算法中的外賣騎手”，被AI監(jiān)工的亞馬遜物流人員，俄羅斯在線支付服務(wù)公司Xsolla的150名員工也在算法的介入下因“不敬業(yè)且效率低下”被公司解雇。在智能技術(shù)的協(xié)助下，公司對勞動者的控制更為全面精確，在資源調(diào)度和利益分配中占據(jù)絕對優(yōu)勢地位，甚至無需雇傭管理團隊即可構(gòu)建穩(wěn)定的組織形態(tài)，而受雇傭的勞動者不僅將與勞動產(chǎn)品、勞動過程和自身的勞動本質(zhì)相異化，還將成為原子化的個體，失去與雇傭者抗衡的能力。因此，人工智能在提高工作效率的同時，也使人們逐步陷入了勞動內(nèi)卷的局面，主體價值貶損、勞動目標異化的問題也日益凸現(xiàn)了出來。

這一現(xiàn)象引發(fā)了國內(nèi)外監(jiān)管機構(gòu)的關(guān)注，美國對外關(guān)系委員會發(fā)文直指機器人時代的“幽靈工作”問題。當前人工智能系統(tǒng)的運行仍依賴大量數(shù)據(jù)標注、訓練算法的工作者，由此催生出的隱形臨時勞工市場尚未得到關(guān)注和規(guī)范。文章呼喚建立一種適用于人工智能時代的社會契約，規(guī)范勞工市場，保護勞動者權(quán)利，確保人工智能應(yīng)用的公平性與透明性。我國人力資源和社會保障部等八個部委也印發(fā)《關(guān)于新就業(yè)形態(tài)勞動者勞動保障權(quán)益的指導(dǎo)意見》，督促企業(yè)修訂涉及勞工權(quán)益的平臺算法，落實公平就業(yè)、科學勞動和合理薪資，為“十四五”時期人工智能產(chǎn)業(yè)的穩(wěn)定、和諧、向善發(fā)展提供了政策層面的保障。

重要主體的治理實踐

從發(fā)布主體層面觀察人工智能治理文本可以發(fā)現(xiàn)，歐盟、中國和美國作為世界三大經(jīng)濟體在GDP領(lǐng)跑世界的同時，也在人工智能治理方面形成了特色鮮明的規(guī)范制度，是在不同地域文化、社會制度背景下施行人工智能治理實踐的典型樣本。

中國：立法落地，部委協(xié)作推動治理實踐。2021年被稱為我國的算法治理元年，《數(shù)據(jù)安全法》《個人信息保護法》與《網(wǎng)絡(luò)安全法》落地實施，所以盡管尚未對人工智能治理進行綜合立法，但我國已有較多針對數(shù)據(jù)安全與信息保護的專門立法實踐。遵循法律文本，幾大部委也于2021年加強協(xié)作，推進人工智能治理在全國范圍內(nèi)形成由網(wǎng)信辦主導(dǎo)信息領(lǐng)域的人工智能監(jiān)管，工信部發(fā)布人工智能國家戰(zhàn)略，科技部側(cè)重倫理規(guī)制制定的治理模式。其中，國家網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》作為全世界首部以算法為調(diào)整對象的系統(tǒng)全面的法律性文件，對各類算法技術(shù)的適用場景和企業(yè)使用算法時需恪守的強制性義務(wù)及違反后的懲罰措施做了詳細規(guī)定；工信部發(fā)布的《“十四五”信息化和工業(yè)化深度融合發(fā)展規(guī)劃》對智能產(chǎn)品在工業(yè)、交通、醫(yī)療、教育等重點行業(yè)的應(yīng)用推廣進行了系統(tǒng)性的部署；科技部發(fā)布的《新一代人工智能倫理規(guī)范》則圍繞管理、研發(fā)、供應(yīng)、使用和組織五個環(huán)節(jié)提出了18項具體規(guī)范，將抽象的倫理原則以具體規(guī)范的形式融入人工智能全生命周期。其他部委如人民銀行、人力資源社會保障部、市場監(jiān)管總局、衛(wèi)健委等也在具體領(lǐng)域積極出臺政策文件，共同促進人工智能治理在我國落地生根。

歐盟：發(fā)布世界首部人工智能法案。作為人工智能監(jiān)管在全球范圍內(nèi)的“第一推動者”，2021年歐盟繼續(xù)采用全面立法的方式規(guī)范人工智能在各行業(yè)的應(yīng)用，并于4月21日發(fā)布《人工智能法》提案，這是世界范圍內(nèi)首部對人工智能進行綜合性立法的法案。該法案將人工智能應(yīng)用劃分為不可接受的風險（Unacceptable risk）、高風險（High risk）、有限風險（Limited risk）和極低風險（Minimal risk）四類。其中，涉及操縱人類行為的“潛意識技術(shù)”，利用兒童和殘疾人脆弱性或可能影響社會信用評分的人工智能應(yīng)用被認為具有不可接受的風險，法案禁止該類應(yīng)用上市；涉及公共基礎(chǔ)設(shè)施、社會福利、醫(yī)療服務(wù)、教育培訓等領(lǐng)域的人工智能應(yīng)用被認為具有高風險，法案提出應(yīng)在其上市前進行充分的風險評估，確保算法偏見最小化、活動記錄可追溯，并引入合適的人力監(jiān)管措施以最大限度地減少風險；聊天機器人等對人類生存安全與基本權(quán)利具有有限風險的人工智能應(yīng)用，法案僅明確了其向用戶公開透明的義務(wù)；電子游戲和垃圾郵件識別軟件等對人類安全與權(quán)利不產(chǎn)生影響或者影響甚微的極低風險的人工智能應(yīng)用，法案并未進行干預(yù)。雖然該法案目前仍在立法流程內(nèi)，并未落地實施，但作為一項嚴格的人工智能監(jiān)管法規(guī)，《歐盟人工智能法案》明確了“人類中心主義”的原則，強調(diào)人工智能應(yīng)用需服從社會基本價值觀，為人工智能治理從原則性指導(dǎo)走向可審核可執(zhí)行的程序提供了必要的法律明確性、普遍性和強制性。

美國：漸進式推進人工智能治理立法實踐。在美國，與各州持續(xù)出臺人工智能相關(guān)法律不同，聯(lián)邦層面的立法進展始終較為緩慢，但該國第117屆國會無疑是歷史上最關(guān)注人工智能監(jiān)管的國會會議。據(jù)斯坦福大學發(fā)布的《2022年人工智能指數(shù)報告》顯示，2021年共有130項與人工智能有關(guān)的法案被提出，但自2015年以來，相關(guān)提案的通過率僅2%。可見相比歐盟統(tǒng)一、嚴格的治理標準和立法實踐，美國對于人工智能治理的立法較為謹慎，更多通過各部門規(guī)制的方式陸續(xù)推出，漸進式地在各行業(yè)內(nèi)納入人工智能監(jiān)管措施。具體而言，在治理方式上，美國政府問責局發(fā)布的實踐報告算法治理、系統(tǒng)性能、數(shù)據(jù)記錄、持續(xù)監(jiān)測四個關(guān)鍵領(lǐng)域開發(fā)了一個人工智能問責框架，幫助聯(lián)邦機構(gòu)規(guī)范使用智能技術(shù)；在治理原則上，聯(lián)邦貿(mào)易委員會2021年4月發(fā)布的備忘錄要求各公司在人工智能的使用中確保透明、公平、可解釋性和穩(wěn)健性。在國土安全方面，美國國防部發(fā)布的《負責任的人工智能備忘錄》從規(guī)劃、開發(fā)和部署階段為第三方開發(fā)者構(gòu)建軍用AI提供了清晰高效的評估和查詢流程；在平等就業(yè)方面，美國平等就業(yè)機會委員會也發(fā)起一項消解就業(yè)領(lǐng)域算法偏見的倡議，致力于確保人工智能和其他用于招聘和就業(yè)決策的新興工具使用符合民權(quán)法律。

治理規(guī)范與發(fā)展趨勢

盡管不同國家和地區(qū)的發(fā)布主體對于人工智能的治理重點和治理方式不同，但是總體而言，2021年全球范圍內(nèi)的人工智能治理正在從文本走向?qū)嵺`，從倡議走向監(jiān)管，實現(xiàn)了將抽象倫理規(guī)則轉(zhuǎn)化為具體實施措施的突破性進展。在向更為平衡包容的治理體系發(fā)展的過程中，現(xiàn)有治理規(guī)范表現(xiàn)出了向垂直領(lǐng)域不斷清晰，向硬法程序逐步過渡和向全球協(xié)同持續(xù)推進的發(fā)展趨勢。

文本專業(yè)性加強，垂直領(lǐng)域治理規(guī)范不斷清晰。隨著人工智能在各領(lǐng)域應(yīng)用的不斷深入，各國家和地區(qū)已不再局限于制定宏觀層面的指導(dǎo)戰(zhàn)略，而是細化至垂直領(lǐng)域，出臺專業(yè)性的規(guī)制文本。這一趨勢首先表現(xiàn)在與人類生命安全和生存環(huán)境密切相關(guān)的衛(wèi)生健康領(lǐng)域。世界衛(wèi)生組織于2021年6月發(fā)布的全球報告明確了人工智能應(yīng)用于衛(wèi)生領(lǐng)域的六大原則，要求技術(shù)始終以人類自主權(quán)和共同利益為出發(fā)點，確保使用透明與過程公平，完善解釋和問責機制。且由于衛(wèi)生領(lǐng)域的人工智能應(yīng)用需要較長時間的臨床實驗和對醫(yī)護人員進行特殊培訓，報告特別提及智能技術(shù)在該領(lǐng)域的使用需具有可持續(xù)性和可響應(yīng)性，在充分滿足患者需求的同時，不至于過度影響現(xiàn)有醫(yī)療產(chǎn)業(yè)的勞動力市場與資源使用。與此同時，許多國家監(jiān)管機構(gòu)發(fā)布規(guī)則文本，促進治理原則落地實施。以美國食品和藥品管理局發(fā)布的《基于人工智能/機器學習的醫(yī)療設(shè)備行動計劃》為例，該計劃明確了人工智能醫(yī)療器械和軟件在治療、診斷、預(yù)防等多個過程中的開發(fā)與使用要求，有望發(fā)展成貫穿產(chǎn)品生命周期的整體監(jiān)管框架。

除衛(wèi)生領(lǐng)域外，在許多涉及社會福利與公共基礎(chǔ)建設(shè)的行業(yè)中也有針對性的原則發(fā)布。如在社會保障領(lǐng)域，歐洲保險和職業(yè)養(yǎng)老金管理局發(fā)布的報告對保險市場中的人工智能使用提出了六條具體原則。在教育科技領(lǐng)域，聯(lián)合國教科文組織2021年出版的圖書《人工智能和教育:政策制定者指南》詳細解讀了人工智能新興趨勢對教學的影響，為政策制定者因地制宜地規(guī)劃教育政策和項目提供建議。在文本的基礎(chǔ)上，教科文組織還致力于開發(fā)一項人工智能應(yīng)用于教育行業(yè)的知識庫，號召成員國共同推進新興教育社會契約的形成。

軟法可審核性加強，向硬法逐步過渡。盡管在2021年之前就有大量利益相關(guān)者通過發(fā)布聲明、準則、最佳實踐、行業(yè)標準等一系列規(guī)范性“軟法”遏制算法偏見、促進個人信息保護與社會公平，但由于缺乏體制框架和可執(zhí)行程序，大多數(shù)軟法無法切實約束人工智能治理實踐。2021年發(fā)布的規(guī)范性文件也關(guān)注到了這一問題，因此有較多文本針對過往已經(jīng)發(fā)布的意見完善程序可審核性（auditability）。作為一種執(zhí)行透明的方式，審核提供了權(quán)益之計和強制規(guī)則之間的協(xié)調(diào)機制，因此也是確保問責制發(fā)揮作用的重要方法。我國《新一代人工智能倫理規(guī)范》將2019年提出的治理原則規(guī)范化為具體的條例，美國《負責任的人工智能備忘錄》也在重申公平、問責和透明等原則的基礎(chǔ)上更加注重具體的實踐框架，西班牙數(shù)據(jù)保護局發(fā)布的《涉及人工智能的個人數(shù)據(jù)處理活動的審核性要求》，德國聯(lián)邦信息安全辦公室發(fā)布的《人工智能系統(tǒng)可審核性白皮書》也都明確表達了對于人工智能系統(tǒng)可審核目標的關(guān)切。

雖然增加軟法的可審核性條款為宏觀人工智能戰(zhàn)略的落地提供了具體的監(jiān)管辦法，但在必要時由程序性薄弱的軟法向由國家強制力保障實施的硬法過渡，有利于原則文本取得切實的實踐效益和治理成果。這一趨勢也在2021年全球主要國家和地區(qū)發(fā)布的治理文本中得到了體現(xiàn)，無論是歐盟的全面統(tǒng)一監(jiān)管，中國的重點領(lǐng)域監(jiān)管，抑或是美國由政府規(guī)章驅(qū)動、地方立法推動的漸進式監(jiān)管，都是人工智能治理文本從僅關(guān)注社會共識的敏捷軟法向邊界更為清晰、規(guī)則更為確定，程序更加可執(zhí)行的硬法過渡的方式。在2022年及之后，隨著已在立法流程內(nèi)的法案陸續(xù)落地，更為細致和明確的人工智能治理硬法框架將持續(xù)完善，促進人工智能治理體系在最大限度上保障人類基本權(quán)利、維護社會公平體系。

規(guī)制標準化加強，全球治理競賽與協(xié)同發(fā)展并舉。隨著治理文本數(shù)量的不斷增加，治理輻射范圍的不斷擴大，在現(xiàn)有文本的基礎(chǔ)上設(shè)定國際通用的標準已經(jīng)成為2021年人工智能治理的關(guān)注焦點。因此，在原則文本方面，許多針對人工智能安全的標準被提出，如國際標準組織和國際電工委員會聯(lián)合成立的技術(shù)委員會近年來持續(xù)就人工智能國際標準的制定發(fā)布技術(shù)報告，提出各類風險緩解策略和安全性測試方法；在治理工具方面，歐洲創(chuàng)新與技術(shù)研究所發(fā)布的人工智能成熟度工具等旨在提供可解釋的標準程序以評估人工智能應(yīng)用的工具箱也在全球范圍內(nèi)陸續(xù)出現(xiàn)，在一定程度上彌補了過往文本缺乏概念明晰性和多元協(xié)調(diào)性的缺點。

2021年，各國持續(xù)強化人工智能賽道的戰(zhàn)略部署。英國發(fā)布了首個《國家人工智能戰(zhàn)略》，美國也在報告中明確了“在人工智能時代保衛(wèi)美國”和“贏得人工智能技術(shù)競賽”兩大目標。與此同時，各國也試圖通過國際合作與區(qū)域間協(xié)同發(fā)展形成人工智能治理的國際規(guī)范。這一方面表現(xiàn)為主權(quán)國家之間相互協(xié)調(diào)，形成人工智能治理共識文件，如聯(lián)合國教科文組織發(fā)布的《人工智能倫理建議書草案》于2021年11月24日獲成員國一致通過，美歐貿(mào)易和技術(shù)委員會發(fā)表的第一份聯(lián)合聲明中承諾將開發(fā)和實施創(chuàng)新、值得信賴、尊重普遍人權(quán)和共同民主價值觀的人工智能系統(tǒng)。另一方面也表現(xiàn)為國家、國際組織、從業(yè)者、學術(shù)界共同形成行業(yè)宣言文件，如在首屆全球數(shù)字經(jīng)濟大會人工智能產(chǎn)業(yè)治理論壇上發(fā)布的《人工智能產(chǎn)業(yè)擔當宣言》，便是在核心骨干企業(yè)和學術(shù)研究機構(gòu)的共同商討下形成的倡議性文件。

就當下人工智能治理的實踐情況而言，標準化的工具和文本，國際協(xié)同的共識和宣言仍然停留于自愿使用和原則指導(dǎo)層面，未能形成普適性的原則框架。2021年我國對赴美上市的“滴滴出行”實施網(wǎng)絡(luò)安全審查?！睹绹鴦?chuàng)新與競爭法》也將人工智能與機器學習列為需要提高投資以應(yīng)對中國競爭的關(guān)鍵技術(shù)范疇。這反映出中美雙方對于數(shù)據(jù)流動可能導(dǎo)致國家安全受威脅的擔憂，人工智能治理也進入政治博弈的場域。

近年來世界各國對人工智能技術(shù)的發(fā)展和治理保持高度關(guān)切，不僅從產(chǎn)業(yè)競爭力的角度將之上升為國家戰(zhàn)略，也從國家安全和社會福祉的角度嚴密監(jiān)管技術(shù)應(yīng)用的趨向。2021年全球新增百余份人工智能規(guī)范性文件，平臺算法規(guī)制、個人數(shù)據(jù)使用和勞動用工規(guī)范是各規(guī)制主體共同關(guān)心的議題。在人類中心主義的基本立場上，確保人工智能向著保障人類權(quán)益的方向發(fā)展，是各國共同的訴求。而近期的國際博弈呈現(xiàn)出人工智能治理原則政治化的可能性，如何在人工智能治理博弈中提升話語權(quán)，也是各國現(xiàn)實的考慮。