歐盟人工智能戰(zhàn)略框架下的倫理準(zhǔn)則及其國際含義*

殷佳章 房樂憲

【內(nèi)容提要】近年來，人工智能技術(shù)不斷發(fā)展，對人類生活產(chǎn)生了巨大影響。人工智能已經(jīng)成為新時(shí)期國際競爭的重點(diǎn)領(lǐng)域之一。在此背景下，歐盟意識到人工智能的重要意義，為此先后出臺了《歐洲人工智能》與《人工智能協(xié)調(diào)計(jì)劃》等重要政策文件，相關(guān)戰(zhàn)略框架初步成型。在此基礎(chǔ)上，2019年4月歐盟發(fā)布了《可信人工智能倫理準(zhǔn)則》與《建立以人為本的可信人工智能》兩個(gè)政策文件，明確提出七條關(guān)鍵倫理要求，對歐盟的人工智能戰(zhàn)略框架做了補(bǔ)充與細(xì)化。本文在簡要回溯歐盟人工智能戰(zhàn)略框架的基礎(chǔ)上，具體闡釋了歐盟人工智能倫理準(zhǔn)則的核心內(nèi)涵，分析了其出臺動(dòng)因及國際含義。本文認(rèn)為該準(zhǔn)則的出臺可以視為歐盟把握戰(zhàn)略機(jī)遇、應(yīng)對多重發(fā)展挑戰(zhàn)、發(fā)揮自身機(jī)制優(yōu)勢而做出的重要戰(zhàn)略調(diào)整。結(jié)合歐盟在此方面的舉措，本文進(jìn)一步思考了其對中國人工智能發(fā)展的相關(guān)啟示，提出中國應(yīng)保持既有發(fā)展優(yōu)勢，建立并完善官方倫理監(jiān)管體系，積極參與并推動(dòng)國際人工智能倫理標(biāo)準(zhǔn)的制定。

近年來，人工智能發(fā)展迅猛，已成為21世紀(jì)最為重要的戰(zhàn)略核心技術(shù)之一。除了為日常生活提供便利，人工智能在解決人類面臨的共同挑戰(zhàn)方面也發(fā)揮著日益重要的作用。正如前兩次工業(yè)革命時(shí)期的蒸汽機(jī)與電力，人工智能的研發(fā)與利用將直接影響甚至塑造未來的世界格局。為抓住這一重要戰(zhàn)略機(jī)遇，歐盟自2018年以來先后出臺《歐洲人工智能》與《人工智能協(xié)調(diào)計(jì)劃》兩個(gè)重要政策文件，初步勾勒出歐盟人工智能的發(fā)展戰(zhàn)略框架。2019年4月，歐盟在此基礎(chǔ)上發(fā)布了歐盟版人工智能倫理準(zhǔn)則，進(jìn)一步完善并細(xì)化了相關(guān)戰(zhàn)略。歐盟此舉是其適應(yīng)人工智能發(fā)展新態(tài)勢、發(fā)揮自身規(guī)范性力量優(yōu)勢做出的重要戰(zhàn)略回應(yīng)。在歐盟人工智能戰(zhàn)略框架下審視其倫理準(zhǔn)則的核心內(nèi)涵，探究其出臺動(dòng)因，有利于更好理解歐盟新時(shí)期的發(fā)展戰(zhàn)略。歐盟相關(guān)舉措對于目前同樣致力于發(fā)展人工智能技術(shù)的中國具有重要啟示意義。

一、歐盟人工智能戰(zhàn)略框架的目標(biāo)追求及行動(dòng)計(jì)劃

（一）《歐洲人工智能》政策文件的出臺

2018年4月25日，歐盟委員會發(fā)布了題為《歐洲人工智能》的政策文件，①European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final.首次系統(tǒng)地提出了歐盟版的人工智能發(fā)展戰(zhàn)略規(guī)劃。這為歐盟人工智能技術(shù)的研發(fā)與應(yīng)用奠定了總體基調(diào)，明確提出歐盟各國應(yīng)協(xié)同一致，把握人工智能的發(fā)展機(jī)遇、應(yīng)對相應(yīng)挑戰(zhàn)。歐盟強(qiáng)調(diào)將結(jié)合自身價(jià)值觀與技術(shù)優(yōu)勢，主導(dǎo)人工智能技術(shù)向造福全人類的方向發(fā)展。②European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final.為此，歐盟在該政策文件中提出了首個(gè)歐洲人工智能倡議，并確定了歐洲人工智能發(fā)展的三大目標(biāo)：（1）提升歐盟技術(shù)、產(chǎn)業(yè)能力，推進(jìn)人工智能的廣泛應(yīng)用，主要包括：加大投資力度、鼓勵(lì)人工智能研發(fā)、推廣相應(yīng)技術(shù)應(yīng)用、便利數(shù)據(jù)收集與獲取。（2）為應(yīng)對人工智能技術(shù)可能帶來的社會經(jīng)濟(jì)變革做好準(zhǔn)備：推進(jìn)教育培訓(xùn)系統(tǒng)現(xiàn)代化、培養(yǎng)專業(yè)人才、支持勞動(dòng)力市場轉(zhuǎn)型、及時(shí)調(diào)整社會保障體系。（3）在歐盟現(xiàn)有價(jià)值觀與《歐盟基本權(quán)利憲章》的基礎(chǔ)上，確立合適的人工智能倫理與法律框架。這需要對現(xiàn)有人工智能產(chǎn)品的權(quán)責(zé)進(jìn)行規(guī)范，深入分析面臨的各項(xiàng)挑戰(zhàn)，也需要相關(guān)各方通力合作，并通過歐洲人工智能聯(lián)盟（European AI Alliance）出臺具體的人工智能倫理準(zhǔn)則。③European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 1 and 3.作為該政策文件的核心內(nèi)容，三大目標(biāo)明確了歐盟人工智能發(fā)展的總體原則，為后續(xù)政策文件的出臺提供了指導(dǎo)方針。

除三大目標(biāo)之外，《歐洲人工智能》政策文件也初步闡述了歐盟后續(xù)的行動(dòng)規(guī)劃。不僅如此，歐盟委員會再次強(qiáng)調(diào)了各成員國協(xié)調(diào)合作的重要性，并提出在2018年底出臺歐盟《人工智能協(xié)調(diào)計(jì)劃》，最大限度利用歐盟投資資源、促進(jìn)交流合作，為歐盟實(shí)現(xiàn)人工智能技術(shù)下的全面轉(zhuǎn)型、處理相關(guān)法律與倫理問題做好準(zhǔn)備。①European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 3.同年4月10日，歐盟成員國與挪威共同簽署了人工智能合作宣言，表達(dá)了在人工智能方面加強(qiáng)合作的意愿，為后來歐盟人工智能協(xié)調(diào)計(jì)劃的提出作了鋪墊。②European Commission Digital Single Market,“EU Member States Sign up to Cooperate on Artificial Intelligence,”https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificialintelligence.

（二）歐盟《人工智能協(xié)調(diào)計(jì)劃》及行動(dòng)要點(diǎn)

2018年12月7日，歐盟委員會正式發(fā)布了《人工智能協(xié)調(diào)計(jì)劃》（以下簡稱《協(xié)調(diào)計(jì)劃》）。③European Commission,Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final.該計(jì)劃指出，要發(fā)展符合倫理規(guī)范、安全可靠、技術(shù)先進(jìn)的“歐洲制造”人工智能技術(shù)，確保歐盟人工智能戰(zhàn)略的順利實(shí)施，歐盟層面的協(xié)調(diào)與統(tǒng)一必不可少。④European Commission,Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final,Chapter 1,p.1.為此，《協(xié)調(diào)計(jì)劃》在三大總體目標(biāo)的基礎(chǔ)上，提出了八項(xiàng)具體目標(biāo)與動(dòng)議：

第一，完善戰(zhàn)略布局，促進(jìn)戰(zhàn)略協(xié)調(diào)。歐盟強(qiáng)調(diào)將以三大目標(biāo)為指導(dǎo)，制定配套的制度準(zhǔn)則，確定投資范圍與投資重點(diǎn)，通過現(xiàn)有政策框架加大投資力度，推進(jìn)一體化市場整合，并鼓勵(lì)各成員國出臺國家層面的人工智能戰(zhàn)略。⑤European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.4-5.第二，多方合作，最大限度增加投資。歐盟將通過政府與社會資本合作，統(tǒng)籌歐盟、成員國、私營部門三方的項(xiàng)目與投資，制定共同的人工智能研發(fā)議程。此外，歐盟還將通過歐洲創(chuàng)新理事會（European Innovation Council）對尖端研發(fā)項(xiàng)目進(jìn)行投資支持，并鼓勵(lì)各成員國通過多種方式加大對中小型企業(yè)與互聯(lián)網(wǎng)初創(chuàng)公司的扶持力度。⑥European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.6-7.第三，產(chǎn)研結(jié)合，提升科研能力，加速人工智能技術(shù)的推廣與應(yīng)用。歐盟鼓勵(lì)各成員國建設(shè)國家人工智能高水平研究中心，建立覆蓋歐盟的研發(fā)中心網(wǎng)絡(luò)；建立世界級人工智能測試體系，完善相關(guān)硬件、軟件設(shè)施；強(qiáng)化各國數(shù)字創(chuàng)新中心（Digital Innovation Hubs）的聯(lián)系與合作，推動(dòng)人工智能技術(shù)在歐盟內(nèi)部的區(qū)域均衡發(fā)展。①European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.7-11.第四，培養(yǎng)專業(yè)人才，提升全民技能。這既包括完善對尖端專業(yè)人才的培養(yǎng)體系，建立健全人才保障機(jī)制，也包括對全社會勞動(dòng)力相關(guān)技能的培訓(xùn)與提升，推動(dòng)人工智能解決方案在社會范圍內(nèi)的廣泛運(yùn)用。②European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.11-13.第五，數(shù)據(jù)共享，創(chuàng)建歐盟共同數(shù)據(jù)空間。開放公共數(shù)據(jù)資源，完善相應(yīng)工具與基礎(chǔ)設(shè)施建設(shè)，維護(hù)數(shù)據(jù)使用的完整性與安全性，建立歐洲開放科學(xué)云（European Open Science Cloud），便捷數(shù)據(jù)獲取與分享。③European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.13-17.第六，建立人工智能倫理監(jiān)管框架。歐盟將推動(dòng)人工智能倫理準(zhǔn)則的盡快面世，重視在設(shè)計(jì)與研發(fā)過程中的倫理問題，對各成員國現(xiàn)有相關(guān)法律制度進(jìn)行評估與調(diào)整，大力創(chuàng)建符合規(guī)范、適宜創(chuàng)新的研發(fā)環(huán)境。④European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.17-19.第七，鼓勵(lì)人工智能在公共部門的廣泛應(yīng)用。通過在政府與公共部門引進(jìn)人工智能解決方案，改善服務(wù)質(zhì)量、提高工作效率、提升管理水平。成員國將交流與分享自身的先進(jìn)經(jīng)驗(yàn)，確定人工智能解決方案的重點(diǎn)應(yīng)用領(lǐng)域，并通過人工智能分析技術(shù)為部分領(lǐng)域的政策產(chǎn)出提供參考。⑤European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.19-21.第八，加強(qiáng)人工智能國際合作。歐盟強(qiáng)調(diào)將加強(qiáng)與第三方國家的合作與交流，推動(dòng)人工智能在全球范圍內(nèi)的廣泛應(yīng)用；加強(qiáng)與國際伙伴的聯(lián)系，組織召開人工智能國際部長級會議，就人工智能倫理準(zhǔn)則尋求共識；利用自身發(fā)展經(jīng)驗(yàn)，以人工智能手段輔助其對外援助與發(fā)展項(xiàng)目。⑥European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.21-22.

簡言之，《歐洲人工智能》政策文件明確了歐盟人工智能發(fā)展的三項(xiàng)重要任務(wù)，構(gòu)建起歐盟人工智能戰(zhàn)略的核心框架。《協(xié)調(diào)計(jì)劃》八項(xiàng)動(dòng)議的提出則進(jìn)一步細(xì)化了歐盟在2019—2020年的階段性政策措施，在許多重要方面對歐盟人工智能發(fā)展做出了具體規(guī)劃。作為歐盟人工智能戰(zhàn)略框架的重要組成部分，上述政策文件均強(qiáng)調(diào)了人工智能倫理問題的重要性。其中，《歐洲人工智能》政策文件將“確立合適的人工智能倫理與法律框架”作為三大目標(biāo)之一，《協(xié)調(diào)計(jì)劃》也在第六條動(dòng)議中明確提出要建立人工智能倫理監(jiān)管框架。在此基礎(chǔ)上，歐盟人工智能倫理準(zhǔn)則出臺，實(shí)現(xiàn)了對其人工智能戰(zhàn)略框架的補(bǔ)充與細(xì)化。

二、歐盟人工智能倫理準(zhǔn)則的出臺及其核心內(nèi)涵

2018年12月，歐盟人工智能高級專家組起草了歐盟人工智能倫理準(zhǔn)則的初稿。隨后，歐洲人工智能聯(lián)盟（European AI Alliance）針對這一草案公開征詢了各相關(guān)方的意見建議共506 份。經(jīng)高級專家組與歐盟委員會商討完善后，2019年4月8日《倫理準(zhǔn)則》的最終版本《可信人工智能倫理準(zhǔn)則》（以下簡稱《倫理準(zhǔn)則》）①Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.與歐盟委員會的相應(yīng)政策文件《建立以人為本的可信人工智能》（以下簡稱《倫理政策文件》）②European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final.同時(shí)發(fā)布，歐盟版的人工智能倫理準(zhǔn)則終于面世。

《倫理準(zhǔn)則》與歐盟此前出臺的兩大重要文件一脈相承，將“以人為本”（human-centric）作為發(fā)展人工智能技術(shù)的核心要義。基于此，歐盟結(jié)合自身的價(jià)值觀，將尊重人類尊嚴(yán)、自由、民主、平等、法治以及人權(quán)的觀念融入準(zhǔn)則之中，③European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2,p.2.并提出了實(shí)現(xiàn)可信人工智能的三大要素：（1）人工智能應(yīng)遵守相關(guān)法律法規(guī)；（2）人工智能應(yīng)符合相應(yīng)倫理準(zhǔn)則與價(jià)值觀要求；（3）人工智能應(yīng)在技術(shù)與社會層面具有穩(wěn)健性。④Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,p.2.三大要素明確了發(fā)展的總體目標(biāo)與要求，是實(shí)現(xiàn)可信人工智能的充分必要條件，以此為基礎(chǔ)，歐盟初步形成了人工智能倫理準(zhǔn)則的核心框架，主要包含可信人工智能的基礎(chǔ)原則、可信人工智能的要求及實(shí)現(xiàn)手段、可信人工智能的評估機(jī)制三個(gè)部分。

（一）可信人工智能的基礎(chǔ)原則

核心框架的第一部分闡述了人工智能系統(tǒng)在發(fā)展、部署以及使用過程中必須遵守的倫理原則與價(jià)值觀，包括發(fā)展可信人工智能的基本權(quán)利要求，以及由此引申出的四條倫理原則。⑤Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,p.9.

就基本權(quán)利要求而言，歐盟根據(jù)《歐洲聯(lián)盟條約》《歐盟基本權(quán)利憲章》以及國際人權(quán)法的相關(guān)規(guī)定，提出了針對人工智能系統(tǒng)的五點(diǎn)基本權(quán)利要求：（1）尊重人的尊嚴(yán)；（2）維護(hù)個(gè)人自由；（3）尊重民主、正義與法治；（4）促進(jìn)平等、非歧視與團(tuán)結(jié)；（5）保障公民權(quán)利。①Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.10-11.在此基礎(chǔ)上，歐盟進(jìn)一步提出了四條倫理原則：第一，人類自治原則。保障人類在使用人工智能時(shí)充分、有效的自決權(quán)利，確保人類對人工智能系統(tǒng)工作程序的監(jiān)管。人工智能不應(yīng)成為不合理地限制、欺騙、操縱人類的工具，而應(yīng)成為提升和完善人類認(rèn)知與社交能力的手段。第二，避免傷害原則。要確保人工智能系統(tǒng)以及使用環(huán)境的安全可靠，確保人工智能技術(shù)的穩(wěn)健性，防止惡意利用，維護(hù)人類尊嚴(yán)、保護(hù)其身心健康。第三，公平原則。這既包括在實(shí)質(zhì)公平層面合理分配收益與成本，確保個(gè)人與團(tuán)體不受偏見、歧視和侮辱，也包括在程序公平層面建立對人工智能系統(tǒng)產(chǎn)出成果的合理質(zhì)詢渠道和有效補(bǔ)救措施。第四，可解釋性原則。這意味著程序透明，公開相關(guān)系統(tǒng)的功能與目的，保證人工智能產(chǎn)出成果的可解釋性。②Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.12-13.

此外，本部分還強(qiáng)調(diào)要特別關(guān)注兒童、殘疾人等弱勢群體，并注意處理好雇主與雇員、企業(yè)與消費(fèi)者等群體之間的權(quán)力不對稱關(guān)系。在承認(rèn)人工智能技術(shù)給個(gè)人與社會帶來切實(shí)益處的同時(shí)，也要充分意識到人工智能對民主、法治甚至人類心靈本身帶來的風(fēng)險(xiǎn)與負(fù)面影響，并采取適當(dāng)措施減少此類風(fēng)險(xiǎn)的產(chǎn)生。③Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.13-14.

（二）可信人工智能的要求及實(shí)現(xiàn)手段

核心框架的第二部分以五項(xiàng)基本權(quán)利與四條倫理原則為中心，進(jìn)一步細(xì)化并擴(kuò)展出實(shí)現(xiàn)可信人工智能的七條具體要求，以及用以實(shí)施的技術(shù)性與非技術(shù)性手段，這也是整個(gè)《倫理準(zhǔn)則》最為重要的部分。

就具體要求而言，歐盟提出了適用于人工智能系統(tǒng)整個(gè)生命周期，覆蓋研發(fā)者、操作者、終端用戶以及社會大眾各類群體的七條關(guān)鍵要求：第一，堅(jiān)持人的自主和監(jiān)管。人工智能系統(tǒng)應(yīng)促進(jìn)社會繁榮與平等，確保人的自主性，保護(hù)人的基本權(quán)利，將維護(hù)用戶福祉作為系統(tǒng)功能的核心。此外，還應(yīng)確保對人工智能系統(tǒng)的適當(dāng)人為管控，通過相應(yīng)治理機(jī)制進(jìn)行監(jiān)管。第二，保持技術(shù)穩(wěn)健與安全。確保人工智能系統(tǒng)安全可靠，防止外部攻擊與操縱，針對可能產(chǎn)生的問題制定相關(guān)補(bǔ)救計(jì)劃。保證計(jì)算結(jié)果的準(zhǔn)確性與可復(fù)制性，建立安全機(jī)制，實(shí)現(xiàn)可驗(yàn)證的安全。第三，重視隱私與數(shù)據(jù)治理。保障人工智能系統(tǒng)生命周期內(nèi)各個(gè)階段的隱私與數(shù)據(jù)安全，確保人類對所用數(shù)據(jù)的完全控制，避免傷害與歧視。保障所用數(shù)據(jù)的質(zhì)量與完整性，嚴(yán)格管控?cái)?shù)據(jù)訪問。第四，維護(hù)透明性原則。確保人工智能系統(tǒng)的可追溯性及決策程序的可解釋性，保障各相關(guān)方對人工智能系統(tǒng)功能與局限性的知情權(quán)。第五，堅(jiān)持多樣性、非歧視與公平原則。建立多樣性的研發(fā)設(shè)計(jì)團(tuán)隊(duì)，建立適當(dāng)機(jī)制保障民眾能夠參與設(shè)計(jì)過程。人工智能系統(tǒng)的研發(fā)過程需要與各相關(guān)方保持密切聯(lián)系，考慮不同群體的能力與訴求差異，確保弱勢群體享有平等的使用權(quán)利。第六，維護(hù)社會與環(huán)境福祉。關(guān)注人工智能系統(tǒng)對環(huán)境以及其他生物可能產(chǎn)生的影響，大力發(fā)展可持續(xù)的、生態(tài)友好的人工智能系統(tǒng)。此外，還應(yīng)重視人工智能系統(tǒng)的社會影響，避免其對民主程序、政治決策以及選舉結(jié)果可能產(chǎn)生的負(fù)面影響。第七，堅(jiān)持可追責(zé)性原則。建立適當(dāng)機(jī)制確保人工智能系統(tǒng)及其產(chǎn)出結(jié)果的可追責(zé)性。這需要識別、評估、記錄并減小人工智能系統(tǒng)的潛在負(fù)面影響，平衡現(xiàn)有各項(xiàng)要求規(guī)定，并防患于未然，出臺充分的補(bǔ)救措施。①European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2,pp.4-6.

就實(shí)施手段而言，歐盟提出了十三條具體措施，按其性質(zhì)不同可分為技術(shù)性手段和非技術(shù)性手段兩大類。其中，技術(shù)性手段主要側(cè)重人工智能系統(tǒng)的設(shè)計(jì)與研發(fā)階段，包含建立可信人工智能框架、堅(jiān)持倫理與法治的設(shè)計(jì)原則、保證人工智能系統(tǒng)的可解釋性、加強(qiáng)對人工智能系統(tǒng)的測試和驗(yàn)證、建立服務(wù)質(zhì)量指標(biāo)體系五項(xiàng)內(nèi)容。非技術(shù)性手段相對更加關(guān)注人工智能系統(tǒng)的使用與監(jiān)管，主要涉及健全監(jiān)管法規(guī)、出臺相應(yīng)行為準(zhǔn)則、設(shè)定行業(yè)標(biāo)準(zhǔn)、建立資質(zhì)審核機(jī)制、以治理框架實(shí)現(xiàn)問責(zé)制、通過教育提升倫理意識、確保各方的廣泛參與和溝通、維護(hù)設(shè)計(jì)團(tuán)隊(duì)的多樣性和包容性。②Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.20-23.

（三）可信人工智能的評估機(jī)制

核心框架的第三部分提供了可信人工智能的評估清單，旨在更好實(shí)現(xiàn)此前部分提出的相關(guān)要求。③Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,p.3.評估清單共分為七個(gè)方面，分別對應(yīng)實(shí)現(xiàn)可信人工智能的七條關(guān)鍵倫理要求。該清單將應(yīng)用于人工智能系統(tǒng)開發(fā)、部署以及使用的各個(gè)階段，歐盟鼓勵(lì)各相關(guān)方在實(shí)踐中依據(jù)實(shí)際情況，反饋清單在實(shí)用性、完整性以及適切性方面的相關(guān)問題。高級專家組將根據(jù)反饋對評估清單進(jìn)行修改，并于2020年初出臺修訂版的評估清單。①Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.24-31.

在核心框架之外，歐盟還擬定了《倫理準(zhǔn)則》未來的完善與推廣規(guī)劃，包括準(zhǔn)則在歐盟內(nèi)部的試點(diǎn)與完善規(guī)劃及其在國際社會的推廣規(guī)劃等內(nèi)容。其中，內(nèi)部試點(diǎn)階段，歐盟將面向人工智能系統(tǒng)的研發(fā)與使用各相關(guān)方征求意見反饋，并同成員國內(nèi)部的不同群體深入?yún)f(xié)商、加深認(rèn)識。高級專家組計(jì)劃于2020年初綜合各方反饋意見對現(xiàn)有《倫理準(zhǔn)則》進(jìn)行修改與更新，同時(shí)歐盟委員會也將以此為基礎(chǔ)制定后續(xù)人工智能戰(zhàn)略規(guī)劃。②European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2.3,pp.7-8.國際推廣階段，歐盟將致力于推動(dòng)國際社會達(dá)成共識，發(fā)展“以人為本”的人工智能，并在國際人工智能準(zhǔn)則以及相應(yīng)評估機(jī)制的制定過程中發(fā)揮主導(dǎo)作用。為此，歐盟表示將繼續(xù)加強(qiáng)同伙伴國家的合作關(guān)系，并積極參與相關(guān)國際討論與倡議。③European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2.4,pp.8-9.

三、歐盟人工智能倫理準(zhǔn)則出臺的動(dòng)因及其國際含義

《倫理準(zhǔn)則》的提出對歐盟的人工智能戰(zhàn)略框架做了補(bǔ)充與細(xì)化，是歐盟適應(yīng)新時(shí)期科技發(fā)展要求、維護(hù)自身國際競爭地位的重要戰(zhàn)略舉措，歐盟人工智能倫理準(zhǔn)則出臺有其深刻原因，其蘊(yùn)含的國際政治經(jīng)濟(jì)含義值得關(guān)注。

首先，歐盟已充分意識到人工智能技術(shù)的重要作用與巨大潛力，認(rèn)定規(guī)范人工智能技術(shù)發(fā)展有利于歐盟把握當(dāng)前難得的發(fā)展機(jī)遇，提升自身國際競爭力。隨著科技的不斷發(fā)展，人工智能在醫(yī)療衛(wèi)生、節(jié)能減排、智能汽車以及智能農(nóng)業(yè)等不同領(lǐng)域都發(fā)揮著越來越重要的作用。不僅如此，人工智能技術(shù)也幫助人類解決氣候變化、金融管理風(fēng)險(xiǎn)等諸多問題，成為提高生產(chǎn)效率、預(yù)防和防止網(wǎng)絡(luò)犯罪的重要工具。④European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 1,p.1.在此背景下，歐盟非常重視人工智能的決定性作用，試圖在激烈的國際競爭中保持優(yōu)勢，強(qiáng)調(diào)需要建立堅(jiān)實(shí)可靠的人工智能戰(zhàn)略框架，大力發(fā)展人工智能技術(shù)。⑤European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 1.這不僅需要強(qiáng)有力的資金支持、先進(jìn)的技術(shù)設(shè)備、優(yōu)秀的研發(fā)團(tuán)隊(duì)，也需要與之配套的制度與規(guī)則設(shè)計(jì)。因此，出臺《倫理準(zhǔn)則》等一系列人工智能制度準(zhǔn)則有利于規(guī)范歐盟人工智能發(fā)展，保護(hù)數(shù)據(jù)與隱私安全，維護(hù)數(shù)據(jù)在歐盟內(nèi)部的自由流通，從而推動(dòng)建立歐盟單一數(shù)據(jù)市場。①European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 1.這對歐盟自身發(fā)展而言具有重大意義。自2008年全球金融危機(jī)及隨后爆發(fā)的歐債危機(jī)以來，歐洲經(jīng)濟(jì)一度持續(xù)低迷，加上其他長期積累的社會矛盾和問題凸現(xiàn)，促使歐盟必須加快社會改革和創(chuàng)新發(fā)展，其中在發(fā)展數(shù)字經(jīng)濟(jì)和創(chuàng)新聯(lián)盟建設(shè)方面近年來已取得許多新進(jìn)展。在此進(jìn)程中，歐盟越來越清醒地認(rèn)識到，加快發(fā)展人工智能技術(shù)與其積極推進(jìn)的數(shù)字經(jīng)濟(jì)建設(shè)密不可分。而要確保數(shù)字經(jīng)濟(jì)建設(shè)長期健康穩(wěn)定發(fā)展，不僅要在技術(shù)層面爭取領(lǐng)先地位，也需要在規(guī)范層面盡早占領(lǐng)道義制高點(diǎn)，某種意義上，這也是全面提高歐洲自身競爭力的重要制度保障之一。

其次，《倫理準(zhǔn)則》是歐盟人工智能戰(zhàn)略框架體系的重要組成部分，符合歐盟的發(fā)展戰(zhàn)略需要。早在2017年10月，歐洲理事會就提出歐盟迫切需要在發(fā)展新興人工智能技術(shù)的同時(shí)，“確保高水平的數(shù)據(jù)與數(shù)字版權(quán)保護(hù)，設(shè)立相應(yīng)的倫理標(biāo)準(zhǔn)”。②European Council,“European Council meeting (19 October 2017)-Conclusions”,Brussels,19 October 2017,http://data.consilium.europa.eu/doc/document/ST-14-2017-INIT/en/pdf.在次年出臺的《歐洲人工智能》政策文件中，歐盟委員會也聲稱新興科技的發(fā)展要遵循歐盟尊重人權(quán)與法治的多元價(jià)值觀念，并將“建立適當(dāng)?shù)娜斯ぶ悄軅惱砼c法律框架體系”作為歐洲人工智能發(fā)展的三大目標(biāo)之一。歐盟承認(rèn)人工智能技術(shù)的發(fā)展與應(yīng)用將會帶來新的倫理與合法性問題，因而需要盡快出臺相應(yīng)的監(jiān)管框架，在促進(jìn)技術(shù)創(chuàng)新的同時(shí)維護(hù)歐盟一貫堅(jiān)持的價(jià)值觀與基本權(quán)利觀念，堅(jiān)持可解釋與透明的倫理原則。③European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 1.因此，《倫理準(zhǔn)則》的出臺有利于規(guī)范歐盟整個(gè)人工智能行業(yè)的發(fā)展，維護(hù)歐盟自身產(chǎn)品安全、高質(zhì)的國際聲譽(yù)，保持歐盟經(jīng)濟(jì)的核心競爭力。④Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,Chapter 1,p.1.同時(shí)，這也有利于進(jìn)一步補(bǔ)充和完善歐盟的人工智能戰(zhàn)略體系框架，為歐盟發(fā)展“以人為本”的人工智能提供規(guī)則保障，符合歐盟的戰(zhàn)略規(guī)劃需求。

再次，歐盟意識到人工智能技術(shù)的快速發(fā)展在促進(jìn)社會進(jìn)步與經(jīng)濟(jì)發(fā)展的同時(shí)，也帶來了諸多法律、倫理方面的挑戰(zhàn)，⑤European Commission,Building Trust in Human-Centric Artificial Intelligence,Chapter 1,p.1.歐盟迫切需要以政策手段進(jìn)行預(yù)防與應(yīng)對。人工智能技術(shù)的產(chǎn)生使得現(xiàn)有社會環(huán)境更為復(fù)雜，其發(fā)展不可避免地涉及到社會公平、數(shù)據(jù)安全、隱私保護(hù)、消費(fèi)者權(quán)益保護(hù)以及非歧視性原則等敏感議題，引起了公眾對人工智能技術(shù)安全性與可靠性的關(guān)切。①European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 3.3.同時(shí)，人工智能將人決策中的自由意志賦予機(jī)器，②清華大學(xué)戰(zhàn)略與安全研究中心：《中國青年視角下的人工智能風(fēng)險(xiǎn)與治理》，《國際戰(zhàn)略與安全調(diào)研報(bào)告》2019年第2 期，第1 頁。傳統(tǒng)的歐盟價(jià)值觀念與倫理準(zhǔn)則規(guī)范也不再能準(zhǔn)確適用于當(dāng)下“機(jī)器學(xué)習(xí)”的新形勢，這使得出臺專門針對人工智能技術(shù)的倫理準(zhǔn)則成為必然。因此，歐盟人工智能倫理準(zhǔn)則的出臺不僅有助于規(guī)范人工智能系統(tǒng)的設(shè)計(jì)與研發(fā)過程，預(yù)防潛在風(fēng)險(xiǎn)，也便于歐盟對已有人工智能系統(tǒng)進(jìn)行審核與監(jiān)管，為解決人工智能帶來的倫理問題與挑戰(zhàn)提供指導(dǎo)原則。

最后，中美兩國在人工智能研發(fā)與應(yīng)用方面的發(fā)展給歐盟帶來巨大壓力，《倫理準(zhǔn)則》的出臺與推廣體現(xiàn)了歐盟增強(qiáng)自身規(guī)范性力量，進(jìn)而爭取國際規(guī)則制定權(quán)的重要考量。麥肯錫全球研究所（McKinsey Global Institute）的調(diào)查數(shù)據(jù)顯示，在歐盟人工智能戰(zhàn)略出臺之前，2016年歐洲在人工智能領(lǐng)域的投資僅為24—36 億歐元，而由中美兩國主導(dǎo)的亞洲和美洲人工智能投資則分別達(dá)到65—97 億歐元與121—186 億歐元。③McKinsey Global Institute,“10 Imperatives for Europe in the Age of AI and Automation,”O(jiān)ctober 2017,https://www.mckinsey.com/featured-insights/europe/ten-imperatives-for-europe-in-the-age-of-ai-andautomation#section%202.人工智能戰(zhàn)略出臺后，歐盟取得的進(jìn)展依然較為有限。2018年，僅有四家歐洲公司進(jìn)入全球人工智能初創(chuàng)公司100 強(qiáng)，全球風(fēng)險(xiǎn)投資和企業(yè)融資的一半以上依然被中美兩國把控。④McKinsey Global Institute,“Tackling Europe’s gap in digital and AI,”February 2019,https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-europes-gap-in-digital-and-ai.另外，根據(jù)數(shù)據(jù)創(chuàng)新中心（Center for Data Innovation）2019年的調(diào)研報(bào)告顯示，在對中美歐三方人工智能發(fā)展的六個(gè)關(guān)鍵指標(biāo)的評估中，目前歐盟沒有一項(xiàng)指標(biāo)排名第一（見表1）。具體來看，美國在大部分指標(biāo)上都居領(lǐng)先地位，中國則在人工智能技術(shù)的推廣應(yīng)用與數(shù)據(jù)資源方面占有優(yōu)勢。與中美兩國相比，歐盟盡管在人才數(shù)量與基礎(chǔ)研究方面并不算落后，但是受政策扶持力度不足與研發(fā)資金相對短缺的限制，其發(fā)展勢頭并不理想。與此同時(shí)，中國近年來在人工智能人才培養(yǎng)、基礎(chǔ)研究方面加大了投資與扶持力度，發(fā)展速度較快，對歐盟現(xiàn)有地位造成了沖擊。⑤Center for Data Innovation,“Who Is Winning the AI Race: China,the EU or the United States?” https://www.datainnovation.org/2019/08/who-is-winning-the-ai-race-china-the-eu-or-the-united-states/#_edn3.

表1 中、歐、美三方在六項(xiàng)關(guān)鍵指標(biāo)上的排名情況

由于在當(dāng)今的國際競爭中，技術(shù)標(biāo)準(zhǔn)正成為國際規(guī)則制定權(quán)之爭的重點(diǎn)，而所有國際規(guī)則又都是依據(jù)相關(guān)事物的最優(yōu)水平制定的，①參閱閻學(xué)通：《美國遏制華為反映的國際競爭趨勢》，《國際政治科學(xué)》2019年第2 期，第III-IV 頁。歐盟在人工智能技術(shù)研發(fā)與投資方面優(yōu)勢正在逐漸喪失，因此其技術(shù)規(guī)則制定的話語權(quán)也受到了影響。在此背景下，歐盟要想把握人工智能這一發(fā)展機(jī)遇，只能另辟蹊徑，以自身擅長的規(guī)范領(lǐng)域——倫理準(zhǔn)則作為突破口。一方面，相較于技術(shù)標(biāo)準(zhǔn)的制定，倫理準(zhǔn)則的制定對資金與技術(shù)的要求相對較低。另一方面，歐盟已經(jīng)出臺了不少關(guān)于數(shù)據(jù)保護(hù)、網(wǎng)絡(luò)安全的規(guī)章制度，②歐盟的此類政策包括：《通用數(shù)據(jù)保護(hù)條例》（The General Data Protection Regulation）、《非個(gè)人數(shù)據(jù)自由流動(dòng)條例》（The Free Flow of Non-Personal Data Regulation）、《歐盟網(wǎng)絡(luò)安全法案》 （Cybersecurity Act）、《電子隱私條例》（ePrivacy Regulation）等。形成了較為完備的政策框架體系，為人工智能倫理準(zhǔn)則的提出奠定了基礎(chǔ)。此外，歐盟在《倫理政策文件》中也明確表示出在國際倫理準(zhǔn)則以及相應(yīng)評估機(jī)制的制定過程中發(fā)揮主導(dǎo)作用的意圖。③European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2.4,p.8.可見歐盟已將制定人工智能國際倫理標(biāo)準(zhǔn)作為維護(hù)自身國際話語權(quán)的重要手段。因此，《倫理準(zhǔn)則》的出臺可被視為歐盟適應(yīng)人工智能發(fā)展新態(tài)勢、發(fā)揮自身機(jī)制優(yōu)勢做出的戰(zhàn)略舉措。

四、結(jié)語：對中國的啟示

歐盟人工智能倫理準(zhǔn)則是歐盟人工智能戰(zhàn)略框架的重要組成部分，是歐盟把握當(dāng)前發(fā)展機(jī)遇，適應(yīng)發(fā)展新態(tài)勢、應(yīng)對發(fā)展新挑戰(zhàn)做出的重要舉措。歐盟為此做出的努力對于同樣致力于發(fā)展人工智能技術(shù)的中國有重要啟示意義。

首先，保持相對優(yōu)勢，大力推動(dòng)人工智能技術(shù)的發(fā)展，不斷完善政策體系框架。從其人工智能整體戰(zhàn)略框架的構(gòu)建看，歐盟的起步并不算早。在《歐洲人工智能》政策文件出臺之前，中國國務(wù)院已于2017年7月發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，從戰(zhàn)略態(tài)勢、總體要求、重點(diǎn)任務(wù)、資源配置以及保障措施五個(gè)重要方面系統(tǒng)論述了中國人工智能發(fā)展的相關(guān)戰(zhàn)略規(guī)劃，提出了“三步走”的戰(zhàn)略發(fā)展目標(biāo)。①《新一代人工智能發(fā)展規(guī)劃》，中華人民共和國中央人民政府網(wǎng)，http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm。同年12月，工業(yè)信息化部也發(fā)布了《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》，細(xì)化了三年內(nèi)中國在智能產(chǎn)品、核心基礎(chǔ)、智能制造、支撐體系以及保障措施幾個(gè)重點(diǎn)領(lǐng)域的具體行動(dòng)計(jì)劃。②《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018—2020年）》，中華人民共和國國家互聯(lián)網(wǎng)信息辦公室，http://www.cac.gov.cn/2017-12/15/c_1122114520.htm。與歐盟的相應(yīng)戰(zhàn)略文件③即本文第一部分提到的《歐洲人工智能》與《人工智能協(xié)調(diào)計(jì)劃》兩個(gè)文件。相比，中國的人工智能戰(zhàn)略成型早先一步，對具體產(chǎn)業(yè)、技術(shù)以及產(chǎn)品的發(fā)展目標(biāo)相對更加具體。這得益于中國在數(shù)據(jù)資源龐大、應(yīng)用場景豐富、人才積累迅速方面的相對優(yōu)勢。④參考高文院士2019年5月22日于中國人民大學(xué)所做的題為《人工智能的發(fā)展現(xiàn)狀和趨勢》的主題報(bào)告。就此而言，中國在人工智能技術(shù)的研發(fā)與應(yīng)用方面初步占據(jù)了相對領(lǐng)先的優(yōu)勢。當(dāng)然，中國也不能據(jù)此自滿。雖然歐盟在相關(guān)戰(zhàn)略文件及政策框架發(fā)布略遲一步，但從前面相關(guān)分析可見，其目標(biāo)追求和行動(dòng)計(jì)劃還是展現(xiàn)了不少前瞻性的構(gòu)想和理念，因此，未來中國應(yīng)積極借鑒包括歐洲在內(nèi)的國外同行的先進(jìn)理念，繼續(xù)保持這一優(yōu)勢，持續(xù)推動(dòng)人工智能產(chǎn)業(yè)的不斷發(fā)展，并依據(jù)實(shí)際情況對相關(guān)政策體系，特別是具體行動(dòng)計(jì)劃進(jìn)行適時(shí)調(diào)整與完善。

其次，重視人工智能的倫理挑戰(zhàn)，抓緊建立并完善官方倫理監(jiān)管體系。歐盟盡管在人工智能戰(zhàn)略框架的建立方面相對落后，但是在官方倫理規(guī)范的制定上掌握了主動(dòng)權(quán)。相比之下，中國雖然在2017年《新一代人工智能發(fā)展規(guī)劃》發(fā)布之時(shí)就注意到了研發(fā)與應(yīng)用過程中潛在的倫理風(fēng)險(xiǎn)，⑤《新一代人工智能發(fā)展規(guī)劃》在開篇就已明確表示對人工智能倫理問題的重視，文件指出“人工智能是影響面廣的顛覆性技術(shù)，可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個(gè)人隱私、挑戰(zhàn)國際關(guān)系準(zhǔn)則等問題，將對政府管理、經(jīng)濟(jì)安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠(yuǎn)影響。在大力發(fā)展人工智能的同時(shí)，必須高度重視可能帶來的安全風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展?！钡俜綄用娴膫惱頊?zhǔn)則規(guī)范一直未能出臺。目前已有的、較為權(quán)威的人工智能倫理政策文件是由中國電子信息產(chǎn)業(yè)發(fā)展研究院人工智能產(chǎn)業(yè)創(chuàng)新聯(lián)盟在2018 機(jī)器人與人工智能大會上提出的《人工智能創(chuàng)新發(fā)展道德倫理宣言》。①《〈人工智能創(chuàng)新發(fā)展道德倫理宣言〉全文》，《人工智能》2019年第4 期，第130—132 頁。因此，中國人工智能倫理監(jiān)管體系的建設(shè)還有待加強(qiáng)。同時(shí)，中國人工智能技術(shù)的高速發(fā)展衍生出的諸多問題也迫切需要官方出臺相關(guān)準(zhǔn)則進(jìn)行規(guī)范。值得肯定的是，為應(yīng)對這一狀況，中國已經(jīng)展開了相應(yīng)行動(dòng)。2019年7月中央全面深化改革委員會第九次會議審議通過了《國家科技倫理委員會組建方案》，批準(zhǔn)組建國家科技倫理委員會，標(biāo)志著中國官方“推動(dòng)構(gòu)建覆蓋全面、導(dǎo)向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系”的開端。②《習(xí)近平主持召開中央全面深化改革委員會第九次會議》，中華人民共和國中央人民政府網(wǎng)，http://www.gov.cn/xinwen/2019-07/24/content_5414669.htm。未來中國也應(yīng)盡快出臺相應(yīng)的倫理規(guī)范及政策指南，建立健全治理機(jī)制，完善相關(guān)法律法規(guī)，強(qiáng)化監(jiān)管與審查制度，推動(dòng)完備人工智能倫理體系的構(gòu)建。

最后，積極參與并推動(dòng)國際人工智能倫理標(biāo)準(zhǔn)的制定。歐盟在《倫理政策文件》中提到將會在G7、G20 等多邊場合推動(dòng)國際人工智能倫理標(biāo)準(zhǔn)的建立，并同非歐盟國家與組織展開雙邊或多邊會晤，就發(fā)展“以人為本”的人工智能達(dá)成共識。③European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2.4,p.8.在《倫理準(zhǔn)則》公布之后，2019年5月，經(jīng)濟(jì)合作與發(fā)展組織成員國批準(zhǔn)了經(jīng)合組織理事會《關(guān)于人工智能的建議》，提出了發(fā)展人工智能的五項(xiàng)原則。④“OECD Principles on AI,”O(jiān)ECD,https://www.oecd.org/going-digital/ai/principles/.2019年6月，G20 國家也通過了“以人為本”的人工智能發(fā)展理念。⑤“G20 Ministerial Statement on Trade and Digital Economy,”https://www.mofa.go.jp/files/000486596.pdf.可以看出在制定人工智能基本規(guī)范方面，包括歐盟國家在內(nèi)的許多發(fā)達(dá)國家已經(jīng)開始行動(dòng)，歐盟所倡導(dǎo)的“以人為本”的人工智能發(fā)展理念已經(jīng)得到越來越多的國際回應(yīng)，其中蘊(yùn)涵的國際政治經(jīng)濟(jì)含義如前所述，值得我們高度重視和思考。因此，中國也應(yīng)重視并積極參與人工智能國際標(biāo)準(zhǔn)，特別是人工智能倫理準(zhǔn)則的討論和制定，力爭掌握相應(yīng)國際競爭的主動(dòng)權(quán)。