歐盟人工智能戰(zhàn)略的影響及對我國的啟示

李舒沁

摘? 要：本屆歐盟委員會重視人工智能產(chǎn)業(yè)發(fā)展及其經(jīng)濟、社會影響，近期發(fā)布了《人工智能戰(zhàn)略》，重點關(guān)注解決風(fēng)險問題以形成基于信任的生態(tài)系統(tǒng)，促進產(chǎn)業(yè)發(fā)展以構(gòu)建基于創(chuàng)新的生態(tài)系統(tǒng)，以及調(diào)整治理架構(gòu)形成適于AI發(fā)展的監(jiān)管機制等幾方面議題。這一戰(zhàn)略如果得到有效實施，將對法律建設(shè)、行業(yè)投資和集中科研力量等宏觀因素，以及產(chǎn)業(yè)發(fā)展方向、產(chǎn)學(xué)研合作及行業(yè)人才技能培養(yǎng)等微觀因素產(chǎn)生影響。在目前的《戰(zhàn)略》中，也存在監(jiān)管范圍不夠及知識產(chǎn)權(quán)與安全性矛盾待破解的不足之處。對我國來說，可以參考借鑒《戰(zhàn)略》，加強頂層設(shè)計，加快相關(guān)法律法規(guī)制定，同時以“新基建”鼓勵A(yù)I領(lǐng)域的創(chuàng)新及產(chǎn)業(yè)化，最終推動以人為本的AI建設(shè)。

關(guān)鍵詞：人工智能? 歐盟? 信任? 技能? 安全? 知識產(chǎn)權(quán)

中圖分類號：D95? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文獻標(biāo)識碼：A? ? ? ? ? ? ? ? ? 文章編號：1674-098X（2020）09（a）-0240-04

Abstract：This European commission attaches great importance to the development of artificial intelligence and its economic and social impact. Recently， it released the Strategy of Artificial Intelligence， focusing on solving the problem of risk to form the ecological system based on trust， promoting industrial development to build ecological system based on innovation， and adjusting management architecture to form a suitable supervision mechanism of the development of AI. If this strategy is effectively implemented， it will have impacts on macro factors such as legal construction， industrial investment and concentrated research strength， as well as micro factors such as industrial development direction， industry-university-research cooperation and industrial talent skills training. In the current strategy， there are also deficiencies in the scope of supervision and the contradiction between intellectual property and security.For China， the strategy can be used for reference to strengthen top-level design， to accelerate the formulation of relevant laws and regulations， and to encourage the innovation and industrialization of AI field with "new infrastructure"， so as to finally promote human-oriented AI construction.

Key Words：Artificial Intelligence; The European Union; Trusts;Skills;Security;Intellectual property

本屆歐盟委員會對數(shù)字技術(shù)及其經(jīng)濟社會影響高度重視。迄今為止，委員會已經(jīng)發(fā)布了四份數(shù)字技術(shù)相關(guān)戰(zhàn)略的文件，其中兩份涉及人工智能（AI），一份關(guān)于歐洲的數(shù)字未來建設(shè)，另一份關(guān)于歐洲的數(shù)據(jù)經(jīng)濟。與其他戰(zhàn)略類似，歐盟在AI相關(guān)戰(zhàn)略中，強調(diào)規(guī)則的建立，形成發(fā)展的總體框架，目的是推動歐盟人工智能產(chǎn)業(yè)發(fā)展，掌握國際話語權(quán)，成為數(shù)字經(jīng)濟和應(yīng)用的全球規(guī)則領(lǐng)導(dǎo)者，與其他科技大國相抗衡。

1? 歐盟人工智能戰(zhàn)略重點關(guān)注方面

1.1 解決風(fēng)險問題，形成基于信任的生態(tài)系統(tǒng)

歐盟委員會在看到人工智能變革的同時，也認識到由于AI的使用會帶來挑戰(zhàn)和風(fēng)險，其推廣和使用仍然受到民眾的質(zhì)疑，也因此阻礙了產(chǎn)業(yè)發(fā)展?，F(xiàn)有的歐盟立法框架已不足以應(yīng)對這些挑戰(zhàn)和風(fēng)險，因此需要提出新的監(jiān)管方案，有效應(yīng)對這些挑戰(zhàn)。歐盟AI戰(zhàn)略中監(jiān)管框架的核心內(nèi)容之一是AI技術(shù)投入市場之前需進行強制性的合格檢驗。這一規(guī)定主要針對于高風(fēng)險AI，即應(yīng)用于高風(fēng)險行業(yè)或高風(fēng)險用途，前者如交通等，而后者如消費者權(quán)利與隱私等。某些特定類型AI及應(yīng)用也可被視為高風(fēng)險，如遠程生物識別（監(jiān)視器的面部識別）即為其一[1]。對于這些應(yīng)用，監(jiān)管框架將主要從數(shù)據(jù)隱私保護和安全方面進行評估，如訓(xùn)練集數(shù)據(jù)避免歧視，記錄存儲準(zhǔn)確，信息用途、限制等規(guī)定清晰，并可以由人工監(jiān)督和審查。對于非高風(fēng)險AI產(chǎn)品，歐盟委員會建議實施自愿標(biāo)簽計劃。該計劃將允許非高風(fēng)險AI產(chǎn)品供應(yīng)商可以為其程序貼上“質(zhì)量認證”，使用戶容易識別其程序以便擴大應(yīng)用范圍。在使用這一標(biāo)簽時也需要受到相應(yīng)的監(jiān)管。

1.2 促進產(chǎn)業(yè)發(fā)展，構(gòu)建基于創(chuàng)新的生態(tài)系統(tǒng)

歐盟一直在推動“單一數(shù)字市場”的建立，而AI是其中重要的方向。在AI產(chǎn)業(yè)發(fā)展方面，歐盟試圖建立一個不同層次的合作生態(tài)系統(tǒng)。宏觀層是成員國之間的合作。為追趕北美、亞洲在AI研究、產(chǎn)業(yè)化方面的投資額及技術(shù)領(lǐng)先水平，歐盟計劃于2020年底前通過一項成員國AI協(xié)調(diào)計劃，以促進各成員國在研發(fā)、創(chuàng)新和部署方面的投資。次一層是產(chǎn)業(yè)層級。歐盟希望促進產(chǎn)業(yè)協(xié)同。計劃中的一個重要舉措是建立跨成員國的AI研究中心，吸引投資和人才。這個中心的研究重點是歐盟在未來有可能取得世界領(lǐng)先地位的領(lǐng)域，主要包括工業(yè)、衛(wèi)生健康、交通、農(nóng)業(yè)產(chǎn)業(yè)鏈、能源/環(huán)境，以及對地/對太空探索等。第三層是中小企業(yè)。歐盟擬出臺的“投資興業(yè)”計劃將進一步擴大對中小企業(yè)和初創(chuàng)企業(yè)的投資。計劃原定于2020年一季度投入9億歐元，為每個成員國建立至少一個數(shù)字創(chuàng)新中心提供支持。

1.3 調(diào)整治理架構(gòu)，形成適于AI發(fā)展的監(jiān)管機制

在治理監(jiān)管結(jié)構(gòu)方面，歐盟試圖建立一個跨成員國的AI治理主管部門。這一機構(gòu)有三個目的。一是提高歐盟總體監(jiān)管能力。以跨部門機構(gòu)管理的方式，避免各成員國監(jiān)管設(shè)備及投入的碎片化，以及對規(guī)定的理解有偏差，，從而提高各國的總體監(jiān)管能力，確保歐盟逐漸具備適于AI能力測試和認證的技術(shù)和產(chǎn)品。二是提供產(chǎn)業(yè)發(fā)展、標(biāo)準(zhǔn)制定的前瞻性信息或報告。除了監(jiān)管職能外，該機構(gòu)還可以成為各國定期交換信息并介紹實踐經(jīng)驗的論壇。一方面可以集中各國AI企業(yè)及監(jiān)管機構(gòu)的經(jīng)驗，在交流中為產(chǎn)業(yè)界指出新的發(fā)展趨勢和方向;另一方面也可以針對新算法、新工具，提出新的標(biāo)準(zhǔn)認證流程或方式，在法律層面有所創(chuàng)新[2]。三是利用測試中心評估AI系統(tǒng)。在這個機構(gòu)中的測試中心評估AI系統(tǒng)的安全性、魯棒性等標(biāo)準(zhǔn)，為高風(fēng)險AI系統(tǒng)進行認證。支持歐盟對AI安全性的標(biāo)準(zhǔn)制定，并對歐盟之外的AI系統(tǒng)進入歐盟設(shè)置標(biāo)準(zhǔn)。

2? 產(chǎn)生的影響及仍需完善的部分

2.1 對歐盟AI產(chǎn)業(yè)發(fā)展的宏觀影響

歐洲對AI的發(fā)展戰(zhàn)略，對于產(chǎn)業(yè)發(fā)展的宏觀影響主要有三方面。一是對法律體系產(chǎn)生影響。目前歐盟尚無一部法律闡釋AI發(fā)展過程中基本權(quán)利、消費者保護、產(chǎn)品安全和責(zé)任規(guī)則等情況。而且由于AI的不透明（“黑箱”效應(yīng)）、復(fù)雜性和部分自主行為，現(xiàn)行法律體系又無法應(yīng)對出現(xiàn)的問題。因此，建立適用于AI的法律規(guī)定，將是未來一段時期內(nèi)，歐盟將加快推進的工作。二是投資將大幅增加。歐盟AI相關(guān)的創(chuàng)新投資在一定時期內(nèi)持續(xù)弱于北美和亞洲。討論并計劃實施的戰(zhàn)略旨在幫助對AI項目增加更多投資，目標(biāo)是在未來10年實現(xiàn)每年200億歐元的投資額，達到以往投資額的5～6倍。三是集中技術(shù)和人才優(yōu)勢，提高總體競爭力。通過在各國研究中心間建立合作、協(xié)同網(wǎng)絡(luò)，并以聯(lián)合研究中心的形式將各國優(yōu)秀人才和相關(guān)優(yōu)勢技術(shù)做好集成整合，形成合力優(yōu)勢，與其他國家開展AI領(lǐng)域的競爭。

2.2 對產(chǎn)業(yè)發(fā)展的微觀影響

微觀影響主要體現(xiàn)在三方面。一是對未來AI發(fā)展趨勢的展望更具系統(tǒng)性。在一個協(xié)同研究體系下，AI發(fā)展思路更加多元和開放，溝通也更加便捷，對未來趨勢的設(shè)想和把握也可以更加有系統(tǒng)性?？梢詮臅r間維度、技術(shù)實現(xiàn)難易程度等方面構(gòu)成未來發(fā)展的網(wǎng)絡(luò)，涵蓋更多的技術(shù)和領(lǐng)域，在競爭中占領(lǐng)先機。二是與業(yè)界溝通更加緊密。由于AI發(fā)展戰(zhàn)略強調(diào)合作，因此屬于私營部門的中小企業(yè)、創(chuàng)業(yè)企業(yè)等在使用AI的過程中，也可以及時將自身訴求、現(xiàn)有AI系統(tǒng)的問題更快地反饋給戰(zhàn)略體系內(nèi)的研發(fā)機構(gòu)。這些企業(yè)一方面可以獲得AI戰(zhàn)略提供的資助，另一方面也可以享受AI系統(tǒng)帶來的便利。他們的及時反饋，也可以為歐盟的AI研發(fā)提供業(yè)界拉動力。三是對提升AI相關(guān)技能起指導(dǎo)作用。一方面是對現(xiàn)有工作群體的培訓(xùn)。這類培訓(xùn)更關(guān)注于未來可能需要用到的技能，以及自我學(xué)習(xí)提升的能力。另一方面則是提升全民對AI的認識，包括對AI的了解、熟悉和信任，并對大學(xué)生等未來可能的從業(yè)人員進行AI理念及倫理教育。

2.3 監(jiān)管薄弱環(huán)節(jié)有待完善

在歐盟的AI戰(zhàn)略中，也仍然有一些薄弱環(huán)節(jié)，有待于未來進行完善。一是監(jiān)管對象覆蓋程度不夠高。在AI戰(zhàn)略中，監(jiān)管的重點是AI相關(guān)的產(chǎn)品，可以套用歐盟已有的產(chǎn)品安全法規(guī)，但對服務(wù)、代碼等則缺乏相關(guān)規(guī)定，可能會產(chǎn)生有企業(yè)宣稱“人工智能是一種服務(wù)”而規(guī)避監(jiān)管的問題。同時對于具有產(chǎn)品和代碼雙重屬性的AI產(chǎn)品，如新型智能汽車的基于AI的自動駕駛模塊，如果因其故障引起車輛行駛事故，則被追責(zé)的將是汽車廠家，而非AI的算法開發(fā)人員[3]。二是對AI算法的知識產(chǎn)權(quán)與安全性之間的平衡。在監(jiān)管中，對AI算法和公司的安全性透明度的檢查，要求“披露人工智能系統(tǒng)的設(shè)計參數(shù)、用于訓(xùn)練的數(shù)據(jù)集并接受審計”等。在實際操作中，需要考慮如何保護知識產(chǎn)權(quán)。很多公司的業(yè)務(wù)是基于其AI算法而設(shè)立。AI算法對于這些公司相當(dāng)于藥物配方對于制藥公司。因此有必要盡快出臺適合AI產(chǎn)業(yè)的知識產(chǎn)權(quán)保護原則。

3? 對我國的啟示及應(yīng)對

3.1 加強頂層設(shè)計，加快相關(guān)法律法規(guī)制定

歐盟近幾年出臺一系列與數(shù)字經(jīng)濟、AI有關(guān)的法律法規(guī)，并在當(dāng)前的AI戰(zhàn)略中再次突出了法規(guī)、監(jiān)管的地位，表明其仍希望在這一領(lǐng)域占據(jù)規(guī)則制定者的位置。我國AI產(chǎn)業(yè)發(fā)展迅速，已經(jīng)開展了諸多實踐，有必要加強頂層設(shè)計，打造適合我國國情的監(jiān)管法規(guī)體系[4]。一是擴大監(jiān)管覆蓋面。借鑒歐盟的經(jīng)驗及不足，對AI產(chǎn)品和服務(wù)、數(shù)字經(jīng)濟相關(guān)技術(shù)等可能帶來的經(jīng)濟影響和社會影響開展研究，從企業(yè)、開發(fā)者和用戶等不同角度進行分析，盡可能多地覆蓋AI領(lǐng)域涉及的因素。即便暫時不便立法，也可以通過規(guī)定等形式，預(yù)防可能發(fā)生的風(fēng)險。二是制定自己的AI產(chǎn)業(yè)發(fā)展標(biāo)準(zhǔn)并開展認證工作。行業(yè)標(biāo)準(zhǔn)的博弈通常決定了行業(yè)中各方所獲得的利益規(guī)模。我國的AI產(chǎn)業(yè)已初具規(guī)模。2018年我國AI市場規(guī)模為83.1億美元，同比增長48.4%，占同年全球核心市場規(guī)模的1/7。很多應(yīng)用領(lǐng)域已形成較為成熟的經(jīng)驗。結(jié)合業(yè)界實踐制定行業(yè)標(biāo)準(zhǔn)，對其他國家來說有較大說服力。而這也可為國內(nèi)AI產(chǎn)業(yè)的發(fā)展提供更大的動力。

3.2 以“新基建”鼓勵A(yù)I領(lǐng)域的創(chuàng)新及產(chǎn)業(yè)化

今年，“新基礎(chǔ)設(shè)施”建設(shè)正在成為新的風(fēng)口，大量資本、技術(shù)、人才正在涌入“新基建”涉及的各個領(lǐng)域。AI也是其中之一。與特高壓、5G基建、大數(shù)據(jù)中心等服務(wù)于數(shù)字經(jīng)濟的有形基建不同，AI自身既有形又無形。AI可以與其他“新基建”緊密結(jié)合，其他“新基建”也服務(wù)于AI的發(fā)展[5]。而且“新基建”涉及領(lǐng)域中有不少是建立新的實體，而AI則可以與傳統(tǒng)產(chǎn)業(yè)、行業(yè)、產(chǎn)品相融合，為它們的轉(zhuǎn)型升級提供新動力。我國很多企業(yè)在AI商業(yè)模式方面已有很多嘗試，下一步有必要加強AI相關(guān)的硬件建設(shè)，例如人工智能需要大量并行計算，而GPU具有相似的計算特征，那么GPU就是適合AI時代的核心處理模塊。同時，鼓勵企業(yè)進一步利用AI升級改造傳統(tǒng)制造業(yè)，提高制造業(yè)競爭力。而基于AI的智能家居、機器人等硬件設(shè)備，以及在不同行業(yè)發(fā)揮升級賦能作用，也是下一步發(fā)展的重點。

3.3 推動以人為本的AI建設(shè)

發(fā)展AI的根本目的是服務(wù)于人，為使用帶來便利，因此，以人為本發(fā)展AI是需要遵循的原則。歐盟相關(guān)做法有可供借鑒的方面。一是平衡好技術(shù)發(fā)展與隱私保護之間的關(guān)系。歐盟推出GDPR后，很多AI公司認為該條例限制了數(shù)據(jù)的流動和使用，會影響AI算法的改進。從實施一周年的情況看，很多AI公司完善了數(shù)據(jù)用途的告知方式，并注意提高用戶數(shù)據(jù)保護的安全性[6]。因此，在我國AI發(fā)展過程中，也需要以更為細致的立法規(guī)范企業(yè)對用戶數(shù)據(jù)的使用。二是做好大眾對AI技術(shù)的心理建設(shè)。AI給大眾的印象，通常較為神秘，益處與風(fēng)險共存。有必要向公眾加強AI相關(guān)知識的宣傳，一方面說明這一技術(shù)的利弊，讓大家了解其與現(xiàn)有技術(shù)的異同;另一方面也要加強對企業(yè)宣傳的管理，減少對AI進行名不符實的宣傳，避免造成對AI的盲目崇拜或恐慌。三是加強AI相關(guān)的培訓(xùn)。AI對于傳統(tǒng)產(chǎn)業(yè)的改造，可能帶來從業(yè)人員工作崗位的變動。為此需要增加從業(yè)人員的通用AI技能培訓(xùn)，提高他們對本行業(yè)或其他行業(yè)的適應(yīng)能力，降低離職風(fēng)險。同時，推動對AI開發(fā)人員、大學(xué)生等高技能、高知人才的AI相關(guān)的倫理、道德教育，認識到自己所掌握技術(shù)的巨大影響力，從而主動提高自身的職業(yè)道德和操守，將所掌握技術(shù)用于造福社會。

4? 結(jié)語

總體來看，雖然經(jīng)歷了疫情，但歐盟在經(jīng)濟復(fù)蘇后仍將加快AI的發(fā)展。其試圖以新的《人工智能戰(zhàn)略》為引領(lǐng)，一方面建立規(guī)則，成為AI時代的規(guī)則建立者以獲得更多話語權(quán);另一方面以增加投入、強化監(jiān)管、培養(yǎng)公眾信心等多種措施促進產(chǎn)業(yè)發(fā)展，以期與美國等其他AI發(fā)展強國在新時期開展競爭。對我國來說，把握好“新基建”的契機，做好頂層設(shè)計，加快標(biāo)準(zhǔn)、法規(guī)的制定，在保持技術(shù)與應(yīng)用優(yōu)勢的同時，掌握更多的國際話語權(quán)，同時做好與人相關(guān)的工作，從而用好AI帶來的益處，降低對就業(yè)、生活的沖擊，不斷推進我國AI產(chǎn)業(yè)的發(fā)展。

參考文獻

[1] 殷佳章，房樂憲.歐盟人工智能戰(zhàn)略框架下的倫理準(zhǔn)則及其國際含義[J].國際論壇，2020，22（2）：18-30，155-156.

[2] 顧非易.人工智能與數(shù)據(jù)保護法律問題[J].人民法治，2019（12）：80-81.

[3] 李超，黃銀蓉.大數(shù)據(jù)時代人工智能的創(chuàng)新與發(fā)展研究[J].科技資訊，2019，17（30）：9-10.

[4] 李海英，徐小露.人工智能時代中國個人信息保護法的選擇[J].北京航空航天大學(xué)學(xué)報：社會科學(xué)版，2020，33（3）：17-24.

[5] 王灝晨，溫珂.新冠肺炎疫情的危中之機——加速我國數(shù)字化轉(zhuǎn)型[J].科學(xué)學(xué)研究，2020，38（3）：393-395.

[6] 王灝晨.《通用數(shù)據(jù)保護條例（GDPR）》的實踐評價及啟示[J].中國物價，2019（12）：79-81.