• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    從兩極到三強(qiáng):歐盟人工智能的全球競(jìng)爭(zhēng)戰(zhàn)略分析

    2022-06-24 06:58:10繆其浩
    中國(guó)科技論壇 2022年6期
    關(guān)鍵詞:倫理競(jìng)爭(zhēng)歐洲

    施 雯,繆其浩

    (上海圖書館 (上??茖W(xué)技術(shù)情報(bào)研究所),上海 200031)

    0 引言

    人工智能正在成為影響未來社會(huì)變革的最重要不確定因素之一。從資金投入、技術(shù)發(fā)展、人才培養(yǎng)、應(yīng)用場(chǎng)景等多方面來看,中美兩國(guó)已顯著占據(jù)全球人工智能領(lǐng)域 “兩極”之位。世界70大互聯(lián)網(wǎng)公司掌握著人工智能技術(shù)賴以存在的絕大部分?jǐn)?shù)據(jù)與算法,而這些公司90%的市場(chǎng)資本由中美兩國(guó)所把控[1]。但不容忽視的是,歐盟正在成為該領(lǐng)域的新晉競(jìng)爭(zhēng)者。

    歐盟委員會(huì)自2018年發(fā)布 《歐洲人工智能戰(zhàn)略》以來連續(xù)出臺(tái)多份關(guān)聯(lián)文件,并積極推進(jìn)立法,引發(fā)有關(guān)歐盟會(huì)否成為另一個(gè)人工智能超級(jí)大國(guó)之問。首先,歐盟表明了試圖將 “兩極”盤踞的局勢(shì)扭轉(zhuǎn)為 “三強(qiáng)”相爭(zhēng)的意愿。歐盟委員會(huì)明確表示不愿意在中美兩國(guó)間 “選邊戰(zhàn)隊(duì)”的立場(chǎng),提出要成為競(jìng)技手,而不是充當(dāng)其他人的競(jìng)技場(chǎng)[2]。其次,歐盟委員會(huì)已發(fā)布的戰(zhàn)略文本顯示,歐盟正基于自身比較優(yōu)勢(shì)選擇以不同于中美的發(fā)展模式參與競(jìng)爭(zhēng)。歐盟委員會(huì)主席烏爾蘇拉·馮德萊恩提出了 “技術(shù)主權(quán)” (technological sovereignty)的概念,其實(shí)質(zhì)是希望在與核心技術(shù)相關(guān)的基礎(chǔ)設(shè)施、工具、標(biāo)準(zhǔn)和法律規(guī)則乃至價(jià)值觀和社會(huì)模式方面實(shí)現(xiàn)最大程度的 “規(guī)制自主” (regulatory autonomy)[3],為歐洲爭(zhēng)取發(fā)展空間。最后,考慮到歐盟確實(shí)擁有重視個(gè)人隱私及數(shù)據(jù)相關(guān)權(quán)利的價(jià)值傳統(tǒng)與民意基礎(chǔ),以及 《一般數(shù)據(jù)保護(hù)條例》 (GDPR)帶來的實(shí)踐經(jīng)驗(yàn),歐盟有可能在以國(guó)家驅(qū)動(dòng)的中國(guó)力量和以市場(chǎng)驅(qū)動(dòng)的美國(guó)戰(zhàn)略之外,拋出 “以人為中心”的價(jià)值觀立場(chǎng),搶先發(fā)布人工智能領(lǐng)域的倫理監(jiān)管準(zhǔn)則,并將其推向國(guó)際社會(huì),嘗試以歐洲方式實(shí)現(xiàn) “彎道超車”。

    由于人工智能議題關(guān)乎大國(guó)間在科技、經(jīng)濟(jì)、社會(huì)等多維度上的力量對(duì)比,極有必要持續(xù)跟蹤分析國(guó)家和國(guó)家集團(tuán)層面在人工智能方面的國(guó)際競(jìng)爭(zhēng)態(tài)勢(shì),其中,歐盟是研判全球人工智能競(jìng)爭(zhēng)格局所不能忽視的重大變因。本文在全盤梳理歐盟人工智能戰(zhàn)略的實(shí)施意圖、舉措與前景的基礎(chǔ)上,從其主要競(jìng)爭(zhēng)對(duì)手美國(guó)的相關(guān)反應(yīng)評(píng)估其戰(zhàn)略效果,推斷戰(zhàn)略中存在的薄弱環(huán)節(jié)與風(fēng)險(xiǎn),為中國(guó)應(yīng)對(duì)新的競(jìng)爭(zhēng)局面提供建言。

    1 文獻(xiàn)綜述

    21世紀(jì)以來,科技競(jìng)爭(zhēng)成為大國(guó)間競(jìng)爭(zhēng)的主導(dǎo)領(lǐng)域。關(guān)于美國(guó)和中國(guó)爭(zhēng)奪技術(shù)主導(dǎo)地位的研究較多,特別是在人工智能領(lǐng)域。但也有學(xué)者提出,這些分析缺少一個(gè)重要的參與者:歐洲。歐洲正在發(fā)展自己的戰(zhàn)略和能力,以之與美國(guó)和中國(guó)抗衡[4]。

    國(guó)外對(duì)歐盟人工智能戰(zhàn)略的分析,自2018年 《歐洲人工智能戰(zhàn)略》發(fā)布后掀起一波小高潮。研究重點(diǎn)可分為三類:第一類,戰(zhàn)略框架的評(píng)議,以及進(jìn)一步推進(jìn)的建言。大部分文章認(rèn)為,歐盟一直致力于鼓勵(lì)發(fā)展合乎道德的、值得信賴和可靠的新技術(shù),這促使其在人工智能領(lǐng)域也采用了相同的治理思路,即強(qiáng)調(diào)對(duì)人工智能技術(shù)和應(yīng)用的監(jiān)管,使其值得信賴、穩(wěn)健可靠,并以倫理監(jiān)管作為主要治理工具[5]?;诖肆?chǎng)對(duì)戰(zhàn)略的評(píng)議也以正面為多,認(rèn)為歐洲目前需要人工智能的監(jiān)管、標(biāo)準(zhǔn)化和道德原則,勝過需要?jiǎng)?chuàng)新[6]。美國(guó)科技智庫則持不同的觀點(diǎn),認(rèn)為監(jiān)管會(huì)限制人工智能在歐洲的開發(fā)與應(yīng)用,還會(huì)增加歐盟人工智能企業(yè)和消費(fèi)者的成本[7]。第二類研究集中分析了歐盟成員國(guó)對(duì)歐盟人工智能戰(zhàn)略的響應(yīng)與準(zhǔn)備程度,指出成員國(guó)解釋歐盟政策的方式及其推進(jìn)相關(guān)目標(biāo)的國(guó)家舉措,會(huì)最終決定歐盟戰(zhàn)略重點(diǎn)和倫理監(jiān)管的方法能否奏效[8]。第三類研究,也是本文最為關(guān)注的部分,即從全球競(jìng)爭(zhēng)角度比較歐盟與其他國(guó)家的人工智能戰(zhàn)略,但此類研究較少。雖然存在一些分別比較歐盟-美國(guó)[9]或歐盟-中國(guó)的人工智能戰(zhàn)略研究[10],但切入點(diǎn)多為何種戰(zhàn)略模式更利于人工智能的發(fā)展,而非置于全球競(jìng)爭(zhēng)局勢(shì)下對(duì)競(jìng)爭(zhēng)策略的分析。

    在人工智能競(jìng)爭(zhēng)研究方面,國(guó)內(nèi)學(xué)者更注重錨定美國(guó)而較少關(guān)注歐盟的動(dòng)作。歐盟戰(zhàn)略發(fā)布后,雖有大量報(bào)道卻缺乏深度研究。曹建峰等[11]分析了歐盟人工智能倫理治理的路徑;黃鄭亮[12]從全球價(jià)值鏈視角切入,分析了歐盟人工智能的競(jìng)爭(zhēng)力。但是,目前還較少有從競(jìng)爭(zhēng)戰(zhàn)略的角度就歐盟對(duì)策可能對(duì)國(guó)際競(jìng)爭(zhēng)格局帶來的變化及其對(duì)中國(guó)的影響展開研究。

    分析綜述表明,在當(dāng)下全球大國(guó)競(jìng)爭(zhēng)局勢(shì)下,以歐盟為主要對(duì)象研究其人工智能競(jìng)爭(zhēng)戰(zhàn)略的目標(biāo)和核心舉措具有重要意義,尤其是探討其以不同于中美的競(jìng)爭(zhēng)策略入局所可能帶來的影響,可為中國(guó)下一階段的謀篇布局提供參考。

    2 歐盟人工智能競(jìng)爭(zhēng)戰(zhàn)略文本分析

    2.1 戰(zhàn)略文本梳理

    筆者將研究范圍鎖定在2018年以來由歐盟委員會(huì)發(fā)布的所有與人工智能相關(guān)的戰(zhàn)略文本,因?yàn)檫@一年 《歐洲人工智能戰(zhàn)略》正式發(fā)布,首次明確了歐盟將作為一個(gè)整體,基于歐洲價(jià)值觀來確定自己參與全球人工智能競(jìng)爭(zhēng)的方式,并在文件中審視了自身在國(guó)際競(jìng)爭(zhēng)格局中的地位,且以中美為主要競(jìng)爭(zhēng)對(duì)手。

    如表1所示,2018—2021年,歐盟委員會(huì)先后發(fā)布了五份緊扣人工智能主題的戰(zhàn)略文件。其中, 《可信賴人工智能倫理指南》雖非歐盟委員會(huì)直接發(fā)布,卻是因應(yīng)戰(zhàn)略要求經(jīng)歐盟委員會(huì)召集52位跨領(lǐng)域的高端人才組成的智庫——人工智能高級(jí)專家組 (High-Level Expert Group on AI)撰寫提交的,因而也具有重要的參考價(jià)值。該臨時(shí)智庫在兩年的工作期內(nèi) (2018.06—2020.07)助力歐盟委員會(huì)演繹了人工智能戰(zhàn)略的競(jìng)爭(zhēng)定位,提供了具有可操作性的實(shí)施路徑,因此其發(fā)布的文件也作為本研究之列。

    表1 2018年以來歐盟委員會(huì)發(fā)布的人工智能競(jìng)爭(zhēng)戰(zhàn)略文件

    2.2 競(jìng)爭(zhēng)戰(zhàn)略特點(diǎn)

    (1)競(jìng)爭(zhēng)定位:發(fā)展 “以人為中心”的人工智能。特勞特等[13]根據(jù)軍事中 “選擇決戰(zhàn)地點(diǎn)”的概念提出定位理論,強(qiáng)調(diào)要避開競(jìng)爭(zhēng)對(duì)手在顧客心智中的強(qiáng)勢(shì),或是利用其強(qiáng)勢(shì)中蘊(yùn)含的弱點(diǎn),確立品牌的優(yōu)勢(shì)位置。借用此理論分析歐盟人工智能的競(jìng)爭(zhēng)戰(zhàn)略,便是在制定競(jìng)爭(zhēng)定位時(shí)避開中美兩大競(jìng)爭(zhēng)對(duì)手在人工智能尖端技術(shù)和應(yīng)用市場(chǎng)方面的強(qiáng)勢(shì),選擇讓歐盟的人工智能在公眾心目中成為 “可信賴與安全的”代表。具體而言,歐盟的競(jìng)爭(zhēng)定位是創(chuàng)建 “以人為中心 (human-centered)”的人工智能 (國(guó)內(nèi)也有譯為 “以人為本的人工智能”)。以人為中心的人工智能概念雖然最早由斯坦福大學(xué)、麻省理工學(xué)院等美國(guó)大學(xué)展開集中研究,強(qiáng)調(diào)人工智能不僅僅是技術(shù),也必須是人文的、合乎道德倫理的、惠及人類的,是增強(qiáng)人的能力而非取代人[14]。但歐盟率先將這一概念嵌入競(jìng)爭(zhēng)戰(zhàn)略中,突出概念中道德倫理的部分,強(qiáng)調(diào)歐盟的人工智能是與眾不同的,將在保護(hù)并尊重人類基本權(quán)利和價(jià)值觀的前提下顯著改善公民生活,并有效助力社會(huì)和經(jīng)濟(jì)發(fā)展,并且要讓歐盟與成員國(guó)共同成為以人為中心的人工智能的全球領(lǐng)導(dǎo)者[15]。此定位透露出歐盟參與競(jìng)爭(zhēng)的內(nèi)在邏輯:第一,以人為中心的人工智能應(yīng)該是符合歐盟核心價(jià)值觀的人工智能,即 《里斯本條約》明確的歐盟必須建立在尊重人的尊嚴(yán)、自由、民主、平等、法治和尊重人權(quán),包括少數(shù)族裔人權(quán)的基礎(chǔ)上。這些價(jià)值觀應(yīng)該完全融入人工智能技術(shù)與系統(tǒng)從開發(fā)到應(yīng)用的全過程;第二,符合歐盟核心價(jià)值觀的人工智能,更容易獲得歐洲用戶的信任,并形成成員國(guó)之間的合力,用以構(gòu)建統(tǒng)一的歐洲市場(chǎng);第三,判定人工智能是否以人為中心符合歐盟價(jià)值觀,就必須為其設(shè)定一套道德準(zhǔn)則和評(píng)估標(biāo)準(zhǔn),甚至上升至法律層面,這將自然地為歐洲市場(chǎng)設(shè)立起一道監(jiān)管屏障。

    (2)競(jìng)爭(zhēng)策略:建立可信賴與安全的人工智能監(jiān)管框架。歐盟人工智能的國(guó)際競(jìng)爭(zhēng)策略并非通常認(rèn)為的實(shí)現(xiàn)技術(shù)上的趕超,而是基于歐盟強(qiáng)大的倫理和法律監(jiān)管框架,為以人為中心的人工智能設(shè)下全球標(biāo)準(zhǔn)。 《人工智能白皮書——通往卓越和信任的歐洲路徑》 (以下簡(jiǎn)稱 《人工智能白皮書》)明確了監(jiān)管的原則:新的人工智能監(jiān)管框架應(yīng)該能夠有效實(shí)現(xiàn)其目標(biāo),但亦不能規(guī)定得過于 “事無巨細(xì)”,尤其不應(yīng)造成中小企業(yè)不成比例的負(fù)擔(dān)。為此,新的監(jiān)管框架應(yīng)以風(fēng)險(xiǎn)為導(dǎo)向[16],即基于風(fēng)險(xiǎn)對(duì)人工智能應(yīng)用分級(jí)分類,采取不同的事前規(guī)制。

    歐盟在操作層面將人工智能的監(jiān)管框架分為兩部分:一為倫理指南,也稱為 “軟法”;二為出臺(tái)遏制性的法律法規(guī)。 “軟法”是被所有歐盟文件反復(fù)提及、監(jiān)管框架中的關(guān)鍵要素,既是正式立法的前提,也有助于為人工智能的事前規(guī)制設(shè)定全球標(biāo)準(zhǔn)?;陲L(fēng)險(xiǎn)導(dǎo)向的原則,歐盟人工智能高級(jí)別專家組發(fā)布的 《可信賴的人工智能倫理準(zhǔn)則》對(duì)這種標(biāo)準(zhǔn)進(jìn)行了內(nèi)涵的演繹和闡釋,明確 “可信賴的人工智能”應(yīng)該是合乎法律的、合乎道德的、技術(shù)穩(wěn)健的。其中,合乎道德標(biāo)準(zhǔn)可以理解為人工智能系統(tǒng)的設(shè)計(jì)應(yīng)充分尊重人類的自主性、不應(yīng)對(duì)人類造成任何傷害或不利、開發(fā)部署和使用必須確保對(duì)所有人的公平,以及系統(tǒng)決策的整個(gè)過程應(yīng)該是可解釋的。 《人工智能白皮書》進(jìn)一步明確了風(fēng)險(xiǎn)導(dǎo)向原則將使歐盟首先盯牢 “高風(fēng)險(xiǎn)”人工智能應(yīng)用,例如用于招聘員工、評(píng)估信用、司法決策等方面的人工智能系統(tǒng)就屬于高風(fēng)險(xiǎn),旨在不妨礙創(chuàng)新的前提下積極保護(hù)用戶的利益,符合以人為中心的戰(zhàn)略定位。

    在 “軟法”基礎(chǔ)上, 《關(guān)于人工智能的統(tǒng)一規(guī)則 (人工智能法)并修正某些聯(lián)合立法行為》提案 (以下簡(jiǎn)稱 “ 《人工智能法》提案”)是一套針對(duì)在歐盟投放市場(chǎng)、投入服務(wù)和使用人工智能系統(tǒng)的統(tǒng)一規(guī)則[17]。一旦通過,該法案就將為歐盟構(gòu)建起一個(gè)重視風(fēng)險(xiǎn)且態(tài)度審慎的監(jiān)管結(jié)構(gòu),通過精細(xì)劃分人工智能風(fēng)險(xiǎn)等級(jí)并制定針對(duì)性的監(jiān)管措施,確保其倫理監(jiān)管競(jìng)爭(zhēng)策略切實(shí)可行。法案還提出設(shè)置專責(zé)機(jī)構(gòu),即由歐洲人工智能委員會(huì)負(fù)責(zé)促進(jìn)各成員國(guó)監(jiān)管部門落實(shí)該法案。雖然草案仍需經(jīng)過歐洲議會(huì)和歐洲理事會(huì)的審議批準(zhǔn),但歐盟方面已明確了擬成為全球首個(gè)就如何使用人工智能出臺(tái)規(guī)則的大型司法管轄區(qū)的決心。

    (3)搭建使能環(huán)境。為了使競(jìng)爭(zhēng)戰(zhàn)略奏效,歐盟著力三方面為其搭建使能環(huán)境:

    第一,構(gòu)建統(tǒng)一數(shù)據(jù)空間,夯實(shí)基礎(chǔ)。歐盟必須要進(jìn)一步消除數(shù)字化領(lǐng)域的內(nèi)部市場(chǎng)壁壘,才能形成參與國(guó)際競(jìng)爭(zhēng)的合力。 《人工智能白皮書》的附件 《歐洲數(shù)據(jù)戰(zhàn)略》明確歐盟的目標(biāo)是構(gòu)建歐盟統(tǒng)一的數(shù)據(jù)空間,即真正的統(tǒng)一數(shù)據(jù)市場(chǎng),以便使全球數(shù)據(jù)都能夠進(jìn)入歐盟,同時(shí)確保個(gè)人及非個(gè)人數(shù)據(jù) (包括敏感商業(yè)數(shù)據(jù))的安全。在這個(gè)數(shù)據(jù)空間中,歐盟法律將得到有效執(zhí)行,同時(shí)所有數(shù)據(jù)驅(qū)動(dòng)的產(chǎn)品和服務(wù)都需遵守歐盟統(tǒng)一市場(chǎng)的相關(guān)規(guī)范。歐盟發(fā)布的人工智能戰(zhàn)略文本中并未就 “數(shù)據(jù)空間”作明確定義,但歐洲智庫大數(shù)據(jù)價(jià)值協(xié)會(huì)提供了解釋:數(shù)據(jù)空間是一個(gè)總稱,對(duì)應(yīng)所有由數(shù)據(jù)模型、數(shù)據(jù)集、本體、數(shù)據(jù)共享合同和專業(yè)管理服務(wù)所組成的生態(tài)系統(tǒng),以及圍繞它的軟競(jìng)爭(zhēng)力 (即治理、社會(huì)互動(dòng)、業(yè)務(wù)流程)。這些能力遵循數(shù)據(jù)工程方法,優(yōu)化數(shù)據(jù)存儲(chǔ)和交換機(jī)制,并以這種方式保存、生成和共享新知識(shí)[18]。歐盟顯然希望形成一個(gè)完整且可以 “自給自足”的歐洲數(shù)據(jù)存儲(chǔ)、處理、共享、服務(wù)生態(tài)系統(tǒng)。

    數(shù)據(jù)空間的建立主要從兩方面著手:一是聚力成員國(guó)。歐盟希望通過標(biāo)準(zhǔn)和立法,減小成員國(guó)之間的 “有害割裂”。 《歐洲人工智能戰(zhàn)略》呼吁成員國(guó)分享最佳實(shí)踐,在互操作性和數(shù)據(jù)集方面進(jìn)行合作,推動(dòng)人工智能初創(chuàng)公司的出現(xiàn);同時(shí)落實(shí)針對(duì)公共歐盟數(shù)據(jù)空間治理的立法框架,明確跨行業(yè)數(shù)據(jù)和公共數(shù)據(jù)的獲取和使用問題。二是投資基建,尤其是云基建及相關(guān)服務(wù)。統(tǒng)一的歐洲數(shù)據(jù)空間需要具有安全性、可持續(xù)性、互操作性和可擴(kuò)展性等云基礎(chǔ)設(shè)施及服務(wù),包括成員國(guó)層面、歐盟層面及私營(yíng)部門現(xiàn)存計(jì)算能力的互聯(lián)與整合,解決跨組織數(shù)據(jù)共享的技術(shù)障礙。歐盟將在2021—2027年投資40億至60億歐元,發(fā)展有關(guān)歐洲數(shù)據(jù)空間和聯(lián)合云基礎(chǔ)設(shè)施的高影響力項(xiàng)目,同時(shí)加快成員國(guó)之間的云聯(lián)盟與合作,建立歐洲云服務(wù)市場(chǎng),減少對(duì)外國(guó)大型云服務(wù)提供商的依賴。

    第二,公共部門先試先行,示范應(yīng)用。為了突出以人為中心的人工智能的競(jìng)爭(zhēng)定位,令公眾更大程度地接受可信賴的人工智能技術(shù)與系統(tǒng),歐盟在多份戰(zhàn)略文本中強(qiáng)調(diào)人工智能應(yīng)用可以通過更智能的分析能力,更好地理解經(jīng)濟(jì)、社會(huì)和環(huán)境中的實(shí)時(shí)過程 (如人口、經(jīng)濟(jì)、環(huán)境和氣候的變化),為更好的公共服務(wù)做出貢獻(xiàn)。同時(shí)呼吁成員國(guó)在公共部門和公共服務(wù)領(lǐng)域先試先行,率先接納可信賴的人工智能,向公眾做出示范。 《人工智能協(xié)調(diào)計(jì)劃》提出歐盟人工智能必須在具有重大影響力的領(lǐng)域中占據(jù)戰(zhàn)略領(lǐng)導(dǎo)地位,公共部門便是具有重大影響力的領(lǐng)域之一,并且公共部門要成為應(yīng)用人工智能的探路者。具體舉措包括三方面:其一,構(gòu)建公共采購(gòu)數(shù)據(jù)空間,用以共享公共采購(gòu)數(shù)據(jù);其二,制定公共部門人工智能應(yīng)用計(jì)劃,推動(dòng)政府等公共部門主體的人工智能應(yīng)用;其三,推廣人工智能驅(qū)動(dòng)的城市數(shù)字孿生計(jì)劃,利用數(shù)字孿生技術(shù)解決城市環(huán)境或氣候問題。除此之外,計(jì)劃提及的其他具有重大影響力的領(lǐng)域包括氣候與環(huán)境、醫(yī)療健康、機(jī)器人、執(zhí)法移民和救濟(jì)、交通和農(nóng)業(yè),也大都具有公共屬性,部分以公共服務(wù)的形式呈現(xiàn)于公眾面前,同樣也服務(wù)于歐盟以人為中心的人工智能的競(jìng)爭(zhēng)定位。

    第三,尋求共識(shí)聯(lián)合盟友,擴(kuò)大影響。歐洲智庫歐盟對(duì)外關(guān)系理事會(huì)認(rèn)為:歐盟應(yīng)改變長(zhǎng)期以來主要從經(jīng)濟(jì)角度看待技術(shù)問題的方式,轉(zhuǎn)而深入?yún)⑴c技術(shù)的地緣政治,只有這樣才能在中美兩個(gè)技術(shù)強(qiáng)國(guó)之間找到屬于自己的位置[19]。歐盟戰(zhàn)略文本顯示,歐盟有意在制定人工智能規(guī)制的同時(shí),積極與所有愿意分享相同價(jià)值觀的非歐盟國(guó)家展開對(duì)話。具體表現(xiàn)為歐盟有意在聯(lián)合國(guó)、經(jīng)合組織、七國(guó)集團(tuán)或二十國(guó)集團(tuán)等全球治理平臺(tái)上推廣人工智能的倫理準(zhǔn)則。筆者也發(fā)現(xiàn),經(jīng)合組織近年來頻繁發(fā)文關(guān)注歐盟的人工智能發(fā)展模式,并已在2020年與歐盟委員會(huì)形成合作,共同構(gòu)建全球人工智能戰(zhàn)略和政策的數(shù)據(jù)庫,跟蹤發(fā)展趨勢(shì)[20]。另一方面,歐盟通過 《人工智能協(xié)調(diào)計(jì)劃》呼吁成員國(guó)嘗試協(xié)調(diào)個(gè)別成員國(guó)和第三國(guó)之間與人工智能相關(guān)的雙邊外展工作。在成員國(guó)的協(xié)同作用下,歐盟還將尋求與利益相關(guān)者——科技公司、學(xué)術(shù)界和其他各方結(jié)成聯(lián)盟。歐盟清楚地意識(shí)到,只有形成一套承認(rèn)歐盟價(jià)值觀的人工智能倫理監(jiān)管的多邊合作框架,才有可能真正擴(kuò)大歐洲力量,同時(shí)使其成為歐盟加強(qiáng)在歐洲之外影響現(xiàn)有地緣政治格局的重要籌碼。

    2.3 歐盟競(jìng)爭(zhēng)戰(zhàn)略小結(jié)

    基于自身優(yōu)劣勢(shì)的考慮,結(jié)合國(guó)際競(jìng)爭(zhēng)格局帶來的挑戰(zhàn)與機(jī)會(huì),歐盟選擇扛起以人為中心的人工智能的大旗,一方面通過設(shè)立非正式的倫理行為指引 (軟法)和正式立法 (硬法),雙管齊下撬動(dòng)其強(qiáng)大的監(jiān)管力量,發(fā)揮 “布魯塞爾效應(yīng)”,即雖然歐盟只監(jiān)管其內(nèi)部市場(chǎng),但由于其內(nèi)部市場(chǎng)的規(guī)模足夠大,跨國(guó)公司為進(jìn)入該市場(chǎng)而不得不遵循歐盟標(biāo)準(zhǔn)。隨著這些公司自愿將歐盟標(biāo)準(zhǔn)延伸至管理其全球業(yè)務(wù),歐盟便可改變?nèi)蚴袌?chǎng)。 《一般數(shù)據(jù)保護(hù)條例》就是循此路徑單方面改變了全球市場(chǎng)的行業(yè)標(biāo)準(zhǔn)??梢哉f,全球人工智能競(jìng)賽因此產(chǎn)生了一條新賽道,即人工智能監(jiān)管競(jìng)賽,而歐盟是在這條道上占據(jù)先發(fā)優(yōu)勢(shì)的參賽選手。

    歐盟要完全依靠倫理監(jiān)管提升人工智能的綜合競(jìng)爭(zhēng)力仍面臨多重挑戰(zhàn):第一,倫理監(jiān)管為先的競(jìng)爭(zhēng)戰(zhàn)略若不能具備足夠的預(yù)見性、靈敏性和適應(yīng)力,可能掣肘創(chuàng)新力,限制歐盟內(nèi)部人工智能技術(shù)與企業(yè)的發(fā)展;第二,在技術(shù)優(yōu)勢(shì)不足的情況下,倫理監(jiān)管可能難以在全球競(jìng)爭(zhēng)中形成真正的威懾力;第三,歐盟如果不能形成真正的數(shù)字單一市場(chǎng),則無法真正推進(jìn)人工智能監(jiān)管的歐盟標(biāo)準(zhǔn),也無法利用窗口期實(shí)現(xiàn)人工智能技術(shù)或應(yīng)用的超越。

    3 中美歐競(jìng)爭(zhēng)格局的分析與啟示

    3.1 歐盟躋身人工智能三強(qiáng)的可能性

    分析歐盟主要競(jìng)爭(zhēng)對(duì)手美國(guó)的反應(yīng),可在一定程度上判斷歐盟戰(zhàn)略的有效性。2021年9月美國(guó)商務(wù)部透露正在組建委員會(huì),針對(duì)人工智能競(jìng)爭(zhēng)力和倫理問題向總統(tǒng)和聯(lián)邦政府提供建言[21]。美國(guó)戰(zhàn)略與國(guó)際問題研究中心發(fā)布美歐 《人工智能合作監(jiān)管議程前景》的研究報(bào)告,提出跨大西洋合作發(fā)展才有優(yōu)勢(shì),美歐需要明確采取監(jiān)管 “高風(fēng)險(xiǎn)”人工智能應(yīng)用的共同辦法[22]。筆者對(duì)美國(guó)著名科技智庫信息技術(shù)和創(chuàng)新基金會(huì) (ITIF)的公開發(fā)表物進(jìn)行了跟蹤分析,發(fā)現(xiàn)即便這是一個(gè)長(zhǎng)期研判中美科技競(jìng)爭(zhēng)態(tài)勢(shì)的主要智庫,在人工智能方面也能清晰看到其 “提防”歐盟之心遠(yuǎn)勝中國(guó)。如表2所示,截至2021年6月28日,ITIF從未對(duì)中國(guó)人工智能進(jìn)行單獨(dú)國(guó)別的研究。與中國(guó)相關(guān)的研究成果共計(jì)5項(xiàng) (包括簡(jiǎn)報(bào)、研報(bào)、研討會(huì)),都是把中國(guó)放在全球人工智能競(jìng)賽版圖內(nèi)展開的多國(guó)比較研究。與此同時(shí),ITIF就歐洲的人工智能共發(fā)布25份研究?jī)?nèi)容,其中22份是以歐盟為單獨(dú)研究對(duì)象進(jìn)行分析的,這些成果的撰文者主要來自ITIF下設(shè)在歐洲的數(shù)據(jù)創(chuàng)新中心。ITIF對(duì)歐洲人工智能的研究結(jié)論非常統(tǒng)一:批判歐洲實(shí)施的人工智能戰(zhàn)略框架,尤其強(qiáng)調(diào)其對(duì)倫理方面的監(jiān)管方向掣肘了歐洲的綜合競(jìng)爭(zhēng)力,使其落后于美國(guó)和中國(guó)。筆者分析,結(jié)合美國(guó)科技企業(yè)多番折戟于歐洲的數(shù)據(jù)監(jiān)管,這也可以理解為美國(guó)智庫的觀點(diǎn)輸出策略,底層邏輯還是為了說服這位有潛力的競(jìng)爭(zhēng)對(duì)手卸下監(jiān)管壁壘,或者說有意拉攏這位潛在 “盟友”。

    從實(shí)踐角度來看,可將歐洲數(shù)據(jù)監(jiān)管方面的成效作為參考,研判歐盟躋身人工智能三強(qiáng)的可能性。2016年歐美通過 “歐美隱私盾牌”協(xié)議,令美國(guó)企業(yè)接受與在歐盟境內(nèi)同樣的數(shù)據(jù)保護(hù)標(biāo)準(zhǔn),這意味著歐盟開始有意識(shí)地控制美國(guó)互聯(lián)網(wǎng)公司在歐洲的發(fā)展速度。2020年7月,歐洲法院以擔(dān)心美國(guó)政府監(jiān)聽歐盟用戶數(shù)據(jù)為由廢除了該協(xié)議,徹底限制數(shù)據(jù)流出歐洲,正式宣告數(shù)據(jù)主權(quán)。與此同時(shí),英國(guó)通過與日本簽訂 《全面經(jīng)濟(jì)伙伴關(guān)系協(xié)定》允許兩國(guó)間數(shù)據(jù)自由流動(dòng),有可能形成英日歐的數(shù)字經(jīng)濟(jì)共同體。由此來判斷,歐盟只要能夠爭(zhēng)取國(guó)際盟友,克服脫歐后的英國(guó)所存在的不確定因素,擴(kuò)大倫理監(jiān)管的適用范圍,確有可能取得戰(zhàn)略成效。

    3.2 中美歐人工智能的競(jìng)合關(guān)系研判

    歐盟構(gòu)建起的可信賴與安全的人工智能監(jiān)管框架一旦與中國(guó)、美國(guó)其中之一互認(rèn),將形成事實(shí)意義上的全球最大數(shù)字經(jīng)濟(jì)共同體。因此,研判美中歐之間的競(jìng)合關(guān)系至關(guān)重要。

    從美歐關(guān)系來看,雙方因?yàn)閾碛幸恍┕餐膬r(jià)值觀而存在合作的基礎(chǔ),這也有利于歐盟更好地輸出其對(duì)人工智能施以倫理監(jiān)管的主張,但歐盟的實(shí)際行動(dòng)顯示出其對(duì)全盤跟隨美國(guó)持猶疑態(tài)度。例如,美國(guó)希望歐洲參與 “清潔網(wǎng)絡(luò)”計(jì)劃等抵制中國(guó)公司的行動(dòng),但大部分歐洲國(guó)家深知貿(mào)然跟隨會(huì)破壞全球供應(yīng)鏈從而對(duì)歐洲產(chǎn)生巨大影響,因此并未作出積極響應(yīng)。

    從中歐關(guān)系來看,雙方在數(shù)字治理規(guī)制方面存在分歧,但在經(jīng)貿(mào)合作方面依存度較高。歐盟委員會(huì)主席馮德萊恩在2020年發(fā)表的 “歐盟版年度國(guó)情咨文”中提到:中國(guó)是一位談判伙伴,一個(gè)經(jīng)濟(jì)方面的競(jìng)爭(zhēng)者,也是一位系統(tǒng)性對(duì)手[23]。筆者認(rèn)為,這段表述強(qiáng)調(diào)的正是中歐之間合作與競(jìng)爭(zhēng)將長(zhǎng)期并存的現(xiàn)實(shí)。據(jù)此推斷,歐盟的態(tài)度始終會(huì)在猶疑中實(shí)現(xiàn)平衡,可能會(huì)在維護(hù)技術(shù)主權(quán)的核心理念下,嘗試調(diào)和中歐數(shù)字經(jīng)濟(jì)和人工智能治理所存在的分歧。

    如果美國(guó)執(zhí)意與中國(guó)進(jìn)行技術(shù)脫鉤,歐盟對(duì)通過 “技術(shù)主權(quán)”實(shí)現(xiàn)戰(zhàn)略自主的目標(biāo)設(shè)定可能更利好中國(guó)。因?yàn)橹灰绹?guó)無法強(qiáng)迫歐洲在數(shù)字經(jīng)濟(jì)的關(guān)鍵問題上完全向其靠攏,中國(guó)就將獲得與歐盟之間更大的協(xié)商空間。

    表2 ITIF對(duì)中國(guó)和歐盟人工智能的研究成果比較

    3.3 對(duì)中國(guó)的啟示

    (1)人工智能的競(jìng)爭(zhēng)策略需要在競(jìng)爭(zhēng)環(huán)境中立足國(guó)情。我們所熟悉的 “對(duì)標(biāo)”或 “趕超”思維未必適合產(chǎn)業(yè)技術(shù)的國(guó)際競(jìng)爭(zhēng),中美歐三方正以三種不同的競(jìng)爭(zhēng)策略參與人工智能的國(guó)際競(jìng)爭(zhēng)。每個(gè)國(guó)家選擇自己策略的出發(fā)點(diǎn),首先應(yīng)該立足國(guó)情,同時(shí)需要 “左顧右盼”,在與事實(shí)上的競(jìng)爭(zhēng)對(duì)手博弈中建立自己的戰(zhàn)略。

    歐盟選擇 “以人驅(qū)動(dòng)監(jiān)管為重”的模式,是考慮到美國(guó)和中國(guó)已經(jīng)占據(jù)先機(jī)的形勢(shì)下將個(gè)人的權(quán)利置于人工智能發(fā)展的核心,充分發(fā)揮倫理監(jiān)管和數(shù)據(jù)主權(quán)的先發(fā)優(yōu)勢(shì),以此暫時(shí)抵擋來自外部的競(jìng)爭(zhēng),為歐盟內(nèi)部建成數(shù)字單一市場(chǎng)、為自有企業(yè)和技術(shù)的成熟發(fā)展、為拉攏價(jià)值觀一致的國(guó)際盟友而爭(zhēng)取時(shí)間。

    美國(guó)擁有運(yùn)作良好的科技創(chuàng)新生態(tài)系統(tǒng),該系統(tǒng)是由受益于上一輪數(shù)字創(chuàng)新浪潮而成長(zhǎng)起來的科技公司共同構(gòu)建起來的,故而美國(guó)選擇了市場(chǎng)驅(qū)動(dòng)技術(shù)發(fā)展的模式,由人工智能初創(chuàng)企業(yè)在技術(shù)和資金都充沛的生態(tài)系統(tǒng)中自由萌發(fā)與生長(zhǎng)。在該模式背后,由于長(zhǎng)期領(lǐng)先的傳統(tǒng)半導(dǎo)體和計(jì)算機(jī)芯片的發(fā)展,美國(guó)的人工智能底層技術(shù)實(shí)力雄厚,如自然語言處理能力、深度學(xué)習(xí)等方面始終保持領(lǐng)先優(yōu)勢(shì),令人工智能技術(shù)生態(tài)日趨完善,這又有助于反哺整個(gè)美國(guó)的科技創(chuàng)新生態(tài)系統(tǒng)。由于主要以市場(chǎng)主導(dǎo),美國(guó)的人工智能國(guó)家政策表現(xiàn)為 “受事件影響”,即美國(guó)聯(lián)邦政府往往是在其他主要大國(guó)發(fā)布人工智能規(guī)劃或政策文件之后跟隨出臺(tái)相關(guān)政策,尚未表現(xiàn)出掌握人工智能全球規(guī)制主導(dǎo)權(quán)的顯著意愿。

    中國(guó)首先堅(jiān)持互利共贏是全球人工智能市場(chǎng)得以可持續(xù)發(fā)展的戰(zhàn)略前提。2017年 《新一代人工智能發(fā)展規(guī)劃》把 “開源開放”作為基本原則之一,明確要積極參與人工智能全球研發(fā)和治理,在全球范圍內(nèi)優(yōu)化配置創(chuàng)新資源。惟其如此,才有可能在新時(shí)代與大變局相互激蕩的當(dāng)下,把全球市場(chǎng)的蛋糕做大。在此前提下,中國(guó)以 “政府引導(dǎo)全面推進(jìn)”的競(jìng)爭(zhēng)戰(zhàn)略布局,其舉措和目標(biāo)范圍覆蓋增加研發(fā)投入、培養(yǎng)人才、推進(jìn)產(chǎn)業(yè)化、部署安全問題等各方面,被西方世界譽(yù)為 “最全面的國(guó)家人工智能戰(zhàn)略”[24]??紤]到中國(guó)擁有發(fā)展得更好的人工智能應(yīng)用基礎(chǔ),以及日益龐大的用戶數(shù)據(jù)資源,這套 “自上而下”的政策可以使中國(guó)加大經(jīng)濟(jì)投入,促進(jìn)人才、企業(yè)、研究與數(shù)據(jù)相結(jié)合,打造全球領(lǐng)先的人工智能生態(tài)系統(tǒng),并給予其更多參與國(guó)際市場(chǎng)競(jìng)爭(zhēng)的機(jī)會(huì)。

    無論何種模式都表明,大國(guó)在參與人工智能的國(guó)際競(jìng)爭(zhēng)中沒有普遍適用的單一路徑。各國(guó)必須立足資源稟賦,動(dòng)態(tài)化研判競(jìng)爭(zhēng)局勢(shì),以最適合自己的 “姿態(tài)”躬身入局。

    (2)人工智能的倫理監(jiān)管需在競(jìng)爭(zhēng)中尋求共識(shí)。倫理監(jiān)管可以、也正在成為全球人工智能的競(jìng)爭(zhēng)工具。除歐盟以外,經(jīng)合組織的主要成員國(guó)及阿根廷、巴西等國(guó)共同簽署了 《經(jīng)合組織人工智能原則》;G20部長(zhǎng)級(jí)會(huì)議通過了 《G20人工智能原則》,推動(dòng)建立可信賴人工智能的國(guó)家政策和國(guó)際合作;美國(guó)聯(lián)邦政府也發(fā)布了 《人工智能應(yīng)用的監(jiān)管指南》。雖然都是不具有法律約束力的倫理監(jiān)管 “軟法”,但顯示出在人工智能國(guó)際競(jìng)爭(zhēng)的版圖上,倫理監(jiān)管必成大勢(shì)之趨。具有先發(fā)優(yōu)勢(shì)的歐盟標(biāo)準(zhǔn)一旦與更廣泛地區(qū)互認(rèn),真正成為人工智能的全球標(biāo)準(zhǔn)制定者,就會(huì)掣肘中國(guó)發(fā)展。因此,中國(guó)需要對(duì)倫理監(jiān)管的競(jìng)爭(zhēng)維度有所準(zhǔn)備。2019年6月,在科技部的支持下,國(guó)家新一代人工智能治理專家委員會(huì)起草發(fā)布了 《新一代人工智能治理原則》,提出 “人機(jī)和諧”的發(fā)展愿景,說明中國(guó)已開始關(guān)注人工智能的倫理問題。在此基礎(chǔ)上,可以借鑒歐盟以風(fēng)險(xiǎn)防范為導(dǎo)向,對(duì)人工智能的應(yīng)用分級(jí)分類展開研究,同時(shí)需要注意監(jiān)管方式的敏捷性與適應(yīng)性,既要與快速迭代的技術(shù)發(fā)展相匹配,又要防止過度監(jiān)管從而妨礙本國(guó)人工智能企業(yè)的創(chuàng)新。

    中國(guó)也需要秉持大國(guó)格局,更早地意識(shí)到人工智能的倫理管制最終需要在競(jìng)爭(zhēng)中尋求共識(shí)。缺乏國(guó)際共識(shí)的人工智能倫理治理不僅無法達(dá)成治理目標(biāo),還有可能令人工智能技術(shù)在分裂的治理框架下給人類社會(huì)的發(fā)展帶來無法預(yù)計(jì)的挑戰(zhàn)。新冠疫情的發(fā)生便凸顯了推行絕對(duì)的數(shù)據(jù)主權(quán)戰(zhàn)略的潛在風(fēng)險(xiǎn),開發(fā)有效的人工智能訓(xùn)練算法需要維護(hù)高質(zhì)量的全球數(shù)據(jù),分裂的全球人工智能監(jiān)管與治理方式必然妨礙全人類福祉的提升。中國(guó)應(yīng)在實(shí)現(xiàn)全球共同利益和道德驅(qū)動(dòng)的人工智能治理目標(biāo)方面形成表率。

    (3)人工智能的長(zhǎng)遠(yuǎn)發(fā)展需加強(qiáng)人文基礎(chǔ)研究。以發(fā)展眼光來看,中國(guó)更應(yīng)具備面向未來的大局觀,在深入推進(jìn)人工智能發(fā)展戰(zhàn)略時(shí),預(yù)先考慮到強(qiáng)大的人工智能技術(shù)必將以不可預(yù)測(cè)的方式滲透至人類生活的方方面面,并因此帶來嚴(yán)峻的理論困境,包括倫理的問題、社會(huì)關(guān)系的變革、法律維度的挑戰(zhàn)等。以歐盟實(shí)踐來看,之所以能夠在倫理監(jiān)管方面具有一定程度的先發(fā)優(yōu)勢(shì),部分源于歐洲學(xué)界和智庫始終保持著對(duì)技術(shù)及人文領(lǐng)域的深層次反思與探索。中國(guó)需要加強(qiáng)與人工智能領(lǐng)域相關(guān)的人文基礎(chǔ)研究。2019年孫熙[25]提出,應(yīng)該在人工智能的哲學(xué)層級(jí)中重新認(rèn)識(shí)人工智能與人類智慧的本質(zhì),深入研究人工智能的基礎(chǔ)理論。2020年施旭等[26]進(jìn)一步指出,人工智能研究可以,也應(yīng)該從 “文化話語研究”的角度出發(fā),去重新認(rèn)識(shí)和定義 “人”和 “智能”。為此,人工智能研究界、具有不同文化背景的社會(huì)科學(xué)界以及人工智能的技術(shù)人員,必須形成合力,從人類、文化、全球、傳統(tǒng)、發(fā)展的多元視角加強(qiáng)基礎(chǔ)理論的研究。人工智能技術(shù)的發(fā)展速度及其所能抵達(dá)的 “彼岸”難以預(yù)測(cè),在此前提下要解決技術(shù)可能帶來的社會(huì)挑戰(zhàn),就需構(gòu)建起創(chuàng)新性的哲學(xué)-社會(huì)-科學(xué)基礎(chǔ)研究框架,厘清智能產(chǎn)生的底層邏輯,才有可能真正掌握未來發(fā)展的主動(dòng)權(quán)。

    猜你喜歡
    倫理競(jìng)爭(zhēng)歐洲
    《心之死》的趣味與倫理焦慮
    歐洲之恐:歐洲可以迅速撲滅恐怖襲擊,但仍做不到防患于未然
    英語文摘(2021年1期)2021-06-11 05:46:56
    護(hù)生眼中的倫理修養(yǎng)
    活力(2019年19期)2020-01-06 07:37:00
    感謝競(jìng)爭(zhēng)
    《你一定愛讀的極簡(jiǎn)歐洲史》
    兒時(shí)不競(jìng)爭(zhēng),長(zhǎng)大才勝出
    競(jìng)爭(zhēng)
    小說月刊(2015年9期)2015-04-23 08:48:17
    復(fù)興中的歐洲有軌電車
    醫(yī)改莫忘構(gòu)建倫理新機(jī)制
    婚姻家庭法的倫理性及其立法延展
    国产亚洲5aaaaa淫片| 可以在线观看毛片的网站| 在线观看一区二区三区激情| 日韩欧美一区视频在线观看 | 一级二级三级毛片免费看| 久久精品久久精品一区二区三区| 18禁裸乳无遮挡免费网站照片| 国产69精品久久久久777片| 国产一级毛片在线| 秋霞伦理黄片| 亚洲在久久综合| 久久女婷五月综合色啪小说 | 九九久久精品国产亚洲av麻豆| 亚洲精品色激情综合| 高清av免费在线| 一级片'在线观看视频| 国产精品爽爽va在线观看网站| 激情 狠狠 欧美| 免费观看无遮挡的男女| 亚洲欧美清纯卡通| 亚洲成人一二三区av| 国产精品人妻久久久久久| 久久久久久九九精品二区国产| 国产欧美另类精品又又久久亚洲欧美| 日韩欧美精品免费久久| 99久久人妻综合| 成年版毛片免费区| 亚洲av成人精品一二三区| av国产精品久久久久影院| 国产视频内射| av在线亚洲专区| 男人舔奶头视频| xxx大片免费视频| 春色校园在线视频观看| 欧美97在线视频| 国产精品久久久久久久电影| 国产精品国产三级国产av玫瑰| 一区二区三区免费毛片| 国产一区有黄有色的免费视频| 免费av不卡在线播放| 免费观看a级毛片全部| 精品一区在线观看国产| 亚洲欧美一区二区三区国产| 精品视频人人做人人爽| 1000部很黄的大片| 中国国产av一级| 亚洲精品第二区| 久久久久久久亚洲中文字幕| 亚洲精品aⅴ在线观看| 777米奇影视久久| 18禁在线无遮挡免费观看视频| 久久久久久久国产电影| 黄色配什么色好看| 国产精品久久久久久精品电影| 国产黄片视频在线免费观看| 成年av动漫网址| 伦理电影大哥的女人| 成人黄色视频免费在线看| 欧美日韩视频高清一区二区三区二| 午夜激情福利司机影院| 97超碰精品成人国产| 国产黄色免费在线视频| 超碰av人人做人人爽久久| 最近的中文字幕免费完整| 成年女人在线观看亚洲视频 | 久久精品久久久久久久性| 国产精品人妻久久久久久| 亚洲精品久久久久久婷婷小说| 久久久久久国产a免费观看| 国产精品99久久99久久久不卡 | 一级毛片久久久久久久久女| 中文字幕制服av| 国产成人精品福利久久| 亚洲av.av天堂| 日韩欧美精品免费久久| 久久久精品免费免费高清| 亚洲精品aⅴ在线观看| 少妇的逼好多水| 男人爽女人下面视频在线观看| 精品一区二区三卡| 久久精品人妻少妇| 综合色丁香网| 亚洲av在线观看美女高潮| 欧美最新免费一区二区三区| 国产欧美另类精品又又久久亚洲欧美| 色婷婷久久久亚洲欧美| 日韩欧美一区视频在线观看 | 永久免费av网站大全| 亚洲精品乱久久久久久| 亚洲成人久久爱视频| 国产伦精品一区二区三区四那| 免费观看在线日韩| 国产成人福利小说| 亚洲精品第二区| 亚洲精品一二三| 大又大粗又爽又黄少妇毛片口| 国产高清三级在线| h日本视频在线播放| 草草在线视频免费看| 久久6这里有精品| 丝瓜视频免费看黄片| h日本视频在线播放| 亚洲av男天堂| 日韩 亚洲 欧美在线| 国产精品不卡视频一区二区| 美女主播在线视频| 久久久久九九精品影院| 中文字幕久久专区| 国产乱人视频| 啦啦啦中文免费视频观看日本| 如何舔出高潮| 99精国产麻豆久久婷婷| 夫妻午夜视频| 欧美日韩亚洲高清精品| 国产黄片美女视频| av又黄又爽大尺度在线免费看| 亚洲精品日本国产第一区| 小蜜桃在线观看免费完整版高清| 国产极品天堂在线| 男男h啪啪无遮挡| 日本三级黄在线观看| 免费观看av网站的网址| a级毛片免费高清观看在线播放| 亚洲精品成人av观看孕妇| 色5月婷婷丁香| 哪个播放器可以免费观看大片| 国产精品久久久久久av不卡| 丝瓜视频免费看黄片| 夜夜看夜夜爽夜夜摸| 中文精品一卡2卡3卡4更新| 精品一区二区三区视频在线| 亚洲性久久影院| 五月伊人婷婷丁香| 男插女下体视频免费在线播放| 亚洲三级黄色毛片| 精品人妻视频免费看| 国产黄片视频在线免费观看| 尤物成人国产欧美一区二区三区| 国产成人精品久久久久久| 97在线视频观看| 成年免费大片在线观看| 五月开心婷婷网| 日韩三级伦理在线观看| 日韩一区二区三区影片| 日韩国内少妇激情av| 国产精品av视频在线免费观看| 一级毛片我不卡| 中文字幕久久专区| 国产极品天堂在线| 69av精品久久久久久| 涩涩av久久男人的天堂| 男人舔奶头视频| 久久精品久久精品一区二区三区| 成人美女网站在线观看视频| 国产午夜精品久久久久久一区二区三区| 日本爱情动作片www.在线观看| 久久久久久久久久久丰满| 亚洲第一区二区三区不卡| 欧美另类一区| 亚洲国产成人一精品久久久| 成人毛片60女人毛片免费| 嫩草影院精品99| 中文字幕免费在线视频6| 人体艺术视频欧美日本| 欧美性猛交╳xxx乱大交人| 特大巨黑吊av在线直播| 两个人的视频大全免费| 国产av国产精品国产| av在线app专区| 22中文网久久字幕| 国精品久久久久久国模美| 国产高清三级在线| av播播在线观看一区| 91精品伊人久久大香线蕉| 一级爰片在线观看| 国产极品天堂在线| 免费观看的影片在线观看| 联通29元200g的流量卡| 国产真实伦视频高清在线观看| 毛片一级片免费看久久久久| 成人一区二区视频在线观看| 亚洲精品,欧美精品| 大片免费播放器 马上看| 久久久a久久爽久久v久久| 久久精品人妻少妇| 97热精品久久久久久| 精品久久久久久久人妻蜜臀av| 精华霜和精华液先用哪个| 美女cb高潮喷水在线观看| 小蜜桃在线观看免费完整版高清| av免费在线看不卡| 欧美丝袜亚洲另类| 欧美区成人在线视频| 亚洲欧洲日产国产| 亚洲精品乱码久久久v下载方式| 制服丝袜香蕉在线| 国产av国产精品国产| 黄色欧美视频在线观看| 久久久久精品久久久久真实原创| 国产精品99久久99久久久不卡 | 亚洲国产色片| 日韩,欧美,国产一区二区三区| 免费av毛片视频| 精品人妻熟女av久视频| 国产精品一区二区在线观看99| 有码 亚洲区| 美女视频免费永久观看网站| 两个人的视频大全免费| 嫩草影院新地址| 国产成人精品一,二区| 亚洲成人精品中文字幕电影| 男人和女人高潮做爰伦理| 欧美日本视频| 久久久久久久久大av| 久久精品夜色国产| 欧美区成人在线视频| 中国国产av一级| 亚洲天堂国产精品一区在线| 亚洲欧美日韩无卡精品| 日韩免费高清中文字幕av| 国产精品不卡视频一区二区| 久久久成人免费电影| 一级黄片播放器| 成人亚洲欧美一区二区av| 欧美少妇被猛烈插入视频| 亚洲国产成人一精品久久久| 在线观看av片永久免费下载| av在线播放精品| 欧美一级a爱片免费观看看| 亚洲精品日韩av片在线观看| 国内精品宾馆在线| 黄色日韩在线| 听说在线观看完整版免费高清| 久久精品国产亚洲av天美| 男的添女的下面高潮视频| 亚洲欧美日韩卡通动漫| 国产高清不卡午夜福利| 亚洲av一区综合| 亚洲av在线观看美女高潮| 国产黄色免费在线视频| videossex国产| 国产成人午夜福利电影在线观看| 亚洲精品乱久久久久久| 亚洲精品乱码久久久v下载方式| 国产永久视频网站| av国产久精品久网站免费入址| 亚洲精品一二三| 成人国产av品久久久| 一区二区三区精品91| 插阴视频在线观看视频| 成人高潮视频无遮挡免费网站| xxx大片免费视频| 欧美成人精品欧美一级黄| av.在线天堂| 久久99热这里只频精品6学生| 亚洲国产精品国产精品| 亚洲精品日韩av片在线观看| 人妻系列 视频| 人体艺术视频欧美日本| 天天躁日日操中文字幕| 亚洲性久久影院| 久久久国产一区二区| 三级国产精品片| 日本熟妇午夜| 国产精品av视频在线免费观看| 日本av手机在线免费观看| 91久久精品国产一区二区成人| 一本一本综合久久| 天堂俺去俺来也www色官网| 久久精品国产鲁丝片午夜精品| 精品久久久久久久人妻蜜臀av| 国产成人精品福利久久| 成人毛片a级毛片在线播放| 久久国产乱子免费精品| 免费不卡的大黄色大毛片视频在线观看| 少妇的逼好多水| 丝袜美腿在线中文| 国产人妻一区二区三区在| 如何舔出高潮| 99久久精品一区二区三区| 精品酒店卫生间| 91午夜精品亚洲一区二区三区| 亚洲国产av新网站| 国产精品爽爽va在线观看网站| 男男h啪啪无遮挡| 久久精品国产亚洲网站| 亚洲美女搞黄在线观看| 国产淫语在线视频| 特级一级黄色大片| 免费观看av网站的网址| 中文欧美无线码| 草草在线视频免费看| 久久久精品94久久精品| 男男h啪啪无遮挡| 欧美xxxx性猛交bbbb| 亚洲精品国产av蜜桃| 久久这里有精品视频免费| www.av在线官网国产| 三级国产精品欧美在线观看| 久久99精品国语久久久| 亚洲欧洲国产日韩| 国产男女内射视频| 一级毛片久久久久久久久女| 97热精品久久久久久| 久久精品夜色国产| 女的被弄到高潮叫床怎么办| 免费黄频网站在线观看国产| 亚洲av中文字字幕乱码综合| 岛国毛片在线播放| 中文字幕av成人在线电影| 视频区图区小说| 在线观看美女被高潮喷水网站| 简卡轻食公司| 中文字幕人妻熟人妻熟丝袜美| 97超碰精品成人国产| 日本黄大片高清| 99久久精品热视频| 日韩成人av中文字幕在线观看| 国产精品99久久99久久久不卡 | 国产91av在线免费观看| 午夜福利网站1000一区二区三区| 国产av不卡久久| 麻豆精品久久久久久蜜桃| 成年版毛片免费区| 久久人人爽人人爽人人片va| 日本黄色片子视频| 99精国产麻豆久久婷婷| 男女国产视频网站| 国产91av在线免费观看| av在线蜜桃| 免费观看无遮挡的男女| 久久久久久久亚洲中文字幕| 黄片无遮挡物在线观看| 嫩草影院入口| 午夜免费观看性视频| 亚洲精品日韩av片在线观看| 国产亚洲精品久久久com| 日韩在线高清观看一区二区三区| 婷婷色综合大香蕉| 中文乱码字字幕精品一区二区三区| 十八禁网站网址无遮挡 | 大香蕉久久网| 一级片'在线观看视频| 欧美成人精品欧美一级黄| 免费观看av网站的网址| 嫩草影院新地址| 男人添女人高潮全过程视频| 日韩中字成人| 国产精品一区www在线观看| 人人妻人人澡人人爽人人夜夜| 狂野欧美激情性xxxx在线观看| 丝瓜视频免费看黄片| 一级毛片 在线播放| 欧美性感艳星| 97在线人人人人妻| 久久久久久九九精品二区国产| 亚洲av电影在线观看一区二区三区 | 人妻 亚洲 视频| 亚洲天堂av无毛| 国产精品熟女久久久久浪| 看免费成人av毛片| 又粗又硬又长又爽又黄的视频| 国产亚洲一区二区精品| 国产免费福利视频在线观看| 一级毛片久久久久久久久女| 观看免费一级毛片| 亚洲精品,欧美精品| 国内精品宾馆在线| 不卡视频在线观看欧美| 啦啦啦在线观看免费高清www| 热re99久久精品国产66热6| 欧美日韩一区二区视频在线观看视频在线 | 亚洲av.av天堂| 国产亚洲一区二区精品| 全区人妻精品视频| 久久ye,这里只有精品| 亚洲人成网站高清观看| 国产黄色免费在线视频| 亚洲欧美日韩卡通动漫| 久久精品熟女亚洲av麻豆精品| 国产成人91sexporn| 免费看日本二区| 国产精品成人在线| 最近2019中文字幕mv第一页| 午夜福利高清视频| 人妻系列 视频| 国产精品偷伦视频观看了| 美女高潮的动态| 日本与韩国留学比较| 国产精品久久久久久精品古装| 婷婷色麻豆天堂久久| 国产美女午夜福利| 蜜臀久久99精品久久宅男| 精品人妻熟女av久视频| freevideosex欧美| 成人二区视频| 亚洲欧美成人综合另类久久久| 欧美高清性xxxxhd video| 97人妻精品一区二区三区麻豆| 美女高潮的动态| 日本色播在线视频| 亚洲图色成人| 国产精品一及| 国产高清三级在线| 在线观看三级黄色| 小蜜桃在线观看免费完整版高清| 少妇裸体淫交视频免费看高清| 日韩国内少妇激情av| 观看美女的网站| 日韩,欧美,国产一区二区三区| 91久久精品国产一区二区成人| 免费av不卡在线播放| 午夜老司机福利剧场| 国产熟女欧美一区二区| 久久久久网色| 日韩av不卡免费在线播放| 最近2019中文字幕mv第一页| 国产精品成人在线| 热re99久久精品国产66热6| 亚洲成人精品中文字幕电影| 18禁动态无遮挡网站| 精华霜和精华液先用哪个| 免费黄网站久久成人精品| 国产精品av视频在线免费观看| 涩涩av久久男人的天堂| 自拍欧美九色日韩亚洲蝌蚪91 | av线在线观看网站| 男的添女的下面高潮视频| 亚洲欧美日韩卡通动漫| 欧美性感艳星| 亚洲欧美日韩另类电影网站 | 建设人人有责人人尽责人人享有的 | 亚洲国产精品成人综合色| 久久这里有精品视频免费| 一本色道久久久久久精品综合| 性色av一级| 久久热精品热| 国产亚洲av嫩草精品影院| 九草在线视频观看| a级毛片免费高清观看在线播放| 日日啪夜夜爽| 少妇人妻一区二区三区视频| 亚洲国产色片| 最近中文字幕2019免费版| 色视频在线一区二区三区| 小蜜桃在线观看免费完整版高清| 亚洲综合色惰| 午夜激情福利司机影院| 国产午夜福利久久久久久| 王馨瑶露胸无遮挡在线观看| 欧美人与善性xxx| 国产成人免费无遮挡视频| 国产精品一区二区在线观看99| 春色校园在线视频观看| 国产永久视频网站| 在线播放无遮挡| 亚洲国产欧美在线一区| 成人美女网站在线观看视频| 亚洲精品国产成人久久av| 人人妻人人爽人人添夜夜欢视频 | 日韩精品有码人妻一区| 精品人妻一区二区三区麻豆| 久久久久久国产a免费观看| 亚洲国产精品999| 亚洲aⅴ乱码一区二区在线播放| 人人妻人人澡人人爽人人夜夜| 亚洲最大成人手机在线| 亚洲av中文av极速乱| 亚洲国产成人一精品久久久| 免费不卡的大黄色大毛片视频在线观看| 亚洲av中文字字幕乱码综合| 久久99热这里只频精品6学生| 黄色配什么色好看| 一本一本综合久久| av在线观看视频网站免费| 国产v大片淫在线免费观看| 免费av毛片视频| 可以在线观看毛片的网站| av在线天堂中文字幕| 黄色配什么色好看| 男人和女人高潮做爰伦理| 亚洲精品视频女| 国产精品久久久久久精品古装| 亚洲综合色惰| 亚洲人成网站在线观看播放| 国精品久久久久久国模美| 全区人妻精品视频| 国产乱来视频区| 成人国产麻豆网| 成人美女网站在线观看视频| 欧美性感艳星| 九九在线视频观看精品| 最近的中文字幕免费完整| 日韩中字成人| 大又大粗又爽又黄少妇毛片口| 欧美性感艳星| 插逼视频在线观看| 黄色视频在线播放观看不卡| 国产 一区精品| av黄色大香蕉| 夫妻午夜视频| 黄色配什么色好看| 亚洲四区av| 国产精品偷伦视频观看了| 亚洲不卡免费看| 777米奇影视久久| 欧美+日韩+精品| 亚洲国产最新在线播放| 国产成人精品久久久久久| 国产69精品久久久久777片| 亚洲伊人久久精品综合| av在线老鸭窝| 国产精品女同一区二区软件| 亚洲经典国产精华液单| 日韩 亚洲 欧美在线| 99热国产这里只有精品6| tube8黄色片| 亚洲国产欧美人成| 少妇高潮的动态图| 男人爽女人下面视频在线观看| 国产精品国产三级专区第一集| 中文字幕免费在线视频6| 777米奇影视久久| 亚洲性久久影院| 一区二区三区乱码不卡18| 国产极品天堂在线| 97在线人人人人妻| 在线观看国产h片| 国产精品一区二区在线观看99| 亚洲人与动物交配视频| 国内揄拍国产精品人妻在线| 亚洲丝袜综合中文字幕| 亚洲精品aⅴ在线观看| 女人被狂操c到高潮| 各种免费的搞黄视频| 人妻一区二区av| 高清欧美精品videossex| 蜜臀久久99精品久久宅男| 新久久久久国产一级毛片| 精品一区在线观看国产| 欧美最新免费一区二区三区| 久久人人爽人人片av| 亚洲怡红院男人天堂| 久久这里有精品视频免费| 丝袜美腿在线中文| 日韩一本色道免费dvd| 中文字幕制服av| 亚洲内射少妇av| 国产精品.久久久| 男人爽女人下面视频在线观看| 精品人妻视频免费看| 在线观看一区二区三区激情| 午夜亚洲福利在线播放| 我的老师免费观看完整版| 一级av片app| 国产精品人妻久久久影院| 日韩国内少妇激情av| 国产精品嫩草影院av在线观看| 亚洲成人中文字幕在线播放| 免费人成在线观看视频色| 久久6这里有精品| 亚洲欧美精品自产自拍| 在线亚洲精品国产二区图片欧美 | 中文在线观看免费www的网站| 自拍欧美九色日韩亚洲蝌蚪91 | 日韩电影二区| 国产午夜福利久久久久久| 亚洲婷婷狠狠爱综合网| 三级经典国产精品| 午夜亚洲福利在线播放| av在线亚洲专区| 久久久精品欧美日韩精品| 欧美变态另类bdsm刘玥| 国产亚洲91精品色在线| 国产综合懂色| 亚洲av.av天堂| 涩涩av久久男人的天堂| 久久久成人免费电影| 高清毛片免费看| 少妇人妻 视频| 欧美成人午夜免费资源| 久久精品国产自在天天线| 又爽又黄无遮挡网站| 只有这里有精品99| 麻豆乱淫一区二区| 久久精品人妻少妇| 免费黄色在线免费观看| 亚洲精品乱码久久久久久按摩| 熟女人妻精品中文字幕| 国产永久视频网站| 一级黄片播放器| 亚洲精品乱码久久久久久按摩| 欧美xxxx性猛交bbbb| 男人舔奶头视频| 韩国av在线不卡| 日本与韩国留学比较| 干丝袜人妻中文字幕| 国产真实伦视频高清在线观看| 又爽又黄无遮挡网站| 国产一区二区三区av在线| a级毛色黄片| 亚洲精品,欧美精品| 色视频www国产| 亚洲欧美日韩无卡精品| 一级av片app| 亚洲欧美日韩无卡精品| 亚洲精品456在线播放app| 国产 一区精品| 女的被弄到高潮叫床怎么办| 日韩中字成人| 99热这里只有精品一区| 美女主播在线视频| 亚洲人成网站在线播| 国产精品秋霞免费鲁丝片| 久久精品国产a三级三级三级|