• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    法國人工智能發(fā)展政策及啟示

    2021-08-14 09:39:30悅,李
    科技管理研究 2021年14期
    關(guān)鍵詞:人工智能研究發(fā)展

    馮 悅,李 光

    (1.武漢大學(xué)哲學(xué)學(xué)院;2.武漢大學(xué)發(fā)展研究院,湖北武漢 430072)

    1 研究背景

    在全球新一輪科技革命和產(chǎn)業(yè)革命進(jìn)程中,以經(jīng)濟(jì)拉動性、社會輻射性和國家賦能性為特征的新一代人工智能不斷取得突破,如何利用國家公共政策引導(dǎo)人工智能良性發(fā)展,已成為當(dāng)下各國政府十分關(guān)注的一個(gè)議題。近年來,法國高度重視人工智能發(fā)展戰(zhàn)略布局,以“以人為本、男女平等”思想為指導(dǎo),在政府、企業(yè)、研究機(jī)構(gòu)、非政府組織的共同推動下,出臺了一系列人工智能發(fā)展政策,這些政策以打造優(yōu)良科研生態(tài)、應(yīng)對倫理道德挑戰(zhàn)為核心,特色鮮明、目標(biāo)明確,較好地解決了法國人工智能在人才、數(shù)據(jù)、基礎(chǔ)研究、倫理道德層面上出現(xiàn)的問題,使其成為歐盟人工智能發(fā)展的佼佼者。

    目前,我國學(xué)術(shù)界對人工智能政策的國別研究多集中于美國、德國、日本等國家。其中,衛(wèi)平等[1]通過對中美兩國人工智能戰(zhàn)略和產(chǎn)業(yè)布局的比較研究,分析了我國在人工智能領(lǐng)域與美國的差距,提出了我國人工智能發(fā)展缺乏戰(zhàn)略性系統(tǒng)布局、開源技術(shù)和研究人才等問題,進(jìn)而提出了促進(jìn)我國人工智能產(chǎn)業(yè)發(fā)展的對策建議;高杰等[2]從推動力量、新設(shè)機(jī)構(gòu)、政策文件及報(bào)告、重點(diǎn)研發(fā)領(lǐng)域、重點(diǎn)應(yīng)用領(lǐng)域等方面,對中、德兩國在2013—2018 年間出臺的人工智能發(fā)展政策與戰(zhàn)略布局進(jìn)行了比較分析,通過借鑒與吸取德國經(jīng)驗(yàn),獲得啟示并為我國人工智能發(fā)展給出了若干政策建議;劉姣姣等[3]通過研究日本人工智能戰(zhàn)略文本,揭示了日本人工智能戰(zhàn)略部署的機(jī)構(gòu)建設(shè)、路線規(guī)劃以及生態(tài)系統(tǒng),并為我國人工智能提出了可能的發(fā)展方向。從以往的文獻(xiàn)資料來看,我國對法國人工智能發(fā)展政策的研究還有些缺乏、不夠系統(tǒng)。作為西方市場經(jīng)濟(jì)國家和傳統(tǒng)工業(yè)強(qiáng)國,法國具備深厚的科技底蘊(yùn)、完善的科研體系和健全的科技計(jì)劃管理系統(tǒng),幾乎與我國同時(shí)開始對人工智能發(fā)展進(jìn)行戰(zhàn)略部署,在人工智能發(fā)展過程中面臨著與我國相似的問題,如優(yōu)秀人才流失、數(shù)據(jù)開放不足、男女比例失衡等問題,因此,借鑒法國人工智能發(fā)展政策的規(guī)劃布局對我國新一代人工智能發(fā)展具有重要意義。本研究上溯法國人工智能發(fā)展政策的歷史,從指導(dǎo)思想、推動主體、內(nèi)容特色3 個(gè)方面對政策的布局規(guī)劃進(jìn)行剖析,希望能夠?yàn)槲覈斯ぶ悄馨l(fā)展政策的制定提供有啟發(fā)意義的參考。

    2 法國人工智能發(fā)展政策歷史沿革

    2.1 孕育階段——人工智能實(shí)驗(yàn)室與人工智能協(xié)會的建立(2016 年以前)

    20 世紀(jì)80 年代,法國在巴黎、馬賽、南錫、圖盧茲、奧爾賽等地建立起一批人工智能重點(diǎn)實(shí)驗(yàn)室,每個(gè)重點(diǎn)實(shí)驗(yàn)室配備一個(gè)專攻人工智能技術(shù)難關(guān)的研究團(tuán)隊(duì)。其中最著名的當(dāng)屬GR22 研究團(tuán)隊(duì),該團(tuán)隊(duì)所在實(shí)驗(yàn)室后來成為法國國家科學(xué)研究所和巴黎第六大學(xué)共建基地,也是目前法國規(guī)模最大的計(jì)算機(jī)科學(xué)實(shí)驗(yàn)基地之一。1989 年,法國第一個(gè)人工智能協(xié)會在格勒諾布爾成立,為發(fā)展法國人工智能做了許多工作:經(jīng)常性地組織各種研討會,每年在法國各地舉辦“人工智能周”活動,整合各方研究力量,加大研究投入力度,擴(kuò)大人工智能在法國的影響力[4]。在這一階段,法國政府尚未頒布任何與人工智能相關(guān)的政策,但基地布局穩(wěn)步推進(jìn),協(xié)會組織極有活力,這些都為隨后法國人工智能相關(guān)政策的出臺奠定了良好的基礎(chǔ)。

    2.2 起步階段——機(jī)器人制造與數(shù)據(jù)安全條例的頒布(2016 年)

    2016 年,為推動法國機(jī)器人產(chǎn)業(yè)的研發(fā)和創(chuàng)新,法國政府頒布了《法國機(jī)器人發(fā)展計(jì)劃》(以下簡稱《計(jì)劃》)[5]。《計(jì)劃》針對性強(qiáng),有力促進(jìn)了法國機(jī)器人產(chǎn)業(yè)的發(fā)展。當(dāng)時(shí),在機(jī)器人的研發(fā)和制造領(lǐng)域法國還存在不少問題,如科研成果轉(zhuǎn)化不足、缺乏龍頭企業(yè)、政府對機(jī)器人研發(fā)支持力度不夠、行業(yè)組織混亂等,《計(jì)劃》頒布后,以上這些問題得到了較好地解決。同年,法國政府宣布數(shù)字共和國法令正式生效[6]。數(shù)字共和國法令總領(lǐng)三大塊數(shù)據(jù):政府公共數(shù)據(jù)、科研成果數(shù)據(jù)、公民個(gè)人數(shù)據(jù),規(guī)定了前兩種數(shù)據(jù)的開放程度和開放對象,定義了個(gè)體數(shù)據(jù)的便攜權(quán)、恢復(fù)權(quán)以及死后隱私權(quán)等,標(biāo)志著法國政府首次以立法的形式加快政府公共數(shù)據(jù)的開放,保證個(gè)人數(shù)據(jù)隱私的安全。總體來看,2016 年所頒布的1 個(gè)計(jì)劃和1 個(gè)法令,體現(xiàn)了法國政府在機(jī)器人制造領(lǐng)域的敏感程度和前瞻性:數(shù)據(jù)的公開與流通,為機(jī)器人制造業(yè)大發(fā)展所必須;數(shù)據(jù)的隱私安全,則是公民財(cái)產(chǎn)和名譽(yù)的保障。如何解決好這一對矛盾,并為之提供法律依據(jù),法國政府給出了一份較為漂亮的答卷。

    2.3 加速階段——國家人工智能發(fā)展戰(zhàn)略出臺(2017年至今)

    2017 年3 月,法國政府[7]發(fā)布《法國-人工智能計(jì)劃》,宗旨明確,即動員并整合全國在人工智能上的科技力量,以確保法國在歐洲乃至世界人工智能領(lǐng)域中一直居于領(lǐng)先地位。同年,法國議會發(fā)布《調(diào)查報(bào)告:為了一個(gè)可控、有用、去神秘化的人工智能》,對人工智能發(fā)展的歷史沿革作了詳盡的梳理和歸納,對歐洲各國人工智能的發(fā)展情況進(jìn)行了深入的考察和分析,對法國人工智能的研究群體進(jìn)行了統(tǒng)計(jì)和介紹[8]。該報(bào)告用“可控、有用、去神秘化”這3 個(gè)定語表明了法國對人工智能的期許和要求,并以此為出發(fā)點(diǎn),對法國人工智能的發(fā)展提出了包括加快立法、加大對項(xiàng)目投資力度、加強(qiáng)教育和宣傳等對策建議。2018 年3 月,法國又一重要研究報(bào)告——《賦予人工智能以積極意義:法國人工智能發(fā)展戰(zhàn)略研究報(bào)告》面世[9]。該報(bào)告屬于頂層設(shè)計(jì),其主要內(nèi)容可歸納為以下9 點(diǎn):(1)建構(gòu)一個(gè)以法國為中心的歐洲人工智能數(shù)據(jù)生態(tài)圈;(2)搭建法國人工智能的基礎(chǔ)研究網(wǎng)絡(luò);(3)優(yōu)先發(fā)展醫(yī)療、交通、生態(tài)、國防領(lǐng)域的人工智能應(yīng)用技術(shù);(4)建立法國人工智能公共實(shí)驗(yàn)室以應(yīng)對智能時(shí)代的社會轉(zhuǎn)型;(5)增加法國人工智能領(lǐng)域?qū)W生培養(yǎng)數(shù)量;(6)以人工智能技術(shù)為依托提高法國政府公共服務(wù)質(zhì)量;(7)保證人工智能算法的透明合理,構(gòu)建人工智能倫理道德規(guī)范框架;(8)倡導(dǎo)法國人工智能行業(yè)的多樣性和包容性;(9)提高法國人工智能專業(yè)女生比例。

    2018 年11 月,法國政府[10]正式對外發(fā)布《法國國家人工智能研究發(fā)展戰(zhàn)略》。該戰(zhàn)略由兩部分構(gòu)成:第一部分名為“人工智能為人類”,涉及3個(gè)方面:(1)關(guān)于人工智能人才的培養(yǎng)與利用;(2)人工智能技術(shù)在經(jīng)濟(jì)社會中的推廣與應(yīng)用;(3)解決因新技術(shù)的應(yīng)用而衍生的新倫理問題。這個(gè)部分從戰(zhàn)略高度對法國人工智能在未來的發(fā)展進(jìn)行了全面布局,并為發(fā)展中有可能出現(xiàn)的問題提前設(shè)計(jì)應(yīng)對和解決方案。第二部分以“國家人工智能科研計(jì)劃”為題,將戰(zhàn)略目標(biāo)分解為一批落實(shí)到具體管理機(jī)構(gòu)和科研單位的專項(xiàng)計(jì)劃。具體有以下幾點(diǎn):(1)由法國國家信息與自動化研究所牽頭,實(shí)施人工智能后備力量人才引進(jìn)專項(xiàng)計(jì)劃;(2)由法國國家研究署負(fù)責(zé),進(jìn)一步拓展人工智能的基礎(chǔ)研究;(3)加快法國人工智能數(shù)字基礎(chǔ)設(shè)施建設(shè);(4)鼓勵(lì)企業(yè)與研究機(jī)構(gòu)以合作伙伴形式開展人工智能研究,推進(jìn)人工智能領(lǐng)域產(chǎn)學(xué)研合作;(5)加強(qiáng)法國與其他國家在人工智能領(lǐng)域的雙邊合作,加強(qiáng)歐盟內(nèi)的合作和國際合作。2019 年,法國財(cái)政部[11]發(fā)布《法國人工智能技術(shù)發(fā)展水平和前景報(bào)告》,提出要利用法國在數(shù)學(xué)學(xué)科上的優(yōu)勢深化人工智能基礎(chǔ)研究,培育人工智能后備人才,聚焦人工智能在醫(yī)療衛(wèi)生上的應(yīng)用,推動人工智能信息基礎(chǔ)設(shè)施建設(shè);計(jì)劃推出人工智能醫(yī)療、數(shù)據(jù)、生態(tài)試驗(yàn)區(qū),進(jìn)一步規(guī)范人工智能數(shù)據(jù)收集過程,以慕課的形式對大眾進(jìn)行人工智能知識和產(chǎn)品的普及教學(xué)。

    在這一階段,法國人工智能發(fā)展政策內(nèi)容進(jìn)一步細(xì)化:一方面,夯實(shí)人工智能相關(guān)領(lǐng)域基礎(chǔ)研究,以傳統(tǒng)學(xué)科為依托,注重基礎(chǔ)研究方面的人才培養(yǎng)和設(shè)備資金投入,強(qiáng)調(diào)人工智能領(lǐng)域的產(chǎn)學(xué)研合作;另一方面,著眼于人工智能對于人類社會的影響,內(nèi)容涉及數(shù)據(jù)的保護(hù)及開放、電子政府、生態(tài)經(jīng)濟(jì)、性別平、人工智能的倫理道德規(guī)范等實(shí)際應(yīng)用領(lǐng)域,積極與他國建立以人工智能為主題的合作伙伴關(guān)系,如與德國簽訂《亞琛條約》建立德法人工智能研究創(chuàng)新網(wǎng)絡(luò),與日本共同推出ANR-JTS 人工智能計(jì)劃,召開日法兩國雙邊研討會,積極投身全球人工智能的發(fā)展與治理工作中。在政策的引導(dǎo)與支持下,法國人工智能技術(shù)與產(chǎn)業(yè)發(fā)展態(tài)勢良好:一方面,人工智能技術(shù)廣泛應(yīng)用于醫(yī)療、交通、制造等領(lǐng)域。在醫(yī)療行業(yè),法國利用人工智能技術(shù)廣泛開展病理早期探測,致力于4P 醫(yī)學(xué)(個(gè)體化醫(yī)學(xué)、預(yù)防醫(yī)學(xué)、預(yù)測醫(yī)學(xué)、參與醫(yī)學(xué))的研究與推廣,成立包括醫(yī)保報(bào)銷數(shù)據(jù)、臨床數(shù)據(jù)和科研數(shù)據(jù)在內(nèi)的衛(wèi)生健康數(shù)據(jù)中心(Health Data Hub),并對公眾開放;在自動駕駛領(lǐng)域,法國于2018 年4 月發(fā)布國家自動駕駛汽車戰(zhàn)略規(guī)劃,計(jì)劃于2021 年前后出臺自動駕駛認(rèn)證框架,著力于人工智能技術(shù)在城市交通零排放上的研究與應(yīng)用[12]。另一方面,人工智能產(chǎn)業(yè)蓬勃發(fā)展。據(jù)法國數(shù)字協(xié)會[13]的統(tǒng)計(jì),僅2019 年1 年內(nèi),法國本土就新成立了102 家人工智能企業(yè),截至2020年年底,法國已有452 家人工智能初創(chuàng)企業(yè),其中88 家活躍于醫(yī)療健康領(lǐng)域,56 家致力于數(shù)字信息的轉(zhuǎn)換與儲存。此外,全球頂尖的互聯(lián)網(wǎng)大型企業(yè)集團(tuán),如IBM、MICROSOFT、GOOGLE、AMAZON、FACEBOOK 已經(jīng)在巴黎設(shè)置人工智能研發(fā)中心,法國已超越德國成為歐洲大陸人工智能領(lǐng)域最具吸引力的國家[14]。

    3 法國人工智能發(fā)展政策內(nèi)容梳理

    3.1 指導(dǎo)思想

    3.1.1 營造以人為本的發(fā)展環(huán)境

    2018 年3 月29 日,法國總統(tǒng)馬克龍?jiān)诜ㄌm西學(xué)院發(fā)表題為《人工智能為人類》(《AI for Humanity》)的演說,指出法國發(fā)展的人工智能是為了人類、注重人性、以人為本的人工智能,是科學(xué)技術(shù)與人文關(guān)懷相結(jié)合的人工智能。法國不僅致力于人工智能理論研究與技術(shù)應(yīng)用,更關(guān)注人工智能給人類社會帶來的恩澤與隱患,強(qiáng)化對人工智能倫理道德的治理,營造一個(gè)平等、包容、多樣、透明、公正、有益于人類社會長期發(fā)展的人工智能發(fā)展環(huán)境。

    法國的國家格言為自由、平等、博愛,浸透著以人為最終目的的人道主義思想。以人為本的世界觀,上可追溯到歐洲文藝復(fù)興時(shí)期,這種思想提倡愛人、為人、益于人,發(fā)展科學(xué)技術(shù)的唯一宗旨只能是有益于全人類。具體到人工智能領(lǐng)域,法國始終強(qiáng)調(diào)人的理性、尊嚴(yán)、平等、自由,以人為本的思想成為一個(gè)超越一切科學(xué)技術(shù)的倫理共識,一個(gè)科技工作者必須堅(jiān)守的良知,一種以全人類共同和諧發(fā)展為目的普世觀。這個(gè)意識,是“世界公民”的意識,一極是全人類,另一極是全人類中的你我他,拒絕任何有可能危害到人類健康和生存環(huán)境的嘗試,拒絕科技為戰(zhàn)爭服務(wù),拒絕研發(fā)任何有可能損害公民自由或尊嚴(yán)的技術(shù)。

    3.1.2 建設(shè)男女平等的科研平臺

    男女平等,在今天歐盟各國有一項(xiàng)影響范圍極廣的活動,即落實(shí)參與政治決策的男女人數(shù)的“均等”(La Parité)。其影響遍及方方面面,比如對于人工智能從業(yè)人數(shù)的男女比例、進(jìn)入相關(guān)專業(yè)學(xué)生的男女比例等。性別比例“均等”這一要求,幾乎在歐盟各國的每個(gè)規(guī)劃和報(bào)告中都有所表述。西方男女平等理論是近代人權(quán)思想的一部分。早在17 世紀(jì),法國哲學(xué)家浦蘭·德拉巴爾[5]在《論兩性平等》一書中便明確提出了“性別平等”的主張;1789 年的法國大革命以“自由平等”為口號,為男女平等思想的誕生提供了政治土壤;1791 年,法國婦女領(lǐng)袖奧比倫·德古日[16]針對《人權(quán)宣言》的內(nèi)容發(fā)表了《女權(quán)和女公民權(quán)宣言》,主張自由平等的公民權(quán)不能僅限于男性;1944 年,法國女性獲得與男性平等的選舉權(quán)和被選舉權(quán);1949 年,西蒙·波伏娃[17]的著作《第二性》出版,讓法國女性清晰地認(rèn)識到自身的社會處境,讓法國社會更為重視女性問題。20 世紀(jì)70 年代,法國女大學(xué)生的人數(shù)首次超過男生,法國婦女的社會文化地位更是“水漲船高”。20 世紀(jì)90 年代,“均等”運(yùn)動如火如荼:2000 年6 月,法國政府頒布均等法案,規(guī)定在大區(qū)和市鎮(zhèn)(人口多于3 500 名居民)選舉中,男女人數(shù)必須嚴(yán)格相等;2008 年至今,法國頒布了一系列法案,在經(jīng)濟(jì)、高等教育、社會團(tuán)體等各個(gè)領(lǐng)域全面推行均等原則,力爭領(lǐng)導(dǎo)層人員的男女比例均等[18]。貫徹均等,在人工智能領(lǐng)域,自然是給男女提供平等的就業(yè)機(jī)會和科研工作環(huán)境,以維持行業(yè)決策的公平全面、行業(yè)發(fā)展的健康穩(wěn)定。

    3.2 推動主體

    法國人工智能發(fā)展政策的制定與執(zhí)行是由政府、研究機(jī)構(gòu)、非政府組織共同推動的,以政府為主導(dǎo),統(tǒng)籌人工智能政策的制定、頒布與執(zhí)行,各研究機(jī)構(gòu)、非政府組織積極響應(yīng),共同推進(jìn)人工智能政策的具體實(shí)施。政府始終是主導(dǎo),它通過下屬的職能部門、專設(shè)機(jī)構(gòu),或統(tǒng)籌領(lǐng)導(dǎo)人工智能發(fā)展政策的制定與實(shí)施,或協(xié)作推進(jìn)政策的落實(shí)與展開。除了政府,研究機(jī)構(gòu)在法國人工智能政策的制定上同樣起到了不可忽視的作用。具體來說,研究機(jī)構(gòu)不僅擁有建議權(quán),更是討論發(fā)言的主體,是政策不可或缺的推動力量。其中最重要的有法國國家信息與自動化研究所、人工智能跨學(xué)科研究網(wǎng)絡(luò)、卡諾研究所以及法國國家研究署。它們一方面致力于人工智能的基礎(chǔ)研究與人工智能領(lǐng)域的產(chǎn)學(xué)研合作,另一方面幫助政府分擔(dān)一部分人工智能政策項(xiàng)目的管理、協(xié)調(diào)和推進(jìn)工作。研究機(jī)構(gòu)的主人公態(tài)度,有利于人工智能發(fā)展政策實(shí)施的高效和順暢。最后尚須一提的是法國人工智能領(lǐng)域的非政府組織,如法國人工智能促進(jìn)會、法國人工智能研究會、Hub 法國人工智能協(xié)會等,對人工智能發(fā)展政策的許多內(nèi)容都起到了催化作用,加強(qiáng)了政策內(nèi)容的平等性、多樣性和包容性。

    3.2.1 政府統(tǒng)籌領(lǐng)導(dǎo)

    法國政府作為人工智能政策的主體,統(tǒng)籌領(lǐng)導(dǎo)國家人工智能發(fā)展政策的制定與實(shí)施,同時(shí)下設(shè)若干專門機(jī)構(gòu)相互協(xié)作、補(bǔ)充,推進(jìn)政策的落實(shí)與展開。比如法國經(jīng)濟(jì)部,投入15 億歐元作為實(shí)施人工智能政策具體計(jì)劃的資金;法國高等教育研究與創(chuàng)新署和法國國家數(shù)字委員會,共同參與對人工智能政策的討論與辯論;法國國家信息與自動化研究所,協(xié)調(diào)、安排各領(lǐng)域其他一些涉及到人工智能的活動。法國國家人工智能發(fā)展政策最終由法國總統(tǒng)正式公布。

    3.2.2 核心研究機(jī)構(gòu)

    (1)法國國家信息與自動化研究所(INRIA)。1967 年創(chuàng)立的法國國家信息與自動化研究所是法國信息、自動化和人工智能領(lǐng)域的主要科研機(jī)構(gòu)之一,直屬于法國研究部和法國經(jīng)濟(jì)財(cái)政工業(yè)部,擁有8 個(gè)科研中心、160 多個(gè)研究團(tuán)隊(duì),每個(gè)團(tuán)隊(duì)由科學(xué)界資深學(xué)者作為組長,帶領(lǐng)由科研人員、教研人員、在讀博士及工程師組成的團(tuán)隊(duì),進(jìn)行專項(xiàng)課題的研究[19]。

    (2)法國人工智能跨學(xué)科科研網(wǎng)絡(luò)(3IA)。法國政府在人工智能發(fā)展戰(zhàn)略計(jì)劃框架內(nèi)建立了一個(gè)由不同學(xué)科人工智能科研機(jī)構(gòu)組成的3IA(Instituts Interdisciplaires d' Intelligence Artificielle),旨在為全法從事人工智能研究的人員提供一個(gè)互動交流、學(xué)術(shù)分享的平臺。目前,3IA 已經(jīng)選中4 處研究中心,分別是格勒諾布爾地區(qū)的MIAI@Grenoble-Alpes 中心、尼斯地區(qū)的3IA C?te d' Azur 中心、巴黎地區(qū)的PRAIRIE 中心以及圖盧茲地區(qū)的ANIT 中心,這4處研究中心的研究主題不完全相同,涉及與人工智能相關(guān)的醫(yī)療健康、環(huán)境、能源、交通等領(lǐng)域,旨在整合法國各學(xué)科的優(yōu)勢資源儲備,形成合力,進(jìn)一步夯實(shí)法國在人工智能領(lǐng)域的基礎(chǔ)研究工作。

    (3)法國國家研究署(ANR)。法國國家研究署是法國進(jìn)行人工智能相關(guān)基礎(chǔ)研究的主要機(jī)構(gòu),研究范圍涉及算法、衛(wèi)生醫(yī)療、生物、氣候、交通、食品、安全等眾多領(lǐng)域,是法國人工智能發(fā)展的中堅(jiān)力量。

    (4)卡諾研究所(Instituit Carnot)??ㄖZ研究所致力于促進(jìn)法國公共科研機(jī)構(gòu)與社會經(jīng)濟(jì)伙伴尤其是企業(yè)之間的合作,加快推進(jìn)人工智能理論的研究創(chuàng)新與技術(shù)的應(yīng)用落地。目前,卡諾研究所擁有3 萬多名國家研究人員,與法國大部分知名企業(yè)有著密切的合作伙伴關(guān)系,有效推動了法國人工智能領(lǐng)域的技術(shù)成果轉(zhuǎn)化和產(chǎn)學(xué)研合作[20]。

    3.2.3 非政府組織參與

    (1)法國人工智能促進(jìn)會(Association Francaise Pour l' IA)。法國人工智能促進(jìn)會成立于1993 年,主要由法國人工智能領(lǐng)域的研究人員組成,以協(xié)會的組織形式進(jìn)行人工智能科研工作以及人工智能政策的宣傳和普及。

    (2)法國人工智能研究會(France IsAI)。法國人工智能研究會附屬于ISAI 投資基金,現(xiàn)在是法國數(shù)字協(xié)會的一個(gè)分支機(jī)構(gòu),成員由法國人工智能相關(guān)企業(yè)的經(jīng)營者和投資者組成,主要工作是定期對法國人工智能企業(yè)進(jìn)行盤點(diǎn),于每年秋天召開法國人工智能研討大會,探討法國人工智能企業(yè)發(fā)展的相關(guān)問題,吸引大眾對人工智能產(chǎn)業(yè)的關(guān)注;此外,積極響應(yīng)法國人工智能產(chǎn)業(yè)政策的號召,根據(jù)政策方向安排研究會的具體工作內(nèi)容,協(xié)助法國人工智能產(chǎn)業(yè)政策的落地展開。

    (3)Hub 法國人工智能協(xié)會(Hub France IA)。Hub 法國人工智能協(xié)會由法國人工智能領(lǐng)域的研究人員和企業(yè)家創(chuàng)立,任務(wù)包括:加強(qiáng)法國企業(yè)和人工智能實(shí)驗(yàn)室的聯(lián)系,為企業(yè)提供人工智能有關(guān)知識的入門普及,為企業(yè)的人工智能研發(fā)項(xiàng)目建立公共資金檔案,推進(jìn)法國人工智能政策在產(chǎn)學(xué)研合作上的具體實(shí)施開展。

    (4)人工智能婦女聯(lián)合會(Women in AI)。人工智能婦女聯(lián)合會主要是為了反對法國人工智能領(lǐng)域的性別歧視、平衡法國人工智能從業(yè)人員的性別比例、倡導(dǎo)女性加入人工智能的研究而設(shè)立的,組成人員均是在人工智能領(lǐng)域工作的女性,對法國人工智能政策中包容性和多樣性政策的實(shí)施與開展起到了重要的催化和推動作用[20]。

    3.3 內(nèi)容特色

    3.3.1 精準(zhǔn)的政策目標(biāo):夯實(shí)基礎(chǔ)研究,有序開放數(shù)據(jù)

    根據(jù)本國產(chǎn)業(yè)的發(fā)展優(yōu)勢和社會文化特點(diǎn),法國人工智能的發(fā)展目標(biāo)是明確且現(xiàn)實(shí)的,選擇重點(diǎn)發(fā)展醫(yī)療、交通、生態(tài)等領(lǐng)域的人工智能應(yīng)用技術(shù),既是有所為、有所不為,也是一種有前瞻性的表現(xiàn)。2018 年11 月頒布的《法國國家人工智能研究發(fā)展戰(zhàn)略》在一開篇就確定了戰(zhàn)略主攻方向,指出了未來發(fā)展的三大重點(diǎn):鞏固夯實(shí)基礎(chǔ)研究,有序開放政府及部分私有數(shù)據(jù),積極應(yīng)對人工智能引發(fā)的倫理和社會挑戰(zhàn)。三大重點(diǎn),以人為本是指導(dǎo)思想,數(shù)學(xué)人才的豐富儲備是主力軍,數(shù)據(jù)的公開與保密是內(nèi)在的矛盾杠桿。須把握調(diào)節(jié)分寸,避免“一放就亂,一管就死”。重點(diǎn)明確,方能舉要治繁,做到既符合法國當(dāng)前人工智能的發(fā)展水平,又能引領(lǐng)未來世界人工智能的發(fā)展潮流。此外,法國人工智能的發(fā)展目標(biāo)還被細(xì)化為一個(gè)個(gè)任務(wù),以項(xiàng)目的形式呈現(xiàn),分配落實(shí)到單位與團(tuán)隊(duì)。比如,關(guān)于人工智能的基礎(chǔ)研究,《法國國家人工智能研究發(fā)展戰(zhàn)略》對2021 年以前需完成的項(xiàng)目內(nèi)容,以及政府給予每個(gè)項(xiàng)目的具體支持金額都有明確的說明與規(guī)定:法國每年至少培養(yǎng)500 名人工智能專業(yè)博士,在人工智能跨學(xué)科研究院新增150 個(gè)職位,在人工智能研究所支配的資源豐富程度上和計(jì)算速度上要進(jìn)入歐洲前二…… 決定撥款1 億歐元給法國國家研究署,專用于人工智能的基礎(chǔ)研究等等[10]。發(fā)展目標(biāo)精準(zhǔn)、量化,分解為一個(gè)個(gè)落實(shí)到責(zé)任單位、資金配置到位的項(xiàng)目,確保了發(fā)展政策不至于流于形式,有效避免了國家戰(zhàn)略目標(biāo)常出現(xiàn)的“大而全”卻“輕而飄”的弊端。

    3.3.2 優(yōu)良的科研生態(tài):打造人工智能自由港

    發(fā)展人工智能,法國政府特別重視基礎(chǔ)研究。概括來說,主要強(qiáng)調(diào)以下幾點(diǎn):一是大力培育人工智能專業(yè)人才,通過政策傾斜,力爭在2021 年前人工智能領(lǐng)域各專業(yè)的學(xué)生數(shù)量全面翻番,這包括長、短期職業(yè)培訓(xùn)和大學(xué)專業(yè)教育:學(xué)士、碩士和博士;二是打造一個(gè)舒適宜人的人工智能科研環(huán)境:建立面向人工智能的跨學(xué)科科研網(wǎng)絡(luò),將法國人工智能的科研、教學(xué)人員聚集起來,根據(jù)需要為他們配備擁有一定專業(yè)知識的秘書,處理部分行政手續(xù)及事務(wù),讓他們擁有更高的薪資和更自由的工作時(shí)間,打造真正的人工智能自由港,吸引國內(nèi)外的優(yōu)秀科技人才;三是盡力為人工智能基礎(chǔ)研究提供豐富的、充足的數(shù)據(jù)和最便利的算法、性能最好的設(shè)備。編制特殊程序,為科研人員隨時(shí)訪問計(jì)算資源提供便利,投入2.5 億歐元,用于購置和更新基礎(chǔ)研究所需的硬、軟件設(shè)備,并安裝歐洲最高等級的超級計(jì)算機(jī)GPU;四是推進(jìn)人工智能產(chǎn)學(xué)研合作,鼓勵(lì)企業(yè)與科研機(jī)構(gòu)以合作伙伴的形式開展人工智能的研究,并提供相應(yīng)的資金支持,允許公共科研人員將一半(過去的規(guī)定是1/5)的工作時(shí)間投入到私人機(jī)構(gòu)中,加快推進(jìn)人工智能研究成果的應(yīng)用落地,打造優(yōu)良的人工智能科研生態(tài)體系。

    3.3.3 有遠(yuǎn)見的預(yù)防措施:關(guān)注就業(yè)問題,提倡男女平等

    法國人工智能政策關(guān)注智能社會可能產(chǎn)生的種種倫理問題,并開始對其進(jìn)行研究與預(yù)防。法國提出要建立類似于公共實(shí)驗(yàn)室的機(jī)構(gòu),以系統(tǒng)地觀察和探討人工智能的發(fā)展規(guī)律,預(yù)測智能社會的發(fā)展前景,著手對智能時(shí)代有可能發(fā)生的情況進(jìn)行模擬試驗(yàn)。對于未來有可能被機(jī)器取代的從業(yè)人群,法國著手為其規(guī)劃新的職業(yè)方向,培養(yǎng)培訓(xùn)掌握新技能的教員;對未來因智能化可能產(chǎn)生的新的生產(chǎn)方式和價(jià)值分配,嘗試不同應(yīng)對方案。法國還通過提高人工智能專業(yè)的女生比例,解決人工智能行業(yè)中的性別不平衡問題,這既是為了男女平等,也是為了避免因男性獨(dú)大而出現(xiàn)的心理偏向,導(dǎo)致人工智能的算法和結(jié)果出偏差。此外,法國也與加拿大合作,組建了一個(gè)獨(dú)立的人工智能專家小組,專門探討包括智能與人權(quán)、自由與監(jiān)管、數(shù)據(jù)與隱私等問題在內(nèi)的人工智能倫理準(zhǔn)則、法律法規(guī)建設(shè),試圖平衡、解決倫理與科技發(fā)展這一對矛盾,加強(qiáng)對人工智能技術(shù)研究及應(yīng)用的監(jiān)督、管理和導(dǎo)向。提前對可能出現(xiàn)的社會、倫理問題設(shè)計(jì)預(yù)案,體現(xiàn)了法國人工智能政策制定的未雨綢繆與遠(yuǎn)見。2016—2019 年法國人工智能發(fā)展政策布局如圖 1 所示。

    圖1 2016—2019 年法國人工智能發(fā)展政策布局

    4 結(jié)論與啟示

    法國人工智能發(fā)展政策對人工智能技術(shù)和產(chǎn)業(yè)發(fā)展起到了良好的引領(lǐng)作用。其多元化的政策制定與參與方式,產(chǎn)學(xué)研一體的科研生態(tài)體系,合理且具誘惑力的人才政策,以人為本的人工智能倫理準(zhǔn)則,加快政府?dāng)?shù)據(jù)開放、保證個(gè)人數(shù)據(jù)安全的數(shù)據(jù)生態(tài)體系,男女平等的人工智能均等理念,對就業(yè)問題的提前應(yīng)對等,都頗有特色,對我國人工智能政策的設(shè)計(jì)具有借鑒意義。受法國人工智能發(fā)展政策規(guī)劃布局的啟迪,我國在制定新一代人工智能發(fā)展政策時(shí),可給予以下幾點(diǎn)多一些的關(guān)注。

    4.1 鼓勵(lì)政策制定多元化參與

    與法國相比,我國人工智能發(fā)展政策的制定以中央政府為主導(dǎo),在國務(wù)院的統(tǒng)一領(lǐng)導(dǎo)下,科技部、國家科技體制改革和創(chuàng)新體系建設(shè)領(lǐng)導(dǎo)小組負(fù)責(zé)人工智能發(fā)展政策各項(xiàng)目的牽頭統(tǒng)籌。這一模式能夠較好地保證政策內(nèi)容的全局性與前瞻性,但在政策制定的過程中,公眾與非政府機(jī)構(gòu)的參與程度不高,使得其在發(fā)展人工智能中的積極性與主動性有所折扣。人工智能同時(shí)具備科技、市場、社會等多重屬性,它不僅是一種能夠帶動全局發(fā)展的標(biāo)志科技,更是一種與民生息息相關(guān)、與人民最關(guān)心、最現(xiàn)實(shí)和最直接利益掛鉤的實(shí)用科技。法國在制定人工智能發(fā)展政策的過程中充分調(diào)動相關(guān)企業(yè)、研究機(jī)構(gòu)、高校、非政府組織以及普通民眾的積極性,保證了政策內(nèi)容的全面、合理、民主、多元。我國可以借鑒法國經(jīng)驗(yàn),逐步在人工智能政策制定過程中提高普通民眾和非政府組織的參與程度:在問題的提出、議程的建立、方案的規(guī)劃等環(huán)節(jié)上,利用民意調(diào)查、公共對話、新媒體參與、政策論壇、圓桌會議、公眾聽證等多種形式,將各階層民眾的意見和建議納入作為人工智能政策的重要參考,鼓勵(lì)和引導(dǎo)各企業(yè)、高校、研究機(jī)構(gòu)、人民團(tuán)體以及社會組織積極參與人工智能政策的制定。這種集思廣益的公眾參與機(jī)制有助于政策的實(shí)施與推廣,強(qiáng)化了政策的指導(dǎo)性、惠民性和多元性。

    4.2 推進(jìn)產(chǎn)學(xué)研一體化進(jìn)程

    推進(jìn)人工智能領(lǐng)域的產(chǎn)學(xué)研一體化建設(shè)是構(gòu)建高效人工智能產(chǎn)業(yè)創(chuàng)新生態(tài)系統(tǒng)的重要環(huán)節(jié),能夠更好地促進(jìn)人工智能成果轉(zhuǎn)化和產(chǎn)業(yè)化發(fā)展。法國政府提供相應(yīng)資金支持,鼓勵(lì)企業(yè)與科研機(jī)構(gòu)以合作伙伴的形式開展人工智能的研究,并允許公共科研人員將一半的工作時(shí)間投入到私人企業(yè)的研發(fā)中。從法國的做法中得到啟發(fā),我國人工智能發(fā)展政策應(yīng)鼓勵(lì)各高等院校、科研機(jī)構(gòu)的科技力量以多種形式進(jìn)入企業(yè),參與企業(yè)的技術(shù)改造與技術(shù)開發(fā),成立以企業(yè)為主體,以高等院校和科研院所為依托,具有規(guī)模化、國際化、跨學(xué)科、跨領(lǐng)域的非營利性人工智能研究機(jī)構(gòu)網(wǎng)絡(luò),整合不同類型參與主體的優(yōu)勢,方便人工智能研究人員在高校和企業(yè)之間的流動,加快人工智能技術(shù)成果轉(zhuǎn)化與市場應(yīng)用,強(qiáng)調(diào)人工智能知識產(chǎn)權(quán)保護(hù)的重要性,以人工智能產(chǎn)學(xué)研的一體化建設(shè),實(shí)現(xiàn)我國人工智能產(chǎn)業(yè)發(fā)展“1+1>2”優(yōu)勢放大效果,提升我國人工智能產(chǎn)業(yè)發(fā)展的整體創(chuàng)新能力。

    4.3 營造“近悅遠(yuǎn)來”人才環(huán)境

    目前,中法兩國都已經(jīng)將高端人才隊(duì)伍建設(shè)作為人工智能發(fā)展的重中之重。法國依托大學(xué)科研力量,整合各方研究資源,建立起國家人工智能跨學(xué)科科研網(wǎng)絡(luò),以提高薪資、給予時(shí)間安排自由等方式,為在法的人工智能從業(yè)人員營造真正的人工智能自由港。隨著人工智能國際競爭愈演愈烈,國外舒適的科研工作環(huán)境、豐厚的酬勞對優(yōu)秀人才的誘惑倍增,我國面臨著大量人工智能專業(yè)人才出走海外的困境。為了解決這一問題,我國可學(xué)習(xí)法國的做法,從以下幾個(gè)方面作出改善:首先是工作環(huán)境,要加快人工智能研發(fā)的數(shù)字化基礎(chǔ)設(shè)施建設(shè),為人工智能研究提供高質(zhì)量的數(shù)據(jù)、優(yōu)秀的算法和高性能的運(yùn)算設(shè)備;為相關(guān)專業(yè)畢業(yè)的學(xué)生提供有前景的就業(yè)機(jī)會、高品質(zhì)的生活環(huán)境和經(jīng)濟(jì)實(shí)惠的生活成本;優(yōu)先解決人工智能優(yōu)秀人才的戶籍、就醫(yī)保障和子女入學(xué)等方面的問題,減少其生活之憂。一個(gè)更加開放的人才政策、更為優(yōu)渥的科研生活環(huán)境、更具活力的創(chuàng)新創(chuàng)業(yè)氛圍,將是一塊強(qiáng)力吸鐵石,吸引海內(nèi)外人工智能優(yōu)秀人才“近悅遠(yuǎn)來”,共享機(jī)遇,共謀發(fā)展,共創(chuàng)未來。

    4.4 加強(qiáng)道德主體建設(shè)

    凡科學(xué)技術(shù),皆有兩面性。人工智能,由于其應(yīng)用廣泛,后果難測,尤其需要加強(qiáng)法制和倫理建設(shè)。在人工智能理論研究、技術(shù)研發(fā)、產(chǎn)品應(yīng)用、用戶使用的全過程中,需盡力喚醒主體的道德意識,無論是科學(xué)家、工程師、管理者、決策者還是用戶,都必須自覺認(rèn)同、遵守人工智能相應(yīng)的道德規(guī)范和價(jià)值原則。法國的人工智能發(fā)展政策強(qiáng)調(diào)對可能出現(xiàn)的倫理道德問題的預(yù)防,在工程師專科學(xué)校和普通大學(xué)的計(jì)算機(jī)專業(yè)專門開設(shè)了科技倫理課程,對人工智能的未來從業(yè)人員提前進(jìn)行倫理道德教育。與法國相比,我國對人工智能倫理道德教育的重視程度略顯不足。在下一階段,我國需進(jìn)一步加大人工智能倫理道德教育培訓(xùn)與宣傳的力度,在學(xué)校教育中,以實(shí)體課堂、網(wǎng)絡(luò)慕課等形式嵌入與之相關(guān)的課件元素,在相關(guān)的研究機(jī)構(gòu)和企業(yè)中,結(jié)合其具體研究項(xiàng)目和應(yīng)用方向開展有針對性的法制和倫理培訓(xùn)。在普通群眾中展開教育,普及與人工智能相關(guān)的法制和倫理知識,也應(yīng)早早提上議事日程。

    4.5 完善數(shù)據(jù)生態(tài)體系

    海量數(shù)據(jù)成為人工智能前沿技術(shù)發(fā)展最重要的資源之一。法國出臺數(shù)字共和國法令,規(guī)定了政府公共數(shù)據(jù)和科研成果數(shù)據(jù)的開放程度和開放對象,對個(gè)體數(shù)據(jù)的便攜權(quán)、恢復(fù)權(quán)以及死后隱私權(quán)等作出了定義,以立法的形式加快政府公共數(shù)據(jù)的開放,保證個(gè)人數(shù)據(jù)隱私的安全。目前,我國擁有全球最龐大的人口基數(shù),是全球數(shù)據(jù)的最大生產(chǎn)者,這是我國在人工智能發(fā)展的天然優(yōu)勢。要將這種優(yōu)勢轉(zhuǎn)化為競爭力,就需要在保證個(gè)人數(shù)據(jù)安全的基礎(chǔ)上加快政府公共數(shù)據(jù)開放。一方面,加大對數(shù)據(jù)安全的監(jiān)管力度,形成一套透明和廣泛的人工智能數(shù)據(jù)保護(hù)監(jiān)管規(guī)范,在數(shù)據(jù)的安全與流動中取得平衡,在不妨礙數(shù)據(jù)流通與分享的前提下最大限度地保護(hù)個(gè)人數(shù)據(jù)隱私安全;另一方面,以法律或行政法規(guī)的方式構(gòu)建政府公共數(shù)據(jù)開放的基礎(chǔ)法律規(guī)范,推進(jìn)標(biāo)準(zhǔn)化、互通化、多樣化、系統(tǒng)化的開放數(shù)據(jù)平臺建設(shè),打造安全、多量、高質(zhì)的人工智能數(shù)據(jù)生態(tài)體系,以數(shù)據(jù)作為突破口,提高我國在人工智能發(fā)展領(lǐng)域的國際競爭力。

    4.6 保持性別比例平衡

    在全世界范圍內(nèi),人工智能的從業(yè)人員以男性為主,女性占少數(shù)。人工智能行業(yè)這種男女不均、性別不平衡的現(xiàn)象,極有可能導(dǎo)致人工智能算法的數(shù)據(jù)驅(qū)動偏見、選擇偏見以及確認(rèn)偏見,使用于訓(xùn)練算法的數(shù)據(jù)被傾向性地用于表示單一群體,從而使該算法對男性較為有利,忽視了對女性群體的關(guān)注,出現(xiàn)結(jié)果的不公和偏見。作為“均等”運(yùn)動的先鋒國家,法國提倡人工智能行業(yè)的多樣性和包容性,避免男女不平等、性別歧視、種族歧視等現(xiàn)象的出現(xiàn)。以“女士優(yōu)先”的政策,鼓勵(lì)、吸引更多的女性進(jìn)行人工智能的學(xué)習(xí),參與人工智能的研究。在我國,高等院校人工智能專業(yè)的女生人數(shù)少之又少,進(jìn)行人工智能研發(fā)的女性研究員更是鳳毛麟角。為了緩解這種現(xiàn)象,我國可以在招生宣講、志愿填寫時(shí)加大對人工智能專業(yè)的宣傳力度,適當(dāng)采取對女生有利的優(yōu)惠招生政策,以吸引更多女性進(jìn)行人工智能的學(xué)習(xí),逐步實(shí)現(xiàn)人工智能算法研發(fā)領(lǐng)域性別的男女平衡,避免算法結(jié)果的性別偏見。

    4.7 提前應(yīng)對就業(yè)隱患

    人工智能不僅是一次技術(shù)革命,也是一場社會經(jīng)濟(jì)變革。由于對生產(chǎn)效率的大幅度改進(jìn)、對人類勞動的部分替代、對生活方式的根本扭轉(zhuǎn),人工智能在給人類帶來眾多便利的同時(shí)也隱藏著一系列的就業(yè)隱患和社會倫理隱患。法國建立人工智能公共實(shí)驗(yàn)室,研究人工智能發(fā)展規(guī)律,預(yù)測人工智能發(fā)展前景,提前對智能時(shí)代有可能發(fā)生的就業(yè)調(diào)整、工作轉(zhuǎn)變、社會變革進(jìn)行假設(shè)和試驗(yàn)。我國也可以借鑒法國的做法,組織社會學(xué)、經(jīng)濟(jì)學(xué)、哲學(xué)、教育學(xué)等人文科學(xué)領(lǐng)域的學(xué)者,與人工智能領(lǐng)域的技術(shù)專家合作,成立專門機(jī)構(gòu),對我國新一代人工智能主導(dǎo)下的未來社會發(fā)展進(jìn)行研究和預(yù)測,著重解決人工智能技術(shù)發(fā)展帶來的就業(yè)問題,建立健全的職業(yè)教育培訓(xùn)體系,開展具有前瞻性的職業(yè)技能培訓(xùn),開拓新領(lǐng)域,增加就業(yè)崗位,提升就業(yè)層級,保證未來人工智能勞動力市場的需求平衡,弱化結(jié)構(gòu)性失業(yè)的影響。

    猜你喜歡
    人工智能研究發(fā)展
    FMS與YBT相關(guān)性的實(shí)證研究
    邁上十四五發(fā)展“新跑道”,打好可持續(xù)發(fā)展的“未來牌”
    中國核電(2021年3期)2021-08-13 08:56:36
    遼代千人邑研究述論
    視錯(cuò)覺在平面設(shè)計(jì)中的應(yīng)用與研究
    科技傳播(2019年22期)2020-01-14 03:06:54
    EMA伺服控制系統(tǒng)研究
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    砥礪奮進(jìn) 共享發(fā)展
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    改性瀝青的應(yīng)用與發(fā)展
    北方交通(2016年12期)2017-01-15 13:52:53
    精品国产乱码久久久久久小说| 一级黄片播放器| 中国国产av一级| 毛片一级片免费看久久久久| 日韩 亚洲 欧美在线| 在线亚洲精品国产二区图片欧美| 女人高潮潮喷娇喘18禁视频| 久久婷婷青草| 女人久久www免费人成看片| 国产男女超爽视频在线观看| 母亲3免费完整高清在线观看 | 色吧在线观看| 中文天堂在线官网| 一二三四在线观看免费中文在| av电影中文网址| 免费av中文字幕在线| 婷婷色麻豆天堂久久| 国产有黄有色有爽视频| 黑丝袜美女国产一区| 性高湖久久久久久久久免费观看| 国产一区二区三区综合在线观看| 免费久久久久久久精品成人欧美视频| 街头女战士在线观看网站| 成人黄色视频免费在线看| av在线观看视频网站免费| freevideosex欧美| 久久精品久久久久久噜噜老黄| 免费av中文字幕在线| 午夜免费鲁丝| 2021少妇久久久久久久久久久| 美女国产高潮福利片在线看| 最近的中文字幕免费完整| 午夜老司机福利剧场| 欧美日韩综合久久久久久| 国产在线免费精品| 午夜福利一区二区在线看| 一级爰片在线观看| 久久精品熟女亚洲av麻豆精品| 久久久久网色| 日产精品乱码卡一卡2卡三| 如日韩欧美国产精品一区二区三区| 精品久久蜜臀av无| 日本av手机在线免费观看| 丰满少妇做爰视频| 下体分泌物呈黄色| 啦啦啦中文免费视频观看日本| 国产av精品麻豆| 亚洲国产毛片av蜜桃av| 亚洲国产欧美日韩在线播放| 国产亚洲av片在线观看秒播厂| 新久久久久国产一级毛片| 激情视频va一区二区三区| 九色亚洲精品在线播放| 九色亚洲精品在线播放| 国产无遮挡羞羞视频在线观看| 香蕉精品网在线| av在线老鸭窝| 亚洲图色成人| 搡女人真爽免费视频火全软件| 你懂的网址亚洲精品在线观看| 国产乱来视频区| 青春草国产在线视频| 国产爽快片一区二区三区| 青草久久国产| 精品国产乱码久久久久久小说| 成年女人毛片免费观看观看9 | 一边摸一边做爽爽视频免费| 天堂俺去俺来也www色官网| 在线观看www视频免费| 国产深夜福利视频在线观看| 日韩一区二区视频免费看| 欧美人与善性xxx| 黄频高清免费视频| 街头女战士在线观看网站| 成人国产av品久久久| 日本黄色日本黄色录像| 亚洲欧美精品自产自拍| 两性夫妻黄色片| 一本—道久久a久久精品蜜桃钙片| 搡老乐熟女国产| 9191精品国产免费久久| 久久久精品区二区三区| 999久久久国产精品视频| 男人添女人高潮全过程视频| 亚洲国产欧美日韩在线播放| 最近的中文字幕免费完整| 少妇人妻 视频| 99香蕉大伊视频| 免费久久久久久久精品成人欧美视频| 在线观看国产h片| 夫妻午夜视频| 久久婷婷青草| 亚洲精品国产av成人精品| 国产一区二区在线观看av| 免费播放大片免费观看视频在线观看| av又黄又爽大尺度在线免费看| 色哟哟·www| 十分钟在线观看高清视频www| 欧美激情高清一区二区三区 | 午夜免费观看性视频| 999精品在线视频| 欧美国产精品一级二级三级| 国产av国产精品国产| 一区二区三区乱码不卡18| 青春草国产在线视频| 少妇精品久久久久久久| 亚洲成av片中文字幕在线观看 | 26uuu在线亚洲综合色| 十分钟在线观看高清视频www| 日本猛色少妇xxxxx猛交久久| 国产1区2区3区精品| 97人妻天天添夜夜摸| 日韩制服丝袜自拍偷拍| 国产成人午夜福利电影在线观看| 国产av码专区亚洲av| 超色免费av| 美女国产视频在线观看| 黄片播放在线免费| 国产片特级美女逼逼视频| 久久久久网色| 少妇人妻精品综合一区二区| 欧美亚洲日本最大视频资源| 涩涩av久久男人的天堂| 国产无遮挡羞羞视频在线观看| 丝瓜视频免费看黄片| 纯流量卡能插随身wifi吗| 午夜福利一区二区在线看| 色网站视频免费| 欧美精品一区二区免费开放| 大片电影免费在线观看免费| 热re99久久国产66热| 人妻系列 视频| 国产一区有黄有色的免费视频| 在线精品无人区一区二区三| 精品福利永久在线观看| 日韩制服骚丝袜av| 丰满迷人的少妇在线观看| 99久国产av精品国产电影| 中文字幕制服av| 午夜免费男女啪啪视频观看| 国产av码专区亚洲av| 最黄视频免费看| 中文字幕最新亚洲高清| 欧美日韩精品网址| 韩国精品一区二区三区| 亚洲视频免费观看视频| 欧美xxⅹ黑人| 国产极品粉嫩免费观看在线| 国产精品免费大片| 性色avwww在线观看| 国产精品久久久久久久久免| 久久精品熟女亚洲av麻豆精品| 久久久久久久久久人人人人人人| 香蕉国产在线看| 夫妻午夜视频| 久久国内精品自在自线图片| 免费黄网站久久成人精品| 精品视频人人做人人爽| 国产精品.久久久| 久久久国产精品麻豆| 亚洲av国产av综合av卡| 中文字幕色久视频| 国产淫语在线视频| 久久av网站| 高清黄色对白视频在线免费看| 视频区图区小说| 国产精品女同一区二区软件| 9热在线视频观看99| 91成人精品电影| 成人免费观看视频高清| 欧美精品一区二区大全| 女人精品久久久久毛片| 日日摸夜夜添夜夜爱| 黄网站色视频无遮挡免费观看| 久久婷婷青草| 国产成人精品久久久久久| 久久这里只有精品19| 日本爱情动作片www.在线观看| 亚洲欧美一区二区三区国产| 国产精品麻豆人妻色哟哟久久| 久久久久久久久久久免费av| 亚洲色图 男人天堂 中文字幕| 国产片内射在线| 成年人午夜在线观看视频| 丝袜喷水一区| 国产高清不卡午夜福利| 女性生殖器流出的白浆| 亚洲精品国产av成人精品| 日韩成人av中文字幕在线观看| 美女脱内裤让男人舔精品视频| 国产欧美亚洲国产| 秋霞在线观看毛片| 久久久久久久大尺度免费视频| 欧美亚洲日本最大视频资源| 婷婷成人精品国产| 一本色道久久久久久精品综合| 高清av免费在线| 91久久精品国产一区二区三区| 欧美人与性动交α欧美精品济南到 | 在线看a的网站| 巨乳人妻的诱惑在线观看| 国产在线免费精品| 日本色播在线视频| 制服人妻中文乱码| 99热全是精品| 亚洲精品久久成人aⅴ小说| 欧美日韩综合久久久久久| 欧美日韩精品成人综合77777| 91国产中文字幕| 国产乱人偷精品视频| 国产精品国产av在线观看| 午夜福利一区二区在线看| 亚洲欧美精品综合一区二区三区 | 日韩一区二区视频免费看| 永久网站在线| 香蕉国产在线看| 精品一区二区免费观看| 久久婷婷青草| 一级爰片在线观看| 国产片特级美女逼逼视频| 97在线人人人人妻| 欧美日韩综合久久久久久| 日本午夜av视频| 国产精品人妻久久久影院| 亚洲精品国产色婷婷电影| 亚洲综合精品二区| 日韩 亚洲 欧美在线| 两个人免费观看高清视频| 永久网站在线| 美女扒开内裤让男人捅视频| 欧美日韩瑟瑟在线播放| 国产又爽黄色视频| 在线看a的网站| 欧美日韩亚洲国产一区二区在线观看| 国产精品乱码一区二三区的特点 | 大型黄色视频在线免费观看| 琪琪午夜伦伦电影理论片6080| 99热国产这里只有精品6| 可以在线观看毛片的网站| 成人av一区二区三区在线看| 免费高清视频大片| 中文字幕人妻熟女乱码| 久久 成人 亚洲| 18禁观看日本| 久久精品人人爽人人爽视色| 精品国产一区二区久久| 一区二区三区国产精品乱码| av天堂在线播放| 国产一区二区三区在线臀色熟女 | 黄色 视频免费看| 巨乳人妻的诱惑在线观看| 欧美亚洲日本最大视频资源| 一二三四社区在线视频社区8| 青草久久国产| 亚洲欧洲精品一区二区精品久久久| 亚洲午夜理论影院| 老司机在亚洲福利影院| 亚洲第一青青草原| 久久久久久久精品吃奶| 久久久久久久久免费视频了| 18禁观看日本| 日本免费a在线| 多毛熟女@视频| 动漫黄色视频在线观看| 日本黄色日本黄色录像| 无人区码免费观看不卡| 男男h啪啪无遮挡| 亚洲精品成人av观看孕妇| 少妇被粗大的猛进出69影院| 成人亚洲精品一区在线观看| 午夜影院日韩av| 久久香蕉精品热| 国产不卡一卡二| 久久久久久久久久久久大奶| 色尼玛亚洲综合影院| 黄色成人免费大全| 99热只有精品国产| av福利片在线| 我的亚洲天堂| 一级a爱片免费观看的视频| 久9热在线精品视频| 午夜激情av网站| 99精国产麻豆久久婷婷| 国产激情欧美一区二区| 亚洲成av片中文字幕在线观看| 婷婷丁香在线五月| 国产男靠女视频免费网站| 久久性视频一级片| 757午夜福利合集在线观看| 国产午夜精品久久久久久| 丰满人妻熟妇乱又伦精品不卡| 女人高潮潮喷娇喘18禁视频| 麻豆国产av国片精品| 777久久人妻少妇嫩草av网站| 免费高清在线观看日韩| 日日爽夜夜爽网站| 亚洲精品一二三| 精品午夜福利视频在线观看一区| 亚洲成人免费av在线播放| 久久久国产成人免费| 国产精品1区2区在线观看.| 亚洲狠狠婷婷综合久久图片| 怎么达到女性高潮| 99精品欧美一区二区三区四区| 亚洲欧美精品综合久久99| 黑人巨大精品欧美一区二区蜜桃| 欧美日韩一级在线毛片| 亚洲中文字幕日韩| www.www免费av| 欧美性长视频在线观看| 中文字幕另类日韩欧美亚洲嫩草| 午夜日韩欧美国产| 久久精品人人爽人人爽视色| 国产成人免费无遮挡视频| 99热只有精品国产| 国产精品一区二区在线不卡| 国产高清激情床上av| 亚洲成国产人片在线观看| 好男人电影高清在线观看| 国产精品成人在线| 日本黄色视频三级网站网址| 亚洲人成电影观看| 国产精品1区2区在线观看.| 91av网站免费观看| 91九色精品人成在线观看| 亚洲熟妇中文字幕五十中出 | 亚洲国产精品sss在线观看 | 亚洲精品国产区一区二| 十八禁人妻一区二区| 9热在线视频观看99| 少妇裸体淫交视频免费看高清 | 黄色女人牲交| 欧美一级毛片孕妇| 女人高潮潮喷娇喘18禁视频| 老司机午夜十八禁免费视频| 国产av在哪里看| 亚洲人成电影免费在线| 纯流量卡能插随身wifi吗| 午夜精品在线福利| 成人特级黄色片久久久久久久| 人成视频在线观看免费观看| 制服人妻中文乱码| 日本免费一区二区三区高清不卡 | 久久久精品国产亚洲av高清涩受| 国产人伦9x9x在线观看| 老司机靠b影院| 黄色视频,在线免费观看| 国产熟女午夜一区二区三区| 天堂动漫精品| 18美女黄网站色大片免费观看| www.熟女人妻精品国产| 黄色成人免费大全| 亚洲熟女毛片儿| 两个人看的免费小视频| 9热在线视频观看99| 国产精品香港三级国产av潘金莲| 老司机亚洲免费影院| 亚洲欧美日韩另类电影网站| 久久香蕉国产精品| 欧美日韩亚洲国产一区二区在线观看| 欧美日韩亚洲高清精品| 免费搜索国产男女视频| 可以在线观看毛片的网站| 国产真人三级小视频在线观看| 欧美乱妇无乱码| 两性午夜刺激爽爽歪歪视频在线观看 | 每晚都被弄得嗷嗷叫到高潮| 国产精品自产拍在线观看55亚洲| 久久久久精品国产欧美久久久| 神马国产精品三级电影在线观看 | 在线播放国产精品三级| 国产男靠女视频免费网站| 一个人观看的视频www高清免费观看 | 国产国语露脸激情在线看| 免费一级毛片在线播放高清视频 | 国产高清视频在线播放一区| 亚洲熟妇中文字幕五十中出 | 亚洲欧美激情在线| 一二三四社区在线视频社区8| 国产极品粉嫩免费观看在线| 欧美国产精品va在线观看不卡| 久久狼人影院| 母亲3免费完整高清在线观看| 女人精品久久久久毛片| 香蕉久久夜色| 最好的美女福利视频网| 亚洲一码二码三码区别大吗| 亚洲avbb在线观看| av免费在线观看网站| 男女做爰动态图高潮gif福利片 | 久久人人精品亚洲av| 精品免费久久久久久久清纯| 成熟少妇高潮喷水视频| 亚洲 欧美 日韩 在线 免费| 午夜91福利影院| 国产亚洲精品久久久久久毛片| www.999成人在线观看| 国产精品美女特级片免费视频播放器 | 中文欧美无线码| av有码第一页| 性欧美人与动物交配| 超碰成人久久| 在线免费观看的www视频| 一级作爱视频免费观看| 欧美人与性动交α欧美软件| 免费在线观看完整版高清| 日韩一卡2卡3卡4卡2021年| 久热爱精品视频在线9| 性色av乱码一区二区三区2| 9色porny在线观看| 大型黄色视频在线免费观看| 亚洲欧美一区二区三区黑人| 久久国产精品人妻蜜桃| 久久天躁狠狠躁夜夜2o2o| 亚洲成a人片在线一区二区| 亚洲一区中文字幕在线| 日韩精品免费视频一区二区三区| 美女 人体艺术 gogo| 黄色成人免费大全| 久久人妻熟女aⅴ| 丁香六月欧美| 在线免费观看的www视频| 亚洲avbb在线观看| 国产野战对白在线观看| 欧美人与性动交α欧美精品济南到| 一二三四在线观看免费中文在| 亚洲九九香蕉| 可以在线观看毛片的网站| 黄色女人牲交| 亚洲成国产人片在线观看| 999久久久国产精品视频| 麻豆av在线久日| 无限看片的www在线观看| 欧美黑人欧美精品刺激| 欧美日韩亚洲国产一区二区在线观看| 伊人久久大香线蕉亚洲五| 亚洲五月婷婷丁香| 欧美日韩av久久| 欧美日韩亚洲综合一区二区三区_| 日韩大尺度精品在线看网址 | 人人妻,人人澡人人爽秒播| 久久午夜亚洲精品久久| 后天国语完整版免费观看| 777久久人妻少妇嫩草av网站| 国产又色又爽无遮挡免费看| 久久性视频一级片| 国产精品乱码一区二三区的特点 | 国产欧美日韩一区二区三区在线| 满18在线观看网站| 看免费av毛片| 国产又色又爽无遮挡免费看| 很黄的视频免费| 女人被狂操c到高潮| 免费日韩欧美在线观看| 亚洲精品粉嫩美女一区| 国产片内射在线| 国产精品香港三级国产av潘金莲| 久久这里只有精品19| 又紧又爽又黄一区二区| 国产有黄有色有爽视频| 欧美久久黑人一区二区| 午夜影院日韩av| 99热国产这里只有精品6| 一本综合久久免费| 在线观看舔阴道视频| 精品乱码久久久久久99久播| 成人亚洲精品av一区二区 | 亚洲人成77777在线视频| 国产成人av激情在线播放| 男女下面进入的视频免费午夜 | 9热在线视频观看99| 丝袜美腿诱惑在线| 日日摸夜夜添夜夜添小说| 欧美黑人欧美精品刺激| 日本三级黄在线观看| 亚洲欧美日韩无卡精品| 久久久精品国产亚洲av高清涩受| 国产无遮挡羞羞视频在线观看| a级毛片在线看网站| 热99国产精品久久久久久7| 嫩草影院精品99| 美女扒开内裤让男人捅视频| 久久草成人影院| 国产一区二区三区视频了| 国产成人精品久久二区二区91| 99久久99久久久精品蜜桃| 亚洲精品美女久久久久99蜜臀| 99久久国产精品久久久| 免费不卡黄色视频| 亚洲精品成人av观看孕妇| 久久人妻熟女aⅴ| 免费一级毛片在线播放高清视频 | 久久欧美精品欧美久久欧美| 在线观看午夜福利视频| 日韩大尺度精品在线看网址 | 国产成人系列免费观看| 99精品久久久久人妻精品| 午夜激情av网站| 精品久久久久久久毛片微露脸| 亚洲欧美日韩高清在线视频| 久久香蕉国产精品| 亚洲情色 制服丝袜| 久热这里只有精品99| 夜夜夜夜夜久久久久| 三上悠亚av全集在线观看| 久久性视频一级片| 欧美精品亚洲一区二区| 国产成人精品无人区| 国产亚洲精品一区二区www| 99国产精品免费福利视频| 亚洲精品国产色婷婷电影| 美女大奶头视频| 精品国产一区二区久久| 国产成人欧美| 又大又爽又粗| 岛国在线观看网站| 亚洲av电影在线进入| av国产精品久久久久影院| 午夜免费观看网址| 91麻豆av在线| 精品久久久久久,| 人人妻人人澡人人看| 不卡一级毛片| 久9热在线精品视频| 女同久久另类99精品国产91| 中亚洲国语对白在线视频| 欧美乱色亚洲激情| 亚洲av电影在线进入| 免费在线观看日本一区| 亚洲成人国产一区在线观看| 午夜成年电影在线免费观看| 国产成人系列免费观看| 性少妇av在线| 嫩草影视91久久| 69精品国产乱码久久久| 亚洲成人免费电影在线观看| av超薄肉色丝袜交足视频| 国产免费男女视频| 久久人妻福利社区极品人妻图片| 99久久99久久久精品蜜桃| av有码第一页| 免费在线观看日本一区| 99国产精品免费福利视频| 国产99久久九九免费精品| 日本精品一区二区三区蜜桃| 久久人人爽av亚洲精品天堂| 国产精品国产av在线观看| 校园春色视频在线观看| 国产一区在线观看成人免费| 十分钟在线观看高清视频www| 国产亚洲精品第一综合不卡| 成人国语在线视频| 涩涩av久久男人的天堂| 99久久精品国产亚洲精品| 亚洲少妇的诱惑av| 极品人妻少妇av视频| 亚洲精品在线观看二区| 老司机午夜十八禁免费视频| 国产精品影院久久| 两人在一起打扑克的视频| 国产野战对白在线观看| 欧美黄色淫秽网站| 亚洲国产精品sss在线观看 | 黑人操中国人逼视频| 日韩视频一区二区在线观看| 高清欧美精品videossex| 免费观看人在逋| 搡老熟女国产l中国老女人| 少妇裸体淫交视频免费看高清 | 国产成人av激情在线播放| 亚洲av美国av| 久久久久久久久免费视频了| 91精品三级在线观看| 免费观看精品视频网站| 在线天堂中文资源库| 亚洲精品av麻豆狂野| 成人免费观看视频高清| 久久 成人 亚洲| 国产精品爽爽va在线观看网站 | 亚洲少妇的诱惑av| 国产97色在线日韩免费| 波多野结衣av一区二区av| 亚洲第一欧美日韩一区二区三区| 亚洲国产毛片av蜜桃av| 久久草成人影院| 男人舔女人下体高潮全视频| 久久伊人香网站| 在线永久观看黄色视频| 国产人伦9x9x在线观看| 午夜免费观看网址| 50天的宝宝边吃奶边哭怎么回事| 久久香蕉国产精品| 久久久久久久久免费视频了| av电影中文网址| 俄罗斯特黄特色一大片| 超碰成人久久| 久久99一区二区三区| 欧美成人午夜精品| 亚洲人成77777在线视频| x7x7x7水蜜桃| 婷婷精品国产亚洲av在线| 欧美丝袜亚洲另类 | 亚洲情色 制服丝袜| 国产野战对白在线观看| 国产av又大| 亚洲精品国产区一区二| 欧美日韩一级在线毛片| 婷婷精品国产亚洲av在线| 成人三级做爰电影| 亚洲成人免费av在线播放| 欧美色视频一区免费| 精品国产亚洲在线| 十八禁人妻一区二区| 老熟妇乱子伦视频在线观看| 另类亚洲欧美激情|