• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    負責(zé)任創(chuàng)新視角下我國人工智能產(chǎn)業(yè)政策的解構(gòu)與重構(gòu)*

    2021-07-20 07:18:46費艷穎劉彩薇
    情報雜志 2021年7期
    關(guān)鍵詞:人工智能發(fā)展

    費艷穎 劉彩薇

    (1.大連理工大學(xué)人文與社會科學(xué)學(xué)部 大連 116024;2.大連理工大學(xué)馬克思主義學(xué)院 大連 116024)

    0 引 言

    著名歷史學(xué)家尤瓦爾·赫拉利在《未來簡史》中曾預(yù)言:人工智能和生物基因技術(shù)正在重塑世界,人類正面臨全新議題[1]。人工智能帶給人類的未來已經(jīng)從非常的烏托邦轉(zhuǎn)變?yōu)榉礊跬邪?。為此,需要以政府主?dǎo)的相當(dāng)規(guī)模努力以化解、防范現(xiàn)在已經(jīng)出現(xiàn)或未來可能出現(xiàn)的風(fēng)險。在國務(wù)院2016年8月發(fā)布的《“十三五”國家科技創(chuàng)新規(guī)劃》中明確提出,倡導(dǎo)負責(zé)任的研究與創(chuàng)新……強調(diào)在技術(shù)創(chuàng)新活動中,加強倫理建設(shè)、重視和承擔(dān)保障安全的社會責(zé)任??梢姡瑥呢撠?zé)任創(chuàng)新視角研究人工智能政策決策具有重要的理論和現(xiàn)實意義。

    人工智能產(chǎn)業(yè)作為大數(shù)據(jù)、區(qū)塊鏈、人工智能技術(shù)與產(chǎn)業(yè)深度融合的新興技術(shù)產(chǎn)業(yè),代表著中國產(chǎn)業(yè)未來發(fā)展的主攻方向,在促進經(jīng)濟高質(zhì)量發(fā)展和贏得國際競爭主動權(quán)中處于戰(zhàn)略性地位。但大量濫用、誤用、惡用人工智能造成隱私數(shù)據(jù)嚴(yán)重泄漏和技術(shù)異化風(fēng)險存在。因此,人工智能產(chǎn)業(yè)走負責(zé)任創(chuàng)新發(fā)展勢在必行。負責(zé)任創(chuàng)新理念不僅倡導(dǎo)技術(shù)創(chuàng)新應(yīng)反映社會需求與意愿、反射社會價值與責(zé)任,更關(guān)注技術(shù)風(fēng)險造成的其他潛在負面影響,這為人工智能產(chǎn)業(yè)探求負責(zé)任發(fā)展路徑提供了可行指導(dǎo)。基于此,本研究從負責(zé)任創(chuàng)新理論出發(fā),對人工智能產(chǎn)業(yè)政策的主題詞、政策措施、政策力度以及政府注意力配置等方面進行解構(gòu)分析,梳理政府在負責(zé)任創(chuàng)新決策中的注意力配置全貌與關(guān)注重點,了解人工智能產(chǎn)業(yè)政策中負責(zé)任創(chuàng)新理念的落實情況,在剖析人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策現(xiàn)存問題基礎(chǔ)上提出相應(yīng)建議,以期為政府修正、補充和完善人工智能產(chǎn)業(yè)政策提供參考與借鑒。

    1 文獻回顧

    1.1關(guān)于負責(zé)任創(chuàng)新的研究“負責(zé)任創(chuàng)新”又稱“負責(zé)任研究與創(chuàng)新”,最早出現(xiàn)于2002年D.Guston年在哥本哈根螺旋會議上宣讀但尚未正式出版的文章中[2],后被德國學(xué)者Hellstrom[3]于2003年引用并公開發(fā)表后,受到國內(nèi)外學(xué)者廣泛關(guān)注。在國外,負責(zé)任創(chuàng)新研究成果豐富。在理論層面,Stilgoe[4]認為負責(zé)任創(chuàng)新就應(yīng)從風(fēng)險視角去關(guān)注新興技術(shù)可能存在潛在負面影響,并通過對技術(shù)創(chuàng)新活動的集體管理來探索未來,Owen[5]認為其核心目標(biāo)是實現(xiàn)創(chuàng)新服務(wù)于社會需求,滿足于公眾期望并保證公共生活質(zhì)量提高。Hilary[6]認為其基本要求是在科技創(chuàng)新活動中構(gòu)建實現(xiàn)經(jīng)濟效率、社會效益及道德倫理相平衡的創(chuàng)新評體系。在實踐層面,負責(zé)任創(chuàng)新被納入政策范疇以指導(dǎo)實踐。2003年,美國頒布21世紀(jì)納米技術(shù)研究與發(fā)展法令時提出“責(zé)任式發(fā)展”概念,旨在關(guān)注提高納米技術(shù)推動社會進步的同時降低技術(shù)創(chuàng)新的負面影響。2013年歐盟委員會啟動“地平線2020框架計劃”,明確將“負責(zé)任研究與創(chuàng)新”作為該計劃的重要目標(biāo),并要求所有利益相關(guān)者采取行動,為激勵創(chuàng)新研究和使創(chuàng)新成果符合社會價值觀、需求和期望提供力量。在國內(nèi),學(xué)界對“負責(zé)任創(chuàng)新”研究大體可概括為兩維度:一是從純粹理論角度辨析及介紹、闡釋其學(xué)理內(nèi)涵。如梅亮[7]、廖苗[8]等人辨析和梳理了“負責(zé)任創(chuàng)新”的發(fā)軔、演進及特征等要素的發(fā)展脈絡(luò)。薛桂波[9]則強調(diào)了負責(zé)任創(chuàng)新代表一種兼顧社會責(zé)任與持續(xù)創(chuàng)新的均衡發(fā)展理念,提出未來產(chǎn)業(yè)政策在關(guān)注“經(jīng)濟驅(qū)動”的效率優(yōu)先基礎(chǔ)上,更應(yīng)關(guān)注“責(zé)任架構(gòu)”的倫理價值。二是將負責(zé)任創(chuàng)新理念與具體產(chǎn)業(yè)領(lǐng)域結(jié)合進行研究,即運用負責(zé)任創(chuàng)新理念指導(dǎo)實踐的研究。如劉戰(zhàn)雄[10]將負責(zé)任創(chuàng)新與農(nóng)業(yè)發(fā)展結(jié)合,提出應(yīng)以農(nóng)業(yè)負責(zé)任創(chuàng)新構(gòu)筑農(nóng)業(yè)創(chuàng)新優(yōu)勢,實現(xiàn)農(nóng)業(yè)可持續(xù)發(fā)展。

    綜上所述,本研究聚焦產(chǎn)業(yè)技術(shù)創(chuàng)新領(lǐng)域,認為負責(zé)任創(chuàng)新是指在技術(shù)創(chuàng)新發(fā)展活動中不僅追求技術(shù)創(chuàng)新要解決反映社會需求和社會意愿的重大問題,更應(yīng)考慮和關(guān)注技術(shù)創(chuàng)新可能對社會、環(huán)境與倫理造成的負面影響。

    1.2關(guān)于人工智能產(chǎn)業(yè)政策的研究現(xiàn)有關(guān)于我國人工智能產(chǎn)業(yè)政策的研究主要集中于以下兩方面:一方面,基于不同視角框架的政策量化研究。如呂文晶[11]等基于政策工具和創(chuàng)新過程的二維視角分析;袁野[12]基于供給、需求、環(huán)境的三維視角分析;湯志偉[13]等基于目標(biāo)、工具與執(zhí)行的三維視角分析;郭雨暉[14]等從政策工具-創(chuàng)新價值鏈的視角,對當(dāng)前中國人工智能產(chǎn)業(yè)政策制定的總體布局、議題結(jié)構(gòu)等發(fā)展現(xiàn)狀進行計量與分析。另一方面,基于不同國家、層級、區(qū)域間的政策比較研究。一是不同國家間政策比較。其中以中美兩國間人工智能政策對比研究較多。何哲[15]、曾朋堅[16]等比較研究了中美人工智能產(chǎn)業(yè)政策在主體、工具和目標(biāo)方面的差異;于漢超[17]、賈開[18]、毛子駿[19]等則對中、美、日、英、法等國人工智能產(chǎn)業(yè)政策內(nèi)容展開對比分析。二是國內(nèi)不同層級間比較研究。如對中央、各部委、各省級及北上廣深等不同層級的人工智能政策比較研究[20]。三是國內(nèi)不同區(qū)域間比較研究。如單曉紅[21]對京津冀、珠三角及長三角等區(qū)域人工智能產(chǎn)業(yè)政策進行比較研究,分析區(qū)域間政策差異及其成因。

    綜上所述,關(guān)于負責(zé)任創(chuàng)新的研究多從概念、內(nèi)涵辨析、理論框架及對經(jīng)濟發(fā)展、社會倫理、技術(shù)創(chuàng)新的影響方面展開,從負責(zé)任創(chuàng)新對某個產(chǎn)業(yè)具體的影響研究較少。關(guān)于人工智能產(chǎn)業(yè)政策的研究,以不同政策工具視角下的量化研究和以不同國家、層級、區(qū)域的比較研究為主,基于負責(zé)任創(chuàng)新理念對人工智能產(chǎn)業(yè)政策進行戰(zhàn)略重點、變化趨勢、措施差異進行系統(tǒng)解析的研究較少。

    2 研究設(shè)計

    2.1數(shù)據(jù)來源2015年《中國制造2025》發(fā)布以來,將智能化發(fā)展作為產(chǎn)業(yè)升級的主攻方向,激發(fā)人工智能產(chǎn)業(yè)蓬勃興起。此后,為滿足人們對智能產(chǎn)品與服務(wù)的需求,政府陸續(xù)出臺一系列優(yōu)化人工智能產(chǎn)業(yè)布局的指導(dǎo)性文件,以期加快引導(dǎo)人工智能產(chǎn)業(yè)持續(xù)發(fā)力。故本文以2015年為起點,選取2015-2020年國家層面出臺的與人工智能產(chǎn)業(yè)直接相關(guān)的指導(dǎo)類政策文件和對人工智能產(chǎn)業(yè)發(fā)展有重大影響的規(guī)劃類政策文件,作為研究人工智能產(chǎn)業(yè)直接相關(guān)的政策文本。

    政策文本選擇遵循公開、權(quán)威及相關(guān)性原則,以中央人民政府、發(fā)改委、工信部、科技部、教育部、財政部等官方網(wǎng)站、北大法律信息網(wǎng)等為主要數(shù)據(jù)來源,以“人工智能”“智能”“大數(shù)據(jù)”“互聯(lián)網(wǎng)+”“機器人”“新興技術(shù)”等為檢索關(guān)鍵詞,以戰(zhàn)略、規(guī)劃、綱要、指導(dǎo)意見、行動計劃、 法律法規(guī)、方案、通知、公告、辦法、條例等為基本政策類型,檢索國家層面正式且公開發(fā)布的文件。最后對檢索到的所有政策文本進行梳理,剔除與人工智能產(chǎn)業(yè)無關(guān)及重復(fù)的文件,篩選出相關(guān)性較強的國家層面政策文件31份,并依據(jù)政策文件出臺時間先后順序進行編號。

    2.2研究方法采用NVivo11質(zhì)性軟件對上述31份政策文本進行解構(gòu),提取并分析政策主題詞、政策措施、政策類型與頒布機構(gòu)、政府注意力等關(guān)鍵政策要素,揭示現(xiàn)行人工智能產(chǎn)業(yè)政策中負責(zé)任創(chuàng)新理念落實情況。具體編碼過程分以下幾步:a.將31篇人工智能產(chǎn)業(yè)政策文件整理成Word文本導(dǎo)入NVivo11軟件。b.懸置個人“前見”,對政策文件進行手動標(biāo)注和開放式預(yù)編碼,形成160多個初始自由節(jié)點,經(jīng)過篩選對這些節(jié)點進行正式編碼,形成98個子節(jié)點,對子節(jié)點頻數(shù)靠前30位的關(guān)鍵詞進行主題詞分析。c.按照三級編碼流程對子節(jié)點進行比較、分析和整合,提煉形成6個父節(jié)點,作為政策措施解構(gòu)分析的主要依據(jù)。d.在關(guān)聯(lián)式編碼的基礎(chǔ)上,進一步對6個父節(jié)點選擇編碼“核心類屬”,最終歸納出3個核心主范疇作為分析政府注意力配置方面的依據(jù)。e.運用可視化手段呈現(xiàn)表征負責(zé)任創(chuàng)新的人工智能產(chǎn)業(yè)政策力度現(xiàn)狀,揭示政策發(fā)布主體對負責(zé)任創(chuàng)新理念的重視及貫徹程度,分析存在問題并提出優(yōu)化建議。

    3 研究結(jié)果和分析

    明確負責(zé)任創(chuàng)新的內(nèi)涵是在負責(zé)任創(chuàng)新視角下對人工智能產(chǎn)業(yè)政策進行解構(gòu)分析的前提。根據(jù)著名技術(shù)倫理學(xué)家希拉莉·薩克利夫[22]對負責(zé)任創(chuàng)新的理解,負責(zé)任創(chuàng)新首先表現(xiàn)為一種蘊含“創(chuàng)新發(fā)展+承擔(dān)責(zé)任”的發(fā)展理念,就其創(chuàng)新價值來看,負責(zé)任創(chuàng)新應(yīng)反映社會需求與意愿,反射社會價值與責(zé)任。就其創(chuàng)新管理來看,負責(zé)任創(chuàng)新應(yīng)考慮到技術(shù)創(chuàng)新可能對社會、環(huán)境與倫理造成的負面影響。因此,本研究從負責(zé)任創(chuàng)新的內(nèi)蘊出發(fā),采用NVivo11軟件對31份政策文本進行量化分析和質(zhì)性研究,得出如下結(jié)果:

    3.1基于負責(zé)任創(chuàng)新的政策主題詞分布首先,借鑒黃魯成[23]的觀點,選取10個最有代表性的表征負責(zé)任創(chuàng)新理念的關(guān)鍵詞:創(chuàng)新、安全、社會、責(zé)任、市場、治理、監(jiān)管、評估、協(xié)調(diào)、保障,作為研究人工智能產(chǎn)業(yè)政策的參考詞。其次,運用質(zhì)性數(shù)據(jù)分析方法對31份政策文本進行NVivo11高頻詞查詢,篩選出參考點數(shù)≥150的節(jié)點,剔除類似“核心、發(fā)展、推動、支持、鼓勵”等無明顯作用的詞語后,匯總整理出30個高頻詞作為人工智能產(chǎn)業(yè)政策關(guān)鍵詞(見表1)。比對代表人工智能產(chǎn)業(yè)政策的關(guān)鍵詞與表征負責(zé)任創(chuàng)新的關(guān)鍵詞,將重合的節(jié)點作為分析對象,得出如下結(jié)論:

    表1 人工智能產(chǎn)業(yè)政策關(guān)鍵詞

    a.從人工智能產(chǎn)業(yè)政策關(guān)鍵詞來看,“人工智能”與“技術(shù)”頻數(shù)最多,占比最高,可謂貫穿人工智能產(chǎn)業(yè)政策的始終,“產(chǎn)業(yè)”“運用”“企業(yè)”緊隨其后,這體現(xiàn)出人工智能政策決策的關(guān)注重點從人工智能技術(shù)突破向技術(shù)與產(chǎn)業(yè)融合、與場景應(yīng)用結(jié)合轉(zhuǎn)變。同時,頻數(shù)排名前5位的關(guān)鍵詞中并未出現(xiàn)表征負責(zé)任創(chuàng)新的關(guān)鍵詞,表明對負責(zé)任創(chuàng)新的注意力尚不明顯。b.從表征負責(zé)任創(chuàng)新的關(guān)鍵詞來看,“創(chuàng)新”出現(xiàn)的頻率最高,遠遠超過了其他主題詞。在表征人工智能負責(zé)任創(chuàng)新政策的主題詞中,“創(chuàng)新”最受重視。表明政策決策者已經(jīng)注意到傳統(tǒng)產(chǎn)業(yè)發(fā)展路徑已經(jīng)不能適應(yīng)高質(zhì)量發(fā)展需求,意識到技術(shù)創(chuàng)新是實現(xiàn)產(chǎn)業(yè)轉(zhuǎn)型升級和負責(zé)任發(fā)展的有效途徑。其次,“安全”頻次位居第二??梢妼Α鞍踩敝匾暢潭纫卜浅8?,表明人工智能產(chǎn)業(yè)政策制定者已經(jīng)考慮到人工智能安全議題,已經(jīng)認識到人工智能技術(shù)迅猛發(fā)展的今天,技術(shù)風(fēng)險與倫理危機是人工智能產(chǎn)業(yè)政策制定時考慮的重要因素。再次,“社會”“治理”“保障”“監(jiān)管”“責(zé)任”“協(xié)調(diào)”等關(guān)鍵詞均頻繁出現(xiàn),皆反映出政策制定者對人工智能技術(shù)風(fēng)險后果相當(dāng)?shù)闹匾?,表現(xiàn)出對人工智能風(fēng)險治理、社會議題、技術(shù)監(jiān)管、倫理責(zé)任、法律制度、利益相關(guān)者協(xié)調(diào)等方面的關(guān)注度較高。相比較而言,對“評估”方面關(guān)注略顯不足。c.比對二者發(fā)現(xiàn),“民生”“服務(wù)”“醫(yī)療”等詞語雖未在表征負責(zé)任創(chuàng)新的關(guān)鍵詞中出現(xiàn),但一定程度上也反映出政策制定者聚焦人民關(guān)注的熱點進行施政與布局,以滿足人民對美好生活向往的需求,這是人工智能負責(zé)任發(fā)展的重要前提和保障。

    綜上所述,可以看出“創(chuàng)新、安全、應(yīng)用”的發(fā)展道路是今后人工智能產(chǎn)業(yè)負責(zé)任發(fā)展的必然選擇。同時也應(yīng)進一步豐富負責(zé)任創(chuàng)新的文化價值內(nèi)涵,完善服務(wù)、民生、保障、責(zé)任的規(guī)則體系。

    3.2基于負責(zé)任創(chuàng)新的政策措施分析政策措施是政策內(nèi)容的重要組成部分?;贜Vivo11的矩陣編碼功能,對人工智能產(chǎn)業(yè)政策文本中的主要任務(wù)創(chuàng)建節(jié)點進行編碼,按照政策措施主題名稱篩選查驗,根據(jù)高頻關(guān)鍵詞的關(guān)聯(lián)度合并節(jié)點,形成政策措施的相關(guān)類別(見表2)。

    表2 人工智能產(chǎn)業(yè)政策的參考節(jié)點分布情況

    人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策措施主要分為以下六方面:一是促進人工智能民生場景應(yīng)用。從“應(yīng)用、民生、交通、醫(yī)療、教育”等關(guān)鍵詞語可以看出,人工智能負責(zé)任創(chuàng)新政策旨在強調(diào)人工智能技術(shù)與教育、醫(yī)療、健康等涉及民生產(chǎn)業(yè)深度融合,推進智能教育、智能醫(yī)療應(yīng)用、智能交通等應(yīng)用。二是促進傳統(tǒng)產(chǎn)業(yè)智能化轉(zhuǎn)型升級。實現(xiàn)人工智能產(chǎn)業(yè)化、應(yīng)用化是加快人工智能產(chǎn)業(yè)培育的重點任務(wù),更是人工智能產(chǎn)業(yè)負責(zé)任發(fā)展的目標(biāo)?!爱a(chǎn)業(yè)、創(chuàng)新、企業(yè)、制造、融合、市場”等詞語反映出人工智能產(chǎn)業(yè)政策中著內(nèi)含著促進智能技術(shù)與傳統(tǒng)產(chǎn)業(yè)融合,實現(xiàn)傳統(tǒng)產(chǎn)業(yè)結(jié)構(gòu)合理化和高級化等負責(zé)任發(fā)展的新舉措。此類政策措施既是對產(chǎn)業(yè)結(jié)構(gòu)優(yōu)化、轉(zhuǎn)型升級等難題的解決,也是對負責(zé)任創(chuàng)新理念的遵循。三是促進人工智能安全監(jiān)管與責(zé)任。“責(zé)任、治理、協(xié)同、協(xié)調(diào)、監(jiān)管、保障”等詞語體現(xiàn)政策制定者已經(jīng)充分認識到制定安全管理法規(guī)、人工智能倫理審查制度及透明監(jiān)管制度對人工智能目標(biāo)功能和技術(shù)突破雙重責(zé)任實現(xiàn)的重要性。四是促進人工智能增進社會福祉。推進人工智能產(chǎn)業(yè)目的在于建設(shè)安全便捷智能社會和高效智能基礎(chǔ)設(shè)施,最終造福于人民。但在智能技術(shù)場景化應(yīng)用過程中,不可避免地會造成一定程度的結(jié)構(gòu)性失業(yè)。而“社會、就業(yè)、服務(wù)、智能化、智慧”等詞語正好反映出人工智能產(chǎn)業(yè)政策已經(jīng)包含著促進工智能發(fā)展與社會結(jié)合,增加就業(yè)崗位、提升社會效益等負責(zé)任政策措施。五是促進人工智能技術(shù)安全風(fēng)險評估?!凹夹g(shù)、風(fēng)險、研發(fā)”等詞語表明政府注意力已經(jīng)關(guān)注到技術(shù)創(chuàng)新帶來的負面影響。囿于人工智能具有不可解釋、不可預(yù)測等不確定性,在技術(shù)設(shè)計、研發(fā)、使用、推廣等階段進行風(fēng)險評估是必要的。因此,政策中提到的構(gòu)建安全風(fēng)險評估及預(yù)警體系,既是規(guī)避技術(shù)創(chuàng)新活動中各類風(fēng)險的有效舉措,也是人工智能負責(zé)任發(fā)展應(yīng)有的題中之意。六是促進數(shù)據(jù)資源共享與隱私保護。隨著人工智能日益普及,安全隱私泄露已成為全社會共同關(guān)注的問題。因此在政策文本中不僅多次強調(diào)人工智能發(fā)展雖以龐大數(shù)據(jù)為基礎(chǔ),但不得以犧牲用戶隱私為代價,而且提出加強數(shù)據(jù)立法、建立信用體系、革新技術(shù)手段等保障用戶數(shù)據(jù)安全、強化信息隱私保護的具體措施。

    根據(jù)參考點和中心度數(shù)值可以看出,在表征負責(zé)任創(chuàng)新的六方面政策措施中,以促進人工智能民生場景應(yīng)用、促進傳統(tǒng)產(chǎn)業(yè)智能化轉(zhuǎn)型升級兩父節(jié)點政策措施比例最大,以促進人工智能增進社會福祉、促進數(shù)據(jù)資源共享與隱私保護的政策內(nèi)容較少。這表明政策制定者對人工智能場景應(yīng)用和產(chǎn)業(yè)融合已有清晰的負責(zé)任發(fā)展路線圖,對人工智能增進社會福祉、促進數(shù)據(jù)資源共享與隱私保護的政策關(guān)注較少,仍有待提高。

    3.3基于負責(zé)任創(chuàng)新的政策力度分析作為衡量政府重視程度的直接指標(biāo),政策力度的強弱通過政策層級和政策部門反映出來。政策層級越高或政策部門越權(quán)威,政策的法律效力、影響力和政策力度也越大。此外,發(fā)文數(shù)量及聯(lián)合發(fā)文情況在一定程度上也反映政策力度。對上述6個父節(jié)點的政策類型和政策部門開展矩陣編碼和交叉分析,揭示人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策的力度情況。結(jié)果如下:

    從政策發(fā)文數(shù)量來看:2015年以來,表征負責(zé)任創(chuàng)新的人工產(chǎn)業(yè)政策數(shù)量在部分年份有不均衡波動,但整體上呈現(xiàn)增長趨勢(見表3)。隨著“效益驅(qū)動”向“責(zé)任架構(gòu)”發(fā)展方式的轉(zhuǎn)變和產(chǎn)業(yè)變革及轉(zhuǎn)型升級的需求,政策制定者越來越肯定負責(zé)任創(chuàng)新是人工智能產(chǎn)業(yè)健康發(fā)展的重要舉措。就促進人工智能民生場景應(yīng)用和促進傳統(tǒng)產(chǎn)業(yè)智能化升級兩項政策而言,幾乎每一政策文本都有涉及,側(cè)面反映出政策力度趨于增大。

    表3 2015-2020年人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策發(fā)文數(shù)量

    從政策類型來看:占比最多的是規(guī)劃類和意見類政策,其次是報告類政策(見圖1)。借鑒仲為國[24]的觀點,法律、條例、規(guī)定、辦法、意見、規(guī)劃、通知、公告等文本類型的政策力度依次遞減。這表明當(dāng)前人工智能負責(zé)任創(chuàng)新政策中具有最高政策力度的法律法規(guī)及戰(zhàn)略綱要等政策明顯較少,整體呈現(xiàn)政策力度相對較弱的特征。其中,國務(wù)院于2017年7月頒布的《新一代人工智能發(fā)展規(guī)劃》位階最高,且對人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策的六個方面皆有體現(xiàn),政策措施分布均衡,負責(zé)任創(chuàng)新理念體現(xiàn)明顯。

    圖1 人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策措施與政策類型分布情況

    從政策發(fā)布機構(gòu)來看:a.數(shù)量由多到少依次為發(fā)改委、科技部、工信部、國務(wù)院、教育部、財政部(見圖2)。負責(zé)任創(chuàng)新政策措施主要分布在促進傳統(tǒng)產(chǎn)業(yè)智能化轉(zhuǎn)型升級、促進人工智能民生場景應(yīng)用、促進人工智能安全監(jiān)管與責(zé)任等三方面。b.政策機構(gòu)協(xié)同比例從2015年的0%上升至2020年的37.5.%,呈現(xiàn)出比較明顯的部門協(xié)同趨勢,說明人工智能產(chǎn)業(yè)政策的制定主體正由單一部門逐漸向相關(guān)聯(lián)合部門轉(zhuǎn)變,部門協(xié)同狀況逐漸增強。如《機器人產(chǎn)業(yè)發(fā)展規(guī)劃(2016-2020年)》由工信部、發(fā)改委、財政部三部委聯(lián)合發(fā)布,從技術(shù)標(biāo)準(zhǔn)、體制改革、資金投入等方面多管齊下,促進產(chǎn)業(yè)政策組織實施??傊?,人工智能產(chǎn)業(yè)政策力度呈持續(xù)增強趨勢。這一現(xiàn)象產(chǎn)生的原因主要是:目前對人工智能產(chǎn)業(yè)發(fā)展的管理和支持逐漸轉(zhuǎn)移到各部委,政策制定部門增加,政策措施趨于專業(yè)化和體系化,使得政策的可行性更強。但就聯(lián)合頒布政策比例來看,基本在30%左右,還不算太高。

    圖2 人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策措施與政策部門分布情況

    3.4基于負責(zé)任創(chuàng)新的政府注意力配置參考點數(shù)值頻次高低反映政策制定者對特定事務(wù)的關(guān)注程度即政府注意力配置問題。按照質(zhì)性分析三步驟編碼方法,對依據(jù)子節(jié)點矩陣形成的6個父節(jié)點進行凝練,提取背后的共性要素,發(fā)現(xiàn)促進人工智能民生場景應(yīng)用、促進人工智能增加社會福祉、促進傳統(tǒng)產(chǎn)業(yè)智能化轉(zhuǎn)型升級3個父節(jié)點側(cè)重強調(diào)人工智能產(chǎn)業(yè)發(fā)展應(yīng)符合人民意愿、滿足社會需求和體現(xiàn)社會價值。促進人工智能技術(shù)安全風(fēng)險評估父節(jié)點側(cè)重強調(diào)以技術(shù)創(chuàng)新、技術(shù)改造、技術(shù)評估作為化解風(fēng)險難題實現(xiàn)人工智能負責(zé)任發(fā)展的新動能。促進數(shù)據(jù)資源共享與隱私保護、促進人工智能安全監(jiān)管與責(zé)任父節(jié)點側(cè)重于以完善立法、管監(jiān)等制度、健全倫理規(guī)則作為實現(xiàn)人工智能負責(zé)任發(fā)展的新保障。依據(jù)三者內(nèi)在邏輯關(guān)系,形成以價值理念為引導(dǎo)、以技術(shù)攻關(guān)為支撐、以制度完善為保障的三個核心主范疇的脈絡(luò)架構(gòu)。這與根據(jù)政策文本的一級標(biāo)題編碼分析后,得到的“指導(dǎo)思想與基本原則”“建設(shè)目標(biāo)與建設(shè)任務(wù)”“組織實施與保障措施”政策相似性聚類高度契合。因而,可以初步得到以下推論:

    人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策反映了政府注意力配置集中于價值、技術(shù)、制度等三方面導(dǎo)向,即旨在通過價值引領(lǐng)、技術(shù)工具、制度體系來實現(xiàn)人工智能產(chǎn)業(yè)負責(zé)任發(fā)展。a.價值引領(lǐng)是當(dāng)前政府機構(gòu)規(guī)劃和引領(lǐng)人工智能負責(zé)任發(fā)展的主要方式,集中體現(xiàn)在堅持以人民為中心、堅持科技造福人類的價值理念上。在人工智能產(chǎn)業(yè)研發(fā)方面,提倡以有益于增進社會與生態(tài)的福祉,服從人類整體利益為價值旨歸,發(fā)展符合人類價值觀和倫理道德的人工智能,防止人工智能出現(xiàn)反人類的傾向。在人工智能產(chǎn)業(yè)成果應(yīng)用方面,提倡善用和慎用,避免誤用,禁止濫用、惡用,將人工智能技術(shù)的正向價值最大化、將其可能造成的風(fēng)險最小化。通過人工智能政策引導(dǎo)、鼓勵人工智能應(yīng)用于民生領(lǐng)域的場景。在人工智能道德治理方面,對人工智能部分替代人類工作保持包容和謹慎態(tài)度,鼓勵探索更能發(fā)揮人類優(yōu)勢和特點的新工作,并確保未來人工智能始終保持向?qū)ι鐣幸娴姆较虬l(fā)展。b.技術(shù)工具已經(jīng)成為政府機構(gòu)貫徹人工智能產(chǎn)業(yè)負責(zé)任發(fā)展的重要武器。一方面,人工智能核心技術(shù)的研發(fā)與突破是實現(xiàn)人工智能能夠應(yīng)用于民生場景、與產(chǎn)業(yè)融合應(yīng)用的基本前提,是推進人工智能應(yīng)用化、產(chǎn)業(yè)化的重要保障,是人工智能產(chǎn)業(yè)負責(zé)任發(fā)展的主要目標(biāo)。另一方面,人工智能核心技術(shù)的研發(fā)與突破是實現(xiàn)風(fēng)險評估和安全監(jiān)管的關(guān)鍵技術(shù)支撐。通過技術(shù)創(chuàng)新、技術(shù)評估等手段對人工智能所涉及產(chǎn)品及系統(tǒng)的復(fù)雜性、風(fēng)險性、不確定性等可能對社會產(chǎn)生的影響進行客觀公正的評估,以盡可能的規(guī)避風(fēng)險。c.制度體系建設(shè)已經(jīng)成為政府機構(gòu)落實人工智能負責(zé)任發(fā)展的重要方式,日漸受到政府機構(gòu)的重視。為確保人工智能安全可靠可控和促進人工智能產(chǎn)業(yè)健康發(fā)展,政策制定者需要從立法制度、倫理審查制度、監(jiān)管制度、問責(zé)制度等層面對做出明確規(guī)定,為人工智能產(chǎn)業(yè)負責(zé)任發(fā)展提供制度基礎(chǔ)和行動指南。

    綜上所述,根據(jù)核心主范疇總體參考點數(shù)值來看,人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新政策的價值維度導(dǎo)向優(yōu)先于技術(shù)維度和制度維度導(dǎo)向。

    4 研究結(jié)論與對策建議

    4.1主要結(jié)論本研究基于負責(zé)任創(chuàng)新理論,分析解構(gòu)了我國31份國家層面的人工智能產(chǎn)業(yè)政策,從政策主題詞、政策措施、政策力度、政府注意力配置等四維度對負責(zé)任創(chuàng)新理念落實情況進行評價和分析,得出主要結(jié)論如下:

    a.人工智能產(chǎn)業(yè)政策中蘊含著負責(zé)任創(chuàng)新理念,但負責(zé)任創(chuàng)新舉措分布不平衡。“創(chuàng)新”與“安全”是幾乎所有政策文本之共識,體現(xiàn)出負責(zé)任創(chuàng)新內(nèi)容在人工智能產(chǎn)業(yè)政策中占據(jù)一定地位,反映出創(chuàng)新發(fā)展、安全發(fā)展理念愈加凸顯。但負責(zé)任創(chuàng)新政策的具體措施分布不夠均衡。“服務(wù)”“應(yīng)用”“社會”等詞語的關(guān)注度較高,表明強調(diào)促進人工智能民生場景應(yīng)用、促進增進社會福祉等承擔(dān)社會責(zé)任的政策措施較多。“責(zé)任”“監(jiān)管”“評估”的代表詞頻數(shù)略顯不足,表明在人工智產(chǎn)業(yè)發(fā)展中對責(zé)任的逐級落實、監(jiān)管評價的嚴(yán)格執(zhí)行、技術(shù)評估的前瞻考慮等方面關(guān)注度仍有所欠缺。

    b.人工智能產(chǎn)業(yè)政策中形成了“價值+技術(shù)+制度”三輪驅(qū)動為導(dǎo)向的負責(zé)任創(chuàng)新發(fā)展體系。價值引領(lǐng)體現(xiàn)著人工智能產(chǎn)業(yè)負責(zé)任發(fā)展的倫理價值傾向性和社會期許性;技術(shù)工具是推動人工智能產(chǎn)業(yè)安全可控發(fā)展的根本途徑;制度建設(shè)則為人工智能產(chǎn)業(yè)負責(zé)任發(fā)展提供高效的治理體系和法治保障,三者有機聯(lián)系、相互促進,形成人工智能產(chǎn)業(yè)負責(zé)任發(fā)展合力。

    c.人工智能產(chǎn)業(yè)政策平均力度有待提高。一方面,從政策類型來看,限于行政層級,頒布的大多是實施期限較短、政策力度較低的意見、通知等政策類型,難以從根本上提高政策的執(zhí)行力度和實施效果,政策帶動性和引導(dǎo)性不強。另一方面,從政策發(fā)布部門來看,聯(lián)合發(fā)布不多,政策發(fā)布主要以發(fā)改委、工信部、科技部單一部門發(fā)布為主,部門間協(xié)同不足,導(dǎo)致政策措施效力不足。

    4.2對策建議負責(zé)任創(chuàng)新發(fā)展是未來人工智能產(chǎn)業(yè)發(fā)展的重要舉措,是解決人工智能產(chǎn)業(yè)發(fā)展中法律、倫理、社會等風(fēng)險問題的重要抓手。為繼續(xù)落實負責(zé)任發(fā)展理念在人工智能產(chǎn)業(yè)政策的應(yīng)用,提出以下對策建議:

    a.加強政策發(fā)布主體的負責(zé)任意識。政策制定者作為引導(dǎo)人工智能產(chǎn)業(yè)發(fā)展的關(guān)鍵主體,應(yīng)加強技術(shù)倫理價值觀和負責(zé)任創(chuàng)新理念,將負責(zé)任創(chuàng)新納入人工智能產(chǎn)業(yè)政策框架,從負責(zé)任創(chuàng)新視角去布局、調(diào)整、評估、優(yōu)化人工智能產(chǎn)業(yè)創(chuàng)新活動,以負責(zé)任創(chuàng)新能力完善人工智能產(chǎn)業(yè)政策體系。具體講,一方面,政策發(fā)布主體應(yīng)充分考慮技術(shù)政策的公眾期望、社會需要與倫理價值,將“創(chuàng)新、安全、服務(wù)”等理念納入人工智能產(chǎn)業(yè)創(chuàng)新全過程,將智能技術(shù)與民生場景、就業(yè)發(fā)展、社會價值、安全保障相結(jié)合,并對人工智能可能引發(fā)的法律、倫理、社會議題進行責(zé)任取向的價值引導(dǎo)。另一方面,政策發(fā)布主體應(yīng)通過政策制度化設(shè)計來保障負責(zé)任創(chuàng)新理念的貫徹與實施,并培育和營造經(jīng)濟效益和社會效益并重的產(chǎn)業(yè)氛圍。人工智能產(chǎn)業(yè)需要改革發(fā)展模式,由單純“經(jīng)濟驅(qū)動”的創(chuàng)新手段轉(zhuǎn)變?yōu)椤柏?zé)任架構(gòu)”的共同承擔(dān)集體責(zé)任的創(chuàng)新發(fā)展,由經(jīng)濟效率至上轉(zhuǎn)向倫理價值優(yōu)先。

    b.優(yōu)化負責(zé)任創(chuàng)新政策措施的結(jié)構(gòu)。在人工智能產(chǎn)業(yè)負責(zé)任創(chuàng)新的六方面政策措施中,以促進人工智能民生場景應(yīng)用、促進傳統(tǒng)產(chǎn)業(yè)智能化轉(zhuǎn)型升級占比較多,其余四項較少。促進人工智能增進社會福祉、促進人工智能技術(shù)安全風(fēng)險評估、促進數(shù)據(jù)資源共享與隱私保護是人工智能產(chǎn)業(yè)負責(zé)任發(fā)展必不可少的三個方面,促進人工智能安全監(jiān)管與責(zé)任則是其重要的制度保證和核心驅(qū)動因素。這六方面政策措施并不相互排斥,是可以通過均衡布局,良好協(xié)同,形成相互促進負責(zé)任政策體系的有機整體。為此,人工智能產(chǎn)業(yè)政策制定者應(yīng)加強促進人工智能安全監(jiān)管與責(zé)任,完善負責(zé)任創(chuàng)新政策的制度保障體系;加強促進人工智能技術(shù)安全風(fēng)險評估和促進數(shù)據(jù)資源共享與隱私保護,保證和激發(fā)技術(shù)、數(shù)據(jù)要素流通活力;加強促進人工智能增進社會福祉,強化智能社會基礎(chǔ)實施建設(shè)和實現(xiàn)就業(yè)。最后挖掘各政策政策措施間的互動機理,從不同維度完善政策體系和優(yōu)化政策結(jié)構(gòu)。

    c.注重不同政策部門間的協(xié)同配合。負責(zé)任創(chuàng)新政策力度的強弱直接影響著對負責(zé)任創(chuàng)新理念的貫徹落實。人工智能產(chǎn)業(yè)政策數(shù)量雖不斷增加,但其政策總力度仍有待提升。一方面應(yīng)強化部門職權(quán),提高人工智能產(chǎn)業(yè)政策力度。工信部、科技部作為人工智能產(chǎn)業(yè)政策制定核心部門,應(yīng)強化其部門職權(quán),增大政策的力度,引導(dǎo)其帶動其他部門有效實現(xiàn)長期協(xié)同。另一方面應(yīng)加強各部門間的協(xié)同。人工智能產(chǎn)業(yè)發(fā)展與多個部門息息相關(guān),在加強核心主導(dǎo)部門職權(quán)的同時放大其他部門的事權(quán),鼓勵其他部門如發(fā)改委、財政部、教育部等最大限度結(jié)合本部門特點去更好落實負責(zé)任創(chuàng)新。此外,為了能夠充分發(fā)揮政策協(xié)同的作用,政府還應(yīng)增加宏觀系統(tǒng)性、戰(zhàn)略性人工智能產(chǎn)業(yè)政策的頒布與實施,并繼續(xù)鼓勵相關(guān)部門積極參與到聯(lián)合頒布政策中來。

    d.探索人工智能負責(zé)任創(chuàng)新的其他路徑。負責(zé)任創(chuàng)新理念為應(yīng)對人工智能技術(shù)風(fēng)險提供了一個具有可操作性的路徑。一是將負責(zé)任創(chuàng)新提升到國家發(fā)展戰(zhàn)略高度并納入創(chuàng)新驅(qū)動發(fā)展框架體系,使人工智能產(chǎn)業(yè)發(fā)展模式由經(jīng)濟效率優(yōu)先向創(chuàng)新質(zhì)量、社會效益優(yōu)先轉(zhuǎn)變。二是將政府、技術(shù)設(shè)計者研發(fā)者、企業(yè)、消費者等納入人工智能產(chǎn)業(yè)技術(shù)負責(zé)任創(chuàng)新的主體范疇,各利益相關(guān)者群體共同參與來強化政策的責(zé)任導(dǎo)向,構(gòu)建責(zé)任共享與共擔(dān)機制,使政策決策主體由單一的政府向社會多方參與轉(zhuǎn)變。三是將遠景評估、建構(gòu)評估、實時評估等方法納入人工智能技術(shù)創(chuàng)新前瞻性評估體系中,構(gòu)建技術(shù)評估反饋機制,使技術(shù)風(fēng)險管控由事后法律追責(zé)向前瞻預(yù)警轉(zhuǎn)變。四是除法律制度、倫理規(guī)則、倫理審查等外,應(yīng)將管理保障、激勵創(chuàng)新等納入責(zé)任倫理體系中,使政策措施由信念倫理向科技倫理制度化建設(shè)轉(zhuǎn)變。

    4.3不足與展望本研究的局限在于:a.學(xué)界對負責(zé)任創(chuàng)新的特征和內(nèi)涵尚未完全形成共識,因而本文選取的表征負責(zé)任創(chuàng)新關(guān)鍵詞存在一定的局限性,其全面性、普適性、適應(yīng)性有待進一步檢驗。b.在數(shù)據(jù)來源方面,本研究僅選取2015-2020年國家層面出臺的與人工智能產(chǎn)業(yè)直接相關(guān)的指導(dǎo)類、規(guī)劃類政策文件,一方面可能會遺漏一些非官方或沒有正式發(fā)表的中央領(lǐng)導(dǎo)講話;另一方面缺乏對地方及企業(yè)方便相關(guān)政策的分析,未對產(chǎn)業(yè)和企業(yè)的負責(zé)任創(chuàng)新實踐展開探討。因此,未來研究還需在進一步論證負責(zé)任創(chuàng)新關(guān)鍵詞構(gòu)成及機理的基礎(chǔ)上,豐富和拓展其內(nèi)涵。此外,應(yīng)引入地方政府及企業(yè)等研究數(shù)據(jù)開展交叉研究,以期對現(xiàn)有研究結(jié)論進行補充和完善。

    猜你喜歡
    人工智能發(fā)展
    我校新增“人工智能”本科專業(yè)
    邁上十四五發(fā)展“新跑道”,打好可持續(xù)發(fā)展的“未來牌”
    中國核電(2021年3期)2021-08-13 08:56:36
    從HDMI2.1與HDCP2.3出發(fā),思考8K能否成為超高清發(fā)展的第二階段
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    砥礪奮進 共享發(fā)展
    華人時刊(2017年21期)2018-01-31 02:24:01
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    改性瀝青的應(yīng)用與發(fā)展
    北方交通(2016年12期)2017-01-15 13:52:53
    下一幕,人工智能!
    下一幕,人工智能!
    色吧在线观看| 日本黄色日本黄色录像| 久久久久久久大尺度免费视频| 国产精品熟女久久久久浪| 亚洲欧洲日产国产| 七月丁香在线播放| 国产熟女午夜一区二区三区| 如日韩欧美国产精品一区二区三区| 国产极品天堂在线| 精品免费久久久久久久清纯 | 亚洲熟女精品中文字幕| 成人毛片60女人毛片免费| 国产av码专区亚洲av| 国产精品一区二区精品视频观看| 欧美日韩国产mv在线观看视频| 国产精品无大码| 深夜精品福利| 看免费成人av毛片| 久热爱精品视频在线9| 国产97色在线日韩免费| 2018国产大陆天天弄谢| 日本黄色日本黄色录像| 久久久欧美国产精品| 精品亚洲乱码少妇综合久久| 狠狠精品人妻久久久久久综合| 亚洲精品在线美女| 亚洲成人一二三区av| 久久久久久免费高清国产稀缺| 啦啦啦啦在线视频资源| 超碰97精品在线观看| 激情视频va一区二区三区| 少妇 在线观看| 五月天丁香电影| 亚洲综合精品二区| 中文字幕av电影在线播放| 国产视频首页在线观看| 久久影院123| 观看美女的网站| 亚洲在久久综合| 国产日韩欧美视频二区| 亚洲成人手机| 美女扒开内裤让男人捅视频| 91国产中文字幕| 国产精品av久久久久免费| 不卡视频在线观看欧美| 精品国产一区二区三区四区第35| 久久久久久人妻| 女的被弄到高潮叫床怎么办| 在线 av 中文字幕| 丰满迷人的少妇在线观看| 国产成人免费观看mmmm| 街头女战士在线观看网站| 黑丝袜美女国产一区| 国产成人精品福利久久| 女性生殖器流出的白浆| av有码第一页| 香蕉丝袜av| 国产免费福利视频在线观看| 婷婷色麻豆天堂久久| 国产熟女午夜一区二区三区| 日本vs欧美在线观看视频| 欧美日韩福利视频一区二区| 中文字幕人妻丝袜一区二区 | 天天躁夜夜躁狠狠久久av| 在线天堂最新版资源| 中文字幕另类日韩欧美亚洲嫩草| 人体艺术视频欧美日本| 热99久久久久精品小说推荐| 青春草视频在线免费观看| 午夜福利一区二区在线看| 国产精品国产av在线观看| 中文字幕人妻丝袜一区二区 | www.熟女人妻精品国产| √禁漫天堂资源中文www| 制服人妻中文乱码| 校园人妻丝袜中文字幕| 亚洲国产欧美网| av不卡在线播放| 国产 精品1| 国产一区亚洲一区在线观看| 777米奇影视久久| 欧美在线一区亚洲| 99国产综合亚洲精品| 午夜福利一区二区在线看| 国产精品久久久久久精品古装| www.自偷自拍.com| 国产1区2区3区精品| 可以免费在线观看a视频的电影网站 | 日韩伦理黄色片| 18在线观看网站| 亚洲色图 男人天堂 中文字幕| 亚洲欧洲国产日韩| 最近最新中文字幕免费大全7| 日韩av免费高清视频| 色视频在线一区二区三区| 91精品国产国语对白视频| 亚洲成人手机| 亚洲一区中文字幕在线| 日韩一区二区三区影片| 韩国av在线不卡| 最近的中文字幕免费完整| 国产一级毛片在线| 午夜激情av网站| 男男h啪啪无遮挡| 卡戴珊不雅视频在线播放| 欧美久久黑人一区二区| 成人国产av品久久久| 国产精品久久久人人做人人爽| 久久国产精品男人的天堂亚洲| 国产亚洲精品第一综合不卡| 午夜福利视频在线观看免费| 亚洲av成人不卡在线观看播放网 | 亚洲中文av在线| 国产一卡二卡三卡精品 | www.av在线官网国产| 免费高清在线观看日韩| 满18在线观看网站| 国产 一区精品| 亚洲精品乱久久久久久| 丰满乱子伦码专区| 中文字幕高清在线视频| 午夜福利视频精品| 亚洲成人手机| 免费日韩欧美在线观看| 在线观看www视频免费| 丝袜脚勾引网站| 自线自在国产av| 在线亚洲精品国产二区图片欧美| 丁香六月天网| 欧美激情 高清一区二区三区| 国产在线免费精品| 五月开心婷婷网| 老司机影院毛片| 肉色欧美久久久久久久蜜桃| 国产精品偷伦视频观看了| 成人国产av品久久久| 香蕉国产在线看| av片东京热男人的天堂| 久久午夜综合久久蜜桃| av国产久精品久网站免费入址| 少妇 在线观看| 伊人久久大香线蕉亚洲五| 国产亚洲精品第一综合不卡| 人妻 亚洲 视频| 男人舔女人的私密视频| 免费黄网站久久成人精品| 亚洲欧美精品综合一区二区三区| 亚洲专区中文字幕在线 | 国产有黄有色有爽视频| 捣出白浆h1v1| 欧美日韩一区二区视频在线观看视频在线| 免费少妇av软件| 19禁男女啪啪无遮挡网站| 国产精品麻豆人妻色哟哟久久| 国产xxxxx性猛交| 无遮挡黄片免费观看| 精品人妻在线不人妻| 捣出白浆h1v1| 亚洲国产精品一区二区三区在线| 中文欧美无线码| 日韩一卡2卡3卡4卡2021年| 国产视频首页在线观看| 久久青草综合色| 热99国产精品久久久久久7| 国产成人欧美| 久热这里只有精品99| 国产在线视频一区二区| 免费观看av网站的网址| bbb黄色大片| 久久久久久久精品精品| www日本在线高清视频| 国产免费一区二区三区四区乱码| 亚洲成人手机| av卡一久久| 亚洲国产最新在线播放| 丝袜美足系列| 精品国产国语对白av| 免费在线观看视频国产中文字幕亚洲 | 高清欧美精品videossex| 欧美精品亚洲一区二区| 黄色视频在线播放观看不卡| 一区二区三区乱码不卡18| netflix在线观看网站| 91精品伊人久久大香线蕉| 一区二区三区乱码不卡18| 久久久久网色| 国产精品久久久久久久久免| 天天影视国产精品| 女性生殖器流出的白浆| 欧美精品人与动牲交sv欧美| 亚洲美女黄色视频免费看| 69精品国产乱码久久久| 高清av免费在线| 黑人欧美特级aaaaaa片| 日本av手机在线免费观看| 欧美另类一区| 亚洲av电影在线观看一区二区三区| 在线观看免费高清a一片| 国产 精品1| 日日啪夜夜爽| 日韩欧美一区视频在线观看| 久热这里只有精品99| 国产免费现黄频在线看| 超色免费av| 成年女人毛片免费观看观看9 | 婷婷色av中文字幕| 美女中出高潮动态图| 免费观看av网站的网址| 99热国产这里只有精品6| 国产亚洲午夜精品一区二区久久| 又黄又粗又硬又大视频| 18禁动态无遮挡网站| 国产午夜精品一二区理论片| 亚洲成人国产一区在线观看 | 亚洲精品一区蜜桃| av视频免费观看在线观看| 在线观看一区二区三区激情| 久久久久久久久久久免费av| 69精品国产乱码久久久| 国产熟女午夜一区二区三区| 成年女人毛片免费观看观看9 | 午夜日本视频在线| 亚洲av国产av综合av卡| bbb黄色大片| 国产精品三级大全| www日本在线高清视频| 亚洲av在线观看美女高潮| 人人妻人人爽人人添夜夜欢视频| 在线看a的网站| 操出白浆在线播放| 成人18禁高潮啪啪吃奶动态图| 2021少妇久久久久久久久久久| 九九爱精品视频在线观看| 熟女av电影| 国产成人精品久久久久久| 国产成人免费观看mmmm| 国产精品女同一区二区软件| 我要看黄色一级片免费的| 在线亚洲精品国产二区图片欧美| 男女床上黄色一级片免费看| 国产av精品麻豆| 免费人妻精品一区二区三区视频| 制服诱惑二区| 日韩av免费高清视频| 久久久久久久精品精品| 色婷婷久久久亚洲欧美| 18禁动态无遮挡网站| 男女无遮挡免费网站观看| 久久精品人人爽人人爽视色| 亚洲国产欧美一区二区综合| 国产麻豆69| 中文字幕av电影在线播放| 亚洲欧美一区二区三区国产| 97精品久久久久久久久久精品| 超碰97精品在线观看| av在线老鸭窝| 男女床上黄色一级片免费看| 黑丝袜美女国产一区| 如日韩欧美国产精品一区二区三区| 久久久久国产一级毛片高清牌| 中文字幕精品免费在线观看视频| 亚洲av在线观看美女高潮| 一本一本久久a久久精品综合妖精| 午夜日本视频在线| 美女扒开内裤让男人捅视频| 777久久人妻少妇嫩草av网站| 国产精品香港三级国产av潘金莲 | tube8黄色片| 热99久久久久精品小说推荐| 99国产综合亚洲精品| 街头女战士在线观看网站| 大码成人一级视频| 国产免费一区二区三区四区乱码| 亚洲专区中文字幕在线 | 爱豆传媒免费全集在线观看| 综合色丁香网| 一边摸一边抽搐一进一出视频| 一个人免费看片子| 免费观看人在逋| 亚洲免费av在线视频| 亚洲欧美一区二区三区久久| 人人妻,人人澡人人爽秒播 | 亚洲精品中文字幕在线视频| 18禁国产床啪视频网站| 久久天躁狠狠躁夜夜2o2o | 女人精品久久久久毛片| 亚洲国产最新在线播放| 纯流量卡能插随身wifi吗| 美女视频免费永久观看网站| 19禁男女啪啪无遮挡网站| 老司机影院毛片| 亚洲成国产人片在线观看| 在线观看三级黄色| 国产精品久久久久成人av| 最近的中文字幕免费完整| 九九爱精品视频在线观看| 黑人巨大精品欧美一区二区蜜桃| www.av在线官网国产| 满18在线观看网站| 在线观看免费午夜福利视频| 色视频在线一区二区三区| 欧美日韩av久久| 黑人巨大精品欧美一区二区蜜桃| 久久久国产精品麻豆| 日韩制服骚丝袜av| 久久精品亚洲熟妇少妇任你| 丝袜喷水一区| 国产av精品麻豆| 日韩中文字幕视频在线看片| 天天躁日日躁夜夜躁夜夜| 一个人免费看片子| 男女免费视频国产| 欧美中文综合在线视频| 亚洲欧美中文字幕日韩二区| 国产不卡av网站在线观看| 美女大奶头黄色视频| 丰满迷人的少妇在线观看| 丝瓜视频免费看黄片| 中文字幕人妻丝袜制服| 爱豆传媒免费全集在线观看| 校园人妻丝袜中文字幕| 曰老女人黄片| 国产乱人偷精品视频| 黄片小视频在线播放| 国产精品一区二区在线观看99| 亚洲av中文av极速乱| 大片电影免费在线观看免费| 五月天丁香电影| 巨乳人妻的诱惑在线观看| 久久人妻熟女aⅴ| 色吧在线观看| 午夜福利影视在线免费观看| 日韩精品免费视频一区二区三区| 亚洲男人天堂网一区| 天天操日日干夜夜撸| 18禁裸乳无遮挡动漫免费视频| 天天躁日日躁夜夜躁夜夜| 乱人伦中国视频| 久久久久久人妻| 国产一区有黄有色的免费视频| 亚洲中文av在线| 青草久久国产| 两个人看的免费小视频| 色婷婷久久久亚洲欧美| 新久久久久国产一级毛片| www.av在线官网国产| 色吧在线观看| 97人妻天天添夜夜摸| 欧美激情 高清一区二区三区| 观看av在线不卡| netflix在线观看网站| 国产日韩欧美在线精品| 国产黄色免费在线视频| 我的亚洲天堂| 涩涩av久久男人的天堂| 国产女主播在线喷水免费视频网站| 亚洲熟女精品中文字幕| 大片电影免费在线观看免费| 亚洲四区av| 免费看不卡的av| 国产免费现黄频在线看| 美女主播在线视频| 99久久综合免费| 久久久久久久国产电影| 亚洲av日韩精品久久久久久密 | 天天影视国产精品| 婷婷色麻豆天堂久久| 亚洲精品久久午夜乱码| 伊人久久国产一区二区| 男女免费视频国产| 制服人妻中文乱码| 伊人久久大香线蕉亚洲五| 国产福利在线免费观看视频| 777米奇影视久久| 老司机亚洲免费影院| 蜜桃在线观看..| 91国产中文字幕| 在线观看免费高清a一片| 男女无遮挡免费网站观看| 叶爱在线成人免费视频播放| 最黄视频免费看| 精品久久久精品久久久| 国产一级毛片在线| 欧美日韩一区二区视频在线观看视频在线| bbb黄色大片| 色视频在线一区二区三区| 亚洲精品国产区一区二| 久久毛片免费看一区二区三区| 最黄视频免费看| 成人影院久久| 嫩草影视91久久| 19禁男女啪啪无遮挡网站| 久久精品亚洲av国产电影网| 久久热在线av| 女人被躁到高潮嗷嗷叫费观| 18禁国产床啪视频网站| 日本av免费视频播放| 日韩欧美精品免费久久| 赤兔流量卡办理| 美女主播在线视频| 日韩免费高清中文字幕av| 考比视频在线观看| 精品国产乱码久久久久久小说| netflix在线观看网站| 久久狼人影院| 亚洲天堂av无毛| 一级毛片我不卡| 国产一卡二卡三卡精品 | 男女边吃奶边做爰视频| 狠狠精品人妻久久久久久综合| 51午夜福利影视在线观看| 久久久久人妻精品一区果冻| 女人被躁到高潮嗷嗷叫费观| 狠狠婷婷综合久久久久久88av| 一区二区av电影网| 超碰成人久久| 国产色婷婷99| 国产精品久久久久久人妻精品电影 | 日韩 欧美 亚洲 中文字幕| 午夜福利网站1000一区二区三区| 久久久久人妻精品一区果冻| 国产欧美日韩一区二区三区在线| 女性生殖器流出的白浆| 国产精品亚洲av一区麻豆 | 精品视频人人做人人爽| 亚洲欧美一区二区三区黑人| 日本wwww免费看| 亚洲婷婷狠狠爱综合网| 波多野结衣av一区二区av| 国产精品偷伦视频观看了| av国产精品久久久久影院| tube8黄色片| 欧美人与性动交α欧美精品济南到| 亚洲欧美一区二区三区久久| 考比视频在线观看| 人人妻人人澡人人看| 女性被躁到高潮视频| 久久亚洲国产成人精品v| 国产成人免费观看mmmm| 亚洲av综合色区一区| 国产女主播在线喷水免费视频网站| 国产片内射在线| 青春草国产在线视频| 夫妻性生交免费视频一级片| 中文精品一卡2卡3卡4更新| 国产成人欧美| 欧美日韩亚洲综合一区二区三区_| 国产精品欧美亚洲77777| 男人舔女人的私密视频| 汤姆久久久久久久影院中文字幕| 卡戴珊不雅视频在线播放| av线在线观看网站| 亚洲激情五月婷婷啪啪| 天天躁日日躁夜夜躁夜夜| 国产成人一区二区在线| 亚洲精品国产一区二区精华液| 精品国产超薄肉色丝袜足j| 亚洲中文av在线| 看免费av毛片| 在线观看一区二区三区激情| 久久久精品国产亚洲av高清涩受| 久热爱精品视频在线9| 亚洲人成77777在线视频| 亚洲情色 制服丝袜| 国产又爽黄色视频| 极品人妻少妇av视频| 青春草亚洲视频在线观看| 欧美亚洲日本最大视频资源| 国产在线免费精品| 在线观看国产h片| 亚洲美女搞黄在线观看| 国产伦人伦偷精品视频| 国产免费一区二区三区四区乱码| 一级爰片在线观看| 亚洲一区二区三区欧美精品| 在线 av 中文字幕| 午夜免费男女啪啪视频观看| 两性夫妻黄色片| 久久久久网色| 亚洲,欧美精品.| 国产97色在线日韩免费| 激情视频va一区二区三区| 老鸭窝网址在线观看| 亚洲婷婷狠狠爱综合网| 亚洲成人国产一区在线观看 | 国产精品一国产av| 一级黄片播放器| 国产女主播在线喷水免费视频网站| 99久久综合免费| 十八禁网站网址无遮挡| 一级毛片电影观看| 日韩视频在线欧美| 色婷婷av一区二区三区视频| 啦啦啦啦在线视频资源| 伊人亚洲综合成人网| 欧美人与性动交α欧美软件| 成人免费观看视频高清| 日本av手机在线免费观看| 欧美老熟妇乱子伦牲交| 国产精品欧美亚洲77777| 日日啪夜夜爽| 性少妇av在线| 极品少妇高潮喷水抽搐| 亚洲欧美成人综合另类久久久| 久久久久久人人人人人| 成人黄色视频免费在线看| 秋霞在线观看毛片| 精品免费久久久久久久清纯 | 黄色视频不卡| 又粗又硬又长又爽又黄的视频| 九九爱精品视频在线观看| 久久99精品国语久久久| 最近手机中文字幕大全| 成年人免费黄色播放视频| 久久久精品94久久精品| 无遮挡黄片免费观看| 在线观看免费午夜福利视频| 麻豆乱淫一区二区| 人成视频在线观看免费观看| 美国免费a级毛片| 女人久久www免费人成看片| 91老司机精品| 考比视频在线观看| 午夜激情久久久久久久| 精品亚洲成国产av| 成人国产麻豆网| 久久久精品区二区三区| 日韩人妻精品一区2区三区| 亚洲欧美清纯卡通| 伦理电影大哥的女人| 国产精品女同一区二区软件| 午夜福利一区二区在线看| 日本猛色少妇xxxxx猛交久久| 日本91视频免费播放| 一区二区av电影网| 亚洲精品国产av蜜桃| 久久性视频一级片| 国产黄色视频一区二区在线观看| 在线天堂最新版资源| 一本大道久久a久久精品| 精品国产乱码久久久久久男人| 9191精品国产免费久久| 亚洲成色77777| 一二三四中文在线观看免费高清| 国产探花极品一区二区| 久久综合国产亚洲精品| 欧美黄色片欧美黄色片| 久久午夜综合久久蜜桃| 亚洲欧美成人精品一区二区| 中文字幕最新亚洲高清| 亚洲精华国产精华液的使用体验| 欧美另类一区| kizo精华| 人人澡人人妻人| 亚洲成av片中文字幕在线观看| 在线观看国产h片| 赤兔流量卡办理| 国产片内射在线| 青春草视频在线免费观看| 亚洲免费av在线视频| 国产在线一区二区三区精| 亚洲美女视频黄频| 成年av动漫网址| 久久久精品国产亚洲av高清涩受| 日韩制服丝袜自拍偷拍| 久久久精品国产亚洲av高清涩受| 久久久久久人妻| 人人妻人人澡人人看| 久久久久久人人人人人| 别揉我奶头~嗯~啊~动态视频 | 欧美精品一区二区大全| 亚洲国产精品成人久久小说| 电影成人av| 黄网站色视频无遮挡免费观看| 大香蕉久久成人网| 婷婷色av中文字幕| 波多野结衣一区麻豆| 欧美 日韩 精品 国产| 婷婷色综合大香蕉| 丝瓜视频免费看黄片| 精品一区二区免费观看| 涩涩av久久男人的天堂| 日韩大片免费观看网站| 无遮挡黄片免费观看| 久久久久视频综合| 在线观看一区二区三区激情| 精品午夜福利在线看| h视频一区二区三区| 欧美少妇被猛烈插入视频| 热99久久久久精品小说推荐| 午夜免费鲁丝| 欧美最新免费一区二区三区| 国产精品久久久久成人av| 精品国产一区二区三区久久久樱花| 国产免费视频播放在线视频| 99精国产麻豆久久婷婷| 无限看片的www在线观看| 最近中文字幕2019免费版| 亚洲国产欧美网| 交换朋友夫妻互换小说| av女优亚洲男人天堂| 亚洲欧美精品自产自拍| 免费在线观看视频国产中文字幕亚洲 | 精品一区二区免费观看| 成年av动漫网址| 亚洲欧洲国产日韩| 嫩草影视91久久| 成人三级做爰电影| 国产精品香港三级国产av潘金莲 | 视频区图区小说| 十八禁高潮呻吟视频| e午夜精品久久久久久久| 欧美av亚洲av综合av国产av | av在线app专区| 国产精品人妻久久久影院|