• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    中國人工智能領先之源:基于ROAR創(chuàng)新政策框架

    2021-09-24 20:54:51張海豐沈天洋
    財經問題研究 2021年9期
    關鍵詞:通用技術技術人工智能

    張海豐 沈天洋

    摘 要:人工智能具備通用技術的諸多特征,使其很有可能成為新一輪科技革命和產業(yè)變革的助推器,從而開啟新一輪經濟長波。當前正處于第六次技術革命浪潮的導入期,人工智能的技術軌道還未成型,這是中國引領該技術發(fā)展的絕佳機會。中國的人工智能應用場景和數據資源豐富,具備發(fā)展人工智能技術的優(yōu)勢,但也面臨諸多挑戰(zhàn)。筆者基于ROAR創(chuàng)新政策框架的視角提出,中國在發(fā)展人工智能技術過程中,要充分發(fā)揮國家作為創(chuàng)新發(fā)動機的作用,以發(fā)展人類增強型人工智能為使命導向,建立和完善組織和制度支撐體系,引導人工智能技術進入良性發(fā)展軌道。

    關鍵詞:人工智能;ROAR;通用技術;技術—經濟范式

    中圖分類號:F062.9文獻標識碼:A

    文章編號:1000-176X(2021)09-0045-08

    一、引 言

    自20世紀50年代的達特茅斯會議提出人工智能的這一概念以來,人工智能經歷了幾輪起伏,近幾年才進入快速發(fā)展的軌道。人工智能作為新一代信息通信技術(Information and Communications Technology,ICT),具有很強的跨部門滲透性,具備成為通用技術的潛質,并具有大規(guī)模商業(yè)化應用的前景。按照演化經濟學對歷次技術革命浪潮階段的劃分,以英國第一次工業(yè)革命為開端,人類到目前為止經歷了五次技術革命,當前正處于以人工智能和大數據技術等為代表的第六次技術革命浪潮的導入期。聯合國在2017年公布的《AI技術革命對勞動力市場和收入分配的影響》報告中指出,盡管人工智能技術是以上一代ICT為基礎的,但從技術范式特征來看,其具有廣泛的滲透性,可以被看做是一項通用技術,其在新部門創(chuàng)生和傳統(tǒng)產業(yè)生產率提升方面都將起到巨大的作用。

    人工智能作為一項通用技術必將成為新一輪經濟增長的引擎。中國正處于邁向高質量發(fā)展的關鍵時期,在人工智能技術方面能否取得領先地位,直接關乎中國技術經濟趕超目標的實現。對此,早在2017年國務院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中就有深刻的認識:人工智能是經濟發(fā)展的新引擎,是新一輪產業(yè)變革的核心驅動力,將進一步釋放歷次科技革命和產業(yè)積蓄的巨大能量,并創(chuàng)造強大引擎……面對新形勢,惟有牢牢抓住人工智能發(fā)展的歷史機遇,才能贏得發(fā)展主動權,帶動國家跨越式發(fā)展。而其關鍵在于中國如何才能抓住這一技術趕超的機會窗口?傳統(tǒng)的產業(yè)政策的效果在面對新的技術范式時很可能會減少,因而促進人工智能技術的發(fā)展需要政策范式的轉型。

    傳統(tǒng)的產業(yè)政策是基于市場失靈理論提出的,其認為,政府干預的正當性就在于可以彌補市場機制的協調失靈和信息不對稱問題。這一理論實際上假設市場在任何時候、任何產業(yè)中都是天然存在的,而事實上,只有在成熟技術和成熟產業(yè)中這一假設才成立。而面對新技術和新產業(yè)時,這一前提是不存在的。在一個動態(tài)演化的經濟系統(tǒng)中,特別是在新一輪技術革命浪潮的導入期,雖然新的技術經濟范式正在孕育,但舊技術經濟范式仍然占據主導地位,新技術和新產業(yè)的市場是非常脆弱的,因此,政府的主要作用不是修復市場,而是創(chuàng)造市場。更進一步地,Mazzucato在近期倡導的任務導向型[1]和使命驅動型[2]創(chuàng)新政策新范式中提出的ROAR政策框架,其共分為四個部分:明確路線與方向(Routes and Directionality);塑造公共部門的組織能力(Organisational Capabilities in the Public Sector);對創(chuàng)新政策效果進行評估(Assessment and Evaluation);使風險和收益相匹配(Risks and Rewards)。該框架的提出和借鑒對中國發(fā)展人工智能關鍵核心技術的分析,以及確定人工智能的技術軌道、制定相應的創(chuàng)新政策提供了新的理論思維。

    二、人工智能的技術經濟特征與中國優(yōu)勢

    按照佩蕾絲對歷次技術革命浪潮的劃分:第一次技術革命源于1771年英國的產業(yè)革命,機械化的棉紡織業(yè)取代手工勞動;第二次技術革命始于1829年,蒸汽機取代水力,作為主要動力,機器開始被大規(guī)模使用,人類進入蒸汽和鐵路時代;第三次技術革命始于1875年酸性轉爐煉鋼技術的突破,人類進入鋼鐵、電力和重工業(yè)時代;第四次技術革命始于1908年,石油煉化技術和內燃機的發(fā)明使人類進入石油、汽車和大規(guī)模生產時代;而第五次技術革命得益于1971年廉價微電子產品的大量生產,人類迎來了信息時代[3]。人工智能作為新技術革命的通用技術,與以往技術革命有何不同?筆者認為,有必要從人工智能的技術經濟特征對其進行界定。

    人工智能作為通用技術,具有滲透性、替代性、協同性[4]以及創(chuàng)造性[5]等諸多技術—經濟特征。而滲透性是通用技術的一項基本特征,人工智能強大的滲透性意味著除本部門之外,對其他部門的生產率提升乃至生產組織方式的變遷都會產生極大的影響。

    人工智能作為新一代ICT的代表性技術,其協同性也將大大超越前一代ICT。目前,人工智能技術主要應用于消費領域,未來一旦在生產領域(智能制造)大規(guī)模應用后將會發(fā)揮更大的協同效應,從而大幅降低各生產要素間的磨合成本[6]。

    更為重要的是,人工智能技術的替代性很可能超越以往歷次技術革命中通用技術的影響,它一定不是簡單自動化趨勢的延續(xù),人類相當一部分腦力勞動也將被人工智能所替代的圖景正在顯現。這種對人類腦力勞動的替代,實際上就是人工智能技術創(chuàng)造性的重要體現,這也是以往任何一種通用技術所不具備的。即人工智能的創(chuàng)造性技術經濟特征進一步強化了其替代性的特征,從而使人類就業(yè)面臨前所未有的危機。人工智能經過六十多年的發(fā)展,其背后的技術邏輯發(fā)生了巨大的變化,第一代人工智能技術以數理邏輯表達與推理為主,其推理模型基于知識和經驗,即知識驅動;第二代人工智能技術以深度學習理論為主,深度學習的核心功能是根據已經發(fā)生的同類事件來對特定事件的結果進行預測,數據量的多少對于預測結果至關重要,即數據驅動;目前已有學者提出,未來人工智能的發(fā)展方向是將第一代和第二代技術整合起來,即第三代人工智能是需要知識、數據、算法和算力共同驅動,以彌補前兩代技術的不足[7]。我們不難發(fā)現,無論是目前以深度學習為主的第二代人工智能,還是未來的第三代人工智能,數據都是核心要素。中國目前的互聯網普及率已達64.5%,網民規(guī)模超過9億人,海量數據將成為中國發(fā)展人工智能技術的一個主要優(yōu)勢。

    中國除了上述的數據體量優(yōu)勢之外,舊互聯網巨頭百度、騰訊和阿里巴巴(BAT),以及新興互聯平臺企業(yè)字節(jié)跳動、美團和滴滴(TMD)均為人工智能技術的發(fā)展提供了豐富的應用場景。由于中國網民規(guī)模巨大,再加上購物、出行、娛樂、金融和物流等豐富的應用場景,產生了巨量的異質性數據。即中國除了具備數據體量優(yōu)勢之外,還擁有數據結構優(yōu)勢。在未來,如果人工智能技術在生產領域(智能制造)得到大規(guī)模應用,生產端的大數據和消費端的大數據一旦打通,數據再生產的規(guī)模報酬遞增效應將會被全面釋放,

    從而使得中國在人工智能技術上的優(yōu)勢進一步加強。如表1所示,2020年,中國憑借應用場景優(yōu)勢和數據優(yōu)勢,在諸如人工智能算法和應用軟件等領域的技術輸出企業(yè)的數量已超過技術輸入企業(yè),表明中國在人工智能的某些領域已處于世界領先水平。

    為了加強人工智能領域的基礎研究,2020年由教育部、國家發(fā)展和改革委員會和財政部三部委共同出臺了《關于“雙一流”建設高校促進學科融合 加快人工智能領域研究生培養(yǎng)的若干意見》,該文件將人工智能納入“國家關鍵領域急需高層次人才培養(yǎng)專項招生計劃”。加之中國人口基數大,大學生規(guī)模世界第一,學生就讀工科意愿一直比較積極等諸多有利因素,中國未來的人工智能人才儲備量將非常可觀。這一人才優(yōu)勢是未來中國發(fā)展人工智能技術的基礎支撐力量。此外,據國家工業(yè)信息安全發(fā)展研究中心的數據顯示,2020年中國在人工智能領域的專利申請量已經超越美國,排名世界第一。這在一定程度表明,中國在人工智能的應用研究領域也實現了快速的技術追趕。

    歷史經驗表明,新一代通用技術的大規(guī)模應用和改進有賴于大量互補性技術的出現,人工智能作為新一輪技術革命浪潮的通用技術,其滲透效應的發(fā)揮也離不開大量互補性技術的支持。中國大量的平臺企業(yè)為人工智能技術提供了廣泛的應用場景,這會進一步引發(fā)對諸如5G等互補性技術的需求,從而引致相關領域創(chuàng)新的加速,最終為5G技術的大規(guī)模商業(yè)化應用提供巨大的市場,形成技術迭代、市場規(guī)模擴張和利潤提升的正反饋。有數據顯示,截至2020年1月1日,中國企業(yè)5G聲明(授權或申請)專利族數量已經排名世界第一,5G技術作為人工智能的互補性技術,該領域的技術創(chuàng)新將進一步促進人工智能技術領域的創(chuàng)新提速,從而形成互補式創(chuàng)新噴涌的良好局面。

    中國將擁有全世界無可匹敵的數據生態(tài)優(yōu)勢。目前,中國憑借應用場景優(yōu)勢和數據優(yōu)勢,已經在諸如人工智能算法和應用軟件領域處于世界領先水平。2019年中國與國外人工智能企業(yè)技術輸入和輸出對比結果,如圖1所示。

    在人工智能的基礎研究方面,就學術論文發(fā)表總量和作者數這兩個指標來看,中國也已經超過美國(見圖2),這說明中國在人工智能的某些基礎領域也具備了一定的優(yōu)勢。2020年由教育部、國家發(fā)展改革委和財政部三部委共同出臺的《關于“雙一流”建設高校促進學科融合 加快人工智能領域研究生培養(yǎng)的若干意見》中,也將人工智能納入國家關鍵領域急需高層次人才培養(yǎng)專項招生計劃。再加上,中國人口基數大,大學生規(guī)模世界第一,學生就讀工科意愿一直比較積極等諸多有利因素,可以預期,未來中國人工智能人才儲備量將非??捎^。而這種人才優(yōu)勢將成為中國發(fā)展人工智能技術的基礎支撐力量。據國家工業(yè)信息安全發(fā)展研究中心的數據顯示,2020年中國在人工智能領域的專利申請量已經超越美國,排名世界第一[15]。即在人工智能的應用研究領域,中國正在逐步建立基礎優(yōu)勢。

    根據技術—經濟范式理論,新一代通用技術的大規(guī)模應用和改進有賴于大量互補性技術的出現,人工智能作為新一輪技術革命浪潮的通用技術,要想滲透至其他部門,必然需要互補性技術的支持。如上文所述,中國大量的平臺企業(yè)為人工智能技術提供了廣泛的應用場景,這會進一步引發(fā)對諸如5G等更高效通訊技術的需求,從而引致相關領域創(chuàng)新的加速,最終為5G技術的大規(guī)模商業(yè)化應用提供巨大的市場,形成技術迭代、市場規(guī)模擴張和利潤提升的正反饋。有數據顯示,截至2020年1月1日,中國企業(yè)5G聲明(授權或申請)專利族數量已經排名世界第一[16],5G技術作為人工智能的互補性技術,該領域的技術創(chuàng)新將進一步促進人工智能技術領域的創(chuàng)新提速,從而形成互補式創(chuàng)新噴涌的良好局面。

    三、中國發(fā)展人工智能可能面臨的挑戰(zhàn)

    (一)人工智能的應用研究領域可能出現投資泡沫

    根據技術—經濟范式理論,歷史上的每一次發(fā)展巨潮幾乎都經歷了“技術革命—金融泡沫—崩潰”的演化軌跡[3]。根據佩蕾絲的理論推演,在新的技術革命浪潮導入期的爆發(fā)階段,金融資本會在新技術、新產品帶來的巨大財富效應和高利潤預期下,在短期內大量涌入新產業(yè),從而可能引發(fā)過度投資。金融資本對新技術的過分追逐很可能造成經濟的非理性繁榮,即股票價格的持續(xù)上漲會刺激投資者的熱情,從而使市場形成正反饋機制——股票價格上漲經由大眾媒體渲染形成放大效應,在從眾心理和高利潤預期等多種因素作用下吸引更多投資者進入,繼而進一步助推股市繁榮。股市繁榮和投資熱潮又會繼續(xù)助長賭徒心理,資產價格的暴漲使其與實際價值完全脫離,金融泡沫越吹越大進而引發(fā)經濟結構失衡。當泡沫破裂之后,市場對新技術的投資會進入寒冬,2000年發(fā)生在美國的互聯網泡沫就是一個典型的例子。

    根據歷次技術革命浪潮的歷史經驗,導入期的投資泡沫最終也會留下本輪技術革命浪潮的基礎設施,以人工智能為通用技術的第六次技術革命的投資熱潮可能會留下諸如物聯網、云網絡、智能電網[8]等基礎設施。但我們仍然要極力避免重蹈美國互聯網泡沫的覆轍。近年來,中國在人工智能領域的投資額呈不斷上升之勢,除2019年有所回落之外,投資熱潮總體趨勢已經顯現,已從2013年的5億元上漲到2019年的381億元。根據《2019中國人工智能產業(yè)投融資白皮書》數據顯示,從2014年至2019年第三季度,中國人工智能行業(yè)總計獲得融資3 583.65億元,其中,人工智能應用研究領域獲得融資1 140.89億元,占比31.83%,而人工智能基礎研究領域僅獲得融資201.99億元,占比僅為5.63%[9]。可見,應用研究領域的融資額遠遠高于基礎研究領域,原因在于基礎技術屬于底層技術,其具有極高的技術門檻和技術壁壘且在短期內看不到利潤,需要耐心資本進行長期投資,因而追逐短期利益的金融資本幾乎都流向了人工智能應用研究領域,對基礎研究領域的投入嚴重不足。

    客觀而言,目前中國人工智能領域投資結構的失衡現象有其歷史原因。眾所周知,美國引領了以ICT為通用技術的第五次技術革命浪潮,而人工智能的底層技術本質仍然是芯片、存儲器和傳感器等ICT的硬核技術,技術范式存在一定的延續(xù)性,這也能解釋美國為何在本輪技術革命中仍然具備競爭優(yōu)勢。中國目前在人工智能的應用研究領域受到資本追捧,而基礎研究則無人問津的局面恰恰也與這種技術范式的延續(xù)性密切相關。中國作為ICT的追趕國,一開始就是從應用研究領域的低技術環(huán)節(jié)切入,這種低技術切入點的路徑依賴效應也在一定程度上影響了中國在人工智能核心技術上投資,而核心技術投資不足必然侵蝕中國人工智能的技術基礎,最終影響中國在全球的競爭優(yōu)勢。關鍵點在于,中國應如何扭轉技術切入點的路徑依賴,破解人工智能核心技術投資激勵問題,從而實現領先市場與創(chuàng)造市場。

    (二)強隱私監(jiān)管可能喪失數據優(yōu)勢

    黨的十九屆四中全會首次提出,要鼓勵勤勞致富,健全勞動、資本、土地、知識、技術、管理和數據等生產要素按貢獻參與分配的機制。這是中國第一次在國家層面的重要文件中將“數據”作為一種生產要素,而數據的重要性亦會隨著人工智能技術的發(fā)展而不斷提升。如上文所述,中國的互聯網用戶數量排名世界第一,加之移動互聯網領域帶來的廣闊應用場景促成了“數據生產—人工智能技術進步—數據再生產效率提升”的良性正反饋。但數據的產權仍然沒有嚴格的法律界定,數據獲取和使用也沒有相應的規(guī)制措施,因此,存在個人隱私泄露等重大安全隱患,“殺熟”等侵害消費者權益的事件數量也在不斷上升。但一個不爭的事實是,從第二代人工智能開始,以機器學習為主的人工智能技術的發(fā)展已由知識和邏輯驅動轉變?yōu)閿祿寗?,數據的重要性日益凸顯。而未來的第三代人工智能,數據更是不可或缺的關鍵投入[7]。隨著智能終端、可穿戴設備、智能家居和物聯網設備的快速普及,數據大爆炸時代接踵而至。(未經挖掘的)數據就好比是“原油”,人工智能技術本身是將“原油”煉化成“汽油”(可信的數據)的基礎技術。從這個角度來說,人工智能技術進步與數據再生產自增強機制的維持需要源源不斷的數據支撐,因而數據具有基礎重要性。

    中國在利用數據優(yōu)勢推動人工智能技術進步的同時,也需要對個人隱私保護制定切實可行的政策。目前,世界各國都開始重視對數據使用規(guī)范的監(jiān)管,歐盟已經出臺數據使用的相關規(guī)定。如上文所述,人工智能技術具有典型的數據依賴特征,其技術進步離不開數據的哺育。因此,Goldfarb和Tucker[10]認為,隱私監(jiān)管會影響基于數據創(chuàng)新的程度和方向,且過于嚴格的隱私監(jiān)管會導致創(chuàng)新的減少。目前人工智能正處于導入期,主導產業(yè)的技術軌道并未定型,且相關領域互補式創(chuàng)新的潛力還沒得到完全釋放。因此,中國雖然同時擁有數據體量優(yōu)勢和數據結構優(yōu)勢,但如果隱私監(jiān)管政策過于嚴苛,將可能喪失數據優(yōu)勢和先發(fā)優(yōu)勢;相反,如果隱私監(jiān)管政策過于寬松,亦可能出現數據壟斷和數據安全隱患,最終也不利于人工智能長遠發(fā)展。因此,適度的隱私監(jiān)管以及適宜的數據獲取及使用規(guī)則是制定政策的關鍵。

    數據作為第六次技術革命浪潮中新的生產要素,要充分發(fā)揮其效用必須解決去隱私、脫敏和標準化問題,這就需要開發(fā)全新的技術加以解決。就目前來看,數據的實際擁有者——各類平臺企業(yè)——沒有激勵去開發(fā)這一技術。原因在于,即使去隱私、脫敏和標準化問題不解決,也不影響數據的使用;此外,互聯網用戶存在數據去隱私、脫敏和標準化的內在需求,但由于個人不可能承擔這一成本,且也很難達成“集體行動”,因而在這個意義上,數據去隱私、脫敏和標準化技術具有很強的外部性,具備了準公共產品的屬性,因此,這一領域必須由政府介入,但如何高效提供這一準公共產品,仍需要政府從制度和組織兩方面提供保障。

    (三)重應用而輕基礎會動搖技術能力積累的基石

    2017年國務院發(fā)布《新一代人工智能發(fā)展規(guī)劃》提出了中國到2030年人工智能總體達到世界領先水平,成為世界主要人工智能創(chuàng)新中心的發(fā)展目標。我們應該清醒地認識到,后發(fā)國家要想在技術上追趕先發(fā)國家一定不能忽視技術能力的提升,因為技術創(chuàng)新的基石是技術能力的積累,而技術能力積累的基石則是基礎研究。如上文所述,中國在人工智能領域的投資結構不甚合理,應用研究領域所獲投資占比居高,因此,某些應用研究領域已經處于世界領先水平,甚至超過了某些先發(fā)國家,但基礎研究領域投入仍然嚴重不足。近兩年由于國際供應鏈的緊張局勢,高端芯片等人工智能領域的核心技術已經顯現出“卡脖子”風險,可見,基礎研究領域的“短板”會讓中國付出更大的經濟代價。

    根據技術追趕的機會窗口理論,后發(fā)國家要想在成熟技術上實現對先發(fā)國家追趕的可能性很低。而在新一輪技術革命浪潮的導入期,由于先發(fā)國家存在舊技術范式的路徑依賴效應,新技術范式的擴散反而會受到抑制。因此,新技術很有可能在舊技術路徑依賴效應較小的后發(fā)國家得以發(fā)展,因而給后發(fā)國家一個“換道超車”的契機。此外,李根[11]認為,以快速變革或短周期技術為特征的技術體制可能產生雙刃劍的影響。一方面,短周期技術可以為那些已經積累了一定技術能力的后發(fā)者提供趕超的機會;另一方面,對尚未積累一定技術能力的后發(fā)者而言,技術的頻繁變動可能成為阻礙其趕超的因素。人工智能作為ICT的延續(xù),是典型的短周期技術,中國必須重視通過基礎研究夯實技術能力的基礎,唯有如此,才能通過“技術迂回”實現趕超。換而言之,中國除了要抓住當下弱人工智能(第二代人工智能)的技術機會窗口,更要提前謀劃,將未來強人工智能(第三代人工智能)的技術軌道定義權牢牢掌握在自己的手中,從而在人工智能技術上引領世界。據此,中國政府應通過調節(jié)戰(zhàn)略性投資,積極引導和大力支持智能芯片和先進算法等基礎研究,改變仍由金融資本主導人工智能領域的投資現狀,以從根本上夯實中國人工智能技術能力的基礎。

    (四)“贏者通吃”和失業(yè)大潮

    如上文所述,人工智能是ICT的延續(xù),其與所有網絡經濟一樣存在典型的網絡外部性:不同于傳統(tǒng)產業(yè)的競爭模式,人工智能企業(yè)的競爭優(yōu)勢將取決于需求方規(guī)模經濟效應[12],即技術的普及能夠吸引到更多的用戶。使用的人越多,對于潛在的用戶來說該企業(yè)的價值就越大,就會有更多的人使用,進而鞏固企業(yè)在行業(yè)中的優(yōu)勢地位。具體到人工智能技術方面,先進入者在數據規(guī)模上有先發(fā)優(yōu)勢,算法進步越快,技術會越好,就會獲得更多用戶的青睞,用戶的增多會進一步擴大技術的普及以及獲得更多的數據,從而形成自增強機制。因此,先進入者通過網絡外部性吸引更多潛在消費者,過高的轉移成本又可以將“在位”消費者“鎖定”在自己的技術上,而人工智能的高固定成本和低可變成本的成本結構特點又會進一步提高潛在競爭者的進入壁壘。隨著時間的推移,先進入者開始支配市場,即壟斷逐漸取代競爭性市場。近幾年,中國諸如BAT和TMD等大型平臺企業(yè)已經顯示出這種趨勢,而人工智能技術的發(fā)展會進一步鞏固這些平臺企業(yè)的市場地位。一旦“贏者通吃”效應得以維持,將深刻改變中國人工智能技術的發(fā)展趨勢。

    已經有學者提出,人工智能的持續(xù)技術進步終有一天會將我們帶入強人工智能時代,屆時不僅會有大量體力勞動被機器替代,亦會有相當一部分腦力勞動被智能機器取代。在第六次技術革命浪潮中,由于人工智能具有創(chuàng)造性和替代性特征,如果政府政策沒有前瞻性且設計不當,那么大量技術性失業(yè)將不可避免[13]。屆時大量社會財富可能會被少數壟斷了人工智能技術的寡頭所攫取,大部分勞動者將成為“無用階級”[14],貧富差距的鴻溝會越來越大,最終可能引致社會動蕩。如何在促進人工智能技術進步的同時,避免人類工作被大面積替代,這對中國政府制定恰當的政策提出了新的要求。

    四、中國發(fā)展人工智能的創(chuàng)新政策應對

    隨著第六次技術革命浪潮的展開,作為通用技術的人工智能將更加廣泛地滲透到經濟系統(tǒng)的各個領域,但目前的應用仍主要集中于資訊、購物和社交等消費端,新技術經濟范式還未成型,正處于新舊轉換時期。正如佩蕾絲[3]指出的那樣:要在每一個轉折點上設計出恰當的政策,就需要理解范式,確認浪潮的階段,以辨明改革的方向。因此,中國要想在人工智能領域取得全球競爭優(yōu)勢,必須在技術經濟范式轉換的關鍵節(jié)點上用嶄新的政策框架來制定創(chuàng)新政策。

    Mazzucato等[2]認為,在新興技術產業(yè)的萌芽階段,市場還很薄弱,適用于成熟技術和市場的傳統(tǒng)產業(yè)政策不再適用,故其倡導政府制定旨在“創(chuàng)造市場”的“使命驅動型”創(chuàng)新政策。其中的ROAR創(chuàng)新政策框架強調通過明確具體的“使命”,即專注于解決重大技術創(chuàng)新挑戰(zhàn)和社會挑戰(zhàn),要求政府通過聯合不同部門進行戰(zhàn)略投資和培育新產業(yè)來確定增長方向,并引導私營部門進一步發(fā)展這些產業(yè)和技術,從而起到跨部門學習和實現智慧經濟增長的目的。筆者認為,ROAR創(chuàng)新政策框架有助于中國探索在人工智能領域如何塑造市場,并給發(fā)展人工智能的關鍵核心技術和以及未來的技術方向提供新的政策思維。

    (一)確定技術軌道與方向

    以任務為導向,確定創(chuàng)新的方向和技術發(fā)展的路徑,即政府要塑造和創(chuàng)造市場,而不僅僅是修復市場。以美國的阿波羅計劃為例,登月之所以成功的關鍵在于該計劃為需要解決的問題設定了明確的方向與具體的目標,以任務為導向按部就班地推進。目前,有相當一部分經濟學家對人工智能的就業(yè)替代效應表示憂慮,如果進入強人工智能時代,那么這種就業(yè)挑戰(zhàn)是前所未有的。這種擔心不是沒有依據,因為人工智能已經替代了部分腦力勞動(例如報稅),筆者認為,可以預期,未來被取代的職業(yè)只會越來越多,這將對中國龐大的就業(yè)市場產生深遠的影響。因此,中國有必要趁早確定人工智能的技術軌道和發(fā)展方向。

    Trajtenberg[15]認為,創(chuàng)新大致可以分為兩種類型:人類增強型創(chuàng)新(HEI)和人類替代型創(chuàng)新(HRI)。受其啟發(fā),筆者認為,可以將人工智能技術的發(fā)展方向也相應地分為人類增強型人工智能(HEAI)和人類替代型人工智能(HRAI)。HEAI指的是放大、增強和擴展感官、運動、分析和其他人類能力的人工智能。目前的應用領域有醫(yī)學輔助診斷,例如,挖掘醫(yī)學成像信息、藥品療效評估等。人工智能在醫(yī)學的應用并沒有取代醫(yī)生,而是增強了醫(yī)生的診斷能力和準確性。此外,案件審理也開始借助人工智能技術進行輔助分析和裁決,以提高法官審判的準確性。而HRAI則會取代那些技術含量低和重復性的勞動,例如,特斯拉借助人工智能技術的無人工廠就代替了大量的制造業(yè)工人。HEAI是對人類創(chuàng)造力釋放,也極大地提升了生產率;而HRAI要么取代就業(yè),要么創(chuàng)造沒有價值的工作。對于中國這樣的人口大國來說,應大力發(fā)展協助人類能力提高的HEAI,而不是大量取代人類工作的HRAI。鑒于中國的特殊國情,應及早確定人工智能的技術軌道和技術發(fā)展方向,將技術的主攻方向定為HEAI,在保障就業(yè)的同時極大地提升生產率。

    (二)塑造公共部門的組織能力

    公共部門組織能力的塑造,對于其更好地承擔風險以及探索、預見和管理一系列挑戰(zhàn)至關重要。要使公共部門與私營部門建立良好的共生關系,關鍵在于合理地配置資源、制定多主體的互動機制、完善組織結構,這些也是實施使命驅動型創(chuàng)新政策的基本要素。公共部門需要具備良好的領導才能,不斷提升與各市場主體互動的能力,特別是當使命驅動型創(chuàng)新政策涉及社會政治因素時,其在政策實踐過程中的政策持續(xù)能力、組合能力和協調能力的持續(xù)提升將變得非常重要。唯有如此,才能成功實施以發(fā)展HEAI為使命導向的創(chuàng)新政策。在這一方面,美國的經驗值得借鑒。美國國防部于2015年設立國防創(chuàng)新試驗小組(Defence Innovation Unit Experimental,DIUx),辦公室設在硅谷,其目的在于整合硅谷的高科技資源和初創(chuàng)公司。DIUx的組織結構和運行模式經過3年的試運行和調整后,于2018年正式更名為國防創(chuàng)新小組(Defence Innovation Unit,DIU)。DIU有專門聚焦人工智能技術領域的團隊,團隊運行模式采用合伙人制度和扁平化組織結構。這種組織結構與傳統(tǒng)科層制相比更有利于適應快速變化的技術環(huán)境,保證技術項目的快速立項、實施和轉化。DIU具有合同簽訂權、專項預算權等并組織商業(yè)方案招標,招標流程分為“方案概要評估—提案評估—簽訂合同并履行”三個部分,極大地簡化了采辦流程。其在簽訂合同環(huán)節(jié)采用“其他交易協議”方式,這種方式不受政府采購和規(guī)章的束縛,允許政府更快速、更便捷地與企業(yè)達成協議,并有利于清掃公私聯合創(chuàng)新的障礙。

    根據上述經驗,結合中國的實際情況,筆者認為,可以在人工智能創(chuàng)新資源豐富、發(fā)展基礎較好的地區(qū),如北京、上海、杭州、深圳等地設立旨在協調人工智能創(chuàng)新資源的專門機構,該機構宜采用扁平化的組織形式,與政府相關職能部門、人工智能的頭部企業(yè)、人工智能初創(chuàng)企業(yè)、人工智能行業(yè)協會以及相關高校(研究機構)建立伙伴關系,促進各主體的交流互動并協調人工智能創(chuàng)新資源的優(yōu)化配置??梢再x予該機構合同簽訂權和專項預算權,使其能夠通過商業(yè)招標發(fā)現符合HEAI方向的潛在創(chuàng)新和技術,如此,該機構就具備了技術篩選和技術咨詢等功能。中國想要實現人工智能創(chuàng)新的快速轉化,就要簡化人工智能相關項目的報批流程,設計更加靈活、充裕的經費管理制度,增加機動計劃經費額度等。同時專設技術審查小組對該機構的整體業(yè)務進行審查和監(jiān)督。

    此外,為了有效解決上文提到的數據去隱私、脫敏和標準化這一公共產品供給問題,有必要建立專門的研發(fā)機構。一個可行的辦法是建立大數據與人工智能國家實驗室,重點開發(fā)數據去隱私、脫敏和標準化等具有強外部性的人工智能相關技術,解決技術公共產品的供給問題。數據的規(guī)范和高效使用是全世界共同關心的問題,中國完全可以利用數據優(yōu)勢構建全球數據技術公共產品聯盟,整合全世界的研發(fā)力量,形成強大合力,促進大數據和人工智能技術的良性發(fā)展。以上組織機構設計思路,如圖1所示。

    (三)對創(chuàng)新政策效果進行動態(tài)評估

    主流經濟學的公共政策評估一般都聚焦于公共投資的擠出效應,并以此來靜態(tài)計算政策的成本和收益,因此,找到替代性的創(chuàng)新政策動態(tài)評估工具也十分重要。制定公共政策一定會涉及到預算,當前公共政策多是從現有的財政約束角度思考問題,與之相符的評估工具通?;陟o態(tài)資源配置效率的概念和某種形式的事前成本收益分析(CBA),CBA實際上就是反映商品或服務的最佳替代用途價值。在大多數情況下,評估都是基于市場價格的分析,即在政策干預后對其效果進行評價,并就市場失靈問題解決與否進行評估。這一靜態(tài)評估工具實際上無法對政府投資重大創(chuàng)新的動態(tài)擠入效應進行評估,因此,對使命驅動型創(chuàng)新政策的評估需要考慮更長的時間和更具系統(tǒng)性的評估指標。

    根據現代貨幣理論的觀點,財政赤字支出可能會產生經濟乘數效應,使經濟增長速度快于借貸,從而降低債務與國內生產總值的比率。另外,與家庭或企業(yè)不同,擁有主權貨幣和中央銀行的政府不會破產[16]。CBA只關注靜態(tài)的創(chuàng)新資源約束與配置問題,無法評估動態(tài)的市場創(chuàng)造效應,而以發(fā)展HEAI為使命導向的創(chuàng)新政策恰恰能夠發(fā)揮政府“市場創(chuàng)造者”的優(yōu)勢,從而在一定程度上可以對沖HEAI技術軌道未定型和相關市場微弱帶來的風險。一旦市場成長起來之后,其輻射效應將大大超出其投入成本。因此,我們需要建立能夠評估動態(tài)效率目標的價值體系。動態(tài)效率包括充分利用資源以應對快速的變化,其中包括創(chuàng)新、投資、改進和增長,最重要的還包括新技術的創(chuàng)造和技術前沿的轉移[17]。據此,HEAI未來對其他行業(yè)的輻射和溢出效應以及由此引發(fā)的各種互補式創(chuàng)新,都應被評估指標和方法考慮在內。因此,評估指標不僅要關注人工智能本身的技術創(chuàng)新能力,更要關注與人工智能相匹配的材料、能源技術的進步,甚至還要考慮對人們生活方式的改進。

    (四)理順公共部門和私人部門的激勵結構,使風險和收益相匹配

    政府對重大創(chuàng)新的投資會使風險社會化,而創(chuàng)新本身的正外部性會使收益社會化,由于大部分創(chuàng)新收益被企業(yè)獲得,因此,如何通過制度設計使公共部門與私人部門在創(chuàng)新過程中的風險分擔和收益分享相匹配,從而實現激勵相容,對創(chuàng)新的可持續(xù)性至關重要。針對這一問題筆者提出以下三個方案:第一,政府可以通過向愿意投資于重大技術創(chuàng)新的私營企業(yè)發(fā)放許可證,從而實現公私雙方的風險共擔和收益共享。第二,通過傳統(tǒng)的稅收機制,政府可以在重大創(chuàng)新和基礎創(chuàng)新的商業(yè)化應用階段,根據上述的許可證制度對受益企業(yè)額外收取一定的稅額,以彌補在前期的大量投入,也為下一輪重大創(chuàng)新拓展資金來源。第三,不要“把雞蛋放在一個籃子里”,政府可以通過投資組合的形式分散公共創(chuàng)新投資的風險,就算某些項目失敗了,但少數項目的成功亦可以彌補其他項目的損失。當然,建立共生的公私合作伙伴關系,構建健康的創(chuàng)新生態(tài)系統(tǒng)才是實現公共價值創(chuàng)造、促進經濟增長的長效機制。

    人工智能作為通用技術,其擴散效應受限于前期技術基礎設施的投入強度,作為ICT的延展,人工智能的關鍵共性技術具有投資額大和投資回報周期長等特征。加之,關鍵共性技術領域的創(chuàng)新不確定性最高,正外部效應較大,一般私人部門沒有激勵研發(fā)該種技術,此時,需要公共部門積極作為。基于公共和私人部門風險共擔和收益共享的原則,筆者認為:第一,中國政府可以通過許可證制度,對于有意愿投資于HEAI領域關鍵共性技術的民營企業(yè)給予大力支持,積極促進該領域公私研發(fā)聯合體的組建,發(fā)揮公共研究機構與民營企業(yè)的協同創(chuàng)新效應,并鼓勵民營企業(yè)將研發(fā)成果進行商業(yè)化轉換。政府從企業(yè)商業(yè)化收益中獲得一部分許可證收益,注入關鍵共性技術創(chuàng)新投資資金池,以實現重大創(chuàng)新的風險和回報社會化。第二,公共部門通過參與研發(fā)聯合體從而擁有一部分HEAI的知識產權,并在其商業(yè)化應用階段對受益企業(yè)收取一定的知識產權使用費作為回報。如果受益企業(yè)上市,則可以通過持有HEAI相關企業(yè)優(yōu)先股的形式從資本市場獲得一定的回報。第三,中國政府可以扮演天使投資人的角色,通過多元化的“投資組合”形式分散HEAI投資的風險,以達到風險與回報相匹配的目標。

    參考文獻:

    [1] Mazzucato,M.Misson-Oriented Innovation Policy:Changes and Opportunities[J].Industrial and Corporate Change,2018,27(5):803-815.

    [2] Mazzucato,M.,Kattel,R.,Ryan-Collins,J.Challenge-Driven Innovation Policy:Towards a New Policy Toolkit[J].Journal of Industry,Competition and Trade,2020,20(2):421-437.

    [3] 卡蘿塔·佩蕾絲.技術革命與金融資本:泡沫與黃金時代的動力學[M].田方萌,胡葉青,劉然譯,北京:中國人民大學出版社,2007.18-177.

    [4] 蔡躍洲,張鈞南.信息通信技術對中國經濟增長的替代效應與滲透效應[J].經濟研究,2015,(12):100-114.

    [5] 蔡躍洲,陳楠.新技術革命下人工智能與高質量增長、高質量就業(yè)[J].數量經濟技術經濟研究,2019,(5):3-22.

    [6] Ketteni,E.Information Technology and Economic Performance in U.S.Industries[J].Canadian Journal of Economics,2009,42(3):844-865.

    [7] 張鈸,朱軍,蘇航.邁向第三代人工智能[J].中國科學:信息科學,2020,(9):1281-1302.

    [8] 賈根良.第三次工業(yè)革命與工業(yè)智能化[J].中國社會科學,2016,(6):87-106.

    [9] 投中研究院,崇期資本.2019中國人工智能產業(yè)投融資白皮書[R].2019-12-13.

    [10] Goldfarb,A.,Tucker,C.Privacy and Innovation[J].Innovation Policy and the Economy,2012,12(1):65-90.

    [11] 李根.經濟趕超的熊彼特分析:知識、路徑創(chuàng)新和中等收入陷阱[M].陳勁譯,北京:清華大學出版社,2016.64.

    [12] 卡爾·夏皮羅,哈爾·瓦里安.信息規(guī)則:網絡經濟的策略指導[M].張帆譯,北京:中國人民大學出版社,2000.157-161.

    [13] 井上智洋.就業(yè)大崩潰:后人工智能時代的職場經濟學[M].路邈等譯,北京:機械工業(yè)出版社,2018.93-109.

    [14] 尤瓦爾·赫拉利.未來簡史:從智人到神人[M].林俊宏譯,北京:中信出版社,2017.288-296.

    [15] Trajtenberg,M.AI as the Next GPT:A Politicial-Economy Perspective[R].National Bureau of Economic Research Working Paper,2018.

    [16] L.蘭德爾·雷.現代貨幣理論:主權貨幣體系的宏觀經濟學[M].張慧玉,王佳楠,馬爽譯,北京:中信出版社,2017.18-24.

    [17] Kattel,R.,Mazzucato,M.,Ryan-Collins,J.,et al.The Economics of Change:Policy and Appraisal for Missions,Market Shaping and Public Purpose[R].UCL Institute for Innovation and Public Purpose Working Paper,2018.

    (責任編輯:徐雅雯)

    收稿日期:2021-07-18

    基金項目:廣西高等學校千名中青年骨干教師培育計劃人文社科類立項課題“第四次工業(yè)革命與中國技術趕超的機會窗口研究”(2020QGRW006);廣西壯族自治區(qū)教育廳A類教改項目“中國特色社會主義政治經濟學課程體系構建”(2017JGA138)

    作者簡介:張海豐(1981-),男,浙江桐鄉(xiāng)人,副教授,博士,主要從事演化與創(chuàng)新經濟學、制度經濟學研究。E-mail:75514316@qq.com

    猜你喜歡
    通用技術技術人工智能
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    IT經理世界(2018年20期)2018-10-24 02:38:24
    數讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    探討通用技術有效教學的實踐
    通用技術課堂中開展技術試驗的實踐和思考
    淺談微視頻在通用技術課堂教學中的作用
    東方教育(2016年17期)2016-11-23 10:37:56
    淺談鋼筋混凝土結構建筑應用外包粘鋼加固技術
    探討電力系統(tǒng)中配網自動化技術
    科技視界(2016年21期)2016-10-17 20:00:58
    移動應用系統(tǒng)開發(fā)
    科技視界(2016年21期)2016-10-17 19:38:30
    北京市中小企業(yè)優(yōu)化升級
    商(2016年27期)2016-10-17 04:13:28
    精品乱码久久久久久99久播| 国产中年淑女户外野战色| 免费观看的影片在线观看| 好男人在线观看高清免费视频| 99精品久久久久人妻精品| 美女高潮的动态| 精品日产1卡2卡| 国产av一区在线观看免费| 亚洲第一电影网av| 欧美日本视频| 99视频精品全部免费 在线| 全区人妻精品视频| 亚洲国产精品sss在线观看| 久久久成人免费电影| 日本黄色视频三级网站网址| av中文乱码字幕在线| 国产伦精品一区二区三区视频9| 日本精品一区二区三区蜜桃| 黄色视频,在线免费观看| 亚洲av第一区精品v没综合| 精品一区二区免费观看| 最近视频中文字幕2019在线8| 最近中文字幕高清免费大全6 | 看免费成人av毛片| av.在线天堂| 亚洲真实伦在线观看| 国产精品无大码| 人妻夜夜爽99麻豆av| 亚洲欧美日韩无卡精品| 精品久久久久久久久av| 九九热线精品视视频播放| 欧美日韩乱码在线| 国产麻豆成人av免费视频| 91精品国产九色| 国产精品一区二区免费欧美| 白带黄色成豆腐渣| 亚洲精品一区av在线观看| 国产不卡一卡二| 亚洲av成人av| 69av精品久久久久久| 久9热在线精品视频| 成人鲁丝片一二三区免费| 国产在视频线在精品| 欧美高清成人免费视频www| 欧美人与善性xxx| 亚洲中文字幕日韩| 最好的美女福利视频网| 国产一区二区亚洲精品在线观看| 一边摸一边抽搐一进一小说| 日本撒尿小便嘘嘘汇集6| 黄色丝袜av网址大全| 国产亚洲精品综合一区在线观看| 中文亚洲av片在线观看爽| 99国产极品粉嫩在线观看| 色综合亚洲欧美另类图片| 综合色av麻豆| 国产黄色小视频在线观看| 春色校园在线视频观看| 亚洲男人的天堂狠狠| 可以在线观看毛片的网站| 亚洲性久久影院| 日本-黄色视频高清免费观看| 欧美日本亚洲视频在线播放| 国产精品一区二区三区四区久久| 精品久久久久久久末码| aaaaa片日本免费| 国产色爽女视频免费观看| 亚洲精华国产精华液的使用体验 | 欧美一级a爱片免费观看看| 欧美人与善性xxx| 精品福利观看| 国产 一区精品| 亚洲18禁久久av| 欧美成人性av电影在线观看| bbb黄色大片| 日本三级黄在线观看| 国产在线男女| 国内精品美女久久久久久| 深夜a级毛片| 国产高清视频在线观看网站| www.www免费av| 欧美3d第一页| 色综合婷婷激情| 日本成人三级电影网站| 国产 一区精品| 国产一区二区激情短视频| 69人妻影院| 亚洲成人久久爱视频| 蜜桃久久精品国产亚洲av| 午夜视频国产福利| 动漫黄色视频在线观看| 国产真实伦视频高清在线观看 | 国产一区二区亚洲精品在线观看| 性色avwww在线观看| 日本 欧美在线| 欧美成人性av电影在线观看| 亚洲内射少妇av| 黄色女人牲交| 波多野结衣高清无吗| 老熟妇乱子伦视频在线观看| 亚洲无线观看免费| 日韩一区二区视频免费看| 中文字幕人妻熟人妻熟丝袜美| 久久久久精品国产欧美久久久| 两人在一起打扑克的视频| 久久国内精品自在自线图片| 夜夜爽天天搞| 最近视频中文字幕2019在线8| 国产男人的电影天堂91| 亚洲av美国av| 99热网站在线观看| 精品国产三级普通话版| 亚洲精品亚洲一区二区| 国产三级在线视频| 长腿黑丝高跟| 午夜精品在线福利| a在线观看视频网站| 久久精品影院6| 久久精品国产清高在天天线| 2021天堂中文幕一二区在线观| 22中文网久久字幕| 尾随美女入室| 亚洲中文日韩欧美视频| 国内精品久久久久精免费| 国产aⅴ精品一区二区三区波| 亚洲天堂国产精品一区在线| 亚洲,欧美,日韩| 大型黄色视频在线免费观看| 国产一区二区三区在线臀色熟女| 日本在线视频免费播放| 一区二区三区高清视频在线| 嫩草影院精品99| 91精品国产九色| 变态另类成人亚洲欧美熟女| 欧美一区二区国产精品久久精品| 亚洲av不卡在线观看| av福利片在线观看| 听说在线观看完整版免费高清| 欧美中文日本在线观看视频| 亚洲国产高清在线一区二区三| eeuss影院久久| 免费看美女性在线毛片视频| 国产中年淑女户外野战色| 精品久久久噜噜| av福利片在线观看| 我的女老师完整版在线观看| 亚洲欧美清纯卡通| 国产av一区在线观看免费| 国产极品精品免费视频能看的| 男人舔女人下体高潮全视频| 一个人免费在线观看电影| 在线免费观看不下载黄p国产 | 亚洲乱码一区二区免费版| a级毛片a级免费在线| 免费观看的影片在线观看| 尤物成人国产欧美一区二区三区| 国产视频一区二区在线看| 国产不卡一卡二| 国产伦人伦偷精品视频| 女人被狂操c到高潮| 亚洲午夜理论影院| ponron亚洲| 国产国拍精品亚洲av在线观看| 最后的刺客免费高清国语| 亚洲国产精品久久男人天堂| 欧美日韩综合久久久久久 | 免费在线观看影片大全网站| 久久久久久久久久黄片| 精品欧美国产一区二区三| 精品人妻一区二区三区麻豆 | 亚洲成a人片在线一区二区| 天堂网av新在线| 女同久久另类99精品国产91| 亚州av有码| 最后的刺客免费高清国语| 色尼玛亚洲综合影院| 老司机深夜福利视频在线观看| 久久欧美精品欧美久久欧美| 九九热线精品视视频播放| 熟女人妻精品中文字幕| 国产中年淑女户外野战色| 在线免费观看的www视频| 丝袜美腿在线中文| 欧洲精品卡2卡3卡4卡5卡区| 成年版毛片免费区| 精品一区二区免费观看| 一本久久中文字幕| 久久国产精品人妻蜜桃| 永久网站在线| 国产黄a三级三级三级人| 亚洲精品久久国产高清桃花| 天堂网av新在线| 久久精品91蜜桃| 亚洲一级一片aⅴ在线观看| videossex国产| 人妻久久中文字幕网| 熟妇人妻久久中文字幕3abv| 亚洲精品成人久久久久久| 少妇裸体淫交视频免费看高清| 在线看三级毛片| 亚洲欧美日韩高清在线视频| 国产乱人视频| 久久精品综合一区二区三区| 久久久久性生活片| 在线观看舔阴道视频| 日韩一本色道免费dvd| 99在线人妻在线中文字幕| 免费观看的影片在线观看| 亚洲人成网站高清观看| 悠悠久久av| 少妇的逼好多水| 久久久久国内视频| 性色avwww在线观看| bbb黄色大片| 日本撒尿小便嘘嘘汇集6| 干丝袜人妻中文字幕| 欧洲精品卡2卡3卡4卡5卡区| 亚洲人成网站高清观看| 亚洲av五月六月丁香网| 人妻制服诱惑在线中文字幕| 国产黄片美女视频| 欧美三级亚洲精品| 国产精品福利在线免费观看| 男女做爰动态图高潮gif福利片| 亚洲成人中文字幕在线播放| 少妇高潮的动态图| 欧美日韩黄片免| 在线观看免费视频日本深夜| 91久久精品电影网| 国产三级在线视频| 99热网站在线观看| 国产蜜桃级精品一区二区三区| 精品午夜福利在线看| 成人特级av手机在线观看| 欧美日韩乱码在线| 99九九线精品视频在线观看视频| 麻豆国产av国片精品| 亚洲精品456在线播放app | 特大巨黑吊av在线直播| 51国产日韩欧美| 亚洲欧美精品综合久久99| 午夜久久久久精精品| 久久久久精品国产欧美久久久| 国产在线男女| 欧美日韩综合久久久久久 | 窝窝影院91人妻| 国产精品电影一区二区三区| 国语自产精品视频在线第100页| 神马国产精品三级电影在线观看| 草草在线视频免费看| 国内揄拍国产精品人妻在线| 国产精品爽爽va在线观看网站| 丰满的人妻完整版| 午夜亚洲福利在线播放| 成人鲁丝片一二三区免费| 国产精品亚洲美女久久久| 午夜福利18| 99国产精品一区二区蜜桃av| 久久精品国产亚洲av天美| 在线天堂最新版资源| 97超视频在线观看视频| 亚洲国产高清在线一区二区三| 免费电影在线观看免费观看| 国产亚洲精品久久久com| 男女那种视频在线观看| 日韩欧美 国产精品| or卡值多少钱| 久久草成人影院| 亚洲色图av天堂| 国产精品一及| 成人鲁丝片一二三区免费| 日韩欧美 国产精品| 欧美xxxx黑人xx丫x性爽| 色5月婷婷丁香| 欧美精品国产亚洲| 久久人妻av系列| 成人三级黄色视频| 欧美丝袜亚洲另类 | 亚洲最大成人手机在线| 波野结衣二区三区在线| 一区二区三区四区激情视频 | 亚洲在线自拍视频| 免费av毛片视频| 国产单亲对白刺激| 亚洲真实伦在线观看| 麻豆成人午夜福利视频| av天堂中文字幕网| 一个人观看的视频www高清免费观看| 日日摸夜夜添夜夜添av毛片 | 色5月婷婷丁香| 亚洲内射少妇av| 国产大屁股一区二区在线视频| 久久国产乱子免费精品| 亚洲成a人片在线一区二区| 日韩欧美 国产精品| 亚洲va在线va天堂va国产| 欧美精品啪啪一区二区三区| 日本爱情动作片www.在线观看 | 神马国产精品三级电影在线观看| bbb黄色大片| 不卡一级毛片| 国产亚洲av嫩草精品影院| 亚洲经典国产精华液单| 欧美在线一区亚洲| 黄色配什么色好看| 亚洲美女黄片视频| 桃色一区二区三区在线观看| 国产男靠女视频免费网站| 麻豆成人午夜福利视频| 1000部很黄的大片| 日韩欧美精品免费久久| 变态另类成人亚洲欧美熟女| 成人午夜高清在线视频| 又黄又爽又免费观看的视频| 免费看美女性在线毛片视频| 国产成人一区二区在线| 极品教师在线免费播放| 久久久久免费精品人妻一区二区| 久久久精品欧美日韩精品| 大又大粗又爽又黄少妇毛片口| 国产精品久久久久久精品电影| 亚洲av不卡在线观看| 村上凉子中文字幕在线| 久久精品国产亚洲网站| 国产男靠女视频免费网站| 一进一出抽搐动态| 在线观看av片永久免费下载| 18禁黄网站禁片午夜丰满| 国产极品精品免费视频能看的| 97热精品久久久久久| 又黄又爽又免费观看的视频| 亚洲av熟女| 午夜视频国产福利| 久久人人爽人人爽人人片va| 欧美最黄视频在线播放免费| 哪里可以看免费的av片| 国产av麻豆久久久久久久| 亚洲熟妇中文字幕五十中出| 国产高清三级在线| 精品午夜福利在线看| 又爽又黄a免费视频| 国产av在哪里看| 国产成人av教育| 国产爱豆传媒在线观看| 国产精品美女特级片免费视频播放器| 国产老妇女一区| 中亚洲国语对白在线视频| 久久久久久久久久成人| 男女之事视频高清在线观看| 久久精品国产亚洲av涩爱 | 天堂动漫精品| 人妻丰满熟妇av一区二区三区| 国产精品久久久久久精品电影| 国产久久久一区二区三区| avwww免费| 人妻久久中文字幕网| 亚洲精品成人久久久久久| 成人二区视频| 亚洲精品成人久久久久久| 国产精品伦人一区二区| 少妇人妻一区二区三区视频| 性欧美人与动物交配| 国产精品无大码| 啦啦啦啦在线视频资源| 91av网一区二区| 亚洲aⅴ乱码一区二区在线播放| 欧美绝顶高潮抽搐喷水| 久久6这里有精品| 日韩,欧美,国产一区二区三区 | 变态另类成人亚洲欧美熟女| 久久久久九九精品影院| 国产午夜福利久久久久久| a在线观看视频网站| 欧美区成人在线视频| www.www免费av| 免费av不卡在线播放| 午夜福利在线观看吧| 亚洲av五月六月丁香网| 久久久久国内视频| 国产极品精品免费视频能看的| 欧美激情在线99| 亚洲va日本ⅴa欧美va伊人久久| 国内毛片毛片毛片毛片毛片| 久久精品国产亚洲av涩爱 | 淫秽高清视频在线观看| 欧美日韩国产亚洲二区| 欧美激情在线99| 少妇高潮的动态图| 91久久精品国产一区二区成人| 成年版毛片免费区| 亚洲av熟女| 成年版毛片免费区| 久久久久九九精品影院| 12—13女人毛片做爰片一| 乱系列少妇在线播放| 国产爱豆传媒在线观看| 久久精品国产亚洲网站| 美女免费视频网站| 国产精品永久免费网站| 久久久久久久久久黄片| 国产伦精品一区二区三区四那| 亚洲国产欧美人成| 91狼人影院| 制服丝袜大香蕉在线| 亚洲精华国产精华液的使用体验 | 国产黄a三级三级三级人| av专区在线播放| 淫秽高清视频在线观看| 免费看光身美女| 日韩av在线大香蕉| 中文亚洲av片在线观看爽| 亚洲四区av| 免费在线观看影片大全网站| 午夜爱爱视频在线播放| 自拍偷自拍亚洲精品老妇| 91精品国产九色| 成人国产麻豆网| 在线播放国产精品三级| 亚洲av美国av| 亚洲av中文字字幕乱码综合| 免费观看人在逋| 日韩国内少妇激情av| 色播亚洲综合网| 亚洲色图av天堂| 天天躁日日操中文字幕| 欧美区成人在线视频| 日本欧美国产在线视频| 亚洲av中文av极速乱 | 婷婷六月久久综合丁香| 日韩欧美在线二视频| 香蕉av资源在线| 国产在视频线在精品| 国产精品,欧美在线| 99热这里只有是精品50| 国产av不卡久久| 少妇的逼水好多| 日韩强制内射视频| 国产精品野战在线观看| 香蕉av资源在线| 狂野欧美白嫩少妇大欣赏| 天天一区二区日本电影三级| 亚洲国产欧美人成| 蜜桃久久精品国产亚洲av| 大型黄色视频在线免费观看| 欧美性猛交╳xxx乱大交人| 亚洲av电影不卡..在线观看| 色综合色国产| 国产精品,欧美在线| 人妻少妇偷人精品九色| 国产亚洲精品综合一区在线观看| www日本黄色视频网| 久久午夜福利片| 可以在线观看毛片的网站| 亚洲自拍偷在线| 夜夜爽天天搞| 日韩欧美国产在线观看| 精品一区二区三区人妻视频| 狠狠狠狠99中文字幕| 国产综合懂色| 欧美又色又爽又黄视频| 午夜精品久久久久久毛片777| 免费观看在线日韩| 国产成人影院久久av| 变态另类成人亚洲欧美熟女| 亚洲黑人精品在线| 又黄又爽又免费观看的视频| 日本a在线网址| 伦精品一区二区三区| 极品教师在线免费播放| 亚洲成av人片在线播放无| 男女边吃奶边做爰视频| 国产探花在线观看一区二区| 国产老妇女一区| 久久精品国产清高在天天线| 欧美日韩亚洲国产一区二区在线观看| 亚洲精品在线观看二区| 国产真实乱freesex| 成年女人看的毛片在线观看| 天天躁日日操中文字幕| 国产探花极品一区二区| 久久久久久大精品| 日日夜夜操网爽| 久久精品影院6| 中文资源天堂在线| 97热精品久久久久久| 国产女主播在线喷水免费视频网站 | а√天堂www在线а√下载| 亚洲在线自拍视频| 日本色播在线视频| 成年人黄色毛片网站| 1000部很黄的大片| 别揉我奶头~嗯~啊~动态视频| 国产乱人视频| 精品久久久久久久末码| 国产在线男女| 免费av毛片视频| 日韩 亚洲 欧美在线| 搡老熟女国产l中国老女人| 男女下面进入的视频免费午夜| 中国美女看黄片| 亚洲午夜理论影院| 免费av毛片视频| 久久久久性生活片| 国产伦在线观看视频一区| 热99在线观看视频| 精品无人区乱码1区二区| 久久久久久久久久成人| 国产私拍福利视频在线观看| 韩国av在线不卡| 久久精品91蜜桃| 日本免费a在线| 女的被弄到高潮叫床怎么办 | 欧美成人一区二区免费高清观看| 看黄色毛片网站| 成人三级黄色视频| 午夜激情福利司机影院| 网址你懂的国产日韩在线| 99在线人妻在线中文字幕| 亚洲不卡免费看| 男人舔奶头视频| 日本 欧美在线| 在线观看66精品国产| 99九九线精品视频在线观看视频| 亚洲欧美日韩高清在线视频| 久久久久久久午夜电影| 麻豆一二三区av精品| 亚洲精品国产成人久久av| 91在线观看av| 69av精品久久久久久| 欧美+日韩+精品| 亚洲av美国av| 精品一区二区三区av网在线观看| 深夜精品福利| 91精品国产九色| 精品一区二区三区视频在线观看免费| 久久久久九九精品影院| 12—13女人毛片做爰片一| 亚洲人成伊人成综合网2020| 一级a爱片免费观看的视频| 又爽又黄无遮挡网站| 五月伊人婷婷丁香| 黄色丝袜av网址大全| 波多野结衣高清作品| 中文字幕久久专区| 哪里可以看免费的av片| 亚洲午夜理论影院| 俄罗斯特黄特色一大片| 看片在线看免费视频| 黄色视频,在线免费观看| 日本熟妇午夜| 97热精品久久久久久| 日本黄大片高清| 色哟哟哟哟哟哟| 男人和女人高潮做爰伦理| 22中文网久久字幕| 欧美色欧美亚洲另类二区| 国产不卡一卡二| 男女那种视频在线观看| 免费高清视频大片| 欧美高清性xxxxhd video| 黄色女人牲交| 十八禁国产超污无遮挡网站| 88av欧美| 国产成人a区在线观看| 久久久久久伊人网av| 久久久久久久久久久丰满 | 亚洲18禁久久av| 亚洲av成人精品一区久久| 久久精品国产亚洲av香蕉五月| 国产v大片淫在线免费观看| 亚洲乱码一区二区免费版| 亚洲人成伊人成综合网2020| 91午夜精品亚洲一区二区三区 | 国产高清不卡午夜福利| 久久亚洲真实| 少妇高潮的动态图| 一区二区三区四区激情视频 | av视频在线观看入口| 欧美激情国产日韩精品一区| 天美传媒精品一区二区| av天堂中文字幕网| av女优亚洲男人天堂| 久久人人精品亚洲av| 亚洲图色成人| 深夜精品福利| 日韩欧美在线乱码| 最近中文字幕高清免费大全6 | avwww免费| 久久久久久久久久久丰满 | 男女视频在线观看网站免费| 欧美不卡视频在线免费观看| 亚洲黑人精品在线| av福利片在线观看| 久久久久国内视频| 在线天堂最新版资源| 毛片女人毛片| 国产女主播在线喷水免费视频网站 | 真人做人爱边吃奶动态| 欧美日韩中文字幕国产精品一区二区三区| 窝窝影院91人妻| 亚洲精品国产成人久久av| 日韩在线高清观看一区二区三区 | 国产淫片久久久久久久久| 22中文网久久字幕| 日本撒尿小便嘘嘘汇集6| 国产一区二区在线观看日韩| 亚洲不卡免费看| 亚洲av成人av| 欧美最黄视频在线播放免费| 欧美性猛交╳xxx乱大交人| 亚洲av二区三区四区| 精品一区二区三区视频在线| 色在线成人网| 欧美日韩亚洲国产一区二区在线观看| 久久婷婷人人爽人人干人人爱|