• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    我國數(shù)字政務服務產(chǎn)業(yè)的發(fā)展及其問題消解方略
    ——以行政智能決策為中心的考察*

    2023-03-02 17:01:18
    吉首大學學報(社會科學版) 2023年6期
    關鍵詞:政務決策行政

    黃 昕

    (湖南工商大學,湖南 長沙 410205)

    一、引言

    在新一輪科技與產(chǎn)業(yè)革命的浪潮引領下,新一代信息技術的持續(xù)突破和創(chuàng)新,互聯(lián)網(wǎng)技術、大數(shù)據(jù)、云計算的迅速擴張,以及與相關產(chǎn)業(yè)的深度融合,為政府、企業(yè)、機構的創(chuàng)新模式、運作方式和決策行為提供了歷史機遇。國家發(fā)展改革委在2021年印發(fā)并實施的《“十四五”推進國家政務信息化規(guī)劃》中明確了推進政務信息化建設,堅持數(shù)據(jù)賦能,提高治理效能,逐步實現(xiàn)政務數(shù)字化決策和智能化監(jiān)管目標。2022年頒布的《國務院關于加強數(shù)字政府建設的指導意見》明確提出,在政府機構中要廣泛應用數(shù)字技術構建數(shù)字化、智能化的政府運行新形態(tài),從而優(yōu)化政府決策和提升運作效率。2023年2月,中共中央、國務院印發(fā)的《數(shù)字中國建設整體布局規(guī)劃》指出要“發(fā)展高效協(xié)同的數(shù)字政務”[1],這為我國數(shù)字政府建設規(guī)范了頂層設計要求。信息技術的發(fā)展為人工智能與政府治理的深度融合提供了基礎[2]。行政部門將借助人工智能輔助決策來應對高度復雜、高度不確定的后工業(yè)社會公共問題。通過計算機“算力”和“算法”等技術實現(xiàn)智能化的數(shù)據(jù)處理和分析,以提高決策行為和政務服務效率,推動決策行為從經(jīng)驗性向客觀性轉變,降低決策行為的風險和不確定因素,進而提高決策機制的規(guī)范性和政策預期的穩(wěn)定性和有效性[3]。隨著大模型的出現(xiàn),學界已經(jīng)開始關注ChatGPT引入數(shù)字政府的決策作用。毫無疑問,ChatGPT賦能數(shù)字政府提高其智能決策、智能管理和智能服務能力[4],有助于控制數(shù)字政府規(guī)模,強化數(shù)字政府監(jiān)督[5],但也隨之帶來了諸如提供虛假信息、泄露個人隱私和數(shù)據(jù)安全等問題[6]。

    數(shù)字政府是數(shù)字中國建設的關鍵環(huán)節(jié),是推進國家治理體系和治理能力現(xiàn)代化的重要舉措,是適應新一輪科技革命和產(chǎn)業(yè)變革的必然要求。數(shù)字技術的廣泛運用是工業(yè)革命后的一次顛覆性社會革命,工業(yè)革命作用于實體社會,對實體社會運行方式進行改良,而數(shù)字革命則是利用數(shù)字技術創(chuàng)造了新的空間[7]。科學技術的進步、智能基礎設施不斷完善、政府與社會切實需求共同推動了智能決策時代的到來。一方面,從全球發(fā)展的歷史經(jīng)驗和客觀規(guī)律來看,以智能化、數(shù)字化轉型實現(xiàn)智能決策是提升行政決策質量的必由之路[8]。另一方面,智能決策技術的進步及其能力邊界的不斷擴充,必將深刻改變產(chǎn)業(yè)發(fā)展模式與路徑,由此帶動相關產(chǎn)業(yè)的快速發(fā)展?,F(xiàn)實中,智能決策已被廣泛地應用于政府治理、政策制定、公共資源配置等領域[9]。例如,利用大數(shù)據(jù)技術能夠快速高效地對行政服務中出現(xiàn)的問題進行收集并分析,對城市交通、環(huán)境、公共安全等進行實時監(jiān)測和分析,幫助政府預測和響應各種突發(fā)事件;利用人工智能技術進行智能客服、智能問答等公共服務的優(yōu)化和提升,提高了政府工作的效率和政府服務的滿意度[10]等。

    隨著智能決策技術應用進程加快與程度加深,智能決策市場規(guī)模將迅速擴張,這為數(shù)字政務服務產(chǎn)業(yè)創(chuàng)造了廣闊的應用前景,也為我國制造業(yè)產(chǎn)業(yè)升級、數(shù)字化和智能化轉型,振興和提升制造業(yè)發(fā)展質量與效益,實現(xiàn)產(chǎn)業(yè)躍升提供了契機[11]。在數(shù)字政務服務產(chǎn)業(yè)基礎和規(guī)模、技術的商業(yè)化應用場景與前景方面,我國擁有其他國家難以匹敵的優(yōu)勢,然而如何識別和發(fā)揮這些優(yōu)勢,政府服務的這種數(shù)字化變革又會如何影響產(chǎn)業(yè)結構,以及影響程度有多大,學界論之甚少,甚至連行政智能決策這一概念也缺乏明確定義。數(shù)字政務服務產(chǎn)業(yè)快速發(fā)展的同時對政府制定的政策、法律和法規(guī)提出了新的更高要求,數(shù)字政務服務產(chǎn)業(yè)內(nèi)部也出現(xiàn)了諸如產(chǎn)業(yè)基礎創(chuàng)新投入不足、高端人才不足、產(chǎn)業(yè)供需結構性矛盾等問題。顯然,目前我國數(shù)字政務服務產(chǎn)業(yè)發(fā)展還缺乏明確的思路和策略。本文嘗試在已有的智能決策思想框架下,引入行政智能決策的概念,科學解讀數(shù)字政務服務產(chǎn)業(yè)的內(nèi)涵、系統(tǒng)構成及其應用領域,進一步厘清我國數(shù)字政務服務產(chǎn)業(yè)發(fā)展現(xiàn)狀和存在的問題,為我國數(shù)字政務服務產(chǎn)業(yè)發(fā)展提供可行的方案。

    二、以行政智能決策為中心的數(shù)字政務服務產(chǎn)業(yè)

    (一)行政智能決策的基本概念

    數(shù)據(jù)和智能技術加碼政府的決策、服務和治理,將數(shù)字政府發(fā)展推進至智能化階段。大數(shù)據(jù)決策是一種自下而上的治理方式,沒有預先假設,數(shù)據(jù)作為一種理念和意識,為決策提供依據(jù),并為社會治理提供一種新的思路和環(huán)境——依據(jù)數(shù)字特征安排公共事務[12]。行政智能決策是國家行政機關及其工作人員在處理國家政務和社會公共事務過程中,圍繞既定目標,利用大數(shù)據(jù)、人工智能、優(yōu)化算法、物聯(lián)網(wǎng)等多種智能技術和工具,對相關數(shù)據(jù)進行建模、分析并得出決策的過程。計算機科學和人工智能技術,能有效輔助行政主體及公共部門在行政智能過程中綜合約束條件、策略、偏好、不確定性等因素,自動實現(xiàn)最優(yōu)決策,以提高行政履職與決策的高效、精準和穩(wěn)定可靠[13]。行政智能決策具有典型的智能集約、決策主動性、自適應性和分布式特征。

    隨著人工智能技術、大數(shù)據(jù)、云計算等信息技術的快速發(fā)展,智能決策能力快速提升,智能決策越來越多地用于行政事務[14],并呈現(xiàn)出如下新功能:第一,行政智能決策實現(xiàn)了決策前置。以往政府都是在問題出現(xiàn)后再研究解決問題的方案與政策,錯過了最佳施政窗口期,增加了政策成本。隨著技術進步、模型參數(shù)不斷增加,智能決策感知水平不斷提升,智能決策系統(tǒng)能夠更早地感知到苗頭性、傾向性的治理問題[15],從而將決策前置[16]。第二,行政智能決策具備應對復雜決策的能力。行政智能決策產(chǎn)生于應對更加復雜的決策的需要[17]。例如,洛克希德·馬丁公司已經(jīng)研發(fā)出“綜合危機預警系統(tǒng)”,該系統(tǒng)可以用來監(jiān)視、評估和預測國家與地方的內(nèi)部危機。第三,行政智能決策反應迅速。行政智能決策能夠極大提升決策速度。根據(jù)美國國防創(chuàng)新單元實驗室的預測,量子計算可以把預算決策的速度和準確程度提高一個數(shù)量級。在金融市場上,基于人工智能算法的高頻交易已經(jīng)非常普遍,科技公司智能計算能力已經(jīng)遠超人工交易能力[18]。第四,行政智能決策具有自適應性。行政智能決策引入了對抗性訓練與決策,美國谷歌公司旗下的深度思維(DeepMind)公司開發(fā)出可以進行對抗性決策的智能技術,只需要通過自我對弈在對抗中學習并進化,就可實現(xiàn)決策能力指數(shù)級躍升[19]。第五,行政智能決策場景不斷擴充。隨著技術進步、各類大模型的出現(xiàn),智能決策進入了算法時代,應用領域不斷擴大,已經(jīng)在眾多領域應用[20]。美國國防部設立了“算法戰(zhàn)跨職能小組”,能夠利用人工智能準確模擬和分析戰(zhàn)爭,全面提升軍事決策的速度。

    (二)數(shù)字政務服務產(chǎn)業(yè)的內(nèi)涵及構成

    數(shù)字政務服務是指以新一代信息技術為支撐,重塑政務信息化管理架構、業(yè)務架構、技術架構,通過構建大數(shù)據(jù)驅動的政務新機制、新平臺、新渠道,進一步優(yōu)化調(diào)整政府內(nèi)部的組織架構、運作程序和管理服務,全面提升政府在經(jīng)濟調(diào)節(jié)、市場監(jiān)管、社會治理、公共服務、生態(tài)環(huán)境等領域的履職能力,形成“用數(shù)據(jù)對話、用數(shù)據(jù)決策、用數(shù)據(jù)服務、用數(shù)據(jù)創(chuàng)新”的現(xiàn)代化治理模式。行政智能決策能力提升是構建協(xié)同高效的政府數(shù)字化履職能力體系的重要組成部分,其對全面推進政府履職和政務運行數(shù)字化轉型,統(tǒng)籌推進各行業(yè)各領域政務應用系統(tǒng)集約建設、互聯(lián)互通、協(xié)同聯(lián)動,創(chuàng)新行政管理和服務方式,以及對全面提升政府履職效能都有著重要的支撐和驅動作用。數(shù)字政務服務產(chǎn)業(yè)重點圍繞政務云、智慧中臺、行業(yè)應用、城市大腦、安全等核心領域,繪制覆蓋產(chǎn)業(yè)鏈上下游關鍵環(huán)節(jié)的服務提供商圖譜,助力數(shù)字政務服務基礎設施建設和場景應用落地。

    1.基于行政智能決策的數(shù)字政務服務產(chǎn)業(yè)架構?;谥悄軟Q策的數(shù)字政務服務產(chǎn)業(yè)的產(chǎn)業(yè)鏈架構仍然由基礎層、技術層、應用層構成[21]。(1)基礎層是支撐行政智能決策的資源平臺[22],以包括硬件、軟件、服務器、存儲設備在內(nèi)的技術設施為基礎[23],以數(shù)據(jù)、算力、算法為核心[24],主要包括智能計算集群、智能模型敏捷開發(fā)工具、數(shù)據(jù)基礎服務與治理平臺三個板塊。(2)技術層作為人工智能產(chǎn)業(yè)的核心,主要依托基礎層的運算平臺和海量數(shù)據(jù)資源進行識別訓練和機器學習建模,以開發(fā)面向行政管理不同領域的應用技術,對應用層的產(chǎn)品智能化程度起著決定性作用[25]。技術層級又可以進一步分為通用技術層、AI軟件框架層和算法模型層。(3)應用層則是將技術能力與行政管理具體場景相融合,幫助政府降本增效,目前主要應用的場景有數(shù)字政府、數(shù)字經(jīng)濟、數(shù)字文化、數(shù)字社會、數(shù)字生態(tài)文明等領域[26]。應用層基于技術層的能力,解決行政管理過程中的具體決策問題[27]。例如,利用計算機視覺技術,實現(xiàn)人臉識別[28];利用智能語音技術,實現(xiàn)語音識別[29];利用自然語言處理技術,實現(xiàn)智能客服的人機交流[30];利用深度學習能力,利用大數(shù)據(jù)進行智能篩選[31]。

    2.以行政智能決策為中心的產(chǎn)業(yè)體系構成。數(shù)字政務服務產(chǎn)業(yè)體系主要包括核心產(chǎn)業(yè)、支撐產(chǎn)業(yè)、配套產(chǎn)業(yè)和衍生產(chǎn)業(yè)四個部分。核心產(chǎn)業(yè)是以公共行政職能數(shù)字化、智慧化為載體的產(chǎn)業(yè)群,如數(shù)字政府、智慧政務、城市大腦等。支撐產(chǎn)業(yè)主要包括直接支持行政智能決策的研發(fā)、加工、推介和金融支撐、媒體支持等產(chǎn)業(yè)群,如智慧中臺、數(shù)字基礎設施、政務云、物聯(lián)網(wǎng)、人工智能、區(qū)塊鏈、先進計算、政務大數(shù)據(jù)平臺等。配套產(chǎn)業(yè)主要包括為行政智能決策提供良好的環(huán)境和氛圍的產(chǎn)業(yè)群,如政務協(xié)同、電子印章、時空大數(shù)據(jù)中心等。衍生產(chǎn)業(yè)主要包括以行政智能決策成果為要素投入的其他產(chǎn)業(yè)群,如智慧旅游、智慧交通、智慧園區(qū)、智慧黨建、智慧應急、智慧公檢法等。

    3.依托行政智能決策的數(shù)字政務服務產(chǎn)業(yè)發(fā)展模式。該發(fā)展模式又可細分為四類:(1)行政智能決策數(shù)據(jù)收集和治理模式,這種模式主要基于自己擁有的強大數(shù)據(jù)流量,致力于數(shù)字政府以及政務云的數(shù)據(jù)收集與加工;(2)行政決策計算資源服務模式,該模式主要基于核心自研技術服務以及基于先進計算的服務資源提供行政智能決策;(3)行政數(shù)字化智能化技術服務,該模式主要為自己產(chǎn)品或者上游企業(yè)提供底層的行政智能決策技術服務,服務更多集中在技術接口對接;(4)“行政智能決策+”服務模式,該模式主要基于已形成的行政智能決策技術和產(chǎn)品,賦能某個相關聯(lián)產(chǎn)業(yè)。

    三、我國數(shù)字政務服務產(chǎn)業(yè)發(fā)展現(xiàn)狀

    (一)數(shù)字政務服務產(chǎn)業(yè)發(fā)展的典型特征

    1.數(shù)字政務服務產(chǎn)業(yè)整體步入成長期

    在我國,數(shù)字政務服務產(chǎn)業(yè)處于快速發(fā)展期,數(shù)字政務治理服務效能顯著增強。我國電子政務排名從2012年的78位上升至2022年的43位,成為全球增幅最高的國家[32]。從產(chǎn)業(yè)生命周期來看,整體上進入了成長期。從發(fā)展階段看,數(shù)字政務服務產(chǎn)業(yè)正處于商業(yè)化模式確定階段向多產(chǎn)業(yè)跨界聚合階段過渡期,具體表現(xiàn)為:產(chǎn)業(yè)規(guī)模快速增長,行政智能決策方面的理論和技術不斷成熟,訓練模型豐富程度不斷提高,決策的智能性和高效性持續(xù)增強。大型企業(yè)開始加入產(chǎn)業(yè)布局中,出現(xiàn)獨立的商業(yè)化行政智能決策平臺和軟件,其應用領域也迅速擴大,涉及智能政務、智慧城市、智慧交通、智能金融監(jiān)管、智慧園區(qū)、智慧公檢法等領域。《數(shù)字政府行業(yè)趨勢洞察報告(2022年)》顯示,我國數(shù)字政府市場規(guī)模保持高速增長,以政務云為例,2021年,我國政務云市場規(guī)模達到802.6億元,預計2023年將達到1 203.9億元。

    從產(chǎn)業(yè)格局來看,智能決策技術的不斷突破,成為產(chǎn)業(yè)增長的核心驅動力,推動了數(shù)字政務服務產(chǎn)業(yè)應用領域不斷擴展,形成了覆蓋面廣、服務用戶多、應用場景豐富、穩(wěn)定性要求高的特征。在不久的將來,數(shù)字政務服務行業(yè)生態(tài)將從垂直、分化的產(chǎn)業(yè)鏈分工演進到集約、共贏的生態(tài)共同體。在新產(chǎn)業(yè)、新業(yè)態(tài)、新商業(yè)模式經(jīng)濟建設的大背景下,行政智能決策將成為未來國際競爭的焦點和經(jīng)濟發(fā)展的新動能,數(shù)字政務服務產(chǎn)業(yè)鏈上的包括咨詢規(guī)劃、軟硬件和應用公共提供商在內(nèi)的各類參與者正面臨前所未有的發(fā)展機遇,產(chǎn)業(yè)鏈上中下游的各類企業(yè)也將更加緊密地融合在一起。

    從產(chǎn)業(yè)競爭的角度看,數(shù)字政務服務產(chǎn)業(yè)的競爭主要體現(xiàn)在技術、解決方案、市場拓展、服務質量以及人才等方面。作為一個技術密集型產(chǎn)業(yè),企業(yè)間良性競爭有效推動了技術創(chuàng)新,例如,百度的語音、圖像、NLP、對話式人工智能系統(tǒng)、智能駕駛系統(tǒng)等多項技術在競爭中脫穎而出。云從科技的人機協(xié)同操作系統(tǒng),將感知、認知、決策的核心技術閉環(huán)運用于跨場景、跨行業(yè)的智慧解決方案,打造智能決策系統(tǒng),實現(xiàn)人工智能技術閉環(huán)。科大訊飛對智能語音、自然語言理解、計算機視覺等核心技術的研究處于行業(yè)領先地位。

    2.軟硬件基礎設施建設呈爆發(fā)增長態(tài)勢

    隨著技術進步和應用場景的擴展,軟件基礎設施建設成為數(shù)字政務服務產(chǎn)業(yè)的核心部分。以政務云、數(shù)據(jù)庫、移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等數(shù)字基礎設施為核心內(nèi)容的建設投入快速增長。具體涉及以下內(nèi)容:數(shù)據(jù)挖掘和分析軟件、決策支持系統(tǒng)軟件、人工智能算法庫、智能算法軟件和可視化工具軟件等。就我國的情況來看,政府采購的政務數(shù)據(jù)分析、政策決策支持等軟件的市場規(guī)模呈現(xiàn)爆發(fā)式增長態(tài)勢。隨著數(shù)字政務服務建設不斷推進與深化,政府信息化市場規(guī)模已從2016年的2 499億元增長至2021年的3 997億元,復合年增長率為9.8%,遠超同期GDP增長速度。預計2023年市場規(guī)模將達到4 617億元。硬件基礎設施由人工智能計算子系統(tǒng)、存儲子系統(tǒng)、網(wǎng)絡互聯(lián)子系統(tǒng)組成。其中,人工智能芯片是人工智能硬件基礎設施中人工智能算力最重要的承載。隨著2020年新型基礎設施建設相關政策出臺,我國數(shù)字政務服務產(chǎn)業(yè)的硬件設施建設步入了快車道。一方面,各省市區(qū)投入資金大力建設智算中心、數(shù)據(jù)中心、云計算、服務器平臺等設施;另一方面,在設施設備革新和技術儲備部分,形成了較為先進、高效和安全的基礎設施設備體系。據(jù)浪潮人工智能研究院測算,到2025年,全球算力規(guī)模將達到6.8ZFLOPS(FP16),是當前算力規(guī)模的20余倍。

    3.初步形成行政決策智能技術生態(tài)系統(tǒng)

    數(shù)字政務服務產(chǎn)業(yè)結構分為技術提供商、硬件生產(chǎn)商和系統(tǒng)集成商三個部分。技術集成商主要是一些科技公司和軟件企業(yè),這些企業(yè)致力于研發(fā)智能算法和機器學習、大數(shù)據(jù)和云計算等相關技術,并將其應用于行政智能決策,例如,IBM、Microsoft、百度、阿里巴巴等公司。硬件生產(chǎn)商主要是一些傳感器和設備制造商。這些企業(yè)生產(chǎn)各種傳感器和設備,如氣象傳感器、監(jiān)控攝像頭、智能終端等,用于數(shù)據(jù)采集和傳輸,常見的硬件生產(chǎn)商包括華為、中興、海康威視等企業(yè)。服務提供商主要是一些專業(yè)的行政智能決策服務公司,這些企業(yè)通過將自己的技術和服務包裝成為行政智能決策服務,來滿足客戶的需求,例如,匯能智業(yè)、北京啟明星辰等企業(yè)。隨著生態(tài)系統(tǒng)的技術、資源和創(chuàng)新水平的不斷提升,一方面,提高了行政決策的智能性和高效性,使得行政管理和服務現(xiàn)代化和精細化,另一方面,推動了政務服務產(chǎn)業(yè)結構的優(yōu)化和升級,促進產(chǎn)業(yè)良性發(fā)展。盡管數(shù)字政務服務產(chǎn)業(yè)發(fā)展的時間不長,但由于技術迭代速度快、創(chuàng)新頻出,產(chǎn)業(yè)結構持續(xù)優(yōu)化,我國數(shù)字政務服務產(chǎn)業(yè)已經(jīng)初步成型,形成較為完整的生態(tài)系統(tǒng),主要包括決策智能技術、應用場景、行業(yè)應用和生態(tài)伙伴等方面。

    4.逐步演化出行政智能決策的新模式

    數(shù)字政務服務產(chǎn)業(yè)將逐步由現(xiàn)有的商業(yè)模式轉向新型服務模式。一方面,在市場業(yè)態(tài)和增長模式快速變化下,產(chǎn)業(yè)內(nèi)部分企業(yè)正在實施以兼并收購為手段的擴張戰(zhàn)略。諸多智能化企業(yè)通過收購智能決策團隊實現(xiàn)企業(yè)擴張,從而以較低的機會成本獲得核心競爭力,塑造出新型商業(yè)擴張模式。數(shù)字政務服務產(chǎn)業(yè)不同于傳統(tǒng)產(chǎn)業(yè),傳統(tǒng)企業(yè)生產(chǎn)產(chǎn)品標準化、線性供應鏈固化使得技術團隊作用相對不高,而數(shù)字政務服務產(chǎn)業(yè)技術性強,其團隊作用非常高,其重要性不亞于產(chǎn)品效益。另一方面,智能決策業(yè)態(tài)變革與商業(yè)模式創(chuàng)新共同進化,智能決策技術能力、產(chǎn)品服務、業(yè)務流程、合作關系和商業(yè)模式隨時間推移迭代演進。由于冗長的產(chǎn)品實驗期和缺失的專利期,行政智能決策產(chǎn)品不斷發(fā)展并開始使用替代性收入模式,以產(chǎn)品無償試用的形式吸引客戶使用,進而通過客戶數(shù)據(jù)提升算法和產(chǎn)品及服務質量反過來吸引更多客戶,形成良性循環(huán)。該商業(yè)模式降低了行業(yè)壁壘,能拉動產(chǎn)品高質量生產(chǎn)并且縮短產(chǎn)品生產(chǎn)周期,帶來了數(shù)據(jù)網(wǎng)絡效應。由此可見,未來產(chǎn)業(yè)的商業(yè)模式將從售賣“產(chǎn)品/解決方案”向售賣“服務”轉變。

    5.大模型推動數(shù)字社會向智能社會快速躍升

    大模型一出現(xiàn)便在快速進化,目前已經(jīng)形成包括各種參數(shù)規(guī)模、各種技術架構、各種模態(tài)、各種場景的大模型家族。從參數(shù)規(guī)模上看,大模型經(jīng)歷了預訓練模型、大規(guī)模預訓練模型、超大規(guī)模預訓練模型三個階段,千億級參數(shù)規(guī)模的大模型已經(jīng)成為當前的主流。從技術架構上看,Trans former架構是當前大模型領域主流的算法架構基礎,在此基礎上又形成了GPT和BERT兩條主要的技術路線,當前幾乎所有參數(shù)規(guī)模超過千億的大型語言模型都采取GPT模式。從模態(tài)上來看,大模型可分為自然語言處理大模型、CV大模型、科學計算大模型等。從應用領域來看,大模型可分為通用大模型和行業(yè)大模型兩種。通用大模型具有強大泛化能力,可在不進行微調(diào)或少量微調(diào)的情況下完成多場景任務,相當于AI完成了“通識教育”,ChatGPT、華為的盤古都是通用大模型。行業(yè)大模型則利用行業(yè)知識對大模型進行微調(diào),讓AI完成“專業(yè)教育”,以滿足政務、金融、能源、傳媒、制造等不同領域的需求。2023年3月,OpenAI公司最新發(fā)布了超大規(guī)模多模態(tài)預訓練大模型GPT ̄4,該模型具備了多模態(tài)理解與多類型內(nèi)容生成能力。以GPT為代表的各種大模型是人工智能時代的“操作系統(tǒng)”,將重構、重寫數(shù)字化應用,極大地推動了數(shù)字社會向智能社會躍升,同時將行政智能決策提高到新高度。

    6.法律和政策環(huán)境日趨完善

    國家和地方關于智能決策的制度政策與法律法規(guī)正不斷完善,對產(chǎn)業(yè)發(fā)展起到保護、規(guī)范與促進作用。在國家層面,2017年,國家出臺的《網(wǎng)絡安全法》《中國人工智能發(fā)展戰(zhàn)略》提出了產(chǎn)業(yè)發(fā)展戰(zhàn)略規(guī)劃與目標。2018年,國務院印發(fā)《加快推進全國一體化在線政務服務平臺建設的指導意見》,提出了加快建設全國一體化在線政務服務平臺。2022年3月,我國發(fā)布的《關于加強科技倫理治理的意見》提出,應加快完善科技倫理體系,有效防控科技倫理風險。2022年7月至8月,我國先后發(fā)布《關于加快場景創(chuàng)新以人工智能高水平應用促進經(jīng)濟高質量發(fā)展的指導意見》和《關于支持建設新一代人工智能示范應用場景的通知》兩大政策,旨在打造智能決策應用場景,探索行政智能決策發(fā)展新路徑,以促進經(jīng)濟高質量發(fā)展。在地方層面,各省市出臺了相關地方性法規(guī)和政策。2022年9月6日,《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》公布,是全國首部人工智能產(chǎn)業(yè)專項立法,提出創(chuàng)新產(chǎn)品準入制度,它要求政府構建人工智能產(chǎn)業(yè)公共數(shù)據(jù)資源體系,建立人工智能應用領域的公共數(shù)據(jù)共享目錄和共享規(guī)則,推動公共數(shù)據(jù)分類分級有序開放。2022年9月22日,《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》發(fā)布,是全國首部促進人工智能產(chǎn)業(yè)發(fā)展的省級地方性法規(guī)。2022年8月24日,《哈爾濱市建設國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)若干政策》發(fā)布,主要包括人工智能關鍵技術攻關、創(chuàng)新平臺建設、產(chǎn)業(yè)載體建設、場景應用等十個方面。

    (二)數(shù)字政務服務產(chǎn)業(yè)發(fā)展存在的問題

    1.基礎創(chuàng)新投入不足,數(shù)據(jù)管理體系松散

    從企業(yè)研發(fā)創(chuàng)新角度出發(fā),我國相關企業(yè)的創(chuàng)新研發(fā)支出仍遠遠落后于美國、歐洲和日本。根據(jù)OECD等機構在2021年公布的數(shù)據(jù),從各國具體研發(fā)支出來看,美國持續(xù)位居全球第一;從增長趨勢來看,中國科技研發(fā)投入的增長速度要明顯高于其他國家,但實際占據(jù)的全球科技支出份額明顯小于美國。數(shù)字政務服務產(chǎn)業(yè)需要海量的數(shù)據(jù)作為基礎,但目前在數(shù)據(jù)收集、整合和管理方面還存在諸多的現(xiàn)實問題:一是數(shù)據(jù)來源不夠全面、數(shù)據(jù)質量不高、數(shù)據(jù)格式不統(tǒng)一,以及部分區(qū)域、部分群體乃至部分階層決策相關信息未能進入行政決策支持信息系統(tǒng)。二是產(chǎn)業(yè)技術標準系統(tǒng)尚未統(tǒng)一,由于該產(chǎn)業(yè)涉及的技術范疇較廣,目前還沒有出臺統(tǒng)一的技術標準,這使得不同市場主體的智能決策服務之間存在著互不兼容的問題。三是智能決策系統(tǒng)安全和隱私保護存在漏洞。隨著智能決策應用帶來的潛在風險及不確定因素的增加,社會倫理問題日益突出,加上涉及大量的個人和敏感信息,如果安全和隱私保護措施不到位,將會帶來較大的系統(tǒng)風險和挑戰(zhàn)。

    2.供需矛盾較為突出,潛在需求仍不明晰

    目前,我國數(shù)字政務服務產(chǎn)業(yè)的供需在總量上基本平衡,但結構性不平衡問題較為突出:一是技術創(chuàng)新和產(chǎn)業(yè)應用之間存在脫節(jié)。因為存在算法黑箱,數(shù)據(jù)處理具有隱私性,相關創(chuàng)新性技術例如ChatGPT、GPT4.0等輔助決策類工具不能及時應用于相關產(chǎn)品之中,造成技術與產(chǎn)業(yè)應用的脫節(jié)。二是決策技術與業(yè)務需求之間存在不匹配現(xiàn)象。傳統(tǒng)企業(yè)的智能化程度整體上偏低,導致智能決策系統(tǒng)技術與企業(yè)業(yè)務需求存在數(shù)字鴻溝,造成了智能決策技術與業(yè)務需求間的不匹配。以制造業(yè)為例,業(yè)務信息化水平不足造成了場景數(shù)據(jù)獲取困難,研發(fā)投入大和交付周期長,成為一部分企業(yè)轉型升級的制約因素。三是潛在需求尚不明確?,F(xiàn)實中,智能決策場景在金融和零售領域的運用較為成熟,但是數(shù)字政務服務產(chǎn)業(yè)的應用場景開發(fā)還處于初級階段,導致部分潛在需求尚未被挖掘出來,制約了軟件開發(fā)商、系統(tǒng)集成商、數(shù)據(jù)分析機構等市場主體的供給規(guī)模和能力,難以實現(xiàn)供求的精準匹配。

    3.產(chǎn)業(yè)鏈發(fā)展尚不完整,企業(yè)缺乏協(xié)同創(chuàng)新性

    一是數(shù)字政務服務產(chǎn)業(yè)涉及領域眾多,但各領域的技術成熟度相對較低,統(tǒng)一技術規(guī)范和應用標準相對缺乏,削弱了產(chǎn)業(yè)鏈的完整性。不同企業(yè)之間在技術、標準、應用等方面缺乏協(xié)同和合作,會影響整個產(chǎn)業(yè)鏈發(fā)展的協(xié)調(diào)性,進而影響產(chǎn)業(yè)的整體水平。二是產(chǎn)業(yè)鏈內(nèi)企業(yè)關聯(lián)度不夠,缺乏協(xié)同創(chuàng)新性。由于信息和技術滯后所帶來的信息不對稱問題,技術成熟的企業(yè)會擠占技術水平相對落后企業(yè)的市場份額,甚至導致該企業(yè)被市場淘汰,形成行業(yè)壟斷。三是成本較高。成本包括技術研發(fā)成本、數(shù)據(jù)儲蓄和處理成本以及安全和隱私保護成本三個部分。行政智能決策需要技術支撐,包括大數(shù)據(jù)采集、數(shù)據(jù)挖掘、人工智能算法等。這些技術研發(fā)需要大量的資金投入和技術積累;行政智能決策需要處理大量的數(shù)據(jù),包括結構化和非結構化數(shù)據(jù),這些數(shù)據(jù)需要存儲在高性能的服務器和數(shù)據(jù)庫中進行處理和分析,而這些設備和軟件的成本較高;行政智能決策處理敏感信息時必須要保證數(shù)據(jù)的安全和隱私保護,這也需要投入大量的資金和技術支持。

    4.政策措施未有效落實,創(chuàng)新主體積極性受挫

    數(shù)字政務服務產(chǎn)業(yè)作為以數(shù)據(jù)與技術為基礎的產(chǎn)業(yè),在其發(fā)展過程中面臨著一系列政策與監(jiān)管的問題:一是政策法規(guī)與決策類技術創(chuàng)新的匹配度不高。考慮到智能決策技術的輔助性特點,在商業(yè)化應用時,相應的法律、法規(guī)需要重新界定,包括如何區(qū)分責任承擔,如何有效監(jiān)管等。在面對風險承擔問題時進行清晰的界定,在一定程度上規(guī)避技術漏洞和倫理問題。二是在新產(chǎn)品研發(fā)過程中,普遍存在投融資活躍度較低、知識產(chǎn)權保護意識薄弱、對國家和地方出臺的相關政策認識不到位或解讀不全面等問題,造成國家和地方政府相關優(yōu)惠政策未能有效落實。三是監(jiān)管透明化不足,以及知識產(chǎn)權保護漏洞,一方面導致不少智能決策企業(yè)自主研發(fā)的科技產(chǎn)品成為他人的“果實”,極大地挫傷了技術創(chuàng)新企業(yè)的積極性;另一方面給中小規(guī)模市場主體的投融資帶來了負面影響,容易造成其智能技術研發(fā)過程受阻,無法形成完整的產(chǎn)業(yè)鏈,最終導致資金鏈斷流和投資方撤資等一系列問題。

    5.信息采集規(guī)制嚴格,決策功能場景受限

    2021年8月,國家通過了《中華人民共和國個人信息保護法》,該法律明確規(guī)定,不得過度收集個人信息,對大數(shù)據(jù)殺熟、人臉信息等敏感個人信息的處理作出了規(guī)制,完善了個人信息保護投訴、舉報工作機制,對于包括金融機構在內(nèi)的各類用戶數(shù)據(jù)共享也進行了進一步規(guī)范。顯然,行政智能決策離不開大數(shù)據(jù),在《中華人民共和國個人信息保護法》出臺之前,機構、企業(yè)對于數(shù)據(jù)的采集相對容易,充足的數(shù)據(jù)量使智能決策生成的算法模型更加精準,覆蓋的場景也更為寬泛。在該法律出臺之后,對于數(shù)據(jù)采集的限制,如生物識別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行為軌跡等都成為了受保護個人的敏感信息,這使得智能決策中可用于模型的重要數(shù)據(jù)大幅度減少。在維持決策精準度不變的前提下,法律法規(guī)對決策產(chǎn)品的算法和模型提出了更高要求,也對行政智能決策的功能擴張能力和場景延伸能力有一定的限制。

    6.高端技術人才缺失,智庫建設相對滯后

    當前數(shù)字政務服務產(chǎn)業(yè)存在中高端復合型專業(yè)技術人才缺失的結構性矛盾。行政智能決策技術的不斷更新和市場應用場景的不斷擴展,拉高了市場對高素質、高水平的復合型專業(yè)人才的需求,導致我國當前專業(yè)人才的培養(yǎng)難以滿足市場需求。其一,數(shù)字政務服務產(chǎn)業(yè)技術涉及人工智能、大數(shù)據(jù)、數(shù)據(jù)挖掘、機器學習等前沿技術。這些技術需要具備深厚的理論功底和專業(yè)技能才能得以掌握,但是市場缺乏足夠數(shù)量的高素質技術人才。其二,智能決策不僅涉及技術,還涉及決策實踐經(jīng)驗,現(xiàn)有的專業(yè)技術人員往往缺乏決策實踐經(jīng)驗,難以根據(jù)實際需求和場景提供合適的解決方案。其三,數(shù)字政務服務產(chǎn)業(yè)的高風險和高壓力特征,導致專業(yè)人才因工作壓力大、發(fā)展空間受限、收入水平不高等原因流失。數(shù)字政務服務產(chǎn)業(yè)智庫建設相對滯后表現(xiàn)為:專業(yè)智庫的機構設置、職能分工尚不完善,專業(yè)智庫建設缺乏有效的資金支持和資源保障,專業(yè)智庫的研究戰(zhàn)略和方向尚不明晰,專業(yè)智庫發(fā)展落后于智能決策技術創(chuàng)新、市場業(yè)態(tài)變革和應用場景擴展。

    四、數(shù)字政務服務產(chǎn)業(yè)發(fā)展的政策建議

    (一)優(yōu)化政策引導機制,促進產(chǎn)業(yè)創(chuàng)新發(fā)展

    針對數(shù)字政務服務產(chǎn)業(yè)的特征,做好頂層設計。將創(chuàng)新驅動發(fā)展戰(zhàn)略重點集中在制度創(chuàng)新、技術創(chuàng)新和人才創(chuàng)新方面,并制定創(chuàng)新策略。首先,在政策制度方面,數(shù)字政務服務產(chǎn)業(yè)需要制度創(chuàng)新、體制改革以適應新局勢和新需求,進而推動經(jīng)濟增長模式的轉變。數(shù)字政務服務產(chǎn)業(yè)發(fā)展對軟環(huán)境的要求高于制造業(yè),要適應內(nèi)外部新趨勢和新需求,積極主動地推進經(jīng)濟體制、行業(yè)市場化改革,綜合改善產(chǎn)業(yè)行政和法律環(huán)境,為產(chǎn)業(yè)創(chuàng)新奠定良好的制度基礎。其次,在技術經(jīng)營方面,技術創(chuàng)新是產(chǎn)業(yè)擴容、升級、優(yōu)化的動力來源,要加大對人工智能技術研發(fā)獎勵力度,利用技術與管理的創(chuàng)新促進產(chǎn)業(yè)的快速發(fā)展;要不斷創(chuàng)新制度和經(jīng)營管理模式,激勵從業(yè)者積極努力學習,引進先進技術和管理經(jīng)驗,全力加快行業(yè)發(fā)展,實現(xiàn)技術創(chuàng)新,實現(xiàn)現(xiàn)代化發(fā)展。再次,在人才引進方面,創(chuàng)新人才引入的多元化激勵機制,探索多要素分配模式和途徑,并建立多元化的收入分配和激勵機制,切實改善用人留人環(huán)境,實現(xiàn)人才創(chuàng)新。

    積極推進政府和企業(yè)數(shù)字化轉型,做大市場,助力數(shù)字政務服務產(chǎn)業(yè)發(fā)展。一方面,積極推進政府數(shù)字化轉型,提高政府信息化水平和服務能力,為行政智能決策提供基礎設施和平臺支持,盡快形成支撐智能決策的算據(jù)、算力、算法和算網(wǎng)體系。支持行政智能決策相關企業(yè)和機構的建設與發(fā)展,搭建行政智能決策平臺,為政府部門和社會各界提供技術支持與服務。另一方面,設立產(chǎn)業(yè)專項基金,加強資金和資源投入,強化面向數(shù)字政務服務產(chǎn)業(yè)發(fā)展應用的5G網(wǎng)絡、邊緣計算硬件新興信息基礎設施建設,科學測算各行業(yè)企業(yè)自動化、智能化改造的產(chǎn)出和效果,引導企業(yè)找準技術研發(fā)投入的切入點,合理利用智能決策技術,以期實現(xiàn)數(shù)字化轉型和高質量發(fā)展。

    (二)發(fā)揮政府統(tǒng)籌作用,有序推進政策落實

    加快構建“智能生態(tài)環(huán)境”,保障數(shù)字政務服務產(chǎn)業(yè)穩(wěn)定發(fā)展。充分發(fā)揮政府的主導作用,建立健全數(shù)據(jù)治理的框架體系和規(guī)則秩序,理順并設置數(shù)據(jù)管理的體制機制、數(shù)據(jù)開放共享的策略機制,制定數(shù)據(jù)治理的規(guī)則標準,落實數(shù)據(jù)安全及隱私保護的法律法規(guī)等。政府應推動構建有利于數(shù)字政務服務產(chǎn)業(yè)自身發(fā)展的“智能生態(tài)環(huán)境”,著力推進智能決策算法庫、解決方案庫、數(shù)據(jù)集和公共服務平臺建設。另外,政府應系統(tǒng)開展數(shù)字政務服務產(chǎn)業(yè)布局優(yōu)化工作,加大對現(xiàn)有優(yōu)勢技術的投資力度,推動產(chǎn)業(yè)結構持續(xù)優(yōu)化。推進數(shù)據(jù)與算法偏見的治理,針對以往部分區(qū)域、部分群體乃至部分階層決策相關信息未能進入行政決策信息系統(tǒng)的狀況,政府部門要重點關注,通過深入實施大數(shù)據(jù)戰(zhàn)略,不斷強化基礎信息平臺建設和公共智能應用擴散,有效收集特定行政決策視域范圍的公眾信息,提升信息資源的代表性和覆蓋面。針對數(shù)字政務服務產(chǎn)業(yè)中數(shù)據(jù)本身可能隱匿的社會偏見信息,可采用監(jiān)測治理手段。

    (三)堅持人本主義思想,明確技術輔助原則

    堅持智能決策實施過程中的人本主義思想,確立技術輔助性原則。政府要引導市場將智能決策系統(tǒng)研發(fā)與應用定位在彌補人類行為與判斷的不足上,更好地服務人類的生存發(fā)展。政府要在行政智能決策體制中確立技術輔助性的原則,明確人工智能技術在行政決策過程中的輔助性定位,不能將行政決策體制中的每個系統(tǒng)和每個環(huán)節(jié)完全交由智能系統(tǒng)操控。激勵和激發(fā)行政智能決策技術賦能產(chǎn)業(yè)發(fā)展,要有效激勵市場主體利用人工智能技術來開展數(shù)據(jù)收集、模型建立、規(guī)律探尋和決策支持等工作,組建數(shù)據(jù)管理和服務部門,實現(xiàn)數(shù)據(jù)有效開放、合理共享和有效監(jiān)管,提升政府部門政務處理的工作效率和質量,不斷將研究成果的市場和社會反饋用于智能決策技術和模型的改進提升。企業(yè)也應該把握產(chǎn)業(yè)發(fā)展規(guī)律,抓住關鍵點,做好數(shù)據(jù)支撐、信息量化和關聯(lián)分析等基礎性工作,最終實現(xiàn)智能行政決策系統(tǒng)高效、可靠、低成本運行,促進我國數(shù)字政務服務產(chǎn)業(yè)的可持續(xù)發(fā)展。

    (四)完善市場監(jiān)管體制,規(guī)范產(chǎn)業(yè)發(fā)展環(huán)境

    實現(xiàn)數(shù)字政務服務產(chǎn)業(yè)的良性發(fā)展,要建立管理規(guī)范的體制機制,營造健康的產(chǎn)業(yè)發(fā)展環(huán)境。政府應該建立并逐步完善行政智能決策規(guī)范管理機制和體制,加強對行政智能決策技術應用的監(jiān)督和管理,防止出現(xiàn)數(shù)據(jù)泄露、不當使用等問題。適當公開算法流程,及時向公眾披露智能決策算法的設計理念、原則標準,賦予公眾相應的程序權利,使其能夠要求政府部門聯(lián)合平臺機構就智能決策運行過程、推理情況等說明理由。建立第三方責任評估機構,客觀、合理評估各種風險,明確各方責任。加強數(shù)據(jù)共享和安全保障,強化政府在數(shù)字政務服務產(chǎn)業(yè)中的引領作用:一是加強數(shù)據(jù)安全保障。公民個人隱私的數(shù)據(jù)要采取加密保護措施,有效保護公民隱私和企業(yè)商業(yè)機密,防止個人或組織通過不恰當?shù)耐緩将@得數(shù)據(jù)以尋求自身利益。二是構建公共數(shù)據(jù)資源開放和共享平臺,促進政府、企業(yè)和公眾之間的數(shù)據(jù)融合與共享,以大數(shù)據(jù)為基礎,利用人工智能算法提高決策科學性。三是建立行政智能決策算法的風險評估機制,判斷其在具體應用場景中的適用可行性,明確政府領導和工作人員在人工智能技術使用過程中的具體責任,規(guī)避安全風險和算法歧視,推行技術分析和價值規(guī)范討論相結合的解決問題的思路。

    (五)強化權力約束措施,提高決策可追責性

    強化政府行政智能決策過程中的權力規(guī)制,以防止智能霸權和資本僭越,進一步提高行政智能決策的可追責性。一是要強化對產(chǎn)業(yè)資本權力的制約?;谥悄軟Q策技術的特性,技術權力的根源和本質是資本權力,對于行政智能決策失誤與錯誤的情形應當通過公共問責制的方式加以追責。把握法律法規(guī)的底線,對新技術形成一定的約束力,以滿足加強立法、改進立法和完善立法的社會需求。二是要加強行政決策信息公開與智能決策算法商業(yè)秘密保護之間的協(xié)調(diào),增強智能決策在行政管理與服務領域中運用的透明度,以體現(xiàn)行政信息公開的基本原則。三是在數(shù)據(jù)共享或傳輸?shù)臋嗬s束方面,構建數(shù)字政務服務產(chǎn)業(yè)的數(shù)據(jù)資源共享平臺和交換機制,明確傳輸對象、傳輸方法、可傳輸數(shù)據(jù)范圍,切實保護數(shù)據(jù)的秘密性,實現(xiàn)數(shù)據(jù)合法有序流動。四是鑒于公共利益的特殊性和重要性,政府、機構在選擇市場供給主體進行智能決策算法系統(tǒng)開發(fā)時,必須事前約定在必要時公開算法代碼和程序,保證智能決策模型和系統(tǒng)的公開透明和可問責性。

    猜你喜歡
    政務決策行政
    行政學人
    行政論壇(2022年5期)2022-10-25 04:47:00
    為可持續(xù)決策提供依據(jù)
    決策為什么失誤了
    行政調(diào)解的實踐與探索
    政務
    廣東飼料(2016年5期)2016-12-01 03:43:19
    政務
    廣東飼料(2016年3期)2016-12-01 03:43:09
    政務
    廣東飼料(2016年2期)2016-12-01 03:43:04
    政務
    廣東飼料(2016年1期)2016-12-01 03:42:58
    行政為先 GMC SAVANA
    車迷(2015年12期)2015-08-23 01:30:48
    加快行政審批體制改革
    全球化(2015年2期)2015-02-28 12:38:53
    一级片'在线观看视频| 欧美97在线视频| 国产v大片淫在线免费观看| 五月天丁香电影| 久久97久久精品| 久久国产亚洲av麻豆专区| a级毛片免费高清观看在线播放| 看非洲黑人一级黄片| 欧美xxⅹ黑人| av福利片在线观看| 岛国毛片在线播放| 人人妻人人爽人人添夜夜欢视频 | 久久精品久久精品一区二区三区| 国产精品爽爽va在线观看网站| 又大又黄又爽视频免费| 日本av免费视频播放| 成人毛片60女人毛片免费| 国产女主播在线喷水免费视频网站| 日韩av不卡免费在线播放| 少妇人妻久久综合中文| 精品少妇久久久久久888优播| 国产黄色视频一区二区在线观看| av黄色大香蕉| 欧美区成人在线视频| 亚洲成人中文字幕在线播放| 视频中文字幕在线观看| 超碰97精品在线观看| 免费人成在线观看视频色| 国产精品一区二区在线观看99| 精品人妻视频免费看| 国产精品三级大全| 亚洲精品第二区| 成年女人在线观看亚洲视频| 永久网站在线| 高清av免费在线| 我要看黄色一级片免费的| 成人二区视频| 亚洲最大成人中文| 又大又黄又爽视频免费| 久久97久久精品| 国产v大片淫在线免费观看| 蜜桃在线观看..| 国产黄色免费在线视频| 精品一区在线观看国产| 久久精品夜色国产| 熟女av电影| 亚洲精品视频女| 午夜激情久久久久久久| 中文乱码字字幕精品一区二区三区| 亚洲精品一区蜜桃| 亚洲欧美精品自产自拍| 自拍欧美九色日韩亚洲蝌蚪91 | 成年av动漫网址| 国产在线视频一区二区| 国产真实伦视频高清在线观看| 夫妻午夜视频| 天堂俺去俺来也www色官网| 联通29元200g的流量卡| 日韩欧美 国产精品| av免费在线看不卡| 一区二区三区乱码不卡18| 欧美极品一区二区三区四区| 国产精品一区二区三区四区免费观看| 菩萨蛮人人尽说江南好唐韦庄| av在线播放精品| 91精品国产九色| 国产在线视频一区二区| 日韩不卡一区二区三区视频在线| 大片免费播放器 马上看| 亚洲精品中文字幕在线视频 | 黄色配什么色好看| 男女下面进入的视频免费午夜| 国产精品女同一区二区软件| 人妻少妇偷人精品九色| 赤兔流量卡办理| 2022亚洲国产成人精品| 搡老乐熟女国产| a级毛色黄片| 久久亚洲国产成人精品v| 男女边摸边吃奶| 久久ye,这里只有精品| 熟女人妻精品中文字幕| 99久久精品一区二区三区| 身体一侧抽搐| 精品午夜福利在线看| 性色avwww在线观看| 亚洲图色成人| 午夜福利网站1000一区二区三区| 大片电影免费在线观看免费| 国产片特级美女逼逼视频| 最近最新中文字幕大全电影3| 国产黄片美女视频| 欧美精品国产亚洲| 国产69精品久久久久777片| 久久毛片免费看一区二区三区| 1000部很黄的大片| 国产综合精华液| 嘟嘟电影网在线观看| 在线精品无人区一区二区三 | 久久精品国产a三级三级三级| 人妻制服诱惑在线中文字幕| 久久精品国产自在天天线| 日本爱情动作片www.在线观看| 热re99久久精品国产66热6| a级一级毛片免费在线观看| 日韩成人伦理影院| 国产高清不卡午夜福利| 91久久精品电影网| 夫妻午夜视频| 狠狠精品人妻久久久久久综合| 亚洲最大成人中文| 黑人高潮一二区| 高清毛片免费看| 男人添女人高潮全过程视频| 亚洲精品自拍成人| 女人十人毛片免费观看3o分钟| 欧美极品一区二区三区四区| 一级毛片黄色毛片免费观看视频| xxx大片免费视频| 欧美另类一区| 在线 av 中文字幕| 国产精品麻豆人妻色哟哟久久| 日韩在线高清观看一区二区三区| 街头女战士在线观看网站| 亚洲国产精品一区三区| 18禁动态无遮挡网站| 少妇高潮的动态图| 大码成人一级视频| 超碰97精品在线观看| 不卡视频在线观看欧美| 视频区图区小说| 午夜福利影视在线免费观看| 一级毛片aaaaaa免费看小| 久久久久久九九精品二区国产| 国产精品三级大全| 在线亚洲精品国产二区图片欧美 | 97超碰精品成人国产| 亚洲精品久久久久久婷婷小说| 久久久久人妻精品一区果冻| 美女高潮的动态| 内射极品少妇av片p| 高清黄色对白视频在线免费看 | 51国产日韩欧美| 亚洲精品456在线播放app| 色视频www国产| 国产大屁股一区二区在线视频| 人人妻人人爽人人添夜夜欢视频 | 久久久久久久亚洲中文字幕| av国产久精品久网站免费入址| 简卡轻食公司| 新久久久久国产一级毛片| 国产探花极品一区二区| 久久久久久久久久人人人人人人| 免费高清在线观看视频在线观看| freevideosex欧美| av免费在线看不卡| 国产精品99久久久久久久久| 国产日韩欧美亚洲二区| 99久久精品一区二区三区| 黄色配什么色好看| 男女边摸边吃奶| 中国三级夫妇交换| 久久青草综合色| 亚洲欧美清纯卡通| 麻豆乱淫一区二区| 免费黄频网站在线观看国产| 国产在线视频一区二区| 久久热精品热| 美女xxoo啪啪120秒动态图| 超碰97精品在线观看| 大香蕉久久网| 亚洲自偷自拍三级| 久久久久久久国产电影| 国产一区二区三区综合在线观看 | 国产综合精华液| 少妇被粗大猛烈的视频| 一个人看的www免费观看视频| 国产永久视频网站| 黄片无遮挡物在线观看| 人体艺术视频欧美日本| 色婷婷av一区二区三区视频| 午夜免费鲁丝| a级毛色黄片| 日本午夜av视频| 亚洲精品乱码久久久久久按摩| 丰满人妻一区二区三区视频av| 少妇人妻久久综合中文| 一级片'在线观看视频| 亚洲综合色惰| 丰满少妇做爰视频| 精品一区二区三卡| 人体艺术视频欧美日本| 久久久亚洲精品成人影院| 日韩伦理黄色片| 久久ye,这里只有精品| 最近手机中文字幕大全| 久久精品久久久久久久性| av在线老鸭窝| 国产精品一区二区三区四区免费观看| 久久99蜜桃精品久久| 美女国产视频在线观看| 在线观看国产h片| 在线免费十八禁| 久久久久久久久久久丰满| 日韩欧美一区视频在线观看 | 五月开心婷婷网| 交换朋友夫妻互换小说| 深夜a级毛片| 在线观看美女被高潮喷水网站| 亚洲欧美一区二区三区国产| 女性生殖器流出的白浆| 日本猛色少妇xxxxx猛交久久| 三级国产精品片| .国产精品久久| 日韩强制内射视频| 亚洲三级黄色毛片| 99热网站在线观看| 国产精品久久久久久久久免| 亚洲精品aⅴ在线观看| 偷拍熟女少妇极品色| 亚洲不卡免费看| 22中文网久久字幕| 免费观看的影片在线观看| 小蜜桃在线观看免费完整版高清| 又大又黄又爽视频免费| 97精品久久久久久久久久精品| 伊人久久精品亚洲午夜| 亚洲国产欧美在线一区| 婷婷色av中文字幕| 日韩一本色道免费dvd| 日韩成人av中文字幕在线观看| 久久精品国产亚洲av天美| 成年美女黄网站色视频大全免费 | 伦精品一区二区三区| 自拍偷自拍亚洲精品老妇| 美女xxoo啪啪120秒动态图| 三级国产精品片| 亚洲无线观看免费| 日韩大片免费观看网站| 亚洲人与动物交配视频| 网址你懂的国产日韩在线| 少妇的逼好多水| 国产精品蜜桃在线观看| 1000部很黄的大片| 18禁裸乳无遮挡免费网站照片| 赤兔流量卡办理| 亚洲av男天堂| 亚洲人成网站在线播| 亚洲av日韩在线播放| 超碰av人人做人人爽久久| 久久精品国产a三级三级三级| 91久久精品电影网| 免费观看的影片在线观看| 91狼人影院| av又黄又爽大尺度在线免费看| 国产乱来视频区| 全区人妻精品视频| 一区二区三区免费毛片| 少妇的逼水好多| 十分钟在线观看高清视频www | 99热这里只有精品一区| 精品人妻偷拍中文字幕| 一区二区三区免费毛片| 欧美激情国产日韩精品一区| 亚州av有码| 久久久久久久国产电影| 欧美亚洲 丝袜 人妻 在线| 国产免费一区二区三区四区乱码| 国产伦在线观看视频一区| 日韩大片免费观看网站| 欧美 日韩 精品 国产| 身体一侧抽搐| 日韩免费高清中文字幕av| 久久亚洲国产成人精品v| 中国三级夫妇交换| 97在线人人人人妻| 国产一区二区在线观看日韩| 国内精品宾馆在线| 国产男女超爽视频在线观看| 天美传媒精品一区二区| 成年女人在线观看亚洲视频| 亚洲天堂av无毛| 视频中文字幕在线观看| 麻豆乱淫一区二区| 色综合色国产| 女人十人毛片免费观看3o分钟| av专区在线播放| 亚洲一级一片aⅴ在线观看| 欧美3d第一页| 久久99蜜桃精品久久| 99久久精品国产国产毛片| 亚洲在久久综合| 亚洲自偷自拍三级| 免费看av在线观看网站| 岛国毛片在线播放| 亚洲一级一片aⅴ在线观看| 亚洲欧美清纯卡通| 日日摸夜夜添夜夜添av毛片| 久久久午夜欧美精品| 我要看日韩黄色一级片| 久久精品夜色国产| 久久久欧美国产精品| 只有这里有精品99| 一二三四中文在线观看免费高清| 国产久久久一区二区三区| 老司机影院毛片| 有码 亚洲区| 纯流量卡能插随身wifi吗| 一个人看的www免费观看视频| 少妇人妻久久综合中文| 噜噜噜噜噜久久久久久91| 男人和女人高潮做爰伦理| 日韩视频在线欧美| 蜜臀久久99精品久久宅男| 青春草亚洲视频在线观看| 亚洲精品第二区| 日韩国内少妇激情av| 亚洲美女黄色视频免费看| 伦理电影免费视频| 在线亚洲精品国产二区图片欧美 | 18禁裸乳无遮挡免费网站照片| 精品亚洲成a人片在线观看 | 好男人视频免费观看在线| 亚洲av不卡在线观看| h日本视频在线播放| 日本vs欧美在线观看视频 | 亚洲成人一二三区av| 观看免费一级毛片| 成年美女黄网站色视频大全免费 | 男人舔奶头视频| 日本欧美国产在线视频| 精品国产露脸久久av麻豆| 欧美性感艳星| 色5月婷婷丁香| 男女国产视频网站| 黄色欧美视频在线观看| 亚洲真实伦在线观看| 视频中文字幕在线观看| 国产精品久久久久久久久免| 一个人看视频在线观看www免费| 日韩中字成人| 久久国内精品自在自线图片| 一级毛片aaaaaa免费看小| 欧美亚洲 丝袜 人妻 在线| 亚洲aⅴ乱码一区二区在线播放| 国产精品蜜桃在线观看| 亚洲成人av在线免费| 99热网站在线观看| 国产中年淑女户外野战色| 不卡视频在线观看欧美| 亚洲怡红院男人天堂| 久久久色成人| 麻豆成人av视频| 亚洲国产精品专区欧美| 国产亚洲精品久久久com| 亚洲中文av在线| 久久97久久精品| 日韩国内少妇激情av| 成人特级av手机在线观看| 久久国产精品男人的天堂亚洲 | 亚洲人成网站高清观看| 日本wwww免费看| 国产欧美日韩一区二区三区在线 | 国产女主播在线喷水免费视频网站| 欧美xxxx黑人xx丫x性爽| 国产在线视频一区二区| 国产精品一区二区在线不卡| 久久久精品免费免费高清| 国产男人的电影天堂91| 在线观看一区二区三区激情| 亚洲国产av新网站| 中文字幕免费在线视频6| 亚洲欧美精品专区久久| 国产亚洲一区二区精品| 蜜臀久久99精品久久宅男| 人妻少妇偷人精品九色| 亚洲av欧美aⅴ国产| 春色校园在线视频观看| 亚洲电影在线观看av| 天天躁日日操中文字幕| 亚洲av二区三区四区| 一级二级三级毛片免费看| 老师上课跳d突然被开到最大视频| 国产永久视频网站| videossex国产| 国产男女超爽视频在线观看| 一区二区三区免费毛片| 久久久久久久久久人人人人人人| 亚洲高清免费不卡视频| 国产成人精品福利久久| 亚洲aⅴ乱码一区二区在线播放| 中国美白少妇内射xxxbb| 丰满乱子伦码专区| 伦精品一区二区三区| 亚洲av电影在线观看一区二区三区| 亚洲av中文字字幕乱码综合| 九色成人免费人妻av| 日韩视频在线欧美| 亚洲精品国产成人久久av| 久久这里有精品视频免费| 一级毛片 在线播放| 亚洲av在线观看美女高潮| 99热国产这里只有精品6| 国产精品久久久久久精品古装| 日产精品乱码卡一卡2卡三| 黄色视频在线播放观看不卡| 国产免费一级a男人的天堂| 春色校园在线视频观看| 永久网站在线| 97精品久久久久久久久久精品| 午夜福利高清视频| 99热这里只有是精品在线观看| 天天躁夜夜躁狠狠久久av| 久久久色成人| 亚洲av国产av综合av卡| 国产视频内射| 精华霜和精华液先用哪个| 超碰97精品在线观看| 亚洲欧美精品专区久久| 亚洲精品456在线播放app| 亚洲欧美日韩无卡精品| 国产精品久久久久久精品古装| 亚洲欧美精品专区久久| 久热久热在线精品观看| 日本av免费视频播放| a 毛片基地| 永久网站在线| 大片免费播放器 马上看| 成人一区二区视频在线观看| 国产精品无大码| 51国产日韩欧美| 亚洲欧美一区二区三区黑人 | 97在线视频观看| 中文资源天堂在线| 久久6这里有精品| .国产精品久久| 国产精品久久久久成人av| 久久人妻熟女aⅴ| 熟女人妻精品中文字幕| 午夜福利在线在线| 午夜精品国产一区二区电影| 亚洲欧洲国产日韩| 夜夜爽夜夜爽视频| 日韩强制内射视频| 国产成人精品福利久久| 精品久久久久久久末码| 熟女电影av网| 51国产日韩欧美| 亚洲欧美日韩无卡精品| 欧美极品一区二区三区四区| 菩萨蛮人人尽说江南好唐韦庄| 高清在线视频一区二区三区| 各种免费的搞黄视频| 亚洲人成网站高清观看| 精品久久国产蜜桃| 精品少妇黑人巨大在线播放| 最近最新中文字幕免费大全7| 久久久久久久大尺度免费视频| 五月伊人婷婷丁香| 一个人免费看片子| 91久久精品国产一区二区三区| 亚洲精华国产精华液的使用体验| 深爱激情五月婷婷| 老司机影院毛片| 人妻一区二区av| 国产成人a∨麻豆精品| 成人免费观看视频高清| 久久久久人妻精品一区果冻| 蜜桃亚洲精品一区二区三区| 国产中年淑女户外野战色| 岛国毛片在线播放| 国产综合精华液| 国产成人a区在线观看| 日韩av在线免费看完整版不卡| 国产高清有码在线观看视频| 成人午夜精彩视频在线观看| 国产精品一及| 狠狠精品人妻久久久久久综合| 国产黄频视频在线观看| 国产亚洲精品久久久com| 欧美+日韩+精品| 激情五月婷婷亚洲| 免费人成在线观看视频色| 99热网站在线观看| 亚洲图色成人| 少妇人妻 视频| 99热这里只有精品一区| 欧美精品一区二区免费开放| 久久99热6这里只有精品| 国产 一区精品| 久久久久久久久久久丰满| 99久久中文字幕三级久久日本| 又黄又爽又刺激的免费视频.| 少妇的逼好多水| 亚洲在久久综合| 插阴视频在线观看视频| 成人毛片60女人毛片免费| 在线免费观看不下载黄p国产| 久久99蜜桃精品久久| 国产91av在线免费观看| 高清日韩中文字幕在线| 日韩一区二区视频免费看| 成人18禁高潮啪啪吃奶动态图 | 国模一区二区三区四区视频| 国产精品一区二区性色av| 99热6这里只有精品| 亚洲精品日韩av片在线观看| 丝瓜视频免费看黄片| av免费在线看不卡| 久久亚洲国产成人精品v| 一区二区三区四区激情视频| 国产黄片美女视频| 水蜜桃什么品种好| 成人国产麻豆网| av专区在线播放| 欧美zozozo另类| 亚洲av日韩在线播放| 亚洲欧美日韩另类电影网站 | 免费黄色在线免费观看| 亚洲成人中文字幕在线播放| 在线观看人妻少妇| 国产高清国产精品国产三级 | 大香蕉97超碰在线| 亚洲精品久久久久久婷婷小说| 亚洲国产成人一精品久久久| 97超视频在线观看视频| 80岁老熟妇乱子伦牲交| av国产精品久久久久影院| av福利片在线观看| 韩国av在线不卡| 亚洲综合色惰| 亚洲无线观看免费| 2021少妇久久久久久久久久久| 亚洲av中文av极速乱| 欧美日韩亚洲高清精品| 各种免费的搞黄视频| 人人妻人人看人人澡| 亚洲,一卡二卡三卡| 精品国产一区二区三区久久久樱花 | 热re99久久精品国产66热6| 国产伦精品一区二区三区视频9| 精品一区二区三卡| 免费观看无遮挡的男女| 三级国产精品欧美在线观看| 欧美3d第一页| 国产成人精品婷婷| 色综合色国产| 午夜激情福利司机影院| 少妇被粗大猛烈的视频| 免费少妇av软件| 久久青草综合色| 美女脱内裤让男人舔精品视频| 国产av国产精品国产| 国产成人freesex在线| av国产精品久久久久影院| 黄色配什么色好看| 午夜激情久久久久久久| 美女cb高潮喷水在线观看| 五月开心婷婷网| 欧美成人a在线观看| 你懂的网址亚洲精品在线观看| 一本一本综合久久| 免费高清在线观看视频在线观看| 免费黄色在线免费观看| 亚洲精品,欧美精品| 特大巨黑吊av在线直播| 欧美bdsm另类| 伊人久久国产一区二区| 国内揄拍国产精品人妻在线| 欧美成人午夜免费资源| 草草在线视频免费看| 丝瓜视频免费看黄片| 一本色道久久久久久精品综合| 成人一区二区视频在线观看| av一本久久久久| 成人免费观看视频高清| 亚洲va在线va天堂va国产| 国产高潮美女av| 久久99热6这里只有精品| 国产精品无大码| 成年av动漫网址| 国产国拍精品亚洲av在线观看| 国产午夜精品一二区理论片| 国产精品一区二区在线不卡| 高清视频免费观看一区二区| 久久久久久久精品精品| 国产精品一区二区三区四区免费观看| 日韩免费高清中文字幕av| 91久久精品电影网| a级毛色黄片| 亚洲综合色惰| 另类亚洲欧美激情| 国产精品久久久久久av不卡| 黑丝袜美女国产一区| 春色校园在线视频观看| 欧美区成人在线视频| 最近手机中文字幕大全| 在线看a的网站| 国产视频内射| 菩萨蛮人人尽说江南好唐韦庄| 又黄又爽又刺激的免费视频.| 国产精品免费大片| 99re6热这里在线精品视频| 日本av手机在线免费观看| 不卡视频在线观看欧美| 啦啦啦视频在线资源免费观看| 国产黄片美女视频| av国产久精品久网站免费入址| 欧美日韩一区二区视频在线观看视频在线| 精品一区二区三区视频在线| 日韩一本色道免费dvd| 国产精品国产三级国产专区5o| 黄片无遮挡物在线观看| 中文字幕制服av| 18禁裸乳无遮挡动漫免费视频|