• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    敏捷治理:人工智能治理新模式

    2024-04-29 00:00:00韓兆柱申帥杰
    關(guān)鍵詞:人工智能技術(shù)

    [摘要] 人工智能敏捷治理作為一種新的治理范式,是對以往探索式、回應(yīng)式、集中式人工智能治理模式的反思、批判與超越。敏捷治理嵌入人工智能治理當(dāng)中,其在治理價值、治理主體、治理對象、治理方式這四大核心要素上有新的內(nèi)涵特征。人工智能敏捷治理概念的生成既是第四次工業(yè)革命浪潮的推動,又是促進(jìn)人工智能“向善”、增進(jìn)人民福祉和走出人工智能治理困境的需要。與此同時,國家方針政策的指引、政府多重資源的投入、多方實踐經(jīng)驗的奠基使得人工智能敏捷治理成為可能。為應(yīng)對時代挑戰(zhàn)、邁向人工智能的敏捷治理,我們需應(yīng)對傳統(tǒng)官僚主義思想,樹立敏捷治理理念;合理把握治理節(jié)奏,確保治理工具使用張弛有度;健全敏捷治理的制度體系,為人工智能敏捷治理保駕護(hù)航。

    [關(guān)鍵詞] 敏捷治理" 人工智能敏捷治理" 人工智能技術(shù)" 治理模式

    [基金項目] 本文系河北省社會科學(xué)基金一般項目“基于整體性治理的京津冀生態(tài)環(huán)境協(xié)同保護(hù)研究——以河北省為例”(項目編號:HB20zz01)的階段性成果。

    [作者簡介] 韓兆柱,燕山大學(xué)公共管理學(xué)院教授、博士生導(dǎo)師,研究方向為政府理論與行政改革研究;申帥杰,燕山大學(xué)公共管理學(xué)院碩士研究生,研究方向為政府理論與數(shù)字治理研究。

    [中圖分類號] D63

    [文獻(xiàn)標(biāo)識碼] A

    [文章編號] 1008-7672(2024)01-0105-16

    一、 引言

    當(dāng)前科學(xué)技術(shù)發(fā)展日新月異,以人工智能、區(qū)塊鏈、量子技術(shù)等為代表的新一代數(shù)字技術(shù)日益與實體經(jīng)濟(jì)交織融合,使環(huán)境、政治、經(jīng)濟(jì)等發(fā)生一系列深刻的變化。數(shù)字技術(shù)在為人類社會發(fā)展帶來更多便利、更高效率的同時,也為現(xiàn)實增加更多不確定性,推動著人類社會進(jìn)入以不穩(wěn)定性、不確定性、復(fù)雜性、模糊性為特征的烏卡(VUCA)時代。人工智能技術(shù)也不例外,其在發(fā)展過程中也會導(dǎo)致諸如數(shù)據(jù)鴻溝、算法歧視、隱私泄露等不確定性的風(fēng)險問題,甚至?xí)l(fā)社會動蕩、威脅國家安全等嚴(yán)峻挑戰(zhàn),這也警示著我們?nèi)斯ぶ悄苤卫砜滩蝗菥?。生產(chǎn)技術(shù)的創(chuàng)新是治理變革的根本動力,特別是某種“劃時代”的技術(shù)革新,可能會推動治理體系的范式重構(gòu)。人工智能作為一種新的技術(shù)形式,其治理涉及群體、行業(yè)眾多,復(fù)雜性前所未見,現(xiàn)有的治理體系過多依賴于傳統(tǒng)層級的治理,已很難適應(yīng)人工智能技術(shù)發(fā)展的需要。傳統(tǒng)“問題—問責(zé)”模式已經(jīng)不能滿足新一代人工智能發(fā)展過程中價值多元的要求,由此造成的“步調(diào)問題”亟須構(gòu)建一種新的治理體系加以應(yīng)對。人工智能治理應(yīng)該由“事后諸葛亮”的傳統(tǒng)治理方式向事前介入、多方共治的敏捷治理模式轉(zhuǎn)變。作為一種新的治理框架,人工智能敏捷治理雖近幾年備受關(guān)注,但學(xué)界對其概念性框架、生成性條件和內(nèi)在性限度卻缺乏整體性審視。因此,我們有必要進(jìn)一步剖析人工智能敏捷治理的理論內(nèi)涵和基本特征,并圍繞人工智能敏捷治理的“必要性”“可能性”這兩個問題展開理論追問,同時就如何實現(xiàn)人工智能敏捷治理進(jìn)行探討,以期能夠引起學(xué)界進(jìn)一步的重視與深究,并在探賾人工智能治理問題中建構(gòu)公共性的學(xué)術(shù)話語。

    二、 敏捷治理:人工智能治理的新視角

    (一) 人工智能敏捷治理模式的理論內(nèi)涵

    敏捷治理(Agile Governance)最初源于軟件工程領(lǐng)域中“敏捷方法”的概念。伴隨著敏捷治理思想的發(fā)展,敏捷治理被廣泛運用到企業(yè)的制造管理中,如今已被運用到數(shù)字經(jīng)濟(jì)和新興產(chǎn)業(yè)治理、政府治理等國家的各個領(lǐng)域,呈現(xiàn)多學(xué)科的研究趨勢。

    對于敏捷治理內(nèi)涵的理解,不同領(lǐng)域的界定不盡相同。早期學(xué)者在軟件工程領(lǐng)域內(nèi)運用“敏捷思想”,針對政府IT項目采用的傳統(tǒng)瀑布模型存在過度依賴外部IT承包商、缺乏用戶參與等弊端,《敏捷宣言》(Agile Manifesto)提出敏捷軟件開發(fā)的方法,要求技術(shù)人員高效地實現(xiàn)回應(yīng)客戶、尋求理解與協(xié)助、研發(fā)流程、快速實現(xiàn)價值交付。其核心在于能夠快速靈活創(chuàng)建,響應(yīng)業(yè)務(wù)和技術(shù)領(lǐng)域的變化,并最大限度地減少客戶期望與需求之間的差距。隨著治理概念的引入和推廣,2007年,“敏捷治理”的概念被正式提出,此時將敏捷和治理兩詞結(jié)合起來,包含“快捷”“靈活”“協(xié)調(diào)”三個層次的理論構(gòu)建。

    數(shù)字化時代的碎片化加劇,為我們的生產(chǎn)生活帶來顛覆性的改變,組織無法應(yīng)對日益加速、相互聯(lián)系和不確定的外部環(huán)境,學(xué)者們開始關(guān)注組織層面的敏捷治理。

    首先,在企業(yè)制造領(lǐng)域內(nèi),內(nèi)格爾(Nagel)在1991年發(fā)表的《21世紀(jì)制造業(yè)企業(yè)戰(zhàn)略報告》中指出,敏捷制造是一種能夠?qū)?fù)雜多變的市場做出敏捷的反應(yīng),從而更好地滿足客戶需求的制造組織和制造方式。之后,盧納(Luna)等正式將敏捷治理從技術(shù)治理領(lǐng)域拓展至各類組織的研究中,并將其定義為人們通過將敏捷能力和治理能力有效協(xié)調(diào)結(jié)合,可持續(xù)地感知、適應(yīng)和應(yīng)對環(huán)境變化,以便更快、更好、更經(jīng)濟(jì)地為核心業(yè)務(wù)提供價值。

    其次,在政府管理領(lǐng)域內(nèi),梅格爾(Mergel)將敏捷的概念與協(xié)調(diào)性、靈活性、適應(yīng)性相結(jié)合,把敏捷視為嵌入政府結(jié)構(gòu)的一套新的程序,通過轉(zhuǎn)變組織文化和協(xié)作方法,以實現(xiàn)更高水平的適應(yīng)性。2018年世界經(jīng)濟(jì)論壇將敏捷治理定義為“以顧客為中心的一套具有柔韌性、流動性、靈活性或適應(yīng)性的行動或方法,是一種自適應(yīng)、以人為本以及具有包容性和可持續(xù)的決策過程”。世界經(jīng)濟(jì)論壇對敏捷治理概念的定義被公共管理學(xué)界廣泛認(rèn)可。

    最后,在敏捷思維的發(fā)展過程中,學(xué)者們不斷發(fā)展敏捷治理的框架。盧納等使用達(dá)布林(Dubin)的理論建構(gòu)方法構(gòu)建出敏捷治理理論框架(見圖1)。于文軒結(jié)合相關(guān)文獻(xiàn)提出一個包含十大要素的敏捷治理框架,內(nèi)容包括:(1)維持穩(wěn)定性的同時又可以保持組織的靈活性;(2)快速動員利益相關(guān)方合作的能力;(3)跨部門合作;(4)自我組織能力和組織的培養(yǎng);(5)復(fù)雜性的分解;(6)靈活的基礎(chǔ)設(shè)施;(7)擁抱變化;(8)充分溝通;(9)信息的開放與共享;(10)容錯的組織學(xué)習(xí)。新的治理框架可以當(dāng)作監(jiān)管新興技術(shù)的方法。敏捷治理的框架能進(jìn)一步豐富監(jiān)管部門對人工智能治理的思路。

    綜上所述,可以發(fā)現(xiàn),盡管不同領(lǐng)域?qū)W者對敏捷治理界定不一,但都意識到敏捷治理是對公共價值的回應(yīng)。敏捷治理強調(diào)多元主體彼此間的溝通與協(xié)作,快速感知以響應(yīng)變化,從而使治理方式更具有包容性并能滿足多元主體的需求,以更好應(yīng)對時代挑戰(zhàn)?;诖耍鳛橐环N新的治理范式,本文在綜合和借鑒不同概念的基礎(chǔ)上,將人工智能敏捷治理界定為在確保人工智能技術(shù)平等和安全的基礎(chǔ)上要求政府、企業(yè)、社會組織、公民等多元主體共同參與治理,在治理過程中強調(diào)快速介入、漸進(jìn)迭代、以人為本,平衡人工智能技術(shù)風(fēng)險與創(chuàng)新并以增進(jìn)人類福祉為目的的一種治理模式。

    (二) 人工智能敏捷治理模式的基本特征

    在上述學(xué)者研究和對敏捷治理定義的基礎(chǔ)之上,如果把敏捷治理的價值理念和分析框架運用于人工智能領(lǐng)域當(dāng)中,那么人工智能敏捷治理在治理理念、治理對象、治理主體、治理工具四個方面表現(xiàn)為如下基本特征。

    1. 治理價值:創(chuàng)新先導(dǎo),治理并行

    如今人工智能技術(shù)的創(chuàng)新有很大不確定性,當(dāng)前存在的人工智能治理框架不足以支撐問責(zé)制的執(zhí)行,長期以來建立在人類行為因果關(guān)系基礎(chǔ)上的法律規(guī)范體系已很難適應(yīng)以數(shù)據(jù)、算法為主體的應(yīng)用環(huán)境。不同于以往傳統(tǒng)的治理模式,敏捷治理的價值觀以創(chuàng)新和治理協(xié)調(diào)發(fā)展為導(dǎo)向,倡導(dǎo)創(chuàng)新和規(guī)制協(xié)同并進(jìn),要求政府成為兩者的斡旋者,這就會打破發(fā)展與創(chuàng)新之間的“創(chuàng)新悖論”“生產(chǎn)率悖論”。同時,敏捷治理的精髓在于將傳統(tǒng)的治理流程變?yōu)檫m應(yīng)技術(shù)快速迭代的更具預(yù)見力的敏捷靈活模式,這不僅能使有關(guān)部門有能力在未知的環(huán)境中迅速應(yīng)對當(dāng)下人工智能治理帶來的挑戰(zhàn),還能夠進(jìn)一步凸顯其背后所強調(diào)的科學(xué)、民主、效率、公平、安全等價值理念。

    2. 治理對象:自下而上,分層治理

    一方面,人工智能的敏捷治理將數(shù)據(jù)、算法、平臺等治理對象嵌入具體場景中進(jìn)行分級分類、分層次治理,形成“普適性底線約束+個性化場景規(guī)制”的我國新一代人工智能治理頻譜。如針對共性數(shù)據(jù)或平臺等突出問題進(jìn)行普適性約束,針對具體應(yīng)用場景的個性化問題則進(jìn)行專門治理。另一方面,人工智能敏捷治理模式摒棄官僚制嚴(yán)苛的層級治理模式,強調(diào)要傾聽所有人的聲音,尤其是回應(yīng)相對弱勢群體的需要,盡可能在回應(yīng)性中尋求解決問題方案的最大公約數(shù),其最終落腳點是為人民服務(wù),也就是治理模式從所謂事本邏輯到人本邏輯的轉(zhuǎn)變。

    3. 治理主體:多元參與,協(xié)同互動

    敏捷治理追求構(gòu)建多層次的治理體系,樹立合作大于競爭的理念,要求政府、企業(yè)、社會、公民等多元主體共同出謀劃策參與到治理當(dāng)中。一方面,人工智能的敏捷治理強調(diào)搭建全民皆可參與的人工智能治理平臺,更加注重多元主體的利益訴求,要求暢通政府與利益相關(guān)者共同治理的渠道,使多元主體參與人工智能治理成為可能。另一方面,人工智能敏捷治理的方式強調(diào)政府與公眾之間的雙向互動,彼此之間的信息是對稱的,治理主體之間的協(xié)作關(guān)系是平等的。在這種關(guān)系中,政府可以充分調(diào)動各方參與治理的積極性,給人工智能的治理注入新的活力和動力,從而制定更加科學(xué)化、民主化的治理政策和提供更加具有針對性、精準(zhǔn)性的治理手段。

    4. 治理方式:漸進(jìn)迭代,靈活響應(yīng)

    一方面,人工智能敏捷治理在治理工具的運用上強調(diào)軟硬工具結(jié)合、剛?cè)岵?jì)和韌性規(guī)制。在治理問題的效度上包括宏觀層面約束性較強的法律法規(guī),中觀層面共識性較強的倫理規(guī)范、技術(shù)標(biāo)準(zhǔn)、行為準(zhǔn)則,微觀層面自主性較強的自我規(guī)制、行業(yè)倡議。由此,通過軟工具和硬工具組合的方法來解決人工智能面臨的眾多棘手問題,達(dá)到一種弱干預(yù)、強效果的治理目的。另一方面,人工智能敏捷治理密切關(guān)注市場的變化,及時調(diào)整監(jiān)管措施,顛覆官僚制的改革賽道,致力于構(gòu)建一套富有彈性、具有容差性的治理體系,力求做到事前的預(yù)先干預(yù)、事中的不斷調(diào)適、事后的持續(xù)追蹤,形成“不斷互動溝通—持續(xù)過程監(jiān)管—不停及時反饋”的長效機制。

    可以看出,人工智能敏捷治理既體現(xiàn)對人工智能技術(shù)更迭的靈活響應(yīng),又突出人工智能治理體制改革、治理流程再造,打破了以往政府在時間、空間、組織結(jié)構(gòu)方面的桎梏,為政府對人工智能的治理提供了一種全新的變革思路。從國家治理現(xiàn)代化的角度來看,人工智能敏捷治理的實質(zhì)就是推進(jìn)人工智能治理體系和治理能力現(xiàn)代化,代表著人工智能治理現(xiàn)代化的基本方向。

    三、 人工智能敏捷治理模式的必要性

    人工智能敏捷治理作為一種新的治理模式,不是政治家、學(xué)者們在官邸書齋中自導(dǎo)出來的,而是由當(dāng)前人工智能治理方式難以適應(yīng)當(dāng)前技術(shù)發(fā)展快速更迭的需要所倒逼出來的。同時,人工智能敏捷治理模式也是數(shù)字化時代人工智能治理的復(fù)雜性、整體性、迫切性等多重挑戰(zhàn)的大趨勢使然。

    (一) 融入第四次工業(yè)革命浪潮的需要

    縱觀近300年的工業(yè)發(fā)展史,人類社會已經(jīng)歷機械化、電氣化、信息化三次重大的科技革命,人類的生產(chǎn)力得到解放、勞動效率得到了大幅度提高。目前我們正處于以提高人的腦力勞動為目標(biāo)、以生成式人工智能為牽引的第四次工業(yè)革命時期。人工智能技術(shù)的影響是世界性、革命性的,作為第四次工業(yè)革命基石的人工智能技術(shù)不斷蓬勃發(fā)展并推動著社會各領(lǐng)域向智能化加速轉(zhuǎn)型。以ChatGPT為代表的“顛覆性”新一代人工智能技術(shù)的出現(xiàn),將會進(jìn)一步促進(jìn)數(shù)字技術(shù)的深度應(yīng)用與變革,成為推動社會發(fā)展的新引擎。與此同時,因人工智能技術(shù)的應(yīng)用而產(chǎn)生的倫理風(fēng)險、隱私泄露、數(shù)據(jù)安全等方面問題在全球范圍內(nèi)引發(fā)諸多爭議,與第四次工業(yè)革命相匹配的人工智能治理模式卻難以現(xiàn)身。

    在國際競爭日益激烈的大環(huán)境中,歐盟以倫理優(yōu)先為導(dǎo)向的集中式治理模式和美國以創(chuàng)新為導(dǎo)向的分散治理模式,作為當(dāng)前最具代表性的人工智能治理模式已難以在“安全”與“創(chuàng)新”的天平上取得動態(tài)平衡,兩者的治理思路已不再適應(yīng)人工智能技術(shù)不斷進(jìn)階的需要,人工智能治理模式必須“與時俱進(jìn)”。人工智能的治理問題成為亟須解決的核心問題,已經(jīng)成為全球范圍內(nèi)重點關(guān)注的一大議題。一方面,全球各國競相搶抓人工智能技術(shù)應(yīng)用帶來的廣泛機遇;另一方面,世界各國政府也紛紛將人工智能治理作為一項國家重要戰(zhàn)略,既要上競爭臺,又要有安全牌,試圖尋求構(gòu)建符合本國發(fā)展實際的人工智能治理體系。人工智能治理競賽已成為各國在新興技術(shù)領(lǐng)域內(nèi)競爭的新的角斗場。

    因此,探索第四次工業(yè)革命的政府必須具備的治理能力與模式,不僅是促使人工智能向善發(fā)展的重要保障,更是融入第四次工業(yè)革命率先搶抓時代先機不可或缺的條件。在第四次工業(yè)革命發(fā)展浪潮初期,政府部門應(yīng)該在何時、以何種方式對人工智能予以規(guī)制,才能既不會扼殺其創(chuàng)新能力又能及時地對人工智能技術(shù)發(fā)展的負(fù)外部性進(jìn)行防范?相較于歐美具有代表性的兩種治理模式,以促進(jìn)技術(shù)創(chuàng)新和規(guī)制潛在風(fēng)險協(xié)調(diào)發(fā)展為導(dǎo)向的人工智能敏捷治理模式在此過程中“脫穎而出”,成為各國積極推行的一種治理模式。

    (二) 促進(jìn)人工智能“向善”與增進(jìn)民眾福祉的需要

    從科幻小說與科幻電影走出的人工智能,給我們帶來無盡驚喜與期望的同時,也會挑戰(zhàn)人類既定的法律、倫理與秩序。算法既會算錯、失控,也會承繼人類社會的歧視與不平等;既有可能造成大規(guī)模的失業(yè)與惰性,甚至也可能進(jìn)一步拉大貧富差距,產(chǎn)生新的“無用階級”;既讓我們陷入對未來的踟躕之中,也可能顛覆我們千萬年來的文化與價值。例如,目前已經(jīng)出現(xiàn)人工智能模型及其應(yīng)用侵犯用戶個人隱私的案例,算法偏見引起種族和性別歧視等風(fēng)險。又如,ChatGPT的出場如同被打開的“潘多拉魔盒”,進(jìn)一步加劇了亨廷頓所討論的失序問題,學(xué)術(shù)失范、知識產(chǎn)權(quán)侵犯、創(chuàng)意剽竊等現(xiàn)象頻頻發(fā)生。

    基于此,堅持科技向善的文化理念在推動全球人工智能健康發(fā)展中變得極為重要。習(xí)近平總書記高度關(guān)注人工智能等新興科技的發(fā)展,強調(diào)要加快提升“人工智能安全等領(lǐng)域的治理能力”,“塑造科技向善的文化理念,讓科技更好增進(jìn)人類福祉”。所謂人工智能“向善”,即人工智能發(fā)展應(yīng)以科技向善為方向,在不斷釋放人工智能所帶來的技術(shù)紅利的同時也要精準(zhǔn)防范并積極應(yīng)對人工智能可能帶來的風(fēng)險,平衡人工智能創(chuàng)新發(fā)展與有效治理的關(guān)系,為人工智能營造規(guī)范有序的發(fā)展環(huán)境。而我國以往探索式、回應(yīng)式、集中式的人工智能治理模式已難以適應(yīng)生成式人工智能技術(shù)帶來的挑戰(zhàn),亟須邁向人工智能的敏捷治理模式。不同于傳統(tǒng)的治理模式,敏捷治理模式具有以下幾大優(yōu)勢:首先,人工智能敏捷治理模式能夠擺脫傳統(tǒng)治理對場景變化適應(yīng)能力弱的束縛,快速感知外部環(huán)境,主動持續(xù)擁抱變化進(jìn)行治理方案的不斷調(diào)整與升級。其次,敏捷治理不再強調(diào)零風(fēng)險的治理邏輯,而是在平衡各方利益的情況下,強調(diào)靈活運用各種治理工具對人工智能可能帶來的風(fēng)險問題進(jìn)行敏捷規(guī)制、多元規(guī)制、靠前規(guī)制,將風(fēng)險置于可控范圍。最后,人工智能敏捷治理是一種多主體參與的治理模式,擺脫傳統(tǒng)治理“一刀切”的剛性治理格局,其主體不再局限于單一主體,強調(diào)更多利益相關(guān)者要參與到治理流程中來,追求構(gòu)建多元協(xié)同互動的治理體系,以協(xié)調(diào)整合來自不同層級、領(lǐng)域的資源,形成治理合力,促使人工智能治理問題的解決。

    所以,我們需要運用更多“武器”,給人工智能套上“緊箍咒”,擺脫風(fēng)險應(yīng)對“一計一策”的被動響應(yīng)局面,讓人工智能成為利刃而不傷及自身,讓科技成為提升生活品質(zhì)的臺階而非滑梯,確保其在科技向善的道路上行穩(wěn)致遠(yuǎn)。這樣,在加冕“科技抵達(dá)美好”的每一刻,讓人工智能更好、更安全、更有效地造福人類社會,以靈活性、敏捷性、預(yù)見性等為顯著優(yōu)勢特征的人工智能敏捷治理模式為人工智能治理提供一種新的理論創(chuàng)新和實踐創(chuàng)新“場所”,為多方主體參與人工智能治理、回應(yīng)時代問題提供一種“平臺”。

    (三) 走出人工智能治理現(xiàn)實困境的需要

    目前,人工智能治理面臨治理流程上的滯后性弊病、管理模式上的一元化傾向、傳統(tǒng)責(zé)任理論還能否適用等多重現(xiàn)實困境,急需一種新的治理方法。

    1. 治理流程上的滯后性弊病

    技術(shù)進(jìn)步本身會對國家治理制度提出調(diào)適與轉(zhuǎn)型要求,治理程序方面的落后與陳舊定會抑制技術(shù)變革與進(jìn)步的積極發(fā)揮。傳統(tǒng)“命令—執(zhí)行”的治理流程與快速發(fā)展的人工智能技術(shù)之間會形成錯配,進(jìn)而形成一種“信息鴻溝”。傳統(tǒng)管理理念中的“官僚”思維已經(jīng)不能適應(yīng)如今網(wǎng)絡(luò)信息社會呈現(xiàn)的“扁平化”“非中心性”“平等參與”等特征。如何平衡人工智能的發(fā)展和安全?如何取得多元價值目標(biāo)之間的平衡?治理方法亟須創(chuàng)新。例如,2020年Twitter算法會無意間擴(kuò)散右翼團(tuán)體的言論,而等到識別發(fā)現(xiàn)已過去一年之久,并且已經(jīng)造成廣泛的影響。因此,為避免人類社會發(fā)展被技術(shù)創(chuàng)新所“反噬”,陷入所謂“科林格里奇困境”(Collingridge Dilemma)之中,實現(xiàn)人工智能敏捷治理是必要的。

    2. 管理模式上的一元化傾向

    傳統(tǒng)的治理模式在管理主體上呈現(xiàn)“橫向一元化”“縱向垂直化”的治理格局。傳統(tǒng)一元化主導(dǎo)的管理模式,利益相關(guān)者彼此之間排斥合作與協(xié)商溝通,忽視多元主體參與的力量??v觀人工智能治理范式的變革,從最開始探索式治理模式的無明確主體(2016年前)到回應(yīng)式治理的國家部門獨立性引導(dǎo)(2017—2019年)再到集中式治理的國家多部門合作治理(2020—2021年),都沒能從實質(zhì)上廣泛發(fā)動多元主體參與治理,其治理和監(jiān)督的主體都是政府。面對快速發(fā)展的科技社會,政府及各部門已不能夠及時準(zhǔn)確定位人工智能治理所出現(xiàn)的問題,這也使得政府單向監(jiān)管無法有效管控風(fēng)險。人工智能的治理越發(fā)需要政府與專家、企業(yè)、社會組織、公眾等共同出謀劃策參與治理。

    3. 傳統(tǒng)責(zé)任理論的適用性困境

    近年來,人工智能通用大模型所導(dǎo)致的“主體性責(zé)任危機”越發(fā)強烈,傳統(tǒng)責(zé)任理論的問責(zé)路徑是否還能行之有效值得深入探討。一方面,人工智能的受眾面巨大,尤其是針對AIGC,至少有工具開發(fā)者、工具使用者、工具提供者三個主體可以算是服務(wù)或內(nèi)容提供者。但在不同領(lǐng)域中、不同情況下,三個主體在內(nèi)容生成上的作用不同,依據(jù)傳統(tǒng)責(zé)任理論進(jìn)行責(zé)任劃分變得特別復(fù)雜。另一方面,算法理解不易、意見反饋不通等都是用戶面臨的困難,如何就人工智能的治理責(zé)任達(dá)成共識是亟待解決的問題。如遇到人工智能的責(zé)任倫理問題,如何在各方條件不夠完善的情況下對人工智能治理事件快速做出正確的反應(yīng),是需要我們共同思考的關(guān)鍵點,“敏捷治理”因此應(yīng)運而生。敏捷治理的積極作用在于“不因噎廢食”,能夠在人工智能動態(tài)發(fā)展的過程中持續(xù)解決人工智能治理問題。

    四、 人工智能敏捷治理模式的可能性

    黨的十八大以來,國家高度重視新興產(chǎn)業(yè)的發(fā)展與治理。其中,國家各項方針政策的指引全面具象化人工智能敏捷治理的定位,開啟人工智能敏捷治理的新時代;政府多方面的支持與多重資源投入,更為人工智能實現(xiàn)敏捷治理插上騰飛的翅膀;各領(lǐng)域敏捷治理的有益嘗試為推進(jìn)人工智能敏捷治理提供了經(jīng)驗借鑒。顯然,人工智能敏捷治理不但有必然性,而且有進(jìn)一步可能。

    (一) 頂層設(shè)計:國家方針政策的指引

    2017年7月國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》(以下簡稱《規(guī)劃》),作為我國第一個在人工智能領(lǐng)域的綜合性文件,在保障措施方面蘊含著豐富的人工智能敏捷治理思想。其一,加強國際合作?!兑?guī)劃》指出,“要積極參與人工智能全球治理,深化在人工智能法律法規(guī)、國際規(guī)則等方面的國際合作,共同應(yīng)對全球性挑戰(zhàn)”。合作共治是進(jìn)行人工智能敏捷治理的基本前提。其二,提升預(yù)防能力。針對人工智能發(fā)展的不確定性帶來新挑戰(zhàn),《規(guī)劃》指出,“必須高度重視可能帶來的安全風(fēng)險挑戰(zhàn),加強前瞻預(yù)防與約束引導(dǎo)”。前瞻性的事前預(yù)防與引導(dǎo)是人工智能敏捷治理的突出亮點。其三,進(jìn)行試點示范。容錯性的試點測試是人工智能敏捷治理的關(guān)鍵路徑?!兑?guī)劃》指出,“圍繞人工智能技術(shù)的復(fù)雜性、風(fēng)險性、不確定性、潛在經(jīng)濟(jì)影響等問題,建設(shè)跨領(lǐng)域的人工智能測試平臺。對人工智能重大任務(wù)和重點政策措施,通過試點先行、示范引領(lǐng),推進(jìn)人工智能健康有序發(fā)展”。

    2019年6月,國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》全面具象化人工智能敏捷治理的定位,提出“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作和敏捷治理”的八項原則。這表明敏捷治理是人工智能治理需要考慮的一種治理模式。將敏捷治理嵌入人工智能治理當(dāng)中,其最大的優(yōu)點是能夠充分發(fā)揮敏捷治理靈活性、快速性、多元主體參與的優(yōu)勢,使人工智能朝著更加有序、順應(yīng)時代變化的方向發(fā)展。

    2021年,《中華人民共和國國民經(jīng)濟(jì)和社會發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》明確將人工智能技術(shù)及其治理納入國家規(guī)劃,內(nèi)容集中呈現(xiàn)“基于人工智能的治理”和“面向人工智能的治理”兩條主線的交織融合。2023年4月,中共中央政治局召開會議,分析研究當(dāng)下我國的經(jīng)濟(jì)形勢與經(jīng)濟(jì)工作,將“加快建設(shè)現(xiàn)代化產(chǎn)業(yè)體系”排在六大經(jīng)濟(jì)工作部署的第一位,指出要進(jìn)一步重視通用人工智能的發(fā)展,營造創(chuàng)新生態(tài),重視風(fēng)險防范。這反映出國民經(jīng)濟(jì)和社會的發(fā)展會更多考慮人工智能等新興產(chǎn)業(yè)的發(fā)展與治理,大大推進(jìn)了人工智能敏捷治理的出場。

    《規(guī)劃》中關(guān)于人工智能健康發(fā)展的一攬子政策方案,是撬動人工智能治理體制、機制革新的重要突破口,是推動人工智能實施敏捷治理的有效手段,亦是倒逼全國地方政府及其核心行動者開展人工智能敏捷治理制度革新的催化劑。在這樣的宏觀背景下,各地政府紛紛出臺各種針對人工智能敏捷治理的政策文件。例如,2021年12月上海市出臺《上海市人工智能產(chǎn)業(yè)發(fā)展“十四五”發(fā)展規(guī)劃》,明確指出要形成敏捷治理的制度供給體系,形成人工智能敏捷治理的“上海方案”,以上?!爸侵巍敝θ蛉斯ぶ悄苤卫怼?023年1月,成都市發(fā)布的《成都市新一代人工智能產(chǎn)業(yè)發(fā)展規(guī)劃(2022—2025)》強調(diào),要培育治理敏捷化的產(chǎn)業(yè)土壤,打造人工智能產(chǎn)業(yè)生態(tài)示范地。這使得進(jìn)一步推進(jìn)人工智能敏捷治理成為可能。

    (二) 實踐保障:政府多重資源的投入

    人工智能敏捷治理從提出到實施,都離不開政府大力的支持與多重資源的投入。

    1. “共治”平臺的搭建

    公眾參與和公眾披露已經(jīng)成為有效治理的關(guān)鍵。人工智能敏捷治理在治理關(guān)系上追求構(gòu)建多層次的治理體系,我國政府積極推進(jìn)人工智能治理主體的多元化進(jìn)程,動員和組織利益相關(guān)方進(jìn)行合作,著力構(gòu)建以“政府—企業(yè)—學(xué)?!鐣姟睘橹黧w的多元共治體系。

    首先,政府著力改變傳統(tǒng)監(jiān)管和市場主體之間“貓和老鼠”的關(guān)系,充分認(rèn)識人工智能企業(yè)對人工智能治理的促進(jìn)作用,積極搭建彼此之間協(xié)商與對話的平臺,組織和支持利益相關(guān)者開展協(xié)商與溝通,探索獲得監(jiān)管共識的可能途徑。其次,政府積極促進(jìn)企業(yè)與高校的合作治理,吸引高校技術(shù)研發(fā)團(tuán)隊進(jìn)駐企業(yè),共同研發(fā)課題,形成一種生態(tài)聯(lián)盟,針對人工智能所出現(xiàn)的一系列問題,積極探索適合本土國情的治理方法論。再次,我國展現(xiàn)出負(fù)責(zé)任大國應(yīng)有的胸懷和擔(dān)當(dāng),積極向全世界提供人工智能治理的“中國樣本”“中國方案”,強化與世界各國交流與合作。2022年11月,我國在聯(lián)合國發(fā)表的《關(guān)于加強人工智能倫理治理的立場文件》就是有力佐證。最后,政府積極促進(jìn)公眾對參與人工智能治理意識的覺醒。近年來,針對人工智能的治理,政府積極問技于民、問需于民,充分發(fā)揮人的主觀能動性,使公眾逐漸參與到人工智能治理的過程中來,讓人工智能的治理更接“地氣”,更有“人情味”。比如,我國的“人臉識別第一案”就是公眾對于人工智能治理的思考。

    2. “法治”保障的提供

    近年來,針對人工智能技術(shù)的快速變革帶來的不確定性,國家積極推動法律法規(guī)、政策規(guī)范的與時俱進(jìn),以此來滿足人工智能產(chǎn)業(yè)快速發(fā)展和社會進(jìn)步的需要,為實現(xiàn)人工智能敏捷治理積極營造完善、良好的法治環(huán)境。

    一方面,我國針對人工智能的治理及算法、數(shù)據(jù)等要素有針對性地進(jìn)行立法,出臺了相應(yīng)的倫理原則、法律法規(guī)等文件,這對于企業(yè)規(guī)范開展人工智能相關(guān)業(yè)務(wù)具有重要的指導(dǎo)意義。例如,國家新一代人工智能治理專業(yè)委員會于2019年、2021年相繼發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》,旨在將倫理道德融入人工智能全生命周期。2022年3月,中共中央辦公廳印發(fā)《關(guān)于加強科技倫理治理的指導(dǎo)意見》,要求人工智能治理要遵循倫理先行、依法依規(guī)、敏捷治理、立足國情、開放合作五項科技倫理原則?!吨腥A人民共和國數(shù)據(jù)保護(hù)法》《中華人民共和國個人信息保護(hù)法》《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)要求企業(yè)開展活動時保障數(shù)據(jù)的安全、保護(hù)個人信息。

    另一方面,有關(guān)部門針對人工智能的應(yīng)用管理領(lǐng)域圍繞資源獲取、主體認(rèn)定、權(quán)責(zé)劃分等方面進(jìn)行重點立法,通過法律法規(guī)明確底線與責(zé)任歸屬,爭取實現(xiàn)“敏捷治理”。例如,2021年10月,國家互聯(lián)網(wǎng)信息辦公室等九部委聯(lián)合發(fā)布《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》,明確強化企業(yè)主體責(zé)任,要求企業(yè)全面構(gòu)建人工智能治理能力。針對ChatGPT為代表的生成式人工智能技術(shù)帶來的相關(guān)法律風(fēng)險,2023年4月中旬,國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》,明確了生成式人工智能的定義,以及相關(guān)產(chǎn)品和服務(wù)者的合規(guī)義務(wù),對生成式人工智能進(jìn)行專項監(jiān)管,逐步完善中國人工智能法律體系。

    (三) 他山之石:多方實踐經(jīng)驗的奠基

    首先,作為一種新興的治理范式,敏捷治理的理念已延伸至國家的各個領(lǐng)域。其中,在數(shù)字經(jīng)濟(jì)和新興產(chǎn)業(yè)治理等領(lǐng)域,眾多學(xué)者分別將敏捷治理嵌入對共享經(jīng)濟(jì)監(jiān)管、算法規(guī)制、數(shù)據(jù)治理、元宇宙治理等的研究當(dāng)中。在政府治理領(lǐng)域,學(xué)者們分別將敏捷治理應(yīng)用于數(shù)字鄉(xiāng)村建設(shè)、智慧社區(qū)建設(shè)、超特大城市治理、智慧城市建設(shè)等領(lǐng)域當(dāng)中。在政府機構(gòu)的實踐層面,我國臺灣地區(qū)結(jié)合敏捷治理、公眾參與和公私合作的精神成功改進(jìn)電子報稅系統(tǒng),打破了公共部門的明顯限制。我國大陸興起的“一張屏”統(tǒng)管“三大治理”、“最多跑一次”、“網(wǎng)絡(luò)理政中心”等改革,正是政府敏捷治理的積極探索。盡管上述研究與人工智能敏捷治理相比,在問題研究、對象分析以及論證等環(huán)節(jié)大有不同,但它們同樣可以為人工智能敏捷治理的研究開展提供寶貴的實踐經(jīng)驗,其中涉及的“多元主體共治”“容錯性學(xué)習(xí)”“靈活響應(yīng)”等等,在理念層面有極強的相似性。其業(yè)已形成的案例庫,完全可以為推進(jìn)人工智能敏捷治理所批判吸收和借鑒;其所遭遇的困境坎坷,也會使人工智能敏捷治理的實現(xiàn)少走很多彎路。總之,各領(lǐng)域運用敏捷治理的探索,值得系統(tǒng)而深入地分析、概括與總結(jié),以便參考和借鑒。

    其次,就聚焦到具體人工智能敏捷治理的實踐層面而言,雖然國內(nèi)外關(guān)于人工智能敏捷治理的實踐與探索尚未成熟,但針對人工智能敏捷治理的有益嘗試,能夠為我國有序推進(jìn)人工智能敏捷治理提供經(jīng)驗借鑒。

    1. 中國:阿里巴巴敏捷聯(lián)動、多元主體協(xié)同共治模式

    習(xí)近平總書記曾多次強調(diào),“要確保人工智能安全、可靠、可控”。開展人工智能治理、發(fā)展負(fù)責(zé)任和可信的人工智能、助力可持續(xù)發(fā)展愿景實現(xiàn)正在成為共識。2022年9月,阿里巴巴發(fā)布了集團(tuán)的科技倫理治理的六大準(zhǔn)則,即以人為本、普惠正直、安全可靠、隱私保護(hù)、可控可信、開放共治。其中的開放共治原則明確提出建立敏捷治理機制,并積極進(jìn)行敏捷治理探索。隨后,依據(jù)六大科技倫理原則,阿里巴巴聯(lián)合中國信通院頒布國內(nèi)首份《人工智能治理與可持續(xù)發(fā)展實踐白皮書》,全面總結(jié)了阿里巴巴在人工智能治理與可持續(xù)發(fā)展領(lǐng)域的實踐,重點針對當(dāng)前人工智能應(yīng)用中的熱點問題,從數(shù)據(jù)、技術(shù)、管理及多元協(xié)同等方面提出敏捷聯(lián)動的治理理念,針對從技術(shù)研發(fā)到商業(yè)應(yīng)用再到指導(dǎo)業(yè)務(wù)拓展當(dāng)中可能存在的風(fēng)險問題建立全生命周期的治理研究體系。

    2. 英國:人工智能全方位監(jiān)管的五項原則

    在ChatGPT等人工智能狂飆猛進(jìn)之際,針對其發(fā)展、監(jiān)管和治理也引發(fā)了廣泛討論。2023年3月英國政府發(fā)布針對人工智能產(chǎn)業(yè)監(jiān)管的白皮書,提出了在人工智能技術(shù)瘋狂炒作之際對該技術(shù)實行全方位監(jiān)管的方法,概述了針對ChatGPT等人工智能治理的安全性和穩(wěn)健性、透明度和可解釋性、公平性、問責(zé)制和管理,以及可競爭性五項原則。在接下來的12個月里,有關(guān)部門要求監(jiān)管機構(gòu)向各組織發(fā)布實用指南,以及風(fēng)險評估模板等其他工具和資源,以闡明如何在各自的領(lǐng)域內(nèi)實施這些原則。除此之外,英國政府還表示將資助200萬英鎊建立一個新的沙盒,為人工智能企業(yè)提供測試環(huán)境。企業(yè)可以測試如何將監(jiān)管應(yīng)用于人工智能產(chǎn)品和服務(wù),以支持創(chuàng)新者將新想法推向市場,而不會受到監(jiān)管規(guī)則的約束。英國政府提出的方法與人工智能產(chǎn)業(yè)迭代速度快的特點相適應(yīng),將有助于監(jiān)管跟上人工智能的發(fā)展,支持創(chuàng)新并降低未來的風(fēng)險。

    借鑒國內(nèi)外人工智能敏捷治理的實踐經(jīng)驗,未來我國人工智能敏捷治理體系的建構(gòu),一方面,要持續(xù)引導(dǎo)參與者制定一套人工智能風(fēng)險管理動態(tài)機制以及部署操作和監(jiān)控的人工智能全生命周期治理。另一方面,進(jìn)一步推動監(jiān)管領(lǐng)域的技術(shù)創(chuàng)新。我們可以借鑒英國的監(jiān)管沙盒模式,在“沙盒”模擬中及早預(yù)判可能出現(xiàn)的風(fēng)險,幫助監(jiān)管方早日知曉和防范,同時幫助激發(fā)技術(shù)創(chuàng)新活力,拓展人工智能產(chǎn)業(yè)發(fā)展的空間。

    五、 人工智能邁向敏捷治理模式的實現(xiàn)路徑

    人工智能敏捷治理的實踐畢竟仍處在探索階段,其價值與潛能還有待我們?nèi)ミM(jìn)一步挖掘。我國要真正邁向人工智能的敏捷治理,還需從治理理念、治理節(jié)奏、制度體系等方面進(jìn)行探索。

    (一) 革新認(rèn)識:樹立敏捷治理的治理理念

    任何新的理論的應(yīng)用都會遇到阻力,長期建立在韋伯官僚制基礎(chǔ)上的組織結(jié)構(gòu)使得組織成員缺少一種變革性的認(rèn)知文化。尤其是人工智能敏捷治理的推進(jìn)依賴科層體制與跨組織部門之間的溝通協(xié)調(diào),所以其面臨的組織挑戰(zhàn)亟須討論。因此,如何進(jìn)一步應(yīng)對傳統(tǒng)官僚主義思想來建立健全一整套敏捷式的工作方法值得考慮。

    首先,要塑造敏捷治理的組織文化,改變組織領(lǐng)導(dǎo)者的領(lǐng)導(dǎo)文化。我們可以運用多種網(wǎng)絡(luò)媒介教育引導(dǎo)的方式宣傳敏捷治理思想嵌入人工智能治理的重要性,這種長期的教育勢必會引發(fā)政府等多元主體思維方式和思想觀念的轉(zhuǎn)變,沖擊政府系統(tǒng)原有的官僚理念,從而將敏捷治理思想內(nèi)化于心,外化于行。同時,在對人工智能進(jìn)行治理改革的過程中,我們要引導(dǎo)組織領(lǐng)導(dǎo)者加強頂層設(shè)計與戰(zhàn)略規(guī)劃,具備系統(tǒng)與變革思維,明確敏捷治理追求公共價值的使命與擔(dān)當(dāng)。

    其次,要不斷調(diào)整組織自身的治理結(jié)構(gòu)和治理邏輯。政府對人工智能的治理要克服敏捷思維與官僚結(jié)構(gòu)之間的張力,創(chuàng)新分級治理機制,向企業(yè)、社會等多方面賦權(quán)賦能,并且給予各主體更多的自由裁量權(quán),加強多主體之間的合作與交流,反對官僚主義、形式主義。尤其是要呼吁公眾以更加積極主動的姿態(tài)成為風(fēng)險應(yīng)對的“吹哨人”,同時以監(jiān)督政府與企業(yè)的方式不斷發(fā)聲,自下而上打造良性的多元共治體系。

    最后,要允許組織成員試錯,進(jìn)行容錯的組織學(xué)習(xí)。傳統(tǒng)的官僚組織重視組織成員的責(zé)任感,而敏捷治理在價值理念上強調(diào)創(chuàng)新。因此,政府要倡導(dǎo)負(fù)責(zé)任的創(chuàng)新,逐步放棄零失敗的文化,允許組織成員存在試錯行為,并給予容錯空間,在試錯中不斷調(diào)整和優(yōu)化政策和程序,以此提升決策者對人工智能領(lǐng)域的認(rèn)識和感知能力,從而適應(yīng)人工智能的生產(chǎn)模式。

    (二) 張弛有度:合理把握敏捷治理的節(jié)奏

    如何把握人工智能治理的節(jié)奏成為監(jiān)管部門的一個重要課題。目前,雖然政府對人工智能行業(yè)監(jiān)管規(guī)制的制定和落實正從“一刀切”的模式進(jìn)入“討價還價”的階段,但鑒于人工智能技術(shù)的動態(tài)性和不確定性,人工智能在治理工具的使用上還存在著應(yīng)用場景與規(guī)制方式的使用匹配不成熟的問題。所以,要合理把握人工智能敏捷治理的節(jié)奏,確保治理工具的使用張弛有度。

    首先,要分析行業(yè)發(fā)展現(xiàn)狀,有針對性地設(shè)計良好的監(jiān)管框架。政府、企業(yè)等部門要承擔(dān)各自的責(zé)任,判斷不同政策的應(yīng)用場景,定期反思現(xiàn)存的治理方案并根據(jù)新的社會議題分析行業(yè)的發(fā)展趨勢來建立動態(tài)、敏捷響應(yīng)技術(shù)前沿變化的監(jiān)管體系,把國家規(guī)劃、法律體系、政策體系、技術(shù)標(biāo)準(zhǔn)和倫理準(zhǔn)則這些宏觀工具與具體應(yīng)用有效地結(jié)合起來,使治理工具在統(tǒng)一的框架內(nèi)得到更為系統(tǒng)的識別。

    其次,要構(gòu)建治理主體與治理工具之間協(xié)同優(yōu)化的最佳組合。政府要梳理多元治理主體的價值分工,理順不同治理主體之間的治理關(guān)系,綜合人工智能治理主體的治理能力,選擇與之相契合的治理方式和治理工具。同時,有關(guān)部門還應(yīng)根據(jù)不同類型的風(fēng)險場景運用靈活合理的監(jiān)管框架,采取抑揚、強弱、緩急不同的措施,讓“無形之手”與“有形之手”保持在一個合理的閾值范圍之內(nèi),促使治理問題得到有效解決。

    最后,要不斷探索人工智能技術(shù)對社會的影響,進(jìn)行更好的社會應(yīng)用觀察和實驗。有關(guān)部門應(yīng)靈活、場景化地進(jìn)行技術(shù)治理試驗,并建立一整套的應(yīng)急預(yù)警預(yù)案機制,持續(xù)地對人工智能技術(shù)的影響進(jìn)行跟蹤研判,漸進(jìn)式微調(diào)政策來改進(jìn)監(jiān)管措施,提升治理主體的韌性和治理適應(yīng)能力,在討價還價中提高人工智能治理的適配性和精準(zhǔn)性,以助力人工智能的有效治理。

    (三) 多措并舉:健全敏捷治理的制度體系

    人工智能在為國家賦能的同時也在為國家賦責(zé)。人工智能敏捷治理目前尚處于初步探索階段,我們要建立起實現(xiàn)敏捷治理完備的法律法規(guī)、倫理規(guī)范和人才隊伍體系。

    首先,健全人工智能敏捷治理的法律制度體系。在推進(jìn)人工智能敏捷治理過程中,雖然可以依據(jù)《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和地方出臺的一系列關(guān)于敏捷治理的規(guī)劃方案,但還需要制定系統(tǒng)配套的敏捷治理體系,為人工智能敏捷治理提供法治保障。就國際層面而言,人工智能敏捷治理的實現(xiàn)需要國際社會的攜手努力。所以,就人工智能立法的共性問題,需要增強國內(nèi)外彼此間的溝通與協(xié)商,求同存異,建立統(tǒng)一的國際法律法規(guī)、國際公約,實現(xiàn)全球治理與國家治理的有效聯(lián)動。

    其次,建立健全人工智能的倫理和安全治理體系。人工智能的敏捷治理應(yīng)建立健全基本的人工智能倫理準(zhǔn)則,關(guān)注“數(shù)據(jù)偏見”“數(shù)據(jù)鴻溝”“數(shù)字平民”等影響社會公平正義的問題。同時,還要加強對人工智能研究及應(yīng)用主體的倫理教育,提升其倫理素養(yǎng),明確其倫理責(zé)任。針對人工智能的不同利益主體建構(gòu)不同的倫理規(guī)范,為從事人工智能活動的利益相關(guān)者提供倫理指引,促使人工智能治理“向善”。

    最后,健全人工智能敏捷治理的人才隊伍體系。高素質(zhì)人才是應(yīng)用人工智能技術(shù)的關(guān)鍵。人工智能快速迭代,在人工智能治理的實踐中,很大程度上會出現(xiàn)敏捷治理的人才儲備不足、缺乏專業(yè)知識、運轉(zhuǎn)乏力等問題。所以,除充分利用政府、企業(yè)內(nèi)部的專業(yè)精英外,我們可以引入高校、智庫等高技術(shù)人才參與人工智能敏捷治理過程。同時,大力培育有社會責(zé)任、有國際視野的高端人工智能治理人才和創(chuàng)新團(tuán)隊,為人工智能敏捷治理做好人才資源儲備。

    六、 結(jié)論與展望

    綜上所述,作為一種超越新公共管理以及融合協(xié)同治理、多中心治理、整體性治理等多種治理模式的新理論,顧客至上、多元共治、靈活響應(yīng)等敏捷治理的核心元素正是有效適應(yīng)當(dāng)前人工智能技術(shù)快速更迭的內(nèi)在因素。敏捷治理很好地契合了人工智能技術(shù)的政府監(jiān)管。推進(jìn)人工智能敏捷治理不僅是對社會現(xiàn)實問題關(guān)切的回應(yīng),也是對時代發(fā)展要求的順承。人工智能敏捷治理模式具有第四次工業(yè)革命大環(huán)境撬動的外部推力、促進(jìn)人工智能“向善”的內(nèi)在動力、破解人工智能治理現(xiàn)實難題的直接動力。另外,人工智能敏捷治理也是國家方針政策的保障和政府主動推動共同作用的結(jié)果。各領(lǐng)域運用敏捷治理的實踐經(jīng)驗形成的先進(jìn)做法,同樣具有推廣的價值。

    人工智能敏捷治理是對以往選擇性治理和運動式治理方式的摒棄。相較于集中式的治理模式,人工智能敏捷治理更具靈活性、包容性和預(yù)見力。值得注意的是,我們應(yīng)全面、理性、辯證地看待這一新興理論。首先,在理論層面,盡管從治理價值、治理對象、治理主體、治理方式等維度強調(diào)實現(xiàn)“敏捷”狀態(tài),但這僅是一種理論狀態(tài)。譬如,全員化參與的主體要求、實現(xiàn)靈活迭代的治理方式等維度上都是一種理想傾向。其次,在應(yīng)用層面,無論是運用該理論的初步嘗試還是在日后的普及推廣中勢必會有不適應(yīng)性,還應(yīng)看到社會系統(tǒng)、歷史和現(xiàn)實條件等分析框架之外的因素,并基于本土化語境展開更多的實證研究。今后我國人工智能敏捷治理的總體思路只有遵循本土實踐與全球視野相結(jié)合的發(fā)展思維,邁入多地區(qū)、多國交流交融頻繁的田野中,面向社會安全、國家安全和人類福祉,構(gòu)建具有中國特色的多元共治的人工智能敏捷治理體系,敏捷治理的現(xiàn)實意義與實踐價值才會更加凸顯。

    最后,我們也應(yīng)該清楚地知道人工智能時代的到來是人類社會發(fā)展的必然。我們處在人與人工智能共處的時代,既不能悲觀也不容樂觀,“人工智能”這四個字既是人類對于未來的無盡想象,又是一把時刻懸掛在人類頭顱上的達(dá)摩克利斯之劍,人工智能的治理問題是人類進(jìn)入人工智能時代所必須要面對的持久命題,將始終是人類社會的阿喀琉斯之踵(Achilles’ Heel)。面對未來更多的不確定性,我們需要的是直面困難的勇氣,要時刻做到治理方式和手段的調(diào)整、風(fēng)險的防范與制度的重構(gòu),積極滿足市場與社會公眾對人工智能治理的期待,搭建多元主體之間積極呼應(yīng)的橋梁,將治理節(jié)奏坐實到與政府監(jiān)管和行業(yè)機制良性互動的平臺上,將人工智能的發(fā)展置于“法治之下的自由”的環(huán)境里,這才是更好解決人工智能治理問題的阿里阿德涅線團(tuán)(Ariadne’s Thread)。

    (責(zé)任編輯:肖舟)

    姜李丹、薛瀾:《我國新一代人工智能治理的時代挑戰(zhàn)與范式變革》,《公共管理學(xué)報》2022年第2期。

    Mergel I., Ganapati S. and Whitford A. B.,“Agile: A New Way Governing,” Public Administration Review, Vol.81, No.1, 2021, pp.161-165.

    Fowler M. and Highsmith J.,“The Agile Manifesto,” Software Development, Vol.9, No.8, 2001, pp.28-38.

    Qumer A., “Defining an Integrated Agile Governance for Large Agile Software Development Environments,” International Conference on Agile Processes in Software Engineering and Extreme Programming Springer Verlag, 2007, pp.157-160.

    李欣欣、滕五曉:《敏捷治理:發(fā)展脈絡(luò)及其在應(yīng)急管理領(lǐng)域中的研究展望》,《城市問題》2023年第2期。

    Nagel R. N.,“21st Century Manufacturing Enterprise Strategy Report. Arlington,” January 1, 1991, accessed March 5.2023,1991年1月1日, https://apps.dtic.mil/dtic/tr/fulltext/u2/a257032.pdf.

    Luna A. J. H. O., Kruchten P. and Pedrosa M. L. G. E., et al,“State of the Art of Agile Governance: A Systematic Review,” International Journal of Computer Science&Information Technology, Vol.6, No.5, 2014, pp.121-141.

    Mergel I., Gong Y. and Bertot J.,“Agile Government: Systematic Literature Review and Future Research,” Government Information Quarterly, Vol.35, No.2, 2018, pp.291-298.

    Luna A. J. H. O., Kruchten P. and de Moura H. P.,“Agile Governance Theory: Conceptual Development,” 12th International Conference on Management of Technology and Information Systems. Sao Paulo: FEA-USP, 2015.

    于文軒:《奔跑的大象:超特大城市的敏捷治理》,《學(xué)?!?022年第1期。

    何植民、謝寶潔:《國外敏捷治理理論的變遷與創(chuàng)新》,《中國社會科學(xué)報》2019年第7期。

    賈開、蔣余浩:《人工智能治理的三個基本問題:技術(shù)邏輯、風(fēng)險挑戰(zhàn)與公共政策選擇》,《中國行政管理》2017年第10期。

    薛瀾:《新興科技發(fā)展中的人工智能治理》,2022年4月9日,https://baijiahao.baidu.com/s?id=1729582371174355832amp; wfr=spideramp;for=pc,訪問時間:2023年5月5日。

    姜李丹、薛瀾:《我國新一代人工智能治理的時代挑戰(zhàn)與范式變革》,《公共管理學(xué)報》2022年第2期。

    劉琳:《敏捷治理視角下的藥品網(wǎng)絡(luò)交易治理模式探析》,《中國藥房》2021年第20期。

    王彥雨、李正風(fēng)、高芳:《歐美人工智能治理模式比較研究》,《科學(xué)學(xué)研究》2023年第12期。

    高秀娟、彭春燕:《我國人工智能政策特征與PMC指數(shù)模型量化評價研究》,《科技管理研究》2022年第21期。

    薛瀾、趙靜:《走向敏捷治理:新興產(chǎn)業(yè)發(fā)展與監(jiān)管模式探究》,《中國行政管理》2019年第8期。

    騰訊研究院、中國信通院互聯(lián)網(wǎng)法律研究中心等:《人工智能:國家人工智能戰(zhàn)略行動抓手》,中國人民出版社,2017年,第322頁。

    習(xí)近平:《加快建設(shè)科技強國" 實現(xiàn)高水平科技自立自強》,求是網(wǎng),2022年4月30日,http://www.qstheory.cn/dukan/qs/2022-04/30/c_1128607366.htm,訪問日期:2023年4月23日。

    伏志強、孫偉平:《科技向“善”:人工智能發(fā)展的價值遵循》,《甘肅社會科學(xué)》2021年第2期。

    于文軒、馬亮、王佃利等:《“新一代人工智能技術(shù)ChatGPT的應(yīng)用與規(guī)制”筆談》,《廣西師范大學(xué)學(xué)報》(哲學(xué)社會科學(xué)版)2023年第2期。

    姜李丹、薛瀾:《我國新一代人工智能治理的時代挑戰(zhàn)與范式變革》,《公共管理學(xué)報》2022年第2期。

    阿里研究院:《如何應(yīng)對人工智能帶來的科技倫理問題? 政府、公眾、企業(yè)多方共治推動“敏捷治理”》,2022年10月9日,http://news.sohu.com/a/591360577_384789,訪問時間:2023年5月1日。

    中華人民共和國中央人民政府:《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》,2021年7月8日,http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm,訪問時間:2023年4月20日。

    中華人民共和國科學(xué)技術(shù)部:《發(fā)展負(fù)責(zé)任的人工智能:新一代人工智能治理原則發(fā)布》,2019年6月17日,http://www.most.gov.cn/kjbgz/201906/t20190617_147107.htm,訪問時間,2023年1月8日。

    孟天廣:《智能治理:通用人工智能時代的治理命題》,《學(xué)?!?023年第2期。

    上海市經(jīng)濟(jì)和信息化委員會:《關(guān)于印發(fā)上海市人工智能產(chǎn)業(yè)發(fā)展“十四五”規(guī)劃的通知》,2021年12月28日,https://www.shanghai.gov.cn/gwk/search/content/29259791c2fd46a2aff8b0dc09d4f8e6,訪問時間:2023年4月23日。

    成都市新經(jīng)濟(jì)發(fā)展委員會:《關(guān)于印發(fā)成都市新一代人工智能產(chǎn)業(yè)發(fā)展規(guī)劃(2022-2025)的通知》,2021年12月28日,http://cds.sczwfw.gov.cn/art/2023/1/5/art_15398_206437.html?areaCode=510100000000,訪問時間:2023年4月23日。

    張康之:《論主體多元化條件下的社會治理》,《中國人民大學(xué)學(xué)報》2014年第2期。

    王先進(jìn):《人工智能需實行倫理、科技與法制三角治理機構(gòu)平衡創(chuàng)新發(fā)展與精準(zhǔn)治理》,2021年3月5日,http://tech.china.com.cn/roll/20210305/375056.shtml,訪問時間:2023年5月1日。

    李曉方:《理念、激勵與共享經(jīng)濟(jì)的敏捷治理:基于地方政府網(wǎng)約車監(jiān)管實踐的實證分析》,《中國行政管理》2019年第6期。

    于文軒、劉麗紅:《算法規(guī)制的敏捷治理》,《新視野》2022年第3期。

    于文軒、魏煒:《數(shù)據(jù)的敏捷治理:價值重塑與框架構(gòu)建》,《廣西師范大學(xué)學(xué)報》(哲學(xué)社會科學(xué)版)2022年第5期。

    趙星、陸綺雯:《元宇宙之治:未來數(shù)智世界的敏捷治理前瞻》,《中國圖書館學(xué)報》2022年第1期。

    沈費偉:《數(shù)字鄉(xiāng)村敏捷治理的實踐邏輯與優(yōu)化路徑》,《求實》2022年第1期。

    葛天任、裴琳娜:《高風(fēng)險社會的智慧社區(qū)建設(shè)與敏捷治理變革》,《理論與改革》2020年第5期。

    于文軒:《奔跑的大象:超特大城市的敏捷治理》,《學(xué)?!?022年第1期。

    謝小芹、任世輝:《數(shù)字經(jīng)濟(jì)時代敏捷治理驅(qū)動的超大城市治理——來自成都市智慧城市建設(shè)的經(jīng)驗證據(jù)》,《城市問題》2022年第2期。

    新華社:《習(xí)近平在中共中央政治局第九次集體學(xué)習(xí)時強調(diào) 加強領(lǐng)導(dǎo)做好規(guī)劃明確任務(wù)夯實基礎(chǔ) 推動我國新一代人工智能健康發(fā)展》,2018年10月31日,http://www.gov.cn/xinwen/2018-10/31/content_5336251.htm?cid=303,訪問時間:2023年4月15日。

    中國信通院:《人工智能生成內(nèi)容(AIGC)白皮書(2022)》,2022年9月2日,http://www.caict.ac.cn/sytj/202209/t20220913_408835.htm,訪問時間:2023年4月20日。

    Mergel I., Ganapati S. and Whitford A. B.,“Agile: A New Way Governing,” Public Administration Review, Vol.81, No.1, 2021, pp.161-165.

    騰訊研究院、中國信通院互聯(lián)網(wǎng)法律研究中心等:《人工智能:國家人工智能戰(zhàn)略行動抓手》,中國人民出版社,2017年,第337頁。

    范旭、劉偉:《“敏捷治理”:重塑前沿科技領(lǐng)域治理體系》,《國家治理》2020第35期。

    薛瀾、趙靜:《推動人工智能治理在互信互動中敏捷前行》,《中國社會科學(xué)報》2022年第8期。

    梁正、張輝:《構(gòu)建平衡包容的人工智能治理體系》,《中國發(fā)展觀察》2022年第12期。

    薛瀾:《學(xué)者談人工智能倫理治理:要將倫理融入AI全生命周期》,2022年6月4日,https://baijiahao.baidu.com/s?id=1734702606105021894amp;wfr=spideramp;for=pc,訪問時間:2023年4月20日。

    猜你喜歡
    人工智能技術(shù)
    網(wǎng)絡(luò)背景下人工智能技術(shù)的應(yīng)用
    科技資訊(2016年36期)2017-04-21 07:49:08
    人工智能技術(shù)環(huán)境下的數(shù)字圖書館個性化信息服務(wù)系統(tǒng)研究
    卷宗(2016年12期)2017-04-19 21:04:44
    人工智能技術(shù)在衛(wèi)浴產(chǎn)品設(shè)計中的應(yīng)用
    人工智能技術(shù)在電氣自動化控制中的應(yīng)用
    人工智能技術(shù)在智能建筑中的應(yīng)用
    人工智能技術(shù)在智能建筑中的應(yīng)用
    考試周刊(2016年29期)2016-05-28 09:54:07
    人工智能技術(shù)在電氣自動化控制中的應(yīng)用思路
    科技視界(2016年10期)2016-04-26 11:31:20
    智能技術(shù)在電氣自動化控制中的應(yīng)用
    人工智能在電氣工程自動化中的應(yīng)用
    科技傳播(2015年24期)2016-03-09 23:34:57
    智能技術(shù)在電氣自動化方面的應(yīng)用分析
    国产成人免费无遮挡视频| 这个男人来自地球电影免费观看| 欧美中文综合在线视频| 女性被躁到高潮视频| 日韩欧美国产一区二区入口| 国产精品爽爽va在线观看网站 | 神马国产精品三级电影在线观看 | 99国产精品一区二区三区| 久久欧美精品欧美久久欧美| 国产一区二区在线av高清观看| 久久久久九九精品影院| 国产高清videossex| 日韩精品中文字幕看吧| 亚洲精品久久成人aⅴ小说| 精品国产乱码久久久久久男人| 国产极品粉嫩免费观看在线| 看片在线看免费视频| 在线观看www视频免费| av在线播放免费不卡| 免费高清在线观看日韩| 精品熟女少妇八av免费久了| 久久 成人 亚洲| 黄色 视频免费看| a级片在线免费高清观看视频| 啪啪无遮挡十八禁网站| 国产成人啪精品午夜网站| 一本大道久久a久久精品| 午夜免费成人在线视频| 免费女性裸体啪啪无遮挡网站| 亚洲欧美激情综合另类| 一级毛片精品| 人人妻,人人澡人人爽秒播| 亚洲精品国产精品久久久不卡| 欧美乱妇无乱码| 欧美久久黑人一区二区| 久久精品91蜜桃| 欧美老熟妇乱子伦牲交| 国产欧美日韩一区二区精品| 在线观看免费高清a一片| 麻豆久久精品国产亚洲av | 欧美日韩国产mv在线观看视频| 久久久久亚洲av毛片大全| 亚洲中文av在线| 久久香蕉激情| 在线观看免费高清a一片| 国产欧美日韩一区二区三区在线| 黑丝袜美女国产一区| 国产极品粉嫩免费观看在线| 午夜日韩欧美国产| 在线视频色国产色| 老鸭窝网址在线观看| 成人亚洲精品av一区二区 | 一区在线观看完整版| 久久热在线av| 亚洲精品国产区一区二| 88av欧美| 亚洲人成电影免费在线| 韩国av一区二区三区四区| 新久久久久国产一级毛片| 99国产综合亚洲精品| 亚洲成a人片在线一区二区| 色综合婷婷激情| 韩国精品一区二区三区| 亚洲七黄色美女视频| 成年女人毛片免费观看观看9| 亚洲专区字幕在线| 两个人免费观看高清视频| 一个人观看的视频www高清免费观看 | 1024视频免费在线观看| 亚洲欧美日韩高清在线视频| 国产精品影院久久| 国产免费现黄频在线看| 亚洲人成电影观看| av网站在线播放免费| 国产精品野战在线观看 | 亚洲九九香蕉| 亚洲人成电影观看| 亚洲一区高清亚洲精品| 成人影院久久| 韩国av一区二区三区四区| 亚洲 欧美 日韩 在线 免费| 最近最新中文字幕大全电影3 | 一二三四社区在线视频社区8| 午夜亚洲福利在线播放| 精品国产一区二区久久| 一级片'在线观看视频| 精品国内亚洲2022精品成人| 高清欧美精品videossex| 999久久久精品免费观看国产| 波多野结衣av一区二区av| 香蕉丝袜av| 久久草成人影院| 9热在线视频观看99| 日本 av在线| 国产精品久久视频播放| 成人影院久久| 少妇粗大呻吟视频| 国产伦人伦偷精品视频| 最新美女视频免费是黄的| 日韩中文字幕欧美一区二区| 90打野战视频偷拍视频| 精品午夜福利视频在线观看一区| 精品一区二区三区视频在线观看免费 | 午夜福利在线观看吧| 国产aⅴ精品一区二区三区波| 亚洲三区欧美一区| 久久久水蜜桃国产精品网| 久久久精品国产亚洲av高清涩受| 欧美日韩瑟瑟在线播放| 亚洲精品美女久久久久99蜜臀| 国产熟女午夜一区二区三区| 男男h啪啪无遮挡| 午夜免费成人在线视频| 麻豆av在线久日| 久久影院123| 妹子高潮喷水视频| 国产亚洲精品久久久久5区| 精品久久久久久成人av| 12—13女人毛片做爰片一| 久久久国产精品麻豆| 97超级碰碰碰精品色视频在线观看| 亚洲自偷自拍图片 自拍| 久久狼人影院| 18美女黄网站色大片免费观看| 9色porny在线观看| 精品久久久久久,| 亚洲黑人精品在线| 人人澡人人妻人| 好男人电影高清在线观看| 黑丝袜美女国产一区| 精品午夜福利视频在线观看一区| 麻豆成人av在线观看| 99国产精品免费福利视频| 视频区图区小说| 欧美乱色亚洲激情| 岛国视频午夜一区免费看| 在线观看免费午夜福利视频| 两性午夜刺激爽爽歪歪视频在线观看 | 三级毛片av免费| 一本大道久久a久久精品| 一区二区日韩欧美中文字幕| 国产极品粉嫩免费观看在线| 国产精品1区2区在线观看.| 99精品欧美一区二区三区四区| 免费在线观看黄色视频的| 无限看片的www在线观看| 在线观看一区二区三区| 日韩有码中文字幕| 亚洲色图av天堂| 日韩欧美三级三区| 国产97色在线日韩免费| 国产一区二区三区视频了| 亚洲性夜色夜夜综合| 婷婷丁香在线五月| 老熟妇仑乱视频hdxx| 久久中文字幕一级| 亚洲情色 制服丝袜| 神马国产精品三级电影在线观看 | 欧美亚洲日本最大视频资源| 日日干狠狠操夜夜爽| 成人影院久久| 91字幕亚洲| 一夜夜www| www.熟女人妻精品国产| 老熟妇仑乱视频hdxx| 日韩欧美免费精品| 精品国产乱子伦一区二区三区| 日韩国内少妇激情av| 久久狼人影院| а√天堂www在线а√下载| 美女 人体艺术 gogo| 国产精品亚洲av一区麻豆| 精品第一国产精品| 老司机深夜福利视频在线观看| 成人特级黄色片久久久久久久| 国产xxxxx性猛交| 丝袜美腿诱惑在线| 亚洲一区高清亚洲精品| 9191精品国产免费久久| 一进一出抽搐gif免费好疼 | 中文字幕最新亚洲高清| 老司机在亚洲福利影院| 国产真人三级小视频在线观看| 国产伦人伦偷精品视频| 最新在线观看一区二区三区| 91在线观看av| 99久久人妻综合| videosex国产| av福利片在线| 成年版毛片免费区| 叶爱在线成人免费视频播放| 免费观看精品视频网站| 在线观看免费视频网站a站| 亚洲色图 男人天堂 中文字幕| 美女福利国产在线| 亚洲视频免费观看视频| 在线av久久热| 欧美日韩黄片免| 国产精品av久久久久免费| 一级片'在线观看视频| 岛国在线观看网站| 亚洲av成人不卡在线观看播放网| 国产免费av片在线观看野外av| 国产亚洲精品久久久久5区| 黄色片一级片一级黄色片| 免费观看精品视频网站| 久久久久久人人人人人| 欧美日本亚洲视频在线播放| 在线免费观看的www视频| 亚洲精品中文字幕一二三四区| 久久人人爽av亚洲精品天堂| 亚洲片人在线观看| 大香蕉久久成人网| 亚洲色图综合在线观看| 午夜福利欧美成人| e午夜精品久久久久久久| 日韩免费高清中文字幕av| 欧美激情 高清一区二区三区| 性少妇av在线| 成人特级黄色片久久久久久久| 国内毛片毛片毛片毛片毛片| 欧美大码av| 色在线成人网| 人人妻人人澡人人看| 在线观看66精品国产| 一个人免费在线观看的高清视频| 久久久久久久久免费视频了| 免费少妇av软件| 亚洲色图 男人天堂 中文字幕| 国产精品乱码一区二三区的特点 | 高清毛片免费观看视频网站 | 19禁男女啪啪无遮挡网站| 美女扒开内裤让男人捅视频| 国产三级在线视频| 国产色视频综合| 国产熟女xx| 亚洲第一青青草原| 欧美另类亚洲清纯唯美| 亚洲精品在线观看二区| 男人的好看免费观看在线视频 | 嫁个100分男人电影在线观看| 搡老熟女国产l中国老女人| 99精品欧美一区二区三区四区| 99久久综合精品五月天人人| 日本五十路高清| 成人手机av| 不卡av一区二区三区| 国产一区二区三区综合在线观看| 欧洲精品卡2卡3卡4卡5卡区| 亚洲成人免费av在线播放| 青草久久国产| 欧美精品亚洲一区二区| 精品免费久久久久久久清纯| 欧美乱码精品一区二区三区| 国产午夜精品久久久久久| 亚洲精品国产一区二区精华液| 18禁观看日本| 久久午夜亚洲精品久久| 在线观看免费视频日本深夜| av超薄肉色丝袜交足视频| 黑人操中国人逼视频| 人人妻人人爽人人添夜夜欢视频| 亚洲精品国产一区二区精华液| 久久久久亚洲av毛片大全| 中文欧美无线码| 亚洲午夜精品一区,二区,三区| 淫秽高清视频在线观看| 国产精品电影一区二区三区| 午夜福利,免费看| 老司机福利观看| 日韩欧美国产一区二区入口| 国产极品粉嫩免费观看在线| 12—13女人毛片做爰片一| 亚洲一区二区三区欧美精品| 777久久人妻少妇嫩草av网站| 99国产综合亚洲精品| 日日夜夜操网爽| 久久精品国产清高在天天线| 免费在线观看亚洲国产| 18禁观看日本| 亚洲人成电影免费在线| 成人特级黄色片久久久久久久| 精品免费久久久久久久清纯| 中文字幕精品免费在线观看视频| 成在线人永久免费视频| 精品卡一卡二卡四卡免费| 欧美黄色片欧美黄色片| 亚洲男人的天堂狠狠| 色在线成人网| 最新在线观看一区二区三区| 亚洲精品一区av在线观看| 国产欧美日韩一区二区精品| 色哟哟哟哟哟哟| 色精品久久人妻99蜜桃| 九色亚洲精品在线播放| 久久精品国产亚洲av高清一级| 丝袜美足系列| 琪琪午夜伦伦电影理论片6080| 中文字幕最新亚洲高清| 亚洲视频免费观看视频| 天堂影院成人在线观看| 国产精品久久久人人做人人爽| 在线av久久热| 天天躁狠狠躁夜夜躁狠狠躁| 日本wwww免费看| 午夜两性在线视频| 久久久久久大精品| 99在线视频只有这里精品首页| 国产精品日韩av在线免费观看 | 欧美在线黄色| 国产一区二区三区在线臀色熟女 | 国产精品一区二区精品视频观看| 女人被躁到高潮嗷嗷叫费观| 91精品三级在线观看| 日韩欧美免费精品| 久久精品亚洲av国产电影网| 精品熟女少妇八av免费久了| 多毛熟女@视频| 欧美大码av| 99久久久亚洲精品蜜臀av| 国产一区在线观看成人免费| 亚洲国产精品一区二区三区在线| 热99re8久久精品国产| 精品一区二区三区av网在线观看| 美女国产高潮福利片在线看| 男女午夜视频在线观看| 视频区欧美日本亚洲| 18美女黄网站色大片免费观看| 成熟少妇高潮喷水视频| 香蕉久久夜色| 午夜免费成人在线视频| 亚洲中文av在线| 99香蕉大伊视频| 午夜福利在线免费观看网站| 搡老熟女国产l中国老女人| 麻豆久久精品国产亚洲av | 欧美中文日本在线观看视频| 91精品国产国语对白视频| 激情视频va一区二区三区| 两个人免费观看高清视频| 免费人成视频x8x8入口观看| 成年女人毛片免费观看观看9| 国产熟女xx| 日本五十路高清| 90打野战视频偷拍视频| 免费在线观看黄色视频的| 亚洲精品久久午夜乱码| 免费搜索国产男女视频| 人妻丰满熟妇av一区二区三区| 午夜视频精品福利| 久久亚洲真实| 热re99久久国产66热| 国产成人系列免费观看| 亚洲成人免费av在线播放| 成年人免费黄色播放视频| 99久久精品国产亚洲精品| 精品卡一卡二卡四卡免费| 亚洲精品一区av在线观看| 亚洲精华国产精华精| 91精品国产国语对白视频| 伊人久久大香线蕉亚洲五| 在线观看免费视频日本深夜| www.999成人在线观看| 国产精品秋霞免费鲁丝片| 侵犯人妻中文字幕一二三四区| 国产精品爽爽va在线观看网站 | 脱女人内裤的视频| 精品福利观看| 女人高潮潮喷娇喘18禁视频| 亚洲成av片中文字幕在线观看| 久久精品91无色码中文字幕| 久久 成人 亚洲| 丰满饥渴人妻一区二区三| 久久精品aⅴ一区二区三区四区| 久久久精品欧美日韩精品| 日韩大码丰满熟妇| 91麻豆av在线| 亚洲中文日韩欧美视频| 12—13女人毛片做爰片一| 亚洲成人国产一区在线观看| 99国产精品一区二区蜜桃av| 国产麻豆69| 国产亚洲精品第一综合不卡| 女生性感内裤真人,穿戴方法视频| av片东京热男人的天堂| 亚洲va日本ⅴa欧美va伊人久久| 免费av毛片视频| 如日韩欧美国产精品一区二区三区| 亚洲av片天天在线观看| 久久精品国产亚洲av香蕉五月| 真人一进一出gif抽搐免费| 国产精品久久电影中文字幕| 亚洲专区字幕在线| av中文乱码字幕在线| 亚洲人成77777在线视频| 精品国产一区二区久久| 久久久久久久久中文| 啦啦啦免费观看视频1| 青草久久国产| 国产精品久久久久成人av| 一a级毛片在线观看| 免费高清在线观看日韩| 欧美大码av| 亚洲成人精品中文字幕电影 | 正在播放国产对白刺激| 午夜免费成人在线视频| 大型av网站在线播放| 久久国产精品人妻蜜桃| 免费看a级黄色片| 久久性视频一级片| 精品久久久精品久久久| 88av欧美| 高清av免费在线| 欧美+亚洲+日韩+国产| 成年人黄色毛片网站| 日韩大尺度精品在线看网址 | 日韩 欧美 亚洲 中文字幕| 亚洲免费av在线视频| 大型黄色视频在线免费观看| 久久精品91无色码中文字幕| 欧美国产精品va在线观看不卡| 亚洲少妇的诱惑av| 中文字幕人妻丝袜制服| av网站在线播放免费| 欧美成人午夜精品| 午夜免费观看网址| 97超级碰碰碰精品色视频在线观看| 精品国产亚洲在线| 久久精品成人免费网站| 欧美日韩精品网址| 中文字幕人妻丝袜制服| 国产精品一区二区免费欧美| 亚洲全国av大片| 99国产精品一区二区蜜桃av| 国产成人av激情在线播放| 神马国产精品三级电影在线观看 | 久9热在线精品视频| 在线观看舔阴道视频| 日本 av在线| 欧美日韩福利视频一区二区| 中文字幕精品免费在线观看视频| 欧美午夜高清在线| 国产极品粉嫩免费观看在线| 日韩欧美免费精品| 国内久久婷婷六月综合欲色啪| 久久狼人影院| 精品欧美一区二区三区在线| 村上凉子中文字幕在线| aaaaa片日本免费| www.自偷自拍.com| 欧美人与性动交α欧美精品济南到| 黄网站色视频无遮挡免费观看| 亚洲黑人精品在线| 欧美 亚洲 国产 日韩一| 91精品三级在线观看| 一级片'在线观看视频| 99国产极品粉嫩在线观看| 一区二区三区精品91| 欧美日韩瑟瑟在线播放| 丝袜美腿诱惑在线| 99精品在免费线老司机午夜| 80岁老熟妇乱子伦牲交| 欧美黄色淫秽网站| 免费在线观看影片大全网站| 亚洲国产欧美一区二区综合| 美国免费a级毛片| 国产三级黄色录像| 国产在线精品亚洲第一网站| 一a级毛片在线观看| 久久草成人影院| 午夜免费成人在线视频| 69精品国产乱码久久久| 麻豆成人av在线观看| 国产成人精品久久二区二区91| 精品久久久精品久久久| 嫩草影院精品99| 一区二区三区国产精品乱码| 乱人伦中国视频| 亚洲成人免费av在线播放| 久久久精品国产亚洲av高清涩受| 亚洲欧美激情在线| 久久精品91无色码中文字幕| 激情在线观看视频在线高清| cao死你这个sao货| 亚洲午夜精品一区,二区,三区| 久久久国产精品麻豆| 日日摸夜夜添夜夜添小说| 一区二区日韩欧美中文字幕| 久久精品国产99精品国产亚洲性色 | 一边摸一边抽搐一进一小说| 麻豆成人av在线观看| 最近最新免费中文字幕在线| 97人妻天天添夜夜摸| 久久精品91无色码中文字幕| av网站在线播放免费| av电影中文网址| av有码第一页| 黄色怎么调成土黄色| 久久精品国产亚洲av香蕉五月| 日韩欧美在线二视频| 他把我摸到了高潮在线观看| 成人亚洲精品av一区二区 | 18美女黄网站色大片免费观看| 看黄色毛片网站| 日韩视频一区二区在线观看| 一级毛片精品| 国产一区二区在线av高清观看| 精品国产乱子伦一区二区三区| 黄色视频不卡| 黄色毛片三级朝国网站| 久久久久久久午夜电影 | 久久久精品欧美日韩精品| 精品久久久精品久久久| 欧美日韩中文字幕国产精品一区二区三区 | 91麻豆精品激情在线观看国产 | 在线观看免费视频网站a站| 亚洲欧美精品综合久久99| 成人三级黄色视频| 老司机午夜十八禁免费视频| 18禁观看日本| bbb黄色大片| 男人舔女人的私密视频| 欧美人与性动交α欧美精品济南到| 亚洲精品国产区一区二| 国产成人影院久久av| av免费在线观看网站| 久久久久久久久久久久大奶| 欧美不卡视频在线免费观看 | 成熟少妇高潮喷水视频| 国产99久久九九免费精品| 自线自在国产av| 成人手机av| 亚洲成人免费电影在线观看| 国产精华一区二区三区| 久热爱精品视频在线9| 一级片免费观看大全| 手机成人av网站| 免费人成视频x8x8入口观看| 老司机在亚洲福利影院| 久久99一区二区三区| 国产精品乱码一区二三区的特点 | 久久精品人人爽人人爽视色| 久久久久久久精品吃奶| 一本综合久久免费| 丝袜美腿诱惑在线| 国产成+人综合+亚洲专区| 国产精品爽爽va在线观看网站 | www.999成人在线观看| xxxhd国产人妻xxx| 十八禁网站免费在线| 91精品国产国语对白视频| 成人亚洲精品一区在线观看| 亚洲午夜理论影院| 亚洲国产欧美一区二区综合| 嫩草影视91久久| 亚洲精品国产色婷婷电影| 女性生殖器流出的白浆| 黑人巨大精品欧美一区二区mp4| 精品久久久久久电影网| 久久精品国产清高在天天线| 一本大道久久a久久精品| 真人一进一出gif抽搐免费| 啦啦啦免费观看视频1| 亚洲精品av麻豆狂野| 日韩人妻精品一区2区三区| 亚洲精品在线观看二区| 9色porny在线观看| 满18在线观看网站| 嫩草影视91久久| 久久午夜综合久久蜜桃| 免费女性裸体啪啪无遮挡网站| 999精品在线视频| av网站在线播放免费| 久久久国产精品麻豆| 亚洲熟女毛片儿| 久久久久国产一级毛片高清牌| 日韩三级视频一区二区三区| 777久久人妻少妇嫩草av网站| 亚洲欧美激情综合另类| 亚洲成av片中文字幕在线观看| 色老头精品视频在线观看| 精品国产一区二区久久| 99热只有精品国产| 国产精品国产高清国产av| 人人妻人人澡人人看| 亚洲成人国产一区在线观看| 老司机亚洲免费影院| 三级毛片av免费| 日韩欧美三级三区| a级毛片黄视频| 免费在线观看亚洲国产| 男女床上黄色一级片免费看| 手机成人av网站| 97超级碰碰碰精品色视频在线观看| 国产精品二区激情视频| 97人妻天天添夜夜摸| av片东京热男人的天堂| 久久精品影院6| 在线观看66精品国产| 性欧美人与动物交配| 女生性感内裤真人,穿戴方法视频| 精品少妇一区二区三区视频日本电影| 性欧美人与动物交配| av有码第一页| 天堂俺去俺来也www色官网| 校园春色视频在线观看| 国产精品自产拍在线观看55亚洲| 丰满饥渴人妻一区二区三| 亚洲精品国产一区二区精华液| 亚洲性夜色夜夜综合| 亚洲成人久久性| 久久午夜综合久久蜜桃| 国产成人精品久久二区二区91| 人人妻,人人澡人人爽秒播| 欧美久久黑人一区二区|