• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能在行政規(guī)則制定中的作用及其法律控制

    2024-01-01 00:00:00宋華琳
    江淮論壇 2024年5期
    關(guān)鍵詞:人工智能

    摘要:將人工智能引入行政規(guī)則制定全過程的各個環(huán)節(jié),有助于提高法律信息檢索質(zhì)量、加強聽取意見的廣泛性和回應(yīng)性、提升審查的全面性和改善后評估和規(guī)則清理的效果。應(yīng)審視并厘定人工智能系統(tǒng)介入行政規(guī)則制定的邊界,為人工智能系統(tǒng)設(shè)定透明和可解釋性要求,并探索人工智能系統(tǒng)開發(fā)的合作治理方略。要防止因?qū)σ?guī)則制定效率的迷戀,而克減了利益相關(guān)方參與規(guī)則制定的法定權(quán)利。此外,人工智能系統(tǒng)在行政規(guī)則制定中只能起到輔助性的作用,需建構(gòu)人機協(xié)同的行政規(guī)則制定機制。

    關(guān)鍵詞:人工智能;規(guī)則制定;聽取意見;行政程序

    中圖分類號:DF0" " 文獻標(biāo)志碼:A" " 文章編號:1001-862X(2024)05-0133-006

    本刊網(wǎng)址·在線雜志:www.jhlt.net.cn

    *基金項目:國家社會科學(xué)基金重大項目“突發(fā)重大公共衛(wèi)生事件防控的法治體系研究”(20amp;ZD188);中央高校基本科研業(yè)務(wù)費項目“公共衛(wèi)生治理與行政法治”

    作者簡介:宋華琳(1977—),河北黃驊人,南開大學(xué)法學(xué)院教授、博士生導(dǎo)師,教育部“長江學(xué)者獎勵計劃”青年學(xué)者,主要研究方向:行政法學(xué)。

    我國正逐步探索如何以電子化、數(shù)字化、智能化的方式規(guī)范行政規(guī)則制定程序,提升行政規(guī)則制定質(zhì)量。中共中央、國務(wù)院印發(fā)的《法治政府建設(shè)實施綱要(2021—2025年)》中,指出“著力實現(xiàn)政府立法質(zhì)量和效率并重并進”,“積極利用新媒體新技術(shù)拓寬立法公眾參與渠道”。2022年頒布的《國務(wù)院關(guān)于加強數(shù)字政府建設(shè)的指導(dǎo)意見》中,提出堅持?jǐn)?shù)據(jù)賦能,“建立健全大數(shù)據(jù)輔助科學(xué)決策機制”,提高政府決策科學(xué)化水平。但如何將以人工智能為代表的現(xiàn)代數(shù)字技術(shù),系統(tǒng)性地引入行政規(guī)則制定過程之中,目前還欠缺相對體系化的制度安排,也缺少細(xì)密的學(xué)理探究。

    筆者立足我國行政規(guī)則制定實踐,探討人工智能如何影響行政規(guī)則的議程設(shè)定,如何輔助搜集規(guī)則制定所需的事實,并對不同備選方案加以比較,同時,進一步思考哪些類型的規(guī)則更宜引入人工智能來輔助制定,如何防范由人工智能介入規(guī)則制定所引發(fā)的風(fēng)險,如何通過規(guī)則制定合作網(wǎng)絡(luò)的建構(gòu),引入人工智能,提高行政規(guī)則的制定效率和質(zhì)量。

    一、人工智能對于提升行政規(guī)則實體內(nèi)容質(zhì)量的作用

    將人工智能引入行政規(guī)則制定過程,有助于優(yōu)化行政規(guī)則的議程設(shè)置,并有的放矢地配置規(guī)則制定資源。人工智能可以通過對“立法性事實”(legislative fact)信息的搜集和分析,以及對行政規(guī)則備選方案的考察與比較,制定出更具有量體裁衣特點的規(guī)則,提高行政規(guī)則制定精準(zhǔn)化水平,增加行政規(guī)則的針對性、及時性、系統(tǒng)性與可操作性,推動行政規(guī)則實體內(nèi)容質(zhì)量的提升。

    (一)優(yōu)化行政規(guī)則制定的議程設(shè)置

    《行政法規(guī)制定程序條例》《規(guī)章制定程序條例》規(guī)定了行政法規(guī)、規(guī)章制定的立項程序,要求立項申請需說明制定規(guī)則的必要性、所要解決的主要問題等。但在規(guī)則制定資源相對稀缺的情形下,需要首先明確哪些事項、哪些問題能夠成功進入行政規(guī)則制定議程,以確定某一事項的“必要性”,以及確定規(guī)則制定事項的優(yōu)先順序。

    何為規(guī)則制定的“必要性”?一般而言,這意味著在規(guī)則制定者心目中,此事項的急迫性極高,以至于必須由公權(quán)力介入和處理。通過引入人工智能技術(shù),對大型數(shù)據(jù)集和眾包數(shù)據(jù)進行分析,可以讓規(guī)則制定者獲得更多通達信息,來確定哪些是最關(guān)鍵的事項,進而決定議程設(shè)置中的優(yōu)先順序。[1]還可以進一步利用大數(shù)據(jù)和人工智能技術(shù),去感知、預(yù)測、預(yù)警基礎(chǔ)設(shè)施和社會安全運行的重大態(tài)勢,分析社情民意,及時把握群體認(rèn)知及心理變化,研判哪些是經(jīng)濟社會發(fā)展中亟待回應(yīng)的系統(tǒng)性、趨勢性問題,哪些是需要以行政規(guī)則應(yīng)對的制度性風(fēng)險。在人工智能技術(shù)的輔助下,政府可以更容易地識別出哪些問題是“人民群眾急盼”,哪些是“人民群眾反映強烈的突出問題”,從而將這些問題納入行政規(guī)則制定的優(yōu)先次序。(1)

    (二) 輔助“立法性事實”的搜集分析

    行政機關(guān)制定規(guī)則是一種“準(zhǔn)立法”活動,而規(guī)則制定需要以立法性事實為基礎(chǔ)。立法性事實著力說明規(guī)則制定所需的客觀性事實,即能被感知、觀察或者有科學(xué)數(shù)據(jù)支撐的事實,也包括通過社會科學(xué)工具或手段獲得的事實,如統(tǒng)計數(shù)據(jù)和資料。[2]立法性事實反映了真實發(fā)生的事情和實際存在的狀態(tài),是行政規(guī)則制定的必備前提。

    規(guī)則制定者運用人工智能技術(shù)處理傳統(tǒng)和創(chuàng)新的數(shù)據(jù)源,并對海量的數(shù)據(jù)和信息進行分析,有助于更好地搜集立法性事實,形成更有針對性、包容性的規(guī)則。在難以用傳統(tǒng)方式搜集信息和數(shù)據(jù)的領(lǐng)域,人工智能技術(shù)構(gòu)成了更為有益的補充。例如,人們可運用人工智能模型,分析衛(wèi)星云圖數(shù)據(jù),通過觀測夜間燈光密度、建筑構(gòu)造、交通網(wǎng)絡(luò)情況,估量經(jīng)濟活動和經(jīng)濟產(chǎn)出。[3]又如,亞洲開發(fā)銀行(ADB)引入人工智能技術(shù),利用衛(wèi)星圖像上的數(shù)據(jù),預(yù)測和評估菲律賓、泰國的貧困情況,作為出臺相關(guān)政策的參考。[4]

    大數(shù)據(jù)和人工智能技術(shù)可以對數(shù)量巨大、來源分散、格式多樣的數(shù)據(jù)進行采集、存儲,有助于以智能化方式形成作為行政治理基礎(chǔ)的數(shù)據(jù)庫,并通過數(shù)據(jù)分析,揭示傳統(tǒng)技術(shù)方式難以展示的關(guān)聯(lián)關(guān)系。實現(xiàn)這一目標(biāo),必須提升行政的數(shù)據(jù)分析能力,建立“用數(shù)據(jù)說話、用數(shù)據(jù)決策、用數(shù)據(jù)管理、用數(shù)據(jù)創(chuàng)新”的管理機制,實現(xiàn)基于數(shù)據(jù)的科學(xué)決策和基于“事實”的規(guī)則制定。

    (三)增加備選方案選擇的科學(xué)性

    制定行政規(guī)則是法政策學(xué)的工作,需做好規(guī)則制定的事前評估,對不同的備選方案加以選擇。一方面,規(guī)則制定者要通過外推預(yù)測、理論預(yù)測、主觀判斷等方法加以預(yù)測,預(yù)測備選方案給社會帶來的影響,以避免出臺的行政規(guī)則帶來不可預(yù)期的、負(fù)面的后果。外推預(yù)測基于目前及歷史的數(shù)據(jù),通過歸納做出預(yù)言;理論預(yù)測以不同理論中的因果假設(shè)為基礎(chǔ),通過演繹進行推斷;判斷預(yù)測以直覺為基礎(chǔ),給出有見地的判斷。[5]另一方面,行政規(guī)則制定也在逐步引入規(guī)則影響評估、成本收益分析制度,規(guī)則制定者應(yīng)比較不同備選方案的成本和收益,評估特定備選方案給經(jīng)濟社會可能產(chǎn)生的影響,所選擇的備選方案應(yīng)付出盡可能低的成本,以獲得盡可能高的收益。

    通過建構(gòu)自動化模型,人工智能系統(tǒng)可以模擬匯率波動、金融危機、交通擁堵、氣候變化等經(jīng)濟社會場景。憑借機器學(xué)習(xí)算法,人們可以利用歷史數(shù)據(jù)與當(dāng)下數(shù)據(jù)訓(xùn)練出先進的人工智能預(yù)測模型。在這些人工智能模型的輔助下,規(guī)則制定者可以預(yù)測到觀測到的特定結(jié)果,也可以預(yù)測到未觀測到的反事實干預(yù)下的結(jié)果,進而對備選方案有更為準(zhǔn)確、公正的評估。[1]這有助于以通達信息為基礎(chǔ),形成基于證據(jù)的決策(evidenced-base policy making)。例如,在一些非洲國家,央行利用機器學(xué)習(xí)和大數(shù)據(jù)技術(shù),針對利率、存款準(zhǔn)備金率和流動性管理等貨幣政策杠桿,做出知情度更高的、數(shù)據(jù)驅(qū)動的決策。[4]又如,德國聯(lián)邦經(jīng)濟和能源部于2021至2023年,資助“人工智能和貨幣政策決策”項目,通過使用機器學(xué)習(xí)方法生成新的信息,開展宏觀分析和預(yù)測、評估金融穩(wěn)定風(fēng)險,進而改進歐元區(qū)的貨幣政策。[4]

    《國務(wù)院關(guān)于加強數(shù)字政府建設(shè)的指導(dǎo)意見》中指出“統(tǒng)籌推進決策信息資源系統(tǒng)建設(shè),充分匯聚整合多源數(shù)據(jù)資源,拓展動態(tài)監(jiān)測、統(tǒng)計分析、趨勢研判、風(fēng)險防控等應(yīng)用場景,全面提升政府決策科學(xué)化水平”。我國可以通過引入人工智能系統(tǒng),建構(gòu)自動化模型,來模擬相關(guān)的情景和備選方案,去審視相應(yīng)情景和備選方案下的后果,這有助于對不同備選方案進行比較和選擇。

    二、人工智能在行政規(guī)則制定各環(huán)節(jié)中的作用

    將人工智能引入行政規(guī)則制定,從法律信息檢索、聽取意見、草案審查到后評估全過程的各個環(huán)節(jié),一方面有助于更好地保障利益相關(guān)方參與規(guī)則制定的權(quán)利,從而保障規(guī)則制定的過程民主性;另一方面,有助于提升規(guī)則制定的質(zhì)量,促進規(guī)則內(nèi)容的實質(zhì)合理性。

    (一)提高法律信息檢索的質(zhì)量

    在我國行政規(guī)則制定過程中,客觀上存在著政策擴散(policy diffusion)和政策學(xué)習(xí)(policy learning)的現(xiàn)象。政策擴散是指一種政策活動從一個地區(qū)或部門擴散到另一地區(qū)或部門,被新的行政主體采納并推行的過程。[6]政策學(xué)習(xí)的要義則在于,當(dāng)決策者面臨某個問題時,往往選擇已經(jīng)在其他地方被證明為成功的政策,來簡化尋找解決方案的過程。[7]政策擴散、政策學(xué)習(xí)的前提在于獲取相關(guān)法規(guī)和政策文本。依法制定行政規(guī)則的前提,在于要檢索、搜集到相關(guān)法律、法規(guī)、規(guī)章、司法解釋、司法判例乃至技術(shù)標(biāo)準(zhǔn),這對規(guī)則制定者的法律信息檢索能力提出了很高的要求。

    我國目前已有商業(yè)性智能起草規(guī)則的輔助工具,該系統(tǒng)以法律法規(guī)數(shù)據(jù)庫為基礎(chǔ),運用人工智能、大數(shù)據(jù)分析等先進技術(shù),智能匹配相關(guān)法律法規(guī),生成資料匯編,在線調(diào)用資料起草文本,解決起草承辦人在信息資料收集、管理等方面遇到的困難和問題。在這一領(lǐng)域,未來可以采取政企合作的形式,由政府和企業(yè)共同開發(fā)、設(shè)計智能化的立法輔助系統(tǒng)。在系統(tǒng)中嵌入高階版的人工智能搜索引擎,并為系統(tǒng)設(shè)計更為合理的欄目和搜索選項,為數(shù)據(jù)設(shè)計更為合理的分組,同時盡量減少無關(guān)信息源,精準(zhǔn)匹配數(shù)據(jù),以提高行政規(guī)則所需信息搜集的質(zhì)量與效率。[8]

    (二)增強收取意見的廣泛性和回應(yīng)性

    我國司法部已針對法律、行政法規(guī)、部門規(guī)章建立了“公開征求意見系統(tǒng)”,很多省市也建立了相應(yīng)的法規(guī)規(guī)章草案意見征集系統(tǒng),還引入了微信二維碼、電子郵件等聽取意見形式,規(guī)則聽取意見的智能化程度逐步提高。

    通過將人工智能技術(shù)引入征求意見系統(tǒng),運用自然語言處理技術(shù)(NLP)來閱讀和總結(jié)公眾意見,可以幫助規(guī)則制定者對公眾意見加以概括和分類,并從諸多意見中提取出最重要的實質(zhì)性信息,從而更好地對公眾意見加以回應(yīng)。[9]例如,2016年美國國務(wù)院為改進其護照申請和延期流程,使用了由第三方軟件公司開發(fā)的在線征求意見程序,之后收到了近1000條建議。該程序可通過文本挖掘算法,掃描包含相關(guān)類似關(guān)鍵字的文本,并對這些意見加以概括。通過人類智能與人工智能的結(jié)合,改進了聽取意見的質(zhì)量,提高回應(yīng)公眾意見的效率。[10]

    通過總結(jié)國內(nèi)外發(fā)展經(jīng)驗,在行政規(guī)則聽取意見程序中引入人工智能技術(shù),需要關(guān)注的問題主要有以下四點。

    其一,積極發(fā)展人工智能技術(shù),實現(xiàn)規(guī)則制定聽取意見的智能性、便捷性和即時性。行政規(guī)則制定機關(guān)可通過人工智能信息平臺,發(fā)布規(guī)則制定草案及相關(guān)背景材料,乃至將相關(guān)內(nèi)容推送至特定群體的手機或其他終端,以實質(zhì)性拓展聽取意見的范圍。

    其二,有組織地推進規(guī)則制定意見收集、整理、歸納的智能化。行政機關(guān)通過利用人工智能、機器學(xué)習(xí)技術(shù),可以識別、刪減重復(fù)的意見,歸并、整合相關(guān)意見,提煉意見的主要觀點和總體傾向,并盡量對公眾提出的意見予以回應(yīng)。

    其三,理性對待生成式人工智能在聽取意見程序中的功能。生成式人工智能給出的建議與導(dǎo)引,有可能貌似通暢、合理,實則生產(chǎn)了諸多虛假、錯誤信息,公眾以生成式人工智能就行政規(guī)則提出意見,也可能會帶來更多偏狹、謬誤之見。規(guī)則制定機關(guān)當(dāng)未雨綢繆,發(fā)展出適當(dāng)?shù)闹悄芗夹g(shù),對以生成式人工智能生成的虛假、低劣以及“批量灌水式”意見予以甄別和剔除。[10]

    其四,在整理和回應(yīng)規(guī)則制定階段的意見時,應(yīng)注重行政機關(guān)工作人員和人工智能技術(shù)的結(jié)合。盡管人工智能為規(guī)則制定過程中的公眾參與賦能,實質(zhì)性拓展了政策網(wǎng)絡(luò)中的“對話網(wǎng)絡(luò)”(webs of dialogue),但這些公眾意見對規(guī)則制定內(nèi)容只是施加了一定影響力,并無控制力。行政機關(guān)在制定規(guī)則時,需考慮規(guī)則在政治上的可接受性、行政資源的可得性及業(yè)務(wù)上的執(zhí)行可能性[11],行政機關(guān)仍有依據(jù)法律要求、專業(yè)知識,結(jié)合實踐需求、政策考量等因素,確定行政規(guī)則內(nèi)容的裁量權(quán)。

    (三)提升規(guī)則審查的全面性

    在行政法規(guī)、規(guī)章制定過程中,政府法制機構(gòu)要在權(quán)限范圍內(nèi),對相應(yīng)的行政法規(guī)、規(guī)章送審稿加以審查。目前,天津、河北、海南、黑龍江、北京、上海、江蘇、廣西、西藏、甘肅、青海、珠海、哈爾濱等地人大常委會陸續(xù)與相關(guān)科技公司合作,引入法律數(shù)據(jù)分析平臺,將人工智能用于地方立法。其建立的規(guī)范性文件備案審查平臺,預(yù)先設(shè)計了“敏感詞詞庫”。審查時,系統(tǒng)將待審查文件、敏感詞詞庫、法律法規(guī)數(shù)據(jù)庫三相比對,自動匹配篩查。當(dāng)審查文件含有“審批”“許可”“責(zé)令停產(chǎn)”“罰款”“關(guān)停”等詞匯時,智能平臺會將此類敏感詞匯與敏感詞庫進行自動比對,標(biāo)注出可能違法的表述,供相關(guān)工作者人工識別。[8]在未來,完全有可能將此類智能平臺功能擴展至行政規(guī)則起草過程中的事先審查。

    (四)改善后評估與規(guī)則清理效果

    行政規(guī)則的后評估和清理,需要將行政規(guī)則與相關(guān)法律規(guī)范進行比對和分析,可謂卷軼浩繁。人工智能系統(tǒng)輔助行政規(guī)則清理工作,將行政人員翻檢法規(guī)匯編、人工檢索法條的傳統(tǒng)工作模式,轉(zhuǎn)變?yōu)樽屓斯ぶ悄芩惴ㄟM行自動化的法規(guī)審查,能夠集約應(yīng)用有限的行政資源,提高行政效率。

    行政機關(guān)做事更多地是“向前看”,希望將更多資源投入如何制定新規(guī)則,以規(guī)范經(jīng)濟社會生活中的新問題,而往往不愿“向后看”,不愿將有限資源投入對行政規(guī)則的后評估及相關(guān)修改、廢止工作。

    將人工智能技術(shù)引入行政規(guī)則后評估,應(yīng)注重發(fā)揮人工智能技術(shù)長于數(shù)據(jù)統(tǒng)計和分析的優(yōu)勢,強調(diào)“數(shù)據(jù)會說話”,以數(shù)據(jù)來評估行政規(guī)制實施的實效。將人工智能技術(shù)引入行政規(guī)則清理時,應(yīng)強調(diào)自然語言處理技術(shù)的應(yīng)用,實現(xiàn)對規(guī)則文本的自動化解析和理解。例如,通過關(guān)系抽取和事件檢測技術(shù),識別規(guī)則文本中的法律條款、歸責(zé)機制和記載事實,以提供更為全面、準(zhǔn)確的分析結(jié)果和清理建議。

    三、人工智能輔助行政規(guī)則制定的法律控制

    在我國,將人工智能引入行政規(guī)則制定過程仍處于起步階段。一方面要恪守法治立場,理性審視人工智能系統(tǒng)介入行政規(guī)則制定的邊界,為人工智能系統(tǒng)設(shè)定可解釋性要求;另一方面,要通過政府、企業(yè)與專家的合作,提升人工智能系統(tǒng)的規(guī)則制定能力,打造出可問責(zé)的人工智能系統(tǒng),建構(gòu)更具實踐有效性的行政規(guī)則體系。

    (一)厘清人工智能系統(tǒng)介入行政規(guī)則制定的邊界

    將人工智能系統(tǒng)介入行政規(guī)則制定過程,其前提在于相關(guān)領(lǐng)域已有較為豐富的制度實踐,已有上位法,或已就同類問題制定了相關(guān)法律規(guī)則,從而可以令人工智能系統(tǒng)通過機器學(xué)習(xí)技術(shù),從規(guī)則數(shù)據(jù)中提取規(guī)則制定的模式、規(guī)律和決策邏輯。以行政裁量基準(zhǔn)的制定為例,其力圖就那些對裁量最終處理決定具有直接影響和作用的主客觀事實情況,作出準(zhǔn)確認(rèn)定,并加以類型化的區(qū)分,即細(xì)化情節(jié),繼而設(shè)定不同格次的法律效果。[12]行政裁量基準(zhǔn)并非無源之水、無本之木,其以相關(guān)行政處罰、行政許可、行政征收征用、行政給付、行政強制行為的豐富實踐素材為基礎(chǔ)。(2)

    數(shù)據(jù)是大模型訓(xùn)練的“燃料”,也是提升人工智能輔助規(guī)則制定系統(tǒng)性能的決定性因素之一。當(dāng)特定領(lǐng)域?qū)儆谛屡d、未定型領(lǐng)域,或?qū)儆谛录夹g(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式時,或者在特定領(lǐng)域法律規(guī)范存在缺漏、法律關(guān)系變動不居、治理模式尚需探索時,可得數(shù)據(jù)不夠多,很難保證相關(guān)訓(xùn)練數(shù)據(jù)的數(shù)量、質(zhì)量、多樣性和穩(wěn)健性。在這些新興領(lǐng)域、重點領(lǐng)域,針對復(fù)雜社會現(xiàn)象制定規(guī)則,設(shè)定權(quán)利、義務(wù)、責(zé)任,本已屬難事,因此,或更不適于將人工智能系統(tǒng)引入相應(yīng)的規(guī)則制定過程之中。

    需認(rèn)識到,人工智能介入行政規(guī)則制定,更多的是搜集輔助資料、比較分析方案、提供文本表述參考,行政規(guī)則制定機關(guān)和相關(guān)工作人員依然保留對規(guī)則內(nèi)容的修改、討論、審議之權(quán)?!叭嗽诨芈贰蹦J接兄诎l(fā)揮人類智能與人工智能之長,捍衛(wèi)行政規(guī)則制定程序的民主正當(dāng)性。

    (二)為人工智能系統(tǒng)設(shè)定透明度和可解釋性要求

    人工智能系統(tǒng)研發(fā)者有向行政機關(guān)和公眾進行解釋的義務(wù),這有助于行政機關(guān)和公眾在一定程度上了解算法和機器學(xué)習(xí)運行的相關(guān)原理。通過要求系統(tǒng)研發(fā)者“展示你的工作”,來界定用自動化工具評估哪些內(nèi)容,哪些特征變量作為事實證據(jù),哪些特征變量作為結(jié)果變量;系統(tǒng)研發(fā)者要為所選擇數(shù)據(jù)、驗證程序、驗證結(jié)果的生成等給出解釋。[13]這有助于行政人員更好地理解人工智能系統(tǒng),并在后續(xù)規(guī)則制定中,更好地將行政管理經(jīng)驗與人工智能輔助建議相結(jié)合。

    當(dāng)行政機關(guān)引入人工智能輔助系統(tǒng)來制定行政規(guī)則時,也應(yīng)履行相應(yīng)的透明和可解釋義務(wù)。其一,在規(guī)則制定過程中,應(yīng)努力讓相關(guān)行政官員、行業(yè)專家理解人工智能系統(tǒng)所能發(fā)揮的作用,理解人工智能系統(tǒng)能生成怎樣的結(jié)果。其二,責(zé)任的缺失是誘發(fā)智能風(fēng)險的內(nèi)在因素[14],應(yīng)明確界定在規(guī)則制定中,規(guī)則起草人員、人工智能系統(tǒng)分別扮演怎樣的角色,承擔(dān)怎樣的責(zé)任,保證對人工智能系統(tǒng)生成的規(guī)則草案、規(guī)則輔助資料等予以存檔,并保證未來可查詢。其三,行政機關(guān)將規(guī)則草案說明向社會公布并征求意見時,應(yīng)說明引入了哪個人工智能系統(tǒng),人工智能系統(tǒng)在特定規(guī)則制定中的功用是什么,是輔助搜集立法資料,還是草擬規(guī)則草案文本,還是對特定條款提出建議,抑或是對不同版本規(guī)則文本加以比較。這有助于打造更可信、更具可問責(zé)性的人工智能系統(tǒng),強化對人工智能系統(tǒng)的社會監(jiān)督。

    (三)探索人工智能系統(tǒng)開發(fā)的合作治理方略

    如果行政機關(guān)只是將人工智能輔助規(guī)則制定系統(tǒng)的設(shè)計外包給企業(yè)或研究機構(gòu),雙方僅僅構(gòu)成合同關(guān)系,那么行政機關(guān)與研發(fā)者之間的溝通方式可能只是協(xié)議、文檔、用戶手冊等,這不利于彼此間密切的溝通和協(xié)調(diào)。在設(shè)計人工智能輔助規(guī)則制定系統(tǒng)時,不僅要掌握計算機語言,還涉及對法律、經(jīng)濟學(xué)、社會學(xué)、倫理學(xué)等的考慮。行政機關(guān)應(yīng)與研發(fā)者密切合作、持續(xù)交流,發(fā)揮規(guī)范引導(dǎo)作用[15],共同形成人工智能系統(tǒng)開發(fā)方案。

    另外,應(yīng)要求人工智能輔助規(guī)則制定系統(tǒng)使用開源軟件,并可考慮適度開放該系統(tǒng)的源代碼。這有助于提高人工智能輔助規(guī)則制定系統(tǒng)的透明度與可解釋性,使人們更好地理解相應(yīng)的人工智能系統(tǒng)。堅持人工智能賦能工具的開源與互操作性,有助于避免行政規(guī)則制定被某個特定供應(yīng)商“鎖定”,還有助于在現(xiàn)有系統(tǒng)的基礎(chǔ)上,根據(jù)用戶的體驗、感受和建議,對人工智能輔助系統(tǒng)予以不斷修正、迭代升級,這也是實驗主義治理和反思型法的生動體現(xiàn)。

    四、結(jié) 語

    將人工智能引入行政規(guī)則制定之中,某種意義上構(gòu)建了數(shù)字技術(shù)輔助政府決策的機制,推動了政府治理流程再造和模式優(yōu)化。如果說電子化行政規(guī)則制定構(gòu)成了規(guī)則制定的2.0版本,那么人工智能輔助規(guī)則制定則構(gòu)成了規(guī)則制定的3.0版本,在技術(shù)賦能的同時,也推動了行政規(guī)則制定程序的改革,推動了中國行政程序法的結(jié)構(gòu)轉(zhuǎn)型。但面對充滿不確定性的未來,仍有兩個需要重點關(guān)注的問題。

    其一,將人工智能系統(tǒng)引入行政規(guī)則制定程序,應(yīng)盡量更有效聽取、更好回應(yīng)公眾意見,更好保障利益相關(guān)方的參與權(quán)利。不可因?qū)σ?guī)則制定效率的迷戀,而克減了利益相關(guān)方參與規(guī)則制定的法定權(quán)利,而削弱了利益相關(guān)方參與規(guī)則制定的其他法定形式;不可弱化書面征求意見、座談會、論證會、聽證會等收集意見形式的作用。

    其二,人工智能系統(tǒng)在行政規(guī)則制定中只能起到輔助性的作用,需建構(gòu)人機協(xié)同的行政規(guī)則制定機制。人工智能的引入,有助于搜集相關(guān)資料、生成規(guī)則草案、進行文本比對,并開展規(guī)則的審查、清理和評估。但人工智能系統(tǒng)所倚重的數(shù)據(jù)集、算法等都具有局限性,自動化決策工具和人工智能系統(tǒng)相對適于考慮可量化、結(jié)構(gòu)化的數(shù)據(jù),但其更多呈現(xiàn)出規(guī)律性、確定性的技術(shù)思維,無法對所規(guī)范事務(wù)加以“同情地理解”,不適于去體察對規(guī)則制定所需考慮的復(fù)雜的政治、經(jīng)濟、社會以及歷史背景,不適于去衡量復(fù)雜社會中承載的多元價值和利益。[16]更要警惕因人工智能系統(tǒng)帶來法規(guī)文件起草人員的怠惰,防止由機器生成千人一面、看上去很美,實則脫離實際的規(guī)則文本。

    規(guī)則制定者具有豐富規(guī)則制定經(jīng)驗,還具有基于常人生活經(jīng)驗的“感覺”和“常識”,能更好地應(yīng)對不確定性,更好地在矛盾的焦點上“砍一刀”,給出務(wù)實、有效的解決方案,寫出具有可操作性的條文。因此,建構(gòu)行政規(guī)則制定的人機協(xié)同機制,讓規(guī)則制定者保有對機器錯誤的監(jiān)督、矯正之責(zé),有助于真正實現(xiàn)數(shù)字時代的智能化規(guī)則制定,以高質(zhì)量規(guī)則制定促進法治的高質(zhì)量發(fā)展。

    注釋:

    (1)參見《國務(wù)院辦公廳關(guān)于印發(fā)國務(wù)院2022年度立法工作計劃的通知》,國辦發(fā)[2022]24號,2022年7月5日。

    (2)參見 《國務(wù)院辦公廳關(guān)于進一步規(guī)范行政裁量權(quán)" 基準(zhǔn)制定和管理工作的意見》,國辦發(fā)[2022]27號,2022年7月29日。

    參考文獻:

    [1]Andre Wirjo,Sylwyn Calizo Jr.,Glacer Ni?觡o Vasquez,and Emmanuel A. San Andres. Artificial Intelligence in Economic Policymaking[R]. Singapore: APEC Policy Support Unit Policy Brief No. 52,2022.

    [2]于立深.行政立法性事實研究[J].法商研究,2018(6):28-36.

    [3]M. Hofer et al.Applying Artificial Intelligence on Satellite Imagery to Compile Granular Poverty Statistics[R]. Manila: Asian Development Bank (ADB) Economics Working Paper No.629. 2020.

    [4]African Center for Economic Transformation. Responsible AI in Economic Policymaking in Africa[J].African Center for Economic Transformation, 2024(1):10-13.

    [5][美]威廉·N·鄧恩.公共政策分析導(dǎo)論[M].謝明,等,譯.謝明,校.北京:中國人民大學(xué)出版社,2002:225.

    [6]王浦劬,賴先進.中國公共政策擴散的模式與機制分析[J].北京大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2013(6):14-23.

    [7]干詠昕.政策學(xué)習(xí):理解政策變遷的新視角[J].東岳論叢,2010(9):153-156.

    [8]李弸. 人工智能應(yīng)用于地方立法的現(xiàn)實困境與應(yīng)然路徑[J].人大研究,2022(3):36-41.

    [9]Livermore,M.A,Eidelman,V. amp;Grom,B. Computationally Assisted Regulatory Participation[J]. Notre Dame Law Review, 2018(3):977-1034.

    [10]Steve Balla,Reeve Bull,Bridget Dooling,Emily Hammond,Michael Herz,Michael Livermore,amp; Beth Simone Noveck. Mass,Computer-Generated,and Fraudulent Comments[R]. Washington D.C. : Administrative Conference of the U.S. ,2001.

    [11][日]西尾勝. 行政學(xué)(新版)[M].毛桂榮,等,譯.北京:中國人民大學(xué)出版社,2006:222.

    [12]周佑勇.行政裁量基準(zhǔn)研究[M]. 北京:中國人民大學(xué)出版社,2015:90.

    [13]Katherine J.Strandburg. Rulemaking and Inscrutable Automated Decision Tools[J]. Columbia Law Review,2019(7):1851-1886.

    [14]陳元,黃秋生.ChatGPT 技術(shù)中的人工智能倫理風(fēng)險及其科學(xué)祛魅[J].湖南科技大學(xué)學(xué)報(社會科學(xué)版),2023(3):135-142.

    [15]劉祖兵.論 Sora 的倫理風(fēng)險與我國治理因應(yīng)——也談我國參與人工智能算法倫理全球治理的基本路徑[J].湖南科技大學(xué)學(xué)報(社會科學(xué)版),2023(3):135-142.

    [16]陳悅.人機協(xié)同裁量的建構(gòu)原理:風(fēng)險檢視與因應(yīng)優(yōu)化[J].浙江學(xué)刊,2024(5):197-205,240.

    (責(zé)任編輯 吳 楠)

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    汽車零部件(2020年3期)2020-03-27 05:30:20
    當(dāng)人工智能遇見再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動化控制
    人工智能,來了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來了
    午夜久久久在线观看| 亚洲精品成人av观看孕妇| 国产精品熟女久久久久浪| 国内精品宾馆在线| 男人和女人高潮做爰伦理| 国产免费一区二区三区四区乱码| 少妇猛男粗大的猛烈进出视频| 久久影院123| 午夜激情久久久久久久| 多毛熟女@视频| 777米奇影视久久| 亚洲综合色惰| 五月伊人婷婷丁香| 搡女人真爽免费视频火全软件| 26uuu在线亚洲综合色| 搡女人真爽免费视频火全软件| 国产精品秋霞免费鲁丝片| 美女国产视频在线观看| 欧美日韩视频精品一区| 日日啪夜夜撸| 日韩,欧美,国产一区二区三区| 免费人成在线观看视频色| 亚洲精品中文字幕在线视频 | 蜜桃久久精品国产亚洲av| 一级av片app| 婷婷色av中文字幕| 三级国产精品片| 少妇熟女欧美另类| 国产亚洲精品久久久com| 久久久久久伊人网av| 亚洲精品日韩在线中文字幕| 欧美日韩一区二区视频在线观看视频在线| 国产欧美亚洲国产| 91精品一卡2卡3卡4卡| 欧美激情国产日韩精品一区| 欧美激情国产日韩精品一区| 日韩熟女老妇一区二区性免费视频| 日韩,欧美,国产一区二区三区| 色94色欧美一区二区| 成人亚洲精品一区在线观看| 欧美xxⅹ黑人| 久久99一区二区三区| 国产成人精品久久久久久| 欧美精品人与动牲交sv欧美| 久久99精品国语久久久| 国产黄频视频在线观看| 久久99蜜桃精品久久| 国产熟女午夜一区二区三区 | 国产一区二区在线观看日韩| 国内揄拍国产精品人妻在线| 在线 av 中文字幕| 国产av国产精品国产| 国产av国产精品国产| 五月天丁香电影| 欧美精品亚洲一区二区| 国产亚洲一区二区精品| 国产精品久久久久久精品古装| 91在线精品国自产拍蜜月| 91aial.com中文字幕在线观看| 日本黄色日本黄色录像| 啦啦啦啦在线视频资源| 免费大片18禁| 亚洲精品乱码久久久久久按摩| 大又大粗又爽又黄少妇毛片口| 欧美日韩av久久| 91精品伊人久久大香线蕉| 美女国产视频在线观看| 亚洲真实伦在线观看| 欧美区成人在线视频| 伊人亚洲综合成人网| 欧美bdsm另类| 97超视频在线观看视频| 偷拍熟女少妇极品色| 天堂8中文在线网| 亚洲成人手机| 日韩免费高清中文字幕av| 99热这里只有是精品在线观看| 极品教师在线视频| 国产日韩欧美亚洲二区| 日韩精品免费视频一区二区三区 | 黄色日韩在线| 国产女主播在线喷水免费视频网站| 欧美亚洲 丝袜 人妻 在线| 国产 一区精品| 菩萨蛮人人尽说江南好唐韦庄| av免费在线看不卡| 日本vs欧美在线观看视频 | 纯流量卡能插随身wifi吗| 国产午夜精品一二区理论片| 日韩在线高清观看一区二区三区| av有码第一页| 天天操日日干夜夜撸| 黄片无遮挡物在线观看| av免费在线看不卡| 久久99热这里只频精品6学生| 亚洲精品国产av成人精品| 亚洲欧美中文字幕日韩二区| 纯流量卡能插随身wifi吗| 国产伦精品一区二区三区四那| 亚洲欧美日韩东京热| 九九在线视频观看精品| 美女大奶头黄色视频| 午夜av观看不卡| 日本wwww免费看| 自拍欧美九色日韩亚洲蝌蚪91 | h视频一区二区三区| 国产毛片在线视频| 欧美日韩一区二区视频在线观看视频在线| 美女大奶头黄色视频| 日本午夜av视频| 在线观看三级黄色| 日韩成人av中文字幕在线观看| 嫩草影院入口| 色婷婷久久久亚洲欧美| 妹子高潮喷水视频| 极品少妇高潮喷水抽搐| 秋霞伦理黄片| 麻豆成人av视频| 国产成人精品久久久久久| 哪个播放器可以免费观看大片| 亚洲国产精品专区欧美| 国产亚洲欧美精品永久| 中国国产av一级| 91精品伊人久久大香线蕉| 国产精品一区www在线观看| 超碰97精品在线观看| 日韩视频在线欧美| 波野结衣二区三区在线| 这个男人来自地球电影免费观看 | av福利片在线观看| 美女主播在线视频| 在线观看国产h片| 最近的中文字幕免费完整| 国产精品麻豆人妻色哟哟久久| 国产欧美亚洲国产| 最近中文字幕2019免费版| 两个人的视频大全免费| 亚洲综合色惰| 多毛熟女@视频| 九色成人免费人妻av| 有码 亚洲区| 女人精品久久久久毛片| 亚洲av.av天堂| 午夜激情久久久久久久| 9色porny在线观看| 校园人妻丝袜中文字幕| 国产精品久久久久成人av| 亚洲国产色片| 乱人伦中国视频| 综合色丁香网| 熟女人妻精品中文字幕| 精品人妻熟女av久视频| 伊人久久国产一区二区| 伊人久久精品亚洲午夜| 国产精品无大码| 欧美少妇被猛烈插入视频| 一区二区三区乱码不卡18| 人妻系列 视频| 夜夜爽夜夜爽视频| 久久久国产精品麻豆| 亚洲av中文av极速乱| 女人精品久久久久毛片| 视频中文字幕在线观看| 简卡轻食公司| 又爽又黄a免费视频| 日韩,欧美,国产一区二区三区| 一级,二级,三级黄色视频| 自拍欧美九色日韩亚洲蝌蚪91 | 日本黄色片子视频| 国产色婷婷99| 高清视频免费观看一区二区| 两个人的视频大全免费| 国产成人91sexporn| 色5月婷婷丁香| 18+在线观看网站| 插逼视频在线观看| 亚洲精品日韩av片在线观看| 91久久精品国产一区二区三区| 国产精品久久久久成人av| 国产色爽女视频免费观看| 熟女电影av网| 亚洲一级一片aⅴ在线观看| 国精品久久久久久国模美| 久久精品国产a三级三级三级| 一级毛片黄色毛片免费观看视频| 一本—道久久a久久精品蜜桃钙片| 一级黄片播放器| 久久国产精品男人的天堂亚洲 | 狂野欧美激情性bbbbbb| 99热这里只有是精品50| 成人亚洲欧美一区二区av| 亚洲欧洲国产日韩| 国产成人a∨麻豆精品| 丝袜喷水一区| 寂寞人妻少妇视频99o| 自拍欧美九色日韩亚洲蝌蚪91 | 亚洲精品aⅴ在线观看| 亚洲一级一片aⅴ在线观看| 国产精品久久久久久精品电影小说| 成人午夜精彩视频在线观看| 这个男人来自地球电影免费观看 | 中文精品一卡2卡3卡4更新| 成年人午夜在线观看视频| 精品一品国产午夜福利视频| 免费观看在线日韩| av免费在线看不卡| 五月天丁香电影| 久久婷婷青草| 三级国产精品欧美在线观看| 少妇丰满av| 99九九在线精品视频 | 国产精品国产三级国产av玫瑰| 能在线免费看毛片的网站| 在线观看一区二区三区激情| 天堂中文最新版在线下载| 日韩大片免费观看网站| 2021少妇久久久久久久久久久| 一级爰片在线观看| 亚洲精品aⅴ在线观看| 国产欧美日韩综合在线一区二区 | 国产亚洲av片在线观看秒播厂| 中文字幕人妻丝袜制服| 一边亲一边摸免费视频| 亚洲av免费高清在线观看| 美女中出高潮动态图| 我的老师免费观看完整版| 伦理电影免费视频| a级毛色黄片| 尾随美女入室| 少妇被粗大猛烈的视频| 久久6这里有精品| 内地一区二区视频在线| 日本-黄色视频高清免费观看| 有码 亚洲区| 嘟嘟电影网在线观看| 国产有黄有色有爽视频| 18禁裸乳无遮挡动漫免费视频| 最后的刺客免费高清国语| 大又大粗又爽又黄少妇毛片口| 亚洲av国产av综合av卡| 免费大片18禁| 极品少妇高潮喷水抽搐| 国产成人精品久久久久久| 激情五月婷婷亚洲| 免费看av在线观看网站| 成人亚洲精品一区在线观看| 日韩大片免费观看网站| 一本大道久久a久久精品| 久热这里只有精品99| 亚洲精品日韩av片在线观看| 插阴视频在线观看视频| 久热这里只有精品99| 国产熟女午夜一区二区三区 | 国产精品一区www在线观看| 日韩在线高清观看一区二区三区| 国产极品粉嫩免费观看在线 | 午夜免费鲁丝| 三上悠亚av全集在线观看 | 免费观看的影片在线观看| 久久久欧美国产精品| 视频区图区小说| 99久国产av精品国产电影| 国产精品国产av在线观看| 久久精品久久久久久噜噜老黄| 亚洲欧美清纯卡通| 少妇的逼水好多| 久久精品国产自在天天线| 美女cb高潮喷水在线观看| 秋霞伦理黄片| 久久久午夜欧美精品| 久久青草综合色| 观看免费一级毛片| 22中文网久久字幕| 久久综合国产亚洲精品| 久久久久久久国产电影| 黄色日韩在线| 国产亚洲午夜精品一区二区久久| a级毛色黄片| 女性生殖器流出的白浆| xxx大片免费视频| av国产久精品久网站免费入址| 最近2019中文字幕mv第一页| 热re99久久精品国产66热6| 亚洲欧美一区二区三区国产| 少妇人妻精品综合一区二区| a 毛片基地| 久久精品久久久久久久性| 国产色婷婷99| 大陆偷拍与自拍| 少妇丰满av| 少妇的逼好多水| 在线观看三级黄色| 久久久亚洲精品成人影院| 免费观看在线日韩| av网站免费在线观看视频| 在线天堂最新版资源| 国产精品久久久久久久电影| 午夜视频国产福利| 免费看不卡的av| 看十八女毛片水多多多| 欧美三级亚洲精品| 一区在线观看完整版| 亚洲国产av新网站| 啦啦啦在线观看免费高清www| 亚洲精品国产色婷婷电影| 久久综合国产亚洲精品| 中文乱码字字幕精品一区二区三区| 成人二区视频| 青春草视频在线免费观看| 97超碰精品成人国产| av.在线天堂| 欧美bdsm另类| 国产成人精品婷婷| 亚洲内射少妇av| 国产精品久久久久久av不卡| 亚洲国产精品成人久久小说| 老熟女久久久| h视频一区二区三区| 青春草视频在线免费观看| 国产又色又爽无遮挡免| 伦理电影大哥的女人| 午夜日本视频在线| 中国三级夫妇交换| 亚洲欧美日韩卡通动漫| 久久精品久久久久久久性| 日韩欧美一区视频在线观看 | 午夜91福利影院| 丝袜在线中文字幕| 午夜福利,免费看| 亚洲精品日韩在线中文字幕| 亚洲精品色激情综合| 久久午夜福利片| 中文字幕人妻熟人妻熟丝袜美| 亚洲中文av在线| 男人舔奶头视频| 亚洲av福利一区| 好男人视频免费观看在线| 国产亚洲一区二区精品| 午夜视频国产福利| 大话2 男鬼变身卡| 三级国产精品欧美在线观看| 久热这里只有精品99| 在线免费观看不下载黄p国产| 精品少妇久久久久久888优播| 毛片一级片免费看久久久久| 中文乱码字字幕精品一区二区三区| 国产无遮挡羞羞视频在线观看| 国产深夜福利视频在线观看| 国产一区二区三区综合在线观看 | 成年人午夜在线观看视频| 中文字幕久久专区| av网站免费在线观看视频| 国国产精品蜜臀av免费| 一区二区三区免费毛片| 香蕉精品网在线| 日本黄色日本黄色录像| 亚洲真实伦在线观看| 国产成人免费观看mmmm| 啦啦啦中文免费视频观看日本| 一级二级三级毛片免费看| www.色视频.com| 最黄视频免费看| 亚洲天堂av无毛| 国产一区二区在线观看av| 丰满迷人的少妇在线观看| 美女cb高潮喷水在线观看| 欧美3d第一页| 亚洲性久久影院| 亚洲精品视频女| 亚洲自偷自拍三级| 久久99热6这里只有精品| 亚洲成色77777| 啦啦啦在线观看免费高清www| 99热全是精品| 女人久久www免费人成看片| 国产伦精品一区二区三区视频9| 成年人午夜在线观看视频| 国产成人午夜福利电影在线观看| 国产精品成人在线| 热re99久久国产66热| 精品亚洲成国产av| 久久免费观看电影| 日本爱情动作片www.在线观看| 亚洲人成网站在线播| 成年美女黄网站色视频大全免费 | 国产精品免费大片| 丰满饥渴人妻一区二区三| 久久久久国产网址| 亚洲综合色惰| 在现免费观看毛片| 精品人妻熟女毛片av久久网站| 少妇人妻 视频| 国产亚洲精品久久久com| 午夜福利,免费看| 夫妻午夜视频| 国产在线一区二区三区精| 只有这里有精品99| 久久久久精品性色| av天堂中文字幕网| 9色porny在线观看| 国产日韩欧美在线精品| 日本av免费视频播放| 高清欧美精品videossex| 国产成人一区二区在线| 色婷婷av一区二区三区视频| 精品一区二区三区视频在线| 久久鲁丝午夜福利片| 中文精品一卡2卡3卡4更新| 国产亚洲一区二区精品| 精品国产国语对白av| tube8黄色片| 国产黄频视频在线观看| 色婷婷久久久亚洲欧美| 人妻制服诱惑在线中文字幕| 亚洲av福利一区| 国产精品蜜桃在线观看| 男的添女的下面高潮视频| 国产成人a∨麻豆精品| 青春草视频在线免费观看| 久久久久精品久久久久真实原创| 亚洲国产色片| 波野结衣二区三区在线| 亚洲国产精品一区三区| 精品一区二区三卡| 国产成人91sexporn| 免费黄色在线免费观看| 色94色欧美一区二区| 成人特级av手机在线观看| 亚洲av在线观看美女高潮| 久久99蜜桃精品久久| 国产精品嫩草影院av在线观看| 精品酒店卫生间| av天堂久久9| 精品99又大又爽又粗少妇毛片| 精品人妻偷拍中文字幕| 一区二区三区乱码不卡18| 亚洲性久久影院| 久久人人爽人人爽人人片va| 中文字幕制服av| 欧美亚洲 丝袜 人妻 在线| 国产亚洲精品久久久com| 欧美+日韩+精品| 午夜激情久久久久久久| 精品亚洲成a人片在线观看| 欧美日韩视频精品一区| 亚洲精品成人av观看孕妇| 男女免费视频国产| 男男h啪啪无遮挡| 国产伦在线观看视频一区| 精品久久国产蜜桃| 亚洲精品一区蜜桃| 欧美日韩视频精品一区| 亚洲av免费高清在线观看| 精品亚洲成国产av| 午夜福利在线观看免费完整高清在| 最近最新中文字幕免费大全7| 男男h啪啪无遮挡| 丰满饥渴人妻一区二区三| 免费黄网站久久成人精品| 欧美亚洲 丝袜 人妻 在线| 国产精品久久久久久精品电影小说| 五月开心婷婷网| 18禁在线播放成人免费| 大又大粗又爽又黄少妇毛片口| 99热国产这里只有精品6| 国产日韩欧美视频二区| 欧美日韩一区二区视频在线观看视频在线| 国精品久久久久久国模美| 久久这里有精品视频免费| 97超视频在线观看视频| 欧美成人精品欧美一级黄| av在线观看视频网站免费| 下体分泌物呈黄色| 国产成人精品久久久久久| 大片免费播放器 马上看| 国产av一区二区精品久久| 桃花免费在线播放| 精品99又大又爽又粗少妇毛片| 最新的欧美精品一区二区| 精品一区二区三区视频在线| 欧美三级亚洲精品| 亚洲欧美清纯卡通| 波野结衣二区三区在线| 一区二区三区四区激情视频| 日韩在线高清观看一区二区三区| 久久久久视频综合| 久久久久久久国产电影| 日日啪夜夜撸| 狂野欧美白嫩少妇大欣赏| 肉色欧美久久久久久久蜜桃| 丰满少妇做爰视频| 亚洲成色77777| 男男h啪啪无遮挡| av有码第一页| 久久久久久久精品精品| 熟女av电影| √禁漫天堂资源中文www| 又爽又黄a免费视频| 99久久精品热视频| 精品99又大又爽又粗少妇毛片| 精品久久久久久久久亚洲| 久久精品久久久久久久性| 久久久亚洲精品成人影院| 下体分泌物呈黄色| 午夜福利在线观看免费完整高清在| 午夜福利影视在线免费观看| 欧美日韩综合久久久久久| 亚洲高清免费不卡视频| 看十八女毛片水多多多| 日本爱情动作片www.在线观看| 中国美白少妇内射xxxbb| av天堂久久9| 国产成人午夜福利电影在线观看| 国产男人的电影天堂91| 精品久久久噜噜| 高清av免费在线| 成人美女网站在线观看视频| 极品人妻少妇av视频| 狠狠精品人妻久久久久久综合| 一级二级三级毛片免费看| 国产精品久久久久久精品古装| 亚洲av中文av极速乱| 国产精品久久久久久精品电影小说| 久久人妻熟女aⅴ| 欧美 亚洲 国产 日韩一| 国产熟女欧美一区二区| 我要看黄色一级片免费的| 亚洲电影在线观看av| 国产精品嫩草影院av在线观看| 永久免费av网站大全| 日韩免费高清中文字幕av| 制服丝袜香蕉在线| 丝袜脚勾引网站| 两个人的视频大全免费| 乱系列少妇在线播放| 男人舔奶头视频| 久久久久国产精品人妻一区二区| 午夜日本视频在线| 男人和女人高潮做爰伦理| 色网站视频免费| av国产久精品久网站免费入址| 欧美激情极品国产一区二区三区 | 久久精品国产亚洲av涩爱| 91在线精品国自产拍蜜月| 日韩,欧美,国产一区二区三区| 成人影院久久| 人妻 亚洲 视频| 国产亚洲91精品色在线| 亚洲三级黄色毛片| 色哟哟·www| 久久毛片免费看一区二区三区| 我要看日韩黄色一级片| 亚洲在久久综合| 久久国产亚洲av麻豆专区| 国产伦在线观看视频一区| 97在线视频观看| 国产午夜精品一二区理论片| √禁漫天堂资源中文www| h视频一区二区三区| 成人影院久久| 在线精品无人区一区二区三| 在现免费观看毛片| 国产成人精品无人区| 99久久精品国产国产毛片| 天天操日日干夜夜撸| 下体分泌物呈黄色| 午夜日本视频在线| 韩国av在线不卡| 少妇人妻一区二区三区视频| 欧美成人精品欧美一级黄| 搡女人真爽免费视频火全软件| av线在线观看网站| 丰满人妻一区二区三区视频av| 国产一区有黄有色的免费视频| 免费久久久久久久精品成人欧美视频 | 中文在线观看免费www的网站| 日韩三级伦理在线观看| 精品视频人人做人人爽| 在线观看国产h片| 亚洲,欧美,日韩| 黄色毛片三级朝国网站 | 午夜福利视频精品| 你懂的网址亚洲精品在线观看| 久久国内精品自在自线图片| 日韩欧美 国产精品| 韩国av在线不卡| 国产极品粉嫩免费观看在线 | 亚洲国产精品成人久久小说| 日产精品乱码卡一卡2卡三| 久久精品久久久久久久性| 亚洲欧洲国产日韩| 十八禁高潮呻吟视频 | 精品一品国产午夜福利视频| 99九九线精品视频在线观看视频| 亚洲国产日韩一区二区| 男男h啪啪无遮挡| 精品国产露脸久久av麻豆| a 毛片基地| 最新的欧美精品一区二区| 亚洲国产成人一精品久久久| 色婷婷av一区二区三区视频| 午夜影院在线不卡| 一级片'在线观看视频| 少妇被粗大的猛进出69影院 | 国产又色又爽无遮挡免| 久久久久久久精品精品| 国产av码专区亚洲av| 最近的中文字幕免费完整| 亚洲天堂av无毛| 97在线人人人人妻| 2018国产大陆天天弄谢| 内射极品少妇av片p| 精品卡一卡二卡四卡免费| 免费观看在线日韩| 国产美女午夜福利|