• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能在行政規(guī)則制定中的作用及其法律控制

    2024-01-01 00:00:00宋華琳
    江淮論壇 2024年5期
    關(guān)鍵詞:人工智能

    摘要:將人工智能引入行政規(guī)則制定全過程的各個環(huán)節(jié),有助于提高法律信息檢索質(zhì)量、加強聽取意見的廣泛性和回應(yīng)性、提升審查的全面性和改善后評估和規(guī)則清理的效果。應(yīng)審視并厘定人工智能系統(tǒng)介入行政規(guī)則制定的邊界,為人工智能系統(tǒng)設(shè)定透明和可解釋性要求,并探索人工智能系統(tǒng)開發(fā)的合作治理方略。要防止因?qū)σ?guī)則制定效率的迷戀,而克減了利益相關(guān)方參與規(guī)則制定的法定權(quán)利。此外,人工智能系統(tǒng)在行政規(guī)則制定中只能起到輔助性的作用,需建構(gòu)人機協(xié)同的行政規(guī)則制定機制。

    關(guān)鍵詞:人工智能;規(guī)則制定;聽取意見;行政程序

    中圖分類號:DF0" " 文獻標(biāo)志碼:A" " 文章編號:1001-862X(2024)05-0133-006

    本刊網(wǎng)址·在線雜志:www.jhlt.net.cn

    *基金項目:國家社會科學(xué)基金重大項目“突發(fā)重大公共衛(wèi)生事件防控的法治體系研究”(20amp;ZD188);中央高校基本科研業(yè)務(wù)費項目“公共衛(wèi)生治理與行政法治”

    作者簡介:宋華琳(1977—),河北黃驊人,南開大學(xué)法學(xué)院教授、博士生導(dǎo)師,教育部“長江學(xué)者獎勵計劃”青年學(xué)者,主要研究方向:行政法學(xué)。

    我國正逐步探索如何以電子化、數(shù)字化、智能化的方式規(guī)范行政規(guī)則制定程序,提升行政規(guī)則制定質(zhì)量。中共中央、國務(wù)院印發(fā)的《法治政府建設(shè)實施綱要(2021—2025年)》中,指出“著力實現(xiàn)政府立法質(zhì)量和效率并重并進”,“積極利用新媒體新技術(shù)拓寬立法公眾參與渠道”。2022年頒布的《國務(wù)院關(guān)于加強數(shù)字政府建設(shè)的指導(dǎo)意見》中,提出堅持?jǐn)?shù)據(jù)賦能,“建立健全大數(shù)據(jù)輔助科學(xué)決策機制”,提高政府決策科學(xué)化水平。但如何將以人工智能為代表的現(xiàn)代數(shù)字技術(shù),系統(tǒng)性地引入行政規(guī)則制定過程之中,目前還欠缺相對體系化的制度安排,也缺少細(xì)密的學(xué)理探究。

    筆者立足我國行政規(guī)則制定實踐,探討人工智能如何影響行政規(guī)則的議程設(shè)定,如何輔助搜集規(guī)則制定所需的事實,并對不同備選方案加以比較,同時,進一步思考哪些類型的規(guī)則更宜引入人工智能來輔助制定,如何防范由人工智能介入規(guī)則制定所引發(fā)的風(fēng)險,如何通過規(guī)則制定合作網(wǎng)絡(luò)的建構(gòu),引入人工智能,提高行政規(guī)則的制定效率和質(zhì)量。

    一、人工智能對于提升行政規(guī)則實體內(nèi)容質(zhì)量的作用

    將人工智能引入行政規(guī)則制定過程,有助于優(yōu)化行政規(guī)則的議程設(shè)置,并有的放矢地配置規(guī)則制定資源。人工智能可以通過對“立法性事實”(legislative fact)信息的搜集和分析,以及對行政規(guī)則備選方案的考察與比較,制定出更具有量體裁衣特點的規(guī)則,提高行政規(guī)則制定精準(zhǔn)化水平,增加行政規(guī)則的針對性、及時性、系統(tǒng)性與可操作性,推動行政規(guī)則實體內(nèi)容質(zhì)量的提升。

    (一)優(yōu)化行政規(guī)則制定的議程設(shè)置

    《行政法規(guī)制定程序條例》《規(guī)章制定程序條例》規(guī)定了行政法規(guī)、規(guī)章制定的立項程序,要求立項申請需說明制定規(guī)則的必要性、所要解決的主要問題等。但在規(guī)則制定資源相對稀缺的情形下,需要首先明確哪些事項、哪些問題能夠成功進入行政規(guī)則制定議程,以確定某一事項的“必要性”,以及確定規(guī)則制定事項的優(yōu)先順序。

    何為規(guī)則制定的“必要性”?一般而言,這意味著在規(guī)則制定者心目中,此事項的急迫性極高,以至于必須由公權(quán)力介入和處理。通過引入人工智能技術(shù),對大型數(shù)據(jù)集和眾包數(shù)據(jù)進行分析,可以讓規(guī)則制定者獲得更多通達信息,來確定哪些是最關(guān)鍵的事項,進而決定議程設(shè)置中的優(yōu)先順序。[1]還可以進一步利用大數(shù)據(jù)和人工智能技術(shù),去感知、預(yù)測、預(yù)警基礎(chǔ)設(shè)施和社會安全運行的重大態(tài)勢,分析社情民意,及時把握群體認(rèn)知及心理變化,研判哪些是經(jīng)濟社會發(fā)展中亟待回應(yīng)的系統(tǒng)性、趨勢性問題,哪些是需要以行政規(guī)則應(yīng)對的制度性風(fēng)險。在人工智能技術(shù)的輔助下,政府可以更容易地識別出哪些問題是“人民群眾急盼”,哪些是“人民群眾反映強烈的突出問題”,從而將這些問題納入行政規(guī)則制定的優(yōu)先次序。(1)

    (二) 輔助“立法性事實”的搜集分析

    行政機關(guān)制定規(guī)則是一種“準(zhǔn)立法”活動,而規(guī)則制定需要以立法性事實為基礎(chǔ)。立法性事實著力說明規(guī)則制定所需的客觀性事實,即能被感知、觀察或者有科學(xué)數(shù)據(jù)支撐的事實,也包括通過社會科學(xué)工具或手段獲得的事實,如統(tǒng)計數(shù)據(jù)和資料。[2]立法性事實反映了真實發(fā)生的事情和實際存在的狀態(tài),是行政規(guī)則制定的必備前提。

    規(guī)則制定者運用人工智能技術(shù)處理傳統(tǒng)和創(chuàng)新的數(shù)據(jù)源,并對海量的數(shù)據(jù)和信息進行分析,有助于更好地搜集立法性事實,形成更有針對性、包容性的規(guī)則。在難以用傳統(tǒng)方式搜集信息和數(shù)據(jù)的領(lǐng)域,人工智能技術(shù)構(gòu)成了更為有益的補充。例如,人們可運用人工智能模型,分析衛(wèi)星云圖數(shù)據(jù),通過觀測夜間燈光密度、建筑構(gòu)造、交通網(wǎng)絡(luò)情況,估量經(jīng)濟活動和經(jīng)濟產(chǎn)出。[3]又如,亞洲開發(fā)銀行(ADB)引入人工智能技術(shù),利用衛(wèi)星圖像上的數(shù)據(jù),預(yù)測和評估菲律賓、泰國的貧困情況,作為出臺相關(guān)政策的參考。[4]

    大數(shù)據(jù)和人工智能技術(shù)可以對數(shù)量巨大、來源分散、格式多樣的數(shù)據(jù)進行采集、存儲,有助于以智能化方式形成作為行政治理基礎(chǔ)的數(shù)據(jù)庫,并通過數(shù)據(jù)分析,揭示傳統(tǒng)技術(shù)方式難以展示的關(guān)聯(lián)關(guān)系。實現(xiàn)這一目標(biāo),必須提升行政的數(shù)據(jù)分析能力,建立“用數(shù)據(jù)說話、用數(shù)據(jù)決策、用數(shù)據(jù)管理、用數(shù)據(jù)創(chuàng)新”的管理機制,實現(xiàn)基于數(shù)據(jù)的科學(xué)決策和基于“事實”的規(guī)則制定。

    (三)增加備選方案選擇的科學(xué)性

    制定行政規(guī)則是法政策學(xué)的工作,需做好規(guī)則制定的事前評估,對不同的備選方案加以選擇。一方面,規(guī)則制定者要通過外推預(yù)測、理論預(yù)測、主觀判斷等方法加以預(yù)測,預(yù)測備選方案給社會帶來的影響,以避免出臺的行政規(guī)則帶來不可預(yù)期的、負(fù)面的后果。外推預(yù)測基于目前及歷史的數(shù)據(jù),通過歸納做出預(yù)言;理論預(yù)測以不同理論中的因果假設(shè)為基礎(chǔ),通過演繹進行推斷;判斷預(yù)測以直覺為基礎(chǔ),給出有見地的判斷。[5]另一方面,行政規(guī)則制定也在逐步引入規(guī)則影響評估、成本收益分析制度,規(guī)則制定者應(yīng)比較不同備選方案的成本和收益,評估特定備選方案給經(jīng)濟社會可能產(chǎn)生的影響,所選擇的備選方案應(yīng)付出盡可能低的成本,以獲得盡可能高的收益。

    通過建構(gòu)自動化模型,人工智能系統(tǒng)可以模擬匯率波動、金融危機、交通擁堵、氣候變化等經(jīng)濟社會場景。憑借機器學(xué)習(xí)算法,人們可以利用歷史數(shù)據(jù)與當(dāng)下數(shù)據(jù)訓(xùn)練出先進的人工智能預(yù)測模型。在這些人工智能模型的輔助下,規(guī)則制定者可以預(yù)測到觀測到的特定結(jié)果,也可以預(yù)測到未觀測到的反事實干預(yù)下的結(jié)果,進而對備選方案有更為準(zhǔn)確、公正的評估。[1]這有助于以通達信息為基礎(chǔ),形成基于證據(jù)的決策(evidenced-base policy making)。例如,在一些非洲國家,央行利用機器學(xué)習(xí)和大數(shù)據(jù)技術(shù),針對利率、存款準(zhǔn)備金率和流動性管理等貨幣政策杠桿,做出知情度更高的、數(shù)據(jù)驅(qū)動的決策。[4]又如,德國聯(lián)邦經(jīng)濟和能源部于2021至2023年,資助“人工智能和貨幣政策決策”項目,通過使用機器學(xué)習(xí)方法生成新的信息,開展宏觀分析和預(yù)測、評估金融穩(wěn)定風(fēng)險,進而改進歐元區(qū)的貨幣政策。[4]

    《國務(wù)院關(guān)于加強數(shù)字政府建設(shè)的指導(dǎo)意見》中指出“統(tǒng)籌推進決策信息資源系統(tǒng)建設(shè),充分匯聚整合多源數(shù)據(jù)資源,拓展動態(tài)監(jiān)測、統(tǒng)計分析、趨勢研判、風(fēng)險防控等應(yīng)用場景,全面提升政府決策科學(xué)化水平”。我國可以通過引入人工智能系統(tǒng),建構(gòu)自動化模型,來模擬相關(guān)的情景和備選方案,去審視相應(yīng)情景和備選方案下的后果,這有助于對不同備選方案進行比較和選擇。

    二、人工智能在行政規(guī)則制定各環(huán)節(jié)中的作用

    將人工智能引入行政規(guī)則制定,從法律信息檢索、聽取意見、草案審查到后評估全過程的各個環(huán)節(jié),一方面有助于更好地保障利益相關(guān)方參與規(guī)則制定的權(quán)利,從而保障規(guī)則制定的過程民主性;另一方面,有助于提升規(guī)則制定的質(zhì)量,促進規(guī)則內(nèi)容的實質(zhì)合理性。

    (一)提高法律信息檢索的質(zhì)量

    在我國行政規(guī)則制定過程中,客觀上存在著政策擴散(policy diffusion)和政策學(xué)習(xí)(policy learning)的現(xiàn)象。政策擴散是指一種政策活動從一個地區(qū)或部門擴散到另一地區(qū)或部門,被新的行政主體采納并推行的過程。[6]政策學(xué)習(xí)的要義則在于,當(dāng)決策者面臨某個問題時,往往選擇已經(jīng)在其他地方被證明為成功的政策,來簡化尋找解決方案的過程。[7]政策擴散、政策學(xué)習(xí)的前提在于獲取相關(guān)法規(guī)和政策文本。依法制定行政規(guī)則的前提,在于要檢索、搜集到相關(guān)法律、法規(guī)、規(guī)章、司法解釋、司法判例乃至技術(shù)標(biāo)準(zhǔn),這對規(guī)則制定者的法律信息檢索能力提出了很高的要求。

    我國目前已有商業(yè)性智能起草規(guī)則的輔助工具,該系統(tǒng)以法律法規(guī)數(shù)據(jù)庫為基礎(chǔ),運用人工智能、大數(shù)據(jù)分析等先進技術(shù),智能匹配相關(guān)法律法規(guī),生成資料匯編,在線調(diào)用資料起草文本,解決起草承辦人在信息資料收集、管理等方面遇到的困難和問題。在這一領(lǐng)域,未來可以采取政企合作的形式,由政府和企業(yè)共同開發(fā)、設(shè)計智能化的立法輔助系統(tǒng)。在系統(tǒng)中嵌入高階版的人工智能搜索引擎,并為系統(tǒng)設(shè)計更為合理的欄目和搜索選項,為數(shù)據(jù)設(shè)計更為合理的分組,同時盡量減少無關(guān)信息源,精準(zhǔn)匹配數(shù)據(jù),以提高行政規(guī)則所需信息搜集的質(zhì)量與效率。[8]

    (二)增強收取意見的廣泛性和回應(yīng)性

    我國司法部已針對法律、行政法規(guī)、部門規(guī)章建立了“公開征求意見系統(tǒng)”,很多省市也建立了相應(yīng)的法規(guī)規(guī)章草案意見征集系統(tǒng),還引入了微信二維碼、電子郵件等聽取意見形式,規(guī)則聽取意見的智能化程度逐步提高。

    通過將人工智能技術(shù)引入征求意見系統(tǒng),運用自然語言處理技術(shù)(NLP)來閱讀和總結(jié)公眾意見,可以幫助規(guī)則制定者對公眾意見加以概括和分類,并從諸多意見中提取出最重要的實質(zhì)性信息,從而更好地對公眾意見加以回應(yīng)。[9]例如,2016年美國國務(wù)院為改進其護照申請和延期流程,使用了由第三方軟件公司開發(fā)的在線征求意見程序,之后收到了近1000條建議。該程序可通過文本挖掘算法,掃描包含相關(guān)類似關(guān)鍵字的文本,并對這些意見加以概括。通過人類智能與人工智能的結(jié)合,改進了聽取意見的質(zhì)量,提高回應(yīng)公眾意見的效率。[10]

    通過總結(jié)國內(nèi)外發(fā)展經(jīng)驗,在行政規(guī)則聽取意見程序中引入人工智能技術(shù),需要關(guān)注的問題主要有以下四點。

    其一,積極發(fā)展人工智能技術(shù),實現(xiàn)規(guī)則制定聽取意見的智能性、便捷性和即時性。行政規(guī)則制定機關(guān)可通過人工智能信息平臺,發(fā)布規(guī)則制定草案及相關(guān)背景材料,乃至將相關(guān)內(nèi)容推送至特定群體的手機或其他終端,以實質(zhì)性拓展聽取意見的范圍。

    其二,有組織地推進規(guī)則制定意見收集、整理、歸納的智能化。行政機關(guān)通過利用人工智能、機器學(xué)習(xí)技術(shù),可以識別、刪減重復(fù)的意見,歸并、整合相關(guān)意見,提煉意見的主要觀點和總體傾向,并盡量對公眾提出的意見予以回應(yīng)。

    其三,理性對待生成式人工智能在聽取意見程序中的功能。生成式人工智能給出的建議與導(dǎo)引,有可能貌似通暢、合理,實則生產(chǎn)了諸多虛假、錯誤信息,公眾以生成式人工智能就行政規(guī)則提出意見,也可能會帶來更多偏狹、謬誤之見。規(guī)則制定機關(guān)當(dāng)未雨綢繆,發(fā)展出適當(dāng)?shù)闹悄芗夹g(shù),對以生成式人工智能生成的虛假、低劣以及“批量灌水式”意見予以甄別和剔除。[10]

    其四,在整理和回應(yīng)規(guī)則制定階段的意見時,應(yīng)注重行政機關(guān)工作人員和人工智能技術(shù)的結(jié)合。盡管人工智能為規(guī)則制定過程中的公眾參與賦能,實質(zhì)性拓展了政策網(wǎng)絡(luò)中的“對話網(wǎng)絡(luò)”(webs of dialogue),但這些公眾意見對規(guī)則制定內(nèi)容只是施加了一定影響力,并無控制力。行政機關(guān)在制定規(guī)則時,需考慮規(guī)則在政治上的可接受性、行政資源的可得性及業(yè)務(wù)上的執(zhí)行可能性[11],行政機關(guān)仍有依據(jù)法律要求、專業(yè)知識,結(jié)合實踐需求、政策考量等因素,確定行政規(guī)則內(nèi)容的裁量權(quán)。

    (三)提升規(guī)則審查的全面性

    在行政法規(guī)、規(guī)章制定過程中,政府法制機構(gòu)要在權(quán)限范圍內(nèi),對相應(yīng)的行政法規(guī)、規(guī)章送審稿加以審查。目前,天津、河北、海南、黑龍江、北京、上海、江蘇、廣西、西藏、甘肅、青海、珠海、哈爾濱等地人大常委會陸續(xù)與相關(guān)科技公司合作,引入法律數(shù)據(jù)分析平臺,將人工智能用于地方立法。其建立的規(guī)范性文件備案審查平臺,預(yù)先設(shè)計了“敏感詞詞庫”。審查時,系統(tǒng)將待審查文件、敏感詞詞庫、法律法規(guī)數(shù)據(jù)庫三相比對,自動匹配篩查。當(dāng)審查文件含有“審批”“許可”“責(zé)令停產(chǎn)”“罰款”“關(guān)停”等詞匯時,智能平臺會將此類敏感詞匯與敏感詞庫進行自動比對,標(biāo)注出可能違法的表述,供相關(guān)工作者人工識別。[8]在未來,完全有可能將此類智能平臺功能擴展至行政規(guī)則起草過程中的事先審查。

    (四)改善后評估與規(guī)則清理效果

    行政規(guī)則的后評估和清理,需要將行政規(guī)則與相關(guān)法律規(guī)范進行比對和分析,可謂卷軼浩繁。人工智能系統(tǒng)輔助行政規(guī)則清理工作,將行政人員翻檢法規(guī)匯編、人工檢索法條的傳統(tǒng)工作模式,轉(zhuǎn)變?yōu)樽屓斯ぶ悄芩惴ㄟM行自動化的法規(guī)審查,能夠集約應(yīng)用有限的行政資源,提高行政效率。

    行政機關(guān)做事更多地是“向前看”,希望將更多資源投入如何制定新規(guī)則,以規(guī)范經(jīng)濟社會生活中的新問題,而往往不愿“向后看”,不愿將有限資源投入對行政規(guī)則的后評估及相關(guān)修改、廢止工作。

    將人工智能技術(shù)引入行政規(guī)則后評估,應(yīng)注重發(fā)揮人工智能技術(shù)長于數(shù)據(jù)統(tǒng)計和分析的優(yōu)勢,強調(diào)“數(shù)據(jù)會說話”,以數(shù)據(jù)來評估行政規(guī)制實施的實效。將人工智能技術(shù)引入行政規(guī)則清理時,應(yīng)強調(diào)自然語言處理技術(shù)的應(yīng)用,實現(xiàn)對規(guī)則文本的自動化解析和理解。例如,通過關(guān)系抽取和事件檢測技術(shù),識別規(guī)則文本中的法律條款、歸責(zé)機制和記載事實,以提供更為全面、準(zhǔn)確的分析結(jié)果和清理建議。

    三、人工智能輔助行政規(guī)則制定的法律控制

    在我國,將人工智能引入行政規(guī)則制定過程仍處于起步階段。一方面要恪守法治立場,理性審視人工智能系統(tǒng)介入行政規(guī)則制定的邊界,為人工智能系統(tǒng)設(shè)定可解釋性要求;另一方面,要通過政府、企業(yè)與專家的合作,提升人工智能系統(tǒng)的規(guī)則制定能力,打造出可問責(zé)的人工智能系統(tǒng),建構(gòu)更具實踐有效性的行政規(guī)則體系。

    (一)厘清人工智能系統(tǒng)介入行政規(guī)則制定的邊界

    將人工智能系統(tǒng)介入行政規(guī)則制定過程,其前提在于相關(guān)領(lǐng)域已有較為豐富的制度實踐,已有上位法,或已就同類問題制定了相關(guān)法律規(guī)則,從而可以令人工智能系統(tǒng)通過機器學(xué)習(xí)技術(shù),從規(guī)則數(shù)據(jù)中提取規(guī)則制定的模式、規(guī)律和決策邏輯。以行政裁量基準(zhǔn)的制定為例,其力圖就那些對裁量最終處理決定具有直接影響和作用的主客觀事實情況,作出準(zhǔn)確認(rèn)定,并加以類型化的區(qū)分,即細(xì)化情節(jié),繼而設(shè)定不同格次的法律效果。[12]行政裁量基準(zhǔn)并非無源之水、無本之木,其以相關(guān)行政處罰、行政許可、行政征收征用、行政給付、行政強制行為的豐富實踐素材為基礎(chǔ)。(2)

    數(shù)據(jù)是大模型訓(xùn)練的“燃料”,也是提升人工智能輔助規(guī)則制定系統(tǒng)性能的決定性因素之一。當(dāng)特定領(lǐng)域?qū)儆谛屡d、未定型領(lǐng)域,或?qū)儆谛录夹g(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式時,或者在特定領(lǐng)域法律規(guī)范存在缺漏、法律關(guān)系變動不居、治理模式尚需探索時,可得數(shù)據(jù)不夠多,很難保證相關(guān)訓(xùn)練數(shù)據(jù)的數(shù)量、質(zhì)量、多樣性和穩(wěn)健性。在這些新興領(lǐng)域、重點領(lǐng)域,針對復(fù)雜社會現(xiàn)象制定規(guī)則,設(shè)定權(quán)利、義務(wù)、責(zé)任,本已屬難事,因此,或更不適于將人工智能系統(tǒng)引入相應(yīng)的規(guī)則制定過程之中。

    需認(rèn)識到,人工智能介入行政規(guī)則制定,更多的是搜集輔助資料、比較分析方案、提供文本表述參考,行政規(guī)則制定機關(guān)和相關(guān)工作人員依然保留對規(guī)則內(nèi)容的修改、討論、審議之權(quán)?!叭嗽诨芈贰蹦J接兄诎l(fā)揮人類智能與人工智能之長,捍衛(wèi)行政規(guī)則制定程序的民主正當(dāng)性。

    (二)為人工智能系統(tǒng)設(shè)定透明度和可解釋性要求

    人工智能系統(tǒng)研發(fā)者有向行政機關(guān)和公眾進行解釋的義務(wù),這有助于行政機關(guān)和公眾在一定程度上了解算法和機器學(xué)習(xí)運行的相關(guān)原理。通過要求系統(tǒng)研發(fā)者“展示你的工作”,來界定用自動化工具評估哪些內(nèi)容,哪些特征變量作為事實證據(jù),哪些特征變量作為結(jié)果變量;系統(tǒng)研發(fā)者要為所選擇數(shù)據(jù)、驗證程序、驗證結(jié)果的生成等給出解釋。[13]這有助于行政人員更好地理解人工智能系統(tǒng),并在后續(xù)規(guī)則制定中,更好地將行政管理經(jīng)驗與人工智能輔助建議相結(jié)合。

    當(dāng)行政機關(guān)引入人工智能輔助系統(tǒng)來制定行政規(guī)則時,也應(yīng)履行相應(yīng)的透明和可解釋義務(wù)。其一,在規(guī)則制定過程中,應(yīng)努力讓相關(guān)行政官員、行業(yè)專家理解人工智能系統(tǒng)所能發(fā)揮的作用,理解人工智能系統(tǒng)能生成怎樣的結(jié)果。其二,責(zé)任的缺失是誘發(fā)智能風(fēng)險的內(nèi)在因素[14],應(yīng)明確界定在規(guī)則制定中,規(guī)則起草人員、人工智能系統(tǒng)分別扮演怎樣的角色,承擔(dān)怎樣的責(zé)任,保證對人工智能系統(tǒng)生成的規(guī)則草案、規(guī)則輔助資料等予以存檔,并保證未來可查詢。其三,行政機關(guān)將規(guī)則草案說明向社會公布并征求意見時,應(yīng)說明引入了哪個人工智能系統(tǒng),人工智能系統(tǒng)在特定規(guī)則制定中的功用是什么,是輔助搜集立法資料,還是草擬規(guī)則草案文本,還是對特定條款提出建議,抑或是對不同版本規(guī)則文本加以比較。這有助于打造更可信、更具可問責(zé)性的人工智能系統(tǒng),強化對人工智能系統(tǒng)的社會監(jiān)督。

    (三)探索人工智能系統(tǒng)開發(fā)的合作治理方略

    如果行政機關(guān)只是將人工智能輔助規(guī)則制定系統(tǒng)的設(shè)計外包給企業(yè)或研究機構(gòu),雙方僅僅構(gòu)成合同關(guān)系,那么行政機關(guān)與研發(fā)者之間的溝通方式可能只是協(xié)議、文檔、用戶手冊等,這不利于彼此間密切的溝通和協(xié)調(diào)。在設(shè)計人工智能輔助規(guī)則制定系統(tǒng)時,不僅要掌握計算機語言,還涉及對法律、經(jīng)濟學(xué)、社會學(xué)、倫理學(xué)等的考慮。行政機關(guān)應(yīng)與研發(fā)者密切合作、持續(xù)交流,發(fā)揮規(guī)范引導(dǎo)作用[15],共同形成人工智能系統(tǒng)開發(fā)方案。

    另外,應(yīng)要求人工智能輔助規(guī)則制定系統(tǒng)使用開源軟件,并可考慮適度開放該系統(tǒng)的源代碼。這有助于提高人工智能輔助規(guī)則制定系統(tǒng)的透明度與可解釋性,使人們更好地理解相應(yīng)的人工智能系統(tǒng)。堅持人工智能賦能工具的開源與互操作性,有助于避免行政規(guī)則制定被某個特定供應(yīng)商“鎖定”,還有助于在現(xiàn)有系統(tǒng)的基礎(chǔ)上,根據(jù)用戶的體驗、感受和建議,對人工智能輔助系統(tǒng)予以不斷修正、迭代升級,這也是實驗主義治理和反思型法的生動體現(xiàn)。

    四、結(jié) 語

    將人工智能引入行政規(guī)則制定之中,某種意義上構(gòu)建了數(shù)字技術(shù)輔助政府決策的機制,推動了政府治理流程再造和模式優(yōu)化。如果說電子化行政規(guī)則制定構(gòu)成了規(guī)則制定的2.0版本,那么人工智能輔助規(guī)則制定則構(gòu)成了規(guī)則制定的3.0版本,在技術(shù)賦能的同時,也推動了行政規(guī)則制定程序的改革,推動了中國行政程序法的結(jié)構(gòu)轉(zhuǎn)型。但面對充滿不確定性的未來,仍有兩個需要重點關(guān)注的問題。

    其一,將人工智能系統(tǒng)引入行政規(guī)則制定程序,應(yīng)盡量更有效聽取、更好回應(yīng)公眾意見,更好保障利益相關(guān)方的參與權(quán)利。不可因?qū)σ?guī)則制定效率的迷戀,而克減了利益相關(guān)方參與規(guī)則制定的法定權(quán)利,而削弱了利益相關(guān)方參與規(guī)則制定的其他法定形式;不可弱化書面征求意見、座談會、論證會、聽證會等收集意見形式的作用。

    其二,人工智能系統(tǒng)在行政規(guī)則制定中只能起到輔助性的作用,需建構(gòu)人機協(xié)同的行政規(guī)則制定機制。人工智能的引入,有助于搜集相關(guān)資料、生成規(guī)則草案、進行文本比對,并開展規(guī)則的審查、清理和評估。但人工智能系統(tǒng)所倚重的數(shù)據(jù)集、算法等都具有局限性,自動化決策工具和人工智能系統(tǒng)相對適于考慮可量化、結(jié)構(gòu)化的數(shù)據(jù),但其更多呈現(xiàn)出規(guī)律性、確定性的技術(shù)思維,無法對所規(guī)范事務(wù)加以“同情地理解”,不適于去體察對規(guī)則制定所需考慮的復(fù)雜的政治、經(jīng)濟、社會以及歷史背景,不適于去衡量復(fù)雜社會中承載的多元價值和利益。[16]更要警惕因人工智能系統(tǒng)帶來法規(guī)文件起草人員的怠惰,防止由機器生成千人一面、看上去很美,實則脫離實際的規(guī)則文本。

    規(guī)則制定者具有豐富規(guī)則制定經(jīng)驗,還具有基于常人生活經(jīng)驗的“感覺”和“常識”,能更好地應(yīng)對不確定性,更好地在矛盾的焦點上“砍一刀”,給出務(wù)實、有效的解決方案,寫出具有可操作性的條文。因此,建構(gòu)行政規(guī)則制定的人機協(xié)同機制,讓規(guī)則制定者保有對機器錯誤的監(jiān)督、矯正之責(zé),有助于真正實現(xiàn)數(shù)字時代的智能化規(guī)則制定,以高質(zhì)量規(guī)則制定促進法治的高質(zhì)量發(fā)展。

    注釋:

    (1)參見《國務(wù)院辦公廳關(guān)于印發(fā)國務(wù)院2022年度立法工作計劃的通知》,國辦發(fā)[2022]24號,2022年7月5日。

    (2)參見 《國務(wù)院辦公廳關(guān)于進一步規(guī)范行政裁量權(quán)" 基準(zhǔn)制定和管理工作的意見》,國辦發(fā)[2022]27號,2022年7月29日。

    參考文獻:

    [1]Andre Wirjo,Sylwyn Calizo Jr.,Glacer Ni?觡o Vasquez,and Emmanuel A. San Andres. Artificial Intelligence in Economic Policymaking[R]. Singapore: APEC Policy Support Unit Policy Brief No. 52,2022.

    [2]于立深.行政立法性事實研究[J].法商研究,2018(6):28-36.

    [3]M. Hofer et al.Applying Artificial Intelligence on Satellite Imagery to Compile Granular Poverty Statistics[R]. Manila: Asian Development Bank (ADB) Economics Working Paper No.629. 2020.

    [4]African Center for Economic Transformation. Responsible AI in Economic Policymaking in Africa[J].African Center for Economic Transformation, 2024(1):10-13.

    [5][美]威廉·N·鄧恩.公共政策分析導(dǎo)論[M].謝明,等,譯.謝明,校.北京:中國人民大學(xué)出版社,2002:225.

    [6]王浦劬,賴先進.中國公共政策擴散的模式與機制分析[J].北京大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2013(6):14-23.

    [7]干詠昕.政策學(xué)習(xí):理解政策變遷的新視角[J].東岳論叢,2010(9):153-156.

    [8]李弸. 人工智能應(yīng)用于地方立法的現(xiàn)實困境與應(yīng)然路徑[J].人大研究,2022(3):36-41.

    [9]Livermore,M.A,Eidelman,V. amp;Grom,B. Computationally Assisted Regulatory Participation[J]. Notre Dame Law Review, 2018(3):977-1034.

    [10]Steve Balla,Reeve Bull,Bridget Dooling,Emily Hammond,Michael Herz,Michael Livermore,amp; Beth Simone Noveck. Mass,Computer-Generated,and Fraudulent Comments[R]. Washington D.C. : Administrative Conference of the U.S. ,2001.

    [11][日]西尾勝. 行政學(xué)(新版)[M].毛桂榮,等,譯.北京:中國人民大學(xué)出版社,2006:222.

    [12]周佑勇.行政裁量基準(zhǔn)研究[M]. 北京:中國人民大學(xué)出版社,2015:90.

    [13]Katherine J.Strandburg. Rulemaking and Inscrutable Automated Decision Tools[J]. Columbia Law Review,2019(7):1851-1886.

    [14]陳元,黃秋生.ChatGPT 技術(shù)中的人工智能倫理風(fēng)險及其科學(xué)祛魅[J].湖南科技大學(xué)學(xué)報(社會科學(xué)版),2023(3):135-142.

    [15]劉祖兵.論 Sora 的倫理風(fēng)險與我國治理因應(yīng)——也談我國參與人工智能算法倫理全球治理的基本路徑[J].湖南科技大學(xué)學(xué)報(社會科學(xué)版),2023(3):135-142.

    [16]陳悅.人機協(xié)同裁量的建構(gòu)原理:風(fēng)險檢視與因應(yīng)優(yōu)化[J].浙江學(xué)刊,2024(5):197-205,240.

    (責(zé)任編輯 吳 楠)

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    汽車零部件(2020年3期)2020-03-27 05:30:20
    當(dāng)人工智能遇見再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動化控制
    人工智能,來了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來了
    三级男女做爰猛烈吃奶摸视频| 国产69精品久久久久777片| 91精品伊人久久大香线蕉| 男女啪啪激烈高潮av片| 国产毛片a区久久久久| 中文在线观看免费www的网站| 欧美xxxx黑人xx丫x性爽| 亚洲国产av新网站| 我的女老师完整版在线观看| 亚洲精品日韩在线中文字幕| 精品人妻一区二区三区麻豆| 夫妻午夜视频| 亚洲激情五月婷婷啪啪| 我的老师免费观看完整版| 午夜爱爱视频在线播放| 两个人视频免费观看高清| 国产女主播在线喷水免费视频网站 | 菩萨蛮人人尽说江南好唐韦庄| 丰满少妇做爰视频| 亚洲伊人久久精品综合| 国产老妇女一区| 日日摸夜夜添夜夜添av毛片| 国产精品久久久久久久久免| 日韩强制内射视频| 亚洲伊人久久精品综合| 成人毛片a级毛片在线播放| 联通29元200g的流量卡| 国产在视频线在精品| 国产91av在线免费观看| 美女高潮的动态| 亚洲天堂国产精品一区在线| 亚洲精品国产av蜜桃| 简卡轻食公司| 午夜福利在线观看吧| 一级a做视频免费观看| 3wmmmm亚洲av在线观看| 身体一侧抽搐| 亚洲电影在线观看av| 青春草视频在线免费观看| 一二三四中文在线观看免费高清| 国产精品久久久久久精品电影| 亚洲av中文av极速乱| 精品不卡国产一区二区三区| 看非洲黑人一级黄片| 18禁动态无遮挡网站| 国产精品嫩草影院av在线观看| 国产黄色小视频在线观看| 成人毛片a级毛片在线播放| 久久人人爽人人爽人人片va| 精品欧美国产一区二区三| 丝袜美腿在线中文| 最近最新中文字幕免费大全7| 人妻夜夜爽99麻豆av| 国产av码专区亚洲av| 国产毛片a区久久久久| 国产精品人妻久久久久久| 偷拍熟女少妇极品色| 18+在线观看网站| 欧美高清性xxxxhd video| 久久久久久久久久久丰满| a级毛色黄片| 91久久精品国产一区二区成人| 美女黄网站色视频| 久久精品人妻少妇| 成人毛片60女人毛片免费| 国产高清不卡午夜福利| 精品一区二区三区视频在线| 国产精品一区www在线观看| 国产欧美另类精品又又久久亚洲欧美| 亚洲精品成人av观看孕妇| 久久人人爽人人爽人人片va| 大陆偷拍与自拍| 观看美女的网站| 国产国拍精品亚洲av在线观看| 久久精品国产自在天天线| 热99在线观看视频| 日本wwww免费看| 亚洲真实伦在线观看| 国产毛片a区久久久久| 在线播放无遮挡| 亚洲精品一区蜜桃| 国产单亲对白刺激| 亚洲国产精品成人久久小说| 在线免费十八禁| 两个人视频免费观看高清| 永久网站在线| 天美传媒精品一区二区| 亚洲精品成人久久久久久| 日日撸夜夜添| av播播在线观看一区| 国产老妇女一区| av线在线观看网站| kizo精华| 黄片wwwwww| 国产一区二区三区综合在线观看 | 女的被弄到高潮叫床怎么办| 三级毛片av免费| 亚洲综合精品二区| 国产免费视频播放在线视频 | 欧美成人午夜免费资源| 毛片一级片免费看久久久久| 综合色丁香网| 搡老妇女老女人老熟妇| 青春草亚洲视频在线观看| 成人漫画全彩无遮挡| 麻豆国产97在线/欧美| 国精品久久久久久国模美| 久久综合国产亚洲精品| 美女xxoo啪啪120秒动态图| 久久综合国产亚洲精品| 搡老乐熟女国产| 少妇的逼好多水| 国产国拍精品亚洲av在线观看| 日韩av免费高清视频| 久久久久久久午夜电影| 啦啦啦韩国在线观看视频| 天堂影院成人在线观看| 久久久久久久久久久丰满| 国产色婷婷99| 国产一区有黄有色的免费视频 | 中文字幕亚洲精品专区| av黄色大香蕉| 小蜜桃在线观看免费完整版高清| 国产伦理片在线播放av一区| 美女脱内裤让男人舔精品视频| 欧美区成人在线视频| 欧美xxⅹ黑人| 亚洲欧美一区二区三区黑人 | 欧美一区二区亚洲| 最近最新中文字幕免费大全7| 亚洲av.av天堂| 日韩大片免费观看网站| 黄片wwwwww| 免费高清在线观看视频在线观看| 亚洲精品,欧美精品| 男人舔奶头视频| 汤姆久久久久久久影院中文字幕 | 22中文网久久字幕| 久久久久久九九精品二区国产| 国产精品一区二区性色av| 99久国产av精品国产电影| 久久久久久久久久黄片| 亚洲av福利一区| 麻豆精品久久久久久蜜桃| 国产高清国产精品国产三级 | 成年人午夜在线观看视频 | 免费观看性生交大片5| 看非洲黑人一级黄片| 日韩欧美精品v在线| 成年女人看的毛片在线观看| 欧美精品一区二区大全| 国产伦精品一区二区三区视频9| 国产免费视频播放在线视频 | 精品酒店卫生间| 欧美激情国产日韩精品一区| 欧美高清成人免费视频www| 国产精品一区二区性色av| 久久久久久久久久黄片| 天美传媒精品一区二区| 麻豆乱淫一区二区| 久久久a久久爽久久v久久| 亚洲美女搞黄在线观看| 欧美极品一区二区三区四区| 欧美潮喷喷水| 亚洲经典国产精华液单| 日韩人妻高清精品专区| 少妇熟女aⅴ在线视频| 国产伦理片在线播放av一区| 精品久久久久久成人av| 亚洲va在线va天堂va国产| 中国国产av一级| 最近最新中文字幕免费大全7| 我的女老师完整版在线观看| 精华霜和精华液先用哪个| 一个人看的www免费观看视频| 欧美高清性xxxxhd video| 精品欧美国产一区二区三| 99久国产av精品国产电影| 久久久久网色| 美女内射精品一级片tv| 久久久精品欧美日韩精品| 欧美日韩视频高清一区二区三区二| 亚洲av免费高清在线观看| 国产免费视频播放在线视频 | 18禁裸乳无遮挡免费网站照片| 亚洲18禁久久av| 身体一侧抽搐| 纵有疾风起免费观看全集完整版 | 日本-黄色视频高清免费观看| 看免费成人av毛片| 不卡视频在线观看欧美| 国产在线男女| 免费黄频网站在线观看国产| 99热这里只有精品一区| 国产精品一区www在线观看| 亚洲av电影在线观看一区二区三区 | 亚洲综合精品二区| 只有这里有精品99| 免费黄频网站在线观看国产| 国语对白做爰xxxⅹ性视频网站| 青青草视频在线视频观看| 蜜臀久久99精品久久宅男| 精品一区二区三区人妻视频| 不卡视频在线观看欧美| 网址你懂的国产日韩在线| 三级男女做爰猛烈吃奶摸视频| 亚洲欧美成人精品一区二区| 亚洲一区高清亚洲精品| 亚洲精品中文字幕在线视频 | 晚上一个人看的免费电影| 午夜精品在线福利| 免费观看无遮挡的男女| 日韩成人av中文字幕在线观看| 亚洲高清免费不卡视频| 国产国拍精品亚洲av在线观看| 亚洲国产欧美在线一区| 日韩中字成人| 久久久久久久午夜电影| 日韩成人av中文字幕在线观看| 欧美xxxx黑人xx丫x性爽| 女人被狂操c到高潮| 午夜久久久久精精品| 成年女人在线观看亚洲视频 | 欧美激情在线99| 亚洲三级黄色毛片| 又爽又黄a免费视频| 少妇高潮的动态图| www.色视频.com| 国产激情偷乱视频一区二区| 成年女人在线观看亚洲视频 | 夜夜爽夜夜爽视频| 国产老妇女一区| 久久久久久九九精品二区国产| 亚洲在久久综合| www.av在线官网国产| 精品少妇黑人巨大在线播放| 天堂av国产一区二区熟女人妻| 十八禁国产超污无遮挡网站| 99久久人妻综合| 午夜精品国产一区二区电影 | 久久99蜜桃精品久久| 街头女战士在线观看网站| 在线观看av片永久免费下载| 只有这里有精品99| 日韩在线高清观看一区二区三区| 免费观看精品视频网站| 欧美一级a爱片免费观看看| 色尼玛亚洲综合影院| 国产在线一区二区三区精| 久久久久久久久中文| 欧美区成人在线视频| 纵有疾风起免费观看全集完整版 | 国产亚洲午夜精品一区二区久久 | 日韩亚洲欧美综合| 中文在线观看免费www的网站| 亚洲欧美日韩东京热| 白带黄色成豆腐渣| 亚洲国产高清在线一区二区三| 欧美区成人在线视频| 国产午夜福利久久久久久| 久久99热这里只有精品18| 国产黄片视频在线免费观看| 亚洲av免费高清在线观看| 一夜夜www| 欧美日韩视频高清一区二区三区二| 97在线视频观看| 久久久久久国产a免费观看| 草草在线视频免费看| 国产精品一及| a级毛片免费高清观看在线播放| 男插女下体视频免费在线播放| 美女高潮的动态| 80岁老熟妇乱子伦牲交| 大话2 男鬼变身卡| 国产精品人妻久久久影院| 91久久精品国产一区二区成人| 极品教师在线视频| 九草在线视频观看| av免费观看日本| 亚洲18禁久久av| 国产亚洲精品久久久com| 天天躁日日操中文字幕| videossex国产| 午夜爱爱视频在线播放| 97精品久久久久久久久久精品| 嘟嘟电影网在线观看| 狂野欧美白嫩少妇大欣赏| 欧美xxxx黑人xx丫x性爽| 成年人午夜在线观看视频 | 免费观看的影片在线观看| 成人特级av手机在线观看| 亚洲精品久久午夜乱码| 校园人妻丝袜中文字幕| 偷拍熟女少妇极品色| 久久午夜福利片| 插阴视频在线观看视频| 美女cb高潮喷水在线观看| 欧美成人精品欧美一级黄| 日韩欧美国产在线观看| 色5月婷婷丁香| 国产在线男女| 精品熟女少妇av免费看| 欧美另类一区| 国产亚洲一区二区精品| 成人综合一区亚洲| 国产精品.久久久| 亚洲精品视频女| 亚洲伊人久久精品综合| 日韩大片免费观看网站| 偷拍熟女少妇极品色| 免费黄色在线免费观看| 最近最新中文字幕大全电影3| h日本视频在线播放| 97人妻精品一区二区三区麻豆| 舔av片在线| 免费观看的影片在线观看| 超碰97精品在线观看| 亚洲天堂国产精品一区在线| 亚洲av二区三区四区| 婷婷六月久久综合丁香| 日本av手机在线免费观看| 国产中年淑女户外野战色| 国产毛片a区久久久久| 亚洲精品久久久久久婷婷小说| 97超视频在线观看视频| 好男人在线观看高清免费视频| 精品久久久久久久人妻蜜臀av| 国产一区二区在线观看日韩| 淫秽高清视频在线观看| 亚洲欧美精品自产自拍| 亚洲自拍偷在线| av一本久久久久| 男人爽女人下面视频在线观看| 老师上课跳d突然被开到最大视频| 国产激情偷乱视频一区二区| 内射极品少妇av片p| 免费大片黄手机在线观看| 国产一级毛片七仙女欲春2| 国产不卡一卡二| 爱豆传媒免费全集在线观看| 亚洲国产欧美在线一区| 91久久精品国产一区二区成人| 晚上一个人看的免费电影| 久久久久久久久久久免费av| 五月伊人婷婷丁香| 成人漫画全彩无遮挡| 久久99热这里只频精品6学生| 国产老妇伦熟女老妇高清| 亚洲人成网站高清观看| 日韩一区二区视频免费看| 永久免费av网站大全| 国产三级在线视频| 18禁在线播放成人免费| 久久97久久精品| 美女内射精品一级片tv| 日韩 亚洲 欧美在线| 亚洲av成人精品一区久久| 网址你懂的国产日韩在线| 国产av在哪里看| 2018国产大陆天天弄谢| 青青草视频在线视频观看| 国产精品嫩草影院av在线观看| 亚洲不卡免费看| 久久久欧美国产精品| 两个人的视频大全免费| 99久久中文字幕三级久久日本| 婷婷色综合www| 亚洲在线自拍视频| 男的添女的下面高潮视频| 男女边吃奶边做爰视频| 久久国内精品自在自线图片| 又爽又黄无遮挡网站| 亚洲av中文字字幕乱码综合| 午夜福利在线观看免费完整高清在| 美女国产视频在线观看| av在线播放精品| 色视频www国产| 午夜免费观看性视频| 你懂的网址亚洲精品在线观看| 久久这里只有精品中国| 色播亚洲综合网| 婷婷色av中文字幕| 尾随美女入室| www.色视频.com| 精品人妻熟女av久视频| 亚洲在久久综合| 高清av免费在线| 特大巨黑吊av在线直播| 国产免费一级a男人的天堂| 国产黄a三级三级三级人| 毛片女人毛片| 国产精品麻豆人妻色哟哟久久 | 国产精品av视频在线免费观看| a级毛片免费高清观看在线播放| 三级毛片av免费| 一级毛片aaaaaa免费看小| 熟女电影av网| 在线免费观看的www视频| 禁无遮挡网站| av专区在线播放| 亚洲av国产av综合av卡| 免费大片18禁| 日本黄色片子视频| 国产精品99久久久久久久久| 国产一区二区三区av在线| 久久久精品欧美日韩精品| 青春草国产在线视频| 小蜜桃在线观看免费完整版高清| 国产女主播在线喷水免费视频网站 | 免费播放大片免费观看视频在线观看| 一级a做视频免费观看| 久久久久精品性色| 亚洲不卡免费看| 人妻制服诱惑在线中文字幕| 黄片无遮挡物在线观看| 观看美女的网站| 男女那种视频在线观看| 久久久亚洲精品成人影院| 国产综合精华液| 极品少妇高潮喷水抽搐| 国产女主播在线喷水免费视频网站 | 国产欧美另类精品又又久久亚洲欧美| 国产精品久久久久久av不卡| 丝袜喷水一区| 男女边摸边吃奶| 欧美激情在线99| 免费看日本二区| 日本黄大片高清| 校园人妻丝袜中文字幕| 成人美女网站在线观看视频| 亚洲精品自拍成人| 欧美高清成人免费视频www| 人人妻人人澡人人爽人人夜夜 | 国模一区二区三区四区视频| 不卡视频在线观看欧美| 日本猛色少妇xxxxx猛交久久| 精品人妻一区二区三区麻豆| 看非洲黑人一级黄片| 国产亚洲一区二区精品| 欧美精品一区二区大全| 午夜福利视频1000在线观看| 免费无遮挡裸体视频| 久久综合国产亚洲精品| 亚洲熟女精品中文字幕| 一本久久精品| 日韩,欧美,国产一区二区三区| 久久精品综合一区二区三区| 日本一本二区三区精品| 久久久久久久久大av| 91精品国产九色| 男女啪啪激烈高潮av片| 免费大片18禁| 最近最新中文字幕大全电影3| 哪个播放器可以免费观看大片| 丝袜美腿在线中文| 国产激情偷乱视频一区二区| 精品午夜福利在线看| 在线观看人妻少妇| 美女国产视频在线观看| 久久久久久久国产电影| 亚洲自拍偷在线| 久久久色成人| 你懂的网址亚洲精品在线观看| 一夜夜www| 国产淫语在线视频| 九九久久精品国产亚洲av麻豆| 青春草国产在线视频| 国产精品一区二区性色av| 久久韩国三级中文字幕| 精品久久久久久久人妻蜜臀av| 久久精品夜夜夜夜夜久久蜜豆| 99热6这里只有精品| 日本-黄色视频高清免费观看| 毛片一级片免费看久久久久| 午夜免费观看性视频| 久久精品夜夜夜夜夜久久蜜豆| 国产成人aa在线观看| 国产精品.久久久| 18禁在线播放成人免费| 天堂网av新在线| 国产精品无大码| 日本一二三区视频观看| 看黄色毛片网站| 亚洲av男天堂| 国产精品一二三区在线看| 亚洲成人av在线免费| 国精品久久久久久国模美| 国产伦精品一区二区三区四那| 国产 亚洲一区二区三区 | 国产免费视频播放在线视频 | 成人国产麻豆网| 久久久色成人| www.av在线官网国产| 视频中文字幕在线观看| 久久这里有精品视频免费| 亚洲av免费在线观看| 色尼玛亚洲综合影院| 亚洲国产精品sss在线观看| 建设人人有责人人尽责人人享有的 | 成人亚洲精品一区在线观看 | 国产在视频线精品| 国产成人一区二区在线| 欧美精品国产亚洲| 亚洲国产精品国产精品| 午夜福利高清视频| 97热精品久久久久久| 亚洲国产日韩欧美精品在线观看| 亚洲av成人精品一二三区| 少妇熟女欧美另类| 免费观看av网站的网址| 精品久久久久久久末码| 久久精品国产亚洲av涩爱| 一级a做视频免费观看| 内地一区二区视频在线| 亚洲精品视频女| 男插女下体视频免费在线播放| 少妇熟女aⅴ在线视频| 一边亲一边摸免费视频| 亚洲美女搞黄在线观看| 午夜福利在线在线| 亚洲av免费高清在线观看| 国产精品.久久久| 一个人免费在线观看电影| 亚洲人成网站高清观看| av国产免费在线观看| 三级毛片av免费| 老司机影院毛片| 综合色丁香网| 日韩电影二区| 婷婷六月久久综合丁香| 中文字幕亚洲精品专区| 国产精品国产三级专区第一集| 精品人妻熟女av久视频| 久久久久久久久久人人人人人人| 深爱激情五月婷婷| 青春草视频在线免费观看| 婷婷六月久久综合丁香| 一级av片app| 午夜福利高清视频| 亚洲婷婷狠狠爱综合网| 日本熟妇午夜| 两个人视频免费观看高清| 国产成人一区二区在线| 听说在线观看完整版免费高清| 赤兔流量卡办理| 一级毛片电影观看| 久久久精品免费免费高清| 久久久精品94久久精品| 久久久欧美国产精品| 久久久精品欧美日韩精品| 精品国内亚洲2022精品成人| 色吧在线观看| 国产乱人偷精品视频| 亚洲av男天堂| 女的被弄到高潮叫床怎么办| 久久精品国产自在天天线| 婷婷色av中文字幕| 国产av在哪里看| 国产视频内射| 日韩av不卡免费在线播放| 水蜜桃什么品种好| 永久免费av网站大全| 最近手机中文字幕大全| 大陆偷拍与自拍| 久久午夜福利片| 黄色日韩在线| 天天躁日日操中文字幕| 国产白丝娇喘喷水9色精品| 久久久精品欧美日韩精品| 久久久欧美国产精品| 床上黄色一级片| 亚洲av成人精品一区久久| 久久久久久久久大av| 别揉我奶头 嗯啊视频| 亚洲乱码一区二区免费版| 日韩 亚洲 欧美在线| 免费观看在线日韩| 久久午夜福利片| 亚洲av二区三区四区| 在线观看免费高清a一片| 国产精品一区二区在线观看99 | 少妇猛男粗大的猛烈进出视频 | 国产成人a区在线观看| 精品人妻视频免费看| 国模一区二区三区四区视频| 亚洲精品乱码久久久v下载方式| 亚洲av男天堂| 精品一区二区三卡| 精品一区在线观看国产| 特级一级黄色大片| 欧美zozozo另类| 插逼视频在线观看| 熟女人妻精品中文字幕| 日日啪夜夜撸| 极品教师在线视频| 国产成人91sexporn| 观看免费一级毛片| 麻豆国产97在线/欧美| 日韩成人伦理影院| 日日摸夜夜添夜夜爱| 国产熟女欧美一区二区| 亚洲精品日本国产第一区| 91午夜精品亚洲一区二区三区| 午夜激情欧美在线| 国产黄频视频在线观看| 精品久久久久久久人妻蜜臀av| 亚洲av福利一区| 国产淫语在线视频| 久久精品综合一区二区三区| 欧美人与善性xxx| 亚洲婷婷狠狠爱综合网| 亚洲国产高清在线一区二区三| 国产淫片久久久久久久久| 久久久久久九九精品二区国产| 国产成人aa在线观看|