• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論社會治理視角下人工智能輔助立法決策的實踐路徑

    2023-08-07 02:15:50郭秉貴
    溫州大學學報(社會科學版) 2023年2期
    關鍵詞:立法者輔助決策

    郭秉貴

    (溫州大學法學院,浙江溫州 325035)

    隨著依法治國方略的深入推進、國家治理能力的不斷提升,立法在引領和推動社會治理現(xiàn)代化方面的作用日益凸顯,地方立法權在推進市域社會治理現(xiàn)代化中的功效正在加速釋放。借助大數(shù)據(jù)、人工智能等新技術的飛速發(fā)展,地方立法參與社會治理的實踐路徑,亦面臨著從數(shù)字化到智能化的新轉(zhuǎn)型。在立法需求與科技進步的雙重驅(qū)動下,人工智能輔助立法決策成為新的發(fā)展動向,立法智能化為在法治軌道上推進社會治理現(xiàn)代化注入了新的活力。探索人工智能技術在立法中的應用,既是運用人工智能、互聯(lián)網(wǎng)、大數(shù)據(jù)等現(xiàn)代信息技術手段推動治理能力和治理體系現(xiàn)代化的重要體現(xiàn),也是推進科學立法提升立法質(zhì)量的現(xiàn)實需求?;诜蓪嵺`自身的需求及人工智能的快速發(fā)展,法律與人工智能的融合與滲透愈加深入。繼智慧法院、智慧檢務等人工智能輔助司法系統(tǒng)落地應用之后,人工智能輔助立法的探索雛形也應運而生。實踐中應用較多的是北大法寶智能立法支持平臺,這套智能立法平臺升級到了多個系統(tǒng),包括提供立法項目管理、草案意見征集、法規(guī)文件公開、法規(guī)文件報備、法規(guī)文件審查、法規(guī)文件清理、立法資料管理、立法(后)評估、立法大數(shù)據(jù)分析等。該系統(tǒng)目前已正式應用于西藏自治區(qū)人大、珠海市人大、云浮市人大,并有多地正在試運行。在立法操作上運用現(xiàn)代科學技術,是科學立法原則的一項基本要求,也是科學立法的重要保證[1]參見:周旺生.立法學教程[M].北京:法律出版社,1995:59-60。。

    信息化時代“智慧人大”潮流的興起決定了在立法領域中,已經(jīng)不再是人工智能是否可以運用的問題,而是如何使它更好地發(fā)揮輔助作用。相較于人工智能在司法、執(zhí)法等領域的應用,人工智能輔助立法決策的理論研究和實踐進程相對滯后,其在實踐中面臨著多方面的難題:一是智能技術發(fā)展瓶頸和數(shù)據(jù)質(zhì)量有限等技術性難題;二是以算法黑箱、算法偏見和算法控制為代表的規(guī)范性難題;三是如何界定立法者與人工智能的關系及合理確定二者分工的倫理性難題。在上述難題的相互疊加下,人工智能輔助立法系統(tǒng)目前仍主要應用于立法意見收集、分類整理及流程管理等基礎性工作,尚未真正實現(xiàn)人工智能技術與立法工作機理的深度融合[2]參見:李超.人工智能輔助立法:現(xiàn)狀、困境及其因應[J].人大研究,2020(4):14-20。。加之很多新獲得立法權的地方立法機關,面臨立法任務較重,立法經(jīng)驗、能力不足等現(xiàn)實困境,效率導向下的人工智能輔助立法可能會形成技術依賴,即較為注重提升立法效率,而相對忽略立法的民主性、科學性[3]參見:李晟.略論人工智能語境下的法律轉(zhuǎn)型[J].法學評論,2018(1):98-107。。因此,如何厘清立法工作與技術運用的關系,克服智能技術引發(fā)的挑戰(zhàn)與風險,促進立法工作與人工智能的深度融合,無疑是值得討論的理論議題。

    一、人工智能輔助立法決策在社會治理中的功能

    在社會治理中,影響法律實施效果的重要原因之一,在于立法決策的量化程度不高,立法者對法律規(guī)范調(diào)整的社會關系、社會事物把握不夠精準,從而對反映事物內(nèi)在規(guī)律的東西把握還不深不透[4]參見:李飛.加強立法決策量化論證 不斷提高立法質(zhì)量[J].中國人大,2018(19):12-14。?;诖?,加強立法決策量化論證是新時代提高立法質(zhì)量的現(xiàn)實需要。人工智能技術引入法學領域后,以理論和經(jīng)驗為基礎的法學方法有條件和可能轉(zhuǎn)向采用實驗和大數(shù)據(jù)的法學科學方法,為采用自然科學的方法研究法學提供了更多可能。

    (一)全面發(fā)現(xiàn)立法事實,精準確定社會治理對象

    法律人所面臨的首要問題是事實問題,而非法律問題[5]參見:侯猛.司法中的社會科學判斷[J].中國法學,2015(6):42-59。。在立法過程中,立法事實的認定是建構法律規(guī)范的基礎?!傲⒎ㄊ聦崱钡母拍钣擅绹鴮W者戴維斯較早提出,意在將其與裁決性事實相區(qū)分。根據(jù)戴維斯的觀點,“立法事實”是與法律和政策的確定有關的事實[6]參見:DAVIS K C.An Approach to Problems of Evidence in the Administrative Process[J],Harvard Law Review,1942(3):364-425。,戴維斯對立法事實的界定和分類中可以看出,立法事實呈現(xiàn)出較為復雜的樣態(tài)。有學者對行政立法中的事實進行研究,將其分為客觀性事實、制度性事實、法定性事實、闡釋性事實四類[7]參見:于立深.行政立法性事實研究[J].法商研究,2008(6):28-36。。也有學者認為,在立法過程中,需要通過論證加以確認的立法事實包括兩種,一是社會事實,二是制度事實[8]參見:王怡.論立法過程中的事實論證[J].政治與法律,2018(7):98-109。。雖然關于“立法事實”及如何對其進行分類并未形成通說,但以上研究均富有一定的啟發(fā)性:對于立法事實的認知,不僅僅是一個發(fā)現(xiàn)的過程,更是進行選擇、判斷、論證使之具體化的過程。

    在科學決策方面,發(fā)現(xiàn)和界定事實是解決問題的關鍵。制定法律規(guī)范需要以社會事實作為支撐,同時需要與正在生效的法律制度保持融貫,基于此,立法事實應當包括作為調(diào)整對象的事實和需要保持融貫的事實。前者既可能是簡單事實又可能是復雜事實,后者不僅包括法律規(guī)范體系,還包括各類非典型意義的法[9]參見:姜明安.軟法的興起與軟法之治[J].中國法學,2006(2):25-36。。作出立法決策的過程是通過事實論證進而預測實現(xiàn)效果的過程,包括“事實論斷”和“預測決定”兩個步驟。也就是說,作出立法決策需要深入把握法律法規(guī)所調(diào)整的社會關系、社會事物及相關因果規(guī)律,使之成為規(guī)范形成的客觀基礎。邁入萬物互聯(lián)時代,作出立法決策可能會涉及到經(jīng)濟、政治、社會、文化、生態(tài)等跨領域、跨學科知識,很多問題的解決需要大量數(shù)據(jù)信息的支持和驗證,用可靠的科學方法對之進行計量分析,通過對較大范圍數(shù)據(jù)的收集、整理、分析和運用,方能以更加具有科學性的方式呈現(xiàn)法律現(xiàn)象背后的因果關系[10]參見:陳柏峰.法律實證研究的興起與分化[J].中國法學,2018(3):132-149。。認識、分析、評價立法事實及其背后因果關系的過程,也是強化事實論證使立法事實具體化的過程,人工智能在這方面無疑是可以有所作為的。

    (二)整合多元利益訴求,增強治理措施的共識性

    法律是熔鑄了人類價值追求的規(guī)范事實。任何法律都是一套立法者根據(jù)其價值態(tài)度,對多元、沖突和變遷中的價值予以人為選擇、人為預設的價值體系,其特點是情感、價值和需要參與其中的制度事實,而不是、也不可能是隔絕情感、放逐價值、排斥需要的“無情感事實”或者純粹客觀事實[11]參見:謝暉.論法律價值與制度修辭[J].河南大學學報(社會科學版),2017(1):1-27。。作出立法決策涉及立法者、立法相關參與者在何種價值背景和思維框架下來闡釋社會事實的問題,其在闡釋過程中會不可避免地會混入主觀因素,基于不同的身份、職業(yè)、教育背景、生活環(huán)境等作出價值判斷。隨著社會的進步和發(fā)展,價值的多元化成為時代進步與個體發(fā)展的互動結果。如果說在價值多元背景中,社會治理的基本要求是讓“每一種利益都有權利和渠道去伸張”,那么,不同群體間的利益沖突如何協(xié)調(diào),就成了一個難以回避的問題。同樣,價值和利益多元化也給立法者決策帶來一定困難,需要直面的問題是,究竟以誰的價值標準或者以哪種價值標準作為厘定人們行為的標準。

    在社會價值的轉(zhuǎn)化與整合方面,人工智能技術的應用亦會帶來新的突破。法律規(guī)范制定之后要在社會實際生活中發(fā)揮作用,法的實施必然會對各類社會主體的權利義務產(chǎn)生直接或間接的影響,作為利益相關者,立法機構外的社會公眾同樣有理由、有動機積極參與和促進科學立法的實現(xiàn)。民主立法的廣度和深度仰賴于這種參與和投入的開放性,以及對多元、紛雜理念的容忍和包涵程度[12]參見:布羅思韋特.社會價值與澳大利亞法理學[J].比較法研究,1998(4):27-42。。大數(shù)據(jù)時代用數(shù)據(jù)說話、用數(shù)據(jù)決策成為了國家治理的重要原則[13]參見:陳潭.大數(shù)據(jù)驅(qū)動社會治理的創(chuàng)新轉(zhuǎn)向[J].行政論壇,2016(6):1-5。,這種運作模式深刻影響著社會公眾參與立法活動的方式和渠道。隨著互聯(lián)網(wǎng)、人工智能、社會化媒體的快速發(fā)展,為國家、政府和社會的開放式治理提供了現(xiàn)實機遇,使得“開門立法”成為常態(tài)。在新的形勢下,加強和改進立法工作,必須拓寬思維,創(chuàng)新渠道和手段。廣闊的互聯(lián)網(wǎng)平臺為利益相關主體表達意見和訴求提供了新的渠道,這種新的協(xié)商民主雖然可以就立法中的熱點問題引導社會主體積極發(fā)表意見和看法,但要使分散的、多元的、零碎的價值表達充分融入立法決策,還需在人工智能的輔助下進一步轉(zhuǎn)化,過濾民眾激情,在多元價值中權衡選取、綜合考量,形成理性的意見表達,在價值整合的基礎上最大限度地凝聚立法共識。

    (三)提升立法效果預測,實現(xiàn)社會科學治理目標

    立法決策過程中需要對不同來源、不同層次、不同結構、不同內(nèi)容的社會治理資源進行識別與選擇、分類與整合、激活與融合,使之具有較強的系統(tǒng)性。人工智能為立法事實的具體化、社會價值的轉(zhuǎn)化及整合,創(chuàng)造了新的可能性。立法決策涉及立法者關于事實的評價及未來效果的預測,但這種預測并非完全是主觀的產(chǎn)物,必須援引關于現(xiàn)實狀況、社會科學或者自然科學的因果規(guī)律以及實際經(jīng)驗等可確定的假設[14]參見:蔣紅珍.論適當性原則:引入立法事實的類型化審查強度理論[J].中國法學,2010(3):67。。價值、規(guī)范和事實三個要素的結合構成法的完整生命體,立法階段的任務涵蓋法在價值、規(guī)范和事實三種不同界域中的轉(zhuǎn)化[15]參見:田文利,張筱薏.法治實踐中價值、規(guī)范與事實關系初探[J].法學論壇,2007(5):25-30。。事實與價值要素既明顯區(qū)別、彼此獨立,又互相連接、相互作用,二者的結合形成建構法律規(guī)范的基礎。據(jù)此而言,人工智能的發(fā)展并未對立法決策的基礎理論提出挑戰(zhàn),挑戰(zhàn)在于如何在新的應用場景中提升理論的適應性及推動理論的創(chuàng)新發(fā)展。目前,人工智能基于其技術性特征,已顯現(xiàn)出對立法實踐的影響,在反映法律制度形成和運作的實際狀態(tài)、揭示社會事實背后的因果關系、提供客觀的定量分析基礎等方面顯現(xiàn)出技術優(yōu)勢。在此意義上,人工智能與立法決策的結合,是立法理論及實踐縱深發(fā)展的必然結果。

    在立法者進行事實論斷和預測決定的過程中,存在運用人工智能進行輔助的較大空間?;谌斯ぶ悄艿妮o助,作為調(diào)整對象的事實和需要保持融貫的事實,在決策作出之前就可能得到具體化的呈現(xiàn),人工智能輔助驗證的同時也進一步強化了對立法事實的論證,事實越具體、數(shù)據(jù)越充分,立法者就越接近對事實本質(zhì)和類型的把握。同樣,面對不同參與主體帶有價值傾向的各種意見,在人工智能的輔助下可以實現(xiàn)進一步轉(zhuǎn)化,以更適宜進入立法議程的方式進行呈現(xiàn),為科學地作出立法決策提供支撐。當然,在立法活動中,事實和價值不是截然區(qū)分的,事實論證和價值整合也可能是同時開展的,二者相互聯(lián)系、相互作用。需要指出的是,促進事實與價值相結合的關鍵在于研究方法的采用,合理地使用不同的法學研究方法,價值和事實領域的研究都可能提供確定的知識。如同科學與公共政策之間的相互作用可以通過實證方法來研究,建立一個科學框架,同時整合科學信息和社會政策,在立法決策領域,成熟的法學實證研究不僅可以回答事實是什么,而且還能為價值判斷提供重要依據(jù)[16]參見:潘德勇.從價值到事實:法學實證方法的變遷[J].社會科學,2015(3):100-109。,這為智能輔助的運用創(chuàng)造了現(xiàn)實條件。

    二、人工智能輔助立法決策在社會治理中的技術優(yōu)勢

    人工智能輔助立法決策的技術優(yōu)勢在于跳出傳統(tǒng)簡單決策的路徑依賴,提升用數(shù)據(jù)決策的精準治理能力和水平。大數(shù)據(jù)時代釋放出的巨大價值使得我們選擇大數(shù)據(jù)的理念和方法不再是一種權衡,而是通往未來的必然改變[17]參見:舍恩伯格,庫克耶.大數(shù)據(jù)時代:生活、工作與思維的大變革[M].盛楊燕,周濤,譯.杭州:浙江人民出版社,2013:94-97。。探索人工智能與立法工作的融合,是大數(shù)據(jù)時代立法理論及實踐對這一改變的積極回應。人工智能在立法決策中的應用,將為立法事實的論證及檢驗、社會價值的轉(zhuǎn)化與整合、突破傳統(tǒng)的質(zhì)性經(jīng)驗研究融入量化實證研究提供新的場域,推動以一種客觀性、科學性更強的方式作出立法決策。

    (一)對社會問題發(fā)現(xiàn)、分析、推演的科學性

    引導有效立法決策的關鍵點是基礎信息和實證事實。人工智能輔助立法決策,無論是在理論研究還是在實踐應用中,都要求詳知其潛在的預設、運行、優(yōu)勢和弱點。只有在充分運用人工智能輔助立法決策的過程中,通過獲取、整合數(shù)據(jù)信息,將人工智能輔助立法決策從事實判斷到預測決定的整個流程貫穿起來,才能更全面地展望人工智能應用于立法領域的前景。在經(jīng)由“事實論斷”到“預測決定”的立法決策過程中,通過人工智能展開輔助查明、驗證,有助于客觀認識立法所調(diào)整的社會事實和需要保持融貫的事實,為預測決定提供客觀依據(jù),同時保持法律體系的統(tǒng)一和融貫。人工智能助益立法事實具體化的過程,實際上也是對立法事實進行篩選、判斷和論證的過程。

    具體而言,如果作為調(diào)整對象的事實相對簡單,即在社會事實及其因果關系相對明了的情形下,人工智能可以輔助進行直觀驗證。例如,在城市化進程中,因立體化建造大量住宅產(chǎn)生了業(yè)主間相互影響的事實,使得建筑物區(qū)分方面需要制定專門的法律規(guī)范加以調(diào)整,在傳統(tǒng)定性研究的基礎上,人工智能通過可視化、多維度分析,能夠迅速簡化與提煉復雜的建筑工程數(shù)據(jù)流,有助于更直觀地從復雜的數(shù)據(jù)中篩選具有法律意義的數(shù)據(jù)和信息,驗證“相互影響”這一事實論斷,為做出決策提供較為直觀、科學的判斷標準。如果作為調(diào)整對象的事實較為復雜,建立在人工智能形式邏輯之上的邏輯實證,尤其是建立在統(tǒng)計學基礎上的定量分析,可以綜合運用科技手段和信息工具,對事物進行要素化、量化和比例分析,從而獲得對事實更加精確的認識。例如,貧困既是經(jīng)濟現(xiàn)象和經(jīng)濟狀態(tài),又是社會現(xiàn)象和社會狀態(tài),在扶貧開發(fā)相關的立法決策中,貧困戶的識別和管理涉及的關系比較復雜,需要對關系到法律制定的各種要素進行全面的統(tǒng)計和分析,如性別、年齡、教育程度、家庭收入、社會職業(yè)等,其中有些要素是動態(tài)變化的,人工智能在研究因果關系以及客觀呈現(xiàn)這些因素的內(nèi)在聯(lián)系方面具有獨特的技術優(yōu)勢。通過人工智能驗證呈現(xiàn)這些事實及其相互關系,可以為法律制度設計及作出立法決策提供客觀的參考依據(jù)。

    正如麥考密克所指出,人類世界不完全是物理性事實和真實,還包括制度性事實,制度性事實已經(jīng)強有力地走進了我們的生活[18]參見:MACCORMICK N.Norms,Institutions,and Institutional Facts[J].Law and Philosophy,1998(3):301-346。。在立法決策中不僅需要論證作為調(diào)整對象的事實,還需要關注使法律規(guī)范保持融貫的制度性事實。在凱爾森看來,法律系統(tǒng)由不同層級的規(guī)范組成,人們從基本規(guī)范出發(fā),進行演繹可以得到其他規(guī)范,由此才形成了法律規(guī)范的“統(tǒng)一體”[19]參見:凱爾森.法與國家的一般理論[M].沈宗靈,譯.北京:中國大百科全書出版社,1995:132-133。。法律的本質(zhì),在某種意義上,就在于它是一種內(nèi)蘊統(tǒng)一性特征的強力規(guī)則。法律統(tǒng)一首先著眼的不是法律形式的整齊單一,而是法律內(nèi)質(zhì)的和諧一致[20]參見:汪習根,廖奕.論法治社會的法律統(tǒng)一[J].法制與社會發(fā)展,2004(5):110-119。,也即法律制度之間保持融貫??茖W立法就是將法律體系視為一個邏輯體系,要求法律體系原則上具有一致性、完備性、有效性和可靠性。其中,最為核心的是一致性,因為完備性、可靠性和有效性均可通過法官的自由裁量權彌補,而一致性卻很難[21]參見:熊明輝.法律人工智能的十大前沿問題[N].光明日報,2019-08-06(11)。。人工智能在法律文本分類與總結、法律信息的自動提取等方面具有人類無可比擬的優(yōu)勢,一定程度上可以實現(xiàn)法律規(guī)范一致性的自動檢測。采用傳統(tǒng)的人工挖掘方法,其質(zhì)量和效率往往取決于個人的能力和水平,可能導致挖掘優(yōu)度不穩(wěn)定,人工智能的使用則可以大大提升法律規(guī)范體系事先查明的效率,同時也能更好地保證數(shù)據(jù)、文本挖掘質(zhì)量的穩(wěn)定性和資料收集的全面性。例如,立法中通常使用的布爾檢索法,通過與特定術語進行精確匹配,就能檢索出絕大多數(shù)相關的法律規(guī)范,大大提高了法律規(guī)范體系事先查明的效率。

    立法過程中借助智能輔助有助于避免重復立法,突出地方特色實施精準立法。盡可能全面地事先查明與立法決策相關的上位法、同類性質(zhì)法規(guī)、規(guī)范性文件等,能夠為確定基本立法框架提供參照。使用人工智能對法律草案、立法文件等進行事前的合法性審查,有助于推動將事后審查程序前移,讓立法機關和行政機關“自己給自己看病”,倒逼立法者在立法決策之初就保持依法立法的自覺性,確保法律規(guī)范體系的統(tǒng)一和融貫。除制定法規(guī)范體系之外,也應當把塑造和調(diào)整社會秩序的“軟法”納入制度性事實中,軟硬法協(xié)同共治是現(xiàn)代社會治理的大勢所趨。對于互聯(lián)網(wǎng)時代的軟法,要研究互聯(lián)網(wǎng)的特點,把握其發(fā)展脈絡,遵從其發(fā)展規(guī)律,熟悉其技術平臺,總結出符合我國國情的軟法理論。人工智能在查明發(fā)揮基礎性、框架性調(diào)整功能的制定法規(guī)范的同時,同樣需要關注發(fā)揮延伸性、輔助性作用的軟法,輔之以提煉、整合和改造。一言以蔽之,人工智能助益立法事實具體化的運作流程從事實論斷開始,先對事實進行分類,然后再根據(jù)不同的事實類型,借助智能輔助進行直觀驗證、邏輯驗證、事先查明、輔助驗證等,最終得出預測決定。

    (二)對利益訴求整合、轉(zhuǎn)化、回應的體系性

    在推進社會治理現(xiàn)代化的進程中,始終伴隨著社會價值的轉(zhuǎn)化與整合。隨著智能輔助平臺的建設和發(fā)展,智能輔助在立法決策和多元共治中的應用價值也在逐漸凸顯。人工智能輔助社會價值的轉(zhuǎn)化與整合是指通過人工智能的輔助將不同參與主體分散的意見予以整合,以適當?shù)男问饺谌肓⒎Q策中。2021 年3 月修改后的《中華人民共和國全國人民代表大會組織法》明確提出,“要堅持全過程民主,始終同人民保持密切聯(lián)系,傾聽人民的意見和建議,體現(xiàn)人民意志,保障人民權益?!薄叭^程民主”要求在立法全過程各環(huán)節(jié)廣泛聽取和吸納各方面意見,創(chuàng)新民主方式、改進民主舉措,發(fā)揮民主的優(yōu)勢特點[22]參見:全國人大常委會法制工作委員會.堅持和踐行全過程民主 推進新時代立法工作高質(zhì)量發(fā)展[J].中國人大,2021(14):33-35。。與此同時,實現(xiàn)全過程民主也能有效緩解人工智能技術性與道德性之間的沖突[23]參見:徐玖玖.人工智能的道德性何以實現(xiàn):基于原則導向治理的法治進路[J].現(xiàn)代法學,2021(3):24-40。。人工智能與立法活動的融合,為在立法起草、論證、評估等環(huán)節(jié)中不同主體意見的表達提供更寬廣的渠道,在增強立法者立法意見說理性、法學專家論證意見的客觀性、過濾社會輿論中的激情和非理性因素、實現(xiàn)“碎片化的民聲”到“聚合民意”的轉(zhuǎn)化等方面均能產(chǎn)生不同程度的促進作用。

    立法者是作出立法決策的主要推動者和踐行者。立法者通過表達對某種現(xiàn)象的看法形成立法意見,這種意見既可能以客觀的立法事實為基礎,也可能只是立法者的自我經(jīng)驗。政策理念和事實共同構成了行政立法過程中的兩個不可分割的要素[24]參見:WOOLHANDLER A.Rethinking the Judicial Reception of Legislative Facts [J].Vanderbilt Law Review,1988(1):111-126。,立法意見中一定包含著立法者的意志因素即政策理念,但為了做出一個能夠使其他參與者亦認可的恰當判斷,立法意見不應該是被無限放大的立法者的自由意志,而應該是具有說理性質(zhì)的意見。一份科學、客觀的立法意見必須建立在扎實的論證基礎上,以翔實的依據(jù)增強立法意見的科學性和專業(yè)性。立法意見論證過程中,立法者不僅要準備好去表達自己的看法和聲音,還要準備好在意見爭論中面對可能的相反聲音去調(diào)整自己的聲音。在此意義上,立法意見需要在一個“公共性”和“開放性”維度中形成。隨著大數(shù)據(jù)和人工智能技術的發(fā)展,信息交換更加便捷,立法意見的征集得以在更廣闊的場景中展開。大數(shù)據(jù)技術使得研究者得以處理同某個現(xiàn)象相關的幾乎全部的數(shù)據(jù),大數(shù)據(jù)之“大”,就在于“樣本等于總體”,在此基礎之上,公共產(chǎn)品得以被精準生產(chǎn)[25]參見:王怡.智能互聯(lián)網(wǎng)能為民主立法貢獻什么[J].北方法學,2019(6):116-122。。在數(shù)據(jù)驅(qū)動決策的理念下,立法意見論證中大數(shù)據(jù)、人工智能的運用,有助于充分了解實際情況,進行定量分析和定性判斷。建立在定量基礎上的定性,在說理論證方面將會更為科學、客觀。

    專家學者是立法決策中的智囊團。全國人民代表大會常務委員會辦公廳制定的《關于立法中涉及的重大利益調(diào)整論證咨詢的工作規(guī)范》(以下簡稱《規(guī)范》),指出“法律草案涉及重大利益調(diào)整,且有關問題專業(yè)性、技術性較強,需要進行可行性評價、風險評估的,應當召開論證會,聽取相關專業(yè)機構、專業(yè)人員的意見和建議”。[26]參見:全國人大常委會辦公廳.關于立法中涉及的重大利益調(diào)整論證咨詢的工作規(guī)范[EB/OL].[2018-01-05].http://www.npc.gov.cn/zgrdw/npc/xinwen/2018-01/05/content_2036429.htm。加強地方人大智庫建設,注重吸收法律專家參與立法決策,咨詢、征求專家意見是科學立法的關鍵舉措。《規(guī)范》中規(guī)定,對于立法中遇到的重大疑難問題,專業(yè)性、技術性較強的問題和社會生活中新出現(xiàn)的問題,可以委托高等院校、科研機構、專業(yè)智庫等開展專項研究。其中特別指出,受委托單位應具備的一個基本條件是“有較強的數(shù)據(jù)采集分析、決策咨詢和政策評估的經(jīng)驗和能力”。人工智能可以在專家?guī)旖ㄔO及專家出具論證報告兩個方面提供輔助。作為自然人的論證者或多或少存在知識構成、價值傾向等局限,出具的論證意見難以避免主觀偏差,借助大數(shù)據(jù)、人工智能技術,通過量化分析保障法律問題的部分可計算,可以有效地彌補這一不足。

    大眾傳媒是提供決策信息的重要主體。作為集中整合眾意形成制度安排的決策活動,立法自然無法繞開媒體的影響。媒體基于其強大的信息整合能力和傳播能力,使“成束的”社會意見匯集成公眾輿論,并通過信息篩選、加工不斷塑造著信息接收者的認知。隨著信息技術的發(fā)展,一方面,智能輔助使媒體的信息整合及傳播能力大幅度增強,對立法決策產(chǎn)生更為顯著的影響;另一方面,因媒體追求傳播速度和時效性,在選擇素材方面可能傾向于新鮮、刺激、引人注目的話題,存在選擇性、誘導性傳播傾向,亦可能誤導立法決策。當媒體話語過度滲透,且立法者的認知框架無法有效應對現(xiàn)代法律規(guī)制活動的知識挑戰(zhàn)時,其不完備的信息能力將導致基于媒體話語的壓力型立法[27]參見:吳元元.信息能力與壓力型立法[J].中國社會科學,2010(1):147-159。。由媒體報道引發(fā)的輿論壓力,可能使公共領域中合意支配下的立法因出臺較為迅速產(chǎn)生不理性、不審慎的決策,造成法律資源的不合理配置[28]需要指出的是,“壓力型立法”并不預設其產(chǎn)生的效果都是負面的,壓力型立法的啟示并不在于杜絕此類現(xiàn)象,而是重在考慮如何將媒體信息理性、有效地整合到立法決策中。。因此,如何將媒體信息理性、有效地整合到立法決策中成為需要重點關注的問題。立法機關在依靠人工智能系統(tǒng)收集、整合信息,增強信息處理能力的同時,亦需要加強對以媒體話語為代表的社會輿論的甄別。適度引進定量分析有助于澄清定性爭論的癥結,也有助于直觀展示定性分析的盲點。借助智能輔助系統(tǒng),可以通過立法績效評估、立法大數(shù)據(jù)分析等,以指標體系、量化模型等方式在定量層面把握立法的成本和效益,一定程度上有助于過濾社會輿論中的激情和非理性因素,助益立法者作出理性、審慎的決策。

    普通民眾是作出立法決策過程中最廣泛的參與者。在立法主體擴容、立法數(shù)量快速增加的今天,單靠傳統(tǒng)的以問卷調(diào)查、實地考察、訪談等為代表的社會實證調(diào)查方法去采集信息、征求意見已經(jīng)顯得力不從心。實現(xiàn)科學立法、民主立法,必須廣泛聽取社會各方面的意見,借助互聯(lián)網(wǎng)、人工智能輔助收集、處理信息,在推動立法工作方式創(chuàng)新的同時,也極大地方便數(shù)據(jù)的統(tǒng)計分析,實現(xiàn)從傳統(tǒng)的重定性分析到定性分析和定量分析的結合,提高立法工作的科學性。對于法律制度這種公共產(chǎn)品而言,普通民眾個人主觀意見可能與立法事實之間存在差距,分散的意見也難以直接影響到立法決策,只有實現(xiàn)從“碎片化的民聲”到“有效民意”的聚合,才能更好地呈現(xiàn)出利益相關者的訴求。大數(shù)據(jù)時代的民意不再是空洞的哲學概念,而是通過一系列測量技術來獲取民意大數(shù)據(jù),并通過云計算,使民意大數(shù)據(jù)趨于指數(shù)化與可視化[29]參見:汪波.大數(shù)據(jù)、民意形態(tài)變遷與數(shù)字協(xié)商民主[J].浙江社會科學,2015(11):41-47。。依托人工智能系統(tǒng)的輔助,建立數(shù)據(jù)庫、整合數(shù)據(jù)資源、通過多種形式呈現(xiàn)數(shù)據(jù)分析結果,為從小數(shù)據(jù)分析到大數(shù)據(jù)動態(tài)呈現(xiàn)、從碎片化發(fā)表個人意見到集中表達利益訴求提供了可行路徑。其更深層次的貢獻在于人工智能輔助立法決策促進了線上和線下治理主體的規(guī)??臻g進一步擴大,通過規(guī)范和引導多元主體參與立法活動,保障利益相關主體真正成為社會治理的合作者和分擔者。

    三、人工智能輔助立法決策實踐瓶頸的破解路徑

    人工智能技術的重要性取決于其目標實現(xiàn)能力的大小,即讓立法決策更具針對性,讓社會治理更具精準性。在“工具—目的”的分析框架下,人工智能輔助立法決策的推進路徑也應當圍繞“如何更好地服務于基本目標”來開展。就當下而言,這一基本目標的實現(xiàn)仍存在技術性、規(guī)范性、倫理性三個方面的瓶頸,限制了人工智能輔助立法決策在社會治理中的功能,亦導致其技術優(yōu)勢無法在實踐中得到充分的體現(xiàn)。

    (一)技術性難題及其破解

    人工智能輔助立法決策的技術性難題主要有二:一是技術瓶頸,二是“GIGO 困境”[30]“Garbage in,garbage out(GIGO)”在計算機界通常被翻譯為“垃圾數(shù)據(jù)進,垃圾數(shù)據(jù)出”,意味著如果輸入的數(shù)據(jù)是錯的,即使計算機的處理能力再強大,輸出的結果也像垃圾一樣是沒有價值的。參見:朱體正.人工智能輔助刑事裁判的不確定性風險及其防范:美國威斯康星州訴盧米斯案的啟示[J].浙江社會科學,2018(6):76-85。。首先,受制于技術開發(fā)程度,立法輔助系統(tǒng)的智能化程度比較受限。智能系統(tǒng)的開發(fā)一般要經(jīng)歷“圖譜構建—情節(jié)提取—模型訓練”等步驟,一方面,由于人工智能通常無法自主、準確、高效地完成法律知識圖譜中實體抽取、關系抽取與屬性抽取等工作,因此,各項功能開發(fā)不得不通過人工構造語法與語義規(guī)則推進知識圖譜的構建。由于人力的局限性,現(xiàn)有的智能系統(tǒng)往往存在覆蓋面有限且精度不足等缺陷[31]參見:王祿生.司法大數(shù)據(jù)與人工智能開發(fā)的技術障礙[J].中國法律評論,2018(2):46-53。。盡管當前智能系統(tǒng)在立法領域中的應用獲得了較大發(fā)展,但人工智能的學習能力還不夠強,尚需進一步開發(fā)[32]例如,備案審查中要查找“行政處罰”的內(nèi)容,系統(tǒng)只會關注“行政處罰”這幾個字,并不知道罰款、吊銷企業(yè)營業(yè)執(zhí)照等也屬于行政處罰,也不明白行政處罰與罰款、吊銷企業(yè)營業(yè)執(zhí)照之間的邏輯關系,呈現(xiàn)出比較機械的信息篩選狀態(tài)。。另一方面,情節(jié)提取需要運用自然語言處理技術,然而,當前的自然語言識別、轉(zhuǎn)化等技術尚處于探索階段,加之智能系統(tǒng)的開發(fā)者并未專門針對立法場景進行迭代開發(fā),導致情節(jié)提取不全面、不準確。模型訓練建立在情節(jié)提取的基礎上,情節(jié)提取不完備,自然會影響建模的精度和廣度。其次,智能系統(tǒng)的運行受制于數(shù)據(jù)的質(zhì)量和數(shù)量。無論是立法事實的具體化還是社會價值的轉(zhuǎn)化與整合,無不依賴于對數(shù)據(jù)信息的分析與利用,而在人工智能的模型訓練中,面臨著著名的“GIGO 困境”,如果“投喂”機器的原始數(shù)據(jù)存在錯誤或瑕疵,那么基于這些數(shù)據(jù)訓練產(chǎn)生的模型與算法就可能遭遇精確性難題。此外,數(shù)據(jù)樣本的數(shù)量也會影響到結果的準確性。

    上述技術性難題的解決仍然需要從技術和數(shù)據(jù)兩個方面予以突破??傮w而言,鼓勵技術創(chuàng)新仍是基本立場,但人工智能輔助立法決策需要秉持技術審慎主義的創(chuàng)新理念。針對智能輔助系統(tǒng)精度不足、覆蓋面有限等技術性問題,應當以提升人工智能的智能化程度與深度學習能力作為主要發(fā)展方向,注重針對立法場景進行迭代開發(fā)。鑒于立法工作的重要性與嚴肅性,技術創(chuàng)新應當遵循審慎原則,大體而言,智能系統(tǒng)在應用于立法領域時,應當經(jīng)過三項標準的檢驗:一是合目的性,即技術創(chuàng)新合乎保障立法權力規(guī)范運行這一基本目的;二是效益性,技術創(chuàng)新的正面效應必須大于負面影響;三是風險可控性,技術創(chuàng)新應將技術應用引發(fā)的風險限制在可控范圍之內(nèi)。針對因數(shù)據(jù)缺陷或瑕疵導致的“GIGO 困境”,應當建立專門針對立法數(shù)據(jù)信息的檢驗機制。智能立法系統(tǒng)不是“自動售賣機”,但凡將數(shù)據(jù)信息投入系統(tǒng)就會自動生成法律規(guī)范,扎實的立法調(diào)研在任何時候都是科學立法的前提條件,即便有智能系統(tǒng)的輔助,也需要全面系統(tǒng)地掌握第一手立法資料。立法者需要將大量的第一手資料進行認真梳理,去偽存真,去粗取精,歸納整理出認識比較一致的意見建議和存在較大分歧的意見建議。在此過程中,可以利用智能系統(tǒng)進行數(shù)據(jù)檢驗,對數(shù)據(jù)進行重新審查和校驗,刪除重復信息,糾正錯誤和相互沖突的數(shù)據(jù)信息,從而保障數(shù)據(jù)庫中數(shù)據(jù)的準確性與有效性,為立法決策提供客觀、科學的參考依據(jù)。

    (二)規(guī)范性難題及其破解

    人工智能輔助立法決策的規(guī)范性難題主要體現(xiàn)在兩個方面:一是技術“黑箱”與立法公開之間的矛盾,二是算法本身是否會影響到立法中立性的問題。首先,立法公開是立法的基本原則,這一原則應在立法的起草、審議、通過和法律公布的全過程得到體現(xiàn)[33]參見:朱景文.把公開原則貫穿于立法過程[N].人民日報,2016-03-09(7)。。但由于算法代碼不公開,數(shù)據(jù)處理不透明以及算法過程具有高度復雜性等原因,智能系統(tǒng)某種程度上也是一個“黑箱”,人們只能觀測到它的輸入與輸出,卻無法觀察和理解它如何將輸入的內(nèi)容變成輸出的結果。人工智能的“黑箱”效應與立法公開原則所要求的公開透明性相背離,這將導致立法監(jiān)督過程的不透明,進而帶來對立法程序是否公正的質(zhì)疑,不透明性使得監(jiān)督者可能無法知曉監(jiān)督的范圍和標準,也就無從判斷立法的合理性。非但立法者和監(jiān)督者難以知曉智能系統(tǒng)的確切決策過程,即便是技術開發(fā)者也未必能夠確切描述其分析和決策過程。其次,立法乃分配正義的藝術,是社會公正的源頭。不偏不倚、公正客觀是立法者必須具備的基本品質(zhì),立法決策過程中保持中立既能有效防止部門利益一開始就侵入立法過程,又能達致科學立法的嚴謹精細??陀^性通常也被認為是智能系統(tǒng)的技術優(yōu)勢之一,但算法本身可能會受到設計者、運行者和審查方的價值偏好影響,使得其在決策判斷上同樣無法免除偏見[34]參見:馬長山.司法人工智能的重塑效應及其限度[J].法學研究,2020(4):23-40。。由此引發(fā)的更深層次的擔憂在于:智能系統(tǒng)掌握者可能干預立法者行使立法權,一旦將立法的全流程都納入技術、算法、模型的控制中,立法應有的中立性可能因此而消解。

    解決人工智能輔助立法決策中因算法“黑箱”、算法偏好等導致的治理難題,應當將提高算法透明性和可解釋性作為突破的重點。首先,解決智能系統(tǒng)“黑箱”問題,需要通過信息公開和保證算法的可解釋性來實現(xiàn)。智能系統(tǒng)所使用的數(shù)據(jù)來源、基本的算法原理、人工智能輔助立法決策的運行機理等都應當以可視化方式向社會公眾進行公開,從而保障立法程序的正當性。實際上,算法可解釋性乃至可視化是可以用技術解決的問題,一旦法律提出了相關要求,技術界便會想方設法使算法邁向可解釋。[35]參見:鄭戈.算法的法律與法律的算法[J].中國法律評論,2018(2):66-85。由此可見,要解決技術“黑箱”與立法公開之間的矛盾,需要“技術”和“規(guī)則”的雙重保障,既需要人工智能技術本身的發(fā)展和改進,也仰賴于信息公開及對技術進行規(guī)制的相關規(guī)則的完善,在二者共同作用下把公開原則貫穿于立法的全過程。其次,盡管由人設計的算法確實可能存在偏見問題,但可以通過由中立的第三方查看程序的內(nèi)容來判斷其是否存在偏見因素。為方便監(jiān)督與溯源,人工智能的具體運作應當在系統(tǒng)內(nèi)全程留痕。此外,人工智能輔助立法決策的過程中,要將立法者對人工智能的依賴保持在合理限度內(nèi),防止人工智能“輔助”演化成人工智能“主導”。若將立法全流程納入技術和算法的泛在控制中,長此以往,立法權運行過程應當具有的中立特性可能在技術權力的肢解中被不斷消解。因此,保持立法的中立性還需要從根本上厘清立法者與人工智能的關系。

    (三)倫理性難題及其破解

    作出立法決策涉及事實與價值兩個基本范疇,融入智能輔助,一個繞不開的難題是如何厘定立法者與人工智能的關系。相較于爭論人工智能是否具有自我意識進而侵犯人的自主決定權這類問題,短期來看,更為重要的問題是思考我們應該如何對待這些系統(tǒng)[36]參見:馬爾科夫.人工智能簡史[M].郭雪,譯.杭州:浙江人民出版社,2017:15-16。。針對人工智能在立法領域所發(fā)揮的作用,理論界和實務界一開始就將其定位為輔助,這一基調(diào)是恰當?shù)摹5珜τ诹⒎ㄕ吲c人工智能關系的厘定,不能僅局限于單向度強調(diào)人作為立法主體的不可替代性和人工智能作為輔助設備的工具性,更重要的是思考如何促進二者在立法活動中的協(xié)同增效。也即,不能簡單地根據(jù)人的智力優(yōu)越性證成人工智能的工具性,或者以人工智能的技術優(yōu)勢削弱立法者作出立法決策的主導性,仍然需要結合立法權的運行規(guī)律對二者的分工做出合理安排。既然立法不可避免地只是一種預測,而進行預測又需要作出判斷,那么在這個過程中必不可少地需要借助邏輯這種判斷工具,它的作用就在于幫助我們進行有效的判斷。要對立法者與人工智能的關系進行厘定,除了從直覺、印象、情感、本能或倫理等層面得出常識性結論外,亦有必要從知識判斷的展開層面進行綜合考量,在經(jīng)由“特征描述”到“關系判斷”再到“透視本質(zhì)”的漸進過程中,借助邏輯判斷對二者的關系進行理性分析。

    邏輯問題貫穿于法律運行的各個環(huán)節(jié),邏輯學與法學有著密切聯(lián)系[37]參見:張文顯.二十世紀西方法哲學思潮研究[M].北京:法律出版社,1996:16-17。。借助形式邏輯與辯證邏輯的分類,能夠為厘定立法者與人工智能的關系提供一個大致的參照。人工智能只具備形式邏輯思維能力,尚不具備辯證邏輯,因而無法解決法律立、改、廢的形勢判斷問題,也無法解決社會變革時期良性違法、合理越軌、寬容改革失誤等問題[38]參見:郝鐵川.為什么堅信人工智能不可能取代人[N].解放日報,2018-01-23(13)。。為保持法律的穩(wěn)定性和適應性,立法中可能涉及一些模糊性條款和法律原則的設置,涉及對各種價值、利益、政策的綜合評估和選擇,人工智能的思維是程式性、精確性的,似乎很難完成這些任務,而需要有一定生活經(jīng)驗、立法智慧的立法者才能做到。以立法事實的論證為例,立法事實是否存在,其真實性和準確度如何,通過人工智能的輔助驗證可能就會得到檢驗,但就該立法事實的性質(zhì)而言是否適宜進入立法議程、當前社會經(jīng)濟條件下這一立法事實是否適合法律調(diào)整,諸如此類的復雜問題都無法通過直接觀察和人工智能的判斷得出簡單結論,而必須通過立法者全面而充分的辯證邏輯加以判斷。社會價值的整合更是如此,面對多元的價值沖突,盡管人工智能在價值表達方式及呈現(xiàn)形式上可以進行一定程度的輔助,但最終仍需要由立法者在多元價值中進行權衡和綜合考量,藉由一種包容性的價值盡可能兼顧利益相關主體的訴求,平衡利益沖突。因此,無論是基于事實論斷的預測決定,還是不同參與主體的價值整合,都需要由立法者在人工智能的輔助下運用辯證邏輯予以全程把控。

    無論是信息化還是智能化社會,社會治理的目標始終都是在人文與科技的有機融合中更加突出并最終實現(xiàn)人的全面發(fā)展。弱人工智能時代的立法決策不能對人工智能抱以過高期望,尤其是對于一個正處于社會轉(zhuǎn)型與制度改革時期的國家來說,面對改革與法治的復雜關系,我們需要的是一批更懂社會的立法者,而不是一臺更懂法律的機器。法治現(xiàn)代化不僅僅在于法治技術的現(xiàn)代化,而是最終歸結于人的現(xiàn)代化和人的理性發(fā)展。人工智能作為一種輔助性的科技手段,并不能替代立法者自身的理性培育[39]參見:陳鵬.國家治理的智能化轉(zhuǎn)向及其實施進路[J].探索,2021(3):152-165。。盡管數(shù)據(jù)和算法會給人類以更多的啟示,但人類的行為最終由人類自己決定[40]參見:高奇琦.人工智能:馴服塞維坦[M].上海:上海交通大學出版社,2018:244-246。。不僅是人工智能,其他新技術也在不斷被推出,但能否以有意義的形式,以健康的目的來使用這些新技術,歸根結底,還是在于人類[41]參見:羽生善治.人工智能不會做什么[M].王鶴,譯.成都:四川人民出版社,2019:163-164。。但是,這也并不意味著人工智能只能具有單純的工具意義,在正視人工智能發(fā)揮輔助作用的同時,也要認識到立法者和人工智能相互增強的作用,在尋求理解立法工作并為之建模的過程中[42]在人工智能與法律這一跨學科領域的相關研究中,十大主要議題其中之一就是可執(zhí)行立法檢驗建模。參見:曹建峰.“人工智能+法律”十大趨勢[J].機器人產(chǎn)業(yè),2017(5):87-94。,人工智能的應用領域不斷拓展,內(nèi)涵也將得以豐富;介入人工智能的輔助,立法理論和實踐也同樣得以豐富,立法者對于立法工作的認識也在不斷深入。

    四、結語

    大數(shù)據(jù)時代中,社會治理涉及線上線下兩個場域,在二者交織的雙向互動及開放共治圖景中,時刻孕育著合作創(chuàng)新。人工智能輔助立法決策,是立法工作步入大數(shù)據(jù)時代無可回避的發(fā)展趨勢。弱人工智能時期,對于人工智能輔助立法決策的探討應當以當下的現(xiàn)實生活及可能達成的共識為前提,在推進技術應用的同時,結合立法基礎理論探討其內(nèi)在運行機理。伴隨著科學技術的發(fā)展,新技術會不斷涌現(xiàn),為立法工作帶來新的機遇和挑戰(zhàn),如何將傳統(tǒng)知識適用于新的場景是每一次技術變革都需要解決的時代命題。立足當下,在推動人工智能與立法工作相融合的過程中,更為要緊的任務可能是結合立法工作的內(nèi)在規(guī)律闡釋人工智能應用于立法領域的運行機理及運作模式,及時檢視其在社會治理中取得的成效與存在的不足,注重人工智能與立法活動的深度融合,努力推動信息化時代立法工作的變革。唯有如此,技術的發(fā)展才可能擺脫工具性而實現(xiàn)與立法工作的有效結合,真正發(fā)揮成果豐碩的協(xié)同增效作用。

    猜你喜歡
    立法者輔助決策
    小議靈活構造輔助函數(shù)
    倒開水輔助裝置
    為可持續(xù)決策提供依據(jù)
    從德性內(nèi)在到審慎行動:一種立法者的方法論
    法律方法(2021年3期)2021-03-16 05:57:34
    決策為什么失誤了
    減壓輔助法制備PPDO
    論基本權利對立法者的控制
    提高車輛響應的轉(zhuǎn)向輔助控制系統(tǒng)
    汽車文摘(2015年11期)2015-12-02 03:02:53
    立法者的局限——柏克與英帝國的憲政危機
    立法者:靈魂與城邦——對柏拉圖《理想國》的法律哲學闡釋
    久久久国产成人精品二区| 成人永久免费在线观看视频| 久久久久久久久久成人| 久久精品国产清高在天天线| 国产精品不卡视频一区二区| 国内精品久久久久久久电影| 精品久久久久久久末码| 色哟哟·www| 夜夜看夜夜爽夜夜摸| 精品一区二区三区av网在线观看| 午夜激情欧美在线| 久久久久久久精品吃奶| 露出奶头的视频| 少妇的逼好多水| 18禁黄网站禁片免费观看直播| 久久久午夜欧美精品| 午夜精品一区二区三区免费看| 变态另类丝袜制服| 国产精品久久久久久精品电影| 97人妻精品一区二区三区麻豆| 欧美又色又爽又黄视频| 午夜免费男女啪啪视频观看 | 中文在线观看免费www的网站| 丰满的人妻完整版| 成人国产一区最新在线观看| 99久久九九国产精品国产免费| 成人国产综合亚洲| 免费看光身美女| 国产精品电影一区二区三区| 很黄的视频免费| 色播亚洲综合网| 丰满人妻一区二区三区视频av| 国产男靠女视频免费网站| 女同久久另类99精品国产91| 精品一区二区三区av网在线观看| 99riav亚洲国产免费| 88av欧美| 成人国产一区最新在线观看| 悠悠久久av| 精品一区二区三区人妻视频| 国产免费一级a男人的天堂| 三级男女做爰猛烈吃奶摸视频| 变态另类成人亚洲欧美熟女| 日本黄色视频三级网站网址| 成人毛片a级毛片在线播放| 男女做爰动态图高潮gif福利片| 日韩强制内射视频| 一本一本综合久久| 亚洲在线自拍视频| 国内精品美女久久久久久| 国产不卡一卡二| 欧美性猛交╳xxx乱大交人| 欧美色视频一区免费| 在线播放国产精品三级| 亚洲av五月六月丁香网| avwww免费| 免费大片18禁| 久久草成人影院| 在线观看舔阴道视频| 成人av一区二区三区在线看| 欧美黑人欧美精品刺激| 午夜老司机福利剧场| 99久国产av精品| 亚洲午夜理论影院| 自拍偷自拍亚洲精品老妇| 欧美一区二区国产精品久久精品| 成人性生交大片免费视频hd| 美女被艹到高潮喷水动态| 全区人妻精品视频| 99久久中文字幕三级久久日本| 久久久久久久精品吃奶| 久久久国产成人精品二区| 午夜日韩欧美国产| 免费看a级黄色片| 欧美一区二区国产精品久久精品| 51国产日韩欧美| 日韩大尺度精品在线看网址| 三级国产精品欧美在线观看| 国产一区二区激情短视频| 亚洲最大成人手机在线| 日日夜夜操网爽| 国产极品精品免费视频能看的| 九九久久精品国产亚洲av麻豆| 亚洲七黄色美女视频| 成人鲁丝片一二三区免费| 国产精品不卡视频一区二区| 男人舔奶头视频| 哪里可以看免费的av片| 可以在线观看的亚洲视频| 黄色欧美视频在线观看| 午夜福利高清视频| 综合色av麻豆| 日韩 亚洲 欧美在线| 国产色婷婷99| 成人国产一区最新在线观看| 俄罗斯特黄特色一大片| 美女 人体艺术 gogo| 精品国内亚洲2022精品成人| 国产三级中文精品| 中文字幕熟女人妻在线| 久久久国产成人精品二区| av在线亚洲专区| 国产av在哪里看| 欧美性猛交黑人性爽| 国产精品一区www在线观看 | 欧美性猛交黑人性爽| 久99久视频精品免费| 成人美女网站在线观看视频| 人妻夜夜爽99麻豆av| 亚洲精品色激情综合| 桃红色精品国产亚洲av| av专区在线播放| 在线观看66精品国产| 两个人的视频大全免费| ponron亚洲| 国产乱人视频| 午夜a级毛片| 琪琪午夜伦伦电影理论片6080| av视频在线观看入口| 丝袜美腿在线中文| 国产成人影院久久av| 国产精品一区www在线观看 | 日韩精品青青久久久久久| eeuss影院久久| 听说在线观看完整版免费高清| 能在线免费观看的黄片| 美女被艹到高潮喷水动态| 国产爱豆传媒在线观看| 免费看美女性在线毛片视频| 99热这里只有精品一区| 国产视频一区二区在线看| 91麻豆精品激情在线观看国产| 99riav亚洲国产免费| 观看免费一级毛片| 国产高清视频在线播放一区| 亚洲最大成人av| aaaaa片日本免费| 中文资源天堂在线| 亚洲美女黄片视频| 又爽又黄无遮挡网站| 老司机深夜福利视频在线观看| 欧美日本亚洲视频在线播放| 亚洲精华国产精华精| 国内久久婷婷六月综合欲色啪| 变态另类成人亚洲欧美熟女| 色哟哟·www| 亚洲欧美日韩高清专用| 中文字幕av在线有码专区| 久久久午夜欧美精品| 深爱激情五月婷婷| 亚洲男人的天堂狠狠| 国产乱人伦免费视频| 精品一区二区免费观看| 久久久久国内视频| 赤兔流量卡办理| 亚洲真实伦在线观看| 免费看美女性在线毛片视频| 精品人妻一区二区三区麻豆 | 国产免费一级a男人的天堂| 麻豆国产97在线/欧美| 18禁黄网站禁片午夜丰满| 在线国产一区二区在线| 国产主播在线观看一区二区| 好男人在线观看高清免费视频| 欧美最黄视频在线播放免费| 成人国产一区最新在线观看| 色播亚洲综合网| 国产在视频线在精品| 久久精品91蜜桃| 久久精品影院6| 非洲黑人性xxxx精品又粗又长| 国产成人一区二区在线| 久久精品国产清高在天天线| aaaaa片日本免费| 亚洲最大成人中文| 国产精品人妻久久久影院| 99精品久久久久人妻精品| 麻豆一二三区av精品| 亚洲精品一区av在线观看| 一夜夜www| 精品久久久久久成人av| 一进一出抽搐gif免费好疼| 丰满乱子伦码专区| 蜜桃久久精品国产亚洲av| 亚洲国产高清在线一区二区三| 久久精品影院6| 在线看三级毛片| 看免费成人av毛片| 国产精品一区二区三区四区久久| 国产成人av教育| 国产精品亚洲美女久久久| 少妇被粗大猛烈的视频| 欧美色视频一区免费| 日韩欧美在线乱码| 色综合亚洲欧美另类图片| 最近在线观看免费完整版| 午夜免费男女啪啪视频观看 | 免费大片18禁| 99热这里只有是精品50| 亚洲自拍偷在线| 亚洲精华国产精华精| 亚洲欧美日韩高清在线视频| 国产 一区精品| 欧美成人一区二区免费高清观看| 日韩欧美在线乱码| 日日撸夜夜添| 欧美丝袜亚洲另类 | 午夜老司机福利剧场| 免费观看精品视频网站| 国产不卡一卡二| 99久久精品国产国产毛片| 国产伦精品一区二区三区四那| 自拍偷自拍亚洲精品老妇| 毛片一级片免费看久久久久 | 婷婷色综合大香蕉| 简卡轻食公司| 国产精品1区2区在线观看.| 长腿黑丝高跟| 成年免费大片在线观看| 亚洲av二区三区四区| 国产精品人妻久久久影院| 在线看三级毛片| 亚洲经典国产精华液单| 久久人人爽人人爽人人片va| 欧美日韩亚洲国产一区二区在线观看| 成人av一区二区三区在线看| 欧美成人a在线观看| 99精品在免费线老司机午夜| 日本色播在线视频| 在线免费十八禁| 一个人看视频在线观看www免费| 精品国产三级普通话版| 国产人妻一区二区三区在| 91狼人影院| 国产免费av片在线观看野外av| 国产真实乱freesex| 国产亚洲精品av在线| 搡女人真爽免费视频火全软件 | 无人区码免费观看不卡| 在线天堂最新版资源| or卡值多少钱| 男女那种视频在线观看| 91av网一区二区| 久久九九热精品免费| 人人妻人人看人人澡| 男女下面进入的视频免费午夜| 欧美色视频一区免费| 欧美人与善性xxx| 91麻豆精品激情在线观看国产| 国产中年淑女户外野战色| 亚洲午夜理论影院| 波多野结衣高清无吗| 丰满人妻一区二区三区视频av| 亚洲aⅴ乱码一区二区在线播放| 在线观看午夜福利视频| 亚洲久久久久久中文字幕| 日韩大尺度精品在线看网址| 日韩av在线大香蕉| 国产精品一区www在线观看 | 波野结衣二区三区在线| 日本 av在线| 欧美黑人巨大hd| 老司机福利观看| 国产免费男女视频| 亚洲精品成人久久久久久| 一夜夜www| 老司机福利观看| 欧美激情久久久久久爽电影| 3wmmmm亚洲av在线观看| 国产高清有码在线观看视频| 91麻豆av在线| 亚洲欧美日韩东京热| 91av网一区二区| 69人妻影院| 国产精品永久免费网站| 深夜a级毛片| 最近在线观看免费完整版| 91av网一区二区| videossex国产| 在线国产一区二区在线| 久久精品影院6| 亚洲avbb在线观看| 国产一区二区三区av在线 | 极品教师在线免费播放| 欧美最黄视频在线播放免费| 高清日韩中文字幕在线| 精品99又大又爽又粗少妇毛片 | 亚洲av不卡在线观看| 午夜福利高清视频| 亚洲av免费高清在线观看| 亚洲欧美日韩东京热| 国产一区二区在线av高清观看| 亚洲人成网站在线播| 91午夜精品亚洲一区二区三区 | 大型黄色视频在线免费观看| 男人的好看免费观看在线视频| 国产伦一二天堂av在线观看| 久久久久久国产a免费观看| 欧美另类亚洲清纯唯美| 亚洲乱码一区二区免费版| 我要搜黄色片| 国产又黄又爽又无遮挡在线| 少妇丰满av| 热99re8久久精品国产| 在线观看免费视频日本深夜| 久久久久久久精品吃奶| 免费看光身美女| 亚洲无线在线观看| 久久久久久久亚洲中文字幕| 最新中文字幕久久久久| 一级av片app| 日韩一本色道免费dvd| 亚洲欧美清纯卡通| av福利片在线观看| 99久久无色码亚洲精品果冻| av在线亚洲专区| 久久人人爽人人爽人人片va| 国产在线精品亚洲第一网站| 丰满的人妻完整版| 日本三级黄在线观看| 亚洲美女黄片视频| 欧美色欧美亚洲另类二区| av在线蜜桃| 国模一区二区三区四区视频| 国产黄片美女视频| 欧美激情在线99| 尾随美女入室| or卡值多少钱| 中文字幕av在线有码专区| 深夜精品福利| 高清在线国产一区| 搡女人真爽免费视频火全软件 | 亚洲久久久久久中文字幕| 亚洲精品一区av在线观看| 成人av在线播放网站| 国产熟女欧美一区二区| www.www免费av| 国产毛片a区久久久久| 黄色视频,在线免费观看| 可以在线观看毛片的网站| 国产91精品成人一区二区三区| 成人亚洲精品av一区二区| 日本五十路高清| 欧美色视频一区免费| 国产亚洲精品久久久久久毛片| 免费人成视频x8x8入口观看| 内射极品少妇av片p| 国产精品爽爽va在线观看网站| 免费在线观看日本一区| 国产精品一区二区三区四区久久| 亚洲人成网站高清观看| 亚洲精品色激情综合| 级片在线观看| 国产91精品成人一区二区三区| 九九爱精品视频在线观看| 18禁黄网站禁片免费观看直播| 欧美色欧美亚洲另类二区| 大型黄色视频在线免费观看| 国产麻豆成人av免费视频| 国产一区二区三区视频了| 日韩高清综合在线| 精品不卡国产一区二区三区| www.www免费av| 亚洲av二区三区四区| 亚洲欧美日韩卡通动漫| 亚洲国产精品合色在线| 天美传媒精品一区二区| 国产免费男女视频| 日日干狠狠操夜夜爽| 熟妇人妻久久中文字幕3abv| 观看美女的网站| 国产亚洲精品综合一区在线观看| 琪琪午夜伦伦电影理论片6080| 成人综合一区亚洲| 日韩欧美三级三区| 午夜精品一区二区三区免费看| 美女黄网站色视频| 久久人妻av系列| 久久久成人免费电影| 一卡2卡三卡四卡精品乱码亚洲| 人人妻人人澡欧美一区二区| 最新在线观看一区二区三区| 亚洲真实伦在线观看| 亚洲人成伊人成综合网2020| 国产三级在线视频| 一级av片app| 色在线成人网| 亚洲一区高清亚洲精品| 日本与韩国留学比较| 欧美色欧美亚洲另类二区| 日日啪夜夜撸| 女人被狂操c到高潮| 国产男靠女视频免费网站| 久久精品国产亚洲网站| 日本五十路高清| 亚洲欧美激情综合另类| av中文乱码字幕在线| 麻豆精品久久久久久蜜桃| 91午夜精品亚洲一区二区三区 | 97人妻精品一区二区三区麻豆| 啦啦啦啦在线视频资源| 少妇人妻一区二区三区视频| 校园春色视频在线观看| 久久亚洲精品不卡| av黄色大香蕉| 99热只有精品国产| 免费人成在线观看视频色| 国产成人福利小说| 在线国产一区二区在线| 我要搜黄色片| 色综合色国产| 成人无遮挡网站| 欧美日韩综合久久久久久 | 十八禁国产超污无遮挡网站| 无遮挡黄片免费观看| 成年人黄色毛片网站| 日本熟妇午夜| 床上黄色一级片| 在线观看一区二区三区| 在现免费观看毛片| 在线播放无遮挡| 草草在线视频免费看| 一级毛片久久久久久久久女| 舔av片在线| 一卡2卡三卡四卡精品乱码亚洲| 亚洲中文字幕日韩| 最近视频中文字幕2019在线8| 亚洲男人的天堂狠狠| 一进一出抽搐gif免费好疼| 少妇猛男粗大的猛烈进出视频 | 成人永久免费在线观看视频| 国产男人的电影天堂91| 亚洲精品456在线播放app | 午夜精品在线福利| 欧美日韩瑟瑟在线播放| 亚洲无线在线观看| 真实男女啪啪啪动态图| 日韩中字成人| 国产成人av教育| 又紧又爽又黄一区二区| 噜噜噜噜噜久久久久久91| 91在线观看av| av天堂中文字幕网| 久久九九热精品免费| 12—13女人毛片做爰片一| 国产成人av教育| 午夜影院日韩av| 亚洲欧美精品综合久久99| 热99在线观看视频| 中文字幕人妻熟人妻熟丝袜美| 亚洲av免费在线观看| 99精品在免费线老司机午夜| 欧美性猛交╳xxx乱大交人| 久久精品国产亚洲av涩爱 | 国产av不卡久久| 国产在线男女| 观看美女的网站| 欧美不卡视频在线免费观看| 男人的好看免费观看在线视频| av在线蜜桃| 美女 人体艺术 gogo| 亚洲欧美日韩无卡精品| 国内久久婷婷六月综合欲色啪| 国产精品免费一区二区三区在线| 国产av麻豆久久久久久久| 天堂√8在线中文| 十八禁国产超污无遮挡网站| 国产高清激情床上av| 国产亚洲欧美98| 国产不卡一卡二| 日韩欧美国产在线观看| 亚洲精品粉嫩美女一区| 欧美+日韩+精品| 色播亚洲综合网| 中文亚洲av片在线观看爽| 在线免费十八禁| 日本五十路高清| 女的被弄到高潮叫床怎么办 | 成人一区二区视频在线观看| 99九九线精品视频在线观看视频| 成年版毛片免费区| 久久九九热精品免费| 久久精品人妻少妇| 婷婷丁香在线五月| 丰满人妻一区二区三区视频av| 欧美最黄视频在线播放免费| 免费看美女性在线毛片视频| 亚洲av二区三区四区| 成年人黄色毛片网站| 日韩精品青青久久久久久| 91精品国产九色| 亚洲综合色惰| a级一级毛片免费在线观看| 亚洲av一区综合| 婷婷精品国产亚洲av| 久久午夜亚洲精品久久| 亚洲精品亚洲一区二区| 欧美成人免费av一区二区三区| 久久精品久久久久久噜噜老黄 | 精品午夜福利在线看| 看黄色毛片网站| 久久6这里有精品| 亚洲国产高清在线一区二区三| 一进一出抽搐动态| 亚洲精品成人久久久久久| 亚洲天堂国产精品一区在线| a级毛片免费高清观看在线播放| 老司机深夜福利视频在线观看| 欧美xxxx黑人xx丫x性爽| 1000部很黄的大片| 日本黄色片子视频| 他把我摸到了高潮在线观看| 精品久久久久久久人妻蜜臀av| 亚洲av第一区精品v没综合| 国产精品亚洲一级av第二区| 热99re8久久精品国产| 日韩中字成人| 国产精品一区二区三区四区久久| 最新中文字幕久久久久| 老师上课跳d突然被开到最大视频| 免费高清视频大片| 国产视频一区二区在线看| 久久午夜亚洲精品久久| 午夜福利18| 国产久久久一区二区三区| 哪里可以看免费的av片| 日本熟妇午夜| 亚洲四区av| 精品人妻1区二区| 女的被弄到高潮叫床怎么办 | 免费黄网站久久成人精品| 五月玫瑰六月丁香| 91在线观看av| 97热精品久久久久久| 亚洲一区二区三区色噜噜| 日本撒尿小便嘘嘘汇集6| 国产伦精品一区二区三区视频9| 成人一区二区视频在线观看| 国产高清有码在线观看视频| 身体一侧抽搐| 如何舔出高潮| 精品午夜福利在线看| 国产成人一区二区在线| 高清毛片免费观看视频网站| 日本五十路高清| 国产av一区在线观看免费| 亚洲国产欧美人成| 婷婷亚洲欧美| 在线免费十八禁| 日韩中字成人| 啦啦啦韩国在线观看视频| 欧美成人性av电影在线观看| 国内精品美女久久久久久| 免费看日本二区| 日本精品一区二区三区蜜桃| 国产伦在线观看视频一区| 亚洲精品久久国产高清桃花| 成人国产一区最新在线观看| 别揉我奶头 嗯啊视频| 久久精品综合一区二区三区| 少妇高潮的动态图| 别揉我奶头~嗯~啊~动态视频| 美女免费视频网站| 亚洲欧美日韩高清在线视频| а√天堂www在线а√下载| 亚洲中文字幕一区二区三区有码在线看| 麻豆av噜噜一区二区三区| 丰满人妻一区二区三区视频av| 日日摸夜夜添夜夜添av毛片 | 欧美一区二区精品小视频在线| 色av中文字幕| 久久久久久国产a免费观看| 国产乱人伦免费视频| 51国产日韩欧美| 精品一区二区免费观看| 窝窝影院91人妻| 露出奶头的视频| 国产成人一区二区在线| 一个人免费在线观看电影| 搡老妇女老女人老熟妇| 中文字幕久久专区| 国产欧美日韩精品亚洲av| 99精品在免费线老司机午夜| 亚洲熟妇熟女久久| 国产探花在线观看一区二区| 国产一区二区亚洲精品在线观看| 小蜜桃在线观看免费完整版高清| 最近视频中文字幕2019在线8| 国产伦在线观看视频一区| 日本a在线网址| 国产精品98久久久久久宅男小说| 中国美女看黄片| 日本-黄色视频高清免费观看| 成年人黄色毛片网站| ponron亚洲| xxxwww97欧美| 久久精品国产自在天天线| 久久精品国产亚洲av天美| 91麻豆精品激情在线观看国产| av在线老鸭窝| 亚洲内射少妇av| 亚洲国产日韩欧美精品在线观看| 制服丝袜大香蕉在线| 欧美激情久久久久久爽电影| 久久久久国内视频| 人妻夜夜爽99麻豆av| aaaaa片日本免费| 一级a爱片免费观看的视频| 国产精品久久电影中文字幕| 亚洲国产欧洲综合997久久,| 色综合色国产| x7x7x7水蜜桃| 欧美黑人欧美精品刺激| 少妇高潮的动态图| 久久精品国产亚洲网站|