• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能時代的司法信任及其構(gòu)建

    2021-12-08 21:58:26
    華東政法大學(xué)學(xué)報 2021年4期
    關(guān)鍵詞:裁判法官信任

    趙 楊

    一、問題的提出

    司法的本質(zhì)是對人的信任,人們對法院和法官的認同是社會公平正義的心理基礎(chǔ),從而將復(fù)雜煩瑣的法律糾紛轉(zhuǎn)化為對司法的信任問題。司法信任是社會公眾對法官及其裁判活動的相信、托付。人們對司法的信任既有穩(wěn)定性、持續(xù)性的一面,也有開放性、不確定性的一面。處于社會轉(zhuǎn)型時期的中國法治建設(shè)面臨著嚴重的司法信任危機:同案不同判現(xiàn)象不斷涌現(xiàn),冤假錯案頻繁發(fā)生,司法低效、遲延、不公,導(dǎo)致民眾對司法失去信任。“這是制度所建構(gòu)和表達的承諾所遭遇的信任問題。這是一種制度性信任危機?!薄?〕高兆明:《信任危機的現(xiàn)代性解釋》,載《學(xué)術(shù)研究》2002 年第4 期。為化解信任危機、提升司法公信,中央與地方不斷推進一系列司法體制改革,雖有一定成效但是難以實現(xiàn)制度性突破。制度在運行過程中出現(xiàn)制度失靈〔2〕所謂程序失靈,是指法律明確規(guī)定的程序在各類司法活動中被規(guī)避、被棄置,導(dǎo)致訴訟法的書面規(guī)定在一定程度上形同虛設(shè)。參見陳瑞華:《刑事程序失靈問題的初步研究》,載《中國法學(xué)》2007 年第6 期。、制度失效、制度瑕疵、制度得不到社會的認可等現(xiàn)象,制度數(shù)量日益增多但實效性不強,公眾對司法的信任程度沒有明顯的提升。人類文明史上沒有完美無缺的制度。即使制度設(shè)計得相當(dāng)科學(xué)合理,其運作也需要由人來實現(xiàn)?!爸贫葓?zhí)行者、合作者與制度之間是相互影響的,既可以相互促進形成良性互動也可以相互干涉阻礙對方的改進。面對這些難題,建立在大數(shù)據(jù)與專家經(jīng)驗基礎(chǔ)上的人工智能卻能起到作用,發(fā)揮其作為技術(shù)的功能,避免目前難以迅速突破的體制結(jié)構(gòu)與人員素質(zhì)低下的困境?!薄?〕錢大軍:《司法人工智能的中國進程:功能替代與結(jié)構(gòu)強化》,載《法學(xué)評論》2018 年第5 期。“通過大數(shù)據(jù)技術(shù)輔助提升司法能力、促進司法公正,使司法系統(tǒng)擁有和展現(xiàn)基于司法能力和司法公正的自信和力量?!薄?〕張吉豫:《大數(shù)據(jù)時代中國司法面臨的主要挑戰(zhàn)與機遇——兼論大數(shù)據(jù)時代司法對法學(xué)研究及人才培養(yǎng)的需求》,載《法制與社會發(fā)展》2016 年第6 期。

    當(dāng)人工智能技術(shù)在各個法律維度上都逐漸展示出過人實力的時候,公眾就會更加相信機器律師、法官、檢察官和機器警察。甚至有學(xué)者提出法官的情感和價值判斷可以通過程序和參數(shù)設(shè)計進行表達。那么未來智能技術(shù)能否替代法官的思維?人工智能時代司法信任的本質(zhì)是否發(fā)生改變?人們是對中立技術(shù)的信任還是對人類自身理性的信任?在人工智能的沖擊下,司法信任可能需要全面重塑和重新構(gòu)建。有鑒于此,本文以司法信任為關(guān)注的焦點,對人工智能時代司法信任的賦能、轉(zhuǎn)型和構(gòu)建問題略做探討。

    二、人工智能應(yīng)用對司法信任的賦能

    人工智能的迅猛發(fā)展給司法領(lǐng)域帶來深刻變革。人工智能廣泛應(yīng)用于司法實踐帶來的積極后果是公眾對司法裁判的信任增強而非減弱。人工智能應(yīng)用對司法信任的賦能具體表現(xiàn)為以下三個方面。

    (一)通過技術(shù)理性規(guī)則制約司法任意性

    公眾對司法不信任原因之一源自司法者的任意性?!胺ü賹Ξ?dāng)事人的一個眼神、一種表情甚至言語聲調(diào)的高低剛?cè)岬募毼⒉顒e,都可能使當(dāng)事人在心理上感到法官的不公平?!薄?〕劉治斌:《論司法公信之構(gòu)建——以法官為中心》,載《寧夏社會科學(xué)》2006 年第6 期。人工智能應(yīng)用改變了傳統(tǒng)司法領(lǐng)域中法官的判斷和決策模式。裁判過程中法官的主觀任意性可以通過人工智能系統(tǒng)技術(shù)規(guī)則進行制約。按照工具理性運行的裁判模式,可以排除人類非理性因素的不當(dāng)干擾,克服法官主觀情感和價值判斷對判決結(jié)果產(chǎn)生的影響,從而限制法官自由裁量權(quán)〔6〕人工智能能夠規(guī)范司法權(quán)力運行,在弱自由裁量權(quán)的領(lǐng)域可以存在較大的空間。自由裁量可分為強自由裁量與弱自由裁量,前者無法通過邏輯工具或數(shù)據(jù)框架被理性化,后者則具有更多事先合理化的空間。參見吳習(xí)彧:《司法裁判人工智能化的可能性及問題》,載《浙江社會科學(xué)》2017 年第4 期。,統(tǒng)一裁判尺度,規(guī)范司法權(quán)力的運行。

    人工智能時代,法官判斷和決策的模式從“單一人腦決策轉(zhuǎn)向聚合智腦決策”。傳統(tǒng)司法領(lǐng)域法官根據(jù)自己的知識積淀和實踐經(jīng)驗,基于個人“法感”形成初步判斷,運用裁判思維進行法律推理和法律論證,最后形成判決結(jié)果。司法裁判是人類理性和智慧的產(chǎn)物,法官獨立行使審判權(quán),憑借的是法官的一人之力。人工智能時代,當(dāng)智能系統(tǒng)推薦類案,法官判案的獨立性會受到干預(yù),判決可能成為人類與計算機系統(tǒng)共同決定的結(jié)果,裁判運用的基礎(chǔ)是法官的普遍經(jīng)驗。2016 年,北京“睿法官”智能研判系統(tǒng)上線,智能系統(tǒng)進行分析能夠獲得與本案最相似的全部先例,同時預(yù)測出裁判結(jié)果,法官可能先對其他法院的判決進行推演,再做出最終決定。

    法官判斷和決策的模式從“單一人腦決策轉(zhuǎn)向聚合智腦決策”不僅使判決結(jié)果相對客觀且可預(yù)測,而且判決結(jié)果更符合法律精神和裁判規(guī)律。人工智能系統(tǒng)可以把大量的法官判決數(shù)據(jù)、司法指導(dǎo)意見、司法解釋等收集起來,在對大量個案進行評估分析后總結(jié)得出一個最佳的判決結(jié)果。人工智能系統(tǒng)能給法官提供一個更加客觀、具有說服力的裁判參考,使不同的法官所做出的判決相差無多,裁決結(jié)果是能夠進行預(yù)測的。另外,人工智能系統(tǒng)擁有深度學(xué)習(xí)功能,在對海量案件和數(shù)據(jù)進行整理和分析后便會總結(jié)出符合法律精神的一般性裁判規(guī)律。通過大數(shù)據(jù)分析總結(jié)出的法律價值,是基于法官的普遍經(jīng)驗,可能比法官的個人判斷更符合法律精神。

    “司法權(quán)的公信力源自于受眾對其獨立品格的信任;公眾可以從司法權(quán)中獲得確定的預(yù)期和客觀的裁判?!薄?〕孫日華:《社會轉(zhuǎn)型期司法公信力的生長》,載《中南大學(xué)學(xué)報(社會科學(xué)版)》2012 年第4 期。人工智能不帶感情的邏輯判斷,可以減少法官個人因素對審判結(jié)果的影響,因而司法裁判結(jié)論更具有客觀性。通過大數(shù)據(jù)技術(shù)運用,建立精準的司法資源庫,為類案同判與量刑規(guī)范化提供參考樣本,可以規(guī)范司法權(quán)力運行,從整體上提升司法裁判的公信力。

    (二)通過全量分析歸納推理克服司法不確定性

    公眾對司法不信任原因之二來自于司法過程的不確定性。司法裁判是法官認定事實、采信證據(jù)、適用法律的思維過程。司法裁判的確定性體現(xiàn)在個案審理過程中,法官運用分析判斷、邏輯推理等方法將案件事實、法律規(guī)范、判決結(jié)果之間的內(nèi)在關(guān)聯(lián)揭示出來。基于認識能力有限和個體經(jīng)驗的不足,法官面對個案出現(xiàn)的各種不確定因素往往難以有效克服并做出準確判斷?!跋鄬τ趥€人直接經(jīng)驗及個人獲取間接經(jīng)驗的有限性,大數(shù)據(jù)分析為法官提供了來自于互聯(lián)網(wǎng)的全量數(shù)據(jù)信息和海量‘?dāng)?shù)據(jù)經(jīng)驗’歸納,讓法官對案件情況有了更精準和更客觀的認識,這對排除法官直覺和偏見,為個案裁判做出準確理性的判斷具有十分重要的意義?!薄?〕沈寨:《個案正義視角下司法人工智能的功能與限度》,載《濟南大學(xué)學(xué)報(社會科學(xué)版)》2019 年第4 期。

    司法裁判的核心是尋求證據(jù)的確定性。在刑事訴訟過程中,公檢法部門分別執(zhí)行各自的證據(jù)判斷標準;證據(jù)的收集、審查、運用也缺少確定性、統(tǒng)一性要求,導(dǎo)致辦案人員在證據(jù)認定上容易出現(xiàn)差異性、局限性、主觀性。2017 年成立的上海市“刑事案件智能輔助辦案系統(tǒng)”在對上海市上萬份刑事案件進行“深度學(xué)習(xí)”后,已經(jīng)具備初步的證據(jù)信息抓取、校驗和邏輯分析能力,海量數(shù)據(jù)經(jīng)過萃取歸納分析能夠給法官提供更加客觀、確定性的指引。在審判過程中,法官需要對證據(jù)的相關(guān)性、合法性進行判斷時,辦案系統(tǒng)能夠?qū)ψC據(jù)完整性及矛盾點自動審查、判斷,及時發(fā)現(xiàn)、提示證據(jù)中的瑕疵和證據(jù)之間的矛盾,從而幫助法官克服證據(jù)采信過程中的各種不確定性,提高證據(jù)審查判斷的科學(xué)性和準確性。北京互聯(lián)網(wǎng)法院應(yīng)用的“天平鏈”作為互聯(lián)網(wǎng)技術(shù)司法應(yīng)用場景之一,已經(jīng)形成了集數(shù)據(jù)生成、數(shù)據(jù)存證、數(shù)據(jù)取證、數(shù)據(jù)采信等為一體的綜合服務(wù)體系。當(dāng)證據(jù)的合法性不確定時,“通過大數(shù)據(jù)對頻發(fā)的同類案件進行分析,制定相應(yīng)的證據(jù)標準指引,對其進行校驗與對比,并將出現(xiàn)瑕疵的證據(jù)進行攔截,可以有效排除非法證據(jù),降低對司法公信力的損害?!薄?〕涂永前、于涵:《司法審判中人工智能的介入式演進》,載《西南政法大學(xué)學(xué)報》2018 年第3 期。

    大量實驗已表明:人工智能系統(tǒng)在信息篩選、知識記憶、分析判斷、邏輯推理、高速總結(jié)歸納等方面都具有人類法官無法比擬的優(yōu)勢。人工智能系統(tǒng)通過數(shù)據(jù)采集、整理、分析、綜合、推理,能夠?qū)γ恳粋€案件進行評估,總結(jié)出具有公理性或普遍性的裁判規(guī)則和標準指引,幫助司法者有效克服個案裁判過程中的各種不確定因素,依法、全面、規(guī)范收集和審查證據(jù),統(tǒng)一司法尺度,最終得出令公眾和當(dāng)事人信服的裁判結(jié)果。從這個角度來講,人工智能系統(tǒng)在實現(xiàn)個別正義、提升個案裁判的信任程度上顯然比人類法官做得更好。

    (三)通過構(gòu)建司法模型提高司法效率性

    司法低效是提升司法公信力面臨的又一個難題。我國訴訟案件數(shù)量正以每年20%到30%的速度遞增,一方面,法院面臨案多人少的難題;另一方面,簡單、重復(fù)性案件占到案件總數(shù)的80%,耗費了法官的大量精力。因此,“在分流司法需求的同時要簡化審判程序,減少程序運行環(huán)節(jié)中的拖延,提高司法效率,方便社會公眾通過司法救濟的途徑尋求正義,化解矛盾糾紛,建立對司法的信任”。〔10〕馬洪偉:《基于形成機制的司法公信力建構(gòu)》,載《江西社會科學(xué)》2015 年第8 期。

    解決司法低效問題,提高司法公信力,人工智能工具無疑可以提供強大幫助和智力支持。人工智能使法院的訴訟流程和審判模式發(fā)生一系列改變。開庭前,通過人工智能系統(tǒng)對當(dāng)事人進行身份識別,可以簡化法院庭審流程;訴訟主體可以“在線”參與審理而非“在場”;當(dāng)事人由“書面訴訟”轉(zhuǎn)向“無紙化訴訟”。通過構(gòu)建各種司法模型可以使司法程序更快捷、更便利?!八痉P褪悄M法官作出司法裁判的過程?!薄?1〕張妮、徐靜村:《計算法學(xué):法律與人工智能的交叉研究》,載《現(xiàn)代法學(xué)》2019 年第6 期。人工智能系統(tǒng)可以通過導(dǎo)入案件數(shù)據(jù),模擬法官的裁判思路和理由,對證據(jù)清楚、案情簡單的重復(fù)性案件進行立案、篩選、判決。2016 年,深圳福田法院使用“金融糾紛案件智能裁判”系統(tǒng),僅用半年時間就審結(jié)了5000 多宗信用卡類案件。蘇州法院運用智能語音識別系統(tǒng),庭審時間平均縮短30%至50%,合議時間平均縮短30%。2017 年,重慶市智審平臺試運行1 個月后實現(xiàn)了全部信用卡集團訴訟案件網(wǎng)上立案,平均立案時間縮短到10 分鐘以內(nèi),平均審理時間縮短到27.26 天。“智審平臺會自動圍繞雙方當(dāng)事人是否存在借貸關(guān)系、是否存在違約行為等事項進行要素化整理,并生成法官庭審指引;通過整理案件庭審階段的所有確認信息,自動生成令狀式裁判文書稿?!薄?2〕鄧恒:《互聯(lián)網(wǎng)法院運行下新型審判機制的研究范式》,載《人民法院報》2017 年8 月30 日,第8 版。

    霧化藥物遵循現(xiàn)配現(xiàn)用的原則,在整個配置過程中應(yīng)當(dāng)遵循無菌操作的原則,各藥液的配比和劑量應(yīng)當(dāng)把握準確,布地奈德及異丙托溴銨加生理鹽水至3ml。確保藥物的濃度,縮短用藥時間,這樣既能增加藥物療效,也能克服患兒耐受性差的不良影響。

    我國司法實踐中,人工智能技術(shù)已經(jīng)廣泛應(yīng)用于各個領(lǐng)域。對法院來說,人工智能技術(shù)應(yīng)用可以實現(xiàn)部分案件無人化、標準化審理,解決案多人少的難題。對法官來說,人工智能技術(shù)應(yīng)用可以實現(xiàn)案件繁簡分流,減少其負累,使他們更多地關(guān)注復(fù)雜案件、疑難案件。對當(dāng)事人來說,人工智能技術(shù)應(yīng)用可以緩解其立案、舉證、出庭難等問題,大大降低當(dāng)事人的訴訟成本??傊斯ぶ悄茉谒痉▽徟谢顒又械纳疃葢?yīng)用,有助于高效地解決糾紛,確保各項司法資源的合理配置和高效利用,同時也會大大降低當(dāng)事人訴訟成本和節(jié)約社會訴訟資源,從根本上來說,有助于提高社會公眾對整個司法系統(tǒng)的普遍信任。

    三、人工智能時代的司法信任轉(zhuǎn)型

    人工智能技術(shù)廣泛應(yīng)用于司法領(lǐng)域,一方面擴展、增強了公眾對整個司法系統(tǒng)和個案裁判的信任,另一方面也使司法信任狀態(tài)和類型發(fā)生了一系列改變。這是一個賦能的過程,也是一個轉(zhuǎn)型的過程,具有“賦能與轉(zhuǎn)型的雙重效應(yīng)”。

    (一)信任對象由制度單一型信任轉(zhuǎn)向制度與技術(shù)復(fù)合型信任

    司法信任是社會公眾和當(dāng)事人對法官及其裁判活動的一種相信和托付。如果說傳統(tǒng)司法時代,人類是通過建立和完善司法制度體系來實現(xiàn)對法官的信任,那么人工智能時代,要通過技術(shù)與制度兩種手段相契合來實現(xiàn)對法官的信任。

    近代以來,人類發(fā)現(xiàn)并建構(gòu)了一整套制度,通過制度的有效運行在機理上可以實現(xiàn)對法官的信任,人們逐漸形成制度性信任。現(xiàn)代社會,制度仍是最合理、有效的信任建構(gòu)機制。隨著現(xiàn)代國家的發(fā)展,制度建構(gòu)經(jīng)過近兩個世紀的演化,日益成熟,對于國家權(quán)力和司法制度在制度和機制層面存在有多重制約和監(jiān)督體系,人們已經(jīng)接受對制度的普遍信任。這種單純的制度性信任構(gòu)建和維系是司法制度系統(tǒng)內(nèi)部自我完善、自我約束、自行運作的結(jié)果。人工智能時代,司法判決可能是法官與智能系統(tǒng)共同決定的結(jié)果,部分案件已經(jīng)實現(xiàn)了無人化、標準化審理,因此司法信任的構(gòu)建不僅僅依賴于司法制度自身的完善程度及其運行實效,還與信息技術(shù)的發(fā)展、工程知識系統(tǒng)等技術(shù)領(lǐng)域的實際進展密切相關(guān)。技術(shù)具有司法增效功能。“人工智能與法律在提供計算模式時,為法律研究人員提供另一種分析路徑和驗證思想的新工具,可減少法律體系運行的矛盾與摩擦。”〔13〕張妮、徐靜村:《計算法學(xué):法律與人工智能的交叉研究》,載《現(xiàn)代法學(xué)》2019 年第6 期。

    總之,人工智能時代,法官的判斷和決策模式已經(jīng)發(fā)生改變,司法信任類型也相應(yīng)發(fā)生轉(zhuǎn)變,人們對司法信任的對象由單一的制度信任轉(zhuǎn)向制度和技術(shù)二者的復(fù)合信任。司法信任的類型由單一制度型信任轉(zhuǎn)向制度和技術(shù)復(fù)合型信任,司法信任的實現(xiàn)路徑也隨之改變。即是通過法律與科技的深度融合,利用智能機器對法官裁判的模擬甚至超越尋找實現(xiàn)司法信任的人工智能路徑。

    (二)信任基礎(chǔ)由被動服從型信任轉(zhuǎn)向主動參與型信任

    “隨著人類社會的變遷與發(fā)展,公眾對司法的信任也經(jīng)歷了從威脅服從到理性尊重、再到互動理解的演化過程。”〔14〕季金華:《司法公信力的意義闡釋》,載《法學(xué)論壇》2012 年第5 期。權(quán)威性和強制性是司法的本質(zhì)屬性。法院及法官的裁判活動和裁判結(jié)果具有天然權(quán)威性,擁有使人信服的力量,因此,人們服從法官的裁判過程并能夠自覺履行裁判結(jié)果。“一方面,司法是解決紛爭的終局機構(gòu),其地位及權(quán)威性遠高于其他解決糾紛的部門;另一方面,許多特定類型的案件,如刑事案件等,只能交由司法機構(gòu)來裁決。正因如此,無論人們是否相信司法機關(guān)會公正地裁斷涉己的案件,他們也只能將案件提交法院來予以裁決。這就是由制度或機構(gòu)本身存在所產(chǎn)生的天然權(quán)威,因而構(gòu)成司法公信力的制度基礎(chǔ)。”〔15〕胡玉鴻:《試論司法權(quán)威的外在基礎(chǔ)》,載《華東政法大學(xué)學(xué)報》2013 年第6 期。人們對司法的這種初級信任是源于其與生俱來的強制和權(quán)威,屬于基于制度特征的信任類型。從信任的心理基礎(chǔ)來說,傳統(tǒng)司法信任是一種被動服從型司法信任。

    泰勒認為評估程序正義主要有四個因素:參與、中立、信任、尊重。與基于制度特征的信任類型不同,基于過程或程序的信任建立機制理解為信任是在雙方互動過程中逐漸建立起來的一種機制?!靶湃雾毥⒃谥苯踊蜷g接的主客體互動基礎(chǔ)之上,包括施信者和受信者兩個要素,并以特定媒介為紐帶,信任主體通過它來簡化風(fēng)險或化解不確定性。”〔16〕[德]尼古拉斯?盧曼:《信任:一個社會復(fù)雜性的簡化機制》,瞿鐵鵬、李強譯,上海人民出版2005 年版,第50 頁?!袄硐氲臓顟B(tài)是在完成整個訴訟活動之后,實現(xiàn)當(dāng)事人和法院之間的信息對等。在獲得了對等的信息之后,信任才可以產(chǎn)生?!薄?7〕孫日華:《社會轉(zhuǎn)型期司法公信力的生長》,載《中南大學(xué)學(xué)報(社會科學(xué)版)》2012 年第4 期?,F(xiàn)代信息技術(shù)給社會公眾主動參與司法創(chuàng)造了巨大的空間。第三屆世界互聯(lián)網(wǎng)大會智慧法院暨網(wǎng)絡(luò)法治論壇《烏鎮(zhèn)共識》第4 條指出:“各國將更加注重利用信息技術(shù)……增強服務(wù)公眾的司法能力。”我國各級法院的智能化司法建設(shè)通過電子化、網(wǎng)絡(luò)化、可視化等多種形式建立了司法系統(tǒng)與社會公眾之間的互動溝通模式,實現(xiàn)了司法公開透明。當(dāng)事人通過了解案件信息、積極參與司法過程,進而生成對裁判結(jié)果信任的心理基礎(chǔ),同時社會公眾逐漸形成對司法活動普遍而經(jīng)常性監(jiān)督,從而使專業(yè)性司法更容易獲得民眾的理解和信賴,司法信任據(jù)此得以產(chǎn)生?!霸谂c司法的交往與互動中產(chǎn)生對于司法的價值共識與心理認同,實現(xiàn)由理性人格向法律人格的轉(zhuǎn)化,進而產(chǎn)生對于司法權(quán)威的信仰和依賴,在全社會建立起廣泛的司法公信力。”〔18〕關(guān)玫:《司法公信力研究》,人民法院出版社2008 年版,第49 頁。

    (三)信任內(nèi)容由對法官的人格信任轉(zhuǎn)向法律專家系統(tǒng)信任

    傳統(tǒng)司法時代,司法信任是一種人格信任?!癟rust 的含義之一是對他人或事物的誠實、正直、可靠、公正等擁有堅定的信念或信心?!薄?9〕Victoria Neufeldt Editor in Chief, Webster’s New World Dictionary, Prentice Hall Press, 1988, p.1436.“人格信任是基于人與人之間通過相互交往的經(jīng)驗所產(chǎn)生的熟悉度以及在此基礎(chǔ)上對個人品格等特質(zhì)的把握所形成的信任?!薄?0〕盧曼區(qū)分了信任的兩種類型:人格信任和系統(tǒng)信任。前者是指對人格品質(zhì)的信任;后者是指對象征標志和專家系統(tǒng)的信任。人們信任司法,是源于對法官個人能力和品格的相信?!皩徟械男刨囀菍徟袡?quán)威的基礎(chǔ),與對法官人格的信賴和敬意密切相關(guān)?!薄?1〕[日]森際康友:《司法倫理》,于曉琪、沈軍譯,商務(wù)印書館2010 年版,第287 頁?!皺?quán)威性和公信力來自于法官的知識、經(jīng)驗和理性以及良好的個人品質(zhì)和人格魅力。”〔22〕季金華:《司法公信力的意義闡釋》,載《法學(xué)論壇》2012 年第5 期?!坝⒚婪ㄏ祰曳ü倜鎸ι鐣P(guān)系的變化,能夠合理地運用和發(fā)展法律原則,在遵守先例原則中堅持對法律穩(wěn)定性的追求,從而不僅促進社會正義的實現(xiàn),而且也減少了法律適用的不確定性,保證了裁判的公信力和執(zhí)行力。法官由此在社會中建立了很高的權(quán)威和威信,一般人對法官的職業(yè)道德與公正性抱有很強的信任感?!薄?3〕[日]谷口安平:《程序的正義與訴訟》,王亞新、劉榮軍譯,中國政法大學(xué)出版社1996 年版,第37-38 頁。在我國,“陳燕萍的工作法在很大程度上依賴于她的人格品行。轉(zhuǎn)型中國也確有一批這樣的優(yōu)秀法官。”〔24〕蘇力:《中國法官的形象塑造——關(guān)于“陳燕萍工作法”的思考》,載《清華法學(xué)》2010 年第3 期。

    與工業(yè)時代不同,信息時代和人工智能技術(shù)使法官辦案成為一種半自動化或自動化的人機協(xié)同操作過程。如果AI 可以為當(dāng)事人提供確定的預(yù)期,產(chǎn)生可信賴的行為指引,這將從源頭上消解糾紛形成的原因,也是對法官工作的替代。〔25〕有學(xué)者認為:強人工智能階段,法律智能系統(tǒng)從功能上可以完全取代人類法官,甚至通過法官這一社會角色進入人類社會,產(chǎn)生系統(tǒng)性影響。參見周尚君、伍茜:《人工智能司法決策的可能與限度》,載《華東政法大學(xué)學(xué)報》2019 年第1 期。人們對司法信任的內(nèi)容由抽象性的法官能力和品格轉(zhuǎn)向?qū)I(yè)化、規(guī)范化的知識系統(tǒng)。司法信任體現(xiàn)為人們對匿名者組成的制度系統(tǒng)的信任。系統(tǒng)信任是指對包含著已有可信性的專業(yè)知識的各種象征機制和制度體系等抽象系統(tǒng)的信任。專家的標簽本身就帶來一種信任?!皩<蚁到y(tǒng)是通過模擬人類專家來解決專業(yè)領(lǐng)域問題的計算機程序系統(tǒng)。20 世紀70 年代開始出現(xiàn)了一系列法律專家系統(tǒng)。進入21 世紀后,隨著互聯(lián)網(wǎng)和計算機技術(shù)的發(fā)展,法律專家系統(tǒng)在我國各級司法部門中得以廣泛應(yīng)用?!薄?6〕例如,2006 年山東省淄博市淄川區(qū)法院的“刑法常用百種罪名電腦輔助量刑系統(tǒng)”,2011 年福建省漳州市龍文區(qū)檢察院的“量刑建議管理系統(tǒng)”,2016 年浙江省高級人民法院的“智能語音識別系統(tǒng)”,2017 年2 月上海市高級人民法院的“上海刑事案件智能輔助辦案系統(tǒng)”,同年4 月海南省高級人民法院的“量刑規(guī)范化智能輔助辦案系統(tǒng)”,同年4 月重慶市高級人民法院的“類案件專審平臺”,同年12 月廣西壯族自治區(qū)130 家法院全部全面使用智慧審判系統(tǒng)、電子卷宗隨案同步生成系統(tǒng)及相關(guān)智能輔助系統(tǒng)。參見周尚君、伍茜:《人工智能司法決策的可能與限度》,載《華東政法大學(xué)學(xué)報》2019 年第1 期。人工智能時代,在人機協(xié)同辦案模式主導(dǎo)下司法信任類型發(fā)生了轉(zhuǎn)向,司法信任的內(nèi)容由對法官的人格信任轉(zhuǎn)向?qū)Ψ蓪<蚁到y(tǒng)信任?!耙惶灼毡檫m用的司法決策系統(tǒng)應(yīng)當(dāng)能成為正確適用法律裁判案件的典范,如同法官一樣是法律公正的化身,具有內(nèi)在法律品質(zhì)?!薄?7〕周尚君、伍茜:《人工智能司法決策的可能與限度》,載《華東政法大學(xué)學(xué)報》2019 年第1 期。

    四、人工智能技術(shù)對司法信任的重塑

    數(shù)字時代和智能技術(shù)發(fā)展過程中司法信任發(fā)生的新樣態(tài)、新類型、新趨勢,需要通過秉持開放共享理念、構(gòu)建數(shù)字正義路徑、進行算法決策規(guī)制、實現(xiàn)人機交互協(xié)同來構(gòu)建和重塑司法信任。

    (一)秉持開放共享的司法信任理念

    數(shù)字時代,運用信息技術(shù)和人工智能系統(tǒng)提升司法信任,首要是變革理念、與時俱進。開放共享是數(shù)字時代的核心價值,也是智慧司法建設(shè)必須秉持的重要理念。我國大力推進智慧法院建設(shè),以提升司法公信力為目標,通過公開實現(xiàn)公正、提升公信?!胺ㄔ簩⒁愿娱_放的姿態(tài)、更加先進的技術(shù)和國際化的視野,深入進行司法大數(shù)據(jù)的研究、聯(lián)通、共享和應(yīng)用,堅定不移推進智慧法院建設(shè)?!薄?8〕羅書臻:《賀榮在第三屆世界互聯(lián)網(wǎng)大會智慧法院暨網(wǎng)絡(luò)法治論壇發(fā)言表示:充分運用信息技術(shù) 著力促進司法公正 堅定不移推進智慧法院建設(shè)》,載《人民法院報》2016 年11 月18 日,第1 版。司法大數(shù)據(jù)的優(yōu)勢在于信息的共享與系統(tǒng)整合?!八痉〝?shù)據(jù)的開放共享,能有效推進智慧司法體系構(gòu)建,提升司法公信力,倒逼司法監(jiān)督機制的形成?!薄?9〕王燃等:《智慧法治背景下司法數(shù)據(jù)開放共享研究》,載《人民法治》2018 年第11 期。

    重塑和提升司法信任,秉持開放共享司法理念,具體做法如下:一是,司法系統(tǒng)內(nèi)部開放,與外部系統(tǒng)之間信息共享。首先,法院系統(tǒng)內(nèi)部信息公開。我國已經(jīng)逐步建成裁判文書、審判流程信息、執(zhí)行信息、庭審信息四大公開網(wǎng)絡(luò)平臺。法院系統(tǒng)內(nèi)部也已建成統(tǒng)一覆蓋和聯(lián)結(jié)全國各級法院案件信息的數(shù)據(jù)共享管理平臺。其次,公檢法司司法數(shù)據(jù)互聯(lián)共享。貴州省高級人民法院依托信息技術(shù),積極推動跨部門大數(shù)據(jù)辦案平臺建設(shè),針對實踐中多發(fā)的五大類刑事案件已經(jīng)實現(xiàn)法院、檢察院、公安之間的司法數(shù)據(jù)信息互聯(lián)共享。最后,司法與外部的溝通互聯(lián)?!霸谕獠啃枰蛲p刑假釋、道交一體化、刑事案件、金融案件等業(yè)務(wù)協(xié)同接口,打通與公安部門道路交通事故數(shù)據(jù)共享渠道,在兩個以上地區(qū)推廣道路交通事故糾紛一體化處理平臺。”〔30〕胡昌明:《建設(shè)“智慧法院”配套司法體制改革的實踐與展望》,載《中國應(yīng)用法學(xué)》2019 年第1 期。2017 年,我國已經(jīng)在14 個省市區(qū)開展道路交通事故糾紛“網(wǎng)上數(shù)據(jù)一體化處理”綜合改革試點。二是,司法向社會多主體開放,加強國際司法合作共享。推進智慧司法建設(shè)構(gòu)建一個開放的人工智能生態(tài)系統(tǒng)必不可少。參與到司法大數(shù)據(jù)研究的社會群體不斷擴大,包括政府、科技公司、學(xué)術(shù)機構(gòu)和用戶等所有利益相關(guān)者聯(lián)合起來,秉承構(gòu)建人類命運共同體的理念,加強多方互動合作,建立積極的網(wǎng)絡(luò)生態(tài)規(guī)則。《世界互聯(lián)網(wǎng)法治論壇烏鎮(zhèn)宣言》倡導(dǎo):“我們應(yīng)當(dāng)堅持共商共建共享理念,凝聚更加廣泛的社會治理力量,加強多方治理主體的協(xié)調(diào)配合和深度合作,運用經(jīng)濟、法律、技術(shù)等多種手段,實現(xiàn)更加高效的司法參與、更加便利的司法服務(wù)、更加全面的司法監(jiān)督,讓互聯(lián)網(wǎng)司法成果更多更好惠及社會公眾?!薄?1〕《世界互聯(lián)網(wǎng)法治論壇烏鎮(zhèn)宣言》,來源https://www.chinacourt.org/index.php/article/detail/2019/12/id/4707266.shtml,2020年6 月1 日訪問。

    (二)構(gòu)建數(shù)字正義的司法信任路徑

    傳統(tǒng)司法時代,程序正義是實現(xiàn)和提升司法信任的必由之路。在數(shù)字化時代,數(shù)字化的經(jīng)濟活動構(gòu)成我們時代糾紛解決的主要對象。這些數(shù)字化的糾紛對司法機構(gòu)和裁判者提出三方面的挑戰(zhàn),即糾紛解決結(jié)果更公正、正義實現(xiàn)更便捷、正義實現(xiàn)過程更透明。人工智能時代,法官利用現(xiàn)代信息通信技術(shù)可以讓程序正義在每一個案件中都得到實現(xiàn)。司法信任的重塑要通過構(gòu)建數(shù)字化正義路徑來實現(xiàn)?!皯{借數(shù)字技術(shù)和數(shù)字邏輯,讓人們能夠在個案中更多以可視化方式來體驗公平正義,從而努力去共建共享新時代的數(shù)字正義?!薄?2〕馬長山:《數(shù)字社會的治理邏輯及其法治化展開》,載《法律科學(xué)(西北政法大學(xué)學(xué)報)》2020 年第5 期。

    構(gòu)建數(shù)字正義的司法信任路徑是通過數(shù)字化的技術(shù)和手段為糾紛主體提供便捷高效、價格合理的普惠性糾紛解決機制,也即是構(gòu)建在線矛盾糾紛多元化解平臺。在線矛盾糾紛多元化解平臺,簡稱ODR,包括在線調(diào)解、在線仲裁、在線和解、在線審判等措施。從經(jīng)濟角度而言,ODR 體現(xiàn)了在線糾紛在線溝通、在線解決、節(jié)省司法資源、緩解法院壓力的優(yōu)勢。對于當(dāng)事人各方而言,ODR 解決了管轄權(quán)難以確定的困難,降低訴訟成本,操作簡單、高效便捷、過程可視。

    另外,在線糾紛解決機制也使傳統(tǒng)的司法信任體系面臨一系列全新挑戰(zhàn)。一是ODR 的安全性問題,當(dāng)事人對于網(wǎng)絡(luò)環(huán)境整體存在不信任感,對ODR 模式的信任是建立在完備的網(wǎng)絡(luò)安全性基礎(chǔ)之上,當(dāng)事人的商業(yè)秘密、數(shù)據(jù)信息和隱私安全在ODR 運行過程中能否得到全面有效的保護是當(dāng)事人選擇信任ODR 的重要前提。二是ODR 的有效性問題,在傳統(tǒng)的訴訟模式下,當(dāng)事人可以通過在場參與,紙面溝通,親臨法庭訴辯,直觀地感受司法程序正義。在ODR 模式下,當(dāng)事人通過計算機網(wǎng)絡(luò)進行電子化信息的交換,在線交流、無紙化訴訟,這種虛擬化訴訟情境并非所有案件當(dāng)事人都適合并且愿意通過在線方式解決糾紛。當(dāng)事人對于信息技術(shù)的駕馭能力和熟練程度會對ODR 的信任產(chǎn)生重要影響,“技術(shù)鴻溝”的存在使得當(dāng)事人雙方的信任機制更難建立。三是ODR 的權(quán)威性問題,在線糾紛解決協(xié)議達成之后糾紛能否得以實際解決,糾紛解決結(jié)果能否得到司法機關(guān)的承認在目前實踐中仍然不確定,如果當(dāng)事人自愿選擇在線途徑解決糾紛的積極性不高,公眾也會逐步對ODR 的權(quán)威性喪失信任。四是ODR 的中立性問題,在線糾紛解決機制必須確立中立性的程序規(guī)則才能取得當(dāng)事人和社會公眾的認可和信任。因此,構(gòu)建數(shù)字化正義路徑,首要是在立法上亟待建立關(guān)于在線糾紛解決機制程序方面的統(tǒng)一規(guī)范,確立在線解決和線下解決方式的有效銜接機制,來解決ODR 所面臨的法律障礙和信任問題。

    (三)實現(xiàn)算法決策規(guī)制的司法信任機制

    人工智能時代的司法決策是基于算法規(guī)則的決策機制。萊斯格教授提出:“代碼就是法律?!薄八惴ú门谢?qū)⒊蔀榉傻慕K極形態(tài)。”〔33〕騰訊研究院等:《人工智能——國家人工智能戰(zhàn)略行動抓手》,中國人民大學(xué)出版社2017 年版,第281 頁。然而技術(shù)并不是完全中立的,算法決策絕非絕對客觀公正。技術(shù)是人類智力的產(chǎn)物,基于人類認知偏好及有限性,技術(shù)本身存在潛在風(fēng)險和固有缺陷。算法歧視、算法黑箱、算法霸權(quán)、算法商業(yè)化易導(dǎo)致算法司法決策系統(tǒng)的公正性和有效性受到公眾質(zhì)疑。如“美國康斯威星州訴盧米斯”案(Wisconsin State v.Loomis)中,被告認為州法院使用Compas 算法模型具有不可解釋性,違反了正當(dāng)程序原則,其裁決不足以使人信服,于是向州最高法院上訴??梢姡斯ぶ悄軙r代司法信任重塑,關(guān)鍵在于基于算法決策的智能系統(tǒng)如何最大程度促進司法專業(yè)性和司法公正性。

    人工智能時代司法信任重塑,亟待解決的核心問題是對算法決策進行法律規(guī)制?!叭绻惴ɡ^續(xù)保持神秘并且人工智能公司的重心始終圍繞利潤而非公正與平等,那么人工智能將很難取得公眾對其在司法應(yīng)用中的信任。”〔34〕李婕:《人工智能中的算法與法治公正》,載《人民法院報》2018 年5 月23 日,第2 版。為解決算法公開、算法反歧視問題,首先,在算法立法規(guī)制方面必須賦予技術(shù)研究開發(fā)者相應(yīng)的算法公開和算法解釋義務(wù),使算法在適當(dāng)程度上能夠被主體或終端用戶所理解。歐盟《通用數(shù)據(jù)保護條例》已經(jīng)引入算法可解釋性規(guī)則。其次,在算法司法規(guī)制方面必須規(guī)定司法機關(guān)一定的算法審查義務(wù)和賦予用戶必要的救濟權(quán)利。再次,在對算法進行法律規(guī)制的同時還要給予利益主體相應(yīng)的權(quán)利保護。例如,算法公開容易導(dǎo)致知識產(chǎn)權(quán)侵權(quán),如果算法構(gòu)成企業(yè)商業(yè)秘密,就必須進行知識產(chǎn)權(quán)保護;算法運行的基礎(chǔ)涉及個人隱私、信息和數(shù)據(jù)安全,需要制定和完善相關(guān)法律、法規(guī)對個人權(quán)利進行綜合性全方位保護。最后,還要通過制度頂層設(shè)計來規(guī)避和預(yù)防技術(shù)應(yīng)用于司法而附隨的各種風(fēng)險,建立法律、倫理、行業(yè)、自律相結(jié)合的“多元互動的風(fēng)險規(guī)制體系”〔35〕馬長山:《人工智能的社會風(fēng)險及其法律規(guī)制》,載《法律科學(xué)(西北政法大學(xué)學(xué)報)》2018 年第6 期。,鼓勵行業(yè)內(nèi)部協(xié)商制定倫理標準和技術(shù)標準。軟件開發(fā)設(shè)計者必須遵守一系列技術(shù)倫理規(guī)范,要把人的權(quán)利放在首位。總之,人工智能時代實現(xiàn)司法信任,不僅要對算法決策進行法律規(guī)制同時要兼顧權(quán)利保護,更要注重倫理化規(guī)制和合作治理,使得算法決策能夠贏得個體和社會的信任,成為可信賴的算法。

    (四)促進人機交互協(xié)同的司法信任重塑

    人工智能時代司法信任重塑,要處理好人類與機器的關(guān)系以及人類智能與人工智能的關(guān)系。首先,在人類與機器的關(guān)系上,必須堅持“以人為本、增強人類”〔36〕于海防:《人工智能法律規(guī)制的價值取向與邏輯前提——在替代人類與增強人類之間》,載《法學(xué)》2019 年第6 期。的人工智能法律規(guī)制原則。司法裁判實質(zhì)上是一種價值判斷。因此法官并不是簡單機械地適用法律、千篇一律作出判決。特別是在我國國情之下,法官的裁判要兼顧法律效果和社會效果的統(tǒng)一,要將符合時代要求的價值判斷、主流道德體系和社會正義理念注入司法工作過程中,要引導(dǎo)和塑造社會主義核心價值觀的形成。雖然人工智能已經(jīng)具備深度學(xué)習(xí)能力,智能系統(tǒng)會準確推送和預(yù)測類案的判決,但是法官還是要根據(jù)個案情況靈活處理,畢竟司法裁判不是簡單的是非曲直判斷,還受到政治要求、文化傳統(tǒng)、國情特色等多種社會因素的綜合影響,顯然完全依靠人工智能系統(tǒng)是無法完成司法的社會功能的。在各類復(fù)雜疑難案件中、在涉及人的生命權(quán)等關(guān)鍵性的場合,人工智能更不可能代替法官的判斷。“機器人無論以何種方式承擔(dān)責(zé)任,最終的責(zé)任承擔(dān)者都是人。”〔37〕鄭戈:《人工智能與法律的未來》,載《探索與爭鳴》2017 年第10 期?!凹幢闶恰畯娙斯ぶ悄堋瘯r代的‘奇點’到來,人類也會重新規(guī)劃自身主體地位的發(fā)展藍圖。”〔38〕馬長山:《司法人工智能的重塑效應(yīng)及其限度》,載《法學(xué)研究》2020 年第4 期。所以,人工智能時代司法信任重塑,要警惕“技術(shù)萬能論”。

    其次,在人類智能與人工智能的關(guān)系上,2018 年歐洲政治戰(zhàn)略研究中心提出應(yīng)將人工智能用于增強而不是替代人類?!八痉〝?shù)據(jù)的客觀性保障絕非僅限于數(shù)據(jù)技術(shù)性上的自信與進步,更為根本的則在于開發(fā)智能化、利用智能化的人的自律與自信?!薄?9〕湯維建:《“智慧法院”讓司法更公正、更高效》,載《人民論壇》2017 年第4 期。大數(shù)據(jù)分析本質(zhì)上是對過去經(jīng)驗的擬合,其結(jié)果只能近似,具體到個案仍存在偏差,更無法預(yù)測未來社會發(fā)展變化和司法需求。所以從長遠發(fā)展的觀點看,人工智能系統(tǒng)根本無法完全取代法官的審理。因此,在司法領(lǐng)域,要明確大數(shù)據(jù)分析、算法決策等智能系統(tǒng)僅具有輔助性地位,不能替代人類法官進行判案。“人工智能法律系統(tǒng)的開發(fā)策略應(yīng)該是‘人—機系統(tǒng)’解決方案。”〔40〕張保生:《人工智能法律系統(tǒng)——兩個難題和一個悖論》,載《上海師范大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2018 年第6 期。

    總之,人工智能時代司法信任重塑的重要課題是解決人與機器之間的信任問題。促進人機交互協(xié)同方案的關(guān)鍵問題在于如何將機器的計算能力與人的認識能力結(jié)合起來。人和機器之間必須建立高速、有效的雙向信息交互關(guān)系,人能夠?qū)崿F(xiàn)對機器的控制和指揮,可以根據(jù)需要靈活、自主地切換。所以,人工智能系統(tǒng)下必須以人為中心,并不需要尋求完全用機器取代人,人類在機器的輔助下能夠不斷拓展認知能力,即便是在復(fù)雜的環(huán)境下,人類也能夠較為精準地預(yù)測和規(guī)劃未來的發(fā)展。

    五、結(jié)語和展望

    技術(shù)的發(fā)展改變著人類司法的面貌,給司法信任帶來“賦能”與“轉(zhuǎn)型”雙重效應(yīng)。同時也要考慮到這種技術(shù)應(yīng)用的各項限度:技術(shù)無法提供實質(zhì)正義,也難以體現(xiàn)社會核心價值取向,更不能預(yù)測未來社會變化和不同司法需求。所以,技術(shù)和制度不能孤立推進,而應(yīng)融合發(fā)展、相互促進。通過人工智能技術(shù)與傳統(tǒng)司法制度的嵌入和融合,盡快在司法領(lǐng)域確立人工智能的準入規(guī)則和適用規(guī)則,積極構(gòu)建符合互聯(lián)網(wǎng)技術(shù)發(fā)展規(guī)律和司法運行規(guī)律的互聯(lián)網(wǎng)新型裁判機制,大力推進智慧司法建設(shè),從而全面提升社會公眾對司法者及其裁判能力的信任。

    無論是傳統(tǒng)司法時代還是人工智能時代,司法信任在本質(zhì)上沒有改變,都是指人們對法官及其裁判活動的信任?!皬哪撤N意義上講,在人工智能時代,充分把握我國司法實踐發(fā)展的時代機遇與有效應(yīng)對所面臨的現(xiàn)實挑戰(zhàn)的關(guān)鍵之處均在人類自身?!薄?1〕高魯嘉:《人工智能時代我國司法智慧化的機遇、挑戰(zhàn)及發(fā)展路徑》,載《山東大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2019 年第3 期。即便未來人工智能技術(shù)無限接近法官的智能水平也無法代替人類法官。人類的主體性地位以及人類對人性本真的信任根本沒有改變。人類相信將以自身的智慧和理性,進一步調(diào)動人的主觀能動性和提升對人類自身能力的信任,把人工智能馴化為提升社會公平正義的有效工具。

    猜你喜歡
    裁判法官信任
    法官如此裁判
    法官如此裁判
    法律裁判中的比較推理
    法律方法(2019年4期)2019-11-16 01:07:10
    表示信任
    清代刑事裁判中的“從重”
    法律史評論(2018年0期)2018-12-06 09:22:28
    做“德法兼修”的好法官
    紅土地(2018年8期)2018-09-26 03:19:06
    嚶嚶嚶,人與人的信任在哪里……
    桃之夭夭B(2017年2期)2017-02-24 17:32:43
    從生到死有多遠
    當(dāng)法官當(dāng)不忘初心
    紅土地(2016年10期)2016-02-02 02:45:32
    信任
    午夜激情福利司机影院| 免费在线观看成人毛片| 香蕉国产在线看| 亚洲成av人片免费观看| 九色国产91popny在线| 757午夜福利合集在线观看| 日韩欧美 国产精品| 国产精品免费一区二区三区在线| 视频区欧美日本亚洲| 男女之事视频高清在线观看| 欧美zozozo另类| 一边摸一边抽搐一进一小说| 午夜精品久久久久久毛片777| 免费在线观看亚洲国产| 国产v大片淫在线免费观看| 精品国产乱子伦一区二区三区| 超碰成人久久| 亚洲精品国产区一区二| 美女大奶头视频| 国产午夜精品久久久久久| 久久中文字幕一级| 中亚洲国语对白在线视频| 啪啪无遮挡十八禁网站| 99在线视频只有这里精品首页| 在线看三级毛片| 欧洲精品卡2卡3卡4卡5卡区| 成人18禁高潮啪啪吃奶动态图| 我的亚洲天堂| 久久精品国产综合久久久| 少妇熟女aⅴ在线视频| 欧美三级亚洲精品| 久久精品国产清高在天天线| 十八禁人妻一区二区| 一进一出抽搐动态| 免费看日本二区| 国产又黄又爽又无遮挡在线| 看片在线看免费视频| 白带黄色成豆腐渣| 在线永久观看黄色视频| 亚洲av第一区精品v没综合| 国产av又大| 中文字幕精品亚洲无线码一区 | 成年女人毛片免费观看观看9| 国产国语露脸激情在线看| 免费在线观看成人毛片| 色av中文字幕| 熟妇人妻久久中文字幕3abv| 午夜影院日韩av| 亚洲人成77777在线视频| 真人一进一出gif抽搐免费| 欧美久久黑人一区二区| 成人av一区二区三区在线看| 久久久精品欧美日韩精品| 18禁黄网站禁片午夜丰满| 中文字幕av电影在线播放| 久久久久久九九精品二区国产 | АⅤ资源中文在线天堂| 91av网站免费观看| 久久九九热精品免费| 可以在线观看的亚洲视频| 亚洲欧美精品综合久久99| 国产99久久九九免费精品| 日日夜夜操网爽| 美国免费a级毛片| 亚洲 国产 在线| 国产亚洲欧美在线一区二区| 欧美丝袜亚洲另类 | 在线永久观看黄色视频| 给我免费播放毛片高清在线观看| 两个人看的免费小视频| 精品电影一区二区在线| 亚洲精品色激情综合| 黄频高清免费视频| 91av网站免费观看| 啪啪无遮挡十八禁网站| 色精品久久人妻99蜜桃| 精品一区二区三区四区五区乱码| 在线免费观看的www视频| 亚洲成av片中文字幕在线观看| 久久精品国产亚洲av高清一级| 亚洲一卡2卡3卡4卡5卡精品中文| 精品日产1卡2卡| 亚洲精品av麻豆狂野| 少妇 在线观看| 成人三级黄色视频| 国产一区二区激情短视频| 俺也久久电影网| 最新美女视频免费是黄的| 黄网站色视频无遮挡免费观看| 国产私拍福利视频在线观看| 男人的好看免费观看在线视频 | 婷婷精品国产亚洲av| 免费av毛片视频| 高清毛片免费观看视频网站| 窝窝影院91人妻| 97碰自拍视频| 亚洲国产欧洲综合997久久, | 久久精品亚洲精品国产色婷小说| 国产午夜福利久久久久久| 波多野结衣av一区二区av| 免费观看人在逋| 精品久久蜜臀av无| 精品国产亚洲在线| 黑丝袜美女国产一区| 国产亚洲欧美98| 久久久久免费精品人妻一区二区 | 黄色视频不卡| 99国产精品一区二区蜜桃av| 伦理电影免费视频| 嫩草影视91久久| av在线天堂中文字幕| 高清毛片免费观看视频网站| 一卡2卡三卡四卡精品乱码亚洲| 又黄又粗又硬又大视频| 亚洲激情在线av| 一本一本综合久久| 高清在线国产一区| 久久精品亚洲精品国产色婷小说| 一区二区三区激情视频| 久久国产乱子伦精品免费另类| 久久久久久久久久黄片| 无人区码免费观看不卡| 老司机深夜福利视频在线观看| www日本黄色视频网| а√天堂www在线а√下载| 亚洲精品国产一区二区精华液| 一二三四在线观看免费中文在| 国产又色又爽无遮挡免费看| 精品免费久久久久久久清纯| 热99re8久久精品国产| 亚洲人成网站高清观看| 欧美日本亚洲视频在线播放| 十八禁人妻一区二区| 国产片内射在线| 韩国av一区二区三区四区| 又紧又爽又黄一区二区| 巨乳人妻的诱惑在线观看| 国产精品九九99| 十八禁人妻一区二区| 精品国内亚洲2022精品成人| 婷婷精品国产亚洲av在线| 天天添夜夜摸| 国产国语露脸激情在线看| 国产激情偷乱视频一区二区| 精品国产超薄肉色丝袜足j| av天堂在线播放| 一进一出好大好爽视频| 一级作爱视频免费观看| 午夜激情av网站| 在线永久观看黄色视频| 51午夜福利影视在线观看| 非洲黑人性xxxx精品又粗又长| 91老司机精品| 少妇 在线观看| 国产又色又爽无遮挡免费看| 中文字幕人妻熟女乱码| 超碰成人久久| 日韩欧美一区二区三区在线观看| 亚洲人成伊人成综合网2020| 成人国产综合亚洲| 国产精品日韩av在线免费观看| 国产视频内射| 激情在线观看视频在线高清| 久久中文看片网| 女警被强在线播放| 国产精品电影一区二区三区| 国产视频一区二区在线看| 亚洲国产欧美日韩在线播放| 丰满的人妻完整版| 亚洲av熟女| 两人在一起打扑克的视频| 99精品在免费线老司机午夜| 久久久久久免费高清国产稀缺| 国产私拍福利视频在线观看| 十八禁人妻一区二区| 丁香六月欧美| 国产免费av片在线观看野外av| 久99久视频精品免费| 一本大道久久a久久精品| 国产精品久久久久久精品电影 | 日韩免费av在线播放| 最近最新中文字幕大全免费视频| 欧美一级a爱片免费观看看 | 亚洲国产欧美一区二区综合| 免费在线观看日本一区| 两个人免费观看高清视频| 在线观看免费午夜福利视频| 亚洲五月色婷婷综合| 色综合站精品国产| 精品久久久久久久久久久久久 | 亚洲精品中文字幕一二三四区| 1024手机看黄色片| 国产又黄又爽又无遮挡在线| 亚洲欧美精品综合一区二区三区| 草草在线视频免费看| 成人午夜高清在线视频 | 亚洲国产精品sss在线观看| 久久久久久国产a免费观看| 亚洲色图 男人天堂 中文字幕| 国产在线精品亚洲第一网站| 亚洲中文字幕一区二区三区有码在线看 | 国产免费av片在线观看野外av| 成人午夜高清在线视频 | 中文字幕人成人乱码亚洲影| 亚洲精品粉嫩美女一区| 制服诱惑二区| 欧美日本视频| 十八禁网站免费在线| 99久久综合精品五月天人人| 国产精品久久久久久亚洲av鲁大| 91国产中文字幕| 女人爽到高潮嗷嗷叫在线视频| 黄色女人牲交| 国产97色在线日韩免费| 欧美三级亚洲精品| a级毛片在线看网站| 国产精品野战在线观看| 免费av毛片视频| 欧美色欧美亚洲另类二区| 午夜两性在线视频| 亚洲一码二码三码区别大吗| 9191精品国产免费久久| 黄片小视频在线播放| e午夜精品久久久久久久| 国产亚洲精品久久久久久毛片| 丝袜美腿诱惑在线| 精品第一国产精品| avwww免费| 国产成人一区二区三区免费视频网站| 精品国产超薄肉色丝袜足j| 日本a在线网址| 国内精品久久久久精免费| 搡老岳熟女国产| 久久久国产成人免费| 美女国产高潮福利片在线看| 成在线人永久免费视频| 黄色毛片三级朝国网站| 欧美黄色片欧美黄色片| 国产成人啪精品午夜网站| 欧美+亚洲+日韩+国产| 1024视频免费在线观看| 在线十欧美十亚洲十日本专区| 亚洲精品粉嫩美女一区| 亚洲在线自拍视频| 午夜免费观看网址| 亚洲国产精品久久男人天堂| 亚洲国产毛片av蜜桃av| 亚洲欧美激情综合另类| 亚洲全国av大片| 麻豆av在线久日| 欧美乱色亚洲激情| 亚洲av电影在线进入| 成人18禁高潮啪啪吃奶动态图| 欧美av亚洲av综合av国产av| 久久久精品国产亚洲av高清涩受| 久久久久久人人人人人| 这个男人来自地球电影免费观看| 美女国产高潮福利片在线看| 搡老妇女老女人老熟妇| 欧美日本视频| 国产精品爽爽va在线观看网站 | 一a级毛片在线观看| 免费在线观看黄色视频的| 欧美不卡视频在线免费观看 | 免费在线观看亚洲国产| 成人特级黄色片久久久久久久| 狠狠狠狠99中文字幕| 波多野结衣巨乳人妻| 久久天堂一区二区三区四区| 老司机午夜福利在线观看视频| 一进一出抽搐gif免费好疼| 母亲3免费完整高清在线观看| 亚洲av成人一区二区三| 国产精品日韩av在线免费观看| 午夜久久久久精精品| 搡老岳熟女国产| 很黄的视频免费| 在线观看www视频免费| 成人午夜高清在线视频 | 18美女黄网站色大片免费观看| 国产熟女xx| 波多野结衣高清作品| 亚洲第一电影网av| 男人舔女人下体高潮全视频| 首页视频小说图片口味搜索| 亚洲专区中文字幕在线| 大香蕉久久成人网| 一边摸一边做爽爽视频免费| 一边摸一边抽搐一进一小说| 一二三四在线观看免费中文在| 免费女性裸体啪啪无遮挡网站| 国产激情欧美一区二区| 波多野结衣高清作品| 精品久久久久久久久久久久久 | 97超级碰碰碰精品色视频在线观看| 精品国产超薄肉色丝袜足j| 99久久无色码亚洲精品果冻| 女人爽到高潮嗷嗷叫在线视频| 19禁男女啪啪无遮挡网站| 国产高清videossex| 在线视频色国产色| 国产成人欧美在线观看| 无遮挡黄片免费观看| 99久久国产精品久久久| 精品电影一区二区在线| 国产熟女午夜一区二区三区| 999精品在线视频| a级毛片在线看网站| 日本熟妇午夜| 两个人视频免费观看高清| 91九色精品人成在线观看| 国产三级黄色录像| 国产1区2区3区精品| 亚洲久久久国产精品| 欧美另类亚洲清纯唯美| 亚洲国产毛片av蜜桃av| 久久草成人影院| 2021天堂中文幕一二区在线观 | 亚洲精品久久成人aⅴ小说| 在线av久久热| 97人妻精品一区二区三区麻豆 | 久久香蕉精品热| 欧美性猛交黑人性爽| av在线天堂中文字幕| 亚洲五月婷婷丁香| 精品第一国产精品| 国产男靠女视频免费网站| 亚洲精品中文字幕一二三四区| 国产v大片淫在线免费观看| 欧美精品亚洲一区二区| 黄色视频,在线免费观看| 亚洲 欧美一区二区三区| 国产精品免费一区二区三区在线| 九色国产91popny在线| 欧美午夜高清在线| 中文在线观看免费www的网站 | 男女床上黄色一级片免费看| 我的亚洲天堂| 日韩三级视频一区二区三区| 成人欧美大片| 欧美性猛交黑人性爽| 国产激情欧美一区二区| 成人免费观看视频高清| 亚洲国产欧美网| 成人免费观看视频高清| 精品国产国语对白av| 一个人免费在线观看的高清视频| 欧美乱码精品一区二区三区| 国产精品免费一区二区三区在线| 国产97色在线日韩免费| 亚洲成人久久性| 免费人成视频x8x8入口观看| 午夜久久久在线观看| 日本免费一区二区三区高清不卡| 精品免费久久久久久久清纯| 国产熟女xx| 国产精品精品国产色婷婷| 男男h啪啪无遮挡| 国产亚洲欧美在线一区二区| 国产亚洲精品综合一区在线观看 | 给我免费播放毛片高清在线观看| 成人18禁高潮啪啪吃奶动态图| 最新在线观看一区二区三区| 国产伦一二天堂av在线观看| 久久精品国产亚洲av香蕉五月| 不卡一级毛片| 淫秽高清视频在线观看| 国产激情久久老熟女| 身体一侧抽搐| 国产精品自产拍在线观看55亚洲| 人人妻人人看人人澡| 亚洲国产欧洲综合997久久, | 1024香蕉在线观看| 亚洲欧美日韩高清在线视频| 99在线人妻在线中文字幕| 99精品在免费线老司机午夜| 亚洲av电影在线进入| 色播在线永久视频| 性色av乱码一区二区三区2| 日韩国内少妇激情av| 制服丝袜大香蕉在线| 又黄又粗又硬又大视频| 人成视频在线观看免费观看| 欧美日韩瑟瑟在线播放| 国产一区二区激情短视频| 精品熟女少妇八av免费久了| 亚洲人成电影免费在线| 亚洲自偷自拍图片 自拍| 岛国视频午夜一区免费看| 亚洲人成伊人成综合网2020| 国产精品98久久久久久宅男小说| 免费看美女性在线毛片视频| 久久久久久久久免费视频了| 午夜福利欧美成人| 99精品久久久久人妻精品| 亚洲av五月六月丁香网| 黄色视频不卡| 99久久综合精品五月天人人| 在线观看www视频免费| 黑丝袜美女国产一区| 亚洲第一电影网av| 亚洲精品在线观看二区| 在线观看午夜福利视频| 黄色毛片三级朝国网站| 午夜影院日韩av| 麻豆国产av国片精品| 波多野结衣巨乳人妻| 91麻豆精品激情在线观看国产| 十分钟在线观看高清视频www| 国产精品亚洲一级av第二区| 久久人妻福利社区极品人妻图片| 国内精品久久久久精免费| 巨乳人妻的诱惑在线观看| 18禁黄网站禁片午夜丰满| 亚洲熟女毛片儿| 最近最新中文字幕大全免费视频| 国产激情偷乱视频一区二区| 国产私拍福利视频在线观看| 国产97色在线日韩免费| 午夜视频精品福利| 这个男人来自地球电影免费观看| 女性被躁到高潮视频| www.999成人在线观看| 欧美一级毛片孕妇| 国产爱豆传媒在线观看 | 视频区欧美日本亚洲| 天堂影院成人在线观看| 久久人人精品亚洲av| 国产麻豆成人av免费视频| 精品福利观看| 亚洲人成77777在线视频| www.999成人在线观看| 亚洲欧美激情综合另类| 999精品在线视频| 欧美黑人巨大hd| 国产亚洲精品一区二区www| 国产欧美日韩精品亚洲av| 亚洲男人的天堂狠狠| 午夜免费成人在线视频| 麻豆av在线久日| 99国产精品一区二区三区| 淫秽高清视频在线观看| 高潮久久久久久久久久久不卡| 国产蜜桃级精品一区二区三区| 在线看三级毛片| 成人国产一区最新在线观看| 久久亚洲真实| 搞女人的毛片| 国产一区二区激情短视频| 亚洲人成网站高清观看| 97人妻精品一区二区三区麻豆 | 50天的宝宝边吃奶边哭怎么回事| 男女下面进入的视频免费午夜 | av电影中文网址| 国产精品一区二区三区四区久久 | 日本成人三级电影网站| 国产亚洲精品久久久久5区| 真人做人爱边吃奶动态| 欧美黑人欧美精品刺激| 色av中文字幕| 久久国产乱子伦精品免费另类| aaaaa片日本免费| 午夜视频精品福利| 亚洲精品久久国产高清桃花| 成人永久免费在线观看视频| 哪里可以看免费的av片| 黄色a级毛片大全视频| 午夜福利一区二区在线看| 亚洲一区高清亚洲精品| 999精品在线视频| 亚洲精华国产精华精| 一本大道久久a久久精品| a级毛片a级免费在线| 国产激情欧美一区二区| 欧美黄色片欧美黄色片| 高清在线国产一区| 巨乳人妻的诱惑在线观看| 精品熟女少妇八av免费久了| 午夜两性在线视频| 久久亚洲真实| 亚洲va日本ⅴa欧美va伊人久久| 亚洲人成77777在线视频| 成人欧美大片| 天堂动漫精品| 观看免费一级毛片| 亚洲激情在线av| www.熟女人妻精品国产| 国产又色又爽无遮挡免费看| 最新在线观看一区二区三区| 韩国精品一区二区三区| 久久九九热精品免费| 亚洲中文字幕日韩| 亚洲五月婷婷丁香| 午夜两性在线视频| 久久性视频一级片| 国产视频一区二区在线看| 午夜福利在线观看吧| 欧美国产精品va在线观看不卡| av在线天堂中文字幕| 国产1区2区3区精品| 久久久水蜜桃国产精品网| 亚洲 欧美一区二区三区| 亚洲,欧美精品.| 在线播放国产精品三级| 国产又爽黄色视频| 最新在线观看一区二区三区| 久久久久亚洲av毛片大全| 后天国语完整版免费观看| 国产精品亚洲一级av第二区| 免费看十八禁软件| 久久国产精品影院| 一级片免费观看大全| 欧美精品亚洲一区二区| 大型av网站在线播放| 熟妇人妻久久中文字幕3abv| 免费看美女性在线毛片视频| 亚洲av片天天在线观看| 欧美性猛交黑人性爽| 波多野结衣巨乳人妻| 国产亚洲欧美在线一区二区| 精品高清国产在线一区| 午夜福利18| 在线观看免费午夜福利视频| 精品电影一区二区在线| 可以在线观看的亚洲视频| 老熟妇仑乱视频hdxx| 中文字幕人妻熟女乱码| 亚洲国产欧美日韩在线播放| 一本一本综合久久| 999久久久精品免费观看国产| 精品欧美国产一区二区三| 成人av一区二区三区在线看| x7x7x7水蜜桃| 亚洲欧美日韩无卡精品| 欧洲精品卡2卡3卡4卡5卡区| 黄片小视频在线播放| 亚洲人成网站高清观看| 波多野结衣高清作品| 日韩大尺度精品在线看网址| 啦啦啦 在线观看视频| 看黄色毛片网站| 亚洲无线在线观看| 好看av亚洲va欧美ⅴa在| 黑丝袜美女国产一区| 好看av亚洲va欧美ⅴa在| 精品免费久久久久久久清纯| 又黄又爽又免费观看的视频| 久久精品91无色码中文字幕| 日本成人三级电影网站| 大香蕉久久成人网| 999精品在线视频| 日韩有码中文字幕| 国产精品综合久久久久久久免费| 最近在线观看免费完整版| ponron亚洲| 三级毛片av免费| 2021天堂中文幕一二区在线观 | 亚洲 国产 在线| 亚洲欧美激情综合另类| 波多野结衣av一区二区av| 精品久久久久久成人av| 国产精品免费一区二区三区在线| 怎么达到女性高潮| 波多野结衣高清作品| 黄色毛片三级朝国网站| 露出奶头的视频| 国产精品亚洲美女久久久| 大型av网站在线播放| 侵犯人妻中文字幕一二三四区| 桃红色精品国产亚洲av| 天天躁夜夜躁狠狠躁躁| 97超级碰碰碰精品色视频在线观看| 无遮挡黄片免费观看| 亚洲欧美精品综合久久99| 久久精品国产亚洲av香蕉五月| 久久国产精品人妻蜜桃| 亚洲精品粉嫩美女一区| 久久久久免费精品人妻一区二区 | 欧美另类亚洲清纯唯美| 国产91精品成人一区二区三区| 亚洲在线自拍视频| 色综合站精品国产| 少妇熟女aⅴ在线视频| 日韩大码丰满熟妇| 国产高清视频在线播放一区| 成年免费大片在线观看| av在线播放免费不卡| 久久人妻av系列| 长腿黑丝高跟| 国产亚洲精品综合一区在线观看 | 国产精品久久久久久人妻精品电影| 日韩中文字幕欧美一区二区| 国产欧美日韩一区二区精品| 91字幕亚洲| 女人被狂操c到高潮| 波多野结衣高清作品| 国产精品一区二区精品视频观看| 精品无人区乱码1区二区| 免费电影在线观看免费观看| 亚洲国产精品合色在线| 欧美人与性动交α欧美精品济南到| 欧美日本亚洲视频在线播放| 国产久久久一区二区三区| 国产精品一区二区三区四区久久 | 国产精华一区二区三区| 少妇粗大呻吟视频| 97超级碰碰碰精品色视频在线观看| 午夜a级毛片| 啦啦啦观看免费观看视频高清| 中文字幕另类日韩欧美亚洲嫩草| 久久国产精品影院| 在线观看免费午夜福利视频| 亚洲成人精品中文字幕电影| 日本三级黄在线观看| www.999成人在线观看|