• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智慧司法的實踐與探索

    2020-02-24 08:27:12
    山東警察學(xué)院學(xué)報 2020年1期
    關(guān)鍵詞:裁判法官司法

    石 穎

    (西北政法大學(xué)研究生院,陜西 西安 710000)

    在互聯(lián)網(wǎng)、大數(shù)據(jù)乃至人工智能技術(shù)飛速發(fā)展的時代背景下,司法科技也獲得了前所未有的發(fā)展。智慧司法是司法信息化建設(shè)發(fā)展的新階段,它更能理解和滿足司法審判和涉訴人員之間的法律交往需要,并為其提供快捷高效的司法服務(wù),促進(jìn)司法管理與司法運(yùn)行體系的信息化、智能化,是司法領(lǐng)域的科技革命,亦是新一輪司法體制改革的現(xiàn)實所需。智能科技在為司法實踐帶來便利的同時,也帶來了值得在學(xué)理上作以思考的很多問題。本文擬就智慧司法的比較優(yōu)勢及其在理論、技術(shù)、實踐層面存在的具體問題進(jìn)行分析,并作出探索性回應(yīng),以期能夠助力于未來智慧司法實踐的發(fā)展。

    一、智慧司法的智識運(yùn)用與當(dāng)前實踐

    智慧司法是一種以算法、大數(shù)據(jù)、人工智能、“互聯(lián)網(wǎng)+”等現(xiàn)代信息科技手段為基礎(chǔ),以法律代碼化、司法數(shù)據(jù)化為特征的,以智能感知、智能認(rèn)知、智能識別、智能計算以及智能決策等功能為表現(xiàn)的,旨在促進(jìn)司法公平正義、提高司法效率、解決司法難題的智慧化司法模式。廣義上的智慧司法是含括公、檢、法等司法系統(tǒng)在內(nèi)的智慧體系建設(shè)。在不同的機(jī)關(guān)系統(tǒng)與司法實踐領(lǐng)域中也有著不同的智慧應(yīng)用模式,分別形成智慧公安、智慧檢務(wù)與智慧法院等相區(qū)別的實踐模式。本文所指稱的“智慧司法”是狹義上智慧司法的指代,主要限定于法院的智慧司法實務(wù),是將人類法官的司法智慧與人工智能、信息技術(shù)、互聯(lián)網(wǎng)、大數(shù)據(jù)等前沿科技深度融合來提高司法審判效能、改善司法管理體制,促進(jìn)司法公平正義的實現(xiàn)與司法體制改革的不斷深入。

    司法信息化建設(shè)是司法現(xiàn)代化的必經(jīng)之路,亦是必然結(jié)果,智慧司法則是司法信息化建設(shè)的重要環(huán)節(jié)與轉(zhuǎn)型升級,其旨在建成囊括司法裁判、法律數(shù)據(jù)公開、司法流程監(jiān)控、司法人員輔助、判決執(zhí)行等在內(nèi)的大數(shù)據(jù)應(yīng)用平臺及電子信息設(shè)施。已有的智慧司法典型實踐,如上海市浦東新區(qū)人民法院的智慧司法應(yīng)用主要包括:以智能導(dǎo)訴機(jī)器人為代表,打造出智能化的訴訟服務(wù)大廳;由二維碼生成的自助立案系統(tǒng)逐漸取代傳統(tǒng)的人工立案模式,在當(dāng)事人排號后,可通過掃描二維碼,自助進(jìn)行所訴案件的信息預(yù)錄,從而生成自己案件的專屬二維碼,而后承辦法官便可通過掃描該案件的專屬二維碼導(dǎo)入案件信息,這樣一來就極大縮短了立案時間、節(jié)約了人力成本,在不增加司法人員編制的情況下,提高了“司法生產(chǎn)力”,并為后續(xù)的審判工作做好了數(shù)據(jù)信息的前期鋪墊;在庭審過程中,運(yùn)用人工智能語音識別技術(shù),對庭審現(xiàn)場的語音信息進(jìn)行電子化快速錄入,準(zhǔn)確高效地生成庭審筆錄文件;人工智能圖像識別技術(shù),可將傳統(tǒng)的紙質(zhì)卷宗材料予以電子圖像化掃描存儲,繼而導(dǎo)進(jìn)法院審判管理信息系統(tǒng),自動回填輸入案件的各項數(shù)據(jù),最終實現(xiàn)無紙化閱卷審判。此外,海量化存儲的司法數(shù)據(jù)信息能夠為法官審理案件提供法律檢索(適用法條推送)、類案檢索(包括關(guān)聯(lián)案件與相似案件)、案情分析判斷、爭議焦點歸納乃至裁判結(jié)果預(yù)測、裁判文書生成等智能化司法服務(wù)。其中,刑事案件的人工智能辦案系統(tǒng)還具有審查逮捕條件與證據(jù)全鏈、評估社會危險性及再犯可能性等智能化功能。

    智慧司法應(yīng)用系統(tǒng)在數(shù)據(jù)處理和人工智能、算法的共同作用下,以司法系統(tǒng)內(nèi)部數(shù)據(jù)信息、各大電信網(wǎng)絡(luò)運(yùn)營商及互聯(lián)網(wǎng)企業(yè)、銀行等的數(shù)據(jù)資源為基礎(chǔ),憑借網(wǎng)絡(luò)、存儲和終端設(shè)備的支持輔助,最終得以應(yīng)用于整個審判流程中。

    智慧司法是一個龐大和復(fù)雜的應(yīng)用體系,需要先進(jìn)的理論指導(dǎo)、前沿的技術(shù)應(yīng)用以及考究的司法實踐。以上列舉的智慧司法實踐操作,是我國智慧司法智識運(yùn)用的典型,亦是建構(gòu)新司法模式的成功啟航。

    二、智慧司法的比較優(yōu)勢

    智慧司法是信息化建設(shè)的進(jìn)階,為的是助力于實現(xiàn)審判體系和審判能力現(xiàn)代化的司法體制改革目標(biāo)。“審判執(zhí)行、司法公開、訴訟服務(wù)、法院管理、司法監(jiān)督、司法決策智能化”[2]均作為智慧司法的典型應(yīng)用場景而發(fā)揮著日益重要的作用。智能系統(tǒng)的應(yīng)用對司法公正的實現(xiàn)、審判質(zhì)效的提高有著極其重要的作用。在總結(jié)實踐經(jīng)驗的過程中,智慧司法的比較優(yōu)勢也日益彰顯出來。

    (一)生產(chǎn)正義的方式變革

    智慧司法改變了司法生產(chǎn)正義的方式以及當(dāng)事人實現(xiàn)正義的途徑。以“網(wǎng)絡(luò)化、陽光化、智能化”為典型特征的智慧司法模式為司法實踐難題提供了科學(xué)化的解決方案。其中的“智能輔助辦案系統(tǒng)”與“互聯(lián)網(wǎng)法院建設(shè)”更是為實現(xiàn)公平正義提供了有力的現(xiàn)代化科技支撐,極大提高了司法水平,解放了司法生產(chǎn)力,并開啟了智慧司法新時代。

    1.智能輔助辦案系統(tǒng)

    將人工智能應(yīng)用在司法辦案流程中,極大緩解了法官的“訴累”,分別在上海、北京、重慶等地有了很好的實踐表率。

    上海民事、行政案件智能輔助辦案系統(tǒng)實現(xiàn)了從立案到訴前、庭前、庭審再到評議、裁判等全司法流程的智能化?!傲鸽A段:案件受理標(biāo)準(zhǔn)審查、訴訟費繳納智能提示、程序性文書智能生成;訴前調(diào)解階段:明確訴請、明確抗辯主張、明確事實與理由;庭前階段:智能閱卷、無爭議事實預(yù)歸納、爭議焦點預(yù)歸納、證據(jù)缺失性檢驗、證據(jù)合規(guī)性校驗、要件式庭審提綱構(gòu)建;庭審階段:無爭議事實歸納、爭議焦點歸納、庭審程序智能提示、庭審無紙化質(zhì)證、庭審筆錄智能生成;評議階段:合議無紙化示證、評議筆錄智能生成;裁判階段:法條推送、類案推送、裁判結(jié)果預(yù)判斷、文書模型智能匹配、裁判文書智能生成、裁判偏離度提示;知識指引:辦案要件指引、證據(jù)審查判斷指引。”[2]

    北京市高級人民法院的“睿法官”辦案系統(tǒng),通過大數(shù)據(jù)檢索和算法技術(shù)模擬,再現(xiàn)法官辦案的思維方式,依據(jù)收案源、案由、管轄及敏感信息等立案數(shù)據(jù)信息進(jìn)行案件的繁簡劃分與智能分級,從而進(jìn)行案件分配。同時輔助法官進(jìn)行事實、證據(jù)的校驗復(fù)核、定罪量刑的具體研判分析,通過為法官提供高效率的輔助支持,促進(jìn)了審判效率的提升與精細(xì)化、精準(zhǔn)化數(shù)據(jù)結(jié)構(gòu)分析的實現(xiàn),增強(qiáng)了法官的審判能力,進(jìn)一步優(yōu)化提升了司法審判資源,使審判各環(huán)節(jié)基本實現(xiàn)了數(shù)字化。

    重慶市人民法院所打造的智能化電子法院,實現(xiàn)了“6E”,即“E訴訟、E送達(dá)、E調(diào)解、E庭審、E公開、E執(zhí)行”,[3]做到了網(wǎng)上立案(起訴書智能生成、一鍵智能批量立案)、庭審裁判(語音智能轉(zhuǎn)化文書、庭審現(xiàn)場直播、互聯(lián)網(wǎng)視頻化開庭)、偏離預(yù)警(統(tǒng)一化的裁判尺度)、文書送達(dá)流程監(jiān)控(電子化文書送達(dá)與信息智能分析及送達(dá)情況實時反饋系統(tǒng))、信息交互(訴訟與調(diào)解實時對接轉(zhuǎn)化、智能電子化調(diào)解)以及執(zhí)行案款的賬號管理系統(tǒng)、失信懲戒互聯(lián)等智能便捷的司法實踐操作。

    通過智能輔助辦案系統(tǒng),類案與關(guān)聯(lián)案件檢索推送機(jī)制在一定程度上實現(xiàn)了理想狀態(tài)下的司法實體公正。以往,法官因個人價值觀、法學(xué)學(xué)科背景及專業(yè)素養(yǎng)的不同,對法律法條、原則規(guī)范有著不同的理解和運(yùn)用,以致會對類似的案件或同樣的案件作出截然相反的司法裁判。如此的裁判不統(tǒng)一、不類判現(xiàn)象并不鮮見,嚴(yán)重?fù)p害了司法權(quán)威與司法公信力。而在智慧司法中,司法案例得以被全面系統(tǒng)地電子規(guī)范化整理建構(gòu),遴選出具有高度參考性價值與指導(dǎo)性意義的“類案”,建立起可有效適用的司法案例大數(shù)據(jù)庫。對不同類型的司法歷史案例數(shù)據(jù)進(jìn)行“標(biāo)簽化”,使得日后的數(shù)據(jù)匹配更加精準(zhǔn);對不同來源、不同質(zhì)量的案例進(jìn)行“結(jié)構(gòu)化”,以便依據(jù)“指導(dǎo)性案例”、“公報案例”、“典型案例”或“一般案例”的不同結(jié)構(gòu)標(biāo)識進(jìn)行不同案例質(zhì)效的參考適用。再通過提取待決案件的事實、情節(jié)和要素,對比以上標(biāo)簽化和結(jié)構(gòu)化了的司法案例大數(shù)據(jù)庫,為法官推送類似的已決案例,作為待決案件的參考標(biāo)準(zhǔn),實現(xiàn)“類案推送”司法裁判裁量標(biāo)準(zhǔn)的相對統(tǒng)一化。

    借助智能輔助辦案系統(tǒng),司法機(jī)關(guān)開啟了案件辦理的智能化大門,法官結(jié)案率大幅提升,一定程度上破解了案多人少的司法難題,提升了訴訟服務(wù)質(zhì)量,提高了司法文明指數(shù)。同時,也規(guī)范了法官自由裁量權(quán)的行使,實現(xiàn)了法律適用標(biāo)準(zhǔn)的統(tǒng)一、證據(jù)采信和案件審辦的質(zhì)效改善,對于矛盾糾紛的化解和司法任意性的規(guī)避意義重大,塑造了智慧司法的新形態(tài)。

    2.互聯(lián)網(wǎng)法院的開設(shè)

    得益于互聯(lián)網(wǎng)技術(shù)的發(fā)展與應(yīng)用,傳統(tǒng)司法庭審中的溝通交往媒介有了更新,開啟了以跨域立案、跨域案件網(wǎng)上審理甚至跨域案件執(zhí)行等為標(biāo)志的遠(yuǎn)程智慧司法模式。2017 年 8 月,我國首家互聯(lián)網(wǎng)法院在浙江省杭州市揭牌成立,利用科技法庭的遠(yuǎn)程庭審、提訊、證據(jù)交換與質(zhì)證,同步錄音錄像,實現(xiàn)了網(wǎng)上跨時空訴訟,將區(qū)塊鏈、5G信息技術(shù)融入其中,實現(xiàn)了以實時交互的形式在線完成從案件起訴、登記立案、舉證,到開庭審理、裁判、直至文書送達(dá)和執(zhí)行的全部審理流程。在異地執(zhí)行和解的情況下,雙方通過在線筆錄確認(rèn)和全程視頻錄像的方式將彼此的意思表示予以準(zhǔn)確記錄,并以電子卷宗的形式進(jìn)行書面檔案留存,創(chuàng)新了執(zhí)行模式。同時,在執(zhí)行過程中,通過視頻、音頻以及電子送達(dá)平臺,實現(xiàn)了對執(zhí)行全流程、各階段的可控可視與規(guī)范監(jiān)督。創(chuàng)造出智慧失信懲戒模式,以在線布控的方式督促失信被執(zhí)行人自覺履行生效裁判文書。

    如此的操作模式,開創(chuàng)了全新的網(wǎng)絡(luò)空間司法應(yīng)用場景,讓訴訟當(dāng)事人不再為異地開庭而奔波勞碌,浪費時間與金錢,降低了訴訟的成本,同時也縮短了法院的案件審理期限,提高了訴訟效率。這是互聯(lián)網(wǎng)時代司法高效化、快捷化與便利化的重要舉措,是智慧司法實踐的又一成果展現(xiàn)。司法信息化建設(shè)本身是司法領(lǐng)域的數(shù)字革命,互聯(lián)網(wǎng)法院是智慧司法在物質(zhì)形態(tài)方面的具體表現(xiàn)之一,是互聯(lián)網(wǎng)科技的產(chǎn)物,是法院信息化建設(shè)的重要環(huán)節(jié)。

    (二)司法公正的無限接近

    司法公正是司法實踐永恒追求的目標(biāo),反映在合理的司法制度、正當(dāng)?shù)乃痉ǔ绦颉⒏邔I(yè)素養(yǎng)的司法辦案人員以及案件當(dāng)事人對最終裁判結(jié)果的接受度等方面。智慧司法中,司法人員將借助人工智能實現(xiàn)電子化信息辦案,以案卷電子錄入為起點,通過司法大數(shù)據(jù)檢索,實現(xiàn)法律法規(guī)定向推送、類案識別、案件推理與文書生成等一系列辦案流程的智能化,充分利用數(shù)據(jù)分析優(yōu)勢,提煉司法智慧,從而極大減輕了法官的事務(wù)性工作壓力,提高了司法辦案效率,促進(jìn)了司法公正的無限接近。

    1.智能科技促進(jìn)司法公開

    “陽光是最好的防腐劑,公開是最有效的監(jiān)督。”[4]司法公開能夠讓民眾充分了解司法運(yùn)作與內(nèi)部程序,從而對法院的司法裁判予以認(rèn)可,也通過司法公開加強(qiáng)了對司法活動的監(jiān)督制約,促進(jìn)司法裁判的公平正義。

    憑借“互聯(lián)網(wǎng)+”、大數(shù)據(jù)、人工智能等現(xiàn)代科技手段,我們比以往更易實現(xiàn)陽光司法的理想目標(biāo)。目前,我國三大司法公開平臺(中國審判流程信息公開網(wǎng)、中國裁判文書網(wǎng)、中國執(zhí)行信息公開網(wǎng))的建立與運(yùn)用對司法公開透明的實現(xiàn)起到了極大的助推作用。

    具言之,通過審判流程公開、庭審現(xiàn)場直播、司法裁判文書網(wǎng)上公開、執(zhí)行信息網(wǎng)上公開以及依據(jù)經(jīng)驗法則對算法建模,讓司法成為科學(xué),讓司法過程的追溯有據(jù)可循;利用虛擬化與超融合技術(shù),進(jìn)行司法大數(shù)據(jù)的集中采集、存儲與分析運(yùn)算;利用物聯(lián)網(wǎng)技術(shù),實現(xiàn)司法辦案場所的網(wǎng)絡(luò)信息化、智能化建設(shè)。通過高度信息化與智能化的司法活動實現(xiàn)了司法過程規(guī)范化與標(biāo)準(zhǔn)化,促進(jìn)了司法公開與司法效率的提升。人工智能的“法官辦案全程行為記錄”可對法官行為進(jìn)行隱性約束與預(yù)警,增加了審判過程的公開與透明,從而有效減少甚至避免了司法恣意,并使責(zé)任追究有了明確依據(jù)。通過互聯(lián)共享的方式,提高了司法效率,及時實現(xiàn)了司法公平正義。

    2.冤假錯案的監(jiān)控規(guī)避

    智慧司法能夠在一定程度上彌補(bǔ)人類缺陷,增強(qiáng)司法能力,由人工智能系統(tǒng)進(jìn)行證據(jù)的分析審查、校驗把關(guān)和認(rèn)定,能夠避免因人為識別的認(rèn)識偏差甚至是惡意扭曲事實所造成的案件事實認(rèn)定錯誤,從而避免冤假錯案的產(chǎn)生;高度格式化、規(guī)范化的程序使人工智能系統(tǒng)能夠毫無紕漏地審查認(rèn)定全案證據(jù)鏈,避免人工操作時產(chǎn)生的證據(jù)遺漏,保證案件證據(jù)識別的全面、準(zhǔn)確,充分發(fā)揮了智能化的工具理性。

    此外,因鑲嵌進(jìn)的人工智能技術(shù)依靠的更多是技術(shù)理性(或稱“機(jī)器理性”),且實現(xiàn)了案件流程的自動化留痕留跡,故做到了全面、實時、動態(tài)、自動化監(jiān)督。當(dāng)司法人員的辦案行為不符合智能系統(tǒng)所預(yù)設(shè)的標(biāo)準(zhǔn)時,將受到系統(tǒng)預(yù)警,從而在一定程度上杜絕了司法中的暗箱操作、權(quán)力尋租等情況,對權(quán)利的維護(hù)和救濟(jì)提供了更為接近正義的實現(xiàn)方式。

    由此視之,智慧司法在一定程度上帶來了更有成效的司法公平、正義、精確和效率,降低了冤假錯案發(fā)生的可能性。

    3.類案類判的理想實現(xiàn)

    類案類判是判斷和衡量司法裁量與審判是否公正的重要標(biāo)準(zhǔn),更是民眾樸素正義觀的直接認(rèn)知,對司法公信力的提高意義重大。每一份司法裁判的作出都摻雜著法官個人的司法理念與價值判斷,與法官的專業(yè)素養(yǎng)、對法律條文和法理的理解把握密切相關(guān)?!笆聦嵪嗤陌讣诓煌ㄔ荷踔镣环ㄔ旱牟煌ü僦锌赡艹霈F(xiàn)大相徑庭的判決,由此導(dǎo)致的裁判不統(tǒng)一現(xiàn)象嚴(yán)重?fù)p害了法律權(quán)威?!盵5]

    案例是司法智慧的結(jié)晶,善于從案例中吸取經(jīng)驗教訓(xùn),能夠促進(jìn)裁判尺度的統(tǒng)一、司法公正的實現(xiàn),最終使司法審判能夠更好地契合經(jīng)濟(jì)社會發(fā)展和時代的需要。司法案例作為重要的司法數(shù)據(jù)資源,要予以充分有效利用。智慧司法在審理裁判案件中側(cè)重于運(yùn)用歸納推理法,運(yùn)用相應(yīng)的算法技術(shù),使得最終的裁判結(jié)果推送無限接近于必然性結(jié)論,實現(xiàn)了類案類判的司法審判目標(biāo)。

    (三)審判質(zhì)效的科技提升

    智慧司法利用算法技術(shù)的科技理性實現(xiàn)了司法管理的科學(xué)化與司法卷宗的電子化,從而極大提高了司法效率和司法精準(zhǔn)率,節(jié)省了法官在簡單事務(wù)性工作中所耗費的時間精力,從而可以將更多精力分配至技術(shù)性的判案工作中,因此降低了案件審理成本,提高了司法辦案質(zhì)量。

    1.司法管理科學(xué)化:內(nèi)部管理更加精細(xì)

    運(yùn)用現(xiàn)代科技手段,智慧司法實現(xiàn)了對整個司法審判執(zhí)行活動的動態(tài)監(jiān)管監(jiān)控,實現(xiàn)了包括人員和環(huán)節(jié)在內(nèi)的監(jiān)督和制約,真正做到了案件流程管理精細(xì)化和公開化?!跋啾扔谟煞ü偕陥?、庭室與所在法院統(tǒng)計并逐級上報進(jìn)行考核,人工智能機(jī)器在審判輔助系統(tǒng)的協(xié)助下能夠全方位、迅捷、客觀地對法官審判工作進(jìn)行考核,同時也是一種監(jiān)督。在人工智能的背景下,如果法官怠于工作、在裁剪認(rèn)定事實或者選擇構(gòu)造法律規(guī)范時,故意歪曲事實枉法裁判,就會被系統(tǒng)識別,掌控者將能夠及時發(fā)現(xiàn)?!盵6]

    2.司法卷宗電子化:外部審判更加高效

    智慧司法建設(shè)的一項基礎(chǔ)性環(huán)節(jié),即庭審電子化,實現(xiàn)從文書記錄到網(wǎng)絡(luò)開庭再到檔案存儲的電子化,并被作為構(gòu)建司法數(shù)據(jù)庫的重要數(shù)據(jù)來源。電子卷宗隨案同步生成并予以流轉(zhuǎn)應(yīng)用是智慧司法的關(guān)鍵步驟,電子卷宗對紙質(zhì)卷宗的替代,改變了傳統(tǒng)法官的辦案習(xí)慣,有效提升了司法審判質(zhì)效?!半S著電子卷宗隨案生成技術(shù)的全面應(yīng)用,法官和管理者可以在網(wǎng)上卷宗系統(tǒng)中輕松查閱從立案開始生成的所有卷宗材料,開展電子案件應(yīng)用,為審判工作的智能輔助功能和審判流程的可視化管理提供數(shù)據(jù)支撐。”[7]

    立案階段的電子化,體現(xiàn)在以二維碼自助立案系統(tǒng)的案件信息預(yù)錄導(dǎo)入上,從而避免了人工立案時的各項繁瑣紙質(zhì)文書;庭審現(xiàn)場則運(yùn)用人工智能語音識別來對現(xiàn)場語音予以電子化記錄記載,免去了手動輸入庭審記錄等的簡單事務(wù)性工作,極大解放了人力,同時避免了手動記錄的誤差或所加入的會影響客觀真實性的個人概括歸納與個人理解成分。

    由此可見,大數(shù)據(jù)與人工智能的發(fā)展改變著司法的原有秩序,技術(shù)規(guī)律與司法規(guī)律有機(jī)結(jié)合而打造出的智慧司法將成為新的司法業(yè)態(tài)。從2013年司法裁判文書數(shù)據(jù)的網(wǎng)絡(luò)公開開始,法律文書數(shù)據(jù)檢索進(jìn)程獲得極大發(fā)展,而此階段更多的只是一種淺層次的“數(shù)據(jù)挖掘”,并沒有真正開發(fā)出司法數(shù)據(jù)的價值,未來要更注重對數(shù)據(jù)的深層次挖掘利用。除了通過數(shù)據(jù)精準(zhǔn)分析與比對預(yù)測案件裁判結(jié)果外,還可以利用法律數(shù)據(jù)去預(yù)測分析經(jīng)濟(jì)社會發(fā)展中的糾紛爆發(fā)態(tài)勢,以便及早作出應(yīng)對措施。

    三、智慧司法存在的問題

    事物的發(fā)展并非一帆風(fēng)順,新事物的產(chǎn)生必然要經(jīng)過曲折發(fā)展之路,智慧司法也并不是完美無缺的,還存在著在理論、技術(shù)與實踐層面的問題、缺陷或挑戰(zhàn)。

    波斯納曾說道:“對于公平正義的追求,不能無視代價?!盵8]由技術(shù)和法律有機(jī)融合而成的智慧司法,對司法認(rèn)知、司法行為、法律方法以及司法倫理、司法價值等方面均帶來了巨大沖擊。人工智能對司法的介入雖為時代發(fā)展之所趨,為人們所推崇,但亦存在一些不同的聲音。如法國政府在前不久出臺的《司法改革法》中規(guī)定:“不得為了評價、分析、比較或預(yù)測法官和司法行政人員的職業(yè)行為而重復(fù)使用其身份數(shù)據(jù)?!边@一條款直接禁止了對司法公開數(shù)據(jù)(包括先前案件的行為數(shù)據(jù))的統(tǒng)計利用,排斥了法律人工智能對法官決策模式的分析與標(biāo)識。如此視之,人們對智慧司法的應(yīng)用與發(fā)展并非一味推崇,“智能技術(shù)在提高司法角色的決策能力、司法決策的精確性之同時,也裹挾著巨大的風(fēng)險,由該技術(shù)理性所帶來的負(fù)面影響與風(fēng)險挑戰(zhàn)正越發(fā)凸顯。”[9]

    (一)理論層面:智慧司法的司法智慧缺失問題

    以算法、大數(shù)據(jù)、人工智能、“互聯(lián)網(wǎng)+”等現(xiàn)代信息科技手段為基礎(chǔ)形成的智慧司法反而也因此缺失了“司法智慧”,缺少了人類法官的理性思考,這樣的機(jī)械司法裁判所得到的是一種“形式正義”,并不能真正解決社會大眾對司法“溫度正義”的追求。具體而言,智慧司法的司法智慧缺失問題表現(xiàn)在以下幾個方面:

    1.司法親歷性的喪失

    “司法親歷性, 是指司法人員應(yīng)當(dāng)親身經(jīng)歷案件審理的全過程,直接接觸和審查各種證據(jù),特別是直接聽取訴訟雙方的主張、理由、依據(jù)和質(zhì)辯,直接聽取其他訴訟參與人的言詞陳述,并對案件作出裁判,以實現(xiàn)司法公正?!盵10]親歷性的司法規(guī)律也向我們提出了智慧司法能否替換人的問題,因為司法案件事實往往微觀、具體且復(fù)雜,需要司法人員在場聆聽、觀察并運(yùn)用心證來進(jìn)行真假判斷與是非認(rèn)定。而要想真正實現(xiàn)司法公正與程序正義,亦需要司法人員親身親歷并靈活掌握和運(yùn)用司法權(quán)進(jìn)行智識性的司法判斷,這些都需要人類對法律精神、法律原理及法律規(guī)則的深切理解與運(yùn)用,賦予充分且必要的人文關(guān)懷與思維判斷。反觀智慧司法所運(yùn)用的數(shù)據(jù)系統(tǒng)與人工智能判案系統(tǒng),其作出的司法裁判往往是“基于對案件信息的接收、基于對以往判決的梳理。在此,系統(tǒng)原理設(shè)計的科學(xué)性,完全取代了對原先程序正義所要求的親歷性”[11]。

    司法存在著很大的經(jīng)驗分析因素,司法智慧是一種在司法實務(wù)中反復(fù)運(yùn)用并提煉積累下來的可以指導(dǎo)后續(xù)司法裁判的實踐理性。從司法裁判的具體思維入手,可以觀察到法官親歷在其中的重要性:通過法律推理,即以法律適用的大、小前提來建立邏輯推理和法律證立的基本框架,針對較為疑難復(fù)雜的案件與過去的司法案例進(jìn)行檢索對比,謀求合理恰當(dāng)?shù)姆山忉屌c事實評價,得出相應(yīng)的論證理據(jù);與此同時,法官要進(jìn)行具有自我價值取向意義的內(nèi)心權(quán)衡,融入自己的司法認(rèn)知,并對相關(guān)社會利益和社會價值判斷進(jìn)行衡量,得出最終結(jié)論,以增強(qiáng)裁判結(jié)果的可接受度。

    基于司法親歷性、經(jīng)驗性與判斷性的自身規(guī)律,運(yùn)用人工智能模擬法官裁判的智慧司法無法完全取代人類法官。智慧司法所實現(xiàn)的乃是一種機(jī)械正義,在一定程度上打破了親歷性的司法規(guī)律,也因此失去了可得運(yùn)用人類法官司法智慧的可能。

    2.司法裁判三維空間的缺失

    傳統(tǒng)意義上的法律適用或司法裁判往往是在“規(guī)則”與“事實”二維空間之中尋得適當(dāng)聯(lián)結(jié)點,也即將待決案件事實歸攝于相應(yīng)的規(guī)范(規(guī)則)體系內(nèi),以作出合法的司法裁判。但這種單純尋求對應(yīng)法律而適用的方法,于今日之社會背景已然無法完全契合運(yùn)用?,F(xiàn)代司法更強(qiáng)調(diào)的是將裁判置于具體社會情境中,使之符合當(dāng)下社會價值觀念、社會利益格局甚至社會行為模式?!胺ü俚乃季S活動實質(zhì)上已從‘規(guī)則—事實’的二元空間延伸至‘規(guī)則—事實—社會情境’的三維空間?!盵12]法律是社會的產(chǎn)物,司法更是在社會中方才得以有效適用,而社會情境又是在不斷變化的,相關(guān)社會觀念、社會價值、社會評價以及利益趨向、利益格局亦在不斷變化,而“實質(zhì)正義本身隱含了對案件獨特性、差異性和鮮活性的考量和追求,唯有法官的裁量智慧才能保持天平的衡平?;蛟S人工智能比法官更聰明,但始終不能復(fù)制法官智慧的真諦。 ”[13]如此視之,司法本應(yīng)達(dá)成的實質(zhì)正義乃是一種“溫度正義”,是考量了具體案件的獨特性與差異性,并融入法官的社會生活經(jīng)驗與人文關(guān)懷而形成的司法裁量智慧,以實現(xiàn)案結(jié)事了、社會關(guān)系修復(fù)的目標(biāo)。

    總之,智慧司法依托技術(shù)理性來模擬人類法官的裁判過程,從而實現(xiàn)對案件的判決裁定,但是這一過程乃以形式正義為基本遵循,進(jìn)行冰冷的機(jī)械裁判,并不能完全習(xí)得人類法官司法裁判中的司法智慧,無法體察具體的社會價值判斷與社會情境,尚停留在“規(guī)則-事實”二分階段。

    3.情理、習(xí)慣與地方性知識的忽略

    機(jī)器智慧憑借科技理性,能夠為案件審理中的證據(jù)認(rèn)證部分提供指引、檢驗與監(jiān)督,無情感的機(jī)器與系統(tǒng)為司法裁判提供了整體相對統(tǒng)一的推理、判斷和評價標(biāo)準(zhǔn),使最終的裁判結(jié)果具有相對一致性。但是,其很難對法官的人性、道德、情理、習(xí)慣乃至地方性知識等需要發(fā)揮司法主觀能動性和經(jīng)驗理性的、有溫度的智慧進(jìn)行模仿和學(xué)習(xí),亦難將這些因素通過算法代碼的方式轉(zhuǎn)化成人工智能技術(shù)以得到同樣的裁判結(jié)果。

    在中國有著獨特法治資源的國情下,“情”是非常重要的司法裁判因素,“習(xí)慣”與“地方性知識”亦是不可忽視的裁判要素。如蘇力教授所言:“盡管在當(dāng)代中國制定法對習(xí)慣采取了某種貶抑、有時甚至明確予以拒絕的態(tài)度,但習(xí)慣還是頑強(qiáng)地在司法實踐中體現(xiàn)出來,對司法的過程和結(jié)果都有重大影響,甚至實際置換了或改寫了制定法?!盵14]中國司法有著獨特的特征,人工智能在進(jìn)行司法裁判時,并不能很好地理解這些地方性知識。“在國家制定法和民間法發(fā)生沖突時,不能公式化地強(qiáng)調(diào)以國家制定法來同化民間法,而是應(yīng)當(dāng)尋求國家制定法和民間法的相互妥協(xié)和合作?!盵15]此處的民間法,即是一種不成文的但卻實際起作用的、不容忽視的地方性知識。

    多元法律文化背景下的中國司法實踐要處理的關(guān)系和調(diào)整的環(huán)節(jié)十分復(fù)雜,作為人類法治工作者尚無法真正做到司法裁判中的至臻至善,更何況無情感的技術(shù)理性。

    (二) 技術(shù)層面:算法問題與司法數(shù)據(jù)量、質(zhì)、效問題

    1.算法黑箱

    人工智能在為司法帶來深刻變革之同時,也帶來了一定的技術(shù)倫理問題,最為典型的即是算法歧視問題。人工智能系統(tǒng)是基于大數(shù)據(jù)學(xué)習(xí),通過收集數(shù)據(jù)信息,建構(gòu)算法模型進(jìn)行算法學(xué)習(xí)和結(jié)果輸出。此間,算法技術(shù)的研發(fā)者與設(shè)計者在研發(fā)設(shè)計過程中,會不自覺地在系統(tǒng)與算法中加入自身主觀性認(rèn)識,嵌入自己的價值判斷標(biāo)準(zhǔn)和道德偏見,極大影響著數(shù)據(jù)的準(zhǔn)確性和有效性,構(gòu)成對司法機(jī)關(guān)的“算法綁架”,以算法獨裁的方式引起審判不公等后果。

    研發(fā)程序者鮮少具有法學(xué)專業(yè)背景或司法工作經(jīng)歷,更不具有司法經(jīng)驗或司法倫理觀念,其大多是以數(shù)據(jù)處理合作外包商的身份出現(xiàn),因而在構(gòu)建、調(diào)試和維護(hù)、改善算法模型過程中并不會主動公開源代碼,我們也沒有辦法看清其中的工作原理與決策過程,而且由于技術(shù)的高度專業(yè)性,司法人員與技術(shù)人員往往會在算法技術(shù)和法學(xué)專業(yè)領(lǐng)域中各自為政,并生隔閡。如此一來,這些算法都將裝進(jìn)一個“黑箱”,而黑箱中的信息只有內(nèi)部人才能獲得。也就是說,外部人員根本無法對司法中的裁判理由與論證進(jìn)行審閱與代碼檢查。同時,鑒于對國家秘密、商業(yè)秘密、知識產(chǎn)權(quán)的保護(hù)以及市場競爭機(jī)制的維護(hù),也無法對“算法黑箱”中的核心技術(shù)進(jìn)行強(qiáng)制性公開,或由政府扶植特定企業(yè)進(jìn)行壟斷開發(fā),此為矛盾悖論之初顯。

    算法技術(shù)人員并不能真正了解司法需求,一旦帶有算法歧視的數(shù)據(jù)決策程序被運(yùn)用,將形成“歧視性代碼循環(huán)”,使得歧視不斷深化,從“個案不公”發(fā)展成為“類案不公”?!凹夹g(shù)參與的智能輔助刑事裁判系統(tǒng)客觀上存在成為無法解釋的司法‘黑箱’的危險,這與追求公開、透明的現(xiàn)代司法文明理念產(chǎn)生抵牾?!盵16]大數(shù)據(jù)時代,數(shù)據(jù)信息的虛擬化存儲與運(yùn)算是為典型特色,其在帶來資源節(jié)約、效率提升的同時,也帶來了極大的安全隱患問題。法院的數(shù)據(jù)系統(tǒng)或服務(wù)器若被不法目的者入侵,將帶來不可估量的后果。

    此外,在司法數(shù)據(jù)逐漸打破“數(shù)據(jù)孤島”而連成一片之時,“唯數(shù)據(jù)論”趨向以及司法機(jī)密數(shù)據(jù)竊取丟失問題也日益顯露。當(dāng)技術(shù)外包商作為訴訟當(dāng)事人參與庭審時,其已經(jīng)掌握了對方當(dāng)事人所沒有掌握的司法數(shù)據(jù)而享有“起點優(yōu)勢”,在訴訟策略選定及訴訟勝訴率上便高其一籌。同時,作為技術(shù)掌握方,其還可能利用數(shù)據(jù)篡改、電子證據(jù)永久銷毀或算法偏見來為自己牟利。如此的數(shù)據(jù)鴻溝將嚴(yán)重威脅和改變當(dāng)事人雙方本來平等的訴訟地位,亦對當(dāng)事人與法院之間的訴訟關(guān)系造成不良影響。

    2.算法技術(shù)障礙問題——自然語義與方言語音識別

    不論是在庭審現(xiàn)場還是在調(diào)解現(xiàn)場,智能語音識別轉(zhuǎn)化功能都精準(zhǔn)而高效地實現(xiàn)了話語的書面錄入,為司法實務(wù)人員提供了極大的便利。但是,現(xiàn)實中的法律術(shù)語往往存在多義表述,如“自首”、“如實供述罪名”、“主動投案”等基本可表示相同語義,“必須”、“應(yīng)為”、“應(yīng)當(dāng)”、“應(yīng)該”也表示了大致相同的義務(wù)類含義。在當(dāng)下弱人工智能發(fā)展階段,尚不能對此進(jìn)行有效識別,因而在類案的情節(jié)提取上會產(chǎn)生障礙,嚴(yán)重者亦將影響整個司法流程中的數(shù)據(jù)算法分析與審理裁判。

    基層司法是中國司法實踐中最主要的組成部分,隨著民眾法治意識與維權(quán)意識的增強(qiáng),基層法院的立案、審理裁判與結(jié)案數(shù)量在逐年遞增?!笆锊煌?,百里不同風(fēng)”,中國基層農(nóng)村不標(biāo)準(zhǔn)的普通話及鄉(xiāng)音鄉(xiāng)言,是目前智慧司法中智能語音識別系統(tǒng)所要予以重點關(guān)注和技術(shù)突破的關(guān)鍵點,也是智慧司法得以深入基層司法實踐的要務(wù)。這一問題的存在也反映著司法人工智能在自然語義識別處理技術(shù)方面的不成熟與亟待完善之處。

    3.個人數(shù)據(jù)信息的安全隱患

    大數(shù)據(jù)時代,承載信息的數(shù)據(jù)已然擺脫了物理介質(zhì)的束縛而高效快速地流轉(zhuǎn)著,大數(shù)據(jù)通過數(shù)據(jù)采集進(jìn)行信息加工與分析,再將得到的信息用以指導(dǎo)現(xiàn)實社會生活。在大數(shù)據(jù)時代,個人數(shù)據(jù)信息的實時記錄與存儲分析給人們帶來了極大的便利,但與此同時也帶來了個人數(shù)據(jù)信息安全方面的問題。在司法過程中,訴訟參與人的真實個人信息(包括隱私信息)及與案情有關(guān)的其他數(shù)據(jù)信息會被輕而易舉地獲取、利用,這在為司法審理、裁判及執(zhí)行帶來極大便捷的同時,也帶來數(shù)據(jù)信息的泄露危險。人工智能收集、存儲的用戶個人隱私數(shù)據(jù)遭到竊取、泄露或利用,往往會對個人人身安全、隱私保護(hù)、財產(chǎn)利益、社會秩序的和諧穩(wěn)定造成威脅和影響。

    4.司法數(shù)據(jù)的量、質(zhì)、效問題

    智慧司法中的案件審理裁判基于大量而優(yōu)質(zhì)的司法案例數(shù)據(jù)庫以及算法技術(shù)對司法邏輯思維的深度學(xué)習(xí)。因此,除了外在技術(shù)的完善與更新,司法數(shù)據(jù)的量、質(zhì)、效問題作為智慧司法得以建立的基礎(chǔ)亦處在十分重要的位置上。

    首先,是司法數(shù)據(jù)“量”不夠的問題。當(dāng)下的智慧司法實踐,是建立在海量的司法大數(shù)據(jù)之上,依靠這些已有經(jīng)驗來為待決案件提供參考依據(jù)。當(dāng)下建立的司法數(shù)據(jù)庫基于已公開在中國裁判文書網(wǎng)上的文書信息,但問題是并非所有的已審結(jié)案件都會經(jīng)歷掛網(wǎng)的過程而予以公開。中國裁判文書網(wǎng)是2013年建成使用的,而對這個時間點之前的裁判文書檔案的數(shù)據(jù)化收集掛網(wǎng),還會有一個很長的時間經(jīng)過;且就已掛網(wǎng)的案件數(shù)據(jù)信息來看,亦存在相當(dāng)?shù)臄?shù)據(jù)空白部分,這樣的非標(biāo)準(zhǔn)化數(shù)據(jù)信息亦造成了目前的司法數(shù)據(jù)信息并未被全部覆蓋的問題。

    其次,是司法數(shù)據(jù)“質(zhì)”的問題。就已有的數(shù)據(jù)庫質(zhì)量來看,并不盡如人意。一些影響司法數(shù)據(jù)實質(zhì)性內(nèi)容的信息數(shù)據(jù)會被隱沒,“并且當(dāng)前線上公開的裁判文書還存在重復(fù)案號、串案套改、數(shù)據(jù)冗余等問題,這二者皆嚴(yán)重影響所獲取的司法數(shù)據(jù)的準(zhǔn)確性?!盵17]這樣一來,作為基礎(chǔ)的司法數(shù)據(jù)庫質(zhì)量就無法得以保證,更別提待決案件的公正審判了。再者,缺乏相應(yīng)的鑒真手段,致使司法數(shù)據(jù)庫的真實性除了無法保障外,還無法進(jìn)行糾正。如若不察,人工智能系統(tǒng)的“GIGO 現(xiàn)象”(即系統(tǒng)內(nèi)的垃圾輸入導(dǎo)致最后的垃圾輸出:garbage in,garbage out,又稱為“算法偏見進(jìn),算法偏見出”)將出現(xiàn)無限的惡性循環(huán),而司法過程亦將陷入無限的算法歧視循環(huán)。

    最后,是司法數(shù)據(jù)“效”的問題。司法引入人工智能系統(tǒng)本是要提高司法效率,但由于目前的人工智能系統(tǒng)總體上處于“弱人工智能階段”,而在司法領(lǐng)域的具體應(yīng)用中,專業(yè)法律術(shù)語之間的多義表達(dá)尚無法進(jìn)行有效轉(zhuǎn)換識別,如若以往案例中的法律術(shù)語使用多樣而不統(tǒng)一,勢必將對結(jié)構(gòu)化數(shù)據(jù)的生成造成一定影響,成為人工智能系統(tǒng)的學(xué)習(xí)障礙,繼而影響智慧司法目標(biāo)的實現(xiàn)。

    (三)實踐層面:智慧司法決策模型構(gòu)建限度與司法責(zé)任承擔(dān)問題

    1.智慧司法決策模型構(gòu)建限度

    當(dāng)前,人工智能在司法中的運(yùn)用,更多的是以案件事實中所具有的因果關(guān)系進(jìn)行邏輯推演和論證,而并未真正揭示出其間的相互關(guān)系。事實上,智慧司法的研究初衷即是要揭露事物因果。其于邏輯上看不同于人類法官所運(yùn)用的三段論演繹式推理方法,而采用了歸納推理法,以數(shù)據(jù)的積累和分析來構(gòu)建決策模型,以期得出無限接近正義的裁判結(jié)果。

    “2016 年歐洲議會向歐盟委員會提出的關(guān)于人工智能和機(jī)器人的報告指出,機(jī)器人將給人類帶來的風(fēng)險主要包括:人類安全、健康和安全、隱私、正直和尊嚴(yán)、自主和非歧視,以及個人信息數(shù)據(jù)保護(hù)。”[18]為使人工智能的發(fā)展符合人類安全與倫理要求,就需要為其決策模型制定必要的規(guī)則性約束,構(gòu)建合理而恰當(dāng)?shù)娜藱C(jī)關(guān)系。2017年針對人工智能技術(shù)發(fā)展問題而召開的阿西洛馬會議中提出的23條“人工智能發(fā)展原則與倫理標(biāo)準(zhǔn)”,針對涉及司法領(lǐng)域的人工智能發(fā)展問題提出:“任何自主型系統(tǒng)參與司法決策,都應(yīng)由人類的有關(guān)主管機(jī)構(gòu)提供一個令人滿意的解釋以備查?!痹摋l規(guī)定雖不具備普遍意義上的外在強(qiáng)制力而更多是一種道德理性上的約束限制,但已可將之視為制定人工智能發(fā)展準(zhǔn)則或定律的前奏。

    2.司法責(zé)任承擔(dān)問題

    《中共中央關(guān)于全面深化改革若干重大問題的決定》中明確:“完善主審法官、合議庭辦案責(zé)任制,讓審理者裁判,由裁判者負(fù)責(zé)?!薄吨泄仓醒腙P(guān)于全面推進(jìn)依法治國若干重大問題的決定》中指出:“完善主審法官、合議庭、主任檢察官、主辦偵查員辦案責(zé)任制,落實誰辦案誰負(fù)責(zé)……實行辦案質(zhì)量終身負(fù)責(zé)制和錯案責(zé)任倒查問責(zé)制?!庇趥鹘y(tǒng)司法模式下,法官為司法責(zé)任的承擔(dān)問題主體,但在司法人工智能情境下,責(zé)任的承擔(dān)問題就不是那么簡單了。首先是智能系統(tǒng)或機(jī)器設(shè)備的獨立法律人格問題,即是否需要或是否可以賦予其法律上的獨立人格。

    人工智能在司法應(yīng)用過程中若出現(xiàn)系統(tǒng)偏差或因供給了錯誤數(shù)據(jù)而致錯案發(fā)生時,該由誰來承擔(dān)司法責(zé)任或?qū)徟胸?zé)任的問題,還是很值得探討的。司法裁判的不公、裁判偏差或裁判錯誤將影響司法權(quán)威的樹立,也會引發(fā)社會的治理危機(jī),此責(zé)任究竟是由人工智能系統(tǒng)研發(fā)者承擔(dān)還是由使用者(法官)來承擔(dān)?可否歸咎于法官未盡到最終的審核責(zé)任,方導(dǎo)致裁判或量刑有誤?然而,具體的責(zé)任追究又因具有較強(qiáng)技術(shù)性而無法切實調(diào)查,因為除了需要法學(xué)專家作為查證主體,很大程度上還需要計算機(jī)方面的專家參與查證。即便二者都參與查證,也不能保證一定可以查證清楚?;蛟S涉及算法黑箱、算法歧視與算法不正當(dāng),或許是當(dāng)前案件系統(tǒng)適用過程中突發(fā)的系統(tǒng)故障,或許是法官有意之……總而言之,責(zé)任的承擔(dān)主體與承擔(dān)形式都有待考究,這樣一來便嚴(yán)重沖擊了目前對司法責(zé)任認(rèn)定的規(guī)則制度安排。

    四、智慧司法問題的應(yīng)對措施

    “在這樣的現(xiàn)代法治體制面前大數(shù)據(jù)、云計算、信息技術(shù)、人工智能都只是實現(xiàn)合法正義的輔助手段,切不可本末倒置,這是我們始終應(yīng)該銘記的一條基本原則。”[19]以不同的理念和視角去看待智慧司法,可能得出的將是不同的結(jié)論。究竟是將其定義為對人類生存發(fā)展以及職業(yè)空間的侵占,還是將其定義為替代人類的繁瑣、事務(wù)性工作而實現(xiàn)人的解放的工具,需要的是人類正確的理念認(rèn)知、價值定位與應(yīng)對措施。

    (一)發(fā)揮智慧司法的工具性與輔助性價值

    在智能技術(shù)發(fā)展過程中,難免會有人對技術(shù)產(chǎn)生盲從與依賴,但需要明確的是,無論智能技術(shù)發(fā)展到何種程度,無論其對人類智慧的模擬達(dá)到了何種程度的近似甚至超越,我們都要始終堅持智慧司法的工具性與輔助性價值,對智能技術(shù)的適用空間加以限定,充分發(fā)揮人類法官的司法主體地位。

    1.合理限定智能技術(shù)的適用空間

    “有限智能化”是當(dāng)下司法實務(wù)界通認(rèn)的觀點?!敖柚斯ぶ悄?司法’的熱潮,毫無節(jié)制并大幅度甚至全盤推翻近現(xiàn)代社會確立和完善的司法制度、尤其是審判制度,勢必極大動搖法官的地位與定位,甚至造成審判系統(tǒng)乃至司法權(quán)的全面坍塌……由算法自動生成判決機(jī)制的普及化,勢必導(dǎo)致 ‘算法’支配審判的事態(tài)。這種不可控的技術(shù) ‘濫用優(yōu)勢’風(fēng)險及其所引發(fā)的司法不公,對司法權(quán)威的侵蝕更嚴(yán)重?!盵20]對此,我們可以根據(jù)案件的復(fù)雜程度、難易級別、自由裁量度等各項考量因素以及刑事案件中的量刑幅度范圍、可能帶來的社會影響等做以評估并分類分層。復(fù)雜疑難類案件、刑事案件中被告人不認(rèn)罪或做無罪辯護(hù),以及需要做系統(tǒng)的社會評估與價值評判的情況,還是要交由人類法官負(fù)責(zé)完成。在案件庭審中,若要使用智能輔助審判系統(tǒng)或量刑系統(tǒng),則要先明確告知當(dāng)事人并征得其同意。

    要認(rèn)識到智能技術(shù)只是為司法實踐提供新的實踐工具,為司法裁判提供新的輔助性的分析工具。技術(shù)與智能的發(fā)展并不是要替代人,而是要替代人的簡單重復(fù)勞動。智慧司法的建設(shè)本質(zhì)也是為了使司法人員從事務(wù)性工作中解放出來,以便把時間精力更多地放在疑難案件的法理研討、裁判技巧或是司法解釋當(dāng)中,這樣對司法效率的提高、司法審判能力和審判水平的提升都具有重大意義。發(fā)展智慧司法、運(yùn)用人工智能并不是要用人工智能替代人類,而是要被人類利用,以充分發(fā)揮其工具價值與最大的使用價值。利用數(shù)據(jù)而不是迷信數(shù)據(jù),摒棄“人工智能萬能”的錯誤論調(diào),合理限定智能技術(shù)的適用空間,切實發(fā)揮智慧司法的工具性與輔助性價值。

    2.堅持人類法官的司法主體地位

    就目前的智能技術(shù)發(fā)展?fàn)顩r來看,技術(shù)與算法的深度學(xué)習(xí)尚不能完全保證司法裁判在“事實認(rèn)定”、“證據(jù)審查”以及“法律適用”等方面做到完全合法、合理、合情。智能技術(shù)模擬了人類法官的“智性”,按照高度理性的思維邏輯進(jìn)行司法裁判中的規(guī)范判斷。然而,裁判中的非規(guī)范判斷部分還是要依靠人類法官,借助人類法官的“心性”和“靈性”(1)根據(jù)於興中教授的觀點,“心性”不同于“智性”,心性是感情、感覺與情緒的發(fā)源地;“靈性”則涉及人的精神世界,是與信仰和崇拜相關(guān)的?!爸切浴薄ⅰ靶男浴迸c“靈性”三者之間是相輔相成、相互制衡的。進(jìn)行最終的司法判斷。由此可見,人類法官依舊是司法主體,在具體的司法裁判中要充分發(fā)揮主導(dǎo)作用,智能系統(tǒng)只能為人類法官提供類案與量刑的參考,最終裁判結(jié)果還是要經(jīng)過人類法官的精準(zhǔn)權(quán)衡才可確定。

    “信息化和人工智能的初衷,是替代人的重復(fù)勞動,而非人本身。人工智能、移動互聯(lián)網(wǎng)和司法大數(shù)據(jù)作為主要技術(shù)元素的‘智慧法院’,也絕非科幻文藝作品中想象的那樣以機(jī)器判斷替代人類司法。 ”[21]人工智能技術(shù)是實現(xiàn)司法公平正義的輔助手段,司法公正才是目的,切不可顛倒本末。不論是現(xiàn)在的AI助理身份,還是將來的智能自主決策,法官等司法實務(wù)人員仍為司法過程的基本主體。這一點是由獨立、中立以及親歷性的司法規(guī)律所決定的,亦是由當(dāng)前弱人工智能發(fā)展階段的特征所決定的。

    結(jié)合現(xiàn)代科技信息技術(shù)與司法實務(wù)人員司法實踐需要而成的智慧司法模式是順應(yīng)時代發(fā)展大勢的必然選擇。對于人工智能搶奪人類司法權(quán)以及技術(shù)替代論的說法不需認(rèn)同,司法的特殊規(guī)律性與審判工作的復(fù)雜性決定了其不可能被完全智能化,法官的司法主導(dǎo)性地位也不可能被侵奪。在未來一定階段內(nèi),人工智能的司法輔助性地位是不會被輕易改變的。

    (二) 加強(qiáng)對智能技術(shù)應(yīng)用的規(guī)制

    基于智慧司法中所存在的各種問題,有必要對智能技術(shù)施加必要的規(guī)制與監(jiān)管。譬如,建立算法解釋規(guī)則,使得司法中的智能技術(shù)應(yīng)用做到可知、可視及可得追溯,實現(xiàn)全流程的司法公開化目標(biāo),并用確定性的外部制度與體制機(jī)制防范和化解智能技術(shù)應(yīng)用中的各類不確定性風(fēng)險。

    1.建立算法解釋規(guī)則

    “人工智能的核心是算法,人工智能的司法化主要是算法的司法化,也即智能主體可以完全模擬人進(jìn)行學(xué)習(xí)、思考和判斷等?!盵22]在此,若欲避免可能由算法產(chǎn)生的對司法審判的支配甚至利用而造成司法不公現(xiàn)象,就需要建立相應(yīng)的算法解釋規(guī)則,賦予利害關(guān)系人針對算法自動決策的內(nèi)容提出異議或抗辯并獲得解釋的“人工干預(yù)”權(quán)。如2018年《歐盟數(shù)據(jù)保護(hù)通用條例》(GDPR)規(guī)定:“每個數(shù)據(jù)主體均有權(quán)獲知個人數(shù)據(jù)被處理的目的,如果可能,應(yīng)有權(quán)獲知個人數(shù)據(jù)處理的期限、個人數(shù)據(jù)的接收方、任何自動化處理數(shù)據(jù)的算法邏輯以及至少基于數(shù)據(jù)畫像的自動化處理結(jié)果?!?該條例通常被認(rèn)定為率先提出了對算法系統(tǒng)的“請求解釋權(quán)”。

    充分尊重當(dāng)事人的自主選擇,“當(dāng)相對人對算法得出的自動化決策存疑時有權(quán)請求制定算法及使用算法的數(shù)據(jù)控制者進(jìn)行解釋說明,甚至可以要求在消除歧視因素后重新進(jìn)行自動決策。”[23]應(yīng)建立算法解釋規(guī)則,以期盡可能地減輕因“算法黑箱”和“算法歧視”所帶來的各項司法不公的風(fēng)險。

    2.構(gòu)建相關(guān)制度,防范數(shù)據(jù)信息安全風(fēng)險

    司法領(lǐng)域的智能化建設(shè),基于數(shù)據(jù)信息的大量獲取與收集。對智能系統(tǒng)收集、利用、存儲、流轉(zhuǎn)等的各項數(shù)據(jù)信息要予以嚴(yán)格保密并制定相應(yīng)的制度保障,以此來防范和化解智能技術(shù)可能帶來的數(shù)據(jù)信息安全風(fēng)險。對此,前期可先制定相關(guān)的政策性調(diào)控措施,適時承認(rèn)并確立數(shù)據(jù)的“被遺忘權(quán)”(2)“被遺忘權(quán)“是網(wǎng)絡(luò)時代衍生的權(quán)利,已被歐盟確立為公民基本權(quán)利,是在個人網(wǎng)絡(luò)信息涉及敏感及可能對個人造成不良影響且無關(guān)公共利益的情形下請求被刪除和被遺忘的權(quán)利。,后期則可針對數(shù)據(jù)信息安全制定相應(yīng)的法律規(guī)范進(jìn)行規(guī)制,如可制定個人隱私數(shù)據(jù)保護(hù)法或個人信息保護(hù)法,就個人數(shù)據(jù)信息的收集、整理、許可、轉(zhuǎn)讓,以及數(shù)據(jù)主體與處置方、控制方相對應(yīng)的權(quán)利義務(wù)進(jìn)行系統(tǒng)而詳實的規(guī)定。

    為使審判管理數(shù)據(jù)資源的安全性得到保障,在技術(shù)層面,可以制定嚴(yán)格的數(shù)據(jù)訪問控制程序,運(yùn)用云存儲、云計算等來構(gòu)建法院信息化數(shù)據(jù)的容災(zāi)、備份存儲系統(tǒng)以及安全防護(hù)系統(tǒng),并適時將此形成固定的條例、制度,以期提供有力的制度保障來消除或避免數(shù)據(jù)信息的安全風(fēng)險。

    (三)構(gòu)建算法決策審查與校驗機(jī)制

    “法官和律師的工作是以語言為載體的,重在處理復(fù)雜社會關(guān)系中人與人的關(guān)系,這些很難被轉(zhuǎn)化為算法被機(jī)器掌握。再聰明的智能機(jī)器人或軟件程序,也很難像人一樣能夠置身于錯綜復(fù)雜的關(guān)系之中運(yùn)籌帷幄,決勝于朝堂之上?!盵24]雖然智能決策模型建構(gòu)已經(jīng)有了很大的發(fā)展,但人工智能在司法中仍處于輔助地位,對基于算法系統(tǒng)所建立的智能輔助審判系統(tǒng)與智能量刑系統(tǒng)要予以充分有效的監(jiān)管,要求由人類法官實時掌控審理進(jìn)程,對最終的裁判預(yù)測結(jié)果也要有一個嚴(yán)格的審查、判定與校驗的過程,方可以作出有效的裁判結(jié)果。在智慧司法境遇下,人類法官仍然是智能技術(shù)的最終司法責(zé)任承擔(dān)主體,需要對司法流程全程監(jiān)管,并對裁判結(jié)果嚴(yán)格審查、最終負(fù)責(zé)。

    在不侵害國家秘密與商業(yè)秘密的情況下,對算法進(jìn)行持續(xù)性的審查校驗,實現(xiàn)算法決策全流程可視、可控,并可得追溯和校驗,以更好地發(fā)揮智能技術(shù)的作用。同時,有意識地培養(yǎng)懂技術(shù)、懂法律的復(fù)合型專業(yè)人才,推動算法技術(shù)朝向更加符合法治需求的方向發(fā)展。

    猜你喜歡
    裁判法官司法
    制定法解釋中的司法自由裁量權(quán)
    法律方法(2021年4期)2021-03-16 05:34:28
    法官如此裁判
    法官如此裁判
    法律裁判中的比較推理
    法律方法(2019年4期)2019-11-16 01:07:10
    司法所悉心調(diào)解 墊付款有了著落
    清代刑事裁判中的“從重”
    法律史評論(2018年0期)2018-12-06 09:22:28
    非正式司法的悖謬
    做“德法兼修”的好法官
    紅土地(2018年8期)2018-09-26 03:19:06
    當(dāng)法官當(dāng)不忘初心
    紅土地(2016年10期)2016-02-02 02:45:32
    論司法公開的困惑與消解
    欧美日韩一区二区视频在线观看视频在线 | 国产成年人精品一区二区| 18禁在线播放成人免费| 中文乱码字字幕精品一区二区三区| 晚上一个人看的免费电影| 亚洲人成网站在线观看播放| 亚洲av国产av综合av卡| 一级a做视频免费观看| 亚洲高清免费不卡视频| 18禁动态无遮挡网站| 久久久精品免费免费高清| av.在线天堂| 国产精品秋霞免费鲁丝片| 日韩成人av中文字幕在线观看| 日韩 亚洲 欧美在线| 国产亚洲av片在线观看秒播厂| 国产毛片a区久久久久| 亚洲真实伦在线观看| 麻豆国产97在线/欧美| 国产亚洲精品久久久com| 久久精品国产亚洲av天美| 免费大片黄手机在线观看| 亚洲成人精品中文字幕电影| 欧美性猛交╳xxx乱大交人| 国产 精品1| 亚洲不卡免费看| 国产午夜精品一二区理论片| 人妻 亚洲 视频| 国产亚洲精品久久久com| 国产午夜精品一二区理论片| 国产精品一区二区三区四区免费观看| 日本免费在线观看一区| 欧美日韩在线观看h| 精品午夜福利在线看| 国产免费视频播放在线视频| 在线免费观看不下载黄p国产| 亚洲人成网站在线播| 日本一本二区三区精品| 成年版毛片免费区| 久久国产乱子免费精品| 大片电影免费在线观看免费| 国产精品女同一区二区软件| 美女cb高潮喷水在线观看| 久久久久久久大尺度免费视频| 一级爰片在线观看| .国产精品久久| 汤姆久久久久久久影院中文字幕| 各种免费的搞黄视频| 欧美性猛交╳xxx乱大交人| 97热精品久久久久久| 免费在线观看成人毛片| 亚洲av在线观看美女高潮| av在线亚洲专区| 午夜福利在线观看免费完整高清在| av播播在线观看一区| 国内揄拍国产精品人妻在线| 高清日韩中文字幕在线| 毛片一级片免费看久久久久| 在线观看人妻少妇| 亚洲精品aⅴ在线观看| 一级片'在线观看视频| 大香蕉97超碰在线| 黄色欧美视频在线观看| 国产黄色免费在线视频| 一区二区三区四区激情视频| 日本三级黄在线观看| 人人妻人人澡人人爽人人夜夜| 一区二区av电影网| 亚洲国产最新在线播放| 成人美女网站在线观看视频| 久久久亚洲精品成人影院| 国国产精品蜜臀av免费| 美女高潮的动态| 在线精品无人区一区二区三 | 中国三级夫妇交换| 中文乱码字字幕精品一区二区三区| 日韩电影二区| 亚洲精品,欧美精品| 在线观看国产h片| 久久精品国产亚洲网站| 国产成人精品福利久久| av免费在线看不卡| 国产黄色视频一区二区在线观看| 日韩在线高清观看一区二区三区| 亚洲精品日韩av片在线观看| 亚洲综合精品二区| 又爽又黄a免费视频| 国产精品麻豆人妻色哟哟久久| 国产成人免费无遮挡视频| 少妇裸体淫交视频免费看高清| 亚洲四区av| 成人二区视频| 天堂网av新在线| 日本熟妇午夜| 婷婷色麻豆天堂久久| 成人黄色视频免费在线看| 黄片wwwwww| 爱豆传媒免费全集在线观看| 久久久久久久午夜电影| 午夜福利视频精品| 亚洲精品日本国产第一区| 在线亚洲精品国产二区图片欧美 | 亚洲性久久影院| 国产高清不卡午夜福利| 久久久午夜欧美精品| 亚洲av成人精品一二三区| 欧美国产精品一级二级三级 | eeuss影院久久| 麻豆国产97在线/欧美| 免费黄色在线免费观看| 亚洲在久久综合| 精品国产乱码久久久久久小说| 免费观看av网站的网址| 国产成人91sexporn| 2021少妇久久久久久久久久久| 精品一区二区三卡| 亚洲成人中文字幕在线播放| 亚洲婷婷狠狠爱综合网| 久久久精品免费免费高清| 国产精品成人在线| 国产成人a∨麻豆精品| 尤物成人国产欧美一区二区三区| 国内精品美女久久久久久| 久久精品综合一区二区三区| 内地一区二区视频在线| 日韩一本色道免费dvd| 深爱激情五月婷婷| 国产日韩欧美亚洲二区| 亚洲精品自拍成人| 国产免费一区二区三区四区乱码| 成人美女网站在线观看视频| 国产 一区精品| 毛片一级片免费看久久久久| 亚洲三级黄色毛片| 神马国产精品三级电影在线观看| 免费观看性生交大片5| 高清毛片免费看| 亚洲第一区二区三区不卡| 国产精品三级大全| 久久久久久久国产电影| 国产爱豆传媒在线观看| 欧美激情在线99| 尤物成人国产欧美一区二区三区| 汤姆久久久久久久影院中文字幕| 亚洲精品影视一区二区三区av| 亚洲在线观看片| 免费高清在线观看视频在线观看| av在线播放精品| 又爽又黄a免费视频| 啦啦啦在线观看免费高清www| 亚洲av免费高清在线观看| 日韩在线高清观看一区二区三区| 七月丁香在线播放| 三级国产精品片| 成人免费观看视频高清| 国产视频首页在线观看| 亚洲精品国产av蜜桃| 熟女电影av网| 久久ye,这里只有精品| 成人二区视频| 成人毛片a级毛片在线播放| 舔av片在线| 别揉我奶头 嗯啊视频| 亚洲精品aⅴ在线观看| 观看美女的网站| 中文字幕人妻熟人妻熟丝袜美| 交换朋友夫妻互换小说| 狂野欧美激情性xxxx在线观看| 美女视频免费永久观看网站| 欧美精品人与动牲交sv欧美| 久久午夜福利片| 联通29元200g的流量卡| 哪个播放器可以免费观看大片| 亚洲综合精品二区| 国产一区二区三区综合在线观看 | 国产亚洲av嫩草精品影院| 免费看不卡的av| 男女下面进入的视频免费午夜| 亚洲欧美清纯卡通| 搞女人的毛片| 有码 亚洲区| 女人被狂操c到高潮| 夫妻性生交免费视频一级片| 青青草视频在线视频观看| 涩涩av久久男人的天堂| 亚洲精品成人久久久久久| 美女cb高潮喷水在线观看| 亚洲精品一二三| 久久99热这里只有精品18| 国产成人aa在线观看| 国产毛片a区久久久久| 欧美精品国产亚洲| 蜜桃久久精品国产亚洲av| 寂寞人妻少妇视频99o| 18禁在线播放成人免费| 国产一区有黄有色的免费视频| 亚洲精品乱码久久久久久按摩| 亚洲av一区综合| 国产乱人偷精品视频| 午夜福利网站1000一区二区三区| 亚洲色图综合在线观看| 一级毛片aaaaaa免费看小| 日本与韩国留学比较| 69av精品久久久久久| 观看免费一级毛片| 国产亚洲5aaaaa淫片| 一二三四中文在线观看免费高清| 大又大粗又爽又黄少妇毛片口| 亚洲精品亚洲一区二区| 国产av国产精品国产| 亚洲av在线观看美女高潮| 人妻夜夜爽99麻豆av| 嫩草影院精品99| 中文字幕免费在线视频6| 成年女人看的毛片在线观看| 午夜亚洲福利在线播放| 国产探花在线观看一区二区| 成人国产麻豆网| 99久久精品国产国产毛片| 国产精品国产av在线观看| 精品久久久久久久久亚洲| 日韩免费高清中文字幕av| 国产欧美日韩精品一区二区| 日韩精品有码人妻一区| 一级黄片播放器| 高清视频免费观看一区二区| 午夜福利在线在线| 男女边吃奶边做爰视频| 国产成人a∨麻豆精品| 91精品国产九色| 亚洲欧美成人精品一区二区| 汤姆久久久久久久影院中文字幕| 久久精品综合一区二区三区| 男人爽女人下面视频在线观看| 国产精品伦人一区二区| 人人妻人人看人人澡| 人妻夜夜爽99麻豆av| av免费在线看不卡| 在线观看免费高清a一片| 狂野欧美白嫩少妇大欣赏| tube8黄色片| 成人高潮视频无遮挡免费网站| 两个人的视频大全免费| 精品久久久久久电影网| 美女xxoo啪啪120秒动态图| 在线 av 中文字幕| 中文在线观看免费www的网站| av天堂中文字幕网| 26uuu在线亚洲综合色| 国内精品宾馆在线| 五月开心婷婷网| 国产av不卡久久| 女的被弄到高潮叫床怎么办| 男人舔奶头视频| 精品久久久久久久末码| 日韩成人伦理影院| 亚洲国产欧美人成| 久久久a久久爽久久v久久| 婷婷色麻豆天堂久久| 97热精品久久久久久| 18+在线观看网站| 一级毛片 在线播放| 国产v大片淫在线免费观看| 国产永久视频网站| 99久国产av精品国产电影| 日韩,欧美,国产一区二区三区| 九色成人免费人妻av| 国产在线一区二区三区精| 蜜臀久久99精品久久宅男| 国内精品宾馆在线| 全区人妻精品视频| 久久午夜福利片| 一个人看视频在线观看www免费| 国产亚洲午夜精品一区二区久久 | 国产亚洲午夜精品一区二区久久 | 亚洲精品国产成人久久av| 丝袜喷水一区| 久久久成人免费电影| 超碰97精品在线观看| 两个人的视频大全免费| 欧美xxxx黑人xx丫x性爽| 国产成人freesex在线| 一级a做视频免费观看| 老女人水多毛片| 免费观看a级毛片全部| 黄色视频在线播放观看不卡| 国产免费福利视频在线观看| 久久国内精品自在自线图片| 色网站视频免费| 国产av国产精品国产| 欧美日本视频| 亚洲天堂国产精品一区在线| 日韩一区二区视频免费看| 亚洲精品自拍成人| 91久久精品国产一区二区成人| 免费观看av网站的网址| 2018国产大陆天天弄谢| 免费在线观看成人毛片| 久久鲁丝午夜福利片| 免费电影在线观看免费观看| 中文乱码字字幕精品一区二区三区| 另类亚洲欧美激情| 2022亚洲国产成人精品| 色哟哟·www| 建设人人有责人人尽责人人享有的 | 高清午夜精品一区二区三区| 国产国拍精品亚洲av在线观看| 一本一本综合久久| 人妻 亚洲 视频| 久久精品国产自在天天线| 久久午夜福利片| 赤兔流量卡办理| av在线观看视频网站免费| 国产av国产精品国产| 国产一区有黄有色的免费视频| 中文字幕av成人在线电影| 欧美性感艳星| 国产综合精华液| 日韩大片免费观看网站| 亚洲精品国产av成人精品| 欧美一级a爱片免费观看看| 22中文网久久字幕| 在线观看国产h片| 欧美高清性xxxxhd video| 夜夜看夜夜爽夜夜摸| 国产男女内射视频| 天堂俺去俺来也www色官网| 三级男女做爰猛烈吃奶摸视频| 国产伦精品一区二区三区视频9| 午夜老司机福利剧场| 中文字幕久久专区| 蜜臀久久99精品久久宅男| 久久韩国三级中文字幕| 新久久久久国产一级毛片| 人人妻人人澡人人爽人人夜夜| 免费av毛片视频| 简卡轻食公司| 99re6热这里在线精品视频| 亚洲综合色惰| 亚洲国产精品成人久久小说| 国产精品国产av在线观看| 久久国产乱子免费精品| 午夜老司机福利剧场| 97在线人人人人妻| 亚洲精品视频女| 欧美一区二区亚洲| 亚洲国产精品国产精品| 全区人妻精品视频| 国产成人精品婷婷| 日本黄色片子视频| 国产高清不卡午夜福利| 久久久精品94久久精品| 亚洲图色成人| 亚洲精品久久久久久婷婷小说| 在线观看免费高清a一片| 真实男女啪啪啪动态图| 黄片无遮挡物在线观看| av在线播放精品| 亚洲精品一二三| 日韩av免费高清视频| 精品亚洲乱码少妇综合久久| 国产永久视频网站| 国产成人免费无遮挡视频| 小蜜桃在线观看免费完整版高清| 免费观看a级毛片全部| 视频中文字幕在线观看| 久久99热这里只频精品6学生| videos熟女内射| 午夜福利在线在线| 亚洲国产最新在线播放| 久久精品国产亚洲av涩爱| 九色成人免费人妻av| 涩涩av久久男人的天堂| 精品国产乱码久久久久久小说| 性色av一级| 午夜福利高清视频| 春色校园在线视频观看| 免费大片黄手机在线观看| 99久久精品热视频| 日本黄色片子视频| 欧美xxⅹ黑人| 国产黄片视频在线免费观看| 国产成人精品一,二区| 亚洲精品成人久久久久久| 99久久精品国产国产毛片| 伦精品一区二区三区| 搡女人真爽免费视频火全软件| 国产淫片久久久久久久久| 搞女人的毛片| 大片电影免费在线观看免费| 在线亚洲精品国产二区图片欧美 | 日韩欧美精品v在线| 午夜福利视频1000在线观看| 欧美人与善性xxx| 亚洲一级一片aⅴ在线观看| 麻豆乱淫一区二区| 国产精品久久久久久久电影| 亚洲av一区综合| 久久这里有精品视频免费| 亚州av有码| 亚洲在线观看片| 日韩av免费高清视频| 精品久久久久久久人妻蜜臀av| 久久ye,这里只有精品| 人妻一区二区av| 久久久久久久精品精品| 一个人看的www免费观看视频| 欧美xxxx黑人xx丫x性爽| 国产精品久久久久久久电影| 色播亚洲综合网| 亚洲av成人精品一区久久| 久久久欧美国产精品| 国产精品秋霞免费鲁丝片| 秋霞在线观看毛片| 亚洲精品aⅴ在线观看| 亚洲四区av| 天堂中文最新版在线下载 | 如何舔出高潮| 国产精品福利在线免费观看| 中文乱码字字幕精品一区二区三区| 欧美日韩综合久久久久久| 亚洲欧美日韩卡通动漫| 午夜视频国产福利| 国产一区亚洲一区在线观看| av黄色大香蕉| 国产精品一及| 尤物成人国产欧美一区二区三区| 免费播放大片免费观看视频在线观看| 久久精品久久久久久久性| 亚洲真实伦在线观看| 91久久精品国产一区二区成人| 99久久精品一区二区三区| 边亲边吃奶的免费视频| 国产成人a∨麻豆精品| 国产午夜精品一二区理论片| 亚洲伊人久久精品综合| av线在线观看网站| 最新中文字幕久久久久| 啦啦啦啦在线视频资源| 国产女主播在线喷水免费视频网站| 亚洲欧美清纯卡通| 99精国产麻豆久久婷婷| 国产精品久久久久久av不卡| 大香蕉久久网| 久久97久久精品| 精品少妇黑人巨大在线播放| 成年免费大片在线观看| 中文资源天堂在线| 97在线视频观看| 日韩一区二区视频免费看| 精品午夜福利在线看| 久久久a久久爽久久v久久| 午夜福利在线在线| 18禁在线无遮挡免费观看视频| 97超碰精品成人国产| 在线观看一区二区三区| 男人和女人高潮做爰伦理| 三级男女做爰猛烈吃奶摸视频| 丝袜美腿在线中文| 国产一区二区三区综合在线观看 | 大话2 男鬼变身卡| 在线观看免费高清a一片| 在线精品无人区一区二区三 | 嫩草影院新地址| 小蜜桃在线观看免费完整版高清| 成人国产av品久久久| 精品午夜福利在线看| 国产在线一区二区三区精| 精品国产乱码久久久久久小说| 国产视频内射| 日韩av在线免费看完整版不卡| 男人爽女人下面视频在线观看| 三级国产精品欧美在线观看| 2021少妇久久久久久久久久久| av福利片在线观看| 国内精品宾馆在线| 汤姆久久久久久久影院中文字幕| 亚洲美女搞黄在线观看| 国产黄a三级三级三级人| 亚洲性久久影院| 国模一区二区三区四区视频| 国产乱人视频| 亚洲人成网站在线播| 亚洲自偷自拍三级| 97超碰精品成人国产| 午夜福利视频精品| 亚洲av欧美aⅴ国产| 国产一级毛片在线| 色吧在线观看| 熟女av电影| 国产成人a∨麻豆精品| 三级国产精品欧美在线观看| 一级av片app| 中国三级夫妇交换| 中国美白少妇内射xxxbb| 18禁在线无遮挡免费观看视频| 国产高潮美女av| 成年免费大片在线观看| 我的女老师完整版在线观看| 免费看不卡的av| 国产精品久久久久久av不卡| 国内少妇人妻偷人精品xxx网站| 久热久热在线精品观看| 亚洲一级一片aⅴ在线观看| 18+在线观看网站| av卡一久久| 欧美精品人与动牲交sv欧美| 狠狠精品人妻久久久久久综合| 日韩三级伦理在线观看| 欧美+日韩+精品| 亚洲精品国产av成人精品| 国产极品天堂在线| 高清在线视频一区二区三区| 国产精品爽爽va在线观看网站| 岛国毛片在线播放| 久久久久精品性色| 在线观看一区二区三区| 午夜免费观看性视频| 国产成人免费无遮挡视频| 边亲边吃奶的免费视频| 中文字幕制服av| 亚洲av免费在线观看| 人人妻人人爽人人添夜夜欢视频 | 一本色道久久久久久精品综合| 欧美老熟妇乱子伦牲交| 国产在视频线精品| 中文欧美无线码| 国产色爽女视频免费观看| 美女xxoo啪啪120秒动态图| 国产有黄有色有爽视频| 日本黄色片子视频| 亚洲精品色激情综合| 伦精品一区二区三区| 禁无遮挡网站| 日本色播在线视频| 免费少妇av软件| 久久影院123| 91精品一卡2卡3卡4卡| 69人妻影院| 熟女电影av网| 亚洲成人一二三区av| 国产一区亚洲一区在线观看| 日本熟妇午夜| 人妻少妇偷人精品九色| 亚洲美女视频黄频| 国产又色又爽无遮挡免| 一区二区三区乱码不卡18| 国产黄频视频在线观看| 在线观看一区二区三区激情| 国产综合精华液| 亚洲av日韩在线播放| 晚上一个人看的免费电影| 2018国产大陆天天弄谢| 国产黄片美女视频| 国产精品99久久99久久久不卡 | 小蜜桃在线观看免费完整版高清| 欧美xxxx黑人xx丫x性爽| 国产精品国产三级专区第一集| 在线观看人妻少妇| 嫩草影院新地址| 男的添女的下面高潮视频| 丝瓜视频免费看黄片| 综合色av麻豆| 99视频精品全部免费 在线| 欧美3d第一页| 国产国拍精品亚洲av在线观看| 五月开心婷婷网| 少妇人妻精品综合一区二区| 我的女老师完整版在线观看| 国产探花极品一区二区| 人妻少妇偷人精品九色| 精品一区二区免费观看| 91狼人影院| 久久久久网色| 久久精品久久久久久噜噜老黄| 国产午夜精品一二区理论片| 久久久久九九精品影院| 免费观看a级毛片全部| 秋霞伦理黄片| 一级毛片我不卡| 国产精品成人在线| 大又大粗又爽又黄少妇毛片口| 午夜福利视频精品| 免费高清在线观看视频在线观看| 亚洲av成人精品一区久久| 亚洲欧美日韩卡通动漫| 亚洲av中文av极速乱| 国产一区有黄有色的免费视频| 女人十人毛片免费观看3o分钟| 亚洲激情五月婷婷啪啪| 丝袜喷水一区| 欧美zozozo另类| 2022亚洲国产成人精品| 国产成人a区在线观看| 亚洲国产精品成人综合色| 国产精品国产三级专区第一集| 在线观看一区二区三区激情| 色播亚洲综合网| 欧美亚洲 丝袜 人妻 在线| 国产免费又黄又爽又色| 少妇猛男粗大的猛烈进出视频 | 伊人久久国产一区二区| 综合色丁香网| 日韩一本色道免费dvd| 丝袜喷水一区| 少妇猛男粗大的猛烈进出视频 | 97在线人人人人妻| 亚洲精品久久午夜乱码| 亚洲精品亚洲一区二区| 国产成人a区在线观看| 国产精品久久久久久av不卡| 黄片无遮挡物在线观看| 国产伦精品一区二区三区四那| 最近手机中文字幕大全| 又大又黄又爽视频免费|