• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    刑事訴訟人工智能化轉(zhuǎn)型研究

    2022-12-17 13:14:12白文靜
    學(xué)術(shù)探索 2022年3期
    關(guān)鍵詞:證據(jù)司法人工智能

    白文靜

    (內(nèi)蒙古師范大學(xué) 法政學(xué)院,內(nèi)蒙古 呼和浩特 010022)

    十八大以后,黨和政府高度重視人工智能產(chǎn)業(yè)的發(fā)展,也為促進(jìn)該產(chǎn)業(yè)的建設(shè)而出臺(tái)了一系列的文件,在司法領(lǐng)域,人工技能技術(shù)的引入與融合發(fā)展亦正在如火如荼地進(jìn)行。(1)2016年中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)的《國(guó)家信息化發(fā)展戰(zhàn)略綱要》和國(guó)務(wù)院印發(fā)的《“十三五”國(guó)家信息化規(guī)劃》,明確將建設(shè)“智慧法院”“智慧檢務(wù)”等列入國(guó)家信息化發(fā)展戰(zhàn)略。2017年國(guó)務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中也將建設(shè)智慧法院列入推進(jìn)社會(huì)治理智能化的重大任務(wù),并具體指出“建設(shè)集審判、人員、數(shù)據(jù)應(yīng)用、司法公開和動(dòng)態(tài)監(jiān)控于一體的智慧法庭數(shù)據(jù)平臺(tái),促進(jìn)人工智能在證據(jù)收集、案例分析、法律文件閱讀與分析中的應(yīng)用。”在這種發(fā)展形勢(shì)下,如何將人工智能技術(shù)應(yīng)用于刑事訴訟改革,充分發(fā)揮其技術(shù)優(yōu)勢(shì),提高訴訟效率、有效防范冤假錯(cuò)案,已經(jīng)成了國(guó)家司法工作的重點(diǎn)。中央政法委于2017年明確提出“推進(jìn)審判為中心的刑事訴訟制度改革”,同時(shí)提出改革要點(diǎn)之一便是在數(shù)據(jù)化程序中嵌入統(tǒng)一的證據(jù)標(biāo)準(zhǔn)。次年7月,最高法為進(jìn)一步推動(dòng)司法體制改革召開了專門會(huì)議,在會(huì)議上提出法院應(yīng)當(dāng)加快健全常見刑事案件的基本證據(jù)標(biāo)準(zhǔn)指引,加強(qiáng)大數(shù)據(jù)技術(shù)的應(yīng)用,通過先進(jìn)科技手段的應(yīng)用使國(guó)家司法領(lǐng)域獲得更大的“核心競(jìng)爭(zhēng)力”?!爸腔鬯痉ā睂?huì)成為推動(dòng)以審判為中心的刑事訴訟改革的重要力量,各地都在積極探索人工智能與司法裁判的結(jié)合。結(jié)合我國(guó)司法實(shí)踐的情況,人工智能在該領(lǐng)域的應(yīng)用還處于不斷摸索之中,還未建立起健全的功能體系,當(dāng)前人工智能的應(yīng)用所發(fā)揮的作用主要是為司法工作提供如數(shù)據(jù)檢索、信息整理等,還無法完全獨(dú)立于“人”之外,即其作用的發(fā)揮必須通過人來實(shí)現(xiàn),通過人工智能技術(shù)得到的結(jié)果也需經(jīng)過人員確認(rèn)才具有相應(yīng)效力??傮w來講,人工智能在司法裁判領(lǐng)域的應(yīng)用還處于方興未艾的階段,伴隨著國(guó)家人工智能技術(shù)水平的逐步提升,今后兩者的融合必然會(huì)逐步深化。故此,立足當(dāng)下訴訟制度改革的時(shí)代背景,在享受人工智能帶來的技術(shù)紅利時(shí),還應(yīng)當(dāng)重點(diǎn)關(guān)注刑事訴訟人工智能化中所面臨的法律上的理論難題與司法困境,應(yīng)當(dāng)將其作為一個(gè)重大課題進(jìn)行研究。

    一、刑事訴訟人工智能化轉(zhuǎn)型的現(xiàn)實(shí)圖景

    (一)人工智能介入刑事訴訟后的角色定位

    將人工智能和大數(shù)據(jù)技術(shù)應(yīng)用到刑事訴訟領(lǐng)域產(chǎn)生的影響十分深遠(yuǎn),這種影響體現(xiàn)在技術(shù)層面也體現(xiàn)在價(jià)值層面,但是當(dāng)前針對(duì)人工智能的研究更多的是將其定位為“人類的工具”。[1](P98~107)[3](P101~106)現(xiàn)階段,考慮到人的稟性(2)人的稟性指的是人類天生就具有的攝取精神文化的能力。從傳統(tǒng)意義上來講,可將其分為兩部分:非理性部分以及理性部分。其中的非理性部分則包含了信仰與感情。故此,可得出這樣的認(rèn)知,感情、信仰以及理性共同構(gòu)成了人的稟性。與科技的稟性之間還存在著較大差距,并且這種差距在今后較長(zhǎng)一段時(shí)間內(nèi)都將持續(xù)存在。因此,就當(dāng)下來講,在運(yùn)用人工智能等技術(shù)手段時(shí),可賦予其理性,不過人類的感情與信仰無法賦予機(jī)器。即便是進(jìn)入了強(qiáng)人工智能時(shí)代,技術(shù)秉性是否能夠替代人類的稟性依舊是未知的。[3](P57~65)

    “人是目的而不是手段”,將康德的這一名言運(yùn)用到技術(shù)與人的關(guān)系的分析上依舊適用。人類是歷史發(fā)展進(jìn)步的主體,這一主體地位不會(huì)因?yàn)榧夹g(shù)進(jìn)步而發(fā)生變化。至少在“弱人工智能”時(shí)代,(3)理論上一般把人工智能分為強(qiáng)人工智能和弱人工智能。強(qiáng)人工智能指有知覺、有自我意識(shí)的機(jī)器,弱人工智能則指受人支配的、不具有自我意識(shí)的機(jī)器。詳見王利賓《弱人工智能的刑事責(zé)任問題研究》,載《湖南社會(huì)科學(xué)》2019年第4期,第57~63頁。還無法實(shí)現(xiàn)以機(jī)器替代人類。相關(guān)研究顯示,人工智能、大數(shù)據(jù)等技術(shù)的出現(xiàn)最初目標(biāo)是通過技術(shù)手段完成簡(jiǎn)單重復(fù)性的工作,以實(shí)現(xiàn)解放人類勞動(dòng),而不是以機(jī)器替代人類本身。[4]在司法領(lǐng)域,人工智能可以分為初級(jí)、高級(jí)兩個(gè)發(fā)展階段。[5](P16~31)對(duì)于初級(jí)階段,人工智能起的是輔助作用,通過計(jì)算機(jī)對(duì)自然語言的處理與學(xué)習(xí),對(duì)繁雜的法律信息進(jìn)行整理與篩選,起到幫助司法工作人員進(jìn)行法律檢索的作用。不論是英美法系還是大陸法系,法律信息檢索系統(tǒng)與法律專家系統(tǒng)均屬于初級(jí)階段的司法人工智能產(chǎn)品。對(duì)于高級(jí)階段,人工智能就不僅是輔助作用,甚至可以取代人工,即計(jì)算機(jī)通過深度學(xué)習(xí),具備自然語言的深度處理并能夠?qū)ψC據(jù)進(jìn)行整理與分析最終做出裁判的模式。在這一階段已經(jīng)不是對(duì)信息的簡(jiǎn)單處理,而是進(jìn)行整合、推理、分析的過程,也即人類大腦的運(yùn)作過程。就現(xiàn)階段而言,對(duì)司法人工智能的理論和實(shí)踐研究均處于初級(jí)人工智能階段,高級(jí)司法人工智能現(xiàn)在離我們還比較遙遠(yuǎn),本文的探討也均在司法人工智能的初級(jí)階段的范圍內(nèi)。

    (二)刑事訴訟人工智能化的基本要素

    在刑事訴訟領(lǐng)域,人工智能化的轉(zhuǎn)型主要體現(xiàn)在運(yùn)用現(xiàn)代科技手段對(duì)案件辦理的輔助層面上,也即人工智能的初級(jí)階段。主要可以從偵查、公訴、辯護(hù)與審判四個(gè)領(lǐng)域來展開。

    1.偵查領(lǐng)域的人工智能化轉(zhuǎn)型

    目前,國(guó)際上已有很多人工智能技術(shù)介入犯罪預(yù)警、社會(huì)治理領(lǐng)域的案例。在大數(shù)據(jù)技術(shù)的幫助下能夠加強(qiáng)對(duì)歷史信息的分析,更加準(zhǔn)確地預(yù)測(cè)犯罪。[6](P16)因此,目前已有多個(gè)國(guó)家探索以大數(shù)據(jù)技術(shù)建設(shè)社會(huì)治安管理系統(tǒng)以及犯罪預(yù)警系統(tǒng),如美國(guó)的CompStat System。(4)早在1990年計(jì)算機(jī)技術(shù)還未普及之時(shí),紐約的一名警督梅普爾就通過建立犯罪地圖預(yù)測(cè)犯罪趨勢(shì),通過預(yù)測(cè)犯罪趨勢(shì)指導(dǎo)警力合理配置,僅1991年一年時(shí)間,紐約市的地鐵搶劫案就降低了 27%。在計(jì)算機(jī)技術(shù)和大數(shù)據(jù)技術(shù)興起后,compstat系統(tǒng)得到了進(jìn)一步的升級(jí)。后來梅普爾辭去公職創(chuàng)辦了一家咨詢公司,幫助政府在美國(guó)各地實(shí)施其發(fā)明的compsat系統(tǒng)并取得了不錯(cuò)的成效。詳見涂子沛《大數(shù)據(jù)》,桂林:廣西師范大學(xué)出版社2015年版,第80~82頁。除了社會(huì)治安和犯罪預(yù)防領(lǐng)域,在刑事偵查領(lǐng)域中,大數(shù)據(jù)以及人工智能的應(yīng)用效果也非常顯著。這些技術(shù)手段應(yīng)用的場(chǎng)景涉及刑事現(xiàn)場(chǎng)證據(jù)收集、情報(bào)分析等多個(gè)方面,對(duì)偵查機(jī)關(guān)線索的獲取以及證據(jù)的固定都有著重要幫助,破案效率大大提升。[7](46~54)

    為積極引入人工智能等現(xiàn)代科技手段,打造數(shù)據(jù)化、智能化的公安工作,提升其警務(wù)能力,在2017年召開的全國(guó)公安科技信息化工作會(huì)議中明確提出,公安機(jī)關(guān)在辦案過程中應(yīng)當(dāng)加強(qiáng)探索人工智能以及大數(shù)據(jù)技術(shù)的應(yīng)用,將這些現(xiàn)代技術(shù)融合到辦案過程中,提高案件偵破效率,轉(zhuǎn)被動(dòng)受理案件為主動(dòng)預(yù)防偵查的模式。[8]同時(shí),各地公安機(jī)關(guān)就預(yù)測(cè)警務(wù)系統(tǒng)展開了積極的探索。如江西省建立了專門的特殊人群大數(shù)據(jù)平臺(tái),覆蓋了戒毒人員、服刑人員等特殊人群的信息。四川實(shí)施了雪亮工程,強(qiáng)化公共安全監(jiān)控。[9]上海的 206工程成功研發(fā)出了社會(huì)危險(xiǎn)性證據(jù)模塊,假如公安機(jī)關(guān)未在偵查階段收集標(biāo)注社會(huì)危險(xiǎn)性證明材料,則系統(tǒng)就會(huì)自動(dòng)向公安機(jī)關(guān)發(fā)出提示通知其補(bǔ)正,以實(shí)現(xiàn)對(duì)其偵查辦案過程的有效監(jiān)督,提高辦案效率和質(zhì)量。

    2.公訴領(lǐng)域的人工智能化轉(zhuǎn)型

    大數(shù)據(jù)技術(shù)在檢察機(jī)關(guān)的應(yīng)用起初并不深入,檢察機(jī)關(guān)更多的是運(yùn)用大數(shù)據(jù)技術(shù)建設(shè)數(shù)據(jù)庫以及大數(shù)據(jù)平臺(tái),2010年之后才真正實(shí)現(xiàn)了辦案電子化。2014年,統(tǒng)一業(yè)務(wù)系統(tǒng)PUCMS系統(tǒng)在全國(guó)檢察機(jī)關(guān)中得以應(yīng)用,檢察工作的信息化建設(shè)步入到了新階段。截至目前,該系統(tǒng)已經(jīng)經(jīng)過了數(shù)十次升級(jí),整個(gè)系統(tǒng)已經(jīng)比較成熟。[10](P33~39)其涵蓋的檢察業(yè)務(wù)模塊包括:公訴、審查逮捕、刑事執(zhí)行等。案件處理過程中,檢察人員需要按照系統(tǒng)要求填寫必填項(xiàng)目,以錄入關(guān)鍵信息,保證整個(gè)檢察工作實(shí)現(xiàn)全程留痕,同時(shí)也可幫助收集數(shù)據(jù)資源建立檢察大數(shù)據(jù)庫。

    該系統(tǒng)在全國(guó)得以應(yīng)用之后,檢察機(jī)關(guān)的辦案效率大大提升,長(zhǎng)期的業(yè)務(wù)實(shí)踐過程中,該系統(tǒng)積累了豐富的數(shù)據(jù)信息,有助于建設(shè)檢察大數(shù)據(jù)庫;同時(shí),我國(guó)當(dāng)下的檢察大數(shù)據(jù)工作也主要依托該平臺(tái)開展。除此之外,2015年電子檢務(wù)工程開始啟動(dòng),明確了五大工作平臺(tái),涵蓋了檢務(wù)保障、檢察辦公、檢務(wù)公開等。《“十三五”時(shí)期科技強(qiáng)檢規(guī)劃綱要》明確指出積極構(gòu)建六大平臺(tái),為“檢務(wù)大數(shù)據(jù)”提供強(qiáng)大的數(shù)據(jù)來源。[11](P11~13)隨后,在頒布實(shí)施的《檢察大數(shù)據(jù)行動(dòng)指南(2017—2020年)》中明確了六大平臺(tái)的建設(shè)目標(biāo):“一中心四體系”。一中心指的是國(guó)家檢察大數(shù)據(jù)中心;四體系則包含了應(yīng)用體系、科技支撐體系、管理體系以及檢察大數(shù)據(jù)標(biāo)準(zhǔn)體系;其中“一中心”又包括智能語音大數(shù)據(jù)平臺(tái)資源、檢察大數(shù)據(jù)共享交換平臺(tái)等。[12]

    3.辯護(hù)領(lǐng)域的人工智能化轉(zhuǎn)型

    律師行業(yè)積極探索人工智能以及大數(shù)據(jù)的應(yīng)用,其目標(biāo)是使自身與當(dāng)事人的利益均能實(shí)現(xiàn)最大化。律師行業(yè)探索人工智能等現(xiàn)代技術(shù)如何在本行業(yè)實(shí)現(xiàn)高效應(yīng)用的一大重要驅(qū)動(dòng)力就是降低辯護(hù)成本。其次,那些規(guī)模較大的律所擁有的人力資源以及財(cái)力都比較充足,而且律師行業(yè)中的高端人才通常都具有超前的思維與眼光,面對(duì)高科技的發(fā)展其敏感度也較高。

    2017 年 7 月,頒布實(shí)施的《“十三五”司法行政創(chuàng)新規(guī)劃》中明確提出加快智慧司法的建設(shè)步伐,加強(qiáng)人工智能以及大數(shù)據(jù)等技術(shù)的應(yīng)用,助推法律援助事業(yè)。與此同時(shí),高效應(yīng)用互聯(lián)網(wǎng)技術(shù)推動(dòng)律師執(zhí)業(yè)保障技術(shù)的進(jìn)一步發(fā)展和提升。現(xiàn)階段,政府不只是高度重視法律服務(wù)大數(shù)據(jù)以及人工智能,還在積極研究律師行業(yè)的大數(shù)據(jù)平臺(tái)建設(shè)問題,如Alpha平臺(tái)等軟件在律師行業(yè)中得到了廣泛應(yīng)用,成為律師事務(wù)所必備的辦公軟件。整體來講,在市場(chǎng)驅(qū)動(dòng)下大數(shù)據(jù)與人工智能在律師行業(yè)中的應(yīng)用程度在逐步加深,然而,受到眾多客觀因素的限制,如因?yàn)檎畔⒐_機(jī)制不健全,官方公開的法律數(shù)據(jù)信息是基礎(chǔ)數(shù)據(jù)庫的主要數(shù)據(jù)來源等原因,(5)常見的律師檢索工具包括 Alpha、無訟案例、聚法案例、北大法寶、威科先行等等,這些軟件可以多維度捕捉裁判文書的各項(xiàng)信息,有的搜索引擎可以通過大數(shù)據(jù)分析統(tǒng)計(jì)律師的勝訴率、總結(jié)法官的觀點(diǎn)以及審判習(xí)慣。但是這些數(shù)據(jù)庫的數(shù)據(jù)基本都來自中國(guó)裁判文書網(wǎng)以及全國(guó)人大、最高人民法院、最高人民檢察院以及國(guó)務(wù)院法制辦等國(guó)家機(jī)關(guān)官網(wǎng)公布的信息,屬于對(duì)官方公布數(shù)據(jù)的再加工。當(dāng)今還沒有屬于律師行業(yè)的獨(dú)立數(shù)據(jù)庫。阻礙、限制了律師行業(yè)法律大數(shù)據(jù)和人工智能的探索,這些都是今后律師行業(yè)人工智能運(yùn)用需要改進(jìn)的地方。

    4.審判領(lǐng)域的人工智能化轉(zhuǎn)型

    我國(guó)法院的信息化建設(shè)主要有三個(gè)發(fā)展階段:第一個(gè)階段為奠定基礎(chǔ)的階段,主要內(nèi)容是強(qiáng)化法院信息基礎(chǔ)設(shè)施建設(shè);第二個(gè)階段主要目標(biāo)是使法院與外部能夠?qū)崿F(xiàn)互通;第三個(gè)階段的目標(biāo)是依托現(xiàn)代科技建設(shè)信息化基本格局。[13](108~121)法院在維護(hù)司法權(quán)威方面發(fā)揮著非常重要的作用。最高法在2017年就加快智慧法院建設(shè)問題制定了專門的意見文件,在該文件中明確提出應(yīng)當(dāng)加強(qiáng)對(duì)現(xiàn)代技術(shù)的應(yīng)用,以提升審判工作的質(zhì)效,即鼓勵(lì)支持法院運(yùn)用如人工智能、大數(shù)據(jù)等現(xiàn)代化技術(shù)手段,為審判工作提供技術(shù)支撐。

    結(jié)合實(shí)踐情況來看,現(xiàn)階段各地法院都就審判工作中人工智能以及大數(shù)據(jù)技術(shù)的應(yīng)用問題展開了積極的探索。例如,上海市設(shè)計(jì)提出了“206”刑事案件智能辦案系統(tǒng)、蘇州法院提出了“智慧審判蘇州模式”等。[14](P208)由此可見,目前各地在智能辦案系統(tǒng)的探索過程中,更加關(guān)注外部信息,即信息關(guān)注重點(diǎn)出現(xiàn)了變化。換言之,法院系統(tǒng)在內(nèi)部信息化建設(shè)方面已經(jīng)取得了一定成績(jī),在此基礎(chǔ)上,進(jìn)入了信息化建設(shè)的第二個(gè)階段,也即審判機(jī)關(guān)更加注重自身與其他相關(guān)企事業(yè)單位的信息共享與互通問題。

    (三)刑事訴訟人工智能化的基本特征

    1.司法數(shù)據(jù)共享化

    大數(shù)據(jù)分析以及人工智能的實(shí)現(xiàn)都必須以龐大的數(shù)據(jù)為支撐,數(shù)據(jù)庫的建設(shè)起到了基本支撐作用。如果沒有了海量的數(shù)據(jù)支撐,就意味著失去了支撐大數(shù)據(jù)與人工智能不斷運(yùn)轉(zhuǎn)的強(qiáng)大馬力。同時(shí),僅靠一家司法機(jī)關(guān)或者某個(gè)獨(dú)立的計(jì)算機(jī)軟件公司建立數(shù)據(jù)庫遠(yuǎn)遠(yuǎn)不夠。首先,整個(gè)刑事訴訟過程涵蓋了多個(gè)階段,包括偵查、起訴、審判、執(zhí)行等,而打擊犯罪、保障人權(quán)就是通過整個(gè)訴訟過程實(shí)現(xiàn),而非其中某一個(gè)階段能夠獨(dú)立實(shí)現(xiàn)。訴訟活動(dòng)的這一特征就決定公檢司法各機(jī)關(guān)所擁有的數(shù)據(jù)都是不可或缺的。其次,大數(shù)據(jù)與人工智能的技術(shù)特性決定了需要建設(shè)覆蓋公檢法司多個(gè)部門的聯(lián)合數(shù)據(jù)庫。研究表明,算法的精確度會(huì)受到數(shù)據(jù)總量、類型等因素的影響。[6]為了提高法律人工智能應(yīng)用的準(zhǔn)確度,要求匯總分析各部門的數(shù)據(jù),以擴(kuò)大數(shù)據(jù)庫總量。最后,從現(xiàn)實(shí)情況來看,公檢法司多家聯(lián)手建設(shè)數(shù)據(jù)庫非常必要且十分緊迫,各機(jī)關(guān)的內(nèi)網(wǎng)并不是完全互通,而存在物理隔離,在此情況下,信息不互通導(dǎo)致了很多問題,如工作增多、工作重復(fù)等。甚至一些案件中還出現(xiàn)了因?yàn)楸匾畔o法獲取而對(duì)整個(gè)案件進(jìn)展造成影響的現(xiàn)象。但是這些問題都可通過多家聯(lián)手共同建設(shè)數(shù)據(jù)庫來解決,如此一來,不只是能夠提高數(shù)據(jù)庫的總量,豐富其多樣性,還可提高各機(jī)關(guān)之間的信息互通性,有助于整體工作效率的提升。

    2.辦案材料數(shù)據(jù)化

    引入大數(shù)據(jù)以人工智能技術(shù)的一個(gè)重要目標(biāo)就是將辦案人員從那些簡(jiǎn)單、重復(fù)、繁重的體力勞動(dòng)中解脫出來?,F(xiàn)階段,智能輔助軟件在司法部門中的應(yīng)用有助于更加高效地錄入案卷信息,具體體現(xiàn)在:一是依托OCR文字識(shí)別技術(shù)能夠?qū)崿F(xiàn)紙質(zhì)卷宗的轉(zhuǎn)化,其內(nèi)容可實(shí)現(xiàn)數(shù)字化錄入。[15]如上海 206 工程所研發(fā)的辦案輔助系統(tǒng)于2017年底能夠識(shí)別95%的打印體。二是在智能語音轉(zhuǎn)換系統(tǒng)的幫助下,可實(shí)現(xiàn)對(duì)對(duì)話資料信息的轉(zhuǎn)換,比如庭審、訊問等轉(zhuǎn)換之后得到文字記錄。刑事訴訟中這套技術(shù)的應(yīng)用無疑能夠極大地縮減筆錄工作量,基礎(chǔ)勞動(dòng)量大大減少。

    律師行業(yè)同樣需要辦案材料的數(shù)據(jù)化以幫助其提升效率,降低辦案成本。在刑事訴訟當(dāng)中,一旦需要案件涉及的嫌疑人較多,律師需要處理的檔案體量就會(huì)非常大。并且,對(duì)于律師而言,難以獲取犯罪相關(guān)的電子信息,通常在會(huì)見時(shí)只能通過人工來進(jìn)行記錄而無法采取錄音錄像等方式,其在辦案中承擔(dān)著較為繁重的工作。針對(duì)于此,辦案材料的數(shù)據(jù)化應(yīng)用成為其工作中的有效輔助,一些軟件被應(yīng)用于律師日常工作中的會(huì)議、會(huì)見客戶等,這些軟件大部分都是由商業(yè)公司開發(fā),如alpha note等智能語音輸入系統(tǒng)在律師行業(yè)中的介入產(chǎn)生了很大影響。

    3.法律決策智能化

    通過大數(shù)據(jù)以及人工智能的應(yīng)用能夠?qū)崿F(xiàn)法律決策智能化,具體表現(xiàn)為:第一,智能輔助系統(tǒng)能夠?qū)崿F(xiàn)對(duì)案件信息的自動(dòng)分析,以向辦案人員推送類似案例以及適用法規(guī);第二,可準(zhǔn)確識(shí)別案卷中的重要信息,生成相應(yīng)法律文書。[10]在以往未引入人工智能等現(xiàn)代科技時(shí),通常情況下都需要辦案人員分析、確定關(guān)鍵字,然后通過相關(guān)軟件來查詢與之相關(guān)的案件以及法律法規(guī)。但是刑事訴訟人工智能化的實(shí)現(xiàn)將會(huì)自動(dòng)推送相關(guān)案件,極大地節(jié)省了檢索時(shí)間,并且檢索結(jié)果更為精確,有效避免了人工檢索可能會(huì)出現(xiàn)的疏漏問題。其所生成的相關(guān)法律文書則為辦案人員的文書工作提供了模板和參考,重復(fù)勞動(dòng)大大減少,決策效率相應(yīng)提升。

    智能輔助平臺(tái)不只是能夠向工作人員自動(dòng)推送相關(guān)法律以及案件,通過該平臺(tái),如果自動(dòng)推送的結(jié)果并不能讓辦案人員滿意,辦案人員還可通過主動(dòng)檢索的方式來加以完善。利用平臺(tái)的自動(dòng)推送技術(shù)能夠?qū)崿F(xiàn)各網(wǎng)站案例的結(jié)構(gòu)化。通常情況下,系統(tǒng)將會(huì)參考案件證據(jù)形式、案由等分類來對(duì)其進(jìn)行標(biāo)簽化處理,以建立起結(jié)構(gòu)化的司法案例數(shù)據(jù)庫。智能輔助平臺(tái)識(shí)別待辦案件關(guān)鍵字后,能夠?qū)⑵渑c數(shù)據(jù)庫已標(biāo)簽化案件進(jìn)行匹配,以向辦案人員自動(dòng)推送相關(guān)法律法規(guī)或者是與待辦案件相似的案件。不過,結(jié)合我國(guó)的實(shí)際情況來看,目前我國(guó)這種人工智能技術(shù)尚未成熟,還需要進(jìn)行大范圍的案件整理。而且,在剛開始建設(shè)數(shù)據(jù)庫時(shí)往往需要非常多的人工力量投入,將案件按照各種分類進(jìn)行標(biāo)簽化也面臨很多問題,不只是龐大的工作量,還很難避免疏漏。

    二、刑事訴訟人工智能化轉(zhuǎn)型的價(jià)值與困難

    (一)刑事訴訟人工智能化轉(zhuǎn)型的價(jià)值定位

    1.人工智能有助于刑事訴訟目的的實(shí)現(xiàn)

    根據(jù)《刑事訴訟法》第1條、第2條的規(guī)定,刑事訴訟的目的體現(xiàn)在兩個(gè)層面:懲罰犯罪與保障人權(quán)。一方面,通過國(guó)家機(jī)關(guān)的追訴,能夠使犯罪行為及時(shí)得到懲罰,維護(hù)社會(huì)公平正義;另一方面,刑事訴訟程序要求國(guó)家權(quán)力機(jī)關(guān)在法律規(guī)定的限度內(nèi)行使權(quán)力,避免權(quán)力的濫用,對(duì)被追訴人的合法權(quán)利進(jìn)行保障??傮w而言,即讓犯罪的人及時(shí)得到制裁同時(shí)不讓無罪的人受到追究。人工智能的出現(xiàn)與發(fā)展對(duì)于刑事訴訟目的的實(shí)現(xiàn)是有重要意義的?;谌斯ぶ悄芗夹g(shù),發(fā)生在過去的事實(shí)能夠更大程度、更真實(shí)地呈現(xiàn),使法律事實(shí)更大程度地貼合客觀事實(shí)。從“查明事實(shí)”的角度上講,人工智能技術(shù)能夠起到案件辦理更快、更準(zhǔn)確的作用;從“保障人權(quán)”的角度上講,人工智能技術(shù)能夠擺脫對(duì)口供的依賴進(jìn)而減少刑訊逼供等現(xiàn)象對(duì)被追訴人人權(quán)的侵害,同時(shí)也能夠更準(zhǔn)確地定位被追訴人從而減少冤枉無辜的現(xiàn)象發(fā)生,此外提高訴訟效率縮短甚至減少訴累也是對(duì)被追訴人人權(quán)保障的體現(xiàn)。

    2.人工智能將推動(dòng)訴訟效率的提高

    刑事訴訟智能化建設(shè)將會(huì)提升刑事訴訟效率,無論是公安、檢察還是法院或律師,在刑事訴訟中,有很多基礎(chǔ)性工作需要耗費(fèi)大量時(shí)間。通過借助大數(shù)據(jù)、人工智能等技術(shù),可以高效、低成本地完成這些工作。例如貴陽開發(fā)的大數(shù)據(jù)辦案系統(tǒng)投入使用之后,極大地縮短了辦案時(shí)間,節(jié)省時(shí)間的幅度達(dá)到了30%。[15]由此可見,隨著自動(dòng)生成文書、相關(guān)條文推送等技術(shù)的日益成熟,庭審以及審前各項(xiàng)工作的時(shí)間將會(huì)大大縮短,能夠顯著提升刑事訴訟工作的效率。

    3.人工智能保障訴訟質(zhì)量

    大數(shù)據(jù)和人工智能技術(shù)運(yùn)用于刑事訴訟,不只是對(duì)刑事訴訟效率的提升有著顯著幫助,還有助于提升訴訟質(zhì)量。其一,在刑事訴訟過程中應(yīng)用人工智能以及大數(shù)據(jù)技術(shù),將會(huì)對(duì)刑事訴訟的方式、方法、手段等產(chǎn)生直接的影響。特別是在偵查階段,這些技術(shù)的應(yīng)用將會(huì)顯著提升偵查結(jié)果的精準(zhǔn)度。在審判階段,通過利用大數(shù)據(jù)和人工智能分析技術(shù)能夠幫助工作人員對(duì)案件事實(shí)與證據(jù)進(jìn)行更加直觀的分析,同時(shí),如律師、檢察官等還可通過對(duì)這些內(nèi)容的可視化分析更好地厘清法律關(guān)系,增強(qiáng)辯護(hù)、控訴的針對(duì)性。其二,類似案件推送等技術(shù)手段能夠規(guī)范法院的自由裁量權(quán),裁判的可預(yù)期性增強(qiáng)。如同部分學(xué)者所指出的,對(duì)人工智能等技術(shù)手段的高效應(yīng)用能夠提供“相對(duì)統(tǒng)一的推理和評(píng)價(jià)標(biāo)準(zhǔn),有助于增強(qiáng)判決的一貫性?!盵16]而且,這種有著較強(qiáng)可預(yù)期性的一貫判決也就成了可對(duì)裁判尺度進(jìn)行衡量的有效標(biāo)尺。

    4.人工智能對(duì)減少司法腐敗有著積極作用

    一些學(xué)者提出,人工智能輔助決策對(duì)審判結(jié)果會(huì)產(chǎn)生影響,能夠減少法官偏見。以往在就因果關(guān)系進(jìn)行推理時(shí),更多的是由假設(shè)入手,故此,決策過程實(shí)際上就是假設(shè)證成的過程。因?yàn)榧僭O(shè)是推理的起點(diǎn),所以法官偏見很容易影響其決策。[6]但是,大數(shù)據(jù)技術(shù)則是以相關(guān)關(guān)系分析為核心。因此,運(yùn)用大數(shù)據(jù)技術(shù)通過對(duì)案件情節(jié)以及結(jié)果的分析能夠預(yù)測(cè)審判結(jié)果,而且與因果關(guān)系的證明相比,這種相關(guān)關(guān)系的證明成本更低。雖然很多時(shí)候人工智能在克服人的偏見上所發(fā)揮的作用并不一定能夠做到完全精準(zhǔn),但是起碼能夠肯定的是感情因素不會(huì)影響人工智能的判斷。如此一來,法官的主觀能動(dòng)性與人工智能相結(jié)合,很可能有助于減少審判者的偏見,增加判斷結(jié)果的客觀性。[17](P54~56)自動(dòng)檢驗(yàn)校對(duì)系統(tǒng)能夠?yàn)樗痉C(jī)關(guān)提供統(tǒng)一的證據(jù)標(biāo)準(zhǔn),有助于進(jìn)一步規(guī)范審前證據(jù)收集工作,使控訴方更加重視證據(jù)??卦V方重視證據(jù)運(yùn)用則會(huì)使整個(gè)審判過程的對(duì)抗性將會(huì)得到有效提升。這些對(duì)證據(jù)裁判制度的建立有著積極的促進(jìn)作用,還將推動(dòng)以審判為中心的訴訟制度改革的逐步深化。故此,通過運(yùn)用人工智能等技術(shù)能夠有效減少主觀偏見因素,增強(qiáng)結(jié)果的客觀性,整個(gè)訴訟過程的公正性也得到了改善,對(duì)防治腐敗有著積極促進(jìn)的作用。

    (二)刑事訴訟人工智能化轉(zhuǎn)型的理論難題

    1.人工智能威脅控辯平等原則

    在我國(guó)刑事訴訟活動(dòng)中,為了確保當(dāng)事人的權(quán)利能夠得到充分保障,必須始終堅(jiān)持控辯平等原則。控辯平等原則包含了平等保護(hù)以及平等武裝,[18]是確保刑事訴訟公正性的重要原則,主要思想是控辯雙方在整個(gè)刑事訴訟過程中始終擁有平等的權(quán)利,這種權(quán)利的平等性建立在國(guó)家權(quán)力的基礎(chǔ)上。毫無疑問,刑事訴訟中不管是平等保護(hù)還是平等武裝都十分重要,但是,伴隨著刑事訴訟過程中人工智能等技術(shù)手段的應(yīng)用,控辯平等原則也受到了影響,不過,必須明確的一點(diǎn)是互聯(lián)網(wǎng)技術(shù)的介入并未導(dǎo)致司法規(guī)律被顛覆或改寫。不可否認(rèn),現(xiàn)代科技的應(yīng)用的確在一定程度上導(dǎo)致刑事訴訟的“外貌”或多或少的發(fā)生了一些變化,但是保障人權(quán)這一基本價(jià)值取向應(yīng)當(dāng)貫徹始終,這一原則也不會(huì)被忽視、廢棄。

    結(jié)合我國(guó)的實(shí)際情況來分析,大數(shù)據(jù)、人工智能等在刑事訴訟中的應(yīng)用表現(xiàn)出了明顯不對(duì)等的情況。首先,司法大數(shù)據(jù)的建設(shè)以國(guó)家財(cái)力為支撐,然而對(duì)于律師行業(yè)尤其是刑辯律師而言就難以實(shí)現(xiàn)。其次,即便是步入了人工智能時(shí)代,律師辯護(hù)所面臨的個(gè)別問題依舊沒有很好的解決方法,甚至于一些問題在愈演愈烈。如在會(huì)見案件當(dāng)事人時(shí),辯護(hù)律師采取的主要方式依舊是面對(duì)面的方式,且在這個(gè)過程中依舊有很多難題亟待解決,如律師在會(huì)見當(dāng)事人時(shí)無法使用智能語音軟件進(jìn)行記錄,甚至都不能錄音錄像。而只能靠律師在會(huì)見完之后進(jìn)行整理、做筆錄。再次,現(xiàn)階段我國(guó)提出的多個(gè)智能輔助系統(tǒng)中同時(shí)涵蓋了公檢法部門以及行政部門的信息資源,但是律師和當(dāng)事人沒有進(jìn)入端口。最后,伴隨著人工智能等技術(shù)手段的飛速發(fā)展,在案件中,電子證據(jù)已經(jīng)成了非常重要、常見的證據(jù)形式,而辯護(hù)律師獲取電子證據(jù)的難度非常大。

    2.統(tǒng)一裁判軟件的應(yīng)用壓縮辯護(hù)空間

    “自由裁量權(quán)指的是法官所擁有的自由決定權(quán),是其厘定法律原則、規(guī)則邊界的行為?!盵19](P419)很多因素都會(huì)對(duì)法官的自由裁量權(quán)產(chǎn)生影響,包括個(gè)人的思維模式、生活閱歷、情感因素、教育背景、案件的輿論導(dǎo)向等。顯然,現(xiàn)實(shí)生活中并不存在能夠無所不包、無任何沖突的法律,因此,刑事審判中就無法完全排除自由裁量權(quán)。統(tǒng)一裁判軟件的應(yīng)用能夠在一定程度上限制法官自由裁量權(quán)的行使,削弱律師對(duì)法官自由心證的影響,但如此一來,同樣會(huì)削弱律師的辯護(hù)效果。以審判為中心進(jìn)行的改革提出的具體要求是:審理者裁判、裁判者負(fù)責(zé)。而如偏離預(yù)警系統(tǒng)這類軟件的應(yīng)用,可自動(dòng)推送案例、生成文書,這些都會(huì)對(duì)法官心證的形成產(chǎn)生較大影響。而且,一旦法官認(rèn)為的裁判結(jié)果和系統(tǒng)指導(dǎo)的結(jié)果存在區(qū)別,則系統(tǒng)就會(huì)發(fā)出預(yù)警。系統(tǒng)能夠做到全程留痕,法官不考慮系統(tǒng)指導(dǎo)的結(jié)果而擅自按其心證改寫結(jié)果也會(huì)被系統(tǒng)記錄,致使其陷入無所適從的局面。

    3.司法機(jī)關(guān)對(duì)人工智能的盲目信賴制約了司法的主觀能動(dòng)性

    在現(xiàn)代刑事訴訟活動(dòng)中,無罪推定屬于一項(xiàng)基礎(chǔ)性原則,該原則主要明確了控訴方承擔(dān)著主要舉證責(zé)任,以確保追訴人的程序性權(quán)利得到保障。[20](P72)按照該原則的要求,在審判機(jī)關(guān)并未明確被追訴人有罪之前,被追訴人被推定為無罪,以保障其合法權(quán)益。而伴隨著人工智能等技術(shù)手段的應(yīng)用,傳統(tǒng)的公檢法三機(jī)關(guān)彼此制約、互相配合的現(xiàn)狀可能會(huì)受到影響,尤其是檢察機(jī)關(guān)的法律監(jiān)督職能。

    隨著大數(shù)據(jù)等技術(shù)手段在刑事訴訟活動(dòng)中的應(yīng)用,很容易弱化三機(jī)關(guān)之間互相制約的機(jī)制,還會(huì)影響檢察院的法律監(jiān)督職能。各地積極探索法律智能平臺(tái)建設(shè)以及司法大數(shù)據(jù)的過程中,一項(xiàng)重要內(nèi)容就是明確證據(jù)指引、統(tǒng)一證據(jù)標(biāo)準(zhǔn)。偵查機(jī)關(guān)在證據(jù)收集的過程中需遵循統(tǒng)一的證據(jù)標(biāo)準(zhǔn)以及審判要求。假如司法工作人員過度信任人工智能等技術(shù)手段,而交由算法來處理應(yīng)由人工進(jìn)行審查的資料,特別是目前我國(guó)多個(gè)地方所開發(fā)使用的智能輔助軟件將會(huì)記錄檢察官以及法官的所有行為。因此,如果在案件處理的某個(gè)階段系統(tǒng)并未發(fā)出偏離預(yù)警,負(fù)責(zé)案件下一個(gè)環(huán)節(jié)的審查處理的人員很少會(huì)就該問題而產(chǎn)生懷疑,導(dǎo)致出現(xiàn)疏漏的可能性增大。即便是司法人員懷疑前一階段存在一些問題或者是瑕疵,也會(huì)因?yàn)橄到y(tǒng)并未明確標(biāo)出而不愿意為此窮追不舍。除此之外,因?yàn)樵谶@種情況下,對(duì)證據(jù)的收集、記錄等都有固定的模式要求,很可能會(huì)出現(xiàn)審判扁平化的問題。借助系統(tǒng),審判人員在審判之前就可了解系統(tǒng)中的要素,同時(shí),系統(tǒng)還會(huì)自動(dòng)校對(duì),會(huì)影響庭審質(zhì)證的效果。[21]即便是司法人員對(duì)機(jī)器的不足和局限性非常清楚,也很可能會(huì)因?yàn)閷?duì)算法過度依賴而逐漸產(chǎn)生“司法潛見”,(6)司法潛見是指在審判中一些司法行為或者其他非司法行為會(huì)潛移默化影響辦案人員的裁判。例如實(shí)證研究指出:在一次取樣調(diào)查中,203064個(gè)審前被逮捕樣本中,有0.1%的樣本獲得無罪判決;而61862 個(gè)審前取保候?qū)彽臉颖局?,?.3%的樣本獲得無罪判決。回歸分析顯示顯著性水平P=0.000,說明差異十分顯著,因此說明審前羈押手段的不同很有可能引起法官的司法潛見從而影響判決。參見白建軍《司法潛見對(duì)定罪過程的影響》,載《中國(guó)社會(huì)科學(xué)》2013第1期,第167~185頁。也即更加容易相信檢察以及偵查機(jī)關(guān)的工作質(zhì)量,而這種潛藏于裁判者意識(shí)深處的司法潛見其實(shí)就構(gòu)成了一種有罪推定傾向,將會(huì)削弱公檢法三個(gè)機(jī)關(guān)之間互相制約的制度設(shè)計(jì)目的,在一定程度上影響審判的獨(dú)立性。

    4.算法的不透明性與算法歧視會(huì)對(duì)司法公正性產(chǎn)生影響

    設(shè)計(jì)算法的根本目的是解決問題,其基本原理為將實(shí)際現(xiàn)象以數(shù)學(xué)模型的方式來描述,以算法求解問題。這是一種以抽象數(shù)學(xué)方法對(duì)現(xiàn)實(shí)世界進(jìn)行研究的方式。[22]算法在人工智能以及大數(shù)據(jù)技術(shù)中的作用非常突出,算法不同即便是數(shù)據(jù)完全相同得出的結(jié)果也會(huì)有差異。不過,人工智能時(shí)代機(jī)器學(xué)習(xí)的算法并不透明。導(dǎo)致這種不透明的主要原因?yàn)椋河捎趪?guó)家機(jī)密或商業(yè)秘密,或者是由于對(duì)技術(shù)了解程度不同,還可能是因?yàn)樗惴ㄗ陨硎謴?fù)雜而導(dǎo)致。[23]

    預(yù)測(cè)是大數(shù)據(jù)技術(shù)的一大重要功能,目前在刑事訴訟中,評(píng)估被告人危險(xiǎn)性時(shí)已經(jīng)開始應(yīng)用該功能。以美國(guó)為例,基本上超過50%的州都引入了風(fēng)險(xiǎn)評(píng)估軟件,為法官做出決策提供幫助。同時(shí),美國(guó)還明確規(guī)定了在利用這些軟件進(jìn)行風(fēng)險(xiǎn)評(píng)估時(shí),如性別、種族等因素不應(yīng)當(dāng)被列入考慮因素中。不過,盡管如種族等這些因素在算法設(shè)計(jì)階段能夠被排除,但是除了這些可能會(huì)導(dǎo)致歧視問題的直接因素外,還有很多與之相關(guān)的間接因素。[17]換言之,算法設(shè)計(jì)中無法將所有和歧視相關(guān)的因素都完全排除,因此,算法的歧視問題很難完全避免。同時(shí),司法人員也會(huì)因?yàn)樗惴ǖ倪@種不透明性而無法釋明算法結(jié)果有無歧視。在進(jìn)行危險(xiǎn)性預(yù)測(cè)時(shí)首先需要做的就是將犯罪嫌疑人進(jìn)行標(biāo)簽化處理,包括經(jīng)濟(jì)水平、家庭狀況、有無犯罪前科等,而貼上這些標(biāo)簽之后很可能導(dǎo)致部分背景的作用被放大。盡管,傳統(tǒng)的刑事訴訟中亦很難完全避免法官、檢察官等的主觀因素對(duì)其判斷結(jié)果的影響,但是因?yàn)檫@些主觀因素都存在于審判者的內(nèi)心,通過律師的辯護(hù)以及當(dāng)事人的表現(xiàn)是有可能動(dòng)搖其偏見的。除此之外,如人民陪審制度、回避制度等制度的實(shí)施也會(huì)削弱這種主觀偏見的影響。[24](P51~57)

    (三)刑事訴訟人工智能化轉(zhuǎn)型的實(shí)踐困境

    1.司法數(shù)據(jù)的公開不充分

    在積極探索法律人工智能化的過程中,應(yīng)當(dāng)將構(gòu)建數(shù)據(jù)庫作為首要工作,這也是一項(xiàng)最基礎(chǔ)的工作,這一點(diǎn)取決于大數(shù)據(jù)的技術(shù)特性。海量的數(shù)據(jù)信息是大數(shù)據(jù)技術(shù)充分發(fā)揮其作用所不可或缺的基礎(chǔ)要素,豐富的數(shù)據(jù)能夠提高算法精度,可提供的學(xué)習(xí)對(duì)象更多,甚至于從某種角度來講,與數(shù)據(jù)的質(zhì)相比,數(shù)據(jù)的量更為重要。大數(shù)據(jù)技術(shù)的應(yīng)用強(qiáng)調(diào)數(shù)據(jù)的混雜性以及完整性,其基本邏輯是不管是哪種類型的數(shù)據(jù)都能夠幫助體現(xiàn)事物的全面性,想要得到事實(shí)真相就必須借助海量的數(shù)據(jù)。而且,數(shù)據(jù)量的增大會(huì)使算法精準(zhǔn)度隨之提高,那些不準(zhǔn)確的部分也可被成功識(shí)別。所以說,擴(kuò)充數(shù)據(jù)庫是人工智能與大數(shù)據(jù)的基本前提。[6]

    在刑事訴訟活動(dòng)中,人工智能大數(shù)據(jù)的應(yīng)用面臨的一大問題就是數(shù)據(jù)不夠充分。首先,我國(guó)直到2013 年才建立中國(guó)裁判文書網(wǎng),為全國(guó)性獲取網(wǎng)上裁判文書提供了渠道。其次,2013 年以后裁判文書同樣存在公開不夠充分的問題。相關(guān)研究表明,2015年我國(guó)的辦結(jié)案件中公開文書的案件大概只有二分之一。此外,不同地區(qū)在裁判文書公開方面的進(jìn)展并不一致,如華東地區(qū)經(jīng)濟(jì)發(fā)展水平相對(duì)較高,相應(yīng)的文書公開率也比較大,但是如西藏這類經(jīng)濟(jì)發(fā)展相對(duì)落后的地區(qū)來講,其公開率也相對(duì)降低,經(jīng)濟(jì)發(fā)達(dá)與不發(fā)達(dá)地區(qū)之間的差距為40%~50%。[25](P195~246)再次,其他很多會(huì)對(duì)案件起決定性作用的檢委會(huì)、審委會(huì)、合議庭等會(huì)議記錄信息并不公布。

    2.數(shù)據(jù)共享存在困難

    目前,想要實(shí)現(xiàn)司法數(shù)據(jù)信息共享面臨的主要問題包括如下幾點(diǎn):首先,司法機(jī)關(guān)內(nèi)部的數(shù)據(jù)共享尚未實(shí)現(xiàn)。例如統(tǒng)一業(yè)務(wù)應(yīng)用系統(tǒng),盡管已經(jīng)在全國(guó)范圍內(nèi)進(jìn)行部署,但是因?yàn)樵撓到y(tǒng)的等級(jí)為機(jī)密級(jí),導(dǎo)致很多地方在系統(tǒng)應(yīng)用的探索過程中無法導(dǎo)出司法數(shù)據(jù)信息。[10]其次,司法與立法、執(zhí)法之間還未實(shí)現(xiàn)信息互通,各自的業(yè)務(wù)系統(tǒng)還存在物理隔離,而且各機(jī)關(guān)采取的數(shù)據(jù)保存格式、規(guī)則等都有所不同,這些都不利于數(shù)據(jù)共享的實(shí)現(xiàn);如司法機(jī)關(guān)處理案件時(shí),會(huì)查詢涉案被告人的財(cái)產(chǎn)信息,但是往往會(huì)遇到信息渠道障礙。[26](P52~70)特別是有些案件還需要獲取嫌疑人的銀行信息,還需要大量人力去各銀行查詢。

    3.缺少跨專業(yè)的復(fù)合型人員

    隨著法學(xué)領(lǐng)域內(nèi)大數(shù)據(jù)、人工智能等技術(shù)的應(yīng)用,形成了很多信息科學(xué)與法學(xué)交叉的領(lǐng)域,具體表現(xiàn)在算法編程、大數(shù)據(jù)分析等方面,但是二者之間由于跨度巨大,磨合起來非常困難。首先,算法工程師、程序員對(duì)算法十分精通,但是自身的法律知識(shí)比較匱乏;同時(shí),由于其一直受到自然科學(xué)研究思維的影響和專業(yè)的法學(xué)思維也有隔閡。盡管一些程序員有著非常好的編程技術(shù),不過在應(yīng)對(duì)法律工作時(shí)可能會(huì)出現(xiàn)力有不逮的情況,難以準(zhǔn)確認(rèn)知、把握法律工作者的客戶需求。因此,很難將一些法律理念貫徹算法始終。其次,大部分法律工作者都沒有計(jì)算機(jī)專業(yè)背景,也并未學(xué)習(xí)過編程知識(shí),因此,也無法由專業(yè)的法律工作者來負(fù)責(zé)編程工作。故此,為了實(shí)現(xiàn)刑事訴訟人工智能化轉(zhuǎn)型就迫切要求引入具有跨學(xué)科知識(shí)的復(fù)合型人才,強(qiáng)化對(duì)編程人員的法學(xué)知識(shí)培訓(xùn),提高其法學(xué)素養(yǎng)。

    4.低水平系統(tǒng)的重復(fù)建設(shè)

    各地在推進(jìn)司法改革的過程中,一些地方興起了刑事訴訟人工智能化轉(zhuǎn)型的“軍備競(jìng)賽”,其實(shí)有很多地區(qū)自身經(jīng)濟(jì)發(fā)展相對(duì)落后,也沒有足夠的財(cái)力支撐,且缺乏高素質(zhì)的司法工作隊(duì)伍,專業(yè)的信息技術(shù)人員也相對(duì)較少,如果不考慮這些因素而盲目開展司法數(shù)據(jù)庫建設(shè)以及法律人工智能系統(tǒng)設(shè)計(jì),更多的是復(fù)制其他地方的經(jīng)驗(yàn),不僅不會(huì)給司法工作帶來幫助,還會(huì)浪費(fèi)政府財(cái)政資源。想要在司法大數(shù)據(jù)或者是法律人工智能領(lǐng)域取得重大突破非常困難,甚至于一些極個(gè)別的地方大搞研發(fā)工程只是為了追求本級(jí)政府的績(jī)效?!耙恍┫到y(tǒng)根本并未投入應(yīng)用,僅有 DEMO 版本?!盵10]不可否認(rèn),各地為此進(jìn)行的積極探索能夠提供豐富的經(jīng)驗(yàn),還可基于這些經(jīng)驗(yàn)總結(jié)得出適用全國(guó)范圍的一般性規(guī)律。然而,在探索嘗試的過程中,各地遵循的標(biāo)準(zhǔn)以及操作實(shí)踐都存在差異??偠灾还苁欠扇斯ぶ悄艿膶?shí)現(xiàn)還是司法大數(shù)據(jù)的建立,如果不堅(jiān)持頂層設(shè)計(jì),未做到統(tǒng)一部署,想要在全國(guó)范圍內(nèi)推廣面臨的難度非常之大。

    三、刑事訴訟人工智能化轉(zhuǎn)型的原則與方案

    (一)刑事訴訟人工智能化轉(zhuǎn)型的基本原則

    為了更好地發(fā)揮人工智能的作用,需要制定人工智能運(yùn)用原則。應(yīng)當(dāng)認(rèn)識(shí)到將人工智能技術(shù)應(yīng)用于刑事審判之中主要是為了能夠帶來有益的智能,人工智能在刑事訴訟中的發(fā)展有著相對(duì)明確的方向。因此,需要考慮以何種原則對(duì)人工智能系統(tǒng)的設(shè)計(jì)和運(yùn)用進(jìn)行指引,以確保其被應(yīng)用于刑事審判之中時(shí)期算法的魯棒性能夠得到保障;(7)魯棒性又稱健壯性,是指對(duì)非法輸入的抵抗能力。當(dāng)輸入的數(shù)據(jù)非法時(shí),算法不應(yīng)是中斷程序的執(zhí)行,而應(yīng)恰當(dāng)?shù)刈龀龇磻?yīng)或進(jìn)行相應(yīng)的處理。參見周元哲等編著《程序基本算法教程》,北京:清華大學(xué)出版社,2016年版,第7頁。抑或者是基于何種原則才可確保人工智能的引入對(duì)司法公正的實(shí)現(xiàn)有利。從整體來講,刑事訴訟中應(yīng)用人工智能等技術(shù)時(shí)應(yīng)當(dāng)堅(jiān)持的基本原則是:工具性作用最優(yōu)化原則。其主要含義是指,在應(yīng)用人工智能技術(shù)時(shí)應(yīng)當(dāng)充分發(fā)揮其輔助刑事審判的工具性作用,該原則包含如下幾項(xiàng)子原則。

    1.輔助性原則

    輔助性原則強(qiáng)調(diào)的是應(yīng)當(dāng)認(rèn)識(shí)到在判斷刑事證據(jù)時(shí),人工智能起到的只是輔助作用,決策制定依舊需要法官進(jìn)行審查而后決定。主要是因?yàn)閷?duì)刑事證明的判斷帶有比較鮮明的主觀色彩,同時(shí)還需要參考客觀要素。其中,客觀要素指的是如合法性、真實(shí)性等客觀屬性,而主觀要素,指的是人從主觀上就證據(jù)做出的判定。關(guān)于證明標(biāo)準(zhǔn),現(xiàn)階段我國(guó)頒布實(shí)施的刑事訴訟法做出了明確規(guī)定:“案件事實(shí)清楚、證據(jù)確實(shí)充分,且綜合全案證據(jù),對(duì)認(rèn)定事實(shí)已排除合理懷疑”。對(duì)案件事實(shí)以及證據(jù)的要求強(qiáng)調(diào)的是證據(jù)的質(zhì)與量,但是利用算法很難對(duì)這些做出準(zhǔn)確的判斷。譬如,“排除合理懷疑”這一標(biāo)準(zhǔn)有著較高的主觀性特征,想要以相應(yīng)算法來對(duì)其做出認(rèn)定非常困難。

    盡管人工智能技術(shù)是對(duì)人的思維的模擬,不過在很多關(guān)鍵問題上人工智能技術(shù)還未取得突破,還存在很多問題,利用人工智能得出的結(jié)論無法與人的思考結(jié)果完全相同。比如,在做出價(jià)值判斷時(shí),人類需要運(yùn)用到不確定性思維、形象思維等,但是人工智能不具有這些思維能力,還無法勝任價(jià)值判斷的工作。盡管在對(duì)證據(jù)進(jìn)行審查時(shí)會(huì)需要邏輯思維以及數(shù)學(xué)計(jì)算,人工智能在這兩點(diǎn)上有其優(yōu)勢(shì),不過,審查證據(jù)時(shí)更加重要的是需要能夠基于證據(jù)來完成類比與想象工作。比如,應(yīng)當(dāng)能夠從證據(jù)之間的邏輯關(guān)系入手展開想象。此外,這一審查判斷的過程中還要求綜合考慮相關(guān)的司法政策,做出價(jià)值判斷,這些內(nèi)容利用算法是很難得出的。如有學(xué)者提出,上海所研發(fā)的“案件智能輔助辦案系統(tǒng)”所發(fā)揮的作用應(yīng)當(dāng)是輔助性的,而不是由該系統(tǒng)替代法官行使職能,更加不是由機(jī)器來對(duì)案件定罪量刑。另有學(xué)者也提出,引入大數(shù)據(jù)只是為工作人員做出判斷提供參考,最終依舊是由檢察官來做出裁決,并不提倡以機(jī)器來替代人。法律條文的規(guī)定并不是僵化的,完全以過去的案件數(shù)據(jù)也無法對(duì)法律條文做出非常全面的詮釋。[27]因此,人工智能起到的僅是輔助性作用,且為決策制定提供參考。

    2.有限性原則

    有限性原則指的是在刑事證據(jù)判斷過程中,人工智能能夠解決部分問題而不是所有的問題。人的思維方式可分為兩種:線性與非線性思維。思維背景、教育環(huán)境不同,人分析事物時(shí)的出發(fā)點(diǎn)、方式都會(huì)有所不同,即面對(duì)相同的事物會(huì)有不同的思維方式。人工智能是基于算法來模擬人的思維,因此,這一過程依舊在馮·諾依曼型的范疇之中。盡管能夠?qū)⑷说乃季S過程以算法的形式表示出來,但是有很多方面的運(yùn)行機(jī)制是不可知的,如靈感頓悟等,也因此,更加無法對(duì)這些內(nèi)容進(jìn)行模擬。換言之,由于思維所具有的不完全性決定了算法僅可以解決部分問題,即其作用是有限的。[28](P44~47)

    現(xiàn)階段,利用人工智能進(jìn)行證據(jù)審查時(shí),依據(jù)的主要是海量數(shù)據(jù)信息、算法以及專家經(jīng)驗(yàn),以數(shù)學(xué)模型的方式轉(zhuǎn)化某罪名的證據(jù)要求,通過模型組合得到辦案輔助系統(tǒng),能夠提高證據(jù)審查效率。因此,在借助人工智能技術(shù)審查證據(jù)時(shí),審查的工作重點(diǎn)是證據(jù)規(guī)格,即定罪量刑所需的基本證據(jù)、取證要求以及證據(jù)類型等。[29](P119~124)證據(jù)規(guī)格和證據(jù)標(biāo)準(zhǔn)存在區(qū)別,證據(jù)規(guī)格強(qiáng)調(diào)的是種類數(shù)量、類型;而證據(jù)標(biāo)準(zhǔn)突出的是證據(jù)的證明程度,但是在該方面,人工智能的作用是有限的。具體來講,證據(jù)標(biāo)準(zhǔn)審查不只是需要進(jìn)行邏輯判斷還要求運(yùn)用各種法律方法,如法律推理、漏洞填補(bǔ)等,還要求運(yùn)用多種思維方法,比如聯(lián)想、想象等。因?yàn)槿斯ぶ悄懿⑽磳?shí)現(xiàn)對(duì)人的思維的完全模仿,將其應(yīng)用于司法實(shí)踐中起到的作用是有限的。

    3.可推翻性原則

    超強(qiáng)的邏輯推理能力以及計(jì)算能力,這是人工智能所具有的突出優(yōu)勢(shì)。但是,該技術(shù)的關(guān)鍵在于可高效處理那些復(fù)雜且不確定的事物。換言之,唯有人工智能技術(shù)在不確定性方面獲得了重要突破,能夠以自然語言而不是符號(hào)語言來進(jìn)行思考、推理,方意味著該技術(shù)取得了實(shí)質(zhì)性進(jìn)展。[30](P683~685)事實(shí)上,日常生活有很多的因素都是不確定的,因此這些因素想要以算法全部表達(dá)出來非常困難。也正是因此才需要以可信度推理、模糊數(shù)學(xué)等多種方法來就不確定性問題展開研究。這種結(jié)論只是和人的思維相悖,而并不是其出現(xiàn)了錯(cuò)誤。而證據(jù)審查與事實(shí)認(rèn)定過程就存在著不確定性問題,例如排除合理懷疑的證明標(biāo)準(zhǔn),則無法通過人工智能得到明確答案。故此,司法人員對(duì)人工智能得出的結(jié)論應(yīng)當(dāng)保持謹(jǐn)慎的態(tài)度,可對(duì)此提出合理異議。

    (二)刑事訴訟人工智能化轉(zhuǎn)型的實(shí)踐方案

    1.完善技術(shù)建設(shè)

    從人工智能系統(tǒng)本身的角度看,要求由人工智能應(yīng)用于刑事審判過程中時(shí),所有的行動(dòng)都需要做到透明、可解釋。應(yīng)當(dāng)確保人工智能系統(tǒng)的所有運(yùn)算軌跡都有可記錄查詢,即對(duì)其需要進(jìn)行全面?zhèn)浒?。站在監(jiān)管視角來分析,應(yīng)當(dāng)設(shè)立專門的監(jiān)管部門負(fù)責(zé)人工智能監(jiān)管問題。同時(shí),還可考慮增加編制內(nèi)工作人員負(fù)責(zé)人工智能系統(tǒng)的核心工作。系統(tǒng)開發(fā)中遇到了臨時(shí)性的問題,由外包專業(yè)人員解決時(shí),應(yīng)當(dāng)明確其責(zé)任和地位。對(duì)于負(fù)責(zé)系統(tǒng)開發(fā)的人員來講,應(yīng)當(dāng)在司法體系內(nèi)部建立起有效的人工智能問責(zé)制度以及算法披露制度。相對(duì)于普通人而言,人工智能系統(tǒng)的使用者以及開發(fā)者對(duì)人工智能產(chǎn)品的把控能力更加突出。故此,明確其這類群體的責(zé)任是有必要的,還可考慮以刑法來對(duì)此做出明確規(guī)定。《中華人民共和國(guó)刑法》第285~287條就計(jì)算機(jī)犯罪作出了規(guī)定??梢赃@些罪名來對(duì)人工智能系統(tǒng)的研發(fā)與使用者進(jìn)行評(píng)價(jià),追究其刑事責(zé)任。為了確保人工智能系統(tǒng)的安全性,應(yīng)當(dāng)做好法院內(nèi)部網(wǎng)絡(luò)的安全管理,升級(jí)內(nèi)網(wǎng)操作系統(tǒng),以確保網(wǎng)絡(luò)安全隱患能夠在最大程度上得到規(guī)避。

    人工智能時(shí)代的到來為相關(guān)領(lǐng)域的人才需求提出了規(guī)模、質(zhì)量與知識(shí)結(jié)構(gòu)等方面的新要求。同時(shí),人工智能的發(fā)展也使法律職業(yè)遭遇了前所未有的挑戰(zhàn),為了向社會(huì)輸送更多優(yōu)秀的法科人才,應(yīng)當(dāng)結(jié)合人工智能的時(shí)代背景推進(jìn)高等法學(xué)教育。一是加強(qiáng)教學(xué)理念的創(chuàng)新變革,同時(shí)確保該理念能夠貫徹教學(xué)活動(dòng)始終。應(yīng)當(dāng)明確人工智能背景下進(jìn)行高等法學(xué)教育的目標(biāo),也即為社會(huì)培養(yǎng)可適應(yīng)信息化核心能力要求的優(yōu)秀法科人才,培育現(xiàn)代化、應(yīng)用型的法學(xué)人才。二是應(yīng)當(dāng)順應(yīng)人工智能的發(fā)展趨勢(shì)對(duì)相關(guān)學(xué)科以及課程設(shè)計(jì)作出適當(dāng)調(diào)整。在法律領(lǐng)域中引入人工智能技術(shù),實(shí)質(zhì)上是法律與科技的跨界,同時(shí)要求相應(yīng)人才不只是需要具備法學(xué)知識(shí)還必須掌握技術(shù)理論,即要求“法律—技術(shù)”復(fù)合型人才,當(dāng)走法律與人工智能的融合進(jìn)路。三是改革創(chuàng)新教學(xué)方法。在這種時(shí)代背景下,在培養(yǎng)高等法學(xué)人才時(shí),高校需要始終堅(jiān)持理論與實(shí)踐相結(jié)合這一基本理念,在實(shí)踐活動(dòng)中開展教學(xué),尋求教學(xué)方法的變革和創(chuàng)新,如高??膳c法律事務(wù)平臺(tái)展開合作教學(xué),將理論教學(xué)與實(shí)踐教學(xué)結(jié)合起來,增強(qiáng)理論知識(shí)的應(yīng)用。同時(shí),還可將課堂教學(xué)與已經(jīng)引入法律人工智能系統(tǒng)的單位結(jié)合,激發(fā)學(xué)生對(duì)法律智能化的學(xué)習(xí)興趣。為了能夠搭建司法數(shù)據(jù)共享平臺(tái),要求逐步統(tǒng)一各地法院的刑事案件信息技術(shù)標(biāo)準(zhǔn)。假如未能建立起統(tǒng)一的技術(shù)標(biāo)準(zhǔn),那么就無法真正實(shí)現(xiàn)司法數(shù)據(jù)共享與互通。為了進(jìn)一步豐富數(shù)據(jù)庫的多樣性,可考慮納入中國(guó)裁判文書網(wǎng)的數(shù)據(jù),以為人工智能系統(tǒng)提供更加強(qiáng)大的數(shù)據(jù)支撐。同時(shí),還應(yīng)當(dāng)加強(qiáng)對(duì)其他相關(guān)數(shù)據(jù)信息的挖掘和分析。此外,為了確保數(shù)據(jù)信息質(zhì)量,在全國(guó)法院已經(jīng)實(shí)現(xiàn)信息互通的前提下,實(shí)時(shí)更新、評(píng)選高質(zhì)量的法律信息,加強(qiáng)數(shù)據(jù)溝通。這種做法不只是能夠進(jìn)一步完善人工智能技術(shù),還可進(jìn)一步拓展法官的知識(shí)視野,對(duì)整體裁判質(zhì)量的提升有著積極的促進(jìn)作用,降低各地法院之間的信息不對(duì)稱問題。

    2.限制人工智能介入范圍

    當(dāng)前,我國(guó)裁判領(lǐng)域中引入人工智能技術(shù)更多的是為了推動(dòng)司法裁判效率的提升,以達(dá)成司法裁判統(tǒng)一,減少裁判矛盾。在應(yīng)用法律人工智能時(shí),應(yīng)當(dāng)首先選擇那些法律適用明確、信息客觀的相對(duì)而言較為簡(jiǎn)單的案件,比如信用卡詐騙、盜竊等。主要是因?yàn)椋@類案件往往有較為充分的信息,借助這些數(shù)據(jù)信息,人工智能系統(tǒng)能夠做出更加準(zhǔn)確的判斷,即結(jié)果可靠性高。目前,人工智能除了為公檢法等機(jī)關(guān)提供服務(wù)外,還被運(yùn)用于服務(wù)私主體,比如訴訟代理人或是案件當(dāng)事人等,提供的服務(wù)包括:法律咨詢、法律建議、風(fēng)險(xiǎn)評(píng)估等。法律人工智能還可為企業(yè)法務(wù)部門提供法律風(fēng)險(xiǎn)評(píng)估與防范、合同審核等方面的服務(wù)。此外,面向律師或律所,人工智能過去起到的主要作用是文書處理以及信息檢索,但是現(xiàn)在其功能范圍在不斷擴(kuò)大,能夠基于數(shù)據(jù)分析預(yù)測(cè)裁判結(jié)果。

    3.強(qiáng)化人權(quán)保障

    人工智能下的偵查,一旦致力于權(quán)力行為高效化的導(dǎo)向,很可能會(huì)侵害個(gè)人合法權(quán)利或者是對(duì)社會(huì)公平造成侵害。此外,法律應(yīng)對(duì)的滯后性可能會(huì)創(chuàng)造出對(duì)大數(shù)據(jù)偵查的政策選擇與戰(zhàn)略推進(jìn)有利的條件,不過在這一過程中同樣蘊(yùn)含著法律風(fēng)險(xiǎn),而“科技快感”可能無法抵消這些消極后果。司法實(shí)踐中,偵查人員、檢察官、法官仍然是處于主體地位,切忌對(duì)科學(xué)技術(shù)的過度濫用,不可為了“使用而使用”,盲目地使用科學(xué)技術(shù)進(jìn)行搜集、拼湊證據(jù)。對(duì)收集證據(jù)數(shù)據(jù)并非全盤接受,應(yīng)設(shè)置對(duì)該類證據(jù)的合法性、合理性審查的證據(jù)機(jī)制,將不正當(dāng)?shù)淖C據(jù)予以排除,防止因科學(xué)技術(shù)的濫用而發(fā)生冤假錯(cuò)案。人工智能和區(qū)塊鏈技術(shù)的使用也應(yīng)遵循一定的司法秩序和技術(shù)秩序,設(shè)置某些司法領(lǐng)域的禁區(qū),防止侵犯人權(quán)事件的發(fā)生。例如關(guān)于證據(jù)的裁量性排除的認(rèn)定,需要法官的主觀分析與價(jià)值判斷才能形成;在刑事審判中,法官必須親歷庭審并見證控辯雙方答辯、舉證質(zhì)證等訴訟環(huán)節(jié)的全過程??萍疾皇芟拗频奶娲越槿雽?huì)損害司法的權(quán)威性和公信力,人工智能與區(qū)塊鏈技術(shù)的效率不能以犧牲個(gè)案正義來獲得。[31](P72~28)司法工作人員的技術(shù)培訓(xùn)也是需提上日程的事項(xiàng),否則刑事司法工作與技術(shù)的契合只是紙上談兵。

    4.保障律師參與

    審前人工智能運(yùn)用的樣態(tài),如證據(jù)校驗(yàn)、量刑預(yù)測(cè)等,主要作用在于強(qiáng)化追訴方發(fā)現(xiàn)犯罪線索能力、審查證據(jù)能力以及提高其追訴成功率,但不應(yīng)排除辯護(hù)方在其中的作用。審判中心主義所要求的庭審實(shí)質(zhì)化,最重要的表現(xiàn)即體現(xiàn)在兩造的平等對(duì)抗,而這種平等對(duì)抗要建立在審前程序中律師參與權(quán)保障的基礎(chǔ)上。因此,應(yīng)賦予律師在審前人工智能運(yùn)用中充分的知情權(quán)、參與權(quán)與技術(shù)回溯權(quán),并可以對(duì)證據(jù)的校驗(yàn)、瑕疵補(bǔ)強(qiáng)、排除等提出意見。

    在審判階段,人工智能的運(yùn)用同樣應(yīng)該建立在律師充分參與的基礎(chǔ)上。在律師的幫助下,被告人才能自愿而明智地做出程序選擇。同時(shí),還可以聘請(qǐng)具有計(jì)算機(jī)、人工智能等技術(shù)的專家輔助人參與人工智能裁判,為被告人提供技術(shù)方面的幫助。有了律師和專家輔助人在審判中的有效參與,才能使得證據(jù)調(diào)查、質(zhì)證等環(huán)節(jié)依舊可以保持兩造對(duì)抗的基本構(gòu)造,才能使得被告人的基本訴訟權(quán)利得到保障。

    結(jié) 語

    縱觀人類司法制度和司法裁判的發(fā)展史,人的主體性一直牢牢把握著裁判的控制權(quán),已經(jīng)形成了一整套承載著司法規(guī)律的審判制度和法官制度,而科技與司法相結(jié)合所產(chǎn)生的人工智能裁判讓這一切正在發(fā)生著重大改變,可以說“潘多拉的魔盒已經(jīng)打開”,所產(chǎn)生的影響究竟有多大尚不可知。在國(guó)家頂層設(shè)計(jì)和司法機(jī)關(guān)積極試點(diǎn)的背景下,人工智能裁判不僅僅是一種司法輔助系統(tǒng),也不僅僅是為了解決法律實(shí)務(wù)中案多人少等難題的權(quán)宜之計(jì),而是可能顛覆傳統(tǒng)的司法原則、司法理性和司法認(rèn)知并產(chǎn)生深遠(yuǎn)影響的巨大變革。因此,在嘗試技術(shù)革新的同時(shí)也必須平衡好法律理論與司法實(shí)踐。總之,就目前而言,人工智能本身在司法領(lǐng)域是無法完全替代人的,因?yàn)槿说摹皯B(tài)度”“想象”“邏輯”等要素?zé)o法為人工智能所模仿。而且,即便是從長(zhǎng)遠(yuǎn)角度來看,也需要明確認(rèn)識(shí)到:司法領(lǐng)域中,“人”的地位不可動(dòng)搖。

    猜你喜歡
    證據(jù)司法人工智能
    制定法解釋中的司法自由裁量權(quán)
    法律方法(2021年4期)2021-03-16 05:34:28
    司法所悉心調(diào)解 墊付款有了著落
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    非正式司法的悖謬
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    對(duì)于家庭暴力應(yīng)當(dāng)如何搜集證據(jù)
    紅土地(2016年3期)2017-01-15 13:45:22
    下一幕,人工智能!
    手上的證據(jù)
    “大禹治水”有了新證據(jù)
    青草久久国产| 国产精品一区二区在线观看99| 国产精品99久久99久久久不卡| 高清欧美精品videossex| www日本在线高清视频| 无限看片的www在线观看| 亚洲专区国产一区二区| 午夜激情av网站| 欧美精品亚洲一区二区| av免费在线观看网站| 国产精品98久久久久久宅男小说| 超碰97精品在线观看| 日本五十路高清| 国产精品影院久久| 丝袜喷水一区| 97在线人人人人妻| 欧美精品啪啪一区二区三区| 妹子高潮喷水视频| 精品亚洲成国产av| 18禁国产床啪视频网站| 一二三四社区在线视频社区8| 黑人巨大精品欧美一区二区mp4| 美女国产高潮福利片在线看| 国产亚洲一区二区精品| 日韩制服丝袜自拍偷拍| 精品一品国产午夜福利视频| 国产午夜精品久久久久久| 90打野战视频偷拍视频| 免费观看人在逋| 欧美日韩成人在线一区二区| 日本av免费视频播放| 自拍欧美九色日韩亚洲蝌蚪91| 黄色怎么调成土黄色| 亚洲色图av天堂| 大型黄色视频在线免费观看| 国产野战对白在线观看| 午夜福利,免费看| 亚洲第一青青草原| 亚洲av电影在线进入| 欧美激情高清一区二区三区| 中文字幕人妻丝袜制服| 人成视频在线观看免费观看| 国产精品自产拍在线观看55亚洲 | 9191精品国产免费久久| 国产精品久久久久成人av| 国产精品一区二区在线不卡| 操美女的视频在线观看| 国产精品成人在线| 母亲3免费完整高清在线观看| 日本精品一区二区三区蜜桃| 在线永久观看黄色视频| 日韩成人在线观看一区二区三区| 十八禁高潮呻吟视频| 久久精品国产a三级三级三级| 午夜视频精品福利| 成年人午夜在线观看视频| av又黄又爽大尺度在线免费看| 青草久久国产| 男女之事视频高清在线观看| 亚洲视频免费观看视频| 80岁老熟妇乱子伦牲交| av欧美777| 精品一品国产午夜福利视频| 国产欧美日韩一区二区三区在线| 亚洲中文字幕日韩| 午夜日韩欧美国产| 久久久国产一区二区| 亚洲熟女精品中文字幕| 国产黄频视频在线观看| 波多野结衣一区麻豆| 亚洲成a人片在线一区二区| av一本久久久久| 美女福利国产在线| 水蜜桃什么品种好| 在线观看免费视频日本深夜| 国产亚洲精品第一综合不卡| 国产亚洲欧美在线一区二区| 国产免费福利视频在线观看| a级毛片在线看网站| 母亲3免费完整高清在线观看| 亚洲黑人精品在线| 十八禁网站免费在线| 黄网站色视频无遮挡免费观看| av线在线观看网站| 国产深夜福利视频在线观看| 丝瓜视频免费看黄片| 国产午夜精品久久久久久| 一区二区三区精品91| 多毛熟女@视频| 午夜福利影视在线免费观看| 亚洲国产欧美日韩在线播放| 国产日韩欧美亚洲二区| 国产一区二区激情短视频| 亚洲av第一区精品v没综合| 亚洲天堂av无毛| 久久久久精品国产欧美久久久| 亚洲 欧美一区二区三区| av不卡在线播放| 不卡一级毛片| 精品一区二区三区视频在线观看免费 | 欧美在线一区亚洲| 国产黄色免费在线视频| 免费不卡黄色视频| 国产一区二区 视频在线| 咕卡用的链子| 蜜桃国产av成人99| 久久亚洲精品不卡| 久久精品人人爽人人爽视色| 天堂中文最新版在线下载| 一本一本久久a久久精品综合妖精| 一夜夜www| 99热国产这里只有精品6| 色综合欧美亚洲国产小说| 亚洲色图综合在线观看| 91精品国产国语对白视频| 欧美人与性动交α欧美精品济南到| 女人精品久久久久毛片| 久久久久国产一级毛片高清牌| 怎么达到女性高潮| 岛国在线观看网站| 亚洲全国av大片| 欧美午夜高清在线| 亚洲av欧美aⅴ国产| 熟女少妇亚洲综合色aaa.| 女人爽到高潮嗷嗷叫在线视频| 亚洲欧美日韩另类电影网站| 精品人妻1区二区| 欧美日本中文国产一区发布| 人妻一区二区av| 久久久久久人人人人人| 日韩欧美一区视频在线观看| 国产一区二区三区综合在线观看| 香蕉丝袜av| 午夜老司机福利片| xxxhd国产人妻xxx| 曰老女人黄片| 丁香六月天网| 免费观看人在逋| 国产97色在线日韩免费| 黑人欧美特级aaaaaa片| 妹子高潮喷水视频| 亚洲av美国av| 久久天躁狠狠躁夜夜2o2o| 欧美人与性动交α欧美精品济南到| 精品久久蜜臀av无| 王馨瑶露胸无遮挡在线观看| 女人爽到高潮嗷嗷叫在线视频| 香蕉国产在线看| 日韩大码丰满熟妇| 亚洲成国产人片在线观看| av天堂久久9| 日本黄色视频三级网站网址 | 考比视频在线观看| 免费看十八禁软件| 国产aⅴ精品一区二区三区波| 一边摸一边做爽爽视频免费| 日韩 欧美 亚洲 中文字幕| 黄色视频不卡| 视频在线观看一区二区三区| 狂野欧美激情性xxxx| 国产成人av激情在线播放| 麻豆成人av在线观看| 亚洲精品一二三| 69av精品久久久久久 | 一边摸一边做爽爽视频免费| 日本欧美视频一区| 叶爱在线成人免费视频播放| 中文字幕人妻熟女乱码| 亚洲欧洲日产国产| 王馨瑶露胸无遮挡在线观看| 国产黄频视频在线观看| 亚洲七黄色美女视频| 久久久久国内视频| 桃花免费在线播放| 在线 av 中文字幕| 亚洲精品久久成人aⅴ小说| 午夜福利在线观看吧| 久久热在线av| 丝袜在线中文字幕| www.999成人在线观看| 日韩有码中文字幕| 亚洲中文日韩欧美视频| www.自偷自拍.com| 极品教师在线免费播放| 国产麻豆69| 精品少妇久久久久久888优播| 丁香六月欧美| 一二三四在线观看免费中文在| 亚洲成人免费av在线播放| 欧美精品亚洲一区二区| 国产在线精品亚洲第一网站| 亚洲av片天天在线观看| 中文亚洲av片在线观看爽 | 大型黄色视频在线免费观看| 国产91精品成人一区二区三区 | 高清av免费在线| 久久午夜综合久久蜜桃| 日本av手机在线免费观看| 我要看黄色一级片免费的| 老司机靠b影院| 欧美老熟妇乱子伦牲交| a在线观看视频网站| 久久热在线av| 日本黄色视频三级网站网址 | 妹子高潮喷水视频| 天堂8中文在线网| 久热爱精品视频在线9| 久久精品aⅴ一区二区三区四区| 啪啪无遮挡十八禁网站| 精品国产一区二区久久| netflix在线观看网站| 国产又色又爽无遮挡免费看| 久久99一区二区三区| 欧美中文综合在线视频| 免费日韩欧美在线观看| 成人国产一区最新在线观看| 露出奶头的视频| 久久精品91无色码中文字幕| 欧美中文综合在线视频| 亚洲中文字幕日韩| 99re6热这里在线精品视频| 在线观看免费日韩欧美大片| 欧美成人免费av一区二区三区 | 亚洲三区欧美一区| 久久久久久久国产电影| 美女高潮喷水抽搐中文字幕| 男女下面插进去视频免费观看| svipshipincom国产片| 成人特级黄色片久久久久久久 | 波多野结衣一区麻豆| 精品卡一卡二卡四卡免费| 波多野结衣av一区二区av| 90打野战视频偷拍视频| 欧美日韩亚洲国产一区二区在线观看 | 99riav亚洲国产免费| 亚洲第一欧美日韩一区二区三区 | av线在线观看网站| 91成年电影在线观看| tube8黄色片| 午夜福利在线免费观看网站| 亚洲精华国产精华精| av在线播放免费不卡| 久久人妻福利社区极品人妻图片| 亚洲伊人久久精品综合| 精品久久久精品久久久| 国产欧美日韩一区二区三区在线| 视频区欧美日本亚洲| 欧美黄色淫秽网站| 免费在线观看视频国产中文字幕亚洲| av线在线观看网站| 极品教师在线免费播放| e午夜精品久久久久久久| 国产免费视频播放在线视频| 老司机靠b影院| 在线天堂中文资源库| 热99re8久久精品国产| 香蕉久久夜色| h视频一区二区三区| 日韩大码丰满熟妇| videosex国产| 亚洲七黄色美女视频| 亚洲精品中文字幕在线视频| 美女视频免费永久观看网站| 啦啦啦 在线观看视频| 一区二区av电影网| 午夜福利影视在线免费观看| 国产精品久久久av美女十八| 一区二区三区精品91| 天堂8中文在线网| 欧美亚洲日本最大视频资源| 亚洲,欧美精品.| 国产黄色免费在线视频| 久久影院123| 国产一区二区三区视频了| 久久久国产精品麻豆| 亚洲国产欧美在线一区| 一边摸一边抽搐一进一出视频| 国产又爽黄色视频| 精品免费久久久久久久清纯 | 午夜日韩欧美国产| 国产视频一区二区在线看| 精品人妻在线不人妻| 久久精品国产亚洲av高清一级| 搡老乐熟女国产| 天天躁夜夜躁狠狠躁躁| 一夜夜www| 久久人妻av系列| 国产男靠女视频免费网站| 久久久久国内视频| 亚洲午夜理论影院| 丁香欧美五月| 欧美日韩一级在线毛片| 免费日韩欧美在线观看| 欧美黄色片欧美黄色片| 精品久久久久久电影网| 女性被躁到高潮视频| 午夜福利一区二区在线看| 99精品久久久久人妻精品| 久久午夜综合久久蜜桃| 久久精品91无色码中文字幕| 成人18禁在线播放| 手机成人av网站| 午夜福利一区二区在线看| 制服诱惑二区| 中文字幕高清在线视频| av天堂在线播放| 中文字幕另类日韩欧美亚洲嫩草| 高清av免费在线| 下体分泌物呈黄色| 午夜福利,免费看| 99精品久久久久人妻精品| 在线观看免费高清a一片| 成人av一区二区三区在线看| 性高湖久久久久久久久免费观看| aaaaa片日本免费| 亚洲一区中文字幕在线| 欧美黑人精品巨大| 后天国语完整版免费观看| 香蕉久久夜色| 国产精品久久久人人做人人爽| 欧美亚洲 丝袜 人妻 在线| 少妇的丰满在线观看| 51午夜福利影视在线观看| 日韩大片免费观看网站| 麻豆成人av在线观看| 十八禁网站网址无遮挡| 午夜老司机福利片| 国产精品熟女久久久久浪| 久久毛片免费看一区二区三区| 美女主播在线视频| 无限看片的www在线观看| 久久人人97超碰香蕉20202| av国产精品久久久久影院| 成人特级黄色片久久久久久久 | av超薄肉色丝袜交足视频| 精品一区二区三区av网在线观看 | 黄色视频,在线免费观看| 高清av免费在线| 亚洲三区欧美一区| 人人妻人人澡人人爽人人夜夜| 亚洲国产欧美在线一区| 大型黄色视频在线免费观看| 视频在线观看一区二区三区| 美女福利国产在线| 男女无遮挡免费网站观看| 亚洲人成电影免费在线| 老司机在亚洲福利影院| 国产三级黄色录像| 成年女人毛片免费观看观看9 | 亚洲成国产人片在线观看| 日韩中文字幕视频在线看片| 免费在线观看影片大全网站| av网站免费在线观看视频| 黑人操中国人逼视频| 男女床上黄色一级片免费看| 久久久国产一区二区| 亚洲精品在线美女| 欧美在线一区亚洲| 搡老熟女国产l中国老女人| 亚洲av美国av| av网站在线播放免费| 999精品在线视频| 老鸭窝网址在线观看| 真人做人爱边吃奶动态| 一进一出好大好爽视频| 精品欧美一区二区三区在线| 成年人午夜在线观看视频| 露出奶头的视频| 精品国产乱子伦一区二区三区| 精品亚洲乱码少妇综合久久| a在线观看视频网站| 成人永久免费在线观看视频 | 一级,二级,三级黄色视频| 国产黄频视频在线观看| 精品久久久精品久久久| 在线永久观看黄色视频| 女警被强在线播放| 成年版毛片免费区| 欧美激情极品国产一区二区三区| 久久久国产一区二区| 老司机靠b影院| 男女之事视频高清在线观看| √禁漫天堂资源中文www| 自线自在国产av| av超薄肉色丝袜交足视频| 窝窝影院91人妻| 精品人妻1区二区| 汤姆久久久久久久影院中文字幕| 色综合婷婷激情| 国产主播在线观看一区二区| 热99久久久久精品小说推荐| 亚洲av美国av| 日韩一卡2卡3卡4卡2021年| 国产精品国产高清国产av | 脱女人内裤的视频| 国产成人系列免费观看| 成年人黄色毛片网站| av电影中文网址| 丁香六月天网| 精品亚洲成a人片在线观看| av超薄肉色丝袜交足视频| 91九色精品人成在线观看| 国产精品二区激情视频| 久久精品亚洲av国产电影网| 极品人妻少妇av视频| 老汉色∧v一级毛片| 老司机影院毛片| 成人18禁高潮啪啪吃奶动态图| 免费黄频网站在线观看国产| 久久免费观看电影| 男女之事视频高清在线观看| 午夜老司机福利片| 国产精品久久久久久精品古装| 男女免费视频国产| 精品卡一卡二卡四卡免费| 一本一本久久a久久精品综合妖精| 欧美成人免费av一区二区三区 | 美国免费a级毛片| 国产男女超爽视频在线观看| 99精品在免费线老司机午夜| www.999成人在线观看| 成人影院久久| 人妻 亚洲 视频| 亚洲精品国产一区二区精华液| 亚洲第一av免费看| 国产区一区二久久| 精品亚洲乱码少妇综合久久| 亚洲一卡2卡3卡4卡5卡精品中文| av免费在线观看网站| 天堂中文最新版在线下载| 看免费av毛片| 精品人妻在线不人妻| 国产成人欧美在线观看 | www.自偷自拍.com| 国产成人影院久久av| 一本综合久久免费| 国产三级黄色录像| 成人18禁高潮啪啪吃奶动态图| tube8黄色片| 后天国语完整版免费观看| 久热爱精品视频在线9| 黑丝袜美女国产一区| 窝窝影院91人妻| 国产在线视频一区二区| 欧美国产精品一级二级三级| 精品人妻1区二区| 国产欧美日韩一区二区精品| 国产日韩欧美视频二区| 欧美在线一区亚洲| 国产成人免费无遮挡视频| 国产欧美日韩一区二区三| 精品久久蜜臀av无| 日韩成人在线观看一区二区三区| 色婷婷av一区二区三区视频| 好男人电影高清在线观看| 久久天躁狠狠躁夜夜2o2o| 亚洲一区中文字幕在线| 19禁男女啪啪无遮挡网站| 国产精品久久久人人做人人爽| 首页视频小说图片口味搜索| 国产在线一区二区三区精| 麻豆国产av国片精品| 欧美精品亚洲一区二区| 亚洲九九香蕉| 美女福利国产在线| 搡老岳熟女国产| 韩国精品一区二区三区| 久久99一区二区三区| 国产1区2区3区精品| 国产精品久久久人人做人人爽| 欧美黄色淫秽网站| 老熟女久久久| 美女主播在线视频| 日本黄色视频三级网站网址 | 国产在线视频一区二区| 制服人妻中文乱码| 在线观看免费视频网站a站| 女人精品久久久久毛片| 欧美精品亚洲一区二区| 午夜91福利影院| 亚洲第一青青草原| 久久久国产一区二区| 99国产极品粉嫩在线观看| 后天国语完整版免费观看| 亚洲午夜精品一区,二区,三区| 国内毛片毛片毛片毛片毛片| 日日摸夜夜添夜夜添小说| 欧美激情 高清一区二区三区| 国产成人啪精品午夜网站| 国产又爽黄色视频| 国产精品秋霞免费鲁丝片| 极品人妻少妇av视频| av一本久久久久| av欧美777| 欧美一级毛片孕妇| 午夜福利视频在线观看免费| 国产av又大| 成人特级黄色片久久久久久久 | 久9热在线精品视频| 两性午夜刺激爽爽歪歪视频在线观看 | 男女午夜视频在线观看| 国产黄频视频在线观看| 777久久人妻少妇嫩草av网站| 最近最新中文字幕大全免费视频| 无限看片的www在线观看| 日韩视频一区二区在线观看| 99国产精品99久久久久| 中文字幕人妻丝袜一区二区| 丰满人妻熟妇乱又伦精品不卡| 久热这里只有精品99| 法律面前人人平等表现在哪些方面| 欧美在线黄色| 大片电影免费在线观看免费| 男女无遮挡免费网站观看| 国产精品久久电影中文字幕 | 国产无遮挡羞羞视频在线观看| 这个男人来自地球电影免费观看| 国产精品久久久久成人av| 巨乳人妻的诱惑在线观看| 日韩欧美一区视频在线观看| 国产成人免费观看mmmm| 色在线成人网| 首页视频小说图片口味搜索| 精品人妻1区二区| 亚洲国产av新网站| 日本五十路高清| 国产极品粉嫩免费观看在线| 美女视频免费永久观看网站| 黄片大片在线免费观看| 国产视频一区二区在线看| 久久性视频一级片| 亚洲欧美激情在线| 91国产中文字幕| 一二三四在线观看免费中文在| 满18在线观看网站| 国产成+人综合+亚洲专区| 国产一区二区激情短视频| 黑人欧美特级aaaaaa片| 国产精品国产av在线观看| 国产激情久久老熟女| 国产又爽黄色视频| 欧美另类亚洲清纯唯美| 老熟妇仑乱视频hdxx| 欧美人与性动交α欧美精品济南到| 欧美 日韩 精品 国产| 国产极品粉嫩免费观看在线| 嫩草影视91久久| 日本撒尿小便嘘嘘汇集6| 精品亚洲成a人片在线观看| 中文字幕色久视频| 久久亚洲精品不卡| 久久午夜综合久久蜜桃| 国产欧美日韩精品亚洲av| 久久国产亚洲av麻豆专区| 国产精品自产拍在线观看55亚洲 | 日日摸夜夜添夜夜添小说| 精品久久久久久久毛片微露脸| 亚洲va日本ⅴa欧美va伊人久久| 男女下面插进去视频免费观看| 老司机午夜十八禁免费视频| 黑人操中国人逼视频| 丝袜喷水一区| av网站在线播放免费| 精品乱码久久久久久99久播| 在线观看免费高清a一片| 90打野战视频偷拍视频| 亚洲自偷自拍图片 自拍| 国产福利在线免费观看视频| av免费在线观看网站| 亚洲人成电影观看| 国产精品一区二区精品视频观看| 国产色视频综合| 国产男靠女视频免费网站| 国产精品 欧美亚洲| 91精品三级在线观看| 91九色精品人成在线观看| 大型av网站在线播放| 天堂俺去俺来也www色官网| 女警被强在线播放| 亚洲国产毛片av蜜桃av| 亚洲综合色网址| 国产91精品成人一区二区三区 | 久久人人97超碰香蕉20202| 日本vs欧美在线观看视频| av天堂在线播放| 成人国产av品久久久| 欧美精品人与动牲交sv欧美| 麻豆成人av在线观看| 香蕉国产在线看| 老熟妇仑乱视频hdxx| 首页视频小说图片口味搜索| 精品人妻在线不人妻| 国产成人av激情在线播放| 国产精品九九99| 在线十欧美十亚洲十日本专区| 又大又爽又粗| 成人国产一区最新在线观看| 亚洲国产欧美在线一区| 人人妻人人爽人人添夜夜欢视频| 亚洲午夜理论影院| 狠狠狠狠99中文字幕| 国产精品亚洲一级av第二区| 在线观看免费午夜福利视频| 国产男靠女视频免费网站| 国产精品免费大片| 男女床上黄色一级片免费看| 黄色怎么调成土黄色| 五月开心婷婷网| 超碰成人久久| 久久久久国内视频| 久久久久久久大尺度免费视频| e午夜精品久久久久久久| 亚洲精品久久成人aⅴ小说| 国产aⅴ精品一区二区三区波| 岛国毛片在线播放|