• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能時代的中國司法

    2019-01-03 17:33:07高學(xué)強
    關(guān)鍵詞:審判法院司法

    高學(xué)強

    (陜西師范大學(xué) 哲學(xué)與政府管理學(xué)院, 陜西 西安 710119)

    一、 引 論

    人工智能是利用計算機或由計算機控制的機器來模擬、延伸和擴展人的智能,感知環(huán)境,獲取知識,并利用知識獲得最佳結(jié)果的理論、方法、技術(shù)及應(yīng)用系統(tǒng)[1]5,智能化浪潮是繼三次工業(yè)革命(機械化浪潮、電氣化浪潮、信息化浪潮)后的第四次工業(yè)革命[2]89。1956年,約翰·麥卡錫在麻省理工學(xué)院的科學(xué)家馬文·明斯基等人的幫助下,在美國達特茅斯學(xué)院成功組織召開了首屆人工智能領(lǐng)域的研討會[3]2,在會上他們第一次正式使用了“人工智能”(Artificial Intelligence,AI)這一術(shù)語,開創(chuàng)了人工智能的研究方向,標志著人工智能作為一門新興學(xué)科正式誕生。

    自人工智能這一概念被提出以來,人類對人工智能技術(shù)的研究和探索就沒有停止過,但其發(fā)展并非一片坦途,而是經(jīng)歷了三起兩落。從2010年開始,人工智能進入爆發(fā)式的發(fā)展階段。2016年3月,阿爾法狗(AlphaGo)大勝世界圍棋冠軍李世石,使人工智能再次成為社會關(guān)注的熱點。隨著大數(shù)據(jù)的積聚、理論算法的革新、計算能力的提升,人工智能在很多學(xué)科領(lǐng)域都得到了廣泛應(yīng)用,并取得了豐碩成果,無論在理論還是實踐上都已自成系統(tǒng)[4]1。

    人工智能在提高生產(chǎn)效率、促進社會進步等方面發(fā)揮了重要作用,但與此同時也產(chǎn)生和帶來了一系列問題,面臨著嚴峻的挑戰(zhàn)。由于人工智能目前尚處于初期發(fā)展階段,該領(lǐng)域關(guān)于安全、倫理、隱私的政策、法律和標準問題值得關(guān)注,因為安全、倫理和隱私問題直接影響到人們在與人工智能工具的交互體驗中對人工智能技術(shù)的信任[1]32。人們只有確信人工智能技術(shù)為人類帶來的安全利益遠大于傷害,才有可能發(fā)展人工智能。

    二、 在我國司法改革與實踐中應(yīng)用人工智能的必要性和可能性

    (一) 必要性

    1.全面和進一步深化司法改革的需要

    黨的十八大以來,黨和國家全面和進一步深化司法改革。新一輪司法體制改革始終堅持問題導(dǎo)向和目標導(dǎo)向,從影響司法公正、制約司法能力的深層次問題改起,從解決人民最關(guān)心、最直接、最現(xiàn)實的利益問題入手,緊緊圍繞“努力讓人民群眾在每一個司法案件中感受到公平正義”的目標,推動公正、高效、權(quán)威的中國特色社會主義司法制度更加成熟、更加完善,全面提升司法能力、司法效能和司法公信力[5]63。

    黨的十八屆三中全會通過的《中共中央關(guān)于全面深化改革若干重大問題的決定》確定了推進法治中國建設(shè)、深化司法體制改革的主要任務(wù)。2015年4月9日,中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《關(guān)于貫徹落實黨的十八屆四中全會決定進一步深化司法體制和社會體制改革的實施方案》,提出了進一步深化司法體制改革的目標任務(wù):著眼于加快建設(shè)公正高效權(quán)威的社會主義司法制度,完善司法管理體制和司法權(quán)力運行機制,規(guī)范司法行為,加強對司法活動的監(jiān)督,保證公正司法,依法維護人民群眾權(quán)益,提高司法公信力。這些目標任務(wù)中許多內(nèi)容的實現(xiàn)有賴于人工智能等新技術(shù)的應(yīng)用。黨的十九大報告做出“深化司法體制綜合配套改革”的重大戰(zhàn)略部署,其中就包含了司法與科技(包括人工智能)的融合??梢哉f,十八大以來,以網(wǎng)絡(luò)化、陽光化、智能化為基本特質(zhì)的智慧司法體系建設(shè)持續(xù)加快推進,有力地提升了司法公開、司法便民、司法效率的整體水準,彰顯了司法公正的科技理性。推動新時代司法高質(zhì)量發(fā)展,對現(xiàn)代科技在司法中的應(yīng)用提出了新的更高要求[6]15-16。

    2.國家人工智能發(fā)展戰(zhàn)略的需要

    2016年12月15日,國務(wù)院印發(fā)的《“十三五”國家信息化規(guī)劃》中提出要發(fā)展人工智能等新技術(shù),作為重點工作大力推進的“智慧法院”建設(shè)、積極打造“智慧檢務(wù)”等司法改革內(nèi)容涉及人工智能。2017年7月8日,國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》(以下簡稱《規(guī)劃》),將人工智能的發(fā)展上升到國家戰(zhàn)略高度。這一《規(guī)劃》包含了人工智能在司法服務(wù)等領(lǐng)域的廣泛應(yīng)用。為貫徹落實《中國制造2025》和《規(guī)劃》,加快人工智能產(chǎn)業(yè)發(fā)展,推動人工智能和實體經(jīng)濟深度融合,2017年12月13日,工業(yè)和信息化部制定《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018—2020年)》,計劃培育的智能產(chǎn)品如智能服務(wù)機器人、智能語音交互系統(tǒng)等,均與司法實踐密切相關(guān)。

    3.解決我國司法改革與實踐中存在的問題的需要

    改革開放40多年來,我國的司法制度不斷走向完善,但仍存在一些問題。一是司法不公正、行政干預(yù)司法、司法腐敗、徇私枉法、枉法裁判等現(xiàn)象仍不同程度地存在,嚴重影響司法機關(guān)在人民群眾心目中的形象。二是司法公開不徹底、不透明,缺乏司法公信力。三是司法效率和能力低下,信息化程度較低,在司法便民等方面與大數(shù)據(jù)、互聯(lián)網(wǎng)、人工智能等的飛速發(fā)展嚴重脫節(jié)。此外,法院“案多人少”的矛盾仍然突出。據(jù)最高人民法院統(tǒng)計,2018年全國法院受理案件2 800萬件,審結(jié)、執(zhí)結(jié)2 516.8萬件,比上年分別上升8.8%、10.6%。隨著我國經(jīng)濟社會快速發(fā)展,案件數(shù)量呈遞增態(tài)勢,人案矛盾確實在一定范圍內(nèi)存在并影響到審判質(zhì)效和司法公信力。大數(shù)據(jù)、人工智能等現(xiàn)代科技的應(yīng)用可以在一定程度上解決和緩解司法改革和實踐中存在的問題和矛盾。

    (二) 可能性

    1.人工智能的特點和優(yōu)勢

    對于人工智能的特點,《人工智能標準化白皮書(2018版)》概括為三點:(1)由人類設(shè)計,為人類服務(wù),本質(zhì)為計算,基礎(chǔ)為數(shù)據(jù);(2)能感知環(huán)境,能產(chǎn)生反應(yīng),能與人交互,能與人互補;(3)有適應(yīng)特性,有學(xué)習(xí)能力,有演化迭代,有連接擴展[1]7-8。《規(guī)劃》認為“人工智能加速發(fā)展,呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機協(xié)同、群智開放、自主操控等新特征”。人工智能可將人從枯燥的勞動中解放出來,越來越多的簡單性、重復(fù)性、危險性任務(wù)可由人工智能系統(tǒng)完成,在減少人力投入、提高工作效率的同時,還能夠比人類做得更快、更準確。人工智能可以廣泛應(yīng)用于教育、醫(yī)療、司法服務(wù)等領(lǐng)域,能夠極大地提高公共服務(wù)精準化水平,全面提升人民生活品質(zhì)[1]1。作為一場新的技術(shù)革命,人工智能所具有的防范冤假錯案、提高司法效率、預(yù)防司法腐敗、保證司法公開公正、提升司法公信力等作用和價值[7]101,使其有可能應(yīng)用于司法改革和實踐。

    2.我國人工智能發(fā)展的重要進展

    我國的人工智能雖然起步較晚,但發(fā)展迅速,目前已具有良好的基礎(chǔ)。國家部署了智能制造等國家重點研發(fā)計劃重點專項,國家發(fā)改委、科技部等四部委聯(lián)合印發(fā)了《“互聯(lián)網(wǎng)+”人工智能三年行動實施方案》,在科技研發(fā)、應(yīng)用推廣和產(chǎn)業(yè)發(fā)展等方面提出了一系列措施。經(jīng)過多年的持續(xù)積累,我國在人工智能領(lǐng)域已取得重要進展。加速積累的技術(shù)能力與海量的數(shù)據(jù)資源、巨大的應(yīng)用需求、開放的市場環(huán)境有機結(jié)合,形成了我國人工智能發(fā)展的獨特優(yōu)勢。我國人工智能取得的重要進展和發(fā)展的獨特優(yōu)勢,使其應(yīng)用于司法改革和實踐的條件已完全具備。

    3.人工智能應(yīng)用于司法的海外實踐

    人工智能與法律的結(jié)合已有30多年的歷史,積累了豐富的經(jīng)驗。1987年在美國波士頓的東北大學(xué)舉辦了首屆國際人工智能與法律會議(ICAIL),被視為法律與人工智能結(jié)合的開端。1991年國際人工智能與法律協(xié)會(IAAIL)正式成立,旨在推動人工智能與法律這一跨學(xué)科領(lǐng)域的研究和應(yīng)用。此后,人工智能對法律尤其是司法實踐的影響日益深入?!霸诿绹斯ぶ悄苷粡V泛地運用于司法活動”,如人工智能輔助偵查破案、輔助科學(xué)證據(jù)可采性審查、輔助評估保釋、預(yù)測案件的審理結(jié)果[8]。人工智能在國外尤其是西方國家司法實踐中的廣泛應(yīng)用,可以為我國提供參考和借鑒。

    三、 人工智能對我國司法改革的影響

    黨的十八大尤其是黨的十八屆四中全會后,人民法院司法改革面臨前所未有的重大歷史機遇。為貫徹黨的十八大和十八屆三中、四中全會精神,進一步深化人民法院各項改革,2015年2月4日,最高人民法院制定《關(guān)于全面深化人民法院改革的意見》,并將之作為《人民法院第四個五年改革綱要(2014—2018)》貫徹實施。這個綱要并未涉及人工智能的內(nèi)容,也未涉及智慧法院建設(shè)。

    2016年,國務(wù)院印發(fā)《“十三五”國家信息化規(guī)劃》,首次提出了人工智能在司法改革中的應(yīng)用,要求正確認識網(wǎng)絡(luò)新技術(shù)、新應(yīng)用、新產(chǎn)品可能帶來的挑戰(zhàn),提前應(yīng)對工業(yè)機器人、人工智能等對傳統(tǒng)工作崗位的沖擊。在構(gòu)建現(xiàn)代信息技術(shù)和產(chǎn)業(yè)生態(tài)體系方面,要求加強包括人工智能、大數(shù)據(jù)認知分析等新技術(shù)的基礎(chǔ)研發(fā)和前沿布局,加快構(gòu)建高級機器人等新興智能終端產(chǎn)業(yè)體系和政策環(huán)境。重點任務(wù)分工方案中包括由公安部、最高人民法院、最高人民檢察院等負責(zé)的重點工作,其中,大力推進“智慧法院”建設(shè)、積極打造“智慧檢務(wù)”等,均與人工智能密切相關(guān)(1)詳見國務(wù)院《國務(wù)院關(guān)于印發(fā)“十三五”國家信息化規(guī)劃的通知》, 2016年12月27日, http://www.gov.cn/zhengce/content/2016-12/27/content_5153411.htm, 2019年2月18日。。

    2017年國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》,要求圍繞行政管理、司法管理等社會治理的熱點難點問題,促進人工智能技術(shù)應(yīng)用;要求建設(shè)集審判、人員、數(shù)據(jù)應(yīng)用、司法公開和動態(tài)監(jiān)控于一體的智慧法庭數(shù)據(jù)平臺,促進人工智能在證據(jù)收集、案例分析、法律文件閱讀與分析中的應(yīng)用,實現(xiàn)法院審判體系和審判能力智能化(2)詳見國務(wù)院《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》, 2017年7月20日, http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm, 2019年2月18日。。

    2017年7月10日,在全國司法體制改革推進會上,中共中央政治局委員、中央政法委書記孟建柱強調(diào)要把現(xiàn)代科技應(yīng)用和法律制度完善結(jié)合起來。他指出,隨著人工智能新時代的來臨,要找準人工智能要素式提取和類型案件要件式解構(gòu)的結(jié)合點,推進婚姻家庭、合同、勞動爭議等民商事案件要件化、標準化審理,特別是在非訟案件、程序性裁定、小額訴訟等簡易案件中推廣使用令狀式、格式化裁判文書,進一步提高司法質(zhì)量和效率。研發(fā)更高水平的審判智能輔助系統(tǒng),為法官提供類案推送、裁判比對、數(shù)據(jù)分析等服務(wù),對偏離度過大的案件自動預(yù)警、及時評查,推動“類案類判”,促進裁判尺度統(tǒng)一。要積極研發(fā)司法智能服務(wù)系統(tǒng),為當事人提供類案檢索推送等服務(wù),引導(dǎo)當事人對裁判結(jié)果形成理性預(yù)期,增強對司法的信任。他認為,上海、貴州運用現(xiàn)代科技推進以審判為中心的刑事訴訟制度改革,研發(fā)智能輔助辦案系統(tǒng),探索了一條司法體制改革和現(xiàn)代科技應(yīng)用融合的新路子,對于規(guī)范司法行為、防范冤假錯案、提升司法質(zhì)量效率和公信力發(fā)揮了重要作用。他特別指出,智能輔助辦案系統(tǒng)并不替代線下刑事訴訟活動,也不替代司法人員獨立判斷,而是通過推動公檢法在共同的辦案平臺上、明確的證據(jù)標準指引下辦案,成為推動以審判為中心的刑事訴訟制度改革落地、提升刑事司法工作水平的重要抓手[9]5-8??梢哉f,這些內(nèi)容既是對此前人工智能應(yīng)用于司法改革和實踐的總結(jié),又提出了未來人工智能與司法改革和實踐結(jié)合的思路及具體要求,具有十分重要的指導(dǎo)意義。

    黨的十九大報告提出,推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實體經(jīng)濟深度融合,這為新時代人工智能在司法改革和實踐中的應(yīng)用指明了方向。2019年2月27日,最高人民法院印發(fā)《最高人民法院關(guān)于深化人民法院司法體制綜合配套改革的意見——人民法院第五個五年改革綱要(2019—2023)》,提出要“堅持強化科技驅(qū)動”基本原則,全面建設(shè)智慧法院;牢牢把握新一輪科技革命歷史機遇,充分運用大數(shù)據(jù)、云計算、人工智能等現(xiàn)代科技手段破解改革難題、提升司法效能,推動人民法院司法改革與智能化、信息化建設(shè)兩翼發(fā)力,為促進審判體系和審判能力現(xiàn)代化提供有力科技支撐。可以預(yù)見,人工智能在我國未來的司法改革和實踐中將會發(fā)揮越來越重要的作用。

    四、 人工智能對我國司法實踐的影響

    人工智能自產(chǎn)生之日起就面臨提倡和反對兩種不同的聲音,人們對人工智能給人類未來可能帶來的威脅和挑戰(zhàn)的擔(dān)憂與日俱增。許多人工智能專家如美國的雷·庫茲韋爾、杰瑞·卡普蘭、詹姆斯·巴拉特,英國的索恩、默里·沙納漢,日本的松尾豐、野村直之以及我國的李彥宏、劉贊、李智勇等紛紛著書闡述這些問題。正如詹姆斯·巴拉特所說:“人工智能是一種雙刃劍式的技術(shù),就像核裂變一樣。核裂變能為城市提供照明,也能焚毀城市?!盵10]17正因為人工智能具有兩面性特征,其在我國司法實踐中的應(yīng)用也有積極與消極兩方面的影響。

    (一) 人工智能對我國司法實踐的積極影響

    人工智能所具有的許多獨特優(yōu)勢改變了人類的生活,這是人工智能獲得大發(fā)展的主要原因。我國司法實踐中對人工智能的應(yīng)用即基于其獨特優(yōu)勢。人工智能對我國司法實踐的積極影響主要表現(xiàn)在以下幾個方面。

    1.智慧法院建設(shè)

    智慧法院以確保司法公正高效、提升司法公信力為目標,充分運用互聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、人工智能等技術(shù),促進審判體系與審判能力現(xiàn)代化,實現(xiàn)人民法院高度智能化的運行與管理[11]234。從最高人民法院對智慧法院內(nèi)涵的官方解讀可以看出,人工智能是智慧法院建設(shè)充分運用的核心技術(shù)之一。智慧法院建設(shè)既是人民法院在信息化和“互聯(lián)網(wǎng)+”時代自身建設(shè)和強化職能服務(wù)的客觀需要,也是國家信息化建設(shè)和法治社會建設(shè)的重要組成部分,因此其對內(nèi)體現(xiàn)為對法院審判工作的內(nèi)向價值,對外體現(xiàn)為對法治社會進程的外向價值(3)參見鄒鋼、劉繼雁《新時期智慧法院建設(shè)的價值及展望》, 2016年11月14日, http://cqfy.chinacourt.org/article/detail/2016/11/id/2348483.shtml, 2019年2月18日。。

    2016年1月29日,最高人民法院首次提出建設(shè)立足于時代發(fā)展前沿的智慧法院。7月,中共中央辦公廳、國務(wù)院辦公廳印發(fā)《國家信息化發(fā)展戰(zhàn)略綱要》,將建設(shè)智慧法院列入國家信息化發(fā)展戰(zhàn)略,要求提高案件受理、審判、執(zhí)行、監(jiān)督等各環(huán)節(jié)的信息化水平,推動執(zhí)法司法信息公開,促進司法公平正義。12月15日國務(wù)院印發(fā)《“十三五”國家信息化規(guī)劃》,明確提出支持智慧法院建設(shè)。

    為貫徹落實國務(wù)院關(guān)于智慧法院建設(shè)的要求,2017年4月20日,最高人民法院印發(fā)《最高人民法院關(guān)于加快建設(shè)智慧法院的意見》,此后,智慧法院建設(shè)深入推進。

    2019年2月27日,最高人民法院發(fā)布了《中國法院的司法改革(2013—2018)》白皮書,第十一部分“推進智慧法院建設(shè)”詳細介紹了五年來人民法院在全面加強智慧法院建設(shè)中所取得的成就:加強信息化建設(shè)頂層規(guī)劃和標準制定,加強信息化基礎(chǔ)設(shè)施和保障體系建設(shè),全面推進電子訴訟,開發(fā)應(yīng)用刑事審判智能輔助系統(tǒng),加強案件審理和司法管理的智能化輔助,讓信息化、大數(shù)據(jù)服務(wù)司法管理和決策[5]59-62。同日印發(fā)的《最高人民法院關(guān)于深化人民法院司法體制綜合配套改革的意見——人民法院第五個五年改革綱要(2019—2023)》提出“全面推進智慧法院建設(shè)”為總體目標之一,“建設(shè)現(xiàn)代化智慧法院應(yīng)用體系”是十個主要任務(wù)之一,通過五項改革舉措予以落實(4)五項改革舉措包括:深入推進智慧法院基礎(chǔ)設(shè)施建設(shè),推動科技創(chuàng)新手段深度運用,有序擴大電子訴訟覆蓋范圍,完善電子卷宗生成和歸檔機制,完善司法大數(shù)據(jù)管理和應(yīng)用機制。。

    在國務(wù)院和最高人民法院建設(shè)智慧法院精神的指導(dǎo)下,我國各地法院都在探索某種形式的智慧法院建設(shè),以浙江智慧法院(浙江法院電子商務(wù)網(wǎng)上法庭)最為出名。據(jù)浙江高院信息中心副主任劉克勤介紹,浙江智慧法院每年處理的交易、著作權(quán)等糾紛多達2.3萬件,可以直接對接淘寶、天貓等多個平臺,提供在線矛盾糾紛多元化解決平臺,其他輔助措施包括案件結(jié)果預(yù)判、網(wǎng)上司法拍賣、智能語音識別、類案推送、當事人信用畫像等[12]93。

    云南建設(shè)智慧法院,運用人工智能等技術(shù)輔助審案,使庭審時間平均縮短兩三成。云南省法院系統(tǒng)通過運用人工智能、大數(shù)據(jù)等技術(shù),構(gòu)建智能化法院。利用刑事簡案快審系統(tǒng),幫助基層法院法官對電子卷宗進行文檔化編輯,并按法律要素實現(xiàn)結(jié)構(gòu)化管理,自動引用、排列、歸納和分析全要素案件數(shù)據(jù),一鍵生成應(yīng)訴通知書等制式文書,自動生成包括“本院認為”部分的判決書,并為在辦案件智能推送最為相關(guān)的法律法規(guī)和案例,輔助法官快速批量辦案[13]。

    我國的智慧法院建設(shè)目前已經(jīng)走在了世界前列,許多國家開始將中國視為其本國司法系統(tǒng)智能化的經(jīng)驗源泉。日本、美國等對我國智慧法院建設(shè)的相關(guān)情況多有報道,并計劃應(yīng)用于本國的司法實踐。如美國《外交信使》雜志在2018年11月刊登了一篇名為《法律中的人工智能》的報告,介紹了人工智能是如何改進中國與美國的司法系統(tǒng)的。該報告認為,中國最高人民法院在將人工智能引入司法體系方面發(fā)揮了積極作用,并歸納了中國智慧法院的關(guān)鍵點:(1)通過人工智能提高了司法的效率和公正性,解決了司法改革中法官人數(shù)不足、法院訴訟量增加、各地法官判決不一致的問題;(2)語言識別、自動糾錯和文本生成等自動化系統(tǒng)減少了法庭煩瑣程序所帶來的工作量;(3)人工智能的預(yù)測與研究能力能幫助法院更好地分配資源,協(xié)助法官從類似案例中獲得類似觀點;(4)最高人民法院將裁判文書和庭審視頻在線公開,提高了公民參與司法的能力,有利于促進法院公正[14]。

    智慧法院建設(shè)推動審判執(zhí)行方式發(fā)生全局性革命性變革、促進審判體系審判能力現(xiàn)代化的效果正在不斷彰顯,必將在人民法院發(fā)展歷史上書寫濃墨重彩的一頁[15]。

    2.智能審判

    隨著近幾年人工智能的爆炸式發(fā)展,智能審判已成為現(xiàn)實。人工智能產(chǎn)品已經(jīng)涉及語音交互、安防、自動駕駛、醫(yī)療健康等諸多領(lǐng)域,但把它與法律、司法審判、糾紛解決這樣嚴肅而傳統(tǒng)的領(lǐng)域相結(jié)合,聽起來有點像天方夜譚。但人工智能應(yīng)用于法律審判,確是現(xiàn)實而不是玩笑(5)參見佚名《人工智能應(yīng)用到法律審判?是現(xiàn)實不是玩笑》, 2017年7月26日, https://mp.weixin.qq.com/s/S4_O7VBehuWYuCNDsFW1OA, 2019年2月18日。。

    在《人工智能標準化白皮書(2018版)》的人工智能標準體系框架中,“應(yīng)用”標準包括智慧法庭。在智慧法庭領(lǐng)域,智慧法庭的建設(shè)和應(yīng)用需要依托于智能大數(shù)據(jù)分析、語音識別、圖像視頻分析等多項人工智能技術(shù),從而實現(xiàn)案情要素分析、庭審語音識別自動轉(zhuǎn)寫、庭審行為視頻分析、庭審視頻流媒體轉(zhuǎn)發(fā)與調(diào)度等功能。因此,為實現(xiàn)法院審判體系和審判能力的智能化,需要研制庭審數(shù)據(jù)格式、庭審數(shù)據(jù)深度分析等規(guī)范,利用深度學(xué)習(xí)算法對多元化數(shù)據(jù)進行挖掘分析,進而提升庭審效率[1]55-56。目前人工智能應(yīng)用于法院審判業(yè)務(wù)主要集中在以下三個方面:一是通過智能語音識別技術(shù),助力庭審記錄、案件評議、裁判文書制作、日常辦公全流程,將審判輔助人員從記錄或咨詢事務(wù)中解脫出來。二是運用智能圖像和文件識別技術(shù),實現(xiàn)電子卷宗收發(fā)采集一體化,構(gòu)筑智慧審判大數(shù)據(jù),將法官從簡案處理和煩瑣文牘中解脫出來。三是通過數(shù)據(jù)智能分析,實現(xiàn)審判事務(wù)管理、證據(jù)分析案例參照、文書糾錯等,輔助法官決策判斷[11]250-254。

    為響應(yīng)國家大力建設(shè)智慧法院的要求,總部位于安徽合肥的科大迅飛股份有限公司專門為法院開發(fā)了迅飛智能庭審系統(tǒng)。這種智能庭審系統(tǒng)具有四大特點:第一,為提升審判效率,促進審判體系和審判能力現(xiàn)代化,解決庭審因書記員錄入速度難以滿足需求而受限的問題,庭審系統(tǒng)針對不同類型的案件、不同地域口音,通過機器自我學(xué)習(xí)來實現(xiàn)智能庭審過程中法言法語的有效識別。第二,通過軟硬一體化方案預(yù)先設(shè)置庭審角色,實現(xiàn)筆錄文本與說話人身份相綁定。第三,采用人工智能語音識別技術(shù)對庭審語音進行實時轉(zhuǎn)錄。第四,利用語義分析技術(shù)輔助人工修訂,真實還原庭審現(xiàn)場,原原本本生成庭審筆錄,突破庭審效率瓶頸。

    智能審判目前已在一些法院得到推廣應(yīng)用并取得顯著的成效。如大連市中級人民法院借助“互聯(lián)網(wǎng)+”平臺,探索建立智能輔助辦案平臺,已實現(xiàn)案例自動推送,自動提供關(guān)聯(lián)案件、前序?qū)彴讣?、類案查詢和推送以輔助法官辦案;實現(xiàn)輔助制作裁判文書,提高文書制作效率。大連市中級人民法院已成功試用庭審語音智能轉(zhuǎn)寫系統(tǒng)和庭審直播功能,正式上線多功能一體機、導(dǎo)訴機器人“曉法”,下一步將繼續(xù)引入訴訟服務(wù)APP應(yīng)用功能,推廣使用兩級法院訴訟服務(wù)當事人手機APP,增加案件二維碼的應(yīng)用,增加上訴移送模塊,對接智能公文流轉(zhuǎn)系統(tǒng),對接安檢系統(tǒng),增加審判法庭電子導(dǎo)航服務(wù)等功能,為當事人網(wǎng)上立案、查詢案件進展、辦理電子送達、提交訴訟材料等過程提供更為優(yōu)質(zhì)的司法服務(wù)[16]。

    目前各個法院的探索仍處于人工智能的輔助階段,隨著人工智能應(yīng)用的進一步深入,在一些標準化的糾紛案例中能夠?qū)崿F(xiàn)人工智能自動審判。不過,如果當事人對人工智能所產(chǎn)生的預(yù)審判決不滿意,在早期應(yīng)允許啟動正常司法程序,使用傳統(tǒng)的司法模式。鑒于目前人們對人工智能的不了解與不信任,在初始階段可以將人工智能的判決結(jié)果作為預(yù)審,或者利用人工智能輔助完成審判過程中的一系列事項。

    當然,某些領(lǐng)域的審判使用人工智能并不是很合適。正如日本著名人工智能專家松尾豐所說:“民事訴訟,尤其是離婚或者財產(chǎn)繼承等糾紛,由于包含著很多情感因素及需要對當事人的利害關(guān)系進行協(xié)調(diào)等,也許還是由人來處理比較合適。我估計,比起讓機器告訴你說‘你的主張被法庭認可的概率是15%’,很多人可能更愿意與律師面對面地交談,這樣當事人或許更容易接受。”[17]169

    雖然人工智能在審判業(yè)務(wù)中扮演著重要角色,但在審判過程中,人工智能處于從屬地位,只是輔助法官辦案,法官才是審判工作的關(guān)鍵與核心。因此,智慧審判的未來發(fā)展應(yīng)是,事務(wù)性工作歸人工智能,事關(guān)經(jīng)驗與良知的實體裁判歸審判人員,審判人員仍居于主導(dǎo)地位[18]62。

    總之,人工智能等技術(shù)的深度應(yīng)用既有利于提升審判業(yè)務(wù)的便利化和精細化水平,也有利于對審判工作進行全流程、全方位的動態(tài)監(jiān)控和節(jié)點管理,實現(xiàn)審判流程的規(guī)范化和案件辦理的全程監(jiān)管、全程留痕、全程可查,對防止冤假錯案也有一定作用。

    3.智慧檢務(wù)建設(shè)

    智慧檢務(wù)就是以電子檢務(wù)工程為抓手,建設(shè)集“信息感知、網(wǎng)絡(luò)傳輸、知識服務(wù)、檢務(wù)應(yīng)用、運行管理”五維一體的檢察信息化應(yīng)用體系,通過運用云計算、大數(shù)據(jù)、物聯(lián)網(wǎng)、人工智能等新技術(shù),促進檢察工作與信息化深度融合。

    2016年9月,最高人民檢察院印發(fā)《“十三五”時期科技強檢規(guī)劃綱要》,明確要求2017年底要建成覆蓋全國四級檢察機關(guān),涵蓋司法辦案、檢察辦公、隊伍管理、檢務(wù)保障、檢察決策支持、檢務(wù)公開和服務(wù)在內(nèi)的電子檢務(wù)工程六大平臺;到2020年底,建成國家檢察大數(shù)據(jù)中心,建立檢務(wù)大數(shù)據(jù)資源庫,全國檢察機關(guān)的主要工作都在六大平臺中運行。

    2017年6月12日,最高人民檢察院印發(fā)《檢察大數(shù)據(jù)行動指南(2017—2020年)》,要求全國檢察機關(guān)依托大數(shù)據(jù)及智能語音等前沿科技,統(tǒng)籌利用以司法辦案數(shù)據(jù)為核心的檢察數(shù)據(jù)資源,建立檢察大數(shù)據(jù)總體架構(gòu),營造大數(shù)據(jù)應(yīng)用良好生態(tài),打造“智慧檢務(wù)”(6)參見朱茜《最高檢建數(shù)據(jù)中心 檢察信息化進入“智慧檢務(wù)4.0”時代》, 2017年9月6日, https://www.qianzhan.com/analyst/detail/220/170905-fea4463e.html, 2019年2月18日。。

    2017年9月26日,最高人民檢察院黨組書記、檢察長曹建明在全國檢察機關(guān)智慧檢務(wù)工作會議上強調(diào),要探索“人工智能+司法辦案”,提升司法辦案質(zhì)量和效率。

    為深入貫徹中央部署要求,最高人民檢察院在充分調(diào)研論證的基礎(chǔ)上,明確提出智慧檢務(wù)建設(shè)重大戰(zhàn)略,于2018年1月3日正式印發(fā)《最高人民檢察院關(guān)于深化智慧檢務(wù)建設(shè)的意見》,勾勒了未來智慧檢務(wù)建設(shè)的宏偉藍圖(7)參見最高人民檢察院網(wǎng)上發(fā)布廳《最高檢印發(fā)意見深化智慧檢務(wù)建設(shè)》, 2018年1月3日, http://www.spp.gov.cn/xwfbh/wsfbh/201801/t20180103_208087.shtml, 2019年2月18日。。

    通過智慧檢務(wù)建設(shè),人工智能在檢察機關(guān)的應(yīng)用已經(jīng)取得一定成效。如浙江省杭州檢察機關(guān)智慧輔助辦案系統(tǒng)發(fā)揮了神奇的力量:遠程提審、庭審、送達系統(tǒng)實現(xiàn)了從三點一線到足不出戶;智能語音識別系統(tǒng)實現(xiàn)了從碼方塊字到智能錄入;法律文書智能校對系統(tǒng)、同步錄音錄像智能審查系統(tǒng)實現(xiàn)了從人工校對到智能審查;智慧公訴輔助辦案系統(tǒng)實現(xiàn)了從憑經(jīng)驗辦案到按規(guī)矩辦……[19]又如江蘇檢察機關(guān)推動人工智能與司法辦案深度融合。自2017年8月1日“案管機器人”上崗正式開啟智能輔助辦案時代起,至2018年5月已輔助偵監(jiān)、公訴部門辦理案件4 643件,系統(tǒng)審查、甄別、推送的準確率達99.7%[20]。

    總之,人工智能在智慧檢務(wù)中的應(yīng)用日益廣泛,充分發(fā)揮了其在數(shù)據(jù)采集、整理、分析、綜合等方面的優(yōu)勢,進一步提升了檢察工作質(zhì)效。正如全國人大代表、科大訊飛董事長劉慶峰所說的,“人工智能+檢察”時代已經(jīng)來臨[21]。

    4.犯罪預(yù)防與監(jiān)視、刑事案件偵查

    在人工智能時代,得益于視頻識別精確度的提高,整個社會將構(gòu)建起由遍布大街小巷的監(jiān)控攝像頭所組成的安保系統(tǒng),對犯罪的檢舉偵破率將大幅提升[17]163。無論是安防監(jiān)控領(lǐng)域,司法和刑偵實踐,還是自助服務(wù),人臉識別正在逐漸走入人們的生活,帶來更多的便捷和安全[22]。人工智能在司法安防中的應(yīng)用主要表現(xiàn)在以下幾個方面:一是通過機器學(xué)習(xí)進行預(yù)測與布控,提升打擊犯罪的效率;二是通過機器學(xué)習(xí)預(yù)測潛在犯罪;三是人工智能測謊儀協(xié)助審訊;四是利用生物識別技術(shù)搜索追蹤嫌疑人[23]63-64??傊?,由于人工智能技術(shù)的廣泛應(yīng)用,包括人臉識別技術(shù)在內(nèi)的安防技術(shù)實現(xiàn)由人防到技防,進入主動安防的時代,其在司法中的應(yīng)用也將發(fā)揮更大作用。公安部提出建設(shè)“智慧公安”,即在包括犯罪預(yù)防、刑事案件偵查、強制措施、刑罰執(zhí)行等司法實踐領(lǐng)域應(yīng)用人工智能等前沿技術(shù)。

    5.對律師實務(wù)的影響

    法律服務(wù)是人工智能最容易進入的領(lǐng)域之一。律師是社會地位比較高的工作,在律師處理的具體事務(wù)中,如整理客戶信息、查詢相關(guān)法律法規(guī)、查詢以往判例等,人工智能的優(yōu)勢很容易得到發(fā)揮[17]169。從律師實務(wù)的角度看,隨著IBM首個人工智能律師ROSS、英國的機器人律師DoNotPay的問世,人工智能對律師實務(wù)的影響已不可阻擋。在人工智能時代,美國著名人工智能專家Kalman Toth提出了“今天你隨身帶律師了嗎”的疑問。他認為:“你可能不會被人工智能律師所取代,但是可以考慮與他們一起工作。團隊根據(jù)加拿大勞動就業(yè)案例法,為IBM的認知計算機沃森準備了數(shù)千頁的法院和立法文件。然后,他們訓(xùn)練它利用數(shù)據(jù)庫回答法律問題。2015年5月中旬,一個能夠處理破產(chǎn)等事務(wù)的新型AI——ROSS誕生了。這臺機器正在學(xué)習(xí)初級律師的業(yè)務(wù),幾位簽署了Beta測試技術(shù)文件的法律人士負責(zé)審查和評論它的意見?!盵24]25英國人工智能專家博登認為,雖然人工智能已經(jīng)引起了人們的擔(dān)心,雖然一些法務(wù)工作以后可能不再需要律師,但是律師行業(yè)也將從人工智能中獲益,因為有一大堆法律陷阱等著處理[25]187??梢?,人工智能的出現(xiàn)對律師行業(yè)雖有挑戰(zhàn),但更多的是機遇。

    (二) 人工智能對我國司法實踐的消極影響

    正如《規(guī)劃》所指出的,人工智能發(fā)展的不確定性將帶來新的挑戰(zhàn)。人工智能是影響面廣的顛覆性技術(shù),可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個人隱私等問題。具體到司法實踐,人工智能的應(yīng)用可能會產(chǎn)生以下消極影響。

    1.對法律職業(yè)和未來就業(yè)的沖擊

    在人工智能大潮下,程式化、重復(fù)性崗位的需求量呈現(xiàn)下降趨勢,人工智能逐漸取代部分人類工作崗位,尤其是那些程式化、重復(fù)性,依靠反復(fù)操作實現(xiàn)的熟練工種[26]。由于人工智能技術(shù)的應(yīng)用,司法機關(guān)原有的一些簡單、重復(fù)的工作崗位如書記員、導(dǎo)訴員等將被智能機器人所替代,可能會導(dǎo)致目前從事這些工作的人員面臨失業(yè)的威脅。此外,人工智能對法律專業(yè)畢業(yè)生的就業(yè)亦會產(chǎn)生一定的不利影響。

    對律師行業(yè)來說,人工智能的不斷發(fā)展至少會使那些法律行業(yè)中諸多非智力性事務(wù)從業(yè)者被代替,這會對律師助理和律師秘書的工作產(chǎn)生重要影響[27]。英國人工智能專家薩斯坎德父子的研究表明,“傳統(tǒng)律師在很大程度上被先進的系統(tǒng)取代,或者在技術(shù)以及標準流程的幫助下被更廉價的勞動力所取代,甚至外行人士都可以通過在線自助工具取代他們”[28]77。人工智能的發(fā)展意味著未來有相當多的律師,特別是初級律師會失去工作[29]19。有專家認為,作為“第二次機器革命”重要標志的人工智能的應(yīng)用不會威脅藍領(lǐng)工作,但對于那些高收入、專家式的白領(lǐng)工人,如律師,他們未來就可能變成計算機自動化的受害者[30]251-252。著名人工智能專家杰瑞·卡普蘭認為,人工智能時代,律師“光環(huán)不再”。一批想要融合法律和科技的新創(chuàng)業(yè)者(如法律科技公司FairDocument)正努力減少甚至消除常見事務(wù)對律師的需要。特別是在考慮了專業(yè)特性之后,創(chuàng)新者們發(fā)現(xiàn),就算把最有技術(shù)含量的工作委派給人工智能,它們也能駕輕就熟地完成[31]140-141?,F(xiàn)在已經(jīng)有機器人律師出現(xiàn)[32]348-349,律師行業(yè)面臨的嚴峻挑戰(zhàn)是不言而喻的。

    2.隱私與數(shù)據(jù)的泄露、算法歧視、犯罪風(fēng)險評估中的歧視等

    隨著大數(shù)據(jù)和智能技術(shù)的結(jié)合,政府和企業(yè)的決策越來越依賴大量的數(shù)據(jù)分析。大規(guī)模的數(shù)據(jù)收集、分析和使用使傳統(tǒng)社會走向透明化。在萬物互聯(lián)、大數(shù)據(jù)和機器智能三者疊加后,人們或許將不再有隱私可言[33]232。因此,隱私與數(shù)據(jù)保護是需要我們高度關(guān)注的核心議題之一。

    隨著以大數(shù)據(jù)、機器學(xué)習(xí)、人工智能等為核心的自動決策系統(tǒng)的應(yīng)用日益廣泛,越來越多的決策工作為機器、算法和人工智能所取代,人們認為算法決策的結(jié)果是絕對公平的。如司法程序中的犯罪風(fēng)險評估,當利用人工智能系統(tǒng)對犯罪嫌疑人進行犯罪風(fēng)險評估時,算法可以影響其刑罰。而實際上算法決策的結(jié)果難以保證絕對公平,我們必須正視由此帶來的算法歧視。規(guī)則數(shù)碼化帶來的不透明、不準確、不公平以及難以審查等問題,也需要我們認真思考和研究[32]240。

    3.人工智能技術(shù)自身的缺陷制約和影響其在司法實踐中的廣泛應(yīng)用

    目前人工智能的發(fā)展仍處于初始階段,屬于弱人工智能,具有不確定性和局限性。感性思維的缺陷使人工智能無法全面勝任司法工作,因為司法工作的特殊性決定了其并非單純依靠法律適用就能完成。以審判工作為例,法官的審判工作絕不能只依據(jù)法條,審判應(yīng)當注重法律與道德、政治等多種因素的融合。這都需要法官依據(jù)感性思維做出綜合判斷,而人工智能尚無法通過算法重現(xiàn)人類的感性思維[33]124。人工智能在審判中的適用范圍也因此受到一定的限制,即只有法律關(guān)系簡單或者一般的案件才可以適用;對于復(fù)雜的糾紛,人工智能還難以達到妥善處理的水平。除了審判之外,司法工作中還有許多需要感性思維才能勝任的工作,如調(diào)解、訊問等,目前人工智能顯然還無法勝任。

    對于人工智能在我國司法實踐中應(yīng)用所帶來的這些消極影響,我們應(yīng)積極應(yīng)對,通過技術(shù)手段使人工智能不斷完善,并通過法律手段對其進行規(guī)制。具體來說,一是提前應(yīng)對人工智能應(yīng)用可能帶來的失業(yè)和就業(yè)沖擊。二是加強與人工智能相關(guān)的隱私與數(shù)據(jù)保護立法,將人工智能的發(fā)展納入法治化軌道。我國著名人工智能專家吳季松建議制訂“人工智能法”,消除人工智能的負面影響,擴大其正面影響,使其更好地造福人類[34]198。三是構(gòu)建技術(shù)公平規(guī)則,通過技術(shù)正當程序的設(shè)計等舉措消除各種潛在的歧視,保障公平正義的實現(xiàn),使人工智能更好地為我國的司法改革和實踐服務(wù)。

    人工智能的發(fā)展與廣泛應(yīng)用已成為一股不可阻擋的時代潮流,人工智能所具有的強大優(yōu)勢是其他任何技術(shù)不可取代的。人工智能的應(yīng)用可以解決我國司法改革和實踐中存在的許多問題,對保證司法公正公開、提升司法公信力、提高司法效率發(fā)揮著極其重要的作用。但人工智能永遠不能取代人的智能。在我國的司法改革和實踐中,在充分發(fā)揮人的主觀能動性的同時,輔之以人工智能,一定會營造一個公正、公開、便捷、高效的司法環(huán)境,智能司法的到來已不是夢想!

    猜你喜歡
    審判法院司法
    制定法解釋中的司法自由裁量權(quán)
    法律方法(2021年4期)2021-03-16 05:34:28
    百姓拆遷心結(jié)一朝化解法院主持調(diào)解握手言和
    司法所悉心調(diào)解 墊付款有了著落
    非正式司法的悖謬
    班里設(shè)個小“法院”
    我國法院在線調(diào)解的興起、挑戰(zhàn)與未來
    七十年前那場文明的審判
    論人民調(diào)解與法院調(diào)解的銜接配合
    人間(2015年17期)2015-12-30 03:41:06
    消失中的審判
    政法論叢(2015年5期)2015-12-04 08:46:28
    論司法公開的困惑與消解
    久久99热这里只频精品6学生| 国产精品99久久99久久久不卡 | 99热这里只有是精品在线观看| 日韩av在线免费看完整版不卡| 大又大粗又爽又黄少妇毛片口| 亚洲欧美一区二区三区国产| 国产综合精华液| 日韩精品免费视频一区二区三区 | 老熟女久久久| 精品一区在线观看国产| 岛国毛片在线播放| 亚洲精品乱码久久久v下载方式| 午夜91福利影院| 精品国产一区二区久久| 中文字幕制服av| 成人漫画全彩无遮挡| 欧美日韩视频精品一区| 成人亚洲精品一区在线观看| 91成人精品电影| 国产精品免费大片| 国产又色又爽无遮挡免| 日韩一区二区三区影片| 少妇的逼好多水| 在线播放无遮挡| 18禁在线播放成人免费| 草草在线视频免费看| 一个人免费看片子| 五月天丁香电影| 精品一区在线观看国产| 国产熟女午夜一区二区三区 | 日韩中文字幕视频在线看片| 色94色欧美一区二区| 亚洲精品中文字幕在线视频| 精品酒店卫生间| 欧美老熟妇乱子伦牲交| 亚洲精品乱码久久久v下载方式| 美女国产高潮福利片在线看| av国产久精品久网站免费入址| 色哟哟·www| 国产男人的电影天堂91| 欧美日韩在线观看h| 久久久久久久久久久久大奶| 精品国产一区二区三区久久久樱花| 国产一区二区三区综合在线观看 | 日韩一区二区视频免费看| 日本欧美视频一区| 三上悠亚av全集在线观看| 亚洲国产毛片av蜜桃av| 久久国产精品大桥未久av| 人妻夜夜爽99麻豆av| 最黄视频免费看| 国国产精品蜜臀av免费| 国语对白做爰xxxⅹ性视频网站| 狂野欧美激情性bbbbbb| 免费黄频网站在线观看国产| 亚洲成色77777| 久久热精品热| 国产成人精品婷婷| 久久国内精品自在自线图片| 亚洲图色成人| 亚洲精华国产精华液的使用体验| 大陆偷拍与自拍| 国产免费福利视频在线观看| 久久狼人影院| 国产午夜精品久久久久久一区二区三区| 最近2019中文字幕mv第一页| 中文字幕av电影在线播放| 一二三四中文在线观看免费高清| 国产高清国产精品国产三级| 亚洲情色 制服丝袜| 黄色怎么调成土黄色| av在线播放精品| 国精品久久久久久国模美| 国产成人免费无遮挡视频| 色视频在线一区二区三区| 黄色怎么调成土黄色| 国产精品久久久久久av不卡| 丰满少妇做爰视频| a级毛片黄视频| av电影中文网址| 久久影院123| 午夜久久久在线观看| 日本午夜av视频| 日产精品乱码卡一卡2卡三| 永久免费av网站大全| 女人久久www免费人成看片| 久久精品国产鲁丝片午夜精品| 亚洲图色成人| 欧美日韩亚洲高清精品| 特大巨黑吊av在线直播| 妹子高潮喷水视频| 校园人妻丝袜中文字幕| 亚洲综合色惰| 精品久久国产蜜桃| 校园人妻丝袜中文字幕| 免费大片18禁| 国产男女内射视频| av免费观看日本| 成人亚洲欧美一区二区av| 在线观看免费视频网站a站| 91精品国产九色| 欧美成人精品欧美一级黄| a级毛色黄片| 亚洲精品一区蜜桃| av在线app专区| 国产一级毛片在线| 亚洲精品中文字幕在线视频| 国产爽快片一区二区三区| 妹子高潮喷水视频| 亚洲av不卡在线观看| 国产乱人偷精品视频| 国产乱人偷精品视频| 免费av不卡在线播放| 亚洲激情五月婷婷啪啪| 夫妻午夜视频| 狂野欧美激情性bbbbbb| 久久国产精品男人的天堂亚洲 | 一个人看视频在线观看www免费| 制服丝袜香蕉在线| 久久精品久久久久久噜噜老黄| 国产片内射在线| 大香蕉97超碰在线| 午夜福利视频在线观看免费| 插逼视频在线观看| 婷婷色综合大香蕉| 国产亚洲最大av| 老司机亚洲免费影院| 乱码一卡2卡4卡精品| 免费看光身美女| freevideosex欧美| 成人影院久久| 99久国产av精品国产电影| 午夜影院在线不卡| 老司机影院毛片| 亚洲美女黄色视频免费看| 国产精品一区二区在线不卡| 97精品久久久久久久久久精品| av线在线观看网站| 亚洲人成网站在线播| 最近的中文字幕免费完整| 欧美成人午夜免费资源| 国产在线一区二区三区精| 久久久久久久久久久丰满| 少妇的逼水好多| 九草在线视频观看| 色网站视频免费| 日本黄大片高清| 视频在线观看一区二区三区| 久久国产精品大桥未久av| 人成视频在线观看免费观看| freevideosex欧美| 汤姆久久久久久久影院中文字幕| 少妇被粗大猛烈的视频| 黑人高潮一二区| 久久久精品94久久精品| 中文字幕av电影在线播放| av女优亚洲男人天堂| 欧美3d第一页| 在线观看免费视频网站a站| 色94色欧美一区二区| 欧美人与性动交α欧美精品济南到 | 久久人人爽人人片av| av专区在线播放| 永久免费av网站大全| 精品久久蜜臀av无| 99热6这里只有精品| 久久毛片免费看一区二区三区| 亚洲av国产av综合av卡| 国产高清有码在线观看视频| 国产欧美日韩一区二区三区在线 | 婷婷色av中文字幕| 亚洲av成人精品一区久久| 你懂的网址亚洲精品在线观看| 亚洲一区二区三区欧美精品| 99九九线精品视频在线观看视频| 亚洲少妇的诱惑av| 久久久久久久久久久久大奶| 啦啦啦中文免费视频观看日本| 国产深夜福利视频在线观看| 亚洲国产精品一区二区三区在线| 免费大片18禁| 亚洲av成人精品一区久久| 国产精品 国内视频| 国产高清国产精品国产三级| 久久99热6这里只有精品| 高清视频免费观看一区二区| 99热国产这里只有精品6| av国产久精品久网站免费入址| 久久久国产欧美日韩av| 午夜日本视频在线| 久久青草综合色| 黄色视频在线播放观看不卡| 久久国内精品自在自线图片| 两个人的视频大全免费| 岛国毛片在线播放| 不卡视频在线观看欧美| 亚洲成人av在线免费| 母亲3免费完整高清在线观看 | 在线观看免费高清a一片| 欧美丝袜亚洲另类| 一级毛片aaaaaa免费看小| 国产成人精品在线电影| 久久精品国产自在天天线| 精品久久国产蜜桃| 一本大道久久a久久精品| 久久久久久人妻| 伦精品一区二区三区| 国产精品 国内视频| 久久影院123| 自线自在国产av| 亚洲第一区二区三区不卡| 少妇人妻 视频| 久久99热这里只频精品6学生| 热99国产精品久久久久久7| 韩国高清视频一区二区三区| 午夜福利视频在线观看免费| 色5月婷婷丁香| 女性生殖器流出的白浆| 69精品国产乱码久久久| 七月丁香在线播放| 毛片一级片免费看久久久久| 如何舔出高潮| 亚洲,欧美,日韩| 超色免费av| 777米奇影视久久| 嫩草影院入口| 中文字幕精品免费在线观看视频 | 十八禁高潮呻吟视频| 成人免费观看视频高清| 美女大奶头黄色视频| 三级国产精品欧美在线观看| 欧美成人精品欧美一级黄| 久久婷婷青草| av视频免费观看在线观看| 久久免费观看电影| 久久精品久久久久久噜噜老黄| 精品卡一卡二卡四卡免费| 女性被躁到高潮视频| 三上悠亚av全集在线观看| 国产精品不卡视频一区二区| 久久久国产精品麻豆| 亚洲av国产av综合av卡| 一级毛片 在线播放| av国产精品久久久久影院| 97在线人人人人妻| 欧美精品高潮呻吟av久久| 伦精品一区二区三区| 街头女战士在线观看网站| 青青草视频在线视频观看| 亚洲五月色婷婷综合| 一个人免费看片子| 熟女电影av网| 久久久久视频综合| 性色avwww在线观看| 特大巨黑吊av在线直播| 少妇高潮的动态图| √禁漫天堂资源中文www| 亚洲人成网站在线播| 人妻夜夜爽99麻豆av| 日本爱情动作片www.在线观看| 亚洲欧美色中文字幕在线| 午夜av观看不卡| 国产免费一区二区三区四区乱码| 久久av网站| 亚洲欧洲国产日韩| 少妇人妻精品综合一区二区| 国产成人精品久久久久久| 黑人欧美特级aaaaaa片| 黄色欧美视频在线观看| 最新中文字幕久久久久| 国产成人aa在线观看| 99久久精品一区二区三区| 日韩一本色道免费dvd| 大片免费播放器 马上看| 少妇被粗大的猛进出69影院 | 久久久午夜欧美精品| 国产免费一区二区三区四区乱码| 亚洲无线观看免费| 久久久久久伊人网av| 韩国高清视频一区二区三区| 国产女主播在线喷水免费视频网站| 中文字幕av电影在线播放| 国产色爽女视频免费观看| 男人操女人黄网站| 在线 av 中文字幕| 免费高清在线观看日韩| 亚洲精品久久午夜乱码| 少妇的逼水好多| 亚洲美女黄色视频免费看| 校园人妻丝袜中文字幕| 校园人妻丝袜中文字幕| 婷婷色麻豆天堂久久| 日本猛色少妇xxxxx猛交久久| 欧美xxxx性猛交bbbb| 亚洲精华国产精华液的使用体验| 亚洲天堂av无毛| 一区二区三区四区激情视频| 少妇人妻精品综合一区二区| 久久狼人影院| 亚洲欧美一区二区三区黑人 | 人妻少妇偷人精品九色| videos熟女内射| 精品国产露脸久久av麻豆| 一本色道久久久久久精品综合| 老司机影院成人| 欧美日韩亚洲高清精品| 国产精品不卡视频一区二区| 制服诱惑二区| 一级毛片电影观看| 国产片特级美女逼逼视频| 人妻一区二区av| 国产精品无大码| 精品少妇久久久久久888优播| 丝瓜视频免费看黄片| 久久久久国产网址| 久久精品久久久久久噜噜老黄| 精品久久久精品久久久| 久久久国产欧美日韩av| 成年美女黄网站色视频大全免费 | 亚洲精品久久成人aⅴ小说 | 激情五月婷婷亚洲| 亚洲精品第二区| 精品少妇黑人巨大在线播放| 熟女电影av网| 欧美少妇被猛烈插入视频| 黄色视频在线播放观看不卡| 免费看不卡的av| 这个男人来自地球电影免费观看 | 下体分泌物呈黄色| 日韩一区二区视频免费看| 国产 一区精品| 视频中文字幕在线观看| 熟妇人妻不卡中文字幕| 国产有黄有色有爽视频| 一级毛片电影观看| 三上悠亚av全集在线观看| 亚洲性久久影院| 狠狠精品人妻久久久久久综合| 91精品三级在线观看| 亚洲精品久久久久久婷婷小说| a级毛片免费高清观看在线播放| 建设人人有责人人尽责人人享有的| 国产不卡av网站在线观看| 日产精品乱码卡一卡2卡三| 久久韩国三级中文字幕| 国产无遮挡羞羞视频在线观看| 人体艺术视频欧美日本| 国产伦精品一区二区三区视频9| 国产成人aa在线观看| 在线播放无遮挡| 最黄视频免费看| 边亲边吃奶的免费视频| 免费久久久久久久精品成人欧美视频 | 精品熟女少妇av免费看| xxxhd国产人妻xxx| 国产毛片在线视频| 免费大片18禁| 看免费成人av毛片| 毛片一级片免费看久久久久| 免费高清在线观看日韩| 婷婷色综合www| 国产av码专区亚洲av| 一区二区三区乱码不卡18| 国产高清不卡午夜福利| 亚洲综合精品二区| 国产av精品麻豆| 最后的刺客免费高清国语| 久久国产精品大桥未久av| 国产免费一区二区三区四区乱码| 熟女电影av网| 一本一本综合久久| 全区人妻精品视频| 国产亚洲精品久久久com| 日本-黄色视频高清免费观看| 日韩免费高清中文字幕av| 国产男女超爽视频在线观看| 久久国产亚洲av麻豆专区| 黄色一级大片看看| 中文字幕av电影在线播放| 在线精品无人区一区二区三| 青春草亚洲视频在线观看| 国产午夜精品一二区理论片| 99九九线精品视频在线观看视频| 久久久欧美国产精品| 国产欧美另类精品又又久久亚洲欧美| 日韩视频在线欧美| 男女高潮啪啪啪动态图| 国产精品人妻久久久久久| 精品午夜福利在线看| 黑人巨大精品欧美一区二区蜜桃 | 99视频精品全部免费 在线| 久久久久久久精品精品| av在线老鸭窝| 亚洲欧美成人综合另类久久久| 国产69精品久久久久777片| 国产午夜精品久久久久久一区二区三区| 久久99热6这里只有精品| 大香蕉久久成人网| 欧美精品亚洲一区二区| 高清午夜精品一区二区三区| 五月天丁香电影| 美女大奶头黄色视频| a 毛片基地| 母亲3免费完整高清在线观看 | 91久久精品电影网| 一本一本综合久久| 亚洲精品美女久久av网站| 亚洲精品av麻豆狂野| 国产精品99久久久久久久久| a级毛片免费高清观看在线播放| 午夜视频国产福利| 日韩强制内射视频| 欧美97在线视频| 久久久国产一区二区| 亚洲三级黄色毛片| 日韩中字成人| 免费黄网站久久成人精品| 久久精品国产自在天天线| a级毛色黄片| 国产精品无大码| 欧美 日韩 精品 国产| 男女啪啪激烈高潮av片| 最近2019中文字幕mv第一页| 亚洲精品视频女| 99久国产av精品国产电影| 夜夜看夜夜爽夜夜摸| 亚洲欧美中文字幕日韩二区| 国产av码专区亚洲av| 亚洲四区av| 91久久精品电影网| 插阴视频在线观看视频| 在线看a的网站| 男人爽女人下面视频在线观看| 国产精品一区二区在线观看99| 午夜老司机福利剧场| 狠狠婷婷综合久久久久久88av| av国产精品久久久久影院| 国产精品一区二区在线观看99| 美女cb高潮喷水在线观看| www.av在线官网国产| 嫩草影院入口| 纵有疾风起免费观看全集完整版| 2021少妇久久久久久久久久久| 高清黄色对白视频在线免费看| 少妇人妻精品综合一区二区| 人成视频在线观看免费观看| av女优亚洲男人天堂| 美女脱内裤让男人舔精品视频| 精品久久久久久久久亚洲| 亚洲美女黄色视频免费看| 在线观看三级黄色| 秋霞在线观看毛片| kizo精华| 黑人高潮一二区| 狂野欧美激情性bbbbbb| 91精品一卡2卡3卡4卡| 三级国产精品片| 蜜桃在线观看..| 九色成人免费人妻av| 自线自在国产av| 亚洲成色77777| 99久久综合免费| www.av在线官网国产| 精品少妇久久久久久888优播| 日韩成人伦理影院| 一边亲一边摸免费视频| 免费看av在线观看网站| 国产黄频视频在线观看| a 毛片基地| 交换朋友夫妻互换小说| 99久国产av精品国产电影| 免费av不卡在线播放| av卡一久久| 久久精品熟女亚洲av麻豆精品| 又大又黄又爽视频免费| 啦啦啦啦在线视频资源| 亚洲精品自拍成人| 欧美日韩av久久| 亚洲欧美精品自产自拍| 9色porny在线观看| 午夜免费男女啪啪视频观看| 免费久久久久久久精品成人欧美视频 | 日韩一区二区三区影片| 男的添女的下面高潮视频| 老司机影院成人| 日本黄大片高清| 多毛熟女@视频| 99九九在线精品视频| 国产白丝娇喘喷水9色精品| 久久午夜综合久久蜜桃| 国产成人精品一,二区| videosex国产| 久久久久久久精品精品| 午夜免费观看性视频| 中文字幕人妻丝袜制服| 美女福利国产在线| 免费看不卡的av| 男女高潮啪啪啪动态图| 精品人妻在线不人妻| 视频区图区小说| 国产精品久久久久久久久免| 欧美三级亚洲精品| 久久青草综合色| 欧美激情国产日韩精品一区| 午夜激情久久久久久久| 中文字幕亚洲精品专区| 亚洲精品久久久久久婷婷小说| 黄片播放在线免费| 精品亚洲乱码少妇综合久久| a级毛片在线看网站| 99久国产av精品国产电影| 国产精品不卡视频一区二区| 国产成人91sexporn| 久热久热在线精品观看| 亚洲成色77777| 午夜久久久在线观看| 狠狠精品人妻久久久久久综合| 男女免费视频国产| 免费观看性生交大片5| 日韩在线高清观看一区二区三区| 国产成人免费观看mmmm| 另类精品久久| 热99久久久久精品小说推荐| 亚洲内射少妇av| 久久精品久久久久久久性| 永久网站在线| 欧美 亚洲 国产 日韩一| 免费大片黄手机在线观看| 国产男女内射视频| 午夜影院在线不卡| 亚洲天堂av无毛| 国产片特级美女逼逼视频| 高清午夜精品一区二区三区| 观看美女的网站| 18+在线观看网站| 在线观看免费高清a一片| 国产av码专区亚洲av| 国产精品一二三区在线看| 国产精品一国产av| 新久久久久国产一级毛片| 国产精品人妻久久久影院| 国产探花极品一区二区| 国产成人a∨麻豆精品| 91久久精品电影网| 在线观看www视频免费| 各种免费的搞黄视频| 秋霞伦理黄片| 王馨瑶露胸无遮挡在线观看| 亚洲欧美精品自产自拍| 18禁动态无遮挡网站| 中国三级夫妇交换| 91精品三级在线观看| 嫩草影院入口| av在线观看视频网站免费| 美女国产高潮福利片在线看| 这个男人来自地球电影免费观看 | 亚洲精品第二区| 国产精品一区二区三区四区免费观看| 嫩草影院入口| 成人亚洲欧美一区二区av| 韩国高清视频一区二区三区| 亚洲av成人精品一二三区| 18+在线观看网站| 一区二区三区四区激情视频| 精品人妻偷拍中文字幕| 成人二区视频| 免费久久久久久久精品成人欧美视频 | 免费日韩欧美在线观看| 两个人的视频大全免费| 特大巨黑吊av在线直播| 99热网站在线观看| 午夜免费观看性视频| 在线观看美女被高潮喷水网站| 天堂中文最新版在线下载| 一本久久精品| 国产黄色免费在线视频| 狂野欧美白嫩少妇大欣赏| 大香蕉久久成人网| 亚洲国产成人一精品久久久| 91午夜精品亚洲一区二区三区| 少妇丰满av| 日本猛色少妇xxxxx猛交久久| av线在线观看网站| 国产午夜精品久久久久久一区二区三区| av女优亚洲男人天堂| 久久久久久久久久人人人人人人| 国产综合精华液| 人妻 亚洲 视频| 亚洲美女视频黄频| 在线免费观看不下载黄p国产| 日本色播在线视频| 在线免费观看不下载黄p国产| 久久免费观看电影| 99久国产av精品国产电影| 成人亚洲精品一区在线观看| 免费观看无遮挡的男女| 亚洲国产精品999| 亚洲国产欧美在线一区| 国产色婷婷99| 亚洲精品,欧美精品| 最近手机中文字幕大全| 精品人妻偷拍中文字幕| 亚洲精品国产av成人精品| 99精国产麻豆久久婷婷| 能在线免费看毛片的网站| 少妇高潮的动态图| 91精品国产国语对白视频| 最近中文字幕2019免费版| 一本大道久久a久久精品| 我的老师免费观看完整版| 99久久精品国产国产毛片| 免费看光身美女| 国产av国产精品国产| 欧美日本中文国产一区发布| 国产综合精华液|