• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向及應對
    ——以私權保障為中心

    2020-12-09 04:40:34李小猛
    蘇州大學學報(法學版) 2020年4期
    關鍵詞:主體人工智能法律

    李小猛

    一、問題的提出

    在新一輪司法改革中,大數(shù)據(jù)、人工智能等現(xiàn)代科技正在大范圍運用到司法機關的日常工作中。以公安、檢察院、法院為主的公權力機關投入大量人力、物力、財力建設智慧公安、智慧檢務、智慧法院等工程,并取得了一定成績。司法大數(shù)據(jù)和法律人工智能等技術逐漸成為了新一輪司法改革的主要亮點和熱點并引起廣泛關注。在司法大數(shù)據(jù)和法律人工智能建設如火如荼進行的當下,公權力機關顯然在此過程中占據(jù)了主導地位,不僅相關建設成果多,且從中獲益不少。然而需要警惕的是,律師在此過程中卻參與極少,以保障當事人利益為目的的相關技術手段也很少被改革者提及。在此背景下,有不少學者對司法大數(shù)據(jù)和法律人工智能的中立性、透明性產生了質疑。①(1)①參見段偉文:《人工智能時代的價值審度與倫理調適》,載《中國人民大學學報》2017年第6期,第98-107頁。眾所周知的是,我國刑事訴訟領域的控辯平等并未完全實現(xiàn),司法實踐中存在著刑辯律師權利、被追訴人權利等私權利保障不足的舊疾。②(2)②比較典型的是刑事辯護老三難問題和新三難問題,這折射出了被追訴人和刑辯律師權利保障之不足和控辯不平等問題。當刑事訴訟領域私權保障不足的沉疴遇上新技術對公權力的加持,就不能不引起我們的擔憂:大數(shù)據(jù)和人工智能技術是否能真正有效地平衡司法的效率和公正?以大數(shù)據(jù)和人工智能為代表的現(xiàn)代科技是否會造成司法活動中公私力量的失衡?司法大數(shù)據(jù)和法律人工智能會不會成為侵犯私權利的一把隱形刺刀?

    為回答上述問題,本文提出“司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向”這一命題。唯公權力化傾向是一種“權力本位”觀念在司法大數(shù)據(jù)和法律人工智能中的體現(xiàn),它既是指建設過程和價值取向的唯公權力意志,也是指建設結果的以公權力主體為中心。在文章的第二部分,筆者通過分析司法大數(shù)據(jù)和法律人工智能在政策支持、資金投入和實踐探索結果三方面的失衡,以證明上述命題在我國是真實存在的。在文章的第三部分,筆者將分析“司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向”在法權層面產生的影響及其危害。最后,筆者通過引入“權力-權利”沖突理念對“司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向”提出解決方案。

    二、多重力量作用下的主體建設失衡

    司法大數(shù)據(jù)和法律人工智能建設的主體不僅包括公權力機關,也包括私權利主體,例如律師行業(yè)、訴訟參與人和商業(yè)主體等。公權利主體在司法大數(shù)據(jù)和法律人工智能中可能成為主要建設者,私權利主體在司法大數(shù)據(jù)和法律人工智能建設中也可能以參與者的身份出現(xiàn)。公權利主體和私權利主體作為司法大數(shù)據(jù)和法律人工智能建設的兩大主體,二者在政策關注、資金支持、建設成果上并不平衡,這也就產生了唯公權力化傾向的第一個側面,即多重力量作用下的主體建設失衡。

    (一)政策支持的關注失衡

    “縱觀世界,可以說尚未有哪個國家像中國這樣通過官方的頂層設計來支持司法和公共安全領域大規(guī)模地運用人工智能技術?!雹?3)①左衛(wèi)民:《熱與冷:中國法律人工智能的再思考》,載《環(huán)球法律評論》2019年第2期,第54頁。近年來,智慧警務、智慧檢務、智慧法院等建設項目不斷被中央和地方各個層面的政策性文件背書。2015年7月,最高人民法院提出了建設“智慧法院”,次年2月最高人民法院提出人民法院信息化3.0版的建設規(guī)劃。2016年7月由中辦國辦印發(fā)的《國家信息化發(fā)展戰(zhàn)略綱要》中提出了推動“科技強檢”和“智慧法院”建設方略。同年12月,“智慧檢務”和“智慧法院”建設作為國家“十三五”期間信息化建設重點任務寫入《“十三五”國家信息化規(guī)劃》,同時提出了“十三五”期間要支持社會治安綜合治理信息系統(tǒng)和公安大數(shù)據(jù)中心建設。2017年7月20日發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中智慧法庭建設的具體目標被進一步細化,智慧法院作為重點建設任務又一次在國家文件層面得到支持。

    通過國家層面制定相關政策,有效保障了公檢法等公權力機關對司法大數(shù)據(jù)和法律人工智能的主導權和參與權。但是這種政策的制定也要考慮到參與主體的平衡性。與公權力機關擁有的各種政策支持相比,私權利主體參與司法大數(shù)據(jù)和法律人工智能的政策支持就略顯單薄。比較典型的只有2017年7月司法部、科技部聯(lián)合印發(fā)的《“十三五”司法行政創(chuàng)新規(guī)劃》,該規(guī)劃指出要大力構建智慧司法行政應用支撐平臺,綜合運用大數(shù)據(jù)和人工智能等技術發(fā)展法律援助事業(yè),同時依托互聯(lián)網新技術發(fā)展律師職業(yè)保障技術。然而上述政策雖然旨在保障律師權益,但建設主體仍是公權力機關。

    (二)資金支持的投入失衡

    根據(jù)億歐智庫中國人工智能投資市場研究報告相關分析顯示,2014年起大量資本開始進入中國人工智能研究領域。②(4)②參見謝洪明、陳亮、楊英楠:《如何認識人工智能的倫理沖突:研究回顧與展望》,載《外國經濟與管理》2019第10期,第110頁。事實上早在2014年,天同律師事務所已經著手研發(fā)了天同訴訟大數(shù)據(jù)運行機制,并形成了“標簽判斷流程、大數(shù)據(jù)檢索系統(tǒng)、大數(shù)據(jù)統(tǒng)計分析系統(tǒng)”。③(5)③天同訴訟技術研發(fā)中心:《小律所,大數(shù)據(jù):訴訟的數(shù)據(jù)化時代》,載《中國律師》2014年第5期,第22頁。現(xiàn)階段私權利主導的司法大數(shù)據(jù)和法律人工智能領域,能夠吸引資本的主要是律師辦公輔助軟件,例如Alpha平臺、無訟案例等。但是在自由競爭市場中,私權利領域的司法大數(shù)據(jù)和法律人工作智能并不是投資的熱區(qū)。與互聯(lián)網行業(yè)和金融行業(yè)的人工智能相比,私權利領域的司法大數(shù)據(jù)和法律人工智能盈利少且開發(fā)難度大,顯然沒有市場競爭優(yōu)勢。這就導致了私權領域的司法大數(shù)據(jù)和法律人工智能開發(fā)建設缺乏資金支持。

    以公檢法為代表的公權力機關在建設司法大數(shù)據(jù)和法律人工智能上具有先天的財力優(yōu)勢。首先,公權力機關在財政支持下,有足夠的資金來源。誠如有學者所言:各地司法機關為追求司法改革業(yè)績,紛紛打開司法人工智能的官方市場。①(6)①參見錢大軍:《司法人工智能的中國進程:功能替代與結構強化》,載《法學評論》2018年第5期,第140-142頁。以全國公檢法系統(tǒng)探索司法大數(shù)據(jù)和法律人工智能普遍依托的技術方科大訊飛公司為例②(7)②以科大訊飛公司作為切入點研究我國公檢法對司法大數(shù)據(jù)和法律人工智能的投入具有代表性和可行性。代表性體現(xiàn)在科大訊飛公司承包了全國大部分公檢法三機關司法大數(shù)據(jù)和法律人工智能項目:根據(jù)科大訊飛公司股份有限公司2019年年度報告摘要顯示,“AI+政法”產品與解決方案已廣泛應用于各級司法行政機關,高院、省檢覆蓋率均超90%?!逼淇尚行泽w現(xiàn)在科大訊飛股份有限公司作為上市公司,每年的收入都會作為公開事項在深圳證券交易所官網公示,近幾年來司法領域的收入及明細有據(jù)可考。:自2016年起政法業(yè)務成為該公司主要產品,并成為利潤率最高的產品之一。2016年至2019年政法業(yè)務收入分別約為2.623億、5.570億、10.356億、13.31億,呈逐年增長趨勢。③(8)③參見深證證券交易所網站,http://www.szse.cn/application/search/index.html?keyword=%E7%A7%91%E5%A4%A7%E8%AE%AF%E9%A3%9E&r=1591629692588,2020年6月8日訪問。作為公檢法等公權力機關大數(shù)據(jù)和人工智能技術外包的主要公司,其政法業(yè)務收入的大幅度增長,體現(xiàn)出了公共財政對公權力領域司法大數(shù)據(jù)和法律人工智能投入的持續(xù)性增長。私權利主體在資本市場的冷遇和公權力主體在財政支撐上的無憂無慮反映出公私主體在司法大數(shù)據(jù)和法律人工智能領域的資金支持失衡。

    (三)實踐探索的成果失衡

    雖然中國司法大數(shù)據(jù)和法律人工智能起步不早,但是公權力機關的探索已經取得了較多的成果。公安機關的智慧警務總體上形成“以風險控制為目標的預警系統(tǒng)、以精確打擊為目標的技戰(zhàn)法運用和以動態(tài)管理為目標的智能管理系統(tǒng)”④(9)④張可:《大數(shù)據(jù)偵查之程序控制:從行政邏輯邁向司法邏輯》,載《中國刑事法雜志》2019第2期,第133-135頁。三種形態(tài)。不論公安部還是地方公安機關,其探索成果都十分豐富。⑤(10)⑤公安部的金盾工程作為國家電子政務建設的12個重要業(yè)務系統(tǒng)之一,取得了很多全新的建設成果。地方公安機關具有代表性的探索成果有:蘇州市研發(fā)的犯罪預測系統(tǒng)、四川省為推進公共安全視頻監(jiān)控聯(lián)網而研發(fā)的雪亮工程等。在智慧檢務建設方面,根據(jù)2017年最高人民檢察院印發(fā)的《檢察大數(shù)據(jù)行動指南(2017—2020)》顯示,2020年檢察機關要實現(xiàn)“一中心四體系”的建設目標。此外,檢察機關司法大數(shù)據(jù)和法律人工智能探索的具體成果還主要體現(xiàn)在全國檢察機關統(tǒng)一業(yè)務應用系統(tǒng)上,地方各級人民檢察院也取得了豐富的成果。⑥(11)⑥代表性成果有:江蘇省檢察機關的“案管機器人”,福建省豐澤區(qū)檢察院的“智能辦案輔助系統(tǒng)”,重慶市檢察院的四大辦案輔助系統(tǒng)等。在智慧法院的建設方面,司法大數(shù)據(jù)和法律人工智能的運用貫穿于整個訴訟過程,包括立案、分案、庭審、裁判與執(zhí)行等階段。并且,地方法院的建設成果也十分出色。⑦(12)⑦例如北京法院“睿法官”智能研判系統(tǒng)、重慶市高級人民法院數(shù)據(jù)“云中心”、蘇州法院的“智慧審判蘇州模式”等。

    與公檢法三機關相比,私權利主體在探索司法大數(shù)據(jù)和法律人工智能過程中取得的成果較少,僅局限于幾款律師辦公輔助軟件。同時,私權利主體在探索運用司法大數(shù)據(jù)和法律人工智能上具有依賴性和局限性。律師行業(yè)有限的幾個智能業(yè)務系統(tǒng)和司法大數(shù)據(jù)平臺建設往往以中國裁判文書網的裁判文書為基礎,其基礎數(shù)據(jù)基本來源于公權力主體的提供。在公權力主導的司法大數(shù)據(jù)和法律人工智能建設中,還出現(xiàn)了聯(lián)合化的趨勢。以“上海刑事案件智能輔助辦案系統(tǒng)”(206工程)為代表的法律人工智能系統(tǒng)首次打通了公檢法的數(shù)據(jù)流程,實現(xiàn)不同機關之間數(shù)據(jù)互聯(lián)互通、人機互動互補。然而,各公權力機關的信息共享、聯(lián)通卻普遍地將私權利主體拒之門外。這種“強強聯(lián)合”的趨勢進一步加劇了實踐探索的結果失衡。

    三、現(xiàn)代科技加持后的公私權益失衡

    司法大數(shù)據(jù)和法律人工智能建設主體的失衡,實質上體現(xiàn)出社會資源分配在公私主體間的失衡,也是在“現(xiàn)象層面”對“司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向”這一命題所做出的解釋。在法權領域,上述命題還體現(xiàn)出“權力-權利”動態(tài)平衡遭到破壞這一面向,這也構成了該命題的第二維度即公權力的膨脹和私權利的收縮。

    (一)公權力的膨脹

    1.偵查權的增強。大數(shù)據(jù)技術和人工智能技術在公權力主體中的應用極大提高了國家追訴犯罪的能力,尤其加強了偵查權。這種權力的增強主要依靠大數(shù)據(jù)偵查來實現(xiàn)。大數(shù)據(jù)偵查是指利用數(shù)據(jù)的收集、共享、清洗、比對和挖掘等方式來發(fā)現(xiàn)犯罪線索、證據(jù)信息或者犯罪嫌疑人的偵查措施與方法。①(13)①參見程雷:《大數(shù)據(jù)偵查的法律控制》,載《中國社會科學》,2018年第11期,第157頁。大數(shù)據(jù)偵查不僅可以增強公權力主體預防犯罪的能力,還能提高偵破犯罪的效率和質量。通過事件驅動型②(14)②事件驅動型數(shù)據(jù)挖掘(event-driven data mining)是指不以具體而明確的犯罪嫌疑人為起點進行數(shù)據(jù)挖掘,主要用以發(fā)現(xiàn)已經發(fā)生或者將要發(fā)生的違法犯罪主體。See Christopher Slobogin, Government Data Ming and the Fourth Amendment, 75 The University of Chicago Law Review317, 322-323,(2008).數(shù)據(jù)挖掘技術,犯罪偵查由被動向主動轉型,這是對傳統(tǒng)偵查模式和偵查權的一種突破。在預防犯罪方面,大數(shù)據(jù)技術的使用在可以預測犯罪熱點地區(qū)及時間、易犯人群及其特征和易受害人群等,③(15)③See Walter L·Perry, Predictive policing: The role of Crime Forecasting in Law Enforcement Operation, accessed Aug. 27, 2020, at https://www.rand.org/content/dam/rand/pubs/research_reports/RR200/RR233/RAND_RR233.pdf.從而精準調動、部署警力,維護社會穩(wěn)定,預防犯罪的發(fā)生。

    作為偵查犯罪的有效手段,現(xiàn)階段大數(shù)據(jù)技術已經在偵查活動中取得了一定的成效。大數(shù)據(jù)偵查犯罪提高了國家公權力追訴能力的同時,也極大提高了偵查活動的隱蔽性和不透明性。對于大數(shù)據(jù)偵查的性質,學者普遍認為它是與傳統(tǒng)的技術偵查措施不同的強制性偵查措施。④(16)④參見張可:《大數(shù)據(jù)偵查措施程控體系建構:前提、核心與保障》,載《東方法學》2019年第6期,第89-90頁。然而在現(xiàn)階段,大數(shù)據(jù)偵查的法律規(guī)制仍然是空白,基本上處于無法可依的狀態(tài)。其作為一項強制性偵查措施賦予了偵查機關以強制力侵入私權利領域,而這種偵查措施又沒有程序進行制約,就極大方便了偵查權的行使。在這個意義上,大數(shù)據(jù)偵查讓本來權力極大的偵查機關如虎添翼,偵查權極易產生擴大化傾向。

    2.審判權的嬗變。司法大數(shù)據(jù)和法律人工智能在公權力主體中的大量應用還導致了審判權的嬗變,這主要是由算法外包和公權力機關對司法效率的片面追求導致的。實現(xiàn)司法大數(shù)據(jù)和法律人工智能,算法是關鍵。而這些算法基本上是通過算法外包的方式實現(xiàn)的,幾乎都是出自技術人員之手。出自技術人員之手的算法用在審判的過程中,扮演了決策者的角色,其正當性首先在理論層面引起了懷疑。盡管學界已經對司法人工智能的屬性達成了共識,即其只能作為法官的工具,不能代替法官主體地位。⑤(17)⑤參見潘庸魯:《人工智能介入司法領域的價值與定位》,載《探索與爭鳴》2017年第10期,第103-105頁。但是在審判中大規(guī)模運用法律人工智能,難免對傳統(tǒng)法官的主體地位產生沖擊,也難免會形成審判主體的多重結構,導致裁判的形成過程糅合了法官、程序員、軟件工程師、數(shù)據(jù)處理商等多重主體的意志。⑥(18)⑥參見季衛(wèi)東:《人工智能時代的司法權之變》,載《東方法學》2018第1期,第132頁。其次,在訴訟中引入司法人工智能以提高訴訟效率的目標設定在中國法院“案多人少”和“追求司法政績”的雙重張力作用下,十分容易導致司法大數(shù)據(jù)和法律人工智能對訴訟效率的片面追求,導致司法的公正價值被偏廢。

    審判權作為司法權具有消極性,這是審判權區(qū)別于其他國家公權力的顯著特點之一。⑦(19)⑦參見張建偉:《刑事司法體制原理》,中國人民公安大學出版社2002年版,第13頁。消極性是審判權中立、克制的重要保障。司法大數(shù)據(jù)和法律人工智能在全國范圍內的廣泛探索與大規(guī)模使用,實質上促成了司法向大數(shù)據(jù)和人工智能技術的全面開放,這極大地削減了審判權的消極性和中立性,也加速了審判權的嬗變進程,加重了司法權淪為一般國家權力的潛在風險。⑧(20)⑧參見王祿生:《司法大數(shù)據(jù)與人工智能技術應用的風險及倫理規(guī)制》,載《法商研究》2019年第2期,第105-108頁。多重主體的參與尤其是不具備法學素養(yǎng)的技術人員以及可能與審判有利害關系的商業(yè)主體的參與,增加了審判權的不確定因素,這種不確定性因素對審判權消極性和中立性是一種不可避免的威脅。此外,公正和效率作為訴訟中的一對矛盾應當保持動態(tài)平衡的狀態(tài)。司法大數(shù)據(jù)和法律人工智能對訴訟效率的片面追求也極易造成對公正價值的損害。

    3.司法行政權的擴張。理清法院的內外部利益關系,遏制司法的行政化傾向一直以來都是我國司法改革的重點。在法院的內部關系上,司法行政化問題是司法權獨立行使的重要障礙,這主要體現(xiàn)在審判委員會、院庭長與合議庭的關系,上下級法院之間的關系以及法官績效考核制度上。在過去的實踐中,審判委員會不審而判的現(xiàn)象長期存在,院庭長和上級法院利用職權干預合議庭審判的情況并不鮮見,為追求司法績效而忽視司法規(guī)律甚至釀成冤假錯案也不無發(fā)生。①(21)①參見陳光中、龍宗智:《關于深化司法改革若干問題的思考》,載《中國法學》2013年第4期,第8頁。新一輪司法改革中,在“審判委員會改革”“完善合議庭主審法官辦案責任制”的推動下,上述問題都得到了一定程度的解決,司法行政化傾向受到了一定的遏制。然而在大規(guī)模建設司法大數(shù)據(jù)和法律人工智能的當下,這一問題產生了新的隱憂。

    在智慧法院的建設過程中,打破了傳統(tǒng)法院信息管理系統(tǒng)互不相同、聯(lián)通困難、“各自為政”的局面,法院各個部門以及上下級法院之間的信息互聯(lián)互通帶來了信息流通上的順暢和管理上的便捷高效,同時也為院庭長管理司法人員以及上級法院控制下級法院提供了便利的技術渠道。誠如有的學者所言,“智慧法院的建成將上級法院對下級法院的管控提供了技術可能性,加劇司法的行政化趨勢?!雹?22)②徐駿:《智慧法院的法理審思》,載《法學》2017年第3期,第61頁。在司法績效考核制度壓力之下,考核標準都能在審判輔助系統(tǒng)和管理系統(tǒng)中進行量化,作為理性人的法官也不可免俗地趨利避害,因此工作中不得不考慮到上級管理的要求。過去這種管理沒有系統(tǒng)的實時監(jiān)控,因此具有一定的“時差”。而依靠大數(shù)據(jù)技術和人工智能技術,可以實時收集數(shù)據(jù)、糾錯、匯報,因此形成了一種“實時性”“同步性”的新型監(jiān)督管理模式。這種新型的監(jiān)督管理模式極易造成司法行政管理權的“隱性擴張”,法官對審判權的掌控和審判理性會難以避免地受到一定的損害。

    (二)私權利的收縮

    1.大數(shù)據(jù)偵查威脅個人信息權。個人信息權是指自然人對個人信息的知情、支配和自主決定的權利。個人信息權作為專屬于自然人享有的權利,彰顯出一個人的人格尊嚴和個人自由。③(23)③參見王利明:《論個人信息權的法律保護——以個人信息權與隱私權的界分為中心》,載《現(xiàn)代法學》2013年第4期,第64頁。隨著信息技術在人類生活中的應用,我們日常生活的一舉一動都可能被記錄成數(shù)據(jù)。手機中的聊天信息、全天候的運動軌跡、運動手表對心率血壓等身體指標的記錄。由于數(shù)據(jù)偵查具有權利干預的普遍性與深刻性,所以預防犯罪和偵查犯罪中的司法大數(shù)據(jù)應用,都可能干預人們的個人信息權。大數(shù)據(jù)偵查通過大數(shù)據(jù)技術對海量存儲信息加以充分挖掘利用,對公民個人信息乃至隱私權的干預具有史無先例的廣泛性與深刻性,對于大數(shù)據(jù)偵查中偵查機關收集與使用公民個人信息的過程,公民既不知情亦無法抗拒。④(24)④參見程雷:《刑事司法中的公民個人信息保護》,載《中國人民大學學報》2019年第1期,第105-107頁。

    司法大數(shù)據(jù)建設尤其是大數(shù)據(jù)偵查所依賴的數(shù)據(jù)庫不僅包括公權力機關建設的各種數(shù)據(jù)庫,還包括各種商業(yè)機構提供的數(shù)據(jù)??梢哉f,所有在互聯(lián)網上儲存的個人信息都會成為數(shù)據(jù)庫的組成部分。一方面《反恐法》18條與《網絡安全法》21、28條對電信業(yè)務經營者、互聯(lián)網服務提供者設定了協(xié)助偵查機關監(jiān)控和提供信息的義務,這使得我們日常生活的電腦軟件、手機應用、通信記錄等產生的信息都可以毫無障礙地被偵查主體獲得,個人信息自決權幾乎蕩然無存。另一方面,大數(shù)據(jù)偵查法律規(guī)制的缺失致使公權力藏身于黑暗之中,偵查主體對私權利的干預如入無人之境,人們對權利被侵害的事實既不知情,遑論救濟??梢哉f大數(shù)據(jù)技術加持下的偵查權不斷擴張的過程,也是個人信息權邊界不斷收縮的過程。

    2.信息偏在限制辯護權。信息偏在又稱信息的不對稱(asymmetric information),其作為微觀經濟學的核心理論是指信息在相對應的經濟個體之間的分布不均勻、不對稱狀態(tài)。⑤(25)⑤參見仵志忠:《信息不對稱理論及其經濟學意義》,載《經濟學動態(tài)》1997年第1期,第66頁。司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向同樣會導致公私權利主體之間信息不對稱的現(xiàn)象。首先,當前建設的很多智能輔助系統(tǒng),普遍存在著律師和當事人參與渠道和端口缺失的現(xiàn)象。被追訴人和律師沒有資格獲得系統(tǒng)中的相關信息,也就意味著律師無法獲得公權力機關辦案錯誤的系統(tǒng)提示和預警。而公權力機關辦案過程中系統(tǒng)發(fā)出的預警,或者在證據(jù)收集上有過瑕疵都可以成為辯護律師的調查重點和辯護重點,若這種信息只能由公權力機關獲得,那么對辯護權而言是一種實質性的減損。

    其次,在大數(shù)據(jù)和人工智能技術發(fā)展的當下,電子證據(jù)的應用越來越廣泛,律師對證據(jù)的獲得和使用也出現(xiàn)了新的挑戰(zhàn)。當前律師獲取電子證據(jù)的方式主要包括指導當事人取證、自行取證、申請相關機關取證、請求網絡服務商提供證據(jù)。①(26)①根據(jù)《中華全國律師協(xié)會律師辦理電子數(shù)據(jù)證據(jù)業(yè)務操作指引》第17、26、27、28條的相關規(guī)定,可以對我國當前律師獲取電子證據(jù)的方式進行上述分類。當下很多電子證據(jù)的取證實際上都需要政府部門和商業(yè)公司的協(xié)助,一方面在公權力機關各部門之間數(shù)據(jù)互聯(lián)共享的背景下,控方很容易從行政機關和運營商等商業(yè)主體手中獲取相關數(shù)據(jù),但是當事人和律師缺乏相應的便利渠道和溝通機制。另一方面,大數(shù)據(jù)技術賦予了碎片信息以重要價值。碎片信息很容易經過大數(shù)據(jù)分析進行重新排列組合從而得出完整的個人信息,因此律師取證中任何與個人信息相關的碎片信息在理論上而言都可以被行政機關和運營商以涉及個人隱私不能公開為由拒絕。②(27)②《政府信息公開條例》第14條,《網絡安全法》第40條、第42條,《刑事訴訟法》第52條都規(guī)定了涉及個人隱私的信息不得公開。參見裴煒:《個人信息大數(shù)據(jù)與刑事正當程序的沖突及其調和》,載《法學研究》2018年第2期,第52-53頁。發(fā)生在刑事訴訟領域的信息不對稱,實質上也是一種控辯不平等的表現(xiàn)。被追訴人對刑事訴訟活動的實質性參與及有效辯護是以知情為前提的,信息在私權利主體中的缺失將壓抑辯護權的有效行使。而公權力主體的取證便利性增強與私權利主體取證困難加大進一步抑制了辯護權的行使。

    3.技術依賴壓抑程序參與權。一直以來學界就有觀點認為司法大數(shù)據(jù)和法律人工智能的工具理性可能壓縮法官自由裁量的空間。③(28)③參見徐駿:《智慧法院的法理審思》,載《法學》2017年第3期,第59頁。法律人工智能和司法大數(shù)據(jù)在司法中的輔助作用越是便捷、強大,就越容易引起人們的這種擔心。這是因為作為輔助手段的技術工具越是便利、高效,則法官對其警惕性便越小,對其依賴性越大。在這種情況下原本應該對人工智能輸出結果進行人工審核或者持懷疑謹慎態(tài)度的情況便會逐漸減少。實際上“證據(jù)預警、類案推送、量刑輔助等技術應用在邏輯上也都包含不同程度的決策權讓渡”④(29)④王祿生:《司法大數(shù)據(jù)與人工智能技術應用的風險及倫理規(guī)制》,載《法商研究》2019年第2期,第107頁。。同時,法官在使用人工智能輔助軟件的過程中,也容易因為技術依賴而遵從人工智能的導向,人工智能輔助系統(tǒng)出現(xiàn)偏差時所產生的錯誤導向可能會產生裁判的錯誤和不公正。⑤(30)⑤參見孫那:《人工智能的法律倫理建構》,載《江西社會科學》2019年第2期,第20-21頁。

    此外,法官對司法大數(shù)據(jù)和法律人工智能的技術依賴與訴訟當事人的參與權在邏輯上存在著抵牾。首先在訴訟過程中,法官作為裁判者參與到訴訟中,不僅有定分止爭、實現(xiàn)公平正義的作用,當事人與法官共處同一訴訟場域進行交流更是訴訟當事人積郁情緒宣泄和社會矛盾排解的重要途徑。當事人也是在這個過程中實現(xiàn)了自己的程序參與并對判決的權威性產生認同。⑥(31)⑥參見[美]歐文·費斯:《如法所能》,師帥譯,中囯政法大學出版社2008年版,第85頁。而司法大數(shù)據(jù)和法律人工智能參與到訴訟中替代了法官的部分決策。對于判決中非法官自由裁量和理性生成的部分,是否能夠體現(xiàn)當事人的參與,是否能夠為當事人所接受都是存疑的。

    四、私權保護視野下的司法大數(shù)據(jù)和法律人工智能構建的秩序

    任何技術革命都會導致新的社會革命,大數(shù)據(jù)和人工智能作為信息時代的高新技術應用于司法之中,也會對既有的社會關系產生影響。公權力的擴張和私權利的收縮實際上是新技術介入司法領域后對傳統(tǒng)中國司法“權力-權利”動態(tài)平衡的干擾。既有的“權力-權利”動態(tài)平衡格局被打破產生了新的“權力-權利”沖突,這需要我們尋找新的“權力-權利”交互模式以解決司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向。

    (一)司法大數(shù)據(jù)和法律人工智能建設中的“權力-權利”沖突

    司法大數(shù)據(jù)和法律人工智能建設中出現(xiàn)的公權力膨脹和私權利收縮實際上是以公檢法等為主的公權力主體所享有的權力與普通公民和訴訟參與人所享有的權利發(fā)生沖突的結果。首先,大數(shù)據(jù)偵查在實踐中的廣泛使用并沒有以法律的授權為前提,作為一種強制性偵查措施,其缺乏啟動條件的法律限制和事后救濟的法律規(guī)制。然而大數(shù)據(jù)偵查帶來的偵查效率提高是不言而喻的,在高效便捷的利益誘導和維穩(wěn)壓力的雙重驅動下,偵查權的擴張不可避免地觸及到個人信息權和公民知情權等私權利的保留領域,構成了“權力-權利”的第一重沖突。其次,算法在訴訟中的使用以及算法外包造成的多重主體參與司法決策威脅了審判權的中立性和消極性,且司法大數(shù)據(jù)和法律人工智能對效率的偏執(zhí)再次消解了審判權,促成審判權的嬗變。審判權的嬗變與訴訟參與人的辯護權、程序參與權等產生的矛盾構成了“權力-權利”的第二重沖突。再次,司法大數(shù)據(jù)和法律人工智能導致的司法行政權“隱性擴張”實質上是對審判獨立的侵蝕,也是對訴訟參與人程序參與權的威脅,這構成了“權力-權利”的第三重沖突。

    偵查權的增強、審判權的嬗變和司法行政權的擴張共同構成了司法大數(shù)據(jù)和法律人工智能唯公權力化傾向在法律層面第一重側面。大數(shù)據(jù)偵查對個人信息權的威脅、信息偏在對辯護權的限制、技術依賴對程序參與權的壓抑共同構成了司法大數(shù)據(jù)和法律人工智能唯公權力化傾向在法律層面的另一側面。兩個側面實際上是互為表里、一體兩面的關系。在司法大數(shù)據(jù)和法律人工智能建設的“權力-權利”三重沖突中,公權力本身具有擴張的傾向,這種擴張的傾向是由于公權力追求效率、秩序和穩(wěn)定的本能所造成的。然而突破法律原則和制定法框架追求秩序和效率必定導致司法公正性受損,繼而帶來私權利的收縮?;诖?,現(xiàn)階段的司法大數(shù)據(jù)和法律人工智能探索有必要重新審視既有的探索模式和發(fā)展路徑,將被大數(shù)據(jù)和人工智能技術沖破的“權力-權利”動態(tài)平衡重新統(tǒng)攝于法律原則和制定法的框架之內。

    (二)公權力主導下的“權力-權利”雙主體平等參與模式

    在司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向語境中,公權力幾乎壟斷了司法大數(shù)據(jù)和法律人工智能相關資源。國家政策和財政資金的傾斜性投入保障了建設成果上公權利主體對私權利主體有壓倒性優(yōu)勢。兩種主體在司法大數(shù)據(jù)和法律人工智能領域形式上、實質上都處于不平等的地位。而在當下社會中實現(xiàn)兩種主體完全平等的參與顯然沒有可行性,公權力主導下的“權力-權利”雙主體平等參與模式作為中國探索司法大數(shù)據(jù)和法律人工智能的模式是比較可行的。之所以需要公權力進行主導是由現(xiàn)實情況所決定的。首先,在中國的司法環(huán)境中,沒有主導力量建設司法大數(shù)據(jù)和法律人工智能十分可能造成各地和各主體低水平重復性建設,造成社會資源的極大浪費。其次,司法大數(shù)據(jù)和法律人工智能建設之基礎在于建設大數(shù)據(jù)庫,而司法大數(shù)據(jù)庫的主要數(shù)據(jù)信息是由公檢法等公權力主體產生。再次,中國司法領域的私權利主體不論是律協(xié)、律所還是公司都沒有能力撐起整個法律共同體內部的協(xié)調責任。并且如前文所述,私權利主體探索司法大數(shù)據(jù)和法律人工智能也缺乏投資吸引力。

    在司法大數(shù)據(jù)和法律人工智能領域,公權力主體和私權利主體平等參與具有道德上的正當性。這首先是由“權力-權利”的本質關系所決定的。權力是權利在深層次上的一種特殊表現(xiàn)形式,從根本上而言權力派生于權利且從屬于權利。①(32)①參見童之偉:《公民權利國家權力對立統(tǒng)一關系論綱》,載《中國法學》1995年第6期,第16-17頁。因此權利和權力從本質上而言是一種平等的關系,需要平等進行保護。糾偏司法大數(shù)據(jù)和法律人工智能的唯公權力化傾向,就是要調節(jié)公權力主體和私權利主體之間的利益分配關系。強調司法大數(shù)據(jù)和法律人工智能建設中公權力主體和私權利主體的平等參與,是解決司法大數(shù)據(jù)和法律人工智能建設中“權利-權力沖突”的原則性指引。實現(xiàn)“權力-權利”雙主體平等參與就是要實現(xiàn)個體利益和公共利益之間的比例平衡。

    具體而言,“權力-權利”雙主體平等參與的具體內涵主要體現(xiàn)在以下幾點。其一,“權力-權利”雙主體平等參與強調形式平等,而非實質平等,即不追求結果意義上的絕對平等。同時,要求在公權力的主導下,私權利主體和公權利主體在政策支持、資金扶持上保障相對的平等關系,而非某一方占據(jù)壓倒性優(yōu)勢。其二,要求公權利主體和私權利主體機會平等。在公權力建設司法大數(shù)據(jù)和法律人工智能的過程中,應當充分考慮私權利主體的利益、要求,主動聽取私權利主體的相關意見和建議。其三,要求司法大數(shù)據(jù)和法律人工智能建設限制在法律基本原則和制定法框架內,同時最大限度體現(xiàn)出程序正義原則。

    智能時代的到來導致近代以來的權力制約、權利保障機制陷入困境和危機。①(33)①參見馬長山:《智慧社會背景下的“第四代人權”及其保障》,載《中國法學》2019年第5期,第5-8頁。然而私權利遵循“法不禁止即可為”,公權力遵循“法無授權即禁止”,仍然是一種法學常識,其理論有效性自不待言。在司法大數(shù)據(jù)和法律人工智能問題上,公權力主導下的“權力-權利”雙主體平等參與模式的實現(xiàn),要以私權利的充分參與為前提,以公權力的謙抑性為保障。在大數(shù)據(jù)偵查問題上,實現(xiàn)既維護高效偵查又尊重個人信息數(shù)據(jù)權,就是要將偵查機關的大數(shù)據(jù)偵查納入比例原則規(guī)制下的法治秩序中,實現(xiàn)偵查主體“自我約束”式的“程序克制”。國家權力作為一種“必要的惡”,既能為共同體帶來利益,同時也是一種威脅公民自由的力量。如無必要,則不能增加權力,②(34)②參見[英]卡爾·波普爾:《猜想與反駁:科學知識的增長》,上海譯文出版社1986年版,第499-500頁。這是權力謙抑性的重要體現(xiàn)。針對審判權的嬗變和司法行政權的擴張,公權力主導下的“權力-權利”雙主體平等參與模式要求對公權力主體進行約束,更重要的是為訴訟參與人等私權利主體開辟參與司法大數(shù)據(jù)和法律人工智能的渠道。

    五、結語

    “世界上的一切法權都是由斗爭而獲得的”。③(35)③耶林:《為權利而斗爭》,鄭永流譯,商務印書館2016年版,第2頁。在權利沖突中保衛(wèi)自身的正當權利需要用訴訟等方式進行斗爭獲得。在“權力-權利”沖突中,私權利的保障同樣需要通過斗爭來實現(xiàn),只不過這種斗爭是一種思維和觀念層面的斗爭,需要通過努力凝聚社會共同體內部的共識來實現(xiàn)。我國的司法大數(shù)據(jù)與法律人工智能所體現(xiàn)出的唯公權力化傾向,既源于我國權力本位思想的沉疴,也歸因于司法大數(shù)據(jù)和法律人工智能在建設過程中的私權利參與不充分。司法大數(shù)據(jù)和法律人工智能的“權力-權利”沖突所造成的公權力膨脹、私權利收縮無不傷害著共同體的“法治共識”,導致正義的天平發(fā)生傾斜。對司法大數(shù)據(jù)和法律人工智能唯公權力化傾向的糾偏,就是要將司法大數(shù)據(jù)和法律人工智能的發(fā)展路徑引向公權力主導下的“權力-權利”雙主體平等參與模式,從而克服權力本位理念,有效保障私權利主體的利益。

    猜你喜歡
    主體人工智能法律
    論自然人破產法的適用主體
    南大法學(2021年3期)2021-08-13 09:22:32
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    IT經理世界(2018年20期)2018-10-24 02:38:24
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    關于遺產保護主體的思考
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻血”質疑聲背后的法律困惑
    論多元主體的生成
    毛片女人毛片| 两个人的视频大全免费| 国产精品久久久av美女十八| 久久久成人免费电影| 国产精品女同一区二区软件 | 亚洲午夜精品一区,二区,三区| 每晚都被弄得嗷嗷叫到高潮| 天堂动漫精品| 久久久色成人| 精品一区二区三区av网在线观看| 熟女电影av网| 一进一出好大好爽视频| 欧美黑人巨大hd| 国产成人欧美在线观看| 一级毛片女人18水好多| 日本黄大片高清| 国产精品一及| 中亚洲国语对白在线视频| 少妇的丰满在线观看| 成人精品一区二区免费| 午夜视频精品福利| 亚洲熟妇熟女久久| 久99久视频精品免费| 国产高清三级在线| 女同久久另类99精品国产91| 欧美午夜高清在线| 高清毛片免费观看视频网站| 男女那种视频在线观看| 麻豆成人av在线观看| 日韩成人在线观看一区二区三区| 亚洲精品中文字幕一二三四区| 久久久久性生活片| 欧美日韩国产亚洲二区| 搡老岳熟女国产| 黄频高清免费视频| 国产97色在线日韩免费| 欧美日韩瑟瑟在线播放| 热99在线观看视频| 国模一区二区三区四区视频 | www.999成人在线观看| 日韩高清综合在线| 国产又黄又爽又无遮挡在线| 亚洲电影在线观看av| 精品国产美女av久久久久小说| 亚洲黑人精品在线| 99久久成人亚洲精品观看| 老熟妇乱子伦视频在线观看| 精品久久久久久久毛片微露脸| 给我免费播放毛片高清在线观看| 人妻丰满熟妇av一区二区三区| 亚洲人成网站在线播放欧美日韩| av中文乱码字幕在线| 日韩欧美一区二区三区在线观看| 中文在线观看免费www的网站| 免费搜索国产男女视频| 夜夜夜夜夜久久久久| 欧美国产日韩亚洲一区| 欧美大码av| 黑人操中国人逼视频| 国产精品一区二区精品视频观看| 人妻夜夜爽99麻豆av| 午夜视频精品福利| 无遮挡黄片免费观看| 18禁国产床啪视频网站| 露出奶头的视频| 天堂√8在线中文| 一进一出好大好爽视频| 午夜福利免费观看在线| 嫩草影院精品99| 91在线精品国自产拍蜜月 | 日韩 欧美 亚洲 中文字幕| 久久精品夜夜夜夜夜久久蜜豆| 在线观看一区二区三区| 亚洲片人在线观看| 日韩成人在线观看一区二区三区| 午夜免费观看网址| 天堂动漫精品| 91在线精品国自产拍蜜月 | 好男人在线观看高清免费视频| 亚洲欧洲精品一区二区精品久久久| 亚洲最大成人中文| 欧美激情久久久久久爽电影| 夜夜夜夜夜久久久久| 身体一侧抽搐| 免费av不卡在线播放| 好看av亚洲va欧美ⅴa在| 国产高清三级在线| 在线观看舔阴道视频| 白带黄色成豆腐渣| 国产午夜福利久久久久久| 午夜视频精品福利| 午夜福利18| 日韩欧美三级三区| 一个人免费在线观看电影 | 精品国内亚洲2022精品成人| 夜夜躁狠狠躁天天躁| 少妇熟女aⅴ在线视频| 午夜福利高清视频| 精品国产美女av久久久久小说| 床上黄色一级片| 最近在线观看免费完整版| 久久久精品大字幕| 女人高潮潮喷娇喘18禁视频| 男女之事视频高清在线观看| 99热这里只有精品一区 | 女生性感内裤真人,穿戴方法视频| 最近在线观看免费完整版| 小蜜桃在线观看免费完整版高清| 男人舔女人下体高潮全视频| 午夜精品在线福利| 国产精品亚洲美女久久久| 美女午夜性视频免费| 国产成人精品无人区| 欧美中文综合在线视频| 亚洲中文字幕日韩| 国产av不卡久久| 在线免费观看不下载黄p国产 | 亚洲七黄色美女视频| 国产久久久一区二区三区| 亚洲熟女毛片儿| 亚洲精品粉嫩美女一区| 精品久久蜜臀av无| 一区二区三区激情视频| 嫩草影院精品99| 成熟少妇高潮喷水视频| 不卡一级毛片| 亚洲性夜色夜夜综合| 夜夜夜夜夜久久久久| 欧美激情久久久久久爽电影| 国产精品一区二区三区四区久久| 麻豆成人午夜福利视频| 久久久久久久久中文| 国产男靠女视频免费网站| 欧美激情在线99| 高清在线国产一区| 999久久久精品免费观看国产| 亚洲国产欧洲综合997久久,| 久久久久性生活片| 亚洲人成网站在线播放欧美日韩| 国产精品自产拍在线观看55亚洲| 国产激情久久老熟女| 女同久久另类99精品国产91| 亚洲av电影在线进入| 久久久国产成人精品二区| 国产精品98久久久久久宅男小说| АⅤ资源中文在线天堂| 婷婷丁香在线五月| 国产极品精品免费视频能看的| 老汉色av国产亚洲站长工具| 亚洲成a人片在线一区二区| 免费看光身美女| 国产91精品成人一区二区三区| 1024手机看黄色片| 一个人看视频在线观看www免费 | 后天国语完整版免费观看| 一级毛片高清免费大全| 久久99热这里只有精品18| 久久午夜亚洲精品久久| 亚洲最大成人中文| 麻豆国产97在线/欧美| 国产亚洲欧美98| 婷婷亚洲欧美| 88av欧美| 啦啦啦免费观看视频1| 小蜜桃在线观看免费完整版高清| 日韩av在线大香蕉| 美女cb高潮喷水在线观看 | 亚洲精品美女久久av网站| av在线天堂中文字幕| 一本一本综合久久| 99久久成人亚洲精品观看| 欧美乱色亚洲激情| 国产爱豆传媒在线观看| 免费高清视频大片| 性色avwww在线观看| 人妻久久中文字幕网| 欧美绝顶高潮抽搐喷水| 日本黄色视频三级网站网址| 一a级毛片在线观看| 偷拍熟女少妇极品色| 无人区码免费观看不卡| 人妻丰满熟妇av一区二区三区| 亚洲 欧美 日韩 在线 免费| 国产免费av片在线观看野外av| 91久久精品国产一区二区成人 | 毛片女人毛片| 亚洲人成网站高清观看| 国产精品久久久久久久电影 | 日本免费一区二区三区高清不卡| 他把我摸到了高潮在线观看| 日本免费a在线| 免费看日本二区| 国产精品99久久久久久久久| 国产高清视频在线播放一区| 日本 av在线| 美女黄网站色视频| 日韩欧美免费精品| av女优亚洲男人天堂 | 男女床上黄色一级片免费看| 国产精华一区二区三区| 亚洲第一欧美日韩一区二区三区| 一个人看视频在线观看www免费 | 男人舔女人下体高潮全视频| 亚洲aⅴ乱码一区二区在线播放| 成年免费大片在线观看| 搡老熟女国产l中国老女人| 亚洲精品一区av在线观看| a级毛片a级免费在线| 麻豆国产av国片精品| 可以在线观看毛片的网站| 身体一侧抽搐| 亚洲av日韩精品久久久久久密| 国产成人aa在线观看| 99精品在免费线老司机午夜| 波多野结衣高清无吗| 啪啪无遮挡十八禁网站| 亚洲一区二区三区不卡视频| 国产一区二区激情短视频| 精品午夜福利视频在线观看一区| 1000部很黄的大片| 又大又爽又粗| 欧美绝顶高潮抽搐喷水| 亚洲中文av在线| 国产精品 欧美亚洲| 日本免费一区二区三区高清不卡| 欧美成人一区二区免费高清观看 | 国产精品av久久久久免费| 国产人伦9x9x在线观看| 国产精品久久久久久亚洲av鲁大| 男人和女人高潮做爰伦理| 国产伦在线观看视频一区| 在线免费观看的www视频| 久久久久性生活片| 国产一区二区三区视频了| 最近最新中文字幕大全免费视频| 少妇的逼水好多| 亚洲美女视频黄频| 很黄的视频免费| 国产亚洲精品久久久久久毛片| 一个人免费在线观看的高清视频| 亚洲av成人精品一区久久| www日本黄色视频网| 最近在线观看免费完整版| 老熟妇乱子伦视频在线观看| 少妇裸体淫交视频免费看高清| 久久热在线av| 99久久精品热视频| 精品午夜福利视频在线观看一区| 日韩精品青青久久久久久| 这个男人来自地球电影免费观看| 757午夜福利合集在线观看| 久久久水蜜桃国产精品网| 成人三级做爰电影| 国产av在哪里看| 嫁个100分男人电影在线观看| 亚洲av中文字字幕乱码综合| 亚洲av免费在线观看| 成人三级做爰电影| 成人三级黄色视频| 在线免费观看不下载黄p国产 | 99久久国产精品久久久| 国产99白浆流出| 91在线精品国自产拍蜜月 | 亚洲av成人不卡在线观看播放网| 久久性视频一级片| 手机成人av网站| 噜噜噜噜噜久久久久久91| 亚洲天堂国产精品一区在线| 91av网一区二区| 欧美日韩一级在线毛片| 一区二区三区激情视频| 久久久久国内视频| 国产精品99久久久久久久久| 欧美性猛交╳xxx乱大交人| 天堂网av新在线| 一a级毛片在线观看| 国产日本99.免费观看| 日韩中文字幕欧美一区二区| 最近最新中文字幕大全免费视频| 国产午夜精品论理片| 亚洲精品美女久久久久99蜜臀| 特大巨黑吊av在线直播| 男人舔女人的私密视频| 成人性生交大片免费视频hd| 熟女电影av网| 又大又爽又粗| 曰老女人黄片| 两个人视频免费观看高清| 一级毛片高清免费大全| 久久香蕉国产精品| 精品国产乱子伦一区二区三区| 九九久久精品国产亚洲av麻豆 | 成年女人看的毛片在线观看| 午夜福利在线观看吧| 无限看片的www在线观看| 九色成人免费人妻av| 色尼玛亚洲综合影院| 国产三级在线视频| 日韩有码中文字幕| 久久热在线av| 在线永久观看黄色视频| 国内久久婷婷六月综合欲色啪| 国产精品影院久久| 真人一进一出gif抽搐免费| 在线观看66精品国产| 国产精品精品国产色婷婷| 国内精品久久久久精免费| 国产高清激情床上av| 免费在线观看成人毛片| 亚洲精品在线观看二区| 亚洲欧美激情综合另类| 久久久久久九九精品二区国产| 黄片大片在线免费观看| 手机成人av网站| 观看美女的网站| 国产亚洲精品综合一区在线观看| 国产精品日韩av在线免费观看| 亚洲av电影不卡..在线观看| 男人舔女人下体高潮全视频| 亚洲av电影不卡..在线观看| 一a级毛片在线观看| 国产成人欧美在线观看| 国语自产精品视频在线第100页| 国产精品,欧美在线| 国内精品久久久久久久电影| 国产免费男女视频| 男女做爰动态图高潮gif福利片| 18美女黄网站色大片免费观看| 免费观看精品视频网站| 亚洲国产精品999在线| 性色avwww在线观看| 午夜日韩欧美国产| 国内揄拍国产精品人妻在线| 欧美日韩福利视频一区二区| 特级一级黄色大片| 一进一出好大好爽视频| 无人区码免费观看不卡| 欧美日韩精品网址| 国产三级黄色录像| 熟女少妇亚洲综合色aaa.| 老汉色∧v一级毛片| 制服丝袜大香蕉在线| 天堂影院成人在线观看| 又粗又爽又猛毛片免费看| 麻豆av在线久日| 天堂av国产一区二区熟女人妻| 精品国产三级普通话版| 99国产精品一区二区蜜桃av| 91老司机精品| 老熟妇仑乱视频hdxx| 亚洲无线在线观看| 老司机午夜福利在线观看视频| 亚洲精品在线美女| 成在线人永久免费视频| 高清在线国产一区| 91字幕亚洲| 亚洲五月天丁香| 亚洲av成人一区二区三| 国产精品av视频在线免费观看| 最近在线观看免费完整版| 国产精品亚洲美女久久久| 99精品欧美一区二区三区四区| 女人被狂操c到高潮| 亚洲中文字幕日韩| 少妇裸体淫交视频免费看高清| 久久热在线av| 亚洲欧美日韩无卡精品| 禁无遮挡网站| 欧美激情久久久久久爽电影| 色综合站精品国产| 国产综合懂色| 18禁黄网站禁片免费观看直播| 国产97色在线日韩免费| 久久人人精品亚洲av| 免费在线观看亚洲国产| 在线视频色国产色| 国产激情久久老熟女| 久久精品夜夜夜夜夜久久蜜豆| 国产激情久久老熟女| 久久亚洲精品不卡| 久久伊人香网站| 一区福利在线观看| 成人18禁在线播放| 国产精品久久久久久精品电影| 精品久久久久久久久久久久久| 香蕉av资源在线| 精品久久久久久久久久久久久| 香蕉av资源在线| xxx96com| 亚洲精品美女久久久久99蜜臀| 免费观看精品视频网站| 淫秽高清视频在线观看| 老司机深夜福利视频在线观看| 90打野战视频偷拍视频| 亚洲自偷自拍图片 自拍| 香蕉丝袜av| 亚洲国产日韩欧美精品在线观看 | 国产真实乱freesex| 午夜视频精品福利| 两人在一起打扑克的视频| 国产男靠女视频免费网站| 首页视频小说图片口味搜索| 人人妻人人澡欧美一区二区| 人妻久久中文字幕网| 亚洲美女视频黄频| 99热这里只有是精品50| 国产精品一区二区三区四区久久| 国产激情欧美一区二区| 欧美性猛交╳xxx乱大交人| 特级一级黄色大片| 亚洲国产欧美一区二区综合| 国产黄片美女视频| 嫁个100分男人电影在线观看| 日本黄大片高清| 熟女人妻精品中文字幕| 女人高潮潮喷娇喘18禁视频| 亚洲av电影不卡..在线观看| 18禁国产床啪视频网站| 一级毛片精品| 舔av片在线| 搡老熟女国产l中国老女人| 51午夜福利影视在线观看| 老司机在亚洲福利影院| 午夜免费激情av| 悠悠久久av| 久久这里只有精品19| 国产av在哪里看| 99久国产av精品| 少妇丰满av| 天堂影院成人在线观看| 亚洲精品粉嫩美女一区| 成人永久免费在线观看视频| 久久久久久久精品吃奶| 亚洲专区国产一区二区| 香蕉国产在线看| 18禁观看日本| 午夜激情欧美在线| 欧美+亚洲+日韩+国产| 欧美3d第一页| 欧美av亚洲av综合av国产av| 欧美中文综合在线视频| 亚洲国产欧洲综合997久久,| 欧美日本视频| 午夜亚洲福利在线播放| av福利片在线观看| 成人av在线播放网站| 最好的美女福利视频网| 成人三级做爰电影| 岛国视频午夜一区免费看| 免费一级毛片在线播放高清视频| 欧美性猛交╳xxx乱大交人| 色老头精品视频在线观看| 99riav亚洲国产免费| 日韩欧美 国产精品| 精品久久久久久成人av| 午夜精品久久久久久毛片777| 国产毛片a区久久久久| 19禁男女啪啪无遮挡网站| 国产成人av激情在线播放| 久久久久久久久久黄片| 日本在线视频免费播放| 久久久国产欧美日韩av| 99久久国产精品久久久| 亚洲成人久久性| 日本一二三区视频观看| 国语自产精品视频在线第100页| 免费大片18禁| 91在线观看av| 亚洲av日韩精品久久久久久密| av欧美777| 夜夜夜夜夜久久久久| 男女午夜视频在线观看| 性欧美人与动物交配| 无遮挡黄片免费观看| 亚洲欧美精品综合久久99| 日本五十路高清| 欧美日韩一级在线毛片| 国产极品精品免费视频能看的| 国产精品久久久久久人妻精品电影| 亚洲国产欧美网| 人人妻,人人澡人人爽秒播| 日本 欧美在线| 亚洲av片天天在线观看| 97超视频在线观看视频| 亚洲成a人片在线一区二区| 国产高潮美女av| 男人和女人高潮做爰伦理| 午夜两性在线视频| 日韩高清综合在线| 午夜两性在线视频| 男插女下体视频免费在线播放| 午夜精品在线福利| 美女被艹到高潮喷水动态| 久久精品国产亚洲av香蕉五月| 麻豆av在线久日| 网址你懂的国产日韩在线| 久久中文字幕人妻熟女| 香蕉久久夜色| 国产高清视频在线观看网站| 婷婷六月久久综合丁香| 日本一二三区视频观看| 国产精品一区二区三区四区免费观看 | 久久精品aⅴ一区二区三区四区| 精品无人区乱码1区二区| 日韩欧美 国产精品| 桃红色精品国产亚洲av| 国产精品一区二区三区四区免费观看 | 国产精品电影一区二区三区| 宅男免费午夜| 久久久久性生活片| 国产伦在线观看视频一区| 久久久久久久午夜电影| 亚洲人成网站高清观看| 日韩欧美一区二区三区在线观看| 婷婷丁香在线五月| 亚洲成人中文字幕在线播放| 精品无人区乱码1区二区| 好男人电影高清在线观看| 青草久久国产| 全区人妻精品视频| 十八禁人妻一区二区| 一个人看的www免费观看视频| 欧美一区二区国产精品久久精品| 亚洲午夜理论影院| 国产黄色小视频在线观看| 在线十欧美十亚洲十日本专区| 欧美激情在线99| 免费在线观看影片大全网站| 免费看日本二区| 亚洲18禁久久av| 一个人看视频在线观看www免费 | 久久午夜综合久久蜜桃| 欧美性猛交╳xxx乱大交人| 女同久久另类99精品国产91| xxxwww97欧美| 久久久久久久久久黄片| 搞女人的毛片| 99在线视频只有这里精品首页| 日韩成人在线观看一区二区三区| 精品久久久久久久久久免费视频| 精品免费久久久久久久清纯| 国产极品精品免费视频能看的| 又爽又黄无遮挡网站| 中文字幕人妻丝袜一区二区| 欧美乱色亚洲激情| 亚洲欧美日韩高清专用| 中文字幕人成人乱码亚洲影| 中文字幕久久专区| 18禁美女被吸乳视频| 悠悠久久av| 熟女少妇亚洲综合色aaa.| 成年女人永久免费观看视频| 亚洲精品一卡2卡三卡4卡5卡| 午夜激情福利司机影院| 国产91精品成人一区二区三区| 欧美日韩国产亚洲二区| 亚洲色图 男人天堂 中文字幕| 天天躁狠狠躁夜夜躁狠狠躁| 啦啦啦观看免费观看视频高清| 成人午夜高清在线视频| 好男人电影高清在线观看| 在线播放国产精品三级| 噜噜噜噜噜久久久久久91| 亚洲熟女毛片儿| 欧美中文日本在线观看视频| 老汉色av国产亚洲站长工具| 老司机在亚洲福利影院| 欧美日韩一级在线毛片| 亚洲真实伦在线观看| 成人亚洲精品av一区二区| 校园春色视频在线观看| 欧美在线黄色| 久久午夜综合久久蜜桃| 国产黄a三级三级三级人| 中文资源天堂在线| 51午夜福利影视在线观看| 婷婷精品国产亚洲av| 欧美乱妇无乱码| 国产精品影院久久| 特大巨黑吊av在线直播| 他把我摸到了高潮在线观看| 中文字幕久久专区| 极品教师在线免费播放| 免费无遮挡裸体视频| 成年人黄色毛片网站| 国产午夜福利久久久久久| 中文字幕精品亚洲无线码一区| 村上凉子中文字幕在线| 国产精品 欧美亚洲| 一二三四社区在线视频社区8| netflix在线观看网站| 91久久精品国产一区二区成人 | 男女那种视频在线观看| 久久久久久大精品| 天天一区二区日本电影三级| 这个男人来自地球电影免费观看| 国产高潮美女av| 欧美中文日本在线观看视频| 丰满的人妻完整版| 高潮久久久久久久久久久不卡| 中文字幕熟女人妻在线| 日本熟妇午夜| 美女cb高潮喷水在线观看 | 99久久精品国产亚洲精品| 男人舔女人下体高潮全视频| 99热这里只有是精品50| 舔av片在线| 婷婷精品国产亚洲av| 精品一区二区三区视频在线 | 精品乱码久久久久久99久播| 美女被艹到高潮喷水动态| 18禁美女被吸乳视频| 日韩中文字幕欧美一区二区| 午夜激情福利司机影院| 国产精品香港三级国产av潘金莲|