• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論司法人工智能的正當(dāng)性證成與輔助性定位
    ——以法院審判為中心*

    2023-01-24 07:53:43
    關(guān)鍵詞:人工智能

    楊 洋

    (華東政法大學(xué) 法律學(xué)院,上海 201620)

    在我國(guó)司法實(shí)踐中,案多人少、類案不類判、司法審判效率低下等問題已成為司法改革鋒芒所向的“痼疾”。在厲行公開推行司法改革的同時(shí),人工智能憑借技術(shù)優(yōu)勢(shì),逐漸成為輔助司法活動(dòng)的利器。從“智慧法院”到“智能法官”的深入,司法人工智能的深度應(yīng)用不僅可以提高司法工作效率,而且有助于促成同案同判、實(shí)現(xiàn)司法公正。但是在科幻作品中,人工智能被描繪為擁有自主意識(shí)的真正主體,并成為在反烏托邦圖景中取代人類的“反派”。因此,盡管在現(xiàn)實(shí)中人工智能的發(fā)展遠(yuǎn)未發(fā)展到此階段,但人工智能的發(fā)展和應(yīng)用引發(fā)了人們對(duì)人工智能威脅人類生存的擔(dān)憂。那么,司法人工智能的正當(dāng)性應(yīng)如何證成,以及應(yīng)當(dāng)如何理解這一證成所蘊(yùn)涵的功能定位,成為了司法人工智能規(guī)模運(yùn)用所應(yīng)解決的前置性問題。

    一、司法人工智能的應(yīng)用前景

    (一)司法人工智能的域內(nèi)外應(yīng)用

    人工智能萌芽于上世紀(jì)五十年代,它在早期除開發(fā)輔助決策的專家系統(tǒng)外并未對(duì)司法實(shí)踐產(chǎn)生任何實(shí)質(zhì)影響。直到進(jìn)入21世紀(jì),以數(shù)字化的信息和知識(shí)為關(guān)鍵生產(chǎn)要素的數(shù)字經(jīng)濟(jì)的出現(xiàn),使得大數(shù)據(jù)、云計(jì)算和人工智能的規(guī)模運(yùn)用成為可能。在司法人工智能的應(yīng)用方面,美國(guó)是較早的先行者,特別是在保釋、量刑和假釋等刑事司法領(lǐng)域,法官已經(jīng)開始參考刑事風(fēng)險(xiǎn)評(píng)估工具做出司法裁決。2016年威斯康星州訴盧米斯一案正是美國(guó)司法人工智能應(yīng)用的一個(gè)縮影。初審法官以COMPAS(量刑輔助系統(tǒng))的再犯概率預(yù)測(cè)結(jié)果為依據(jù)作出對(duì)被告不利的量刑判決,上訴法院則進(jìn)一步確認(rèn)恰當(dāng)使用COMPAS系統(tǒng)并未侵犯被告的正當(dāng)程序權(quán)利,反而有助于提高裁判結(jié)果的精確性,可以幫助法官做出更好的判決。[1]雖然美國(guó)司法當(dāng)局對(duì)法官運(yùn)用人工智能技術(shù)進(jìn)行司法裁判的立場(chǎng)持有默許的態(tài)度,但事后的研究表明,非裔美國(guó)人更容易被COMPAS系統(tǒng)判定為重復(fù)犯罪的高危人群,部分原因在于該系統(tǒng)內(nèi)部用于訓(xùn)練機(jī)器學(xué)習(xí)算法的數(shù)據(jù)集帶有一定的種族偏見。①也就是說,法院或許可以正當(dāng)?shù)厥褂肅OMPAS系統(tǒng),但是操作COMPAS系統(tǒng)的人員卻不一定能夠無偏見地編寫、輸入數(shù)據(jù)。

    雖然其他(歐洲)國(guó)家也有探索人工智能與司法活動(dòng)相融合,但多數(shù)仍停留在學(xué)術(shù)研究層面。例如:英國(guó)的研究者積極倡導(dǎo)以大數(shù)據(jù)、人工智能為支撐,積極推進(jìn)家事審判改革,特別是對(duì)傳統(tǒng)司法審判方式進(jìn)行改革,旨在建設(shè)一個(gè)更具有調(diào)查性、無需律師參與的在線法院。[2]2016年,由倫敦大學(xué)、賓夕法尼亞大學(xué)和謝菲爾德大學(xué)共同研發(fā)的“人工智能法官”,對(duì)歐洲人權(quán)法院的584個(gè)案例進(jìn)行了模擬裁判,結(jié)果表明,高達(dá)79%的模擬裁判與人權(quán)法院最終裁判結(jié)果相一致。②實(shí)際上,在這種對(duì)司法人工智能相對(duì)審慎且普遍保守的立場(chǎng)背后,涌動(dòng)著一股強(qiáng)烈的反人工智能的情緒和態(tài)度,如已故著名科學(xué)家史蒂夫·霍金(Stephen Hawking)就曾提過“人工智能會(huì)導(dǎo)致人類滅亡”的觀點(diǎn)。[3]

    與域外相比,我國(guó)的人工智能雖然起步較晚,但發(fā)展迅速。政府對(duì)司法人工智能的發(fā)展投入了大量人力和物力,其發(fā)展速度與應(yīng)用前景遠(yuǎn)超其他國(guó)家。自2015年7月最高人民法院首次提出“智慧法院”概念再到人民法院信息化4.0版本的推出,我國(guó)在穩(wěn)步推進(jìn)司法人工智能的建設(shè)與發(fā)展的同時(shí),各級(jí)法院也在積極探索司法人工智能的應(yīng)用。2018年,杭州市西湖區(qū)人民法院率先嘗試“一個(gè)人的法庭”,標(biāo)志著法院人工智能時(shí)代的開啟,截至2019年12月全國(guó)各級(jí)法院均已開通移動(dòng)微法院。在諸多司法人工智能的應(yīng)用中,上海市高級(jí)人民法院所研究開發(fā)的“上海刑事案件智能輔助辦案系統(tǒng)”(簡(jiǎn)稱“206系統(tǒng)”)堪為典范:系統(tǒng)以人工智能技術(shù)為核心,讓機(jī)器像人類法官一樣學(xué)會(huì)識(shí)別、理解、分析、判斷證據(jù),發(fā)現(xiàn)證據(jù)的核心要點(diǎn),并根據(jù)證據(jù)規(guī)則判斷證據(jù)之間是否存在矛盾,從而實(shí)現(xiàn)逮捕條件審查、單一證據(jù)校驗(yàn)、證據(jù)鏈審查判斷、社會(huì)危險(xiǎn)性評(píng)估、類案推送以及量刑參考等功能。[4]

    盡管如此,司法人工智能的實(shí)際運(yùn)用仍處于尷尬境地。相關(guān)研究表明,人工智能系統(tǒng)在司法審判實(shí)踐中“遇冷”,沒有本質(zhì)性提高司法辦案效率,因?yàn)楹?jiǎn)易案件不需要使用人工智能系統(tǒng),而復(fù)雜疑難案件則往往不敢輕易使用該系統(tǒng)。[5]以常見的類案推送系統(tǒng)為例,其推送的類案不夠精確和全面,難以滿足法官辦案的需求,無法充分發(fā)揮類案的參照價(jià)值。[6]總之,雖然域內(nèi)外司法人工智能獲得了一定的發(fā)展,但當(dāng)前的應(yīng)用態(tài)勢(shì)仍趨向于保守甚或排斥。

    (二)司法人工智能的未來前景

    經(jīng)過半個(gè)多世紀(jì)的發(fā)展,當(dāng)代人工智能已表現(xiàn)出一定的“自主性”,深度參與人類的系列活動(dòng),乃至于人類的決策活動(dòng)之中。雖然人們常說“未來已來”,司法人工智能正在不斷加深對(duì)司法的影響力,但并不能就此看透其未來的發(fā)展前景。事實(shí)上,學(xué)術(shù)界對(duì)司法人工智能的發(fā)展前景存在一定爭(zhēng)議,并呈現(xiàn)為三幅不同的未來圖景。

    樂觀派對(duì)司法人工智能的未來圖景抱持一種憧憬的態(tài)度,并認(rèn)為人工智能能夠?qū)λ痉ú门挟a(chǎn)生主導(dǎo)性影響,進(jìn)而發(fā)展為可以取代人類法官的機(jī)器人法官。早在1981年,錢學(xué)森先生就提出過,人工智能技術(shù)能夠服務(wù)于法律并且其出色程度不亞于人類的觀點(diǎn)。[7]研究者認(rèn)為,通過人工智能法官進(jìn)行司法裁判的方案不僅是可行的,而且其司法表現(xiàn)可能比人類法官更為優(yōu)秀。[8]其理由是,各國(guó)司法體系都應(yīng)該盡最大努力控制和減少噪聲及偏見,采取人工智能算法技術(shù)代替判斷,限制法官的自由裁量權(quán)。[9]隨著司法人工智能發(fā)展“奇點(diǎn)”的出現(xiàn),未來將逐漸出現(xiàn)具有自主意識(shí)的通用人工智能,并由此催生出機(jī)器人承擔(dān)司法審判工作的智能人工司法體系。[10]

    悲觀派則傳達(dá)了截然不同的見解,出于對(duì)人工智能應(yīng)用的悲觀論調(diào),認(rèn)為應(yīng)禁止司法人工智能的未來應(yīng)用。例如:徐駿提出,人工智能用于司法裁判必然會(huì)削弱司法的自主權(quán)、消解司法的權(quán)威性、分化社會(huì)公眾的司法參與能力。[11]而且,司法人工智能的技術(shù)邏輯在數(shù)據(jù)、算法與結(jié)果層面等都存在足以使其斷裂的矛盾。[12]在這樣的邏輯之下,司法人工智能實(shí)際上并未對(duì)法學(xué)基礎(chǔ)理論、司法體系形成挑戰(zhàn)和沖擊,更不是人工智能法學(xué)的“元問題”。[13]

    更為中立的審慎派既不盲目樂觀,也非徹底悲觀,而是對(duì)司法人工智能的應(yīng)用前景表達(dá)出謹(jǐn)慎的態(tài)度,即認(rèn)為人工智能對(duì)司法裁判的影響是輔助性的,但機(jī)器人法官不能也不應(yīng)取代人類法官的司法審判職責(zé)。例如:季衛(wèi)東教授指出,基于司法的中立性和終局性,必須進(jìn)行辯論和證明方能產(chǎn)生公正合理的裁判結(jié)果,而人工智能勢(shì)必會(huì)壓縮司法程序與法律辯論的空間,使得我國(guó)原本薄弱的法律辯論和法律解釋變得更加無足輕重,因此人工智能只能作為輔助而非主導(dǎo)。[14]司法人工智能或許能促成司法的形式正義,卻極難實(shí)現(xiàn)實(shí)質(zhì)正義,因此機(jī)器人法官無法替代人類法官的裁判工作。[15]

    司法的功能在于客觀認(rèn)定事實(shí)、正確適用法律、及時(shí)解決糾紛并維護(hù)社會(huì)秩序,為人們社會(huì)生活的有序進(jìn)行提供穩(wěn)定的預(yù)期。人工智能的迅速發(fā)展可以為司法變革提供重要支持,有助于提高個(gè)案的裁判效率和準(zhǔn)確率,增強(qiáng)裁判結(jié)果的高度預(yù)見可能性和穩(wěn)定性。但是,當(dāng)前人工智能不僅仍處于非自主意識(shí)的弱人工智能階段,而且其司法應(yīng)用過程還存有一些制度障礙與質(zhì)疑,現(xiàn)實(shí)效果也不如預(yù)期。因此,不管對(duì)司法人工智能的未來前景持何種態(tài)度,都必須回應(yīng)一個(gè)根本性問題,即司法人工智能何以正當(dāng)?

    二、司法人工智能的正當(dāng)性證成

    (一)司法人工智能的正當(dāng)性爭(zhēng)議

    事實(shí)上,理論界對(duì)司法決策的正當(dāng)性問題的討論與爭(zhēng)議由來已久,并深刻地影響著司法人工智能的正當(dāng)性證成。很早之前,出于對(duì)司法實(shí)質(zhì)非理性(典型如“卡迪司法”)的反省,法律形式理性的理想范式為人工智能用于司法決策提供了強(qiáng)有力的智力支持。在馬克思·韋伯看來,現(xiàn)代社會(huì)法律的核心不是偏向于實(shí)現(xiàn)特殊個(gè)案的正義,而是極力促成整體意義上司法審判結(jié)果的合理可預(yù)測(cè)性。[16]也就是說,法官必須嚴(yán)格遵循同案同判的要求工作,徹底摒棄個(gè)人偏好,努力做到同等情況同等對(duì)待,類似情況類似對(duì)待。[17]只有這樣,人們才能依據(jù)法律規(guī)則從事行動(dòng),也會(huì)期望其他人依據(jù)法律規(guī)則與他們進(jìn)行良性互動(dòng),因此法律成為社會(huì)行動(dòng)者穩(wěn)定行動(dòng)期待的主要方式,社會(huì)秩序也得以建立與維持穩(wěn)定。[18]根據(jù)這一見解,相比于提高個(gè)案的審判準(zhǔn)確率而言,人工智能的價(jià)值意義更在于能夠形成具有高度預(yù)見性、穩(wěn)定性的司法審判結(jié)果,從而保障個(gè)人自由,促進(jìn)同案同判、類案類判、緩解案多人少的現(xiàn)實(shí)壓力,規(guī)范司法活動(dòng),樹立司法公信力。

    但是,這種形式理性的觀點(diǎn)遭到了不少批評(píng)。一種批評(píng)觀點(diǎn)指出,此種觀點(diǎn)過于強(qiáng)調(diào)形式化,卻對(duì)現(xiàn)實(shí)世界的實(shí)質(zhì)平等、特殊情況缺少關(guān)注。例如:哈貝馬斯就認(rèn)為,形式理性的缺陷在于只關(guān)注形式平等,卻對(duì)事實(shí)的不平等視而不見;現(xiàn)代法律不可能只有形式而沒有實(shí)質(zhì),而且現(xiàn)代國(guó)家的實(shí)證法顯然已包含諸多自然法的道德原則,其實(shí)質(zhì)化發(fā)展趨勢(shì)正是對(duì)法律過分形式化的應(yīng)激反應(yīng)。[19]法律是一門平衡的藝術(shù),其形式化與實(shí)質(zhì)化的緊張關(guān)系始終存在。自古以來,人們不斷尋求實(shí)質(zhì)正義與形式正義的有效調(diào)合,但現(xiàn)實(shí)中卻難以為繼,難以做到“魚與熊掌”兼得。我國(guó)傳統(tǒng)司法執(zhí)拗于實(shí)質(zhì)正義的實(shí)現(xiàn),應(yīng)盡量做到“情理法”的融合,因此形式理性的正當(dāng)性論據(jù)難以獲得普遍的認(rèn)同與接受。

    另一種批評(píng)意見則認(rèn)為,司法主體的感性因素是司法裁判不可或缺的組成部分。法官在作出司法裁判時(shí),應(yīng)當(dāng)反復(fù)思考案件的利益、情感因素,特別是在刑事案件中需要在懲罰與憐憫之間反復(fù)考量。[20]法官必須做到飽含同理心、設(shè)身處地地傾聽法庭上各方的意見和建議,運(yùn)用自己的經(jīng)驗(yàn),形成自己的價(jià)值判斷,兼顧各方的利益乃至于照顧到情感因素,從而做出具有說服力的司法裁判。[21]尤其是在沒有明確法律條文的情況下,人類法官可以做出符合個(gè)案實(shí)質(zhì)正義的判決,畢竟“法律的生命在于經(jīng)驗(yàn),而非邏輯”[22]。因此,人們更期待,法官能傾聽各方主張,衡量各方利益訴求,進(jìn)而做出各方均能接受的司法裁判。

    然而,上述對(duì)形式理性之批判的見解,無法進(jìn)一步推導(dǎo)出對(duì)司法人工智能之正當(dāng)性的實(shí)質(zhì)理性論辯。很顯然,實(shí)質(zhì)理性所訴諸的人性或道德情感,仿似一把雙刃劍,雖然有助于矯治實(shí)證法的僵化和封閉、實(shí)現(xiàn)個(gè)案的實(shí)質(zhì)正義,但也可能成為司法裁判者任意操控案件的幫兇。[23]人無完人,其理性與認(rèn)知能力有限,法官同樣具備人性弱點(diǎn),可能因深藏于潛意識(shí)的認(rèn)知偏好或者偏見而扭曲司法裁判結(jié)果,或受諸如輿論壓力、政治、道德等因素的影響而偏離合理預(yù)期的審判結(jié)果。換言之,實(shí)質(zhì)理性很難為司法人工智能提供充分有據(jù)的正當(dāng)理由。

    (二)司法人工智能的正當(dāng)性證成:以輔助性為中心

    司法人工智能的正當(dāng)性并非不證自明,相反需要從法理上予以證成。但是,無論是形式理性,還是實(shí)質(zhì)理性的論據(jù)都差強(qiáng)人意,難以獲致普遍的共識(shí)。其部分原因在于,純粹的形式理性在不同法律文化語境中的結(jié)果與命運(yùn)殊異,而實(shí)質(zhì)理性的論據(jù)在通用人工智能問世之前,幾乎無法適用于司法人工智能的場(chǎng)景。因此,即使人們將其訴諸于平等、正義等價(jià)值,也會(huì)因?yàn)槠降取⒄x等價(jià)值的相對(duì)抽象性③而變得眾說紛紜。為此,尤金·沃洛克教授曾在法理上就司法人工智能的正當(dāng)性給出了一個(gè)相對(duì)簡(jiǎn)明的標(biāo)準(zhǔn):“我想提出一個(gè)簡(jiǎn)單而又恰當(dāng)?shù)臉?biāo)準(zhǔn),那就是以說服力作為對(duì)機(jī)器人法官審判是否優(yōu)于人類法官審判的標(biāo)準(zhǔn),卻無需考慮司法裁判結(jié)果是否正確與明智。這是因?yàn)樵谒痉▽徟兄胁粫?huì)存在唯一標(biāo)準(zhǔn)答案,勝訴的一方的任務(wù)是說服法官,但是勝訴一方卻無需證明自己的答案是正確的;同樣如此,當(dāng)我們判斷同一水平的機(jī)器人法官能否勝任人類法官,我們只需要比較誰的裁判更能說服評(píng)估者即可?!盵24]

    這一論點(diǎn)為司法人工智能的正當(dāng)性證成提供了一個(gè)別開生面的思路:既然司法裁判正當(dāng)性的重要判斷標(biāo)準(zhǔn)是裁判的說服力,那么它總是相對(duì)于聽眾或當(dāng)事人而言,因而符合法律論辯理性的要求。從理想的法律實(shí)踐論辯來看,它不應(yīng)僅停留在法官與當(dāng)事人或聽眾之間的對(duì)話與交流,而且也應(yīng)成為理想法官與現(xiàn)實(shí)法官之間的互動(dòng)與辯駁。傳統(tǒng)上,法官與法官之間存在可能的對(duì)話,但多數(shù)是通過不同審級(jí)之間的互動(dòng)與監(jiān)督而實(shí)現(xiàn)的。然而,不同審級(jí)之間的法官都是獨(dú)立的職責(zé)主體,其裁判的結(jié)果并不單純依賴裁判的說服力;與之相反,引入司法人工智能并賦予其輔助性的地位,不僅更有助于提升法官裁判的說服力,而且也更接近于論辯理性的理想。

    首先,從法律實(shí)踐的論辯性質(zhì)來看,法律的真理是體系性的,應(yīng)當(dāng)在“作為整全”的法律觀中展現(xiàn)出“最佳樣態(tài)”(in the best light)[25]。任何法官在進(jìn)行裁判時(shí),不僅應(yīng)借助由法律解釋實(shí)現(xiàn)對(duì)待適用法律的體系化建構(gòu),而且還應(yīng)實(shí)現(xiàn)與龐大的司法案例庫(kù),尤其是與指導(dǎo)性案例的體系融貫。司法人工智能借助龐大的司法數(shù)據(jù)資源,不僅可以及時(shí)推送適用于待解決案件的法律規(guī)范和指導(dǎo)性案例,為體系化的建構(gòu)解釋奠定基礎(chǔ),而且還可以通過模擬的司法裁判結(jié)果為現(xiàn)實(shí)的司法裁判提供參照和校準(zhǔn)。司法人工智能的技術(shù)輔助將明顯改善我國(guó)司法實(shí)踐的理性論辯以及法律論證。

    其次,從理想的論辯來看,司法人工智能作為形式理性的典型化身,可以為現(xiàn)實(shí)的司法裁判提供富有說服力的論據(jù)形式。人工智能技術(shù)通過對(duì)司法案例的深度學(xué)習(xí)和相關(guān)性推理,所獲得的裁判結(jié)論將符合“同案同判”的機(jī)理,并具有“溢出”依法裁判之外的表征價(jià)值,亦即形式正義的可視化和可預(yù)期性的顯化[26]。基于形式正義的核心要求,任何與司法人工智能之模擬決策結(jié)果相一致的結(jié)論,都將具有初步證據(jù)的重要性或價(jià)值,成為法官依法裁判的衍生義務(wù)。因此,利用人工智能輔助法官裁判的措施,可以有效防止各種形式的區(qū)別對(duì)待,符合同等情形同等對(duì)待的形式正義要求。[27]

    再次,作為說理的形式,由司法人工智能所得出的無情感糾纏、具有高度可預(yù)見性且能夠滿足形式正義的基本要求、無明顯實(shí)質(zhì)不公的裁判結(jié)果,顯然可以大大減少對(duì)法官裁判結(jié)果的非理性質(zhì)疑,增強(qiáng)裁判結(jié)果的說服力。在司法實(shí)踐中,當(dāng)法官做出司法裁判,敗訴方通常會(huì)傾向于將結(jié)果的不利歸咎為法官的偏私或疏漏,即使司法裁判結(jié)果本身是公正的,也難免受到非理性的質(zhì)疑。在具體的個(gè)案中,如果可以把正義標(biāo)準(zhǔn)細(xì)化為裁判的可接受性,即使人們認(rèn)為個(gè)別化審理才能夠擺脫規(guī)則的暴政并使得當(dāng)事人感受到自己被尊重與被理解[28],但任何一個(gè)能夠使當(dāng)事人心悅誠(chéng)服接受的裁判結(jié)果,不管其來源如何,均意味著當(dāng)事人感受到自己被公平而非區(qū)別對(duì)待,司法的正當(dāng)性便可由此得以證成。

    最后,在現(xiàn)階段,技術(shù)輔助性還意味著,司法人工智能無法支持像人類法官一樣思考、推理、解釋,懂得人情,擁有直覺式的經(jīng)驗(yàn)判斷,距離尤金·沃洛克教授所設(shè)想的可以“像人一樣思考和交流”的發(fā)展?fàn)顟B(tài)尚有不小差距。一方面,目前人工智能技術(shù)仍處于弱人工智能階段,司法人工智能當(dāng)前尚無法識(shí)別、理解復(fù)雜的疑難案件,無法考慮倫理道德、生活經(jīng)驗(yàn),也無法進(jìn)行復(fù)雜的法律推理和證明。[29]過度形式化也會(huì)造成缺少人性關(guān)懷,對(duì)生活世界形成過度“殖民”。以昆山反殺案為例,在嚴(yán)格依據(jù)法理的情況下,我們認(rèn)定劉海龍的行為屬于防衛(wèi)過當(dāng),需要承擔(dān)刑事責(zé)任。但是我們仔細(xì)考慮當(dāng)時(shí)的情況,從劉海龍作為受害者的角度上考慮,再考慮到加害者的主觀惡性如此之大,兼顧到法外之情、人倫關(guān)懷,綜上我們不能如此嚴(yán)苛地認(rèn)定劉海龍的行為屬于防衛(wèi)過當(dāng)。因此,它極有可能做出表面符合形式正義、卻無法滿足實(shí)質(zhì)正義的司法裁判。另一方面,司法人工智能“黑箱”問題并非是人工智能技術(shù)背景下的特定問題與缺陷,而是人工智能技術(shù)的適應(yīng)性發(fā)展,其在效率層面上的價(jià)值恰恰為其作用的空間提供了適合的場(chǎng)域。[30]因此,人們對(duì)司法人工智能的信任不足,將導(dǎo)致即使它成為一個(gè)具有自主意識(shí)的理性主體,也難以獲得主導(dǎo)性的裁判地位。

    總之,輔助性的定位為司法人工智能的正當(dāng)性提供了更為現(xiàn)實(shí)且充分的證成。人工智能不僅擅長(zhǎng)對(duì)司法大數(shù)據(jù)進(jìn)行全面分析和處理,而且可以利用全量經(jīng)驗(yàn)進(jìn)行歸納推理,為法官提供更為全面、客觀的案例、信息和視野,以幫助法官作出更加具有說服力和可接受性的判決。[31]事實(shí)上,目前人工智能已經(jīng)在案例檢索、電子卷宗自動(dòng)生成、類案推送、證據(jù)鑒定、法律問答機(jī)器人、提出量刑輔助建議、草擬裁判文書等方面扮演著極為重要的輔助性角色。

    三、司法人工智能的輔助性定位與應(yīng)用范圍

    我國(guó)之所以如此重視與強(qiáng)調(diào)司法人工智能的建設(shè),這正是因?yàn)槿斯ぶ悄艿莫?dú)特價(jià)值和重要作用。人工智能技術(shù)與司法的緊密結(jié)合是我國(guó)司法發(fā)展趨勢(shì),但是同樣不能忽視的是司法人工智能的應(yīng)用與發(fā)展面臨著諸如算法黑箱、倫理風(fēng)險(xiǎn)等問題。事實(shí)上,現(xiàn)實(shí)中并不存在完美的人工智能算法系統(tǒng),在實(shí)際的運(yùn)行過程中,依舊存在諸如算法錯(cuò)誤、算法不能、算法差異、算法歧視等問題。就目前司法實(shí)踐現(xiàn)狀而言,由于存在大數(shù)據(jù)、算法上的技術(shù)限制,再加上對(duì)于過度形式化的警惕,人工智能的作用必然也會(huì)受到不同程度的制約,因此,需要客觀理智地分析與研判其具體的應(yīng)用范圍,筆者將其角色定位于輔助性,具體包括司法的自動(dòng)流程化管理和輔助司法決策兩個(gè)方面。

    (一)司法的自動(dòng)化流程管理

    目前我國(guó)訴訟量暴增的現(xiàn)狀困擾了不少法官,大量重復(fù)性、格式化、操作困難的工作正在消耗著司法工作人員大量的時(shí)間和精力。2021年最高人民法院工作報(bào)告顯示,2021年全國(guó)法官人均辦案238件。案件數(shù)量飛速增加,高強(qiáng)度的工作量讓法官難堪重壓,甚至導(dǎo)致法官不斷流失。因此,亟需通過科學(xué)技術(shù)手段進(jìn)一步解放生產(chǎn)力,提高司法審判效率,減輕司法工作人員的身體和精神上的雙重負(fù)擔(dān)。

    首先,人工智能在司法數(shù)據(jù)的篩選、收集、辨別、分析等方面極為高效,并且人工智能系統(tǒng)可以不知疲倦地高效運(yùn)行。當(dāng)法官面對(duì)龐大的信息、法律法規(guī)、案例、證據(jù)鑒別以及法律文書生成等事項(xiàng)時(shí),人工智能輔助系統(tǒng)可以幫助法官?gòu)默嵥樾?、基礎(chǔ)性、格式化的工作中解脫出來,既能夠大大減輕法官的工作負(fù)擔(dān)又能夠提高司法裁判的準(zhǔn)確率,促使法官將有限的時(shí)間和精力放在更為重要、難以替代的法律推理、法律解釋方面。

    其次,基于裁判文書、法律法規(guī)等數(shù)據(jù)庫(kù),人工智能所提供的信息和知識(shí)遠(yuǎn)遠(yuǎn)超過法官自身所擁有的儲(chǔ)備,從而幫助啟發(fā)、開拓法官司法審判的思路,有利于法官?gòu)亩嘟嵌群透鞣矫嫠伎挤蓡栴}、進(jìn)行法律推理和法律解釋。假設(shè)法官的裁判過多地偏離了人工智能系統(tǒng)所預(yù)測(cè)的結(jié)果,系統(tǒng)就會(huì)對(duì)可能出現(xiàn)的錯(cuò)誤進(jìn)行有效提示,促使法官重新思考,更為慎重對(duì)待自己的司法裁判,思考是否存在疏忽或者遺漏的方面。以上海市法院為例,當(dāng)法官寫好裁判書放進(jìn)上海刑事案件智能輔助辦案系統(tǒng)時(shí),如果該裁判和本院以及上級(jí)人民法院85%以上的類似案件的裁判存在不一致的情況,系統(tǒng)會(huì)提示法官是否仍然堅(jiān)持該裁判,如果法官仍然堅(jiān)持,系統(tǒng)就會(huì)把該裁判文書傳送給庭長(zhǎng)進(jìn)行審核。[32]

    最后,人工智能以中立、客觀的立場(chǎng)監(jiān)督司法活動(dòng),把可視化工具應(yīng)用于審判流程之中,人工智能司法系統(tǒng)能夠動(dòng)態(tài)監(jiān)控全部的審判活動(dòng),監(jiān)控和制約整個(gè)訴訟過程中的每一個(gè)環(huán)節(jié)、每一個(gè)節(jié)點(diǎn)、每一個(gè)崗位以及每個(gè)人員的行為。[33]可以這么說,相比與傳統(tǒng)的訴訟活動(dòng),線上辦案、電子化卷宗使得法官的一切審判活動(dòng)都在人工智能司法輔助系統(tǒng)上留下了數(shù)字痕跡,整個(gè)辦案程序變得更加公開與透明,同時(shí)也逼迫法官更加嚴(yán)格地規(guī)范自身的審判行為,避免人為因素的干擾。例如:浙江省各級(jí)法院在審判信息系統(tǒng)中納入“四類案件”的全流程在線監(jiān)管模塊,既采用節(jié)點(diǎn)控制,實(shí)現(xiàn)有效監(jiān)管;又在人工智能系統(tǒng)的權(quán)限控制之下,以清單的形式對(duì)不同監(jiān)管層級(jí)的行使權(quán)力的主體予以不同的操作權(quán)限,并且制定權(quán)力行使的負(fù)面清單,從而嚴(yán)格規(guī)范權(quán)力形式的邊界;甚至可以隨時(shí)生成監(jiān)管日志,實(shí)現(xiàn)全過程的線上留痕。④

    (二)輔助司法決策

    一方面,人工智能有利于促進(jìn)同案同判、類案類判,統(tǒng)一司法裁判規(guī)則,樹立司法公正的新標(biāo)準(zhǔn)。由于地區(qū)標(biāo)準(zhǔn)不合理的差異、審判人員專業(yè)水平等原因,我國(guó)各級(jí)法院長(zhǎng)期存在案件主要事實(shí)相同或者相似,但是卻出現(xiàn)截然不同的司法裁判的情況,這極大地?fù)p害了司法公正性和司法權(quán)威性。正如學(xué)者指出司法判決中充斥著各種噪聲,“同罪不同罰”是不公平的,在司法系統(tǒng)中,如果相關(guān)人員的專業(yè)判斷缺乏一致性,那么司法系統(tǒng)就會(huì)失去公信力。而人工智能可以有效敦促法官在作出司法判決前對(duì)已有司法裁判進(jìn)行參考,尊重前案的裁判結(jié)果,一旦兩件案子被人工智能認(rèn)定為具有法律意義上的同案或者類案,法官就得有理由地把適用于前案的法律規(guī)則同樣適用于后案,予以相同或者相似的法律效果。[34]但是需要注意的是,基于現(xiàn)有技術(shù)上的限制、數(shù)據(jù)不全面以及人工智能對(duì)復(fù)雜案件的理解局限,導(dǎo)致現(xiàn)有的類案推送系統(tǒng)還無法全面和精準(zhǔn)推送案件。此外,針對(duì)刑事案件中同類事實(shí)而不同罪名的情況,類案推送系統(tǒng)也無法全面地展現(xiàn)司法裁判中的不同觀點(diǎn),不僅降低了法官的體驗(yàn)感,甚至給法官帶來了困擾,在一定程度上限制了人工智能發(fā)揮同案同判、類案類判的功能。

    另一方面,人工智能還擁有強(qiáng)大的預(yù)測(cè)能力,人工智能系統(tǒng)可以通過大數(shù)據(jù)預(yù)測(cè)案件的裁判影響。這種預(yù)測(cè)行為并非意味著以預(yù)測(cè)結(jié)果為導(dǎo)向,而是以往司法審判中的法官們的集體經(jīng)驗(yàn)和整體理性,[35]因此,可以有效地改善法官的行為。美國(guó)學(xué)者通過研究發(fā)現(xiàn):機(jī)器學(xué)習(xí)擁有測(cè)驗(yàn)人類決策和行為的潛力,作為一種行為診斷,可以用于判斷法官為什么會(huì)做出錯(cuò)誤的預(yù)測(cè)。且算法的預(yù)測(cè)成績(jī)并不比人類法官的判斷差,甚至更為優(yōu)秀,一個(gè)構(gòu)建得當(dāng)?shù)乃惴ㄋ贸龅念A(yù)測(cè)顯然會(huì)改善法官的決定。[36]美國(guó)弗吉尼亞理工大學(xué)發(fā)現(xiàn)分析中心通過研究發(fā)現(xiàn):人工智能不僅可以用于描述個(gè)案的判決過程,還能預(yù)測(cè)最高法院的司法裁判,其預(yù)測(cè)準(zhǔn)確率高達(dá)79.46%,它甚至還能夠準(zhǔn)確找出不同法官之間的裁判立場(chǎng)與觀點(diǎn),確定其中的搖擺大法 官。⑤在運(yùn)用得當(dāng)?shù)那闆r下,人工智能系統(tǒng)有利于法官在處理案件時(shí)掌握更加充分、更加深入的信息與知識(shí),幫助法官擁有一個(gè)更加完整的視角,輔助司法決策。但是人工智能的預(yù)測(cè)行為也有其內(nèi)在限度。從機(jī)器學(xué)習(xí)算法的本質(zhì)上看,其實(shí)質(zhì)為基礎(chǔ)數(shù)學(xué)與科學(xué)問題,而非技術(shù)方面的問題。因此,在現(xiàn)實(shí)中,人工智能的預(yù)測(cè)行為應(yīng)當(dāng)首先建立在對(duì)世界有著較好的系統(tǒng)性呈現(xiàn)的基礎(chǔ)之上。⑥從個(gè)人數(shù)據(jù)保護(hù)方面看,人工智能的預(yù)測(cè)作用也有可能會(huì)偏離最初的目的,甚至可能會(huì)破壞公正審判原則。因?yàn)轭A(yù)測(cè)行為似乎意味著以預(yù)測(cè)結(jié)果為導(dǎo)向,當(dāng)事人與律師利用人工智能算法來描繪出法官的個(gè)人畫像,例如法官的政治傾向、宗教信仰等,從而預(yù)測(cè)是否可能得到更高的違約金與損害賠償金,導(dǎo)致當(dāng)事人與律師采取選擇訴訟策略。這一問題在美國(guó)事實(shí)上已經(jīng)存在。

    四、結(jié)語

    我國(guó)在推進(jìn)司法審判改革的過程中,對(duì)人工智能的重視程度日益加深,以開放的姿態(tài)積極推進(jìn)人工智能與司法的有效結(jié)合,促進(jìn)司法審判活動(dòng)的高效運(yùn)行與司法功能的實(shí)現(xiàn)。本文描述人工智能在域內(nèi)外司法審判實(shí)踐中的應(yīng)用現(xiàn)狀,總結(jié)了司法人工智能發(fā)展的理論爭(zhēng)議,特別從法律實(shí)踐的論辯性質(zhì)、理想的論辯和說理的形式等三個(gè)層面對(duì)司法人工智能的正當(dāng)性進(jìn)行思考和證成,并且把人工智能的功能定位于輔助司法的自動(dòng)化流程管理、司法決策層面。需要說明的一點(diǎn)是,本文的討論無意夸大人工智能運(yùn)用于司法審判中發(fā)揮的現(xiàn)有以及潛在的作用,仍然將其定位于輔助性的角色,人工智能技術(shù)在司法實(shí)踐中的進(jìn)一步應(yīng)用和發(fā)展,有待于其本身技術(shù)的突破以及更多對(duì)司法人工智能的探討。

    注釋:

    ① 這或許意味著,COMPAS系統(tǒng)的設(shè)計(jì)者未能公正無偏地編寫程序、輸入數(shù)據(jù),相關(guān)系統(tǒng)可能早已嵌入特定的種族偏見。參見郭銳.未來人工智能在司法領(lǐng)域中的應(yīng)用與倫理風(fēng)險(xiǎn)[EB/OL].(2020-09-17) [2022-05-05].https://mp.weixin.qq.com/s/Nkz4WcTHQF5NMY4YOWiwg.

    ② HYACINTH MASCARENHAS.New Artificial Intelligence 'judge' can predict the outcome of human rights trials[EB/OL].(2016-10-24)[2022-05-05]. https://www.ibtimes.co.uk/new-artificial-intelligence-judge-can-predictoutcome-human-rights-trials-1587938.

    ③ 正義究竟是什么,或許難以回答。博登海默將其形象地形容為像一張普羅透斯的臉,是變幻多端的。參見E.博登海默.法理學(xué)——法哲學(xué)及其方法[M].鄧正來,譯.北京:華夏出版社,1987:238.

    ④ 最高人民法院.浙江省高級(jí)人民法院制度建設(shè)和科技創(chuàng)新雙管齊下完善“四類案件”全流程在線監(jiān)督管理體 系[EB/OL].(2020-07-19)[2022-05-10].http://www.rmfyb. com/paper/html/2020-07/19/content_170265.htm.

    ⑤ MOHAMMAD RAILHANUL ISLAM, K.S.M.TOZAMMEL HOSSAIN, SIDDHARTH KRISHNANl.What AI can tell us about the U.S.Supreme Court[EB/OL].(2016-05-06) [2022-05-10].https://cacm.acm.org/news/199820-whatai-can-tell-s-about-the-s-supreme-court/fulltext.

    ⑥ 郭銳.未來人工智能在司法領(lǐng)域中的應(yīng)用與倫理風(fēng)險(xiǎn)[EB/OL].(2020-09-22)[2022-05-10].https://mp. weixin.qq.com/s/-zxbpT9LEAL1OUoLygNTjw.

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    汽車零部件(2020年3期)2020-03-27 05:30:20
    當(dāng)人工智能遇見再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動(dòng)化控制
    人工智能,來了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來了
    欧美人与善性xxx| 成人综合一区亚洲| 精品无人区乱码1区二区| ponron亚洲| 天天躁夜夜躁狠狠久久av| 日韩欧美精品v在线| 亚洲欧美日韩无卡精品| 日本五十路高清| 白带黄色成豆腐渣| 一个人看的www免费观看视频| 永久网站在线| 成人av一区二区三区在线看| 欧美激情国产日韩精品一区| 久久亚洲国产成人精品v| 黄色一级大片看看| 成人亚洲欧美一区二区av| 黄色日韩在线| 国产精品久久久久久久电影| 熟女电影av网| 精品不卡国产一区二区三区| 一级黄色大片毛片| 国产熟女欧美一区二区| 男女啪啪激烈高潮av片| 最新中文字幕久久久久| 丰满乱子伦码专区| 成人无遮挡网站| 久久国内精品自在自线图片| 一本一本综合久久| 久久久久九九精品影院| a级毛色黄片| 国产激情偷乱视频一区二区| 人人妻人人澡人人爽人人夜夜 | 精品午夜福利视频在线观看一区| 美女 人体艺术 gogo| 亚洲精品久久国产高清桃花| 国产欧美日韩一区二区精品| 精品午夜福利视频在线观看一区| 国产伦精品一区二区三区四那| 国产探花极品一区二区| 日本-黄色视频高清免费观看| 色在线成人网| www.色视频.com| 亚洲精品粉嫩美女一区| 日韩欧美精品免费久久| 国产美女午夜福利| 精品久久久久久久久久久久久| 尾随美女入室| 一级黄色大片毛片| 久久人人精品亚洲av| 国产成年人精品一区二区| 日韩欧美免费精品| 一本久久中文字幕| 美女cb高潮喷水在线观看| 久久草成人影院| 99精品在免费线老司机午夜| 伊人久久精品亚洲午夜| 夜夜看夜夜爽夜夜摸| 日日啪夜夜撸| 国产精品国产三级国产av玫瑰| 乱人视频在线观看| 日本一二三区视频观看| 又爽又黄无遮挡网站| 亚洲av成人精品一区久久| 久久鲁丝午夜福利片| 成人毛片a级毛片在线播放| 在线观看一区二区三区| 亚洲内射少妇av| av视频在线观看入口| 精品一区二区三区视频在线| 老司机福利观看| 精品久久久久久久久久免费视频| 别揉我奶头 嗯啊视频| 日韩欧美在线乱码| 国产亚洲精品久久久久久毛片| 日日啪夜夜撸| 亚洲国产欧洲综合997久久,| 岛国在线免费视频观看| 国产黄色视频一区二区在线观看 | 国产一区二区激情短视频| 亚洲国产精品成人综合色| 国产成人aa在线观看| 国产精品永久免费网站| 成人永久免费在线观看视频| 日本黄大片高清| 国产蜜桃级精品一区二区三区| 欧美性感艳星| 国内精品宾馆在线| 一级av片app| 日韩欧美国产在线观看| 一级av片app| 国产精品一二三区在线看| 18禁裸乳无遮挡免费网站照片| 国产一区二区三区在线臀色熟女| 天堂动漫精品| 成人国产麻豆网| 五月玫瑰六月丁香| 日韩欧美精品v在线| 一进一出抽搐gif免费好疼| 国内少妇人妻偷人精品xxx网站| 在线观看一区二区三区| 91久久精品国产一区二区三区| 麻豆国产av国片精品| 亚洲图色成人| 欧美激情久久久久久爽电影| 亚洲av中文av极速乱| 一区福利在线观看| 狠狠狠狠99中文字幕| 国产视频内射| 99精品在免费线老司机午夜| 女同久久另类99精品国产91| 久久久成人免费电影| 午夜亚洲福利在线播放| videossex国产| 97超级碰碰碰精品色视频在线观看| 丝袜喷水一区| 欧美激情久久久久久爽电影| 婷婷精品国产亚洲av在线| av天堂在线播放| 亚洲真实伦在线观看| 国产亚洲91精品色在线| 日本爱情动作片www.在线观看 | 成人亚洲欧美一区二区av| 成年女人看的毛片在线观看| 欧美日本亚洲视频在线播放| 色哟哟·www| 免费搜索国产男女视频| 99久久精品国产国产毛片| 久99久视频精品免费| 一卡2卡三卡四卡精品乱码亚洲| 亚洲第一电影网av| 国产色婷婷99| 成年版毛片免费区| 三级经典国产精品| 人人妻,人人澡人人爽秒播| 久久精品夜夜夜夜夜久久蜜豆| 亚洲精品色激情综合| 我要看日韩黄色一级片| 男人和女人高潮做爰伦理| 国产v大片淫在线免费观看| 中文在线观看免费www的网站| 免费看光身美女| 22中文网久久字幕| 国产一区二区在线av高清观看| 精品人妻熟女av久视频| 久久久欧美国产精品| 91久久精品电影网| 香蕉av资源在线| 观看美女的网站| 日本黄色片子视频| 亚洲,欧美,日韩| 日韩欧美精品v在线| 国产男人的电影天堂91| 国产精品嫩草影院av在线观看| 十八禁国产超污无遮挡网站| 亚洲国产高清在线一区二区三| 丰满人妻一区二区三区视频av| 国产成人影院久久av| 国产综合懂色| 亚洲成人久久性| 精品久久国产蜜桃| 少妇人妻精品综合一区二区 | 日本黄色片子视频| 人妻丰满熟妇av一区二区三区| 插逼视频在线观看| 免费电影在线观看免费观看| 欧美日韩乱码在线| 国产视频内射| 亚洲av成人精品一区久久| 插逼视频在线观看| 99热只有精品国产| 国产精品嫩草影院av在线观看| 午夜精品国产一区二区电影 | 国产精品免费一区二区三区在线| 国产精品久久久久久av不卡| 干丝袜人妻中文字幕| 久久鲁丝午夜福利片| 精华霜和精华液先用哪个| 嫩草影院新地址| 成年女人毛片免费观看观看9| 别揉我奶头 嗯啊视频| 国产精品99久久久久久久久| 国产精品无大码| 综合色av麻豆| 18禁裸乳无遮挡免费网站照片| 成年免费大片在线观看| 国产精品永久免费网站| 日韩,欧美,国产一区二区三区 | 又爽又黄无遮挡网站| 国产精品不卡视频一区二区| 国产高潮美女av| 精品人妻视频免费看| 欧美一区二区国产精品久久精品| 久久久色成人| 久久精品国产亚洲av天美| 国产成人一区二区在线| 国产三级在线视频| 久久久久久国产a免费观看| 男人的好看免费观看在线视频| 国产69精品久久久久777片| 精品久久久久久久久久久久久| 国语自产精品视频在线第100页| av福利片在线观看| 亚洲激情五月婷婷啪啪| 国产精品1区2区在线观看.| 我的老师免费观看完整版| 白带黄色成豆腐渣| 最好的美女福利视频网| 国产黄a三级三级三级人| 国产蜜桃级精品一区二区三区| 亚洲国产欧美人成| 国产真实乱freesex| 免费观看精品视频网站| 亚洲一区二区三区色噜噜| 国产av不卡久久| 午夜福利视频1000在线观看| 国产高清三级在线| 欧美日韩一区二区视频在线观看视频在线 | 亚洲性夜色夜夜综合| 麻豆乱淫一区二区| 日韩在线高清观看一区二区三区| 国产精品久久久久久亚洲av鲁大| 精品久久国产蜜桃| 国产成人aa在线观看| 人人妻人人看人人澡| 最好的美女福利视频网| 女生性感内裤真人,穿戴方法视频| 99九九线精品视频在线观看视频| 日韩 亚洲 欧美在线| 亚洲av中文字字幕乱码综合| 99视频精品全部免费 在线| ponron亚洲| 十八禁网站免费在线| 国产精品久久视频播放| 校园春色视频在线观看| 中国美白少妇内射xxxbb| 97碰自拍视频| 亚洲内射少妇av| 久久久久九九精品影院| 淫妇啪啪啪对白视频| 国产精品亚洲一级av第二区| www日本黄色视频网| 一个人观看的视频www高清免费观看| 免费看av在线观看网站| 成人永久免费在线观看视频| 国产精品久久久久久亚洲av鲁大| av免费在线看不卡| 嫩草影院入口| 免费看日本二区| 久久久久久久久久成人| 国产精品综合久久久久久久免费| 色综合亚洲欧美另类图片| 18禁在线播放成人免费| 国产69精品久久久久777片| 色5月婷婷丁香| 国产精品福利在线免费观看| 国产成人福利小说| 精品欧美国产一区二区三| 国产 一区 欧美 日韩| 国产亚洲精品久久久久久毛片| 国产蜜桃级精品一区二区三区| 天天躁日日操中文字幕| 精品久久久久久久久久久久久| 精品福利观看| 久久久久久久久大av| 成人性生交大片免费视频hd| 国产精品一区二区免费欧美| 欧美日韩综合久久久久久| 精品午夜福利在线看| 国内精品宾馆在线| 午夜爱爱视频在线播放| 乱码一卡2卡4卡精品| 一级黄色大片毛片| 五月玫瑰六月丁香| 久久久久国内视频| 中文字幕人妻熟人妻熟丝袜美| 免费av不卡在线播放| 亚洲av成人av| 国产中年淑女户外野战色| 免费一级毛片在线播放高清视频| 亚洲精品在线观看二区| 一区二区三区四区激情视频 | 精品久久久久久久久久免费视频| 亚洲人成网站在线播放欧美日韩| 婷婷色综合大香蕉| 久久综合国产亚洲精品| 国产精品一二三区在线看| 人妻制服诱惑在线中文字幕| 久久99热这里只有精品18| 国产亚洲av嫩草精品影院| 中文字幕久久专区| 日本五十路高清| 国产一区二区三区在线臀色熟女| 秋霞在线观看毛片| 成人一区二区视频在线观看| 色哟哟哟哟哟哟| 国产一区二区在线av高清观看| 亚洲国产精品成人久久小说 | 观看免费一级毛片| 成年女人看的毛片在线观看| 亚洲国产欧洲综合997久久,| 欧美色视频一区免费| 午夜免费男女啪啪视频观看 | 乱系列少妇在线播放| 日韩成人伦理影院| 婷婷色综合大香蕉| 一本久久中文字幕| 日韩一区二区视频免费看| 亚洲精品在线观看二区| 男女之事视频高清在线观看| 别揉我奶头 嗯啊视频| 亚洲成人av在线免费| 最新中文字幕久久久久| 天天躁日日操中文字幕| 久久久久精品国产欧美久久久| .国产精品久久| av免费在线看不卡| 99久久精品国产国产毛片| 国产av麻豆久久久久久久| 久久国产乱子免费精品| 欧美zozozo另类| av在线老鸭窝| 身体一侧抽搐| 欧美性猛交黑人性爽| 日本三级黄在线观看| 亚洲国产日韩欧美精品在线观看| 此物有八面人人有两片| 观看美女的网站| 亚洲图色成人| 在线观看66精品国产| 国产欧美日韩精品亚洲av| 成人二区视频| 国产熟女欧美一区二区| 日本a在线网址| 国产午夜精品论理片| 亚洲无线在线观看| 天堂av国产一区二区熟女人妻| 久久人人爽人人爽人人片va| 亚洲av成人精品一区久久| 精品国内亚洲2022精品成人| 日韩三级伦理在线观看| 老女人水多毛片| 一进一出好大好爽视频| 日本在线视频免费播放| 日韩精品有码人妻一区| 午夜精品国产一区二区电影 | 日韩欧美一区二区三区在线观看| 人妻久久中文字幕网| 美女大奶头视频| 欧美丝袜亚洲另类| 91午夜精品亚洲一区二区三区| 精品一区二区三区视频在线| 1000部很黄的大片| 最近在线观看免费完整版| 国产午夜福利久久久久久| 午夜福利视频1000在线观看| 亚洲国产高清在线一区二区三| 亚洲va在线va天堂va国产| 三级经典国产精品| 天天躁日日操中文字幕| 国产精品1区2区在线观看.| 嫩草影院入口| av天堂中文字幕网| 久久午夜福利片| 免费av不卡在线播放| 18禁在线无遮挡免费观看视频 | 精品人妻熟女av久视频| 久久热精品热| 久久精品夜色国产| 99国产极品粉嫩在线观看| 久久人人爽人人片av| 亚洲精品日韩在线中文字幕 | 欧美日韩国产亚洲二区| 我要搜黄色片| 天天一区二区日本电影三级| 国产高清有码在线观看视频| 国产毛片a区久久久久| 99国产精品一区二区蜜桃av| 少妇高潮的动态图| 美女内射精品一级片tv| 欧美区成人在线视频| 插阴视频在线观看视频| 国产午夜福利久久久久久| 亚洲四区av| 1000部很黄的大片| 日韩 亚洲 欧美在线| 男女啪啪激烈高潮av片| 国产日本99.免费观看| 欧美日本亚洲视频在线播放| 成年女人毛片免费观看观看9| 精华霜和精华液先用哪个| 人妻久久中文字幕网| 久久精品夜夜夜夜夜久久蜜豆| 高清毛片免费看| 日韩欧美一区二区三区在线观看| 最近最新中文字幕大全电影3| 深夜精品福利| 可以在线观看毛片的网站| 亚洲精品粉嫩美女一区| 久久久欧美国产精品| 欧美性感艳星| 久久鲁丝午夜福利片| 卡戴珊不雅视频在线播放| 精品福利观看| 高清毛片免费观看视频网站| av在线蜜桃| 国产精品美女特级片免费视频播放器| 大型黄色视频在线免费观看| 夜夜夜夜夜久久久久| 国产精品福利在线免费观看| 欧美成人精品欧美一级黄| 在线观看一区二区三区| 国产在视频线在精品| 国产成年人精品一区二区| 99精品在免费线老司机午夜| or卡值多少钱| 免费看光身美女| 毛片一级片免费看久久久久| 欧美日韩综合久久久久久| 国产亚洲精品久久久com| 1000部很黄的大片| 秋霞在线观看毛片| 97人妻精品一区二区三区麻豆| 午夜精品国产一区二区电影 | or卡值多少钱| 欧美人与善性xxx| 国产精品99久久久久久久久| 69人妻影院| 波野结衣二区三区在线| 一本久久中文字幕| 一进一出抽搐gif免费好疼| 久久人人爽人人片av| 精品人妻视频免费看| 亚洲久久久久久中文字幕| 国产私拍福利视频在线观看| 国内精品久久久久精免费| a级毛片免费高清观看在线播放| 91狼人影院| 亚洲aⅴ乱码一区二区在线播放| 亚洲专区国产一区二区| 好男人在线观看高清免费视频| 欧美+亚洲+日韩+国产| 免费看av在线观看网站| 草草在线视频免费看| 老女人水多毛片| 亚洲精品粉嫩美女一区| 亚洲,欧美,日韩| 男女视频在线观看网站免费| 你懂的网址亚洲精品在线观看 | 国产成年人精品一区二区| 欧美一级a爱片免费观看看| 欧美性猛交黑人性爽| 精品少妇黑人巨大在线播放 | 日韩欧美免费精品| av天堂中文字幕网| 成人性生交大片免费视频hd| 国产一区二区三区av在线 | 国产精品亚洲一级av第二区| 午夜爱爱视频在线播放| 亚洲精品日韩av片在线观看| 亚洲图色成人| 麻豆国产97在线/欧美| 亚洲无线观看免费| 欧美xxxx黑人xx丫x性爽| 国产成人精品久久久久久| 少妇人妻精品综合一区二区 | 国产亚洲91精品色在线| 搡老熟女国产l中国老女人| 亚洲aⅴ乱码一区二区在线播放| 全区人妻精品视频| 99热全是精品| 搡女人真爽免费视频火全软件 | 日韩欧美一区二区三区在线观看| 国产欧美日韩精品一区二区| 最近中文字幕高清免费大全6| 三级男女做爰猛烈吃奶摸视频| 1024手机看黄色片| 少妇人妻一区二区三区视频| 精品久久久久久久久久久久久| 国产成人福利小说| 少妇熟女aⅴ在线视频| 一个人观看的视频www高清免费观看| 国产高清不卡午夜福利| 亚洲欧美日韩高清专用| 国产三级中文精品| 国产精品久久久久久久久免| 菩萨蛮人人尽说江南好唐韦庄 | 精品午夜福利在线看| 国产精品野战在线观看| 男女之事视频高清在线观看| 在线观看66精品国产| 给我免费播放毛片高清在线观看| 亚洲激情五月婷婷啪啪| 性欧美人与动物交配| 色噜噜av男人的天堂激情| 精品久久久久久久久久久久久| 亚洲熟妇熟女久久| 国产午夜精品论理片| 欧美在线一区亚洲| 亚洲电影在线观看av| 精品人妻熟女av久视频| 国产精品无大码| 亚洲第一电影网av| 亚洲熟妇熟女久久| 国产精品亚洲美女久久久| 99久久无色码亚洲精品果冻| 欧美三级亚洲精品| 国产美女午夜福利| 久久国产乱子免费精品| 真实男女啪啪啪动态图| 色综合站精品国产| 人妻制服诱惑在线中文字幕| 国产成人影院久久av| 欧美一区二区精品小视频在线| 成人鲁丝片一二三区免费| 国产精品久久久久久精品电影| 欧美潮喷喷水| 天美传媒精品一区二区| 国产一区亚洲一区在线观看| 国产精品人妻久久久久久| 美女内射精品一级片tv| 国产女主播在线喷水免费视频网站 | 男人和女人高潮做爰伦理| 97碰自拍视频| 午夜福利成人在线免费观看| 国产亚洲91精品色在线| 色5月婷婷丁香| 男女视频在线观看网站免费| av在线蜜桃| 国产精品一二三区在线看| 久久99热这里只有精品18| 联通29元200g的流量卡| 嫩草影院精品99| 老熟妇乱子伦视频在线观看| 久久国内精品自在自线图片| 99国产极品粉嫩在线观看| 校园春色视频在线观看| 日韩三级伦理在线观看| 中文资源天堂在线| 久久天躁狠狠躁夜夜2o2o| 三级国产精品欧美在线观看| 老司机午夜福利在线观看视频| 九九久久精品国产亚洲av麻豆| 啦啦啦观看免费观看视频高清| 欧美性感艳星| 亚洲成人av在线免费| 熟女人妻精品中文字幕| 日韩中字成人| 欧美潮喷喷水| av在线播放精品| 国产极品精品免费视频能看的| 日本撒尿小便嘘嘘汇集6| 午夜a级毛片| 亚洲三级黄色毛片| 日韩成人av中文字幕在线观看 | 日本一二三区视频观看| 99国产极品粉嫩在线观看| 亚洲美女搞黄在线观看 | a级一级毛片免费在线观看| 最近中文字幕高清免费大全6| 成人特级黄色片久久久久久久| 一级黄片播放器| 日韩精品有码人妻一区| 免费人成在线观看视频色| 一夜夜www| 亚洲第一区二区三区不卡| 久久99热6这里只有精品| 日韩欧美一区二区三区在线观看| 国产在线男女| 久久午夜福利片| 2021天堂中文幕一二区在线观| 淫妇啪啪啪对白视频| 日日摸夜夜添夜夜爱| 日韩精品青青久久久久久| 国产乱人偷精品视频| 美女xxoo啪啪120秒动态图| 精品一区二区三区人妻视频| 成年av动漫网址| 中文字幕熟女人妻在线| 亚洲第一区二区三区不卡| 老司机福利观看| a级毛片免费高清观看在线播放| 国产视频一区二区在线看| 免费看日本二区| 女生性感内裤真人,穿戴方法视频| 国产高清不卡午夜福利| 久久精品国产99精品国产亚洲性色| 国产男人的电影天堂91| 亚洲色图av天堂| 桃色一区二区三区在线观看| 欧美精品国产亚洲| 国产精品1区2区在线观看.| 美女高潮的动态| 99在线人妻在线中文字幕| av福利片在线观看| 男人狂女人下面高潮的视频| 国产精品三级大全| 亚洲人成网站在线播放欧美日韩| 蜜桃亚洲精品一区二区三区| 一级毛片电影观看 | 国产探花在线观看一区二区| 天天躁日日操中文字幕| 亚洲美女黄片视频| 一级毛片aaaaaa免费看小| 一边摸一边抽搐一进一小说| 亚洲精品日韩av片在线观看| 午夜视频国产福利| 国产亚洲av嫩草精品影院| 男女下面进入的视频免费午夜| 国产精品不卡视频一区二区| 最近在线观看免费完整版| 日韩欧美一区二区三区在线观看| 内射极品少妇av片p| 日韩 亚洲 欧美在线| 免费不卡的大黄色大毛片视频在线观看 | 国产精品三级大全|