• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能在審判中的應(yīng)用

    2020-05-13 11:46:54張書勤
    關(guān)鍵詞:異化審判法院

    張書勤

    摘要:技術(shù)在給人類帶來利益的同時(shí),也會帶來災(zāi)難,甚至成為一種異己的、敵對的力量,人反而成為被迫適應(yīng)技術(shù)要求的工具,司法人工智能在審判中的濫用也會造成上述問題進(jìn)而損害正義。針對司法人工智能在審判中的三方面應(yīng)用,文章認(rèn)為只有審判信息數(shù)據(jù)化具有價(jià)值,文書制作智能化則用處不大,而輔助裁判功能則毫無用處。在看到問題的同時(shí),文章認(rèn)為人工智能對法院工作的正面意義仍然是難以估量的,文章最后給出了人工智能建設(shè)應(yīng)該注意的問題以及法官對其應(yīng)用所應(yīng)持有的正確態(tài)度.提出要以制度創(chuàng)新為切入點(diǎn),結(jié)合技術(shù)設(shè)計(jì)、加強(qiáng)監(jiān)管和價(jià)值引導(dǎo)等措施進(jìn)行綜合施策,讓司法人工智能在審判規(guī)律和倫理限度的范圍內(nèi)使用。

    關(guān)鍵詞:審判;法院;人工智能;異化

    中圖分類號:TP18 文獻(xiàn)標(biāo)識碼:A 文章編號:1004-8634(2020)01-0102-(10)

    DOI.10.13852/J.CNKI.JSHNU.2020.01.010

    當(dāng)前,整個(gè)人類站在了人工智能(后文簡稱AI)變革的邊緣,很多人相信其帶來的影響將會比電或火更深遠(yuǎn)。中國的法院系統(tǒng)沒有回避這種變革。最高人民法院院長周強(qiáng)在多次會議上提出要研究構(gòu)建司法AI系統(tǒng),為審判體系和審判能力現(xiàn)代化注入新動力。實(shí)踐中,審判工作和AI的融合在日益深入。如,2018年1月,最高人民法院在繼2016年推出“中國法律應(yīng)用數(shù)字網(wǎng)絡(luò)服務(wù)平臺(法信)”之后,又推出了“智慧法院導(dǎo)航系統(tǒng)”和“類案智能推送系統(tǒng)”。盡管存在地方性試點(diǎn)意義有限的問題,但很多地方法院也在推進(jìn)。如,河北法院系統(tǒng)主推的“智審1.0系統(tǒng)”在AI應(yīng)用上走得更遠(yuǎn)。它有五大功能:自動生成電子卷宗;自動關(guān)聯(lián)與當(dāng)事人相關(guān)的案件,避免重復(fù)訴訟、惡意訴訟或虛假訴訟的產(chǎn)生:智能推送相關(guān)的信息輔助審判:自動生成與輔助制作各類文書,目前已實(shí)現(xiàn)裁判文書80%的內(nèi)容一鍵生成:智能分析裁量標(biāo)準(zhǔn),根據(jù)法官點(diǎn)選的關(guān)鍵詞,自動統(tǒng)計(jì)、實(shí)時(shí)展示同類案件裁判情況。

    AI本質(zhì)上是一種技術(shù),縱觀歷史,從人類產(chǎn)生以來,技術(shù)和人就存在極為復(fù)雜和糾纏的關(guān)系。馬克思發(fā)展了黑格爾的異化概念,將其應(yīng)用于對資本主義社會勞動以及工人階級生存狀況的批判,他認(rèn)為:“科學(xué)對于勞動者來說,表現(xiàn)為異己的、敵對的和統(tǒng)治的權(quán)力。”以英國產(chǎn)業(yè)革命為例,在采用機(jī)器以前,紡紗和織布都是在工人家里進(jìn)行的。但是,機(jī)器的產(chǎn)生最終導(dǎo)致了“勞動生產(chǎn)了智慧,但是給工人生產(chǎn)了愚鈍和癡呆”的悲慘結(jié)局。換言之,科技中性論是站不住腳的,它必然負(fù)荷著特定社會中人的價(jià)值。因此有必要讓科技成為充滿人性的科技,盡量弱化和消除其異己力量。對此,恩格斯認(rèn)為:“單是依靠認(rèn)識是不夠的;還需要對我們現(xiàn)有的生產(chǎn)方式,以及和這種生產(chǎn)方式連在一起的我們今天的整個(gè)社會制度進(jìn)行完全的變革?!币曰贏I技術(shù)的搜索引擎為例,其廣泛運(yùn)用已經(jīng)使人們對知識的理解越來越淺顯化,并進(jìn)而威脅到人性的自覺和自律。AI并沒有擺脫人依賴于技術(shù)但是有可能被技術(shù)俘虜?shù)哪е?。對于AI在審判中的運(yùn)用,我們有理由懷疑它也會產(chǎn)生諸多問題。因此,對之進(jìn)行探討并基于此而采取防范手段是有必要的。

    一、當(dāng)前AI在審判中的應(yīng)用情況

    像AI這樣的技術(shù),人類應(yīng)用它的核心目的到底是什么?這個(gè)目的,對幾乎所有行業(yè)來說都是一樣的——提高效率。AI正逐漸替代法院日常工作中流程化和重復(fù)性的工作崗位,概括起來,主要有以下三方面:

    一是司法信息數(shù)據(jù)化,如數(shù)據(jù)文書錄入、證據(jù)識別、訴前咨詢、遠(yuǎn)程立案,等等,其節(jié)省下的人工成本可讓研發(fā)耗費(fèi)忽略不計(jì)。以開庭記錄為例,在以往的開庭中,當(dāng)事人往往屢屢被法官提醒要注意書記員的記錄速度.個(gè)別書記員經(jīng)常不知道字怎么打,還要律師反復(fù)重念,以至于還要告訴他用哪個(gè)字,這極大地影響了庭審效率。但是,考慮到審判的特殊性,以傳統(tǒng)的單純語音輸入和錄音錄像技術(shù)來代替書記員的記錄也是有問題的。首先,要讓法官通過聽音頻的方式處理上訴案件或者案件的再審,是一種非常低效且容易產(chǎn)生錯誤的方法,遠(yuǎn)不如白紙黑字的記錄來得可靠,在庭審中,條件也不允許隨時(shí)調(diào)出錄音來聽。其次,傳統(tǒng)語音輸入設(shè)備對于中文這種同音字很多的語言不占優(yōu)勢,尤其遇到人名或者公司名,事后校對是一件麻煩事。最后,中國方言很多,話語表達(dá)方式差別很大,語音輸入可能支持某種方言,但是對于一些很不標(biāo)準(zhǔn)的方言往往無能為力,以大城市的法院為例,市區(qū)方言與郊區(qū)方言甚至都不一樣,各郊區(qū)也有各郊區(qū)方言,由于外來人口多,還有不少當(dāng)事人帶外地口音,識別難度大:一些當(dāng)事人說話時(shí)會方言、普通話混雜,這就更加難以識別。

    但是,AI將有效解決上述問題,當(dāng)前最有挖掘價(jià)值的應(yīng)該是基于AI和語音交互的語音助手軟件,近兩年的深度學(xué)習(xí)研究為語音識別帶來了突破性進(jìn)展,語音識別率有了很大的提升。根據(jù)收集的數(shù)據(jù)來看,國內(nèi)語音識別率較高的是科大訊飛開發(fā)的靈犀語音助手,識別率已高達(dá)近100%。當(dāng)語音識別率這一大難題被解決后,只需等靈犀、Siri這類的語音助手打通更多的生活場景從而變得更加實(shí)用、便捷。在此基礎(chǔ)上,法院將可以實(shí)現(xiàn)當(dāng)事人對于常規(guī)問題的咨詢由AI負(fù)責(zé)回答,如上訴期限如何計(jì)算、訴訟費(fèi)用如何交納等,從而指引當(dāng)事人選擇調(diào)解或者和解等更加經(jīng)濟(jì)、高效的糾紛解決方式。

    二是文書制作智能化。由于簡單案件可以使用令狀式、要素式、表格式等簡式裁判文書,并且可以簡化說理,因此,對于大量案情簡單的類型化案件,如刑事的危險(xiǎn)駕駛、民事的交通事故損害賠償以及行政的政府信息公開等,可通過OCR、語義分析、大數(shù)據(jù)分析等技術(shù)自動識別這類案件的訴訟材料,并依托知識圖譜,解構(gòu)案件事實(shí)要素,進(jìn)而實(shí)現(xiàn)“要素式”裁判文書自動生成,使案件從起訴、庭前準(zhǔn)備、庭審、舉證到裁判各個(gè)環(huán)節(jié)圍繞要素?zé)o縫對接,省略拖沓步驟。如,對于政府信息公開類案件,上海法院系統(tǒng)的AI系統(tǒng)能通過語義分析實(shí)現(xiàn)對起訴狀、庭審筆錄等案件卷宗信息的智能分析和信息提取,然后按照用戶選定的模版,一鍵自動生成判決、裁定等法律文書,從而大幅減輕法官手工錄入的工作量,并保證法律文書與案件信息的一致性。

    三是輔助裁判智能化。據(jù)報(bào)道,阿里推出的“AI法官”已在部分法院配置。它分析了上萬個(gè)交易糾紛類案件,學(xué)習(xí)了近千條交易領(lǐng)域的法律條款,針對每種案由,整理成計(jì)算機(jī)能理解的模型,同時(shí),針對案件的每一個(gè)要素,阿里AI自動提供相關(guān)法條等判決依據(jù),從而建立了一整套審判知識圖譜,深刻刻畫了交易人、交易行為與法律事實(shí)的關(guān)聯(lián)性,并且把這種關(guān)聯(lián)性融入AI中。當(dāng)法官遇到類似案件時(shí),阿里AI就能夠針對糾紛爭議點(diǎn)迅速開啟“大腦”進(jìn)行分析和判斷,并能在極短時(shí)間內(nèi)向法官給出調(diào)解和判案建議。與此類似,2016年底,北京法院智能審判系統(tǒng)“睿法官”正式上線。在庭前準(zhǔn)備階段,“睿法官”會自動梳理出待審事實(shí),生成庭審提綱,并推送到庭審系統(tǒng)中。庭審結(jié)束后,“睿法官”會對案情要素進(jìn)行進(jìn)一步提取,根據(jù)法官認(rèn)定的內(nèi)容,向其推送更為精準(zhǔn)的相似案例、裁判尺度、法律法規(guī)等,最終幫助法官完成裁判文書撰寫。

    總之,AI與審判的結(jié)合可謂如火如荼,一些巨頭紛紛參與,法院系統(tǒng)已經(jīng)無法回避這種變革。

    二、上述應(yīng)用的價(jià)值分析

    對于AI在審判信息數(shù)據(jù)化方面的使用,稍有常識的人都會認(rèn)為很有必要。

    對于自動生成判決文書,則值得推敲了。一般而言,裁判文書的復(fù)雜程度要高于新聞和詩歌的復(fù)雜程度。盡管AI已經(jīng)可以寫詩,但其本質(zhì)上還是玩具一樣的功能。AI的創(chuàng)作更像是按規(guī)范格式和詞匯標(biāo)簽進(jìn)行的排列組合,不是真正的文學(xué)創(chuàng)作。它根本不知道詩歌里面所蘊(yùn)含的意境,所以遠(yuǎn)遠(yuǎn)達(dá)不到有心靈和情商的階段。一些人(包括法官)之所以覺得AI的這項(xiàng)功能有用,是因?yàn)樗麄冇X得寫裁判文書對于自身來說是一件難事。這很容易理解,12萬員額法官水平參差不齊,一些裁判文書不僅難以達(dá)到“信、達(dá)、雅”的水準(zhǔn),有時(shí)候甚至句子前后矛盾,邏輯不通?,F(xiàn)實(shí)中,有些案件是通過裁判說理完全能夠講明白的,就是因?yàn)闆]有在說理部分講明白,所以造成當(dāng)事人的不解甚至誤解。對于這些法官來說,AI的這項(xiàng)功能可謂“雪中送炭”甚至于“救命稻草”??墒?,每一個(gè)裁判文書就是一篇命題作文。法官在撰寫裁判文書時(shí)必須考慮邏輯上是否清晰、論辯的視角是否能消除當(dāng)事人雙方的意見分歧、修辭上是否令人信服等。換言之,審判中必須發(fā)揮裁判文書引領(lǐng)社會道德、維護(hù)公序良俗的作用,注重在裁判中體現(xiàn)出社會主義核心價(jià)值觀與主流道德。追溯歷史,那些受到稱道、傳至后世以為楷模的裁判文書往往正是這種參酌情理而非僅僅依據(jù)法律條文的判決,這方面的事例可謂不勝枚舉。

    那么,只要AI還無法做到百分之百準(zhǔn)確,就必須由法官進(jìn)行復(fù)核,而復(fù)核的過程無法跳過任何環(huán)節(jié),其效率與傳統(tǒng)的辦案方式并不存在根本性的差異。所以,如果一個(gè)法官在撰寫裁判文書時(shí)很大程度上依賴于AI的幫助,這樣的行為是很輕率和危險(xiǎn)的。在我看來,AI的輔助制作文書功能最多可以在撰寫簡式裁判文書時(shí)有點(diǎn)用。

    對于AI的輔助裁判功能,這就更顯得華而不實(shí)甚至削足適履。

    第一,對于一些人津津樂道的法律檢索和案例數(shù)據(jù)庫,現(xiàn)實(shí)中很可能按照同一法條做出的判決,其裁判結(jié)果也可能一樣,但是案件事實(shí)卻大相徑庭。這個(gè)時(shí)候別說機(jī)器了,法官都不見得沒有不同的看法和理解。其原因就在于生活是如此豐富,而這些豐富的細(xì)節(jié)卻無法全部歸納到法律規(guī)定的所謂構(gòu)成要件中。這個(gè)時(shí)候只有經(jīng)過專業(yè)訓(xùn)練的法官才能夠就此來歸納、總結(jié)和解釋。17世紀(jì)詹姆士一世和英國首席大法官柯克關(guān)于國王能否擔(dān)任法官的經(jīng)典爭論已經(jīng)表明,即便AI的智能超過國王,也不能獨(dú)立擔(dān)任法官。可是,AI的智能超過普通人了嗎?并且,考慮到中國的國情,法律和政策的變動往往很頻繁,而且法治建設(shè)還在起步階段,以既往審判案例為基準(zhǔn)的法律體系還比較初級,這會使得AI難以有效地“學(xué)習(xí)”。現(xiàn)實(shí)中,很多優(yōu)秀法官對于自己所處的審判業(yè)務(wù)領(lǐng)域所需引用的法條在具體法律文本中的位置都了然于胸,所以他們在寫作裁判文書時(shí)已經(jīng)不需要把很多時(shí)間花在法條的查找和相似案例的參考上,他們更多的是花時(shí)間在組織邏輯和語言以及思考案件處理的策略,機(jī)械的工作(包括尋找資料,核查文書范式和引用等)往往不是問題。

    我們注意到,AI輔助辦案系統(tǒng)的應(yīng)用已經(jīng)造成一些負(fù)面影響,如方便的法條和案例檢索導(dǎo)致了合議庭論證過程被縮短,因?yàn)檗k案法官很容易從以往的判例中尋找現(xiàn)成的論證思路:AI在無形中逐漸改變著審判組織的判斷。個(gè)別法官在運(yùn)用輔助系統(tǒng)時(shí)往往傾向于通過搜索一些關(guān)鍵詞來解決問題,但是卻忽視了一系列相關(guān)聯(lián)的概念和邏輯推導(dǎo)過程,一些同義詞之間的“聯(lián)想關(guān)聯(lián)”也造成了法律適用的偏離。確實(shí),在沒有AI時(shí),不排除法官有時(shí)候會花大量時(shí)間用于查找法律和案例,他們也會受到各種非規(guī)范因素的影響,比如和同事探討案件,但是,這些材料一般是印在現(xiàn)實(shí)中的書本上的,因而是固定不變的,或者關(guān)于法律適用的建議是由人做出的,人類無論自己做出什么決策,其他人都會感到“事態(tài)可控”,但若同一決策出自AI之手,許多人就會感到巨大的不適。AI的數(shù)據(jù)是可以不斷修改、擴(kuò)充和更新的。一旦用戶開始相信和依賴AI的判斷和決定,那么他們就可能不愿多動腦筋和變得懶惰,并失去對許多問題的責(zé)任感和敏感性。教育工作者發(fā)現(xiàn)日常生活中那些過分依賴搜索引擎的學(xué)生的主動思維能力和計(jì)算能力會明顯下降,他們在逐漸蛻化成搜索引擎所提供結(jié)果(這種結(jié)果有時(shí)候是娛樂化、不嚴(yán)謹(jǐn)甚至別有用心的)的使用者,而非知識和文明的傳承和創(chuàng)造者。這種狀態(tài)在一定程度上和動物有區(qū)別嗎?動物的特點(diǎn)就在于沒有精神而僅憑自然給予的而生活!類似地,做出法律決定時(shí)過分地相信AI的結(jié)論而不加分析地接受,將會使法官的認(rèn)知能力下降并增加誤解。所以,即便有些企業(yè)要研制法律檢索和案例推送AI,也應(yīng)考慮到上述問題,盡量鼓勵法官在問題求解中的能動性,讓他們積極決策而非被動接受。

    第二,對于AI能夠給出裁判建議并保證同案同判的功能,這就比案例檢索更不靠譜了。

    首先,算法本身存在歧視和“黑箱化”問題,這不可避免。人類對于個(gè)體的判斷通常是綜合和動態(tài)的,但算法無法獲取或處理對象的全部數(shù)據(jù),它只把人的行為理解為與社會和自然背景毫無關(guān)聯(lián)的依據(jù)規(guī)則的計(jì)算。其決策根基是相關(guān)性,而非因果性,可是,因果是認(rèn)識論的基本訴求,我們需要知道原因。那么,算法有時(shí)候就會做出不完整甚至錯誤的決定,并且其工作方式缺乏監(jiān)管和透明度。即便公權(quán)力機(jī)關(guān)采取各種方式刻意引導(dǎo)企業(yè)減少算法歧視,然而,工程師往往也無法解釋軟件中隱藏的決策過程。

    近些年AI領(lǐng)域的一切進(jìn)步,都可歸為“輸入數(shù)據(jù),生成回應(yīng)”模式。即由過去推導(dǎo)未來,機(jī)器無法預(yù)測完全不在它“經(jīng)驗(yàn)”范圍內(nèi)的意外。不過一些對于AI持有樂觀態(tài)度的人馬上會反駁:法官的閱歷和直覺也不是天塹.因?yàn)锳I有遷移學(xué)習(xí)能力??墒牵瑢τ贏I,有很多核心問題都是完全沒有解決的,甚至在很大程度上還沒有被人提及。深度學(xué)習(xí)不是一種萬能的溶劑,它只是一種工具。一些人一直想神話AI,但大多數(shù)情況下,人類做不到的事情,AI也無能為力。以當(dāng)前廣泛使用的基于神經(jīng)網(wǎng)絡(luò)開發(fā)的AI為例,它是一種像人腦一樣運(yùn)作的深度學(xué)習(xí)算法,就本質(zhì)而言它不可能透明化。神經(jīng)網(wǎng)絡(luò)會自己建立數(shù)據(jù)連接,而不是被明確地進(jìn)行編輯。這個(gè)系統(tǒng)過程非常隱秘,也會經(jīng)常變化。一般而言,法院自己并不編寫算法,而是向企業(yè)購買或者合作開發(fā),由于AI在這方面是黑盒子,那么,自然會引起人們對其可靠性的懷疑。即便公開算法以供民眾監(jiān)督,神經(jīng)網(wǎng)絡(luò)也是淺薄的,因?yàn)樗鼈兊木帉憶]有什么先天的知識,對于世界或人類心理沒有感觸。如果法官無法理解這些決策過程,那么該如何判斷AI作為決策輔助工具的有效性呢?AI這個(gè)很不靠譜的角色,為審判帶來了兩條潛在的道路:要么盲目地任由技術(shù)向前推進(jìn),由未受控制的算法危險(xiǎn)地將審判推向懸崖,要么暫時(shí)禁止不透明的AI用于法官決策輔助。

    其次,在遇到棘手案件時(shí),形式邏輯往往無能為力。形式邏輯既不能幫助法官填補(bǔ)法的空隙,也不能幫助法官在兩個(gè)可適用的法律規(guī)范或原則之間做出選擇。這時(shí)候,法官多不直接依據(jù)現(xiàn)有的證據(jù)和法律做出最佳的判斷,而需要借助法律背后的理念、價(jià)值,這種非形式邏輯的裁判技巧更讓AI無法學(xué)習(xí)。和人一樣,只懂法律的人做不了法官,因?yàn)榉ü龠€必須有健全的人格、強(qiáng)烈的法治信仰、敏銳的思維、對歷史和人性的深刻理解等,那么只有法律知識的AI當(dāng)然不能擔(dān)當(dāng)法官,因?yàn)樾问秸x與實(shí)質(zhì)正義是一對矛盾。伯爾曼認(rèn)為:“僅從效力角度考慮法律,則我們使之喪失的,便正好是效力?!边@一點(diǎn)對于當(dāng)今變遷頻繁的中國社會尤有參考價(jià)值。對此,馬克思指出:“如果現(xiàn)行法律和社會發(fā)展剛剛達(dá)到的階段發(fā)生顯著的矛盾,那么,諸位陪審員先生,你們的職責(zé)恰恰就是要在過時(shí)的律令和社會的迫切要求的斗爭中講出自己有分量的話。那時(shí)你們的任務(wù)就是要超過法律,直到它認(rèn)識到必須滿足社會的要求為止。這是陪審法庭的最高尚的特權(quán)。諸位先生,在這種情況下,法律的文字本身就便于你們執(zhí)行這個(gè)任務(wù)。你們只是應(yīng)當(dāng)根據(jù)我們的時(shí)代、我們的政治權(quán)利、我們的社會要求來解釋它?!?/p>

    優(yōu)秀的法官都知道審判中真正打動人的是生動的事實(shí)和鮮活的生活,而不是法律本身。人們所能把握的只有在特定的歷史境遇中所闡述的價(jià)值。對于法律問題的解答需要在社會利益、人情世故、機(jī)會、公序良俗等各個(gè)方面進(jìn)行衡量,德沃金對此就提出:“法官必須把他們所控制的法律視為一個(gè)整體,而不是一套他們可以隨意逐一制定或修改的互不相關(guān)的決定。”因此,法官必須具有真正理解現(xiàn)實(shí)社會的能力,這對經(jīng)驗(yàn)豐富的法官來說有時(shí)候都不是一件簡單的事。如,婚姻法連同相關(guān)司法解釋不過數(shù)百條,但離婚案件中最基本的“感情破裂”就包含了AI根本不能理解的復(fù)雜性。沒有人懷疑審判AI的復(fù)雜性要高于自動駕駛汽車AI的復(fù)雜性,很多機(jī)構(gòu),包括監(jiān)管機(jī)關(guān)、科研院所、公司等已經(jīng)招聘了科技、哲學(xué)、倫理和法律方面的專家,絞盡腦汁地力圖賦予自動駕駛汽車以道德準(zhǔn)則,從而使之遇事做出正確決策,可是他們發(fā)現(xiàn)這個(gè)任務(wù)實(shí)在是過于艱深和嚴(yán)肅,至今沒得出令人滿意的方案,因?yàn)闄C(jī)器不足以了解在實(shí)際場景中人類將做出的不同反應(yīng)。審判AI的靠譜與否就不言自明了。

    以“睿法官”為例,有些人認(rèn)為它能將判后監(jiān)督管理轉(zhuǎn)變?yōu)榕星稗k案指引,將經(jīng)驗(yàn)判斷為主轉(zhuǎn)變?yōu)閿?shù)據(jù)參照印證,所以能有效推進(jìn)同案同判,統(tǒng)一法律裁判尺度,進(jìn)而為提升司法權(quán)威和公信力提供堅(jiān)強(qiáng)的科技支撐。但這只是一種錯覺。AI具有的數(shù)學(xué)化和符號化特征似乎滿足了理性主義者對于確定性的追求,但是卻抹殺了事物的質(zhì)的區(qū)別,在很多時(shí)候,把握事物的質(zhì)更為重要,因?yàn)橐饬x是建立在質(zhì)的差異上的。對于刑事案件,由于爭議點(diǎn)不多,這個(gè)問題相對還不突出,但是對于民事案件,需要考慮的因素太多了,比如說當(dāng)?shù)氐娘L(fēng)俗習(xí)慣,法院審理案件往往并不是追求非黑即白,AI更難以檢測出法律的細(xì)微精妙之處。雖然世界上沒有兩片完全一樣的樹葉,但畢竟存在兩個(gè)情節(jié)基本一樣的案件,任何裁判也不可能僅僅根據(jù)“法律”而做出,法官的價(jià)值觀同樣在裁判過程中發(fā)揮著甚至比法律本身更大的影響,不同的法官只要依法對之做出判決,即便結(jié)果稍有出入(如刑事案件雖然兩個(gè)相似案件的宣告刑不同,但都在法定刑內(nèi)),就應(yīng)該被接受,因?yàn)檫@恰恰是符合司法規(guī)律的表現(xiàn)。任何把價(jià)值固定化的努力都會因價(jià)值的相對性而失敗。法官(不僅僅是法官,對于全人類都是這樣)的不同價(jià)值取向是人類進(jìn)步的源泉,這種不同取向的價(jià)值觀念能夠通過博弈取得最優(yōu)值。人類具有心靈和社會歷史性,這導(dǎo)致了信仰的多元性,法官的早餐也會影響法官的判決,AI卻僅具有自然性和機(jī)械性,其達(dá)到的僅僅是一元性。把統(tǒng)一裁判尺度的希望寄托在AI上無疑讓人服從機(jī)器.必須擁有自由裁量權(quán)的法官會感到惴惴不安。

    對于完全不采用AI決策輔助的法院,每天做出的判決林林總總,雖然每個(gè)法官的辦案習(xí)慣不一樣,但是在相同的法律事實(shí)和證據(jù)的情況下,基本上還是能夠得出相同的判決,這就意味著沒必要引入AI來監(jiān)督法官群體。目前尚不知道“睿法官”的判前辦案指引是否具有強(qiáng)制性或者是否會影響對法官的績效考核,如果有,那么它就是違反司法規(guī)律的;如果沒有,那么就完全沒必要存在這項(xiàng)功能。

    三、AI到底應(yīng)該用來做什么

    近年來,很多名人,包括比爾·蓋茨、馬斯克,以及霍金等,都表達(dá)了對AI的擔(dān)憂,告誡人類要警惕AI的應(yīng)用。其原因就在于機(jī)器一旦可以獨(dú)立思考,就能以前所未有的超快速度重新設(shè)計(jì)自己,可能脫離人的控制而叛變,人卻受到生物進(jìn)化規(guī)律的限制,與之相比根本沒有競爭力,由此必然導(dǎo)致人類的生存和倫理問題。

    從現(xiàn)有的技術(shù)來看,AI距離獨(dú)立寫程式還有相當(dāng)一段距離,但這在幾十年內(nèi)極有可能會實(shí)現(xiàn),因?yàn)樗呀?jīng)跨過了關(guān)鍵性的非線性的自學(xué)、自我調(diào)整的門檻。屆時(shí),AI將逐漸獲得類似于人類的價(jià)值觀念,塑造出對具體場景的理解和隨機(jī)化感受力,其運(yùn)用場景將具有通用性而非僅限于特定的任務(wù)。那么,屆時(shí)一切我們習(xí)以為常的倫理和常識是否將不復(fù)存在?對此有學(xué)者指出:“人工智能的發(fā)展已衍生出‘過度依賴數(shù)據(jù)的危機(jī)。對數(shù)據(jù)和算法的依賴開始形成一種權(quán)益的悄然轉(zhuǎn)移。算法和數(shù)據(jù)開始接管大眾媒介的權(quán)力,算法輸出結(jié)果所依賴的數(shù)據(jù),開始代替人類進(jìn)行決策。”但是,這個(gè)世界上只有人類才具有真正的心靈,有些心靈現(xiàn)象是不可能被形式化的,如果要讓AI具有心靈智能的話,它是不可能全面超越人類智能并實(shí)現(xiàn)超級AI的。由于人的自由意志無法被程序化,那么人機(jī)之間的界限是無法打破的。根據(jù)康德的自由意志理論,如果我們要使AI不具備做出不道德行為的能力,那么,AI不可能具有人工道德主體資格,它在根本上只是解決具體問題并形成實(shí)際用途的工具,僅僅具有接受外部事物刺激的能力和邏輯推演能力。當(dāng)然,也不排除AI全面超越人類智能而成為超級AI,不過,如上所述,由于它不是人類的心靈智能,人類屆時(shí)仍然可以僅僅把它看作工具,其對人類倫理的破壞依然不會存在。由此看來,如果人類發(fā)展AI的目的僅僅是追求它能夠模擬或者具有心靈智能的話,實(shí)屬有失偏頗。A1只是一種能夠解決問題的工程科學(xué),是否具有心靈智能則無關(guān)緊要。但是有一點(diǎn)可以明確,只有具有自由意志的主體才能擔(dān)當(dāng)法官,所以,AI在審判中的輔助和工具地位則不可避免了。

    但是,機(jī)器在沒有自由意志的情況下的確可能造成人類的“異化”。那么,對于這種深刻而危險(xiǎn)的人的異化,法律界該充分討論AI開發(fā)和應(yīng)用的政策問題了,即哪些可以研發(fā),哪些禁止研發(fā),哪些優(yōu)先研發(fā)等,就像當(dāng)年對克隆技術(shù)不能放任自流一樣。畢竟AI的定位是為我們的工作和生活提供幫助的,而非替代甚至取代人類的工作和生活。如上文所述,即便僅僅作為審判輔助工具,AI的某些應(yīng)用仍然會造成司法意義的消解以及公眾對司法公信的合理懷疑等諸多問題。人類進(jìn)化幾百萬年,卻要聽從新興起的機(jī)器的判決,這確實(shí)不可思議,很多有識之士正陷入由這些AI繁榮后的負(fù)面影響而產(chǎn)生的苦惱和憂慮中。我們注意到,相關(guān)企業(yè)出于企業(yè)公關(guān)、引導(dǎo)輿論、拉高估值等目的,肆意夸大AI還遠(yuǎn)不具備的功能,并有意掩蓋其背后的技術(shù)瓶頸和嚴(yán)峻的倫理問題等現(xiàn)階段無法跨越的障礙,一些隨波逐流的法律人也對算法風(fēng)險(xiǎn)評估帶來的負(fù)面影響缺乏討論和警醒,其后果完全可能造成人與機(jī)器地位的顛倒。因此,面對司法AI,我們應(yīng)該理性對待,讓其回歸其本位,也讓法官回歸其本質(zhì)。

    追溯歷史,我們發(fā)現(xiàn)人類技術(shù)產(chǎn)品的力量越大,它就越難以掌控,技術(shù)使人類文明的未來充滿不確定性,所以冷戰(zhàn)時(shí)期美國人對于蘇聯(lián)核彈的畏懼超過了對末日審判的害怕。根據(jù)《人類簡史》中的論述,正是想象出的共同體,使得人類走進(jìn)了文明時(shí)代,人類的想象力的速度超過了基因演化的速度,由此建立起地球上前所未有的大型合作網(wǎng)絡(luò)。人類的文明是一場“想象”,人類作為高級動物,和其他動物的不同在于,人類能以想象力賦予事物意義,也可以創(chuàng)造虛擬的世界和物品,例如貨幣、神話、宗教……這里所謂的“想象”,其實(shí)就是價(jià)值觀念,即人類個(gè)體的思想性和群體的修正能力,修正能力是個(gè)體交流的結(jié)果。在動物界,可以看到個(gè)體的存在,但絕對不會找到群體的修正能力。所謂修正能力,即是在尊重個(gè)體思想自由的前提下,經(jīng)過個(gè)體之間的博弈而達(dá)成體現(xiàn)多數(shù)人意志和利益的集體行動。人類社會的體制、制度、法律等,都是這種能力的表現(xiàn)形式,因?yàn)橹贫仁莾r(jià)值觀的外化?!皟r(jià)值觀念是人性的最好表現(xiàn)形式。”在勞動中,人們形成了關(guān)于生產(chǎn)力、生產(chǎn)關(guān)系和人神關(guān)系的價(jià)值觀念,所以,馬克思認(rèn)為:“人的本質(zhì)并不是單個(gè)人所固有的抽象物。在其現(xiàn)實(shí)性上,它是一切社會關(guān)系的總和?!?/p>

    假設(shè)將來有人研制出基于非心靈智能的超級AI,它能給人們所需要的一切美好的東西(物質(zhì)、制度、愛情、性欲等),那么,人們事實(shí)上等于被豢養(yǎng),也會感到難以接受。因此,我們寧愿要一個(gè)不太完美的世界,也不要一個(gè)被AI完全控制的完美世界。因?yàn)樵谌祟悷o法做出選擇的情況下,善惡根本沒有任何意義。只有在充分的可能和真實(shí)的多樣性中,人類才會找到真正的善。回到司法AI,用客觀公平的算法(不管它是否是心靈智能,不管它是否是超級AI)來代替法官進(jìn)行自動化決策,雖然會帶來效率的提升,但人性必然會泯滅,不勞而獲的惰性也會膨脹,從而不自覺地成為工具的工具。對此,有學(xué)者就一針見血地指出:“隨著AI的快速發(fā)展和海量偽知識與全民全面娛樂的泛濫,不僅一切真知識正在被泛濫的海量偽知識遮蔽和包裹,而且各種公認(rèn)的、嚴(yán)謹(jǐn)?shù)娜祟愇拿鞯膬r(jià)值觀以及文明固有的傳承方式也正在被娛樂化地惡搞著?!?019年高考語文作文(全國I卷)要求考生以“熱愛勞動,從我做起”為主題寫一篇演講稿對“科技進(jìn)步這么快,勞動的事,以后可以交給人工智能”等論調(diào)做出回應(yīng)。很多公眾在網(wǎng)上留言表示:“這個(gè)和現(xiàn)實(shí)緊密聯(lián)系的題目實(shí)在不好寫,因?yàn)樗枰此棘F(xiàn)實(shí)并具有哲學(xué)思維”“畫鬼容易,畫人不好畫”,等等??梢?,在AI概念泛濫的時(shí)代,這樣的話題極具警醒意義,因?yàn)槿吮举|(zhì)上是生命與精神同構(gòu)的苦行者,決不應(yīng)因?yàn)锳I的出現(xiàn)而放縱自己的貪欲。

    監(jiān)管部門也注意到了AI影響的雙重性。2017年7月,國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》,提出初步建立人工智能的法律法規(guī)、倫理規(guī)范和政策體系,形成人工智能安全評估和管控能力,讓技術(shù)創(chuàng)新運(yùn)行在法律和規(guī)范的軌道上。在實(shí)踐中,可要求所有AI系統(tǒng)的開發(fā)必須進(jìn)行登記并具有可解釋性,督促開發(fā)者以公開、透明的模式遵守法律和倫理規(guī)則,同時(shí)賦予用戶拒絕權(quán)和解釋權(quán),即在用戶認(rèn)為算法存在歧視的情況下,他有要求開發(fā)者給出解釋的權(quán)利,直至拒絕接受算法,等等。

    不過,仍然需要看到,現(xiàn)行的人類社會架構(gòu)是難以擔(dān)當(dāng)科學(xué)監(jiān)管AI的重任的,因?yàn)槿祟惿鐣怨胖两穸即嬖凇爱惢?,異化的人類社會組織不可能把人的自由全面發(fā)展作為其出發(fā)點(diǎn)。這就需要人類更進(jìn)一步的“想象”了,只有讓人類在勞動關(guān)系和社會關(guān)系上獲得真正的解放.唯有實(shí)現(xiàn)“自由人的自由聯(lián)合”,才能確保AI服務(wù)于人類福祉。

    四、結(jié)語

    人類的發(fā)展絕不應(yīng)該在科技牽引下一意孤行,而是人類按照真善美法則構(gòu)建出來的理想田園。從根本上講,AI和人是分工關(guān)系,它代替人不擅長的相對機(jī)械枯燥的部分,剩下的更有創(chuàng)造性的則留給人來做,人類智力因此面臨的提升空間可能更大。換言之,AI不應(yīng)也不會取代法官,相反還會加強(qiáng)、促進(jìn)審判工作。而法官也將借助AI獲得更強(qiáng)的信息整合、分析、判斷能力,于是有更多的時(shí)間、精力去鉆研、深挖細(xì)分的業(yè)務(wù)領(lǐng)域,從而順應(yīng)因社會變化而對審判工作提出的要求。

    基于以上分析,AI最擅長的領(lǐng)域是“標(biāo)準(zhǔn)化”“流程化”和“重復(fù)性”的數(shù)據(jù)分析和處理,在這方面,人類幾乎不可能和AI相匹敵,盡早使用并適應(yīng)新技術(shù)才是明智的選擇。實(shí)踐中,AI可在多方面與審判深度融合,包含網(wǎng)上預(yù)約、網(wǎng)上立案、遠(yuǎn)程訊問、網(wǎng)上送達(dá)、審判公開、網(wǎng)上接訪、智能穿戴等多個(gè)環(huán)節(jié)。AI在審判領(lǐng)域的推廣,應(yīng)做好頂層設(shè)計(jì),以標(biāo)準(zhǔn)化的手段加大各級法院的信息化、數(shù)字化水平,在審判程序的各個(gè)環(huán)節(jié)形成真實(shí)、可用、有效的數(shù)據(jù)資源,消除“信息孤島”,為智能化的應(yīng)用夯實(shí)基礎(chǔ)。當(dāng)前,全國法院已基本實(shí)現(xiàn)了專網(wǎng)全連通和數(shù)據(jù)全覆蓋,這為AI的縱深利用提供了有力支持。如,眼下就很有必要推動電子訴訟的開展,因?yàn)殡娮游臅?、電子簽章和電子送達(dá)可以極大提高工作效率和提供訴訟便利。特別是一些涉外或者海事方面的案件,和當(dāng)事人根本不需要或難以見面,很多訴訟文書都需要在網(wǎng)上傳輸。據(jù)報(bào)道,有些法院在這方面已走在了全國前列。如,在線下司法實(shí)踐中,受地域限制,許多案件的調(diào)解、舉證、庭審成本高昂。一旦當(dāng)事人故意隱匿地址,法律文書將無法送達(dá)。浙江法院系統(tǒng)順利對接阿里巴巴平臺的海量數(shù)據(jù),不但突破空間限制實(shí)現(xiàn)了電子商務(wù)糾紛從起訴到舉證、庭審、判決、執(zhí)行全流程的在線解決,還能通過數(shù)據(jù)分析精確鎖定被告人常用的收貨電話和地址,幫助司法文書順利送達(dá)。統(tǒng)計(jì)表明,在運(yùn)行了AI網(wǎng)上立案系統(tǒng)的法院的立案大廳,已經(jīng)幾乎看不到人聲鼎沸的場面,因?yàn)楹芏喟讣际峭ㄟ^網(wǎng)絡(luò)、ATM機(jī)自助、二維碼等立案方式解決的,每個(gè)案件平均立案時(shí)間只有15分鐘??焖俸陀行У姆?wù)讓群眾對于法院的司法改革和技術(shù)創(chuàng)新有了更多的獲得感,這也凸顯了全國法院系統(tǒng)在推進(jìn)AI融入方面進(jìn)行統(tǒng)籌規(guī)劃的必要性。

    而作為法官,亦應(yīng)從以下方面看待和使用司法AI:

    1.了解。面對每段時(shí)間都會被熱炒一次的AI話題,以及當(dāng)前層出不窮的司法AI產(chǎn)品,“漠視、恐慌、追捧”都不該是法官的應(yīng)有態(tài)度。首先,漠視容易導(dǎo)致對新技術(shù)的無知,法官應(yīng)充分發(fā)揮搜集、掌握信息的職業(yè)能力,去了解與行業(yè)相關(guān)的新生事物,雖然目前更多只是概念炒作,但將來未嘗不會成為行業(yè)變革之契機(jī)。其次,恐慌多來自外行的擔(dān)憂,真正優(yōu)秀的法官,自然明白審判技巧和法律知識的獨(dú)到之處與難以替代的內(nèi)核,對于那些司法AI將會取代法官的言論,只會一笑置之。最后,追捧是對自己定位的盲目,在這些新技術(shù)、新概念的新聞包圍中,法官應(yīng)保持充分理性,在了解的基礎(chǔ)上,審視這些概念的真實(shí)性和背后的機(jī)理,結(jié)合自己所處的行業(yè)環(huán)境、職業(yè)階段和發(fā)展需求謹(jǐn)慎判斷。

    2.利用。AI帶來的諸多輔助功能就像人類在陸地、在空中、在網(wǎng)絡(luò)世界的觸角,是人類本體的延伸,幫助人類不斷突破生物構(gòu)造的限制。“君子性非異也,善假于物也?!彼痉ˋI的研發(fā)、完善,最終也將成為法官審判的外延,懂得利用的法官,可以借助這些外延提升效率,打破時(shí)空限制,為自己也為民眾創(chuàng)造更多價(jià)值。

    3.合作。司法AI在法院工作中的運(yùn)用,特別是在其研發(fā)階段,事實(shí)上離不開法官。AI的前提仍是人工,司法AI的技能不會憑空產(chǎn)生,其形成的過程離不開行業(yè)內(nèi)資深法官的智力貢獻(xiàn),對于這類合作機(jī)會,只要有心,其實(shí)很多。既然司法AI是一個(gè)不可避免的新趨勢,法官何不參與其中從而成為司法AI的締造者?比如,如果說代碼是AI產(chǎn)品的工作規(guī)則,那么學(xué)會一點(diǎn)編程并掌握這種思維方式就是了解AI的捷徑,可以幫助法官加深對AI稟性的認(rèn)識。無論如何,法官在和司法AI相處的全程中,都必須堅(jiān)守法官的主體地位和AI的輔助角色.防止因?yàn)锳I而導(dǎo)致的異化和錨定效應(yīng),確立AI在審判領(lǐng)域應(yīng)用的制度框架,讓司法AI來促進(jìn)司法正義,而非帶來混亂、偏見和歧視。

    猜你喜歡
    異化審判法院
    農(nóng)村聘禮的異化與治理——基于微治理的視角
    商品交換中的所有權(quán)正義及其異化
    百姓拆遷心結(jié)一朝化解法院主持調(diào)解握手言和
    異化圖像的人文回歸
    班里設(shè)個(gè)小“法院”
    我國法院在線調(diào)解的興起、挑戰(zhàn)與未來
    當(dāng)前大眾文化審丑異化的批判性解讀
    七十年前那場文明的審判
    論人民調(diào)解與法院調(diào)解的銜接配合
    人間(2015年17期)2015-12-30 03:41:06
    消失中的審判
    政法論叢(2015年5期)2015-12-04 08:46:28
    欧美 亚洲 国产 日韩一| 一区二区日韩欧美中文字幕| 在线永久观看黄色视频| 长腿黑丝高跟| 黄频高清免费视频| 欧美色视频一区免费| 国产区一区二久久| 50天的宝宝边吃奶边哭怎么回事| 成人永久免费在线观看视频| 不卡一级毛片| 99国产极品粉嫩在线观看| 午夜福利一区二区在线看| www.999成人在线观看| 制服丝袜大香蕉在线| 成人手机av| 最新在线观看一区二区三区| 免费观看精品视频网站| 黄色成人免费大全| 久久国产乱子伦精品免费另类| 精品电影一区二区在线| 久久香蕉国产精品| 在线观看午夜福利视频| 国产成人av教育| 欧洲精品卡2卡3卡4卡5卡区| 欧美乱码精品一区二区三区| 12—13女人毛片做爰片一| 在线观看一区二区三区| АⅤ资源中文在线天堂| 亚洲精品中文字幕一二三四区| 亚洲色图 男人天堂 中文字幕| 女人被狂操c到高潮| 精品高清国产在线一区| 亚洲精品色激情综合| 国产爱豆传媒在线观看 | 亚洲人成电影免费在线| 午夜福利在线观看吧| 国产成人精品无人区| 欧美性猛交黑人性爽| 精品不卡国产一区二区三区| 免费搜索国产男女视频| 亚洲国产毛片av蜜桃av| 久久久久亚洲av毛片大全| 在线观看一区二区三区| 国产一区二区在线av高清观看| 欧美成人性av电影在线观看| 国产视频内射| 看片在线看免费视频| 国语自产精品视频在线第100页| 日韩免费av在线播放| 国产主播在线观看一区二区| 一夜夜www| 99在线视频只有这里精品首页| 精品日产1卡2卡| 日日夜夜操网爽| 白带黄色成豆腐渣| 亚洲欧美日韩无卡精品| 91成年电影在线观看| 在线观看午夜福利视频| 国产成人啪精品午夜网站| 黑人操中国人逼视频| 国产亚洲精品久久久久久毛片| 亚洲美女黄片视频| 天天添夜夜摸| 一进一出抽搐动态| 精品国产乱子伦一区二区三区| 在线十欧美十亚洲十日本专区| 999精品在线视频| 午夜a级毛片| 黄色视频,在线免费观看| 国产亚洲av嫩草精品影院| 国产精品亚洲av一区麻豆| 成人一区二区视频在线观看| 精品一区二区三区视频在线观看免费| 久久99热这里只有精品18| 嫩草影院精品99| 男人的好看免费观看在线视频 | 后天国语完整版免费观看| 91麻豆av在线| 免费一级毛片在线播放高清视频| 午夜视频精品福利| 亚洲国产欧洲综合997久久, | 亚洲中文字幕日韩| 久久亚洲精品不卡| 亚洲九九香蕉| 日本一区二区免费在线视频| 精品一区二区三区av网在线观看| 日韩免费av在线播放| 国产高清视频在线播放一区| 亚洲一区二区三区不卡视频| 观看免费一级毛片| 亚洲免费av在线视频| 桃红色精品国产亚洲av| av视频在线观看入口| 国产三级黄色录像| 国产欧美日韩精品亚洲av| 丁香欧美五月| 国产精品久久久久久亚洲av鲁大| 亚洲精品在线美女| 一级a爱视频在线免费观看| 一本大道久久a久久精品| 岛国在线观看网站| 国产亚洲精品第一综合不卡| 成人亚洲精品一区在线观看| 久久香蕉激情| 一级毛片女人18水好多| 免费在线观看影片大全网站| 99热只有精品国产| 男人操女人黄网站| 免费在线观看日本一区| 国产一级毛片七仙女欲春2 | 美女扒开内裤让男人捅视频| 亚洲中文字幕日韩| 草草在线视频免费看| 欧美激情高清一区二区三区| 国产极品粉嫩免费观看在线| 国产片内射在线| 成人一区二区视频在线观看| 此物有八面人人有两片| 国产三级黄色录像| 日韩有码中文字幕| 在线国产一区二区在线| 国产av在哪里看| 变态另类丝袜制服| 亚洲一卡2卡3卡4卡5卡精品中文| 两个人看的免费小视频| 亚洲精品在线美女| 免费高清视频大片| 精品欧美国产一区二区三| 亚洲国产中文字幕在线视频| 岛国在线观看网站| 精华霜和精华液先用哪个| 久久中文字幕一级| 色综合欧美亚洲国产小说| 熟妇人妻久久中文字幕3abv| 啦啦啦免费观看视频1| 啦啦啦 在线观看视频| av超薄肉色丝袜交足视频| 可以免费在线观看a视频的电影网站| 9191精品国产免费久久| 亚洲美女黄片视频| 国产一区二区在线av高清观看| 国产欧美日韩一区二区精品| 一级毛片高清免费大全| 午夜福利在线在线| 色综合站精品国产| 麻豆国产av国片精品| 制服人妻中文乱码| 国产亚洲精品久久久久久毛片| 久久天堂一区二区三区四区| 午夜福利视频1000在线观看| 免费在线观看日本一区| 亚洲成人久久性| 亚洲久久久国产精品| 在线观看免费日韩欧美大片| 久久青草综合色| 精品国产亚洲在线| 哪里可以看免费的av片| 无人区码免费观看不卡| 特大巨黑吊av在线直播 | 亚洲国产精品合色在线| 国产精品1区2区在线观看.| www日本在线高清视频| 中文字幕精品免费在线观看视频| 韩国av一区二区三区四区| 黄色毛片三级朝国网站| 免费一级毛片在线播放高清视频| 亚洲av中文字字幕乱码综合 | 免费看a级黄色片| 人人妻,人人澡人人爽秒播| 老司机靠b影院| 精品国产一区二区三区四区第35| 一级片免费观看大全| 最近最新中文字幕大全电影3 | 亚洲美女黄片视频| 狠狠狠狠99中文字幕| 国产aⅴ精品一区二区三区波| 精品国产亚洲在线| 欧美激情极品国产一区二区三区| 亚洲成a人片在线一区二区| 啦啦啦韩国在线观看视频| 国产野战对白在线观看| 欧美在线一区亚洲| 人人澡人人妻人| 在线观看66精品国产| 国产av在哪里看| 国内揄拍国产精品人妻在线 | 久久午夜综合久久蜜桃| 日韩欧美 国产精品| 99在线人妻在线中文字幕| 国产麻豆成人av免费视频| 黑人操中国人逼视频| 亚洲成人精品中文字幕电影| 免费人成视频x8x8入口观看| 午夜免费鲁丝| 精品人妻1区二区| 国产亚洲精品久久久久5区| 免费看日本二区| 色老头精品视频在线观看| 一a级毛片在线观看| 久久天躁狠狠躁夜夜2o2o| 级片在线观看| 身体一侧抽搐| 一区福利在线观看| 国产片内射在线| 久久国产精品影院| 一本综合久久免费| 久久国产精品影院| 亚洲电影在线观看av| 亚洲熟女毛片儿| 麻豆久久精品国产亚洲av| 一区二区三区激情视频| 少妇粗大呻吟视频| 大型黄色视频在线免费观看| 国产精品综合久久久久久久免费| 婷婷精品国产亚洲av在线| 日韩欧美一区视频在线观看| 最近在线观看免费完整版| 99精品在免费线老司机午夜| 国产成人系列免费观看| 久久性视频一级片| 久久久久免费精品人妻一区二区 | 精品久久久久久久毛片微露脸| 国内精品久久久久久久电影| 手机成人av网站| 久久99热这里只有精品18| 禁无遮挡网站| 亚洲国产欧美网| av天堂在线播放| 91av网站免费观看| 日韩欧美国产在线观看| 日韩欧美国产一区二区入口| 欧美成人性av电影在线观看| 91大片在线观看| 亚洲国产欧美日韩在线播放| 搡老妇女老女人老熟妇| 久久午夜综合久久蜜桃| 亚洲精品一区av在线观看| 亚洲av第一区精品v没综合| www.精华液| 又黄又粗又硬又大视频| 12—13女人毛片做爰片一| 亚洲成人免费电影在线观看| 精品国产乱子伦一区二区三区| 免费在线观看视频国产中文字幕亚洲| 欧美三级亚洲精品| 欧美日韩瑟瑟在线播放| 欧美日韩黄片免| 色综合亚洲欧美另类图片| 亚洲成av片中文字幕在线观看| 亚洲一码二码三码区别大吗| 久久中文字幕人妻熟女| 十分钟在线观看高清视频www| 亚洲一区二区三区不卡视频| 成人国产一区最新在线观看| 日本精品一区二区三区蜜桃| 男人的好看免费观看在线视频 | 国产精品免费视频内射| 成人永久免费在线观看视频| 在线观看66精品国产| 韩国精品一区二区三区| 在线观看一区二区三区| 欧美性猛交黑人性爽| 亚洲九九香蕉| www.www免费av| 最新在线观看一区二区三区| 国产99久久九九免费精品| 国产精品国产高清国产av| 午夜福利高清视频| 欧美黑人精品巨大| 男女之事视频高清在线观看| 欧美中文综合在线视频| 999久久久精品免费观看国产| 欧美性猛交黑人性爽| 国产v大片淫在线免费观看| 一二三四在线观看免费中文在| 日韩欧美三级三区| 亚洲欧美激情综合另类| 国产亚洲精品综合一区在线观看 | 18禁国产床啪视频网站| 国产视频内射| 国产99白浆流出| 午夜福利免费观看在线| 午夜久久久久精精品| 久久精品人妻少妇| 99久久无色码亚洲精品果冻| 淫妇啪啪啪对白视频| 在线观看66精品国产| 国产亚洲欧美在线一区二区| 午夜成年电影在线免费观看| 丝袜在线中文字幕| 欧美在线一区亚洲| 免费观看精品视频网站| 亚洲国产看品久久| 女人被狂操c到高潮| 亚洲成人久久性| 俺也久久电影网| 亚洲国产欧美网| 一区二区日韩欧美中文字幕| 午夜老司机福利片| 国产精品国产高清国产av| 亚洲男人天堂网一区| 精品熟女少妇八av免费久了| 白带黄色成豆腐渣| 久久久久久久久久黄片| 久久久国产成人精品二区| 亚洲五月色婷婷综合| 女性生殖器流出的白浆| 法律面前人人平等表现在哪些方面| 999久久久精品免费观看国产| 国产精品av久久久久免费| 91大片在线观看| 亚洲精品在线观看二区| 男女视频在线观看网站免费 | 欧美乱码精品一区二区三区| 免费电影在线观看免费观看| 亚洲成国产人片在线观看| 久久精品91蜜桃| 俄罗斯特黄特色一大片| 制服人妻中文乱码| 亚洲欧美日韩无卡精品| 精品欧美国产一区二区三| 又黄又粗又硬又大视频| www.999成人在线观看| 久久草成人影院| 亚洲专区国产一区二区| 亚洲男人天堂网一区| 免费在线观看黄色视频的| 成人18禁在线播放| 丁香六月欧美| 亚洲成人免费电影在线观看| 欧美日韩黄片免| 99国产极品粉嫩在线观看| 三级毛片av免费| 欧美国产日韩亚洲一区| 欧美乱码精品一区二区三区| 少妇粗大呻吟视频| 在线免费观看的www视频| 日本 欧美在线| 欧美另类亚洲清纯唯美| 99国产精品99久久久久| 亚洲国产看品久久| 国产熟女午夜一区二区三区| 熟妇人妻久久中文字幕3abv| 久久婷婷人人爽人人干人人爱| bbb黄色大片| av免费在线观看网站| videosex国产| 久久久久精品国产欧美久久久| 国产精品久久久久久亚洲av鲁大| www.www免费av| 亚洲一区二区三区不卡视频| 亚洲熟妇熟女久久| 最新美女视频免费是黄的| 亚洲真实伦在线观看| 国产成人影院久久av| 精品卡一卡二卡四卡免费| 日韩欧美一区二区三区在线观看| 久久这里只有精品19| 久久国产精品影院| 女性生殖器流出的白浆| 亚洲人成网站高清观看| 在线观看一区二区三区| 国产区一区二久久| 久热爱精品视频在线9| 欧美日韩乱码在线| 中文字幕av电影在线播放| 久久天堂一区二区三区四区| 后天国语完整版免费观看| 九色国产91popny在线| 亚洲色图av天堂| 丁香欧美五月| 51午夜福利影视在线观看| 成人18禁在线播放| 国产一级毛片七仙女欲春2 | 国产成人av教育| 一级毛片高清免费大全| 国产精品影院久久| 一个人免费在线观看的高清视频| 午夜老司机福利片| 日日摸夜夜添夜夜添小说| 国产爱豆传媒在线观看 | 国产视频一区二区在线看| 亚洲成人国产一区在线观看| 中文字幕人妻熟女乱码| 国产成+人综合+亚洲专区| 99国产极品粉嫩在线观看| 母亲3免费完整高清在线观看| 欧美久久黑人一区二区| 亚洲电影在线观看av| 午夜福利免费观看在线| 制服人妻中文乱码| 亚洲国产看品久久| 国产精品亚洲av一区麻豆| 日韩免费av在线播放| 一边摸一边抽搐一进一小说| 精品卡一卡二卡四卡免费| 88av欧美| 久久久久精品国产欧美久久久| 97人妻精品一区二区三区麻豆 | 一级a爱视频在线免费观看| 免费看十八禁软件| 麻豆久久精品国产亚洲av| 精品熟女少妇八av免费久了| 亚洲精品一区av在线观看| 首页视频小说图片口味搜索| 国内揄拍国产精品人妻在线 | 欧美在线黄色| 日本三级黄在线观看| 91麻豆精品激情在线观看国产| 天堂影院成人在线观看| 精品国产一区二区三区四区第35| 首页视频小说图片口味搜索| 国产99白浆流出| 一级片免费观看大全| 成人永久免费在线观看视频| 90打野战视频偷拍视频| 国产1区2区3区精品| 日本精品一区二区三区蜜桃| 观看免费一级毛片| 免费av毛片视频| 久久草成人影院| www.自偷自拍.com| 18禁裸乳无遮挡免费网站照片 | 丝袜在线中文字幕| 久久这里只有精品19| 国产成人欧美| cao死你这个sao货| 少妇熟女aⅴ在线视频| 女生性感内裤真人,穿戴方法视频| 给我免费播放毛片高清在线观看| 色综合婷婷激情| 国产精品二区激情视频| 一本精品99久久精品77| 久久亚洲精品不卡| 老司机福利观看| 午夜福利在线在线| 亚洲成a人片在线一区二区| 黄色成人免费大全| 他把我摸到了高潮在线观看| 午夜福利在线观看吧| 99国产精品一区二区三区| 99国产综合亚洲精品| 夜夜躁狠狠躁天天躁| 久久精品国产亚洲av香蕉五月| 十分钟在线观看高清视频www| 久久欧美精品欧美久久欧美| 国产国语露脸激情在线看| 99久久久亚洲精品蜜臀av| 大香蕉久久成人网| 熟女电影av网| 麻豆av在线久日| 久久久久国产精品人妻aⅴ院| 国产精品精品国产色婷婷| 亚洲av片天天在线观看| 亚洲中文av在线| 国产精品一区二区免费欧美| 色在线成人网| 无人区码免费观看不卡| 国产亚洲精品av在线| 日韩欧美在线二视频| 国产野战对白在线观看| 久久久久久亚洲精品国产蜜桃av| 免费看a级黄色片| 99热6这里只有精品| 成人av一区二区三区在线看| 麻豆国产av国片精品| 999久久久精品免费观看国产| 桃红色精品国产亚洲av| 国产视频一区二区在线看| 国产精品久久视频播放| 久久香蕉精品热| 国产精品 国内视频| 国产精品国产高清国产av| videosex国产| 精品国产国语对白av| 久久久久久久午夜电影| 国产精品野战在线观看| av有码第一页| 热re99久久国产66热| 国产亚洲欧美在线一区二区| 日日爽夜夜爽网站| 在线天堂中文资源库| 国产成人av激情在线播放| 日本撒尿小便嘘嘘汇集6| 此物有八面人人有两片| 亚洲人成伊人成综合网2020| 成人国产一区最新在线观看| 午夜老司机福利片| 国产精品综合久久久久久久免费| 麻豆av在线久日| 亚洲成人免费电影在线观看| 成年人黄色毛片网站| 亚洲三区欧美一区| 青草久久国产| 亚洲成人免费电影在线观看| 国产精华一区二区三区| 国产99白浆流出| 最近在线观看免费完整版| 12—13女人毛片做爰片一| 别揉我奶头~嗯~啊~动态视频| 悠悠久久av| 在线观看午夜福利视频| 夜夜看夜夜爽夜夜摸| 两性夫妻黄色片| 国产午夜福利久久久久久| 真人一进一出gif抽搐免费| 精品国产亚洲在线| 香蕉国产在线看| 亚洲精品在线美女| 女警被强在线播放| 韩国精品一区二区三区| 亚洲成a人片在线一区二区| 波多野结衣高清无吗| 国产av又大| 悠悠久久av| 国产麻豆成人av免费视频| 男人舔奶头视频| 中文字幕精品亚洲无线码一区 | 久久精品国产亚洲av香蕉五月| 色尼玛亚洲综合影院| 香蕉av资源在线| 成人18禁高潮啪啪吃奶动态图| 精品乱码久久久久久99久播| 日韩大尺度精品在线看网址| 女性生殖器流出的白浆| 香蕉久久夜色| 国产高清有码在线观看视频 | 精品久久蜜臀av无| 日韩精品免费视频一区二区三区| 高清在线国产一区| 欧美激情 高清一区二区三区| 级片在线观看| avwww免费| 欧美国产日韩亚洲一区| 婷婷精品国产亚洲av在线| 99久久国产精品久久久| 亚洲全国av大片| 亚洲精品久久国产高清桃花| 国产一区二区三区视频了| 一进一出抽搐动态| 2021天堂中文幕一二区在线观 | 一区二区三区激情视频| 男女之事视频高清在线观看| 精品福利观看| 一边摸一边抽搐一进一小说| 欧美成人午夜精品| 高清毛片免费观看视频网站| 免费在线观看影片大全网站| 欧美成人免费av一区二区三区| 午夜a级毛片| 高清在线国产一区| 国产精品av久久久久免费| 久久精品91蜜桃| 久久久久国产一级毛片高清牌| АⅤ资源中文在线天堂| 免费无遮挡裸体视频| 午夜激情福利司机影院| 黄色女人牲交| 国产亚洲精品一区二区www| 两性夫妻黄色片| 国产真人三级小视频在线观看| 可以在线观看毛片的网站| 国产精品 国内视频| 国产精品久久久久久亚洲av鲁大| 久久午夜综合久久蜜桃| 黄频高清免费视频| 欧美一区二区精品小视频在线| 久久伊人香网站| 90打野战视频偷拍视频| 亚洲三区欧美一区| 国产日本99.免费观看| 婷婷六月久久综合丁香| 色综合婷婷激情| 在线观看免费日韩欧美大片| 巨乳人妻的诱惑在线观看| 国产精品野战在线观看| 一边摸一边抽搐一进一小说| 亚洲成人精品中文字幕电影| 免费在线观看日本一区| 中亚洲国语对白在线视频| 最好的美女福利视频网| 日韩大尺度精品在线看网址| 母亲3免费完整高清在线观看| 神马国产精品三级电影在线观看 | 国产精品亚洲一级av第二区| 久久久国产成人精品二区| 在线天堂中文资源库| 一级a爱视频在线免费观看| 久久久久久亚洲精品国产蜜桃av| 老汉色av国产亚洲站长工具| 成人国产综合亚洲| 在线看三级毛片| 深夜精品福利| 亚洲国产精品合色在线| 亚洲人成伊人成综合网2020| 国产成年人精品一区二区| 亚洲av五月六月丁香网| 桃色一区二区三区在线观看| 日本精品一区二区三区蜜桃| 欧美日韩精品网址| 夜夜夜夜夜久久久久| 哪里可以看免费的av片| 老司机深夜福利视频在线观看| 国产精品久久视频播放| 日韩成人在线观看一区二区三区| 日本一本二区三区精品| 一个人观看的视频www高清免费观看 | 一本一本综合久久| 一区二区日韩欧美中文字幕| 成人永久免费在线观看视频| 欧美日韩福利视频一区二区| 国产免费av片在线观看野外av| 好看av亚洲va欧美ⅴa在| 久久九九热精品免费| av在线播放免费不卡|