• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    治理能力現(xiàn)代化視閾下民事糾紛解決智能化研究

    2020-03-13 04:35:38
    廣西社會(huì)科學(xué) 2020年3期
    關(guān)鍵詞:仲裁裁判糾紛

    (云南大學(xué) 法學(xué)院,云南 昆明 650091)

    人工智能近些年呈現(xiàn)出迅猛發(fā)展態(tài)勢(shì),尤其是2016年阿爾法狗和李世石“人機(jī)大戰(zhàn)”后,人工智能逐漸上升為各國(guó)國(guó)家戰(zhàn)略。我國(guó)于2017年7月發(fā)布《新一代人工智能發(fā)展規(guī)劃》,提出了我國(guó)人工智能發(fā)展的戰(zhàn)略目標(biāo)。在此背景下,人工智能法治逐漸成為人工智能時(shí)代法治發(fā)展的新趨勢(shì),人工智能在司法領(lǐng)域的應(yīng)用也越發(fā)廣泛和深入,社會(huì)矛盾治理和民事糾紛解決進(jìn)入現(xiàn)代化和智能化的新發(fā)展機(jī)遇期。習(xí)近平總書(shū)記在中央政法工作會(huì)議上指出要“堅(jiān)持把非訴訟糾紛解決機(jī)制挺在前面。”[1]如何發(fā)揮非訴訟糾紛解決方式的實(shí)效成為多元化糾紛解決機(jī)制改革的重點(diǎn)和難點(diǎn)。民事糾紛解決的智能化平臺(tái)和技術(shù)則提供了很好的支撐。近年來(lái),在線糾紛解決機(jī)制(Online Dispute Resolution,ODR)憑借其對(duì)民事糾紛化解的及時(shí)、有效的優(yōu)勢(shì)備受青睞,發(fā)展迅猛。民事糾紛解決的智能化是ODR的新階段和更高境界,是人工智能在民事糾紛解決領(lǐng)域的新拓展。從此視角觀察,傳統(tǒng)糾紛解決機(jī)制在技術(shù)和規(guī)則方面的研發(fā)、變革成為實(shí)現(xiàn)糾紛解決智能化的主要抓手,如何統(tǒng)籌各類糾紛解決機(jī)制,形成系統(tǒng)化、信息化的糾紛解決機(jī)制,也就成為新時(shí)代法學(xué)和社會(huì)學(xué)共同研究的重大命題和新的歷史使命。

    一、價(jià)值闡釋:民事糾紛解決智能化的趨勢(shì)

    智能化趨勢(shì)下的民事糾紛解決機(jī)制相比傳統(tǒng)糾紛解決模式而言體現(xiàn)出諸多優(yōu)勢(shì),具有重要的社會(huì)進(jìn)步價(jià)值,不僅有利于助推國(guó)家治理體系和治理能力現(xiàn)代化,也有助于深層次推進(jìn)國(guó)家司法體制改革和綜合配套改革。

    (一)有利于實(shí)現(xiàn)社會(huì)治理能力現(xiàn)代化

    黨的十八大以來(lái),以習(xí)近平同志為核心的黨中央提出推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化的目標(biāo)。2019年10月31日,黨的十九屆四中全會(huì)通過(guò)的《中共中央關(guān)于堅(jiān)持和完善中國(guó)特色社會(huì)主義制度推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化若干重大問(wèn)題的決定》指出,國(guó)家治理體系和治理能力現(xiàn)代化的提升要與人工智能相融合。人工智能與民事糾紛解決深度融合形成的民事糾紛解決智能化,強(qiáng)化了在線糾紛化解方式的創(chuàng)新,聯(lián)通了司法系統(tǒng)以外的在線解決平臺(tái)和在線法院平臺(tái),建構(gòu)和健全了在線調(diào)解、在線司法確認(rèn)以及在線審判為一體的信息平臺(tái),并探索人工智能在糾紛化解領(lǐng)域的應(yīng)用,如大力推動(dòng)人民法院信息化3.0版即“智慧法院”建設(shè)。總的來(lái)說(shuō),民事糾紛解決的智能化有助于實(shí)現(xiàn)資源整合、數(shù)據(jù)分析,改變了傳統(tǒng)民事糾紛解決的方式,提升了民事糾紛解決的有效性,拓展了國(guó)家治理新領(lǐng)域,提升了社會(huì)矛盾治理的水平,有助于實(shí)現(xiàn)社會(huì)治理能力現(xiàn)代化。另外,民事糾紛解決的智能化發(fā)展有效推動(dòng)了人民法院的審判工作高效開(kāi)展,對(duì)民事糾紛實(shí)現(xiàn)合理有效分流,助推“訴源治理”實(shí)現(xiàn),保障人民法院“簡(jiǎn)案快審”“繁案精審”,有助于人民法院擺脫案多人少導(dǎo)致的“遲來(lái)的正義”的負(fù)面形象問(wèn)題,也極大提升了社會(huì)治理的整體水平。

    (二)有利于深化多元化糾紛解決機(jī)制改革

    《中共中央關(guān)于全面推進(jìn)依法治國(guó)若干重大問(wèn)題的決定》提出要完善有機(jī)銜接、相互協(xié)調(diào)的多元化糾紛解決機(jī)制。2015年10月,中共中央辦公廳和國(guó)務(wù)院辦公廳印發(fā)《關(guān)于完善矛盾糾紛多元化解機(jī)制的意見(jiàn)》,更是進(jìn)一步強(qiáng)調(diào)完善矛盾糾紛多元化糾紛解決機(jī)制的重要性。雖然目前我國(guó)集調(diào)解、仲裁、訴訟為一體的多元化糾紛解決機(jī)制已初步形成,但當(dāng)前民事糾紛解決機(jī)制仍然面臨著糾紛解決效率不高、糾紛解決資源配合不夠、解紛方式銜接不暢、非訴糾紛解決分流功能不足的弊端。隨著人工智能在司法領(lǐng)域應(yīng)用的深入推進(jìn),民事糾紛解決的智能化發(fā)展深化了多元化糾紛解決機(jī)制的改革。一方面,民事糾紛解決的智能化有利于實(shí)現(xiàn)各類糾紛解決機(jī)制跨界融合,其通過(guò)互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能以及云計(jì)算為多元化糾紛解決機(jī)制的融合提供了強(qiáng)大的技術(shù)支撐,有助于搭建全方位、模塊化、一體化的在線糾紛化解平臺(tái);另一方面,糾紛解決的智能化本身就是一種新的糾紛化解機(jī)制,這種新機(jī)制通過(guò)對(duì)物理空間的“脫域”①“脫域”是指社會(huì)關(guān)系從彼此互動(dòng)的地域性關(guān)聯(lián)中脫離出來(lái)也即從脫離了共同在場(chǎng)情境。參見(jiàn)安東尼·吉登斯《現(xiàn)代性的后果》,田禾譯,譯林出版社,2011年版第18頁(yè)。提高了法院的可獲得性,具有方便快捷、高度靈活的特征。同時(shí),流程化的公開(kāi)方式也使得這種糾紛化解機(jī)制更為透明,當(dāng)事人會(huì)有更多獲得感和認(rèn)同感,有利于提升司法公信力。

    (三)有利于防止司法擅斷、提升司法公信力

    隨著我國(guó)司法體制改革和司法責(zé)任制改革的深入推進(jìn),“讓審理者裁判,由裁判者負(fù)責(zé)”已成為我國(guó)的司法常態(tài)。在此背景下,案件承辦法官成為真正的裁判者,而必須正視的是“法官是喜愛(ài)和厭惡、偏好和偏見(jiàn),本能、情感、習(xí)慣和信念的復(fù)合體”[2],不可避免地容易導(dǎo)致司法擅斷。同時(shí),法官極易陷入經(jīng)驗(yàn)主義的固有思維。這就會(huì)在很大程度上衍生出法官“決策—論證”的思維過(guò)程,帶有極強(qiáng)的證實(shí)性偏見(jiàn),也就是說(shuō)論證往往是為了加強(qiáng)決策前提,而非否定先導(dǎo)性決策。這種思維違反了科學(xué)司法裁判的“論證—決策”客觀規(guī)律要求,加重了司法擅斷的危害性。此外,基于不同層級(jí)和地域的法院經(jīng)驗(yàn)積累與現(xiàn)實(shí)環(huán)境的差異性,“同案不同判”現(xiàn)象突出,進(jìn)一步放大了司法擅斷的不良影響,極大損害了司法公信力。因此,如何預(yù)防司法擅斷成為新時(shí)代司法改革過(guò)程中面臨的重要問(wèn)題。民事糾紛解決智能化是防止法官司法擅斷的有效方式,如精準(zhǔn)的類案推送技術(shù)可以為法官在裁判案件時(shí)提供較為詳盡的既往類似案件裁決思路和結(jié)果,為其提供類案裁判的智識(shí),加上對(duì)類案參照適用約束的逐漸強(qiáng)化,可以幫助法官擺脫地域經(jīng)驗(yàn)桎梏,形成較為規(guī)范和公正的思維邏輯,從而限制法官對(duì)裁判權(quán)的濫用。

    二、司法實(shí)踐:民事糾紛解決智能化的探索

    智能化正在改變著民事糾紛解決的生態(tài),無(wú)論是司法機(jī)關(guān)、行政機(jī)關(guān)還是仲裁機(jī)構(gòu)均在進(jìn)行糾紛解決智能化的革命性探索。2018年4月,最高人民法院專門出臺(tái)了《人民法院信息化建設(shè)五年發(fā)展規(guī)劃(2018—2022)》,為民事糾紛解決智能化提供了方向指引??偟膩?lái)說(shuō),我國(guó)民事糾紛解決智能化發(fā)展取得了較好的成效。

    (一)智慧法院建設(shè)如火如荼

    人工智能在司法層面的運(yùn)用以人民法院信息化3.0為主要契機(jī),其核心在于智能化,強(qiáng)調(diào)通過(guò)人工智能和大數(shù)據(jù)在司法中的應(yīng)用實(shí)現(xiàn)審判和執(zhí)行的智能化。2015年7月,最高人民法院首次提出智慧法院概念,拉開(kāi)了全國(guó)范圍內(nèi)大力推進(jìn)智慧法院建設(shè)的序幕;2016年,隨著《國(guó)家信息化發(fā)展戰(zhàn)略綱要》《“十三五”國(guó)家信息化規(guī)劃》的出臺(tái),智慧法院建設(shè)被列入國(guó)家信息化發(fā)展戰(zhàn)略;2017年4月,最高人民法院印發(fā)《關(guān)于加快智慧法院的意見(jiàn)》;2019年,最高人民法院網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組第二次全體會(huì)議審議通過(guò)了《全面推進(jìn)司法人工智能建設(shè)的總體思路》和《智慧法院建設(shè)評(píng)價(jià)指標(biāo)體系(2019年版)》,為智慧法院建設(shè)提供了更為清晰和完善的頂層設(shè)計(jì)指引。由此,智慧法院建設(shè)逐漸成為我國(guó)司法改革的主要內(nèi)容,司法智能化進(jìn)入高速發(fā)展新階段。2018年6月,全國(guó)首家智慧法院實(shí)踐基地在上海海事法院掛牌成立。移動(dòng)微法院也在各地迅速推廣,據(jù)統(tǒng)計(jì),已有44%的法院開(kāi)通訴訟服務(wù)APP或微信小程序;全國(guó)95.22%的法院建成了信息化程度較高的訴訟服務(wù)大廳,82.67%的法院開(kāi)通了訴訟服務(wù)網(wǎng),智慧法院建設(shè)卓有成效[3]。

    (二)互聯(lián)網(wǎng)審判機(jī)構(gòu)迅速崛起

    互聯(lián)網(wǎng)法院是我國(guó)糾紛解決智能化的重大實(shí)踐,是進(jìn)一步向智能化轉(zhuǎn)型升級(jí)的重要基礎(chǔ)。2017年8月18日,杭州互聯(lián)網(wǎng)法院成立,開(kāi)啟了中國(guó)互聯(lián)網(wǎng)案件集中管轄、專業(yè)審判新篇章。2018年,北京、廣州兩地的互聯(lián)網(wǎng)法院相繼掛牌成立。此外,各地法院也相繼開(kāi)設(shè)互聯(lián)網(wǎng)法庭,如2018年2月6日,上海長(zhǎng)寧設(shè)立全市首家互聯(lián)網(wǎng)法庭;2018年6月22日,西部地區(qū)首個(gè)互聯(lián)網(wǎng)法庭在成都市郫都區(qū)掛牌成立。再如河北正定縣人民法院開(kāi)通的交通事故微信法庭,創(chuàng)設(shè)了交通事故糾紛“一條龍”服務(wù),通過(guò)該微信法庭,可以實(shí)現(xiàn)交通事故責(zé)任認(rèn)定、人民調(diào)解、司法確認(rèn)、司法鑒定、訴訟審理、保險(xiǎn)理賠等一體化糾紛化解服務(wù)功能。2018年9月,浙江在全省范圍內(nèi)推廣的移動(dòng)微法院4.0版,具有在線立案、查詢案件、在線調(diào)解、在線庭審、在線送達(dá)等30余項(xiàng)功能。不管是互聯(lián)網(wǎng)法院、互聯(lián)網(wǎng)法庭還是微信法庭,均是法院順應(yīng)人工智能時(shí)代發(fā)展要求,針對(duì)糾紛解決智能化需求,創(chuàng)設(shè)的新型審理模式。互聯(lián)網(wǎng)庭審作為一種遠(yuǎn)程庭審模式,可便捷處理跨地域案件,訴訟成本低、審判效率高,且具有海量、小額的特殊屬性,既服務(wù)了當(dāng)事人訴求,也化解了人民法院的痛點(diǎn)、難點(diǎn)和堵點(diǎn),具有較強(qiáng)的應(yīng)用價(jià)值。

    (三)在線調(diào)解被廣泛應(yīng)用

    在線調(diào)解是近些年我國(guó)民事糾紛化解的新模式,這種模式能夠進(jìn)行信息傳輸、遠(yuǎn)程視頻會(huì)議并實(shí)現(xiàn)調(diào)解專家資源共享。隨著在線調(diào)解優(yōu)勢(shì)逐漸凸顯,全國(guó)各地司法機(jī)關(guān)開(kāi)始強(qiáng)化在線調(diào)解平臺(tái)的開(kāi)發(fā)應(yīng)用。如2016年6月,成都市、區(qū)兩級(jí)法院率先推行“和合智解”e調(diào)解平臺(tái),2016年10月,安徽馬鞍山全市兩級(jí)統(tǒng)一的在線調(diào)解平臺(tái)開(kāi)始運(yùn)行。2017年2月16日,在全國(guó)法院深入推進(jìn)多元化糾紛解決機(jī)制改革暨示范法院經(jīng)驗(yàn)交流會(huì)上,最高人民法院正式啟動(dòng)在線調(diào)解平臺(tái)建設(shè)試點(diǎn)工作。2017年11月,全國(guó)范圍開(kāi)通在線調(diào)解平臺(tái)的法院就已達(dá)到500多家[4]。在線調(diào)解平臺(tái)運(yùn)用互聯(lián)網(wǎng)技術(shù)和智能化技術(shù),與人民調(diào)解、行業(yè)調(diào)解、商事調(diào)解以及行政調(diào)解的深入對(duì)接,完善了糾紛受理、調(diào)解和在線司法確認(rèn)全流程,極大提升了糾紛解決的高效性和便捷性。

    (四)在線仲裁被大力推廣

    在線仲裁是利用網(wǎng)絡(luò)技術(shù)提供仲裁服務(wù)的網(wǎng)上替代性糾紛解決方式,其也成為民事糾紛化解智能化的重要試驗(yàn)場(chǎng)和示范基地,在司法實(shí)踐中被大力推廣。2015年1月,中國(guó)國(guó)際經(jīng)濟(jì)貿(mào)易仲裁委員會(huì)發(fā)布新修訂的《網(wǎng)上仲裁規(guī)則》。2015年3月,廣州市仲裁委設(shè)立我國(guó)首個(gè)專門的在線仲裁院。2018年1月4日,廣州仲裁委員會(huì)聯(lián)合第三方電子合同平臺(tái)“法大大”推出一站式網(wǎng)絡(luò)仲裁服務(wù)平臺(tái),并與全國(guó)150多家機(jī)構(gòu)簽署《中國(guó)互聯(lián)網(wǎng)仲裁聯(lián)盟合作協(xié)議書(shū)》。僅2017年廣州仲裁委受理的網(wǎng)絡(luò)仲裁案件總標(biāo)的額已約達(dá)26億人民幣[5]。2019年7月18日,寧波仲裁委互聯(lián)網(wǎng)在線仲裁平臺(tái)暨全國(guó)首個(gè)仲裁電子證據(jù)平臺(tái)正式上線運(yùn)行。重慶仲裁委、北京仲裁委、武漢仲裁委、青島仲裁委以及深圳仲裁委等國(guó)內(nèi)知名仲裁機(jī)構(gòu)均對(duì)在線仲裁進(jìn)行了較為有益的探索。2019年4月,中共中央辦公廳、國(guó)務(wù)院辦公廳《關(guān)于完善仲裁制度提高仲裁公信力的若干意見(jiàn)》明確提出“研究探索線上仲裁、智能仲裁,實(shí)現(xiàn)線上線下協(xié)同發(fā)展”的要求,為在線仲裁的進(jìn)一步發(fā)展提供了良好的政策指引。

    三、問(wèn)題剖析:民事糾紛解決智能化的障礙

    從司法實(shí)踐的視角看,盡管民事糾紛智能化發(fā)展如火如荼,系列智能類案推送產(chǎn)品或糾紛解決新模式層出不窮,但從運(yùn)行實(shí)效觀察,民事糾紛解決智能化仍存在諸多突出問(wèn)題,這些問(wèn)題甚至成為較長(zhǎng)一段時(shí)間束縛民事糾紛解決智能化深入推進(jìn)的重要瓶頸。

    (一)民事糾紛解決智能化頂層設(shè)計(jì)不足

    民事糾紛解決的智能化對(duì)傳統(tǒng)糾紛解決規(guī)范的沖擊和影響較大,尤其是現(xiàn)行民事訴訟法、仲裁法以及人民調(diào)解法對(duì)程序參與親歷性的要求在極大程度上束縛了糾紛解決的智能化發(fā)展,甚至成為制度性羈絆。鑒于人工智能在民事糾紛領(lǐng)域的特殊性,應(yīng)在時(shí)機(jī)成熟后結(jié)合在線糾紛解決、智慧庭審以及大數(shù)據(jù)等因素考量,制定具有獨(dú)立性的民事糾紛解決智能化程序規(guī)范。雖然最高人民法院針對(duì)遠(yuǎn)程庭審制定了《關(guān)于互聯(lián)網(wǎng)法院審理案件若干問(wèn)題的規(guī)定》,為在線庭審的部分應(yīng)用提供了制度支撐,但這些規(guī)范仍具有一定的局限性,尤其是缺乏普遍性。此外,糾紛解決智能化的遠(yuǎn)程性特征使其遭遇正當(dāng)程序追問(wèn),以至于其合法性問(wèn)題也成為焦點(diǎn)。如2019年11月21日,廣東省高級(jí)人民法院發(fā)布的《關(guān)于規(guī)范網(wǎng)絡(luò)借貸仲裁裁決執(zhí)行的通知》明確了對(duì)缺乏程序保障的在線仲裁不予執(zhí)行。具體來(lái)說(shuō),糾紛解決智能化面臨的程序正當(dāng)性質(zhì)疑主要體現(xiàn)在兩個(gè)方面:一方面,遠(yuǎn)程庭審中決定了其去現(xiàn)場(chǎng)性,不能進(jìn)行直接審理,法官與當(dāng)事人參與程度受限,難以達(dá)到近距離觀察具有的“辭聽(tīng)、色聽(tīng)、氣聽(tīng)、耳聽(tīng)、目聽(tīng)”效果;另一方面,遠(yuǎn)程庭審的空間變化決定了智能庭審的去儀式性。在線庭審或調(diào)解場(chǎng)景下,當(dāng)事人不再具有傳統(tǒng)糾紛解決場(chǎng)景附帶的嚴(yán)肅性,尤其是異步審理模式下,當(dāng)事人有更多的時(shí)間回應(yīng)和思考,不再利于事實(shí)發(fā)現(xiàn)和法律適用,糾紛解決的智能化易異化為新的“訴訟競(jìng)技”。

    (二)民事糾紛解決智能化大數(shù)據(jù)基礎(chǔ)欠缺

    法律領(lǐng)域中的人工智能以大量數(shù)據(jù),尤其是優(yōu)質(zhì)數(shù)據(jù)為基礎(chǔ)[6]。當(dāng)前我國(guó)法律人工智能的大數(shù)據(jù)基礎(chǔ)主要來(lái)自中國(guó)裁判文書(shū)網(wǎng)上傳的裁判文書(shū)。據(jù)相關(guān)學(xué)者的統(tǒng)計(jì),上網(wǎng)公開(kāi)的裁判文書(shū)的數(shù)量只有審結(jié)案件數(shù)量的一半,且公開(kāi)的文書(shū)以判決書(shū)、決定書(shū)為主,偶有調(diào)解書(shū)[7],可見(jiàn)裁判文書(shū)網(wǎng)未涵蓋所有的結(jié)案文書(shū),法律數(shù)據(jù)范圍覆蓋不全[8]。同時(shí),數(shù)據(jù)真實(shí)性不足也是當(dāng)前人工智能在民事糾紛解決領(lǐng)域運(yùn)用面臨的困境。從司法實(shí)踐看,司法裁判形成的因素涉及情、理、法三個(gè)層面,既要考慮政治效果、社會(huì)效果,還要兼顧法律效果。分析現(xiàn)行裁判文書(shū)的說(shuō)理要求和書(shū)寫慣例,不難發(fā)現(xiàn)裁判文書(shū)中有關(guān)裁判形成過(guò)程,尤其是雙方當(dāng)事人的博弈過(guò)程、裁判目的考量因素以及心證形成過(guò)程等關(guān)鍵信息缺乏詳細(xì)、完整的記載,法官裁決時(shí)考量的諸多實(shí)質(zhì)信息未在判決文書(shū)中體現(xiàn),裁判文書(shū)說(shuō)理不足現(xiàn)象大量存在[9]。這使得當(dāng)前的人工智能無(wú)法從網(wǎng)上公開(kāi)的裁判文書(shū)中獲取更多的實(shí)質(zhì)信息,難以按照法律三段論的演繹思維邏輯形成較為規(guī)范且具有信服力的法律決策結(jié)果。此外,裁判文書(shū)數(shù)據(jù)庫(kù)與檢察院、公安機(jī)關(guān)之間,與銀行、郵政等企業(yè)的數(shù)據(jù)庫(kù)之間缺乏共享與利用,形成“數(shù)據(jù)孤島”浪費(fèi)資源??偟膩?lái)看,我國(guó)現(xiàn)行裁判文書(shū)網(wǎng)的數(shù)據(jù)難以滿足民事糾紛解決智能化在發(fā)現(xiàn)和總結(jié)法律決策模式方面的大數(shù)據(jù)需要。

    (三)民事糾紛解決智能化遭遇倫理拷問(wèn)

    倫理問(wèn)題是人工智能司法應(yīng)用面臨的共性問(wèn)題,也是全球范圍內(nèi)必須關(guān)注和解決的重大問(wèn)題。美國(guó)學(xué)者最早對(duì)機(jī)器倫理進(jìn)行了界定,指出機(jī)器倫理是指具有人工智能的機(jī)器給人類以及其他機(jī)器所帶來(lái)的結(jié)果[10]。2016年8月,聯(lián)合國(guó)科學(xué)知識(shí)與科技倫理世界委員會(huì)發(fā)布的《機(jī)器人倫理初步報(bào)告草案》,明確提出應(yīng)當(dāng)將特定倫理準(zhǔn)則編寫進(jìn)機(jī)器人中[11]。就民事糾紛解決人工智能而言,其面臨的倫理拷問(wèn)突出表現(xiàn)在四個(gè)方面:一是如何定位民事糾紛解決智能化。人工智能司法是對(duì)傳統(tǒng)司法的替代還是輔助?二是民事糾紛解決智能化遭遇算法不透明困境?;谒惴ǖ膶@裕?dāng)事人無(wú)法查看算法,人工智能在司法領(lǐng)域中結(jié)論形成的過(guò)程也無(wú)法進(jìn)行公示,甚至可以說(shuō),人工智能形成的司法結(jié)論幾乎不存在可以向當(dāng)事人解釋的規(guī)則,進(jìn)而形成了人工智能司法無(wú)法回避且難以克服的“算法黑箱”問(wèn)題。這將嚴(yán)重違背司法透明性和公開(kāi)性的要求,也無(wú)滿足民事糾紛解決程序所要求的心證公開(kāi),進(jìn)而影響司法公信力。三是民事糾紛解決智能化面臨著算法歧視的質(zhì)疑。算法是相關(guān)的指令[12],數(shù)據(jù)是算法的原料,人工智能根據(jù)算法規(guī)則對(duì)數(shù)據(jù)進(jìn)行選取,并依據(jù)這些選中的數(shù)據(jù)信息生成指令以完成相關(guān)的任務(wù)。一旦數(shù)據(jù)不真實(shí)、不全面或算法設(shè)計(jì)者個(gè)人的價(jià)值偏好與主觀意圖融入算法之中,則將導(dǎo)致生成的指令存在偏見(jiàn)或歧視,換言之,民事糾紛解決領(lǐng)域中的人工智能可能存在著裁判不公,影響司法公信力。更為糟糕的是,在算法不透明的狀態(tài)下,算法歧視是一項(xiàng)隱性歧視[13],人工智能裁判的不公也成為一種隱性不公,在剝奪或弱化當(dāng)事人參與訴訟的機(jī)會(huì)和權(quán)利的同時(shí)使其深受其害而不自知,又或知道其權(quán)益受到侵害,但卻因不了解決策形成過(guò)程,難以反駁決策而陷入無(wú)能為力的困境[14]。

    (四)民事糾紛解決智能化面臨技術(shù)瓶頸

    近年來(lái),各地黨委、政府和司法機(jī)關(guān)均根據(jù)人工智能時(shí)代的發(fā)展需求順勢(shì)而為,在糾紛化解領(lǐng)域大力推動(dòng)制度和機(jī)制革新,并在人工智能司法應(yīng)用方面加大了人力、物力、財(cái)力投入。但從總體效果來(lái)看,糾紛解決領(lǐng)域智能化程度主要受制于相應(yīng)技術(shù),尤其是我國(guó)人工智能司法應(yīng)用技術(shù)仍處于且將在一定時(shí)期內(nèi)處于“弱智能時(shí)代”(Weak AI)語(yǔ)境下,編程、算法以及深度學(xué)習(xí)等技術(shù)問(wèn)題的基本原理掌握和運(yùn)用成為制約糾紛解決智能化發(fā)展的主要瓶頸。從人工智能司法應(yīng)用的現(xiàn)狀看,糾紛解決智能化技術(shù)與司法審判業(yè)務(wù)需求、群眾糾紛解決需求脫節(jié)的現(xiàn)象仍在較大程度上存在,導(dǎo)致智能化預(yù)期效果實(shí)現(xiàn)不佳,當(dāng)事人和司法人員對(duì)智能化工具運(yùn)用的熱情也受到一定程度的影響。例如在線調(diào)解、在線仲裁與智慧法院之間,以及各人工智能糾紛解決機(jī)制線上與線下之間各自為政,缺乏銜接且標(biāo)準(zhǔn)不一,信息無(wú)法共享,資源更是無(wú)法有效整合,當(dāng)事人在選擇時(shí)難以抉擇。又如電子簽名的使用成本較高,電子簽名僅在電子政務(wù)和金融等有限領(lǐng)域適用[15]。

    四、路徑完善:民事糾紛解決智能化的改進(jìn)

    智能化被廣泛認(rèn)為是新時(shí)代國(guó)家治理現(xiàn)代化的重要標(biāo)志,其在民事糾紛解決領(lǐng)域也有著不可估量的發(fā)展前景。因此,我們應(yīng)以積極和肯定的態(tài)度看待民事糾紛解決智能化的發(fā)展趨勢(shì),并就如何進(jìn)一步完善提出切實(shí)可行的改進(jìn)措施。

    (一)完善民事糾紛解決智能化頂層設(shè)計(jì)

    完善相應(yīng)的頂層設(shè)計(jì),尤其是建構(gòu)良性的規(guī)范性依據(jù)是保障或促進(jìn)民事糾紛解決智能化健康發(fā)展的制度性力量。一是完善民事訴訟法、人民調(diào)解法、仲裁法等相關(guān)基礎(chǔ)立法。順應(yīng)糾紛解決智能化的發(fā)展趨勢(shì),在頂層立法層面認(rèn)可糾紛解決智能化的價(jià)值,并及時(shí)合理調(diào)整糾紛解決領(lǐng)域不利于人工智能應(yīng)用的法律規(guī)范。二是專門針對(duì)糾紛解決智能化制定一套較為完善的規(guī)范制度,包括在線訴訟、在線仲裁以及在線調(diào)解等制度,如《電子訴訟特別程序規(guī)則》《民事糾紛化解智能化運(yùn)用規(guī)則》等。這些制度規(guī)范不僅局限于滿足互聯(lián)網(wǎng)法院或網(wǎng)絡(luò)仲裁庭的運(yùn)行需要,更要著眼于普適性的法院、仲裁機(jī)構(gòu)以及人民調(diào)解組織在線智能化的運(yùn)行。三是建構(gòu)契合糾紛解決智能化的正當(dāng)程序。鑒于糾紛解決智能化以在線糾紛化解為基礎(chǔ),具有去在場(chǎng)性和去儀式性特征,應(yīng)當(dāng)借助人工智能技術(shù)完善和健全當(dāng)事人異議權(quán)等方式充分保障當(dāng)事人的聽(tīng)審請(qǐng)求權(quán),重構(gòu)民事糾紛解決儀式性和在場(chǎng)性的內(nèi)涵,并充分尊重當(dāng)事人的程序參與權(quán)。需要注意是,針對(duì)所有的智能化變革,相應(yīng)的頂層設(shè)計(jì)需要建立在傳統(tǒng)民事審判和糾紛解決理念基礎(chǔ)上,絕不能與之完全脫離[16]。

    (二)健全民事糾紛解決智能化大數(shù)據(jù)基礎(chǔ)

    健全大數(shù)據(jù)基礎(chǔ)是民事糾紛解決智能化的當(dāng)務(wù)之急,在將民事糾紛解決智能化定位為司法輔助角色的前提下,須從宏觀和微觀兩個(gè)層面對(duì)大數(shù)據(jù)基礎(chǔ)加以完善。宏觀層面上,一是完善數(shù)據(jù)庫(kù)的中心架構(gòu),逐步建立優(yōu)秀案例庫(kù)、同案推送庫(kù)、智能檢索庫(kù)、糾紛數(shù)據(jù)庫(kù)、法律條文庫(kù)、動(dòng)態(tài)性裁決文書(shū)庫(kù)等數(shù)據(jù)庫(kù)。二是創(chuàng)建公、檢、法、司內(nèi)部法律大數(shù)據(jù),錄入公安機(jī)關(guān)、司法行政機(jī)關(guān)和檢察機(jī)關(guān)分別收集或制作的相關(guān)數(shù)據(jù),推動(dòng)公、檢、法和司法行政機(jī)關(guān)之間的數(shù)據(jù)共享,打破法律大數(shù)據(jù)來(lái)源渠道的單一性[17]。三是建立公共數(shù)據(jù)開(kāi)放共享機(jī)制,將可公開(kāi)的法律數(shù)據(jù)與銀行、郵政、稅務(wù)等其他社會(huì)公共服務(wù)行業(yè)的數(shù)據(jù)融合、共享,打破數(shù)據(jù)壁壘,提升社會(huì)治理能力。微觀層面上,一是健全裁判文書(shū)發(fā)布責(zé)任機(jī)制,推動(dòng)可公開(kāi)的裁判文書(shū)網(wǎng)上公布,促使裁判文書(shū)網(wǎng)上數(shù)據(jù)范圍擴(kuò)大。二是提升大數(shù)據(jù)的真實(shí)性,充分錄入能真實(shí)反映法官?zèng)Q策的真實(shí)信息,例如法官在裁判時(shí)對(duì)情、理、法的適用與考量以及法院審委會(huì)討論案件的決定及其理由①2019年9月,最高人民法院發(fā)布的《關(guān)于健全完善人民法院審判委員會(huì)工作機(jī)制的意見(jiàn)》第二十四條規(guī)定,除法律規(guī)定不公開(kāi)的外,審判委員會(huì)討論案件的決定及其理由應(yīng)當(dāng)在裁判文書(shū)中公開(kāi)。,使數(shù)據(jù)信息真實(shí)化。三是擴(kuò)充法律大數(shù)據(jù)的內(nèi)容,將法院庭審筆錄、案卷材料等信息轉(zhuǎn)化為法律大數(shù)據(jù),豐富法律大數(shù)據(jù)的類型。四是提升大數(shù)據(jù)的識(shí)別度,統(tǒng)一規(guī)范法律用語(yǔ),使實(shí)踐中大量非結(jié)構(gòu)化或半結(jié)構(gòu)化的法律用語(yǔ)轉(zhuǎn)化為有價(jià)值、可運(yùn)用的結(jié)構(gòu)化法律大數(shù)據(jù),推動(dòng)法律大數(shù)據(jù)規(guī)范化,使其易為人工智能識(shí)別與學(xué)習(xí)。

    (三)凝練民事糾紛解決智能化倫理規(guī)范

    如何避免人工智能偏見(jiàn),確保“科技向善”,是人工智能發(fā)展面臨的重大問(wèn)題,也是必須堅(jiān)持的一項(xiàng)基本理念。2019年4月,歐盟委員會(huì)發(fā)布人工智能(AI)倫理準(zhǔn)則。2019年6月,我國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工治理原則——發(fā)展負(fù)責(zé)任的人工智能》。促進(jìn)人工智能向善,實(shí)現(xiàn)人工智能“可信、可靠、可控”,在人工智能司法應(yīng)用領(lǐng)域,尤其是糾紛解決智能化發(fā)展過(guò)程中,同樣是不可忽視的基礎(chǔ)性問(wèn)題,也是必須澄清的焦點(diǎn)問(wèn)題。首先,確立民事糾紛人工智能司法輔助的倫理規(guī)范,避免司法過(guò)度依賴人工智能,防止司法改革被化約為技術(shù)改革[18]。其次,就其面臨的算法黑箱和算法歧視問(wèn)題而言,根據(jù)民事糾紛智能化適用的主體區(qū)分,這些問(wèn)題主要存在于公法主體,特別是司法機(jī)關(guān)如何保障民事糾紛過(guò)程和結(jié)果公開(kāi)、公正的問(wèn)題。相對(duì)而言,私主體在民事糾紛解決過(guò)程中運(yùn)用智能化決策,例如公民個(gè)人、公司以及律師等在法律文書(shū)起草、案件預(yù)測(cè)等方面不存在算法黑箱和歧視問(wèn)題,因而可以在此領(lǐng)域加強(qiáng)相關(guān)技術(shù)的開(kāi)發(fā)和應(yīng)用。針對(duì)公法主體而言,則應(yīng)進(jìn)一步優(yōu)化糾紛解決智能應(yīng)用的算法,確保算法透明、安全、公平。這就要求在全國(guó)范圍內(nèi),制定一套針對(duì)性的人工智能司法應(yīng)用倫理規(guī)范,對(duì)算法從設(shè)計(jì)主體、責(zé)任、有益性、透明性、多元性等方面進(jìn)行限定。再次,構(gòu)建民事糾紛人工智能的解釋機(jī)制,算法規(guī)則的設(shè)計(jì)者應(yīng)在專利保護(hù)的范圍內(nèi)解釋人工智能的運(yùn)作原理,讓大眾知曉人工智能的運(yùn)行邏輯,促使算法的透明與公正,使大眾免受算法的隱形歧視。最后,將當(dāng)事人享用法院民事糾紛解決智能化成果的規(guī)定融入人工智能司法應(yīng)用倫理規(guī)范中,運(yùn)用當(dāng)事人對(duì)人工智能司法的充分參與彌補(bǔ)人工智能司法公開(kāi)性不足的問(wèn)題。具體來(lái)說(shuō),人民法院建設(shè)的民事糾紛解決智能系統(tǒng)應(yīng)當(dāng)向當(dāng)事人和律師開(kāi)放,允許私主體享用智能化成果,有利于當(dāng)事人和法官?gòu)?qiáng)化互動(dòng),提升司法公信力。

    (四)推進(jìn)民事糾紛解決智能化技術(shù)升級(jí)

    民事糾紛解決智能化深入發(fā)展有賴于相關(guān)智能技術(shù)的提檔升級(jí),健全在線糾紛解決平臺(tái)。在制度和規(guī)范層面,我國(guó)已經(jīng)形成較為完善的調(diào)解制度、仲裁制度、訴訟制度以及其他多元糾紛解決機(jī)制。就調(diào)解而言,也已形成訴訟內(nèi)調(diào)解、法院附設(shè)調(diào)解、仲裁調(diào)解、行政調(diào)解、人民調(diào)解、民間調(diào)解以及公證調(diào)解的多元調(diào)解格局。在司法實(shí)踐層面,自2007年起逐漸形成了由黨委和政府領(lǐng)導(dǎo)、政法委牽頭協(xié)調(diào)、各部門積極參與的大調(diào)解機(jī)制[19]。借助于法院附設(shè)調(diào)解程序和司法確認(rèn)程序,各地也基本形成有序銜接的訴訟和非訴訟糾紛解決對(duì)接機(jī)制,國(guó)家層面倡導(dǎo)的多元化糾紛解決機(jī)制取得了較好的社會(huì)效果。在此背景下,如何研發(fā)契合民事糾紛解決智能化的技術(shù)成為關(guān)鍵,本文認(rèn)為具體可從兩個(gè)方面著手:一方面,全方位系統(tǒng)化打造全國(guó)統(tǒng)一的民事糾紛智能解決平臺(tái)。多元化糾紛解決機(jī)制要真正形成有效合力,必須關(guān)注相關(guān)機(jī)制銜接技術(shù)的開(kāi)發(fā)應(yīng)用。2016年《最高人民法院進(jìn)一步深化多元化糾紛解決機(jī)制改革的意見(jiàn)》明確提出構(gòu)建在線糾紛解決平臺(tái)(ODR)的目標(biāo),為民事糾紛解決智能化發(fā)展奠定了制度基礎(chǔ)。從新時(shí)代的民事糾紛解決智能化發(fā)展趨勢(shì)看,需要黨委、政府、司法機(jī)關(guān)、公證機(jī)構(gòu)、仲裁機(jī)關(guān)、企業(yè)共同打造在線糾紛解決平臺(tái),在全國(guó)范圍內(nèi)研發(fā)推廣“矛盾糾紛解決一體化智能平臺(tái)”,推動(dòng)在線調(diào)解、在線仲裁、智慧法院以及企業(yè)ODR平臺(tái)的相互銜接,實(shí)現(xiàn)糾紛解決體系智能化集成。另一方面,深入推動(dòng)民事糾紛解決智能化所需要的各類技術(shù)研發(fā)和產(chǎn)業(yè)化。主要是研發(fā)在5G環(huán)境下的遠(yuǎn)程視頻技術(shù),這種技術(shù)支撐民事糾紛的遠(yuǎn)程解決像面對(duì)面解決一樣真切,第三方人員和雙方當(dāng)事人能夠跨空間“面對(duì)面”語(yǔ)言交流,并輔之以非語(yǔ)言方式的觀察,能夠像實(shí)地一樣精準(zhǔn)判斷雙方當(dāng)事人的情緒、心態(tài)、意見(jiàn)和觀點(diǎn),避免誤解的風(fēng)險(xiǎn),建立積極的人際關(guān)系①Aashit Shah.Using ADR to Resolve Online Disputes,https://scholarship.richmond.edu/cgi/viewcontent.cgi?article=1196&context=jolt。,使糾紛化解更具實(shí)效。同時(shí),還需要完善各類糾紛解決機(jī)制的在線銜接技術(shù),如在線調(diào)解成功后可以賡即進(jìn)行在線司法確認(rèn),如區(qū)塊鏈和電子存證技術(shù)、區(qū)塊鏈和電子簽名融合等新興的配套技術(shù)也需要進(jìn)一步深化研發(fā)。

    總之,民事糾紛解決體系與人工智能的融合是時(shí)勢(shì)下的順勢(shì)而為,不僅有利于國(guó)家治理能力現(xiàn)代化提升,還有助于國(guó)家司法體制改革和綜合配套改革的深層次推進(jìn),助推民事糾紛解決的提檔升級(jí)。與此同時(shí),我們必須清晰地認(rèn)知,我們尚處于且將長(zhǎng)期處于“弱智能”時(shí)代,人工智能在司法領(lǐng)域的應(yīng)用仍需要較長(zhǎng)時(shí)間的努力,民事糾紛解決的智能化自然也需要長(zhǎng)期努力改進(jìn)才能形成有效的機(jī)制。因此,我們需要持審慎態(tài)度,正視當(dāng)前民事糾紛解決智能化發(fā)展面臨的不足,包括頂層設(shè)計(jì)問(wèn)題、倫理規(guī)范問(wèn)題、大數(shù)據(jù)基礎(chǔ)問(wèn)題以及技術(shù)瓶頸問(wèn)題等,全方位、多層次探索人工智能技術(shù)與民事糾紛解決體系進(jìn)行合法、適宜地深度融合,創(chuàng)制出兼顧人工智能向善和糾紛解決便捷、高效的民事糾紛解決智能化模式,深化人工智能在民事糾紛解決領(lǐng)域的應(yīng)用。未來(lái)還可以此為試點(diǎn),總結(jié)提煉經(jīng)驗(yàn),逐步將人工智能從民事領(lǐng)域推廣至刑事訴訟、行政訴訟領(lǐng)域,推動(dòng)司法與人工智能的融合,營(yíng)造高效、公證、便捷、智能的司法生態(tài)。

    猜你喜歡
    仲裁裁判糾紛
    鄰居裝修侵權(quán)引糾紛
    法官如此裁判
    法官如此裁判
    署名先后引糾紛
    法律裁判中的比較推理
    法律方法(2019年4期)2019-11-16 01:07:10
    用“情”化解離婚糾紛
    清代刑事裁判中的“從重”
    一種多通道共享讀寫SDRAM的仲裁方法
    電子制作(2018年19期)2018-11-14 02:36:44
    糾紛
    ICSID仲裁中的有效解釋原則:溯源、適用及其略比
    国产1区2区3区精品| 久久亚洲精品不卡| 国产欧美日韩精品亚洲av| 伊人亚洲综合成人网| 各种免费的搞黄视频| 校园人妻丝袜中文字幕| 精品国产超薄肉色丝袜足j| 久热这里只有精品99| 性色av乱码一区二区三区2| 亚洲伊人久久精品综合| 啦啦啦在线免费观看视频4| 久久国产精品影院| 欧美黑人精品巨大| 一级片免费观看大全| 成年女人毛片免费观看观看9 | 日韩 欧美 亚洲 中文字幕| 亚洲精品美女久久av网站| 国产成人影院久久av| 色综合欧美亚洲国产小说| 亚洲国产最新在线播放| 免费黄频网站在线观看国产| 男女免费视频国产| 国产激情久久老熟女| 欧美 亚洲 国产 日韩一| 亚洲国产精品国产精品| 免费观看av网站的网址| 成年女人毛片免费观看观看9 | 九草在线视频观看| 国产一区二区在线观看av| 国产免费视频播放在线视频| 亚洲国产精品国产精品| 天堂中文最新版在线下载| 色婷婷av一区二区三区视频| 欧美 亚洲 国产 日韩一| 久久久国产欧美日韩av| 亚洲av日韩在线播放| 七月丁香在线播放| 最近手机中文字幕大全| 亚洲av综合色区一区| 日韩视频在线欧美| 欧美激情极品国产一区二区三区| 亚洲人成电影观看| 精品少妇久久久久久888优播| 亚洲成人免费电影在线观看 | 久久 成人 亚洲| 亚洲国产欧美日韩在线播放| 看十八女毛片水多多多| 亚洲伊人久久精品综合| 亚洲自偷自拍图片 自拍| 亚洲国产精品国产精品| 免费女性裸体啪啪无遮挡网站| 国产成人免费观看mmmm| 五月天丁香电影| 国产免费又黄又爽又色| 99国产精品一区二区蜜桃av | 人人妻人人爽人人添夜夜欢视频| 中文字幕人妻熟女乱码| 亚洲中文日韩欧美视频| av在线老鸭窝| 中国美女看黄片| 免费av中文字幕在线| 老司机在亚洲福利影院| 高清视频免费观看一区二区| 成年人黄色毛片网站| 精品一区二区三区av网在线观看 | 久久热在线av| 亚洲精品在线美女| 五月开心婷婷网| 国产欧美日韩综合在线一区二区| 一本久久精品| 欧美日韩av久久| 一个人免费看片子| 久久天躁狠狠躁夜夜2o2o | 国产欧美亚洲国产| 久久久久久亚洲精品国产蜜桃av| 曰老女人黄片| 亚洲男人天堂网一区| 亚洲天堂av无毛| 啦啦啦中文免费视频观看日本| 免费在线观看影片大全网站 | 精品一区在线观看国产| 丝袜在线中文字幕| 亚洲av美国av| 亚洲人成电影免费在线| 最近手机中文字幕大全| 精品国产一区二区三区四区第35| 国产黄色免费在线视频| 看免费av毛片| 一个人免费看片子| 超色免费av| 9色porny在线观看| 好男人电影高清在线观看| 久久久国产精品麻豆| 人人妻人人澡人人看| 亚洲中文日韩欧美视频| 亚洲欧美色中文字幕在线| 满18在线观看网站| 9色porny在线观看| 乱人伦中国视频| 成在线人永久免费视频| 七月丁香在线播放| 狂野欧美激情性bbbbbb| 亚洲精品一二三| 国产精品偷伦视频观看了| 91老司机精品| 男女午夜视频在线观看| a级毛片在线看网站| 国产片内射在线| 欧美日韩黄片免| 黄色一级大片看看| 日韩中文字幕视频在线看片| 国产视频一区二区在线看| 亚洲男人天堂网一区| 最黄视频免费看| 亚洲国产最新在线播放| 一区福利在线观看| 久久九九热精品免费| av国产精品久久久久影院| 99久久人妻综合| 久久人妻福利社区极品人妻图片 | 亚洲国产精品999| 日本色播在线视频| 国产精品熟女久久久久浪| 精品人妻在线不人妻| 久久精品成人免费网站| 久久国产亚洲av麻豆专区| 午夜免费成人在线视频| a级毛片在线看网站| 久久综合国产亚洲精品| 国产日韩欧美亚洲二区| 视频在线观看一区二区三区| 少妇猛男粗大的猛烈进出视频| 在线观看人妻少妇| 欧美在线一区亚洲| 久久精品久久精品一区二区三区| 国产在线观看jvid| 成人黄色视频免费在线看| 亚洲av片天天在线观看| 赤兔流量卡办理| 如日韩欧美国产精品一区二区三区| 啦啦啦在线免费观看视频4| 涩涩av久久男人的天堂| 最新的欧美精品一区二区| 国产99久久九九免费精品| 亚洲精品一区蜜桃| 久久99一区二区三区| 亚洲精品国产色婷婷电影| 老司机靠b影院| 老司机影院毛片| 91麻豆av在线| 另类精品久久| 成在线人永久免费视频| 亚洲国产精品一区三区| 国产一区有黄有色的免费视频| 亚洲一区二区三区欧美精品| 亚洲国产欧美网| 久久国产精品男人的天堂亚洲| 久久天躁狠狠躁夜夜2o2o | 日本a在线网址| 国产高清国产精品国产三级| 精品亚洲成国产av| 免费人妻精品一区二区三区视频| 人妻人人澡人人爽人人| 国产成人一区二区在线| av片东京热男人的天堂| 国产亚洲一区二区精品| 肉色欧美久久久久久久蜜桃| 天堂8中文在线网| 老熟女久久久| 91国产中文字幕| 精品少妇内射三级| 亚洲视频免费观看视频| 日本vs欧美在线观看视频| 亚洲一区中文字幕在线| 日韩,欧美,国产一区二区三区| 免费不卡黄色视频| 久久人人爽人人片av| 国产三级黄色录像| √禁漫天堂资源中文www| 欧美 日韩 精品 国产| 99国产综合亚洲精品| www.熟女人妻精品国产| 日本五十路高清| 母亲3免费完整高清在线观看| 天堂8中文在线网| 涩涩av久久男人的天堂| 国产精品国产三级专区第一集| 少妇猛男粗大的猛烈进出视频| 亚洲国产看品久久| 人人妻,人人澡人人爽秒播 | 高潮久久久久久久久久久不卡| 久久人人97超碰香蕉20202| 满18在线观看网站| 国产av国产精品国产| 欧美av亚洲av综合av国产av| 国产熟女午夜一区二区三区| 黄色视频在线播放观看不卡| 99国产综合亚洲精品| 国产人伦9x9x在线观看| 亚洲国产毛片av蜜桃av| 日韩大码丰满熟妇| 免费日韩欧美在线观看| av有码第一页| 搡老乐熟女国产| 韩国精品一区二区三区| 国产精品国产三级专区第一集| 久久精品国产综合久久久| 国产精品国产av在线观看| 又大又黄又爽视频免费| 一级黄色大片毛片| 国产伦人伦偷精品视频| 丁香六月欧美| h视频一区二区三区| 欧美人与性动交α欧美精品济南到| 久久久国产欧美日韩av| 免费在线观看黄色视频的| 亚洲一区中文字幕在线| 精品国产一区二区三区久久久樱花| 亚洲精品国产色婷婷电影| 久久精品国产a三级三级三级| 老鸭窝网址在线观看| 啦啦啦在线免费观看视频4| 国产淫语在线视频| 两人在一起打扑克的视频| 精品少妇一区二区三区视频日本电影| 亚洲七黄色美女视频| 日本av手机在线免费观看| 亚洲国产看品久久| 亚洲欧洲国产日韩| 一边摸一边做爽爽视频免费| 满18在线观看网站| 久久 成人 亚洲| 少妇被粗大的猛进出69影院| av网站在线播放免费| 国产无遮挡羞羞视频在线观看| 男女之事视频高清在线观看 | 国产又色又爽无遮挡免| 两人在一起打扑克的视频| 久热爱精品视频在线9| 久久国产精品大桥未久av| 国产精品欧美亚洲77777| 狠狠精品人妻久久久久久综合| 久久久亚洲精品成人影院| 色播在线永久视频| 亚洲精品美女久久久久99蜜臀 | 一二三四社区在线视频社区8| 成年女人毛片免费观看观看9 | 久久精品亚洲av国产电影网| 国产精品久久久久久精品电影小说| 国产亚洲欧美在线一区二区| 久久久久久久久免费视频了| 国产欧美日韩一区二区三 | 搡老乐熟女国产| 丝袜喷水一区| 极品人妻少妇av视频| 久久精品久久久久久久性| 欧美xxⅹ黑人| 精品国产国语对白av| 人妻一区二区av| 精品欧美一区二区三区在线| 午夜福利视频在线观看免费| 国产一区二区在线观看av| 热re99久久精品国产66热6| 亚洲一码二码三码区别大吗| 亚洲自偷自拍图片 自拍| 啦啦啦 在线观看视频| 伦理电影免费视频| 青春草视频在线免费观看| 国产成人一区二区三区免费视频网站 | 丁香六月天网| 菩萨蛮人人尽说江南好唐韦庄| 啦啦啦啦在线视频资源| 欧美日韩成人在线一区二区| 久久国产精品影院| 久久免费观看电影| 欧美日韩av久久| 亚洲九九香蕉| 天天躁日日躁夜夜躁夜夜| 亚洲精品美女久久久久99蜜臀 | www.av在线官网国产| 欧美另类一区| 精品视频人人做人人爽| xxx大片免费视频| 91字幕亚洲| 如日韩欧美国产精品一区二区三区| 日韩 亚洲 欧美在线| 最近中文字幕2019免费版| 黑人欧美特级aaaaaa片| 欧美激情 高清一区二区三区| 国产精品人妻久久久影院| 999久久久国产精品视频| 久久免费观看电影| 国产精品99久久99久久久不卡| 最近中文字幕2019免费版| 中文字幕av电影在线播放| 尾随美女入室| 国产精品 欧美亚洲| 午夜福利视频在线观看免费| 国产成人免费观看mmmm| 精品人妻一区二区三区麻豆| 免费在线观看黄色视频的| 久久久精品区二区三区| 一区二区三区精品91| 亚洲一区中文字幕在线| 满18在线观看网站| 在线 av 中文字幕| 大型av网站在线播放| 午夜91福利影院| 19禁男女啪啪无遮挡网站| 国产精品一区二区免费欧美 | 日韩av在线免费看完整版不卡| 夜夜骑夜夜射夜夜干| 人人妻人人澡人人爽人人夜夜| 精品少妇久久久久久888优播| 亚洲精品一二三| √禁漫天堂资源中文www| 国产免费又黄又爽又色| 午夜激情久久久久久久| 国产xxxxx性猛交| 十分钟在线观看高清视频www| 黑人巨大精品欧美一区二区蜜桃| 日本wwww免费看| 欧美成人精品欧美一级黄| 亚洲精品久久久久久婷婷小说| 欧美日韩av久久| 高清黄色对白视频在线免费看| 丰满少妇做爰视频| 精品国产乱码久久久久久男人| 大片免费播放器 马上看| 啦啦啦 在线观看视频| 我的亚洲天堂| 国产精品二区激情视频| 免费在线观看日本一区| 岛国毛片在线播放| 中文字幕av电影在线播放| 精品人妻熟女毛片av久久网站| 精品一区在线观看国产| a级片在线免费高清观看视频| 午夜激情久久久久久久| 亚洲第一av免费看| 亚洲国产欧美在线一区| 丝袜喷水一区| 婷婷丁香在线五月| 在线观看免费视频网站a站| 又粗又硬又长又爽又黄的视频| 午夜福利视频在线观看免费| 最新在线观看一区二区三区 | 波多野结衣一区麻豆| 久久精品久久久久久久性| 亚洲人成电影观看| 婷婷色av中文字幕| 美女主播在线视频| 嫩草影视91久久| 99精品久久久久人妻精品| 老司机靠b影院| 亚洲天堂av无毛| 国产成人欧美| 亚洲人成电影免费在线| 亚洲图色成人| av片东京热男人的天堂| 国产精品久久久av美女十八| 亚洲精品国产一区二区精华液| av在线老鸭窝| 大片电影免费在线观看免费| 国产主播在线观看一区二区 | 99国产精品免费福利视频| 91老司机精品| 国产精品九九99| 亚洲欧美日韩高清在线视频 | 国产精品国产av在线观看| av一本久久久久| 国产av一区二区精品久久| 亚洲欧洲日产国产| 亚洲人成网站在线观看播放| 亚洲情色 制服丝袜| 欧美人与善性xxx| 久久久久久久精品精品| 岛国毛片在线播放| 丰满少妇做爰视频| 满18在线观看网站| 97精品久久久久久久久久精品| 一级片免费观看大全| 亚洲欧美精品综合一区二区三区| 18在线观看网站| 国产精品国产三级国产专区5o| 最新的欧美精品一区二区| 亚洲中文字幕日韩| 久久人妻熟女aⅴ| 欧美人与性动交α欧美软件| 人成视频在线观看免费观看| 亚洲精品一卡2卡三卡4卡5卡 | 欧美日韩一级在线毛片| av天堂在线播放| 日韩大片免费观看网站| 日韩精品免费视频一区二区三区| www.熟女人妻精品国产| 亚洲,欧美,日韩| 我的亚洲天堂| 90打野战视频偷拍视频| 一区二区三区乱码不卡18| 狠狠婷婷综合久久久久久88av| 亚洲精品国产av成人精品| 亚洲欧美一区二区三区黑人| 777久久人妻少妇嫩草av网站| 久久免费观看电影| 婷婷色av中文字幕| 国产麻豆69| 999精品在线视频| 在线看a的网站| 国产老妇伦熟女老妇高清| 在线看a的网站| 美女福利国产在线| 久久久久精品人妻al黑| netflix在线观看网站| 色网站视频免费| 国产成人av激情在线播放| 一二三四社区在线视频社区8| 久久 成人 亚洲| 大陆偷拍与自拍| 无限看片的www在线观看| 国产成人精品久久二区二区91| 美女国产高潮福利片在线看| 视频在线观看一区二区三区| 免费在线观看影片大全网站 | 妹子高潮喷水视频| 操出白浆在线播放| 91成人精品电影| 精品欧美一区二区三区在线| 亚洲视频免费观看视频| 亚洲,一卡二卡三卡| 久久国产精品大桥未久av| 2021少妇久久久久久久久久久| 亚洲一码二码三码区别大吗| 亚洲三区欧美一区| 又大又黄又爽视频免费| 国产一区有黄有色的免费视频| 免费久久久久久久精品成人欧美视频| 午夜福利,免费看| 啦啦啦视频在线资源免费观看| 90打野战视频偷拍视频| 中文乱码字字幕精品一区二区三区| 麻豆av在线久日| 亚洲精品中文字幕在线视频| 99久久精品国产亚洲精品| 久久国产精品男人的天堂亚洲| 男女国产视频网站| 欧美激情极品国产一区二区三区| 夜夜骑夜夜射夜夜干| 美女大奶头黄色视频| 黄网站色视频无遮挡免费观看| 婷婷色综合大香蕉| av在线老鸭窝| 国产高清国产精品国产三级| 成人免费观看视频高清| 五月天丁香电影| 汤姆久久久久久久影院中文字幕| 精品人妻熟女毛片av久久网站| 真人做人爱边吃奶动态| 久久精品国产亚洲av高清一级| 一级黄色大片毛片| 国产极品粉嫩免费观看在线| 天天躁狠狠躁夜夜躁狠狠躁| 久久ye,这里只有精品| 精品少妇黑人巨大在线播放| 精品国产国语对白av| 男女下面插进去视频免费观看| 欧美成人午夜精品| 女警被强在线播放| 精品国产一区二区三区四区第35| 青青草视频在线视频观看| 国产成人精品在线电影| 五月天丁香电影| 麻豆av在线久日| 午夜视频精品福利| 18禁裸乳无遮挡动漫免费视频| 精品人妻在线不人妻| 一级毛片女人18水好多 | 亚洲精品成人av观看孕妇| av福利片在线| 少妇精品久久久久久久| 亚洲欧洲精品一区二区精品久久久| 99国产精品免费福利视频| 久久精品国产综合久久久| 欧美精品人与动牲交sv欧美| 午夜视频精品福利| 中文精品一卡2卡3卡4更新| 国产伦理片在线播放av一区| 亚洲av片天天在线观看| 日韩人妻精品一区2区三区| 999精品在线视频| 亚洲免费av在线视频| 国产午夜精品一二区理论片| 少妇猛男粗大的猛烈进出视频| 在线看a的网站| 亚洲精品在线美女| 欧美黄色淫秽网站| 蜜桃在线观看..| 日日摸夜夜添夜夜爱| 男女之事视频高清在线观看 | 欧美精品人与动牲交sv欧美| 久久久久久人人人人人| 精品久久蜜臀av无| 久久精品国产亚洲av涩爱| 夜夜骑夜夜射夜夜干| 欧美亚洲 丝袜 人妻 在线| 亚洲专区中文字幕在线| 高清av免费在线| 亚洲精品美女久久av网站| 欧美 亚洲 国产 日韩一| 亚洲五月婷婷丁香| 日本91视频免费播放| 久久午夜综合久久蜜桃| 国产av精品麻豆| 侵犯人妻中文字幕一二三四区| 精品国产乱码久久久久久小说| 精品国产一区二区三区四区第35| 一级毛片女人18水好多 | 另类精品久久| 日韩中文字幕视频在线看片| 精品少妇黑人巨大在线播放| 久久精品亚洲熟妇少妇任你| 波多野结衣一区麻豆| 在线观看一区二区三区激情| 高潮久久久久久久久久久不卡| 中文字幕另类日韩欧美亚洲嫩草| 久久精品久久久久久久性| 日韩大片免费观看网站| 深夜精品福利| 超碰成人久久| 国产熟女午夜一区二区三区| 久久狼人影院| 中文字幕av电影在线播放| 天天操日日干夜夜撸| 免费在线观看影片大全网站 | 亚洲少妇的诱惑av| 成人18禁高潮啪啪吃奶动态图| 人体艺术视频欧美日本| 亚洲中文字幕日韩| 少妇的丰满在线观看| 亚洲,欧美精品.| 咕卡用的链子| 青草久久国产| 巨乳人妻的诱惑在线观看| 天堂8中文在线网| 欧美xxⅹ黑人| 中文字幕亚洲精品专区| 亚洲国产中文字幕在线视频| 久久精品人人爽人人爽视色| 一级黄色大片毛片| 女人精品久久久久毛片| 国产精品二区激情视频| 国产老妇伦熟女老妇高清| 日韩伦理黄色片| 80岁老熟妇乱子伦牲交| 亚洲国产最新在线播放| 久久九九热精品免费| 国产在线观看jvid| 国精品久久久久久国模美| 永久免费av网站大全| 亚洲 国产 在线| 亚洲欧洲精品一区二区精品久久久| 人体艺术视频欧美日本| 免费看av在线观看网站| 婷婷丁香在线五月| 女性生殖器流出的白浆| 久久人人爽人人片av| 18禁裸乳无遮挡动漫免费视频| 亚洲精品美女久久久久99蜜臀 | 69精品国产乱码久久久| 久久精品aⅴ一区二区三区四区| 国产免费视频播放在线视频| 婷婷色麻豆天堂久久| 丝袜喷水一区| 一区二区三区四区激情视频| 天天操日日干夜夜撸| 亚洲图色成人| 黑人欧美特级aaaaaa片| 99国产精品一区二区蜜桃av | 日韩av免费高清视频| av有码第一页| 一边摸一边做爽爽视频免费| 狂野欧美激情性xxxx| 九草在线视频观看| 又紧又爽又黄一区二区| 成人国语在线视频| www.av在线官网国产| 97精品久久久久久久久久精品| 十分钟在线观看高清视频www| 亚洲精品美女久久久久99蜜臀 | 在线观看免费午夜福利视频| 欧美变态另类bdsm刘玥| 亚洲欧美清纯卡通| 亚洲色图 男人天堂 中文字幕| 亚洲精品久久成人aⅴ小说| 精品少妇内射三级| 青草久久国产| h视频一区二区三区| 丰满少妇做爰视频| 久9热在线精品视频| 在线观看免费视频网站a站| 亚洲欧美一区二区三区久久| 国产精品一国产av| 精品人妻在线不人妻| 亚洲精品国产av成人精品| 99精品久久久久人妻精品| 国产欧美日韩一区二区三 | 久久久久久免费高清国产稀缺| 自拍欧美九色日韩亚洲蝌蚪91| 午夜福利免费观看在线| 啦啦啦啦在线视频资源| 亚洲欧洲日产国产| 中文字幕人妻丝袜制服| 久久精品久久久久久久性| 成人亚洲精品一区在线观看| 亚洲欧美激情在线|