• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能背景下法學(xué)高等教育的改革

    2020-12-13 13:40:51趙艷紅
    關(guān)鍵詞:法學(xué)人工智能法律

    趙艷紅

    (安徽財(cái)經(jīng)大學(xué) 管理科學(xué)與工程學(xué)院, 安徽 蚌埠 233000)

    在信息及科學(xué)技術(shù)快速發(fā)展的今天,人工智能技術(shù)正悄然改變?nèi)藗兊纳罘绞?,在法律領(lǐng)域同樣也是如此。2017 年7 月,在具有前瞻性的《新一代人工智能發(fā)展規(guī)劃》中,提出了人工智能法律的研究、智慧法庭建設(shè)、“人工智能+X”復(fù)合專(zhuān)業(yè)培養(yǎng)模式的新規(guī)劃。在人工智能發(fā)展浪潮下,新類(lèi)型的法律問(wèn)題開(kāi)始不斷出現(xiàn),如人工智能創(chuàng)作品的知識(shí)產(chǎn)權(quán)問(wèn)題、人工智能產(chǎn)品的侵權(quán)問(wèn)題、人工智能的刑事責(zé)任問(wèn)題等。在司法領(lǐng)域,人工智能也日益介入司法過(guò)程,司法部門(mén)、律師事務(wù)所、法律互聯(lián)網(wǎng)企業(yè)等主體積極參與,或者研發(fā)司法智能輔助系統(tǒng),或者嘗試在實(shí)踐中運(yùn)用智能系統(tǒng),已經(jīng)取得了一定的進(jìn)展,出現(xiàn)了像上海“206”系統(tǒng)之類(lèi)的司法輔助系統(tǒng)、“法小淘”“巨鯨智平臺(tái)”等人工智能法律服務(wù)系統(tǒng)。目前,人工智能已在法律咨詢(xún)、法律檢索、類(lèi)案推送、量刑輔助等方面得到大量應(yīng)用。人工智能給法律領(lǐng)域帶來(lái)的挑戰(zhàn)已經(jīng)日益明顯,它改變了法律理念、法律秩序,也沖擊著法律職業(yè)、司法工作,作為培養(yǎng)法律人才搖籃的高等教育應(yīng)如何應(yīng)對(duì),是值得人們探討的問(wèn)題。

    一、人工智能對(duì)法律領(lǐng)域的沖擊

    人工智能時(shí)代兩個(gè)最突出的表現(xiàn)是傳統(tǒng)工業(yè)社會(huì)為主導(dǎo)的制度體系的變革以及傳統(tǒng)物理空間的變化,這種變化對(duì)法律的結(jié)構(gòu)性影響不斷加快、加深[1]。人工智能滲透到社會(huì)生活領(lǐng)域的方方面面,在推動(dòng)社會(huì)信息智能化變革、提高效率的同時(shí),也產(chǎn)生了一些現(xiàn)實(shí)問(wèn)題,使法律規(guī)范和理論、法律職業(yè)、司法工作面臨巨大挑戰(zhàn)。

    (一)對(duì)法律規(guī)范及理論的沖擊

    在計(jì)算機(jī)超強(qiáng)運(yùn)算能力,大數(shù)據(jù)快速發(fā)展以及人工智能算法模型不斷改進(jìn)的背景下,人工智能對(duì)法律的影響正在加深、加快[2]?,F(xiàn)有法律調(diào)節(jié)和規(guī)范的是現(xiàn)實(shí)的社會(huì)關(guān)系,當(dāng)各種購(gòu)物平臺(tái)、網(wǎng)絡(luò)約車(chē)、網(wǎng)絡(luò)社交等新的信息數(shù)字化模式紛紛出現(xiàn)時(shí),對(duì)于這種超越現(xiàn)實(shí)物理空間的網(wǎng)絡(luò)空間,法律規(guī)范難以具有有效的調(diào)節(jié)能力,而法學(xué)理論的滯后性、保守性通常也難以提供有效的解決方案。中國(guó)目前還沒(méi)有完整的人工智能法律理論體系,隨著人工智能技術(shù)與各專(zhuān)業(yè)的融合,會(huì)遇到諸多亟待解決的法律問(wèn)題。

    以人工智能的刑法問(wèn)題為例,對(duì)于人工智能是否能構(gòu)成犯罪主體,國(guó)外有學(xué)者主張承認(rèn)人工智能的犯罪主體性,但限于強(qiáng)人工智能,對(duì)構(gòu)成犯罪的人工智能體的刑罰主要是報(bào)廢或者消除其數(shù)據(jù)。也有學(xué)者認(rèn)為,人工智能相關(guān)犯罪包括強(qiáng)人工智能體自身或與自然人共同實(shí)施的犯罪,也包括自然人利用弱人工智能實(shí)施的犯罪。對(duì)于前者除了追究強(qiáng)人工智能的刑事責(zé)任之外,還要追究負(fù)有責(zé)任的設(shè)計(jì)者、監(jiān)督者的刑事責(zé)任,而后者則按傳統(tǒng)的普通犯罪處理[3]。而中國(guó)《刑法》目前對(duì)此問(wèn)題并無(wú)規(guī)定。隨著人工智能的普及運(yùn)用,人工智能及其設(shè)計(jì)者、監(jiān)督者的刑事責(zé)任問(wèn)題也必將會(huì)成為一個(gè)突出問(wèn)題,目前學(xué)術(shù)界對(duì)此問(wèn)題也有頗多爭(zhēng)議,支持及反對(duì)者皆有之。所以,需要根據(jù)科技發(fā)展而對(duì)刑法主體理論及規(guī)范進(jìn)行調(diào)整,或以法律解釋方法對(duì)此問(wèn)題進(jìn)行破解,以適應(yīng)新型科技對(duì)刑事法律的挑戰(zhàn)。

    在人工智能的民法問(wèn)題方面,2017年,日歐會(huì)議通過(guò)《關(guān)于機(jī)器人民事法律規(guī)則的決議》,建議至少賦予最精密自主機(jī)器人“電子人”的地位,若該決議能夠通過(guò),則將動(dòng)搖現(xiàn)有的民事主體制度。目前,中國(guó)《民法》對(duì)人工智能的“電子人”主體地位沒(méi)有規(guī)定,因此在民法領(lǐng)域人工智能會(huì)帶來(lái)一些難題。以人工智能生成作品的著作權(quán)為例,國(guó)內(nèi)外學(xué)者爭(zhēng)議的焦點(diǎn)是人工智能生成作品的著作權(quán)歸屬問(wèn)題。有學(xué)者主張人工智能不能擁有著作權(quán),其作品雖然由人工智能創(chuàng)作,但是人工智能的核心是智能算法,智能算法由人設(shè)計(jì),所以作品的著作權(quán)還是屬于人[4]。也有學(xué)者主張?jiān)谌斯ぶ悄塬@得“電子人”身份的情況下,作品如果由人工智能獨(dú)立創(chuàng)作完成,其著作權(quán)應(yīng)受保護(hù),著作權(quán)應(yīng)由設(shè)計(jì)者、擁有者及人工智能共同擁有[5]。但是人工智能具有很強(qiáng)的深度學(xué)習(xí)能力,那么人工智能對(duì)作品有多大的貢獻(xiàn)?或者說(shuō)如何衡量設(shè)計(jì)者、擁有者及人工智能對(duì)作品的貢獻(xiàn)程度,是一個(gè)難以解決的問(wèn)題。人工智能對(duì)民事法律也發(fā)起了挑戰(zhàn),需要對(duì)民法主體理論及規(guī)范進(jìn)行完善[6]。

    綜上可見(jiàn),人工智能在各領(lǐng)域的運(yùn)用將不斷普及,但人工智能所帶來(lái)的諸多法律難題目前在規(guī)范和理論層面都沒(méi)有得到妥善解決。因此,這也意味著相關(guān)領(lǐng)域的規(guī)范和理論都必須進(jìn)行一定變革才能滿(mǎn)足人工智能時(shí)代對(duì)新型社會(huì)關(guān)系進(jìn)行調(diào)節(jié)的需要。

    (二)對(duì)法律職業(yè)的沖擊

    人工智能進(jìn)入法律行業(yè)勢(shì)不可擋,雖然大部分學(xué)者認(rèn)為至少在弱人工智能時(shí)代人工智能不可能完全代替法律人,但人工智能數(shù)據(jù)處理的高效率及準(zhǔn)確性,使得它比人類(lèi)更能夠勝任簡(jiǎn)單的或機(jī)械重復(fù)性的工作。國(guó)內(nèi)外已經(jīng)出現(xiàn)承擔(dān)某些法律工作的人工智能機(jī)器人。在國(guó)外,基于IBM Watson計(jì)算機(jī)系統(tǒng)的ROSS人工智能機(jī)器人律師可以通過(guò)深度學(xué)習(xí)研究法律條文、判例法及司法解釋?zhuān)⒗醚芯拷Y(jié)果更新自身的信息,不斷提高檢索能力[7]。在中國(guó)國(guó)內(nèi),人工智能法律機(jī)器人“大?!蹦軌蚋鶕?jù)獲取的案件材料,審核案件法律事實(shí)的完整度,出具法律咨詢(xún)意見(jiàn)書(shū);云南昆明打造的公共法律服務(wù)智慧網(wǎng)絡(luò)平臺(tái)能夠?qū)崿F(xiàn)法律援助、人民調(diào)解等服務(wù),系統(tǒng)可以生成起訴狀、證據(jù)清單,提供類(lèi)似案例及相關(guān)法規(guī)、司法解釋等,可以完成開(kāi)庭之前律師所需要材料的準(zhǔn)備工作[8]。上述法律工作的特點(diǎn)是都不需要運(yùn)用法律適用方法,更多地依賴(lài)于自然語(yǔ)言理解、圖像處理和智能語(yǔ)音等計(jì)算機(jī)技術(shù),因此人工智能將代替人類(lèi)法律工作者從事法律咨詢(xún)、智能檢索、合同審核、撰寫(xiě)法律文書(shū)等低層次的工作,而律師將去處理那些個(gè)性化、更復(fù)雜、更有價(jià)值的案件。

    人工智能在法律行業(yè)的應(yīng)用,改變了法律服務(wù)業(yè)的模式。人工智能以其更方便、更快、更準(zhǔn)確、費(fèi)用更低的特點(diǎn),沖擊著律師行業(yè),造成律師行業(yè)專(zhuān)業(yè)人員結(jié)構(gòu)性變化,簡(jiǎn)單、機(jī)械重復(fù)或標(biāo)準(zhǔn)化的低層次工作崗位將會(huì)被機(jī)器人代替,人工智能威脅著法律工作者的工作機(jī)會(huì)?!盎ヂ?lián)網(wǎng)+大數(shù)據(jù)+人工智能”還會(huì)促進(jìn)對(duì)律師業(yè)務(wù)水平評(píng)價(jià)的系統(tǒng)化、透明化。當(dāng)前,人們聘請(qǐng)律師的方式或直接找律所推薦,或靠別人推薦,帶有盲目性,而將來(lái)人工智能能夠在輸入庭審法官和對(duì)方律師的情況下,針對(duì)某方面的案件預(yù)測(cè)勝訴率高的律師,并對(duì)律師的專(zhuān)業(yè)技能、品格、對(duì)待案件的態(tài)度、收費(fèi)情況等進(jìn)行系統(tǒng)的統(tǒng)計(jì)分析。這就對(duì)律師的專(zhuān)業(yè)性、自身修養(yǎng)、收費(fèi)標(biāo)準(zhǔn)等方面提出更高的要求,專(zhuān)業(yè)技能不合格、道德素質(zhì)低、對(duì)待案件態(tài)度敷衍的律師將慢慢被淘汰。

    綜上可見(jiàn),人工智能將對(duì)律師行業(yè)造成結(jié)構(gòu)性的影響,甚至?xí)淖兎煞?wù)業(yè)的整體態(tài)勢(shì),這一趨勢(shì)是無(wú)法逆轉(zhuǎn)的。以律師為主體的法律服務(wù)群體只能用積極的心態(tài)和充分的準(zhǔn)備,迎接人工智能時(shí)代法律服務(wù)模式的變革。

    (三)對(duì)司法工作的沖擊

    2016 年中國(guó)國(guó)務(wù)院發(fā)布了《“十三五”國(guó)家信息化規(guī)劃》,明確支持“智慧法院”的建設(shè),中國(guó)政府在政策和經(jīng)費(fèi)方面給予人工智能高度的支持,期望中國(guó)成為世界司法人工智能的“領(lǐng)頭羊”。典型的人工智能在司法實(shí)踐中的應(yīng)用即“上海刑事案件智能輔助辦案系統(tǒng)”,實(shí)現(xiàn)了證據(jù)標(biāo)準(zhǔn)指引、電子卷宗移送、庭前會(huì)議、類(lèi)案推送、量刑參考、文書(shū)生成、辦案程序監(jiān)督等功能,該系統(tǒng)的定位是輔助司法部門(mén)辦案[9]。司法工作的智能化,一方面,緩解了司法部門(mén)案多人少的壓力,使司法人員從低技術(shù)含量的繁雜工作中解脫出來(lái),提升了辦案效率;另一方面,人工智能介入司法審判能在防止權(quán)力濫用方面發(fā)揮一定作用,有效避免外界因素對(duì)案件的影響,辦案過(guò)程的自動(dòng)化促進(jìn)了司法人員行為的規(guī)范化。

    盡管人工智能促進(jìn)了司法工作的高效、規(guī)范,但也存在一些有待解決的問(wèn)題:

    首先,人工智能機(jī)器人構(gòu)造上就是“計(jì)算機(jī)硬件+軟件+數(shù)據(jù)”,它不具有司法人員的情感、直覺(jué)、邏輯思維、經(jīng)驗(yàn)法則,沒(méi)有價(jià)值判斷的能力。司法的任務(wù)不僅要公正的處理案件,還要回應(yīng)糾紛雙方的合理需求,包括心理需求,使雙方矛盾減少,修復(fù)社會(huì)關(guān)系,人工智能無(wú)法處理證據(jù)紛繁復(fù)雜、充滿(mǎn)多樣性的社會(huì)糾紛,所以人工智能僅作為司法部門(mén)辦案的輔助性工具,不能占主導(dǎo)地位。如果司法人員過(guò)度依賴(lài)人工智能反而會(huì)影響司法的公正和效率,如何處理人工智能介入司法的范圍和深度是需要考慮的問(wèn)題。

    其次,對(duì)于人工智能作出的司法裁判結(jié)論,司法人員應(yīng)該如何對(duì)待?當(dāng)人們對(duì)人工智能的裁判結(jié)論不信任或提出質(zhì)疑時(shí),司法人員應(yīng)該如何給出合理的解釋?zhuān)棵绹?guó)威斯康星州訴盧米斯案中,被告盧米斯認(rèn)為法官使用COMPAS量刑違反了正當(dāng)程序原則并上訴到威斯康星州最高法院,最高法院最終駁回了盧米斯的訴訟請(qǐng)求,但要求法官向被告人解釋其在作出量刑決定時(shí)的考量,事后法官一直沒(méi)有給出解釋[10]。究其原因,一是公司對(duì)其設(shè)計(jì)的算法絕對(duì)保密;二是一位法律背景的法官并不能真正理解人工智能的功能原理或設(shè)計(jì)原理。任何算法的設(shè)計(jì)都不可能避免地存在缺陷,人們對(duì)人工智能的司法裁判結(jié)論提出疑問(wèn)很正常,關(guān)鍵是如何給出讓人們滿(mǎn)意的合理解釋?zhuān)鰪?qiáng)人們對(duì)人工智能輔助工具的信心。

    綜上可見(jiàn),人工智能介入司法領(lǐng)域在中國(guó)正在如火如荼的進(jìn)行,也將給司法工作模式帶來(lái)巨大影響,但對(duì)于人工智能介入司法的界限、方式、規(guī)則等問(wèn)題必須進(jìn)行審慎研究,保障科技與司法的合理結(jié)合。

    二、人工智能時(shí)代法律人才的能力培養(yǎng)要求

    雖然人工智能已經(jīng)在上述領(lǐng)域給法律帶來(lái)沖擊和變革,但中國(guó)的法學(xué)高等教育卻鮮少給出相應(yīng)的回應(yīng)。法學(xué)教育的目標(biāo)是培養(yǎng)既掌握法律知識(shí),又具備法律專(zhuān)業(yè)技能的學(xué)生,在人工智能時(shí)代,法學(xué)教育應(yīng)當(dāng)把握科技的發(fā)展,積極發(fā)展新形勢(shì)下的法學(xué)教育理論和方法,在法律與科技的結(jié)合視角下培養(yǎng)法律人才。具體而言,法學(xué)教育應(yīng)培養(yǎng)學(xué)生的法律適用能力、大數(shù)據(jù)思維能力、計(jì)算思維能力,以應(yīng)對(duì)人工智能時(shí)代對(duì)法律人提出的新要求。

    (一)法律適用能力

    人工智能技術(shù)滲透到社會(huì)的各行各業(yè)及日常生活中,催生了新的法律問(wèn)題。由于人類(lèi)預(yù)見(jiàn)能力的有限性,立法者不可能預(yù)見(jiàn)到所有領(lǐng)域和社會(huì)關(guān)系中將會(huì)出現(xiàn)的新問(wèn)題,也就無(wú)法提前制定相關(guān)規(guī)范來(lái)應(yīng)對(duì)所有的法律問(wèn)題,這種法律的滯后導(dǎo)致規(guī)范的缺失。因此,在規(guī)范缺失的情況下,要求法官能運(yùn)用現(xiàn)有法律解決新類(lèi)型案件,對(duì)法官的能力提出更高的要求。

    在高校,法學(xué)學(xué)生普遍重視法律基礎(chǔ)知識(shí)的學(xué)習(xí),傾向于對(duì)法律條文的理解和記憶,最終目標(biāo)僅是通過(guò)司法考試。法律條文的記憶并不等于學(xué)生的法律實(shí)踐能力強(qiáng),很多學(xué)生在工作后只會(huì)機(jī)械套用法律條文,不能根據(jù)每個(gè)案件的特點(diǎn)全面、準(zhǔn)確地分析案情,法律實(shí)踐能力很差。法律以條文的形式呈現(xiàn),并不能覆蓋所有的社會(huì)關(guān)系,所以法律人必須能夠用有限的規(guī)范去解決無(wú)限多的法律問(wèn)題。在人工智能時(shí)代,技術(shù)所帶來(lái)的法律問(wèn)題將會(huì)層出不窮,法律人必須具有高超的法律運(yùn)用能力才能解決諸如人工智能的人格、知識(shí)產(chǎn)權(quán)、侵權(quán)等新問(wèn)題。

    因此,對(duì)于法學(xué)高等教育來(lái)說(shuō),要及時(shí)回應(yīng)人工智能對(duì)法律人的挑戰(zhàn),努力提高學(xué)生的法律實(shí)踐能力水平,要使學(xué)生在掌握法律規(guī)范的基礎(chǔ)上,進(jìn)一步學(xué)習(xí)和掌握法律適用方法。具體而言,就是在對(duì)學(xué)生進(jìn)行一定的人工智能和大數(shù)據(jù)技術(shù)的基礎(chǔ)教育之后,加強(qiáng)對(duì)學(xué)生法律運(yùn)用能力的培養(yǎng),使學(xué)生能夠以法律推理為基本工具,熟練運(yùn)用法律解釋、漏洞填補(bǔ)、價(jià)值權(quán)衡、法律論證等方法,解決信息時(shí)代各類(lèi)新科技給法律適用帶來(lái)的難題。

    (二)大數(shù)據(jù)思維能力

    人工智能通過(guò)算法模型分析海量數(shù)據(jù),得到事件之間的聯(lián)系,從而可以完整地掌握社會(huì)關(guān)系,有利于更科學(xué)地制定法律規(guī)范或?qū)Π讣M(jìn)行分析及預(yù)測(cè),因此人工智能時(shí)代數(shù)據(jù)成為重要的資源。中國(guó)國(guó)內(nèi)一直沒(méi)有形成法律方面的大數(shù)據(jù),直到中國(guó)裁判文書(shū)網(wǎng)上線,中國(guó)的法律大數(shù)據(jù)誕生。由于海量數(shù)據(jù)的數(shù)據(jù)樣本完整,能夠避免以往調(diào)查抽樣統(tǒng)計(jì)過(guò)程中數(shù)據(jù)樣本有限導(dǎo)致結(jié)果的失真或不客觀,法律大數(shù)據(jù)的運(yùn)用實(shí)現(xiàn)了人類(lèi)現(xiàn)實(shí)社會(huì)與計(jì)算機(jī)數(shù)據(jù)之間的同構(gòu),并且云計(jì)算的發(fā)展解決了海量數(shù)據(jù)存儲(chǔ)、共享難的問(wèn)題,為數(shù)據(jù)分析方法的實(shí)施提供了條件,因此,對(duì)大數(shù)據(jù)的運(yùn)用將在法律發(fā)展中扮演重要的角色。

    法律大數(shù)據(jù)的運(yùn)用離不開(kāi)數(shù)據(jù)的收集、處理與數(shù)據(jù)的分析。首先,目前數(shù)據(jù)收集存在的問(wèn)題是公開(kāi)的海量數(shù)據(jù)如何下載?一方面,如目前裁判文書(shū)網(wǎng)收集的裁判文書(shū)已經(jīng)達(dá)到7 400多萬(wàn)份,全靠手工下載收集,工作量巨大,并且裁判文書(shū)的數(shù)量會(huì)動(dòng)態(tài)增加,手工下載幾乎不可能完成;另一方面,更多的法律數(shù)據(jù)處于保密狀態(tài),無(wú)法獲取,這就要求高校培養(yǎng)法學(xué)學(xué)生使用“爬蟲(chóng)”等新技術(shù)收集數(shù)據(jù)的能力。其次,收集的海量數(shù)據(jù)并非都符合使用標(biāo)準(zhǔn),其中存在空白或者格式不一致的文件以及冗余數(shù)據(jù)和噪聲數(shù)據(jù),對(duì)大數(shù)據(jù)進(jìn)行預(yù)處理,整理數(shù)據(jù)之間的關(guān)系是一項(xiàng)難度很大的任務(wù),有必要運(yùn)用機(jī)器學(xué)習(xí)算法增加數(shù)據(jù)處理的精度[11]。最后,在數(shù)據(jù)分析階段,固然可以將“小樣本”數(shù)據(jù)的統(tǒng)計(jì)分析方法應(yīng)用于大數(shù)據(jù),但面對(duì)數(shù)據(jù)量的急劇增長(zhǎng),數(shù)據(jù)來(lái)源的復(fù)雜化,其無(wú)法做到更深度的挖掘數(shù)據(jù),將人工智能應(yīng)用于法律大數(shù)據(jù),可以提高數(shù)據(jù)分析的效率和準(zhǔn)確率。由此可以看出,法律大數(shù)據(jù)的運(yùn)用依賴(lài)于法律人的數(shù)據(jù)收集能力、處理能力與數(shù)據(jù)分析能力,高等法學(xué)教育勢(shì)必把培養(yǎng)法學(xué)學(xué)生的大數(shù)據(jù)思維能力列入未來(lái)的計(jì)劃。

    (三)計(jì)算思維能力

    計(jì)算思維是運(yùn)用計(jì)算機(jī)科學(xué)的概念去求解問(wèn)題、設(shè)計(jì)系統(tǒng)和理解人類(lèi)的行為[12]。人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支,運(yùn)用人工智能解決法律問(wèn)題就是計(jì)算思維在法律方面的應(yīng)用。人工智能解決法律問(wèn)題的過(guò)程大致可以分為四步:

    第一步,分析法律問(wèn)題。從量和質(zhì)兩方面對(duì)法律問(wèn)題進(jìn)行分析,通過(guò)量的分析獲取法律問(wèn)題的數(shù)量特征與關(guān)系;通過(guò)質(zhì)的分析得出法律問(wèn)題的本質(zhì)。

    第二步,建立法律問(wèn)題的數(shù)學(xué)模型。信息社會(huì),法律案件涉及領(lǐng)域廣泛且日漸復(fù)雜,如果把所有因素都考慮進(jìn)去,會(huì)增加建模難度,費(fèi)時(shí)費(fèi)力。在不影響法律問(wèn)題解決精準(zhǔn)度的情況下,只考慮關(guān)鍵因素,將第一步分析的結(jié)果抽象化為法律問(wèn)題的數(shù)學(xué)描述,建立數(shù)學(xué)表達(dá)式,如判決書(shū)信息提取通常用的正則表達(dá)式方法。

    第三步,設(shè)計(jì)算法。針對(duì)法律問(wèn)題的數(shù)學(xué)模型,從計(jì)算機(jī)解決問(wèn)題的方式出發(fā),設(shè)計(jì)解決法律問(wèn)題的完整、有序的指令。

    第四步,編程實(shí)現(xiàn)。根據(jù)需求,選擇合適的開(kāi)發(fā)工具、編程語(yǔ)言實(shí)現(xiàn)算法,并進(jìn)行測(cè)試。

    運(yùn)用人工智能解決法律問(wèn)題,要求法律人既要有法學(xué)思維,也要有計(jì)算思維。但現(xiàn)實(shí)是法律人只負(fù)責(zé)提出問(wèn)題,人工智能的設(shè)計(jì)全部交給計(jì)算機(jī)專(zhuān)業(yè)人員完成,沒(méi)有實(shí)現(xiàn)法學(xué)思維與計(jì)算思維的融合,進(jìn)而實(shí)現(xiàn)人工智能與法學(xué)交叉就無(wú)從談起,導(dǎo)致以下問(wèn)題:

    首先,應(yīng)用于法學(xué)的人工智能算法都是通用學(xué)科的算法,遇到疑難復(fù)雜、個(gè)性化強(qiáng)的法律問(wèn)題處理準(zhǔn)確度不高或根本無(wú)法處理。

    《公約》第15條、16條均將“賄賂”明文規(guī)定為“不正當(dāng)好處”。這既突出了“賄賂”的非法性和不正當(dāng)性,我國(guó)刑法對(duì)于賄賂的內(nèi)容用“財(cái)物”一詞具有相當(dāng)大的局限性,會(huì)使相當(dāng)數(shù)量的本質(zhì)上屬于行賄、受賄的行為逃脫法律的制裁,不利于對(duì)賄賂犯罪的打擊。

    其次,不具備計(jì)算思維的法律人,沒(méi)有能力識(shí)別輸入數(shù)據(jù)、算法設(shè)計(jì)的合理性、正確性,只能檢測(cè)機(jī)器人輸出的文字性結(jié)論,而不具備法學(xué)思維的計(jì)算機(jī)專(zhuān)業(yè)人士沒(méi)有能力正確表達(dá)法律問(wèn)題,理解法律規(guī)范。無(wú)論哪種情況,法律問(wèn)題的解決都會(huì)出現(xiàn)偏差,甚至發(fā)生錯(cuò)誤。

    要打破這種局面,開(kāi)發(fā)既符合法律條文解釋?zhuān)纸?jīng)得起法學(xué)實(shí)證分析考驗(yàn)的人工智能模型,高等教育方面必須培養(yǎng)法學(xué)學(xué)生的計(jì)算思維能力,使學(xué)生成為真正的人工智能法律人才。

    三、人工智能時(shí)代法學(xué)教育的不足

    如前所述,人工智能時(shí)代對(duì)法學(xué)教育提出了法律適用能力、大數(shù)據(jù)思維能力、計(jì)算思維能力的培養(yǎng)要求,但目前中國(guó)高校法學(xué)院系的教育模式存在普遍的滯后性,在培養(yǎng)目標(biāo)、課程體系、實(shí)踐條件等方面均不能滿(mǎn)足上述能力培養(yǎng)要求。

    (一)培養(yǎng)目標(biāo)

    在培養(yǎng)目標(biāo)方面,目前中國(guó)高校法學(xué)院系幾乎都是維持以往的總體培養(yǎng)目標(biāo),并未因應(yīng)人工智能時(shí)代作出必要調(diào)整,與時(shí)代科技發(fā)展存在相當(dāng)?shù)穆洳睢R灾袊?guó)人民大學(xué)為例,其法學(xué)本科培養(yǎng)方案將培養(yǎng)目標(biāo)界定為“培養(yǎng)德、智、體、美全面發(fā)展的高素質(zhì)法律人才”,但培養(yǎng)要求的核心部分仍為“掌握系統(tǒng)的法律專(zhuān)業(yè)知識(shí),了解國(guó)內(nèi)外法學(xué)發(fā)展動(dòng)態(tài);具有良好的文字和口頭表達(dá)能力、邏輯思辨和論證能力,具有獨(dú)立分析和解決問(wèn)題的能力”,并未體現(xiàn)出如何將科技發(fā)展對(duì)法律的沖擊以及對(duì)法律人才的新要求納入培養(yǎng)目標(biāo)。

    有部分高校已經(jīng)意識(shí)到人工智能時(shí)代對(duì)相關(guān)學(xué)科專(zhuān)業(yè)的沖擊,并積極作出應(yīng)變,如筆者所在的安徽財(cái)經(jīng)大學(xué),為了適應(yīng)信息技術(shù)對(duì)高等教育發(fā)展的促進(jìn)和挑戰(zhàn)以及對(duì)經(jīng)濟(jì)管理類(lèi)高級(jí)專(zhuān)門(mén)人才的知識(shí)、能力、素質(zhì)結(jié)構(gòu)提出的全新要求,提出“新經(jīng)管”建設(shè)工程方案,在學(xué)生培養(yǎng)方案修訂上,將互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、人工智能等信息技術(shù)嵌入課程體系中,以現(xiàn)有的學(xué)科專(zhuān)業(yè)為基礎(chǔ),推進(jìn)學(xué)科交叉、專(zhuān)業(yè)融合實(shí)施方案。盡管學(xué)校提出如此要求,但由于主要面向經(jīng)濟(jì)管理專(zhuān)業(yè),所以法學(xué)專(zhuān)業(yè)仍未在培養(yǎng)目標(biāo)上作出相應(yīng)調(diào)整,基本上仍延續(xù)以往的培養(yǎng)思路,以“系統(tǒng)掌握法學(xué)學(xué)科的基本理論與基本知識(shí)、系統(tǒng)掌握中國(guó)基本法律制度以及相關(guān)政策和國(guó)際慣例、掌握法學(xué)分析及法律分析的基本方法和技術(shù)、掌握文獻(xiàn)檢索、信息搜集、資料查詢(xún)的基本方法”作為能力培養(yǎng)目標(biāo),未能考慮人工智能對(duì)法律專(zhuān)業(yè)和人才培養(yǎng)的新要求,在師資力量、課程體系上也未進(jìn)行必要的調(diào)整,授課中教師們基本上對(duì)于人工智能帶來(lái)的法律沖擊“集體無(wú)意識(shí)”,無(wú)法滿(mǎn)足人工智能時(shí)代法律人的培養(yǎng)需求。法學(xué)專(zhuān)業(yè)的這種狀況在其他法學(xué)院系也同樣存在,反映了法學(xué)教育對(duì)新技術(shù)發(fā)展普遍存在的應(yīng)對(duì)滯后性。

    (二)課程體系

    為了滿(mǎn)足人工智能時(shí)代對(duì)法律人的能力培養(yǎng)要求,在課程體系設(shè)置上,應(yīng)當(dāng)探索將人工智能技術(shù)類(lèi)課程與法學(xué)基礎(chǔ)課程進(jìn)行融合,將技術(shù)問(wèn)題法律化、法律問(wèn)題技術(shù)化,才能將數(shù)據(jù)思維、計(jì)算思維內(nèi)化于法學(xué)教育中。但從目前中國(guó)法學(xué)院系的課程體系建設(shè)來(lái)看,也幾乎未能進(jìn)行這種課程融合,即便引入了人工智能、大數(shù)據(jù)課程,也僅是將其作為獨(dú)立的課程對(duì)待,至多能夠讓學(xué)生了解一些人工智能或大數(shù)據(jù)的基本知識(shí),無(wú)法滿(mǎn)足思維能力培養(yǎng)的需要。

    (三)實(shí)踐條件

    對(duì)于人工智能、大數(shù)據(jù)類(lèi)課程來(lái)說(shuō),實(shí)踐是相當(dāng)重要的環(huán)節(jié),對(duì)于法學(xué)專(zhuān)業(yè)學(xué)生培養(yǎng)來(lái)說(shuō)同樣如此,只有通過(guò)實(shí)踐才能讓學(xué)生了解人工智能、大數(shù)據(jù)的技術(shù)基礎(chǔ)和特征,開(kāi)發(fā)其數(shù)據(jù)思維和計(jì)算思維,也更有利于激發(fā)對(duì)人工智能、大數(shù)據(jù)法律問(wèn)題的思考。尤其是隨著司法智能輔助的發(fā)展,應(yīng)當(dāng)讓學(xué)生早日熟悉智能輔助的功能,以便為日后參加工作提前做好運(yùn)用智能輔助的準(zhǔn)備。

    但總體上看,目前已經(jīng)開(kāi)設(shè)人工智能、大數(shù)據(jù)類(lèi)課程的少數(shù)高校法學(xué)院系在實(shí)踐條件方面極其有限,難以滿(mǎn)足法學(xué)學(xué)生的實(shí)踐需求,所以對(duì)人工智能、大數(shù)據(jù)類(lèi)課程只能以課堂講授為主,難以激發(fā)學(xué)生的學(xué)習(xí)興趣,教學(xué)效果難以保障,也無(wú)法真正培養(yǎng)學(xué)生的操作能力和思維能力。在筆者所在的安徽財(cái)經(jīng)大學(xué),以往在法學(xué)的實(shí)踐教學(xué)環(huán)節(jié)曾引入中南財(cái)經(jīng)政法大學(xué)開(kāi)發(fā)的LETS系統(tǒng)(法學(xué)實(shí)驗(yàn)教學(xué)系統(tǒng)軟件),但該系統(tǒng)僅是較低層次的模擬立法、司法、執(zhí)法系統(tǒng),遠(yuǎn)稱(chēng)不上“智能系統(tǒng)”。而在2018年課程體系中增設(shè)人工智能、大數(shù)據(jù)類(lèi)課程之后,如何保障學(xué)生的實(shí)踐需求仍是未知數(shù),學(xué)校雖在探索設(shè)置智慧實(shí)驗(yàn)室、科研實(shí)驗(yàn)室和創(chuàng)新創(chuàng)業(yè)實(shí)驗(yàn)室,但總體上仍難以滿(mǎn)足法學(xué)專(zhuān)業(yè)學(xué)生的實(shí)踐需要。實(shí)踐條件的缺乏也是其他高校法學(xué)院系已經(jīng)面臨或?qū)⒁媾R的難題,更是必須解決的問(wèn)題。因此,高校法學(xué)院系應(yīng)積極引入或與企業(yè)聯(lián)合開(kāi)發(fā)相關(guān)的智能輔助軟件或模擬軟件,將其投入實(shí)踐教學(xué)環(huán)節(jié),提高學(xué)生的操作能力和思維水平。

    四、人工智能背景下法學(xué)教育的改革路徑

    法學(xué)高等教育要順應(yīng)人工智能時(shí)代的發(fā)展,及時(shí)修訂培養(yǎng)目標(biāo)和培養(yǎng)方案,充分考慮人工智能對(duì)法律的沖擊和對(duì)人才的需求,培養(yǎng)學(xué)生的法律適用能力、大數(shù)據(jù)思維能力、計(jì)算思維能力。針對(duì)上述培養(yǎng)目標(biāo),中國(guó)法學(xué)高等教育應(yīng)進(jìn)行如下改革:促進(jìn)學(xué)生法律適用能力的培養(yǎng);打造人工智能法學(xué)課程體系,針對(duì)法學(xué)專(zhuān)業(yè)引入人工智能相關(guān)課程并探索課程的融合;借力人工智能推動(dòng)教學(xué)方式的改革。如此,培養(yǎng)的學(xué)生才能勝任人工智能法律發(fā)展背景下的法律職業(yè)。

    (一)加強(qiáng)人工智能時(shí)代法律適用能力的培養(yǎng)

    法律制度發(fā)展的相對(duì)滯后,造成新出現(xiàn)的人工智能法律問(wèn)題的解決沒(méi)有現(xiàn)成的規(guī)范可依。法律人法律適用能力的增強(qiáng)有助于解決人工智能法律問(wèn)題的多樣性、復(fù)雜性與法律滯后間的矛盾。目前,中國(guó)法學(xué)高等教育的重點(diǎn)是使學(xué)生掌握法學(xué)理論知識(shí),對(duì)學(xué)生法律適用能力的培養(yǎng)不足,學(xué)生普遍不具有利用現(xiàn)有法律解決未來(lái)新法律問(wèn)題的能力。因此,應(yīng)從師資、課程等方面促進(jìn)對(duì)學(xué)生法律適用能力的培養(yǎng)。

    1. 師資

    法律適用的重點(diǎn)是合理、準(zhǔn)確地運(yùn)用法律規(guī)范處理案件,因此要求教授相關(guān)課程的教師既要有扎實(shí)的法學(xué)理論功底,又要有豐富的法務(wù)實(shí)踐經(jīng)驗(yàn)。首先,教師應(yīng)積極開(kāi)展法律適用理論方面的研究,尤其是解決信息時(shí)代新類(lèi)型科技法律問(wèn)題的法律適用研究;其次,教師應(yīng)積累法律適用的實(shí)際經(jīng)驗(yàn)。因此,高校法學(xué)專(zhuān)業(yè)可以與司法部門(mén)合作,規(guī)定教師必須有到司法部門(mén)實(shí)踐或掛職一定時(shí)間的經(jīng)歷,經(jīng)司法部門(mén)允許,要求教師在工作中收集案件的法律適用分析過(guò)程材料,在以后的教學(xué)中,通過(guò)這些典型案例分析法律適用的理論知識(shí)及法律規(guī)范的適用過(guò)程;或者可以聘請(qǐng)經(jīng)驗(yàn)豐富的法務(wù)人員為兼職教師,專(zhuān)門(mén)講授法律適用課程,還可以作為本科生導(dǎo)師制的導(dǎo)師,或指導(dǎo)學(xué)生畢業(yè)論文和模擬法庭實(shí)踐,從多個(gè)方面加強(qiáng)學(xué)生的法律適用能力。

    2. 課程

    法律適用在高校法學(xué)教育中的地位無(wú)可替代,所以應(yīng)將法律適用課程設(shè)置為法學(xué)專(zhuān)業(yè)本科階段的專(zhuān)業(yè)必修課。法學(xué)本科階段是學(xué)生進(jìn)入法學(xué)職業(yè)生涯的初始階段,為學(xué)生法律職業(yè)的發(fā)展奠定基礎(chǔ)。法學(xué)本科畢業(yè)生是司法部門(mén)、律師事務(wù)所工作人員來(lái)源的主力軍。法律適用課程設(shè)置在本科階段,使初次接觸專(zhuān)業(yè)知識(shí)的學(xué)生學(xué)習(xí)法學(xué)理論的同時(shí),也能盡快積累法律適用的知識(shí),成為符合社會(huì)要求的實(shí)踐型法律人才。

    法律適用課程在選用教材方面會(huì)遇到一些問(wèn)題,目前法律適用教材大部分是在某部門(mén)法范圍內(nèi)講解其領(lǐng)域的具體案件法律適用的過(guò)程,像胡建淼的《法律適用學(xué)》這種涵蓋所有部門(mén)法的通用教材很少,探討新類(lèi)型科技法律適用問(wèn)題的教材還沒(méi)有出現(xiàn)。因此,高校法學(xué)教師應(yīng)面向新類(lèi)型科技法律問(wèn)題,編寫(xiě)規(guī)范、統(tǒng)一的法律適用教材,以便學(xué)生完整、系統(tǒng)地學(xué)習(xí)法律適用知識(shí)。

    (二)打造人工智能法學(xué)課程體系

    如前所述,人工智能在各領(lǐng)域迅猛發(fā)展,法律領(lǐng)域?qū)θ斯ぶ悄芊▽W(xué)的理論研究如火如荼,但由于學(xué)者不了解人工智能相關(guān)技術(shù),研究存在諸多偏離實(shí)際之處。反過(guò)來(lái),人工智能專(zhuān)業(yè)人員也不了解法律,難以開(kāi)發(fā)滿(mǎn)足法律領(lǐng)域需求的人工智能技術(shù)。只有培養(yǎng)人工智能和法律融合的法律人才,才能使人工智能技術(shù)在法律領(lǐng)域得到深度應(yīng)用。

    如前所述,中國(guó)大部分高校法學(xué)專(zhuān)業(yè)課程的設(shè)置仍以教育部規(guī)定的傳統(tǒng)法學(xué)課程為核心,并沒(méi)有增設(shè)人工智能方面的課程,無(wú)法滿(mǎn)足人工智能時(shí)代對(duì)法學(xué)人才的培養(yǎng)要求。當(dāng)然,也有極少數(shù)的高校結(jié)合自己的學(xué)科優(yōu)勢(shì),開(kāi)始嘗試開(kāi)設(shè)人工智能相關(guān)的課程,如西南政法大學(xué)法學(xué)院設(shè)立了“人工智能法學(xué)”二級(jí)學(xué)科,開(kāi)設(shè)法律大數(shù)據(jù)挖掘與應(yīng)用、人工智能技術(shù)導(dǎo)論、人工智能法學(xué)原理等培養(yǎng)法學(xué)學(xué)生大數(shù)據(jù)思維、計(jì)算思維的課程,推動(dòng)人工智能和法律的融合,培養(yǎng)具有創(chuàng)新能力的人才[13];清華大學(xué)法學(xué)院獲批了的“計(jì)算法學(xué)”工程碩士項(xiàng)目,培養(yǎng)人工智能、法律與現(xiàn)代網(wǎng)絡(luò)發(fā)展融合的復(fù)合型人才。

    為了培養(yǎng)人工智能法律人才,建議在原有法學(xué)課程的基礎(chǔ)上,開(kāi)設(shè)人工智能技術(shù)類(lèi)及融合類(lèi)課程,從理論課程和實(shí)踐課程兩方面打造新的課程體系。

    1. 理論課程

    理論課程方面,增設(shè)大數(shù)據(jù)、人工智能等能夠培養(yǎng)法學(xué)學(xué)生大數(shù)據(jù)思維、計(jì)算思維的課程,并積極探索這類(lèi)課程與法學(xué)基礎(chǔ)課程的融合。大數(shù)據(jù)課程主要內(nèi)容為大數(shù)據(jù)存儲(chǔ)與處理、大數(shù)據(jù)生態(tài)系統(tǒng)、協(xié)同工作等核心技術(shù),為人工智能機(jī)器人輸入數(shù)據(jù)的準(zhǔn)備奠定基礎(chǔ);人工智能課程主要內(nèi)容為搜索方法、邏輯、知識(shí)表示、機(jī)器學(xué)習(xí)、機(jī)器人技術(shù)等,使學(xué)生掌握人工智能的基本原理、技術(shù),學(xué)會(huì)開(kāi)發(fā)人工智能系統(tǒng);融合類(lèi)課程主要針對(duì)人工智能、大數(shù)據(jù)所帶來(lái)的各個(gè)部門(mén)法的問(wèn)題,并對(duì)這些問(wèn)題進(jìn)行分析,提出解決問(wèn)題的原則、方法、技術(shù)等。

    2. 實(shí)踐課程

    實(shí)踐課程的開(kāi)設(shè)可以有兩種方式:一是打造人工智能實(shí)驗(yàn)平臺(tái),如北京大學(xué)成立人工智能實(shí)驗(yàn)室,實(shí)驗(yàn)項(xiàng)目分為智能立法、智能執(zhí)法、法寶智刑、智能法務(wù)、法律機(jī)器人五個(gè)模塊。二是采用校企合作的模式,如西南政法大學(xué)與恒圖科技等多家企業(yè)開(kāi)啟合作,學(xué)生可以到企業(yè)實(shí)習(xí),切身體驗(yàn)人工智能產(chǎn)品的設(shè)計(jì)與開(kāi)發(fā)過(guò)程。增設(shè)人工智能實(shí)踐課程的目的是使學(xué)生掌握人工智能技術(shù)在法律方面的應(yīng)用及人工智能法律產(chǎn)品的開(kāi)發(fā),提高學(xué)生理解和運(yùn)用法律人工智能產(chǎn)品的能力。

    (三)開(kāi)展人工智能法律系統(tǒng)的運(yùn)用教學(xué)

    未來(lái)高校法學(xué)專(zhuān)業(yè)的畢業(yè)生大部分會(huì)進(jìn)入律師事務(wù)所、司法部門(mén)、企業(yè)法務(wù)部門(mén)工作,或到企業(yè)、科研院所從事人工智能法律產(chǎn)品的研發(fā)。在可預(yù)見(jiàn)的由弱人工智能時(shí)代邁向強(qiáng)人工智能時(shí)代的過(guò)程中,學(xué)生畢業(yè)后無(wú)論從事上述哪類(lèi)工作,在工作中都勢(shì)必使用或開(kāi)發(fā)人工智能法律系統(tǒng),所以,高校法學(xué)專(zhuān)業(yè)有必要在教學(xué)過(guò)程中開(kāi)展人工智能法律系統(tǒng)的運(yùn)用。

    現(xiàn)在市面上針對(duì)法學(xué)教學(xué)的人工智能法律系統(tǒng)大致分為法學(xué)多用途教學(xué)系統(tǒng)和司法模擬教學(xué)系統(tǒng)。法學(xué)多用途教學(xué)系統(tǒng)一般分為法律法規(guī)、法律文書(shū)、法學(xué)教學(xué)案例和法學(xué)考試試題等四大部分,涵蓋全部實(shí)體法和程序法,并劃分為若干學(xué)科,每個(gè)學(xué)科都含有法學(xué)理論知識(shí)和大量檢察院、法院發(fā)布的指導(dǎo)性案例。運(yùn)用司法模擬教學(xué)系統(tǒng),可以使學(xué)生體驗(yàn)不同的司法人員角色,理解司法工作的流程,掌握法律文書(shū)、法律證據(jù)的分析應(yīng)用。

    人工智能法律系統(tǒng)在教學(xué)中的運(yùn)用,給法學(xué)專(zhuān)業(yè)帶來(lái)的有利之處顯而易見(jiàn):人工智能法律系統(tǒng)包含的教學(xué)內(nèi)容全面、層次性強(qiáng),案例真實(shí)、數(shù)據(jù)量大,避免了教師收集案例不全、不系統(tǒng)的問(wèn)題,學(xué)生可以將所學(xué)理論知識(shí)應(yīng)用于公安局、檢察院、法院等司法部門(mén)的模擬工作中,使學(xué)生對(duì)司法工作形成直觀的感覺(jué),精準(zhǔn)的體驗(yàn),實(shí)現(xiàn)了不同類(lèi)型法律人才的培養(yǎng)。學(xué)生通過(guò)學(xué)習(xí)中使用人工智能法律系統(tǒng),學(xué)會(huì)熟練操作人工智能系統(tǒng),并深刻理解系統(tǒng)的功能設(shè)計(jì),為以后工作中使用或開(kāi)發(fā)人工智能法律系統(tǒng)奠定基礎(chǔ)。

    五、結(jié)語(yǔ)

    人工智能技術(shù)促進(jìn)了社會(huì)各領(lǐng)域的發(fā)展,法學(xué)高等教育不能被屏蔽在外,文章探討了人工智能對(duì)法學(xué)領(lǐng)域的挑戰(zhàn),以及法學(xué)高等教育面對(duì)挑戰(zhàn)應(yīng)采取的改革措施。實(shí)際上,除極少數(shù)高校的法學(xué)院系積極嘗試發(fā)展人工智能與法學(xué)學(xué)科的交叉,其他高校的反應(yīng)僅限于部分教師對(duì)人工智能法學(xué)方面的課題進(jìn)行研究,法學(xué)教育本身并沒(méi)有做出任何改變。長(zhǎng)此以往,高校培養(yǎng)的法學(xué)專(zhuān)業(yè)學(xué)生將難以滿(mǎn)足科技發(fā)展而提出的時(shí)代需求,使法學(xué)教育陷入危機(jī)。世界各國(guó)高校對(duì)人工智能法律人才的培養(yǎng)都尚處于起步階段,中國(guó)各高校還有趕超的機(jī)會(huì),法學(xué)高等教育應(yīng)積極探索,對(duì)現(xiàn)有的法學(xué)教育模式進(jìn)行改革,促進(jìn)“人工智能+法律”的復(fù)合型人才培養(yǎng)。

    猜你喜歡
    法學(xué)人工智能法律
    《南大法學(xué)》征稿啟事
    《南大法學(xué)》征稿啟事
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    法學(xué)
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    国产人妻一区二区三区在| 欧美+日韩+精品| 亚洲国产精品久久男人天堂| 又爽又黄无遮挡网站| 别揉我奶头~嗯~啊~动态视频| 99九九线精品视频在线观看视频| 精品人妻视频免费看| 最新中文字幕久久久久| 俄罗斯特黄特色一大片| 成年免费大片在线观看| 免费观看精品视频网站| 91久久精品电影网| 亚洲精品色激情综合| 亚洲高清免费不卡视频| 国产视频内射| 欧美绝顶高潮抽搐喷水| 美女大奶头视频| 嫩草影院精品99| 国产亚洲精品久久久com| 欧洲精品卡2卡3卡4卡5卡区| 国语自产精品视频在线第100页| 美女大奶头视频| 黄色视频,在线免费观看| 成人性生交大片免费视频hd| 国产精品野战在线观看| 人妻夜夜爽99麻豆av| 99久久中文字幕三级久久日本| 日韩av在线大香蕉| 亚洲精品乱码久久久v下载方式| 两性午夜刺激爽爽歪歪视频在线观看| 2021天堂中文幕一二区在线观| 女生性感内裤真人,穿戴方法视频| 欧美色视频一区免费| 真实男女啪啪啪动态图| 1000部很黄的大片| 欧美一区二区国产精品久久精品| 国产成人aa在线观看| 级片在线观看| 精品一区二区三区视频在线观看免费| 亚洲av成人av| 综合色丁香网| 俺也久久电影网| 久久精品国产99精品国产亚洲性色| 嫩草影院精品99| 午夜影院日韩av| 国产极品精品免费视频能看的| 此物有八面人人有两片| 午夜福利在线在线| 无遮挡黄片免费观看| 久久精品国产自在天天线| 精品午夜福利在线看| 国产一区二区三区在线臀色熟女| 天天躁日日操中文字幕| 精品欧美国产一区二区三| 亚洲一区高清亚洲精品| 日本在线视频免费播放| 国产精品野战在线观看| 婷婷亚洲欧美| 12—13女人毛片做爰片一| 亚洲乱码一区二区免费版| 国产精品av视频在线免费观看| 长腿黑丝高跟| av视频在线观看入口| 最近手机中文字幕大全| 久久久久久久久久久丰满| 国语自产精品视频在线第100页| 精品国产三级普通话版| 色播亚洲综合网| 精品午夜福利视频在线观看一区| av天堂中文字幕网| 亚洲国产欧洲综合997久久,| 中文字幕精品亚洲无线码一区| 国产精品野战在线观看| 亚洲自拍偷在线| 日韩成人av中文字幕在线观看 | 人妻制服诱惑在线中文字幕| 国产男靠女视频免费网站| 日韩强制内射视频| 免费看日本二区| 不卡视频在线观看欧美| 日韩制服骚丝袜av| 亚洲五月天丁香| 99久久成人亚洲精品观看| 国产精品99久久久久久久久| 国产蜜桃级精品一区二区三区| videossex国产| 国产在视频线在精品| 国产精品亚洲一级av第二区| 有码 亚洲区| 午夜福利在线观看吧| 91精品国产九色| 成人高潮视频无遮挡免费网站| 亚洲成人中文字幕在线播放| 久久精品综合一区二区三区| 男人狂女人下面高潮的视频| 一级黄色大片毛片| 久久亚洲精品不卡| 99久国产av精品国产电影| 啦啦啦韩国在线观看视频| 天天躁夜夜躁狠狠久久av| 亚洲无线在线观看| 成人鲁丝片一二三区免费| 看免费成人av毛片| 精品乱码久久久久久99久播| 麻豆成人午夜福利视频| 特级一级黄色大片| 日本色播在线视频| 亚洲va在线va天堂va国产| 老女人水多毛片| 国产极品精品免费视频能看的| 99久久中文字幕三级久久日本| 毛片一级片免费看久久久久| 日韩成人av中文字幕在线观看 | 少妇的逼好多水| 噜噜噜噜噜久久久久久91| 国产亚洲av嫩草精品影院| 精品久久久久久成人av| 91在线观看av| 白带黄色成豆腐渣| 一个人看的www免费观看视频| 国产精品国产高清国产av| av.在线天堂| 嫩草影视91久久| 久久精品国产自在天天线| 国产精品一区二区三区四区久久| 亚洲精品国产成人久久av| av在线播放精品| 禁无遮挡网站| 热99re8久久精品国产| 欧美高清性xxxxhd video| av在线老鸭窝| 亚洲欧美日韩东京热| 欧美区成人在线视频| 国产乱人视频| 不卡一级毛片| 亚洲第一区二区三区不卡| 日日啪夜夜撸| 亚洲精品一区av在线观看| 无遮挡黄片免费观看| 欧美日韩在线观看h| 男女做爰动态图高潮gif福利片| avwww免费| av免费在线看不卡| 免费大片18禁| 日本一二三区视频观看| 97超级碰碰碰精品色视频在线观看| 在线播放国产精品三级| 午夜精品一区二区三区免费看| 赤兔流量卡办理| 天堂av国产一区二区熟女人妻| 日韩国内少妇激情av| 国产熟女欧美一区二区| 中文字幕久久专区| 欧美日韩一区二区视频在线观看视频在线 | 免费看av在线观看网站| av.在线天堂| 国产精品三级大全| 韩国av在线不卡| 国产精品一区二区三区四区免费观看 | 国产黄色视频一区二区在线观看 | 亚洲一区高清亚洲精品| 国产探花极品一区二区| av在线蜜桃| 国国产精品蜜臀av免费| 一级av片app| 亚洲人成网站在线播放欧美日韩| 变态另类丝袜制服| 女人被狂操c到高潮| 三级男女做爰猛烈吃奶摸视频| 国产高清视频在线观看网站| 亚洲成a人片在线一区二区| 成人高潮视频无遮挡免费网站| 精品乱码久久久久久99久播| 成人二区视频| 老熟妇仑乱视频hdxx| 精品免费久久久久久久清纯| 久久久久久久久久久丰满| 一进一出抽搐gif免费好疼| 免费高清视频大片| 欧美成人精品欧美一级黄| 日本黄色视频三级网站网址| 免费观看人在逋| 成年av动漫网址| 永久网站在线| 女人十人毛片免费观看3o分钟| 中文字幕人妻熟人妻熟丝袜美| 又粗又爽又猛毛片免费看| 精品免费久久久久久久清纯| 日韩一区二区视频免费看| 无遮挡黄片免费观看| 亚洲va在线va天堂va国产| 人人妻人人看人人澡| 午夜a级毛片| 精品欧美国产一区二区三| 亚洲无线观看免费| 亚洲国产欧洲综合997久久,| 国产久久久一区二区三区| 国产高潮美女av| 国产高清有码在线观看视频| 麻豆一二三区av精品| 国产不卡一卡二| 男人和女人高潮做爰伦理| 日日摸夜夜添夜夜添av毛片| 日韩三级伦理在线观看| 性欧美人与动物交配| 亚洲人成网站在线播放欧美日韩| 亚洲七黄色美女视频| 久久久久久久亚洲中文字幕| 精品人妻视频免费看| 毛片女人毛片| 黄色一级大片看看| 亚洲无线在线观看| 中文在线观看免费www的网站| 男女啪啪激烈高潮av片| 成人无遮挡网站| 亚洲中文日韩欧美视频| 日日撸夜夜添| 性欧美人与动物交配| 精品熟女少妇av免费看| 日日摸夜夜添夜夜爱| 大又大粗又爽又黄少妇毛片口| 18禁黄网站禁片免费观看直播| 在现免费观看毛片| 国内精品久久久久精免费| 亚洲成人中文字幕在线播放| 国产真实乱freesex| 久久久久国产网址| 黄色视频,在线免费观看| 中文字幕人妻熟人妻熟丝袜美| 最好的美女福利视频网| 99在线视频只有这里精品首页| 久久久久久久久中文| 久久精品夜夜夜夜夜久久蜜豆| 蜜桃久久精品国产亚洲av| 不卡一级毛片| 69av精品久久久久久| 真人做人爱边吃奶动态| 国产精品一及| 老司机福利观看| 日本免费一区二区三区高清不卡| 精品久久久久久久末码| 国产伦一二天堂av在线观看| 丰满的人妻完整版| 99热这里只有是精品在线观看| 国产熟女欧美一区二区| 99久久无色码亚洲精品果冻| 欧美绝顶高潮抽搐喷水| 有码 亚洲区| 国产精品永久免费网站| 黄片wwwwww| 久久精品夜色国产| 色综合色国产| 日韩成人av中文字幕在线观看 | 一级毛片久久久久久久久女| 国产欧美日韩精品一区二区| 国产成年人精品一区二区| 久久草成人影院| 老熟妇仑乱视频hdxx| 中国美女看黄片| 欧美人与善性xxx| 天堂动漫精品| 国产又黄又爽又无遮挡在线| 日韩欧美 国产精品| 一级毛片电影观看 | 天堂影院成人在线观看| 亚洲天堂国产精品一区在线| av福利片在线观看| 热99在线观看视频| 亚洲av熟女| 精品午夜福利视频在线观看一区| 精品福利观看| 99久久中文字幕三级久久日本| 毛片女人毛片| 亚洲精华国产精华液的使用体验 | 国产午夜福利久久久久久| a级毛片a级免费在线| aaaaa片日本免费| 精品少妇黑人巨大在线播放 | 国产大屁股一区二区在线视频| 99久久久亚洲精品蜜臀av| 美女xxoo啪啪120秒动态图| 内地一区二区视频在线| 欧美最新免费一区二区三区| 久久中文看片网| 97热精品久久久久久| 真实男女啪啪啪动态图| 老熟妇仑乱视频hdxx| 少妇被粗大猛烈的视频| 噜噜噜噜噜久久久久久91| 亚洲欧美中文字幕日韩二区| 久久久久免费精品人妻一区二区| 欧美日韩精品成人综合77777| 两个人视频免费观看高清| 91精品国产九色| 又黄又爽又免费观看的视频| 久久久久久久久大av| 国产亚洲av嫩草精品影院| 亚洲在线自拍视频| 日韩一本色道免费dvd| 欧美日韩乱码在线| 天堂影院成人在线观看| 国产爱豆传媒在线观看| 床上黄色一级片| 亚洲人与动物交配视频| av在线亚洲专区| 亚洲精品成人久久久久久| 久久6这里有精品| 国产久久久一区二区三区| 不卡一级毛片| 欧美一区二区亚洲| 国产v大片淫在线免费观看| 一个人看视频在线观看www免费| 国产成人91sexporn| 精品欧美国产一区二区三| 国产精品不卡视频一区二区| 欧美日韩精品成人综合77777| 日本欧美国产在线视频| 国产精品99久久久久久久久| 免费不卡的大黄色大毛片视频在线观看 | 99在线视频只有这里精品首页| 久久精品国产亚洲av涩爱 | 久久精品影院6| 久久久国产成人精品二区| 欧美区成人在线视频| 久久精品综合一区二区三区| 中文字幕精品亚洲无线码一区| 国产精品99久久久久久久久| 亚洲一级一片aⅴ在线观看| 成人av在线播放网站| 亚洲在线观看片| 亚洲中文字幕日韩| 日本精品一区二区三区蜜桃| 免费人成视频x8x8入口观看| 午夜精品国产一区二区电影 | avwww免费| 最近手机中文字幕大全| 日本成人三级电影网站| 亚洲高清免费不卡视频| 成人亚洲欧美一区二区av| 两个人视频免费观看高清| 欧美日韩国产亚洲二区| 黄色视频,在线免费观看| 亚洲中文日韩欧美视频| 中国国产av一级| 成人欧美大片| 亚洲国产欧美人成| 午夜免费男女啪啪视频观看 | 久久鲁丝午夜福利片| 免费观看人在逋| av在线亚洲专区| 亚洲性夜色夜夜综合| 在线国产一区二区在线| 中文字幕熟女人妻在线| 欧美日韩国产亚洲二区| 嫩草影院新地址| 欧美绝顶高潮抽搐喷水| 欧美激情在线99| 精品少妇黑人巨大在线播放 | 精品久久久久久久久av| av专区在线播放| 亚洲av成人av| 亚洲av中文字字幕乱码综合| 综合色av麻豆| av在线亚洲专区| 俄罗斯特黄特色一大片| 伊人久久精品亚洲午夜| 久久6这里有精品| 黄色配什么色好看| 亚洲精品影视一区二区三区av| 国产精品国产高清国产av| 99国产精品一区二区蜜桃av| 白带黄色成豆腐渣| 午夜精品国产一区二区电影 | 久久99热这里只有精品18| 亚洲美女搞黄在线观看 | 乱码一卡2卡4卡精品| 国产精品久久久久久精品电影| 99热这里只有精品一区| 九九久久精品国产亚洲av麻豆| 免费黄网站久久成人精品| 国内揄拍国产精品人妻在线| av黄色大香蕉| 国产伦精品一区二区三区视频9| 午夜精品国产一区二区电影 | 丰满人妻一区二区三区视频av| 午夜久久久久精精品| 国产精品,欧美在线| 国产在视频线在精品| 99久久中文字幕三级久久日本| 国产又黄又爽又无遮挡在线| 亚洲av成人av| 人人妻人人看人人澡| 我要看日韩黄色一级片| 国产成人freesex在线 | 老熟妇仑乱视频hdxx| 可以在线观看的亚洲视频| 日本免费一区二区三区高清不卡| 在线看三级毛片| 色在线成人网| 免费黄网站久久成人精品| 九九久久精品国产亚洲av麻豆| 尤物成人国产欧美一区二区三区| 亚洲av美国av| 久久久a久久爽久久v久久| 五月玫瑰六月丁香| 亚洲人成网站在线观看播放| 少妇裸体淫交视频免费看高清| 国产精品亚洲美女久久久| 免费大片18禁| h日本视频在线播放| 久久久久国内视频| 国产免费一级a男人的天堂| 国产精品一区www在线观看| 国产三级中文精品| 一级av片app| 色噜噜av男人的天堂激情| 精品99又大又爽又粗少妇毛片| 久久亚洲精品不卡| 国产在线精品亚洲第一网站| 变态另类丝袜制服| 尾随美女入室| 免费搜索国产男女视频| 精品熟女少妇av免费看| 热99re8久久精品国产| 欧美日本亚洲视频在线播放| 欧美成人免费av一区二区三区| 国产一区二区在线观看日韩| 乱码一卡2卡4卡精品| 国产男人的电影天堂91| 18+在线观看网站| 一个人免费在线观看电影| 国产精品一区二区三区四区免费观看 | 波多野结衣巨乳人妻| av在线天堂中文字幕| 国内精品一区二区在线观看| 久久久久国内视频| ponron亚洲| 亚洲成a人片在线一区二区| 18禁黄网站禁片免费观看直播| 亚洲精品乱码久久久v下载方式| 国产精品,欧美在线| 中文字幕久久专区| 欧美性猛交╳xxx乱大交人| 伊人久久精品亚洲午夜| 最后的刺客免费高清国语| 我的老师免费观看完整版| 欧美xxxx性猛交bbbb| av在线观看视频网站免费| 女的被弄到高潮叫床怎么办| 久久精品久久久久久噜噜老黄 | 亚洲欧美精品综合久久99| 久久婷婷人人爽人人干人人爱| 真实男女啪啪啪动态图| 一级毛片电影观看 | 成人二区视频| 一进一出好大好爽视频| 国产色婷婷99| 最近手机中文字幕大全| 一区二区三区高清视频在线| 99热6这里只有精品| 自拍偷自拍亚洲精品老妇| 中文字幕免费在线视频6| 丰满人妻一区二区三区视频av| 可以在线观看毛片的网站| 99九九线精品视频在线观看视频| 亚洲经典国产精华液单| 国产片特级美女逼逼视频| 久久精品人妻少妇| 精品日产1卡2卡| 色吧在线观看| 午夜日韩欧美国产| 女人十人毛片免费观看3o分钟| 国产熟女欧美一区二区| 午夜激情福利司机影院| 午夜a级毛片| 成人美女网站在线观看视频| 成人漫画全彩无遮挡| 精品福利观看| 成人性生交大片免费视频hd| 97人妻精品一区二区三区麻豆| 亚洲精品乱码久久久v下载方式| 亚洲国产欧洲综合997久久,| 国产伦一二天堂av在线观看| 中国美女看黄片| 欧美一区二区精品小视频在线| 欧美中文日本在线观看视频| 色综合亚洲欧美另类图片| 成人欧美大片| 最近中文字幕高清免费大全6| 插逼视频在线观看| 国产黄色视频一区二区在线观看 | 日韩人妻高清精品专区| 晚上一个人看的免费电影| 久久久久久伊人网av| 成人欧美大片| 欧美激情在线99| 亚洲中文字幕一区二区三区有码在线看| 久久精品国产亚洲网站| avwww免费| 日韩大尺度精品在线看网址| 美女xxoo啪啪120秒动态图| 免费av不卡在线播放| 久99久视频精品免费| 精品人妻视频免费看| 国产aⅴ精品一区二区三区波| 国产黄a三级三级三级人| 日本熟妇午夜| 亚洲四区av| 村上凉子中文字幕在线| 观看免费一级毛片| 久久久精品欧美日韩精品| 黄色日韩在线| 国产美女午夜福利| 国内揄拍国产精品人妻在线| 成人欧美大片| 少妇猛男粗大的猛烈进出视频 | 天堂动漫精品| 精品少妇黑人巨大在线播放 | 欧美激情在线99| 麻豆久久精品国产亚洲av| 日本黄色片子视频| 色吧在线观看| 国产伦在线观看视频一区| 亚洲精品影视一区二区三区av| 午夜福利高清视频| 亚洲av不卡在线观看| 日韩三级伦理在线观看| 久久久久久久久久成人| 一本久久中文字幕| 亚洲美女黄片视频| 亚洲av成人精品一区久久| 俄罗斯特黄特色一大片| 欧美日韩一区二区视频在线观看视频在线 | 国产精品久久久久久av不卡| 在线观看av片永久免费下载| 成熟少妇高潮喷水视频| 精品久久久久久久久av| 老熟妇乱子伦视频在线观看| 日韩 亚洲 欧美在线| 午夜a级毛片| 真人做人爱边吃奶动态| 18禁在线无遮挡免费观看视频 | 蜜桃久久精品国产亚洲av| 色哟哟·www| 白带黄色成豆腐渣| 久久精品夜色国产| 国产精品久久久久久精品电影| 欧美高清成人免费视频www| 在线观看午夜福利视频| 波多野结衣高清无吗| 久久精品国产亚洲av天美| 九九热线精品视视频播放| 欧美最新免费一区二区三区| 日韩精品有码人妻一区| 啦啦啦韩国在线观看视频| 69av精品久久久久久| 国内少妇人妻偷人精品xxx网站| 亚洲久久久久久中文字幕| 久久精品综合一区二区三区| av福利片在线观看| 99热这里只有是精品在线观看| 丰满人妻一区二区三区视频av| 国产伦一二天堂av在线观看| 日本欧美国产在线视频| 精品久久久久久久久亚洲| 啦啦啦韩国在线观看视频| 亚洲国产精品成人综合色| 91午夜精品亚洲一区二区三区| 国内久久婷婷六月综合欲色啪| 久久久精品欧美日韩精品| 你懂的网址亚洲精品在线观看 | 成人性生交大片免费视频hd| 国产黄色小视频在线观看| 日本-黄色视频高清免费观看| 干丝袜人妻中文字幕| 国产男人的电影天堂91| 少妇高潮的动态图| 亚洲成人久久爱视频| 色综合亚洲欧美另类图片| 亚洲无线观看免费| 午夜福利视频1000在线观看| 欧美日韩在线观看h| 中文字幕久久专区| 男女视频在线观看网站免费| 久久精品91蜜桃| 成年女人毛片免费观看观看9| 亚洲内射少妇av| 亚洲精品一卡2卡三卡4卡5卡| 在线看三级毛片| 国产一区亚洲一区在线观看| 国产精品一区二区三区四区免费观看 | 国产白丝娇喘喷水9色精品| 国产中年淑女户外野战色| 菩萨蛮人人尽说江南好唐韦庄 | 欧美丝袜亚洲另类| 国产私拍福利视频在线观看| 色5月婷婷丁香| 国产片特级美女逼逼视频| 国产高清激情床上av| 亚洲国产日韩欧美精品在线观看| 久久九九热精品免费| avwww免费| 日韩成人伦理影院| 国产精华一区二区三区| eeuss影院久久| 国产精品人妻久久久久久| 给我免费播放毛片高清在线观看| 一a级毛片在线观看| 国产在线男女| 禁无遮挡网站| avwww免费| 搡老熟女国产l中国老女人| 欧美色视频一区免费| 菩萨蛮人人尽说江南好唐韦庄 | 免费看av在线观看网站|