• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能機(jī)器人法官:還有多少可能和不可能

    2018-02-22 16:37:10盛學(xué)軍
    現(xiàn)代法學(xué) 2018年4期
    關(guān)鍵詞:審判法官司法

    盛學(xué)軍,鄒 越

    (西南政法大學(xué),重慶 401120)

    一、問題的提出

    機(jī)器人的智能正以超乎想象的速度追趕人類。英國倫敦大學(xué)研制出了一款智能機(jī)器人,能夠評估法律證據(jù),同時考慮倫理問題,然后決定案件應(yīng)當(dāng)如何判決??茖W(xué)家們表示,這臺計(jì)算機(jī)預(yù)測案件的準(zhǔn)確率達(dá)到了79%[1],其針對的是歐洲人權(quán)法庭584個關(guān)于折磨、侮辱、公平審判和隱私的案件。2015年11月,智能輔助辦案系統(tǒng)在上海市第二中級人民法院用于庭審,設(shè)計(jì)者認(rèn)為這是“機(jī)器人法官”的雛形。2016年末,南京市中級人民法院引入機(jī)器人輔助判案系統(tǒng),并形象地將該系統(tǒng)稱為“阿爾法法官”。將司法大數(shù)據(jù)運(yùn)用到司法輔助、辦案參謀、智能咨詢及決策分析等環(huán)節(jié),法官輸入案由、情節(jié)等案件事實(shí),機(jī)器人自動彈出應(yīng)適用的法條,并顯示量刑建議,在法官確認(rèn)后,判決書便一鍵生成[2]。

    其實(shí)更早幾年,IBM公司(International Business Machines Corporation, 簡稱IBM)就推出了名為高級案件管理(Advanced Case Management)的司法輔助系統(tǒng)。該系統(tǒng)能夠在包含數(shù)據(jù)存儲和流程管理的基礎(chǔ)上,通過綜合分析,自動生成最優(yōu)判決結(jié)果。也就是說,IBM推出的系統(tǒng)更類似于一個機(jī)器人法官,能夠在數(shù)據(jù)支持下自動判案[3]。

    顯然,以智能系統(tǒng)為核心的數(shù)字化建設(shè)和人機(jī)結(jié)合的模式深度介入審判事務(wù)、管理審判過程,有助于提高審判效率,減輕法官的工作負(fù)荷;鐵面無私斷案;促進(jìn)同案同判,提高判決質(zhì)量等。但是,從情景和自然語言中提取的冷數(shù)據(jù)總能滿足審判要求嗎?將證據(jù)分析、法理邏輯、法律適用都交給智能系統(tǒng),機(jī)器人法官能夠公正裁判嗎?進(jìn)而,同類案件千篇一律的判決會是我們想要的嗎?

    一個聰明的人不一定能成為一個智慧的法律專家,一個在法院里耳聞目染數(shù)十年的人,也不一定能成為一名優(yōu)秀的法官。同樣,一套智能系統(tǒng),存儲、搜索、運(yùn)算、學(xué)習(xí)功能再強(qiáng)大,也不一定能成為一名合格的“機(jī)器人法官”。關(guān)鍵在于,不管是人腦還是電腦,應(yīng)該擁有怎樣的人性和人道觀念、法治精神和信仰以及定紛止?fàn)幍牟门兴囆g(shù)。從這些意義上說,“機(jī)器人法官”更需要的并不是算法技術(shù)。沒有人類法官的深度參與就沒有機(jī)器人法官的深度學(xué)習(xí),也許我們今天引入司法智能系統(tǒng)的一個重要任務(wù),就是由人類優(yōu)秀的法官訓(xùn)練機(jī)器人法官。問題在于,能獨(dú)立審案的優(yōu)秀“機(jī)器人法官”最終可以造就嗎?

    相當(dāng)一部分技術(shù)專家認(rèn)為,現(xiàn)在尚處于人工智能的“石器時代”。我們對于機(jī)器人發(fā)展空間的認(rèn)知源于人類對于人腦的運(yùn)行模式尚知之甚少,關(guān)于意識和情感、直覺和語言、藝術(shù)和美、倫理和價值、愛和信仰在人腦中是如何產(chǎn)生、表達(dá)和相互作用的,我們知道得很少,更別說訓(xùn)練機(jī)器。

    智能機(jī)器人的未來真的會如哈佛大學(xué)未來學(xué)家Phil McNally和Sohai Inayatullay在30年前預(yù)測的那樣嗎?“計(jì)算機(jī)技術(shù)的發(fā)展將迫使我們對‘活的’概念和權(quán)利概念重新定義。隨著人工智能的進(jìn)展,機(jī)器人將被認(rèn)為是‘活的’。機(jī)器人在下一個25至50年很可能會有權(quán)利。電子司法機(jī)關(guān)有可能代替法院審理案件。隨著智能機(jī)器人的發(fā)展,我們的憲法和法律可能需要修改或重寫。有朝一日可能出現(xiàn)機(jī)器人法官和機(jī)器人律師在法庭上唇槍舌劍的場面?!盵4]這樣的場面,即便還很遙遠(yuǎn),即使還有很大的變數(shù),機(jī)器人會給司法審判帶來怎樣的變革和挑戰(zhàn)?對于“機(jī)器人法官”的未來,我們應(yīng)該有怎樣的期待和應(yīng)對?仍然是需要我們特別關(guān)注、深入研究的問題。

    二、可能帶來的司法審判模式變革

    廣義的“機(jī)器人法官”指的是可以參與法律事務(wù)的智能系統(tǒng),既包括各種輔助系統(tǒng),又包括面向各類法規(guī)及證據(jù)分析的智能專家系統(tǒng),如司法進(jìn)程的事務(wù)跟蹤機(jī)器人,庭審記錄機(jī)器人,判決書生成機(jī)器人,同類案件比照分析機(jī)器人,政府、企業(yè)、各種社會組織、家庭用于法律咨詢和服務(wù)的機(jī)器人,律師事務(wù)所的機(jī)器人律師,還包括仍在設(shè)想中的、狹義的“機(jī)器人法官”,即不需要人類法官介入的、具有獨(dú)立審案能力的智能機(jī)器系統(tǒng)。這就是馬克斯·韋伯100多年前設(shè)想的自動售貨機(jī)般的法官——“投進(jìn)去的是訴狀和訴訟費(fèi),吐出來的是判決和從法典上抄下來的理由?!盵5]目前各法院引進(jìn)的“機(jī)器人法官”或許有較強(qiáng)大的人工智能,但仍然只是法官的輔助工具,不是審判席上有知情意行的主體。

    機(jī)器人法官的智能來源于“人工”,正所謂“人工智能”,也就是用計(jì)算機(jī)來模擬人的思維過程和智能行為,如學(xué)習(xí)、思考、推理、判斷等。實(shí)現(xiàn)的方式主要有兩種:一是基于邏輯的編程技術(shù),如文字識別、案件比對等;另一種是模擬人類或生物機(jī)體的神經(jīng)網(wǎng)絡(luò)算法,不斷地向大數(shù)據(jù)學(xué)習(xí),不斷地犯錯誤,不斷地吸取教訓(xùn),不斷地改正錯誤,如自動駕駛、AlphaGo下圍棋等。

    智能機(jī)器人思維和推理的一般步驟是:(1)利用設(shè)計(jì)者嵌入的或后天習(xí)得的自然語言處理能力,理解“問題”涉及的語法和文本,從語言、表情和情景中找出要解決的“問題”;(2)評估“問題”涉及的各種含義,界定“問題”的實(shí)質(zhì)和邊界;(3)依據(jù)算法推理可能的解決方案,或從可能搜索到的大數(shù)據(jù)中尋找所有相似“問題”已經(jīng)成功過的解決方案,或讓各種方案比拼,確定勝出的方案;(4)將本案例的關(guān)鍵材料與選定的若干解決方案匹配,并對匹配的吻合度進(jìn)行評分排名;(5)依據(jù)排名順序提供多個解決方案和最優(yōu)解決方案。所以,在記憶、搜索、運(yùn)算確定的和重復(fù)的事務(wù)處理等方面,智能機(jī)器人可以比人類做得更好。向以往發(fā)生過的案例學(xué)習(xí),為一個具體的判決提供盡可能豐富的法律依據(jù)和相似判決參考,智能機(jī)器人也可以做得比人類更快。目前及以后相當(dāng)長的時間內(nèi),法院引進(jìn)的“機(jī)器人法官”的功能都不會超出這個范圍。

    即便“機(jī)器人法官”還只是法院辦案的輔助系統(tǒng)以及生物人類法官的智能工具,其對現(xiàn)有審判模式帶來的沖擊和變革仍然會是相當(dāng)明顯的。以下三個方面尤其需要引起足夠的關(guān)注和重視,才能使審判體系和審判能力的現(xiàn)代化落到實(shí)處:

    (一)關(guān)系重構(gòu)

    為防止冤假錯案、保障司法公正,“以審判為中心”的司法改革正在推進(jìn)。偵、訴、審三者以審判為中心,訴、辯、審三者“以庭審為中心”。根據(jù)“以庭審為中心”的要求,事實(shí)調(diào)查、證據(jù)認(rèn)定、控訴辯護(hù)、定罪量刑、裁判說理都應(yīng)從法庭審理中實(shí)現(xiàn)。也就是說,法官的內(nèi)心確信主要是通過庭審,而不是通過庭外閱卷形成。在審判的多個環(huán)節(jié)引入智能機(jī)器人以后,庭審中心的內(nèi)涵可能發(fā)生變化,事實(shí)調(diào)查、證據(jù)認(rèn)定可能已經(jīng)由訴、辯、審三方的法律機(jī)器人在庭外基本完成,或部分完成,定罪量刑也已經(jīng)由智能機(jī)器人通過大數(shù)據(jù)比對給出多個選擇及過往判例的百分比。若案件涉及的科學(xué)技術(shù)知識超出法官的知識結(jié)構(gòu),智能專家系統(tǒng)可能說了算。在這樣的變革中,庭審中心的“庭”可能突破物理的法庭,法官的心證可能不那么自由,法官的確信有時要基于智能機(jī)器人的確信。譬如,智能機(jī)器人確信被告的有罪概率為85%,人類法官該如何抉擇?是遵從機(jī)器人的判斷,還是交給審委會?審判長有多大的裁決權(quán)?合議庭中可不可以有機(jī)器人法官的一席之地?如果可以有,機(jī)器人法官有沒有投票權(quán)?如果有,權(quán)重是多少?由物理器件建構(gòu)的智能機(jī)器人,從低價值密度的大數(shù)據(jù)中提取所需要的信息并推理,無論是作為書記員,還是作為證據(jù)分析的智能專家系統(tǒng),都存在著出故障、犯錯誤的可能,由此產(chǎn)生的庭審錯誤,如何追究責(zé)任?從現(xiàn)行司法過程的制度和文化以及審判各方的權(quán)利關(guān)系來看,必須作出足夠的調(diào)整才能恰當(dāng)?shù)厝菁{和利用這些“新人”。

    (二)隊(duì)伍重組

    就目前而言,可以讓智能系統(tǒng)參與的事務(wù)性工作,可能不少于法院全部工作量的50%。例如,目前已經(jīng)投入使用或即將投入使用的庭審書記員助手、判決書生成系統(tǒng)、同案不同判監(jiān)測系統(tǒng)、危險(xiǎn)駕駛罪判決系統(tǒng)、刑事案件智能輔助系統(tǒng)等,這些系統(tǒng)的投入使用,勢必對審判隊(duì)伍的素質(zhì)要求特別是輔助人員的構(gòu)成產(chǎn)生較大影響。書記員等事務(wù)工作人員可以減少,智能系統(tǒng)數(shù)據(jù)維護(hù)人員必須增加;法官的事務(wù)性工作將減少,審案效率會提高;辦案痕跡和質(zhì)量分析智能化,法官辦案的規(guī)范性會加強(qiáng),扁平化的網(wǎng)絡(luò)監(jiān)控使得法官考核更容易;機(jī)器人同行的參與對審判人員的知識結(jié)構(gòu)和工作能力也會提出新的要求等。在這一背景下,審判隊(duì)伍的重組成為審判體系和審判能力現(xiàn)代化的必然要求。

    (三)流程再造

    為了充分發(fā)揮智能系統(tǒng)的作用,需要重新規(guī)劃審判流程。對事實(shí)調(diào)查、證據(jù)認(rèn)定、控訴辯護(hù)、定罪量刑、裁判說理各部分進(jìn)行模塊化拆分和整合,適宜交給機(jī)器人的交給機(jī)器人,適宜庭外完成的在庭外完成,甚至可以考慮由相關(guān)方的人機(jī)組合,在規(guī)定的網(wǎng)絡(luò)空間,限時或不限時訴辯,充分交流事實(shí)和證據(jù),達(dá)成某些共識后,再開庭確認(rèn),減少庭審的程序和訴辯時間,提高審判效率。鑒于不同類別案件的審理程序和智能系統(tǒng)的功能差異較大,應(yīng)當(dāng)根據(jù)案件特征和智能系統(tǒng)的功能實(shí)現(xiàn)情況,對審判流程進(jìn)行合法的重組。

    三、可能帶來的司法挑戰(zhàn)

    從機(jī)器人“智能”的生成和累積方式可以看出,機(jī)器人法官的智能高度依賴以下兩個因素:其一,設(shè)計(jì)者提供的邏輯推理框架——演繹推理,歸納推理,類比推理的數(shù)學(xué)模型、符號運(yùn)算法則和神經(jīng)網(wǎng)絡(luò)算法模型。這個框架不完善,后續(xù)推理出錯的可能性非常高。其二,對以往數(shù)據(jù)的學(xué)習(xí)、記憶和理解,并在此基礎(chǔ)上形成一定的自組織和自適應(yīng)能力。獲得什么樣的數(shù)據(jù)將決定機(jī)器人能學(xué)到什么。無論多么復(fù)雜高深的人工智能,總會帶有設(shè)計(jì)者某種程度的偏好,甚至歧見。同時,機(jī)器人的每一次“質(zhì)變”都依賴于足夠多的“量變”,沒有足夠多的“量變”,機(jī)器人可能弱智。有了足夠多的“量變”,機(jī)器人的“質(zhì)變”則取決于用于學(xué)習(xí)的數(shù)據(jù)質(zhì)量,數(shù)據(jù)的質(zhì)量有多好,“機(jī)器人法官”就有多公正。顯而易見,“機(jī)器人法官”的成長和應(yīng)用,必然對現(xiàn)行的司法審判實(shí)踐提出一系列嚴(yán)峻的挑戰(zhàn)。

    挑戰(zhàn)之一:句子的意義不僅僅取決于詞源詞義、語法規(guī)則、邏輯實(shí)證,更取決于人們的約定俗成、感覺經(jīng)驗(yàn)、思維方式、理念信仰;不僅取決于過去,還取決于當(dāng)下;不僅取決于普遍意義,還取決于特定場合。如果要讓智能機(jī)器人準(zhǔn)確理解不同種族、地域和文化背景的人們以及與時俱進(jìn)的語言所包含的態(tài)度、語義、要旨,我們?yōu)闄C(jī)器人準(zhǔn)備的語料庫能豐富到那樣的程度嗎?我們的法律用語能精確到那樣的程度嗎?經(jīng)濟(jì)社會的變遷速度遠(yuǎn)遠(yuǎn)超過我們制定法條實(shí)施細(xì)則和分類表的速度,要建設(shè)這樣的語料庫和案例庫,其成本會不會使得某些深度參與案件審判的“機(jī)器人法官”沒有存在價值?

    挑戰(zhàn)之二:可以依照智能機(jī)器人匹配的吻合度進(jìn)行判決嗎?不同案件之間的吻合度是依據(jù)什么確定的?這樣的依據(jù)可靠嗎?可以肯定的是,要件和細(xì)節(jié)百分之百相同的案件幾乎不可能有,差之毫厘失之千里倒是可能。譬如,對平行進(jìn)口采用商標(biāo)權(quán)利國內(nèi)用盡原則還是國際用盡原則,不同的法官可能作出不同的選擇,很難對這樣的判決進(jìn)行對錯之辯。無論是法律條文,還是學(xué)界,這類還沒有定論的問題很多。社會在進(jìn)步,人們的觀念在變化,我們不能期待所有司法判決一經(jīng)生成入庫,就成為機(jī)器人可以長久學(xué)習(xí)的標(biāo)準(zhǔn)。

    挑戰(zhàn)之三:智能機(jī)器人在人流如織的大街上開車,在一個路口錯過了,機(jī)器人可以自主重新規(guī)劃線路,在下一個紅綠燈處掉頭。實(shí)在避免不了事故,則可以在小概率的大事故與大概率的小事故之間作出抉擇。智能機(jī)器人戰(zhàn)勝圍棋頂尖高手,是因?yàn)橐槐P輸了,還可以在下一盤扳回。機(jī)器人可以根據(jù)比賽規(guī)則和現(xiàn)有棋譜,幾秒鐘內(nèi)模擬千萬次的“對打”,從中找到最優(yōu)策略。司法審判可以讓機(jī)器人法官在小概率的大錯案和大概率的小錯案之間抉擇嗎?可能在原告和被告不出席的情況下模擬他們千萬次的“對打”嗎?也就是說,刑事案件的470個罪名,民事案件的467個二級案由,“機(jī)器人法官”得分門別類地進(jìn)行千萬次的學(xué)習(xí)演練,每一項(xiàng)新的法規(guī)或司法解釋出臺后,都需要大量的案例提供給“機(jī)器人法官”再學(xué)習(xí),否則,“機(jī)器人法官”可能反復(fù)地提醒“系統(tǒng)錯誤”“請重新開機(jī)”。于是,當(dāng)我們明知“機(jī)器人法官”只有79%的正確性,或者99%的正確性,我們能讓“機(jī)器人法官”坐在審判席上斷案嗎?

    挑戰(zhàn)之四:智能機(jī)器人會學(xué)壞嗎?如果我們對入庫的案例進(jìn)行甄別,不妨假定這樣做是可能的,機(jī)器人學(xué)習(xí)的案例數(shù)量會大大減少,不能正確判斷的案件也會增多。如果所有的案例都入庫,案例庫的平均判決質(zhì)量會下降,機(jī)器人在學(xué)好的同時也學(xué)壞,人類的冤假錯案可能被機(jī)器人重演。而且,這些智能機(jī)器人使用同樣的案例庫,同樣的決策系統(tǒng),一臺出錯另一臺也會出同樣的錯,別指望高級法院的機(jī)器人比中級法院的機(jī)器人更高明。向過去的案例學(xué)習(xí)并裁決未來的案件,我們能放心嗎?

    挑戰(zhàn)之五:我們的文化能接受機(jī)器審判人類嗎?我們真的能給“機(jī)器人法官”人的權(quán)利嗎?或者說,隨著機(jī)器人智能的強(qiáng)大,生物人法官可以不給“機(jī)器人法官”審判長的權(quán)利嗎?

    四、不可能完成的獨(dú)立審判

    關(guān)于智能機(jī)器人能否獨(dú)立審案,關(guān)鍵難題有兩個:一是機(jī)器人能否在大數(shù)據(jù)處理中準(zhǔn)確地還原情感?二是機(jī)器人能否恰當(dāng)?shù)剡\(yùn)用法律體系必須留給法官的自由裁量權(quán)?當(dāng)然,也可以歸結(jié)為一個問題,即怎樣在法律的框架內(nèi),能動地展示法官的人性、人道和法治精神。

    毫無疑問,能夠數(shù)據(jù)化的知識,機(jī)器人都能學(xué)得很好。但心理學(xué)研究表明,人們回憶一件事情的過程,并不完全是事實(shí)重現(xiàn)的過程,也是對事實(shí)進(jìn)行心理重構(gòu)的過程。有人在路口的斑馬線上被撞了,如果對目擊證人提問:“你看見那個被撞的人闖紅燈嗎?”“你看見那個被撞的女孩闖紅燈嗎?”與“你看見那個低頭玩手機(jī)的人闖紅燈嗎?”得到的結(jié)果很可能是不同的,盡管證人明白“那個被撞的人”“那個被撞的女孩” 與“那個低頭玩手機(jī)的人”是同一個人。這說明,含在提問中的假定前提有可能改變大腦中的事實(shí)重構(gòu),并不是有意撒謊,而是因?yàn)槟硞€假定前提觸發(fā)了情感。

    法官不同的心理傾向、個性特征、思維習(xí)慣、文化背景很容易在事實(shí)認(rèn)知中留下印記。這種印記對于司法審判不可避免,正所謂法官是法律的嘴,法官在法律的框架內(nèi)選擇他愿意說的話。同樣的語詞、語句,不同的嘴表達(dá)出來的意思不盡相同?,F(xiàn)做以下假定:一位刑庭的法官,在死刑判決宣布之后執(zhí)行當(dāng)天,要去會見死刑犯的家屬,目睹生離死別;一位審理交通違法案件的法官,曾經(jīng)差點(diǎn)被醉駕者撞死;一位審理合同糾紛的法官,親人曾被詐騙得傾家蕩產(chǎn)。類似經(jīng)歷產(chǎn)生的情感會不會影響法官對案件事實(shí)的重構(gòu)和認(rèn)知?技術(shù)可以讓機(jī)器人心如止水,不受任何情感影響,人類法官卻做不到。問題的意義在于,這類影響對法官把握事實(shí)背后的本質(zhì)有益還是有害?對司法公正的作用是正面的,還是負(fù)面的?

    廣東省惠陽市惠陽區(qū)人民法院在于德水利用ATM機(jī)故障詐騙9萬元案的判決書中認(rèn)為,被告存在“明顯的非法占有的故意”,“判處有期徒刑三年,緩刑三年,并處罰金人民幣一萬元”。這份被一些法律界人士譽(yù)為“最牛判決書”充滿情感:“被告人于德水的父母早已病亡,其與幾個姊妹相依為命,生活困苦”,“對于一個窮孩子來說,幾乎是從天而降的錢財(cái)對他意味著什么?!我們不能苛求每一個公民都具有同等的道德水平和覺悟。同時,被告人取了錢帶回老家,除了給弟弟一些錢,剩下的也一直不敢亂花,這說明他對社會管理秩序還是心存畏懼,被抓獲之后,被告人隨即全部退清所有款項(xiàng),我們覺得,這孩子仍心存良知”?!昂献h庭三名法官做出的這一細(xì)致和認(rèn)真的判斷是基于我們的良知和獨(dú)立判斷,是基于我們對全案事實(shí)的整體把握和分析,是基于我們對法律以及法律精神的理解,是基于我們對實(shí)現(xiàn)看得見的司法正義的不懈追求”[6]。本案被告有“明顯的非法占有的故意”,“已經(jīng)構(gòu)成盜竊罪”,卻與之前類似的“許霆案”判決大不相同。許霆案最終認(rèn)定的犯罪金額是17.5萬元,終審判決有期刑期5年?;蓐枀^(qū)人民法院這份萬字左右的判決書引發(fā)的社會反響強(qiáng)烈而正面。

    關(guān)于情與法的很多研究基本忽略了法官自主的、正當(dāng)?shù)那楦袑λ痉ㄅ袥Q的影響,也就是法官在社會環(huán)境中的情感體驗(yàn)所形成的心理傾向、思維模式、價值選擇對司法判決的影響。司法案件的事實(shí)認(rèn)知并不是2+3=5以及借債還錢、殺人償命那么簡單。正如惠陽區(qū)人民法院在判決書中所說,還有“良知”“對全案事實(shí)的整體把握”“對法律精神的理解”“對看得見的司法正義的不懈追求”,這些要素都要受到根深蒂固的情感影響,這里的情感是法官對人類、對社會的道德感和價值觀,是對客觀事物價值關(guān)系的主觀反映,這樣的情感支撐著惻隱之心、羞惡之心、恭敬之心、是非之心。

    機(jī)器人能夠準(zhǔn)確地重構(gòu)或者認(rèn)知這樣微妙的情感嗎?更加困難的是,文化傳統(tǒng)、知識背景、利益糾葛、興趣偏好、情緒態(tài)度、觀念信仰等因素,有些可以表達(dá)出來,成為計(jì)算機(jī)內(nèi)的數(shù)據(jù),有些則是默會的,與情感和人性緊密相連,優(yōu)秀的人類法官或許可以意會,但難以言表。正是這類不可言傳的默會知識,很多時候直接決定著法官的領(lǐng)悟能力、洞察能力和判斷能力。這樣的知識怎樣教給機(jī)器人?機(jī)器人如何認(rèn)知?是否可以認(rèn)知?除了科幻小說以外,技術(shù)專家還沒有看到可能性。

    于是,我們還得回到法律適用方法的經(jīng)典爭論上來,即邏輯理性還是實(shí)踐理性更為重要?法官面對的現(xiàn)實(shí)是,大量的案件必須依靠邏輯理性,同時也少不了實(shí)踐理性,疑難案件尤其如此。在司法審判常用的三類邏輯推理方法中,演繹推理的大前提和小前提中不可避免地包含價值選擇、人文態(tài)度和生活經(jīng)驗(yàn)。歸納推理將大量面對不完全歸納,結(jié)論往往超出前提所斷定的范圍。對類比推理而言,判斷類比對象相同點(diǎn)重要還是不同點(diǎn)重要的規(guī)則往往不確定。于是,“一個好的庭審取決于當(dāng)事人、律師、法官,甚至社會其他成員(如證人、旁聽人員)之間的成功合作”[7]。這種合作既包括對法律精神的尊重,對法條和司法過程的理解,又包括主張界定、爭點(diǎn)梳理、事實(shí)認(rèn)定、權(quán)利妥協(xié)中邏輯理性和實(shí)踐理性的恰當(dāng)融合?;蛘呖梢哉f,注入必要的、微妙的、精美的人類情感以后,我們向往的法律適用最佳方法往往并不存在,算法的“最優(yōu)”在有些案件的審理中沒有意義,法官需要尋找的是對于特定案例而言最適合的法律適用方法。法律適用方法對特定案例的“最適合”而不是“最佳”,就算“機(jī)器人法官”能夠?qū)W會,那也是成千上萬件類似案例入庫以后的事情,那時此案早已非彼案了。

    為了實(shí)現(xiàn)司法公正,我們不應(yīng)該要求法官像沒有人類意識和情感的機(jī)器那樣斷案,而是要抑制情感的負(fù)面作用,增強(qiáng)情感的正面作用,讓法官的個人情感與社會的主流情感相通,跟隨社會道德情操與時俱進(jìn)。例如,2016年發(fā)生在山東省聊城市冠縣經(jīng)濟(jì)開發(fā)區(qū)的“辱母殺人案”,當(dāng)?shù)匾粚彿ㄔ簵l分縷析的判決引發(fā)了社會輿論一片嘩然。“處在法律調(diào)節(jié)之下的行為和在倫理要求之下的行為或許會存在的沖突,顯示出法的道理與人心常情之間可能會出現(xiàn)的罅隙。也正是在這個角度上看,回應(yīng)好心人的訴求,審視案件中的倫理情境、正視法治中的倫理命題,才能‘讓人民群眾在每一個司法案件中都感受到公平正義’。也正是因此,轉(zhuǎn)型期中國的法治建設(shè),無論是立法還是司法,需要更多地正視這些人心經(jīng)驗(yàn),正視轉(zhuǎn)型時代保護(hù)倫理價值的重要性,從而把握好邏輯與經(jīng)驗(yàn)的關(guān)系、條文與人情的關(guān)系、法律與倫理的關(guān)系?!盵8]從這個意義上我們可以說,法官在司法實(shí)踐中應(yīng)該有態(tài)度、有情感,這正是與人異類的智能機(jī)器人可能做不到的。至少在可以看得到的將來,算法不能設(shè)計(jì)人類的態(tài)度,技術(shù)也無法制造人類的情感,人類在復(fù)雜世界中千差萬別的情感無法準(zhǔn)確地進(jìn)入機(jī)器人的決策系統(tǒng),將機(jī)器人從過往案例中習(xí)得的情意表象用于當(dāng)下的審判未必合適,因?yàn)檫@樣的情感只能是生物人與生物人之間的事,沒有人類情感的公正司法是不存在的。

    “以事實(shí)為依據(jù)、以法律為準(zhǔn)繩”是公正司法的基石,然而,文字表述的法條并不會自動成為分清是非、確認(rèn)當(dāng)事人權(quán)利義務(wù)的客觀尺度。其一,法律可能出現(xiàn)空白,但法治精神沒有空白,需要法官以專業(yè)的精神和能力為法規(guī)補(bǔ)漏。其二,法律條文中不可避免大量存在的“正當(dāng)理由”“合理期間”“酌情”等用語,需要掌握法律精神和專業(yè)知識的人結(jié)合具體案情進(jìn)行清晰界定。其三,法律在一定程度上滯后于社會發(fā)展有其合理性和必然性,即使是法律概念,也必須保持一定的開放性,才不至于使法規(guī)條文朝令夕改。這個開放性既是留給社會的,又是留給法官的。其四,程序正義仍然是保障實(shí)體正義實(shí)現(xiàn)的必要方法,法官在具體案件中基于目的正義的必要調(diào)整也是不可缺少的。其五,法治既包括硬法之治,又包括軟法之治,很多沒有經(jīng)過立法程序的法規(guī)文件以及被社會普遍認(rèn)可的公序良俗也是法律體系的重要組成部分,對這部分規(guī)范的理解和把握更多地取決于法官對社會主流價值的認(rèn)同,對政府階段性政策和社會輿論的把握。其六,依法判決的專業(yè)理性、利益相關(guān)者的權(quán)利要求以及社會大眾對公平正義的理解之間往往存在著不小的鴻溝,這是任何法治體系中都會大量存在的難題,我國司法過程中的這類矛盾更加突出,恰到好處地運(yùn)用自由裁量權(quán)修補(bǔ)這樣的鴻溝,需要仔細(xì)地考慮每一個案件的特殊情況。

    也就是說,在法官的司法實(shí)踐中,適用的法律規(guī)則有時是不確定的,需要認(rèn)定的事實(shí)有時是模糊的,邏輯過程有時是難以充分的。盡管有濫用自由裁量權(quán),或自由裁量權(quán)使用不當(dāng),未能保障目的正義的現(xiàn)象存在,要求法官運(yùn)用自由裁量權(quán),準(zhǔn)確而創(chuàng)造性地執(zhí)行法律的原則仍然必須堅(jiān)持。正如哈耶克所說:“對正義的實(shí)現(xiàn)而言,操作法律的人的質(zhì)量比其操作的法律內(nèi)容更為重要?!盵9]用法律內(nèi)容訓(xùn)練出來的“機(jī)器人法官”很難超越有質(zhì)量的法律人,因此,無法將自由裁量權(quán)交給機(jī)器人。

    機(jī)器人的智能再強(qiáng)大,也無法實(shí)現(xiàn)由法治精神、科學(xué)理性、人格品德和社會經(jīng)驗(yàn)兼?zhèn)涞姆ü偻瓿傻淖杂尚淖C,而自由心證已經(jīng)成為世界上眾多國家采用的一項(xiàng)證據(jù)原則和證據(jù)制度。法官也有公開自己心證的義務(wù),使得當(dāng)事人有機(jī)會針對法官的心證展開訴訟,減少或消除來自法官的訴訟突襲造成的司法不公。如果智能機(jī)器人成為獨(dú)立審案的法官,相對固化的程序和算法面對復(fù)雜多變的庭審現(xiàn)場,無疑會大量產(chǎn)生和強(qiáng)化這類訴訟突襲。從20世紀(jì)70年代歐洲出現(xiàn)的法律人工智能庫 WELBE和 LRS至今,人們一直在努力,試圖讓電腦逐步地代替人腦?!半娔X量刑固然能在很大程度上排除在行使自由裁量權(quán)方面的主觀任意性,但同時也會排除諸如自然法、人權(quán)保障、‘有恥且格’、預(yù)防為主之類的思辨性要素,還傾向于排除對各種不同利益進(jìn)行權(quán)衡、考量等的政策性調(diào)整機(jī)制??墒撬痉ǖ谋举|(zhì)決定了諸如此類的思辨和整合化作業(yè)不僅無法排除,甚至還有必要在社會日益復(fù)雜化、動態(tài)化以及價值觀越來越多元化的背景下有所加強(qiáng)?!盵10]法律的生命不僅僅是邏輯,更是經(jīng)驗(yàn)和價值。尤其是當(dāng)雙方證據(jù)都沒有壓倒性優(yōu)勢時,有豐富實(shí)踐經(jīng)驗(yàn)、有人性情感、有法治精神的法律人比裝滿精確程序和冰冷數(shù)據(jù)的機(jī)器更可靠。

    五、結(jié)語

    智能機(jī)器人在司法領(lǐng)域可以大有作為,也應(yīng)該大有作為。作為人類法官的得力助手,在司法事務(wù)處理方面,可以給人類法官提供盡可能多的支援、便利和多種判決參考。在這些方面,我們推進(jìn)的步伐應(yīng)該更快一些。應(yīng)當(dāng)記取的是,我們可以借助“機(jī)器人法官”提高審判效率,但不一定能節(jié)省人力、物力,至少在統(tǒng)一的、完善的法治大數(shù)據(jù)系統(tǒng)建立之前是如此。我們應(yīng)該積極運(yùn)用“機(jī)器人法官”輔助建立現(xiàn)代化的法治體系,提升法治能力,但也要警惕過分依賴?yán)鋽?shù)據(jù)和機(jī)器智能造成新的司法不公;我們既要造就一大批善于運(yùn)用人工智能的新型法官,又要在引進(jìn)“機(jī)器人法官”的同時,堅(jiān)守人類法官的人性、人道和法治精神。

    人是一切社會關(guān)系的總和。生物人的意識是生物人組成的社會的產(chǎn)物,生物人的本質(zhì)既是歷史的,又是現(xiàn)實(shí)世界的。至少在可以預(yù)見的將來,因?yàn)榍楦形⒚疃匾拇嬖冢惴ㄖ悄芗炔荒芡耆鉀Q語言智能的問題,更不能完全解決想象智能的問題。自由裁量權(quán)在司法實(shí)踐中不可或缺,即便有那么一天,由于生物進(jìn)化的漫長和眾多客觀條件的限制,電腦的智力超越人腦,人類官司的最后裁決權(quán)也不能完全交給“機(jī)器人法官”。人類的環(huán)境養(yǎng)大的機(jī)器人,不僅會有人類的優(yōu)勢,還會有人類的劣勢,不僅會有人類的高尚,還會有人類的低下。趨利避害的選擇同樣會深入機(jī)器人的中樞。長期且大量依賴“機(jī)器人法官”斷案,人類的法治思維、立法機(jī)制、法治能力會不斷退化。我們原本希望“機(jī)器人法官”比人類法官更公正,更有效率,鐵面無私辨忠奸,可能的結(jié)果卻是,我們得懇求“機(jī)器人法官”給人類一個公正的判決。況且,到那時僅僅觸動一個電源開關(guān),就能讓整個司法系統(tǒng)癱瘓。當(dāng)代著名物理學(xué)家霍金的觀點(diǎn)值得我們警醒:“人工智能的成功有可能是人類文明史上最大的事件。但是人工智能也有可能是人類文明史的終結(jié),除非我們學(xué)會如何避免危險(xiǎn)?!盵11]法律體系的避險(xiǎn)辦法是:人是萬物的尺度,人類公平正義的最后一道防線必須由人做主,盡管人類法官可能會誤判,可能會徇私,可能有冤假錯案,在一個健康的法律體系中,這些畢竟還屬于可以更正的問題,屬于社會法治和人類文明不斷進(jìn)步的著力點(diǎn)。將這些問題交由非我族類、其心或異的“機(jī)器人法官”,實(shí)在是一件禍福難料的事,至少目前還不能排除“開門揖盜、引狼入室”的可能。

    猜你喜歡
    審判法官司法
    制定法解釋中的司法自由裁量權(quán)
    法律方法(2021年4期)2021-03-16 05:34:28
    法官如此裁判
    法官如此裁判
    司法所悉心調(diào)解 墊付款有了著落
    非正式司法的悖謬
    做“德法兼修”的好法官
    紅土地(2018年8期)2018-09-26 03:19:06
    七十年前那場文明的審判
    當(dāng)法官當(dāng)不忘初心
    紅土地(2016年10期)2016-02-02 02:45:32
    消失中的審判
    政法論叢(2015年5期)2015-12-04 08:46:28
    論司法公開的困惑與消解
    欧美日韩视频精品一区| 国产精品久久久av美女十八| 看非洲黑人一级黄片| 人人妻人人爽人人添夜夜欢视频| 亚洲av综合色区一区| 久久久久久久精品精品| 日本wwww免费看| 女性生殖器流出的白浆| 日韩视频在线欧美| 18禁观看日本| 国产老妇伦熟女老妇高清| 伦理电影免费视频| 欧美bdsm另类| av网站免费在线观看视频| 国产精品不卡视频一区二区| 久热久热在线精品观看| 9191精品国产免费久久| 久久人人爽人人爽人人片va| 婷婷色麻豆天堂久久| 久久精品人人爽人人爽视色| 国产精品久久久久久久久免| 最近手机中文字幕大全| 日韩中文字幕视频在线看片| 国产成人精品无人区| 亚洲欧美成人精品一区二区| 超碰97精品在线观看| 视频中文字幕在线观看| 一边亲一边摸免费视频| 亚洲精品乱码久久久久久按摩| 精品人妻熟女毛片av久久网站| videos熟女内射| 性色avwww在线观看| 免费日韩欧美在线观看| 久久久久国产网址| 欧美成人午夜免费资源| 久久久久网色| 中文欧美无线码| 99国产综合亚洲精品| 尾随美女入室| 丝袜喷水一区| 亚洲精品第二区| 国产精品久久久久成人av| 激情五月婷婷亚洲| 日韩制服骚丝袜av| 一区二区三区精品91| 日本黄大片高清| 国产探花极品一区二区| 成人综合一区亚洲| 男人舔女人的私密视频| 狂野欧美激情性bbbbbb| 99久久综合免费| 国产精品女同一区二区软件| 亚洲精品色激情综合| 午夜av观看不卡| 亚洲第一区二区三区不卡| 色94色欧美一区二区| 九九在线视频观看精品| 日韩欧美一区视频在线观看| 99久久人妻综合| 亚洲成人一二三区av| a 毛片基地| 一级毛片我不卡| 欧美日韩国产mv在线观看视频| 日本猛色少妇xxxxx猛交久久| 一区二区三区精品91| 亚洲欧美精品自产自拍| 捣出白浆h1v1| 青春草视频在线免费观看| 超碰97精品在线观看| 午夜激情av网站| 国产免费视频播放在线视频| 啦啦啦在线观看免费高清www| 国产精品一国产av| 亚洲国产精品一区二区三区在线| 国产精品一区二区在线观看99| 精品一品国产午夜福利视频| 飞空精品影院首页| 夜夜骑夜夜射夜夜干| 精品少妇久久久久久888优播| 亚洲欧美成人综合另类久久久| 你懂的网址亚洲精品在线观看| 欧美97在线视频| 九九爱精品视频在线观看| 久久人人爽人人片av| 亚洲高清免费不卡视频| 久久久精品区二区三区| 观看美女的网站| 久久久久视频综合| 最新的欧美精品一区二区| 九九在线视频观看精品| 亚洲国产日韩一区二区| 日韩一区二区视频免费看| 自线自在国产av| 女性被躁到高潮视频| 亚洲欧美日韩卡通动漫| 看非洲黑人一级黄片| 男女啪啪激烈高潮av片| 久久久久久久久久人人人人人人| 久久久精品免费免费高清| 日韩制服丝袜自拍偷拍| 国产精品久久久久久精品古装| 国产成人aa在线观看| 中文字幕精品免费在线观看视频 | 美国免费a级毛片| 国产成人精品婷婷| 午夜激情久久久久久久| 爱豆传媒免费全集在线观看| 日本色播在线视频| 天天操日日干夜夜撸| 午夜福利在线观看免费完整高清在| 国产成人精品在线电影| 看十八女毛片水多多多| 国产伦理片在线播放av一区| 日韩精品免费视频一区二区三区 | 人妻 亚洲 视频| 新久久久久国产一级毛片| 老熟女久久久| 国产深夜福利视频在线观看| 中文字幕制服av| 日韩制服丝袜自拍偷拍| 免费黄网站久久成人精品| 国产深夜福利视频在线观看| 18禁动态无遮挡网站| 久久久久久人人人人人| 国产精品久久久久久久久免| 亚洲av综合色区一区| 女人精品久久久久毛片| 亚洲精品自拍成人| 中文天堂在线官网| 制服丝袜香蕉在线| 你懂的网址亚洲精品在线观看| 人体艺术视频欧美日本| 人体艺术视频欧美日本| 久久国产精品大桥未久av| 久久女婷五月综合色啪小说| 国产白丝娇喘喷水9色精品| 大香蕉久久网| 女人久久www免费人成看片| 在线天堂中文资源库| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 精品久久蜜臀av无| 高清av免费在线| 热re99久久国产66热| 综合色丁香网| 9色porny在线观看| 中文字幕最新亚洲高清| 欧美性感艳星| 黄色怎么调成土黄色| 高清不卡的av网站| 男男h啪啪无遮挡| 国产成人免费无遮挡视频| 午夜91福利影院| 又黄又粗又硬又大视频| 亚洲欧美中文字幕日韩二区| 国产成人aa在线观看| a级毛色黄片| 丝袜在线中文字幕| 高清毛片免费看| 国产色爽女视频免费观看| 亚洲国产毛片av蜜桃av| 免费少妇av软件| av视频免费观看在线观看| 免费看不卡的av| 深夜精品福利| 免费大片黄手机在线观看| 看免费成人av毛片| 亚洲成人av在线免费| 欧美xxⅹ黑人| 国产永久视频网站| 欧美亚洲 丝袜 人妻 在线| 国产精品无大码| 少妇人妻 视频| 十分钟在线观看高清视频www| 又粗又硬又长又爽又黄的视频| 91久久精品国产一区二区三区| 久久人人爽av亚洲精品天堂| 99热网站在线观看| 黄片播放在线免费| 国产黄色视频一区二区在线观看| 日日啪夜夜爽| 成年女人在线观看亚洲视频| 国产探花极品一区二区| 亚洲av国产av综合av卡| 五月玫瑰六月丁香| av电影中文网址| 国产一区有黄有色的免费视频| 狠狠婷婷综合久久久久久88av| 亚洲精品视频女| 尾随美女入室| 国产成人精品在线电影| 汤姆久久久久久久影院中文字幕| 欧美另类一区| 老司机影院成人| 久久久a久久爽久久v久久| 欧美日韩一区二区视频在线观看视频在线| av在线观看视频网站免费| xxx大片免费视频| 亚洲精品国产色婷婷电影| 高清欧美精品videossex| 超碰97精品在线观看| 欧美人与善性xxx| 国产精品国产三级国产av玫瑰| 韩国av在线不卡| 亚洲av电影在线进入| 久久人人爽人人爽人人片va| 国产在线一区二区三区精| 亚洲精品色激情综合| 免费看av在线观看网站| 男的添女的下面高潮视频| 亚洲,一卡二卡三卡| 国产淫语在线视频| 国产精品秋霞免费鲁丝片| 欧美xxxx性猛交bbbb| 国产免费现黄频在线看| 国产日韩一区二区三区精品不卡| 国产xxxxx性猛交| 国产精品一国产av| 97精品久久久久久久久久精品| 国产一区二区激情短视频 | 亚洲情色 制服丝袜| 国产在线一区二区三区精| 亚洲精品视频女| 欧美日韩国产mv在线观看视频| 少妇被粗大的猛进出69影院 | 欧美3d第一页| 日韩人妻精品一区2区三区| 免费观看无遮挡的男女| 尾随美女入室| 夫妻午夜视频| 乱码一卡2卡4卡精品| 最新的欧美精品一区二区| av电影中文网址| 高清视频免费观看一区二区| www.熟女人妻精品国产 | 免费av中文字幕在线| 久久久久久久国产电影| 香蕉国产在线看| 老司机亚洲免费影院| 在线天堂中文资源库| 夫妻午夜视频| 亚洲第一av免费看| 美女国产视频在线观看| 18禁观看日本| 男人操女人黄网站| 99热全是精品| a级毛片在线看网站| 9191精品国产免费久久| 国产成人精品福利久久| 亚洲精品国产色婷婷电影| 久久久国产欧美日韩av| 免费播放大片免费观看视频在线观看| 婷婷成人精品国产| 亚洲av国产av综合av卡| a级毛片黄视频| 亚洲av电影在线进入| 精品第一国产精品| 另类亚洲欧美激情| 一级片'在线观看视频| 内地一区二区视频在线| 日本色播在线视频| 国产69精品久久久久777片| 久久99一区二区三区| 精品少妇内射三级| 国产在线免费精品| 午夜免费鲁丝| 亚洲精品一二三| 精品午夜福利在线看| 内地一区二区视频在线| 少妇被粗大猛烈的视频| 国产精品久久久久成人av| 欧美激情 高清一区二区三区| 一本—道久久a久久精品蜜桃钙片| 飞空精品影院首页| 国产一区二区三区av在线| 久久久久精品性色| 日本黄大片高清| 亚洲婷婷狠狠爱综合网| 久久鲁丝午夜福利片| 国国产精品蜜臀av免费| tube8黄色片| 最黄视频免费看| 侵犯人妻中文字幕一二三四区| 99精国产麻豆久久婷婷| 王馨瑶露胸无遮挡在线观看| 女性生殖器流出的白浆| 久久 成人 亚洲| 亚洲精华国产精华液的使用体验| 国产精品欧美亚洲77777| 国产高清三级在线| 久久久久久伊人网av| 久久久久久人人人人人| 日本午夜av视频| 侵犯人妻中文字幕一二三四区| 成年美女黄网站色视频大全免费| 精品卡一卡二卡四卡免费| 亚洲久久久国产精品| 国产片内射在线| 青春草视频在线免费观看| 日日撸夜夜添| av黄色大香蕉| 99热网站在线观看| 亚洲少妇的诱惑av| 亚洲av男天堂| av在线app专区| 五月伊人婷婷丁香| 亚洲国产欧美日韩在线播放| 国产精品无大码| 亚洲五月色婷婷综合| 99视频精品全部免费 在线| 免费观看性生交大片5| 精品一品国产午夜福利视频| 九色成人免费人妻av| tube8黄色片| 日本vs欧美在线观看视频| 如何舔出高潮| 中文字幕人妻熟女乱码| 国产欧美日韩一区二区三区在线| 久久精品国产自在天天线| 另类精品久久| 黄片无遮挡物在线观看| 丰满饥渴人妻一区二区三| 亚洲精品视频女| 久久久久精品性色| 伊人亚洲综合成人网| 日本欧美国产在线视频| 满18在线观看网站| 五月天丁香电影| 欧美日韩一区二区视频在线观看视频在线| 亚洲精品国产av成人精品| 夫妻性生交免费视频一级片| 丝瓜视频免费看黄片| 国产精品成人在线| 欧美亚洲日本最大视频资源| 欧美人与性动交α欧美精品济南到 | 日韩制服骚丝袜av| 97在线人人人人妻| 最近最新中文字幕免费大全7| 九九爱精品视频在线观看| av福利片在线| 免费黄网站久久成人精品| 最黄视频免费看| 如何舔出高潮| 视频区图区小说| 18禁动态无遮挡网站| 亚洲天堂av无毛| 国产精品一二三区在线看| 丝袜人妻中文字幕| 久久久精品区二区三区| 最新的欧美精品一区二区| 在线免费观看不下载黄p国产| 国产免费一级a男人的天堂| 大香蕉97超碰在线| 纵有疾风起免费观看全集完整版| 美女国产高潮福利片在线看| 日韩人妻精品一区2区三区| 久久久久精品性色| 亚洲一区二区三区欧美精品| 99热这里只有是精品在线观看| 免费高清在线观看视频在线观看| 99热这里只有是精品在线观看| 汤姆久久久久久久影院中文字幕| 啦啦啦啦在线视频资源| 欧美日韩视频精品一区| 亚洲精品国产av蜜桃| 日本午夜av视频| 欧美 日韩 精品 国产| 国产一区二区三区av在线| 免费看av在线观看网站| 日韩伦理黄色片| 精品99又大又爽又粗少妇毛片| 99热国产这里只有精品6| 如何舔出高潮| 草草在线视频免费看| 男人舔女人的私密视频| 亚洲av.av天堂| 国产日韩欧美亚洲二区| 亚洲av福利一区| 亚洲三级黄色毛片| 国国产精品蜜臀av免费| 久久亚洲国产成人精品v| 国产精品女同一区二区软件| 看免费成人av毛片| 9191精品国产免费久久| 国产成人精品久久久久久| 五月天丁香电影| av网站免费在线观看视频| 最近2019中文字幕mv第一页| 国产精品偷伦视频观看了| 晚上一个人看的免费电影| 五月开心婷婷网| 丝袜美足系列| 日本-黄色视频高清免费观看| 高清欧美精品videossex| 国产免费福利视频在线观看| 狂野欧美激情性bbbbbb| 国产精品无大码| 晚上一个人看的免费电影| 最新中文字幕久久久久| 成年av动漫网址| 少妇人妻久久综合中文| 又黄又爽又刺激的免费视频.| 亚洲综合色网址| 日韩一区二区视频免费看| 精品一区在线观看国产| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 啦啦啦中文免费视频观看日本| 国产在线免费精品| 午夜福利影视在线免费观看| 交换朋友夫妻互换小说| 久久99热6这里只有精品| 日本色播在线视频| 精品亚洲乱码少妇综合久久| 国产欧美另类精品又又久久亚洲欧美| 人妻 亚洲 视频| 在线观看国产h片| 人妻一区二区av| 国产av国产精品国产| 亚洲成色77777| 夜夜骑夜夜射夜夜干| 亚洲一码二码三码区别大吗| 日韩一区二区三区影片| 免费在线观看黄色视频的| 丝瓜视频免费看黄片| av免费在线看不卡| h视频一区二区三区| 久久午夜综合久久蜜桃| 欧美激情极品国产一区二区三区 | 天天操日日干夜夜撸| 侵犯人妻中文字幕一二三四区| 黄片无遮挡物在线观看| 久久精品国产a三级三级三级| 一本色道久久久久久精品综合| 日韩电影二区| 人人澡人人妻人| 伦理电影大哥的女人| av电影中文网址| 中文字幕人妻丝袜制服| 卡戴珊不雅视频在线播放| 欧美丝袜亚洲另类| 超碰97精品在线观看| 成人毛片60女人毛片免费| 大香蕉97超碰在线| 欧美日韩综合久久久久久| 91精品国产国语对白视频| 99国产精品免费福利视频| 激情五月婷婷亚洲| 亚洲人成网站在线观看播放| 女人久久www免费人成看片| 亚洲一码二码三码区别大吗| 日本欧美国产在线视频| 欧美人与善性xxx| 大片电影免费在线观看免费| 精品一区二区三卡| 亚洲av福利一区| 国产色婷婷99| 亚洲精品乱久久久久久| av线在线观看网站| 国产国语露脸激情在线看| 天天躁夜夜躁狠狠躁躁| 免费在线观看黄色视频的| 丰满饥渴人妻一区二区三| 黄片无遮挡物在线观看| 另类精品久久| 超色免费av| 久久人人爽人人片av| 国产日韩一区二区三区精品不卡| 青青草视频在线视频观看| 久久av网站| 国产精品女同一区二区软件| 熟女av电影| 国产日韩一区二区三区精品不卡| 国产毛片在线视频| 国产日韩一区二区三区精品不卡| 午夜视频国产福利| 丰满乱子伦码专区| 国产淫语在线视频| 一级片'在线观看视频| 国产成人精品一,二区| 七月丁香在线播放| 国产亚洲av片在线观看秒播厂| 亚洲国产av新网站| 超碰97精品在线观看| 欧美精品一区二区免费开放| 欧美日韩av久久| 亚洲av欧美aⅴ国产| 九色亚洲精品在线播放| 国产精品 国内视频| 狂野欧美激情性bbbbbb| 人成视频在线观看免费观看| 高清欧美精品videossex| 在线看a的网站| 欧美成人午夜免费资源| 免费人妻精品一区二区三区视频| 少妇熟女欧美另类| 日产精品乱码卡一卡2卡三| 性色av一级| 最新的欧美精品一区二区| 亚洲五月色婷婷综合| 久久久久久久久久人人人人人人| 在线观看国产h片| 天天影视国产精品| 久久精品国产自在天天线| 韩国av在线不卡| 全区人妻精品视频| 五月天丁香电影| 日韩人妻精品一区2区三区| 九色亚洲精品在线播放| 大话2 男鬼变身卡| 熟女人妻精品中文字幕| 亚洲精品日韩在线中文字幕| 亚洲精品第二区| 大香蕉久久成人网| 人妻系列 视频| 久久99精品国语久久久| 性色av一级| 成人黄色视频免费在线看| 三级国产精品片| 蜜臀久久99精品久久宅男| 老司机影院成人| 久久国产精品大桥未久av| 观看美女的网站| 两个人免费观看高清视频| 国产精品秋霞免费鲁丝片| 韩国高清视频一区二区三区| 伊人亚洲综合成人网| 人妻系列 视频| 欧美日韩精品成人综合77777| 纯流量卡能插随身wifi吗| 最新中文字幕久久久久| 精品亚洲成a人片在线观看| 少妇被粗大猛烈的视频| 国产片特级美女逼逼视频| 深夜精品福利| 国产成人91sexporn| 人妻少妇偷人精品九色| 日本黄色日本黄色录像| 中国三级夫妇交换| 99热6这里只有精品| 女性生殖器流出的白浆| 我的女老师完整版在线观看| 免费观看无遮挡的男女| 乱码一卡2卡4卡精品| 熟女电影av网| 亚洲伊人久久精品综合| 久久精品夜色国产| 国产在线视频一区二区| 日韩大片免费观看网站| 欧美成人午夜精品| 夫妻性生交免费视频一级片| 丰满乱子伦码专区| av线在线观看网站| 22中文网久久字幕| 久久韩国三级中文字幕| 日韩一区二区视频免费看| 久久精品久久久久久噜噜老黄| 亚洲国产精品成人久久小说| 亚洲精品美女久久av网站| 午夜激情久久久久久久| 中文字幕亚洲精品专区| 国产精品 国内视频| 好男人视频免费观看在线| 国产又色又爽无遮挡免| 七月丁香在线播放| 免费看av在线观看网站| 国产成人精品无人区| 在线观看免费高清a一片| 午夜视频国产福利| 桃花免费在线播放| 妹子高潮喷水视频| 午夜福利在线观看免费完整高清在| 黄色怎么调成土黄色| h视频一区二区三区| 精品一区二区免费观看| 国产69精品久久久久777片| 成年美女黄网站色视频大全免费| 91在线精品国自产拍蜜月| 久久这里有精品视频免费| 久久久久久伊人网av| 超碰97精品在线观看| 男的添女的下面高潮视频| 国产免费一区二区三区四区乱码| 国产毛片在线视频| 免费久久久久久久精品成人欧美视频 | 亚洲精品视频女| 亚洲四区av| 国产成人精品在线电影| 丰满迷人的少妇在线观看| 男人添女人高潮全过程视频| 国产麻豆69| 亚洲成人一二三区av| 天天躁夜夜躁狠狠久久av| 亚洲欧美清纯卡通| 亚洲中文av在线| 久久人人爽av亚洲精品天堂| 日韩一区二区视频免费看| 十分钟在线观看高清视频www| 18禁观看日本| 亚洲色图 男人天堂 中文字幕 | 在线亚洲精品国产二区图片欧美| 国产极品天堂在线| 国产老妇伦熟女老妇高清| 99精国产麻豆久久婷婷| 国产成人免费无遮挡视频| 欧美+日韩+精品| 狂野欧美激情性xxxx在线观看| 亚洲三级黄色毛片| 各种免费的搞黄视频| 丝瓜视频免费看黄片| 观看av在线不卡| 国产无遮挡羞羞视频在线观看| 久久久亚洲精品成人影院| 老司机影院成人| 亚洲第一区二区三区不卡| 午夜91福利影院| 欧美最新免费一区二区三区|