• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能機(jī)器人法官:還有多少可能和不可能

    2018-02-22 16:37:10盛學(xué)軍
    現(xiàn)代法學(xué) 2018年4期
    關(guān)鍵詞:審判法官司法

    盛學(xué)軍,鄒 越

    (西南政法大學(xué),重慶 401120)

    一、問題的提出

    機(jī)器人的智能正以超乎想象的速度追趕人類。英國倫敦大學(xué)研制出了一款智能機(jī)器人,能夠評估法律證據(jù),同時考慮倫理問題,然后決定案件應(yīng)當(dāng)如何判決??茖W(xué)家們表示,這臺計(jì)算機(jī)預(yù)測案件的準(zhǔn)確率達(dá)到了79%[1],其針對的是歐洲人權(quán)法庭584個關(guān)于折磨、侮辱、公平審判和隱私的案件。2015年11月,智能輔助辦案系統(tǒng)在上海市第二中級人民法院用于庭審,設(shè)計(jì)者認(rèn)為這是“機(jī)器人法官”的雛形。2016年末,南京市中級人民法院引入機(jī)器人輔助判案系統(tǒng),并形象地將該系統(tǒng)稱為“阿爾法法官”。將司法大數(shù)據(jù)運(yùn)用到司法輔助、辦案參謀、智能咨詢及決策分析等環(huán)節(jié),法官輸入案由、情節(jié)等案件事實(shí),機(jī)器人自動彈出應(yīng)適用的法條,并顯示量刑建議,在法官確認(rèn)后,判決書便一鍵生成[2]。

    其實(shí)更早幾年,IBM公司(International Business Machines Corporation, 簡稱IBM)就推出了名為高級案件管理(Advanced Case Management)的司法輔助系統(tǒng)。該系統(tǒng)能夠在包含數(shù)據(jù)存儲和流程管理的基礎(chǔ)上,通過綜合分析,自動生成最優(yōu)判決結(jié)果。也就是說,IBM推出的系統(tǒng)更類似于一個機(jī)器人法官,能夠在數(shù)據(jù)支持下自動判案[3]。

    顯然,以智能系統(tǒng)為核心的數(shù)字化建設(shè)和人機(jī)結(jié)合的模式深度介入審判事務(wù)、管理審判過程,有助于提高審判效率,減輕法官的工作負(fù)荷;鐵面無私斷案;促進(jìn)同案同判,提高判決質(zhì)量等。但是,從情景和自然語言中提取的冷數(shù)據(jù)總能滿足審判要求嗎?將證據(jù)分析、法理邏輯、法律適用都交給智能系統(tǒng),機(jī)器人法官能夠公正裁判嗎?進(jìn)而,同類案件千篇一律的判決會是我們想要的嗎?

    一個聰明的人不一定能成為一個智慧的法律專家,一個在法院里耳聞目染數(shù)十年的人,也不一定能成為一名優(yōu)秀的法官。同樣,一套智能系統(tǒng),存儲、搜索、運(yùn)算、學(xué)習(xí)功能再強(qiáng)大,也不一定能成為一名合格的“機(jī)器人法官”。關(guān)鍵在于,不管是人腦還是電腦,應(yīng)該擁有怎樣的人性和人道觀念、法治精神和信仰以及定紛止?fàn)幍牟门兴囆g(shù)。從這些意義上說,“機(jī)器人法官”更需要的并不是算法技術(shù)。沒有人類法官的深度參與就沒有機(jī)器人法官的深度學(xué)習(xí),也許我們今天引入司法智能系統(tǒng)的一個重要任務(wù),就是由人類優(yōu)秀的法官訓(xùn)練機(jī)器人法官。問題在于,能獨(dú)立審案的優(yōu)秀“機(jī)器人法官”最終可以造就嗎?

    相當(dāng)一部分技術(shù)專家認(rèn)為,現(xiàn)在尚處于人工智能的“石器時代”。我們對于機(jī)器人發(fā)展空間的認(rèn)知源于人類對于人腦的運(yùn)行模式尚知之甚少,關(guān)于意識和情感、直覺和語言、藝術(shù)和美、倫理和價值、愛和信仰在人腦中是如何產(chǎn)生、表達(dá)和相互作用的,我們知道得很少,更別說訓(xùn)練機(jī)器。

    智能機(jī)器人的未來真的會如哈佛大學(xué)未來學(xué)家Phil McNally和Sohai Inayatullay在30年前預(yù)測的那樣嗎?“計(jì)算機(jī)技術(shù)的發(fā)展將迫使我們對‘活的’概念和權(quán)利概念重新定義。隨著人工智能的進(jìn)展,機(jī)器人將被認(rèn)為是‘活的’。機(jī)器人在下一個25至50年很可能會有權(quán)利。電子司法機(jī)關(guān)有可能代替法院審理案件。隨著智能機(jī)器人的發(fā)展,我們的憲法和法律可能需要修改或重寫。有朝一日可能出現(xiàn)機(jī)器人法官和機(jī)器人律師在法庭上唇槍舌劍的場面?!盵4]這樣的場面,即便還很遙遠(yuǎn),即使還有很大的變數(shù),機(jī)器人會給司法審判帶來怎樣的變革和挑戰(zhàn)?對于“機(jī)器人法官”的未來,我們應(yīng)該有怎樣的期待和應(yīng)對?仍然是需要我們特別關(guān)注、深入研究的問題。

    二、可能帶來的司法審判模式變革

    廣義的“機(jī)器人法官”指的是可以參與法律事務(wù)的智能系統(tǒng),既包括各種輔助系統(tǒng),又包括面向各類法規(guī)及證據(jù)分析的智能專家系統(tǒng),如司法進(jìn)程的事務(wù)跟蹤機(jī)器人,庭審記錄機(jī)器人,判決書生成機(jī)器人,同類案件比照分析機(jī)器人,政府、企業(yè)、各種社會組織、家庭用于法律咨詢和服務(wù)的機(jī)器人,律師事務(wù)所的機(jī)器人律師,還包括仍在設(shè)想中的、狹義的“機(jī)器人法官”,即不需要人類法官介入的、具有獨(dú)立審案能力的智能機(jī)器系統(tǒng)。這就是馬克斯·韋伯100多年前設(shè)想的自動售貨機(jī)般的法官——“投進(jìn)去的是訴狀和訴訟費(fèi),吐出來的是判決和從法典上抄下來的理由?!盵5]目前各法院引進(jìn)的“機(jī)器人法官”或許有較強(qiáng)大的人工智能,但仍然只是法官的輔助工具,不是審判席上有知情意行的主體。

    機(jī)器人法官的智能來源于“人工”,正所謂“人工智能”,也就是用計(jì)算機(jī)來模擬人的思維過程和智能行為,如學(xué)習(xí)、思考、推理、判斷等。實(shí)現(xiàn)的方式主要有兩種:一是基于邏輯的編程技術(shù),如文字識別、案件比對等;另一種是模擬人類或生物機(jī)體的神經(jīng)網(wǎng)絡(luò)算法,不斷地向大數(shù)據(jù)學(xué)習(xí),不斷地犯錯誤,不斷地吸取教訓(xùn),不斷地改正錯誤,如自動駕駛、AlphaGo下圍棋等。

    智能機(jī)器人思維和推理的一般步驟是:(1)利用設(shè)計(jì)者嵌入的或后天習(xí)得的自然語言處理能力,理解“問題”涉及的語法和文本,從語言、表情和情景中找出要解決的“問題”;(2)評估“問題”涉及的各種含義,界定“問題”的實(shí)質(zhì)和邊界;(3)依據(jù)算法推理可能的解決方案,或從可能搜索到的大數(shù)據(jù)中尋找所有相似“問題”已經(jīng)成功過的解決方案,或讓各種方案比拼,確定勝出的方案;(4)將本案例的關(guān)鍵材料與選定的若干解決方案匹配,并對匹配的吻合度進(jìn)行評分排名;(5)依據(jù)排名順序提供多個解決方案和最優(yōu)解決方案。所以,在記憶、搜索、運(yùn)算確定的和重復(fù)的事務(wù)處理等方面,智能機(jī)器人可以比人類做得更好。向以往發(fā)生過的案例學(xué)習(xí),為一個具體的判決提供盡可能豐富的法律依據(jù)和相似判決參考,智能機(jī)器人也可以做得比人類更快。目前及以后相當(dāng)長的時間內(nèi),法院引進(jìn)的“機(jī)器人法官”的功能都不會超出這個范圍。

    即便“機(jī)器人法官”還只是法院辦案的輔助系統(tǒng)以及生物人類法官的智能工具,其對現(xiàn)有審判模式帶來的沖擊和變革仍然會是相當(dāng)明顯的。以下三個方面尤其需要引起足夠的關(guān)注和重視,才能使審判體系和審判能力的現(xiàn)代化落到實(shí)處:

    (一)關(guān)系重構(gòu)

    為防止冤假錯案、保障司法公正,“以審判為中心”的司法改革正在推進(jìn)。偵、訴、審三者以審判為中心,訴、辯、審三者“以庭審為中心”。根據(jù)“以庭審為中心”的要求,事實(shí)調(diào)查、證據(jù)認(rèn)定、控訴辯護(hù)、定罪量刑、裁判說理都應(yīng)從法庭審理中實(shí)現(xiàn)。也就是說,法官的內(nèi)心確信主要是通過庭審,而不是通過庭外閱卷形成。在審判的多個環(huán)節(jié)引入智能機(jī)器人以后,庭審中心的內(nèi)涵可能發(fā)生變化,事實(shí)調(diào)查、證據(jù)認(rèn)定可能已經(jīng)由訴、辯、審三方的法律機(jī)器人在庭外基本完成,或部分完成,定罪量刑也已經(jīng)由智能機(jī)器人通過大數(shù)據(jù)比對給出多個選擇及過往判例的百分比。若案件涉及的科學(xué)技術(shù)知識超出法官的知識結(jié)構(gòu),智能專家系統(tǒng)可能說了算。在這樣的變革中,庭審中心的“庭”可能突破物理的法庭,法官的心證可能不那么自由,法官的確信有時要基于智能機(jī)器人的確信。譬如,智能機(jī)器人確信被告的有罪概率為85%,人類法官該如何抉擇?是遵從機(jī)器人的判斷,還是交給審委會?審判長有多大的裁決權(quán)?合議庭中可不可以有機(jī)器人法官的一席之地?如果可以有,機(jī)器人法官有沒有投票權(quán)?如果有,權(quán)重是多少?由物理器件建構(gòu)的智能機(jī)器人,從低價值密度的大數(shù)據(jù)中提取所需要的信息并推理,無論是作為書記員,還是作為證據(jù)分析的智能專家系統(tǒng),都存在著出故障、犯錯誤的可能,由此產(chǎn)生的庭審錯誤,如何追究責(zé)任?從現(xiàn)行司法過程的制度和文化以及審判各方的權(quán)利關(guān)系來看,必須作出足夠的調(diào)整才能恰當(dāng)?shù)厝菁{和利用這些“新人”。

    (二)隊(duì)伍重組

    就目前而言,可以讓智能系統(tǒng)參與的事務(wù)性工作,可能不少于法院全部工作量的50%。例如,目前已經(jīng)投入使用或即將投入使用的庭審書記員助手、判決書生成系統(tǒng)、同案不同判監(jiān)測系統(tǒng)、危險(xiǎn)駕駛罪判決系統(tǒng)、刑事案件智能輔助系統(tǒng)等,這些系統(tǒng)的投入使用,勢必對審判隊(duì)伍的素質(zhì)要求特別是輔助人員的構(gòu)成產(chǎn)生較大影響。書記員等事務(wù)工作人員可以減少,智能系統(tǒng)數(shù)據(jù)維護(hù)人員必須增加;法官的事務(wù)性工作將減少,審案效率會提高;辦案痕跡和質(zhì)量分析智能化,法官辦案的規(guī)范性會加強(qiáng),扁平化的網(wǎng)絡(luò)監(jiān)控使得法官考核更容易;機(jī)器人同行的參與對審判人員的知識結(jié)構(gòu)和工作能力也會提出新的要求等。在這一背景下,審判隊(duì)伍的重組成為審判體系和審判能力現(xiàn)代化的必然要求。

    (三)流程再造

    為了充分發(fā)揮智能系統(tǒng)的作用,需要重新規(guī)劃審判流程。對事實(shí)調(diào)查、證據(jù)認(rèn)定、控訴辯護(hù)、定罪量刑、裁判說理各部分進(jìn)行模塊化拆分和整合,適宜交給機(jī)器人的交給機(jī)器人,適宜庭外完成的在庭外完成,甚至可以考慮由相關(guān)方的人機(jī)組合,在規(guī)定的網(wǎng)絡(luò)空間,限時或不限時訴辯,充分交流事實(shí)和證據(jù),達(dá)成某些共識后,再開庭確認(rèn),減少庭審的程序和訴辯時間,提高審判效率。鑒于不同類別案件的審理程序和智能系統(tǒng)的功能差異較大,應(yīng)當(dāng)根據(jù)案件特征和智能系統(tǒng)的功能實(shí)現(xiàn)情況,對審判流程進(jìn)行合法的重組。

    三、可能帶來的司法挑戰(zhàn)

    從機(jī)器人“智能”的生成和累積方式可以看出,機(jī)器人法官的智能高度依賴以下兩個因素:其一,設(shè)計(jì)者提供的邏輯推理框架——演繹推理,歸納推理,類比推理的數(shù)學(xué)模型、符號運(yùn)算法則和神經(jīng)網(wǎng)絡(luò)算法模型。這個框架不完善,后續(xù)推理出錯的可能性非常高。其二,對以往數(shù)據(jù)的學(xué)習(xí)、記憶和理解,并在此基礎(chǔ)上形成一定的自組織和自適應(yīng)能力。獲得什么樣的數(shù)據(jù)將決定機(jī)器人能學(xué)到什么。無論多么復(fù)雜高深的人工智能,總會帶有設(shè)計(jì)者某種程度的偏好,甚至歧見。同時,機(jī)器人的每一次“質(zhì)變”都依賴于足夠多的“量變”,沒有足夠多的“量變”,機(jī)器人可能弱智。有了足夠多的“量變”,機(jī)器人的“質(zhì)變”則取決于用于學(xué)習(xí)的數(shù)據(jù)質(zhì)量,數(shù)據(jù)的質(zhì)量有多好,“機(jī)器人法官”就有多公正。顯而易見,“機(jī)器人法官”的成長和應(yīng)用,必然對現(xiàn)行的司法審判實(shí)踐提出一系列嚴(yán)峻的挑戰(zhàn)。

    挑戰(zhàn)之一:句子的意義不僅僅取決于詞源詞義、語法規(guī)則、邏輯實(shí)證,更取決于人們的約定俗成、感覺經(jīng)驗(yàn)、思維方式、理念信仰;不僅取決于過去,還取決于當(dāng)下;不僅取決于普遍意義,還取決于特定場合。如果要讓智能機(jī)器人準(zhǔn)確理解不同種族、地域和文化背景的人們以及與時俱進(jìn)的語言所包含的態(tài)度、語義、要旨,我們?yōu)闄C(jī)器人準(zhǔn)備的語料庫能豐富到那樣的程度嗎?我們的法律用語能精確到那樣的程度嗎?經(jīng)濟(jì)社會的變遷速度遠(yuǎn)遠(yuǎn)超過我們制定法條實(shí)施細(xì)則和分類表的速度,要建設(shè)這樣的語料庫和案例庫,其成本會不會使得某些深度參與案件審判的“機(jī)器人法官”沒有存在價值?

    挑戰(zhàn)之二:可以依照智能機(jī)器人匹配的吻合度進(jìn)行判決嗎?不同案件之間的吻合度是依據(jù)什么確定的?這樣的依據(jù)可靠嗎?可以肯定的是,要件和細(xì)節(jié)百分之百相同的案件幾乎不可能有,差之毫厘失之千里倒是可能。譬如,對平行進(jìn)口采用商標(biāo)權(quán)利國內(nèi)用盡原則還是國際用盡原則,不同的法官可能作出不同的選擇,很難對這樣的判決進(jìn)行對錯之辯。無論是法律條文,還是學(xué)界,這類還沒有定論的問題很多。社會在進(jìn)步,人們的觀念在變化,我們不能期待所有司法判決一經(jīng)生成入庫,就成為機(jī)器人可以長久學(xué)習(xí)的標(biāo)準(zhǔn)。

    挑戰(zhàn)之三:智能機(jī)器人在人流如織的大街上開車,在一個路口錯過了,機(jī)器人可以自主重新規(guī)劃線路,在下一個紅綠燈處掉頭。實(shí)在避免不了事故,則可以在小概率的大事故與大概率的小事故之間作出抉擇。智能機(jī)器人戰(zhàn)勝圍棋頂尖高手,是因?yàn)橐槐P輸了,還可以在下一盤扳回。機(jī)器人可以根據(jù)比賽規(guī)則和現(xiàn)有棋譜,幾秒鐘內(nèi)模擬千萬次的“對打”,從中找到最優(yōu)策略。司法審判可以讓機(jī)器人法官在小概率的大錯案和大概率的小錯案之間抉擇嗎?可能在原告和被告不出席的情況下模擬他們千萬次的“對打”嗎?也就是說,刑事案件的470個罪名,民事案件的467個二級案由,“機(jī)器人法官”得分門別類地進(jìn)行千萬次的學(xué)習(xí)演練,每一項(xiàng)新的法規(guī)或司法解釋出臺后,都需要大量的案例提供給“機(jī)器人法官”再學(xué)習(xí),否則,“機(jī)器人法官”可能反復(fù)地提醒“系統(tǒng)錯誤”“請重新開機(jī)”。于是,當(dāng)我們明知“機(jī)器人法官”只有79%的正確性,或者99%的正確性,我們能讓“機(jī)器人法官”坐在審判席上斷案嗎?

    挑戰(zhàn)之四:智能機(jī)器人會學(xué)壞嗎?如果我們對入庫的案例進(jìn)行甄別,不妨假定這樣做是可能的,機(jī)器人學(xué)習(xí)的案例數(shù)量會大大減少,不能正確判斷的案件也會增多。如果所有的案例都入庫,案例庫的平均判決質(zhì)量會下降,機(jī)器人在學(xué)好的同時也學(xué)壞,人類的冤假錯案可能被機(jī)器人重演。而且,這些智能機(jī)器人使用同樣的案例庫,同樣的決策系統(tǒng),一臺出錯另一臺也會出同樣的錯,別指望高級法院的機(jī)器人比中級法院的機(jī)器人更高明。向過去的案例學(xué)習(xí)并裁決未來的案件,我們能放心嗎?

    挑戰(zhàn)之五:我們的文化能接受機(jī)器審判人類嗎?我們真的能給“機(jī)器人法官”人的權(quán)利嗎?或者說,隨著機(jī)器人智能的強(qiáng)大,生物人法官可以不給“機(jī)器人法官”審判長的權(quán)利嗎?

    四、不可能完成的獨(dú)立審判

    關(guān)于智能機(jī)器人能否獨(dú)立審案,關(guān)鍵難題有兩個:一是機(jī)器人能否在大數(shù)據(jù)處理中準(zhǔn)確地還原情感?二是機(jī)器人能否恰當(dāng)?shù)剡\(yùn)用法律體系必須留給法官的自由裁量權(quán)?當(dāng)然,也可以歸結(jié)為一個問題,即怎樣在法律的框架內(nèi),能動地展示法官的人性、人道和法治精神。

    毫無疑問,能夠數(shù)據(jù)化的知識,機(jī)器人都能學(xué)得很好。但心理學(xué)研究表明,人們回憶一件事情的過程,并不完全是事實(shí)重現(xiàn)的過程,也是對事實(shí)進(jìn)行心理重構(gòu)的過程。有人在路口的斑馬線上被撞了,如果對目擊證人提問:“你看見那個被撞的人闖紅燈嗎?”“你看見那個被撞的女孩闖紅燈嗎?”與“你看見那個低頭玩手機(jī)的人闖紅燈嗎?”得到的結(jié)果很可能是不同的,盡管證人明白“那個被撞的人”“那個被撞的女孩” 與“那個低頭玩手機(jī)的人”是同一個人。這說明,含在提問中的假定前提有可能改變大腦中的事實(shí)重構(gòu),并不是有意撒謊,而是因?yàn)槟硞€假定前提觸發(fā)了情感。

    法官不同的心理傾向、個性特征、思維習(xí)慣、文化背景很容易在事實(shí)認(rèn)知中留下印記。這種印記對于司法審判不可避免,正所謂法官是法律的嘴,法官在法律的框架內(nèi)選擇他愿意說的話。同樣的語詞、語句,不同的嘴表達(dá)出來的意思不盡相同?,F(xiàn)做以下假定:一位刑庭的法官,在死刑判決宣布之后執(zhí)行當(dāng)天,要去會見死刑犯的家屬,目睹生離死別;一位審理交通違法案件的法官,曾經(jīng)差點(diǎn)被醉駕者撞死;一位審理合同糾紛的法官,親人曾被詐騙得傾家蕩產(chǎn)。類似經(jīng)歷產(chǎn)生的情感會不會影響法官對案件事實(shí)的重構(gòu)和認(rèn)知?技術(shù)可以讓機(jī)器人心如止水,不受任何情感影響,人類法官卻做不到。問題的意義在于,這類影響對法官把握事實(shí)背后的本質(zhì)有益還是有害?對司法公正的作用是正面的,還是負(fù)面的?

    廣東省惠陽市惠陽區(qū)人民法院在于德水利用ATM機(jī)故障詐騙9萬元案的判決書中認(rèn)為,被告存在“明顯的非法占有的故意”,“判處有期徒刑三年,緩刑三年,并處罰金人民幣一萬元”。這份被一些法律界人士譽(yù)為“最牛判決書”充滿情感:“被告人于德水的父母早已病亡,其與幾個姊妹相依為命,生活困苦”,“對于一個窮孩子來說,幾乎是從天而降的錢財(cái)對他意味著什么?!我們不能苛求每一個公民都具有同等的道德水平和覺悟。同時,被告人取了錢帶回老家,除了給弟弟一些錢,剩下的也一直不敢亂花,這說明他對社會管理秩序還是心存畏懼,被抓獲之后,被告人隨即全部退清所有款項(xiàng),我們覺得,這孩子仍心存良知”?!昂献h庭三名法官做出的這一細(xì)致和認(rèn)真的判斷是基于我們的良知和獨(dú)立判斷,是基于我們對全案事實(shí)的整體把握和分析,是基于我們對法律以及法律精神的理解,是基于我們對實(shí)現(xiàn)看得見的司法正義的不懈追求”[6]。本案被告有“明顯的非法占有的故意”,“已經(jīng)構(gòu)成盜竊罪”,卻與之前類似的“許霆案”判決大不相同。許霆案最終認(rèn)定的犯罪金額是17.5萬元,終審判決有期刑期5年?;蓐枀^(qū)人民法院這份萬字左右的判決書引發(fā)的社會反響強(qiáng)烈而正面。

    關(guān)于情與法的很多研究基本忽略了法官自主的、正當(dāng)?shù)那楦袑λ痉ㄅ袥Q的影響,也就是法官在社會環(huán)境中的情感體驗(yàn)所形成的心理傾向、思維模式、價值選擇對司法判決的影響。司法案件的事實(shí)認(rèn)知并不是2+3=5以及借債還錢、殺人償命那么簡單。正如惠陽區(qū)人民法院在判決書中所說,還有“良知”“對全案事實(shí)的整體把握”“對法律精神的理解”“對看得見的司法正義的不懈追求”,這些要素都要受到根深蒂固的情感影響,這里的情感是法官對人類、對社會的道德感和價值觀,是對客觀事物價值關(guān)系的主觀反映,這樣的情感支撐著惻隱之心、羞惡之心、恭敬之心、是非之心。

    機(jī)器人能夠準(zhǔn)確地重構(gòu)或者認(rèn)知這樣微妙的情感嗎?更加困難的是,文化傳統(tǒng)、知識背景、利益糾葛、興趣偏好、情緒態(tài)度、觀念信仰等因素,有些可以表達(dá)出來,成為計(jì)算機(jī)內(nèi)的數(shù)據(jù),有些則是默會的,與情感和人性緊密相連,優(yōu)秀的人類法官或許可以意會,但難以言表。正是這類不可言傳的默會知識,很多時候直接決定著法官的領(lǐng)悟能力、洞察能力和判斷能力。這樣的知識怎樣教給機(jī)器人?機(jī)器人如何認(rèn)知?是否可以認(rèn)知?除了科幻小說以外,技術(shù)專家還沒有看到可能性。

    于是,我們還得回到法律適用方法的經(jīng)典爭論上來,即邏輯理性還是實(shí)踐理性更為重要?法官面對的現(xiàn)實(shí)是,大量的案件必須依靠邏輯理性,同時也少不了實(shí)踐理性,疑難案件尤其如此。在司法審判常用的三類邏輯推理方法中,演繹推理的大前提和小前提中不可避免地包含價值選擇、人文態(tài)度和生活經(jīng)驗(yàn)。歸納推理將大量面對不完全歸納,結(jié)論往往超出前提所斷定的范圍。對類比推理而言,判斷類比對象相同點(diǎn)重要還是不同點(diǎn)重要的規(guī)則往往不確定。于是,“一個好的庭審取決于當(dāng)事人、律師、法官,甚至社會其他成員(如證人、旁聽人員)之間的成功合作”[7]。這種合作既包括對法律精神的尊重,對法條和司法過程的理解,又包括主張界定、爭點(diǎn)梳理、事實(shí)認(rèn)定、權(quán)利妥協(xié)中邏輯理性和實(shí)踐理性的恰當(dāng)融合?;蛘呖梢哉f,注入必要的、微妙的、精美的人類情感以后,我們向往的法律適用最佳方法往往并不存在,算法的“最優(yōu)”在有些案件的審理中沒有意義,法官需要尋找的是對于特定案例而言最適合的法律適用方法。法律適用方法對特定案例的“最適合”而不是“最佳”,就算“機(jī)器人法官”能夠?qū)W會,那也是成千上萬件類似案例入庫以后的事情,那時此案早已非彼案了。

    為了實(shí)現(xiàn)司法公正,我們不應(yīng)該要求法官像沒有人類意識和情感的機(jī)器那樣斷案,而是要抑制情感的負(fù)面作用,增強(qiáng)情感的正面作用,讓法官的個人情感與社會的主流情感相通,跟隨社會道德情操與時俱進(jìn)。例如,2016年發(fā)生在山東省聊城市冠縣經(jīng)濟(jì)開發(fā)區(qū)的“辱母殺人案”,當(dāng)?shù)匾粚彿ㄔ簵l分縷析的判決引發(fā)了社會輿論一片嘩然。“處在法律調(diào)節(jié)之下的行為和在倫理要求之下的行為或許會存在的沖突,顯示出法的道理與人心常情之間可能會出現(xiàn)的罅隙。也正是在這個角度上看,回應(yīng)好心人的訴求,審視案件中的倫理情境、正視法治中的倫理命題,才能‘讓人民群眾在每一個司法案件中都感受到公平正義’。也正是因此,轉(zhuǎn)型期中國的法治建設(shè),無論是立法還是司法,需要更多地正視這些人心經(jīng)驗(yàn),正視轉(zhuǎn)型時代保護(hù)倫理價值的重要性,從而把握好邏輯與經(jīng)驗(yàn)的關(guān)系、條文與人情的關(guān)系、法律與倫理的關(guān)系?!盵8]從這個意義上我們可以說,法官在司法實(shí)踐中應(yīng)該有態(tài)度、有情感,這正是與人異類的智能機(jī)器人可能做不到的。至少在可以看得到的將來,算法不能設(shè)計(jì)人類的態(tài)度,技術(shù)也無法制造人類的情感,人類在復(fù)雜世界中千差萬別的情感無法準(zhǔn)確地進(jìn)入機(jī)器人的決策系統(tǒng),將機(jī)器人從過往案例中習(xí)得的情意表象用于當(dāng)下的審判未必合適,因?yàn)檫@樣的情感只能是生物人與生物人之間的事,沒有人類情感的公正司法是不存在的。

    “以事實(shí)為依據(jù)、以法律為準(zhǔn)繩”是公正司法的基石,然而,文字表述的法條并不會自動成為分清是非、確認(rèn)當(dāng)事人權(quán)利義務(wù)的客觀尺度。其一,法律可能出現(xiàn)空白,但法治精神沒有空白,需要法官以專業(yè)的精神和能力為法規(guī)補(bǔ)漏。其二,法律條文中不可避免大量存在的“正當(dāng)理由”“合理期間”“酌情”等用語,需要掌握法律精神和專業(yè)知識的人結(jié)合具體案情進(jìn)行清晰界定。其三,法律在一定程度上滯后于社會發(fā)展有其合理性和必然性,即使是法律概念,也必須保持一定的開放性,才不至于使法規(guī)條文朝令夕改。這個開放性既是留給社會的,又是留給法官的。其四,程序正義仍然是保障實(shí)體正義實(shí)現(xiàn)的必要方法,法官在具體案件中基于目的正義的必要調(diào)整也是不可缺少的。其五,法治既包括硬法之治,又包括軟法之治,很多沒有經(jīng)過立法程序的法規(guī)文件以及被社會普遍認(rèn)可的公序良俗也是法律體系的重要組成部分,對這部分規(guī)范的理解和把握更多地取決于法官對社會主流價值的認(rèn)同,對政府階段性政策和社會輿論的把握。其六,依法判決的專業(yè)理性、利益相關(guān)者的權(quán)利要求以及社會大眾對公平正義的理解之間往往存在著不小的鴻溝,這是任何法治體系中都會大量存在的難題,我國司法過程中的這類矛盾更加突出,恰到好處地運(yùn)用自由裁量權(quán)修補(bǔ)這樣的鴻溝,需要仔細(xì)地考慮每一個案件的特殊情況。

    也就是說,在法官的司法實(shí)踐中,適用的法律規(guī)則有時是不確定的,需要認(rèn)定的事實(shí)有時是模糊的,邏輯過程有時是難以充分的。盡管有濫用自由裁量權(quán),或自由裁量權(quán)使用不當(dāng),未能保障目的正義的現(xiàn)象存在,要求法官運(yùn)用自由裁量權(quán),準(zhǔn)確而創(chuàng)造性地執(zhí)行法律的原則仍然必須堅(jiān)持。正如哈耶克所說:“對正義的實(shí)現(xiàn)而言,操作法律的人的質(zhì)量比其操作的法律內(nèi)容更為重要?!盵9]用法律內(nèi)容訓(xùn)練出來的“機(jī)器人法官”很難超越有質(zhì)量的法律人,因此,無法將自由裁量權(quán)交給機(jī)器人。

    機(jī)器人的智能再強(qiáng)大,也無法實(shí)現(xiàn)由法治精神、科學(xué)理性、人格品德和社會經(jīng)驗(yàn)兼?zhèn)涞姆ü偻瓿傻淖杂尚淖C,而自由心證已經(jīng)成為世界上眾多國家采用的一項(xiàng)證據(jù)原則和證據(jù)制度。法官也有公開自己心證的義務(wù),使得當(dāng)事人有機(jī)會針對法官的心證展開訴訟,減少或消除來自法官的訴訟突襲造成的司法不公。如果智能機(jī)器人成為獨(dú)立審案的法官,相對固化的程序和算法面對復(fù)雜多變的庭審現(xiàn)場,無疑會大量產(chǎn)生和強(qiáng)化這類訴訟突襲。從20世紀(jì)70年代歐洲出現(xiàn)的法律人工智能庫 WELBE和 LRS至今,人們一直在努力,試圖讓電腦逐步地代替人腦?!半娔X量刑固然能在很大程度上排除在行使自由裁量權(quán)方面的主觀任意性,但同時也會排除諸如自然法、人權(quán)保障、‘有恥且格’、預(yù)防為主之類的思辨性要素,還傾向于排除對各種不同利益進(jìn)行權(quán)衡、考量等的政策性調(diào)整機(jī)制??墒撬痉ǖ谋举|(zhì)決定了諸如此類的思辨和整合化作業(yè)不僅無法排除,甚至還有必要在社會日益復(fù)雜化、動態(tài)化以及價值觀越來越多元化的背景下有所加強(qiáng)?!盵10]法律的生命不僅僅是邏輯,更是經(jīng)驗(yàn)和價值。尤其是當(dāng)雙方證據(jù)都沒有壓倒性優(yōu)勢時,有豐富實(shí)踐經(jīng)驗(yàn)、有人性情感、有法治精神的法律人比裝滿精確程序和冰冷數(shù)據(jù)的機(jī)器更可靠。

    五、結(jié)語

    智能機(jī)器人在司法領(lǐng)域可以大有作為,也應(yīng)該大有作為。作為人類法官的得力助手,在司法事務(wù)處理方面,可以給人類法官提供盡可能多的支援、便利和多種判決參考。在這些方面,我們推進(jìn)的步伐應(yīng)該更快一些。應(yīng)當(dāng)記取的是,我們可以借助“機(jī)器人法官”提高審判效率,但不一定能節(jié)省人力、物力,至少在統(tǒng)一的、完善的法治大數(shù)據(jù)系統(tǒng)建立之前是如此。我們應(yīng)該積極運(yùn)用“機(jī)器人法官”輔助建立現(xiàn)代化的法治體系,提升法治能力,但也要警惕過分依賴?yán)鋽?shù)據(jù)和機(jī)器智能造成新的司法不公;我們既要造就一大批善于運(yùn)用人工智能的新型法官,又要在引進(jìn)“機(jī)器人法官”的同時,堅(jiān)守人類法官的人性、人道和法治精神。

    人是一切社會關(guān)系的總和。生物人的意識是生物人組成的社會的產(chǎn)物,生物人的本質(zhì)既是歷史的,又是現(xiàn)實(shí)世界的。至少在可以預(yù)見的將來,因?yàn)榍楦形⒚疃匾拇嬖冢惴ㄖ悄芗炔荒芡耆鉀Q語言智能的問題,更不能完全解決想象智能的問題。自由裁量權(quán)在司法實(shí)踐中不可或缺,即便有那么一天,由于生物進(jìn)化的漫長和眾多客觀條件的限制,電腦的智力超越人腦,人類官司的最后裁決權(quán)也不能完全交給“機(jī)器人法官”。人類的環(huán)境養(yǎng)大的機(jī)器人,不僅會有人類的優(yōu)勢,還會有人類的劣勢,不僅會有人類的高尚,還會有人類的低下。趨利避害的選擇同樣會深入機(jī)器人的中樞。長期且大量依賴“機(jī)器人法官”斷案,人類的法治思維、立法機(jī)制、法治能力會不斷退化。我們原本希望“機(jī)器人法官”比人類法官更公正,更有效率,鐵面無私辨忠奸,可能的結(jié)果卻是,我們得懇求“機(jī)器人法官”給人類一個公正的判決。況且,到那時僅僅觸動一個電源開關(guān),就能讓整個司法系統(tǒng)癱瘓。當(dāng)代著名物理學(xué)家霍金的觀點(diǎn)值得我們警醒:“人工智能的成功有可能是人類文明史上最大的事件。但是人工智能也有可能是人類文明史的終結(jié),除非我們學(xué)會如何避免危險(xiǎn)?!盵11]法律體系的避險(xiǎn)辦法是:人是萬物的尺度,人類公平正義的最后一道防線必須由人做主,盡管人類法官可能會誤判,可能會徇私,可能有冤假錯案,在一個健康的法律體系中,這些畢竟還屬于可以更正的問題,屬于社會法治和人類文明不斷進(jìn)步的著力點(diǎn)。將這些問題交由非我族類、其心或異的“機(jī)器人法官”,實(shí)在是一件禍福難料的事,至少目前還不能排除“開門揖盜、引狼入室”的可能。

    猜你喜歡
    審判法官司法
    制定法解釋中的司法自由裁量權(quán)
    法律方法(2021年4期)2021-03-16 05:34:28
    法官如此裁判
    法官如此裁判
    司法所悉心調(diào)解 墊付款有了著落
    非正式司法的悖謬
    做“德法兼修”的好法官
    紅土地(2018年8期)2018-09-26 03:19:06
    七十年前那場文明的審判
    當(dāng)法官當(dāng)不忘初心
    紅土地(2016年10期)2016-02-02 02:45:32
    消失中的審判
    政法論叢(2015年5期)2015-12-04 08:46:28
    論司法公開的困惑與消解
    尾随美女入室| 国产成年人精品一区二区| 少妇的逼好多水| 国国产精品蜜臀av免费| 婷婷六月久久综合丁香| 又粗又爽又猛毛片免费看| 一个人看视频在线观看www免费| 婷婷亚洲欧美| 免费无遮挡裸体视频| 亚洲自偷自拍三级| 十八禁网站免费在线| 91久久精品国产一区二区成人| a级毛色黄片| 亚洲欧美日韩高清在线视频| 国产精品一区二区性色av| 日韩精品有码人妻一区| 日韩av在线大香蕉| 亚洲av不卡在线观看| 看黄色毛片网站| 99久久久亚洲精品蜜臀av| 亚洲av.av天堂| 夜夜爽天天搞| 国产精品一二三区在线看| 高清毛片免费看| 国内精品宾馆在线| 人妻少妇偷人精品九色| 午夜激情福利司机影院| 久久久久性生活片| 欧美高清性xxxxhd video| 极品教师在线视频| 亚洲久久久久久中文字幕| 一本精品99久久精品77| 久久精品91蜜桃| avwww免费| 自拍偷自拍亚洲精品老妇| 国产一区二区三区av在线 | 亚洲无线观看免费| 99视频精品全部免费 在线| 少妇被粗大猛烈的视频| 亚洲七黄色美女视频| 免费看av在线观看网站| 精品福利观看| 97超视频在线观看视频| 亚洲国产色片| 日韩在线高清观看一区二区三区| 神马国产精品三级电影在线观看| 日韩精品有码人妻一区| 中文字幕av成人在线电影| 天天躁夜夜躁狠狠久久av| 少妇人妻一区二区三区视频| 国产高清有码在线观看视频| 久久精品国产亚洲av天美| 婷婷亚洲欧美| 午夜a级毛片| 91在线精品国自产拍蜜月| 极品教师在线视频| 插逼视频在线观看| 精品久久久久久久久av| 精品欧美国产一区二区三| 亚洲在线观看片| 免费观看在线日韩| 亚洲国产欧美人成| 欧美3d第一页| 亚洲经典国产精华液单| 日韩欧美三级三区| 国产成人aa在线观看| 青春草视频在线免费观看| 三级国产精品欧美在线观看| 亚洲无线在线观看| 精品无人区乱码1区二区| 中文字幕av在线有码专区| 男人舔奶头视频| 淫秽高清视频在线观看| 精品无人区乱码1区二区| 成人美女网站在线观看视频| 可以在线观看毛片的网站| 国产在线精品亚洲第一网站| 日日摸夜夜添夜夜添av毛片| 搞女人的毛片| 啦啦啦韩国在线观看视频| 国产精品人妻久久久久久| 国产黄片美女视频| 亚洲精品色激情综合| 午夜老司机福利剧场| 男女那种视频在线观看| 两个人的视频大全免费| 一级毛片久久久久久久久女| 日本三级黄在线观看| 波野结衣二区三区在线| 亚洲av免费在线观看| 国产亚洲精品久久久com| 精品久久久久久久久久免费视频| 嫩草影视91久久| 噜噜噜噜噜久久久久久91| aaaaa片日本免费| 国产伦在线观看视频一区| 国产精品无大码| 一个人免费在线观看电影| 中出人妻视频一区二区| 日韩精品中文字幕看吧| 精品一区二区免费观看| 国产成人aa在线观看| 日韩成人伦理影院| 草草在线视频免费看| 中国美女看黄片| 国产aⅴ精品一区二区三区波| 熟女电影av网| 淫秽高清视频在线观看| 亚洲精品乱码久久久v下载方式| 亚洲国产精品合色在线| 91久久精品电影网| 午夜影院日韩av| 久久婷婷人人爽人人干人人爱| 欧美性猛交黑人性爽| 免费看美女性在线毛片视频| 国产精品久久久久久av不卡| 熟女人妻精品中文字幕| 亚洲欧美精品综合久久99| 欧美不卡视频在线免费观看| 欧美精品国产亚洲| 成人鲁丝片一二三区免费| 亚洲国产精品合色在线| 久久久久久久久大av| 日本欧美国产在线视频| 国产成人一区二区在线| 五月伊人婷婷丁香| 国产欧美日韩一区二区精品| 内射极品少妇av片p| 少妇丰满av| 最近手机中文字幕大全| 在线播放无遮挡| 黄片wwwwww| 午夜福利在线观看吧| 十八禁国产超污无遮挡网站| 成人无遮挡网站| 久久久久久久亚洲中文字幕| 成人毛片a级毛片在线播放| 听说在线观看完整版免费高清| 女人被狂操c到高潮| 国产精品国产高清国产av| 婷婷六月久久综合丁香| 一级黄片播放器| 国产成人一区二区在线| 免费av毛片视频| 久久久色成人| 午夜精品一区二区三区免费看| 亚洲专区国产一区二区| 欧美一区二区精品小视频在线| 搡老岳熟女国产| 国产伦精品一区二区三区视频9| 中文字幕熟女人妻在线| 毛片女人毛片| 色av中文字幕| 18+在线观看网站| 熟女电影av网| 亚洲精品国产成人久久av| 欧美成人免费av一区二区三区| 亚洲人成网站在线播放欧美日韩| 久久久精品欧美日韩精品| 女人被狂操c到高潮| 人人妻人人澡人人爽人人夜夜 | 国产精品一二三区在线看| 三级经典国产精品| 日韩强制内射视频| 久久久久精品国产欧美久久久| 日韩欧美 国产精品| av在线天堂中文字幕| 老司机福利观看| 欧美日韩综合久久久久久| 亚洲精品色激情综合| 在线看三级毛片| 精品福利观看| 乱人视频在线观看| 国产精品永久免费网站| 亚洲精品日韩在线中文字幕 | 特大巨黑吊av在线直播| 一个人看的www免费观看视频| 日韩中字成人| 国产精品爽爽va在线观看网站| 国产一区二区亚洲精品在线观看| 午夜福利在线观看吧| 国产色爽女视频免费观看| ponron亚洲| 欧美日韩乱码在线| 人妻丰满熟妇av一区二区三区| 欧美日本亚洲视频在线播放| 一本一本综合久久| 欧美不卡视频在线免费观看| 国产一区二区亚洲精品在线观看| 精品人妻一区二区三区麻豆 | 性色avwww在线观看| 久久久欧美国产精品| 一a级毛片在线观看| 免费观看的影片在线观看| 免费av观看视频| 国内揄拍国产精品人妻在线| 国产视频内射| 亚洲一区二区三区色噜噜| 俄罗斯特黄特色一大片| 国产在视频线在精品| 男女啪啪激烈高潮av片| 99久久精品国产国产毛片| 欧美日韩国产亚洲二区| 亚洲国产欧洲综合997久久,| 亚洲国产精品久久男人天堂| 在线观看av片永久免费下载| 一区二区三区免费毛片| 免费看光身美女| av免费在线看不卡| 国产成人影院久久av| 国产亚洲欧美98| 国产精品电影一区二区三区| 欧美日韩综合久久久久久| 在线免费观看的www视频| aaaaa片日本免费| 国产亚洲精品久久久久久毛片| 最近视频中文字幕2019在线8| 欧美高清性xxxxhd video| 又粗又爽又猛毛片免费看| 久久天躁狠狠躁夜夜2o2o| a级一级毛片免费在线观看| 久久精品夜夜夜夜夜久久蜜豆| 国产黄色视频一区二区在线观看 | 午夜免费男女啪啪视频观看 | 少妇的逼水好多| 男女做爰动态图高潮gif福利片| 国产真实乱freesex| 国产精品99久久久久久久久| 男女边吃奶边做爰视频| 国产aⅴ精品一区二区三区波| 自拍偷自拍亚洲精品老妇| 毛片女人毛片| 成人亚洲欧美一区二区av| 国产精品精品国产色婷婷| 亚洲天堂国产精品一区在线| 久久精品久久久久久噜噜老黄 | 免费观看的影片在线观看| 欧美人与善性xxx| 亚洲精品色激情综合| 99久国产av精品| 国产女主播在线喷水免费视频网站 | 中文字幕精品亚洲无线码一区| 亚洲经典国产精华液单| 两个人视频免费观看高清| 青春草视频在线免费观看| 又粗又爽又猛毛片免费看| 天堂动漫精品| 亚洲av熟女| 欧美成人精品欧美一级黄| 看黄色毛片网站| 悠悠久久av| 欧美精品国产亚洲| 日韩高清综合在线| 啦啦啦观看免费观看视频高清| 男人舔女人下体高潮全视频| 99热这里只有是精品在线观看| 永久网站在线| 俺也久久电影网| 欧美日韩国产亚洲二区| 有码 亚洲区| 精品久久久久久久久久久久久| 国产精品久久久久久亚洲av鲁大| 好男人在线观看高清免费视频| 成人永久免费在线观看视频| 久久精品综合一区二区三区| 久久人妻av系列| 日韩欧美精品v在线| 亚洲欧美日韩高清专用| 欧美区成人在线视频| 我要看日韩黄色一级片| 国产av麻豆久久久久久久| 久久精品国产清高在天天线| 免费看av在线观看网站| 婷婷精品国产亚洲av在线| 国产精华一区二区三区| 亚洲精品久久国产高清桃花| 三级经典国产精品| 欧美zozozo另类| 在线播放无遮挡| АⅤ资源中文在线天堂| 久久久a久久爽久久v久久| 少妇丰满av| 少妇熟女欧美另类| 91久久精品电影网| 麻豆成人午夜福利视频| 国产精品1区2区在线观看.| 综合色丁香网| 中国美白少妇内射xxxbb| 国产高清视频在线观看网站| 国产高清三级在线| av免费在线看不卡| 欧美国产日韩亚洲一区| 97碰自拍视频| 欧美在线一区亚洲| 亚洲图色成人| 波野结衣二区三区在线| 久久久久久久久久黄片| 亚洲欧美日韩高清专用| 成人精品一区二区免费| 五月玫瑰六月丁香| 久久精品国产鲁丝片午夜精品| 午夜福利18| 少妇人妻精品综合一区二区 | 日韩av在线大香蕉| 搞女人的毛片| 精品免费久久久久久久清纯| 搡老熟女国产l中国老女人| 亚洲熟妇熟女久久| 十八禁国产超污无遮挡网站| 亚洲一级一片aⅴ在线观看| 欧美另类亚洲清纯唯美| 一a级毛片在线观看| 干丝袜人妻中文字幕| 神马国产精品三级电影在线观看| 国产中年淑女户外野战色| 国产高潮美女av| 99久久精品国产国产毛片| 变态另类成人亚洲欧美熟女| 午夜福利在线观看吧| 在线国产一区二区在线| 亚洲美女黄片视频| 两个人视频免费观看高清| 日韩大尺度精品在线看网址| 国产午夜福利久久久久久| 日本精品一区二区三区蜜桃| 男人和女人高潮做爰伦理| 尤物成人国产欧美一区二区三区| 三级经典国产精品| 国产男人的电影天堂91| 久久人人爽人人片av| 日本成人三级电影网站| 国模一区二区三区四区视频| 日本成人三级电影网站| 俺也久久电影网| 变态另类成人亚洲欧美熟女| 午夜老司机福利剧场| 波野结衣二区三区在线| 在线观看午夜福利视频| 欧美日韩综合久久久久久| 国产精品久久久久久av不卡| 三级男女做爰猛烈吃奶摸视频| 欧美激情在线99| 欧美人与善性xxx| 俄罗斯特黄特色一大片| 特级一级黄色大片| 亚洲欧美日韩卡通动漫| 国产毛片a区久久久久| 一个人免费在线观看电影| 亚洲性久久影院| 欧美性感艳星| 国产成人一区二区在线| 91在线精品国自产拍蜜月| 熟妇人妻久久中文字幕3abv| 一区二区三区四区激情视频 | 97人妻精品一区二区三区麻豆| 久久99热6这里只有精品| 日日啪夜夜撸| 亚洲成a人片在线一区二区| 亚洲激情五月婷婷啪啪| 久久人人爽人人片av| 此物有八面人人有两片| 久久久久性生活片| 精品人妻视频免费看| 成人鲁丝片一二三区免费| 午夜影院日韩av| 国产69精品久久久久777片| 久久精品91蜜桃| 男女之事视频高清在线观看| 国产在视频线在精品| 我的老师免费观看完整版| 床上黄色一级片| 国产精品久久久久久久久免| 最新中文字幕久久久久| 尤物成人国产欧美一区二区三区| 亚洲av美国av| 中文字幕久久专区| 国产一区二区激情短视频| 99久久精品一区二区三区| 少妇的逼好多水| 99久久精品一区二区三区| 97在线视频观看| 国产在线男女| 超碰av人人做人人爽久久| 国产精品99久久久久久久久| 亚洲aⅴ乱码一区二区在线播放| 大香蕉久久网| 男女视频在线观看网站免费| 看十八女毛片水多多多| 一本久久中文字幕| 寂寞人妻少妇视频99o| 99在线视频只有这里精品首页| 亚洲一区二区三区色噜噜| 亚洲国产色片| 国产av在哪里看| 亚洲一区高清亚洲精品| avwww免费| 直男gayav资源| 成人国产麻豆网| 非洲黑人性xxxx精品又粗又长| 日本熟妇午夜| 99热网站在线观看| 午夜精品在线福利| 欧美不卡视频在线免费观看| 最近中文字幕高清免费大全6| 久久久久国产网址| 午夜老司机福利剧场| 亚洲欧美精品自产自拍| 三级毛片av免费| 欧美日本亚洲视频在线播放| 中文字幕免费在线视频6| 九九久久精品国产亚洲av麻豆| 国内久久婷婷六月综合欲色啪| 国产精品免费一区二区三区在线| 99精品在免费线老司机午夜| 99九九线精品视频在线观看视频| 色综合色国产| 俺也久久电影网| 人妻夜夜爽99麻豆av| 国产麻豆成人av免费视频| av在线观看视频网站免费| 亚洲一区高清亚洲精品| 国产精品av视频在线免费观看| 中文在线观看免费www的网站| 在线免费观看的www视频| 99热精品在线国产| 免费大片18禁| 少妇高潮的动态图| 久久久久国内视频| 精品福利观看| 男女之事视频高清在线观看| 老女人水多毛片| 久久婷婷人人爽人人干人人爱| 性欧美人与动物交配| 成人特级黄色片久久久久久久| 日韩欧美免费精品| 国产精品乱码一区二三区的特点| 毛片一级片免费看久久久久| 日本黄大片高清| 亚洲人与动物交配视频| 亚洲成人中文字幕在线播放| 老师上课跳d突然被开到最大视频| 十八禁网站免费在线| 日韩欧美在线乱码| 日日干狠狠操夜夜爽| 在线a可以看的网站| 日韩亚洲欧美综合| 国产av在哪里看| 午夜福利成人在线免费观看| 91麻豆精品激情在线观看国产| 久久久精品大字幕| 露出奶头的视频| 少妇熟女aⅴ在线视频| 一边摸一边抽搐一进一小说| 国内少妇人妻偷人精品xxx网站| 麻豆av噜噜一区二区三区| 男女下面进入的视频免费午夜| 老女人水多毛片| 91久久精品国产一区二区成人| 不卡视频在线观看欧美| 18禁在线无遮挡免费观看视频 | 少妇人妻精品综合一区二区 | 日韩欧美一区二区三区在线观看| 色av中文字幕| 欧美日本亚洲视频在线播放| 国产亚洲精品久久久com| 黄色日韩在线| 日日干狠狠操夜夜爽| 尾随美女入室| 亚洲熟妇中文字幕五十中出| 久久久久精品国产欧美久久久| 男人舔女人下体高潮全视频| 亚洲在线自拍视频| 偷拍熟女少妇极品色| 国产精品1区2区在线观看.| 亚洲欧美日韩高清专用| 国产精品无大码| 99久久成人亚洲精品观看| 变态另类丝袜制服| 国产探花极品一区二区| 亚洲精品国产av成人精品 | 人妻久久中文字幕网| 日日撸夜夜添| 日韩欧美在线乱码| 亚洲精品影视一区二区三区av| 国产一级毛片七仙女欲春2| 午夜激情福利司机影院| 亚洲美女视频黄频| 日日摸夜夜添夜夜添小说| 最近中文字幕高清免费大全6| 波野结衣二区三区在线| 亚洲人与动物交配视频| 一区福利在线观看| 人妻丰满熟妇av一区二区三区| 欧美性感艳星| 全区人妻精品视频| 夜夜夜夜夜久久久久| 丰满的人妻完整版| 久久久欧美国产精品| 99久久无色码亚洲精品果冻| 久久久久久九九精品二区国产| 中出人妻视频一区二区| 波多野结衣高清作品| 欧美+日韩+精品| 俺也久久电影网| 日日啪夜夜撸| av黄色大香蕉| 乱人视频在线观看| 亚洲人成网站在线播放欧美日韩| 久久久久性生活片| 亚洲av.av天堂| 欧美高清成人免费视频www| 天天躁日日操中文字幕| 日韩一本色道免费dvd| 女的被弄到高潮叫床怎么办| 国产一区亚洲一区在线观看| 国产免费男女视频| 一本一本综合久久| 精华霜和精华液先用哪个| 久久久a久久爽久久v久久| 99九九线精品视频在线观看视频| 在线观看免费视频日本深夜| 亚洲国产精品成人久久小说 | 一区二区三区高清视频在线| 中国美女看黄片| 亚洲精品一卡2卡三卡4卡5卡| 亚洲欧美日韩卡通动漫| 久久久久国产网址| av视频在线观看入口| 亚洲国产精品合色在线| 日韩av在线大香蕉| 黄色日韩在线| 亚洲va在线va天堂va国产| 日本-黄色视频高清免费观看| 亚洲av免费高清在线观看| 亚洲成人精品中文字幕电影| 日本一本二区三区精品| 天美传媒精品一区二区| av在线蜜桃| 老司机福利观看| 床上黄色一级片| 成年版毛片免费区| 可以在线观看的亚洲视频| 少妇被粗大猛烈的视频| 国产伦精品一区二区三区四那| 一个人观看的视频www高清免费观看| 国内少妇人妻偷人精品xxx网站| 精品99又大又爽又粗少妇毛片| 女生性感内裤真人,穿戴方法视频| 老熟妇乱子伦视频在线观看| 久99久视频精品免费| 久久亚洲精品不卡| 午夜日韩欧美国产| 性色avwww在线观看| 亚洲美女黄片视频| 国内精品久久久久精免费| av视频在线观看入口| 22中文网久久字幕| 99久久成人亚洲精品观看| 欧美性猛交╳xxx乱大交人| 久久精品91蜜桃| 蜜桃亚洲精品一区二区三区| 床上黄色一级片| 国语自产精品视频在线第100页| 午夜爱爱视频在线播放| 精品一区二区免费观看| av在线亚洲专区| 国产亚洲av嫩草精品影院| 18禁黄网站禁片免费观看直播| 黄色欧美视频在线观看| 深爱激情五月婷婷| 国产精品国产高清国产av| 一边摸一边抽搐一进一小说| 中文亚洲av片在线观看爽| 国产亚洲精品久久久com| 国产午夜福利久久久久久| 午夜爱爱视频在线播放| 自拍偷自拍亚洲精品老妇| 国产久久久一区二区三区| 国产一区二区三区在线臀色熟女| 成人特级黄色片久久久久久久| 成年女人毛片免费观看观看9| 麻豆国产97在线/欧美| 网址你懂的国产日韩在线| 非洲黑人性xxxx精品又粗又长| 亚洲一级一片aⅴ在线观看| 亚洲欧美日韩东京热| 国产美女午夜福利| av免费在线看不卡| 亚洲国产精品合色在线| 中文字幕精品亚洲无线码一区| 美女黄网站色视频| 国内精品一区二区在线观看| 少妇人妻精品综合一区二区 | 久久久精品94久久精品| 女同久久另类99精品国产91| 男人狂女人下面高潮的视频| 男女边吃奶边做爰视频| 国产亚洲精品久久久久久毛片| 老司机午夜福利在线观看视频| 国产精品日韩av在线免费观看| 插逼视频在线观看| 特大巨黑吊av在线直播| 91久久精品国产一区二区三区| 99视频精品全部免费 在线| 如何舔出高潮| 狂野欧美激情性xxxx在线观看| 国产一级毛片七仙女欲春2| 一卡2卡三卡四卡精品乱码亚洲| 舔av片在线| 成人av一区二区三区在线看| av黄色大香蕉| 一区二区三区四区激情视频 | 偷拍熟女少妇极品色| 一区二区三区高清视频在线| 天堂影院成人在线观看|