• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    法律算法化的可能與限度

    2022-03-23 12:18:17蔣超
    現(xiàn)代法學 2022年2期
    關鍵詞:人工智能科學

    蔣超

    摘 要:? 法律與算法在技術性表征上具有類似性,即產(chǎn)生機制的類似性、功能效用的類似性、表達方式的類似性,這些類似性為法律借鑒算法創(chuàng)造了可能性。法律與算法在價值性內(nèi)核上具有異質性,即運行邏輯的異質性、有效性來源的異質性、認知方式的異質性,這些異質性提示了法律與算法之間的距離。關于類似性與異質性的分析為法律的算法化限度提供了一個總原則,即法律在技術性的層面可以借鑒算法的模式與成果,但在價值性內(nèi)核上應與算法保持距離。這個總原則可以分解為三個限度,即科學主義限度、建構主義限度、工具主義限度。科學主義限度要求法律在借鑒科學技術的同時,警惕科學求真邏輯對法律正義命題的侵蝕;建構主義限度強調(diào)法律借鑒算法建構思維的同時,防止純粹建構理性對法治的誤導;工具主義限度則提示將法律視為達致特定目標工具的同時,要時刻關注法律的價值屬性,尤其重視法律人及其反思在控制算法思維泛濫中的重要作用。

    關鍵詞: 人工智能;算法正義;智慧司法;科學

    ?中圖分類號:DF03? 文獻標志碼:A

    DOI:10-3969/j.issn-1001-2397-2022-02-02 ?開放科學(資源服務)標識碼(OSID):

    一、問題的提出

    近些年來,人工智能的研究熱潮高漲,幾乎各個學科都探討了各自領域在人工智能時代的可能進路,法學自然也不例外。縱觀國內(nèi)法學界對人工智能的研究成果,主流的研究思路可分為兩類:一是,法學知識對人工智能時代的新應對。例如,無人駕駛汽車事故責任的認定問題,其實就是民法學知識對于人工智能帶來的新情況的應對; ?① 再如人工智能時代所帶來的更加嚴峻的個人信息安全保護及其法律應對問題,亦可歸入此類 ?參見席月明:《數(shù)據(jù)安全:數(shù)據(jù)信托目的及其實現(xiàn)機制》,載《法學雜志》2021年第9期,第29-41頁;陳羅蘭:《虛擬財產(chǎn)的刑法意義》,載《法學》2021年第11期,第86-98頁;管洪博:《數(shù)字經(jīng)濟下個人信息共享制度的構建》,載《法學論壇》2021年第6期,第106-11頁。? 。二是,人工智能所帶來的相關技術如何應用于法律實踐的問題。最具代表性的研究主題是智慧司法,人工智能是否能夠應用于法庭審判,如何應用于法庭審判成為該領域慣常的研究思路 參見馬長山:《司法人工智能的重塑效應及其限度》,載《法學研究》2020年第4期,第23-40頁;魏斌:《智慧司法的法理反思與應對》,載《政治與法律》2021年第8期,第111-125頁;陳靈峰:《司法人工智能的技術效應與應用邊界》,載《求索》2021年第6期,第182-190頁。 。前者著眼于法學內(nèi)部知識的更新,后者則更偏重法學外部的技術支持。但不論是前者還是后者都忽略了一個極其重要的前置性問題,即法學與算法的界限在哪里?法學在多大程度上可以被算法化,而又有哪些領域是絕不能允許被算法介入?厘清這些問題之后,才能夠使得法學在有效利用技術的同時,不至于被技術裹挾,實現(xiàn)自身知識的增長。

    在人工智能研究的熱潮褪去后,也有一些學者開始將目光聚焦在算法與法律的關系上,開始關注所謂“算法正義”問題。如有學者提出從技術與社會價值兩個層面提出了“算法不是法律”的命題,并提煉出計算正義的內(nèi)涵,將算法的應用納入計算正義的轄制范疇 參見鄭玉雙:《計算正義:算法與法律之關系的法理建構》,載《政治與法律》2021年第11期,第91-104頁。 ;有學者結合算法與法律認知效率的共性、方法論自覺的差異性,提出了從算法看待法律的嘗試 參見蔣舸:《作為算法的法律》,載《清華法學》2019年第1期,第64-75頁。 ;還有學者則試圖從法理層面建構規(guī)制算法行為的立法倫理 參見金夢:《立法倫理與算法正義——算法主體法律行為的規(guī)制》,載《政法論壇》2021年第1期,第29-40頁;鄭智航:《人工智能算法的倫理危機與法律規(guī)制》,載《法制與社會發(fā)展》2021年第1期,第14-26頁。 等等。這一研究開始試圖規(guī)范法律與算法的關系,以建立一套法律規(guī)制算法的指導理念,無疑是主流人工智能研究的進階。但目前的研究依然局限于為算法的應用設置界限,即將算法應用置于“算法正義”的框架之下,這就可能忽視了人工智能時代帶來的另一風險:法律算法化的問題。隨著人工智能技術大量應用到司法層面,以算法的思維看待法律成為有意無意的選擇,算法也確實在不少層面與法律具有類似性,但算法所代表的“計算正義”與“法律正義”存在本質不同,無度的允許算法思維在司法中蔓延最終將侵害法治最核心的追求。本文就重在探討這一問題,系統(tǒng)地研究法律與算法的類似性與異質性,推導出法律算法化限度的確切內(nèi)涵,為法律防范算法思維的過度介入提供指引。

    二、法律與算法技術性表征的類似性

    當代學界出現(xiàn)了從算法的視角去觀察法律,并試圖在法學領域借鑒算法思維的嘗試,這并不令人驚訝,因為法律與算法確實在表層結構上具有著類似性?!胺切问降卣f,算法(algorithm)就是任何良定義地計算過程,該過程取某個值或值的集合作為輸出。這樣算法就是把輸入轉化成計算步驟的一個序列” [美]托馬斯·科爾曼:《算法導論(第三版)》,殷建平等譯,機械工業(yè)出版社2013年版,第5頁。 ,換句話說算法也可以被描述成一項技術,作為特定的計算過程來實現(xiàn)輸入/輸出關系。而法律也具有著明顯的技術屬性,其作為規(guī)范有效指引著人的行動,這也構成一對輸入/輸出關系,即輸入人的特定行為,輸出是非的判斷與裁決。而法律則構成了這一關系的“計算過程”。從這一層次上法律與算法的確具有類似性,也為算法介入法律生活提供了可能性,筆者稱之為技術性表征的類似性。這種類似性,主要表現(xiàn)為三個方面:產(chǎn)生機制的類似性;功能效用的類似性;表現(xiàn)形式的類似性。

    (一)產(chǎn)生機制的類似性

    追溯法律的發(fā)展史,盡管早在古希臘時期就有不少哲學家對法律問題有所涉獵,但大多只是在其哲學或政治學著作中有所提及而已,遠遠沒有形成獨立的法學學科,更談不上職業(yè)的法律家階層。這種獨立性的趨勢發(fā)生在古羅馬時代,這個時期產(chǎn)生了聲名卓著的羅馬法,也出現(xiàn)了許多以法律為事業(yè)的世俗法學家,“他們從事的是全然世俗而實踐性的任務:解釋法律規(guī)則、制定法律交易的準則,擔任官員、訴訟當事人和法官的顧問……他們關注的是他人向他們尋求法律咨詢的具體個案,并給出不加修飾的、沒有哲學藻飾的簡潔意見” [愛爾蘭]約翰·莫里斯·凱莉:《西方法律思想簡史》,王笑紅譯,法律出版社2010年版,第43-44頁。 。這種剝離哲學的純粹法學研究,使得法律開始具備不同于其他學科的個性。但這并不意味,作為法律先驅的羅馬法沒有受到古希臘哲學的影響,恰恰相反,古希臘哲學為羅馬法的理性化提供了工具,有學者稱之為辯證法。即“通過分類和二次分類把質料分為屬和種,從而納入有序的體系種,最終確立區(qū)別和相似或親和性” [愛爾蘭]約翰·莫里斯·凱莉:《西方法律思想簡史》,王笑紅譯,法律出版社2010年版,第44頁。 。舒爾茨則更為精準的描述了這一方法是如何被法學家運用,乃至最終建構龐大的羅馬法體系的:“(辯證法在)發(fā)現(xiàn)主導分類和解釋個案的原則上居于重要地位……(這一研究,尤其是語法的研究給法學家)提供了怎樣將繁多而疑難的質料化約到一個體系種的模型……辯證法不僅發(fā)揮了將個別現(xiàn)象歸入其所屬種類的功能;對法學家來說,它還是一種發(fā)現(xiàn)工具,幫助法學家解釋尚未實際發(fā)生的問題。” F.Schulz,History of Roman Legal Science,Oxford,1946,P.62-63,68. 由此可見,羅馬法的實際產(chǎn)生于對社會生活中繁雜質料的類型化,這一點與算法的產(chǎn)生機制具有極高的類似性,“現(xiàn)代法律總體而言以理性主義為基礎,而算法同樣是理性主義的結晶。理性主義不滿足于零散的經(jīng)驗,而要對其進行修剪與排列,制成結構化的知識,以便將混沌的現(xiàn)實分揀到整齊的認知框架里面” 蔣舸:《作為算法的法律》,載《清華法學》2019年第1期,第67頁。 。

    盡管法學一直被認為研究正義與非正義的學科,但法律產(chǎn)生之初卻并不必然與這些價值問題相關聯(lián),在許多層面,它僅僅是對人類生活經(jīng)驗的抽象化與規(guī)則化。從這個意義上說,法學與統(tǒng)計學緊密相關,著名統(tǒng)計學家約翰·格勞特曾經(jīng)總結過一條統(tǒng)計學原理,即“通過大量充分的統(tǒng)計數(shù)字可以看出 ,各種現(xiàn)象(其中單個現(xiàn)象是偶然的 )在整體上受著某種嚴格的規(guī)律性的支配” [俄]阿尼金:《改變歷史的經(jīng)濟學家》,妟智杰譯, 華夏出版社 2007年版, 第51頁。 。而起源于習俗的法律實際也是對大多數(shù)人共同認可的行為方式的規(guī)則化。比如交通規(guī)則往往有右行或左行的規(guī)定,這就完全無法用自然法意義上的道德論來解釋,而僅僅是法律對約定俗成做法的認可?!胺勺钤鐏碜粤曀?。習俗與習慣緊密聯(lián)系 ,當一個習慣被一個部落或一個社區(qū)大多數(shù)人所遵從后就形成為大數(shù)法則,并極易被一代代沿襲下來,從而對叛逆者的個體構成極強的約束力。并且人數(shù)越多,其約束力也就越強。這種約束原本是心理上的,后來才演變?yōu)槲锢砩系?,并最終上升為法律?!?周安平:《許霆案的民意:按照大數(shù)法則的分析》,載《中外法學》2009年第1期,第87頁。 現(xiàn)代法律中的很多程序性機制也在將這種大數(shù)法則作為考量因素,如西方的陪審團制度,陪審團的成員一般來自于社會各界的普通公眾,這一制度的理論基礎是陪審團和被告的人格同構性,而這種人格同構性實際也是來自于陪審團成員與被告社會生活經(jīng)驗與基本認同的類似性,一定程度上縮短了法官由于高度的專業(yè)化形象而與當事人所產(chǎn)生的距離,避免了某些情形下法律的專斷。遵循大數(shù)法則的法律,在相當程度上與算法具有類似性。算法實際也是對群體偏好的強化,這種的算法為使用者掌握時代潮流,把握新信息提供了便利,比如網(wǎng)購平臺往往會通過大數(shù)據(jù)推介被更多人購買的商品來促進消費。 參見[瑞典]大衛(wèi)·薩普特:《被算法操控的生活——重新定義精準廣告、大數(shù)據(jù)和AI》,易文波譯,湖南科學技術出版社2020年版,第99-116頁。

    (二)功能效用的類似性

    算法被定義為“一種有限、確定、有效的并適合用計算機程序來實現(xiàn)的解決問題的方法” [美]塞奇威克、韋恩: 《算法》,謝路云譯,人民郵電出版社 2012 年版,第 1 頁。 ,“是為實現(xiàn)某個任務而構造的簡單指令集,在日常生活中有時也被稱為過程或處方” [美]邁克爾·西普塞: 《計算理論導引》,段磊、唐常杰等譯,機械工業(yè)出版社 2015 年版,第 114 頁。 。算法的有限性、確定性和有效性,其實都是在為算法的終極目標服務,即簡化人類生活,提高認知效率。而法律也同樣在這些層面作出了努力,試圖規(guī)范人類行為,高效解決糾紛。在有限性層面上,法律對于審級制度的規(guī)定,就是效率的體現(xiàn)。糾紛解決的進程不能無休無止,必須在一個恰當?shù)臅r間內(nèi)畫上終止符。在確定性層面,法律強調(diào)概念的確定性與體系的一致性,盡量避免模糊性的表達。在有效性層面,算法強調(diào)達致結果的方式應當能夠被分解為恰當?shù)?、可被?zhí)行的步驟,這點與法律裁判與執(zhí)行過程具有一致性。 參見蔣舸:《作為算法的法律》,載《清華法學》2019年第1期,第67頁。 可見,法律與算法一樣,其功能效用都是簡化人類生活,提高認知效率。

    實現(xiàn)高效的策略上,算法與法律也存在類似性。第一,量化標準,降低認知成本。如果要窮盡所有認知要素,才開始行動,那么唯一的結果就是永遠無法行動。因此,所有的社會行動都僅能在考量重要的要素即開始行動,算法對于任務的實現(xiàn),也往往不能窮盡影響要素。比如網(wǎng)購平臺的推介算法,大都也只是從你的瀏覽記錄和其他人的相似瀏覽傾向這兩個要素,來預測你的需求。法律上也存在類似的做法,比如關于合同無效的情形,我國《民法典》就通過列舉的方式羅列了五種常見的類型,這當然不能窮盡所有要素,所以一般均有兜底條款作為補充。但是列舉這種量化式的方式,確實大大降低了人的認知成本。再如民法當中著名的物權法定原則,其實際上將法律確認作為物權確定性的唯一要素,這就在很大程度上降低了信息成本,提高了社會行動的效率。第二,程序性轉化。簡單來說,算法其實就是達致特定任務的過程,它并不過度評估結果,而僅僅關注過程,并默認算法達致結果的可接受性。這與現(xiàn)代法律更加關注程序正義的品格相一致,這種進路“不會直接得出結果,也不檢驗這些結果的道德充分性的特點。反而,它會設計出一種程序,以公平和公正的關鍵特征為模型,依賴這些程序產(chǎn)生一種充分正義的結果” [美]瑪莎·C·納斯鮑姆:《正義的前沿》,陳文娟等譯,中國人民大學出版社2016年版,第57頁。 。這種關注程序正義,弱化結果考量的做法最大程度地提升了解決問題的效率,因為由于利益的多元沖突,人們往往難以在結果上達成共識,卻可以在實現(xiàn)結果的程序上達成一致。第三,簡化道德性判斷。算法往往是不涉及道德要素的,它僅僅作為一種工具存在,它往往將復雜的道德難題轉化為統(tǒng)計學意義上的計算問題。法律雖然不能完全不考慮道德的要素,但其在回應道德問題之時,也總是試圖賦予其確定性,避免陷入“公說公有理,婆說婆有理”的相對主義陷阱。早在18世紀,功利主義學派在闡釋法律時,就曾經(jīng)做過這樣的嘗試:“功利原理是指這樣的原理: 它按照看來勢必增大或減小利益有關者之幸福的傾向,亦即促進或妨礙此種幸福的傾向,來贊成或非難任何一項行動。” [英]邊沁: 《道德與立法原理導論》,時殷弘譯,商務印書館 2012 年版,第 59 頁。 這就將行動的正當性建立在幸福和苦難的計算上,現(xiàn)代法律經(jīng)濟學研究者也不斷的嘗試以經(jīng)濟學的計算規(guī)則來確定法律權利與義務的分配。這都是法律簡化道德判斷,提高認知效率的嘗試。

    (三)表達方式的類似性

    算法的表達方式是典型的數(shù)學式,它摒棄了情感的介入,是以純粹理性的算式演繹完成既定目標的過程。從某種程度上而言,法律處理問題的方式實際也可被稱為是數(shù)學式的,盡管有不少學者認為法律由于關涉正義等關鍵的道德問題,而難以被量化,甚或應盡量避免被量化, 參見張世民:《法律與數(shù)學的淵源關系》,載《中華讀書報》2015年9月2日,第13版;錢福臣:《法學研究中盧梭式數(shù)學定律法及其評價》,載《蘇州大學學報》2011年第4期,第77-82頁。 但由于資源的稀缺性,法律不可避免地需要借助數(shù)學的思維以高效解決爭端。這尤其表現(xiàn)在比例原則之中,所謂比例原則,即主體追求一個目標,必須使用一種有用的、必要的和適當?shù)姆椒?,其本質就是“以法學概念包裝的成本—效益分析原理” Aurelien Portuese,Principle of Proportionality as Principle of Economic Efficiency,European Law Journal,Vol.19,p.62012013. ,它要求“在給定法律和事實可能性的情況下,盡可能最大限度地實現(xiàn)某些目標” Robert Alexy,A Theory of Constitutional Rights,Oxford University Press,2002,p.295. 。比例原則的適用必然涉及到利益與價值的數(shù)學計算,而這種法律的數(shù)學化表達也確實具有顯而易見的實踐優(yōu)勢。一方面,法學表達數(shù)學化能將價值觀分歧最小化,即將難以處理的價值衡量問題通約為數(shù)據(jù)問題進行處理,比如在資源有限的前提下應當選擇提高鐵路的安全性,還是公路的安全性?單純考量生命價值的問題,就會陷入無法處理的倫理難題當中,如果轉化為數(shù)學問題則要簡單得多,有人經(jīng)過測算,選擇提高鐵路安全性每多拯救一條生命要另花450萬英鎊的邊際成本,相對地,公路方面則僅需花費15萬英鎊。那么在資源有限的情形下,提高公路的安全性成為理所應當?shù)姆蓻Q策。 參見涂少彬:《論法學表達數(shù)學化的可能及限度——基于經(jīng)濟學與比例原則的切入》,載《法學評論》2020年第4期,第37-50頁。 另一方面,法學的數(shù)學表達能夠將法律中較為模糊的表述轉化為較為明晰的算式。如著名的漢德公式(B<PL),其以數(shù)學的方式準確地說明了過失侵權責任如何認定的問題,即只有在潛在致害者預防未來事故的成本小于預期事故可能性乘以預期事故損失,他才承擔過失侵權責任。更直觀地說,法律推理的過程本身就是嚴格的依循著一套邏輯的,這種邏輯不僅是算法所要遵守的,也是法律運行的必要媒介。法律分析實際就是一套從前提到結論的過程,他嚴格遵循這一套符號邏輯。 參見[美]羅伯特·羅德斯、霍華德·波斯伯塞爾:《前提與結論:法律分析的符號邏輯》,杜文靜譯,中國政法大學出版社2015年版。 我國也有學者提出法律與科學一樣都是求真的過程,法律真理的獲得需要經(jīng)由嚴謹?shù)倪壿嬐评磉^程。 參見陳坤:《法律命題與法律真理》,中國政法大學出版社2021年版。 這些都佐證了法律與算法在表達方式都具有數(shù)學性的特質。

    法律表達方式的數(shù)學性不僅體現(xiàn)在法律的推理或實現(xiàn)過程,從更深層次講法律文化也具有濃厚的數(shù)學特質。追溯到古希臘時期,法律文化的開端就深受數(shù)學的影響。數(shù)學的產(chǎn)生以及對數(shù)學的崇拜,強化了對自然理性精神的信仰,而這種理性也成為了法律存在的根基,并為法律的執(zhí)行提供了現(xiàn)實的方法。他們認為:“‘數(shù)’乃萬物之原。在自然能諸原理中第一是‘數(shù)’理,他們撿到許多事務的生成與存在,與其歸之于火,或土或水,毋寧歸之于數(shù)。數(shù)值之變可以變成‘道義’,可以成‘魂魄’,可以成‘理性’,可以成‘機會’——相似的,萬物皆可用數(shù)來說明?!?[古希臘]亞里士多德:《形而上學》,吳壽彭譯,商務印書館1959年版,第12頁。 而這種數(shù)學的思維模式,直接影響了希臘城邦的治理理念,“一旦發(fā)現(xiàn)了正確的計數(shù)標準,就能控制公民的沖突并促進協(xié)調(diào)。因為哪里達到這一點就不會有過分的權益,平等就占據(jù)統(tǒng)治地位。正是這個(正確的計數(shù)標準)給我們帶來了契約,窮人從有財產(chǎn)的人那里得到東西,富人給貧民東西,彼此公平對待,相互信任。作為一種標準和對做壞事人的威懾,它制止住那些在做壞事能計算結果的人,使他們相信當他們企圖反抗它時就不免敗露;而當他們不能(計算這種結果)時,也可以向他們表明他們是因此而做錯了,從而防止他們犯罪?!?洪濤:《邏各斯與空間——古代希臘政治哲學研究》,上海人民出版社1998年版,第171-172頁。 亞里士多德的政治理想就是要建立中產(chǎn)階級治國的城邦模式,這實質是要在富人和窮人之間實現(xiàn)平衡,這種觀點在一定程度上也受到古希臘和諧的數(shù)學觀的影響,二者在深層次上是相通的。到了近代,數(shù)學的系統(tǒng)性與邏輯性在法學領域更受推崇,法典化的推進就是典型例證,這源于人類追求確定性的原始渴望。主導《法國民法典》制定的拿破侖就認為:“將法律化為簡單的幾何公式是完全可能的,因此,任何一個能識字的并能夠將兩個思想聯(lián)結在一起的人,就能作出法律上的裁決。” 轉引自沈宗靈:《現(xiàn)代西方法理學》,北京大學出版社1992年版,第329頁。 現(xiàn)代法學許多公認的基本內(nèi)涵也都與數(shù)學密不可分,比如公理精神、科學性、證明方法、幾何平等、確定性、簡單性、抽象性等,這些都標識著法律文化的數(shù)學屬性。

    參見何柏生:《法律文化的數(shù)學解釋》,商務印書館2015年版,第117-138頁。 而算法文化毫無疑問就根植于數(shù)學,由此可見,法律與算法在表達方式上具有高度的類似性。

    三、法律與算法價值性內(nèi)核的異質性

    法律與算法具有技術性表征的類似性,這為法律借鑒算法的要素提供了可能性。有學者就曾嘗試從算法角度看待法律,并提出了算法的四點可借鑒之處,即重視信息成本、確定合理的類型化程度、有針對性地化解復雜性、正視框架問題。 參見蔣舸:《作為算法的法律》,載《清華法學》2019年第1期,第64-75頁。 但算法的無度介入?yún)s很可能導致法律喪失其特有的屬性,其根源在于法律與算法在價值性內(nèi)核上存在異質性。

    (一)運行邏輯的異質性:應然邏輯VS實然邏輯

    早期的法學研究與道德研究是不加區(qū)分的,古典自然法學的眾多代表人物往往也是哲學名宿,這一時期法學并未取得獨立地位,僅作為哲學或政治學的一個對象來研究。亞里士多德曾有論斷:“法治應包含兩重意義:已成立的法律獲得普遍的服從,而大家所服從的法律又應該本身是制定得良好的法律?!?[古希臘]亞里士多德:《政治學》,吳壽彭譯,商務印書館1965年版,第199頁。 這種良法觀念就是應然邏輯在法律領域的具體體現(xiàn)。中世紀時期盛行的神法,乃至中國古代的天道與儒家精神也都或多或少承擔著應然法的作用。這種應然邏輯的優(yōu)勢是明顯的,它系統(tǒng)性地闡明了法律的正當性問題,為良法提供了模板,很大程度上避免了權力的恣意。英國《大憲章》的制定就一定程度上來源于對法律應然邏輯的認可,而在儒家精神限制下的中國皇權也并非可以為所欲為。拉德布魯赫曾區(qū)分過實然邏輯與應然邏輯,他指出“前者是要說明事物不可避免地將要實現(xiàn),后者則是要盡可能安排事物不要實現(xiàn);前者因為與客觀存在的實際性相一致為必要而發(fā)生作用,后者則并不以與客觀存在的實際性相一致為必要而發(fā)生作用;前者刻畫出客觀現(xiàn)實世界的大體面貌,后者則表明了一個較好的世界的建設方案……道德是一種地地道道的應然,而習慣、法律和道德只有在其為欲然之旨時,即因社會、國家和良知而使然時,方得為一種應然” [德]拉德布魯赫:《法學導論》,米健譯,商務印書館2013年版,第13-15頁。 ??梢姡鳛閼坏姆▽ι鐣怯幸龑Ш椭厮芄δ艿?。

    然而,純粹的應然法也存在致命的缺陷,即規(guī)范化不足的問題。隨著技術革命的興起,人類的理性能力得到極大的提高和重視,自然法由于其不確定性而受到鄙夷,功利主義哲學占據(jù)了法學研究的主導,作為這一流派的創(chuàng)始人邊沁就曾對自然法的立場極盡嘲諷之能事,并認為數(shù)學計算的精確性、清晰性、肯定性對于道德與法律的研究具有重大意義。 參見[英]邊沁:《政府片論》,沈叔平譯,商務印書館1995年版,第38頁。 這在很大程度上摒除了中世紀以來法學研究一直存在的神秘色彩與形而上學屬性,其在法典化方面的努力為法律的規(guī)范化做出了卓越的貢獻。而承繼了邊沁思想的奧斯丁更是被稱為分析法學之父,他認為法律是主權者的命令,剔除了法律中的應然要素,并將法理學的研究范圍嚴格限定在實然法的范疇。自奧斯丁之后,真正意義上獨立的法學研究才開始發(fā)展,但是這種喪失了應然邏輯指導的實然邏輯,開始向著專家小集團的技術性研究發(fā)展,法學喪失了原本擁有的引導功能,而成為文字游戲。這是分析法學的極端化進路,被稱為概念法學,法律由此徹底成為一項工具這一事件超出了傳統(tǒng)分析法可以解釋的范圍,也使得自然法的應然邏輯重新回歸。在當代,即使是持有分析法立場的學者,也不得不認可法律與道德確實具有某種聯(lián)系。 哈特的“最低限度自然法理論”就是一例。See HLA Hart,The Concept of Law.Oxford :Clarendon Press,1994,pp188-197.

    總之,隨著時代的發(fā)展,現(xiàn)代法律既要考慮規(guī)范性的方法與體系,對現(xiàn)實社會有所回應,即實然思維,更要時刻關注法律背后的正當性問題,保持思考與警醒,即應然思維。但算法則并不具備應然思維,它僅僅是對現(xiàn)實社會經(jīng)驗的算法性轉化,這就意味著它不僅不能引導社會,反而可能強化社會的固有偏見,加深矛盾,鼓勵僵化。比如大家都熟悉的搜索引擎算法,它會觀察用戶曾經(jīng)瀏覽較多的內(nèi)容,并在以后的搜索中優(yōu)先推送這些內(nèi)容。這種方式自然很大程度上滿足了用戶的偏好,使其能夠迅速找到自己喜愛的內(nèi)容。但其缺陷卻是深遠的:一方面,個人發(fā)展的可能性受到了限制,用戶在算法的限制下幾乎不可能接觸到不同的知識與信息;另一方面,對社會進步也存在負面影響,用戶在算法的操縱下總是接觸類似觀點與持類似觀點的用戶,這種社群環(huán)境無疑會強化偏見,最終導致社會也會被諸多刻板印象限制??膳碌氖?,司法系統(tǒng)某種程度上也會受到這種算法的影響,比如“美國司法系統(tǒng)廣泛使用的一種算法對非裔美國人持有偏見。即便該算法已經(jīng)將罪犯的年齡、性別、犯罪史和未來的犯罪行為一并考慮在內(nèi),他們?nèi)匀话l(fā)現(xiàn)這一算法將非裔美國人劃分到高風險犯罪類別的可能性要高出其他族裔45%” [瑞典]大衛(wèi)·薩普特:《被算法操控的生活——重新定義精準廣告、大數(shù)據(jù)和AI》,易文波譯,湖南科學技術出版社2020年版,第16頁。 。由此可見,算法的思維是實然性的,它是一項將社會經(jīng)驗轉化為計算機程序的技術化過程。正如有學者所主張的,網(wǎng)絡或者算法其實并不必然具備反抗規(guī)制抑或限制自由的價值屬性,其表現(xiàn)出什么樣態(tài)取決于設計之初植入了何種控制架構。 參見[美]勞倫斯·萊斯格:《代碼2.0——網(wǎng)絡空間中的法律》,李旭、沈偉偉譯,清華大學出版社2018年版,第35-42頁。 然而法律則超越了其工具屬性,它包含著豐富的價值內(nèi)涵,并且自身就包含著評估正當性的力量。二者的運行邏輯存在本質的差異。

    (二)有效性來源的異質性:道德正當性VS技術合理性

    算法與法律第二個根本性的不同在于二者的有效性來源。算法的有效性來源于其嚴格的程序化運作過程,有效的算法就是要求每個步驟都能明確地獲得某個結果,換句話說算法的有效性依賴于其技術合理性,只要符合邏輯就能被稱為有效算法。然而法律的有效性來源卻復雜得多,從內(nèi)部來說,法律體系自身的融貫性是其有效性的前提,這與算法確實具備類似性。然而即使在這點上,依賴本身具有模糊性之人類語言的法律天然就無法做到如算法般的精確性,更進一步說,將算法的精確性完全適用于法律,也許并非法律之福,因為法律依然需要處理復雜的人類情感與倫理問題,這些問題無法被定義,也不能被定義。法律有效性的更重要的源頭并非來自其內(nèi)部,而是法律自身要獲得外部的普遍認同。公民守法不僅僅是由主權者命令推導出的法律義務,更是一項道德義務,但這項道德義務僅僅針對具備正當性的法律。最早的討論源于蘇格拉底,對拒絕逃亡并坦然接受法律裁決,他給出的理由的核心是“同意”,因為他選擇了城邦并接受了城邦給予他的福利,也就意味著他同意接受法律的管理?!巴狻睒嫵闪耸胤ǖ赖铝x務的核心,后世啟蒙思想家諸如洛克、盧梭等人都借用了這一理念描述國家與法律的起源?,F(xiàn)代公民遵守法律的動因當然一部分來源于法律的強制力,但更多的也是來源于對法律自身的認可,這種認可很大程度上源于公民對立法與司法過程的參與。有學者通過詳盡的社會學調(diào)查揭露了一個事實,由外在強制力所保障的法律是不穩(wěn)定的,在這種模式下,每個人都想著如何利用法律的漏洞來為自己謀利。由內(nèi)在義務感維系的法律才是穩(wěn)定而強大的,其主要來源于兩種形式,即對立法當局正當性的認可或對法律自身正義性的認可。 參見[美]湯姆·R·泰勒:《人們?yōu)槭裁醋袷胤伞?,黃永譯,中國法制出版社2015年版,第44-45頁。 由此可見,法律的有效性來源遠比算法豐富得多,法律要獲得效力必須要依賴道德的正當性。

    算法完全摒棄形而上學的考量,以完全科學化的面目示人。其本質是一種方法,也就不存在信仰的問題,在網(wǎng)絡無所不在的社會環(huán)境下,用戶其實已經(jīng)無法區(qū)分是自己選擇了算法,還是被算法綁定。而法律則需要獲得普遍的信仰,才能夠得到充分的執(zhí)行,當然這里所指的法律信仰并非信仰法律規(guī)則本身,而是整個法律體系所呈現(xiàn)的基本精神氣質。“一群人之所以能組成一個能夠制定法律的社會,是因為他們已經(jīng)有了共同的信仰,這些信仰使得他們彼此能討論與說服,而且寫成條文的規(guī)則也必須符合這些信仰,才能被認為合法而予以接受……法治并不是法律的統(tǒng)治,而是有關法律應該如何的規(guī)則,是一個‘元法律’(metalegal)的學說,或是一個政治理想。惟有立法者感到自己受到它的約束,它才能是有效的,在一個民主制度中,這就意味著,法治除非成了群體道義傳統(tǒng)的一部分,成了大多數(shù)人所共識與毫無異議的接受的一個共同理想,否則,它是不會占上風的” [英]哈耶克:《自由憲章》,楊玉生等譯,中國社會科學出版社2012年版,第275、325頁。 。而算法很顯然不能涵括法律的這些意涵,而正是這些意涵使得法律能夠始終牢記其永恒的使命,不至于被瑣碎的規(guī)則所綁架。

    (三)認知方式的異質性:價值理性VS實用理性

    算法與法律最后也是最核心的差異在于其認知方式。算法所秉持認知方式是完全實用主義的,它的最大目標就是設計一套程序以達到特定的結果。由于有大數(shù)據(jù)等智能技術的支撐,其在知識共享和學習既往經(jīng)驗都并非人類所能企及,可以說在這一層面,算法已經(jīng)遠遠超越了人類理性的能力。這種能力作為人類理性的延申,對更充分的認識世界自然大有助益。然而,這種思維方式也存在致命的缺陷,即它缺乏對目標的反思機制,“人”的缺位使得算法僅僅充當了起點到終點的橋梁。濫用算法尤其是依賴算法去判定法律問題,則有可能導致人的客體化,形成算法獨斷。如《淘寶平臺服務協(xié)議》第6.1條關于“違約認定”的條款:“淘寶可依據(jù)您的用戶數(shù)據(jù)與海量用戶數(shù)據(jù)的關系來認定您是否構成違約;您有義務對您的數(shù)據(jù)異常進行充分的舉證和合理解釋,否則將認定為違約”,可見淘寶對于違約的認定已經(jīng)脫離了“人”的角色,而完全依賴于算法評估。實際上傳統(tǒng)違約責任的認定應當是建立在雙方之間的對話和商談的基礎之上的,這種過程不僅更有利于厘清責任,更是表達了對人的尊重。然而,算法的介入則完全忽視了法律背后的人文關懷,將其視為一種機械的技術判斷,人的主體性在其間喪失殆盡。缺乏“人”參與的算法理性,構成了單向度的統(tǒng)治結構,它是以利己主義作為指引,往往使長期的互惠與合作成為不可能。而人類理性則具有更復雜的一面,利他主義的傾向一直存在于人類的行動邏輯中,它是維系人類長期合作與繁榮的關鍵。 參見[美]亞歷山大·J·菲爾德:《利他主義傾向——行為科學、進化理論與互惠的起源》,趙培等譯,長春出版社2005年版。

    法律在認知方式上確實具有算法的某些屬性,它也傾向于通過演繹的邏輯追尋特定法律問題的解決方案,但很顯然它超越了實用理性的范疇,而時刻將價值探討作為己任。這種價值理性的認知方式避免了法律成為部分人的私產(chǎn),維護了法治的本真。它的核心是批判性思維,即從不認可終極真理的實現(xiàn),而時刻重視反思的重要意義。法律思維應當是這樣一種思維:它從不對任何價值問題提出終極的解答,而總是謹慎的對既有的回答進行反思。然而算法理性則并不具備這種能力,它極易被少數(shù)群體控制。赫拉利就曾指出:隨著智能算法取代生物算法,不僅會將人類擠出就業(yè)市場,亦會使財富和權力為那些擁有強大算法的公司壟斷。 [以色列]尤瓦爾·赫拉利:《未來簡史》,林俊宏譯,中信出版社2017年版,第290頁。 有學者將這種現(xiàn)象稱為理性運用的封建化,即“理性不再是如哈貝馬斯式的溝通理性(communicative reason)所期待的那樣,可以通過主體間性的對話和溝通,形成以語言為媒介,以達致相互理解和共識去向的溝通共同體(communicative community),而變成了以維護智能算法所有者利益為旨歸的專斷獨白” 孫國東:《“算法理性”的政治哲學檢視》,載《廈門大學學報(哲學社會科學版)》2021年第2期,第29頁。 。

    四、法律算法化的限度

    現(xiàn)在也許可以為算法下一個定義,即現(xiàn)代計算機科學的指導下,由工程師建構起來的達致某一特定目標的工具。由此,算法至少具備三個核心特征,即科學主義、建構主義與工具主義,算法介入法律的角度也通常是從這三個方面著手的。然而,法律借鑒算法必須考慮限度問題,上文的類似性與異質性的分析為這種限度確立了一個總原則,即法律在技術性的層面可以借鑒算法的模式與成果,但在價值性內(nèi)核上應與算法保持距離。這個總原則可以分解為三個限度,即科學主義限度、建構主義限度、工具主義限度。

    (一)科學主義限度

    關于法律與科學關系的討論是法理學界經(jīng)久不衰的主題,隨著人工智能的興起,這一主題有著重新探討的必要。從正面角度來說,科學技術的發(fā)展對豐富法律內(nèi)容與法律方法具有深遠的意義。第一,科學技術的發(fā)展不斷提出新的主題,豐富與改變了立法。比如關于胚胎是否能夠作為遺產(chǎn)被繼承,無人駕駛汽車事故責任的認定,乃至機器人是否可以作為法律主體等等類似法律問題的提出均是由于科學技術發(fā)展所致;第二,科學技術的發(fā)展改變了法律運作的方式,為法律的實際操作提供了諸多便利。比如智慧司法的推廣和應用節(jié)約了大量的時間成本,使得法律糾紛能夠更加高效便捷的得到解決。人工智能技術在輔助法官檢索類似案件,檢索相關法條等方面具有優(yōu)勢,不僅能夠在最大程度上實現(xiàn)“同案同判”的融貫法律系統(tǒng)理想,也能緩解法官巨大的判案壓力;第三,從更深層次上說,科學技術對法律意識也產(chǎn)生了積極的影響。自然規(guī)律的發(fā)現(xiàn)沖擊了“法即刑”的傳統(tǒng)觀念,最終樹立了法律即社會規(guī)則的理念。通訊技術的發(fā)展使得國家之間的距離大大縮短,法律文化間的相互影響也加深了,法律是人類統(tǒng)一理性的觀念得到更廣泛的傳播,現(xiàn)代人更關注人的價值,權力崇拜為法治觀念取代,國際法的地位日益提高,這都得益于科技的發(fā)展。 參見周永坤:《法理學》,法律出版社2016年版,第130-131頁。

    然而,比起科學對于法律的正面影響,更需要關注的是其負面影響,即科學主義限度的問題??茖W與法律追尋的終極目標是有極大差異的,簡單而言,科學的目標是“求真”,即追求世界的客觀真實。而法律的目標則是“求正”,即追求正義的過程,即使這一過程輸出與客觀事實不相符的結果也可能與正義并不相悖?!扒笳妗焙汀扒笳北M管在很多方面存在耦合性,但二者本質完全不同。將科學的求真思維完全適用于法律可能并不恰當。一方面,求真邏輯是結果導向的,過程僅僅在它導出正確結果時才有意義,盡管算法也是一種程序,但它并不對其本身進行評估,而僅僅以是否輸出正確結論作為判斷真假的依據(jù)。因此,程序正義在求真邏輯中并沒有存在的空間。法律事實是被合法證據(jù)所證明的事實,盡管最理想的狀態(tài)是法律事實與客觀事實的吻合,但法律并不必然追求客觀事實,比起重視客觀事實的實體正義,法律往往更加關注程序正義。也就是說在法律程序有其獨立意義,并不僅僅是實現(xiàn)實體權利義務的路徑。比如現(xiàn)代刑法最重要的疑罪從無、非法證據(jù)排除就被視為程序性權利義務,受到與結果無關的獨立保護。另一方面,求真邏輯預設了目標的超越性,即真理是不受“人”這一要素影響,它僅僅作為一種不可辯駁的事實存在??茖W對于真實的追求往往忽視了法律作為行為規(guī)范的重要意義,“關于事物的自然秩序的科學主張并不告訴我們?nèi)绾涡袆?,但是法律則告訴我們?nèi)绾涡袆印?[美]大衛(wèi)·萊昂斯:《倫理學與法治》,葛四友譯,商務印書館2016年版,第46頁。 。過度的科學主義傾向將衍生出“一種民眾不再認識的法律,一種不再存在于民眾心目中的法律,一種被民眾視為與無法控制的自然力量沒有區(qū)別的法律”? [德]尤利烏斯·馮·基爾希曼:《作為科學的法學的無價值性——在柏林法學會的演講》,趙陽譯,商務印書館2016年版,第47頁。? 。自由在其間無法生長,過度依賴求真邏輯的法律為極權主義的繁衍提供了空間,最終將導致與法治相悖的結局。

    (二)建構主義限度

    算法是由工程師從外部建構起來的,其一旦運行就脫離了工程師個人的控制,而成為獨立的程序。算法的建構主義思路在法律領域是司空見慣的,它的優(yōu)勢也是明顯的。和算法對特定目標的達成同理,建構主義的邏輯使法律獲得了迅速解決問題的能力。從立法層面來說,改革開放初期,我國經(jīng)過了長期的法律虛無主義時代,法律事業(yè)百廢待興,建構主義的思路對迅速建立一套完整的法律體系以應對改革開放的形勢大有助益。當時很多的法律制度實際是超越于時代的,比如《破產(chǎn)法》《公司法》等,但這些法律的迅速確立彰顯了我國堅持市場經(jīng)濟的決心,也為我國改革開放掃清了障礙。在法律體系內(nèi)部,抽象的憲法權利也需要國家建構各種制度來保障其實現(xiàn),“立法機關必須通過制定法律來建構制度,以進一步明確憲法中基本權利的具體內(nèi)涵,保障基本權利的實現(xiàn)?;緳嗬邆涞倪@種積極要求立法者建立和維護制度,以促進基本權利實現(xiàn)的功能,就是所謂的制度保障功能,國家對此負有制度性保障的義務” 張翔:《基本權利的規(guī)范建構》,法律出版社2017年版,第229頁。 。在司法層面,建構的邏輯也同樣發(fā)揮著重要的作用,所有對于法律的解釋都是通過建構一套合理的概念與術語體系來規(guī)范的解釋相應制度,以達到融貫性的理想。德沃金就曾這樣描繪過:“恰當?shù)膽椃ń忉屚瑫r將文本和既往的時間看作是它的對象:面臨當代憲法問題的律師和法官,必須嘗試著建構一個有關特殊條款文本、作為一個整體的憲法框架以及我們在憲法之下的歷史的、內(nèi)在一致的、原則性的和有說服力的解釋——這個解釋既能統(tǒng)一這些不同的淵源,并且只要有可能,就又能指引將來的司法裁決?!?[美]羅納德·德沃金:《身披法袍的正義》,周林剛等譯,北京大學出版社2014年版,第141頁。 法教義學就是通過概念建構來創(chuàng)造法律規(guī)范,由幼稚的概念現(xiàn)實主義變成了一種法律藝術理論。這種特別的方法被稱為“通過建構或者根據(jù)體系填補漏洞” [德]菲利普·黑克:《利益法學》,傅廣宇譯,商務印書館2016年版,第23頁。 。

    建構主義對于立法和司法都大有助益,但也必須警惕濫用建構所帶來的危險。一方面,建構主義在法律生成層面對應的是移植理論,其固然能夠迅速建立法律體系,以借鑒先進國家的法治文明成果。但也不可避免的會遇到水土不服的問題,法律只有得到切實的執(zhí)行和貫徹才能發(fā)揮其實際意義。薩維尼就認為法律是民族精神的體現(xiàn),而在法律形成的過程中,“法學家有雙重作用,一是實質上代表了民族精神。通過他們的智力活動提煉出合乎自己民族的共同意識 ,二是形式上科學表達,通過立法加工、總結出法律規(guī)則和法律技術” 徐愛國:《法學的圣殿:西方法律思想與法學流派》,中國法制出版社2016年版,第323頁。 。一個國家建構的法律只有經(jīng)過本土化改造后才有可能獲得普遍的認同。另一方面,對建構邏輯的過分依賴實際是對人類理性的狂信,最終導致的可能并非理想而是災難。建構體系是人類追求確定性的努力,人對不確定性有天生的厭惡感,法律追求確定性的努力就是建構終極性的法典。它的理想是所有在法律體系中的個人都無需作道德性的考量,而僅僅按照法典的指示行事就可以輸出最符合正義的結果。然而,現(xiàn)實是終極性的法典是不存在的,而極權主義的邏輯往往借由“終極法典”的掩護而獲得正當性,在其涵射下的個體全部原子化了,法律人成為只會機械執(zhí)行命令的工具人。在這種情形下,法律人對于行動的道德責任感大大降低,也不具備反思法律正當性的動機與能力。

    (三)工具主義限度

    “工具主義可以表述為這樣的命題:科學的理論——所謂‘純粹’科學的理論——只不過是計算規(guī)則(或推理規(guī)則);其性質基本上就像所謂‘應用’科學的計算規(guī)則一樣。(人們甚至可以把它表述成這樣的命題:‘純粹’科學是用詞不當,一切科學都是‘應用的’)” [英]卡爾·波普爾:《猜想與反駁——科學知識的增長》,上海譯文出版社2005年版,第157頁。 。算法是達致特定目標的工具,工具性是算法的本質屬性,它并沒有評估自身正當性的能力,算法本身無所謂道德問題,但設計算法的人則需要接受道德的考量。法律的工具主義屬性也是明顯的,它作為社會治理的手段,對于維護秩序,推進發(fā)展均有積極作用。然而,工具性并非法律的本質屬性,其品性并不依賴于立法者個人,法律自身就存在道德屬性。富勒就曾總結過法律道德性的八大要素:法律規(guī)則的普遍性;法律規(guī)則必須公布;法律不能溯及既往;法律必須明確,為人們所能容易理解;法律規(guī)則不能相互矛盾;法律不能要求不可能實現(xiàn)之事;法律規(guī)則應該具有相對穩(wěn)定性;法律規(guī)則與實施必須相一致。 [美]富勒:《法律的道德性》,鄭戈譯,商務印書館2005年版,第55-111頁。 濫用工具主義的法律模式往往僅僅關注特定目標的實現(xiàn),使得法律難以形成融貫性的體系。昂格爾就曾有過論斷:“反對工具主義邏輯的第一個也是最根本的理由,在于它未能說明人的行為怎樣能夠具有超越時間的足夠連續(xù)性和個人之間足夠的相似性,從而使有組織的社會或社會科學成為可能。” [美]昂格爾:《現(xiàn)代社會中的法律》,吳玉章等譯,譯林出版社2008年版,第22頁。

    理想主義法治觀認為,法治不僅僅意味著社會生活在法律規(guī)則的指引下有序運行,它具有超出規(guī)則本身的精神特質。“法律職業(yè)精神的本質就是使人覺得司法管理是每個人的職責所在。一個充滿這種精神的法律人,從不迷失在自己的利益或是自己客戶的利益之中。法律職業(yè)精神讓他超脫于求勝心之外成為真理的捍衛(wèi)者……他因此一直對改進司法的工作以及維護秩序的方法懷有極大的興趣” [美]羅伯特·N·威爾金:《法律職業(yè)的精神》,王俊峰譯,北京大學出版社2013年,第135頁。 。持有工具主義理念的法律人將職業(yè)視為一項以服務換取獲取生活資本的手段,它喪失了其作為法律職業(yè)的倫理價值。法律人通過追尋正義、參與公共生活而獲取的滿足感在瑣碎的工具性操作中被消解了。這種工具主義的法律觀瓦解著法律的道德權威,在一個健全的法治社會中,每一個公民都確信自己有道德義務去遵循法律。然而,工具主義的理念卻通過操縱法律而顯現(xiàn)出一種對法律完全輕蔑的態(tài)度。

    結語

    文末,我將回應一個最常見的反駁:既然“人治”由于人主觀偏見的介入而偏離法治,那么剝離“人”要素的算法則更可能帶來自由平等,實現(xiàn)真正意義的法治。誠然,計算機網(wǎng)絡曾一度被視為自由平等理想的重要技術性輔助,它大大降低了人們獲取信息的成本,使得原本被強勢階層所壟斷的知識得到普及,從這一角度說我們確實可以說算法與法治十分契合。然而,隨著網(wǎng)絡的發(fā)展,其性質也悄然發(fā)生了變化,以代碼作為核心的算法,不僅不具備限制權力的法治核心特征,而且還構成了權力本身。美國學者勞倫斯·萊斯格在其著作《代碼2.0》中就反復驗證了一個觀點:“在網(wǎng)絡空間中,某只看不見的手正在打造一個與網(wǎng)絡空間誕生時完全相反的架構。這只看不見的手,由政府和商業(yè)機構共同推動,正在打造一個能夠實現(xiàn)最佳控制、高效規(guī)制的架構。在那個世界里,陷入掙扎境地的將不會是政府?!?[美]勞倫斯·萊斯格:《代碼2.0——網(wǎng)絡空間中的法律》,李旭、沈偉偉譯,清華大學出版社2018年版,第5頁。 這種算法權力的誕生并非是由于公權力的介入,恰恰是市場使然,其源于一個很簡單的動因,即早期網(wǎng)絡的匿名性質無法帶來商業(yè)利益。因此,如今身份驗證技術在網(wǎng)絡中應用廣泛,構成了三方得益的格局,作為公民獲得了更便利的網(wǎng)絡服務,作為公司則獲得了分析擴大市場的能力(最典型的就是投放針對性廣告),作為政府則獲得了大量社會治理的數(shù)據(jù)。

    但令人擔憂的則是算法權力龐大力量似乎超越了我們傳統(tǒng)上對權力的認知,尤其是深度學習技術的展開,使得人類開始逐漸無法理解算法決策的運作機理,這自然也使得批判和反思變得困難,它對于隱私、知識產(chǎn)權乃至個人自由等諸多方面都提出了前所未有的挑戰(zhàn)。對于這些挑戰(zhàn),勞倫斯重視司法在其間的作用,比起司法克制他更傾向于司法能動,這與本文提出的讓法律重新回歸“人”的觀點不謀而合。網(wǎng)絡空間造成憲法解釋的潛在不確定性,事實上美國司法界早已有此類判例產(chǎn)生,比如早在1928年的奧姆斯特德案就討論過電話監(jiān)聽技術的合法性問題,“揭開了網(wǎng)絡世界權益斗爭的序幕,最高法院的判決意見為保護網(wǎng)絡公民的未來權益提供了可借鑒的模式。布蘭代思法官為我們提供了另一種憲法修正案的解譯模式——超越時間,超越表面文字,但保留修正案的含義和價值。這是一種承認所發(fā)生的變化并適應這些變化以保留立憲者賦予我們的權利的解釋方法。同時,這也是一種超越基本差異——無論是當前時代與立憲時代的差異,還是網(wǎng)絡空間與現(xiàn)實空間的差異——的憲法解釋方法” [美]勞倫斯·萊斯格:《代碼2.0——網(wǎng)絡空間中的法律》,李旭、沈偉偉譯,清華大學出版社2018年版,第177頁。 。在網(wǎng)絡空間所造成的價值沖突面前,發(fā)揮司法的能動性,將司法價值置于代碼法之上,并建構一套合理的算法審查制度可能在最大程度上削減算法權力的不利影響。

    代碼確實是在網(wǎng)絡空間充當著法律的作用,而網(wǎng)絡性質變化與技術的發(fā)展使得算法獲得了前所未有的權力,為應對算法權力的膨脹,就必須厘清現(xiàn)實空間的法律與網(wǎng)絡空間的算法之間的聯(lián)系與界限。算法與法律的類似性與異質性的分析為法律的算法化限度提供了一個總原則,即法律在技術性的層面可以借鑒算法的模式與成果,但在價值性內(nèi)核上應與算法保持距離。這個總原則可以分解為三個限度,即科學主義限度、建構主義限度、工具主義限度。概括來說,科學主義限度是這樣一種信條,即法學是具有科學性的學科,但法學并不能定性為科學,法律所特有的程序正義屬性是科學不能涵括的;建構主義限度則在提示在建構法律的過程中,不能不銘記經(jīng)驗理性的重要意義,同時要警惕純粹建構性的危險;工具主義限度,則強調(diào)不能僅僅將法律當成類似算法的技術,更多地關注其價值性的成分。法律的算法化限度的討論意在人工智能的熱潮之下提示這樣一個問題,即始終不要忘記法學是關于“人”的學科。純粹依賴算法的法律將遠離法治的本真,也許重新關注法律人在法律中的重要作用,鼓勵反思可能是防止法律誤入歧途的關鍵。

    ??Possibility and Limitation of Legal Algorithmization

    JIANG Chao

    (Kenneth Wang School of Law,Soochow University,SUZhou 215031,China)

    Abstract: Laws and algorithms are similar in technical representation, that is, the similarity of generation mechanism, functional utility and expression. These similarities create the possibility for laws to learn from algorithms. Law and algorithm have heterogeneity in the value core, that is, the heterogeneity of operating logic, the heterogeneity of effectiveness sources and the heterogeneity of cognitive style. These heterogeneity suggest the distance between law and algorithm. The analysis of similarity and heterogeneity provides a general principle for the algorithmic limit of law, that is, the law can learn from the model and achievements of the algorithm at the technical level, but it should keep a distance from the algorithm in the value core. This general principle can be divided into three limits: scientism, constructivism and instrumentalism. The limit of scientism requires the law to learn from science and technology and guard against the erosion of scientific truth-seeking logic on the proposition of legal justice; The limit of constructivism emphasizes that while the law draws lessons from the algorithm to construct thinking, it prevents the misleading of pure constructive rationality to the rule of law; The limit of instrumentalism suggests that while considering law as a tool to achieve specific goals, we should always pay attention to the value attribute of law, especially pay attention to the important role of legal people and their reflection in controlling the proliferation of algorithmic thinking.

    Key Words: artificial intelligence; algorithmic justice; smart justice; science

    ??本文責任編輯: 董彥斌

    青年學術編輯: 孫 瑩

    猜你喜歡
    人工智能科學
    我校新增“人工智能”本科專業(yè)
    點擊科學
    點擊科學
    科學大爆炸
    小小藝術家(2019年6期)2019-06-24 17:39:44
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 04:56:22
    科學
    亚洲精品国产av成人精品| 精品国产一区二区三区四区第35| 夜夜夜夜夜久久久久| 成人影院久久| 一级a爱视频在线免费观看| 精品亚洲乱码少妇综合久久| 99国产精品免费福利视频| 一级,二级,三级黄色视频| 欧美一级毛片孕妇| 亚洲va日本ⅴa欧美va伊人久久 | 黑丝袜美女国产一区| a在线观看视频网站| 亚洲国产欧美在线一区| 欧美 亚洲 国产 日韩一| 91字幕亚洲| 美女高潮喷水抽搐中文字幕| 丝袜人妻中文字幕| 国产精品一区二区免费欧美 | a在线观看视频网站| 欧美国产精品一级二级三级| 欧美精品亚洲一区二区| 在线观看免费视频网站a站| 免费观看av网站的网址| 免费在线观看黄色视频的| 黄色怎么调成土黄色| 日韩中文字幕欧美一区二区| 亚洲国产精品999| 久久精品成人免费网站| 久久久久久久久免费视频了| 国产成人欧美| 亚洲中文av在线| 午夜精品久久久久久毛片777| 91老司机精品| 中文字幕制服av| 日本黄色日本黄色录像| 热99re8久久精品国产| 亚洲色图综合在线观看| 国产高清视频在线播放一区 | 人妻人人澡人人爽人人| 啦啦啦免费观看视频1| 51午夜福利影视在线观看| e午夜精品久久久久久久| 一级毛片精品| 乱人伦中国视频| 岛国毛片在线播放| 国产成人免费观看mmmm| 成年人午夜在线观看视频| 日本欧美视频一区| 视频在线观看一区二区三区| 亚洲欧美日韩高清在线视频 | 啦啦啦 在线观看视频| 成年人黄色毛片网站| 久久热在线av| 国产精品一二三区在线看| kizo精华| 欧美日韩成人在线一区二区| 精品第一国产精品| 丰满饥渴人妻一区二区三| 国产伦理片在线播放av一区| 欧美日韩一级在线毛片| 在线观看舔阴道视频| 国产在线一区二区三区精| 欧美日本中文国产一区发布| 极品人妻少妇av视频| 午夜日韩欧美国产| 欧美在线黄色| 黄片大片在线免费观看| 窝窝影院91人妻| 国产高清视频在线播放一区 | 在线 av 中文字幕| 国产又色又爽无遮挡免| 超色免费av| 亚洲情色 制服丝袜| 建设人人有责人人尽责人人享有的| 国产一卡二卡三卡精品| 18禁黄网站禁片午夜丰满| 精品少妇久久久久久888优播| 999精品在线视频| 日韩,欧美,国产一区二区三区| 久9热在线精品视频| 国产99久久九九免费精品| 成人av一区二区三区在线看 | 色婷婷久久久亚洲欧美| 亚洲国产毛片av蜜桃av| 免费看十八禁软件| 国产1区2区3区精品| 久久人人97超碰香蕉20202| 国产男女超爽视频在线观看| 国产精品亚洲av一区麻豆| 超碰成人久久| 在线观看免费视频网站a站| 麻豆av在线久日| 青春草亚洲视频在线观看| 韩国高清视频一区二区三区| 国产一区二区三区在线臀色熟女 | 久久天堂一区二区三区四区| 日本av免费视频播放| 一区二区三区四区激情视频| 天天躁狠狠躁夜夜躁狠狠躁| 欧美精品一区二区大全| 9色porny在线观看| 人人妻,人人澡人人爽秒播| 国产有黄有色有爽视频| 法律面前人人平等表现在哪些方面 | 欧美变态另类bdsm刘玥| 久久性视频一级片| 丰满少妇做爰视频| av视频免费观看在线观看| 嫁个100分男人电影在线观看| 精品国产乱子伦一区二区三区 | 午夜激情久久久久久久| 婷婷色av中文字幕| 免费观看av网站的网址| 久久热在线av| 无遮挡黄片免费观看| 亚洲黑人精品在线| 成人影院久久| 女人高潮潮喷娇喘18禁视频| 亚洲激情五月婷婷啪啪| 99国产精品99久久久久| h视频一区二区三区| 国产黄色免费在线视频| av在线播放精品| 国产在线一区二区三区精| 男女之事视频高清在线观看| 精品第一国产精品| 欧美+亚洲+日韩+国产| 国产男女超爽视频在线观看| 欧美精品av麻豆av| 久久精品国产a三级三级三级| 叶爱在线成人免费视频播放| 亚洲av电影在线观看一区二区三区| 婷婷色av中文字幕| 亚洲七黄色美女视频| 亚洲国产精品成人久久小说| 久久久水蜜桃国产精品网| 一区二区av电影网| 一级a爱视频在线免费观看| 91精品三级在线观看| 黄色片一级片一级黄色片| 国产亚洲精品一区二区www | 精品视频人人做人人爽| 亚洲人成电影免费在线| 手机成人av网站| 欧美激情 高清一区二区三区| 波多野结衣一区麻豆| 99久久99久久久精品蜜桃| 欧美97在线视频| 国产精品偷伦视频观看了| 免费一级毛片在线播放高清视频 | 丝袜美腿诱惑在线| 国产日韩一区二区三区精品不卡| 国产亚洲精品第一综合不卡| 嫁个100分男人电影在线观看| 久久国产亚洲av麻豆专区| 精品亚洲成国产av| 亚洲美女黄色视频免费看| 精品卡一卡二卡四卡免费| 精品国产一区二区三区四区第35| 亚洲人成电影免费在线| 精品福利观看| 90打野战视频偷拍视频| 亚洲精品国产色婷婷电影| 国产高清视频在线播放一区 | 国产精品一二三区在线看| 国产免费现黄频在线看| 国产高清videossex| 纯流量卡能插随身wifi吗| 欧美激情高清一区二区三区| 精品一区在线观看国产| 老熟女久久久| 欧美日韩成人在线一区二区| 高清欧美精品videossex| 午夜福利一区二区在线看| 国产av又大| 王馨瑶露胸无遮挡在线观看| 久久中文看片网| av福利片在线| 色老头精品视频在线观看| 深夜精品福利| 可以免费在线观看a视频的电影网站| 久热爱精品视频在线9| 国产欧美亚洲国产| 国产精品 欧美亚洲| 三上悠亚av全集在线观看| 国内毛片毛片毛片毛片毛片| 欧美精品av麻豆av| 天天影视国产精品| 国产极品粉嫩免费观看在线| 侵犯人妻中文字幕一二三四区| 性高湖久久久久久久久免费观看| 高清在线国产一区| av线在线观看网站| 91国产中文字幕| 日韩免费高清中文字幕av| 亚洲精品一二三| 一区二区av电影网| 999久久久精品免费观看国产| 亚洲人成77777在线视频| 国产亚洲午夜精品一区二区久久| 十八禁高潮呻吟视频| 1024视频免费在线观看| 亚洲自偷自拍图片 自拍| 亚洲,欧美精品.| 性少妇av在线| 婷婷成人精品国产| 久久免费观看电影| 不卡av一区二区三区| 中文字幕人妻丝袜一区二区| 欧美中文综合在线视频| videos熟女内射| 桃红色精品国产亚洲av| 欧美精品啪啪一区二区三区 | 中文字幕最新亚洲高清| 欧美97在线视频| 精品熟女少妇八av免费久了| 一边摸一边做爽爽视频免费| 天堂中文最新版在线下载| 黑人欧美特级aaaaaa片| 80岁老熟妇乱子伦牲交| 成年女人毛片免费观看观看9 | 一区二区三区四区激情视频| 亚洲精品一二三| 久久久久久亚洲精品国产蜜桃av| 中文字幕制服av| av网站免费在线观看视频| 久久 成人 亚洲| 午夜免费观看性视频| 亚洲欧美成人综合另类久久久| av免费在线观看网站| 精品久久久久久久毛片微露脸 | 国产精品香港三级国产av潘金莲| 99久久精品国产亚洲精品| 久久人人爽人人片av| 亚洲人成77777在线视频| 国产精品一区二区在线不卡| 日本91视频免费播放| 成人手机av| av不卡在线播放| 亚洲精品美女久久久久99蜜臀| 久久久国产一区二区| 久久久久久久国产电影| 久久精品成人免费网站| 美女国产高潮福利片在线看| 国产一区二区激情短视频 | 亚洲精品国产精品久久久不卡| 法律面前人人平等表现在哪些方面 | 超色免费av| 欧美性长视频在线观看| 国产精品自产拍在线观看55亚洲 | 亚洲avbb在线观看| av在线app专区| 两性夫妻黄色片| 一边摸一边抽搐一进一出视频| 国产亚洲欧美在线一区二区| 人人妻人人添人人爽欧美一区卜| 国产欧美日韩一区二区三 | 999久久久国产精品视频| av超薄肉色丝袜交足视频| 午夜日韩欧美国产| 在线精品无人区一区二区三| 国产片内射在线| 丝袜喷水一区| 亚洲伊人久久精品综合| 亚洲国产成人一精品久久久| 欧美日韩视频精品一区| 欧美成人午夜精品| 欧美精品人与动牲交sv欧美| 女性被躁到高潮视频| 日韩熟女老妇一区二区性免费视频| 国产精品一区二区在线不卡| 国产精品久久久av美女十八| 久久久久久亚洲精品国产蜜桃av| 国产深夜福利视频在线观看| 欧美日韩福利视频一区二区| 国产亚洲av高清不卡| 黄频高清免费视频| 91精品伊人久久大香线蕉| 美女高潮喷水抽搐中文字幕| 91大片在线观看| 日韩电影二区| 亚洲综合色网址| 亚洲av成人不卡在线观看播放网 | 久久久久网色| 一个人免费在线观看的高清视频 | 国产免费一区二区三区四区乱码| 啦啦啦 在线观看视频| 欧美少妇被猛烈插入视频| 天天躁狠狠躁夜夜躁狠狠躁| 日韩一卡2卡3卡4卡2021年| 精品国产超薄肉色丝袜足j| 美女大奶头黄色视频| 美国免费a级毛片| 亚洲精品国产精品久久久不卡| 国产日韩一区二区三区精品不卡| 热99久久久久精品小说推荐| 亚洲欧洲日产国产| 一区二区日韩欧美中文字幕| 美女扒开内裤让男人捅视频| 国产真人三级小视频在线观看| 日本vs欧美在线观看视频| 婷婷色av中文字幕| 亚洲色图 男人天堂 中文字幕| 侵犯人妻中文字幕一二三四区| 亚洲国产精品一区二区三区在线| 老司机深夜福利视频在线观看 | 欧美乱码精品一区二区三区| 国产精品自产拍在线观看55亚洲 | 久久综合国产亚洲精品| 两个人免费观看高清视频| 一本—道久久a久久精品蜜桃钙片| 狠狠精品人妻久久久久久综合| 欧美亚洲 丝袜 人妻 在线| 手机成人av网站| 天堂中文最新版在线下载| 国产免费一区二区三区四区乱码| 日韩视频一区二区在线观看| 99久久99久久久精品蜜桃| 国产在线免费精品| 久久 成人 亚洲| 在线精品无人区一区二区三| 国产一区二区 视频在线| 久久久精品免费免费高清| 色综合欧美亚洲国产小说| 一个人免费看片子| 日本撒尿小便嘘嘘汇集6| 久久久久久人人人人人| 别揉我奶头~嗯~啊~动态视频 | 亚洲欧美成人综合另类久久久| 亚洲国产欧美日韩在线播放| 国产熟女午夜一区二区三区| 黄色 视频免费看| 久久天躁狠狠躁夜夜2o2o| 亚洲一区中文字幕在线| 国产精品久久久久久人妻精品电影 | 五月天丁香电影| 免费观看av网站的网址| www日本在线高清视频| 俄罗斯特黄特色一大片| 一本综合久久免费| 免费观看av网站的网址| 亚洲自偷自拍图片 自拍| 国产一区二区三区在线臀色熟女 | 成在线人永久免费视频| 9191精品国产免费久久| 香蕉丝袜av| 99九九在线精品视频| 国产精品九九99| 黄色怎么调成土黄色| 亚洲成av片中文字幕在线观看| 久久久精品94久久精品| h视频一区二区三区| 国产男女内射视频| 久久狼人影院| 美女扒开内裤让男人捅视频| 考比视频在线观看| 国产亚洲午夜精品一区二区久久| 热99久久久久精品小说推荐| 9色porny在线观看| 日韩,欧美,国产一区二区三区| 黑人欧美特级aaaaaa片| 99re6热这里在线精品视频| 国产精品一区二区免费欧美 | 窝窝影院91人妻| 日韩三级视频一区二区三区| 中文字幕高清在线视频| 俄罗斯特黄特色一大片| 欧美精品啪啪一区二区三区 | 在线观看舔阴道视频| 黑丝袜美女国产一区| 久久精品国产综合久久久| 大陆偷拍与自拍| 黑人操中国人逼视频| 亚洲人成77777在线视频| netflix在线观看网站| 免费高清在线观看日韩| 超碰成人久久| av超薄肉色丝袜交足视频| 国产精品免费视频内射| 国产精品成人在线| 每晚都被弄得嗷嗷叫到高潮| 亚洲欧美成人综合另类久久久| 欧美+亚洲+日韩+国产| 精品一区二区三区四区五区乱码| 国产精品影院久久| 狂野欧美激情性xxxx| 久久国产精品男人的天堂亚洲| 欧美一级毛片孕妇| 午夜福利一区二区在线看| 亚洲精品国产色婷婷电影| 欧美老熟妇乱子伦牲交| 看免费av毛片| 亚洲av电影在线进入| 99久久99久久久精品蜜桃| 亚洲九九香蕉| 在线 av 中文字幕| 丝袜人妻中文字幕| 成人av一区二区三区在线看 | 男人添女人高潮全过程视频| 久久久精品94久久精品| www.999成人在线观看| xxxhd国产人妻xxx| 国产精品自产拍在线观看55亚洲 | 大片免费播放器 马上看| 成在线人永久免费视频| 亚洲一区中文字幕在线| a在线观看视频网站| 不卡一级毛片| 视频区图区小说| 97在线人人人人妻| 大片电影免费在线观看免费| 国产欧美日韩一区二区三 | 国产免费av片在线观看野外av| 伦理电影免费视频| 亚洲精品美女久久av网站| 啦啦啦视频在线资源免费观看| 亚洲av电影在线进入| 亚洲精品国产av成人精品| 亚洲av日韩在线播放| 亚洲欧美精品综合一区二区三区| 成年人黄色毛片网站| 午夜精品国产一区二区电影| 99久久精品国产亚洲精品| 国产日韩欧美在线精品| 男女国产视频网站| 在线天堂中文资源库| 亚洲av成人一区二区三| 色婷婷久久久亚洲欧美| 亚洲九九香蕉| 欧美日韩av久久| 亚洲人成电影观看| 纯流量卡能插随身wifi吗| 日韩一卡2卡3卡4卡2021年| 搡老岳熟女国产| 国产亚洲午夜精品一区二区久久| 欧美黑人欧美精品刺激| 国产成人a∨麻豆精品| 叶爱在线成人免费视频播放| 777久久人妻少妇嫩草av网站| 欧美日韩成人在线一区二区| 久久人人97超碰香蕉20202| 十分钟在线观看高清视频www| 国产淫语在线视频| 久久久久久久久免费视频了| 亚洲av电影在线进入| 不卡av一区二区三区| 麻豆av在线久日| 老汉色∧v一级毛片| 日韩制服骚丝袜av| 成年动漫av网址| 久久热在线av| 一个人免费在线观看的高清视频 | 久久女婷五月综合色啪小说| 不卡av一区二区三区| 亚洲精品日韩在线中文字幕| 免费在线观看影片大全网站| 日韩一卡2卡3卡4卡2021年| 日韩视频在线欧美| 制服人妻中文乱码| 女人久久www免费人成看片| 我要看黄色一级片免费的| 一级,二级,三级黄色视频| 美女视频免费永久观看网站| 国产精品av久久久久免费| 国产精品熟女久久久久浪| 久久99一区二区三区| 日韩中文字幕欧美一区二区| 久久这里只有精品19| 亚洲国产看品久久| 精品国产乱子伦一区二区三区 | 久久久久国产精品人妻一区二区| 中文字幕人妻熟女乱码| 免费黄频网站在线观看国产| av天堂久久9| 成人免费观看视频高清| 免费日韩欧美在线观看| 欧美成狂野欧美在线观看| 久久精品国产a三级三级三级| 成人三级做爰电影| 99国产精品免费福利视频| 欧美日韩国产mv在线观看视频| 亚洲av欧美aⅴ国产| 蜜桃国产av成人99| 18禁裸乳无遮挡动漫免费视频| 日韩欧美一区二区三区在线观看 | 国产熟女午夜一区二区三区| 欧美av亚洲av综合av国产av| 丰满迷人的少妇在线观看| 国产成人精品在线电影| 水蜜桃什么品种好| 欧美日韩一级在线毛片| 日韩 欧美 亚洲 中文字幕| 久久综合国产亚洲精品| 久久人妻福利社区极品人妻图片| 欧美成人午夜精品| 99久久精品国产亚洲精品| 人妻 亚洲 视频| 脱女人内裤的视频| 久久99一区二区三区| 超碰97精品在线观看| 99热网站在线观看| 1024香蕉在线观看| 咕卡用的链子| 亚洲av国产av综合av卡| 乱人伦中国视频| svipshipincom国产片| 一本一本久久a久久精品综合妖精| 色播在线永久视频| 日韩人妻精品一区2区三区| 老司机靠b影院| 成人国产av品久久久| 性色av乱码一区二区三区2| 午夜两性在线视频| 久久久久久亚洲精品国产蜜桃av| 黄片小视频在线播放| 欧美日韩国产mv在线观看视频| 亚洲精华国产精华精| 18禁观看日本| 亚洲avbb在线观看| 大香蕉久久网| 欧美日韩精品网址| 人人妻人人澡人人看| 青春草视频在线免费观看| 色视频在线一区二区三区| 日韩欧美免费精品| 韩国高清视频一区二区三区| 亚洲成国产人片在线观看| 黄片小视频在线播放| 午夜福利影视在线免费观看| 国产精品成人在线| 搡老岳熟女国产| 精品国产乱子伦一区二区三区 | 动漫黄色视频在线观看| 欧美黄色淫秽网站| 黄片小视频在线播放| 日韩免费高清中文字幕av| 久久性视频一级片| 搡老岳熟女国产| 看免费av毛片| 啪啪无遮挡十八禁网站| 成年av动漫网址| 欧美另类一区| 精品国产一区二区三区久久久樱花| 麻豆乱淫一区二区| 日韩大片免费观看网站| 国产伦理片在线播放av一区| 亚洲自偷自拍图片 自拍| 亚洲色图 男人天堂 中文字幕| 国产又爽黄色视频| 黄色毛片三级朝国网站| 母亲3免费完整高清在线观看| 亚洲 国产 在线| 夫妻午夜视频| 老司机影院毛片| 天堂俺去俺来也www色官网| 日韩大片免费观看网站| 91精品三级在线观看| 久久久久网色| 国产成人一区二区三区免费视频网站| 热99久久久久精品小说推荐| 午夜福利影视在线免费观看| tocl精华| 欧美精品高潮呻吟av久久| 久久青草综合色| 交换朋友夫妻互换小说| 999久久久国产精品视频| www.熟女人妻精品国产| 叶爱在线成人免费视频播放| 蜜桃国产av成人99| 国产男女内射视频| 免费高清在线观看日韩| 亚洲精品在线美女| 2018国产大陆天天弄谢| 亚洲av电影在线进入| 国产精品一二三区在线看| av又黄又爽大尺度在线免费看| 亚洲精品粉嫩美女一区| 午夜激情av网站| 亚洲伊人久久精品综合| 欧美黑人欧美精品刺激| 国产精品久久久久久精品电影小说| 国产精品秋霞免费鲁丝片| 国产伦理片在线播放av一区| www日本在线高清视频| 人人妻人人澡人人看| 宅男免费午夜| 欧美国产精品va在线观看不卡| 午夜精品久久久久久毛片777| 一区二区日韩欧美中文字幕| 精品久久久精品久久久| 麻豆国产av国片精品| 国产主播在线观看一区二区| 9191精品国产免费久久| 欧美日韩视频精品一区| 人妻 亚洲 视频| 无限看片的www在线观看| 亚洲天堂av无毛| 亚洲精品久久成人aⅴ小说| 亚洲av成人一区二区三| tocl精华| 国产免费av片在线观看野外av| 无限看片的www在线观看| 日韩有码中文字幕| 欧美激情 高清一区二区三区| 女性被躁到高潮视频| 老司机午夜十八禁免费视频| 99re6热这里在线精品视频| 午夜激情av网站| 欧美黄色淫秽网站| 美女高潮到喷水免费观看| 麻豆乱淫一区二区| av网站在线播放免费| 大陆偷拍与自拍| 国产高清视频在线播放一区 | 亚洲人成77777在线视频|