• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    算法、權(quán)力與法律:時代挑戰(zhàn)及回應(yīng)*

    2023-01-08 07:30:41鈄曉東歐陽恩錢
    政法論叢 2022年4期
    關(guān)鍵詞:權(quán)力法律算法

    鈄曉東 歐陽恩錢

    (1.寧波大學(xué)法學(xué)院,浙江 寧波 315211;2.江西師范大學(xué)政法學(xué)院,江西 南昌 330022)

    算法、數(shù)據(jù)和算力是人工智能的三大要素,凡有人工智能應(yīng)用的地方就有算法,智能手機、網(wǎng)絡(luò)搜索、個人征信評估、人臉識別,甚至我們利用計算機編輯文字等等,都離不開算法。相應(yīng)地,人們也開始就算法的影響,尤其對法律制度的影響,進行分析和研判,推出了不少的研究成果。不過,大多文獻(xiàn)從宏觀角度展開。事實上,算法在不同領(lǐng)域的應(yīng)用帶來的影響并不相同,如就商業(yè)領(lǐng)域而言,算法引起的歧視、大數(shù)據(jù)殺熟、對隱私權(quán)的侵犯等等只是人工智能時代的一種新的現(xiàn)象,它們會引起法律理論的變革,需要創(chuàng)制制度安排,但不會對法律理論與實踐帶來根本性影響。但算法在法律制度中的應(yīng)用,算法成為法律的內(nèi)容,則會直接沖擊法律理論與實踐。再者,因算法的自動化程度不同,由其帶來的影響也不同。比如算法用于檢索法律法規(guī)和裁判文書,帶來的影響就是輕微的;而如果從對證據(jù)事實的識別到法律的適用全由算法自動完成,就會徹底改變司法審判的性質(zhì)。

    當(dāng)然,不管怎樣,算法的應(yīng)用總會帶來影響。正因為如此,學(xué)界普遍認(rèn)為算法即權(quán)力,并指認(rèn)算法是新的權(quán)力形態(tài),[1]或者是一種社會權(quán)力,[2]或認(rèn)為它是可以影響和改變社會秩序的軟性權(quán)力。[3]有的學(xué)者還概括出算法的權(quán)力基礎(chǔ)與特征,包括機器優(yōu)勢、架構(gòu)優(yōu)勢和嵌入優(yōu)勢,以及由之生成的跨越性和隔離性兩個特征。[4]p38然而,如果算法即權(quán)力的話,那么,就必須將之置于權(quán)力理論的解釋框架之內(nèi)。進而,就必須闡明算法與法律的關(guān)系。

    有學(xué)者將算法等同于法律,算法權(quán)力就是法律權(quán)力,[5]因它有能力通過技術(shù)手段規(guī)范人們的行為。由此得出算法權(quán)力下法律無用或功能消亡的結(jié)論。[6]阿爾圖·考夫曼援引溫弗里德·哈斯?fàn)栆矊懙?,法律的語言及法律的解釋與運用,只有當(dāng)法律規(guī)范在其語法學(xué)和語意學(xué)的范圍內(nèi),被翻譯成象征性符號語言,才有可能。如此,一個走向“判決”的電腦是可能的。此時,所產(chǎn)生的法律是另外一種“法律”,與法官通過判決所說出來的法律是不同的。[7]p143

    誠然,我們現(xiàn)實生活中的算法應(yīng)用例子,如滴滴打車、外賣平臺,在新冠疫情應(yīng)對中的健康碼、行程碼等等,算法都似乎在創(chuàng)制規(guī)則,都在用它創(chuàng)制的規(guī)則支配人們的行為,都給人一種算法即法律的感覺。如果行政執(zhí)法和司法裁判也由算法自動完成,人們更會覺得完全生活在算法的統(tǒng)治之下。然而,學(xué)術(shù)研究僅僅停留在感覺,或者僅僅依據(jù)感覺是不夠的。任何的技術(shù)的發(fā)展始終有著哲學(xué)理論的支撐,正是理論為它描繪了方向,為它劃定了邊界。因此,如蘇力教授說的,法律與科技的問題若作為法理學(xué)問題,就應(yīng)當(dāng)對其中的根本性問題做出哲學(xué)思考。[8]

    這里所說的根本性問題無疑就是算法的性質(zhì)。我們只有在權(quán)力理論的框架內(nèi)闡明算法的性質(zhì),才能夠準(zhǔn)確地回答算法會不會取代法律的問題,才能夠客觀地評判算法給法律理論與實踐帶來的影響,進而才能正確地指引算法時代的法律變革。

    一、算法與權(quán)力:算法即權(quán)力的謬誤澄清

    (一)算法:計算機程序解決問題的方法

    “算法”并非人工智能時代才有的新生事物,其實它有著悠久的歷史。在原始社會,人們使用結(jié)繩、枝條、鵝卵石等作為輔助計算或計數(shù)的工具,以此解決一些實際的問題。比如,在處理糾紛的時候,當(dāng)事人每陳述一個理由就投放一顆玉米粒;部落戰(zhàn)亂時,用鵝卵石記錄雙方傷亡的人數(shù)并在戰(zhàn)后根據(jù)清算的卵石數(shù)量進行賠償。在此過程中每一個步驟都是一個運算,直至完成最后一步得出所要的結(jié)果,而“算法”則表示數(shù)字或符號的運算規(guī)則。

    隨著數(shù)學(xué)的發(fā)展,演繹推理的邏輯步驟也演化成為算法,計算和推理統(tǒng)一在“算法”術(shù)語之下。算法不再是單純的計算規(guī)則,而是解決實際或科學(xué)問題中概括出來的、一般性的計算程序,并且通常力求規(guī)格化,便于機械化的重復(fù)迭代,它們是一種歸納思維能力的產(chǎn)物。[9]p5所以,如果從數(shù)學(xué)角度來定義,算法就是以數(shù)學(xué)符號和方程式作為基本形式,通過對數(shù)據(jù)進行一系列的計算和推理步驟而得出結(jié)果的過程。

    計算機的問世使得機器的運行成為可以被計算的函數(shù),同時為科學(xué)研究解決問題提供了新的途徑和方法。算法也突破了傳統(tǒng)的數(shù)學(xué)應(yīng)用而進軍至計算機領(lǐng)域,逐漸成為技術(shù)和場景應(yīng)用的核心力量,從日常通訊、天氣預(yù)報到城市規(guī)劃、環(huán)境監(jiān)測等方面,算法作為一種科學(xué)計算方法被廣泛地應(yīng)用。此時,算法被定義為“解決某一特定問題而采取一種有限、確定、有效并適合用計算機程序來實現(xiàn)的解決問題的方法,是計算機科學(xué)的基礎(chǔ)” 。[10]p1

    毫無疑問,今天被人們熱議并引起擔(dān)憂的正是這種意義上的“算法”。人工智能是計算機科學(xué)的一個分支,主要研究“人的智能”理論和實質(zhì),并試圖開發(fā)出能夠模擬甚至超越“人的智能”的技術(shù)或應(yīng)用系統(tǒng),比如智能機器人、計算機視覺、機器學(xué)習(xí)和知識獲取、自動推理和搜索方法等方面的專家系統(tǒng)。當(dāng)前人工智能技術(shù)主要以機器學(xué)習(xí)算法為核心驅(qū)動,機器學(xué)習(xí)算法是使機器具有智能的根本途徑。算法的基礎(chǔ)是數(shù)據(jù)和算力,海量數(shù)據(jù)和強大的計算能力為機器學(xué)習(xí)算法的發(fā)展提供了基礎(chǔ)。尤其是機器的深度學(xué)習(xí)使算法實現(xiàn)了更高層次的智能化和精確性,通過將簡單低層的樣本組合形成更加抽象、高層并能夠表示類別屬性的模型。例如,無人駕駛汽車能夠識別停車標(biāo)志或場景以及電子設(shè)備實現(xiàn)語音控制,就得益于深度學(xué)習(xí)技術(shù)。機器深度學(xué)習(xí)的先進性在于不同應(yīng)用場景下能夠?qū)崿F(xiàn)自主預(yù)測和自動化決策,并且達(dá)到其他技術(shù)工具難以企及的精準(zhǔn)度。

    歸納起來,“算法”作為用計算機程序解決問題的方法,有著三個嶄新的特征:第一,可重復(fù)性。機器的基本特點就是可復(fù)制性,算法編寫好后可運行于任何一臺計算機,可不知疲倦地反復(fù)運行。只要是合法的輸入,就會輸出結(jié)果。可重復(fù)性意味著算法嚴(yán)格遵從規(guī)則,或者說它本身就是規(guī)則。同時,可重復(fù)性還意味著計算機程序能夠解決大規(guī)模的、復(fù)雜的問題。人腦也可反復(fù)計算諸如2*3=6這樣的簡單問題,但對于復(fù)雜的問題不僅總有可能出錯,而且在具有創(chuàng)造性的活動中(比如寫作),基本是不可重復(fù)的。第二,高度形式化。在計算機技術(shù)中,計算就是晶體管的關(guān)開活動,“信息論之父”克勞德·香農(nóng)首先發(fā)現(xiàn)了這一點。某個晶體管在另一個打開時也打開,或者在另一個打開時關(guān)閉,這就是兩種不同的邏輯計算。如果問題復(fù)雜就用更多的晶體管,形成更復(fù)雜的關(guān)開組合。所以,佩德羅·多明戈斯說,任何算法都能分解為三種邏輯運算:且,或,非。通過結(jié)合邏輯運算,就可以進行任何復(fù)雜的推理。[11]p4第三,精確性。一種算法是一套簡單而精確的指令,只有精確的指令計算機才能執(zhí)行。[12]p5第四,有效性。智能既是一種實現(xiàn)復(fù)雜目標(biāo)的能力,同時也是一種時間性的能力。如果算法不能在毫秒或者微秒級內(nèi)完成復(fù)雜的任務(wù),就不能稱之為革新的力量。一個能給出正確輸出但耗時很長的算法幾乎是沒有什么價值的。[13]p67

    (二)算法不具有權(quán)力的基本特征

    權(quán)力是政治與社會哲學(xué)中古老和核心的概念,但對權(quán)力的認(rèn)識差異巨大。如霍布斯說權(quán)力就是“人們追求一切顯而易見的未來的利益而采用的一切現(xiàn)實手段”。[14]p62馬克斯·韋伯認(rèn)為權(quán)力指“一個人或很多人在一種共同體行動中哪怕遇到其他參加者的反抗也能貫徹自己意志的機會”。[15]p246拉斯韋爾認(rèn)為“權(quán)力是施加影響力的特例”。[16]74伯特蘭·羅素則說,權(quán)力是“若干預(yù)期結(jié)果的產(chǎn)生”。[17]p26顯然,權(quán)力定義中的核心要素即對人的影響,包括影響意志或思想,也包括影響行為。所不同的是,羅素認(rèn)為這種影響的實際發(fā)生是權(quán)力定義的構(gòu)成要素;而其他學(xué)者則認(rèn)為只是一種潛在性、可能的影響。丹尼斯·朗贊同“潛在性”或“傾向性”是權(quán)力的基本特征,堅持權(quán)力是一種關(guān)系,即權(quán)力擁有者與權(quán)力對象之間的關(guān)系,他將權(quán)力定義為“一部分人在另一部分人身上產(chǎn)生預(yù)期的和預(yù)料的效果的那種能力?!盵18]p3我國學(xué)者也傾向于將權(quán)力理解為能力和關(guān)系,如認(rèn)為“權(quán)力是特定主體將他的意志強加于他人使之產(chǎn)生壓力,進而服從的一種能力”,[19]p188“權(quán)力是合法確認(rèn)和改變?nèi)穗H關(guān)系或處理他人財產(chǎn)或人身的能力”,[20]p111“權(quán)力是一個人根據(jù)自身需要,影響乃至支配他人的一種力量,是一種關(guān)系范疇,是一種強制力量”。[21]p202將權(quán)力視為一種關(guān)系,能夠?qū)?quán)力和那種純粹的物理力量(如體力)區(qū)分開來。不過,上述對權(quán)力的界定,除羅素以外,都將權(quán)力視為人們的“擁有物”,即“A-B模式”或“利益—沖突模式”。帕森斯和阿倫特批評“利益—沖突模式”混淆了權(quán)力與強權(quán),提倡“權(quán)威—媒介模式”。在他們看來,權(quán)力是“能夠為有效的集體行動調(diào)動資源的一般化媒介”,“權(quán)力從來不是個人的財產(chǎn),它屬于一個集團”。[22]p314然而,“權(quán)威—媒介模式”顯然也并非是“A-B模式”的替代?!皺?quán)威—媒介模式”所針對的主要是那種源于規(guī)范的集體性權(quán)力,比如法律權(quán)力,道德權(quán)力,以及其他基于組織規(guī)則制度而產(chǎn)生的權(quán)力。對于個體性權(quán)力,比如醫(yī)生的專業(yè)能力(權(quán)力),唯有“A-B”模式才能解釋。

    認(rèn)識可以獲得知識與拓展知識,但對于認(rèn)識的對象而言,認(rèn)識就是“再發(fā)現(xiàn)”,它不能提供任何更多的東西。所以,對權(quán)力的不同認(rèn)識,必定是權(quán)力本身包括這些不同的方面。如此,可以認(rèn)為,權(quán)力作為一種關(guān)系,它包括意圖、潛在性、有效性等屬性或要素。在最廣泛的意義上,我們可以把權(quán)力定義為:社會關(guān)系中意圖對人施加的潛在影響。并且,從學(xué)者的不同認(rèn)識中,可以看到權(quán)力包括這樣兩種基本的類型:集體性權(quán)力與個體性權(quán)力。

    顯然,算法不具有權(quán)力的基本特征,算法給人們帶來的影響不同于權(quán)力的影響。算法有著明確的目的性,但算法的目的是設(shè)計者設(shè)定的目標(biāo)——解決問題。即使算法發(fā)展到能夠自我更新、自我演進,生成自主的規(guī)則的程度,如同佩德羅·多明戈斯說的計算機開始自主編程,算法的目的也還是設(shè)計者設(shè)定的目標(biāo)。比如在基于學(xué)習(xí)算法的中國象棋游戲中,不管你如何玩花樣,算法都只會快速地取勝。如果不吃子就能夠取勝的話,它絕對不會亂費時間去吃子。算法解決問題必須遵從規(guī)則,但這種規(guī)則只是計算的規(guī)則,構(gòu)成和約束算法自身。算法是解決問題的現(xiàn)實方法,也就不具有潛在性。計算機程序員編寫好算法,如果沒有實際投入運行,則沒有任何意義,甚至可視為算法根本不存在。所以,算法的有效性指的是“實效”,不同于權(quán)力將有效性指向效力。

    算法本質(zhì)上是用計算機代替人類的推理或計算,但算法不是個體性權(quán)力。個體性權(quán)力相對于集體性權(quán)力在于社會將權(quán)力賦予個人,權(quán)力是現(xiàn)實個體人擁有的能力,依附于他的身體。因此,個體性權(quán)力的意圖是個體人影響他人的主觀意愿;個體性權(quán)力也有著潛在性的特征,但在其實現(xiàn)之前談?wù)摍?quán)力的存在是沒有實質(zhì)意義的,個體性權(quán)力的有效性也往往和實效性結(jié)合在一起。然而,算法本身具有無主體性,算法編寫好之后便可自動運行,算法的擁有者(包括程序員)無法對計算的過程施加任何控制,所有人都只能就計算的結(jié)果選擇接受或不接受。

    (三)將算法等同權(quán)力的根源在于混淆范疇

    依據(jù)上文可發(fā)現(xiàn),算法根本上是事實的范疇,只有在具體實踐中才有意義。而權(quán)力始終是規(guī)范的概念,不同范疇之間的事物不會有矛盾,但絕不會等同。

    區(qū)分事實與規(guī)范是新康德主義的執(zhí)念,施塔姆勒、拉德布魯赫、凱爾森是我國學(xué)界比較熟悉的代表性人物,后來者還包括費爾德羅斯、肯普斯基等。其中,凱爾森最為“極端”,他將立法、行政命令、司法裁判、私法行為等嚴(yán)格置于事實范疇,而法是附著于這些行為的意義。[23]p38約翰·塞爾被認(rèn)為是質(zhì)疑事實與規(guī)范二分的學(xué)者,他舉出許諾的例子說明可以從“是”推出“應(yīng)當(dāng)”。[24]p177不過,塞爾說的許諾事實是一種以言行事的言語行為,屬于基本的制度事實,暗含權(quán)利與義務(wù)。而制度,不僅指“能讓我們創(chuàng)立制度性事實的集體接受的規(guī)則系統(tǒng)”,具有“在背景C中,X被視為Y的邏輯形式”,還要具備基本的條件,即地位功能和道義權(quán)力。在《行為合理性》中,他進一步說道:包括語言事實在內(nèi)的所有制度性事實都牽涉到道義力量,因為語言把地位功能附加在無情的事實上,我們自由而合理地創(chuàng)造了制度性事實,我們受附加的承諾和義務(wù)束縛。簡言之,你的承諾束縛著你,因為是你的承諾。[25]p180這也就是說,塞爾之所以能從“是”推出“應(yīng)當(dāng)”,是因為“是”是一個制度事實,包含“應(yīng)當(dāng)”的意義。如此,塞爾關(guān)于事實與規(guī)范的觀點其實與凱爾森的差別并不是太多。

    二、算法的應(yīng)用使權(quán)力從規(guī)范性轉(zhuǎn)向事實性

    (一)算法:權(quán)力行使的新方式

    然而,人工智能時代,算法能夠以其運行邏輯為依據(jù)來支配個人以及社會朝著既定方向發(fā)展從而實現(xiàn)預(yù)期目標(biāo),顯然具有權(quán)力的外觀,給人一種實在的“權(quán)力感”。以算法平臺對騎手的控制為例,從訂單自動分配、設(shè)置送達(dá)時間到規(guī)劃配送路線,算法控制著整個流程,包括根據(jù)騎手的績效評估決定對其實施獎懲。騎手只能聽從算法程序的指令和支配,自己毫無選擇的余地。至于新冠疫情防控中的“健康碼”的例子,更是人人熟悉。2020年2月4日,中央網(wǎng)信辦頒發(fā)《關(guān)于做好個人信息保護利用大數(shù)據(jù)支撐聯(lián)防聯(lián)控工作的通知》,鼓勵有能力的企業(yè)在有關(guān)部門的指導(dǎo)下,積極利用包括個人信息在內(nèi)的大數(shù)據(jù)為疫情聯(lián)防聯(lián)控提供支持。隨后,各地政府紛紛與技術(shù)企業(yè)合作推出“自己”的健康碼。技術(shù)企業(yè)在行政機關(guān)的授權(quán)下對個人的基本信息、健康狀況、位置行蹤等相關(guān)數(shù)據(jù)進行采集和分析,個人在線上提交申領(lǐng)后,算法系統(tǒng)根據(jù)評級模型和行政機關(guān)的評判標(biāo)準(zhǔn)自動生成決策結(jié)果。目前最普遍的是以綠碼、黃碼、紅碼來表示疫情風(fēng)險等級,不同顏色標(biāo)識的健康碼對應(yīng)著不同的管控措施。如江西省要求“紅碼”持有人員由相關(guān)機構(gòu)和社區(qū)嚴(yán)格管控;“黃碼”持有人員嚴(yán)格落實居家隔離醫(yī)學(xué)觀察要求,自覺接受社區(qū)管理;“綠碼”人員體溫檢測正??梢猿鲂泻蛷?fù)工。

    不過,必須看到,在算法的權(quán)力外觀和“權(quán)力感”背后,起基礎(chǔ)性和支配性作用正是獨立于算法的權(quán)力。外賣騎手之所以服從于平臺算法的控制,基于公司對他們的管理權(quán)力,如果公司的管理松弛,算法再如何精準(zhǔn)分配訂單、嚴(yán)格限定時間和規(guī)劃配送路線,騎手完全可以置之不理。新冠疫情防控中的“健康碼”背后則是我國政府對疫情防控強有力的行政權(quán)力,可以設(shè)想,即使沒有“健康碼”但采取嚴(yán)格的人盯人監(jiān)視措施,同樣可以達(dá)到疫情防控的效果。在其他例子中,可以看到同樣的結(jié)論,比如“算法歧視”,如果平臺經(jīng)濟實體沒有經(jīng)濟性權(quán)力,歧視無法產(chǎn)生。

    既然如此,人們的 “權(quán)力感”又是如何產(chǎn)生的呢?權(quán)力是人類社會自始就存在的現(xiàn)象,為何人們在算法應(yīng)用中才感受到它? 答案顯然在于算法本身。如果將權(quán)力類比自然界的力,那么,算法應(yīng)用中的權(quán)力方向、作用點并沒有改變,但大小發(fā)生了改變——算法使權(quán)力變得更為強大。申言之,算法不是權(quán)力,但卻是權(quán)力行使的新方式。正是權(quán)力通過算法這種新的方式行使,使其被放大而被人們實在地感知。

    前文指出,權(quán)力包括意圖、潛在性、有效性等屬性。權(quán)力的意圖即目的性,權(quán)力的目的簡單地說就是希望他人服從,或者是服從個人的意志,或者是服從確定的行為模式。權(quán)力的潛在性將權(quán)力本身與對他人的實際影響區(qū)分開來,如果并沒有產(chǎn)生實際影響,也就有權(quán)力行使的概念,權(quán)力的行使可以是個體人行使也可以通過機器自動化行使,在理念層面都是為實現(xiàn)權(quán)力的目的,但由于現(xiàn)實條件的限制有可能達(dá)到的實際效果和權(quán)力本身的目的會有所差別,尤其是個體人行使權(quán)力時不可避免地會受到利益、能力和情緒等等因素的影響,這樣就完全有可能偏離權(quán)力本身的目的。而當(dāng)權(quán)力由算法行使時,不僅完全避免了個體人的這些缺點,而且,它的可重復(fù)性、高度形式化、精確性和有效等特征幾乎能夠消除權(quán)力的潛在性與現(xiàn)實性之間的區(qū)別。所以,當(dāng)算法主義主張任何事情、人、人際關(guān)系、文化、社會價值等都能夠還原為不同的算法,一切皆可算法化,所有決策和評價的標(biāo)準(zhǔn)將由算法構(gòu)建時,那些散見在社會毛細(xì)血管中的細(xì)微權(quán)力也能被人們深刻地感覺到,當(dāng)人們幾乎無法逃避權(quán)力的監(jiān)管時,權(quán)力的強大感也就由然而生。

    并且,算法應(yīng)用的兩個基本條件也對權(quán)力有著明顯的放大作用:第一,算法的穩(wěn)定性。算法編寫好之后需要經(jīng)過復(fù)雜的測試,只有在它性能穩(wěn)定時才會投入應(yīng)用,而一旦投入應(yīng)用也就意味著除非出現(xiàn)系統(tǒng)錯誤才會停止運行。因而,算法具體的運行就成為黑箱,算法本身不需要也無法解釋它推算的過程,對于復(fù)雜的算法,甚至程序員也難以明白它究竟是如何運行的。所以,當(dāng)權(quán)力由算法行使時,權(quán)力具有隱蔽性,實現(xiàn)了“隱身”。[26]“隱藏”起來的權(quán)力更具神秘色彩,被這些新技術(shù)“約束”的人們,自然而然地有一種強烈的被淪為客體、被宰制的感覺。第二,算法應(yīng)用必需具有規(guī)模性。只有針對大規(guī)模的對象才有編寫算法的必要,算法才能實現(xiàn)它的效率價值。由此,必然使得權(quán)力呈現(xiàn)彌散化。算法應(yīng)用下的權(quán)力成為??抡f的“無處不在的權(quán)力”,權(quán)力的總量被放大。

    (二)算法對權(quán)力性質(zhì)的改變:從規(guī)范性到事實性

    不僅如此,算法行使權(quán)力也改變了權(quán)力的性質(zhì)。前文闡明權(quán)力是規(guī)范的范疇,不論是源于規(guī)范的集體性權(quán)力,還是作為能力的個體性權(quán)力,規(guī)范性都是其基本特征。在哲學(xué)層面,規(guī)范與事實的對應(yīng)也即可能性與現(xiàn)實性的兩分,就如康德在《判斷力批判中》得出的:知性不可避免地要在事物的可能性與現(xiàn)實性之間鑄出鮮明的區(qū)分。[27]p245康德并非要以實證的和獨斷的方式來斷言確實存在著一個神的理智、一個創(chuàng)造性的直觀,而只是利用這樣一種“直觀的知性”概念來描述人類理智的性質(zhì)和范圍。人類理智是一種“推論的知性”,它依賴于兩種異質(zhì)的要素:我們不能離開表象而思維,也不能離開概念去直觀?!案拍顭o直觀則空;直觀無概念則盲”。在康德看來,正是知識的根本條件這方面的二元論,構(gòu)成了可能性與現(xiàn)實性的區(qū)別的根源。類似地,卡西爾也說到,人類知識就其本性而言就是符號化的知識,符號化的思維在現(xiàn)實與可能、實際事物與理想事物之間做出鮮明的區(qū)別,是必不可少的?,F(xiàn)實性與可能性的區(qū)別并非形而上學(xué)的區(qū)別而是認(rèn)識論的區(qū)別。即便是經(jīng)驗主義者所推崇的“科學(xué)的事實”也總是含有一個理論的成分,亦即一個符號的成分。[28]p81

    對權(quán)力的規(guī)范性理解最大的困難在于兩個方面,一是對權(quán)力強制性的規(guī)范證成;二是對權(quán)力存在的本體論證明。權(quán)力無疑具有強制性,權(quán)力希望或者要求人們?yōu)榛虿粸槟撤N行為,并且都預(yù)設(shè)了不服從的可能性,即考慮到了人們不一定按照權(quán)力預(yù)期行動,因而有法律責(zé)任或強制性措施。但是,強制本身并非權(quán)力的意圖,嚴(yán)格來說,強制和權(quán)力密切關(guān)聯(lián)卻并非權(quán)力規(guī)范理論的內(nèi)容。丹尼斯·朗在對“強制性權(quán)威”的論述中清楚地表達(dá)了這點,他說道, 如果A欲以武力威脅B使他服從,并且,使B確信其具有對他使用武力的能力和愿望。那么,就可認(rèn)為A擁有強制性權(quán)威。A可能通過語言或行動、或工具使B相信他具有這種能力,比如警察將手槍掛在腰部,街頭混混光著上身露出發(fā)達(dá)的二頭肌。當(dāng)用這種方法無效時,就可能使用實際的武力,但其目的只是在權(quán)力對象的心中建立起可信性,從而創(chuàng)造基于武力威脅的未來權(quán)力關(guān)系。[18]p48對權(quán)力存在的證明,在各種權(quán)力定義的分歧中就可看到復(fù)雜性,比如對羅素來說,如果沒有出現(xiàn)權(quán)力追求的實際效果,也就不能認(rèn)為存在權(quán)力。這種看法尤其對于個體性權(quán)力具有直覺上的解釋力,病人如果沒有聽從醫(yī)生的意見,人們往往當(dāng)然地認(rèn)為醫(yī)生不擁有權(quán)力。然而,將可能性與現(xiàn)實性混同不僅違背人不同于神的根本指認(rèn),也和我們對專業(yè)能力的定義相左。對于醫(yī)生來說,即使他在睡覺也不影響我們說他擁有作為專業(yè)能力的權(quán)力。

    當(dāng)然,權(quán)力不可能永遠(yuǎn)停留在規(guī)范層面,追求它的實際效果是權(quán)力的本性。權(quán)力從可能性到現(xiàn)實性的中間環(huán)節(jié)就是權(quán)力的運行或行使。權(quán)力從其規(guī)范性特征出發(fā),本質(zhì)上能夠“自發(fā)運行”,即人們能夠自愿服從于它。而可能性與現(xiàn)實性的區(qū)分又表明這種自愿服從始終只是追求的方向,對權(quán)力的反抗才是具體生活的現(xiàn)實。由此,權(quán)力的行使不可缺少。正是權(quán)力的行使能夠保證權(quán)力從可能性向現(xiàn)實性過渡。然而,前文也提到,當(dāng)權(quán)力由個體人行使時,因為總會受到個體因素的影響,可能偏離權(quán)力的目的,從而使得權(quán)力對現(xiàn)實性的追求懸空。算法行使權(quán)力則完全避免了這些缺點,正是算法確定地保證了權(quán)力不偏不倚地實現(xiàn)它的目的。因而,也可以說,只要算法行使權(quán)力,可能性與現(xiàn)實性之間的差異就不再重要,權(quán)力其實一開始就因為算法而擁有了現(xiàn)實性。

    (三)權(quán)力的事實性對法律的影響:事實權(quán)力的生成

    至此,我們可以整體洞察算法應(yīng)用對法律制度的真正影響。前文闡明只有算法在法律制度中的應(yīng)用,才會直接沖擊法律理論與實踐,尤其是全自動化的算法應(yīng)用,還會徹底改變司法審判的性質(zhì)。因而,對于算法、權(quán)力與法律的有意義的探討,其實必須鎖定于此。相應(yīng)地,權(quán)力概念也需要置于法律的理論層面,從中我們可以看到,算法對法律制度的根本影響,乃在于使得法律權(quán)力現(xiàn)實地表現(xiàn)為事實權(quán)力。

    權(quán)力是法學(xué)的核心概念,哈特說,“如果不能深入理解權(quán)力,也就不能理解現(xiàn)代法律制度的結(jié)構(gòu),以及法律的若干重要特點”。[29]p195然而,法哲學(xué)或法理學(xué)的基本傳統(tǒng)卻是一種法律與權(quán)力的二元論。其又有兩個不同的版本,一是福柯說的啟蒙時代之前法律作為權(quán)力的附庸,二是法律實證主義以來開端的法治傳統(tǒng)認(rèn)為權(quán)力受法律的限制。頗具悖論性的是,法律實證主義拋出權(quán)力與法律的二元論,卻也從另一側(cè)面突出了“法律權(quán)力”。從奧斯丁到凱爾森都將立法與法律嚴(yán)格區(qū)分,同時強調(diào)法律的秩序價值。如施塔姆勒說的,“法本身表現(xiàn)為一種有別于倫理、規(guī)約或?qū)嘁庵镜娜祟愐庵?,意味著不可違背且至高無上的、起聯(lián)合作用的意志。”[30]p92如此,“立法者不存在,法律依然存在”,不僅法律的權(quán)力特征一覽無遺,法律權(quán)力也完全獨立于立法權(quán)力與行政權(quán)力。

    事實上,既然無人能夠否認(rèn)法律本質(zhì)上是一種社會規(guī)范,也就必須將法律本身理解為權(quán)力——一種源于規(guī)范的集體性權(quán)力。正是從法律權(quán)力推導(dǎo)出法的效力、概括性守法義務(wù)等概念。并且,正因為法即權(quán)力,法律才能構(gòu)成對行政權(quán)力的制約。而從權(quán)力角度,我們也能深層透析法律規(guī)范及其運行的特點,法律規(guī)范的基本內(nèi)容就是規(guī)定“不得”“應(yīng)當(dāng)”“禁止”等行為模式,也即創(chuàng)設(shè)“義務(wù)”。義務(wù)意味著對行為人的約束,但它并非物理性的約束?;舨妓箤⒘x務(wù)作為自由的對立面,就人與天、地以及萬事萬物都服從造物主而言,這種義務(wù)就是物理性義務(wù)。不過,霍布斯表示這種用法只是為了使自由的概念和上帝的全能不相沖突。[14]p164就人們服從市民法而言,霍布斯主張在危及自我保全時,可以不服從。并且,霍布斯認(rèn)為義務(wù)的概念本身蘊含有效條件,當(dāng)義務(wù)在邏輯上不可能時,人們不負(fù)義務(wù)。[31]p99對法律義務(wù)影響最大的是康德的義務(wù)理論,康德的義務(wù)是出于對法則敬重的一個行動的必要性,是理性的絕對命令。但義務(wù)概念只針對作為有限理性者的人類,對非理性的自然界與動物以及完全理性的上帝都無義務(wù)可言。[32]p407、421所以,義務(wù)指“應(yīng)當(dāng)”,不等同于“必須”,更是根本區(qū)別于物理法則支配的“必然”,義務(wù)在本質(zhì)上始終與自由以及選擇相容。只有在人們拒絕履行義務(wù)時,法律強制或制裁才得以適用,而強制或制裁的目的主要指向未來——希望人們在將來自覺履行義務(wù)。

    算法的應(yīng)用給人“強制感”,但算法本身并非強制。新冠疫情應(yīng)對中的“健康碼”排除了人們的判斷和選擇,無論是質(zhì)疑或反抗,都必須服從。但是,實際性的強制措施,比如對“黃碼”持有者的限行、對“紅碼”持有者的隔離,顯然是由實實在在的個體人完成的。所以,就算法本身而言,它在權(quán)力行使中的作用主要是判斷或決策。只有在嚴(yán)密且高效的權(quán)力網(wǎng)絡(luò)中,算法的應(yīng)用才會形成對人的一種事實支配效果。算法的判斷或決策在本質(zhì)上也即將法律義務(wù)“代碼化”、“確定化”,雖然并非創(chuàng)造一種新的義務(wù),卻因為嚴(yán)密且高效的權(quán)力網(wǎng)絡(luò)使得義務(wù)在事實上如同物理性的約束。相應(yīng)地,法律權(quán)力實際上體現(xiàn)為事實權(quán)力,表現(xiàn)為一種具有事實支配效果的物理性力量。

    “事實權(quán)力”術(shù)語在我國首先是學(xué)者對地方政府財政自主權(quán)的研究中提出來的,認(rèn)為地方政府根據(jù)非正式制度分派的財政自主權(quán)不是規(guī)范主義下的法定權(quán)力,而是一種指向事實效果的事實權(quán)力。[33]在西方國家,學(xué)者們通常在對權(quán)力與權(quán)威的區(qū)分中,將權(quán)力等同于“事實權(quán)力”(威)。如沃爾夫區(qū)分權(quán)力與權(quán)威,權(quán)力是做出并實施決定的能力,權(quán)威指發(fā)布命令的權(quán)利以及相關(guān)的得到服從的權(quán)利。在沃爾夫看來,權(quán)威的正當(dāng)性唯有因被統(tǒng)治者的同意而得到證明,因而,現(xiàn)實中政府在絕大多數(shù)情況下都是在行使事實權(quán)威?!笆聦崣?quán)威”即那種使自己的權(quán)威主張得到它所針對的人群接受的能力,因而也是一種權(quán)力。[34]p97-99沃爾夫承認(rèn)“事實權(quán)威”也源于法律的規(guī)定,但它指向的是事實效果,排除服從者的自主選擇。

    本文這里的“事實權(quán)力”也著眼于它指向事實效果,而不從價值角度評判其合法性。并且,算法的應(yīng)用使得法律權(quán)力現(xiàn)實表現(xiàn)為事實權(quán)力,并非指本體論意義上的權(quán)力本身改變,而僅是其表現(xiàn)出來的性質(zhì)變化。所以,一方面我們可以直觀地看到,算法的應(yīng)用實在地增強了權(quán)力的效果,無論是商業(yè)領(lǐng)域、還是公共管理與法律實務(wù)中的應(yīng)用都有著明顯的效率價值;另一方面算法應(yīng)用也必然對法律整體產(chǎn)生重大沖擊。

    三、事實權(quán)力下算法對法律的深層挑戰(zhàn)

    (一)對法的價值沖擊

    算法的應(yīng)用顛覆了傳統(tǒng)價值觀念,將事實判斷和價值判斷的等同。事實權(quán)力下的算法技術(shù)理性開始驅(qū)逐人的理性,形成了黑箱倫理、效率倫理和工具倫理等算法價值,法律價值受到?jīng)_擊。

    首先,算法對自由價值的沖擊。從權(quán)力角度,關(guān)于自由價值的爭議主要體現(xiàn)在權(quán)威與自治的沖突之中。沃爾夫最早提出權(quán)威與自主性的矛盾,他從康德那里借來“自律”概念,自律就是自我立法,自我選擇和自我責(zé)任。道德自律是自由與責(zé)任的結(jié)合,是一個人對自己所立之法的服從。所以,按照沃爾夫的觀點,如果一個正常的社會是一個自律的社會,在這種社會中似乎沒有辦法解決個人自律與權(quán)威之間沖突。在沃爾夫之后,眾多學(xué)者嘗試以各種方法解決這種權(quán)威悖論,付出努力最多的是通過弱化權(quán)威使之能夠與自治相容,然而,這必然從根本上動搖權(quán)威在于發(fā)號施令的本質(zhì)。斯科特·夏皮羅認(rèn)為拉茲通過兩個獨特主張為解決權(quán)威悖論提供了思路,從而有對權(quán)威之理性服從的可能性。但是,夏皮羅同時也發(fā)現(xiàn),如果將自治理解為自決,那么,權(quán)威與自治之間的沖突就不可避免。一個自主決定的行為,就不是由權(quán)威決定的。[35]p445-449恩格斯也論述過權(quán)威與自治(自主性)的關(guān)系,他指出:把權(quán)威說成是絕對壞的東西,把自治說成是絕對好的東西,都是荒謬的。權(quán)威和自治是相對的,它們的應(yīng)用范圍是隨著社會發(fā)展階段的不同而改變的。[36]p276-277與之類似地,羅素也說控制和自主性是各自的領(lǐng)域,一個健全而進步的社會既需要集中控制,也需要個人和群體的積極性;沒有控制,會出現(xiàn)無政府狀態(tài);沒有積極性,則會出現(xiàn)停滯。[37]p71既然如此,算法的應(yīng)用、尤其是在算法主義之下,當(dāng)法律權(quán)力無一例外地體現(xiàn)為事實權(quán)力,人們無一例外地沒有自主選擇的機會,在此基礎(chǔ)上型構(gòu)的社會必然不是法治社會的應(yīng)有狀態(tài)。

    其次,算法對平等價值的沖擊。法律的平等是主體能夠在平等的規(guī)則下獲得平等的機會和待遇,包括形式平等與實質(zhì)平等,平等要求排除特權(quán)和消除歧視。算法決策在本質(zhì)上必然是“千篇一律”的,其為簡單平等提供保證并和事實權(quán)力契合保證了效率。然而,法律追求的平等是理想的,也是現(xiàn)實的,法律本身始終是理想與現(xiàn)實之間的中間王國。所以,法律所促進的公平必然是一種復(fù)合的公平。喬治·費雷德里克森認(rèn)為,一個復(fù)合的社會公平至少包括單純的個人公平、分部化的社會公平、集團公平、機會的公平等等,在任何致力于實現(xiàn)社會公平的努力中,不僅要確定公平適用的領(lǐng)域,而且要確定公平的類型。[38]p108廣為人知的羅爾斯正義二原則所設(shè)計的其實也是一種復(fù)合的公平。在商業(yè)領(lǐng)域中,算法對海量數(shù)據(jù)的收集、分析、處理和反饋催生了算法個性化推薦機制,能夠?qū)崿F(xiàn)“千人千面”、“精準(zhǔn)推送”。然而,這種個性化的背后其實是高度形式化的、可復(fù)制的消費者。所謂的“個性”只是算法設(shè)計者構(gòu)想的個性,是經(jīng)過層層符號化處理的簡單特征。

    (二)對權(quán)利義務(wù)基本范疇的挑戰(zhàn)

    從算法角度來說,任何個體人都只是算法處理的對象,是透明且標(biāo)簽化的數(shù)據(jù)體。算法“反客為主”將人變成支配對象,必然會使權(quán)利義務(wù)范疇受到侵蝕,個人權(quán)利難以抵抗強硬的事實權(quán)力而屢被侵犯,甚至有瓦解的可能;義務(wù)在算法事實權(quán)力支配下失去現(xiàn)實意義而面臨消解的風(fēng)險。

    首先,權(quán)利概念被瓦解的可能。權(quán)力的正當(dāng)性在于其是否能夠向權(quán)利合理轉(zhuǎn)化并反作用于權(quán)利,使得權(quán)利與權(quán)力相互調(diào)和,從而平衡社會的利益關(guān)系。而權(quán)力的不合理轉(zhuǎn)化則易使其侵犯性顯現(xiàn),對權(quán)利產(chǎn)生潛在風(fēng)險或?qū)嵸|(zhì)損害。事實權(quán)力下的算法實現(xiàn)了對個人和社會的強制支配,個人權(quán)利面臨著隨時可能被侵犯的風(fēng)險。比如,算法歧視下對平等權(quán)的侵犯、大數(shù)據(jù)收集對隱私權(quán)和個人信息權(quán)的侵犯。不可否認(rèn),正是數(shù)據(jù)和記錄,讓人類社會中一些精細(xì)的、微妙的、隱性的難以捕捉表述的關(guān)系和知識,得以顯性化。因為數(shù)據(jù)和記錄,人類能夠清晰、精確地管理自己的生活,能夠在前人經(jīng)驗之上繼續(xù)探索新的文化;因為數(shù)據(jù)和記錄,事實能夠超越時空界限被保存再現(xiàn),人們的僥幸心理得到抑制,人性的幽暗之處得以變得光亮。與之同時,傳統(tǒng)的隱私權(quán)或個人信息保護制度則協(xié)調(diào)著數(shù)據(jù)記錄過程中的利益沖突,維護著公與私的平衡。然而,算法時代數(shù)據(jù)搜集與存儲的海量、記錄能力的超強,它克服了人類智力的有限性,事實上使得傳統(tǒng)隱私權(quán)或個人信息保護制度難以繼續(xù)發(fā)揮平衡作用,甚至使得權(quán)利的概念有瓦解的可能。

    其次,義務(wù)概念面臨消解的風(fēng)險。按照康德的觀點,普通人的理性承認(rèn)一件事情的道德價值不在于它的實用性,而在于行為者的“善良意志”,也就是說人的理性是為了實現(xiàn)包含了“善良意志”的概念——義務(wù)。換言之,義務(wù)本質(zhì)上體現(xiàn)為人的有限理性和自由意志的選擇。所以,前文指出,義務(wù)在本質(zhì)上始終與自由以及選擇相容。而算法排除人的理性判斷和自由選擇,所有結(jié)果嚴(yán)格按照算法程序規(guī)則輸出,行為的“應(yīng)然”與“實然”等同。雖然并未創(chuàng)造出新義務(wù)類型,但傳統(tǒng)的義務(wù)概念顯然面臨著消解的風(fēng)險。

    (三)法律主體制度危機

    如果從摩爾定律和圖靈機來看,技術(shù)方面并不存在“能不能”的問題,而只是“如何做”的問題。尤其是對于計算,斯蒂芬·沃爾夫勒姆認(rèn)為,只要一兩行代碼,就可以產(chǎn)生巨大的復(fù)雜性,甚至生成整個宇宙所需的代碼也可能只有幾行長。[39]p27沃爾夫勒姆的說法是煽動性的,但是從算法作為思維方式而言,本身必然是無界限的。今天的智能算法不再局限于計算機處理數(shù)據(jù)或執(zhí)行指令的運行模式,而是依托大數(shù)據(jù)和機器深度學(xué)習(xí),能否具有人的思維能力成為檢驗人工智能發(fā)展的標(biāo)準(zhǔn)。這種發(fā)展趨勢在某種程度上使人工智能算法越出了客體的范圍,因而,當(dāng)算法使得事實權(quán)力成為社會普遍支配力量時,勢必形成對人的法律主體地位的挑戰(zhàn)。

    盡管塞爾的“中文屋”例子到目前為止還難以有顛覆性的批評,智能算法模擬人始終只是模擬,無法成為真正的人。在法律領(lǐng)域,學(xué)界公認(rèn)形式化的法律推理存在局限性,圖爾敏是較早認(rèn)識到這種局限性的人之一,提出著名的“圖爾敏論證模型”??挤蚵J(rèn)為三段論的涵攝模式是將法官視為計算機,只會進行“0,1”、“非此即彼”的二值運算,法學(xué)的方法并非完全是理性邏輯推論過程,法律獲取程序的科學(xué)性并不在于將所有非理性要素都掩蓋起來,而只能在于對非理性要素也坦率地進行理性分析。[40]p16不過,法律決策的核心無疑就是形式邏輯,算法仍然抓住了法律決策的核心部分。法律的實踐面對的多樣性的、理性與情感并存的人。然而,算法的發(fā)展似乎也正在向這些被認(rèn)為專屬于個體人的領(lǐng)域進軍,2021年微軟推出的第九代智能小冰,注重模擬人類思維和情商擬合,能夠在交談、演唱等場景中,進行高度擬人的實時交互。所以,當(dāng)我們必須承認(rèn),法律中的人就是以形式邏輯定義的人,而人類的情感判斷本質(zhì)上也可用形式邏輯呈現(xiàn)時,算法模擬與真實世界之間的界限事實上模糊了。我們甚至必須承認(rèn)事實權(quán)力所支配的那種高度形式化、可復(fù)制的人其實正是我們法律中定義的人,盡管我們的內(nèi)心依然在抵抗這種理論的趨勢。

    四、邁向未來法:法律的反思性回應(yīng)

    縱觀歷史,技術(shù)前進的步伐從未停止,人工智能發(fā)展已是一個不可逆轉(zhuǎn)的趨勢。事實權(quán)力下算法對法律的挑戰(zhàn)顯然并非算法與法律的對立,勿寧說正是算法與權(quán)力、法律的結(jié)合構(gòu)成對法律的挑戰(zhàn)。我們應(yīng)該清醒地認(rèn)識到,所有對算法應(yīng)用的擔(dān)憂,任何算法應(yīng)用下的 “權(quán)力感”、“壓迫感”,根本上源于算法背后的法律規(guī)范、源于現(xiàn)代社會日益縝密與強大的權(quán)力。既然如此,當(dāng)前學(xué)界主張通過法律規(guī)制算法的手段不僅不符合未來發(fā)展趨勢,也未從根本上解決問題,算法時代所真正需要的是法律的反思性回應(yīng)。

    (一)以規(guī)劃法學(xué)作為未來法學(xué)的方法論

    反思性回應(yīng)是一種結(jié)構(gòu)性回應(yīng),不同于對策回應(yīng)的根本特點在于從整體結(jié)構(gòu)上進行調(diào)整以適應(yīng)時代的變化。算法的應(yīng)用使得法律明顯強調(diào)目的,強調(diào)目的-手段的工具理性,由之必然引起法的合目的性、安定性和正義之間的緊張。如拉德布魯赫說的,正義就是平等,法律的平等要求法律原則的一般性,正義在任何層面上都能得以概括。但是,從合目的性角度所有的不平等都是根本的,合目的性必須盡最大可能去適應(yīng)自己的需要。而法的安定性要求實證性,想要在不考慮正義性和合目的性的情況下具有有效性。[41]p75為此,未來的法律既要適應(yīng)突出強調(diào)合目的性的特點,也必須發(fā)展起調(diào)整性理念。

    規(guī)劃法(Planning Law)是美國耶魯大學(xué)教授斯科特·夏皮羅提出的一種新的實證主義法學(xué)理論,他從法哲學(xué)奠基性問題——法律權(quán)威來源中的雞和蛋悖論開始,認(rèn)為如果法律權(quán)威源于規(guī)范的話,那么制定規(guī)范的人必然需要擁有同樣的權(quán)威,而他的權(quán)威又只能源自于規(guī)范。為了防止墜入無效循環(huán),必需一個“終極權(quán)威”。自然法學(xué)將之歸于上帝或道德規(guī)則,背離不正義的法律也存在的事實,面臨“邪惡難題”;實證主義法學(xué),如奧斯丁的“命令說”和哈特的“實踐說”將之歸于社會事實,則遭遇從事實推出價值的“休謨難題”。為此,夏皮羅循著“私人規(guī)劃-小規(guī)模共享規(guī)劃-法律規(guī)劃”的思路,將法律看成社會規(guī)劃,法律規(guī)則構(gòu)成規(guī)劃的內(nèi)容。私人規(guī)劃首先就是明確設(shè)定目標(biāo),然后確定實現(xiàn)目標(biāo)的手段。但我們不需要也不可能對任何詳細(xì)步驟或行動進行設(shè)定,因而,規(guī)劃通常是部分性的,當(dāng)我們確定實現(xiàn)目標(biāo)的手段之后,再將手段作為目的規(guī)劃新的手段,通過這種方式我們使整個行動在目標(biāo)指引下結(jié)成統(tǒng)一整體。規(guī)劃是人類自主性的核心構(gòu)成和基本實現(xiàn)方式,它能夠讓我們從容應(yīng)對未來的不確定性、減少臨時決策的失誤,但我們欲求的目標(biāo)眾多,彼此之間往往沖突,因此規(guī)劃必然內(nèi)在要求協(xié)調(diào)。法律是一種大規(guī)模群體共享規(guī)劃,有著私人規(guī)劃同樣的益處,并且充分蘊含協(xié)調(diào)功能。不過,如果每個成員都參與大規(guī)模共享規(guī)劃的協(xié)商制定,必然成本高昂。所以,夏皮羅歸納了政策、習(xí)慣和等級制三種低成本締造共享規(guī)劃的辦法。政策即一般性規(guī)劃,根據(jù)這種一般性規(guī)劃制定具體規(guī)劃可能帶來次優(yōu)結(jié)果,而習(xí)慣具有非目的性只能是類似規(guī)劃,因此,降低規(guī)劃成本的主要方法就是等級制。但等級制帶來服從的問題,夏皮羅意識到這點,認(rèn)為在涉及等級制共享活動中,共享規(guī)劃是自我調(diào)節(jié)的(Self-regulating)。“自我調(diào)節(jié)”也就是民主與法律的關(guān)系問題,人們通過民主選舉授予官員制定規(guī)劃的權(quán)力。所以,夏皮羅說,法律制度本身是共享規(guī)劃,也由共享規(guī)劃所構(gòu)造,這些共享規(guī)劃由官員制定出來,確定水平和垂直的社會勞動分工,具體確定誰有權(quán)提出、采納、拒絕、影響、適用和執(zhí)行規(guī)劃,并指導(dǎo)所有的人如何參與到這些不同層次的社會規(guī)劃之中。[42]p229由此,規(guī)劃法學(xué)也就避免了法律權(quán)威來源的雞和蛋問題。并且,規(guī)劃法學(xué)不依賴道德事實,無需借助道德規(guī)則證成法律的正當(dāng)性和權(quán)利義務(wù)話語。在規(guī)劃法理論中,從規(guī)劃制定到適用的陳述都是描述性的,是從“是”推出“是”,因而,也符合休謨法則。

    顯然,規(guī)劃法學(xué)保留著實證主義法學(xué)的基本特征,主要的不同在于它堅持法律的目的指引下的整體性或共同性。規(guī)劃法學(xué)將社會看成是規(guī)劃建構(gòu)的整體,將法律置于社會中,從社會角度將法律理解為一種彌補合法性環(huán)境下其他形式規(guī)劃不足的規(guī)范性規(guī)劃。從整體而不是系統(tǒng)角度看待法律,不同于盧曼和托依布納將法律看成是封閉的自創(chuàng)生系統(tǒng),而是主張法律體系的開放性,法律作為規(guī)劃是調(diào)整性的。因而,規(guī)劃法學(xué)能夠在法律的自治性與開放性之間保持平衡。規(guī)劃法學(xué)主張法律是將個體組織起來實現(xiàn)高效合作的手段,但不同于龐德將法律視為社會控制的工具,借助規(guī)劃共享的事實避免了法律的工具化。

    具體而言,規(guī)劃法學(xué)從確定的目標(biāo)出發(fā)組織實現(xiàn)目標(biāo)的手段,通過“目的-手段”的多層結(jié)構(gòu)形成統(tǒng)一的法的整體。同時,規(guī)劃法學(xué)要求法律堅持一種調(diào)整性的理念,從而,可望在法的合目的性、安定性與正義的沖突中能夠保持平衡。并且,規(guī)劃法學(xué)是建立在規(guī)劃實證主義與規(guī)劃理論二者的結(jié)合之上的,因此,算法作為權(quán)力行使的方式可望與其他法律措施的選擇不會再有實質(zhì)性的分歧。算法應(yīng)用下事實權(quán)力的剛硬性與法律的彈性到相互支撐。

    (二)法律價值與技術(shù)理性相互融合

    規(guī)劃法學(xué)強調(diào)法律的目的指引,側(cè)重從整體視角和實質(zhì)層面考慮法律問題,因而也就有將法律價值與技術(shù)理性結(jié)合的可能。技術(shù)理性只有在價值理性的引領(lǐng)下才能更好地作用于人類社會福祉,而價值理性只有在技術(shù)理性的支持下才能與時俱進。近代社會以來在工業(yè)革命推動下,技術(shù)理性日益突顯且逐漸與價值理性從一體走向脫離。在人工智能算法時代,技術(shù)理性被人們強勢推崇占據(jù)主導(dǎo)而價值理性卻日趨衰微,以至于“技術(shù)理性-價值理性”格局失衡。必須調(diào)適技術(shù)理性與價值理性之間的張力以推動價值理性的復(fù)位、回歸理性天平的本初,才能發(fā)揮理性作為一個整體應(yīng)有的作用和功能。事實權(quán)力下算法權(quán)力對法的價值造成沖擊,但正因為如此,制度和價值遭受沖擊之后卻帶來了技術(shù)價值和法律價值的整合與重塑可能性,傳統(tǒng)價值和既有理論在新問題、新挑戰(zhàn)下得到突破與發(fā)展。我們應(yīng)當(dāng)以此為契機,將法的目的和價值納入算法系統(tǒng)中,而算法技術(shù)價值也應(yīng)在法律目的中得到體現(xiàn),法律價值和技術(shù)理性的融合將使實質(zhì)正義得以實現(xiàn),推動事實權(quán)力向上、向善運行。

    (三)構(gòu)建算法應(yīng)用背景解釋制度

    “規(guī)劃法學(xué)”要求法律具有靈活性和互動性,以協(xié)商代替強制,以實際有效性作為追求目標(biāo)。因此,通過強化個人權(quán)利來制約權(quán)力從而實現(xiàn)“權(quán)利-權(quán)力”的動態(tài)平衡也是其應(yīng)有之義。為了應(yīng)對算法黑箱問題,學(xué)者提出“通過賦予算法相對人算法解釋權(quán)來抗衡算法使用者的算法霸權(quán)”,[43]也有學(xué)者對西方國家的相關(guān)規(guī)定進行探討,[44]針對我國2021年頒布的《個人信息保護法》第24條,學(xué)界也以“算法解釋權(quán)”為名展開討論。[45]然而,在現(xiàn)實中,算法解釋權(quán)事實上難以發(fā)揮人們期待的實質(zhì)效用。這主要體現(xiàn)在:第一,即便算法服務(wù)提供者進行了說明解釋,用戶也未必能夠理解。目前各大APP都發(fā)布了個人信息保護政策或隱私條款,其內(nèi)容冗長、專業(yè)術(shù)語繁多,理解其內(nèi)容要求用戶有足夠的時間精力以及專業(yè)知識背景。第二,用戶對侵權(quán)行為不敏感。由于算法黑箱的隱蔽性,用戶難以察覺算法歧視等行為。

    為此,學(xué)者提出了重構(gòu)算法解釋權(quán),認(rèn)為應(yīng)該結(jié)合正當(dāng)程序原則和溝通信任原則。算法解釋權(quán)應(yīng)當(dāng)被視為一種動態(tài)、溝通、相對性的程序性權(quán)利。在要求算法運行透明的同時也應(yīng)給予其和用戶之間一定的溝通空間,聽取用戶的意見,讓用戶適度地參與其中。比如應(yīng)考慮解釋的程度及標(biāo)準(zhǔn)、解釋的時間及方式等,以保證這種解釋是能被用戶理解的,并且對于用戶存在的質(zhì)疑和意見是有實際解答意義的。[45]然而,就算法本身而言,其自動化運行的基本特點就是從不需要與人進行溝通和商量,這一點既是算法“權(quán)力感”產(chǎn)生的重要原因,也是算法效率的保障機理。因此,所謂的“信任”只可能是算法擁有者與相對人之間的人際信任。這種信任的產(chǎn)生基礎(chǔ),本質(zhì)上無關(guān)算法,而只是算法應(yīng)用的背景。

    因而,有理由認(rèn)為學(xué)界提倡與立法規(guī)定的“算法解釋權(quán)”,真正有著實際效用的并非是對算法本身的解釋,而是對算法應(yīng)用的背景解釋。從目前學(xué)者對算法解釋權(quán)的定義來看,不論是著眼于“要求提供對具體決策的解釋”,[43]還是側(cè)重于決策機理的解釋,[46]p80-82其實主要也是要求說明算法應(yīng)用的背景。從立法規(guī)定來看,更加可以認(rèn)為解釋的對象就是背景,而不是算法本身,如歐盟委員會2018發(fā)布的《一般數(shù)據(jù)保護條例》新增規(guī)定,“算法相對人有權(quán)要求算法使用者向其提供與非完全自動化算法決策的目的、處理邏輯以及可能產(chǎn)生的影響等相關(guān)信息”,我國《個人信息保護法》第24條規(guī)定“通過自動化決策方式作出對個人權(quán)益有重大影響的決定,個人有權(quán)要求個人信息處理者予以說明”,這里的“說明對象”顯然不僅僅指算法本身,至少包括具體決策的相關(guān)系統(tǒng)功能、決策過程中使用的個人數(shù)據(jù)和其他的決策理由,包括但不限于每種指標(biāo)的功能權(quán)重、機器定義的特定案例決策規(guī)則、起參考輔助作用的信息等。[47]

    并且,正如前文我們強調(diào)算法對人們的影響根源在于其背后的權(quán)力與法律制度,算法的高度形式化緊緊抓住了人類思維的最核心部分,因而,需要解釋的并且能夠解釋的,事實上也就是權(quán)力與法律制度的運行機理以及合理性。

    結(jié)語

    算法應(yīng)用對人類的影響是現(xiàn)實而廣泛的。毫無疑問,算法的廣泛應(yīng)用引起了人類社會結(jié)構(gòu)和生產(chǎn)生活方式的深刻變革。本文僅從權(quán)力角度展開,重點針對學(xué)者擔(dān)憂的算法將取代法律做出回應(yīng)。鑒于權(quán)力理論的復(fù)雜性,并且,算法在不同領(lǐng)域應(yīng)用所產(chǎn)生影響的差異性,本文試圖抓住最一般的原理,既認(rèn)識到算法給人類帶來的巨大益處,也意識到其對法律構(gòu)成的挑戰(zhàn)。正如尼葛洛龐帝所說:“我們無法否定數(shù)字化時代的存在,也無法阻止數(shù)字化時代的前進,就像我們無法對抗大自然的力量一樣?!盵48]p229因而,在智能時代人與算法和諧的命題背景下,片面強調(diào)法律對算法的規(guī)制并非明智之舉。法律應(yīng)從本身進行反思以回應(yīng)時代需求,不僅采取積極態(tài)度主要做出調(diào)整,而且,必然認(rèn)識到算法所產(chǎn)生的問題根源在于現(xiàn)代社會的權(quán)力與法律結(jié)構(gòu)自身,需要采取行動平衡社會權(quán)力格局,進而正確看待算法的影響,尊重算法價值及其運行規(guī)律,注重法律價值與技術(shù)理性相互融合,這也是未來法治和“算法善治”的應(yīng)有之義。

    猜你喜歡
    權(quán)力法律算法
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    基于MapReduce的改進Eclat算法
    不如叫《權(quán)力的兒戲》
    電影(2019年6期)2019-09-02 01:42:38
    Travellng thg World Full—time for Rree
    進位加法的兩種算法
    一種改進的整周模糊度去相關(guān)算法
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    權(quán)力的網(wǎng)絡(luò)
    博客天下(2015年12期)2015-09-23 01:47:57
    與權(quán)力走得太近,終走向不歸路
    清風(fēng)(2014年10期)2014-09-08 13:11:04
    国产aⅴ精品一区二区三区波| 色哟哟哟哟哟哟| 我的老师免费观看完整版| 丁香欧美五月| 欧美日韩中文字幕国产精品一区二区三区| 男女视频在线观看网站免费 | 国产野战对白在线观看| 88av欧美| 日韩大码丰满熟妇| 国内久久婷婷六月综合欲色啪| 欧美日韩国产亚洲二区| 精品电影一区二区在线| 天堂√8在线中文| 夜夜爽天天搞| 国产av又大| 男人的好看免费观看在线视频 | 免费无遮挡裸体视频| 人人妻人人看人人澡| 成人欧美大片| 女人爽到高潮嗷嗷叫在线视频| 在线国产一区二区在线| 国产午夜精品论理片| 久久精品国产综合久久久| 国产激情偷乱视频一区二区| 成人永久免费在线观看视频| 老熟妇乱子伦视频在线观看| 在线观看www视频免费| 久久婷婷成人综合色麻豆| 精品一区二区三区视频在线观看免费| 亚洲成人久久性| 日韩欧美 国产精品| 免费电影在线观看免费观看| 给我免费播放毛片高清在线观看| 两个人看的免费小视频| 精品国产超薄肉色丝袜足j| 免费av毛片视频| cao死你这个sao货| 欧洲精品卡2卡3卡4卡5卡区| www日本在线高清视频| av中文乱码字幕在线| 床上黄色一级片| 亚洲成av人片免费观看| 成人18禁高潮啪啪吃奶动态图| 成年版毛片免费区| 国产又色又爽无遮挡免费看| 欧美在线一区亚洲| 国产v大片淫在线免费观看| 在线观看舔阴道视频| 久久精品人妻少妇| 两个人免费观看高清视频| 18禁美女被吸乳视频| 日本撒尿小便嘘嘘汇集6| 国产精品电影一区二区三区| 天天躁夜夜躁狠狠躁躁| 欧美一区二区国产精品久久精品 | 欧美高清成人免费视频www| 99久久久亚洲精品蜜臀av| 99热只有精品国产| 国产欧美日韩一区二区精品| 精品久久久久久久人妻蜜臀av| 亚洲成人久久性| 天堂√8在线中文| 亚洲色图 男人天堂 中文字幕| 最近最新中文字幕大全电影3| 亚洲欧美日韩东京热| 村上凉子中文字幕在线| а√天堂www在线а√下载| 少妇的丰满在线观看| 香蕉久久夜色| 少妇人妻一区二区三区视频| 色播亚洲综合网| 亚洲av电影不卡..在线观看| 久热爱精品视频在线9| av欧美777| 亚洲aⅴ乱码一区二区在线播放 | 国产三级黄色录像| 成年免费大片在线观看| 国内精品一区二区在线观看| 国产免费av片在线观看野外av| 啪啪无遮挡十八禁网站| 制服人妻中文乱码| 身体一侧抽搐| 90打野战视频偷拍视频| 狂野欧美激情性xxxx| 国产免费男女视频| 午夜福利18| 18禁美女被吸乳视频| 人妻久久中文字幕网| 亚洲国产精品合色在线| 欧美午夜高清在线| 久久久国产成人免费| 国产99久久九九免费精品| 每晚都被弄得嗷嗷叫到高潮| 国产黄a三级三级三级人| 国产真实乱freesex| 亚洲 欧美一区二区三区| 日韩欧美 国产精品| 久久久久久大精品| 国产v大片淫在线免费观看| 亚洲一区中文字幕在线| 男女下面进入的视频免费午夜| 大型av网站在线播放| 亚洲精品国产一区二区精华液| 曰老女人黄片| 亚洲精品色激情综合| 亚洲五月天丁香| 校园春色视频在线观看| 日韩中文字幕欧美一区二区| av有码第一页| 欧美黄色淫秽网站| 小说图片视频综合网站| 久久久水蜜桃国产精品网| av福利片在线| 熟妇人妻久久中文字幕3abv| 香蕉av资源在线| 午夜免费激情av| 九色国产91popny在线| 亚洲人成网站在线播放欧美日韩| 老汉色av国产亚洲站长工具| 国产日本99.免费观看| 亚洲欧美日韩东京热| 久久这里只有精品中国| 给我免费播放毛片高清在线观看| 韩国av一区二区三区四区| 村上凉子中文字幕在线| 99riav亚洲国产免费| 成人18禁高潮啪啪吃奶动态图| 人妻夜夜爽99麻豆av| 国产一区二区激情短视频| 中文字幕精品亚洲无线码一区| 亚洲国产日韩欧美精品在线观看 | 神马国产精品三级电影在线观看 | 精品少妇一区二区三区视频日本电影| 久久久久久国产a免费观看| 欧美色视频一区免费| 日日夜夜操网爽| 成人国产一区最新在线观看| 久久中文字幕一级| 国产精品 欧美亚洲| 亚洲欧美精品综合一区二区三区| 天堂动漫精品| 国产v大片淫在线免费观看| 国产精品98久久久久久宅男小说| 国产欧美日韩精品亚洲av| 免费在线观看亚洲国产| 小说图片视频综合网站| 舔av片在线| 性欧美人与动物交配| 老熟妇乱子伦视频在线观看| 国产精品一区二区三区四区久久| 99久久国产精品久久久| 欧美日本视频| 91字幕亚洲| 精品久久久久久久毛片微露脸| 性欧美人与动物交配| av福利片在线观看| 久久久国产精品麻豆| 欧美3d第一页| 三级国产精品欧美在线观看 | 久久久精品国产亚洲av高清涩受| 又黄又粗又硬又大视频| 99热只有精品国产| 老司机午夜福利在线观看视频| 又紧又爽又黄一区二区| 久久精品综合一区二区三区| 国产av一区在线观看免费| 我的老师免费观看完整版| 最近视频中文字幕2019在线8| 亚洲第一欧美日韩一区二区三区| 亚洲中文字幕一区二区三区有码在线看 | 天堂动漫精品| 校园春色视频在线观看| 伊人久久大香线蕉亚洲五| 搡老妇女老女人老熟妇| xxx96com| 国产成人系列免费观看| 久久午夜亚洲精品久久| 亚洲最大成人中文| 日韩三级视频一区二区三区| 成人三级做爰电影| 国产午夜福利久久久久久| 久久久久久大精品| 欧美久久黑人一区二区| 此物有八面人人有两片| 1024视频免费在线观看| 99久久99久久久精品蜜桃| 国产主播在线观看一区二区| 热99re8久久精品国产| 国产精品乱码一区二三区的特点| 亚洲国产欧美人成| 国产av一区在线观看免费| 男人舔女人的私密视频| 俺也久久电影网| 中文字幕高清在线视频| 免费在线观看完整版高清| av片东京热男人的天堂| 精品国产超薄肉色丝袜足j| 听说在线观看完整版免费高清| 高清在线国产一区| 亚洲 国产 在线| 99国产精品一区二区蜜桃av| 夜夜躁狠狠躁天天躁| 国产av在哪里看| 国产精品 国内视频| 久久 成人 亚洲| www日本黄色视频网| 麻豆国产av国片精品| 亚洲自偷自拍图片 自拍| 欧美黑人欧美精品刺激| 蜜桃久久精品国产亚洲av| 999精品在线视频| 久久精品国产亚洲av高清一级| 夜夜躁狠狠躁天天躁| 丁香欧美五月| 亚洲成人久久爱视频| 欧美激情久久久久久爽电影| 最近视频中文字幕2019在线8| 国产人伦9x9x在线观看| 国产在线观看jvid| 很黄的视频免费| 变态另类成人亚洲欧美熟女| 制服丝袜大香蕉在线| 精品第一国产精品| 中文字幕人成人乱码亚洲影| 久久久国产成人免费| 成人国产综合亚洲| 最近视频中文字幕2019在线8| 久久午夜综合久久蜜桃| 亚洲片人在线观看| 桃色一区二区三区在线观看| 老汉色∧v一级毛片| 国产黄色小视频在线观看| 久久久久久久久免费视频了| 18禁黄网站禁片免费观看直播| 欧美人与性动交α欧美精品济南到| 免费在线观看视频国产中文字幕亚洲| av有码第一页| 午夜精品一区二区三区免费看| 丁香欧美五月| 久99久视频精品免费| 激情在线观看视频在线高清| 少妇裸体淫交视频免费看高清 | 亚洲精品久久成人aⅴ小说| av福利片在线| 国产视频一区二区在线看| 在线观看美女被高潮喷水网站 | 国产91精品成人一区二区三区| 国内精品久久久久久久电影| 身体一侧抽搐| 最近最新免费中文字幕在线| 欧美精品啪啪一区二区三区| 香蕉丝袜av| 精品久久久久久久久久免费视频| 他把我摸到了高潮在线观看| 国产精品久久视频播放| 天堂av国产一区二区熟女人妻 | 久久久国产成人精品二区| 国产一级毛片七仙女欲春2| 99国产综合亚洲精品| 久久久精品大字幕| 久久精品夜夜夜夜夜久久蜜豆 | 999精品在线视频| 免费搜索国产男女视频| 757午夜福利合集在线观看| 久久精品综合一区二区三区| 高潮久久久久久久久久久不卡| av欧美777| xxxwww97欧美| 亚洲精品在线美女| 狠狠狠狠99中文字幕| 久久久精品大字幕| 在线免费观看的www视频| 在线观看免费午夜福利视频| 久久精品亚洲精品国产色婷小说| 精华霜和精华液先用哪个| 久久久久久久精品吃奶| 91大片在线观看| 日韩欧美国产一区二区入口| 亚洲黑人精品在线| 两个人看的免费小视频| 久久人人精品亚洲av| 18禁裸乳无遮挡免费网站照片| xxx96com| 日韩免费av在线播放| 日本免费一区二区三区高清不卡| 亚洲av第一区精品v没综合| 日本在线视频免费播放| 两个人的视频大全免费| 露出奶头的视频| 国产亚洲欧美98| 国产成+人综合+亚洲专区| 精华霜和精华液先用哪个| 18禁裸乳无遮挡免费网站照片| 最新美女视频免费是黄的| 成人av一区二区三区在线看| 长腿黑丝高跟| 久99久视频精品免费| 搡老熟女国产l中国老女人| 亚洲国产精品999在线| 女生性感内裤真人,穿戴方法视频| a级毛片在线看网站| 特大巨黑吊av在线直播| www.精华液| 国产一区二区三区视频了| 亚洲av电影在线进入| 热99re8久久精品国产| 日韩国内少妇激情av| 色噜噜av男人的天堂激情| 十八禁人妻一区二区| 麻豆一二三区av精品| 国产野战对白在线观看| 欧美乱妇无乱码| 熟妇人妻久久中文字幕3abv| 国产精品一及| 91麻豆av在线| 免费电影在线观看免费观看| 很黄的视频免费| 国产精品综合久久久久久久免费| 国产真实乱freesex| 精品一区二区三区视频在线观看免费| 91国产中文字幕| 国语自产精品视频在线第100页| 51午夜福利影视在线观看| 国产成人精品久久二区二区免费| 女生性感内裤真人,穿戴方法视频| 精品久久久久久久久久免费视频| 亚洲18禁久久av| 制服人妻中文乱码| 丰满人妻一区二区三区视频av | 亚洲九九香蕉| 熟妇人妻久久中文字幕3abv| 一夜夜www| 国产成+人综合+亚洲专区| 久久久精品欧美日韩精品| 真人做人爱边吃奶动态| 90打野战视频偷拍视频| 欧美日本视频| 在线观看美女被高潮喷水网站 | 亚洲精品国产精品久久久不卡| 亚洲一区中文字幕在线| 男女视频在线观看网站免费 | 日本一二三区视频观看| 熟女电影av网| 男插女下体视频免费在线播放| 国产乱人伦免费视频| av视频在线观看入口| 欧美 亚洲 国产 日韩一| 欧美日韩亚洲综合一区二区三区_| 真人做人爱边吃奶动态| 久久精品综合一区二区三区| 9191精品国产免费久久| a级毛片a级免费在线| 日日夜夜操网爽| 久久久水蜜桃国产精品网| 一级毛片女人18水好多| 亚洲精品美女久久av网站| 50天的宝宝边吃奶边哭怎么回事| 在线免费观看的www视频| 91大片在线观看| 91麻豆精品激情在线观看国产| www.熟女人妻精品国产| 国产精品免费一区二区三区在线| 久久久精品大字幕| 亚洲精品国产精品久久久不卡| 国产精品电影一区二区三区| 久久久久久大精品| 国产伦在线观看视频一区| 国内毛片毛片毛片毛片毛片| 成人高潮视频无遮挡免费网站| 丝袜美腿诱惑在线| 欧美绝顶高潮抽搐喷水| 精品免费久久久久久久清纯| 老熟妇乱子伦视频在线观看| 亚洲精品久久国产高清桃花| 久久香蕉精品热| 男插女下体视频免费在线播放| 亚洲电影在线观看av| 国产亚洲av嫩草精品影院| 久久久久久免费高清国产稀缺| 两性夫妻黄色片| 人妻夜夜爽99麻豆av| 欧美人与性动交α欧美精品济南到| 99久久久亚洲精品蜜臀av| 午夜精品久久久久久毛片777| 一进一出抽搐gif免费好疼| 久9热在线精品视频| 亚洲一区二区三区色噜噜| 99在线视频只有这里精品首页| 国产一区二区三区视频了| 久9热在线精品视频| 久久久久久九九精品二区国产 | 国产精品香港三级国产av潘金莲| 老司机福利观看| avwww免费| 欧美中文综合在线视频| 精品乱码久久久久久99久播| 一级毛片精品| 丝袜美腿诱惑在线| 激情在线观看视频在线高清| a在线观看视频网站| 久久久久久免费高清国产稀缺| 麻豆国产av国片精品| 国内少妇人妻偷人精品xxx网站 | 久久久久免费精品人妻一区二区| 亚洲七黄色美女视频| 成人高潮视频无遮挡免费网站| 免费人成视频x8x8入口观看| 麻豆成人av在线观看| 午夜福利视频1000在线观看| 12—13女人毛片做爰片一| 国产麻豆成人av免费视频| 午夜免费成人在线视频| 成人三级做爰电影| 他把我摸到了高潮在线观看| 一级毛片女人18水好多| 久久国产乱子伦精品免费另类| 精品久久蜜臀av无| 两个人免费观看高清视频| 中文字幕最新亚洲高清| 变态另类丝袜制服| 香蕉久久夜色| 一级片免费观看大全| 一级黄色大片毛片| 麻豆成人午夜福利视频| 欧美又色又爽又黄视频| www国产在线视频色| 亚洲片人在线观看| 淫妇啪啪啪对白视频| 男女床上黄色一级片免费看| 国产成人精品久久二区二区免费| 黄频高清免费视频| 日本成人三级电影网站| av在线播放免费不卡| 熟女少妇亚洲综合色aaa.| 国产主播在线观看一区二区| 国产成人av激情在线播放| 久久久久久国产a免费观看| 香蕉久久夜色| 中亚洲国语对白在线视频| 精品国产亚洲在线| 一进一出抽搐动态| 亚洲成人中文字幕在线播放| 欧美大码av| 国产午夜精品久久久久久| 一级毛片高清免费大全| 午夜亚洲福利在线播放| av免费在线观看网站| 亚洲成av人片免费观看| 久久欧美精品欧美久久欧美| 亚洲av电影不卡..在线观看| 岛国视频午夜一区免费看| 国产激情偷乱视频一区二区| 一夜夜www| 一级黄色大片毛片| 国产精品美女特级片免费视频播放器 | 国产亚洲av高清不卡| 99在线视频只有这里精品首页| 欧美又色又爽又黄视频| 国产激情久久老熟女| 国产私拍福利视频在线观看| 天堂av国产一区二区熟女人妻 | 久久久久久久久中文| 精品免费久久久久久久清纯| 久热爱精品视频在线9| 两性夫妻黄色片| 久久久久亚洲av毛片大全| 成人三级做爰电影| 中文字幕人妻丝袜一区二区| 香蕉久久夜色| 亚洲精品久久国产高清桃花| 亚洲全国av大片| 免费看日本二区| 亚洲激情在线av| 精品国产乱子伦一区二区三区| 亚洲狠狠婷婷综合久久图片| 国产精品99久久99久久久不卡| 国产av又大| 2021天堂中文幕一二区在线观| 老司机福利观看| 久久久久久久久久黄片| 亚洲国产日韩欧美精品在线观看 | 欧美日韩乱码在线| 中文亚洲av片在线观看爽| 成人av在线播放网站| 国产野战对白在线观看| 午夜久久久久精精品| 亚洲精品美女久久av网站| 国产精品亚洲美女久久久| 国模一区二区三区四区视频 | 国产一区二区三区在线臀色熟女| 国产乱人伦免费视频| 欧美人与性动交α欧美精品济南到| 亚洲乱码一区二区免费版| 国产av一区在线观看免费| 国产三级黄色录像| 欧美不卡视频在线免费观看 | 天天躁狠狠躁夜夜躁狠狠躁| 成人18禁高潮啪啪吃奶动态图| 九九热线精品视视频播放| 手机成人av网站| 两性夫妻黄色片| 午夜福利18| 国产又黄又爽又无遮挡在线| 黄色视频,在线免费观看| 久热爱精品视频在线9| 国产成人aa在线观看| 国产又色又爽无遮挡免费看| 国产99久久九九免费精品| 18禁美女被吸乳视频| 亚洲精品在线美女| 又爽又黄无遮挡网站| 黄片小视频在线播放| 国产亚洲精品av在线| 免费看十八禁软件| 国产精品影院久久| 国产人伦9x9x在线观看| 最近视频中文字幕2019在线8| 国产精品免费视频内射| 日韩有码中文字幕| www日本黄色视频网| 国内精品久久久久精免费| 黄频高清免费视频| 久久婷婷成人综合色麻豆| 老司机午夜福利在线观看视频| 国产成年人精品一区二区| 亚洲专区字幕在线| 亚洲成av人片免费观看| 美女大奶头视频| 日本一本二区三区精品| 午夜亚洲福利在线播放| 欧美日韩黄片免| 最新在线观看一区二区三区| 欧美黄色片欧美黄色片| 欧美 亚洲 国产 日韩一| 两性夫妻黄色片| 美女大奶头视频| 午夜精品一区二区三区免费看| 性色av乱码一区二区三区2| 不卡一级毛片| 欧美成人免费av一区二区三区| 免费高清视频大片| 国产精品国产高清国产av| 1024手机看黄色片| 一级a爱片免费观看的视频| 中文字幕久久专区| 色播亚洲综合网| 91字幕亚洲| 丰满人妻熟妇乱又伦精品不卡| av有码第一页| 久久国产精品影院| 很黄的视频免费| 亚洲成人国产一区在线观看| 欧美乱色亚洲激情| 国产亚洲av嫩草精品影院| 成人三级黄色视频| 人妻丰满熟妇av一区二区三区| 欧美成人性av电影在线观看| 午夜福利高清视频| 国产av一区在线观看免费| 听说在线观看完整版免费高清| 亚洲成人免费电影在线观看| 国产单亲对白刺激| 黄色视频不卡| 亚洲av五月六月丁香网| 亚洲人与动物交配视频| 亚洲精品久久成人aⅴ小说| 中文字幕av在线有码专区| 最近最新免费中文字幕在线| av中文乱码字幕在线| 91老司机精品| 亚洲精品中文字幕一二三四区| 午夜视频精品福利| 欧美中文综合在线视频| 国产精品自产拍在线观看55亚洲| 动漫黄色视频在线观看| 欧美日韩亚洲国产一区二区在线观看| 亚洲av日韩精品久久久久久密| 女同久久另类99精品国产91| e午夜精品久久久久久久| 99热只有精品国产| 欧美激情久久久久久爽电影| 无人区码免费观看不卡| 丰满人妻一区二区三区视频av | 99热这里只有精品一区 | 1024视频免费在线观看| 国产亚洲精品第一综合不卡| 日韩大尺度精品在线看网址| 国产精品 国内视频| 2021天堂中文幕一二区在线观| 夜夜躁狠狠躁天天躁| 一个人观看的视频www高清免费观看 | 亚洲电影在线观看av| 精品午夜福利视频在线观看一区| 国产黄a三级三级三级人| 在线观看66精品国产| 久久久国产成人精品二区| 国产一区二区在线av高清观看| 国产乱人伦免费视频| 夜夜夜夜夜久久久久| АⅤ资源中文在线天堂| 老司机在亚洲福利影院| 两人在一起打扑克的视频| 男女床上黄色一级片免费看| 精品福利观看| 老司机午夜十八禁免费视频| 免费在线观看完整版高清| 国产精品一区二区三区四区免费观看 | 一个人免费在线观看的高清视频| 一区二区三区激情视频| 熟女少妇亚洲综合色aaa.| av在线天堂中文字幕| 少妇粗大呻吟视频| 天堂影院成人在线观看| 国产伦人伦偷精品视频| 嫩草影视91久久|