• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法學(xué)研究的反智化批判

    2019-08-27 01:31:58劉艷紅
    東方法學(xué) 2019年5期

    劉艷紅

    內(nèi)容摘要:人工智能技術(shù)熱潮的再度興起,使得人工智能法學(xué)研究空前繁盛,但當(dāng)前研究出現(xiàn)了違反人類智力常識(shí)的反智化現(xiàn)象。概念附會(huì)現(xiàn)象嚴(yán)重,不少成果只是基于“AI+法律”的任意性組合,“泛人工智能化”研究正在產(chǎn)生大量學(xué)術(shù)泡沫;制造人工智能研究中的“假問題”或誤將司法適用問題當(dāng)作人工智能法學(xué)研究中的元問題,理論創(chuàng)新方向值得懷疑;將對(duì)策與科技問題當(dāng)作理論與學(xué)術(shù)問題,離開法教義學(xué)的基本立場(chǎng)與方法,使得人工智能的研究日益滑向不可知論。人工智能并未對(duì)法律基礎(chǔ)理論、法學(xué)基本教義提出挑戰(zhàn),受到挑戰(zhàn)的只是如何將傳統(tǒng)知識(shí)適用于新的場(chǎng)景。法學(xué)研究應(yīng)該避免盲目跟風(fēng),走出對(duì)人工智能體的崇拜,回歸學(xué)術(shù)研究的理性軌道。

    關(guān)鍵詞:人工智能法學(xué) 反智化 法教義學(xué)

    中國(guó)分類號(hào):DF05? 文獻(xiàn)標(biāo)識(shí)碼:A? 文章編號(hào):1674-4039-(2019)05-0119-126

    20世紀(jì)七八十年代,人們?cè)欢葘?duì)人工智能的研究充滿熱情,但隨著真正有用的AI法律程序未能面世,這種熱情被漫長(zhǎng)的挫敗感沖淡。而如今人工智能技術(shù)再次“引起了越來越多的興奮和焦慮……涉及人工智能的未來圖像在大眾媒體中日益流行”?!? 〕在這種氛圍的籠罩下,我國(guó)法學(xué)理論和實(shí)務(wù)界也對(duì)人工智能(機(jī)器人)保持著巨大的好奇,對(duì)法律引導(dǎo)人工智能發(fā)展的技藝充滿著強(qiáng)烈的自信。不可否認(rèn),為包括人工智能在內(nèi)的一切技術(shù)問題設(shè)計(jì)法律規(guī)則,是法律人不可推卸的時(shí)代使命,因而這種研究風(fēng)潮是“法學(xué)作為致用之學(xué)”的當(dāng)然表現(xiàn),一切“熱衷”似無(wú)可厚非。但也正因?yàn)榉▽W(xué)研究本應(yīng)具有觀照現(xiàn)實(shí)的特性,這要求我們時(shí)刻注意合理選擇參與前沿技術(shù)討論的現(xiàn)實(shí)契入點(diǎn),在正確理解人工智能技術(shù)應(yīng)用場(chǎng)景的前提下確定法學(xué)研究的問題意識(shí),避免盲目追求“時(shí)髦”的學(xué)術(shù)虛假繁榮。以刑法學(xué)為例,或許得益于國(guó)家《新一代人工智能發(fā)展規(guī)劃》的政策信號(hào),本領(lǐng)域內(nèi)的研究成果從2017年開始呈現(xiàn)爆炸式增長(zhǎng),“人工智能刑事責(zé)任論”等儼然成為最為耀眼的知識(shí)增長(zhǎng)點(diǎn)。面對(duì)席卷而來的人工智能法律問題的法學(xué)研究,面對(duì)“定分止?fàn)帯钡姆杀拘?,不得不讓人產(chǎn)生懷疑:法律學(xué)者們是否已經(jīng)找到了規(guī)制AI技術(shù)發(fā)展的理性方向?當(dāng)前的熱烈研究究竟能走多遠(yuǎn),它究竟只是“先一哄而上再一哄而散”還是能夠持續(xù)到強(qiáng)人工智能到來之日?空前興盛的人工智能法學(xué)是否積累了有助于學(xué)科發(fā)展的智識(shí),抑或僅僅是法學(xué)理論工作者們?yōu)榱俗粉櫉狳c(diǎn)并出于各自目的比如引用率高低等而亦步亦趨的“學(xué)術(shù)秀”?對(duì)此,筆者將審視當(dāng)下人工智能法學(xué)研究的格局及其問題,并在此基礎(chǔ)上就其發(fā)展進(jìn)路談幾點(diǎn)看法。

    一、人工智能法學(xué)研究中的概念附會(huì)

    當(dāng)前法學(xué)界存在無(wú)處不在的“人工智能+”,在人工智能的大招牌之下開啟了各個(gè)論域的話題研討新模式。究竟什么才是人工智能?學(xué)者們所言的人工智能只是借用了一個(gè)似是而非的流行語(yǔ)以吸引閱讀興趣,還是它確實(shí)挑戰(zhàn)了千百年形成的法律知識(shí)體系?通過觀察可以發(fā)現(xiàn),人工智能其實(shí)并沒有取得如此巨大的飛躍,一些所謂的“人工智能法學(xué)”研究題目?jī)H僅是在“順勢(shì)包裝、借殼上市”,這種“盛名之下,其實(shí)難副”的概念附會(huì)已經(jīng)吹起了不少學(xué)術(shù)泡沫。

    人類最初在制造計(jì)算機(jī)之時(shí)就已幻想能夠研發(fā)出會(huì)思考的機(jī)器,那時(shí)人們無(wú)法給予它一個(gè)特定的可理解的準(zhǔn)確稱謂,因而便將之命名為“Artificial Intelligence”,簡(jiǎn)稱AI,以表明其不同于人類自然智慧的人工智慧。迄今為之,科學(xué)家們也給它撰寫過不同的定義,甚至用各種思想實(shí)驗(yàn)如著名的圖靈測(cè)試、中文房間理論等驗(yàn)證這種人工智能存在與否。筆者不想詳細(xì)列舉這些定義,事實(shí)上關(guān)于計(jì)算機(jī)科學(xué)、哲學(xué)、法學(xué)等學(xué)科內(nèi)的很多基礎(chǔ)概念都沒有取得過一致的意見。或許如美國(guó)最高法院大法官斯圖爾特曾說的那樣,我們難以成功描述這些概念如無(wú)法定義什么是淫穢物品,但“當(dāng)看到它時(shí)我就知道了”?!? 〕然而,當(dāng)人們因自身的不求甚解而誤解研究對(duì)象時(shí),準(zhǔn)確提煉出相關(guān)概念的核心要素就顯得十分必要,畢竟不同定義之間還存在著相當(dāng)?shù)墓沧R(shí)。整體而言,人工智能概念核心要素自20世紀(jì)50年代產(chǎn)生以來就是恒定的,人們尚沒有超脫對(duì)AI的原始認(rèn)知——像人類一樣理性地思考和行動(dòng)。這并不是說人工智能系統(tǒng)的智力水平與人類持平,事實(shí)上人類在很多方面也早已大大超越了這個(gè)目標(biāo),而是涉及一些像人類一樣能夠“自主的選擇和決定:自我管理”?!白灾骰蜃灾危ㄔ醋韵ED語(yǔ)auto:自我,nomos:法律)與自動(dòng)化不同,自動(dòng)化是指由一臺(tái)機(jī)器不斷重復(fù)一個(gè)過程。自主則要求……AI可以作出自我的選擇,即便它在作決定時(shí)與人類有過互動(dòng)”。〔3 〕可以說,“機(jī)器是否具有自動(dòng)化”是一種外部信號(hào)反射式的事實(shí)判斷,而“機(jī)器是否具有自主性”則還涉及自然科學(xué)之外的關(guān)于機(jī)器是否具有自我意志和自我行動(dòng)能力的“(類)人性”判斷。有鑒于此,有學(xué)者認(rèn)為一個(gè)可被稱為“智能”的實(shí)體應(yīng)至少具有五個(gè)基本構(gòu)成屬性:①溝通交流能力,即能夠與人類或其他物種相互動(dòng),這并不單單代表著智商水平而是一種社會(huì)交際潛能;②內(nèi)部知識(shí),即對(duì)自身的認(rèn)知,它等于“自我意識(shí)”,一個(gè)有智慧的實(shí)體應(yīng)該知道自己的存在、自己以某種方式運(yùn)作、將自己融入現(xiàn)實(shí)等;③外部知識(shí),即關(guān)于外部世界和真正現(xiàn)實(shí)的數(shù)據(jù)收集分析能力,這是人類累積生活經(jīng)驗(yàn)的方式,也是人類學(xué)習(xí)的方式,如果把任何事件一次又一次地當(dāng)作全新的,那么就很難表現(xiàn)得像一個(gè)有智慧的實(shí)體;④目標(biāo)驅(qū)動(dòng)行為,這指的是一種意圖,它制定和執(zhí)行計(jì)劃來實(shí)現(xiàn)相關(guān)目的;⑤創(chuàng)造能力,即指找到新的理解或行為方式的能力,反復(fù)嘗試完全相同的行為并不是創(chuàng)造力的表現(xiàn)?!? 〕所以,真正的人工智能是極為復(fù)雜的,認(rèn)定條件也頗為苛刻,這些定義標(biāo)準(zhǔn)限制了概念上的泛人工智能化。

    反觀我國(guó)法學(xué)界,很多學(xué)者常常將人工智能要求的“自主性”與尋常的“機(jī)械自動(dòng)化”相互混淆。例如,致力于人工智能法學(xué)研究的學(xué)者大多以“機(jī)器人傷人事件”等為起點(diǎn),比如2015年德國(guó)大眾汽車制造車間內(nèi)發(fā)生的所謂“首起機(jī)器人殺人案”。但是,本案中產(chǎn)生故障的機(jī)器人只是普通機(jī)械設(shè)施,它根本沒有獨(dú)立思考的能力,它之所以會(huì)殺死這名工人,是因?yàn)橛|發(fā)了該設(shè)備的自動(dòng)處理程序;它只是自動(dòng)化的普通機(jī)器,遠(yuǎn)沒有達(dá)到所謂人工智能的水平。與無(wú)處不在的生產(chǎn)責(zé)任事故相比,該事件也沒有本質(zhì)不同,無(wú)非該設(shè)備的自動(dòng)化系統(tǒng)更為精密而已。如果說這也能夠成為人工智能法學(xué)研究的問題來源,那么可能早在工業(yè)革命推廣開來之時(shí)就該去研究“人工智能”了,或許農(nóng)業(yè)社會(huì)耕田的拖拉機(jī)傷人也該劃入人工智能法律問題的話題范圍了。生活經(jīng)驗(yàn)常識(shí)告訴我們,任何機(jī)器都會(huì)存在風(fēng)險(xiǎn),即便一把毫無(wú)自動(dòng)性的菜刀在人類不當(dāng)使用時(shí)也會(huì)劃傷手指。以所謂的“機(jī)器人殺人案”導(dǎo)出人工智能的發(fā)展風(fēng)險(xiǎn),進(jìn)而得出應(yīng)追究人工智能之物法律責(zé)任的觀點(diǎn),〔5 〕是對(duì)人工智能根本性的誤解和非常低級(jí)性的錯(cuò)誤。那些討論對(duì)機(jī)器人追究刑事責(zé)任的學(xué)者可能忘記了刑罰的功能,“在判處刑罰的情況下,法官對(duì)再犯罪可能性的預(yù)測(cè)不可能是絕對(duì)準(zhǔn)確的,犯罪人的行為態(tài)度、規(guī)范意識(shí)等也是不斷變化的,因此,刑法特別規(guī)定了減刑制度與假釋制度”?!? 〕針對(duì)機(jī)器人,這些刑罰制度顯然沒有任何意義,刑罰的報(bào)應(yīng)或者預(yù)防目的也都無(wú)從實(shí)現(xiàn)。

    再如,銀行的自動(dòng)取款機(jī)是為了節(jié)省人工成本而發(fā)明的旨在引導(dǎo)人們從銀行自助取款的機(jī)器,雖然它也被叫作“自動(dòng)柜員機(jī)”,但它只是銀行人類柜員的一種替代設(shè)施,它只有自動(dòng)化而沒有自主性。但是,有學(xué)者在人工智能中討論利用拾得或盜竊他人銀行卡在ATM機(jī)上取款等案件的處理,將之歸入“人工智能作為侵財(cái)對(duì)象的侵財(cái)犯罪”,并以此提出了“人工智能時(shí)代侵財(cái)犯罪刑法適用的困境”問題。事實(shí)是,中國(guó)第一臺(tái)ATM機(jī)早在1987年就已經(jīng)啟用,它與人工智能之間沒有絲毫關(guān)系。“通過ATM機(jī)實(shí)施侵財(cái)犯罪”“機(jī)器能否被騙”等話題根本不用借助于所謂的人工智能就已被討論過了,當(dāng)法學(xué)重要期刊上的論文將ATM機(jī)、手機(jī)銀行、支付寶第三方支付平臺(tái)等統(tǒng)統(tǒng)納入人工智能范疇時(shí),恰恰表明概念附會(huì)的嚴(yán)重性已經(jīng)到了讓人失去底線的地步。果真如此,我們這個(gè)人口大國(guó)的人工智能普及率早已世界遙遙領(lǐng)先。ATM機(jī)、手機(jī)銀行、支付寶等可能會(huì)出現(xiàn)系統(tǒng)故障,但它們并沒有社會(huì)溝通能力、創(chuàng)造能力,它們也沒有自主性;我們對(duì)它們的應(yīng)用再熟悉不過,常識(shí)告訴我們,這種研究正是泛人工智能化的突出表現(xiàn)。

    綜上可見,我國(guó)人工智能法學(xué)研究中存在著明顯的概念附會(huì),將不屬于人工智能的研究對(duì)象強(qiáng)行貼上人工智能的標(biāo)簽,相關(guān)研究演變?yōu)椤癆I+法律”的任意性組合,不少研究者只是打著人工智能的旗號(hào)攫取話語(yǔ)權(quán)、提升自我身價(jià),法學(xué)家們一夜之間變成了人工智能專家,仿佛讓自然科學(xué)家都望塵莫及。這種“泛人工智能化”不是真正的學(xué)術(shù)研究,而是制造學(xué)術(shù)泡沫。

    二、人工智能法學(xué)研究中的偽問題替代真問題

    “問題意識(shí)”是一個(gè)常談常新的話題,提出正確的問題是任何研究過程的開端,如果沒有針對(duì)真實(shí)的問題進(jìn)行討論,即使論述再精妙、方法再多樣、觀點(diǎn)再前衛(wèi)、著述再等身,都只是徒有一身浮華的外表,根本不具有任何實(shí)際意義。當(dāng)前法學(xué)研究中,應(yīng)特別注意甄別“偽問題”。尤其在“亂花漸欲迷人眼”的人工智能領(lǐng)域,問題意識(shí)更具有欺瞞性,一些法學(xué)家似乎總能夠發(fā)現(xiàn)連科學(xué)家都難以察覺的“宇宙級(jí)難題”,可靜心觀察就會(huì)發(fā)現(xiàn)不少問題的討論意義僅僅在于占領(lǐng)了更多期刊版面而已,所謂的理論創(chuàng)新可能只是一場(chǎng)空歡喜。

    其一,不斷制造、跟風(fēng)、放大“假問題”,導(dǎo)致法學(xué)研究誤以人工智能發(fā)展中的夸張、炒作、娛樂為前提。我國(guó)人工智能法學(xué)研究主要始于學(xué)者們對(duì)人工智能技術(shù)的各種憂患意識(shí):人工智能的發(fā)展前景不可限量,必然會(huì)出現(xiàn)具有自我意志的(超)強(qiáng)人工智能,人工智能甚至可能會(huì)取代人類、機(jī)器算法會(huì)取代人類法律;人工智能引發(fā)的風(fēng)險(xiǎn)足以產(chǎn)生毀滅性打擊,因而主張法律甚至刑法應(yīng)積極應(yīng)對(duì)和規(guī)制人工智能的發(fā)展,等等。這種“居安思危”“未雨綢繆”的精神確實(shí)讓人感佩,可是這些憂慮只是依靠無(wú)數(shù)假想拼湊起來的幻影,只是在用別人的“噱頭”嚇唬自己。

    例如,世界上第一個(gè)獲得公民資格的表情機(jī)器人索菲亞,在2017年10月被沙特阿拉伯授予公民身份之后,尤其它曾在與設(shè)計(jì)者漢森的對(duì)話中冒出一句“我想毀滅人類”,法學(xué)家們開始變得躁動(dòng)不安。不少學(xué)者將索菲亞的公民身份作為一種AI技術(shù)發(fā)展的國(guó)家制度回應(yīng),視之為AI挑戰(zhàn)現(xiàn)行法律體系的范例以及檢驗(yàn)?zāi)硞€(gè)法律人格理論是否合格的試金石,認(rèn)為法律若不承認(rèn)機(jī)器人的法律主體地位就不能滿足這種社會(huì)現(xiàn)實(shí)。然而,索菲亞早已遭到包括人工智能科學(xué)家在內(nèi)的各方觀察者的極大懷疑:“索菲亞之于AI,就像變戲法的之于真正的魔法,我們把它稱作‘AI崇拜‘假冒AI或者‘遠(yuǎn)程操控AI可能比較好?!?〔7 〕所謂具有公民身份的索菲亞不過是一個(gè)公關(guān)噱頭而已,而不是人性、尊嚴(yán)或人格的展現(xiàn)?!啊詫傩缘乃鞣苼喚烤鼓芟碛心男?quán)利,還真不好說。因?yàn)樵谑掳l(fā)地點(diǎn)沙特,女性連單獨(dú)駕駛權(quán)都未得到法律認(rèn)可?!?〔8 〕對(duì)于這樣一個(gè)女性只配擁有有限權(quán)利的國(guó)家來說,索菲亞更像是一個(gè)營(yíng)銷玩物。這種以國(guó)家權(quán)力為支撐的機(jī)器人營(yíng)銷策略淡化了沙特在婦女權(quán)利方面的不光彩記錄,其實(shí)索菲亞主要的新穎性在于身體和面部表情,而不是它的會(huì)話方式、主體認(rèn)知或智能程度,“當(dāng)以真實(shí)的人類互動(dòng)標(biāo)準(zhǔn)來衡量時(shí),它便倉(cāng)皇失措、‘智商不在線”。〔9 〕其實(shí),類似于索菲亞的人形機(jī)器人在世界范圍內(nèi)還有很多,它們之所以不被人們津津樂道,是因?yàn)樗鼈兊陌b實(shí)力不及索菲亞?!?0 〕AI技術(shù)的擁護(hù)者李開復(fù)曾公開評(píng)論,索菲亞“絲毫沒有人性、人的理解、愛心、創(chuàng)造力。授予這樣一臺(tái)只會(huì)模式識(shí)別的機(jī)器‘公民,是對(duì)人類最大的羞辱和誤導(dǎo)。一個(gè)國(guó)家用這種嘩眾取寵的方式來推進(jìn)人工智能科研,只會(huì)適得其反”?!?1 〕既然人們對(duì)于索菲亞之于人工智能發(fā)展的意義遠(yuǎn)沒有形成共識(shí),我們更沒有必要放大索菲亞等類似機(jī)器人對(duì)現(xiàn)有法律體系的影響,索菲亞的所謂“公民身份”是國(guó)家、企業(yè)、新聞媒體等各方利益的聯(lián)合演出,它既與沙特本國(guó)的法制傳統(tǒng)相齟齬,也受到了AI專業(yè)科學(xué)家的批評(píng)。因此,法學(xué)家完全沒有必要從索菲亞那里獲得什么問題意識(shí),也不必為它的公民身份感到欣喜或恐慌,由索菲亞引出的人工智能法律人格問題是個(gè)徹底的偽問題,沒有任何法制建構(gòu)和法學(xué)研究上的借鑒性;那些經(jīng)由公民機(jī)器人的誕生而產(chǎn)生的將索菲亞“修壞了會(huì)被追究法律責(zé)任嗎?把‘她拆解其不等同于謀殺?” 〔12 〕等問題,正是偽人工智能法學(xué)問題的典型代表。

    其二,將司法適用/使用問題作為人工智能法學(xué)的“元問題”,“AI樂觀主義+法律工具主義”盛行,從而不甄別真風(fēng)險(xiǎn)真挑戰(zhàn)、陷于表象式研究氛圍。當(dāng)前的研究主要集中于兩個(gè)方面:一是推進(jìn)司法人工智能以提升“智慧司法”乃至“智慧法治”,克服人類裁判思維的片面與恣意;二是探究人工智能對(duì)傳統(tǒng)法律權(quán)利義務(wù)的挑戰(zhàn),最終落腳于人工智能的司法處遇如“人工智能創(chuàng)生成內(nèi)容”的著作權(quán)保護(hù)、自動(dòng)駕駛致人損傷的刑事責(zé)任等情形。如果將研究對(duì)象限定在弱人工智能,則不僅AI的作用有限,而且它對(duì)法律體系的挑戰(zhàn)也十分微弱,以人類為中心的現(xiàn)有法制系統(tǒng)仍具有頑強(qiáng)的適應(yīng)力;如果將研究對(duì)象拓展至強(qiáng)人工智能,則不僅完全跨越了時(shí)代,而且忽視了一系列尚未深入討論的前提性問題。

    如前所述,當(dāng)前的“司法人工智能”只是提高司法工作效率的便利工具,如語(yǔ)音輸入取代書記員電腦打字記錄、裁判文書上網(wǎng)以及自動(dòng)識(shí)別搜索等,這種變化與書記員告別古老的手寫記錄沒有實(shí)質(zhì)區(qū)別,其他應(yīng)用如海量判例篩選、輔助量刑規(guī)范化、電子取證技術(shù) 〔13 〕等至多屬于增強(qiáng)同案同判等人類司法智慧的AI。當(dāng)我們質(zhì)疑人類恣意時(shí),也更有理由懷疑這些系統(tǒng)研發(fā)者會(huì)借著算法黑箱寫入法學(xué)家的偏見、科學(xué)家的武斷、企業(yè)的經(jīng)濟(jì)利益等,它們?nèi)詿o(wú)法擺脫商業(yè)、政治、強(qiáng)勢(shì)價(jià)值觀等力量操控,這種“算法歧視”已經(jīng)在多種領(lǐng)域出現(xiàn),使得人們對(duì)這種由于尖端技術(shù)導(dǎo)致的不公正性的救濟(jì)難度將直線上升。因此,當(dāng)前司法人工智能實(shí)際仍停留在“為何要用”的原始階段,當(dāng)類似元問題沒有得到充分討論而徑直將其樂觀地投入司法使用,那么所謂的智慧司法將會(huì)引出更多棘手的法治難題,對(duì)于“法律AI”大可不必亦不能急于求成。

    再如,著作權(quán)法保護(hù)的客體是“作品”即文學(xué)、藝術(shù)或科學(xué)領(lǐng)域內(nèi)的獨(dú)創(chuàng)性表達(dá),即“只有具備相應(yīng)獨(dú)創(chuàng)性的智力創(chuàng)作成果才可成為著作權(quán)客體,受著作權(quán)法保護(hù)”?!?4 〕“人工智能生成內(nèi)容”的生產(chǎn)過程并不屬于創(chuàng)作、不符合獨(dú)創(chuàng)性要求,不是著作權(quán)法中的作品,所謂“人工智能生產(chǎn)內(nèi)容”的著作權(quán)保護(hù)就成為一個(gè)偽問題,不能以此否認(rèn)現(xiàn)有法律的應(yīng)對(duì)能力?!白髌贰痹从讵?dú)立的、個(gè)性化的思想創(chuàng)作,是某種情感、審美的表達(dá),計(jì)算機(jī)軟件可能具有越超人類大腦的某些組合能力,但最關(guān)鍵的是它缺少人類之間的共情心、同理心而完全根據(jù)算法、模板機(jī)械生成結(jié)果,沒有發(fā)揮智力創(chuàng)作的空間。比如機(jī)器所寫的詩(shī)只是利用了內(nèi)部詞庫(kù)和一些文字搭配技巧,它根本無(wú)法理解愛情、童趣、寂寞、悲憫等詩(shī)歌創(chuàng)作內(nèi)在思想,甚至它呈現(xiàn)出來那堆文字(在其內(nèi)部是一堆數(shù)字代碼)連詩(shī)歌的皮囊都沒有,也注定不會(huì)得到文化上的流傳。人工智能不能改變著作權(quán)法中“作品”的構(gòu)成要件,對(duì)這種毫無(wú)創(chuàng)造情境、毫無(wú)智力活動(dòng)的“生成內(nèi)容”進(jìn)行著作權(quán)保護(hù)毫無(wú)必要,更不能承認(rèn)機(jī)器的著作權(quán)主體資格,否則人工智能將率先在藝術(shù)創(chuàng)作上嚴(yán)重沖擊人類文明理念,這才是人們最需要擔(dān)憂的。事實(shí)上,即便當(dāng)下熱議的法律大數(shù)據(jù)與人工智能在司法場(chǎng)景的應(yīng)用,也還只是停留在宏觀層面概述,根本還未深化到具體的細(xì)分領(lǐng)域?!?5 〕所以,與其說“新技術(shù)、新風(fēng)險(xiǎn)對(duì)司法適用提出新挑戰(zhàn)”,毋寧說是不假思索的命題套路。法學(xué)研究應(yīng)該走出對(duì)AI的“貨物崇拜”,〔16 〕回歸學(xué)術(shù)研究的理性軌道,研究法律領(lǐng)域的真問題。

    三、人工智能法學(xué)研究中的對(duì)策論代替教義論

    人工智能只是無(wú)數(shù)新技術(shù)發(fā)展背景下的某一個(gè)領(lǐng)域,法教義卻是法學(xué)研究不可拋棄的立場(chǎng)和方法,當(dāng)下對(duì)人工智能法律問題的研究停留在對(duì)策論,離開法教義學(xué)的精耕細(xì)作和理論共識(shí)探討必將使人工智能法律問題研究難以沉淀。

    每個(gè)部門法都存在問題性研究和體系性研究,前者以解決個(gè)別問題為導(dǎo)向,后者則以各種原則、規(guī)則的體系推進(jìn)為導(dǎo)向,兩者在整體知識(shí)系統(tǒng)內(nèi)相輔相成,共同保證法律制度對(duì)實(shí)踐問題的適應(yīng)性和穩(wěn)定性。如前所述,人工智能法學(xué)研究興起的原因是研究者認(rèn)為法律對(duì)AI問題的應(yīng)對(duì)能力不足,因而這首先是問題性研究;同時(shí),研究者提供的解決方案如賦予人工智能法律主體地位等均是對(duì)現(xiàn)有體系的突破,因而也就天然犧牲了體系性。概言之,人工智能法學(xué)研究的現(xiàn)狀是問題性研究林立、體系性研究闕如。雖然法學(xué)不能像自然科學(xué)那樣建立起嚴(yán)密的公式體系,但法教義如同公式一樣,提供了邏輯關(guān)系建立起來的知識(shí)體系,保證了各部分知識(shí)之間的兼容性,按照這些公式體系來完成判斷可以節(jié)省大量審查精力?!?7 〕體系性研究的這種優(yōu)勢(shì)蕩然無(wú)存,會(huì)導(dǎo)致我國(guó)法學(xué)研究轉(zhuǎn)型中的所謂知識(shí)創(chuàng)新實(shí)際上走向了“回頭路”:對(duì)策論優(yōu)先。法學(xué)家的對(duì)策論與國(guó)家制度層面的政策論共用一套邏輯,它特別看重的是法律工具主義,當(dāng)失去了體系性研究之后,這種對(duì)策論容易違背原理、拋棄原則、顛覆法秩序,產(chǎn)生的不是工具理性而是“工具不理性”。

    人工智能法學(xué)研究中對(duì)策論的極端表現(xiàn)就是主張賦予人工智能法律人格,甚至人工智能可以作為獨(dú)立的犯罪主體存在,這是一種“以新(立法)制新(問題)”的路徑,往往僅僅是就事論事、毫無(wú)體系。例如,權(quán)利義務(wù)能力是定義法律主體的唯一標(biāo)準(zhǔn),但人工智能在權(quán)利義務(wù)中根本不可能實(shí)現(xiàn)統(tǒng)一性原則。即便人工智能享有了著作權(quán)等呼聲較高的權(quán)利,但它當(dāng)其研發(fā)者、使用者將AI創(chuàng)作物據(jù)為己有時(shí),AI是否能夠就發(fā)表權(quán)、署名權(quán)的救濟(jì)獨(dú)立提起民事訴訟?除此之外,它還能擁有哪些權(quán)利?智能機(jī)器人有無(wú)數(shù)個(gè)種類,程序也極為復(fù)雜,如何判斷某些AI具備而某些不具備權(quán)利能力?研發(fā)者、使用者為自身之目的對(duì)人工智能運(yùn)行程序進(jìn)行刪改時(shí),是否也要經(jīng)過AI的同意?他們對(duì)這些智能產(chǎn)品還能不能夠享有“物”權(quán)?這都是牽一發(fā)動(dòng)全身的問題。在義務(wù)能力上,當(dāng)AI致人損害而產(chǎn)生責(zé)任時(shí),它如何承擔(dān)賠償責(zé)任?法學(xué)家目前設(shè)想的方案是像機(jī)動(dòng)車強(qiáng)制保險(xiǎn)那樣為人工智能進(jìn)行投?;蛟O(shè)置某種基金,但這種責(zé)任仍然是人類的財(cái)產(chǎn)責(zé)任而不是AI的獨(dú)立責(zé)任。因此,“主張人工智能具有主體資格……不具有現(xiàn)實(shí)性意義”,〔18 〕人工智能達(dá)到權(quán)利義務(wù)相統(tǒng)一的法教義要求幾乎不可能,體系性思考的缺失只會(huì)顧此失彼、不可能拼湊出一個(gè)法律上的新主體。

    再如,斷言人工智能可以承擔(dān)刑事責(zé)任的觀點(diǎn)根本違背了人類制定刑法的目的理性。刑法教義學(xué)對(duì)刑罰的認(rèn)知是:“刑罰作為國(guó)家對(duì)犯罪行為的否定評(píng)價(jià)與對(duì)犯罪人的譴責(zé)的一種最嚴(yán)厲的形式,當(dāng)然地對(duì)犯罪人具有身體的、精神的、財(cái)產(chǎn)的剝奪性、限制性痛苦”。〔19 〕不少刑法學(xué)者對(duì)人工智能承擔(dān)刑罰責(zé)任念念不舍,可這種所謂的“刑罰”根本就不可能成為一種“痛苦”,不可能實(shí)現(xiàn)對(duì)AI犯罪的預(yù)防效果。首先,諸如刪除數(shù)據(jù)、修改程序、徹底銷毀等手段根本談不上任何“譴責(zé)性”,這些手段早已在當(dāng)今暢通無(wú)阻。電子產(chǎn)品售后服務(wù)中心對(duì)出售的產(chǎn)品進(jìn)行數(shù)據(jù)程序的刪減、替換、修正或者按照用戶意愿進(jìn)行置換、報(bào)廢是無(wú)比尋常的維修方案,這何曾需要以它們構(gòu)成犯罪主體為前提,這些維修手段的正當(dāng)性根據(jù)只在于技術(shù)有效性——以“能修好”為標(biāo)準(zhǔn)。人類對(duì)自由刑、死刑的痛苦感是來自天然的肉體和心理上的,機(jī)器人的痛苦感則來自于人的設(shè)計(jì)而非其自身,它沒有痛感;在這一點(diǎn)上AI連一只有觸覺的螞蟻都不如。因此,人類為AI設(shè)計(jì)的“刑罰”根本不具有任何刑罰的屬性。其次,正因?yàn)樾塘P屬于最嚴(yán)厲的制裁措施,人類更加注重法治國(guó)刑法的最后手段性、謙抑性、法益保護(hù)輔助性。〔20 〕除刑法之外還有道德規(guī)范、倫理規(guī)范以及其他前置法,如諸多風(fēng)化犯罪之所以受到質(zhì)疑正是因?yàn)橄嚓P(guān)行為屬于純粹道德或倫理調(diào)整范圍。法學(xué)家從來沒有考慮過人類是否能夠?yàn)闄C(jī)器人成功搭建起道德或倫理的規(guī)范體系,而只是簡(jiǎn)單粗暴地動(dòng)用刑罰,面對(duì)人工智能等高端技術(shù)時(shí)總是如此急不可耐;法學(xué)家似乎也沒有注意到,上述那些所謂的刑罰方式其實(shí)單純依靠官方或非官方的AI技術(shù)管理規(guī)范就能夠順利實(shí)現(xiàn),這些技術(shù)指南只需要針對(duì)AI研制者、使用者等人類主體即可??梢哉f,以上問題的很多部分根本就不是“對(duì)法律的挑戰(zhàn)”,〔21 〕人工智能并未對(duì)法律基礎(chǔ)理論、基本法學(xué)教義提出挑戰(zhàn),受到挑戰(zhàn)的只是如何將傳統(tǒng)知識(shí)適用于新的場(chǎng)景,如技術(shù)的發(fā)展如何影響人類自身的注意義務(wù)等。

    迄今為止,人們沒有放棄過對(duì)法律風(fēng)險(xiǎn)預(yù)防功能等問題的迷戀,很多措施如刑罰前置化、抽象危險(xiǎn)犯、行政犯的增設(shè)等或許還能被理解,畢竟它們針對(duì)的都是人類行為,至少這種立法客觀上會(huì)引起一些自然人或單位的心理威懾。〔22 〕但若將法律的預(yù)防功能指向不知何年何月才會(huì)出現(xiàn)的“假想主體”,則根本錯(cuò)解了預(yù)防主義,一如英明睿智的秦皇漢武也不可能以“展望未來”的姿態(tài)為醉酒駕駛機(jī)動(dòng)車的立法浪費(fèi)筆墨,這與他們的想象力無(wú)關(guān)而是由于這一時(shí)代根本不存在這種“定分止?fàn)帯钡男枨?。更值得指出的是,很多法律人自以為富有遠(yuǎn)見卓識(shí)、想象力豐富,可是他們是否想過:強(qiáng)人工智能的整體智慧高于人類且又擁有自主意識(shí)、行動(dòng)自如,那么這種比人類高一等級(jí)的物種屆時(shí)還會(huì)接受今日法學(xué)家的方案嗎?縱然今日設(shè)計(jì)了無(wú)比完美的框架,可是那時(shí)人類將失去框定人工智能的資質(zhì),那時(shí)反倒是“人工智能在思考如何為人類立法”,所以,“冥想式的法學(xué)研究”里充滿著神奇的悖論,人工智能法學(xué)的愿景可能是一場(chǎng)空。

    結(jié)? 語(yǔ)

    法學(xué)不是玄學(xué)、不是科幻主義,也容不得太多不切實(shí)際的浪漫情結(jié)。如果說“我們即將迎來人工智能時(shí)代”、自主思考的強(qiáng)人工智能就在“明天”,那么我們離這個(gè)“明天”究竟有多近?連科學(xué)家都不知道這個(gè)“奇點(diǎn)”何時(shí)來臨,法學(xué)家又具有何種特異功能參透AI的未來禪機(jī)?對(duì)人工智能相關(guān)事務(wù)的法律規(guī)制尚需要我們積累更多的生活樣本,創(chuàng)建一些只適用于遙遠(yuǎn)未來的理論、制定一些只沉睡在法典里的條文將比當(dāng)前的“象征性立法” 〔23 〕更加浪費(fèi)資源,因?yàn)檫@種“立而不用”是名副其實(shí)的“空談”。研究者總是相信AI技術(shù)的強(qiáng)大遠(yuǎn)非常人想象,那么是否有朝一日人類也會(huì)發(fā)現(xiàn)智力超群的外星人?或者基因技術(shù)也會(huì)讓科幻電影里的鋼鐵俠變成能獨(dú)立思考、會(huì)說話的真正人類?如果法學(xué)家總是秉著“寧可信其有”“未雨要綢繆”的態(tài)度——反正也沒什么害處,那么我們現(xiàn)在是否也該為外星人、為鋼鐵俠去制定屬于它們的規(guī)則?如果法學(xué)家連如何將違法行為歸責(zé)為個(gè)人的問題都沒有參透,卻對(duì)人工智能是否擁有主題資格的問題喋喋不休,這不是在浪費(fèi)學(xué)術(shù)資源又是什么?法律人若接連不斷地隨著人工智能等新潮科技一哄即上,那么他們也將隨著自然科學(xué)的挫敗或低落一哄而散,或許也將像三十年前那批AI研究先驅(qū)者一樣只愿承認(rèn)自己是“計(jì)算機(jī)(法學(xué))專家”而對(duì)“人工智能(法學(xué))專家”的頭銜避之不及。當(dāng)以異于常人的想象力從事法學(xué)研究時(shí),研究者的判斷力也會(huì)一并“異于常人”:概念附會(huì)、偽問題替代真問題、政策論替代教義論等一系列現(xiàn)象表明,一貫理性的法律人也會(huì)丟掉人類智力本該堅(jiān)守的常識(shí),人工智能法學(xué)研究中的如此反智化現(xiàn)象,令人深思并需要警醒。

    免费在线观看影片大全网站| 亚洲精品av麻豆狂野| 狂野欧美激情性xxxx| 亚洲人成伊人成综合网2020| 亚洲人成电影免费在线| 99riav亚洲国产免费| 美女扒开内裤让男人捅视频| 亚洲一卡2卡3卡4卡5卡精品中文| 久久天躁狠狠躁夜夜2o2o| 久久九九热精品免费| 99riav亚洲国产免费| 欧洲精品卡2卡3卡4卡5卡区| 久久精品亚洲熟妇少妇任你| 美女大奶头视频| 国产精品精品国产色婷婷| 国产熟女午夜一区二区三区| 人妻丰满熟妇av一区二区三区| 精品久久久久久久久久免费视频| 九色亚洲精品在线播放| 精品国产美女av久久久久小说| 免费女性裸体啪啪无遮挡网站| 美女 人体艺术 gogo| 人人妻人人爽人人添夜夜欢视频| 中亚洲国语对白在线视频| 女人被狂操c到高潮| 99久久99久久久精品蜜桃| 一区二区三区高清视频在线| 国产三级黄色录像| 一进一出抽搐动态| 真人做人爱边吃奶动态| 日本免费一区二区三区高清不卡 | 亚洲欧美日韩无卡精品| 天天添夜夜摸| 国产成人一区二区三区免费视频网站| 在线观看日韩欧美| 亚洲av片天天在线观看| 亚洲国产精品999在线| 日韩欧美三级三区| 国产精华一区二区三区| 国产在线精品亚洲第一网站| 黄网站色视频无遮挡免费观看| 男女做爰动态图高潮gif福利片 | 超碰成人久久| 国产不卡一卡二| 51午夜福利影视在线观看| 欧美黄色淫秽网站| 色婷婷久久久亚洲欧美| 亚洲自拍偷在线| 大陆偷拍与自拍| 美女 人体艺术 gogo| 丝袜美足系列| 美女大奶头视频| 国产伦人伦偷精品视频| 91麻豆av在线| 一边摸一边抽搐一进一出视频| 美女午夜性视频免费| 久久精品国产亚洲av高清一级| 可以免费在线观看a视频的电影网站| 国产成人精品久久二区二区免费| 亚洲专区国产一区二区| 国产亚洲精品久久久久久毛片| 精品国产一区二区久久| videosex国产| 亚洲一码二码三码区别大吗| av网站免费在线观看视频| 高清毛片免费观看视频网站| av片东京热男人的天堂| 国产97色在线日韩免费| 成人18禁在线播放| 丁香六月欧美| 好看av亚洲va欧美ⅴa在| 欧美国产精品va在线观看不卡| 成人国产综合亚洲| www.自偷自拍.com| 18禁国产床啪视频网站| 男女下面插进去视频免费观看| 国产极品粉嫩免费观看在线| 欧美日韩亚洲国产一区二区在线观看| 看免费av毛片| 国产精品98久久久久久宅男小说| 91九色精品人成在线观看| av视频在线观看入口| 一夜夜www| 丝袜人妻中文字幕| 两性夫妻黄色片| 中国美女看黄片| 人成视频在线观看免费观看| 老鸭窝网址在线观看| 日本免费a在线| 午夜免费激情av| 在线av久久热| 日韩欧美国产在线观看| 精品国产乱子伦一区二区三区| 亚洲中文日韩欧美视频| 欧美乱色亚洲激情| 熟妇人妻久久中文字幕3abv| 在线观看免费视频日本深夜| 国产高清视频在线播放一区| 成人三级黄色视频| 久久精品影院6| 精品免费久久久久久久清纯| 一本久久中文字幕| 免费久久久久久久精品成人欧美视频| 黄色毛片三级朝国网站| 国产精品免费视频内射| 18禁观看日本| 天天添夜夜摸| 亚洲欧洲精品一区二区精品久久久| 美女国产高潮福利片在线看| 十八禁网站免费在线| bbb黄色大片| 中文字幕av电影在线播放| 人人妻,人人澡人人爽秒播| 日韩欧美免费精品| www.精华液| 国产视频一区二区在线看| 亚洲av美国av| 精品国产一区二区久久| 欧美日韩瑟瑟在线播放| 国产成年人精品一区二区| 69精品国产乱码久久久| 两性午夜刺激爽爽歪歪视频在线观看 | 俄罗斯特黄特色一大片| 亚洲国产精品成人综合色| 久久伊人香网站| 手机成人av网站| 国产三级在线视频| 欧美黄色淫秽网站| 99久久精品国产亚洲精品| 国产区一区二久久| 最新美女视频免费是黄的| 欧美中文综合在线视频| 国产麻豆69| 校园春色视频在线观看| 亚洲avbb在线观看| 色综合婷婷激情| 亚洲五月色婷婷综合| 国产三级在线视频| 在线天堂中文资源库| 国产精品野战在线观看| 美女大奶头视频| 久久久久久亚洲精品国产蜜桃av| 亚洲精华国产精华精| 国产区一区二久久| 搡老熟女国产l中国老女人| 国产成人欧美在线观看| 中文字幕久久专区| 精品国产国语对白av| www日本在线高清视频| 色在线成人网| 国产精品日韩av在线免费观看 | 99精品在免费线老司机午夜| 999久久久精品免费观看国产| 国产精品免费一区二区三区在线| 中亚洲国语对白在线视频| 国产亚洲欧美精品永久| 中文字幕av电影在线播放| 国产精品野战在线观看| 真人一进一出gif抽搐免费| 女人精品久久久久毛片| 国内精品久久久久久久电影| 欧美色欧美亚洲另类二区 | 国产亚洲av高清不卡| 欧美+亚洲+日韩+国产| av欧美777| 极品教师在线免费播放| 18禁黄网站禁片午夜丰满| 亚洲男人的天堂狠狠| 一级毛片精品| 亚洲 欧美 日韩 在线 免费| 美女免费视频网站| 美女高潮到喷水免费观看| 免费搜索国产男女视频| 首页视频小说图片口味搜索| 精品高清国产在线一区| 国产视频一区二区在线看| 久热这里只有精品99| 最近最新中文字幕大全免费视频| 欧美色视频一区免费| 国产av一区在线观看免费| 亚洲av成人一区二区三| 麻豆久久精品国产亚洲av| av欧美777| 日本a在线网址| 午夜福利在线观看吧| 青草久久国产| 后天国语完整版免费观看| 91老司机精品| 久久香蕉精品热| 中文亚洲av片在线观看爽| 国产主播在线观看一区二区| 一夜夜www| 嫩草影院精品99| 亚洲熟女毛片儿| 日本免费一区二区三区高清不卡 | 国产高清有码在线观看视频 | 亚洲色图av天堂| 黑人巨大精品欧美一区二区蜜桃| 啦啦啦免费观看视频1| 免费观看人在逋| 国产国语露脸激情在线看| 色av中文字幕| 欧美乱色亚洲激情| 午夜福利18| 亚洲av日韩精品久久久久久密| 91国产中文字幕| 久久草成人影院| 日日爽夜夜爽网站| 成人av一区二区三区在线看| 国产91精品成人一区二区三区| 又大又爽又粗| 久久伊人香网站| 久久性视频一级片| 午夜久久久在线观看| 国产成人欧美| 国产成人精品久久二区二区91| 一级毛片女人18水好多| 免费av毛片视频| 国产精品秋霞免费鲁丝片| 亚洲av五月六月丁香网| 免费看美女性在线毛片视频| 国产1区2区3区精品| 亚洲片人在线观看| 女警被强在线播放| 亚洲精品在线美女| 日本 欧美在线| 精品卡一卡二卡四卡免费| av视频免费观看在线观看| 无人区码免费观看不卡| 久久精品91蜜桃| 日本a在线网址| 99精品在免费线老司机午夜| 黄片小视频在线播放| 可以在线观看的亚洲视频| 亚洲一区二区三区不卡视频| av在线播放免费不卡| 波多野结衣av一区二区av| 久久国产精品男人的天堂亚洲| 亚洲全国av大片| 韩国精品一区二区三区| 黄色女人牲交| 久久亚洲真实| 欧美中文综合在线视频| 欧美绝顶高潮抽搐喷水| 人人妻人人澡欧美一区二区 | 亚洲第一电影网av| 麻豆成人av在线观看| 国产免费av片在线观看野外av| 日本 欧美在线| 最新美女视频免费是黄的| 99久久久亚洲精品蜜臀av| 国产精品日韩av在线免费观看 | 亚洲精品一区av在线观看| 51午夜福利影视在线观看| 成人欧美大片| 精品乱码久久久久久99久播| 色综合欧美亚洲国产小说| 亚洲国产欧美日韩在线播放| 久久精品影院6| 日韩欧美一区二区三区在线观看| 在线观看免费视频网站a站| videosex国产| 日本撒尿小便嘘嘘汇集6| 色播在线永久视频| 亚洲欧美日韩无卡精品| 欧美老熟妇乱子伦牲交| 好男人在线观看高清免费视频 | xxx96com| 亚洲成人免费电影在线观看| 757午夜福利合集在线观看| 99国产精品一区二区三区| 久久人人97超碰香蕉20202| 国产一区二区激情短视频| 欧美丝袜亚洲另类 | 久久久久久人人人人人| 亚洲视频免费观看视频| 满18在线观看网站| 麻豆国产av国片精品| 中文字幕人妻丝袜一区二区| 午夜免费激情av| 99精品在免费线老司机午夜| 亚洲欧美日韩无卡精品| 久久天躁狠狠躁夜夜2o2o| 九色国产91popny在线| netflix在线观看网站| 999久久久国产精品视频| 他把我摸到了高潮在线观看| 欧美激情高清一区二区三区| 99久久国产精品久久久| 国产1区2区3区精品| 亚洲成人精品中文字幕电影| а√天堂www在线а√下载| 亚洲欧美精品综合久久99| 欧美绝顶高潮抽搐喷水| 色综合亚洲欧美另类图片| 最近最新免费中文字幕在线| 国产成人av激情在线播放| 久久久国产欧美日韩av| 国产午夜福利久久久久久| 精品一品国产午夜福利视频| 淫秽高清视频在线观看| 精品无人区乱码1区二区| 国产日韩一区二区三区精品不卡| 麻豆久久精品国产亚洲av| 美女高潮到喷水免费观看| 欧美人与性动交α欧美精品济南到| 亚洲av片天天在线观看| 嫩草影视91久久| 91精品三级在线观看| 一级作爱视频免费观看| 看片在线看免费视频| 成人av一区二区三区在线看| 天天添夜夜摸| 成人亚洲精品av一区二区| 亚洲中文字幕一区二区三区有码在线看 | 亚洲中文字幕一区二区三区有码在线看 | 国产一区二区激情短视频| 亚洲第一电影网av| 亚洲全国av大片| 久久精品成人免费网站| 国产日韩一区二区三区精品不卡| 精品福利观看| 天堂√8在线中文| 欧洲精品卡2卡3卡4卡5卡区| 日韩精品青青久久久久久| 桃红色精品国产亚洲av| 国产精品乱码一区二三区的特点 | 美女高潮喷水抽搐中文字幕| 日韩av在线大香蕉| 看免费av毛片| 日韩成人在线观看一区二区三区| 亚洲av第一区精品v没综合| 性欧美人与动物交配| 一级a爱视频在线免费观看| 欧美午夜高清在线| 国产欧美日韩综合在线一区二区| 中文字幕av电影在线播放| 亚洲第一av免费看| av视频在线观看入口| 黑人欧美特级aaaaaa片| 亚洲国产欧美网| 国产成人系列免费观看| av网站免费在线观看视频| 夜夜躁狠狠躁天天躁| 男女午夜视频在线观看| 亚洲黑人精品在线| 黑人欧美特级aaaaaa片| 久久人人97超碰香蕉20202| 51午夜福利影视在线观看| 久久人人爽av亚洲精品天堂| 伊人久久大香线蕉亚洲五| 中亚洲国语对白在线视频| 免费观看精品视频网站| 国产又爽黄色视频| 在线观看日韩欧美| 亚洲专区国产一区二区| 俄罗斯特黄特色一大片| 国产精品一区二区免费欧美| 亚洲精品在线美女| 激情视频va一区二区三区| 国产一区二区激情短视频| 18禁黄网站禁片午夜丰满| 国产免费男女视频| 男人舔女人的私密视频| 中文字幕另类日韩欧美亚洲嫩草| 国产亚洲欧美精品永久| 成人av一区二区三区在线看| 国产一区二区在线av高清观看| 桃色一区二区三区在线观看| 在线观看免费视频日本深夜| 成人免费观看视频高清| 丝袜美足系列| 中文字幕另类日韩欧美亚洲嫩草| 欧美激情久久久久久爽电影 | 一本大道久久a久久精品| 国产伦人伦偷精品视频| 9热在线视频观看99| 国产精品久久久久久人妻精品电影| 曰老女人黄片| 又大又爽又粗| 老司机靠b影院| 国产欧美日韩一区二区精品| 18禁观看日本| 女人精品久久久久毛片| 国产又色又爽无遮挡免费看| 高清在线国产一区| 亚洲av美国av| 看片在线看免费视频| 淫秽高清视频在线观看| 亚洲自偷自拍图片 自拍| а√天堂www在线а√下载| 女性被躁到高潮视频| 久久久久久久精品吃奶| 国产精品99久久99久久久不卡| 麻豆av在线久日| 国产视频一区二区在线看| 久久性视频一级片| 亚洲 国产 在线| 久久这里只有精品19| 人人妻人人澡欧美一区二区 | 欧美激情 高清一区二区三区| 欧美久久黑人一区二区| 91精品三级在线观看| 日日爽夜夜爽网站| 欧美日韩亚洲综合一区二区三区_| 欧美 亚洲 国产 日韩一| 亚洲欧美一区二区三区黑人| 欧美精品亚洲一区二区| 给我免费播放毛片高清在线观看| 999久久久国产精品视频| 国内精品久久久久久久电影| 国产xxxxx性猛交| 人妻久久中文字幕网| 日本 av在线| 欧美大码av| 十八禁网站免费在线| 久久国产亚洲av麻豆专区| 天天添夜夜摸| 手机成人av网站| 久久久久国内视频| 黄色 视频免费看| 午夜老司机福利片| 久久久国产欧美日韩av| 日本三级黄在线观看| 18禁国产床啪视频网站| 窝窝影院91人妻| 视频区欧美日本亚洲| 成人精品一区二区免费| 91精品三级在线观看| 亚洲第一电影网av| 人人澡人人妻人| 男人舔女人的私密视频| 国产精品久久久久久人妻精品电影| 一区二区三区国产精品乱码| 国产精品免费一区二区三区在线| 欧美黄色淫秽网站| 久久婷婷成人综合色麻豆| 色精品久久人妻99蜜桃| 香蕉久久夜色| videosex国产| 黄色a级毛片大全视频| 欧美在线黄色| 操美女的视频在线观看| 日韩免费av在线播放| 亚洲一卡2卡3卡4卡5卡精品中文| 国产精品亚洲一级av第二区| 黄频高清免费视频| 黑人欧美特级aaaaaa片| 精品久久久精品久久久| 国产一区二区在线av高清观看| 国产aⅴ精品一区二区三区波| avwww免费| 亚洲第一欧美日韩一区二区三区| 黄色 视频免费看| 国产亚洲av嫩草精品影院| av超薄肉色丝袜交足视频| 精品久久久久久久人妻蜜臀av | 亚洲国产精品999在线| 久久久久久久精品吃奶| 亚洲专区字幕在线| 亚洲人成77777在线视频| 伦理电影免费视频| 亚洲第一av免费看| av片东京热男人的天堂| 伊人久久大香线蕉亚洲五| 欧美色视频一区免费| 国产亚洲精品久久久久久毛片| 黑丝袜美女国产一区| 窝窝影院91人妻| 女性生殖器流出的白浆| 亚洲自偷自拍图片 自拍| 欧美成人一区二区免费高清观看 | 国产精品自产拍在线观看55亚洲| 欧美日韩精品网址| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲国产精品999在线| 黄色丝袜av网址大全| 19禁男女啪啪无遮挡网站| 国产伦一二天堂av在线观看| 久久久久国内视频| 日韩精品青青久久久久久| 色av中文字幕| 亚洲av成人av| 老司机深夜福利视频在线观看| 久久久久国内视频| 色哟哟哟哟哟哟| 夜夜夜夜夜久久久久| 男女做爰动态图高潮gif福利片 | 深夜精品福利| 国产伦一二天堂av在线观看| 十八禁人妻一区二区| 好男人电影高清在线观看| 成人亚洲精品av一区二区| 人人妻人人爽人人添夜夜欢视频| 国产亚洲精品一区二区www| 亚洲精华国产精华精| 老熟妇仑乱视频hdxx| 人人妻人人澡人人看| 国产又爽黄色视频| 高潮久久久久久久久久久不卡| 久久中文字幕人妻熟女| 在线观看免费视频日本深夜| 国内精品久久久久久久电影| 在线永久观看黄色视频| 色综合婷婷激情| a级毛片在线看网站| 午夜精品国产一区二区电影| 免费久久久久久久精品成人欧美视频| 在线观看一区二区三区| 亚洲av电影不卡..在线观看| 国产又色又爽无遮挡免费看| 三级毛片av免费| 丝袜人妻中文字幕| 亚洲欧洲精品一区二区精品久久久| 国产高清激情床上av| 婷婷丁香在线五月| 亚洲国产看品久久| 成人亚洲精品av一区二区| 午夜福利欧美成人| 精品久久久久久成人av| 国产高清激情床上av| 高清在线国产一区| 国产91精品成人一区二区三区| 国产日韩一区二区三区精品不卡| 精品乱码久久久久久99久播| 9色porny在线观看| 国产精品,欧美在线| 精品一区二区三区av网在线观看| 免费观看人在逋| 动漫黄色视频在线观看| 首页视频小说图片口味搜索| 日本精品一区二区三区蜜桃| 天天一区二区日本电影三级 | 亚洲三区欧美一区| 久久久久久亚洲精品国产蜜桃av| 欧美激情 高清一区二区三区| 一本综合久久免费| 制服诱惑二区| 无遮挡黄片免费观看| 淫妇啪啪啪对白视频| 国产伦人伦偷精品视频| 亚洲国产欧美日韩在线播放| 国产精品久久电影中文字幕| 亚洲无线在线观看| 一二三四在线观看免费中文在| 非洲黑人性xxxx精品又粗又长| 欧美黑人精品巨大| 亚洲精品av麻豆狂野| 老鸭窝网址在线观看| 此物有八面人人有两片| 伦理电影免费视频| 欧美日韩亚洲综合一区二区三区_| 成人特级黄色片久久久久久久| 久久久国产成人精品二区| 深夜精品福利| 久久久久国产精品人妻aⅴ院| 久久久国产成人免费| 精品一品国产午夜福利视频| 在线国产一区二区在线| 这个男人来自地球电影免费观看| 涩涩av久久男人的天堂| 国产人伦9x9x在线观看| 制服丝袜大香蕉在线| 亚洲精品中文字幕在线视频| 成人亚洲精品av一区二区| 国产精品日韩av在线免费观看 | 国产麻豆成人av免费视频| 少妇被粗大的猛进出69影院| 国产亚洲精品一区二区www| 成年人黄色毛片网站| 国产又色又爽无遮挡免费看| 中文字幕高清在线视频| 午夜免费激情av| 亚洲第一av免费看| 看片在线看免费视频| 在线观看午夜福利视频| 亚洲国产毛片av蜜桃av| 黄片播放在线免费| 一a级毛片在线观看| 色综合欧美亚洲国产小说| av有码第一页| 变态另类成人亚洲欧美熟女 | 在线观看免费视频网站a站| 色播在线永久视频| 成人手机av| 亚洲成人精品中文字幕电影| 脱女人内裤的视频| 中亚洲国语对白在线视频| 日本五十路高清| 精品久久久久久久久久免费视频| av视频在线观看入口| 韩国精品一区二区三区| 黑人欧美特级aaaaaa片| 国产成人精品无人区| 神马国产精品三级电影在线观看 | www.精华液| 免费高清在线观看日韩| 欧美成人午夜精品| 国产97色在线日韩免费| 99在线人妻在线中文字幕| 亚洲专区国产一区二区| 亚洲一区高清亚洲精品| 老汉色av国产亚洲站长工具| 午夜激情av网站| 日本撒尿小便嘘嘘汇集6| 亚洲精品美女久久久久99蜜臀| 国产乱人伦免费视频| 亚洲免费av在线视频| 19禁男女啪啪无遮挡网站| 不卡av一区二区三区| 又大又爽又粗| 午夜福利高清视频| 国产单亲对白刺激| 亚洲成人国产一区在线观看| 91精品国产国语对白视频|