• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法學(xué)研究的反智化批判

    2019-08-27 01:31:58劉艷紅
    東方法學(xué) 2019年5期

    劉艷紅

    內(nèi)容摘要:人工智能技術(shù)熱潮的再度興起,使得人工智能法學(xué)研究空前繁盛,但當(dāng)前研究出現(xiàn)了違反人類智力常識(shí)的反智化現(xiàn)象。概念附會(huì)現(xiàn)象嚴(yán)重,不少成果只是基于“AI+法律”的任意性組合,“泛人工智能化”研究正在產(chǎn)生大量學(xué)術(shù)泡沫;制造人工智能研究中的“假問題”或誤將司法適用問題當(dāng)作人工智能法學(xué)研究中的元問題,理論創(chuàng)新方向值得懷疑;將對(duì)策與科技問題當(dāng)作理論與學(xué)術(shù)問題,離開法教義學(xué)的基本立場(chǎng)與方法,使得人工智能的研究日益滑向不可知論。人工智能并未對(duì)法律基礎(chǔ)理論、法學(xué)基本教義提出挑戰(zhàn),受到挑戰(zhàn)的只是如何將傳統(tǒng)知識(shí)適用于新的場(chǎng)景。法學(xué)研究應(yīng)該避免盲目跟風(fēng),走出對(duì)人工智能體的崇拜,回歸學(xué)術(shù)研究的理性軌道。

    關(guān)鍵詞:人工智能法學(xué) 反智化 法教義學(xué)

    中國(guó)分類號(hào):DF05? 文獻(xiàn)標(biāo)識(shí)碼:A? 文章編號(hào):1674-4039-(2019)05-0119-126

    20世紀(jì)七八十年代,人們?cè)欢葘?duì)人工智能的研究充滿熱情,但隨著真正有用的AI法律程序未能面世,這種熱情被漫長(zhǎng)的挫敗感沖淡。而如今人工智能技術(shù)再次“引起了越來越多的興奮和焦慮……涉及人工智能的未來圖像在大眾媒體中日益流行”?!? 〕在這種氛圍的籠罩下,我國(guó)法學(xué)理論和實(shí)務(wù)界也對(duì)人工智能(機(jī)器人)保持著巨大的好奇,對(duì)法律引導(dǎo)人工智能發(fā)展的技藝充滿著強(qiáng)烈的自信。不可否認(rèn),為包括人工智能在內(nèi)的一切技術(shù)問題設(shè)計(jì)法律規(guī)則,是法律人不可推卸的時(shí)代使命,因而這種研究風(fēng)潮是“法學(xué)作為致用之學(xué)”的當(dāng)然表現(xiàn),一切“熱衷”似無(wú)可厚非。但也正因?yàn)榉▽W(xué)研究本應(yīng)具有觀照現(xiàn)實(shí)的特性,這要求我們時(shí)刻注意合理選擇參與前沿技術(shù)討論的現(xiàn)實(shí)契入點(diǎn),在正確理解人工智能技術(shù)應(yīng)用場(chǎng)景的前提下確定法學(xué)研究的問題意識(shí),避免盲目追求“時(shí)髦”的學(xué)術(shù)虛假繁榮。以刑法學(xué)為例,或許得益于國(guó)家《新一代人工智能發(fā)展規(guī)劃》的政策信號(hào),本領(lǐng)域內(nèi)的研究成果從2017年開始呈現(xiàn)爆炸式增長(zhǎng),“人工智能刑事責(zé)任論”等儼然成為最為耀眼的知識(shí)增長(zhǎng)點(diǎn)。面對(duì)席卷而來的人工智能法律問題的法學(xué)研究,面對(duì)“定分止?fàn)帯钡姆杀拘?,不得不讓人產(chǎn)生懷疑:法律學(xué)者們是否已經(jīng)找到了規(guī)制AI技術(shù)發(fā)展的理性方向?當(dāng)前的熱烈研究究竟能走多遠(yuǎn),它究竟只是“先一哄而上再一哄而散”還是能夠持續(xù)到強(qiáng)人工智能到來之日?空前興盛的人工智能法學(xué)是否積累了有助于學(xué)科發(fā)展的智識(shí),抑或僅僅是法學(xué)理論工作者們?yōu)榱俗粉櫉狳c(diǎn)并出于各自目的比如引用率高低等而亦步亦趨的“學(xué)術(shù)秀”?對(duì)此,筆者將審視當(dāng)下人工智能法學(xué)研究的格局及其問題,并在此基礎(chǔ)上就其發(fā)展進(jìn)路談幾點(diǎn)看法。

    一、人工智能法學(xué)研究中的概念附會(huì)

    當(dāng)前法學(xué)界存在無(wú)處不在的“人工智能+”,在人工智能的大招牌之下開啟了各個(gè)論域的話題研討新模式。究竟什么才是人工智能?學(xué)者們所言的人工智能只是借用了一個(gè)似是而非的流行語(yǔ)以吸引閱讀興趣,還是它確實(shí)挑戰(zhàn)了千百年形成的法律知識(shí)體系?通過觀察可以發(fā)現(xiàn),人工智能其實(shí)并沒有取得如此巨大的飛躍,一些所謂的“人工智能法學(xué)”研究題目?jī)H僅是在“順勢(shì)包裝、借殼上市”,這種“盛名之下,其實(shí)難副”的概念附會(huì)已經(jīng)吹起了不少學(xué)術(shù)泡沫。

    人類最初在制造計(jì)算機(jī)之時(shí)就已幻想能夠研發(fā)出會(huì)思考的機(jī)器,那時(shí)人們無(wú)法給予它一個(gè)特定的可理解的準(zhǔn)確稱謂,因而便將之命名為“Artificial Intelligence”,簡(jiǎn)稱AI,以表明其不同于人類自然智慧的人工智慧。迄今為之,科學(xué)家們也給它撰寫過不同的定義,甚至用各種思想實(shí)驗(yàn)如著名的圖靈測(cè)試、中文房間理論等驗(yàn)證這種人工智能存在與否。筆者不想詳細(xì)列舉這些定義,事實(shí)上關(guān)于計(jì)算機(jī)科學(xué)、哲學(xué)、法學(xué)等學(xué)科內(nèi)的很多基礎(chǔ)概念都沒有取得過一致的意見。或許如美國(guó)最高法院大法官斯圖爾特曾說的那樣,我們難以成功描述這些概念如無(wú)法定義什么是淫穢物品,但“當(dāng)看到它時(shí)我就知道了”?!? 〕然而,當(dāng)人們因自身的不求甚解而誤解研究對(duì)象時(shí),準(zhǔn)確提煉出相關(guān)概念的核心要素就顯得十分必要,畢竟不同定義之間還存在著相當(dāng)?shù)墓沧R(shí)。整體而言,人工智能概念核心要素自20世紀(jì)50年代產(chǎn)生以來就是恒定的,人們尚沒有超脫對(duì)AI的原始認(rèn)知——像人類一樣理性地思考和行動(dòng)。這并不是說人工智能系統(tǒng)的智力水平與人類持平,事實(shí)上人類在很多方面也早已大大超越了這個(gè)目標(biāo),而是涉及一些像人類一樣能夠“自主的選擇和決定:自我管理”?!白灾骰蜃灾危ㄔ醋韵ED語(yǔ)auto:自我,nomos:法律)與自動(dòng)化不同,自動(dòng)化是指由一臺(tái)機(jī)器不斷重復(fù)一個(gè)過程。自主則要求……AI可以作出自我的選擇,即便它在作決定時(shí)與人類有過互動(dòng)”。〔3 〕可以說,“機(jī)器是否具有自動(dòng)化”是一種外部信號(hào)反射式的事實(shí)判斷,而“機(jī)器是否具有自主性”則還涉及自然科學(xué)之外的關(guān)于機(jī)器是否具有自我意志和自我行動(dòng)能力的“(類)人性”判斷。有鑒于此,有學(xué)者認(rèn)為一個(gè)可被稱為“智能”的實(shí)體應(yīng)至少具有五個(gè)基本構(gòu)成屬性:①溝通交流能力,即能夠與人類或其他物種相互動(dòng),這并不單單代表著智商水平而是一種社會(huì)交際潛能;②內(nèi)部知識(shí),即對(duì)自身的認(rèn)知,它等于“自我意識(shí)”,一個(gè)有智慧的實(shí)體應(yīng)該知道自己的存在、自己以某種方式運(yùn)作、將自己融入現(xiàn)實(shí)等;③外部知識(shí),即關(guān)于外部世界和真正現(xiàn)實(shí)的數(shù)據(jù)收集分析能力,這是人類累積生活經(jīng)驗(yàn)的方式,也是人類學(xué)習(xí)的方式,如果把任何事件一次又一次地當(dāng)作全新的,那么就很難表現(xiàn)得像一個(gè)有智慧的實(shí)體;④目標(biāo)驅(qū)動(dòng)行為,這指的是一種意圖,它制定和執(zhí)行計(jì)劃來實(shí)現(xiàn)相關(guān)目的;⑤創(chuàng)造能力,即指找到新的理解或行為方式的能力,反復(fù)嘗試完全相同的行為并不是創(chuàng)造力的表現(xiàn)?!? 〕所以,真正的人工智能是極為復(fù)雜的,認(rèn)定條件也頗為苛刻,這些定義標(biāo)準(zhǔn)限制了概念上的泛人工智能化。

    反觀我國(guó)法學(xué)界,很多學(xué)者常常將人工智能要求的“自主性”與尋常的“機(jī)械自動(dòng)化”相互混淆。例如,致力于人工智能法學(xué)研究的學(xué)者大多以“機(jī)器人傷人事件”等為起點(diǎn),比如2015年德國(guó)大眾汽車制造車間內(nèi)發(fā)生的所謂“首起機(jī)器人殺人案”。但是,本案中產(chǎn)生故障的機(jī)器人只是普通機(jī)械設(shè)施,它根本沒有獨(dú)立思考的能力,它之所以會(huì)殺死這名工人,是因?yàn)橛|發(fā)了該設(shè)備的自動(dòng)處理程序;它只是自動(dòng)化的普通機(jī)器,遠(yuǎn)沒有達(dá)到所謂人工智能的水平。與無(wú)處不在的生產(chǎn)責(zé)任事故相比,該事件也沒有本質(zhì)不同,無(wú)非該設(shè)備的自動(dòng)化系統(tǒng)更為精密而已。如果說這也能夠成為人工智能法學(xué)研究的問題來源,那么可能早在工業(yè)革命推廣開來之時(shí)就該去研究“人工智能”了,或許農(nóng)業(yè)社會(huì)耕田的拖拉機(jī)傷人也該劃入人工智能法律問題的話題范圍了。生活經(jīng)驗(yàn)常識(shí)告訴我們,任何機(jī)器都會(huì)存在風(fēng)險(xiǎn),即便一把毫無(wú)自動(dòng)性的菜刀在人類不當(dāng)使用時(shí)也會(huì)劃傷手指。以所謂的“機(jī)器人殺人案”導(dǎo)出人工智能的發(fā)展風(fēng)險(xiǎn),進(jìn)而得出應(yīng)追究人工智能之物法律責(zé)任的觀點(diǎn),〔5 〕是對(duì)人工智能根本性的誤解和非常低級(jí)性的錯(cuò)誤。那些討論對(duì)機(jī)器人追究刑事責(zé)任的學(xué)者可能忘記了刑罰的功能,“在判處刑罰的情況下,法官對(duì)再犯罪可能性的預(yù)測(cè)不可能是絕對(duì)準(zhǔn)確的,犯罪人的行為態(tài)度、規(guī)范意識(shí)等也是不斷變化的,因此,刑法特別規(guī)定了減刑制度與假釋制度”?!? 〕針對(duì)機(jī)器人,這些刑罰制度顯然沒有任何意義,刑罰的報(bào)應(yīng)或者預(yù)防目的也都無(wú)從實(shí)現(xiàn)。

    再如,銀行的自動(dòng)取款機(jī)是為了節(jié)省人工成本而發(fā)明的旨在引導(dǎo)人們從銀行自助取款的機(jī)器,雖然它也被叫作“自動(dòng)柜員機(jī)”,但它只是銀行人類柜員的一種替代設(shè)施,它只有自動(dòng)化而沒有自主性。但是,有學(xué)者在人工智能中討論利用拾得或盜竊他人銀行卡在ATM機(jī)上取款等案件的處理,將之歸入“人工智能作為侵財(cái)對(duì)象的侵財(cái)犯罪”,并以此提出了“人工智能時(shí)代侵財(cái)犯罪刑法適用的困境”問題。事實(shí)是,中國(guó)第一臺(tái)ATM機(jī)早在1987年就已經(jīng)啟用,它與人工智能之間沒有絲毫關(guān)系。“通過ATM機(jī)實(shí)施侵財(cái)犯罪”“機(jī)器能否被騙”等話題根本不用借助于所謂的人工智能就已被討論過了,當(dāng)法學(xué)重要期刊上的論文將ATM機(jī)、手機(jī)銀行、支付寶第三方支付平臺(tái)等統(tǒng)統(tǒng)納入人工智能范疇時(shí),恰恰表明概念附會(huì)的嚴(yán)重性已經(jīng)到了讓人失去底線的地步。果真如此,我們這個(gè)人口大國(guó)的人工智能普及率早已世界遙遙領(lǐng)先。ATM機(jī)、手機(jī)銀行、支付寶等可能會(huì)出現(xiàn)系統(tǒng)故障,但它們并沒有社會(huì)溝通能力、創(chuàng)造能力,它們也沒有自主性;我們對(duì)它們的應(yīng)用再熟悉不過,常識(shí)告訴我們,這種研究正是泛人工智能化的突出表現(xiàn)。

    綜上可見,我國(guó)人工智能法學(xué)研究中存在著明顯的概念附會(huì),將不屬于人工智能的研究對(duì)象強(qiáng)行貼上人工智能的標(biāo)簽,相關(guān)研究演變?yōu)椤癆I+法律”的任意性組合,不少研究者只是打著人工智能的旗號(hào)攫取話語(yǔ)權(quán)、提升自我身價(jià),法學(xué)家們一夜之間變成了人工智能專家,仿佛讓自然科學(xué)家都望塵莫及。這種“泛人工智能化”不是真正的學(xué)術(shù)研究,而是制造學(xué)術(shù)泡沫。

    二、人工智能法學(xué)研究中的偽問題替代真問題

    “問題意識(shí)”是一個(gè)常談常新的話題,提出正確的問題是任何研究過程的開端,如果沒有針對(duì)真實(shí)的問題進(jìn)行討論,即使論述再精妙、方法再多樣、觀點(diǎn)再前衛(wèi)、著述再等身,都只是徒有一身浮華的外表,根本不具有任何實(shí)際意義。當(dāng)前法學(xué)研究中,應(yīng)特別注意甄別“偽問題”。尤其在“亂花漸欲迷人眼”的人工智能領(lǐng)域,問題意識(shí)更具有欺瞞性,一些法學(xué)家似乎總能夠發(fā)現(xiàn)連科學(xué)家都難以察覺的“宇宙級(jí)難題”,可靜心觀察就會(huì)發(fā)現(xiàn)不少問題的討論意義僅僅在于占領(lǐng)了更多期刊版面而已,所謂的理論創(chuàng)新可能只是一場(chǎng)空歡喜。

    其一,不斷制造、跟風(fēng)、放大“假問題”,導(dǎo)致法學(xué)研究誤以人工智能發(fā)展中的夸張、炒作、娛樂為前提。我國(guó)人工智能法學(xué)研究主要始于學(xué)者們對(duì)人工智能技術(shù)的各種憂患意識(shí):人工智能的發(fā)展前景不可限量,必然會(huì)出現(xiàn)具有自我意志的(超)強(qiáng)人工智能,人工智能甚至可能會(huì)取代人類、機(jī)器算法會(huì)取代人類法律;人工智能引發(fā)的風(fēng)險(xiǎn)足以產(chǎn)生毀滅性打擊,因而主張法律甚至刑法應(yīng)積極應(yīng)對(duì)和規(guī)制人工智能的發(fā)展,等等。這種“居安思危”“未雨綢繆”的精神確實(shí)讓人感佩,可是這些憂慮只是依靠無(wú)數(shù)假想拼湊起來的幻影,只是在用別人的“噱頭”嚇唬自己。

    例如,世界上第一個(gè)獲得公民資格的表情機(jī)器人索菲亞,在2017年10月被沙特阿拉伯授予公民身份之后,尤其它曾在與設(shè)計(jì)者漢森的對(duì)話中冒出一句“我想毀滅人類”,法學(xué)家們開始變得躁動(dòng)不安。不少學(xué)者將索菲亞的公民身份作為一種AI技術(shù)發(fā)展的國(guó)家制度回應(yīng),視之為AI挑戰(zhàn)現(xiàn)行法律體系的范例以及檢驗(yàn)?zāi)硞€(gè)法律人格理論是否合格的試金石,認(rèn)為法律若不承認(rèn)機(jī)器人的法律主體地位就不能滿足這種社會(huì)現(xiàn)實(shí)。然而,索菲亞早已遭到包括人工智能科學(xué)家在內(nèi)的各方觀察者的極大懷疑:“索菲亞之于AI,就像變戲法的之于真正的魔法,我們把它稱作‘AI崇拜‘假冒AI或者‘遠(yuǎn)程操控AI可能比較好?!?〔7 〕所謂具有公民身份的索菲亞不過是一個(gè)公關(guān)噱頭而已,而不是人性、尊嚴(yán)或人格的展現(xiàn)?!啊詫傩缘乃鞣苼喚烤鼓芟碛心男?quán)利,還真不好說。因?yàn)樵谑掳l(fā)地點(diǎn)沙特,女性連單獨(dú)駕駛權(quán)都未得到法律認(rèn)可?!?〔8 〕對(duì)于這樣一個(gè)女性只配擁有有限權(quán)利的國(guó)家來說,索菲亞更像是一個(gè)營(yíng)銷玩物。這種以國(guó)家權(quán)力為支撐的機(jī)器人營(yíng)銷策略淡化了沙特在婦女權(quán)利方面的不光彩記錄,其實(shí)索菲亞主要的新穎性在于身體和面部表情,而不是它的會(huì)話方式、主體認(rèn)知或智能程度,“當(dāng)以真實(shí)的人類互動(dòng)標(biāo)準(zhǔn)來衡量時(shí),它便倉(cāng)皇失措、‘智商不在線”。〔9 〕其實(shí),類似于索菲亞的人形機(jī)器人在世界范圍內(nèi)還有很多,它們之所以不被人們津津樂道,是因?yàn)樗鼈兊陌b實(shí)力不及索菲亞?!?0 〕AI技術(shù)的擁護(hù)者李開復(fù)曾公開評(píng)論,索菲亞“絲毫沒有人性、人的理解、愛心、創(chuàng)造力。授予這樣一臺(tái)只會(huì)模式識(shí)別的機(jī)器‘公民,是對(duì)人類最大的羞辱和誤導(dǎo)。一個(gè)國(guó)家用這種嘩眾取寵的方式來推進(jìn)人工智能科研,只會(huì)適得其反”?!?1 〕既然人們對(duì)于索菲亞之于人工智能發(fā)展的意義遠(yuǎn)沒有形成共識(shí),我們更沒有必要放大索菲亞等類似機(jī)器人對(duì)現(xiàn)有法律體系的影響,索菲亞的所謂“公民身份”是國(guó)家、企業(yè)、新聞媒體等各方利益的聯(lián)合演出,它既與沙特本國(guó)的法制傳統(tǒng)相齟齬,也受到了AI專業(yè)科學(xué)家的批評(píng)。因此,法學(xué)家完全沒有必要從索菲亞那里獲得什么問題意識(shí),也不必為它的公民身份感到欣喜或恐慌,由索菲亞引出的人工智能法律人格問題是個(gè)徹底的偽問題,沒有任何法制建構(gòu)和法學(xué)研究上的借鑒性;那些經(jīng)由公民機(jī)器人的誕生而產(chǎn)生的將索菲亞“修壞了會(huì)被追究法律責(zé)任嗎?把‘她拆解其不等同于謀殺?” 〔12 〕等問題,正是偽人工智能法學(xué)問題的典型代表。

    其二,將司法適用/使用問題作為人工智能法學(xué)的“元問題”,“AI樂觀主義+法律工具主義”盛行,從而不甄別真風(fēng)險(xiǎn)真挑戰(zhàn)、陷于表象式研究氛圍。當(dāng)前的研究主要集中于兩個(gè)方面:一是推進(jìn)司法人工智能以提升“智慧司法”乃至“智慧法治”,克服人類裁判思維的片面與恣意;二是探究人工智能對(duì)傳統(tǒng)法律權(quán)利義務(wù)的挑戰(zhàn),最終落腳于人工智能的司法處遇如“人工智能創(chuàng)生成內(nèi)容”的著作權(quán)保護(hù)、自動(dòng)駕駛致人損傷的刑事責(zé)任等情形。如果將研究對(duì)象限定在弱人工智能,則不僅AI的作用有限,而且它對(duì)法律體系的挑戰(zhàn)也十分微弱,以人類為中心的現(xiàn)有法制系統(tǒng)仍具有頑強(qiáng)的適應(yīng)力;如果將研究對(duì)象拓展至強(qiáng)人工智能,則不僅完全跨越了時(shí)代,而且忽視了一系列尚未深入討論的前提性問題。

    如前所述,當(dāng)前的“司法人工智能”只是提高司法工作效率的便利工具,如語(yǔ)音輸入取代書記員電腦打字記錄、裁判文書上網(wǎng)以及自動(dòng)識(shí)別搜索等,這種變化與書記員告別古老的手寫記錄沒有實(shí)質(zhì)區(qū)別,其他應(yīng)用如海量判例篩選、輔助量刑規(guī)范化、電子取證技術(shù) 〔13 〕等至多屬于增強(qiáng)同案同判等人類司法智慧的AI。當(dāng)我們質(zhì)疑人類恣意時(shí),也更有理由懷疑這些系統(tǒng)研發(fā)者會(huì)借著算法黑箱寫入法學(xué)家的偏見、科學(xué)家的武斷、企業(yè)的經(jīng)濟(jì)利益等,它們?nèi)詿o(wú)法擺脫商業(yè)、政治、強(qiáng)勢(shì)價(jià)值觀等力量操控,這種“算法歧視”已經(jīng)在多種領(lǐng)域出現(xiàn),使得人們對(duì)這種由于尖端技術(shù)導(dǎo)致的不公正性的救濟(jì)難度將直線上升。因此,當(dāng)前司法人工智能實(shí)際仍停留在“為何要用”的原始階段,當(dāng)類似元問題沒有得到充分討論而徑直將其樂觀地投入司法使用,那么所謂的智慧司法將會(huì)引出更多棘手的法治難題,對(duì)于“法律AI”大可不必亦不能急于求成。

    再如,著作權(quán)法保護(hù)的客體是“作品”即文學(xué)、藝術(shù)或科學(xué)領(lǐng)域內(nèi)的獨(dú)創(chuàng)性表達(dá),即“只有具備相應(yīng)獨(dú)創(chuàng)性的智力創(chuàng)作成果才可成為著作權(quán)客體,受著作權(quán)法保護(hù)”?!?4 〕“人工智能生成內(nèi)容”的生產(chǎn)過程并不屬于創(chuàng)作、不符合獨(dú)創(chuàng)性要求,不是著作權(quán)法中的作品,所謂“人工智能生產(chǎn)內(nèi)容”的著作權(quán)保護(hù)就成為一個(gè)偽問題,不能以此否認(rèn)現(xiàn)有法律的應(yīng)對(duì)能力?!白髌贰痹从讵?dú)立的、個(gè)性化的思想創(chuàng)作,是某種情感、審美的表達(dá),計(jì)算機(jī)軟件可能具有越超人類大腦的某些組合能力,但最關(guān)鍵的是它缺少人類之間的共情心、同理心而完全根據(jù)算法、模板機(jī)械生成結(jié)果,沒有發(fā)揮智力創(chuàng)作的空間。比如機(jī)器所寫的詩(shī)只是利用了內(nèi)部詞庫(kù)和一些文字搭配技巧,它根本無(wú)法理解愛情、童趣、寂寞、悲憫等詩(shī)歌創(chuàng)作內(nèi)在思想,甚至它呈現(xiàn)出來那堆文字(在其內(nèi)部是一堆數(shù)字代碼)連詩(shī)歌的皮囊都沒有,也注定不會(huì)得到文化上的流傳。人工智能不能改變著作權(quán)法中“作品”的構(gòu)成要件,對(duì)這種毫無(wú)創(chuàng)造情境、毫無(wú)智力活動(dòng)的“生成內(nèi)容”進(jìn)行著作權(quán)保護(hù)毫無(wú)必要,更不能承認(rèn)機(jī)器的著作權(quán)主體資格,否則人工智能將率先在藝術(shù)創(chuàng)作上嚴(yán)重沖擊人類文明理念,這才是人們最需要擔(dān)憂的。事實(shí)上,即便當(dāng)下熱議的法律大數(shù)據(jù)與人工智能在司法場(chǎng)景的應(yīng)用,也還只是停留在宏觀層面概述,根本還未深化到具體的細(xì)分領(lǐng)域?!?5 〕所以,與其說“新技術(shù)、新風(fēng)險(xiǎn)對(duì)司法適用提出新挑戰(zhàn)”,毋寧說是不假思索的命題套路。法學(xué)研究應(yīng)該走出對(duì)AI的“貨物崇拜”,〔16 〕回歸學(xué)術(shù)研究的理性軌道,研究法律領(lǐng)域的真問題。

    三、人工智能法學(xué)研究中的對(duì)策論代替教義論

    人工智能只是無(wú)數(shù)新技術(shù)發(fā)展背景下的某一個(gè)領(lǐng)域,法教義卻是法學(xué)研究不可拋棄的立場(chǎng)和方法,當(dāng)下對(duì)人工智能法律問題的研究停留在對(duì)策論,離開法教義學(xué)的精耕細(xì)作和理論共識(shí)探討必將使人工智能法律問題研究難以沉淀。

    每個(gè)部門法都存在問題性研究和體系性研究,前者以解決個(gè)別問題為導(dǎo)向,后者則以各種原則、規(guī)則的體系推進(jìn)為導(dǎo)向,兩者在整體知識(shí)系統(tǒng)內(nèi)相輔相成,共同保證法律制度對(duì)實(shí)踐問題的適應(yīng)性和穩(wěn)定性。如前所述,人工智能法學(xué)研究興起的原因是研究者認(rèn)為法律對(duì)AI問題的應(yīng)對(duì)能力不足,因而這首先是問題性研究;同時(shí),研究者提供的解決方案如賦予人工智能法律主體地位等均是對(duì)現(xiàn)有體系的突破,因而也就天然犧牲了體系性。概言之,人工智能法學(xué)研究的現(xiàn)狀是問題性研究林立、體系性研究闕如。雖然法學(xué)不能像自然科學(xué)那樣建立起嚴(yán)密的公式體系,但法教義如同公式一樣,提供了邏輯關(guān)系建立起來的知識(shí)體系,保證了各部分知識(shí)之間的兼容性,按照這些公式體系來完成判斷可以節(jié)省大量審查精力?!?7 〕體系性研究的這種優(yōu)勢(shì)蕩然無(wú)存,會(huì)導(dǎo)致我國(guó)法學(xué)研究轉(zhuǎn)型中的所謂知識(shí)創(chuàng)新實(shí)際上走向了“回頭路”:對(duì)策論優(yōu)先。法學(xué)家的對(duì)策論與國(guó)家制度層面的政策論共用一套邏輯,它特別看重的是法律工具主義,當(dāng)失去了體系性研究之后,這種對(duì)策論容易違背原理、拋棄原則、顛覆法秩序,產(chǎn)生的不是工具理性而是“工具不理性”。

    人工智能法學(xué)研究中對(duì)策論的極端表現(xiàn)就是主張賦予人工智能法律人格,甚至人工智能可以作為獨(dú)立的犯罪主體存在,這是一種“以新(立法)制新(問題)”的路徑,往往僅僅是就事論事、毫無(wú)體系。例如,權(quán)利義務(wù)能力是定義法律主體的唯一標(biāo)準(zhǔn),但人工智能在權(quán)利義務(wù)中根本不可能實(shí)現(xiàn)統(tǒng)一性原則。即便人工智能享有了著作權(quán)等呼聲較高的權(quán)利,但它當(dāng)其研發(fā)者、使用者將AI創(chuàng)作物據(jù)為己有時(shí),AI是否能夠就發(fā)表權(quán)、署名權(quán)的救濟(jì)獨(dú)立提起民事訴訟?除此之外,它還能擁有哪些權(quán)利?智能機(jī)器人有無(wú)數(shù)個(gè)種類,程序也極為復(fù)雜,如何判斷某些AI具備而某些不具備權(quán)利能力?研發(fā)者、使用者為自身之目的對(duì)人工智能運(yùn)行程序進(jìn)行刪改時(shí),是否也要經(jīng)過AI的同意?他們對(duì)這些智能產(chǎn)品還能不能夠享有“物”權(quán)?這都是牽一發(fā)動(dòng)全身的問題。在義務(wù)能力上,當(dāng)AI致人損害而產(chǎn)生責(zé)任時(shí),它如何承擔(dān)賠償責(zé)任?法學(xué)家目前設(shè)想的方案是像機(jī)動(dòng)車強(qiáng)制保險(xiǎn)那樣為人工智能進(jìn)行投?;蛟O(shè)置某種基金,但這種責(zé)任仍然是人類的財(cái)產(chǎn)責(zé)任而不是AI的獨(dú)立責(zé)任。因此,“主張人工智能具有主體資格……不具有現(xiàn)實(shí)性意義”,〔18 〕人工智能達(dá)到權(quán)利義務(wù)相統(tǒng)一的法教義要求幾乎不可能,體系性思考的缺失只會(huì)顧此失彼、不可能拼湊出一個(gè)法律上的新主體。

    再如,斷言人工智能可以承擔(dān)刑事責(zé)任的觀點(diǎn)根本違背了人類制定刑法的目的理性。刑法教義學(xué)對(duì)刑罰的認(rèn)知是:“刑罰作為國(guó)家對(duì)犯罪行為的否定評(píng)價(jià)與對(duì)犯罪人的譴責(zé)的一種最嚴(yán)厲的形式,當(dāng)然地對(duì)犯罪人具有身體的、精神的、財(cái)產(chǎn)的剝奪性、限制性痛苦”。〔19 〕不少刑法學(xué)者對(duì)人工智能承擔(dān)刑罰責(zé)任念念不舍,可這種所謂的“刑罰”根本就不可能成為一種“痛苦”,不可能實(shí)現(xiàn)對(duì)AI犯罪的預(yù)防效果。首先,諸如刪除數(shù)據(jù)、修改程序、徹底銷毀等手段根本談不上任何“譴責(zé)性”,這些手段早已在當(dāng)今暢通無(wú)阻。電子產(chǎn)品售后服務(wù)中心對(duì)出售的產(chǎn)品進(jìn)行數(shù)據(jù)程序的刪減、替換、修正或者按照用戶意愿進(jìn)行置換、報(bào)廢是無(wú)比尋常的維修方案,這何曾需要以它們構(gòu)成犯罪主體為前提,這些維修手段的正當(dāng)性根據(jù)只在于技術(shù)有效性——以“能修好”為標(biāo)準(zhǔn)。人類對(duì)自由刑、死刑的痛苦感是來自天然的肉體和心理上的,機(jī)器人的痛苦感則來自于人的設(shè)計(jì)而非其自身,它沒有痛感;在這一點(diǎn)上AI連一只有觸覺的螞蟻都不如。因此,人類為AI設(shè)計(jì)的“刑罰”根本不具有任何刑罰的屬性。其次,正因?yàn)樾塘P屬于最嚴(yán)厲的制裁措施,人類更加注重法治國(guó)刑法的最后手段性、謙抑性、法益保護(hù)輔助性。〔20 〕除刑法之外還有道德規(guī)范、倫理規(guī)范以及其他前置法,如諸多風(fēng)化犯罪之所以受到質(zhì)疑正是因?yàn)橄嚓P(guān)行為屬于純粹道德或倫理調(diào)整范圍。法學(xué)家從來沒有考慮過人類是否能夠?yàn)闄C(jī)器人成功搭建起道德或倫理的規(guī)范體系,而只是簡(jiǎn)單粗暴地動(dòng)用刑罰,面對(duì)人工智能等高端技術(shù)時(shí)總是如此急不可耐;法學(xué)家似乎也沒有注意到,上述那些所謂的刑罰方式其實(shí)單純依靠官方或非官方的AI技術(shù)管理規(guī)范就能夠順利實(shí)現(xiàn),這些技術(shù)指南只需要針對(duì)AI研制者、使用者等人類主體即可??梢哉f,以上問題的很多部分根本就不是“對(duì)法律的挑戰(zhàn)”,〔21 〕人工智能并未對(duì)法律基礎(chǔ)理論、基本法學(xué)教義提出挑戰(zhàn),受到挑戰(zhàn)的只是如何將傳統(tǒng)知識(shí)適用于新的場(chǎng)景,如技術(shù)的發(fā)展如何影響人類自身的注意義務(wù)等。

    迄今為止,人們沒有放棄過對(duì)法律風(fēng)險(xiǎn)預(yù)防功能等問題的迷戀,很多措施如刑罰前置化、抽象危險(xiǎn)犯、行政犯的增設(shè)等或許還能被理解,畢竟它們針對(duì)的都是人類行為,至少這種立法客觀上會(huì)引起一些自然人或單位的心理威懾。〔22 〕但若將法律的預(yù)防功能指向不知何年何月才會(huì)出現(xiàn)的“假想主體”,則根本錯(cuò)解了預(yù)防主義,一如英明睿智的秦皇漢武也不可能以“展望未來”的姿態(tài)為醉酒駕駛機(jī)動(dòng)車的立法浪費(fèi)筆墨,這與他們的想象力無(wú)關(guān)而是由于這一時(shí)代根本不存在這種“定分止?fàn)帯钡男枨?。更值得指出的是,很多法律人自以為富有遠(yuǎn)見卓識(shí)、想象力豐富,可是他們是否想過:強(qiáng)人工智能的整體智慧高于人類且又擁有自主意識(shí)、行動(dòng)自如,那么這種比人類高一等級(jí)的物種屆時(shí)還會(huì)接受今日法學(xué)家的方案嗎?縱然今日設(shè)計(jì)了無(wú)比完美的框架,可是那時(shí)人類將失去框定人工智能的資質(zhì),那時(shí)反倒是“人工智能在思考如何為人類立法”,所以,“冥想式的法學(xué)研究”里充滿著神奇的悖論,人工智能法學(xué)的愿景可能是一場(chǎng)空。

    結(jié)? 語(yǔ)

    法學(xué)不是玄學(xué)、不是科幻主義,也容不得太多不切實(shí)際的浪漫情結(jié)。如果說“我們即將迎來人工智能時(shí)代”、自主思考的強(qiáng)人工智能就在“明天”,那么我們離這個(gè)“明天”究竟有多近?連科學(xué)家都不知道這個(gè)“奇點(diǎn)”何時(shí)來臨,法學(xué)家又具有何種特異功能參透AI的未來禪機(jī)?對(duì)人工智能相關(guān)事務(wù)的法律規(guī)制尚需要我們積累更多的生活樣本,創(chuàng)建一些只適用于遙遠(yuǎn)未來的理論、制定一些只沉睡在法典里的條文將比當(dāng)前的“象征性立法” 〔23 〕更加浪費(fèi)資源,因?yàn)檫@種“立而不用”是名副其實(shí)的“空談”。研究者總是相信AI技術(shù)的強(qiáng)大遠(yuǎn)非常人想象,那么是否有朝一日人類也會(huì)發(fā)現(xiàn)智力超群的外星人?或者基因技術(shù)也會(huì)讓科幻電影里的鋼鐵俠變成能獨(dú)立思考、會(huì)說話的真正人類?如果法學(xué)家總是秉著“寧可信其有”“未雨要綢繆”的態(tài)度——反正也沒什么害處,那么我們現(xiàn)在是否也該為外星人、為鋼鐵俠去制定屬于它們的規(guī)則?如果法學(xué)家連如何將違法行為歸責(zé)為個(gè)人的問題都沒有參透,卻對(duì)人工智能是否擁有主題資格的問題喋喋不休,這不是在浪費(fèi)學(xué)術(shù)資源又是什么?法律人若接連不斷地隨著人工智能等新潮科技一哄即上,那么他們也將隨著自然科學(xué)的挫敗或低落一哄而散,或許也將像三十年前那批AI研究先驅(qū)者一樣只愿承認(rèn)自己是“計(jì)算機(jī)(法學(xué))專家”而對(duì)“人工智能(法學(xué))專家”的頭銜避之不及。當(dāng)以異于常人的想象力從事法學(xué)研究時(shí),研究者的判斷力也會(huì)一并“異于常人”:概念附會(huì)、偽問題替代真問題、政策論替代教義論等一系列現(xiàn)象表明,一貫理性的法律人也會(huì)丟掉人類智力本該堅(jiān)守的常識(shí),人工智能法學(xué)研究中的如此反智化現(xiàn)象,令人深思并需要警醒。

    国产精品亚洲一级av第二区| 亚洲精华国产精华液的使用体验 | 精品午夜福利视频在线观看一区| 日本 av在线| 又爽又黄a免费视频| 男人的好看免费观看在线视频| av中文乱码字幕在线| 老司机福利观看| 男人的好看免费观看在线视频| 天堂动漫精品| 亚洲真实伦在线观看| 成人永久免费在线观看视频| 欧美极品一区二区三区四区| 夜夜爽天天搞| 五月玫瑰六月丁香| 久久精品人妻少妇| 日韩一区二区视频免费看| 国产真实乱freesex| 国产精品av视频在线免费观看| 国产精品不卡视频一区二区| 十八禁网站免费在线| 高清午夜精品一区二区三区 | 男人的好看免费观看在线视频| 国产一区二区三区在线臀色熟女| av中文乱码字幕在线| 亚洲av五月六月丁香网| 国产色爽女视频免费观看| 国产片特级美女逼逼视频| 国产黄色小视频在线观看| 国产精品国产三级国产av玫瑰| 日韩精品中文字幕看吧| 欧洲精品卡2卡3卡4卡5卡区| 女人十人毛片免费观看3o分钟| 搡老熟女国产l中国老女人| 午夜激情福利司机影院| 深夜精品福利| 亚洲五月天丁香| 99热网站在线观看| 97碰自拍视频| 亚洲中文字幕一区二区三区有码在线看| av在线亚洲专区| 久久人人爽人人片av| 亚洲精品影视一区二区三区av| 深夜精品福利| 日日啪夜夜撸| 亚洲精华国产精华液的使用体验 | 天天一区二区日本电影三级| 久久99热6这里只有精品| 岛国在线免费视频观看| 亚洲国产欧洲综合997久久,| 亚洲美女黄片视频| 国产成人一区二区在线| 久久精品国产亚洲av天美| 一边摸一边抽搐一进一小说| 国产高清有码在线观看视频| 国产成人福利小说| 成人国产麻豆网| 亚洲av中文av极速乱| 国产精品野战在线观看| 女人被狂操c到高潮| 国产男人的电影天堂91| 久久精品91蜜桃| 精品久久久久久久久久免费视频| 中文字幕精品亚洲无线码一区| 99国产精品一区二区蜜桃av| 长腿黑丝高跟| 久久国产乱子免费精品| 日本-黄色视频高清免费观看| 国产精品不卡视频一区二区| 亚洲精品456在线播放app| 成人漫画全彩无遮挡| av免费在线看不卡| 国产真实伦视频高清在线观看| 在线a可以看的网站| 青春草视频在线免费观看| 久久久久性生活片| 免费看美女性在线毛片视频| 五月伊人婷婷丁香| 日本-黄色视频高清免费观看| 日韩一区二区视频免费看| 韩国av在线不卡| 亚洲性夜色夜夜综合| 91av网一区二区| 免费在线观看影片大全网站| 日本熟妇午夜| 成人美女网站在线观看视频| 国产单亲对白刺激| 国产精品久久久久久av不卡| 狂野欧美激情性xxxx在线观看| 欧美最新免费一区二区三区| 51国产日韩欧美| 欧美性猛交╳xxx乱大交人| 国产av不卡久久| 菩萨蛮人人尽说江南好唐韦庄 | 99精品在免费线老司机午夜| 成人亚洲精品av一区二区| 中文字幕精品亚洲无线码一区| 男插女下体视频免费在线播放| 亚洲高清免费不卡视频| av在线天堂中文字幕| 国产高清激情床上av| 一级黄色大片毛片| 国产伦一二天堂av在线观看| 久久精品国产亚洲网站| 听说在线观看完整版免费高清| 日韩三级伦理在线观看| 一级a爱片免费观看的视频| 精品人妻偷拍中文字幕| 中文亚洲av片在线观看爽| 国产毛片a区久久久久| 少妇的逼水好多| 啦啦啦韩国在线观看视频| 亚洲图色成人| 国产91av在线免费观看| 日本黄色片子视频| 非洲黑人性xxxx精品又粗又长| 日韩高清综合在线| 在线免费观看的www视频| 男女啪啪激烈高潮av片| 日本成人三级电影网站| 欧美最新免费一区二区三区| 免费av观看视频| 中文字幕av在线有码专区| 亚洲国产精品成人久久小说 | 国产精品一区二区免费欧美| 91在线精品国自产拍蜜月| 赤兔流量卡办理| 最近的中文字幕免费完整| 日韩成人av中文字幕在线观看 | 在线免费观看的www视频| 国产高清不卡午夜福利| 如何舔出高潮| 春色校园在线视频观看| 精品久久国产蜜桃| 国产精品福利在线免费观看| 黄色配什么色好看| 直男gayav资源| 国产人妻一区二区三区在| 九九热线精品视视频播放| 搡老岳熟女国产| 国产黄片美女视频| 国内精品久久久久精免费| 桃色一区二区三区在线观看| 一区二区三区免费毛片| 国产av不卡久久| 少妇人妻一区二区三区视频| 一级黄色大片毛片| 日韩在线高清观看一区二区三区| 少妇熟女欧美另类| 免费观看人在逋| 色吧在线观看| 久久国产乱子免费精品| 小说图片视频综合网站| 少妇的逼水好多| 午夜久久久久精精品| 插阴视频在线观看视频| 黄色视频,在线免费观看| 亚洲欧美成人综合另类久久久 | 看十八女毛片水多多多| 一进一出抽搐动态| 一级毛片电影观看 | 麻豆精品久久久久久蜜桃| 日韩欧美 国产精品| 国产欧美日韩精品一区二区| 亚洲国产精品久久男人天堂| 麻豆成人午夜福利视频| 97超视频在线观看视频| 五月伊人婷婷丁香| 啦啦啦韩国在线观看视频| 免费一级毛片在线播放高清视频| 亚洲成人久久爱视频| 国产精品,欧美在线| 国产免费男女视频| 欧美另类亚洲清纯唯美| 一边摸一边抽搐一进一小说| 久久欧美精品欧美久久欧美| 日本一本二区三区精品| 一本一本综合久久| or卡值多少钱| 久久精品人妻少妇| 国产亚洲欧美98| 国产一区二区激情短视频| 熟女电影av网| 啦啦啦观看免费观看视频高清| 免费人成视频x8x8入口观看| 草草在线视频免费看| 日日摸夜夜添夜夜添av毛片| 一边摸一边抽搐一进一小说| 高清日韩中文字幕在线| 亚洲精品日韩在线中文字幕 | 91av网一区二区| 久久久久久久久久成人| 成年女人毛片免费观看观看9| 深夜精品福利| 久久久久久九九精品二区国产| 日韩一区二区视频免费看| 午夜爱爱视频在线播放| а√天堂www在线а√下载| 日韩精品有码人妻一区| 亚洲国产日韩欧美精品在线观看| 干丝袜人妻中文字幕| 亚洲国产欧美人成| 亚洲无线观看免费| 国产单亲对白刺激| 两个人视频免费观看高清| 美女黄网站色视频| 我的老师免费观看完整版| 成人精品一区二区免费| 最新在线观看一区二区三区| 天天躁日日操中文字幕| 一区二区三区四区激情视频 | 欧美成人一区二区免费高清观看| 久久亚洲精品不卡| 免费在线观看影片大全网站| 看片在线看免费视频| 亚洲国产精品久久男人天堂| 最后的刺客免费高清国语| 十八禁网站免费在线| 一进一出好大好爽视频| 12—13女人毛片做爰片一| 99国产极品粉嫩在线观看| 麻豆久久精品国产亚洲av| 国语自产精品视频在线第100页| 人人妻人人看人人澡| 欧美国产日韩亚洲一区| 亚洲精品456在线播放app| 免费看日本二区| 啦啦啦啦在线视频资源| 51国产日韩欧美| 亚洲高清免费不卡视频| 免费大片18禁| 香蕉av资源在线| 亚州av有码| 高清日韩中文字幕在线| 国产精品久久久久久精品电影| 男女啪啪激烈高潮av片| 国产午夜福利久久久久久| 亚洲经典国产精华液单| 婷婷亚洲欧美| 日韩国内少妇激情av| 亚洲精品456在线播放app| 在线免费十八禁| 18禁裸乳无遮挡免费网站照片| 女人十人毛片免费观看3o分钟| 在线观看美女被高潮喷水网站| 少妇丰满av| 国产精品综合久久久久久久免费| 黄色配什么色好看| 淫妇啪啪啪对白视频| 中文在线观看免费www的网站| 色视频www国产| 97在线视频观看| 一a级毛片在线观看| 国产精品无大码| 男女做爰动态图高潮gif福利片| 我的女老师完整版在线观看| 99久久中文字幕三级久久日本| 男女边吃奶边做爰视频| 丰满人妻一区二区三区视频av| 深夜精品福利| 国产精品女同一区二区软件| 精品久久国产蜜桃| 校园人妻丝袜中文字幕| 久久天躁狠狠躁夜夜2o2o| 男人和女人高潮做爰伦理| 亚洲五月天丁香| 国产成人影院久久av| 男插女下体视频免费在线播放| 国产麻豆成人av免费视频| 99久国产av精品| 国产大屁股一区二区在线视频| 精品久久久久久久久久免费视频| 欧美一级a爱片免费观看看| 午夜久久久久精精品| 99久国产av精品| 国产精品久久电影中文字幕| 久久精品国产亚洲网站| 在线播放国产精品三级| 欧美国产日韩亚洲一区| 亚洲成人久久爱视频| 麻豆av噜噜一区二区三区| 在线看三级毛片| 非洲黑人性xxxx精品又粗又长| 乱系列少妇在线播放| 色吧在线观看| 精华霜和精华液先用哪个| 国产高潮美女av| 一进一出抽搐gif免费好疼| 免费观看在线日韩| 悠悠久久av| 大型黄色视频在线免费观看| 日日啪夜夜撸| 悠悠久久av| av天堂在线播放| 日产精品乱码卡一卡2卡三| 亚洲美女黄片视频| 日本黄大片高清| 人妻夜夜爽99麻豆av| 婷婷精品国产亚洲av| 亚洲图色成人| 日韩欧美国产在线观看| 亚洲精品乱码久久久v下载方式| 亚洲不卡免费看| 国产成人a区在线观看| 亚洲中文日韩欧美视频| 午夜视频国产福利| 美女被艹到高潮喷水动态| 日韩强制内射视频| 舔av片在线| 国产精品爽爽va在线观看网站| a级毛片a级免费在线| 国产精品女同一区二区软件| 亚洲av熟女| 久久精品影院6| 国产国拍精品亚洲av在线观看| 成年女人永久免费观看视频| 亚洲精品国产成人久久av| 听说在线观看完整版免费高清| 岛国在线免费视频观看| videossex国产| 最后的刺客免费高清国语| 久久精品夜色国产| 久久人人爽人人片av| 欧美另类亚洲清纯唯美| 国产乱人偷精品视频| 一级av片app| 亚洲av中文字字幕乱码综合| 人妻夜夜爽99麻豆av| 嫩草影视91久久| av国产免费在线观看| 91麻豆精品激情在线观看国产| 精品久久国产蜜桃| 最近中文字幕高清免费大全6| 国产一区二区三区在线臀色熟女| 国产伦精品一区二区三区视频9| 亚洲av美国av| 黄色视频,在线免费观看| 嫩草影院入口| 老司机影院成人| 久久婷婷人人爽人人干人人爱| 身体一侧抽搐| 亚洲精品成人久久久久久| 亚洲av成人av| 亚洲av第一区精品v没综合| 欧美成人a在线观看| 在现免费观看毛片| 熟女人妻精品中文字幕| 一进一出抽搐动态| 特大巨黑吊av在线直播| 精品久久久噜噜| 特级一级黄色大片| 久久精品91蜜桃| 国产一区二区三区av在线 | 青春草视频在线免费观看| 天堂av国产一区二区熟女人妻| 国产成人freesex在线 | 日韩欧美精品v在线| 丰满的人妻完整版| 午夜影院日韩av| 国产成人91sexporn| 国产男人的电影天堂91| 我要搜黄色片| 丰满乱子伦码专区| 亚洲av熟女| 亚洲最大成人手机在线| 美女 人体艺术 gogo| 亚洲人成网站在线播| 国产高清三级在线| 欧美人与善性xxx| 三级国产精品欧美在线观看| 日日啪夜夜撸| 日日啪夜夜撸| 日韩制服骚丝袜av| 变态另类丝袜制服| 女人十人毛片免费观看3o分钟| 老司机影院成人| 欧美成人免费av一区二区三区| 十八禁国产超污无遮挡网站| 国产伦一二天堂av在线观看| 一级黄色大片毛片| 日本与韩国留学比较| 色吧在线观看| 久久久久久久久大av| 男女下面进入的视频免费午夜| 国产成人福利小说| 天堂√8在线中文| 听说在线观看完整版免费高清| 插阴视频在线观看视频| 免费在线观看成人毛片| 国产大屁股一区二区在线视频| 免费观看在线日韩| 亚洲国产欧美人成| 成年免费大片在线观看| 又黄又爽又免费观看的视频| www.色视频.com| 国产精品嫩草影院av在线观看| 国产精品电影一区二区三区| 中文亚洲av片在线观看爽| 亚洲自偷自拍三级| 成人av在线播放网站| 中文资源天堂在线| 一a级毛片在线观看| 春色校园在线视频观看| 可以在线观看毛片的网站| 91午夜精品亚洲一区二区三区| 深爱激情五月婷婷| 色av中文字幕| 亚洲中文字幕日韩| 国产一区二区激情短视频| 日本黄色片子视频| 亚洲av五月六月丁香网| videossex国产| 国产在视频线在精品| 一区二区三区高清视频在线| 成人漫画全彩无遮挡| 啦啦啦啦在线视频资源| 人妻制服诱惑在线中文字幕| 91久久精品电影网| 高清日韩中文字幕在线| 校园人妻丝袜中文字幕| 久久精品夜色国产| 中文在线观看免费www的网站| 午夜视频国产福利| .国产精品久久| 日韩欧美精品v在线| www.色视频.com| 亚洲七黄色美女视频| 国产精品一区www在线观看| 亚洲人成网站在线播| 国产激情偷乱视频一区二区| 亚洲欧美日韩东京热| 此物有八面人人有两片| 亚洲精品色激情综合| 六月丁香七月| 亚洲欧美中文字幕日韩二区| 亚洲欧美日韩高清专用| 国产v大片淫在线免费观看| 中文资源天堂在线| 九九久久精品国产亚洲av麻豆| 老司机影院成人| 特级一级黄色大片| 免费电影在线观看免费观看| 中文字幕精品亚洲无线码一区| 日韩精品中文字幕看吧| 亚洲av美国av| 色视频www国产| 小说图片视频综合网站| 欧美一区二区国产精品久久精品| 成人鲁丝片一二三区免费| 高清午夜精品一区二区三区 | 日韩一本色道免费dvd| 久久6这里有精品| 中文字幕久久专区| 深夜a级毛片| 春色校园在线视频观看| 国产亚洲精品综合一区在线观看| 中国美白少妇内射xxxbb| 午夜福利在线观看免费完整高清在 | 亚洲av五月六月丁香网| 亚洲成人中文字幕在线播放| 欧美日本视频| 真实男女啪啪啪动态图| 成人高潮视频无遮挡免费网站| 悠悠久久av| 黄片wwwwww| 九九热线精品视视频播放| 九九热线精品视视频播放| 亚洲最大成人手机在线| 老司机午夜福利在线观看视频| 极品教师在线视频| 天堂av国产一区二区熟女人妻| 黄色配什么色好看| 人人妻人人澡欧美一区二区| 国国产精品蜜臀av免费| 性色avwww在线观看| 校园春色视频在线观看| 久久亚洲国产成人精品v| 不卡一级毛片| 久久婷婷人人爽人人干人人爱| 久久综合国产亚洲精品| 日本欧美国产在线视频| 在线播放国产精品三级| 国产免费男女视频| 此物有八面人人有两片| 亚洲av美国av| 欧美激情在线99| 韩国av在线不卡| av黄色大香蕉| 大香蕉久久网| 久久久久久九九精品二区国产| 亚洲av.av天堂| 国产精品久久久久久av不卡| 亚洲精品456在线播放app| 人妻丰满熟妇av一区二区三区| 亚洲经典国产精华液单| 五月伊人婷婷丁香| а√天堂www在线а√下载| 国产精品久久视频播放| 99久国产av精品| 国产伦精品一区二区三区四那| av.在线天堂| 久久久久久久久久黄片| 欧美激情在线99| 一卡2卡三卡四卡精品乱码亚洲| 内射极品少妇av片p| 午夜福利18| 深爱激情五月婷婷| 热99re8久久精品国产| 亚洲在线自拍视频| 国产高清不卡午夜福利| 日韩中字成人| 黄片wwwwww| 淫秽高清视频在线观看| 亚洲国产精品成人综合色| 在线看三级毛片| 看黄色毛片网站| 国产女主播在线喷水免费视频网站 | 欧美绝顶高潮抽搐喷水| 国产乱人视频| 哪里可以看免费的av片| 99久国产av精品国产电影| 亚洲久久久久久中文字幕| 国产伦一二天堂av在线观看| 国产三级中文精品| 丰满乱子伦码专区| 久久午夜亚洲精品久久| 99久久成人亚洲精品观看| 小说图片视频综合网站| 久久99热这里只有精品18| 久久久精品欧美日韩精品| 非洲黑人性xxxx精品又粗又长| 精品福利观看| 国产不卡一卡二| 精品久久久久久久久av| 国产视频内射| 国产在线男女| h日本视频在线播放| 欧美精品国产亚洲| 亚洲欧美日韩高清专用| 久久草成人影院| av在线老鸭窝| 2021天堂中文幕一二区在线观| 能在线免费观看的黄片| 99热这里只有精品一区| 成年版毛片免费区| 天美传媒精品一区二区| 欧美不卡视频在线免费观看| 毛片一级片免费看久久久久| 欧美日韩一区二区视频在线观看视频在线 | 乱码一卡2卡4卡精品| 有码 亚洲区| 一个人看视频在线观看www免费| 国产成人a∨麻豆精品| 亚洲色图av天堂| 给我免费播放毛片高清在线观看| 97碰自拍视频| 99久国产av精品| 国产精品,欧美在线| 小蜜桃在线观看免费完整版高清| 91在线精品国自产拍蜜月| 国产老妇女一区| 我要搜黄色片| 色综合色国产| 久久久久九九精品影院| 精品一区二区三区人妻视频| 午夜激情欧美在线| 婷婷精品国产亚洲av在线| 1024手机看黄色片| 此物有八面人人有两片| 成人二区视频| 97人妻精品一区二区三区麻豆| 级片在线观看| 成年女人永久免费观看视频| 国产探花极品一区二区| 国产精品久久视频播放| av在线蜜桃| av女优亚洲男人天堂| 免费看a级黄色片| 成人亚洲精品av一区二区| 99久久中文字幕三级久久日本| 青春草视频在线免费观看| 中文字幕熟女人妻在线| 国产精品国产高清国产av| 97热精品久久久久久| 99久久久亚洲精品蜜臀av| 免费在线观看成人毛片| 久久精品国产自在天天线| 久久人妻av系列| 丰满乱子伦码专区| 国产精品亚洲美女久久久| 亚洲欧美日韩卡通动漫| 亚洲精品一卡2卡三卡4卡5卡| 亚洲va在线va天堂va国产| 精品一区二区三区视频在线观看免费| 在线免费十八禁| 亚洲真实伦在线观看| 欧美另类亚洲清纯唯美| 免费不卡的大黄色大毛片视频在线观看 | 最近最新中文字幕大全电影3| 精品久久国产蜜桃| 国产探花极品一区二区| 一级毛片我不卡| 亚洲激情五月婷婷啪啪| 干丝袜人妻中文字幕| 日日撸夜夜添| 国产伦精品一区二区三区四那| 男女之事视频高清在线观看| 国产视频一区二区在线看| 中文字幕精品亚洲无线码一区| 免费不卡的大黄色大毛片视频在线观看 | 国产一区二区在线av高清观看| 成人亚洲欧美一区二区av| 老司机午夜福利在线观看视频| 色综合站精品国产| 亚洲第一区二区三区不卡|