• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論人工智能的法律地位
    ——以權(quán)利為視角

    2019-02-18 21:29:13金彥宇
    社會科學(xué)動態(tài) 2019年10期
    關(guān)鍵詞:人格權(quán)利人工智能

    金彥宇

    如果說計算機及信息技術(shù)是第三次工業(yè)革命的主角,那么人工智能無疑是第四次工業(yè)革命的主力軍。當(dāng)前,世界主要經(jīng)濟(jì)體,如美國、歐盟、日本和韓國都把人工智能的發(fā)展上升為國家戰(zhàn)略,我國也不例外。2017年7月20日,國務(wù)院正式印發(fā)了《新一代人工智能發(fā)展規(guī)劃》 (簡稱《規(guī)劃》),從國家層面規(guī)劃了人工智能的發(fā)展藍(lán)圖。人工智能已經(jīng)來了,而且它就在我們身邊,幾乎無處不在。①它在便利人類生活的同時,也在無形中向我國的法律體系發(fā)起了挑戰(zhàn)。人工智能生成作品的性質(zhì)界定、無人駕駛汽車侵權(quán)行為的責(zé)任承擔(dān)及人工智能締約合同的效力等問題,都已經(jīng)逾越了我國現(xiàn)有法律的規(guī)制領(lǐng)域,致使其成為理論界和實務(wù)界的熱議話題。而這一切皆歸因于人工智能法律地位的模糊性,法學(xué)家尚未從傳統(tǒng)的人物二分法中厘清人工智能的法律屬性。目前,關(guān)于人工智能的法律地位學(xué)者們主要從生物人的倫理屬性、法律責(zé)任的承擔(dān)和人工智能的發(fā)展趨勢等角度出發(fā),認(rèn)為人工智能或者是民法中的物,或者享有有限的法律人格,或者擁有完全的法律人格,但在學(xué)理上并沒有達(dá)成共識。

    一、揭開人工智能的學(xué)理面紗

    英國科學(xué)家阿蘭·麥席森·圖靈最先開展了對人工智能的研究,他在1950年10月發(fā)表的《計算機械和智能》一文是研究人工智能的開山之作。而人工智能這一概念卻緣于1956年在美國達(dá)特茅斯學(xué)院舉行的一次關(guān)于智能問題的學(xué)術(shù)會議,會議發(fā)起人約翰·麥卡錫將會議主題定為人工智能,人工智能的學(xué)名便由此而來并沿用至今。

    1.人工智能的概念爭議

    人工智能的概念猶如普羅透斯的面龐,學(xué)者們在為其下定義時因所選擇的視角不同而導(dǎo)致存在差異。當(dāng)以生物人為參照物時,大眾接受度較高的人工智能的定義有以下四種:像人一樣思考、像人一樣行動、合理地思考和合理地行動。②“人類心智和認(rèn)知分為神經(jīng)、心理、語言、思維、文化五個層級”③,當(dāng)前的人工智能發(fā)展仍處于弱人工智能階段,算法構(gòu)造的編程遠(yuǎn)不能逼真地模擬人類的認(rèn)知路徑,不少學(xué)者也只是選擇人的某一自然屬性與人工智能的機械特征進(jìn)行類比,忽略了異類事物相比較沒有意義的邏輯常識,同時對生物學(xué)意義上的人的非理性情感因素往往避而不談。

    人工智能是一門涉及計算機科學(xué)、數(shù)學(xué)、神經(jīng)生理學(xué)和信息論等多門學(xué)科的邊緣學(xué)科。從人工智能的機理審視人工智能的本質(zhì),依據(jù)研究進(jìn)路的不同目前主要有三大學(xué)派:符號主義(Symbolism),即功能模擬學(xué)派,認(rèn)為智能活動的基礎(chǔ)是物理符號系統(tǒng),思維過程是符號模式的處理過程;連接主義(Connectionism)又稱為仿生學(xué)派或生理學(xué)派,認(rèn)為人工智能源于仿生學(xué),把神經(jīng)生理學(xué)和認(rèn)知科學(xué)的研究成果應(yīng)用到人工智能的深度學(xué)習(xí)中;行為主義學(xué)派(Behaviourism)認(rèn)為行為是身體對環(huán)境變化的應(yīng)激反應(yīng)的的各種組合,人工智能的目標(biāo)在于預(yù)見和控制目標(biāo)。當(dāng)前,市場上火熱的人工智能產(chǎn)品多是以連接主義為理論基石的深度學(xué)習(xí)技術(shù)的應(yīng)用,深度學(xué)習(xí)將在未來一段時間內(nèi)主導(dǎo)人工智能的發(fā)展方向。

    無論從何種視角定義人工智能的概念,都無法回避人工智能本質(zhì)上是一種計算機程序。人類之所以定義新事物,其目的是為了便于記載、交流和傳播知識。但局限于特定時空的相對靜止的人工智能概念并不能如實反映人工智能發(fā)展的動態(tài)性、持續(xù)性特征,因此我們應(yīng)在具體的語用環(huán)境下以計算機程序為核心屬性把握人工智能的特質(zhì)。

    2.人工智能的發(fā)展歷程

    1946年2月,世界上第一臺計算機誕生于美國賓夕法尼亞州,不久以后,關(guān)于人工智能的研究也隨之而至。截止到目前,人工智能共經(jīng)歷了三次發(fā)展熱潮。第一次人工智能熱潮由圖靈的“模擬游戲”所引發(fā),即后人所稱的“圖靈測試”。所謂圖靈測試,“也就是把一個人和一臺計算機放在幕后,讓測試人員通過提問來判斷哪一個是計算機,如果判斷錯誤的話,就認(rèn)為計算機通過了圖靈測試,具有人的智能?!雹茉诤荛L的一段時間內(nèi),圖靈測試成為評判計算機是否具有人工智能的標(biāo)準(zhǔn)性試驗,人們也通過延長計算機與人對話的時間來增強圖靈測試的效果。20世紀(jì)80年代到90年代是第二次人工智能發(fā)展的熱潮時期。20世紀(jì)70年代,卡內(nèi)基—梅隆大學(xué)研發(fā)出了兩個叫“Hearsay”和“Harpy”的語音識別系統(tǒng),被公認(rèn)為當(dāng)時世界上最好的人工智能產(chǎn)品,但這種系統(tǒng)既嚴(yán)重依賴于人的語言學(xué)知識,又無法適應(yīng)不停人的語音特點。⑤到了20世紀(jì)80年代,扎根于概率統(tǒng)計模型的語音識別技術(shù)克服了以上缺陷,無疑成為了此次AI熱潮的代表性成果。進(jìn)入20世紀(jì)后,計算機產(chǎn)業(yè)得到了飛速發(fā)展,第三次AI熱潮也在2006年后迅猛襲來。攜手大數(shù)據(jù)的深度學(xué)習(xí)是引發(fā)此次AI熱潮的主要原因,以至于有學(xué)者斷言:“大數(shù)據(jù)+深度學(xué)習(xí)=人工智能?!焙沃^深度學(xué)習(xí),就是利用數(shù)學(xué)模型解決包含目標(biāo)問題的領(lǐng)域內(nèi)相似問題的建模過程;而大數(shù)據(jù)則是因為信息交換、信息存儲、信息處理三個方面能力的大量增幅而產(chǎn)生的數(shù)據(jù)。⑥在短短數(shù)十年間,人工智能已滲透到機器視覺、語音識別、無人駕駛、機器人和AI藝術(shù)等多個領(lǐng)域,也為法律人增添了人工智能與法這個研究主題,而這一切都得益于大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)的不斷突破?!暗覀兘裉炜吹降乃腥斯ぶ悄芩惴ê蛻?yīng)用都屬于弱人工智能的范疇”⑦可以勝任人類所有工作的強人工智能還未出現(xiàn)。

    二、人工智能與法律人格的內(nèi)在關(guān)聯(lián)

    近年來隨著計算機性能的提升和大數(shù)據(jù)質(zhì)量的提高,深度學(xué)習(xí)讓人工智能在諸多領(lǐng)域大展宏圖,人工智能逐漸地融入到人類生活的日常,致使其與人類的關(guān)系逐漸地走進(jìn)了法學(xué)的視野。然而,要想把人工智能列為法律調(diào)整的對象,必須要首先廓清人工智能的法律屬性這一本源性問題。

    1.法律人格制度的歷史演進(jìn)

    目前所知的世界上第一部比較完整的成文法典《漢謨拉比法典》將人分成三個等級:有公民權(quán)的自由人、無公民權(quán)的自由人和奴隸,只有公民權(quán)的自由人才享有充分的法律人格,而奴隸被視為會說話的工具。在奴隸主統(tǒng)治的古羅馬,生物學(xué)上的人在法律中的人格是依身份而定的。古羅馬人一般認(rèn)為構(gòu)成人格的要素除了具有生命之自然人個體外,還應(yīng)具有自由、市民身份等條件。⑧自由權(quán)是作為自由人必須具備的基本權(quán)利。因此,享有自由權(quán)的是自由人,不享有自由權(quán)的就是奴隸。⑨及至歐洲中世紀(jì),教會法對羅馬法加以闡釋,給人格注入了平等、自由等內(nèi)涵,反對奴隸制度的存在,然而卻沒有對當(dāng)時的世俗法帶來沖擊。

    文藝復(fù)興和宗教改革是歐洲史上人類思想的轉(zhuǎn)折點。理性、平等和自由等人格內(nèi)涵被重新發(fā)現(xiàn)和解讀,“人只能是人”成為了時代最強音。經(jīng)過資產(chǎn)階級革命洗禮的歐洲開始在立法上反映和守護(hù)人的價值,1794年的《普魯士一般邦法》在人類法律史上率先提出了法律人格的概念;1804年《法國民法典》第8條規(guī)定:“所有法國人都享有民事權(quán)利,”實現(xiàn)了所有法國人法律人格的形式平等;1900年《德國民法典》用權(quán)利能力取代法律人格概念,把有限責(zé)任公司和股份有限公司納入了法律主體的范疇,標(biāo)志著法律人格由“人可非人”向“非人可人”的轉(zhuǎn)化。

    2.法律人格制度的現(xiàn)有突破

    隨著人類保護(hù)生態(tài)環(huán)境意識的增強和人工智能的發(fā)展,世界上某些國家或地區(qū)的法律人格制度也因應(yīng)而變。2017年3月新西蘭旺格努伊河被新西蘭國會賦予法律人格成為世界上第一條具有法人地位的河流。鮮為人知的是,2014年新西蘭國家公園Te Urewera已經(jīng)獲準(zhǔn)為法人。⑩河流和公園分別作為水文水資源和人為景觀,新西蘭卻將其擬制為法律上的主體,其背后的立意或許應(yīng)了邊沁的那句名言:“法律一般的和最終的目的,不過是整個社會的最大利益而已”。根據(jù)日本法律規(guī)定,具有日本國籍者,應(yīng)當(dāng)進(jìn)行戶籍登記。2010年11月7日,日本為陪伴型機器人帕羅設(shè)立了戶籍,戶籍的主人為其發(fā)明者,這意味著機器人帕羅擁有日本國籍,享有法律上的人格。2016年5月31日,歐洲議會法律事務(wù)委員會發(fā)布的《關(guān)于機器人民事法律規(guī)則立法建議致歐盟委員會的報告草案》建議,賦予最精密的自主機器人“電子人”身份,于2017年2月16日獲得歐洲議會投票通過,這是全球首個地區(qū)共同體考慮賦予高級機器人電子法律人格的具立法動議。2017年10月25日,世界首位“女性”機器人公民索菲亞在沙特阿拉伯誕生,這似乎在向人類暗示著,機器人成為“人”的時代已不遙遠(yuǎn)。

    3.考量人工智能法律地位的必要性

    正如梅因所言,“社會的需要和社會的意見常常是或多或少走在‘法律’的前面的。我們可能非常接近地達(dá)到它們之間缺口的接合處,但永遠(yuǎn)存在的趨向是要把這缺口重新打開來?!?人工智能的指數(shù)式發(fā)展使得與現(xiàn)有法律之間的鴻溝越來越大,法治的穩(wěn)定性必將因為法律的過于安分而遭到破壞。因此,基于以下幾種理由,我們必須要審視人工智能的法律地位。

    (1)人工智能與人類的聯(lián)系日益密切。隨著人工智能技術(shù)的日臻成熟,人工智能的觸角已伸及醫(yī)療、教育和司法等傳統(tǒng)領(lǐng)域,人類現(xiàn)有的生活方式將有可能被人工智能所顛覆。智能機器人和無人駕駛汽車是人工智能產(chǎn)品的代表,最易與人類的權(quán)益發(fā)生沖突。智能機器人早已實現(xiàn)量產(chǎn),而無人駕駛汽車規(guī)?;a(chǎn)也指日可待。屆時,智能機器人和無人駕駛汽車將分別成為人類最核心的生產(chǎn)工具和交通工具,法律勢必要將人工智能納入現(xiàn)有法律的調(diào)整范疇,以此實現(xiàn)人類與人工智能的和諧相處。

    (2)國家戰(zhàn)略要求保障人工智能的發(fā)展。目前我國的人工智能發(fā)展處于世界第一梯隊,這與我國把人工智能的發(fā)展上升為國家戰(zhàn)略密不可分。國務(wù)院2017年發(fā)布的《規(guī)劃》既明確了人工智能發(fā)展的總體態(tài)勢、總體要求、重點任務(wù)和資源配置,也提出了保障措施?!兑?guī)劃》中的保障措施第一部分寫道:“加強人工智能相關(guān)法律、倫理和社會問題研究……明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等。”作為法律人格內(nèi)生屬性的權(quán)利、義務(wù)和責(zé)任,它們在法律體系中的構(gòu)建要以法律人格制度為邏輯起點,這就把人工智能法律地位的研究推向了理論的最前沿。

    (3)人工智能引發(fā)了諸多法律問題。目前,人工智能的發(fā)展讓現(xiàn)有的法律遭遇了四大難題。第一,人工智能是否享有著作權(quán)。人工智能生成內(nèi)容的性質(zhì)該如何界定,能否與作品劃等號;第二,人工智能的侵權(quán)問題。如何定性、劃分人工智能侵權(quán)行為的民事責(zé)任,以及人工智能是否會因嚴(yán)重侵權(quán)而承擔(dān)刑事責(zé)任;第三,人工智能締約合同的效力。有學(xué)者認(rèn)為此時人工智能充當(dāng)代理人的角色;第四,人工智能的法律地位。人工智能是法律上的主體還是物,這關(guān)涉到人工智能的法律構(gòu)造、公序良俗的內(nèi)在安定乃至未來的經(jīng)濟(jì)發(fā)展,因此它是一個世界級的難題。

    4.關(guān)于人工智能法律地位的觀點

    雖然人工智能與法在當(dāng)今的法學(xué)研究中是熱點主題之一,但討論人工智能法律地位的文章并不多見。目前在中國知網(wǎng)上也僅能搜索到少于半百的論文。從整體上看,學(xué)者們對人工智能法律地位的觀點可歸為兩大類:人工智能是法律上的物和人工智能應(yīng)享有法律人格。

    主張人工智能是法律上的物的學(xué)者們,主要從法理、倫理和技術(shù)三個角度否認(rèn)人工智能享有法律人格。從法理的角度而言,有學(xué)者認(rèn)為,主客體二分法原則是法理的基石,傳統(tǒng)法學(xué)上的人和物之間的界限不能輕易被模糊。人工智能作為人的智力成果和可控制的工具延伸,應(yīng)歸為民法上的物;并且如果把人工智能擬制為法律主體,則與自人文運動以來的公理相違背?。從倫理的視角出發(fā),學(xué)者們主要從以下事實前提論證人工智能作為法律上的物的正當(dāng)性。第一,人工智能不具有信念、動機、信仰和靈感等非理性因素,人工智能在運行中表現(xiàn)出來的理性也只是一種機械理性;第二,性愛機器人與某些民族的風(fēng)俗、習(xí)慣和倫理觀念格格不入,如果賦予人工智能法律主體資格,那么可能會引發(fā)機器人與人類結(jié)婚的道德風(fēng)險;第三,以人為本的發(fā)展理念不容動搖。如果給予人工智能過多權(quán)利,有可能會觸碰這根“人本紅線”。在科技的視閾下審視人工智能的法律地位,人工智能分為弱人工智能、強人工智能和超人工智能,當(dāng)下我們?nèi)蕴幱谌跞斯ぶ悄軙r代。弱人工智能只不過是一種人類工具而已,其所存在的風(fēng)險與人類使用的大部分工具并沒有實質(zhì)性的差別。至于可以勝任人類所有工作的強人工智能在技術(shù)上仍然是一個謎一般的存在,因此現(xiàn)有法律處理人工智能的法律問題就已足矣。

    有些學(xué)者主張,人工智能應(yīng)該享有法律人格。孫少飛認(rèn)為,“人工智能具有自主性、主動性,已非純受支配之客體,在法律上應(yīng)設(shè)定為‘電子人’”?,并從法內(nèi)和法外中的多種因素予以論證。袁曾也認(rèn)為人工智能具有獨立、主動的行為能力,但礙于人工智能只能承擔(dān)有限的法律責(zé)任,因此人工智能應(yīng)具有有限的法律人格。?楊清望、張磊認(rèn)為,出于促進(jìn)社會發(fā)展和維護(hù)人類利益的考量,可以通過法律擬制的立法技術(shù)賦予人工智能次等法律人格。張邵欣運用類比的思維方式,認(rèn)為具有一定人格權(quán)的非法人組織是法律人格制度通過“位格加等”后的結(jié)果,照此方法,人工智能享有一定的法律人格。?李俊豐等在法哲學(xué)的視域下認(rèn)可人工智能的法律人格。他們從人工智能的發(fā)展趨勢、法律人格制度的歷史脈絡(luò)和人工智能的現(xiàn)狀這三個前提,推導(dǎo)出人工智能享有法律人格的結(jié)論。?

    三、人工智能的法律地位認(rèn)定

    法律人格制度發(fā)展至今,已成為經(jīng)過法律技術(shù)處理過的實證化概念,我國《民法總則》第13條表述的權(quán)利能力概念就是法律人格在法律上的形式化存在。因此,我們在分析人工智能的法律地位時,應(yīng)該擱置法律人格的倫理要素,從法律人格概念的定義去探究人工智能是否有必要成為法律主體。法學(xué)大詞典這樣定義法律人格(Legal Personality):“作為一個法律上的人的法律資格。即維持和行使法律權(quán)利,服從法律義務(wù)和責(zé)任的條件?!?如果人工智能被賦予法律人格,那么它就有資格去行使專屬于自己的權(quán)利、履行特定的義務(wù)和承擔(dān)一定的法律后果。由上得知,法律人格的定義包含權(quán)利、義務(wù)和責(zé)任三大要素,它們都是構(gòu)建法律大廈的基礎(chǔ)性概念,辯證地統(tǒng)一于法律關(guān)系中。馬克思主義法學(xué)基本原理告訴我們,“沒有無義務(wù)的權(quán)利,也沒有無權(quán)利的義務(wù)?!睓?quán)利和義務(wù)在法律關(guān)系中相對應(yīng)而生,權(quán)利是目的,義務(wù)是實現(xiàn)權(quán)利的手段;當(dāng)特定法律關(guān)系中的一方不履行相應(yīng)的義務(wù)時,將被強制地承擔(dān)法律預(yù)先設(shè)定的不利后果,即責(zé)任,這也是責(zé)任為什么被稱為第二性義務(wù)的原因。當(dāng)前,我國民主政治的健全和市場經(jīng)濟(jì)的完善,都要求實質(zhì)性地尊重和保障法律主體的權(quán)利,以權(quán)利為本位順應(yīng)時代的大潮。因此,權(quán)利在法律關(guān)系中乃至整個法學(xué)研究的范疇中居于優(yōu)先的地位。那么,權(quán)利也就理所應(yīng)當(dāng)成為建構(gòu)人工智能與法體系的邏輯始項,定性人工智能的法律地位應(yīng)首先從分析人工智能是否應(yīng)當(dāng)擁有權(quán)利做起。

    1.權(quán)利的存在形態(tài)

    在西方,古羅馬人最早使用了法律意義上的權(quán)利概念,但并沒有發(fā)明專門的詞匯表示權(quán)利。從權(quán)利的存在形態(tài)看,權(quán)利可劃分為應(yīng)有權(quán)利、習(xí)慣權(quán)利、法定權(quán)利和現(xiàn)實權(quán)利。在法律主體的外延中,只有自然人集權(quán)利的四種形態(tài)于一身,這與自然人具有靈性和人類的中心地位是分不開的。人工智能本質(zhì)上是一種計算機程序,將它應(yīng)用在不同的載體上便形成多樣的具有一種或多種功能的產(chǎn)品,作為工具服務(wù)于人類的各種需求。因此,人工智能無法向創(chuàng)造它的人類主張自己應(yīng)該享有某些權(quán)利,更不可能從人類編程預(yù)設(shè)的重復(fù)性行動中衍生出習(xí)慣性權(quán)利,即便它能利用深度學(xué)習(xí)作出具有一定水平的自主化行為,因為人類可以隨時打斷這種行為的延續(xù)。雖然部分學(xué)者認(rèn)為人類中心主義觀點早已過時,生態(tài)整體主義才是處理人與自然關(guān)系的正統(tǒng)思想,但人類居于生態(tài)系統(tǒng)的核心地位不容改變,人類所創(chuàng)造的一切物質(zhì)成果始終要以“利于人類發(fā)展”為旨義。人工智能是否應(yīng)當(dāng)享有權(quán)利,也只有人類有資格在法律這一正當(dāng)化層面上去權(quán)衡。當(dāng)然,法律權(quán)利的賦予離不來足夠的正當(dāng)化依據(jù)做支撐,用邏輯術(shù)語講就是要滿足充足理由律。至于權(quán)利的最后一種形態(tài)——現(xiàn)有權(quán)利,只有人工智能被賦予法律權(quán)利后才有談?wù)摰目赡堋?/p>

    權(quán)利的四種形態(tài)中,權(quán)利的應(yīng)有形態(tài)和習(xí)慣形態(tài)顯然與人工智能無緣,而現(xiàn)有權(quán)利以法律權(quán)利的存在為前提,因此只有在法律思維里談?wù)撊斯ぶ悄艿臋?quán)利才較為恰當(dāng)。但穩(wěn)定的法律體系并不輕易接納為新興事物創(chuàng)設(shè)的權(quán)利,除非該事物的發(fā)展程度已經(jīng)臨近或超過需要法律規(guī)制的絕對閾值。那么,現(xiàn)今的人工智能發(fā)展現(xiàn)狀能否招致我國立法的動議,并進(jìn)而賦予其相關(guān)法律權(quán)利,目前尚無定論。

    2.對法律權(quán)利的考察

    何為法律權(quán)利的本質(zhì),自由、利益、資格、主張,抑或是選擇自由、可能性和法律上的“力”,它們都是權(quán)利本質(zhì)某個側(cè)面的表征,共同編織權(quán)利這張內(nèi)涵豐富的面孔。其中,構(gòu)成權(quán)利的核心要素為利益、權(quán)能和自由行為,外化為法律權(quán)利的求力性、可為性和自主性特征。如果人工智能被賦予法律權(quán)利,那么它所享有的權(quán)利就會具有以上要素和特征。法律權(quán)利本質(zhì)的復(fù)雜性使得從人工智能的機理或行為屬性中尋找與法權(quán)本質(zhì)的實質(zhì)契合點并非易事,但從分析法權(quán)的構(gòu)成要素這一進(jìn)路出發(fā),可以獲得異曲同工的效果,因為法律權(quán)利的構(gòu)成要素是其本質(zhì)的集中體現(xiàn)。權(quán)能作為法律權(quán)利的構(gòu)成要素之一,是權(quán)利主體行使權(quán)利的資格和能力。我們試圖通過論證人工智能應(yīng)當(dāng)享有法律權(quán)利這一命題為真來推出人工智能應(yīng)被賦予法律人格,為了避免犯下論證中的乞題謬誤,我們只談?wù)摾婧妥杂尚袨檫@兩大要素。

    (1) 權(quán)利的基礎(chǔ):利益。德國法學(xué)家耶林認(rèn)為,“權(quán)利的基礎(chǔ)是利益,權(quán)利乃法律所承認(rèn)和保障的利益?!?任何一項法律權(quán)利的行使實則是對某項正當(dāng)、合法利益的維護(hù)或追求。利益的表現(xiàn)形態(tài)決定了權(quán)利的類型,人格、財產(chǎn)和自由三大利益形成了法律權(quán)利范疇內(nèi)的三大權(quán)利類型:人格權(quán)、財產(chǎn)權(quán)和自由權(quán)。正是由于三大利益的存在,權(quán)利之網(wǎng)才能構(gòu)成,法律體系才得以建構(gòu)。而在利益的驅(qū)動下,法律主體不惜通過訴訟的途徑行使權(quán)利,使權(quán)利由“紙上之法”走向“實踐之法庭”。如果缺乏了利益這一核心要素,權(quán)利就失去了行使的動力泉源,自然也就不能稱之為法律權(quán)利。人工智能要想獲得法律權(quán)利,必須要有行使權(quán)利的目標(biāo)和方向,有維護(hù)和追求的利益,否則賦予人工智能法律權(quán)利則是浪費立法資源之舉。

    (2)權(quán)利的表現(xiàn)形式:自由行為。自由行為作為法律權(quán)利的表現(xiàn)形式,是權(quán)利主體追求利益的手段和方式。從語法上分析,它是一個偏正短語,由“自由”修辭“行為”,這表明法律要求權(quán)利主體行使權(quán)利的行為要受其自由意志的支配;從語義上解釋,行為支配自由行為的內(nèi)涵闡釋,意指不受強制思想支配而表現(xiàn)出來的外表活動。英國思想家伯林將自由分為“消極自由”和“積極自由”,與行為組合在一起則為“消極的行為”和“積極的行為”,分別對應(yīng)于法律中“不作為”和“作為”概念。行為是法律主體邁入法律之門的通道,正如馬克思所指出的:“對于法律來說,除了我的行為之外,我是根本不存在的”。?在民法中,自由行為表現(xiàn)為民事法律行為,它必須是自然人、法人和非法人組織有意識地表現(xiàn)于外部的作為或不作為,無意識能力的未成年人、精神病患者以及在暴力威脅下的行為都不能成為民事法律行為。在刑法的犯罪構(gòu)成要件中,無論是四要件說還是二階層說,都強調(diào)犯罪行為的主觀因素,只有行為人在故意或過失的罪過心理下實施的違法行為才有觸犯刑法的可能。那么,行為人實施的違法行為是否自由無疑成為判斷其“入罪”與“出罪”的標(biāo)尺。如果人工智能要想獲得法律權(quán)利,它所表現(xiàn)出的行為必須要與人類行為相類似,含有自由的成分。當(dāng)然,這種自由不是編程預(yù)設(shè)的自由,而是不受干預(yù)和強制的自由。

    3.人工智能的冷思考:不應(yīng)享有法律權(quán)利

    人工智能概念由“人工”和“智能”構(gòu)成,因其模擬人類的智力而得名。2016年圍棋機器人AlphaGo以4:1的總比分大勝李世石,又在2017年中國烏鎮(zhèn)圍棋峰會上完勝柯潔,使得“人工智能威脅論”再次甚囂塵上,史蒂芬·霍金關(guān)于人工智能的預(yù)言“人工智能或許不但是人類歷史上最大的事件,而且還有可能是最后的事件”?成為了悲觀主義者的心聲。然而,今天的人工智能的能力僅限于某一領(lǐng)域,即使勝過世界圍棋冠軍的AlphaGo也只是在圍棋方面勝人一籌,尚不能實現(xiàn)跨領(lǐng)域推理,更不用提具有抽象能力、情感、自我意識、常識和審美觀等人類先驗的屬性。雖然基于多層神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)技術(shù)使人工智能具有一定水平的自主能力,蒂姆·厄班(Tim Urban) 也預(yù)測超人工智能時代將因人工智能技術(shù)加速度的發(fā)展很快到來,但“特定的科技在一段時間的加速發(fā)展后會遇到某些難以逾越的技術(shù)瓶頸,如有關(guān)計算機芯片性能的摩爾定律”?,自我管理和自我立法的強人工智能時代還相當(dāng)遙遠(yuǎn)。

    我們?nèi)蕴幱谌跞斯ぶ悄軙r代,這是無可置疑的事實。專家們預(yù)言強人工智能或超人工智能的到來還需要15年、20年、50年……,但在未來一段時間內(nèi)人工智能的工具屬性不會改變。對于弱人工智能而言,它只是人類創(chuàng)造價值的一個工具而已,根本就沒有意識判斷自己是否受到侵害。對人工智能產(chǎn)品的任意辱罵、毀壞等損益行為也只有其所有者或者使用者有能力加以識別和制止,那么以人身為載體的生命利益、健康利益、隱私利益和自由利益等人格利益的存在和自我保護(hù)也就無從談起。人格權(quán)作為一種絕對權(quán)力,以人格利益為基礎(chǔ),是個體生存發(fā)展的基礎(chǔ)。當(dāng)人格利益不存在時,人格權(quán)也就沒有存在的價值;如果個體沒有人格權(quán),它也就不能成為法律上的個體。我們從沒有判斷能力的弱人工智能身上顯然無法發(fā)現(xiàn)人格利益存在的跡象,因此人工智能并不擁有享有人格權(quán)的利益基礎(chǔ)。人工智能在自動駕駛、智慧金融、智慧生活和智慧醫(yī)療等領(lǐng)域的出色表現(xiàn)產(chǎn)生了巨大的經(jīng)濟(jì)效益,但它并不像人類那樣擁有占有、使用和管理財產(chǎn)的能力,它只是人類創(chuàng)造財富的工具,其所創(chuàng)造的財產(chǎn)性利益歸其所有者或使用者所有。沒有要保護(hù)的財產(chǎn)性利益,自然就沒有賦予財產(chǎn)性權(quán)利的必要。有學(xué)者認(rèn)為,“人工智能可以自己學(xué)習(xí)、思考積累經(jīng)驗,依據(jù)自己獨立的意志作決策并行動”?,此觀點爭議較大。人工智能的自主行為是編程預(yù)設(shè)指令的結(jié)果,即便是引領(lǐng)人工智能發(fā)展的的深度學(xué)習(xí)技術(shù)也使其擺脫不了人類的控制,那么人工智能的行為所表現(xiàn)出來的自由只能是一種“人為自由”。受人類控制的弱人工智能在短時間內(nèi)并不能實現(xiàn)“自由身”,如果它的“自由”受到限制,適用現(xiàn)有《物權(quán)法》調(diào)整即可,因此人工智能不存在要保護(hù)的自由利益。經(jīng)過以上的論述不難發(fā)現(xiàn),法律權(quán)利的三大核心利益在人工智能身上并無體現(xiàn)。

    出于社會風(fēng)險、倫理和經(jīng)濟(jì)效益等因素考慮,作為人類工具的弱人工智能在其工作期間處于利益相關(guān)者的監(jiān)控之下;再加上實現(xiàn)強人工智能的技術(shù)瓶頸尚未突破,人工智能行為的不自由狀態(tài)將成為常態(tài),無法實現(xiàn)類人般的意志自由。在民事領(lǐng)域,如果民事主體的行為不再自由,那么作出的意思表示就不真實,就不能引起產(chǎn)生、變更和消滅民事法律關(guān)系的法律效果,相關(guān)的民事權(quán)利就無法行使。既然人工智能的行動是不自由的,那么與法律權(quán)利的構(gòu)成要素之一的自由行為的內(nèi)涵就相差甚遠(yuǎn),這意味著人工智能不具備行使權(quán)利的表現(xiàn)形式,即自由行為。弱人工智能不存在受法律保護(hù)的人格利益、財產(chǎn)利益和自由利益,因其行動免除不了受外界的控制而不能成為自由行為,故法律權(quán)利的利益和自由行為兩大構(gòu)成要素都無法滿足。即使人工智能被賦予法律人格,擁有權(quán)利行使和實現(xiàn)的基本條件,人工智能享有法律權(quán)利的構(gòu)成要素也不齊全。因此,人工智能不應(yīng)享有法律權(quán)利。

    4.弱人工智能應(yīng)是法律上的物

    人工智能并不是一個新鮮的事物,距今已有近70年的歷史,但每一次AI熱潮都會點燃“人工智能威脅論”的火苗,其根源在于大眾習(xí)慣于把人工智能人格化。然而,當(dāng)我們結(jié)合法律人格的概念和人工智能的科技含量推斷時,無法得出人工智能應(yīng)享有法律人格的結(jié)論。

    經(jīng)過法律技術(shù)處理過的法律人格概念,拋卻了身份、性別、意志和生命等倫理要素,把公司、國家甚至河流等非生物體納入法律主體的范疇之內(nèi),這使得法律人格制度成為了一個開放的體系,也為判斷人工智能能否擁有法律人格減少了倫理前提的論證環(huán)節(jié)。當(dāng)今法律界熱議人工智能法律地位的背后,實則是想通過賦予人工智能法律權(quán)利達(dá)到維護(hù)相關(guān)利益之目的。然而,目前的弱人工智能在未來一段時間內(nèi)只是人類可控的工具,如同其它人類工具一樣,并沒有值得法律保護(hù)的人格、財產(chǎn)和自由利益;基于多層人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)技術(shù)也不能使人工智能自由地行動,其自身狀況無法為其享有法律權(quán)利提供構(gòu)成要素。雖然歐盟委員會法律事務(wù)委員會在2016年5月31日向歐盟委員會提交的動議中建議賦予最先進(jìn)的自主機器人勞動權(quán)等特定的權(quán)利和義務(wù)?,但在2017年2月通過的包含機器人具體立法建議的文件并未涉及此內(nèi)容;有學(xué)者主張為保障機器人必要的生存,機器人應(yīng)享有四類權(quán)利:數(shù)據(jù)資源的共享權(quán)利、個體數(shù)據(jù)的專有權(quán)利、基于功能約束的自由權(quán)利和獲得法律救濟(jì)的權(quán)利?,但并沒有提供法理上的理論依據(jù)。因此,人工智能不應(yīng)被賦予特定的法律權(quán)利。基于權(quán)利與義務(wù)、責(zé)任間的緊密關(guān)系和權(quán)利的基本地位,人工智能也不具有履行義務(wù)和承擔(dān)責(zé)任的法律角色。既然法律人格是法律主體行使權(quán)利、履行義務(wù)和承擔(dān)責(zé)任的條件,而人工智能與此均無關(guān)聯(lián),那么賦予人工智能法律人格就沒有法律上的需求。

    主客體二分法是法理上的一個基本原則。隨著基因時代向智能時代的轉(zhuǎn)變,具有人工智能的機器人可能會打破傳統(tǒng)民法的主客體框架?,但已生效的《民法總則》和正在審議的民法典各分編草案均未把人工智能視為新的法律主體,這說明在未來一段時間內(nèi)仍應(yīng)把當(dāng)前的弱人工智能當(dāng)作民法上的物來看待。當(dāng)明確人工智能的法律地位后,人工智能與法的一系列問題也會隨之而解。

    “伴隨第四次工業(yè)革命到來,我們猝不及防地進(jìn)入到人機共存共生的智能時代。”?人工智能使我們生活在一個最好的時代,但對智能的一知半解也在加劇我們內(nèi)心的恐懼。當(dāng)前,人工智能的發(fā)展仍處于弱人工智能階段,人工智能只是人類制造的工具,離威脅人類還相當(dāng)遙遠(yuǎn)。許多人誤認(rèn)為無人駕駛汽車和智能機器人會做出決策,脫離人類的控制,事實上人類對內(nèi)置于人工智能產(chǎn)品的智能軟件的設(shè)計、運行、和反饋等全部流程擁有完全的控制權(quán)。至于法律界對人工智能的熱議,其根源在于立法機關(guān)沒有在相關(guān)文件中明確人工智能的法律地位,以至于形成了兩大陣營:人工智能是法律上的物和人工智能應(yīng)被賦予法律人格。雖然法律人格制度已從“人可非人”向“非人可人”轉(zhuǎn)變,但即使假設(shè)人工智能擁有行使權(quán)利和履行義務(wù)的權(quán)能,人工智能的自身條件也滿足不了權(quán)利的構(gòu)成要素。賦予人工智能法權(quán)構(gòu)想的失敗,也就意味著人工智能人格之路的終結(jié)。因此,應(yīng)把目前的人工智能歸到主客體二分法中的物的范疇之內(nèi)。“隨著歷史的發(fā)展,建立在啟蒙哲學(xué)‘理性’觀念對人進(jìn)行抽象基礎(chǔ)之上的法律主體理論正在被瓦解?!?或許在將來某一天,隨著人工智能技術(shù)瓶頸的突破和法律人格制度的進(jìn)化,人工智能能夠正式成為法律主體大家庭的一員。

    注釋:

    ①⑤⑦? 李開復(fù)、王詠剛:《人工智能》,文化發(fā)展出版社2017年版,第1、61、13、120頁。

    ② 沈建銘:《論人工智能實體的法律主體資格》,華中師范大學(xué)2017年碩士論文。

    ③蔡曙山、薛小迪:《人工智能與人類智能——從認(rèn)知科學(xué)五個層級的理論看人機大戰(zhàn)》,《北京大學(xué)學(xué)報》(哲學(xué)社會科學(xué)版)2016年第4期。

    ④ 萬赟:《從圖靈測試到深度學(xué)習(xí):人工智能60年》,《科技導(dǎo)報》2016年第7期。

    ⑥M art i n H i bert,Bi g Dat a f or Devel opm ent:A Revi ew of Prom i ses and Chal l enges,Devel opm ent Pol i cy Revi ew,2016,34(1),pp.135-174.

    ⑧ 馬京平、王小玲:《近代民法對羅馬法之法律人格理論的反思——兼評“無財產(chǎn)即無人格》,《法學(xué)雜志》2008年第3期。

    ⑨ 周木丹:《羅馬法原論》,商務(wù)印書館1996年版,第98頁。

    ⑩? 郭少飛:《“電子人”法律主體論》,《東方法學(xué)》2018年第3期。

    ? [英]梅因:《古代法》,沈景一譯,商務(wù)印書館1959年版,第39頁。

    ? 參見朱程斌、李龍:《人工智能作為法律擬制物無法擁有生物人的專屬性》,《上海交通大學(xué)學(xué)報》 (哲學(xué)社會科學(xué)版)2018年第6期。

    ? 參見袁曾:《人工智能有限法律人格審視》,《東方法學(xué)》2017年第5期。

    ? 孫占利:《智能機器人法律人格問題論析》,《東方法學(xué)》2018年第3期。

    ? 李俊豐、姚志偉:《論人工智能的法律人格:一種法哲學(xué)思考》,《華僑大學(xué)學(xué)報》 (哲學(xué)社會科學(xué)版)2018年第6期。

    ?? 呂世倫、公丕祥主編:《現(xiàn)代理論法學(xué)原理》,西安交通大學(xué)出版社2016年版,第55、330頁。

    ? 張艷:《人工智能給法律帶來四大挑戰(zhàn)》,《社會科學(xué)報》2016年8月4日。

    ? 詹可:《人工智能法律人格問題研究》,《信息安全研究》2018年第3期。

    ? 參見胡裕嶺:《歐盟率先提出人工智能立法動議》,《檢察風(fēng)云》2018年第18期。

    ? 參見張玉潔:《論人工智能時代的機器人權(quán)利及其風(fēng)險規(guī)制》,《東方法學(xué)》2017年第6期。

    ? 參見吳漢東等:《人工智能對知識產(chǎn)權(quán)法律保護(hù)的挑戰(zhàn)》,《中國法律評論》2018年第2期。

    ? 徐文:《反思與優(yōu)化:人工智能時代法律人格賦予標(biāo)準(zhǔn)論》,《西南民族大學(xué)學(xué)報》 (人文社科版)2018年第7期。

    ? 王勇:《人工智能時代的法律主體理論構(gòu)造——以智能機器人為切入點》,《理論導(dǎo)刊》2018年第2期。

    猜你喜歡
    人格權(quán)利人工智能
    共產(chǎn)黨人的人格力量
    我們的權(quán)利
    遠(yuǎn)去的平凡背影,光輝的偉大人格
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    論不存在做錯事的權(quán)利
    法大研究生(2018年2期)2018-09-23 02:19:50
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    論君子人格的養(yǎng)成
    權(quán)利套裝
    Coco薇(2015年12期)2015-12-10 02:43:39
    狂野欧美激情性xxxx| 精品卡一卡二卡四卡免费| 99久久精品国产亚洲精品| 久久香蕉激情| 久久香蕉激情| 亚洲第一欧美日韩一区二区三区 | 99热国产这里只有精品6| 国产欧美日韩综合在线一区二区| 国产极品粉嫩免费观看在线| 久久这里只有精品19| 国产av又大| 中文字幕人妻熟女乱码| 亚洲天堂av无毛| 麻豆国产av国片精品| tocl精华| 视频区图区小说| 免费不卡黄色视频| 亚洲第一欧美日韩一区二区三区 | 国产精品 国内视频| 大型av网站在线播放| 大香蕉久久成人网| 亚洲色图 男人天堂 中文字幕| 国产成人av教育| 女人精品久久久久毛片| 高清在线国产一区| 久久热在线av| 两个人看的免费小视频| 国产成人精品久久二区二区免费| 欧美精品啪啪一区二区三区| 一区二区三区激情视频| 亚洲av成人不卡在线观看播放网| 天天躁狠狠躁夜夜躁狠狠躁| 久久精品aⅴ一区二区三区四区| 黄片小视频在线播放| 成人亚洲精品一区在线观看| 国产成人精品无人区| 欧美日韩成人在线一区二区| 国产精品美女特级片免费视频播放器 | 日韩大码丰满熟妇| 香蕉国产在线看| 三级毛片av免费| 自拍欧美九色日韩亚洲蝌蚪91| 国产人伦9x9x在线观看| 99久久99久久久精品蜜桃| 一二三四在线观看免费中文在| 成人av一区二区三区在线看| 啦啦啦免费观看视频1| 男女床上黄色一级片免费看| 精品免费久久久久久久清纯 | 99香蕉大伊视频| 久久久精品国产亚洲av高清涩受| 日韩一卡2卡3卡4卡2021年| 法律面前人人平等表现在哪些方面| 丁香六月欧美| 天天躁日日躁夜夜躁夜夜| 天天躁日日躁夜夜躁夜夜| a级毛片黄视频| 久久久久久免费高清国产稀缺| 极品少妇高潮喷水抽搐| 亚洲视频免费观看视频| av有码第一页| 大型av网站在线播放| 别揉我奶头~嗯~啊~动态视频| aaaaa片日本免费| 一级毛片电影观看| 亚洲av片天天在线观看| 一边摸一边抽搐一进一出视频| 妹子高潮喷水视频| 天天躁狠狠躁夜夜躁狠狠躁| 中文字幕人妻丝袜一区二区| 久久国产精品大桥未久av| 最近最新免费中文字幕在线| 亚洲成a人片在线一区二区| 国产一区二区 视频在线| 亚洲国产欧美网| 黄网站色视频无遮挡免费观看| 国产成人欧美| 91成人精品电影| 1024香蕉在线观看| 日韩视频一区二区在线观看| 男女下面插进去视频免费观看| 后天国语完整版免费观看| 老司机午夜福利在线观看视频 | 美女视频免费永久观看网站| 新久久久久国产一级毛片| 久久天堂一区二区三区四区| 少妇裸体淫交视频免费看高清 | 99久久国产精品久久久| www.精华液| 少妇猛男粗大的猛烈进出视频| 下体分泌物呈黄色| 成人av一区二区三区在线看| 国产又色又爽无遮挡免费看| 啦啦啦 在线观看视频| 99精国产麻豆久久婷婷| 1024视频免费在线观看| 久久香蕉激情| 人妻久久中文字幕网| 精品少妇久久久久久888优播| 欧美 亚洲 国产 日韩一| 亚洲欧美激情在线| 国产又爽黄色视频| 黄色视频不卡| 精品福利永久在线观看| 黄片大片在线免费观看| 无人区码免费观看不卡 | 女人被躁到高潮嗷嗷叫费观| 午夜福利视频在线观看免费| 欧美黑人欧美精品刺激| 国产伦人伦偷精品视频| 亚洲人成电影观看| av又黄又爽大尺度在线免费看| 亚洲情色 制服丝袜| 国产成+人综合+亚洲专区| 午夜两性在线视频| 国产男靠女视频免费网站| 国产高清激情床上av| 亚洲视频免费观看视频| 肉色欧美久久久久久久蜜桃| 久久精品国产亚洲av高清一级| 青草久久国产| 国产精品秋霞免费鲁丝片| 欧美中文综合在线视频| 9191精品国产免费久久| av免费在线观看网站| 亚洲伊人色综图| 亚洲精品一二三| 天堂中文最新版在线下载| 嫁个100分男人电影在线观看| 亚洲国产av影院在线观看| 亚洲欧洲精品一区二区精品久久久| 99九九在线精品视频| 一级黄色大片毛片| 亚洲伊人色综图| 亚洲,欧美精品.| 国产免费福利视频在线观看| 久久久国产成人免费| 亚洲第一欧美日韩一区二区三区 | 18禁观看日本| 亚洲视频免费观看视频| 99国产精品一区二区蜜桃av | a级毛片在线看网站| 久久久精品国产亚洲av高清涩受| 淫妇啪啪啪对白视频| 老司机亚洲免费影院| 国产精品亚洲一级av第二区| 久久亚洲精品不卡| 亚洲九九香蕉| 操出白浆在线播放| 国产人伦9x9x在线观看| 五月天丁香电影| 伊人久久大香线蕉亚洲五| 国产精品久久久人人做人人爽| 黄频高清免费视频| 国产精品美女特级片免费视频播放器 | 午夜福利乱码中文字幕| 国产亚洲欧美在线一区二区| 免费人妻精品一区二区三区视频| 亚洲综合色网址| 久久人人爽av亚洲精品天堂| 一级黄色大片毛片| 在线观看一区二区三区激情| 亚洲精品美女久久av网站| 欧美精品一区二区大全| 亚洲国产av新网站| 热re99久久国产66热| 国产精品久久久久久精品古装| 国产精品久久久人人做人人爽| 一夜夜www| 日本撒尿小便嘘嘘汇集6| 午夜日韩欧美国产| 亚洲全国av大片| 十八禁网站免费在线| 乱人伦中国视频| 国产男靠女视频免费网站| 国产又色又爽无遮挡免费看| 少妇被粗大的猛进出69影院| 亚洲第一青青草原| 男女床上黄色一级片免费看| 亚洲中文av在线| 男女床上黄色一级片免费看| 国产亚洲欧美在线一区二区| 精品国产乱码久久久久久男人| 亚洲一区二区三区欧美精品| 欧美日韩视频精品一区| 18禁黄网站禁片午夜丰满| 成人国产av品久久久| 天天躁夜夜躁狠狠躁躁| 日韩欧美一区二区三区在线观看 | 国产一区二区激情短视频| 国产成人影院久久av| √禁漫天堂资源中文www| 欧美精品啪啪一区二区三区| 午夜免费成人在线视频| 国产欧美亚洲国产| 欧美日韩一级在线毛片| 精品高清国产在线一区| 亚洲av成人不卡在线观看播放网| 一区二区三区激情视频| 精品一品国产午夜福利视频| 久久中文字幕一级| 日韩中文字幕视频在线看片| 亚洲午夜理论影院| 老熟女久久久| 亚洲中文av在线| 两人在一起打扑克的视频| 无限看片的www在线观看| 免费看a级黄色片| 91av网站免费观看| 国产单亲对白刺激| av不卡在线播放| 国产男靠女视频免费网站| 极品教师在线免费播放| 老司机午夜十八禁免费视频| 精品卡一卡二卡四卡免费| 韩国精品一区二区三区| 成在线人永久免费视频| 日本vs欧美在线观看视频| 精品国产国语对白av| 十八禁高潮呻吟视频| av有码第一页| 视频区图区小说| 国产成人精品久久二区二区免费| 少妇粗大呻吟视频| 91麻豆精品激情在线观看国产 | 亚洲美女黄片视频| 成人免费观看视频高清| 国产麻豆69| 丰满少妇做爰视频| 19禁男女啪啪无遮挡网站| 久久精品成人免费网站| 丰满人妻熟妇乱又伦精品不卡| 久久久久网色| 亚洲专区中文字幕在线| 五月开心婷婷网| 精品一区二区三区四区五区乱码| 欧美精品人与动牲交sv欧美| 久久精品91无色码中文字幕| 亚洲国产中文字幕在线视频| 97人妻天天添夜夜摸| h视频一区二区三区| 一边摸一边抽搐一进一小说 | 两个人看的免费小视频| 免费在线观看影片大全网站| 亚洲精品国产精品久久久不卡| 日本wwww免费看| 国产成人av激情在线播放| 9热在线视频观看99| 久久久欧美国产精品| 满18在线观看网站| 欧美亚洲日本最大视频资源| 国产高清激情床上av| 母亲3免费完整高清在线观看| 高清在线国产一区| 激情视频va一区二区三区| 亚洲久久久国产精品| 69精品国产乱码久久久| 真人做人爱边吃奶动态| 天天躁夜夜躁狠狠躁躁| 欧美日韩亚洲综合一区二区三区_| 久久久久国产一级毛片高清牌| 免费在线观看视频国产中文字幕亚洲| 久久国产精品男人的天堂亚洲| 国产成人精品无人区| 国产亚洲欧美精品永久| 成年版毛片免费区| 在线永久观看黄色视频| 美女主播在线视频| 美女福利国产在线| 免费看a级黄色片| 51午夜福利影视在线观看| 熟女少妇亚洲综合色aaa.| 麻豆成人av在线观看| 亚洲久久久国产精品| 99热国产这里只有精品6| netflix在线观看网站| 乱人伦中国视频| 国产亚洲精品久久久久5区| 日韩大片免费观看网站| 亚洲色图av天堂| 欧美黑人精品巨大| 老鸭窝网址在线观看| 午夜免费鲁丝| www.自偷自拍.com| 国产精品自产拍在线观看55亚洲 | 欧美精品一区二区大全| 国产精品免费大片| 建设人人有责人人尽责人人享有的| 99国产精品免费福利视频| 久久香蕉激情| 咕卡用的链子| 国产又色又爽无遮挡免费看| 一级,二级,三级黄色视频| 91大片在线观看| 飞空精品影院首页| 视频区欧美日本亚洲| 中文字幕色久视频| 777久久人妻少妇嫩草av网站| 中文字幕人妻丝袜一区二区| 在线观看免费午夜福利视频| 黑人操中国人逼视频| 搡老岳熟女国产| 麻豆av在线久日| 看免费av毛片| 91字幕亚洲| cao死你这个sao货| 国产aⅴ精品一区二区三区波| 成人av一区二区三区在线看| 99国产综合亚洲精品| 2018国产大陆天天弄谢| 超碰97精品在线观看| 亚洲性夜色夜夜综合| av一本久久久久| 久久久久久人人人人人| 日韩三级视频一区二区三区| 天天躁狠狠躁夜夜躁狠狠躁| 高清毛片免费观看视频网站 | 啦啦啦免费观看视频1| cao死你这个sao货| 国产aⅴ精品一区二区三区波| 亚洲专区中文字幕在线| 中文字幕人妻丝袜制服| 夫妻午夜视频| 欧美亚洲日本最大视频资源| 91成年电影在线观看| 精品午夜福利视频在线观看一区 | 午夜福利一区二区在线看| 后天国语完整版免费观看| 我要看黄色一级片免费的| 丁香六月天网| 亚洲精华国产精华精| 免费一级毛片在线播放高清视频 | 老司机福利观看| 欧美精品一区二区免费开放| 日日夜夜操网爽| 日韩 欧美 亚洲 中文字幕| 这个男人来自地球电影免费观看| 日日爽夜夜爽网站| 欧美精品高潮呻吟av久久| 两性夫妻黄色片| 香蕉久久夜色| 久久精品国产亚洲av香蕉五月 | 99热网站在线观看| 欧美日韩av久久| 亚洲中文av在线| 亚洲国产中文字幕在线视频| 久久婷婷成人综合色麻豆| 日韩欧美免费精品| 男女高潮啪啪啪动态图| 中文字幕制服av| 人成视频在线观看免费观看| 精品少妇久久久久久888优播| 国产日韩欧美在线精品| a在线观看视频网站| 午夜91福利影院| 国产一卡二卡三卡精品| 首页视频小说图片口味搜索| 中文亚洲av片在线观看爽 | 亚洲av第一区精品v没综合| 法律面前人人平等表现在哪些方面| 黄色 视频免费看| 国产成人精品久久二区二区91| 精品少妇久久久久久888优播| 天天躁狠狠躁夜夜躁狠狠躁| 中国美女看黄片| 精品久久久精品久久久| 男女床上黄色一级片免费看| 亚洲第一欧美日韩一区二区三区 | 成人免费观看视频高清| 法律面前人人平等表现在哪些方面| 久久久久久人人人人人| 久久亚洲真实| 热re99久久国产66热| 黄片小视频在线播放| 老司机午夜福利在线观看视频 | 成年人免费黄色播放视频| 高清av免费在线| 亚洲专区中文字幕在线| av网站免费在线观看视频| 亚洲午夜理论影院| 久久天堂一区二区三区四区| 两人在一起打扑克的视频| 精品国产超薄肉色丝袜足j| 男女之事视频高清在线观看| 真人做人爱边吃奶动态| 亚洲成人国产一区在线观看| 亚洲精品乱久久久久久| 亚洲精品国产区一区二| 男女下面插进去视频免费观看| 看免费av毛片| 国产主播在线观看一区二区| 午夜老司机福利片| 中文亚洲av片在线观看爽 | 日韩人妻精品一区2区三区| 免费一级毛片在线播放高清视频 | 人成视频在线观看免费观看| 在线观看舔阴道视频| 捣出白浆h1v1| 多毛熟女@视频| 亚洲精品在线观看二区| 欧美亚洲 丝袜 人妻 在线| 欧美精品啪啪一区二区三区| 女人久久www免费人成看片| av天堂久久9| 国产精品麻豆人妻色哟哟久久| 欧美精品一区二区免费开放| 欧美性长视频在线观看| 日韩欧美三级三区| 国产精品亚洲av一区麻豆| 久久婷婷成人综合色麻豆| 国产精品 国内视频| 一本大道久久a久久精品| 啦啦啦 在线观看视频| 国产高清国产精品国产三级| 新久久久久国产一级毛片| 桃红色精品国产亚洲av| 香蕉久久夜色| 在线天堂中文资源库| 久久久精品94久久精品| 一个人免费看片子| 操出白浆在线播放| 午夜两性在线视频| 久久久久久久久久久久大奶| 天天躁日日躁夜夜躁夜夜| 十八禁网站网址无遮挡| 在线播放国产精品三级| 又紧又爽又黄一区二区| 18禁美女被吸乳视频| 丁香六月欧美| 欧美黄色片欧美黄色片| 日韩大片免费观看网站| 久久久久久久国产电影| 1024视频免费在线观看| 欧美人与性动交α欧美软件| 欧美激情极品国产一区二区三区| 午夜久久久在线观看| 涩涩av久久男人的天堂| 久久九九热精品免费| 一边摸一边抽搐一进一出视频| 国产有黄有色有爽视频| 日日爽夜夜爽网站| 少妇被粗大的猛进出69影院| 桃花免费在线播放| 亚洲国产av新网站| 亚洲综合色网址| 十八禁高潮呻吟视频| 亚洲色图 男人天堂 中文字幕| 在线观看66精品国产| 欧美日韩亚洲综合一区二区三区_| 一级毛片精品| 男女床上黄色一级片免费看| 伦理电影免费视频| 97在线人人人人妻| 男人操女人黄网站| 黄色成人免费大全| 久久久久久久精品吃奶| 久久精品国产综合久久久| 亚洲熟妇熟女久久| 黄片播放在线免费| 国产av一区二区精品久久| 一本—道久久a久久精品蜜桃钙片| 嫩草影视91久久| 国产av又大| 亚洲熟女毛片儿| 1024视频免费在线观看| 一边摸一边抽搐一进一出视频| 免费女性裸体啪啪无遮挡网站| 精品卡一卡二卡四卡免费| 国产亚洲欧美在线一区二区| 50天的宝宝边吃奶边哭怎么回事| 国产精品免费一区二区三区在线 | 久久久国产成人免费| 黄网站色视频无遮挡免费观看| 男女免费视频国产| 精品久久久精品久久久| 90打野战视频偷拍视频| 99精品在免费线老司机午夜| 欧美黑人欧美精品刺激| 男女高潮啪啪啪动态图| 少妇被粗大的猛进出69影院| 2018国产大陆天天弄谢| 国产精品久久久av美女十八| 99热网站在线观看| 精品亚洲乱码少妇综合久久| 精品国产一区二区久久| 日韩一区二区三区影片| 免费看十八禁软件| 亚洲五月色婷婷综合| 欧美精品人与动牲交sv欧美| 女性被躁到高潮视频| 交换朋友夫妻互换小说| 99久久99久久久精品蜜桃| 国产免费现黄频在线看| 中文字幕av电影在线播放| 国产午夜精品久久久久久| 国产成人av激情在线播放| 人妻一区二区av| 制服人妻中文乱码| 国产91精品成人一区二区三区 | av视频免费观看在线观看| √禁漫天堂资源中文www| 久久亚洲精品不卡| 丰满人妻熟妇乱又伦精品不卡| 日韩欧美一区视频在线观看| 国产男女内射视频| 国产真人三级小视频在线观看| 久久久久国产一级毛片高清牌| 国产日韩欧美在线精品| 777米奇影视久久| 国产日韩欧美在线精品| 欧美成人免费av一区二区三区 | 精品国产超薄肉色丝袜足j| 黄片大片在线免费观看| 女同久久另类99精品国产91| 欧美日韩成人在线一区二区| 成人特级黄色片久久久久久久 | 久久人妻av系列| 久久久国产欧美日韩av| 无人区码免费观看不卡 | 色94色欧美一区二区| 黑人欧美特级aaaaaa片| 亚洲成av片中文字幕在线观看| 精品国产乱子伦一区二区三区| 亚洲精品美女久久av网站| 怎么达到女性高潮| 久久久久精品人妻al黑| 日日夜夜操网爽| 亚洲中文av在线| netflix在线观看网站| 亚洲九九香蕉| 免费在线观看视频国产中文字幕亚洲| 日本a在线网址| 亚洲午夜精品一区,二区,三区| 啪啪无遮挡十八禁网站| 国产精品一区二区精品视频观看| 欧美精品人与动牲交sv欧美| 欧美日韩精品网址| 天天操日日干夜夜撸| 亚洲一区中文字幕在线| cao死你这个sao货| 又紧又爽又黄一区二区| 久久精品亚洲av国产电影网| 妹子高潮喷水视频| 亚洲人成电影免费在线| 韩国精品一区二区三区| 操美女的视频在线观看| 国产精品麻豆人妻色哟哟久久| 国产亚洲欧美精品永久| 午夜福利一区二区在线看| 久久热在线av| 国产在线视频一区二区| 国产av国产精品国产| 成人免费观看视频高清| 精品高清国产在线一区| 亚洲av电影在线进入| 亚洲自偷自拍图片 自拍| 啪啪无遮挡十八禁网站| 中文亚洲av片在线观看爽 | 国产成人免费观看mmmm| 巨乳人妻的诱惑在线观看| 成人三级做爰电影| 两个人免费观看高清视频| 最近最新中文字幕大全电影3 | av不卡在线播放| 国产成人精品无人区| 欧美日韩av久久| 嫁个100分男人电影在线观看| 999精品在线视频| 最黄视频免费看| 国产野战对白在线观看| 婷婷丁香在线五月| 80岁老熟妇乱子伦牲交| 黄片播放在线免费| 成人免费观看视频高清| 一本久久精品| cao死你这个sao货| 国产精品99久久99久久久不卡| 亚洲人成电影观看| 老熟妇仑乱视频hdxx| 久久久精品国产亚洲av高清涩受| 国产野战对白在线观看| 亚洲avbb在线观看| 免费在线观看完整版高清| 久久99热这里只频精品6学生| 久久精品人人爽人人爽视色| 两性午夜刺激爽爽歪歪视频在线观看 | 99国产综合亚洲精品| 国产精品熟女久久久久浪| 久久精品91无色码中文字幕| 日韩中文字幕欧美一区二区| 操出白浆在线播放| videos熟女内射| 国产成人精品无人区| 欧美精品亚洲一区二区| 成人手机av| 丝瓜视频免费看黄片| 久久久久视频综合| 久久精品国产亚洲av香蕉五月 | 欧美乱码精品一区二区三区| 人成视频在线观看免费观看| 久久久久久免费高清国产稀缺| 国产欧美日韩综合在线一区二区| 国产男靠女视频免费网站| 国产精品久久电影中文字幕 | 极品少妇高潮喷水抽搐| 成人三级做爰电影| 中文字幕人妻丝袜一区二区| 午夜日韩欧美国产| 69av精品久久久久久 | 丝袜人妻中文字幕| 免费在线观看影片大全网站| 亚洲成a人片在线一区二区| 国产主播在线观看一区二区| 精品少妇久久久久久888优播| 久久中文字幕人妻熟女|