• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于人工智能視域下的法律主體研究

    2018-02-07 00:24:24
    政法學刊 2018年3期
    關鍵詞:權利主體機器人

    何 麗

    (拉曼大學 國際學院,吉隆坡 500000)

    一、引論

    當前,人工智能(Artificial Intelligence,簡稱AI)已經成為國際競爭的新焦點,國務院也于2017年7月20日發(fā)布了《新一代人工智能發(fā)展規(guī)劃》,把人工智能發(fā)展提高到國家戰(zhàn)略地位??萍伎焖侔l(fā)展,既給人類帶來了便利,也增加了風險。“科技行為具有與生俱來的兩重性,為防止對科技成果的誤用、濫用、非道德使用等所造成的社會危害,必須有相應的法律加以調控,并對受害者給予法律救濟?!盵1]人工智能和以往的科學技術有著巨大差別,它是一種影響巨大的顛覆性技術,可能會對我們目前的就業(yè)結構、社會倫理、國際關系準則等造成極大沖擊,不能僅僅依靠單方面的立法進行規(guī)制。必須從全方位、多角度、寬領域去深入了解人工智能給社會帶來的變化,并完善相關法律理論,在此基礎上制定相關法律促進并規(guī)制其發(fā)展。

    深入理解人工智能技術,必須從了解其內涵開始。通過“人工智能”一詞,我們就可以聯想到它與數字技術相關。人類第一次接觸某種新技術的時候,常常是兼具恐懼與興奮的,特別是對數字技術來說。無論人類社會多么不情愿,數字時代真的來了,并且已經到達了數字時代的高級階段,即以人工智能為主要特征的階段。作為計算機科學的一個獨特分支,人工智能是從上個世紀50年代中期開始的。[2]時至今日,世界歷史已經進入“第四次工業(yè)革命”的軌道,人工智能技術也已經發(fā)展了60多年,雖然歷經坎坷,但也取得了巨大的進展。在很多領域,人工智能已經能夠替代甚至超越人類。喬治·戴森(George Dyson)曾說,“我們同機器如同手足”[3]24“迎接與機器人共處的時代”[4],雖不必過多擔憂,但必須對隨之而來的法律問題加以重視。

    人工智能發(fā)展到現在,仍舊很難為其下一個一致的定義。人工智能作為計算機技術領域的一個分支,只能從其一般特征來把握它。按照加利福尼亞大學約翰·塞爾(J.R.Searle)教授的觀點,可以把人工智能分為強“人工智能”和弱“人工智能”。弱“人工智能”是指計算機在心靈研究中的主要價值,只為我們提供一個強有力的工具。強“人工智能”是指計算機不僅是我們研究心靈的工具,而且?guī)в姓_程序的計算機確實可被認為具有理解和其它認知狀態(tài),恰當編程的計算機其實就是一個心靈。“在強AI中,由于編程的計算機具有認知狀態(tài),這些程序不僅是我們用來檢驗心理解釋的工具,而且本身就是一種解釋?!盵5]92當下,在強“人工智能”的概念下討論人工智能更具意義。從計算機發(fā)展之初,人類就面臨著是把其看做操作思想符號的系統(tǒng),還是把其看做是建立大腦模型手段的困擾。越來越類似人大腦的人工智能具有以下特點:其一,它是一種計算機程序;其二,它有較強的數據收集與分析能力;其三,它可以通過不斷學習提高自己的能力;其四,它具有物理實體。隨著人工智能技術的發(fā)展,智能機器人的能力也越來越強,智能機器人“索菲亞”已經成為沙特公民。

    智能機器人的出現,在促進人類發(fā)展的同時,也給人類帶來了一系列法律問題。其一,拷問法律與倫理的邊界。智能機器人索菲亞成為沙特公民,使我們不得不去思考智能機器人作為人類活動的參加者,是否可以成為法律關系的參加者呢?“人工智能和道德秩序之間的關系必須區(qū)別分析”。[6]這不再僅僅是一個倫理問題,從法律應保護最低限度的道德視角來看,法律必須出場。其二,向人類主張權利。例如,DeepMind公司研究的智能機器人阿爾法狗(AlphaGo),現如今已經進化為AlphaGo Zero,它不再需要人類數據,它可以通過自主學習,掌握技能。法律要授予智能機器人公民身份嗎?如果授予當如何行使?“據美國Narrative Science預測,未來15年將有90%的新聞稿件由機器人完成。機器人撰寫的稿件,是否享有版權?”[7]其三,導致法律關系交疊。智能機器人有一個自主衡量系統(tǒng),它們對自己做出許多決定,超出人類提供的指導原則。[6]智能機器人導致他人人身或財產損害,誰來承擔責任?就目前來看,既然案件發(fā)生以后的責任主體還不能完全歸咎于智能機器人,則責任承擔者還應該回溯到智能機器的生產者、銷售者、使用者亦或第三方服務平臺。智能機器人參與行為,會使各種法律關系交疊在一起?!爱斦嬲耆淖灾髦悄軝C器人發(fā)生事故、造成損害,證明缺陷、因果關系等事項將成為受害人難以逾越的法律障礙?!盵8]智能機器人給人類帶來了許多法律問題,究其根本原因在于建構整個法律體系基礎的法律主體理論不再牢靠。從根本上解決智能機器人引發(fā)的法律問題,需要回溯法律主體發(fā)展的歷史脈絡及其發(fā)展邏輯,有限度地變動以人為中心的法律主體地位構造,以回應智能機器人出現所導致的法學難題。

    二、法律主體理論的歷史演進邏輯

    法律主體,是法律關系的構成性要素,即法律關系的參加者,是在法律關系中享有權利、履行義務或承擔責任的人或其它類人的存在物。翻閱學界的研究文獻,可以了解到學界對法律主體的爭論頗多,但是實質性研究較少,可能學界認為,現有的法律主體理論的建構已經十分牢靠,即使有新的存在物出現,也不可能撼動構成法律主體理論體系的大廈,其實不然。智能機器人出現對法學的沖擊在很大程度上是對法律主體理論的沖擊。法律主體理論作為構成法學理論的最主要內容,確定著法律的適用范圍。法律主體不是被動地接受權利,也不是先確定了法律,再去尋找有資格享有法律的主體。法律主體與權利同時產生,相互依存。關于法律主體問題的考量,不僅存在著從人到主體這一漫長的歷史維度,人本身的法律形像即人在法域中的自我認知、自我想象和自我再現,同時也經歷著若干次重大的變幻。[9]法律主體理論的演進邏輯,是它逐漸地演變?yōu)橐浴叭恕钡某橄鬄橹行牡睦碚擉w系,并向類人的存在物擴展,從而成為了支撐整個人類法律體系的核心要素。

    (一)法律主體:人的實在到人的抽象

    法律主體概念對人的抽象,經歷了一個漫長過程。歷史上法律主體一開始呈現多種多樣的形態(tài),各國的規(guī)定也不盡相同,大致包括了人、超自然人、動物、無生命物等。在遠古時期,尚未有現代意義上的法律主體,“蘇美爾社會本是一個長老主宰的社會,由那些長老、家父統(tǒng)治,國王是這個社會的執(zhí)政者,這些人以外的其它人,都沒有主體資格?!盵10]隨著人類社會的發(fā)展,人的欲望不斷增強,逐漸地一些非人的存在物被排除在法律之外,法律主體縮減至平等的單一類型即人自身。特別是啟蒙運動以來,啟蒙哲學產生的二元對立思維,又為法律主體抽象為人提供了堅實的思想基礎,人成為了法律主體的唯一抽象物?!袄硇?,人的理性!賦予人以自然立法?!盵11]79“在創(chuàng)造物面前,人們總是習慣將自己置于主人的地位。”[12]“關系是被忽視了,每個人都成了獨自存在的人,他是一個在經濟上、政治上、道德上從而在法律上自足的單位?!盵13]73法律主體對人的抽象,不僅使人的多樣性消失了,而且導致了理性人的利己現象,最終,法律主體淪為保護人的尊嚴和利益的工具。法律主體作為法學上的一個重要范疇不能僅僅只為了保護人類的利益而存在,而應該注重人與其它存在物的關系,實現人類自身和社會的良好發(fā)展。

    法律主體從人的實在到人的抽象,充分體現了人的特征。以人的抽象特征將自然人與其它存在物區(qū)分開來。自然人這一概念不區(qū)分種族、性別等因素,被平等賦予了所有人。處于政治社會之中理性自然人的行為,要受到法律的規(guī)制?!袄硇圆粌H是正確的法之認識工具,也是其源泉?!盵11]79法律主體抽象為人之后,每個人都有兩種身份,一種是生活中各具獨特氣質的自然人,一種是具有共同特征的法律之上的法律人。只有法律主體,才能為法律行為。作為法律主體的人的行為,是在理性意志支配下的行為。無論行為是否合法,都被認為是人的自由意志選擇,是一種深思熟慮的決斷。行為人依據法律承擔責任,履行義務。隨著法律主體以人的抽象為基礎,人也就成了連接法律權利與義務的一個工具而已。

    (二)法律主體:由人的抽象到類人的拓展

    現代法律主體,或曰“法律人格”,是一種行使法律權利、履行法律義務和承擔法律責任的資格。主體資格以人的抽象為基礎,這種對人的抽象體現出了法律主體的概括性、抽象性、普遍適用性的特征,進而使法律主體資格的開放性成為可能。“從理論上講,凡是能夠參與一定法律關系的任何個人和機關,都可以是法律關系的主體?!盵14]150主體資格成為了一種符合人的抽象性特征的屬性,并演變成為了一種符合某種條件的固定類型,與被賦予法律資格的存在物本身性質并無實質關聯。以人的特征抽象出來的法律主體理論,為其它存在物通過擬制抽象成為法律主體提供了可能。法律主體制度具有滌除功能,法律主體在保護和調整意義上是指現實中的所有人,在其抽象的標準范圍上,它又是指符合一定條件的人?!胺赏ㄟ^主體制度選取社會生活中的一部分主體,賦予其法律資格,在這些被法律挑選出的主體中,構建法律關系。”[15]只有經過挑選的存在物才能成為法律主體,才擁有參加法律關系的資格,從而享有法律上的權利,承擔法律上的義務。法律關系的構成以建立在人的抽象為基礎上的法律主體為依托。只有法律主體的行為才被視為法律行為,其權利、義務才能成為法律關系的調整對象。

    法律主體的拓展過程,體現為把那些原本在生物學意義上不稱為人的存在物,吸納為法律主體的過程,法律主體逐漸類型化。法律主體發(fā)展的第一個階段,最終完成了法律主體與生物學意義上人范圍的重合;第二階段是從生物學意義上的自然人到法律擬制人即法人的拓展。最早系統(tǒng)規(guī)定法人制度的法典是《德國民法典》?!兜聡穹ǖ洹分惺褂玫摹叭恕?,是一個形式上的概念。構成這一概念的必要條件只有權利能力,而不包括行為能力和過錯能力。[16]《德國民法典》在“人格”之后規(guī)定“自然人格”和“法人人格”,將自然人的權利能力和法人的權利能力統(tǒng)一在“人格”一章,并對法人的成立、登記、法人機關等事項做了詳細規(guī)定。法人成為法律主體,雖經歷了漫長的爭論,但承認法人的主體地位已經成為各國法律的共識。承認法人的法律主體地位擬制,是把法人看作是自然人的一種表現,把適用于自然人的法律主體地位的抽象構造適用于法人組織??梢钥隙ǖ氖?,以人的抽象為基礎的法律主體地位的構造,不僅可以把法人納入到法律主體之中,現如今非法人組織、動物等存在物,都可以按照這種類人的抽象,擬制成為法律主體。按照如此邏輯,智能機器人也可以成為法律主體,進而享有法律權利,承擔法律義務?,F代法律主體的類型化拓展,極大地影響了人對自己的本質的理解。

    (三)法律主體:法律理論變動的基礎

    任何國家的發(fā)展,都離不開法律的保障,有法律,就有法律制度的支撐。以人的抽象為基礎建構起來的法律主體理論,擎著整個法律體系王國,看似十分穩(wěn)定,卻也風雨飄搖。法律主體理論的變動,往往會對整個法律制度產生深遠影響。人類已經獲得了充分的現實依據,法律主體制度的發(fā)展并不必然會主動發(fā)展為一種較好的狀況,人類必須主動思考、介入智能機器人帶來的法律主體理論發(fā)展。法律主體理論是整個法律理論體系的核心,是構成法律關系的基礎性要素,它體現著法律的價值追求。法律通過調整主體的意志行為,實現其確認、形成、鞏固和發(fā)展社會關系的功能。法律主體的內容決定了法律關系邏輯結構,也決定了其呈現的樣態(tài)。沒有法律主體的意志與行為,就無法構成任何法律關系。一切存在物,都要經過法律確認才能成為法律主體,法律決定著法律主體的種類。有法律就有法律主體,只是不同的歷史時期和國家對于法律主體的規(guī)定不同。智能機器人能不能成為法律主體,也必須經過法律來確認。

    現代法律的主要表現,就是以人的特征為基礎,抽象出法律主體的概念,從而在法律上抹掉人與人之間的差異,實現對現實中人的法律控制。可以說,這是法律現代化的重要成就,也是法治現代化的必由之路?,F代社會的法律制度已經相當成熟,特別是啟蒙運動以來法哲學思想的發(fā)展,人類依據理性建立的這套法律理念體系,在一段時間內相當牢靠。智能機器人的出現,卻撬動著這套法律理念體系的根基,進而引起法律制度的深刻變革。從目前智能機器人引發(fā)的法律問題來看,變革法律主體理論首當其沖。法律主體理論的變動,往往是法律制度深刻變革的開始。智能機器人給人類帶來了新的法律問題,究其根源,就是現有的法律主體理論難以應對智能機器人導致的法律問題。如果說,以人的抽象為基礎的法律主體理論,可以吸納所有存在物的話,那智能機器人也可以被吸納為法律關系的主體。顯然,僅僅從這個意義上把智能機器人吸納為法律主體,是無法解決智能機器人導致的法律問題的。因為,與其它拓展為法律主體的存在物不同,智能機器人與人的特征高度重合。人類以世界的主宰者自居,智能機器人與人類的關系很可能不再是主仆關系,以人主宰世界為思想基礎建立起來的法律體系,將受到極大沖擊。

    三、智能機器人對法律主體理論的沖擊

    智能機器人給法學研究帶來了機遇與挑戰(zhàn),對濫用的恐懼、對社會不公的恐懼、對機器反撲人類的恐懼……智能機器人無時無刻不沖擊著人類最后的安全防線——法律。智能機器人給法學帶了一系列問題。深入研究這些問題,最關鍵的因素在于智能機器人是否可以成為法律關系參加者,從而享有權利和承擔義務?;厮莘芍黧w的相關理論,智能機器人的出現對建立在啟蒙哲學二元對立思維下以“理性人”為基礎的法律主體制度提出了挑戰(zhàn)。既然,法人可以擬制為法律主體,為什么與人類更為相似的智能機器人就不能呢?智能機器人拓展成為法律關系主體,如果不是必然的至少也是可能的。智能機器人成為法律關系的主體,也會經歷法人成為法律關系主體的類似過程。下面從權利主體、義務主體及責任主體三種角度,分析智能機器人對法律主體理論帶來的沖擊。

    (一)動搖權利主體構造基礎

    可以預見的是,人工智能時代對權利主體構造基礎的沖擊,可能是以往任何時代都不可比擬的?!凹夹g發(fā)展的速度比人類進化的速度要快得多。計算機按照摩爾定律的速度飛速發(fā)展;而人類天生的能力則遵循著達爾文法則,龜速爬行?!盵3]47“法的標準,即法的觀念本身是人?!盵11]490法律主體是法律關系的參加者,主要包括自然人、機構和組織,在特殊情況下國家也可以成為法律關系的主體。[17]“無論建立私法權利的羅馬法時代的古老的人權觀念,還是近現代成為權利制度道德基礎的近現代政治和社會文化中的人權觀念,都是以思考人的主體性需要為前提的?!盵18]現代法律主體的觀念也是建立在啟蒙哲學“理性”觀念對人進行抽象的基礎之上的。這種理性人的形成,極大地促進了人的解放,但作為其代價,“人也因此被拋入了一個從未有過的與整體世界相對立的境地”。[19]作為主體的理性雖試圖主宰一切,也陷入了被一切壓制的悖論之中。智能機器人正在仿效和改變人的概念,從而沖擊權利主體構造基礎。智能機器人作為一個人的類似物出現的時候,這種對立將更加緊張。

    智能機器人的出現,考驗著對人本質的理解。作為法律主體抽象理論的表現,其也可以通過理性抽象,成為法律關系的主體。雖有學者提出,“機器人不是具有生命的自然人,也區(qū)別于具有自己獨立意志并作為自然人集合體的法人,將其作為擬制之人以享有法律主體資格,在法理上尚有商榷之處。”[20]但按照目前的法律主體理論,法律主體具有向其它存在物拓展的可能,即法律主體資格具有開放性?!胺芍黧w資格的開放性,是指在法律關系的邏輯結構上,其主體類型及主體范圍隨社會發(fā)展可以逐漸擴展。”[15]智能機器人發(fā)展成為法律關系主體,如果不是必然的至少也是可能的。法律行為的直接或間接后果,要求我們考慮是“誰”實施了這一行為,作出這一行為的法律主體是否具有責任能力。諸如此類的問題蜂擁而至,其癥結在于智能機器人是不是可以成為法律主體。類似人的這些智能機器人,即使可以成為法律主體,它也應該是一種特殊的受制于倫理章程與法律規(guī)范的主體,不像自然人那樣其主體地位可以先于法律地位存在。但即使智能機器人可以作為權利主體與義務主體,人類要在多大程度上進行讓步,讓智能機器人成為公法上的主體還是私法上的主體,還是和人類一樣擁有相同的權利?這類問題將在法學界引起巨大爭議。

    權利主體是權利的擁有者和行使者。擁有不等同于行使,擁有在某種意義上是一種資格,行使則是將法定的權利作用于社會現實。法律主體資格發(fā)揮著規(guī)范市民生活并分配社會生活資源兩方面的功能。對于權利主體而言,更為重要的是體現為權利行使。法律主體資格要求法律主體必須具有“實體”要素,包括作為人類社會成員的生物人、以生物人和財產為核心要素的組織體和以目的性財產為核心要素的組織體三種。由此來看,智能機器人至少還無法納入到這三種核心要素當中。如果要給智能機器人一個合理的法律主體定位,必須對“實體”要素做出變動。隨著智能機器人技術快速發(fā)展,必須回到人本身來思考法律主體理論面臨的困境?;貧w人類的本質,已成為一種不可阻擋的時代趨勢。身體哲學和倫理學的快速興起,成為其最具代表性的現象。人本質的回歸,對抽象理性人的法律主體理論的背離,使自然、他人和社會一道共同推動了法律主體理論觀念的更新。

    (二)反叛基于人的義務

    從現有的觀念上來看,法律義務主體一定是人。“所謂義務主體,也就是按照法律規(guī)定應該從事某類行為的人?!盵21]有法律權利,才會有法律義務,“法律主體的角色在法律上表現為權利主體和義務主體”。[22]現如今,是否賦予智能機器人法律權利尚未可知,討論其對義務主體的影響是否過早?“法律制度總是滯后的,但是關于法律問題的思考應該是前瞻的?!敝悄軝C器人的制造,出于服務于人類生活的目的,可以預見的是未來會有越來越多的機器人進入人類的生活領域。即使將來的法律沒有賦予智能機器人法律主體的地位,那么它一定不會成為義務主體嗎?“2016年11月,在深圳舉辦的第十八屆中國國際高新技術成果交易會上,一臺名為小胖的機器人突然發(fā)生故障,在沒有指令的情況下,自行打砸展臺玻璃,砸壞了部分展臺,并導致一人受傷?!盵23]由此可見,未來智能機器人,或多或少的會成為人類權利行使的障礙,如此,智能機器人如果不納入義務主體的范疇,很可能阻礙權利的行使。

    權利主體是被法律賦權的主體,有權根據自己的選擇自主決定為或不為某種行為。義務主體被法律所約束、限制,依據法律不為某種行為。如果智能機器人在沒有被賦予相關權利的情況下需要承擔義務,這就使法律權利與法律義務對應的理論陷入了矛盾。雖然沒有無權利的義務,也沒有無義務的權利,但是實際上義務是保障權利行使的關鍵??梢哉f,權利主體每一次行使權利,必須有相應的義務主體,義務主體相對于權利主體來說更為弱勢。智能機器人與人類應是和諧共處的狀態(tài),在保證人類安全的情況下,才能進行開發(fā)和應用。所以智能機器人的行為,不能妨礙人法律權利的行使,即使在它沒有成為法律主體的情況下,也要承擔相應義務。在將來的社會中,可能不僅我們要處理人與智能機器人的問題,還要處理智能機器人與智能機器人之間的問題。在兩個智能機器人之間形成哪種關系,也是必須慎重思考的問題。

    (三)解構責任主體

    法律責任是違反法律而產生的法律義務?!叭绻麢C器人擁有了某些權利,就應該對自己的行為負責。”[24]一個真正意義上的法律主體,必須有能力對自己的行為負責,這是法律責任的預設。法律責任本身構成了法律主體的關鍵因素,被視為法律主體的存在物不僅享有權利、履行義務,同時還能對自己的行為負責,承擔相應的法律后果。所以離開了法律責任,法律主體的規(guī)定就沒有了意義。智能機器人如果沒有被認定為法律主體,那基于“意識”而存在的智能機器人,它至少很難歸屬于我們目前所認為的法律關系客體。從這個意義上講智能機器人的出現對于法學經典行為理論“主體—行為—客體”三要素理論帶來了極大的沖擊。如果不確認智能機器人的法律主體地位,它實施的侵權行為,是其主人的行為,還是它的行為?

    智能機器人是否可以成為法律關系的主體暫且不論,問題是智能機器人作為有可能侵害人類人身安全和財產安全的施害者,它有沒有承擔責任的能力。按照法律責任的相關理論,法律責任由施害者承擔。如果不讓智能機器人承擔責任,這種責任理論就面臨著解構的風險。但是如果讓智能機器人承擔責任,那么在何種意義上它是有責任能力的,它責任承擔的方式視為財產形式,還是其它類型?況且它有可能不是法律主體,沒有理論依據讓其對自己的行為承擔責任。如果不讓其負責,那么誰要為它的行為負責呢?它的主人可以是制造者、銷售者、使用者或者是第三方服務平臺,與以往的法律關系相比智能機器人侵權更加復雜,如果智能機器人不負法律責任,可能會牽涉到多方的法律責任主體,并且難以確定。此外,智能機器人之間的侵權行為,如何承擔責任?況且智能機器人有可能超出人的控制,進行施害行為,僅僅處罰其主人,是否可以達到懲罰的效果?所以整個責任理論基礎,面臨著解構的風險。

    四、法律主體理論的重新構造

    (一)理念基礎的回歸:審視人的主體理論基礎

    智能機器人之所以給我們帶來這么多的思考,是因為它的出現動搖了何為人本質的這個概念。人類無數次設想過有可以比擬人的存在,但之前的每一次設想都沒有智能機器人給我們帶來的感受這么深切。人類對人本身的概念模糊了,陷入了一種不自信的狀態(tài)??梢哉f很多人都陷入了懷疑論的立場。不以法律規(guī)制智能機器人的發(fā)展,可能會促使重新定義人類的概念,人類的存在形式有可能發(fā)生不可逆轉的變化。人類是要保持現在的人類概念,還是要革新到無所謂“人”、無所謂“物”的年代?麻省理工學院、劍橋和伯克利等機構都警告說人工智能會變得如此聰明,以至于超越人,這些設備可能反對他們制造并接管世界,如果不是破壞世界的話。[6]顯然,人類還沒有做好改變人的本質的準備,仍然認為由細胞組成的有血有肉的人的本質是一切社會關系的總和。如果想要保持人的概念不變,人類必須保持自信,并清醒地認識自己。

    雖然法律主體基于人的抽象是必要的,但是過于對人抽象導致的弊端也逐漸顯現出來。特別是智能機器人出現以后,仍然過度地考慮法律主體是人的抽象的理性人的理念,可能會陷入法律主體認定的困境?!靶问街髁x的唯理性無休止的增長直至成為一種系統(tǒng)的唯理性,可它必然會達到一個頂峰,然后物極必反地向下滑落?!盵25]8在理解法律主體概念的時候,必須考慮人的其它面相,以更多地區(qū)別于智能機器人。如果仍然僅僅把人視為理性的過于抽象的法律主體,那么作為人的其它面相就消失了。應該回到人的本質,更多地參考人的多個面相,構建法律主體的理論基礎。人不是僅僅具有身體的一個實體存在,同時也是向他者、與他者共性的存在。智能機器人可以成為法律主體的話,基于我們目前的理解,它也應該是一種法律擬制主體。顯然,承認智能機器人的公法主體地位是十分困難的,智能機器人成為私法上的主體是可以預見的事情。馬克思曾指出:“社會不是以法律為基礎,那是法學家的幻想。相反,法律應該以社會為基礎?!盵26]291隨著智能機器人帶來的社會變遷,我們的法律主體理論也必須做出相應的變化。如果理不清法律主體理論的基礎,由智能機器人引發(fā)的災難將是人類難以想象的。

    人類的發(fā)展是一個不斷超越自我的過程,超越著所有世界的認知?!白鳛橐粋€在實體和關系向度共同作用下的歷史的存在,人的存在并不是盲目的,也不是純利己的,而是有著不斷趨向于自我超越和完滿,趨向于類的共同本質的實現的公共性?!盵24]為了實現人類的自我超越,實現人類共同本質的公共性,必須回到人作為人的本質的場域。人和智能機器人肯定是不同的存在,為迎接智能機器人對人類的挑戰(zhàn),必須回到人類本身,來思考人類自身的問題,以此來區(qū)分作為法律主體的人和很有可能成為法律主體的智能機器人?!艾F在所有人工智能仍屬于在‘圖靈測試’概念下界定的‘智能’,無論是將要盛行的根據神經網絡算法的翻譯程序,亦或是基于量子計算理論的各種模型,在未來很長時間內都將是從屬于人類的工具?!盵27]只要人類依然是處于政治社會中擁有意識,并由血液細胞組成的肉身,那么人類和智能機器人就存在區(qū)別,人類必須牢牢掌握自身區(qū)別于智能機器人的特征。

    (二)法律主體類型思維的破解:全方位思考法律主體理論

    現代的一個記號是,它總是從一個極端走向另一個極端,另一個記號是,它必然將一切都加以區(qū)分,如真理,法權也是如此[25]8。法律主體理論過于強調理性人的抽象,就會落入這種極端,陷入啟蒙運動導致的黑夜之中?,F代法律主體理論的這種抽象,使法律主體成為了符合以人為鏡像抽象出來的某些特征的類型。法律主體的這種類型化特征,為人類提供了一個法律主體的開放視域。在這種視域內,任何類人的存在物,都可能被我們經驗為符合法律主體特征,從而獲得法律主體地位。雖然這種經驗可能包含著某種歷史性、指涉法律主體將來的無限可能性。但是這種類型化的抽象,從誕生之日就遭遇到了一種不幸,即法律主體無休止的類型化拓展。法律主體的這種開放性的拓展特征,奠定了法律主體理論的堅實基礎,也使其自身陷入了泥潭當中。隨著社會的發(fā)展,過于類型化的主體理論可能不太適用,而人與物的本質的區(qū)別也可能喪失。

    智能機器人的出現使得人類重新思考法律主體范圍的擴展或變遷,跳出原有的類型化法律主體思維,以全方位、多角度的思維去思考法律主體理論。用全方位的方法思考法律主體理論,可以深刻把握智能機器人內部構造,促進法律主體價值及倫理觀念的變革,重新回到人作為人的本質,為法律主體理論的構造提供一種更為豐富的理念基礎。在此基礎上,全方位的方法論意義上的變革也是可能的。根植于啟蒙哲學的二元對立的法律主體地位的構造,導致了人與一切他者的對立?;貧w人的本質,讓我們更多去思考人與其它事物的關系?!瓣P系的基本特性是相互性,作為關系的一方,任何關系項都不可能是獨立存在的?!盵28]智能機器人的出現,更加凸顯這種關系的相互性,人的活動與智能機器人的活動內在關聯在一起,人的發(fā)展都處于與其它事物的整體聯系之中。在重新思考人的法律主體的定位時,應既強調與人作為法律主體相關的各要素之間的聯系,又要重視各要素之間的區(qū)別,并考慮各要素之間的關系變化,從而更好實現作為法律主體的人與現實中的人的結合。

    智能機器人的出現,使人類必須回歸全方位的思考方法,思考人與智能機器人的關系,在區(qū)分人與智能機器時,既要看到二者之間的聯系,又要看到二者之間的區(qū)別。突出人的主導地位的同時,更要反映人的價值與追求,也不能忽視智能機器人的社會價值。人在維護自己的利益,實現對自己超越的同時,也應該注重其它事物的發(fā)展。“如果一個社會沒有經濟增長,那是因為沒有為經濟創(chuàng)新提供刺激。”[29]4國家要促進智能機器人的發(fā)展,就要為它的發(fā)展提供一種有效刺激。除非符合智能機器人的法律定位是有效率的,否則智能機器人的快速發(fā)展不會簡單發(fā)生。如果在智能機器人領域沒有形成一種新的變化,那就是法律制度沒有為智能機器人的發(fā)展提供創(chuàng)新刺激。一種良好的法律刺激機制,應該建立在全方位思考法律主體理論的基礎之上。厘清人與智能機器人的不同之處,智能機器人能不能成為法律主體暫且不論,法律必須對其進行明確定位,一種模糊的界定很難促進其發(fā)展。20世紀50年代伊林沃思·萊斯筆下的那幅“自動化”漫畫依然警醒著我們,必須處理好人與智能機器的關系。

    (三)立法路徑的重構:雙軌制的法律主體地位構造

    任何科學技術的發(fā)展都不是以人的意志為轉移的,智能機器人作為一種新的科學技術,如果我們拒絕,必將被歷史的車輪甩在后邊。智能機器人對大多數人來說都是陌生的,甚至是令人恐懼的。法律不應該筑高墻,而應該為人工智能技術保駕護航。應以法律規(guī)制智能機器人的發(fā)展,透視其引起的法律主體理論的變動,并以法律的形式把它確認下來。“科學技術的發(fā)展甚至會促使一套全新的制度發(fā)生。例如,近代以來關于商業(yè)秘密或專利的知識產權保護制度。”[30]隨著智能機器人的不斷進步,勢必會產生一系列適用智能機器人的具有普遍性和強制性的規(guī)則,而人工智能技術的發(fā)展也勢必會對法律的制定和實施產生深刻影響。要在重新思考法律主體理論的基礎上,推進關于智能機器人的立法。縱覽我國現行的所有法律,我們還沒有關于人工智能機器人立法的相關規(guī)定,如何在法律中安置智能機器人,已經成為我們必須面對的社會問題。

    智能機器人能不能成為我國現有的法律主體暫且不論,但是至少應該在智能機器人內部形成一套規(guī)則,一種具有強制力的規(guī)則,并上升為法律,至少在這個層面,智能機器人應該成為法律規(guī)制的對象,成為法律關系的主體。規(guī)范智能機器人的法律,是適用二元架構的法律類型,還是一元架構的法律類型,在做出選擇的時候,我們必須思考發(fā)展人工智能技術的目的。真正的智慧應該服務于社會、服務于人類,而不是成為人類的對手。這就需要制定二元架構的法律類型。二元架構的法律類型才能形成智能機器人自身的價值體系?!叭斯ぶ悄芊杉染哂幸话惴▋r值的構成要素,又有著其特殊法的價值內容,從而形成自身的法價值體系?!盵20]必須加快推進二元架構的智能機器人立法,填補立法領域的空白。從社會事實來看,制定人工智能的法律時機已經逐漸成熟,可以先制定一個原則性的法律,從基本原則、基本制度上規(guī)范智能機器人的發(fā)展。例如,《機器人倫理憲章》《歐盟機器人民事法律規(guī)則》從原則上對人工智能技術做出規(guī)定。然后相應的法律部門,結合不同的人工智能技術帶來的法律現象,做出相應的制度規(guī)定。從目前人工智能技術的發(fā)展來看,其也是由一個領域逐漸延伸到其它領域。因此,逐漸結合人工智能在相關領域可能發(fā)生的問題,在對法律理論思考的基礎上,制定原則性的規(guī)定,及時對具體的法律規(guī)定做出調整,是人工智能立法的可循之路。

    結語

    智能機器人引發(fā)的諸多法學困境,其實都可以歸結為對法律主體理論的沖擊。如何建構一個良好的法律主體理論,成為當下思考智能機器人問題的重要議題。智能機器人出現以后,建立在啟蒙哲學“理性”觀念對人進行抽象基礎之上的法律主體理論受到了極大挑戰(zhàn)。隨著歷史的發(fā)展,其固有的弊端已經充分顯現。人類的自然權利是一個自我發(fā)現的過程,而智能機器人的權利卻需要通過賦權的形式獲得。智能機器人不同程度地解構著構成法律主體要素的權利主體、義務主體和責任主體。法律要為智能機器人的發(fā)展提供有效創(chuàng)新激勵,就必須正確回應智能機器人對法律主體理論帶來的諸多挑戰(zhàn)。必須回到人本身,豐富人的多個面相,以區(qū)別于智能機器人,跳出法律主體的類型化思維,采用全方位的方法思考人與智能機器的關系,并通過制定法律做出相應調整。在不遠的將來,一種二元架構的法律類型是可期的。

    猜你喜歡
    權利主體機器人
    論自然人破產法的適用主體
    南大法學(2021年3期)2021-08-13 09:22:32
    我們的權利
    論不存在做錯事的權利
    法大研究生(2018年2期)2018-09-23 02:19:50
    關于遺產保護主體的思考
    權利套裝
    Coco薇(2015年12期)2015-12-10 02:43:39
    機器人來幫你
    認識機器人
    機器人來啦
    認識機器人
    論多元主體的生成
    亚洲经典国产精华液单 | 免费观看精品视频网站| 国产一区二区在线av高清观看| 永久网站在线| 日韩大尺度精品在线看网址| 中文字幕精品亚洲无线码一区| 久久久久久大精品| 深夜a级毛片| 国产精品一区二区三区四区免费观看 | 欧美午夜高清在线| av在线蜜桃| 在线播放国产精品三级| 97热精品久久久久久| 在线观看一区二区三区| 欧美+亚洲+日韩+国产| 国产一级毛片七仙女欲春2| 国产精品人妻久久久久久| 丰满人妻熟妇乱又伦精品不卡| 很黄的视频免费| 久久久久久久精品吃奶| 亚洲精品亚洲一区二区| 少妇的逼水好多| 午夜激情福利司机影院| 性色avwww在线观看| 丝袜美腿在线中文| 精品一区二区免费观看| 精品人妻偷拍中文字幕| 在线天堂最新版资源| 亚洲中文日韩欧美视频| 亚洲人成网站高清观看| 国产av一区在线观看免费| 精品日产1卡2卡| 亚洲黑人精品在线| 色吧在线观看| 亚洲自拍偷在线| 亚洲专区中文字幕在线| 精品国内亚洲2022精品成人| 久久99热6这里只有精品| 最近最新免费中文字幕在线| 国产精品自产拍在线观看55亚洲| 高清日韩中文字幕在线| 国产午夜精品久久久久久一区二区三区 | 亚洲成人久久爱视频| 啪啪无遮挡十八禁网站| 久久精品国产清高在天天线| 悠悠久久av| 搞女人的毛片| 老女人水多毛片| 国内精品久久久久久久电影| 天天躁日日操中文字幕| 麻豆国产97在线/欧美| 欧美在线黄色| 精品国产亚洲在线| netflix在线观看网站| 高清在线国产一区| 99精品久久久久人妻精品| 国产高清有码在线观看视频| 天堂√8在线中文| 美女大奶头视频| 久久热精品热| 波野结衣二区三区在线| 看片在线看免费视频| 午夜福利成人在线免费观看| 1024手机看黄色片| 色播亚洲综合网| 国产黄色小视频在线观看| 热99在线观看视频| 日本与韩国留学比较| 欧美日韩综合久久久久久 | 有码 亚洲区| 国产精品久久久久久精品电影| 国内揄拍国产精品人妻在线| 久久久久久久久中文| 一本精品99久久精品77| 淫妇啪啪啪对白视频| 国产成人av教育| 午夜福利视频1000在线观看| 中亚洲国语对白在线视频| 欧美性感艳星| 国产精品日韩av在线免费观看| 久久精品国产亚洲av香蕉五月| 久久人人精品亚洲av| 精品久久久久久,| 亚洲欧美日韩无卡精品| 在线观看av片永久免费下载| 精品福利观看| 九九在线视频观看精品| 伦理电影大哥的女人| 亚洲最大成人中文| 757午夜福利合集在线观看| 亚洲va日本ⅴa欧美va伊人久久| 成年版毛片免费区| 人妻制服诱惑在线中文字幕| 国产大屁股一区二区在线视频| 99久国产av精品| 精品午夜福利视频在线观看一区| 亚洲精品456在线播放app | 欧美午夜高清在线| 人人妻,人人澡人人爽秒播| 每晚都被弄得嗷嗷叫到高潮| 精品一区二区三区视频在线观看免费| 欧美最新免费一区二区三区 | 亚洲 国产 在线| 国产黄片美女视频| 好看av亚洲va欧美ⅴa在| 亚洲一区二区三区不卡视频| 精品人妻一区二区三区麻豆 | 真人一进一出gif抽搐免费| 国产精品自产拍在线观看55亚洲| 国产高清视频在线观看网站| 少妇丰满av| 久久欧美精品欧美久久欧美| 国产一级毛片七仙女欲春2| 黄色一级大片看看| 18+在线观看网站| 国产精品国产高清国产av| 蜜桃久久精品国产亚洲av| 久久99热6这里只有精品| 可以在线观看的亚洲视频| 亚洲欧美激情综合另类| 成年人黄色毛片网站| 麻豆成人午夜福利视频| 国产成人aa在线观看| 桃色一区二区三区在线观看| 禁无遮挡网站| 亚洲欧美清纯卡通| 最近最新免费中文字幕在线| 亚洲精品久久国产高清桃花| 禁无遮挡网站| 99在线视频只有这里精品首页| 国产欧美日韩一区二区精品| 日韩有码中文字幕| 国产视频内射| 亚洲精品456在线播放app | 国产一区二区三区在线臀色熟女| 久久精品国产清高在天天线| 丰满的人妻完整版| 国产成年人精品一区二区| 一二三四社区在线视频社区8| 亚州av有码| 日本精品一区二区三区蜜桃| 五月玫瑰六月丁香| 亚洲精品粉嫩美女一区| av在线天堂中文字幕| 久久亚洲真实| 麻豆成人午夜福利视频| 亚洲成人久久爱视频| 亚洲欧美清纯卡通| 男插女下体视频免费在线播放| 国产成人影院久久av| 中文字幕精品亚洲无线码一区| 国产单亲对白刺激| 男人狂女人下面高潮的视频| aaaaa片日本免费| 非洲黑人性xxxx精品又粗又长| 国产成人av教育| 欧美色欧美亚洲另类二区| 久久精品国产99精品国产亚洲性色| 又爽又黄无遮挡网站| 亚洲精品乱码久久久v下载方式| 午夜久久久久精精品| 欧美潮喷喷水| 欧美+日韩+精品| 9191精品国产免费久久| 在线国产一区二区在线| 人人妻人人看人人澡| 日韩国内少妇激情av| 欧美日韩瑟瑟在线播放| 国产在线男女| 欧美高清成人免费视频www| 在线观看舔阴道视频| 日韩欧美在线乱码| 韩国av一区二区三区四区| 成年版毛片免费区| 久久精品91蜜桃| 精品一区二区三区视频在线观看免费| 婷婷精品国产亚洲av在线| 高清日韩中文字幕在线| 精品午夜福利在线看| www.999成人在线观看| 久久精品综合一区二区三区| 极品教师在线免费播放| 夜夜爽天天搞| 好男人在线观看高清免费视频| 桃红色精品国产亚洲av| 国产精华一区二区三区| 美女高潮的动态| 乱码一卡2卡4卡精品| 日韩欧美在线乱码| 成人国产综合亚洲| 欧美不卡视频在线免费观看| 看十八女毛片水多多多| av在线蜜桃| 精品国产三级普通话版| 国产亚洲欧美在线一区二区| 午夜亚洲福利在线播放| 一夜夜www| 国产精华一区二区三区| 99久久精品国产亚洲精品| bbb黄色大片| 免费在线观看成人毛片| 久久国产精品人妻蜜桃| 久久久久久久久中文| 国产精品国产高清国产av| 日日摸夜夜添夜夜添av毛片 | 成人性生交大片免费视频hd| 亚洲黑人精品在线| 亚洲狠狠婷婷综合久久图片| 久久久成人免费电影| 国产精品一区二区三区四区久久| 一二三四社区在线视频社区8| 制服丝袜大香蕉在线| www.www免费av| 美女 人体艺术 gogo| 亚洲男人的天堂狠狠| 淫妇啪啪啪对白视频| 亚洲久久久久久中文字幕| 国产综合懂色| 伊人久久精品亚洲午夜| 国产精品98久久久久久宅男小说| 欧美区成人在线视频| 老熟妇仑乱视频hdxx| 人人妻人人澡欧美一区二区| avwww免费| 国产91精品成人一区二区三区| 变态另类丝袜制服| 欧美性感艳星| 亚洲精品久久国产高清桃花| 精品人妻熟女av久视频| 国产v大片淫在线免费观看| 又黄又爽又刺激的免费视频.| a级一级毛片免费在线观看| 国产精品99久久久久久久久| 免费av不卡在线播放| 成人av一区二区三区在线看| 久久精品国产亚洲av香蕉五月| 亚洲国产欧美人成| 美女cb高潮喷水在线观看| 一级作爱视频免费观看| 国产久久久一区二区三区| 欧美高清成人免费视频www| 成人国产综合亚洲| 日本黄大片高清| 深夜a级毛片| 精品久久国产蜜桃| 午夜福利视频1000在线观看| 久久久久精品国产欧美久久久| a级一级毛片免费在线观看| 国产精品98久久久久久宅男小说| 美女大奶头视频| 国产精品精品国产色婷婷| 一本一本综合久久| 亚洲人成网站在线播| 真人做人爱边吃奶动态| 搡老熟女国产l中国老女人| 国产毛片a区久久久久| 女同久久另类99精品国产91| 99国产极品粉嫩在线观看| 欧美黄色片欧美黄色片| 亚洲av第一区精品v没综合| 精品欧美国产一区二区三| 精品人妻熟女av久视频| 国产在线精品亚洲第一网站| 91狼人影院| 国产精品嫩草影院av在线观看 | av在线蜜桃| 免费看a级黄色片| 五月伊人婷婷丁香| 九九久久精品国产亚洲av麻豆| 在线观看66精品国产| 黄色日韩在线| 欧美激情久久久久久爽电影| 欧美精品啪啪一区二区三区| 欧美日韩黄片免| 麻豆成人av在线观看| 午夜两性在线视频| 国产爱豆传媒在线观看| av中文乱码字幕在线| www日本黄色视频网| 国产免费一级a男人的天堂| 在线观看一区二区三区| 国产精品三级大全| 久久久久九九精品影院| 欧美xxxx性猛交bbbb| 男女那种视频在线观看| 国产成人a区在线观看| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 能在线免费观看的黄片| 亚洲成人久久爱视频| 国产日本99.免费观看| 美女高潮的动态| 欧美日韩亚洲国产一区二区在线观看| 欧美高清性xxxxhd video| 中文在线观看免费www的网站| 特级一级黄色大片| 欧美日韩瑟瑟在线播放| av在线蜜桃| 久久精品夜夜夜夜夜久久蜜豆| 欧美精品国产亚洲| 欧美日韩中文字幕国产精品一区二区三区| 欧美日本亚洲视频在线播放| 九色成人免费人妻av| 麻豆国产97在线/欧美| 欧美成人a在线观看| 国产视频内射| av专区在线播放| 国产精品99久久久久久久久| 午夜免费成人在线视频| 国产精品免费一区二区三区在线| 欧美一区二区国产精品久久精品| 欧美成人a在线观看| 欧美一区二区亚洲| 成人午夜高清在线视频| 少妇裸体淫交视频免费看高清| 日本一二三区视频观看| 欧美日韩福利视频一区二区| 国内久久婷婷六月综合欲色啪| 老司机深夜福利视频在线观看| 国产亚洲精品久久久久久毛片| 久久中文看片网| 九九热线精品视视频播放| 女人十人毛片免费观看3o分钟| 国产精品免费一区二区三区在线| 欧美午夜高清在线| 亚洲黑人精品在线| 欧美xxxx黑人xx丫x性爽| 精品一区二区三区视频在线| 成年免费大片在线观看| 亚洲在线自拍视频| 少妇高潮的动态图| 日韩人妻高清精品专区| 亚洲中文字幕一区二区三区有码在线看| 三级国产精品欧美在线观看| 高清日韩中文字幕在线| 国产高清视频在线观看网站| 制服丝袜大香蕉在线| 午夜免费激情av| 国产成人啪精品午夜网站| 麻豆一二三区av精品| 黄色一级大片看看| 91av网一区二区| 久久久久久大精品| 日韩欧美免费精品| 免费在线观看亚洲国产| 一级av片app| 国产亚洲精品综合一区在线观看| 少妇熟女aⅴ在线视频| 精品一区二区三区视频在线观看免费| 男女做爰动态图高潮gif福利片| 国产一区二区在线av高清观看| 午夜亚洲福利在线播放| 久久九九热精品免费| 乱码一卡2卡4卡精品| 色5月婷婷丁香| 国产精品久久久久久久电影| av中文乱码字幕在线| 热99在线观看视频| 欧美激情在线99| 亚洲av电影不卡..在线观看| 成人美女网站在线观看视频| 国产免费男女视频| 九九在线视频观看精品| 热99在线观看视频| 亚洲最大成人av| 国产精品美女特级片免费视频播放器| 亚洲久久久久久中文字幕| 国产精品亚洲美女久久久| 亚洲片人在线观看| 久久精品国产清高在天天线| 中文字幕人成人乱码亚洲影| 国产精品免费一区二区三区在线| 亚洲国产精品成人综合色| 亚洲美女搞黄在线观看 | 99国产精品一区二区三区| 色哟哟哟哟哟哟| 有码 亚洲区| 夜夜爽天天搞| 老司机午夜福利在线观看视频| 一本综合久久免费| av在线蜜桃| 免费av毛片视频| 中国美女看黄片| 中文在线观看免费www的网站| 三级男女做爰猛烈吃奶摸视频| 在线a可以看的网站| 国产精品,欧美在线| 欧美成人a在线观看| 亚洲久久久久久中文字幕| 午夜视频国产福利| 悠悠久久av| 变态另类丝袜制服| 午夜福利视频1000在线观看| 亚洲国产精品久久男人天堂| 国产伦精品一区二区三区四那| 免费在线观看影片大全网站| or卡值多少钱| 热99re8久久精品国产| 国产aⅴ精品一区二区三区波| 白带黄色成豆腐渣| 亚洲av免费在线观看| 丝袜美腿在线中文| 人妻久久中文字幕网| 中文字幕高清在线视频| 99国产极品粉嫩在线观看| 国产精品,欧美在线| 欧美成人a在线观看| 91麻豆av在线| 在线十欧美十亚洲十日本专区| 精品一区二区三区人妻视频| 日韩中字成人| 乱人视频在线观看| 国产精品久久久久久久久免 | 国产伦在线观看视频一区| 12—13女人毛片做爰片一| 久久精品影院6| 欧美xxxx性猛交bbbb| 国产探花在线观看一区二区| 亚洲中文字幕日韩| 热99在线观看视频| 美女cb高潮喷水在线观看| 如何舔出高潮| 国产精品亚洲美女久久久| 欧美bdsm另类| 欧美性猛交黑人性爽| 夜夜爽天天搞| 欧美成人免费av一区二区三区| 看黄色毛片网站| 国产精品久久久久久久电影| 精品久久久久久久久亚洲 | 成人美女网站在线观看视频| 国产精品1区2区在线观看.| 日韩精品青青久久久久久| 国产一区二区在线av高清观看| 国产真实乱freesex| 成人欧美大片| 一个人看的www免费观看视频| 日本五十路高清| 一个人免费在线观看的高清视频| 又粗又爽又猛毛片免费看| 国产一区二区激情短视频| 最近在线观看免费完整版| 国产精品乱码一区二三区的特点| 精品乱码久久久久久99久播| 男人的好看免费观看在线视频| 欧美国产日韩亚洲一区| 国产精品综合久久久久久久免费| 综合色av麻豆| 中文字幕人妻熟人妻熟丝袜美| 国产精品久久久久久久电影| 亚洲18禁久久av| 老熟妇仑乱视频hdxx| 99精品在免费线老司机午夜| 在线a可以看的网站| 亚洲美女黄片视频| 最近最新免费中文字幕在线| 中文在线观看免费www的网站| 99国产极品粉嫩在线观看| 亚洲av第一区精品v没综合| 淫妇啪啪啪对白视频| 国产一级毛片七仙女欲春2| 99热只有精品国产| 男人和女人高潮做爰伦理| 国产成人a区在线观看| 免费在线观看影片大全网站| 哪里可以看免费的av片| 91久久精品国产一区二区成人| 国产探花在线观看一区二区| 国产高清视频在线播放一区| 亚洲国产欧美人成| 国产中年淑女户外野战色| 一本综合久久免费| 黄片小视频在线播放| 精品一区二区三区视频在线| 日日摸夜夜添夜夜添小说| 我的老师免费观看完整版| 免费大片18禁| 国产精品伦人一区二区| 在线十欧美十亚洲十日本专区| 亚洲av美国av| 亚洲成av人片免费观看| 一个人看视频在线观看www免费| 久久人人精品亚洲av| 我要搜黄色片| 最近最新免费中文字幕在线| 国产在视频线在精品| 婷婷亚洲欧美| 日本 av在线| www.www免费av| 高清在线国产一区| 国产精品影院久久| 免费观看人在逋| 如何舔出高潮| 久久久久久九九精品二区国产| 久久久久久大精品| 99久久精品国产亚洲精品| 91午夜精品亚洲一区二区三区 | 国产av一区在线观看免费| 动漫黄色视频在线观看| 观看美女的网站| 老司机福利观看| 久久国产精品影院| 嫩草影院精品99| 午夜福利成人在线免费观看| 日韩国内少妇激情av| 国产三级黄色录像| bbb黄色大片| 成人永久免费在线观看视频| 有码 亚洲区| 精品99又大又爽又粗少妇毛片 | 高清毛片免费观看视频网站| 男女那种视频在线观看| 五月伊人婷婷丁香| 最近最新免费中文字幕在线| 亚洲在线观看片| 国产蜜桃级精品一区二区三区| 男插女下体视频免费在线播放| 亚洲最大成人中文| 88av欧美| 高清在线国产一区| 精品人妻偷拍中文字幕| 国产精品自产拍在线观看55亚洲| 国产精品亚洲av一区麻豆| 精品福利观看| 国产精品自产拍在线观看55亚洲| 欧美成人免费av一区二区三区| 亚洲精品一卡2卡三卡4卡5卡| 在线观看美女被高潮喷水网站 | 亚洲人成伊人成综合网2020| 亚洲一区二区三区色噜噜| 欧美日韩中文字幕国产精品一区二区三区| 色视频www国产| 亚洲精品一卡2卡三卡4卡5卡| 亚洲精品色激情综合| 国产美女午夜福利| 欧美三级亚洲精品| 我要看日韩黄色一级片| 国产精品伦人一区二区| 日本黄色视频三级网站网址| 两个人视频免费观看高清| 人妻丰满熟妇av一区二区三区| 少妇人妻一区二区三区视频| 久久久久性生活片| 三级男女做爰猛烈吃奶摸视频| 久久久久久久久久黄片| 一级作爱视频免费观看| 精品日产1卡2卡| 最好的美女福利视频网| 制服丝袜大香蕉在线| 老司机福利观看| 一进一出抽搐gif免费好疼| 国产精品嫩草影院av在线观看 | 久久精品久久久久久噜噜老黄 | 偷拍熟女少妇极品色| 婷婷丁香在线五月| 九色成人免费人妻av| 日韩欧美精品免费久久 | 国产色婷婷99| 此物有八面人人有两片| 在现免费观看毛片| 91狼人影院| 久久久久久久久大av| 成熟少妇高潮喷水视频| 亚洲成人久久性| 国产亚洲av嫩草精品影院| 熟妇人妻久久中文字幕3abv| 综合色av麻豆| 99热这里只有精品一区| 成人三级黄色视频| 欧美乱妇无乱码| 精品不卡国产一区二区三区| 欧美性猛交╳xxx乱大交人| 日韩欧美国产在线观看| 色噜噜av男人的天堂激情| 午夜免费激情av| 欧美+日韩+精品| 色哟哟·www| 亚洲精品乱码久久久v下载方式| 国产乱人视频| 最近在线观看免费完整版| 天天一区二区日本电影三级| 国产一区二区三区视频了| 美女cb高潮喷水在线观看| 亚洲三级黄色毛片| 3wmmmm亚洲av在线观看| 久99久视频精品免费| av在线蜜桃| 欧美激情在线99| 又黄又爽又免费观看的视频| 欧美性猛交黑人性爽| 麻豆一二三区av精品| 亚洲专区国产一区二区| 综合色av麻豆| 国产成人啪精品午夜网站| 最新中文字幕久久久久| 午夜激情欧美在线| 小说图片视频综合网站| www.www免费av| 可以在线观看毛片的网站| 天堂动漫精品| 99热这里只有是精品在线观看 | 成人一区二区视频在线观看| 天堂√8在线中文| 亚洲精品456在线播放app | bbb黄色大片| 国产av在哪里看| 99riav亚洲国产免费| 亚洲欧美日韩东京热| 哪里可以看免费的av片| 日本在线视频免费播放| 日本与韩国留学比较| 国模一区二区三区四区视频| 久久久久免费精品人妻一区二区| 男人舔女人下体高潮全视频| 美女 人体艺术 gogo| av福利片在线观看|