• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法律人格問題的思考

    2019-03-03 03:05:39唐辰明
    云南社會科學(xué) 2019年6期
    關(guān)鍵詞:主體人工智能法律

    唐辰明

    2017年作為“人工智能年”,引發(fā)了社會各界對于人工智能的一系列展望和擔(dān)憂。無論是無人駕駛責(zé)任問題、機(jī)器人創(chuàng)作物問題,還是數(shù)據(jù)歧視與隱私侵權(quán)等問題,都體現(xiàn)了人工智能體法律人格方面的爭議。智能機(jī)器人能不能具有法律意義上的“人格”?如果答案是肯定的,也許會藉由其強(qiáng)力的數(shù)據(jù)廣度和計算能力一舉成為“超人類”并引發(fā)一系列安全問題、倫理問題與道德問題等;如果答案是否定的,那么一些高智能機(jī)器人可能會因此逃避一系列責(zé)任,亦或相反,高智能機(jī)器人可能會因為法律地位不明而受到基本權(quán)利方面的侵害。從宏觀角度看,人工智能技術(shù)一方面提高了人類的行為效率,在生產(chǎn)、社會管理等多個領(lǐng)域都體現(xiàn)出其強(qiáng)大的生命力和應(yīng)用潛能;另一方面,也體現(xiàn)出了新技術(shù)對人類“意識”層面上的突破,無論從傳統(tǒng)的生產(chǎn)機(jī)器人到機(jī)器人撰寫詩歌,還是從普通的算法到阿爾法狗下棋,都凸顯了人工智能技術(shù)這一無法避免和阻攔的趨勢,并開始了從“行為”到“意識”的發(fā)展。傳統(tǒng)的法律規(guī)則與理論似乎已經(jīng)不足以對人工智能體人格與法律定位問題進(jìn)行有效調(diào)整,同時社會各領(lǐng)域都對這類人格問題提出了完善訴求,使得人工智能體的人格認(rèn)定、法律定位等問題被提高到了十分重要的位置。①郭寧:《“互聯(lián)網(wǎng)+”時代背景下人工智能面臨的法律挑戰(zhàn)》,《特區(qū)經(jīng)濟(jì)》2018年第8期。

    人工智能技術(shù)的發(fā)展,對整個社會的不同領(lǐng)域、不同群體都產(chǎn)生了諸多影響,理應(yīng)在考慮到各方面因素變化的基礎(chǔ)上,理性分析人工智能對現(xiàn)行法律制度和社會運行體系的沖擊,并明晰其邏輯機(jī)理。這是一項形似邏輯清晰卻又復(fù)雜龐大的系統(tǒng)性工程,需要在哲學(xué)與倫理層面上明晰人工智能體的主體性地位,在社會層面上明確人工智能技術(shù)所訴求的實效性標(biāo)準(zhǔn),并在法理層面上確定相關(guān)法律關(guān)系的邏輯結(jié)構(gòu),而社會、哲學(xué)與倫理訴求最終應(yīng)當(dāng)通過完善正當(dāng)?shù)姆尚螒B(tài)體現(xiàn)出來。

    一、問題的提出

    一般來說,“人工智能”更多體現(xiàn)的是一種包含了計算機(jī)、機(jī)器人、語音圖像及文字識別、自然語言處理等的新型技術(shù),或者說是一門新興科學(xué)。而人工智能體法律人格問題所涉及的“人工智能”這一表述,則更多地是利用上述技術(shù)所創(chuàng)造出的類人化的智能體、社會實在,而非前述的技術(shù)與科學(xué)。有關(guān)這類“智能體”的法律定位問題,與法律人格的研究事實上是同質(zhì)的。人工智能體的法律人格存在與否決定著其能否具有法律上的主體地位以進(jìn)行社會活動和法律行為。

    宏觀地看,上至1942年阿西莫夫機(jī)器人學(xué)三定律的提出,下到近年來人工智能在多領(lǐng)域?qū)θ祟惿鐣c機(jī)能提出的挑戰(zhàn),有關(guān)人工智能體在自然、社會和法律等方面的人格與定位爭論一直沒有停息。論者們從不同角度如哲學(xué)、道德、社會風(fēng)險、法理等入手,對人工智能體的思維、意識、自我、社會性等多個方面進(jìn)行了探討,討論的結(jié)果卻是仁者見仁。電子人、電子代理人、擬制人、電子工具論等概念,體現(xiàn)了學(xué)界對人工智能發(fā)展現(xiàn)狀與自然本質(zhì)的不同看法。總結(jié)看來,已有的代表性觀點可主要分為三類,即法律人格說(主體說)、有限人格說及客體說。

    (一)法律人格說(主體說)

    法律人格說、主體說完全地或較大程度地承認(rèn)人工智能的法律主體地位,并提倡賦予人工智能以法律意義上的人格。2017年10月26日,沙特阿拉伯王國授予由美國漢森公司(Hanson Robotics)研制的智能機(jī)器人索菲亞(Sophia)以公民身份,沙特阿拉伯王國也因此成為了第一位授予智能機(jī)器人以公民身份的國家。以此為基礎(chǔ),諸多學(xué)者提出了為高智能機(jī)器人提供法律主體地位與法律人格的呼吁,如賀栩溪認(rèn)為,在對人工智能進(jìn)行科學(xué)分類后,對強(qiáng)人工智能賦予法律主體地位具有一定科學(xué)性,但需要在實際操作中施加一定限制,即“先分類,再確認(rèn)”。①賀栩溪:《人工智能的法律主體資格研究》,《電子政務(wù)》2019年第2期。朱靜潔認(rèn)為,在分析了智能機(jī)器人的認(rèn)知與行為理性后,有必要在刑事責(zé)任層面確認(rèn)其主體地位與法律人格,并應(yīng)當(dāng)將其理性程度作為標(biāo)準(zhǔn),分為無刑事責(zé)任能力、相對有刑事責(zé)任、完全刑事責(zé)任三類主體,即“先確認(rèn),再分類”。②朱靜潔:《智能機(jī)器人的刑事責(zé)任主體論》,《電子政務(wù)》2019年第1期。盡管主體說承認(rèn)人工智能體的主體地位,但該說要求對人工智能體的法律地位進(jìn)行分類管理和規(guī)制,無論是先分類再確認(rèn),還是先確認(rèn)再分類,都體現(xiàn)了區(qū)別處理的態(tài)度與訴求,這一理論具有相當(dāng)?shù)膯⑹拘裕驗樽匀蝗艘灿兄耆袨槟芰εc限制行為能力等方面的分類,在發(fā)展不一、種類相異的智能體群體中,希冀對其進(jìn)行統(tǒng)一類別監(jiān)管與處理,是沒有意義、沒有可行性的?;诖耍瑢τ谌斯ぶ悄荏w人格問題的研究,應(yīng)當(dāng)將“類型化”納入考慮,但相關(guān)的分類標(biāo)準(zhǔn)則需要進(jìn)一步探討。

    (二)有限人格說

    有限人格說的分析重點在于承認(rèn)人工智能體一定限度的法律主體地位和人格地位,嚴(yán)格探討了人工智能體與自然人之間的理性差距與意識差異。如楊清望和張磊認(rèn)為,傳統(tǒng)法律人格不能當(dāng)然地套用到人工智能體之上。他們強(qiáng)調(diào),需要從人類主體原則出發(fā),運用法律擬制的手段賦予人工智能體特殊的法律地位,如借鑒法人制度、運用登記備案制度完善人工智能體的責(zé)任體制。這樣一方面有利于促進(jìn)人工智能體、人工智能相關(guān)技術(shù)為人類更好地服務(wù),另一方面有利于確?!俺祟悺敝黧w不會出現(xiàn)。③楊清望、張磊:《論人工智能的擬制法律人格》,《湖南科技大學(xué)學(xué)報(社會科學(xué)版)》2018年第6期。張玉潔認(rèn)為,機(jī)器人也有權(quán)利,這是社會發(fā)展的結(jié)果,也是權(quán)利發(fā)展史的正常運行方向。人工智能體具有法律擬制性、利他性和功能性(工具性),是社會活動的產(chǎn)物。這一權(quán)利體系與自然人不同,使得人工智能體只能具有有限的法律主體地位。④張玉潔:《論人工智能時代的機(jī)器人權(quán)利及其風(fēng)險規(guī)制》,《東方法學(xué)》2017年第6期。另外,還有觀點為人工智能賦予“電子代理人”或“電子人格”等身份,代理說將機(jī)器人作為人工智能體,其具有目的性、有限人格性。⑤Samir Chopra,Laurence F White,”A Legal Theory for Autonomous Artificial Agents”,Michigan: Michigan University of Michigan Press,vol.37,no.8(July 2011),pp.36-43.而電子人格說認(rèn)為,機(jī)器人就像未成年人一樣,其具有法律人格但有欠缺,如歐盟通過的《歐盟機(jī)器人民事法律草案》第59 f條款。依此規(guī)定,歐盟提出了一個新的類別,即“電子人”。

    (三)客體說

    客體說或工具說則堅決否認(rèn)人工智能的主體地位與法律上的人格。工具論者強(qiáng)調(diào)的是人工智能體的“人工”特性、工具性,否認(rèn)其接近人類、甚至超越人類的“智能”特性。人本主義的哲學(xué)觀在此發(fā)揮得淋漓盡致,人的自然主體和社會主體地位在客體理論和工具理論里得到了堅決的捍衛(wèi)。方芳認(rèn)為,人工智能體暫時不適合被賦予法律人格與法律主體地位,其以自動駕駛汽車為例,自駕汽車等人工智能不具有獨立的意思表示,沒有獨立的利益,也就不能承擔(dān)起相應(yīng)的法律責(zé)任。故人工智能體暫時僅適宜作為“產(chǎn)品”予以看待。①方芳:《自動駕駛汽車法律地位分析》,《智能城市》2018年第9期。李楊、李曉宇采用康德“主客體統(tǒng)一認(rèn)識論”和“人是目的”的哲學(xué)觀點,強(qiáng)調(diào)了人工智能體與人工智能技術(shù)的工具性特征,并進(jìn)一步闡述人工智能體生產(chǎn)物的歸屬,應(yīng)當(dāng)屬于雇主或者委托人,人工智能體本身不能成為真正意義上的“作者”,僅僅是被利用的工具。②李揚(yáng)、李曉宇:《康德哲學(xué)觀點下人工智能生成物的著作權(quán)問題探討》,《法學(xué)雜志》2018年第9期。在責(zé)任承擔(dān)方面,Ashrafian認(rèn)為,機(jī)器人僅是權(quán)利的客體。這是目前各國立法、司法普遍接受的觀點,致害路徑是決定該機(jī)器人的所有人(占有人)承擔(dān)責(zé)任的關(guān)鍵。③Hutan Ashrafian,”Artificial Intelligence and robot Responsibilities: Innovating BeyondRights”,Science and Engineering Ethics,vol.21,no.2(February 2015),pp.317-326.劉洪華認(rèn)為,現(xiàn)階段的人工智能體的“智能”并未超出人類理性,仍屬于人類的工具性范疇,且隱含著巨大的風(fēng)險,應(yīng)當(dāng)作為法律客體中的特殊物予以保護(hù)與規(guī)制。④劉洪華:《論人工智能的法律地位》,《政治與法律》2019年第1期??傮w看來,工具說認(rèn)為人工智能體產(chǎn)生于人,受人掌控,或者說人工智能體充其量僅是人的延伸物。⑤陳鵬:《人工智能人格權(quán)確認(rèn)的道德風(fēng)險和法律困境》,《西部法學(xué)評論》2018年第6期。

    無論是法律人格說、客體說,還是有限人格說,都提出了相當(dāng)有力的論證材料和邏輯依據(jù)。但已有的不同觀點和流派都有其不足之處,需要加以完善與提升。首先,大前提方面,現(xiàn)有研究對人工智能體人格賦予條件未做出充分的分析研究。其次,小前提方面,已有研究未對人工智能體的本質(zhì)內(nèi)涵與特征進(jìn)行系統(tǒng)化的梳理,如人工智能體的主體性、工具性價值,以及二者之間的聯(lián)系、比例等,并未將其與人格賦予條件作出有效對比。再次,結(jié)論方面,現(xiàn)有研究的人工智能體人格分析結(jié)果較為絕對。根據(jù)人工智能體內(nèi)部所包含主體性的強(qiáng)弱不同,其法律主體地位適格性也就不同,完全將其歸為某種法律地位范疇實有不妥。也就是說,人工智能體“類型化”的研究工作在學(xué)界尚未完全展開,而這卻恰是人工智能體人格問題研究的關(guān)鍵點之一。最后,基于已有結(jié)論,未進(jìn)行相應(yīng)的配套設(shè)施構(gòu)建。

    筆者認(rèn)為,對人工智能體人格問題的進(jìn)一步研究,應(yīng)當(dāng)沿用有限主體說、擬制主體說的綜合化、比例化思維,另采用嚴(yán)格與科學(xué)的分類依據(jù)對現(xiàn)有的人工智能體進(jìn)行類型化分析,并在不同類別、層級上討論其有限的權(quán)利、責(zé)任與法律特征,并重視人工智能體的智能性與工具性,為中國智能產(chǎn)業(yè)、智慧化產(chǎn)業(yè)的進(jìn)一步發(fā)展與應(yīng)用提供長效的法律保障體系與正當(dāng)性依據(jù)。法學(xué)研究對人工智能人格問題的回應(yīng),至少應(yīng)解決以下問題:其一,人格的法理基礎(chǔ)為何,亦即賦予人工智能體法律人格、法律主體地位的條件為何;其二,人工智能體的內(nèi)涵、本質(zhì)及特征為何,其是否符合人格的賦予條件、是否滿足人格賦予的法理基礎(chǔ)要求;其三,在進(jìn)行人工智能的人格判定、法律定位后,相應(yīng)的配套設(shè)施如分類管理、登記注冊等應(yīng)當(dāng)如何構(gòu)建。

    二、人格的理論基礎(chǔ)與人工智能的人格分析

    法律人格的認(rèn)定決定了人工智能體在現(xiàn)代社會的法律地位,并將進(jìn)而影響到人工智能產(chǎn)業(yè)乃至宏觀社會生產(chǎn)、運行與治理模式等的前進(jìn)方向。為分析人工智能體法律人格問題的本質(zhì)與根源,應(yīng)當(dāng)從人格的內(nèi)涵、賦予人格地位的條件等角度出發(fā),并結(jié)合人工智能體不同于傳統(tǒng)人類創(chuàng)造物的本質(zhì)特征,尋求其理論矛盾誘因所在。

    (一)完全主體性與權(quán)利適格性:人格的理論基礎(chǔ)

    “人格”的概念最初是運用在心理學(xué)領(lǐng)域,即包含性格、心理特征等的統(tǒng)一的、穩(wěn)定的結(jié)構(gòu)整體。法文中的“personnalité”、英文中的“personality”都指“人格”,并都來源于拉丁文“persona”,即“面具”的意思?,F(xiàn)代心理學(xué)認(rèn)為,人格的存在意義包括兩個部分,即人的社會外在表現(xiàn)即“外殼”與不為人知的“真實自我”。后者在社會心理學(xué)中,更多地體現(xiàn)的是人的心理特征和“個性”所在。①[美]伯格:《人格心理學(xué)》,陳會昌等譯,北京:中國輕工業(yè)出版社,2010年,第10頁。而后,法學(xué)領(lǐng)域逐漸豐富了人格的內(nèi)涵,處于樞紐地位的理論即為托馬斯·阿奎那的觀點,即將人格與人的尊嚴(yán)聯(lián)系在一起,而這就具有了基本權(quán)利的屬性。②[意]托馬斯·阿奎那:《論存在者與本質(zhì)》,段德智譯,北京:商務(wù)印書館,2013年,第18頁。在法學(xué)范疇中,人格分析并非單純的對個性等心理學(xué)因素的研究,其更多的是通過“人格權(quán)”體現(xiàn)出來。

    法學(xué)層面上的人格與人格權(quán)使得個體具有了權(quán)利義務(wù)主體的地位。人格權(quán)在羅馬法上體現(xiàn)出分離性、自然性和公法性。其中分離性指的是人格屬于“人身”中的“人”,與“身份”是分離的,并根據(jù)此進(jìn)行資源的分配;自然性體現(xiàn)了人格的天賦屬性。羅馬法中的公法性主要體現(xiàn)了平民和奴隸、市民和外邦人等的區(qū)別上。③[英]巴里·尼古拉斯:《羅馬法概論》,黃風(fēng)譯,北京:法律出版社,2010年,第36頁。而法國《拿破侖民法典》則較之羅馬法更加注重人格權(quán)的私法屬性,大革命后,其人格權(quán)、法律人格更多地體現(xiàn)了古典自然法思想。④[法]狄驥:《拿破侖法典以來私法的普通變遷》,徐砥平譯,北京:中國政法大學(xué)出版社,2003年,第28頁。根據(jù)法國民法典第8條的規(guī)定,可以看出人類法律史上人格平等的格局已經(jīng)開始顯現(xiàn)。⑤馬俊駒:《人與人格分離技術(shù)的形成、發(fā)展和變遷》,《現(xiàn)代法學(xué)》2006年第4期?!度藱?quán)宣言》也是如此,私法領(lǐng)域的自由、平等思想原則以及相應(yīng)的人權(quán)觀體現(xiàn)得淋漓盡致。⑥黃金榮:《人權(quán)膨脹趨勢下的人權(quán)概念重構(gòu)——一種國際人權(quán)法的視角》,《浙江社會科學(xué)》2018年第10期。除這一點外,羅馬法中分離性與天賦的思想和人格權(quán)特征則承繼了下來。

    另外,自為、自主等主體性原則內(nèi)容在相關(guān)經(jīng)典理論中也顯現(xiàn)得十分充分,如在黑格爾的實體性理論看來,人格是人所以為人的社會性體現(xiàn),而一種作為運動著的精神的、主體與客體合二為一的實體,即為“人”。黑格爾的觀點成為了德國民法典的理論基礎(chǔ),其認(rèn)為自我意識從絕對精神這個世界本體中獲得自在自為性,就是人作為主體的原因。⑦[德]黑格爾:《精神現(xiàn)象學(xué)(下)》,賀麟、王玖興譯,北京:商務(wù)印書館,1976年,第301頁。馬克思突破和發(fā)展了黑格爾的純主觀精神存在,基于唯物主義立場出發(fā),認(rèn)為人是既有目的性又有物質(zhì)性的實踐個體,即“人使自己的生命活動本身變成自己意志的和自己意識的對象”⑧林鋒:《重讀馬克思:〈1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿〉前沿問題新探》,北京: 中央編譯出版社,2018年,第63頁。。也就是說,馬克思主義理論對于“人”的論述,一個最主要的特征就是從主體的角度看待人,從理性出發(fā)推導(dǎo)出人與外部世界的對立統(tǒng)一關(guān)系,以及作為“主體”的自由屬性。同時,這一自由屬性是不包含工具性的??v觀人類漫長的歷史長河,在剝削、統(tǒng)治甚至屠殺面前,人更多感受到的是工具性而不是主體性。⑨郭湛:《主體性哲學(xué):人的存在及其意義》,昆明:云南人民出版社,2002年,第1頁。也就是說,擁有完整人格的人應(yīng)當(dāng)視自我為目的,而非工具;一旦摻雜了部分工具性價值,人格就無法完整。如此看來,“主體性”條件是討論人或人格的首要條件。

    上述內(nèi)容體現(xiàn)了社會存在獲得法律人格的實質(zhì)性條件所在。第一,其需要具備主體性,即包含了個人性格特征、心理因素的自主自為性,并具有一定自然與道德屬性。第二,分離性,即人格“面具”與人身的分離,法人的法律人格擬制技術(shù)即為此類。法律將人格面具戴在法人這一非自然人主體上,形成了有限主體的法律模式。之所以能在法人概念上運用法律擬制技術(shù),就是因為人格的可分離性、法人能用自己的名義行使相應(yīng)的法律權(quán)利并承擔(dān)社會角色。第三,基本權(quán)利和民法權(quán)利的二重性。中國民法典人格權(quán)編的相應(yīng)具體人格權(quán)規(guī)定、憲法第三十八條人格權(quán)基本權(quán)利規(guī)定等,通過基本權(quán)利的客觀法屬性聯(lián)系在一起,并進(jìn)行價值的擴(kuò)散與互動。⑩張善斌:《民法人格權(quán)和憲法人格權(quán)的獨立與互動》,《法學(xué)評論》2016年第6期?;诖?,應(yīng)當(dāng)進(jìn)一步對人工智能體的相關(guān)特征、條件滿足程度進(jìn)行更為細(xì)致的研判,并進(jìn)行比較分析。

    (二)主體性與工具性并存:人工智能的本質(zhì)特征

    對于人工智能體,雖然在不同學(xué)科具有不同的定義,但各界對其概念特征形成了一項共識,即人工智能科學(xué)研究的根本目的是模擬和延伸自然人類的智能,而其直接目的可能是提高社會運行效率、實現(xiàn)資源更優(yōu)配置等等。將人工智能體的表述拆解,“人工”的定義并不具有較大的爭議,“智能體”中的“智能”則具備了多學(xué)科、多領(lǐng)域的理論與知識技藝。智能涉及了意識、思維等概念,并應(yīng)當(dāng)結(jié)合人工智能技術(shù)的發(fā)展現(xiàn)狀及其特征進(jìn)行分析,基于此可得人工智能技術(shù)與人工智能體的本質(zhì)特征。

    其一,人工智能體本身具備主體性價值。主體性即某類存在作為世界的主體而具有的那部分價值,或者說人所為人的本質(zhì)特征。①郭湛:《主體性哲學(xué):人的存在及其意義》,第1頁。根據(jù)馬克思主義經(jīng)典理論,人之為人所遵循的主體性原則包含著一些基本的內(nèi)容,如能動性、受動性、自主性、自為性和交互性。②李志軍、楊哲:《論五大發(fā)展理念的人民主體性價值》,《寧夏社會科學(xué)》2017年第2期。這些原則性內(nèi)容亦既判斷人格性的五個根本維度,其中,能動性體現(xiàn)了一種創(chuàng)造能力,受動性體現(xiàn)了創(chuàng)造與能動過程中所需要受到的限制性條件,自主性體現(xiàn)了人的學(xué)習(xí)與自由發(fā)揮能力,自為性體現(xiàn)的是目的的實現(xiàn),而交互性則體現(xiàn)了廣泛地、擴(kuò)張地對地方性的突破。反觀人工智能體,其雖然未形成完整的人的意識,但在主體性原則范疇,人工智能體仍然符合一定程度上的判斷基準(zhǔn)。其根據(jù)數(shù)據(jù)存儲與應(yīng)用,藉由算法形成的具有創(chuàng)造性的作品與行為,具備著一定程度上的能動性,如人工智能體創(chuàng)造的詩歌;人工智能體的行為在具有創(chuàng)造性的同時,暫無法突破設(shè)計者和所有者對其設(shè)下的目標(biāo)枷鎖,仍屬于受制約的階段,也符合受動性的要求;機(jī)器學(xué)習(xí)(machine learning)作為人工智能體的核心,使其在學(xué)習(xí)中突破傳統(tǒng)經(jīng)驗,改善已有算法,體現(xiàn)了一定的自主性;交互性在整個人工智能領(lǐng)域體現(xiàn)得更為淋漓盡致,人工智能藉由數(shù)據(jù)網(wǎng)絡(luò)實現(xiàn)的平臺化信息處理機(jī)制,在交互與共享方面甚至已經(jīng)超過人類。也就是說,人工智能體是符合主體性原則、具有一定程度主體性價值的存在。

    其二,人工智能體具有一定分離性。作為社會發(fā)展、技術(shù)變革的產(chǎn)物,智能體從本身包含的工具性中逐漸衍生出一定自主與主體性。人類在科技創(chuàng)新中的自主性、學(xué)習(xí)性訴求,促使著智能體自主性的進(jìn)一步發(fā)展,并據(jù)此滿足了法學(xué)領(lǐng)域人格與人格權(quán)的第一個條件,即主體性的存在,這不僅體現(xiàn)了人工智能體被賦予人格的正當(dāng)性、符合法律人格地位的實質(zhì)性條件之一,同時也體現(xiàn)了其歷史必然性。人工智能體從其本身的工具性中衍生出來的主體性,也滿足賦予人格的第二個條件即“分離性”,其主體性與工具性是具有明顯邊界的。這一分析結(jié)果表明,人工智能體即使獲得法律人格地位、法律主體地位,其法律定位仍然是不及一般自然人主體的。人工智能體的人格、法律地位始終是擬制的、有限的,類似于法人。因為自然人的人格始于出生,而人工智能的人格必須通過人為賦予,即必須采用法律擬制技術(shù)進(jìn)行。

    其三,人工智能體具有權(quán)利缺陷性,即在權(quán)利方面具有瑕疵。就現(xiàn)階段人工智能體的發(fā)展階段和現(xiàn)狀看,要賦予其與自然人同等的權(quán)利,具備著極大的困難。以財產(chǎn)權(quán)為例,機(jī)器人能否享有財產(chǎn)權(quán)?財產(chǎn)權(quán)作為人身權(quán)的對稱,具備的是物質(zhì)性等特征,體現(xiàn)了主體對社會物質(zhì)生產(chǎn)資料的占有、支配與處理等能力。《中華人民共和國憲法》第十三條規(guī)定,公民合法的私有財產(chǎn)不受侵犯,國家依照法律規(guī)定保護(hù)公民的私有財產(chǎn)權(quán)和繼承權(quán)。美國憲法第十四修正案中規(guī)定,任何州不得拒絕在其管轄范圍內(nèi)對任何人的財產(chǎn)、經(jīng)濟(jì)給予同等保護(hù)。③許勝:《美國憲法中財產(chǎn)權(quán)的發(fā)展及意義》,《延邊大學(xué)學(xué)報(社會科學(xué)版)》2003年第6期。除此之外,世界各國的憲法、憲法性文件都對公民的財產(chǎn)權(quán)做出了原則性規(guī)定,突出了財產(chǎn)權(quán)作為公民的基本權(quán)利特性,并以人本主義替代西方絕對自由主義的財產(chǎn)權(quán)觀念,奠定了現(xiàn)代社會人權(quán)中財產(chǎn)權(quán)的基調(diào)。但人工智能體的財產(chǎn)權(quán)存在與否,不能單從財產(chǎn)權(quán)的個別法律特性進(jìn)行分析,以主體限制性為例,財產(chǎn)權(quán)的主體僅限于可以享有或可以取得財產(chǎn)的人,而這一“人”的判定在憲法和法理上又需要借用財產(chǎn)權(quán)標(biāo)準(zhǔn)倒推,這便形成了邏輯循環(huán),難以得到合理的證成。這進(jìn)一步地證明了人工智能體無法天然地獲得法律主體地位和法律人格,如果在滿足社會實效的需求下,其必須通過擬制的手段獲得有限的人格地位。

    (三)主體性與權(quán)利的瑕疵:人工智能體人格問題的產(chǎn)生根源

    根據(jù)上文所述,若要賦予人工智能體以法律人格或法律主體地位,需要具有主體性特征,并符合現(xiàn)有的權(quán)利體系條件;而人工智能的本質(zhì)特征,則包括一部分主體性、權(quán)利缺陷性、工具性等。宏觀地看,現(xiàn)階段人工智能技術(shù)、智能體的發(fā)展?fàn)顩r與特征既符合部分法律人格與主體地位的條件,但又不能完全滿足所有要件,這使得若要將人工智能體作為客體看待,將會損失一部分主體性價值;另而若賦予其完全的主體地位與法律人格,又忽略了其工具性價值,且權(quán)利(與責(zé)任)方面的瑕疵問題無法解決,是為人工智能體人格問題的最主要根源。

    一方面,根據(jù)人工智能科學(xué)的研究目的,人類智能的延伸使得人工智能技術(shù)的創(chuàng)造性、自主性等價值屬于其創(chuàng)造的本初目的??腕w論在不區(qū)分其智能性程度和自主性程度的情況下,將其全部劃歸為物和法律客體的范疇,掩蓋了人工智能體內(nèi)部的主體性價值。另外,人工智能體包含的主體性造成了其難以理解性即“算法黑箱”,“算法黑箱”使其可認(rèn)識性的效果大大減弱。以人工智能與大數(shù)據(jù)技術(shù)引發(fā)的程序錯誤與算法歧視為例,深度學(xué)習(xí)一方面大大提高了社會生活、社會治理等方面的效率,另一方面也造成了一定程度的風(fēng)險與隱患,人工智能技術(shù)的錯誤識別與大數(shù)據(jù)的規(guī)制外運用效果,使得人們難以對其中的原理與過程難以捉摸。機(jī)器深度學(xué)習(xí)打破了傳統(tǒng)機(jī)器學(xué)習(xí)的“輸入-推理-預(yù)測”鏈條,由計算機(jī)自動學(xué)習(xí)、生成結(jié)果,而在輸入的數(shù)據(jù)與輸出的結(jié)果之間,存在著無法被人類深刻理解的隱層,這一隱層的本質(zhì)又被成為“黑箱原理”,其使得行為背后的本質(zhì)難以被識別,也增加了相應(yīng)的規(guī)制困難。①吳梓源、游鐘豪:《AI侵權(quán)的理論邏輯與解決路徑——基于對“技術(shù)中立”的廓清》,《福建師范大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2018年第5期。歐盟《統(tǒng)一數(shù)據(jù)保護(hù)條例》(GDRR,2018)與《數(shù)據(jù)保護(hù)指令》(Directive 95/46/EC,1995年)在個人選擇權(quán)、敏感數(shù)據(jù)排除、個人數(shù)據(jù)收集的透明化與透明度方面加強(qiáng)了對自然人權(quán)利的保護(hù)。同時,對自動化不滿的情況下,自然人有權(quán)要求人工介入和提出質(zhì)疑,并有權(quán)獲得人工智能相關(guān)“解釋”。然而,Pedro Domingos卻重新強(qiáng)調(diào)了這一解釋的可理解性并表現(xiàn)出了強(qiáng)烈的擔(dān)憂。②Pedro Domingos.,”A few useful things to know about machine learning”,Commun ACM ,vol.18,no.2(February 2009),pp.78-88.這種困境使得人類難以對其進(jìn)行完全的把控,③Hod Lipson,”Evolutionary synthesis of kinematic mechanisms”,AI EDAM,vol.22,no.3(March 2008),pp.195-205.若將其作為客體或物的概念理解,則違背了物的可理解性與可控制性。

    另一方面,若要將人工智能體劃歸于法律主體范疇,則其權(quán)利瑕疵與缺陷的特征將使得實踐中產(chǎn)生諸多矛盾。上文有述,人工智能的權(quán)利具有瑕疵,如財產(chǎn)權(quán)等。人工智能體尚無法取得獨立財產(chǎn),而權(quán)利的缺陷使得其在責(zé)任承擔(dān)方面也不符合法律主體與法律人格的確認(rèn)條件。以典型的責(zé)任承擔(dān)方式為例,其包括財產(chǎn)責(zé)任和行為責(zé)任,財產(chǎn)責(zé)任方面,賠償損失、支付違約金方面,人工智能體因財產(chǎn)權(quán)瑕疵難以以其獨立的財產(chǎn)賠償受害人損失和支付違約金;行為責(zé)任方面如賠禮道歉等,人工智能體因其理性與意識的瑕疵,也無法實現(xiàn)與一般人類一樣的效果。又如人身責(zé)任,在人工智能體違法行為產(chǎn)生后,傳統(tǒng)的拘留、強(qiáng)制措施等行政行為對其產(chǎn)生的影響也遠(yuǎn)遠(yuǎn)不如對人類產(chǎn)生的那般有訓(xùn)誡或教育等效果。同時,人工智能體法律主體地位的認(rèn)定,將消滅其內(nèi)含的那部分工具性價值,并將人類附在智能體上的“人的目的”掩蓋了??梢钥闯觯鲜鰞煞矫鏋槿斯ぶ悄荏w人格問題的主要產(chǎn)生根源,即無論是對人工智能的法律主體還是法律客體認(rèn)定,都無法兼顧智能體內(nèi)含的主體性價值與工具性價值,并無法解決其權(quán)利缺陷。

    三、人工智能體法律人格問題解決路徑

    人工智能體因其同時具有主體性價值與工具性價值形成了人格設(shè)定困境,現(xiàn)有理論難以兼顧二者。在主體規(guī)范、客體規(guī)范都無法完全適用的情況下,折中的有限人格做法將是一種有效的途徑,即先根據(jù)人工智能體的主體性、工具性之間的比例進(jìn)行類型化,再給予人工智能體以有限法律地位,并規(guī)定其相應(yīng)的管理規(guī)則、權(quán)利義務(wù)規(guī)范,最后分析不同類別的智能體法律規(guī)制體系構(gòu)建及其配套設(shè)施構(gòu)建。

    (一)人工智能體類型化

    人工智能體應(yīng)當(dāng)依據(jù)其主體性程度進(jìn)行分類管理。由上述的分析可知,主體性與工具性并存,是人工智能體人格問題的主要根源所在,但是現(xiàn)階段的人工智能技術(shù)發(fā)展卻屬于多層次、主體性跨度較大的情況,既有掃地機(jī)器人等主體性較低的、完全工具性的智能體,也有深藍(lán)、阿爾法狗等主體性較強(qiáng)的智能體。故應(yīng)當(dāng)先按照主體性強(qiáng)弱對其進(jìn)行類型化處理,并對不同類別的人工智能體進(jìn)行區(qū)分處理,采取不同的法律人格問題解決方式。

    麥卡錫曾提出過強(qiáng)弱人工智能(體)的區(qū)分,其標(biāo)準(zhǔn)為推理能力強(qiáng)弱等。①R.G 霍夫曼、高培煥:《廖士中.約翰·麥卡錫談人工智能的探索》,《世界科學(xué)》1991年第9期。該標(biāo)準(zhǔn)與人工智能的主體性具有相似之處,并可運用到人工智能體法律人格問題的分類處理標(biāo)準(zhǔn)體系中。事實上,按照主體性程度對智能體進(jìn)行分類,是符合比例原則的,法律對社會關(guān)系的調(diào)整,應(yīng)當(dāng)滿足主體等方面的適當(dāng)性標(biāo)準(zhǔn),針對不同特點的主體,法律規(guī)制的重心應(yīng)當(dāng)進(jìn)行相應(yīng)的調(diào)整。實踐中,可按照主體性強(qiáng)弱程度將人工智能群體分為強(qiáng)人工智能體和弱人工智能體,并基于此進(jìn)行類型化規(guī)制與管理。其中,分類的標(biāo)準(zhǔn)“主體性程度”是一個模糊的概念,其范疇可納入自主性、創(chuàng)造性、推理能力等因素,并賦予各因素不同的權(quán)重進(jìn)行加權(quán)分析,構(gòu)建出科學(xué)的、完整的和有效的強(qiáng)弱人工智能分類標(biāo)準(zhǔn),作為人工智能人格問題解決方案的基礎(chǔ)。

    (二)強(qiáng)人工智能體:賦予擬制法律人格

    在分類完成后,可賦予強(qiáng)人工智能體以擬制法律人格,承認(rèn)其有限法律主體地位。從羅馬法就可以看出,法律人格制度自始便具有一種技術(shù)性的特點,人格擬制技術(shù)也不例外。比如在羅馬法上,人格的判定標(biāo)準(zhǔn)為人的身份,以人的身份層次將一些自然人排除在人格范疇之外,也就是據(jù)以確定部分人類的特權(quán),②徐國棟:《羅馬私法要論——文本與分析》,北京:科學(xué)出版社,2007年,第33頁。并基于此壓迫其他人。③尹田:《論法人人格權(quán)》,《法學(xué)研究》2004年第4期。而這一法律技術(shù)的基礎(chǔ),即為上文所提到的人格的可分離性特征?,F(xiàn)有的法律人格擬制體系中,比較典型的是胎兒的人格擬制與法人的人格擬制。根據(jù)民法總則第十六條,胎兒雖未出生,但是在接受贈與等情形下,可以被視為具有法律人格,并具有法律主體地位。又根據(jù)民法總則第五十七條,法人具有法律主體地位,有具體的權(quán)利并承擔(dān)相應(yīng)責(zé)任。可以看出,人格的可分離性提供了人格擬制制度的法技術(shù)基礎(chǔ),并且,運用人格擬制技術(shù)的情形是特定的、有限的。以胎兒為例,胎兒接受贈與等的情形是有限的、預(yù)先設(shè)定的。人工智能體在一定情形下,根據(jù)需要,可以運用人格擬制技術(shù),賦予其有限的法律人格和法律主體地位,但至少應(yīng)當(dāng)具備兩個基本條件。一方面,對象智能體的主體性程度較高,即接近上述類型化處理中的強(qiáng)人工智能主體性程度。因為主體性的存在是人工智能體人格問題的根源所在,主體性與工具性的比例是應(yīng)當(dāng)主要考慮的方面。另一方面,對象智能體陷入了歸責(zé)與地位判定不明等矛盾困境,即人工智能體人格賦予具有社會實效性。也就是說,較高主體性的存在與社會實效需要,是人工智能體被賦予法律擬制人格與法律主體地位所必須。同時,在這種情況下應(yīng)當(dāng)將其應(yīng)享有的權(quán)利(如創(chuàng)作等)、應(yīng)承擔(dān)的責(zé)任(如定期測試、遵守阿西莫夫三定律)等進(jìn)行預(yù)先設(shè)定并使其具有法律效應(yīng),以彌補(bǔ)現(xiàn)有法律規(guī)則體系的不足。

    強(qiáng)人工智能體之所以適用并僅適用于法律擬制的方式進(jìn)行人格的賦予,一方面是因為其較強(qiáng)的主體性、人工智能體獨有的主體性、工具性之間的分離性滿足上文論述的人格獲取的前幾個實質(zhì)性條件,另一方面是其具有的權(quán)利瑕疵性侵蝕了其具有完全人格的可能性與正當(dāng)性,只能用法律擬制技術(shù)進(jìn)行補(bǔ)足。同時,在對強(qiáng)人工智能體進(jìn)行人格擬制后,需要做到與現(xiàn)存法律體系之間的銜接與交融。實踐中,一是加快相關(guān)立法步伐,形成多層次智能體管控體系,并通過相關(guān)司法實踐對現(xiàn)實中的強(qiáng)人工智能人格法律問題進(jìn)行明確,力求做到立法與司法的統(tǒng)一性;二是在立法、執(zhí)法及司法隊伍中加入人工智能方面的技術(shù)人才,有利于人格擬制與傳統(tǒng)法律體系的連接,如相關(guān)法律解釋的完善等方面即屬此類。三是加快建立人工智能體人格擬制技術(shù)運用的評價體系,在其具體轉(zhuǎn)化運行一段時間后,對其運行效果進(jìn)行嚴(yán)密的評估分析,并據(jù)此明確相關(guān)的發(fā)展與完善方向。

    (三)弱人工智能體:劃歸于法律客體

    不同于強(qiáng)人工智能體,弱人工智能體在尚未發(fā)展出主體性或主體性程度較低、可以忽略不計時,則應(yīng)當(dāng)將其視為法律客體或一般物、特殊物等,運用現(xiàn)行法律規(guī)則體系或稍加完善予以規(guī)制。一方面,不具備一定主體性要求的弱人工智能體沒有賦予法律擬制人格的必要,權(quán)利與義務(wù)可由所有者、使用者行使和承擔(dān),賦予智能體擬制人格不具有社會實效性。另一方面,主體性程度較低的智能體不符合人格設(shè)定的法理基礎(chǔ)與哲學(xué)基礎(chǔ)。同時,不加區(qū)分地將所有人工智能體納入法律主體范疇,對現(xiàn)有法律規(guī)則體系沖擊較大,并會造成立法與執(zhí)法資源等的浪費。當(dāng)然,將主體性較低的人工智能體視為法律客體或物才能充分發(fā)揮其工具性價值,有利于人工智能技術(shù)和智慧化學(xué)科創(chuàng)設(shè)與研究目的的實現(xiàn)。

    進(jìn)一步地,根據(jù)弱人工智能體的技術(shù)含量與標(biāo)準(zhǔn),可對其進(jìn)行再分類為一般物和特殊物兩種類別。其中,技術(shù)含量較低的弱人工智能體如家居機(jī)器人等,可歸為一般物(如產(chǎn)品)的范疇,適用物權(quán)法、侵權(quán)責(zé)任法等現(xiàn)有規(guī)則體系;而對于技術(shù)含量較高、發(fā)展較完備的弱人工智能體,可適當(dāng)完善現(xiàn)有法規(guī)并將其視為特殊物進(jìn)行重點關(guān)注,也可在法益層面上適當(dāng)提升其價值,以保護(hù)其創(chuàng)造者、所有者和使用者的合法權(quán)益。

    (四)基于類型化管理構(gòu)建相應(yīng)的配套設(shè)施

    對于弱人工智能體,應(yīng)當(dāng)將其視為一般物或特殊物進(jìn)行已有法律規(guī)則的使用,故配套設(shè)施的創(chuàng)新構(gòu)建應(yīng)主要針對強(qiáng)人工智能體而言,進(jìn)行已有設(shè)施體系的革新。首先,強(qiáng)人工智能體的設(shè)計生產(chǎn)與使用應(yīng)當(dāng)進(jìn)行登記注冊,人工智能體的登記注冊內(nèi)容,應(yīng)當(dāng)包含其類型、性能、技術(shù)基礎(chǔ)、設(shè)計者與生產(chǎn)者、使用人等信息,并應(yīng)包含權(quán)屬變更等情況。在智能機(jī)器人未進(jìn)行登記與注冊前,不應(yīng)進(jìn)行銷售或?qū)⑵渫度胧褂谩?/p>

    其次,現(xiàn)階段未形成強(qiáng)人工智能體相關(guān)職能管理的社會機(jī)構(gòu),如相關(guān)的登記注冊機(jī)構(gòu)、審計機(jī)構(gòu)等??蓪Ω咧悄荏w進(jìn)行專門管理,成立相關(guān)專門管理機(jī)構(gòu)、專門審計機(jī)構(gòu)等以實現(xiàn)對強(qiáng)人工智能體的有效監(jiān)督、專門仲裁機(jī)構(gòu)以解決相關(guān)專業(yè)性、技術(shù)性糾紛等。同時,還可以構(gòu)建強(qiáng)人工智能信息共享平臺,以實現(xiàn)人工智能領(lǐng)域政府管理與社會管理的科學(xué)性與效率性。

    最后,若賦予了強(qiáng)人工智能體以法律擬制主體,則應(yīng)當(dāng)通過立法、司法實踐等為其分配為在社會上為一定范圍內(nèi)行為的權(quán)利。值得注意的是,這類擬制人權(quán)利是具有一定特征和限制的。其一是從屬性,人工智能體一旦作為擬制主體進(jìn)入法律規(guī)制體系,就必須與其所有者、使用者等建立聯(lián)系,所有者與使用者形成了其主體基礎(chǔ),人工智能體的權(quán)利也從屬與其人類主體,因為人工智能行使權(quán)利的目標(biāo)與目的與其人類主體一致;其二是限制性,人工智能體難以獲得像真正自然主體那樣的全部權(quán)利,而是被限定在為達(dá)人類創(chuàng)設(shè)與使用人工智能的本初目標(biāo)體系內(nèi),而非是一種自然的、先天的和完全的權(quán)利體系。其三是利他性,因為其主體性尚未發(fā)展和獨立至與人類一般,機(jī)器人權(quán)利應(yīng)當(dāng)仍然更多地具有工具性。根據(jù)以上特征與原則,可有效設(shè)定人工智能體所擁有的各項有限權(quán)利。責(zé)任方面,應(yīng)明晰人工智能體可承擔(dān)的責(zé)任范圍,如明確消除影響、排除妨害、恢復(fù)原狀等在其能力范圍內(nèi)的責(zé)任承擔(dān)方式;另外,還應(yīng)明確人工智能體與其所有者、使用者之間的責(zé)任分配原則。因為人工智能體在現(xiàn)階段并不適宜享有財產(chǎn)權(quán),故在財產(chǎn)有關(guān)方面應(yīng)由其所有者、使用者或生產(chǎn)設(shè)計者承擔(dān)無限責(zé)任。

    結(jié) 語

    對人工智能體進(jìn)行法律定位,目的在于確認(rèn)其法律適用問題,以解決人工智能技術(shù)引發(fā)的社會矛盾,并長效地激發(fā)其主體性價值,以期真正實現(xiàn)繼工業(yè)社會、信息社會之后的“知業(yè)社會”“智慧社會”的構(gòu)建與發(fā)展。就人工智能技術(shù)發(fā)展的現(xiàn)狀看來,其在意識、權(quán)利義務(wù)與責(zé)任承擔(dān)能力等各方面的缺陷使其尚不足以使智能體取得適格的法律主體地位,但絕對地將其視為客體、工具或物,則掩蓋了人工智能體在一定程度上的主體性及其功能與價值,不利于實現(xiàn)上述的社會總體目標(biāo)。賦予人工智能體法律擬制主體地位將有利于充分實現(xiàn)其主體性功能的釋放,并因人工智能體及其所有人之間在意志、財產(chǎn)上的聯(lián)系,有利于歸責(zé)等實踐問題的解決?,F(xiàn)階段人工智能體的人格問題可由法律擬制得到充分的解決,并有效地調(diào)整人與人工智能體之間的法律與社會關(guān)系。當(dāng)然,關(guān)于人工智能技術(shù)相關(guān)的研究并非一勞永逸,隨著人工智能領(lǐng)域相關(guān)科技的發(fā)展,未來的智能體成為“超人類主體”的可能性及相關(guān)的倫理、道德與法律問題,仍需要各界給予充分的重視和實時的關(guān)注與研究分析,并保障技術(shù)的轉(zhuǎn)化、進(jìn)步與社會的運行、發(fā)展之間形成穩(wěn)定的連接,使其呈現(xiàn)出互相促進(jìn)、螺旋上升的態(tài)勢。

    猜你喜歡
    主體人工智能法律
    論自然人破產(chǎn)法的適用主體
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    論多元主體的生成
    少妇的逼水好多| av在线观看视频网站免费| eeuss影院久久| 婷婷色综合大香蕉| 国产精品福利在线免费观看| 免费电影在线观看免费观看| av又黄又爽大尺度在线免费看| 欧美少妇被猛烈插入视频| 国产黄片视频在线免费观看| 中文乱码字字幕精品一区二区三区| 在线 av 中文字幕| 精品一区二区三区视频在线| 国产乱来视频区| 丰满少妇做爰视频| 国产亚洲一区二区精品| 欧美成人精品欧美一级黄| 国产综合懂色| 久久久欧美国产精品| 国产白丝娇喘喷水9色精品| 国产成人精品久久久久久| 日韩不卡一区二区三区视频在线| 精品一区二区免费观看| 成人国产av品久久久| 久久人人爽人人爽人人片va| 大片电影免费在线观看免费| 午夜亚洲福利在线播放| 一级毛片我不卡| 免费黄色在线免费观看| 国产久久久一区二区三区| 国产综合懂色| 黑人高潮一二区| 欧美+日韩+精品| 一本一本综合久久| 国产av不卡久久| 日韩av免费高清视频| 爱豆传媒免费全集在线观看| 国产欧美另类精品又又久久亚洲欧美| 自拍欧美九色日韩亚洲蝌蚪91 | 精品一区二区三区视频在线| 亚洲精品成人av观看孕妇| 免费大片18禁| 嫩草影院精品99| 嫩草影院入口| 成人无遮挡网站| 国产成人aa在线观看| 欧美 日韩 精品 国产| 国产综合懂色| 亚洲av成人精品一区久久| 精品久久久噜噜| 赤兔流量卡办理| 国产熟女欧美一区二区| 亚洲av国产av综合av卡| 欧美日韩精品成人综合77777| 99久久中文字幕三级久久日本| 久久久成人免费电影| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 午夜福利视频精品| 午夜爱爱视频在线播放| 国产v大片淫在线免费观看| 久久久久性生活片| 亚洲av成人精品一区久久| 久久久久国产网址| 最近中文字幕2019免费版| 欧美xxⅹ黑人| 国产精品偷伦视频观看了| 七月丁香在线播放| 美女xxoo啪啪120秒动态图| 国产片特级美女逼逼视频| 久久精品国产鲁丝片午夜精品| 国产亚洲av片在线观看秒播厂| 青春草视频在线免费观看| 天天一区二区日本电影三级| 熟女电影av网| freevideosex欧美| 亚州av有码| av在线播放精品| 亚洲精品日本国产第一区| 久久久久久久午夜电影| 美女脱内裤让男人舔精品视频| 插逼视频在线观看| 边亲边吃奶的免费视频| 欧美日韩视频精品一区| xxx大片免费视频| 美女xxoo啪啪120秒动态图| 国精品久久久久久国模美| av女优亚洲男人天堂| 亚洲av不卡在线观看| 一级毛片aaaaaa免费看小| 亚洲成色77777| 亚洲欧美精品专区久久| 麻豆国产97在线/欧美| 最近中文字幕高清免费大全6| 热99国产精品久久久久久7| 18禁动态无遮挡网站| 久久这里有精品视频免费| 夫妻性生交免费视频一级片| 国产精品福利在线免费观看| 国产黄a三级三级三级人| 久久6这里有精品| 欧美xxxx黑人xx丫x性爽| 国产亚洲av嫩草精品影院| 在现免费观看毛片| 高清毛片免费看| 熟女av电影| 我的老师免费观看完整版| 国产精品偷伦视频观看了| 精品午夜福利在线看| 女人十人毛片免费观看3o分钟| 国产亚洲精品久久久com| 成年免费大片在线观看| 国产亚洲av片在线观看秒播厂| 国产av国产精品国产| 国产中年淑女户外野战色| 尾随美女入室| 最近最新中文字幕免费大全7| 性色avwww在线观看| 老女人水多毛片| 大话2 男鬼变身卡| 欧美性猛交╳xxx乱大交人| 韩国高清视频一区二区三区| 国产老妇女一区| 国产亚洲91精品色在线| 韩国高清视频一区二区三区| 美女脱内裤让男人舔精品视频| 成人国产av品久久久| 国产又色又爽无遮挡免| 久久精品久久久久久噜噜老黄| av卡一久久| 又黄又爽又刺激的免费视频.| av.在线天堂| 麻豆国产97在线/欧美| 午夜激情福利司机影院| 精品酒店卫生间| 丰满人妻一区二区三区视频av| 热99国产精品久久久久久7| 小蜜桃在线观看免费完整版高清| 少妇人妻一区二区三区视频| 国产成人a∨麻豆精品| 日本一本二区三区精品| 午夜福利在线在线| 国产高清有码在线观看视频| 直男gayav资源| av在线蜜桃| 亚洲欧洲日产国产| 国产爽快片一区二区三区| 欧美区成人在线视频| 国产国拍精品亚洲av在线观看| 人妻少妇偷人精品九色| 久久鲁丝午夜福利片| 日韩不卡一区二区三区视频在线| 欧美xxxx黑人xx丫x性爽| 久久久久久久久久久丰满| 亚洲av日韩在线播放| av一本久久久久| 天堂俺去俺来也www色官网| 久久久久久久久久成人| 成人毛片60女人毛片免费| 亚洲精品自拍成人| 国产精品秋霞免费鲁丝片| 亚洲内射少妇av| 性插视频无遮挡在线免费观看| 免费在线观看成人毛片| 别揉我奶头 嗯啊视频| 天天一区二区日本电影三级| 天天躁夜夜躁狠狠久久av| 成人美女网站在线观看视频| 大片免费播放器 马上看| 别揉我奶头 嗯啊视频| 成人亚洲欧美一区二区av| 国产精品秋霞免费鲁丝片| 欧美xxxx黑人xx丫x性爽| 麻豆乱淫一区二区| av专区在线播放| 国产高潮美女av| 精品国产乱码久久久久久小说| 国产高清国产精品国产三级 | 啦啦啦中文免费视频观看日本| 99久国产av精品国产电影| 国产成人精品一,二区| 亚洲欧美一区二区三区黑人 | 免费观看无遮挡的男女| 在线免费十八禁| 国产日韩欧美在线精品| 九九在线视频观看精品| 国产成人免费观看mmmm| 亚洲四区av| 免费黄频网站在线观看国产| 三级经典国产精品| 一区二区三区精品91| 成人漫画全彩无遮挡| 欧美丝袜亚洲另类| 赤兔流量卡办理| 日本免费在线观看一区| 最新中文字幕久久久久| 黄色怎么调成土黄色| 婷婷色av中文字幕| 大话2 男鬼变身卡| 国产精品精品国产色婷婷| 超碰97精品在线观看| 国产高清不卡午夜福利| 日韩成人av中文字幕在线观看| 欧美高清性xxxxhd video| 大话2 男鬼变身卡| 超碰av人人做人人爽久久| 精品亚洲乱码少妇综合久久| 日韩av不卡免费在线播放| 日本爱情动作片www.在线观看| 久久久久久久久久久丰满| 久久热精品热| 欧美成人一区二区免费高清观看| 日韩一区二区视频免费看| 欧美bdsm另类| 久久人人爽人人片av| 99久久九九国产精品国产免费| 精品午夜福利在线看| 久热久热在线精品观看| 亚洲精品aⅴ在线观看| 欧美zozozo另类| 国产免费又黄又爽又色| 亚洲精品成人久久久久久| 最近手机中文字幕大全| 国产成人精品福利久久| 免费不卡的大黄色大毛片视频在线观看| 亚洲欧美清纯卡通| 亚洲最大成人中文| 国产精品国产三级国产av玫瑰| 少妇人妻精品综合一区二区| 日本黄大片高清| 色视频在线一区二区三区| av在线app专区| 蜜臀久久99精品久久宅男| 最近手机中文字幕大全| 特级一级黄色大片| 国产精品人妻久久久影院| 晚上一个人看的免费电影| av网站免费在线观看视频| 亚洲国产精品成人综合色| 可以在线观看毛片的网站| 亚洲怡红院男人天堂| 97精品久久久久久久久久精品| 欧美日韩国产mv在线观看视频 | 大陆偷拍与自拍| 午夜激情久久久久久久| 新久久久久国产一级毛片| 日本与韩国留学比较| 毛片一级片免费看久久久久| 99久久精品一区二区三区| 亚洲天堂av无毛| 亚洲最大成人手机在线| 80岁老熟妇乱子伦牲交| 欧美最新免费一区二区三区| 久久久久久久大尺度免费视频| 又黄又爽又刺激的免费视频.| 亚洲色图av天堂| 精华霜和精华液先用哪个| 在线观看美女被高潮喷水网站| 国产黄色视频一区二区在线观看| 又黄又爽又刺激的免费视频.| 国产有黄有色有爽视频| 爱豆传媒免费全集在线观看| 国产老妇伦熟女老妇高清| 国产精品国产av在线观看| 国产真实伦视频高清在线观看| 国产精品精品国产色婷婷| 欧美丝袜亚洲另类| 国产毛片a区久久久久| 少妇丰满av| 亚洲国产精品成人综合色| 免费黄网站久久成人精品| 美女脱内裤让男人舔精品视频| 美女国产视频在线观看| 老司机影院成人| 人人妻人人看人人澡| 只有这里有精品99| 久久人人爽av亚洲精品天堂 | 天堂网av新在线| 2021天堂中文幕一二区在线观| 最近中文字幕高清免费大全6| 天美传媒精品一区二区| 亚洲av男天堂| 天堂俺去俺来也www色官网| 国产精品.久久久| 熟女电影av网| 久久久久久久久久人人人人人人| 成人毛片a级毛片在线播放| 国产成人免费观看mmmm| 国产成人aa在线观看| 日日摸夜夜添夜夜添av毛片| 亚洲av男天堂| 一级黄片播放器| 亚洲在久久综合| 免费不卡的大黄色大毛片视频在线观看| 热99国产精品久久久久久7| 亚洲av成人精品一区久久| 美女脱内裤让男人舔精品视频| 18禁裸乳无遮挡动漫免费视频 | 欧美高清成人免费视频www| 国产精品成人在线| 在线观看免费高清a一片| 国产乱人偷精品视频| 国产高潮美女av| 久久人人爽人人爽人人片va| 韩国av在线不卡| 99久久九九国产精品国产免费| 国产 一区精品| 毛片一级片免费看久久久久| 欧美97在线视频| 国产精品无大码| 亚洲精品影视一区二区三区av| 性色av一级| 欧美精品人与动牲交sv欧美| 男人爽女人下面视频在线观看| 91狼人影院| 欧美少妇被猛烈插入视频| 极品少妇高潮喷水抽搐| 少妇人妻 视频| 国产精品伦人一区二区| 免费观看a级毛片全部| a级毛色黄片| 亚洲精品乱码久久久久久按摩| 欧美国产精品一级二级三级 | 久久综合国产亚洲精品| 在线 av 中文字幕| 成年av动漫网址| 日韩成人伦理影院| 日韩伦理黄色片| 777米奇影视久久| 午夜亚洲福利在线播放| 丰满少妇做爰视频| 亚洲精品第二区| 国产在线一区二区三区精| 精品久久久噜噜| 国产精品.久久久| 3wmmmm亚洲av在线观看| 亚洲aⅴ乱码一区二区在线播放| 99热6这里只有精品| 人妻一区二区av| 免费不卡的大黄色大毛片视频在线观看| 性色avwww在线观看| 免费观看性生交大片5| 亚洲欧美日韩卡通动漫| 久久精品国产a三级三级三级| 天天躁夜夜躁狠狠久久av| 国国产精品蜜臀av免费| 少妇人妻精品综合一区二区| 全区人妻精品视频| 99九九线精品视频在线观看视频| 在线观看人妻少妇| 婷婷色综合大香蕉| 亚洲成人久久爱视频| 欧美日本视频| 蜜臀久久99精品久久宅男| 一本久久精品| 成人综合一区亚洲| 欧美日韩精品成人综合77777| 国产精品女同一区二区软件| 秋霞在线观看毛片| 国内精品美女久久久久久| 日本av手机在线免费观看| 欧美3d第一页| 亚洲国产高清在线一区二区三| 麻豆国产97在线/欧美| 国产精品久久久久久精品古装| 欧美+日韩+精品| 国产精品av视频在线免费观看| 2021少妇久久久久久久久久久| 日韩成人伦理影院| 国产成人福利小说| 欧美日韩亚洲高清精品| 大话2 男鬼变身卡| 一级片'在线观看视频| 99久久中文字幕三级久久日本| 免费看光身美女| 汤姆久久久久久久影院中文字幕| 超碰av人人做人人爽久久| 亚洲精品一区蜜桃| 亚洲熟女精品中文字幕| 2021少妇久久久久久久久久久| 国产精品99久久久久久久久| 亚洲av.av天堂| 99热这里只有是精品在线观看| 99久久九九国产精品国产免费| 九色成人免费人妻av| 女的被弄到高潮叫床怎么办| 欧美xxⅹ黑人| 日本爱情动作片www.在线观看| 国产高清三级在线| 亚洲精品久久久久久婷婷小说| 天天躁日日操中文字幕| 国产淫语在线视频| 亚洲欧美成人综合另类久久久| 青春草国产在线视频| 寂寞人妻少妇视频99o| 女人十人毛片免费观看3o分钟| 久久久久久久亚洲中文字幕| 成人黄色视频免费在线看| 简卡轻食公司| 成人亚洲欧美一区二区av| 免费大片18禁| 国产综合懂色| 日韩欧美精品v在线| 热99国产精品久久久久久7| 国产精品.久久久| 听说在线观看完整版免费高清| 亚洲av在线观看美女高潮| 国产亚洲5aaaaa淫片| 听说在线观看完整版免费高清| 有码 亚洲区| 精品人妻一区二区三区麻豆| 26uuu在线亚洲综合色| 亚洲精品中文字幕在线视频 | 国产精品国产三级国产av玫瑰| 丰满少妇做爰视频| 亚洲最大成人中文| 成人特级av手机在线观看| 九九爱精品视频在线观看| 少妇丰满av| 秋霞在线观看毛片| 在线观看av片永久免费下载| 国产淫片久久久久久久久| 午夜福利在线观看免费完整高清在| 丝袜美腿在线中文| 久久鲁丝午夜福利片| 少妇人妻久久综合中文| 午夜精品国产一区二区电影 | 在线观看美女被高潮喷水网站| 国产免费又黄又爽又色| 日韩精品有码人妻一区| 免费看av在线观看网站| 天堂中文最新版在线下载 | 日韩 亚洲 欧美在线| 男的添女的下面高潮视频| 亚洲欧美日韩另类电影网站 | 亚洲精品久久久久久婷婷小说| 一级黄片播放器| 少妇人妻一区二区三区视频| 亚洲人成网站在线播| 亚洲伊人久久精品综合| 成人一区二区视频在线观看| 激情五月婷婷亚洲| 欧美激情久久久久久爽电影| 欧美xxxx黑人xx丫x性爽| 九九在线视频观看精品| 在线 av 中文字幕| 国产精品成人在线| 国产乱人偷精品视频| 又粗又硬又长又爽又黄的视频| 国产探花在线观看一区二区| 国产亚洲最大av| 日韩国内少妇激情av| av国产久精品久网站免费入址| 色网站视频免费| 久久久久网色| 亚洲自拍偷在线| 99久久人妻综合| 久久久国产一区二区| 久久亚洲国产成人精品v| 啦啦啦中文免费视频观看日本| 国产精品不卡视频一区二区| 欧美一区二区亚洲| 成人亚洲精品一区在线观看 | 简卡轻食公司| 亚洲熟女精品中文字幕| 国产大屁股一区二区在线视频| 精品午夜福利在线看| 国产成人午夜福利电影在线观看| 嫩草影院新地址| 美女脱内裤让男人舔精品视频| 国内精品宾馆在线| 蜜臀久久99精品久久宅男| 狠狠精品人妻久久久久久综合| 亚洲国产精品专区欧美| av专区在线播放| 午夜免费鲁丝| 三级男女做爰猛烈吃奶摸视频| 亚洲va在线va天堂va国产| 22中文网久久字幕| 中文字幕制服av| 国产成年人精品一区二区| 男人添女人高潮全过程视频| 视频中文字幕在线观看| 人体艺术视频欧美日本| 国产中年淑女户外野战色| 少妇丰满av| 国产大屁股一区二区在线视频| 一级片'在线观看视频| 人妻一区二区av| 王馨瑶露胸无遮挡在线观看| 日韩人妻高清精品专区| 欧美丝袜亚洲另类| 日韩制服骚丝袜av| 国产伦精品一区二区三区四那| 一级二级三级毛片免费看| 免费av不卡在线播放| 禁无遮挡网站| 日韩av不卡免费在线播放| 亚洲av不卡在线观看| av又黄又爽大尺度在线免费看| 赤兔流量卡办理| 欧美激情在线99| 亚洲电影在线观看av| 亚洲欧美一区二区三区国产| 99热国产这里只有精品6| 大又大粗又爽又黄少妇毛片口| 中国国产av一级| av天堂中文字幕网| 在现免费观看毛片| 日本色播在线视频| 成人综合一区亚洲| 一区二区三区四区激情视频| 国产成人精品久久久久久| 成人鲁丝片一二三区免费| 亚洲国产av新网站| 国产又色又爽无遮挡免| 18禁在线无遮挡免费观看视频| 国产免费福利视频在线观看| 国产精品伦人一区二区| 777米奇影视久久| 国产探花极品一区二区| 毛片女人毛片| 免费看a级黄色片| 中文在线观看免费www的网站| 国产黄a三级三级三级人| 黄色配什么色好看| 黄色视频在线播放观看不卡| 日韩精品有码人妻一区| 80岁老熟妇乱子伦牲交| 美女内射精品一级片tv| 午夜福利在线在线| av线在线观看网站| 国产精品爽爽va在线观看网站| 黄色一级大片看看| 亚洲成人久久爱视频| 婷婷色综合大香蕉| 久久精品熟女亚洲av麻豆精品| 青青草视频在线视频观看| 肉色欧美久久久久久久蜜桃 | 久久久成人免费电影| 一级毛片aaaaaa免费看小| 日日摸夜夜添夜夜爱| 欧美精品人与动牲交sv欧美| 成年av动漫网址| 欧美少妇被猛烈插入视频| 欧美最新免费一区二区三区| 韩国av在线不卡| 我的女老师完整版在线观看| 波多野结衣巨乳人妻| a级毛片免费高清观看在线播放| 日韩欧美一区视频在线观看 | 精品午夜福利在线看| 久久久久久久国产电影| 深夜a级毛片| 中文字幕免费在线视频6| 又粗又硬又长又爽又黄的视频| 亚洲天堂国产精品一区在线| 97超视频在线观看视频| 男女那种视频在线观看| 国产亚洲91精品色在线| 波多野结衣巨乳人妻| 欧美国产精品一级二级三级 | 国产综合精华液| 黄色配什么色好看| 性色avwww在线观看| 你懂的网址亚洲精品在线观看| 禁无遮挡网站| 在线看a的网站| 亚洲精品第二区| 亚洲熟女精品中文字幕| 国产久久久一区二区三区| 久久99热这里只有精品18| 欧美高清性xxxxhd video| 国产精品国产三级国产av玫瑰| 国产一区有黄有色的免费视频| 国产欧美另类精品又又久久亚洲欧美| 日本一本二区三区精品| 大码成人一级视频| 赤兔流量卡办理| 日本爱情动作片www.在线观看| 大香蕉久久网| 婷婷色综合www| 日韩一本色道免费dvd| 欧美成人精品欧美一级黄| 免费电影在线观看免费观看| 男女那种视频在线观看| 一边亲一边摸免费视频| 亚洲精品一二三| 亚洲精品影视一区二区三区av| 一级毛片黄色毛片免费观看视频| 欧美日韩国产mv在线观看视频 | 永久免费av网站大全| 麻豆精品久久久久久蜜桃| 久久精品久久久久久噜噜老黄| 伊人久久国产一区二区| 2018国产大陆天天弄谢| 中文资源天堂在线| 亚洲精品久久午夜乱码| 三级经典国产精品| 国内精品宾馆在线| 午夜福利在线在线| 女人被狂操c到高潮| 久久久成人免费电影| 日本一本二区三区精品| 大片电影免费在线观看免费| 日日摸夜夜添夜夜添av毛片| 卡戴珊不雅视频在线播放| 永久网站在线| 国产乱来视频区| 草草在线视频免费看| 精品人妻一区二区三区麻豆| 麻豆国产97在线/欧美| 亚洲精华国产精华液的使用体验| 午夜免费鲁丝| 在线天堂最新版资源| 国产美女午夜福利| 街头女战士在线观看网站|