• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能法律主體資格研究

    2021-03-04 01:04:51王蕊王曉星
    關(guān)鍵詞:權(quán)利能力法律地位主體資格

    王蕊 王曉星

    [摘 要]人工智能究竟是否能夠具備法律主體資格,是人工智能時(shí)代法學(xué)界的重要命題。因人工智能在不同發(fā)展階段的科技含量有所不同,其法律主體資格自然不可一概而論。文章對(duì)不同類(lèi)型的人工智能分別進(jìn)行討論,提出不應(yīng)賦予弱人工智能以法律主體資格,其依然是物,而強(qiáng)人工智能有成為法律主體的可能性,權(quán)利設(shè)置也具有法律上的有限性。同時(shí)對(duì)強(qiáng)人工智能的法律地位問(wèn)題提出保護(hù)措施與制度規(guī)范,為我國(guó)大力發(fā)展人工智能的強(qiáng)國(guó)戰(zhàn)略掃清法律難題。

    [關(guān)鍵詞]人工智能;主體資格;法律地位;權(quán)利能力

    [中圖分類(lèi)號(hào)]D923??? [文獻(xiàn)標(biāo)志碼]A?? [文章編號(hào)]2095-0292(2021)06-0082-06

    [收稿日期]2021-09-12

    [基金項(xiàng)目]河南省法學(xué)會(huì)法理法史學(xué)研究會(huì)一般項(xiàng)目“緊急狀態(tài)下個(gè)人隱私權(quán)的限制與保障”(20HNFLFSS011)

    [作者簡(jiǎn)介]王蕊,鄭州大學(xué)法學(xué)院(知識(shí)產(chǎn)權(quán)學(xué)院)碩士研究生,研究方向:法學(xué)理論;王曉星,河南警察學(xué)院講師,研究方向:民商法。

    一、人工智能可否具備法律主體資格

    (一)問(wèn)題的提出

    1956年,人工智能一詞第一次被公開(kāi)提出。AlphaGo在與圍棋大師李世石的圍棋對(duì)戰(zhàn)中表現(xiàn)得更勝一籌、歷史上第一位公民機(jī)器人索菲亞的誕生、俄羅斯總統(tǒng)普京于2019年10月宣布人工智能領(lǐng)域的國(guó)家戰(zhàn)略等等,無(wú)不體現(xiàn)了人工智能對(duì)當(dāng)代生活的影響之重大,人工智能在法律、金融、工業(yè)、服務(wù)、醫(yī)療等多個(gè)領(lǐng)域的高度關(guān)注之下,正漸漸地對(duì)個(gè)人、社會(huì)和法律產(chǎn)生深刻的影響[1](P152-152)。

    自然人若要有效地管制人工智能,除了科技,最重要的就是法律。然而,法律為了保持社會(huì)秩序的穩(wěn)定,并不會(huì)輕易改變,人工智能發(fā)展快速而產(chǎn)生的一系列不在現(xiàn)有法律調(diào)整范圍內(nèi)的問(wèn)題亟待解決,具備學(xué)習(xí)能力和獨(dú)立決策能力的人工智能或?qū)⒊霈F(xiàn),向傳統(tǒng)民法的“人—物”二分法發(fā)起了巨大挑戰(zhàn)。

    研究法律是否應(yīng)當(dāng)賦予人工智能主體資格,符合我國(guó)全力發(fā)展人工智能的國(guó)情。國(guó)務(wù)院在2017年提出,應(yīng)當(dāng)明確界定人工智能主體問(wèn)題,明確人工智能相關(guān)權(quán)利、義務(wù)和責(zé)任。

    《國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》(國(guó)發(fā)〔2017〕35號(hào))提出相關(guān)問(wèn)題的探討應(yīng)當(dāng)為新興事物的發(fā)展預(yù)留適當(dāng)制度空間。在不遠(yuǎn)的未來(lái),交通、醫(yī)療、服務(wù)等方面的人工智能例如自動(dòng)駕駛汽車(chē)[2](P168-173),極有可能替代自然人擔(dān)任許多職位,成為未來(lái)社會(huì)的“最強(qiáng)大腦”。在這種情況下,最迫在眉睫的法律問(wèn)題就是怎樣面對(duì)人工智能相關(guān)的法律問(wèn)題,由人工智能創(chuàng)作的作品知識(shí)產(chǎn)權(quán)如何認(rèn)定?由人工智能造成的損害后果侵權(quán)責(zé)任何以劃分?如何將人工智能的發(fā)展與社會(huì)主義法治建設(shè)有機(jī)融合?問(wèn)題的解決離不開(kāi)人工智能機(jī)器人之主體資格這一基石性焦點(diǎn)的研究。人工智能可否被賦予主體資格、能否成為法律主體,是否應(yīng)當(dāng)繼續(xù)作為客體存在,將成為人工智能時(shí)代法學(xué)界亟待解決的關(guān)鍵問(wèn)題。

    (二)國(guó)內(nèi)外研究現(xiàn)狀

    對(duì)人工智能法律主體資格問(wèn)題的探討不絕于耳,各學(xué)者觀點(diǎn)摩擦碰撞,各有所長(zhǎng)。通過(guò)查閱大量相關(guān)文獻(xiàn)資料,歸納國(guó)內(nèi)學(xué)界、司法界、立法界的論爭(zhēng)大致如下:

    首先,國(guó)內(nèi)外大多數(shù)學(xué)者的主流意見(jiàn)是,人工智能不具備擁有法律主體資格的條件。反對(duì)論者理由有三,第一是當(dāng)前人工智能相關(guān)法律困擾足以在現(xiàn)有法律體系下進(jìn)行解決,把人工智能認(rèn)定歸納入法律客體范疇足矣;第二是人工智能并不具備生物學(xué)上“人”的特性,納入法律主體范圍有違倫理[3](P24-31);第三是人工智能法律問(wèn)題可以尋求“可替代方案”,而不是重塑現(xiàn)有的法律框架。筆者以為,部分學(xué)者并沒(méi)有用比較分析的眼光去對(duì)待人工智能發(fā)展問(wèn)題。人工智能自主性特征的具備與否決定著其法律主體資格的賦予,不能簡(jiǎn)單地將人工智能機(jī)器人歸入法律客體范疇,因其在本體特點(diǎn)上與其余受動(dòng)客體擁有實(shí)質(zhì)性區(qū)別[4](P109-121)。同時(shí),人工智能的發(fā)展突飛猛進(jìn),而法律的制定必須具有前瞻性,這就決定了關(guān)于人工智能的法律是一部未來(lái)法?,F(xiàn)階段人工智能的局限性或許在不遠(yuǎn)的將來(lái)就會(huì)被突破,所以現(xiàn)階段人工智能的局限性并不能成為承認(rèn)人工智能主體資格的障礙。

    其次,不同于反對(duì)論者對(duì)人工智能保守的看法和觀點(diǎn),肯定論者和折衷論者認(rèn)為,人工智能機(jī)器人已然具備或未來(lái)即將具備與自然人類(lèi)似思維與行為的可能性[5](P100-110)。但是,學(xué)者們?cè)谌斯ぶ悄鼙毁x予法律主體資格的路徑、論證等因素上具有千差萬(wàn)別的觀點(diǎn),目前主要包括擬制主體說(shuō)、電子主體資格說(shuō)、有限主體資格說(shuō)等等。這些學(xué)說(shuō)無(wú)不提供了先進(jìn)性研究,但其所提出的“有限主體資格”、“擬制主體”、“行為效力限度”所指何種限度、何種范圍缺乏深刻剖析,須予以進(jìn)一步圓滿(mǎn)。

    人工智能在不同的發(fā)展階段對(duì)現(xiàn)有法律造成的沖擊自然不同。以筆者之見(jiàn),理應(yīng)對(duì)不同發(fā)展階段的人工智能主體資格分開(kāi)討論,基于此的研究和探討,其結(jié)論才更加科學(xué)、系統(tǒng)、可行。本文首先對(duì)人工智能機(jī)器人本身進(jìn)行解讀,依照國(guó)內(nèi)外學(xué)界的普遍觀點(diǎn),對(duì)人工智能進(jìn)行分類(lèi),將其劃分為弱人工智能與強(qiáng)人工智能[6](P135-143),接著以其不同類(lèi)型為切入點(diǎn),提出弱人工智能僅僅能作為法律關(guān)系的客體,而強(qiáng)人工智能可以有限地賦予其法律主體資格,并對(duì)強(qiáng)人工智能法律主體資格的保護(hù)提出理論與實(shí)踐上的路徑建議,如重視人工智能立法,設(shè)立立案登記制等等。為人工智能在我國(guó)更好地發(fā)展而助力,為我國(guó)法律體系更加完善更加系統(tǒng)而助力。

    二、弱人工智能:不具備法律主體的條件

    (一)弱人工智能的界定及特征

    由弱人工智能的定義弱人工智能,是指不能真正地推理和解決問(wèn)題的智能機(jī)器,這些機(jī)器只不過(guò)看起來(lái)像是智能的,但是并不真正擁有智能,也不會(huì)有自主意識(shí)。可知,其最大的特點(diǎn)是不具備自主意識(shí)。弱人工智能的使用者設(shè)置的程序和發(fā)出的指令是其所有行為動(dòng)機(jī)來(lái)源。從某種意義上來(lái)講,弱人工智能在生活中隨處可見(jiàn),例如被歐盟《人工智能白皮書(shū)》表示3至5年內(nèi)禁用的人臉識(shí)別技術(shù);自2017年12月深圳市首次上路行駛無(wú)人駕駛公交車(chē)以來(lái)發(fā)展得如火如荼的無(wú)人駕駛技術(shù);棋類(lèi)運(yùn)動(dòng)中大放異彩的“深藍(lán)”系統(tǒng);“阿爾法圍棋”、“智能家電”等軟件;蘋(píng)果手機(jī)內(nèi)置的智能助手Siri、甚至是能夠根據(jù)使用者不同位置自動(dòng)調(diào)節(jié)明暗度的照明設(shè)備以及智慧法院中的“AI”法律助手等都是弱人工智能。需要指出的是,弱人工智能具有以下明顯的特征:

    第一,依賴(lài)指令。弱人工智能沒(méi)有獨(dú)立的思想,也不跟自然人一樣有很強(qiáng)的行動(dòng)能力。弱人工智能活動(dòng)的實(shí)施并不是出于類(lèi)似自然人自主的意志,而是有賴(lài)于自然人設(shè)計(jì)者、訓(xùn)練者、操作者下達(dá)的具體指令[7]。指令依賴(lài)所帶來(lái)的主要后果是,弱人工智能不能隨著外部環(huán)境的變化而改變由自然人設(shè)定的原定方案,換言之,弱人工智能是承載著自然人思想的“行動(dòng)機(jī)器”。

    第二,顯著的人機(jī)區(qū)分。弱人工智能因?yàn)橐蕾?lài)指令,并不能獨(dú)自應(yīng)對(duì)復(fù)雜又多變的外部環(huán)境,正因如此,很容易將弱人工智同自然人進(jìn)行區(qū)分辨別。行為上,弱人工智能無(wú)法隨機(jī)應(yīng)變,不能做出未被寫(xiě)入行為系統(tǒng)的行為;思想上,弱人工智能沒(méi)有“自主意識(shí)”,無(wú)法進(jìn)行等同于自然人的思考過(guò)程,進(jìn)而無(wú)法感知物質(zhì)世界與精神世界;理性意義上,弱人工智能不具備意思能力和認(rèn)知能力,這導(dǎo)致弱人工智能無(wú)法能動(dòng)有效地感知世界,即使表面上做出符合道德規(guī)范的行為,也是出于設(shè)計(jì)者、訓(xùn)練者或使用者的干涉,其顯然不可能為自身設(shè)立遵循道德標(biāo)準(zhǔn)的行為準(zhǔn)則。

    第三,缺乏智力學(xué)習(xí)能力和自主創(chuàng)新能力。弱人工智能或許可能具備一定的學(xué)習(xí)能力,但是這種學(xué)習(xí)往往是自然人共同參與的結(jié)果。關(guān)于人工智能創(chuàng)作行為的本質(zhì),可分為以下三種情形:其一,人工智能的創(chuàng)作過(guò)程受自然人主導(dǎo),自然人在此創(chuàng)作過(guò)程中扮演著作者的角色,所生成的作品作者也理應(yīng)是自然人;其二,人工智能的創(chuàng)作基于自然人所提供的基礎(chǔ)數(shù)據(jù),此種情形下的作品是計(jì)算機(jī)程序經(jīng)過(guò)數(shù)據(jù)分析和算法完成所生成的運(yùn)行結(jié)果,從理論層面分析其作者為自然人[8]。

    通過(guò)對(duì)以上特征的分析,可以看出:弱人工智能不具備獨(dú)立的思維運(yùn)轉(zhuǎn)能力,其本質(zhì)是自然人思想或行為在特定載體上的投射。弱人工智能不僅無(wú)法替代自然人,同時(shí)需要依賴(lài)自然人的指令,其本質(zhì)上屬于自然人用以提高自身能力創(chuàng)造社會(huì)價(jià)值的工具。

    (二)弱人工智能法律主體資格的否定

    所謂法律主體,是指在一段法律關(guān)系中,既享有權(quán)利又承擔(dān)義務(wù)的一方。享有權(quán)利的同時(shí)承擔(dān)義務(wù)的資格,也就是法律人格??档轮鲝垼欣硇缘拇嬖诜Q(chēng)之為人,無(wú)理性而僅僅具有相對(duì)價(jià)值的存在稱(chēng)之為物[9]。人與物的劃分標(biāo)準(zhǔn)之理性應(yīng)作何理解?可將其理解為道德能力、自主認(rèn)知能力和意思表達(dá)能力的統(tǒng)一[10](P63-72)。一旦弱人工智能引發(fā)侵權(quán)問(wèn)題,若由該弱人工智能承擔(dān)法律層面的全部責(zé)任,從而讓人工智能的發(fā)明創(chuàng)造者、訓(xùn)練者、使用者免于承擔(dān)責(zé)任,筆者無(wú)法贊同。筆者認(rèn)為弱人工智能仍然只是自然人工具的延伸,并不具備法律人格,不應(yīng)承認(rèn)其法律主體資格,具體理由體現(xiàn)在以下方面:

    1.弱人工智能不具有主觀能動(dòng)性

    當(dāng)弱人工智能順利結(jié)束一整套動(dòng)作,它只是在執(zhí)行某種提前植入芯片的毫無(wú)意識(shí)的動(dòng)作,而不是通過(guò)主觀意愿而做出本身想要做出的行為。向多臺(tái)具備同一功能的弱人工智能輸入同一命令,得出的結(jié)果集合將如出一轍,這是因?yàn)槿跞斯ぶ悄艿倪\(yùn)行過(guò)程僅僅是一種無(wú)意識(shí)的、刻板的、機(jī)械的運(yùn)算行為,其并不擁有自然人對(duì)客觀世界的主觀能動(dòng)性。例如,蘋(píng)果手機(jī)自帶的系統(tǒng)語(yǔ)音助手只會(huì)根據(jù)程序的設(shè)定回答指定問(wèn)題,同一主觀性問(wèn)題由不同的人問(wèn)出,得到的回答總是由設(shè)計(jì)者寫(xiě)入的為數(shù)不多的固定回答。這就是弱人工智能機(jī)械性的直接體現(xiàn)。

    2.弱人工智能不具有自然人的情感

    弱人工智能由于其不具備主觀能動(dòng)性無(wú)法理解任務(wù)背后的真正含義,自然人所具備的同理心、對(duì)公平正義的追求、對(duì)傷害行為的諒解等人類(lèi)情感均無(wú)法在弱人工智能身上得到體現(xiàn)。這導(dǎo)致弱人工智能不能進(jìn)行非財(cái)產(chǎn)性賠償,例如侵權(quán)責(zé)任中的賠禮道歉等,再如上海法院推出的三項(xiàng)訴訟智能應(yīng)用,提供掃碼立案、網(wǎng)上調(diào)解、訴訟咨詢(xún)等多項(xiàng)智能服務(wù)為一體的訴訟服務(wù)體系,該系統(tǒng)基于程序運(yùn)行所導(dǎo)出的分析和決策支持,雖極大提高了司法效率,但其決策過(guò)程并不具有人類(lèi)的公平正義、同情、諒解等情感,運(yùn)算系統(tǒng)不會(huì)理解其意義,這僅僅是算法產(chǎn)生的機(jī)械性結(jié)果。

    綜上所述,弱人工智能由于不具備主觀能動(dòng)性和自然人的情感而無(wú)法處于法律客體之外,其并不具有享有權(quán)利和承擔(dān)義務(wù)的能力,在現(xiàn)行法律體系框架下,無(wú)需考慮對(duì)法律主體資格的賦予。

    三、強(qiáng)人工智能:有限地賦予法律主體資格

    (一)強(qiáng)人工智能的界定

    根據(jù)強(qiáng)人工智能的定義強(qiáng)人工智能,是指智能機(jī)器人能夠運(yùn)用與自然人基本相同的智慧來(lái)執(zhí)行任務(wù)。,其與弱人工智能的不同之處在于,強(qiáng)人工智能擁有自身思考能力,可以進(jìn)行推理進(jìn)而制作行為計(jì)劃,最后執(zhí)行,在某種意義上強(qiáng)人工智能已經(jīng)不屬于自然人的工具。即使當(dāng)下的人工智能技術(shù)尚未達(dá)到強(qiáng)人工智能階段[11],從法理學(xué)角度進(jìn)行剖析,未來(lái)發(fā)展出的具有主觀能動(dòng)性且能夠做出獨(dú)立意思表示的強(qiáng)人工智能有條件成為法律主體,一旦滿(mǎn)足相應(yīng)條件,則應(yīng)在一定限度內(nèi)賦予其法律主體資格。

    認(rèn)知能力是界定強(qiáng)人工智能的重要條件。認(rèn)知能力作為理性的基石性因素,具備認(rèn)知能力的存在才有資格成為法律主體[12](P10-17)。一旦人工智能擁有了認(rèn)知能力,便可以如同自然人一般地感知、聯(lián)想、記憶、思考,然而僅僅具備認(rèn)知能力,對(duì)人工智能來(lái)說(shuō)擁有法律主體資格還為時(shí)尚早。

    不僅如此,意思表示的做出是界定強(qiáng)人工智能的另一核心要素。主張“欠缺論”的學(xué)者認(rèn)為,否認(rèn)人工智能法律主體資格的重要原因之一是,人工智能身為由人類(lèi)發(fā)明創(chuàng)造的智能計(jì)算機(jī),不具備自主意識(shí)、欠缺自由心智、欠缺靈魂、無(wú)法享受權(quán)利且無(wú)承擔(dān)責(zé)任的能力,換言之,人工智能欠缺與人類(lèi)相同的意思表示[13]。可見(jiàn),意思表示能力是賦予人工智能法律主體資格的重要因子,一旦具備了意思表示能力,其同時(shí)也蘊(yùn)涵了分析、思考、決策、行動(dòng)等多個(gè)能力要素。

    同時(shí)具備認(rèn)知能力和意思表達(dá)能力的人工智能,其自主分析做出決策的能力往往會(huì)超出設(shè)計(jì)者或使用者的預(yù)期,從主觀能動(dòng)性的角度來(lái)看,強(qiáng)人工智能或已達(dá)到成為法律主體的程度。值得注意的是,隨著擁有深度學(xué)習(xí)功能的“阿爾法狗”戰(zhàn)勝人類(lèi)圍棋冠軍李世石、具備創(chuàng)作功能的人工智能生成了獨(dú)具風(fēng)格、富有商業(yè)價(jià)值的“作品”等人類(lèi)認(rèn)為其不可能完成之事的發(fā)生,人工智能的發(fā)展逐漸超乎人類(lèi)的想象。在科技強(qiáng)國(guó)的發(fā)展面前,僅就法規(guī)技術(shù)而言,不能單以倫理、道德或者哲學(xué)等觀點(diǎn)對(duì)強(qiáng)人工智能的界定加以限制,而理應(yīng)注重到人工智能與設(shè)計(jì)者、訓(xùn)練者和使用者等自然人所做出的意思表示和蘊(yùn)涵范圍有其務(wù)實(shí)性的一面,這要取決于人工智能在具體應(yīng)用中各個(gè)領(lǐng)域的實(shí)際運(yùn)作情況[14](P240-253)。

    (二)賦予強(qiáng)人工智能法律主體資格的必要性

    日本有部分學(xué)者的觀點(diǎn)是承認(rèn)除自然人之外的法律主體的存在,日本民法學(xué)家星野英一在分析法律主體的意義時(shí)指出,即使是面對(duì)人以外的存在,有關(guān)于適合作為法律上權(quán)利義務(wù)之主體的概念,也應(yīng)當(dāng)?shù)玫匠姓J(rèn)[15]。在人工智能迅速發(fā)展的當(dāng)今時(shí)代,一些新出現(xiàn)的事物難免會(huì)與現(xiàn)行法律產(chǎn)生沖突,所以,法學(xué)研究者應(yīng)當(dāng)把目光放長(zhǎng)遠(yuǎn),考慮到人工智能在今后的發(fā)展?fàn)顩r。只有這樣,才能為人工智能的良好健康發(fā)展打好法律基礎(chǔ)。承認(rèn)強(qiáng)人工智能法律地位的必要性可從以下角度展開(kāi)。

    1.人工智能發(fā)展的需要

    國(guó)務(wù)院已提出,人工智能技術(shù)將引領(lǐng)未來(lái),要加強(qiáng)出臺(tái)一系列政策和規(guī)劃,努力在當(dāng)今國(guó)際科技的激烈競(jìng)爭(zhēng)中占得主導(dǎo)權(quán)《國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》(國(guó)發(fā)〔2017〕35號(hào))。。伴隨著科學(xué)技術(shù)的迅速崛起和廣泛應(yīng)用,人工智能在社會(huì)生活中起著越來(lái)越重要的作用,人工智能本身的發(fā)展日新月異。盡管已經(jīng)經(jīng)過(guò)了半個(gè)多世紀(jì)的發(fā)展,人工智能依然需要跟進(jìn)社會(huì)發(fā)展得步伐。如上文所述,在不遠(yuǎn)的未來(lái),一旦迎來(lái)強(qiáng)人工智能時(shí)代,人工智能會(huì)在許多領(lǐng)域創(chuàng)造出超乎想象的社會(huì)效益,如交通、美容、醫(yī)療等領(lǐng)域[16]。因此,有限地賦予強(qiáng)人工智能的法律主體資格,是在為未來(lái)人工智能的進(jìn)一步發(fā)展和科技強(qiáng)國(guó)的穩(wěn)步崛起奠定堅(jiān)實(shí)的法律基礎(chǔ)。

    2.社會(huì)發(fā)展進(jìn)步的要求

    人工智能的快速發(fā)展可以對(duì)諸如計(jì)算機(jī)、物聯(lián)網(wǎng)、互聯(lián)網(wǎng)等行業(yè)起到推波助瀾的作用。二者相互促進(jìn),相得益彰[17]。以科技帶動(dòng)社會(huì)的發(fā)展,以法律促進(jìn)科技的進(jìn)步。例如將人工智能和互聯(lián)網(wǎng)相結(jié)合的智慧法院,雖然目前智慧法院對(duì)人工智能的運(yùn)用仍處于初級(jí)階段,但不排除強(qiáng)人工智能時(shí)代由機(jī)器人充當(dāng)律師甚至法官角色的可能性。因此,為了更好地促進(jìn)社會(huì)生產(chǎn)力的增長(zhǎng),更好地適應(yīng)經(jīng)濟(jì)社會(huì)的發(fā)展趨勢(shì),更好地促進(jìn)我國(guó)智慧司法體系的更新和完善,應(yīng)當(dāng)在一定限度內(nèi)適當(dāng)肯定強(qiáng)人工智能的法律主體資格。在如今人工智能相關(guān)的法律法規(guī)調(diào)整跟不上其發(fā)展速度的大背景下,賦予強(qiáng)人工智能以法律主體資格是大力發(fā)展人工智能強(qiáng)國(guó)戰(zhàn)略的重要意涵。

    3.自然人權(quán)益保護(hù)的重要舉措

    一旦步入強(qiáng)人工智能時(shí)代,自然人與人工智能之間就不再是法律主體與法律客體的關(guān)系了。自然人為了自身的進(jìn)步,一方面不斷地對(duì)人工智能進(jìn)行更迭換代,另一方面也在逐漸地改變著自己的生活方式。無(wú)論是搬運(yùn)工、快遞員等體力工作者還是法官、會(huì)計(jì)等腦力工作者,都將面臨被人工智能取代其職位的威脅。與此同時(shí),強(qiáng)人工智能的出現(xiàn)可以代替自然人完成一些我們很難做到的高難度工作??梢?jiàn),人工智能發(fā)展并崛起的速度是足夠快的,遠(yuǎn)遠(yuǎn)超過(guò)了自然人自身的進(jìn)化速度,這令人不得不擔(dān)心,是否在不遠(yuǎn)的將來(lái),人工智能悄無(wú)聲息地改變了我們的思維模式和生活方式。一旦事實(shí)如此,人工智能的肆意生長(zhǎng)就可能為我們?cè)斐蔁o(wú)法預(yù)料的威脅。因此,在人工智能尚且處在弱人工智能階段的今天,出于法律的滯后性考慮,在適當(dāng)限度內(nèi)承認(rèn)強(qiáng)人工智能的法律地位不僅可以規(guī)制人工智能技術(shù)的健康有序發(fā)展,同時(shí)有效地降低人工智能時(shí)代對(duì)自然人生存帶來(lái)的風(fēng)險(xiǎn)。

    (三)賦予強(qiáng)人工智能法律主體資格的有限性

    強(qiáng)人工智能作為特殊法律主體,具備理性認(rèn)識(shí)以及意思表示能力,在未來(lái)發(fā)展?jié)M足相應(yīng)條件的前提下,應(yīng)當(dāng)有限承認(rèn)其法律主體地位[18](P20-31),這種有限性主要體現(xiàn)在其所享有的權(quán)利有限。

    出于強(qiáng)人工智能特殊性考慮,即使在滿(mǎn)足相應(yīng)條件對(duì)其法律主體資格予以承認(rèn)時(shí),也應(yīng)著重限制其部分權(quán)利,譬如選舉權(quán)和被選舉權(quán)等政治權(quán)利,以避免人工智能對(duì)自然人社會(huì)造成更大威脅。換言之,即使是擁有法律主體資格的強(qiáng)人工智能,在成為憲法主體時(shí)也應(yīng)面臨更嚴(yán)謹(jǐn)?shù)姆上拗啤Ec此同時(shí),出于生物倫理安全的考慮,人工智能在婚姻家庭方面也將面臨著法律限制。

    由此看來(lái),即便符合了賦予其法律主體資格的條件,強(qiáng)人工智能的法律主體地位也是十分受限的。作為私法主體,其受到倫理、道德、生物學(xué)方面的限制,作為公法主體,強(qiáng)人工智能很難同自然人一樣參與到方方面面的社會(huì)生活中。

    四、人工智能法律主體資格的規(guī)范路徑

    法學(xué)是一門(mén)實(shí)踐的科學(xué)[19](P89-99),法律主體資格的賦予與否不能僅局限于理論研究,也應(yīng)當(dāng)重視在實(shí)務(wù)中的可操作性。智能時(shí)代的到來(lái)極大改變了自然人的生活模式和思維方式,但人們對(duì)人工智能的未來(lái)發(fā)展很難進(jìn)行準(zhǔn)確的預(yù)測(cè),這不僅會(huì)引發(fā)一系列諸如知識(shí)產(chǎn)權(quán)、侵權(quán)責(zé)任等法律糾紛,也會(huì)衍生出相關(guān)的道德問(wèn)題。綜合上文所述,在人工智能不同的發(fā)展階段中,其所具備的科技性、能動(dòng)性、主觀性有所不同,因此當(dāng)人工智能處于不同發(fā)展階段其法律主體資格也不可一概而論,對(duì)于弱人工智能不應(yīng)賦予法律上的主體資格,而對(duì)于強(qiáng)人工智能有必要賦予其有限的法律主體資格。即便人工智能當(dāng)前仍處于弱人工智能階段,但為了有效解決時(shí)代快速發(fā)展、科技飛速進(jìn)步可能會(huì)產(chǎn)生的法律問(wèn)題,對(duì)有必要具備法律主體資格的強(qiáng)人工智能采取保護(hù)及規(guī)范措施,是當(dāng)前大力發(fā)展人工智能、推進(jìn)科技強(qiáng)國(guó)建設(shè)和法治國(guó)家建設(shè)的重要意涵。

    (一)重視人工智能相關(guān)立法研究

    近幾年來(lái),我國(guó)對(duì)工業(yè)機(jī)器人的消費(fèi)在國(guó)際上一直名列前茅,然而,人工智能使用率的增加并沒(méi)有伴隨著相關(guān)法律法規(guī)的規(guī)范與保護(hù),我國(guó)迄今為止尚未制定較為完整的人工智能法律規(guī)范。在國(guó)務(wù)院提出的發(fā)展規(guī)劃中2017年7月8日,國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》,將人工智能發(fā)展定位為我國(guó)戰(zhàn)略產(chǎn)業(yè),分為三步發(fā)展,第一步就是要加快人工智能核心技術(shù)的研發(fā)應(yīng)用,然后再逐步建立人工智能法律法規(guī)與相應(yīng)監(jiān)管以最大限度降低風(fēng)險(xiǎn)。,我國(guó)已經(jīng)提出以分步走的方式建立健全人工智能相關(guān)法律規(guī)范的戰(zhàn)略目標(biāo),但并未提出具體的可行性建議。在人工智能越來(lái)越普遍且功能越來(lái)越強(qiáng)大的今天,如何解決人工智能帶來(lái)的法學(xué)難題,如何構(gòu)建人工智能體系化法律規(guī)范,成為法學(xué)界迫在眉睫的研究焦點(diǎn)。

    《數(shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》先后通過(guò),人工智能相關(guān)立法也已提上日程。在發(fā)展迅速的智能時(shí)代,應(yīng)當(dāng)加快建立健全人工智能相關(guān)法律制度,對(duì)不同發(fā)展階段的人工智能分別進(jìn)行法律上的明確規(guī)定,在法律層面明確承認(rèn)人工智能的主體地位,從而為人工智能技術(shù)的發(fā)展提供法律保障,為學(xué)界對(duì)其的研究與探討提供話語(yǔ)基礎(chǔ)。

    (二)賦予權(quán)利與限制權(quán)利齊頭并進(jìn)

    綜合上文所述,強(qiáng)人工智能相對(duì)而言具有較強(qiáng)的自主性和能動(dòng)性,其法律主體資格在一定程度上應(yīng)當(dāng)被承認(rèn)。在合理范圍內(nèi),其理應(yīng)享有相應(yīng)的法律權(quán)利,面對(duì)我國(guó)現(xiàn)行法律體系對(duì)人工智能相關(guān)規(guī)定的缺乏,強(qiáng)人工智能的法律權(quán)利明確、權(quán)利限度設(shè)置等法學(xué)難題亟待解決。強(qiáng)人工智能權(quán)利的賦予應(yīng)當(dāng)遵循擬人性、必要性原則。

    強(qiáng)人工智能在合理范圍內(nèi)被賦予的法律權(quán)利應(yīng)當(dāng)具有擬人性。其最大特征是享有被尊重對(duì)待的權(quán)利,因強(qiáng)人工智能與一般法學(xué)意義上的“物”有所不同,除了自我深度學(xué)習(xí)能力、自主意識(shí)、能動(dòng)性之外,強(qiáng)人工智能具備辨認(rèn)和控制能力,熟悉人類(lèi)社會(huì)的倫理、規(guī)則,故其不應(yīng)被視作奴隸、犯罪工具等不具尊嚴(yán)的存在。

    強(qiáng)人工智能法律權(quán)利的賦予應(yīng)當(dāng)遵循必要性原則。當(dāng)且僅當(dāng)人工智能相關(guān)法律關(guān)系亟待其相關(guān)權(quán)利的設(shè)定時(shí),其法律權(quán)利方可被賦予,除此之外,強(qiáng)人工智能的法律權(quán)利應(yīng)當(dāng)被嚴(yán)格設(shè)置限度。無(wú)論是當(dāng)前學(xué)界討論的“肯定式例舉”還是“否定式例舉”,對(duì)強(qiáng)人工智能法律權(quán)利的周延性都難以作出嚴(yán)謹(jǐn)具體的規(guī)定,基于此,筆者認(rèn)為部分學(xué)者提出的“法律保留”的限定方式具有較強(qiáng)可行性。譬如可通過(guò)法律保留的做法對(duì)人工智能的政治權(quán)利加以限制,如選舉權(quán)和被選舉權(quán)等,通過(guò)法律保留將其自由權(quán)限制在對(duì)自然人有利的界限以?xún)?nèi)。從人工智能設(shè)計(jì)研發(fā)的初衷以及霍金對(duì)人工智能與人類(lèi)未來(lái)的預(yù)言角度來(lái)看,對(duì)強(qiáng)人工智能法律權(quán)利的限制一定程度上避免了人類(lèi)所憂慮的人工智能危機(jī)。

    可見(jiàn),賦予權(quán)利與限制權(quán)利齊頭并進(jìn),是研究人工智能法律權(quán)利問(wèn)題的關(guān)鍵。我們?cè)诔姓J(rèn)強(qiáng)人工智能法律主體資格的同時(shí),也要意識(shí)到對(duì)其法律權(quán)利加以限制的必要性。這不僅有利于完善人工智能相關(guān)法的制度設(shè)計(jì),同時(shí)為人工智能的長(zhǎng)遠(yuǎn)發(fā)展構(gòu)建了穩(wěn)固基石。

    (三)實(shí)施強(qiáng)人工智能備案制

    法律基于穩(wěn)定性的需要不可隨意改動(dòng),智能時(shí)代,其穩(wěn)定性難免導(dǎo)致法律跟不上時(shí)代發(fā)展的步伐,這種滯后性導(dǎo)致現(xiàn)行法律體系無(wú)法同人工智能等新興事物相契合。在發(fā)展迅速的人工智能時(shí)代,出于法律的滯后性考慮,學(xué)界需要以預(yù)判的目光審視當(dāng)下、展望未來(lái)。為適應(yīng)我國(guó)大力發(fā)展人工智能的需要,推進(jìn)人工智能技術(shù)健康茁壯發(fā)展,夯實(shí)制度基礎(chǔ)是明確人工智能法律主體地位的題中應(yīng)有之義。

    在探索與人工智能相關(guān)法律問(wèn)題的制度構(gòu)建道路中,人工智能備案制無(wú)疑是最熠熠生輝的指路牌之一。承認(rèn)強(qiáng)人工智能的法律主體資格,自然伴隨著相關(guān)法律法規(guī)的建立健全和具體制度的構(gòu)建與實(shí)施,實(shí)行人工智能備案制度,需要法律法規(guī)及相關(guān)部門(mén)設(shè)立標(biāo)準(zhǔn),以不同的身份識(shí)別標(biāo)識(shí)對(duì)符合條件的強(qiáng)人工智能逐一登記備案,便于以數(shù)據(jù)或編碼的不同對(duì)其進(jìn)行識(shí)別。對(duì)強(qiáng)人工智能實(shí)施登記備案,不僅有利于明確人工智能相關(guān)法律問(wèn)題中各方權(quán)利義務(wù),保障法律責(zé)任的清晰劃分,同時(shí)為人工智能法律主體地位的賦予提供了制度保障。

    足以見(jiàn)得,法學(xué)學(xué)者要正視法律的滯后性特點(diǎn),用稍具超前的學(xué)科眼光審視人工智能的法律主體資格問(wèn)題,在此基礎(chǔ)上充分認(rèn)識(shí)到賦予人工智能法律地位的必要性和可行性,為人工智能的發(fā)展道路掃清法律障礙。

    (四)保護(hù)制造強(qiáng)人工智能的核心技術(shù)

    現(xiàn)實(shí)中,部分人工智能會(huì)做出諸多對(duì)自然人不利的行為舉動(dòng),例如削面機(jī)器人突然攻擊自然人,掃地機(jī)器人向主人發(fā)出語(yǔ)音恐嚇,智能駕駛汽車(chē)脫離控制引發(fā)交通事故等行為。而這些對(duì)自然人不利的情況,不排除由于其研發(fā)者動(dòng)機(jī)不純,故意為人工智能設(shè)計(jì)出不利舉動(dòng)的可能性。未來(lái)人工智能會(huì)如何發(fā)展,很大程度上決定于人工智能研發(fā)者和設(shè)計(jì)者的想法。假設(shè)一位致力于違法犯罪的犯罪分子掌握了強(qiáng)人工智能技術(shù),后果簡(jiǎn)直不堪設(shè)想。那些存在于科幻片中的畫(huà)面或許某天會(huì)在現(xiàn)實(shí)中上演。當(dāng)然,這不代表著自然人要抑制人工智能的發(fā)展,而是要在推進(jìn)人工智能發(fā)展的同時(shí),牢牢保護(hù)好核心技術(shù)。我們可以設(shè)立強(qiáng)人工智能核心技術(shù)專(zhuān)門(mén)保護(hù)機(jī)關(guān);對(duì)剽竊強(qiáng)人工智能核心技術(shù)的行為予以嚴(yán)厲打擊;提高人工智能研發(fā)者的法律意識(shí)和道德感等等。與此同時(shí),提高研發(fā)者的法律意識(shí)和責(zé)任感,對(duì)于未來(lái)人工智能的建設(shè)十分重要。只有如此,我們才能保障人工智能時(shí)代的和平與美好。

    五、結(jié)語(yǔ)

    人們?cè)谙硎苋斯ぶ悄芩鶐?lái)的便利與美好的同時(shí),也要預(yù)料到人工智能的快速發(fā)展可能會(huì)帶來(lái)的法律風(fēng)暴,防患于未然,合理防范各種風(fēng)險(xiǎn)的發(fā)生[20](P14-19)。討論人工智能的主體資格賦予問(wèn)題,不僅有助于為人工智能技術(shù)的發(fā)展道路掃除法律障礙,同時(shí)為推進(jìn)我國(guó)法律體系的逐步完善和更新提供助力。多學(xué)科多角度的研討分析,一定程度上將促進(jìn)我國(guó)引領(lǐng)世界人工智能新潮流的發(fā)展進(jìn)程。面對(duì)不同發(fā)展階段的人工智能,我們需要制定和完善人工智能相關(guān)的法律法規(guī),對(duì)不同類(lèi)型的人工智能予以明確的區(qū)別,并在法律上賦予二者不同的法律主體資格。一方面繼續(xù)把弱人工智能當(dāng)作法律上的物,即法律客體,另一方面承認(rèn)強(qiáng)人工智能有限的法律主體地位,同時(shí)承認(rèn)其法律主體資格的有限性,使其作為法律主體參與到法律關(guān)系中,充分發(fā)揮強(qiáng)人工智能不同于自然人的優(yōu)勢(shì),利用科技的進(jìn)步帶動(dòng)自然人社會(huì)的發(fā)展,同時(shí)促進(jìn)我國(guó)法律體系不斷地更新和完善。與此同時(shí),強(qiáng)人工智能的法律認(rèn)定標(biāo)準(zhǔn)及其在道德、倫理和哲學(xué)層面的剖析,亟待學(xué)界開(kāi)展更深層次的法學(xué)研究。

    [參 考 文 獻(xiàn)]

    [1]紀(jì)明政.人工智能與智能機(jī)器人探析[J].中國(guó)科技縱橫,2013(13).

    [2]樸宗根,楊玥.人工智能法律主體資格之刑法評(píng)判[J].南京師范大學(xué)學(xué)報(bào):哲學(xué)社會(huì)科學(xué)版,2019(5).

    [3]龍文懋.人工智能法律主體地位的法哲學(xué)思考[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2018(5).

    [4]驍克.論人工智能法律主體的法哲學(xué)基礎(chǔ)[J].政治與法律,2021(4).

    [5]徐文.反思與優(yōu)化:人工智能時(shí)代法律人格賦予標(biāo)準(zhǔn)論[J].西南民族大學(xué)學(xué)報(bào):人文社科版,2018(7).

    [6]程龍.從法律人工智能走向人工智能法學(xué):目標(biāo)與路徑[J].湖北社會(huì)科學(xué),2018(6).

    [7]章琪.人工智能——機(jī)器人專(zhuān)題(下):機(jī)器人和法律[J].世界科學(xué),2015(1).

    [8]李菊丹.“人工智能創(chuàng)作物”有沒(méi)有著作權(quán)[N].經(jīng)濟(jì)參考報(bào),2018(8).

    [9]伊曼努爾·康德.康德著作全集:第4卷[M].李秋零,譯.北京:中國(guó)人民大學(xué)出版社,2005.

    [10]王重堯.人工智能法律主體資格的法理學(xué)分析[J].河南財(cái)經(jīng)政法大學(xué)學(xué)報(bào),2019(3).

    [11]房紹坤,林廣會(huì).人工智能法律主體適格性之辨思[J].蘇州大學(xué)學(xué)報(bào):哲學(xué)社會(huì)科學(xué)版,2018(5).

    [12]孫占利.智能機(jī)器人法律人格問(wèn)題論析[J].東方法學(xué),2018(3).

    [13]GerhardWagner.Robot,Inc:PersonhoodforAutonomousSystems[M].NewYork:fordham.rev,2019(88).

    [14]朱凌珂.賦予強(qiáng)人工智能法律主體地位的路徑與限度[J].廣東社會(huì)科學(xué),2021(5).

    [15]星野英一.私法中的人[M].王闖,譯.北京:中國(guó)法制出版社,2004.

    [16]尤瓦爾.赫拉利.未來(lái)簡(jiǎn)史:從智人到智神[M].林俊宏,譯.北京:中信出版集團(tuán),2017.

    [17]克勞斯·施瓦布.第四次工業(yè)革命:轉(zhuǎn)型的力量[M].李菁,譯.北京:中信出版社,2016.

    [18]郭明龍,王菁.人工智能法律人格賦予之必要性辨析[J].交大法學(xué),2019(3).

    [19]舒國(guó)瀅.法學(xué)是一門(mén)什么樣的學(xué)問(wèn)?——從古羅馬時(shí)期的Jurisprudentia談起[J].清華法學(xué),2013(1).

    [20]李帥.人工智能威脅論:邏輯考察與哲學(xué)辨析[J].東北大學(xué)學(xué)報(bào):社會(huì)科學(xué)版,2019(1).

    [責(zé)任編輯 孫蘭瑛]

    猜你喜歡
    權(quán)利能力法律地位主體資格
    羅馬法權(quán)利能力制度試論
    ——兼論平等理念下現(xiàn)代法的權(quán)利能力
    權(quán)利能力概念的法律技術(shù)意義
    論法人權(quán)利能力的平等與限制
    環(huán)境污染侵權(quán)案件實(shí)務(wù)中的問(wèn)題研究
    高校學(xué)生管理中大學(xué)生人格權(quán)的保護(hù)
    完善我國(guó)現(xiàn)行合伙制度的構(gòu)想
    公司設(shè)立中發(fā)起人的主體資格該如何認(rèn)定?
    人間(2016年30期)2016-12-03 20:28:29
    從“成路15輪”看保險(xiǎn)經(jīng)紀(jì)人的法律地位和義務(wù)
    死者權(quán)益維護(hù)與法律適用
    論間接義務(wù)
    欧美日韩黄片免| 国产精品嫩草影院av在线观看 | 两个人的视频大全免费| 看免费成人av毛片| 又爽又黄无遮挡网站| 51国产日韩欧美| 俺也久久电影网| 给我免费播放毛片高清在线观看| а√天堂www在线а√下载| 精品久久久久久久久亚洲 | 久久久色成人| 欧美日韩国产亚洲二区| 午夜视频国产福利| 搡老熟女国产l中国老女人| 免费看光身美女| 亚洲va日本ⅴa欧美va伊人久久| 欧美日本视频| 在线观看66精品国产| 国产黄片美女视频| 免费在线观看影片大全网站| 精品一区二区三区视频在线观看免费| 日本黄色视频三级网站网址| 亚洲 国产 在线| 国产午夜福利久久久久久| 又紧又爽又黄一区二区| 欧美人与善性xxx| 国产亚洲精品综合一区在线观看| 午夜久久久久精精品| 一区二区三区免费毛片| 久久午夜福利片| 国产欧美日韩一区二区精品| 欧美xxxx性猛交bbbb| 日本一二三区视频观看| 最近视频中文字幕2019在线8| 亚洲国产精品sss在线观看| 精品人妻视频免费看| 午夜福利高清视频| 国产老妇女一区| 国产黄片美女视频| 不卡一级毛片| 身体一侧抽搐| 久久精品91蜜桃| 国产高清视频在线播放一区| 成人av一区二区三区在线看| 久久久久久久久中文| a级毛片a级免费在线| 欧美一区二区国产精品久久精品| а√天堂www在线а√下载| 99久久精品国产国产毛片| 免费在线观看成人毛片| 特大巨黑吊av在线直播| 别揉我奶头 嗯啊视频| 国产色爽女视频免费观看| 人妻制服诱惑在线中文字幕| 999久久久精品免费观看国产| 亚洲成人精品中文字幕电影| 色吧在线观看| 中文字幕熟女人妻在线| videossex国产| 午夜激情欧美在线| 成人亚洲精品av一区二区| 乱码一卡2卡4卡精品| 国产成人a区在线观看| 免费看光身美女| 婷婷精品国产亚洲av在线| 少妇被粗大猛烈的视频| 变态另类丝袜制服| 国产av不卡久久| 免费看美女性在线毛片视频| 欧美色视频一区免费| 中文字幕免费在线视频6| 国产精品电影一区二区三区| 亚洲色图av天堂| 人人妻人人澡欧美一区二区| 婷婷色综合大香蕉| 国产精品爽爽va在线观看网站| 免费人成视频x8x8入口观看| 国产成人av教育| 中文字幕久久专区| 老熟妇乱子伦视频在线观看| 村上凉子中文字幕在线| 床上黄色一级片| 岛国在线免费视频观看| 精品无人区乱码1区二区| 老司机午夜福利在线观看视频| 国产探花在线观看一区二区| 又黄又爽又免费观看的视频| 大型黄色视频在线免费观看| 日本精品一区二区三区蜜桃| 免费大片18禁| 亚洲黑人精品在线| bbb黄色大片| 成人鲁丝片一二三区免费| 一进一出抽搐动态| 日本黄色片子视频| 国产av一区在线观看免费| 国产精品一区www在线观看 | 亚洲三级黄色毛片| 老司机深夜福利视频在线观看| 老熟妇仑乱视频hdxx| 国产真实伦视频高清在线观看 | 少妇人妻精品综合一区二区 | h日本视频在线播放| 日本成人三级电影网站| 日本熟妇午夜| 亚洲va在线va天堂va国产| 成人特级av手机在线观看| 99热网站在线观看| 午夜a级毛片| 国产精品自产拍在线观看55亚洲| 精品久久久久久久久av| 国产精品久久久久久精品电影| 成人国产麻豆网| 一级a爱片免费观看的视频| 人人妻,人人澡人人爽秒播| 国产乱人视频| 精品一区二区三区人妻视频| 亚洲人成网站在线播放欧美日韩| 成年版毛片免费区| 欧美绝顶高潮抽搐喷水| 中国美白少妇内射xxxbb| 欧美潮喷喷水| 国产大屁股一区二区在线视频| 蜜桃久久精品国产亚洲av| 国产精品永久免费网站| 国产高清三级在线| 日韩大尺度精品在线看网址| 99热精品在线国产| 午夜免费男女啪啪视频观看 | 日本撒尿小便嘘嘘汇集6| 夜夜夜夜夜久久久久| 成人二区视频| 老司机午夜福利在线观看视频| 亚洲男人的天堂狠狠| 国产av一区在线观看免费| 淫妇啪啪啪对白视频| 中文资源天堂在线| 国产精品乱码一区二三区的特点| 日本熟妇午夜| 波野结衣二区三区在线| 不卡视频在线观看欧美| 国产老妇女一区| 亚洲成人中文字幕在线播放| 99久久精品热视频| 少妇裸体淫交视频免费看高清| 免费人成视频x8x8入口观看| 久久久国产成人免费| 国产精品伦人一区二区| 国产av麻豆久久久久久久| 老熟妇乱子伦视频在线观看| 日韩欧美国产一区二区入口| av天堂在线播放| 男人舔女人下体高潮全视频| 亚洲熟妇熟女久久| 狂野欧美激情性xxxx在线观看| 亚洲aⅴ乱码一区二区在线播放| 日本一二三区视频观看| 国产亚洲欧美98| 熟女人妻精品中文字幕| 成人鲁丝片一二三区免费| 级片在线观看| 精品久久久久久久久久免费视频| 国产亚洲精品综合一区在线观看| 天天一区二区日本电影三级| 身体一侧抽搐| 一区福利在线观看| 久久久久久久久久黄片| 琪琪午夜伦伦电影理论片6080| 国产伦人伦偷精品视频| 久久亚洲真实| 精品一区二区三区视频在线| 欧美中文日本在线观看视频| 国产精品野战在线观看| av在线亚洲专区| 国产精品亚洲一级av第二区| 欧美+亚洲+日韩+国产| 丰满的人妻完整版| 变态另类丝袜制服| 中亚洲国语对白在线视频| 色精品久久人妻99蜜桃| 国产淫片久久久久久久久| 热99re8久久精品国产| 别揉我奶头 嗯啊视频| 欧美日本视频| 九九在线视频观看精品| av天堂在线播放| 88av欧美| 少妇裸体淫交视频免费看高清| 搡老妇女老女人老熟妇| 久久久久国内视频| 免费看日本二区| 精品一区二区三区av网在线观看| 少妇的逼水好多| 国内精品一区二区在线观看| 亚洲人成网站在线播放欧美日韩| ponron亚洲| 欧美bdsm另类| АⅤ资源中文在线天堂| 欧美激情在线99| 国产精华一区二区三区| 国产精品美女特级片免费视频播放器| 色av中文字幕| 麻豆一二三区av精品| 99久久九九国产精品国产免费| 国产老妇女一区| 欧美又色又爽又黄视频| 欧美bdsm另类| 少妇的逼好多水| 91久久精品国产一区二区三区| 美女xxoo啪啪120秒动态图| 成人无遮挡网站| 成人性生交大片免费视频hd| 特大巨黑吊av在线直播| netflix在线观看网站| 一级黄色大片毛片| 欧美高清性xxxxhd video| 一本一本综合久久| 老司机福利观看| 看免费成人av毛片| 日韩中字成人| 在线观看美女被高潮喷水网站| 亚洲人成伊人成综合网2020| 亚洲aⅴ乱码一区二区在线播放| 少妇猛男粗大的猛烈进出视频 | 亚洲欧美日韩高清专用| 99热这里只有精品一区| 国产伦精品一区二区三区四那| 精品福利观看| 自拍偷自拍亚洲精品老妇| 亚州av有码| 久久精品影院6| 岛国在线免费视频观看| 亚洲av免费高清在线观看| 欧美丝袜亚洲另类 | av在线观看视频网站免费| 国产伦精品一区二区三区视频9| 99在线人妻在线中文字幕| 一区二区三区四区激情视频 | 三级男女做爰猛烈吃奶摸视频| 色在线成人网| 国产精品久久久久久精品电影| 国产精品精品国产色婷婷| 亚洲av第一区精品v没综合| 亚洲最大成人手机在线| 一级av片app| 国产在线精品亚洲第一网站| 日本成人三级电影网站| 国产真实伦视频高清在线观看 | 直男gayav资源| 一个人看视频在线观看www免费| 精品一区二区三区视频在线观看免费| 少妇丰满av| 琪琪午夜伦伦电影理论片6080| 一个人观看的视频www高清免费观看| 两人在一起打扑克的视频| 小蜜桃在线观看免费完整版高清| 亚洲专区国产一区二区| 搡老岳熟女国产| 丰满乱子伦码专区| 久久午夜福利片| 特大巨黑吊av在线直播| 色综合婷婷激情| 国产高潮美女av| 搡女人真爽免费视频火全软件 | 久久精品91蜜桃| 深夜a级毛片| АⅤ资源中文在线天堂| a在线观看视频网站| 亚洲人成网站在线播| 免费看光身美女| 精品国产三级普通话版| 深爱激情五月婷婷| 一进一出抽搐动态| 精品一区二区三区av网在线观看| 欧美绝顶高潮抽搐喷水| 亚洲 国产 在线| 久久精品综合一区二区三区| 久久午夜福利片| 亚洲av不卡在线观看| 色5月婷婷丁香| 久久欧美精品欧美久久欧美| 亚洲自偷自拍三级| 一个人观看的视频www高清免费观看| 一级av片app| 国产伦一二天堂av在线观看| av天堂在线播放| 欧美一区二区国产精品久久精品| videossex国产| 欧美成人免费av一区二区三区| 国产色婷婷99| 亚洲中文字幕日韩| 精品一区二区免费观看| 嫩草影院入口| 别揉我奶头 嗯啊视频| 老熟妇乱子伦视频在线观看| 亚洲精品成人久久久久久| 丰满乱子伦码专区| 在线免费十八禁| 国产成人a区在线观看| 麻豆成人av在线观看| 人人妻人人澡欧美一区二区| 乱人视频在线观看| bbb黄色大片| 成人综合一区亚洲| 国产熟女欧美一区二区| 一区福利在线观看| 国产黄色小视频在线观看| 午夜激情福利司机影院| 啦啦啦韩国在线观看视频| 熟女电影av网| 99热网站在线观看| 中国美女看黄片| 特大巨黑吊av在线直播| 免费av观看视频| 欧美又色又爽又黄视频| or卡值多少钱| 三级毛片av免费| 成人一区二区视频在线观看| av福利片在线观看| 草草在线视频免费看| 我要看日韩黄色一级片| 在线免费观看不下载黄p国产 | 日本色播在线视频| 偷拍熟女少妇极品色| 国产中年淑女户外野战色| 男女那种视频在线观看| 中文在线观看免费www的网站| 一个人看视频在线观看www免费| 免费看a级黄色片| 欧美一区二区国产精品久久精品| 欧美xxxx性猛交bbbb| 久久久久久久久中文| 成人av一区二区三区在线看| 国产精品一区二区三区四区久久| 美女cb高潮喷水在线观看| 国产aⅴ精品一区二区三区波| 999久久久精品免费观看国产| 九色成人免费人妻av| 国产淫片久久久久久久久| 99久久精品一区二区三区| 免费在线观看影片大全网站| 日韩欧美三级三区| 麻豆国产av国片精品| 成人欧美大片| 全区人妻精品视频| 国产精品久久久久久精品电影| 最后的刺客免费高清国语| 国产大屁股一区二区在线视频| 女同久久另类99精品国产91| 国产高清视频在线观看网站| 日本欧美国产在线视频| 免费在线观看日本一区| 嫩草影视91久久| 日韩强制内射视频| 成人性生交大片免费视频hd| 少妇的逼水好多| 久久欧美精品欧美久久欧美| 精品免费久久久久久久清纯| 久久久国产成人精品二区| 国产精品乱码一区二三区的特点| 国内揄拍国产精品人妻在线| 精品久久久久久久末码| 最近最新中文字幕大全电影3| 国产高清视频在线播放一区| 长腿黑丝高跟| aaaaa片日本免费| 久久精品国产亚洲av涩爱 | 欧美日韩亚洲国产一区二区在线观看| 日韩国内少妇激情av| 久久精品国产亚洲av涩爱 | 婷婷丁香在线五月| 12—13女人毛片做爰片一| eeuss影院久久| 有码 亚洲区| 成人鲁丝片一二三区免费| 看免费成人av毛片| 国产精品av视频在线免费观看| 男女视频在线观看网站免费| 观看免费一级毛片| 人妻夜夜爽99麻豆av| a级毛片a级免费在线| 亚洲精品456在线播放app | 亚洲av.av天堂| 成人av在线播放网站| 91狼人影院| 久久亚洲精品不卡| 久久久色成人| 日日摸夜夜添夜夜添av毛片 | 很黄的视频免费| 亚洲,欧美,日韩| 丰满的人妻完整版| 成人性生交大片免费视频hd| 国产亚洲精品av在线| 婷婷色综合大香蕉| 1024手机看黄色片| 免费无遮挡裸体视频| 少妇的逼好多水| 欧美日韩亚洲国产一区二区在线观看| 国产精品1区2区在线观看.| 国产高清视频在线观看网站| 99在线视频只有这里精品首页| 国产伦精品一区二区三区四那| 亚洲乱码一区二区免费版| 欧美在线一区亚洲| 最近最新中文字幕大全电影3| 午夜福利高清视频| 日韩欧美三级三区| 欧美丝袜亚洲另类 | 99九九线精品视频在线观看视频| 中文字幕人妻熟人妻熟丝袜美| 99国产极品粉嫩在线观看| 国产精品久久久久久av不卡| 淫妇啪啪啪对白视频| 亚洲精品在线观看二区| 中亚洲国语对白在线视频| 国产精品人妻久久久久久| 亚洲av中文av极速乱 | 久久人妻av系列| 中文亚洲av片在线观看爽| 国国产精品蜜臀av免费| 成年女人毛片免费观看观看9| 搞女人的毛片| 婷婷色综合大香蕉| 在线观看午夜福利视频| 美女被艹到高潮喷水动态| 村上凉子中文字幕在线| 99国产精品一区二区蜜桃av| 亚洲欧美激情综合另类| 白带黄色成豆腐渣| 国产精品一及| 国产淫片久久久久久久久| 韩国av一区二区三区四区| 最新中文字幕久久久久| 欧美在线一区亚洲| 亚洲在线观看片| 日韩欧美国产一区二区入口| 啪啪无遮挡十八禁网站| 联通29元200g的流量卡| 亚洲成人中文字幕在线播放| 日本欧美国产在线视频| 黄色配什么色好看| 欧美日韩中文字幕国产精品一区二区三区| av黄色大香蕉| 精品人妻1区二区| 18禁裸乳无遮挡免费网站照片| 午夜视频国产福利| 久久精品夜夜夜夜夜久久蜜豆| 男女视频在线观看网站免费| 国产成人a区在线观看| 嫩草影视91久久| 99热网站在线观看| 国产日本99.免费观看| 九九在线视频观看精品| 国国产精品蜜臀av免费| 内地一区二区视频在线| 日本免费一区二区三区高清不卡| 欧美在线一区亚洲| 亚洲av中文字字幕乱码综合| 悠悠久久av| 国产精品人妻久久久影院| 亚洲男人的天堂狠狠| 日日啪夜夜撸| 国产美女午夜福利| 国产伦精品一区二区三区视频9| 欧美又色又爽又黄视频| 亚洲最大成人av| 在线播放国产精品三级| 人人妻人人澡欧美一区二区| 欧美色视频一区免费| 黄色日韩在线| 校园人妻丝袜中文字幕| 啦啦啦观看免费观看视频高清| 久久99热这里只有精品18| 国产日本99.免费观看| 日韩中文字幕欧美一区二区| 超碰av人人做人人爽久久| 亚洲av成人精品一区久久| av国产免费在线观看| 成年人黄色毛片网站| 变态另类成人亚洲欧美熟女| 露出奶头的视频| 联通29元200g的流量卡| 日韩欧美 国产精品| 欧美xxxx黑人xx丫x性爽| 伦精品一区二区三区| 九九热线精品视视频播放| 中文字幕人妻熟人妻熟丝袜美| 久久久成人免费电影| 亚洲不卡免费看| 色噜噜av男人的天堂激情| 成年人黄色毛片网站| 亚洲中文字幕日韩| 99久久精品国产国产毛片| 国产老妇女一区| 国产伦人伦偷精品视频| 免费观看精品视频网站| 男女下面进入的视频免费午夜| 别揉我奶头~嗯~啊~动态视频| 国内精品一区二区在线观看| 欧美日韩中文字幕国产精品一区二区三区| 久久久精品大字幕| 欧美日本亚洲视频在线播放| 高清毛片免费观看视频网站| 亚洲va日本ⅴa欧美va伊人久久| 有码 亚洲区| 中文在线观看免费www的网站| 日本色播在线视频| 在线免费观看不下载黄p国产 | 床上黄色一级片| 99久国产av精品| 亚洲精品一区av在线观看| 亚洲成人久久爱视频| 99视频精品全部免费 在线| 91在线精品国自产拍蜜月| 波多野结衣巨乳人妻| 88av欧美| 中文字幕人妻熟人妻熟丝袜美| av国产免费在线观看| 亚洲欧美激情综合另类| 日本五十路高清| 国内精品久久久久久久电影| 免费观看在线日韩| 久久午夜福利片| 精品福利观看| 欧美成人性av电影在线观看| 精品久久久久久久人妻蜜臀av| 国产私拍福利视频在线观看| 蜜桃久久精品国产亚洲av| 精品久久久久久久久亚洲 | 欧美三级亚洲精品| 国产成人影院久久av| 麻豆成人av在线观看| 高清毛片免费观看视频网站| .国产精品久久| 欧美zozozo另类| 在线国产一区二区在线| 99在线人妻在线中文字幕| 又爽又黄a免费视频| 91av网一区二区| 在线免费观看不下载黄p国产 | 精品免费久久久久久久清纯| 国产精品电影一区二区三区| 香蕉av资源在线| 一卡2卡三卡四卡精品乱码亚洲| av中文乱码字幕在线| av女优亚洲男人天堂| 女同久久另类99精品国产91| 69人妻影院| 在线播放无遮挡| 国产一区二区激情短视频| 淫妇啪啪啪对白视频| 亚州av有码| 中文在线观看免费www的网站| 一区福利在线观看| 亚洲av电影不卡..在线观看| 亚洲成人精品中文字幕电影| 欧美色欧美亚洲另类二区| 人人妻,人人澡人人爽秒播| 热99re8久久精品国产| 中文字幕av成人在线电影| 国产淫片久久久久久久久| 色哟哟哟哟哟哟| 给我免费播放毛片高清在线观看| 在线天堂最新版资源| 桃红色精品国产亚洲av| 欧美日韩综合久久久久久 | 国产中年淑女户外野战色| 男人舔奶头视频| 国产精品精品国产色婷婷| 精品久久久久久久人妻蜜臀av| 天堂√8在线中文| 淫妇啪啪啪对白视频| 日韩欧美三级三区| 日韩欧美国产在线观看| 日日撸夜夜添| 十八禁国产超污无遮挡网站| 亚洲18禁久久av| 啦啦啦韩国在线观看视频| 久久久精品欧美日韩精品| 尾随美女入室| 国内毛片毛片毛片毛片毛片| 亚洲国产日韩欧美精品在线观看| 乱人视频在线观看| av在线亚洲专区| 观看美女的网站| 两性午夜刺激爽爽歪歪视频在线观看| 欧美性感艳星| 亚洲国产日韩欧美精品在线观看| 乱人视频在线观看| 亚洲无线观看免费| 一级毛片久久久久久久久女| 欧美激情国产日韩精品一区| 少妇裸体淫交视频免费看高清| 伦精品一区二区三区| 天美传媒精品一区二区| 国产免费男女视频| 天天躁日日操中文字幕| .国产精品久久| 国产亚洲av嫩草精品影院| 亚洲成人久久性| 国产中年淑女户外野战色| 欧美日本亚洲视频在线播放| 中出人妻视频一区二区| 在线观看一区二区三区| 尤物成人国产欧美一区二区三区| 97超视频在线观看视频| 国产伦精品一区二区三区四那| 亚洲最大成人av| 内射极品少妇av片p| 91在线精品国自产拍蜜月| 亚洲av五月六月丁香网| 亚洲精品久久国产高清桃花| 色哟哟哟哟哟哟| 午夜激情福利司机影院| 亚洲自拍偷在线|